خداحافظ جعبه سیاه

گروهی از محققان بین المللی، سال گذشته به هوش مصنوعی، مهارت استدلال و اشاره به شواهد را در زمان تصمیم گیری آموزش دادند. اکنون که جعبه سیاه در معرض دید قرار گرفته، به معضلی بزرگ تبدیل شده است.

یکی از دغدغه های حوزه هوش مصنوعی، درک دلیل تصمیم گیری شبکه عصبی است. مشکل جعبه سیاه همانگونه که از نامش پیداست، ما را از اعتماد به هوش مصنوعی دور می کند.

اعضای گروه یاد شده از محققان دانشکده انفورماتیک دانشگاه آمستردام و مرکز پژوهش فیسبوک بودند. تحقیقات جدید بر اساس فعالیت پیشین انجام می شود اما این بار به هوش مصنوعی چند ترفند جدید آموزش داده خواهد شد.

همانند بشر، این فناوری با استدلال روی شواهد، قابلیت پاسخگویی به سوالات را دارد و از طریق متن می تواند نحوه تحلیل سند را تشریح کند. فناوری یاد شده به گونه ای طراحی شد که سوالات رده سنی کودک 9 ساله را پاسخ دهد.

طبق برگه سفیدی که محققان این پروژه اخیرا منتشر کردند، این اولین باری است که سامانه ای با قابلیت توضیح دادن در مورد خود، به دو روش متفاوت تولید می شود.

نمونه ارائه شده توانایی تصمیم گیری به صورت طبیعی و اشاره به شواهد را در تصویر دارد.

محققان، هوش مصنوعی را برای پاسخگویی سوالات ساده در رابطه با تصاویر ایجاد کردند. این فناوری توانایی شرح اشیا و اعمال را در تصاویر دارد. به علاوه، هوش مصنوعی می تواند با توصیف و برجسته سازی قسمت های مرتبط، پاسخ سوالات را توضیح می دهد.