به گزارش کارگروه فناوری اطلاعات سایبربان ؛ دانشمندان هوش مصنوعی که برنده جایزه تورینگ امسال شدند نسبت به خطرات هوش مصنوعی و اولویت داشتن سود بر ایمنی برای شرکتهای فعال در این حوزه هشدار دادند.
جایزه تورینگ هر ساله به کسانی که سهم قابلتوجهی در توسعه علوم کامپیوتر داشتهاند اهدا میشوند. این جایزه امسال به «اندرو بارتو»، محقق دانشگاه ماساچوست و «ریچارد ساتون»، دانشمند تحقیقاتی سابق دیپمایند گوگل اهدا شده است. این دانشمندان اما از این فرصت استفاده کردهاند تا نسبت به خطرات هوش مصنوعی هشدار دهند.
برندگان جایزه تورینگ هم نسبت به خطرات هوش مصنوعی نگراناند
بر اساس گزارش فایننشال تایمز، این دانشمندان هشدار دادهاند که شرکتهای هوش مصنوعی قبل از عرضه یک محصول به بازار آن را به طور کامل آزمایش نمیکنند. برندگان جایزه تورینگ امسال این فرایند را به ساخت یک پل و امتحان کردن ایمنی آن با استفاده از مردم تشبیه کردهاند.
از جایزه تورینگ بهعنوان «جایزه نوبل محاسبات» یاد میشوند و برندگان آن مبلغ ۱ میلیون دلار پاداش دریافت میکنند. جایزه تورینگ امسال برای توسعه روش یادگیری تقویتی به اندرو بارتو ریچارد ساتون اهدا شد. این روش یادگیری ماشینی روی آموزش سیستمهای هوش مصنوعی از طریق آزمونوخطا متمرکز است. به گفته «جف دین»، معاون ارشد گوگل، این روش «نقطه پیشرفت هوش مصنوعی» و یکی از ستونهای اصلی رونق آن است که منجر به ساخت محصولاتی مانند ChatGPT یا هوش مصنوعی AlphaGo گوگل شده.
اندرو بارتو در مصاحبه خود گفت: «انتشار یک نرمافزار برای میلیونها نفر بدون درنظرگرفتن موارد ایمنی روش مهندسی خوبی نیست. روشهای مهندسی برای کاهش پیامدهای منفی فناوری تکامل یافتهاند و من این موضوع را در شرکتهای درحالتوسعه نمیبینم.»
بارتو همچنین گفت که شرکتهای فعال در این حوزه بجای تمرکز بر پیشرفت تحقیقات هوش مصنوعی، انگیزههای تجاری را در اولویت قرار دادهاند. «جفری هینتون» که از او بهعنوان پدرخوانده هوش مصنوعی یاد میشود نیز پیشازاین نسبت به توسعه ناایمن این فناوری هشدار داده بود.
