هوش مصنوعی می‌تواند بشریت را نابود کند

به گزارش کارگروه فناوری اطلاعات سایبربان، مدیر اجرایی سابق گوگل هشدار داد که اگر رشد هوش مصنوعی کنترل نشود، احتمال دارد بشریت را از بین ببرد.

این مدیر اجرایی سابق گوگل در کنفرانس Ai4 در لاس‌وگاس، احتمال چنین نتیجه‌ای را 10 تا 20 درصد تخمین زد و از رویکرد رهبران فناوری انتقاد کرد.

او استدلال کرد که تلاش‌ها برای «تسلط» انسان‌ها بر هوش مصنوعی، زمانی که سیستم‌ها از سازندگان خود باهوش‌تر شوند، شکست خواهد خورد.

 به گفته جفری هینتون، هوش مصنوعی قدرتمند ناگزیر اهدافی مانند بقا و کنترل را توسعه خواهد داد و مهار نفوذ آن را برای مردم به طور فزاینده‌ای دشوار خواهد کرد.

جفری هینتون گفت:

 سیستم‌های هوش مصنوعی ممکن است انسان‌ها را به همان راحتی که یک بزرگسال می‌تواند یک کودک را بازی دهد، بازی دهند.

او پیشنهاد داد که به هوش مصنوعی «غرایز مادرانه» داده شود تا از فاجعه جلوگیری شود تا این فناوری واقعاً به رفاه انسان اهمیت دهد.

جفری هینتون که اغلب به‌خاطر کارهای پیشگامانه‌اش در شبکه‌های عصبی «پدرخوانده هوش مصنوعی» نامیده می‌شود، هشدار داد که جامعه بدون تعبیه چنین حفاظ‌هایی، در معرض خطر ایجاد موجوداتی است که در نهایت از ما پیشی می‌گیرند و بر ما غلبه می‌کنند.