چرا هوش مصنوعی بشریت را تهدید می‌کند؟

به گزارش کارگروه فناوری اطلاعات سایبربان ؛ جفری هینتون، دانشمند ارشد هوش مصنوعی در شرکت گوگل که به عنوان پدرخوانده علم هوش مصنوعی نیز شناخته می‌شود، با بیان این که این ایده که ابزار‌هایی بتوانند روزی باهوش‌تر از انسان شوند، قبلاً دور از ذهن بود؛ پس از استعفا از سمت خود در فروردین نسبت به خطرات هوش مصنوعی هشدار داد و از فعالیت خود در زمینه تقویت این ابزار اظهار پشیمانی کرد.

هوش مصنوعی مولد به گونه‌ای در حال توسعه است که حتی متخصصان این بخش از توسعه آن و این که در آینده نزدیک چه خواهد شد، هراس دارند.

نظرسنجی از کارشناسان هوش مصنوعی که در سال جاری انجام شد، نشان داد که ۳۶ درصد از این نگرانند که توسعه هوش مصنوعی می‌تواند منجر به فاجعه‌ای بزرگ در حد یک فاجعه هسته‌ای شود.

نزدیک به ۲۸۰۰۰ نفر نامه سرگشاده‌ای را امضا کردند که توسط مؤسسه Future of Life ارائه شده بود. این نامه شامل اسامی استیو وزنیاک، ایلان ماسک و مدیران اجرایی چندین شرکت هوش مصنوعی به همراه تعدادی دیگر از فناوران برجسته بود که خواستار توفق شش ماهه فرآیند توسعه هوش مصنوعی شده بودند.

اما چرا این همه اضطراب در محافل فنی در قبال توسعه هوش مصنوعی وجود دارد؟ 

مسئله اصلی توسعه بسیار سریع "ربات‌های چت" پیشرفته مبتنی بر هوش مصنوعی مولد، یا به اصطلاح "مدل‌های زبانی بزرگ" (LLMs) است.

هوش مصنوعی و این ربات‌ها می‌توانند بدون دخالت انسان، خودشان را بهبود بخشند و توسعه دهند و این کار را به همان روشی انجام خواهند داد که هوش مصنوعی AlphaZero از Google یاد گرفت که چگونه شطرنج را حتی از بهترین شطرنج‌بازان تنها در ۹ ساعت بازی کند. 

تیمی از محققان مایکروسافت که برنامه هوش مصنوعی GPT-۴ OpenAI را تجزیه و تحلیل کرده اند، گفتند که این برنامه "جرقه‌های هوش عمومی پیشرفته" را دارد؛ به این معنی که در شرف ورود به مرحله خطرناک و تکامل است.

عملکرد هوش مصنوعی در آزمون GPT-۴، از ۹۰ درصد از افراد شرکت کننده در آزمون وکالت Uniform Bar، یک آزمون استاندارد شده برای تأیید وکیل جدید بهتر بوده است؛ در حالی که این نسبت در نسخه قبلی GPT-۳.۵، فقط ۱۰ درصد بوده است.

این سرعت تغییر دلیلی است که هینتون، پدر هوش مصنوعی نسبت به آن ابراز نگرانی کرده و به نیویورک تایمز گفت: "ببینید که وضعیت عملکرد هوش مصنوعی ۵ سال پیش چگونه بوده و اکنون چگونه است. این واقعاً ترسناک است. "

در جلسه استماع سنا در اواسط مه در مورد پتانسیل هوش مصنوعی، سام آلتمن، رئیس OpenAI، گفت که ساماندهی استفاده از هوش مصنوعی "مهم و ضروری" است.

هوش مصنوعی عمومی AGI قادر خواهد بود در حدود یک ثانیه، کاری را انجام دهد که یک تیم متشکل از ۱۰۰ مهندس نرم افزار انسانی یک سال یا بیشتر برای تکمیل آن نیاز دارند.

علاوه بر این می‌تواند کار‌های خارق العاده‌ای را در زمانی کوتاه انجام دهد؛ مثلا می‌تواند یک هواپیمای پیشرفته یا سیستم تسلیحانی جدید را طراحی کند.

هنگامی که سیستم‌های هوش مصنوعی در ربات‌ها جاسازی شوند، قادر خواهند بود در دنیای واقعی عمل کنند و ربات‌های فوق العاده باشند.

همچنین آن‌ها به جای این که بتوانند فقط در دنیای مجازی (الکترونیکی) فعال باشند، خواهند توانست در دنیای واقعی با همان درجه از هوش فوق العاده فعالیت کنند؛ کما این که می‌توانند با سرعت شگفت‌انگیزی خود را بهبود بخشند و کنترل آن خارج از حیطه عملکر بشر خواهد بود.

در برابر این موجودات فرابشری که ساخته دست خود بشر است، چه دفاع یا حفاظتی وجود خواهد داشت؟ هر سیستم دفاعی به راحتی توسط هوش مصنوعی مهار می‌شود؛ یعنی این ماشین‌ها به مرحله‌ای می‌رسند که بسیار قوی‌تر و باهوش‌تر از مخترعان خود خواهند بود.