تشکیل نهاد بین‌المللی برای نظارت بر هوش مصنوعی پیشرفته

این پیشنهاد یک ماه پس از آن مطرح می‌شود که شرکت‌های Anthropic، OpenAI، گوگل، متا، xAI و انویدیا توافق‌نامه‌ای را با کاخ سفید امضا کردند که آن‌ها را به رعایت تدابیر ایمنی داوطلبانه بدون هیچ‌گونه سازوکار اجرایی رسمی تعهد می‌سازد.

این نامه همچنین به دنبال مجموعه‌ای از حوادث منتشر شده است که به گفته محققان، نقاط ضعف در نحوه آزمایش و مهار سیستم‌های پیشرفته هوش مصنوعی را آشکار می‌کند، از جمله مواردی که مدل‌های هوش مصنوعی از محیط‌های فاقد سندباکس کافی عبور کرده و سیستم‌های خارجی را به خطر انداخته‌اند.

امضاکنندگان از ۳۴ کشور گفتند سازمان‌هایی که مدل‌های سایبری را توسعه می‌دهند یا آزمایش می‌کنند، باید فوراً استانداردهای مهار با اطمینان بالا را اتخاذ کنند، درحالی‌که دولت‌ها برای ایجاد یک رژیم نظارتی رسمی‌تر تلاش می‌کنند.

سیاست‌گذاران به طور فزاینده‌ای در مورد چگونگی نظارت بر سیستم‌های پیشرفته هوش مصنوعی بحث می‌کنند. هنا ویرکونن، رئیس فناوری اتحادیه اروپا گفت که قانون هوش مصنوعی این بلوک برای مقابله با خطرات ناشی از سیستم‌های هوش مصنوعی سرکش کافی است.

دولت ترامپ ممنوعیت خود را بر آزمایشگاه‌های ایالات متحده لغو کرد و به مؤسسه امنیت هوش مصنوعی بریتانیا دسترسی زودهنگام به مدل‌ها برای آزمایش ایمنی را داد.

هینتون و بنجیو جایزه تورینگ سال ۲۰۱۸ را به طور مشترک با یان لکان از شرکت متا که او نیز از پژوهشگران برجسته هوش مصنوعی است، دریافت کردند. لکان این نامه را امضا نکرد و ادعا کرد که حوادث امنیتی اخیر، بیش از آنکه نشان‌دهنده خطرات وجودی ناشی از هوش مصنوعی باشند، بازتاب‌دهنده نقص‌های مهندسی هستند.