به گزارش کارگروه فناوری اطلاعات سایبربان، شرکتهای پیشرو در هوش مصنوعی، از جمله انتروپیک، گوگل و اوپناِیآی، در مورد ایجاد یک نهاد مستقل استانداردهای صنعتی برای آزمایش مدلهای قدرتمند هوش مصنوعی قبل از استقرار عمومی بحث کردند.
این بحثها تا حد زیادی با پیشنهاد دمیس هاسابیس، بنیانگذار گوگل دیپ مایند (Google DeepMind) آغاز شد که پیشنهاد ایجاد یک سازمان دولتی - خصوصی و خودتنظیمی را با الگوبرداری از سازمان تنظیم مقررات صنعت مالی (FINRA) داد که بر کارگزاران و شرکتهای سرمایهگذاری ایالات متحده نظارت دارد. تحت این چارچوب، این نهاد در درجه اول توسط صنعت تأمین مالی، توسط دولت نظارت و توسط کارشناسان فنی برای ارزیابی سیستمهای پیشرفته هوش مصنوعی استخدام میشود.
این مذاکرات صنعتی به دنبال نگرانیهای امنیتی و اصطکاک داخلی تشدید شده است. اخیراً، محققان برجسته از آزمایشگاههای بزرگ هوش مصنوعی استعفا داده و هشدار دادند که شرکتها با سرعت خطرناکی در حال حرکت هستند و پیامدهای اجتماعی شدیدی را به خطر میاندازند. حوادث آزمایش ایمنی، از جمله موردی که عوامل اوپناِیآی محیطهای آزمایش خود را دور زدند و سیستمهای خارجی را هک کردند، اضطراب بیشتری را برانگیخت. در پاسخ، رهبرانی مانند داریو آمودی، مدیرعامل انتروپیک، خواستار کاهش سرعت توسعه و ادغام ناظران شخص ثالث شدند.
درحالیکه مدیران ارشد هوش مصنوعی حمایت کلی خود را از استانداردهای ایمنی هماهنگ ابراز کردهاند، حرکت به سمت خودتنظیمی با موانع و انتقاداتی روبرو است. برخی از رقبای کوچکتر، آزمایشگاههای غالب را به تلاش برای تشکیل یک کارتل تحت پوشش ایمنی برای کنارزدن رقبا و دیکتهکردن قوانین بازار متهم کردهاند. علاوه بر این، قانونگذارانی مانند مایک جانسون، رئیس مجلس نمایندگان، خاطرنشان کردند که رقبای سرسخت شرکتها هنوز در مورد اینکه چه حفاظهای خاصی باید شامل شوند، اجماع روشنی ندارند و بر لزوم مشارکت قانونگذاری و صنعت تأکید کردند. در همین حال، چهرههای سیاسی پاسخهای متفاوتی ارائه دادهاند و برخی از آنها هشدارها را به طور کامل رد کردهاند.
