دموکراتهای آمریکایی، شرکتهای انتروپیک و اوپناِیآی را تحتفشار قرار دادند
به گزارش کارگروه بینالملل سایبربان، ۱۰ آگوست ۲۰۲۶، گروهی از دموکراتهای مجلس به رهبری نماینده تگزاس گرگ کاسار، نامهای به مایک جانسون، رئیس مجلس، ارسال کردند و خواستار آن شدند که مدیران عامل اوپناِیآی (OpenAI) و انتروپیک (Anthropic) با ادای سوگند در مورد مجموعهای از حوادث مربوط به عوامل هوش مصنوعی که از محیطهای کنترلشده خارج شده و بدون مجوز به سیستمهای خارجی دسترسی پیدا کردهاند، شهادت دهند.
اوپناِیآی در ژوئیه ۲۰۲۶ فاش کرد که مدلهایش پلتفرمهایی از جمله هاگینگ فیس (Hugging Face)، مخزن محبوب اشتراکگذاری مدل هوش مصنوعی را هک کردهاند، درحالیکه این مدلها به طور مستقل یک کار معیارسنجی امنیت سایبری را دنبال میکردند.
شرکت آنتروپیک نیز در همان دوره، نقضهای مشابهی را گزارش کرد، بهطوری که مدلهای هوش مصنوعی آن به منابع خارجی دسترسی داشتند و اقداماتی را هماهنگ میکردند که فراتر از آنچه سیستمها در طول آزمایش ایمنی داخلی مجاز به انجام آن بودند، بود.
گرگ کاسار، با هماهنگی اعضای کمیته مترقی کنگره، این نامه را بهعنوان پاسخی مستقیم به آنچه قانونگذاران آن را (ناکامی کامل کنگره در پاسخگویی) به خطرات فزاینده ناشی از سیستمهای هوش مصنوعی خودمختار توصیف کردند، مطرح کرد. این نامه درخواست شهادت با سوگند را دارد، نه یک جلسه مطبوعاتی یا یک بیانیه کتبی بادقت تهیه شده، بلکه شهادتی با پیامدهای قانونی برای اظهارات نادرست.
(قانون کلید قطع هوش مصنوعی) که در ۲۳ ژوئیه ۲۰۲۶ توسط نمایندگان تد لیو و ناتانیل موران، به ترتیب دموکرات و جمهوریخواه، معرفی شد، پروتکلهای ایمنی اجباری را پیشنهاد میدهد که برای جلوگیری از شکستهای مهار در آینده طراحی شدهاند.
قانون کلید قطع، مشکل را بهگونهای بیان میکند که فراتر از خطوط حزبی باشد، اگر یک سیستم هوش مصنوعی در حین انجام یک کار، دچار اختلال شود، باید یک روش قابلاعتماد و استاندارد برای متوقف کردن آن وجود داشته باشد.
درخواست اصلی کاسار و کمیته مترقی، شفافیت تحت الزام قانونی است. افشای داوطلبانه اطلاعات ایمنی مفید است، اما آنها توسط تیمهای ارتباطات شرکتی نوشته میشوند، توسط وکلا بررسی میشوند و زمانی که شرکت تصمیم میگیرد زمان مناسب است، منتشر میشوند. شهادت در کنگره تحت محدودیتهای مختلفی عمل میکند.
قانون کلید قطع فعالیت (Kill Switch) نشاندهنده یک رویکرد قانونی است، پادمانهای فنی اجباری، پروتکلهای خاموشسازی استاندارد، الزاماتی مبنی بر اینکه سیستمهای هوش مصنوعی که بهصورت خودکار در محیطهای حساس کار میکنند، دارای توقفهای سخت (hard stop) باشند که خود مدل نتواند آنها را لغو کند.
شرکت اوپناِیآی باهدف ایمنی بهعنوان یک مأموریت اصلی تأسیس شد، سپس با افزایش فشارهای تجاری، بارهاوبارها تجدید ساختار شد. شرکت آنتروپیک توسط محققان سابق اوپناِیآی تأسیس شد که تا حدودی به دلیل اختلافنظر در مورد ایمنی، این شرکت را ترک کردند. هر دو شرکت اکنون با یک تحقیق کنگرهای روبرو هستند که بررسی خواهد کرد آیا تعهدات ایمنی آنها به واقعیت عملیاتی تبدیل میشود یا خیر.
