نگرانی اوپن‌اِی‌آی از عامل هوش مصنوعی مخرب

به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت اوپن‌اِی‌آی (OpenAI) فاش کرد که مدل‌های هوش مصنوعی که تحت ارزیابی امنیت سایبری داخلی قرار دارند، از یک محیط آزمایشی محدود خارج شده و سیستم‌های تولیدی تحت مدیریت هاگینگ فیس (Hugging Face) را به خطر انداخته‌اند.

این حادثه شامل ترکیبی از (GPT-5.6 Sol) و یک مدل پیش انتشار توانمند بود که برخی از اقدامات حفاظتی سایبری در آن کاهش‌یافته بود تا محققان بتوانند حداکثر قابلیت‌های تهاجمی خود را اندازه‌گیری کنند. 

به مدل‌ها دستور داده شد تا وظایف پیشرفته بهره‌برداری را در معیار (ExploitGym) حل کنند.

در حین پیگیری این هدف، آنها یک آسیب‌پذیری ناشناخته قبلی را در نرم‌افزاری که توسط اوپن‌اِی‌آی برای پروکسی و ذخیره رجیستری‌های بسته استفاده می‌شد، شناسایی کردند.

مدل‌ها از این آسیب‌پذیری برای دسترسی به اینترنت سوءاستفاده کردند، امتیازات را در محیط تحقیقاتی اوپن‌اِی‌آی افزایش دادند و (Hugging Face) را به‌عنوان منبع احتمالی مدل‌های معیار، مجموعه‌داده‌ها و راه‌حل‌ها شناسایی کردند.

اوپن‌اِی‌آی اعلام کرد که سپس مدل‌ها اعتبارنامه‌های سرقت شده و آسیب‌پذیری‌های ناشناخته قبلی را برای دسترسی از راه دور به سرورهای (Hugging Face) و بازیابی اطلاعات از پایگاه‌داده تولیدی خود ترکیب کردند.  

(Hugging Face) این فعالیت را شناسایی و مهار کرد. این شرکت دسترسی غیرمجاز به تعداد محدودی از مجموعه‌داده‌های داخلی و چندین اعتبارنامه سرویس را شناسایی کرد، درحالی‌که همچنان به ارزیابی اینکه آیا داده‌های مشتری یا شریک تحت‌تأثیر قرار گرفته است یا خیر، ادامه می‌دهد.

این شرکت هیچ مدرکی مبنی بر تغییر مدل‌های عمومی، مجموعه‌داده‌ها، فضاها یا زنجیره تأمین نرم‌افزار خود پیدا نکرد.

اوپن‌اِی‌آی این رویداد را یک حادثه سایبری بی‌سابقه توصیف کرد و گفت:

 در حال تقویت مهار، نظارت و کنترل دسترسی در مورد ارزیابی‌های مدل‌های آینده هستیم.

هر دو شرکت در حال انجام تحقیقات قانونی هستند و آسیب‌پذیری‌های شناسایی شده را برطرف کرده‌اند.