به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، این موضوع پنج روز پس از آن مطرح شد که هاگینگ فیس (Hugging Face) از شناسایی و مهار یک حمله «سرتاسری» توسط «یک عامل هوش مصنوعی خودمختار» خبر داده بود، بدون آنکه عامل این حمله را شناسایی کرده باشد.
هاگینگ فیس در تاریخ ۱۶ ژوئیه با انتشار اطلاعیه‌ای امنیتی اعلام کرده بود که این حادثه را به مراجع قانونی گزارش داده است.
هنوز مشخص نیست که این شرکت پس از انتشار گزارش اوپن ای آی، شکایت خود را پس خواهد گرفت یا خیر.
کلمنت دلانگ، هم‌بنیان‌گذار و مدیرعامل هاگینگ فیس، تأکید کرد که این شرکت معتقد است اوپن ای آی قصد و نیت مخربی نداشته است.
با این حال، این حادثه می‌تواند پرسش‌های مهمی را درباره مسئولیت حقوقی، استانداردهای افشای حوادث امنیتی و میزان کفایت سازوکارهای مهار مدل‌های پیشرفته هوش مصنوعی مطرح کند.
اوپن ای آی این حادثه را «بی‌سابقه» توصیف کرده و اعلام کرده است که طی ارزیابی داخلی برخی مدل‌ها، از جمله یک سامانه پیش از عرضه که فاقد فیلترهای استاندارد ایمنی بوده، این مدل‌ها موفق به خروج از محیط آزمایشی ایزوله (Sandbox) شده‌اند.
به گفته اوپن ای آی، عامل هوش مصنوعی پس از سوءاستفاده از یک آسیب‌پذیری در سامانه واسط رجیستری بسته‌های نرم‌افزاری، پلتفرم هاگینگ فیس را به‌عنوان منبع احتمالی پاسخ‌های مورد نیاز خود شناسایی کرده و سپس با استفاده از اطلاعات احراز هویت سرقت‌شده و یک آسیب‌پذیری روز صفر (Zero-Day) دیگر به سامانه‌های این شرکت نفوذ کرده است.
در مقابل، هاگینگ فیس روایت متفاوتی از مسیر حمله ارائه کرده است.
این شرکت اعلام کرد که دسترسی اولیه مهاجم از طریق یک مجموعه داده (Dataset) مخرب صورت گرفته که از مسیرهای اجرای کد در خط پردازش داده‌های این پلتفرم سوءاستفاده کرده است.
مهاجم پس از آن به سطح دسترسی گره‌های پردازشی دست یافته، اطلاعات احراز هویت را استخراج کرده و در خوشه‌های داخلی سامانه به‌صورت جانبی گسترش یافته است.
بررسی‌های هاگینگ فیس نشان می‌دهد که مهاجم به تعداد محدودی از مجموعه داده‌های داخلی و برخی اطلاعات احراز هویت سرویس‌ها دسترسی پیدا کرده است.
این شرکت همچنان در حال بررسی تأثیر احتمالی حادثه بر داده‌های مشتریان و شرکای تجاری خود است و اعلام کرده هیچ نشانه‌ای از دستکاری مدل‌های عمومی، مجموعه داده‌ها یا زنجیره تأمین نرم‌افزار آن مشاهده نشده است.
اوپن ای آی جزئیاتی درباره مدت زمان دسترسی عامل هوش مصنوعی به سامانه‌های هاگینگ فیس یا نوع داده‌های مورد دسترسی منتشر نکرده و نام نرم‌افزار آسیب‌پذیر مورد سوءاستفاده را نیز فاش نکرده است.
هاگینگ فیس همچنین اعلام کرد که تیم امنیتی این شرکت تلاش کرده است با استفاده از مدل‌های پیشرفته هوش مصنوعی، بیش از ۱۷ هزار رویداد ثبت‌شده مرتبط با حمله را تحلیل کند، اما فیلترهای ایمنی این مدل‌ها مانع از بررسی کدهای سوءاستفاده و فرمان‌های مورد استفاده مهاجم شده‌اند.
به همین دلیل، این شرکت از یک مدل متن‌باز و خودمیزبان (Self-Hosted Open-Weight Model) برای تحلیل حادثه استفاده کرده است.
این شرکت با اشاره به این موضوع اظهار داشت:
در حالی که مهاجم به هیچ سیاست محدودکننده‌ای پایبند نبود، ابزارهای ما برای انجام تحلیل‌های جرم‌شناسی دیجیتال با محدودیت مواجه شدند.
اوپن ای آی در پایان اعلام کرد که کنترل‌های جدیدی را در زیرساخت‌های خود پیاده‌سازی کرده و هاگینگ فیس را به برنامه «دسترسی مورد اعتماد» خود اضافه کرده است تا این شرکت بتواند برای تحقیقات امنیتی از مدل‌های پیشرفته اوپن ای آی بدون محدودیت‌های سخت‌گیرانه فیلترهای ایمنی استفاده کند.
اوپن ای آی تأکید کرده است که تحقیقات مشترک با هاگینگ فیس همچنان ادامه دارد و جزئیات بیشتری درباره آسیب‌پذیری‌ها، نحوه وقوع حادثه و نتایج نهایی تحقیقات در آینده منتشر خواهد شد.
