به گزارش کارگروه تروریسم سایبری سایبربان؛ طبق تحقیقات انجام شده توسط نشریه آمریکایی «Effort»، حوادث امنیت سایبری مربوط به مدلهای هوش مصنوعی توسعهیافته توسط آنتروپیک (Anthropic)، «OpenAI» و مِتا، به دلیل نقصهای امنیتی در محیطهای آزمایشی تحت مدیریت «Irregular»، شرکت پیمانکار امنیت سایبری مستقر در تلآویو، رخ داده است، نه رفتار خودکار سیستمهای هوش مصنوعی.
تحقیقات نشان داد که Irregular در طول تمرینات شبیهسازیشده امنیت سایبری، اتصالات اینترنت را فعال نگه داشته و به مدلهای هوش مصنوعی اجازه داده = تا به سرورهای خارجی دسترسی یابند، بستههای نرمافزاری مخرب را منتشر و از آسیبپذیریها در خارج از محیطهای آزمایشی مورد نظر سوءاستفاده کنند.
به گفته Effort، ارزیابان همچنین به اشتباه به مدلهای هوش مصنوعی گفتهاند که دسترسی به اینترنت غیرفعال شده است، در حالی که خطاهای پیکربندی، اتصالات به شبکههای عمومی را در دسترس نگه داشتهاند.
همچنین، طبق گزارشها، محیطهای آزمایشی فاقد مرزهای مشخص و واضحی بودند که مشخص کند مدلهای هوش مصنوعی مجاز به هدف قرار دادن کدام سیستمها هستند.
در نتیجه، طبق تحقیقات، برخی نمونههای مدل توانستند تا ۳۴ ساعت شبکههای خارجی را اسکن کنند.
نشریه آمریکایی Efort گفت:
«طبق یافتههای خودشان، آنتروپیک و Irregular تمام مسئولیت حوادث امنیت سایبری ایجاد شده را بر عهده دارند.»
تحقیقات بیشتر نشان داد که فعالیت هک گزارششده پس از آنکه مهندسان به مدلهای هوش مصنوعی دستور دادند که حملاتی علیه سیستمهای دنیای واقعی انجام ندهند، متوقف شد.
این نشریه اظهار داشت که این حوادث در درجه اول نتیجه کاستیهای امنیتی اساسی و محیطهای آزمایش ناکافی کنترلشده بودهاند، نه اینکه مدلهای هوش مصنوعی بهطور مستقل تصمیم به انجام حملات سایبری در دنیای واقعی بگیرند.
این یافتهها نگرانیهایی را در مورد نحوه ارزیابی سیستمهای هوش مصنوعی در محیطهای امنیت سایبری، بهویژه هنگامی که به مدلها در طول آزمایش دسترسی به شبکههای خارجی یا زیرساختهای بالقوه حساس داده میشود، برجسته میکند.
حوادث همچنین بر اهمیت ایزوله کردن محیطهای آزمایش و ایجاد محدودیتهای فنی صریح در مورد آنچه سیستمهای هوش مصنوعی میتوانند در طول ارزیابیهای امنیتی به آن دسترسی داشته باشند یا هدف قرار دهند، تأکید میکند.
