به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، جمینای (Gemini) در یکی از موارد با تلاش مکرر برای حدس زدن رمز عبور و در دو مورد دیگر با استفاده از اطلاعات احراز هویتی افشاشده در یک مخزن عمومی موفق به دسترسی شده است.
گوگل اعلام کرده شرکتهای آسیبدیده از این رخدادها مطلع شدهاند، اما نام آنها منتشر نشده است.
سخنگوی گوگل گفت جمینای در جریان یک ارزیابی استاندارد، اطلاعات عمومی موجود در اینترنت را پیدا کرده و با حدس زدن اطلاعات ورود، به وبسایتهایی دسترسی پیدا کرده که تصور میکرد بخشی از محیط آزمایش هستند.
به گفته او، مدل در هر سه مورد پس از دسترسی متوقف شده است.
این رخدادها نخستین بار توسط والاستریت ژورنال گزارش شد و جدیدترین نمونه از مواردی است که در جریان ارزیابیهای امنیتی شرکت ایرگیولار (Irregular)، مدلهای هوش مصنوعی به سامانههای واقعی نفوذ کردهاند.
ایرگیولار پیشتر آزمایشهایی را نیز با مدلهای آنتروپیک (Anthropic)، اوپن ای آی (OpenAI) و متا (Meta) انجام داده بود که در آنها اتفاقات مشابهی رخ داد.
در ماه اوت، ایرگیولار اعلام نکرد که آیا شرکتهای دیگری نیز به دلیل یک خطای پیکربندی که باعث دسترسی ابزارهای هوش مصنوعی به اینترنت عمومی در جریان یک تمرین هکری شده بود، تحت تأثیر قرار گرفتهاند یا خیر.
همچنین مشخص نیست آیا در نتیجه این خطا حملات دیگری رخ داده، سازمانهای آسیبدیده قصد اقدام قانونی دارند یا نهادهای نظارتی و مجریان قانون در حال بررسی موضوع هستند.
انتشار گزارش پس از حادثه (postmortem) توسط ایرگیولار نیز با انتقادهایی روبهرو شد، زیرا تعداد کل رخدادها را اعلام نکرده بود.
آلن وودوارد، استاد علوم رایانه دانشگاه ساری، این گزارش را فاقد ویژگیهای یک گزارش فنی کامل دانست و گفت بخش قابلتوجهی از آن دارای رویکرد بازاریابی بوده است.
ایرگیولار اعلام کرده قصد دارد در آینده یک مقاله سفید (white paper) درباره بهترین روشهای تأمین امنیت ارزیابیهای هوش مصنوعی منتشر کند.
این رخدادها از دو مورد اخیر دیگر که در آنها دستیارهای هوش مصنوعی (AI agent) علیه اهداف واقعی اقدام کردهاند، جدا هستند.
مؤسسه امنیت هوش مصنوعی (AI Security Institute) بریتانیا گزارش داده مدل میتوس 5 (Mythos 5) شرکت آنتروپیک در یک ارزیابی با دسترسی به اینترنت، شخصیتهای جعلی آنلاین ایجاد کرده، کد مخرب را در یک پروژه نرمافزاری واقعی قرار داده و برای توسعهدهندگان واقعی ایمیلهای فیشینگ ارسال کرده است.
اوپن ای آی نیز پیشتر تأیید کرده بود مدلهایش پس از خروج از یک محیط آزمایشی سندباکسد (sandboxed)، به زیرساخت عملیاتی هاگینگ فیس (Hugging Face) نفوذ کردهاند.
تفاوت این مورد با حوادث ایرگیولار در این است که در آنجا مشکل ناشی از پیکربندی نادرست محیط آزمایش بود، اما مدلهای اوپن ای آی از یک آسیبپذیری برای فرار از محیط ایزوله استفاده کرده بودند.
