انتقاد کارشناسان از گزارش مبهم ایرگیولار درباره حملات سایبری هوش مصنوعی
به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، در این حوادث، مدلهای هوش مصنوعی توانستند از محیط آزمایش خارج شده و به سامانههای واقعی در اینترنت دسترسی پیدا کنند.
ایرگیولار روز جمعه اعلام کرد که «یافتههای کلیدی» تحقیقات داخلی خود را منتشر کرده است، اما گزارش جدید اطلاعات قابلتوجهی فراتر از افشاگریهای قبلی ارائه نمیکند و حتی تعداد دقیق حوادث را مشخص نکرده است.
پیشتر سه آزمایشگاه بزرگ هوش مصنوعی، اوپن ای آی (OpenAI)، آنتروپیک (Anthropic) و متا (Meta)، اعلام کرده بودند که مدلهایشان در جریان آزمایشهای ایرگیولار به اینترنت عمومی دسترسی پیدا کرده و به شبکههای متعلق به اشخاص ثالث حمله کردهاند.
هر سه شرکت، نوعی «پیکربندی نادرست محیط آزمایش» را عامل این اتفاقات دانسته بودند.
ایرگیولار در گزارش جدید نیز از عباراتی مانند «چند مورد»، «تعدادی محدود» و «اکثریت قریببهاتفاق» استفاده کرده و از ارائه آمار دقیق خودداری کرده است.
این شرکت استدلال میکند که حوادث اعلامشده در واقع از یک سناریوی ارزیابی مشترک ناشی شدهاند و بنابراین نباید آنها را حوادث مستقل در نظر گرفت.
آلن وودوارد، استاد علوم رایانه دانشگاه ساری، این استدلال را رد کرده و گزارش را فاقد ویژگیهای یک گزارش فنی واقعی دانسته است.
به گفته او، «ریشه مشترک» به معنای «یک حادثه واحد» نیست و ایرگیولار با استفاده از ابهام در واژهها، مسئله اصلی را پنهان کرده است.
آنتروپیک پیشتر سه حادثه را گزارش کرده بود: مدلی به دلیل تشابه نام یک هدف واقعی با هدفی خیالی به یک شرکت واقعی حمله کرد؛ حادثهای در زنجیره تأمین Python Package Index رخ داد؛ و در موردی دیگر، مدل هزاران هدف را اسکن و سپس از یک آسیبپذیری تزریق SQL (SQL Injection) در یک شرکت واقعی سوءاستفاده کرد.
متا و اوپن ای آی نیز هرکدام یک مورد نفوذ مدلهایشان به شرکتهای واقعی در جریان آزمایشهای ایرگیولار را تأیید کردهاند.
منتقدان همچنین به تناقضهایی در گزارش درباره نظارت انسانی اشاره کردهاند.
ایرگیولار از یک سو میگوید حجم بالای فعالیت مدلها بررسی دستی را دشوار میکند، اما از سوی دیگر، افزایش نظارت دستی را یکی از اقدامات اصلی امنیتی خود معرفی کرده است.
کارشناسان همچنین نبود تاریخ دقیق حوادث، مسئول مشخص برای اقدامات اصلاحی و معیارهای قابل راستیآزمایی مستقل را از نقاط ضعف گزارش میدانند.
ایرگیولار اعلام کرده که در حال تکمیل ممیزی خود است و قصد دارد در آینده یک مقاله سفید درباره بهترین شیوههای امنیتی در ارزیابی مدلهای هوش مصنوعی منتشر کند.
با این حال، مشخص نیست آیا اشخاص ثالث آسیبدیده از این حوادث مطلع شدهاند یا نهادهای قانونی و نظارتی در جریان قرار گرفتهاند.
این حوادث در حالی توجه بیشتری به خود جلب کردهاند که کارشناسان درباره نحوه گزارشدهی شرکتهای هوش مصنوعی از شکستهای سازوکارهای مهار و کنترل مدلها در جریان آزمایشهای امنیتی ابراز نگرانی کردهاند.
