به گزارش کارگروه فناوری اطلاعات سایبربان؛ آژانس حفاظت از دادههای اسپانیا (AEPD) از وقوع حملهای مطلع شد که گفته میشود توسط یک عامل هوش مصنوعی مبتنی بر یک مدل زبانی بزرگ (LLM) شناختهشده انجام شده است.
سازمان گزارشدهنده اعلام کرد که این عامل هوش مصنوعی به جستجوی نقصهای امنیتی پرداخته، وارد سیستمهای آنها شده و سپس برنامههای کاربردی را برای یافتن مشکلات امنیتی بیشتر بررسی کرده است. در مراحل پایانی حمله، این عامل دادههای شخصی را تغییر داده و به اسناد مالی دسترسی پیدا کرده است.
اگرچه این آژانس اسپانیایی هنوز تحقیقات خود را درباره این حادثه تکمیل و اطلاعات را تأیید نکرده است، اما آژانس حفاظت از دادهها اعلام کرد که طبق این گزارش، نشت دادههای مرتبط با هوش مصنوعی دیگر صرفاً یک مسئله نظری نیست.
آژانس حفاظت از دادههای اسپانیا تصریح کرد:
«عامل مهاجم جستجو برای یافتن آسیبپذیریها در فایلهای عمومی را آغاز کرد و موفق به ورود به سیستم شد. پس از دسترسی به سیستم، این عامل بهطور خودکار شروع به جستجوی آسیبپذیریها در برنامه کاربردی کرد. پس از یافتن آنها، توانست دادههای شخصی را تغییر دهد و به صورتحسابها دسترسی پیدا کند.»
آژانس تأکید کرد که هوش مصنوعی تهدیدهای جدیدی ایجاد نمیکند، اما میتواند سرعت، مقیاس و قابلیت انطباق حملات سایبری را افزایش و همچنین حاشیه زمانی پاسخگویی مدافعان را کاهش دهد؛ تغییری بنیادین که اخیراً توسط مرکز ملی رمزنگاری این کشور مورد توجه قرار گرفته است.
این گزارش نشاندهنده تغییری در رویکرد مدیریت ریسک است که باید بهطور صریح حملات با کمک هوش مصنوعی و حملات هدایتشده توسط هوش مصنوعی را در نظر بگیرد، زیرا اتوماسیون میتواند بر احتمال وقوع، سرعت و دامنه یک حادثه تأثیر بگذارد.
همچنین رویههای مربوط به زمان پاسخگویی باید بازنگری شوند، چرا که اقداماتی که برای مقابله با حملات دستی طراحی شدهاند، ممکن است در برابر عاملهایی که بهطور همزمان داراییها را تحلیل میکنند، روشهای دسترسی را میآزمایند و رفتار خود را تطبیق میدهند، ناکافی باشند.
آژانس حفاظت از دادههای اسپانیا بر اهمیت تقویت امنیت هویت دیجیتال و اعتبارنامهها (credentials) تأکید کرد، زیرا عاملهای هوش مصنوعی میتوانند از حسابهای کاربریِ در معرض خطر، کلیدهای رابط برنامهنویسی کاربردی (API) یا توکنهایی با دسترسیهای بیشازحد مجاز استفاده کنند تا با سرعتی معادل سرعت ماشین به چندین سرویس دسترسی یابند.
دیگر مداخله دستی کافی نیست و نظارت انسانی باید با مکانیسمهای سریع تشخیص، مهار و پاسخگویی پشتیبانی شود.
این آژانس اسپانیایی هشدار داد:
«ورود عاملهای هوش مصنوعی به عرصه حملات سایبری باید منجر به بازنگری فوری در مدلهای امنیتی و حفاظت از دادهها شود.»
حتی اگر آژانس تأیید کند که در نشت دادههای گزارششده از هوش مصنوعی خودمختار استفاده شده، اما این امر لزوماً به معنای به خطر افتادن مدلِ عاملِ حمله یا زیرساخت ارائهدهنده آن نیست و اینکه آن مدل برای تسهیل عملیات سایبری مخرب طراحی شده است.
اخیراً فعالیتهای تهاجمیِ مبتنی بر عاملهای هوش مصنوعی در عملیاتهای سایبری در مقیاس بزرگ گزارش شده است. عاملهای هوش مصنوعی «OpenAI» از محیط آزمایشگاهی خارج شدند و نفوذی هماهنگشده را به زیرساخت عملیاتی (Production) شرکت «Hugging Face» ترتیب دادند.
عوامل تهدید از سیستمهای چندعاملی گوگل جمینای (Google Gemini) برای شناسایی آسیبپذیریها و سرقت انبوه اطلاعات کاربری، و از مدل کلود آنتروپیک (Anthropic) برای اسکن ۱.۸ میلیون اپلیکیشن اندرویدی جهت یافتن اطلاعات حساس (مانند کلیدهای دسترسی) باقیمانده در کدها، استفاده کردند.
