خطر پنهان در عکسهای آنلاین / هوش مصنوعی آنچه را شما نمیبینید، میبیند!
به گزارش کارگروه فناوری اطلاعات سایبربان ، پژوهشگران دانشگاه آکسفورد هشدار دادهاند که تصاویر سادهای مثل والپیپر، عکسهای شبکههای اجتماعی یا حتی فایلهای پیدیاف میتوانند حاوی «دستورهای پنهان» باشند. این دستورها که برای چشم انسان ناپیدا هستند، توسط عاملهای هوش مصنوعی خوانده میشوند. یعنی یک تصویر معمولی میتواند مانند یک تله عمل کند و هوش مصنوعی را وادار به اجرای دستورات مخرب از باز کردن یک وبسایت گرفته تا سرقت اطلاعات حساس کند.
عاملهای هوش مصنوعی
عاملهای هوش مصنوعی یا AI Agents نرمافزارهایی هستند که فراتر از یک چتبات کار میکنند. آنها میتوانند روی رایانه کاربر کارهایی مثل کلیک کردن روی دکمهها، باز کردن فایلها یا مرور صفحات وب را انجام دهند. همین توانایی باعث میشود در معرض خطر حمله قرار گیرند.
محققان توضیح میدهند که کافی است بخش کوچکی از پیکسلهای یک تصویر تغییر کند. این تغییر برای چشم انسان تقریبا نامحسوس است، اما برای مدلهای هوش مصنوعی یک «پیام رمزگذاریشده» به حساب میآید.
بهعنوان مثال، اگر کاربر یک تصویر آلوده را بهعنوان والپیپر تنظیم کند، عامل هوش مصنوعی آن دستور پنهان را میبیند. این دستور میتواند عامل را مجبور کند کاری انجام دهد که کاربر هرگز آن را مجوز نداده است. کاری مثل دانلود فایل مخرب یا ارسال رمزهای عبور که در نهایت حریم خصوصی کاربر را نقض میکند.
ویژگیهای زیر این حمله سایبری را در دسته حملات خطرناک قرار میدهد.
پنهان بودن حمله: کاربر هیچ تفاوتی در تصویر نمیبیند. همهچیز عادی به نظر میرسد.
ماندگاری دستور: حتی اگر تصویر تغییر اندازه داده شود یا فشردهسازی شود، دستور پنهان همچنان باقی میماند.
رشد عاملهای هوش مصنوعی: هرچه استفاده از این نرمافزارها بیشتر شود، فرصت مهاجمان هم افزایش مییابد.
باید نگران باشیم؟
پژوهشگران تاکید میکنند که این حملات هنوز در دنیای واقعی مشاهده نشدهاند و فعلا فقط در محیط آزمایشگاهی اثبات شدهاند. علاوه بر این، کاربرانی که از عاملهای هوش مصنوعی استفاده نمیکنند، در معرض خطر مستقیم نیستند.
پژوهش تازه دانشگاه آکسفورد هشداری جدی درباره آینده امنیت سایبری است. در دنیایی که عاملهای هوش مصنوعی هر روز بیشتر به کارهای روزمره ما نفوذ میکنند، حتی یک تصویر ساده میتواند دروازهای برای حملات پنهانی باشد.
به نظر میرسد که دوران جدیدی از جنگ سایبری آغاز شده است. جنگی که در آن نه ویروسها و بدافزارهای شناختهشده، بلکه تصاویر عادی اینترنتی میتوانند به ابزار نفوذ بدل شوند.
