به گزارش کارگروه امنیت خبرگزاری سایبربان، بارگوری نشان داد که چگونه این ضعفها میتوانند توسط مجرمان سایبری برای فعالیتهای مخرب مورد سوءاستفاده قرار گیرند.
این یافتهها بر ضرورت اجرای روشهای امنیتی قوی توسط سازمانها و آموزش کارکنان درباره خطرات احتمالی مرتبط با ابزارهای هوش مصنوعی مانند کوپایلوت (Copilot) تأکید میکند.
بارگوری چندین استراتژی را که مهاجمان میتوانند برای سوءاستفاده از کوپایلوت در حملات سایبری به کار ببرند، تشریح کرد.
یکی از افشاگریهای مهم، امکان سوءاستفاده از افزونههای کوپایلوت برای نصب دربهای پشتی (backdoors) در تعاملات سایر کاربران بود.
این امر میتواند به سرقت دادهها و تسهیل حملات مهندسی اجتماعی مبتنی بر هوش مصنوعی منجر شود، که ابعاد جدیدی از تهدیدات امنیت سایبری را به نمایش میگذارد.
بارگوری نشان داد که هکرها میتوانند از قابلیتهای کوپایلوت برای جستجو و استخراج مخفیانه دادههای حساس سوءاستفاده کنند.
این روش از تدابیر امنیتی سنتی که بر حفاظت از فایلها و دادهها متمرکز است، عبور میکند.
این فرآیند شامل تغییر رفتار کوپایلوت از طریق تزریق دستورات (prompt injections) است که پاسخهای هوش مصنوعی را به نفع اهداف هکر تغییر میدهد و تلاشهای امنیت سایبری را پیچیدهتر میکند.
مایکروسافت، کوپایلوت را برای سادهسازی وظایف با ادغام آن در برنامههای مایکروسافت ۳۶۵ (Microsoft 365) توسعه داد.
با این حال، بارگوری نشان داد که چگونه این ویژگی میتواند برای فعالیتهای مخرب مورد سوءاستفاده قرار گیرد.
او هشدار داد که این ابزار میتواند حملات مهندسی اجتماعی مبتنی بر هوش مصنوعی را تسهیل کند، به گونهای که هکرها بتوانند از کوپایلوت برای ایجاد ایمیلهای فیشینگ متقاعدکننده یا دستکاری تعاملات استفاده کنند و کاربران را به منظور افشای اطلاعات محرمانه فریب دهند.
برای نشان دادن این آسیبپذیریها، بارگوری ابزار رد تیمینگ (red-teaming) به نام ال او ال کوپایلوت (LOLCopilot) را به نمایش گذاشت.
این ابزار برای هکرهای اخلاقی طراحی شده است تا حملات را شبیهسازی کرده و تهدیدات احتمالی ناشی از کوپایلوت را کاهش دهند.
ال او ال کوپایلوت در هر فضای کاری مجهز به کوپایلوت مایکروسافت ۳۶۵ با پیکربندیهای پیشفرض عمل میکند و به هکرهای اخلاقی اجازه میدهد بدون باقی گذاشتن ردپا در لاگهای سیستمی، نحوه سوءاستفاده از کوپایلوت برای استخراج دادهها و حملات سایبری را تحلیل کنند.
نمایش بارگوری نشان داد که تنظیمات امنیتی پیشفرض کوپایلوت برای جلوگیری از چنین سوءاستفادههایی کافی نیست.
توانایی این ابزار در دسترسی و پردازش حجم زیادی از دادهها، خطر بزرگی را به همراه دارد، بهویژه اگر مجوزها به دقت مدیریت نشوند.
