به گزارش کارگروه حملات سایبری خبرگزاری سایبربان، این حملات در چارچوب کلاهبرداری ایمیلی تجاری (BEC) قرار می‌گیرند؛ روشی که در آن مهاجمان با جعل هویت مدیران یا شرکای تجاری، کارکنان شرکت را برای انتقال پول متقاعد می‌کنند.
به گفته مایکروسافت، استفاده از هوش مصنوعی باعث شده مهاجمان بتوانند قالب‌های ایمیل خود را بهبود دهند و پیام‌هایی متناسب با گیرندگان مشخص تولید کنند.
یکی از ویژگی‌های جدید این حملات، ترکیب چندین روش فریب در یک ایمیل است.
پژوهشگران مایکروسافت در اوایل ماه اوت کارزاری را شناسایی کردند که شامل بیش از یک میلیون ایمیل بود و عمدتاً کاربران آمریکایی را هدف قرار می‌داد؛ به‌طوری که حدود ۸۸ درصد قربانیان احتمالی در آمریکا قرار داشتند.
مهاجمان با استفاده از چند سرویس شخص ثالث، خود را به‌جای مدیران ارشد شرکت‌ها جا می‌زدند و از واحدهای پرداخت و حسابداری می‌خواستند مبالغی نزدیک به ۵۰ هزار دلار را به حساب‌های جعلی منتقل کنند.
برای افزایش اعتبار پیام‌ها، مهاجمان یک زنجیره ایمیلی جعلی را نیز به پیام اضافه کرده بودند که ظاهراً میان مدیرعامل شرکت و شرکت سرویس‌ناو (ServiceNow)، یک پلتفرم ابری برای خودکارسازی فرایندهای سازمانی، ردوبدل شده بود.
در این مکاتبات ساختگی، مدیرعامل جعلی فاکتورهایی را که ظاهراً از سرویس‌ناو دریافت کرده بود، برای ادامه روند پرداخت ارسال می‌کرد.
خود سرویس‌ناو نیز در این حمله جعل هویت شده بود.
مایکروسافت اعلام کرد برخلاف کلاهبرداری‌های فاکتوری سنتی که معمولاً بر یک روش مهندسی اجتماعی متکی هستند، این کارزار چندین عنصر فریب از جمله جعل هویت مدیران، استفاده از نام و نشان تجاری فروشندگان، فاکتورهای جعلی و مکالمات ایمیلی ساختگی را در قالب یک روایت واحد ترکیب کرده بود تا احتمال شک کردن قربانیان کاهش یابد.
پژوهشگران همچنین نشانه‌هایی را مشاهده کردند که با استفاده از هوش مصنوعی در طراحی قالب‌های ایمیل سازگار بود؛ از جمله توضیحات گسترده در کدهای اچ‌تی‌ام‌ال (HTML)، برچسب‌گذاری منظم بخش‌های مختلف و ساختار بسیار یکنواخت قالب‌ها.
با این حال، مایکروسافت تأکید کرد شواهد موجود به‌تنهایی نمی‌تواند میزان تولید محتوای این کارزار توسط هوش مصنوعی را به‌طور قطعی مشخص کند.
نیک تاوسک، معمار ارشد خودکارسازی امنیت در شرکت سویم‌لین (Swimlane)، گفت مهاجمان با استفاده از هوش مصنوعی، روش‌های قدیمی کلاهبرداری را پیچیده‌تر و قابل‌گسترش‌تر کرده‌اند.
به گفته او، سازوکارهای امنیتی نیز باید با این واقعیت سازگار شوند و خطر استفاده مهاجمان از مدل‌های هوش مصنوعی برای تولید انبوه محتوای فریبنده را جدی‌تر بگیرند.
