به گزارش کارگروه فناوری اطلاعات سایبربان، طبق گزارش سالانه امنیت هوش مصنوعی ۲۰۲۶ شرکت چک پوینت ریسرچ (Check Point Research)، هوش مصنوعی فراتر از کمک به مجرمان سایبری، شروع به انجام حملات سایبری زنده کرده است.
عملیات سایبری مبتنی بر هوش مصنوعی وارد مرحله جدیدی می‌شوند که در آن سیستم‌های هوش مصنوعی می‌توانند بخش‌هایی از یک حمله را اجرا کنند، نه اینکه صرفاً به مهاجمان در نوشتن کد، تحقیق در مورد اهداف یا آماده‌سازی کمپین‌های فیشینگ کمک کنند. این تغییر می‌تواند عملیات سایبری را سریع‌تر و کمتر وابسته به نظارت مداوم انسان کند.
شرکت چک پوینت مشاهده کرده است هوش مصنوعی در طول حوادثی از کمپین‌های مرتبط با چین گرفته تا نقض مجرمانه‌ای که چندین سازمان دولتی مکزیک را تحت تأثیر قرار داده است، وظایف عملی انجام می‌دهد. به گفته این شرکت، این قابلیت‌ها فراتر از بازیگران تحت حمایت دولت به مجرمان سایبری با انگیزه مالی در حال گسترش است.
همچنین از هوش مصنوعی برای ایجاد بدافزارهای آماده برای استقرار و چارچوب‌های تهاجمی استفاده می‌شود. طبق گزارش‌ها، یک توسعه‌دهنده از یک محیط کدنویسی هوش مصنوعی برای ساخت (VoidLink)، یک چارچوب فرمان و کنترل ۸۸ هزار خطی، در کمتر از یک هفته استفاده کرده است. شرکت چک پوینت خاطرنشان کرد که شناسایی دخالت هوش مصنوعی پس از استقرار ابزار نهایی ممکن است دشوار باشد.
بر اساس این گزارش، مهاجمان به طور فزاینده‌ای مدل‌های تجاری هوش مصنوعی را به جایگزین‌های خود-میزبان ترجیح می‌دهند. برخی به جای تکیه صرف بر دستورالعمل‌های فرار، با قرار دادن فایل‌های پیکربندی که عوامل هوش مصنوعی همچنان در چندین جلسه به آنها اعتماد دارند، معماری‌های عامل را هدف قرار می‌دهند.
بازار پشتیبانی از حملات سایبری هوش مصنوعی نیز در حال تثبیت شدن است. چک پوینت محصولات فیشینگ به عنوان سرویس را شناسایی کرد که مدل‌های زبانی را با دور زدن محدودیت‌های داخلی تعبیه می‌کنند، در کنار سرویس‌های عامل صوتی مکالمه‌ای که برای ویشینگ و سرقت رمز عبور یکبار مصرف استفاده می‌شوند.
این گزارش هشدار می‌دهد که هویت‌های مصنوعی سیگنال‌های اعتماد سنتی را تضعیف می‌کنند. تقلیدهای متقاعدکننده از صداها، چهره‌ها، اسناد هویتی و ویدیوی زنده اکنون می‌توانند در چندین کانال ترکیب شوند و عملیات مهندسی اجتماعی را هماهنگ‌تر و تشخیص آنها را دشوارتر کنند.
خود سیستم‌های هوش مصنوعی نیز به عنوان یک سطح حمله مهم در حال ظهور هستند. مدل‌ها ممکن است در تشخیص دستورالعمل‌ها از محتوایی که پردازش می‌کنند، مشکل داشته باشند و به مهاجمان اجازه می‌دهند تا عوامل هوش مصنوعی را از طریق فایل‌های مخرب، صفحات وب و سایر منابع داده خارجی دستکاری کنند.
تزریق غیرمستقیم به عنوان یکی از مهمترین تهدیدات برای سیستم‌های هوش مصنوعی در حال ظهور است. چک پوینت اعلام کرد که شناسایی بدافزارهای مخرب طولانی‌تر بین مارس و مه ۲۰۲۶ تقریباً پنج برابر افزایش یافته و به نزدیک به ۱٪ از پیام‌های مشاهده‌شده رسیده است. پیام‌های طولانی‌تر معمولاً با مسیرهای حمله مبتنی بر محتوا و عامل مرتبط هستند.
نشت داده‌های سازمانی از طریق هوش مصنوعی مولد نیز همچنان یک نگرانی رو به رشد است. سهم پیام‌های طبقه‌بندی‌شده به عنوان پرخطر از ۲٪ به ۴٪ نسبت به سال قبل دو برابر شده است، در حالی که سازمان‌ها به طور متوسط هر ماه از ده برنامه هوش مصنوعی استفاده می‌کردند، از جمله ابزارهایی که تأیید رسمی دریافت نکرده بودند.
میزان قرار گرفتن در معرض این بدافزارها بر اساس بخش به طور قابل توجهی متفاوت بود. خدمات تجاری بالاترین میزان پیام‌های پرخطر هوش مصنوعی مولد را با ۵.۹۱٪ ثبت کردند، به این معنی که تقریباً از هر ۱۷ تعامل، یک مورد خطر قابل توجهی برای افشای اطلاعات حساس داشت.
این یافته‌ها نشان می‌دهد که سازمان‌ها باید برای تهدیدات از دو جهت آماده باشند: دشمنانی که از هوش مصنوعی برای خودکارسازی عملیات سایبری استفاده می‌کنند و کارمندان یا سیستم‌های هوش مصنوعی که داده‌های حساس را از طریق اتخاذ ناامن افشا می‌کنند.
