افزایش حوادث امنیتی در هوش مصنوعی

به گزارش کارگروه فناوری اطلاعات سایبربان، گزارش شرکت آی‌بی‌ام (IBM)در مورد هزینه نقض داده‌ها در سال ۲۰۲۵، شکاف شدیدی را بین پذیرش سریع هوش مصنوعی و نظارت لازم برای ایمن‌سازی آن نشان داد.

اگرچه میانگین هزینه نقض داده‌ها در سطح جهانی اندکی به ۴.۴۴ میلیون دلار کاهش یافت، اما حوادث امنیتی مربوط به سیستم‌های هوش مصنوعی همچنان شدیدتر و مخرب‌تر هستند.

حدود ۱۳٪ از سازمان‌ها، نقض‌هایی را گزارش کردند که مربوط به مدل‌ها یا برنامه‌های هوش مصنوعی بود، درحالی‌که ۸٪ مطمئن نبودند که آیا در معرض خطر هستند یا خیر.

به طرز نگران‌کننده‌ای، تقریباً تمام نقض‌های مربوط به هوش مصنوعی بدون کنترل دسترسی رخ‌داده است که در ۶۰٪ موارد منجر به نشت داده‌ها و تقریباً در یک‌سوم موارد منجر به اختلال عملیاتی شده است. هوش مصنوعی سایه (سیستم‌های بدون مجوز یا مدیریت نشده) نقش‌محوری داشت و از هر پنج نقض، یک مورد به آن مربوط می‌شد.

سازمان‌هایی که سیاست‌های حاکمیتی هوش مصنوعی یا سیستم‌های تشخیص نداشتند، با هزینه‌های بسیار بالاتری مواجه شدند، به‌ویژه هنگامی که اطلاعات شخصی یا مالکیت معنوی قابل‌شناسایی در معرض خطر قرار می‌گرفت.

مهاجمان به طور فزاینده‌ای از ابزارهای هوش مصنوعی مانند جعل عمیق و فیشینگ استفاده می‌کردند، به‌طوری‌که ۱۶٪ از نقض‌های موردمطالعه شامل تهدیدات با کمک هوش مصنوعی بود.

بخش بهداشت و درمان با میانگین هزینه نقض امنیتی ۷.۴۲ میلیون دلار و طولانی‌ترین زمان بازیابی ۲۷۹ روز، همچنان پرهزینه‌ترین بخش باقی ماند.

باوجود خطرات، سازمان‌های کمتری قصد دارند در امنیت پس از نقض امنیتی سرمایه‌گذاری کنند. تنها ۴۹٪ قصد تقویت دفاع را دارند که نسبت به ۶۳٪ سال گذشته کاهش‌یافته است.

حتی تعداد کمتری ابزارهای امنیتی مبتنی بر هوش مصنوعی را در اولویت قرار خواهند داد.

 باتوجه‌به اینکه بسیاری از سازمان‌ها هزینه‌ها را نیز به مصرف‌کنندگان منتقل می‌کنند، بازیابی اکنون اغلب شامل پیامدهای مالی و اعتباری بلندمدت است، نه فقط بازیابی سیستم‌ها.