به گزارش کارگروه بینالملل سایبربان؛ با نفوذ عمیقتر هوش مصنوعی در محیط کار، کسبوکارهای آفریقای جنوبی با نسل جدیدی از تهدیدات امنیت سایبری مواجه هستند و تحقیقات جدید نشان میدهد که تقریباً دو سوم کارمندان معتقدند که ممکن است توسط کلاهبرداری تولید شده توسط هوش مصنوعی فریب بخورند.
این یافتهها که توسط شرکت امنیت نیروی کار دیجیتال «KnowBe4» منتشر شده، خطرات رو به رشد ناشی از فناوری دیپفیک و استفاده گسترده از ابزارهای هوش مصنوعی تأیید نشده در سازمانها را برجسته میکند.
طبق این گزارش، 86 درصد از کارمندان آفریقای جنوبی معتقدند که محتوای صوتی و تصویری تولید شده توسط هوش مصنوعی آنقدر واقعگرایانه شده که دیگر نمیدانند به چه اطلاعاتی میتوانند اعتماد کنند. در عین حال، ۶۳ درصد اعتراف کردند که بعید است حمله دیپفیک را در محیط کار تشخیص دهند.
این مطالعه همچنین نشان داد که پذیرش هوش مصنوعی از نظارت شرکتی پیشی گرفته است.
تقریباً دو سوم یا ۶۴ درصد از سازمانهای آفریقای جنوبی گزارش دادند که هوش مصنوعی بدون نظارت یا تأیید مناسب مورد استفاده قرار میگیرد و چیزی را ایجاد میکند که گزارش آن را هوش مصنوعی سایه توصیف میکند، جایی که سیستمهای هوش مصنوعی غیرمجاز بدون نظارت سازمانی عمل میکنند.
طبق این گزارش، ۳۸ درصد از رهبران امنیت سایبری آفریقای جنوبی گفتهاند که عوامل هوش مصنوعی مستقل در حال حاضر وظایف خود را به طور مستقل در گردشهای کاری تجاری انجام میدهند؛ با این حال، بسیاری از سازمانها هنوز ساختارهای مدیریتی لازم برای مدیریت ایمن این فناوری را ایجاد نکردهاند.
آنا کولارد (Anna Collard)، معاون ارشد استراتژی محتوا و مشاور مدیر ارشد امنیت اطلاعات در KnowBe4 در آفریقا، هشدار داد که سازمانها در حال ورود به مرحله جدیدی از امنیت سایبری هستند که در آن هم کارمندان و هم سیستمهای هوش مصنوعی به اهداف بالقوه تبدیل شدهاند.
کولارد گفت:
«امنیت سایبری وارد مرحلهای ناپایدار شده که در آن سازمانها در تلاش هستند تا نیروی کار ترکیبی انسان و هوش مصنوعی را که سریعتر از رهبران امنیتی در حال تغییر است، تأمین کنند.»
مهاجمان با سرعت ماشین حرکت میکنند و از حملاتی مانند جعل عمیق برای هدف قرار دادن کارمندان و تزریقهای سریع برای ربودن عوامل هوش مصنوعی استفاده میکنند. رها کردن بیش از نیمی، یعنی ۶4 درصد، از استفاده هوش مصنوعی شرکتی شما بدون نظارت، دعوتی گسترده برای عوامل تهدید است.
این تحقیق به رفتار انسان به عنوان یکی از بزرگترین آسیبپذیریها اشاره میکند.
بیش از شش مورد از هر ده نفر از رهبران امنیت سایبری، یا ۶۲ درصد، گزارش دادند که اشتباهاتی که در طول کار روزمره انجام شده، بیشترین تأثیر را بر امنیت سایبری سازمانهایشان در طول سال گذشته داشته است.
کارمندان خود نیز این چالش را تصدیق کردند. تقریباً ۶۰ درصد اعتراف کردند که حواسپرتیهای محل کار و فشارهای زمانی اغلب باعث میشود که آنها اشتباهات امنیتی مرتکب شوند، حتی زمانی که رویههای صحیح را میدانند.
این گزارش همچنین بر محبوبیت روزافزون ابزارهای غیررسمی هوش مصنوعی در محل کار تأکید کرد.
بیش از یک سوم کارمندان، یا ۳۵ درصد، اعتراف کردند که اگر گزینههای تأیید شده در دسترس نباشند یا خیلی محدودکننده باشند، برنامههای هوش مصنوعی خود را تهیه میکنند.
در عین حال، ۴۸ درصد از رهبران امنیت سایبری گفتند که استفاده از نرمافزارها و برنامههای هوش مصنوعی غیرمجاز در ۱۲ ماه گذشته بر وضعیت امنیتی سازمانهایشان تأثیر منفی گذاشته است.
با وجود این چالشها، گزارش نشان داد که بسیاری از مشاغل شروع به بهبود تابآوری سایبری خود کردهاند. در حالی که ۶۴ درصد از سازمانها پیشرفتهای متوسطی را در بلوغ امنیت سایبری خود گزارش کردهاند، تنها ۱۴ درصد به آنچه KnowBe4 به عنوان استاندارد طلایی توصیف میکند، دست یافتهاند که در آن سازمانها استراتژیهای کاملاً یکپارچهای برای مدیریت خطرات سایبری مرتبط با انسان و هوش مصنوعی دارند.
کمتر از نیمی از رهبران امنیت سایبری، تنها ۴۶ درصد، عنوان کردند که برای مقابله با تهدیدات نوظهور مبتنی بر هوش مصنوعی در سال آینده، آمادگی بسیار خوبی دارند.
این گزارش همچنین نشان داد سازمانهایی که به قویترین نتایج امنیت سایبری دست یافتند، سازمانهایی بودند که امنیت را در فرهنگ محل کار خود جای داده بودند، نه اینکه آن را صرفاً به عنوان یک عملکرد فناوری در نظر بگیرند.
در میان این سازمانها، ۹۵ درصد از کارمندان گفتند که در گزارش اشتباهات بدون ترس از سرزنش، احساس راحتی و به کسبوکارها کمک میکنند تا تهدیدات را سریعتر شناسایی و به آنها پاسخ دهند.
کولارد گفت که ایجاد یک فرهنگ امنیتی قویتر با توجه به ادامه تغییر محیطهای کاری توسط هوش مصنوعی، ضروری خواهد بود.
این گزارش نشان داد که سازمانها باید سیستمهایی را طراحی کنند که رفتار ایمن را تشویق، فرهنگهای حمایتی در محل کار ایجاد و فراتر از اندازهگیری شکستهای کارکنان، به جای تقویت شیوههای امنیتی مثبت در بین کارمندان انسانی و سیستمهای هوش مصنوعی، عمل کنند.
از آنجایی که هوش مصنوعی به طور فزایندهای به بخش رایجی از عملیات روزانه کسب و کار تبدیل میشود، یافتهها نشان میدهد که سازمانهای آفریقای جنوبی نه تنها در مدیریت خود فناوری، بلکه در اطمینان از اینکه کارمندان میدانند چگونه از آن به طور ایمن و مسئولانه استفاده کنند، با چالش رو به رشدی روبرو هستند.
