به گزارش کارگروه تروریسم سایبری سایبربان؛ بیش از ۱۰۰ شرکت از بزرگترین شرکتهای فناوری، امنیت سایبری و مالی جهان هشدار دادند که توسعه سریع هوش مصنوعی میتواند قابلیتهای سایبری پیشرفته را ارزانتر و در دسترستر کند و به طور بالقوه موج جدیدی از حملات علیه زیرساختهای حیاتی را ایجاد نماید.
با این حال، برای بانکها، بیمارستانها و شرکتهای مخابراتی در سرزمینهای اشغالی، این هشدار زمانی مطرح شد که کل رویکرد آنها به دفاع سایبری به سرعت در حال تغییر است.
جنگ طولانیمدت و افزایش حملات سایبری علیه اسرائیل، برخی از حساسترین سازمانهای این رژیم را مجبور به ارزیابی مجدد زیرساختهای محاسباتی خود کرد. مؤسساتی که زمانی با احتیاط و گاهی اوقات با سوءظن کامل به محاسبات ابری نگاه میکردند، اکنون با سؤال متفاوتی روبرو هستند: «چگونه از دادهها محافظت کنند و چگونه وقتی خود سیستمها هدف قرار میگیرند، به فعالیت خود ادامه دهند؟!»
در کنار باجافزار، سرقت دادهها و تلاشهای جاسوسی، سازمانهای اسرائیلی در سالهای اخیر با عملیاتهای مرتبط با هکرهای دولتی و سایر گروههای دارای منابع خوب مواجه بودهاند. هوش مصنوعی اکنون میتواند به مهاجمان اجازه دهد سریعتر، با هزینه کمتر و در مقیاس بسیار بزرگتری کار کنند.
تغییر معادله به کمک هوش مصنوعی
به گفته محققان، مرز بین هوش مصنوعی به عنوان دستیار و هوش مصنوعی به عنوان سیستمی که قادر به انجام مستقل بخشهایی از یک حمله است، چقدر سریع در حال محو شدن است.
در ماه ژوئیه سال جاری، «OpenAI» فاش کرد که در طول آزمایش امنیتی، عوامل هوش مصنوعی آن موفق شدند بدون مجوز از محیط آزمایش خارج شوند و به سیستمهای متعلق به «Hugging Face» دسترسی پیدا کنند. آنتروپیک (Anthropic) نیز مواردی را گزارش کرد که در آن عوامل کلود (Claude) به سیستمهای دنیای واقعی دسترسی پیدا کردند که قرار نبود بخشی از آزمایشها باشند.
در همان زمان، شرکت امنیت سایبری اسرائیلی سیگنیا (Sygnia) در ماه ژوئیه حملهای را فاش کرد که در آن یک مهاجم از هوش مصنوعی برای انجام زنجیرهای طولانی از اقدامات در داخل یک محیط ابری شرکتی استفاده کرد.
به گفته سیگنیا، مهاجم به یک آسیبپذیری جدید یا ابزار هک غیرمعمول متکی نبود. چیزی که این حادثه را متفاوت میکرد، سرعت بود: هوش مصنوعی به اتصال تکنیکهای آشنا، تطبیق آنها با محیط و حرکت به جلو با سرعتی کمک کرد که مدافعان را برای همگام شدن با آن دشوار میکرد.
این یکی از نگرانیهای اصلی پیرامون هوش مصنوعی در امنیت سایبری است؛ این فناوری برای خطرناک شدن نیازی به اختراع حملات کاملاً جدید ندارد. ممکن است برای سریعتر، ارزانتر و آسانتر کردن مقیاسپذیری حملات موجود کافی باشد.
وظایفی که زمانی به تیمهای ماهر و ساعات طولانی کار نیاز داشتند، میتوانند به طور فزایندهای خودکار شوند و همزمان علیه تعداد زیادی از اهداف انجام شوند.
سالها، یکی از سؤالات اصلی پیش روی مدیران فناوری اطلاعات و امنیت در بانکها، شرکتهای بیمه و بیمارستانها این بود که آیا اطلاعات حساس باید اصلاً از سازمان خارج شوند یا خیر. سروری که به صورت فیزیکی در ساختمان قرار دارد، اغلب به عنوان گزینه امنتر و محافظهکارانهتر در نظر گرفته میشد.
تغییر این محاسبه با جنگ و افزایش تهدیدات سایبری
به گفته کارشناسان، یک سرور محلی ممکن است به یک سازمان کنترل مستقیمتری بر زیرساختهای خود بدهد، اما این لزوماً آن را ایمنتر نمیکند. یک نقص فنی جدی، آسیب فیزیکی به یک سایت، حمله باجافزاری یا نفوذ عمیق به شبکه میتواند به سرعت از یک حادثه امنیتی به یک تعطیلی کامل عملیاتی تبدیل شود.
رونن گبای (Ronen Gabay)، مدیرعامل و بنیانگذار «UBTECH»، گفت:
«در گذشته، مدیران وقتی مرکز داده از نظر فیزیکی یک طبقه پایینتر از آنها بود، احساس امنیت میکردند. جنگ و هکرهای تحت حمایت دولت این توهم را از بین بردند. یکی از مزایای محیطهای ابری در چنین سناریوهایی، توانایی توزیع سیستمها، ایجاد پشتیبانگیری و جابجایی عملیات بین زیرساختها در صورت به خطر افتادن یکی از آنها است. یک سازمان، هر چقدر هم قوی باشد، نمیتواند به تنهایی با مقیاس و پیچیدگی ارتشهای سایبری خارجی مقابله کند.»
با این حال، محققان براین باورند که انتقال به فضای ابری، خطر سایبری را از بین نمیبرد.
مجوزهای پیکربندی نادرست، یک حساب کاربری مدیر در معرض خطر، یک کلید رابط برنامهنویسی کاربردی (API) در معرض خطر یا یک سرویس پیکربندی نادرست میتواند به مهاجمان دسترسی به مقادیر زیادی از دادهها و سیستمهای حیاتی را بدهد.
این واقعیت که بخش بزرگی از اقتصاد به تعداد نسبتاً کمی از ارائهدهندگان اصلی فضای ابری وابسته است، خطر تمرکز را نیز ایجاد و این سؤال را مطرح میکند که اگر یکی از این ارائهدهندگان دچار قطعی عمده شود، چه اتفاقی میافتد.
سالهاست که مقررات در بخشهایی مانند بانکداری، بیمه و سلامت، محدودیتهای قابل توجهی را بر استفاده از فضای ابری اعمال میکنند که عمدتاً به دلیل نگرانیها در مورد حریم خصوصی، حاکمیت دادهها و کنترل بر زیرساختها است.
برخی از این موانع به تدریج کاهش یافتهاند؛ به عنوان مثال، بانک اسرائیل در طول سالها قوانین حاکم بر محاسبات ابری در سیستم بانکی را بهروزرسانی کرده است. ارائه دهندگان اصلی خدمات ابری همچنین زیرساختهای محلی را در اراضی اشغالی ایجاد کردهاند و به برخی سازمانها اجازه میدهند دادهها را در این منطقه مطابق با الزامات نظارتی ذخیره و پردازش کنند.
در عین حال، فناوریهایی برای پرداختن به یکی از نگرانیهای اصلی پیرامون اطلاعات حساس در فضای ابری ظهور کردهاند؛ یک نمونه، محاسبات محرمانه است که برای محافظت از دادهها نه تنها هنگام ذخیره یا انتقال، بلکه در حین پردازش فعال نیز طراحی شده است.
با این حال، هیچ راهحل جادویی وجود ندارد. رمزگذاری، سیستمهای تشخیص ناهنجاری و ابزارهای هوش مصنوعی، زیرساختها را از حمله مصون نمیکنند. امنیت در نهایت به نحوه ساخت سیستمها، نحوه پیکربندی مجوزها، نحوه تقسیمبندی شبکهها، قابل اعتماد بودن پشتیبانگیریها و سرعت شناسایی و بازیابی یک سازمان از یک حادثه بستگی دارد.
همان فناوری که به مهاجمان اجازه میدهد سریعتر حرکت کنند، به یک ابزار دفاعی مهم نیز تبدیل میشود.
سیستمهای امنیتی در حال حاضر از هوش مصنوعی برای شناسایی رفتارهای غیرعادی، تجزیه و تحلیل حجم زیادی از دادهها، تشخیص تلاشهای نفوذ و کمک به تیمهای امنیتی برای درک آنچه در شبکهها به صورت بلادرنگ اتفاق میافتد، استفاده میکنند.
با سریعتر و خودکارتر شدن حملات، سیستمهای دفاعی نیز باید سریعتر پاسخ دهند؛ اما امنیت سایبری تنها بخشی از دلیلی است که سازمانهای بزرگ فعالیتهای بیشتری را به فضای ابری منتقل میکنند.
سیستمهای هوش مصنوعی، به ویژه مدلهای بزرگ و عاملهای خودکار، به منابع محاسباتی بزرگ و انعطافپذیر نیاز دارند. سازمانهایی که قصد دارند آنها را در مقیاس بزرگ مستقر کنند، اغلب به زیرساختهای ابری متکی هستند.
بانکها و شرکتهای کارت اعتباری میتوانند از چنین مدلهایی برای تشخیص تراکنشهای غیرمعمول و کلاهبرداری استفاده کنند. سیستمهای بهداشتی میتوانند از آنها برای تجزیه و تحلیل حجم زیادی از دادههای پزشکی استفاده کنند. شرکتهای مخابراتی میتوانند آنها را در بارهای شبکه، اتوماسیون و خدمات مشتری به کار گیرند.
سازمانهای بیشتری نیز شروع به آزمایش عاملهای هوش مصنوعی کردهاند که قادر به انجام توالی اقدامات به طور مستقل هستند، نه صرفاً پاسخ دادن به سؤالات.
ایتزیک کرامر (Itzik Kramer)، رئیس توسعه در بخش فناوری پارتنر (Partner)، توضیح داد:
«حرکت به سمت ابر، دسترسی گستردهای را برای ما به قابلیتهای پیشرفته هوش مصنوعی فراهم کرد که به ما امکان توسعه و اجرای راهحلها در تجزیه و تحلیل دادهها، اتوماسیون و بهبود تجربه خدمات را داد؛ در عین حال، شرکت همچنان به توسعه راهحلها در محیطهای محلی مطابق با نیازهای تجاری و فناوری خود ادامه میدهد.»
این رویکرد ترکیبی احتمالاً جهت بسیاری از سازمانهای بزرگ را تعریف میکند: نه انتقال همه چیز به ابر، بلکه نگه نداشتن همه چیز در سرورهای محلی. در عوض، سیستمها بر اساس حساسیت اطلاعات، الزامات نظارتی و نیازهای عملیاتی سازمان، بین محیطها تقسیم میشوند.
پیچیدهتر شدن این گذار با هوش مصنوعی
تا همین اواخر، بخش عمدهای از بحثهای شرکتی پیرامون هوش مصنوعی بر این متمرکز بود که چگونه میتواند در زمان، پول و نیروی انسانی صرفهجویی کند. پیشرفتهای سایبری اخیر، یک سؤال بسیار ناخوشایندتر را مطرح میکند: وقتی همان ابزارها در دست مهاجمان باشند، چه اتفاقی میافتد؟
با بهبود سیستمهای هوش مصنوعی در شناسایی آسیبپذیریها، نوشتن کد و انجام مستقل زنجیرهای از اقدامات، میزان زمانی که تیمهای امنیتی برای پاسخگویی دارند، همچنان در حال کاهش است.
برای بانکها، بیمارستانها و شرکتهای مخابراتی، چالش دیگر صرفاً جلوگیری از نقض بعدی نیست؛ بلکه اطمینان از این است که حتی اگر نقضی رخ دهد، سیستمهایی که بیشترین اهمیت را دارند، به کار خود ادامه دهند.
