به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، در سال‌های اخیر، توسعه مدل‌های هوش مصنوعی از چت‌بات‌های ساده تا عامل‌های هوشمند (AI Agents)، شیوه فعالیت سازمان‌های دولتی را متحول کرده است.
دولت آمریکا نیز استفاده از این فناوری را برای افزایش بهره‌وری و بهبود ارائه خدمات در دستور کار قرار داده است.
با این حال، همزمان با افزایش سرعت توسعه مدل‌های هوش مصنوعی، چالش‌های جدیدی در زمینه مدیریت، حاکمیت و امنیت این فناوری ایجاد شده است.
لندون شاو، معمار ارشد دفتر اداری دادگاه‌های ایالات متحده، معتقد است دو تحول اساسی باعث شده هوش مصنوعی نقش پررنگ‌تری در امنیت سایبری پیدا کند.
نخست، حذف تدریجی جزیره‌های اطلاعاتی و تجمیع داده‌های امنیتی در یک بستر واحد که امکان تحلیل جامع‌تر تهدیدها را فراهم کرده است.
دوم، ظهور سامانه‌هایی متشکل از چندین عامل هوش مصنوعی که به‌صورت هماهنگ برای شناسایی و مقابله با حملات سایبری فعالیت می‌کنند.
به گفته شاو، تجمیع داده‌های حاصل از ده‌ها محصول امنیتی در یک مخزن واحد، این امکان را فراهم کرده است که ابزارهای هوش مصنوعی بتوانند الگوهای پیچیده حملات را سریع‌تر شناسایی کرده و حتی پیش از وقوع حمله هشدار دهند.
این سامانه‌ها می‌توانند اطلاعات ده‌ها منبع مختلف را به یک پرونده واحد تبدیل کنند و آن را برای بررسی به یک عامل هوش مصنوعی دیگر یا یک کارشناس انسانی ارجاع دهند.
وی همچنین به ظهور چارچوب‌هایی مانند Open Claw اشاره کرد که امکان ایجاد شبکه‌ای از عامل‌ها و زیرعامل‌های هوش مصنوعی را فراهم می‌کنند.
در این معماری، یک عامل تصمیم اولیه را اتخاذ می‌کند، عامل دوم صحت آن را بررسی می‌کند و عامل سوم بر اساس سیاست‌های از پیش تعیین‌شده تصمیم می‌گیرد که آیا اجرای اقدام نیازمند تأیید انسان است یا می‌تواند به‌صورت خودکار انجام شود.
برنت هانسن، مدیر ارشد فناوری شرکت Optiv + ClearShark، این تحول را به داشتن «شمشیری برنده‌تر یا سپری مقاوم‌تر» تشبیه کرد.
به گفته او، در نبرد میان مهاجمان و مدافعانی که هر دو از هوش مصنوعی استفاده می‌کنند، مهم‌ترین عامل سرعت واکنش است، نه صرفاً کیفیت طراحی درخواست‌ها (Prompt Engineering).
وی تأکید کرد که اسکن سریع آسیب‌پذیری‌ها، واکنش فوری و پایش مستمر مدل‌های هوش مصنوعی برای حفظ اعتماد به این سامانه‌ها ضروری است.
هانسن همچنین بر اهمیت ایجاد یک بافت داده (Data Fabric) مشترک در سراسر سازمان تأکید کرد؛ بستری که امکان جمع‌آوری، تحلیل و غنی‌سازی داده‌های ساختاریافته و بدون ساختار را فراهم می‌کند و باعث می‌شود سامانه‌های هوش مصنوعی با سرعت بیشتری تهدیدها را شناسایی و فرآیند پاسخ به رخدادها را بهبود دهند.
از سوی دیگر، کوین والش، مدیر فناوری اطلاعات و امنیت سایبری دفتر حسابرسی دولت آمریکا (GAO)، معتقد است با افزایش سرعت حملات سایبری، نقش انسان از اجرای مستقیم عملیات به نظارت، سیاست‌گذاری و کنترل عامل‌های هوش مصنوعی تغییر خواهد کرد.
او تأکید کرد معماری اعتماد صفر (Zero Trust) برای اطمینان از عملکرد صحیح عامل‌های هوش مصنوعی ضروری است و این عامل‌ها باید تنها حداقل سطح دسترسی موردنیاز را در اختیار داشته باشند.
شاو نیز پیشنهاد کرد هر عامل هوش مصنوعی دارای هویت مستقل و مجوزهای بسیار محدود باشد؛ برای مثال بتواند تنها حساب‌های مشکوک را مسدود کند، اما اجازه بازگشایی آن‌ها را نداشته باشد.
به گفته او، باید اصل "اعتماد کن، اما راستی‌آزمایی کن" بر مدیریت عامل‌های هوش مصنوعی حاکم باشد و پس از اثبات عملکرد صحیح، به‌تدریج مسئولیت‌های بیشتری به آن‌ها واگذار شود.
کارشناسان همچنین هشدار دادند که مدل‌های هوش مصنوعی در طول زمان دچار رانش مدل (Model Drift) می‌شوند و عملکرد آن‌ها ممکن است تغییر کند؛ بنابراین پایش، ارزیابی و بازآموزی مداوم این سامانه‌ها ضروری است.
آنان در پایان تأکید کردند که حتی با پیشرفت هوش مصنوعی، اصول پایه امنیت سایبری مانند احراز هویت چندمرحله‌ای (MFA)، رمزنگاری داده‌ها، کنترل دسترسی، آموزش کارکنان و انجام آزمون‌های نفوذ و شبیه‌سازی حملات همچنان از مهم‌ترین ارکان دفاع سایبری باقی خواهند ماند.
