شرکت‌های اوپن‌اِی‌آی و انتروپیک خواستار اقدام در زمینه دفاع سایبری شدند

به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت‌های هوش مصنوعی اوپن‌اِی‌آی (OpenAI) و انتروپیک (Anthropic)، به همراه بیش از ۱۰۰ سازمان خدمات فناوری و مالی دیگر، هشدار دادند که کسب‌وکارها و دولت‌ها باید برای آمادگی و دفاع در برابر هک‌های مبتنی بر هوش مصنوعی، اقدامات بیشتری انجام دهند.

طی نامه‌ای سرگشاده در روز پنجشنبه، این استارت‌آپ‌های هوش مصنوعی، به همراه شرکت‌های گوگل، مایکروسافت و دیگر شرکت‌های زیرمجموعه آلفابت، از سازمان‌ها، دولت‌ها و شرکت‌های فناوری و هوش مصنوعی خواستند تا بر (اولویت فوری رهبری) قراردادن دفاع سایبری تمرکز و نقاط ضعف موجود در نرم‌افزارهای خود را برطرف کنند.

این نامه از شرکت‌های امنیت سایبری خواست که در دفاع در برابر حملات مبتنی بر هوش مصنوعی کمک کنند و دولت‌ها باید ارتباطات بین خود و کانال‌های صنعتی را برای پاسخ به تهدیدات احتمالی هماهنگ کنند. همچنین از شرکت‌های پیشرو در حوزه هوش مصنوعی خواست که به کسانی که از زیرساخت‌های حیاتی دفاع می‌کنند، دسترسی به هوش مصنوعی و همچنین حمایت مالی را آموزش دهند.

اخیراً چندین نقض امنیت سایبری مربوط به مدل‌های پیشرفته هوش مصنوعی رخ‌داده است، از جمله حادثه‌ای در ماه ژوئیه که در آن مدل‌های اوپن‌اِی‌آی سهواً شرکت هاگینگ فِیس (Hugging Face) را هک کردند. این نقض‌ها نگرانی‌هایی را در مورد عوامل هوش مصنوعی که به طور دیوانه‌وار فعالیت می‌کنند، برانگیخته و برخی از رهبران فناوری و دولت را بر آن داشته است تا درخواست‌های خود را برای محدودکردن این فناوری تجدید کنند. اوپن‌اِی‌آی در گزارشی اعلام کرد که می‌توانست زودتر واکنش نشان دهد تا از هک هاگینگ فِیس جلوگیری کند.

امضاکنندگان این نامه پیش‌بینی کردند که در ماه‌های آینده از مدل‌های هوش مصنوعی برای انجام تعداد فزاینده‌ای از حملات سایبری پیچیده استفاده خواهد شد.

در این نامه آمده است: 

پیشرفت‌های امروزی هوش مصنوعی در حال حاضر به مدافعان راه‌های جدیدی برای رفع نقاط ضعفی که سال‌ها انباشته شده‌اند، می‌دهد. اگر قاطعانه عمل کنیم، می‌توانیم از پنجره مدافعان برای ایمن‌تر کردن دنیای دیجیتال خود استفاده کنیم.