کاهش قابلیتهای تهاجمی سایبری در مدل جدید هوش مصنوعی مونشات
به گزارش کارگروه فناوری اطلاعات سایبربان، استارتاپ چینی مونشات (Moonshot) اعلام کرد که قابلیتهای تهاجمی سایبری جدیدترین مدل خود را کاهش داده است، زیرا نگرانیها در مورد افزایش روزافزون حملات هکری توسط هوش مصنوعی خودمختار افزایشیافته است.
شرکت Moonshot مستقر در پکن، این محدودیتها را هنگام معرفی (Kimi K3.1 Pro) اعلام کرد که آن را بهعنوان توانمندترین مدل وزن باز کلاس ۳ تریلیون پارامتری خود توصیف میکند. این شرکت قصد دارد وزنهای مدل فایلهایی که به توسعهدهندگان خارجی اجازه میدهد آن را در سیستمهای خود اجرا و اصلاح کنند تا ۴ نوامبر منتشر کند.
مونشات اعلام کرد که دادههای مرتبط با فضای سایبری را از مجموعه آموزشی و محیطهای یادگیری تقویتی که برای توسعه مدل استفاده شده بود، حذف کرده است، درحالیکه مهارتهای عمومی کدنویسی را حفظ کرده است.
این شرکت اعلام کرد:
هدف ما انتشار وزنهای باز نیست که مرز مطلق توانایی سایبری را گسترش دهد.
دولتها، شرکتهای فناوری و محققان امنیتی به طور فزایندهای نگران این هستند که هوش مصنوعی میتواند هک پیچیده را آسانتر و ارزانتر کند. مدلهایی که میتوانند کد بنویسند، ابزارهای نرمافزاری را اجرا کنند و وظایف طولانی و چندمرحلهای را انجام دهند، ممکن است به کاربران در شناسایی نقاط ضعف برنامهها و خودکارسازی بخشهایی از حملات سایبری کمک کنند.
چین هفته گذشته کنترلهای صادراتی را پیشنهاد داد که صادرات فناوری تولید و جهش بدافزار مبتنی بر هوش مصنوعی را ممنوع کرده و ابزارهای کشف آسیبپذیری با کمک هوش مصنوعی را محدود میکند. پیشنویس این اقدامات که برای اظهارنظر عمومی باز است، به این خطر اشاره میکند که چنین قابلیتهایی میتوانند علیه زیرساختهای حیاتی، سیستمهای دفاعی - صنعتی و سیستمهای اصلی دولتی یا برای دورزدن حفاظتهای امنیتی استفاده شوند.
سخنگوی مونشات گفت:
مدلهای وزن باز میتوانند با کمک به سازمانهای بیشتر برای بازرسی و ایمنسازی نرمافزارهای خود، از جمله سیستمهای قدیمیتر که توجه کمی به آنها میشود، امنیت را بهبود بخشند.
بااینحال، برخلاف سیستمهای هوش مصنوعی اختصاصی و وزن بسته، انتشارهای وزن باز، نظارت مرکزی را دشوارتر میکنند. هنگامی که فایلها به طور گسترده توزیع میشوند، توسعهدهنده اصلی توانایی کمتری برای محدودکردن دسترسی، نظارت بر استفاده یا بهروزرسانی حفاظتها نسبت به یک سرویس میزبانی شده دارد.
به گفته این شرکت، مدل K3.1 Pro در بنچمارک سایبری داخلی خود امتیاز ۸۱.۰ درصد را کسب کرد؛ این در حالی است که نسخه مشابه آن که فاقد تدابیر کاهشدهنده ریسک بود، به امتیاز ۹۰.۵ درصد دستیافت. این آزمون شامل شناسایی و بهرهبرداری از آسیبپذیریهای نرمافزاری در یک محیط کنترلشده بود.
شرکت مونشات اعلام کرد که این مقایسه نشان میدهد فیلترکردن دادههای مرتبط با حوزه سایبر، عملکرد تهاجمی مدل را کاهش داده است، هرچند این مدل همچنان عملکردی بهتر از نسخه پیشین خود داشته است. این نتایج هنوز توسط نهادهای مستقل تأیید نشدهاند.
مدل K3.1 Pro دارای یک پنجره بافت (context window) با ظرفیت ۱ میلیون توکن است که به آن اجازه میدهد حجم بسیار زیادی از متن را بهصورت یکجا پردازش کند. شرکت مونشات همچنین نسخه سریعتری به نام (K3.1 Pro Highspeed) عرضه کرده است که به گفته این شرکت، با سرعتی دو تا سه برابر مدل استاندارد عمل میکند.