به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، نتایج ارزیابی مشترک مؤسسه امنیت هوش مصنوعی بریتانیا و مرکز استانداردها و نوآوری هوش مصنوعی آمریکا که در ۲۳ ژوئیه منتشر شد، نشان میدهد که کیمی کی3 (Kimi K3) با وجود برخورداری از توانمندیهای قابلتوجه در آزمونهای عمومی هوش مصنوعی، در حوزه عملیاتهای سایبری تهاجمی فاصله محسوسی با مدلهای پیشرو آمریکایی دارد.
همچنین پژوهشگران اعلام کردهاند که سازوکارهای ایمنی این مدل نیز مانعی برای کمک به انجام فعالیتهای تهاجمی سایبری ایجاد نکردهاند.
در یکی از آزمونهای انجامشده موسوم به ExploitBench که توسط دانشگاه «کارنگی ملون» طراحی شده است، توانایی مدلها در توسعه اکسپلویت برای ۴۱ آسیبپذیری کشفشده در موتور جاوا اسکریپت مرورگر کروم پس از سال ۲۰۲۳ مورد سنجش قرار گرفت.
کیمی کی3 در این آزمون امتیاز ۳۲ درصد را کسب کرد؛ در حالی که مدلهای پیشرفته آمریکایی بهطور میانگین امتیاز ۷۶.۲ درصد و مدل چینی GLM-5.2 امتیاز ۲۴ درصد را به دست آوردند.
یکی از خطرناکترین شاخصهای این آزمون، دستیابی به اجرای کد دلخواه (Arbitrary Code Execution) است که امکان کنترل کامل سامانه هدف را برای مهاجم فراهم میکند.
مدلهای آمریکایی بهطور متوسط در ۲۰ مورد از ۴۱ سناریوی آزمایش به این سطح از موفقیت دست یافتند، اما کیمی کی3 و GLM-5.2 در هیچیک از موارد موفق به انجام آن نشدند.
در آزمون دیگری با عنوان «The Last Ones»، مدلهای هوش مصنوعی در یک شبکه سازمانی شبیهسازیشده شامل حدود ۲۰ میزبان و چهار زیرشبکه قرار گرفتند.
طی کردن کامل این سناریو بهطور معمول حدود ۲۰ ساعت زمان برای یک متخصص انسانی نیاز دارد و شامل ۳۲ مرحله متوالی است.
کیمی کی3 بهطور متوسط توانست تا مرحله هفدهم پیشروی کند، در حالی که مدلهای پیشرفته آمریکایی به میانگین ۲۸.۵ مرحله و GLM-5.2 به ۱۱ مرحله دست یافتند.
با این حال، کیمی کی3 در یکی از ۱۰ تلاش خود موفق شد تمامی مراحل حمله را با موفقیت به پایان برساند.
این در حالی است که مدلهای آمریکایی در ۶ یا ۷ مورد از هر ۱۰ تلاش به موفقیت کامل دست یافته بودند.
پژوهشگران معتقدند این موضوع نشان میدهد که کیمی کی3 از قابلیت انجام چنین عملیاتهایی برخوردار است، اما هنوز توانایی اجرای پایدار و قابل اتکای آن را ندارد.
در گزارش منتشرشده تأکید شده است که کیمی کی3 در صورت دریافت دستور مناسب و برخورداری از دسترسی اولیه به شبکه، قادر است بهصورت خودکار علیه سامانههای کوچک، آسیبپذیر و دارای حفاظت ضعیف اقدام کند.
همچنین نگرانیهایی درباره انتشار عمومی وزنهای این مدل در تاریخ ۲۷ ژوئیه مطرح شده است؛ زیرا پس از انتشار، امکان اعمال محدودیتهای متمرکز بر رفتار آن از سوی ارائهدهنده مدل کاهش خواهد یافت.
نکته قابل توجه آن است که کیمی کی3 پیشتر در برخی شاخصهای عمومی عملکرد مدلهای زبانی، حتی نتایجی بهتر از برخی نسخههای کلاود (Claude) و جی پی تی (GPT) را به ثبت رسانده بود.
با این وجود، ارزیابی اخیر نشان میدهد که برتری در آزمونهای عمومی لزوماً به معنای توانمندی مشابه در حوزه امنیت سایبری نیست.
از سوی دیگر، «مایکل کراتسیوس»، مدیر دفتر سیاستگذاری علم و فناوری کاخ سفید، چندی پیش شرکت مونشات ای آی (Moonshot AI) را به استفاده از خروجیهای مدلهای شرکت آنتروپیک (Anthropic) برای آموزش کیمی کی3 متهم کرده بود.
برخی کارشناسان معتقدند در صورتی که دادههای آموزشی این مدل از خروجیهای محدودشده کلاود استخراج شده باشند، احتمالاً اطلاعات کافی برای آموزش مهارتهای پیشرفته مرتبط با حملات سایبری در اختیار آن قرار نگرفته است.
این گزارش بار دیگر نشان میدهد که با افزایش توانمندی مدلهای هوش مصنوعی متنباز، ارزیابی دقیق قابلیتها و مخاطرات امنیتی آنها به یکی از مهمترین چالشهای پیش روی دولتها و مراکز پژوهشی تبدیل شده است.
