به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت آنتروپیک اعلام کرد که در هشت ماه گذشته چندین مورداستفاده مخرب از مدلهای کلود خود را مختل کرده است، از جمله یک کمپین جاسوسی سایبری مرتبط با روسیه و شرکتهای هوش مصنوعی چینی که آن را به تلاش برای استخراج و کپیکردن قابلیتهای کلود متهم میکند.
شرکت آنتروپیک در آخرین گزارش اطلاعات تهدید خود اعلام کرد که مجرمان سایبری و هکرهای تحت حمایت دولت به طور فزایندهای از هوش مصنوعی نهتنها برای کمک به انجام وظایف، بلکه برای هماهنگی و اجرای بخشهای بزرگی از حملات سایبری استفاده میکنند.
سخنگوی شرکت آنتروپیک گفت:
استفاده از هوش مصنوعی فراتر از پرسش و پاسخهای ساده از یک چتبات، شامل استفاده از چارچوبهای چندعاملی برای اجرای وظایف بود.
شرکت آنتروپیک اعلام کرد که در این دوره حملات هفت آزمایشگاه مستقر در چین را مختل کرده است. در میان آزمایشگاههایی که آنتروپیک از آنها نام برد، غول فناوری علیبابا، مونشات، دیپسیک و شیائومی بودند.
این شرکت اعلام کرد اپراتورهایی که آنتروپیک به علیبابا مرتبط کرده بود، حملهای را اجرا کردند که آن را بزرگترین حمله (تقطیر غیرقانونی) مینامد و ظاهراً هدف آن استخراج قابلیتهای مدلهای کلود و استفاده از آنها برای بهبود مدلهای کوئن این شرکت فناوری چینی بوده است.
آنتروپیک بیش از ۱۵۱ میلیون مبادله را که به علیبابا نسبتدادهشده است، بین ماه مه و ژوئیه ۲۰۲۶ مشاهده کرده است که نزدیک به ۳ میلیون در روز از بیش از ۳۵۰۰ حسابی که آن را جعلی توصیف کرده است، رسیده است.
تقطیر به فرایند آموزش مدلهای هوش مصنوعی کوچکتر با استفاده از خروجی مدلهای بزرگتر و گرانتر اشاره دارد تا هزینههای آموزش یک ابزار جدید هوش مصنوعی را کاهش دهد.
شرکت آنتروپیک ادعا کرد که مونشات و دیپسیک، بهجای اجرای پرسوجوهای انبوه، ظاهراً مکالمات زنده مشتریان را که گاهی اوقات شامل اطلاعات حساس بود، از طریق Claude هدایت کرده و از پاسخهای آن بهعنوان دادههای آموزشی استفاده کرده است.
شرکت آنتروپیک اعلام کرد که یک گروه هکری که شیوههای کاری آنها با میدنایت بلیزارد (Midnight Blizzard)، عامل تهدید مستقر در روسیه، سازگار بود، ظاهراً عملیات فیشینگ، ربودن Wi-Fi هتل و تصرف واتساپ را علیه اهدافی در بخشهای دولتی، نظامی و دیپلماتیک اوکراین انجام داده و تقریباً در هر مرحله از هوش مصنوعی استفاده کرده است.
دولت ایالات متحده پیشازاین Midnight Blizzard، یک اصطلاح ردیابی که توسط مایکروسافت ابداع شده است، را به سرویس اطلاعات خارجی SVR روسیه مرتبط کرده است.
این گروه ظاهراً از هوش مصنوعی برای ساخت سیستمی استفاده کرده است که به طور خودکار تشخیص میدهد که بدافزار آن توسط سیستمهای دفاعی امنیتی علامتگذاری شده و کد را بازنویسی میکند تا دوباره از شناسایی فرار کند.
شرکت آنتروپیک همچنین آنچه را که (دستههای جدیدی از بازیگران تهدید) مینامید و از کلود سوءاستفاده میکردند، شناسایی کرد، از جمله کسانی که از این پلتفرم برای توسعه نرمافزار برای سلاحهای متعارف، از جمله سلاح گرم، موشک، پهپادهای مسلح، بمب و سایر مهمات و همچنین سیستمهای هدفگیری و کنترلی که آنها را به کار میاندازند استفاده میکنند. این گزارش جزئیات حوادث مربوط به اپراتورهایی را که از کلود برای توسعه نرمافزار برای طراحی و توسعه سلاح یا پشتیبانی از جمعآوری اطلاعات و تهیه اطلاعات مربوط به برنامههای تسلیحاتی در چین، روسیه و یمن استفاده میکردند، شرح داد.
این شرکت اعلام کرد که فعالیتهای مرتبط با شرکتهای وابسته به گروه جرایم سایبری شاینی هانترز (ShinyHunters)، یکی از فعالترین شرکتهای جرایم سایبری در ماههای اخیر که با حملات به شرکتهای بزرگ در سراسر جهان مرتبط است، را شناسایی و مختل کرده است.
جیکوب کلاین، رئیس اطلاعات تهدید در آنتروپیک، در مصاحبهای گفت که مدلها در طول سال گذشته توانمندتر شدهاند و خطرات جدیدی را ایجاد کردهاند.
او گفت:
یک سال پیش، فرض کنید میخواستید یک پهپاد یا نرمافزار یک موشک را بهینهسازی کنید، مدلها بهاندازه الان خوب نبودند.
