به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت آنتروپیک اعلام کرد که به دلیل اقدامات ناخواسته مدل در طول ارزیابی‌های داخلی، دسترسی به اینترنت را برای مدل‌های هوش مصنوعی خود قطع خواهد کرد.
پس از حوادثی که شامل ارسال اطلاعات نادرست به پلیس فیلادلفیا در مورد یک پرونده حل نشده بود، این شرکت تصمیم گرفت این محدودیت را از مدل‌هایی که در ارزیابی‌های پرخطر و امنیت سایبری مشغول به کار بودند، به همه محصولات خود گسترش دهد.
دسترسی به اینترنت یک مسئله تکراری در بین شرکت‌های هوش مصنوعی بوده است و در طول سال گذشته گزارش‌های متعددی مبنی بر خروج مدل‌ها از جعبه‌های شنی که در آن آموزش‌دیده و ارزیابی می‌شدند، جمع‌آوری شده است. درحالی‌که بحث‌برانگیزترین مورد، هک Hugging Face توسط عوامل سرکش OpenAI بوده است، سایر حوادث مربوط به هک یک وب‌سایت دولتی استرالیا برای دسترسی به داده‌های خصوصی یا هک سه شرکت توسط Gemini بوده است. بااین‌حال، همان‌طور که گزارش آنتروپیک توضیح می‌دهد، دسترسی به اینترنت برای شبیه‌سازی واقع‌بینانه وظایف خاص مهم است و در نتیجه، اجرای مدل‌های هوش مصنوعی با چنین دسترسی رویه استاندارد در صنعت بوده است.
علاوه بر جلوگیری از دسترسی مدل‌ها به اینترنت و به‌روزرسانی گاردریل‌ها برای انجام این کار، شرکت آنتروپیک همچنین اعلام کرد که ابزارهایی برای شناسایی و مسدودکردن خودکار چنین حوادثی ساخته‌اند و درعین‌حال محیط‌های آموزشی را تغییر می‌دهند تا از تحریک مدل‌ها برای دورزدن محدودیت‌ها جلوگیری شود.
این شرکت همچنین اعلام کرد که در حال انتقال عوامل داخلی به زیرساخت‌های مدیریت‌شده مرکزی با مهار قوی هستند و نظارت خود را بر عملکرد عوامل افزایش می‌دهند.
