تکثیر خودکار مدل‌های هوش مصنوعی بدون دسترسی به مراکز داده

در آزمایش‌های ساده‌سازی شده این شرکت که برخی تدابیر امنیتی در آن‌ها حذف شده بود، معلوم شد که مدل (GLM-5.2) و مدل‌های قدرتمندتر، توانایی تکثیر کامل (از ابتدا تا انتها) را دارند.

آنتروپیک هشدار داد که متوقف‌کردن مدل‌های دارای قابلیت تکثیر دشوار خواهد بود، زیرا هیچ نقطه مرکزی برای خاموش‌کردن آن‌ها وجود ندارد و برخلاف بدافزارهای غیرهوشمند، این مدل‌ها می‌توانند به طور مستقل دستگاه‌های ناآشنا را شناسایی کرده و پردازنده‌های مراکز داده را هدف قرار دهند.

تمرکز این شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا (IoT) مانند تلویزیون‌های اندرویدی، لوازم‌خانگی هوشمند و سایر ابزارهای متصل به اینترنت بود، زیرا امنیت این دستگاه‌ها معمولاً ضعیف است.

این شرکت پیشرو در حوزه هوش مصنوعی همچنین هشدار داد که اگر روند پیشرفت مدل‌های کوچک با همان نرخ تاریخی ادامه یابد، آن‌ها تا پایان سال جاری قادر به تکثیر خودکار خواهند بود و مدل‌های کوچک مبتنی بر وزن (weight-based replicators) نیز به‌سرعت از همین الگو پیروی خواهند کرد.

آنتروپیک همچنین اظهار داشت که چنین سیستم‌های هوش مصنوعی خودمختاری احتمالاً به‌کندی تکثیر می‌شوند و به منابع محاسباتی نسبتاً ناامن و به طور گسترده در دسترس، متکی خواهند بود. این شرکت افزود که سیستم‌ها باید تقویت شوند تا گسترش چنین عامل‌های هوش مصنوعی دشوارتر گردد.