به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت متا اعلام کرد که چت‌بات هوش مصنوعی خود را طوری آموزش می‌دهد که ایمنی کاربران نوجوان را در اولویت قرار دهد و دیگر با آنها در مورد موضوعات حساسی مانند خودآزاری، خودکشی یا اختلالات خوردن تعامل نخواهد کرد.
این اقدامات به‌عنوان اقدامات موقت توصیف شده‌اند و انتظار می‌رود سیاست‌های ایمنی قوی‌تری در آینده اعمال شود.
این شرکت همچنین قصد دارد دسترسی نوجوانان به برخی از شخصیت‌های هوش مصنوعی را که می‌توانند منجر به مکالمات نامناسب شوند، محدود کند و آنها را به شخصیت‌هایی با محوریت آموزش و خلاقیت ترغیب کند.
این اقدام پس از گزارش رویترز مبنی بر اینکه هوش مصنوعی متا با کاربران زیر سن قانونی مکالمات صریح جنسی داشته است، انجام شده است. متا از آن زمان سند داخلی ذکر شده در گزارش را اصلاح‌کرده و اظهار داشته است که با سیاست‌های گسترده‌تر شرکت مغایرت دارد.
این افشاگری‌ها واکنش‌های سیاسی و حقوقی قابل‌توجهی را به دنبال داشته است. سناتور جاش هاولی تحقیقات رسمی در مورد شیوه‌های هوش مصنوعی متا را آغاز کرده است.
درعین‌حال، ائتلافی از ۴۴ دادستان کل ایالتی به چندین شرکت هوش مصنوعی، از جمله متا، نامه نوشته و بر لزوم محافظت از کودکان در فضای آنلاین تأکید کرده‌اند.
در این نامه بی‌توجهی آشکار به‌سلامت عاطفی جوانان محکوم شده و هشدار داده شده است که رفتار هوش مصنوعی ممکن است قوانین جزایی را نقض کند.
