به گزارش کارگروه فناوری اطلاعات سایبربان، بیش از ۱۰۰ سازمان پس از افزایش تصاویر دیجیتال بدون رضایت، از دولت‌ها خواستند تا ابزارهای برهنه ساز هوش مصنوعی را غیرقانونی اعلام کنند.
گروه‌هایی مانند عفو بین‌الملل، کمیسیون اروپا و اینترپل تاکید دارند که این فناوری اکنون به اقدامات مضری دامن می‌زند که کرامت انسانی و ایمنی کودکان را تضعیف می‌کند.
نگرانی‌ها پس از رسوایی هوش مصنوعی گروک که در آن کاربران از عکس‌های معمولی تصاویر جنسی ایجاد کردند، تشدید شد.
فعالان هشدار می‌دهند که این ابزارها اغلب زنان و کودکان را هدف قرار می‌دهند. میلیون‌ها تصویر دستکاری‌شده در پلتفرم‌های اجتماعی منتشر شده است که بسیاری از آنها به باج‌گیری، اجبار و سوءاستفاده جنسی از کودکان مرتبط هستند.
کارشناسان می‌گویند آسیب‌های ناشی از این تصاویر هوش مصنوعی جدی است زیرا سوءاستفاده به صورت آنلاین رخ می‌دهد.
سازمان‌های درون ائتلاف معتقدند که شرکت‌های فناوری در حال حاضر توانایی شناسایی و مسدود کردن چنین مطالبی را دارند، اما نتوانسته‌اند اقدامات حفاظتی ضروری را اعمال کنند.
آنها می‌خواهند توسعه‌دهندگان و پلتفرم‌ها پاسخگو باشند و معتقدند که اکنون ممنوعیت‌های سختگیرانه برای جلوگیری از سوءاستفاده بیشتر ضروری است.
