به گزارش کارگروه بینالملل سایبربان، دفتر دادستانی شهر سانفرانسیسکو نامهای چهارصفحهای مبنی بر توقف تبلیغات پولی حاوی مطالب سوءاستفاده جنسی از کودکان تولید شده توسط هوش مصنوعی به شرکت مِتا ارسال کرده است.
در این نامه از مِتا خواسته شده است که انتشار چنین تبلیغاتی را در فیسبوک، اینستاگرام و تردز متوقف کند و توضیح دهد که چگونه این تبلیغات بارها از سیستمهای تبلیغاتی آن عبور کردهاند و با مقامات شهری در مورد ایمنی کودکان، تبلیغات و نگرانیهای قانونی تعامل کند.
محققان پروژه شفافیت فناوری (TTP) در ماههای اخیر بیش از ۳۵۰ تبلیغ را شناسایی کردهاند که تصاویر ثابت افراد زیر سن قانونی از جمله یک عضو سلطنتی شناخته شده اروپایی را به کلیپهای ویدیویی کوتاهی تبدیل میکردند که اعمال جنسی را به تصویر میکشیدند. این تبلیغات که به برنامههای تولید تصویر و ویدیوی هوش مصنوعی مرتبط و قادر به برهنهسازی افراد بودند، به بیش از ۲۹ هزار حساب در سراسر اتحادیه اروپا و همچنین به کاربرانی در ایالات متحده، استرالیا و هند نشان داده شدند.
چیو، دادستان شهر سانفرانسیسکو گفت:
مِتا در رسیدگی به موضوع تبلیغات صریح جنسی کودکان که توسط هوش مصنوعی تولید شده، شکستخورده است، درحالیکه از آنها سود میبرد. این تبلیغات عمیقاً نگرانکننده هستند و به کودکان آسیب میرسانند.
در این نامه همچنین آمده است که یافتهها نشاندهنده مشکلات سیستماتیک گسترده در توانایی مِتا در تشخیص سوءاستفاده جنسی از کودکان در تبلیغات است و سؤالات حقوقی مهمی را برای این شرکت ایجاد میکند.
سخنگوی شرکت مِتا گفت:
هیچ نشانهای مبنی بر نمایش این تبلیغات در سانفرانسیسکو وجود ندارد و این موضوع خارج از حوزه قضایی دادستان شهر است. تبلیغات شناساییشده به دلیل نقض سیاستهای ما حذف شدهاند و سوءاستفاده از کودکان یا برنامههای برهنهسازی، از جمله محتوای تولید شده توسط هوش مصنوعی را تحمل نمیکنیم.
این شرکت همچنین اعلام کرد که کل هزینههای بیش از ۳۰۰ تبلیغ کمتر از ۵ هزار دلار بوده است. بااینحال، کیتی پاول، مدیر پروژه شفافیت فناوری گفت:
تبلیغات جدید با حضور همان کودکان همچنان ظاهر میشوند و تلاشهای مِتا برای حذف کامل، این مشکل را متوقف نکرده است.
در نامه دفتر دادستانی از شرکت مِتا خواسته شده است که ظرف ۲۸ روز، جزئیاتی در مورد چگونگی عدم نظارت بر تبلیغات، نحوهی پیگیری و گزارش چنین محتوایی به مرکز ملی کودکان گمشده و مورد سوءاستفاده (NCMEC) و نحوهی برخورد با مجرمان سابقهدار ارائه دهد.
