به گزارش کارگروه رسانه اجتماعی، تولیدکننده ویدیوی Veo 3 گوگل، موج جدیدی از محتوای نژادپرستانه هوش مصنوعی را در سراسر تیک‌تاک منتشر کرده است، علی‌رغم اینکه هر دو پلتفرم سیاست‌های سخت‌گیرانه‌ای برای ممنوعیت سخنان نفرت‌انگیز دارند.
چندین حساب تیک‌تاک ویدئوهای تولید شده توسط هوش مصنوعی را به اشتراک گذاشته‌اند که کلیشه‌های یهودستیزانه و ضد سیاه‌پوستان را ترویج می‌دهند که بسیاری از آنها قبل از حذف‌شدن، همچنان به طور گسترده پخش می‌شدند.
این ویدئوهای کوتاه و بسیار واقع‌گرایانه اغلب شامل تصاویر توهین‌آمیز بودند و علامت آبی قابل‌مشاهده «Veo» منشأ آنها را از مدل گوگل تأیید می‌کرد.
درحالی‌که هم تیک‌تاک و هم گوگل رسماً ایجاد و توزیع مطالب نفرت‌انگیز را ممنوع می‌کنند، اجرای این قانون ناقص بوده است. TikTok ادعا می‌کند که هم از سیستم‌های خودکار و هم از ناظران انسانی استفاده می‌کند، اما به نظر می‌رسد حجم زیاد آپلودها باعث تأخیر در اقدام شده است.
اگرچه تیک‌تاک می‌گوید بیش از نیمی از حساب‌ها را قبل از انتشاریافته‌های مدیا مترز (MediaMatters)مسدود کرده است، ویدئوهای مضر همچنان به مخاطبان زیادی رسیده‌اند.
گوگل همچنین سیاست ممنوعیت محتوای نفرت‌پراکنی را حفظ می‌کند. بااین‌حال، واقع‌گرایی پیشرفته Veo 3 و دشواری تشخیص پیام‌های کدگذاری شده، دورزدن تدابیر حفاظتی را برای کاربران آسان‌تر می‌کند.
این مدل نسبت به مدل‌های قبلی، سهل‌گیرانه‌تر است و نگرانی‌هایی را در مورد توانایی آن در فیلترکردن مطالب توهین‌آمیز قبل از تولید، ایجاد می‌کند.
با برنامه‌ریزی گوگل برای ادغام Veo 3 در YouTube Shorts، نگرانی‌ها در مورد اینکه محتوای مضر ممکن است به‌زودی به پلتفرم‌های دیگر سرازیر شود، افزایش می‌یابد.
به نظر می‌رسد تیک‌تاک و گوگل فاقد ظرفیت اجرایی برای همگام‌شدن با سوءاستفاده از هوش مصنوعی مولد هستند.
باوجود قوانین سخت‌گیرانه روی کاغذ، هر دو شرکت در تلاش‌اند تا از دامن‌زدن فناوری خود به روایت‌های نژادپرستانه در مقیاس بزرگ جلوگیری کنند.
