به گزارش کارگروه بین الملل خبرگزاری سایبربان، آلوین براگ، دادستان منطقه منهتن، روز دوشنبه در یک نشست خبری از این اقدام خبر داد.
این سایت‌ها میزبان ویدئوهای تولیدشده با هوش مصنوعی از بیش از ۱۲۰۰ نفر بودند و به کاربران اجازه می‌دادند با استفاده از چهره و بدن افراد واقعی، محتوای مستهجن غیرقانونی تولید کنند.
براگ گفت اگرچه بسیاری از افرادی که تصاویرشان در این سایت‌ها منتشر شده، چهره‌های مشهور هستند، اما مقام‌های قضایی مواردی از خشونت خانگی را نیز مشاهده کرده‌اند که در آنها افراد متجاوز، قربانیان خود را تهدید کرده‌اند که تصاویر دیپ‌فیک را منتشر خواهند کرد.پ.
وی افزود مقام‌های قضایی با قربانیانی گفت‌وگو کرده‌اند که حتی نمی‌دانستند اقدامی برای مقابله با این سایت‌ها امکان‌پذیر است و از دیگر قربانیان نیز خواست موارد مشابه را گزارش کنند.
براگ درباره اینکه آیا بازداشت یا اتهام کیفری علیه افراد تحت تحقیق صورت خواهد گرفت، اظهار نظر نکرد و تنها گفت تحقیقات همچنان ادامه دارد.
به گفته براگ، چندین فرد تحت تحقیق با استفاده از تصاویر و ویدئوهای واقعی، «تصاویر و ویدئوهای فوق‌العاده واقع‌گرایانه‌ای از این افراد در حال انجام رفتارهای جنسی» تولید کرده‌اند.
دادستان منهتن تأکید کرد این نقض‌های هولناک حریم خصوصی می‌تواند قربانیان را در زندگی شخصی و حرفه‌ای‌شان دنبال کند و آسیب‌های شدید روحی و روانی به آنها وارد آورد.
وی گفت دفتر دادستانی منهتن هیچ‌گونه بهره‌کشی جنسی را تحمل نمی‌کند و اجازه نخواهد داد کسب‌وکارها از انتشار و توزیع تصاویر و ویدئوهای جنسی بدون رضایت، چه تولیدشده با هوش مصنوعی و چه واقعی، سود ببرند.
نام این سایت‌ها اعلام نشده است، اما براساس اعلام دادستانی، آنها به‌صراحت خود را به‌عنوان پلتفرم‌های تولید محتوای مستهجن دیپ‌فیک معرفی می‌کردند.
براگ همچنین گفت مقام‌های قضایی به نظارت بر این سایت‌ها ادامه خواهند داد و تلاش خواهند کرد در صورت احیای این پلتفرم‌ها با استفاده از دامنه‌های جدید، آنها را بار دیگر از دسترس خارج کنند.
دولت‌ها و شرکت‌های بزرگ فناوری مانند مایکروسافت طی دو سال گذشته تلاش کرده‌اند با گسترش سایت‌های تولید دیپ‌فیک‌های جنسی با هوش مصنوعی مقابله کنند.
مایکروسافت سال گذشته از شش توسعه‌دهنده شکایت کرد که از خدمات آژور اوپن‌ای‌آی این شرکت برای تولید «تصاویر صمیمی بدون رضایت از افراد مشهور و دیگر محتوای جنسی صریح» استفاده کرده بودند.
اوایل سال جاری میلادی نیز کمیسیون اروپا تحقیقاتی را درباره شبکه اجتماعی ایکس آغاز کرد؛ این تحقیقات پس از آن صورت گرفت که ابزار هوش مصنوعی گروک این پلتفرم برای تولید تصاویر جنسی از یک فرد زیر سن قانونی مورد استفاده قرار گرفت.
