به گزارش کارگروه فناوری اطلاعات سایبربان، سوءاستفاده از دیپ‌فیک در راستای آزار و اذیت همسالان در مدارس در حال ظهور است و عمدتاً دختران را با تصاویر صریح تولید شده توسط هوش مصنوعی هدف قرار می‌دهد.
تصاویر مستهجن تولید شده توسط هوش مصنوعی در بین نوجوانان با نظارت قانونی کم در حال گسترش است.
ابزارهایی که زمانی نیاز به مهارت فنی داشتند، اکنون به‌راحتی در دسترس جوانان قرار دارند و امکان ایجاد و اشتراک‌گذاری محتوای مضر را در عرض چند ثانیه فراهم می‌کنند.
اگرچه همه ایالت‌های ایالات متحده و واشنگتن‌دی‌سی قوانینی در مورد توزیع تصاویر صمیمی بدون رضایت دارند، اما بسیاری از آنها محتوای تولید شده توسط هوش مصنوعی را پوشش نمی‌دهند یا به این واقعیت که افراد زیر سن قانونی اغلب هم قربانی و هم مجرم هستند، نمی‌پردازند.
برخی ایالت‌ها شروع به تطبیق قوانین جهت مجازات متناسب و مداخلات رفتاری برای افراد زیر سن قانونی کرده‌اند.
مدافعان استدلال می‌کنند که آموزش در مورد هوش مصنوعی، رضایت و سواد دیجیتال برای رسیدگی به علل ریشه‌ای و کمک به جوانان در درک عواقب اعمالشان ضروری است.
نظارت بر پلتفرم‌های فناوری و توسعه‌دهندگان برنامه‌ها نیز کلیدی است، زیرا شرکت‌ها همچنان از ابزارهای مورد استفاده در استثمار دیجیتال سود می‌برند.
کارشناسان می‌گویند مدارس، خانواده‌ها، قانون‌گذاران و پلتفرم‌ها باید مسئولیت مهار گسترش سوءاستفاده تولید شده توسط هوش مصنوعی و تضمین حمایت از افراد آسیب‌دیده را به اشتراک بگذارند.
