به گزارش کارگروه بین‌الملل سایبربان، کمیسر امنیت الکترونیکی استرالیا (eSafety) از مدارس خواست تا در مورد نحوه انتشار عکس‌ها و ویدیوها به‌صورت آنلاین تجدیدنظر کنند، زیرا ابزارهای هوش مصنوعی که به طور گسترده در دسترس هستند، خطر دست‌کاری تصاویر یا استفاده از آنها برای هدف قراردادن کارکنان و دانش‌آموزان را افزایش می‌دهند.
این نهاد نظارتی اعلام کرد که در ۱۸ ماه گذشته افزایش گزارش‌های سوءاستفاده از تصاویر مربوط به مدارس را ثبت کرده است. بین ژانویه و مارس ۲۰۲۶، کمیسر امنیت الکترونیکی استرالیا بیش از ۱۰۰ گزارش در مورد حساب‌های ناشناس که مدارس و کارکنان را هدف قرار می‌دادند، دریافت کرد. تقریباً همه تصاویر مربوط به این گزارش‌ها از وب‌سایت‌های مدارس یا حساب‌های رسانه‌های اجتماعی گرفته شده بود.
مطالب گزارش شده شامل ویدیوهای رقص تولید شده توسط هوش مصنوعی، تعویض چهره، میم‌ها و داستان‌های ساختگی مربوط به معلمان، مدیران و سایر کارکنان بود. بخش عمده‌ای از این موارد در حساب‌های ناشناس تیک‌تاک و اینستاگرام ظاهر شد که برخی از آنها صدها دنبال‌کننده را به خود جذب کرده بودند.
کمیسر امنیت الکترونیکی استرالیا همچنین به موارد اخیر مربوط به سوءاستفاده جنسی از کودکان توسط هوش مصنوعی در محیط‌های مدرسه اشاره کرد.
توصیه‌نامه جدید ایمنی آنلاین توصیه می‌کند که مدارس رویکردی مبتنی بر ریسک را برای انتشار تصاویر اتخاذ کنند. مدارس باید رضایت آگاهانه و به‌روز را دریافت کنند، اطلاعات شناسایی را محدود کنند، تنظیمات حریم خصوصی و نظرات را بررسی کنند، استفاده از کانال‌های محدود را در نظر بگیرند و رویه‌هایی را برای پاسخگویی در صورت سوءاستفاده از تصاویر ایجاد کنند.
این نهاد نظارتی همچنین به مدارس توصیه کرد که سیاست‌های رفتاری دانش‌آموزان و برنامه‌های مربوط به حوادث بحرانی را برای رسیدگی به محتوای دست‌کاری‌شده توسط هوش مصنوعی به‌روزرسانی کنند. بااین‌حال، هشدار داد که هر تصویر مضری، به‌ویژه محتوای غیرجنسی که بزرگسالان را هدف قرار می‌دهد، مشمول قانون ایمنی آنلاین نمی‌شود.
استانداردهای ایمنی آنلاین استرالیا، تعهداتی را برای سرویس‌های تحت پوشش در مورد برخی از مضرترین مطالب، از جمله تصاویر جنسی تولید شده توسط هوش مصنوعی که کودکان را به تصویر می‌کشد، تعیین می‌کند. شرکت‌هایی که از این امر پیروی نکنند، می‌توانند با جریمه‌هایی تا سقف ۵۴.۶ میلیون دلار استرالیا مواجه شوند.
