استفاده کودکان استرالیایی از دستیاران هوش مصنوعی

به گزارش کارگروه فناوری اطلاعات سایبربان، بر اساس تحقیقات منتشر شده توسط کمیسر ایمنی الکترونیکی استرالیا، بیش از سه‌چهارم کودکان استرالیایی ۱۰ تا ۱۷ساله از یک دستیار هوش مصنوعی استفاده کرده‌اند.

این یافته‌ها بر اساس یک نظرسنجی آنلاین از ۱۹۵۰ کودک است که بین ۲ فوریه و ۴ مارس ۲۰۲۶ انجام شده است. حدود ۷۸٪ از آنها از یک دستیار هوش مصنوعی استفاده کرده‌اند، درحالی‌که ۸٪ از یک همراه هوش مصنوعی که برای ارائه دوستی یا حمایت عاطفی طراحی شده است، استفاده کرده‌اند. چت جی‌پی‌تی (ChatGPT) پرکاربردترین سرویس بود که به ۷۰٪ از کودکان مورد بررسی دسترسی داشت.

بیشتر کودکان از این ابزارها برای کسب اطلاعات، یادگیری، ترجمه، نوشتن یا سرگرمی استفاده می‌کردند. بااین‌حال، ۵۴٪ از کسانی که از یک دستیار یا همراه هوش مصنوعی استفاده کرده بودند، به دلایل شخصی یا اجتماعی نیز به آن روی آورده بودند. حدود یک‌سوم آنها در مورد یک موقعیت یا سلامت جسمی خود به دنبال مشاوره بودند، ۲۲٪ در مورد احساسات خود صحبت می‌کردند و ۲۰٪ در مورد سلامت روان یا رفاه سؤال می‌پرسیدند.

میزان استفاده بر اساس سن متفاوت بود. حدود ۸۷ درصد از نوجوانان از یک دستیار هوش مصنوعی استفاده کرده بودند، درحالی‌که این رقم برای کودکان ۱۰ تا ۱۲ساله ۶۴ درصد بود. نوجوانان بزرگ‌تر نیز بیشتر به دنبال مشاوره شخصی و مرتبط با سلامت بودند، درحالی‌که کودکان کوچک‌تر معمولاً از این ابزارها برای سرگرمی یا گفتگوهای غیررسمی استفاده می‌کردند.

از هر پنج کاربر، یک نفر تعاملات بالقوه نامناسب یا مضر، از جمله رفتار کنترل‌کننده، محتوای نفرت‌انگیز، توصیه‌های مضر یا قلدری را گزارش کرده است. حدود ۳۲ درصد اطلاعات شخصی یا بالقوه حساسی فراتر از جزئیات ثبت‌نام معمول، از جمله عکس‌ها و اسرار را به اشتراک گذاشته بودند.

کمیسر ایمنی الکترونیکی گفت:

 ابزارهای هوش مصنوعی می‌توانند مزایای آموزشی و عملی ارائه دهند، اما نباید جایگزین بزرگسالان مورداعتماد شوند، زمانی که کودکان به حمایت شخصی یا عاطفی نیاز دارند. 

این گزارش خواستار اقدامات ایمنی قوی بر اساس طراحی، ابزارهای گزارش‌دهی واضح و شفافیت بیشتر در مورد نحوه جمع‌آوری و استفاده از اطلاعات کودکان است.

طبق ضوابط و استانداردهای ایمنی آنلاین استرالیا، برخی از سرویس‌های هوش مصنوعی مولد و ویژگی‌های همراه هوش مصنوعی باید خطر تولید محتوای غیرقانونی یا محدود به سن خاص را ارزیابی و کاهش دهند. الزامات به نوع سرویس، ویژگی‌های آن و مشخصات ریسک ارزیابی شده آن بستگی دارد.