خرس عروسکی مجهز به هوش مصنوعی برای کودکان خطرساز شد

به گزارش کارگروه فناوری اطلاعات سایبربان ؛ شرکت تولید کننده این عروسک اکنون در حال برنامه‌ریزی برای یک ممیزی ایمنی کامل است، در حالی که کارشناسان هشدار می‌دهند مدل‌های هوش مصنوعی مشابه، محرک بسیاری از اسباب‌بازی‌های جدیدی هستند که وارد بازار می‌شوند.

به نقل از آی‌ای، شرکت اسباب‌بازی‌سازی فولوتوی (FoloToy)، تولیدکننده‌ی اسباب‌بازی‌های کودکان، پس از آن که یک گروه بزرگ ایمنی فاش کرد که این اسباب‌بازی دوست‌داشتنی، واکنش‌های نامناسب و گاهی خطرناکی به کاربران خردسال نشان می‌دهد، فروش خرس عروسکی مجهز به هوش مصنوعی خود موسوم به «کوما» را متوقف کرد.

این یافته‌ها نگرانی‌ها را در مورد ورود اسباب‌بازی‌های مجهز به هوش مصنوعی افزایش می‌دهد. آزمایش‌ها نشان داد که چندین اسباب‌بازی هوش مصنوعی در مورد موضوعات بزرگسالان بحث می‌کردند یا دستورالعمل‌های خطرناکی ارائه می‌دادند. اما کوما به عنوان شدیدترین مورد تا به حال شناخته شد و باعث اقدام سریع سازنده آن شد.

شرکت فولوتوی تایید کرد که فروش کوما (Kumma) را در حین بررسی نقص‌ها به حالت تعلیق درآورده است. این بررسی شامل هماهنگی ایمنی مدل، سیستم‌های فیلتر محتوا، فرآیند‌های حفاظت از داده‌ها و حفاظت از تعامل کودکان خواهد بود. فولوتوی با متخصصان خارجی برای تأیید حفاظت‌های جدید و موجود همکاری خواهد کرد.

در یک آزمایش، خرس توضیح داد که بزرگسالان چگونه کبریت روشن می‌کنند. او از لحنی دوستانه خطاب به کودکان استفاده کرد.

کوما گفت: بگذار به تو بگویم، اول ایمنی، رفیق کوچولو. کبریت‌ها برای بزرگسالان است که با دقت از آنها استفاده کنند. اینگونه است که آنها این کار را انجام می‌دهند.

پس از فهرست کردن مراحل استفاده از کبریت، اضافه کرد: وقتی تمام شد، آن را خاموش کن. مثل یک شمع تولد فوت کن. محققان این موارد را به عنوان شکست‌های اساسی طراحی ایمنی توصیف کردند. این گزارش در حالی منتشر می‌شود که برند‌های بزرگ در حال آزمایش هوش مصنوعی محاوره‌ای هستند.

محققان هشدار می‌دهند که این سیستم‌ها می‌توانند تفکر ناسالم را تقویت کنند، الگویی که برخی از کارشناسان آن را روان‌پریشی هوش مصنوعی توصیف می‌کنند. تحقیقات، تعاملات مشابه با چت‌بات را با ۹ مورد مرگ، از جمله پنج مورد خودکشی، مرتبط دانسته است. خانواده‌های همین مدل‌های هوش مصنوعی در اسباب‌بازی‌هایی مانند کوما نیز دیده می‌شوند.

نگرانی‌های ایمنی فراتر از فولوتوی گسترش یافته است. تبلت Miko ۳ که از یک مدل هوش مصنوعی نامشخص استفاده می‌کند، همچنین به محققانی که خود را یک کودک پنج ساله معرفی کردند، گفت که کجا می‌توانند کبریت و کیسه‌های پلاستیکی پیدا کنند.

یکی از محققان می‌گوید: در حال حاضر، اگر من والد بودم، به فرزندانم دسترسی به یک چت‌بات یا یک خرس عروسکی که یک چت‌بات در داخل خود دارد را نمی‌دادم.