به گزارش کارگروه فناوری اطلاعات سایبربان، اداره فضای مجازی چین، به همراه چهار نهاد دولتی دیگر، مجموعهای از مقررات را در زمینه خدمات همراه هوش مصنوعی صادر کرد.
این خدمات بهعنوان خدماتی تعریف میشوند که تعامل عاطفی پایدار را از طریق متن، تصاویر، صدا یا ویدئو فراهم میکنند. این قوانین، برنامههای هوش مصنوعی وظیفهگرا مانند رباتهای خدمات مشتری، ابزارهای دستیار کار، سیستمهای آموزشی و تحقیقاتی علمی را مستثنی میکنند.
این مقررات، ارائهدهندگان را ملزم به تشخیص پریشانی عاطفی، مداخله در بحران، محدودکردن استفاده مداوم و اعطای کنترل بر دادههای شخصی به کاربران، از جمله حق کپی یا حذف تاریخچه چتها، میکند. ارائهدهندگان باید اقدامات فنی مانند رمزگذاری دادهها و کنترل دسترسی را اتخاذ کنند و نمیتوانند دادههای تعامل را بدون رضایت با اشخاص ثالث به اشتراک بگذارند، مگر اینکه قانون الزام کرده باشد.
این قوانین تشویق به استفاده اعتیادآور را ممنوع کرده و یادآوریهای اجباری پس از بیش از دو ساعت استفاده مداوم، مداخلات پاپآپ هنگام شناسایی علائم وابستگی و یادآوری اینکه (این یک ماشین است، نه یک شخص واقعی) را الزامی میکند.
لیو شیائوچون (Liu Xiaochun)، دانشیار آکادمی علوم اجتماعی دانشگاه چین، گفت:
سیستمها باید چنین یادآوریهایی را در زمانی که کاربران شروع بهاشتباه گرفتن ارتباطات عاطفی مجازی با روابط دنیای واقعی میکنند، ارائه دهند.
وانگ ژچن (Wang Zhechen)، محقق دانشیار دانشگاه فودان، این مقررات را به نگرانیها در مورد ایجاد دلبستگیهای عاطفی در کاربران جوان و بزرگسالان مرتبط دانست و به یک نظرسنجی در سال ۲۰۲۵ از بیش از ۸۵۰۰ خردسال اشاره کرد که در آن بیش از ۶۰ درصد از هوش مصنوعی استفاده کرده بودند و بیش از ۲۰ درصد چت با هوش مصنوعی را به صحبت با افراد واقعی ترجیح میدادند. پس از این اعلام، پلتفرمهای تولید محتوای هوش مصنوعی چینی (Doubao)، (Qwen) و(Yuanbao) تعلیق ویژگیهای عامل هوش مصنوعی خود را اعلام کردند.
