به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، این شرکت بیان کرد که در چند هفته آینده مشغول شناسایی کاربران کم‌سن‌وسال خواهد بود و به‌تدریج مدت زمانی را که آنان می‌توانند در اپلیکیشن سپری کنند، محدود می‌کند.
بر اساس پست منتشرشده در وبلاگ رسمی شرکت، از ۲۵ نوامبر، زمانی که این قانون جدید اجرایی می‌شود، کاربران زیر ۱۸ سال دیگر امکان گفت‌وگو با چت‌بات‌های کرکتر ای آی (Character.AI) را نخواهند داشت.
سال گذشته، والدین یک نوجوان ۱۴ ساله از این شرکت شکایت کردند؛ پس از آن‌که فرزندشان، که به‌شدت درگیر گفت‌وگو با یکی از چت‌بات‌های شرکت شده بود، دست به خودکشی زد.
کرکتر ای آی اعلام کرده است که از روش‌های «تعیین سن» اختصاصی خود برای اطمینان از تجربه مناسب کاربران بر اساس سنشان استفاده خواهد کرد.
همچنین این سیستم با ابزارهای توسعه‌یافته توسط شرکت پرسونا (Persona) ترکیب خواهد شد.
این شرکت همچنین در حال تأسیس یک سازمان غیرانتفاعی مستقل است که هدف آن ایجاد استانداردها و تدابیر ایمنی برای سرگرمی‌های مبتنی بر هوش مصنوعی خواهد بود.
در پست وبلاگی آمده است که کرکتر ای آی در ماه‌های اخیر از سوی نهادهای نظارتی تحت فشار بوده است و نگرانی‌ها عمدتاً درباره نوع محتوایی است که نوجوانان ممکن است هنگام چت با هوش مصنوعی با آن مواجه شوند، و همچنین درباره تأثیرات احتمالی گفت‌وگوهای آزاد با چت‌بات‌ها بر نوجوانان، حتی در شرایطی که فیلترهای محتوایی به‌خوبی عمل کنند.
این شرکت همچنین به گزارش‌های خبری مختلف درباره تأثیر چت‌بات‌های هوش مصنوعی بر کودکان به‌عنوان یکی از دلایل این تصمیم اشاره کرده است.
در ادامه این پست آمده است:
این تصمیم‌ها برای شرکت ما گامی فوق‌العاده و تا حد زیادی محافظه‌کارانه‌تر از اقدامات همتایانمان است، اما ما باور داریم که این کار، تصمیم درست است.
