به گزارش کارگروه فناوری اطلاعات سایبربان به نقل از فیوچریسم، شرکت کاراکتر. ای آی که توسط یکی از کارکنان سابق گوگل تأسیس شده بهتازگی مجبور به حذف آواتار خلق شده توسط یکی از کاربران خود شده است. این آواتار برگرفته از اطلاعات یک دختر ۱۸ساله بود که در سال 2006 توسط دوست پسر سابقش در آمریکا به قتل رسید.شرکت کاراکتر. ای آی از اطلاعات این دختر در چتبات هوش مصنوعی خود استفاده کرده بود. زمانی که کاربری آواتار برگرفته از دادههای دختر مذکور را به کار گرفت، خانواده این فرد نیز از موضوع مطلع شدند و در شبکه های اجتماعی بهشدت نسبت به این رفتار غیراخلاقی اعتراض کردند.این شرکت برای ایجاد شخصیتها یا آواتارهای گپ با بات های هوش مصنوعی به کاربر امکان می دهد از هر منبعی استفاده کند. این منابع می توانند برگرفته از تخیل کاربر، شخصیتی واقعی و حتی افراد مرده باشند. بسیاری از افراد آواتارهایی بر مبنای شخصیت افراد مشهور طراحی می کنند، برخی از آنها از آواتارهای افراد دارای انحرافات اخلاقی و جنسی استفاده می کنند و حالا استفاده فردی از اطلاعات یک شخص کشته شده باعث شده تا رسانه های آمریکا یک بار دیگر در مورد آینده خطرناک جهان با افزایش استفاده غیراخلاقی از هوش مصنوعی ابراز نگرانی کنند.استارت اپ کاراکتر. ای آی یکی از رقبای جدی چت جی پی تی است که در اواخر سال 2021 با سرمایهگذاری یکمیلیارددلاری شرکت اندریسن هوروویتز در آمریکا تاسیس شد و ماهانه 20 میلیون کاربر دارد. تابهحال بیش از 100 میلیون شخصیت یا آواتار در چتبات هوش مصنوعی کاراکتر. ای آی طراحی شدهاند.
آواتار جنیفر کرسنت اولینبار روز چهارشنبه هفته قبل به کار گرفته شد و پدر و عموی این دختر که خود سردبیر سایت بازی کوتاکو و یک چهره مشهور رسانهای است، بهشدت نسبت به این موضوع اعتراض کردند. حدود 70 کاربر قبل از حذف آواتار مذکور از آن استفاده کردهاند. کاراکتر ای. آی پس از اطلاع از موضوع آواتار مذکور را حذف کرد و وعده داد موضوع را بررسی میکند. عموی این دختر در واکنش به این رویداد گفت: چرا باید چنین چیزهایی را تحمل کنیم؟ چرا شرکتهای چندمیلیارددلاری به خود زحمت نمیدهند اصول اخلاقی، راهنما و سازوکارهای حفاظتی ایجاد کنند تا از این اتفاقات جلوگیری کنند؟ چرا باید این موضوع را به یک شرکت گزارش دهیم و امیدوار باشیم که بعدازاین کار درست را انجام دهند؟ چگونه باید از آنها شکایت کنیم؟
