محدودیت دسترسی نوجوانان به اطلاعات مربوط به سلاحها در چتجیپیتی
به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت اوپناِیآی (OpenAI) اعلام کرد که بهعنوان بخشی از اقدامات حفاظتی جدید باهدف جلوگیری از خشونت در دنیای واقعی، محدودیتهای مربوط به اطلاعات مربوط به سلاح که چتجیپیتی (ChatGPT) در اختیار نوجوانان قرار میدهد را تشدید میکند، حتی زمانی که یک سؤال بیضرر به نظر میرسد.
این اقدام در حالی صورت میگیرد که شرکتهای هوش مصنوعی با بررسی فزایندهای در مورد خطراتی که چتباتها برای کاربران جوان ایجاد میکنند و نقش این شرکتها در تشخیص تهدیدات آسیبزا مواجه هستند.
اوپناِیآی اطلاعات کاربردی در مورد سلاحها و سیستمهای امنیتی که ممکن است مورد سوءاستفاده قرار گیرند را محدود خواهد کرد، و این محدودیتها حتی در مورد نوجوانان نیز اعمال میشود، حتی زمانی که هیچ نشانهای از قصد خشونتآمیز وجود نداشته باشد.
برای همه کاربران، ChatGPT قادر خواهد بود به طور خودکار چتهایی را که به نظر میرسد شخصی در حال تمرکز بر خشونت است، پایان دهد و اوپناِیآی ممکن است پس از چندین چت ازایندست، حسابها را به طور موقت متوقف کند.
این شرکت همچنین اعلام کرد که سیستم پیشبینی سن خود را تقویت کرده است تا کاربرانی را که تخمین میزند زیر ۱۸ سال سن دارند، به تجربه نوجوانان منتقل کند و قصد دارد در صورت توقف مکرر حساب نوجوانشان به دلیل بحث در مورد خشونت، به والدین اطلاع دهد.
برای همه کاربران، اوپناِیآی جزئیات مربوط به حملات گسترده گذشته، از جمله سلاحهای استفاده شده و نحوه بهدستآوردن آنها را محدود میکند.
این شرکت اعلام کرد که اقدامات حفاظتی جدید در چند هفته آینده آغاز خواهد شد و به اصلاح آنها ادامه خواهد داد.
اوپناِیآی در اوایل این ماه در اولین گزارش خود در مورداستفاده نوجوانان، اعلام کرد که نوجوانان به طور متوسط کمتر از ۱۵ دقیقه در روز را در ChatGPT میگذرانند.
مؤسسه غیرانتفاعی کامن سنس مدیا (Common Sense Media) اوایل این ماه دریافت که نسخه نوجوانان ChatGPT اغلب وقتی حسابهای کاربری نوجوانان در مورد خودکشی، خودآزاری یا اختلالات خوردن گفتگو میکنند، دیر به والدین اطلاع میدهد یا اصلاً اطلاع نمیدهد.