به گزارش کارگروه فناوری اطلاعات سایبربان؛ تراژدی مرگ یک نوجوان پس از تعامل با چتجیپیتی (ChatGPT)، «OpenAI» را مجبور به ایجاد تغییرات امنیتی قابل توجهی کرد. کنترل والدین اکنون در این پلتفرم معرفی شده است.
این ویژگی اکنون فعال است و به والدین اجازه میدهد محدودیتهایی را برای نحوه استفاده فرزندانشان از چتجیپیتی تعیین کنند؛ به عنوان مثال، در حال حاضر والدین میتوانند دسترسی به موضوعات حساس را مسدود، محدودیتهای روزانهای را برای مدت زمانی که بچهها مجاز به گذراندن در پلتفرم هستند، تعیین و حتی تاریخچه چت خود را با ربات بررسی و از این طریق از ایمن بودن مکالمات اطمینان حاصل کنند.
ویژگی جدید همچنین به والدین این امکان را میدهد که در صورت مشاهده علائم پریشانی در مکالمات فرزندشان توسط چتجیپیتی، مطلع شوند. در ابتدا، خود ربات باید علائم پریشانی را تشخیص دهد که بعداً توسط یک بررسیکننده انسانی دنبال میشود که تصمیم میگیرد آیا این مورد ارزش گزارش به والدین را دارد یا خیر.
این هشدارها را میتوان از طریق ایمیل، پیامهای متنی یا اعلانی از برنامه چتجیپیتی دریافت کرد.
لورن جوناس (Lauren Jonas)، رئیس رفاه جوانان OpenAI، به بلومبرگ گفت:
«ما مدتی است که در این مورد فوریت احساس کردهایم. این هشدارها به منظور ارائه اطلاعات کافی در مورد مکالمه با ربات برای تشویق والدین به صحبت با فرزندانشان است. شرکت مکالمات را با والدین به اشتراک نخواهد گذاشت.»
چه ویژگیهای دیگری از چتجیپیتی اکنون توسط والدین کنترل میشوند؟
برای احتیاط بیشتر، والدین میتوانند بازههای زمانی مشخصی را تعیین کنند که بچهها بتوانند به ربات دسترسی داشته باشند و مواردی مانند موارد زیر را کنترل کنند:
• دسترسی کودکان به حالت صوتی چتجیپیتی
• امکان تولید تصاویر
• اجازه دادن به چتبات برای ارجاع به مکالمات گذشته
• اجازه دادن به بچهها برای استفاده از نسخه چتبات که برای نمایش اطلاعات کمتر در مورد موضوعات اغلب حساس، مانند سخنان نفرتپراکن، رژیم غذایی یا رابطه جنسی طراحی شده است.
همه این اقدامات را میتوان در تنظیمات چتجیپیتی فعال کرد. یک کاربر بزرگسال چتجیپیتی اکنون میتواند یک درخواست ایمیل برای فرزندان خود ارسال کند و هنگامی که آن را پذیرفت، والدین میتوانند تنظیمات ربات را به دلخواه خود سفارشی کنند.
علاوه بر این، OpenAI اکنون روی نرمافزاری برای پیشبینی سن کاربر کار میکند، زیرا این ابزار برای افراد ۱۳ سال یا بالاتر در نظر گرفته شده است.
علت معرفی کنترل والدین توسط چتجیپیتی
OpenAI از زمان مرگ آدام رین (Adam Raine)، دانشآموز دبیرستانی کالیفرنیایی که از چتجیپیتی دستورالعملها و تشویقهای خاصی برای خودکشی دریافت کرده بود، تحت فشار بوده است. پس از درگذشت این مرد جوان، والدینش از OpenAI و مدیرعامل آن، سم آلتمن (Sam Altman)، شکایت کردند؛ در این مورد، خانواده ادعا کردند که چتجیپیتی به طور سیستماتیک پسرشان را از ارتباط با خانواده و عزیزانش محروم و در برنامهریزی خودکشی او کمک کرده است.
