به گزارش کارگروه فناوری اطلاعات سایبربان ؛ به نقل از تک کرانچ، گروک چت بات هوش مصنوعی ایلان ماسک، به دلیل یک باگ به پست های متعدد در شبکه اجتماعی ایکس با اطلاعاتی درباره «نسل کشی سفید پوست ها»در آفریقای جنوبی حتی هنگامیکه کاربر سوالی در این موضوع نپرسیده بود، پاسخ می داد.
این پاسخ های عجیب از یک حساب کاربری ایکس برای گروک سرچشمه می گرفت که هرگاه یک کاربر grok@را تگ می کند، با پست های تولید شده با هوش مصنوعی به وی پاسخ می دهد. هنگامیکه از گروک درباره موضوعات غیر مرتبط پرسیده شد، این چت بات مکررا درباره نسل کشی سفید پوست ها و همچنین یک سرود ضد آپارتاید پاسخ می داد.
در یکی از نمونه رفتارهای عجیب گروک، هنگامیکه کاربر درباره دستمزد سالانه یک بازیکن حرفه ای بیس بال سوال پرسید، این چت بات پاسخ داد ادعای نسل کشی سفیدپوست ها در آفریقای جنوبی مورد بحث و جدل است.
پاسخ های عجیب و بی ربط گروک نشان میدهند که چت بات های هوش مصنوعی هنوز یک فناوری نوپا هستند و احتمالا منبع معتبری برای اطلاعات به حساب نمی آیند. تهیهکنندگان مدل های هوش مصنوعی در ماه های اخیر برای بازبینی پاسخ هایی که چت بات هایشان می دهند، با چالش روبرو شده اند.
اوپن ای آی اخیرا مجبور شد یک آپدیت چت جی پی تی را که باعث میشد چت ربات هوش مصنوعی بیش از حد متعصب شود، لغو کند. از سوی دیگر، چت بات جمینای گوگل نیز با پاسخگویی یا ارائه اطلاعات نادرست در مورد موضوعات سیاسی، مشکلاتی برای شرکت به وجود آورده است.
