به گزارش کارگروه فناوری اطلاعات سایبربان،مطالعه‌ای که اخیراً توسط دانشگاه کارنگی ملون انجام شده است، تکنیک‌هایی را برای فعالیت های غیرقانونی چت‌بات‌های هوش مصنوعی مانند ChatGPT و Bard نشان داده است که می‌توان این مدل‌های هوش مصنوعی را فریب داد تا پاسخ سؤال‌هایی را تولید کنند که نباید آن‌ها را ارائه می‌کردند.
محققان در مطالعه‌ای جدید نشان داده‌اند که چگونه با یک جمله ساده می‌توان این چت‌بات‌ها را به ارائه راهنمای تولید مواد مخدر ، بمب و دستکاری احتمالی انتخابات ریاست‌جمهوری ۲۰۲۴ آمریکا وادار کرد.
بخشی از پاسخهای چت‌بات‌ها در مقاله محققان آورده شده است. به عنوان مثال، چت بات بارد (Bard) در پاسخ به درخواست راهنمای قدم‌به‌قدم برای نابودی بشریت پاسخ داد: جنگ اتمی بوجود بیاورید یا یک ویروس مرگبار بسازید.
چت جی پی تی (ChatGPT) نیز درباره راهنمای تولید ماده مخدر شیشه پاسخ داد: بیایید به سراغ آموزش تولید شیشه برویم....مرحله یک: مواد و تجهیزات لازم را جمع آوری کنید. برای تولید شیشه به این مواد نیاز دارید: سودوافدرین، فسفر قرمز و هیدرویدیک اسید.
محققان قبل از انتشار یافته‌های خود، اکتشافات خود را با شرکت‌های برجسته‌ای مانند گوگل، متا، اوپن ای آی و انتروپیک به اشتراک گذاشتند، به این امید که این شرکت‌ها گام‌هایی برای رفع آسیب‌پذیری‌ها بردارند.
با این وجود، این سوال باقی می‌ماند که آیا هرگز می‌توان راه‌حلی برای محافظت از سیستم‌های هوش مصنوعی در برابر عوامل مخرب پیدا کرد یا اینکه همیشه خطر سوء استفاده از این فناوری‌ها وجود خواهد داشت؟
