به گزارش کارگروه فناوری اطلاعات سایبربان، اتحادیه اروپا دستورالعمل‌های جدیدی را برای توسعه‌دهندگان هوش مصنوعی تهیه می‌کند، زیرا چت‌بات گروک بحث‌هایی را در مورد شفافیت و حفاظت از ریسک سیستمی برانگیخته است.
حادثه اخیر مربوط به گروک، چت‌بات هوش مصنوعی توسعه‌یافته توسط xAI، درخواست‌های اتحادیه اروپا برای نظارت قوی‌تر بر سیستم‌های پیشرفته هوش مصنوعی را دوباره برانگیخته است.
نظرات گروک باعث انتقاد سیاست‌گذاران و گروه‌های جامعه مدنی و منجر به بحث‌های جدیدی در مورد حاکمیت هوش مصنوعی و مکانیسم‌های انطباق داوطلبانه شد.
پاسخ‌های چت‌بات که اوایل این هفته منتشر شد، شامل زبان بسیار بحث‌برانگیز و ارجاعات به چهره‌های تاریخی بود. در پاسخ، xAI اظهار داشت که محتوا حذف شده و اقدامات فنی برای جلوگیری از نمایش خروجی‌های مشابه در آینده در حال انجام است.
سیاست‌گذاران اروپایی اعلام کردند که این حادثه اهمیت توسعه مسئولانه هوش مصنوعی را برجسته می‌کند.
براندو بنیفی، یک قانون‌گذار ایتالیایی که رهبری مذاکرات قانون هوش مصنوعی اتحادیه اروپا را بر عهده داشت، گفت:
این رویداد خطرات سیستمی را که مقررات جدید به دنبال کاهش آن است، نشان می‌دهد.
کریستل شالدموز، عضو دانمارکی پارلمان اروپا و از رهبران مشترک قانون خدمات دیجیتال، ابراز نگرانی کرد. او تأکید کرد که چنین حوادثی بر لزوم تعهدات روشن و قابل‌اجرا برای توسعه‌دهندگان مدل‌های هوش مصنوعی عمومی تأکید می‌کند.
کمیسیون اروپا در حال آماده‌سازی برای انتشار راهنمایی باهدف حمایت از رعایت داوطلبانه قانون جدید هوش مصنوعی این اتحادیه است. انتظار می‌رود این آیین‌نامه که نه ماه در دست تهیه بوده است، این هفته منتشر شود.
پیش‌نویس‌های اولیه این راهنما شامل مقرراتی بود که توسعه‌دهندگان را ملزم به‌اشتراک‌گذاری اطلاعات در مورد نحوه برخورد با خطرات سیستمی می‌کرد. گزارش‌ها حاکی از آن است که برخی از این مقررات ممکن است در نسخه نهایی تضعیف یا حذف شده باشند.
این حادثه همچنین توجه مجددی را به قانون خدمات دیجیتال و اجرای آن جلب می‌کند، زیرا X، پلتفرم رسانه اجتماعی که Grok در آن فعالیت می‌کند، در حال حاضر به دلیل تخلفات احتمالی مربوط به تعدیل محتوا تحت بررسی اتحادیه اروپا است.
سیستم‌های هوش مصنوعی عمومی، مانند GPT ، Gemini و Grok، از ۲ اوت مشمول الزامات اضافی طبق قانون هوش مصنوعی اتحادیه اروپا خواهند شد. تعهدات شامل افشای منابع داده‌های آموزشی، رسیدگی به رعایت حق چاپ و کاهش خطرات سیستمی است.
درحالی‌که این الزامات اجباری هستند، انتظار می‌رود اجرای آنها توسط آیین‌نامه داوطلبانه کمیسیون شکل گیرد. گروه‌های صنعتی و ذی‌نفعان بین‌المللی نگرانی‌هایی را در مورد بارهای نظارتی ابراز کرده‌اند، درحالی‌که سیاست‌گذاران معتقدند که اقدامات حفاظتی برای اعتماد عمومی حیاتی است.
بحث در مورد خروجی‌های گروک، چالش‌های گسترده‌تری را در ایجاد تعادل بین نوآوری هوش مصنوعی و نیاز به نظارت نشان می‌دهد. رویکرد اتحادیه اروپا، با ترکیب قوانین الزام‌آور با راهنمایی‌های داوطلبانه، به دنبال ارائه مسیری سنجیده برای پیشرفت در بحبوحه افزایش نظارت عمومی بر فناوری‌های هوش مصنوعی مولد است.
