به گزارش کارگروه فناوری اطلاعات سایبربان، یک هیئتعلمی تحت حمایت سازمان ملل متحد هشدار داد که قابلیتهای هوش مصنوعی سریعتر از توانایی دولتها در ارزیابی و مدیریت آنها در حال پیشرفت است و این نگرانی را ایجاد میکند که نظارت نمیتواند با سیستمهای قدرتمندتر همگام شود.
هیئتعلمی بینالمللی مستقل در مورد هوش مصنوعی، متشکل از ۴۰ متخصص، دریافت که سیستمهای هوش مصنوعی در معیارهای کلیدی بهسرعت در حال پیشرفت هستند. بااینحال، هشدار داد که روشهای ارزیابی موجود با نزدیکشدن مدلها به عملکرد تقریباً بینقص یا سازگاری با شرایط آزمایش، کمتر قابلاعتماد میشوند.
باوجوداین پیشرفتها، گزارش تأکید میکند که مزایا در زمینههایی مانند آموزش و تحقیقات علمی تضمین شده نیست. نتایج بهشدت به حفاظتهای نهادی، آمادگی معلمان و اینکه آیا سیستمهای هوش مصنوعی برای پشتیبانی از یادگیری بهجای جایگزینی تفکر انتقادی طراحی شدهاند، بستگی دارد.
این هیئت همچنین در مورد خطرات ساختاری، از جمله تمرکز توسعه هوش مصنوعی در بین تعداد کمی از شرکتها و کشورها، پوشش ناهموار زبان و ظرفیت محدود ارزیابی مستقل در بیشتر جهان هشدار میدهد. طبق این گزارش، این عدم تعادلها میتواند هم دسترسی به هوش مصنوعی و هم توانایی مدیریت خطرات آن را شکل دهد.
