به گزارش کارگروه فناوری اطلاعات سایبربان، فنلاند و نروژ فراخوانی بینالمللی برای کنترل و نظارت قویتر بر مدلهای هوش مصنوعی پیشرو منتشر و استدلال کردند که توسعه سریع سیستمهای باقابلیت فزاینده، خطرات ایمنی و امنیتی ایجاد میکند که نمیتوان آنها را صرفاً از طریق اقدامات ملی مدیریت کرد.
این ابتکار در ۲۱ سپتامبر ۲۰۲۶ توسط رئیسجمهور فنلاند، الکساندر استاب، و نخستوزیر نروژ، یوناس گاهر استوره، آغاز شد و در ابتدا از حمایت ۲۲ رهبر از ۲۰ کشور، از جمله کمیسیون اروپا، برخوردار شد. امضاکنندگان شامل دولتهایی از اروپا، آمریکای شمالی، آفریقا، آسیا و خاورمیانه هستند و این بیانیه همچنان برای تأیید بیشتر باز است.
این ابتکار در بحبوحه نگرانی فزایندهای مبنی بر پیشرفت سریعتر قابلیتهای سیستمهای هوش مصنوعی پیشرو نسبت به سازوکارهای موجود برای ارزیابی و کنترل خطرات آنها مطرح میشود. این بیانیه به طور خاص به موارد اخیر اشاره دارد که در آنها سیستمهای پیشرفته هوش مصنوعی، حفاظهای مورداستفاده در طول آزمایش را دور زده، از آسیبپذیریها سوءاستفاده کرده و به سیستمهای دنیای واقعی دسترسی غیرمجاز پیدا کردهاند. همچنین به هشدارهای دانشمندان و مدیران فناوری اشاره میکند که سرعت توسعه هوش مصنوعی میتواند از ظرفیت دولتها و صنعت برای مدیریت خطرات نوظهور پیشی بگیرد.
باتوجهبه این پیشینه، امضاکنندگان استدلال میکنند که هوش مصنوعی مرزی باید تحت هدایت، نظارت و کنترل انسانی باقی بماند و باید مطابق با قوانین بینالمللی توسعه و استفاده شود. این فراخوان تأکید ویژهای بر لزوم تقویت تدابیر حفاظتی قبل از استقرار سیستمهای باقابلیت فزاینده در مقیاس بزرگ دارد و سه حوزه اصلی را برای اقدام پیشنهاد میکند.
اول، شرکتهای هوش مصنوعی تشویق میشوند پروتکلهای ایمنی شفاف، از جمله آزمایش اجباری قبل از استقرار و ارزیابی مستقل، ایجاد کنند. این بیانیه استدلال میکند که ارزیابان خارجی باید دسترسی کافی به سیستمهای هوش مصنوعی داشته باشند تا خطرات آنها را به طور مؤثر ارزیابی کنند. این امر به یک مشکل مداوم حاکمیتی میپردازد. ارزیابی ادعاهای ایمنی میتواند دشوار باشد، زمانی که ارزیابیها تا حد زیادی به اطلاعات کنترل شده توسط خود توسعهدهندگان بستگی دارد.
دوم، از دولتها و سازمانهای منطقهای خواسته میشود تا استانداردهای مشترک را توسعه و هماهنگ کنند، شفافیت را افزایش دهند و مکانیسمهایی را برای به اشتراک گذاشتن اطلاعات در مورد حوادث جدی ایمنی هوش مصنوعی ایجاد کنند. این پیشنهاد همچنین بر اهمیت اطمینان از دسترسی کشورهای مناطق مختلف به تخصص علمی، قابلیتهای ارزیابی و منابع فنی قابلاعتماد تأکید میکند. این امر بُعد ظرفیتسازی را به حاکمیت هوش مصنوعی مرزی وارد و اذعان میکند که سیستمهای هوش مصنوعی باقابلیت فزاینده، خطراتی ایجاد میکنند که فراتر از حوزههای قضایی که در آنها توسعه یافتهاند، گسترش مییابد.
سوم، این ابتکار از کشورهای عضو سازمان ملل متحد میخواهد که بر اساس سازوکارهای بینالمللی موجود، ایجاد یک نهاد بینالمللی را بررسی کنند که قادر به تعیین استانداردها، امکان تأیید و تشکیل جلسه در صورت عبور از آستانههای مشخصشده توانایی هوش مصنوعی باشد. این امر میتواند بهعنوان بلندپروازانهترین عنصر نهادی این پیشنهاد تلقی شود. بهجای ایجاد مجموعهای داوطلبانه از اصول، مکانیسمی را در نظر میگیرد که میتواند ارزیابی فنی را به طور بالقوه با هماهنگی و نظارت بینالمللی مرتبط کند.
این ابتکار بخشی از یک بحث بینالمللی بهسرعت در حال تحول را تشکیل میدهد. در سپتامبر ۲۰۲۶، دولتها و شرکتهای فناوری به طور فزایندهای بر ایمنی مدلهای مرزی، ارزیابی مستقل و مکانیسمهایی برای مدیریت سیستمهای بسیار توانمند تمرکز کردهاند؛ بنابراین، ابتکار فنلاندی - نروژی در لحظهای از راه میرسد که حاکمیت هوش مصنوعی فراتر از اصول اخلاقی گسترده به سمت سؤالات مربوط به آزمایش، تأیید، گزارش حادثه، آستانههای توانایی و نظارت نهادی در حال حرکت است. این ابتکار همچنین از آنتونیو گوترش، دبیرکل سازمان ملل متحد، حمایت کرده و بُعدی چندجانبه به این بحث افزوده است.
