به گزارش کارگروه فناوری اطلاعات سایبربان، به گفته کارشناسان امنیتی آمریکایی و چینی، یک سامانه هوش مصنوعی که در شبکه فرماندهی هستهای مداخله کند یا یک عملیات سایبری نظامی را آغاز نماید، میتواند واشنگتن یا پکن را تنها با چند دقیقه فرصت برای تصمیمگیری درباره اینکه آیا دولت مقابل دست به حمله زده است یا خیر، مواجه سازد.
این کارشناسان که در چارچوب گفتوگوهای دوجانبه میان آمریکا و چین فعالیت میکنند و یافتههایشان به آگاهیبخشی در مذاکرات رسمی کمک میکند، از هر دو دولت میخواهند تا باتوجهبه نگرانیهای فزاینده پیرامون سامانههایی که روزبهروز قدرتمندتر و خودمختارتر میشوند، برای چنین سناریوهایی آماده شوند.
پیشنهادهای آنها شامل خطوط قرمز پیرامون سیستمهای هستهای، کنترل انسانی بر حملات سایبری متعاقب و یک خط تلفن ویژه برای حوادث مربوط به هوش مصنوعی خودکار است.
این توصیهها هفته گذشته، پیش از مذاکرات برنامهریزیشده در سطح دولتی درباره هوش مصنوعی و دیدار موردانتظار میان دونالد ترامپ، رئیسجمهور آمریکا و شی جینپینگ، رئیسجمهور چین، در واشنگتن (که برای ۲۴ سپتامبر برنامهریزی شده است) منتشر شدند.
ملانی سیسون، عضو ارشد اندیشکده مؤسسه بروکینگز و تیانجیائو جیانگ، دانشیار دانشگاه فودان، در گفتگوی هوش مصنوعی و امنیت ملی ایالات متحده و چین که از سال ۲۰۱۹ توسط بروکینگز و مرکز امنیت و استراتژی بینالمللی دانشگاه تسینگهوا برگزار شده است، شرکت کردند.
پیشنهادهای آنها نشان میدهد که چگونه رقابت هوش مصنوعی ایالات متحده و چین از رقابت بر سر تراشهها و مدلهای پیشرفته فراتر رفته و به سؤالاتی که مدتهاست با کنترل تسلیحات مرتبط هستند، تبدیل شده است.
چگونه میتوان از اشتباه گرفتهشدن حوادث بهعنوان حمله جلوگیری کرد، تصمیمات نظامی ماشینی را محدود کرد و پروتکلهای ارتباطی را برای رقبای مسلح به سلاح هستهای در زمانی که فناوری به طور غیرمنتظرهای رفتار میکند، تعیین کرد.
چن یشین، وزیر امنیت دولتی چین، این هفته در یک رسانه دولتی گفت که هوش مصنوعی اساساً شکل مبارزه نظامی را تغییر میدهد. او با اشاره به حملات هدایتشده توسط هوش مصنوعی در جنگ ایالات متحده و اسرائیل با ایران، گفت:
هوش مصنوعی از ایفای نقش حمایتی در میدان نبرد به نقشی کلیدی تغییریافته است.
سیسون از مؤسسه بروکینگز استدلال کرد که انسانها باید اختیار انحصاری برای شروع حملات سایبری مبتنی بر هوش مصنوعی علیه سیستمهای فرماندهی، کنترل و ارتباطات هستهای یا زیرساختهای مهم استراتژیک کشور دیگر را داشته باشند.
یک سیستم خودمختار میتواند دچار نقص شود، از دستورالعملهایش تجاوز کند یا به خطر بیفتد، درحالیکه کشور مورد حمله ممکن است برای تشخیص اینکه آیا این اقدام تصادفی بوده یا به دستور رقیبش انجام شده، دچار مشکل شود.
جیانگ از دانشگاه فودان، خطوط قرمز صریحی را پیشنهاد کرد که مانع از تصمیمگیری مستقل هوش مصنوعی برای استفاده از سلاحهای هستهای یا حمله خودمختار به سیستمهای فرماندهی هستهای، همراه با محافظت از زیرساختهای حیاتی از جمله انرژی، امور مالی و مراقبتهای بهداشتی میشود.
او همچنین خواستار تعریف مشترکی از (کنترل معنادار انسانی) شد تا مانع از استفاده هر دو کشور از زبان یکسان برای توجیه سطوح مختلف خودمختاری ماشین شود.
این ایده بر اساس اصلی بنا شده است که توسط جو بایدن، رئیسجمهور وقت ایالات متحده و شی جینپینگ در نوامبر ۲۰۲۴ تأیید شد مبنی بر اینکه انسانها باید کنترل تصمیمات مربوط به استفاده از سلاحهای هستهای را حفظ کنند.
لورا سلمان، عضو ارشد وابسته در مؤسسه تحقیقات صلح بینالمللی استکهلم، در ماه فوریه نوشت که این نکته مهمی از همگرایی ایالات متحده و چین است، حتی باوجوداینکه هر دو کشور نشانههایی از ادغام عمیقتر هوش مصنوعی در سیستمهای هستهای و مرتبط با هستهای نشان دادهاند.
جیانگ همچنین یک خط تلفن ویژه نظامی ایالات متحده و چین برای حوادث هوش مصنوعی پیشنهاد داد و هشدار داد که تبادلات سایبری خودکار میتواند خیلی سریع برای مداخله انسانی تشدید شود.
هوش مصنوعی دفاعی یک کشور ممکن است به طور خودکار به فعالیتهای مشکوک پاسخ دهد، درحالیکه طرف دیگر میتواند آن پاسخ را بهعنوان یک حمله تفسیر کند و قبل از اینکه بفهمد واقعاً چه اتفاقی افتاده است، تلافی کند.
یک خط تلفن میتواند به یک دولت اجازه دهد تا به دولت دیگر بگوید که یک عملیات غیرمعمول هوش مصنوعی تصادفی، غیرمجاز یا هنوز در دست بررسی بوده است، قبل از اینکه بهعنوان اقدام عمدی دولت تلقی شود.
بااینحال، کارشناسانی از جمله کارلا فریمن در دانشکده مطالعات پیشرفته بینالمللی جان هاپکینز، با استناد به امتناع مقامات چینی از پاسخ به تماسهای همتایان آمریکایی در مورد حادثه بالن جاسوسی در فوریه ۲۰۲۳، سودمندی خط تلفن ارتباطی بحران نظامی ایالات متحده و چین را زیر سؤال بردهاند.
او در مقالهای نوشت:
سلسلهمراتب سفتوسخت بوروکراسی چین، افسران ردهپایین را از ابتکار عمل در طول تعامل با همتایان آمریکایی محروم میکند.
کارلا فریمن گفت:
هیچکس در سیستم چین نمیخواهد با ایالات متحده ارتباط برقرار کند تا زمانی که رهبری ارشد با مشورت با بازیگران مربوطه در حزب دولت چین در مورد پاسخی تصمیم نگرفته باشد که ممکن است روزها طول بکشد.
هیچ یک از دولتها علناً پیشنهادهای بروکینگز - تسینگهوا را تأیید نکردهاند، اما چین به طور فزایندهای هوش مصنوعی را در بوروکراسی موجود کنترل تسلیحات خود قرار داده است. هوش مصنوعی یک زیرمجموعه رسمی از وزارت کنترل تسلیحات وزارت امور خارجه است که همچنین به سلاحهای هستهای، عدم اشاعه، موشکها و سایر مسائل امنیتی بینالمللی رسیدگی میکند.
شن جیان، سفیر چین در امور خلع سلاح، در نشست سازمان ملل در ژنو در ماه ژوئن گفت که هوش مصنوعی نظامی میتواند بر ثبات استراتژیک تأثیر بگذارد و خطرات محاسبات اشتباه و تشدید درگیری را افزایش دهد و سلاحها باید تحت کنترل انسان باقی بمانند. چین همچنین استدلال میکند که ایمنی هوش مصنوعی نباید به بهانهای برای موانع تکنولوژیکی تبدیل شود.
واشنگتن نهاد واحد و متناظری برای کنترل تسلیحاتیِ هوش مصنوعی ندارد و سیاستهای امنیت ملی در این حوزه میان شورای امنیت ملی کاخ سفید، وزارت امور خارجه، پنتاگون و سایر نهادها توزیع شده است.
هر دو دولت نسبت به اقداماتی که ممکن است روند توسعه فناوری آنها را کند سازد، محتاط هستند. ترامپ هشدار داده است که اعمال محدودیتهای گسترده میتواند مزیتی را نصیب چین کند، درحالیکه پکن بسیاری از تدابیر کنترلی آمریکا در حوزه فناوری را تلاشی برای حفظ سلطه این کشور میداند.
