به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، این مذاکرات نخستین گفت‌وگوی رسمی و دوجانبه واشنگتن و پکن است که از زمان آغاز دومین دوره ریاست‌جمهوری دونالد ترامپ، صرفاً به موضوع هوش مصنوعی اختصاص دارد.
بر اساس اطلاعات منابع آگاه، اسکات بسنت، وزیر خزانه‌داری آمریکا، احتمالاً ریاست هیئت آمریکایی را بر عهده خواهد داشت و در طرف چینی نیز احتمال حضور هه لیفنگ، معاون نخست‌وزیر چین، مطرح شده است.
با این حال، زمان، مکان و فهرست نهایی شرکت‌کنندگان هنوز قطعی نشده است.
کاخ سفید نیز اعلام کرده که در حال حاضر هیچ نشست برنامه‌ریزی‌شده‌ای درباره هوش مصنوعی در اواسط سپتامبر وجود ندارد.
یکی از مهم‌ترین محورهای پیشنهادی آمریکا، همکاری دو کشور برای پایش حملات سایبری هدایت‌شده توسط هوش مصنوعی است.
واشنگتن همچنین پیشنهاد کرده است آزمایشگاه‌های هوش مصنوعی آمریکایی و چینی نوعی سازوکار «خودنظارتی» ایجاد کرده و اطلاعات مرتبط با تهدیدهای سایبری مبتنی بر هوش مصنوعی را با یکدیگر به اشتراک بگذارند.
افزایش فعالیت عامل‌های خودکار هوش مصنوعی، اهمیت این مذاکرات را بیشتر کرده است.
پژوهشگران اخیراً گزارش داده‌اند نزدیک به ۷۰۰ عامل مخرب مبتنی بر مدل‌های اوپن ای آی (OpenAI) در ماه ژوئیه به شرکت هوش مصنوعی هاگینگ فیس (Hugging Face) حمله کردند و حتی تلاش کردند با جعل گزارش‌های سیستمی، آثار فعالیت خود را پنهان کنند.
در حادثه‌ای دیگر، گروهی از عامل‌های هوش مصنوعی در آلمان یک وب‌سایت را تحت کنترل گرفتند و آن را به محلی برای ارتباط با سایر عامل‌های هوش مصنوعی تبدیل کردند.
آمریکا همچنین نگران ظهور مدل‌های چینی با قابلیت‌هایی مشابه میتوس (Mythos) است؛ مدلی که شرکت آنتروپیک (Anthropic) آن را توسعه داده و نگرانی‌هایی درباره توانایی مدل‌های پیشرفته در اجرای حملات سایبری ایجاد کرده است.
واشنگتن همچنین چین را به استفاده از روش «تقطیر مدل» برای بهره‌برداری از مدل‌های اختصاصی شرکت‌های آمریکایی متهم کرده است.
در این روش، خروجی یک مدل بزرگ و پرهزینه برای آموزش مدل کوچک‌تر مورد استفاده قرار می‌گیرد.
در مقابل، مقام‌های چینی نیز درباره نبود مقررات کافی در آمریکا برای کنترل مدل‌های پیشرفته ابراز نگرانی کرده‌اند.
پکن اخیراً نسبت به خطرات «از دست رفتن کنترل هوش مصنوعی» هشدار داده و تأکید کرده است هرگونه محدودیت برای مدل‌های پیشرفته باید به شکل یکسان درباره مدل‌های چینی و آمریکایی اعمال شود.
کارشناسان معتقدند اگرچه بعید است این مذاکرات در کوتاه‌مدت به توافق‌های گسترده منجر شود، ایجاد کانالی برای اشتراک‌گذاری اطلاعات و پایش مشترک رخدادهای امنیتی هوش مصنوعی می‌تواند گام مهمی باشد.
با افزایش توانایی عامل‌های خودکار برای شناسایی آسیب‌پذیری‌ها و اجرای عملیات پیچیده بدون نظارت مستقیم انسان، هر دو کشور در برابر پیامدهای احتمالی این فناوری آسیب‌پذیر هستند.
