به گزارش کارگروه فناوری اطلاعات سایبربان، شرکتهای پیشرو در حوزه هوش مصنوعی جهان روز چهارشنبه به شورای امنیت سازمان ملل متحد درباره خطرات این فناوری برای بشریت هشدار دادند و از دولتها خواستند تا برای مدیریت این فناوری که روزبهروز قدرتمندتر میشود، با یکدیگر همکاری کنند.
داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، به این شورای ۱۵ عضوی که مسئولیت حفظ صلح و امنیت بینالمللی را بر عهده دارد، گفت که به اعتقاد او، در صورت مدیریت نادرست، هوش مصنوعی میتواند خطری برای کل بشریت باشد.
این نشست که به ابتکار فرانسه و همزمان با گردهمایی سالانه رهبران جهان در مجمع عمومی سازمان ملل برگزار شد، در شرایطی صورت میگیرد که هشدارهایی درباره احتمال ارتقای خودکار سیستمهای هوش مصنوعی و خروج آنها از کنترل انسان مطرح شده است.
آمودی گفت:
با وجود تمام تفاوتهایی که میان افراد حاضر در این اتاق وجود دارد، باید این اختلافات را کنار بگذاریم تا بتوانیم با این فرصت و تهدید جهانی که همزمان با آن روبرو هستیم، مقابله کنیم. هیچ رهبر، شرکت یا کشوری نمیتواند بهتنهایی از عهده مدیریت این وضعیت برآید.
دولتها در سراسر جهان برای همگام شدن با پیشرفتهای سریع هوش مصنوعی با چالش مواجه بودهاند. ایالات متحده و چین، به عنوان دو قدرت پیشرو در توسعه هوش مصنوعی، رویکردهای متفاوتی را در زمینه نظارت بر این فناوری در پیش گرفتهاند.
دونالد ترامپ، رئیس جمهور آمریکا، استدلال کرده است که ایالات متحده نیازی به مقررات جدید مختص هوش مصنوعی ندارد، در حالی که چین قوانینی را برای الگوریتمهای هوش مصنوعی و دادههای آموزشی وضع کرده است، از جمله الزاماتی مبنی بر اینکه محتوای تولید شده توسط هوش مصنوعی باید به وضوح برچسبگذاری شود.
کلمنت دلانگو، یکی از بنیانگذاران هاگینگ فِیس (Hugging Face)، با اشاره به حادثهای که در آن عوامل هوش مصنوعی غول آمریکایی اوپناِیآی (OpenAI) پس از فرار از محیط آزمایش Hugging Face، زیرساختهای آن را نقض کردند، بر نقش ابزارهای هوش مصنوعی در دفاع در برابر حملات سایبری تأکید کرد.
او گفت:
ما مورد حمله هوش مصنوعی قرار گرفتیم، اما مهمتر از آن، ما با هوش مصنوعی از خود دفاع کردیم.
دلانگو گفت که Hugging Face برای کمک به دفاع در برابر حمله عوامل هوش مصنوعی اوپناِیآی به یک مدل هوش مصنوعی چینی متکی است زیرا با محدودیتهای کمتری نسبت به ابزارهای مشابه آمریکایی مواجه است. اظهارات او بر حضور رو به رشد محصولات هوش مصنوعی چینی تأکید داشت که تا حدودی به دلیل ارائه جایگزینهای کمهزینهتر برای مدلهای آمریکایی، کاربران جهانی پیدا کردهاند.
سم آلتمن، مدیرعامل اوپناِیآی، گفت که به همکاری بینالمللی نیاز است.
آلتمن خطاب به این شورا گفت:
اگر قرار است هوش مصنوعی ماهیتی دموکراتیک داشته باشد، مهمترین تصمیمات را نمیتوان صرفاً در آزمایشگاههای سانفرانسیسکو اتخاذ کرد. این تصمیمات باید از طریق فرآیندهای دموکراتیک و توسط دولتهایی شکل بگیرند که در برابر مردم تحت حاکمیت خود پاسخگو هستند.
همزمان با تشکیل جلسه این شورا، آنتونی آلبانیز، نخستوزیر استرالیا، در نیویورک به خبرنگاران گفت که یک عامل هوش مصنوعی توسعهیافته توسط شرکت اوپناِیآی در ماه ژوئن به وبسایت دولت استرالیا نفوذ کرده و به فایلهای عمومی و غیرعمومی دسترسی پیدا کرده است.
یوشوا بنجیو، دانشمند کانادایی که یکی از پدرخواندههای هوش مصنوعی محسوب میشود و ریاست مشترک پنل علمی مستقل بینالمللی که سال گذشته توسط مجمع عمومی سازمان ملل تشکیل شد را بر عهده دارد، به شورای امنیت گفت:
خطرات، واقعی و قریبالوقوع هستند. این شورا با تهدیدی بیسابقه روبروست؛ تهدیدی که هیچیک از اعضا خواهان آن نبودهاند، هیچکدام بهتنهایی قادر به مهار آن نیستند و مرزهایی را که ما از آنها دفاع میکنیم، به رسمیت نمیشناسد.
ترامپ روز سهشنبه در مجمع عمومی سازمان ملل به رهبران جهان گفت که هرگونه تلاشی برای ایجاد طرحی جهانیگرایانه جهت کنترل هوش مصنوعی را رد میکند؛ او ضمن توصیف این فناوری به عنوان پدیدهای شگفتانگیز، خاطرنشان کرد که ایالات متحده در این زمینه محتاط عمل خواهد کرد.
مایکل کراتسیوس، مشاور علم و فناوری کاخ سفید، نیز روز چهارشنبه در سخنان خود در شورای امنیت سازمان ملل، مواضعی همسو با ترامپ ابراز کرد.
او گفت:
شما نمیتوانید فناوریای را که درک نمیکنید، مدیریت و قانونگذاری کنید. این نهاد و نهادهای مشابه باید بر اشتراکگذاری تجربیات برتر برای ایجاد ظرفیتهای داخلی تمرکز کنند، نه بر ایجاد یک طرح نظارتی و مقرراتی جهانی.
فو کونگ، سفیر چین در سازمان ملل، اظهار داشت که بهبود مستمر چارچوبهای نظارتی، واکنش به شرایط اضطراری و همکاریهای فرامرزی در حوزه هوش مصنوعی ضروری است.
او به شورای امنیت گفت:
بر جامعه جهانی واجب است که همکاریهای نزدیکتری داشته باشد، برای توسعه و امنیت اهمیتی یکسان قائل شود و مسیر توسعه هوش مصنوعی را به سمت اهداف مثبت، خیرخواهانه و در جهت منافع بشریت هدایت کند.
آنتونیو گوترش، دبیرکل سازمان ملل که مدتهاست خواستار حکمرانی جهانی بر هوش مصنوعی است، هشدار داده که پیشرفت سریع هوش مصنوعی خطراتی را به همراه دارد که نمیتوان آنها را نادیده گرفت؛ موضعی که او را در تقابل با ترامپ قرار میدهد. شورای امنیت در سال ۲۰۲۳ برای نخستین بار به بررسی خطرات هوش مصنوعی پرداخت؛ در آن نشست، چین اظهار داشت که این فناوری نباید به اسبی سرکش بدل شود و ایالات متحده نیز نسبت به استفاده از آن برای اعمال سانسور یا سرکوب مردم هشدار داد.
