وتو لایحه ایمنی هوش مصنوعی توسط فرماندار کالیفرنیا

به گزارش کارگروه بین الملل سایبربان،فرماندار کالیفرنیا، گاوین نیوسام، لایحه ایمنی هوش مصنوعی را که توسط صنعت فناوری به شدت مورد اعتراض قرار گرفت را وتو و اعلام کرد که این لایحه می تواند شرکت های هوش مصنوعی را از ایالت بیرون کند و مانع نوآوری شود. 

فرماندار کالیفرنیا، گاوین نیوسام گفت: 

این لایحه در نظر نمی گیرد که آیا یک سیستم هوش مصنوعی در محیط های پرخطر مستقر می شود، شامل تصمیم گیری های حیاتی یا استفاده از داده های حساس می شود و استانداردهای سخت گیرانه ای را حتی برای ابتدایی ترین کارکردها تا زمانی که یک سیستم بزرگ آن را مستقر کند  اعمال خواهد کرد؟

 نیوسام در ادامه افزود:

 از کارشناسان برجسته در زمینه هوش مصنوعی مولد درخواست کرده ام تا به کالیفرنیا در «توسعه نرده‌های محافظ کارآمد» که بر «توسعه تحلیل مسیر تجربی و مبتنی بر علم» تمرکز دارد، کمک کنند.

 او همچنین به سازمان‌های دولتی دستور داد تا ارزیابی خود را از خطرات ناشی از رویدادهای فاجعه‌بار احتمالی مرتبط با استفاده از هوش مصنوعی گسترش دهند. هوش مصنوعی مولد که می‌تواند متن، عکس و ویدیو را در پاسخ به درخواست‌ها ایجاد نماید ، هیجان و همچنین ترس از آن را برانگیخته است که ممکن است برخی مشاغل را منسوخ کند، انتخابات را به هم بزند و به طور بالقوه بر انسان‌ها چیره شود و اثرات فاجعه‌باری داشته باشد.

نویسنده این لایحه، سناتور ایالتی دموکرات، اسکات وینر، گفت :

قانونگذاری برای محافظت از مردم قبل از اینکه پیشرفت در هوش مصنوعی غیرقابل کنترل شود، ضروری است. صنعت هوش مصنوعی در کالیفرنیا به سرعت در حال رشد است. این وتو باعث می شود که کالیفرنیا امنیت کمتری داشته باشد و این بدان معنی است که شرکت هایی که قصد ایجاد یک فناوری بسیار قدرتمند را دارند، با هیچ محدودیت اجباری مواجه نیستند.

نیوسام گفت :

ما نمی توانیم منتظر وقوع یک فاجعه بزرگ قبل از اقدام برای حفاظت از مردم بمانیم.ما باید به دنبال راه حلی باشیم که با تجزیه و تحلیل مسیر تجربی سیستم ها و قابلیت های هوش مصنوعی آگاه باشد.

این لایحه که توسط سناتور ایالت کالیفرنیا، اسکات وینر ارائه شده است، آزمایش ایمنی بسیاری از پیشرفته‌ترین مدل‌های هوش مصنوعی را که بیش از 100 میلیون دلار هزینه برای توسعه دارند یا مدل‌هایی که به مقدار مشخصی از قدرت محاسباتی نیاز دارند، الزامی می‌کند.

 توسعه‌دهندگان نرم‌افزار هوش مصنوعی که در این ایالت فعالیت می‌کنند نیز باید روش‌هایی را برای غیر فعال شدن مدل‌های هوش مصنوعی در صورت خرابی مشخص کنند.

این لایحه همچنین به دادستان کل ایالت این اختیار را می دهد که در صورت عدم تمکین توسعه دهندگان، به ویژه در صورت تهدید مداوم، مانند تسلط هوش مصنوعی بر سیستم های دولتی مانند شبکه برق، از آن ها شکایت کند.همچنین، این لایحه توسعه دهندگان را ملزم می کند تا حسابرسان شخص ثالث را برای ارزیابی شیوه های ایمنی خود استخدام کنند.

شرکت‌های فناوری توسعه‌دهنده هوش مصنوعی مخالفت خود را نسبت به این لایحه اعلام کرده بودند.