به گزارش کارگروه فناوری اطلاعات سایبربان، بر اساس نسخه جدیدی از شاخص ایمنی هوش مصنوعی مؤسسه آینده زندگی (Future of Life) که روز 3 دسامبر منتشر شد، شیوههای ایمنی شرکتهای بزرگ هوش مصنوعی، مانند انتروپیک (Anthropic)، اوپناِیآی (OpenAI)، ایکس اِیآی (xAI) و متا (Meta) بسیار کمتر از استانداردهای جهانی در حال ظهور است.
این مؤسسه اعلام کرد که ارزیابی ایمنی که توسط یک هیئت مستقل از کارشناسان انجام شده است، نشان میدهد درحالیکه شرکتها مشغول رقابت برای توسعه هوش مصنوعی فوقالعاده هستند، هیچکدام استراتژی محکمی برای کنترل چنین سیستمهای پیشرفتهای ندارند.
این مطالعه در بحبوحه افزایش نگرانی عمومی در مورد تأثیر اجتماعی سیستمهای هوشمندتر از انسان که قادر به استدلال و تفکر منطقی هستند، پس از چندین مورد خودکشی و خودآزاری مرتبط با چتباتهای هوش مصنوعی، منتشر شده است.
مکس تگمارک، استاد (MIT) و رئیس مؤسسه آینده زندگی گفت:
علیرغم جنجالهای اخیر در مورد هکهای مبتنی بر هوش مصنوعی و سوقدادن افراد به روانپریشی و خودآزاری توسط هوش مصنوعی، شرکتهای هوش مصنوعی آمریکایی همچنان کمتر از رستورانها تحت نظارت هستند و به لابیگری علیه استانداردهای ایمنی الزامآور ادامه میدهند.
مؤسسه آینده زندگی (Future of Life) یک سازمان غیرانتفاعی است که نگرانیهایی را در مورد خطراتی که ماشینهای هوشمند برای بشریت ایجاد میکنند، مطرح کرده است. این مؤسسه که در سال ۲۰۱۴ تأسیس شد، در اوایل توسط ایلان ماسک، مدیرعامل تسلا، حمایت شد.
در ماه اکتبر، گروهی از دانشمندان شامل جفری هینتون و یوشوا بنجیو خواستار ممنوعیت توسعه هوش مصنوعی فوقهوشمند تا زمانی که عموم مردم آن را مطالبه کنند و علم راهی ایمن هموار کند، شدند.
سخنگوی گوگل دیپ مایند گفت:
این شرکت با پیشرفتهتر شدن مدلهایش، به نوآوری در زمینه ایمنی و مدیریت همگام با قابلیتها ادامه خواهد داد.
درحالیکه ایکس اِیآی در پاسخی که به نظر میرسید یک پاسخ خودکار باشد، گفت:
رسانههای قدیمی دروغ میگویند.
سخنگوی اوپناِیآی گفت:
ما چارچوبهای ایمنی، ارزیابیها و تحقیقات خود را برای کمک به پیشرفت استانداردهای صنعت به اشتراک میگذاریم و به طور مداوم حفاظتهای خود را برای آمادهشدن برای قابلیتهای آینده تقویت میکنیم. این شرکت سرمایهگذاری زیادی در تحقیقات ایمنی مرزی انجام میدهد و مدلهای خود را به طور دقیق آزمایش میکند.
