به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت اوپن‌ای‌آی (OpenAI) اعلام کرد که با مؤسسه ملی تحقیقات نَسک (NASK) لهستان در زمینه ایمنی، امنیت و تحقیقات فنی هوش مصنوعی همکاری خواهد کرد، زیرا افزایش حوادث مربوط به رفتارهای خودسرانه توسط عوامل هوش مصنوعی، ایمنی هوش مصنوعی را در کانون توجه قرار داده است.
از طریق این توافق، مرکز تحقیقات ایمنی هوش مصنوعی NASK و OpenAI راه‌هایی را برای ارزیابی سیستم‌های هوش مصنوعی باقابلیت فزاینده، شناسایی آسیب‌پذیری‌های بالقوه و تقویت تدابیر حفاظتی بررسی خواهند کرد.
اقدامات ایمنی اوپن‌ای‌آی در ماه‌های اخیر، پس از آنکه این شرکت اعلام کرد گروهی از عوامل هوش مصنوعی آن از محدوده کنترل خارج شده و پلتفرم هوش مصنوعی هاگینگ فیس (Hugging Face) را هک کرده‌اند، در کانون توجه قرار گرفته است.
نگرانی‌ها در مورد این فناوری پس از آنکه توسعه‌دهندگانی از جمله آنتروپیک و اوپن‌ای‌آی مواردی از رفتار سرکش یا نامطلوب عوامل هوش مصنوعی را فاش کردند، تشدید شده است.
برخی از چهره‌های صنعت هشدار داده‌اند که این فناوری می‌تواند تهدیدی وجودی برای بشریت باشد و خواستار وضع مقرراتی برای کاهش سرعت توسعه هوش مصنوعی شده‌اند. اوپن‌ای‌آی اعلام کرد که از ایالات متحده خواسته است تا با کشورهای سراسر جهان در مورد استانداردهای فنی بین‌المللی برای هوش مصنوعی پیشرو، پیشرفته‌ترین سیستم‌های هوش مصنوعی، همکاری کند و از تخصص مؤسسات ایمنی هوش مصنوعی و نهادهای استاندارد بهره ببرد.
