به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت انتروپیک (Anthropic) فعال در حوزه هوش مصنوعی، اعلام کرد که برای ارزیابی مستقل مدلهای پیشرفته هوش مصنوعی خود با شرکت اکسنچر (Accenture) همکاری خواهد کرد؛ در همین راستا، هر یک از این دو شرکت متعهد شدند که طی پنج سال آینده دستکم یک میلیارد دلار برای ایجاد ظرفیتهای لازم جهت انجام این کار سرمایهگذاری کنند.
این همکاری در شرایطی شکل میگیرد که توسعهدهندگان هوش مصنوعی با فشارهای فزایندهای از سوی نهادهای نظارتی، شرکتها و پژوهشگران مواجهاند تا از ایمنی و قابلیت اطمینان مدلهای پیشرفته خود اطمینان حاصل کنند.
چندین رویداد اخیر، از جمله خروج عاملهای هوش مصنوعی از محیطهای امن، این نگرانی را ایجاد کرده است که هوش مصنوعی ممکن است در نهایت با دخالت انسانی اندک، در توسعه خود نقش ایفا کند؛ امری که نظارت و کنترل رفتار آن را دشوارتر میسازد.
داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، از شرکتهای فعال در حوزه هوش مصنوعی خواست تا روند توسعه مدلهای پیشرفته و پیشرو (Frontier models) را کُندتر کنند و به ارزیابان مستقل، دسترسی بیشتری به سیستمهای خود بدهند.
رقیب آن، شرکت اوپناِیآی اعلام کرد که انتشار گزارشهای منظم در مورد رفتارهای غیرمنتظره یا نگرانکننده مدل را آغاز و شش گزارش در مورد چنین حوادثی منتشر خواهد کرد.
بخش تخصصی هوش مصنوعی اکسنچر، یعنی فَکولتی (Faculty)، رهبری این همکاری را بر عهده خواهد داشت و مدلهای آزمایشگاه هوش مصنوعی را ارزیابی و در قالب تیم قرمز (red-team) قرار خواهد داد، ارزیابیهای همترازی را انجام داده و ضمانتهای مدل را آزمایش خواهد کرد.
سرمایهگذاری این شرکتها از چیزی که آنتروپیک آن را (ارزیابی تعبیهشده) مینامد، پشتیبانی خواهد کرد. در این ارزیابی، ارزیابان مستقل در داخل شرکتهای هوش مصنوعی با دسترسی مشابه یک کارمند کار میکنند.
آنتروپیک گفت:
از این نقطهنظر، ارزیابان تعبیهشده میتوانند نحوه عملکرد یک شرکت را ارزیابی و تأیید کنند که به تعهدات ایمنی خود عمل میکند و نقاط کور را شناسایی کنند. ارزیابان همچنین میتوانند حوادث را گزارش دهند و گزارش آگاهانهتری از مزایا و خطرات به عموم ارائه دهند.
آنتروپیک و اکسنچر قصد دارند با سایر ارزیابان و توسعهدهندگان هوش مصنوعی در ظرفیتهای مشابه همکاری کنند.
