به گزارش کارگروه فناوری اطلاعات سایبربان، مؤسسه ایمنی هوش مصنوعی استرالیا گزارشی منتشر کرده است که به بررسی چگونگی مدیریت ریسک توسط سازمانها در هنگام تعامل عوامل هوش مصنوعی توسط شرکتها، مؤسسات یا طرفهای ناشناس مختلف با یکدیگر میپردازد.
این تحقیق که توسط مؤسسه مستقل گرادیانت (Gradient) انجام شده است، بر محیطهای چندعاملی تمرکز دارد که فراتر از کنترل یک سازمان واحد هستند. عاملهایی که توسط مشتریان، تأمینکنندگان، شرکای تجاری یا بازیگران خارجی اداره میشوند، ممکن است اطلاعات را تبادل کرده و در سرویسهای دیجیتال و اینترنت باز اقداماتی انجام دهند.
چنین تعاملاتی میتواند باعث گسترش خطاها، دستکاریها و نقصهای امنیتی بین سیستمها شود. سازمانهای منفرد ممکن است فقط دید محدودی نسبت به عاملهایی که سیستمهایشان با آنها ارتباط برقرار میکنند، داشته باشند و این امر شناسایی مسئولیت یا اعمال حفاظتهای سازگار را دشوار میکند.
محققان سه سطح استقرار را بر اساس سطح حاکمیت و هماهنگی موجود بین عوامل شرکتکننده پیشنهاد میکنند. این سطوح از محیطهایی که اپراتورها روابط و کنترلهای مشترک برقرار کردهاند تا محیطهای بازی که طرفهای ناشناس در آنها عاملها را اداره میکنند، متغیر است.
برای هر سطح، چارچوب، حالتهای خرابی احتمالی، حفاظتهای موجود و سازمانها یا واسطههایی را که به بهترین وجه برای اعمال آنها در موقعیت مناسبی قرار دارند، ترسیم میکند. این گزارش بهعنوان یک منبع تحقیقاتی و مدیریت ریسک در نظر گرفته شده است، نه یک چارچوب نظارتی الزامآور.
این مطالعه بر اساس تحقیقات قبلی مؤسسه گرادیانت در مورد سیستمهای چندعاملی که در محیطهای تحت کنترل عمل میکنند، انجام شده است. دامنه وسیعتر آن نشاندهنده این احتمال است که عوامل هوش مصنوعی در آینده به طور فزایندهای در مرزهای شرکت و نهاد ارتباط برقرار خواهند کرد، نه اینکه در سیستمهایی که توسط یک اپراتور واحد کنترل میشوند، باقی بمانند.
