هوش مصنوعی دفاعی قابل درک برای انسان

به گزارش کارگروه فناوری اطلاعات سایبربان، به نقل از «securitybrief»؛ شرکت ریتوین به تازگی اعلام کرد در حال توسعه ی نوعی هوش مصنوعی است که می تواند دلیل تصمیم های اتخاذ شده توسط خود را شرح دهد. این مسئله به انسان ها کمک می کند، همکاران دیجیتالی آینده ی خود را به شیوه ی بهتری درک کرده و به آنها اعتماد کنند.

پروژه ی ریتیون «EQUAS¹» نام داشته و علاوه بر شرح تصمیم خود، داده هایی را که در فرآیند تصمیم گیری از آنها بهره گرفته شده اند نیز به نمایش می گذارد.

شرکت مذکور اعلام کرد طرح مذکور در مراحل اولیه ی توسعه ی خود قرار دارد؛ اما نمونه ی نهایی آن را می توان علاوه بر مسائل دفاعی، در حوزه های امنیتی و بهداشت و درمان نیز به کار گرفت.

به علاوه سامانه ی مذکور در آینده قابلیت هایی را مانند نظارت خودکار و به اشتراک گذاری دلایلی که فرآیند تضمین تصمیم گیری را محدود می کند، به دست خواهد آورد.

سازمان دارپا نیز در گذشته در قالب پروژه ای به نام «هوش مصنوعی قابل شرح» (XAI²) اقدام مشابهی را انجام داده است.

1. _{Explainable Question Answering System}
2. _{Explainable Artificial Intelligence}