بهبود کارایی، با اعتماد متقابل انسان و ماشین

به گزارش کارگروه فناوری اطلاعات سایبربان، اعتماد، عنصر اصلی یک گروه مؤثر تجاری، ورزشی و نظامی به حساب می‌آید. بخش زیادی از این ویژگی، از طریق ایجاد درک متقابل مهارت‌های اعضا از نقش یکدیگر به دست می‌آید. زمانی که این مسئله در زمینه شکل‌دهی گروهی مؤثر از ترکیب انسان و سامانه‌های خودمختار مطرح می‌شود، کاربران به اطلاعات دقیق و زمان‌بندی‌ شده‌ای از توانایی روبات‌ها نیاز دارند، تا بتوانند در محیط‌های پویا به آن‌ها اطمینان کنند.

در حال حاضر، سامانه‌های خودمختار، در هنگام تغییر شرایط، توانایی ارائه یک بازخورد زمان واقعی را ندارند. عدم آگاهی ماشین‌ها از قابلیت‌های خود و ناتوانی در ارتباط با اپراتورهای انسانی در این رابطه باعث می‌شود تا سطح اعتماد چنین گروهی کاهش یافته و در نتیجه تأثیرگذاری آن نیز از بین برود.

به منظور تبدیل سامانه‌ها، از ابزاری ساده به شریکانی قابل‌اعتماد، سازمان دارپا، برنامه‌ای را به نام «کمل» (CAML¹) راه‌اندازی کرد. هدف کمل، ایجاد سامانه‌های یادگیری ماشینی است که عملکرد خود را به صورت پیوسته در یک زمان بحرانی بررسی کرده، اطلاعات را به شکلی قابل‌فهم و ساده برای اعضای انسانی گروه ارسال می‌کنند.

ژیانژینگ ژو (Jiangying Zhou)، مدیر برنامه دفتر علوم دفاعی دارپا گفت:

اگر یک ماشین، توانایی گفتن این جمله را داشته باشد: من در این شرایط به خوبی عمل می‌کنم؛ اما در این یکی تجربه‌ی زیادی ندارم، همکاری بهتری در گروه‌های انسان و ماشین به وجود می‌آید. در این حالت، انتخاب‌های آگاهانه‌ی بیشتری پیش روی افراد قرار می‌گیرد.

پویایی یادشده، به انسان‌ها کمک می‌کند قابلیت‌های همکاران روباتیک خود را بهتر شناخته، به شکل مؤثرتری از آن بهره بگیرند.

ژو اشاره کرد:

چالش سامانه‌های خودمختار پیشرفته این است که نمی‌توانند خود را به سرعت با شرایط، سازگار کرده، یا ناتوانایی‌هایشان را گزارش دهند.

وی ادامه داد:

در چه شرایطی به ماشین‌ها اجازه می‌دهید تا کاری را انجام دهند؟ در چه شرایطی باید روی آن‌ها نظارت داشته باشید؟ کدام‌یک از دارایی‌ها، یا چه ترکیبی از آن‌ها، برای اجرای خواسته‌ی شما بهترین است؟ این‌ها سؤالاتی هستند که پروژه‌ی کمل سعی دارد به آن‌ها پاسخ دهد.

مدیر برنامه‌ی دارپا، با اشاره به یک مثال ساده از فناوری‌های خودروهای بی راننده توضیح داد که چگونه کمل می‌تواند به یک مخاطب یاری رساند که از میان 2 خودروی بی راننده، بهترین راه را برای تردد در هوایی بارانی و به هنگام شب انتخاب کند.

اولین خودرو، احتمالاً با برقراری ارتباط، توضیح می‌دهد که قادر است در شب‌های بارانی، با دقت 90 درصد، اشیا و عابران را تشخیص دهد و بیش از یک هزار بار، این عمل را با موفقیت انجام داده است. در مقابل، وسیله نقلیه دوم، اشیا و افراد را با دقت 99 درصد تشخیص داده؛ اما تنها صد مرتبه این کار را انجام داده است. با مقایسه این اطلاعات، مخاطب می‌تواند بهترین گزینه را برای تردد انتخاب نماید.

1. _{Competency-Aware Machine Learning}