هنر سیاه هوش مصنوعی
به گزارش کارگروه فناوری اطلاعات سایبربان؛ دو متخصص هوش مصنوعی به نام های متئو گاستون (Mathew Gaston)، مدیر مرکز فناوری‌های نوظهور در موسسه مهندسی نرم‌افزار دانشگاه کارنگی ملون و فلچر پِروین (Fletcher Previn)، مدیر ارشد اطلاعاتی شرکت IBM، در زمان برگزاری اجلاس «تک نت سایبر 2019» (TechNet Cyber 2019)، پیش‌بینی کردند که هوش مصنوعی در طول سال‌های آینده، حیاتی‌ترین مسئله کشورها در زمینه امنیت ملی به شمار می‌آید.
پروین گفت:
من فکر نمی‌کنم به اندازه‌ای که شما انتظار دارید، پیرامون هوش مصنوعی در جهان سایبری، هایپ (تبلیغات فشرده و گسترده) وجود داشته باشد. اگر شما از متخصصان امنیت سایبری سؤال کنید چه چیزی باعث می‌شود شب از خواب بیدار شوند. پاسخ آن‌ها تهدیدات تقویت شده با هوش مصنوعی است؛ زیرا اگر شما یک قطعه بدافزار را میلیون‌ها بار در ثانیه تکرار کنید، دفاع در برابر آن بسیار سخت خواهد بود. تنها چیزی که می‌تواند به مقابله با هوش مصنوعی بپردازد، هوش مصنوعی است.
گاستون با تأیید سخنان یاد شده ادامه داد:
همان‌گونه که دیگر کشورها سرمایه‌گذاری گسترده‌ای روی فناوری یاد شده انجام می‌دهند، ما نیز باید اقدامات مشابهی را انجام بدهیم. در حال حاضر هوش مصنوعی یک هنر است. یک هنر تقریباً سیاه. از این هنر برای ساخت سامانه‌های یادگیری عمیق، دید رایانه و موارد مشابه استفاده می‌شود.
پروین 2 چشم‌انداز را در حوزه‌ی هوش مصنوعی مطرح می‌کند. وی می‌گوید:
به عنوان یک کارمند شرکت IBM، من در رابطه با آینده‌ی هوش مصنوعی خوش‌بین هستم؛ اما به عنوان یک شهروند آمریکایی ما نمی‌توانیم مزایای هوش مصنوعی را از دست بدهیم. این مسئله همانند محاسبات سنتی نیست که شما تنها نیاز داشتید کمی بهتر از شخصی باشید که یک مشکل بزرگ در دستان شما بود.
گاستون پیشنهاد کرد که آمریکا یک منشور مهندسی هوش مصنوعی حرفه‌ای ایجاد کند تا به امنیت ملی کمک شود. این مقام اشاره کرد که می‌توان از الگوریتم یادگیری ماشینی خصمانه (adversarial machine learning) که از آن به عنوان روشی برای آموزش شبکه‌های عصبی بهره گرفته می‌شود، برای دست‌کاری و تقلب در سامانه‌های یادگیری ماشینی بهره گرفت. از این الگوریتم می‌توان برای آزمایش‌ها و ارزیابی‌های نظامی نیز استفاده کرد.
مدیر مرکز فناوری‌های نوظهور اظهار کرد:
الگوریتم یادگیری ماشینی خصمانه، یک راه عالی برای آزمایش سامانه‌های یادگیری ماشینی است. ما باید منشوری را برای انجام این‌گونه کارها توسعه بدهیم. من فکر می‌کنم مهندسی هوش مصنوعی خالق تفاوت‌ها هستند. نه تنها در زمینه اتخاذ سریع هوش مصنوعی و یادگیری ماشینی، بلکه انجام این کارها به صورت هوشمندانه باعث می‌شود شما متوجه شوید که آسیب‌پذیری‌های آن چیست و در کجا شکست می‌خورید.
مدیر ارشد اطلاعاتی شرکت IBM، با پیش‌بینی این موضوع که به زودی ماهیت بدافزارها تغییر می‌کنند، ادامه داد:
در آینده نزدیک، بدافزارها دیگر به گونه‌ای نیستند که با کلیک روی یک لینک آلوده در ایمیل، توسط شما، قطعه کدی را روی رایانه نصب کنند. بلکه از حداقل میزان داده برای اصلاح مجموعه اطلاعاتی بهره می‌گیرد تا به مانند چیزی شود که سیستم از آن استفاده کرده و به رسمیت می‌شناسد.
وی افزود:
سامانه‌های هوش مصنوعی به سادگی فریب می‌خورند. شما تنها با حجم بسیار کمی از داده‌ها، قادر هستید سیستم‌های رانندگی خودمختار را به گونه‌ای فریب دهید که فکر کنند علامت ایست، چراغ سبز است. این مثال یک کاربرد نسبتاً خوش‌خیم است؛ اما سامانه‌های مالی، پزشکی و زیرساخت‌های حیاتی را تصور کنید. هوش مصنوعی به شدت به چالش ابر داده‌ها و یکپارچگی اطلاعات وابسته است.
پروین پیش‌بینی می‌کند که پیشرفت بزرگ بعدی در فناوری هوش مصنوعی درک زبان است. وی گفت:
من فکر می‌کنم کوتاه‌ترین راه برای از بین بردن شکاف میان هوش مصنوعی باریک و عمومی تسلط بر زبان است.
وی توضیح داد که سامانه‌های هوش مصنوعی فعلی نیاز دارند نسبت به داده‌هایی که مورد پردازش قرار می‌دهند، پاسخی ارائه بدهند و دلیلی را برای انتخاب‌های خود بیان کنند.
