شمارش معکوس ایجاد روبات قاتل توسط پنتاگون
مقدمه
کشورهای بسیاری از چند دههی گذشته تاکنون در حال تحقیق و توسعهی سلاحهای خودمختار هستند تا از آنها در میدان مبارزه استفاده کنند. یکی از اهداف این کار کاهش تلفات جانی و خطاهای انسانی ذکر شده است. آمریکا یکی از کشورهای فعال در زمینهی تولید سلاحهای هوشمند به حساب میآید و سالانه میلیونها دلار بودجه برای پیشرفت در این زمینه هزینه میکند.
به عنوان مثال یک پهپاد کوچک 6 ملخی، مدتی قبل در کمپ ادوارد1 (Camp Edwards)، موفق شد از بالای یک روستای شبیهسازی شده از آسیای غربی و ساختمانی مانند مسجد عبور کرده و هدف خود را شناسایی کند. پهپاد مورداستفاده در این آزمایش را به راحتی میتوان از فروشگاه آمازون تهیه کرد و نیازی ندارد هیچ انسانی از راه دور هدایت آن را بر عهده بگیرد؛ اما استفاده از یک هوش مصنوعی پیشرفته در این پهپاد توانست آن را به وسیلهای تبدیل کند که 6 فرد مسلح به «AK-47» را شناسایی کند. زمانی که پهپاد مذکور فرود آمد، در ویدئوی ضبط شده توسط آن مستطیلهای بنفش رنگی در حال چشمک زدن بودند که محل اختفای یک مرد در سایه را نشان میداد. این آزمایش بهوضوح چشمانداز پنتاگون برای ایجاد تغییرات در جنگ و نسل بعدی نبردها نشان میدهد.
حفظ برتری نظامی در جهان
پنتاگون قصد دارد هوش مصنوعی را در مرکز راه بردهای دفاعی خود قرار دهد تا بتواند برتری نظامی آمریکا را در سطح جهان حفظ کند. به همین منظور مقامات وزارت دفاع این کشور ادعا میکنند، میلیاردها دلار برای ساخت سامانههای خودمختار و نیمهخودکار و زرادخانههایی پر شده از سلاحهایی بیرون آمده از دل داستانهای عملی-تخیلی، سرمایهگذاری کردهاند. این موضوع باعث شد تا زنگ هشداری برای دانشمندان و فعالان این حوزه به صدا در آمده و به نبرد روباتها علاقه نشان دهند.
وزارت دفاع آمریکا در حال ساخت پهپادهای مبارزی است که در کنار هواپیماهای عادی در مبارزات حضور مییابند. این پهپادها موشکهایی که توانایی تصمیمگیری را در مورد نوع هدف دارند، شلیک میکند. بهعلاوه این سازمان نوعی کشتی جنگی توسعه داده است که میتواند زیردریاییهای دشمن را شناسایی و مورد هدف قرار دهد. این ابزارها میتوانند به صورت کاملاً مستقل از انسانها و هزاران کیلومتر دورتر از مرکز فرماندهی به انجام مأموریت بپردازند.
یکی از مقامات دفاعی آمریکا گفت: «آمریکا به این نوع سلاحها نیاز دارد تا بتواند برتری نظامی خود را در برابر کشورهایی مانند چین، روسیه و مناطقی که تحقیقات مشابه (مانند اسرائیل و انگلیس) انجام میدهند حفظ کند. آخرین سرمایهگذاری 3 سالهی پنتاگون برای گسترش فنآوری و ساخت سلاحهای خودکار، 18 میلیارد دلار ارزش داشت.»
رابرت ورک، معاون وزیر دفاع آمریکا و شخصی که به توسعهی سلاحهای خودمختار سرعت بخشید، گفت: «چین و روسیه در حال ساخت شبکههای مبارزاتی، به خوبی ما هستند. آنها میتوانند همان چیزهایی را ببینند که ما توانایی دیدن آن را داریم. برد مهمات هدایتشوندهی آنها با سلاحهای ما برابری میکند. ما فقط میخواهیم مطمئن شویم، با همان سرعت گذشته، پیروزی را به دست میآوریم.»
همانند انقلاب صنعتی که ماشینهای مخرب و قدرتمندی مانند هواپیما و تانک را به وجود آورد و نقش سربازان در میدان مبارزه را کاهش داد، فناوری هوش مصنوعی نیز محل سربازان و ماشینها را در میدان مبارزه تغییر میدهد؛ زیرا رایانهها میتوانند ببینند، صحبت کنند و بشنود و از طرفی خودروها نیز بدون نیاز به راننده، حرکت کنند.
مقامات مذکور معتقدند در حالی که تعداد سربازان و خلبانان که در میدان مبارزه در معرض خطر مرگ هستند کاهش مییابد، سرعت و دقت نسل جدید سلاحها با هیچ انسانی برابر نیست. وظیفهی پنتاگون این است که اطمینان حاصل کند این سلاحها همراهی قابلاعتماد برای انسانها هستند نه تهدیدی برای زندگی آنها.
پنتاگون نام طرح خود برای تغییر هستهی راهبرد مبارزه را «مبارز سانتور» (centaur warfighting) نامید. سانتور نام موجوداتی نیمه اسب، نیمه انسان در افسانههای یونانی است. این راه برد به کاربری انسانها و سلاحهای خودمختار اهمیت داده و بهعنوان یک روش برای تقویت، پرورش خلاقیت و مهارتهای حل مسئلهی سربازان، ملوانان و خلبانهایی که غیرقابل جایگزین شدن هستند، نگاه میکند.
ورک توضیح میدهد چشمانداز پنتاگون در مورد سلاحها بیشتر از آن که به ترمیناتور نزدیک باشد، به ابرقهرمانهایی مانند مرد آهنی در پینماها (Comic-book) شباهت دارد.
وی گفت: «بسیاری از مردم از موضوعاتی مانند روباتها و سامانهی اسکاینت2 (Skynet) وحشت دارند. آن هم در حالی که هنوز نمیتوان هیچ تصوری نسبت به آن داشته باشیم.»
معاون وزیر دفاع آمریکا ادامه داد: «همیشه یک انسان در زمانی که باید تصمیمگیریهایی در مورد مرگ و زندگی انجام شود، دخالت دارد.»
هماکنون، تردیدهای بسیاری در مورد حفظ محدودیتها در زمانی که سلاحهایی با توانایی تفکر بالا به وجود میآیند، وجود دارد. به همین منظور صدها دانشمند و متخصص مشهور دنیا، در سال گذشتهی میلادی، یک نامهی سرگشاده را امضا و هشدار دادند، حتی توسعهی احمقترین سلاحهای هوشمند نیز یک مسابقهی تسلیحاتی خطرناک در سراسر دنیا به راه میاندازد. بر اساس این نامه روباتهای کاملاً خودمختار بسیار ارزان بوده و توانایی کشتن هدف خود را دارند. در نتیجه کشورهای دشمن و تروریستها به راحتی میتوانند با استفاده از آن قدرت عظیمی به دست بیاورند.
در متن نامه آمده است: «سلاحهای خودمختار به کلاشنیکوف فردا تبدیل خواهند شد.»
معمای ترمیناتور
بر اساس ادعاهای مطرح شده، در ارتش آمریکا دیگر در مورد ساخت سلاحهای خودمختار صبحت نمیشود؛ بلکه موضوع اصلی بحثها، میزان استقلالی است که باید به این ابزارها داده شود.
پل سلوا (Paul J. Selva) از نیروی هوایی و معاون ستاد مشترک ارتش گفت: «کشور آمریکا به مدت یک دهه روی ساخت روباتی تحقیق میکند که بتواند بهصورت کاملاً مستقل در مورد نوع هدف و زمان کشتن آن تصمیمگیری کند. با وجود این قصد ساخت یک نمونهی واقعی وجود ندارد.»
سلوا ادامه داد: «کشورهای دیگر نیز وجود دارند که در زمینهی ساخت روباتهای مستقل فعالیت میکنند. با استناد به چیزی که یک مرجع رایج در موضوع سلاحهای خودکار وجود دارد، احتمالاً شخصی سعی خواهد کرد ابزاری مشابه به ترمیناتور ایجاد کند.»
با وجود این مقامات آمریکایی هنوز هم ادعا میکنند که روزی سلاحها میتوانند عملکردی مستقل داشته باشند. در داخل وزارت دفاع، مسئلهای به نام «معمای ترمیناتور» (Terminator conundrum) وجود دارد و هیچ توافقی بر سر ایجاد یک ممنوعیت بینالمللی ساخت این نوع سلاحها یا تولید نمونههای داخلی برای مقابله با فناوری دشمن، شکل نگرفته است.
پیشرفت فناوری روباتیک در حال حاضر، وحشت کمتری را ایجاد میکند. به عنوان مثال، در تابستان سال 2016، پهپاد کوچک غیرمسلحی به نام «بِندِر3» (Bender) در دماغهی کاد (Cape Cod)، ایالت ماساچوست آمریکا مورد آزمایش قرار گرفت. این پهپادها توانایی روشن شدن و پرواز کردن به اختیار خود را نداشتند. همچنین یک اپراتور باید مسیر حرکت و هدف آنها را مشخص کند؛ اما زمانی که به پرواز آید، نوع انجام مأموریت را خودش مشخص میکند. توسعه نرمافزاری که در این پهپاد استفاده میشود در حدود یک سال به طول انجامید؛ اما در زمان آزمایش از مشکلات بسیاری رنج میبرد.
پهپاد مذکور در زمان عبور از بالای مسجد، در تصمیمگیری در مورد اینکه منارهی مسجد، یک معماری یا یک فرد مسلح است، دچار مشکل شد؛ اما در لحظهای دیگر، دقت عجیبی از خود برای شناسایی سربازان و افراد غیرنظامی به نمایش گذاشت. البته تغییر مسیر و حرکت روی هدف شناسایی شده، سریع نیست. این پهپاد از نرمافزارهای مختلف تشخیص چهره و انسان، مورداستفاده در سازمانهای جاسوسی آمریکا، بهره میگیرد. این وسیله به صورت کاملاً ماهرانهای مسیر حرکات خودروها را شناسایی کرده و میتواند موقعیت مخفیگاه دشمنان در طول دیوار را تشخیص دهد. هواپیمای بیسرنشین مذکور، براساس برداشت خود، عکاسان را - به ویژه هنگامی که دوربین را در برابر چهره خود قرار داده، به سمت پهپاد، نگاه میکنند - به عنوان دشمن، شناسایی نمیکنند؛ اشتباهی که سربازان، به دفعات بسیار، مرتکب شدهاند.
سازمان دارپا، پروژهی ساخت بندر را بر عهده دارد. همچنین این سازمان در حال ساخت نرمافزاری برای سامانههای خودران است تا بتوان از آنها در قالب گروههایی کوچک، در کنار سربازان، تفنگداران یا زمینههای دیگر استفاده کرد.
کریستوفر اُرلوسکی (Christopher Orlowski)، مدیر برنامهی دارپا گفت: «برخلاف پهپادهایی که ارتش آمریکا هماکنون از آنها استفاده میکند؛ بندر نیازی به یک اپراتور انسانی برای هدایت شدن از راه دور ندارد. بندر همکار شما است و مانند این میماند که شما یک سر دیگر در میدان مبارزه داشته باشید.»
بر اساس گزارشهای موجود، پهپاد بند را بهراحتی میتوان مسلح کرد. یکی از مشکلات توسعهی ابزارهای خودران، این است که بتوان رفتار آنها را به اندازهی کافی پیشبینی کرد؛ اما در مقابل این وسایل باید بتوانند از انعطافپذیری خوبی نیز برخوردار باشند. زمانی این ابزارها مهارت لازم را کسب کردند، مشخص کردن نوع هدف بسیار ساده میشود. به علاوه سلاحهای برنامهریزی شده این ابزارها تنها به اهدافی شلیک میکنند که وجود دارند.
اگر فناوریِ رفتاری با موفقیت توسعه پیدا کند، احتمالاً از دست آمریکا خارج خواهد شد. توسعهی فناوری توسط دارپا دیگر مخفی نمانده و همهچیز را مانند خودروهای بی راننده و اینترنت تحت تأثیر قرار میدهد.
قهرمانهای شطرنج
از دههی 1950، راه برد ارتش آمریکا، بر پایهی توسعه مزایای متحیرکنندهی فناوریها، بنا نهاده شده است. برترین زرادخانههای هستهای آمریکا از روزهای اولیهی جنگ سرد ارائه شدهاند. به علاوه بمبهای هدایت شونده یا بمب هوشمند همین کار را در اواخر قرن بیستم انجام دادند.
مزایای تمام فناوریهای جدیدی که در چند دههی اخیر ایجاد شدهاند. در حال حاضر از بین رفتهاند. به عنوان مثالی از این موضوع میتوان به تجزیهوتحلیل اطلاعات ژنتیکی و کوچکسازی قطعات الکترونیکی اشاره کرد.
ورک گفت: «وزارت دفاع آمریکا روی دو موضوع هوش مصنوعی و خودکار سازی بیشتر از موضوعات دیگر سرمایهگذاری کرده است.»
با وجود این که نرمافزارهای امروزی محدود هستند، سرعت شناسایی الگوی رایانهها بسیار سریعتر از انسانها است؛ اما در حال حاضر ویژگیهایی مانند غیرقابل پیشبینی و اطمینان بودن همچنان در اختیار انسانها باقی میماند. دو توانایی ذکر شده تا به اینجا در پروژهی قنطورس یکپارچه خواهند شد.
نرمافزارهای امروزی محدود هستند، سرعت شناسایی الگوی رایانهها بسیار سریعتر از انسانها است؛ اما در حال حاضر ویژگیهایی مانند غیرقابل پیشبینی و اطمینان بودن همچنان در اختیار انسانها باقی میماند. دو توانایی ذکر شده تا به اینجا قرار است در پروژهی قنطورس یکپارچه شوند.
معاون وزارت دفاع آمریکا، اندیشکده ای به نام واشنگتن را به عنوان یک مرکز امنیتی جدید در آمریکا تأسیس کرده است. وی گفت: «منابع معمولی، الهام بخش راه برد نظامی وی نبوده است؛ بلکه کار تایلر کوئن (Tyler Cowen)، وبلاگ نویس و اقتصاددان دانشگاه جورج میسون، در کتاب خود، «پایان عادی بودن» (Average Is Over)، بهطور خلاصه اشاره میکند که چگونه دو بازیکن معمولی شطرنج، با همکاری سه رایانهی معمولی، قادرند دو قهرمان شطرنج و یک ابر رایانهها را شکست دهند.»
معاون وزیر دفاع با بیان این که موضوع مذکور برای وی یک انقلاب محسوب میشود، گفت: «شما میتوانید از هوش رایانهها برای تقویت راه نبوغ انسانها استفاده کنید.»
رابرت ورک معتقد است میتوان از آموزشهای داده شده در شطرنج در میدان جنگ نیز استفاده کند. وی همچنین پیشبینی میکند ارتش آمریکا با کمک هوش مصنوعی پیشرفت قابلتوجهی خواهد کرد. رایانههای هوشمند، توانایی تبدیل فرمانهای عادی به یک تاکتیک بسیار پیشرفته را دارند. همچنین سربازهای این کشور تحت تأثیر این مسئله به ابر انسانهایی تبدیل میشوند که در کنار یا داخل روباتها مبارزه میکنند.
از سرمایهگذاری 18 میلیارد دلاری پنتاگون روی فناوریهای جدید، 3 میلیارد آن به همکاری انسانها و ماشینها در مبارزات برای 5 سال آینده اختصاص داده شده است. البته این مبلغ نسبت به استانداردهای پنتاگون و بودجهی دریافتی 500 میلیارد دلاری در سال، بسیار کم به نظر میرسد. با وجود این هنوز هم مبلغ زیادی برای توسعهی فناوری و راه بردهای مفهومی به کار گرفته شده در میدان نبرد بهحساب میآید.
البته مقامات پنتاگون اعتراف کردند، به دست آوردن برتری مطلق مزیتهای فناوری توسط آمریکا، بعید به نظر میرسد.
رابرت ورک ادامه داد: «هوشهای مصنوعی و سامانههای خودکار بسیاری در سراسر دنیا و در زمینههای تجاری ایجاد شدهاند و رقابت موجود بین آنها، ما را در شیوههای بهکارگیری این فناوریها شگفتزده میکند.»
وی در مورد مزیتهای آمریکا ادعا کرد: «شجاعت ترکیب فناوریهای مختلف و قدرت تصمیمگیریهای حیاتی، ارتش آمریکا را به بهترین در دنیا تبدیل کرده است. نمایندگان نظامی آمریکا در مقابل نیروهای مسلح چین و روسیه، زنجیرهای از دستورات را به کار میگیرند، هرچند که این شرایط در حال تغییر است.»
وی افزود: «ما از لحظهی شروع رقابت به برتری خود اعتماد داشتیم؛ اما با گذر زمان این شرایط چگونه پیش میرود؟ ما باید همهی حالتها را در نظر بگیریم.»
کارشناسان بیرون پنتاگون، نسبت به آنان، باور کمتری درباره حفظ تسلط آمریکا با بهرهگیری از هوش مصنوعی دارند. صنایع دفاعی از بعد پایان جنگ سرد دیگر فعالیت زیادی نداشته و پنتاگون نیز مانند گذشته دیگر انحصار فناوریهای یادگیری ماشینی را در اختیار ندارد؛ زیرا شرکتهای بسیاری در درهی سیلیکون، اروپا و آسیا در این زمینه فعالیت میکنند.
هوش مصنوعی برخلاف فناوری و مواد موردنیاز برای ساخت سلاحهای هستهای و موشکهای هدایت شونده، چیزی قدرتمند است که در زندگی روزمرهی مردم نفوذ کرده و پنتاگون سعی در مهار کردن آن دارند.
برایان هیلی (Brian Healy)، یکی از خلبانان اف-35 گفت: «بگذارید صادق باشیم، پیمانکاران دفاعی آمریکا، میتوانند مرزها را بر بعضی موضوعات جابهجا کرده و پشت برخی دیگر باقی میمانند.»
هواپیماهای اف-35، از جدیدترین و پیشرفتهترین فناوریهای آمریکا استفاده میکند. این هواپیما از سامانهی فرمان صوتی، برای تغییر کانالهای رادیویی پشتیبانی میکند.
هیلی افزود: «همکاری گوگل و اپل با یکدیگر برای توسعه نرمافزار، موضوعی بسیار عالی است.»
زیردریاییها و غیرنظامیان
علاوه بر نگرانیهای عملی، مناظرهی شدیدی بین دانشمندان حقوقی و اخلاقی بر سر جفت شدن دو موضوع خودکارسازی و سلاحها در گرفته است. سؤالهای متعدد با جوابهای بحثبرانگیزی در این زمینه وجود دارد. آیا میتوان به یک ماشین با تواناییهای مرگبار، اعتماد کرد؟ اگر روباتی به یک مدرسه یا بیمارستان حمله کند، چه کسی مقصر شناخته میشود؟ آیا وقار بشر از سوی ماشینها با خشونت شدیدتری درحال نابودی است یا زمانی که یورشها از جانب انسانی دیگر باشد؟
بر اساس بخشنامهی پنتاگون سلاحهای خودمختار باید در سطح مناسبی از قضاوت انسانی به کار گرفته شوند. دانشمندان و کارشناسان معتقدند استانداردهای بسیار گستردهای وجود دارد و خواستار یک کنترل معنیدار انسانی در مورد این سلاحها هستند؛ اما آیا زمانی که یکی از دشمنهای آمریکا با سلاحهای کاملاً خودکار به آن حمله کند، این استانداردها رعایت خواهد شد؟
پیتر سینگر (Peter Singer)، آینده پژوهش جنگ در بنیاد «آمریکای نوین4» (The New America Foundation)، توضیح میدهد که در تاریخچهی زیردریاییها نیز موضوعی مشابه وجود دارد.
زیردریاییها نیز همانند سلاحهای خودکار، از داستانهای علمی-تخیلی پا به عرصهی وجود گذاشتند. در زمان جنگ جهانی اول کشور آلمان به شکل بیرحمانهای بدون حصول اطمینان از سلامت و امنیت یک کشتی غیرنظامی، آن را غرق کرد. این عمل بهسرعت بحث جنگ زیردریاییها را به وجود آورده و آمریکا را به جنگ وارد کرد.
بعد از پایان جنگ جهانی اول، آمریکا باعث شد یک پیمان بینالمللی برای ممنوعیت استفاده از زیردریاییها در نبرد به وجود بیاید؛ اما در زمان جنگ جهانی دوم و «حمله به پرل هاربر5» توسط ژاپن، تنها 6 ساعت زمان لازم بود تا ارتش آمریکا پیمان ایجاد شده توسط خود را زیر پا گذاشته و دستور استفاده از زیردریاییها در برابر ژاپن را صادر کند. زیردریایی آمریکایی در این زمان شروع به حمله و غرق کردن ناوگان کشتیهای تجاری غیرنظامی ژاپن کردند.
سینگر ادامه داد: «نکتهای که وجود دارد این است که اگر فناوری زیردریاییها بهروز نشود و ما شکست بخوریم، چه اتفاقی خواهد افتاد؟»
وی افزود: «به نوع دیگر از جنگ روباتها فکر کنید. کاری که هماکنون انجام نمیدهیم.»
نتیجهگیری:
همان گونه که در بالا شرح داده شد آمریکا پیوسته سعی دارد با ایجاد و معرفی فناوریهای مختلف نظامی و غیرنظامی خود را به عنوان پیشرفتهترین کشور دنیا معرفی کند. به همین منظور، مقامات این کشور، تصمیم به گسترش جنگافزار خودکار گرفته، در تمام دنیا، درباره تواناییهای آن، مانند شناسایی دقیق هدف، برای از بین بردن دشمنان، جنجال و هیاهو، به پا میکنند. با وجود این که آمریکا ادعا میکند پهپادهای آنها بسیار دقیق عمل میکنند؛ اما با توجه به متن بالا و گزارشهای بسیار دیگری که وجود دارد افراد غیرنظامی بسیاری به علت استفاده از این گونه سلاحها جان خود را از دست دادهاند.
به علاوه با وجود ادعای پل سلوا مبنی بر ساخته نشدن نمونهی واقعی سلاحهای خودمختار، دارپا در گذشته اعلام کرده بود که تا سال 2035، یکچهارم از ارتش آمریکا را روباتها تشکیل خواهند داد. از طرفی مقامات آمریکا در تلاش هستند تا قوانین بینالمللی برای استفاده از روباتهای قاتل ایجاد شود؛ اما هیچ تضمینی وجود ندارد که خودشان بر این قوانین پایبند باشند. زیرا قصد دارند همیشه بهعنوان برترین کشور از نظر نظامی شناخته بشوند.
از طرفی مقامات مختلف آمریکایی اعتراف کردهاند که این کشور دیگر نمیتواند در بسیاری از زمینهها پیشرو باشد؛ زیرا در بیشتر مناطق دنیا روی فناوریهای هوش مصنوعی و سلاحهای خودمختار تحقیقات گستردهای صورت میگیرد. همین موضوع میتواند اثباتی بر چالشهای پیشروی آمریکا بهعنوان قدرتمندترین کشور دنیا باشد.
با وجود تمام موارد ذکرشده کشورهای بسیاری هستند که روی فناوری روباتیک تحقیق کرده و بسیاری از کارشناسان معتقدند در نبردهای احتمالی آینده، نقش بسزایی ایفا خواهند کرد.
__________________________________________
1- کمپ ادوارد، نام یکی از مناطق تمرینی ارتش آمریکا، در غرب شهرستان برنستبل ایالت ماساچوست است.
2- اسکاینت، یک سامانهی خودمختار هوش مصنوعی در مجموعه فیلمهای ترمیناتور است.
3- بندر، نام روباتی در مجموعه پویانمایی فیوچراما (Futurama)، است که در قرن بیستم در شغل پیتزا فروشی فعالیت میکرد؛ اما از کار افتاده و در قرن سیویکام به عنوان کارگر یک شرکت حملونقل فضایی در یک فضاپیما به کار گرفته شد.
4- بنیاد آمریکای نوین، یک اندیشکده و موسسهی غیرانتفاعی سیاست عمومی است که دو دفتر در واشینگتن و نیویورک دارد.
5- حمله به پرل هاربر (که از سوی مرکز فرماندهی نظامی ژاپن عملیات هاوایی یا عملیات زی و از سوی برخی از آمریکاییها نبرد پرل هاربر خوانده میشد) حملهی ناگهانی هواپیماهای جنگنده ژاپن به پایگاه دریایی ایالاتمتحده آمریکا در پرل هاربر در بامداد 7 دسامبر سال ۱۹۴۱ میلادی بود که موجب ورود ایالاتمتحده به جنگ جهانی دوم شد.