هشدار اف بی آی درباره استفاده دشمنان از هوش مصنوعی

به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، یک مقام ارشد که خواست نامش فاش نشود، طی یک کنفرانس تلفنی با خبرنگاران می گوید:

دو خطر اصلی که این اداره می بیند، «عدم تراز مدل» یا چرخش نرم افزار هوش مصنوعی به سمت نتایج نامطلوب در طول توسعه یا استقرار، و «سوء استفاده مستقیم از هوش مصنوعی» برای کمک به سایر عملیات است.

این مقام می گوید که عوامل خارجی به طور فزاینده ای شرکت ها، دانشگاه ها و مراکز تحقیقاتی دولتی ایالات متحده برای پیشرفت های هوش مصنوعی، مانند الگوریتم ها، تخصص داده ها، زیرساخت های محاسباتی و حتی مردم را هدف قرار داده و داده های مربوط به آنها را جمع آوری می کنند.

به گفته این مقام، استعداد، یکی از مطلوب ترین جنبه ها در زنجیره تامین هوش مصنوعی است که دشمنان به آن نیاز دارند و ایالات متحده استاندارد طلایی را در سطح جهانی برای کیفیت توسعه تحقیقات تعیین می کند.

این هشدار تنها چند روز پس از آن صادر شده است که کریستوفر رای، رئیس اف بی آی، زنگ خطر را در مورد استفاده چین از این فناوری به صدا درآورد.

متأسفانه هوش مصنوعی یک فناوری کاملاً مناسب است تا به چین اجازه دهد از سوء رفتار گذشته و فعلی خود سود ببرد.

او در نشست آتلانتا اف بی آی در اجلاس تهدید سایبری گفته است:

ساخت مدل‌ها به نوآوری‌های پیشرفته و داده‌های زیادی برای آموزش آنها نیاز دارد. مقامات ایالات متحده می گویند که رژیم چین، دارایی های معنوی را می دزدد و مقادیر زیادی از داده های خارجی را از راه های غیرقانونی جمع آوری می کند.

علاوه بر تهدیدهای دولتی، مقامات آمریکایی و محققان امنیت سایبری می گویند که مجرمان از هوش مصنوعی به عنوان یک نیروی چند برابر کننده برای تولید کدهای مخرب و ایجاد ایمیل های فیشینگ متقاعدکننده، و همچنین توسعه بدافزارهای پیشرفته، کد مهندسی معکوس و ایجاد «محتوای مصنوعی» به عنوان دیپ فیک، استفاده می کنند.

این مقام اف بی آی به خبرنگاران می گوید:

هوش مصنوعی برخی از موانع فنی را به میزان قابل توجهی کاهش داده است و به افرادی که تجربه یا تخصص فنی محدودی دارند اجازه می دهد کدهای مخرب بنویسند و فعالیت های سایبری سطح پایین را به طور همزمان انجام دهند. اگرچه هوش مصنوعی هنوز در تولید کد ناقص است، اما به عوامل پیشرفته‌تر کمک کرده است تا فرآیند توسعه بدافزار را تسریع کنند، حملات جدیدی ایجاد کنند و گزینه‌های تحویل قانع‌کننده‌تر و مهندسی اجتماعی مؤثری را فعال کنند.

این مقام مسئول کثال به خصوصی از آن فعالیت ها را ارائه نکرد.

این مقام همچنین گفته است که این دفتر هیچ پرونده مرتبط با هوش مصنوعی را به دادگاه نیاورده است و از قرار دادن یک جنبه از خطرات ناشی از فناوری، در جایگاهی بالاتر از دیگری، خودداری کرده است.

این مقام می گوید:

ما لزوماً اولویت خاصی برای تهدیدها نداریم. همانطور که مأموریت ما ایجاب می کند، ما به همه این تهدیدها به طور یکسان در بین بخش های خود نگاه می کنیم.