به گزارش کارگروه فناوری اطلاعات سایبربان؛ شرکت آنتروپیک (Anthropic) ادعا کرد که هکرهای تحت حمایت کرملین از ببببببببب«Claude AI» شرکت برای برنامهریزی پهپادهای کشنده خودکار، بهبود عملیاتهای هک و نفوذ و جلوگیری از شناسایی استفاده کردهاند.
این شرکت هوش مصنوعی مستقر در ایالات متحده مدعی شد که این آخرین هشدار از سوی شرکتها، اندیشکدهها و دیگران مبنی بر این است که روسیه، چین، ایران و دیگران از ابزارهای ساخت آمریکا برای حمله به اهداف در سراسر جهان استفاده میکنند.
شرکت آنتروپیک گزارش داد که یک گروه آزاد روسی معروف به «GTG-27005» از کلود برای ساخت یک مدل هوش مصنوعی به اندازه کافی کوچک که بتواند روی رایانههای تک برد کار کند اما به اندازه کافی قدرتمند است تا یک پهپاد را قادر سازد اهداف از جمله یک کلاس هدف شخص را انتخاب کند و بدون دخالت انسان، دستورات انفجار را صادر کند. در گزارش آنتروپیک آمده است که این گروه همچنین از کلود برای ایجاد نرمافزاری استفاده کردهاند که به پهپادهای خودکار اجازه میدهد برای بهبود هدفگیری با یکدیگر ارتباط برقرار کنند. در حالی که گروه روسی هنوز این مدل را در میدان مستقر نکرده بود، طبق این گزارش، آنها در جلسات خود از آزمایش سختافزار واقعی در حلقه استفاده میکردند.
شرکت آنتروپیک همچنین عنوان کرد که گروههای چینی و یمنی را که سعی در استفاده از کلود برای طراحی سلاحهای متعارف داشتند، شناسایی کرده است، تلاشهایی که به گفته آنتروپیک، آنها را مختل کرده است.
این گزارش همچنین جزئیات نحوه استفاده گروههای خارجی از کلود در کمپینهای سرقت دادهها و اطلاعات نادرست را شرح میدهد. طبق این گزارش، از ابزارها برای استخراج اطلاعات در مورد اهداف، یافتن آسیبپذیریها در حسابهای آنلاین آنها، ایجاد بدافزار برای دور زدن امنیت و سرقت دادهها، پوشاندن ردپای آنها و انتشار اطلاعات نادرست استفاده شده است.
در این گزارش آمده است:
«ما شاهد بودهایم که گروههایی از عوامل از کلود برای ساخت شبکههایی از پروفایلهای جعلی رسانههای اجتماعی و کل سایتهای خبری استفاده میکنند.»
این کمپینها نشانههایی از کمپینهای نفوذ روسیه، مانند استفاده از سایتهای خبری جعلی و پروفایلهای روزنامهنگاران برای انتشار دروغ در مورد فعالیت ناتو در بالتیک، را دارند. اما ابزارهای هوش مصنوعی ساخته شده توسط ایالات متحده به سادهسازی این فرآیند کمک کردند و میزان اطلاعات نادرست را افزایش دادند و خبرنگاران جعلی ایجاد کردند که برای مخاطبان محلی بسیار باورپذیرتر بودند. در این گزارش آمده است که گروههای مرتبط با روسیه بخش عمدهای از عملیاتهای خود را از توسعه، اکتساب زیرساختها، فیشینگ، ماندگاری از طریق فرماندهی و کنترل تا استخراج دادهها، خودکارسازی کردهاند. کارشناسان ادعا کردند که این گروه حتی از هوش مصنوعی برای جعل اسناد از ژاندارمری و وزارت دفاع جمهوری آفریقای مرکزی استفاده کرده است. گروه دیگری به نام «GTG-84005» از هوش مصنوعی برای سرقت اطلاعات سرشماری و عمومی استفاده کرد که به مأموران آن اجازه داد تا کمپینهای پیامرسانی خود را برای مخاطبان خاص در مالزی تنظیم کنند، جایی که گروه ترکیهای رسانههای دولتی روسیه و چین را به عنوان گزارشهای مستقل شستشو میداد.
گزارش آنتروپیک دو هفته پس از آن منتشر شد که آزمایشگاه مرزی رقیب، «OpenAI»، ادعا کرد که هکرهای روسی از چتجیپیتی برای ایجاد یک جامعه متخصص جعلی، مؤسسه بینالمللی بورک، استفاده کردهاند تا نکات مورد بحث را به مخاطبان بینالمللی منتقل کنند.
در حالی که آنتروپیک و OpenAI توانستند طرحهایی را که کشف کردند مختل کنند، طبق گزارش ماه اوت امسال مؤسسه مطالعات جنگ (ISW)، چنین عملیاتی احتمالاً ادامه خواهد یافت زیرا روسیه از هوش مصنوعی برای تولید گسترده محتوایی که با روایتهای کرملین همسو است، استفاده میکند.
روسیه همچنین از کنجکاوی جوانان در مورد هوش مصنوعی برای افزایش تعداد انسانهایی که اطلاعات نادرست روسیه را منتشر میکنند، استفاده میکند و از طریق کمکهای دانشگاهی و برنامههای مرتبط، به جوانان در سراسر جهان کارآموزی و آموزش رسانهای هوش مصنوعی ارائه میدهد.
