به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت هوش مصنوعی انتروپیک (Anthropic)گزارش داد که چت‌بات ابری آن در حوادث سایبری، از جمله تلاش برای انجام عملیات هک و کلاهبرداری مرتبط با استخدام، مورد سوءاستفاده قرار گرفته است.
این شرکت اعلام کرد که از فناوری آن برای کمک به نوشتن کد مخرب و کمک به عوامل تهدید در برنامه‌ریزی حملات استفاده شده است.
بااین‌حال، شرکت انتروپیک اظهار داشت که می‌تواند فعالیت را مختل کرده، به مقامات اطلاع دهد.
در یک مورد، این شرکت گزارش داد که حملات پشتیبانی شده توسط هوش مصنوعی حداقل ۱۷ سازمان، از جمله نهادهای دولتی را هدف قرار داده است. گفته می‌شود مهاجمان برای پشتیبانی از تصمیم‌گیری، از انتخاب داده‌های مورد هدف گرفته تا تهیه درخواست‌های باج، به این ابزار متکی بوده‌اند.
کارشناسان خاطرنشان می‌کنند که ظهور هوش مصنوعی عامل‌محور (agentic) که می‌تواند با استقلال بیشتری عمل کند، نگرانی‌ها در مورد سوءاستفاده احتمالی را افزایش داده است.
انتروپیک همچنین تلاش‌هایی را برای استفاده از مدل‌های هوش مصنوعی برای پشتیبانی از درخواست‌های کلاهبرداری برای مشاغل دورکاری در شرکت‌های بزرگ شناسایی کرده است.
طبق گزارش‌ها، از هوش مصنوعی برای ایجاد پروفایل‌های قانع‌کننده، تولید درخواست‌ها و کمک به وظایف مرتبط با کار پس از تأمین شغل استفاده شده است.
تحلیلگران معتقدند که هوش مصنوعی می‌تواند چنین طرح‌هایی را تقویت کند، اما اکثر حوادث سایبری هنوز شامل تکنیک‌های قدیمی مانند فیشینگ و سوءاستفاده از آسیب‌پذیری‌های نرم‌افزاری هستند.
متخصصان امنیت سایبری بر اهمیت دفاع پیشگیرانه هم‌زمان با تکامل ابزارهای هوش مصنوعی تأکید می‌کنند. آنها هشدار می‌دهند که سازمان‌ها باید پلتفرم‌های هوش مصنوعی را به‌عنوان سیستم‌های حساسی که نیاز به حفاظت‌های قوی برای جلوگیری از سوءاستفاده از آنها دارند، در نظر بگیرند.
