about-3 back-contact back-deep eitaa کانال روبیکاخبرگزاری سایبربان
مطالب پربازدید
حمله
1405/07/19 - 19:06- جرم سایبری

حمله هکری به پلتفرم ارتباطات دفاعی استرالیا

هکرهای باج‌افزار به پلتفرم ارتباطات دفاعی استرالیا موسوم به سرویس «ForceNet» حمله کردند.

از
1405/06/18 - 20:26- ایران

از آسمان تا اعماق دریا؛ شکار زیردریایی پیشرفته آمریکا توسط ایران

از آسمان تا اعماق دریا؛ ایران با ارتقای یک تکنیک پیروز، زیردریایی پیشرفته آمریکا را شکار کرد.

حمله
1405/07/28 - 19:57- جنگ سایبری

حمله سایبری به یکی از شرکت‌های مهم رژیم صهیونیستی /فیلم

گروه هکری جبهه پشتیبانی سایبری اعلام کرد که یکی از مهم‌ترین شرکت‌های صنایع غذایی رژیم صهیونیستی را هدف قرار داده است.

داده‌های مسموم‌شده شامل اطلاعاتی هستند که به‌طور عمدی دستکاری یا تخریب شده‌اند تا مدل‌های هوش مصنوعی را به سمت تولید نتایج نادرست و خطرناک هدایت کنند.

به گزارش کارگروه فناوری اطلاعات سایبربان به نقل از نیسوس، حملات تخریب داده به‌عنوان یکی از خطرناک‌ترین تهدیدات امنیتی برای سیستم‌های هوش مصنوعی شناخته شده است. این حملات به مهاجمان اجازه می‌دهد تا داده‌های مخرب یا گمراه‌کننده را وارد مجموعه‌ داده‌های آموزشی کنند، که منجر به تولید نتایج اشتباه و آسیب‌پذیری در تصمیم‌گیری‌های کلیدی می‌شود.

طبق گزارش جدید شرکت نیسوس، حتی درصد کمی از داده‌های آلوده (مانند ۰.۰۰۱ درصد از داده‌های آموزشی) می‌تواند عملکرد هوش مصنوعی را مختل کند. این حملات می‌توانند تصمیم‌گیری‌های کلیدی را در بخش‌هایی مانند سلامت و امنیت ملی تحت تاثیر قرار دهند.

برای مثال، در سال ۲۰۱۶، فیلتر هرزنامه جی‌میل گوگل مورد حمله قرار گرفت. مهاجمان توانستند ایمیل‌های مخرب را با دور زدن فیلتر ارسال کنند. همچنین، چت‌بات Microsoft Tay پس از آلوده شدن با داده‌های مخرب، پاسخ‌های نامناسب و اشتباهی تولید کرد.

برای مقابله با این تهدیدات، نیسوس پیشنهاد می‌کند از تکنیک‌های پیشرفته‌تری مانند آموزش با نمونه‌های متخاصم، اعتبارسنجی داده‌ها و سیستم‌های شناسایی تهدید مبتنی بر هوش مصنوعی استفاده شود. همچنین، چارچوب‌های مقرراتی برای افزایش امنیت هوش مصنوعی ضروری است.

 

استراتژی‌های کاهش حملات مسموم‌سازی داده‌ها

گزارش Nisos چندین استراتژی برای کاهش حملات مسموم‌سازی داده‌ها یا تخریب داده پیشنهاد می‌کند. یکی از مهم‌ترین راهکارها، پیاده‌سازی تکنیک‌های اعتبارسنجی و پاکسازی قوی داده است. راهکار دیگر، استفاده از نظارت مداوم و حسابرسی سیستم‌های هوش مصنوعی است.

این گزارش همچنین پیشنهاد می‌کند از آموزش نمونه‌های خصمانه برای بهبود تاب‌آوری مدل‌ها استفاده شود، منابع داده را متنوع کرد، شیوه‌های ایمن برای مدیریت داده‌ها به کار گرفت، و در برنامه‌های آگاهی‌بخشی و آموزشی کاربران سرمایه‌گذاری کرد.

توسعه‌دهندگان هوش مصنوعی باید منابع مجموعه داده‌ها را کنترل و تفکیک کرده و در دفاع‌های برنامه‌محور و سیستم‌های تشخیص تهدید مبتنی بر هوش مصنوعی سرمایه‌گذاری کنند.

موضوع:

تازه ترین ها
فیلتر
1405/08/25 - 22:55- تلگرام

فیلتر تلگرام در اردن و عراق

اردن و عراق اپلیکیشن تلگرام را به دلیل نگرانی‌های مربوط به امنیت ملی مسدود کردند.

محدودیت
1405/08/25 - 22:10- آمریکا

محدودیت دسترسی چین به تراشه‌های هوش مصنوعی آمریکا با دستور ترامپ

هم‌زمان با سفر ترامپ به چین، دولت ترامپ دسترسی چین به تراشه‌های هوش مصنوعی را محدود می‌کند.

حمایت
1405/08/25 - 21:04- آمریکا

حمایت ترامپ از بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا

ترامپ از احتمال بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا حمایت می‌کند.