about-3 back-contact back-deep eitaa کانال روبیکاخبرگزاری سایبربان
مطالب پربازدید
حمله
1405/07/19 - 19:06- جرم سایبری

حمله هکری به پلتفرم ارتباطات دفاعی استرالیا

هکرهای باج‌افزار به پلتفرم ارتباطات دفاعی استرالیا موسوم به سرویس «ForceNet» حمله کردند.

از
1405/06/18 - 20:26- ایران

از آسمان تا اعماق دریا؛ شکار زیردریایی پیشرفته آمریکا توسط ایران

از آسمان تا اعماق دریا؛ ایران با ارتقای یک تکنیک پیروز، زیردریایی پیشرفته آمریکا را شکار کرد.

حمله
1405/07/28 - 19:57- جنگ سایبری

حمله سایبری به یکی از شرکت‌های مهم رژیم صهیونیستی /فیلم

گروه هکری جبهه پشتیبانی سایبری اعلام کرد که یکی از مهم‌ترین شرکت‌های صنایع غذایی رژیم صهیونیستی را هدف قرار داده است.

انتشار شده در تاریخ

نژادپرستی در چت‌بات‌های هوش مصنوعی

چت‌بات‌های هوش مصنوعی برای کاربران غیرانگلیسی‌زبان، عملکرد ضعیفی دارند.

به گزارش کارگروه فناوری اطلاعات سایبربان، تحقیقات مرکز ارتباطات سازنده مؤسسه فناوری ماساچوست (CCC)نشان می‌دهد که چت‌بات‌های هوش مصنوعی پیشرو اغلب پاسخ‌های بی‌کیفیت‌تری به کاربرانی بامهارت انگلیسی پایین‌تر، تحصیلات کمتر یا کسانی که خارج از ایالات متحده هستند، ارائه می‌دهند.

مدل‌های آزمایش‌شده شامل (GPT-4)، (Claude 3 Opus) و (Llama 3) هستند که گاهی اوقات از پاسخ‌دادن خودداری می‌کنند.  

محققان با استفاده از مجموعه‌داده‌های (TruthfulQA) و (SciQ)، شرح‌حال کاربران را برای شبیه‌سازی تفاوت‌ها در تحصیلات، زبان و کشور اضافه کردند.

دقت در بین کاربران غیربومی انگلیسی‌زبان و کم‌سواد به‌شدت کاهش یافت و بیشترین کاهش در بین کسانی که تحت‌تأثیر هر دو قرار داشتند، مشاهده شد. کاربران از کشورهایی مانند ایران نیز پاسخ‌های باکیفیت پایین‌تری دریافت کردند.

رفتار امتناع قابل‌توجه بود. مدل (Claude 3 Opus) 11 درصد از سوالات را برای افراد کم‌سواد و غیرانگلیسی زبان رد کرد، در حالی که این رقم برای کاربران گروه کنترل 3.6درصد بود. بررسی دستی نشان داد که 43.7درصد از امتناع‌ها حاوی زبان تحقیرآمیز بود.

برخی از کاربران از دسترسی به موضوعات خاص منع شدند، حتی اگر به برخی دیگر از موضوعات به‌درستی پاسخ داده بودند.

این مطالعه، سوگیری‌های اجتماعی - شناختی انسان را منعکس می‌کند که در آن افراد غیربومی اغلب به‌عنوان افراد کم‌صلاحیت‌تر تلقی می‌شوند. چت‌بات‌های هوش مصنوعی می‌توانند تعصبات اجتماعی را تقویت، تعصبات انسانی را منعکس و دسترسی برابر به اطلاعات قابل‌اعتماد را محدود کنند. 

محققان هشدار می‌دهند که شخصی‌سازی هوش مصنوعی می‌تواند نابرابری‌ها را بدتر کند و در زمانی که کاربران به آن نیاز دارند، اطلاعات بی‌کیفیت یا گمراه‌کننده‌ای را در اختیار آنها قرار دهد.

منبع:

تازه ترین ها
فیلتر
1405/08/25 - 22:55- تلگرام

فیلتر تلگرام در اردن و عراق

اردن و عراق اپلیکیشن تلگرام را به دلیل نگرانی‌های مربوط به امنیت ملی مسدود کردند.

محدودیت
1405/08/25 - 22:10- آمریکا

محدودیت دسترسی چین به تراشه‌های هوش مصنوعی آمریکا با دستور ترامپ

هم‌زمان با سفر ترامپ به چین، دولت ترامپ دسترسی چین به تراشه‌های هوش مصنوعی را محدود می‌کند.

حمایت
1405/08/25 - 21:04- آمریکا

حمایت ترامپ از بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا

ترامپ از احتمال بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا حمایت می‌کند.