about-3 back-contact back-deep eitaa کانال روبیکاخبرگزاری سایبربان
مطالب پربازدید
حمله
1405/07/19 - 19:06- جرم سایبری

حمله هکری به پلتفرم ارتباطات دفاعی استرالیا

هکرهای باج‌افزار به پلتفرم ارتباطات دفاعی استرالیا موسوم به سرویس «ForceNet» حمله کردند.

از
1405/06/18 - 20:26- ایران

از آسمان تا اعماق دریا؛ شکار زیردریایی پیشرفته آمریکا توسط ایران

از آسمان تا اعماق دریا؛ ایران با ارتقای یک تکنیک پیروز، زیردریایی پیشرفته آمریکا را شکار کرد.

حمله
1405/07/28 - 19:57- جنگ سایبری

حمله سایبری به یکی از شرکت‌های مهم رژیم صهیونیستی /فیلم

گروه هکری جبهه پشتیبانی سایبری اعلام کرد که یکی از مهم‌ترین شرکت‌های صنایع غذایی رژیم صهیونیستی را هدف قرار داده است.

یک پژوهش بین‌المللی به سرپرستی بی‌بی‌سی جهانی و هماهنگی اتحادیه پخش‌ اروپا (یی‌بی‌یو) با مشارکت ۲۲سازمان رسانه‌ای از ۱۸ کشور و در ۱۴ زبان نشان داد که دستیارهای هوش مصنوعی تقریبا در نیمی از پاسخ‌های خود درباره اخبار، اطلاعات نادرست ارائه می کنند .

به گزارش کارگروه فناوری اطلاعات سایبربان ، بی‌بی‌سی گزارش داد متخصصان خبری بیش از سه هزار پاسخ‌ تولیدشده از چهار دستیار محبوب هوش مصنوعی چت جی‌پی‌تی، کوپایلت، جمینای و پرپلکسیتی را بر اساس معیارهایی نظیر صحت، منابع و تفکیک بین نظر و واقعیت ارزیابی کردند.

بر اساس نتایج، ۴۵ درصد از پاسخ‌ها دست‌کم یک مشکل مهم داشتند.

در ۳۱ درصد موارد مشکلات جدی در ارجاع‌دهی مشاهده شد: منابع یا ذکر نشده بودند یا گمراه‌کننده و نادرست بودند.

همچنین ۲۰ درصد پاسخ‌ها دچار ایرادهای عمده در دقت اطلاعات، از جمله جزییات ساختگی و اطلاعات منسوخ شده بودند.

در این میان، جمینای با ۷۶ درصد خطا، ضعیف‌ترین عملکرد را داشت.

اهمیت اعتماد عمومی

محققان هشدار می‌دهند که با گسترش استفاده از دستیارهای هوش مصنوعی به‌عنوان مسیر دریافت اخبار، خطر پخش اطلاعات نادرست و تضعیف اعتماد عمومی افزایش می‌یابد.

بر پایه گزارش سالانه موسسه رویترز، هفت درصد از کل خبر‌خوانان آنلاین از دستیاران هوش مصنوعی استفاده می‌کنند.

این نسبت برای جوانان زیر ۲۵ سال به ۱۵ درصد افزایش می‌یابد.

ژان فیلیپ دو تندر، مدیر رسانه‌ای و معاون دبیرکل یی‌بی‌یو، با تاکید بر این نکته که خطاها «سیستماتیک، فراملی و چند زبانی» هستند، گفت: «این وضعیت می‌تواند اعتماد مردم را تضعیف کند و مشارکت دموکراتیک را تحت تاثیر قرار دهد.»

بی‌بی‌سی در تحقیقی جداگانه دریافت بسیاری از مردم به دقت خلاصه‌های خبری هوش مصنوعی اعتماد دارند.

در بریتانیا حدود یک سوم بزرگسالان کاملا به این ابزارها اعتماد دارند. این میزان برای افراد زیر ۳۵ سال تقریبا به نصف می‌رسد.

پیشنهادها و راه‌کارها

تیم تحقیق با هدف جلوگیری از پخش اطلاعات نادرست «جعبه‌ابزار راستی‌آزمایی دستیاران هوش مصنوعی» منتشر کرده است.

این جعبه‌ابزار شامل نمونه‌هایی از خطاها، راهکارهای اصلاح و رهنمودهایی برای خبرنگاران و توسعه‌دهندگان است.

علاوه بر این، اتحادیه پخش‌ اروپایی از ناظران ملی و اتحادیه‌ای خواست تا قوانین مربوط به سلامت اطلاعات و خدمات دیجیتال را اجرا کنند و بر لزوم نظارت مستقل و مداوم بر دستیاران هوش مصنوعی تاکید کرد.

این پژوهش در پایان تاکید کرده است خطاهای موجود در دستیارهای هوش مصنوعی، «سیستماتیک و فراگیر» است و تنها با همکاری نزدیک رسانه‌ها، نهادهای ناظر و شرکت‌های فناوری می‌توان از گسترش اطلاعات نادرست جلوگیری کرد.

منبع:

موضوع:

تازه ترین ها
فیلتر
1405/08/25 - 22:55- تلگرام

فیلتر تلگرام در اردن و عراق

اردن و عراق اپلیکیشن تلگرام را به دلیل نگرانی‌های مربوط به امنیت ملی مسدود کردند.

محدودیت
1405/08/25 - 22:10- آمریکا

محدودیت دسترسی چین به تراشه‌های هوش مصنوعی آمریکا با دستور ترامپ

هم‌زمان با سفر ترامپ به چین، دولت ترامپ دسترسی چین به تراشه‌های هوش مصنوعی را محدود می‌کند.

حمایت
1405/08/25 - 21:04- آمریکا

حمایت ترامپ از بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا

ترامپ از احتمال بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا حمایت می‌کند.