about-3 back-contact back-deep eitaa کانال روبیکاخبرگزاری سایبربان
مطالب پربازدید
حمله
1405/07/19 - 19:06- جرم سایبری

حمله هکری به پلتفرم ارتباطات دفاعی استرالیا

هکرهای باج‌افزار به پلتفرم ارتباطات دفاعی استرالیا موسوم به سرویس «ForceNet» حمله کردند.

از
1405/06/18 - 20:26- ایران

از آسمان تا اعماق دریا؛ شکار زیردریایی پیشرفته آمریکا توسط ایران

از آسمان تا اعماق دریا؛ ایران با ارتقای یک تکنیک پیروز، زیردریایی پیشرفته آمریکا را شکار کرد.

حمله
1405/07/28 - 19:57- جنگ سایبری

حمله سایبری به یکی از شرکت‌های مهم رژیم صهیونیستی /فیلم

گروه هکری جبهه پشتیبانی سایبری اعلام کرد که یکی از مهم‌ترین شرکت‌های صنایع غذایی رژیم صهیونیستی را هدف قرار داده است.

مطالعه جدید نشان می‌دهد ابزار جستجوی چت‌بات‌های هوش مصنوعی در 60 درصد مواقع اشتباه می‌کنند. برخی مدل‌ها حتی تا 94 درصد خطا دارند.

به گزارش کارگروه فناوری اطلاعات سایبربان , پژوهش جدیدی که مرکز روزنامه‌نگاری دیجیتال «Tow» در دانشگاه کلمبیا انجام داده است، نشان می‌دهد مدل‌های هوش مصنوعی مجهز به قابلیت جستجو در اینترنت به میزان نگران‌کننده‌ای اطلاعات نادرست ارائه می‌دهند. محققان 8 مدل مختلف ازجمله ChatGPT Search و گوگل Gemini را بررسی کردند و دریافتند درکل، این ابزارها بیش از 60 درصد سؤالات را اشتباه پاسخ می‌دهند.

طبق گزارش «Columbia Journalism Review» برای مثال، مدل Perplexity AI که دقیق‌ترین ابزار در این آزمایش‌ها بود، همچنان 37 درصد پاسخ‌های خود را اشتباه ارائه می‌داد. از سوی دیگر، قابلیت جستجوی Grok 3 که متعلق به ایلان ماسک است، با نرخ خطای 94 درصد بدترین عملکرد را داشت.

این مطالعه نشان داد برخلاف موتورهای جستجوی سنتی که کاربران را به منابع معتبر هدایت می‌کنند، ابزارهای جستجوی مبتنی‌بر هوش مصنوعی اطلاعات را پردازش و بازسازی می‌کنند و جریان ترافیک را از منابع اصلی قطع می‌کنند. این ابزارها به‌جای امتناع از پاسخ‌گویی درصورت نبود اطلاعات معتبر، اغلب اطلاعات نادرستی ارائه می‌دهند که قابل‌توجیه به‌ نظر می‌رسند.

علاوه‌براین، پژوهشگران دریافتند برخی مدل‌های پولی حتی از نسخه‌های رایگان نیز عملکرد بدتری داشتند؛ برای مثال، نسخه پولی «Perplexity Pro» که با هزینه 20 دلار در ماه ارائه می‌شود، نسبت به نسخه رایگان خود با اطمینان بالا پاسخ اشتباه بیشتر می‌داد.

یکی دیگر از مشکلات مهم این ابزارها رعایت‌نکردن پروتکل‌های جلوگیری از دسترسی به محتوای ناشران بود؛ برای مثال، نسخه رایگان «Perplexity» توانست مقالاتی را از «National Geographic» استخراج کند، درحالی‌که این ناشر دسترسی به خزنده‌های وب Perplexity را مسدود کرده بود.

دقت قابلیت‌های جستجو با هوش مصنوعی چالشی بزرگ است

علاوه‌براین، حتی زمانی که این ابزارها منابع داده‌های خود را ذکر می‌کنند، اغلب کاربران را به نسخه‌های بازتوزیع‌شده در پلتفرم‌هایی مانند «Yahoo News» هدایت می‌کنند، به‌جای آنکه لینک اصلی مقاله را ارائه دهند. در برخی موارد، این مدل‌ها حتی لینک‌های جعلی تولید می‌کردند که کاربران را به صفحات ناموجود هدایت می‌کرد.

باوجود پیشرفت‌های چشمگیر در فناوری هوش مصنوعی، مدل‌هایی با قابلیت جستجو هنوز مشکلات جدی در دقت و صحت ارائه اطلاعات دارند. ناشران با چالش‌های زیادی روبه‌رو هستند؛ زیرا یا باید اجازه دهند محتوای آنها بدون هدایت ترافیک به وب‌سایتشان استفاده شود یا به‌کلی از این فناوری کنار گذاشته شوند. این موضوع می‌تواند تأثیرات قابل‌توجهی بر صنعت رسانه و نحوه دسترسی کاربران به اخبار معتبر داشته باشد.

Paragraphs
قابلیت
قابلیت

منبع:

تازه ترین ها
فیلتر
1405/08/25 - 22:55- تلگرام

فیلتر تلگرام در اردن و عراق

اردن و عراق اپلیکیشن تلگرام را به دلیل نگرانی‌های مربوط به امنیت ملی مسدود کردند.

محدودیت
1405/08/25 - 22:10- آمریکا

محدودیت دسترسی چین به تراشه‌های هوش مصنوعی آمریکا با دستور ترامپ

هم‌زمان با سفر ترامپ به چین، دولت ترامپ دسترسی چین به تراشه‌های هوش مصنوعی را محدود می‌کند.

حمایت
1405/08/25 - 21:04- آمریکا

حمایت ترامپ از بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا

ترامپ از احتمال بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا حمایت می‌کند.