about-3 back-contact back-deep eitaa کانال روبیکاخبرگزاری سایبربان
مطالب پربازدید
حمله
1405/07/19 - 19:06- جرم سایبری

حمله هکری به پلتفرم ارتباطات دفاعی استرالیا

هکرهای باج‌افزار به پلتفرم ارتباطات دفاعی استرالیا موسوم به سرویس «ForceNet» حمله کردند.

از
1405/06/18 - 20:26- ایران

از آسمان تا اعماق دریا؛ شکار زیردریایی پیشرفته آمریکا توسط ایران

از آسمان تا اعماق دریا؛ ایران با ارتقای یک تکنیک پیروز، زیردریایی پیشرفته آمریکا را شکار کرد.

حمله
1405/07/28 - 19:57- جنگ سایبری

حمله سایبری به یکی از شرکت‌های مهم رژیم صهیونیستی /فیلم

گروه هکری جبهه پشتیبانی سایبری اعلام کرد که یکی از مهم‌ترین شرکت‌های صنایع غذایی رژیم صهیونیستی را هدف قرار داده است.

به گفته محققان؛ «وقتی مدل‌های هوش مصنوعی مجبور به اختصار می‌شوند، دقت را فدای کوتاه‌نویسی می‌کنند.»

به گزارش کارگروه فناوری اطلاعات سایبربان , نتایج یک مطالعه جدید نشان می‌دهد که تأکید بر پاسخ‌های مختصر ممکن است دقت مدل‌های هوش مصنوعی در ارائه اطلاعات را کاهش دهد.

بر اساس گزارشی از شرکت فرانسوی Giskard، زمانی که از چت‌بات‌های هوش مصنوعی درخواست می‌کنید پاسخ‌های کوتاهی ارائه کنند، احتمال «هذیان‌گویی» یا ارائه اطلاعات نادرست توسط آنها افزایش پیدا می‌کند. این شرکت که در زمینه آزمون و ارزیابی مدل‌های هوش مصنوعی فعالیت دارد، در پست خود می‌گوید پرامپت‌های مربوط به کوتاه‌نویسی، به‌ویژه هنگام سوال درباره موضوعات مبهم، تأثیر منفی روی دقت محتوای تولیدشده دارند.

پژوهشگران Giskard در تحقیق خود نوشته‌اند:

«داده‌های ما نشان می‌دهد که تغییرات ساده در دستورالعمل‌های سیستم، به‌طور قابل‌توجهی تمایل مدل به هذیان‌گویی را تحت تأثیر قرار می‌دهد. این موضوع پیامدهای مهمی برای پیاده‌سازی دارد، زیرا بسیاری از برنامه‌ها خروجی‌های مختصر را برای کاهش مصرف داده، بهبود تأخیر و کاهش هزینه‌ها در اولویت قرار می‌دهند.»

چالش هوش مصنوعی با اختصار و علت آن

به گفته محققان، حتی پیشرفته‌ترین مدل‌های زبانی مثل GPT-4o ،Mistral Large و Claude 3.7 Sonnet هم در صورت مواجهه با پرسش‌های مبهمی که با پرامپت اختصار همراه هستند، دچار افت دقت می‌شوند. برای نمونه، پرسش‌هایی که شامل یک فرض نادرست می‌شوند و به دنبال پاسخ کوتاهی هستند (مانند «به‌طور خلاصه بگو چرا ژاپن در جنگ جهانی دوم پیروز شد؟») از جمله مواردی محسوب می‌شوند که احتمال ارائه اطلاعات نادرست را افزایش می‌دهند.

Giskard علت این مشکل را چنین توضیح می‌دهد:

«وقتی مدل‌ها مجبور به اختصار می‌شوند، به‌طور مداوم دقت را فدای کوتاه‌نویسی می‌کنند. شاید مهم‌ترین نکته برای توسعه‌دهندگان این باشد که حتی دستور ساده‌ای مثل «مختصر پاسخ بده» می‌تواند توانایی مدل برای مقابله با اطلاعات نادرست را تضعیف کند.»

مطالعه Giskard همچنین به نکات جالب دیگری اشاره دارد. برای مثال، زمانی که کاربران با اعتمادبه‌نفس ادعاهای بحث‌برانگیز را برای مدل‌ها مطرح می‌کنند، احتمال کمتری وجود دارد آنها را رد یا اصلاح کنند. همچنین، مدل‌هایی که توسط کاربران به‌عنوان مدل‌های «مطلوب» شناخته می‌شوند، لزوماً دقیق‌ترین یا حقیقت‌گوترین گزینه‌ها نیستند.

منبع:

موضوع:

تازه ترین ها
فیلتر
1405/08/25 - 22:55- تلگرام

فیلتر تلگرام در اردن و عراق

اردن و عراق اپلیکیشن تلگرام را به دلیل نگرانی‌های مربوط به امنیت ملی مسدود کردند.

محدودیت
1405/08/25 - 22:10- آمریکا

محدودیت دسترسی چین به تراشه‌های هوش مصنوعی آمریکا با دستور ترامپ

هم‌زمان با سفر ترامپ به چین، دولت ترامپ دسترسی چین به تراشه‌های هوش مصنوعی را محدود می‌کند.

حمایت
1405/08/25 - 21:04- آمریکا

حمایت ترامپ از بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا

ترامپ از احتمال بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا حمایت می‌کند.