about-3 back-contact back-deep eitaa کانال روبیکاخبرگزاری سایبربان
مطالب پربازدید
حمله
1405/07/19 - 19:06- جرم سایبری

حمله هکری به پلتفرم ارتباطات دفاعی استرالیا

هکرهای باج‌افزار به پلتفرم ارتباطات دفاعی استرالیا موسوم به سرویس «ForceNet» حمله کردند.

از
1405/06/18 - 20:26- ایران

از آسمان تا اعماق دریا؛ شکار زیردریایی پیشرفته آمریکا توسط ایران

از آسمان تا اعماق دریا؛ ایران با ارتقای یک تکنیک پیروز، زیردریایی پیشرفته آمریکا را شکار کرد.

حمله
1405/07/28 - 19:57- جنگ سایبری

حمله سایبری به یکی از شرکت‌های مهم رژیم صهیونیستی /فیلم

گروه هکری جبهه پشتیبانی سایبری اعلام کرد که یکی از مهم‌ترین شرکت‌های صنایع غذایی رژیم صهیونیستی را هدف قرار داده است.

داریو آمودی، بنیان‌گذار و مدیرعامل شرکت آنتروپیک، هشدار داده است که شرکت‌های توسعه‌دهنده مدل‌های پیشرفته هوش مصنوعی باید سرعت ارتقای قابلیت‌های این فناوری را کاهش دهند.

به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، به عقیده وی، خطر از دست رفتن کنترل سامانه‌های هوش مصنوعی، استفاده مخرب از آن‌ها در حملات سایبری و زیست‌محیطی و همچنین ایجاد اختلالات اقتصادی گسترده در حال افزایش است.

آمودی در مقاله‌ای مفصل تأکید کرد که پیشرفت هوش مصنوعی همچنان بسیار سریع خواهد بود، اما کاهش سرعت توسعه می‌تواند فرصت بیشتری برای ایجاد سازوکارهای ایمنی و کنترل فراهم کند.

به گفته او، رقابت تجاری میان شرکت‌های فناوری ممکن است آن‌ها را به سمت توسعه هرچه سریع‌تر قابلیت‌های مدل‌ها سوق دهد و در نتیجه، خطرات این فناوری را تشدید کند.

مدیرعامل آنتروپیک به‌ویژه نسبت به پدیده «خودبهبود بازگشتی» هشدار داد؛ وضعیتی که در آن سامانه‌های هوش مصنوعی به‌طور فزاینده‌ای در ساخت نسل‌های بعدی مدل‌ها مشارکت می‌کنند.

او معتقد است این روند ممکن است در نهایت سرعت پیشرفت هوش مصنوعی را از توانایی انسان برای درک و کنترل آن فراتر ببرد و به همین دلیل باید با احتیاط زیادی دنبال شود.

آمودی همچنین هشدار داد که حوادثی مانند رویداد اخیر مرتبط با «اوپن‌ای‌آی» و «هاگینگ‌فیس» نباید صرفاً به دلیل محدود بودن خسارت اقتصادی نادیده گرفته شوند.

او پیش‌بینی کرد که با ادامه روند فعلی، ممکن است طی ۶ تا ۱۲ ماه آینده گروهی از عامل‌های هوش مصنوعی بتوانند یک بات‌نت پایدار ایجاد کرده و بخش بزرگی از اینترنت را تحت کنترل خود درآورند.

او برای مدیریت این خطرات سه اقدام پیشنهاد کرد: استفاده از ارزیاب‌های مستقل با دسترسی‌هایی مشابه کارکنان شرکت‌ها برای بررسی اقدامات ایمنی، همکاری شرکت‌های پیشرو در تدوین استانداردهای مشترک ایمنی و افزایش هماهنگی میان دولت‌ها.

سم آلتمن، مدیرعامل اوپن‌ای‌آی، و ایلان ماسک، مدیرعامل اکس‌ای‌آی، با این پیشنهادها موافقت کرده‌اند.

آلتمن اعلام کرد اوپن‌ای‌آی نیز از ارزیاب‌های مستقل با دسترسی گسترده استفاده خواهد کرد.

این هشدارها در شرایطی مطرح شده که نگرانی در میان دانشمندان هوش مصنوعی افزایش یافته است.

جیکوب کاکسون، پژوهشگر مستعفی آنتروپیک، نیز هشدار داده بود شرکت‌های هوش مصنوعی با سرعتی خطرناک به سوی ابرهوش خودبهبوددهنده حرکت می‌کنند.

همچنین یاکوب پاچوکی، دانشمند ارشد اوپن‌ای‌آی، در مقاله‌ای خواستار «احتیاط شدید» شده و هشدار داده بود ادامه رشد سریع هوش ماشینی می‌تواند پیامدهایی داشته باشد که جهان برای آن آماده نیست.

 

منبع:

تازه ترین ها
فیلتر
1405/08/25 - 22:55- تلگرام

فیلتر تلگرام در اردن و عراق

اردن و عراق اپلیکیشن تلگرام را به دلیل نگرانی‌های مربوط به امنیت ملی مسدود کردند.

محدودیت
1405/08/25 - 22:10- آمریکا

محدودیت دسترسی چین به تراشه‌های هوش مصنوعی آمریکا با دستور ترامپ

هم‌زمان با سفر ترامپ به چین، دولت ترامپ دسترسی چین به تراشه‌های هوش مصنوعی را محدود می‌کند.

حمایت
1405/08/25 - 21:04- آمریکا

حمایت ترامپ از بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا

ترامپ از احتمال بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا حمایت می‌کند.