about-3 back-contact back-deep eitaa کانال روبیکاخبرگزاری سایبربان
مطالب پربازدید
حمله
1405/07/19 - 19:06- جرم سایبری

حمله هکری به پلتفرم ارتباطات دفاعی استرالیا

هکرهای باج‌افزار به پلتفرم ارتباطات دفاعی استرالیا موسوم به سرویس «ForceNet» حمله کردند.

از
1405/06/18 - 20:26- ایران

از آسمان تا اعماق دریا؛ شکار زیردریایی پیشرفته آمریکا توسط ایران

از آسمان تا اعماق دریا؛ ایران با ارتقای یک تکنیک پیروز، زیردریایی پیشرفته آمریکا را شکار کرد.

حمله
1405/07/28 - 19:57- جنگ سایبری

حمله سایبری به یکی از شرکت‌های مهم رژیم صهیونیستی /فیلم

گروه هکری جبهه پشتیبانی سایبری اعلام کرد که یکی از مهم‌ترین شرکت‌های صنایع غذایی رژیم صهیونیستی را هدف قرار داده است.

یکی از کارکنان بخش ایمنی اوپن‌اِی‌آی به‌تازگی استعفا داد و از رویکرد این شرکت نسبت به ایمنی هوش مصنوعی انتقاد کرد.

به گزارش کارگروه فناوری اطلاعات سایبربان، یکی از کارکنان سابق بخش ایمنی اوپن‌اِی‌آی (OpenAI) که به‌تازگی استعفا داده است، از رویکرد این شرکت نسبت به ایمنی هوش مصنوعی انتقاد و اعلام کرد که فرهنگ حاکم بر آن که بر توسعه سریع متمرکز است، خطر بروز شکست‌ها را افزایش می‌دهد.

دیوید رابینسون در مطلبی با عنوان من اوپن‌اِی‌آی را ترک کردم؛ چون فرهنگ آن دچار مشکل است که روز شنبه در نشریه آتلانتیک منتشر شد، اظهار داشت که شرکت‌های فعال در حوزه هوش مصنوعی، از جمله اوپن‌اِی‌آی، به‌اندازه کافی محتاط عمل نمی‌کنند و باید پیش از توسعه سیستم‌های توانمندتر، تأکید بیشتری بر تخصص و پژوهش در زمینه ایمنی داشته باشند.

رابینسون نوشت:

زمان آزمون‌وخطا تمام شده است و سیستم‌های پیشرفته هوش مصنوعی به پادمان‌هایی شبیه به پادمان‌های مورداستفاده در صنایعی مانند انرژی هسته‌ای و هوانوردی نیاز دارند. اوپن‌اِی‌آی به‌شدت به چیزی که آن را استقرار تکراری می‌نامد، متکی است که در آن سیستم‌ها آزاد می‌شوند و پادمان‌ها در هنگام بروز مشکلات تقویت می‌شوند.

Paragraphs
45678

این اظهارات به بحثی در صنعت هوش مصنوعی در مورد اینکه آیا شرکت‌ها برای توسعه سیستم‌های قدرتمندتر خیلی سریع حرکت می‌کنند، می‌افزاید. اوپن‌اِی‌آی و آنتروپیک پس از حوادثی که در آن‌ها کنترل‌های ایمنی از کارافتاده‌اند یا سیستم‌های آزمایشی به طور غیرمنتظره‌ای رفتار کرده‌اند، با بررسی دقیق مواجه شده‌اند.

رابینسون گفت ۳.۵ سالی را که در اوپن‌اِی‌آی گذرانده، به تدوین چارچوب آمادگی شرکت کمک کرده و بر گزارش‌های ایمنی ۱۲ پرتاب مدل مرزی نظارت داشته است.

 او نوشت: 

همان‌طور که شرکت از یک پرتاب به پرتاب بعدی می‌دود، در دستیابی به سطح مراقبتی که به اعتقاد من موردنیاز است، شکست می‌خورد.

 سخنگوی اوپن‌اِی‌آی در بیانیه‌ای گفت:  

ما اطمینان حاصل می‌کنیم که مدل‌ها از آنچه می‌توانیم با خیال راحت مدیریت و ایمن کنیم، توانمندتر نشوند و وقتی نیاز به کاهش سرعت داشته باشیم، آموزش را متوقف می‌کنیم یا مدل‌ها را به تعویق می‌اندازیم.

رابینسون همچنین هشدار داد که قابلیت‌های هوش مصنوعی سریع‌تر از درک محققان از هم‌ترازی پیشرفت می‌کنند، زمینه‌ای که بر اطمینان از عملکرد سیستم‌های هوش مصنوعی مطابق با اهداف و ارزش‌های انسانی متمرکز است.

345678

منبع:

تازه ترین ها
فیلتر
1405/08/25 - 22:55- تلگرام

فیلتر تلگرام در اردن و عراق

اردن و عراق اپلیکیشن تلگرام را به دلیل نگرانی‌های مربوط به امنیت ملی مسدود کردند.

محدودیت
1405/08/25 - 22:10- آمریکا

محدودیت دسترسی چین به تراشه‌های هوش مصنوعی آمریکا با دستور ترامپ

هم‌زمان با سفر ترامپ به چین، دولت ترامپ دسترسی چین به تراشه‌های هوش مصنوعی را محدود می‌کند.

حمایت
1405/08/25 - 21:04- آمریکا

حمایت ترامپ از بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا

ترامپ از احتمال بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا حمایت می‌کند.

مطالب مرتبط

در این بخش مطالبی که از نظر دسته بندی و تگ بندی مرتبط با محتوای جاری می باشند نمایش داده می‌شوند.