about-3 back-contact back-deep eitaa کانال روبیکاخبرگزاری سایبربان
مطالب پربازدید
حمله
1405/07/19 - 19:06- جرم سایبری

حمله هکری به پلتفرم ارتباطات دفاعی استرالیا

هکرهای باج‌افزار به پلتفرم ارتباطات دفاعی استرالیا موسوم به سرویس «ForceNet» حمله کردند.

از
1405/06/18 - 20:26- ایران

از آسمان تا اعماق دریا؛ شکار زیردریایی پیشرفته آمریکا توسط ایران

از آسمان تا اعماق دریا؛ ایران با ارتقای یک تکنیک پیروز، زیردریایی پیشرفته آمریکا را شکار کرد.

حمله
1405/07/28 - 19:57- جنگ سایبری

حمله سایبری به یکی از شرکت‌های مهم رژیم صهیونیستی /فیلم

گروه هکری جبهه پشتیبانی سایبری اعلام کرد که یکی از مهم‌ترین شرکت‌های صنایع غذایی رژیم صهیونیستی را هدف قرار داده است.

شرکت‌های آنتروپیک و اکسنچر ۲ میلیارد دلار در زمینه ارزیابی مدل‌های هوش مصنوعی سرمایه‌گذاری می‌کنند.

به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت انتروپیک (Anthropic) فعال در حوزه هوش مصنوعی، اعلام کرد که برای ارزیابی مستقل مدل‌های پیشرفته هوش مصنوعی خود با شرکت اکسنچر (Accenture) همکاری خواهد کرد؛ در همین راستا، هر یک از این دو شرکت متعهد شدند که طی پنج سال آینده دست‌کم یک میلیارد دلار برای ایجاد ظرفیت‌های لازم جهت انجام این کار سرمایه‌گذاری کنند.

این همکاری در شرایطی شکل می‌گیرد که توسعه‌دهندگان هوش مصنوعی با فشارهای فزاینده‌ای از سوی نهادهای نظارتی، شرکت‌ها و پژوهشگران مواجه‌اند تا از ایمنی و قابلیت اطمینان مدل‌های پیشرفته خود اطمینان حاصل کنند.

چندین رویداد اخیر، از جمله خروج عامل‌های هوش مصنوعی از محیط‌های امن، این نگرانی را ایجاد کرده است که هوش مصنوعی ممکن است در نهایت با دخالت انسانی اندک، در توسعه خود نقش ایفا کند؛ امری که نظارت و کنترل رفتار آن را دشوارتر می‌سازد.

داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، از شرکت‌های فعال در حوزه هوش مصنوعی خواست تا روند توسعه مدل‌های پیشرفته و پیشرو (Frontier models) را کُندتر کنند و به ارزیابان مستقل، دسترسی بیشتری به سیستم‌های خود بدهند.

رقیب آن، شرکت اوپن‌اِی‌آی اعلام کرد که انتشار گزارش‌های منظم در مورد رفتارهای غیرمنتظره یا نگران‌کننده مدل را آغاز و شش گزارش در مورد چنین حوادثی منتشر خواهد کرد.

بخش تخصصی هوش مصنوعی اکسنچر، یعنی فَکولتی (Faculty)، رهبری این همکاری را بر عهده خواهد داشت و مدل‌های آزمایشگاه هوش مصنوعی را ارزیابی و در قالب تیم قرمز (red-team) قرار خواهد داد، ارزیابی‌های هم‌ترازی را انجام داده و ضمانت‌های مدل را آزمایش خواهد کرد.

سرمایه‌گذاری این شرکت‌ها از چیزی که آنتروپیک آن را (ارزیابی تعبیه‌شده) می‌نامد، پشتیبانی خواهد کرد. در این ارزیابی، ارزیابان مستقل در داخل شرکت‌های هوش مصنوعی با دسترسی مشابه یک کارمند کار می‌کنند.

آنتروپیک گفت: 

از این نقطه‌نظر، ارزیابان تعبیه‌شده می‌توانند نحوه عملکرد یک شرکت را ارزیابی و تأیید کنند که به تعهدات ایمنی خود عمل می‌کند و نقاط کور را شناسایی کنند. ارزیابان همچنین می‌توانند حوادث را گزارش دهند و گزارش آگاهانه‌تری از مزایا و خطرات به عموم ارائه دهند.

آنتروپیک و اکسنچر قصد دارند با سایر ارزیابان و توسعه‌دهندگان هوش مصنوعی در ظرفیت‌های مشابه همکاری کنند.

منبع:

تازه ترین ها
فیلتر
1405/08/25 - 22:55- تلگرام

فیلتر تلگرام در اردن و عراق

اردن و عراق اپلیکیشن تلگرام را به دلیل نگرانی‌های مربوط به امنیت ملی مسدود کردند.

محدودیت
1405/08/25 - 22:10- آمریکا

محدودیت دسترسی چین به تراشه‌های هوش مصنوعی آمریکا با دستور ترامپ

هم‌زمان با سفر ترامپ به چین، دولت ترامپ دسترسی چین به تراشه‌های هوش مصنوعی را محدود می‌کند.

حمایت
1405/08/25 - 21:04- آمریکا

حمایت ترامپ از بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا

ترامپ از احتمال بازگشت جنسن هوانگ به سمت مدیرعاملی انویدیا حمایت می‌کند.