به گزارش کارگروه فناوری اطلاعات سایبربان، واحد تحقیقات هوش مصنوعی سید (Seed) غول فناوری چینی بایت دنس (ByteDance)، یک تیم هماهنگی و آمادگی ایجاد و یک کمپین جهانی برای استخدام ۱۰ محقق راه‌اندازی کرده است و سرمایه‌گذاری بلندمدتی در ایمنی هوش مصنوعی برای مدل‌های روبه‌رشد خود انجام خواهد داد.
این تلاش برای استخدام در حالی صورت می‌گیرد که بررسی دقیق ایمنی عامل هوش مصنوعی در چین و ایالات متحده افزایش می‌یابد، به‌خصوص که توسعه‌دهندگان به آنها استقلال دسترسی به اینترنت را می‌دهند.
هم‌ترازی هوش مصنوعی به تلاش‌هایی اشاره دارد که برای اطمینان از عملکرد سیستم‌های پیشرفته هوش مصنوعی مطابق با اهداف انسانی و الزامات ایمنی انجام می‌شود، به‌ویژه هنگام انجام وظایف پیچیده و چندمرحله‌ای.
اعلامیه بایت دنس یک افشاگری عمومی نادر توسط یک توسعه‌دهنده بزرگ هوش مصنوعی چینی از یک تلاش اختصاصی متمرکز بر ایمنی، هم‌ترازی و آمادگی برای خطرات نوظهور در مدل‌های مرزی است.
Seed اولین آزمایشگاه هوش مصنوعی مرزی چین بود که یک دپارتمان ایمنی و هم‌ترازی مستقل تأسیس کرد.
این اقدام همچنین در بحبوحه بحث‌های گسترده‌تر ایالات متحده و چین در مورد محافظ‌های هوش مصنوعی، خطرات ایمنی و کانال‌های ارتباطی در مورد حوادث مهم مرتبط با هوش مصنوعی، حتی درحالی‌که دو کشور برای رهبری در هوش مصنوعی پیشرفته رقابت می‌کنند، صورت می‌گیرد.
Seed در یک پست استخدامی که روز چهارشنبه در حساب رسمی وی چت خود منتشر کرد، گفت:
با بهبود قابلیت‌های مدل، ایمنی و هم‌ترازی دیگر صرفاً محافظ در برابر ریسک نیستند، بلکه قابلیت‌های اصلی هستند که تعیین می‌کنند آیا مدل‌ها می‌توانند در مقیاس وسیع به کار گرفته شوند یا خیر.
شرکت Seed اعلام کرد که ظرفیت محاسباتی و منابع تحقیقاتی قابل‌مقایسه با منابع موجود برای تیم‌های مدل پیشرو را در اختیار تیم جدید قرار خواهد داد. این موقعیت‌ها در پکن، شانگهای و سن خوزه، کالیفرنیا مستقر هستند. تحقیقات این شرکت شامل آموزش ایمنی در مراحل توسعه مدل، آزمایش خودکار آسیب‌پذیری‌ها، ابزارهایی برای نظارت و توضیح رفتار مدل، محیط‌های آزمایش عامل هوش مصنوعی و آمادگی برای خطرات نوظهور خواهد بود.
Seed اعلام کرد که همچنین به دنبال آزمایش مستقل و همکاری با دانشگاه‌ها و مؤسسات تحقیقاتی خواهد بود و تحقیقات ایمنی را در آموزش، ارزیابی و استقرار مدل به کار خواهد گرفت.
