هشدار تیک‌تاک درباره دسترسی بی‌مهار هوش مصنوعی به حساب‌های شخصی

به عنوان مثال، او به عوامل هوش مصنوعی با دسترسی به اطلاعات کارت اعتباری اشاره کرد که ممکن است خریدهای بیشتری نسبت به آنچه کاربران در نظر داشتند انجام دهند، زیرا آنها بیش از حد مشتاق تحویل بودند.

چو همچنین عنوان کرد که تیک‌تاک در حال آموزش کارمندان در مورد اطلاعاتی است که باید از به اشتراک گذاشتن آنها در چت‌های عمومی هوش مصنوعی، از جمله اسرار تجاری و اطلاعات حقوقی ممتاز، خودداری کنند.

وی خاطرنشان کرد:

«مردم گاهی اوقات بیش از حد در مورد نحوه استفاده از آن مشتاق هستند. درک مرزهای استفاده معقول و قابل قبول مهم است.»

نگرانی‌های فزاینده در مورد خطرات امنیت هوش مصنوعی

چندی پیش، دیوید رابینسون (David Robinson)، رهبر سابق امنیت «OpenAI»، گفت که به دلیل نگرانی در مورد شکاف بین هشدارهای این شرکت در مورد خطرات هوش مصنوعی پیشرفته و توسعه مداوم مدل آن، این شرکت را ترک کرده است. او محیط کار را آشفته و کارمندان را بی‌تاب توصیف کرد.

جیمی دیمون (Jamie Dimon)، مدیرعامل «JPMorgan Chase & Co»، هشدار داد که مدل هوش مصنوعی میتوس (Mythos) متعلق به شرکت آنتروپیک (Anthropic)، خطرات سایبری را ده برابر افزایش داده است، حتی با اینکه این بانک روابط مالی خود را با آنتروپیک گسترش داده و برای آزمایش آسیب‌پذیری‌های نرم‌افزاری به «Project Glasswing» پیوسته است.

ماه گذشته، کمیسیون تجارت فدرال آمریکا تحقیقاتی را در مورد توسعه‌دهندگان اصلی هوش مصنوعی، از جمله آنتروپیک و OpenAI، در مورد خطرات بالقوه مصرف‌کنندگان از سوی عوامل هوش مصنوعی آغاز کرد.

اندرو فرگوسن (Andrew Ferguson)، رئیس کمیسیون تجارت فدرال، هشدار داد که اگر عوامل هوش مصنوعی باعث نقض امنیت سایبری در دنیای واقعی شوند، توسعه‌دهندگان ممکن است با مسئولیت روبرو شوند.

مایک نووگراتز (Mike Novogratz)، مدیرعامل «Galaxy Digital»، نیز هشدار داد که تأثیر بالقوه هوش مصنوعی بر مشاغل و بشریت، ترس عمومی را افزایش داده است.

او گفت که توسعه‌دهندگان به طور کامل نمی‌دانند که مدل‌های قدرتمند هوش مصنوعی چگونه کار می‌کنند و از شرکت‌ها خواست تا با اخلاق‌شناسان و سایر متخصصان برای کاهش خطرات همکاری کنند، حتی اگر این امر باعث کندی توسعه شود.