هشدار محققان: هوش مصنوعی از لایک‌های شما برای کنترل ذهنتان استفاده می‌کند!

به گزارش کارگروه فناوری اطلاعات سایبربان , در حالی که دکمه لایک در شبکه‌های اجتماعی ابزاری ساده برای ابراز علاقه کاربران به‌نظر می‌رسد، محققان هشدار می‌دهند که این تعامل ساده یکی از منابع اصلی برای آموزش مدل‌های هوش مصنوعی است. آن‌ها می‌گویند هوش مصنوعی ممکن است سلیقه کاربران را بیشتر از خود آن‌ها تشخیص بدهد و حتی آن‌ها را پیش بینی کند.

لایک‌ها؛ ابزاری کلیدی در تربیت هوش مصنوعی

به گزارش wired، یکی از چالش‌های یادگیری ماشین، اختلاف در انتخاب نهایی انسان‌ها و تصمیم گیری نهایی هوش مصنوعی است. الگوریتم‌ها معمولا بر اساس توابع پاداش و تاوان تعریف می‌شوند و به مدل‌ها کمک می‌کنند تا عملکردشان را بهتر کنند، با این حال انتخاب نهایی هوش مصنوعی گاهی اوقات منطبق با منطق انسانی نیست، به زبان ساده‌تر انتخاب نهایی انسان و هوش مصنوعی یکسان نیست.

برای رفع این مشکل، توسعه دهندگان هوش مصنوعی از روشی به نام یادگیری تقویتی از بازخورد انسانی استفاده می‌کنند؛ این روش به مدل‌ها اجازه می‌دهد تا از داده‌های مربوط به انتخاب کاربران، برای اصلاح خطاهایشان استفاده کنند، اما مشکل اینجاست که جمع‌آوری این داده‌ها بسیار پرهزینه و زمان‌بر است چرا که به حضور مستقیم تعداد زیادی کاربر دارد.

در این بین مکس لوچین، یکی از بنیان گذاران پی‌پال معتقد است که نیازی نیست داده‌ها را جمع‌آوری کرد، دکمه‌های لایک شبکه‌های اجتماعی می‌توانند منابع خوبی برای آموزش مدل‌های هوش مصنوعی باشند. او مجموعه عظیم لایک‌های ذخیره شده در پلتفرم‌هایی مانند فیس‌بوک را یکی از باارزش‌ترین منابع در اینترنت می‌داند چرا که این داده‌ها به طور طبیعی و روزمره توسط کاربران ثبت شده‌اند و بازتابی از سلیقه و علاقه آن‌ها هستند.

به نظر می‌رسد مدل‌های هوش مصنوعی تا همین امروز هم از داده‌های انسانی استفاده کرده‌اند چرا که هوش مصنوعی در حال حاضر به حدی دقیق شده است که دیگر نیازی نیست از روی لایک‌های شما سلیقه‌تان را تشخیص بدهد.

شرکت‌هایی مانند فیسبوک و یوتیوب در حال حاضر به کمک هوش مصنوعی‌ برای تنظیم پیشنهادات بعدی به شما استفاده می‌کنند. به عنوان مثال اگر فقط یک روز ویدیوهای خاصی در مورد نگهداری از کودک ببینید، هوش مصنوعی پیش فرض خود را روی نشان دادن محتوای خانوادگی به شما می‌گذارد.

محتواهایی که به آن علاقه دارید گاهی توسط انسان ساخته نمی‌شود!

اما نکته ترسناک‌ اینجاست که همیشه محتواهایی که به آن علاقه دارید توسط انسان‌ها ساخته نشده‌اند. به تازگی برندها و شرکت‌ها با اینفلوئنسرهای هوش مصنوعی قرارداد می‌بندند تا محتوای تبلیغاتی‌شان توسط این ابزارها ساخته شود. به زبان ساده‌تر هوش مصنوعی با توجه به محتوایی که یک کاربر در شبکه‌های اجتماعی می‌بیند، تبلیغات مرتبط و ویدیوهایی نشان می‌دهد که کاربر اصلا متوجه مصنوعی بودن آن نخواهد شد. حتی بدتر اینکه ممکن است لایک و نظرات یک پست هم هیچکدام از کاربران واقعی نباشد و همه آن‌ها را هوش مصنوعی ساخته باشد.

حتی مدتی است که یک نسخه هوش مصنوعی به نام CarynAI به عنوان یک اینفلوئنسر در اینستاگرام فعالیت می‌کند که با کاربران تعامل دارد و همه این گفت‌وگوها توسط هوش مصنوعی چت‌جی‌پی‌تی تولید می‌شود. با این اوصاف شبکه‎های اجتماعی دیگر قابل اعتماد نیستند، ممکن است وقت خود را ساعت‌ها برای چیزی صرف کنید که وجود خارجی ندارد و فقط توسط هوش مصنوعی ساخته شده است.

کلاهبرداری با هوش مصنوعی؟

جدا از سواستفاده‌ شرکت‌ها از لایک‌ها و تعامل کاربران wired می‌گوید به تازگی از این تکنولوژی برای شبیه‌سازی صدا و جعل تماس‌های تلفنی هم استفاده می‌شود. این موضوع زمانی جدی‌تر شد که در جریان انتخابات آمریکا، هزاران رای دهنده تماس‌هایی دریافت می‌کردند که به نظر می‌رسید از سوی جو بایدن باشد و از آن‌ها می‌خواست که در انتخابات مقدماتی رای ندهند. بعدها مشخص شد که استیو کرامر مشاور سیاسی جو بایدن با پرداخت 500 دلار این هوش مصنوعی را سفارش داده تا نظر مردم را جلب کند.

محققان می‌گویند ممکن است کلاهبرداران از صدای افراد نزدیک به شما سواستفاده کنند و برای دریافت پول با شما تماس بگیرند. در واقع با تربیت شدن مدل‌های هوش مصنوعی به کمک داده‌های انسانی، تشخیص واقعیت هرروز سخت‌تر می‌شود و کاربران باید با دقت بیشتری شبکه‌های اجتماعی را دنبال کنند.