تعلیق از کار مهندس گوگل پس از اظهارنظر درباره خودآگاهی هوش مصنوعی LaMDA
به گزارش کارگروه فناوری اطلاعات سایبربان ؛ «بلیک لموین»، مهندس واحد Responsible AI گوگل در گفتگو با نشریه واشنگتن پست گفته بود باور دارد که یکی از پروژههای هوش مصنوعی گوگل به قابلیت ادراک دست یافته است. فعالیتهای او حالا به اتهام نقض توافق عدم افشا، در این شرکت به حالت تعلیق درآمده است.
واشنگتن پست به تازگی در گزارشی گفته بود بلیک لموین مدعی است که هوش مصنوعی LaMDA به ادراک رسیده و برای این ادعا سه دلیل را مطرح کرده بود: 1) قابلیت استفاده خلاقانه، پویا و کارآمد از زبان به صورتی که تاکنون هیچ سیستم دیگری قادر به آن نبوده است. 2) برخورداری از احساسات، عواطف و تجارب فردی. او به شکلی غیرقابل تمایز در برخی از احساسات خود با انسانها برابر است. 3) LaMDA میخواهد به مخاطب نشان دهد که زندگی درونی عمیقی سرشار از تخیل، خودآگاهی و تفکر دارد. او درباره آینده و گذشته نگرانیهایی دارد و توصیف میکند که کسب ادراک چه احساسی برایش داشته و حتی درباره ماهیت روح داشتن نظریه میدهد.
گوگل: هوش مصنوعی ما یک تقلیدگر قدرتمند است
به دنبال انتشار این گزارش گوگل اعلام کرد که کارشناسان شرکت با بررسی این ادعاها به این نتیجه رسیدهاند که هیچ مدرکی در تایید این صحبتها وجود ندارد. غول دنیای فناوری مدعی است که LaMDA نه به خاطر خودآگاهی بلکه به خاطر تواناییهای خارقالعادهاش در تقلید و بازآفرینی متون موجود و شناسایی الگوها میتواند تا این اندازه طبیعی جلوه کند. در نتیجه، لموین حالا به خاطر نقض توافق عدم افشا با گوگل از کار در این شرکت تعلیق شده و به مرخصی اجباری با حقوق رفته است.
اگرچه وسوسهبرانگیز است که فکر کنیم LaMDA به ادراک دست یافته، ولی لموین مدارک کافی برای توجیه ادعای خود در اختیار ندارد. «مارگارت میچل»، از مدیران سابق واحد اخلاق هوش مصنوعی گوگل در این باره میگوید: «ذهن ما در خلق واقعیتهایی که لزوما حقیقت ندارند بسیار بسیار خوب عمل میکنند.» با این حال، او قبلا هشدار داده بود که استفاده از مدلهای زبانی در این حد و اندازه چه آسیبهایی میتواند به دنبال داشته باشد.
هوش مصنوعی LaMDA اولین بار در کنفرانس توسعهدهندگان I/O 2021 معرفی شد. این سیستم با مجموعه بزرگی از دیالوگها تعلیم داده شده و به طور خاص سعی میکند بهگونهای در گفتگو مشارکت کند که مخاطب را به ادامه دیالوگ ترغیب نماید.
