به گزارش کارگروه فناوری اطلاعات سایبربان؛ هوش مصنوعی، از جمله «مرور کلی هوش مصنوعی» در جستجوی گوگل، می‌تواند توهم ایجاد کند و اغلب چیزهایی را بسازد یا پاسخ‌های متناقضی را در پاسخ به دو روش مختلف ارائه دهد.
یک آگهی استخدام جدید نشان داد که گوگل در حال استخدام مهندسانی برای تأیید پاسخ‌های هوش مصنوعی و بهبود کیفیت آنها، با هدف بازآفرینی تجربه جستجو، است.
گوگل در آگهی استخدام توضیح داد:
«در جستجوی گوگل، ما در حال بازآفرینی معنای جستجوی اطلاعات، به هر طریق و هر کجا، هستیم. بدین منظور، باید چالش‌های پیچیده مهندسی را حل کنیم و زیرساخت‌های خود را گسترش دهیم و در عین حال یک تجربه جهانی و مفید را که مردم در سراسر جهان به آن اعتماد دارند، حفظ کنیم.»
عنوان شغلی «کیفیت پاسخ‌های هوش مصنوعی» است و کسانی که به تیم جستجوی گوگل می‌پیوندند، وظیفه بهبود کیفیت پاسخ‌های هوش مصنوعی، به ویژه «مرور کلی هوش مصنوعی» را بر عهده خواهند داشت.
در آگهی استخدام آمده است:
«به تیم کیفیت پاسخ‌های هوش مصنوعی کمک کنید تا مرور کلی هوش مصنوعی را به سؤالات سخت و پیچیده کاربران در SRP و در حالت هوش مصنوعی ارائه دهند.»
این اولین باری است که گوگل به طور غیرمستقیم اذعان می‌کند که مرور کلی هوش مصنوعی آن نیاز به بهبود دارد و زمان‌بندی آن جالب است. گوگل کاربران را مجبور به مشاهده پاسخ‌های هوش مصنوعی می‌کند، اما کار چندانی برای بهبود کیفیت انجام نمی‌دهد.
پس از به‌روزرسانی اخیر، گوگل کاربران بیشتری را به سمت حالت هوش مصنوعی و پاسخ‌های هوش مصنوعی سوق داده است.
در واقع، گوگل فید دیسکاور خود را نیز با «AI Overviews» برای اخبار به‌روزرسانی کرده و حتی در حال بازنویسی عناوین نشریات خبری با استفاده از هوش مصنوعی است.
در حالی که AI Overviews راه درازی را پیموده و پاسخ‌ها اکنون بهتر از آنچه در گذشته دیده‌ایم هستند، هنوز هم برخی نکات مبهم وجود دارد؛ به عنوان مثال، وقتی ارزش یک استارت‌آپ خاص را در گوگل جستجو کنید، گوگل رقم ۴ میلیون دلار را ارائه می‌دهد. سپس، درصورت باز کردن یک تب دیگر و پرسیدن همان سؤال با کمی متفاوت، AI Overviews می‌گوید که این شرکت بیش از ۷۰ میلیون دلار ارزش دارد.
کارشناسان پاسخ‌های گوگل را با لینک‌های ایجاد شده تأیید متقابل کردند، اما متوجه شدند ارزشی که گوگل دو بار به آن اشاره کرده بود، حتی در منابعی که گفته می‌شود به آنها اشاره کرده، وجود ندارد.
این تنها یکی از نمونه‌هایی است که گوگل می‌تواند در آن اشتباه کند.
اخیراً، گاردین گزارش داد که هوش مصنوعی، توصیه‌های بهداشتی ارائه می‌دهد که گمراه‌کننده یا کاملاً نادرست است.
پاسخ‌های هوش مصنوعی گوگل در چند ماه گذشته بهبود یافته‌اند، اما هنوز هم باید بهتر شوند، زیرا اکثر کاربران تمایل دارند هر چیزی را که گوگل نشان می‌دهد باور کنند.
