به گزارش کارگروه فناوری اطلاعات سایبربان، بانک‌هایی از جمله نت وست (NatWest) و بانک آمریکا (Bank of America) ضمن تعیین اصول توسعه این فناوری، اعلام کردند که استفاده از عوامل هوش مصنوعی برای خرید آنلاین می‌تواند خطر کلاهبرداری، تقلب و نقض حریم خصوصی داده‌ها را افزایش دهد.
شرکت‌های فناوری از جمله اوپن‌اِی‌آی، انتروپیک، گوگل و متا به طور فزاینده‌ای چت‌بات‌های هوش مصنوعی را به‌عنوان ابزارهای خرید تبلیغ می‌کنند و آینده‌ای را تصور می‌کنند که در آن خریداران از عوامل هوش مصنوعی برای انتخاب محصولات و انجام خرید از طرف خود استفاده می‌کنند. در همین حال، خرده‌فروشان در حال رقابت برای تأثیرگذاری بر توصیه‌های چت‌بات‌ها هستند.
فروشگاه زنجیره‌ای بریتانیایی جان لوئیس در ماه سپتامبر اعلام کرد که سهم جستجوهای انجام‌شده توسط عامل‌های هوش مصنوعی از ۰٫۳ درصد در سال قبل به ۲٫۵ درصد افزایش‌یافته و این روند رو به‌شتاب است.
این گروه از بانک‌ها که شامل بانک‌های (ING)، بانک (ASB) نیوزیلند، مؤسسه مالی آمریکایی کپیتال وان (Capital One) و بانک کامان ولث (Commonwealth) استرالیا نیز می‌شود در گزارشی اعلام کردند که مشتریان نسبت به پتانسیل تجارت مبتنی بر عامل‌های هوشمند (agentic commerce) مشتاق بوده و خواهان بهره‌گیری از آن هستند.
بااین‌حال، آن‌ها هشدار دادند که پیشرفت این فناوری سریع‌تر از شکل‌گیری استانداردهای صنعت و تدابیر حمایتی برای مصرف‌کنندگان صورت می‌گیرد.
در این گزارش آمده است:
مصرف‌کنندگان اطمینان ندارند که آیا هوش مصنوعی در جهت منافع آن‌ها عمل خواهد کرد یا خیر. مردم نگران‌اند که مبادا عامل‌های هوش مصنوعی کالای اشتباهی بخرند یا بیش از حد هزینه کنند؛ یا بدتر از آن، بر اثر کلاهبرداری و فریب، پول آن‌ها را از دست بدهند. مصرف‌کنندگان اطمینان ندارند که آیا تحت حمایت خواهند بود یا در صورت بروز مشکل، باید به چه مرجعی مراجعه کنند.
این گزارش به خطراتی همچون درخواست عامل‌های هوش مصنوعی برای دریافت اطلاعات کارت مشتریان و واردکردن مستقیم آن در وب‌سایت‌ها و یا هدایت کاربران به سمت روش‌های پرداختی که از سطح حفاظتی پایین‌تری برخوردارند، اشاره کرده است.
بانک‌ها قصد دارند مجموعه‌ای از پیشنهادها را با سیاست‌گذاران مطرح کنند؛ از جمله الزام به اطلاع‌رسانی در خصوص دخالت عامل هوش مصنوعی در تراکنش، شفافیت بیشتر درباره نحوه تصمیم‌گیری این عامل‌ها و ایجاد تدابیر حفاظتی برای صیانت از داده‌های مشتریان.
در این گزارش همچنین آمده است که مصرف‌کنندگان و فروشندگان باید در انتخاب خدمات تجارت الکترونیک مبتنی بر هوش مصنوعی آزاد باشند و سیستم‌های مختلف نیز باید قابلیت تعامل و سازگاری با یکدیگر را داشته باشند.
