به گزارش کارگروه فناوری اطلاعات سایبربان؛ یک تیم ویژه بینوزارتی در اراضی اشغالی گزارشی موقت منتشر کرد که در آن از عموم برای نظردهی در مورد استفاده از هوش مصنوعی (AI) در بخش مالی دعوت شده است. این تیم که در پایان سال 2022 تأسیس شد، قصد دارد برای ادغام فزاینده هوش مصنوعی در امور مالی و ایجاد اصول راهنمایی برای مقررات مالی در این زمینه آماده شود.
کارشناسان معتقدند در حالیکه هوش مصنوعی مزایای زیادی در حوزه مالی دارد، نگرانیهایی در مورد سوء استفاده احتمالی از آن وجود دارد، از جمله خطرات تقلب، اطلاعات نادرست و نقض حریم خصوصی که بر نیاز به نظارت تأکید میکند. این تیم متشکل از نمایندگانی از وزارت دادگستری، وزارت دارایی، سازمان رقابت، سازمان اوراق بهادار، سازمان بازار سرمایه و بانک رژیم صهیونیستی است. این گزارش تا 15 دسامبر برای اظهار نظر عمومی باز است.
موضع اصلی تیم این است که هوش مصنوعی باید در بخش مالی به دلیل مزایای متعددی مانند کاهش هزینههای عملیاتی، افزایش کیفیت محصول و خدمات، گسترش دسترسی مالی و کمک به نهادهای مالی در انطباق و اجرای مقررات تشویق شود. با این حال، استفاده از هوش مصنوعی از نظر شفافیت، حفظ حریم خصوصی و قابلیت اطمینان خطراتی را به همراه دارد. علاوه بر این، خطرات خاصی برای ثبات مالی، مانند پتانسیل هوش مصنوعی برای تحریک رفتار گروهی (به عنوان مثال، خرید یا فروش انبوه اوراق بهادار یا برداشت ناگهانی از بانکها) شناسایی شده است. خطرات امنیت سایبری، کلاهبرداری مالی، اطلاعات نادرست و نگرانیهای رقابتی - به ویژه اگر دسترسی به هوش مصنوعی پیشرفته محدود به نهادهای مالی غالب باشد - نیز مورد توجه قرار گرفته است.
به گفته کارشناسان، این تیم بر رویکرد نظارتی مبتنی بر ریسک تأکید میکند که در آن سطح نظارت با اهمیت خدمات مالی و تأثیر آن بر مشتری مطابقت دارد؛ به عنوان مثال، یک ربات چت هوش مصنوعی که خدمات اولیه مشتری را ارائه میدهد، با الزامات نظارتی محدودی مواجه خواهد شد، در حالیکه یک سیستم پذیرهنویسی اعتبار مبتنی بر هوش مصنوعی، با تأثیر قابل توجهی بر افراد، مشمول مقررات سختگیرانهتری خواهد بود.
کارشناسان براین باورند که مشکل در توضیح کامل نحوه رسیدن سیستمهای هوش مصنوعی به تصمیمات خود است. این تیم پیشنهاد کرد که بین شفافیت عمومی در مورد نحوه عملکرد سیستم هوش مصنوعی و توضیحات خاص برای تصمیمات فردی تفاوت قائل شوید. آنها یک الزام عمومی برای افشای همه سیستمهای هوش مصنوعی، با الزامات افشای خاص اضافی براساس عواملی مانند مشارکت انسان در فرآیند را توصیه کردند.
دخالت انسان یک نکته کلیدی در استفاده از هوش مصنوعی است. افزایش نظارت انسانی میتواند کارایی هوش مصنوعی را کاهش دهد. برای پرداختن به این موضوع، تیم یک «مدل درجهبندی مشارکت انسانی» را پیشنهاد کرد که نظارت عمومی را با مشارکت مستقیم در تصمیمگیریهای با ریسک متوسط تا بالا متعادل میکند.
این گزارش 3 حوزه مالی را که در آن هوش مصنوعی در حال حاضر به کار میرود، شناسایی میکند : مشاوره سرمایهگذاری و مدیریت پرتفولیو، اعتبار بانکی و پذیرهنویسی و بیمه.
در مشاوره سرمایهگذاری و مدیریت پورتفولیو، هوش مصنوعی مزیت گسترش دسترسی به خدمات سرمایهگذاری را ارائه میدهد. با این حال، خطراتی مانند شکست در انجام مسئولیتهای امانتداری، بازیسازی که ممکن است رفتار مخاطرهآمیز را تشویق کند، کاهش بالقوه در کیفیت خدمات و وابستگی به چند سیستم مسلط ذکر شده است. یک توصیه کلیدی این است که دستورالعمل خدمات آنلاین 2016 بهروز شود تا هم اصطلاحات (به عنوان مثال، تعریف هوش مصنوعی تولید کننده و تبیینی) و هم الزامات اساسی مانند روشن کردن نقش دارندگان مجوز در ارزیابی خروجیهای سیستم را مورد توجه قرار دهد.
برای پذیرش اعتبار، تیم اسرائیلی پیشنهاد کرد که بر مقررات موجود تکیه شود که برای رسیدگی به چالشهای هوش مصنوعی مناسب تلقی میشوند. با این وجود، نگرانیهایی هم وجود دارد، جایی که هوش مصنوعی ممکن است وامگیری بیش از حد را ترویج کند. برای کاهش این امر، الزامات افشای استفاده از هوش مصنوعی در پذیرهنویسی اعتبار توصیه میشود تا از شفافیت هم برای مشتریان و هم برای قانونگذاران اطمینان حاصل شود.
در پذیرش و بیمه، هوش مصنوعی میتواند از طریق مدلسازی پیشرفته، همسویی حق بیمهها را با ریسک افزایش دهد. توصیه این است که چارچوب قانونی فعلی برای مدیریت ریسک و حفاظت از مصرفکننده، از جمله پادمانهای حفظ حریم خصوصی، حفظ شود، در حالیکه در صورت نیاز برای رسیدگی به ریسکهای خاص هوش مصنوعی، مانند مدیریت ریسک مدل، افشا و اطلاعرسانی به مشتریان هنگام استفاده از هوش مصنوعی در تعاملات با مشتری، مانند رباتهای چت، بهروزرسانی شود.
