به گزارش کارگروه فناوری اطلاعات سایبربان؛ کارشناسان در گفتگو با سازمان غذا و داروی آمریکا (FDA) اعلام کردند که عدم آموزش داده‌های مناسب برای الگوریتم‌های هوش مصنوعی مورد استفاده در دستگاه‌های پزشکی میتواند برای بیماران مضر باشد. آژانس فدرال تقریباً 7 ساعت جلسه مشارکت بیمار با استفاده از هوش مصنوعی در مراقبت‌های بهداشتی را در ماه اکتبر امسال برگزار کرد که در آن کارشناسان به سؤالات مردم در مورد یادگیری ماشینی در دستگاه‌های پزشکی پرداختند.
کارشناسان و مدیران اجرایی در زمینه‌های پزشکی، مقررات، فناوری و بهداشت عمومی در مورد ترکیب مجموعه داده‌هایی که دستگاه‌های پزشکی مبتنی بر هوش مصنوعی را آموزش می‌دهند، بحث کردند.
عدم شفافیت مجموعه داده‌هایی که الگوریتم‌ها را آموزش می‌دهند، میتواند منجر به بی‌اعتمادی عمومی به ابزارهای پزشکی مجهز به هوش مصنوعی شود، زیرا احتمالاً این دستگاه‌ها با استفاده از اطلاعات بیمار، نشان دهنده افراد تحت درمان، آموزش داده نشده‌اند.
در این نشست، جفری شورن (Jeffrey Shuren)، مدیر مرکز دستگاه‌ها و بهداشت رادیولوژی خاطرنشان کرد که 562 دستگاه پزشکی مجهز به هوش مصنوعی، مجوز استفاده اضطراری را از سازمان غذا و داروی آمریکا دریافت کرده‌اند و هنگام تنظیم و توسعه این دستگاه‌ها باید به وضعیت همه بیماران توجه شود.
پَت بایرد (Pat Baird)، رئیس نظارتی استانداردهای جهانی نرم‌افزار در فیلیپس (Philips) گفت که الگوریتم آموزش داده شده روی یک مجموعه، درصورتی که برای گروهی دیگر اعمال شود، میتواند بی‌ربط یا مضر باشد.
بایرد اظهار داشت :
«برای پشتیبانی از بیماران، ما باید با آنها، شرایط پزشکی، محیط و نیازهایشان بیشتر آشنا شویم و بتوانیم عوامل بالقوه مخلوط کننده برخی روش‌ها در داده‌های جمع‌آوری شده را درک کنیم.»
