به گزارش کارگروه فناوری اطلاعات سایبربان، گروه هماهنگی ارزیابی فناوری سلامت اتحادیه اروپا، اصول حاکم بر استفاده از هوش مصنوعی در ارزیابیهای فناوری سلامت را اتخاذ کرده است که مستلزم شفافیت، نظارت انسانی و پاسخگویی در هنگام کمک هوش مصنوعی در تهیه پروندههای شواهد است.
این راهنما برای پروندههایی که توسط توسعهدهندگان فناوری سلامت برای ارزیابیهای بالینی مشترک تحت مقررات ارزیابی فناوری سلامت اتحادیه اروپا ارائه میشوند، اعمال میشود. هوش مصنوعی ممکن است برای شناسایی مطالعات، استخراج دادهها، ارزیابی خطر سوگیری، تجزیه و تحلیل شواهد و تهیه گزارشها استفاده شود.
این گروه اذعان دارد که هوش مصنوعی میتواند کارایی تهیه شواهد را بهبود بخشد، اما هشدار میدهد که نظارت ناکافی ممکن است کامل بودن، کیفیت روششناختی و دقت علمی را به خطر بیندازد.
توسعهدهندگان فناوری سلامت همچنان مسئولیت کامل محتوا، روشها و نتیجهگیری پروندههای ارسالی، از جمله تصمیمگیری در مورد استفاده از هوش مصنوعی، نحوه کمک آن به ترکیب شواهد و اعتبار علمی خروجیهای آن را بر عهده خواهند داشت.
نظارت انسانی باید در هر مرحله با کمک هوش مصنوعی حفظ شود و هیچ بخشی از فرآیند ارزیابی نباید بدون یک فرد کاملاً پاسخگو، کاملاً خودکار شود.
هر مرحلهای که با کمک هوش مصنوعی انجام میشود، باید در پرونده افشا شود، از جمله بازیابی اطلاعات، غربالگری مطالعه، استخراج دادهها، ارزیابی ریسک سوگیری، تحلیل شواهد و تهیه گزارش. توسعهدهندگان همچنین باید ابزارهای هوش مصنوعی مورد استفاده، از جمله نام، نسخه، توسعهدهنده و هدف مورد نظر آنها را مشخص کنند.
در مواردی که ابزارهای تجاری اقتباس شدهاند، این اصلاحات باید شرح داده شوند، در حالی که دستورالعملها باید حفظ شده و در صورت درخواست در طول ارزیابیها در دسترس قرار گیرند.
این اصول همچنین مستلزم آن است که استفاده از هوش مصنوعی با الزامات مربوط به حق چاپ، حفاظت از دادهها و قانون هوش مصنوعی اتحادیه اروپا مطابقت داشته باشد، به ویژه با توجه به اینکه پروندههای ارسالی ممکن است بعداً منتشر شوند.
