鉴于人工智能技术在改善临床试验、医疗诊断、数字治疗、自我护理等多个维度上具有巨大应用潜力,WHO 与国际电信联盟共同成立了人工智能用于医疗卫生焦点小组(FG-AI4H),以推动人工智能在医疗保健领域的安全有效应用。该焦点小组下设立了监管考量工作组,成员包括来自监管机构、学术界和业界的专家,他们从医疗器械生态系统的视角出发,对人工智能在医疗保健领域的监管考量进行了深入探讨和研究,形成了本报告。
报告详细阐述了人工智能系统在开发和应用过程中,在下述六个主题领域需要关注的关键监管要点:
文档和透明度。开发全过程应具备清晰、详尽的文档,采取基于风险的文档管理方式。
风险管理和系统开发全生命周期方法。应采用全生命周期方法,评估网络安全、算法偏差等与人工智能系统相关的各类风险,并实施风险管理。
预期用途和验证。应明确预期用途,在独立数据集上进行分析验证,并根据风险级别采取不同的临床验证方法。
利益相关方参与。可考虑建立渠道,促进监管机构、开发商、医疗机构等利益相关方之间的交流和合作。
报告基于上述六个主题领域,提出了18条具体建议供相关方在人工智能系统开发和应用过程中考量,主要包括:
报告表示,鉴于人工智能技术快速发展,相关方应保持积极交流和广泛合作,以促进经验分享,推动这一领域的监管规范建设。该报告可为开发者、监管机构和医疗从业人员提供宝贵的监管参考。