人工智能（AI）在医疗领域的应用日益广泛，被认为能够提升诊断和治疗效率。然而，尽管美国食品药品监督管理局（FDA）等监管机构已批准数百种用于医院或诊所的人工智能医疗设备，但对这些技术的有效性和安全性测试却面临着诸多挑战。
《自然》杂志的一篇文章指出，在2020年至2022年间，仅有65项人工智能干预的随机对照试验发表。这表明，尽管研究人员了解人工智能干预的理想临床试验设计，但实际测试这些技术却困难重重。
文章进一步阐述了人工智能医疗应用的监管现状。基于人工智能的医疗应用程序通常被药品监管机构视为医疗器械，但其审查和授权使用标准往往不如药物严格。仅有极少数高风险设备需要临床试验数据才能获批。
一些专家对此表示担忧，认为现行的监管标准过低。美国宾夕法尼亚大学的重症监护医生加里·韦斯曼研究了FDA批准的AI设备，发现其中仅有3个设备在授权书中引用了已发表的数据，只有4个提到了安全性评估，而没有一个包括偏倚评估。这引起了对这些设备在实际临床应用中效果和安全的疑虑。
文章还分析了人工智能临床测试中存在的其他挑战。首先，人工智能系统的有效运行依赖于医疗保健专业人员与算法的有效互动。例如，美国梅奥诊所开发的检测低射血分数心脏病的算法，虽然在临床试验中提高了诊断率，但初级医疗保健人员需要更多指导，以了解如何与患者沟通算法结果。这说明人工智能应用程序推广应用时，需要包含与患者沟通的关键信息，以简化医生的工作。
另一方面，临床医生面对大量人工智能生成的警报，可能会产生“警报疲劳”，导致无法对警报及时做出反应。
其次，人工智能临床测试的结果难以推广到不同人群。英国伯明翰大学的临床科学家刘晓轩指出，人工智能算法在处理与训练数据不同的数据时容易出错。只有当临床试验参与者能够代表目标人群时，测试结果才能真实反映算法的实际应用效果。
此外，基于资源丰富的医院数据训练的算法，在资源匮乏的环境中应用时可能存在性能下降问题。例如，谷歌健康开发的用于检测糖尿病视网膜病变的算法，在泰国诊所使用时表现不佳，因为诊所的照明条件导致图像质量下降，影响了算法的准确性。
患者同意也是一个重要问题。目前，大多数医疗人工智能工具只是辅助医疗保健专业人员进行筛查、诊断或治疗规划，患者可能并不知道这些技术正在被测试或应用于他们的治疗。现阶段，没有任何国家要求提供商披露这一点。
随着越来越多的医疗人工智能工具和公司进入市场，探索有效的评估方法至关重要。健康人工智能联盟提议建立一个健康人工智能保证实验室网络，使用统一的标准对模型进行集中评估。然而，也有人反对这种集中化评估方式，认为每个医疗机构都需要具备内部能力和基础设施进行测试。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，可联系本站进行审核删除。
