人工智能(AI)它帮助临床医生诊断、分诊危重病例，并在美国各地的医院转录临床记录。然而，研究人员在最近发表的一份关于公共科学图书馆数字健康的报告中提到，对医学人工智能商品的监督并没有跟上他们的快速选择。

作者指出，美国食品药品管理局(FDA)允许这些设备的局限性，并提出更广泛的策略，以帮助确保医疗人工智能工具的安全和有效性。

FDA已经批准了1000多种医疗人工智能产品，医院正在迅速选择它们。与FDA监管的大多数其他产品不同，人工智能工具将在获得批准后继续开发，因为它将根据新数据进行更新或再培训。这提出了持续监管的重要性，而现行法律法规在这方面的保障能力有限。

如果没有适当的监督，医疗算法可能会给出误导性的建议，并伤害病人。“必须有安全措施。”美国麻省理工学院的临床研究员Leo报告作者之一 Anthony “我认为依靠FDA提出所有的保障措施是不现实的，甚至可能是不可能的。”

FDA用于审查和授权医疗人工智能工具的标准通常不如药物那么严格。例如，根据FDA的规定，只有那些可能对患者构成更高风险的工具才需要进行临床试验。另一个问题是，医疗算法通常在使用不同于训练目标的人时表现不佳。Celi说，由于这些限制，监管机构的许可并不能保证医疗人工智能产品对其想要帮助的目标群体有益。

理想情况下，医院在选择这些技术之前，应对患者群体中算法的表现进行评估，培训临床医生正确解释输出结果，并做出适当的反应。“最大的挑战之一是，绝大多数医院和诊所没有资源雇佣人工智能团队”。他补充说，今年发布的一项研究发现，许多医院正在购买“现成”的人工智能工具，而没有当地的数据验证。“这是灾难的根源。”

该报告建议大学与医疗机构合作，评估人工智能医疗设备的质量。“让大学协助医院的IT部门准备数据、运行模型、评估算法和监控影响。”“这以前从未做过，但考虑到技术的发展速度，我们认为传统的结构将不能满足要求。”

FDA无权要求医院在商品获得许可后进行此类检测。斯坦福大学健康法研究员迈克尔 Mello说：“这根本不是其法定管辖权的一部分。问题是，除了FDA，还有谁参与其中，他们会做什么。”

Mello说，一个替代机构是美国医疗保险和医疗补贴服务中心(CMS)，这是一个美国联邦机构，为老年人和低收入人群提供公共医疗保险。她指出，CMS有权要求医疗机构对人工智能工具进行更严格的评估，并成为通过公共保险计划获得支付的条件。

美国雪松-西奈医疗中心的心脏病专家David Ouyang还强调了医疗保险公司在鼓励更彻底地检测人工智能工具方面所能发挥的作用。他认为，保险公司有权要求更严格的评估作为保险条件。“保险证据标准实际上高于FDA。”“因此，人工智能的应用程序还有其他安全措施。”