人工智能(AI)驱动的医疗保健有可能改变医疗决策和治疗，但必须对AI算法进行彻底测试和持续监测，以避免对患者造成意想不到的后果。在JAMA Network Open上，Regenstrief研究所主席Peter Embí医学博士呼吁算法移动警觉(他创造的术语，用于与评估、监测、理解和预防医疗保健算法的不利影响相关的科学方法和活动)，以解决医疗保健算法及其部署中的固有偏见。图片由Regenstrief研究所提供
2021年5月14日-人工智能(AI)驱动的医疗保健有可能改变医疗决策和治疗，但这些算法必须经过彻底测试和持续监测，以避免对患者造成意想不到的后果。
在一个《美国医学会杂志》网络开放请评论，Regenstrief研究所总裁兼首席执行官和印第安纳大学医学院信息学和卫生服务研究副院长彼得•Embi医学博士， m.s.强烈指出了算法移动性对于解决医疗保健算法及其部署中的固有偏差的重要性。算法警觉(algorithmovigance)是Embí博士创造的一个术语，可以定义为与评估、监控、理解和预防算法在医疗保健中的不利影响相关的科学方法和活动。
Embí说:“在没有首先确保功效和安全性的情况下，我们不会考虑使用一种新的药物或设备来治疗患者。”“同样，我们必须认识到，算法既有巨大的好处，也有巨大的危害，因此需要研究。此外，与药物或设备相比，算法通常有额外的复杂性和变化，例如如何部署它们，谁与它们交互，以及与算法交互的临床工作流程。”
这篇评论是对IBM科学家的一项研究的回应，该研究评估了不同的方法，以消除为预测产后抑郁症而开发的医疗保健算法的偏见。Embí表示，该研究表明，去偏方法可以帮助解决用于开发和部署人工智能方法的数据所代表的潜在差异。他还说，这项研究表明，评估和监测这些算法的有效性和公平性是必要的，甚至是道德上的要求。
“随着不同数据、不同设置和不同人机交互的部署，算法的性能会发生变化。这些因素可能会把一个有益的工具变成造成意外伤害的工具，因此必须不断评估这些算法，以消除存在于我们的医疗保健系统中的固有的和系统的不平等，”Embí继续说。“因此，我们必须继续开发工具和能力，在医疗保健算法的开发和使用中实现系统监视和警惕。”
更多信息:www。
2022年8月1日
