0项
下面是第二部分的“放射学:人工智能炉边聊天”报道RSNA 2021．这次深入的讨论(节选在此)得到了很好的推动Dania Daye，医学博士，博士，马萨诸塞州综合医院/哈佛医学院；而且保罗,医学博士．，马里兰大学医学院；与RSNA放射学杂志:AI编辑医学博士小查尔斯·卡恩(Charles E. Kahn女士,佩雷尔曼医学院宾夕法尼亚大学。小组成员包括:约翰·蒙根，医学博士，加州大学旧金山分校；Jayashree kalpthy - cramer，硕士，博士，Athinoula A. Martinos生物医学成像中心；而且琳达Moy博士，NYU Grossman医学院．
问:我们在人工智能领域看到的成功是显而易见的。尖端的研究正在涌现，但每一次成功，我们都发现了多重障碍。阻碍翻译和实施的主要障碍是什么人工智能?
Kalpathy-Cramer博士:当然还有一些问题需要解决，其中最大的问题可以归结为技术问题。小心陷阱。构建可解释的模型。再次强调，确保我们提出了正确的问题，解决了正确的问题。
Moy博士:我们开发了模型，但它们是在回顾性丰富的读者研究中完成的，所以你必须回去看看人口是什么，看看模型是如何工作的，然后重新测试，试图获得外部数据集来验证和证明它。把它应用到临床中是一场斗争。还有很多工作要做，因为这不是一个简单的过程。我们在试图弄清楚如何信任它以及如何部署它方面还处于非常早期的阶段。
芒根博士:另一个挑战是我们正在努力克服的，这是数据科学的视角，其中有一个建立模型的困难问题。我们中的大多数人现在都认识到，部署的挑战至少与首先构建模型的挑战一样大。其中一些包含了我们工作流程的许多元素，很难严格区分，因为我们可能希望与使用它的人有一个高效的体验。这是我们现在正在做的很多工作。
另一个挑战是刚才提到的，作为数据科学家，他们想要解决他们感兴趣的问题。我们现有的算法仍然来自于概念证明的遗产——让我们利用现有的数据做些什么，让我们对明显的问题做些什么，尽管它可能不一定是一个与临床相关的问题。或者，即使是这样，它的相关性可能很小，可能有用，但可能还不足以证明购买和集成工作的成本是合理的——特别是因为这些标准仍在开发中，而这些集成可能非常昂贵。还有一些开放的问题，一旦你公布了这些，我们如何监控它们?如果它今天有效，我们如何确保它在一年后有效……并通过部署后监视来监控它?这些都是我们正在取得进展的挑战，但是否有一些事情阻碍了我们现在解决这些问题的能力。
汗博士:到目前为止，我们所创造的内容都是非常专注的。即使你有一个系统可以查看胸部x光片，当它发现另一个开箱即用的肺部问题时，它会怎么做?挑战是无知和知识边界的问题，这也是人工智能社区正在广泛解决的一个问题。对于我们所有练习……的人来说，这很重要。我是一名身体成像专家，如果我看到了骨骼病变，但不知道是什么，我就去找放射科其他部门的同事，征求他们的专家意见。部分原因是我明白我的手术水平不是在我的舒适区，我没有看到任何诊断概率高的地方。人工智能也有类似的问题。
所以，我们所有人面临的挑战之一就是深呼吸，承认我们想要推动这门科学向前发展，但我们也需要认识到它可以在此时此地做一些非常有效的事情。我们可以用这项技术做很多今天可以帮助我们的事情，随着我们对这项技术的经验和深度的增长，其他的事情也会随之而来。对于那些年龄足够大的人来说，当核磁共振第一次出现的时候，每个人都说我们再也不需要活组织检查了，这将给我们所有我们需要的。核磁共振成像是当今有用的工具吗?绝对是的。但有些是人们背后的非自然炒作我们在今天的放射学中看到很多。我对很多事情都充满热情，但对我们正在寻找的一些东西，我的热情会有所减弱。
问:如果人工智能出错了呢?如果出现错误，谁负责?
芒根博士关于责任问题，这是一个尚未完全确定的法律问题。在未来5-10年的过程中将会有判例法。我怀疑医生和放射科医生会被免除责任。一般来说，他们作为医生被认为对病人有最终的照顾。一般来说，他们被分配了一大部分，如果不是全部的话，这应该是我们的预期。
撇开责任问题不谈，还有一个责任问题。先不说法律是怎么说的，谁应该承担责任呢?这主要取决于我们作为医生，因为我们要对病人的护理负责。作为其中的一部分，我们有必要仔细考虑他们正在付诸实践的算法的质量。为了确定他们是如何接受培训的，他们接受了什么数据的培训，培训人群和我们的病人群体有多相似，无论是在人口统计数据还是在疾病流行率方面。确保我们对算法的工作方式感到满意，而且它以一种我们感到满意的方式集成在一起。这个算法是否会以某种方式被整合，其结果会直接影响到病人的护理方式?或者它会是更多的建议，如果它是通过放射科医生，rad有多少能力来验证他们得到的结果是正确的?当算法失败时，rad会很明显吗?所以，我认为正是因为这些原因，我们真的需要为这些算法的性能承担责任，不管责任问题最终如何解决。
Moy博士:在他们检查CAD系统的情况下，是放射科医生负责。在这些情况下，人们认为，因为CAD没有发现它，所以不能诊断它，因此没有责任。也有一些情况，当出现问题时，他们选择忽视它……这在法庭上被认为是站不住脚的。这涉及到对病人护理的日常决策。因此，放射科医生似乎将是负责使用人工智能产品的主要人员。
汗博士:有人问威利·萨顿为什么抢银行，他说"钱就在那里"因此，如果问题是谁会被起诉，那将是钱在哪里:放射科医生，卫生系统，以及开发商/建筑商/供应商。
问:关于人工智能中的隐私问题及如何解决。围绕这些问题有很多争议。谁拥有这些数据?谁应该拥有数据?
汗博士:在某种程度上，这取决于你在世界的哪个地方。欧盟有不同的做法。在美国，我们很多人都意识到如果你要使用病人的数据，即使是在看10万张胸部x光片时，我们欠任何一个病人什么?所以，我们还不知道期望是什么。许多机构在一般同意表格中包括笼统声明。以同样的方式，我们允许案例用于教学目的，例如，患者理解他们看到的是学生，这与理解他们的数据将如何被伦理地使用，以试图进一步实现医疗保健的目标是相同的。
芒根博士:很好的问题，道德和伦理，以及法律。关于谁拥有这些数据，美国每个州都有既定的法律，而法律的规定差别很大。从历史上看，这并不重要……没有人关心，因为数据没有多大价值。现在我们正在进入一个数据具有很多潜在价值的领域，因此我们很可能在未来看到数据所有权的变化，因为它对人们更重要。
这有很多方面。作为放射界的一员，我们必须努力向公众传达这样的信息:这些数据不仅仅是公司致富的途径，也是社会的价值所在。如果我们决定建立一种个人拥有自己数据的方式，唯一的方法是获得个人签名，那是一个无法克服的任务，我们作为一个社会将剥夺我们自己可能来自人工智能的潜在优势的好处。我同意一些人的看法，他们认为当涉及到公司赚钱的时候，事情就变得棘手起来，但重要的是要认识到，在医药领域，只有有一家公司在背后支撑，才会真正产生广泛的影响。你必须有公司支持这些努力，他们签署合同并提供支持，这是唯一的途径，使我们能够对我们提供放射学的方式产生广泛影响，并在医疗保健方面取得新进展。
问:数据隐私最大的隐患是什么?如何解决?
汗博士:对此有很多担忧，我们正在考虑如何去数据化我们的文件，尽管这非常耗时。的数量病人健康信息(PHI)在放射学中是相对较小的。对于那些已经发布了数据集的人来说，有一些使用文本数据的技术允许您更改名称。由人工审核需要花费很多钱。这是一项非常详细的工作，以确保信息被剔除。
芒根博士:处理这些数据集的一个陷阱或障碍是，我们所处的环境中去识别的标准是100%。因为PHI可以隐藏所有这些地方…我们需要开始思考100%是否是去识别的正确阈值?因为如果这是我们划定的界限，那么组装这些数据集的成本通常会高得令人望而却步。在很大程度上，我们会阻止自己取得这些进步。不同的国家可能在不同的门槛上划定界限，这是一种权衡。
那些认为绝对隐私是关键的国家，他们不会在这些技术上取得如此快的进步。所以，我们不需要把隐私看作总是百分之百的，而是作为一种权衡的东西，有收益也有成本。
Moy博士:我们开发了一个包含540万张照片的美国乳房数据集。许多团体来找我们，询问我们的团队是否可以分享一些数据集。我们想这样做，但是我们通过每一个的成本，所以PHI被移除是非常昂贵的，结果，我们不能提供那个。
Kalpathy-Cramer:考虑所有这些是很重要的，我们需要就隐私是什么进行理性的对话。
汗博士:当某件事发生并产生重大后果时，我们该怎么做?你能不能有一个保险计划，基本上说我们会去识别这些图像，95%是干净的，但问题是有一两个偷偷溜进去，导致罚款?这可以用保险吗?如果我们要查看100万张图片，其中有10张是漏出的，那么一个小的策略是否比在每一个需要清理文件的案例上花费1美元更便宜呢?
另一件事是，我们从不在我们自己的机构之外共享数据的图像，但我们可以传递模型。此外，我们应该认识到，谷歌或苹果似乎准确地知道我在哪里和我搜索什么……我们已经被扫描和分析在线。所以，情况是这样的，我们很乐意向不同的公司提供大量的信息。这些都是很好的问题，我们需要继续研究。就像我们谈论公地悲剧一样，公地机会的丧失也同样存在。作为一个社会，我们可能会失去组织的能力，去发现机会，去为更大的利益服务。
问:现在最让你兴奋的是什么?展望AI的下一个前沿?
卡恩博士:我认为人工智能令人兴奋的一点是它能够引导我们回归正常。我们正在采取措施，建立一个范围，确定65岁和30岁之间的正常水平，也许这与病人的身高有关。各种各样的信息可以帮助我们做出决定，看看什么是正常的，什么是不正常的。这就是我们可以通过使用这项技术得到帮助的事情，我认为你会走向决策医学，这是令人兴奋的。
Moy博士:致力于平衡世界卫生保健的差异。所以，是的，你可以有一个伟大的人工智能模型，但它是训练人们如何定位探头，等等。那么我们可以说，我们能够提供相对标准的医疗保健水平，而不考虑国家或财富等因素。
芒根博士:我所期待的是，在未来几年里，像这样的会议小组不再讨论这种潜力，而是开始意识到这种潜力。这意味着实际看到更多的影响并衡量它们，讨论它们，认识到挑战，并解决这些问题。这些都是我们正在努力解决的难题，但我们正在取得很大进展。
我们正处于这场转化革命的边缘，将这些东西从实验室和数据科学的试验台带入临床。我们在AI成像实践演示中看到了这一点，在放射学AI实践的覆盖中也看到了这一点。所以我最期待的是它不再是一个纯理论的东西，而是在我们的日常实践中无处不在的东西，改善放射科医生和病人的生活。
2022年9月20日
