为什么我们现在要关注人工智能

人工智能(AI)在一年内会发展到什么地步?五年?一个十年?一个世纪?

在我们现在看到的人工智能快照中，我们看到了人工智能目前的位置。如果我们想让人工智能发挥其帮助人类的潜力，我们必须展望人工智能的未来，并调整我们现在在人工智能方面所做的事情。

在成像方面，我们正在培养数字专家。2017年RSNA展厅的例子包括:通用电气的算法，嵌入到便携式x光机上，用于发现气胸等疾病;以及西门子的人工智能系统，用于优化高端ct中的患者定位。最近，HeartSmartIMT Plus推出了一款基于云的算法，旨在帮助心脏病专家在办公室对患者进行超声心动图检查，然后分析云中的图像。

这些只是为成像设计的众多算法中的几个。而且它们只是为所有医疗保健开发的软件中的一小部分。

AI工具

在2018年医疗保健信息和管理系统协会(HIMSS)会议上，多位演讲者将智能算法描述为工具。这就是他们的全部，一个接一个的主持人说。无论这些算法是在临床图像中寻找模式，还是在pb级的人口健康数据中寻找模式——不管它是监督学习还是非监督学习——智能算法只是工具。

但他们学习。这就产生了巨大的影响。

这些工具并没有被要求将任务解释为好或坏，或者将其发现解释为可能帮助或伤害患者的事情。它们只是被编码在它们的任务范围内。他们找到的东西。按照设计，他们学到的一切都应用于一个任务领域。他们是助手，局限于特定的任务，专注于个别问题和访问高度选择性的数据集。

但人工智能开发者能永远对智能算法视而不见吗?算法会永远是数字的负担吗?一些有望在近期或中期应用的人工智能工具已经被用于检查图像，以便“评估”放射报告的价值。例如，如果一个算法在病人的图像中发现了一个动脉瘤，而该动脉瘤没有在放射报告中提及，该算法可能会将该报告标记为“不完整”，等待放射科医生的检查。

智能算法还可以为通过门户访问报告和图像的患者解释放射学报告。患者的参与是巨大的，并正在积聚势头。为了进一步促进这种参与，可能会要求算法用患者能理解的语言解释发现。要做到这一点，就需要算法了解每个病人，并相应地调整反应。

一个简单的事实是，我们不确定我们是否能够控制这些算法的发展。同样，我们无法知道我们是否能够控制智能算法的进化速度。

如果我们考虑到自己的发展，我们有一些基线。但其适用性值得怀疑。人工智能不会受到物理或生物形态的限制。它将能够以前所未有的速度学习。

但最令人担忧的是，只专注于一个任务会迫使算法陷入一种视野狭窄的状态，从而可能导致其决策失误。最近，麻省理工学院的研究生Joy Buolamwini发现，一种基本的面部分析软件无法检测到她的脸。为什么?因为编码人员还没有编写出识别黑色肤色和与黑人相关的某些面部结构的算法。

这真是太容易疏忽了。在数码摄影中，第一批彩色图像是根据白色进行校准的。难怪更高级的编码也可能是类似的色盲。

布拉姆维尼意识到智能算法正扮演着越来越引人注目的角色，她说自己“正在执行一项任务，阻止一股看不见的力量正在崛起”，她将这种力量描述为算法偏见。她在Ted演讲中将算法比作病毒，她认为算法“可以以快速的速度大规模传播偏见”。

我们不知道这些偏见会如何渗透到用来分析放射学数据的算法中，就像我们不知道这些偏见会产生什么影响一样。然而，也许有一个简单的解决办法。

人类的州长

将人工智能与人类智能相结合，可以在某种程度上起到管理者的作用。要使该调控器有效运行，在制定决策时，必须有人员参与决策。由于工作流将依赖于人的速度或动作，算法将无法超出人的控制。这是构建作为人类助手的算法背后令人欣慰的含义。

但是，如果在这个循环中的人是无能的，或者在智力上太懒而不去质疑算法的结论呢?那么设计用来与病人互动的算法呢?谁将在这些情况下执行质量控制?

更可怕的是，某一时刻或某一情况可能会出现，而某人并不直接参与其中。

但还是有解决办法的。让管理者对病人有一种内在的奉献精神。构建以患者为优先的医疗算法怎么样?

艾萨克·阿西莫夫(Isaac Asimov)在他的科幻小说中描述了四条旨在防止智能机器人伤害人类的定律。然而，不可预见的事情一次又一次地把事情搞砸了。一个有趣的可能性是:机器人在不知不觉中违反了法律，因为信息被隐瞒了。

我们可能很快就会使用算法来评估医疗报告;找出人类对医疗数据的解释中的弱点;检查是否做了放射科医生建议的后续检查。在每个实例中，算法都经过训练，然后提供高度精选的有限数据集。有限的数据不仅会影响算法的有效性，这种限制也会带来偏差。

我们是否应该利用这个机会教机器，例如，为什么放射科医生推荐的后续检查很重要，而不是简单地发现检查是否做过?我们应该教算法去照顾病人的福利吗?

病人中心主义可以充当管理者的角色。这将比确保每个智能算法都有一个人在循环中——而且这个人是有能力的——更有效、更实用。

就像阿西莫夫定律一样，编写将“病人优先”的算法可能成为医疗保健算法发展的基石。