人工智能(AI)一直被誉为世界上的许多紧迫问题的万灵药。加强网络安全,降低能源消耗,或加强野生动物保护。在卫生保健,一些人工智能表达了特别的热情支持者对潜在的应用在精密医学和放射学和病理图像分析。最近,90%的受访医疗业内人士表示,他们相信,AI将提高病人的诊断和电子健康记录管理经验。然而,尽管希望所有的预测人工智能还有待充分实现的承诺。
在这本新书重启AI:人工智能建筑我们可以信任作者加里·马库斯博士讨论了人工智能能做什么和还不能完成,他认为,赋予机器情报需要创新,拥抱真实世界的复杂性。
在4月底,《美国医学会杂志》首席执行官马库斯与强大的人工智能,一家致力于构建认知平台支持自主机器人。他讨论了当前人工智能的局限性以及其潜在的应用在卫生保健,特别是在光的冠状病毒2019年(COVID-19)大流行疾病。下面是采访的剪辑。
《美国医学会杂志》:在你的书,你谈论今天所存在的人工智能的极限。你现在可以讨论这些吗?
马卡斯:博士当前人工智能有很多限制。真正能做好当前人工智能是重视统计历史的事情,这可能是有用的。所以,这是对识别斑马和马的区别。该系统可以记住,区分斑马和一匹马。是不太好理解罕见疾病时没有很多数据和数据库中没有很多。系统不能真正原因不寻常的事情。
我非常关心的一件事是自然如何得到一台机器来了解一个人。这真的是非常有限的。我们聊天机器人,了解一点我们谈论的是什么,但他们往往尴尬。他们真的不知道会发生什么在谈话的时间进程。AI现在好当有很多数据在一个特定的点。但你进入动态开放性的现实世界中,我们可以指望它越少。
《美国医学会杂志》:这是一个数据质量问题吗?
马卡斯:博士最大的问题是,我们不知道如何构建人工智能系统,可以从有限的数据画好的推论。我们在积累数据已经好多了。我们非常擅长推理。但在现实世界中,最有趣的推论是,我们没有完整的数据。所以我们要担风险在某种程度上,我们必须有一些因果关系的理解世界是如何工作的。我们没有好的技术,部分原因是这些技术依赖于有一个因果关系的理解世界是如何工作的。这就是人工智能目前缺乏。
《美国医学会杂志》:你认为艾未未的潜在的知觉在卫生保健与今天的现实吗?
马卡斯:博士AI会越来越好随着时间的推移,我们收集更多的数据,我们开发新的技术,但是我认为也有过度承诺的历史。一些人认为我们可以停止训练放射科医生因为深度学习解决放射学的问题,,到目前为止还没有。有成百上千的公司初创企业想做放射学,但实际上没有人取代放射学和人工智能。他们把小块放射科医生的工作流程,但他们不能做这件事,他们甚至没有真正取代那些碎片。
同样,电子健康记录,非结构化文本的一个重大问题。人写笔记,不适合。AI不会真正理解人类语言,更不用说这种速记医生可能使用。人工智能可以帮助边缘与电子健康记录,但是他们并没有从根本上解决这个问题,我们已经有了。
《美国医学会杂志》:有任何证据的成功应用这些类型的卫生保健方法呢?
马卡斯:博士现在,临床医生和人工智能之间的伙伴关系是路要走。AI系统不会有广度的所有真正的放射科医生,例如,但可以做的一些事情放射科医生。会计师在多年前已经知道这个事实。他们使用计算器,你可以认为这是一种简单的人工智能,帮助他们治疗的局限性。但是他们不让一台机器做整个税收,因为他们知道人类的判断是很重要的一些东西。我认为放射科医生应该以同样的方式思考。可能会有一些工具,这些工具允许您快速地通过大量的图片,但是你仍然需要人类的判断在一天结束的时候,特别是对于棘手的案件或案件没有得到解决。一些数据已经表明,机加放射科医生比放射科医生自己或自己机器。
《美国医学会杂志》:临床医生应该担心AI取代他们在不久的将来?
马卡斯:博士在短期的未来,他们应该简单地认为他们的工作是改变一点。我们成为消费者的一套新的工具,我们需要知道如何使用它们。就像一个会计不知道如何使用计算器当他或她的同龄人已经是落后。如果你是一个医生,你不能使用这些工具,你将落后于人可以使用的工具,但工具不会完全取代职业。在某种程度上,这些工具将成为大多数普通足够好的情况下,但我们不是真正的接近。
《美国医学会杂志》:最近的一次分析发现只有2发表的随机临床试验(相关的)比较医学影像诊断深度学习算法和专家医生。AI工具通常不被广泛进行前瞻性随机临床试验。这是一个问题吗?
马卡斯:博士一般而言,相关的黄金标准。但人工智能在医学上的一个主要问题是关于普遍性,这并不总是即使在一个随机对照试验评估。你可能会做一个随机对照试验,发现诊断肺癌患者与患者没有它,这可以是一个非常广泛的人口,也许你发现人工智能系统是放射科医生的诊断,甚至更好。但在现实世界中,你可能会看很多不同的事情,而不仅仅是肺癌。拓展出任务,你测试5个随机对照试验熊越来越少与放射科医生到底要做什么。仅仅因为它适用在这个情况下并不意味着它会工作。
《美国医学会杂志》:无人驾驶汽车已经作为一个潜在的突出显示公共卫生风险,死亡人数有发生。这是人工智能的限制的一个例子吗?
马卡斯:博士无人驾驶汽车是一个很好的例子,AI会多么困难。这是容易引发示威活动,很难让他们在真实的世界足够可靠地工作。主要方法的人试图利用收集更大的数据集,但问题是,总有病例没有在你的数据集,例如,街对面有一个购物袋,苍蝇。你应该停止或不呢?你不想停止所有的时间因为你追尾,造成事故。所以你想知道的事情是停止的,什么是不合法的原因。人类对这些事情的原因。他们认识到什么是塑料袋,可以推断可能在它,看看它有多快,等等。现在流行的系统并不真正对世界的原因。这是一个警钟,人们被许多年多快会有这样的事发生。
最终,我们会有这样的人工智能。没有数学定律,说电脑不能这么做。我甚至不认为这是一项法律,说我们需要更多的计算。我认为这是一个解决软件问题,但我们没有足够好的想法现在关于如何构建软件。
《美国医学会杂志》:什么角色你看到AI在卫生保健和医学在未来?
马卡斯:博士我认为我们应该使用人工智能诊断水平,我认为将会有一个角色在你的手机应用程序来帮助决定如何挑战和紧急情况。最有用的事情在短期内将皮肤应用的人不容易去皮肤科医生,你真的需要分流进来。我们可能会有软件帮助,这很快就会发生。从长远来看,医学将完全不同。我们最终会有系统能够阅读你的医疗记录,阅读科学文献,找出适合你的一个复杂的专家能够找出一个特定的区域。现在我们还没有接近。但是有一天,我们会有系统能够帮助找到医生可能错过的东西,尤其是不走寻常路。
《美国医学会杂志》:什么是潜在的工具如机器学习,自然语言处理,和计算机视觉协助COVID-19应对工作吗?
马卡斯:博士我们已经看到很多人致力于帮助有经验的临床医生或研究人员发现所有的文章细胞因子风暴。这是一个有用的技术,人工智能。看起来像我们要确认很多诊断成像,和人工智能可以帮助通过标签的例子的人做和没有COVID和提供某种程度的额外检查以外的其他测试,我们可能使用。最根本的问题是,没有一个测试将是完美的。
我不想阻止人们去尝试它。所有的怀疑我,我不是在说人们不应该工作与COVID AI,看看它能帮助。肯定有工作要做在文献搜索的长期帮助我们为下一次大流行做好准备。机器人有各种各样的事情要做。我只是觉得,作为消费者,我们不能有我们的眼睛亮了起来,说,“哇!他们把人工智能问题。“艾未未的帮助,但它肯定不是像一个奇迹治愈。
我认为COVID关于我们希望AI敲响了警钟。是的,我们可以赚很多钱,例如,通过构建人工智能优化广告人们想看到的东西,但这不是我们应该做的巨大的智力工作的人。我们应该考虑如何帮助世界,需要将人工智能,真正从根本上提高医学水平。
本文附带的JAMA医疗新闻摘要,音频的新闻内容出现在这个月的的问题《美国医学会杂志》。听这节课中,访问JAMA医疗新闻播客。