张钹：建立人机可信医疗系统，推动AI改变医学形态

医疗行业已经成为人工智能技术企业最为关注的蓝海，社会各界广泛关注，政策、技术、需求为其发展提供了难得的机遇，然而也面临行业独具特点的挑战。在CHIMA 2019大会上，中科院院士、清华大学人工智能研究院院长张钹院士，针对人工智能技术在医疗行业应用的热点和难点问题，进行了深入分析和详细解读，学术报告逻辑严谨、寓意深刻，获得3000多在场听众的关注和深思。

以下内容根据张钹院士演讲整理。

尊敬的刘会长，尊敬的各位专家、领导和来宾，很高兴今天有机会跟大家来谈谈：医疗健康智能化面临的机遇和挑战。

首先我要谈一下人工智能如何改变医疗行业？我们先看一下传统医疗系统，医疗工作人员利用科学技术去给病人治病。随着科学技术的进展，无论是医疗设备，还是医疗技术都有很大变化。尽管技术发生了各种变化，但是医务工作人员与科技，以及跟病人的关系始终没有变，也就是医务人员利用科学技术给病人看病。这一套医疗服务系统，是建立在病人跟医务人员建立了互信的关系基础之上的，病人去医院看病，对医生有着充分的信任。

如果智能化，意味着什么？智能化意味着科学技术或者是设备、机器也参与了医疗决策和诊疗的过程。要注意，智能化的目的是使设备、机器参与医疗决策和诊疗过程中。

这里发生了一个重大变化。这个变化不是简单的医务人员使用的科技和设备，而是机器参与其中。一旦发生了这种变化，整个医疗关系发生了非常重要的变化，最直接的是病人跟机器建立了关系。因为机器参与了医疗决策过程，所以机器也变成为行为主体。现在的问题是，这样一个关系，还能建立起病人对医务人员的信任和病人对机器的信任吗？

首先必须解决医务人员对机器的信任问题。因为只有医务人员信任了这个机器，才可以达到病人信任这个机器的目标。在医疗智能化的条件下，必须去重新建立一套互信可靠、高质量和高效的人机协同医疗体系。如果能建立这个系统，医疗整个会发生很大的变化，质的变化。我今天的报告，主要是集中在目前的人工智能技术有没有可能建立这样一个体系？如何去建立这种体系？建立这种体系我们将会面临什么样的挑战？

在这种情况下，我先介绍一下人工智能这么多年在医疗智能化方面所做的努力。其实，人工智能很简单，就是研究设计智能体。所谓的智能体应有以下三方面的功能：第一个功能是感知，视觉、听觉、触觉等，我们要用机器来实现人类的视觉、听觉、触觉等；第二个功能是理性思考，理性行为，也就是决策、判断；第三个功能是动作，是手和脚的动作。这三个功能，都跟医疗密切关系。第一，医生看病，尤其是中医讲究望闻问切，就是利用视觉、听觉和触觉去感知病人的状况；第二，医生所有的医疗过程，都是理性思考、理性行为；第三，包括手术在内的医疗动作输出。这三个方面，都是属于人工智能要研究的范围。因此，人工智能和医疗健康的关系十分密切。

如果智能化意味着什么？

先来看一下推理、决策、诊断、规划、创作、学习等理性行为，这些行为在医生医疗诊断过程中都要用到。人工智能怎么实现它们？非常简单，就是建立一个以知识和经验为基础的推理系统。对医疗诊断来讲，这是很简单的，就是把医生和医务人员的医疗知识和临床经验放在计算机里。医生看病的过程，把它变成了推理过程放在计算机里面，计算机就能够做同样的事情。

正因为此，人工智能一开始就把医疗诊断专家系统作为它的研究目标。美国在上世纪70年代的时候，就做了很多跟医疗系统、辅助医疗系统有关的工作。中国在上世纪80年代也做了很多相关工作，比如北京西苑有一个关幼波肝炎诊断系统等。

在1970初的时候，美国斯坦福大学和斯坦福医学院合作研发了MYCIN专家系统，用于诊断血液传染病。因为当时内科医生并不是传染病专家，所以对于传染病如何用抗菌素，并不是非常在行。在这种情况下，把传染病专家的知识，放在计算机内。内科医生通过咨询这个系统，能够开出更好的抗生素药。因为当时认为，内科医生开抗生素药有一些滥用。这个系统经过三年半的努力做出来了。

当时大多数医疗诊断系统也是这么做的，把知识全储存在计算机内，把推理过程作为计算过程。但是很遗憾，当时国内外做的这一类系统都没有得到推广应用。其实这个系统本身很好，是一个非常可理解、可解释的系统。比如说MYCIN系统，专门有一个解释功能，解释它怎样做出这个诊断，为什么做出这个诊断，帮助医生理解整个诊断过程，这一点做得比较好。为什么做得这么好的系统还不能被用上？最主要的原因是医生有很多知识和临床经验非常难以表达和描述。比如西苑的关幼波肝炎诊断系统，很难把脉象自动化，当病人就诊时，请年轻医生为他们号脉，然后将诊断结果输入到系统内，由系统做诊断，这样病人就会质疑年轻医生的水平。因此人和机器很难建立信任，系统也很难推广利用。这是当时系统在推广应用过程中遇到的困难。

有了大数据以后，这个问题获得很大改善。我们可以利用大数据，来弥补原来工作中的不足，光靠医生的知识和经验来建造系统，这个很难做到。所以从本世纪开始，大量医疗人工智能的工作开始复苏。

比如IBM的沃森医疗保健系统，它主要是做癌症的免疫治疗，是从100万本医学杂志上抽取的2500万个摘要，有400万病人的数据，以及1861年以来的药物专利。所以它既可以做癌症免疫治疗，也可以进行个性化的辅助治疗，比如针对糖尿病的管理。这里所有的数据是质量比较高的数据。从一定意义上来讲它是知识。比如从医学杂志中间抽取摘要应该说是一个医学知识。

第二，从本世纪开始，我们进入深度学习时代。深度学习解决人类的感知问题。也就是说我们过去如何从数据中间去感知它的内容。比如我们如何从数据中间去认识这个动物，这就是图像识别。我们如何从数据中间去认识声音？这叫语音识别。这些工作，我们在本世纪初有一个重大突破，表现在我们只要把原始的数据输入进去，经过计算机处理以后就能够达到识别的目的。这和以前不一样，这就是深度学习。深度学习是把神经网络的层次增加了以后，起了一个根本性变化。也就是我们输入没有加工的数据，比如输入图像点阵或语音输入波形，这让使用人工智能的技术门槛降低了。在做人脸识别和语音识别时，不需要对人脸和语音有很深入的了解，只要利用原始声音数据、图像数据，就可以做图像识别、语音识别的工作。

正因为此，给医学大量应用人工智能带来了机会。其中最重要的应用就是医学图像识别。比如尘肺病筛选、眼底彩照疾病诊断等。

第三个是行动，其中最重要的是手术机器人。比如众所周知的达芬奇机器人，包括术前规划、术中操作和术后管理等。清华大学在这方面也做了很多工作。

下面我要重点说一下，如何去建立一个新的互信、可靠、高质量与高效的人机协同医疗体系，特别是我们面临什么样的挑战和风险？

这个工作分成两个部分：一个部分叫非核心部分应用，主要是指后勤、管理。它是指利用人工智能技术为大家在预约、挂号、缴费、导诊、初诊、自我诊断和医学知识咨询等提供网络服务。这方面在国外也做了很多，叫聊天机器人。中国也做了很多，比如各种各样的医疗服务网站等。其实，这类网站目前只能解决非核心部分，即帮助患者挂号、预约、介绍医生、介绍医院、导诊，进行初诊和自我诊断等，不能真正进行医疗诊断，而且所提供的医学咨询也不见得是准确、可靠的。换句话说，特别是目前国内的医疗服务类网站，无法提供更高质量的医疗咨询服务。因此这些医疗服务网络企业下一步怎么办？如何可持续发展？唯一的出路，就是它们要提供更高质量的医疗服务和信息，才能存在。如果只是在宣传现在点击量达到多少，一旦开始提供收费服务，用户可能就走了。为什么？因为它们不能提供更好的医疗服务。另外如果用户付费，它们的责任就来了，因为一旦向用户提供了错误的咨询，人家就可以起诉它们。所以目前医疗服务网络企业已经遇到了如何提高质量的问题，如果不提高质量，那么它们是不可能永远生存下去的。如果它们做广告，必然会受到广告商的影响，所以广告这条道路也走不通，必须走高质量地提供医疗服务的道路。当然其中也有一些虚拟护理、老年保健等非核心的问题。

第二个是核心部分的应用，即智慧诊疗。我认为这是人工智能最重要的应用领域。只有当机器真正进入了医疗决策和诊疗，才能体现人工智能的价值。目前我们做这个事情有一定局限性。因为要实现医疗诊断，必须有大量的知识和数据，这是目前人工智能所要求的。相关信息必须是确定、完整的，而且在整个过程中间是可预测的。现在看一下医疗的场景，很多并不符合这个要求。特别是其中所要求的完整、确定的信息。为什么我们需要优秀的医生？因为医疗需要在信息不是很完整和不确定的情况下，由优秀的医生做出正确的判断。

因此，真正的智慧医疗还要做很多方面的努力。用大数据做出来的医疗诊断结果，有很多待改进的地方，主要表现为会放大错误、关系很差、非常脆弱，而且需要大量的学习样本等。

一个非常优秀的交通信号指挥系统，只要在信号上加了一点干扰，就会变成另外一个信号。医疗图像识别系统也是一样，只要医疗图片上有一点污染，就使得它发生质的变化，在判断上发生很大的错误。声音也是如此，明明说的是这句话，加了一点干扰，机器听起来就变成了另外一句话。这就是大数据深度学习必然导致的结果，会引起很大的问题。目前已存在的很多医疗图像诊断系统，从指标上来看，可以说已经达到甚至是超过专家的水平。但是医生不敢用，因为它不可解释。比如说把一个图片给机器，它诊断出来是癌症，但是说不出为何诊断它是癌症，因此医生根本不敢签字。这就涉及到机器看病，它是什么责任，它能否负的起这责任。也就是最终还必须由医生签字，不能完全用机器来做判断。这就存在一个问题：医生凭什么相信机器的诊断是对的。

这里面的关键是如何让人工智能做可解释的诊断。我们必须要设法努力去建立一套互信、安全的人机协同医疗健康系统，其中涉及到很多问题，比如安全性和标准、伦理与法律、体制机制和科技层面，必须从这些层面提供安全、可信、可靠与高效的人工智能技术。

目前国际上已经开始建立“可解释”的医疗诊断系统，这是非常不容易的。因为现在的深度学习方法，得出来的结果是不可解释的。人工智能在医疗健康中有很多的应用，前景很好，但是我们必须要解决互信的问题，让医生信任这个系统。

以清华大学人工智能研究院和长庚医院在做的，建立一个可信的、基于呼吸音的医疗辅助分析系统为例，目前西医里的血液、血压、温度都自动化了，唯一的声音、呼吸没有实现自动化。我们希望通过管理部门、医院、医生和技术人员四结合的模式，共同来做这件事情。

在做这个分析系统时，必须把声音听诊的问题准确可靠的解决掉，实现对呼吸音的测量。先把声音转化成图像，因为声音里头有很多很多的噪声。周围人说话，或者是听诊器和衣服摩擦都会有很多噪声，会妨碍医生判断。我们就用滤波的方式把它滤掉，这个数据的质量不是很高的。非常重要的一点，是必须充分借助医生的智慧解决数据质量的问题，即把滤波滤掉以后，再让医生来听，看看原来的声音是否存在。在这种情况下，可以保证提高声音的质量。接下来，根据需求分析，应用到很多地方，比如重症监护，可以用这个帮助医生诊疗胸心疾病等。我们设立的目标，包括破解呼吸音的密码等。

2015年MIT研究人员统计，过去10年间机器人手术导致140多人死亡，近1400人受伤。如何面对这个事实？也就是说，当我们做智慧医疗的时候，会遇到极大的风险和挑战。如何面对这个风险和挑战？必须衡量AI技术带来的利益与风险，最终是人类来决定何处使用AI，哪些还需保留旧的模式。

AI技术将改变医学的整个形态。这里关键的问题，是医务人员的参与和重视，而且是全过程的，包括从研究、开发到应用。因为人工智能在医疗健康领域应用的本意不是想代替医务人员，而是要发挥医务人员的聪明才智。人工智能最高的目标，就是要充分发挥人类的智慧。因此医务人员在其中起着非常关键的作用。我觉得在人工智能应用方面，数据并不是最重要的，最重要的是人，是医生的智慧、所具备的医学知识和临床经验。医疗数据有两种：一种我们可以直接使用的高质量数据；另外一种是大量的是低质量数据。低质量数据怎么用？这是目前人工智能应用的关键。要想挖掘低质量数据的价值，关键在于让医务人员发挥作用，只有借助于医务人员的智慧和经验，才能有效利用数据，特别是低质量的大数据。这就是我今天演讲的最主要的目的。

谢谢大家！

（根据录音速记摘编整理，未经本人审阅）