为什么人工智能还不能取代医生这里有 5 个理由
选择合适的数据是正确诊断的第一步，AI输在了起跑线上。
2
AI无法诊断「没见过」的疾病
AI的诊断效果除了算法的影响，很大程度上还取决于用于training的数据。
我们暂且抛开大量training素材的可及性和伦理问题，相信这些问题的解决只是时间问题。
最重要的一点是AI无法诊断training中不包含的疾病类型，或者新的关联类型。
比如，发病率比较低的疾病，这些疾病的档案本来就很少，training素材中可能没有包含或者只有少数几例。那么，AI在实际诊断中就会发生误判。
再比如，有些病征可能过去一直只跟疾病A相关，但最近出现这些病征跟疾病B相关的情况越来越多。这时，目前的AI依然只会按照过去学习到的规则来诊断。
AI也许速度很快效率很高，但她非常死板，这绝不是一名优秀的医生应该具备的素质。
不过，随着技术发展和资本推动，中国的医疗AI研究必然会打破目前各种疾病诊断领域独自开发的现状，这也让AI识别和选择正确的数据成为可能。
3
停留在表面的AI诊断
AI的诊断原理跟医生有本质区别，AI经常只是停留在表面，而医生能够深入本质。
医生的诊断并不是基于表面的图形，图形只是疾病的一种表象。但是，图像识别AI是完完全全地基于这些表象，因为她没有办法理性思考。
真实的医疗过程中存在大量表面上很相似，但实质上大相径庭的案例，这就超出了AI的能力范围。但可怕的是AI并不知道自己的能力边界，她还是会机械地按照程序员写好的代码进行计算，并给出错误的结果。
在Bejnordietal.的研究中我们看到，人类医生只要给予合理的时间，诊断的准确率和AI不相上下，但在医疗资源紧张、医生负荷沉重的情况下（比如2小时鉴定129张病理切片）会有更高比例的病例被误判为阴性，但不管时间是否充裕，人类医生诊断的假阳性率始终是非常低的。而AI正好相反，虽然诊断的准确率比较理想，但假阳性率较高，并且算法容许更多假阳性时灵敏度更好[1]。在Litjensetal.的报道中，深度学习算法的灵敏度达到了100%，但假阳性率也高达40%[5]。
随便举个例子，比如，我上传给花卉识别AI一张长筒花的照片，她其实并不认识长筒花，但因为长筒花跟非洲凌霄的花有些类似，所以她很自信地给出非洲凌霄的诊断结果。
长筒花被错误地识别成非洲凌霄
真的放心让专注表象十年的AI给你看病吗？
4
AI无法根据实际调整诊疗方案
AI在可以标准化或量化的数据处理中强于人类，但医生看病并不仅仅是诊断这么简单，医生的目的是要把病人治好。
为了达到这个目的，医生需要根据患者病情的发展，并发症的情况，身体情况，经济条件给出最优的治疗方案，这个复杂的过程需要的不仅是专业知识，还有经验和智慧[6]。
你也许会说Alphago和Zero不是很有智慧吗？那是因为围棋只是一个游戏，规则清晰，地盘有限，计算机可以左右手互搏赚取经验。在真实世界里，医疗行业日新月异，影响医疗结果的因素众多，受到新技术、新政策、疾病的分布变化等等因素的影响，有那么多「小白鼠」供AI练习吗？我们甚至没有一个能够模拟人体在各种疾病和治疗下会有如何改变的模拟器。
AI能否在实际医疗场景中的提高医疗质量，还有待更严谨的前瞻性研究的证实。
5
AI无法自己发现新的方法
最后一点也最为重要：医学不是一成不变的科学，医学每天都在进步，每天都在面临新的挑战，诊断标准与诊疗方案也需要与时俱进。而AI不能自己给自己建立新的诊断标准，更不能从新的病例中发现新的方法。
AI的强项在于数据的收集和分析，在有足够多的医疗样本后，AI也许会对诊疗指南有自己的看法。
但是每个医生都知道，新术式、新治疗方案、新药使用和尝试，甚至是面对新的疾病，都是临床实际工作中的一部分。在目前，推进医学进步的重任唯有人类医生可以担当。
结束语
AI，愿你在这盛世能成为一名合格的仆从，帮助医生完成一些简单重复的劳动，让我们的医生不再那么辛苦，可以有更多的时间更充沛的精力来做重要的事情、帮助更多的患者！（责任编辑：刘冬宸）
本文作者王婧，剑桥大学博士后，丁香园大数据部高级分析师。
参考文献：
1.EhteshamiBejnordiB,VetaM,vanDiestPJ,etal;CAMELYON16Consortium.Diagnosticassessmentofdeeplearningalgorithmsfordetectionoflymphnodemetastasesinwomenwithbreastcancer.JAMA.2017;318(22):2199-2210.
2.EstevaA,KuprelB,NovoaRA,etal.Dermatologist-levelclassificationofskincancerwithdeepneuralnetworks.Nature.2017;542(7639):115-118.
3.GulshanV,PengL,CoramM,etal.Developmentandvalidationofadeeplearningalgorithmfordetectionofdiabeticretinopathyinretinalfundusphotographs.JAMA.2016;316(22):2402-2410.
4.GoldenJA.DeepLearningAlgorithmsforDetectionofLymphNodeMetastasesFromBreastCancer.JAMA.2017;318(22):2184-2186.
5.LitjensG,SánchezCI,TimofeevaN,etal.Deeplearningasatoolforincreasedaccuracyandefficiencyofhistopathologicaldiagnosis.SciRep.2016;6:26286.
6.ChenJH,AschSM.MachineLearningandPredictioninMedicine-BeyondthePeakofInflatedExpectations.NEnglJMed.2017Jun29;376(26):2507-2509.返回搜狐，查看更多
人工智能会取代科学家吗
传统认为，科技工作因其高度的创新性，因此科技工作者很难被人工智能取代。但日前，国际学术期刊《自然》发表的一篇论文吸引了大家的眼球。科学家们改造了一种汽车装配线上常见的机器人，让它可以在化学实验室内工作。通过与机器学习算法相连，这种机器人可以使用和人类化学家一样的标准分析仪器，“相当于使研究人员而非仪器变得自动化”。同时，由于它和人类体积相当，可以在传统实验室内工作，而无须建立或改造新实验室。在提高一种聚合光催化剂性能的实验中，这款机器人在2～3天内便优化了反应条件，而人类要几个月的时间才能做到。原因之一，就是这种机器人采取了激光扫描和触觉反馈相结合的方式实现定位，而不是视觉系统——不用“看”的机器人无须光亮，因此极大地提高了光催化实验的效率。研究者认为，这个机器人将在传统实验室有更多应用。那么，人工智能会取代化学家吗？会取代科学家吗？本期，我们邀请兰州大学化学化工学院教授王为，中国科学院自动化研究所研究员侯增广，和中国科学院物理研究所研究员王磊一起来谈谈这个话题。
1.人工智能已成为科学家的好帮手
侯增广（中国科学院自动化研究所研究员）：简单地说，《自然》刊登的论文在技术方面有两个亮点。一是采用机器人代替传统实验室的实验员，克服了光催化实验人工操作过程中的一些问题。这个实验应用的就是常见的具有机械臂的移动机器人平台，它连续运行了8天，做了688个实验。第二个亮点是采用了贝叶斯算法，这是一种基于概率统计的分类算法，使实验效率大大提升。
机器人最早在制造和生产领域得到应用。目前，在科学发现领域，机器人在精度要求比较高的场景中，如时间精度、位置精度、操作精度等，有了很多应用。例如，人工授精要求把精子准确地送入卵子中，精度要求比较高，这类任务如果采用机器人将比人工操作的效率高很多。
人工智能的应用给科研带来很多新变化，增加了新可能。比如，采用人工智能方法对数据的采集更客观、分析更准确。同时，人工智能有强大的计算能力，能够发现人容易忽略的小样本事件、罕见样本事件，可能给科学研究带来意想不到的发现。
王为（兰州大学化学化工学院教授）：人工智能如何帮助化学家？我们首先要理解“化学学科”和“人工智能”的内涵和外延，判断它们各自面临的瓶颈和发展的方向，再分析它们可能采用什么方式交汇融通。
化学是发现和创造物质的学科。要解决的基本问题包括：物质如何（精准）创制？物质的组成和结构如何？物质有什么（独特）的功能？上述问题的解决，从根本上讲需要对微观物质世界的底层逻辑形成理论体系。因此，化学学科既需要动脑，也需要动手：从发现和创造物质的实践中获得数据，从数据中总结新的经验和规律，再从经验和规律中指导未知的、获得新数据的实践。简言之，化学学科的发展需要从微观到宏观的多尺度层级上，高效精准获取数据、建立数据和理论之间的强连接、完备理论体系。
新一代人工智能的核心是在大数据基础上将智能问题转化为数据问题，其发展需要三个核心要素的支撑：计算能力、海量数据、数学算法。人工智能的基本层级是智能放大和综合，包括信息的采集、录入和分析。进阶层级是智能预测，即在大数据基础上预测特定事物的发生概率。高级层级是智能学习，即通过算法上的革新，突破人类的思考模式，在基本规律下自主地创造机器的思考模式，从而输出全局最优的结果。
人工智能在化学领域中的应用初见端倪。其对于化学家的帮助可能表现在以下几个层级：一是辅助动手，高效获得数据。二是辅助动脑。通过对海量数据的分析，人工智能可能预测出新的物质合成途径、发现物质的新功能、建立新的逻辑连接（构效关系）等。三是针对化学领域的核心问题，通过深度学习（算法创新）和深度自动化，实现动手和动脑的深度结合，完成自主创新。以此标准衡量，人工智能在化学领域中的应用还处在起步阶段。《自然》这篇工作的核心亮点是提供了高效获取数据的深度自动化研究平台，为将来动脑和动手的有效结合起到示范作用。
王磊（中国科学院物理所研究员）：今天的人工智能已经在科研领域给科学家带来很多帮助。我们可以想象，爱迪生发明灯芯，要对各种材料不停试错，如果有这种机器人的帮助，那可能提早电灯的发明。其实，在科研领域有很多类似的应用。比如我们中科院物理所，在晶体材料的合成和生长上，就使用人工智能作为辅助。我们所几辈科研人员在这个行业深耕几十年，留下了丰富的实验数据，但都是写在纸上的。我们把这些实验记录数字化，再“训练”一个识别程序，就能用来预测晶体能不能长成等。再比如，在材料科学中，很多时候科学家们要从材料微观组成，例如原子排列顺序等，来推测材料可能具备的宏观功能，例如亲水性等。通常这个计算是很复杂的，需要耗费大量时间。现在，人工智能通过“学习”之前的计算结果，已经可以完成这部分工作。当然，其准确性还有很大提升空间。
2.什么样的科技工作者会被替代
王为：我的基本观点是：人工智能在未来会替代重复性的化学实验和测试工作，有可能改变甚至变革化学研究的范式，但从根本上无法替代化学家。
就获取数据而言，人工智能在预先设计的化学实验中表现得更加高效。相较于人的操作，其标准化程度更高、误差更小，能帮助化学家获得更大量的、标准化的、可对比的数据。就数据分析而言，相比于人类记忆以及理解数据的局限性，人工智能可以更为精准、有效地收集、分析、整合数据，并可能寻找到相应的规律。因此，人工智能有可能在化学领域的应用中率先取得突破，从而改变甚至变革化学研究的基本模式。
而取得突破的先决条件至少有两点。一是获取海量数据。人工智能的基础是大数据。就机器学习的需求而言，目前化学领域所能提供的数据数量非常有限、可对比度极低。二是实现算法创新。基于化学领域提出的特定科学问题，在海量数据存在的前提下，通过算法创新，突破化学领域现有的思考模式和理论框架，锁定多参数复杂体系的最优解。就此而言，人工智能在化学领域中的应用还有很长的道路要走。
侯增广：人工智能很可能给实验室带来巨大变革，甚至出现无人实验室。但我认为，短时间内，人工智能和机器人不能替代科学家。我们看《自然》刊登的这个实验中，进行实验顶层设计的，比如实验架构等，还是科学家，机器人和人工智能只不过是人的手和眼的延伸。我认为，即便深度学习等人工智能方法发展起来，也不太可能替代科学家。因为人工智能是建立在算法之上，它的能力的获取是基于大量数据得来的，强大的基于数据的计算能力是人工智能的核心能力。但人工智能和真实的生物智能还有很大差距，人从来就不是这么思考的，人类的智能是基于知识、而非基于数据的。而这点，人工智能还做不到。比如我们课题组在研究手术机器人。在某些方面，它的精准度比普通医生要高。但是人体是非常复杂的，每个人的情况也千差万别，遇到复杂病灶、复杂障碍如何处理？这点机器人还不行，比不上经验丰富的医生。因为这些能力和判断都是基于经验知识的，而非简单数据。
王磊：科研中，那些重复性高的、有固定流程的工作可能被替代。但对于是否能替代科学家这个问题，我的看法是比较保守的。比如我们物理学，最重要的是在现象中发现新的物理定律。但目前的人工智能算法，还看不到能发现新物理定律的可能，作出创新性发现的可能性比较小。我现在做的深度学习与计算物理交叉的研究，起码目前还没有看到人工智能能够取代科学家的证据。虽然现在也有很多实验模拟一个环境，看看人工智能是否能取得重新发现。比如给人工智能万有引力定律发现之前的各种数据，看人工智能能不能像牛顿一样发现万有引力定律。有些实验声称获得了很好的结果，但仔细研究这些实验，会发现其中有很多可控的空间。因此，我总体认为，目前的人工智能做出创造性发现的可能性比较小。
3.人工智能是否会引发与人争工作的伦理隐忧
侯增广：我觉得这方面担忧是不必要的。我们借助人工智能和机器人可以提高工作效率，把人从重复性的、危险性的工作中解放出来。这是一种社会的进步。当然，人工智能的发展也面临很多伦理问题，这不可能在一个访谈中尽谈。我只能从我所在的这个领域谈一个伦理问题的例子：目前的人工智能方法是不能够保证计算结果百分百正确，我们应该把什么样问题的决定权交给人工智能？如果出现失误，这个责任应该由谁来承担？我们再以手术机器人为例。之前说过，人体是十分复杂的，手术中会遇到各种各样的状况。如果是人做手术，他很清楚自己能力或技术的边界在哪里，什么样的问题是他不能解决的。因此，可以及时向老师、前辈请教，或者邀请其他科室的大夫来会诊。但如果是机器人自主做手术，它是按照程序来运行的，这个程序不可能包含所有可能发生的情况，机器人也不会清楚自己能力和技术的边界。那么，在某些程序交由机器人来判断和决定的情况下，一旦手术失败，这个责任由谁来承担？是算法的研究者，是机器人的制造商，还是按下操作键的医护人员？这是一个值得大家关注的伦理问题。
王磊：每一次技术的更新换代，都会带来产业的变化，某些工种可能被替代，从而引导劳动力向不同的方向分流。我觉得从人类整体的发展而言，与人争工作这个伦理问题可能不是最急迫的。我们目前讨论更多的伦理问题，是如何让机器不“染上”人类的偏见。我们知道，人工智能是基于大数据的，这些数据集的标签的制备过程都需要人。特别是，原来数据集是由人写的，可能会进行克制。现在数据集都是互联网搜集的，偏见很难避免，比如基于肤色的偏见、基于性别的偏见等。那么，在人工智能的应用中，如何在算法中去除这些偏见，是我们要面对的比较紧迫的伦理问题。
（本报记者 齐芳）