人工智能医健领域应用研究报告首次发布，两大痛点待解
近年来，加速发展的技术能力、海量的医疗数据资源和巨大的应用需求，形成了我国医疗人工智能发展的独特优势。
近日由中国发展研究基金会和红杉资本中国基金共同发布的《人工智能在中国医疗健康领域应用的系统性政策研究报告》认为，人工智能的发展已经进入全新战略时代。人工智能为医疗健康服务提供了快捷、优化的途径，有助于形成同质、标准、易于延展、可控的服务体系，人工智能正成为医疗健康发展的新驱动力。
然而，不可回避的是，在医疗健康领域的实践中，人工智能仍面临着支持性政策落地难、数据获取与联通共享机制不健全、融资方式较为单一、产品定价和支付缺乏支撑以及市场准入效率低等诸多挑战。
中国发展基金会秘书长方晋（右）与红杉中国合伙人周逵（左）共同启动“人工智能在医疗健康领域的应用研究”报告发布。
在新冠肺炎疫情期间，人工智能提高了新冠肺炎的诊断、预测和治疗水平，为医护人员更为精准的诊断和个性化治疗方案提供了建议。全国政协经济委员会委员、国务院发展研究中心原副主任王一鸣认为，在后疫情时代，人工智能将重新定义医疗健康服务，构建新的服务生态。十四五期间，医疗健康领域人工智能应用将成为竞争的新制高点。
中国发展研究基金会副理事长卢迈也认为，人工智能将成为医疗健康行业发展、医疗服务水平提升的重要驱动力。一方面，人工智能将拓展医疗健康领域的深度，提高医疗诊疗水平，提升医疗服务效率；另一方面，人工智能有助于扩展医疗健康服务的广度，推动构建标准化医疗卫生服务体系，满足多层次、多样化的医疗健康需求。但是，人工智能在实际应用中，还需考虑医护人员的实际需求，调动医护人员的积极性。
“疫情期间，很多医疗健康领域的AI企业对产品和服务进行了定向调整，支持疫情的防控检测工作，也得以让AI的技术能量得到了加速释放，同时也让我们看到医疗AI应该有更多元的应用场景，在患者许多生死攸关的环节发挥更关键的效能。”红杉资本中国基金合伙人周逵认为，“医疗+AI”正在接近价值创造的新转折点，正在完成从点到面的过渡。周逵在分享红杉中国在医疗AI领域的前瞻性长期布局时表示，“医疗+AI”领域已经出现“技术驱动转向需求驱动”等新趋势，但仍面临两大挑战，一是企业如何形成商业闭环，获得造血能力？二是政府支持何时能实现“用户友好”？他建议，医疗AI企业在商业路径方面，要从诊疗效果入手，构建企业护城河，不要盲目死磕技术；而在政策法规方面，要打造政策链条，让创新有规可依，让政策切实可行。
人工智能技术和医疗健康领域的融合不断加深，顺应了医疗健康市场供给侧和需求侧均衡发展的需要。中国发展研究基金会秘书长方晋表示，为了在健康领域加速人工智能的融合与应用，有必要围绕核心问题推进一揽子改革。为此他建议，需要查找政策脱节点，加强中央各部门和中央、地方之间的政策衔接，促进全链条政策形成；以联通共享为目标健全数据标准，加速区域性、分病种的权威数据库建设，强化法规界定和数据安全；探索建设多层次的融资和支付体系，助力产业形成可持续商业模式，发挥更大作用；优化与支付关联的审批规则，探索通过对标审批、专项通道等方式提升审批速度。
在今年的新冠疫情中，以信息化、大数据、人脸识别等为特点的人工智能在疫情防控和诊疗中发挥了重要作用。《人工智能在中国医疗健康领域应用的系统性政策研究报告》项目组在调研过程中，走访了多家红杉中国投资的数字医疗企业，获得了许多人工智能技术用于抗疫的宝贵一手资料，积累了 “医疗+AI”在疫情应用方面的前沿洞察。方晋希望上述报告能给政府部门、专家、医疗服务企业以及研究机构提供一些新的视角，为推动人工智能在医疗健康领域的蓬勃发展增添一份力量。
人工智能在医疗健康领域的应用及挑战
一、人工智能概述
1.人工智能发展历程
人工智能（ArtificialIntelligence,AI）是对人的意识和思维过程进行模拟并系统应用的一门新兴科学，其发展经历了三次浪潮。1956年，美国Dartmouth大学举行的聚会是人工智能正式诞生的标志，这一时期使用机械化思考方式和逻辑学知识来解决问题，但对复杂的问题束手无策；20世纪80年代，Hopfield神经网络和BT训练算法的提出，使AI再次兴起，出现了语音识别、翻译等计划，但迟迟未进入人们的生活之中；2006年，Hinton提出深度学习技术，并随着互联网的普及和应用，AI在各个领域迅速得到发展和应用。
2.人工智能的基础和要求
人工智能的核心是算法，基础条件是数据及计算能力。因此，可以认为医疗与人工智能结合的关键要素是“算法+有效数据+计算能力”。先进算法能提升数据使用效率。在医疗领域，有效的医疗大数据是人工智能应用的基础，医疗数据的有效性包括三个方面：电子化程度、标准化程度以及共享机制。电子化程度强调数据和病历的供给量；标准化程度强调数据之间的可比性和通用型；共享机制强调数据获取渠道的便利性和合法性。随着互联网的普及，我国各级医疗机构、健康管理机构、行政机构、居民都已普遍了解互联网并链接互联网，给大数据的实现奠定了基础。
3.医疗健康领域对人工智能的需求
近年来，借助人工智能技术，开展智慧医疗成为医疗领域的热点。2017年7月，国务院印发的《新一代人工智能发展规划》提出，要建立新一代人工智能基础理论体系和关键共性技术体系，加快培养聚集人工智能高端人才。同年12月，工信部印发《促进新一代人工智能产业发展三年行动计划（2018—2020年）》，对医疗人工智能的发展做出了详细的规划，提出要着重在医疗影像辅助诊断系统等领域率先取得突破。2018年，国务院办公厅印发《关于促进“互联网+医疗健康”发展的意见》，明确支持“互联网+医疗保健”的发展，允许依托医疗机构发展互联网医院。事实上，除了医疗影像辅助诊断对AI具有巨大的需求外，辅助诊断、辅助手术、辅助护理、辅助检查、辅助医院管理、辅助挂号、辅助减少计量误差、健康管理、药品研发等医疗健康领域对AI技术都有强大需求。
随着我国人口老龄化程度不断加深，慢性病、癌症发病率逐年上升，以人力为主的各类卫生资源配置不足、分布不均的困境越发突显，AI作为一门综合性极强的交叉学科，将在医疗领域内得到越来越多的应用，并将成为影响医疗行业发展的重要科技手段。
二、医疗人工智能应用现状
目前，人工智能在医疗健康领域已得到了初步的应用，主要集中在辅助影像和病理诊断、辅助护理、辅助随访、基层医生助手、医院智能管理及辅助健康管理等方面。
1.辅助影像和病理诊断
医学影像及病理切片作为结构化数据，是AI应用的绝佳场所。2015年起举办的CAMELYON16挑战赛，比较AI和病理医生在检测乳腺癌患者淋巴结转移病理切片中转移灶的潜力，结果显示AI在诊断模拟中的表现优于病理医师。目前，人工智能辅助影像和病理诊断在国内发展迅速，2006年我国首家独立临床病理诊断专业机构——上海复旦临床病理诊断中心成立，启用数字病理远程会诊平台，免去患者来回奔波。2015年沸腾医疗有限公司以“E诊断医学影像服务平台”为核心，通过“E诊断”医学影像技术专业输出及专业精准的远程医学影像诊疗合作，实现了远程医学影像信息交互的目标。
2.辅助护理
我国台湾医院应用AI产生护理诊断，AI建议的诊断与护士建议的诊断一致百分比高达87％。国外AI已普遍运用于人们的日常生活护理中，日本研究机构Riken开发的机器人Robear，能将病人从床上抬起，帮助行动不便的病人行走、站立等；应用AI开发的机器人能为老年及瘫痪患者提供喂饭、日常照护等服务。澳大利亚养老院用机器人做护工，通过给机器人输入程序，使其可以与老年人一对一交流，消减老年人的苦闷。AI在护理领域的应用，极大减轻了护理人员负担，为患者提供了温暖且有力的服务，是应对老龄化社会的有力帮助。
3.辅助随访
随访是医院常规工作的重要组成部分，然而目前的卫生人力无法满足所有患者的随访需求。AI的发展打破了长期随访在时间和空间上的限制。2017年，海宁市中心医院首次应用AI智能随访助手，采用声纹预测思维算法，语言识别准确率高达97.5%。2018年，上海交通大学医学院附属仁济医院东院日间手术病房正式上线AI随访助手，随访助手可以根据问题模板模拟医生进行电话随访，主要询问患者出院后是否发生呕吐、疼痛、发热、伤口渗血感染等不良情况。随访助手的上线不仅大大提高了随访效率，还确保了随访信息采集的全覆盖及准确性。同时，随访助手可以根据不同的手术种类，制订个性化随访计划，通过终端自动拨打患者电话，模拟人声与患者进行术后随访沟通，并有效采集患者回答的信息。随访结束后，医务人员能清楚地了解每位患者的术后情况。
4.基层医生助手
基层医院在实现“健康中国”战略中有着举足轻重的作用，但目前其服务能力难以满足广大群众的基本需求。AI通过学习海量的专家经验和医学知识，建立深度神经网络，并在临床中不断完善，协助基层医生给群众提供高质量的服务。2017年，科大讯飞和清华大学联合研发的“智医助理”以超过合格线96分的成绩成为全球第一个通过国家执业医师资格考试综合笔试测评的AI机器人，可以辅助基层医生提升诊疗质量和效率。2017年9月，国家在安徽省旌德县首次开展全科医生机器人辅助基层医疗试点，深受基层群众欢迎。
5.医院智能管理
人工智能技术在医院的应用，能提高医院为患者提供正确治疗方案的精准性，减少了患者的不必要支出，并且能合理地为患者安排治疗计划。澳门仁伯爵综合医院应用AI技术，在电子处方系统内设置安全警示，确保用药规范，防止滥用抗生素等药物。美国IBM公司应用机器学习方法，自动读取患者电子病历相关信息，得出辅助诊断信息，实现医疗辅助诊断。
6.辅助健康管理
传统的健康管理技术在信息的获取、处理和应用上相对落后，将AI应用于健康管理，通过对健康数据实时采集、分析和处理，评估疾病风险，给出个性化、精准化的基本管理方案和后续治疗方案，能有效降低疾病发病率和患病率。健康管理机构可以通过手机APP或智能可穿戴设备，检测用户的血压、血糖、心率等指标，进行慢性病管理。国外Welltok公司利用“CaféWell健康优化平台”，管理用户健康，包括压力管理、营养控制以及糖尿病护理等，并在用户保持健康生活习惯时给予奖励。同时，为用户提供更灵活、全方位的健康促进方案，包括阶段性临床护理、长期保持最佳健康状态等多个方面。
三、人工智能存在的问题和挑战
目前，人工智能+健康医疗正在起步阶段，要保证AI在医疗健康领域应用的深入发展，仍有许多亟需解决的问题和挑战。
1.监管缺失
目前，国内尚未出台相关法律法规对AI进行监管，而作为AI的基础医疗大数据也没有完善的法律条文来规范，对数据的隐私保护、责任规范、安全性等没有明确的法律指示。AI在医疗健康领域应用的质量标准、准入体系、评估体系尚是空白，无法对AI数据和算法进行有效验证和评价，不利于监管，阻碍了AI产品在医疗健康领域的应用和发展。
2.数据质量
高质量的医疗数据对提升AI在医疗健康领域应用的准确性有着至关重要的作用，尽管我国医院的数据庞大，但大部分是非结构化数据，不能发挥出“大数据”挖掘的价值。由于疾病的复杂性，数据维度、特性各不相同，质量参差不齐，如将数据细分到每种疾病，可利用的样本量很少。同时， AI的深度学习需要使用大规模规范化数据进行训练，细微的数据误差会对AI发展产生负面影响。我国当前医院与医院、院内科系互不相连，没有统一标准的临床结构化病历报告，医生手写病历不规范，临床用药、检查等细节缺失，患者离开医院后失访率较高等各种原因，造成医疗数据错漏、数据质量低下。
3.伦理问题
AI产品做出的医疗决策是通过机器学习大量的医疗数据模拟医生做出的，大规模医疗数据在使用过程中会有泄露的风险，对个人隐私造成影响。决策是基于算法，而算法在分析数据过程中也会获得类似于人类偏见的思想，导致出现算法歧视的不良后果。算法歧视将带来一系列伦理问题，是AI不可回避的挑战。
4.医保支付
AI应用于医疗健康领域，最核心的问题是谁来买单，因此医保覆盖是一个绕不开的话题。如果由患者自费，那么市场就会缩小，AI产业无法向前发展，也很难证明AI在医疗领域的有效价值。目前，公立医院医保报销压力较大，将AI产品纳入医保，医保报销的资金压力将会激增。同时，互联网医疗由于其特殊的属性，还面临异地结算的难题。
5.人才匮乏
目前，既懂医疗又懂AI技术的复合型、战略型人才极其短缺，其中10年以上资深人才尤为缺乏。同时，医务人员对AI的接纳度不足，部分医务人员甚至对AI抱有抵触心理。AI技术的使用需要对医务人员进行专业化规范培训，在此背景下，建立完善的人才培养和人才引进机制是重中之重。
四、讨论与建议
1.加强行业指导和监管
政府部门应尽快出台人工智能相关法律法规，加强对人工智能的监管，通过强化监管，加强对数据的保护，防止数据泄露导致居民隐私受损，甚至危害国家安全。同时，还应建立AI在医疗健康领域应用的标准规范，保障AI产品的质量。此外，政府部门应明确AI在医疗健康领域的定位，明确医生不会被AI取代，AI只是帮助医生进行临床诊疗，方便患者获得高质量的医疗服务，医生仍对诊断结果负主要责任。政府部门应理性看待新一轮的AI浪潮，提升居民对AI的接纳度，积极引导居民、资本和相关机构按更加合理的速度和方向发展医疗AI。
2.加强核心技术人才培养
面对AI人才匮乏的严峻形势，政府要加强人工智能领域专业建设，培养AI算法和技术方面的优秀人才。推进“新工科”建设，形成“人工智能+X”复合专业培养新模式，推动AI领域国家级精品在线课程建设。同时，建立人工智能学院、研究院或交叉研究中心，引导高校通过增量支持和存量调整，加大对人工智能领域核心人才的培养力度。在职业院校大数据、信息管理相关专业中增加人工智能相关内容，培养人工智能应用领域技术人才。另外，要加强对医务人员使用AI的技能培训，保证AI产品能更好地服务于临床实践。
3.夯实数据基础
IBM公司用于辅助医生设计癌症治疗方案的AI产品沃森，由于使用的不是真实患者的数据训练沃森，沃森开出了不合适且危险的治疗方案。可见，数据的质量和数量是AI竞争的核心所在，目前互联网的基础体系已初步健全，但仍存在许多虚假数据，这与脱离统计模型的桎梏、用全数据即真实数据直接分析的大数据初衷相悖。因此，应打破医疗机构、政府部门的数据壁垒，建立数据共享机制，促进不同机构之间、地区之间的数据联网，形成真正的大数据。由于医疗健康数据种类繁多、标准不统一，应加快医疗数据电子化、标准化的进程，形成规范化AI数据集，夯实AI应用的数据基础。同时，加强信息隐私保护建设，研究数据脱敏技术，保障医疗数据可以实时、准确地进行流通，避免数据泄露的风险。
4.深度推进互联网应用
目前，我国东部地区医疗健康机构已具备互联网基础，但部分中西部地区尚有欠缺，而这些地区由于经济水平较低、医疗水平较差，对远程医疗、人工诊疗助手等AI需求强烈，建议国家有侧重地对中西部地区互联网建设给予政策倾斜，促进互联网应用的全面发展。加强基层医疗机构互联网应用，引导优质的医疗资源下沉至基层，实现资源共享，提高医疗服务水平，推动分级诊疗制度。
五、小结
人工智能的记忆力和计算能力远优于人脑，且可扩充脑容量、延伸脑功能、增强脑负荷，能够成为基层医生的智囊、三甲医院医生的秘书，弥补卫生人力资源不足。目前，我国人工智能尚处于起步阶段，仅具有计算智能，“人工智能+医疗健康”应用的领域将会越来越广，尤其适合社区，通过早发现、早诊断、早治疗，有针对性地进行人群健康干预，降低后续的医疗成本。在医院管理方面，AI可简化行政管理和临床医疗管理流程；在影像诊断领域，AI可快速阅读成像，进行分析和诊断；在医疗资源方面，AI能解决昂贵的剂量误差问题；在诊疗方面，AI可为特定病种初诊，进行辅助手术。总之，AI将在人类生命健康全周期中发挥更大的作用，但真正用于卫生健康的核心领域可能还需一个漫长的过程。
作者：金春林、何达，上海市卫生和健康发展研究中心（上海市医学科学技术情报研究所）。
2023年人工智能在医疗领域的十大应用场景
什么是医疗人工智能?医疗人工智能是指人工智能在医疗服务和医疗服务管理或交付中的应用。机器学习、非结构化的大型数据集、高级传感器、自然语言处理和机器人技术都被用于越来越多的医疗部门中。除了广阔的应用前景，人工智能技术也带来了重大的潜在问题——例如可能来自患者数据的集中化和数字化的滥用，以及可能与纳米医学或通用生物识别ID的联系。在一些早期的人工智能应用中，公平和偏见也都是人们关注的问题，但该技术或许也能够提高医疗公平性。尽管人工智能在医疗保健领域的部署才刚刚开始，但它正变得越来越普遍。调研机构Gartner公司预测，2021年全球医疗保健IT支出达到1400亿美元，企业将人工智能和机器人流程自动化(RPA)列为主要支出。2020年，医疗成本接近美国经济总量的20)(19.7%)(约为4.1万亿美元)。而针对政府的欺诈行为尤其严重。因此，从行政管理到医疗人工智能，医疗人工智能的潜在价值是巨大的。2022年人工智能在医疗保健领域的十大应用场景以下是目前正在开发和部署医疗保健人工智能用例的10个主要领域。(1)医疗管理行政费用估计占医疗总费用的15%至25%。改进和简化管理的工具对保险公司、支付者和提供者都很有价值。然而，识别和减少欺诈可能提供最直接的回报，因为医疗保健欺诈可能发生在许多层面，由各方实施。在一些最糟糕的情况下，欺诈可能导致保险公司为没有提供的服务收取费用，或导致外科医生进行不必要的手术以赔付更高的保险金。保险公司也可能因为有缺陷的设备或检测套件而赔偿更多的费用。人工智能可以成为防止欺诈发生的有用工具。就像银行通常使用算法来检测异常交易一样，医疗保险公司也可以这样做。•麦肯锡公司的研究发现，通过算法驱动的保险索赔“智能审计”可以节省开支。•美国政府的医疗保险和医疗补助服务中心成立了一个医疗欺诈和预防伙伴关系组织，以识别集合数据库中的模式。(2)公共卫生人工智能已经应用于整个公共卫生部门。其中包括：•机器学习算法正被应用于大型公共卫生数据集，美国疾病控制与预防中心(CDC)汇编了人工智能在分析新冠疫情及其公共卫生等方面的许多应用方法。•自然语言处理正在公共卫生领域应用。•越来越多的诊断成像数据被用于人群的分析和预测。•将消费者数据科学和行为“推送”技术应用于创建“精确”或个性化推送，以促进医疗就诊、医疗合规性等。(3)医学研究•寻找治疗疾病的新药可能非常复杂。而计算机辅助药物设计是一个非常复杂的领域。•在某些情况下，其目标是重新利用现有药物。最近的一个例子是，人工智能通过分析细胞图像来观察哪些药物对神经退行性疾病患者最有效。当对这些治疗产生积极反应时，神经元将会改变形状。然而，传统的计算机速度太慢，无法发现这些差异。•制药供应商拜耳公司认为，通过使用医疗数据库信息创建虚拟控制组，人工智能可以增强临床试验。他们也在探索其他人工智能临床试验应用，使这些研究更安全、更有效。(4)医疗培训人工智能还可能改变医学院学生接受部分教育的方式。其中包括以下情况:•一个例子是，在医学生学习切除脑肿瘤时，人工智能导师给他们提供了帮助。该系统采用机器学习算法，教授学生安全而有效的技术，然后评估他们的学习表现。采用人工智能系统学习技能的人员的速度比那些没有使用人工智能的人员快2.6倍，学习表现要好36%。•美国和英国的医疗机构也部署了基于人工智能的患者服务，以促进虚拟和远程培训。当新冠疫情抑制群体聚集时，这种方法尤其有用。人工智能支持练习多种技能，例如安慰痛苦的患者服务或传递消息。(5)医学专业支持人工智能还用于支持临床环境中的医疗专业人员，其中包括：•人工智能应用于支持医疗设施接收专业人员。斯坦福大学的一个试点项目使用算法来确定患者的风险是否高到需要ICU护理，或是否经历与代码相关的事件，或是否需要快速反应团队。他们在6到18个小时内评估这些事件发生的可能性，帮助医生做出更自信的决定。•正在开发基于人工智能的应用程序，以支持护士，提供决策支持、传感器通知他们患者的需求，以及在所述领域的挑战或危险情况下提供机器人协助。(6)为患者提供直接支持人工智能也被用于为患者提供直接支持:•医院使用人工智能聊天机器人与患者进行检查，帮助他们更快地获得必要的信息。当NorthwellHealth人工智能系统与患者聊天时，使用肿瘤服务的患者的参与率为94%。试用过该工具的临床医生一致认为，它延长了他们所提供的护理。聊天机器人能够检查病人的症状、恢复情况等。许多人习惯采用短信聊天，这提高了患者的接受度。聊天机器人还减少了患者在寻求治疗时可能遇到的挑战。人们可以使用它们查找医院或诊所，预约和描述需求。•据估计，多达一半的患者没有按照处方服药。然而，人工智能可以增加患者按时服药的机会。一些平台使用智能算法来建议医疗专业人员何时应与患者就依从性问题进行沟通，以及通过何种渠道进行沟通。甚至也有了药物提醒聊天机器人。在最近的一个例子中，研究人员合作并使用人工智能来帮助为Ⅱ型糖尿病患者寻找最佳药物。这些算法帮助83%以上的患者选择了正确的治疗方案，甚至在患者需要同时服用多种药物的情况下也是如此。(7)远程医学自从发生新冠疫情导致出行限制以来，虚拟医生就诊形式的远程医疗已变得越来越普遍。除此之外，人工智能还支持其他形式的远程医疗，其中包括:•VirtuSense应用预测人工智能远程监控和提醒供应商可能导致患者跌倒的高风险变化。•目前使用人工智能进行监测的一些设施依赖它来检测从心脏病到糖尿病等各种疾病。医院还使用这种技术来监督新冠患者，从而更容易决定哪些患者可以接受家庭护理，哪些患者需要住院治疗。(8)诊断人工智能还用于医疗保健中心的诊断，其中包括:•一个用于发现乳腺癌的人工智能系统可以检测出当前的问题和患者在未来几年内发展该疾病的可能性。•人工智能在医疗保健领域的一些应用还可以检测精神疾病。研究人员使用训练过的算法，通过倾听他们的声音或扫描他们的社交媒体信息来识别抑郁症患者。(9)手术人工智能并不能消除手术问题，但它有可能减少这些问题，同时提高患者和外科医生的治疗效果。以下示例对此进行了说明：•一家名为theatre的初创公司最近在A轮融资中筹集了3950万美元。该公司有一个人工智能视频解决方案，旨在帮助外科医生了解手术过程中的错误和正确之处。然后，他们可以研究这些视频，并在未来做出改进。•人工智能在医疗保健领域的应用包括手术机器人，它们在手术室中越来越常见。许多是微创的，往往取得优于非机器人干预的结果。人工智能的这些应用不会取代人类的外科专业知识。不过，它们可以作为外科医生的搭档，提高手术成功的可能性。(10)医院护理除了上述描述的诊断用例之外，临床医生还必须满足患者的护理需求，并且储备医学用品和运送货物。人工智能驱动的协作机器人正开始减轻这种负担。根据Gartner公司的预计，到2023年，50%的美国供应商将投资于机器人流程自动化。医院中机器人流程自动化的一些例子包括:•一家医院最近部署了五台名为Moxie的机器人。这些机器将主动确定护士何时需要用品或协助实验室检测后勤。然后，它们会在提供者的工作负载变得过于密集之前做出响应。Atheon提供的机器人不仅支持医疗功能，还可以完成除草和垃圾清除等任务。医药研发领域大数据和人工智能的应用探讨
声明：本文为火石创造原创文章， 欢迎个人转发分享，网站、公众号等转载需经授权。
人工智能（AI） 技术应用的重要场景之一是助力药物研发，相比传统的药物研发耗时耗力、成功率低， AI技术的应用 可 大大缩短药物研发时间、提高研发效率并控制研发成本。
近年来，人工智能技术(AI)与医疗健康领域的融合不断加深。AI 在医疗领域主要应用场景包括语音录入病历、医疗影像辅助诊断、药物研发、医疗机器人和个人健康大数据的智能分析等。随着语音交互、文本识别、图像识别和大数据分析，以及智能终端等技术的逐渐成熟， AI 的应用场景越发多样。
图1 人工智能在医疗领域的应用
药物研发是AI技术应用的重要场景之一。药物研发要经历靶点的发现与验证、先导化合物的发现与优化、候选化合物的挑选及开发和临床研究等多个阶段。传统的药物研发耗时耗力，且成功率低。 AI 助力药物研发，可大大缩短药物研发时间、提高研发效率并控制研发成本。
图2 新药开发流程图
一、AI助力新药研发的六大应用场景
目前制药企业纷纷布局AI领域，主要应用在新药发现和临床试验阶段，主要有以下六大应用场景：
1.海量文献信息分析整合
对于药物研发工作者来说，最让他们头疼的事如何去甄别每天产生的海量科研信息。而人工智能技术恰恰可以从这些散乱无章的海量信息中提取出能够推动药物研发的知识，提出新的可以被验证的假说，从而加速药物研发的过程。
英国生物科技公司BenevolentBio（隶属于BenevolentAI），利用技术平台JACS（JudgmentAugmentedCognitionSystem），从全球范围内海量的学术论文、专利、临床试验结果、患者记录等数据中，提取出有用的信息，发现新药研发的蛛丝马迹。
2017年，借助JACS的分析能力，BenevolentBio标记了100个可用于治疗肌萎缩性侧索硬化症(ALS)的潜在化合物，从中筛选出5个化合物。经过英国谢菲尔德神经转化研究所的小鼠试验，证实4个化合物在治愈运动神经衰退方面确有疗效。4/5的有效筛选率，这是研究人员之前从未想过的。
位于英国伦敦的BenevolentAI成立于2013年，是一家致力于AI技术开发和应用的公司，是欧洲大的AI初创公司。他们的目标是建立人们期盼已久的“制药企业2.0”，利用AI助力新药开发，降低临床试验的失败率。 自2013年以来，BenevolentAI已经开发出24个候选药物，且已经有药物进入临床IIb期试验阶段。
国际制药巨头之一的强生公司已经与BenevolentAI达成合作协议，强生将一些已经进入临床阶段的试验药物连带一起特许给BenevolentAI，而BenevolentAI将利用人工智能系统来指导临床试验的进行和数据的收集。
2.化合物高通量筛选
化合物筛选，是指通过规范化的实验手段，从大量化合物或者新化合物中选择对某一特定作用靶点具有较高活性的化合物的过程。而要从数以万计的化合物分子中筛选出符合活性指标的化合物，往往需要较长的时间和成本。
AI技术可以通过对现有化合物数据库信息的整合和数据提取、机器学习，提取大量化合物与毒性、有效性的关键信息，既避免了盲人摸象般的试错路径，还可以大幅提高筛选的成功率。
典型代表是硅谷公司Atomwise。 Atomwise公司成立于2012年，其核心产品为AtomNet是一种基于深度学习神经网络的虚拟药物发现平台。AtomNet就像一位人类化学家，使用强大的深度学习算法和计算能力，来分析数以百万计的潜在新药数据。目前，AtomNet已经学会识别重要的化学基团，如氢键、芳香度和单键碳，同时该系统可以分析化合物的构效关系，识别医药化学中的基础模块，用于新药发现和评估新药风险。
图2 AtomNet通过训练能够识别抗生素中常见的化合物结构—— 磺酰基
AtomNet在抗肿瘤药物、神经系统疾病药物、抗病毒药物、抗寄生虫药和抗生素药物的药物筛选方面表现出色。例如，2015年AtomNet仅用一周模拟出2种有潜力用于埃博拉病毒治疗的化合物。Atomwise正与全球知名药企和大学院校进行合作，其中包括辉瑞、默克、abbvie和哈佛大学等。
类似于Atomwise，现在有一系列人工智能公司专注于药物分子筛选，包括RecursionPharmaceuticals、BenevolentAI、TwoXAR、Cyclica和ReverieLabs等。
3.发掘药物靶点
现代新药研究与开发的关键是寻找、确定和制备药物靶点。靶点是指药物在体内的作用结合位点，包括基因位点、受体、酶、离子通道和核酸等生物大分子。
典型代表是Exscientia公司 ，Exscientia与葛兰素史克（GSK）在药物研发达成战略合作。Exscientia通过AI药物研发平台为GSK的10个疾病靶点开发创新小分子药物。
Exscientia开发的AI系统可以从每个设计周期里的现有数据资源中学习，其原理与人类的学习方式相似，但AI在识别多种微妙变化以平衡药效、选择性和药代动力学方面要更加高效。其AI系统完成新药候选的时间和资金成本只需传统方法的1/4。目前该公司与国际多家知名药企形成战略合作，包括强生、默克和赛诺菲等。
图3 Exscientia药物研发流程图示
4.预测药物分子动力学指标（ADMET）
ADMET包括药物的吸收、分配、代谢、排泄和毒性。预测ADMET是当代药物设计和药物筛选中十分重要的方法。过去药物ADMET性质研究以体外研究技术与计算机模拟等方法相结合，研究药物在生物体内的动力学表现。目前市场中有数十种计算机模拟软件，包括ADMETPredicator、MOE、DiscoveryStudio和Shrodinger等。该类软件现已在国内外的药品监管部门、制药企业和研究院所得到了广泛应用。
典型的代表包括晶泰科技 (XtalPi ) 、Numerate 等。 为了进一步提升ADMET性质预测的准确度，已有生物科技企业探索通过深度神经网络算法有效提取结构特征，加速药物的早期发现和筛选过程。其中 晶泰科技通过应用人工智能高效地动态配置药物晶型，能完整预测一个小分子药物的所有可能的晶型， 大大缩短晶型开发周期，更有效地挑选出合适的药物晶型，减少成本。
图4 晶泰科技提供的晶型筛选服务
5.病理生物学研究
病理生物学（pathophysiology）是一门研究疾病发生、发展、转归的规律和机制的科学。病理生物学研究是医药研发的基础，至今许多疾病尚无治疗方法，是由于在病理生物学研究方面没有取得进展。
肌萎缩侧索硬化（ALS）是一种破坏性的神经退行性疾病，发病机制至今不明。ALS的一个突出病理特征是，一些RNA结合蛋白（RNAbindingproteins,RBPs）在ALS中发生突变或异常表达/分布。人类基因组中至少有1542种RBPs，目前已发现17种RBPs与ALS相关，除此以外，其他RBPs是否与ALS相关呢？
图6 IBMWatson鉴定RBPs
典型案例是IBM 公司开发的 Watson 系统 ，通过 阅读了 2500 万篇文献摘要， 100 万篇完整论文和 400 万专利文献，并 基于相关文献的大量学习，建立了模型预测 RBPs 与 ALS 相关性。有 研究者 为了测试其模型的预测能力，首先将 IBMWatson 的知识库限制在 2013 年之前的学术出版物上，并要求 Watson 使用这些可用的信息来预测与 ALS 相关的其他 RBPs 。在 2013— 2017 年期间， Watson 在 对 4 个导致突变的 RBPs 给出了高度评价，证明了模型的有效性。而后， Watson 对基因组中所有的 RBPs 进行筛选，并成功鉴定在 ALS 中改变的 5种新型 RBPs 。
6.发掘药物新适应症
利用深入学习技术，将临床药物与新的适应症相匹配。这样可以绕过动物实验和安全性实验。
例如，沙利度胺曾用来治疗麻风病，后来研究人员发现其对多发性骨髓瘤具有疗效。由于该药物已经积累了大量的安全性与剂量数据，研究人员能够绕过第一阶段的安全性和剂量试验。
根据实验结果，FDA在2012年批准沙利度胺治疗多发性骨髓瘤。据彭博预测，这个过程总共花费了4000~8000万美元。如果从零开始，一个新药所需的平均费用为20亿美元。
图7 药物再利用与新药研发的成本对比
典型代表为LamTherapeutics、NuMedii、Healx和InsilicoMedicine等 人工智能公司，他们已经在“老药新用”这个领域进行了深度探索。
二、AI新药研发公司
中国在AI领域的论文发表数量位居全球第一。在医学领域，我们在放射影像、病理、自然语言处理和智能语音录入等领域的研究与欧美并驾齐驱，但在AI+新药研发领域，却差距较大。部分AI新药研发公司名单见表1。
表1部分人工智能药物研发公司名单
2014年，晶泰科技创立于麻省理工学院校园。其核心总部位于深圳，并在北京、波士顿设有分部。晶泰科技目前已与多家世界顶级药企与科研机构建立深度合作，其药物固相筛选与设计平台是行业最先进的解决方案。凭借团队的技术优势与项目广阔的市场空间，晶泰科技已获得腾讯、真格基金、峰瑞资本数千万元的A轮投资，以及来自红杉、Google、腾讯的数千万美金B轮融资，成为全球AI+制药领域获得融资最高的创业公司之一。
2018年12月，天津国际生物医药联合研究院与北京天云大数据签署战略合作协议，双方将在人工智能医药研发平台建设领域联手，为京津冀乃至全国提供服务。根据协议，双方将共同建设人工智能医药研发平台，立足京津地区，为药物研发等大健康行业创新发展赋能，致力于人工智能与大数据技术在医药行业内的推广和应用。同时，双方各自发挥优势，共同开展人工智能医药研发平台的推广工作，推动建立京津冀医药智能技术创新联盟。
三、AI药物研发领域的关键要素
中国在AI药物开发领域已经开始起步，但远未成熟，还有非常大发展空间。在笔者看来，我国进行AI药物研发需要在人才培养、数据共享和商业模式创新等方面进行发力。
1.培养高端人工智能人才，探索跨学科人才合作机制。
创业的竞争归根结底是人才的竞争，这在人工智能领域表现得愈加明显。在全球范围内，大约有2.2万名具有博士以上学历的人工智能从业人员和研究人员，中国仅600名左右。国内人工智能人才几乎被几大头部企业垄断，比如商汤有150多名人工智能博士，占比全国人工智能博士总数1/4。
数据显示，未来中国人工智能人才缺口高达500万，唯一的解决办法就是成体系地培养人工智能人才。
2018华为全联接大会上，华为云推出了“沃土AI开发者计划”，投入10亿人民币培养高校和研究所的AI人才，并与清华大学、中科院、中国科学技术大学、浙江大学等达成AI合作。
2018年8月，商汤科技携手香港中文大学、亚马逊、南洋理工大学、悉尼大学联合举办的首届WIDERFaceandPedestrianChallenge2018（简称：WIDERChallenge）挑战赛，包括中科院计算所、微软亚洲研究院、北京大学、卡耐基梅隆大学、香港大学以及雅虎、京东、旷视、科大讯飞、滴滴等科技公司参赛。
此外，AI应用于药物研发需要若干个垂直领域的专家共同参与才能有所突破。既需要物理学家、化学专家、药物学家、药企研发高管，又需要人工智能科学家、云计算工程师等跨学科人才。通过在多个领域人才和经验的积累，整个团队需要紧密合作，这样才更容易获得突破性的思路和好的成果。
2.建立研发数据标准体系，完善数据共享机制。
AI药物研发需要高质量数据支持。国内创新药研发起步较晚，与国外相比，对于优质数据的积累还有一定差距。
制药产业的专业门槛高、链条长，加之国内长期以来的“多头管理”体制，造成了国内的药品数据极度割裂，标准不统一、数据孤岛现象严重；另外，医药领域的监管政策与机构改革频繁，造成历史药品数据衔接难度较大。这些都会导致医药数据统计在完整度和精准度上的不足，从而影响相关决策。
当前国内企业“大数据化”采取的一个路径，便是以“专业人工+机器辅助”方式建立数据标准词典（包括药品、企业、靶点、疾病等），持续进行数据清洗、识别、匹配和挖掘算法，将市场上分散的数据全面重构，形成一系统标准数据模块仓库，根据用户场景对数据模块进行组合。比如国内的医药魔方、米内数据、药渡等医药大数据服务公司。
3.定位产业链角色，创新商业模式。
目前人工智能医药研发领域存在三种商业模式：
（1）开放和反馈模式。 晶泰科技一开始就明确了初期主要客户群，在地域设置上形成国内研发，国际业务拓展的模式。在有效控制研发成本的同时，起步阶段就努力在国际范围内寻求合作者。
基于药物研发流程的复杂性，人工智能在药物研发中的大规模应用依赖于整个产业链的共同努力。晶泰科技主导开放和反馈模式，其长处是为传统研发人员提供最先进的计算软硬件工具，帮助他们更好更快地完成科研任务。
（2）虚拟筛选团队外包验证模式。 虚拟筛选团队外包的主要方式有是与利益相关者或非利益相关者合作。
与入利益相关者合作，比如一个更大的医药公司，公司将受益颇多，比如激励一致、与已有临床生产线的整合、致力于特定疾病团队带来的专业知识等。虽然公司需要割舍部分控制力或所有权,但是有利于项目研发成功率的提升。
与非利益相关者合作（例如CRO），公司保留完全的知识产权，执行速度快但是成本高。而且在实验设计上有可能面对控制权的损失，所以为了保证高质量的结果必须给予特殊的关注。
这个模式的好处是成本低，速度快，特别是工业界的合作伙伴在新化合物后期验证和临床研发中具有巨大机会。合作伙伴能够理解这些验证实验的动机和设计是至关重要的，因为他们在后续的临床研发中充当重要角色。NimbusTherapeutics，TwoXAR，Atomwise等公司就采用这种模式。
（3）独立的药物研发团队和虚拟筛选团队的合作模式。 在这个模式中，公司团队专注于计算机虚拟筛选，而其他团队给予实验药物研发的支持。和通常专注于特定的配体受体、生物现象或者疾病领域的团队的良好合作，使项目研发团队有独特的专业性。
虽然配合程度没有一个完全整合团队那么强，但这种模式的优势在于，提供的处理结构的可变性和合作者的可选择性。具有广泛应用平台的虚拟筛选团队可以考虑用这个结构，在使资本成本最小化的同时处理很多研发项目。
四、小结
1.新药研发存在环节多、 研发费用高、研发周期长和研发成功率低等问题 。
新药研发从上游到下游的几个环节包括药物靶标的确定，先导化合物的筛选，先导化合物的优化和最终的临床实验。研发费用高、研发周期长、研发成功率低一直是压在制药企业身上的“三座大山”。
塔夫茨药物开发研究中心（TuftsCenterforTheStudyofDrugDevelopment）的数据显示：开发一种新药的平均成本为26亿美元；一种新药上市的平均时间约为12年；大约只有10%的候选药物能从第一阶段测试走向市场。德勤的数据显示：2017年，美国最大的生物制药公司的投资回报率下降至3.2％。
2.AI技术的崛起，为新药研发带来了新方向。
过去20年，计算机处理能力的持续快速增长，大量数据集的可用性和先进算法的开发，大大推动了机器学习的发展。新药研发领域数据密集，这让人工智能有了用武之地。AI不仅能够挖掘出不易被发现的隐性关系，构建药物、疾病和基因之间的深层次关系。同时，可对候选化合物进行虚拟筛选，更快地筛选出具有较高活性的化合物，为后期临床试验做准备。
目前， AI在新药研发领域主要应用于靶点发现、化合物合成、化合物筛选、晶型预测、患者招募、优化临床试验设计和药物适应症开拓等场景。 来自TechEmergence的一份报告研究了所有行业的人工智能应用，结果表明：人工智能可以将新药研发的成功率从12％提高到14％，可以为生物制药行业节省数十亿美元。
自2017年以来，AI在制药领域的应用可谓如火如荼，国际制药巨头纷纷入局AI开发，用于提高新药的研发效率。据统计，有100多家初创企业在探索用AI发现药物，传统的大型制药企业更倾向于与采用合作的方式，如阿斯利康与Berg，强生与BenevolentAI，默沙东与Atomwise，武田制药与Numerate，赛诺菲和葛兰素史克与Exscientia，辉瑞与IBMWatson等。同时，AI应用于新药研发仍需面对人才短缺、数据标准化与共享机制、商业模式创新等诸多问题。
在制药和生命科学中， 数据是AI的关键。 AI被应用于药物研发的各个阶段，但若是数据质量不高，即便使用非常可靠的算法，也不会取得好结果，反而会浪费大量的资源和时间。鉴于此，IBM 曾在2016年斥资26亿美元收购医疗数据公司Truven；罗氏曾在2018年以19亿美金收购肿瘤大数据公司FlatironHealth的全部股份。也有专家表示，通过知识共享开展合作和提高已有数据的质量比积累数据更为重要，关键是建立一套切实可行的数据标准，与风险利益共担的数据分享机制。
3.AI和药物开发的模式，主要包括AI研发外包、企业内部组建AI研发部门，但每种模式都有各自的优缺点。
AI研发外包。 由制药公司提供特定的研究数据和生物靶点信息，然后由AI驱动的药物发现初创公司依靠这些数据建立模型。一旦成功筛选出候选药物，制药公司会根据协议进行授权或自行拥有这种药物。这种策略灵活性高且成本较低，但AI公司做为服务方需要获取制药公司整个药物开发流程中最“隐私”的情报，因此，选择合适的合作伙伴是重中之重。
在企业内部组建AI研发部门。 在与外部积极合作的同时，制药公司也在培养内部AI专业技能，并建立数字基础设施，以提高数据使用效率。这种方式的挑战在于如何建立内部专业的AI算法和自动化流程，以及高效的运算平台。
无论哪种模式，AI和药物开发的结合，与其说是对IT技术人员的挑战，不如说更是对药学人员的挑战。一个运营良好的AI药物发现团队，应该是能够让IT技术人员和药学科学家保持沟通无障碍，彼此交流更明晰，清楚对方的意图。
(责任编辑：老姜）
— END —
文 | 孙翔宇
欢迎个人转发分享，网站、公众号等转载请联系授权
人工智能与医疗健康产业系列研究之二：人工智能在医疗健康领域应用涉及的数据合规问题
人工智能简单来说，就是研究如何使计算机去做只有人才能做的智能工作，通常用来描述不同类型的技术，包括机器学习、深度学习、神经网络等。随着人工智能的发展，近几年来，人工智能技术已经广泛地应用在辅助诊疗、药物研发、医学影像、健康管理等医疗健康领域。有关人工智能在医疗健康领域应用场景的详细介绍，请参考君合法评丨人工智能与医疗健康产业系列研究之一：人工智能在医疗健康领域的应用场景及监管政策概览。
人工智能的核心是通过计算机模拟或实现人类的学习行为，经大量的学习和实践以获得新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。在计算机学习的过程中，需要使用海量的数据，并基于一定的算法形成相应的知识体系。数据和算法是计算机学习的基础和底层逻辑，数据源的可靠、合法以及算法逻辑的科学、公平等都是形成计算机智力的重要因素。同时，无论在研发阶段还是应用阶段，医疗健康领域的人工智能技术往往涉及对患者、医生、受试者以及健康设备使用者的个人信息的采集与处理，且很可能涉及敏感个人信息和重要数据，因此个人信息及隐私保护以及重要数据的保护是人工智能在医疗健康领域应用的重要议题。本文将针对医疗健康领域的人工智能技术涉及的主要数据合规问题进行梳理和介绍。
一、医疗健康领域人工智能的法律监管框架
医疗领域人工智能技术应用所涉及的数据合规相关的法律法规纷繁复杂。一方面，需要遵守网络安全、数据安全、个人信息保护相关的普遍适用的法律，以及与算法相关的法律法规；另一方面，也需要遵守医疗健康领域特殊的行业规定，包括医疗健康信息、遗传资源信息、病例资料管理、群体诊疗数据以及药品试验数据等相关的行业规定。此外，如果医疗健康智能产品依托于网站平台、App、小程序等互联网渠道提供服务，则还需要遵守该等平台相关的数据合规要求。
从效力层级区分：
从法规类型区分：
二、医疗健康领域人工智能技术涉及的主要数据合规问题
(一)算法合规
1、算法透明性
当人工智能技术应用于诊疗、慢性疾病管理、健康管理等场景时，很可能涉及对患者、受试者健康信息的分析处理，通过算法模型分析的结果对与患者的诊断、健康管理及治疗计划可能产生重要的影响。举例而言，某款慢性疾病管理App可能会通过患者每日输入的信息（每日用药、心跳、血压、体重、睡眠状况等），分析和判断患者身体状况是否稳定。若经分析后判读认为患者存在疾病恶化的情况下，给出去医院就诊的建议；若经分析后认为患者病情稳定，则建议居家观察。App的分析和判断尽管没有给出具体诊断建议，但其作出的是否去医院就诊的提示也会对患者造成重要影响。若App存在建议错误的情况，可能耽误患者的就医或者在患者病情并未恶化的情况下频繁要求其赴医院就诊。
对于此类应用算法技术进行分析与自动化决策，且决策结果可能对相关个人权益产生影响的情况，我国对相关数据处理者及算法服务提供者提出了披露义务。我国《个人信息保护法》（简称“《个保法》”）第24条规定，利用个人信息进行自动化决策的个人信息处理者应当保证决策的透明度，且通过自动化决策方式做出对个人权益有重大影响的决定，个人有权要求处理者予以说明。《互联网信息服务算法推荐管理规定》也规定了算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。通常，数据处理者或算法服务提供者可以通过用户手册、隐私政策、系统软件面板、语音等显著方式向相关使用者告知算法的基本原理、目的、运行机制、可能对个人产生的影响等。
除了算法透明性以外，如仅通过自动化决策的方式做出对个人权益有重大影响的决定，个人有权拒绝。如果该自动化决策功能植入在某款App中，则该App应提供个人拒绝的便捷渠道，通常建议在App中加入关闭该功能的选项。关于“对个人权益有重大影响”中如何认定“重大影响”，目前我国立法尚未明确进行解释。欧盟《通用数据保护条例》（简称“GDPR”）规定，对于仅依靠自动化处理作出的严重影响数据主体权益的决策，数据主体有权拒绝。对于GDPR下的“严重影响数据主体权益”的认定，欧盟的WP29工作组制定的关于《个人自动化决策与人物画像指南》（GuidelinesonAutomatedindividualdecision-makingandProfilingforthepurposesofRegulation2016/679）对严重影响数据主体权益的事项进行了列举，其中包括影响个人获得健康服务的决定。参考欧盟法相关解释，并考虑到健康普遍对于患者、受试者个人权益影响重大以及医疗健康领域本身的敏感性和重要性，通常涉及到对患者、受试者疾病、健康等做出分析和判断比较容易构成对相关个人的重大影响。
2、算法偏见
数据样本偏差、算法逻辑瑕疵、算法设计者动机等因素均可能导致算法产生偏向性结果。例如，人工智能可能结合基因分析技术，测算出易患某种特定疾病的人群，或基于既往保险理赔数据分析，定位出容易触发理赔的群体，进而对相关群体做出拒保或其他不合理收取高额保费的决策。又如，基于在医疗费用上的支出金额不同，向不同人群提供不同等级的健康护理产品。美国《科学》杂志发表的一项研究表明，美国医院中广泛使用的一种为患者分配医疗保健产品的算法已经系统地对白人和黑人进行了区分。该算法基于“健康需求越高，医疗保健费用通常也越高”这一基本逻辑，根据一年中累积支出的总医疗保健费用为患者进行了风险评分，并根据风险评分为患者分配不同的护理产品。研究后发现与白人相比，该算法向黑人提供针对“有复杂医疗需求的患者”所设计的护理项目的可能性很低。从数据来看，平均每年向黑人提供的护理费比向具有相同数量慢性病的白人提供的护理费少1800美元。这也意味着，黑人只有在患更严重的疾病时才会得到特定的救助。由此可见，算法技术应用于医疗健康领域若产生偏见，极易对于个人权益产生重要影响。
关于算法可能导致的偏见问题，我国《个保法》要求个人信息处理者利用个人信息进行自动化决策的，应保证决策结果的公平公正。《互联网算法推荐管理规定》也要求算法推荐服务提供者不得根据消费者的偏好、交易习惯等特征对其实施不合理的差别待遇。技术上，开展算法需要根据相关规定开展机器学习算法安全评估以及互联网信息推荐技术影响评估等工作。该等评估工作中也将算法是否可能存在偏见歧视纳入评估考虑。我国总体对于算法的偏见问题规定的较为原则性，尚未有专门的标准识别人工智能技术中的偏见。
对于算法偏见问题，美国国家标准与技术研究院NIST在2022年3月发布了《建立一个识别和管理人工智能中的偏见的标准》（TowardsaStandardforIdentifyingandManagingBiasinArtificialIntelligence），旨在识别人工智能算法可能存在的偏见，并提出了框架性的处理建议。该标准将算法偏见分为系统偏见、人为偏见和数据/计算偏见三大类，并提出规避算法偏见的有效做法是对算法进行动态监测，并始终保持算法逻辑的可追溯性、可追责性，通过内部政策、程序规定、文件记录等方式降低算法偏见的危害。
(二)个人信息保护要求
1、一般个人信息的合规要求
人工智能技术在医疗健康领域应用往往会涉及收集和处理患者、医生、受试者或健康管理软件使用者的个人信息，因此需要遵守有关个人信息处理的合规要求。总体而言，人工智能技术的个人信息合规要求归纳为以下方面。
合法、正当、必要和诚信原则的核心是任何个人信息处理行为必须具有合法依据。《个保法》提供了七项1处理个人信息的合法依据。其中，在医疗健康领域的场景下，最常用的合法依据为取得相关个人同意，以及订立、履行合同所必须。在特定情况下，也可能依赖“紧急情况下为保护自然人的生命健康和财产安全所必需”，但该合法依据仅适用于危及自然人生命安全和财产安全的情况下，且由于情况紧急而无法获得相关个人同意的场景，因此适用极为有限。
公开、透明原则指的是个人信息处理者必须以显著方式、清晰易懂的语言真实、准确、完整地向相关个人告知其有关个人信息处理的相关事项。包括（1）个人信息处理者的名称或者姓名和联系方式；（2）处理目的、处理方式，处理的个人信息种类、保存期限；（3）行使个人权利的方式和程序；（4）若涉及处理敏感个人信息，则说明处理敏感个人信息的必要性以及对个人权益的影响；（5）若涉及算法、自动化决策，应说明算法的基本原理、目的意图和主要运行机制等。除此之外，如果涉及向其他个人信息处理者提供个人信息或者向中国境外提供个人信息，还有额外的披露要求。
个人信息保护影响评估的要求是当特定情况发生时，个人信息处理者必须开展个人信息保护影响评估。其中，触发个人信息保护影响评估的事项包括涉及处理敏感个人信息、自动化决策等。医疗健康场景下极有可能涉及处理敏感个人信息且人工智能技术也很可能涉及自动化决策，因此触发个人信息保护影响评估的可能性较大。
个人信息主体权利是个人信息主体在《个保法》下享有的一系列权利，包括个人信息的访问权、删除权、修改权、要求停止或限制处理权、可携带权、投诉权等，并且个人信息处理者应提供便捷的方式对个人信息主体权利进行处理。通常如果通过互联网、App、小程序等载体向个人提供医疗健康服务，建议在智能产品上提供便捷地行使该等权利的功能按钮。
过度收集个人信息一直以来是执法重灾区，在研发医疗健康人工智能产品时，应特别注意收集个人信息的范围，遵守目的限制及最小化原则，在设计人工智能产品时，将此原则纳入产品涉及的考虑，仅收集必要的信息。
2、医疗健康相关的敏感个人信息
医疗健康领域涉及的数据往往包含个人健康信息、生物识别信息等，此类个人信息属于敏感个人信息，由于其一旦泄露或者非法使用，容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害，因此会受到更为严格的监管要求。此外，人工智能技术若应用于基因测序、细胞免疫疗法，还可能涉及人类遗传信息，而人类遗传信息的监管相比敏感个人信息更为严格。
《个保法》第28条明确将“生物识别”、“医疗健康”信息均属于敏感个人信息。除此之外，对于医疗健康信息的具体范畴，《信息安全技术个人信息安全规范》给出了更细致的列举。根据该规范，个人因生病医治等产生的相关记录，如病症、住院志、医嘱单、检验报告、手术及麻醉记录、护理记录、用药记录、药物食物过敏信息、生育信息、以往病史、诊治情况、家族病史、现病史、传染病史等信息，均属于敏感个人信息；对于生物识别信息，该规范也进行了列举，包含个人基因、指纹、声纹、掌纹、耳廓、虹膜、面部识别特征等。
在目前常见的医疗健康人工智能产品中，诸多涉及上述敏感个人信息。例如人工智能技术辅助诊疗决策、互联网医院、慢性疾病健康监测、智能护理产品、智能穿戴设备、健康管理App等应用场景中，均可能涉及上述敏感个人信息，从而需要遵守敏感个人信息处理的额外合规要求。值得注意的是，不满十四周岁未成年人的所有个人信息都属于敏感个人信息，处理其信息应获得其父母或监护人的同意。
3、敏感个人信息处理的特殊要求
特定目的及充分必要性、告知义务：如上文所述，处理敏感个人信息相比于处理一般个人信息更为严格，有更高的合规义务。其中，处理敏感个人信息必须具有特定目的和充分的必要性，并且在处理敏感个人信息之前，必须向相关个人告知处理敏感个人信息的必要性以及对个人权益的影响。
单独同意：处理敏感个人信息应当取得个人信息主体的单独同意。关于单独同意的获取，如果人工智能产品是通过App、小程序或其他载体进行，则应当在收集敏感个人信息之前，通过弹窗、告知以及用户点击同意的方式获取相关的单独同意，并建议在产品中加入该等特定功能的开关按钮，实现用户便捷撤回同意的请求。此外，处理不满十四周岁未成年人个人信息的，应当取得未成年人的父母或者其他监护人的同意。
严格保护措施：处理敏感个人信息需要采取严格的保护措施。关于保护措施的要求《信息安全技术个人信息安全规范》规定，传输和存储个人信息需要采用符合管理要求的密码进行加密、个人生物识别信息应与个人身份信息分开存储、对于生物识别信息原则上仅存储摘要信息。
个人信息保护影响评估：如上文所述，处理敏感个人信息是触发开展个人信息保护影响评估的事项之一。在收集和处理敏感个人信息之前，应当进行个人信息保护影响评估工作。评估事项包括个人信息的处理目的、处理方式等是否合法、正当、必要，对个人权益的影响及安全风险，所采取的保护措施是否合法、有效并与风险程度相适应。个人信息保护影响评估报告和处理情况记录应当至少保存三年。
人类遗传信息：如果涉及处理基因组等人类遗传资源信息，则采集、保藏、买卖、利用和对外提供该等信息需遵守《人类遗传资源管理条例》、《人类遗传资源管理条例实施细则》等相关法规的额外规定，履行相关的审批、备案要求。
(三)重要数据的保护要求
除个人信息外，医疗健康领域的人工智能技术的应用还可能涉及重要数据，从而需要遵守重要数据的额外要求。对于重要数据的范围，根据信息安全标准化技术委员会2022年1月发布的最新版《重要数据识别指南》，反映群体健康生理状况、族群特征、遗传信息等的基础数据，如人口普查资料、人类遗传资源信息、基因测序原始数据属于重要数据。
参考上述指南的列举，医疗健康领域的人工智能应用的诸多场景可能涉及重要数据。例如，人工智能研发应用场景中，算法的筛选与决策可能基于对大量药品试验数据、医疗器械试验数据的分析；智能防疫监测场景中，智能回访功能的机器人可能会对病原进行追踪并收集相关数据；基因测序、精准防治的场景中可能涉及对于批量人类遗传信息的分析与测算；人工智能辅助诊疗的场景中，人工智能作出的诊断建议的可能基于对批量健康医疗数据各类诊疗与健康管理数据的分析处理。
重要数据的处理除了符合一般的数据保护要求外，还需符合额外的规定。包括，重要数据的处理者应当明确数据安全负责人和管理机构，落实数据安全保护责任；重要数据处理者应当对数据处理活动定期开展风险评估，并将风险评估报送至有关主管部门。重要数据出境还应当向相关网信部门申报数据出境安全评估。
(四)医疗类App的数据合规
医疗健康类人工智能产品的许多功能依托于App、小程序或网页渠道实现的。例如，健康手环作为一种常见的可穿戴设备，通常与对应的手机App绑定使用。手环安装的智能传感设备采集到用户的心率、运动状态、睡眠情况等相关健康信息后，自动同步至App，用户可以通过App访问自己的健康数据，或上传其他相关信息，以生成更准确的健康报告、接收更适合个人的智能监测建议等。又如，慢性病护理系统，依托小程序将提供语音识别等交互体验方式，为心衰患者提供基本身体指征录入、日常问题问答、用药提醒、权威心衰知识等服务，协助心衰患者及家人对心衰疾病进行管理。除了健康监测之外，智能医院也可借助App实现便捷管理。例如，医生通过App随时录入查房、门诊、手术等相关文书，并同步导入院内系统。
在此前的App专项整治活动中，有许多医疗类App因侵害用户权益而受到通报，包括线上体检平台、糖尿病信息管理工具、孕妇诊疗平台、医美平台、线上医生工作台、智能诊疗系统、健康数据记录平台等。主要的违规行为包括违规收集和使用个人信息，超范围收集个人信息，强制、频繁、过度索取权限，强制用户使用定向推送功能，账号注销难，私自共享第三方等。
医疗类App除了应当符合有关个人信息、重要数据等合规要求。还应当遵守有关App的合规要求，具体合规要求可以参照《App违法违规收集使用个人信息自评估指南》、《常见类型移动互联网应用程序必要个人信息范围规定》、《移动互联网应用程序个人信息保护管理暂行规定（征求意见稿）》、《移动互联网应用程序信息服务管理规定》、《信息安全技术移动互联网应用程序（App）收集个人信息基本要求》、《移动互联网应用程序（App）收集使用个人信息最小必要评估规范》等相关规定逐项审查。
(五)产品信息收集与医疗行业监管的博弈
在设计人工智能产品的同时，还需要兼顾医疗健康领域的其他监管要求，以避免收集特定信息或对信息的特定处理行为会触发医疗行业的特殊监管义务。
在开发医疗健康类人工智能产品时，应注意产品的功能、设计，评估是否落入医疗器械软件的范畴。若落入医疗器械的范畴，则应当根据医疗器械相关规定进行注册或备案。2022年3月9日，国家药监局器审中心网站发布《人工智能医疗器械注册审查指导原则》，进一步规范人工智能医疗器械的管理。
在开发医疗健康类人工智能产品时还可能需要考虑药品不良反应上报义务。药品生产企业、药品经营企业、医疗机构在发现药品可能存在不良反应的情况下，必须向主管机关报告。倘若某疾病管理App产品收集患者服药情况，收集特定类型的信息可能会触发药品不良反应上报义务，这可能会额外增加对该疾病管理App上收集的信息的监管和筛查义务。但不收集该等特定信息又可能影响该智能产品的功能实现或用户体验。相关企业应当评估智能产品的目的，结合其相应的监管义务，决定收集信息的类型和范围以及智能产品的相关功能。
三、结语
随着我国人工智能技术的高速发展以及国家政策层面对于人工智能医疗健康产业的大力支持，人工智能技术在医疗健康领域的应用也将更广泛落地、相关产业市场规模的加速增长成必然趋势。人工智能产品在医疗健康领域的应用涉及的法律法规数量多、类型复杂。近年来，中国陆续出台《数据安全法》、《个人信息保护法》以及众多配套的法律、法规。各个行业也在陆续出台针对本行业的数据保护相关法规。随着人工智能技术的发展及广泛应用，有关算法和人工智能相关的法律、法规也预计会进一步出台，相关法律体系将逐渐完善。
无论是人工智能技术、算法技术还是医疗健康领域，其涉及的个人信息、数据等都较为敏感，合规要求严格。企业应当高度关注人工智能技术在医疗健康领域应用可能涉及的数据合规问题。
1.《个人信息保护法》第十三条规定，符合下列情形之一的，个人信息处理者方可处理个人信息：（一）取得个人的同意；（二）为订立、履行个人作为一方当事人的合同所必需，或者按照依法制定的劳动规章制度和依法签订的集体合同实施人力资源管理所必需；（三）为履行法定职责或者法定义务所必需；（四）为应对突发公共卫生事件，或者紧急情况下为保护自然人的生命健康和财产安全所必需；（五）为公共利益实施新闻报道、舆论监督等行为，在合理的范围内处理个人信息；（六）依照本法规定在合理的范围内处理个人自行公开或者其他已经合法公开的个人信息；（七）法律、行政法规规定的其他情形。依照本法其他有关规定，处理个人信息应当取得个人同意，但是有前款第二项至第七项规定情形的，不需取得个人同意。
CAS Authentication wanted!
CASAuthenticationwanted!YoushouldalreadyhavebeenredirectedtotheCASserver.Clickheretocontinue.
phpCAS1.3.1usingserverhttps://www.medlive.cn/auth/(CAS2.0)