大数据时代的人工智能，医疗行业隐私安全如何保护
图1人工智能应用中主要涉及隐私安全问题各环节
数据汇聚的过程中产生的隐私问题
在数据汇聚过程中的隐私问题主要指担忧隐私被直接侵犯的情况，或者可以理解为如图1所示输入和存储中造成的内涵外溢。这可以是可预测的结果，比如乙肝病毒库的隐私泄露可能导致当事人找工作受到歧视。有的结果是不可预测的，比如一个人总是担心自己的隐疾被泄漏出去而导致精神紧张甚至抑郁症。
也要考虑到另一种情况，即是很多隐私是在当事人不知情的状况下泄漏的，比如某些公司刻意收集网络上的个人隐私状况或非法入侵某些医疗机构数据库窃取数据，即使这些泄漏数据并未被直接加以利用给当事人带来损失，甚至记录也已被删除，然而此种情况也应属于医疗数据安全问题，可能有潜在的危害，应该被予以重视。
数据汇聚过程中的隐私问题也涉及很多法律和道德问题。健康隐私数据的来源包含很多方面：电子病历、医疗保险、智能健康终端设备和社交媒体等等。美国关于隐私安全的立法较早，1974年即通过《隐私权法》（ThePrivacyAct），后在2003年生效《健康保险携带与责任法》（HealthInsurancePortabilityandAccountabilityAct,HIPAA）。通过HIPAA规定了很多EHR的隐私保护细则，对使用EHR系统也有明确的规定，是否可以对EHR加以利用取决于信息是如何建立的、谁在维护以及当事人情况[10]。
中国法律暂未对个人健康隐私有进一步明确的规范，只是在《中华人民共和国网络安全法》第四十四条强调了“任何个人和组织不得窃取或者以其他非法方式获取个人信息，不得非法出售或者非法向他人提供个人信息。”以及正在审议中的《中华人民共和国基本医疗卫生与健康促进法》第二十一条提到：“国家保护与公民健康有关的个人隐私，确保个人健康信息安全。除法律法规规定或本人同意外，任何组织和个人不得获取、利用和公开公民个人健康信息。”从这两条法律法规的对比可见，我们的相关法律和规范还比较宏观，缺乏对具体情况的考虑。
我国在2018年5月1日开始实施的《信息安全技术个人信息安全规范》，是一部相对比较完整，从个人信息的收集、保存、使用等角度提出保护个人信息安全应遵循的原则。然而，我们还缺少针对医疗隐私保护的详细的法律法规，现阶段在健康数据系统还没有打通的情况下矛盾尚不明显，一旦有了国家范围内类似美国EHR的数据共享系统，隐私保护问题将被无限放大，我们应该提前做好预防。
有的人会问，在数据原始采集过程中有一个关键的问题，即为了研究的目的或更多人的利益着想，某些健康隐私是否可直接被脱敏后再进行存储和使用。然而首先脱敏的方法和标准没有定性，其次，现阶段的某些技术达到了即使脱敏后也可以通过多数据集的比对重新配对数据的程度，从而使脱敏失效[11]。
人工智能数据使用过程中产生的隐私问题
如图1所示，人工智能的数据输出包含多种方面，比如智能辅助诊疗，预测诊疗手段、精准切除以及各种基因处理方法等。在数据输出过程中的隐私安全问题不可回避，其直接造成的一类后果就是带来歧视。例如在聘用过程中如果雇主通过某些渠道的诊疗手段泄漏获悉拟聘用人员有慢性病或一些较难治疗的疾病，有很大可能会招致聘用失败，而这是违反《劳动法》的。特别是针对一类在聘用时其实并没有疾病但属于染病高风险人群（可能是基因数据的分析结果或是家庭病史甚至社区和性取向等带来的高风险等），这样的信息泄露很显然是不公平的。
最近一项针对临床试验参与者的调查发现，6.6%的参与者“非常担心”，14.9%的参与者“有点担心”，即“如果信息与我联系起来，我会受到歧视”。但正如调查报告作者承认的，特定的特征研究人群的主观导向，尤其是他们已经决定参加临床试验的事实，可能会影响到他们的决定从而最终影响预测结果的准确性[12]。
另一类在人工智能预测结果中产生的隐私侵犯可能不会直接带来严重的后果，但因为担心自己的隐私权受到侵犯，可能会使人精神紧张、暴躁甚至产生精神疾病。比如在自动比对基因库的过程中发现的一类问题可能会引致思考别人看到会怎么办的想法，从而导致一些焦虑。
总结并提出建议
首先不能因噎废食，应该区分性对待隐私所有权问题。包括脱敏程度，数据使用者以及使用目的。例如疾控中心可以用流感应对数据对比医院发热病人状态，来重新考核现行流感控制措施，这样做确实在未经许可时侵犯了健康隐私（未予泄漏），但其目的是为潜在的发病做更好的服务。
其次须采用一些创新的方法去追求医疗隐私问题的平衡性。新的人工智能技术不断涌现，某些隐私数据在积累时尚不能考虑到其应用场景和应用范围，所以也不能提前征求被采集者的意见，而当需要使用其数据时，很多情况下难以做到一一征求意见，特别是在看似无害的数据使用情况下。因此，利用新的人工智能技术，在数据汇聚的过程中即做好甄别和预判数据使用权限工作，提前征求当事人意见，则可避免许多矛盾。
第三，加强医疗数据安全领域立法，特别是细致的、针对信息是如何建立的、谁在维护以及当事人情况的法律法规的建立是有急切需求的。
最后，建议成立国家、省、市级“关键数据安全委员会”，对医疗数据如何开放共享，如何判定隐私泄漏责任权属以及新技术的应用等问题，起到关键指导作用。
参考文献
1.StanfordHealth.Harnessingthepowerofdatainhealth.StanfordMedicine2017HealthTrendsReport(2017).
2.Russakovsky,O.etal.Imagenetlargescalevisualrecognitionchallenge.Int.J.Compute.Vis.115,211-252(2015).
3.Litjens,G.etal.ASurveyondeeplearninginmedicalimageanalysis.Med.ImageAnal.42,60-88(2017).
4.Esteva,A.etal.Dermatologist-levelclassificationofskincancerwithdeepneuralnetworks.Nature542,115-118(2017).
5.Fauw,J.etal.Clinicallyapplicabledeeplearningfordiagnosisandreferralinretinaldisease.Nat.Med.24,1342(2018).
6.Nicholson,P.II&GlennCohen,I.Privacyintheageofmedicalbigdata.Nat.Med.25,37-43(2019).
7.魏琴，欧阳智，袁华《数融未来：图解大数据+产业融合》（贵州人民出版社，贵阳，2018）。
8.Esteva,A.etal.Aguidetodeeplearninginhealthcare.Nat.Med.25,24-29(2019).
9.NationalCommitteeonVitalandHealthStatisticsanditsPrivacy,Security,andConfidentialitySubcommittee,U.S.DepartmentofHealthandHumamServices.HealthinformationprivacybeyondHIPAA:a2018environmentalscanofmajortrendsandchallenges.https://ncvhs.hhs.gov/wp-content/uploads/2018/05/NCVHS-Beyond-HIPAA_Report-Final-02-08-18.pdf(2017).
10.Terry,N.P.ExistentialchallengesforhealthcaredataprotectionintheUnitedStates.Ethics,Med.,&Pub.Health3,19–27(2017).
11.Gymrek,M.etal.Identifyingpersonalgenomesbysurnameinference.Science339,321–324(2013).
12.Mello,M.M.,Lieou,V.&Goodman,S.N.Clinicaltrialparticipants’viewsoftherisksandbenefitsofdatasharing.N.Engl.J.Med.378,2202–2211(2018).
文章来源：中国人工智能开放创新平台
----------THEEND----------
免责声明：本文系转载分享，文章观点、内容、图片及版权归原作者所有，如涉及侵权请联系删除！
点击“阅读原文”，立即加入我们，一起开启个人健康医疗数据的归还运动吧！返回搜狐，查看更多
浅谈如何做好安全生产工作
安全第一”是我们党的一个重要方针，也是我们单位发展的永恒主题。只有安全的发展才是健康的发展、和谐的发展。因而，抓好安全工作，尤为重要。但是，安全工作不是一朝一夕的事情，也不是一个人的能力所能解决的，它受到多种因素的制约。只有各方面因素达到平衡，我们才能真正讲安全工作。在此，就如何做好安全生产工作谈谈自己的看法和观点。
首先，抓好安全工作，必须要有切实可行的制度作保障，建立适合自身实际的“安全生产责任制”。
“安全生产责任制”中的“制”可以有两种含义。一种较为狭义的解释是，“制”就是制度;而另一种较为广义的解释是，“制”就是机制。制度往往体现为某些文字上的规定或程序，或某种不成文的，但被组织普遍接受的某种实践或工作过程。机制则不仅仅包括制度的所有内容，更重要的是包含了确保制度得以有效落实，以及确保制度本身先进性的所有因素。
而我们要建立的“安全生产责任制”就应当是机制这一含义。在我们的安全生产工作中，我们不仅仅要制定相应的安全生产工作制度，而且要制定保障这些安全生产工作制度得以执行和落实的保障措施。我们制定制度的目的是使其得到有效落实，对我们的工作起到规范、约束和指导作用，而不是为了制定制度而制定制度。只有有了有效的“安全生产责任制”，我们的安全生产工作才可能规范开展，收到应有效果。“不以规矩，不成方圆”。
其次，抓好安全工作，要注重发挥工会在安全生产工作中的作用。
一个单位的安全生产是要通过职工的劳动来实现的，职工既是生产实践的主体，又是事故危害的对象。为此，增强和规范职工的安全意识，提高职工的安全防范素质，提升职工的安全意识是单位安全工作的主题，是安全生产的目的，是职工安全维权、生命维权的重要工作，是以人为本的重要理念。工会作为职工的群众组织，要向广大职工宣传党和国家的安全生产方针、政策、法规和安全生产的规章制度，从而强化职工的安全意识。
一是结合《安全生产》进行宣传教育。要让职工吃透精神，深刻领会，通过图片展览、安全知识竞赛等形式开展宣传教育活动，使每个职工都清楚自身在安全生产方面依法享有的权利和义务，进一步强化职工的安全法律知识，把职工的思想统一到安全作业、依法管理、依法办事上来。
二是结合“安全工作重点”进行宣传教育。要从实际出发，根据不同时期，不同工作重点，开展不同安全主题的安全生产宣传活动，配合全国“安全生产月”活动，通过编印发放有关宣传材料，张贴各类安全宣传画、营造“关爱生命、关注安全”的舆论氛围，教育广大职工认识到：安全生产每条规章制度都要牢记在心、遵从在工作中，任何逾越都可能付出血的代价。
稳定的安全局面是单位发展的根本保证，是人本管理理念的具体体现，是工作中的第一要务，是单位的全方位的管理工作。工会应该利用自身的优势，为单位安全管理多开展有益的活动，在安全管理工作中充当一个不可或缺的角色。
再次，抓好安全工作，需要培养职工的自我安全意识。
在安全工作中，只有全体职工的自我安全意识得到加强，才能从根本上解决人的不安全行为，避免安全事故的发生。而职工的自我安全意识的培养需要一个长期的过程，这就需要我们找到好的切入点，找准培养职工的自我安全意识的好的做法。
一是培养职工自我安全意识需要提炼一套具有自己单位特色的核心安全理念。培养职工的自我安全意识，如果只是泛泛地讲，不便记忆，在职工的脑海里没有很深的印象，嘱咐的话听了一大堆，一句也没记住，左耳进右耳出，往往是事倍功半。对此，我们应当根据自己职工的文化层次、阅历能力等方面的特点，提炼一套职工易懂、易记，能被大家所接受的核心安全文化理念，通过核心安全理念的培育，利用多种形式不断强化全体职工对核心安全理念的认识，达到培养全体职工自我安全意识的目的。
二是培养职工自我安全意识必须做到持之以恒。做任何事情都需要有持之以恒的态度，特别是自我安全意识的培养这种解决思想问题的东西，更需要通过长期、艰苦的努力才能达到的。如果今天讲这个重要，明天讲那个重要，使职工无所适从，认为是搞活动、一阵风。“雨过地皮也不湿”。特别是在监督检查方面，更需要持之以恒地抓，不能今天看到这种现象管，明天就不管，或者有的人管，而有的人视而不见，这往往使职工误认为不管是正常、管就是吹毛求疵，是为了完成罚款指标，这样一来，也就起不到好的作用。
三是培养职工自我安全意识必须做到齐抓共管。培养职工的自我安全意识，不能只靠说服教育，也不能只靠行政手段一罚了之来解决。它是一项系统工程，需要各个部门、多种形式、方方面面的工作共同来完成。既要有强有力的思想政治工作来引导，也要有行政处罚手段作辅助，两者缺一不可。因此，它需要齐抓共管，需要全局上下的共同努力，需要每一名职工的广泛参与，只有这样，才能真正培养起全体职工的自我安全意识，形成安全生产坚不可摧的防线。
第四，抓好安全工作，还需要提高职工的生产安全意识。
仅仅培养职工的安全意识对于安全工作还是不够的，我们还应该在培养职工安全意识的基础上注重提高职工的生产安全意识。提高职工生产安全意识，是安全生产的根本，是健全安全文化的基础，是真正能够实现安全生产投入最少，效果最好的一项工作，也是一个循序渐进的过程，是一项长期而艰巨的工作。而如何提高职工生产安全意识，应从以下几个方面入手。
一是加强安全宣传教育。大力开展安全生产法律法规的宣传教育，创造“安全生产，以人为本”的安全文化氛围，把安全提高到一个全新的高度，通过会议、学习班等各种形式学习法律法规、张贴安全宣传画、标语，使全体职工能够认识到现在国家、党和政府对安全的重视程度，使大家认识到，现在的安全生产，已经提升到法律的高度，违反安全生产规章制度和操作规程，就是违法行为。
二是普及安全常识。当职工的安全法律意识得到加强以后，迫切需要一些安全知识。我们要让职工从了解安全常识入手，通过张贴安全宣传画、开办讲座，把一些常用的贴近生活的安全知识传授给他们，由于简单而贴近生活，容易被接受，效果好，容易得到职工理解和支持，安全工作就有了良好基础，职工的安全意识可以得到很大提高。
三是从提高自我保护意识着手。要从安全教育工作经常提到的“三不伤害”入手，这其中的内涵就是首先要保护好自己。人都有求生的本能，安全，归根到底，就是每个职工不要受到伤害。要告诉全体职工，安全工作的目的就是要保护每个职工身心健康。因为事关自身利益，职工容易理解和接受，也就能够达到提高安全意识的目的。
四是以身边耳熟能详的生产安全事故案例为教材。提高安全意识，事故案例的教育效果非常明显，因为那都是活的血的教训，切忌空谈。要以在社会上影响巨大或者是发生在身边的生产安全事故为案例，分析事故发生的原因和过程，结合自身实际情况，如何防范，做到举一反三。要把事故责任依据法律法规划分清楚，要把安全生产事故带来的危害阐述完整，一定要让职工心灵受到震撼，切实知道安全事故的危害是终身的，是家庭的悲剧所在，是社会安定最大的敌人。
职工安全意识增强了，我们的安全工作才有了群众基础，我们制定的安全管理制度才能顺利得到执行，我们的安全管理目标的实现才能有保障。只有这样，我们才能做到“安全发展，国泰民安”。
第五，抓好安全生产工作，还应该做好安全生产管理方面的工作。
安全生产管理的好与否，直接关系到国家和人民的生命财产安全，影响到一个单位的和谐稳定与发展，这就需要我们做好安全生产管理工作。
一是坚持“安全第一、预防为主、综合治理“的方针。
坚持“安全第一、以人为本”，认真落实各项安全生产责任制，广泛开展安全生产宣传、培训、教育，夯实安全生产日常基础工作;积极开展各项安全生产活动，突出重点，千方百计抓好车辆管理、工程施工和用电安全等重点工作;解放思想，进行安全生产创新;搞好安全生产检查，及时消除事故隐患，为构建和谐社会、维护国家和人民群众的生命财产安全、发展经济，而创造一个安全生产环境。
二是积极参与安全生产的各项活动，使安全生产工作深入人心。
加大安全生产宣传教育力度，增强广大职工的安全活动参与意识，积极参与国家和行业开展的《交通安全百日赛》、《安全行车万里行》、《安全生产月》、《安全生产知识竞赛》、《安全知识考核》等各项活动，号召广大职工结合自己的岗位写出“我的安全责任”。
大力弘扬安全文化，提高广大职工做好安全生产工作的自觉性和责任心，自觉学习安全生产的各项法律法规，采取办培训班、安全生产知识竞赛、通过职工自学等形式进行安全生产教育，达到安全生产目的明确、措施得力。
三是扎实做好安全生产日常管理工作。
为使安全生产工作扎实有序进行，必须做到机动车驾驶员、特种设备操作人员、所有设备资料齐全，达到安全生产资料规范化管理，编制安全生产事故应急救援预案，重特大事故的救援机制，做到年初有安全生产计划、每月有安全生产情况报告、季度有安全生产工作指导意见和小结，半年和年终有总结、考核、评比。做到安全生产资料管理分门别类，安全生产管理人员、驾驶员、操作员、各种机械设备要建档立案，使安全生产资料管理正规化、规范化。
安全生产工作是一项综合性、长久性的系统工程，只有我们在安全生产工作中做好综合性工作，全面提高大家的安全生产意识，增强安全生产的责任感，及时消除事故隐患，才能最终实现安全生产无事故。
人工智能发展应用中的安全风险及应对策略
（4）应用场景的影响。谷歌公司机器人阿尔法狗战胜韩国围棋九段棋手李世石和围棋世界冠军柯洁，唤醒了世人对人工智能的高度关注。百度指数数据显示，从2015年底开始，“人工智能”热度逐渐升温，且持续到现在。2015-2016年，其媒体关注度已经暴涨6倍。
2.发展现状
目前，人工智能蓬勃发展，技术进步迅速，其应用已经渗透到我们的日常生活中，如人脸识别、刷脸支付、语音助手、无人机、服务机器人、自动驾驶和智能系统等。与互联网、大数据、物联网、云服务融合的人工智能应用给我们带来了更多的便利。专家认为，人工智能的应用将使劳动生产率提高90%；至2035年，人工智能将使年度经济增长率提高一倍。
但是，业界普遍认为真正的人工智能尚处于发展的初级阶段（认知智能发展阶段），即弱人工智能阶段，有“技能”，但远远谈不上有“智能”，还没能出现像人一样思考和行动的真正的人工智能产品，离通过“图灵测试”这一衡量人工智能技术水平的标准为时尚远。有专家认为，人工智能目前处于婴儿期，其智商大抵相当于3岁的孩子，说不好、笑不真、想不清、行不稳，这四“不”客观地描写了人工智能目前的现状。
02安全风险
1.国家安全
国家安全包括国土安全、政权安全、制度安全和意识形态安全等。2017年7月，美国智库发表题为《人工智能与国家安全》的研究报告，认为人工智能将会是国家安全领域的颠覆性力量，其影响可与核、航空航天、信息和生物技术比肩，将深刻改变军事、信息和经济领域安全态势。该报告强调人工智能通过变革军事优势、信息优势和经济优势影响国家安全。其中，军事领域引入人工智能几乎是不可阻挡的，而人工智能技术与生俱来的军民两用特性则要求决策者必须调和商业与国家安全之间的利益。而且，利用“换脸”、“换声”等人工智能技术可以制作具有欺骗性的假时事新闻。已有案例说明，利用人工智能技术在社交平台大量制作散发虚假新闻可以在政府首脑选举中影响选民的抉择。
2.社会安全
传统犯罪借助人工智能，将会衍生出新型犯罪形态、犯罪行为、手段和方法，出现无法辨识是机器人犯罪还是真实人犯罪的尴尬场景。2018年3月，美国发生了两起涉及自动驾驶的车祸。3月19日，优步（Uber）一辆自主驾驶汽车在美国亚利桑那州坦佩市发生致命车祸，一名49岁的女子晚上推着自行车穿过马路时被汽车撞死。3月23日，一名工程师驾驶特斯拉ModelX型号汽车在加州101公路和85公路交接处发生致命车祸，车祸发生时汽车启用了自动驾驶（或自动辅助驾驶）功能。这些案例说明，人工智能产品如果没有彻底解决安全可靠性问题，将会危及社会公共安全和人身安全。
3.网络安全
网络和大数据的发展推动了人工智能的进步，网络攻击智能化趋势也给网络安全保护提出更高要求。有关人工智能与网络安全关系的研究表明，一旦人工智能运用到网络攻击活动，将使得网络攻击活动更加难以预警和防范，关键信息基础设施也将会面临新的安全风险威胁。如人工智能技术运用到木马病毒制作传播，将会出现难以防御的超级病毒木马，传统应对方法将不足以制止这些恶意程序传播扩散的速度。此外，人工智能的技术研发与应用也存在一些不确定性的安全风险。
03应对人工智能安全风险的对策建议
人工智能的安全风险取决于技术发展及其安全可控的程度，短期风险可以预见，长期风险受制于现有认知能力难以预测和判断。因此，一方面，人类社会要积极推动人工智能技术研发和应用；另一方面，要为人工智能的发展应用规划一条安全边界，防止其被恶意运用、滥用，给人类社会造成不可逆转的伤害。
1.加强人工智能安全风险的研究
树立正确的安全观，科学对待人工智能安全风险。研究掌握在人工智能技术研发和应用过程中会出现哪些风险，并从法律、政策、技术和监管等方面进行有效防控管控。
2.加强人工智能立法研究和法律规范
人工智能理论、方法、技术及其应用引发社会关系、社会结构和行为方式的变化，产生不可预知的安全风险和新的法律问题。建议运用法律手段，重点防控人工智能行为主体及其行为的异化。从现有情况看，人工智能法律研究应主要聚焦在人工智能产品主体，如智能机器人的法律地位、行为的法律属性以及法律责任如何确定等方面。在立法方面应加强对人工智能技术应用可能出现的法律问题的前瞻性研究探索。
3.加强人工智能安全防控体系建设
按照趋利避害原则，处理好人工智能发展应用与安全防控的关系，既要促进人工智能发展应用，又要推动其在安全、可靠和可控的轨道上前行。要加强对人工智能安全防控体系建设的战略规划部署，围绕人工智能安全风险点，借鉴已有经验，有步骤地推进人工智能安全综合防控体系建设。
4.加强人工智能产品服务的安全监管
要及时制定人工智能安全产品和服务技术标准规范，规范和引导产品研发推广。加强对人工智能安全产品和服务的市场监管执法和相关产品上市前的安全测试。对有安全缺陷的产品和服务要依法处理，对造成危害后果的要依法追究法律责任。要积极运用人工智能技术提高安全监管能力，善于运用人工智能技术改进和加强安全监管执法，提高安全监管执法的能力和效率。
5.加强人工智能技术研发的管控
人工智能的快速发展引起了国际社会对于道德伦理问题的关注和担心，应当为人工智能技术研发划出“红线”，设置禁区，禁止研究开发危害人类生存安全的人工智能技术和产品，防止人工智能技术的滥用。美国科幻小说家阿西莫夫在1950年出版的小说《我，机器人》中提出了著名的“机器人三大法则”，第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险时袖手不管；第二定律：机器人必须服从人类发出的命令，当该命令与第一定律冲突时例外；第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。2017年1月，美国著名人工智能研究机构未来生命研究院（FLI）在加利福尼亚州召开主题为“有益的人工智能（BeneficialAI）”的阿西洛马会议，法律、伦理、哲学、经济、机器人和人工智能等众多学科和领域的专家，共同达成了23条人工智能原则（“阿西洛马人工智能原则”，被称为人工智能发展的“23条军规”），呼吁全世界在发展人工智能的时候严格遵守这些原则，共同保障人类未来的利益和安全。23条规则规定，人工智能研究的目标应该建立有益的智能，而不是无向的智能。应该设计高度自主的人工智能系统，以确保其目标和行为在整个运行过程中与人类价值观相一致。对于人工智能造成的风险，尤其是那些灾难性的和存在价值性的风险，必须付出与其所造成的影响相称的努力，以用于进行规划和缓解风险。同时，人工智能军事化问题也是国际法律界关注的热点。目前，国际上限制致命性人工智能武器的呼声不绝于耳，有上百家人工智能领先企业呼吁禁止发展致命性人工智能武器。国际社会应当共同努力，加强合作，反对人工智能军事化，共同应对人工智能安全风险。返回搜狐，查看更多