“AI换脸”技术以假乱真给生活会带来哪些利与弊
来源：科技日报
“反AI变脸”技术通过有效预测眼睛的状态，准确率达99%
AI换脸也有bug，看看人物眨没眨眼
第二看台
通讯员闫欣本报记者华凌
近日，知名视频网站blibli流传出一段视频：电影《射雕英雄传》（1994年版）朱茵主演的黄蓉被视频制作者通过“AI换脸术”处理成了杨幂的脸，神态表情如同朱茵饰演的黄蓉一样生动俏皮，毫无违和感，顿时引起网民热议，以至于微博话题点击量飙升至1.1亿。
所谓AI换脸术，是基于人工智能的人体图像合成技术，生成的假脸（通称DeepFake）。那么，这个技术是怎么做到如此出神入化？它给人们的生活会带来哪些利与弊？有何办法对其辨别？避免潜在风险？
强调“以假乱真”
让黄蓉秒变脸的视频制作者表示，这么做仅是用于“技术交流”。其实，AI换脸技术已然在我们身边荡起涟漪。
今年春节期间，科幻影片《疯狂的外星人》中外星人逼真的神态表情，是由演员徐峥通过“动作捕捉”出演完成；美国动作电影《阿丽塔》用AI科技加持，为观众呈现闪亮大眼的战斗萝莉阿丽塔动感十足；经典影片《速度与激情7》中，AI换脸还原了因车祸意外去世的主演保罗·沃克的音容笑貌，让整部影片多了一丝“你永远与我们同在”的温暖。
不同于戏曲换脸的变幻，“AI换脸术”强调“以假乱真”。简单说，AI换脸就是将目标人物各个角度的人脸照片一帧帧贴在被换对象的视频画面上，生成假脸视频，倘若能达到“朱茵or杨幂？傻傻分不清！”的效果，即大功告成。
“从技术层面讲，首先要进行数据采集，捕捉不同的脸姿态、表情、角度和光照的人脸图片；再者进行数据处理，包括采集数据标准化及分割算法处理等；硬件上需要一个较好的GPU，家用计算机可能会吃力一些，制作需要几个小时甚至数十小时，但是现在已有许多插件可以辅助。”为2019年央视网络春晚提供虚拟主持人技术支持的偶邦公司创始人郑毅告诉科技日报记者。
有“坏孩子”之嫌
“AI换脸术”从其命名为DeepFake起，恐怕已有“坏孩子”之嫌。
据说，DeepFake原本是一个用户的名字，他将《神奇女侠》主角盖尔·加朵的脸嫁接到另一张脸上，后被这位女演员及其律师起诉，但无奈尚没有相关法律条文对其问责，由此DeepFake反而因为“创新之举”一炮走红，成为“AI换脸术”代言人。
在某些重大政治场合，以假乱真的假新闻对于民众的误导，带来的负面影响是不可估量的。2018年5月，美国总统特朗普宣布中止全球气候变化协议，随后被比利时某政党利用DeepFake篡改，做了一个“特朗普宣告比利时政府也应退出”的假视频，引起比利时民众的公愤。可以想像，如果类似的假视频被用在投票、骚乱、战乱误导民众，煽风点火，后果可能是灾难性的。
此外，DeepFake也有道德隐患。现在很多明星已躺枪，包括艾玛·沃特森、斯嘉丽·约翰逊、瑞汉娜等好莱坞影星、歌星，被换脸后的视频上传到成人视频网站，以假乱真的换脸技术，要面临社会很大的道德争议。
有外媒称：“这种技术再次提醒我们，在这个数字时代，任何事情都不能盲目地看表面，因为那张脸可能是在欺骗你。”
用AI假里辨真
如何辨别“AI换脸术”？值得庆幸的是，科学界正在应对这个问题，而主要“杀手锏”是运用AI技术假里辨真。
纽约州立大学奥尔巴尼分校教授吕斯卫领导的团队发现了伪造视频的漏洞：假脸极少甚至不会眨眼，因为它们都是使用睁眼的照片进行训练的。
研究人员表示，伪造视频往往忽略了“自发的、无意识的生理活动，例如呼吸、脉搏和眼球运动”。吕斯卫说：“因此，缺少眨眼是判断一个视频真假的好方法之一。”
这种作为“反AI变脸”技术通过有效预测眼睛的状态，准确率达99%。此项研究已由美国国防高级研究计划局资助，作为甄别媒体假新闻，推进媒体取证计划的一部分。
“在伪造视频的后期处理中手动添加眨眼，其实并非一个巨大挑战，而且一些伪造视频已包含眨眼。从长远来看，实际上这是一场通过AI制作假视频和检测假视频之间的持续战斗。”吕斯卫说。
此外，郑毅提出，“通过强制记录照片和视频拍摄的时间、地点，既在区块链上记录照片和视频不可篡改的时空戳方法，也可进行鉴别”。
然而，公共科学研究犹如一把双刃剑：骗子一旦了解其骗局是如何被识破的，就可以对算法进行相应调整。道高一尺魔高一丈，“从这个意义上讲，他们已经占上风，最终很难说哪一方会获胜。”吕斯卫指出。
责任编辑：邹少欢
AI换脸技术暗藏法律风险
原标题：AI换脸技术暗藏法律风险新闻链接
近日，一名AI技术爱好者将港版《射雕英雄传》中“朱茵版”黄蓉的脸换成了杨幂，并制作了一段小视频在网上发布。视频中，杨幂的五官与朱茵的表情几乎全部融合，难辨真假，引起了人们对AI换脸技术的猜测和恐慌。面对舆论，视频作者回应称，“制作视频主要用于技术交流，并无营利行为”，并很快删除了争议视频。那么，不以营利为目的就能避免法律责任吗？AI换脸技术的广泛应用究竟利弊如何呢？
1、争议视频是否涉及侵权？
视频采用的AI换脸技术实为deepfakes技术，可以理解为一种通过自动编码器来实现换脸的技术。deepfakes不像我们熟识的美图软件可以在手机上使用，它需要使用者有一定的专业背景，对电脑、显卡、服务器等硬件要求较高、资金投入较大，并且还需要目标人物大量多角度多表情的照片作为运算基础。基于此，活跃于人前的公众人物以及生活在身边的熟人容易成为“被换脸”的对象，且AI换脸技术未来的规模化应用一定是以营利为导向。
对于争议视频，不少网友质疑其已侵犯肖像权。我国民法通则规定：“公民享有肖像权，未经本人同意，不得以营利为目的使用公民的肖像。”视频制作者“换脸哥”虽然声称仅供交流并非营利，但属于无法律效力的单方声明，杨幂一方若无实际证据，也难以诉其侵犯肖像权。不过，“换脸哥”于风波后又在社交媒体公开表示承接影视剧换脸业务，并公布了联系方式，此后其再发布类似作品恐难以技术交流作为抗辩理由。
此外，争议视频还涉嫌侵犯《射雕英雄传》制片方的著作权。根据著作权法的有关规定，《射雕英雄传》的著作权由其制片者享有，制片者对作品享有保护作品完整权，即保护作品不受歪曲、篡改的权利。视频作者将演员朱茵的脸换成了杨幂，无疑是属于客观事实和法律意义上的篡改视频，侵犯了制片者享有的保护作品完整权。据悉，这已不是“换脸哥”第一次侵犯著作权，他此前还发布过《冰与火之歌》《泰坦尼克号》《喜剧之王》《古墓丽影》等热门影视作品的换脸视频。
那么，类似换脸视频是否还可能侵犯名誉权呢？可以通过以下几点来判断，即受害人确有名誉被损害的事实、行为人行为违法、违法行为与损害后果之间有因果关系以及行为人主观上有过错。换句话说，侵权人的违法行为导致受害人的社会评价降低并且对此存在故意或过失的主观心态，即有可能构成名誉权侵权。如利用换脸视频侮辱、诽谤他人，在事实上已构成名誉侵权，严重者甚至可能以侮辱罪、诽谤罪追究刑事责任。
2、AI换脸技术易被用于“灰色领域”
无疑，AI换脸技术若能应用于影视制作将事半功倍，对于塑造科幻形象、制作人脸特效以及完成演员无法完成的特技动作来讲，是一项技术上的重要突破，同时可以应用在趣味视频、游戏以及广告合作中，未来还会造福更多领域，但是都应以正当合法使用为前提。不过，这项技术的传播就像打开了潘多拉的魔盒，相比于正向应用，人们更担心它会被用在“灰色领域”，成为违法犯罪的帮凶。
deepfakes催生于色情产业，当红女星“出演”的成人电影已让国内外多位女星深受其扰。同时，这项技术还存在向其他领域延伸的风险，让人深感担忧。例如，向政治领域延伸，制作虚假新闻，引起公众愤怒，掀动民族仇恨；假冒公众人物演讲，利用其威望组织传销或传播邪教思想；伪造受害人不雅视频进行敲诈勒索；伪造身份取得受害人信任进行网络诈骗等。可见，名人和普通人均难以逃脱可能被AI换脸技术侵害的风险。
还有很多人担心，这项技术如果用于伪造诉讼证据为自己开罪或诬陷对方怎么办？比如伪造通奸视频起诉离婚并要求高额赔偿，伪造不在场证据为自己洗脱嫌疑等。视频证据属于我国证据法中的视听资料，具有直观生动性特点，但是又容易被伪造、变造，存在疑点的视听资料更是不能被单独作为定案依据。一方当事人如果质疑对方视听资料的真实性，可以向法院申请司法鉴定，而此时又对鉴定机构的技术水平提出了较高要求。不得不说，AI换脸技术的发展的确为司法带来了新挑战。
3、AI换脸技术
未逸出现行法律规制范围
AI换脸作为一种新兴的黑科技，我国目前虽然没有专门的法律法规对其进行规制，但是也没有必要谈AI色变，更无须通过法律抑制技术的发展。毕竟技术是中立的，更应该审视的是技术背后的责任和意图，以及运用技术实施的行为本身。现在我们能想象到的AI换脸技术运用场景，一旦涉及违法，都能找到相应领域的法律规范予以打击。因此，大众无须对此技术过度恐慌，AI时代已经到来，我们应积极应对，提高防范意识和维权手段。
公众人物经常活跃在网络上，难以避免海量照片和视频被别有用心之人获取，除了明星之外，很多网络主播也惨遭技术“毒手”。相比之下，普通人保护自己不受AI换脸技术攻击的可能性则高得多，减少在网上“爆照”的次数、避免照片角度和表情过度多元化等都不失为从源头保护自身权益的良策。同时，被侵权人如果已经发现网上有人利用AI技术制作发布侵权视频，又难以联系上发布者，根据侵权责任法的规定，可以通知相应网络服务提供者采取删除、屏蔽、断开链接等必要措施，网络服务提供者接到通知后未及时采取必要措施的，对损害扩大部分要与视频发布者承担连带责任。
此外还需提醒的是，任何人如果发现有通过AI换脸技术制作的虚假视频可能已侵权或构成犯罪的，切记不能随意转发。根据相关司法解释，雇佣、组织、教唆或者帮助他人发布、转发网络信息侵害他人人身权益，被侵权人请求行为人承担连带责任的，人民法院应予以支持。最佳做法是，尽可能固定证据并报警，由公安机关侦查视频的来源及合法性。
延伸阅读
人工智能立法项目
已列入立法规划
人工智能技术的应用在法律关系、道德伦理、社会治理等方面为人类社会带来的新挑战已经显现，放任不管将纵容高科技作恶，过度监管又会扼杀科技创新发展，现阶段应加快科技伦理的制度化建设，完善科技发展的法治保障。
好消息是，在刚刚闭幕的十三届全国人大二次会议上，大会发言人张业遂透露，全国人大常委会已将一些与人工智能密切相关的立法项目列入本届人大立法规划，如数字安全法、个人信息保护法和修改科学技术进步法等，同时将人工智能方面立法列入抓紧研究项目，围绕相关法律问题进行深入调查论证。（刘津宁）
(责编：王小艳、王珩)分享让更多人看到
AI换脸技术利弊明显，这项技术之后还能该如何发展
本文来源：物联传媒
本文作者：麦穗
AI换脸最早只是应用在影视剧制作中的高新技术。
当年，在《速度与激情7》的拍摄过程中，演员保罗·沃克意外去世，为了保证剧情角色完整性，制作团队正是通过换脸技术让保罗·沃克成功出现在荧幕上。
当下的人工智能可以很好地学习每个演员的声音和面部表情的特质，好莱坞已经使用计算机辅助视觉效果让老演员看起来年轻了几十年，也可以让阿诺德施·瓦辛格和威尔·史密斯等动作明星能够与自己的数字替身出演对手戏。
在内娱也有很多AI换脸事件，其中换脸效果在众多演员中反而因突兀出圈。所谓的AI换脸技术，就是指利用先进技术，将后期拍摄的人脸替换到之前的镜头中。
AI换脸技术主要可以分为五个步骤：视频转图片、提取脸部、训练模型、人脸替换、合成视频。
2019年某大型网剧的一名女演员因在地铁公然闹事被解约，出演的角色使用AI换脸替换，可以明显看到AI换脸的演员面部扭曲、表情僵硬，脸上还会出现忽明忽暗的色块。
如果没有出现AI换脸的问题，一年时间做30集电视剧的常规后期是足够的，但用半年时间把一个演员的脸通过AI技术换成另一个演员的脸，时间确实紧张。
据微博某博主透露，当时市场上，AI换脸的价格大概是1．5万元每分钟，而手动换脸的价格则在十几万元每分钟，即便是简单的内容，最低市场报价也会在5～6万元每分钟。
在价格占相对优势上，当时的AI换脸在动态视频中还是没有达到很好的贴合度。但随着越来越多机器学习和算法开源，AI换脸技术变得泛滥起来。
AI换脸席卷而来
早在2017年底，国外论坛就已经出现了ID为“deepfakes”的大神，发布了通过机器学习来更换视频人脸的AI算法。“DeepFakes”打响了AI换脸的第一枪，现在很多换脸技术都是基于这套算法。
不久后，使用DeepFakes技术的简易版AI换脸工具FakeApp出现了，这让AI换脸的门槛变得极低，几乎人人都可以操作换脸技术。
FakeApp的出现令AI换脸视频一度犹如黄河泛滥一发不可收拾，首先是在色情领域被过度使用过，即使有明文规定禁止上传这类换脸视频，但是还是有漏网之鱼。
在网络上搜索“AI换脸”还能搜索到很多有这类服务的商家，只需要几十块钱就可以帮助用户完成换脸工作。接着，ZAO的出现将换脸技术的门槛进一步降低。在ZAO当中，AI换脸视频即点即成。爆红不过五天的ZAO就被工信部约谈整改，人们开始质疑换脸技术以及这项技术本身的局限性。