AI换脸ZAO两大风险 ZAO到底可不可以用
最近一款AI换脸视频，名为“ZAO”的软件在社交圈蹭足了热度，风向从有趣、好评转变为有风险、卸载，用户行为急速扭转是因为这款AI换脸APP被曝出使用存在潜在风险，包括隐私泄露、侵犯肖像权等等，下面小编就整理一下，与大家聊聊AI换脸ZAO到底可不可以用？
ZAO核心技术是什么？
ZAO是基于人工智能人脸识别的一个分支，在视觉技术的应用，类似于之前的deepfake技术，即是之前被网友用于恶搞的生成虚假视频的技术。原理跟我们平常使用的Photoshop、Permiere功能相似，都是通过把A图层抠图，叠加到B图层这样的操作来完成换脸。
ZAO用户需要在摄像头前进行眨眼、扭头、张嘴、低头等三个指示动作，生成了A视频序列的所有帧，然后把检测到的B视频序列，生成A+B序列人脸合成视频，最后输出给用户。
ZAO为什么好玩？
换句话来说，ZAO其实就是2.0版本的P图软件。女生手机里普遍都会有1-2个美颜美图软件，比如美图秀秀、脸萌、天天P图、P图神器、抠图大师、魔图等，其中美化、美容、抠图、拼图、换脸的功能对我们来说很常用。
AI换脸“ZAO”用户为什么会觉得好玩？原因很简单，“仅需一张照片，出演天下好戏”，就跟我们使用P图、美图软件一样，能获得社交满足感。不管是把自己P得漂亮还是搞怪变丑，或是其他稀奇古怪富有创意的玩法，用户使用软件的目的，最终还是回到社交分享，因此“ZAO”对AI人脸识别技术的应用，一推出就很快能得到用户认同，在社交上进行传播。
黑科技ZAO这一波赚了多少钱？
通常软件APP烧钱的，背后都是烧在服务器的钱，ZAO依赖于视频库和AI算法，需要大量视频承载。在ZAO官博小助手中，也可以看到官方透露：8月份花了700万租的服务器，在8月30上架已经消耗了1/3，而8月31日则表示服务器现在还是满负荷。
“ZAO-逢脸造戏”软件运营主体公司是长沙深度融合网络科技有限公司，创始人是陌陌总裁王力，执行董事是陌陌联合创始人雷小亮。
在2019年第二季度财报中，陌陌其净营收达41.53亿元，同比增长32%；净利润为7.31亿元，较上一年同期7.48亿元下降2%，营收增长，但净利润却下降放缓。所以陌陌实则也是想以ZAO等六款社交产品，拉动用户增长，给营收注入强心针，只可惜这一波，因为ZAO存在的争议亏了。
ZAO用户协议争议与修改
换脸AIZAO之所以被业内专家认定为存在安全隐患，实际上是最初版的用户协议第6条第1款规定：在必要授权中，需要同意授权ZAO及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于人脸照片、图片、视频资料等肖像资料等，这协议就相当于用户资料ZAO可做其他用途或商用。
第二个，用户引用软件内置的影视剧片段，包括《延禧攻略》、《生活大爆炸》、《武林外传》、《还珠格格》等经典片段，协议第7条第7款写明：“若您侵害他人名誉权、肖像权、知识产权等合法权利的...Zao可以诉诸行政执法机构，导致任何第三方损害的，责任也是由用户承担。
一石激起千层浪，2个用户协议都可以看到ZAO仿佛都在告诉用户，我只是个工具，我们提供的只是技术，并不对用户应用之后产生的任何后果负责。技术无罪，但用户信息安全跟知识产权相关授权，ZAO却没有给用户提供保障。
这些协议漏洞在法律、技术专家加以解读后，“AI换脸两大风险”也上了热点榜，不过目前ZAO已经很快修改了用户协议，增加了醒目的“您的必要授权”特别提示，用户使用ZAO生成的视频，以及人脸等信息，将仅限用于用户提供上次/发布短视频，不会以任何其他形式或目的使用。
AI换脸能突破刷脸支付吗？
支付宝针对AI换脸风险也进行了回应，明确提出刷脸支付采用的是3D脸识别技术，会通过软硬件结合方式进行检测，来判断采集到的人脸信息是否是真人刷脸。对于用户如果使用支付宝因为刷脸被盗刷，支付宝也表示这类事件概率极小，但如果真的出现，资金损失也会通过保险公司进行全额赔付。
人脸识别AI技术本身并没有错，但技术是把双刃剑。在享受AI给我们带来便捷的同时，也不可避免隐藏网络安全问题。ZAO可以说是给技术开发者提了个醒，尽管用户享受技术更新迭代的快感，但涉及到安全隐私问题，用户同样不会买单。
而至于ZAO到底可不可以用？这个问题，利弊权衡之后每个用户都会有自己的答案。针对任何一款“现象级产品”，使用前提是要认真阅读产品用户使用协议，在网络信息极容易泄露的环境中，不轻易提供个人信息。
AI换脸一时爽，法律风险你得扛！
“一键换脸，秒变视频主角”
现如今“AI换脸”正在走红网络
受到无数年轻人的追捧
只需一张照片，马上改头换面
古装、旗袍、武侠、时尚……
各式风格造型，任君随意挑选
玩家们大呼过瘾
但与此同时
“AI换脸”也可能伴随法律风险和侵权纠纷
近日，上海市金山区人民法院审结了一起
因“AI换脸”APP违法使用他人视频
引发的肖像权纠纷案件
案情回顾
小芝系一名网红达人，热爱古风汉服，经常在某视频网站发布古风汉服照片和视频，粉丝人数40余万，在圈内外具有一定的知名度。
上海A公司是一款“AI换脸”APP的运营主体。用户通过支付一定会员费，即可使用该APP中的全部“换脸”视频模板。
2022年6月，小芝发现A公司运营的“AI换脸”APP中有自己发布在网络平台的古风造型视频模板。用户可以通过上传照片，将视频模板中的人脸替换成上传的人脸，除面部五官发生实质性变化外，其余内容与原视频完全一致。用户利用该APP制作完成的古风造型视频，还可以保存并分享到其他网络平台。
图源网络
小芝认为，A公司未经自己同意将自己的视频作为视频模板供用户进行“AI换脸”，严重侵犯了自己的肖像权，于是将A公司诉至法院，要求赔礼道歉、刊登道歉声明并赔偿损失。
A公司辩称，同意赔礼道歉，但不同意刊登道歉声明。自己运营的“AI换脸”APP确实使用了小芝的视频，但一个月内即下架，使用时间短、次数少，不同意赔偿损失。
法院判决
法院经审理后认为，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。原告小芝具有一定网络知名度，其在网络平台发布的视频资料中的肖像权应受到法律的保护。被告A公司未经小芝授权同意，以营利为目的使用含有小芝肖像的视频，已经侵犯了小芝的肖像权。
结合小芝知名度、A公司侵权行为具体情节、对小芝造成的影响等因素，法院判决被告A公司在其运营的“AI换脸”APP首页显著位置发布道歉声明并赔偿原告小芝经济损失。
法官说法
一、“AI换脸”的法律边界
“AI换脸”技术是机器学习过程和能力的一种革新，技术本身中立，然其滥用的行为却往往挑战着法律和公序良俗的底线。不管是个人娱乐性质的恶搞，还是商业性的营销，滥用“AI换脸”技术操作比比皆是。那么，“AI换脸”可能侵犯哪些权利呢？
1.侵犯肖像权
根据《民法典》第一千零一十八条：“肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。”
因此，肖像并不仅仅指人的面部特征，戴着口罩的脸、侧影、形体动作等等，只要能够识别特定自然人，都属于肖像权保护的范围。
同时，《民法典》明确了侵犯肖像权的具体行为，包括未经肖像权人同意，丑化、污损、或者利用信息技术手段伪造等方式侵犯他人的肖像权，如“AI换脸”；未经肖像权人同意，制作、使用、公开肖像权人的肖像，如“扫街”“街拍”。
2.侵犯著作权
无论是“换脸”APP运营者还是普通用户，未经照片、影视、短视频等作品著作权人授权和许可，擅自将图片或者视频作为模板提供给用户或者将换脸后的作品通过网络提供给公众，就可能侵犯著作权人的信息网络传播权。如果通过“换脸”对作品进行恶搞，还可能侵犯著作权人的保护作品完整权。
3.侵犯名誉权
如果通过“AI换脸”对他人进行恶意丑化或者通过互联网传播换脸后的图文、视频，导致他人社会评价受损的，就可能侵犯他人的名誉权。
4.侵犯公民个人信息
“AI换脸”APP除了给用户提供海量的影视片段、网络视频外，同样也在不断收集用户的个人信息，因此APP运营者滥用用户个人信息的现象也时有发生。
此外，随着网络技术进一步发展，犯罪分子除了利用AI换脸、AI合成语音，更有通过AI技术筛选易骗人群，利用大数据和非法搜集的个人信息实施精准诈骗。
二、法律法规为个人信息构筑安全堡垒
目前，我国的《个人信息保护法》《网络安全法》《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》以及《刑法》相关规定已经为保护人脸信息、个人信息构筑起法律堡垒。
2023年1月10日起施行的《互联网信息服务深度合成管理规定》明确了深度合成数据和技术管理规范。要求深度合成服务提供者和技术支持者加强训练数据管理和技术管理，保障数据安全，不得非法处理个人信息，定期审核、评估、验证算法机制机理。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。
该《规定》的出台有利于积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展，维护网络空间良好生态。
三、遭遇“被换脸”如何维权
一旦发现自己的肖像被盗用或者“被换脸”，我们应当第一时间保留证据，通过截图、证据保全等方式保存侵权图片或者视频，以便后续维权；同时还可以向网络平台运营商提出投诉，要求强制下架侵权图片或视频；最后，也可以提起人格权诉讼，用法律武器维护自己的合法权益。
原标题：《AI换脸一时爽，法律风险你得扛！》
阅读原文