“AI换脸”技术使用风险需警惕
原标题：多个城市出台扶持人工智能的相关政策AI概念股持续火热（引题）
“AI换脸”技术使用风险需警惕（主题）
广州日报全媒体记者文静张露
广经观察
受政策与新概念影响，AI板块连日来上涨。6月1日，据同花顺数据显示，截至收盘，人工智能板块涨超1.4%，AIGC概念板块涨超3%。消息面上，国内多个城市相关部门出台扶持人工智能的相关政策。同时，英伟达近日总市值终于突破万亿美元大关，成为首家市值破万亿美元的芯片企业。一方面是与AI概念相关的股票行情被看好，另一方面，在TOC端应用中，外界对“AI换脸”等问题依然担忧，多地警方通过社交平台呼吁大家警惕“AI换脸”诈骗。
AI芯片企业市值突破万亿美元带来AI概念股上涨
截至6月1日收盘，多只与AI、AIGC概念相关的个股股价上涨，部分更加涨停。其中，新致软件涨20.02%、科大讯飞涨10.01%、创维数字涨9.98%、奥飞娱乐涨9.97%、新智认知涨9.97%、恒信东方涨20%。
AI、AIGC概念被看好，与近日AI芯片股“龙头”英伟达的火爆相关。据了解，当地时间5月30日美股开盘，英伟达股价一度冲高，总市值突破万亿美元大关。据了解，目前市值超过万亿美元的美股科技公司有苹果、微软、亚马逊、谷歌母公司等。
然而，截至当地时间5月31日美股收盘，英伟达股价回落，下跌超5%，报378.340美元/股。
AI换脸技术越来越成熟，“李逵”“李鬼”真假难辨
AI的应用很广泛，而本轮火热的AI技术主要集中在大模型、AIGC（人工智能生成内容），不过，它们仍属于较为前沿技术，大部分的大模型都仍处于内测阶段。据了解，目前AI在消费者端用得较多的是AI生成式软件，如AI换脸、AI语音等软件，正因为这些AI软件的应用范围越来越广，被一些商家用于直播带货抢流量，甚至不良分子用来诈骗等，从而存在安全隐患。早前有报道称，有网友点开多个电商直播间，发现正在卖货的竟然是“迪丽热巴”“杨幂”等当红明星，背后其实是直播间的主播利用“AI换脸”，将自己的脸变得神似某位明星。
连日来，记者在抖音、快手、视频号等直播间浏览，暂未见到有“AI换脸”的直播。记者在小红书上搜索“AI换脸”，当前，有不少博主通过视频拆解AI换脸诈骗的案例，并提醒大家要注意网聊风险。
“AI换脸”技术陆续出现在大众视野，被不少网友拿来“玩梗”。今年初电视剧《狂飙》走红时，有网友把剧中多位男主角样子“换到”了经典歌曲《流星雨》的MV中，戏称为“狂飙F4”。此外，有博主利用AI换脸，将特斯拉创始人马斯克的脸换到不同背景的照片中，戏称“马斯克卖烧烤”“马斯克摆摊”……目的是为了吸引网友们的眼球，带来更多的流量。
对此，深度科技研究院院长张孝荣表示，当前的AI换脸属于深度伪造的AI技术衍生应用。这种技术在影视和广告行业由来已久，现在有了AI技术，这种换脸软件开始大范围普及。随着生成式AI的发展，使用难度进一步降低，新兴的App和主流的视频软件都增加了类似功能，如此一来，线上的“李逵”和“李鬼”日益增多，而且更加真假难辨。
“随着深度伪造技术、扩散模型、生成对抗网络和AI大模型等AI技术的日渐成熟，伪造相关视频、音频、图像等技术门槛大幅降低。”天使投资人、资深人工智能专家郭涛表示，与此同时，大批提供相关服务的第三方应用软件问世，应用门槛进一步降低，哪怕是“AI技术小白”几分钟也能轻松学会AI换脸等操作。
“直播换脸软件，有的收费有的免费，收费的从几百到几千上万元不等，成本各有不同。”张孝荣直言。
平台：一旦发现换脸直播直接断播
AI换脸技术带来的风险令大众担忧。对于最近直播平台AI换脸诈骗的情况，抖音方面对全媒体记者表示，目前抖音直播不允许换脸直播，一旦发现平台会直接断播。平台目前也在跟进换脸带货的情况，除了断播、限制橱窗购物车等带货功能，还会对侵权商家进行扣除信用分的处置。对断播后仍换脸直播的账户，将限制其直播权限。至于快手、视频号方面，则暂未回应。
据了解，5月9日《抖音关于人工智能生成内容的平台规范暨行业倡议》发布，要求创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，遵循相关规范，其中包括发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景；虚拟人需在平台进行注册，虚拟人技术使用者需实名认证等。
今年4月，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法》），这也是国家首次针对生成式AI产业发布规范性政策。《管理办法》提及，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。
要像防范电信诈骗一样防范AI诈骗
“AI换脸恶搞他人、冒充明星带货，佯装‘熟人’实施诈骗等上述滥用行为已经涉嫌侵权，甚至是刑事诈骗。”广东南方福瑞德律师事务所律师梁宇麒接受记者采访时表示。需要注意的是，《民法典》正式实施后，确定是否侵犯肖像权不再以使用是否以赢利为目的，也就是说，使用他人肖像前，须经过他人同意，否则将涉嫌构成侵权。
那么，该如何警惕和防范AI换脸技术带来的风险？他建议：首先，政府部门加强AI换脸技术监管力度，并制定相应的法律法规，明确软件开发商、平台运营商以及使用人的责任边界以及处罚标准。其次，软件开发商和平台运营商应自身加强对AI换脸技术的内部监管，设定审核机制，规范使用行为。最后，也是最重要的，提高个人防范意识，大家在使用AI换脸软件或者小程序时，警惕被软件收集人脸、声音等个人敏感信息，如非必要，是可以拒绝收集的。以后面对关于涉及财物交易的事宜，建议通过个人联系电话、单位联系电话、甚至是面对面等多渠道确认后，再进行交易。
张孝荣表示，要像防范电信诈骗一样防范AI诈骗。提高警惕，保护个人隐私资料，避免泄露；不要轻信各种App传来的视频、电话或短信；建立财务信息防火墙，不要给陌生人转账。
AI换脸一时爽，法律风险你得扛！
“一键换脸，秒变视频主角”
现如今“AI换脸”正在走红网络
受到无数年轻人的追捧
只需一张照片，马上改头换面
古装、旗袍、武侠、时尚……
各式风格造型，任君随意挑选
玩家们大呼过瘾
但与此同时
“AI换脸”也可能伴随法律风险和侵权纠纷
近日，上海市金山区人民法院审结了一起
因“AI换脸”APP违法使用他人视频
引发的肖像权纠纷案件
案情回顾
小芝系一名网红达人，热爱古风汉服，经常在某视频网站发布古风汉服照片和视频，粉丝人数40余万，在圈内外具有一定的知名度。
上海A公司是一款“AI换脸”APP的运营主体。用户通过支付一定会员费，即可使用该APP中的全部“换脸”视频模板。
2022年6月，小芝发现A公司运营的“AI换脸”APP中有自己发布在网络平台的古风造型视频模板。用户可以通过上传照片，将视频模板中的人脸替换成上传的人脸，除面部五官发生实质性变化外，其余内容与原视频完全一致。用户利用该APP制作完成的古风造型视频，还可以保存并分享到其他网络平台。
图源网络
小芝认为，A公司未经自己同意将自己的视频作为视频模板供用户进行“AI换脸”，严重侵犯了自己的肖像权，于是将A公司诉至法院，要求赔礼道歉、刊登道歉声明并赔偿损失。
A公司辩称，同意赔礼道歉，但不同意刊登道歉声明。自己运营的“AI换脸”APP确实使用了小芝的视频，但一个月内即下架，使用时间短、次数少，不同意赔偿损失。
法院判决
法院经审理后认为，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。原告小芝具有一定网络知名度，其在网络平台发布的视频资料中的肖像权应受到法律的保护。被告A公司未经小芝授权同意，以营利为目的使用含有小芝肖像的视频，已经侵犯了小芝的肖像权。
结合小芝知名度、A公司侵权行为具体情节、对小芝造成的影响等因素，法院判决被告A公司在其运营的“AI换脸”APP首页显著位置发布道歉声明并赔偿原告小芝经济损失。
法官说法
一、“AI换脸”的法律边界
“AI换脸”技术是机器学习过程和能力的一种革新，技术本身中立，然其滥用的行为却往往挑战着法律和公序良俗的底线。不管是个人娱乐性质的恶搞，还是商业性的营销，滥用“AI换脸”技术操作比比皆是。那么，“AI换脸”可能侵犯哪些权利呢？
1.侵犯肖像权
根据《民法典》第一千零一十八条：“肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。”
因此，肖像并不仅仅指人的面部特征，戴着口罩的脸、侧影、形体动作等等，只要能够识别特定自然人，都属于肖像权保护的范围。
同时，《民法典》明确了侵犯肖像权的具体行为，包括未经肖像权人同意，丑化、污损、或者利用信息技术手段伪造等方式侵犯他人的肖像权，如“AI换脸”；未经肖像权人同意，制作、使用、公开肖像权人的肖像，如“扫街”“街拍”。
2.侵犯著作权
无论是“换脸”APP运营者还是普通用户，未经照片、影视、短视频等作品著作权人授权和许可，擅自将图片或者视频作为模板提供给用户或者将换脸后的作品通过网络提供给公众，就可能侵犯著作权人的信息网络传播权。如果通过“换脸”对作品进行恶搞，还可能侵犯著作权人的保护作品完整权。
3.侵犯名誉权
如果通过“AI换脸”对他人进行恶意丑化或者通过互联网传播换脸后的图文、视频，导致他人社会评价受损的，就可能侵犯他人的名誉权。
4.侵犯公民个人信息
“AI换脸”APP除了给用户提供海量的影视片段、网络视频外，同样也在不断收集用户的个人信息，因此APP运营者滥用用户个人信息的现象也时有发生。
此外，随着网络技术进一步发展，犯罪分子除了利用AI换脸、AI合成语音，更有通过AI技术筛选易骗人群，利用大数据和非法搜集的个人信息实施精准诈骗。
二、法律法规为个人信息构筑安全堡垒
目前，我国的《个人信息保护法》《网络安全法》《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》以及《刑法》相关规定已经为保护人脸信息、个人信息构筑起法律堡垒。
2023年1月10日起施行的《互联网信息服务深度合成管理规定》明确了深度合成数据和技术管理规范。要求深度合成服务提供者和技术支持者加强训练数据管理和技术管理，保障数据安全，不得非法处理个人信息，定期审核、评估、验证算法机制机理。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。
该《规定》的出台有利于积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展，维护网络空间良好生态。
三、遭遇“被换脸”如何维权
一旦发现自己的肖像被盗用或者“被换脸”，我们应当第一时间保留证据，通过截图、证据保全等方式保存侵权图片或者视频，以便后续维权；同时还可以向网络平台运营商提出投诉，要求强制下架侵权图片或视频；最后，也可以提起人格权诉讼，用法律武器维护自己的合法权益。
原标题：《AI换脸一时爽，法律风险你得扛！》
阅读原文