AI换脸骗局频现 人工智能使用边界在哪儿
对于滥用生成式人工智能技术的担忧在世界范围内都存在。不仅因为其超越一般技术的“创造能力”和“破坏性”，更因为人们发现，生成式人工智能技术发展的速度极快。目前，世界各国对其风险的预判与防范均处于探索阶段，有赖于法律体系的进一步完善。10分钟内被骗走430万元，近期，用AI技术兴风作浪的诈骗案件，引起了社会关注。5月22日，包头警方发布的一起利用AI实施电信诈骗的案例冲上热搜。福州市某科技公司法人代表郭先生在接到“好友”微信视频电话后，考虑到关系好又是真人视频通话，在10分钟内直接向对方账户汇款430万元。随后才意识到自己遭遇了“高端”骗局，“好友”是骗子通过AI换脸技术佯装而成的。关于AI技术的争论不曾停止过。此前，ChatGPT就曾因编写假新闻而饱受诟病，而近期大量出现的AI诈骗更是令人不得不开始反思，AI生成的虚假信息或许潜藏着巨大的社会风险。需警惕生成式人工智能技术的滥用英国媒体《每日邮报》曾报道，2019年3月，英国警方逮捕了一名使用AI语音模仿软件的诈骗者。他将自己的声音改变成当地一家能源公司老板的声音，以“帮助公司避免拖欠罚款”为由要求一位高管向其汇款，通过电话骗取了22万欧元（约合人民币170万元）。据这名高管回忆，当时他也产生了疑心，但他的确听到了老板的德国口音。此案被认为是全球首例人工智能诈骗案。其实，模仿一个人的声音乃至外貌，对AI来说并不是新鲜事。此前，“AI孙燕姿”就曾在B站等网络平台走红，视频上传者通过使用AI音色替换技术(Sovits4.0)，生成了高度还原孙燕姿音色的翻唱歌曲，其中原唱为周杰伦的歌曲《发如雪》播放量已超过200万次。近期也有媒体报道了一款网络上的付费AI换脸软件，其套餐价格从499元到2888元不等，肉眼来看，换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。诸如此类生成式人工智能（Generative Artificial Intelligence，简称GAI）的大量出现很大程度上得益于深度合成和机器学习的快速发展。而AI诈骗者正是通过这些先进的技术，训练出能够模拟人类语言和神态的AI。苏州大学竞争政策与反垄断研究中心研究员方翔指出，近期的AI诈骗案件主要是人工智能技术在图像领域的应用，其可以将不同人脸图像中的面部特征相互替换。“拟声”则是借助深度学习模型，根据已有的语音样本（如通话录音、网络视频等）生成与其近似的声音，进而做到与人交谈。5月24日，中国互联网协会发文提醒，伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。面对利用AI技术的新型骗局，广大公众需提高警惕，加强防范。业内人士普遍认为，“AI换脸”技术的滥用给人们敲响了警钟，其复杂性、隐蔽性也给科技识别及运用提出了更高的要求。“对于生成式人工智能，正当适度使用，可以倍增工作效率，有力推动创意产业发展，促进消费者福祉增长。但同时，虚假使用可引发谣言泛滥、侵害权利、压榨利益，而过度使用可引发践踏人性、减少就业、贫富悬殊，而恶意滥用甚至成为歪曲真相、撕裂社会、政策干扰、祸乱宇内的罪恶之源。”中国互联网协会法工委副秘书长胡钢认为，要坚持依法崇德治理，使全社会形成法网大于互联网、国法高于算法、人工智能不能成为“人工制人”的共识。探索构建完善的人工智能法律体系“我国针对人工智能及数据安全、个人信息保护的立法虽然起步较晚，但日臻成熟。”方翔指出，早在2017年7月，国务院印发《新一代人工智能发展规划》，其作为我国AI发展的纲领性文件，提出了面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施，其中特别提到“到2025年初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”。2022年12月，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》，强调不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能服务的，可能导致公众混淆或者误认的，应当进行显著标识。2023年4月，国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》并向社会公开征求意见，提出AI内容必须真实准确，禁止非法获取、披露、利用个人信息和隐私、商业秘密。“总的来看，构建完善的人工智能法律体系，我国目前仍在探索阶段。”方翔说。中国信息通信研究院云计算与大数据研究所所长何宝宏则指出，2022年12月发布的《互联网信息服务深度合成管理规定》明确针对在中国境内应用深度合成技术提供的互联网信息服务进行规制，其中，深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。“在上述法律法规的具体落实过程中，存在两方面的挑战。”“一是防范深度合成技术应用生成错误价值导向、虚假信息的能力需要进一步提升。《互联网信息服务深度合成管理规定》要求深度合成服务提供者对输入数据和合成结果进行审核、建立健全识别违法和不良信息的特征库、依法处置违法和不良信息的生成合成信息内容。但是，对于深度合成服务提供者如何落实内容管理需要进一步细化，提供者需要不断提升技管结合的能力；对于内容管理落实的具体效果，也有待进行持续性的跟踪检验。”其次，何宝宏指出，对深度合成信息内容增加标识的具体规范也需要进一步细化，文件中明确深度合成服务提供者提供深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。“但对于如何增加显著标识以及增加标识的具体方式需要尽快出台细化的要求规范。”超越一般技术的“破坏性”引发担忧对于滥用生成式人工智能技术的担忧在世界范围内都存在。不仅因为其超越一般技术的“创造能力”和“破坏性”，更因为人们发现，生成式人工智能技术发展的速度极快。从OpenAI去年11月推出ChatGPT，到今年3月其迭代品GPT-4面世，仅用了几个月的时间。GPT-4不仅知识面更广、回答问题更流畅，还可以描述并理解图片，甚至具备一定自我反思的能力。OpenAI的首席执行官Sam Altman接受采访时就曾表示，担心这些模型可能被用于大规模的虚假信息，也担心人类被控制。“ChatGPT是一个高度受人类控制的工具。但也许会有人放弃设置我们目前已有的一些安全限制。”他补充，“我认为，社会只有有限的时间来弄清楚如何对此做出反应，如何监管，如何处理它。”今年3月，美国特斯拉汽车公司首席执行官埃隆·马斯克曾联合1000多名业界、学界人士发表公开信，呼吁所有AI实验室立即暂停训练比ChatGPT更强大的AI系统，暂停至少6个月。其信中提到，在开发强大的AI系统之前，要确信这些系统的影响是积极的，风险是可控的。同时公开报道显示，今年3月31日，意大利个人数据保护局宣布即日起暂时禁止使用ChatGPT，并暂时限制OpenAI处理意大利用户数据。意大利成为首个禁止ChatGPT的西方国家，欧盟的多个国家也开始跟进，酝酿具体监管措施。各国政府都在加快出台人工智能监管法律。据路透社报道，英国竞争和市场管理局正在审查人工智能对消费者、企业和经济的影响，考虑是否需要新的监管措施。法国隐私监管机构正在调查与ChatGPT有关的几起投诉。澳大利亚政府正在咨询科学咨询机构，来考虑下一步的监管行动。欧洲数据保护委员会已成立ChatGPT特别工作组；欧盟消费者组织则呼吁欧盟消费者保护机构调查ChatGPT技术及对消费者的潜在危害。“鉴于人工智能的技术复杂性，世界各国对其风险治理均处于探索阶段，对其约束和监管仍有赖于法律体系的完善。”方翔介绍，欧盟目前正在推进全球首部人工智能法案。2023年4月，欧洲议会成员就《人工智能法（The AI Act）》提案达成临时政治协议，强化对生成式人工智能的监管，并将人工智能技术可能带来的风险细化为极小风险、有限风险、高风险、不可接受风险4个等级。“这一立法动向值得我国关注。”方翔告诉记者。作者：李若一王林裴思童海量资讯、精准解读，尽在新浪财经APP经济日报：人工智能是智慧农业新风口
可以预期，以AI为代表的新一代信息技术将深刻影响智慧农业发展，用人工智能赋能农业成为一大命题。农业机械化已经让大田的粮食生产从体力劳动中解放出来。未来，农业信息化会让农民成为更体面的职业。
当最前沿的技术与最古老的产业相遇，会激荡出怎样的变革？日前，国内首款农业AI对话机器人发布，诸如“土豆出现烂根怎么办”“某地西瓜行情怎么样”“帮我找个杨梅采购商”这些问题都将得到回答。可以预期，以AI为代表的新一代信息技术将深刻影响农业发展，抓住人工智能这个智慧农业新风口成为一大命题。
农业AI应用正加速铺开。本世纪初，其在国内已露端倪，既有耕、种、收等智能机器人，也有病虫害探测、土壤墒情测报智能系统。近年来，具有自主知识产权的传感器、无人机、农业机器人等日臻成熟，出现在越来越多的农业场景中。2020年，农业农村部、中央网信办印发《数字农业农村发展规划（2019—2025年）》，提出加快农业人工智能研发应用。自ChatGPT发布以来，认知大模型技术持续进化，国内类似产品不断推出。在此背景下，农业领域大模型产品的推出自然不足为奇。
人工智能对农业应用非常广泛，涉及感知、决策、控制、作业等，农业AI对话机器人只是其一。传统农业的特点是靠天吃饭，而我国的智慧农业发端于物联网设备和与其对应的农业信息化系统，通过监测和改善生长环境，使农业生产更稳定可控。如今，叠加新一代信息技术，农业数据要素将持续发挥作用。比如，借助猪脸识别，结合声学特征和红外线测温，从猪的体温、叫声等可及时判断猪是否患病，从而预警疫情，科学养殖。
智慧农业是用科技武装农业，并牵引资本、人力、土地等多种生产要素。很多国家都把智慧农业作为优先发展方向，全球智慧农业呈现出两大特征。一是高度集成。各种设备与技术高度集成，物联网、大数据、人工智能、云计算等叠加交融，形成了智能生产系统。国土面积只有4万多平方公里的荷兰，就是在设施农业中集成智慧农业，每公顷能产出54.4吨蔬菜，是我国的2.4倍。二是数据融通。不只应用在生产领域，而是打通生产、加工、流通、销售环节，建立大农业数据库，实现产销高效对接。有的国家在此基础上建立农业展望制度，直接影响期货市场走势，拥有了主导世界农产品市场的战略武器。
现阶段，人工智能可以成为农业生产强有力的辅助，但远不足以完全替代人和人的决策。这与其发展程度有关。一方面，有数据，缺智慧。行业数据、社会数据、企业数据难以有效融合，缺少针对农业大数据的深度挖掘和分析利用，预测预警和配置资源等核心功能还远未发挥。另一方面，有示范，缺规模。由于门槛高、价格高，目前应用局限在少数主体上，不少地方存在增量不增效、技术脱离实际等问题。此外，人工智能的核心是数据、算法和算力，但是农业生产对象具有生物特性，比较效益又低，数据采集难、算法要求高、算力资源缺，导致落地难度大。
人工智能赋能农业是好事，但也急不得。大国小农是我国的基本国情、农情。再高大上的技术，农民和农企都面临是否用得上、用得起、用得划算的问题。一方面，他们追求增产、提质、节本，需要导入智能装备；另一方面，又有求稳心态，对短期成本收益敏感，对新技术应用有迟疑。可见，新技术落地不是一蹴而就的，要不断迭代优化，从而突破盈亏平衡点。要从实际出发，积极探索应用场景，打造内容丰富、模式多样、载体多元的解决方案，降低用户成本，务求实效实用。
农业机械化已经让大田的粮食生产从体力劳动中解放出来。未来，农业信息化会让农民成为更体面的职业。推动智慧农业发展，政府应聚焦农业公共基础数字资源建设，通过政策引导数字技术的产业应用。科研院所要把工程科技与农业生产相结合，研发攻关更多接地气的产品。各类资本则要以长期投资的耐心支持经营主体。农民和农企则要抓住新一轮信息技术机遇，提升品质、做强品牌，实现增值。