2023年人工智能领域发展七大趋势
2022年人工智能领域发展七大趋势
有望在网络安全和智能驾驶等领域“大显身手”
人工智能已成为人类有史以来最具革命性的技术之一。“人工智能是我们作为人类正在研究的最重要的技术之一。它对人类文明的影响将比火或电更深刻”。2020年1月，谷歌公司首席执行官桑达尔·皮查伊在瑞士达沃斯世界经济论坛上接受采访时如是说。
美国《福布斯》网站在近日的报道中指出，尽管目前很难想象机器自主决策所产生的影响，但可以肯定的是，当时光的车轮到达2022年时，人工智能领域新的突破和发展将继续拓宽我们的想象边界，其将在7大领域“大显身手”。
增强人类的劳动技能
人们一直担心机器或机器人将取代人工，甚至可能使某些工种变得多余。但人们也将越来越多地发现，人类可借助机器来提升自身技能。
比如，营销部门已习惯使用工具来帮助确定哪些潜在客户更值得关注；在工程领域，人工智能工具通过提供维护预测，让人们提前知道机器何时需要维修；法律等知识型行业将越来越多地使用人工智能工具，帮助人们对不断增长的可用数据中进行分类，以找到完成特定任务所需的信息。
总而言之，在几乎每个职业领域，各种智能工具和服务正在涌现，以帮助人们更有效地完成工作。2022年人工智能与人们日常生活的联系将会变得更加紧密。
更大更好的语言建模
语言建模允许机器以人类理解的语言与人类互动，甚至可将人类自然语言转化为可运行的程序及计算机代码。
2020年中，人工智能公司OpenAI发布了第三代语言预测模型GPT—3，这是科学家们迄今创建的最先进也是最大的语言模型，由大约1750亿个“参数”组成，这些“参数”是机器用来处理语言的变量和数据点。
众所周知，OpenAI正在开发一个更强大的继任者GPT—4。尽管细节尚未得到证实，但一些人估计，它可能包含多达100万亿个参数（与人脑的突触一样多）。从理论上讲，它离创造语言以及进行人类无法区分的对话更近了一大步。而且，它在创建计算机代码方面也会变得更好。
网络安全领域的人工智能
今年1月，世界经济论坛发布《2021年全球风险格局报告》，认为网络安全风险是全世界今后将面临的一项重大风险。
随着机器越来越多地占据人们的生活，黑客和网络犯罪不可避免地成为一个更大的问题，这正是人工智能可“大展拳脚”的地方。
人工智能正在改变网络安全的游戏规则。通过分析网络流量、识别恶意应用，智能算法将在保护人类免受网络安全威胁方面发挥越来越大的作用。2022年，人工智能的最重要应用可能会出现在这一领域。人工智能或能通过从数百万份研究报告、博客和新闻报道中分析整理出威胁情报，即时洞察信息，从而大幅加快响应速度。
人工智能与元宇宙
元宇宙是一个虚拟世界，就像互联网一样，重点在于实现沉浸式体验，自从马克·扎克伯格将脸书改名为“Meta”（元宇宙的英文前缀）以来，元宇宙话题更为火热。
人工智能无疑将是元宇宙的关键。人工智能将有助于创造在线环境，让人们在元宇宙中体会宾至如归的感觉，培养他们的创作冲动。人们或许很快就会习惯与人工智能生物共享元宇宙环境，比如想要放松时，就可与人工智能打网球或玩国际象棋游戏。
低代码和无代码人工智能
2020年，低代码/无代码人工智能工具异军突起并风靡全球，从构建应用程序到面向企业的垂直人工智能解决方案等应用不一而足。这股新鲜势力有望在2022年持续发力。数据显示，低代码/无代码工具将成为科技巨头们的下一个战斗前线，这是一个总值达132亿美元的市场，预计到2025年其总值将进一步提升至455亿美元。
美国亚马逊公司2020年6月发布的Honeycode平台就是最好的证明，该平台是一种类似于电子表格界面的无代码开发环境，被称为产品经理们的“福音”。
自动驾驶交通工具
数据显示，每年有130万人死于交通事故，其中90%是人为失误造成的。人工智能将成为自动驾驶汽车、船舶和飞机的“大脑”，正在改变这些行业。
特斯拉公司表示，到2022年，其生产的汽车将拥有完全的自动驾驶能力。谷歌、苹果、通用和福特等公司也有可能在2022年宣布在自动驾驶领域的重大飞跃。
此外，由非营利的海洋研究组织ProMare及IBM共同打造的“五月花”号自动驾驶船舶（MAS）已于2020年正式起航。IBM表示，人工智能船长让MAS具备侦测、思考与决策的能力，能够扫描地平线以发觉潜在危险，并根据各种即时数据来变更路线。2022年，自动驾驶船舶技术也将更上一层楼。
创造性人工智能
在GPT—4谷歌“大脑”等新模型的加持下，人们可以期待人工智能提供更加精致、看似“自然”的创意输出。谷歌“大脑”是GoogleX实验室的一个主要研究项目，是谷歌在人工智能领域开发出的一款模拟人脑具备自我学习功能的软件。
2022年，这些创意性输出通常不是为了展示人工智能的潜力，而是为了应用于日常创作任务，如为文章和时事通讯撰写标题、设计徽标和信息图表等。创造力通常被视为一种非常人性化的技能，但人们将越来越多地看到这些能力出现在机器上。（记者刘霞）
【纠错】【责任编辑:吴咏玲】新一代人工智能的发展与展望
随着大数据、云计算等技术的飞速发展，人们生产生活的数据基础和信息环境得到了大幅提升，人工智能（AI）正在从专用智能迈向通用智能，进入了全新的发展阶段。国务院印发的《新一代人工智能发展规划》指出新一代人工智能相关学科发展、理论建模、技术创新、软硬件升级等整体推进，正在引发链式突破，推动经济社会各领域从数字化、网络化向智能化加速跃升。在4月10日“吴文俊人工智能科学技术奖”十周年颁奖盛典中，作为我国不确定性人工智能领域的主要开拓者、中国人工智能学会名誉理事长李德毅院士荣获“吴文俊人工智能最高成就奖”，并在大会上作题为《探索什么叫新一代人工智能》的报告，探讨了新一代人工智能的内涵和路径，引领着新一代人工智能的发展与展望。
人工智能这一概念诞生于1956年在美国达特茅斯学院举行的“人工智能夏季研讨会”，随后在20世纪50年代末和80年代初先后两次步入发展高峰，但因为技术瓶颈、应用成本等局限性而均掉入低谷。在信息技术的引领下，数据信息快速积累，运算能力大幅提升，人工智能发展环境发生了巨大变化，跨媒体智能、群体智能成为新的发展方向，以2006年深度学习模型的提出为标志，人工智能第三次站在了科技发展的浪潮之巅。
当前，随着移动互联网、物联网、大数据、云计算和人工智能等新一代信息技术的加速迭代演进，人类社会与物理世界的二元结构正在进阶到人类社会、信息空间和物理世界的三元结构，人与人、机器与机器、人与机器的交流互动愈加频繁。在多源数据、多元应用和超算能力、算法模型的共同驱动下，传统以计算机智能为基础的、依赖于算力算法和数据的人工智能，强调通用学习和大规模训练集的机器学习，正逐渐朝着以开放性智能为基础、依赖于交互学习和记忆、基于推理和知识驱动的以混合认知模型为中心的新一代人工智能方向迈进。应该说，新一代人工智能的内核是“会学习”，相较于当下只是代码的重复简单执行，新一代人工智能则需要能够在学习过程中解决新的问题。其中，学习的条件是认知，学习的客体是知识，学习的形态是交互，学习的核心是理解，学习的结果是记忆……因此，学习是新一代人工智能解释解决现实问题的基础，记忆智能是新一代人工智能中多领域、多情景可计算智能的边界和约束。进而当人类进入和智能机器互动的时代，新一代人工智能需要与时俱进地持续学习，不断检视解决新的问题，帮助人机加深、加快从对态势的全息感知递进到对世界的多维认知。
事实上，基于数据驱动型的传统人工智能，大多建立在“数据中立、算法公正和程序正义”三要素基础之上，而新一代人工智能更关注于交互能力，旨在通过设计“记忆”模块来模仿人脑，解决更灵活多变的实际问题，真正成为“不断学习、与时俱进”的人工智能。特别是人机交互支撑实现人机交叉融合与协同互动，目前已在多个领域取得了卓越成果，形成了多方面、多种类、多层次的应用。例如，在线客服可以实现全天候不间断服务，轻松解决用户咨询等问题，也可将棘手问题转交人工客服处理，降低了企业的管理成本；在智慧医疗领域，人工智能可以通过神经影像实现辅助智能诊断，帮助医生阅片，目前准确率已达95%以上，节省了大量的人力；2020年，在抗击疫情的过程中，新一代人工智能技术加速与交通、医疗、教育、应急等事务协作联动，在科技战“疫”中大显身手，助力疫情防控取得显著成效。
未来已来，随着人工智能逐渐融入居民生活的方方面面，将继续在智慧医疗、自动驾驶、工业制造智能化等领域崭露头角。一是基于新一代人工智能的智慧医疗，将助力医院更好记录、存储和分析患者的健康信息，提供更加精准化和个性化的健康服务，显著提升医院的临床诊断精确度。二是通过将新一代人工智能运用于自动驾驶系统的感知、预测和决策等方面，重点解决车道协同、多车调度、传感器定位等问题，重新定义城市生活中人们的出行方式。三是由于我国工业向大型化、高速化、精细化、自主化发展，对高端大规模可编程自动化系统提出迫切需求，新一代人工智能将推动基于工业4.0发展纲领，以高度自动化的智能感知为核心，主动排除生产障碍，发展具备有适应性、资源效率、人机协同工程的智能工厂应运而生。总之，如何展望人工智能通过交互学习和记忆理解实现自编程和自成长，提升自主学习和人机交互的效率，将是未来研究着力发展的硬核领域，并加速新一代信息技术与智能制造深度融合，推动数字化转型走深走实，有信心、有能力去迎接下一场深刻产业变革的到来。
作者：徐云峰
catalogs:13000076;contentid:7688970;publishdate:2021-06-11;author:黄童欣;file:1623414511328-aff718d9-3742-46b0-b08c-e56bdd1ed8c8;source:29;from:中华读书报;timestamp:2021-06-1120:28:23;[责任编辑:]人工智能的伦理挑战
原标题：人工智能的伦理挑战控制论之父维纳在他的名著《人有人的用处》中曾在谈到自动化技术和智能机器之后，得出了一个危言耸听的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”维纳的这句谶语，在今天未必成为现实，但已经成为诸多文学和影视作品中的题材。《银翼杀手》《机械公敌》《西部世界》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上《纽约客》杂志2017年10月23日的封面……人们越来越倾向于讨论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的奴仆。
一
维纳的激进言辞和今天普通人对人工智能的担心有夸张的成分，但人工智能技术的飞速发展的确给未来带来了一系列挑战。其中，人工智能发展最大的问题，不是技术上的瓶颈，而是人工智能与人类的关系问题，这催生了人工智能的伦理学和跨人类主义的伦理学问题。准确来说，这种伦理学已经与传统的伦理学旨趣发生了较大的偏移，其原因在于，人工智能的伦理学讨论的不再是人与人之间的关系，也不是与自然界的既定事实（如动物，生态）之间的关系，而是人类与自己所发明的一种产品构成的关联，由于这种特殊的产品――根据未来学家库兹威尔在《奇点临近》中的说法――一旦超过了某个奇点，就存在彻底压倒人类的可能性，在这种情况下，人与人之间的伦理是否还能约束人类与这个超越奇点的存在之间的关系？
实际上，对人工智能与人类之间伦理关系的研究，不能脱离对人工智能技术本身的讨论。在人工智能领域，从一开始，准确来说是依从着两种完全不同的路径来进行的。
首先，是真正意义上的人工智能的路径，1956年，在达特茅斯学院召开了一次特殊的研讨会，会议的组织者约翰・麦卡锡为这次会议起了一个特殊的名字：人工智能（简称AI）夏季研讨会。这是第一次在学术范围内使用“人工智能”的名称，而参与达特茅斯会议的麦卡锡和明斯基等人直接将这个名词作为一个新的研究方向的名称。实际上，麦卡锡和明斯基思考的是，如何将我们人类的各种感觉，包括视觉、听觉、触觉，甚至大脑的思考都变成称作“信息论之父”的香农意义上的信息，并加以控制和应用。这一阶段上的人工智能的发展，在很大程度上还是对人类行为的模拟，其理论基础来自德国哲学家莱布尼茨的设想，即将人类的各种感觉可以转化为量化的信息数据，也就是说，我们可以将人类的各种感觉经验和思维经验看成是一个复杂的形式符号系统，如果具有强大的信息采集能力和数据分析能力，就能完整地模拟出人类的感觉和思维。这也是为什么明斯基信心十足地宣称：“人的脑子不过是肉做的电脑。”麦卡锡和明斯基不仅成功地模拟出视觉和听觉经验，后来的特里・谢伊诺斯基和杰弗里・辛顿也根据对认知科学和脑科学的最新进展，发明了一个“NETtalk”的程序，模拟了类似于人的“神经元”的网络，让该网络可以像人的大脑一样进行学习，并能够做出简单的思考。
然而，在这个阶段中，所谓的人工智能在更大程度上都是在模拟人的感觉和思维，让一种更像人的思维机器能够诞生。著名的图灵测试，也是在是否能够像人一样思考的标准上进行的。图灵测试的原理很简单，让测试一方和被测试一方彼此分开，只用简单的对话来让处在测试一方的人判断，被测试方是人还是机器，如果有30%的人无法判断对方是人还是机器时，则代表通过了图灵测试。所以，图灵测试的目的，仍然在检验人工智能是否更像人类。但是，问题在于，机器思维在作出自己的判断时，是否需要人的思维这个中介？也就是说，机器是否需要先绕一个弯路，即将自己的思维装扮得像一个人类，再去作出判断？显然，对于人工智能来说，答案是否定的，因为如果人工智能是用来解决某些实际问题，它们根本不需要让自己经过人类思维这个中介，再去思考和解决问题。人类的思维具有一定的定势和短板，强制性地模拟人类大脑思维的方式，并不是人工智能发展的良好选择。
二
所以，人工智能的发展走向了另一个方向，即智能增强（简称IA）上。如果模拟真实的人的大脑和思维的方向不再重要，那么，人工智能是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身的方式来进行。这就出现了机器学习的概念。机器学习的概念，实际上已经成为发展出属于机器本身的学习方式，通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，例如，在给机器浏览了上万张猫的图片之后，让机器从这些图片信息中自己提炼出关于猫的概念。这个时候，很难说机器自己抽象出来的猫的概念，与人类自己理解的猫的概念之间是否存在着差别。不过，最关键的是，一旦机器提炼出属于自己的概念和观念之后，这些抽象的概念和观念将会成为机器自身的思考方式的基础，这些机器自己抽象出来的概念就会形成一种不依赖于人的思考模式网络。当我们讨论打败李世石的阿尔法狗时，我们已经看到了这种机器式思维的凌厉之处，这种机器学习的思维已经让通常意义上的围棋定势丧失了威力，从而让习惯于人类思维的棋手瞬间崩溃。一个不再像人一样思维的机器，或许对于人类来说，会带来更大的恐慌。毕竟，模拟人类大脑和思维的人工智能，尚具有一定的可控性，但基于机器思维的人工智能，我们显然不能作出上述简单的结论，因为，根据与人工智能对弈之后的棋手来说，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。
不过，说智能增强技术是对人类的取代，似乎也言之尚早，至少第一个提出“智能增强”的工程师恩格尔巴特并不这么认为。对于恩格尔巴特来说，麦卡锡和明斯基的方向旨在建立机器和人类的同质性，这种同质性思维模式的建立，反而与人类处于一种竞争关系之中，这就像《西部世界》中那些总是将自己当成人类的机器人一样，他们谋求与人类平起平坐的关系。智能增强技术的目的则完全不是这样，它更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术，自动驾驶技术的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还需要采集大量的地图地貌信息，还需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强类性质的智能，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。
三
这样，由于智能增强技术带来了两种平面，一方面是人类思维的平面，另一方面是机器的平面，所以，两个平面之间也需要一个接口技术。接口技术让人与智能机器的沟通成为可能。当接口技术的主要开创者费尔森斯丁来到伯克利大学时，距离恩格尔巴特在那里讨论智能增强技术已经有10年之久。费尔森斯丁用犹太神话中的一个形象――土傀儡――来形容今天的接口技术下人与智能机器的关系，与其说今天的人工智能在奇点临近时，旨在超越和取代人类，不如说今天的人工智能技术越来越倾向于以人类为中心的傀儡学，在这种观念的指引下，今天的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。在这个意义上，我们可以从费尔森斯丁的傀儡学角度来重新理解人工智能与人的关系的伦理学，也就是说，人类与智能机器的关系，既不是纯粹的利用关系，因为人工智能已经不再是机器或软件，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。当苹果公司开发与人类交流的智能软件Siri时，乔布斯就提出Siri是人类与机器合作的一个最朴实、最优雅的模型。以后，我们或许会看到，当一些国家逐渐陷入老龄化社会之后，无论是一线的生产，还是对这些因衰老而无法行动的老人的照料，或许都会面对这样的人与智能机器的接口技术问题，这是一种人与人工智能之间的新伦理学，他们将构成一种跨人类主义，或许，我们在这种景象中看到的不一定是伦理的灾难，而是一种新的希望。
（作者：蓝江，系南京大学哲学系教授）
许成钢：人工智能与产业革命的另一面
许成钢：人工智能与产业革命的另一面2018-09-13历次产业革命给人类社会带来的负面教训都源于对新技术的高估和滥用。大数据和人工智能正在带来全新的产业革命，值得警惕的是，对新技术的盲目崇拜已经跃跃欲试
文/许成钢
7月8日，国务院发布《新一代人工智能发展规划》。9月初，俄罗斯总统普京在谈及人工智能时表示，人工智能技术发展引发了“难以预测的巨大机遇和威胁”。“谁能成为这一领域领先者,谁就是未来世界的统治者。”
在普京的眼里，人工智能不仅是重大战略机遇，而且是俄罗斯生死存亡的关键。
在人类历史上，所有的技术革命，所有创新性革命性的发生，都是从市场上产生出来的，都是以私有制为基础的企业家创造出来的，是优胜劣汰的最后结果。
大力推动人工智能，这个大方向是非常正确的，但是我们要关心的是怎么做：是用计划的方法做吗？我们可以非常确定地回答：计划的方法做不出来。计划的方法充其量就是跟着别人走，能走多远也不知道。
在人工智能的大量辩论中，已经有重要的人物站出来说：人工智能将来可以产生新一代的计划经济。比如人工智能很重要的一个应用就是在金融领域。既然投资都可以由机器来决定，那不就是计划经济吗？
所以这是一个非常重要的基本问题，就是计划经济的界限在哪里。
最大的问题是制度问题
产业革命的效用并不永远在所有方面都是正面的，我们首先要警惕那些负面的东西
在回答这个问题之前，我首先要强调的是，中国面对的最大问题是制度问题，不是一揽子的技术问题。因为一两项技术是不是全球领先并不重要，重要的是国民经济是不是整体领先。
去年麦肯锡做了一个调研，发现中国的劳动生产率仅为经合组织（OECD）国家平均值的15％-30％，就是说中国的劳动生产率比发达国家低很多倍。这意味着中国不是说在最前沿的领域上有多落后，而是普遍的落后。
一方面是劳动生产率如此低下，但与此同时，我们看到的另一方面是劳动力成本非常高。经济学人智库的分析显示，2016年中国单位劳动力成本高于美国和西欧。牛津经济研究院调研结果发现，2016年中国劳动力成本仅比美国低4％。另一个计算方式是按照单位劳动生产率，就是说如果我们在中国和美国造同样的东西，结果发现如果单独看劳动力的话，中国实际上比美国还贵。这就奇怪了。
劳动力成本非常贵，是不是意味着中国的工人拿钱太多了呢？不是。中国的家庭收入只占中国GDP的三分之一略强，为世界最低。世界上所有其他国家，家庭收入占本国GDP的比例都在一半以上，所以中国的工人并没有拿多少钱。
劳动力这么贵，工人却没拿多少钱，成本是压在企业脑袋上，企业也没拿到，因此是国家拿走了。所以我们看到，政府财政收入增长率连续20多年超过GDP增长率，如今仍然如此。
所以政府的收入是世界上最高的，导致劳动者和企业承担了巨大的制度成本。
不解决制度问题，仅仅把力量集中在最前沿技术的所谓产业升级上，可以得到产业升级的结果，但是解决不了普遍的经济问题。而且即便是单独讨论产业升级，也只是个别的解决。
产业革命的负面教训
当人们误认为新兴科学技术超越人类几千年积累的科学知识，误认为它们可以全面取代人类文明几千年积累下来的制度，灾难就会接踵而至
现在人们的看法是大数据和人工智能在引领下一轮的产业革命，这样的看法是有道理的。但是在讨论它们如何引领的时候，我们需要非常冷静地回顾过去历次产业革命所带来的巨大的负面教训，这些教训都来自于对新技术的高估和滥用。
产业革命的效用并不永远在所有方面都是正面的，我们首先要警惕那些负面的东西。
历次产业革命造成的最大的负面教训就是国有制和中央计划经济。实际上，这个想法最早是在两次产业革命过程中产生出来的。
当时，一些极左翼知识分子误认为人类有能力认识一切，误认为人类有能力掌控社会所有的方方面面。在这个背景下，误认为人类有能力知道所有人的福利是什么，有能力安排所有人的福利，有能力帮助人类安排所有的技术的变化，所有的生产，一切的一切，这就是国有制和中央计划思潮产生的背景。因为人类历史上以前没有出现过这种产业革命性质的事情，一部分知识分子高估自己的力量，高估了以后去滥用。
国有制和中央计划经济影响了全球三分之一的人口，这种基本制度的另一个更普遍的负面作用是对环境的破坏。
举两个例子：一是巨大的水利工程。人们以为自己有全部的能力规划河道、湖泊、陆地，可以通过建坝的方式建造前所未有的巨大的人工湖，直到后来发生灾难性的后果，才意识到有大量的事情他们不知道。他们误以为政府手里有了资源、有了权力，哪怕他是好心，也可以制造出巨大的灾难，就是因为他们不知道，但是他们误以为他们知道。
20多年前，在国际间已经形成了共识，人类一定不要再制造大的人工湖了，任何巨大的水坝在建设之前，第一重要的是评价其对环境的破坏，这是其一。
其二，碳排放导致地球温度上升。这是过去历次产业革命、技术发展、经济发展完全没有意识到的问题。原因是一样的，人们误认为自己聪明的不得了，误认为他们可以集中一切力量解决一切问题，直到用化石燃料排出来巨量的碳，导致地球温度上升。比如横扫西印度群岛和美国的飓风“艾玛”，每小时速度达到300公里，扫过的岛屿95％的建筑被全部抹平。实际上，这个天灾是人造的，是人们误认为自己能力大的不得了，什么都能干，结果干出这样的后果。
当这些老的教训还远没能充分吸取，现在大数据和人工智能来了。我们必须要关心滥用大数据、滥用人工智能带来的危险。我们知道现在有一些科学家已经发出警告，但是他们大部分讨论的是基本的道德问题，比如有没有可能机器人杀人，我更想强调的是另外一个问题，制度问题，就是市场和计划之间的关系。
当人们误认为新兴科学技术超越人类几千年积累的科学知识，误认为它们可以全面取代人类文明几千年积累下来的制度，灾难就会接踵而至。比如一些政府或者是带有垄断性的大公司，试图利用它们掌握的大数据来控制社会，试图利用它来取代市场，试图利用它来取代或者控制自由的言论，利用技术进步来反社会，这会给社会带来灾难。
对新技术的盲目崇拜已经跃跃欲试，反思历次产业革命对人类带来的教训，警惕对新技术的高估和滥用，才能让这一次产业革命真正持久地造福人类。
来源：《财经》
“科技是把双刃剑”，人工智能技术锋芒毕露的另一面
毫无疑问，人工智能正在深刻改变着社会。如果我们谈论未来，一定无法避免谈论人工智能。
作为国家盖戳认证的“新基建”之一，人工智能近几年来进展飞速——从零售、出行、金融、到医疗、教育、农业、工业。。.。。.基于人工智能技术的应用在各个领域中间铺开，人工智能明星公司和独角兽大量涌现。
“科技是把双刃剑”，人工智能技术锋芒毕露的另一面，一些始料未及的“副作用”随之诞生，焦虑与恐惧随着AI技术的进步而不断被放大。
？
央视曝光“AI骚扰电话”2019年，“315晚会”上揭露了从探针盒子截取用户App隐私数据到AI骚扰电话这一完整的黑色产业链；然而早在2017年AI就曾被“315晚会”点名——通过自拍照3D建模后的“伪活人”可以轻松骗过人脸识别登录系统，成功“黑”进个人账户。
AI技术围猎个人基本权益是一个长久的命题，但回顾2019年我们就会发现，在一个又一个新闻热点的背后，从肖像权到个人隐私权，个人信息的“裸奔”现状并未得到有效改善——
不消停的“AI侵权”8月底，一个名为“ZAO”的AI换脸app突然刷屏朋友圈，大众又一次沦为现象级app的娱乐对象。在ZAOApp中，用户可上传自己的头像照片，App利用AI换脸技术将用户肖像替换到各类影视剧中。
在一些论坛上，部分AI从业者对于“ZAO”的横空出世颇感意外，毕竟“因为法律纠纷，现在地下色情产业都不敢轻易碰这块儿，ZAO能过得了法律这一关吗？”。
果不其然，“ZAO”面世两天后，其用户协议上的陷阱被网友扒出，最受抨击的“使用者的肖像权为全球范围内免费、不可撤、永久可转授权”，意味着用户将自己的肖像权拱手让人。此外，若被换脸明星因侵犯肖像权提起诉讼，则用户承担全部责任，而“ZAO”作为平台方反而“置身事外”。
无论是“AI换脸”还是“人脸识别”，人脸作为每个人身上最直观的唯一性生物特征，其使用暗藏着巨大的法律风险，强制收集、过度攫取人脸信息的争议也因此一直不绝于耳。
19年10月，“中国人脸识别第一案”登上热搜。浙江理工大学特聘副教授郭兵将杭州野生动物世界告上法庭，理由是动物园要把年卡用户由之前的指纹认证入园改为人脸识别认证入园，未注册人脸识别的用户将无法正常入园，同时也无法办理退费。
凭什么没征求用户的意见，就默认用户有意愿将人脸信息放心交予园方？强制下达的新政策让郭兵很是气愤，“我觉得这显然违法了《消费者权益保护法》，也不符合《网络安全法》，更不符合目前正在制定的《个人信息保护法》。”
“人脸识别”成了AI技术侵权的“出头鸟”，但反观我们的日常生活，从手机APP开启麦克风权限“偷听”到监控输入法，精准推荐的“好意”与信息泄漏的边界难以界定，这其中又有多少出自用户的完全自愿？
小学生戴“头环”上课
新技术造就新的应用场景，也带了更多意想不到的法律难题——小学生头戴“脑机接口”头环上课，AI技术开始充当其老师和家长的“间谍”，人权与技术的冲突再一次被摆上台面……
监管的尴尬：立法滞后、诉讼难执行2019年11月底，国家网信办、文旅部和广电总局等三部门联合发布了《网络音视频信息服务管理规定》，明确“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的……应当及时采取相应的辟谣措施”。12月20日，全国人大常委会法工委宣布，中国2020年将制定个人信息保护法、数据安全法——从根本上解决问题的“元规则”正在路上。
但由于AI技术革新快、应用技术广泛多变的特性，法律能否赶得上技术的日新月异？在公众个人信息保护意识普遍淡漠的当下，又该如何做到“违法必纠？
中国互联网协会法治工作委员会副秘书长、中国消费者协会律师团律师胡钢跟踪中国互联网成长20年，他对搜狐科技表示，在立法之外，中国新版《个人信息安全规范》（以下简称《规范》）在几天前的3月9日正式发布。作为国家性推荐标准，它具备约束行业的指导意义。
从《规范》来看，新版对于个人信息的主体告知收集、个人生物信息的存储方面都有了细化和完善。
不过胡钢指出，新版《规范》和老版一样，其制定者大部分还是企业及相关技术负责人，因此还是存在很大局限性。“（制定者）起码应该是三部分人，包括企业代表、消费者代表、然后是伦理、法律的相关专家。但事实上，后两者的占比甚至连两成都不到。”
自2017年，第一版《规范》发行以来，强制授权，过度索权，超范围收集个人信息的情况仍然普遍存在，我们所了解的很多大型互联网/科技公司都有被网信办等部门点名的经历。
“刷脸”登陆/支付如今已成为移动App主流胡钢表示，以很多互联网/科技公司都在推广的“刷脸”功能为例，“正确的做法应该是用户拍下的个人照片通过算法推演一套不可对人脸进行还原的单向数据，将纯数据传输给公司，用户的照片在本地短暂保存后应立刻销毁。不过很可惜的是，基本全（互联网）行业没有这样做的，都是在做整张脸（将用户面部信息直接发送至企业后台）。”
此外，《规范》并不具备和法律同等的震慑力。职能部门一直以来的处理方式大都集中在点名、约谈、整改等方式上。两年前，支付宝因个人信息保护不力，仅仅被央行罚款5万元人民币，引起舆论一片哗然。
胡钢告诉搜狐科技，像个人信息泄漏/买卖基本上都是大规模案件，“没有人在乎什么50万用户数据，根本卖不了钱，要做都得1000万（用户信息）以上。”
这也意味着，即使立法出台后，由于诉讼难以执行，最后依然会重复没人管也没人改的恶性循环。
为了个人信息保护法出台后能够更好的落实，从源头上预防此类事件的发生，胡钢认为还需要做到三点，“首先必须要有专责机关，例如香港的隐私专员公署，或者纯粹的公益组织，能够代表广大消费者在关键时刻提起诉讼；第二，明确民事赔偿的数额标准，譬如一条信息具体赔多少钱；第三，行政处罚的力度要上去，像欧盟就会对一些公司开出上年全球收入的4%这种的巨额罚单。”
“反黑产AI”的前景与窘境法律约束是整个行业行为规范的前提条件，但目前棘手的问题时，个人信息泄露/贩卖/伪造等已经形成了庞大且成熟的产业链。既然AI能够对“黑产”推波助澜，是否又能反过来“以其人之道还治其人之身”？
自2019年“AI拨打骚扰电话”的黑色产业链被曝光后，第二天，阿里巴巴人工智能实验室的一项内部代号名为“二哈”的智能防骚扰电话技术就被曝光。在一段演示视频中，一名推销贷款的推销员与“二哈”对聊一分多钟并未发现破绽，甚至还遭到了“北京能不能贷款？”“最多能贷多少钱”这样的主动提问。
同期，国外像谷歌等国外大公司都宣布推出了“AI反骚扰电话“的研究，虽然这一技术均处在早期研究阶段，不过可以预见的是，未来的垃圾电话，很可能变成AI双方的对垒。
而自诞生以来丑闻不断的“AI换脸”技术，日前也等到了防伪“突破口”。今年2月，微软亚洲研究院计算机视觉组的最新研究成果、可以进行鉴别人脸图像、视频的真假“FaceX-Ray”技术，其相关论文已被CVPR2020收录。
微软最新研究成果给“假脸”照X光微软亚洲研究院高级研究员陈栋告诉搜狐科技，这一图像鉴别技术技术在搜索引擎过滤、视频网站审核、司法鉴定等场景里都有应用的前景，但目前FaceX-Ray还处于基础研究阶段，基于现有的突破，算法上还需要不断的提升和优化，来解决一些已知的缺陷，例如鉴别全图合成的图片，此外对视频现在也只能做到逐帧鉴别。
遗憾的是，道高一尺魔高一丈，目前来看，“AI反黑产”的技术成果仍落后于被应用于“黑产”的AI技术的脚步。一位人工智能行业从业者透露，“这也完全可以理解，毕竟（这些技术）的主要是公益性大于商业性”。
人工智能的发展，需要大量的数据。此前有媒体报道，一个魔幻的现实是，许多人脸识别公司为了度过缺乏数据的冷启动期，甚至会去购买人脸数据，而中间商手里的人脸识别数据往往也是通过其他技术公司或数据标注公司几经倒手的获得的。
技术是中立的，但使用技术的人并不是。
可以预见的是，AI技术发展与个人信息保护之间仍然会持续长久地争议性对立，但通过法律的制定、技术的进步、市场的磨合，期望在未来能迈向更加平衡和稳定的关系。