科学网—从人工智能的三条路线看未来
从人工智能的三条路线看未来《科学之路：人，机器与未来》，[法]杨立昆著，李皓、马跃译，中信出版社2021年8月出版，定价：88元
■黄铁军
杨立昆是当今世界顶尖的人工智能专家，为他的新书作序，颇具挑战性。好在众多专家已在人工智能领域探索了近70年，本文希望通过反思已走过路径的合理性及局限性，探索人工智能的未来发展方向。
就像人可以分为精神和肉体两个层次，机器智能也可以分为载体（具有特定结构的机器）和智能（作为一种现象的功能）两个层次，两个层次同样重要。因此，我偏好用机器智能这个概念替代人工智能。
与机器智能相比，人工智能这个概念的重心在智能。“人工”二字高高在上的特权感主导了人工智能研究的前半叶，集中体现为符号主义。符号主义主张（由人）将智能形式化为符号、知识、规则和算法，认为符号是智能的基本元素，智能是符号的表征和运算过程。
符号主义的思想起源是数理逻辑、心理学和认知科学，并随着计算机的发明而步入实践。符号主义有过辉煌，但不能从根本上解决智能问题，一个重要原因是“纸上得来终觉浅”：人类抽象出的符号，源头是身体对物理世界的感知，人类能够通过符号进行交流，是因为人类拥有类似的身体。
计算机只处理符号，就不可能有类人感知和类人智能，人类可意会而不能言传的“潜智能”，不必或不能形式化为符号，更是计算机不能触及的。要实现类人乃至超人智能，就不能仅仅依靠计算机。
与符号主义自顶向下的路线针锋相对的是连接主义。连接主义采取自底向上的路线，强调智能活动是由大量简单单元通过复杂连接后并行运行的结果，基本思想是，既然生物智能是由神经网络产生的，那就通过人工方式构造神经网络，再训练人工神经网络产生智能。
人工神经网络研究在现代计算机发明之前就开始了，1943年，沃伦·麦卡洛克和沃尔特·皮茨提出的M-P神经元模型沿用至今。连接主义的困难在于，它并不知道什么样的网络能够产生预期智能，因此大量探索归于失败。
20世纪80年代神经网络曾经兴盛一时，掀起本轮人工智能浪潮的深度神经网络只是少见的成功个案，不过这也是技术探索的常态。
人工智能的第三条路线是行为主义，又称进化主义，思想来源是进化论和控制论。生物智能是自然进化的产物，生物通过与环境以及其他生物之间的相互作用发展出越来越强的智能，人工智能也可以沿这个途径发展。
这个学派在20世纪80年代末90年代初兴起，近年来颇受瞩目的波士顿动力公司的机器狗和机器人就是这个学派的代表作。行为主义的一个分支方向是具身智能，强调身体对智能形成和发展的重要性。行为主义遇到的困难和连接主义类似，那就是什么样的智能主体才是“可塑之才”。
机器学习从20世纪80年代中期开始引领人工智能发展潮流，本书给出了很通俗的定义：学习就是逐步减少系统误差的过程，机器学习就是机器进行尝试、犯错以及自我调整等操作。机器学习对人工智能最重要的贡献是把研究重心从人工赋予机器智能转移到机器自行习得智能。近年来，最成功的机器学习方法是深度学习和强化学习。
深度学习是连接主义和机器学习相结合的产物，最大的贡献是找到了一种在多层神经网络上进行机器学习的方法，本书作者杨立昆和约书亚·本吉奥、杰弗里·辛顿因此获得2018年度图灵奖。
深度学习首先回答了什么样的神经网络可以训练出智能，包括多层神经网络和卷积神经网络，也回答了训练（学习）方法问题，包括受限玻尔兹曼机模型、反向传播算法、自编码模型等。深度学习对连接主义的重大意义是给出了一条训练智能的可行途径，对机器学习的重大意义则是给出了一个凝聚学习成效的可塑载体。
强化学习的思想和行为主义一脉相承，可追溯到1911年行为心理学的效用法则：给定情境下，得到奖励的行为会被强化，而受到惩罚的行为会被弱化，这就是强化学习的核心机制——试错。1989年，沃特金斯提出Q学习，证明了强化学习的收敛性。
2013年，谷歌子公司DeepMind将Q学习和深度神经网络相结合，取得AlphaGo、AlphaZero（阿尔法元）和AlphaStar等重大突破。最近，DeepMind更是强调，只需要强化学习，就能实现通用人工智能。
与DeepMind极力推崇强化学习不同，杨立昆认为强化学习不过是锦上添花，传统监督学习标注成本高，泛化能力有限，也只是点缀，自监督学习才是机器学习的未来。
自监督学习是通过观察发现世界内在结构的过程，是人类（以及动物）最主要的学习形式，是“智力的本质”，这就是本书第九章的核心观点。最近，杨立昆和另外两位图灵奖获得者发表的论文DeepLearningforAI（《面向人工智能的深度学习》）中，也重点谈了这个观点。
有了三位图灵奖获得者的大力倡导，相信自监督学习将会掀起一波新的研究浪潮，但我不认为这就是“智力的本质”。根本原因在于，这只是从机器学习层次看问题，或者更一般地说，是从功能层次看问题。我认为，学习方法（功能）固然重要，从事学习的机器（结构）同样重要，甚至更重要，因为结构决定功能。正如我开始时强调过的，永远不要忘记作为智能载体的机器。
杨立昆在第九章开篇提到了法国航空先驱克莱芒·阿代尔，他比莱特兄弟早13年造出了能飞起来的载人机器。杨立昆从这位先驱身上看到的主要是教训：“我们尝试复制生物学机制的前提是理解自然机制的本质，因为在不了解生物学原理的情况下进行复制必然导致惨败。”
他的立场也很清楚：“我认为，我们必须探究智能和学习的基础原理，不管这些原理是以生物学的形式还是以电子的形式存在。正如空气动力学解释了飞机、鸟类、蝙蝠和昆虫的飞行原理，热力学解释了热机和生化过程中的能量转换一样，智能理论也必须考虑到各种形式的智能。”
我的看法和他不同，我认为克莱芒·阿代尔（和莱特兄弟）不仅没有“惨败”，而且取得了伟大的成功。
原因很简单：克莱芒·阿代尔1890年和莱特兄弟1903年分别发明飞机，而空气动力学是1939—1946年才建立起来的。两次世界大战中发挥重大作用的飞机，主要贡献来自克莱芒·阿代尔和莱特兄弟的工程实践，而不是空气动力学理论的贡献，因为空气动力学还没出现。
另一个基本事实是，至今空气动力学也没能全面解释飞机飞行的所有秘密，更没有全面解释各种动物的飞行原理。空气动力学很伟大，但它是“事后诸葛亮”，对于优化后来的飞机设计意义重大，但它不是指导飞机发明的理论导师。
智能比飞行要复杂得多，深度学习成功实现了智能，但是能够解释这种成功的理论还没出现，我们并不能因此否定深度学习的伟大意义。杨立昆和另外两位图灵奖获得者的伟大，和克莱芒·阿代尔及莱特兄弟之伟大的性质相同。
我们当然要追求智能理论，但是不能迷恋智能理论，更不能把智能理论当作人工智能发展的前提。如果这里的智能理论还试图涵盖包括人类智能在内的“各种形式的智能”，则这种理论很可能超出了人类智能可理解的范围。
所以，尽管自监督学习是值得探索的一个重要方向，它也只是探索“智力的本质”漫漫长途中的一个阶段。
人类和很多动物具有自监督学习能力，并不是自监督学习多神奇，而是因为他（它）们拥有一颗可以自监督学习的大脑，这才是智力的本质所在。机器要进行自监督学习，也要有自己的大脑，至少要有深度神经网络那样的可塑载体，否则自监督学习无从发生。
相比之下，强化学习的要求简单得多，一个对温度敏感的有机大分子就能进行强化学习，这正是生命和智能出现的原因。所以，强化学习才是更基本的学习方法。
当然，从零开始强化学习，确实简单粗暴、浪费巨大，这也是强化学习思想提出百年并没取得太大进展的重要原因。强化学习近十年来突然加速，是因为有了深度神经网络作为训练的结构基础，因而在围棋、《星际争霸》等游戏中超越人类。不过，人类输得并不心甘情愿，抱怨的主要理由是机器消耗的能源远高于人类大脑。
我认为这种抱怨是片面的，人类棋手大脑的功耗确实只有数十瓦，但训练一个人类棋手要花费十多年时间。更重要的是，人类棋手学围棋时是带着大脑这个先天基础的，这颗大脑是亿万年进化来的，消耗了巨大的太阳能，这都应该记到能耗的总账中。这样比较，到底是机器棋手还是人类棋手能耗更大呢？
从节省能源角度看，机器智能确实不应该从头再进化一次，而是应该以进化训练好的生物神经网络为基础，这就是纯粹的连接主义：构造一个逼近生物神经网络的人工神经网络。
1950年，图灵的开辟性论文《计算机与智能》中就表达了这个观点：“真正的智能机器必须具有学习能力，制造这种机器的方法是，先制造一个模拟童年大脑的机器，再教育训练它。”这也是类脑智能或神经形态计算的基本出发点。
相关科研实践开始于20世纪80年代，基本理念就是构造逼近生物神经网络的神经形态光电系统，再通过训练与交互，实现更强的人工智能乃至强人工智能。
除了改进训练对象的先天结构，训练不可或缺的另一个要素是环境。环境才是智能的真正来源，不同环境孕育不同智能。人们往往把今天人工智能系统的成功归结为三个要素：大数据+大算力+强算法，其中数据是根本，另外两个要素主要影响效率。训练更强智能，需要更大数据，这是智能发展的基本规律。
但即便是大数据，也不能完整有效地表达环境，数字孪生能更全面地刻画物理环境，更好地保留环境自有的时空关系，因此也能够哺育出更强的人工智能。物理世界的模型化本来就是科学最核心的任务，以前从中发现规律的是人类，未来这个发现主体将扩展到机器。
行文至此，我们已经从人工智能发展史中小心翼翼地挑出三根靠得住的基本支柱：一是神经网络，二是强化学习，三是环境模型。在这三根支柱中，杨立昆最突出的贡献是对神经网络的贡献，特别是卷积神经网络。至于想到用卷积神经网络，是因为借鉴了生物神经感知系统，这就是卷积神经网络在图像识别和语音识别等领域大获成功的主要原因——深度神经网络已经借鉴了生物神经网络的部分结构。
总而言之，人工智能经典学派有三个：符号主义、连接主义和行为主义。符号描述和逻辑推理不是智能的基础，而是一种表现，读写都不会的文盲就拥有的“低级”智能才更基础。因此，连接主义和行为主义虽然困难重重，但有着更强的生命力，从中发展出的深度学习和强化学习两套方法，成为当今支撑人工智能的两大主要方法。
最后需要强调的是，人类智能是地球环境培育出的最美丽的花朵，我们在为自己骄傲的同时，也要警惕人类中心主义。
（作者系北京智源人工智能研究院院长、北京大学教授，本文为《科学之路：人，机器与未来》一书序言，有删减，标题为编者所加）
《中国科学报》(2021-08-19第7版书评)全球数治｜首份人工智能伦理全球协议的两项关键共识
这里是“全球数治”专栏周报，追踪近期全球数字治理动态
11月24日，联合国教科文组织（UNESCO）在第41届大会上通过了首份关于人工智能伦理的全球协议《人工智能伦理问题建议书》（以下简称《建议书》），供193个成员国采用。《建议书》定义了关于人工智能技术和应用的共同价值观与原则，用以指导建立必需的法律框架，确保人工智能的良性发展，促进该项技术为人类、社会、环境及生态系统服务，并预防潜在风险。
作为引领第四次科技革命的关键技术创新，人工智能给全球社会和经济发展带来了重大而深远的正面影响，例如增加生活便利和民生福祉、提升政府和企业运营效率、帮助应对气候变化和贫困饥饿问题。然而，该项技术同时也带来了前所未有的严峻挑战，包括对个人隐私和尊严的重大威胁，性别和种族偏见加剧，大规模监控风险激增等。
鉴于该项技术在实际应用过程中兼具创造性和破坏性，但却长期缺乏全球通用的治理标准，UNESCO于2018年发起“为世界打造运用人工智能的伦理框架”项目，遴选24名来自世界各国的专家历时三年共同撰写完成《人工智能伦理建议书》，并经过193个成员国之间超过100小时的多边谈判和反复修订，最终于今年11月获得通过。这不仅是全球首个针对人工智能伦理的规则框架和共同纲领，也是当前在世界各国政府层面达成的最广泛共识，为下一步制定规范人工智能发展的具体国际法规和技术标准提供了强有力支撑，堪称多边主义的又一次胜利。
《建议书》所建立的人工智能伦理框架主要由价值观、伦理原则和政策指导三部分组成，文本内容十分全面，注重多方观念和利益的平衡。其中，人工智能的价值观强调：一、尊重、保护和促进人权、基本自由及人的尊严；二、保护环境和生态系统的蓬勃发展；三、确保多样性和包容性；四、在和平、公正与互联的社会中共生。伦理原则主要包含：相称性和不损害、保障安全、公平和非歧视、可持续性、隐私权和数据保护、人类监督和决定、透明度和可解释性、责任与问责、技术认知和素养、多利益攸关方协同治理等10方面。政策指导则涉及伦理影响评估、伦理治理和管理、数据政策、发展与国际合作、环境和生态系统、性别、文化、教育和研究、传播和信息、经济和劳动、健康和社会福祉、监测与评估共12个细分领域。同时，《建议书》鼓励所有成员国考虑增设独立的人工智能伦理官员或其它相关机制，以监督审计和持续监测应用该技术带来的影响。
在全面考虑和广泛涵盖的基础上，《建议书》最为核心的内容集中于呼吁各国采取数据保护行动、禁止社会评分和大规模监控、监测和评估人工智能系统的社会及环境影响等。并且，《建议书》在这些问题上没有一味遵从西方人工智能技术先发国家的既有标准，而是通过编撰过程中的区域性专家咨询会、政府间专家磋商、各成员国意见征集等环节来广泛听取和采纳中国等发展中国家的意见和建议，努力平衡价值差异，推动形成多边共识。其中，有两项共识尤为关键。
首先，《建议书》将“可持续发展”确定为全球人工智能发展的总体愿景和重要途径，主张发展人工智能技术和应用都以有利于实现可持续发展目标为优先导向，且需要密切关注和防范阻碍该目标实现的各类风险。同时，《建议书》不囿于应当“发展先行”还是“治理先行”的争论，强调两者相互协同，使人工智能系统在整个生命周期内都可以赋能人类、社会、生态之间的和谐共生。
其次，在人工智能伦理和治理范式创新方面，《建议书》倡导“协同共治”的路径选择。《建议书》强调，诸如人脸识别、自动化决策、社会评分等人工智能应用带来的伦理挑战不可能仅通过禁止使用来解决问题，而是要将基于多边共识的伦理标准贯穿于人工智能系统设计、研发、部署、使用的全部过程，并适配相应的治理规则和手段，实现防患于未然。与此同时，人工智能治理单靠政府或政府间合作并不能有效实现，而是要依靠整个技术生态系统中的多方深度协同。政府、企业、研发、用户、学术界、媒体等利益相关方都需要担负起相应责任，开展全流程协同共治。
UNESCO通过相对平等而广泛的公共讨论促成了《建议书》及首个全球人工智能伦理框架的确立。这不仅凝聚了全世界193个国家对这项新兴技术的可持续发展共识，也进一步打开了未来多边协同治理的新前景。下一步，还需要将其中的价值观、原则和政策加以落地，推动各国形成可执行的标准和细则，将理念化为行动，使理想融入现实。
规则
美欧启动联合应对技术竞争政策对话
12月7日，欧盟委员会执行副主席玛格丽特·维斯塔格、美国联邦贸易委员会主席莉娜·汗和美国司法部反垄断助理总检察长乔纳森·坎特在华盛顿启动了美欧联合应对技术竞争政策对话并发表联合声明，以加强双方在快速发展的技术领域内的政策协调和共同执法。声明指出，美欧坚持共同的民主价值观和对良性市场竞争的信念，在数字竞争执法领域面临网络效应、海量数据、互操作性等共同挑战。因此，美欧将在政策和执法方面进一步加强协调。（来源：欧盟委员会官网）
英国发布算法透明度的开创性标准
11月29日，英国中央数字办公室(CDDO)发布了算法透明度标准，旨在为政府部门和公共机构提供用于支持决策的算法工具的明确信息，兑现其在国家数据战略和国家人工智能战略中做出的承诺。算法透明度标准涵盖透明度数据标准，透明度模板和行动指南等，将有助于帮助组织提高算法工具的透明性。（来源：英国政府官网）
缅甸罗兴亚难民因暴力事件起诉Facebook，要求赔偿1500亿美元
12月6日，缅甸的一个罗兴亚难民团体在美国提起一项集体诉讼，指控社交媒体平台Facebook促进了针对受迫害的少数群体的暴力，要求Facebook赔偿1500亿美元。Facebook表示，虽然以前没有及时防止错误信息和仇恨言论传播，但事后已采取补救措施，包括在2月1日缅甸政变后禁止军方使用Facebook和Instagram。Facebook曾表示，它受到美国互联网法“第230条”的保护，免于对用户发布的内容承担责任。罗兴亚难民团体则表示，如果Facebook提出“第230条”作为抗辩理由，他们将寻求通过缅甸法律进行索赔。（来源：路透社）
政策
美国防部拟重组三个关键技术办公室
12月1日，美国防部宣布将把国防部数字服务局、联合人工智能中心及首席数据官办公室重组为首席数据与人工智能官办公室，以简化流程，并为使用人工智能与数据创造出更具凝聚力的方法。根据拟议计划，三个办公室仍保持独立，但都向新办公室报告。此举将为三个办公室提供更清晰的组织结构，帮助其掌握更多数据并应用于人工智能，进而推动联合全域指挥控制工作。（来源：美国外交关系协会）
工信部预测2025年中国大数据产业规模将突破3万亿元
11月30日，国家工信部召开新闻发布会，介绍《“十四五”大数据产业发展规划》相关情况。《规划》提出，到2025年，我国大数据产业规模预计将突破3万亿元，年均复合增长率保持25%左右，创新力强、附加值高、自主可控的现代化大数据产业体系基本形成。《规划》就加快培育数据要素市场、发挥大数据特性优势、夯实产业发展基础、构建稳定高效产业链、打造繁荣有序产业生态、筑牢数据安全保障防线等六个方面设定了重点任务，并安排了数据治理能力提升、重点标准研制及应用推广、工业大数据价值提升、行业大数据开发利用、企业主体发展能级跃升、数据安全铸盾共六个专项行动。此外，《规划》还提出加快构建全国一体化大数据中心体系，推进国家工业互联网大数据中心建设，引导大中小企业融通发展和产业链上下游协同创新，支持传统企业开展大数据业务剥离重组。（来源：中国政府网）
监管
美国联邦贸易委员会对英伟达公司收购ARM的交易提起诉讼
12月2日，美国联邦贸易委员会（FTC）宣布，已经以反垄断为由提起诉讼，旨在阻止英伟达公司以400亿美元价格收购ARM的计划。FTC认为，这笔交易将会扼杀云计算、数据中心和自动驾驶汽车等各种技术的市场创新，并将“不公平地削弱”英伟达的竞争对手。这起诉讼是英伟达收购ARM交易在监管方面遭遇的又一次打击。此前，英国政府和欧盟委员会已经开始对该笔交易展开深入的反垄断调查。（来源：路透社）
产业与技术
Meta与亚马逊AWS达成云服务合作协议
12月1日，Meta公司宣布与亚马逊公司云服务部门（AWS）达成合作，将AWS作为其长期战略云服务提供商，扩大对AWS计算、存储、数据库和安全服务的使用范围，以补充Meta现有的本地基础设施。Meta还将使用AWS的计算服务来加速其AI团队的研发工作，并将在AWS平台上运行第三方合作应用。（来源：亚马逊官网）
城市数字化
国务院发文支持北京城市副中心大力发展数字经济，推进智慧城市建设
11月26日，国务院发布关于支持北京城市副中心高质量发展的意见。意见提出，到2025年，城市副中心绿色城市、森林城市、海绵城市、智慧城市、人文城市、宜居城市功能将基本形成。意见明确，强化科技创新引领，聚焦新一代信息技术、智能制造等领域，实施一批国家重大科技项目和应用示范项目，引导创新链、产业链在城市副中心及周边地区布局，大力发展数字经济。围绕第五代移动通信（5G）网络、人工智能、云计算、大数据、互联网协议第6版（IPv6）等加紧布局数字新基建，在智慧城市、数字乡村建设等领域建成一批示范应用新场景，支持开展科技应用场景沙盒试点。（来源：中国政府网）
美国巴尔的摩市计划建设普惠智能网络以缩小数字鸿沟
11月30日，美国巴尔的摩市长办公室宣布，将拨款3500万美元为受公共卫生紧急情况影响最严重的社区和居民提供网络接入方面的救济。其中，首笔600万美元将用于大幅扩大公共互联网接入，以缩小城市中的数字鸿沟。鉴于互联网接入已成为最为关键和基本的公共基础设施，实现网络接入公平成为未来智慧城市的关键内涵之一。巴尔的摩市计划在未来十年间持续投资于在全市范围内建设开放、普惠的智能网络基础设施，以确保每位市民都能平等、便捷的接入互联网。（来源：巴尔的摩市政府官网）