科学新闻
新一代人工智能新趋势
社会发展史上，人类经历了农业革命、工业革命，当前正在经历信息革命。智能化是信息革命的一个新阶段，信息革命从数字化开始发动，网络化将其提升到了非常重要的阶段，现在人类社会进入了智能化阶段。
人工智能是依托人工设计的装置，为了完成人工规定的任务，通过人工设计的算法和由人工（直接或间接）提供的数据，经学习形成自主的感知、认知和决策能力。人工智能是渗透力很强的通用技术，是引领新一轮科技产业变革的战略性技术，具有溢出带动性很强的“头雁效应”。
近年来，有关人工智能的研究不断增长。WoS统计数据表明，2018~2020年，人工智能算法研究论文数量持续增长，从13万增长到17万多篇，应用领域也逐年扩大。
新一代人工智能技术是在克服现存瓶颈中开辟新道路的。当前人工智能发展的瓶颈，包括数据可获得性和质量问题、模型可移植性问题、能效和能耗问题、语义鸿沟问题、算法可解释性问题、可靠性问题等等。
数据的可获得性和质量是新一代人工智能面临的第一个大问题。大量数据的获得并不那么容易，一般的企业没有能力获得这么大量的数据，也花不起如此之高的成本去做大量标注，而且还需要投入大量的算力。
其次是能耗瓶颈。2020年5月，人工智能非营利组织OpenAI发布了预训练语言模型GPT-3，其具有1750亿参数，在许多自然语言处理数据集上均具有出色的表现，包括翻译、问答和文本填空任务，还包括一些需要即时推理或领域适应的任务等，可以说其在很多实际任务上已大幅接近人类水平。开源预训练模型大大降低了企业开发的门槛，但这种神经网络模型所需的数据、算力和能耗非常大，GPT-3训练所用的数据量达到45TB，训练费用更是超过1200万美元。
值得关注的是，近年来AI加速器的需求快速增长，发展异常活跃，一批新生力量强势崛起。一方面是通过将现有算法嵌入芯片，提高速度、降低能耗；另一面，也出现了一些高效的新算法。
比如，来自麻省理工学院、维也纳工业大学等机构的团队，仅用19个类脑神经元就实现了控制自动驾驶汽车，使其能够模仿学习，具有扩展到仓库用自动化机器人等应用场景的潜力，而常规的深度神经网络则需要数百万神经元。这种类脑小参数模型的能耗也大为降低。这一研究成果发表在2020年10月《自然•机器智能》上。
2020年8月，《自然》封面报道了清华大学的研究成果——“类脑计算与机器学习结合的芯片问世”，成为全球关注的重大新进展。
2020年10月，《自然》发表清华大学张悠慧等提出的“类脑计算完备性”概念以及软硬件去耦合的类脑计算系统层次结构。《自然》评论认为：“‘完备性’新概念推动了类脑计算”，对于类脑系统存在的软硬件紧耦合问题而言，这是“一个突破性方案”。
2020年12月，北京大学杨玉超团队提出并实现了一种基于相变存储器（PCM）电导随机性的神经网络高速训练系统，可有效缓解人工神经网络训练过程中时间、能量开销巨大并难以在片上实现的问题，为人工神经网络在终端平台上的应用以及片上训练的实现提供了新的方向。
无论是从算法、理论、硬件还是基础器件，都可以看到新一代人工智能技术的新趋势：强功能、高效率、新体系。
人工智能产业发展
中国新一代人工智能发展战略研究院选择以人工智能解决方案为主业的企业进行研究，经过持续三年的观察发现，智能科技产业是企业、大学、科研院所、投资者、链接者（会议、联盟）和政府六类主体通过资金、技术和人才关系相互作用的复杂适应系统。
我们从2205家企业入手，发现他们联系到200多家大学、100多个研究所，参加了1000多个会议，涉及到400多个联盟、3741家投资者以及500多条地级以上政府的政策、1000多个地级以上政府产业园，连成一个密密麻麻的图，我们称之为“价值网络图”。这个图虽然看上去一团乱麻，实质上反映出人工智能产业紧密连接的形态特征。
我们进一步观察到，2018年连接度最高的是BAT三个平台，2020年华为的连接度上升到第一位。我们还发现，一批汽车制造企业由于融入了智能技术，已经成为智能产业的重要力量。总体上来看，人工智能和实体经济的结合越来越紧密，融合产业部门正在成为智能产业发展的主导力量，智能机器人成为人工智能与实体经济的重要结合点。
在中国这样的人口大国，为什么要发展机器人？我认为，机器人不是要一般性地代替人的工作，而是要去做不适宜人做或人们不愿意做的工作。在工业化早期，正如卓别林在电影《摩登时代》中表现的那样，工人每天做着紧张乏味的机械式劳动，这种机械式劳动把人变成机器。于是，人们强烈希望用某种机器来代替这种机械劳动，代替人完成那些枯燥、单调、危险的工作，于是机器人应运而生。没有机器人，工业化把人变为机器；有了机器人，人仍然是工业化的主人。
我国科学家对机器人的定义是：“机器人是一种自动化的机器，所不同的是这种机器具备一些与人或生物相似的智能能力，如感知能力、规划能力、动作能力和协同能力，是一种具有高度灵活性的自动化机器。”
机器人存在安全之忧、能力之忧、成本之忧、失业之忧、灭种之忧这五个“发展之忧”。要想解决这些问题，机器人需要上网，通过大数据和人工智能结合，为机器人增能提智；同时，还要为机器人立心立德，把伦理植入系统，做到可检测、可检验。
新一代人工智能与新一代机器人融合趋势下，信息技术与制造技术深度融合的数字化、网络化、智能化制造是主线，这体现在以机器人为载体、以工业互联网为基础，推动新一代人工智能和实体经济深度融合。
新一代人工智能和机器人共融发展
“与人共融”是新一代机器人面临的共性挑战。目前机器人在智力和行为能力上与人是不可比拟的。要做到与人共融，机器本体的行为能力仍需加强，要更加敏捷，同时智能技术和智能水平也应增强，使其在智力和行为能力上与人的水平相匹配，这样才能实现与人协同。
工业机器人要融入“有人的生产线”，与工人互助合作完成任务；服务机器人要融入普通人（老人、残疾人、家庭主妇等等）的家庭生活；特种机器人则要更多提高自主智能，降低对人的遥操作的依赖。
传统人工智能技术主要在非行为空间、确定性约束或规则下进行推理决策，如问题求解、定理证明、模式识别、专家系统、人机博弈等等；而机器人所需的智能是在行为空间。因此，具有约束条件的非预知性、动态性、操作/合作对象的随机性以及行为决策所必须的实时、鲁棒性，都对人工智能提出了技术挑战。
机器人的智能是在与工作环境、合作对象、作业目标的不断交互过程中，通过自主学习而形成的“发育智能”，而非基于完备规则下的“计算智能”。因此，要把握机器人智能发育理论、方法与发展趋势；利用机器学习、人工智能与脑科学的研究成果，研究基于模仿学习、自主学习的机器人知识、技能获取与增长机制及实现方法；面向自主作业和自主移动，研究机器人智能发育的软硬件实现方法。
机器人的智能发育，是指机器人利用其自身所具备的感知能力，在其与环境以及操作者的实时动态交互过程中，增量式、渐进地提升自身自主行为能力的过程。与传统的机器学习方法相比，智能发育需要具有以下特点使之更适合于机器人的智能获取与提升：一是具有类人的、无需大样本的学习模式；二是能够适应动态、不确定环境和非特定使命；三是具备长期、增量式的经验积累能力；四是可以融合人的智能，实现二者的高效协同，让人工智能和机器人相向而行，共同支撑智能制造，实现人工智能和实体经济的深度融合。■
（作者系世界工程组织联合会主席、中国电子学会副理事长，记者高雅丽整理）
《新一代人工智能伦理规范》发布
9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》(以下简称《伦理规范》)，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。
《伦理规范》经过专题调研、集中起草、意见征询等环节，充分考虑当前社会各界有关隐私、偏见、歧视、公平等伦理关切，包括总则、特定活动伦理规范和组织实施等内容。《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。同时，提出人工智能管理、研发、供应、使用等特定活动的18项具体伦理要求。《伦理规范》全文如下：
新一代人工智能伦理规范为深入贯彻《新一代人工智能发展规划》，细化落实《新一代人工智能治理原则》，增强全社会的人工智能伦理意识与行为自觉，积极引导负责任的人工智能研发与应用活动，促进人工智能健康发展，制定本规范。
第一章 总则
第一条 本规范旨在将伦理道德融入人工智能全生命周期，促进公平、公正、和谐、安全，避免偏见、歧视、隐私和信息泄露等问题。
第二条 本规范适用于从事人工智能管理、研发、供应、使用等相关活动的自然人、法人和其他相关机构等。（一）管理活动主要指人工智能相关的战略规划、政策法规和技术标准制定实施，资源配置以及监督审查等。（二）研发活动主要指人工智能相关的科学研究、技术开发、产品研制等。（三）供应活动主要指人工智能产品与服务相关的生产、运营、销售等。（四）使用活动主要指人工智能产品与服务相关的采购、消费、操作等。
第三条 人工智能各类活动应遵循以下基本伦理规范。（一）增进人类福祉。坚持以人为本，遵循人类共同价值观，尊重人权和人类根本利益诉求，遵守国家或地区伦理道德。坚持公共利益优先，促进人机和谐友好，改善民生，增强获得感幸福感，推动经济、社会及生态可持续发展，共建人类命运共同体。（二）促进公平公正。坚持普惠性和包容性，切实保护各相关主体合法权益，推动全社会公平共享人工智能带来的益处，促进社会公平正义和机会均等。在提供人工智能产品和服务时，应充分尊重和帮助弱势群体、特殊群体，并根据需要提供相应替代方案。（三）保护隐私安全。充分尊重个人信息知情、同意等权利，依照合法、正当、必要和诚信原则处理个人信息，保障个人隐私与数据安全，不得损害个人合法数据权益，不得以窃取、篡改、泄露等方式非法收集利用个人信息，不得侵害个人隐私权。（四）确保可控可信。保障人类拥有充分自主决策权，有权选择是否接受人工智能提供的服务，有权随时退出与人工智能的交互，有权随时中止人工智能系统的运行，确保人工智能始终处于人类控制之下。（五）强化责任担当。坚持人类是最终责任主体，明确利益相关者的责任，全面增强责任意识，在人工智能全生命周期各环节自省自律，建立人工智能问责机制，不回避责任审查，不逃避应负责任。（六）提升伦理素养。积极学习和普及人工智能伦理知识，客观认识伦理问题，不低估不夸大伦理风险。主动开展或参与人工智能伦理问题讨论，深入推动人工智能伦理治理实践，提升应对能力。
第四条 人工智能特定活动应遵守的伦理规范包括管理规范、研发规范、供应规范和使用规范。
第二章 管理规范
第五条 推动敏捷治理。尊重人工智能发展规律，充分认识人工智能的潜力与局限，持续优化治理机制和方式，在战略决策、制度建设、资源配置过程中，不脱离实际、不急功近利，有序推动人工智能健康和可持续发展。
第六条 积极实践示范。遵守人工智能相关法规、政策和标准，主动将人工智能伦理道德融入管理全过程，率先成为人工智能伦理治理的实践者和推动者，及时总结推广人工智能治理经验，积极回应社会对人工智能的伦理关切。
第七条 正确行权用权。明确人工智能相关管理活动的职责和权力边界，规范权力运行条件和程序。充分尊重并保障相关主体的隐私、自由、尊严、安全等权利及其他合法权益，禁止权力不当行使对自然人、法人和其他组织合法权益造成侵害。
第八条 加强风险防范。增强底线思维和风险意识，加强人工智能发展的潜在风险研判，及时开展系统的风险监测和评估，建立有效的风险预警机制，提升人工智能伦理风险管控和处置能力。
第九条 促进包容开放。充分重视人工智能各利益相关主体的权益与诉求，鼓励应用多样化的人工智能技术解决经济社会发展实际问题，鼓励跨学科、跨领域、跨地区、跨国界的交流与合作，推动形成具有广泛共识的人工智能治理框架和标准规范。
第三章 研发规范
第十条 强化自律意识。加强人工智能研发相关活动的自我约束，主动将人工智能伦理道德融入技术研发各环节，自觉开展自我审查，加强自我管理，不从事违背伦理道德的人工智能研发。
第十一条 提升数据质量。在数据收集、存储、使用、加工、传输、提供、公开等环节，严格遵守数据相关法律、标准与规范，提升数据的完整性、及时性、一致性、规范性和准确性等。
第十二条 增强安全透明。在算法设计、实现、应用等环节，提升透明性、可解释性、可理解性、可靠性、可控性，增强人工智能系统的韧性、自适应性和抗干扰能力，逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。
第十三条 避免偏见歧视。在数据采集和算法开发中，加强伦理审查，充分考虑差异化诉求，避免可能存在的数据与算法偏见，努力实现人工智能系统的普惠性、公平性和非歧视性。
第四章 供应规范
第十四条 尊重市场规则。严格遵守市场准入、竞争、交易等活动的各种规章制度，积极维护市场秩序，营造有利于人工智能发展的市场环境，不得以数据垄断、平台垄断等破坏市场有序竞争，禁止以任何手段侵犯其他主体的知识产权。
第十五条 加强质量管控。强化人工智能产品与服务的质量监测和使用评估，避免因设计和产品缺陷等问题导致的人身安全、财产安全、用户隐私等侵害，不得经营、销售或提供不符合质量标准的产品与服务。
第十六条 保障用户权益。在产品与服务中使用人工智能技术应明确告知用户，应标识人工智能产品与服务的功能与局限，保障用户知情、同意等权利。为用户选择使用或退出人工智能模式提供简便易懂的解决方案，不得为用户平等使用人工智能设置障碍。
第十七条 强化应急保障。研究制定应急机制和损失补偿方案或措施，及时监测人工智能系统，及时响应和处理用户的反馈信息，及时防范系统性故障，随时准备协助相关主体依法依规对人工智能系统进行干预，减少损失，规避风险。
第五章 使用规范
第十八条 提倡善意使用。加强人工智能产品与服务使用前的论证和评估，充分了解人工智能产品与服务带来的益处，充分考虑各利益相关主体的合法权益，更好促进经济繁荣、社会进步和可持续发展。
第十九条 避免误用滥用。充分了解人工智能产品与服务的适用范围和负面影响，切实尊重相关主体不使用人工智能产品或服务的权利，避免不当使用和滥用人工智能产品与服务，避免非故意造成对他人合法权益的损害。
第二十条 禁止违规恶用。禁止使用不符合法律法规、伦理道德和标准规范的人工智能产品与服务，禁止使用人工智能产品与服务从事不法活动，严禁危害国家安全、公共安全和生产安全，严禁损害社会公共利益等。
第二十一条 及时主动反馈。积极参与人工智能伦理治理实践，对使用人工智能产品与服务过程中发现的技术安全漏洞、政策法规真空、监管滞后等问题，应及时向相关主体反馈，并协助解决。
第二十二条 提高使用能力。积极学习人工智能相关知识，主动掌握人工智能产品与服务的运营、维护、应急处置等各使用环节所需技能，确保人工智能产品与服务安全使用和高效利用。
第六章 组织实施
第二十三条 本规范由国家新一代人工智能治理专业委员会发布，并负责解释和指导实施。
第二十四条 各级管理部门、企业、高校、科研院所、协会学会和其他相关机构可依据本规范，结合实际需求，制订更为具体的伦理规范和相关措施。
第二十五条 本规范自公布之日起施行，并根据经济社会发展需求和人工智能发展情况适时修订。
国家新一代人工智能治理专业委员会
2021年9月25日
第四届“清华大学国强研究院杯”全球人工智能与机器人双创大赛在京启动
光明网讯6月20日，第四届“清华大学国强研究院杯”全球人工智能与机器人双创大赛启动仪式在清华大学举行。
清华大学科研院院长刘奕群致辞
清华大学科研院院长刘奕群致辞并发布赛事目标。他表示，本届大赛将继续深入贯彻实施党和国家创新驱动发展战略，以“项目质量升级”、“品牌影响力升级”，“引进人才机制升级”、“赛后引导培育升级”为抓手。大赛将进一步完善发现、引导、培育的开放平台，丰富和拓展“科技改变生活，创新引领未来”深刻内涵，践行“科技向善，创新共益”办赛理念。
中国工程院院士、清华大学人工智能研究院院长张尧学致辞
中国工程院院士、清华大学人工智能研究院院长、赛事首席顾问张尧学作为顾问专家代表为大赛致辞。他表示，人工智能理论和技术取得了飞速发展，在自然语言处理的基础模型、深度学习、智能机器人等领域取得了突破，达到或超过了人类的水准，发展超出想象，成为引领新一轮科技革命和产业变革的战略性技术引擎。同时，他期待在今年的大赛中能加强学术交流、技术创新、应用领域合作，发挥人工智能更赋能经济社会高质量发展的作用。
优秀项目分享
启动仪式上，第三届“清华大学国强研究院杯”优秀获奖项目团队代表清华大学电子工程系张书源分享了团队研发历程和对人工智能与机器人的思考。
据悉，大赛设置了面向全球初创企业和创新团队的“技术创新赛”和面向清华在校学生的“建筑机器人清华学子专场赛”，计划于6至9月举行清华学子赛，9至12月举行技术创新赛。在原有的环渤海赛区、长三角赛区、粤港澳赛区、中西部赛区的4大赛区基础上，大赛增加川渝地区专场晋级赛。
技术创新赛将聚焦“可运用于机器人的人工智能创新技术”，重点征集无人系统、智能感知、人机混合等领域的创新性技术及其应用。
本届清华学子赛设置命题组和创意组，分别进行初赛与决赛，并将于决赛前组织集训交流活动。其中，命题组共有3项命题，包括“复杂建筑环境下移动机器人多传感器融合航位推算”、“机器人建筑场景底盘路径规划”和“机器人施工与调度功效预测设计”，创意组则聚焦于“大语言模型、AIGC在建筑机器人领域的应用和创新”这一主题，参赛团队可在主题下自由设计技术方案。（焦子原）
来源：光明网