人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。
我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。
通用人工智能路途尚远
“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。
所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。
“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。
尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。
罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”
北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。
对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。
加强安全治理领域国际合作
根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。
图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”
在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。
随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。
如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。
黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”
今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。
阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。
麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。
推动大模型共建共享
当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。
从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。
在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。
黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。
更多精彩内容，请下载科普中国客户端。
返回人民网科普频道
(责编：李慧博、杨鸿光)分享让更多人看到
“2023全球人工智能技术大会”在杭开幕
近日，“2023全球人工智能技术大会”在杭州未来科技城开幕。大会由中国科学技术协会指导，中国人工智能学会、杭州市人民政府主办，杭州市委人才办、杭州市科技局、余杭区人民政府承办，杭州未来科技城管委会执行。
此次大会以“交叉、融合、相生、共赢”为主题，涵盖了“全球人工智能技术大会”“全球人工智能技术博览会”“全球人工智能技术创新大赛”三场重量级活动，吸引了40名海内外院士、近300位专家学者共同参与，线上线下探讨新一代人工智能发展路径，把握数字时代变革新趋势。
今年是大会连续落地余杭的第四年。当前，余杭正加快建设杭州城市新中心，着眼打造全球创新策源地、创新人才蓄水池、科技成果转化首选地，推动创新能级持续攀升。作为余杭重要产业平台、城西科创大走廊核心区，未来科技城布局建设了人工智能小镇、智能计算产业创新园等专业化产业平台，落户了四大省实验室、浙江脑机交叉研究院、国家光仪中心等高能级创新载体，积累了较为扎实的人工智能基础。
大会开幕式上，两个重要成果也正式落地未来科技城――“硬科技企业科技创新创业人才全球招募计划”正式发布、“涿溪实验室科技成果转化项目”完成签约。据了解，“硬科技企业科技创新创业人才全球招募计划”旨在面向全球寻找具备出色技术能力和创新思维的人才，加速新一代信息技术、高端装备、新材料、生命健康等产业发展；未来科技城管委会和涿溪脑与智能研究所签约的“涿溪实验室科技成果转化项目”，今后将为未来科技城孵化和引进的20多家优秀企业。
此外，此次大会设置了33场专题论坛，内容涉及AI大模型、大规模AI计算、智能感知与认知、人工智能与医学、艺术行业融合应用，以及智能汽车未来等高关注度议题，展现了人工智能无所不容、无所不包、无所不在的发展态势。
一边是产学专家同台让大会内容更多元、视角更丰富，一边是高科技展品让更多人看到了人工智能的无限未来。在当天同步启动的全球人工智能技术博览会上，阿里巴巴、华为、百度、科大讯飞、申昊科技、荷湖科技、鲁尔物联等70家人工智能企业集中展示了智能行业技术创新与最新成果。记者 沈维 余杭微融圈 陈玲悦 梁洁
迈入强人工智能 “长虹超脑”全球首发
为什么你家的智能电视不够智能？为什么用户提到一些问题、发出一些指令，电视会理解不了？为什么电视没法做到人和人交流一样的自然？
6月20日，长虹在“长虹超脑”发布会上给出了答案。作为人工智能领域的开拓者，长虹不断将先进技术转化为终端产品，推出了全球首台人工智能电视、发布了全球首款多模态交互电视、实现了全球首个电视交互的免唤醒能力。6月20日，长虹再次推出全球首款人工智能大模型在电视领域的应用――长虹超脑，电视迈入了“强人工智能”时代。
在“弱人工智能”时代，需要用户去适应机器、学习交互逻辑。没法做到产品来适应用户，因此显得不够聪明。而今天，长虹全球首发的长虹超脑，具备感知、理解、创造三大核心能力。实现了智能电视迈入“强人工智能”时代的第一步。它能和用户进行自然而连续的对话，用户再刁钻的问题都难不倒它，还能根据用户的个性化需求进行内容创造和服务。长虹超脑的发布，将为消费者带来前所未有的智能化体验。
深度感知，实现机器与人的自然对话。长虹超脑极大提高了长虹小白的多模态感知能力。通过声纹识别，它一听就知道你是谁。通过AI摄像头的加持，让它不仅仅能听得清，还能看得见。同时，可以和长虹小白连续自然对话，无需每次都要唤醒。
深度理解，解决日常中的“疑难杂症”。我们需要能像人一样对话者的意图，从而自然而正确的回应。长虹超脑，可以说拥有无穷的知识广度和深度，其理解能力从原来覆盖30多个领域的“百事通”成为了无所不能的“事事通”。不管人们说什么，它都能听得懂，能回应。
无限创造，电视不再是提供什么用户就看什么，而是可以根据用户的需求，创造内容和服务。长虹超脑把大模型带来的能力极为方便的赋能给用户，它能在影音娱乐、学习辅导、家庭健康、知识百科、智慧办公等各个领域为用户带来极为便捷的体验。
长虹超脑的发布，为中国消费者带来了更加智能的使用体验，带来了电视应用的更多可能。据悉，6月15日，搭载长虹超脑的部分电视，已经面向全球用户进行公测，感兴趣的朋友不妨去长虹电视终端进行体验。
第四届“清华大学国强研究院杯”双创大赛启动
6月20日，第四届“清华大学国强研究院杯”全球人工智能与机器人双创大赛启动仪式在清华大学举行。大赛由清华大学国强研究院主办，清华大学人工智能研究院、广东省国强公益基金会、广东博智林机器人有限公司、力合科创集团有限公司联合承办，共青团清华大学委员会、清华校友总会、深圳清华大学研究院、清华大学技术转移研究院、清华大学电子工程系、清华大学航天航空学院、清华大学探臻科技评论、碧桂园大健康事业群、碧桂园创投提供支持。
△第四届“清华大学国强研究院杯”全球人工智能与机器人双创大赛启动仪式现场合影
中国工程院院士、清华大学人工智能研究院院长张尧学，清华大学科研院院长刘奕群，清华大学科研院副院长蒋靖坤，清华大学计算机系教授、语音和语言技术中心主任郑方，清华大学科研院科技开发部副主任谢旭东，博智林机器人公司副总裁刘震，博智林机器人公司建造数字化产品研究院院长林湧涛，碧桂园创投高级副总裁霍英男，力合科创集团创新协同部副总经理于力及北京电视台、中国网、中国科技网、中国日报网、钛媒体、光明网、搜狐科技等媒体出席启动仪式。
△清华大学科研院院长刘奕群致辞
清华大学科研院院长刘奕群致辞并发布赛事目标。他表示，“清华大学国强研究院杯”全球人工智能与机器人双创大赛自2020年首届举办以来，始终立足国际视野，以突破技术难点和解决产业链的共性需求为导向，发掘了一批人工智能与机器人领域优质的创新创业项目和高质量人才。本届大赛总结往届经验，将继续深入贯彻实施党和国家创新驱动发展战略，以“项目质量升级”、“品牌影响力升级”，“引进人才机制升级”、“赛后引导培育升级”为抓手。大赛将进一步完善发现、引导、培育的开放平台，丰富和拓展“科技改变生活，创新引领未来”深刻内涵。人工智能已成为新一轮产业和技术革命重要驱动力量，为此愿与优秀的项目企业团队共同把握全球人工智能发展的新机遇，深化产学研融合，践行“科技向善，创新共益”办赛理念，为国家人工智能和机器人科技研发和产业集群卓越成长和高质量发展做出贡献。
△中国工程院院士、清华大学人工智能研究院院长张尧学致辞
中国工程院院士、清华大学人工智能研究院院长、赛事首席顾问张尧学作为顾问专家代表为大赛致辞。他表示，人工智能已经迎来其发展史上的第三次浪潮。人工智能理论和技术取得了飞速发展，在自然语言处理的基础模型、深度学习、智能机器人等领域取得了突破，达到或超过了人类的水准，发展超出想象，成为引领新一轮科技革命和产业变革的战略性技术引擎。人工智能的应用领域也快速向人们日常生活息息相关领域发展。同时，他也期待在今年的大赛中能加强学术交流、技术创新、应用领域合作，发挥人工智能更赋能经济社会高质量发展的作用。
△清华大学科研院副院长、赛事组委会主任蒋靖坤发布赛制赛程
清华大学科研院副院长、赛事组委会主任蒋靖坤发布第四届大赛的赛制赛程。大赛设置了面向全球初创企业和创新团队的“技术创新赛”和面向清华在校学生的“建筑机器人清华学子专场赛”，计划于6至9月举行清华学子赛，9至12月举行技术创新赛。在原有的环渤海赛区、长三角赛区、粤港澳赛区、中西部赛区的4大赛区基础上，大赛增加川渝地区专场晋级赛。本届大赛设立百万现金奖励。除奖励各赛道优秀团队之外，在技术创新赛中特别设置了“创新共益奖”和“科技向善奖”以鼓励项目团队在“科技伦理”、“人工智能治理”等方面以及社会公益领域做出贡献。
△博智林机器人公司副总裁、赛事专委会副主任刘震发布赛事命题
博智林机器人公司副总裁、赛事专委会副主任刘震发布本届赛事命题。技术创新赛将聚焦“可运用于机器人的人工智能创新技术”，重点征集无人系统、智能感知、人机混合等领域的创新性技术及其应用。另外，为了更好的实现“校企、产研深度融合”的办赛目标，增加参赛项目与产业的密切互动，大赛的决赛现场特别设置了应用场景展示区域，将搭建场景并邀请项目进行产品展示。这一环节重点征集方向包括：建筑、社区服务、特种作业、教育、商业、工业、农业、医疗、家庭等应用场景中的机器人系统解决方案。
本届清华学子赛设置命题组和创意组，分别进行初赛与决赛，并将于决赛前组织集训交流活动。其中，命题组共有3项命题，包括“复杂建筑环境下移动机器人多传感器融合航位推算”、“机器人建筑场景底盘路径规划”和“机器人施工与调度功效预测设计”，创意组则聚焦于“大语言模型、AIGC在建筑机器人领域的应用和创新”这一主题，参赛团队可在主题下自由设计技术方案。
△大赛顾问专家聘任仪式
清华大学国强研究院聘请了来自清华大学、香港科技大学，博智林机器人公司等机构的专家学者担任大赛顾问团队和专家委员会成员。由赛事领导小组代表刘奕群向大赛专委会副主任刘震与专委会委员、博智林机器人公司建造数字化产品研究院院长林湧涛颁发聘任证书。
△优秀项目分享
第三届“清华大学国强研究院杯”优秀获奖项目团队代表清华大学电子工程系张书源分享了团队研发历程和对人工智能与机器人的思考。
△媒体提问环节
启动仪式现场与会媒体向组织方代表提问，碧桂园创投高级副总裁霍英男、力合科创集团创新协同部副总经理于力分别对现场媒体提出的问题进行详细解答。
△机器人快闪互动
启动仪式后，活动现场举行了建筑机器人快闪展示。到场嘉宾观众与博智林公司代表性建筑机器人现场互动，近距离接触建筑行业前沿科技。
△活动现场
据悉，大赛即日开启报名，欢迎符合条件的优秀项目团队踊跃报名参加。大赛组委会将举办赛事宣讲、交流对接、企业走访、路演辅导、管理咨询、技术指导等赛事辅导，助力参赛项目团队高水平应赛。赛后，大赛组委会也将为获奖项目提供“一对一”跟踪服务，持续提供应用研发、投资孵化、人才培训、创新基地、产业对接等多项科创服务。
大赛联系方式及信息发布平台
官方网站：http://gqcup-os.gqy.tsinghua.edu.cn:8080
报名起止日期
清华学子赛 2023年6月20日-7月15日
技术创新赛 2023年9月1日-11月5日
报名入口：
http://gqcup.gqy.tsinghua.edu.cn:8081