人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。
我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。
通用人工智能路途尚远
“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。
所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。
“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。
尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。
罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”
北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。
对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。
加强安全治理领域国际合作
根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。
图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”
在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。
随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。
如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。
黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”
今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。
阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。
麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。
推动大模型共建共享
当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。
从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。
在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。
黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。
更多精彩内容，请下载科普中国客户端。
返回人民网科普频道
(责编：李慧博、杨鸿光)分享让更多人看到
百度高管：人工智能“百模大战”能活下来的不超过五家
0分享至【CNMO新闻】自从ChatGPT大火以后，国内企业纷纷跟进，发布了自己的大模型，竞争十分激烈。6月19日，在2023互联网岳麓峰会最后的圆桌环节上，百度智能云华东区总经理吴军华表示，人工智能“百模大战”能活下来的可能不超过五家企业，甚至全球都只有五家，就像打车软件一样，消费者根本不需要这么多打车软件，只需要两三家就够了。而他谈到百度之所以参与其中，是因为百度坚信以后是内容、应用为王。百度智能云华东区总经理吴军华发言
吴军华还表示，目前文心一言相当于ChatGPT3.5版本的水平，距离4.0还有一些差距。今日，科大讯飞董事长刘庆峰也出席了此次互联网岳麓峰会。他认为，人工智能尤其是通用人工智能将成为全球经济复苏的新引擎。刘庆峰还介绍了“讯飞星火”认知大模型，现场真机实测大模型在内容生成、语言理解、知识问答、逻辑推理、数学能力、多模态等7大领域的核心能力，带来最新发布的讯飞星火APP和星火语伴APP演示，以及赋能教育、办公、汽车、数字员工、医疗、工业的创新应用成果。预计8月15日，“讯飞星火”代码能力会升级，不仅能够助力软件企业、产业的软件代码开发效率提升，还可辐射中小企业流程改进和相关管理改革。刘庆峰表示，中国有望成为全球智慧涌现的第二极，而科大讯飞有信心代表中国在全球领域不仅快速跟进，还能在关键技术上有自己的创新引领，并在自主可控平台上持续进化。特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端营造人工智能大模型产业生态
推动人工智能大模型产业化应用是提升国家竞争力的关键举措。要抢占人工智能大模型产业发展制高点，必须加强战略规划和深度治理，推进新型算力生态基础设施建设，打造稳定可靠的算法开源生态。
不久前举办的中关村论坛人工智能大模型发展分论坛发布的《中国人工智能大模型地图研究报告》提出，我国自2020年进入大模型快速发展期，目前与美国保持同步增长态势。当前，我国人工智能大模型已发布79个。此前召开的中共中央政治局会议提出，要重视通用人工智能发展，营造创新生态，重视防范风险。推动人工智能大模型产业化应用，是加快实现我国人工智能领域高水平科技自立自强的应时之举，也是推动我国产业优化升级、实现经济高质量发展的重要一招，更是提升国家竞争力、维护国家安全的关键举措。
营造良好的人工智能大模型产业生态，应着力解决目前我国人工智能大模型发展面临的高端算力技术不可控、大规模高质量数据集少、算法可靠性和可解释性弱等核心问题。目前，由GPU、FPGA、ASIC等加速芯片异构而成的人工智能高端算力芯片技术面临“卡脖子”风险。在高效低碳的算力网络基础设施方面，跨省域互联互通与动态调配的机制尚未建立，规模化的高端算力供给能力亟待提升。同时，高质量数据供给不足影响了大模型“智商”。这体现在高价值公共数据开放程度不足、行业及企业数据要素市场化流通不够充分、用于大模型训练的数据集规模较小等。此外，算法可解释性不强也影响了大模型的产业化应用。拥有千亿级参数的大模型算法，开发难度大、训练难度高、决策过程及结果的可解释性差、合规评估难，直接对行业大模型开发的进程有所影响。
基于此，要抢占人工智能大模型产业发展制高点，必须加强源头技术创新，打赢软硬件基础设施国产化攻坚战，化解大模型关键核心技术被“卡脖子”的风险，多措并举推动人工智能大模型产业化应用。
首先，推进新型算力生态基础设施建设。实施高端算力芯片研发重大专项扶持计划，鼓励头部企业联合高水平大学“揭榜挂帅”。建立新型研发机构，推动国产高端算力芯片实现突破。在国家“东数西算”工程背景下，推动新型算力网络基础设施建设的顶层设计，建设国家公共算力开放创新平台，搭建算力生态链，推动全国算力资源互联互通、协同共享与优化配置。
其次，构建规模大、质量高的数据生态。完善国家公共数据开放标准和平台，推动高价值公共数据开放与多元化授权运营，引导行业、企业大数据有条件开放、融通并进场交易，形成多模态、多领域的大规模数据集。打造数据集精细化标注的众包服务平台和数据质量评估标准体系，建设高质量中文语料库。构建敏感领域数据隐私保护的监管体系和技术服务体系。
再次，打造稳定可靠的算法开源生态。建立大模型算法及工具开源平台，完善具有稳定性、可靠性和安全性的算法监测标准和技术体系。实施行业大模型产品和服务的登记备案、安全评估及潜在风险预测的审查机制。鼓励平台企业积极开展算法创新探索与应用，赋能中小企业降本增效并创新商业模式，深化数字化转型并引领高质量发展。
最后，加强人工智能大模型的战略规划和深度治理。制定人工智能大模型产业发展规划，对大模型技术研发和产业应用给予相应的政策、资金和人才等支持。推动算力、算法、数据、应用场景等上下游产业无缝衔接与协同联动，实现大模型产业相关要素跨语言、跨模态、跨任务、跨行业融合发展。加强人工智能大模型深度治理的国际合作，推动技术向善发展，促进大模型产业高质量发展。（何喜军张惠娜）
[责编：陶媛]