人工智能如何“向善” 人工智能发展曲线图

人工智能如何“向善”

一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。

我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。

通用人工智能路途尚远

“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。

所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。

“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。

尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。

罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”

北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。

对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。

加强安全治理领域国际合作

根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。

图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”

在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。

随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。

如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。

黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”

今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。

阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。

麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。

推动大模型共建共享

当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。

从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。

在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。

黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。

（实习生张伟纳对本文亦有贡献）

(责编：杨光宇、牛镛)关注公众号：人民网财经

分享让更多人看到

深圳构建“四个一”人工智能高质量发展政策体系

前不久，以AI+实验机器人驱动药物研发的深圳晶泰科技宣布与美国知名药企礼来签署一项AI小分子新药发现合作。晶泰科技将使用AI药物研发平台完成一站式新药从头发现，交付药物候选后由礼来进行临床前开发和后续的商业化。

在AI技术赋能下，药物研发正逐步实现智能化、数字化的全面升级。晶泰科技是这个赛道的先行者和佼佼者。

事实上，深圳是国内人工智能主要集聚城市之一，拥有雄厚的产业基础，集聚华为、腾讯、平安等领军企业和一批如晶泰科技、云天励飞等领头羊和独角兽企业，拥有完善的人工智能产业链，积极打造AI+医疗、制造、金融、安防等落地场景，具有蓬勃发展势头和广阔的成长前景。

创新沃土“长出”高成长性AI企业

“我们和礼来签订一个AI+机器人新药发现合作，预付款+里程碑最高可达2.5亿美金，这一合作是中国单个管线金额最高的AI药物发现合作之一，标志着国内的AI制药技术走在世界前沿，获得全球最大药物研发企业的青睐。”晶泰科技相关负责人表示。

在河套深港科技创新合作区，晶泰科技的自动化实验室里，机械臂不停运行，机器人小车在100多个自动化工站之间穿梭。这个“关灯实验室”利用AI等前沿技术，对新药研发关键环节进行颠覆性改造，大幅提高了药物研发效率与成功率，降低了研发成本，加速上百款药物研发与上市，赋能全球新药源头创新。

一个来自波士顿查尔斯河畔的小创业团队，因受人工智能产业生态的吸引而落户到深圳湾畔，仅仅不到10年的时间，就成长为国内AI制药龙头企业。“深圳发展AI制药具有得天独厚的优势，包括高端人才、完备的产业链以及数字技术、自动化优势，这也是晶泰科技落户深圳的主要原因。”

近几年，晶泰科技孵化出剂泰科技、莱芒生物、希格生科、默达生物、赛得康等一批创新企业，邀请上下游企业落户深圳、落户河套。以晶泰科技为核心，一批企业在这里串珠成链、集聚成群，正帮助更多中国药企在多种尚无有效治疗的疾病领域实现从0到1的创新突破。

在AI制药领域，深圳吸引了全球的目光，优质企业纷至沓来。另一方面，数据显示，从深圳人工智能企业数量每年绝对值增加的情况看，呈现逐年上升趋势。

目前，深圳已初步形成了完整的人工智能产业链，相关高校院所和企业也积极加入人工智能的赛道。截至2022年底，深圳人工智能相关企业达到了1920家，产业综合实力居全国前三。集聚了以华为、腾讯、平安集团、中兴等人工智能综合型领军型企业，以云天励飞、晶泰科技、奥比中光、优必选、金大智能、研祥智能、思谋科技、普渡科技、达观数据、大疆、深信服、太极云软等为代表的分赛道领头羊和独角兽企业。龙头企业领航，独角兽、中小企业“伴飞”，形成梯次发展的集群企业“雁阵”。

赋能千行百业加快全时全域应用

习近平总书记指出，把新一代人工智能作为推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量，努力实现高质量发展。

在这场人工智能浪潮中，关键在于技术要实现应用场景落地并形成商业价值，即人工智能应用“落地”要能“听响”。

“近年来，深圳人工智能产业应用不断深化，越来越多企业积极尝试人工智能融合发展。”深圳市人工智能产业协会执行会长范丛明表示，这些企业将人工智能与各自所在产业紧密结合，打造AI＋制造、AI＋金融、AI＋医疗、AI＋安防、AI＋教育等落地场景，具有蓬勃的发展势头和广阔的成长前景。

深圳是中国三大主要人工智能产业集聚城市之一。深圳人工智能在无人驾驶、智能汽车、工业互联网、AR/VR等新领域应用和创新企业越来越多。AI和实体经济的融合持续加深，越来越多的传统设备制造企业也在不断尝试融合AI技术，尤其是AI视觉技术。基于机器学习的大数据价值挖掘领域，也将实现规模方面较快增长。

据不完全统计，2020-2022年，深圳人工智能相关产业规模从600多亿元增长到超过800亿元，平均增长率达到12.8%。人工智能核心企业产业规模从2019年的百亿元，增加到2022年的300多亿元。

近年来，深圳人工智能产业在技术创新、产业生态、融合应用等方面取得积极进展，已进入国内第一梯队。

去年，深圳推出我国首部人工智能产业专项立法——《深圳经济特区人工智能产业促进条例》，积极推进人工智能在经济社会领域深度融合应用。

今年5月31日，我市再出台《深圳市加快推动人工智能高质量发展高水平应用行动方案（2023—2024年）》，同步发布首批“城市+AI”应用场景清单，统筹设立规模1000亿元的人工智能基金群，由此构筑起“一条例、一方案、一清单、一基金群”的人工智能高质量发展和高水平应用的政策体系，加快推进人工智能全时全域应用。