人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。
我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。
通用人工智能路途尚远
“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。
所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。
“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。
尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。
罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”
北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。
对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。
加强安全治理领域国际合作
根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。
图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”
在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。
随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。
如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。
黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”
今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。
阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。
麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。
推动大模型共建共享
当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。
从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。
在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。
黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。
（实习生张伟纳对本文亦有贡献）
(责编：杨光宇、牛镛)关注公众号：人民网财经分享让更多人看到
人工智能和你聊天 成本有多高
图片来源视觉中国
中青报·中青网记者 袁 野
人工智能每次和你聊天，它背后的公司都会赔钱。
美国《华盛顿邮报》报道称，以ChatGPT为代表的大型语言模型的运维成本非常高，以至于推出它们的公司不愿向公众提供最好的版本。美国马里兰大学计算机科学教授汤姆·戈尔茨坦说：“目前正在部署的模型，看起来令人印象深刻，但并不是最好的。”他认为，如果完全不考虑成本因素，那么人工智能广遭诟病的缺点，比如倾向于给出有偏见的结果甚至撒谎，都是可以避免的。
人工智能需要密集的计算能力，这就是为什么ChatGPT的开发商OpenAI公司在其免费版中只运行能力较弱的GPT-3.5模型。即使是那些每月支付20美元使用GPT-4高级模型的用户，每3个小时也只能发送25条信息。背后的原因就是运营成本太高。
去年12月，ChatGPT发布后不久，OpenAI首席执行官萨姆·阿特曼估计其“每次聊天可能只需几美分”。这听起来似乎不贵，但考虑到其日活用户超过1000万人，整体成本依然高得吓人。今年2月，有研究机构称，即使只运行GPT-3.5，ChatGPT每天在计算方面的成本依然高达70万美元。
《华盛顿邮报》称，成本问题可能也是谷歌尚未在其搜索引擎中加入人工智能聊天机器人的原因之一，该搜索引擎每天要处理数百亿次查询。美国一家行业研究公司的首席分析师迪伦·帕特尔估计，对运维者来说，客户与ChatGPT进行一次聊天的成本，可能是进行一次谷歌搜索的1000倍。
人工智能的成本甚至惊动了白宫。英国路透社称，在最近发布的一份关于人工智能的报告中，拜登政府指出，生成式人工智能的计算成本是个“全国性问题”。白宫表示，这项技术预计将“大幅拉升计算需求和相关的环境影响”，“迫切需要”设计更可持续的系统。
路透社称，与其他形式的机器学习相比，生成式人工智能尤其依赖令人眼花缭乱的计算能力和专用计算机芯片，只有实力雄厚的公司才负担得起。5月，萨姆·阿特曼在出席美国国会参议院听证会时表示，“事实上，我们的芯片（GPU）非常短缺，所以，使用我们产品的人越少越好。”
5月23日，埃隆·马斯克在《华尔街日报》举办的峰会上表示，“目前，GPU比药物更抢手。”最近，马斯克为自己的人工智能初创公司购买了大约1万块GPU。
令人瞩目的新技术烧钱，对科技行业而言并非新鲜事。《华盛顿邮报》称，硅谷之所以能够主导互联网经济，部分原因就是它向全世界免费提供在线搜索、电子邮件和社交媒体等服务，这些业务起初都是亏损的，但后来，这些公司通过个性化广告获得了巨额利润。人工智能产业可能也会如法炮制，但分析人士表示，单靠广告可能不足以让尖端人工智能工具在短期内盈利。
因此，为消费者提供人工智能模型的公司必须在赢得市场份额的渴望与令人头痛的财务损失之间取得平衡。
《华盛顿邮报》指出，即使人工智能能够挣到钱，利润可能也会流向云计算巨头，以及运行模型所需硬件的芯片制造商。目前，开发出领先的人工智能语言模型的公司要么是最大的云计算提供商（如谷歌和微软），要么与它们有密切的合作关系（如OpenAI），这并非偶然。
对消费者来说，不受限制地使用强大的人工智能模型的日子，或许已经屈指可数。
路透社称，微软已开始尝试在人工智能搜索结果中植入广告。在听证会上，OpenAI的阿特曼表示不排除采取同样的做法，尽管他更喜欢付费订阅模式。两家公司都表示，相信人工智能有朝一日能够盈利。“它的价值如此之大，我无法想象……如何在它上面敲响收银机。”今年2月，阿特曼在接受媒体采访时表示。