人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。
我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。
通用人工智能路途尚远
“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。
所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。
“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。
尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。
罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”
北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。
对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。
加强安全治理领域国际合作
根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。
图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”
在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。
随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。
如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。
黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”
今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。
阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。
麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。
推动大模型共建共享
当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。
从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。
在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。
黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。
更多精彩内容，请下载科普中国客户端。
返回人民网科普频道
(责编：李慧博、杨鸿光)分享让更多人看到
人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。
我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。
通用人工智能路途尚远
“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。
所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。
“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。
尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。
罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”
北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。
对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。
加强安全治理领域国际合作
根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。
图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”
在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。
随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。
如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。
黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”
今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。
阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。
麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。
推动大模型共建共享
当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。
从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。
在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。
黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。
（实习生张伟纳对本文亦有贡献）
(责编：杨光宇、牛镛)关注公众号：人民网财经分享让更多人看到
人工智能时代，技术和人文应相互照亮
2023年高考刚刚结束，以往学者、作家参与解析和试写的语文作文题，今年有了文心一言、讯飞星火、ChatGPT等AI平台的加入。据媒体测试，多家AI平台均能正确理解作文题目，并写出结构、逻辑和语言“在线”的文章。
作家刘慈欣在一次节目中坦言，他有时参加活动来不及写发言稿，曾请ChatGPT代写；为了给作家余华颁奖，作家莫言也请学生用ChatGPT写授奖辞，在输入几个关键词后就得到了一篇一千多字的“莎士比亚风格的授奖辞”……当人工智能越来越深度参与到生活中时，我们所熟悉的文学观念、创作理念也正在生成新的面貌。由上海市作协、上海视觉艺术学院共同举办的“文学孵化与ChatGPT研讨会”日前举行，多位专家学者与作家共同探讨了AI技术发展对文学创作和人文学科带来的机遇与挑战。
“于今后的发展而言，ChatGPT的诞生不仅是技术现象、文化现象，同时也是文学现象，很多人已经开始了ChatGPT的游戏式的文学尝试，它带来的将是一次里程碑式的科技革命。”上海市作协党组书记、专职副主席王伟说。他表示，这场科技革命中，文学的位置在哪里、文学孵化何以进行是值得思考和探讨的问题。对这一尖端科技在文学领域影响的深入研讨，既意味着一种多义性，也代表着一种敞开性。王伟认为，无论是接受还是排斥、拒绝还是面对，ChatGPT都已经在影响我们，“在新技术革命背景下，我们的文学孵化工作需要有‘融汇古今，联通中外’的新思路、新探索、新做法。”
不久前，上海视觉艺术学院新媒体艺术学院执行院长汪建强遇到一位编剧写作公司的从业人员，在与他的交流中汪建强得知，他们公司已经有相当一部分业务采用人工智能写作，尤其在GPT4问世后，已大量使用ChatGPT用于编剧创作。据汪建强介绍，上海视觉艺术学院新媒体学院也增加了人工智能视觉设计的方向，以帮助学生学习和思考人工智能绘图、人工智能短视频制作等领域的发展，“这带来一个大家共同关心的话题：人工智能时代，我们在文学创作上到底应该如何应对？如何培养未来的人才？”
会议中，作家小白和复旦大学新闻学院教授邓建国分别带来一场主旨发言。小白对人工智能在文学创作方面上施加的影响早有关注，他梳理了自动化写作的历史发展和未来走向。他表示，上世纪30年代的杂志上就有关于“情节机器人”的设想，后来诞生的早期自动写作系统能生成一定的连贯文本，但处理能力相对有限，不能应对复杂的语言现象和生成创新的内容。“人类写作不仅仅是遵循规则和结构，也涉及大量的创新和个人表达。而且这些系统的知识基础是静态的，它们不能从大量的语言数据中自动学习和推理。”但在持续发展的技术环境下，如今的GPT系统不断在神经网络架构上更新升级，通过学习人类语言中的大量语料数据，其模型内部可能已建立起了一种内在世界模型。“比如GPT4可以推理出上下文中没有提到的事情，并学会对它无法直接感知的物理空间变化做出推测。同时，它似乎具备了对人类写作而言极其重要的心智理论能力，能推测特定情境中不同人的想法、观点、情感变化，甚至能推测多层意向性、可能性，它甚至懂得反讽，能够通过语言表达来模拟人类情感。也就是说，一个写作者所需要的认知和心智能力，GPT4看起来都具备了。”在小白看来，GPT4的问世，使关于人工智能的一些问题有了本质性的转变：如果它已经拥有了一个世界模型，问题就变成人类如何驯化这个模型。“因为这个‘野生’模型也同样会映射互联网上那些糟糕的事物，学习那些被改造的文本和语言。所以归根结底，问题可能会转变成我们自己如何与模型共同进步。”
邓建国给出的，也是关于人类作家与GPT合作共创的可能。他表示，将获取的信息重新整合本来就是人类写作能力的一部分，在ChatGPT或类似人工智能普及后，大量AIGC（人工智能生成内容）会出现在我们的生活中，“原创作者”的观念会受到修改。他提出，正如内容的传播方式会塑造内容，内容的生产方式也会塑造内容，比如哲学家尼采在视力下降后以打字机辅助重新开始写作，写作风格就发生了巨大改变。2021年，美国评论家K.阿拉多-麦克道尔在两周时间里就各类哲学议题向GPT3发问，并对后者的回答作了编辑和润色，出版了一本结构合理、表述清晰的书，名为《灵药-AI》。他将人机交流中曲折意外的体验比作学习一种新乐器，“我每次拨动琴弦都会听到它以不同的声音回应。”邓建国以此为例认为，在这样的创作过程中，“我”和“它”的界限已经模糊，“它”不再是一个外在的写作工具，而是“我”的一部分。邓建国表示，ChatGPT或许能激发人类新的浪漫主义运动，“今天ChatGPT可以高效地生成各种模式化的文字，从而让人类能腾出脑力来从事更多的创造性工作。在人类未来的发展中，我们将能以ChatGPT为自己的训练伴侣，在涉及‘学、识、才’的内容生产中充分发挥‘人的用处’。”
具体而言，ChatGPT为文艺创作提供了什么？在上海开放大学文学院教授杨敏看来，每一位使用者都可以在人工智能提供的场景体验、洞察角度、文化视野和创作边界上找到突破口，激发创作灵感。她提出，人类情感的趋同，是人工智能与文艺创作深度融合的前提和基础，人类的经验和情感本身就具有共通性，在此基础上，以海量模型参数的训练建立的人工智能不仅是海量的信息库，也能找到和建立情感共同体。“从情感唤醒、情感共鸣到情感共建，在人工智能与文艺创作的深度融合中，人工智能能够凸显创作情感，提升情感能力，促进情感适调，塑造人类情感共同体。”
华东师范大学教授、上海市语文学会会长胡范铸则认为，人类的情感不仅是内在的反应，更是一种规训的过程，他曾让ChatGPT造一些新的关于情感的词汇，得到了“悄喜”“忧锁”等在现实场景中也具有意义的词语。“随着人工智能和机器学习技术的发展，我们可能会看到一些新的情感状态的出现，而ChatGPT可能成为新的规训者。我们会发现机器替代我们在感知世界，机器创造感知，并规训我们新的情感。”
人能够创造出超越自己能力的一个“他者”吗？这个问题曾经很大程度上归属于哲学领域，如今却越来越多地被人们在生活和具体应用场景中谈及。但在复旦大学中文系教授郜元宝看来，在文学领域，这个问题不能被归为纯技术问题，比如中国文学从古至今语言的博大精深，是作家需要依靠自身成长、花很大工夫才能真正驾驭的，“这绝对不是人工智能能够帮助他的。”
站在文学的角度看技术，复旦大学中文系教授严锋将AI比作镜子、眼镜和眼睛，“它可以看很多东西，看技术、看人、看文学，这会让我们有一些新的发现，让技术和人文相互照亮。”不同于郜元宝的观点，他认为AI有朝一日一定会“觉醒”。“在文学史上，我们看到过读者的觉醒，原来作者是一切创造的源泉，后来读者的主体性越来越活跃，越来越不满足于被作者喂养、控制、单线程的线性的文学。”严锋认为，AI时代为语言提供了更大空间，其中挑战和希望并存，“越有人文精神的人，越要投入到新的技术中，一定要积极加入它。它也会倒逼我们重新去看什么是独创、什么是拼贴、什么是模仿，会诞生新的看法。”
“ChatGPT是非常优秀的游戏性作者，它在文学形式的把握上是青出于蓝而胜于蓝的，通过海量阅读，它对文学形式的把握，对中国小说、诗歌的阅读一定超过中国每一个现存的作家。”同济大学人文学院教授张生说。他认为，作家对形式的依赖其实远远超过我们的想象，这个形式不是简单理解的叙事，也包括人物设置等一整套的范式，每位作家掌握的形式是有限的，ChatGPT可以大大提高作家把握形式的能力，并为我们提供框架性的建议。
“在将来的发展中，ChatGPT到底是工具，还是最后会变成主体？人和ChatGPT之间的主体、客体关系是怎样的？对这些问题，我们不用太乐观，也不用太悲观，它有自己发展的步骤。”上海市作协专职副主席、秘书长马文运说，“现阶段我们的任务就是利用好它，兴利除弊，把它掌握在自己的手里，而不是被它所掌握。一个工具在不同的人手里，会取得不同的效果，怎么让它发挥出更大的效果，是我们这一阶段最重要的工作。”
如与会者所言，与其回避和抗拒，不如在认识和学习中进行更主动的思考。张生借用哲学家斯宾诺莎的一句话，形容ChatGPT在当下的定位：“我们打开窗户，点燃一盏灯。”