中国与世界互动中的新机遇、新挑战请谈一谈人工智能带来的机遇与挑战

发表时间：2023-07-19 07:05:22

中国与世界互动中的新机遇、新挑战

【学习贯彻党的十九届五中全会精神】

作者：北京师范大学金砖国家合作研究中心主任、政府管理学院副教授王磊

党的十九届五中全会深入分析国际国内形势，通过了《中共中央关于制定国民经济和社会发展第十四个五年规划和二〇三五年远景目标的建议》，指出我国发展环境面临深刻复杂变化。当前和今后一个时期，我国发展仍然处于重要战略机遇期，但机遇和挑战都有新的发展变化。这就要求我们要善于在危机中育先机、于变局中开新局，抓住机遇，应对挑战。

中国与世界关系进入新阶段后面对的机遇和挑战

1.中国在新阶段面临的机遇

第一，百年未有之大变局为中华民族伟大复兴提供战略机遇。当今的世界各方面都在经历深刻的变化，国际体系和国际秩序深度调整，现行国际体系的主导国自身也在调整对国际体系的部署，主导力量内部各成员之间的关系正在经历深刻变化，这使得中国有机会作为重要成员在未来的世界格局规划中获得更多的新的战略机遇，在更大程度上参与全球治理规则体系的制定。

第二，社会信息化和新一轮科技革命为中国提供了重要抓手。新一轮科技革命的兴起意味着人类生产和生活方式的巨变，这种影响具有根本性、基础性、彻底性。中国自身科学技术和教育水平的提升为中国搭乘本次科技革命的快车，在弯道超车的同时获得全球治理的主动权提供了宝贵的历史契机。

2.中国需应对的挑战

中国与世界关系进入新阶段后，挑战主要来自自身和现行国际体系的主导力量。

第一，中国比较欠缺参与全球治理的经验。自世界进入近代史以来，中国长期处于被动的地位，欠缺作为全球性引领力量的经验。如何从“自保型”和“追赶型”力量，成功转型为“引领型”力量，需要中国结合自身历史和现实，向历史上的主要全球性大国学习借鉴，并在扬弃中实现超越。

第二，中国自身的发展仍然存在短板。作为世界第二大经济体，中国的国内生产总值占到美国的70%左右，但综合国力和软实力的差距仍非常明显。而且，中国自身仍是世界上最大的发展中国家，各地区发展不平衡、城乡发展不平衡、社会转型和政治经济改革发展等也都仍面临着诸多内部挑战。这些自身发展中存在的挑战会给中国与世界关系带来较大的制约和影响。

第三，中国面临时刻保持清醒头脑和坚持强大战略定力的巨大需求。随着中国自身实力的快速发展和国际地位的提高，国内民众的民族自豪感和自尊心也催生了一定的集体情绪，甚至会转变成为国家和民族更稳定向好发展的压力。如何时刻保持清醒头脑，彰显强大的战略定力，这是中国在新阶段处理与世界关系时必须克服的重大挑战。

从“双适应”角度推动构建新型的中国与世界关系

百年未有之大变局是中国处理与世界关系时必须冷静客观应对的宏大背景，双方都必须适应对方的变化，适应未来的崭新局面，在“双适应”中构建新型的中国与世界关系。

第一，中国应主动谋划发挥更大的主动性。凡事预则立不预则废。要实现中华民族伟大复兴的目标，为国际社会作出更大贡献，就要主动谋划而不是被动适应变化中的世界，就要有明确的规划并形成具有指导意义和可操作性的路线图，让世界在与中国的互动中认知并接受中国方案所带来的突破和创新。“十四五”规划和二〇三五年远景目标就提供了最为清晰的中国中长期发展路线图。世界是一个最为复杂的集合体，充满着各种变数。“十四五”的新征程上，中国要在与世界的良性互动中，推动国际政治经济体系实现建设性变革。

第二，中国要坚定推进改革开放进程，这也是构建新型中国与世界关系的前提。中国要坚定不移地推动全方位改革，提升世界对中国的接受度；要防范任何可能割裂中国与世界关系、试图让中国与世界脱钩的风险，不断扩大开放，在之前的基础上进一步提升中国与世界的关系。

第三，中国要最大程度地团结国际社会中的多边主义力量。中国要通过构建全球伙伴关系网络，团结国际社会中一切支持多边主义的力量，推动全球治理体系的建设性变革，构建更加公正合理的国际政治经济秩序。

（本文是国家社会科学基金项目“金砖国家参与全球治理体系改革和建设研究”的阶段性成果，项目批准号：18BGJ029）

（动图：孔鹏）

三问ChatGPT如何影响人工智能的未来

学生们在长沙华夏实验学校和机器狗互动（2022年6月22日摄）薛宇舸摄/本刊

➤ChatGPT在技术路径上采用的是“大数据+大算力+强算法=大模型”路线，又在“基础大模型+指令微调”方向探索出新范式，其中基础大模型类似大脑，指令微调是交互训练，两者结合实现逼近人类的语言智能

➤据估算，此类大模型的训练一次的成本接近千万美元，运营成本一个月要数百万美元。“OpenAI为了让ChatGPT的语言合成结果更自然流畅，用了45TB的数据、近1万亿个单词来训练模型，大概是1351万本牛津词典。”

➤新一代网络操作系统和生态雏形初显，“英伟达+微软OpenAI”封闭生态有可能成为智能时代的“Wintel”联盟

文 |《瞭望》新闻周刊记者朱涵彭茜黄堃

ChatGPT会带来一个不同的未来吗？

带着这个问题，记者询问了ChatGPT“本人”，它的回答是这样的：

“随着ChatGPT的普及，它开始被广泛应用于各种领域，从在线交流、信息搜索、机器翻译、文本生成，它的准确性和高效率使得许多工作变得不再困难。然而，人们也开始对它产生了担忧……”

ChatGPT正在成为我们生活中的一部分，ChatGPT会是人工智能通往未来的坐标吗？人工智能的发展，离不开人与人工智能的结合，技术与人类能无缝结合吗？

ChatGPT会是人工智能通往未来的坐标吗

与人类连续对话，拒绝不合适的问题，短时间内完成写邮件、文案、代码、诗歌，轻松通过工程师、MBA、研究生、医师资格等难度较高的专业级测试……推出2个月即拥有1亿月活用户，ChatGPT已成为史上用户增长最快的消费级应用程序。

在语言智能程度呈现跨越式提升的背后，ChatGPT是一场工程创新的“大力出奇迹”。

“ChatGPT的成功，首先是选择了合适可行的技术路径，然后就是数据和人力资源的巨大投入。”北京智源人工智能研究院院长黄铁军说。

黄铁军说，ChatGPT在技术路径上采用的是“大数据+大算力+强算法=大模型”路线，又在“基础大模型+指令微调”方向探索出新范式，其中基础大模型类似大脑，指令微调是交互训练，两者结合实现逼近人类的语言智能。

“OpenAI为了让ChatGPT的语言合成结果更自然流畅，用了45TB的数据、近1万亿个单词来训练模型，大概是1351万本牛津词典。”浙江大学人工智能研究所所长吴飞说。

业内人士表示，OpenAI的主要支持方微软构建了一个算力规模位居全球前列的超算平台以支持其研发，OpenAI在全球范围雇佣了近千名专人进行数据处理。据估算，此类大模型的训练一次的成本接近千万美元，运营成本一个月要数百万美元。

“ChatGPT是人工智能技术‘量变’引发‘质变’的代表，标志了目前机器学习大模型、大训练数据和大算力能够到达的新高度。”之江实验室副主任鲍虎军表示，ChatGPT在GPT模型基础上，采用人类反馈强化学习（RLHF）的训练机制和提示导引模式，促使模型越来越顺应人类的思考逻辑，更加符合人类认知和习惯，这是工程实现上的重要创新。

中国科学技术大学机器人实验室主任陈小平说，迄今为止，人工智能的所有理论和技术都没有解决真实性难题，都不能让机器本身拥有真实创造的能力，但创造效率的提高将产生巨大的效益和多方面的影响。

“目前，人类面临着前所未有的重大机遇。”陈小平说。

ChatGPT能否预示着一个新时代启幕

“ChatGPT的成功不仅是一个新一代聊天机器人的突破，它将为人工智能乃至整个信息产业带来革命。”黄铁军说，ChatGPT将成为点燃人工智能的“网景时刻”“iPhone时刻”。

“网景时刻”和“iPhone时刻”，分别是互联网和移动互联网发展的里程碑事件。网络浏览器诞生于1990年，但直到1994年网景导航者（NetscapeNavigator）问世，大多数人才开始探索互联网。第一部智能手机IBMSimon诞生于1993年，2007年苹果iPhone的横空出世，重新定义了智能手机并开启了移动互联网的新时代。

同样地，ChatGPT极有可能预示着又一个新时代的启幕：

——新一代网络操作系统和生态雏形初显。多位专家受访时表示，ChatGPT正在演变成新一代操作系统平台和生态，用户将能直接用日常语音或者文字与人工智能进行交互，大部分计算负荷由大模型为核心的新一代信息基础设施接管。

在微软算力支持下，OpenAI已相继研发出GPT-3、ChatGPT等通用泛化能力越来越强的闭源大模型，并通过微软云平台提供智能云服务，支持智能应用开发，这将成为智能时代的基础性“操作系统”。再加上在AI芯片市场已占领超主流市场份额的英伟达GPU芯片，形成的“英伟达+微软OpenAI”封闭生态有可能成为智能时代的“Wintel”联盟。

“大模型及其软硬件支撑系统的生态之争将成为未来十年信息产业的焦点。”黄铁军说。

——人工智能直接连接大众，个体深入参与技术发展。“从短期来看，ChatGPT正在从实验室基础科技向产业应用转变，一切还处于‘爆炸式创新’的前期，正如云计算催生了APP应用爆炸，基础模型很可能催生AI应用规模化。”人工智能资深研究专家、科技评论员田涛源说。

“人们将能够直接与我们最新、最强大的语言模型互动，作为搜索的伴侣，以实验和创新的方式。”谷歌CEO桑达尔·皮查伊（SundarPichai）说。

“相较于以AlphaGo这一现象级产品针对于某一个特定领域、其算法模型需要附着在某一个产品中才能赋能使用的模式，ChatGPT能直接面向大众使用者，且具备盈利模式，这将改变很多人工智能企业高成本、低回报的经营模式。”吴飞说。

——重构传统互联网商业模式，催生数字经济新突破。北京瑞莱智慧科技有限公司副总裁唐家渝认为，ChatGPT的应用除了聊天机器人外，还包括涉及文字生成和信息查询的智力工作、低难度的编程等内容创作领域，从而普遍提高这些行业的生产力。也能够与其他生成式技术融合，比如提高数字人的语义交互水平等，打造更具象化的形象，提升交流中的情感链接。

田涛源表示，从中长期发展趋势上预测，“生成式AI+决策式AI”很有可能重构传统互联网的搜索、广告、社交、游戏、电商模式，部分程度上颠覆原有的互联网平台，同时遵从数实融合、以虚强实原则赋能科研、制造、能源、交通等实体企业做强做优做大。

国家超级计算成都中心科研人员在巡检机房设备（2023年2月14日摄）刘坤摄/本刊

技术与人类能无缝结合吗

ChatGPT引发的全球关注，令许多人回忆起2016年AlphaGo战胜人类围棋世界冠军的时刻。当时社会上同样兴起了一场人工智能大讨论。

在这场热潮中，我国抢抓人工智能发展的重大战略机遇，在2017年发布《新一代人工智能发展规划》，推动人工智能一业赋百业。

目前，ChatGPT已引发全球科技公司的新一轮人工智能竞赛。谷歌发布了下一代对话AI系统Bard，微软发布了整合了ChatGPT的全新必应Bing和Edge浏览器，宣布旗下Office、Azure云服务等所有产品都将全线整合ChatGPT。百度表示将在今年3月完成人工智能聊天机器人“文心一言”的内测，随后对公众开放，阿里巴巴达摩院预训练语言模型体系已开放内测。

回顾历史，人工智能的发展并非一帆风顺。自1956年诞生以来，人工智能发展经历三次浪潮，期间充满波折。在人工智能深度学习迅速发展的近10年里，产业上也还没有出现里程碑式的爆发。

事实上，ChatGPT在带来惊艳体验的同时，也有明显“缺陷”。比如，它的知识存在事实性错误、知识盲区、常识偏差，也将面临着隐私泄露、技术滥用、造假、社会公平等伦理问题。因其模型能力出众、用户众多，这些风险隐患还会被放大。

“ChatGPT的应用离不开人的‘提示’，性能的持续提升离不开研发者的算法改进和设计，风险隐患的应对离不开人的引导和治理。”业内人士表示。

人工智能的发展，离不开人与人工智能的结合，我们的未来，也将是人与人工智能共同进化的时代。

正如ChatGPT描绘的人工智能未来世界：

机器人们像人类，

思想智慧已涌动。

在这梦幻的世界里，

技术与人类无缝结合。

生活如同一首诗，

平静而美好，永不停歇。

人工智能的伦理挑战与科学应对

编者按

2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》，呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”。在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战，引发重大的伦理关切。习近平总书记高度关注人工智能等新兴科技的发展，强调要加快提升“人工智能安全等领域的治理能力”，“塑造科技向善的文化理念，让科技更好增进人类福祉”。为此，本版特组织几位青年学者围绕人工智能的伦理挑战与科学应对展开讨论，并邀请专家予以点评，以期引发学界的更多关注，为推动人工智能健康发展贡献智慧。

与谈人

彭家锋中国人民大学哲学院博士生

虞昊华东师范大学政治与国际关系学院博士生

邓玉龙南京师范大学哲学系博士生

主持人

刘永谋中国人民大学哲学院教授、国家发展与战略研究院研究员

1.机遇与挑战并存的人工智能

主持人：新技术革命方兴未艾，以人工智能等为代表的新兴科技快速发展，大大拓展了时间、空间和人们的认知范围，人类正在进入一个“人机物”相融合的万物智能互联时代。请具体谈谈人工智能给人类社会发展带来什么样的机遇？

彭家锋：人工智能、大数据、物联网、云计算等智能技术蓬勃兴起，对人类社会的方方面面产生深刻影响，推动整个社会逐步迈入智能社会。在此过程中，存在许多重大历史机遇需要我们把握。就技术治理而言，人工智能作为一种治理技术，正在助推社会治理的治理理念、治理方式、治理效能等方面的变革，将传统技术治理提升至智能化新阶段，呈现出“智能治理的综合”趋势。智能治理将全面提升社会公共治理的智能化水平，主要呈现出四个方面的特征：一是治理融合化，即促进各种智能技术与其他治理技术相互融合，大幅度提升智能社会的治理水平；二是治理数据化，即以日益增长的海量数据为基础，通过对数据映射出来的“数字世界”进行社会计算，实现治理目标；三是治理精准化，即发挥智能技术强大的感知能力、传输能力和计算能力，将传统的粗放治理转变为精准治理；四是治理算法化，即不断完善智能决策系统，尝试将程序化的算法决策扩展到更多的决策活动中，从而提高决策质量。

虞昊：人工智能有助于反思人类社会得以建立与发展的基础。随着分析式AI向着生成式AI不断演变，尤其是生成式AI初步展现出判别问题、分析情感、展开对话、创作内容等越来越具有人类特征的功能，原本属于人类的领域正被人工智能以另一套由“0”与“1”构成的计算机语言逐步侵蚀。这既是对人类社会的冲击，也势必会在更加平等的开放性框架中增强人类的主体性，促进人类社会进一步发展。

邓玉龙：总体来说，以人工智能为代表的新科技发展，显著提升了社会生产力。例如，生成式AI不但能完成传统AI的分析、判断工作，还能进一步学习并完成分析式AI无法从事的创造性工作。从人机交互的角度来看，人工智能也促进了生产关系的高效发展。具体表现在：一是刺激劳动形态的转化。人工智能高效承担大量的基础机械性劳动，人类劳动则向高阶的创造性劳动转化，由此引发社会层面的劳动结构转型、升级，并且以人工智能为中介，社会范围内的劳动整合、协调能力也实现升级。二是促进劳动场域的重构。随着劳动形态的转化和劳动的社会化扩展，人工智能将劳动从固定场域中解放出来，人类劳动的灵活性增加。相比于创造性劳动，机械性劳动更加受到空间和时间的制约，而在人工智能从技术层面替代更低边际成本的基础性劳动之后，人类劳动空间和时间的自由性实现跃迁。三是对主体的发展提出了更高要求，尤其是对主体适应社会发展提出了更高要求。人工智能技术的发展对人类传统的知识结构提出挑战，要求人类更新原有的知识结构以适应社会发展需要，也对教育提出更高要求，教育模式和教育内容需要更契合科技发展的水平，培养更加全面发展的人才。

主持人：人工智能的一系列产物在给人们带来生活便利的同时，也一定程度上引起大家对其可能引发的伦理挑战的警惕。一些人关注人工智能的风险问题，对人工智能的推进有些焦虑。如何看待这种警惕和焦虑？

虞昊：人工智能的风险以及由此带来的焦虑，是完全可以理解的。但我们无法返回一个没有人工智能的世界，人工智能已然深度介入人类社会，试图遏制人工智能的推进只能是螳臂当车。同时我们对人工智能的发展也不能放任不管，无视甚至于压制人工智能的推进只能是掩耳盗铃。因此，我们应该正视这种焦虑，在发展人工智能的过程中探求解决方案，在人工智能带来的风险中寻求危中之机。

邓玉龙：我们应正确看待这种焦虑。要看到，焦虑有其积极的意义，它体现人类的忧患意识，催生对人工智能风险的预见性思考，提醒我们注意焦虑背后人工智能技术发展存在的问题。正确对待焦虑有助于积极采取措施防范风险，辩证分析焦虑中先见性的思考，通过社会治理模式的升级化解风险问题。同时，仅有焦虑和恐惧是不够的，更重要的是积极解决人工智能发展带来的社会问题。从劳动的角度看，人工智能确实会取代部分人类劳动，推动劳动结构转型升级，让劳动向着碎片化、个体化方向发展，劳动者处于弱势地位，面临着“机器换人”的挑战。但是我们也应该理性认识到，人工智能不是对人类劳动能力的完全替代，而是对劳动者提出了更高的要求，要求劳动者掌握科学知识，将技术的发展内化为自身能力，在更具创造性的劳动中实现自身价值。

彭家锋：任何技术的发明使用，不可避免地伴随着这样或那样的风险。人工智能技术自然也不例外，在其应用过程中，同样引发了诸如隐私泄露、算法歧视、法律责任等风险问题。因此，关注人工智能的风险问题，并由此对人工智能的推进产生焦虑，具有一定理论依据和现实基础。但更应当清醒地认识到，人工智能的某些相关风险可以提前得到规避，并不必然会发生；即便真的发生，也仍可不断寻求化解风险的有效手段。以个人隐私滥用风险为例，在治理过程中，虽然不可避免地会涉及个人数据收集和分析处理，但可以通过建立完整的规范和监管体系来保护个人隐私，降低滥用风险。

2.人工智能科技竞争的“伦理赛道”

主持人：习近平总书记在以视频方式出席二十国集团领导人第十五次峰会时指出，“中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康发展”。请谈谈“人工智能原则”应包含哪些内容？科技向善的文化理念对推动全球人工智能健康发展具有怎样的现实价值？

彭家锋：为应对人工智能等新科技快速发展带来的伦理挑战，2022年，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，其中明确了“增进人类福祉”“尊重生命权利”“坚持公平公正”“合理控制风险”“保持公开透明”等五项科技伦理原则。我认为，这五项原则基本涵盖了人工智能原则的伦理要求，彰显了科技向善的文化理念。科技向善的文化理念，根本目标是让科技发展更好地服务社会和人民，带来良好社会或社会公益的善。科技向善对推动全球人工智能健康发展至少具有以下三个方面现实价值：一是塑造公众信任。公众对人工智能的信任很大程度上并不完全由相关风险程度决定，而是取决于公众的利益与价值是否得到足够重视。后者正是科技向善的内在要求。二是引领技术创新。科技向善的文化理念将在技术创新发展过程中发挥价值引领作用。三是促进全球合作。科技向善的文化理念试图在全球范围内建立人工智能伦理规范的“最大公约数”，各国在达成伦理共识的基础之上，能够建立互信，实现更加充分深入的国际合作。

虞昊：个人认为，人工智能原则也应包含非对抗与非失控的理念。非对抗意味着不应将人工智能视作人类社会的对抗性存在，人工智能已经成为人类社会的构成性要素，我们必须持更为开放的态度去面对人工智能。非失控意味着不应放弃对人工智能的伦理规范，应以智能的方式去规范加速发展的人工智能。如果以上述理念为前提，也就是说，在支持人工智能发展的情况下，科技向善的文化理念在推动全球人工智能健康发展中就变得极为重要。此处的“善”在国家治理层面即指向“善治”，而当人工智能的发展从国家范围扩展到全球范围，“善治”就在构建人类命运共同体的意义上拥有了更贴近现实的内涵。各国应摒弃冷战思维与零和博弈，基于善意与友谊共同思考人类作为整体如何在人工智能的冲击下通往全球性的“善治”。

邓玉龙：2019年欧盟发布《可信赖的人工智能伦理准则》，2021年中国国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》（以下简称《规范》）。与欧盟发布的伦理准则相比，《规范》体现了中国特色社会主义的制度优势，旨在将伦理规范融入人工智能全生命周期。人工智能发展的根本目的是促进人的全面发展，因此，我以为，人工智能原则还应体现共享和有序发展的要求。共享，旨在防止人工智能的技术垄断。科技发展应该兼顾全体人民的利益，而不是服务于少数群体，由全体人民共享科技发展成果，推动全球科技水平的共同增长。有序发展，旨在防止人工智能技术的无序扩张。人工智能技术的发展最终是为了提升人的幸福感，推动科技有序发展能够促进人机和谐融合，有效预防潜在无序扩张的风险。

主持人：从规范层面来说，伦理反思对规范人工智能发展的作用主要体现在哪些方面？

彭家锋：近年来，世界各主要国家在人工智能领域竞争日趋激烈，纷纷将人工智能发展置于国家发展的战略层面。比如，美国陆续出台《国家人工智能研究和发展战略计划》（2016）和《关于维持美国在人工智能领域领导地位的行政命令》（2019）；欧盟先后发布《欧洲人工智能战略》（2018）和《人工智能白皮书》（2020）；中国也较早发布了《“互联网+”人工智能三年行动实施方案》（2016）和《新一代人工智能发展规划》（2017）。人工智能科技竞争的客观局面已然形成。在此背景下，如果忽视人工智能技术发展所带来的全球性风险与挑战，极有可能陷入技术赶超的竞争逻辑。因此，亟须规范人工智能的科技竞争，而倡导伦理反思或许就是一条可行之路。伦理反思的意义至少在于：一是设定伦理底线。人工智能技术的开发和应用需要遵循一些基本的价值理念和行为规范。只有守住伦理底线，才有可能避免颠覆性风险的发生。二是实现敏捷治理。伦理反思是一个动态、持续的过程，贯穿于人工智能科技活动的全生命周期。为了确保其始终服务于增进人类福祉和科技向善的初衷，需要保持应有的道德敏感性，以灵活、及时、有效的手段化解人工智能带来的各种伦理挑战，确保其在科技向善的道路上行稳致远，实现良性发展。

邓玉龙：人工智能科技竞争是为了促进科学技术发展，而科学技术发展的最终目的是推动人类社会的进步。人工智能科技竞争不应该仅包括技术竞争的单一维度，更不应该通过技术优势遏制他国的科技发展，而应该是在人工智能科技条件下的综合性竞争，通过良性竞争促进全球人工智能和全人类的共同发展。其中就应该包括社会治理竞争，通过社会治理保障社会公平，因而对社会中人与人关系的伦理反思构成人工智能科技竞争的有机组成部分。首先，伦理反思对人工智能科技竞争提出了更高的要求。人工智能的公平性、可信任性、可解释与透明度、安全性不仅是伦理要求，也代表了人工智能技术的发展方向，是人工智能科技竞争需要抢占的技术制高点。科技的发展是为了人的全面发展，因而人的发展内嵌于科技发展要求，伦理反思有助于防止工具主义的泛滥。其次，伦理反思为人工智能科技竞争提供价值引导。伦理反思注重保障人的权利，科技发展并不是社会发展中的唯一衡量因素，我们还应该关注其中多样性的因素，尤其注重保护特殊群体的利益，例如防止数据鸿沟等不良影响。伦理反思有助于实现人工智能的综合性健康发展。

3.人工智能安全与人的全面发展

主持人：科学探究一直以来都是人们认识世界和了解自身的重要认知方式，人工智能等信息产业的革命如何影响着人们的认知方式？

彭家锋：人工智能等信息产业的革命，促进了科学研究新范式――数据科学的诞生，进而对人们的认知方式产生深刻影响。数据科学被认为是继实验、理论和模拟之后的新的科研范式。相较于传统科学，数据科学融合了统计和计算思维，通过人工智能等技术提供的海量数据、强大算法和算力，能够直接从数据中寻找相关关系、提取相关性或者预测性知识，进而产生一种基于相关性的科学思维模式。但这种相关性并不一定能够转化为因果关系，因为可解释性对于从数据科学技术确定的相关性中提取因果解释至关重要，而相关技术一般都缺乏必要的透明度和可解释性。数据科学更可能成为一种预测科学，但是预测并不是科学追求的唯一目标。通过揭示世界的潜在因果结构来解释和干预现象，也是科学的两个重要目标。因此，尽管数据科学能够通过分析大量数据生成相关性知识，却不能直接产生因果解释。对此，传统科学的可检验性假设方法和因果规律探求仍有其重要价值。数据科学并非取代传统科学，相反，两者将相互补充，共同成为人类探索世界的有效工具。

虞昊：显而易见的是，随着人工智能向着通用人工智能迈进，其能够为人们提供的教育资源、生活娱乐、工作讯息也越来越丰富，人们势必越来越依赖于通过与人工智能进行交互来获取外界信息。因此，当人工智能深度地构成人们认知世界的滤镜时，若不对人工智能本身具有重复性、同质性倾向的认知框架保持警醒，人工智能可能扭曲人们的认知方式直至影响人的主体创造性。

邓玉龙：以人工智能为代表的全新技术发展被称为第四次工业革命，其中最显著的特征就是机器与人类的深度融合，机器不再作为一种外在性的工具被人类使用，而是在与人类的深度关联中影响人类的认知方式。一方面，信息产业革命丰富了人类认知的联结方式。人工智能和大数据技术的发展促进人类的分析逻辑从因果关系扩展为相关关系，对相关关系的重视使人工智能可以从大数据而非小数据维度获取信息，为人类认知提供新的视角。按照传统人类认知方式的理解，因果关系要求关于世界的认知是确定性的，而这在数字时代的复杂性社会中很难实现。人工智能对相关关系的认知填补了这一缺失，允许我们在无法掌握确定信息但在掌握大量数据的条件下对未来趋势作出预测。另一方面，如果我们对人工智能等科技的输出结果和生成内容盲目信赖，将结果和内容与经验事实之间进行绝对等同的连接，误认为是事实的全部，那么我们就会丧失人文主义抽象反思的能力，对此我们应当保持警惕，始终坚持反思和批判的人文精神。

主持人：如何调适人的主体创造性与信息高度集成共享之间的关系？

彭家锋：当人们逐渐将更多创造性工作交由人工智能完成，不免让人担忧人工智能是否将会威胁到人的主体创造性。从人机关系的角度来看，这种担忧是基于一种人机敌对论的视角，认为人工智能挤压了人的主体创造性空间，是替代逻辑的延续。但从人机协作的视角出发，将人工智能看作人的得力帮手，通过创造性地使用人工智能可以赋予人类更大的创造性空间。比如，在进行文字写作、多媒体脚本、程序代码、文稿翻译等工作时，可先由人工智能高水平地完成草稿工作，然后再由人类进行一些创造性的调整和发挥。此时人工智能生成的内容将成为进一步创作的原材料，人类将以更高的效率投入创造性活动之中。当然，要实现以上效果并非易事，不仅需要思想观念的转变，还应在制度安排、教育方式等方面作出相应调整。

虞昊：面对信息高度集成共享的人工智能，人有可能转变为算法的动物。试想下述场景：当依据人工智能展开行动变得足够便捷有效时，行动者便会倾向于采信人工智能，此时，看似是人类行动者基于自然语言在进行互动，实则是算法逻辑基于计算机语言在进行数字化运转。于是，人的主体创造性被侵蚀，人可能沦为算法动物。对此类情形，我们应该保持足够的清醒与警惕。

邓玉龙：人工智能技术生成的内容（AIGC）具有高度集成共享的特性，能够高效地对人类知识进行数据挖掘、信息生成。调适人的主体创造性与信息高度集成共享之间的关系，我们需做到如下几个方面：首先，需要通过人的创造性扩大AIGC数据库，当下AIGC主要是依赖于大语言模型，以大量的网络文本作为训练数据库生成的，通过人的创造性生成可以不局限于网络文本，而是进一步扩展数据库的训练文本，从而提高其丰富度。其次，需要通过人的创造性为AIGC提供价值训练，通过人的创造性生成的价值立场、伦理法则等与AIGC的训练数据库相融合，从而建构可信赖、可持续的信息高度集成共享机制。最后，需要将人创造性生成的内容与AIGC共同作为人类知识的来源，人类知识的获得不能仅仅局限于AIGC，而是需要人发挥其主体创造性对人工智能技术生成的内容进行反思和拓展，将人类无法被数据化的、经验性的知识与AIGC数据化的知识融合成为人类知识的来源。

（张颖天整理）

中国与世界互动中的新机遇、新挑战 请谈一谈人工智能带来的机遇与挑战