2023人工智能合作与治理国际论坛 人工智能合作与治理国际论坛

2023人工智能合作与治理国际论坛

联合国驻华协调员常启德视频致辞

您可在YouTube或腾讯视频观看致辞视频

尊敬的阁下、各位嘉宾，

女士们、先生们，

在人工智能技术发展的关键时刻，我很荣幸在今年的人工智能合作与治理国际论坛上发言。

当今世界持续面临着重大的全球性挑战。从2019冠状病毒病带来的持续社会经济影响到气候紧急状态，从不断上升的生活成本到日益加剧的全球冲突，我们正生活在一个愈发不确定的时代。而这种不确定性可能破坏人类发展进程并危及可持续发展目标的实现。

在此背景下，人工智能有潜力为人类与地球创造巨大价值，使我们能够更有效地应对这些全球性挑战。人工智能有望提升医疗服务的可及性及服务质量，为战胜饥饿提供工具，拓展经济发展的新领域，应对气候变化。而这些只是人工智能为加速全球可持续发展进程所提供的众多发展途径的一部分。

与此同时，同任何快速发展的新技术一样，人工智能也存在着风险。这些风险包括隐私的减少，人类自主能动性和责任的减少，收入不平等的扩大，以及可能的就业机会减少。

鉴于人工智能的变革潜力，我们需充分考虑到其带来的机遇与风险，确保为所有人创建一个更具韧性的未来。

发展人工智能的当务之急是完善国际治理结构。没有适当的治理，人工智能技术将有可能产生不良的现实后果。道德伦理、错误信息、数据隐私、互联网访问以及潜在算法偏见等问题均会扩大现有差距，因此必须予以解决。

包括人工智能在内的数字技术的确为行使人权提供了新的手段，但其也常被用作侵犯人权的工具。因此，发展与使用人工智能的监管框架与治理体系必须以普遍人权为中心。

鉴于人工智能技术的跨国界性和在不同场景的应用，构建国际人工智能治理框架显得尤为重要。在人工智能伦理和法规标准化方面，取得国际合作及共识对于确保一个安全稳定、包容互联的全球格局，抵御国家间不断扩大的数字碎片化至关重要。

为此，联合国秘书长提出希望各国政府在2024年的联合国未来峰会上就《全球数字契约》达成一致。该契约将使国际社会团结起来，创造一个开放、自由、安全、包容的数字化未来，同时涵盖对于人工智能的监管，以确保其与全球共同的价值观相一致

我们要让全球听到更多来自发展中国家的声音。凭借其在教育、医疗与经济发展等领域的巨大潜力，许多发展中国家已做出庄严承诺，发展本国人工智能技术。

然而，大多数发展中国家未能参与到推动人工智能对话的重要论坛之中。如果要以人工智能助力人类发展，其必须具有包容性。这种包容性不仅意味着充分倾听来自不同国家的声音，还要确保从事人工智能领域工作的利益攸关方广泛参与。科技公司、民间社会、学术界及其他相关方须参与其中，接受《全球数字契约》的各项协议，以实现宣布发展《契约》时所设立的宏伟目标。

女士们、先生们，

数字技术正以前所未有的速度飞快发展，但关于如何治理技术进步的讨论却没有跟上步伐。这将容易导致行业、政府与个人制定碎片化、相互冲突的政策，造成风险。我们必须采取措施，确保这种情况不会发生。

人工智能治理不能只停留在讨论层面。我们应坚持创新发展，多方利益相关者共同参与和多学科共治，推进相关规范框架发展，使其与人工智能的跨国界属性相适配。

今天这样的论坛为来自世界各地的国际组织、政府、私营部门和学术界的专家学者提供了一个重要平台，以确定并讨论构建全球人工智能韧性治理框架的发展趋势、机遇与挑战。

正如联合国秘书长安东尼奥·古特雷斯在今年早些时候所言：“我们必须抓住时机，结成伙伴关系，携手合作实现技术进步的承诺，促进共同利益的实现。”

联合国将继续发挥召集者作用，促进各方对话，制定人工智能治理的规范性框架，并在其发展和实施过程中推进多方利益相关者的国际合作。我们必须确保在充分利用人工智能自身潜力的同时，降低其所带来的风险。

我们必须确保人工智能系统合乎道德与公平，在创新与保护人类与地球的责任之间构筑平衡。我们必须敦促主要利益攸关方共同参与并推动具体行动，塑造韧性的人工智能国际治理格局和以人为本的未来。

最后，祝愿本次论坛在推进这些讨论方面取得圆满成功。谢谢！

2023人工智能合作与治理国际论坛在京举办

12月4日，由清华大学主办，联合国开发计划署（UNDP）作为国际支持机构的2021人工智能合作与治理国际论坛在清华大学开幕。本次论坛以“如何构建一个平衡包容的人工智能治理体系”为主题，汇集世界各地在人工智能领域的思想领袖和实践者，共同探讨构建适合人工智能健康发展的治理体系，分享人工智能技术前沿与治理经验，提出元宇宙未来治理的前瞻议题，推动建设人类命运共同体。

中共十九届中央委员，十三届全国政协副主席、党组成员汪永清应邀出席论坛开幕式并致开幕辞。清华大学校长邱勇、联合国开发计划署驻华代表白雅婷致欢迎辞。科学技术部副部长李萌，工业和信息化部副部长徐晓兰，外交部军控司副司长马升琨，联合国助理秘书长、秘书长技术事务特使办公室主管官员玛丽亚-弗朗切斯卡·斯帕托利萨诺（Maria-FrancescaSpatolisano），图灵奖得主、清华大学交叉信息研究院院长、人工智能国际治理研究院学术委员会主席姚期智应邀致辞。清华大学副校长杨斌主持开幕式。

汪永清在开幕辞中表示，中国人工智能治理坚持以人民为中心、坚持增进人类福祉、坚持鼓励科技创新、坚持统筹发展与安全、坚守公平正义理念，契合联合国和G20有关人工智能治理精神，目的是促进人的全面进步、促进经济社会生态可持续发展。

汪永清指出，面对人工智能发展带来的风险挑战，国际社会必须携起手来、共同应对，不断提升人工智能全球治理水平。要推动开放包容，秉持人类命运共同体理念，最大限度地增强合作机制、理念、政策的开放性和包容性，构建人工智能全球治理的负责任格局。

邱勇在致辞中表示，人工智能是第四次工业革命的标志性技术。近年来，智能化正在深刻改变我们的生产生活方式，智能时代的“大门”已经缓缓开启。然而，在提高社会生产力、赋能治理现代化的同时，人工智能也带来了公共安全风险、隐私侵权、数字鸿沟、责任困境、伦理失范等许多新的挑战。人工智能治理必须协同多元主体、兼顾多维目标、融合多元价值，加强全球合作与对话，构建平衡包容的人工智能治理体系。大学作为人类科技文明的重要策源地，不仅要在人工智能基础理论与技术前沿努力突破创新，也要践行科技向善的文化理念，塑造良善的人工智能价值与伦理，推动建立科学合理的人工智能国际治理体系。

白雅婷表示，人工智能在疫情应对、抗击气候变化中都发挥着重要作用。与此同时，人工智能也存在算法偏见和侵犯个人隐私等风险。随着人工智能应用在世界各地愈加普及，需要就公平道德的人工智能治理体系的构建路径达成共识，国际合作至关重要。因此，要确保围绕人工智能开展的对话真正具有全球性，让每个国家都有机会发声。

李萌在致辞中指出，中国秉持科技向善，高度重视人工智能治理。近年来，科技部围绕推动人工智能治理先后发布实施了《新一代人工智能治理原则》、《新一代人工智能伦理规范》，重点开展了建立统筹推进机制、启动实施社会实验、发挥企业和地方作用、积极参与国际治理合作等工作。未来，人工智能治理要倡导敏捷治理理念，实现人工智能发展与安全的平衡；倡导包容共享理念，实现不同群体共享智能红利的平衡；倡导可持续发展理念，实现智能化与绿色化的平衡；倡导人类命运共同体理念，实现差异发展与合作共赢的平衡。

徐晓兰在致辞中表示，在“互联网+人工智能”的驱动下，人类的生活方式发生着深刻变革；在“工业互联网+人工智能”的驱动下，产业的生产方式将发生深刻变革，人工智能还将深刻影响社会治理的现代化进程。未来，工信部将携手相关各方，在共促人工智能持续健康发展、共建包容共享的人工智能治理规则、共创国际合作新局面等方面大力合作，为推动人工智能国际治理体系建设贡献中国智慧，并为国际科技交流与合作增添更多务实成果。

马升琨表示，中国高度重视人工智能领域安全治理，自始至终秉持负责任态度，统筹推进人工智能技术发展与风险防范，及时出台研发人员伦理准则和规范，明确监督机制和要求。围绕未来如何进一步规范人工智能军事应用问题，马升琨有如下建议：从国际法层面，应遵守国际法和国际关系基本准则；从道德层面，应秉持“智能向善”理念；从技术层面，应加强对人工智能技术的评估和监管；从治理层面，应积极倡导全球共同治理。

玛丽亚-弗朗切斯卡·斯帕托利萨诺在视频致辞中表示，人工智能是联合国秘书长发布的《数字合作路线图》中提到的关键数字挑战之一。作为一项能够带来真正变革的技术，人工智能的应用也伴随着严峻挑战。在充分发挥人工智能益处的同时，需要在全球范围内进行更好的引导与合作，必须共同努力建立普惠包容、反应迅速、且行之有效的全球合作架构，以此应对人工智能带来的各项挑战。

姚期智在视频致辞中指出，随着人工智能与经济社会的相互嵌入，保持科学技术与经济社会发展之间的良性互动与协同越来越重要，这就需要我们做好人工智能技术开发、应用与治理之间的平衡。然而，人工智能对数字经济时代的隐私保护和数据安全也提出了挑战，不断精进的算法、高效的算力和隐私保护是人工智能理论的新方向。“平衡包容”的人工智能治理体系的建构，将进一步释放人工智能的潜能，更大程度的保证人工智能的安全性。

开幕式之后，论坛举办了以“如何构建一个平衡包容的人工智能治理体系”为主题的主论坛。多名国内外专家学者分别作主旨演讲。清华大学人工智能国际治理研究院副院长梁正主持主论坛。

论坛议程为期两天，设有3场主论坛、1场特别论坛和7场专题论坛，邀请来自中国、美国、英国、沙特阿拉伯、意大利、澳大利亚、法国、新加坡、韩国、印度、瑞典、丹麦、马来西亚、日本等国人工智能治理领域的专家学者70余人出席并参与研讨。

编辑：李华山

2021年12月07日09:05:30

专家共议人工智能治理：要加强全球合作与对话，推动智能向善

论坛现场，姚期智发表视频致辞。图片来源：清华大学

12月4日-5日，2021人工智能合作与治理国际论坛在清华大学举行。论坛以“如何构建一个平衡包容的人工智能治理体系”为主题，汇集世界各地在人工智能领域的思想领袖和实践者，共同探讨构建适合人工智能健康发展的治理体系，分享人工智能技术前沿与治理经验，以推动建设人类命运共同体。

论坛中，与会专家学者不约而同谈到了人工智能发展带来的风险与挑战，并提出应加强全球合作与对话，推动共治共享，形成人工智能向善的力量，推动建立科学合理的人工智能国际治理体系。

人工智能存在算法偏见和侵犯个人隐私等风险

谈及人工智能合作与治理，与会专家学者不约而同谈到了人工智能发展带来的风险挑战。

清华大学校长邱勇表示，人工智能是第四次工业革命的标志性技术。智能时代的“大门”已经缓缓开启，然而，在提高社会生产力、赋能治理现代化的同时，人工智能也带来了公共安全风险、隐私侵权、数字鸿沟、责任困境、伦理失范等许多新的挑战。

联合国开发计划署驻华代表白雅婷提到，人工智能在疫情应对、抗击气候变化中都发挥着重要作用。与此同时，人工智能也存在算法偏见和侵犯个人隐私等风险。随着人工智能应用在世界各地愈加普及，需要就公平道德的人工智能治理体系的构建路径达成共识，国际合作至关重要。

清华大学交叉信息研究院院长、人工智能国际治理研究院学术委员会主席姚期智指出，随着人工智能与经济社会的相互嵌入，保持科学技术与经济社会发展之间的良性互动与协同越来越重要，这需要我们做好人工智能技术开发、应用与治理之间的平衡。然而，人工智能对数字经济时代的隐私保护和数据安全也提出了挑战，不断精进的算法、高效的算力和隐私保护是人工智能理论的新方向。

要推动全球共治共享，形成人工智能向善的力量

面对人工智能发展带来的风险挑战，如何构建一个平衡包容的人工智能治理体系？

全国政协副主席汪永清认为，要推动开放包容，秉持人类命运共同体理念，摒弃强权霸道逻辑，摆脱意识形态偏见，最大限度地增强合作机制、理念、政策的开放性和包容性，构建人工智能全球治理的负责任格局。要推动协商互鉴，坚守和平、发展、公平、正义、民主、自由的全人类共同价值，建立起跨文化信任，尊重和包容差异，统筹发展与安全，兼顾效率与公平，防止治理规则政策取向顾此失彼、避重就轻和歧视性排他性，共建具有广泛共识的全球人工智能治理规则和伦理标准的平衡性框架。要推动共治共享，创建人工智能治理各方参与的开放性平台，通过跨学科、跨领域、跨地区、跨国界的交流合作，推动相关各方遵循基本科技伦理，把进步的价值取向嵌入人工智能数理模型，形成人工智能向善的力量，推动形成人工智能治理的最佳实践，形成各方积极参与的共治共享良好局面。

清华大学校长邱勇提出，人工智能治理必须协同多元主体、兼顾多维目标、融合多元价值，加强全球合作与对话，构建平衡包容的人工智能治理体系。大学作为人类科技文明的重要策源地，不仅要在人工智能基础理论与技术前沿努力突破创新，也要践行科技向善的文化理念，塑造良善的人工智能价值与伦理，推动建立科学合理的人工智能国际治理体系。

外交部军控司副司长马升坤则围绕未来如何进一步规范人工智能军事应用问题建议，从国际法层面，应遵守国际法和国际关系基本准则；从道德层面，应秉持“智能向善”理念；从技术层面，应加强对人工智能技术的评估和监管；从治理层面，应积极倡导全球共同治理。

该论坛由清华大学主办，设有3场主论坛、1场特别论坛和7场专题论坛，邀请来自中国、美国、英国、沙特阿拉伯、意大利、澳大利亚、法国、新加坡、韩国、印度、瑞典、丹麦、马来西亚、日本等国人工智能治理领域的专家学者70余人参与研讨。

2023人工智能合作与治理国际论坛在京举办

光明网讯12月4日，由清华大学主办，联合国开发计划署（UNDP）作为国际支持机构的2021人工智能合作与治理国际论坛在清华大学开幕。本次论坛以“如何构建一个平衡包容的人工智能治理体系”为主题，汇集世界各地在人工智能领域的思想领袖和实践者，共同探讨构建适合人工智能健康发展的治理体系，分享人工智能技术前沿与治理经验，提出元宇宙未来治理的前瞻议题，推动建设人类命运共同体。

中共十九届中央委员，十三届全国政协副主席、党组成员汪永清应邀出席论坛开幕式并致开幕辞。清华大学校长邱勇、联合国开发计划署驻华代表白雅婷致欢迎辞。科学技术部副部长李萌，工业和信息化部副部长徐晓兰，外交部军控司副司长马升琨，联合国助理秘书长、秘书长技术事务特使办公室主管官员玛丽亚-弗朗切斯卡·斯帕托利萨诺（Maria-FrancescaSpatolisano），图灵奖得主、清华大学交叉信息研究院院长、人工智能国际治理研究院学术委员会主席姚期智应邀致辞。清华大学副校长杨斌主持开幕式。

汪永清在开幕辞中表示，中国人工智能治理坚持以人民为中心、坚持增进人类福祉、坚持鼓励科技创新、坚持统筹发展与安全、坚守公平正义理念，契合联合国和G20有关人工智能治理精神，目的是促进人的全面进步、促进经济社会生态可持续发展。

汪永清指出，面对人工智能发展带来的风险挑战，国际社会必须携起手来、共同应对，不断提升人工智能全球治理水平。要推动开放包容，秉持人类命运共同体理念，最大限度地增强合作机制、理念、政策的开放性和包容性，构建人工智能全球治理的负责任格局。

汪永清致开幕辞

邱勇在致辞中表示，人工智能是第四次工业革命的标志性技术。近年来，智能化正在深刻改变我们的生产生活方式，智能时代的“大门”已经缓缓开启。然而，在提高社会生产力、赋能治理现代化的同时，人工智能也带来了公共安全风险、隐私侵权、数字鸿沟、责任困境、伦理失范等许多新的挑战。人工智能治理必须协同多元主体、兼顾多维目标、融合多元价值，加强全球合作与对话，构建平衡包容的人工智能治理体系。大学作为人类科技文明的重要策源地，不仅要在人工智能基础理论与技术前沿努力突破创新，也要践行科技向善的文化理念，塑造良善的人工智能价值与伦理，推动建立科学合理的人工智能国际治理体系。

邱勇致欢迎辞

白雅婷表示，人工智能在疫情应对、抗击气候变化中都发挥着重要作用。与此同时，人工智能也存在算法偏见和侵犯个人隐私等风险。随着人工智能应用在世界各地愈加普及，需要就公平道德的人工智能治理体系的构建路径达成共识，国际合作至关重要。因此，要确保围绕人工智能开展的对话真正具有全球性，让每个国家都有机会发声。

白雅婷致欢迎辞

李萌在致辞中指出，中国秉持科技向善，高度重视人工智能治理。近年来，科技部围绕推动人工智能治理先后发布实施了《新一代人工智能治理原则》、《新一代人工智能伦理规范》，重点开展了建立统筹推进机制、启动实施社会实验、发挥企业和地方作用、积极参与国际治理合作等工作。未来，人工智能治理要倡导敏捷治理理念，实现人工智能发展与安全的平衡；倡导包容共享理念，实现不同群体共享智能红利的平衡；倡导可持续发展理念，实现智能化与绿色化的平衡；倡导人类命运共同体理念，实现差异发展与合作共赢的平衡。

李萌致辞

徐晓兰在致辞中表示，在“互联网+人工智能”的驱动下，人类的生活方式发生着深刻变革；在“工业互联网+人工智能”的驱动下，产业的生产方式将发生深刻变革，人工智能还将深刻影响社会治理的现代化进程。未来，工信部将携手相关各方，在共促人工智能持续健康发展、共建包容共享的人工智能治理规则、共创国际合作新局面等方面大力合作，为推动人工智能国际治理体系建设贡献中国智慧，并为国际科技交流与合作增添更多务实成果。

徐晓兰致辞

马升琨表示，中国高度重视人工智能领域安全治理，自始至终秉持负责任态度，统筹推进人工智能技术发展与风险防范，及时出台研发人员伦理准则和规范，明确监督机制和要求。围绕未来如何进一步规范人工智能军事应用问题，马升琨有如下建议：从国际法层面，应遵守国际法和国际关系基本准则；从道德层面，应秉持“智能向善”理念；从技术层面，应加强对人工智能技术的评估和监管；从治理层面，应积极倡导全球共同治理。

马升琨致辞

玛丽亚-弗朗切斯卡·斯帕托利萨诺在视频致辞中表示，人工智能是联合国秘书长发布的《数字合作路线图》中提到的关键数字挑战之一。作为一项能够带来真正变革的技术，人工智能的应用也伴随着严峻挑战。在充分发挥人工智能益处的同时，需要在全球范围内进行更好的引导与合作，必须共同努力建立普惠包容、反应迅速、且行之有效的全球合作架构，以此应对人工智能带来的各项挑战。

玛丽亚-弗朗切斯卡·斯帕托利萨诺视频致辞

姚期智在视频致辞中指出，随着人工智能与经济社会的相互嵌入，保持科学技术与经济社会发展之间的良性互动与协同越来越重要，这就需要我们做好人工智能技术开发、应用与治理之间的平衡。然而，人工智能对数字经济时代的隐私保护和数据安全也提出了挑战，不断精进的算法、高效的算力和隐私保护是人工智能理论的新方向。“平衡包容”的人工智能治理体系的建构，将进一步释放人工智能的潜能，更大程度的保证人工智能的安全性。

姚期智视频致辞

开幕式之后，论坛举办了以“如何构建一个平衡包容的人工智能治理体系”为主题的主论坛。多名国内外专家学者分别作主旨演讲。清华大学人工智能国际治理研究院副院长梁正主持主论坛。

论坛议程为期两天，设有3场主论坛、1场特别论坛和7场专题论坛，邀请来自中国、美国、英国、沙特阿拉伯、意大利、澳大利亚、法国、新加坡、韩国、印度、瑞典、丹麦、马来西亚、日本等国人工智能治理领域的专家学者70余人出席并参与研讨。（蔡琳）

2023人工智能合作与治理国际论坛成功举办

2021年12月5日，由清华大学主办，联合国开发计划署（UNDP）作为国际支持机构的2021人工智能合作与治理国际论坛在清华大学主楼后厅圆满落下帷幕。本次论坛以”如何构建一个平衡包容的人工智能治理体系”为主题，汇集世界各地在人工智能领域的思想领袖和实践者，共同探讨构建适合人工智能健康发展的治理体系，分享人工智能技术前沿与治理经验，提出元宇宙未来治理的前瞻议题，推动建设人类命运共同体。

在12月4日由清华大学副校长杨斌主持的开幕式上，中共十九届中央委员、十三届全国政协副主席、党组成员汪永清在开幕辞中表示：“面对人工智能发展带来的风险挑战，国际社会必须携起手来、共同应对，推动开放包容、协商互鉴、共治共享，不断提升人工智能全球治理水平。”

汪永清致开幕辞

清华大学校长邱勇在欢迎辞中表示：“大学作为科技文明的重要策源地，不仅要在人工智能基础理论与技术前沿突破与创新，也要积极传承人文关怀，塑造良善的人工智能价值与伦理，推动建立科学合理的人工智能国际治理机制。”

邱勇致欢迎辞

联合国开发计划署驻华代表白雅婷在欢迎辞中表示：“为跟上科技前沿飞速的创新步伐，政策制定者需要具备前瞻性思维。我们不能仅解决当下的问题，还必须预见未来的挑战。否则，我们将永远落后一步。”

白雅婷致欢迎辞

科技部副部长李萌致辞表示：“未来，人工智能治理要倡导敏捷治理、包容共享、人类命运共同体的理念，实现人工智能发展与安全的平衡、不同群体共享智能红利的平衡、智能化与绿色化的平衡、差异发展与合作共赢的平衡。”

李萌致辞

工信部副部长徐晓兰致辞表示：“未来，工信部将携手相关各方，在共促人工智能持续健康发展、共建包容共享的人工智能治理规则、共创国际合作新局面等方面大力合作。”

徐晓兰致辞

外交部军控司副司长马升琨致辞表示：“未来，围绕如何进一步规范人工智能军事应用问题，建议从国际法、道德、技术、治理层面，遵守国际法和国际关系基本准则、秉持‘智能向善’理念、加强对人工智能技术的评估和监管、积极倡导全球共同治理。”

马升琨致辞

联合国助理秘书长、秘书长技术事务特使办公室主管官员玛丽亚-弗朗切斯卡·斯帕托利萨诺（Maria-FrancescaSpatolisano）在视频致辞中表示：“作为一项能够带来真正变革的技术，人工智能的应用也伴随着严峻挑战，需要在全球范围内进行更好的引导与合作。”

玛丽亚-弗朗切斯卡·斯帕托利萨诺发表视频致辞

图灵奖得主、中国科学院院士、美国国家科学院外籍院士、清华大学交叉信息研究院院长、人工智能国际治理研究院学术委员会主席姚期智在视频致辞中表示：“‘平衡包容’的人工智能治理体系的建构，将进一步释放人工智能的潜能，更大程度的保证人工智能的安全性。”

姚期智发表视频致辞

2021人工智能合作与治理国际论坛共设有三大主论坛，涉及如何构建平衡包容的人工智能治理体系，人工智能技术前沿与治理，元宇宙未来治理前瞻等主题。

在“如何构建平衡包容的人工智能治理体系”主论坛上，清华大学文科资深教授、苏世民书院院长、人工智能国际治理研究院院长、国家新一代人工智能治理专业委员会主任薛澜在”如何构建平衡包容的人工智能治理体系”主论坛发言中指出，未来人工智能治理需建构多主体参与，以“底线思维、人本思维、发展思维、全球思维”为价值导向，以“算法、数据、算力、外部环境、场景”为治理对象，应用多维治理工具的人工智能综合治理框架体系。世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长、清华大学人工智能国际治理研究院学术委员龚克认为，人工智能治理应该促进其创新以造福人类和地球，而不是通过将其限制在现有体系中来遏制其发展。联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良，卡内基理事会资深研究员、清华大学人工智能国际治理研究院学术委员温德尔·瓦拉赫（WendellWallach），清华大学智库中心主任、智能社会治理研究院院长、人工智能国际治理研究院管理委员会副主任苏竣，加拿大国际治理创新中心总裁罗欣顿·麦德拉（RohintonMedhora）等专家出席论坛并作主旨发言。主论坛I由清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正主持。

主论坛I参会嘉宾

在“人工智能技术前沿与治理”主论坛上，美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所（HAI）副所长苏珊·阿西（SusanAthey）认为，大学在指导人工智能创新方面可以发挥优先引导的关键作用，开发出具有可解释性的算法框架，在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔（YolandaGil）认为，理解人工智能机理需要构架”感知-思考-行动”的智能模型，并需要建立在人类经验、社会习俗、专业技能的基础上，通过社会公众参与，推动知识在全球层面共享。中国科学院院士、清华大学人工智能研究院名誉院长、人工智能国际治理研究院学术委员张钹，中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文，美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋，中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤等专家出席论坛并作主旨演讲。主论坛II由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。

在“元宇宙未来治理前瞻”主论坛上，中国社科院哲学所科技哲学研究室主任、科学技术和社会研究中心主任段伟文教授认为未来对元宇宙的监管和治理可能面临的不是单一维度的技术体系，而是一个多维整合的技术体系。清华大学新闻学院新媒体研究中心执行主任沈阳认为未来元宇宙治理需建立在充分调研的基础上，经过多元主体的社会大讨论，实现发展与治理的平衡。中国科学院自动化研究所研究员曾毅认为元宇宙的发展是技术和社会专家共同面对的挑战，从技术角度来看，当我们许诺给全球公众政治系统概念的时候，要考虑技术可行性和社会应用合理性。微软（中国）CTO韦青认为元宇宙应该以人为本，应该用来强化现实世界，而非替代物理世界，不能让人们沉迷于虚拟世界。易宝支付联合创始人兼总裁、《元宇宙通证》作者余晨、英伟达中国区Omniverse负责人何展、Bilibiliup主籽岷、NFT艺术家宋婷等专家也出席了圆桌论坛。主论坛III由联合国开发计划署助理驻华代表张薇、清华大学交叉信息研究院助理教授于洋共同主持。

除主论坛外，大会还设有七大专题论坛，分别探讨了全球数字时代如何弥合数字鸿沟，人工智能伦理与治理中的跨文化信任，人工智能与气候行动，人工智能与国际安全，人工智能与算法公平，国际数字治理与企业可持续发展，人工智能与社会发展等热点话题。

专题论坛1“在相互依存的全球数字时代弥合数字鸿沟”由联合国开发计划署中国代表处首席经济学家维奥兰特·迪卡诺萨（ViolantediCanossa）主持，分论坛主题聚焦在人工智能治理与南南合作、帮助弱势国家及实现全球数字公平。巴西总领事馆副总领事兼联合国大会和平与安全、人道主义和法律事务高级顾问尤金尼奥·巴尔加斯·加西亚（EugenioVargasGarcia），LIRNEasia智库主席（斯里兰卡）罗汉·萨马拉吉瓦（RohanSamarajiva）、英国皇家国际事务研究所亚太项目副研究员瓦苏基·沙斯特里（VasukiShastry）、卡内基国际和平研究院技术与国际事务项目研究员南吉拉·桑布利（NanjiraSambuli）、瑞典驻华使馆科学创新参赞南南·伦丁（NannanLundin）等嘉宾出席论坛，就帮助较贫穷国家提高其规范和治理人工智能技术的能力并受益于全球人工智能治理机制展开讨论，对通过制定标准、知识交流、能力建设和加强数字合作支持南半球国家获得公平待遇、推动消除数字鸿沟等提出意见。

专题论坛1参会嘉宾

专题论坛2“人工智能伦理与治理中的跨文化合作”由中科院自动化所研究员、中英人工智能伦理与治理中心主任曾毅主持。分论坛主题聚焦在建立跨文化合作的重要性和构建全球人工智能伦理治理体系的迫切需要。剑桥大学生存风险研究中心（CSER）联合主任、剑桥大学未来智能研究中心项目主任肖恩·欧·海格缇（SeánS.ÓhÉigeartaigh），联合国教科文组织人工智能伦理特设专家组主席艾玛·鲁特坎普-布洛姆（EmmaRuttkamp-Bloem），埃因霍芬理工大学教授、英国艾伦·图灵研究所研究员文森特·穆勒（VincentC.Müller），联合国秘书长数字合作高级别小组秘书处前执行主任阿曼迪普·辛格·吉尔（AmandeepSinghGill），新加坡管理大学法学教授、人工智能与数据治理中心主任马克·芬德利（MarkFindlay），联合国秘书长办公室前AI主任、剑桥大学未来智能研究中心外籍研究员丹妮特·加尔（DanitGal）等嘉宾出席论坛。与会专家认为，实现可持续的人工智能需要找到可以平衡不同文化间差异的方式，体现跨文化、跨国家、跨信仰的价值标准，建设相互尊重的全球性人工智能文化合作机制。论坛后，清华大学人工智能国际治理研究院首席专家曾毅代表研究院介绍了拟发布《负责任的人工智能助力可持续发展目标》研究报告进展并邀请国内外各界参与和贡献力量。

专题论坛2参会嘉宾

专题论坛3“人工智能与气候行动”由联合国开发计划署助理驻华代表张薇主持，分论坛主题聚焦在人工智能推动应对气候变化的技术解决方案及治理策略。清华大学能源环境经济研究所所长张希良，复旦大学大数据研究院副院长、能源经济与战略研究中心主任吴力波，墨卡托全球公域和气候变化研究所教授费利克斯·克鲁齐格（FelixCreutzig），BCGGamma董事总经理、全球资深合伙人西尔文·杜兰顿（SylvainDuranton），商汤智能产业研究院院长田丰等嘉宾出席论坛，就更好地支持人工智能技术和创新以改善从提高能源效率到减灾救灾等应对气候变化技术解决方案展开讨论，为推动应对气候变化的跨学科解决方案贡献多方意见，并呼吁更多的全球性努力、创新与合作。

专题论坛3参会嘉宾

专题论坛4“人工智能与国际安全”由清华大学战略与安全研究中心副主任、人工智能国际治理研究院副院长肖茜和人道主义对话中心东北亚项目主任吕晶华参与并致辞。分论坛第一节主题聚焦在人工智能对全球稳定的影响。清华大学战略与安全研究中心秘书长、社会科学学院国际关系学系教授陈琪，中国军控与裁军协会副会长兼秘书长李驰江，清华大学战略与安全研究中心客座研究员李睿深，俄罗斯政策研究中心（PIRCenter）、新兴技术和全球安全项目主任瓦季姆·科久林（VadimKozyulin），日本拓殖大学国际学部教授、海外事务研究所教授兼副所长佐藤丙午（HeigoSato），日内瓦安全政策中心全球和新兴风险部主管让-马可·瑞克利（Jean-MarcRickli）等嘉宾出席论坛，对大国关系不断变化的背景下，人工智能如何影响全球主要国家战略稳定性及地区内其他国家提出看法。分论坛第二节主题聚焦在探索缓解人工智能相关安全风险的方法。人道主义对话中心资深顾问埃里克·里查德森（EricRichardson），国防科技大学国防科技战略研究智库副主任朱启超，未来战争（FutureWarfare）分析师R.S.潘瓦尔（R.S.Panwar），科克大学计算机科学与信息技术学院教授巴里·奥沙利文（BarryO’Sullivan），新美国安全中心副主席兼研究主任保罗·沙瑞尔（PaulScharre）等嘉宾出席论坛，认为需要建立信任措施（CBMs）来预防和控制人工智能开发和部署带来的风险，以及将人工智能合理且正面地应用在国际安全领域。

专题论坛5“人工智能与算法公平”由清华大学交叉信息研究院助理教授于洋主持。分论坛聚焦在认识与消除人工智能偏见。清华大学产业发展与环境治理研究中心主任陈玲发表主旨演讲，亨氏信息系统与公共政策学院机器学习系数据科学与公共政策中心主任伊德·加尼（RayidGhani），科幻作家陈楸帆，麻省理工学院斯隆管理学院运营管理助理教授丹尼尔·弗洛伊德（DanielFreud），联合国妇女署项目和伙伴关系专家毕文韬（BiratLekhak）等嘉宾出席论坛，探讨推动计算机科学家、社会科学家之间的多学科研究，为消除人工智能中的偏见提出监管和治理的专家意见。

专题论坛6“国际数字治理与企业可持续发展”由清华大学惠妍讲席教授、智能产业研究院首席科学家马维英共同主持。分论坛聚焦在全球数字治理形势下企业面临的风险与挑战。美团副总裁、首席科学家夏华夏，华为公司人工智能战略与产业发展副总裁秦尧，京东集团探索研究院院长、京东集团高级副总裁陶大程，英特尔研究院副总裁、英特尔中国研究院院长宋继强发表主旨演讲，从多方面介绍在国内外数据治理的各项制度规则逐步建立完善的背景下，重要企业特别是跨国企业加强内部合规体系的建设举措。达闼董事长兼CEO黄晓庆，地平线副总裁徐健，清华大学法学院院长、智能法治研究院院长申卫星，清华大学中国电子数据治理工程研究院院长、互联网治理研究中心主任孟庆国参加了圆桌论坛环节讨论，对加强数字经济和人工智能领域的治理提出实践经验与专家意见。

专题论坛6参会嘉宾

专题论坛7“人工智能与社会发展”由清华大学公共管理学院常务副院长朱旭峰主持，分论坛聚焦在以负责任的人工智能支持实现社会的可持续发展。慕尼黑工业大学人工智能伦理研究所主任克里斯托夫·吕特格（ChristophLütge），中国科学院自动化研究所研究员曾毅，莫斯科国际关系学院公共治理系主任谢尔盖·卡莫洛夫（SergeyKamolov），原中信证券股份有限公司董事总经理德地立人（TokuchiTastsuhito），北京市大数据中心数据管理部负责人贾晓丰等嘉宾出席论坛。与会专家认为人工智能技术在赋能千行百业的同时，也带来了安全、隐私、公平等问题和挑战。解决这些问题需要加强全球协作，出台相关政策法规，推动构建平衡包容的人工智能治理体系，促进人工智能可持续、负责任的发展以更好地造福人类社会。

专题论坛7参会嘉宾

大会还举办了“青年声音与人工智能促进可持续发展目标”特别单元，来自2021“U&AICamp”AI促进可持续发展全球青年创造营的五支优胜队伍展示了其获奖提案，并获得与会专家好评。论坛鼓励全球青年了解、学习并运用AI相关知识、技能，塑造正确的价值观并掌握AI赋能准则，协力应对发展需求，为世界经济、社会和环境的发展贡献力量。

清华大学人工智能国际治理研究院院长薛澜，联合国开发计划署助理驻华代表张薇出席闭幕式并致辞。清华大学人工智能国际治理研究院副院长肖茜主持闭幕式。

闭幕式上，薛澜表示，本次会议不仅仅是人工智能治理的一次重要会议，也是后疫情时代国际科技交流的会议，成功达到了交流成果，增进理解，凝聚共识的目的。第一，论坛显示全球对人工智能治理议题具有高度敏感性，对人工智能全球治理体系与秩序构建产生重要影响。第二，论坛显示了对人工智能国际合作的基本共识。第三，论坛显示了民间力量搭建交流平台，对推动人工智能国际合作的重要意义。薛澜建议，需要建立正式的常态化多方参与的人工智能国际治理对话平台，积极开展人工智能全球治理交流对话，推动共识性人工智能标准和治理规则建立，积极探索双边多边合作机制。

薛澜闭幕式致辞

张薇表示，21世纪以人工智能为代表的前沿科技将成为实现可持续发展目标的有效工具与创新路径。应对贫困、公共健康、气候变化等全球挑战，人工智能都有可能发挥积极作用，成为强有力的解决方案的一部分，但前提是每一个都可以平等的被人工智能所惠及，而所有的国家都对AI的开发和使用享有话语权。在去年首届论坛的基础上，本次论坛对于建立一个包容、公开透明、有效的人工智能全球合作治理框架的迫切性达成了广泛共识。

张薇闭幕式致辞

此次论坛由清华大学主办，联合国开发计划署（UNDP）作为国际支持机构，得到了慕尼黑工业大学人工智能伦理研究所、剑桥大学未来智能中心、人道主义对话中心、中国科学院自动化研究所、中国新一代人工智能发展战略研究院、清华大学人工智能研究院、清华大学智能产业研究院、清华大学战略与安全研究中心、人工智能治理研究中心、清华大学中国科技政策研究中心、清华大学科技发展与治理研究中心、清华大学全球可持续发展研究院、清华大学产业发展与环境治理研究中心、SPARK可持续发展创新实验室（成都）、中国科协科学技术传播中心的合作与支持。

大会期间共有海内外40余家媒体，60多位记者参与报道，据不完全统计，大会期间涉及”2021人工智能合作与治理国际论坛”的网络媒体报道及转载300余篇，包括人民网、新华网、中国新闻网、光明网、中国网、搜狐、新浪、网易、腾讯等中央及主流网络媒体。纸媒报道160余篇，包括《科技日报》《工人日报》《中国青年报》《中国日报》等。论坛直播收看人次达300万，微博相关话题传播达200万次。

2023人工智能合作与治理国际论坛即将开幕大咖云集，敬请期待！

人工智能作为有望引领未来变革的战略性技术，在重塑生产方式、优化产业结构、提升生产效率、赋能千行百业的同时，也带来了安全、隐私、公平等问题和挑战。人工智能治理是全球共同面对的一大挑战，推动人工智能治理体系建设成为了急需解决的问题，需要各国、各地区达成国际合作，共同探讨如何构建一个平衡包容的人工智能治理体系。

在此背景下，由清华大学人工智能国际治理研究院（I-AIIG）主办，联合国开发计划署（UNDP）作为国际支持机构的2021人工智能合作与治理国际论坛将于12月4-5日在清华大学举行。此次论坛吸引了来自全球相关学术机构、高校、国际组织、企业等几十家单位共同参与，为如何构建一个平衡包容的人工智能治理体系建言献策。

本次论坛下设三大主论坛，围绕“如何构建一个平衡包容的人工智能治理体系”“人工智能技术前沿与治理”“元宇宙未来治理前瞻”展开讨论。此外还设七大专题论坛，将探讨人工智能伦理与治理中的跨文化信任、在相互依存的全球数字时代弥合数字鸿沟、人工智能与国际安全、人工智能与气候行动、人工智能与算法公平、国际数字治理与企业可持续发展、人工智能与社会发展等热点话题。除论坛研讨外，还将举行“青年声音与人工智能促进可持续发展目标”特别活动，来自“AI促进可持续发展青年创造营”决赛的五支优胜队伍将进行项目展示，就如何通过人工智能技术实现可持续发展发出青年声音。

论坛作为引领全球人工智能对话合作的国际平台，邀请了各国在人工智能领域的思想领袖和实践者，其中包括：

顶级学术界专家：

图灵奖得主、中国科学院院士、清华大学人工智能国际治理研究院学术委员会主席姚期智

中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹

世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长、清华大学人工智能国际治理研究院学术委员龚克

中国工程院院士、北京大学信息科学技术学院院长、清华大学人工智能国际治理研究院学术委员高文

清华大学文科资深教授、苏世民书院院长、人工智能国际治理研究院院长薛澜

美国国家工程院外籍院士、英国皇家工程院外籍院士、香港中文大学（深圳）校长讲座教授、清华大学高等研究院双聘教授、粤港澳大湾区数字经济研究院（IDEA）理事长沈向洋

中国工程院外籍院士、清华大学智能产业研究院院长、清华大学人工智能国际治理研究院学术委员张亚勤

美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、斯坦福大学以人为本人工智能研究所（HAI）副所长苏珊·阿西（SusanAthey）

国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔（YolandaGil）

加拿大国际治理创新中心总裁罗欣顿·麦德拉(RohintonMedhora)

国际组织代表：

联合国助理秘书长、技术特使玛丽亚-弗朗切斯卡·斯帕托利萨诺（Maria-FrancescaSpatolisano）

联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良

联合国开发计划署驻华代表白雅婷（BeateTrankmann）

联合国教科文组织伙伴关系和业务计划监测通信和信息司司长欧敏行（MarielzaOliveira）

科技行业的企业领军人物：

清华大学惠妍讲席教授、智能产业研究院首席科学家马维英

美团副总裁、首席科学家夏华夏

微软（中国）CTO韦青

华为公司人工智能战略与产业发展副总裁秦尧

英特尔研究院副总裁、英特尔中国研究院院长宋继强

京东探索研究院院长、京东集团副总裁陶大程

达闼科技创始人兼首席执行官黄晓庆

地平线首席生态官、副总裁徐健

首届论坛情况回顾

首届清华大学人工智能合作与治理国际论坛于2020年12月18-19日圆满举行，共邀请来自美国、英国、日本、新加坡等超过10个国家的70位国内外专家线上、线下参会，围绕后疫情时代的人工智能国际治理、人工智能在抗击新冠疫情中的作用、人工智能治理促进可持续发展、人工智能与国际安全、人工智能治理国际合作、人工智能与数据安全等议题进行深入探讨。会议最终形成《2020清华大学人工智能合作与治理国际论坛白皮书》，分送外交部、科技部和工信部，其主要内容在G20峰会期间发放。

分论坛五｜人工智能与数据安全

2020年12月19日上午，首届清华大学人工智能合作与治理国际论坛举行了“人工智能与数据安全”分论坛，由北京智源人工智能研究院承办。在分论坛上，学者与产业专家聚焦讨论了数据与人工智能的近期与远期风险与安全挑战及对策。剑桥大学智能未来研究中心研究员丹尼特·加尔（DanitGal）重点总结了人工智能安全相关的内部风险与外部防御的近期挑战，并对各国数据规制应当形成全球协作提出建议。荷兰埃因霍温科技大学教授文森特·穆勒（VincentMuller）指出通用人工智能和超级智能的长远风险具有极大不确定性。美国路易斯维尔大学教授罗曼·扬波尔斯基（RomanYampolskiy）谈及人工智能、安全和防御的未来，并表达了对于人工智能的担忧。奇虎360人工智能研究院院长邓亚峰、数据科学家麻丹彤、腾讯研究院高级研究员曹建峰、北京师范大学网络法治国际中心执行主任吴沈括也分别就人工智能与数据安全、面临的机遇、挑战和发展趋势等发表了一系列前瞻洞见。与会专家一致表示，全球应当深度协作应对数据与人工智能的近期与长远风险。分论坛由北京智源人工智能研究院人工智能伦理与可持续发展中心主任、中科院自动化所中英人工智能伦理与治理中心主任曾毅主持。

此次论坛得到了清华大学人工智能研究院、清华大学智能产业研究院、清华大学战略与安全研究中心、北京智源人工智能研究院、清华大学中国科技政策研究中心、清华大学科技发展与治理研究中心、美国布鲁金斯学会、SPARK联合国开发计划署可持续发展创新实验室以及清华大学产业发展与环境治理研究中心等机构的合作与支持。

专家观点

（根据首届清华大学人工智能发展与治理国际论坛上的专家发言整理）

1.丹尼特·加尔(DanitGal)：人工智能安全相关的内部风险与外部防御

新兴科技影响着我们所有人，它的安全和保障也是如此。可悲的是，我们应对新兴科技影响的能力远远落后于科学技术的开发和使用。科技快速发展带来的不确定性和社会风险，往往是全面且不可逆的，危害程度也非常高。

人工智能相关的自动化趋势，其实存在一种“悖论”：机器越能干，对操作者的技能要求和熟练度程度就越高：其一，有能力和直觉的系统通过自动纠正我们的错误来适应人类的无能；其二，这种能力消除了人类实践的需要，因此即使是熟练的操作人员也可以脱离实践；其三，当系统确实发生故障时，它会以意想不到的方式发生故障，或者产生意想不到的情况，需要熟练的人工处理才能恢复过来。针对自动化引起的安全问题，电气与电子工程师协会标准协会（IEEESA）正在制定自治和半自治系统的故障安全设计标准。该标准为在自治和半自治系统中开发，实施和使用有效的故障安全机制建立了特定方法和工具的实用技术基准。该标准包括（但不限于）：用于测量，测试和认证系统从弱到强的安全失效能力的清晰程序，以及在性能不令人满意的情况下进行改进的说明。该标准是开发人员以及用户和监管者以健壮，透明和负责任的方式设计故障安全机制的基础。

人工智能和数据流进一步复杂化了这一动态，引入并连接了新的机会和新的漏洞。当人们通过互联网和人工智能系统连接到社会系统之中时，系统的脆弱性被放大了。其一，技术及其前景和危险不可能被地缘政治边界完全遏制；其二，现有的漏洞被人工智能和数据流放大了，引入了新的故障点，安全隐患就此埋下；其三，这些故障的传播范围很广，通常是不可见的，影响着全球连接的网络；其四，我们没有全球机制来确定和共同开发技术和社会解决方案。因此，我们必须投资于全球合作与协调，以减少脆弱性，同时最大限度地扩大机会。

2.文森特·穆勒（VincentMuller）：超级智能终将引致存在性风险

超级智能（Superintelligence）将带来技术奇点（Singularity），进而让人类面临“存在性风险”（X-risk：existentialrisk）。所谓“存在性风险”，是指以Musk和霍金为代表的这些人最害怕的是人工智能将威胁人类在地球上的生存与存在。

超级智能（Superintelligence）将带来技术奇点（Singularity）建立在诸多假设的基础上。第一个基础假设是，运算速度的提升、数据量的无限膨胀、潜在技术能力的进一步释放。当第一台超智能机器诞生时，就注定了这一台机器是人类最不需要的发明。因此，人类要在开发人工智能时，需要不时反问自身，只要机器足够温顺，能告诉我们如何控制它。第二个基础假设是，认知科学不再是发展人工智能技术所必须考虑的基础问题了，虽然，技术设计者面临“常识知识不简单，复杂问题不困难”的悖论。第三个基础假设是，在诸多感知领域，人工智能的专项技能的性能表现已经超越了人类器官。也就是说，至少在生活中的部分领域出现了人类级别的机器智能，甚至是超人类级别的机器智能。对人类身体技能的全面超越，就目前的技术发展趋势，完全有可能。

从技术奇点到生存性危机同样需要基于以下两个基础假设。第一个基础假设是，理性主体决策理论适用于人工智能。当人类还囿于情绪、无意识等自身因素时，人工智能做出的选择，永远是理性选择，即具有最大主观期望效用的是理性的，期望效用=效用*概率。决策理论是规范性的，而不是描述性的。但对于传统AI来说是规范和描述性的。科学上重要但被忽视的问题：极高的效用*低的可能性，也可以被人工智能充分利用，甚至构建出来。第二个基础假设为正交性假设。即智慧和道德，对于人工智能而言，是完全不同的两个话语维度。也就是说，在技术奇点出现之后，在人工智能的眼中，智力和最终的道德目标是正交的坐标轴，在这条坐标系中，可能的代理可以自由地变化。换句话说，或多或少，任何水平的智力在原则上都可以与各种的任何最终目标（无论其道德或者不道德）相结合。正交性理论暗示，合成大脑可以拥有完全非拟人化的目的，就像我们眼中的沙粒计数或剪纸夹最大化一样古怪。也就是说，超级智能极有可能是不道德的。

奇点之后，人们需要无时不刻的与人工智能处于一种链接状态，上传自己的一切数据，然后被机器决定。人类将无法控制事态的发展，无法面对自身生存的风险。当机器全面接管之后，人类注定要灭亡。

3.罗曼·扬波尔斯基（RomanYampolskiy）：人工智能安全和防御的未来

当前超级智能正在来临，超级智能意味着超级聪明（SuperSmart）、超级复杂（SuperComplex）、超级快速（SuperFast）、超级控制（SuperControlling）、超级病毒（SuperViruses）。为了解决人类关于人工智能的忧惧，目前，有几项非常值得关注的研究工作，包括通往危险的人工智能的路径分类学、人工智能安全不可能的结果、缓解负面影响、人工智能的限制问题等。他认为，人工智能失败的时间轴，呈指数趋势，人工智能失败的频率和严重程度都会增加，这与人工智能的能力成比例。

超级智能的超级聪明在特定领域变现的尤为明显：AlphaGo系列战胜围棋世界冠军、IBM的沃森在“危险边缘”竞赛中战神两期冠军、虚拟机器人在德州扑克中战胜多名玩家、模拟算法在团队电子游戏Dota2中战胜世界冠军团队等等。

超级智能在复杂系统中的行为更是难以追踪。在航空控制和航空驾驶中，面对复杂的系统，飞机操作人员或飞行员中很少有人了解那部分软件；但是，对于超级智能而言，却是非常轻松胜任操作工作，但是，其复杂程度已然超过了顶级飞行员的理解能力。

超级智能的运算速度明显强于人类。当人类将决策赋权为机器智能后，超级智能可能在极其短暂的时间内做出大量的决策，其结果可能是毁灭式的。根据ScientificReports中的陈述表明：2008年金融危机的起因极有可能是华尔街的超级计算机20秒内大规模的自动量化交易引起的美国当地股市大崩盘。

随着越来越多的产业加速其数字化进程，超级智能展现出越来越强大的控制能力——“超级控制”的概念被多次提及。例如在能源领域，机器智能越来多地出现在核电站的管理中；智能电网对供电网络的全面升级；金融领域中，目前75%以上的交易订单由自动交易系统产生；在军事领域中，人脸识别技术等人工智能被运用到武器开发中，出现了新型智能武器，同时，智能监控系统、自动发射系统也被用到武器自动控制中；在航空领域，超级智能的自动化，可以实现不间断自动巡航系统，在增强安全性能的同时极大地降低了人力成本。

随着智能化程序的诞生，计算机病毒也随之“水涨船高”，出现了各种超级病毒。自互联网时代以来，超级病毒层出不穷。例如，通过MicrosoftOutlook电子邮件系统传播的爱虫病毒（ILOVEYOU）、通过软件之间的相互拷贝、盗版光盘的使用和Internet的传播而大面积传染CIH病毒、“黑色星期五”等病毒，而且，随着人工智能的出现，很多病毒开始与智能化程序相结合的趋势，增强了计算机病毒深入各类机器系统的能力，其潜在风险逐步加大。

在面对超级智能带来的超级聪明、超级复杂、超级快速、超级控制、超级病毒等人类不可控的情景时，来自产业界、政界或学界的专家学者纷纷表达出各种担忧。而且，通过危险人工智能的分类学研究，可以发现，按照应对危险的部署逻辑时段和主导因素两位维度，可以将超级智能危险分为8类：不道德的人（黑客，罪犯，军人，公司，政府，邪教，精神病患者等等）故意危险行为、低劣技术设计（程序漏洞BUG，错误的赋值，错误的数据，错误的目标）的副作用、系统周围环境的突发案例或影响（软件错误、对外星智能的探索SETI）、失控的自我完善过程（违背道德的目标转向、突发状况）。

为了缓解超级智能的负面影响，从计算机诞生之日起，也伴随着诞生了形形色色的解决方案。显然，限制人工智能的限制并不可取，但是，保留“重新设置”的权力确实非常有必要，因为人工智能失败的频率和严重程度都会增加，该频率和严重程度与人工智能的能力成比例。

4.邓亚峰：正视人工智能风险，乐观拥抱未来

近年来，随着深度学习技术的迅猛发展，人工智能在社会经济的各个领域都取得了巨大进步。比如，最近AlphaFold在蛋白质结构预测领域的进步又一次震惊了世界。我们身处一个数字化、智能化的时代，人工智能已迎来了应用落地发展的时代契机，对整个人类世界而言，人工智能已成为新一轮产业变革的核心驱动力量。但是，随着人工智能和大数据技术的应用落地，特别是在诸多安全敏感型的场景应用越来越多，比如自动驾驶、人脸识别、恶意代码检测、医疗诊断等，AI和数据安全问题也受到世界的广泛关注。

首先，由于人工智能是快速出现的新应用，AI应用生产和部署的各个环节都暴露出了一系列的安全风险。比如在人工智能框架方面，深度学习框架及依赖组件可能带有漏洞，存在着容易被忽视的安全隐患；在人工智能应用方面，存在着模型文件窃取、数据流的降维攻击等安全风险；在人工智能硬件方面，存在传感器干扰实现欺骗、致盲，海豚音攻击等安全风险；在人工智能算法方面，由于神经网络模型的黑盒属性（不可解释性），导致了一系列以模型误判为目标的恶意攻击，如投毒攻击、逃逸攻击、后门攻击、对抗样本攻击等。

其次，人工智能和大数据应用往往与大量隐私数据关联，这些数据往往需要被送到云端进行分析和计算，这就造成了比原来更严重的数据泄露和安全风险。我们在实践中就发现了大量以隐私窃取为目标的攻击，如模型反转攻击、模型萃取攻击、成员推断攻击等。而且，随着数字化的程度加深，物理空间和虚拟空间已经打通，安全问题将不区分虚拟还是物理空间，而且是全局性、规模化的。

其三，虽然从技术角度看，人工智能体很长一段时间都无法拥有真正的自我意识，但是，我们无法排除一些坏人会对人工智能加以利用，伪装为坏的AI对人类安全造成威胁的可能。而这会带来大量的社会伦理问题，比如无人驾驶汽车出了问题，到底是AI的问题，是汽车厂商的责任，还是车主的责任。这样的话题还有非常多。这也从社会伦理层面，在人工智能和数据治理方面，产生了很多复杂问题。在英国的电视剧《黑镜》中，就体现了大量人工智能带来的威胁，这在以后的世界中确实会存在。

其四，由于AI在短期内会造成一部分从事简单重复性工作的人类失业，这会引起一定的恐慌和排斥。此外，AI也因为技术的不成熟，会被认为在识别结果上存在一定的歧视，当然，作为一个技术人员，相信结果的不完美并不是故意歧视，只是数据分布造成的不够完美。这些也是AI带来的短期问题。

当然还有很多其他潜在的威胁，在此不再赘述。

正是由于人工智能和数据的治理速度远远落后于人工智能和数据的应用速度，全球的每个组织和个人都有很多可以为此做的事情。首先，需要相关国家和组织联合起来，针对隐私保护和人工智能伦理问题等新情况，制定更加明晰有效的法律法规，保证在应用人工智能为人类造福的同时，保护数据隐私，避免相关社会伦理问题的困扰；其次，需要构建统一的人工智能硬件、软件、算法的安全评估标准和准则，并开发相关的系统，用于检测和确定人工智能相关的系统的整体安全，特别是开源框架和软件方面，更需要统一行动；再次，针对人工智能的安全，以及用人工智能解决安全问题等领域，需要联合起来，用更加开放协同的方式进行科学研究和技术交流，推动在上述两个方面人工智能技术更快速的落地。人工智能和数据安全，是全世界都统一面临的问题，需要全世界的组织和个人联合起来一起行动。

5.麻丹彤：数据安全是全球性的，需要各国合作解决

在过去的几年中，我在私营和公共部门从事AI方面的工作，我发现了一个有趣的现象：关于人工智能竞争的讨论很多，但关于人工智能治理协作的讨论还远远不够。让我感到担忧，因为零和心态可能会导致竞争加剧。

数据安全性是全球性的。因为创建漏洞和邀请攻击只需要一个弱点。

在这一方面，中国取得了长足的进步。10月，发布了《个人信息保护法》草案。它与全球个人数据保护方法高度一致。中国是技术提供商和消费者最大的市场之一。因此，中国为适应全球趋势而进行的立法努力是维护数据治理全球标准的有意义的举措。

6.曹建峰：人工智能开发与隐私保护存在紧张关系

人工智能产生偏差的原因多种多样，比较突出的原因是数据与算法。众所周知，要使当前的人工智能系统正常工作，您必须使用大量数据来训练算法。如果您的训练数据有偏差，或者包含的数据不够充分，您的系统在以后的使用中将显示有偏差的行为。许多人工智能系统，包括面部识别，聊天机器人，推荐系统，广告算法，招聘人工智能工具，语音识别，都因显示出对某些人或某些人群的偏见而受到批评。人口偏见是最突出的偏见，例如对种族，性别和年龄的偏见。至于偏差的来源，数据是人工智能偏差的最重要来源。因此，我认为开发应该对数据质量进行合理的控制。但是数据并不是造成偏差的唯一原因。

人工智能产生偏差的另一个重要原因是不法分子的滥用和非法使用。最突出的例子也许是deepfake。因此，在特殊的AI算法（称为生成对抗网络）的驱动下，deepfake可以生成面部，声音和视频，而无需真实的人实际说出来或在现实中做。但是，Deepfake的概念是对AI技术背后的误解。因此，我们认为深度综合是一个更好的术语。因为它有许多积极的应用。例如，这项技术可以将已经过世的演员重新带入电影中。由于真正的演员必须待在家里，因此它还可以创建数字虚拟演员来参与大流行中的电影拍摄。也许将来我们会拥有超级巨星虚拟演员，因为我们现在有许多著名的虚拟歌手。合成语音还支持许多语音助手应用程序。但是，如果不采取适当的保护措施，恶意参与者可以将Deepfake技术用于非法活动，例如欺诈，色情复仇，伪造身份，伪造新闻和虚假信息。例如，十月份，用户使用Telegram上的deepfake僵尸程序轻松制作和传播伪造的裸体图片。不良行为者也可能出于非法或不道德目的滥用或使用其他人工智能技术。

为解决这些问题，可以从以下四点方面着手：其一，人工智能与数据产品开发需要遵循“通过设计的伦理”（ethicsbydesign）理念，将公平、安全等伦理价值融入产品设计全周期，并有防止滥用的保障措施；二是在企业、国家乃至国际层面建立负责任的人工智能开发和数据使用的道德准则；三是在国际社会分享最佳实践经验；四是业界需要探索开发隐私保护型的AI技术方法，如联邦学习等，来在隐私保护与数据利用之间实现更好平衡。

7.吴沈括：国际社会需面对数据违法行为带来的法律漏洞

在AI时代，当前的数据冲突已遍及全球。按照这种观点，国际社会需要直面新技术环境中数据违规所带来的新挑战和法律空白，可以肯定的有以下几点：第一，不同地区和国家法律法规的缺失和差异，导致对新型数据违规的司法监管不足；第二，各国当前的法律制度框架尚不能完全确保快速，有效的跨境证据收集和交换；第三，在一些国家，监控，早期预警和应急机制变得越来越难以有效应对网络匿名环境下脆弱性问题的迅速增长。

在全球化深入发展的新时代，数据违规的跨国发展要求更高水平的国际合作管理，以应对日益严重的数据违规性。从这个意义上讲，我们可以考虑的方法选项包括3个元素：首先，我们必须在最大范围内建立国际共识，并积极构建全球法律框架，例如针对数据违约的国际条约，其重点是与责任标准，管辖权协调，信息共享，司法协助有关的系统规范设计等等。其次，我们需要最大程度地学习最佳做法，并及时创新跨国合作机制。特别是，迫切需要改进的是网络威胁信息共享和证据保留方面的通用跨国惯例。最后，我们应加强所有利益相关者的能力建设。为此，关键是要通过各种手段（例如人员培训和技术设备）更好地整合和增强诸如执法机构，行业以及公民社区等多个学科的商业技术知识和实践技能。从这个意义上说，我们高度赞赏国际社会近年来不断加强其反数据违反工作，而众多的全球对话平台是促进全球国家协同治理与多元治理的一个突出代表。

聚焦人工智能合作与治理 携手构建人类命运共同体

中国网12月6日讯（记者卫芸辉）12月4日，由清华大学主办、清华大学人工智能国际治理研究院承办的2021人工智能合作与治理国际论坛在京召开。

中共十九届中央委员，十三届全国政协副主席、党组成员汪永清，联合国开发计划署驻华代表白雅婷，科学技术部副部长李萌，工业和信息化部副部长徐晓兰等出席论坛并致辞。

本次论坛以“如何构建一个平衡包容的人工智能治理体系”为主题，汇集世界各地在人工智能领域的思想领袖和实践者，共同探讨构建适合人工智能健康发展的治理体系，分享人工智能前沿技术与治理经验，提出元宇宙未来治理的前瞻议题，推动构建人类命运共同体。

中共十九届中央委员，十三届全国政协副主席、党组成员汪永清致开幕辞。（清华大学人工智能国际治理研究院供图）

汪永清在开幕辞中表示，中国人工智能治理以促进人的全面进步、促进经济社会生态可持续发展为目的，坚持以人民为中心、坚持增进人类福祉、坚持鼓励科技创新、坚持统筹发展与安全、坚守公平正义理念，倡导共商、共建、共享解决全球数字治理问题，携手打造开放、公平、公正、非歧视的数字发展环境。

汪永清指出，面对人工智能发展带来的风险挑战，国际社会必须携手共同应对，不断提升人工智能全球治理水平：

第一，要推动开放包容，秉持人类命运共同体理念，摒弃强权霸道逻辑，摆脱意识形态偏见，最大限度增强合作机制、理念、政策的开放性和包容性，构建人工智能全球治理的负责任格局。

第二，要推动协商互鉴，坚守和平、发展、公平、正义、民主、自由的全人类共同价值，建立起跨文化信任，尊重和包容差异，统筹发展与安全，兼顾效率与公平，防止治理规则政策取向顾此失彼、避重就轻和歧视性排他性，共建具有广泛共识的全球人工智能治理规则和伦理标准的平衡性框架。

第三，要推动共治共享，创建人工智能治理各方参与的开放性平台，通过跨学科、跨领域、跨地区、跨国界的交流合作，推动相关各方遵循基本科技伦理，把进步的价值取向嵌入人工智能数理模型，形成人工智能向善的力量，推动形成人工智能治理的最佳实践，形成各方积极参与的共治共享良好局面。

清华大学校长邱勇致欢迎辞。（清华大学人工智能国际治理研究院供图）

清华大学校长邱勇表示，人工智能是第四次工业革命的标志性技术。近年来，智能化正深刻改变我们的生产生活方式，智能时代的“大门”已缓缓开启。然而，在提高社会生产力、赋能治理现代化的同时，人工智能也带来了公共安全风险、隐私侵权、数字鸿沟、责任困境、伦理失范等许多新挑战。人工智能治理必须协同多元主体、兼顾多维目标、融合多元价值，加强全球合作与对话，构建平衡包容的人工智能治理体系。大学作为人类科技文明的重要策源地，不仅要在人工智能基础理论与技术前沿努力突破创新，也要践行科技向善的文化理念，塑造良善的人工智能价值与伦理，推动建立科学合理的人工智能国际治理体系。

联合国开发计划署驻华代表白雅婷致欢迎辞。（清华大学人工智能国际治理研究院供图）

联合国开发计划署驻华代表白雅婷在致辞中说，人工智能在疫情应对、抗击气候变化中都发挥着重要作用。与此同时，人工智能也存在算法偏见和侵犯个人隐私等风险。随着人工智能应用在世界各地愈加普及，需要就公平道德的人工智能治理体系构建路径达成共识。为此，国际合作至关重要，要确保围绕人工智能开展的对话真正具有全球性，让每个国家都有机会发声。

科学技术部副部长李萌致辞。（清华大学人工智能国际治理研究院供图）

科学技术部副部长李萌表示，未来，人工智能治理要倡导敏捷治理理念，实现人工智能发展与安全的平衡；倡导包容共享理念，实现不同群体共享智能红利的平衡；倡导可持续发展理念，实现智能化与绿色化的平衡；倡导人类命运共同体理念，实现差异发展与合作共赢的平衡。

工业和信息化部副部长徐晓兰致辞。（清华大学人工智能国际治理研究院供图）

工业和信息化部副部长徐晓兰表示，工信部将携手相关各方，在共促人工智能持续健康发展、共建包容共享的人工智能治理规则、共创国际合作新局面等方面大力合作，为推动人工智能国际治理体系建设贡献中国智慧，并为国际科技交流与合作增添更多务实成果。

图灵奖得主、清华大学交叉信息研究院院长、人工智能国际治理研究院学术委员会主席姚期智发表视频致辞。（清华大学人工智能国际治理研究院供图）

图灵奖得主、清华大学交叉信息研究院院长姚期智在视频致辞中指出，随着人工智能与经济社会的相互嵌入，保持科学技术与经济社会发展之间的良性互动与协同越来越重要，这就需要我们做好人工智能技术开发、应用与治理之间的平衡。然而，人工智能对数字经济时代的隐私保护和数据安全也提出了挑战，不断精进的算法、高效的算力和隐私保护是人工智能理论的新方向。“平衡包容”的人工智能治理体系的建构，将进一步释放人工智能的潜能，更大程度保证人工智能的安全性。

“如何构建一个平衡包容的人工智能治理体系”主论坛。（清华大学人工智能国际治理研究院供图）

开幕式之后，举行了以“如何构建一个平衡包容的人工智能治理体系”为主题的主论坛。薛澜、龚克、徐浩良、温德尔·瓦拉赫、苏竣、罗欣顿·麦德拉等国内外专家学者分别作主旨演讲。清华大学人工智能国际治理研究院副院长梁正主持主论坛。