《新一代人工智能伦理规范》发布
9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》(以下简称《伦理规范》)，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。
《伦理规范》经过专题调研、集中起草、意见征询等环节，充分考虑当前社会各界有关隐私、偏见、歧视、公平等伦理关切，包括总则、特定活动伦理规范和组织实施等内容。《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。同时，提出人工智能管理、研发、供应、使用等特定活动的18项具体伦理要求。《伦理规范》全文如下：
新一代人工智能伦理规范为深入贯彻《新一代人工智能发展规划》，细化落实《新一代人工智能治理原则》，增强全社会的人工智能伦理意识与行为自觉，积极引导负责任的人工智能研发与应用活动，促进人工智能健康发展，制定本规范。
第一章 总则
第一条 本规范旨在将伦理道德融入人工智能全生命周期，促进公平、公正、和谐、安全，避免偏见、歧视、隐私和信息泄露等问题。
第二条 本规范适用于从事人工智能管理、研发、供应、使用等相关活动的自然人、法人和其他相关机构等。（一）管理活动主要指人工智能相关的战略规划、政策法规和技术标准制定实施，资源配置以及监督审查等。（二）研发活动主要指人工智能相关的科学研究、技术开发、产品研制等。（三）供应活动主要指人工智能产品与服务相关的生产、运营、销售等。（四）使用活动主要指人工智能产品与服务相关的采购、消费、操作等。
第三条 人工智能各类活动应遵循以下基本伦理规范。（一）增进人类福祉。坚持以人为本，遵循人类共同价值观，尊重人权和人类根本利益诉求，遵守国家或地区伦理道德。坚持公共利益优先，促进人机和谐友好，改善民生，增强获得感幸福感，推动经济、社会及生态可持续发展，共建人类命运共同体。（二）促进公平公正。坚持普惠性和包容性，切实保护各相关主体合法权益，推动全社会公平共享人工智能带来的益处，促进社会公平正义和机会均等。在提供人工智能产品和服务时，应充分尊重和帮助弱势群体、特殊群体，并根据需要提供相应替代方案。（三）保护隐私安全。充分尊重个人信息知情、同意等权利，依照合法、正当、必要和诚信原则处理个人信息，保障个人隐私与数据安全，不得损害个人合法数据权益，不得以窃取、篡改、泄露等方式非法收集利用个人信息，不得侵害个人隐私权。（四）确保可控可信。保障人类拥有充分自主决策权，有权选择是否接受人工智能提供的服务，有权随时退出与人工智能的交互，有权随时中止人工智能系统的运行，确保人工智能始终处于人类控制之下。（五）强化责任担当。坚持人类是最终责任主体，明确利益相关者的责任，全面增强责任意识，在人工智能全生命周期各环节自省自律，建立人工智能问责机制，不回避责任审查，不逃避应负责任。（六）提升伦理素养。积极学习和普及人工智能伦理知识，客观认识伦理问题，不低估不夸大伦理风险。主动开展或参与人工智能伦理问题讨论，深入推动人工智能伦理治理实践，提升应对能力。
第四条 人工智能特定活动应遵守的伦理规范包括管理规范、研发规范、供应规范和使用规范。
第二章 管理规范
第五条 推动敏捷治理。尊重人工智能发展规律，充分认识人工智能的潜力与局限，持续优化治理机制和方式，在战略决策、制度建设、资源配置过程中，不脱离实际、不急功近利，有序推动人工智能健康和可持续发展。
第六条 积极实践示范。遵守人工智能相关法规、政策和标准，主动将人工智能伦理道德融入管理全过程，率先成为人工智能伦理治理的实践者和推动者，及时总结推广人工智能治理经验，积极回应社会对人工智能的伦理关切。
第七条 正确行权用权。明确人工智能相关管理活动的职责和权力边界，规范权力运行条件和程序。充分尊重并保障相关主体的隐私、自由、尊严、安全等权利及其他合法权益，禁止权力不当行使对自然人、法人和其他组织合法权益造成侵害。
第八条 加强风险防范。增强底线思维和风险意识，加强人工智能发展的潜在风险研判，及时开展系统的风险监测和评估，建立有效的风险预警机制，提升人工智能伦理风险管控和处置能力。
第九条 促进包容开放。充分重视人工智能各利益相关主体的权益与诉求，鼓励应用多样化的人工智能技术解决经济社会发展实际问题，鼓励跨学科、跨领域、跨地区、跨国界的交流与合作，推动形成具有广泛共识的人工智能治理框架和标准规范。
第三章 研发规范
第十条 强化自律意识。加强人工智能研发相关活动的自我约束，主动将人工智能伦理道德融入技术研发各环节，自觉开展自我审查，加强自我管理，不从事违背伦理道德的人工智能研发。
第十一条 提升数据质量。在数据收集、存储、使用、加工、传输、提供、公开等环节，严格遵守数据相关法律、标准与规范，提升数据的完整性、及时性、一致性、规范性和准确性等。
第十二条 增强安全透明。在算法设计、实现、应用等环节，提升透明性、可解释性、可理解性、可靠性、可控性，增强人工智能系统的韧性、自适应性和抗干扰能力，逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。
第十三条 避免偏见歧视。在数据采集和算法开发中，加强伦理审查，充分考虑差异化诉求，避免可能存在的数据与算法偏见，努力实现人工智能系统的普惠性、公平性和非歧视性。
第四章 供应规范
第十四条 尊重市场规则。严格遵守市场准入、竞争、交易等活动的各种规章制度，积极维护市场秩序，营造有利于人工智能发展的市场环境，不得以数据垄断、平台垄断等破坏市场有序竞争，禁止以任何手段侵犯其他主体的知识产权。
第十五条 加强质量管控。强化人工智能产品与服务的质量监测和使用评估，避免因设计和产品缺陷等问题导致的人身安全、财产安全、用户隐私等侵害，不得经营、销售或提供不符合质量标准的产品与服务。
第十六条 保障用户权益。在产品与服务中使用人工智能技术应明确告知用户，应标识人工智能产品与服务的功能与局限，保障用户知情、同意等权利。为用户选择使用或退出人工智能模式提供简便易懂的解决方案，不得为用户平等使用人工智能设置障碍。
第十七条 强化应急保障。研究制定应急机制和损失补偿方案或措施，及时监测人工智能系统，及时响应和处理用户的反馈信息，及时防范系统性故障，随时准备协助相关主体依法依规对人工智能系统进行干预，减少损失，规避风险。
第五章 使用规范
第十八条 提倡善意使用。加强人工智能产品与服务使用前的论证和评估，充分了解人工智能产品与服务带来的益处，充分考虑各利益相关主体的合法权益，更好促进经济繁荣、社会进步和可持续发展。
第十九条 避免误用滥用。充分了解人工智能产品与服务的适用范围和负面影响，切实尊重相关主体不使用人工智能产品或服务的权利，避免不当使用和滥用人工智能产品与服务，避免非故意造成对他人合法权益的损害。
第二十条 禁止违规恶用。禁止使用不符合法律法规、伦理道德和标准规范的人工智能产品与服务，禁止使用人工智能产品与服务从事不法活动，严禁危害国家安全、公共安全和生产安全，严禁损害社会公共利益等。
第二十一条 及时主动反馈。积极参与人工智能伦理治理实践，对使用人工智能产品与服务过程中发现的技术安全漏洞、政策法规真空、监管滞后等问题，应及时向相关主体反馈，并协助解决。
第二十二条 提高使用能力。积极学习人工智能相关知识，主动掌握人工智能产品与服务的运营、维护、应急处置等各使用环节所需技能，确保人工智能产品与服务安全使用和高效利用。
第六章 组织实施
第二十三条 本规范由国家新一代人工智能治理专业委员会发布，并负责解释和指导实施。
第二十四条 各级管理部门、企业、高校、科研院所、协会学会和其他相关机构可依据本规范，结合实际需求，制订更为具体的伦理规范和相关措施。
第二十五条 本规范自公布之日起施行，并根据经济社会发展需求和人工智能发展情况适时修订。
国家新一代人工智能治理专业委员会
2021年9月25日
张成岗：新时代中国智能社会治理实验方案的多维探索
一、中国社会治理与发展评估指标体系构建中国社会治理与发展指数（ChinaSocialGovernanceandDevelopmentIndex，CSGDI）是积极响应党中央关于加强和创新社会治理、完善中国特色社会主义社会治理体系总体要求，结合社会治理理论和我国社会治理与发展实际，将社会治理和发展有机结合而创立的指数。通过中国社会治理与发展指数（CSGDI）对中国内地31个省（自治区、直辖市）的社会治理与发展水平进行评估，有助于发现我国社会治理与发展当中存在的问题，总结社会治理与发展的典型经验。
中国社会治理与发展评估指标体系包括：（1）1个一级指标，即中国社会治理与发展指数；（2）7个二级指标，即政府责任、安全、民生、社会参与、社会公平、可持续发展与民众满意度，其中前6个是客观指标，第7个是主观指标，7个二级指标构建了“中国社会治理与发展评估指标体系”基本框架；（3）36个三级指标，包括党的建设、政府效能、政府透明度、公共安全、网络安全、食品药品安全、环境安全、应急能力、人口、劳动就业、价格消费、人民生活、公共教育、医疗卫生、公共文化与体育、住房保障、社会保障、社会组织参与、公众参与、政府协同、规则公平、权利公平、机会公平、性别公平、民族公平、区域公平、信息公平、环境可持续、经济可持续、社会可持续、民众对政府的满意度、居民公平感、居民幸福感、居民参与感、居民安全感、居民未来期望；（4）以及139个四级指标。
2018年11月，清华大学社会治理与发展研究院首度发布《2018中国社会治理与发展指数（CSGDI）年度报告》，此后逐年发布年度报告。今年已经是报告的第四次发布。
二、《2021中国社会治理与发展指数（CSGDI）年度报告》内容解读《2021中国社会治理与发展指数（CSGDI）年度报告》结合社会治理与发展领域最新政策和理论，展现和分析一年以来各省（自治区、直辖市）在社会治理各个方面的发展情况和风险挑战，进而为政策分析和决策应对提供参考支撑。
《2021中国社会治理与发展指数（CSGDI）年度报告》延续三年来系列报告的研究方法，从政府责任、安全、民生、社会参与、社会公平、可持续发展与民众满意度七个维度，对全国31个省（自治区、直辖市）进行了系统评估和分析。数据分析显示，我国社会治理能力与治理水平不断提升，我国社会治理工作稳步推进。从地理位置看，华东、华北两地区社会治理与发展指数得分显著高于其他地区，且华东地区略高于华北地区；华南、华中地区得分在平均值左右。《2021中国社会治理与发展指数（CSGDI）年度报告》还分析了三个梯队的典型省份（浙江、青海和贵州）的各指标变化及特点，并在指标得分基础上提出了政策建议。
《2021中国社会治理与发展指数（CSGDI）年度报告》就“均衡发展、共同富裕和社会治理现代化”进行了专题研究。研究指出，要正确处理效率和公平的关系，构建初次分配、再分配、三次分配协调配套的基础性制度安排，加大税收、社保、转移支付等调节力度并提高精准性，扩大中等收入群体比重，使全体人民朝着共同富裕目标扎实迈进。推动低收入群体医疗救助的精细化管理和高质量发展，将医疗救助制度与基本医保、大病保险相互衔接。要加强低收入群体的灵活就业政策支持，通过“个体经营、非全日制、新就业形态、自主就业、宅经济、副业创新、承包”等多样的灵活就业渠道拓宽就业广度，增强低收入群体的风险韧性，充分释放社会各群体的创新与活力。
三、稳健性与创新性：《2021中国社会治理与发展指数（CSGDI）年度报告》的逻辑主线2021年中国社会治理与发展评估指标体系体现了“稳中有变”的特征。指标的“稳”体现在对四年来的理论研究与实践经验的继承与延续：今年指标体系延续三年来系列报告的研究方法，保持了原有的139个四级指标，通过中国社会治理与发展指数对全国31个省（自治区、直辖市）的数据进行分析。指标构建还延续了“6+1”主客观相结合的二级指标模式，并确保7个二级指标的加权比重不变，保持了计算方法的科学性、持续性与稳定性。指标的“变”充分考虑了本年度的实际情况，综合考虑复杂的新冠肺炎疫情带来的社会挑战，对指标体系细节进行了创新。这种创新呼应了“三重均衡”，即：社会治理中疫情防控与经济发展之均衡、全国布局中引领地区与追赶地区之均衡、全球治理中国际局势与国家政策之均衡。根据这“三重均衡”，结合理论支撑与案例丰富，对本年度指标的四级指标的加权比重进行微调，使其更加适应实际情况；还分别在“引领型”“稳健型”和“追赶型”三个梯队各选取一个典型省份作为案例研究，结合相关课题与实地调研开展更具细节、更扎根基层的学术研究。
与往年相比，各省的社会治理能力与水平也体现了“稳中有变”的特征。我国各省社会治理能力与水平具有一定的风险韧性，但不同地区社会治理能力与水平尚有较大差异，各省仍有进步空间。我国社会治理工作整体“向稳”，从四年来看，CSGDI指数平均分呈现上升趋势，标志着我国社会治理能力与治理水平的不断提升，我国社会治理工作稳步推进。但今年又呈现出新变化。根据2021年CSGDI指数综合得分情况，31个省（自治区、直辖市）平均得分为72.72分，与2020年相比平均分有所回落，但降幅较小，较为稳定。这种变化是受疫情冲击所致，经济社会产生一些波动，但通过快速应急响应增强了应对风险冲击的抗逆力，体现了各省具有一定的风险韧性。各省份的指数综合得分与各指标得分仍存在较大差异，沿海高于内陆、东部高于西部、经济发达高于经济相对落后，具有“地区发展不均衡、增长幅度不均衡”的特征。值得注意的是，华东地区是唯一在冲击下平均得分高于2020年的地区，其社会治理体系具有很强的抗风险能力，为探索社会治理新格局、推动社会治理体系现代化提供了参考。
四、以人为中心：实现“负责任”技术与“有温度”善治的互构展望未来，我们要看到中国的社会治理发展总体态势良好，科技支撑社会治理表现出显著成效。面对新兴技术与社会治理的深度融合，我们要在“智字”“智知”“智治”三个方面下功夫。首先，关注新兴技术中的数字数据，发挥数字经济的引领作用，同时，关注数字隐私和利益保护；其次，关注人工智能时代的基础知识，防范人类智慧和人类智能被人工智能弱化，加大为人工智能基础理论和前沿技术提供理论支撑；最后，关注人工智能和区块链等技术的社会治理，重视技术风险和伦理问题，始终保持风险意识，在理性与勇敢中推进人工智能技术的发展。
面向可持续发展美好未来的愿景构建，我们要致力于发展“可信的”“负责任的”“道德纯洁的”“至善的”技术，应当对新兴技术的底线式、合作式、协商式社会治理模式等进行多维度探索，加强技术发展研判和预测，更好应对技术可能导致的失控风险、伦理挑战、就业影响；发展“负责任”的技术，构建“有温度”的社会治理体系，建设“高参与性”的社会组织；以社会治理的“实验主义”方式拓展公众参与，实现科技规范与治理规范的融通、法律规则与伦理规范的互补。
中国的社会治理现代化面临长期的、复杂的风险挑战。面对社会治理中的风险不确定性、常态与应急状态切换、系统性与协同性等挑战，亟须厘清社会治理领域的观念误区和认知性缺陷，推动社会治理研究的“范式变革”；亟须构建社会治理“韧性”，培育社会治理新动能；亟须促进科技赋能，推进社会治理的精确化、精准化和精细化；亟须积极推动多维度、多场景、多方案的智能社会治理的地方实验，最终实现构建“负责任”与“有温度”的至善社会治理体系的终极目标。面向未来的社会治理体系，要进一步推动社会治理相关问题的学术发展与理论保障，兼具专业能力的“硬度”和社会关怀的“软度”，有效推动社会治理体系与能力现代化，为实现人民的幸福生活和社会长治久安奠定坚实的基础。
（张成岗系清华大学社会治理与发展研究院院长）
编辑：李华山
2021年12月30日07:59:22