《新一代人工智能伦理规范》发布
9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》(以下简称《伦理规范》)，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。
《伦理规范》经过专题调研、集中起草、意见征询等环节，充分考虑当前社会各界有关隐私、偏见、歧视、公平等伦理关切，包括总则、特定活动伦理规范和组织实施等内容。《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。同时，提出人工智能管理、研发、供应、使用等特定活动的18项具体伦理要求。《伦理规范》全文如下：
新一代人工智能伦理规范为深入贯彻《新一代人工智能发展规划》，细化落实《新一代人工智能治理原则》，增强全社会的人工智能伦理意识与行为自觉，积极引导负责任的人工智能研发与应用活动，促进人工智能健康发展，制定本规范。
第一章 总则
第一条 本规范旨在将伦理道德融入人工智能全生命周期，促进公平、公正、和谐、安全，避免偏见、歧视、隐私和信息泄露等问题。
第二条 本规范适用于从事人工智能管理、研发、供应、使用等相关活动的自然人、法人和其他相关机构等。（一）管理活动主要指人工智能相关的战略规划、政策法规和技术标准制定实施，资源配置以及监督审查等。（二）研发活动主要指人工智能相关的科学研究、技术开发、产品研制等。（三）供应活动主要指人工智能产品与服务相关的生产、运营、销售等。（四）使用活动主要指人工智能产品与服务相关的采购、消费、操作等。
第三条 人工智能各类活动应遵循以下基本伦理规范。（一）增进人类福祉。坚持以人为本，遵循人类共同价值观，尊重人权和人类根本利益诉求，遵守国家或地区伦理道德。坚持公共利益优先，促进人机和谐友好，改善民生，增强获得感幸福感，推动经济、社会及生态可持续发展，共建人类命运共同体。（二）促进公平公正。坚持普惠性和包容性，切实保护各相关主体合法权益，推动全社会公平共享人工智能带来的益处，促进社会公平正义和机会均等。在提供人工智能产品和服务时，应充分尊重和帮助弱势群体、特殊群体，并根据需要提供相应替代方案。（三）保护隐私安全。充分尊重个人信息知情、同意等权利，依照合法、正当、必要和诚信原则处理个人信息，保障个人隐私与数据安全，不得损害个人合法数据权益，不得以窃取、篡改、泄露等方式非法收集利用个人信息，不得侵害个人隐私权。（四）确保可控可信。保障人类拥有充分自主决策权，有权选择是否接受人工智能提供的服务，有权随时退出与人工智能的交互，有权随时中止人工智能系统的运行，确保人工智能始终处于人类控制之下。（五）强化责任担当。坚持人类是最终责任主体，明确利益相关者的责任，全面增强责任意识，在人工智能全生命周期各环节自省自律，建立人工智能问责机制，不回避责任审查，不逃避应负责任。（六）提升伦理素养。积极学习和普及人工智能伦理知识，客观认识伦理问题，不低估不夸大伦理风险。主动开展或参与人工智能伦理问题讨论，深入推动人工智能伦理治理实践，提升应对能力。
第四条 人工智能特定活动应遵守的伦理规范包括管理规范、研发规范、供应规范和使用规范。
第二章 管理规范
第五条 推动敏捷治理。尊重人工智能发展规律，充分认识人工智能的潜力与局限，持续优化治理机制和方式，在战略决策、制度建设、资源配置过程中，不脱离实际、不急功近利，有序推动人工智能健康和可持续发展。
第六条 积极实践示范。遵守人工智能相关法规、政策和标准，主动将人工智能伦理道德融入管理全过程，率先成为人工智能伦理治理的实践者和推动者，及时总结推广人工智能治理经验，积极回应社会对人工智能的伦理关切。
第七条 正确行权用权。明确人工智能相关管理活动的职责和权力边界，规范权力运行条件和程序。充分尊重并保障相关主体的隐私、自由、尊严、安全等权利及其他合法权益，禁止权力不当行使对自然人、法人和其他组织合法权益造成侵害。
第八条 加强风险防范。增强底线思维和风险意识，加强人工智能发展的潜在风险研判，及时开展系统的风险监测和评估，建立有效的风险预警机制，提升人工智能伦理风险管控和处置能力。
第九条 促进包容开放。充分重视人工智能各利益相关主体的权益与诉求，鼓励应用多样化的人工智能技术解决经济社会发展实际问题，鼓励跨学科、跨领域、跨地区、跨国界的交流与合作，推动形成具有广泛共识的人工智能治理框架和标准规范。
第三章 研发规范
第十条 强化自律意识。加强人工智能研发相关活动的自我约束，主动将人工智能伦理道德融入技术研发各环节，自觉开展自我审查，加强自我管理，不从事违背伦理道德的人工智能研发。
第十一条 提升数据质量。在数据收集、存储、使用、加工、传输、提供、公开等环节，严格遵守数据相关法律、标准与规范，提升数据的完整性、及时性、一致性、规范性和准确性等。
第十二条 增强安全透明。在算法设计、实现、应用等环节，提升透明性、可解释性、可理解性、可靠性、可控性，增强人工智能系统的韧性、自适应性和抗干扰能力，逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。
第十三条 避免偏见歧视。在数据采集和算法开发中，加强伦理审查，充分考虑差异化诉求，避免可能存在的数据与算法偏见，努力实现人工智能系统的普惠性、公平性和非歧视性。
第四章 供应规范
第十四条 尊重市场规则。严格遵守市场准入、竞争、交易等活动的各种规章制度，积极维护市场秩序，营造有利于人工智能发展的市场环境，不得以数据垄断、平台垄断等破坏市场有序竞争，禁止以任何手段侵犯其他主体的知识产权。
第十五条 加强质量管控。强化人工智能产品与服务的质量监测和使用评估，避免因设计和产品缺陷等问题导致的人身安全、财产安全、用户隐私等侵害，不得经营、销售或提供不符合质量标准的产品与服务。
第十六条 保障用户权益。在产品与服务中使用人工智能技术应明确告知用户，应标识人工智能产品与服务的功能与局限，保障用户知情、同意等权利。为用户选择使用或退出人工智能模式提供简便易懂的解决方案，不得为用户平等使用人工智能设置障碍。
第十七条 强化应急保障。研究制定应急机制和损失补偿方案或措施，及时监测人工智能系统，及时响应和处理用户的反馈信息，及时防范系统性故障，随时准备协助相关主体依法依规对人工智能系统进行干预，减少损失，规避风险。
第五章 使用规范
第十八条 提倡善意使用。加强人工智能产品与服务使用前的论证和评估，充分了解人工智能产品与服务带来的益处，充分考虑各利益相关主体的合法权益，更好促进经济繁荣、社会进步和可持续发展。
第十九条 避免误用滥用。充分了解人工智能产品与服务的适用范围和负面影响，切实尊重相关主体不使用人工智能产品或服务的权利，避免不当使用和滥用人工智能产品与服务，避免非故意造成对他人合法权益的损害。
第二十条 禁止违规恶用。禁止使用不符合法律法规、伦理道德和标准规范的人工智能产品与服务，禁止使用人工智能产品与服务从事不法活动，严禁危害国家安全、公共安全和生产安全，严禁损害社会公共利益等。
第二十一条 及时主动反馈。积极参与人工智能伦理治理实践，对使用人工智能产品与服务过程中发现的技术安全漏洞、政策法规真空、监管滞后等问题，应及时向相关主体反馈，并协助解决。
第二十二条 提高使用能力。积极学习人工智能相关知识，主动掌握人工智能产品与服务的运营、维护、应急处置等各使用环节所需技能，确保人工智能产品与服务安全使用和高效利用。
第六章 组织实施
第二十三条 本规范由国家新一代人工智能治理专业委员会发布，并负责解释和指导实施。
第二十四条 各级管理部门、企业、高校、科研院所、协会学会和其他相关机构可依据本规范，结合实际需求，制订更为具体的伦理规范和相关措施。
第二十五条 本规范自公布之日起施行，并根据经济社会发展需求和人工智能发展情况适时修订。
国家新一代人工智能治理专业委员会
2021年9月25日
上海市人工智能标准化技术委员会成立，近期完成标准体系编制
原标题：上海市人工智能标准化技术委员会成立，近期完成标准体系编制
7月9日下午，在2021世界人工智能大会“共话标准，驱动产业——标准化论坛”上，上海市人工智能标准化技术委员会正式成立。“当前人工智能产业已经开入新的发展阶段，也急需标准化促进人工智能的进步，加快形成标准引领的高质量发展的格局。”上海市经济和信息化委员会副主任张英在论坛的致辞中表示，“上海层面，我们同时高度重视人工智能标准化的制定，加快培育高水平的上海人工智能标准，促进规模化、规范化的应用，深度赋能上海城市数字化转型。”为了进一步确立上海人工智能产业引领地位，推动人工智能“上海高地”建设，特设上海市人工智能标准化技术委员会，充分发挥标准化对本市人工智能发展的基础支撑作用，广泛凝聚上海优势资源，助力产业转型升级和高质量发展。上海市人工智能标准化技术委员会由上海市市场监督管理局批准成立，设委员47人，其中张英为主任委员，李鑫、孙跃、徐立、张雪丽为副主任委员，钟俊浩为秘书长。标委会负责开展上海市人工智能领域地方标准化技术归口管理工作，提出上海市人工智能标准化工作规划和计划；建立适合于上海人工智能产业发展、技术创新、跨界融合的人工智能标准技术路线；对标国际先进水平，建立并完善上海市人工智能技术标准体系；组织开展本专业领域地方标准的研究和制修订；组织开展本专业领域地方标准的宣贯、培训和咨询工作等。标委会的近期规划包括：系统梳理国内外人工智能标准，完成本市标准体系编制；基于产业应用场景的落地需求，迅速开展人脸识别应用、智能医疗、智能金融、智能制造、智慧城市、智能交通、智能教育等领域的地方标准的标准的立项和起草工作；根据产业发展需求，开展智能语音处理、自然语言处理、计算机视觉人工智能示范应用技术标准化研究工作；开展人工智能数据管理标准研究工作，同步推进在研信息安全/伦理相关标准的切实落地，为人工智能数据管理及信息安全的层面提供保障。据介绍，下一步，上海将落实城市数字化转型的总体部署，围绕人脸识别应用、AI+制造业、企业智能化转型等重点领域，推进相关团体标准、地方标准制定工作，并鼓励人工智能企业积极参与行业标准、国家标准和国际标准的制修订。论坛上还发布了《人工智能标准化白皮书（2021版）》以及《可信赖人工智能标准白皮书（2021版）》。《人工智能标准化白皮书（2021版）》是国家人工智能标准化总体组、全国信标委人工智能分委会、中国电子技术标准化研究院联合上海计算机软件技术开发中心等人工智能领域产学研用五十余家单位、上百名专家在《人工智能标准化白皮书（2018版）》的基础上，广泛调研、进一步梳理现状、提出针对性建议编写而成。据介绍，该白皮书首次通过用户视角、功能视角两个角度提出现阶段的人工智能参考框架。在此基础上，从支撑人工智能产业整体发展的角度出发，研究能够适应和引导人工智能产业发展的标准体系，提出人工智能标准化工作重点建议。而《可信赖人工智能标准白皮书（2021版）》是针对当前人工智能产品和系统往往仅关注于单一功能实现，而对系统功能的可靠、透明、可控、安全等关系到人类是否对其有足够信任和信赖的关键特性考虑相对较少的现状，由中国电子技术标准化研究院、全国信标委人工智能分委会联合中国科学院软件研究所等人工智能领域产学研用八十余家单位、上百名专家共同编写而成。人工智能为什么需要标准化
尽管进入2018年后，关于人工智能“泡沫”的讨论一致在延续，但各国家、组织、企业暗中的角力却未见松懈，并从学术文章、初代产品、平台部署的竞争升级至标准制定，因为人工智能所孕育的种种重大创新、变革及突破的可能必须依托产业落地。
日前，在国家人工智能标准化总体组、专家咨询组成立大会上，《人工智能标准化白皮书（2018版）》（以下简称《白皮书》）推出，清晰勾勒出我国相关标准制定的脉络。
没有规矩难成方圆
标准，既是产业竞争的制高点，也是局中人的游戏规则，无论人工智能将如何改变世界，改变不了的是标准的不可替代性。因为缺失标准，人工智能的研发和应用将变得混乱，因为标准不统一，市场将被分裂。
据中粤金桥投资合作人、品优网创始人罗浩元介绍，尽管一些国际、国外标准化组织积极部署开展人工智能标准化工作，但尚未形成完整的标准体系。我国虽然在某些领域已具备一定的标准化基础，但标准化程度不足，分散的标准化工作不足以支撑起整个人工智能领域的发展。
“从这个角度看，我国在人工智能标准化的工作上与全球同步。”罗浩元在接受记者采访时强调，“虽然业界对人工智能还未达成统一的定义，但套用中国一句老话，没有规矩不成方圆。建立统一完善的标准体系，以标准手段促进我国人工智能技术、产业的发展，对加快我国人工智能技术创新和成果转化、提升产品服务和质量、保障用户安全、建立公平开放的产业生态意义重大。”
为抢占人工智能这一轮科技主导权，在美国的《国家人工智能研究与发展策略规划》、欧盟的“人脑计划”、日本的“人工智能／大数据／物联网／网络安全综合项目”中，标准规范与核心技术、顶尖人才一起被列为强化部署重点。
《白皮书》通过梳理人工智能技术、应用和产业演进情况，分析人工智能的技术热点、行业动态和未来趋势，从支撑人工智能产业整体发展的角度出发，研究制定了适应和引导我国人工智能产业发展的标准体系，提出近期急需研制的基础和关键标准项目。
在翻阅了《白皮书》后，罗浩元对记者说：“在我看来，包括基础标准、平台／支撑标准、关键技术标准、产品及服务标准、应用标准、安全／伦理标准六个部分人工智能标准体系结构的提出是《白皮书》的关键内容，基本串起了人工智能产业的整个链条。”
标准化仍需统筹协调
虽然我国在关键技术领域已具备一定的标准化基础，但缺乏顶层设计，标准化工作的统筹推进机制还待落实。
国家标准化管理委员会工业二部主任戴红指出，标准化工作是人工智能发展的基础和前提。戴红说：“将充分发挥我国资源和市场优势，深入参与国际标准化活动，力争取得国际标准突破，支撑国际人工智能产业发展。”
日前，国家标准化管理委员会成立国家人工智能标准化总体组、专家咨询组，被认为是对工业和信息化部印发《促进新一代人工智能产业发展三年行动计划（2018-2020年）》（以下简称《行动计划》）的回应。该计划明确提出，“初步建立人工智能标准体系、测试评估体系及安全保障体系框架”。
总体组组长、中国电子技术标准化研究院院长赵波说：“标准化工作对人工智能及其产业发展具有基础性、支撑性、引领性的作用，既是推动产业创新发展的关键抓手，也是产业竞争的制高点。我国虽然在人工智能领域具备了良好基础，但适应人工智能发展的基础设施、政策法规、标准体系仍亟待完善。”
根据《白皮书》的描述，当前我国人工智能标准化工作还面临诸多挑战：现有的标准化工作基础较为薄弱，对人工智能的概念、内涵、应用模式、智能化水平尚难达成共识；涉及领域众多，工作协调难度大，需要加强标准化顶层设计，不同的标准化技术委员会在人工智能领域的标准化工作边界有待进一步明确，避免工作交叉重叠；相关伦理道德，安全标准往往滞后于技术的发展，将引发众多分歧和争议，给标准制定工作带来新挑战。
罗浩元表示，随着人工智能的深入发展，标准化工作将成为异常庞杂的工作，不仅标准化的对象将变得越来越复杂，因为涉及领域众多，以往标准化工作从未出现过的交叉、融合给人工智能标准化带来巨大挑战。
“怎样避免标准间不配套、不协调、组成不合理？怎样梳理相关标准彼此依存、衔接、补充、制约？人工智能为标准化工作带来了新命题。”罗浩元说。
护航产业健康与竞争力
受惠于算法模式持续优化、数据信息海量增长、运算力大幅提升，发展至今已逾60年的人工智能近年却如横空出世般站上了“风口”，可规模化、可商业化产品和应用层出不穷，迫切需要建立明确规范的国家标准、行业标准，为我国人工智能的持续健康发展掌舵。
英特尔全球副总裁兼中国区总裁杨旭对记者说：“在看到十九大报告明确提出要推动互联网、大数据、人工智能和实体经济深度融合时，我非常兴奋。人工智能是中国引领全球的巨大机遇，中国正在将人工智能产业建设成为一个与全球市场融合的开放系统。”
据中国电子学会数据显示，2017年，全球人工智能核心产业规模已超过370亿美元。其中，我国人工智能核心产业规模已达到56亿美元左右。到2020年，全球人工智能核心产业规模超过1300亿美元，年均增速达到60％；其中，我国人工智能核心产业规模将超过220亿美元，年均增速接近65％。
“但是，技术如果不能和实体经济结合，便与空中楼阁无异。”杨旭说，“人工智能的应用场景十分复杂，需要不同特性硬件平台以及软硬件协同优化，才能有效提升数据洞察的速度和准确性。”
在这种情况下，标准的重要性便更加突出。罗浩元说：“人工智能标准化体系建设相对滞后已影响到技术应用和产业链条。比如现在最热的智能家电产品，每个产品都有自己的APP，协议不兼容，跨品牌间互联互通困难。”
赵波指出：“人工智能标准的先进与完善与否，关系到产业的健康发展以及产品国际市场竞争力的强弱。”
尽管当前我国人工智能产业的发展与标准化体系缺失的矛盾已开始显现，但相比其他国家已领先部署并有序、系统推进的标准化工作将为我国人工智能的产业化纠偏、护航、提速。正如杨旭所说：“人工智能的行业竞争就像马拉松刚开跑，输赢远未可知，而且这个马拉松没有终点，这一程还没跑完，下一程又已开始。”
近年来，粤港澳大湾区在打造创新驱动新引擎，科技创新带动资源集聚等方面着力颇多，创新机制、产业升级、人才引流、协同发展等带来了多方面的机遇。相应的，人工智能、人才赋能正深刻地影响着商业步伐。
2018年10月18-19日，亿欧将在深圳举办“引擎·引领”2018大湾区国际科创峰会（BATi），集合智能制造、智能产品、智慧城市、智慧安防、智慧交通等一众热点问题展开探讨，分析科技创新未来趋势，盘点技术革命下的发展契机。
大模型产业向标准化发展
转自：经济日报新闻客户端
近日，杭州通用人工智能论坛暨AIIA人工智能产业发展大会召开，大会指导单位为中国人工智能产业发展联盟（英文简称“AIIA”）、人工智能关键技术和应用评测工信部重点实验室，会上宣布，360集团将参与编写大模型应用标准，“360智脑”的应用“图查查”被评为生成式人工智能技术和应用优秀案例。据了解，AIIA成立于2017年，由国家发改委和科技部等部委联合指导，中国信通院等单位牵头、全国200余家人工智能相关企业机构共同发起组建，旨在推动人工智能产业发展。作为AIIA副理事长单位和初始单位成员，多年来360集团积极发展人工智能技术，推动产学研学各界紧密合作，参与人工智能产业生态建设。当前，我国正处于大模型产业发展初期，360作为《大规模预训练模型技术和应用评估方法第四部分：模型应用》标准编写单位，将参与编写大模型技术研发标准，推动大模型应用落地，促进产业向标准化、合规化、规模化方向发展。大会还评选了“生成式人工智能技术和应用优秀案例”，360智脑大模型的落地应用产品“图查查”入选。该产品旨在满足内容创作者对于“图文并茂”的需求，解决找图、配图、设计图片难的问题。图查查基于360智脑生成式AI能力、360搜索算法等能力，一站式解决了创作者的图片需求，为内容创作者解放双手，提高工作效率。据了解，360于2015年成立人工智能研究院，深入研究自然语言处理、机器视觉等方向的人工智能技术，并将技术应用于搜索、智能硬件、安全大数据等场景中，积累了深厚的AI技术实力，尤其是多模态技术。确定大模型发展路线后，360提出“两翼齐飞”人工智能发展战略，一方面加强核心技术自研，另一方面结合优势场景，抢占人工智能发展先机。目前，“360智脑”已具备新一代认知智能通用模型水准。在场景布局上，360坚持围绕消费者、企业、政府、城市、行业的不同需求，打造不同的大模型产品及服务。360集团创始人周鸿祎表示，大模型发展水平直接关系到国家生产力发展水平，这场工业革命将在2到3年内见分晓，大模型推动下的智能化才是数字化的高峰，中国一定要迎头赶上。（经济日报记者黄鑫）（责任编辑：何欣）海量资讯、精准解读，尽在新浪财经APP