《人工智能标准化白皮书（2023版）》发布
近日，由国家人工智能标准化总体组、全国信标委人工智能分委会指导，中国电子技术标准化研究院组织编写的《人工智能标准化白皮书（2021版）》（以下简称白皮书）发布。白皮书显示，我国人工智能产业发展取得显著成绩的同时，面临着不少困难和挑战，尤其是底层技术存在较大欠缺、能够实现商业价值的应用较少、与实体经济的融合存在较高门槛。
人工智能是新一轮科技革命和产业变革的重要驱动力量。我国人工智能市场规模巨大、企业投资热情高。数据显示，半数（49%）中国人工智能企业近3年的研发投入超过0.5亿美元。有机构预测，到2023年中国人工智能市场规模将达到979亿美元。
白皮书指出，在政产学研用各方共同努力下，我国人工智能产业发展成果显著。人工智能创新能力不断增强，图像识别、智能语音等技术达到全球领先水平，人工智能论文和专利数量居全球前列。人工智能产业规模持续增长，京津冀、长三角、珠三角等地形成了完备的人工智能产业链。人工智能融合应用不断深入，智能制造、智慧交通、智慧医疗等新业态、新模式不断涌现，对行业发展的赋能作用进一步凸显。
人工智能产业链包括基础层、技术层和应用层。基础层提供了数据及算力资源，包括芯片、开发编译环境、数据资源、云计算、大数据支撑平台等关键环节，是支撑产业发展的基座。技术层包括各类算法与深度学习技术，并通过深度学习框架和开放平台实现对技术和算法的封装，以快速实现商业化，推动人工智能产业快速发展。应用层是人工智能技术与各行业的深度融合，细分领域众多、领域交叉性强，呈现出相互促进、繁荣发展的态势。
白皮书显示，我国人工智能产业仍面临着不少困难和挑战，应加快夯实其产业链的3个层面。
例如在基础层，我国人工智能硬件等利用率低，传统硬件架构难以满足人工智能对密集计算的要求。同时兼容性差，面向不同场景的人工智能计算硬件指令集和微架构设计缺乏统一的标准规范，无法兼容。数据的采集和使用有待规范，如何安全有效地采集、管理和使用数据，以支撑人工智能实践，成为制约人工智能应用系统建设的瓶颈。
针对这些问题，白皮书指出，在基础层，进入大数据时代后，要推动海量高价值数据不断提高人工智能预测的准确性，积极促进人工智能技术在多场景的深度应用。在技术层，要通过开源方式推广深度学习框架，布局开源人工智能生态，抢占产业制高点。在应用层，要加快实现人工智能与实体经济融合，为零售、交通、医疗、制造业、金融等产业带来提效降费、转型升级的实际效能。（郑金武）
人工智能常用评估指标
模型评估准确率（Accuracy)所有被预测正确的样本（包括正、负）占所有样本的比例
精确率（Precision)又叫查准率，正确预测为正的占所有预测为正的比例
召回率（recall）又叫查全率，正确预测正样本占标注为正的比例
真正类率(TruePostiveRate)代表分类器预测的正类中实际正实例占所有正实例的比例。TPR=Recall。
负正类率(FalsePostiveRate)代表分类器预测的正类中实际负实例占所有负实例的比例。
直接上图，Accuracy，Precision，recall，TPR，FPR计算方式如下显著性检测评价F1指标,Fβ它同时兼顾了分类模型的精确率和召回率。F1分数可以看作是模型精确率和召回率的一种加权平均，它的最大值是1，最小值是0。
显著性检测评价PR曲线PR曲线就是Precision-recall曲线，PR曲线越往右上角靠拢说明模型越好，也就是PR曲线积分的面积越大模型越好。
AP值就是PR曲线下的面积，值越大越好
ROC曲线就是TRP和FPR曲线，ROC曲线越接近左上角（与PR曲线相反，可谓是好基友），该分类器的性能越好。如下图
AUC就是ROC下面的矩形面积，介于0.1和1之间，值越大越好。
人工智能国际标准制定情况及我国应对策略
作者：CNCERT江苏分中心董宏伟
标准是一种协调机制，可以确保世界各地生产的产品实现共享。标准提供了开发新技术所需的制度基础，并提供了以可控方式进行开发的安全流程。在人工智能的研究和开发中，标准也可以做到这些。尤其是国际标准，可以帮助人们实现人工智能的既定目标。人工智能国际标准包括由企业赞助商、行业协会和个人贡献者开发的专有或开源软件标准，这些在数字技术中很常见，包括人工智能的开发，例如TensorFlow、PyTorch和OpenAIGym等软件库，它们随着时间的推移逐步演变为行业标准。
一、人工智能国际标准的制定情况
目前，全球知名的人工智能标准组织主要有四个，分别是：ISO/IECJTC1(国际标准化组织和国际电工委员会第一联合技术委员会)、ISO(国际标准化组)、IEC(国际电工委员会)和ITU(国际电信联盟)。鉴于人工智能的重要战略意义，这四大组织正在积极推进人工智能标准的制定，并且取得了一定的成果。
一是ISO/IECJTC1。ISO/IECJTC1在人工智能领域的标准化工作已有20多年的历史。其最近进展包括：2017年10月，ISO/IECJTC1成立SC42(人工智能分技术委员会)，将围绕基础标准、计算方法、可信赖和社会关注等方面开展国际标准化工作。同时，其将开展人工智能概念与术语、系统框架两个项目的工作。
二是ISO。ISO在人工智能标准化研究上的工作，主要集中在三大领域，分别是工业机器人、智能金融和智能驾驶。在工业机器人上，由ISO/TC299(机器人技术委员会)负责，智能金融则由TC68(金融服务技术委员会)负责，智能驾驶由TC22(道路车辆技术委员会)负责。
三是IEC。IEC主要在可穿戴设备领域开展了人工智能标准化工作。从具体的工作上看，IEC/TC100(音频、视频、多媒体系统和设备分技术委员会)，建立了由SS8研究小组负责的“可穿戴设备使用场景”议题，研制可穿戴设备包括虚拟现实的标准化工作;IEC/TC124(可穿戴技术分技术委员会)，负责开展与可穿戴相关的电工、材料、人身安全相关的技术标准研制工作。
四是ITU。ITU从2016年开始开展人工智能标准化研究。ITU在人工智能标准上的主要工作包括：2017年6月，ITU和XPRIZE基金会共同举办了第一届人工智能优势全球峰会(AIforGood)，旨在推动人工智能技术帮助解决人类重大挑战;提出了对于人工智能建议的草案，包括ITU-TY.AI4SC人工智能和物联网、ITU-TY.qos-ml基于机器学习的IMT-2020的服务质量要求;ITU-TSG13设立未来网络-机器学习焦点组，研究面向信息基础设施的标准化需求，20181.28-2.2第一次会议，确立工作组及工作组范围，20184.24-4.27第二次会议，确立在研课题，等等。
当然，除了上述四大组织，IEEE(电气和电子工程师协会)、NIST(美国国家标准与技术研究院)和ETSI(欧洲电信标准化协会)等也在开展人工智能标准相关工作。当前正在制定的人工智能国际标准如下表所示：
从全球来看，IEEE标准比ISO标准具有更少的实施手段。WTOTBT规则既适用于IEEE，也适用于ISO/IEC产品标准，但其在IEEE的应用仅在2017年被提出，从未经过验证。一般来说，政府法规基本都要求采用ISO标准，而较少使用IEEE标准。但在国际采购过程中，要求在IEEE和ISO标准中都很常见，市场机制同样鼓励采用这两种标准。ISO在许多强制执行的标准上被采纳，而IEEE到目前为止还没有去的类似的成就。与IEEE相比，ISO标准对于各国具有更大的影响力，这些都增加了IOS在全球领域的被认可度。
在以上标准中，“基本标准：概念和术语(SC42WD22989)”影响可能最为深远。到目前为止，SC42正在进行的工作相对不多，而且是初步的，目前主要集中在可信度层面。标准项目组目前正在起草三份技术报告，分别是关于神经网络的稳定性、人工智能系统的偏差以及人工智能可信度的概述。
从前瞻性角度来说，IEEE的人工智能标准比SC42标准更进一步。IEEE系列标准的起草工作始于2016年，是IEEE人工智能系统全球道德倡议的一部分。IEEE的人工智能标准系列范围很广，并且随着最近增加的项目（其中包括一个“针对假新闻的算法评级的项目”），范围还在不断扩大。尤其是“在系统设计中处理伦理问题的模型过程(IEEEP7000)”，受到人工智能研究人员的长期关注。该标准自2019年1月起起草，包括“测量、测试和证明系统安全故障能力的明确程序”。该标准取决于其最终被采用范围，可能会影响人工智能在许多重点领域的研发。同样值得注意的是“数据隐私处理(IEEEP7002)”，它试图定义数据隐私的标准。数据隐私的标准化测量方法，可以为未来高级人工智能发展协议中的监测措施提供依据。
IEEE最近启动了“自主和智能系统道德认证计划（ECPAIS）”的起草。与其他IEEE人工智能标准不同，该标准目前只开放给付费成员及组织，而不是感兴趣的个人。ECPAIS寻求开放与透明度，目前尚处于早期阶段，外部认可程度尚需进一步观察。如果没有强制执行机制，该标准落实程度可能会受到其他具备强制执行机制的行业标准的影响。
二、世界主要国家人工治理国际标准与国家标准的平衡
人工智能领域国际标准与国家标准的平衡问题，目前主要呈现出三个趋势：包括美国和中国在内的主要国家一致同意把人工智能国际标准放在首位；各主要国家人工智能领域的国家战略表明，各国都计划推行自己的国家标准；考虑到人工智能行业的市场结构，各国都在努力实现自己的国家标准与国际标准统一。
首先，国际标准是主要国家明确提出的优先事项。美国最近发布的《维持美国人工智能领导力的行政命令》将在国际技术标准方面的领导地位确定为优先事项，并指示美国国家标准与技术研究所(NationalInstituteforstandardsandTechnology)起草一份计划，以确保政府参与国际标准机构。我国工业和信息化部中国电子标准化研究院(CESI)2018年发布的《人工智能标准化白皮书》中也采取了类似的立场。白皮书提出，“中国应加强国际合作，推动制定一套通用的监管原则和标准，以确保人工智能技术的安全。”
其次，各主要国家也在推行自己的国家标准。观察者认为，中国在人工智能辅助领域（包括云计算、工业软件和大数据）的国家标准与国际标准有所不同，以扶持国内相关产业的发展，这些差异没有受到世贸组织规则的禁止。然而，观察者也注意到，中国在国际标准的制定活动中越来越活跃。2018年1月，中国成立了国家人工智能标准化小组，协调并参与约23个与人工智能相关的国际标准化的制定过程，主要集中在语言处理、人机交互、生物识别和计算机视觉等领域。美国也一直强调人工智能国家标准的重要性，例如，2016年美国国家人工智能研发战略计划确定了多关键的标准化领域：软件工程、度量标准、安全性、可用性、互操作性、隐私、可追溯性等特定领域的标准。其他国家也在考虑国家标准的制定，如澳大利亚、北欧-波罗的海地区（丹麦、爱沙尼亚、芬兰、法罗群岛、冰岛、拉脱维亚、立陶宛、挪威、瑞典和阿朗群岛）和新加坡等都纷纷出台自己的人工智能国家标准制定计划。
再次，各国都在努力实现国家标准与国际标准统一。实现国家标准与国际标准的统一，可以将人工智能的国家标准提升到国际层面，这有利于本国按照标准体系建立产品生产线的企业走向国际市场，成功地将公司专利纳入国际标准意味着公司及其母国将获得丰厚的收益。如果一个国家试图影响国际标准，那么所有其他国家都有动机这样做，否则他们新生的国家工业可能会失败。鉴于美国和中国都已宣布有意参与国际标准的制定，这种广泛的国际参与很可能会实现。美国机床工业提供了一个例证，可以佐证在国际标准化方面未能追随竞争对手的后果。这个行业曾被罗纳德·里根描述为“美国国防基地的重要组成部分”，它没有试图影响相关产品的全球标准，导致其在国际竞争中处于不利地位。这与德国和意大利积极参与国际标准制定形成了鲜明对比。此外，世贸组织规则也规定，如果进入到强制执行阶段，则要求相关国家法规引用国际标准。这意味着，如果不能执行反映现有国家标准的国际标准，就可能需要在国家监管上做出改变。
三、我国的问题及对策
由于我国人工智能偏重于技术应用，在基础研究、原创成果、顶尖人才、技术生态、基础平台、标准规范等方面距离世界领先水平还存在明显差距，导致目前我国在人工智能标准制定方面尚处于“跟跑”地位。另外，我国人工智能开源社区和技术生态布局相对滞后，技术平台建设力度有待加强，国际影响力有待提高。我国参与制定人工智能国际标准的积极性和力度不够，国内标准制定和实施也较为滞后。我国对人工智能可能产生的社会影响还缺少深度分析，制定完善人工智能相关法律法规的进程需要加快。
第一，加强人工智能标准化顶层设计。人工智能关键技术及产业应用范围涉及到众多部门和标准化技术组织，建议在国家人工智能国家标准化总体组、专家咨询组的统筹规划下，集聚好业界主流产学研单位资源，营造良好标准化氛围。同时，梳理人工智能产业生态体系脉络，把握产业未来重点发展方向，以“基础统领、应用牵引”为原则，建立完善标准体系。
第二，加强人工智能核心关键技术研究。我国人工智能开源社区和技术创新生态布局相对滞后，技术平台建设力度有待加强。我们要以问题为导向，主攻关键核心技术，加快建立新一代人工智能关键共性技术体系，全面增强人工智能科技创新能力，确保人工智能关键核心技术牢牢掌握在自己手里。要着力防范人工智能时代“空心化”风险，系统布局并重点发展人工智能领域的“新核高基”：“新”指新型开放创新生态，如产学研融合等；“核”指核心关键技术与器件，如先进机器学习技术、鲁棒模式识别技术、低功耗智能计算芯片等；“高”指高端综合应用系统与平台，如机器学习软硬件平台、大型数据平台等；“基”指具有重大原创意义和技术带动性的基础理论与方法，如脑机接口、类脑智能等。同时，我们要重视人工智能技术标准的建设、产品性能与系统安全的测试。特别是我国在人工智能技术应用方面走在世界前列，在人工智能国际标准制定方面应当掌握话语权，并通过实施标准加速人工智能驱动经济社会转型升级的进程。
第三，推进人工智能重点标准研制。落实《新一代人工智能发展规划》《促进新一代人工智能产业发展三年行动计划》等政策文件标准化部署和要求，围绕人工智能标准化需求，按照"急用先行、成熟先上"的原则，开展术语、参考框架、算法模型、技术平台等重点急需标准的研制；推动人工智能国际标准化工作，集聚国内产学研优势资源参与国际标准研制工作，提升国际话语权。
第四，搭建标准符合性测试公共服务平台。加快建设人工智能关键标准的符合性测试平台，开展标准化应用验证，统一测试评估标准，加强测试公共服务平台建设。提高公共服务平台的测试与评价能力。依托标准引导企业尝试开发人工智能在典型行业的解决方案，联合投融资机构进行孵化。
第五，完善安全、伦理和隐私等相关标准法律政策。人工智能的发展带来各种社会问题，应充分考虑人工智能开发和部署过程中的责任和过错问题，制定完善相关安全法规；依托社会公众对人工智能伦理的广泛共识，设定人工智能技术的伦理要求；从数据的收集和使用开始进行规制，对个人数据管理应该采取延伸式保护，保护公众隐私。在此过程过中，完善安全、伦理和隐私等相关标准、法律、政策。
声明：本文来自关键基础设施安全应急响应中心，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系anquanneican@163.com。