人工智能AI：2023可信AI技术和应用进展白皮书(附下载)
原标题：人工智能AI：2023可信AI技术和应用进展白皮书(附下载)今天分享的是人工智能AI技术研究报告：《2023可信AI技术和应用进展白皮书》。（报告出品方：清华大学）
研究报告内容摘要如下
人工智能的飞速进步和应用带来了前所未有的机遇和挑战，也将可信人工智能推向产业发展的前台。伴随人工智能技术底座不断夯实和大模型、AIGC等的爆发式增长，人工智能迈出了走向通用人工智能的关键一步，2023年4月中共中央政治局会议强调“重视通用人工智能发展，营造创新生态，重视防范风险”，可信AI成为新阶段平衡创新与风险的重要技术手段。
本报告基于统一的可信AI认知维度，梳理总结可信AI技术和应用发展现状，提炼面向新阶段大模型和AIGC引发的新需求，形成以技术为保障的可信AI评估体系和工具。全文主要观点如下：
一是归纳了可信AI发展变迁的产业技术背景，即近期算法、算力、数据基础不断夯实，人工智能固有技术风险持续放大，可信AI技术成为AI领域关键底层能力，各国也正在围绕生成式人工智能监管、人工智能伦理等推动治理。
二是梳理了现阶段可信AI四大技术方向发展情况。可信AI已在行业领域落实成具体产品和实践案例，总体上正从创新整合解决方案阶段迈向形成可信系统机制的阶段，完整的实践链路、健全的标准和系统机制将逐步落地。
三是概括了面向大模型和AIGC的可信AI探索，即大模型时代下可能面临的安全可信挑战，主要包括大模型的生成式攻击和防御、大模型自身的安全风险和隐患、大模型的可解释性和公平性问题等三大类。
四是构建了以技术为保障的可信AI评估体系，面向产业发展需求，构建了包括隐私保护检测、可解释性检测、公平性检测和鲁棒性检测的可信AI检测指标体系，并提出了具体的评估内容、指标和方式，并可进一步赋能大模型与AIGC发展。
最后，本白皮书从技术、产业、生态和监管维度对可信人工智能发展提出了建议，对趋势进行了展望，将迎来研究应用更加均衡、内在动力更加多维、外在监管更加全面的发展局面。
报告原文内容节选如下：展开全文（本文仅供参考，不代表我们的任何投资建议。如需使用相关信息，请参阅报告原文。）
本报告共计：74页。受篇幅限制,仅列举部分内容。
精选报告来源公众号：【幻影视界】,回复关键字“202307”，获取完整PDF电子版返回搜狐，查看更多
责任编辑：探索人工智能发展与治理之道
7月6日，2023世界人工智能大会在上海世博中心拉开帷幕。这是专家在一幅关于上海景象的智能生成画作前讨论。新华社记者黄晓勇摄
近日，由中国法学会网络与信息法学研究会主办，西南政法大学合办，西南政法大学人工智能法学院、西南政法大学智能司法研究院、西南大数据法律研究中心共同承办的“人工智能法治论坛”举行。会议深入探讨了人工智能发展与安全过程中的重大理论与实践问题。
来自全国人大法工委、最高人民法院等部门，中央党校（国家行政学院）、中国社科院法学所、清华大学、中国人民大学、浙江大学等科研院校，以及实务部门的一百余名专家、学者参加了此次会议。
首都师范大学政法学院副教授崔俊杰：科技伦理审查要考虑具体科学场景
程序规制不是封闭的构成性规制，而是开放的功能性规制，可以实现将表层的行为-责任分配与深层的集体道德决策过程深度互嵌。真实的科技伦理审查具有两阶审查的特点，与经典正当法律程序存在明显区别，为此不能简单套用法律程序中的一般制度，而需要考虑具体科学场景中伦理反思所需必要程序要求。科技伦理审查的正当法律程序设计中要有维系伦理审查组织的结构均衡程序、反思均衡程序、保障对话环境与塑造情景正义的程序。
南京大学中德法学研究所副研究员金健：人工智能对行政模式的冲击需要思考
人工智能技术的开发与应用引发了一系列问题，对传统行政模式产生了冲击。面对这些新问题，通过分析算法行政中的全自动化情形的自主性特征，可发现，组织责任、引入经济上的无过错责任与严格责任、把算法作为行政助手和像欧盟一样把算法升为主体上的电子人等方案，无法解决现有问题，须转向立法论的视角。
西南政法大学人工智能法学院博士生张翔：人工智能法律治理应贯穿目的与行为
应急式、分散式、场景式立法未能找准人工智能领域法律问题的症结，难以从整体上提供系统化、前瞻性的人工智能法律治理方案。应当以贯穿目的与行为的系统论为支撑，重构人工智能法律定义。人工智能领域立法应当以平衡安全与创新、平衡公平与效率为基本原则，以贯穿人工智能全生命周期的主体要素和行为要素为基本线索。而法律制度之间的内在脉络不仅受制于立法价值和法律原则，也受制于人工智能各要素之间相互联结、互为制约的系统论本质特征。
江西理工大学法学院副教授张志坚：人工智能自主交易的合法有效需研究
人工智能自主交易行为区别于电子合同，也区别于智能合约。人工智能在特定领域内实施自主交易行为，仍是人类意志的延伸，具有相应的民事行为能力，具备行为合法有效的可能性，而超越特定领域的行为效力待定。在人工智能自主交易行为的法律责任上，存在预期违约责任与违约责任两种类型，原则上以拥有独立财产的人工智能自身为责任主体。同时，基于人工智能的特殊性，除了财产赔偿方式外，还可以对其设置修正程序、删除数据、强制销毁等专属的责任承担方式。
《网络信息法学研究》特约编辑狄行思：确认合资格金融人工智能受信人地位
关于AI能否作为独立的信义义务人，与其智能化程度密切相关，也事关开发者、使用者在背后承担的角色。人工智能技术除了技术属性，还必须具有一定的社会属性。应确认合资格金融人工智能受信人地位，并以信义治理路径对其进行规制。
上海财经大学法学院副教授沈小军：自动驾驶产品责任险不能替代交强险
现有自动驾驶汽车产品责任保险研究主要集中在侵权责任和交强险上，对产品责任保险的研究存在明显不足。要引入一个强制性的产品责任保险，在未来完全自动驾驶时代强制性的产品责任保险是非常有必要的。在产品责任强制保险跟交强险的关系方面，因为构成要件和免除事由方面的限制，产品责任强制保险仍然不能替代交强险。
蚂蚁集团高级政策研究高级专家毛智琪：参考各国经验提升合规管理有效性
随着人工智能在国家竞争力、国家安全等方面的作用凸显，各国都在加紧相关规划部署和政策制定，人工智能已经成为国际竞争新的焦点所在。但由于人工智能目前仍在发展中，存在着隐私和数据安全、内容安全、竞争公平、知识产权保护等风险，技术和应用的安全性与真实性等问题尚待解决。大模型对算力的巨大消耗也对低碳转型目标的实现带来新的挑战，这些新的问题成为各国政府关注的新课题。参考目前各国监管趋势和行业实践，可以考虑从建立全生命周期的合规管理与监测机制、引入合规科技等技术手段强化风险识别能力和管控能力，进一步提升合规管理的有效性，更好地应对技术发展带来的挑战，推动人工智能技术的安全创新和产业变革，赋能中国经济高质量发展。
西南大数据法律研究中心执行副主任谭玲：多方面探寻人工智能著作权侵权防范
当前生成式人工智能的著作权侵权风险主要存在于数据获取、人机互动过程、大模型训练以及内容生成四个领域，需要从许可使用、合理使用、法定许可等著作权制度探寻不同阶段、不同类型生成式人工智能著作权侵权风险防范路径。商用情况下数据获取端对在先作品的利用可以集体许可为基础，其他授权模式为补充。非商用情况下适用合理使用制度，同时进行概括性作品使用申明。人机互动过程中，通过用户协议阐明未经授权上传在先作品的后果。对于内容生成端，风格和思想的相似一般而言不涉及具体侵权问题，但仍需完善AI“洗稿”的侵权行为认定标准。
东南大学法学院副研究员徐珉川：数据有效流动归根结底是信用生产
关于生成式人工智能的公共数据可信供给问题。“数字政府”背景下的公共数据开放，其核心是一种可信价值。建立可信的治理方式，建立一套公共数据开发的可信秩序激励。面向生成式智能创新，需要可信的公共数据供给。数据供给核心为信用问题，如何让数据有效流动、开放，归根结底为一种信用生产、适用等方面的再生产。
全国人大常委会法工委行政法室处长母光栋：人工智能治理可综合运用部门法原则
研究生成式人工智能的发展和治理问题，可以综合运用各个部门法确定的原则和具体制度。比如，生成式人工智能技术中的重要环节之一是公共数据治理，采集、生成数据需要遵循合法和必要原则，开发、运用数据需要遵循开放和共享原则，在整个公共数据治理过程中，还要遵循有关法律法规确定的安全和风险防范等原则。从不同部门法视角研究生成式人工智能问题，有利于推动这一新兴产业的健康发展。（金灿）
人工智能“走深向实”重塑千行百业
预测台风、研发新药、识别故障、制定生产计划……当人们对人工智能（AI）大模型的认知还停留在对话、写诗、作画之时，中国的人工智能大模型已然成为实体经济发展新引擎。
7月7日，在华为开发者大会2023上，华为云盘古大模型3.0正式发布，其在煤矿、铁路、气象、金融等领域展现出来的能力令人咋舌。与此同时，华为在2023世界人工智能大会（WAIC）期间，启动大模型联合创新、发布大模型训推一体化解决方案、推出首个万卡AI集群等一系列在人工智能领域的“大动作”引发业界高度关注。业内人士认为，科技领军企业的发力方向表明，中国人工智能产业正在“走深向实”，将重塑千行百业。
做实事AI大模型落地实体产业
在煤矿行业，盘古矿山大模型已经在全国8个矿井规模使用，一个大模型可以覆盖煤矿的采、掘、机、运、通、洗选等业务流程下的1000多个细分场景，让更多的煤矿工人能够在地面上作业，不仅能让煤矿工人的工作环境更加舒适，而且可以极大地减少安全事故。
在铁路行业，盘古铁路大模型能精准识别现网运行的67种货车、430多种故障，无故障图片筛除率高达95%，成为货运列检员身边有力的数字助手，将列检员从每日数百万张的“图海”检测中解放出来。
在金融行业，盘古金融大模型能根据客户的问题，为柜台工作人员自动生成流程和操作指导，将原来平均需要5次的操作降低为1次，办结时间缩短5分钟以上。
在制造行业，过去单产线制定器件分配计划，往往要花费3个小时以上才能做齐1天的生产计划，而盘古制造大模型1分钟即可做出未来3天的生产计划。
在药物研发领域，原来一款新药研发平均需要10年时间、花费10亿美元。盘古药物分子大模型助力西安交通大学第一附属医院刘冰教授团队发现全球40年来首个新靶点、新类别的抗生素，并将先导药物研发周期缩短至1个月、研发成本降低70%。
在气象领域，盘古气象大模型是首个精度超过传统数值预报方法的AI预测模型，原来预测一个台风未来10天的路径，需要在3000台服务器的高性能计算机集群上花费5小时进行仿真，现在盘古气象大模型通过AI推理的方式，研究者只需单台服务器上单卡配置，10秒内就可以获得更精确的预测结果。
就在7月6日，国际学术期刊《自然》（Nature）杂志正刊发表了华为云盘古大模型研发团队研究成果——《三维神经网络用于精准中期全球天气预报》。《自然》审稿人对该成果给予高度评价：“华为云盘古气象大模型让人们重新审视气象预报模型的未来，模型的开放将推动该领域的发展。”
“盘古大模型要让每个行业、每个企业、每个人都拥有自己的专家助手，让工作更高效更轻松。”华为常务董事、华为云CEO张平安在发布盘古大模型3.0时表示，“我们始终坚持AIforIndustries（人工智能服务千行百业）的战略，在深耕行业的道路上不断前行。我坚信大模型将重塑千行百业。”
“除了对话、写诗、作画等应用之外，要将大模型切实投入到城市发展、金融科技、生物医药、工业制造、科学研究等领域，在实体产业落地，为社会经济带来实实在在的价值。”中国工程院院士邬贺铨说。
中国科技部新一代人工智能发展研究中心5月底发布的《中国人工智能大模型地图研究报告》显示，中国10亿参数规模以上的大模型已发布79个。除华为外，百度、阿里、科大讯飞、美团、百川智能、云知声、腾讯等头部企业相继在该领域布局。
截至目前，中国开发的人工智能大模型已经在智慧矿山、药物研发、气象、政务、金融、智能制造、铁路管理等领域展现出巨大的应用潜力。业界专家认为，当前，利用大模型加速千行百业的数字化、智能化转型，深耕实体经济行业，已经成为中国产业界的共识。
“下一步，人工智能大模型要加强制造业技术、产业、应用进一步融合，更深入地研发面向制造业的大模型，为中国制造业的数字化转型和智能化升级提供坚实支撑。”中国工程院院士、系统仿真及制造业信息化专家李伯虎说。
扎深根夯实根技术大算力底座
7月6日，工业和信息化部在2023世界人工智能大会公布，我国人工智能核心产业规模达到5000亿元，企业数量超过4300家，算力规模位居全球第二，同时已建成2500多个数字化车间和智能工厂，经过智能化改造，研发周期缩短约20.7%、生产效率提升约34.8%、不良品率降低约27.4%、碳排放减少约21.2%。
人工智能赋能千行百业的“头雁效应”正在加速显现，而各项根技术创新是基础。据张平安介绍，华为在最底层构建了以鲲鹏和昇腾为基础的AI算力云平台，以及异构计算架构CANN、全场景AI框架昇思MindSpore，AI开发生产线ModelArts等，为人工智能大模型开发和运行提供分布式并行加速、算子和编译优化、集群级通信优化等关键能力。基于华为的AI根技术，人工智能大模型训练效能可以调优到业界主流GPU的1.1倍。
深度应用催生对算力的巨大需求，而算力也是训练人工智能大模型的基础。在华为开发者大会2023上，张平安宣布单集群2000PFlops算力的昇腾AI云服务在华为云的乌兰察布和贵安AI算力中心同时上线。昇腾AI云服务除了支持华为全场景AI框架昇思MindSpore外，还支持Pytorch、Tensorflow等主流AI框架。同时，这些框架中90%的算子，都可以通过华为端到端的迁移工具平滑迁移到昇腾平台。此外，在大模型训练过程中经常会遇到GPU故障，研发人员不得不经常重启训练，时间长，代价大。昇腾AI云服务可以提供更长稳的AI算力服务，千卡训练30天长稳率达到90%，断点恢复时长不超过10分钟。
据介绍，华为在各个单点创新的基础上，发挥云、计算、存储、网络以及能源的综合优势，进行架构创新，推出了昇腾AI集群。目前，昇腾AI集群已支撑全国25个城市的人工智能计算中心建设，其中7个城市公共算力平台入选首批国家“新一代人工智能公共算力开放创新平台”。在2023世界人工智能大会期间，华为宣布昇腾AI集群全面升级，集群规模从最初的4000卡集群扩展至16000卡，成为业界首个万卡AI集群。16000卡的AI集群意味着什么？“据我们评估，一个1750亿参数、100B数据的大模型，只需半天时间就可以完成。”华为昇腾计算业务总裁张迪煊透露。
大开放构建合作共赢产业生态
“过去一年，在各方伙伴的共同努力下，昇腾AI产业取得了不小的进展：开发者数量翻倍，达到了180多万；基于昇腾AI，原生孵化和适配了30多个大模型，到目前为止，中国有一半左右的大模型创新，都是由昇腾AI来支持；已经发展了30多家硬件伙伴、1200多家ISV（独立软件开发商），联合推出了2500多个行业AI解决方案，使得我们能够规模化服务于运营商、互联网、金融等等不同行业场景。”华为轮值董事长胡厚崑在2023世界人工智能大会上表示。
昇腾AI繁荣的产业生态源自华为的开放式创新。华为持续开放AI模组、加速卡等，提供丰富的接口开发文档和参考设计，以及软硬件技术支持，助力合作伙伴推出多种硬件产品，激发创新活力。2023世界人工智能大会上，23家企业推出昇腾AI系列新品，覆盖推理服务器、训练服务器、边缘计算智能网关、工控机、开发者套件、机器人、无人机等。此外，华为全新推出“昇腾伙伴网络”（简称APN）合作伙伴计划，将通过总经销商供货的销售支持、华为与总销售商双方的技术支持模式，以及多种商务权益激励，鼓励合作伙伴基于昇腾AI打造自有品牌的产品或解决方案。
在AI大模型领域，针对大模型研发周期长、部署门槛高等挑战，华为联合科大讯飞等四家合作伙伴共同发布大模型训推一体化解决方案，结合昇腾AI基础软硬件能力、合作伙伴大模型和训推一体平台优势，通过共同设计、联合开发、协同上市、持续迭代，为行业用户提供“开箱即用”的大模型一体化解决方案，重塑大模型开发流程，解决各行业大模型落地需求，让大模型在行业充分发挥价值。
此外，在工业和信息化部、中国电子工业标准化技术协会的指导下，中国信息通信研究院、工业和信息化部电子第五研究所、华为等单位联合成立“大模型产业工作组”，共同推进中国大模型应用落地及产业孵化。
据张平安介绍，目前华为云全球开发者数量已超过460万，云商店上架的商品已达1万多个。华为云提供了易用可靠的大模型工具套件、汇聚海量多行业场景API的开天aPaaS，以及包含丰富优质课程和技术认证的大模型专属社区，希望与开发者及伙伴一起，共同探索盘古大模型与行业结合的创新路径。此外，华为云还联合中国公共关系协会、文化大数据产业委员会以及多家伙伴单位，共同倡议成立大模型高质量数据联盟。联盟将汇聚来自各成员单位的开放数据，打造覆盖千行百业的高质量数据集，促进行业大模型的蓬勃发展。
“人工智能的发展，关键是要脚踏实地，推动人工智能走深向实，赋能产业升级。”胡厚崑表示，“面向未来，华为在人工智能发展上有两个着力点：第一，打造强有力的算力底座，来支撑中国人工智能产业的发展。第二，真正让人工智能服务好千行百业，服务好科研创新。”（记者吴蔚）
【纠错】【责任编辑:施歌】