大模型将重塑人工智能产业 发展与治理同步推进
新华网北京7月3日电（记者孙云龙）人工智能已经成为新一轮科技革命和产业变革的重要驱动力。以预训练大模型引领的人工智能创新浪潮呼啸而来。“大模型将重塑人工智能产业链竞争格局。”国家工业信息安全发展研究中心人工智能所副所长刘永东表示，“大模型正处于快速发展的窗口期，同时也暴露出诸多安全隐患，引发热议和担忧，还需不断完善针对性的监管政策，做到发展与治理‘同谋划、同布局’。”
7月2日，以“智能涌现，重塑未来”为主题的2023全球数字经济大会人工智能高峰论坛在京举办。刘永东在论坛间隙接受记者采访时如此表述。
类ChatGPT产品正不断涌现，标志着大模型时代正在来临。北京市经济和信息化局党组书记、局长姜广智在当日论坛致辞中表示，人工智能产业风头正劲，迄今已有八十余个大模型公开发布，其中北京约占一半。大模型产品数量众多，百度、腾讯、华为、阿里、商汤、科大讯飞、360等企业和清华大学、智源研究院、浦江实验室等高校和科研机构相继推出了大模型产品或解决方案。360集团创始人周鸿祎在论坛上表示，大模型在城市、行业、企业数字化转型到智能化的过程中大有可为，进化迭代刚刚开始，相信未来会成为数字化系统的标配。未来可能不是“百模大战”，而是“万模群舞”。
刘永东认为，以ChatGPT为代表的生成式人工智能将推动跨时代的范式变革。它提供了人工智能商业化落地新范式，可以为各个领域带来巨大的生产力提升，引发行业重要升级，提振了产业信心。多模态预训练大模型将成为人工智能基础设施。“多模态大模型将成为具有泛化能力的模型底座、不同领域的共性平台技术，成为迈向通用人工智能的重要探索，也是解决人工智能应用落地所面临的需求碎片化、多样化等问题的有效解决方式。”
刘永东强调，大模型将重塑人工智能产业链竞争格局。一是开发范式变革，逐渐形成围绕大模型结合特定领域模型微调的方式，打造垂直应用模型，科技巨头围绕大模型的生态竞争加剧。二是挤占技术层企业生存空间。生成式大模型的出现严重冲击了以人工智能单一算法开发为主的初创企业，如图像识别、语音识别等。
“与此同时，我们也应关注到大模型带来的挑战。”刘永东表示，一是训练大模型所需的算力资源被科技巨头掌控，在新一轮竞争中筑起较高的行业壁垒。二是训练大模型所需的高质量数据集匮乏，大模型所需的数据资源掌握在传统行业巨头和行业协会手中，需统筹行业力量加大开源数据集的建设力度。三是人工智能安全治理面临的挑战加剧，需不断完善有针对性的监管政策，做到发展与治理“同谋划、同布局”。
刘永东介绍，大模型具有算法不透明、数据强依赖、易被滥用等人工智能固有的风险，与其平台性、易使用、超能力等特点相互交织，风险快速传递并极速放大。敏感数据泄露、虚假信息生成、漏洞攻击加剧等安全风险频现，给人工智能治理带来新挑战，引发热议和担忧，多个国家和地区已经着手研究和探索应对举措。
“如何对具有生成式特征的大模型进行监管，以确保其发展符合公共利益，已成为全球人工智能治理的新课题。”刘永东称。当日论坛上，清华大学计算机系长聘教授、人工智能研究院副院长朱军介绍，大模型在安全方面的问题表现为数据泄露、算法偏见、虚假信息等多个方面，需要有相应的防范措施。周鸿祎也认为，大模型产业化方案需要遵循安全、可信、可控的原则。
刘永东表示，国家工业信息安全发展研究中心正联合有关单位共同发起人工智能可信安全护航计划，探索人工智能安全可信管理解决方案，护航大模型健康良性发展。该中心建议要明确各方责任，加强安全技术，推动行业自律，强化宣传引导，坚持“以人为本”的初心，积极参与全球监管规则建立。
科技部：积极构建人工智能治理体系
光明网讯（记者雷渺鑫）5月11日，第七届世界智能大会新闻发布会在京举行。会上，科技部战略规划司副司长邢怀滨表示，世界智能大会的召开为人工智能领域的专家学者、创新主体和公共管理部门提供了一个开放的交流思想、开展合作的平台，对人工智能发展起到了重要的引导和促进作用，其国际影响也越来越大。
当前，以大模型为代表的人工智能技术取得了重大突破，拉开了通用人工智能的序幕，世界人工智能正在迎来新一轮发展热潮，智能社会正在加速到来。邢怀滨认为，可以预见，在未来一段时期内，人工智能领域新的技术突破还将陆续出现，新的应用和产业变革将不断发生。
邢怀滨介绍，为了促进我国人工智能发展，国务院2017年发布了《新一代人工智能发展规划》，成立了科技部发展改革委等15个部门组成的国家新一代人工智能规划推进办公室。科技部坚持研发与应用结合，激励与规制协调，自主与开放统一，不断优化人工智能科研布局，积极培育人工智能新型业态，组织实施重大科研项目，支持人工智能基础理论和关键工艺技术研究。
此外，科技部依托行业领军企业，聚焦自动驾驶城市大脑等重点细分领域，支持建设了30余个国家新一代人工智能开放创新平台；支持建设北京、天津等18个国家新的人工智能创新发展试验区，开展人工智能技术应用示范政策实验和社会实验，探索人工智能赋能经济社会发展的模式和路径；支持人工智能应用场景创新，联合相关部门共同打造一批可复制、可推广的标杆型人工智能应用场景，发挥示范引领作用，加快促进人工智能在经济社会领域深度应用。
针对人工智能的治理问题，邢怀滨表示，科技部积极推动人工智能治理，构建包括政策法规、伦理规范、技术标准等在内的治理体系，发布新一代人工智能治理原则和伦理规范，将伦理道德融入人工智能全生命周期。积极推进人工智能领域国际科技合作，发出中国声音，向世界表明中国人工智能发展的价值原则和价值取向，为世界人工智能持续健康发展贡献中国智慧。