在发展中治理完善人工智能大模型
新一轮科技革命和产业变革迅猛发展，数字技术、智能经济与数字化产业成为催生新产业、新业态、新模式的重点领域。发布仅6个月的ChatGPT，已掀起全球人工智能（AI）产业的大模型热潮。在日前举办的中国人工智能产业年会中，AI大模型带来的安全挑战和发展机遇成为与会专家热议话题。
赋能千行百业
ChatGPT在与人类对话、写作文、写代码等方面令人惊艳的表现，是AI大模型GPT通过大算力、大规模训练数据突破自然语言处理瓶颈的结果。但大模型本身并不是新鲜事物，AI大模型也不止GPT这一条路线，很多科技巨头近几年都在“炼”大模型，且各有积累。这也是ChatGPT走红之后，各巨头短短数月内就纷纷推出竞品的原因。
“以ChatGPT为代表的多模态通用大模型，将深刻变革各行各业。”电子科技大学教授、考拉悠然科技有限公司联合创始人沈复民说，行业人工智能可有效推动技术与市场供需平衡，将是人工智能产业化的最大机遇。人工智能技术落地行业时，需要克服开发效率低、落地成本高、场景复杂多元等难题。
沈复民所在的研发团队获得了2022年度吴文俊人工智能科学技术奖自然科学一等奖。据他介绍，团队开发了为垂直行业赋能的多模态AI操作系统，基于行业多模态大模型、多模态融合分析、机器视觉等核心AI算法支持，可以让企业摆脱繁杂的算法、算力、数据整合工作，快速孵化行业大模型，高效率应用到工业制造、城市治理、消费、能源、交通、建材等业务场景。
“通用对话技术是人工智能领域最具挑战性的方向之一，也被认为是通用人工智能的必备能力。如今备受关注的对话式人工智能，其背后就有通用对话技术。”百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰说。中国人工智能产业年会期间，由他带领团队完成的“知识与深度学习融合的通用对话技术及应用”成果，获2022年度吴文俊人工智能科技进步奖特等奖。
公开资料显示，这一研究项目已获授权发明专利82项，发表高水平论文36篇，在国际权威评测中获世界冠军11项。目前项目成果实现了大规模产业应用，已支持5亿智能设备，服务超过10亿用户，覆盖包括通信、金融、汽车、能源等20多个行业。
争取“主动安全”
技术是把双刃剑。人工智能大模型能力越大，一旦滥用带来的危害也就越大。当前，ChatGPT等工具被用于生成假新闻、假照片、假视频，甚至实施诈骗等犯罪行为，引发人们对大模型安全性的担忧。
西北工业大学教授王震是网络空间智能对抗应用研究领域的专家，他认为，要用人工智能驱动网络空间智能对抗。比如，用人工智能检测、识别有害信息，搭建“主动安全”的智能防御网。
“只有在AI发展过程中，我们才能面对问题、解决问题，并找到机遇。”蚂蚁集团AI风险管理负责人杨舟表示，在AI管理中，安全事件对日常风险管理至关重要。“我们需要重视和预测相关事件，分析安全问题，避免发展带来的风险。”
了解机理是安全管理的基础。不过，大模型的“智能涌现”目前还是个难以解释的黑箱，没有人能理解、预测或可靠地控制这些大模型，甚至模型的创造者也不能。开发出ChatGPT的公司OpenAI，也为大模型做了大量价值敏感设计和道德嵌入工作，但仍然存在明显的漏洞和局限。
“虽然大模型的能力在不断变强，但如果不对其进行专门的安全性训练或安全性加固，其脆弱性不会得到任何改善。”瑞莱智慧公司首席执行官田天认为，人工智能大模型的安全性面临很多挑战。
“大模型是人工智能发展的转折点，研究人员需要进一步了解这些大模型为何具备类人思考的能力。”香港科技大学教授冯雁表示，ChatGPT最初只作为科研项目发布，但通过加入人机交互界面，迅速变成网红产品。其爆红带来的伦理问题始料未及，也给生成式人工智能的管理提出了挑战。“只有真正的开源，才能共同研究，理解大模型存在的问题和产生的根源，更好地进行管理。”
“商汤一直是开源开放的贡献者和支持者，但在开源上我们要谨慎一些，特别是目前对于大模型而言，安全防护体系还未健全。”商汤科技人工智能伦理与治理研究主任胡正坤说，在智能时代把底层模型开源，不见得安全，因为在开放能力的同时，也在开放薄弱点，而薄弱点有可能被不法分子利用。
亟需深度治理
专家们对未来的人工智能长远治理做出种种设想。
“不能把价值设计看成治理的唯一路径。”复旦大学应用伦理学研究中心教授王国豫认为，针对现阶段人工智能治理的局限性，可从三方面采取措施。一是充分评估数据和模型的伦理影响和风险点；二是从流程方面，不仅要考虑通用模型，还要把通用模型纳入到社会生态系统、社会政治经济系统来考虑；三是探索伦理方法，充分探索“价值敏感设计”“负责任创新”等伦理方法在通用模型语境下的可行性。
中国社会科学院哲学所科技哲学研究室主任、研究员段伟文表示，需要警惕机器对人类思维的驯化。比如，有的人不擅社交，可能用人工智能生成对话的方式帮他社交聊天，这样的对话机制会反过来驯化人类。他建议加强人类和人工智能的交互和沟通，不仅要了解人类怎么去修机器，也要研究机器如何影响人类。
中科院自动化研究所研究员曾毅期待构建人工智能的道德直觉，“为机器人立心、为人工智能立心”是重要的长远工作目标。“强化学习的奖惩只是加加减减，它不是真正对道德的理解，除非人工智能实现基于自我的道德直觉。缺乏自我的人工智能无法拥有真正的道德直觉，做真正的道德决策。我们在做一个基于类脑的脉冲神经网络构建创生的人工智能引擎，希望让它像儿童一样去学习，获得自我感知。”曾毅说。
“从要求人工智能大模型合乎伦理，到真正构建有道德的人工智能。”曾毅表示，未来通用人工智能和超级智能的伦理安全问题，要从现在就开始关注和准备。（记者佘惠敏）
中国人工智能发展呈现三大特征
人工智能已成为时代前沿的新兴产业，也因而成为即将高考的学子最为关心的方向。
百度联合中国教育在线共同发布的《百度2021高考搜索大数据》显示，人工智能专业独占鳌头，成为2021年搜索热度增长最快的专业之一。
如此高的关注度不仅因为人工智能是未来科技发展的方向，其市场空间也令人叹为观止。中国电子学会预测，2022全球人工智能市场将达到1630亿元。
不仅如此，人工智能带来的生产率的提升也十分显著。据埃森哲预测，2035年，人工智能将推动中国劳动生产率提高27%，经济总增加值提升7.1万亿美元。
从全球产业格局来看，中、美两国人工智能企业数量远高于其他国家，两国人工智能企业数量占全球比重高达61%。
尽管中国人工智能产业在应用层已经在很多领域处于世界领先地位，但从基础软件和基础硬件上看，美国的技术体制和相关的大型企业占据主导地位。中国人工智能产业主要的问题是要补齐基础软件的能力。
目前，中国人工智能行业呈现三大发展特征：
区域分布：京津冀、长三角、珠三角城市群密集
从区域分布来看，中国人工智能产业主要聚集在京津冀、长三角和珠三角城市群。
中国新一代人工智能发展战略研究院发布的《中国新一代人工智能科技产业发展报告2021》数据显示，截至2020年，我国人工智能企业主要分布在京津冀、长江三角洲和珠江三角洲三大都市圈，占比分别为31.02%，30.23%和26.39%。
从城市分布来看，人工智能企业分布密集的城市是北京市、上海市、深圳市和广州市，占比分别为29.73%，14.07%，13.99%和8.14%。
产业链：三个基本层都有突破
从产业链看，人工智能产业链分为基础层、技术层和应用层。
基础层近年来各环节技术、产品和商业模式上均有不同程度突破，其中，数据、芯片、云计算等通用基础产品和服务较受行业关注；
从技术层来看，早期大量投入研发的优势企业将更早地进入商业应用阶段；
应用层是商业化最核心环节，目前企业主要集中在应用层，垂直领域聚焦医疗、金融、商业等领域。
企业：龙头企业林立
从企业层面来看，人工智能行业主要上市公司有阿里巴巴、腾讯、科大讯飞、赛为智能、科大智能、海康威视、四维图新等。具体来看：
基础层：传感器的行业龙头是京东方科技，AI芯片的行业龙头有中科曙光公司、中星微电子、寒武纪、地平线、四维图新等，云计算的龙头包括百度云、金山云、世纪互联等，数据服务的龙头包括百度数据众包、京东众智、数据堂等;
技术层：机器学习龙头是百度IDL、京东DNN等，自然语言处理的龙头是百度、搜狗、紫平方等，语音识别的龙头是科大讯飞;
应用层：拓维信息是智慧教育龙头。
作为中美竞争博弈的一个重要领域，也是中国不依赖美国且有可能让中国成为AI领导者的一个重要赛道，人工智能领域今后的发展充满想象，也将为众多企业打开新的机遇空间。
基于近30年提供智慧服务的实践和深厚理论经验积累，福卡智库长期为企业和有关部门提供战略、情报、大数据转型、自媒体运营服务。服务详情可在文末留言咨询。
人工智能赋能千行百业 领航数字生产力跃升蝶变
人工智能与一、二、三产业融合成效显著，引擎作用日益凸显。大模型作为人工智能的新业态，已成为产业数字化与智能化的重要支撑。
业内专家表示，人工智能是引领新一轮科技革命和产业变革的重要驱动力量，正在深刻改变着人们的生产、生活、学习方式。人工智能大模型的发展对于推动产业优化升级、生产力整体跃升具有关键性作用。
据中国信通院测算，2022年我国人工智能核心产业规模达5080亿元，同比增长18%。与垂直人工智能相比，通用人工智能已经不局限于处理单一任务，实现了跨领域、跨学科、跨任务和跨模态的应用。
科技部新一代人工智能发展研究中心发布的《中国人工智能大模型地图研究报告》显示，中国研发的大模型数量排名全球第二，仅次于美国，目前中国10亿参数规模以上的大模型已发布79个。
清华大学讲席教授、智能产业研究院院长张亚勤表示，预训练大模型和生成式AI为代表的技术在计算机视觉和自然语言处理等领域取得突破性进展，大规模数据驱动的计算范式也在深刻影响着生物、化学、生命科学等学科的科学发现模式，这对于我们理解什么是智能的本质，如何达到新的智能，为什么会达到新的智能都有深刻意义。
人工智能技术也为企业的数字化转型提供了关键的增长动力。业内专家表示，AI和人类之间并不是简单替代，通过人和AI的合作，可以获得更高的效率和产生更好的效果。
值得注意的是，大模型虽然已迈上“快车道”，但依然存在发展掣肘，大模型未来还有很大的发展潜能。360集团创始人周鸿祎表示，大模型的价值不只在于互联网场景，而在于把大模型的能力通用化、泛化、垂直化，与具体的业务需求深度融合，而这样的产业机会刚刚开始，未来大模型还是要往产业化、企业化、个人化发展。
人民网财经了解到，近日，360智脑的360GPT-S2-V8型号产品获得了中国信息通信研究院“可信AIGC大语言模型基础能力”评估报告，这是国内首个通过中国信通院该项权威评估的大模型产品。
周鸿祎介绍，大模型弯道超车的关键在于发展多模态。目前，360已具备跨模态生成能力，包括文字处理能力、图像处理能力、语音处理能力以及视频处理能力，可实现文生文、文生图、文生表、图生图、图生文、视频理解等功能。
目前，大模型技术不断演进，人工智能已经发展到了强调“通用性”的新阶段，在通用人工智能的驱动下，多行业将迎来新的变革。
上述专家表示，发展大模型，一方面要依靠“市场的手”，让市场的“大浪淘沙”发挥主要作用；但同时也需要“政策的手”予以引导和调节，推动、鼓励和统筹产学研进行合作，共建大模型的产业生态。
人工智能行业的三大发展趋势是什么
0分享至人工智能正在成为新一轮科技革命和产业变革的重要驱动力量，正与千行百业深度融合，成为经济结构转型升级的新支点。根据Omdia发布的全球人工智能市场研究报告，2021年全球人工智能软件市场规模达到370亿美金，预计到2027年，全球人工智能软件市场规模将增长到1423亿美金。中国也将成为全球第二大人工智能软件市场。那未来人工智能行业的发展趋势如何呢？行业趋势之一：“AIforScience”人工智能和科学的深度融合正在推动科研范式的创新，带来了新的发展机遇。同时，这也要求人工智能框架提供更好的支持。因此，“AIforScience”成为了人工智能框架的重点发力方向。在科研领域，问题的分析维度高、尺度跨度大，计算复杂度随着变量个数或分析维数的增加而指数级增加。传统的科研计算方法需要大量的工作量和时间，使科研工作者感到力不从心。而“AIforScience”借助人工智能的技术优势，可以高效地处理海量数据，使传统的科研过程变得自动化、规模化、并行化和平台化，从而解决原来传统科学研究范式无法解决的问题，帮助科学家突破科研瓶颈。总的来说“AIforScience”在气候和环境科学（天气预测等），生物制药和生命科学（新药研发、蛋白质结构预测等），流体力学（汽车或飞机的气动设计等），电磁学（电磁仿真等）等应用领域可能会首先取得突破。行业趋势之二：预训练大模型预训练大模型已成为人工智能领域的竞争焦点。2020年，OpenAI发布了自然语言处理大模型GPT-3，参数量高达1750亿，能够写文章、做翻译、生成代码以及进行人机对话。这一事件引爆了全球范围内预训练大模型的热潮，华为、OpenAI、Google、微软、英伟达、百度、Meta、阿里巴巴等领先企业都参与其中，追逐这个人工智能技术皇冠上的明珠。最近，OpenAI基于GPT-3发布了增强版的NLP大模型ChatGPT，再次引起了人工智能领域的热潮。更是证明，预训练大模型已不可避免成为人工智能领域发展的必然选择。总的来说，通过利用海量行业数据和知识，加上强大的算力集群，预先训练基础模型，并结合应用场景的数据和需求，可以实现高效的“工业化”开发，即通过“预训练大模型+任务微调”的方式，快速开发出精度更高、泛化能力更强的行业模型，且只需要少量数据。这可以提升人工智能项目开发效率，降低研发成本，缩短研发时间，并解决人工智能项目碎片化的问题。预训练模型的未来发展趋势有三个：首先，大模型的参数量将继续呈指数增长态势，即“大模型”正走向“超大模型”；其次，大模型正从单模态走向多模态、多任务融合；第三，预训练大模型的发展催生更大的计算集群系统（如异构计算、算力匹配等），并对人工智能框架提出了更高的能力要求，包括软硬件协同优化、分布式并行计算、云边端全场景部署等。这些趋势说明预训练大模型的发展将会变得更加多样化、复杂化，同时也会推动整个人工智能行业的发展。行业趋势之三：负责任的人工智能随着人工智能技术的迅猛发展，使用大规模高质量的数据进行训练已成为关键。但是，人工智能本身没有价值观，无法判断什么是正确的，这导致了一些伦理问题的出现，例如自动驾驶的责任问题以及生成式AI的问题。因此，负责任的人工智能已经成为人工智能商业化发展的瓶颈。政府、国际组织、学术界和产业界已经采取了宏观战略和具体措施来应对这个问题。目前全球已经出台超过一百个“负责任的人工智能”准则，例如欧盟提出的《人工智能法案》。“负责任的人工智能”即是一套道德准则，又是一套技术体系，是以安全、可靠和合乎道德的方式开发、评估、部署和规模化人工智能系统的方法。“负责任的人工智能”有助于引导人工智能行业朝着对人和社会更有益，更公平的方向发展，可以建立人们对人工智能的信任和信心，对人工智能的可持续发展非常重要。总结随着人工智能技术的快速发展，人工智能的应用部署正在迅速扩大，人工智能产业将带给开发者和相关企业更多的市场机会。特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端