人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。
我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。
通用人工智能路途尚远
“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。
所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。
“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。
尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。
罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”
北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。
对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。
加强安全治理领域国际合作
根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。
图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”
在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。
随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。
如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。
黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”
今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。
阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。
麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。
推动大模型共建共享
当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。
从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。
在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。
黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。
（实习生张伟纳对本文亦有贡献）
(责编：杨光宇、牛镛)关注公众号：人民网财经分享让更多人看到
百度Apollo携手自贡市政府，共建人工智能基础数据产业基地
封面新闻记者付文超2023年6月18日，百度Apollo与自贡市人民政府正式签署战略合作协议，双方将在人工智能、智能驾驶、地理信息等领域展开应用开发和产业落地的全面合作。四川省人大常委会副主任何礼、四川省政府副秘书长葛晓鹏、自贡市委书记曾洪扬、市长石钢、常务副市长肖冰东，百度副总裁尚国斌、百度地图开放平台总经理刘增刚、百度地图商业运营总经理唐媛、百度地图智慧交通总经理严孙荣等出席此次活动。共建人工智能基础数据产业基地打造创新高地基于此次合作，双方将在自贡市落地共建“百度阿波罗智行（西南）人工智能基础数据产业基地”。该基地将基于自贡5G产业创新发展优势，发挥百度Apollo在智能驾驶和地理信息服务领域人工智能数据标注领域的领先技术优势和实践经验，以龙头带生态的方式，吸引相关企业落地，打造人工智能数据标注产业创新发展高地。自贡市委书记曾洪扬表示：“自贡市作为成渝地区双城经济圈重要节点城市，希望通过和百度Apollo的合作，加快建设人工智能产业创新示范区，推进人工智能在政务服务、交通出行、民众生活等领域的深度应用，持续推进产业数智化转型升级，提升产业能级和经济发展质量。”随后，百度副总裁尚国斌表示：“百度Apollo将和自贡市开展深度合作，发挥百度新技术优势，以做实智能驾驶和地理信息服务领域人工智能基础数据产业基地建设、智能网联示范运营先导区建设、市民服务平台应用建设以及交通出行服务项目等为目标，推动基于人工智能的应用开发及产业落地，支撑地方数字经济发展”。百度副总裁尚国斌致辞同时，为服务人工智能基础数据产业基地建设，百度Apollo将与自贡市职业培训学院等当地院校深度合作，合力构建智能驾驶和地理信息服务领域人工智能数据标注的“专业教育+产业实践”双引擎，共同打造立足自贡、辐射西南的产学研用一体化高技能数据标注人才培训和实训基地，服务区域数字经济产业发展。据了解，此次百度Apollo和自贡的合作，除共建人工智能基础数据产业基地外，还涉及交通出行服务、市民服务平台应用建设以及智能网联示范运营先导区建设等。打造智能化交通出行服务便利市民出行在交通出行服务方面，双方将依托百度领先的AI技术和国民级的地图应用，推动自贡交通智能化发展。例如，在解决“停车难”方面，未来将通过对路内和路外停车场的智能化升级改造，打造室内外一体化的“跨空间连续导航”停车服务，提升出行体验。在解决“行车难”方面，未来将通过把路口信号灯倒计时数据接入百度地图，为市民提供信号灯倒计时、绿灯起步提醒、闯红灯预警等贴心服务，便利民众出行。在智能网联示范运营先导区建设方面，双方将依托百度领先的自动驾驶技术能力，通过共建自动驾驶和智能网联生态基地和开放道路无人驾驶测试场，打造在中西部具有影响力的智能驾驶产业高地和示范高地。在市民服务平台应用建设方面，双方计划合作，进一步加强政务为民“自贡百事通”的建设。未来，百度地图APP将成为市民服务的入口之一，市民可在百度地图APP上办理各类政务业务申请，享受更便捷化的政务服务。未来，百度Apollo将以人工智能基础数据产业基地为原点，延伸上下游产业，为自贡市数字化、信息化发展提供更多助力，打造在中西部具有影响力的产业高地和示范高地，致力于成为四川乃至川渝地区数字经济发展的重要名片。50余人工智能与大数据项目亮相清华校友三创大赛
北京日报客户端|记者孙奇茹6月19日至20日，第八届清华校友三创大赛天津晋级赛（人工智能与大数据）在天津市举行。中国马铃薯晚疫病监测预警系统、自主可控言语交互意图理解大模型“海河·谛听”、肌电手势识别与隔空交互平台……50个来自清华校友的创意、创新、创业项目聚集天津角逐人工智能与大数据赛道晋级赛奖项及全球总决赛名额。清华校友三创大赛是由清华校友总会主办的支持校友、师生以及其他社会各界人士“创意创新创业”的大型系列活动。以“服务校友职业发展，服务科技成果转化，服务社会经济发展”为宗旨，三创大赛自2016年创办至今，已成功举办过7届。八年来，清华校友总会AI大数据专委会主办的三创大赛AI大数据赛道作为热门参赛赛道，已涌现出一大批优秀企业。本次大赛上，50个来自北京、天津、上海、深圳、广州、江苏、青海、日本等地的人工智能及大数据项目进行了项目路演，就赛区奖项及晋级名额展开激烈的角逐。最终，评选出种子组、天使组、成长组共18个获奖项目。以成长组获奖项目马铃薯晚疫病监测预警系统为例，该项目针对各监测点的气象数据自动收集、采用比利时预警模型自动分析，实时提供马铃薯晚疫病侵染分析，包括侵染曲线、侵染期间温湿度的变化，侵染风险等级分析等，将无线通讯、地理信息系统（GIS）、疫病知识、防治建议有机地结合在一起，为农作物病害的综合防治提供依据。目前该系统已经接入全国农业技术推广服务中心测报处，作为全国马铃薯晚疫病防控的重要判断依据。人工智能大模型是今年全球科技创业领域最火热的赛道。获奖项目“海河·谛听”，是国内首个自主可控言语交互意图理解大模型，它可以结合语音文本内容、语音情感、性别年龄、语调韵律等要素，并结合相关的上下文信息进行精准的聚合式生成对话，真正做到聆听“弦外之音”，实现了言语交互意图深度理解的重要理论突破。以这一大模型为底座，慧言科技研发了语音识别、语音合成、机器翻译、对话系统、声纹识别等核心技术。根据中国信息通信研究院的对标测试，其语音识别技术在新闻、教育、庭审、会议等场景下的性能超过国内人工智能巨头公司人工智能开放平台。本次大赛由清华校友总会和天津市河北区人民政府主办，天津市人工智能计算中心、清华大学天津校友会、天津启迪创业孵化器有限公司联合承办。清华大学校务委员会副主任、清华校友总会副会长、清华大学党委原常务副书记姜胜耀说，三创大赛是清华校友总会重要品牌活动之一。地方发展需要清华校友的贡献，清华校友发展需要地方政府的支持，希望日后以赛为媒，提高清华校友和社会面的广泛参与，争取吸引更多清华校友的优秀项目落户天津市河北区。天津市河北区委副书记、区长戴雷介绍，近年来，天津市持续深化与清华大学的合作，在人才培养输送、科技成果转化等多方面均取得了丰硕成果，目前已率先建设了人工智能计算中心，打造了天津首个中关村（智造）中试服务平台。人工智能和ERP｜大模型怎样重塑企业级IT应用
0分享至来源：陈果George导读：企业信息系统出现，最初解决了记录企业业务信息的问题，例如财务、客户、订单、库存、合同等等信息，然而，企业级信息系统要更好地服务于业务处理，一直需要解决三个问题......（一）未来企业IT应用长什么样先让我们看段视频，这是我一位朋友在去年下半年时发布的一个概念性产品。大家可以注意到，在那个时间点，今天被炒得火热的ChatGPT还没横空出世：这个视频给我们揭示了人工智能赋能的未来企业IT应用的一些主要特性：1、自然语言的连续对话，用户用自然语言来进行企业数据的查询，和对后台系统进行操作；2、智能决策：为了便于观众理解，该视频展示的判断条件还是较为简单的规则（如果我的奖金能达到….那么休假……），在现实上还可以基于更为模糊的目标设定，（例如：“我怎样能保持工作、生活和金钱的平衡？”），利用人工智能来生成任务，用任务来驱动信息系统的业务服务；3、多模态信息的认知及生成能力：本视频展示了文本和语音，除此之外，多模态信息还包括视频、图片等；4、数据的整合：决策过程整合了多个数据源产生的数据，例如薪酬、考勤、销售等，数据的规范性将对智能的准确性产生制约作用；5、复杂软件系统的处理：从视频中可以看出，人工智能在处理我朋友请假的过程中，涉及到了一系列传统意义上的企业IT系统，包括CRM/销售绩效系统（SPM，参见《》），考勤系统，核心人力资源系统，办公自动化系统和日历等，而最终执行指令时，匹配、调度了多个后台信息系统产生相应记录。（二）实现原理企业信息系统出现，最初解决了记录企业业务信息的问题，例如财务、客户、订单、库存、合同等等信息，然而，企业级信息系统要更好地服务于业务处理，一直需要解决三个问题：一是业务流程自动化问题，正如我在很多过去文章中写到（《》），在线交易处理的信息系统（OTLP）本身并没有业务流程管理，要有数字化的手段来管理、驾驭业务流程，才能使得业务记录能够被准确记录；二是业务决策智能化问题，我也写过不少智能化业务决策的话题，（例如《》《》），OLTP和OLAP融合，使得业务流程从行动到数量上的决策，能够带来更优化的业务结果；三是人机交互的人性化问题。为了解决这些问题，企业应用系统的自动化、智能化和人性化经历了四个发展阶段，最近几年，随着人工智能技术的发展，这样的转型正在加快：企业级IT应用系统的架构在过去十多年里，经历了从单体架构向服务化解耦，并最终向微服务架构转型，通过容器化部署，这使得利用人工智能来生成流程、调度业务能力（即服务）成为可能。GPT作为人工智能技术的飞跃，对企业应用来说具有三个特点，一是基于更大量的参数处理，实现更强大的推理和判断能力，二是，通过利用基于海量数据的大模型，结合企业自有“小数据”的精调（finetuning）或嵌入，使得对世界知识有广泛认识的“万事通”成为掌握特定企业知识的“企业通”，可以处理企业业务，三是用人工智能来生成任务（通过任务组合而形成业务流程），同时用任务来触发企业的业务服务。这一轮GPT在今年年初横空出世时，人们最早关注到的应用案例是面向用户级的内容生成，例如文字、程序代码、图像、视频等生成。几个月后，随着AutoGPT项目的出现，给人们展示了用大模型来驱动业务的可能性——AutoGPT是一个开源的应用程序，这个程序由OpenAI开发的GPT-4大语言模型驱动，可以自主地开发并管理业务——ChatGPT产生文字，AutoGPT产生流程。就是说，你给AutoGPT出一个目标，例如，我怎么让公司利润提升10%，他会自己思考，给出实现的步骤以及实现细节——究竟是提升销售，还是提升运营效率降低制造成本，还是降低原料采购成本，并且调度相关的企业业务系统（例如销售系统或者采购系统）去执行任务指令。“自治代理”被认为是企业业务自动化和智能化的数字化最高阶段，这个概念并不是新东西，然而随着大模型出现，以及生成式AI的技术工具链在最近几个月的快速发展，例如将大模型和企业现有信息及业务服务连接起来的开发工具（基于Python,TypeScript代码的框架，也有新兴的无代码开发框架）和大语言模型的数据平台底座等，“自治代理”得以爆炸式增长。在下面这个案例中，描述了一个任务驱动的自治代理，它利用OpenAI的GPT-4语言模型，Pinecone向量搜索和LangChain框架来执行任务，根据完成的结果创建新任务，并实时确定任务的优先级。这个概念原型展示了人工智能语言模型在各种约束和环境下自主执行任务的潜力：来源：https://yoheinakajima.com/task-driven-autonomous-agent-utilizing-gpt-4-pinecone-and-langchain-for-diverse-applications/如果用一句话的通俗语言来解释“自治代理”，也就是AI改造企业级IT应用的终极目标，那就是“你就对机器喊一嗓子，剩下的都交给AI”。如果是把大象放进冰箱里，过去你还要关心“打开冰箱门➡️把大象放进冰箱➡️关上冰箱门”的业务流程以及每一步骤的处理，现在你只需要对机器说一句“把大象放进冰箱里”，至于大象怎么进去，那就是AI的事了：（三）落地实现路径企业IT应用智能化需要进行ERP等传统企业应用系统的改造，下图这个“实时动态个性化定价并下单”的业务场景，就是前文所说的“认知流程自动化”的应用（其他类似案例参见我过去写的：《》、《》）零售企业在全渠道零售业务中台的“价格中心”里维护商品的标准价格顾客在他的APP上搜索某个商品相关的关键词，例如“羊绒大衣”“搜索中心”根据顾客的偏好，产生一系列羊绒大衣相关商品搜索结果搜索结果排序根据库存可用性以及营收优化策略显示可购商品按照需求预测（例如市场动销情况、竞争对手定价情况）以及相关的价格和促销优化策略，实时给出动态价格顾客在其数字化终端获得个性化的商品推荐和报价顾客用个性化价格下单这需要对企业应用的IT架构进行分层规划，我们将这种架构称为“数据和数字化平台”（DDP），详细参见《》。最近这段时间大模型的风起云涌，使得企业IT应用的技术栈中，更要凸显AI的地位，这样的架构变化，我总结为“一新三增”：一增是基础设施层上，无论是云服务还是本地设备，增加AI特有的GPU/TPU计算能力，提升单片算力以及异构算力的协作；二增是数据平台上，增加面向AI的数据准备能力，以及支持AI特性的数据存储能力；三增是在数字化产品上，支持认知能力APP的构建（例如chatGPT风格的业务软件），或者采用自然语言处理，尽可能覆盖更多的业务场景，嵌入到用户操作界面（例如浏览器或者SAP用户操作界面）；一新是加入独立的AI能力层，包括模型训练、模型管理、AI代理，以及AI服务的持续开发和运营等。坦白说，AI能力在过去企业的IT架构中一直存在，例如机器学习一般属于企业数据平台的传统能力，支持数据挖掘应用；不过最近随着AI的新技术、新工具日新月异，使得有必要将AI平台单独拉出来。当前一个典型的应用生成式AI来开发企业应用系统，除了大语言模型（例如GPT-4，或者中国雨后春笋一样冒出来的几十个大语言模型）和企业级业务服务部署平台（例如Docker或者Kubernetes），可能会涉及到这些技术工具：-向量数据库，例如Pinecone-大语言模型应用的开发框架，连接企业服务及数据，例如LangChain-无代码的AI代理工具，例如Fine-Tuner-基于大模型的任务生成开发工具，例如BabyAGI或AutoGPT如果读者读到这里觉得说得太抽象、太深奥了，我们来个比方吧。这是一个指挥业务的人：这是一个人工智能的“自治代理”：这是容器化、可以通过API来按需调用的业务服务：这就是利用人工智能，智能生成的不同业务流程，也就是流程执行的场景：好了，现在明白人工智能怎么改造企业IT应用了吧？版权归原作者所有，如有侵权请联系删除。免责声明：本文系授权转载，版权归原作者所有。本文内容为原作者观点，并不代表本公众号赞同其观点和对其真实性负责。订阅号推荐：中车云创特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端