人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。
我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。
通用人工智能路途尚远
“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。
所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。
“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。
尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。
罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”
北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。
对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。
加强安全治理领域国际合作
根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。
图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”
在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。
随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。
如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。
黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”
今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。
阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。
麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。
推动大模型共建共享
当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。
从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。
在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。
黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。
（实习生张伟纳对本文亦有贡献）
(责编：杨光宇、牛镛)关注公众号：人民网财经分享让更多人看到
人工智能赋能产业数智化升级——中国经济新动能观察
2020年9月6日，观众在服贸会综合展区参观展出的智慧物流机器人产品和操作系统。新华社记者鞠焕宗摄
新华社北京6月19日电题：人工智能赋能产业数智化升级——中国经济新动能观察
新华社记者张兆卿周乾宪高剑飞
国药控股广东物流有限公司位于广州的物流中心内，一台台智能自主移动机器人顶着满载货物的货架穿梭不息；配备人工智能视觉识别技术的机械臂精确抓取货物，自动码垛；五面扫描装置对传送带上高速运行的药品箱，自动扫描识别。
国控广州是中国南方地区药品分销及供应链服务提供商，在数智化升级前，该公司物流中心投产超过12年，仓库员日均搬运3万斤医疗货品，人均日行3万步，业务处理量达到瓶颈。
借助旷视科技公司提供的智慧物流解决方案，该仓库实现了智能化升级，整体效率提升25%，物流中心储存密度提升15%，作业完成时间提前两小时。
作为人工智能领域的独角兽企业，旷视科技在计算机视觉识别、深度算法、物联网领域持续深耕。近年来，企业更是与机械制造业企业融合发展，推出智能托盘四向车、人工智能堆垛机、自主移动机器人等机器人及智能装备。
“将人工智能技术与物理世界的应用场景结合，将更好助力实体经济的高质量发展。”旷视科技物流业务事业部负责人徐庆才说。
智能水平运输机器人在天津港全物联网集装箱码头作业。新华社记者李然摄
不久前召开的二十届中央财经委员会第一次会议强调，要把握人工智能等新科技革命浪潮，适应人与自然和谐共生的要求，保持并增强产业体系完备和配套能力强的优势，高效集聚全球创新要素，推进产业智能化、绿色化、融合化，建设具有完整性、先进性、安全性的现代化产业体系。
中国工业经济规模大、数字经济规模位居全球第二，融合发展前景广阔。国际数据公司(IDC)报告显示，随着数字业务时代到来，数字业务与制造业的融合已成必然，并成为振兴实体经济的重要条件。到2025年，40%的中国制造商将在企业范围内部署基于人工智能的工具来支持决策过程并最大化数据价值。
IDC中国副总裁钟振山表示，中国人工智能市场将在未来几年迎来爆发式增长，预计市场规模在2023年将超147亿美元，2026年将达到263亿美元。
自主创新是建设制造强国、实现高质量发展的内在要求。党的二十大对强化企业科技创新主体地位作出明确部署。企业从“技术创新主体”转变为“科技创新主体”，表明企业在创新体系中的角色发生了变化。
2021年1月17日，无人驾驶电动集卡在经过全流程自动化升级改造的天津港集装箱码头行驶。新华社记者赵子硕摄
世界十大港口之一的天津港在人工智能等创新技术加持下亦焕发新生机。2018年，全球首台无人驾驶电动集装箱卡车投入使用；2020年，全球首个完全无人驾驶卡车常态化运营项目正式落地；2021年，天津港C段智能化集装箱码头成为全球首个“智慧零碳”码头。
北京主线科技有限公司是国内领先的智慧港口与自动驾驶卡车研发与应用的人工智能科技创新企业，也是天津港数智化升级的主要参与方之一。该公司联合天津港、徐工集团研发的智能水平运输机器人具备“完全无人驾驶”能力，帮助天津港实现复杂作业场景中的高精度、全无人、全天候、安全稳定的集装箱自主作业。
主线科技创始人、CEO张天雷认为人工智能技术与实体经济结合是该技术推广和落地的最好方式。“在此过程中，技术创新至关重要。我们公司的技术研发占到总支出的70%以上，研发人员占到员工总数的80%。”
天津港数据显示，升级后的天津港C段码头实现单桥作业效率提升40%以上，外部集装箱卡车平均滞场时间压缩至8.6分钟，设备平均综合单耗下降30%以上，人工成本降低60%。
像智慧物流、自动无人码头类似的智能场景在生产生活中并不少见，新一轮人工智能和实体经济的深度融合将改变各行各业产业实践和运行方式，促进社会和产业的高质量发展。
【纠错】【责任编辑:成岚】吕本富：理性看待人工智能的“破坏性”创造
来源：环球时报通用人工智能（AGI）又称强人工智能，是AI的一种理论形式，指具备等同或超过人类智能行为水平的人工智能。现在各国AGI发展呈现一派欣欣向荣的景象，但担忧的声音也越来越多。3月29日，由特斯拉公司CEO埃隆·马斯克等业内外知名人士联名签署了一封公开信，呼吁全球所有AI实验室立即暂停训练更强大的生成式人工智能系统，为期至少6个月，以确保人类能够有效管理其风险。上个月，被称为“AI教父”的杰弗里·辛顿宣布从谷歌离职。在离职的同时，杰弗里·辛顿宣布，自己正式加入AI批评人士的行列，甚至表示对自己一生从事的工作感到有些后悔。他认为，随着企业改进AI系统，它们会变得越来越危险。此事激起了更大的反响，因为如果说马斯克算外行的话，辛顿确实是普遍公认的业内翘楚。由此，AGI引发的治理问题引起了越来越多国家的重视。然而笔者认为，且不说马斯克、辛顿等人的言论是否有偏颇，这些言论暂时还算不得国际的主流认知。国内也有类似的担心，目前也只可能会扰乱决策视线、加剧公众焦虑，难有建设性作用，例如“生成式人工智能将压制人类”“AGI打开了潘多拉魔盒”“人工智能将大规模取代人工”等。泛泛的讨论、杞人忧天都没有意义，更重要的是认真思考接下来发展可能面临的风险，尽快出台治理方案。以下三个方面值得我们关注：一是如何尽快突破AGI发展的技术瓶颈。海外大厂的开源技术有随时关闭的风险，我国需要有自研的大模型，莫让别人的地板成为我们的天花板。但目前国产大模型的问答结果与国外还存在较大的差距，以芯片为核心硬件基础的算力一直还处于“卡脖子”的状态。所以，如何突破这些技术瓶颈，甚至换道超车都是当前迫切需要解决的事情。二是监管体系如何弹性化。国内对AGI的监管讨论刚刚开始，尚未形成成熟的监管思路：大模型在C端的应用依然处于悬而未决的状态；互联网大厂在既有的应用中大规模使用生成式AI也未有定论；使用海外数据训练，如何在国内进行微调也还需要一个过程。在国际竞争如火如荼之时，监管的效率直接决定了AGI的发展方向和发展速度。如何在数据与隐私安全、滥用风险、伦理等方面保持平衡，考验着监管者的智慧。三是就业问题需要未雨绸缪。工业革命时期，大规模机器生产逐步取代小规模手工作坊生产，机器开始替代人工，引发了工人对机器的不满，形成了“卢德主义”，即对新技术和新事物的一种盲目冲动反抗，经常发生工人破坏机器以发泄对新技术不满的事件。经济史表明，真正能够引发宏观性、全局性就业危机的因素只有经济萧条和制度摩擦，而不是机器换人；机器可以代替一部分人力，但是同时也会按自己的“乘数效应”产生很多新岗位，甚至比以前更多。但是不可否认，这次AGI确实对就业具有偏向性影响，可能导致劳动力就业结构呈现“V型”趋势。即高、低技能要求的常规工作岗位都不断增加，而中等技能的常规工作不断减少，中等技能水平的劳动力面临更大的被替代风险。这是工作性质差异导致的——人工智能会替代重复性、程式化的工作任务，而这些任务主要集中在中等技能工作中；企业会进行成本收益分析，中等技能水平工作岗位被替代后收益较高且在技术上更具有可行性，因而可能首先被替代。而具有一定创造性、非程式化的工作任务，在短期内不易被替代。人工智能对中等技能劳动力形成了挤压，他们开始向高技能和低技能工作岗位转移，从而出现高、低技能劳动力人数增加的现象。因此，对中等技能工作岗位劳动力的转岗和培训应该尽快纳入议程。生产力工具与人之间并不是简单的替代关系。AGI属于人类智力的延伸，是人类的劳动工具，并非是“悬顶之剑”；生产工具通过完善个体的能力，促成人的“价值分层”——底层要求是传统的“掌握通识知识、具备流程性工作能力”；更高层次的要求则是“产生创造性价值、高效利用工具解决问题”。目前我们需要理性看待人工智能的破坏性创造，最重要的是着眼于自己的发展。新兴行业，各国都还在努力摸索。过程中总会有或大或小的问题，但是过度悲观，杞人忧天是不可取的。切不可尚不知“脚”多大之时，就贸然“穿上鞋子”，否则，鞋子就会成为裹脚布，让政策的发展变畸形。（作者是中国科学院研究生院教授、企业创新研究中心副主任）海量资讯、精准解读，尽在新浪财经APP人工智能加速走进百姓生活——从2023全球人工智能技术大会看行业新趋势
新华社杭州6月11日电题：人工智能加速走进百姓生活——从2023全球人工智能技术大会看行业新趋势
新华社记者魏董华
按照大脑指令可做出灵活动作的智能仿生手，帮助肢体缺失患者重建手部运动功能；会学习的农田打药机器人能在雨雪、低能见度等恶劣条件下自动驾驶作业；宠物型机器人可以陪伴老人和小孩，有温度地进行情感交流……
正在浙江杭州举办的2023全球人工智能技术大会上，形形色色的人工智能概念和产品吸引众多目光，与会专家就人工智能话题展开探讨，描绘未来发展图景。
智慧生活可感可触
由中国人工智能学会和杭州市政府主办的此次大会，吸引了国内外近300位业内专家和70余家企业参会。穿梭在大会展区内，日新月异的人工智能技术可感可触，生产、医疗、教育等越来越多领域都能看到人工智能的身影。
简单输入文字，几秒就能生成图画、创意、文本等，百度“文心一言”“文心一格”、科大讯飞“讯飞星火认知大模型”等生成式人工智能产品，通过自然对话方式理解和执行用户任务，吸引众多参展观众体验，展现了人工智能更广泛的应用前景和巨大的赋能潜力。
6月10日，观众在2023全球人工智能技术大会上参观。新华社记者魏董华摄
让截肢患者可以像控制自己的手脚一样控制假肢，帮助孤独症患者提升社交沟通与行为能力，助眠舒压、改善睡眠质量……在强脑科技的展台上，公司展出了智能仿生手、智能灵巧假腿、脑机智能安睡仪等多款脑机接口产品。工作人员表示，这些产品目前已在康复、大健康、人机交互等领域被应用，智能仿生手等产品已累计帮助上千名残疾人回归正常生活。
“人工智能正在深刻改变这个时代。”中国工程院院士、中国人工智能学会理事长戴琼海在大会上表示，机器人已大规模应用于自动装配生产线，自动驾驶车辆已可以在城市道路行驶，以深度学习为代表的人工智能推动了科技、医疗、电子、金融等行业快速发展，人工智能体现了很强的赋能作用。
不断拓宽应用场景“智”绘未来
从电商、搜索，到对话、产业场景，我国的人工智能大模型正逐步落到应用层面。未来，随着技术不断迭代更新，其应用场景将更加广泛。
从虚拟数字人到外骨骼机器人，主打陪伴的机器人将随着人工智能深度学习模型相关领域的发展，外形、交互能力以及学习能力甚至情绪感知能力都将得到很大提升。2022年，科大讯飞正式宣布启动“讯飞超脑2030计划”，目标是让人工智能懂知识、善学习、能进化，让机器人走进每个家庭。
6月10日，观众在2023全球人工智能技术大会上体验AI学习。新华社记者魏董华摄
在会上，中国科学院院士管晓宏描述了人工智能在音乐艺术领域的应用前景——“复活”3000首中国古琴曲。中国古琴曲有特殊的记谱方式，主要记录指法和音位，不记录每个音的具体值，仅凭曲谱不能直接演奏，需要转化成可演奏的琴曲。
“这是中央音乐学院音乐人工智能与音乐信息科技系一位博士生的研究课题，该项目将人工智能等前沿科技应用于古琴领域，通过深度学习古琴古曲，建立古琴数据集并完成古琴琴谱数字化的底层工作，推动古琴文化保育与传承。”管晓宏说，人工智能技术在很多领域都展现出强大的应用潜力。
与会专家认为，人工智能可以拓展人类发现、理解与创造的能力。未来，它的发展要承担起赋能生活、提升幸福感的使命。
智脑同飞促发展
在与会嘉宾看来，人工智能要加速发展还有很多瓶颈问题要解决。未来的人工智能应该具备对大场景、多对象、复杂关系的精准理解，这样才能弥补现有人工智能的不足并推动其发展。
“这就要求我们从脑科学出发，构建新一代人工智能的理论、方法和技术。”戴琼海表示，应加快脑科学基础研究，智脑同飞带动人工智能技术发展。
6月10日拍摄的2023全球人工智能技术大会一角。新华社记者魏董华摄
另一方面，要推动人工智能的创新发展，数据、算法与算力是发展支柱。戴琼海说，当前，算力的优化与创新刻不容缓。人工智能进入了交叉时代，除了向物理要算力，还要向脑科学要算力，比如类脑计划，希望通过模拟脑科学里的机理提升算力。
人工智能加速变革的同时，针对其伦理规范、风险框架等方面的探索同样被广泛关注。与会嘉宾表示，要强化伦理风险治理，促进国际合作交流，让人工智能更好地造福人类社会。
【纠错】【责任编辑:赵阳】欧盟《人工智能法案》进入最终谈判阶段
14日，欧洲议会全体会议表决通过了《人工智能法案》授权草案，该法案进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。
欧洲议会当天投票决定禁止实时远程生物识别技术，如不能在公共场合进行实时人脸识别，并对ChatGPT等生成式人工智能工具增加更多安全控制措施，提出新的透明度要求，以确保人工智能的研发和应用符合欧盟权利和价值观。
据欧洲议会网站消息，欧洲议会“为制定史上首部人工智能法案已经做好谈判准备”。按照立法议程，欧洲议会将就这一授权草案与欧盟委员会和成员国进行“三方”谈判，欧洲立法者希望在今年年底前就法案的最终版本达成共识。
今年5月，欧洲议会内部的市场委员会和公民自由委员会通过欧盟委员会于2021年4月提出的《人工智能法案》提案的谈判授权草案。欧洲议会声明，这部提案如正式获得批准，将成为全世界首部有关人工智能的法规。
该法案将适用于在欧盟境内将人工智能系统投放市场或投入使用的实体（无论该实体是在欧盟境内还是在第三国）、在欧盟境内使用人工智能系统的实体以及在第三国使用人工智能系统但系统的输出用于欧盟境内或对欧盟境内人员产生影响的实体。
该法案草案的一个突出特点是注重基于风险来制定监管制度，以平衡人工智能的创新发展与安全规范。草案将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级，对应不同的监管要求。其中高风险人工智能的使用必须受到严格监管，系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定，以确保系统稳定、准确和安全。对于违反规定者，草案设定了最高3000万欧元或全球年营业额6%的罚款。
最新草案严格禁止对人类安全造成不可接受风险的人工智能系统，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统，并扩大了人工智能高风险领域的分类，将对人们健康、安全、基本权利或环境的危害考虑在内。草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统，还针对ChatGPT等生成式人工智能设立专门监管制度。每个欧盟成员国都将设立一个监督机构。
此外，引进监管沙盒机制以管控风险和促进创新，在人工智能系统入市或投入使用前，对人工智能系统进行开发、测试和验证降低风险。最新草案文本还提出，这一机制同样被允许用于在现实条件下测试创新人工智能，以鼓励人工智能企业持续创新。
清华大学自动化系教授陶建华在接受记者采访时说，欧盟试图建立一个统一的人工智能法律监管框架，是全球人工智能发展进程中一个重要的标志性事例。其对人工智能进行有效法规约束的探讨和尝试都会产生全球性的影响，可能引发越来越多的国家尝试跟进相关法规的探索。
竞天公诚律师事务所合伙人袁立志认为，欧盟推动人工智能立法，有利于保护基本人权、维护欧盟在数字主权和科技领域的领导地位，并通过这样一部综合性立法抢占全球人工智能监管先机。但其本身具有局限性。它采用的是横向立法，并非针对特定人工智能应用领域，而是试图把所有人工智能都纳入监管范围，在执行层面将面临大量的解释问题。
陶建华指出，欧盟并未就人工智能技术可能会给人类带来什么样的影响形成共识。从辨证的角度看，人工智能既能造福和服务人类，但如若用之不善，也会给人类带来威胁或伤害。因此，如何平衡创新和约束是欧盟立法面临的一个非常重要的挑战。但在追求创新和管控创新可能带来的危害之间寻求一个有效平衡，很大程度上是使用者的问题。如何对使用者进行有效监管，也是欧盟人工智能立法面临的一大挑战。此外，统一的法律框架并未涉及具体的法律规范，因此实际的执行效果上可能会“大打折扣”。（刁泽）