人工智能如何“向善”
一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。
我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。
通用人工智能路途尚远
“想象一下，未来10年，通用人工智能(AGI)几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。
所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域(如图像识别、语音识别、自然语言处理等)不同，对人工智能技术提出了更高要求。
“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。
尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。
罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”
北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。
对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。
加强安全治理领域国际合作
根据预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。
图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”
在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。
随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。
如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。
黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”
今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。
阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。
麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。
推动大模型共建共享
当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。
从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。
在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”(Aquila)语言大模型系列、天秤(FlagEval)开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。
黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。
（来源：《人民日报海外版》；编辑：高逸昕；审核：林超）
机器人给我们的生活带来了哪些冲击——聚焦世界机器人大会
图集8月23日，在世界机器人大会上展出的深圳优必选科技有限公司自主研发的服务型机器人Alpha1s在表演舞蹈。新华社记者李欣摄
新华社北京８月２４日电题：机器人给我们的生活带来了哪些冲击？——聚焦世界机器人大会
新华社“新华视点”记者
水母机器人、变脸机器人、擦玻璃机器人、快递无人机、机器人“书法家”……各种各样的机器人亮相正在北京举行的２０１７世界机器人大会，向人们展示了机器人产业迅猛发展、人工智能给人类生产生活带来巨大变化的图景。
机器人发展给我们的生活带来了哪些冲击？人工智能如何更好地为人类服务？“新华视点”记者在大会上进行了深入采访。
8月24日，观众在世界机器人大会现场观看展览。新华社记者李欣摄
产业规模快速扩大机器人“无处不在”
医生坐在操作台上，眼观显示镜，手拿操作杆，机器人四个“手臂”上下摇动……展厅里，人们看到这样的演示：借助达芬奇手术机器人，医生可以更加精准灵巧地切除病变组织。
相关工作人员介绍，手术机器人是医生“手”和“眼”的延伸，原来切口需３０厘米的手术现在只需几厘米，切口小、下刀准的微创手术能减少手术风险。这类医疗机器人还可以减轻手术对外科医生的体力消耗，提高手术效率与稳定性。
据悉，达芬奇手术机器人目前在全国已配置６０余台，２０１６年进行了１万多例手术。
机器人的身影不仅出现在手术室，也出现在餐厅、银行、超市、工厂车间……
在亚马逊运营中心，常常可以看到同一片区域内数千台Ｋｉｖａ机器人有序避让，并能在准确时间将商品精准无误地送到拣货人身边。目前，亚马逊已在全球部署了１０万台Ｋｉｖａ机器人用于存储和拣货。
亚马逊全球副总裁、亚马逊全球物流中国总裁薛小林介绍，亚马逊智能运营系统通过数据分析和算法优化，“指挥”成千上万台Ｋｉｖａ机器人协同作战，整个过程几乎是零人工干预。
重量仅为５３公斤的小型协作机器人ＣＲ７Ａ可以在没有安全围栏的情况下与人一起并肩工作；两轮机器人Ｈａｎｄｌｅ实现了在快速滑行的同时进行跳跃的稳定控制；科大讯飞推出的全球首台全程语音交互服务机器人，采用语音、触屏、动作等多模态综合交互方式，已应用于医院、银行、保险公司等领域……机器人已经逐步从单一的劳动工具和设备，上升为人类的工作助手和生活伙伴。
据国际机器人联合会统计分析，２０１６年全球机器人产业规模首次突破２００亿美元，增长１４．５％，预计２０１７年将达到２３２亿美元。其中，中国机器人产业规模首次突破５０亿美元，预计２０１７年将达到６２．８亿美元。
专家介绍，目前我国机器人产业规模快速扩大，语音识别、图像识别等技术已达到国际先进水平，一些重要领域形成了一批具备核心竞争优势的自主创新产品。
8月23日，观众在世界机器人大会现场观看机器人表演。新华社记者李欣摄
机器人“智力”还有限人类简单工种易被取代
专家指出，在新一轮科技革命和产业变革的背景下，全球机器人发展依然面临着多重挑战，应确保机器人发展安全可控，找到发展与控制间的平衡点。
——机器人足够“智能”了吗？
专家介绍，其实现在不少机器人的“智力”还相当有限。今年上半年网上关于申通分拣机器人“小黄人”的视频受热议，大家纷纷为“小黄人”的熟练作业点赞。
申通发展研究中心副主任邓德庚表示，未来越来越多的机器人将参与物流辅助工作，但还有很大提升空间。比如机器人摆件不那么工整、部分单据仍为手写导致无法完全数字化录入信息等。
业内普遍认为，现阶段机器人在运动层面上尚显不足，其能效比、灵活性仍远远达不到人类肌肉群协调动作的水平，十分“脆弱”。比如大多数工业机器人还是以机械手臂为主，大部分企业还不具备研发制造柔性臂的能力，导致机器人的灵敏度有限，能做的动作很少。
多功能机器人离我们的日常生活还很远，尤其在自然语义理解方面，机器人仍有巨大的发展空间。
——机器人将取代哪些工作？
最近一则６秒写完的地震新闻引发公众关注，这位地震新闻的作者竟是国家地震台网新研发的“地震信息播报机器人”。大家调侃“机器人６秒写完新闻，手慢的记者恐慌了吗”之余，也引发了对机器人是否将取代记者工作的思考。
雅虎机器人写稿系统“Ｗｏｒｄｓｍｉｔｈ”、《纽约时报》新媒体运营总监机器人“Ｂｌｏｓｓｏｍ”、腾讯自动化新闻协作机器人“Ｄｒｅａｍｗｒｉｔｅｒ”……事实上，机器人写新闻早已有之。
再比如，机器人还可以胜任工人、电话客服、司机、陪护人员等工作，但这些都是相对简单、标准化、流程化的工种。
对此，英特尔中国研究院院长宋继强认为，未来机器人更加深入辅助人类工作之时，对人的工作提出了更高要求，需要加强人员的技术能力，去做一些机器无法做到的工作，比如新闻工作中的深度调查报道等。
专家指出，随着机器人的使用越来越多，一些人可能会失去工作，但同时一些工种会发生变化，也会创造出新的就业机会。
——机器人如何适应社会？
著名科幻小说家阿西莫夫曾经提出过机器人三大定律，首要的一条就是机器人不得伤害人类。但从目前的发展趋势来看，还存在很多隐患问题。
机器人“小胖”没人操纵，自己突然跑起来，打倒了玻璃墙，砸伤旁边一位路人……去年底，深圳高交会上机器人“小胖”伤人事件引发热议。事后深圳高交会组委会发布公告表示，事故是由于展商工作人员操作不当，误将“前进键”当成“后退键”而导致。
今年７月，百度创始人李彦宏通过视频展示他乘坐百度无人驾驶汽车的影像，并称车辆正行驶在北京五环路上。此举引发“无人驾驶汽车上路是否合法”等争议。随后交管部门开展了调查核实并表示，支持无人驾驶技术创新，但应当依法、安全、科学进行。
中国科学院自动化研究所专家王飞跃认为，任何的机器技术都是双刃剑，在科技创新的同时要健全相关法律法规，加强人控制机器的能力，人类要有最终的决策权。
8月24日，一位德国的技术人员在展示可以跟随人的动作的机器人。新华社记者李欣摄
加强核心技术发展促进机器人深度应用
业内人士认为，以人工智能为依托的机器人一方面会以自动翻译、图像识别等“软件”形式服务百姓生活，另一方面也将通过集成“硬件”深入到百姓生活中，未来，人工智能会使城市生活更加智能，城市管理更加高效与便捷。
然而记者调查发现，现阶段，我国虽已为机器人大国，但还不是强国。我们每万名工人中机器人的占有率远低于发达国家，减速器、机器人控制器、伺服电机等机器人核心零部件和技术还主要依靠进口。
不仅如此，业内人士分析指出，我国机器人市场“重”概念创新而“轻”核心技术发展，基础设施构建仍不足。国内大量建立机器人产业园区，但实际上真正能够发挥作用或形成产值、产能的很少。一些企业热衷于炒作概念，虽然挂名“机器人”“智能”，技术能力却配不上名字。
王飞跃认为，要想让机器人渗透到人们生活，真正实现智能社会，一定要把相应的基础设施建设好，建立知识库、大数据库、面向各类具体问题的智能系统等。“这不仅要有技术，还涉及整个社会体系、服务体系和治理体系等。”
业内人士判断，深度学习将给予机器人更加强大的“大脑”，甚至能够提供一些情感上的支持和交互,未来机器人将越来越像人。专家们呼吁，要加快机器人向各领域的应用，实现人机协调、跨界融合、共创分享，营造有利于机器人发展的良好生态。（记者阳娜、胡喆、陈旭、盖博铭、李犇）
+1【纠错】责任编辑：李海韵