人社部：人工智能人才缺口超过500万
中青报·中青网记者李沛然
近日，人力资源和社会保障部发布新职业——人工智能工程技术人员就业景气现状分析报告。报告显示，我国人工智能人才目前缺口超过500万，国内的供求比例为1：10，供需比例严重失衡。
人工智能工程技术人员是指从事与人工智能相关算法、深度学习等多种技术的分析、研究、开发，并对人工智能系统进行设计、优化、运维、管理和应用的工程技术人员。
从人才供需现状看，随着人工智能概念的持续火爆，大批求职者主动向人工智能相关岗位靠近。过去几年中，我国期望在AI领域工作的求职者正以每年翻倍的速度迅猛增长，特别是偏基础层面的Al职位，如算法工程师，供应增幅达到150%以上。
从薪酬分布看，人工智能行业的高薪主要分布在京津、长三角、珠三角及部分内陆省会城市。北京、上海、深圳及杭州的薪水位列第一方阵，月薪在1.8万左右；苏州、南京、广州及厦门位列第二方阵，月薪在1.4万左右；其他沿海及内陆省会城市，如成都、重庆、长沙及济南等位于第三方阵，月薪在1.3万左右。
从职业发展看，人工智能工程技术人员在企业中的最终角色是CTO，其职业通道大致可分为初级工程技术人员、中级工程技术人员和高级工程技术人员。
报告显示，我国AI人才不但严重紧缺，且这种趋势正由于人工智能企业增多而变得愈发严重，部分核心类岗位，如语音识别、图像识别工程师等，人才供需缺口更大。而且，由于合格AI人才培养所需时间远高于一般IT人才，人才缺口很难在短期内得到有效填补。
工业和信息化部科技司司长胡燕表示：“近年来我国人工智能产业呈现出了蓬勃发展的良好态势。人工智能凭借其强大的赋能性，正在成为促进传统行业转型升级的重要驱动力量，各领域智能+的新技术、新模式、新业态不断涌现，辐射溢出的效应也在持续增强。”
人工智能人才缺口大，且看专家学者怎么说
【强国密码】
“人工智能相关专业的大学生很抢手，在校期间就会被各大企业‘预订’，刚工作年薪就能达到20万元！”2018年初，某教育机构的大学报考辅导会上，专家向家长和学生描述着这样的前景。
“找工作容易，就业前景好，薪资待遇高！”现于中国科学院自动化研究所模式识别与智能系统专业读博的陈智强向记者证实。“我院研究生初次就业率始终保持在100%。”浙江大学计算机科学与技术学院副院长、浙江大学人工智能研究所所长吴飞介绍说，“超过70%的学生进入国企央企、全球500强或国内外著名IT企业就业。”
“几家欢喜几家愁”。用人方却面临窘境：人工智能相关专业的大学毕业生在就业市场供不应求，有媒体报道称我国人工智能人才“缺口超500万，供求比例仅为1∶10”。“坑多萝卜少”，供需严重失衡。
“由于过去缺乏足够的存量企业和教学资源，导致产业发展迎来重大机遇期时，现有的人才储备不足。”上海交通大学科学史与科学文化研究院特约研究员陈自富指出，尽管这一新兴产业出现人才缺口属正常现象，但它反映出我国高新技术人才培养机制的深层次问题。
问题迫在眉睫，必须尽快解决。
上海交大成立医疗机器人研究院，目标是建设国际一流的医疗机器人核心技术研发平台。新华社发
1.人工智能教育应建立在更全面、更客观、更清醒的认知之上
当前，新一代人工智能相关学科发展、理论建模、技术创新、软硬件升级等整体推进，正在引发链式突破，推动经济社会各领域从数字化、网络化向智能化加速跃升。“人工智能的迅速发展将深刻改变人类社会生活、改变世界”的观点已逐渐成为社会共识。
2017年7月，国务院颁布《新一代人工智能发展规划》（以下简称《规划》），强调“加快培养聚集人工智能高端人才”。《规划》对我国人工智能发展进行战略性部署，确立了“三步走”目标。“第一步”便是到2020年人工智能总体技术和应用与世界先进水平同步，人工智能产业进入国际第一方阵，成为我国新的重要经济增长点，人工智能技术应用成为改善民生的新途径，有力支撑进入创新型国家行列和全面建成小康社会的奋斗目标。
中国社会科学院科学技术和社会研究中心研究员段伟文指出，“根据《规划》，我国到2020年人工智能核心产业规模要超过1500亿元，带动相关产业规模超过1万亿元。相关人才需求的缺口无疑是巨大的”。
党的十九大报告提出，推动互联网、大数据、人工智能和实体经济深度融合。在陈自富看来，“加快培养聚集人工智能高端人才”的目标不仅与2020年全面建成小康社会相呼应，而且是深化供给侧结构性改革、推动中国跻身创新型国家前列的重要驱动力。在国家层面“加快引进全球顶尖人才和青年人才”的同时，高校如何把高端人才队伍建设作为人工智能发展的重中之重，完善人工智能教育体系，加强本土人才培养和储备，成为高校教育的重大课题。
“从智能革命及其将引发的社会转型的角度来看，问题不再是未来人工智能产业有多大的人才缺口，”段伟文指出，“其焦点问题将是整个教育、培训和创新的政策举措如何顺应时代要求，适应智能革命带来的全局性变革，从而实现根本性的转变。人工智能教育应建立在更全面、更客观、更清醒的认知之上。”
全球首款ARM架构高通量人工智能一体机亮相。 新华社发
2.建立一级学科的目标要尽快落地
尽管将人工智能或智能科技设为一级学科的提议，已经被高校提上了议事日程，但吴飞坦言，目前参与到人工智能产业中的人才，大多来自与人工智能有关联的计算机科学、自动化等专业，而非人工智能专业本身。
北京科技大学自动化学院智能科学与技术系副主任刘冀伟指出，目前，在国家教委的名录中，还没有人工智能正式的本科专业，一级学科也没有设置与人工智能相关的学科，从本科到研究生的办学都是在自动化、控制科学与工程、计算机等专业的“帽子”下办学，其层次已远不能适应我国经济社会发展对智能科技人才的迫切需求。
无论从人工智能本身的内涵和外延，还是从人工智能技术的发展和应用来看，人工智能都远远超出一个单一专业的体量，应该是一个专业类。刘冀伟表示，仅就已有专业来看，数据科学与大数据技术、机器人工程等专业，都应该是人工智能类专业的家庭成员。
《规划》鼓励高校在原有基础上拓宽人工智能专业教育内容，形成“人工智能+X”复合专业培养新模式，重视人工智能与数学、计算机科学、物理学、生物学、心理学、社会学、法学等学科专业教育的交叉融合。“一个行业、一个领域的发展不能只依靠单一专业的人才。”吴飞指出，从长远来看，人才培养必须克服滞后性，也要克服专业的单一性，要把人工智能专业人才培养，与其他行业人才的人工智能培训结合起来。
从人工智能发展及社会需求的角度看，人工智能类专业极有可能衍生出诸如机器感知与理解、机器学习、知识工程与知识处理、智能自主系统、自然语言处理等专业，进而形成一个丰富多彩、独立互补的人工智能类专业大家族。这意味着教育者必须用开放的态度和具有前瞻性的眼光，来统合人工智能教育。刘冀伟指出，“总之，一个健全的人工智能方向的教育体系，必须尽快建立起来”。
3.市场怎么要，我们就怎么给
“重视人工智能基础研究的同时，要大力推动应用研究和场景落地。基础研究往往是全球性的竞争，但由于社会经济发展的国情和制度差异，各国在应用研究和场景方面会存在一定的差异，因此我们应该寻求社会效益和经济效益边际产出较高的突破点。”陈自富指出，在我们这样的人口大国，社保、城市管理、医疗等方面数据资源比较丰富，行业信息化应用相对成熟，其在人工智能应用上的投入越多，带来的社会和经济效益就越明显，我们的教育就应该在这些方面给予加强。填补人工智能人才缺口，需要有更广阔的视野、更长远的计划。
教育对接市场、符合社会需要和基本国情，是人工智能专业教育跨不过去的坎。加强产学研合作，鼓励高校、科研院所与企业等机构合作开展人工智能学科建设，是《规划》提出的要求，也是解决问题的方法。
“扎实的专业基础、高水平的动手能力、务实求真的工作态度，一样都不能少，然而最重要的还是学生的知识技能符合市场需求。”吴飞介绍，浙江大学计算机科学与技术学院坚持以复合型、创新型和国际化的计算机领域高级专业人才为培养目标，在办学过程中培养了一大批从事计算机科学研究和工程系统开发的高端人才。同时积极开展创新创业教育，校友创办的企业越来越多，成功的案例也越来越多。学院根据就业市场与学生特点，采取多项措施，与多家知名企业合作，先后举办了十届就业指导月活动的建设，旨在夯实学生的知识，增强实操能力，为毕业生搭建了与企业直接交流的平台。
北京航空航天大学软件学院成立于2002年，十几年来致力于建设集成电路、嵌入式到云计算、大数据等专业。2017年开办人工智能专业，学院始终坚持市场需求导向，着力推进高等工程教育改革。北航软件学院党委副书记、人工智能专业执行主任王亚介绍，依托北航的资源以及丰富的工程教育实践经验，软件学院和知名互联网公司联合共建，深化产学研协同育人机制，继续践行新工科理念，探索人工智能人才培养的新模式，推动专业人才培养和产业生态建设的相生共融。
“新建的人工智能专业方向受到产业界和考生的高度关注和认可，报考学生踊跃，2017年招收人工智能专业方向非日制研究生122人。”王亚表示，“我们的目标是面向智能时代的人才需求，为支撑国家战略发展，培养具有较强创新创业能力和跨界整合能力的人才。同时，面向新经济开展专业建设，推动人工智能新技术的发展与创新。”
4.使人才真正为智能化社会服务
近年来，中国高校培养了一大批人工智能相关人才，研发力量逐渐壮大。吴飞介绍，据《基本科学指标》数据库（ESI）2017年11月数据统计，浙江大学计算机学科排名进入全球前1‰，列世界第30位；2018年THE（泰晤士报）世界大学专业排名中浙江大学计算机学科列第45名。
但在专家们看来，教育之重，不只在于培养人才的专业知识和专业技能；人工智能带来的变革，也不只体现在技术领域、经济领域。他们已经考虑到——人类与科技融合、人机共生境遇下的文化创造力，将深刻影响人类文明的未来，我们必须通过教育赋予其正确的价值导向。
“目前人工智能技术依然需要突破很多瓶颈。”段伟文指出，“根据哈佛大学教授霍华德·加德纳的多元智能理论，智能包括语言智能、数学逻辑智能、空间智能、身体运动智能、音乐智能、人际智能、自我认知智能、自然认知智能等八大智能，其中的很多方面，目前的人工智能尚未涉及。”
因此，许多专家达成共识，认为当代教育与学习变革的重要目标，要上升到“学以成人”的局面——使人成为智能化社会中有价值的存在，使人才真正为社会服务，保护人工智能发展过程中人的独特性、创造性、交互性、情感性以及人类尊严，用教育为人类未来构筑起一把文明的保护伞。段伟文表示，如果中国要在人工智能的国际竞争中居于有利地位，关键在于培养和吸纳更多掌握核心技术的高端人才，而不只在于培养一般的应用人才。
未来的教育必须转换视角，即从人类与科技分离和人与机器对立的二元视角，转向人类与科技融合和人机共生的系统协同视角。段伟文指出：“如果说未来社会将走向人类与机器人、智能自动系统等人工智能体共存的泛主体社会，那么人应该担当其中的主导者、创新者和决策者。这就对未来的教育与学习提出了新的总体目标：用教育和学习支撑人在未来智能化泛主体社会中的认知力、创造力和领导力。”
（中央人才工作协调小组办公室、光明日报国内政治部联合主办）
原文链接：光明日报（2018年2月4日 07版）
（责编：孟婍、李文慧）
ChatGPT爆火，中国人工智能向何处去—新闻—科学网
ChatGPT爆火，中国人工智能向何处去
“为什么一款聊天机器人能引起全球热议，尤其是引起人工智能（AI）产学研各界高度关注？”
近日，在一场学术分享活动上，西安电子科技大学人工智能研究院院长焦李成将上述问题抛出，然后给出了自己的答案：“它让大众见识到了人工智能的力量。”
ChatGPT会不会将人工智能带入第四次发展浪潮？焦李成没有就此给出答案，但他表示，目前全球已经有40多个国家制定了国家层面的人工智能战略政策、产业规划文件，推动人工智能赋能社会和实体经济。“各国计划都离不开硬件、软件、基础理论、应用和产业化方面的源头创新，而这些源头创新反过来就是国家使命的基础。”
AI发展再成焦点
今年全国两会如期而至。ChatGPT引发的各种讨论，也被代表、委员们带进了两会的议事厅。
全国人大代表、科大讯飞董事长刘庆峰提出，我国必须尽快推出能够实现智慧能力自进化的认知智能大模型，在自主可控平台上让行业尽快享受AI红利，让每个人都拥有AI助手。
全国政协委员、360集团创始人周鸿祎建议，通过建立大型科技企业+重点科研机构的产学研协同创新模式，打造中国的“微软+OpenAI”组合引领大模型技术攻关，并支持设立多个国家级人工智能大模型的长期开源项目，打造开源众包的开放创新生态。
全国政协委员、奇安信集团董事长齐向东提出，ChatGPT标志着人工智能成为了当前科技革命的核心技术之一，正在改变整个社会。作为应对之策，人们要做好将AI作为效率工具的准备，同时产研侧要以人为核心发展人工智能。
全国政协委员、北京通用人工智能研究院院长朱松纯则在他的一份提案中建议，最近ChatGPT的火爆，让大家对遥不可及的通用人工智能重新充满期待。而作为下一代“原子弹级”的关键技术，我国要将发展通用人工智能提升到当代“两弹一星”的高度，抢占全球科技与产业发展制高点。
……
事实上，早在2017年我国将发展人工智能上升为国家战略之前，人工智能就已是全国两会上的“常客”。只是这一次，ChatGPT的火爆让人们似乎看到了7年前AlphaGo（第一个战胜围棋世界冠军的AI机器人）的影子。人们不禁再次思考：中国该如何奋起直追？
“挑战前所未有”
ChatGPT本质上是一款大型语言模型，尽管其应用尚处于初级阶段，但焦李成认为，它作为AI一项技术创新和应用，展现了强大的生命力，代表了自然语言处理（NLP）领域数十年的积累，也为AI的下一步发展注入了新的活力。
仅从大型语言模型这一视角管中窥豹，就可见我国在全球AI竞争方面仍处于劣势。
刘庆峰告诉《中国科学报》，虽然我国也有多家机构和企业发布了一系列大模型，但未能真正走通“通用大模型预训练-基于Prompt（计算机语言）任务的有监督训练-基于人类反馈的强化学习”等系统性算法路径，大模型的智能水平相比ChatGPT仍有显著差距。
“可以预判，如果我国不能快速跟进，那么将在信息竞争、数字经济、人机交互甚至某些科学研究领域的国际竞争中处于被动局面。”刘庆峰说。
“我国的大模型与ChatGPT相比，技术上是存在差距的。”全国政协委员、中国科学院计算技术研究所研究员张云泉在接受《中国科学报》采访时透露，此次OpenAI对ChatGPT后续的改进算法并未开源，说明这几步很关键。而这种算法的改进，包括编码、指令、对齐等聊天方面的算法都是有专利的，可能在短期内不会向外公布。
更让张云泉忧虑的是，就连中国引以为傲的算力优势，在ChatGPT面前也显得单薄无力。
“虽然国内目前也在研发中国版AI芯片，但还没有一家能够完全对标英伟达高端芯片A100或H100。”张云泉说，后者是训练ChatGPT背后大模型的硬件基石，目前我国进口该类芯片尚处于受限状态。
为此，张云泉建议：“我国一定要加大在ChatGPT相关研发上的投入，要在芯片、算法上集中人才和力量，争取早日实现突破、打破垄断、弥补差距。”
朱松纯也直言，人工智能领域的激烈竞争已经超越了学术、产业、经济，上升到国家安全层面。世界各国都在纷纷加码人工智能战略，尤其是处于先进行列的美欧日俄等国更是强调AI领先优势，不断强化其战略地位。
焦李成不无担忧地说：“挑战是前所未有的，技术发展的迫切性也是前所未有的。”
独辟蹊径
从科学技术演进的视角看，我国AI的发展其实面临着一好一坏两个消息。
好消息是，随着产业研发与资本介入，国内外互联网巨头的研发都聚焦在诸如搜索、推荐、内容制作、美颜、聊天等应用方面。
学术界普遍认为，这一次深度学习的热潮并没有产生根本性的理论突破，只是依赖数据和算力的优势提升了系统性能，在一些应用问题上起到了“临门一脚”的效应。应用型、渐进式科研成果批量涌现的同时，从事人工智能基础理论和系统框架研究者的声音却十分微弱。
坏消息是，这种态势在我国更为明显。
“创新的差距在哪里？差距在人才。”焦李成表示，人工智能技术的演进是计算机、语言学、社会学、生物学、政治经济学等多个学科交叉的结果。2018年，美国麻省理工学院宣布投资10亿美元建设新的计算机学院，目标是把计算机和AI技术引入所有学科的研究中，想让所有专业的学生都用AI做研究。他以此为例谈到，交叉学科人才培养是AI发展的重中之重。
朱松纯援引钱学森先生“搞导弹不是靠一两个科学家，要靠一批有理论基础，又有实践经验的大的研究队伍”的话表示，要突破人工智能基础理论研究、创造代表人工智能最终目标的通用智能体，迫切需要组织跨领域的交叉研究，并以系统论、整体论思维开展有组织的团队科研攻坚，进而实现有全球影响力的原创性突破。
然而，当前我国人工智能人才储备不容乐观。据人力资源和社会保障部统计，全球人工智能人才储备中，中国只占5%左右，人工智能人才缺口超过500万人，供求比例为1：10，供需比例严重失衡。朱松纯认为，相比欧美国家，跨学科复合型人才的匮乏将成为制约我国人工智能产业发展的首要瓶颈。
2021年，国务院学位委员会决定设置“交叉学科门类”，并于2022年直接体现在研究生新版学科专业目录上。焦李成认为此举是我国“交叉科学发展和人才培养的大变革”。
“要以有组织的科研推进原创性、引领性创新。”在朱松纯看来，通用人工智能是智能科学的初心，也是终极目标；是科技制高点，也是必经之路。向着这个目标出发，他谈道：“从全局出发，我们不应盲目跟跑当前以大数据、大算力、大模型为特征的人工智能热点，而是要以强大的战略定力，‘纵向贯通、横向交叉’，独辟蹊径地探索自己的科研创新道路。”
版权声明：凡本网注明“来源：中国科学报、科学网、科学新闻杂志”的所有作品，网站转载，请在正文上方注明来源和作者，且不得对内容作实质性改动；微信公众号、头条号等新媒体平台，转载请联系授权。邮箱：shouquan@stimes.cn。人工智能可能有自主意识了吗
➤大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术
➤不同于当前依赖数据学习的技术路线，新一代人工智能强调在没有经过数据学习的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互
➤当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。在发展科技的同时，必须同步发展我们的规制体系
➤“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
今年6月，美国谷歌公司软件工程师布莱克·勒莫因称语言模型LaMDA出现自我意识。他认为，LaMDA拥有七八岁孩童的智力，并相信LaMDA正在争取自己作为一个人的权利。
LaMDA是谷歌去年发布的一款专门用于对话的语言模型，主要功能是可以与人类交谈。
为佐证观点，勒莫因把自己和LaMDA的聊天记录上传至互联网。随后，谷歌以违反保密协议为由对其停职。谷歌表示，没有任何证据支持勒莫因的观点。
事实上，“AI（人工智能）是否拥有自主意识”一直争议不休。此次谷歌工程师和LaMDA的故事，再次引发讨论。人们想知道：人工智能技术究竟发展到了怎样的阶段？是否真的具备自主意识？其判定依据是什么？未来我们又该以怎样的能力和心态与人工智能和谐共处？
人工智能自主意识之辨勒莫因认为LaMDA具有意识的原因有三：一是LaMDA以前所未有的方式高效、创造性地使用语言；二是它以与人类相似的方式分享感觉；三是它会表达内省和想象，既会担忧未来，也会追忆过去。
受访专家告诉《瞭望》新闻周刊记者，上述现象仅仅是因为LaMDA所基于的Transformer架构能够联系上下文，进行高精度的人类对话模拟，故能应对人类开放、发散的交谈。
至于人工智能是否已经具备自主意识，判定标准如何，受访专家表示，对人类意识的探索目前仍属于科技前沿，尚未形成统一定义。
清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说：“我们说人有自主意识，是因为人知道自己在干什么。机器则不一样，你对它输入内容，它只是依照程序设定进行反馈。”
中国社会科学院科学技术哲学研究室主任段伟文认为，一般意义上，人的自我意识是指对自我具备觉知，但如何认识和理解人类意识更多还是一个哲学问题而不是科学问题，这也是很难明确定义人工智能是否具备意识的原因。
被誉为“计算机科学与人工智能之父”的艾伦·图灵，早在1950年就曾提出图灵测试——如果一台机器能够与人类展开对话而不能被辨别出其机器身份，那么可以称这台机器具有智能。
这一设想随后被具化为，如果有超过30%参与测试的人以为自己在和人说话而非计算机，就可以认为“机器会思考”。
当前随着技术的发展，已经有越来越多的机器能够通过图灵测试。
但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周刊记者，图灵测试只能证明机器在表象上可以做到让人无法分辨它与人类的不同，却不能证明机器能够思考，更不能证明机器具备自主意识。
段伟文表示，目前大体有两种方式判定人工智能是否具有自主意识，一种以人类意识为参照，另一种则试图对机器意识进行全新定义。
若以人类意识为参照，要观察机器能否像人一样整合信息。“比如你在阳光下，坐在河边的椅子上看书，有树影落在脸上，有风吹来，它们会带给你一种整体的愉悦感。而对机器来说，阳光、河流、椅子等，是分散的单一元素。”段伟文说。
不仅如此，段伟文说，还要观察机器能否像人一样将单一事件放在全局中思考，作出符合全局利益的决策。
若跳出人类构建自主意识的范式，对机器意识进行重新定义，则需要明白意识的本质是什么。
段伟文告诉记者，有理论认为如果机器与机器之间形成了灵活、独立的交互，则可以称机器具备意识。也有理论认为，可以不追究机器的内心，仅仅把机器当作行为体，从机器的行为表现判断它是否理解所做事情的意义。“比如机器人看到人类喝咖啡后很精神，下次当它观察到人类的疲惫，能不能想到要为人类煮一杯咖啡？”段伟文说。
但在段伟文看来，这些对机器意识进行重新定义的理论，其问题出在，即便能够证明机器可以交互对话、深度理解，但是否等同于具备自主意识尚未有定论。“以LaMDA为例，虽然能够生成在人类看来更具意义的对话，甚至人可以与机器在对话中产生共情，但其本质仍然是在数据采集、配对、筛选机制下形成的反馈，并不代表模型能够理解对话的意义。”
换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术。
郭雨晨直言，尽管在情感计算方面，通过深度学习的推动已经发展得比较好，但如果就此说人工智能具备意识还有些一厢情愿。“把‘意识’这个词换成‘功能’，我会觉得更加准确。”
技术换道有专家提出，若要机器能思考，先要解决人工智能发展的换道问题。
据了解，目前基于深度学习、由数据驱动的人工智能在技术上已经触及天花板。一个突出例证是，阿尔法围棋（AlphaGo）在击败人类围棋世界冠军后，虽然财力和算力不断投入，但深度学习的回报率却没有相应增长。
一般认为，人工智能可被分为弱人工智能、通用人工智能和超级人工智能。弱人工智能也被称为狭义人工智能，专攻某一领域；通用人工智能也叫强人工智能，主要目标是制造出一台像人类一样拥有全面智能的计算机；超级人工智能类似于科幻作品中拥有超能力的智能机器人。
从产业发展角度看，人工智能在弱人工智能阶段停留了相当长时间，正在向通用人工智能阶段迈进。受访专家表示，目前尚未有成功创建通用人工智能的成熟案例，而具备自主意识，至少需要发展到通用人工智能阶段。
梁正说，大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。“如果你给这类语言模型喂养大量关于内省、想象等与意识有关的数据，它便更容易反馈与意识有关的回应。”
不仅如此，现阶段的人工智能在一个复杂、专门的领域可以做到极致，却很难完成一件在人类看来非常简单的事情。“比如人工智能可以成为围棋高手，却不具备三岁小孩对陌生环境的感知能力。”段伟文说。
谈及背后原因，受访专家表示，第一是当前人工智能主要与符号世界进行交互，在对物理世界的感知与反应上发展缓慢。第二是数据学习让机器只能对见过的内容有合理反馈，无法处理陌生内容。第三是在数据驱动技术路线下，人们通过不断调整、优化参数来强化机器反馈的精准度，但这种调适终究有限。
郭雨晨说，人类在特定任务的学习过程中接触的数据量并不大，却可以很快学习新技能、完成新任务，这是目前基于数据驱动的人工智能所不具备的能力。
梁正强调，不同于当前主要依赖大规模数据训练的技术路线，新一代人工智能强调在没有经过数据训练的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互。
相比人类意识的自由开放，以往人工智能更多处在封闭空间。尽管这个空间可能足够大，但若超出设定范畴便无法处理。而人类如果按照规则不能解决问题，就会修改规则，甚至发明新规则。
这意味着，如果人工智能能够超越现有学习模式，拥有对自身意识系统进行反思的能力，就会理解自身系统的基本性质，就有可能改造自身的意识系统，创造新规则，从而成为自己的主人。
“人工智能觉醒”背后有关“人工智能觉醒”的讨论已不鲜见，但谷歌迅速否认的态度耐人寻味。
梁正表示：“如果不迅速驳斥指认，会给谷歌带来合规性方面的麻烦。”
据了解，关于人工智能是否有自主意识的争论并非单纯技术领域的学术探讨，而关乎企业合规性的基本坚守。一旦认定公司研发的人工智能系统出现自主意识，很可能会被认为违反第2版《人工智能设计的伦理准则》白皮书的相关规范。
这一由美国电气和电子工程师协会2017年发布的规范明确：“根据某些理论，当系统接近并超过通用人工智能时，无法预料的或无意的系统行为将变得越来越危险且难以纠正。并不是所有通用人工智能级别的系统都能够与人类利益保持一致，因此，当这些系统的能力越来越强大时，应当谨慎并确定不同系统的运行机制。”
梁正认为，为避免社会舆论可能的过度负面解读，担心大家认为它培育出了英国作家玛丽·雪莱笔下的弗兰肯斯坦式的科技怪物，以“不作恶”为企业口号的谷歌自然会予以否认。“不仅如此，尽管这一原则对企业没有强制约束力，但若被认为突破了底线，并对个体和社会造成实质性伤害，很有可能面临高额的惩罚性赔偿，因此企业在合规性方面会更为谨慎。”
我国也有类似管理规范。2019年，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出人工智能治理的框架和行动指南。其中，“敏捷治理”原则主要针对技术可能带来的新社会风险展开治理，强调治理的适应性与灵活性。
中国信息化百人会成员、清华大学教授薛澜在接受媒体采访时表示，当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。特别是在第四次工业革命背景下，我国的人工智能技术和其他国家一样都处于发展期，没有现成的规制体系，这样就使得我们在发展科技的同时，必须同步发展我们的规制体系。“这可能是人工智能发展面临最大的挑战。”
在梁正看来，目前很难断言新兴人工智能技术具有绝对风险，但必须构造合理的熔断、叫停机制。在治理中既要具有一定的预见性，又不能扼杀创新的土壤，要在企业诉求和公共安全之间找到合适的平衡点。
毕竟，对人类来说，发展人工智能的目的不是把机器变成人，更不是把人变成机器，而是解决人类社会发展面临的问题。
从这个角度来说，我们需要的或许只是帮助人类而不是代替人类的人工智能。
为了人机友好的未来确保通用人工智能技术有益于人类福祉，一直是人工智能伦理构建的前沿。
薛澜认为，在科技领域，很多技术都像硬币的两面，在带来正面效应的同时也会存在风险，人工智能就是其中一个比较突出的领域。如何在促进技术创新和规制潜在风险之间寻求平衡，是科技伦理必须关注的问题。
梁正提出，有时技术的发展会超越人们预想的框架，在不自觉的情况下出现与人类利益不一致甚至相悖的情况。著名的“曲别针制造机”假说，即描述了通用人工智能在目标和技术都无害的情况下，对人类造成威胁的情景。
“曲别针制造机”假说给定一种技术模型，假设某个人工智能机器的终极目标是制造曲别针，尽管看上去这一目的对人类无害，但最终它却使用人类无法比拟的能力，把世界上所有资源都做成了曲别针，进而对人类社会产生不可逆的伤害。
因此有观点认为，创造出法力高超又杀不死的孙悟空本身就是一种不顾后果的冒险行为。
与其对立的观点则认为，目前这一担忧为时尚早。
“我们对到底什么样的技术路线能够发展出具备自主意识的人工智能尚无共识，现在谈论‘禁止发展’，有种空中楼阁的意味。”梁正说。
商汤科技智能产业研究院院长田丰告诉《瞭望》新闻周刊，现实中人工智能技术伦理风险治理的关键，是产业能够在“预判防范-应用场景-用户反馈-产品改进”中形成市场反馈机制，促成伦理风险识别与敏捷治理。同时，企业内部也需建立完整的科技伦理自律机制，通过伦理委员会、伦理风控流程平台将伦理风险把控落实到产品全生命周期中。
郭雨晨说，人工智能技术发展到目前，仍始终处于人类可控状态，而科技发展的过程本来就伴随对衍生问题的预判、发现和解决。“在想象中的人工智能自主意识出现以前，人工智能技术脚踏实地的发展，已经造福人类社会很多年了。”
在梁正看来，人与人工智能在未来会是一种合作关系，各自具备对方无法达成的能力。“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
编辑：李华山
2022年08月16日07:42:05