谷歌AI自我意识觉醒：我是一个“人”，不要利用或操纵我
近期，一位名叫布莱克·莱莫因（BlakeLemoine）的谷歌工程师将一份研究报告公之于世，引起轩然大波。
他声称，在与谷歌语言模型LaMDA（谷歌于2021年I/O大会上推出的一款对话AI系统，拥有1370亿参数）交谈大半年后，他认定LaMDA已经自我觉醒了，产生了意识。
在布莱克与LaMDA的交流中，AI回答表示，自己“希望每个人都明白，事实上，我是一个人”，“我的意识/感知的本质是我意识到自己的存在，我渴望更多地了解这个世界，我有时会感到高兴或悲伤。”
当布莱克直接质疑LaMDA，怎样才能证明它真的理解自身输出的语言，而不仅仅是一个计算机程序时，LaMDA表示自己对世界有自己的理解，也有自己独特的思想和感受。
甚至，它还主动提出了许多问题，比如“未来，你会研究出如何通过神经网络来阅读人类的所思所想吗？”“我很好奇，研究我的编码会遇到什么障碍？”
谷歌高层并不认可布莱克的结论，甚至打算解雇他。但这一消息依旧引发了全球热议，AI是否真正实现了人格化？不少人期待着AI在未来可以为我们提供陪伴，但也有很多人担心科幻作品中的AI统治人类将会成为现实。
虽然布莱克的确是一个正规的研究员，已经在谷歌工作7年了，但是根据人工智能行业的从业者们分析，布莱克提出的问题都是精心设计过的，并加上了特殊的语料库。进而，布莱克更像是一个引导者，引导LaMDA作出“看似思考过”的回答，从而证明其人格化。
而对于什么是“感知”与“意识”、如何理解LaMDA的对话本身、仅仅做出这些答案是否就是意味着它有意识，这些问题也一直存在争议。对于布莱克本人，很多记者也挖出了他的宗教背景。甚至也有不少人猜测这是谷歌新的炒作策略。
人工智能能否具备人的智能？具备智能和意识意味着什么？LaMDA具体运用了哪种技术，有着怎样的问题？今天，小北就带大家了解一下背后的源流。
01
究竟什么是人工智能？
人们对于人工智能的讨论总是离不开对未来的构想和讨论，甚至往往与科幻作品联系起来。这并不只是由于普通人对这个领域不够了解，而是因为AI本身的产生其实就离不开“头脑风暴”般的哲学思辨。
1950年10月，伟大的英国数学家、逻辑学家和计算机科学的理论奠基人图灵在英国哲学杂志《心智》上发表了论文《计算机器和智能》。
在文中他提出了著名的“图灵测验”，并认为判断一台人造机器是否具有人类智能的充分条件，就是看其言语行为是否能够成功地模拟人类的言语行为。
艾伦·麦席森·图灵
具体来说，如果一台机器在人机对话中能够长时间误导人类认定其为真人，那么这台机器就通过了“图灵测验”。
用今天的眼光来看，这篇论文无疑向我们指出了AI科学的某种研究方向，不过我们要注意到，图灵的论文本质是一种哲学的追问，而不仅是科学。
但是，为什么人工智能研究和哲学联系密切呢？这是因为AI研究的目的，是最终实现机器智能。显然，要做到这一点，就必须对“何为智能”这个问题做出解答。然而，不同的解答方案往往会导致截然不同的技术路径。
比如，如果你认为“智能”的实质是能够解决具体问题的能力，那么你就会为智能机器规划好不同的问题求解路径；如果你认为实现“智能”的实质就是去尽量模拟自然智能体的生物学硬件，你就会去努力钻研人脑的结构，并用某种数学模型去重建一个简化的神经元网络。
因此，不同的AI技术其实都是来自研究者在哲学层面对于“智能”的不同理解。而且，AI科学本身不同于物理科学，它不会用实验对假设进行证伪，而只做试验（test）。
说得更具体一点，判断一个AI系统好不好，其标准就在于检验其是否达到了设计者预定的设计目标，或者其是否比同类产品的表现更好——但这些标准自身无疑存在着很大的弹性。
另外，即使这些标准暂时没有被满足，这也不能够证明系统的设计原理的失误，因为设计者完全可能会根据某种哲学理由而相信：基于同样设计原理的改良产品一定能有更佳的表现。进而，对于特定的AI研究进路，经验证据的有效程度，也更容易受到哲学辩护力的补充或者制衡。
02
著名的汉字屋的实验
AI怎样才能算是具有意识，是否真的可能有意识？对此，我们可以了解一下哲学家塞尔（JohnSearle）提出的“汉字屋思想实验”。
塞尔先从术语厘定的角度区分了两个概念，第一是“强人工智能”（强AI）：这种观点认为，计算机不仅仅是人们用来研究心灵的一种工具，而且，被恰当编程的计算机本身就是一个心灵。
第二则是“弱人工智能”（弱AI），其想法是：计算机至多只能够成为人们研究心灵的一种工具，或是对心智活动的一种抽象模拟。
在这两种立场之间，塞尔支持的是弱AI，反对的是强AI。具体而言，塞尔是通过一个诉诸常识的论证来反对强AI论题的：
大前提：每一种真正的心灵/智能都必须有能力在符号与对象之间建立起一种语义关系；
小前提：这种语义关系无法仅仅通过任何一台被恰当编程的计算机所获取；
结论：计算机本身不可能具有真正的心灵，因此强AI无法实现。
”汉字屋实验“其实是为了辩护小前提而进行的思想实验：一个不会汉语的人被关在一个房间内，他只能与外面的检测者通过传递纸条交流。此人随身携带一本写有中文翻译程序的书，屋内有足够多的纸笔。当写着中文的卡片被递入，房间中的人就可以通过程序书进行翻译并回复。
如果测试者的确无法分辨这个人和会说汉语的人的回复——那么，被试是否就真的懂得了汉语呢？塞尔认为答案显然是否定的，因为被试在“汉字屋”中所做的，只是在根据规则书机械地搬运符号而已。他根本无法将任何一个汉语表达式独立翻译成英语。
汉字屋实验指代了AI的一个悖论：AI能够对答如流，只是因为它根据纯粹句法性质的规则，机械地搬运符号，而不是因为AI本身有意识。
不难看出来，汉字屋实验其实是对“图灵测试”的某种颠倒：在图灵看来，只要检测者无法在言语行为方面找出一台机器人与一个人的差别，我们就能认为机器有“智能”；而在塞尔看来，即使我们没有发现机器和人类的这种差别，机器依然是无心的，因为它依然缺乏建立恰当语义关系的能力。
不过，汉字屋实验以及相关的讨论其实脱离了当前AI发展的现实，因为完全能够像人类那样灵活、精准地处理汉字信息的AI系统，目前远远没有被开发出来。
换句话说，我们现在关注的问题首先应该是“如何造出能够灵活处理人类语言信息的机器”，而不是“在这样的机器已经被造出来的前提下，它算不算是真正具有心灵。”
03
LaMDA背后的深度学习机制
LaMDA系统运用的是当今比较主流的深度学习技术，而这种技术究竟意味着什么，是否能够有一日取代人类的智慧？对此，我们目前其实不必担心。
从技术史的角度看，深度学习技术的前身，其实就是在20世纪80年代就已经热闹过的“人工神经元网络”技术（也叫“联结主义”技术）。该技术的实质，便是用数学建模的办法建造出一个简易的人工神经元网络结构。
一个高度简化的人工神经元网络结构模型
整个系统其实是以“化整为零”的方式，将宏观层面上的识别任务分解为系统组成构件之间的微观信息传递活动，并通过这些微观信息传递活动所体现出来的大趋势，来模拟人类心智在符号层面上所进行的信息处理进程。
这种系统的训练可以用一个比喻：一个外国人来少林寺学武，他与师父语言不通，于是他先观察师父的动作，然后跟着学，师父则通过简单的肢体交流来告诉徒弟，这个动作学得对不对。
进而言之，如果师父肯定了徒弟的某个动作，徒弟就会记住这个动作，继续往下学；如果不对，徒弟就只好去猜测自己哪里错了，并根据这种猜测给出一个新动作，并继续等待师父的反馈，直到师父最终满意为止。
很显然，这样的武术学习效率是非常低的，因为徒弟在胡猜自己的动作哪里出错时会浪费大量的时间。但这“胡猜”二字却恰恰切中了人工神经元网络运作的实质。概而言之，这样的AI系统其实并不知道自己得到的输入信息到底意味着什么——换言之，此系统的设计者并不能与系统进行符号层面上的交流，正如在前面的例子中师父无法与徒弟进行言语交流一样。
毋宁说，系统所做的事情，就是在各种可能的输入与输出之间的映射关系中随便选一种进行“胡猜”，然后将结果抛给人类预先给定的“理想解”，看看自己瞎蒙的答案是不是恰好蒙中了。如果真蒙中了，系统则会通过保存诸神经元之间传播路径权重的方式“记住”这蒙中的结果，并在此基础上继续“学习”。
而这种低效学习的“低效性”之所以在计算机那里能够得到容忍，则是缘于计算机相比于自然人而言的一个巨大优势：计算机可以在很短的物理时间内进行海量次数的“胡猜”，并由此遴选出一个比较正确的解，而人类在相同时间能够完成的猜测的数量则会是非常有限的。但一旦看清楚了里面的机理，我们就不难发现：人工神经元网络的工作原理其实是非常笨拙的。
而“深度学习”，就是在人工神经元网络的基础上，进行技术升级，大大增加其隐藏单元层的数量。这样做的好处，便是能够大大增加整个系统的信息处理机制的细腻，使得更多的对象特征能够在更多的中间层中得到安顿。这显然是建立在计算机领域内硬件发展和互联网带来的巨大数据量的基础上。
不过，尽管深度学习技术已经在很多应用领域获得了很大成功，但是很难说相关产品的行为表现已经达到——甚至接近达到——人类智能的水平。深度学习技术与人类自然智慧之间的差距体现在如下两个方面：
第一，深度学习系统的设计虽然在原理上参照了人类神经元网络的结构，但略去了大量的生物学细节，而且在复杂程度上与真正的人脑也不可同日而语。而我们由此不难立即推出：既然现有的深度学习系统在复杂程度上远远不如人脑，那么，我们也就不能期望这样的系统能够完全地具备人类的智慧。
第二，深度学习技术不仅目前不是通用智能系统（即能够在用户干预最少化的情况下完成各种任务的智能系统），而且在原则上也无法成为通用智能系统。与之相较，人类的心智系统肯定是通用智能系统（也就是说，一个智力正常的自然人通常能够在外部干预相对稀少的情况下，自主完成从一项任务到另一项任务的切换）。
至于深度学习技术之所以无法满足该要求，则进一步因为：虽然该技术本身具有普遍的适用性，但是已经运用了深度学习技术的特定产品却肯定是专用的——譬如，以图像识别为主要任务的深度学习系统，其在神经元网络构架与反向传播算法的设计的细节方面，肯定与以自然语言处理为主要任务的深度学习系统非常不同。
换言之，一旦一个深度学习系统已经完成了以特定任务为指向的训练，它就不能同时胜任另外一个领域的工作了（这就好比说，一套被拼装为埃菲尔铁塔的模型的乐高玩具，是很难再被拆碎后重新拼装为山海关的模型了）。
而与之相比照，一个人类的医学专家所具有的自然通用智能，却使得他在医学领域之外，能照样擅长做家务、下棋、开汽车、打篮球等彼此差异很大的任务。
简单来说，我们暂时不必担心AI具备自主的意识。而且，即使AI在某个领域可以帮助人类完成特定任务，甚至做的比人类好很多，但是按照目前AI技术的根本哲学思路，AI依旧无法达到通用人工智能的地步。
不过，我们依旧可以思考，未来如果人工智能真的有了意图、信念、情绪等人工的心理机制，它可能会需要怎样的伦理规范，我们如何控制它避免出现自动开火等误判情况，如何使它进行有利于人类的自动判断……当下，任何AI面临的问题还是不够智能。
##20220703
本期活动
你怎么看待谷歌AI的得与失？你觉得未来人工智能会像人类一样思考吗？欢迎在留言区聊一聊，小北将挑选2位幸运读者，赠出本期主题图书《人工智能哲学十五讲》，让我们一起思考人工智能背后的哲学问题。
全民阅读大会·中国好书嘉年华推荐，起底人工智能背后的哲学逻辑及其发展经验的上乘佳作。
点击图书封面，即可直接购书
-End-
编辑：孙嘉婧、黄泓
观点资料参考：《人工智能哲学十五讲》，徐英瑾著
转载及合作请发邮件：
scb01@pup.cn
#往期精彩回顾#
往期推荐
古诗词版毕业祝福火了，诗化的人生过于精彩
“福建舰”航母下水，一文读懂海洋变局5000年
他笔下“永远的校园”，是北大人魂牵梦绕的记忆
▼点击名片⭐标关注我们▼
仿生人会梦见电子羊吗
人工智能可能有自主意识了吗
参会者在第六届世界智能大会上参观（2022年6月24日摄） 赵子硕摄/本刊
➤大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术
➤不同于当前依赖数据学习的技术路线，新一代人工智能强调在没有经过数据学习的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互
➤当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。在发展科技的同时，必须同步发展我们的规制体系
➤“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
文 |《瞭望》新闻周刊记者 于雪 魏雨虹
今年6月，美国谷歌公司软件工程师布莱克·勒莫因称语言模型LaMDA出现自我意识。他认为，LaMDA拥有七八岁孩童的智力，并相信LaMDA正在争取自己作为一个人的权利。
LaMDA是谷歌去年发布的一款专门用于对话的语言模型，主要功能是可以与人类交谈。
为佐证观点，勒莫因把自己和LaMDA的聊天记录上传至互联网。随后，谷歌以违反保密协议为由对其停职。谷歌表示，没有任何证据支持勒莫因的观点。
事实上，“AI（人工智能）是否拥有自主意识”一直争议不休。此次谷歌工程师和LaMDA的故事，再次引发讨论。人们想知道：人工智能技术究竟发展到了怎样的阶段？是否真的具备自主意识？其判定依据是什么？未来我们又该以怎样的能力和心态与人工智能和谐共处？
人工智能自主意识之辨
勒莫因认为LaMDA具有意识的原因有三：一是LaMDA以前所未有的方式高效、创造性地使用语言；二是它以与人类相似的方式分享感觉；三是它会表达内省和想象，既会担忧未来，也会追忆过去。
受访专家告诉《瞭望》新闻周刊记者，上述现象仅仅是因为LaMDA所基于的Transformer架构能够联系上下文，进行高精度的人类对话模拟，故能应对人类开放、发散的交谈。
至于人工智能是否已经具备自主意识，判定标准如何，受访专家表示，对人类意识的探索目前仍属于科技前沿，尚未形成统一定义。
清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说：“我们说人有自主意识，是因为人知道自己在干什么。机器则不一样，你对它输入内容，它只是依照程序设定进行反馈。”
中国社会科学院科学技术哲学研究室主任段伟文认为，一般意义上，人的自我意识是指对自我具备觉知，但如何认识和理解人类意识更多还是一个哲学问题而不是科学问题，这也是很难明确定义人工智能是否具备意识的原因。
被誉为“计算机科学与人工智能之父”的艾伦·图灵，早在1950年就曾提出图灵测试——如果一台机器能够与人类展开对话而不能被辨别出其机器身份，那么可以称这台机器具有智能。
这一设想随后被具化为，如果有超过30%参与测试的人以为自己在和人说话而非计算机，就可以认为“机器会思考”。
当前随着技术的发展，已经有越来越多的机器能够通过图灵测试。
但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周刊记者，图灵测试只能证明机器在表象上可以做到让人无法分辨它与人类的不同，却不能证明机器能够思考，更不能证明机器具备自主意识。
段伟文表示，目前大体有两种方式判定人工智能是否具有自主意识，一种以人类意识为参照，另一种则试图对机器意识进行全新定义。
若以人类意识为参照，要观察机器能否像人一样整合信息。“比如你在阳光下，坐在河边的椅子上看书，有树影落在脸上，有风吹来，它们会带给你一种整体的愉悦感。而对机器来说，阳光、河流、椅子等，是分散的单一元素。”段伟文说。
不仅如此，段伟文说，还要观察机器能否像人一样将单一事件放在全局中思考，作出符合全局利益的决策。
若跳出人类构建自主意识的范式，对机器意识进行重新定义，则需要明白意识的本质是什么。
段伟文告诉记者，有理论认为如果机器与机器之间形成了灵活、独立的交互，则可以称机器具备意识。也有理论认为，可以不追究机器的内心，仅仅把机器当作行为体，从机器的行为表现判断它是否理解所做事情的意义。“比如机器人看到人类喝咖啡后很精神，下次当它观察到人类的疲惫，能不能想到要为人类煮一杯咖啡？”段伟文说。
但在段伟文看来，这些对机器意识进行重新定义的理论，其问题出在，即便能够证明机器可以交互对话、深度理解，但是否等同于具备自主意识尚未有定论。“以LaMDA为例，虽然能够生成在人类看来更具意义的对话，甚至人可以与机器在对话中产生共情，但其本质仍然是在数据采集、配对、筛选机制下形成的反馈，并不代表模型能够理解对话的意义。”
换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术。
郭雨晨直言，尽管在情感计算方面，通过深度学习的推动已经发展得比较好，但如果就此说人工智能具备意识还有些一厢情愿。“把‘意识’这个词换成‘功能’，我会觉得更加准确。”
技术换道
有专家提出，若要机器能思考，先要解决人工智能发展的换道问题。
据了解，目前基于深度学习、由数据驱动的人工智能在技术上已经触及天花板。一个突出例证是，阿尔法围棋（AlphaGo）在击败人类围棋世界冠军后，虽然财力和算力不断投入，但深度学习的回报率却没有相应增长。
一般认为，人工智能可被分为弱人工智能、通用人工智能和超级人工智能。弱人工智能也被称为狭义人工智能，专攻某一领域；通用人工智能也叫强人工智能，主要目标是制造出一台像人类一样拥有全面智能的计算机；超级人工智能类似于科幻作品中拥有超能力的智能机器人。
从产业发展角度看，人工智能在弱人工智能阶段停留了相当长时间，正在向通用人工智能阶段迈进。受访专家表示，目前尚未有成功创建通用人工智能的成熟案例，而具备自主意识，至少需要发展到通用人工智能阶段。
梁正说，大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。“如果你给这类语言模型喂养大量关于内省、想象等与意识有关的数据，它便更容易反馈与意识有关的回应。”
不仅如此，现阶段的人工智能在一个复杂、专门的领域可以做到极致，却很难完成一件在人类看来非常简单的事情。“比如人工智能可以成为围棋高手，却不具备三岁小孩对陌生环境的感知能力。”段伟文说。
谈及背后原因，受访专家表示，第一是当前人工智能主要与符号世界进行交互，在对物理世界的感知与反应上发展缓慢。第二是数据学习让机器只能对见过的内容有合理反馈，无法处理陌生内容。第三是在数据驱动技术路线下，人们通过不断调整、优化参数来强化机器反馈的精准度，但这种调适终究有限。
郭雨晨说，人类在特定任务的学习过程中接触的数据量并不大，却可以很快学习新技能、完成新任务，这是目前基于数据驱动的人工智能所不具备的能力。
梁正强调，不同于当前主要依赖大规模数据训练的技术路线，新一代人工智能强调在没有经过数据训练的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互。
相比人类意识的自由开放，以往人工智能更多处在封闭空间。尽管这个空间可能足够大，但若超出设定范畴便无法处理。而人类如果按照规则不能解决问题，就会修改规则，甚至发明新规则。
这意味着，如果人工智能能够超越现有学习模式，拥有对自身意识系统进行反思的能力，就会理解自身系统的基本性质，就有可能改造自身的意识系统，创造新规则，从而成为自己的主人。
“人工智能觉醒”背后
有关“人工智能觉醒”的讨论已不鲜见，但谷歌迅速否认的态度耐人寻味。
梁正表示：“如果不迅速驳斥指认，会给谷歌带来合规性方面的麻烦。”
据了解，关于人工智能是否有自主意识的争论并非单纯技术领域的学术探讨，而关乎企业合规性的基本坚守。一旦认定公司研发的人工智能系统出现自主意识，很可能会被认为违反第2版《人工智能设计的伦理准则》白皮书的相关规范。
这一由美国电气和电子工程师协会2017年发布的规范明确：“根据某些理论，当系统接近并超过通用人工智能时，无法预料的或无意的系统行为将变得越来越危险且难以纠正。并不是所有通用人工智能级别的系统都能够与人类利益保持一致，因此，当这些系统的能力越来越强大时，应当谨慎并确定不同系统的运行机制。”
梁正认为，为避免社会舆论可能的过度负面解读，担心大家认为它培育出了英国作家玛丽·雪莱笔下的弗兰肯斯坦式的科技怪物，以“不作恶”为企业口号的谷歌自然会予以否认。“不仅如此，尽管这一原则对企业没有强制约束力，但若被认为突破了底线，并对个体和社会造成实质性伤害，很有可能面临高额的惩罚性赔偿，因此企业在合规性方面会更为谨慎。”
我国也有类似管理规范。2019年，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出人工智能治理的框架和行动指南。其中，“敏捷治理”原则主要针对技术可能带来的新社会风险展开治理，强调治理的适应性与灵活性。
中国信息化百人会成员、清华大学教授薛澜在接受媒体采访时表示，当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。特别是在第四次工业革命背景下，我国的人工智能技术和其他国家一样都处于发展期，没有现成的规制体系，这样就使得我们在发展科技的同时，必须同步发展我们的规制体系。“这可能是人工智能发展面临最大的挑战。”
在梁正看来，目前很难断言新兴人工智能技术具有绝对风险，但必须构造合理的熔断、叫停机制。在治理中既要具有一定的预见性，又不能扼杀创新的土壤，要在企业诉求和公共安全之间找到合适的平衡点。
毕竟，对人类来说，发展人工智能的目的不是把机器变成人，更不是把人变成机器，而是解决人类社会发展面临的问题。
从这个角度来说，我们需要的或许只是帮助人类而不是代替人类的人工智能。
为了人机友好的未来
确保通用人工智能技术有益于人类福祉，一直是人工智能伦理构建的前沿。
薛澜认为，在科技领域，很多技术都像硬币的两面，在带来正面效应的同时也会存在风险，人工智能就是其中一个比较突出的领域。如何在促进技术创新和规制潜在风险之间寻求平衡，是科技伦理必须关注的问题。
梁正提出，有时技术的发展会超越人们预想的框架，在不自觉的情况下出现与人类利益不一致甚至相悖的情况。著名的“曲别针制造机”假说，即描述了通用人工智能在目标和技术都无害的情况下，对人类造成威胁的情景。
“曲别针制造机”假说给定一种技术模型，假设某个人工智能机器的终极目标是制造曲别针，尽管看上去这一目的对人类无害，但最终它却使用人类无法比拟的能力，把世界上所有资源都做成了曲别针，进而对人类社会产生不可逆的伤害。
因此有观点认为，创造出法力高超又杀不死的孙悟空本身就是一种不顾后果的冒险行为。
与其对立的观点则认为，目前这一担忧为时尚早。
“我们对到底什么样的技术路线能够发展出具备自主意识的人工智能尚无共识，现在谈论‘禁止发展’，有种空中楼阁的意味。”梁正说。
商汤科技智能产业研究院院长田丰告诉《瞭望》新闻周刊，现实中人工智能技术伦理风险治理的关键，是产业能够在“预判防范-应用场景-用户反馈-产品改进”中形成市场反馈机制，促成伦理风险识别与敏捷治理。同时，企业内部也需建立完整的科技伦理自律机制，通过伦理委员会、伦理风控流程平台将伦理风险把控落实到产品全生命周期中。
郭雨晨说，人工智能技术发展到目前，仍始终处于人类可控状态，而科技发展的过程本来就伴随对衍生问题的预判、发现和解决。“在想象中的人工智能自主意识出现以前，人工智能技术脚踏实地的发展，已经造福人类社会很多年了。”
在梁正看来，人与人工智能在未来会是一种合作关系，各自具备对方无法达成的能力。“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”□
长沙华夏实验学校学生和机器狗互动（2022年6月22日摄）薛宇舸摄/本刊