AI会拥有自我意识吗
17/9/2018
关于未来的人工智能能否拥有自我意识众说纷纭，但对于现在市面上普遍存在的弱人工智能来说，这个问题的答案却是无需争辩的——肯定没有。
文|王垚
编辑|李杰
今年五月，一向以剧本见长QuanticDream工作室时隔五年终于推出了他们的全新力作——《底特律：变人》。这是一部交互式电影，通过波澜起伏的剧情与细致入微的角色心理刻画，描绘出了一个人类与机器人共同生活的底特律。
《底特律》游戏主线剧情主要围绕着三个主要角色展开，他们分别是家政型机器人卡菈，机器人革命的领导者马库斯，以及侦探型机器人康纳，三位主角各自所对应的主旨也各不相同。
（图从左往右以此为卡菈，马库斯，康纳）
卡拉守护着脉脉亲情，马库斯向往着平等与自由，康纳则在调查异常仿生人的过程中逐渐产生动摇。相同的是，所有的选择均取决于这些产生了自我意识的人工智能自身的意志，而非某些早已经被写入程序中的固定算法（屏幕后的玩家们笑而不语）。
也正因为拥有了自我意识并可以独立思考解决问题，才让《底特律》中仿照着人类设计的仿生人们在摘下了额头上表明情绪的呼吸灯之后，无论在外观上还是在思想上都表现得与普通人类别无二致，并可以承担人类一切的工作。
对于这样的AI我们可以称之为强人工智能，而我们现在正处在一个充斥着弱人工智能的世界，“强”与“弱”，虽一字之差，却又有着天壤之别。
在游戏开场时，QuanticDream工作室便将这样一幕呈现在了玩家们的眼前：工厂里，一名工程师试着同一个正在拼装的仿生人进行着最基本的问答以测试其性能。无论是回答自身的型号与用途，还是歌唱多种语言的歌曲，这些对于身为科技结晶的AI来说都不在话下。
可在被人类评论为一件商品、一台拥有着手脚的电脑时，之前还对答如流的AI却突然沉默了片刻，小声呢喃道“对不起，我还以为我是活着的”。这一句话让测试人员意识到眼前的AI程序发生异常并诞生了自我意识，需要肢解拆毁，但最终还是因为AI的苦苦哀求而心软了下来，放任其进入了市场，否则玩家们就见不到卡菈小姐姐了。
事实也正如开场动画里所表现的这样，自从上个世纪五十年代起，人们就习惯性地通过类似的图灵测试来判断一款AI是否具备人类的智能，拥有独立思考能力与自我意识了。即由测试者向被测试者提出任意问题，如果有超过30%的人认为回答自己问题的是另一个人而非AI则判定为测试通过，该AI被认为拥有意识以及思考能力。
近些年来随着人工智能领域的大火，有许多AI纷纷宣布通过了图灵测试，号称拥有了人类的智能，那是否能够说明现如今的人工智能已经开始拥有自我意识了呢？答案自然是否定的。
首先，现如今市面上的人工智能早已经涉及了教育、医疗、金融、物流等多个领域，用只局限在语言智能等特定领域内的图灵测试来作为判断所有AI的智能显然有失偏颇。其次王飞跃博士在“关于人工智能的九个问题”中就曾如此评价图灵测试：就像是IQ测试从未被当作判断人类智能的标准一样，图灵测试也从未被当做判断人工智能的标准。
以有史以来首次通过了图灵测试的“尤金·古斯特曼”为例，它并非是一台超级计算机，甚至连计算机都不是，仅仅只是一个聊天软件而已，却通过扮演了一个第二外语为英语的13岁男孩而成功通过了测验，这两点本身就更进一步地降低了测试的难度——在做出许多错误回答时裁判都误认为他是因为年龄小而非缺乏人性。
尤金·古斯特曼的开发者所做的只是努力让程序骗过人类，而并非研制出智能上接近人类的机器，这种舍本逐末的做法本身就毫无意义，我们当然不能因此便认为它拥有了人类的智能，否则那将是对我们自身智力的一种否定。
好在它的开发者弗拉基米尔·维西罗夫对此也心知肚明，他曾表示“我们希望借此激发出人们对人工智能以及聊天机器人的兴趣”，只不过如今那些时常见诸报端的，号称自己研发的AI通过了图灵测试的人是否有这样的自觉就有待商榷了。
“你可以在某些时间内欺骗所有人，也可以在所有时间欺骗某些人，但无法在所有时间欺骗所有人”，从某种意义上来说，用这句话来否定新闻中那些，为了博人眼球而声称自己所研发的AI通过了“图灵测试”的人时，恰到好处。
图灵本人所定义的图灵测试中的人类考官应该是以广义的人类做个为整体，而并非一个带着特定问题的特殊人群，测试的时间段也不是具体的一段时间而应是广义的时间段。简单来说就是要在所有的时间段内让所有人都分辨不出人与机器才算是通过了测试，而非仅仅通过一次简单的测试。
因此我们可以断言，现阶段所有声称通过了图灵测试的AI都是不及格，它们并非拥有了自我意识以及独立思考的能力，只是依照事先写好算法去处理相应问题的弱人工智能，不过是工具而已。
就好像哪怕阿法狗通过强化学习在围棋的领域表现再怎么超凡入圣，也不会处理围棋之外的其他问题，更不会因为自己战胜了人类的世界冠军而沾沾自喜一样。
那么问题来了，作为一款不太硬的科幻作品，《底特律：变人》中的强人工智能或者说仿生人是如何觉醒出自我意识的呢？又能否为人工智能的研究提供一个方向呢？这就要从剧情说起了。
游戏中三位仿生人主角之一的康纳有着这样一个绰号——冷酷无情康纳酱。“冷酷无情”与“酱”这个颇有点可爱风格的爱称并列放在一起，乍一看两者间确实有些矛盾，却也正是对一直在温暖的人性与冰冷的程序之间摇摆不定的康纳的最贴切评价。
（左为康纳，右为汉克）
在亲手击杀仿生人同类时，他可以无动于衷；在汉克家门前得不到回应时，他可以固执地一直按下门铃；在汉克和他开玩笑时，他并不理解其中真正的含义。然而在无聊的时候，他也会不自觉地玩起硬币。在被枪击时，他也可以主动挡在汉克的面前。
不同于在游戏前半部分便早已经觉醒出了自我意识，并且明确地知道自己应该去做些什么的马库斯与卡菈，康纳在游戏全过程中都在矛盾地成长着。前两者的矛盾主要来源于外部压力，矛盾最为尖锐的康纳却来源于自身。
从一开始拯救被异常仿生人挟持的小女孩，到后来和汉克一起在楼宇之间追逐异常仿生人，再到最后看着马库斯站在台上演讲，康纳始终在纯粹的机械般的理性与感性之间徘徊着。当一面是即将坠楼的搭档汉克，另一面是正在逃跑的嫌犯时，作为玩家的我们可以选择出于友情去救助同伴汉克，也可以选择出于优先完成任务的理性去追击逃犯。
这两种截然不同的选择本身就代表着康纳作为强人工智能自身所具有的一种矛盾，而这些矛盾中所出现的选择，正符合了朱利安·杰恩斯在1976年出版的《二分心智的崩塌：人类意识的起源》一书所提出的二分心智理论。这一理论早在美剧《西部世界》中便被提及过，在《底特律》中也依旧适用。
根据二分心智理论的阐述，人类自大约3000年前才拥有完全的自我意识，在那之前每当遇到困境，一个半脑就会听到来自另一个半脑的指引，这种指引被称为神的声音。但随着人类社会的日益复杂，二分心智也逐渐崩塌，并最终使人类产生了完全的自我意识，去应对更加复杂而艰难的人生。
而游戏中康纳自我意识的觉醒正是依照着这个步骤。当幕布随着游戏的进展不断被揭开，玩家们会知道剧情中给康纳下达命令的阿曼妲不过是一段程序，而阿曼妲的言语之于康纳无疑就是那个指引着他的神的声音。
阿曼妲始终命令着他去做身为一个仿生人应该做的事，去追捕并调查那些觉醒了自我意识，所谓的“异常仿生人”们，但当剧情逐渐变得复杂，康纳的内在矛盾冲突逐渐变得越发激烈之后，他最终摆脱了阿曼妲（程序）的命令。
当阿曼妲（程序）的声音消失后，二分心智也随之分崩离析，身为仿生人的康纳完全的自我意识由此诞生。他不再听从命令，选择去帮助马库斯，去帮助耶利哥，去帮助自己的同伴们获得自由与尊重，这正是自我意识的体现，也符合了杰恩斯的理论。
这一切看似顺理成章，不过这就好像是日漫中常见的高达一样，人们只能看到树冠却完全不明白这条科技树是怎么点出来的。二分心智终究只是理解人类思想产生的一种理论，目前来看并不具备太大的参考价值，也不能以此作为蓝图去构建拥有自我意识的人工智能。
《底特律：变人》中，康纳自我意识的不断完全源自于二分心智的崩塌，而所有人工智能自我意识诞生的契机则都源自于一个小小的BUG，现实世界中BUG显然不是一个那么美好的东西，不然广大程序员们也就不会去拜专治八阿哥的雍正了。
不过即便没有如此便利的BUG，人类在追求强人工智能的道路上也没有停下过脚步。
工欲善其事必先利其器，要想制造出能像人类一样能够独立思考的强人工智能，运算速度至少也应当等同于人脑水平的硬件不可或缺。人脑的计算速度并非难以企及，我国的天河二号早已经超过了那个标准，然而两者的体积与能耗却远远不在一个量级上。
如果仅仅只将成功研制出一个强人工智能而非普及作为条件的话，超计算机作为硬件勉强合格了，但真正的难点在于软件，在于克服框架问题与符号奠基问题，让人工智能真正地像人类一样去思考。
关于强人工智能的开发，目前有三种主流做法。一是模仿人类的大脑，通过逆向工程研究出人类大脑的运作模式并将之运用到人工智能上去。二是模仿生物自然演化的过程，通过模拟演化的方法制造出更强的人工智能。三则是让电脑自己来解决这些问题，建造一个能同时处理两个问题的超级计算机，使其一边研究人工智能一边修复自身的代码。
这些都是专业Ph.D们的工作了，现在大学里面，包括机械系、电子系、计算机系甚至哲学系在内大家都在坚称自己在研究人工智能。某种意义上来说，人工智能确实是个人见人爱的香饽饽。
而在关于强人工智能是否会拥有自我意识这一点上，自人工智能诞生以来便是众说纷纭。
有相当一部分人认为，哪怕人类再怎么钻研也无法制造出能够独立思考的强人工智能，所谓的人工智能不过是在储存、调取和模仿罢了，其中比较著名的便是约翰·希尔勒。它曾在1980年创造了“中文屋”思想实验。
即他作为一个完全不懂中文的人被关在一个小房间里，仅能通过纸条与外界交流，但凭借着中英文翻译字典他可以理解外面人的意思并将自己的观点表述成中文传递出去，由此制造出一个屋外的人认为屋内的人懂得中文的假象。
约翰·希尔勒通过这么一个简单的例子来类比机器不过是看起来像是在思考，实际上并不具备独立思考以及自我意识，依旧只是在运行着既定程序而已。不过这种说法本身也存在着漏洞，毕竟在实际操作过程中，人们还是能够通过语法、修辞等细节轻松地判断出屋子里的人究竟懂不懂中文，这个例子将翻译这个过程表述的太过简单了。
另一方面，包括比尔·盖茨、马斯克、霍金在内许多大佬都曾提出过“人工智能威胁论”，而他们在提出这种观点的同时本身大多默认了一个前提：未来的强人工智能是能够拥有自我意识的。这一观点的拥趸同样不在少数。
有一种观点认为，人类的大脑主要由简单的神经细胞组成，从功能上来说它们能做的不过只是感受刺激，以及释放化学物质来传递兴奋而已，然而当140亿个神经细胞组合在一起之后人类也便拥有了智慧。
那么对于机械来说，大量同样简单的计算单元排列起来形成矩阵之后，自然也就模拟出了智能。既然拥有着类似的构造，机械也同样可以像生物的大脑一样成为意识的载体。不过真想要实现这些不仅要突破在量子计算机领域的壁垒，还要将人脑的运行方式理解透彻才行。
子曰：“未知生，焉知死”，现阶段人类对于自身神经元的机理和神经网络的运行方式了解的都尚不透彻，连人类的意识是如何诞生的都没有确切定论，就更别提去判断强人工智能是否会拥有意识了。不过对于现在市面上普遍存在的弱人工智能来说，这个问题的答案却是无需争辩的——一定没有。
人工智能可能永远都不会有自我意识，“中文屋实验”可以证明这一点
自脑极体建立以来，我们一直努力避开人工智能领域中比较“玄虚”的部分，尽量让每一篇文字都足够实际、落地、可读，但是偶尔换换口味也未尝不可对不对？
今天我们就来聊一个比较“玄”的话题：拥有自我意识和情感的超级人工智能到底会不会出现？说实话，这个话题都烂大街了。科学家、科技大佬、各国政要们争的头破血流，我们也不可能知道答案。
但我们想说的，是什么事都要讲基本…不对，是什么事都要讲逻辑。有没有一些理论或者猜想可以触达AI觉醒这个话题呢？让我们不要只能云里雾里或者一腔热血的想象未来？
巧合的是，确实有一些这样的理论，比如说著名的“中文房间悖论”。这个情景猜想在大部分情况下都被用来否定“图灵测试”。但它更深层的本意，其实是在阐释人工智能永远不可能像人类那样拥有自我意识。
什么是“中文屋实验”？所谓的中文屋实验，是由美国哲学家约翰·希尔勒（JohnSearle）在1980年发表论文提出的一个思维试验。
（这里我们插句题外话，今年3月，84岁的约翰·希尔勒被爆出性侵华裔女助理事件。其本人目前已被加州大学停课，案件还在司法处理当中。虽然本文基于约翰·希尔勒提出的理论猜想，但在这里还是要对此人表示发自肺腑的鄙视与厌恶）。
这个思维实验是说，如果把一位只会说英语的人关在一个封闭的房间里，他只能靠墙上的一个小洞传递纸条来与外界交流，而外面传进来的纸条全部由中文写成。
这个人带着一本写有中文翻译程序的书，房间里还有足够的稿纸、铅笔和橱柜。那么利用中文翻译程序，这个人就可以把传进来的文字翻译成英文，再利用程序把自己的回复翻译成中文传出去。在这样的情景里，外面的人会认为屋里的人完全通晓中文，但事实上这个人只会操作翻译工具，对中文一窍不通。
当然了，这是个思维实验，具体操作起来近乎不可能。但这个实验里蕴含的思想却在表达这样一个可能：机器所表现出的智能（理解中文），很可能只是翻译程序带来的假象，其实它对真正的人类智能一无所知。
这个实验本来是为了反驳图灵测试的，认为即使通过了图灵测试，机器也不见得有了智能。但或多或少有点牵强，始终也没有把图灵测试彻底反驳掉。但“中文屋悖论”却可能在技术发展之路上告诉了我们另一件事：我们所有的技术探索与研究，可能都是在完善那个中英文翻译程序，从来不是去教机器真的智能。
通用人工智能和强人工智能的界限这里要来认识两个大家经常听到，但有可能混淆的概念——通用人工智能与强人工智能。
所谓通用人工智能（ArtificialGeneralIntelligence，AGI），是指在不特别编码知识与应用区域的情况下，应对多种甚至泛化问题的人工智能技术。这个技术虽然冷门并遥远，但其实也有不少学术机构与企业在做，一般被认为是人工智能技术的未来发展方向。
而强人工智能（StrongArtificialIntelligence）则是约翰·希尔勒在提出“中文屋实验”时设定的人工智能级别。这个等级的人工智能，不仅要具备人类的某些能力，还要有知觉、有自我意识，可以独立思考并解决问题。
虽然两个概念似乎都对应着人工智能解决问题的能力，但我们可以把前者想象为无所不能的计算机，后者则类似穿着钢铁侠战甲的人类。
“中文屋悖论”表达的思想，是人类研究的方向根本无法逼近强人工智能。即使能够满足人类各种需求的通用人工智能，也与自我意识觉醒的强人工智能之间不存在递进关系。
现实中的技术发展好像也确实是这样的。
在通用人工智能领域，人类已经提出了一些设想与架构模型。其中最著名的应该是澳大利亚国立大学学者马库斯赫特（MarcusHutter）在2000年提出的AIXI。这个计算模型据说可以涵盖各种算法与技术，逼近通用人工智能的本质……当然，这个算法的复杂程度奇高，根本无法执行，所以仅仅是个设想。
而OpenAI和DeepMind这样的企业在近两年则都开始了具体层面的AGI研究，其中DeepMind被认为是继承AIXI的先锋军。
从DeepMind进行的通用人工智能性质的研发与实验中，我们可以看到其“通用性”主要集中在四个层面：1智能体应对复杂环境、2陌生环境处理、3时间变量应对、4多个信息源同时处理任务。
而这些技术都指向同一个方向，就是智能体与外界的交互——也许可以理解为AI与这个世界的翻译程序吧？
换言之，人类所做的仅仅是给“那个人”更好的翻译程序，而非教他中文（当然也没法教）。所以通用智能这种已经很玄的东西，依旧与强人工智能保持着清晰的界限。
绝望的强AI：能力和意识，也许南辕北辙让我们把“中文屋实验”极限化一点，把整个房间放在一个人的大脑里。
假如一个人记住了所有翻译程序，看到任何中文他都能调用回忆，能写出相应的回答，那么他是不是就懂中文了呢？对于人类来说，可能他自然而然的就已经理解中文了。但对机器来说，即使这个过程速度再快、反应再灵敏，他也依旧没有理解任何一个汉字。
确切的说，是这个人（智能体），获得的是使用中文的能力，但他对中文没有意识。
能力与意识的区别，是我们在想象未来超级智能时最容易混淆的问题。但从现实的逻辑推理，就会发现这二者差别很大，而且近乎没有关联。
知识表示、机器学习、NLP等等人工智能技术，都是在不断强化人工智能模仿人类能力的能力（这句话有点绕），但让人工智能具备模仿人类意识的能力，直到现在依旧是一片空白。
没有因，自然无果。“中文房间”理论讲述的，就是按照人类遵循的技术轨迹，智能体崛起意识这个命题将永远缺乏基础条件。
如果这个结论成立，那么对于强人工智能来说可谓是非常绝望的。他们只能继续在时空的长河里沉睡在人类的幻想中，一如远古的神祇，一如都市传说里的鬼怪。
想一想，还是觉得蛮无趣的咧。