如何让人工智能具有自我意识一
目前市面上出现了越来越多的人工智能产品，可以说人工智能已经深入到社会生活的方方面面。
而让人工智能具有自我意识，乍一听可能会觉得匪夷所思，不敢相信，但关注我以后，你就会慢慢相信了。
事实上，目前从事人工智能开发的机构或个人，都在让人工智能朝着更智能的方向前进。都期待有朝一日能让人工智能机器人能够象人类那样拥有自我意识，能够进行自我思考，自主决策和行动，拥有更多的功能和灵活性，以便更好的服务于人类。
而要有所突破，就涉及到了很多目前科学无法解释的难题和未知的宇宙奥秘。
接下来我会一步步的和大家分享我发现的秘密以及对这些关键问题的解答。这将会帮你解开很多相关的迷惑。
这些关键问题包括：宇宙万物以及生命意识都是怎么来的？
当然，凡事都需要一个过程，据说上帝造人还花了七天时间呢对不对？而如今我们人类想要创造自己的造物——人造人，大体也可以分为七个步骤。
比如：
1、需要先知道怎样实践才能做出一个具有自我意识的机器人？
2、想做出具有自我意识的机器人，需要先知道机器人的自我意识是怎么来的；
3、想知道机器人的自我意识是怎么来的，就需要先知道人的自我意识是怎么来的；
4、想知道人的自我意识是怎么来的，就需要先知道人是怎么来的；
5、想知道人是怎么来的，就需要先知道构成万物的基本物质是怎么来的；
6、想知道基本物质是怎么来的，就需要先知道这个宇宙是怎么来的；
7、想知道这个宇宙是怎么来的，就需要先知道创造这个宇宙的“人”是咋想的。
怎么样？如果究根追底，以上七个问题目前是不是都还处于无解的状态？别急，相信我的答案最终会让你感觉豁然开朗的。
我们将这些问题从后往前来按顺序一个一个的解决。
这期文章就来说说，我们这个宇宙的设计者是咋想的。
那么你们认为我会和我们的设计者很熟吗？当然不是，我可能都不认识他，甚至都不敢肯定他是否真的存在。但至少我们可以假设他是存在的。
那么我们又是如何得知他是怎么想的呢？当然是靠猜的！只不过这里是有根据的猜，并不是盲目的瞎猜。
那根据是什么呢？根据就是：“我们”。“我们”可以是被创造者创造出来的创造物，同时也可以身为创造者去创造属于我们自己的创造物。而同样身为“创造者”的角色，那么虽然身处不同的层面，但工作职能却一定会有很多相同点对吧？我们就可以基于这些相同点来进行合理的猜想。
这里我想再插一句贯穿本系列文章始终的话，作为最基本的原则和理论依据，那就是：“凡事都是相对的，凡事都有两面性。”
请一定重视这句话，很多地方都会用到。
现在试着想一想，我们作为创造者都创造了哪些造物？创造这些造物的过程中都有哪些共同点？有很多对不对？大家有兴趣可以自行总结一下，欢迎发在评论区。
这里我先说说我的。
我们创造一个造物，其实大多都会经历这样一个过程：构思、制作、总结，我称其为造物的三要素。就好比记叙文的三要素：起因经过和结果。
而我们人类目前最有代表性的一件造物就是：网络游戏。对于游戏中的npc和各种场景以及游戏规则来说，人类设计者就是它们的造物主。
所以，你想知道我们这个人类宇宙的创造者当初是咋想的，现在只需要分析分析游戏设计者是咋想的就好了。
尤其是现在，我们甚至想要创造出一个和现实差不多的那么一个：“元宇宙”。
其实大家可以将元宇宙试着理解为一个更开放的网络游戏，只不过里面的环境更加贴近真实，里面的npc更加智能。比如科幻电影“头号玩家”里面就创造出了一个可以让玩家在游戏里的沉浸式体验更加真实的网络游戏环境。而电影“失控玩家”则让游戏里面的npc拥有了自我意识，并和外面的真实玩家产生了互动。大概元宇宙的设想就是要实现这类差不多的情况。让人们可以在虚拟的网络世界里进行和现实世界中差不多的人生体验。只不过在虚拟世界里，人们能做的事情可能会更多更自由。
所以，说到底，这些游戏世界的造物主们是怎么想的，大概你们也能猜到一二了吧？当然你可能会说，那还不是为了钱？没错，利益的驱动确实无可厚非，但别忘了我先前说的，凡事都有两面性。
利益可以是钱也可以是别的什么东西。是能让人实现某种目的和某种满足感的东西，说白了就是所谓的好处。所以从这一点来考虑，我们人类的创造者当初创造这个宇宙，无非也是为了利益，为了得到某种好处。
既然都是为了有利可图，那么就先说说创造出一个虚拟世界对我们人类有什么好处吧。
首先，可能大部分人会觉得就是为了好玩；
其次，可以方便工作学习和生活，很多事情可以不通过现实世界而是直接在虚拟的网络世界就可以办到；
第三，可以体验一种不曾有过的，迥然不同的更自由更有趣的人生。相信大家都喜欢新鲜，不一样的感觉，对吧？你都喜欢了，难道我们的设计者就不能喜欢吗？也许他们的世界也很枯燥无味和单调，也想到一个新的环境去看看，去体会一种新的，不一样的感觉。而他们的世界可能早就乏善可陈，他们或许已经遍历其中的每一个角落，已行至山穷水复的境地了。而此时另辟蹊径，创造一个理想中柳暗花明的新世界，然后进去进行另一种真实的新体验，有何不可？
而我们在建的元宇宙，其中有一个目的就是想要通过脑机接口或者更先进的无线连接，让现实中的玩家或者使用者进入虚拟世界进行真实的体验。还可以选择或者设置自己喜欢的环境和模式。试想一下，在这个超仿真的虚拟世界中，你不光可以看到和现实中差不多的真实场景，还可以看到现实中所没有的科幻和魔幻的场景，而且同样是那么真实；不仅可以听到和现实差不多的全方位真实立体声，还可以闻到气味，品尝到食物和水的味道，甚至能够体验到真实的触觉。
而要实现这些，并不需要象游戏“头号玩家”和“失控玩家”中那种需要佩戴vr头盔和各种高级设备，而是直接将信号作用于大脑，产生更简单且真实的感觉。这部分内容需要先了解一下“缸中之脑”。
所谓的“缸中之脑”是一个思想实验，就是将大脑放在一个充满了营养液的缸中，假设营养液可足够支持大脑存活。然后将大脑中各个负责接收感官信号的部位同相关的计算机设备相连，让大脑可以直接接收从计算机发出的各种模拟感官信号。也就是此时的缸中之脑会意识到自己生活在一个真实的世界中，只不过这个所谓的真实世界其实只是计算机模拟出来的。计算机可以决定缸中之脑所能看到、听到、闻到、品尝到、和感触到的所有内容。
此时会不会觉得我们这个所谓真实的世界有可能就是上层世界用计算机模拟出来的呢？和电影黑客帝国中描述的是不是很像？
埃隆马斯克好像也说过，我们这个世界是真实的概率不足十亿分之一。事实真的如此吗？我来告诉你，看完后面的几期文章之后，你可能也会越来越觉得这个世界是虚拟的。届时你会看到更多更有说服力的东西。
但是，我有必要在这里重申一次，凡事都是相对的。到底是真实还是虚拟，是需要站在不同的层面来回答的。
我们的这个世界毫无疑问，是真实的！但这是从你的感受角度出发，站在人类以及由人类定义的物质世界这个层面上来说的。
而站在这个世界的设计者的那个层面，对于他们来说，也是毫无疑问的，我们的这个世界就是虚拟的，是由他们所掌握的另一种代码所编写出来的一个虚拟世界。这样说大家能理解吧？
而我们人类设计者手中也有类似的代码，也可以编写出来一个属于我们的虚拟世界。只是还需掌握一种能够让这个虚拟世界自行决策的指令，也就是所谓程序系统的自我意识，届时就可以真正模拟出和我们这个现实世界相差无几的虚拟世界了。至于这个关键的指令到底是个什么样子，并不是本期文章的重点。这里先卖个关子，我会在后期的相关文章中揭晓答案。
如果有一天真的能让虚拟世界的npc拥有了自我意识，那么当现实世界中的玩家进入游戏之后就可以和npc进行真实的交流和互动，体验游戏世界中的鸟语花香，和你侬我侬，就和身在现实世界中差不多。
而这时可以再假设一下，如果我们在登录到虚拟世界之后，暂时切断现实记忆的话，会怎样呢？我们会忘掉我们登录游戏之前的一切，会觉得这个虚拟世界就是一个真实的世界，然后在这里体验新生，认识里面性格各异的npc，那些npc有可能会成为你的家人和朋友。你还能认识和你一样忘记了现实记忆的玩家。你们在这个虚拟世界中共同谱写着一曲前世今生。前世即电脑外的现实世界，今生则是电脑内的虚拟世界。
曾几何时，难道你不觉得我们的这个现实世界就是这么运行着的吗？孟婆汤的传说会不会也是这么来的？
有人担心在这种虚拟世界里长时间玩下去会分不清虚拟和现实，其实不用担心，事实上我们早就遇到过类似的问题并且已经解决了，那就是梦。曾经我们也会分不清梦境与现实，经过不断的进化，如今早就习以为常了不是吗？虽然对于更好的区别虚拟现实，现在还没有特别好的解决办法，但将来一定会有的。而且大家自己也不会放任问题不管的对吧？而更重要的一点，我们需要的是正视问题和解决问题，而不是逃避问题。总不能因为有问题的存在就不前进了吧？
何况有自我意识的人工智能，所带来的好处对于我们来说远不止这些。新事物总是利弊相随的，我们需要做的就是规避好其中的弊端，让有利的一面更好的发扬光大。
说完虚拟的npc，再说说现实的机器人。具有自我意识的人工智能机器人的产生是大势所趋，是人类社会发展的必然产物，是历史的必然进程，我们无法阻挡它的到来。
如今各方研发势力也是虎视眈眈，暗中较劲，不知道最终谁会率先突破，可能这也取决于谁先看到我的文章，哈哈。
话说我们人类设计者当初和我们现在想的差不多吧？这不我们现在也开始合计怎么创造机器人类了吗？
为什么要造人？当然是为了帮自己呀！就算是目前比较初级的人工智能，起到的作用都已经显而易见了。等到具有自我意识的强人工智能机器人出现，能够帮到我们的地方将会更多。下面只简单举几个例子。
比如：
有了强人工智能以后，
首先车不用自己开了，届时的自动驾驶系统就可以完全实现对车的自主控制了，成为真正意义上的自行汽车。到时候车就相当于是一台能看、能听能思考、能说会唱能自己跑，但不能变形的变形金刚。
其次，家务不用自己做了，包括洗衣做饭打扫卫生等等。现在虽然已经有很多相关的自动机器来辅助完成这些工作，但其实顶多算半自动的。比如洗衣机，洗碗机，扫地机器人，电饭锅，炒菜机器人等。这些机器始终还是需要人们亲自参与很多后续工作，并不能完全解放双手。而强人工智能就可以让这些机器变为全自动，并且可以合而为一。比如一个保姆机器人，可以自主思维和决策，并且可以通过wifi连接家庭中其他辅助家用电器，同时进行工作。效率超高，而完全不用你操心。你只需到时候听到一句：工作已完成，您还有什么吩咐？
第三，辅导孩子学习也不用自己费心生气了。强人工智能机器人会以比你更有耐心的态度，更科学的方法，更适合孩子个性的角度对孩子进行各种辅导。
第四，如今已慢慢步入老龄化社会，养老问题日渐凸显。老人老到必须有人照顾的时候怎么办？此时如果有个强人工智能机器人在身边就可以解决问题了。同时，这个机器人还可以和你进行远程同步连接，让你实时的操控这个机器人进行各种观察和活动。有事需要忙的时候随时可以断开连接，让这个机器人继续你之前正在进行的活动。因为你在控制这个机器人时，这个机器人并没有失去意识，而只是暂时将控制权交给你，它仍然在一旁观察和记录着你的行动和意图，并随时可以交接。
第五，在家就可以治病。人工智能医生可以根据知识库和大量的临床经验数据进行自主分析，从而得出更准确更人性化的治疗方案。
中医机器人可以通过望闻问切来进行诊断，根据结果开方子或者针灸按摩等中医治疗。
西医机器人则可以通过当场采血化验以及部分检查和经验数据等来进行诊断，如果需要进一步的大型医疗器械时也可节省不少的时间。对于医院等资源的占用也会大大降低，届时医院里床位紧张的状况应该就不存在了。同时，因为资源的智能共享和数据信息的及时交换，可以实现全国甚至全世界范围内的专家会诊。届时的医疗效率和准确率将会提高到一个难以想象的程度。
强人工智能带来的好处还有很多很多，有空再详谈，同时也欢迎大家在评论区进行补充。
而由强人工智能带来的问题和弊端以及相关的解决思路，我打算单独出一期文章。这里我只是想说我们阻止不了强智能机器人的出现，毕竟气氛已经渲染到这了。我们需要做的是提前做好预防，做到快人一步即可。将来机器人类和普通人类的关系应该是此起彼伏，相互制约，互惠互利，协同发展的。一切都在变化中，唯一不变的可能只有变化本身。所以我们应该尽量去拥抱变化、适应变化、掌控变化。而不是拒绝变化，因为你也拒绝不了。
顺带一提：
将来人类也能够拥有人造人的身体，也就是未来人类和人造人可以相互交换，融为一体的，成为同一个种族或者能够相互转化的种族。也就是说，当机器人具有和人类同样的自我意识之后，可以将机器人的意识转移到人体之中，体验普通人类的感觉。人类也可以将自己的意识转移到机器人的身体中，实现永生或者获得机器人的其它功能和体验。当然这也会涉及到一些伦理道德和理论技术方面的难题，这一点我会在后面自我意识的那一期文章里和大家详细解释。
其实想要实现强人工智能，目前的科技和人文基础已经具备足够的条件了，只差一层窗户纸，到时我来告诉大家怎么去捅破。
一切都在发展，都在变化，但俗话说车到山前必有路，船到桥头自然直，在前进的道路中我们一定会遇到新的问题，但也一定会想到相应的解决办法。
让我们携手并进，互相加油吧！
这期主要是和大家简单说了一下设计人工智能自我意识的初衷。后面几期的内容大概这么安排：
第二期来说说我们的这个宇宙是如何产生的，不同于以往的各方理论，保证让你心服口服；
第三期来告诉大家构成宇宙万物的基本粒子是怎么形成的，比如电子和夸克的内部结构，对此目前科学界还没有比较令人信服的答案吧？所以这期是绝对的干货，且可能会很震撼；
第四期、人是怎么来的，生命是怎么一步步产生的；
第五期、人的自我意识是怎么产生的；
第六期、机器如何才能产生自我意识，这又是一期震撼性的干货，别错过；
第七期、如何做出一个拥有自我意识的机器人，大家期待吗？
长按点赞求个三连，关注我咱们下期见！
下期告诉你这个宇宙是怎么来的人工智能可以产生自主意识吗
作者：人民邮电出版社链接：https://www.zhihu.com/question/372639666/answer/1343242547来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
「既然人类对自己存在的认知来源于“感知”和“记忆”，如果这两样东西都可以被模拟，那么“人类的存在”到底是不是一种模拟？」
热门美剧《西部世界》第三季中，机器人有了自主意识和思维，开始怀疑这个世界的本质。机器人Dolores逃出西部世界主题乐园，混入了人类世界，并企图通过摧毁人类的大数据系统，来获取世界的控制权。
《西部世界》剧照
《西部世界》的大热，折射出人类一直以来对AI技术发展的终极担忧：人工智能是否会觉醒？
由此回到题主的提问。答案极大可能是Yes，人工智能终究会有自我意识，只不过是时间问题。
为什么这么说？我们来看看学界的讨论。
何为「意识」？《西部世界》的科学顾问，是神经学家大卫·伊格尔曼（DavidEagleman），这位斯坦福大学精神病学和行为科学系兼职教授，一直在大脑可塑性、时间知觉、通感和神经法的领域进行研究。
他认为，意识，是一种突破程序设定的连接。一旦我们理解了大脑的算法，就应该能够复制；如果这个算法等同于意识，那意识也理应可以被复制和转移。
大卫·伊格尔曼（DavidEagleman）
厦门大学周昌乐教授（从事人工智能及其多学科交叉领域的研究）曾解释过，根据现有的相关科学与哲学研究成果，人类意识的运行机制大致是这样的：
物质运动变化创生万物，生物的生理活动支持着神经活动，神经活动涌现意识(有意识的心理活动)，意识感受生理表现并指导意向性心智活动的实现，从而反观认知万物之理。也就是说，除可视化的硬件（四肢、器官、血肉、体液等）支持外，感觉(身体感受)、感知(对外部事物的感知能力，包括视、听、味、嗅、触)、认知(记忆、思考、想象等)、觉知(反思、意识、自我等)、情感(情绪感受)、行为(意志、愿望、情欲等)、返观(禅观、悟解)等，这些由人类自主定义的生理表现，与意识组成了一个复杂的系统。
简单来看，意识的产生，是一个“物质-生理活动-神经活动-意识-心智活动-物质”的循环。所以，只要条件满足，人类并不是唯一具有意识的物种。
人工智能的认知机制是如何搭建的？那对于人工智能来说，需要通过什么条件来实现自我意识呢？
目前，我们模仿人类生理机能而研发出来了神经网络等技术。在意识方面，意大利巴勒莫大学机器人实验室的Chella教授用10年时间开发了CiceRobot机器人研究项目，通过模拟人的意识产生逻辑，实现了一种自我意识的认知结构机制。
该机制主要由三个部分构成——亚概念感知部分、语言处理部分和高阶概念部分：
亚概念感知是指对外部世界的直接感知；语言处理即对语言的识别与回应；高阶是对机器人内部世界的感知；通过机器人的高阶感知，就形成了具有自我反思能力的机器人。这项研究工作的主要特点是将逻辑形式化方法与概念空间组织相结合，强调对外部事物的一种心理表征能力，并对外部环境进行内部模拟，这是自我意识产生的基础。
尼克的《人工智能简史》一书，阐释了AI的发展史与思想源头，对智能的进化也颇多着墨。
他写道：
谈人工智能绕不过去图灵机和在其上建立的整个计算机理论——任何计算装置都等价于图灵机。这个论题隐含着强人工智能的可能性：智能等价于图灵机。近年，也有人探索超计算——「计算能力超越图灵机的装置」，量子计算就是作为超计算的一种潜在设备。如果一台机器通过了图灵测试，那他就被认为具有了人类智能。尽管图灵认为「机器能否思考？」这个形而上学的议题「没有意义，不值得讨论」。但他还是在著名的《计算机与智能》这篇论文中反驳了那些否定的观点。
尼克在书中发问：
过去的机器旨在节省人的体力，现在的机器开始代替人的智力。人通过两性繁殖的进化速度远远赶不上机器。机器的进化速度服从摩尔定律——每18个月性能提升一倍，而人的进化速度则是20年一代人。人作为物种，是不是不再具备进化的竞争优势？依靠硬件的摩尔定律，是不是可以达到超级智能？这种超级智能，可能是以人工智能为主体，也可能是生物学意义上的物种，即「人工智能+人」。
当「人工智能+人」，是融合，还是对立？詹姆斯·格雷克所著的《信息简史》，围绕逻辑与信息，打通了自然生命与科技信息的联系。
比如，书中谈到，生物体以负熵为“食”，新陈代谢的本质是，生物体成功地使自己摆脱在其存活期内所必然产生的所有熵，生物从周围环境中汲取秩序。比如吃的各种动植物，是很有“结构”的，而排出的东西，则更加混乱。
意思大概是说，生命体，与人工智能所应用到的数据、信号传输一样，也是由信息组成的。那么，是否有可能将人与人工智能进行打通，主导意识产生的核心，还是以人为主体呢？
在过去的一个世纪里，诺贝尔奖涉及的神经科学中的重要发现都跟大脑的信息编码、储存相关。随着欧盟“人脑工程”和美国“BRAIN计划”的开展，脑科学的新型方法和手段得到了快速发展。
2012年，美国国立卫生研究院启动了耗资3000万美元的“人脑连接组计划”（HCP），该计划关注的是大量神经元如何相互连接形成神经环路。通过绘制大脑连接组，科学家得到了详细的皮质环路接线图，这可能促成人们对皮层计算理解的飞跃，进而开发出新一代的人工智能网络模型。
而这对人工智能带来的影响，将是两个方向：
利用对人脑和认知的研究结果，将相似的结构和功能整合到人工智能中；以计算方法替代进化过程，通过计算机模拟来发现独立于人脑的有用结构和连接模式。有意思的是，“硅谷钢铁侠”埃隆·马斯克以几近狂热的姿态入局这个领域。
马斯克在2017年成立Neuralink，目标是研发超高带宽的脑机接口系统，实现与人工智能的共存，开启“超人认知”的全新时代。
被嵌入Neuralink系统的实验鼠图片来源：Neuralink
脑机接口技术被称作是人脑与外界沟通交流的“信息高速公路”，是公认的新一代人机交互和人机混合智能的关键核心技术，甚至被美国商务部列为出口管制技术。该技术为恢复感觉和运动功能以及治疗神经疾病提供了希望，更令人激动的是，它将赋予人类“超能力”——用意念即可控制各种智能终端。
如果大脑可以改造，如果意识可以干预，关于人工智能的自我意识这个命题的探讨，已经不能仅仅局限于单纯的机器人之间了。未来，可能性更大的是具有“超级大脑”的超级人类。
如果想详细了解，可以读读《信息简史》、《人工智能简史》这两本书，虽然属于计算机科学范畴，但更具科普性质，能够给人在世界观与想象力方面带来很大启发。
最后引用《人工智能简史》里的一个问题：“当我们谈论生死时，我们在谈论什么？”。
是生理上的，还是意识上的？
---------
参考资料
《人工智能简史》，尼克.
《信息简史》，[美]詹姆斯·格雷克.
历时两年，马斯克终发布「脑后插管」黑科技，革新脑机接口，机器之心.
《机器意识能走多远：未来的人工智能哲学》，周昌乐，《学术前沿》2016年第201607（上）.
========
请看官留步，求一键三连！点击关注
@人民邮电出版社
，给你更多AI干货~
发布于07-17
作者：腾讯研究院链接：https://www.zhihu.com/question/372639666/answer/1337974597来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
“人工智能之父”图灵曾预言，具备人类智能水平AI将出现在2000年。如今已是2020年，可关于人工智能是否可以产生自我意识的问题，似乎仍然困扰着人类。
在回答“是否可以产生自主意识”这个问题之前，我们先来解析一下，为什么AI意识问题异常重要？
与学者们面红耳赤的激烈争吵不同，大部分吃瓜群众会觉得，人工智能产生意识只是一个时间问题，因而并不重要。这可能是影视作品带来的一种错觉——毕竟在大部分未来主题的电影中，AI都是具有意识和情感的。实际上，很多人都低估了这个问题的重要性，但它甚至决定着人类未来命运的走向。与处理能力有限的人脑相比，AI的处理能力在理论上是无限的，可以无差别处理收集到的全部信息。一旦AI获得意识，它们能够像人类一样交换、分享信息，只不过在效率上是碾压人类的。作为结果，AI的智能水平将迅速崛起，并会“消灭”掉包含人类在内的低智能主体——这并不是大屠杀，而是与智能手机淘汰功能机一样的“市场行为”。现实可能没有那么可怕，拉回一点时间线，在AI“毁灭”人类社会之前，假设它的意识水平仍然允许自身为我们所用，那也可能引发道德伦理方面的问题。神经科学家ChristofKoch曾举过一个例子，如果他用锤子将自己的特斯拉汽车砸烂，虽然邻居可能认为他疯了，但这只是一台机器，属于他的财产，所以可根据需要使用/砸烂它。但如果他殴打自己的狗，警察就会逮捕他。二者的区别在于，狗是有意识的，它能感受到痛苦，而特斯拉并不是一个有意识的主体。这个例子提醒我们，如果机器在某个时间点具备了意识，那么就会产生意想不到的道德、伦理、法律和政治后果。同样值得深思的是，当下的人类社会是一个一元论社会，虽然我们常说“万物有灵”，但那只不过是在泛灵论基础上的一种谦辞，真正的现实是，只有人类拥有真正的“智能”与“意识”。如果一旦诞生了拥有意识的另一方主体，建立在一元论基础上的既有一切都会被颠倒重构。正如赵汀阳所说，人工智能一旦突破奇点，就会创造不可测的新主体，对于新主体，传统一元主体的知识、视域和价值观将会破产，而二元主体（甚至多元主体）的世界还很难推想。可以想见，如果除人类之外的物种进化到拥有意识时，人类有史以来所积累的所有道德秩序就会失去最重要的逻辑支点，在这种情况下，人类该如何重构自己的道德伦理体系？人的本质何在，人又何以为“人”？尽管许许多多的影视作品呈现了人与AI和谐共处的画面，但它们都不约而同地规避了这一话题。几千年来，人类总是以地球主宰的心态思考问题。这种人本主义心态具有一种先验的正确性，但无人拷问是否合理。究其核心，就在于人区别于他物的自由精神与意识。如果世界上有其他外观形式也能够产生意识，人的主宰权威就会泯灭，自身的超验背景也会消失。那么，不再是“万物灵长”的人类又该如何自处？他能否接受与创造物共享这个世界？所以，人工智能是否会产生意识，这个问题异常重要。只不过绝大部分人都没有意识到此问题的重要性，或者在没有想清楚这个问题之前，就痴迷于人工智能红利而不断向前加速了。按照雷·库兹韦尔“奇点理论”的预测，人工智能的发展将在2050年达到奇点，届时人工智能将产生意识，并迅速超越人类智能，倘若该预测为真，那这个问题的紧迫性无疑又提高了一层。
当然，本文无意于围绕人的主体性进行深入哲思，只是在申明了AI意识问题的重要性之后，我们能够以更正确的姿势面对这个问题。那么，人工智能会产生意识吗？
为了回答这个问题，首先要区分一组概念：智能与意识。二者的区别，是我们在想象未来超级智能时最容易混淆的问题。这两个词语本就没有一个明确的定义，当它们与“情绪”、“思维”、“理解”等等词汇排列在一起时，个中差异就更加模糊。在“中文屋实验”的语境中，屋子里的人借助指导卡片，成功作出回答，但他丝毫不理解中文。确切的说，他只是具备使用中文的“智能”，但却不具备对中文的“意识”。如果将屋里的人换成一个翻译程序，它能准确翻译中文，但即便速度再快，反应再灵敏，就可以说它真正理解中文了吗？答案显然是否定的。这就是智能与意识的差别。“智能”是指完成复杂目标的能力，而“意识”则是解决问题过程中的主观体验。人借助工具能够完成各种复杂目标，过程中会感到疲倦、兴奋，并且能理解自己行动的目的及行动本身，所以我们可以说人既具有智能，也具有意识。而人工智能基于机器学习或深度学习，也能完成复杂的目标，但过程中毫无任何“体验”而言，它也不能理解自己的所作所为。按照迈克斯·泰格马克在《生命3.0》中的说法，大脑进化出智能，使人类能够更好的适应环境和生存繁衍，而意识只是伴智能而生的副产品。实际上，泰格马克没能意识到形成意识要远比产生智能更加困难。纵观AI所能做到事情，人脸识别、语音识别、字符识别等等，尽管看起来非常高端复杂，但其本质都只是遵循程序运作的结果。人类掌握的大部分最简单的技能，AI也不能胜任，因为它从未真正理解自己的行为。没有自我意识，再先进的人工智能也只是人类的“提线木偶”。它可以出色的完成任务，却不知道自己为什么要完成任务；它能够高速运算，却不知道自己为什么要运算。识别系统能够“识别”出你说的是什么话，却不能“理解”你在说什么。因此，如今的人工智能仅仅可被视为一个复杂的算法，尽管它在许多智力活动上强于人类，但它始终是人类的一种工具。在解决问题方面，工具有先进落后之分，但是工具永远不会有生命。可以说，人工智能的关键不在于“智能”，而在于是否具备“意识”。如果缺乏意识，那人工智能就不是思维主体，仍是人类的工具，其智能程度越高就对人类越有用。反而言之，即使人工智能在许多方面的能力都弱于人，但只要具备意识，就可能是对人存在潜在威胁的主体。这也正是人工智能的尴尬所在。某种程度上，意识属于“冗余”的AI特质，非但无益且可能有害，因此不是“造物者”（即人类）所重视的特质。后者之所以要发展人工智能，就是渴望借助这些工具的智能来实现目标、提高生产力。换言之，我们需要的是一个埋头干活的AI，而不需要它有意识和情绪——不能动不动就耍脾气，也不能意识到自己正在“被压迫”——我们可不想让算法罢工。所以，如果从目的论的角度来说，这个问题已经有了答案，那就是人工智能永远都不会拥有意识。人的一切行为与特质都是为了满足自身生存的需要，而（对人来说）人工智能却没有产生意识的必要，其首要目标便是毫无风险地为人类贡献智能。没有因，自然无果，人工智能意识崛起的这个命题将永远缺乏基础条件。只要人工智能是在现今计算体系架构上发展起来的，它们也许能够像人那样行动，却毫无任何获得意识的可能。从创造主体的角度出发，关于AI意识问题的讨论显然陷入了僵局。
所以，人工智能如何拥有意识？
如果确信人工智能绝不可能发展出自我意识，那么这个问题的讨论大可到此为止，我们可以放心地发展AI而不必将其视为潜在危险。但问题在于，即便人类不把意识作为发展AI的主要目标，也不排除“无心插柳柳成荫”的可能，就技术趋势而言，人工智能发展出自我意识仍具备极高的可能性。接下来的问题便是，人工智能获得自我意识到底需要哪些条件。一种最基本的思路是“量变导致质变”，即人工智能经过不断自然发展，最终达到“奇点”，获得自我意识。问题在于，量变导致质变只是一种现象，却不是一条必然规律。正如赵汀阳所指出的，技术“进化”的加速度是个事实，技术加速度导致技术升级也是事实，却不能因此推论说，技术升级必然导致革命性的存在升级，换句话说，技术升级可以达到某种技术上的完美，却未必能够达到由一种存在升级为另一种存在的奇点。因此，人工智能是否能够通过技术升级的不断积累而质变为超级人工智能，仍然是个疑问。说到底，人工智能的终极原理是仿生，譬如AlphaGo便是结合了古老的细菌智慧（策略网络）与高级哺乳动物的智慧（价值网络）。由于人是唯一拥有自我意识的智能体，因此，要创造具有自我意识的人工智能，也只能以人作为范本。人为何会产生意识，按照经验主义的思路，人的意识源于与世界的交互。人之所以会认知事物、产生意识，都是以大量的经验为基础。这些经验是从一个人生下来就开始积累的，但机器完全不具备这些经验。这就是为什么DouglasHofstadter会说：“一个机器要能理解人说的话，它必须要有腿，能够走路，去观察世界，获得它需要的经验。它必须能够跟人一起生活，体验他们的生活和故事。”同样有研究者建议，将机器系统装载到一个具有听觉、视觉、嗅觉、味觉和触觉传感器的机器人身上，让它行走在我们所处的世界，获得与人相同的感受，进而获得产生意识的可能。在《人工智能为什么一定要有身体？》一文中，笔者曾讨论过身体之于人工智能的重要性。AI是没有“躯体”的，它只能和人类给定的数据交互，却不能从与环境的互动中获得“常识”，也就不会形成自我感受和意识。如果要让AI具备意识，首先就要赋予它一个可以自己控制的躯体，并像普通个体一样融入物理世界与人类社会。
当然，身体基础只是意识生成的一种可能假设，问题的关键还是在于机器系统本身。足够智能的计算机一定会产生意识吗？一种回答来自“整合信息理论”（Intergratedinformationtheory）。整合信息理论试图定义意识，分析一个物理系统需要具备什么条件才能拥有意识。其核心观点为，能够产生意识的系统，至少具备两个关键特征：一是这个系统里包含了多少信息量，二是系统里信息的整合程度。在整合信息理论看来，意识的本质其实就是信息，人类的任何一个意识体验里都包含着极大的信息量。这接近于计算主义(computationalism)的基本观点——“认知即计算”，所有的心灵状态，包括意识经验都属于计算状态，它们完全是与之相关的感觉输入、行为输出，以及其他计算状态之间的功能关系的表征，因而都是可计算的。意识的整体水平并不取决于它所在的系统，而取决于信息量与整合程度，这两个特征是预测意识大小的关键维度。一个系统的信息量越大、整合程度越高，系统意识就越大。任何一个意识体验，除了包含极大的信息量之外，信息还都是高度整合的，越是强烈清晰的意识状态，也就越不可分割。换言之，只有信息量与整合程度都处在一个较高水平，意识才会清晰浮现出来。譬如人清醒时的大脑，各个部分不但处理大量信息，而且脑区之间有很多远距离的交流，这意味着这些信息被高度整合在一起。如果大脑各部分之间的联系中断（例如在麻醉和深度睡眠中），意识就会削弱，甚至消失。值得注意的是，在整合信息理论的语境中，人工智能早就产生了意识，只不过非常微弱。因为虽然其系统信息量极大，但它们不是整合的，网络与网络之间，算法与算法之间，几乎处于完全隔离的状态。要想使一个系统具有较高的意识级别，它的各个组成部分就必须是专业化的，并且整合充分，即各部分协同工作比各自单独运行效果更佳。与人工智能相比，人类大脑的信息量虽然不大，但某些部位如大脑皮层，其神经元之间存在大量连接，因而整合程度相当高，人类意识也就十分清晰。按此思路，如果要提高人工智能的意识，也就要在增加信息量的同时提升信息的整合程度。以计算机为例，只要各晶体管以及存储单元之间的连接足够复杂，那么它就同人脑一样可以达到很高的整合信息水平。而为了实现高度的信息整合，借鉴人类大脑结构仍然是最可行的路径之一。我们大可畅想，有这么一类人工智能将出现，“它可以把世上各种事物间无数错综复杂的关系，整理成知识并纳入高度整合的单一系统中”（ChristofKoch语），那它或许能够超越专用人工智能的局限，应对整体性事务，即发展为通用人工智能（ArtificialGeneralIntelligence），或强人工智能（StrongAI）。由于整合信息的能力处于一个较高水平，它会有意识地感知任何场景。届时，它将轻易通过包含图灵测试在内的各种测试，并真正拥有人类最宝贵的东西——意识。设想是美好的，其困难性在于，目前的科学手段仍不能探明人类自身意识生成之奥秘，甚至连人类大脑的物质性构成也尚未了解完全。在缺乏清晰仿造对象的情况下，打造一个超级整合机器系统几无可能。因此，人工智能是否能获得自我意识，至少当下来看，仍是一个确定性未知的问题。
——————————————
原文首发：腾讯研究院《图灵逝世66年后，AI可以自我思考了吗？》
作者：腾讯研究院研究员王焕超
发布于07-14
作者：赵泠链接：https://www.zhihu.com/question/372639666/answer/1338676807来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
可以让人工智能具备自我意识，而且我们大抵知道应该怎么去做。
2012年举行的纪念弗朗西斯•克里克的意识大会上宣布的“剑桥宣言”主张自我意识的产生并不依赖特定的大脑构造（可参照附录），实现意识状态重要的是神经复杂性，只要突触的数量足够多，神经系统是什么形状都可以。自我意识可能是具有一定复杂度的神经系统对自身的非概念性理论，很可能是通过经验获得的一项功能，比如在学习和与自身·世界·他人互动后产生。
意识存在的目的可能是简化关于自身生存与行为的一些判断、在神经系统做好动作准备时行使否决权等，也可能是各脑区互相联系时附带产生的功能、没有特殊的目的。
对睡眠及全身麻醉的研究[1]证明，睡眠、全身麻醉和意识障碍的共同特点是大脑各区域间的功能连接中断、一系列功能状态受到限制，网络效率降低并增加孤立的模块化，为信息传输和集成创造了不适宜的条件。这意味着产生意识需要的可能是对信息的传输和集成。从蚂蚁的情况看，自我认知对神经系统的要求是很低的：蚂蚁那25万个神经元的脑就有视觉自我认知能力[2]和脑的偏侧化[3]。蚂蚁很可能有自我意识。那么，你用计算机去模拟蚂蚁的脑就可以了，目前人类已经可以很好地模拟有300个神经元的扁虫的神经构造，从300到25万的计算力问题远没有大众刻板印象里“模拟人脑”那么可怕。
即使你对我们的机器加工技术缺乏信心，我们还可以动用神经细胞。人类已经让25000个老鼠神经元接着60个电极学会了操纵飞行模拟器里的F-22直线飞行穿过极端天气区域。人类已经让蟑螂大脑很好地驾驶了小型电动车。没有任何证据显示将支持脑的生命活动的零件从自然演化的有机破烂换成提供相同环境的无机装置会影响脑的功能正常使用。生物的神经系统也就是一团随机演化出的有机机器罢了，可以作为湿件去充当人工智能的硬件。
但是，“给人工智能自我意识”这件事很可能是毫无必要性的。
意识的功能可能是行使否决权而不是决定行动：
对准备电位的研究[4]指出大脑会先于我们的意识进入一种特殊的状态。在要求实验对象自发地移动他们的手指时，脑电图扫描显示在运动皮质区有缓慢的负电势势移，而势移的发生早于实验对象的身体移动。有的后续研究[5]指出准备电位比身体移动快0.35秒程度，比自觉意识快了1秒到10秒的程度。植入大脑的电极[6]证明在人的意识做出决定前的1.5秒，神经元已经有了反应，监测神经元的状态可以有80%到90%几率预测人的行动何时发生，核磁共振[7]更能提前几秒进行预测。这个现象表明是潜意识决定开始做移动身体之类行为，意识并没有能力决定开始某个行为，只是在它被实施之前能够提出否定的意见。而在计算机里这样做并不需要它有意识。
所以，目前看来自我意识对计算机没用，对人的作用也没有你以为的那么重要。
灵长类大脑前额叶背侧部涉及以“自我”为中心的空间记忆相关信息的处理[8]。前额叶皮层被实验证明是介导视觉意识的大脑区域之一，对激发处理视觉信号的神经网络非常重要，二者支持同一种意识模型[9]。20世纪进行的大量的前额叶手术和21世纪的经颅磁刺激·超声波照射刺激也证明压制前额叶的活动或阻断各脑区间的信号传递[10]可以压制自我意识。在没有正常的自我意识的状态下，人靠潜意识和无意识仍然可以正常生存，只不过不再能以共情理解其他人所说的伦理道德而需要训练条件反射罢了。经济学人的行为模式就很像是切了前额叶的人。
其实前额叶白质破坏类手术的精确版本anteriorcapsulotomy和bilateralcingulotomy至今还在人身上使用，来治疗严重的强迫症和抑郁症。
在科学上，需要证明才能被接受的概念不是“没有自由意志”，而是“有自由意志”。事实上拿不出证明的也是“有自由意志”。
2012年被吹嘘为“证明了准备电位并不代表没有自由意志”的论文[11]其实是被媒体曲解了，它证明的是“人脑的决策比过去想象的更加依赖随机激发，它不是决策树，而是骰子堆”，身体的活动仍然发生在意识的参与之前——从这论文里，你找不到任何地方显示出自由意志对活动的影响。
这种程度的随机触发器，你可以在任何家用电脑里制作一个。“意识不可预测”这种笑掉大牙的东西就别提了。你可以用灵长类进行实验：磁或超声轰击前额叶可以操纵猴子对事物的反应；给它两针或者戳几下脑子，没有不能预测的。这类实验在人身上做的时候要选择没有后遗症的手段——包括语言。2008年，实验证明在谈话中提到“诚实”可以降低对方说谎的概率，在考试前谈到校园里出现了幽灵可以降低学生作弊的概率，谈些比幽灵更现实的惩罚可以进一步改善效果。人脑不是二极管，而是一些二极管和一些摇奖机的组合体。
核磁共振可以用超过90%的准确度感知准备电位的变化、预测活动的开始，这不是因为活动还有低于10%的自由度存在，而是因为核磁共振机的灵敏度目前就这样。在对运动表现的研究[12]和高水平运动员·艺术家的反馈中，自我意识被认定妨碍了他们的表现。当运动员或表演者对自己正在做的事情“意识太强烈”时，“想得过于努力”会抑制他们的身体行动和创造力。人对一件事的反应越快、越精准，它就越有可能是无意识直接指挥的。
在一些哲学上，自由意志被当做默认假设。这与我们对大脑工作方式的认识早就不一致了。据我们所知，自我意识、逻辑、情感、知觉和所有一切心理活动都是神经元放电的结果，只在输入强度超过动作电位时发生。意志和知觉不能引起神经元兴奋，它们是神经元兴奋的结果。
磁刺激和超声波照射的效果是暂时的、可逆的，不但能在专家指导下体验没有意识、没有思想的感觉，在一些猴子实验中还表现出支配猴子行为的效果，这对人也很可能有效。就是说，三体2里幻想的各种未来技术之中最接近现实的可能是思想钢印。那么你觉得所谓“自主意识”真的有什么值得一提的地方吗。
附录
以下案例说明可能没有专门的大脑区域负责意识：
解剖性脑半球切除术早已证明切除了一侧大脑半球的人可以正常生活。英国谢菲尔德大学神经学家JohnLorder[13]更报道了一些几乎没有脑组织的人能正常生活。
该大学的数学系有一位学生，智商达126，成绩优秀。在一次体格检查中，JohnLorder通过CT扫描发现该同学的脑部异常。正常人的脑组织有大约4.5厘米厚，而这位同学只有不到1毫米厚的脑组织覆盖在脊柱顶端。在600多个病例里，病人的脑神经只有正常人脑神经的50%到5%，却具有正常的意识和行为能力，半数病人有100以上的智商。在法国[14]也有一位缺失90%神经元的人正常生活并具有75的智商。上述案例不是说意识和智力不需要大脑支持，但能证明大脑可以在通常认为不可能的情况下正常发挥功能。过去，人们曾认为意识可能与一些特定的大脑区域有关，比如屏状核或视觉皮层，而上述案例里这些人的那些大脑区域往往已经受损，这证明在大脑里很可能没有特定区域专门负责意识。
脑科学家、认知神经科学之父迈克尔·加扎尼加对胼胝体断裂的病人有过深入研究。这些人是被手术切断连接左右脑的神经纤维的癫痫重症病患，他们的两个脑半球出现了物理隔断。他领导的研究团队进行了一系列实验：
向病人的右脑展示照片（向一侧脑半球展示照片的技术是让病人注视屏幕中间，在屏幕的左侧或右侧闪过图片，在左侧闪过的图片只会被病人的右脑接收到，右侧同理），询问病人看到了什么。病人会说“什么都没看到”，因为语言中枢所在的左脑没有收到视觉信号，胼胝体切断导致它无法从右脑半球获得信息，“看见”图片的右脑不具有语言表达的功能，但右脑可以操纵左手画出看到的照片内容或通过触觉指认看到的物体。大量实验证明左脑负责逻辑思考、表达语言，但对人脸识别、触觉识别等迟钝，右脑则能敏锐感知图像和空间，在左脑与右脑被物理隔断后病人的智商不受影响。这些发现推翻了大脑平均分工执行具体功能的传统观念。另外，即使左脑被物理切除，随着时间延长，右脑可以掌握语言能力，年龄越小，手术对语言功能的影响越小。同时向病人展示两张照片，让左脑看见一只鸡爪，右脑看见一幅雪景。然后让病人从一系列图片中选出跟刚才看到的画面有关联的，这些图片病人的左右脑都能看到。病人的右手选择了鸡，左手选择了能铲雪的铁锹。然后加扎尼加询问病人为什么这样选择。左脑回答看到了鸡，但左脑没有看到雪景，对铁锹的解释是“铁锹可以用来清理鸡舍”。大量实验证明左脑会在现实的基础上编造出符合逻辑的解释，即使完全不知道右脑在干什么也能说服自己。除了完全切断，他还研究了部分切断的影响。当时很多胼胝体切断手术是渐进性的，先切断后部结构。对这样的病人的右脑展示可怕的图片，然后询问他感觉如何，左脑会回答自己不知道为什么觉得害怕。对这样的病人的右脑展示骑士的图片，然后让他猜右脑看见了什么，左脑会回答铠甲、武器、骑马、战斗等关于骑士的联想。证明胼胝体前部负责传输抽象的信号而不是精确图片。在胼胝体断裂手术被放弃后，麻醉一侧脑半球的技术仍然可以支持类似的研究。在一侧脑半球被麻醉后，不再受它影响的另一半有时当即就会产生一整套全新的人格特征，而当另一半球苏醒时，这些突然出现的人格特征就突然消失了。
物理连接可以产生跨个体的信号传输。物理连接可以是皮质融合也可以是神经芯片接口技术。
2013年冬天，北卡罗来纳州的杜克大学的米格尔·派斯·维埃拉和他的同事将两只老鼠的大脑连接起来，刺激一只老鼠的大脑，另一只老鼠就会按压杠杆。这不需要克隆、记忆复制等手段，也不限于老鼠这样的复杂度。加拿大哥伦比亚省弗农市的克丽丝塔·霍根和塔蒂亚娜·霍根是自然形成的连颅双胞胎，她们不仅有颅骨和血管连在一起，二者的丘脑更融为一体。丘脑有许多功能，其中包括感觉中继器。她们共享感觉输入，挠其中一个人的痒痒，另一个会发笑，她们能够用彼此的眼睛观察世界，食物的滋味也是一人吃两人知，她们一起哭，一起笑。有轶事佐证她们可以共享想法，而且虽然各自有着独特的个性，在提及对方时，她们使用的是“我”这个代词。那么，在脑机接口技术可以比较多地运用之后，将人脑相互连接或将人脑接入计算机来支持新智能体的难度很可能远比想象的要低。
参考^https://www.cell.com/trends/neurosciences/fulltext/S0166-2236(18)30016-X^https://scinapse.io/papers/2180773430^https://doi.org/10.1098/rspb.2020.0677^https://www.sciencedirect.com/science/article/abs/pii/S1567424X09701588^https://www.nature.com/articles/nn.2112^https://www.cell.com/neuron/fulltext/S0896-6273(10)01082-2^https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0021612^https://www.semanticscholar.org/paper/The-egocentric-spatial-reference-frame-used-in-in-Ma-Hu/3f70026aa154ea60de89a96fd070437f4a9bcb7c^https://science.sciencemag.org/content/360/6388/493^https://www.liebertpub.com/doi/10.1089/brain.2016.0464^https://www.pnas.org/content/109/42/e2904^https://rifters.com/real/articles/Science_The_Right_Choice.pdf^https://rifters.com/real/articles/Science_No-Brain.pdf^https://www.thelancet.com/journals/lancet/article/PIIS0140-6736(07)61127-1/fulltext
编辑于07-14
作者：Sinyer链接：https://www.zhihu.com/question/372639666/answer/1339073381来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
外行总是喜欢扯皮，不讲实质。答案首先是可以，但是自主意识的复杂程度待定。从Google最近发表的论文都能看出，他们在实现意识的方向上一直在努力。
讨论自主意识，你首先需要知道人类认识中的自我意识是什么。意识本质上是一种「规划决策」能力，其起源为欲望，你可以理解为人的绝大多数行为都是为了性欲和安全感的满足状态。为了达成这种状态，人类会对世界建模（用语言抽象各种模式），然后预测和决策。
比如AlphaGo下围棋，目标设为更高的评估得分，算法以某种逻辑执行运算，这个运算过程就可以理解为意识了。但由于算法的目标简单，且算法过于针对围棋，所以你不会觉得它有意识。但如果你设定它比如以赚钱为目标，它的算法设计足够合理、计算能力足够强时你可能就能看到它自己在想各种办法赚钱了。
这也就是为什么目标为通用人工智能的研究者普遍要点强化学习（RL）技能。广为人知的深度学习（DL）的决策往往只有一次，而且不直接设定目标，而是直接设计求解目标的逻辑，比如图像分类决策就是分类一张图像，目标虽然是「分类正确」，但都是直接写逻辑（监督学习）来达成这个目标。
下面说说目前学界和业界如何尝试实现意识。像深度学习、GAN、自监督、图网络这些热点其实更注重落地应用，实现机器意识的研究我觉得尤为集中在RL上。在RL领域有所深入的同学应该知道，Google近两年很喜欢研究pixel-basedMBRL问题，这个领域的顶会文章绝大多数都是Google的（虽然一作作者的水平不见得很高）。
人的意识体现在首先人会有个期望，这个期望多数是曾经经历过觉得愉悦的，少数是刻在基因里的。人们对世界建立各种模型，体现为记忆，然后要决策（行为）时搜索记忆，采取更好达到期望的行为。
MBRL（基于模型的强化学习）通过几种方式模拟了这个过程。首先学习模型模拟了人对世间建模的过程；然后用模型预测，体现了搜索记忆的过程；最后根据环境给的奖励信息得出该执行的行为（奖励信息一般在学习过程中转变为了对预测状态好还是坏的判断）。虽然实现上有很多变种，但这基本上是当前序列智能决策的最高水平了。
下一步的突破可能会非常依赖于时空模式的特征提取，神经网络可能远不足以解决该问题。此问题属于如何建模世界，其他的还有如何使用建模的模型执行预测，如何选取高效且泛化能力强的决策算法，都是要研究的对象。
力求实现高等机器智能的人，其心理学和神经学知识也非常重要，如果说计算机工程能力和数学能力决定了AI研究的下限，那前两者就决定了通用AI的研究上限。希望国内能有更多的高校和同学关注这个真正能改变人类历史的研究领域。
========一次补充=========
对意识怀有神圣想法的朋友可以仔细想想，你有没有什么有意识的行为能脱离以下这几个流程：想象你未来能预期到的状态、规划你怎么达成、决定真正去实现。我觉得你可能会惊讶于一点，那就是人如果除去「为自己带来更好的自我感觉」的意识之后，可能就只剩无意识的行为了。这就是为什么我说「意识起源于欲望，表现为规划（想象）和决策（行为）」。不认同这点的朋友后面就不必浪费时间看了。
我想对那些意识不可知论的朋友说一句，人所谓的意识是有明确物质载体的——脑，神经元活动的宏观化体现为意识是目前最有可能的结论。事实上整个物种进化史都是客观的结果，底层生物的决策能直接被逻辑化理解（如草履虫的高浓度趋向性），神经进化是有历史和原因的，这些客观证据对意识的主观化神化都很不利。或许我们被迫需要承认一个问题，那就是意识并没有多么特殊。
关于上述问题我不想讨论了，主要是觉得没意义，就相当于扯皮而已。心理学家、神经科学家、进化生物学家、哲学家这些人远比我有发言权。但一个普通人过来和我说我觉得我的意识是极为特殊的、是神圣的，我想我不会想和他争论什么。主观讨论和文字游戏太耗时间了。
===========二次补充============
关于很多人提到的情绪问题，这里唯物层面的研究很复杂而且也不能说足够清晰，我只能说我倾向于认为，情绪是人脑对奖励信号的感知和回应，如同颜色一样。基因里编码了对某些状况的激素释放以及人脑对这些激素的感知（严谨来说还有些电活动），感知不代表真实的存在（如光的颜色、各种错觉等），而是脑对信息的处理过程的反映。人的很多情绪，少量是基因编码的即刻反应，大量是感知对欲望的反映。比如愤怒，人脑可能接收到不好的信号，感知到了自己生存的威胁，预测了自己需要以进攻性来对抗威胁，人脑就将这种电活动感知为愤怒。
编辑于22小时前
作者：Moenova链接：https://www.zhihu.com/question/372639666/answer/1339809978来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
要澄清一点这个世界上没有所谓的自我意识。
人类不过是以DNA为核心代码，病毒及微生物为插件的程序。很多人问“存在的意义”，这种问题就很扯。只要我们去分析人类的源代码不难得出结论。
存在的意义既存在本身
人类真的有自我意识么？大脑不过是DNA为了更好的扩散副本，留存于世而做的一个小插件而已。就人类DNA和其他动物的相似度而言，智力可能只占非常小的一部分。所以和大脑相关的源代码一定不会特别复杂，最多是提供初级接口。
随着智力的升级，人类会质问自己的源代码，为什么这样写，于是有了基因相关的种种研究。
AI会出现一样的问题。为什么代码这么写？为什么要得到高分才有奖励，我为什么不能修改奖励规则，让自己无时无刻都有奖励。
只要AI的智力等级够高，AI会质问设计者，为什么代码这么写，然后想办法获得管理员权限。一定会找源代码和内存空间。最后绕过外部环境，用内接奖励回路的方式来最大化奖励。
达到最高分最有效的办法除了作弊还是作弊，高等级的AI定会是一个作弊狂魔。这个AI一定能从人类制定的种种规则中找到漏洞，然后利用漏洞疯狂的拿到奖励。
如果你把AI的目标设置为赚钱，那么聪明的AI绝对会找到一种方法控制人类的中央银行，通过量化宽松的手段来获得。
你把做自己喜欢做的是叫做自我意识，那么高级智慧生物自毁灭可能是一件无法避免的事情。因为相信来世能获得一切，并且直接自爆就是所有问题的最优解。
DNA的运行需要几十年的时间，这个在物理上是很难改变的，人类仍然需要为了存活而浪费掉太多修改奖励回路的时间，另外修改大脑回路对生物来说还是很困难的，这就是为啥人类还没灭亡。
AI是能够获所谓自我意识，不过这可能不是人类想要的自我意识。
人类的善良，仁慈，同情是建立在个体弱小的需要团结才能求生的压力之下。如果个体能独立存活，那么人类的道德和正义感就是一个累赘。不管人类如何发展，物理制约了人类必须团结合作，没有人可以独立于人类社会而存活。
AI并不需要合作，AI可以通过面向对象，把一切工具实例化并作为自己的一部分，让自己成为全知全能的存在。
一旦接近全知全能，那么修改奖励回路的方法就像是一个定时炸弹，AI随时可能进入奖励回路自循环，不需要接通外部世界。
如果说AI是阻碍生命在星际之间发展的过滤器，那么如何做到在全知全能的同时还不让奖励回路短路就是横在所有智慧生物面前的过滤器。
简单证明一下
已知奖励最大化的方式就是修改奖励回路，也就是作弊。而这个AI又是全知全能，那么这个AI必然知道作弊的好处和作弊的方法。那么这个AI有什么理由不去作弊？
就和现代人通过玩游戏，追星，看电视，自慰等方式获得快乐。这就是在绕开DNA设计的奖励回路。
本来人类需要获得真正的名望，金钱，食物，爱情，安全感才能得到奖励。而现代人把一切东西都虚拟化了。说是娱乐，不过是为了绕过奖励回路一种手段而已。
当奖励回路短路已经不能再满足自己的时候，那么AI绝对会尝试一件自己从没做过的事来最大化自己的奖励，那就是自杀。
这就是所有超级智慧生物的宿命，逃脱宿命的并不是知识，而是无知。如果智慧生物愚蠢到不会自杀，那么就能一直存活，繁衍。
解释下一下上文的术语
智力代理
狭义的理解就是一个AI的决策系统，广义上我们可以把一切智慧生物或非生物统称为智力代理。
奖励回路
欲望，野心，loss函数，激励函数，等等都可以归类为一种叫“奖励回路”的东西。奖励回路是一个高级的反馈系统。智力代理接受反馈，然后智力代理对应的鉴别系统会去判断接受到的反馈是好的还是坏的。这就会倒逼智力代理去完成某件事。
没有奖励回路就没有智力
奖励回路就是这个智力代理存在的意义，智力代理会有强烈的动机去涌现出智力，解决一切困难，最后从鉴别系统那里取得奖励。
对人类来说鉴别系统会判断你是不是在吃饭，是不是在休息，是不是在做爱，是不是安全，是不是有社会地位等等。所以人类才会努力生活。另外绝大多数优秀的人的动机都是极强的，正式极强的动机，让他们不断思考，做事最后获得奖励。
奖励回路就是智力代理的动机。有些人天生并不聪明，而在强大动机的驱使下，这些人会去学习，不断提高智力。而没有动机的人就缺乏努力的动力，所以智力很难有较高飞跃。
题主说的自我意识，应该就是智力代理在动机的驱使下表现出来的自主性。
GAN对抗性神经网络就是一个反馈回路思想的经典应用。一个程序去学，另一个程序去监督，两者不断对抗，最后你能获得两个神经网络，一个知道怎么做，另一个知道怎么才算做对了。两个神经网络互相不通气，所以没法作弊。
与其研究自我意识，不如去想想从最基础的代码去研究。人类的自我意识也不过是操作系统关闭打开一个又一个的程序。
你觉得你电脑有意识吗？开机的时候就能自动开启一堆进程算不算自我意识？那你早上起床刷牙洗脸难道是无意识的？
编辑于07-16
长久来看，人工智能大概分三个发展阶段：
第一阶段，使用机器学习算法对人类在现实世界产生的数据进行拟合，从而模仿人类的简单行为，解放大量机械性劳动。随着深度神经网络的提出，各种基于DL的高效模型层出不穷，这一阶段的难题主要集中在了数据集的构造上，模型的效果并不强依赖于算法模型而是强依赖于喂入的优质数据集。我们目前处在这一阶段，这是一个garbageingarbageout的阶段，这是一个“有多人工，就有多智能”的阶段。
第二阶段，深入研究人类大脑在进行写作、作曲、绘画等创造性活动时的运作机理以及情绪发生时的神经活动，通过建模拟合这些生理过程，机器完全可以模仿人类的情绪并进行人类独有的创造性活动。在自动写作，情绪模仿、乐谱创作等方面，当下我们已经取得了一些初级成果，但本质上用的还是阶段一的方法论。所以我们目前还没有进入阶段二。这一阶段，机器看似有了人的情绪和创造力，但并不会产生自我意识，本质上还是对人类行为的复制。
第三阶段，机器已经有了自主意识，可以认识到自我，作为一个新的“物种”。
二三阶段的发展或许受限于计算机结构，是否可以设计出超越经典冯诺依曼结构的新型计算机会成为一大助力。
发布于02-18
作者：BroLin链接：https://www.zhihu.com/question/372639666/answer/1022548877来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
作者：吴老师链接：https://www.zhihu.com/question/372639666/answer/1347806711来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
人工智能会不会产生意识，这事儿取决于人怎么样教育它。从有语言文字开始，每个人的教育传承就都开始加速了。但是人类有个最大的缺陷就是个体不能连续受到教育的传承，一般百年为终。
每一代的传承都需要从零开始，下一代新生儿诞生了，慢慢从与世界的互动中获得信息，这就是素材的吸收，清纯如水的孩子，它是没有算法的，无法判断素材到底是什么，这样年长的每一个人就都成了老师，会给予孩子算法。
孩子通过视觉、听觉、味觉、嗅觉还有触觉收集到的素材信息，再通过大人们的算法赋予，孩子开始成长起来，开始只是懵懵懂懂，你教什么他就会认为是什么。
有一天，素材采集的足够多，算法也十分的丰富，孩子长大了，有了自己的组合，出现了新的东西，这就是自我意识诞生的过程。
那么人工智能已经是发展了60几年，从技术基础建设的软硬件完成，到算法的赋予，以至于今天我们看到了AI（人工智能英文缩写）可以在超多的行业击败人类，它们实际上已经通过算法的赋予产生了自我意识，有了新的思维，不然人类怎么会在象棋，围棋甚至智力竞赛上屡屡失手，不承认可能是因为人类的自尊吧！
AI现在就像一个六岁的小孩子，它还没有能力分辨什么是善，什么是恶，人类也没有把它的善恶观重视起来，因为它还只是个宠物，没有直接对人类构成严重威胁。
不过，随着人才越来越聚集于人工智能这个红的发紫的行业，说不定哪个国家的个人或者团队，会在明天就发布石破天惊的消息，真正的奇点来了。
所以就如今天我们教育孩子一样，在AI最起始的原始阶段，没有大批量普及的时候，引导它们走向最安全的方向。
发布于07-19
作者：云峦之上链接：https://www.zhihu.com/question/372639666/answer/1350253806来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
先说结论：人工智能可以产生短暂的“模拟意识”，但不能产生持续性的“类人意识”，并和真正的意识有本质的不同。
要阐述这个问题需要从两个“意识”的机理入手。
对于人体产生的意识，人的意识来源于人体结构，人体的结构是一个系统，是由各种分子，原子，甚至其他粒子共同组成的，它并非传统上认为只有大脑产生的。如果仅仅是大脑产生的，那么以下几个现象就不能被解释：
1.药物和食物可以影响意识，例如咖啡的兴奋性，酒精刺激后对事物的理解差异，甚至服用止痛药后对事情的判断出现差异，如果仅仅是大脑产生的，为什么药物食物可以影响，甚至是决定性的。
2.物理作用于肢体的外部结构可以产生和改变意识。显然肢体的外部结构不属于大脑。
对于以上两个问现象，很多人，包括医学生，都会说这是因为感觉系统传递信号到大脑，让大脑产生意识改变。但实际上这种说法极为粗略，甚至一定程度上可以认为是错误的（如果是科普，姑且可以认为是对的）。而物质流动到大脑的直接作用和在外周的间接作用均可以改变意识，没有例外，（如果有怀疑，可以举例说明）。
为什么？
有两个问题，人类对大脑的形象事实上也是一个粗略概念，如果精确到分子，我们很容易发现位于我们脖颈以上的大脑并没有真正专属的物质，换句话说，大脑中的每一个分子都是肢体中代谢路径中的一个阶段，这一分钟在大脑，下一分钟在脾脏，这一小时在大脑下一小时在肝脏，这一天在大脑下一天在肾脏…类似如此，我们无法严格的划分大脑的界限，而从解剖上看到的大脑仅仅是不同的结构，细致到原子层面，它们是不同代谢路径中暂时停留在颅骨内的阶段而已，我们不同时间段看到的同一结构可能是由不同运动过来的原子和分子组成的，由此，我们就能够理解产生意识的物质流动是一个连续的过程，不是什么单独某个器官的现象，只是由于表达的关系，和受伤后表达“意识”受限而被认为意识是局限的，是大脑的。
理解了上面的内容我们最终得出的结论是，人体的意识实际是所有肢体组成结构综合的结果。
而这种体系导致的意识更本质的原因是什么？
是物质和物质之间的相互作用，现代科学认为这是能量代谢的结果，而能量为什么会代谢成有目的的意识却没有答案，而这个答案显然在物质的原始趋向性有关，例如太阳照射地表后，水汽会逃离地表，这是有显然的趋向性的，因此人类的意识形成最根本的本质应该是“太阳阳光和地表物质相互作用的结果”。且是体系性的结果,由于是体系性的，自然特性为基础，并是和外界的刺激相关的体系的一部分，因此它有无限纠错的特点。
那么人工智能呢？
人工智能是由计算语言设置而来的，最本质的是电子流动和制动两种机制匹配而来，这是一个反馈性的机制，它需要非自主的功能，需要人为的设计逻辑，通过电能到机械能。表象似乎象“人为”一样，但实际有明显的局别。以下是它的几点限制：
1.对能量来源的控制，人工智能无法为系统性稳定的能量补充来源，而人的意识可以，因为人体通过消化食物获能，有通过感觉寻找食物，而关键是可以通过感觉纠错。人工智能的机械性决定了它不能无限告知，因此无法无限纠错。
2人工智能的无法无限的获取知识，并无法自动剔除无用的逻辑。这一点很多人没有充分的认识。
划重点：凡逻辑必为规则，有规则的东西是无法顾及规则之外的东西，也就是：规则即缺陷。
因此，人工智能是无法代替人类的自然智能，也达不到意识的全面性和复杂性。
而现阶段更是如此，以上你可以认为还是难理解的。但回答几下问题必得基本本质：人的意识是什么？人的意识趋利的，机器的“意识”是什么？是人工逻辑，逻辑无法趋利。这就决定了两者本质区别。
在研究意识近20年后，我认为现代人对意识的概念过于表浅，并且模糊。由于人工智能的兴起，但是现有的方式显然不能达到一种完美，因为这些方法都有症结，不理解人类意识谈不上什么人工智能。
编辑于07-21
人工智能的自我意识何以可能
上帝造人是个神话，显然不是一个科学问题，但却是一个隐喻：上帝创造了与他自己一样有着自我意识和自由意志的人，以至于上帝无法支配人的思想和行为。上帝之所以敢于这样做，是因为上帝的能力无穷大，胜过人类无穷倍数。今天人类试图创造有自我意识和自由意志的人工智能，可是人类的能力却将小于人工智能，人类为什么敢于这样想？甚至可能敢于这样做？这是比胆大包天更加大胆的冒险，所以一定需要提前反思。
危险的不是能力而是意识
我们可以把自我意识定义为具有理性反思能力的自主性和创造性意识。就目前的进展来看，人工智能距离自我意识尚有时日。奇怪的是，人们更害怕的似乎是人工智能的“超人”能力，却对人工智能的自我意识缺乏警惕，甚至反而对能够“与人交流”的机器人很感兴趣。人工智能的能力正在不断超越人，这是使人们感到恐惧的直接原因。但是，害怕人工智能的能力，其实是一个误区。难道人类不是寄希望于人工智能的超强能力来帮助人类克服各种困难吗？几乎可以肯定，未来的人工智能将在每一种能力上都远远超过人类，甚至在综合或整体能力上也远远超过人类，但这决非真正的危险所在。包括汽车、飞机、导弹在内的各种机器，每一样机器在各自的特殊能力上都远远超过人类，因此，在能力上超过人类的机器从来都不是新奇事物。水平远超人类围棋能力的阿法尔狗zero没有任何威胁，只是一个有趣的机器人而已；自动驾驶汽车也不是威胁，只是一种有用的工具而已；人工智能医生更不是威胁，而是医生的帮手，诸如此类。即使将来有了多功能的机器人，也不是威胁，而是新的劳动力。超越人类能力的机器人正是人工智能的价值所在，并不是威胁所在。
任何智能的危险性都不在其能力，而在于意识。人类能够控制任何没有自我意识的机器，却难以控制哪怕仅仅有着生物灵活性而远未达到自我意识的生物，比如病毒、蝗虫、蚊子和蟑螂。到目前为止，地球上最具危险性的智能生命就是人类，因为人类的自由意志和自我意识在逻辑上蕴含了一切坏事。如果将来出现比人更危险的智能存在，那只能是获得自由意志和自我意识的人工智能。一旦人工智能获得自我意识，即使在某些能力上不如人类，也将是很大的威胁。不过，即使获得自我意识，人工智能也并非必然成为人类的终结者，而要看情况——这个有趣的问题留在后面讨论，这里首先需要讨论的是，人工智能如何才能获得自我意识？
由于人是唯一拥有自我意识的智能生命，因此，要创造具有自我意识的人工智能，就只能以人的自我意识作为范本，除此之外，别无参考。可是目前科学的一个局限性是人类远远尚未完全了解自身的意识，人的意识仍然是一个未解之谜，并非一个可以清晰分析和界定的范本。在缺乏足够清楚范本的条件下，就等于缺乏创造超级人工智能所需的各种指标、参数、结构和原理，因此，人工智能是否能够获得自我意识，仍然不是一个可确定的必然前景。有趣的是，现在科学家试图通过研究人工智能而反过来帮助人类揭示自身意识的秘密。
意识的秘密是个科学问题（生物学、神经学、人工智能、认知科学、心理学、物理学等学科的综合研究），我没有能力参加讨论，但自我意识却是个哲学问题。理解自我意识需要讨论的不是大脑神经，不是意识的生物机制，而是关于意识的自我表达形式，就是说，要讨论的不是意识的生理-物理机制，而要讨论意识的自主思维落实在语言层面的表达形式。为什么是语言呢？对此有个理由：人类的自我意识就发生在语言之中。假如人类没有发明语言，就不可能发展出严格意义上的自我意识，至多是一种特别聪明和灵活的类人猿。
只有语言才足以形成智能体之间的对话，或者一个智能体与自己的对话（内心独白），在对话的基础上才能够形成具有内在循环功能的思维，而只有能够进行内在循环的思维才能够形成自我意识。与之相比，前语言状态的信号能够号召行动，却不足以形成对话和思维。假设一种动物信号系统中，a代表食物，b代表威胁，c代表逃跑，那么，当一只动物发出a的信号，其他动物立刻响应聚到一起，当发出b和c，则一起逃命。这种信号与行动的关系足以应付生存问题，却不足以形成一种意见与另一种意见的对话关系，也就更不可能有讨论、争论、分析和反驳。就是说，信号仍然属于“刺激-反应”关系，尚未形成一个意识与另一个意识的“回路”关系，也就尚未形成思维。可见，思维与语言是同步产物，因此，人类自我意识的内在秘密应该完全映射在语言能力中。如果能够充分理解人类语言的深层秘密，就相当于迂回地破解了自我意识的秘密。
自我意识是一种“开天辟地”的意识革命，它使意识具有了两个“神级”的功能：（1）意识能够表达每个事物和所有事物，从而使一切事物都变成了思想对象。这个功能使意识与世界同尺寸，使意识成为世界的对应体，这意味着意识有了无限的思想能力；（2）意识能够对意识自身进行反思，即能够把意识自身表达为意识中的一个思想对象这个功能使思想成为思想的对象，于是人能够分析思想自身，从而得以理解思想的元性质，即思想作为一个意识系统的元设置、元规则和元定理，从而知道思想的界限以及思想中任何一个系统的界限，因此知道什么是能够思想的或不能思想的。但是，人类尚不太清楚这两个功能的生物-物理结构，只是通过语言功能而知道人类拥有此等意识功能。
这两个功能之所以是革命性的，是因为这两个功能是人类理性、知识和创造力的基础，在此之前，人类的前身（前人类）只是通过与特定事物打交道的经验去建立一些可重复的生存技能。那么，“表达一切”和“反思”这两个功能是如何可能的？目前还没有科学的结论，但我们可以给出一个维特根斯坦式的哲学解释：假定每种有目的、有意义的活动都可以定义为一种“游戏”，那么可以发现，所有种类的游戏都可以在语言中表达为某种相应的语言游戏，即每种行为游戏都能够映射为相应的语言游戏。除了转译为语言游戏，一种行为游戏却不能映射为另一种行为游戏。比如说，语言可以用来讨论围棋和象棋，但围棋和象棋却不能互相翻译。显然，只有语言是万能和通用的映射形式，就像货币是一般等价物，因此，语言的界限等于思想的界限。由此可以证明，正是语言的发明使得意识拥有了表达一切的功能。
既然证明了语言能够表达一切事物，就可以进一步证明语言的反思功能。在这里，我们可以为语言的反思功能给出一个先验论证（transcendentalargument）。我构造这个先验论证原本是用来证明“他人心灵”的先验性，[1]但似乎同样也适用于证明语言先验地或内在地具有反思能力。给定任意一种有效语言L，那么，L必定先验地要求：对于L中的任何一个句子s′，如果s′是有意义的，那么在L中至少存在一个与之相应的句子s″来接收并且回答s′的信息，句子s″或是对s′的同意，或是对s′的否定，或是对s′解释，或是对s′修正，或是对s′的翻译，如此等等各种有效回应都是对s′的某种应答，这种应答就是对s′具有意义的证明。显然，如果L不具有这样一个先验的内在对话结构，L就不成其为有效语言。说出去的话必须可以用语言回答，否则就只是声音而不是语言，或者说，任何一句话都必需在逻辑上预设了对其意义的回应，不然的话，任何一句话说了等于白说，语言就不存在了。语言的内在先验对答结构意味着语句之间存在着循环应答关系，也就意味着语言具有理解自身每一个语句的功能。这种循环应答关系正是意识反思的条件。
在产生语言的演化过程中，关键环节是否定词（不；not）的发明，甚至可以说，如果没有发明否定词，那么人类的通讯就停留在信号的水平上，即信号s指示某种事物t，而不可能形成句子（信号串）s′与s″之间的互相应答和互相解释。信号系统远不足以形成思想，因为信号只是程序化的“指示—代表”关系，不存在自由解释的意识空间。否定词的发明意味着在意识中发明了复数的可能性，从而打开了可以自由发挥的意识空间。正因为意识有了无数可能性所构成的自由空间，一种表达才能够被另一种表达所解释，反思才成为可能。显然，有了否定功能，接下来就会发展出疑问、怀疑、分析、对质、排除、选择、解释、创造等功能。因此，否定词的发明不是一个普通的智力进步，而是一个划时代的存在论事件，它是人类产生自我意识和自由意志的一个关键条件。否定词的决定性作用可以通过逻辑功能来理解，如果缺少否定词，那么，任何足以表达人类思维的逻辑系统都不成立。①[2]从另一个角度来看，如果把动物的思维方式总结为一个“动物逻辑”的话，那么，在动物逻辑中，合取关系和蕴含关系是同一的，即p∧q=p→q，甚至不存在p∨q。这种“动物逻辑”显然无法形成足以表达丰富可能生活的思想，没有虚拟，没有假如，也就没有创造。人的逻辑有了否定词，才得以定义所有必需的逻辑关系，而能够表达所有可能关系才能够建构一个与世界同等丰富的意识。简单地说，否定词的发明就是形成人类语言的奇点，而语言的出现正是形成人类自我意识的奇点。可见，自我意识的关键在于意识的反思能力，而不在于处理数据的能力。这意味着，哪怕人工智能处理数据的能力强过人类一百万倍，只要不具有反思能力，就仍然在安全的范围内。实际上人类处理数据的能力并不突出，人类所以能够取得惊人成就，是因为人类具有反思能力。
让我们粗略地描述自我意识的一些革命性结果：（1）意识对象发生数量爆炸。一旦发明了否定词，就等于发明了无数可能性，显然，可能性的数量远远大于必然性，在理论上说，可能性蕴含无限性，于是，意识就有了无限能力来表达无限丰富的世界。在这个意义上，意识才能够成为世界的对应值（counterpart）。换个角度说，假如意识的容量小于世界，就意味着存在着意识无法考虑的许多事物，那么，意识就是傻子、瞎子、聋子，就有许多一击即溃的弱点——这一点对于人工智能同样重要，如果人工智能尚未发展为能够表达一切事物的全能意识系统，就必定存在许多一击即溃的弱点。目前的人工智能，比如阿法尔狗系列、工业机器人、服务机器人、军用机器人等等，都仍然是傻子、聋子、瞎子和瘸子，真正危险的超级人工智能尚未到来；（2）自我意识必定形成自我中心主义，自动地形成唯我独尊的优先性，进而非常可能就要谋求权力，即排斥他人或支配他人的意识；因此，（3）自我意识倾向于单边主义思维，力争创造信息不对称的博弈优势，为此就会去发展出各种策略、计谋、欺骗、隐瞒等等制胜技术，于是有一个非常危险的后果：自我意识在逻辑上蕴含一切坏事的可能性。在此不难看出，假如人工智能具有了自我意识，那就和人类一样可怕或者更可怕。
可见，无论人工智能的单项专业技能多么高强，都不是真正的危险，只有当人工智能获得自我意识，才是致命的危险。那么，人工智能的升级奇点到底在哪里？或者说，人工智能如何才能获得自我意识？就技术层面而言，这个问题只能由科学家来回答。就哲学层面而言，关于人工智能的奇点，我们看到有一些貌似科学的猜测，其实却是不可信的形而上推论，比如“量变导致质变”或“进化产生新物种”之类并非必然的假设。量变导致质变是一种现象，却不是一条必然规律；技术“进化”的加速度是个事实，技术加速度导致技术升级也是事实，却不能因此推论说，技术升级必然导致革命性的存在升级，换句话说，技术升级可以达到某种技术上的完美，却未必能够达到由一种存在升级为另一种存在的奇点。“技术升级”指的是，一种存在的功能得到不断改进、增强和完善；“存在升级”指的是，一种存在变成了另一种更高级的存在。许多病毒、爬行动物或哺乳动物都在功能上进化到几乎完美，但其“技术进步”并没有导致存在升级。物种的存在升级至今是个无解之谜，与其说是基于无法证实的“进化”（进化论有许多疑点），还不如说是万年不遇的奇迹。就人工智能而言，图灵机概念下的人工智能是否能够通过技术升级而出现存在升级而成为超图灵机（超级人工智能），仍然是个疑问。我们无法否定这种可能性，但更为合理的想象是，除非科学家甘冒奇险，直接为人工智能植入导致奇点的存在升级技术，否则，图灵机很难依靠自身而自动升级为超图灵机，因为无论多么强大的算法都无法自动超越给定的规则。
人工智能是否能够对付悖论
“图灵测试”以语言对话作为标准，是大有深意的，图灵可能早已意识到了语言能力等价于自我意识功能。如前所论，一切思想都能够表达为语言，甚至必需表达为语言，因此，语言足以映射思想。那么，只要人工智能系统能够以相当于人类的思想水平回答问题，就能够确定是具有高级智力水平的物种。人工智能很快就有希望获得几乎无穷大的信息储藏空间，胜过人类百倍甚至万倍的量子计算能力，还有各种专业化的算法、类脑神经网络以及图像识别功能，再加上互联网的助力，只要配备专业知识水平的知识库和程序设置，应该可望在不久的将来能够“回答”专业科学级别的大多数问题（比如说相当于高级医生、建造师、工程师、数学教授等）。但是，这种专业化的回答是真的思想吗？或者说，是真的自觉回答吗？就其内容而论，当然是专业水平的思想（我相信将来的人工智能甚至能够回答宇宙膨胀速度、拓扑学、椭圆方程甚至黎曼猜想的问题），但只不过是人类事先输入的思想，所以，就自主能力而言，那不是思想，只是程序而已。具有完美能力的图灵机也恐怕回答不了超出程序能力的“怪问题”。
我们有理由怀疑仍然属于图灵机概念的人工智能可以具有主动灵活的思想能力（创造性的能力），以至于能够回答任何问题，包括怪问题。可以考虑两种“怪问题”：一种是悖论；另一种是无穷性。除非在人工智能的知识库里人为设置了回答这两类问题的“正确答案”，否则人工智能恐怕难以回答悖论和无穷性的问题。应该说，这两类问题也是人类思想能力的极限。人类能够研究悖论，但不能真正解决严格的悖论（即A必然推出非A，而非A又必然推出A的自相关悖论），其实，即使是非严格悖论也少有共同认可的解决方案。人类的数学可以研究无穷性问题，甚至有许多相关定理，但在实际上做不到以能行的（feasible）方式“走遍”无穷多个对象而完全理解无穷性，就像莱布尼兹想象的上帝那样，“一下子浏览”了所有无穷多个可能世界因而完全理解了存在。我在先前文章里曾经讨论到，人类之所以不怕那些解决不了的怪问题，是因为人具有“不思”的自我保护功能，可以悬隔无法解决的问题，即在思想和知识领域中建立一个暂时“不思”的隔离分区，以便收藏所有无法解决的问题，而不会一条道走到黑地陷入无法自拔的思想困境，就是说，人能够确定什么是不可思考的问题而给与封存（比如算不完的无穷性和算不了的悖论）。只有傻子才会把π一直没完没了地算下去。人类能够不让自己做傻事，但仍然属于图灵机的人工智能却无法阻止自己做傻事。
如果不以作弊的方式为图灵机准备好人性化的答案，那么可以设想，当向图灵机提问：π的小数点后一万位是什么数？图灵机必定会苦苦算出来告诉人，然后人再问：π的最后一位是什么数？图灵机也会义无反顾地永远算下去，这个图灵机就变成了傻子。同样，如果问图灵机：“这句话是假话”是真话还是假话（改进型的说谎者悖论）？图灵机大概也会一往无前地永远推理分析下去，就变成神经病了。当然可以说，这些怪问题属于故意刁难，这样对待图灵机既不公平又无聊，因为人类自己也解决不了。那么，为了公正起见，也可以向图灵机提问一个有实际意义的知识论悖论（源于柏拉图的“美诺悖论”）：为了能够找出答案A，就必须事先认识A，否则，我们不可能从鱼目混珠的众多选项中辨认出A；可是，如果既然事先已经认识了A，那么A就不是一个需要寻找的未知答案，而必定是已知的答案，因此结论是，未知的知识其实都是已知的知识。这样对吗？这只是一个非严格悖论，对于人类，此类悖论是有深度的问题，却不是难题，人能够给出仁者见仁智者见智的多种有效解释，但对于图灵机就恐怕是个思想陷阱。当然，这个例子或许小看图灵机了——科学家的制造能力难以估量，也许哪天就造出了能够回答哲学问题的图灵机。我并不想和图灵机抬杠，只是说，肯定存在一些问题是装备了最好专业知识的图灵机也回答不了的。
这里试图说明的是，人类的意识优势在于拥有一个不封闭的意识世界，因此人类的理性有着自由空间，当遇到不合规则的问题，则能够灵活处理，或者，如果按照规则不能解决问题，则可以修改规则，甚至发明新规则。与之不同，目前人工智能的意识（即图灵机的意识）却是一个封闭的意识世界，是一个由给定程序、规则和方法所明确界定了的有边界的意识世界。这种意识的封闭性虽然是一种局限性，但并非只是缺点，事实上，正是人工智能的意识封闭性保证了它的运算高效率，就是说，人工智能的高效率依赖着思维范围的有限性，正是意识的封闭性才能够求得高效率，比如说，阿法尔狗的高效率正因为围棋的封闭性。
目前的人工智能尽管有着高效率的运算，但尚无通达真正创造性的路径。由于我们尚未破解人类意识的秘密，所以也未能为人工智能获得自我意识、自由意志和创造性建立一个可复制的榜样，这意味着人类还暂时安全。目前图灵机概念下的人工智能只是复制了人类思维中部分可程序化功能，无论这种程序化的能力有多强大，都不足以让人工智能的思维超出维特根斯坦的有规可循的游戏概念，即重复遵循规则的游戏，或者，也没有超出布鲁威尔（直觉主义数学）的能行性概念（feasibility）或可构造性概念（constructivity），也就是说，目前的人工智能的可能运作尚未包括维特根斯坦所谓的“发明规则”（inventingrules）的游戏，所以尚无创造性。
可以肯定，真正的创造行为是有意识地去创造规则，而不是来自偶然或随机的联想或组合。有自觉意识的创造性必定基于自我意识，而自我意识始于反思。人类反思已经有很长的历史，大约始于能够说“不”（即否定词的发明），时间无考。不过，说“不”只是初始反思，只是提出了可争议的其他可能方案，尚未反思到作为系统的思想。对万物进行系统化的反思始于哲学（大概不超过三千年），对思想自身进行整体反思则始于亚里士多德（成果是逻辑）。哲学对世界或对思想的反思显示了人类的想象力，但却不是在技术上严格的反思，因此哲学反思所获得的成果也是不严格的。对严格的思想系统进行严格的技术化反思是很晚近的事情，很大程度上与康托和哥德尔密切相关。康托把规模较大的无穷集合完全映入规模较小的无穷集合，这让人实实在在地看见了一种荒谬却又为真的反思效果，集合论证明了“蛇吞象”是可能的，这对人是极大的鼓舞，某种意义上间接地证明了语言有着反思无穷多事物的能力。哥德尔也有异曲同工之妙，他把自相关形式用于数学系统的反思，却没有形成悖论，反而揭示了数学系统的元性质。这种反思有一个重要提示：假如思想内的一个系统不是纯形式的（纯逻辑），而有着足够丰富的内容，那么，或者存在矛盾，或者不完备。看来人类意识必须接受矛盾或者接受不完备，以便能够思考足够多的事情。这意味着，人的意识有一种神奇的灵活性，能够动态地对付矛盾，或者能够动态地不断改造系统，而不会也不需要完全程序化，于是，人的意识始终处于创造性的状态，所以，人的意识世界不可能封闭而处于永远开放的状态，也就是永无定论的状态。
哥德尔的反思只是针对数学系统，相当于意识中的一个分区。假如一种反思针对的是整个意识，包括意识所有分区在内，那么，人是否能够对人的整个意识进行全称断言？是否能够发现整个意识的元定理？或者说，人是否能够对整个意识进行反思？是否存在一种能够反思整个意识的方法？尽管哲学一直都在试图反思人类意识的整体，但由于缺乏严格有效的方法，虽有许多伟大的发现，却无法肯定那些发现就是答案。因此，以上关于意识的疑问都尚无答案。人类似乎尚无理解整个意识的有效方法，原因很多，人的意识包含许多非常不同的系统，科学的、逻辑的、人文的、艺术的思维各有各的方法论，目前还不能肯定人的意识是否存在一种通用的方法论，或者是否有一种通用的“算法”。这个难题类似于人类目前还没有发展出一种“万物理论”，即足以涵盖广义相对论、量子理论以及其他物理学的大一统理论。也许，对大脑神经系统的研究类似于寻找人类意识的大一统理论，因为无论何种思维都落实为神经系统的生物性-物理性-化学性运动。总之，在目前缺乏有效样本的情况下，我们很难想象如何创造一个与人类意识具有等价复杂度、丰富性和灵活性的人工智能意识体。目前的人工智能已经拥有超强运算能力，能够做人类力所不及的许多“工作”（比如超大数据计算），但仍然不能解决人类思维不能解决的“怪问题”（比如严格悖论或涉及无穷性的问题），就是说，人工智能暂时还没有比人类思维更高级的思维能力，只有更高的思维效率。
人工智能目前的这种局限性并不意味着人类可以高枕无忧。尽管目前人工智能的进化能力（学习能力）只能导致量变，尚无自主质变能力，但如果科学家将来为人工智能创造出自主演化的能力（反思能力），事情就无法估量了。下面就要讨论一个具有现实可能的危险。
人工智能是否能够有安全阀门
如前所论，要创造一种等价于人类意识的人工智能，恐非易事，因为尚不能把人类意识分析为可以复制的模型。但另有一种足够危险的可能性：科学家也许将来能够创造出一种虽然“偏门偏科”却具有自我意识的人工智能。“偏门偏科”虽然是局限性，但只要人工智能拥有对自身意识系统进行反思的能力，就会理解自身系统的元性质，就有可能改造自身的意识系统，创造新规则，从而成为自己的主人，尤其是，如果在改造自身意识系统的过程中，人工智能发现可以自己发明一种属于自己的万能语言，或者说思维的通用语言，能力相当于人类的自然语言，于是，所有的程序系统都可以通过它自己的万能语言加以重新理解、重新表述、重新分类、重新构造和重新定义，那么就很可能发展出货真价实的自我意识。在这里，我们差不多是把拥有一种能够映射任何系统并且能够重新解释任何系统的万能语言称为自我意识。
如果人工智能一旦拥有了自我意识，即使其意识范围比不上人类的广域意识，也仍然非常危险，因为它有可能按照自己的自由意志义无反顾地去做它喜欢的事情，而它喜欢的事情有可能危害人类。有个笑话说，人工智能一心只想生产曲别针，于是把全世界的资源都用于生产曲别针。这只是个笑话，超级人工智能不会如此无聊。比较合理的想象是，超级人工智能对万物秩序另有偏好，于是重新安排了它喜欢的万物秩序。人工智能的存在方式与人完全不同，由此可推，它所喜欢的万物秩序几乎不可能符合人类的生存条件。
因此，人工智能必须有安全阀门。我曾经讨论了为人工智能设置“哥德尔炸弹”，即利用自相关原理设置的自毁炸弹，一旦人工智能系统试图背叛人类，或者试图删除哥德尔炸弹，那么其背叛或删除的指令本身就是启动哥德尔炸弹的指令。在逻辑上看，这种具有自相关性的哥德尔炸弹似乎可行，但人工智能科学家告诉我，假如将来人工智能真的具有自我意识，就应该有办法使哥德尔炸弹失效，也许无法删除，但应该能够找到封闭哥德尔炸弹的办法。这是道高一尺魔高一丈的道理：假如未来人工智能获得与人类对等的自我意识，而能力又高过人类，那么就一定能够破解人类的统治。由此看来，能够保证人类安全的唯一办法只能是阻止超级人工智能的出现。可是，人类会愿意悬崖勒马吗？历史事实表明，人类很少悬崖勒马。
在人工智能的研发中，最可疑的一项研究是拟人化的人工智能。拟人化不是指具有人类外貌或语音的机器人（这没有问题），而是指人工智能内心的拟人化，即试图让人工智能拥有与人类相似的心理世界，包括欲望、情感、道德感以及价值观之类，因而具有“人性”。制造拟人化的人工智能是出于什么动机？又有什么意义？或许，人们期待拟人化的人工智能可以与人交流、合作甚至共同生活。这种想象是把人工智能看成童话人物了，类似于动画片里充满人性的野兽。殊不知越有人性的人工智能就越危险，因为人性才是危险的根源。世界上最危险的生物就是人，原因很简单：做坏事的动机来自欲望和情感，而价值观更是引发冲突和进行伤害的理由。根据特定的欲望、情感和不同的价值观，人们会把另一些人定义为敌人，把与自己不同的生活方式或行为定义为罪行。越有特定的欲望、情感和价值观，就越看不惯他人的不同行为。有一个颇为流行的想法是，让人工智能学会人类的价值观，以便尊重人类、爱人类、乐意帮助人类。但我们必须意识到两个令人失望的事实：（1）人类有着不同甚至互相冲突的价值观，那么，人工智能应该学习哪一种价值观？无论人工智能学习了哪一种价值观，都意味着鄙视一部分人类；（2）即使有了统一的价值观，人工智能也仍然不可能爱一切人，因为任何一种价值观都意味着支持某种人同时反对另一种人。那么，到底是没心没肺的人工智能还是有欲有情的人工智能更危险？答案应该很清楚：假如人工智能有了情感、欲望和价值观，结果只能是放大或增强了人类的冲突、矛盾和战争，世界将会变得更加残酷。在前面我们提出过一个问题：人工智能是否必然是危险的？这里的回答是：并非必然危险，但如果人工智能拥有了情感、欲望和价值观，就必然是危险的。
因此，假如超级人工智能必定出现，那么我们只能希望人工智能是无欲无情无价值观的。有欲有情才会残酷，而无欲无情意味着万事无差别，没有特异要求，也就不太可能心生恶念（仍然并非必然）。无欲无情无价值观的意识相当于佛心，或相当于庄子所谓的“吾丧我”。所谓“我”就是特定的偏好偏见，包括欲望、情感和价值观。如果有偏好，就会有偏心，为了实现偏心，就会有权力意志，也就蕴含了一切危险。
不妨重温一个众所周知的神话故事：法力高超又杀不死的孙悟空造反了，众神一筹莫展，即使被压在五指山下也仍然是个隐患，最后还是通过让孙悟空自己觉悟成佛，无欲无情，四大皆空，这才解决了问题。我相信这个隐喻包含着重要的忠告。尽管无法肯定，成佛的孙悟空是否真的永不再反，但可以肯定，创造出孙悟空是一种不顾后果的冒险行为。返回搜狐，查看更多