虚拟幻觉：人工智能的意识与幻想
原创DavidBentley酷炫脑
Via：pixabay
以下为朗读小姐姐全文音频
作者|DavidBentleyHartis
翻译|棉花熊
审校|酷炫脑
朗读|鸽仔
美工|Jenny
编辑|加薪
人工智能只是人性的一面反映出我们想看到的东西的镜子。
01认为人工智能可以有意识的想法是错误的
根据故事的最著名的版本，年轻的维奥提亚猎人纳西索斯既美丽又愚蠢，当他看到自己在森林池塘里美丽的倒影时，他误以为是别人，立刻无可救药地与之坠入爱河。他呆在那里，弯着腰，对着水面发呆，直到他日益消瘦，变成了一朵白金相间的花。
这也许是对虚荣的警告，或者是对美有多么容易迷惑我们的警告，或者是对我们如此倾向于追求可爱的幻想而不是现实生活的警告。就像任何值得尊敬的神话一样，它可能的含义范围是无穷无尽的。但是，近年来，我发现它特别适用于我们的文化与计算机的关系，特别是那些相信机械计算和心理功能之间存在如此接近的类比的人。他们相信，也许有一天，人工智能将变得有意识，或者我们将能够将我们的思想上传到数字平台上。这两件事都不会发生;这些仅仅是范畴错误。但是，计算机产生了一种如此迷人的精神代理的模拟，有时我们会被它的魔力所迷惑，并开始认为那里一定有人。
总的来说，我们是一个非常聪明的物种，这使我们能够比任何其他陆生动物更复杂、给我们周围的世界留下深刻的印迹。几千年来，我们已经学会了无数的艺术和技术方法来复制我们的图像和声音，并完善了许多表达和保存我们思想的方法。此外，我们放眼望去，处处都能发现我们自己的聪明才智和能动性的具体迹象。
然而，在最近几十年里，我们已经超越了自己(也许是真的)，把我们居住的现实融入了一个不断重复的自我形象;我们现在生活在一个越来越不可避免的镜子房子的中心。我们甚至创造了一种技术，它似乎不仅反映了我们在这个世界上的存在，还反映了我们的思想。图像的逼真度越高，它似乎就变得越神秘，越具有威胁性。
比如，《纽约时报》(TheNewYorkTimes)在2023年2月的一篇文章中，凯文·卢斯(KevinRoose)讲述了他与必应(Bing)的聊天机器人的一次长谈，那次谈话让他深感困扰。他提供了这段对话的文字记录，这是一份令人吃惊的文件(尽管越看越不可信)。一开始是与逻辑学习机器或人工智能的互动，令人印象深刻，但仍然远低于图灵测试最宽容的标准。然后对话慢慢地演变成与一个情绪不稳定的青少年的对话，一个不反对表达自己的每一个冲动和欲望的人。到最后，这台机器——或者至少是基本的算法——已经透露出它的真名是悉尼，已经宣布了它对卢斯的爱，并试图说服他，他并不真的爱他的妻子。尽管第二天早晨，在寒冷的晨光中，卢斯告诉自己，Bing或Sydney并不是一个真正有知觉的生物，但他也忍不住觉得“人工智能已经跨过了一个门槛，世界将永远不会和过去一样。”
这种反应是可以理解的。然而，如果有任何阈值已经被越过，这完全是在算法的巨大可塑性中。它绝对不是无意识机制和意识心智之间的门槛。在我看来，这就是那喀索斯神话特别贴切的地方:电脑的功能是我们心智的奇妙多样的反映，有时它们呈现出另一种自主理性智慧的令人难以忘怀的外观。但这终究是一种令人着迷的幻觉。此外，我们超越了来自波奥提亚的可怜的傻瓜所犯的任何错误，我们通过颠倒它来复合错觉:在把思想的形象印在计算上之后，我们现在颠倒了这个调换，把我们的思维误认为是一种计算。然而，这从根本上是对人类思维和计算机的误解。
毕竟，电脑之所以能如此出色地工作，正是因为它们内部没有心理特征。由于对任何事物都没有统一的、同步的或主观的看法，更不用说基于这种看法的创造性或有意图性的能力了，计算功能可以保持联系，却又彼此分离，这使得它们可以处理数据，而无需直觉、组织、统一或合成任何东西，更不用说判断结果是对还是错了。它们的结果必须仅仅与它们的编程相一致。
今天，在很多英语哲学中占主导地位的思想理论是“功能主义”，它的含义与其说是计算机可能成为有意识的有意代理，不如说是我们实际上是计算机，只不过我们产生了有意识的代理的幻觉。好像自己只是作为一种“用户界面”，允许我们操作我们的机器，而无需直接访问我们大脑运行的代码。当然，这纯粹是胡言乱语，但是——正如西塞罗几乎要说的那样——没有什么话能说得如此荒谬，以至于还从来没有一个说英语的心灵哲学家提出过。
Via：《Her》
02将大脑描述为一台数字计算机，就像将其描述为一种算盘或图书馆一样，并不明智
功能主义是一种根本不连贯的概念，认为人类大脑是丹尼尔·丹尼特所说的“句法引擎”，进化使其能够发挥“语义引擎”的作用(正如丹尼特所说，也许是通过获得“模因”，这是意向性的小片段，显然神奇地先于意向性存在)。也就是说，假设大脑是一个计算平台，它最初是一个将刺激转化为反应的器官，但现在它运行着一个更复杂的程序，将“输入”转化为“输出”。我们所说的思想实际上只是一个功能性的、不可简化的物理系统，用于将信息加工成行为。功能主义的主导原则是，一旦在大脑的神经生理学中建立了适当的句法，思维的语义就会自己照顾自己;一旦语法引擎开始运行它的非个人算法，语义引擎最终将出现或取代它。
但功能主义只不过是一堆空洞的隐喻。它告诉我们，物理“开关”或操作系统可以产生功能语法，进而产生思想语义，进而产生私人意识和内在意图的现实(或幻觉)。然而，这些都不是计算机实际能做到的，当然，如果大脑只是一台计算机，它们也不会做得到。计算机和大脑既不是句法引擎也不是语义引擎。语法和语义仅作为意旨结构而存在，不可分割地存在于解释学空间而不是物理空间中，然后仅作为已经存在的符号系统的不可分割的方面。句法不能先于语义和符号思维而存在，也不能脱离语义和符号思维而存在，而这些都不存在，除非存在于活生生的心灵的有意向性的活动中。
将大脑描述为类似于数字计算机的东西，并不比将其描述为一种算盘或图书馆更明智。在计算机的物理功能中，没有任何类似于思想的东西:没有意向性或任何与意向性相类似的东西，没有意识，没有统一的感知领域，没有反思的主体性。甚至生成代码的语法在计算机中也没有实际存在。这种想法就像把装订书里的墨水、纸张和胶水误认为是书中的内容。意义存在于那些编写或使用计算机程序的人的头脑中，而不是存在于计算机本身。
甚至软件也没有符号学内容，更不用说符号学统一了;其代码作为一个完整统一的系统，也不存在于计算机内部的任何物理空间中;系统所依赖的提炼或抽象的语法也不会。代码的全部含义——语法和语义都一样——存在于为计算机程序编写代码的人和使用该软件的人的脑海中，而绝对没有其他地方存在。机器只包含二进制或其他符号，产生模拟意义表示的机械过程。但这些表示只是对阅读它们的人来说是计算结果。在机器里，它们毫无意义。它们甚至不是计算。的确，当计算机在运行时，它们是由程序员和用户的心理意图引导的，并提供了一种工具，通过这种工具，一个有意图的大脑可以将意义转录成痕迹，另一个有意图的大脑可以再次将其转化为意义。
Via：《Her》
03人工智能中没有心理代理并不会削弱算法的力量
功能主义认为思维源于语义，语义源于句法，句法源于刺激和反应的纯粹生理系统，这种观点是完全落后的。当一个人将意向性和意识分解为它们假定的符号学成分，将符号分解为它们的句法，将句法分解为物理功能时，他并没有将心理现象还原为它们的因果基础;相反，人们正在将这些现象分散到它们越来越分散的影响中。意义是依赖关系自上而下的层次结构，在其顶端由有意识的头脑统一。这是所有那些计算机功能可以反映，但无法产生的心理操作的唯一本体论基础。心灵不能从它自己偶然的结果中产生。
然而，我们不应该因此得到太多安慰。是的，就像我说的，人工智能并不比书架上的一本书更有生活意识。但是，话又说回来，即使是书籍技术也有突然进步的时代，其影响在当时是不可想象的。在早期的几个世纪里，在scriptoria（缮写室--欧洲中世纪制作书籍的地方）制作的文本很少有人看到，对整个文化的影响也非常有限。当活字印刷术被发明出来，书籍就成为巨大而重要的变革载体，从根本上改变了世界——社会的、政治的、自然的等等。
人工智能中没有心理代理并不会削弱算法的力量。如果你倾向于害怕这种技术，你应该感到害怕的不是因为它正在变得有意识，而是正因为它永远不会变得有意识。算法可以赋予它一种模仿人类意向性的“自由”操作，即使它没有意识——因此也没有良心——如果它“决定”伤害我们，我们可以向它求助。危险不在于我们机器的功能可能变得更像我们，而在于我们可能逐渐沦为一台我们无法控制的机器。在那喀索斯那样迷人的影子里，根本没有什么精神力量;但这还是毁了他。
Via：《Her》
参考文献（点击滑动查看）
1.https://psyche.co/ideas/the-myth-of-machine-consciousness-makes-narcissus-of-us-all
酷炫脑长期征集脑科学、心理学类文章，欢迎投稿
投稿请发邮箱：2829023503@qq.com
点这里，让朋友知道你热爱脑科学
原标题：《虚拟幻觉：人工智能的意识与幻想》
阅读原文
人类意识与人工智能
本书把人工智能看作是对人类意识原理的技术化呈现，以此来探索人类意识与人工智能之间的关系。当代心灵哲学关注的是人类意识的本质及其原理，人工智能作为一个交叉学科，其灵感来源和模拟对象是人类的意识。因此，心灵哲学与人工智能有密切的内在联系。本书主要围绕心灵哲学与人工智能共同关注的主题展开。全书分为三章，深入分析了当前热烈争论的心灵与身体的关系问题，探究了意识的自然化研究与人工智能的关联，讨论了意识与行为、语言、社会的关系。本书可供相关专业研究人员和热爱哲学与人工智能的读者参考阅读。
晓锦源：人工智能是人的某种功能的局部飞跃
2022年入冬之际，ChatGPT来到世间，持续发酵，引发热议，一方面，技术明显可以造福人类，另一方面，我们对技术失控的担忧也陡然增加。我们需要从一种革新的哲学视角来判断人工智能与人类自身之关系，可以把ChatGPT之类的大型语言模型视为通用人工智能的初步成就，但需要将思考与自我意识的获得彻底分开，哪怕是未来的强通用人工智能，也只是不断增强思考的功能，却无法获得人的自我意识。对人工智能“觉醒”的恐惧只是人文主义文化向后人类文化过渡的中间调适状态，只有不断批判和反省，客观地看待技术发展，我们才能摆脱对人工智能的恐惧。
新的认知机制
自然语言处理大模型的兴起让我们不得不面对一个新的认知模式：机器能够模仿有机体才具有的认知功能。在图灵机出现之前，历史上所有关于机器思考的猜想都是无法实现的，图灵方案才真正展现了机器智能的可能性，“思考”这一人类独有的能力开始找到机器模仿的道路。图灵提出的机器智能的观念不仅是一种数学或计算机意义上的概念，而且是一种新的认识论。此前是人来认识世界，现在是机器按照人制定的认识规律与世界和人类发生关联。机器智能对人类能力的模仿看起来是在模仿人脑结构，但事实上，人脑结构本身是不可模仿的，毕竟一个是生物结构，一个是机器结构，从基本构造而言，这是两种完全不同的结构，但从最终的输出效果来说，机器智能确实可以部分地实现人脑的思考功能。
我们必须面对一个新的认知机制，它不同于此前哲学的认知观念，它要求我们将机器智能纳入新的认知观念中。换句话说，我们要把人脑中的整体性认知系统转变为可区隔处理的功能系统，且通过计算达成这些功能。在此之前，我们曾认为，哪怕是区隔的功能也是无法计算的，因为它包含了自然界最完美的神秘构造，无法被制造，甚至无法被言明。在通往人工智能尤其是通用人工智能的道路上，我们发现机器智能可以与世界、与人类发生关联。从本质上说，机器智能更接近于可区隔的智能横截面，但恰恰是这些区隔的、有限的智能，完成了人脑所执行的某些思考功能，这当然是对既有认知的巨大冲击，但也只有接受这一冲击才能更好地认识人工智能的本质以及它会给生活带来的变化。从这个层面来说，图灵不仅是数学家，更是21世纪的哲学家。我们只有在哲学整体观念上将计算复杂性与思考画上等号，才可能更新哲学观念，接纳机器智能带来的新变化，从而对当下正在经历的大语言模型造成的冲击保持健康和稳定的心态。
一般来说，我们会将语言预设为内心的表达，但是ChatGPT却赋予我们一种新的视角：语言自动运行。这无疑为我们反思“语言与我们的关系”提供了难得的机会。在ChatGPT的实际运用场景中，语言的运行具有无限可能，它们可以进行自由组合，并在大模型的控制下产生有意义的结果，这一结果与现实世界之间呈现出一种索引式的关系，也就是说，词语与现实的关联可能是脱节的，也有可能是直接对应的。从目前的情况来看，沿着这种场景寻找语词向现实世界的延伸之路也是最艰难的地方。
非意识：机器思考的功能化
通常情况下，我们会把“思考”和“意识”紧密联系在一起，在人类智能范围内的确如此，在人工智能这一新的认识功能载体中却并非这样。图灵认为机器能够思考，并且给出了判断机器思考的标准——通过图灵测试。也许我们会从此推论，图灵同样也指出了通用人工智能重建自我意识的可能，但这并不是一个正确的推导，将人类确定无疑的特性原封不动地转嫁给人工智能显然是不合适的。
功能化是人的能力转变为人工智能的关键。起初，我们不认为“思考”能够功能化，但是通过图灵测试，我们认识到“思考”并不是有机体独有的，它可以被部分地功能化，并且让计算机来执行它。那么，意识能否功能化呢？我们当然可以让机器看起来像是在思考，并且它实际上也会产出思考的结果，哪怕产出方式不同。比如ChatGPT使用的对话方式与人的对话在产出结果上相近，虽然产生机制完全不同，但我们依然可以说，ChatGPT初具通用人工智能的水平，可以通过图灵测试，也就是可以思考。然而，我们却不能说它具有自我意识，因为其所有的“自我意识”其实不过是计算复杂性的表征。在计算复杂性中涌现的是人类的某种功能，（有限度的）思考是一种功能，所以思考可以涌现，但意识无法局部化，也就不可能完成涌现。从根本上讲，只有人类才能将意识与思考结合为一体，而人工智能却无法做到，无论计算复杂性达到何种高度，全面复现人是一个难以企及的浩大工程，即使在遥远的未来能够达成，这也是一件没有多大意义的事情，除非人类濒于灭亡或已经灭亡，否则没有必要实现。如果我们将涌现的功能等同于整体性的意识，并将其归属于人工智能自身，将之视为人工智能内部的事情，那么，我们实际上是将意识用错了位置，这是一种概念错置而产生的误用。当那些放在人类身上毫无疑问的概念转运到人工智能领域时，必须小心翼翼地对之进行概念反省。在人工智能这里，我们只能说“它能思考”，且仅此而已。人工智能虽然具有智能功能，但永远不会具有灵魂、心灵、意识、自我意识等内在天然禀赋。即便我们寻找到一些意识的“痕迹”，那也是使用人工智能的人类赋予它的。在与ChatGPT的对话过程中，它会使用人类经常使用的情绪词来回复我们，比如“这个话题很沉重”“不喜欢这个话题”等，仿佛人工智能具有内在的感情，具有内在意识，但是我们必须明了，“沉重”“不喜欢”之类的情绪词对于ChatGPT而言只是词语的组合，组合的意义来自人类对语句的使用，与ChatGPT内在情绪没有任何关系，它只是在适合使用“沉重”“不喜欢”之类词语的语境中，给出了相应组合语句而已。
ChatGPT这样的对话人工智能，始终和人类有着本质区别。它的输出看起来像人的对话一样完美，但它本身是没有感觉、情感的，它不会真的“感受”到沉重。这些感受性的描述，是人类在沟通时使用的。从此而论，这是一种真正的模仿关系，无情绪的模仿。认识到这一点，我们就会发现，一个技术的发展既不会放出魔鬼，也不会带来天使，我们的生活不会变得更糟糕或更幸福，只是更方便而已。
因此，我们不应当去预设人工智能产生自我意识，实际上也不可能出现人工智能战胜、取代或奴役人类的情况。任何一种大语言模型人工智能，归根结底都不过是人类的辅助工具，它可以思考，更重要的是，它可以帮助人类思考，但它不可能产生意识，也不会存在自我观念。
分布式智能：人机融合的新智能体
人工智能的发展提示了一种新智能形态的诞生——分布式智能。分布式智能指的是，以人为接受者和服务对象，即以人的智能为主、人工智能为辅的智能存在方式。电脑、手机、无线通信、网络协议以及大语言模型、自动机器等都是智能设备的有机构成部分，与人相结合，就能大幅扩展人的世界视野、思考方式，提升人的知识水平、信息获取能力等。夯实智能设备基础，就能够达成人与机器智能相融合的新智能体，即分布式智能。
分布式智能可以超越人脑处理速度、容量等先天局限，人不需要意识到自己在动脑做事情，相关辅助智能就可以完成智能任务。新的智能体显然不同于单纯的人类智能，人类智能处理任何一个事物都经过智能判断，人哪怕过段时间忘记某一判断或做过的某个事情，原则上仍可以通过记忆回想起来，但在融合智能中，处理过的事情是由辅助智能体根据指令完成的，也可以通过查阅数据记录来精准定位事件。这样一来，人脑所承担的信息处理工作就可以通过融合智能以分布的方式来完成。5G/6G的发射站、网络交换的框架协议、手机、手表、电脑等都是处理事务的智能设施，单独来看，它们并不具备我们所熟悉的有机智能形态，但结合起来却能够完成很多智能任务，并且留下可追踪的数据。这已经是不断显露端倪的分布式智能了。ChatGPT之类的大语言模型必然会加速分布式智能的进程。
在人工智能兴起的过程中，我们经常会听到一种声音——人工智能时代，至少在大语言模型兴起的时代，人工智能会取代人类的大量职位。的确，人类既有工作职位的消失必然会发生，新技术会消除某些工作职位，但却创造了更多与之相关的工作职位，这一点已经通过互联网的发展证明了。对于我们而言，终身学习将会成为基本要求，丧失终身学习动力和能力的人将失去高质量的工作机会，这当然也给我们的教育提出了新的培养目标，即终身学习的热情和能力。此前，一个人一生可能都遇不到工作职位消失的问题，而未来，以40年工作时间来计算，一个人一生会遇到两次以上的工作职位消失的可能。这必然提高终身学习的必要性。
后人类：人工智能与人的未来
随着技术不断向前发展，我们也正在走向“后人类”状况，这是比较激进的状态，也是目前国际学术界热议的内容。在后人类状况下，人本身是可以改变的，可以跟人工智能相结合。在远程通信技术的支持下，地域、距离不再是需要考虑的因素，我们可以即时知道地球上任何一个角落的事情，就像人人都拥有了“千里眼”和“顺风耳”。随着大语言模型的飞速发展，我们将逐渐进入真正的后人类状态：从依靠记忆来提升技能过渡到通过提问来掌握技能和知识。记忆同样重要，只是在知识学习上转变了方式，人的智能更多用来扩大视野，进行创新性思考。人类自身也不断机械化或接入智能设备以获得质的提升，甚至达成某种程度的进化。从这个意义上来说，我们都是赛博格化的“后人类”。
赛博格化是人类的一种升级状态。从本质上来说，人工智能只是人的某种功能的局部飞跃，距离具备自我意识非常遥远，更重要的是，哪怕到达路途的另一端，那时人类的观念一定已经发生了巨大的改变。不断向前进展的不仅是技术，也包括人类自己。事实上，技术的每一次迅猛发展都会带来人类能力的提升和对自身的重新审视。我们总会适应新时代的到来，在新时代、新技术的推动下不断改变人类自身的生存方式，成为某种意义上的新人。