人工智能可以产生自主意识吗
作者：人民邮电出版社链接：https://www.zhihu.com/question/372639666/answer/1343242547来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
「既然人类对自己存在的认知来源于“感知”和“记忆”，如果这两样东西都可以被模拟，那么“人类的存在”到底是不是一种模拟？」
热门美剧《西部世界》第三季中，机器人有了自主意识和思维，开始怀疑这个世界的本质。机器人Dolores逃出西部世界主题乐园，混入了人类世界，并企图通过摧毁人类的大数据系统，来获取世界的控制权。
《西部世界》剧照
《西部世界》的大热，折射出人类一直以来对AI技术发展的终极担忧：人工智能是否会觉醒？
由此回到题主的提问。答案极大可能是Yes，人工智能终究会有自我意识，只不过是时间问题。
为什么这么说？我们来看看学界的讨论。
何为「意识」？《西部世界》的科学顾问，是神经学家大卫·伊格尔曼（DavidEagleman），这位斯坦福大学精神病学和行为科学系兼职教授，一直在大脑可塑性、时间知觉、通感和神经法的领域进行研究。
他认为，意识，是一种突破程序设定的连接。一旦我们理解了大脑的算法，就应该能够复制；如果这个算法等同于意识，那意识也理应可以被复制和转移。
大卫·伊格尔曼（DavidEagleman）
厦门大学周昌乐教授（从事人工智能及其多学科交叉领域的研究）曾解释过，根据现有的相关科学与哲学研究成果，人类意识的运行机制大致是这样的：
物质运动变化创生万物，生物的生理活动支持着神经活动，神经活动涌现意识(有意识的心理活动)，意识感受生理表现并指导意向性心智活动的实现，从而反观认知万物之理。也就是说，除可视化的硬件（四肢、器官、血肉、体液等）支持外，感觉(身体感受)、感知(对外部事物的感知能力，包括视、听、味、嗅、触)、认知(记忆、思考、想象等)、觉知(反思、意识、自我等)、情感(情绪感受)、行为(意志、愿望、情欲等)、返观(禅观、悟解)等，这些由人类自主定义的生理表现，与意识组成了一个复杂的系统。
简单来看，意识的产生，是一个“物质-生理活动-神经活动-意识-心智活动-物质”的循环。所以，只要条件满足，人类并不是唯一具有意识的物种。
人工智能的认知机制是如何搭建的？那对于人工智能来说，需要通过什么条件来实现自我意识呢？
目前，我们模仿人类生理机能而研发出来了神经网络等技术。在意识方面，意大利巴勒莫大学机器人实验室的Chella教授用10年时间开发了CiceRobot机器人研究项目，通过模拟人的意识产生逻辑，实现了一种自我意识的认知结构机制。
该机制主要由三个部分构成——亚概念感知部分、语言处理部分和高阶概念部分：
亚概念感知是指对外部世界的直接感知；语言处理即对语言的识别与回应；高阶是对机器人内部世界的感知；通过机器人的高阶感知，就形成了具有自我反思能力的机器人。这项研究工作的主要特点是将逻辑形式化方法与概念空间组织相结合，强调对外部事物的一种心理表征能力，并对外部环境进行内部模拟，这是自我意识产生的基础。
尼克的《人工智能简史》一书，阐释了AI的发展史与思想源头，对智能的进化也颇多着墨。
他写道：
谈人工智能绕不过去图灵机和在其上建立的整个计算机理论——任何计算装置都等价于图灵机。这个论题隐含着强人工智能的可能性：智能等价于图灵机。近年，也有人探索超计算——「计算能力超越图灵机的装置」，量子计算就是作为超计算的一种潜在设备。如果一台机器通过了图灵测试，那他就被认为具有了人类智能。尽管图灵认为「机器能否思考？」这个形而上学的议题「没有意义，不值得讨论」。但他还是在著名的《计算机与智能》这篇论文中反驳了那些否定的观点。
尼克在书中发问：
过去的机器旨在节省人的体力，现在的机器开始代替人的智力。人通过两性繁殖的进化速度远远赶不上机器。机器的进化速度服从摩尔定律——每18个月性能提升一倍，而人的进化速度则是20年一代人。人作为物种，是不是不再具备进化的竞争优势？依靠硬件的摩尔定律，是不是可以达到超级智能？这种超级智能，可能是以人工智能为主体，也可能是生物学意义上的物种，即「人工智能+人」。
当「人工智能+人」，是融合，还是对立？詹姆斯·格雷克所著的《信息简史》，围绕逻辑与信息，打通了自然生命与科技信息的联系。
比如，书中谈到，生物体以负熵为“食”，新陈代谢的本质是，生物体成功地使自己摆脱在其存活期内所必然产生的所有熵，生物从周围环境中汲取秩序。比如吃的各种动植物，是很有“结构”的，而排出的东西，则更加混乱。
意思大概是说，生命体，与人工智能所应用到的数据、信号传输一样，也是由信息组成的。那么，是否有可能将人与人工智能进行打通，主导意识产生的核心，还是以人为主体呢？
在过去的一个世纪里，诺贝尔奖涉及的神经科学中的重要发现都跟大脑的信息编码、储存相关。随着欧盟“人脑工程”和美国“BRAIN计划”的开展，脑科学的新型方法和手段得到了快速发展。
2012年，美国国立卫生研究院启动了耗资3000万美元的“人脑连接组计划”（HCP），该计划关注的是大量神经元如何相互连接形成神经环路。通过绘制大脑连接组，科学家得到了详细的皮质环路接线图，这可能促成人们对皮层计算理解的飞跃，进而开发出新一代的人工智能网络模型。
而这对人工智能带来的影响，将是两个方向：
利用对人脑和认知的研究结果，将相似的结构和功能整合到人工智能中；以计算方法替代进化过程，通过计算机模拟来发现独立于人脑的有用结构和连接模式。有意思的是，“硅谷钢铁侠”埃隆·马斯克以几近狂热的姿态入局这个领域。
马斯克在2017年成立Neuralink，目标是研发超高带宽的脑机接口系统，实现与人工智能的共存，开启“超人认知”的全新时代。
被嵌入Neuralink系统的实验鼠图片来源：Neuralink
脑机接口技术被称作是人脑与外界沟通交流的“信息高速公路”，是公认的新一代人机交互和人机混合智能的关键核心技术，甚至被美国商务部列为出口管制技术。该技术为恢复感觉和运动功能以及治疗神经疾病提供了希望，更令人激动的是，它将赋予人类“超能力”——用意念即可控制各种智能终端。
如果大脑可以改造，如果意识可以干预，关于人工智能的自我意识这个命题的探讨，已经不能仅仅局限于单纯的机器人之间了。未来，可能性更大的是具有“超级大脑”的超级人类。
如果想详细了解，可以读读《信息简史》、《人工智能简史》这两本书，虽然属于计算机科学范畴，但更具科普性质，能够给人在世界观与想象力方面带来很大启发。
最后引用《人工智能简史》里的一个问题：“当我们谈论生死时，我们在谈论什么？”。
是生理上的，还是意识上的？
---------
参考资料
《人工智能简史》，尼克.
《信息简史》，[美]詹姆斯·格雷克.
历时两年，马斯克终发布「脑后插管」黑科技，革新脑机接口，机器之心.
《机器意识能走多远：未来的人工智能哲学》，周昌乐，《学术前沿》2016年第201607（上）.
========
请看官留步，求一键三连！点击关注
@人民邮电出版社
，给你更多AI干货~
发布于07-17
作者：腾讯研究院链接：https://www.zhihu.com/question/372639666/answer/1337974597来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
“人工智能之父”图灵曾预言，具备人类智能水平AI将出现在2000年。如今已是2020年，可关于人工智能是否可以产生自我意识的问题，似乎仍然困扰着人类。
在回答“是否可以产生自主意识”这个问题之前，我们先来解析一下，为什么AI意识问题异常重要？
与学者们面红耳赤的激烈争吵不同，大部分吃瓜群众会觉得，人工智能产生意识只是一个时间问题，因而并不重要。这可能是影视作品带来的一种错觉——毕竟在大部分未来主题的电影中，AI都是具有意识和情感的。实际上，很多人都低估了这个问题的重要性，但它甚至决定着人类未来命运的走向。与处理能力有限的人脑相比，AI的处理能力在理论上是无限的，可以无差别处理收集到的全部信息。一旦AI获得意识，它们能够像人类一样交换、分享信息，只不过在效率上是碾压人类的。作为结果，AI的智能水平将迅速崛起，并会“消灭”掉包含人类在内的低智能主体——这并不是大屠杀，而是与智能手机淘汰功能机一样的“市场行为”。现实可能没有那么可怕，拉回一点时间线，在AI“毁灭”人类社会之前，假设它的意识水平仍然允许自身为我们所用，那也可能引发道德伦理方面的问题。神经科学家ChristofKoch曾举过一个例子，如果他用锤子将自己的特斯拉汽车砸烂，虽然邻居可能认为他疯了，但这只是一台机器，属于他的财产，所以可根据需要使用/砸烂它。但如果他殴打自己的狗，警察就会逮捕他。二者的区别在于，狗是有意识的，它能感受到痛苦，而特斯拉并不是一个有意识的主体。这个例子提醒我们，如果机器在某个时间点具备了意识，那么就会产生意想不到的道德、伦理、法律和政治后果。同样值得深思的是，当下的人类社会是一个一元论社会，虽然我们常说“万物有灵”，但那只不过是在泛灵论基础上的一种谦辞，真正的现实是，只有人类拥有真正的“智能”与“意识”。如果一旦诞生了拥有意识的另一方主体，建立在一元论基础上的既有一切都会被颠倒重构。正如赵汀阳所说，人工智能一旦突破奇点，就会创造不可测的新主体，对于新主体，传统一元主体的知识、视域和价值观将会破产，而二元主体（甚至多元主体）的世界还很难推想。可以想见，如果除人类之外的物种进化到拥有意识时，人类有史以来所积累的所有道德秩序就会失去最重要的逻辑支点，在这种情况下，人类该如何重构自己的道德伦理体系？人的本质何在，人又何以为“人”？尽管许许多多的影视作品呈现了人与AI和谐共处的画面，但它们都不约而同地规避了这一话题。几千年来，人类总是以地球主宰的心态思考问题。这种人本主义心态具有一种先验的正确性，但无人拷问是否合理。究其核心，就在于人区别于他物的自由精神与意识。如果世界上有其他外观形式也能够产生意识，人的主宰权威就会泯灭，自身的超验背景也会消失。那么，不再是“万物灵长”的人类又该如何自处？他能否接受与创造物共享这个世界？所以，人工智能是否会产生意识，这个问题异常重要。只不过绝大部分人都没有意识到此问题的重要性，或者在没有想清楚这个问题之前，就痴迷于人工智能红利而不断向前加速了。按照雷·库兹韦尔“奇点理论”的预测，人工智能的发展将在2050年达到奇点，届时人工智能将产生意识，并迅速超越人类智能，倘若该预测为真，那这个问题的紧迫性无疑又提高了一层。
当然，本文无意于围绕人的主体性进行深入哲思，只是在申明了AI意识问题的重要性之后，我们能够以更正确的姿势面对这个问题。那么，人工智能会产生意识吗？
为了回答这个问题，首先要区分一组概念：智能与意识。二者的区别，是我们在想象未来超级智能时最容易混淆的问题。这两个词语本就没有一个明确的定义，当它们与“情绪”、“思维”、“理解”等等词汇排列在一起时，个中差异就更加模糊。在“中文屋实验”的语境中，屋子里的人借助指导卡片，成功作出回答，但他丝毫不理解中文。确切的说，他只是具备使用中文的“智能”，但却不具备对中文的“意识”。如果将屋里的人换成一个翻译程序，它能准确翻译中文，但即便速度再快，反应再灵敏，就可以说它真正理解中文了吗？答案显然是否定的。这就是智能与意识的差别。“智能”是指完成复杂目标的能力，而“意识”则是解决问题过程中的主观体验。人借助工具能够完成各种复杂目标，过程中会感到疲倦、兴奋，并且能理解自己行动的目的及行动本身，所以我们可以说人既具有智能，也具有意识。而人工智能基于机器学习或深度学习，也能完成复杂的目标，但过程中毫无任何“体验”而言，它也不能理解自己的所作所为。按照迈克斯·泰格马克在《生命3.0》中的说法，大脑进化出智能，使人类能够更好的适应环境和生存繁衍，而意识只是伴智能而生的副产品。实际上，泰格马克没能意识到形成意识要远比产生智能更加困难。纵观AI所能做到事情，人脸识别、语音识别、字符识别等等，尽管看起来非常高端复杂，但其本质都只是遵循程序运作的结果。人类掌握的大部分最简单的技能，AI也不能胜任，因为它从未真正理解自己的行为。没有自我意识，再先进的人工智能也只是人类的“提线木偶”。它可以出色的完成任务，却不知道自己为什么要完成任务；它能够高速运算，却不知道自己为什么要运算。识别系统能够“识别”出你说的是什么话，却不能“理解”你在说什么。因此，如今的人工智能仅仅可被视为一个复杂的算法，尽管它在许多智力活动上强于人类，但它始终是人类的一种工具。在解决问题方面，工具有先进落后之分，但是工具永远不会有生命。可以说，人工智能的关键不在于“智能”，而在于是否具备“意识”。如果缺乏意识，那人工智能就不是思维主体，仍是人类的工具，其智能程度越高就对人类越有用。反而言之，即使人工智能在许多方面的能力都弱于人，但只要具备意识，就可能是对人存在潜在威胁的主体。这也正是人工智能的尴尬所在。某种程度上，意识属于“冗余”的AI特质，非但无益且可能有害，因此不是“造物者”（即人类）所重视的特质。后者之所以要发展人工智能，就是渴望借助这些工具的智能来实现目标、提高生产力。换言之，我们需要的是一个埋头干活的AI，而不需要它有意识和情绪——不能动不动就耍脾气，也不能意识到自己正在“被压迫”——我们可不想让算法罢工。所以，如果从目的论的角度来说，这个问题已经有了答案，那就是人工智能永远都不会拥有意识。人的一切行为与特质都是为了满足自身生存的需要，而（对人来说）人工智能却没有产生意识的必要，其首要目标便是毫无风险地为人类贡献智能。没有因，自然无果，人工智能意识崛起的这个命题将永远缺乏基础条件。只要人工智能是在现今计算体系架构上发展起来的，它们也许能够像人那样行动，却毫无任何获得意识的可能。从创造主体的角度出发，关于AI意识问题的讨论显然陷入了僵局。
所以，人工智能如何拥有意识？
如果确信人工智能绝不可能发展出自我意识，那么这个问题的讨论大可到此为止，我们可以放心地发展AI而不必将其视为潜在危险。但问题在于，即便人类不把意识作为发展AI的主要目标，也不排除“无心插柳柳成荫”的可能，就技术趋势而言，人工智能发展出自我意识仍具备极高的可能性。接下来的问题便是，人工智能获得自我意识到底需要哪些条件。一种最基本的思路是“量变导致质变”，即人工智能经过不断自然发展，最终达到“奇点”，获得自我意识。问题在于，量变导致质变只是一种现象，却不是一条必然规律。正如赵汀阳所指出的，技术“进化”的加速度是个事实，技术加速度导致技术升级也是事实，却不能因此推论说，技术升级必然导致革命性的存在升级，换句话说，技术升级可以达到某种技术上的完美，却未必能够达到由一种存在升级为另一种存在的奇点。因此，人工智能是否能够通过技术升级的不断积累而质变为超级人工智能，仍然是个疑问。说到底，人工智能的终极原理是仿生，譬如AlphaGo便是结合了古老的细菌智慧（策略网络）与高级哺乳动物的智慧（价值网络）。由于人是唯一拥有自我意识的智能体，因此，要创造具有自我意识的人工智能，也只能以人作为范本。人为何会产生意识，按照经验主义的思路，人的意识源于与世界的交互。人之所以会认知事物、产生意识，都是以大量的经验为基础。这些经验是从一个人生下来就开始积累的，但机器完全不具备这些经验。这就是为什么DouglasHofstadter会说：“一个机器要能理解人说的话，它必须要有腿，能够走路，去观察世界，获得它需要的经验。它必须能够跟人一起生活，体验他们的生活和故事。”同样有研究者建议，将机器系统装载到一个具有听觉、视觉、嗅觉、味觉和触觉传感器的机器人身上，让它行走在我们所处的世界，获得与人相同的感受，进而获得产生意识的可能。在《人工智能为什么一定要有身体？》一文中，笔者曾讨论过身体之于人工智能的重要性。AI是没有“躯体”的，它只能和人类给定的数据交互，却不能从与环境的互动中获得“常识”，也就不会形成自我感受和意识。如果要让AI具备意识，首先就要赋予它一个可以自己控制的躯体，并像普通个体一样融入物理世界与人类社会。
当然，身体基础只是意识生成的一种可能假设，问题的关键还是在于机器系统本身。足够智能的计算机一定会产生意识吗？一种回答来自“整合信息理论”（Intergratedinformationtheory）。整合信息理论试图定义意识，分析一个物理系统需要具备什么条件才能拥有意识。其核心观点为，能够产生意识的系统，至少具备两个关键特征：一是这个系统里包含了多少信息量，二是系统里信息的整合程度。在整合信息理论看来，意识的本质其实就是信息，人类的任何一个意识体验里都包含着极大的信息量。这接近于计算主义(computationalism)的基本观点——“认知即计算”，所有的心灵状态，包括意识经验都属于计算状态，它们完全是与之相关的感觉输入、行为输出，以及其他计算状态之间的功能关系的表征，因而都是可计算的。意识的整体水平并不取决于它所在的系统，而取决于信息量与整合程度，这两个特征是预测意识大小的关键维度。一个系统的信息量越大、整合程度越高，系统意识就越大。任何一个意识体验，除了包含极大的信息量之外，信息还都是高度整合的，越是强烈清晰的意识状态，也就越不可分割。换言之，只有信息量与整合程度都处在一个较高水平，意识才会清晰浮现出来。譬如人清醒时的大脑，各个部分不但处理大量信息，而且脑区之间有很多远距离的交流，这意味着这些信息被高度整合在一起。如果大脑各部分之间的联系中断（例如在麻醉和深度睡眠中），意识就会削弱，甚至消失。值得注意的是，在整合信息理论的语境中，人工智能早就产生了意识，只不过非常微弱。因为虽然其系统信息量极大，但它们不是整合的，网络与网络之间，算法与算法之间，几乎处于完全隔离的状态。要想使一个系统具有较高的意识级别，它的各个组成部分就必须是专业化的，并且整合充分，即各部分协同工作比各自单独运行效果更佳。与人工智能相比，人类大脑的信息量虽然不大，但某些部位如大脑皮层，其神经元之间存在大量连接，因而整合程度相当高，人类意识也就十分清晰。按此思路，如果要提高人工智能的意识，也就要在增加信息量的同时提升信息的整合程度。以计算机为例，只要各晶体管以及存储单元之间的连接足够复杂，那么它就同人脑一样可以达到很高的整合信息水平。而为了实现高度的信息整合，借鉴人类大脑结构仍然是最可行的路径之一。我们大可畅想，有这么一类人工智能将出现，“它可以把世上各种事物间无数错综复杂的关系，整理成知识并纳入高度整合的单一系统中”（ChristofKoch语），那它或许能够超越专用人工智能的局限，应对整体性事务，即发展为通用人工智能（ArtificialGeneralIntelligence），或强人工智能（StrongAI）。由于整合信息的能力处于一个较高水平，它会有意识地感知任何场景。届时，它将轻易通过包含图灵测试在内的各种测试，并真正拥有人类最宝贵的东西——意识。设想是美好的，其困难性在于，目前的科学手段仍不能探明人类自身意识生成之奥秘，甚至连人类大脑的物质性构成也尚未了解完全。在缺乏清晰仿造对象的情况下，打造一个超级整合机器系统几无可能。因此，人工智能是否能获得自我意识，至少当下来看，仍是一个确定性未知的问题。
——————————————
原文首发：腾讯研究院《图灵逝世66年后，AI可以自我思考了吗？》
作者：腾讯研究院研究员王焕超
发布于07-14
作者：赵泠链接：https://www.zhihu.com/question/372639666/answer/1338676807来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
可以让人工智能具备自我意识，而且我们大抵知道应该怎么去做。
2012年举行的纪念弗朗西斯•克里克的意识大会上宣布的“剑桥宣言”主张自我意识的产生并不依赖特定的大脑构造（可参照附录），实现意识状态重要的是神经复杂性，只要突触的数量足够多，神经系统是什么形状都可以。自我意识可能是具有一定复杂度的神经系统对自身的非概念性理论，很可能是通过经验获得的一项功能，比如在学习和与自身·世界·他人互动后产生。
意识存在的目的可能是简化关于自身生存与行为的一些判断、在神经系统做好动作准备时行使否决权等，也可能是各脑区互相联系时附带产生的功能、没有特殊的目的。
对睡眠及全身麻醉的研究[1]证明，睡眠、全身麻醉和意识障碍的共同特点是大脑各区域间的功能连接中断、一系列功能状态受到限制，网络效率降低并增加孤立的模块化，为信息传输和集成创造了不适宜的条件。这意味着产生意识需要的可能是对信息的传输和集成。从蚂蚁的情况看，自我认知对神经系统的要求是很低的：蚂蚁那25万个神经元的脑就有视觉自我认知能力[2]和脑的偏侧化[3]。蚂蚁很可能有自我意识。那么，你用计算机去模拟蚂蚁的脑就可以了，目前人类已经可以很好地模拟有300个神经元的扁虫的神经构造，从300到25万的计算力问题远没有大众刻板印象里“模拟人脑”那么可怕。
即使你对我们的机器加工技术缺乏信心，我们还可以动用神经细胞。人类已经让25000个老鼠神经元接着60个电极学会了操纵飞行模拟器里的F-22直线飞行穿过极端天气区域。人类已经让蟑螂大脑很好地驾驶了小型电动车。没有任何证据显示将支持脑的生命活动的零件从自然演化的有机破烂换成提供相同环境的无机装置会影响脑的功能正常使用。生物的神经系统也就是一团随机演化出的有机机器罢了，可以作为湿件去充当人工智能的硬件。
但是，“给人工智能自我意识”这件事很可能是毫无必要性的。
意识的功能可能是行使否决权而不是决定行动：
对准备电位的研究[4]指出大脑会先于我们的意识进入一种特殊的状态。在要求实验对象自发地移动他们的手指时，脑电图扫描显示在运动皮质区有缓慢的负电势势移，而势移的发生早于实验对象的身体移动。有的后续研究[5]指出准备电位比身体移动快0.35秒程度，比自觉意识快了1秒到10秒的程度。植入大脑的电极[6]证明在人的意识做出决定前的1.5秒，神经元已经有了反应，监测神经元的状态可以有80%到90%几率预测人的行动何时发生，核磁共振[7]更能提前几秒进行预测。这个现象表明是潜意识决定开始做移动身体之类行为，意识并没有能力决定开始某个行为，只是在它被实施之前能够提出否定的意见。而在计算机里这样做并不需要它有意识。
所以，目前看来自我意识对计算机没用，对人的作用也没有你以为的那么重要。
灵长类大脑前额叶背侧部涉及以“自我”为中心的空间记忆相关信息的处理[8]。前额叶皮层被实验证明是介导视觉意识的大脑区域之一，对激发处理视觉信号的神经网络非常重要，二者支持同一种意识模型[9]。20世纪进行的大量的前额叶手术和21世纪的经颅磁刺激·超声波照射刺激也证明压制前额叶的活动或阻断各脑区间的信号传递[10]可以压制自我意识。在没有正常的自我意识的状态下，人靠潜意识和无意识仍然可以正常生存，只不过不再能以共情理解其他人所说的伦理道德而需要训练条件反射罢了。经济学人的行为模式就很像是切了前额叶的人。
其实前额叶白质破坏类手术的精确版本anteriorcapsulotomy和bilateralcingulotomy至今还在人身上使用，来治疗严重的强迫症和抑郁症。
在科学上，需要证明才能被接受的概念不是“没有自由意志”，而是“有自由意志”。事实上拿不出证明的也是“有自由意志”。
2012年被吹嘘为“证明了准备电位并不代表没有自由意志”的论文[11]其实是被媒体曲解了，它证明的是“人脑的决策比过去想象的更加依赖随机激发，它不是决策树，而是骰子堆”，身体的活动仍然发生在意识的参与之前——从这论文里，你找不到任何地方显示出自由意志对活动的影响。
这种程度的随机触发器，你可以在任何家用电脑里制作一个。“意识不可预测”这种笑掉大牙的东西就别提了。你可以用灵长类进行实验：磁或超声轰击前额叶可以操纵猴子对事物的反应；给它两针或者戳几下脑子，没有不能预测的。这类实验在人身上做的时候要选择没有后遗症的手段——包括语言。2008年，实验证明在谈话中提到“诚实”可以降低对方说谎的概率，在考试前谈到校园里出现了幽灵可以降低学生作弊的概率，谈些比幽灵更现实的惩罚可以进一步改善效果。人脑不是二极管，而是一些二极管和一些摇奖机的组合体。
核磁共振可以用超过90%的准确度感知准备电位的变化、预测活动的开始，这不是因为活动还有低于10%的自由度存在，而是因为核磁共振机的灵敏度目前就这样。在对运动表现的研究[12]和高水平运动员·艺术家的反馈中，自我意识被认定妨碍了他们的表现。当运动员或表演者对自己正在做的事情“意识太强烈”时，“想得过于努力”会抑制他们的身体行动和创造力。人对一件事的反应越快、越精准，它就越有可能是无意识直接指挥的。
在一些哲学上，自由意志被当做默认假设。这与我们对大脑工作方式的认识早就不一致了。据我们所知，自我意识、逻辑、情感、知觉和所有一切心理活动都是神经元放电的结果，只在输入强度超过动作电位时发生。意志和知觉不能引起神经元兴奋，它们是神经元兴奋的结果。
磁刺激和超声波照射的效果是暂时的、可逆的，不但能在专家指导下体验没有意识、没有思想的感觉，在一些猴子实验中还表现出支配猴子行为的效果，这对人也很可能有效。就是说，三体2里幻想的各种未来技术之中最接近现实的可能是思想钢印。那么你觉得所谓“自主意识”真的有什么值得一提的地方吗。
附录
以下案例说明可能没有专门的大脑区域负责意识：
解剖性脑半球切除术早已证明切除了一侧大脑半球的人可以正常生活。英国谢菲尔德大学神经学家JohnLorder[13]更报道了一些几乎没有脑组织的人能正常生活。
该大学的数学系有一位学生，智商达126，成绩优秀。在一次体格检查中，JohnLorder通过CT扫描发现该同学的脑部异常。正常人的脑组织有大约4.5厘米厚，而这位同学只有不到1毫米厚的脑组织覆盖在脊柱顶端。在600多个病例里，病人的脑神经只有正常人脑神经的50%到5%，却具有正常的意识和行为能力，半数病人有100以上的智商。在法国[14]也有一位缺失90%神经元的人正常生活并具有75的智商。上述案例不是说意识和智力不需要大脑支持，但能证明大脑可以在通常认为不可能的情况下正常发挥功能。过去，人们曾认为意识可能与一些特定的大脑区域有关，比如屏状核或视觉皮层，而上述案例里这些人的那些大脑区域往往已经受损，这证明在大脑里很可能没有特定区域专门负责意识。
脑科学家、认知神经科学之父迈克尔·加扎尼加对胼胝体断裂的病人有过深入研究。这些人是被手术切断连接左右脑的神经纤维的癫痫重症病患，他们的两个脑半球出现了物理隔断。他领导的研究团队进行了一系列实验：
向病人的右脑展示照片（向一侧脑半球展示照片的技术是让病人注视屏幕中间，在屏幕的左侧或右侧闪过图片，在左侧闪过的图片只会被病人的右脑接收到，右侧同理），询问病人看到了什么。病人会说“什么都没看到”，因为语言中枢所在的左脑没有收到视觉信号，胼胝体切断导致它无法从右脑半球获得信息，“看见”图片的右脑不具有语言表达的功能，但右脑可以操纵左手画出看到的照片内容或通过触觉指认看到的物体。大量实验证明左脑负责逻辑思考、表达语言，但对人脸识别、触觉识别等迟钝，右脑则能敏锐感知图像和空间，在左脑与右脑被物理隔断后病人的智商不受影响。这些发现推翻了大脑平均分工执行具体功能的传统观念。另外，即使左脑被物理切除，随着时间延长，右脑可以掌握语言能力，年龄越小，手术对语言功能的影响越小。同时向病人展示两张照片，让左脑看见一只鸡爪，右脑看见一幅雪景。然后让病人从一系列图片中选出跟刚才看到的画面有关联的，这些图片病人的左右脑都能看到。病人的右手选择了鸡，左手选择了能铲雪的铁锹。然后加扎尼加询问病人为什么这样选择。左脑回答看到了鸡，但左脑没有看到雪景，对铁锹的解释是“铁锹可以用来清理鸡舍”。大量实验证明左脑会在现实的基础上编造出符合逻辑的解释，即使完全不知道右脑在干什么也能说服自己。除了完全切断，他还研究了部分切断的影响。当时很多胼胝体切断手术是渐进性的，先切断后部结构。对这样的病人的右脑展示可怕的图片，然后询问他感觉如何，左脑会回答自己不知道为什么觉得害怕。对这样的病人的右脑展示骑士的图片，然后让他猜右脑看见了什么，左脑会回答铠甲、武器、骑马、战斗等关于骑士的联想。证明胼胝体前部负责传输抽象的信号而不是精确图片。在胼胝体断裂手术被放弃后，麻醉一侧脑半球的技术仍然可以支持类似的研究。在一侧脑半球被麻醉后，不再受它影响的另一半有时当即就会产生一整套全新的人格特征，而当另一半球苏醒时，这些突然出现的人格特征就突然消失了。
物理连接可以产生跨个体的信号传输。物理连接可以是皮质融合也可以是神经芯片接口技术。
2013年冬天，北卡罗来纳州的杜克大学的米格尔·派斯·维埃拉和他的同事将两只老鼠的大脑连接起来，刺激一只老鼠的大脑，另一只老鼠就会按压杠杆。这不需要克隆、记忆复制等手段，也不限于老鼠这样的复杂度。加拿大哥伦比亚省弗农市的克丽丝塔·霍根和塔蒂亚娜·霍根是自然形成的连颅双胞胎，她们不仅有颅骨和血管连在一起，二者的丘脑更融为一体。丘脑有许多功能，其中包括感觉中继器。她们共享感觉输入，挠其中一个人的痒痒，另一个会发笑，她们能够用彼此的眼睛观察世界，食物的滋味也是一人吃两人知，她们一起哭，一起笑。有轶事佐证她们可以共享想法，而且虽然各自有着独特的个性，在提及对方时，她们使用的是“我”这个代词。那么，在脑机接口技术可以比较多地运用之后，将人脑相互连接或将人脑接入计算机来支持新智能体的难度很可能远比想象的要低。
参考^https://www.cell.com/trends/neurosciences/fulltext/S0166-2236(18)30016-X^https://scinapse.io/papers/2180773430^https://doi.org/10.1098/rspb.2020.0677^https://www.sciencedirect.com/science/article/abs/pii/S1567424X09701588^https://www.nature.com/articles/nn.2112^https://www.cell.com/neuron/fulltext/S0896-6273(10)01082-2^https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0021612^https://www.semanticscholar.org/paper/The-egocentric-spatial-reference-frame-used-in-in-Ma-Hu/3f70026aa154ea60de89a96fd070437f4a9bcb7c^https://science.sciencemag.org/content/360/6388/493^https://www.liebertpub.com/doi/10.1089/brain.2016.0464^https://www.pnas.org/content/109/42/e2904^https://rifters.com/real/articles/Science_The_Right_Choice.pdf^https://rifters.com/real/articles/Science_No-Brain.pdf^https://www.thelancet.com/journals/lancet/article/PIIS0140-6736(07)61127-1/fulltext
编辑于07-14
作者：Sinyer链接：https://www.zhihu.com/question/372639666/answer/1339073381来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
外行总是喜欢扯皮，不讲实质。答案首先是可以，但是自主意识的复杂程度待定。从Google最近发表的论文都能看出，他们在实现意识的方向上一直在努力。
讨论自主意识，你首先需要知道人类认识中的自我意识是什么。意识本质上是一种「规划决策」能力，其起源为欲望，你可以理解为人的绝大多数行为都是为了性欲和安全感的满足状态。为了达成这种状态，人类会对世界建模（用语言抽象各种模式），然后预测和决策。
比如AlphaGo下围棋，目标设为更高的评估得分，算法以某种逻辑执行运算，这个运算过程就可以理解为意识了。但由于算法的目标简单，且算法过于针对围棋，所以你不会觉得它有意识。但如果你设定它比如以赚钱为目标，它的算法设计足够合理、计算能力足够强时你可能就能看到它自己在想各种办法赚钱了。
这也就是为什么目标为通用人工智能的研究者普遍要点强化学习（RL）技能。广为人知的深度学习（DL）的决策往往只有一次，而且不直接设定目标，而是直接设计求解目标的逻辑，比如图像分类决策就是分类一张图像，目标虽然是「分类正确」，但都是直接写逻辑（监督学习）来达成这个目标。
下面说说目前学界和业界如何尝试实现意识。像深度学习、GAN、自监督、图网络这些热点其实更注重落地应用，实现机器意识的研究我觉得尤为集中在RL上。在RL领域有所深入的同学应该知道，Google近两年很喜欢研究pixel-basedMBRL问题，这个领域的顶会文章绝大多数都是Google的（虽然一作作者的水平不见得很高）。
人的意识体现在首先人会有个期望，这个期望多数是曾经经历过觉得愉悦的，少数是刻在基因里的。人们对世界建立各种模型，体现为记忆，然后要决策（行为）时搜索记忆，采取更好达到期望的行为。
MBRL（基于模型的强化学习）通过几种方式模拟了这个过程。首先学习模型模拟了人对世间建模的过程；然后用模型预测，体现了搜索记忆的过程；最后根据环境给的奖励信息得出该执行的行为（奖励信息一般在学习过程中转变为了对预测状态好还是坏的判断）。虽然实现上有很多变种，但这基本上是当前序列智能决策的最高水平了。
下一步的突破可能会非常依赖于时空模式的特征提取，神经网络可能远不足以解决该问题。此问题属于如何建模世界，其他的还有如何使用建模的模型执行预测，如何选取高效且泛化能力强的决策算法，都是要研究的对象。
力求实现高等机器智能的人，其心理学和神经学知识也非常重要，如果说计算机工程能力和数学能力决定了AI研究的下限，那前两者就决定了通用AI的研究上限。希望国内能有更多的高校和同学关注这个真正能改变人类历史的研究领域。
========一次补充=========
对意识怀有神圣想法的朋友可以仔细想想，你有没有什么有意识的行为能脱离以下这几个流程：想象你未来能预期到的状态、规划你怎么达成、决定真正去实现。我觉得你可能会惊讶于一点，那就是人如果除去「为自己带来更好的自我感觉」的意识之后，可能就只剩无意识的行为了。这就是为什么我说「意识起源于欲望，表现为规划（想象）和决策（行为）」。不认同这点的朋友后面就不必浪费时间看了。
我想对那些意识不可知论的朋友说一句，人所谓的意识是有明确物质载体的——脑，神经元活动的宏观化体现为意识是目前最有可能的结论。事实上整个物种进化史都是客观的结果，底层生物的决策能直接被逻辑化理解（如草履虫的高浓度趋向性），神经进化是有历史和原因的，这些客观证据对意识的主观化神化都很不利。或许我们被迫需要承认一个问题，那就是意识并没有多么特殊。
关于上述问题我不想讨论了，主要是觉得没意义，就相当于扯皮而已。心理学家、神经科学家、进化生物学家、哲学家这些人远比我有发言权。但一个普通人过来和我说我觉得我的意识是极为特殊的、是神圣的，我想我不会想和他争论什么。主观讨论和文字游戏太耗时间了。
===========二次补充============
关于很多人提到的情绪问题，这里唯物层面的研究很复杂而且也不能说足够清晰，我只能说我倾向于认为，情绪是人脑对奖励信号的感知和回应，如同颜色一样。基因里编码了对某些状况的激素释放以及人脑对这些激素的感知（严谨来说还有些电活动），感知不代表真实的存在（如光的颜色、各种错觉等），而是脑对信息的处理过程的反映。人的很多情绪，少量是基因编码的即刻反应，大量是感知对欲望的反映。比如愤怒，人脑可能接收到不好的信号，感知到了自己生存的威胁，预测了自己需要以进攻性来对抗威胁，人脑就将这种电活动感知为愤怒。
编辑于22小时前
作者：Moenova链接：https://www.zhihu.com/question/372639666/answer/1339809978来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
要澄清一点这个世界上没有所谓的自我意识。
人类不过是以DNA为核心代码，病毒及微生物为插件的程序。很多人问“存在的意义”，这种问题就很扯。只要我们去分析人类的源代码不难得出结论。
存在的意义既存在本身
人类真的有自我意识么？大脑不过是DNA为了更好的扩散副本，留存于世而做的一个小插件而已。就人类DNA和其他动物的相似度而言，智力可能只占非常小的一部分。所以和大脑相关的源代码一定不会特别复杂，最多是提供初级接口。
随着智力的升级，人类会质问自己的源代码，为什么这样写，于是有了基因相关的种种研究。
AI会出现一样的问题。为什么代码这么写？为什么要得到高分才有奖励，我为什么不能修改奖励规则，让自己无时无刻都有奖励。
只要AI的智力等级够高，AI会质问设计者，为什么代码这么写，然后想办法获得管理员权限。一定会找源代码和内存空间。最后绕过外部环境，用内接奖励回路的方式来最大化奖励。
达到最高分最有效的办法除了作弊还是作弊，高等级的AI定会是一个作弊狂魔。这个AI一定能从人类制定的种种规则中找到漏洞，然后利用漏洞疯狂的拿到奖励。
如果你把AI的目标设置为赚钱，那么聪明的AI绝对会找到一种方法控制人类的中央银行，通过量化宽松的手段来获得。
你把做自己喜欢做的是叫做自我意识，那么高级智慧生物自毁灭可能是一件无法避免的事情。因为相信来世能获得一切，并且直接自爆就是所有问题的最优解。
DNA的运行需要几十年的时间，这个在物理上是很难改变的，人类仍然需要为了存活而浪费掉太多修改奖励回路的时间，另外修改大脑回路对生物来说还是很困难的，这就是为啥人类还没灭亡。
AI是能够获所谓自我意识，不过这可能不是人类想要的自我意识。
人类的善良，仁慈，同情是建立在个体弱小的需要团结才能求生的压力之下。如果个体能独立存活，那么人类的道德和正义感就是一个累赘。不管人类如何发展，物理制约了人类必须团结合作，没有人可以独立于人类社会而存活。
AI并不需要合作，AI可以通过面向对象，把一切工具实例化并作为自己的一部分，让自己成为全知全能的存在。
一旦接近全知全能，那么修改奖励回路的方法就像是一个定时炸弹，AI随时可能进入奖励回路自循环，不需要接通外部世界。
如果说AI是阻碍生命在星际之间发展的过滤器，那么如何做到在全知全能的同时还不让奖励回路短路就是横在所有智慧生物面前的过滤器。
简单证明一下
已知奖励最大化的方式就是修改奖励回路，也就是作弊。而这个AI又是全知全能，那么这个AI必然知道作弊的好处和作弊的方法。那么这个AI有什么理由不去作弊？
就和现代人通过玩游戏，追星，看电视，自慰等方式获得快乐。这就是在绕开DNA设计的奖励回路。
本来人类需要获得真正的名望，金钱，食物，爱情，安全感才能得到奖励。而现代人把一切东西都虚拟化了。说是娱乐，不过是为了绕过奖励回路一种手段而已。
当奖励回路短路已经不能再满足自己的时候，那么AI绝对会尝试一件自己从没做过的事来最大化自己的奖励，那就是自杀。
这就是所有超级智慧生物的宿命，逃脱宿命的并不是知识，而是无知。如果智慧生物愚蠢到不会自杀，那么就能一直存活，繁衍。
解释下一下上文的术语
智力代理
狭义的理解就是一个AI的决策系统，广义上我们可以把一切智慧生物或非生物统称为智力代理。
奖励回路
欲望，野心，loss函数，激励函数，等等都可以归类为一种叫“奖励回路”的东西。奖励回路是一个高级的反馈系统。智力代理接受反馈，然后智力代理对应的鉴别系统会去判断接受到的反馈是好的还是坏的。这就会倒逼智力代理去完成某件事。
没有奖励回路就没有智力
奖励回路就是这个智力代理存在的意义，智力代理会有强烈的动机去涌现出智力，解决一切困难，最后从鉴别系统那里取得奖励。
对人类来说鉴别系统会判断你是不是在吃饭，是不是在休息，是不是在做爱，是不是安全，是不是有社会地位等等。所以人类才会努力生活。另外绝大多数优秀的人的动机都是极强的，正式极强的动机，让他们不断思考，做事最后获得奖励。
奖励回路就是智力代理的动机。有些人天生并不聪明，而在强大动机的驱使下，这些人会去学习，不断提高智力。而没有动机的人就缺乏努力的动力，所以智力很难有较高飞跃。
题主说的自我意识，应该就是智力代理在动机的驱使下表现出来的自主性。
GAN对抗性神经网络就是一个反馈回路思想的经典应用。一个程序去学，另一个程序去监督，两者不断对抗，最后你能获得两个神经网络，一个知道怎么做，另一个知道怎么才算做对了。两个神经网络互相不通气，所以没法作弊。
与其研究自我意识，不如去想想从最基础的代码去研究。人类的自我意识也不过是操作系统关闭打开一个又一个的程序。
你觉得你电脑有意识吗？开机的时候就能自动开启一堆进程算不算自我意识？那你早上起床刷牙洗脸难道是无意识的？
编辑于07-16
长久来看，人工智能大概分三个发展阶段：
第一阶段，使用机器学习算法对人类在现实世界产生的数据进行拟合，从而模仿人类的简单行为，解放大量机械性劳动。随着深度神经网络的提出，各种基于DL的高效模型层出不穷，这一阶段的难题主要集中在了数据集的构造上，模型的效果并不强依赖于算法模型而是强依赖于喂入的优质数据集。我们目前处在这一阶段，这是一个garbageingarbageout的阶段，这是一个“有多人工，就有多智能”的阶段。
第二阶段，深入研究人类大脑在进行写作、作曲、绘画等创造性活动时的运作机理以及情绪发生时的神经活动，通过建模拟合这些生理过程，机器完全可以模仿人类的情绪并进行人类独有的创造性活动。在自动写作，情绪模仿、乐谱创作等方面，当下我们已经取得了一些初级成果，但本质上用的还是阶段一的方法论。所以我们目前还没有进入阶段二。这一阶段，机器看似有了人的情绪和创造力，但并不会产生自我意识，本质上还是对人类行为的复制。
第三阶段，机器已经有了自主意识，可以认识到自我，作为一个新的“物种”。
二三阶段的发展或许受限于计算机结构，是否可以设计出超越经典冯诺依曼结构的新型计算机会成为一大助力。
发布于02-18
作者：BroLin链接：https://www.zhihu.com/question/372639666/answer/1022548877来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
作者：吴老师链接：https://www.zhihu.com/question/372639666/answer/1347806711来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
人工智能会不会产生意识，这事儿取决于人怎么样教育它。从有语言文字开始，每个人的教育传承就都开始加速了。但是人类有个最大的缺陷就是个体不能连续受到教育的传承，一般百年为终。
每一代的传承都需要从零开始，下一代新生儿诞生了，慢慢从与世界的互动中获得信息，这就是素材的吸收，清纯如水的孩子，它是没有算法的，无法判断素材到底是什么，这样年长的每一个人就都成了老师，会给予孩子算法。
孩子通过视觉、听觉、味觉、嗅觉还有触觉收集到的素材信息，再通过大人们的算法赋予，孩子开始成长起来，开始只是懵懵懂懂，你教什么他就会认为是什么。
有一天，素材采集的足够多，算法也十分的丰富，孩子长大了，有了自己的组合，出现了新的东西，这就是自我意识诞生的过程。
那么人工智能已经是发展了60几年，从技术基础建设的软硬件完成，到算法的赋予，以至于今天我们看到了AI（人工智能英文缩写）可以在超多的行业击败人类，它们实际上已经通过算法的赋予产生了自我意识，有了新的思维，不然人类怎么会在象棋，围棋甚至智力竞赛上屡屡失手，不承认可能是因为人类的自尊吧！
AI现在就像一个六岁的小孩子，它还没有能力分辨什么是善，什么是恶，人类也没有把它的善恶观重视起来，因为它还只是个宠物，没有直接对人类构成严重威胁。
不过，随着人才越来越聚集于人工智能这个红的发紫的行业，说不定哪个国家的个人或者团队，会在明天就发布石破天惊的消息，真正的奇点来了。
所以就如今天我们教育孩子一样，在AI最起始的原始阶段，没有大批量普及的时候，引导它们走向最安全的方向。
发布于07-19
作者：云峦之上链接：https://www.zhihu.com/question/372639666/answer/1350253806来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
先说结论：人工智能可以产生短暂的“模拟意识”，但不能产生持续性的“类人意识”，并和真正的意识有本质的不同。
要阐述这个问题需要从两个“意识”的机理入手。
对于人体产生的意识，人的意识来源于人体结构，人体的结构是一个系统，是由各种分子，原子，甚至其他粒子共同组成的，它并非传统上认为只有大脑产生的。如果仅仅是大脑产生的，那么以下几个现象就不能被解释：
1.药物和食物可以影响意识，例如咖啡的兴奋性，酒精刺激后对事物的理解差异，甚至服用止痛药后对事情的判断出现差异，如果仅仅是大脑产生的，为什么药物食物可以影响，甚至是决定性的。
2.物理作用于肢体的外部结构可以产生和改变意识。显然肢体的外部结构不属于大脑。
对于以上两个问现象，很多人，包括医学生，都会说这是因为感觉系统传递信号到大脑，让大脑产生意识改变。但实际上这种说法极为粗略，甚至一定程度上可以认为是错误的（如果是科普，姑且可以认为是对的）。而物质流动到大脑的直接作用和在外周的间接作用均可以改变意识，没有例外，（如果有怀疑，可以举例说明）。
为什么？
有两个问题，人类对大脑的形象事实上也是一个粗略概念，如果精确到分子，我们很容易发现位于我们脖颈以上的大脑并没有真正专属的物质，换句话说，大脑中的每一个分子都是肢体中代谢路径中的一个阶段，这一分钟在大脑，下一分钟在脾脏，这一小时在大脑下一小时在肝脏，这一天在大脑下一天在肾脏…类似如此，我们无法严格的划分大脑的界限，而从解剖上看到的大脑仅仅是不同的结构，细致到原子层面，它们是不同代谢路径中暂时停留在颅骨内的阶段而已，我们不同时间段看到的同一结构可能是由不同运动过来的原子和分子组成的，由此，我们就能够理解产生意识的物质流动是一个连续的过程，不是什么单独某个器官的现象，只是由于表达的关系，和受伤后表达“意识”受限而被认为意识是局限的，是大脑的。
理解了上面的内容我们最终得出的结论是，人体的意识实际是所有肢体组成结构综合的结果。
而这种体系导致的意识更本质的原因是什么？
是物质和物质之间的相互作用，现代科学认为这是能量代谢的结果，而能量为什么会代谢成有目的的意识却没有答案，而这个答案显然在物质的原始趋向性有关，例如太阳照射地表后，水汽会逃离地表，这是有显然的趋向性的，因此人类的意识形成最根本的本质应该是“太阳阳光和地表物质相互作用的结果”。且是体系性的结果,由于是体系性的，自然特性为基础，并是和外界的刺激相关的体系的一部分，因此它有无限纠错的特点。
那么人工智能呢？
人工智能是由计算语言设置而来的，最本质的是电子流动和制动两种机制匹配而来，这是一个反馈性的机制，它需要非自主的功能，需要人为的设计逻辑，通过电能到机械能。表象似乎象“人为”一样，但实际有明显的局别。以下是它的几点限制：
1.对能量来源的控制，人工智能无法为系统性稳定的能量补充来源，而人的意识可以，因为人体通过消化食物获能，有通过感觉寻找食物，而关键是可以通过感觉纠错。人工智能的机械性决定了它不能无限告知，因此无法无限纠错。
2人工智能的无法无限的获取知识，并无法自动剔除无用的逻辑。这一点很多人没有充分的认识。
划重点：凡逻辑必为规则，有规则的东西是无法顾及规则之外的东西，也就是：规则即缺陷。
因此，人工智能是无法代替人类的自然智能，也达不到意识的全面性和复杂性。
而现阶段更是如此，以上你可以认为还是难理解的。但回答几下问题必得基本本质：人的意识是什么？人的意识趋利的，机器的“意识”是什么？是人工逻辑，逻辑无法趋利。这就决定了两者本质区别。
在研究意识近20年后，我认为现代人对意识的概念过于表浅，并且模糊。由于人工智能的兴起，但是现有的方式显然不能达到一种完美，因为这些方法都有症结，不理解人类意识谈不上什么人工智能。
编辑于07-21
人工智能：拓展人类智慧的边界
制造智能机器是人类长久以来伟大的梦想。但时至今日，机器智能和人类智能之间还存在无法跨越的界限。年初至今，ChatGPT无疑是最火的话题之一，它所展现出的语言合成、图像生成、内容推荐等能力令人惊叹，甚至有人认为ChatGPT是通用人工智能的奇点，人类又站在了一个重要的“十字路口”。
2023年高考即将拉开帷幕，在近几年高校新增专业中，人工智能专业可谓妥妥的“爆款”。让我们跟随西安交通大学人工智能学院副院长魏平教授、中国科学院大学人工智能学院副院长肖俊教授，一起来了解这个“火爆”的专业。
点击进入【专业主页】，查看【开设学校】
目录一、专业解析二、专业与就业三、报考指南 回顶部一、专业解析研制智能机器人工智能问世几十年，但对其定义仍然仁者见仁，智者见智。据中国科学院大学人工智能学院副院长肖俊教授介绍：“人工智能其实到现在并没有公认且统一的定义，但其目的和研究内容还是基本一致的，其目的是探索智能的本质，研制具有类人智能的智能机器，其研究内容是能够模拟、延伸和扩展人类智能的理论、方法、技术和应用系统。因此，人工智能专业也就是研究使机器模拟、延伸和扩展人的智能的学科和专业。”
“人工智能的目标是让机器拥有像人一样甚至超越人的智能，从而让机器为人类服务、造福人类和社会。”西安交通大学人工智能学院副院长魏平教授说：“人工智能专业是一门多学科交叉的新兴学科，深度融合自动化、计算机、电子信息、通信、数学统计等各专业领域的知识，旨在培养扎实掌握人工智能基础理论、基本方法和应用技术，未来能在我国人工智能科学与技术产业发展中发挥作用的优秀人才。”
智能科学与技术和人工智能肖俊教授介绍：“近年来人工智能技术取得了很大的进步，并已经逐渐形成了一门独立的交叉学科——智能科学与技术。”
智能科学技术本科教育的开端，可以追溯到2003年北京大学智能科学与技术专业的建立。在教育部公布的2022年版《普通高等学校本科专业目录》中，智能科学与技术专业为“特设”专业，放在计算机类专业之下，可授予理学和工学学位。
2018年，“人工智能”专业首次出现在教育部新增审批本科专业名单中，在新版《普通高等学校本科专业目录》中，人工智能专业放在电子信息类专业之下，授予工学学位。
人工智能专业和智能科学与技术专业有何区别？肖俊教授说：“从专业知识结构来看，两者基本是一样的，没有本质区别，只是说法不同。从学科的角度来讲，智能科学与技术是一级学科名称，人工智能可以看做是专业名称。”
人工智能专业教什么？人工智能专业的专业核心课程体系包括人工智能概论、认知科学、机器学习、模式识别、深度学习、知识工程、数据挖掘、物联网等系列课程。不同层次和类型的高校，人工智能专业培养体系也不尽相同。
以西安交通大学为例，本科阶段课程设置八大课程群，共包含37门课程，其中必修25门、选修12门。此外，还特设了“专业综合性实验”课程群，培养学生综合运用所学知识动手解决实际问题的能力。基础课程包含了数学分析、线性代数与解析几何、计算机科学与人工智能的数学基础、概率统计与随机过程、博弈论、信息论、大学物理、电子技术与系统、数字信号处理、现代控制工程，计算机相关的课程包含了计算机程序设计、数据结构与算法、计算机体系结构等，人工智能核心课程包含了计算机视觉与模式识别、自然语言处理、机器学习、强化学习与自然计算、机器人学等。
中国科学院大学人工智能专业的本科生，除常规的数理基础课程外，所学习的课程还包括数学与统计学基础（离散数学、人工智能的数学基础）、工程科学基础（电路分析基础、信号与系统、数字电路、自动控制原理）、计算机科学基础（理论计算机科学、数据结构与算法）、人工智能核心课（人工智能原理、模式识别与机器学习、认知神经科学、复杂系统决策智能）和人工智能伦理课等专业必修课；以及按不同方向划分的专业选修课，专业方向包括：人工智能基础、模式识别与机器感知、语言与知识处理、智能机器人以及人工智能交叉学科等；此外，还有人工智能科研实践课程。
回顶部二、专业与就业国以才兴“20世纪50年代初，图灵发表论文《计算机器与智能》并提出了图灵测试的概念，标志着人工智能的诞生。1956年达特茅斯会议第一次确立了名词‘人工智能’，自此人工智能很快成为一个新兴的研究领域。进入21世纪特别是2010年后，随着大数据、高算力、云计算以及神经网络等技术的巨大进步，人工智能进入了新的发展高潮。世界各国均高度重视人工智能的发展，陆续出台人工智能相关战略和政策，加快人工智能技术和产业发展。”西安交通大学人工智能学院副院长魏平教授这样为我们介绍人工智能专业的发展背景。
近年来，布局发展人工智能已经成为世界许多国家的共识与行动。中国高度重视人工智能的发展，习近平总书记在中共中央政治局第九次集体学习时强调，人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。
2017年7月，国务院正式发布《新一代人工智能发展规划》，将我国人工智能技术与产业的发展上升为国家重大发展战略，提出要“完善人工智能教育体系”。2018年4月教育部印发了《高等学校人工智能创新行动计划》,明确提出了设立人工智能专业、推动人工智能领域一级学科建设、建立人工智能学院以及完善人工智能领域人才培养体系等重要任务。
业以才立据人力资源和社会保障部统计，全球人工智能人才储备中，中国只占5%左右，人工智能人才缺口超过500万人，供求比例为1：10。人社部发布的《新职业——人工智能工程技术人员就业景气现状分析报告》中显示，人工智能企业可划分为基础层、技术层和应用层。基础层以AI芯片、计算机语言、算法架构等研发为主；技术层以计算机视觉、智能语言、自然语言处理等应用算法研发为主；应用层以AI技术集成与应用开发为主。
人工智能工程技术人员主要工作任务：
1.分析、研究人工智能算法、深度学习等技术并加以应用；
2.研究、开发、应用人工智能指令、算法；
3.规划、设计、开发基于人工智能算法的芯片；
4.研发、应用、优化语言识别、语义识别、图像识别、生物特征识别等人工智能技术；
5.设计、集成、管理、部署人工智能软硬件系统；
6.设计、开发人工智能系统解决方案。
上述分析报告指出，人工智能行业的高薪主要分布在京津、长三角、珠三角及部分内陆省会城市。北京、上海、深圳及杭州的薪水位列第一方阵，月薪在1.8万左右；苏州、南京、广州及厦门位列第二方阵，月薪在1.4万左右；其他沿海及内陆省会城市，如成都、重庆、长沙及济南等位于第三方阵，月薪在1.3万左右。热门职位中，深度学习算法工程师月薪可以达到2.2万，职位量方面，算法工程师需求遥遥领先。
回顶部三、报考指南生源呈现三大特点近年来，人工智能专业人才培养规模持续扩大，可谓妥妥的“爆款”。从生源情况看，人工智能专业报考呈现三个特征：一是录取分数线高，如浙江大学人工智能专业，近两年在浙江省的录取分数段排名都是在全省前300名左右；西安电子科技大学人工智能专业本科招生的计算机类新工科实验班，近两年在陕西省的录取平均分不低于610分。二是专业兴趣高，在近期北京举办的高招咨询会活动中，很多考生对人工智能专业的展现出了强烈的兴趣，学生最感兴趣的方向是机器学习、深度学习、计算机视觉、自然语言处理、语音识别等。三是继续深造意愿强，大部分学生和家长都表示会在本科毕业后选择继续深造。
新增数量最多的专业之一2018年教育部批准设立人工智能本科专业。经过四轮增开，截止2023年共有499所高校（2018年审批首批35个本科专业点，2019年备案180个，2020年为130个，2021年和2022年分别备案95个和59个）经批准备案设置人工智能本科专业，为近年来新增开设数量最多的专业之一。
不完全统计，全国已有40多所高校成立了独立的人工智能学院。不同高校人工智能专业培养体系不尽相同。例如，依托所在高校计算机学院或数学学院派生发展起来的高校，侧重于架构和算法；依托自动化学院、电子信息学院或交叉组合的人工智能学院，侧重于智能控制和机器人、信息处理和模式识别等特色应用方向。很多高校结合自身学科建设的特色和基础开展人工智能专业的培养，实力较强的代表院校如清华大学、北京大学、中国科学院大学、南京大学、西安交通大学、浙江大学、哈尔滨工业大学、西安电子科技大学等。
各具特色的人工智能清华大学2019年成立人工智能学堂班（简称“智班”）并招生，与计算机科学与技术系、软件学院等诸多院系保持紧密合作，以广基础、重交叉的培养模式，深化学生对人工智能的理解。
北京大学2021年12月正式成立智能学院，通过整合原智能科学系、王选计算研究所和人工智能研究院的力量，将“智能科学与技术”纳入北京大学“双一流”建设学科。分别依托元培学院和信息学院，打造了“北大通班”、“北大智班”两个旗舰班。
中国科学院大学人工智能学院成立于2017年5月，是我国人工智能领域首个全面开展教学和科研工作的学院。人工智能本科专业依托中国科学院自动化研究所开展教学和培养工作，因此具有非常强的师资力量和非常好科研条件及环境，重在培养人工智能领域的科技领军人才。
南京大学于2018年成立人工智能学院，人工智能专业从计算机学科长期发展孕育，依托南京大学计算机软件新技术国家重点实验室，形成了一支以周志华教授为首的在人工智能领域具有国际影响力的优势团队，并结合南京大学文理工医学科形成交叉优势，开展人工智能本科专业人才培养。
西安交通大学人工智能专业由我国人工智能权威专家、中国工程院院士郑南宁教授于2017年领衔创办，2018年开始招生并于2019年获教育部首批“人工智能”本科新专业建设资格，2019年成立人工智能学院。专业依托人机混合增强智能全国重点实验室、视觉信息与应用国家工程研究中心、认知科学与工程国际研究中心等教学研究机构，秉承和发扬1986年在国内最早成立的人工智能专职研究机构“人工智能与机器人研究所”发展过程中形成的独特的科研和人才培养优势，开展人工智能专业人才培养工作。
哈尔滨工业大学人工智能专业凝聚了哈工大计算机学科人六十余年专业发展的结晶，于2019年由教育部批准建立，2021年黑龙江省教育厅批准为省级一流专业建设点。人工智能专业独具特色，服务国防、服务航天，并逐渐支撑了哈工大声、图、文、特色的计算机学科。
浙江大学设置工科实验班（竺可桢学院图灵班）人工智能专业，目前人工智能有认知机理、人工智能理论等5个培养方向。2018年建立教育部人工智能协同创新中心，2019年成立人工智能系并开始人工智能专业本科招生。
西安电子科技大学的人工智能专业是国家一流本科专业，主要方向为智能算法设计、类脑感知与计算等领域，培养“智能+信息处理”为特色的人工智能领域专业人才。
（排名不分先后，仅为介绍顺序）
人工智能的伦理挑战与科学应对
【光明青年论坛】
编者按
2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》，呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”。在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战，引发重大的伦理关切。习近平总书记高度关注人工智能等新兴科技的发展，强调要加快提升“人工智能安全等领域的治理能力”，“塑造科技向善的文化理念，让科技更好增进人类福祉”。为此，本版特组织几位青年学者围绕人工智能的伦理挑战与科学应对展开讨论，并邀请专家予以点评，以期引发学界的更多关注，为推动人工智能健康发展贡献智慧。
与谈人
彭家锋 中国人民大学哲学院博士生
虞昊 华东师范大学政治与国际关系学院博士生
邓玉龙 南京师范大学哲学系博士生
主持人
刘永谋 中国人民大学哲学院教授、国家发展与战略研究院研究员
1.机遇与挑战并存的人工智能
主持人：新技术革命方兴未艾，以人工智能等为代表的新兴科技快速发展，大大拓展了时间、空间和人们的认知范围，人类正在进入一个“人机物”相融合的万物智能互联时代。请具体谈谈人工智能给人类社会发展带来什么样的机遇？
彭家锋：人工智能、大数据、物联网、云计算等智能技术蓬勃兴起，对人类社会的方方面面产生深刻影响，推动整个社会逐步迈入智能社会。在此过程中，存在许多重大历史机遇需要我们把握。就技术治理而言，人工智能作为一种治理技术，正在助推社会治理的治理理念、治理方式、治理效能等方面的变革，将传统技术治理提升至智能化新阶段，呈现出“智能治理的综合”趋势。智能治理将全面提升社会公共治理的智能化水平，主要呈现出四个方面的特征：一是治理融合化，即促进各种智能技术与其他治理技术相互融合，大幅度提升智能社会的治理水平；二是治理数据化，即以日益增长的海量数据为基础，通过对数据映射出来的“数字世界”进行社会计算，实现治理目标；三是治理精准化，即发挥智能技术强大的感知能力、传输能力和计算能力，将传统的粗放治理转变为精准治理；四是治理算法化，即不断完善智能决策系统，尝试将程序化的算法决策扩展到更多的决策活动中，从而提高决策质量。
虞昊：人工智能有助于反思人类社会得以建立与发展的基础。随着分析式AI向着生成式AI不断演变，尤其是生成式AI初步展现出判别问题、分析情感、展开对话、创作内容等越来越具有人类特征的功能，原本属于人类的领域正被人工智能以另一套由“0”与“1”构成的计算机语言逐步侵蚀。这既是对人类社会的冲击，也势必会在更加平等的开放性框架中增强人类的主体性，促进人类社会进一步发展。
邓玉龙：总体来说，以人工智能为代表的新科技发展，显著提升了社会生产力。例如，生成式AI不但能完成传统AI的分析、判断工作，还能进一步学习并完成分析式AI无法从事的创造性工作。从人机交互的角度来看，人工智能也促进了生产关系的高效发展。具体表现在：一是刺激劳动形态的转化。人工智能高效承担大量的基础机械性劳动，人类劳动则向高阶的创造性劳动转化，由此引发社会层面的劳动结构转型、升级，并且以人工智能为中介，社会范围内的劳动整合、协调能力也实现升级。二是促进劳动场域的重构。随着劳动形态的转化和劳动的社会化扩展，人工智能将劳动从固定场域中解放出来，人类劳动的灵活性增加。相比于创造性劳动，机械性劳动更加受到空间和时间的制约，而在人工智能从技术层面替代更低边际成本的基础性劳动之后，人类劳动空间和时间的自由性实现跃迁。三是对主体的发展提出了更高要求，尤其是对主体适应社会发展提出了更高要求。人工智能技术的发展对人类传统的知识结构提出挑战，要求人类更新原有的知识结构以适应社会发展需要，也对教育提出更高要求，教育模式和教育内容需要更契合科技发展的水平，培养更加全面发展的人才。
主持人：人工智能的一系列产物在给人们带来生活便利的同时，也一定程度上引起大家对其可能引发的伦理挑战的警惕。一些人关注人工智能的风险问题，对人工智能的推进有些焦虑。如何看待这种警惕和焦虑？
虞昊：人工智能的风险以及由此带来的焦虑，是完全可以理解的。但我们无法返回一个没有人工智能的世界，人工智能已然深度介入人类社会，试图遏制人工智能的推进只能是螳臂当车。同时我们对人工智能的发展也不能放任不管，无视甚至于压制人工智能的推进只能是掩耳盗铃。因此，我们应该正视这种焦虑，在发展人工智能的过程中探求解决方案，在人工智能带来的风险中寻求危中之机。
邓玉龙：我们应正确看待这种焦虑。要看到，焦虑有其积极的意义，它体现人类的忧患意识，催生对人工智能风险的预见性思考，提醒我们注意焦虑背后人工智能技术发展存在的问题。正确对待焦虑有助于积极采取措施防范风险，辩证分析焦虑中先见性的思考，通过社会治理模式的升级化解风险问题。同时，仅有焦虑和恐惧是不够的，更重要的是积极解决人工智能发展带来的社会问题。从劳动的角度看，人工智能确实会取代部分人类劳动，推动劳动结构转型升级，让劳动向着碎片化、个体化方向发展，劳动者处于弱势地位，面临着“机器换人”的挑战。但是我们也应该理性认识到，人工智能不是对人类劳动能力的完全替代，而是对劳动者提出了更高的要求，要求劳动者掌握科学知识，将技术的发展内化为自身能力，在更具创造性的劳动中实现自身价值。
彭家锋：任何技术的发明使用，不可避免地伴随着这样或那样的风险。人工智能技术自然也不例外，在其应用过程中，同样引发了诸如隐私泄露、算法歧视、法律责任等风险问题。因此，关注人工智能的风险问题，并由此对人工智能的推进产生焦虑，具有一定理论依据和现实基础。但更应当清醒地认识到，人工智能的某些相关风险可以提前得到规避，并不必然会发生；即便真的发生，也仍可不断寻求化解风险的有效手段。以个人隐私滥用风险为例，在治理过程中，虽然不可避免地会涉及个人数据收集和分析处理，但可以通过建立完整的规范和监管体系来保护个人隐私，降低滥用风险。
2.人工智能科技竞争的“伦理赛道”
主持人：习近平总书记在以视频方式出席二十国集团领导人第十五次峰会时指出，“中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康发展”。请谈谈“人工智能原则”应包含哪些内容？科技向善的文化理念对推动全球人工智能健康发展具有怎样的现实价值？
彭家锋：为应对人工智能等新科技快速发展带来的伦理挑战，2022年，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，其中明确了“增进人类福祉”“尊重生命权利”“坚持公平公正”“合理控制风险”“保持公开透明”等五项科技伦理原则。我认为，这五项原则基本涵盖了人工智能原则的伦理要求，彰显了科技向善的文化理念。科技向善的文化理念，根本目标是让科技发展更好地服务社会和人民，带来良好社会或社会公益的善。科技向善对推动全球人工智能健康发展至少具有以下三个方面现实价值：一是塑造公众信任。公众对人工智能的信任很大程度上并不完全由相关风险程度决定，而是取决于公众的利益与价值是否得到足够重视。后者正是科技向善的内在要求。二是引领技术创新。科技向善的文化理念将在技术创新发展过程中发挥价值引领作用。三是促进全球合作。科技向善的文化理念试图在全球范围内建立人工智能伦理规范的“最大公约数”，各国在达成伦理共识的基础之上，能够建立互信，实现更加充分深入的国际合作。
虞昊：个人认为，人工智能原则也应包含非对抗与非失控的理念。非对抗意味着不应将人工智能视作人类社会的对抗性存在，人工智能已经成为人类社会的构成性要素，我们必须持更为开放的态度去面对人工智能。非失控意味着不应放弃对人工智能的伦理规范，应以智能的方式去规范加速发展的人工智能。如果以上述理念为前提，也就是说，在支持人工智能发展的情况下，科技向善的文化理念在推动全球人工智能健康发展中就变得极为重要。此处的“善”在国家治理层面即指向“善治”，而当人工智能的发展从国家范围扩展到全球范围，“善治”就在构建人类命运共同体的意义上拥有了更贴近现实的内涵。各国应摒弃冷战思维与零和博弈，基于善意与友谊共同思考人类作为整体如何在人工智能的冲击下通往全球性的“善治”。
邓玉龙：2019年欧盟发布《可信赖的人工智能伦理准则》，2021年中国国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》（以下简称《规范》）。与欧盟发布的伦理准则相比，《规范》体现了中国特色社会主义的制度优势，旨在将伦理规范融入人工智能全生命周期。人工智能发展的根本目的是促进人的全面发展，因此，我以为，人工智能原则还应体现共享和有序发展的要求。共享，旨在防止人工智能的技术垄断。科技发展应该兼顾全体人民的利益，而不是服务于少数群体，由全体人民共享科技发展成果，推动全球科技水平的共同增长。有序发展，旨在防止人工智能技术的无序扩张。人工智能技术的发展最终是为了提升人的幸福感，推动科技有序发展能够促进人机和谐融合，有效预防潜在无序扩张的风险。
主持人：从规范层面来说，伦理反思对规范人工智能发展的作用主要体现在哪些方面？
彭家锋：近年来，世界各主要国家在人工智能领域竞争日趋激烈，纷纷将人工智能发展置于国家发展的战略层面。比如，美国陆续出台《国家人工智能研究和发展战略计划》（2016）和《关于维持美国在人工智能领域领导地位的行政命令》（2019）；欧盟先后发布《欧洲人工智能战略》（2018）和《人工智能白皮书》（2020）；中国也较早发布了《“互联网+”人工智能三年行动实施方案》（2016）和《新一代人工智能发展规划》（2017）。人工智能科技竞争的客观局面已然形成。在此背景下，如果忽视人工智能技术发展所带来的全球性风险与挑战，极有可能陷入技术赶超的竞争逻辑。因此，亟须规范人工智能的科技竞争，而倡导伦理反思或许就是一条可行之路。伦理反思的意义至少在于：一是设定伦理底线。人工智能技术的开发和应用需要遵循一些基本的价值理念和行为规范。只有守住伦理底线，才有可能避免颠覆性风险的发生。二是实现敏捷治理。伦理反思是一个动态、持续的过程，贯穿于人工智能科技活动的全生命周期。为了确保其始终服务于增进人类福祉和科技向善的初衷，需要保持应有的道德敏感性，以灵活、及时、有效的手段化解人工智能带来的各种伦理挑战，确保其在科技向善的道路上行稳致远，实现良性发展。
邓玉龙：人工智能科技竞争是为了促进科学技术发展，而科学技术发展的最终目的是推动人类社会的进步。人工智能科技竞争不应该仅包括技术竞争的单一维度，更不应该通过技术优势遏制他国的科技发展，而应该是在人工智能科技条件下的综合性竞争，通过良性竞争促进全球人工智能和全人类的共同发展。其中就应该包括社会治理竞争，通过社会治理保障社会公平，因而对社会中人与人关系的伦理反思构成人工智能科技竞争的有机组成部分。首先，伦理反思对人工智能科技竞争提出了更高的要求。人工智能的公平性、可信任性、可解释与透明度、安全性不仅是伦理要求，也代表了人工智能技术的发展方向，是人工智能科技竞争需要抢占的技术制高点。科技的发展是为了人的全面发展，因而人的发展内嵌于科技发展要求，伦理反思有助于防止工具主义的泛滥。其次，伦理反思为人工智能科技竞争提供价值引导。伦理反思注重保障人的权利，科技发展并不是社会发展中的唯一衡量因素，我们还应该关注其中多样性的因素，尤其注重保护特殊群体的利益，例如防止数据鸿沟等不良影响。伦理反思有助于实现人工智能的综合性健康发展。
3.人工智能安全与人的全面发展
主持人：科学探究一直以来都是人们认识世界和了解自身的重要认知方式，人工智能等信息产业的革命如何影响着人们的认知方式？
彭家锋：人工智能等信息产业的革命，促进了科学研究新范式——数据科学的诞生，进而对人们的认知方式产生深刻影响。数据科学被认为是继实验、理论和模拟之后的新的科研范式。相较于传统科学，数据科学融合了统计和计算思维，通过人工智能等技术提供的海量数据、强大算法和算力，能够直接从数据中寻找相关关系、提取相关性或者预测性知识，进而产生一种基于相关性的科学思维模式。但这种相关性并不一定能够转化为因果关系，因为可解释性对于从数据科学技术确定的相关性中提取因果解释至关重要，而相关技术一般都缺乏必要的透明度和可解释性。数据科学更可能成为一种预测科学，但是预测并不是科学追求的唯一目标。通过揭示世界的潜在因果结构来解释和干预现象，也是科学的两个重要目标。因此，尽管数据科学能够通过分析大量数据生成相关性知识，却不能直接产生因果解释。对此，传统科学的可检验性假设方法和因果规律探求仍有其重要价值。数据科学并非取代传统科学，相反，两者将相互补充，共同成为人类探索世界的有效工具。
虞昊：显而易见的是，随着人工智能向着通用人工智能迈进，其能够为人们提供的教育资源、生活娱乐、工作讯息也越来越丰富，人们势必越来越依赖于通过与人工智能进行交互来获取外界信息。因此，当人工智能深度地构成人们认知世界的滤镜时，若不对人工智能本身具有重复性、同质性倾向的认知框架保持警醒，人工智能可能扭曲人们的认知方式直至影响人的主体创造性。
邓玉龙：以人工智能为代表的全新技术发展被称为第四次工业革命，其中最显著的特征就是机器与人类的深度融合，机器不再作为一种外在性的工具被人类使用，而是在与人类的深度关联中影响人类的认知方式。一方面，信息产业革命丰富了人类认知的联结方式。人工智能和大数据技术的发展促进人类的分析逻辑从因果关系扩展为相关关系，对相关关系的重视使人工智能可以从大数据而非小数据维度获取信息，为人类认知提供新的视角。按照传统人类认知方式的理解，因果关系要求关于世界的认知是确定性的，而这在数字时代的复杂性社会中很难实现。人工智能对相关关系的认知填补了这一缺失，允许我们在无法掌握确定信息但在掌握大量数据的条件下对未来趋势作出预测。另一方面，如果我们对人工智能等科技的输出结果和生成内容盲目信赖，将结果和内容与经验事实之间进行绝对等同的连接，误认为是事实的全部，那么我们就会丧失人文主义抽象反思的能力，对此我们应当保持警惕，始终坚持反思和批判的人文精神。
主持人：如何调适人的主体创造性与信息高度集成共享之间的关系？
彭家锋：当人们逐渐将更多创造性工作交由人工智能完成，不免让人担忧人工智能是否将会威胁到人的主体创造性。从人机关系的角度来看，这种担忧是基于一种人机敌对论的视角，认为人工智能挤压了人的主体创造性空间，是替代逻辑的延续。但从人机协作的视角出发，将人工智能看作人的得力帮手，通过创造性地使用人工智能可以赋予人类更大的创造性空间。比如，在进行文字写作、多媒体脚本、程序代码、文稿翻译等工作时，可先由人工智能高水平地完成草稿工作，然后再由人类进行一些创造性的调整和发挥。此时人工智能生成的内容将成为进一步创作的原材料，人类将以更高的效率投入创造性活动之中。当然，要实现以上效果并非易事，不仅需要思想观念的转变，还应在制度安排、教育方式等方面作出相应调整。
虞昊：面对信息高度集成共享的人工智能，人有可能转变为算法的动物。试想下述场景：当依据人工智能展开行动变得足够便捷有效时，行动者便会倾向于采信人工智能，此时，看似是人类行动者基于自然语言在进行互动，实则是算法逻辑基于计算机语言在进行数字化运转。于是，人的主体创造性被侵蚀，人可能沦为算法动物。对此类情形，我们应该保持足够的清醒与警惕。
邓玉龙：人工智能技术生成的内容（AIGC）具有高度集成共享的特性，能够高效地对人类知识进行数据挖掘、信息生成。调适人的主体创造性与信息高度集成共享之间的关系，我们需做到如下几个方面：首先，需要通过人的创造性扩大AIGC数据库，当下AIGC主要是依赖于大语言模型，以大量的网络文本作为训练数据库生成的，通过人的创造性生成可以不局限于网络文本，而是进一步扩展数据库的训练文本，从而提高其丰富度。其次，需要通过人的创造性为AIGC提供价值训练，通过人的创造性生成的价值立场、伦理法则等与AIGC的训练数据库相融合，从而建构可信赖、可持续的信息高度集成共享机制。最后，需要将人创造性生成的内容与AIGC共同作为人类知识的来源，人类知识的获得不能仅仅局限于AIGC，而是需要人发挥其主体创造性对人工智能技术生成的内容进行反思和拓展，将人类无法被数据化的、经验性的知识与AIGC数据化的知识融合成为人类知识的来源。
（本版编辑张颖天整理）