观点：为什么人工智能不可能超越人类智能（取自Marxist Philosophy Baidu Post Bar）
【取自MarxistPhilosophyBaiduPost Bar】柯洁与谷歌人工智能“Alphago”的围棋大战现代工业机器人“人不是固有的抽象物，在其现实性上，它是社会关系的总和”
----马克思《德意志意识形态批判（导读）》
编者注前言
第一，人工智能只能模拟人的某些自然属性，人的社会属性是难以模拟的。人具有思维能力，不仅仅因为人有一个大脑这个物质实体，而且因为人的思维能力同时又是社会的产物，是长期劳动的产物。一个明显的事实是：劳动促使类人猿变成人，促使猿脑变成人脑，促使动物萌芽状态的意识发展为人的意识。人是生活在以自然环境为背景的社会的人，人脑更是一个受社会影响的、发育变化的活动的系统。不仅人脑的结构的一部分是后天发育起来的，而且人的智力也是在实践中不断提高的。这就说明，人脑及思维能力是在社会实践中产生和发展的，社会实践成了思维功能不可缺少的条件。事实上，在接触和改造环境的过程中，人的大脑与客观环境总是互相影响的。也就是说，人们在改造客观世界的过程中，同时改造着大脑的结构与功能。例如，根据神经生理学的研究，由于猿没有语言，它们的大脑内没有语言中枢，所以猿的大脑两半球结构上是对称的。而人类在劳动交往中，产生了语言，相应地在大脑皮层上产生了语言中枢，语言中枢绝大多数人定位在左半球上，因而人的大脑两半球并不对称。正因为人类长期处于不同的社会实践之中，所以不同时期的人，或者同时代不同类型的人，思维能力也千差万别。另外，不同的社会实践，使大脑贮存了不同性质和不同量的信息，因而输出的信息与控制环境的形式也是不一样的。假如让两个不同社会经历和不同知识水平的人，同时去参观一个“电子技术展览会”，虽然两人眼见耳闻的内容相同，但原来两人贮存在脑子里的信息不同，当然他们理解、收获也大不一样。
智能机是机械地工作的，他处理各种能辨认但并不理解枯燥无味的符号。智能机不具备人脑中所含的、形成意识和思想实质的那些丰富的联想、隐喻和概括性的语言，更没有为采取达到某种目的的意志和情感。人的意向活动以及知识经验都是在社会实践中获得的。随着科学技术的发展，人们不仅能制造出自动化程度很高的由“金属元件”构成的智能机，而且有朝一日通过生物工程制造出“活体神经细胞”，组成人造大脑，创造出生物性的智能体，从这个意义上说，机器是可以模仿人的自然属性的。但从总体上看，因为智能机不是生活在社会之中，没有人那样长期的社会实践，不具备人的社会属性，因而也就不可能有真正意义上的思维。
第二，人工智能不具有人的主观能动性。主观能动性，是人类在认识世界和改造世界中有目的、有计划、积极主动的行动，是人区别于其它动物的主要标志。人的这种能动性表现在两个方面：一方面是能动地反映客观；另一方面是能动地反作用于客观，而这两方面又统一于实践。如果根据现代控制论来分析，那么所谓能动性，也就是人的大脑这个特殊物质在获取外界各种信息后，自动地进行分析、综合而作出反映；同时，又根据原来储存的信息进行比较、概括，最后作出控制客观对象的决策，付诸具体的行动。在这整个过程中，相对于主观来说，认识和改造的客观对象总是处于被动的地位。人的意识作为客观世界的反映，并不像镜子那样简单地、机械地、直观地反映，而是通过感觉器官和大脑的复杂活动，通过人体各个部分有机地联系，而产生的积极的反映。人的意识不仅反映客观世界，而且能指导人们去主动地有目的地改造世界。
人工智能可能有自主意识了吗
参会者在第六届世界智能大会上参观（2022年6月24日摄） 赵子硕摄/本刊
➤大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术
➤不同于当前依赖数据学习的技术路线，新一代人工智能强调在没有经过数据学习的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互
➤当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。在发展科技的同时，必须同步发展我们的规制体系
➤“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
文 |《瞭望》新闻周刊记者 于雪 魏雨虹
今年6月，美国谷歌公司软件工程师布莱克·勒莫因称语言模型LaMDA出现自我意识。他认为，LaMDA拥有七八岁孩童的智力，并相信LaMDA正在争取自己作为一个人的权利。
LaMDA是谷歌去年发布的一款专门用于对话的语言模型，主要功能是可以与人类交谈。
为佐证观点，勒莫因把自己和LaMDA的聊天记录上传至互联网。随后，谷歌以违反保密协议为由对其停职。谷歌表示，没有任何证据支持勒莫因的观点。
事实上，“AI（人工智能）是否拥有自主意识”一直争议不休。此次谷歌工程师和LaMDA的故事，再次引发讨论。人们想知道：人工智能技术究竟发展到了怎样的阶段？是否真的具备自主意识？其判定依据是什么？未来我们又该以怎样的能力和心态与人工智能和谐共处？
人工智能自主意识之辨
勒莫因认为LaMDA具有意识的原因有三：一是LaMDA以前所未有的方式高效、创造性地使用语言；二是它以与人类相似的方式分享感觉；三是它会表达内省和想象，既会担忧未来，也会追忆过去。
受访专家告诉《瞭望》新闻周刊记者，上述现象仅仅是因为LaMDA所基于的Transformer架构能够联系上下文，进行高精度的人类对话模拟，故能应对人类开放、发散的交谈。
至于人工智能是否已经具备自主意识，判定标准如何，受访专家表示，对人类意识的探索目前仍属于科技前沿，尚未形成统一定义。
清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说：“我们说人有自主意识，是因为人知道自己在干什么。机器则不一样，你对它输入内容，它只是依照程序设定进行反馈。”
中国社会科学院科学技术哲学研究室主任段伟文认为，一般意义上，人的自我意识是指对自我具备觉知，但如何认识和理解人类意识更多还是一个哲学问题而不是科学问题，这也是很难明确定义人工智能是否具备意识的原因。
被誉为“计算机科学与人工智能之父”的艾伦·图灵，早在1950年就曾提出图灵测试——如果一台机器能够与人类展开对话而不能被辨别出其机器身份，那么可以称这台机器具有智能。
这一设想随后被具化为，如果有超过30%参与测试的人以为自己在和人说话而非计算机，就可以认为“机器会思考”。
当前随着技术的发展，已经有越来越多的机器能够通过图灵测试。
但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周刊记者，图灵测试只能证明机器在表象上可以做到让人无法分辨它与人类的不同，却不能证明机器能够思考，更不能证明机器具备自主意识。
段伟文表示，目前大体有两种方式判定人工智能是否具有自主意识，一种以人类意识为参照，另一种则试图对机器意识进行全新定义。
若以人类意识为参照，要观察机器能否像人一样整合信息。“比如你在阳光下，坐在河边的椅子上看书，有树影落在脸上，有风吹来，它们会带给你一种整体的愉悦感。而对机器来说，阳光、河流、椅子等，是分散的单一元素。”段伟文说。
不仅如此，段伟文说，还要观察机器能否像人一样将单一事件放在全局中思考，作出符合全局利益的决策。
若跳出人类构建自主意识的范式，对机器意识进行重新定义，则需要明白意识的本质是什么。
段伟文告诉记者，有理论认为如果机器与机器之间形成了灵活、独立的交互，则可以称机器具备意识。也有理论认为，可以不追究机器的内心，仅仅把机器当作行为体，从机器的行为表现判断它是否理解所做事情的意义。“比如机器人看到人类喝咖啡后很精神，下次当它观察到人类的疲惫，能不能想到要为人类煮一杯咖啡？”段伟文说。
但在段伟文看来，这些对机器意识进行重新定义的理论，其问题出在，即便能够证明机器可以交互对话、深度理解，但是否等同于具备自主意识尚未有定论。“以LaMDA为例，虽然能够生成在人类看来更具意义的对话，甚至人可以与机器在对话中产生共情，但其本质仍然是在数据采集、配对、筛选机制下形成的反馈，并不代表模型能够理解对话的意义。”
换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术。
郭雨晨直言，尽管在情感计算方面，通过深度学习的推动已经发展得比较好，但如果就此说人工智能具备意识还有些一厢情愿。“把‘意识’这个词换成‘功能’，我会觉得更加准确。”
技术换道
有专家提出，若要机器能思考，先要解决人工智能发展的换道问题。
据了解，目前基于深度学习、由数据驱动的人工智能在技术上已经触及天花板。一个突出例证是，阿尔法围棋（AlphaGo）在击败人类围棋世界冠军后，虽然财力和算力不断投入，但深度学习的回报率却没有相应增长。
一般认为，人工智能可被分为弱人工智能、通用人工智能和超级人工智能。弱人工智能也被称为狭义人工智能，专攻某一领域；通用人工智能也叫强人工智能，主要目标是制造出一台像人类一样拥有全面智能的计算机；超级人工智能类似于科幻作品中拥有超能力的智能机器人。
从产业发展角度看，人工智能在弱人工智能阶段停留了相当长时间，正在向通用人工智能阶段迈进。受访专家表示，目前尚未有成功创建通用人工智能的成熟案例，而具备自主意识，至少需要发展到通用人工智能阶段。
梁正说，大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。“如果你给这类语言模型喂养大量关于内省、想象等与意识有关的数据，它便更容易反馈与意识有关的回应。”
不仅如此，现阶段的人工智能在一个复杂、专门的领域可以做到极致，却很难完成一件在人类看来非常简单的事情。“比如人工智能可以成为围棋高手，却不具备三岁小孩对陌生环境的感知能力。”段伟文说。
谈及背后原因，受访专家表示，第一是当前人工智能主要与符号世界进行交互，在对物理世界的感知与反应上发展缓慢。第二是数据学习让机器只能对见过的内容有合理反馈，无法处理陌生内容。第三是在数据驱动技术路线下，人们通过不断调整、优化参数来强化机器反馈的精准度，但这种调适终究有限。
郭雨晨说，人类在特定任务的学习过程中接触的数据量并不大，却可以很快学习新技能、完成新任务，这是目前基于数据驱动的人工智能所不具备的能力。
梁正强调，不同于当前主要依赖大规模数据训练的技术路线，新一代人工智能强调在没有经过数据训练的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互。
相比人类意识的自由开放，以往人工智能更多处在封闭空间。尽管这个空间可能足够大，但若超出设定范畴便无法处理。而人类如果按照规则不能解决问题，就会修改规则，甚至发明新规则。
这意味着，如果人工智能能够超越现有学习模式，拥有对自身意识系统进行反思的能力，就会理解自身系统的基本性质，就有可能改造自身的意识系统，创造新规则，从而成为自己的主人。
“人工智能觉醒”背后
有关“人工智能觉醒”的讨论已不鲜见，但谷歌迅速否认的态度耐人寻味。
梁正表示：“如果不迅速驳斥指认，会给谷歌带来合规性方面的麻烦。”
据了解，关于人工智能是否有自主意识的争论并非单纯技术领域的学术探讨，而关乎企业合规性的基本坚守。一旦认定公司研发的人工智能系统出现自主意识，很可能会被认为违反第2版《人工智能设计的伦理准则》白皮书的相关规范。
这一由美国电气和电子工程师协会2017年发布的规范明确：“根据某些理论，当系统接近并超过通用人工智能时，无法预料的或无意的系统行为将变得越来越危险且难以纠正。并不是所有通用人工智能级别的系统都能够与人类利益保持一致，因此，当这些系统的能力越来越强大时，应当谨慎并确定不同系统的运行机制。”
梁正认为，为避免社会舆论可能的过度负面解读，担心大家认为它培育出了英国作家玛丽·雪莱笔下的弗兰肯斯坦式的科技怪物，以“不作恶”为企业口号的谷歌自然会予以否认。“不仅如此，尽管这一原则对企业没有强制约束力，但若被认为突破了底线，并对个体和社会造成实质性伤害，很有可能面临高额的惩罚性赔偿，因此企业在合规性方面会更为谨慎。”
我国也有类似管理规范。2019年，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出人工智能治理的框架和行动指南。其中，“敏捷治理”原则主要针对技术可能带来的新社会风险展开治理，强调治理的适应性与灵活性。
中国信息化百人会成员、清华大学教授薛澜在接受媒体采访时表示，当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。特别是在第四次工业革命背景下，我国的人工智能技术和其他国家一样都处于发展期，没有现成的规制体系，这样就使得我们在发展科技的同时，必须同步发展我们的规制体系。“这可能是人工智能发展面临最大的挑战。”
在梁正看来，目前很难断言新兴人工智能技术具有绝对风险，但必须构造合理的熔断、叫停机制。在治理中既要具有一定的预见性，又不能扼杀创新的土壤，要在企业诉求和公共安全之间找到合适的平衡点。
毕竟，对人类来说，发展人工智能的目的不是把机器变成人，更不是把人变成机器，而是解决人类社会发展面临的问题。
从这个角度来说，我们需要的或许只是帮助人类而不是代替人类的人工智能。
为了人机友好的未来
确保通用人工智能技术有益于人类福祉，一直是人工智能伦理构建的前沿。
薛澜认为，在科技领域，很多技术都像硬币的两面，在带来正面效应的同时也会存在风险，人工智能就是其中一个比较突出的领域。如何在促进技术创新和规制潜在风险之间寻求平衡，是科技伦理必须关注的问题。
梁正提出，有时技术的发展会超越人们预想的框架，在不自觉的情况下出现与人类利益不一致甚至相悖的情况。著名的“曲别针制造机”假说，即描述了通用人工智能在目标和技术都无害的情况下，对人类造成威胁的情景。
“曲别针制造机”假说给定一种技术模型，假设某个人工智能机器的终极目标是制造曲别针，尽管看上去这一目的对人类无害，但最终它却使用人类无法比拟的能力，把世界上所有资源都做成了曲别针，进而对人类社会产生不可逆的伤害。
因此有观点认为，创造出法力高超又杀不死的孙悟空本身就是一种不顾后果的冒险行为。
与其对立的观点则认为，目前这一担忧为时尚早。
“我们对到底什么样的技术路线能够发展出具备自主意识的人工智能尚无共识，现在谈论‘禁止发展’，有种空中楼阁的意味。”梁正说。
商汤科技智能产业研究院院长田丰告诉《瞭望》新闻周刊，现实中人工智能技术伦理风险治理的关键，是产业能够在“预判防范-应用场景-用户反馈-产品改进”中形成市场反馈机制，促成伦理风险识别与敏捷治理。同时，企业内部也需建立完整的科技伦理自律机制，通过伦理委员会、伦理风控流程平台将伦理风险把控落实到产品全生命周期中。
郭雨晨说，人工智能技术发展到目前，仍始终处于人类可控状态，而科技发展的过程本来就伴随对衍生问题的预判、发现和解决。“在想象中的人工智能自主意识出现以前，人工智能技术脚踏实地的发展，已经造福人类社会很多年了。”
在梁正看来，人与人工智能在未来会是一种合作关系，各自具备对方无法达成的能力。“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”□
长沙华夏实验学校学生和机器狗互动（2022年6月22日摄）薛宇舸摄/本刊
人工智能的12个典型案例
但以亚马逊的推荐系统为例，它是一个交易性人工智能平台的强大引擎。人们可能已经观察到它的能力，这个系统可以不断学习。本质上，大批购物者正在“教导”亚马逊人工智能系统，以便更好地展示可能出售的商品。也就是说，将一件商品与过去展示的另一件商品相匹配将促进销售，可以将半关联的概念联系起来(例如灯架与摄影设备)。
另一方面，这种高端的人工智能系统需要庞大的计算平台来处理所有这些数据。对于使用小型服务器的用户来说很难为此类系统提供支持。显然，亚马逊网络服务公司拥有世界领先的计算平台。
3.Pandora
对于那些认为人工智能将会取代人类工作的人们来说，Pandora人工智能系统就是一个与人类合作的例子。首先，Pandora通过音乐专业人员的帮助来分析和分类歌曲。Pandora着眼于歌曲的450种属性进行分类，从声乐风格到节奏感。
当其人工智能算法工作时，根据大量用户对其歌曲库的响应，结合了来自用户的大量推荐。然后，人工智能系统可以批量分组和呈现对于用户具有意义的歌曲。
4.Cogito
这无疑是人工智能最活跃的领域之一：在销售和客服电话中使用人工智能，可以增强与客户的情感联系。具体地说，使用人工智能互动比人类更具移情能力。当然，这是人工智能使用的一个前沿。
Cogito(拉丁语的意思是“自我意识”)使用了人类互动的关键真理：它不仅仅是词语的表达意义，而且是词语的表达方式、情绪、节奏和感觉。
Cogito软件可以实时分析对话，提供有关正确和错误的线索和提示。也许对话者可能切入太多主题，或者反应不够快。应用程序提供基于颜色的警告和更新。该软件可以分析数百条线索，以确定对话的情感质量。
5.Nest
推动人工智能增长的关键因素之一是资金雄厚的厂商之间的竞争，希望在早期获得市场份额。以谷歌公司旗下的家用恒温器Nest为例，其部分目标是将谷歌公司的人工智能构建到设备中，用来应对苹果Siri和亚马逊Alexa的不断增长。
Nest使用人工智能来适应人类的行为模式，获得恒定的输入线索，并在家中工作时做出更准确的反应。在业主设置系统一段时间之后，Nest可以自己整合输入。
无论如何，智能家庭设备(物联网设备)无疑是争夺人工智能市场支配地位的关键战场。让一整组智能家庭设备协同行动，它们可以响应家庭成员的指令，并根据其行为学习，这显然是人工智能在家庭应用中的未来。
6.Boxever
总部位于爱尔兰的Boxever公司推出其Boxever“个性化平台”，其主要目标是旅游业。其基于云计算的平台允许旅游公司创建一个单一的客户视图，从而为客户提供更有效的营销。它的目标是通过单独针对客户来改进销售过程。如果人工智能可以在一对一的基础上定制交互过程，理论上它可以更有效地服务(并销售给)客户。
Boxever公司的方法承认竞争的关键部门是客户体验。如果零售商更加谨慎地满足客户的需求，将会在电子商务竞争中获胜。而使用智能软件比人工销售代表的成本要低得多。
7.AIRobotics、Humanoid和其他
人工智能为机器人的应用提供动力，其中包括加州大学伯克利分校的BRETT和麻省理工学院的MITdog。Sophia就是一个受到媒体热捧的人工智能机器人的例子，它和NBC电视台主持人JimmyFallon在“今夜秀”上聊天和唱歌。
除了流行文化的喧嚣之外，还有各种规格和大小的人工智能机器人。例如iRobot公司的RoomBA980吸尘器采用了人工智能技术，可以在家中完成各种清扫工作。该公司声称，Roombas公司已售出1000多万台RoomBA980吸尘器。
8.垃圾邮件过滤器
人工智能的核心就是学习。而使用机器学习和其他人工智能技术，软件系统将变得更智能，无需人工协助。
当然，采用人工智能防止垃圾邮件是一个迫切需要机器学习的领域。工作人员(甚至是团队)难以跟上垃圾邮件的增长。例如，Gmail会部署机器学习算法来过滤(大部分)垃圾邮件。
为此，垃圾邮件过滤器试图更快地跟上垃圾邮件发送者的工作，他们不断采用创造性的方法来欺骗收件人。垃圾邮件过滤器中的人工智能会持续扫描元数据，例如发件人的位置或主题行中的关键字。如果无法学习，垃圾邮件过滤器将在几天之后无法运行。
人工智能技术是使用来自人类的输入：因为对于一个用户具有价值的优惠券对于另一个用户来说则是垃圾邮件。特定用户如何对邮件流进行分类必须是垃圾邮件过滤器学习的一部分。
9.网上银行业务
银行为用户提供方便的优惠：扫描其支票并将其金额存入移动设备中，无需去实际的分支机构存款。其问题是：这样做需要机器来阅读用户的签名，这是一项既混乱又令人困惑的工作——甚至对工作人员来说也是如此。
在其他供应商中，MitekSystems公司采用专门从事基于软件的身份验证。其人工智能技术利用计算机视觉和机器学习使移动到银行的交易安全。
例如，Mitek公司采用视觉算法对银行交易中的无数ID格式进行分类。其核心是光学字符识别(OCR)软件，它扫描文档并将数据转换为可编辑的格式。可以使用人工智能调整OCR软件以准确提取个人签名或指纹。
10.贷款和信用卡处理
当消费者申请信用卡或贷款时，消费者信用评分(FICO)(通常在300到850分之间)将起到至关重要的作用。在过去，贷款工作人员审查了这些贷款和信用卡申请。虽然仍有很多工作人员，但许多关于信用卡的决定或者是否接受消费者的申请，都是由机器学习系统做出的。
同样，学习是这个过程的核心部分。银行管理人员可以设置他们希望当前信贷标准是宽松还是紧缩的参数。但他们希望银行的机器学习系统能够随着时间的推移而学习，以便更密切地确定哪些申请人是安全的借贷者。
11.Lyft和Uber
没有人工智能和机器学习技术，共享单车是不可能存在的。具体来说，票价、预计到达时间以及它将要走的路线：这些都是人工智能计算出来的。
人工智能即时进行大量计算。如果没有一个分析情况的机器学习系统，然后将结果数据路由到用户和驱动程序的应用程序，这些计算的数量和复杂性将是不可能的。当然，Lyft和Uber公司将其记录在自己的系统上，这两家公司拥有关于用户模式的大量数据。
在未来，这些服务预计将出现无人驾驶汽车的时代(尽管这种情况发生时最多仍然模糊不清)。如果没有人类驱动程序的元素，运行系统的过程将成为更纯粹的逻辑机器学习计算。从理论上说，这将导致共享乘车服务的成本下降，甚至可以节省雇佣驾驶员的成本。
12.社交网络
主要的社交媒体网络是人工智能发展的核心驱动力。特别是Facebook公司似乎采用了人工智能的各方面功能。例如，其算法定义了用户的时间轴，决定是否在其时间轴上显示或不显示其朋友的某些帖子。Facebook公司知道，如果某个用户的每位朋友都被展示出来，那么时间表就将变得很混乱，以至于它会让人感到厌烦。因此，时间轴算法可以了解用户与谁进行交互以及其通常忽略的对象。
对于Facebook而言，最重要的是，社交网络使用人工智能来帮助个性化为用户提供广告的方式，因此它具有一定程度的广告显示相关性。需要注意，Facebook允许用户评论广告与时间线的相关性;每个用户评论都有助于系统学习并变得更精细。由于他们使用人工智能微调显示系统的方式，Facebook和谷歌在整个网络广告市场的比例非常高。
此外，Facebook使用图像识别人工智能技术来识别照片中的人脸，因此它可以邀请用户为其添加标签。毫不奇怪，考虑到照片对Facebook的重要性，Facebook在面部识别技术上投入了大量资金。采用机器“读取”照片是当今人工智能时代最为显著的进步之一。返回搜狐，查看更多