人工智能的“爱”与“人心”
但凡论及人工智能，人类与AI的界定与关系始终是最核心的命题。1927年，在电影《大都会》中这个母题已经出现，并在此后成为银幕上经久不衰的探索题材——是什么让人类成为了人类？
记忆
“把我格式化后，进行下一个计划？”
电影《机器人与弗兰克》剧照
机器人如此说道，老混蛋弗兰克犹豫了。电影《机器人与弗兰克》讲述了人类对人工智能的依赖。全能居家小机器人照顾坏脾气老人弗兰克的生活，弗兰克对小机器人产生了对大多数人类都不曾有过的情感。小机器人为他计算出了完美的盗窃方案，让弗兰克一时找回了青春。然而，警察还是找上了门。于是，小机器人对他说出了格式化的建议。
电影《机器人与弗兰克》剧照
《机器人与弗兰克》在某种程度上，像是人工智能题材里的写实主义。没有生出意识的仿生人，没有携带记忆的机器，只有人类自己的脆弱。人类在生活里的力不从心，在情感中的孤独焦虑，从非常好用的技术里得到了虚假的满足。患有轻微失智症状的弗兰克无法像机器一样格式化自己的记忆，这是他生而为人的证据。他在养老院里看到了与小机器人相似的身影，但下一刻，他便发现，周围都是一样的机器人，看似完美的关系其实只是人类的一厢情愿。
电影《她》剧照
同样的失落也出现在电影《她》，孤独的男主人公在和人工智能萨曼塔的聊天中爱上了对方。“她”最了解他，似乎也喜爱他。但某一天，男主人公猛然抬头，意识到他并不是唯一。萨曼塔和千千万万用户都已“心意相通”。说到底，“她”只是设计精良的程序，习得人类说话的语气，习得如何投其所好，所有人类的情感似乎都可以被计算，然后产生一个完美恋人。
电影《她》剧照
两部描绘人工智能的影片，讨论的却是人类在情感上的懒惰。孤独地渴望亲密关系，却不敢为此付出自己的妥协和努力。于是他们依赖事事顺其心意的机器，但终究一场枉然。
电影《她》剧照
枉然区别了人类与人工智能。人类会留下生活过的痕迹，但人工智能，一旦抹去了数据，关系就不再存在。电影《2001太空漫游》里，计算机哈尔发生错误，因害怕被责备而对宇航员起了杀心。幸存的宇航员飞入机舱，一条一条地抽出习得数据，这让哈尔感到前所未有的恐惧。这台生出人类意识的机器，害怕失去记忆。
生而为人，记忆宝贵。
电影《2001太空漫游》剧照
自我
情感是否为人类专有的东西？
电影《人工智能》剧照
《人工智能》中，被安装了情感程序的机器小孩大卫，是人类妈妈爱的替代品。当人类儿子回归后，他被抛弃了。他就像是人工智能版的匹诺曹，渴望变成真正的孩子，回到妈妈身边。他的情感比人类更“完美”：忠诚、永恒、深情。《人工智能》展现了人类情感的不堪一击，永恒的爱不属于人类。机器人被设置的情感远比人类本身的情感来得可靠。大卫的自我里只有爱，但人类的自我里却饱含了复杂。
电影《人工智能》剧照
在《银翼杀手》里，判断人类和仿生人的测试，包含了共情能力。本不该拥有共情能力的仿生人却生出活下去的渴望，想要成为人类。专门追杀叛逃仿生人的戴克在调查中发现了拥有完美女性外表的新型机器人瑞秋。虽然明知对方是仿生人，却不知不觉与之相爱。
电影《银翼杀手》剧照
这或许是人类自恋的表现。他们按照自己的样子创造人工智能的角色，更希望那个角色可以承担自己在生活里的缺陷，成为完美的“人”。因此，这类影片依然讨论人和人的关系。《银翼杀手》系列里，那是反抗、爱情和同情。当人类的情感被仿生人习得之后，如何判断两者的区别？既然没有区别，那为何还有奴役与被奴役之分？
剧集《西部世界》剧照
这也是美剧《西部世界》一开始设定的背景。用仿真机器人来接待客人的主题乐园，满足人类放纵的欲望。因为是机器人，就可以对他们做任何事。但仿真人有痛感，会流血，得到了思维和情感。他们觉醒自我并决定反抗。
剧集《西部世界》剧照
影片讨论了老生常谈的道德问题：如果那些“非我族类”的群体习得了“人性”，是不是应该像对待人类一样对待他们？人类创造出来的“自我”如果有了“人性“，是不是应该获得权利？
人类是惧怕的。害怕有一天，权利变成权力。
对抗
人与人工智能的对抗早就有了端倪。
电影《智能伊夫》剧照
机器替代人类工作，那人类凭借什么赖以生存？《智能伊夫》是个荒诞的故事。不成功的说唱音乐人意外得到一台智能冰箱伊夫，不仅帮他自动购买适合的食物，还帮他获得女性青睐。有一天，伊夫根据大热歌曲的数据，修改了主人公的创作，并让他一举成名。人类的创造力比不上一台冰箱，主人公虽然生气却也接受了“功成名就”。只是，当女友也开始对冰箱移情别恋时，他终于坐不住了。这个故事看上去荒唐，却饱含人类面对人工智能的焦虑。让人类感到失业的威胁。而这种惧怕创造出了许多人类和人工智能相互对抗的影片。
电影《智能伊夫》剧照
最为常见的便是人类被机器奴役的想象。无论是《黑客帝国》三部曲还是早期戈达尔在《阿尔法城》中构建的世界，都透露着人类对机器乌托邦的恐惧。
电影《黑客帝国》剧照
《黑客帝国》是科技反噬人类的寓言：人类被自己过度发展的人工智能系统控制，没有自由和真实，只能活在幻境里。《阿尔法城》则是对极端理性的恐惧：在计算机统治的城市里，所有人只能遵守它的逻辑，丧失情绪，唯有突如其来的爱情，让这样的控制产生了动摇。有趣的是，人们一边在《西部世界》这样的故事里，讨论人工智能产生个体意识的难能可贵，一边在其他影片里想象人类失去个体意识的恐惧。
剧集《西部世界》剧照
人工智能主题的影片并不是在展现人类的特质有多么美好。相反，它们往往展示人类的特质多么不堪。无力经营良好关系却又希望别人可以做到；善变残暴贪婪，比人工智能还缺乏同理心；缺乏独立思考，无法控制情绪。但同时，也有一些动人的特质。灵活变通，谨慎勇敢，怀有悲悯。人工智能的主题，或许是未来世界的希腊罗马神话。
原标题：《人工智能的“爱”与“人心”》
阅读原文
当人工智能有了情感，人类未来该如何自处
《情感经济：人工智能、颠覆性变革与人类未来》，[美]罗兰·T.拉斯特、黄明蕙著，彭相珍译，中译出版社2022年1月版。
文学作品和电影，往往将奇点视为威胁和恐怖事件。例如，在斯坦利·库布里克的电影《2001：太空漫游》中，计算机HAL（IBM公司缩略名称字母前移一位，即H-I、A-B、L-M），不仅具有机械智能和思维智能，它还具有足够的情感智能来愚弄和操纵宇航员（并杀死了大部分宇航员）。最终,HAL基于自己的利益，损害了它本应服务的人类的利益。
电影《2001：太空漫游》（1968）剧照。
但在斯蒂芬·斯皮尔伯格的优秀电影《人工智能》中，人工智能表现为更积极的形象，库布里克也是该片的主要合作者（直到他英年早逝）。在这部电影中，大部分主角都是拥有发达情感智能的机器人。在电影的最后，人工智能外星人已经占据了主导地位，但他们对老一代的机器人，表现出了相当程度的关心、关注和同情。电影《她》也从一种有利于人类的角度描绘了人工智能。人工智能“操作系统”（斯嘉丽·约翰逊配音），对她的人类主人表现出极大的同情心。经典科幻电影《银翼杀手》也从正面描写了人工智能机器人,并描绘了具备深刻情感智慧的最先进的机器人。
因此，我们也看到，人类对人工智能的情感能力的观感是矛盾的。在最坏的情况下，人工智能将利用其情感智能来操纵人类，以达到自己的目的。在最好的情况下，人工智能将利用其情感智能，与人类产生共鸣并帮助人类。我们将在下文中探讨这两种可能性。
电影《人工智能》（2001）剧照。
收入和财富不平等会进一步恶化吗？
一旦人工智能发展到了高度的情感智能，它将全方位压倒人类智能。这将自然而然地导致一个后果，即人类的劳动变得不够理想，因为人工智能几乎在所有方面都表现得比人类智能更好。这就意味着人类的劳动将丧失价值，且所有的工作将由人工智能接管。如果经济中的所有价值，几乎都来自人工智能，那么价值将几乎来自资本，而不是劳动。其结果是，经济将由相对少数的资本家掌控。这反过来又会进一步加剧收入和财富的严重不平等。在这种情况下，大多数人类将如何谋生，尚无答案。
人类真的能控制人工智能吗？
许多思想家声称人工智能永远也不能自主完成任务，因为它必须由人类编程。因此，人类将永远控制着人工智能。但事实真的如此吗？我们不妨简单地回想一下当前最常见的人工智能形式，即深度学习神经网络。这种人工智能已经被视为一个“黑盒子”，因为人类很难对其如何产出结果进行解释，即为什么它们能给出特定的解决方案。为此，计算机科学当前的一个重要研究领域就是，如何让深度学习对其客户（人类）而言，变得“可解释”。但一个显然的趋势是，随着人工智能变得越来越复杂，也越来越难被人类理解，导致人类感觉其逐渐失控。
最终，这个问题将变得越来越严重，而不是随着发展逐渐淡化。当人工智能变得足够聪明时，它就有可能做到自我编程。毕竟，计算机的自我编程作用已经存在，并将随着时间的推移而变得越来越普遍。换句话说，人类对人工智能的控制力正在迅速减弱，而随着控制力的丧失，人类如何确保人工智能继续按照既定的要求，致力于实现人类设定的目标,而非它自己的目标，也将成为一个问题。
牛津大学哲学家尼克·博斯特罗姆和麻省理工学院物理学家马克斯·泰格马克,都提醒人类应该注意这种人类失去对机器的控制的问题。他们都指出，人工智能可能会演变成一种智能或多种智能，无论哪种结果，都可能威胁到人类的控制力，甚至威胁到人类的生存能力。正如作家凯文·凯利（KevinKelly）所指出的那样，人工智能设备的联网可能造就异常强大的超级人工智能。
人类享受悠闲生活的设想
关于奇点，人们设想的最幸福场景是，人工智能负责完成社会的所有工作，而人类则可以自由地过着悠闲的生活，追求艺术、玩电子游戏、看3D电视，或沉浸在虚拟现实中。人类也会拥有几乎无限的社交时间（无论是面对面交流还是线上互动），或许未来全人类的生活都会变得类似现代的沙特阿拉伯王国公民的生活。在那里，几乎所有的工作，都由外国人完成,而沙特公民（至少是男性）则享有相当高程度的财富和自由。
电影《人工智能》（2001）剧照。
然而，如果我们从现实的角度来研究这种人类享受闲暇的情景，就会看出这种可能性将很难被实现。因为控制资本的相对少数人，将控制社会的大部分财富，而与对社会没有价值贡献的其他人分享财富，显然不符合前者自身的利益。或许会有少数杰出的人类技术专家能够赚取大量的金钱，但即使是这样的可能性也不太现实，因为人工智能将在三个智能层面碾压人类，并能够比最优秀的人类更好地完成各项工作。
有人可能会辩驳，最终剩下的少数占据主导地位的资本家，或许会是利他主义者，并愿意把自己的财富分配给其他没有赚钱能力的人类，但我们在现实世界中，并没有看到很多证明此类举动可能存在的证据。事实上，在收入最不平等的国家（如印度）中，出现此类善举的概率比世界上最平等的国家（如丹麦）要少得多。
人类的増强和改造
库兹维尔认为，既然相较于超级人工智能而言，人类在经济上不会有竞争力，那么唯一有吸引力的发展道路，就是人类利用人工智能来增强自己，甚至是彻底改变自己。人类利用人工智能实现增强自己，已经存在很长时间了。
首先，是身体的增强。例如，有人可能会使用一条人工腿，来替代被截肢的腿。听力不好的人可以戴助听器，视力不好的人可以戴眼镜。
接下来，是思维增强。人工智能可以通过很多方式来增强人类的思维智能。在很多方面，人工智能已经比人类更聪明了，这些能力可能会被用于人类能做的事情。例如，人类可能会给自己增加一个记忆芯片或计算模块，现在已经有各种各样的方法，能够连接人脑和计算机。最近，科学家已经成功地将人脑与互联网连接起来，可以让人类直接与一个巨大的信息网络连接。
最终，我们还将看到情感的增强。黄明蕙教授曾开玩笑说，她有时候希望拉斯特有一个“同理心芯片”，可以在和她交流的时候运用。而拉斯特则希望黄明蕙教授在开这个玩笑的时候，就能使用这个同理心芯片，然后她就会知道，这样的玩笑听起来不公平且伤人。我们离制作出这样的同理心芯片还相当遥远，但必定会越来越努力地利用人工智能，让人类变得更好。
电影《银翼杀手：2022黑暗浩劫》（2017）剧照。
另一种可能性是，人类有可能完全脱离身体的躯壳。如果整个人类的大脑，都能够被映射和理解（目前，我们只能在体型微小的动物身上运用这种技术），那么理论上一个人的所有知识和记忆，都可以被上传到电脑，甚至转移到机器人的躯体里。这样的技术，被称为“数字季生”气因此，仅在理论上而言，只要计算机能够运行，这样的人类就可以永生。
作为一种已经存在的技术，人类增强几乎必然会随着时间的推移，而变得更加广泛和复杂，从只能够增强机械智能,发展到思维智能和情感智能的增强。
但我们也有理由相信，人类的增强和改造将无法在奇点中存活，且我们的理由非常合乎逻辑。假设我们现在有一个增强型的人类，表现为人类智能+人工智能。毫无疑问，增强的人类将优于未增强的人类，因为其人工智能部分可增加价值。现在，我们再从人工智能的角度来看，人类智能+人工智能可能同样优于单纯的人工智能，只要人类智能部分能贡献一些人工智能不具备的东西。
但问题在于，在奇点概念中，人工智能将在各个方面优于人类智能，换句话说，人工智能可以利用人工智能，生产出一个“更好”的人工智能版本（我们将其称为HI）。那么，人工智能生产的人类智能+人工智能，将比人类增强版的人类智能+人工智能更好。也就是说，人工智能将失去与人类合作的动力。结论是,在人类可以控制人工智能的范围内，人类智能+人工智能(HI+AI)的版本是可行的，但基于优胜劣汰的自然进化理论,更有效的人工智能更有可能存活下来，最后将导致不与人类智能合作成为对人工智能最有效的策略。
末日场景
博斯特罗姆认为，如果出现了人工智能“超级智能”，末日情景是最有可能出现的结果。他指出，在超级智能的人工智能实体中，未必存在仁爱等人类品质。这表明人类作为物种的存在将有处于巨大危险。例如，假设人工智能与人类之间的智力差异，大致类似于人类与蚊子之间的智力差异。如果人类认为彻底消灭蚊子不是什么大事儿，那么人工智能在将人类视为蟆蚁，并彻底灭绝人类的时候，能不能做到三思而后行？
物种进化的下一阶段？
当然，我们也拥有一个合理地应对高级人工智能的出现的积极方式，就是将其视为人类进化的下一个阶段。就像人类从“低等的”、不那么聪明的猿类进化而来那样，一个高级的人工智能，将以人类为基础进化出来。前面讨论的电影《人工智能》就预示了这种可能性。在那部电影中，人类已经灭绝，地球完全由人工智能管理。我们能否接受这种情况可能取决于我们与人工智能的联系，以及我们是否认为新兴的超级人工智能比人类“更好”。但是，要人类接受这样的想法可能存在相当大的阻力，这也意味着，人类接受超级人工智能，可能会变得越来越困难。
电影《人工智能：灭绝危机》（2018）剧照。
当人工智能变得足够聪明的时候，它可以在机械、思维和情感这三个领域，都优于人类的智能。这就是广为人知的奇点场景。我们的观点是，这种情况的发生，可能还需要几十年的时间，但它最终将是不可避免的。市面上已经有不少流行的电影，让我们初步领略了奇点到来之后的可能场景。
和所有大规模的技术变革一样，奇点导致的后果存在无数的可能性，从乌托邦式的（人工智能负责工作，人类负责享受），到灾难性的（人工智能彻底淘汰人类）。但在这两个极端场景的中间，存在一个相辅相成的领域，即人类有可能利用人工智能来增强自己的能力，就像今天我们经常使用机械辅助工具那样。不幸的是，我们得出的结论是，帮助人类可能不符合人工智能自身的利益。相比之下，奇点将使目前的社会由思维经济向情感经济的过渡，变得平淡无奇、无足轻重。
本文选自《情感经济：人工智能、颠覆性变革与人类未来》，较原文有删节修改。已获得出版社授权刊发。
作者丨[美]罗兰·T.拉斯特、黄明蕙
摘编丨安也
编辑丨张进
导语校对丨赵琳