“人工愚蠢”的时代
作者：华东师范大学政治学系教授、欧陆政治哲学研究所所长吴冠军
二十一世纪快走完了它的五分之一，我们手上和身上有了越来越多的智能穿戴和使用设备，越来越多的产业与社会领域正在被人工智能与自动化技术所“赋能”（智能车间、无人驾驶、机器人医生……），媒体与自媒体则无止无尽地高速喷涌新概念、高速转换新焦点，但在这些表面变化下面，有一个巨大的变化发生在人们身上。
作为大学教师，我越来越观察到的是：在这个“人工智能时代”，人们的知识却正在被剥夺。法国思想家贝尔纳·斯蒂格勒甚至用“人工愚蠢”（artificialstupidity）来形容当代社会。大学课堂上，越来越多的学生无精打采，只因抖音刷到凌晨五点；网上的大V公开声称不再需要“费力”学习外语，只因“搞一支专业翻译团队就搞定了”；公路上的司机们会眼睁睁把车开进河里，只因GPS说继续保持直行……在全球层面上，一方面人们普遍在抱怨环境的糟糕、空气的污染，另一方面却肆意制造碳排放、无视垃圾分类，认为自己那一点“熵增”无足轻重，甚至“全球权力最大”的那位总统在推特上声称“全球变暖这个概念是中国人编造出来以使得美国制造业不具竞争力”，“纽约很冷还在飘雪，我们需要全球变暖”！
这样的愚蠢，烙印着鲜明的时代记号。在2019年动画剧集《爱、死亡、机器人》中，当人类文明终结很久之后，有三个机器人探索一个废弃城市，并最后得出如下结论：“他们只是通过成为一帮傻人而作死了自己”。我们不知道是否这就是结局，但当下的我们能看到这个变化：人类正在变傻。
愚蠢被催发，盖因知识被剥夺。古希腊哲人亚里士多德所分析的三大知识，在今天都正在被剥夺。第一种是“生产性知识”，亦即关于“工作”的知识。在当下时代，工作知识不断被自动化机器和人工智能所剥夺：无论你是个优秀的工匠、医生、工程师还是棋手，机器都在不断加速地改写你的工作设置，乃至直接取代你。人工智能对社会全方位的“赋能”，就是人的工作知识的全方位边缘化。今天大学的毕业季焦虑，就是工作知识被剥夺的映射：无论你读哪个专业，你的“专业性”知识都快变得学而无用。
第二种是“实践性知识”，亦即人和人如何相处的知识。这个知识通常不被看到，但却是关于“生活”的知识，被亚里士多德视作重中之重。然而，在我们这个时代它却在迅速退化。以师生之间为例，少数老师做了很糟糕的事，但这个社会却在承受它的后果：师生之间相处的“实践性知识”被剥夺，从这几年老师和研究生之间的不信任案例就可看出。夫妻之间也是这样，去年有个女明星因婚姻中“敢作敢为”而获得一片赞赏，可是这种“霸气”不代表有智慧“面对”彼此相处问题。生活知识的被剥夺，导致今天的人越来越不知道如何与他人相处，以至于当下时代的一个关键词竟然是“撕”。各种撕裂以后，大家面对伤口也不知道如何去修复。没有了生活知识怎么办？反思太麻烦，“算法”很简单。比如恋爱失败，无须痛定思痛，手撕“渣男”后直接再上婚恋APP，它会用比你更了解你的“算法”帮忙找出下一个更适合的对象……
第三种是“理论性知识”。哲学、数学、理论物理学等等纯理论知识也许并不“实用”，但一旦被剥夺之后，你的多角度思考能力、分析能力也就被截断了。从大学教育来看，这几年报考学习理论知识的学生越来越少，哲学系、数学系等院系几乎门可罗雀，罗到的那些也多半是无奈被调剂过来的。大学毕业，并不意味着有知识和思考能力：大量高学历者连前文提到的“熵增”都不知道……
工作上笨手笨脚，生活中蠢到只会撕，头脑内无智可用——人工智能时代人在全面变蠢。我们也许无法去微博上或推特上怼倒“学外语无用论”或“全球变暖编造论”，但我们能理解，这是知识被剥夺的人说出来的话。美国学者艾维托·罗内尔早在她2002年专著《愚蠢》中提出：人类可以发起一场针对毒品的战争，却无法发起一场针对愚蠢的战争，所以愚蠢无法被战胜。然而罗氏之论就算在理论上是对的，在实践中也是错的：选择眼睁睁地看着知识被愚蠢吞没，本身也是一种愚蠢。作为大学教师，上出包含知识洞见的课，写出能引人思考的分析性文章，就是抗拒“人工愚蠢”的微小但硬核的“负熵性”努力。
[责编：王营]人工智能有危险NO，“人工愚蠢”才害死人！
虎嗅注：最近，德国大众公司的一个生产线机器人“杀死”一名工人的消息再次引发公众对于“人工智能”的热议，人工智能真的会威胁人类的生存吗？《纽约时报》本周末的一篇文章却表达了不同的观点，有业内人士在该文中指出，人工智能真正的威胁在于“人工愚蠢”带来的浪费，例如机器在无意识的情况下完成大量重复劳动，造成浪费。全文如下：
去年10月，特斯拉CEO伊隆·马斯克（ElonMusk）曾表示，人工智能是“对人类生存最大的威胁”，而开发能思考的机器就像是“召唤恶魔”。去年12月，著名物理学家史蒂芬·霍金（StephenHawking）指出，“全面的人工智能将意味着人类这一种族的灭亡”。今年，微软创始人比尔·盖茨（BillGates）也表示，他“对超级智能感到担忧”，而这样的超级智能只需几十年就会诞生。
不过，即使认为人类将由于“杀人机器人”而面临威胁，这样的问题也不太可能来自人工智能，而更有可能是由于“人工愚蠢”。人工智能和人工愚蠢之间的差异反映了我们看待计算机的方式。
关于人工智能，大部分人担心的一点在于，计算机会认为人类是错误的产物并杀死人类。对人类来说，这无疑非常糟糕，但对计算机来说可能是明智的决定。
但业内专家表示，真正令人担忧的是，计算机程序会在无缘由的情况下，迅速而过度地完成某项单一工作。例如，一个生产回形针的机器可能会失控，导致在一夜之间生产出大量无用的回形针。
换句话说，这里发生了非常愚蠢的错误，而错误影响范围很大。在关于人工智能导致世界末日的报道中，你可能会看到“终结者”机器人的说法，但实际上这仍停留在想象之中。
麻省理工学院物理学教授、未来生命研究所主席马克斯·泰格马克（MaxTegmark）表示：“你真正应该担心的是，一台计算机在某个非常狭隘的领域变得非常强大。”
今年6月底，德国一名工人遭到工厂生产线机器人的意外伤害而身亡。当时，泰格马克表示：“这表明，机器非常愚蠢，将人体当做了一块金属材料。”
未来生命研究所近期获得了马斯克的1000万美元资助，以探索如何避免自动化程序带来危害。不过包括马斯克、霍金和盖茨在内，许多人似乎都没有注意到真正的潜在威胁。
目前来看，没有任何证据表明，机器人工智能能产生意识，并出现杀死自己创造者的想法。
非盈利组织艾伦人工智能研究所负责人奥林·艾奇奥尼（OrenEtzioni）表示：“这种对世界末日的设想搞混了科学的边界，实际上是讨论关于思想和意识等哲学问题。如果有更多人学会软件开发，他们就会发现计算机其实只是很平常的工具。”
那么是什么原因导致了这样的混淆不清？一大原因在于计算机科学家的工作。艾奇奥尼表示：“‘人工智能’一词诞生于50年代，当时人们认为能思考的机器即将出现。我们目前沿用了这一说法。”
“人工智能”一词目前已被广泛应用。谷歌(微博)的人工智能项目主要由收购而来的DeepMind负责。这一领域的一家先行者名为ThinkingMachines。而研究人员也在关注“深度学习”，这暗示了我们正在创造智能。
深度学习依靠了有层次性的逻辑能力，即神经网络。神经网络中的节点常常被比作人脑的神经元，但实际上两者之间的差别就像面包和太空船那么巨大。
包括DeepMind在内，机器学习领域的大部分研究都主要关注模式识别、行为建议，以及预测。这类似于人脑的能力。
人工智能是科技行业最引人关注的一个领域。亚马逊、Facebook和谷歌正在展开一场竞赛，而Uber和通用电气则将机器学习视为了未来。
但从本质上来看，机器学习就是自动化，而这也是长期以来机器的功能。人类在学习中可以变得更聪明，而机器的“学习”与人类不同。
DeepMind已开发出一款程序，能掌握简单的视频游戏，然而这一程序无法将一款游戏的经验应用至另一款。这一神经网络系统对图片的识别方式与人脑仍有很大差异，并且很容易被击败。
从这类愚蠢的机器行为发展至更广泛的与人类类似的行为被称作“迁移学习”。这一领域目前还停留在研究阶段。
加州大学伯克利分校计算机科学教授斯图亚特·拉塞尔（StuartRussell）表示：“人工智能专家知道，一台能下象棋的计算机不会渴望去吃掉对方的某个棋子。”他也是未来生命研究所的成员，并且获得了马斯克的资助。他目前正试图通过数学方法，确保“愚蠢”的计算机程序不会与复杂的人类价值产生冲突。
他表示：“生产回形针的程序缺少的是作为背景的价值观。目前的误解在于，唯一的威胁在于机器可能出现意识。”
28条有关人工智能的名言，靠不靠谱你来看！
编者按：当谈到人工智能（AI）的潜力和潜在风险，以及无人类干预的机器学习和推理过程时，目前尚存在许多不同的观点。只有时间会告诉我们，这些语录中哪一条是最接近未来的真实情况的。在我们尚未到达目的地之前，想一想哪家的预言最可能成为现实是一件很有趣的事。
1.史蒂芬·霍金
全面化人工智能可能意味着人类的终结……机器可以自行启动，并且自动对自身进行重新设计，速率也会越来越快。受到漫长的生物进化历程的限制，人类无法与之竞争，终将被取代。
2.克劳德·香农
我设想在未来，我们可能就相当于机器人的宠物狗狗，到那时我也会支持机器人的。
3.拉里·佩奇
人工智能将是谷歌的最终版本。它将成为终极搜索引擎，可以理解网络上的一切信息。它会准确地理解你想要什么，给你你需要的东西。我们现在还远远没有做到这一点。然而，我们能够逐渐接近，我们目前正在为此努力。
4.ElonMusk
人工智能（我指的不是狭隘的AI）的发展速度之快令人难以置信。除非你对Deepmind这样的项目有直接的接触，否则你不知道它的发展速度有多快它以接近指数的速度发展。在未来5年的时间里，很有可能发生重大的危险事件。最长也在10年之内。
5.NickBilton
“人工智能带来的巨变将会迅速扩大，它将越来越可怕，甚至带来灾难性结果。”想象一下这样一幅场景一个原本是用来治疗癌症的医疗机器人最终得出这样的结论：消灭癌症最好的方法就是消灭那些基因里就易于受癌症攻击的人类。
6.JamesBarrat
我不想吓你，但我和很多人聊过，他们在人工智能领域都有很高的地位，但他们都准备了一些紧急方案，一旦发生不可控的事故，他们可以用这些方式退出。
7.埃隆·马斯克
我越来越倾向于认为，应该在国家和国际层面上进行监管，以确保我们不会做出非常愚蠢的事情。我的意思是说对于人工智能的研究就仿佛是在召唤一个恶魔。
8.格雷·斯科特
问题所在是，我们什么时候才能起草出一份人工智能法案？这一法案将包括什么？这将由谁来决定呢？
9.克劳斯·施瓦布
我们必须既团结一致又独立地解决由人工智能和生物技术前沿研究而带来的道德伦理问题，这将可以显著地延长人类寿命，增强记忆力并且对新生儿进行有益地影响。
10.吉尼·罗曼提
有些人把这种技术称之为“人工智能”，但实际情况是这种技术将增强我们人类的能力。因此，我认为，我们将增强人类的智能，而非“人工”的智能。
11.杰玛·伟兰
我对于人工智能的忧虑多于兴趣事实上这两种态度本身就相差不多。事情会在头脑中变得清晰，你会被欺骗，你会相信一些你平常不会相信的事情。一个由机器人来运作的世界似乎不再是完全不现实的幻想了。这有点令人不寒而栗。
12.格雷·斯科特
谈起人工智能就不得不谈谈“终结者”。我真的觉得这不现实。我不认为拥有了超人智能的人工智能系统会变得暴力。我不认为这将会破坏人类的文化。
13.彼得·戴曼迪斯
如果一国政府对无人机、干细胞或人工智能技术进行管制，禁止使用，那就意味着相关的研发和生产会转移到别的国家进行。
14.杰夫·霍金斯
人工智能的关键性问题是其表现形式。
15.科林·安格尔
观察全社会将如何对待人工智能技术将会很有趣，这一技术无疑会很酷。
16.埃利德·尤德考斯基
任何能带来优于人类智能的东西，（其形式可能为人工智能，人脑-计算机交互界面，基于神经科学的人类智能提升），都会在改变世界的竞赛中占据领先地位。再没有什么能与此相提并论。
17.黛安·艾克曼
人工智能正在快速成长，机器人亦如此，它们的面部表情可以激起人们的同感，让你的镜像神经元产生震颤。
18.SybilSage
电视中，人们只要叫一声Alexa，她就亮了起来。她总是处于待命状态，永远不会说，“不行……”简直是完美的女人。
19.艾伦·凯
有些人担心人工智能会让人类觉得自卑，但是实际上，即使是看到一朵花，我们也应该或多或少感到一些自愧不如。
20.雷蒙德·库茨魏尔
人工智能将在2029年左右达到人类智力的水平。再进一步，比如说，到2045年，我们将会把智能技术，人类文明所创造的生物机器智能的能力扩大10亿倍。
21.塞巴斯蒂安·特伦
虽然没有人这样说，但我认为人工智能几乎是一门人文学科。这是一种试图理解人类智力和人类认知的尝试。
22.艾伦·佩利
在人工智能上花一年时间，这足以让人相信上帝的存在。
23.格雷·斯科特
到2035年，人类的思维不可能，也不应该可以继续跟上人工智能机器的步伐了。
24.斯派克·琼斯
人工智能不如我们的智力吗？
25.EliezerYudkowsky
目前为止关于人工智能的最大的问题在于，人们过早地得出结论，认为他们真正理解这一技术。
26.让·鲍德里亚
人工智能的可悲之处在于它不够巧妙，因而不够智能。
27.汤姆·查特菲尔德
忘记人工智能吧在大数据的勇敢新世界里，我们的首要工作是找出那些“人工智障”。
28.史蒂夫·波里亚克
在我们研究人工智能之前，我们为什么不做一些关于自然存在的愚蠢行为的研究呢？
那么，你怎么看？你对人工智能有什么看法？
未来机器人到底会有多厉害？机器人大会上的大咖可要给小伙伴们开课了。
关于人工智能的十二条名人名言
[[321443]]阿兰·图灵(1912至1954)是最早重视人工智能概念的思想家之一。他的开拓性工作，为我们如今熟知的数字计算与AI领域奠定起发展基础。
要从最简单粗暴的角度来理解，人工智能就是一项工程挑战。当前最先进的AI算法，无一例外都基于非常复杂的数学原理。训练这些先进AI模型需要巨大的计算资源量，而AI的发展本身也在推动新一代芯片的研发与创新。
然而，人工智能又远非工程技术所能概括。伴随着关于广泛自动化的坚实承诺，AI技术同时也迫使我们重新考虑经济组织与社会结构设计等根本性问题。对AI的追求让我们不得不面对关于意识、智能与创造力的核心挑战——更具体地讲，人何以为人?
因此，任何希望在二十一世纪真正把握人工智能发展脉搏的朋友，都必须广泛接纳来自工程学、心理学、经济学、社会学以及哲学领域的问题与观点。
下面，我们将援引世界上众多最伟大思想家的名言，了解他们如何看待人工智能这一意义深远的主题。希望这些名言有助于阐明AI主旨、涵盖范围、潜在挑战以及蕴藏于其中的巨大能量。
“真正的问题并不是智能机器能否产生情感，而是机器是否能够在没有情感基础的前提下产生智能。”——马文·明斯基(MarvinMinsky),1986
“技术日新月异，人类生活方式正在快速转变，这一切给人类历史带来了一系列不可思议的奇点。我们曾经熟悉的一切，都开始变得陌生。”——约翰·冯·诺依曼(JohnvonNeumann),1958(在技术快速发展的背景下，他首先提出了「奇异性」一词)
“250多年以来，经济增长的基本动力一直是技术创新。其中最重要的，正是经济学家们提出的所谓通用型技术，包括蒸汽机、电力与内燃机等等。而我们这个时代下最重要的通用型技术正是人工智能，特别是机器学习。”——埃里克·布林约尔松(ErikBrynjolfsson)与安德鲁·麦卡菲(AndrewMcAfee),2018
“虽然还没人提及，但我认为人工智能更像是一门人文学科。其本质，在于尝试理解人类的智能与认知。”——塞巴斯蒂安·特伦(SebastianThrun),2013
“我们不得不面对的最大难题，并非来自人类大脑是否属于机器的哲学问题。毫无疑问，大脑就是机器，而且是包含大量严格遵循物理定律的零件的机器。众所周知，我们的思想仅仅是一系列复杂处理过程的产物。而最重要的问题是，我们对这样一台复杂的机器并不够了解，因此我们还没有做好应对这台机器的准备。”——马文·明斯基(MarvinMinsky),1986
“如果人类的大脑简单到我们可以理解，那么我们就将愚蠢到无法理解大脑。”——爱默生W.皮尤(EmersonM.Pugh,)1977
“有些人担心人工智能的出现会令人类感到自卑，但任何有头脑的人单是观察花朵就应该能感到自己的渺小。”——艾伦·凯(AlanKay)
“人类很容易让自己陷入对机器的依赖，以至于不得不接受一切都交给机器处理的现实。随着整个人类社会及其面临的问题越来越复杂，机器也将变得越来越智能。人们将让机器为自己做出更多决策，这单纯是因为机器做出的决策能带来比人类决策更好的结果。这最终会发现到某个特定阶段——在这一阶段中，保持系统运作所需要的决策将变得极为复杂，导致人类再也无法有效做出决策。届时，机器将在实质上掌控一切。”——泰德·卡钦斯基(TedKaczynski，「大学炸弹客」),1995
“从表面上看，经过编程的计算机似乎明白什么是汽车、什么是加法器——但事实上，它什么也不明白。”——约翰·塞尔(JohnSearle),1980
“人们总喜欢活在舒适区内，用粗暴的断言安慰自己，例如机器永远无法模仿人类的某些特性。但我给不了这样的安慰，因为我认为并不存在无法模仿的人类特性。”——AlanTuring,1951
“在我们交谈时，你怎么能确定我的内心深处正在进行所谓「思考」?图灵测试将成为解决这类问题时的一种重要探针——类似于物理学领域的粒子加速器。如同物理学当中，如果我们希望了解原子或者亚原子层面的情况，由于无法直接观察，我们必须将经过加速的粒子散布到目标周围以观察其行为，最终推断出目标的内部性质。图灵测试将这一基本思路扩展到了意识领域——它把思维视为不可直接观察的「目标」，并通过更为抽象的方式推断其内部结构。通过将问题从目标思维中「分散」出去，我们就能了解其内部工作原理，正如物理学领域的作法一样。”——道格拉斯·霍夫斯塔特(DouglasHofstadter),1981
“人工智能是我们人类正在从事的最为深刻的研究方向之一，甚至要比火与电还更加深刻。”——桑德尔·皮猜(SundarPichai),2020