人工智能最大威胁不是毁灭人类 而是让人越来越懒
从智人时代的认知革命开始，人类就进入了无休止的进化阶段，走过认知革命、农业革命、工业革命，人类以为是因为自己的智慧和勤劳的双手改变了生活现状，将自己进化为最高阶层的物种，从而促进人类文明。
然而，很多人或许根本不知道真正促进人类文明的除了智慧之外，根本不是因为勤劳，而是人类DNA里遗传的懒。
人类的欲望（懒惰）是最初的因，因为人类在科技出现之前就已存在，而欲望（懒惰）则是人类与生俱来的。
使人变懒的不是科技，而是人类的欲望。
地球人真的很懒。
懒得用手洗衣服的人，发明了洗衣机，解放了主妇们的双手，让她们有更多的时间享受自己的生活。
懒得走路的人，生产出了汽车，让你和家人出行兜风享受春光一路欢畅。
连发短信都嫌麻烦的人，研发了聊天软件，让你和朋友斗表情包都可以玩一天，其乐无穷。
啥都不想干的人，发明了机器人。
科技的进步让我们的生活更美好，而对“懒“的追求是一切进步的源动力。
在未来，无人驾驶会日益成熟，我们的交通会更加顺畅，再也不会有马路杀手的存在；
各类分子材料的衣服会被发明，衣物也不再需要用水洗；人工智能会在各行各业大放异彩，我们每个人都能像电影《her》的男主角一样有个量身定制的智能操作系统。
-----------------------------------------------------------------------------
我们常常在各个媒体上看到霍金对人工智能的预言：人工智能会导致人类灭亡。
看到比尔・盖茨对人工智能的担忧：人类需要敬畏人工智能的崛起。
看到马斯克对人工智能的恐惧：人工智能是人类生存最大的威胁。
其实瞎操心的基本都是外行。
讲真，霍金是谁？他不是搞天体物理的吗？他什么时候成为人工智能的专家了？
比尔盖茨这个退休搞慈善的企业家，搞不懂他为什么也这么害怕人工智能？
再说说马斯克吧，他一边喊着人工智能是最大威胁，一边联合其他高管建立了一个名为OpenAI的公司呢，据说投资金额高达10亿美元。
所以，我们为什么要相信这些“伪人工智能专家”的话？（我个人很敬仰这些人，这里绝无恶意）
真正研究AI的人关心是能不能做出有情感、会思考的机器，而不是像个预言家一样到处跟人讲AI会不会威胁人类。
退一步说，就算机器人真的强大到比人类还聪明，它为什么要杀死我们？
我们何德何能，让机器人费心来奴役我们？
在强人工智能时代，我们是跑得比机器人快，还是脑子比人家机器人好用？你视力能比得过它的电子望远镜？你记东西有人家记得多还是算数学有人家快？你在机器人面前，根本就是地上的蚂蚁。
人类通常杀的都是能吃的东西，比如鸡鸭牛羊，想一想，我们什么时候去奴役过蚂蚁？
除非机器人的“食物”是人，否则机器人不会杀人。
所以人工智能最大的威胁并不是消灭人类，而是让人变得更懒，懒惰的我们还会发明更懒的方法彻底解放懒人。注意，这里的懒，很大程度上是褒义词。
人工智能的作用不是代替人，而是代替人们做简单的、机械的、意义浅显事情，从而解放人类以更多的精力投入到真正需要人类智慧的复杂的活动中，去从事更有意义的事业。
刀和剑可以伤害人，但是它们没有威胁到整个人类的生存。刀和剑只是工具罢了。
我们真正要担心和防备的，是使用工具的那个人，是会滥用人工智能的人。
所以，如果有机会拥有一款为你专属订制的机器人，你希望TA是什么样？希望TA能帮你做什么？
是清晨用志玲姐姐的声音娇滴滴叫你起床的？
还是可以陪聊陪睡陪看剧陪打游戏还永远有耐心的？
浮想联翩的同时也可以来参与赛格威机器人的开发体验，打造一款自己的专属机器人！返回搜狐，查看更多
人工智能越来越强大，它会让人类变懒吗
【天极网网络频道】前言：当前，人工智能技术突飞猛进，已经遍布多个行业领域。近日，Looker首席执行官Nick Caldwell，在展望人工智能应用的新趋势时表示：“为什么我们对人工智能的可解释性要求要高于对其他人类的可解释性要求呢？现实情况是，在过去几年中，人工智能开始超越人类的能力，2019年将是我们开始接受人工智能的一年。作为人类，我们不需要完全理解为什么人工智能会做出某个决定，当我们决定不再问‘为什么’时，系统可能变得更好、更快”。Nick Caldwell的观点可能会让一些人感到忧虑，人类未来是否会因为越来越多的依赖人工智能而变得懒于思考呢？
福布斯2019 AI趋势大预测：要像信任医生一样信任人工智能
最近，福布斯邀请了多位人工智能领域的企业人士，共同展望人工智能应用的新趋势。其中，Looker首席执行官Nick Caldwell表示：“到2019年，可解释性(理解人工智能系统如何工作的能力)将成为一件好事。当你去找医生看病的时候，你从来没有要求他们提供所有的参考资料、案例研究等来证明他们的观点。在某种程度上，你接受医生是专家这样的看法，你信任他们。如果这是可以接受的，为什么我们对人工智能的可解释性要求要高于对其他人类的可解释性要求呢？现实情况是，在过去几年中，人工智能开始超越人类的能力，2019年将是我们开始接受人工智能的一年。作为人类，我们不需要完全理解为什么人工智能会做出某个决定，当我们决定不再问‘为什么’时，系统可能变得更好、更快。”
看到这里也许有些人会产生这样的疑问，人类在信任人工智能技术的同时，是否会因为逐渐依赖人工智能带来的种种便利，而变得越来越懒惰呢？
人工智能时代，人类或将变得越来越懒惰？
曾有专家预测，未来高度发达的人工智能或许能够很好地安排一个人的生活，因为人工智能将会更加了解人类，人类的衣食住行它都可以做出准确的安排。到那时，人类将会完全依赖于人工智能，甚至是将有可能丧失自己独立思考能力。
当前，人工智能已经全面进入到我们的生活中，它在提高人类生活质量的同时，也为各行各业创造了大量产业的革新。例如，人工智能技术促进了汽车、芯片、物联网等硬件与软件服务的创新升级，与此同时，面部识别、虚拟现实等功能的扩展使得应用场景在不断地增加。
当前，人工智能已经可以为我们提供很好的决策辅助服务。不过，当我们对人工智能技术越来越信任时，仍有一些人对人工智能抱有谨慎的态度，他们认为，如果人工智能发展到足够成熟的阶段，人类不再愿意去主动判断，而完全相信人工智能做出的决定时，人类将会在人工智能的精心照顾下越变越懒，最终退化。就像现在，我们的生活越来越离不开智能设备，尤其是导航软件的出现，极大方便了人们的出行。可是，让人意想不到的是，导航的出现正让一些人变成真正的路盲。这个现象令人十分忧虑，人类在创造科技的同时，却让亲自动手动脑的能力越来越弱。我们不由得感叹，人类用智慧创造出聪明智能的机器设备，而这些智能设备却让大多数人变得越来越低能。
人工智能将为人类节省更多的时间!
但是，我们也需要注意到，人工智能技术带给人类的是行动上的方便，可以让人们有更多的时间和精力去做其他更有意义的事情，而不是将时间精力耗费在简单的、重复劳动上。
事实上，人工智能与懒惰是两个完全不相关的话题。在没有人工智能的时代，同样存在勤劳和懒惰的人。在人工智能高速发展之后，勤劳和懒惰的人也依然存在。人工智能并不能改变人是否变懒，它很可能改变的是，在不需要人类的主动行动之下，人工智能设备就已经准备做或者正在做力所能及的事情了，所以我们将会有更多时间去做自己想做的事情。
如果有一天，你的衣食住行都是由人工智能设备来服务，这是否意味着你变懒了呢？答案当然是否定的。这完全取决于你将整个过程节省下来的时间用在哪些事情上，如果用在工作、思考等方面，那就不是懒。
写在最后：
综上所述，人类脑力退化与否，不在于人工智能，而在于人本身是否懒惰。 甘于懒惰的人，即使没有人工智能技术的出现也会出现脑力退化;相反，如果跟上时代的步伐，不断地自我鞭策，挖掘自己的潜在价值和学习能力，也就没有了“人工智能技术使人退化”的伪命题了。
科技改变了人类的生活，让我们生活越来越舒适、工作效率越来越高。对于我们来说，人工智能的利是大于它的弊的。我们有理由相信，人工智能将会为我们开启一个充满想象力的崭新世界。
郝景芳：人工智能最大的威胁可能是让人类懒于思考
郝景芳新浪科技讯11月5日下午消息，今日“2017腾讯WE大会”在京举办，中国科幻作家、第74届雨果奖获得者郝景芳出席并发表演讲。
郝景芳介绍说，人工智能只能处理特定边界的问题，目前，人工智能头上还有三朵小乌云，分别是综合认知的能力、理解他人的能力和自我决定的能力。“人工智能无法回答跨界问题、常识问题；无法回答需要因人而异、体察人情的问题；它不会做这样的决定，因为它并没有对于自我的了解、自我的认知。这种能够从自己出发做决定的能力，也能够看得出来人工智能和人的区别。”
郝景芳解释说，综合认知的难度在于，现在的深度学习网络，一个网络只能够学习一件事情，这在科学界被称为遗忘的灾难，一个这样的人工智能只能干一件事情，不可能像我们人一样有通识的能力，这是人类和人工智能很大的不同，人是触类旁通的。
对于理解他人的能力，郝景芳分析说，现在是有一些人工智能和人的语言对话，但自然语言处理仍然还是一个难题，只有在特定领域的专业问答，可以有比较好的答案匹配，就是因为人工智能实际上还仍然不能理解大量的情景，就是因为它的头脑里面没有对人类世界、物理世界、人情世界的通识知识体系，所以他理解很多的自然情景都会很困难。此外人工智能由于没有内心丰富的情感世界，并不能够推己及人。
第三点自我决定的能力，它得需要两个方面的突破，一是自我表征的能力，人工智能需要能够自己说出来，我做这个事情是为什么；此外，人工智能没有自我意识。
对于这些能力是否能够突破和解决，郝景芳认为，有可能，但是不是现在，不仅仅靠算力提高，需要有更好的、更强的综合性算法以及更多技术突破。
“人工智能下一步发展，不管它往哪个方向发展，它要处理的接下来就是综合的、多功能的、多能力的、多目标的任务的相互协调，多种价值观、多种任务的相互协调，这是我们需要更多地去理解人类的大脑、理解我们人类的心智系统。”
提到人工智能最大的威胁，郝景芳表示并不是取代工作，它们会取代一部分工作，但是他们会制造出更多更多的就业岗位。“人工智能对我们最大的威胁就在于，当我们过于依赖很多的数据系统以后，我们自己如果变得懒于思考、懒于自我反思，而让我们自己的智慧退化的话，这是对人类最大的威胁。”（谭宵寒）
以下为郝景芳演讲全文：
我要讲什么故事？是讲的有关人工智能的故事，人工智能这两年真是太火了，从去年开始就有很多人一直在谈论，人工智能现在已经战胜了围棋世界第一的高手，人工智能什么时候全面地战胜人类？他们会不会超越人类？会不会全面的取代人类，甚至会不有一天毁灭人类呢？
我们前些日子都看过一个电影叫《机械姬》，里面有一个很有钱的老板请了一个科学家去帮他测试他的人工智能能不能通过图灵测试。
我今天要讲的故事是前一段时间又有一个老板请我过去，说你作为一个科幻作家帮我测一测我刚刚花了大价钱买的人工智能机器，你帮我测一测它能不能通过图灵测试。我说好，你这个机器是什么算法，什么原理？他说就是现在最流行深度学习、强化学习、大数据学习。我说好，我用三个小测试就能帮你测出来，我猜它是通不过图灵测试的。这三个小测试很简单，他说什么三个小测试？我说就是我们人都会的，但是机器现在都不会的测试。
第一个测试题，如果哥伦布没有发现新大陆对中国哪个菜系影响最大？这对我们人类实在是太简单了，我们都知道哥伦布从美国带回来了南瓜、玉米、红薯、花生、辣椒，还有很多别的食物。那么哪个食物影响最大？对于我们吃货界来讲，也不难回答，当然是辣椒。如果没有辣椒，当然没有川菜，所以肯定是对川菜影响最大。
而这个涉及到我们的日常生活的常识，尽管所有的其他食物也很重要，但是只有像现在这样一个灵魂式的味觉食物，它能够调味，才对菜系影响最大。
所以对于人工智能来讲这是一个跨界问题，它涉及到历史，也涉及到日常生活的常识，也涉及到饮食对这种跨界问题、常识问题，人工智能是答不出来的。我跟老板说你就测试它这第一问题。
第二个测试题，她说没想到今天这么冷，她希望你如何回复它？人工智能如果回复给她一个天气预报，肯定不是他心里希望的，如果一个女孩子说了这样的话，她希望你怎么回复她？抱抱？这也不是唯一的答案，答案要看你和她的关系，要看这个女孩子她是一个什么样的个性，也要看当时在一个什么样的场合下。如果真的是一个跟你关系很不错，有一点暧昧的可爱的姑娘、萌妹子，也许说这个话，是想让你把衣服给她，然后顺便抱抱。
但是如果这个时候不是这样的场合，是一个女老板，刚正不阿的女上司，她说没想到今天这么冷，那你再说我抱抱您吧，她肯定一个耳刮子就扇上来了。这个时候她可能是跟你说，你的工作是失职的，为什么没有给我把房间弄得更暖和一点，你这个时候赶紧得说对不起老板，我下次给您提前安排。
所以这是什么问题，就是对方当他说一句话的时候，他心里的意思，他的含义，他希望我们的回应，这是完全因人而异的，这是需要我们能够察言观色，能够体察对方、理解他人的心思才能够给出正确答案。我说这种问题人工智能它是不会做的，您放心我帮您测这个它肯定不行。
第三个测试题，明年可以学英语，也可以学编程，你会选择学什么？为什么？这种问题对于我们人来讲也很容易的，我们每天都在看大量形形色色的广告，每天都被各种各样的信息充斥，我们在其中能够根据我们自身选出我们自己想要的，这也是没有正确答案的问题，因为实际上该学什么，要从你自身找答案，你要知道你是一个什么性格的人，你的梦想是什么，你未来的目标是什么，你想要达到目标要怎么做，根据你自己的自身情况来决定学什么。
人工智能它们不理解自己，它们没有这种元认知能力，他们并不能够为自己做决定，当你跟AlphaGo说下围棋，它不会说我不要下围棋，我今天想去看场电影，它不会做这样的决定，因为它并没有对于自我的了解、自我的认知。
所以我说这种能够从自己出发做决定的能力，也能够看得出来人工智能和人的区别。
然后老板就问我说，可是你说的这几个东西在我听起来实在是太简单了，AlphaGo都这么厉害了，AlphaGoZero在已经战胜了原本的AlphaGo，它不能很快就学会吗？我说那我们要来看看AlphaGo它会什么、不会什么。AlphaGo厉害的地方在于深度学习、强化学习，它有很强的算力、它有大数据。深度学习是一种神经网络，是一种基于大数据的统计的算法，模仿了我们大脑皮层的神经网络，能够从很多的数据里面找到规律，自己学到最好的算法。它和过去上一代的人工智能最大的不一样就是上一代的人工智能经常是专家系统，就是专家告诉你怎么下棋你就怎样下棋，但是这一代的人工智能用了这样深度学习的办法，可以自己学会下棋的套路。但是它是非常有局限性的，因为这样的深度学习算法它只能够处理数据透明规则明确的一个特定领域的问题。
也就是说，在一个特定的边界里面，处理这个边界里面的数据，然后找到最好的结果。它并不知道它自己在下围棋，它也不知道它是AlphaGo，它不知道它战胜了世界上所有的高手，它下了围棋也不会高兴，它只是在处理一些数据，但是它并没有我们刚才说过的一些高层次认知能力，自我认知能力，自我意识能力。
然后老板说，我知道现在算力是进展很快的，过几天我们计算能力又上了一个新台阶，你说的这些高级能力是不是就能够学会了呢？我说，其实我相信未来总有一天人工智能会克服这些难关，学到我刚才说的这些能力。但是，这是一个阶梯状，并不是拿现在的算法增强算力，就一定能够解决所有的问题，而是要跨过一个又一个槛，上一个又一个台阶。这就像是当时发明了蒸汽机、电，人们就觉得自己能够解决世界上所有的问题了，物理大厦就剩下了三朵小乌云，后来就是这三朵小乌云提出了相对论、量子力学，把人类带入了新的世界。
我说，未来可能会实现，但是它需要有很大的鸿沟、很大的跨越，才能够实现。
现在人工智能头上三朵小乌云的就是综合认知能力、理解他人的能力、自我决定的能力。
综合认知的能力困难在哪？现在的深度学习的网络，一个网络只能够学习一件事情，当它学习了下围棋，它把围棋领域的数据都学会了之后，它整个网络记住了这一件事情，一旦这个网络再去学另外一件事情，这个网络就把前一件事情忘记了，因为它是用整个网络所有的参数来学习了这一件事情，一旦学习另外一件事情，它就已经不会记得前一件事情所有的参数。
这个在科学界被称为遗忘的灾难，一个网络，一个这样的人工智能只能干一件事情，只能在一个特定领域里面做一件狭窄的事情，不可能像我们人一样有通识的能力，我们人和人工智能很大的不同，就是我们人是触类旁通的，当我们学习了政治、经济、历史、社会文化、家庭日常生活的做饭、交通出行，我们不会认为这些都是不同领域的事情，我们是把它融会贯通，融在一起的。
人类在我们的头脑当中有一个世界模型，很多时候我们并没有意识到这个世界模型的存在，它就是我们对物理世界，对于人情世故这个世界常识的来源，但是这个世界模型非常重要。
当我们有了这样的世界模型，我们在看眼前的一幅画面，明明是一个二维画面，我们会用自己头脑当中的知识，把这个画面在我们眼前构建成一个三维的，栩栩如生的画面。
我们现在看到面前的礼堂、舞台、座位，我们会觉得这是一个有纵深的，三维的舞台。可是人工智能没有这样一个世界模型在自己的头脑当中，它分辨图象要用很多很多真的图象，非常非常多的计算来做。
现在有一些实验室做这样的视觉，已经开始试图用这样一个模型来构造这样的视觉。而我们的头脑当中都有这样的模型，我们有关于世界的理解、关于他人的理解，关于整个社会的理解，我们的常识系统，这种通识知识体系，是我们理解事情的基础，也是我们超越人工智能的地方。
第二理解他人的能力，理解他人的能力，现在是有一些人工智能和人的语言对话，自然语言处理仍然还是一个难题，只有在特定领域的专业问答，可以有比较好的答案匹配，为什么自然语言处理会难呢？就是因为人工智能实际上还仍然不能理解大量的情景，就是因为它的头脑里面没有对人类世界、物理世界、人情世界的通识知识体系，所以他理解很多的自然情景都会很困难。
现在的语言很多时候是用的这样一个优化算法的搜索，你出了一个问题，它去搜索一个答案匹配给你，但是很多时候并不能够真正理解对方的意思。
此外人工智能由于没有内心丰富的情感世界，并不能够推己及人。我们人类是怎样相互了解彼此的呢？有几个方法，第一个我们用目光接触。研究共情的学者会发现，最先进的灵长类的大猩猩可以通过这样的目光交流，人类绝对可以通过目光来理解对方，小孩子大概从9个月的时候就开始有这种能力。我们头脑当中有镜像神经元，镜像神经元可以直接反映出对方的一些意图和对方的感受，我们能够直接感受到对方。
另外，我们有推己及人的能力，在这个时候，当我们生病的时候，希望对方嘘寒问暖，我们就能够推导出对方生病的时候，一定希望我们嘘寒问暖，而人工智能由于没有这样的自己内部的情感，它自然也很难推己及人。
人工智能在理解他人的能力方面，目前还是有很多的困难。我也知道有很多实验室，现在已经开始试图把整个的认知框架、认知模型带到自然语言处理上面，但是可能是很久很久以后的事情。
第三个自我决定的能力，它得需要两个方面的突破，一个是自我表征的能力，人工智能需要能够自己说出来，我自己做这个事情是为什么。现在我们的智能网络，当它学会了一件事情，你给到它很多数据，它直接给你说出一个结果，我们人并不知道它为什么这么做，它自己也说不出来为什么这么做。这种真正提取出对于自己来说有意义的因果表达能力，它使得我们做很多事情可以举一反三，可以泛化，我们可以从一件事情学到的东西，可以带着这样的因果关系用到另外的事情。但是，人工智能在很多时候缺少这样的语言认知能力。
此外，人工智能并没有一个说，原来这就是一个我，这样的一种自我意识，可能未来要到很久之后才会产生，不知道要到什么时候，其实人工智能目前并不是一个独立体系，不像我们人与人，我们每个人所有的思想、灵魂都封闭在我们同一个身体里面，我们并不能随时联通到互联网，但是人工智能不一样，很多时候是要与其他的网络去连接、联通。
所以，这样的孤立自我意识，很可能跟我们人完全不一样。
现在这几朵小小的乌云是人工智能目前不能做到和我们人类一样的地方，未来有没什么可能突破呢？有可能，但是不是现在，不仅仅靠算力提高，需要有更好的、更强的综合性算法，以及更多技术突破。
这个老板就问我说，你觉得人工智能未来怎么达到一个更高水平的智慧呢？我说其实最好的方法就是更多地了解我们人自身，去理解我们人类自身的心智系统是怎么样的。人工智能能够在一个领域里面做到极致，但是我们人是一个自我综合协调的系统，我们人并不是一个单一心智的，我曾经最喜欢的人工智能学家马文·明斯，1985写过一本书叫《心智社会》，其实是把人比作一个社会，人的心智里面每一部分，其实都像一个小人一样，小人在一起组成了一个完整的、复杂的社会，人并不是有单一心智的。
马文·明斯在《情感机器》中说，我认为人类的尊严来自于人类自身的构造，处理多种情况和困难的不计其数的方法，多样性正是人和动物，与过去所知道的机器的主要区别。这是什么意思呢？现在很多时候，当我们制造机器的时候，我们总想寻找一种通用智能，就是用这一个智能解决所有的问题，但是人其实不是这样的，人是一种综合智能，在人的头脑里面有不一样的智能处理问题。当我们在街上看到一个车过来的时候，杏仁核发出警报，告诉我们危险要躲开，当我们看到一个老人摔倒在街上，一种同情怜悯让我们想把他扶起来，但是另一个批判的声音说，他有可能是骗子要躲开，但是另一个正义的声音说，即使他是骗子，这样可怜的老人我是不是应该帮助他。但是还会有一个综合的，从一个全景的视野的角度会去分析这个时候的形势、分析这个时候个人的情况、分析这个时候社会的状况，可能会报警，也可能会介入处理当时的状况。
所以在任何一个情形下，我们其实并不是用统一一个单一的智能来进行处理，我们的头脑中其实有很多很多个声音，我们是要处理这样的新式社会。
人工智能目前只是一个绝顶的武林高手，但对于我们任何一个人来说，我们的头脑里都是一个武林门派，我们学的更多是一种综合处理，统一协调的系统性方法。
所以我是觉得在未来，其实人工智能它的下一步发展，不管它往哪个方向发展，它要处理的接下来就是综合的、多功能的、多能力的、多目标的任务的相互协调，多种价值观、多种任务的相互协调，这是我们需要更多地去理解人类的大脑、理解我们人类的心智系统。
结果，我跟老板说了这些以后，老板就说好吧，那我干脆就不要测了，既然人工智能肯定答不出这些问题，我就干脆把这个机器退货吧。我说不行，耳听为虚，眼见为实，我说了这么多都很理论，我们现在要来真实的测一测，看看人工智能是不是答出这些问题。
结果测了一下，大家都知道图灵测试怎么测，人工智能和人他们在一个幕布以后问他们同样的问题。第一个问题问了人工智能，人工智能说不知道，可是人也说我不知道。第二个问题问了人工智能，人工智能说不知道，人也说我怎么知道他心里怎么想的。第三个问题问了人工智能，人工智能说不知道，而人也说，其实我也不知道我接下来想干什么。
当我们这么反复地测来测去以后发现，原来我们认为人工智能不能回答的问题，其实这些人也不能回答。这个时候，不是人工智能无法通过图灵测试，而是人无法通过图灵测试，我们如果这些问题我们也不知道如何回答，那么其实我们是看不出我们和人工智能的区别，这其实不是人工智能的问题，而是我们的问题，如果我们没有了这些综合认知能力，如果我们也不能理解他人，如果我们也没有了自我表征和自我决断能力，那么其实我们就无法和人工智能做出区别。
所以，我自己会觉得人工智能最大的威胁是什么？是误伤人类吗？不是，汽车也会误伤人类。是故意毁灭人类？也不是，因为实际上人工智能离故意毁灭我们还有很远。是取代工作吗？仍然不是，它们会取代一部分工作，但是他们会制造出更多更多的就业岗位。
人工智能对我们最大的威胁就在于，当我们过于依赖很多的数据系统以后，我们自己如果变得懒于思考、懒于自我反思，而让我们自己的智慧退化的话，这是对人类最大的威胁。
我们所有的人天生与生俱来，带着我们亿万年生物进化所具有的大脑先天的功能，大脑有很多神奇之处，我们自己都没有完全的发掘，而我们人所具有的这种心智系统，实际上是有很强的综合能力，是一个智慧系统，我们只有更多的认识到这点，认识到我们和人工智能的不同，理解它有哪些地方是超强的，是强于我们的，但是理解到我们有哪些地方和它们不一样，能够把我们自己真正不一样的地方发挥出来，我们才不会让我们自己的智能退化，才不会让我们的文明退化。
所以未来在我看来人工智能和人会走两条非常不一样的路，人工智能会做到许许多多我们人类做不到的事儿，会是我们的辅助、是我们的工具，而我们人如果我们让我们的智能在一直不断地向前进，我们的人可以一直和人工智能携手同行，就不存在威胁不威胁的事情，我们一起能携手同行。
所以我觉得人工智能最大的意义就是它让我们更多地理解我们自身，对人工智能思考越多，我们会发现我们自己的心智系统是越神奇的。所以我们越了解人工智能，我希望我们也能越了解我们自己，人工智能在彼岸，我们在此岸。通过对彼岸的遥望，我希望我们能更多地理解我们此岸的人类，希望我们能够有更全景、更宏观的视角看待我们的地球、看待我们的世界，我们都能有一个综合全面的世界的模型，希望我们每个人都能更多的去理解他人的心思、理解我们自己的心思，能够为自己做出决断。所有这些都是人类智慧的最精髓的部分。
今天我讲的故事纯属杜撰，但是我对于人工智能的思考，我凝结成六个故事和两篇文章，在我下周要出版的新书里面，新书的名字就叫做《人之彼岸》，都是关于人工智能。我希望我们能够通过对人工智能的思考更多地了解我们此岸的人类。
这就是我今天所要讲的，谢谢大家！
郝景芳：人工智能最大的威胁可能是让人类懒于思考
我今天要讲的故事是前一段时间又有一个老板请我过去，说你作为一个科幻作家帮我测一测我刚刚花了大价钱买的人工智能机器，你帮我测一测它能不能通过图灵测试。我说好，你这个机器是什么算法，什么原理？他说就是现在最流行深度学习、强化学习、大数据学习。
我说好，我用三个小测试就能帮你测出来，我猜它是通不过图灵测试的。这三个小测试很简单，他说什么三个小测试？我说就是我们人都会的，但是机器现在都不会的测试。
第一个测试题，如果哥伦布没有发现新大陆对中国哪个菜系影响最大？
这对我们人类实在是太简单了，我们都知道哥伦布从美国带回来了南瓜、玉米、红薯、花生、辣椒，还有很多别的食物。那么哪个食物影响最大？对于我们吃货界来讲，也不难回答，当然是辣椒。如果没有辣椒，当然没有川菜，所以肯定是对川菜影响最大。
而这个涉及到我们的日常生活的常识，尽管所有的其他食物也很重要，但是只有像现在这样一个灵魂式的味觉食物，它能够调味，才对菜系影响最大。
所以对于人工智能来讲这是一个跨界问题，它涉及到历史，也涉及到日常生活的常识，也涉及到饮食对这种跨界问题、常识问题，人工智能是答不出来的。我跟老板说你就测试它这第一问题。
第二个测试题，她说没想到今天这么冷，她希望你如何回复它？
人工智能如果回复给她一个天气预报，肯定不是他心里希望的，如果一个女孩子说了这样的话，她希望你怎么回复她？抱抱？这也不是唯一的答案，答案要看你和她的关系，要看这个女孩子她是一个什么样的个性，也要看当时在一个什么样的场合下。如果真的是一个跟你关系很不错，有一点暧昧的可爱的姑娘、萌妹子，也许说这个话，是想让你把衣服给她，然后顺便抱抱。
但是如果这个时候不是这样的场合，是一个女老板，刚正不阿的女上司，她说没想到今天这么冷，那你再说我抱抱您吧，她肯定一个耳刮子就扇上来了。这个时候她可能是跟你说，你的工作是失职的，为什么没有给我把房间弄得更暖和一点，你这个时候赶紧得说对不起老板，我下次给您提前安排。
所以这是什么问题，就是对方当他说一句话的时候，他心里的意思，他的含义，他希望我们的回应，这是完全因人而异的，这是需要我们能够察言观色，能够体察对方、理解他人的心思才能够给出正确答案。我说这种问题人工智能它是不会做的，您放心我帮您测这个它肯定不行。
第三个测试题，明年可以学英语，也可以学编程，你会选择学什么？为什么？
这种问题对于我们人来讲也很容易的，我们每天都在看大量形形色色的广告，每天都被各种各样的信息充斥，我们在其中能够根据我们自身选出我们自己想要的，这也是没有正确答案的问题，因为实际上该学什么，要从你自身找答案，你要知道你是一个什么性格的人，你的梦想是什么，你未来的目标是什么，你想要达到目标要怎么做，根据你自己的自身情况来决定学什么。
人工智能它们不理解自己，它们没有这种元认知能力，他们并不能够为自己做决定，当你跟AlphaGo说下围棋，它不会说我不要下围棋，我今天想去看场电影，它不会做这样的决定，因为它并没有对于自我的了解、自我的认知。
所以我说这种能够从自己出发做决定的能力，也能够看得出来人工智能和人的区别。
然后老板就问我说，可是你说的这几个东西在我听起来实在是太简单了，AlphaGo都这么厉害了，AlphaGoZero在已经战胜了原本的AlphaGo，它不能很快就学会吗？
我说那我们要来看看AlphaGo它会什么、不会什么。AlphaGo厉害的地方在于深度学习、强化学习，它有很强的算力、它有大数据。深度学习是一种神经网络，是一种基于大数据的统计的算法，模仿了我们大脑皮层的神经网络，能够从很多的数据里面找到规律，自己学到最好的算法。
它和过去上一代的人工智能最大的不一样就是上一代的人工智能经常是专家系统，就是专家告诉你怎么下棋你就怎样下棋，但是这一代的人工智能用了这样深度学习的办法，可以自己学会下棋的套路。但是它是非常有局限性的，因为这样的深度学习算法它只能够处理数据透明规则明确的一个特定领域的问题。
也就是说，在一个特定的边界里面，处理这个边界里面的数据，然后找到最好的结果。它并不知道它自己在下围棋，它也不知道它是AlphaGo，它不知道它战胜了世界上所有的高手，它下了围棋也不会高兴，它只是在处理一些数据，但是它并没有我们刚才说过的一些高层次认知能力，自我认知能力，自我意识能力。
然后老板说，我知道现在算力是进展很快的，过几天我们计算能力又上了一个新台阶，你说的这些高级能力是不是就能够学会了呢？我说，其实我相信未来总有一天人工智能会克服这些难关，学到我刚才说的这些能力。
但是，这是一个阶梯状，并不是拿现在的算法增强算力，就一定能够解决所有的问题，而是要跨过一个又一个槛，上一个又一个台阶。这就像是当时发明了蒸汽机、电，人们就觉得自己能够解决世界上所有的问题了，物理大厦就剩下了三朵小乌云，后来就是这三朵小乌云提出了相对论、量子力学，把人类带入了新的世界。
我说，未来可能会实现，但是它需要有很大的鸿沟、很大的跨越，才能够实现。
现在人工智能头上三朵小乌云的就是综合认知能力、理解他人的能力、自我决定的能力。
综合认知的能力困难在哪？
现在的深度学习的网络，一个网络只能够学习一件事情，当它学习了下围棋，它把围棋领域的数据都学会了之后，它整个网络记住了这一件事情，一旦这个网络再去学另外一件事情，这个网络就把前一件事情忘记了，因为它是用整个网络所有的参数来学习了这一件事情，一旦学习另外一件事情，它就已经不会记得前一件事情所有的参数。
这个在科学界被称为遗忘的灾难，一个网络，一个这样的人工智能只能干一件事情，只能在一个特定领域里面做一件狭窄的事情，不可能像我们人一样有通识的能力，我们人和人工智能很大的不同，就是我们人是触类旁通的，当我们学习了政治、经济、历史、社会文化、家庭日常生活的做饭、交通出行，我们不会认为这些都是不同领域的事情，我们是把它融会贯通，融在一起的。
人类在我们的头脑当中有一个世界模型，很多时候我们并没有意识到这个世界模型的存在，它就是我们对物理世界，对于人情世故这个世界常识的来源，但是这个世界模型非常重要。
当我们有了这样的世界模型，我们在看眼前的一幅画面，明明是一个二维画面，我们会用自己头脑当中的知识，把这个画面在我们眼前构建成一个三维的，栩栩如生的画面。
我们现在看到面前的礼堂、舞台、座位，我们会觉得这是一个有纵深的，三维的舞台。可是人工智能没有这样一个世界模型在自己的头脑当中，它分辨图象要用很多很多真的图象，非常非常多的计算来做。
现在有一些实验室做这样的视觉，已经开始试图用这样一个模型来构造这样的视觉。而我们的头脑当中都有这样的模型，我们有关于世界的理解、关于他人的理解，关于整个社会的理解，我们的常识系统，这种通识知识体系，是我们理解事情的基础，也是我们超越人工智能的地方。
第二理解他人的能力，理解他人的能力，现在是有一些人工智能和人的语言对话，自然语言处理仍然还是一个难题，只有在特定领域的专业问答，可以有比较好的答案匹配，为什么自然语言处理会难呢？就是因为人工智能实际上还仍然不能理解大量的情景，就是因为它的头脑里面没有对人类世界、物理世界、人情世界的通识知识体系，所以他理解很多的自然情景都会很困难。
现在的语言很多时候是用的这样一个优化算法的搜索，你出了一个问题，它去搜索一个答案匹配给你，但是很多时候并不能够真正理解对方的意思。
此外人工智能由于没有内心丰富的情感世界，并不能够推己及人。我们人类是怎样相互了解彼此的呢？有几个方法，第一个我们用目光接触。研究共情的学者会发现，最先进的灵长类的大猩猩可以通过这样的目光交流，人类绝对可以通过目光来理解对方，小孩子大概从9个月的时候就开始有这种能力。我们头脑当中有镜像神经元，镜像神经元可以直接反映出对方的一些意图和对方的感受，我们能够直接感受到对方。
另外，我们有推己及人的能力，在这个时候，当我们生病的时候，希望对方嘘寒问暖，我们就能够推导出对方生病的时候，一定希望我们嘘寒问暖，而人工智能由于没有这样的自己内部的情感，它自然也很难推己及人。
人工智能在理解他人的能力方面，目前还是有很多的困难。我也知道有很多实验室，现在已经开始试图把整个的认知框架、认知模型带到自然语言处理上面，但是可能是很久很久以后的事情。
第三个自我决定的能力。
它得需要两个方面的突破，一个是自我表征的能力，人工智能需要能够自己说出来，我自己做这个事情是为什么。现在我们的智能网络，当它学会了一件事情，你给到它很多数据，它直接给你说出一个结果，我们人并不知道它为什么这么做，它自己也说不出来为什么这么做。
这种真正提取出对于自己来说有意义的因果表达能力，它使得我们做很多事情可以举一反三，可以泛化，我们可以从一件事情学到的东西，可以带着这样的因果关系用到另外的事情。但是，人工智能在很多时候缺少这样的语言认知能力。
此外，人工智能并没有一个说，原来这就是一个我，这样的一种自我意识，可能未来要到很久之后才会产生，不知道要到什么时候，其实人工智能目前并不是一个独立体系，不像我们人与人，我们每个人所有的思想、灵魂都封闭在我们同一个身体里面，我们并不能随时联通到互联网，但是人工智能不一样，很多时候是要与其他的网络去连接、联通。
所以，这样的孤立自我意识，很可能跟我们人完全不一样。
现在这几朵小小的乌云是人工智能目前不能做到和我们人类一样的地方，未来有没什么可能突破呢？有可能，但是不是现在，不仅仅靠算力提高，需要有更好的、更强的综合性算法，以及更多技术突破。
这个老板就问我说，你觉得人工智能未来怎么达到一个更高水平的智慧呢？我说其实最好的方法就是更多地了解我们人自身，去理解我们人类自身的心智系统是怎么样的。人工智能能够在一个领域里面做到极致，但是我们人是一个自我综合协调的系统，我们人并不是一个单一心智的。
我曾经最喜欢的人工智能学家马文·明斯，1985写过一本书叫《心智社会》，其实是把人比作一个社会，人的心智里面每一部分，其实都像一个小人一样，小人在一起组成了一个完整的、复杂的社会，人并不是有单一心智的。
马文·明斯在《情感机器》中说，我认为人类的尊严来自于人类自身的构造，处理多种情况和困难的不计其数的方法，多样性正是人和动物，与过去所知道的机器的主要区别。
这是什么意思呢？现在很多时候，当我们制造机器的时候，我们总想寻找一种通用智能，就是用这一个智能解决所有的问题，但是人其实不是这样的，人是一种综合智能，在人的头脑里面有不一样的智能处理问题。
当我们在街上看到一个车过来的时候，杏仁核发出警报，告诉我们危险要躲开，当我们看到一个老人摔倒在街上，一种同情怜悯让我们想把他扶起来，但是另一个批判的声音说，他有可能是骗子要躲开，但是另一个正义的声音说，即使他是骗子，这样可怜的老人我是不是应该帮助他。
但是还会有一个综合的，从一个全景的视野的角度会去分析这个时候的形势、分析这个时候个人的情况、分析这个时候社会的状况，可能会报警，也可能会介入处理当时的状况。
所以在任何一个情形下，我们其实并不是用统一一个单一的智能来进行处理，我们的头脑中其实有很多很多个声音，我们是要处理这样的新式社会。
人工智能目前只是一个绝顶的武林高手，但对于我们任何一个人来说，我们的头脑里都是一个武林门派，我们学的更多是一种综合处理，统一协调的系统性方法。
所以我是觉得在未来，其实人工智能它的下一步发展，不管它往哪个方向发展，它要处理的接下来就是综合的、多功能的、多能力的、多目标的任务的相互协调，多种价值观、多种任务的相互协调，这是我们需要更多地去理解人类的大脑、理解我们人类的心智系统。
结果，我跟老板说了这些以后，老板就说好吧，那我干脆就不要测了，既然人工智能肯定答不出这些问题，我就干脆把这个机器退货吧。我说不行，耳听为虚，眼见为实，我说了这么多都很理论，我们现在要来真实的测一测，看看人工智能是不是答出这些问题。
结果测了一下，大家都知道图灵测试怎么测，人工智能和人他们在一个幕布以后问他们同样的问题。第一个问题问了人工智能，人工智能说不知道，可是人也说我不知道。第二个问题问了人工智能，人工智能说不知道，人也说我怎么知道他心里怎么想的。第三个问题问了人工智能，人工智能说不知道，而人也说，其实我也不知道我接下来想干什么。
当我们这么反复地测来测去以后发现，原来我们认为人工智能不能回答的问题，其实这些人也不能回答。这个时候，不是人工智能无法通过图灵测试，而是人无法通过图灵测试，我们如果这些问题我们也不知道如何回答，那么其实我们是看不出我们和人工智能的区别。
这其实不是人工智能的问题，而是我们的问题，如果我们没有了这些综合认知能力，如果我们也不能理解他人，如果我们也没有了自我表征和自我决断能力，那么其实我们就无法和人工智能做出区别。
所以，我自己会觉得人工智能最大的威胁是什么？是误伤人类吗？不是，汽车也会误伤人类。是故意毁灭人类？也不是，因为实际上人工智能离故意毁灭我们还有很远。是取代工作吗？仍然不是，它们会取代一部分工作，但是他们会制造出更多更多的就业岗位。
人工智能对我们最大的威胁就在于，当我们过于依赖很多的数据系统以后，我们自己如果变得懒于思考、懒于自我反思，而让我们自己的智慧退化的话，这是对人类最大的威胁。
我们所有的人天生与生俱来，带着我们亿万年生物进化所具有的大脑先天的功能，大脑有很多神奇之处，我们自己都没有完全的发掘，而我们人所具有的这种心智系统，实际上是有很强的综合能力，是一个智慧系统。
我们只有更多的认识到这点，认识到我们和人工智能的不同，理解它有哪些地方是超强的，是强于我们的，但是理解到我们有哪些地方和它们不一样，能够把我们自己真正不一样的地方发挥出来，我们才不会让我们自己的智能退化，才不会让我们的文明退化。
所以未来在我看来人工智能和人会走两条非常不一样的路，人工智能会做到许许多多我们人类做不到的事儿，会是我们的辅助、是我们的工具，而我们人如果我们让我们的智能在一直不断地向前进，我们的人可以一直和人工智能携手同行，就不存在威胁不威胁的事情，我们一起能携手同行。
所以我觉得人工智能最大的意义就是它让我们更多地理解我们自身，对人工智能思考越多，我们会发现我们自己的心智系统是越神奇的。所以我们越了解人工智能，我希望我们也能越了解我们自己，人工智能在彼岸，我们在此岸。
通过对彼岸的遥望，我希望我们能更多地理解我们此岸的人类，希望我们能够有更全景、更宏观的视角看待我们的地球、看待我们的世界，我们都能有一个综合全面的世界的模型，希望我们每个人都能更多的去理解他人的心思、理解我们自己的心思，能够为自己做出决断。所有这些都是人类智慧的最精髓的部分。
今天我讲的故事纯属杜撰，但是我对于人工智能的思考，我凝结成六个故事和两篇文章，在我下周要出版的新书里面，新书的名字就叫做《人之彼岸》，都是关于人工智能。我希望我们能够通过对人工智能的思考更多地了解我们此岸的人类。
这就是我今天所要讲的，谢谢大家！返回搜狐，查看更多