“人工智能能否超越人类”为何争议不断
（图源：callcentrehelper.com）
1956年夏季，在美国达特茅斯学院举行的一次重要会议上，以麦卡赛、明斯基、罗切斯特和申农等为首的科学家共同研究和探讨了用机器模拟智能的一系列问题，首次提出了“人工智能”这一术语，它标志着人工智能这门新兴学科的正式诞生。此后，人工智能在发展历史上经历了多次高潮和低潮阶段。在1956年人工智能被提出后，研究者们就大胆地提出乐观的预言，达特茅斯会议的参与者之一赫伯特·西蒙（HerbertSimon）还做出了更具体的预测：10年内计算机将成为国际象棋冠军，并且机器将证明一个重要的数学定理。西蒙等人过于自信，其预言没有在预测的时间里实现，而且远远没有达到。这些失败给人工智能的声誉造成重大伤害。1971年，英国剑桥大学数学家詹姆士（James）按照英国政府的旨意，发表了一份关于人工智能的综合报告，声称“人工智能研究就算不是骗局，也是庸人自扰”。在这个报告的影响下，英国政府削减了人工智能的研究经费，解散了人工智能研究机构。人工智能的研究热情第一次被泼了冷水。[1]20世纪90年代，以日本第五代机器人研发失败和神经网络一直没有突破为代表，人工智能进入了第二个冬天，直到21世纪初，深度学习与互联网大数据结合才使人工智能又一次迎来新的春天。在阿尔法围棋等大量突破性成果涌现之后，人类对机器（AI）能否超越人类的问题又重新燃起了热情。狂热的情绪背后甚至产生了人工智能威胁论。谷歌技术总监、《奇点临近》（TheSingularityIsNear）的作者雷·库兹韦尔（RayKurzweil）预言人工智能将超过人类智能。他在书中写道，“由于技术发展呈现指数级增长，机器能模拟大脑的新皮质，到2029年，机器将达到人类的智能水平；到2045年，人与机器将深度融合，那将标志着奇点时刻的到来。”除此以外，支持人工智能威胁论的代表人物还包括著名物理学家霍金、微软创始人比尔·盖茨、特斯拉CEO马斯克等。2014年12月2日，霍金在接受BBC采访时表示，运用人工智能技术制造能够独立思考的机器将威胁人类的生存。霍金说：“它自己就动起来了，还能以前所未有的超快速度重新设计自己。人类呢，要受到缓慢的生物进化的限制，根本没有竞争力，会被超越的。”特斯拉CEO马斯克对待人工智能的态度比较极端，2014年8月，他在推特上推荐尼克·波斯特洛姆（NickPostrom）的著作《超级智能：路线图、危险性与应对策略》（SuperIntelligence:Paths，Dan-gers，Strategies）时写道：“我们需要重点关注人工智能，它的潜在危险超过核武器。”2017年10月，日本著名风险投资人孙正义在世界移动大会2017上表示，他认为机器人将变得比人类更聪明，在大约30年的时间里，AI的智商将有望超过1万点。相比之下，人类的平均智商是100点，天才可能达到200点。孙正义说：“奇点是人类大脑将被超越的时刻，这是个临界点和交叉点。人工智能和计算机智能将超越人类大脑，这在21世纪肯定会发生。我想说的是，无须更多的辩论，也无须更多怀疑。”在人工智能威胁论热度日益高涨的情况下，人工智能领域的科学家对人工智能威胁论提出了反对意见。2014年4月，脸书人工智能实验室主任，纽约大学计算机科学教授杨立昆（YannLeCun）在接受《波普杂志》（IEEESpectrum）采访时发表了对人工智能威胁论的看法，他认为人工智能的研究者在之前很长的一段时间都低估了制造智能机器的难度。人工智能的每一个新浪潮，都会经历这么一段从盲目乐观到不理智最后到沮丧的阶段。杨立昆提出：“很多人觉得人工智能的进展是个指数曲线，其实它是个S形曲线，S形曲线刚开始的时候跟指数曲线很像，但由于发展阻尼和摩擦因子的存在，S形曲线到一定程度会无限逼近而不是超越人类的智商曲线（如图1所示）。未来学家们却假设这些因子是不存在的。他们生来就愿意做出盲目的预测，尤其当他们特别渴望这个预测成真的时候，这可能是为了实现个人抱负。”图1 杨立昆预测的人工智能发展曲线
另外，百度首席科学家、斯坦福大学计算机科学系和电子工程系副教授吴恩达，中国科学院的李德毅、王飞跃等教授等也在不同场合对人工智能威胁论提出了反对意见。2017年7月在《哈佛商业评论》（HarvardBusinessReview）的一次会议上，吴恩达谈道：“作为一名人工智能领域的从业者，我开发和推出了很多款人工智能产品，但没有发现一条人工智能在智力方面会超过人的可行之路。我认为，工作岗位流失反倒会是个大问题，担心人工智能过于强大就好像担心人类会在火星过度殖民导致火星人口爆炸一样。我很希望数百年后我们能在火星生活，但目前甚至还没有人类登上过火星，我们为何要担心在火星过度殖民的问题呢？我希望我们能重视对这一问题的解决，而不是整天沉醉在那些科幻作品中才可能出现的场景里。”[2]由此可见，在关于机器（AI）的智力能力能否超越人类的问题上，世界上最有影响力的人分成了两个对立的阵营，一个阵营里是著名的物理学家、企业家和投资人，另一个阵营里是计算机领域和人工智能领域的科学家。为什么会有这种巨大的争议？不得不说，问题的背后的确有着非常复杂的原因，但其中有三个难点是主要原因。第一个难点是，智力或智能本身就是一个有着巨大争议的问题，无论在心理学领域还是人工智能领域，智力是争议最大的概念之一。智力被许多人用不同的表达方式进行了定义。据统计，目前有关智力的定义超过100种以上，但关于智力的明确定义依然处在争议和讨论中。智力概念出现如此混乱的情况与心理学家对智力的不同理解有关，同时大脑是人类最复杂的器官，如何认知智力本身就具有先天的复杂性。美国著名心理学家和认知心理学家斯腾伯格（Sternberg）是智力三元理论的建构者，他注意到智力概念的变迁问题，指出不同时代的研究者虽然使用相同的术语，但新来者会不断赋予术语以新的意义，如在智力的内涵上，20世纪20年代的心理学研究者更重视期望，而20世纪80年代的研究者更重视文化因素。关于智力，研究者们有着数百种不同的定义[3]，表1反映了部分研究者对智力的定义。表1. 部分研究者对智力的定义
第二个难点是，没有统一的模型能反映机器、AI和人类的共同特征。我们知道，由于生命的多样性，人类、动物、植物甚至微生物在智能的表现上千差万别，如人类有更丰富的创造力和想象力，狗有更灵敏的鼻子，蝙蝠有更灵敏的耳朵，而老鹰有更敏锐的眼睛。这种差异同样发生在机器人和AI系统上，如谷歌的阿尔法围棋在围棋上表现突出，已经多次战胜人类围棋冠军。IBM的沃森系统拥有更丰富的人类科技、文化、经济常识，其在2011年美国电视智力答题节目《危险边缘》（Jeopardy!）中击败两位人类选手；德国库卡、日本发那科公司的工业机器人在分拣货物和装配机器设备等领域，效率远远超过了人类。当时间的列车驶入21世纪，人类在为机器（AI）能否超越人类的问题争论时，面临的一个重要难题是，需要有个模型能把计算机、AI和人类甚至其他生命（如蚂蚁、牛、羊）统一起来进行基本特征的描述。第三个难点是，生命进化是否有方向。按照目前主流的观点，人类、动物、AI、机器人在进化方向上就不应该一样，那么如何将它们放在一起比较就是一个无法调和的问题，因为如果进化方向不一样，也就不存在谁超越谁的问题了。例如，在百米比赛中，所有选手都要沿着同一个跑道向同一个终点冲刺。这样，才能根据选手到达终点的时间评判出名次。相反，如果比赛是在北京长安街的一个十字路口上开始，一些选手向西以西安作为终点，一些选手向东以青岛作为终点，一些选手向南以深圳作为终点，最后一些选手向北以哈尔滨作为终点，那么这样的比赛就不存在谁超越谁的问题。本文经授权摘编自《崛起的超级智能》，标题为编者所加。
人工智能能否超越人类，你怎么看？
小赛将在留言区随机抽取三位读者，赠送《崛起的超级智能》一本
参考资料
[1]李德毅,于剑.人工智能导论[M].北京:中国科学技术出版社,2018.
[2]http://tech.ifeng.com/a/20170726/44655402_0.shtml.
[3]周泓,张庆林.斯腾伯格的智慧平衡理论述评[J].心理科学,2001.
人工智能为什么不能代替人类
■吴荻枫
人工智能没有意义的概念，没有价值观，终究只能是人的工具，而不可能超越人类。
近年来，人工智能技术发展极其迅速，各种智能设备、智能软件已走进千家万户，改变了我们的生活方式和工作方式。因此，不少人认为，在不久的将来，人工智能将会全面代替人类智能，甚至超越人类智能。不过，这种观点过于悲观，人类的思想和行为中最重要最独特的部分，是人工智能无法实现，更无法替代的。
人工智能不管多么发达，归根结底，都是在人类给定的框架下解决问题。比如，某人每天上下班，公司和家之间的距离有15公里。他可以选择的交通工具包括打的、公交车、地铁、自驾车、共享单车，以及这些工具的组合。如果他去问导航软件，导航软件可以根据他的要求以及实时路况，给出一个最优的出行方案。这在现实中往往是很有用的。然而，虽然有不少人会选择在工作地点附近买房或租房来解决通勤问题，导航软件却绝不会给出搬家的方案。因为导航软件的运行程序，或者说运行框架没有这种手段可供选择，但人却不会受既有框架的约束。
人工智能也不能主动确定需要解决的问题是什么。举一个非常简单的例子，如果我问智能应答软件：“帅帅在哪里，你看到帅帅了么？”它要么回答不知道，要么给出一个错误的答案。而我如果拿这个问题去问人，被问的人不管知识水平如何，第一个反应恐怕都是：“你说的帅帅是谁啊？”我就会告诉他，帅帅是我的小狗，是什么样子，有多大，有什么特点，等等。可见，人类首先能够主动确定要解决的问题是什么，也就是说确定目标。我举的这个例子非常简单，以后人工智能或许也能应对，但并不是软件学会了如何确定问题所在，而是设计人员扩充了或者改变了软件运行的程序或框架。
总之，如果人类确定了问题，确定了可用的手段或者信息，人工智能可以给出答案，乃至近乎完美的答案。但是，人工智能不会设计这种目的—手段的框架，也不会主动突破这种框架。
人是追求意义的智慧生物，因此有自己的价值观。人类赋予某些事物以意义或价值，才构成了目的—手段的逻辑关系。也就是说，人能知道自己要的是什么，怎样才算是达成了目的。而人工智能没有意义的概念，需要人类将具有意义的逻辑关系编码输入，人工智能才能按照这种关系工作，但它本身无从建立这种关系。
人以意义来理解世界，也以此与他人交流、合作。米塞斯曾举过一个例子，假如某人闯入了一个从未去过的原始部落。那些原始人未开化，没有语言，或者即使有语言他也听不懂。但是，如果他看到这些原始人架锅生火，他就会知道，他们是要做饭了。人类有相似的心智结构，即使语言不通，也可以相互理解。如果换成机器人呢？除非是科幻电影里那些由演员扮演的机器人，否则它只会搜索和输出代码，而不会真正试图去理解眼前所发生的事。
可见，人与人工智能最大的不同，就是人通过意义和价值与外部世界建立联系。这是人作为主体而不是客体的基础，也是人类合作和创新的基础。人工智能没有意义的概念，没有价值观，终究只能是人的工具，而不可能超越人类。
值得注意的是，我们可以看出，主流新古典经济学的理性经济人假设，正是将人当成了在既有目的—手段框架下寻求最优解的机器。这其实是省略了人的行为中最具有本质性和创新性的部分。理性经济人所构成的经济体，是静态的、机械的，被动的，充其量是人工智能的世界，而不是人类社会。
经济学是价值中立的科学，因此经济学不研究也没有足够的能力研究某个个人究竟应该确定什么具体的目标，运用什么具体的手段，但是，经济学应该将个人在目的—手段框架的行为模式纳入研究的范畴，否则就是舍本逐末，具有难以克服的缺陷。
（作者系西南民族大学讲师）
[责编：战钊]科学网—“人工智能”能够超越“人类智能”吗
“人工智能”能够超越“人类智能”吗？精选已有24231次阅读2017-6-510:11|个人分类:人工智能|系统分类:科研笔记
[敬请读者注意]本人保留本文的全部著作权利。如果哪位读者使用本文所描述内容，请务必如实引用并明白注明本文出处。如果本人发现任何人擅自使用本文任何部分内容而不明白注明出处，恕本人在网上广泛公布侵权者姓名。敬请各位读者注意，谢谢！
“人工智能”能够超越“人类智能”吗？
程京德
2017年5月27日，现在世界排名第一的中国职业围棋手柯洁最终以0比3输掉了与计算机围棋程序GoogleAlphaGo的三番棋正式比赛。至此，继AlphaGo在2015年10月以5比0战胜欧洲冠军樊麾、2016年3月以4比1战胜曾经的世界冠军韩国职业围棋手李世石、2016年底在网上以连胜60局1局不败战胜世界各国围棋高手之后，这次对柯洁的完胜已经使得AlphaGo与人类棋手之间的对弈完全没有了胜负悬念。GoogleDeepMind团队也宣布AlphaGo将退役，今后不再与人类对弈。可以说，人类棋手与计算机围棋程序AlphaGo的对弈，以AlphaGo的完全胜利而告终。
早在2016月1月GoogleDeepMind团队公布AlphaGo与围棋欧洲冠军的对弈结果之后，全世界就掀起了一股“人工智能”（以及“深层学习”）的热潮。在此热潮中，一直有一个很强的声音：“人工智能即将要超越人类智能”。那么，“人工智能”真的即将要或者迟早会超越“人类智能”吗？
本文将首先说明计算机围棋程序AlphaGo与人类棋手对弈的本质及其胜利的含义，然后讨论在科学地回答“人工智能是否能够超越人类智能？”这个问题之前必须认清的基本问题，并且列举一些人类高等智能活动，指出这些活动都是“人工智能”难以为之，甚至根本就是不可能为之的，从而阐明，“人工智能”全面超越“人类智能”是不可能的。
首先，让我们来看看计算机围棋程序AlphaGo与人类棋手对弈的本质及其胜利的含义。
从计算原理来说，运行在由物理方法实现的任何电子计算机系统（因此，“计算机网络”和“量子计算机”也算，但是，任何“生物计算机”都不算，本文不讨论生物计算机）上的任何计算机程序，都是由程序设计者预先编制好的，都不具备自主地自动地生成新的可执行程序使得该新程序具备完成超出原程序设计者预想之任务的功能。所以，从计算原理本质上来说，任何计算机程序能够完成的任何任务，都是由其设计者预先想定的、在其设计者“指挥”下完成的，尽管仅从计算结果来看，该任务可能是程序设计者自身实际上完成不了的。更加通俗地说，任何程序只会做设计者知道怎么做并且“教会”它如何去做的事情，而绝对不会做连设计者自己也不知道怎么做更不会“教给”它如何去做的事情。这是从计算原理的观点来看，任何计算系统在计算能力上的一般局限性。另一方面，没有计算机程序在其上运行的任何电子计算机物理裸机（因为没有程序故不能被称为也不能构成“计算机系统”），基本不具备完成任何有实际意义计算任务的能力；所谓的“机器智能”或者“机器的智能”，都是概念上混乱的说辞，本文不做讨论。
AlphaGo是一个计算机程序，在能力上当然也不会超越笔者上述计算系统在计算能力上的一般局限性。AlphaGo与人类棋手对弈并且获胜的本质实际上是其研发团队设计出计算机程序来利用现代电子计算机的高速计算能力而做到了程序设计者自己还做不到的事情。在这一点上，AlphaGo的研发团队DeepMind的负责人，戴密斯·哈萨比斯（DemisHassabis），说的十分清楚：“人们有时会认为这些比赛是人与机器的对决，但我不同意，这不是人对抗机器，而是人利用机器作为工具，共同探索新的知识领域。我们把AlphaGo看做哈勃望远镜，柯洁则是世界上最棒的天文学家，我们期待看到他借助AlphaGo能探索到什么。”“我们会试着去赢得比赛，但最终，AlphaGo的输赢并不重要，因为无论结果如何，人类都是赢家。”Google母公司Alphabet执行总裁埃里克·施密特（EricSchmidt）也明确表示，“不管比赛结果如何，人性终将得胜。比赛并不是电脑与人类争胜，而是电脑利用自己的专长帮助人类。”实际上，施密特的话应该修改为“人类利用电脑的专长来帮助人类自身”才更为准确，因为如同笔者在上面所说，电脑自身不会做任何事情！所以，在这个意义上说，此次AlphaGo在与人类棋手的对弈中完胜，也并非意味着“人工智能”在某个特殊任务上超越了“人类智能”，而是一部分人（AlphaGo的研发团队）在利用了计算机高速计算能力的条件下在某个特殊任务上战胜了另外一部分人（职业棋手）。
接下来，让我们来讨论“人工智能是否能够超越人类智能？”显然，在我们科学地讨论这个问题之前，我们必须先定义清楚这三个概念：何谓“人类智能”？何谓“人工智能”？何谓“超越”？如果连问题中言及的这三个最基本的概念都没定义清楚就胡乱下结论，那么所下结论的真实性是可想而知的。但是，遗憾的是，现在世界上许许多多关于这个问题的结论（包括许多世界名人们的说法），都是在还没有定义清楚这三个基本概念的情况下胡乱做出的！笔者认为，既然说到“超越”，那么就隐含着数量和程度，要定义清楚上面这三个基本概念，我们必须认清它们相对应的下面三组基本问题：
第一组基本问题：何谓“人类智能”？
人类智能一定具体地包含哪些能力？人类智能一定不包含哪些能力？人类智能可以包含或者也可以不包含哪些能力？人类智能和动物智能在本质上的区别是什么？一个具体人类个体在其生涯中不同阶段在智能上的差异可以用什么指标来测定？如何定性定量地定义一种或者几种统一的指标来测定一个具体人类个体在其生涯中不同阶段在智能上的差异？如何具体地测定一个具体人类个体在其生涯中不同阶段在智能上的差异？人类不同个体在智能上的差异可以用什么指标来测定？如何定性定量地定义一种或者几种统一的指标来测定人类不同个体在智能上的差异？如何具体地测定人类不同个体在智能上的差异？
第二组基本问题：何谓“人工智能”？
人工智能的原始定义是什么？如何科学地严谨地定义人工智能？人工智能是科学还是技术？人工智能中的“人工”具体意味着什么？人工智能一定具体地包含哪些由“人工”创造出的能力？人工智能一定不包含哪些由“人工”创造出的能力？人工智能可以包含或者也可以不包含哪些由“人工”创造出的能力？人工智能和人类智能在本质上的区别是什么？一个具体的人工智能产品在其生存期中不同阶段在“人工智能”上的差异可以用什么指标来测定？如何定性定量地定义一种或者几种统一的指标来测定一个具体的人工智能产品在其生存期中不同阶段在“人工智能”上的差异？如何具体地测定一个具体的人工智能产品在其生存期中不同阶段在“人工智能”上的差异？不同人工智能产品在“人工智能”上的差异可以用什么指标来测定？如何定性定量地定义一种或者几种统一的指标来测定不同人工智能产品在“人工智能”上的差异？如何具体测定不同人工智能产品在“人工智能”上的差异？
第三组基本问题：何谓“超越”？
是否能够定义一种或者几种统一的指标可以同时用来测定“人类智能”和“人工智能”？如何定性定量地定义一种或者几种统一的指标可以同时用来测定“人类智能”和“人工智能”？“人工智能超越人类智能”具体是指在什么范围内（比如，全面？某些方面？或者某个关键方面？）的超越？
实际上，根据世界上有关“人工智能”和“人类智能”的学术研究成果，在现阶段，我们还不能完全回答上面这些问题的全部。
笔者根据“人工智能”这一名词最初的提出人、已故美国斯坦福大学教授约翰·麦卡锡（JohnMcCarthy）的定义以及“人工智能”的历史及现状，认为“人工智能”应该意味着：“作为一个学科，人工智能研究以计算机为工具，以计算为手段，开发出具有类似于人类智能的计算程序来控制计算机实施并完成需要人类智能的工作任务之原理、方法和技术”。
现在，让我们来看一看，在笔者上述“人工智能”的意义下，有哪些人类高等智能活动是“人工智能”难以为之或者甚至根本就是不可能为之的？在这里，我们需要申明，“能”与“不能”，应该是指称具有一般性的行为而不是偶然性的行为；也即是说，在同样条件下，多次重复的行为应该产生完全相同的效果。在这个意义下，本文所谓“人工智能”不能做的事情，就是指由一个运行在用物理方法实现的计算机系统上的“人工智能”计算程序在完全没有人类参与时不能够完成的任务。
笔者认为，下面列举出的这些人类高等智能活动，无论有多少“大数据”和多么强有力的计算机系统可以使用，也都是“人工智能”难以为之或者甚至根本就是不可能为之的：
创建科学理论体系或者数学理论体系，在数学研究中定义数学概念，从现象或数据中归纳形成抽象科学概念，从现象或数据中归纳出逻辑关系或者因果关系，对现象或数据给出具有科学意义的解释，发现新的现象、新的物种、新的问题、新的算法、新的原理、新的定理、新的猜测，设计（物理、化学、生物等等）科学实验，设计（软件、信息安全、机械、汽车、航空、化工、土木、桥梁、建筑等等）工程项目，设计对疾病的药物治疗方案或者外科手术治疗方案，分析市场需求或者预测市场需求，指导人类学生从事科学研究工作，教育人类学生学习知识，对特定的人物萌生爱情，对特定的人物产生好感或者恶感，训练动物（比如，军犬、警犬、马戏团动物等）。
笔者举出的上述这些，都是人类高等智能活动，这一点无论怎么定义“人类智能”大概都是没有异议的。这些人类高等智能活动的共同特征就是必须由具备某种主动的独创性的人方能够完成。而计算机程序在工作原理上恰恰不具备主动的独创性！
既然有如此之多的人类高等智能活动，都是“人工智能”难以为之或者甚至根本就是不可能为之的，那么，我们可以非常肯定地说，“人工智能”全面超越“人类智能”是不可能的。
https://blog.sciencenet.cn/blog-2371919-1059130.html上一篇：他山之石：给留日或者即将留日同学们的几点忠告下一篇：“机器里的心灵”是什么?它在哪里？收藏IP:219.111.183.*|热度|