如何看待霍金对人工智能的警告
今年3月8日，著名物理学家史蒂芬·霍金向英国《独立报》表示，人类必须建立有效机制尽早识别威胁所在，防止新科技（人工智能）对人类带来的威胁进一步上升。霍金警告，未来人工智能可能会以生化战争或核子战争的方式摧毁人类。其实，早在2015年9月，霍金就发出过类似的警告：聪明能干的人工智能会让人类灭亡。霍金表示：一个超级聪明的人工智能可以非常好地实现它的目标，如果这些目标没有与我们人类一致，我们人类就麻烦了。
我们如何来对待霍金的警告呢？首先，霍金本人也是人工智能技术的支持者，霍金认为，如今人工智能似乎已经渗透到各个领域。人工智能甚至可帮助根除长期存在的社会挑战，比如疾病和贫困等。
人工智能技术是当今新技术革命的领头羊。事实上，人工智能技术的发展已历经三次浪潮。第一次浪潮以“手工知识”为特征，典型范例如智能手机应用程序等。第二次浪潮以“统计学习”为特征，典型范例如人工神经网络系统，并在无人驾驶汽车等领域取得进展。虽然这些人工智能技术，对明确的问题有较强的推理和判断能力，但不具备学习能力。第三次浪潮则以“适应环境”为特征，人工智能能够理解环境并发现逻辑规则，从而进行自我训练并建立自身的决策流程。今年年初，谷歌AlphaGO的升级版Master以 60∶0的战绩，击溃当世所有围棋顶级高手；就在5月25日，AlphaGO又接连两局击败中国围棋职业九段棋手柯洁；我以为，这些都是人工智能第三次浪潮的标志。
其次，人工智能技术也是一把双刃剑。一方面，借助人工智能技术实现自动化，将极大提高生产率，节省劳动成本；通过优化行业现有产品和服务，开拓更广阔的市场空间。正由于人工智能对社会经济无可替代的重要推动作用，在我国两会上已将人工智能写进了政府工作报告。
另一方面，人工智能技术对社会也带来了近期和远期的风险。在不远的将来，那些重复、耗时、乏味的工作；在快速变化的复杂环境中进行的工作以及超出人类极限的工作，都有可能被人工智能系统所代替，从而冲击劳动力市场。可以预测，由于人工智能的发展，多数人的智能将低于或接近人工智能的水平，如果没有政策的有效控制，财富就会集中到少数智能超过人工智能的人手中，这将进一步扩大社会的贫富差别，引发社会的撕裂。
至于说到霍金警告的人工智能引发的人类生存风险，即人工智能将来会从整体上超越人类智能，目前对此在认识上还有分歧。许多自然科学家认为，目前人工智能离上述水平还很远很远，其危险远不足虑；而某些社会科学家却有担忧，认为随着技术变革的深入，人工智能所引发的链式反应，就会出现无法控制的局面。上述认识的差异，正好体现了人类对智能认识的多样性。从这个角度看，科学家全面认识人类智能，并将其复现，只是时间问题。鉴于人工智能有可能超越人类智能，以及由此产生十分严重的后果，再加上科学技术发展的内在不确定性，就充分说明了研究人工智能安全问题的必要性。
早在1950年出版的美国著名科幻小说家艾萨克·阿西莫夫撰写的《我，机器人》小说中，就提出了著名的“机器人三大定律”：第一定律，机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观；第二定律，机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；第三定律，机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。此后，这“三大定律”不断激发出对于人工智能安全性的新思考。由于人工智能最终必将会具备自主意识，到那时人类与人工智能系统之间的关系，必须服从普适、可靠的准则。特别是在军事领域要更加小心，否则极有可能出现科幻电影中描述的人机大战的场景。
因此，我们在发展人工智能系统的同时，还要确保其在预先制定的相关准则下进行工作，以防止其出现越规行为。
人工智能威胁论:我们到底在害怕些什么
围棋人机大战今日终于收官，AlphaGo以4：1战胜韩国名将李世石，并在世界围棋排行榜上获得第四名的殊荣。
这绝对是一场可以被载入人类文明史的比赛，比赛开始之前，人们就已经意识到了这一点。“人工智能究竟能不能超越人类？”尽管比赛的结果不足以给这个问题带来最终定论，但人类对这个问题的好奇程度却足以让这场比赛的热度超越以往任何一场世界级围棋大赛。
3月9日下午，AlphaGo首战取胜，激起了各种人工智能超越人类的讨论；接下来连赢两局，率先确定胜利的定局，机器学习、深度学习这些人工智能领域的专业名词迎来了史无前例的关注；第四场AlphaGo出现失误，人类终于扳回一局，有网友却发出了“AlphaGo会不会是故意的？”猜测；直到今天下午，AlphaGo再胜，坐稳了全球围棋排名前四的交椅，人工智能威胁论又一次被提上了“议程”。
我们最先想到的是什么？
各行各业的人都开始加入到这场关于人工智能的讨论中，于是，国内某知名社区上这个话题的画风变成了这样：
不难发现，和人大代表们的提案一样，参与者们的问题也都是“三句话不离老本行”。基本句式可以归纳为“人工智能会不会在XXX领域战胜人类?”，XXX多半是提问者从事的行业。当出现另一种在能力上可以匹配甚至超越人力的劳动形式时，人类最直接的担忧集中在了“自己会不会被取代”这一问题上是很自然的事。
这样的情况在不少行业也确实发生着，就在李世石战胜的当天，外媒报道韩国《金融新闻》编辑部正式启用了一名人工智能记者，据称0.3秒就可完成一篇股市行情的新闻报道。这是继纽约时报、新华社、腾讯之后，又一名“机器人”加入记者的行列。在服务行业，机器人前台也陆续开始在百货商店、银行等场合出现。
对此，李开复表示，人工智能的出现将导致很多非专家的工作者面临失业威胁。未来十年，当今的大部分人类工作可被机器取代，比如护士、记者、会计、教师、股理财师以及任何带有“助理”、“代理”或“经纪”字样的职位。可见，人们的担心不无道理，在越来越多的岗位上，人工智能正在取代“人”的位置。
还有更恐怖的吗？
如果人工智能只是一种可以代替人类工作的机器，它的出现并不足以让人们恐惧。当机器帮助我们创造世界上大部分财富的时候，困扰人类的充其量不过是一个从未得到解决的财富分配问题，还不足以带来毁灭性的灾难。也就是说，人工智能存在比替代人类工作更深层的威胁。
在AlphaGo赢得第一局的时候，网上流传出这样一种观点：现在谷歌围棋程序赢人不可怕，可怕的是假装输给人，透露人类对人工智能的终极恐惧：
这就是电影《黑客帝国》中描述的场景。现阶段，人工智能已经在“智”方面取得了不错的成绩，未来，有没有可能在“谋”上也赶超人类呢？到那时候，人类奴役机器的剧情将得到反转，未来，人类才是那个被“奴役”的物种！
人工智能威胁论：我们正站在变革的边缘
对于这个近乎疯狂的猜测，不少人工智能领域的专家表示，人工智能学会自主学习还有很长的路要走，科幻小说中的场景短期内不会出现在生活中。但是，在IBM"深蓝"战胜国际象棋棋王卡斯帕罗夫的时候，不也有人说围棋是计算机不可攻破的堡垒吗？现在，距离这个预言还不到10年。
在这个问题上，比尔盖茨，马斯克、霍金等科技界巨头都曾公开发表言论，告诫人们应该警惕人工智能技术。马斯克和霍金还因此获得过IT与创新基金会颁发的“阻碍创新”奖。从AlphaGo的表现看，大佬们的担忧却并不只是杞人忧天。
霍金在《独立报》上或能概括人工智能的威胁：“尽管人工智能的短期影响取决于控制它的人，但长期影响却取决于它究竟能否被控制。”李开复老师的警告则更具激励性：人工智能的真实的危机在于未来机器将养活无所事事的人。其实，比这更可怕的应该是：直到这一猜想成为现实，人们才开始意识到问题的严重性。
电科技（www.diankeji.com）是一家专注于全球TMT行业的领先资讯媒体。
作为今日头条青云计划、百家号百+计划获得者，2019百度数码年度作者、百家号科技领域最具人气作者、2019搜狗科技文化作者、2021百家号季度影响力创作者，曾荣获2013搜狐最佳行业媒体人、2015中国新媒体创业大赛北京赛季军、2015年度光芒体验大奖、2015中国新媒体创业大赛总决赛季军、2018百度动态年度实力红人等诸多大奖。
投稿、商务合作请联络微信公众号
声明：本站原创文章文字版权归电科技所有，转载务必注明作者和出处；本站转载文章仅仅代表原作者观点，不代表电科技立场，图文版权归原作者所有。如有侵权，请联系我们删除。
喜欢评论Tags:李世石AlphaGo人工智能李开复人工智能威胁论猜你喜欢AlphaGo只是开始人工智能将迎来爆发AlphaGo因输棋获世界第四排名马斯克：AlphaGo取胜让人工智能早熟10年