辩论：人工智能是否会对人类有害
辩论：人工智能是否会对人类有害？2019年12月10日11:19:12来源：凤凰网知之作者：澎湃新闻
用微信扫描二维码
人参与评论2019年11月24日，剑桥大学的学生联合会举行了一个主题为“人工智能是否会对人类有害”的辩论会。其中持正方观点的是几名剑桥大学的学生，而反方则是一个人工智能。很讽刺的是，这次
2019年11月24日，剑桥大学的学生联合会举行了一个主题为“人工智能是否会对人类有害”的辩论会。其中持正方观点的是几名剑桥大学的学生，而反方则是一个人工智能。很讽刺的是，这次辩论的结果是人工智能胜出。也就是说，人工智能成功地说服了评委，自己是对人类有害的。
唯一让人感觉有点欣慰的是，赢得辩论赛的人工智能使用的论点，来自1100多名剑桥学生事先整理的资料。这并不是人工智能自己思考的结果。不过，我们由此也可以看到，人工智能的能力正在飞速提升。
如果大胆展望一下未来，人工智能会发展成什么样子呢？太遥远的未来我暂时放一边。我只想以5年作为一个节点，大胆预测一下：每过5年，会有哪些人工智能取代人类工作的大事件发生？
第一个5年间，手机、家用电器、汽车等标准化程度高、装配精度高且能够量产的生产线，必然会成为第一批全面装备机器人的生产线。目前，仍在这类企业工作的产业工人，也随时会面临失去工作的情况。这是正在发生的事情。所有从事简单重复性工作岗位的人员，都将面临失业，比如收银员、银行窗口办事员、电话客服、建筑工人等，甚至有些你想不到的影像科医生、律师助理、科研助理、金融分析师助理、初级会计等简单重复性的文职人员，也会面临失业。
不过，同时也会有很多新岗位被创造出来，这些岗位集中在需要提供个性化服务的领域。比如说，很多企业对于销售人员、公关人员、运营人员的需求反而会旺盛起来，因为个性化服务会提升企业竞争力。当然，程序员这类与计算机打交道的岗位依然会持续增长。
第二个5年，也就是在未来5-10年中。可自主学习的通用型机器人开始量产。通用型机器人，不再需要通过人工编程的方式学习岗位技能。它可以通过动作跟踪和深度学习来直接学会岗位技能。这就把原来需要对每一道工序进行程序设计的成本省掉了。通用型机器人的表现更像一个普通工人，你只要手把手地“教会”它做固定的动作，它就可以立即上岗工作了。
不过，一开始，机器人的昂贵价格依然会让中小企业望而生畏。到时候，可能会出现一种机器人租赁的商业模式，他们会以低于国家最低工资的租金，把机器人租给中小型工厂，并提供机器人的岗位培训服务。没有任何企业主会拒绝这一商业模式。企业没有任何的额外投入，就彻底摆脱了劳动法的限制。只要有电，工厂就能持续稳定地生产。不过，会有更多与教育、文化、娱乐产业有关的新岗位被创造出来。
第三个5年，也就是10-15年之间，将会迎来通用型工业机器人的大爆发。
在第三个5年中，除了小型的家庭作坊式生产企业外，所有大型生产企业的产业工人都将永久性失去工作，只剩下极少量管理性工作岗位。现在刚刚参加工作的年轻工人们，有必要为这个必然到来的未来做做准备工作了。
那些创造性强、工序模糊、非量产的工作，暂时还不会被机器人侵占。
由于工业机器人的工作环境比较固定，需要抓取的零件也有相对准确的位置，对计算机视觉的要求也相对比较低，这样的机器人执行固定任务还是不错的，但是如果想让他们离开流水线随意走动工作，就有些勉为其难了。
在这个阶段，会产生一个名叫机器人服务业的新行业，推广、维护机器人并且对机器人进行有效的培训，是这个新行业的主要工作。在机器人大量上岗的阶段，培训机器人这个新职业甚至会有点人力密集型产业的特点。很可能一个机器人的上岗，就需要几个人参与上岗前的调试和培训工作。
第四个5年，也就是15-20年之间。计算机视觉的技术很可能在15年后得到实质性的突破，这将使得机器人也能理解周围的空间环境，并且能够学习识别各种常见的物品。这将让工业机器人走下生产线，进入民用领域。这也会成为一个里程碑式的事件。
这些通用型机器人能做的事情非常多。比如说在快餐行业，炸薯条、制作汉堡或者给客人冲咖啡，都是机器人力所能及的。而家政、保洁以及环卫类工作的机会也将彻底消失。
通用机器人不需要重新编程，但需要接受训练。这个阶段，很可能出现一种叫做机器人教练的工作岗位。这项工作的基本内容，就是对通用型机器人进行训练，帮助它们提高工作能力。这些机器人教练同时也是机器人的售后服务人员，他们的工作对于收集数据，改进机器人的工作水平至关重要。
在这一阶段中，人类可以选择去做一些与人打交道的工作，或者协作性比较强的工作，这类工作需要人与人之间频繁交换意见，并且提供反馈。暂时，机器人还无法胜任这类需要频繁交流想法的任务。
我的预测暂时只能到这里，因为人工智能再往后发展，会有一道科学原理上的瓶颈需要突破，而突破这个瓶颈的时间现在很难预测。这个瓶颈就是，对自然语言的理解能力。
2018年5月份，谷歌曾经发布了一个人工智能电话客服的视频，在视频中的人工智能几乎已经与普通的接线员没什么差别了。但事后证明，谷歌的这个视频，还是有一定的宣传和表演成分的，并不是人工智能的真实表现。
理解自然语言，是当前人工智能技术的热点。我们的手机里一般都会有一种叫做语音助手的程序，很多人家里也都有智能音箱。一些大公司的客服电话，有时候也能听到智能语音导航的声音。但是，这些程序目前只能与我们进行相当简单的交流，它们对于自然语言的理解水平仍然是相当低的。
自然语言的语义理解，对于人工智能来说，真正困难的是常识的学习。比如说，我们在日常对话过程中，突然问了一句：“什么？”我们的意思就是想表达：“你说的上一句话我没听清，希望你能重说一遍。”但是人工智能缺乏这个常识，对于这句突如其来的“什么”，就会难以理解。到现在为止，我们的人工智能专家还没有找到有效的方法，让人工智能自己去学习常识，这也是自然语言识别这些年来没有本质突破的主要原因。
一旦人工智能对自然语言的理解出现突破，我们身边的人工智能的水平一下子就会有飞跃式的进展。虽然他们的工作能力没有改变，但学会语言会让它们看起来更有灵性。而我们则有可能通过交流的方式，教会和调整机器人的工作。这使得机器人不但可以独立工作，也能够与人一起协作做事了。
具备语言能力的人工智能，将有能力取代所有常见的人类工作。诸如做会议记录、查阅资料、接待客人这类文职工作，机器人做起来肯定是得心应手的。这一阶段肯定会诞生一些外观极其漂亮的机器人，它们会取代人类做好各种服务和接待类的工作。一些专业水平比较高的机器人，应该具备更高水平的专业技能，比如具备法律专长的机器人可以从事律师类的职业，具备医疗专长的机器人可以在门诊接待病人。
大家需要注意的是，这一阶段的机器人，虽然可以进行自然语言的理解，但本质上仍然是专用型的弱人工智能。想让它们具备下围棋的能力，就需要下围棋的算法支持。想让它们能够当门诊医生，就需要对应的医疗诊断算法和数据库作为支撑。它们对自然语言的理解，不过是打开了与人工智能的语音交互接口而已。
自然语言的语义理解，很可能就是从弱人工智能突破到强人工智能的关键点。随后的人工智能，很可能会从专职向一专多能转变。你可以向为你做家务的机器人提出要求，让它利用业余时间学习围棋，那么几天之后，它就可以陪着你对弈了。这种学习的过程，很可能与我们手机下载App的过程差不多。会有免费的围棋程序可以下载，也会有类似AlphaGO和腾讯绝艺这样的顶尖围棋程序，但后者可能是付费或者会员制的。
你可能还希望你的家用机器人会弹钢琴或者会帮你化妆，这些都需要额外学习，而且不同的App的价格也会不尽相同。但不管怎么说，这一时代的到来，将意味着具体工作的彻底终结。与我们前面提到过的机器人训练师一样，在这样一个时代，设计一个可供机器人下载学习的学习包将会是一个重要的岗位。有些很感性的工作，比如跳舞，也许可以手把手地教会一个机器人，然后再由这个机器人将新学会的技能打包上传，其他机器人下载后就等于学会了。这是一个与机器人协作和共同创造的时代。
此时，绝大多数非创造性的文职工作，都可以由人工智能担任。外形酷似人类的人形机器人在这个时代也会大量出现。这一时代的到来，宣告着传统非创造性工作的终结。
在这一阶段，有一些依赖人类高级创意能力的工作，比如写小说、导演、编剧、艺术创作等创意型工作，人还能比机器做得更好。但是，这种优势能保持多久呢？
一旦弱人工智能突破了限制，成为强人工智能，它们很可能会开启一个崭新的时代。虽然他们很可能依然没有情感，也没有欲望，但它们的能力将远远超越人类。突破之后的强人工智能，很可能能够做到包括完善自身在内的绝大多数人类能做的事情。这一天何时会到来，对不起，数据不足，无法回答。
不可否认，对于人工智能的发展，很多人都心存忧虑。关于人工智能是否会成为人类的威胁这一话题，我本人是持乐观态度的。人工智能，毫无疑问是人类发明的最重要的一项工具。即将发生的一切，并非人工智能的侵略，而是人类自我的解放。当所有的工作岗位都成为历史时，人类这个物种将完成一次升级。
知之×世界说重磅推出知识付费课程：输掉的未来
扫描下方二维码，《输掉的未来》更多精彩内容尽在“知之”微信公众号
王晓笛[责任编辑：王晓笛PSY172]
责任编辑：王晓笛PSY172
好文钦佩喜欢泪奔可爱思考用微信扫描二维码
分享到：新浪微博QQ空间人参与评论辩论赛——人工智能弊大于利（四辩）
很高兴与对方辩友进行这场友谊辩论赛,我想在继续我总结之前，先指出对方辩友在论证上的几个关键错误。
首先，对方辩友一而再再而三的误解我方观点，丝毫没弄清“人工智能弊端”与“人工智能弊大于利”这完全两个方面的话题，虽然只差别几个字，但跨度是非常大的。对方逻辑：人工智能目前带来很多利处，所以证明利大于弊。对方辩友举四个、举十一个利的例子，然后举一个弊的例子，就可以证明人工智能对人类发展是利大于弊的吗？可以吗？不可以。
第二，对“人工智能”定义的理解。人工智能是以模拟人脑所从事的推理、学习、思考和规划等思维活动，让电脑可完全以人类的思维方式执行自身功能。我们为什么要辩这个辩题，不是为了争输赢，而是为了跳出来审视一下这个时代正在发展的人工智能对我们的利、对我们的弊。
一、人工智能本身不可控性与未知性
人工智能不仅仅是弱人工智能，它不是单纯的机器人，它未来可以有思想，可以有情感，如果你觉得它没有，你证明，如果你它不能证明，你连未来的事情都不知道，或者说你不知道它未来会发展到什么样子，你连一个工具它未来会发展成什么样子，或者说什么方向都不知道，太可悲了，我是很认真的。
人工智能对人类的弊端是毁灭性的，不可挽回的。当人工智能运用在战争上，伤害是无法估量的。不远的将来有可能会出现人工智能统治世界的情况
二、社会维度，影响社会稳定
人工智能替代一些多重复、高劳力的一些简单的工作。据麦肯锡报告预测，到2030年机器人将取代8亿人的工作。人工智能的发展会导致利益的分化与重构，新创造的社会财富将会不成比例地向资本一方倾斜，低收入与受教育程度较低的人群将会在新一轮的社会资源分配中处于严重的不利地位，而贫富差距的加大必然导致社会的动荡不安。
人工智能安全事故、侵害事件频发，引发社会各界普遍关注。例如，特斯拉ModelS在美国和我国境内都曾发生过自动驾驶致死事故和数起交通事故；2018年委内瑞拉总统在公开活动中受到无人机炸弹袭击，这是全球首例利用人工智能产品进行的恐怖活动；2018年，优步的一辆自动驾驶测试车在进行路试时发生事故，导致一行人死亡。
人工智能对人类的弊端是毁灭性的，不可挽回的。当人工智能运用在战争上，伤害是无法估量的。不远的将来有可能会出现人工智能统治世界的情况
二、个人维度：侵犯基本权益
随着人脸识别、虹膜识别等应用的普及，人工智能正在大规模、不间断地收集、使用敏感个人信息，个人隐私泄露风险加大。例如，变脸应用“ZAO”因用户协议过度攫取用户授权、存在数据泄露问题而被监管机构约谈要求自查整改。杭州一动物园因启用人脸识别技术，强制收集游客敏感个人信息而被诉至法院，成为我国“人脸识别第一案”
我们换一个点，我们讲它弊大于利，是因为我们承认它确实能促进经济发展，但这并不是对人。第一个点，它对隐私的破坏权，你有没有注意到，你的社会发展，你的生活中充斥着各种各样的人工智能，但你没有注意到，举个很简单的例子，网络浏览助手，它可以在线记录你的各种各样的喜欢的常去的网站，然后在下一秒你要输的时候跳出来，排个序，很开心，很人性化，你的技术也很智能化，很人性化，但是它会把这些数据传到远方的数据库里面去。但人工智能并不能智能地分别谁在使用这些数据，它仅仅是一个操控者。
此外，还发生过亚马逊智能音箱劝主人自杀等事件。
三、企业维度：加大合规难度
AI伤害了你，你去告谁？
一是不良信息频现，企业审核能力不足。如果向人工智能系统输入不完整、不正确、质量不高的数据，则会产生不良或者歧视性信息，即所谓的“垃圾进，垃圾出”。例如微软公司的人工智能聊天机器人Tay上线后，被网民“教坏”，发布诽谤性的、歧视性的推文。此外，人工智能技术极大地促进数字内容产业的繁荣。预计到2022年，全球互联网流量将达到每秒7.2PB。企业试图依靠传统审核模式实现内容的准确判断并及时应对信息爆炸引发的各类问题，越发捉襟见肘。
二是法律责任不明，陷入责任划分困境。由于当前人工智能产品在问题回溯上存在不可解释环节，而且现行立法也未明确界定人工智能的设计、生产、销售、使用等环节的各方主体责任与义务，这给人工智能安全事件的责任认定和划分带来严峻挑战。例如，人工智能医疗助理（例如IBM的“沃森医生”）给出危险错误的癌症医疗建议时的责任认定等问题。而且，当人工智能出现自主决策能力后，自动驾驶汽车因独立智能决策致损时，如何确定侵权主体及划分责任。
三是知识产权保护不足，版权认定困难。目前，各国就人工智能生成物所包含的权利类型和权利归属存有争议，人工智能创作物的版权保护仍普遍面临法律滞后问题。例如澳大利亚法院判定，利用人工智能生产的作品不能由版权保护，因为它不是人类制作。如果人工智能创作物得不到法律有力的保护，会使得人工智能生成信息的复制和扩散门槛更低，影响投资人、创造人投入人工智能创作的积极性。
四、人的价值
我们可以再继续，它会动摇人的主体性地位，就是我们作为人的价值被它所替代。我们会失去我们的价值，是真真正正地失去。你譬如说它解放了人，把人从繁琐的劳动中解放了出来，你为什么不想一下，这个解放是我们愿意的解放吗？我们人之所以为人的根本是我们能够选择，选择我们不愿意或者愿意做的事情。但是人工智能它不一样，它代替了这个事情之后，这个选项就没有了，你不可主动选，以前我们可以主动选择，我可以不去扫大街，我可以不去看书，但是我可以去思考，我可以去做个选择。但人工智能普及以后呢？你只能选择去做一些文艺的工作，因为这些工作是人工智能所不能做的，也就是说你的价值、你的意义变成了我们只能做一些人工智能不能做的，我们人，人之所以为人不是这样的。很可怜。所以说人工智能对于世人，对我们主体性人，一定要动摇他的主体性地位，这才是它的弊端，这才是我们说它弊大于利的地方。