博舍

人工智能有哪些缺陷或危急人们生活 人工智能失控的危险有哪些

人工智能有哪些缺陷或危急人们生活

人工智能在近几年已经走进了人们的生活,虽然它使得人们的生活更加便利,但是凡事都有两面性,对于人工智能来讲,有几项缺陷不容忽视。

第一,脆弱性。目前的人工智能系统还无法超出场景或语境理解行为,虽然在下棋或游戏等有固定规则的范围内不会暴露出这一弱点,但是一旦场景发生变化或这种变化超出一定范围,人工智能可能就立刻无法“思考”。

第二,不可预测性。用户无法预测人工智能会做出何种决策,这既是一种优势,也会带来风险,因为系统可能会做出不符合设计者初衷的决策。

第三,安全问题和漏洞。机器会重结果而轻过程,它只会通过找到系统漏洞,实现字面意义上的目标,但其采用的方法不一定是设计者的初衷。例如,网站会推荐一些极端主义视频,因为刺激性内容可以增加浏览时间。再如,网络安全系统会判断人是导致破坏性软件植入的主要原因,于是索性不允许人进入系统。

第四,人机交互失败。尽管让机器提供建议,由人类做最后决策,是解决人工智能某些弱点的常用方法,但由于决策者对系统局限性或系统反馈的认知能力不同,这一问题并不能得到根本解决。2016年特斯拉自动驾驶汽车撞毁事故中,人类操作员就没能理解系统给出的提示,而发生致命性事故。这在军事、边境安全、交通安全、执法等诸多领域都面临着类似挑战。

人类想要彻底驾驭人工智能还任重道远,但是值得肯定的是,如果人工智能未来大面积普及,一定会在带给人们便捷的同时,带来一系列我们可能没有面对过的问题。

对于人工智能的缺陷,你有什么看法呢?

——END——

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。

上一篇

下一篇