人工智能假如失控 将会带来何种危害程度
科技的发展让人类社会智能化应用达到前所未有的高度。智能化应用的同时但同时也带来一些焦虑和不安。假如人工智能失去控制机器人将会给人类带来何种危害程度这也是很多人最为关注的话题。
文/辛东方80后作家、专栏作者、专注互联网科技领域
据了解人工智能ArtificialIntelligence英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支它企图了解智能的实质并生产出一种新的能以人类智能相似的方式做出反应的智能机器该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来理论和技术日益成熟应用领域也不断扩大可以设想未来人工智能带来的科技产品将会是人类智慧的“容器”。
在很多科幻片中都少不了机器人扮演的角色。
从1927年第一个机器人玛丽亚开始美国好莱坞塑造了无数个脍炙人口的机器人形象如科幻史诗巨片《星球大战》中形影不离、似孪生兄弟的C-3PO和R2-D2以及施瓦辛格扮演的钢筋铁骨的“终结者”。以下是美国《时代》周刊日前选出电影史上最让人难忘的16个机器人。
1.玛丽亚
来自1927年电影《大都市》弗里茨-朗的经典默片。机器人玛丽亚在未来世界煽动全面的叛乱。
2.戈特
来自1951年上映的《地球停转之日》人形外星人(克拉图)作为外星使者来到地球警告人类暴力和核武器的危险戈特是其宇宙飞船的保卫和飞行员。他所传达的信息即便是在今天也同样有重要意义也许正是刺激好莱坞重拍这部电影的原因。
3.机器人罗比
来自1956年上映的《惑星历险》。影片灵感来自莎士比亚的《暴风雨》罗比这一角色基于其中的Sprite只是略大一点。
4.枪手
来自1973年上映的《未来世界》。在达洛斯主题乐园只要付了钱客人们就能实现他们的梦想。一切都很正常直到计算机故障导致一些机器人开始射杀游客包括尤尔-伯连纳扮演的机器人枪手。
5.C-3P0和R2-D2
来自从1977年至2005年经典科幻片《星球大战》。经过六部电影机器人已成为全球性的图标。但是影迷们还想知道他们的爱情何时才会有完美的结局
6.阿什
来自1979年上映的《异形》。宇宙公司的人造人、科技人员阿什允许外星生物杀死整个飞船的机组人员以便公司的生物武器部可以对它进行研究。
7.终结者
来自1984年上映的《终结者》由加州州长阿诺-施瓦辛格主演。在影片的高潮部分一次爆炸后在熊熊烈火中终结者露出了真正的面目——机器人可怕的内骨骼。
8.霹雳五号
因为一次电路短路本是用于军事用途的机器人开始拥有人类的感情和思维并且和爱丽-谢德一起跳舞。
9.机器战警
来自1987至1993年系列片《铁甲威龙》由彼得?韦勒扮演的警察亚历克斯-墨菲被击中惨遭杀害。但是从技术上说他还活着科学家们重建了他的大脑和脸给他穿上了机器人盔甲。变成了机器战警墨菲开始追捕杀害他的犯罪团伙由此拍摄了一系列的超暴力影片。
10.百科(Data)
来自1994-2002年的系列片《星际旅行》百科是有感情的机器人他的电子大脑拥有惊人的计算能力。百科(Data)一生都为自己的人类行为和感情所困绕正像我们人类自己一样。
11.小白脸乔
来自2007年上映的《人工智能》由裘德-洛扮演的小白脸被人诬陷杀人后正在逃亡途中他不期而遇了一位小机器人决定帮助他寻找“真正”的自我。
12.NS-5
来自2004年上映的《我机器人》由著名科幻作家艾萨克·阿西莫夫同名小说改编而成。由威尔-史密斯在剧中扮演一位芝加哥的探员他对机器人存在着非常大的偏见。他正在追捕一名机器人杀手在此过程中他越来越怀疑他所追捕的凶手其实是整个新一代机器人内斯特5(NS-5)。
13.马文
来自2005年上映的《银河系漫游指南》太过聪明又容易沮丧的马文据称它比机器垫智商高300亿倍以上。
14.擎天柱
来自2007年上映的《变形金刚》它能带领一群机器人与霸天虎(一个更邪恶的机器人)作战奥菩提莫斯带上它以保护地球同时与机器人对抗。
15.WALL-E
来自2008年上映的《机器人总动员》在热情女友的祝福中勤劳可爱的WALL-E定能在应对迪斯尼工作室2008年销售计划时清理这个被污染和遗弃的地球。
16.新一代戈特
来自2008年上映的《地球停转之日》生产者对重造的图标机器人新化身保密。新机器人高特有望更大、更调皮基努·里维斯演绎的机器人值得期待。
其实更细分一点就是人工智能是对人的意识、思维的信息过程的模拟。人工智能不是人的智能但能像人那样思考、也可能超过人的智能。人工智能是一门极富挑战性的科学从事这项工作的人必须懂得计算机知识心理学和哲学。人工智能是包括十分广泛的科学它由不同的领域组成如机器学习计算机视觉等等总的说来人工智能研究的一个主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作。但不同的时代、不同的人对这种“复杂工作”的理解是不同的。
通过新闻报道我们可以发现通过梳理过去十二个月与人工智能相关的新闻你将发现人工智能的境况一路从「高歌猛进」到「穷途末路」而又一直在这之间摇摆不定。
人工智能呈现给我们的是人类的苦难已经一去不复返了。它们会逐渐接手我们的工作。最大限度的拓展人们的能力。机器人会奴役人类杀死人类或兼而有之。伊隆马斯克认为它们会在五年内把我们×××殆尽马克扎克伯格则希望家里有一个机器人照管他出世不久的小女儿。
人工智能现在高速发展未来五到十年应该有一个飞速发展的过程。有关人工智能这方面人类投入的研究经费还需要很多。
现在不光是中国在大力发展人工智能而全世界的科技大国都在进行人工智能方面的研发。很多东西现在都已经步入智能化应用时代比如我们的语音识别系统脸谱识别技术指纹识别技术等都是智能化应用的代表例子。此外会跳舞的机器人。已经出现的机器人餐厅等都是这方面的例子。
不管如何人类在研发智能化应用的同时一定要控制好智能化终端为人类所用而不是智能化机器人控制人类。对于未来安全防范机器人所带来的犯罪和安全隐患这一点必须严格把控。
人工智能是否会带来毁灭对“人工智能灭世论”的质疑与反思
人工智能的威胁与休谟问题
Bostrom对于人工智能可能欺骗人类通过仁慈性测试的可能性似乎与休谟问题有着相同的逻辑。休谟指出，当我们通过归纳之前的经验而得出将来的结论时，我们就不得不面临归纳所带来的风险。举例而言，我们不能因为太阳升起过999次就认定太阳会在明天升起第1000次；同样的，欧洲人曾经认定天鹅只有白色，因为他们只见过白色的天鹅，然而，当黑色的天鹅出现后，他们之前的推断就被证明为错误的。同理，Bostrom对于人工智能的道德性具有相同的怀疑，即使人工智能在人们的日常生活中可以显得善良而可靠，我们仍然不应该忽视人工智能在将来成为人类威胁的可能性。这样的警告使得人类在面对人工智能时不得不陷入一种两难，一方面，我们可以心安理得地去享受人工智能为我们提供的便捷服务；但是在另一方面，我们又不得不小心谨慎地去提防人工智能的“背叛”。但是，正如同休谟问题指出的，我们永远无法正确地指出明天的太阳是否会升起，我们也无法判断人工智能在未来究竟会是善还是恶，这样的怀疑指出了人们对于人工智能的轻信，却无法带来一个确定的结论。当然，我们也可以发现，人类的日常生活中无时无刻都在面对这样的“不确定性”，没有人能够真正地预测未来究竟会发生什么，就如同我们不能排除今天开车出门有发生车祸的可能性，但是我们不会因此不出门一样；即使在明知人工智能可能带有风险之后，某些人群仍然愿意忍受这种风险，享受人工智能的便利。
揣测超级智能的不可能性
与休谟问题的归纳性不同，爱尔兰国立高威大学的JohnDanaher教授对人类是否真的能够理解人工智能的所思所想表示怀疑。我们可以意识到，大部分对于人工智能威胁的理论都建立在拟态逻辑上，人们幻想出一个可能的世界，并在其中推演人工智能背叛人类的可能性。但是，这样的推演（如Bostrom所提出的假设），仅仅从人类视角，根据人工智能的技术性与现实进行假想；值得怀疑的是，这样的推测是否真正还原了人工智能的思考方式？而人工智能又在多大程度上会如同推演中的那样去行动？英国学者KevinWarwick曾表示，“我们无法真正理解超级智能为什么做出这样那样的决定。当一个机器以超越我们纬度的方式进行思考时，我们又怎么可能去理解、推测它的想法，乃至和它进行讨价还价呢？”
如人类想象中的其他超级智能，例如上帝，不同的是，人工智能或许是全知全能的，但是它的目的并非如同全善的上帝一般是去创造并维持这个世界的有序运行。我们可以从观察自然世界中发现某些世界遵循的规律，并推测上帝设计了这些规律。但是，我们没有理由去相信人工智能也会遵守并维护这些规律，而恰恰相反，人工智能拥有随时破坏并制定新规定的能力。也正因为如此，我们有理由怀疑科学家是否应该中止开发人工智能，更可怕的是，如果Bostrom的假设为真，那么我们并不能知道人工智能是否已经悄无声息地背叛了人类。
当然，人工智能的拥护者会表示，这样的怀疑忽略了人工智能带给人类的巨大便利，以及其带来的科技进步。至少在短期内看来，我们还看不到人工智能有明确背叛人类的行为。但是，谁也不能保证人工智能在未来不会对人类的生活带来危害。或许，人工智能目前为人类带来的帮助，相比较于其可能带来的危害是不值一提的。
结论
虽然我们可以对Bostrom的“人工智能灭世论”提出怀疑，但是我们不应该忽略该理论的严肃性。已经有许多领域的专家指出，未来人类可能需要与机器共同生存，以延长人类的生命。但是，与功能单一且明确的机器不同，人工智能更加全面和多样，不可否认的是，人工智能将会为人类带来更多的好处。但是人类是否真的能够相信在智力上远远超过我们的人工智能，人类设计的仁慈性测试又似乎不能确保人工智能的善良；因此如何保证持续进步人工智能无法对人类的未来造成毁灭性的打击，将是人类在很长一段时间内需要思考的问题。
参考文献：
Bostrom,N.(2014)Superintelligence:Paths,Dangers,Strategies.Oxford:OUP
Danaher,J.(2015).WhyAIdoomsayersarelikescepticaltheistsandwhyitmatters.MindsandMachines,25(3),231-246.
Yudkowsky,E.(2008)ArtificialIntelligenceasaPositiveandNegativeFactorinGlobalRisk.InBostrom,NandCirkovic,M.(eds)(2008)GlobalCatastrophicRisks.Oxford:OUP
(本文来自澎湃新闻，更多原创资讯请下载“澎湃新闻”APP)返回搜狐，查看更多