人工智能有多可怕：美爱国者导弹曾失误击落2架友机
新浪军事编者：为了更好的为读者呈现多样军事内容，满足读者不同阅读需求，共同探讨国内国际战略动态，新浪军事独家推出《深度军情》版块，深度解读军事新闻背后的隐藏态势，立体呈现中国面临的复杂军事战略环境，欢迎关注。
科幻小说常常警示我们，要畏惧那些我们无法掌控的智能机械。事实上，我们真正需要害怕的，是那些需要我们控制但我们还没能力把握的智能机器。
从爱国者导弹到特斯拉汽车，再到Airbus喷气式飞机，自动化系统如今已造成不少人员伤亡。它们并没有恶意，只是在灾难到来之前，我们没能及时把设备从“被动监控”切换到“主动控制”而已。
究竟什么时候该提起警惕？有时候，一天里有23小时59分钟都是无需在意的，唯独那么1分钟是致命的关键。2003年，自动化的爱国者导弹防御系统出现失误，击落了两架友机。这一切发生的太快，以至于我们还没来得及阻止，就已经结束了。
资料图：美军F-18坠毁照片
2009年，法国航空447号航班由里约热内卢飞往巴黎。一名年轻的副驾驶正操控着飞行设备，机长这时将飞机交给自动化驾驶系统，并把位置让给了另一位年长的副驾驶，准备稍微打个盹。突然，空速指示器被冻住了。这原本只是一个小故障，但它导致了自动驾驶仪数据的缺失，人工智能系统继而陷入“两眼一抹黑”的境地。
于是，自动驾驶系统脱轨了，并将指挥棒立马交回驾驶员手中。由于切换来的突如其来，驾驶员们甚至还没做好准备。各种警报声响起，恐慌不断弥漫，驾驶员来不及判断究竟发生了什么，更没意识到他们此时的大脑空白将引发怎样的后果。直到飞机失速、坠落并消失于汪洋大海，驾驶员们都没能找出正确的应对措施。
最终，447号航班上的228人无一幸免。这是自动驾驶系统的错么？但系统完全是按照设定程序运作的。这是驾驶员的错么？机组人员明显缺乏态势感知，但是，当一个人连续几个小时都处于休息状态时，我们又如何能期待他高效地解决突发危机？
人们总爱通过自动化设备拯救自己的不足，殊不知这是把自己推向了另一个深渊。法航447便是人工智能和人类智慧共同导致的一场灾难，在这次事件中，人们就没能成功接下智能设备递出的指挥棒。除此之外，还有一种情况也会产生难以想象的后果，那就是自动化系统没有在必要时候卸下控制权，而人类也反应迟钝地听从设备的安排。
打个比方，最近新出的步枪自动瞄准系统能帮助士兵成功击中目标，然而，一旦系统失去控制，我们又习惯性地相信瞄准设备的判断，会不会有可能出现误伤甚至误杀的情况呢？
不要妄想装备人工智能后，就可以不用大脑了。我们是人工智能的主人，不是它们的奴隶。愚蠢的头脑配上高级的自动化系统，只会产生可怕的灾难。我们需要的是相互信任、依赖的人工智能机器。在使用人工智能的同时，我们还得保证人的参与度，保持人的创造性和判断力，这样方能减少犯错的可能性。（作者署名：小飞猪观察）
本栏目所有文章目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。凡本网注明版权所有的作品，版权均属于新浪网，凡署名作者的，版权则属原作者或出版人所有，未经本网或作者授权不得转载、摘编或利用其它方式使用上述作品。
新浪军事：最多军迷首选的军事门户！
标签:爱国者导弹美军人工智能
推荐阅读聚焦应用中心新浪公益新浪游戏新浪视频新浪科技带领皇室家族赢得胜利靠反应力还不如背赛道动脑筋喂小怪物吃饼干轻松延长手机续航时间练就梦寐以求的好身材帮助保持健康生活方式随心所欲打造完美效果银河系最全新番齐放送复杂世界里一个就够了进入机器梦境寻找真相疯狂逃离恐怖的压碎机冰锋暗影古色庙殿狂奔斗巫师夺回被偷的糖果屯兵练兵出征攻占堡垒伪装胖猪混敌营救伙伴国内最专业的手机地图帮你一起保护你的颈椎随时随地轻松订火车票沈阳遭遇六级重度雾霾2万大妈齐跳小苹果禁烟范冰冰传递社会正能量未富先老养老金吃紧益调查：慈善需立法么反虐待动物法制化呼声高涨如何看待广州拟奖拾金不昧环保部即将解决红顶中介明星婚礼上的“善”姿“百名春蕾之星”评选舞剧《画皮》关注孤独症女孩患尿毒症自筹药费互联网发展基金会成立林青霞为慈善参加节目全面实施城乡大病保险儿童安全座椅强制认证办养老院真的是机会么志愿者慰问抗战老兵战舰世界海神节礼包乱斗西游2新浪独家卡倩女幽魂2夏日特权卡功夫熊猫新手高级礼包新倩女幽魂新浪特权卡灵魂战神不删档测试码我是大主宰新浪荣耀卡大话西游2免费版礼包西楚霸王新浪荣耀礼包镇魔曲神兵觉醒尊享卡完美国际2一生有你卡新天龙八部新手特权卡问道经典十年至尊礼包大战神新浪独家礼包热血传奇新区独享礼包剑网3萌宠浪浪大礼包创世2封测激活码问道手游媒体礼包极限Girl美与野性结合让萌宠当一天司机亲千万不要手贱啊超级屌的视觉错觉运动地球上最美丽的天堂鸟新一代武林最萌小道士神奇的PS造钱术大开眼界的泡面新吃法让宝宝嘴馋的菠萝炒饭经典电影镜头神级剪辑亲手教你范爷经典妆容盘点全球最糟糕山寨品恶搞:当一骷髅在开车健身是把整容刀三分钟看尽十年成长和TFBOYS一起过暑假不用去医院的牙美白术一分钟识别面试潜台词Windows10升级秘籍净水器的水有多深？识趣毕业季户外特辑用户关注手机哪些功能有曰：国内外展会吐槽三十年经典Moto手机ChinaJoy2015大看点东芝虚增利润财务丑闻紫光集团收购美光科技诺基亚为未来电影造球全球APP开发创意大赛享说第四期主持人李晨猎豹靠近捕食熟睡疣猪非洲血腥动物标本加工相机拍泡腾片遇水冒泡冰岛令人窒息美景懒惰青蛙蜗牛背搭便车美摄影师拍奇怪毛毛虫