人工智能与网络安全结合，完美解决安全问题
互联网时代网络安全已成了消费者最大的问题，现在的网络病毒的入侵，网络诈骗事件已经层出不穷，我们时刻担心者我们的隐私是否得不到最高的保障，是否还存在更多更大的漏洞。现在，人工智能的先进技术受到了大家的欢迎，有人将人工智能参与到了网络安全中，人工智能在网络攻防的领域中拥有极大的发展前景。
2017年9月21日，网络安全周的重头活动——首届国际机器人网络安全大赛在武汉东西湖区正式举行。经过六个小时的激战，最终，来自国防科技大学电子科学学院的HALFBIT战队力压群雄，成功斩获本届大赛冠军。在大赛期间，永信至诚CTO张凯表示：“本届大赛的赛制是人工智能与网络安全两个学科的一次有益的融合尝试，通过这场比赛，我们能够很直观看到人工智能在网络攻防的领域中，拥有极大的发展前景。”
当下，人工智能技术飞速发展，日新月异。在人工智能为社会大众的生活带来便捷的同时，在网络安全领域，人工智能也带来了诸多未知的威胁。为了自如应对因人工智能技术的恶意应用而诞生的自动化攻击手段，永信至诚联合多位业内安全专家，精心研发了RHG人工智能攻防演练平台，承办了本届国际机器人网络安全大赛，并发起人工智能安全应用与研究峰会，为人工智能网络安全人才提供更多成长的平台。
一名国防科技大学的学生在接受环球网智能的采访时表示，“一个大概两百行代码编译出来的含溢出漏洞的二进制文件，丢到机器人面前，机器在10秒左右的时间里就能发现漏洞点，而生成exp仅用了6秒左右的时间。人类打开ida的平均时间是多少？作为安全从业十七年的安全人，我被惊到了。当然，人工智能的网络安全应用路还很长，今天我们见证了日出光辉。”
据永信至诚CTO张凯介绍，本次人工智能网络安全大赛的题型主要来自永信至诚在安全开发过程中积累的经验试题，甚至会有网络上流传比较广泛的漏洞，本次放出了12道题用于比赛。
张凯表示：“本届大赛的赛制是人工智能与网络安全两个学科的一次有益的融合尝试，通过自动化的程序，针对当前最主流的linux操作系统上的二进制文件进行漏洞的挖掘、利用、防御，通过对攻击流量的分析来抓取特征进行0day漏洞的复现和防御也是当今比较主流的防御方式，这种赛制的尝试具有极佳的现实意义。大赛应用了永信至诚精心研发的RHG平台，以机器人与机器人攻防对抗的模式展开，这可以说是开创了国内智能化网络安全竞赛的先河。通过这场比赛，我们能够很直观看到人工智能在网络攻防的领域中，拥有极大的发展前景。”
谈到前段时间肆虐全球的WannaCry病毒袭击事件，虽然是主抓技术的负责人张凯却并未将话题引向病毒本身，而是谈到了安全人才的培养。张凯说：“人是安全的根本，再强大的系统、再强大的计算机的策略，没有人也很难起作用，我们经常觉得安全领域的人才稀缺，根本上还是参与的人太少，所以我们希望e春秋整个大的平台来进行人才的培养，要全方位的推动网络安全建设，让更多的人来了解网络安全，培养大家的网络安全意识。”
正如国家创新与发展战略研究会会长郝叶力在比赛与峰会结束后的综合点评中所说：“通过这场比赛中我们很直观的看到，人工智能在网络安全领域中具有极大的发展空间。不过路漫漫其修远，人工智能黑客也只是才刚刚起步，网络安全智能化还有很长的路要走。我们相信有苗不愁长，期待这颗幼苗能够早日成长为网络安全领域的参天大树。”
都市村庄：欧洲人工智能和网络安全中心 / BIG
BIG公布了位于斯洛伐克首都布拉迪斯拉发(Bratislava)的科技园区设计方案，其为环绕中心庭院的互联式建筑所组成的都市村庄。该园区致力于打造以人工智能创意和网络安全中心的生态系统建构。方案由BIG联合Inflow,Pantograph,BuroHappold和ARUP共同呈现，包含起伏光伏屋顶下的十二个独立结构集合体，共同勾勒了这位于喀尔巴阡山脉(CarpathianMountains)脚下建筑的轮廓。
项目距离市中心仅10分钟的车程，取代了原有的军事医院，摇身一变成为了科技网络安全的技术园区。方案设置了一定的空间差异性，外围建筑均包含公共空间，而靠内的四栋建筑则用于公司内部活动所需。园区西北侧呈开放状态，与容纳有一系列娱乐互动空间的公园相连，继而能够将园区的户外活动空间翻倍。
与其设计一个封闭的实体，我们选择将该园区打造成一个由互相连通的建筑组成的都市村庄，包含一系列的公共路径和都市广场。起伏的光伏屋顶下，多元化独立建筑单体的组团共同勾勒了项目的外轮廓，有如从森林公园中生长而出一般，也好似小喀尔巴阡山脉的人造附加物。联合一旁的高校，该科技园区意在激发布拉迪斯拉发全新创新街区的打造。-BjarkeIngels,BIG创始人及创意总监
园区内部的庭院意在成为当地社区的焦点之一，设有零售、教育、运动和文化空间。园区建筑每四栋就会形成带有天光的中心庭院，而每栋建筑内的主厅也都配有被社交空间环绕的主楼梯，以及丰富的亲生物设计元素。方案还以碳中和为目标，建材选用木材，以确保项目的低碳足迹。园区的电能来自可再生能源，包括光伏屋顶和地源热泵。BIG的方案为国际竞赛的获胜提案，该项目计划于2024年开始建造。
项目图纸
△建筑模型
△建筑模型
△分析图
△分析图
△分析图
△分析图
△分析图
△分析图
△分析图
△分析图
项目信息
基地面积: 90,000平方米
建筑面积: 55,000平方米
项目合作: Inflow,Pantograph,BuroHappold,ARUP
责任合伙人: BjarkeIngels,AndreasKlokPedersen
项目总监: IoannisGio
项目团队: AndyYoung,MatildeTavanti,LudkaMajernikova,CarmenSimone,BoniYuen,FlorenciaKratsman,GualtieroMarioRulli,JasonChia,LorenzoBoddi,MariadeSalvadorArnaiz,MichelaCardia,PedroNunes,RichardSeanMcIntyre,RihardsDzelme,SashaLukianova,SolveigJappy,StefanPlugaru,VincentKatieninKonate,YoungjinJun,AnnaMariaPazurek
关于人工智能与信息安全的思考
关于人工智能
随着社会信息化的飞速发展，一项划时代的技术正在掀起新的技术革命浪潮，那就是人工智能。
自1956年“人工智能”一词第一次出现在达特茅斯会议上，已经过去60多年。在经历了第一阶段的符号主义、第二阶段的数学建模之后，人工智能来到了移动互联网、大数据、超级计算、万物互联为技术基石的信息时代。在算法和计算能力的驱动下，这项曾经只在科幻小说里被人们津津乐道的技术，终于化茧成蝶，第一次真真切切地站在普通大众面前，以阿拉法狗在围棋领域颠覆性的胜利为标志，宣告了信息时代又一次新技术革命的到来。
根据中国电子技术标准化研究院在2018年1月最新发布的《人工智能标准化白皮书》，人工智能被定义为利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。人工智能通常被划分为弱人工智能和强人工智能两类。弱人工智能是能制造出真正地推理和解决问题的智能机器，但这些机器不具备自主意识；而强人工智能则是让这些智能机器拥有思维能力和自主意识。现阶段的人工智能研究主要集中于弱人工智能，并且已经在计算机视觉、语音识别、自然语言处理、大数据应用和决策系统等方面取得重大突破。但是，关于强人工智能的研究仍处于探索阶段。
人工智能是信息社会的核心技术
当今社会已经进入信息时代。信息社会的主要资源就是信息。这些信息资源及其以大数据、人工智能、云计算和网络通信为主的信息处理技术共同形成信息产业，逐步在经济和社会发展中发挥主导作用。当信息的共享突破时空限制的时候，所有人类高端的生产、生活、学习形态都以信息的获取、存储、处理以及再产生为基本模式。这其中又以信息处理环节为核心。而人工智能技术正是借助算法和计算能力，仿照人脑同时在很多方面超越人脑的信息处理技术，因此人工智能技术将是构成信息社会的核心技术。
鉴于人工智能技术对信息社会的重大推动作用，我国“国家互联网+行动计划”和“十三五”国家科技创新规划均将人工智能作为战略型新兴产业，同时部署了智能制造等国家重点研发计划和专项，对人工智能产业予以大力扶持。在2017年7月国务院发布的《新一代人工智能发展规划》中对人工智能的发展制定了三步走的目标：第一步，到2020年人工智能总体技术和应用与世界先进水平同步，人工智能产业成为新的重要经济增长点；第二步，到2025年人工智能基础理论实现重大突破，人工智能成为带动经济转型的主要动力；第三步，到2030年人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心。这是国家层面的战略规划，必将得到强有力的推进和实施。
我们正站在又一次技术大变革时代的门口。
工业革命中出现了动力和机器，曾经大量繁重的体力工作被机器所替代，从而大大提高了社会的生产效率。人工智能的出现也将把人们从繁重的脑力劳动中解放出来。人工智能技术是知识和数据双驱动下的产物，随着信息社会中数据的膨胀，人工智能的数据样本趋于丰富，人类的一些规则明确、烦琐单一的脑力劳动直至分析、决策、规划等高端脑力劳动都可以逐步被人工智能所替代。人工智能技术给人类带来的影响，可能远远超过计算机和互联网在过去几十年间给人类世界带来的改变。
人工智能的安全问题
人工智能是信息社会的革命性技术，是智能化的信息社会的核心技术，目前正处于爆炸式发展的初期阶段。但是，正如任何一个事物的出现都有其两面性一样，人工智能的加速发展也已经带来一些实际问题，最为突出的就是信息安全问题。
首先，是人工智能应用带来的安全问题
人工智能具有广泛的应用前景，目前已经涉及制造、农业、物流、金融、商务、家居等行业和领域。伴随着人工智能应用的推广，其安全问题越来越凸显出来。
以目前非常热的智能交通领域为例，很多汽车厂家和互联网公司都推出了无人驾驶汽车以及智能交通系统。在智能交通方面，目前在我国深圳，首批无人驾驶的公交车已成功运行，预示着人工智能技术在决策系统应用上有了重大突破。在人工智能控制交通的时代，指挥交通运行的效率可以达到最优，交通事故率理论上可以趋近于零。但是在已有风险消除的同时，新的风险被引入：曾经驾驶员人为的交通事故可能被智能交通系统的信息安全事故所替代。黑客可以从无线渠道侵入智能汽车终端、从有线渠道侵入后台信息控制系统，从而接管无人驾驶汽车甚至智能交通系统的控制权；也可以破坏自动驾驶系统的信息采集和传输途径，进而诱导终端和后台的智能算法作出错误判断。实际上，无人驾驶汽车或者智能交通系统由复杂的自动化机器和信息系统组成，其信息采集、传输、处理各个要素环节都面临安全风险，目前已有黑客通过盗取移动App账号密码进而控制自动驾驶汽车的案例。
人工智能技术应用于其他领域也同样如此。安全问题最突出的包括工业智能制造、智慧城市管理、智慧医疗、智慧家居等和人们社会生产生活密切相关的领域。由于人工智能处于信息社会的核心层面，控制着大量生产、生活设备、数字化资产乃至社会运转规则，一旦黑客入侵后台控制系统，技术系统遭到破坏，将带来与其技术重要性相同的破坏力，严重威胁信息系统安全乃至人身安全和社会安全。
其次，人工智能作为一项信息领域的关键技术，其自身也存在一些安全问题
在信息领域，任何代码、算法、开发框架乃至工程实现的软件系统，毫无例外都会存在一定程度的信息安全问题。代码量越大，系统越复杂，往往暴露出的安全问题越多。人工智能领域的专家往往不具备信息安全专业知识，因此，在这项技术的发展过程中，他们专注于实现机器模拟、延伸和扩展人的智能这些核心目标，安全问题往往被当作次要因素加以忽略。目前，安全届已经暴露出人工智能技术自身存在的一些安全漏洞，包括开发框架稳定性、算法设计缺陷、代码自身漏洞等方面。以代码漏洞为例，根据公开报道，国内外安全技术团队曾发现数十个深度学习的软件漏洞，其类型包括内存访问越界、空指针引用、整数溢出、除零异常等常见类型。人工智能技术自身的安全性和健壮性问题会导致人工智能系统出现错误甚至崩溃，或被攻击者利用进行破坏、侵入乃至劫持系统。随着人工智能应用的推广，其自身的安全问题也越来越引起人们关注。
再次，人工智能暴露出人们的隐私保护问题
人工智能技术的普及大大提升了人们生活的便利，但是，也带来了非常严重的隐私保护问题。人工智能技术本身算法的准确率高度依赖于海量用户数据的训练分析，尤其需要获取大量用户个人信息，以便提供个性化、定制化服务，这些都会导致用户个人信息泄露。谷歌DeepMind公司曾与英国NHS医疗服务机构联合开发了一个名为Streams的基于人工智能的手机应用程序，希望能给患者提供更加个性化的智能服务。但是作为医疗服务机构，NHS并没有向患者明确说明他们的医疗信息将被如何使用，也没有询问患者是否同意DeepMind处理自己的医疗数据。它们之间的数据交易被英国信息专员办公室认定为“没有遵守数据保护法案”。从这个案例可以看出，人工智能技术的普及在为人们生活带来便利的同时，存在非常严重的隐私保护问题。实际上，获得生活便利和保护个人隐私，目前已经成为一个两难选择。交出个人隐私和数据，获得个性化、人性化的全方位技术服务，这是人工智能时代的基本模式。不管是无人驾驶、智能管家、数字助理还是机器人保姆，这些人工智能技术和产品能更好为你服务的前提都是全面收集处理你的各种行为数据。小到兴趣、爱好、行为习惯，大到道德、宗教、政治倾向、人生观价值观，人工智能比你自己还要了解你自己。这样一种生活状态不管是拒绝还是欢迎，都会在未来20年左右的时间来到我们身边。技术上为了保护用户的隐私，在采集数据的时候可以对数据集进行模糊处理，使得收集到的海量数据无法和个体用户相对应。这种信息模糊技术从上个世纪就存在，但是其发展速度远远落后于人工智能技术的发展。目前，我们的隐私和个人数据，在大数据和人工智能这些收集、处理和分析技术面前基本上处于裸奔的状态。
人工智能在信息安全领域的应用
人工智能技术在信息安全方面带来的不只是威胁和风险，也对信息安全技术的提升有很大帮助。人工智能在信息安全领域的应用十分广泛，包括生物特征识别、漏洞检测、恶意代码分析等诸多方面。
基于生物特征的身份认证和访问控制是目前人工智能技术应用最成功的信息安全领域。从前制约生物特征识别技术在信息安全领域应用的关键问题是漏报率与误报率达不到实用要求。而利用以深度学习为核心的人工智能技术，科研人员已经将人脸、语音、指纹等等生物特征的识别率大大提升。以人脸识别为例，目前的准确率已经达到99%以上，技术的进步为生物特征识别的应用打下了良好基础。目前，已经有人脸支付等相关产品面世。支付领域的应用涉及社会和金融安全，在人脸识别的漏报、误报和检测准确率这些指标没有大幅提升的前提下是不可想象的。
在信息安全中尤为重要的漏洞检测技术领域，目前还缺乏高效、准确的漏洞分析自动化技术，很多安全威胁和风险需要专业工作人员的经验作深度的分析和最后的判断。人工智能在处理海量数据方面极具优势，通过对样本的训练可以模拟大量的攻击模式，可以基于人类已有经验也可以抛开人类经验进行全新的样本空间学习和探索，这样的技术解决思路将大大提高漏洞检测的全面性、准确性和时效性。
在恶意代码检测领域也是一样。传统的网络安全技术应急响应速度慢，不能适应恶意代码的迭代进化速度。而人工智能拥有强大的自主学习和数据分析能力，能够加速响应的流程，提升自动化和响应效率，缩短从发现到响应的间隔。这就为提前预知危险，及时预警并处理，将危险扼杀在摇篮中提供了可能，进而大大提高网络安全防御的敏捷性。
人工智能将成为推动我国信息社会变革的创新科技。国务院颁发的《新一代人工智能发展规划》提出，“人工智能在教育、医疗、养老、环境保护、城市运行、司法服务等领域广泛应用，将极大提高公共服务精准化水平，全面提升人民生活品质”。但是，这项技术的发展也会产生冲击法律与社会伦理、侵犯个人隐私、引入新的安全风险等问题。
为最大程度降低人工智能带来的安全风险，应从管理和技术两方面采取一系列应对措施。在管理上展开立法研究、标准制定、监管体系建设，加强对人工智能技术和产品的监管。在技术上，推动大数据时代用户隐私和数据保护技术的研究、提高人工智能技术和产品的内生安全性设计水平、对智能产品和技术应用可能带来的威胁风险进行从监测到应急处置等全安全要素的监控，提高风险控制与处置能力。
我们相信唯有正视问题的存在，在发展技术的同时，重视可能存在的安全风险，在政府层面约束规范，进行良性引导，在技术层面最大程度地规避风险，才能确保人工智能技术在我国安全、可靠、可控地发展。
（原载于《保密工作》2018年第4期）