博舍

人工智能及其在安全保密领域的应用 人工智能战胜韩国选手

人工智能及其在安全保密领域的应用

从阿尔法狗说起

2016年或许可以被称作普通大众了解人工智能(ArtificialIntelligence,AI)的元年。

2016年3月,谷歌公司DeepMind团队携人工智能围棋程序阿尔法狗横空出世,以4:1击败韩国棋手李世石,进而化身围棋大师在互联网上设下擂台,横扫中日韩众多围棋顶尖选手,无一败绩。2017年5月,阿尔法狗在中国乌镇以3:0战胜中国围棋世界冠军柯洁,赢得了人机大战终极对决。就在全世界围观群众震惊,并好奇这条据说靠人工智能学习了人类所有高手棋谱之后,修炼进阶成绝顶高手的阿尔法狗会不会感到空虚、寂寞、冷的时候,谷歌DeepMind团队再次祭出阿尔法狗的升级版阿尔法元,这个角色更狠,通过左右手互搏对弈,自学自悟勘破围棋无上法门,最终以100:0的绝对优势战胜阿尔法狗。

围棋人机大战事件始于2016年3月。借用围棋术语,这次事件3月布局,年底中盘,转年5月以击败人类最后一个挑战者完美收官。最后在10月份,迎来了整个事件的真正高潮:阿尔法元以一种颠覆性的方式,推翻了人类围棋的经验大厦,人类在围棋领域输得心服口服,最后演变成对人工智能新技术的无比震惊。

借助互联网时代的信息传播,围棋人机大战成为吸引眼球的科技事件之一。从此,人工智能成为搜索中最热的词汇,AI像一股旋风横扫学术界、科技界、新闻界、娱乐业直至普通大众。

人工智能的前世今生

其实,2016年并不是人工智能的开始,计算机也不是第一次在棋类这种智力游戏中战胜人类。

人工智能,依据维基百科的解释是指由人制造出来的机器所表现出来的智能。通常人工智能指通过普通电脑实现的智能,同时也指研究这样的智能系统是否能够实现、以及如何实现的科学领域。AI的核心问题包括推理、知识、规划、学习、交流、感知、移动和操作物体的能力等。

AI的概念来自1956年达特茅斯会议。与会者是最早从事人工智能研究的一批科学家。他们的观点是“学习或者智能的任何其他特性的每一个方面都应能被精确地加以描述,使得机器可以对其进行模拟”。因此,人类可以通过研究实现ArtificialIntelligence。从此AI成为本研究领域的统一名称,这次会议也被认为是AI诞生的标志事件。同一时期,计算机科学家图灵提出了人工智能经典测试(亦称图灵测试):如果一台机器能够与人类展开对话而不能被辨别出其机器身份,那么称这台机器具有智能。

人工智能概念的提出以及任务的确立催生了该领域几次研究的热潮,从20世纪50年代到90年代,出现了以数理逻辑、搜索式推理、自然语言理解、专家系统、仿生机械运动、神经网络等技术为核心的几次研究高潮,这些技术的进步带动了该领域的发展。但是,以往的人工智能主要在学术和科学领域范围内进行讨论,离普通人很远。由于缺乏落地的应用,加之计算和存储能力有限对算法的制约,都没有形成广泛的社会影响力。

目前的人工智能热潮以深度学习技术为推动,大数据和高速计算两项技术给深度学习插上了翅膀,涌现出大量应用。加之互联网时代信息的快速传播,这次人工智能兴起的影响力远远超过以前。众多大胆的预言家都在讨论,人工智能将带来继工业革命、信息革命之后的第三次人类社会的深刻变革。

人工智能离人类智能还相距很远

在人工智能概念迅速传播的时候,人们充分发挥自己的想象,各种脑洞大开的言论层出不穷。比如,“人工智能将来会统治人类,奇点就要到来,人类面临永生或者灭绝的命运审判”等等。其实目前的人工智能还远远不是人类的智能。

以阿尔法狗为例,其胜利其实是DeepMind团队,以算法驱动计算能力的胜利。在这里算法是关键,计算能力是手段,本质属于人类智力的延伸。人类从计算能力来讲,一败于算盘,二败于计算器,三败于计算机,人类早就一败再败。就像速度跑不过汽车火车,力气比不过发动机,人的计算能力被机器超越并无本质不同,应该说这是人类智慧的伟大胜利。就是下棋这种智力游戏,早在1997年,IBM超级计算机“深蓝”就战胜了国际象棋世界冠军卡斯帕罗夫。这次阿尔法狗的胜利,恐怕谈不上划时代,只是人类不断追求进步的里程碑。谷歌董事长施密特就说无论人机大战的最终结果是什么,赢家都是人类。因为与其说李世石输给阿尔法狗,不如说他输给了谷歌的科学家团队。

DeepMind把围棋的胜负问题,转化为数学模型的最优解求解过程。围棋的19×19的棋盘成为样本存在空间,不同的布局走子作为可能存在的向量样本,利用人工神经网络,深度学习算法,监督学习和增强学习,从人类棋谱开始训练,直到最后脱离人的经验,完全在空间内探索所有样本可能并评估求解,最终成就了围棋上帝阿尔法元的诞生。阿尔法狗还是以人类经验为指导学习的,而阿尔法元已经脱离人类经验,完全凭借强大的运算能力探索围棋世界里人类从未涉及的未知情形和走法,进而完成了对人类在某一特定领域几千年智慧和经验的超越。这是算法设计的重大进步,一方面,说明人类能够探索和感知范围的局限性;另一方面,也指明人类可以借助算法和计算把人类的探索感知空间大大拓展,从而带来人类认识客观世界的再一次飞跃。

尽管如此,阿拉法狗系列也有其自身的局限性,本质还是人类设计好的完成特定任务的工具。没有思维能力,也不会思考。从这个意义上讲,这样优秀的人工智能产品其实和真正的人类智能还有很遥远的距离。这一程序只是个围棋工具,或者说数学工具,只会在围棋空间里计算,它甚至不会意识到自己在下围棋,唯一做的就是计算求解。这和在计算器中输入1+1然后输出等于2从思维角度来看没有本质不同。如果没有科学家团队的介入,这个程序永远不会获得举一反三、触类旁通的能力。这是一个数学工具,这是算法和计算技术的胜利。

而真正的人类智能除了感知、计算、处理这些技术层面的问题外,还包括自我意识、情感、欲望、情绪之类的生物特征,更别说道德、责任感之类的社会属性。人类对于人类智能核心大脑的研究,还处于起步阶段。所以尽管人工智能已经被舆论炒作成热词,但是现阶段真实的人工智能都是面向特定领域的专用人工智能技术,这些突破性的进展,都属于单点突破或在局部智能水平的单项测试中超越人类智能。但是距离人类智能、机器模拟人类进行思考还相差很远。因此,中国科学院谭铁牛院士说,当前的人工智能系统“有智能没智慧、有智商没情商、会计算不会‘算计’”。

人工智能时代即将来临

人工智能虽然不像有些人脑洞大开想象得那么夸张,但是人工智能确实是人类面临的一次重大技术变革甚至革命。人工智能时代的到来将开创更高程度的人类社会和科技文明。

人工智能可以解决人类生产、生活、工作、学习各个环节确定性高、重复性强、规则明晰但复杂烦琐、精准度和实时性要求高的各种各样的任务。目前,人类社会面临一些共性的巨大挑战,比如能源、交通、医疗、环境、气象等都有可能通过人工智能来加以解决。以阿尔法狗为例,DeepMind发表声明,他们正在利用类似的技术发现创造性的新方法管理散热,从而降低大规模工业系统能源消耗,这将有可能解决全球环境保护和资源高效利用问题。同时谷歌人工智能团队也在积极参与医院的研究合作,探索在医疗领域应用人工智能技术取得重大突破,进而造福人类。

在我们普通人的身边,具备一定智能的软件硬件也会像雨后春笋一样大量涌现。其实,现在很多App背后都有人工智能技术的影子。以GooglePhotos为例,现在最新的功能是根据用户相册的内容,自动制作DV,这样的视频短片对个人而言不但贴心而且具有相当水准。很快,家庭机器人、个人智能助理这些有形或无形的人工智能产品,会逐渐走进人们的生活。未来,人和机器会在各种场景中和谐相处,人工智能会带来人类社会又一次文明和科技的飞跃。

安全保密领域人工智能的应用

安全保密领域,以深度学习为基础的人工智能也大有可为,值得期待。

一是以人脸识别为代表的基于生物特征的身份认证技术。目前人脸识别技术已经进入实用阶段,智能系统对人脸的识别准确率已经超越人眼。机器通过对大量样本的反复学习和深度训练,可以掌握人类面部的细微特征,识别精度远远高于人类。有些人眼很难判断的情形,比如双胞胎的识别,判别对象不同灯光拍摄效果以及服饰发型的改变,这些都逃不过人工智能明察秋毫的特征鉴别能力。这项技术对于智能安防、海量监测视频事件回溯、涉密人员户籍化管理、保密要害部门部位准入、访客管理等具有重要意义和价值。

二是基于大数据的窃密监测与保密防护。面对互联网的海量数据,大数据技术提供了存储和处理机制,加之人工智能技术的应用,完全可以在网络空间形成以人工智能为核心的保密代理程序。这个虚拟的智能保密工作者通过模式训练和学习,熟悉保密工作的基本要素,掌握窃密行为的关键特征,可以7×24小时有效鉴别海量网络用户、数据和行为的异常,做到对涉密信息、涉密用户在网络空间的有效监管与防护。

三是专家系统智能辅助定密和密级鉴定。定密和密级鉴定一向是保密领域的热点和难点问题。某一领域的专业信息是否关系国家安全和利益、涉及国家秘密的判断,既需要对保密管理和相关政策的深刻理解和熟练把握,又需要对该技术领域从整体到细节有行业专家级别的认知。因此,能够准确进行定密和密级鉴定的人员是行业专家和保密管理干部的双重角色,这样的人才少之又少。但是,这项极具挑战性的工作恰恰是机器学习技术的擅长领域。在某一专业范围内,只要把已有的涉密资料文档作为标注数据集对系统的人工神经网络进行训练,并不断反馈校正,最终,系统可以成为该领域的定密专家,对给出的文字、图像、视频材料进行辅助定密判决,当然最终的审核还要人工介入。需要指出的是,计算机在处理定密问题的时候,其实并不真实理解语义内容,现阶段人工智能这样的缺点却带来了保密领域实实在在的好处——不用担心定密人工智能专家系统泄密。

人工智能时代即将来临,这是大势所趋。一切简单重复或烦琐但规则明晰的工作都将被机器所代替。与其担心在机器的竞争面前失去工作被替代,不如顺应时代,寻找新的机遇。面对人工智能,被打败的不是人类,而是人群中因循守旧故步自封的人。这已经被历次技术变革的经验一再证明。

接纳人工智能,人与机器和谐相处,人类社会和人类文明都将进入一个崭新的时代。(《保密工作》2018年第4期)

不敌韩国围棋人工智能,战胜过AlphaGo的人退役了

0分享至

机器之能以下文章来源于机器之心,作者Synced

退役赛的最后一局,李世石回到了自己的家乡。对战之地距离李世石的出生地飞禽岛40多公里,他曾在飞禽岛度过了他的童年时光,也是在这里决定成为职业围棋选手。撰文|蛋酱、张倩、李泽南12月21日,全罗道新安郡曾岛EIdorado度假村,李世石在第181手投子认输。这是与Handol退役赛对战的最后一局,前两局,李世石一胜一负。最后一盘棋,还是惜败于AI。12岁入段,36岁正式退役,24年揽获14项国际项冠军和32项国内冠军,从此以后,「李世石九段」不会再以职业棋手的身份出现在众人面前。最后一战,他还是选择了AI

11月19日,李世石向韩国棋院正式递交辞呈,宣告了自己24年职业围棋生涯的结束。在接受韩联社采访时,他表示自己之所以选择退役,是因为「AI不可战胜」:「在围棋AI出现以后,我发觉即使自己成为第一名,也永远需要面对一个不可战胜的实体。」李世石曾经的对手,曾经「绝代双骄」的另一人——中国围棋职业选手古力九段在得知这一消息之后,在社交平台上公开表示:「此刻只想给他一个大大的拥抱。」

图源:新浪微博@古力当很多人都以为李世石的最后一战会选择与古力对决时,李世石却选了韩国围棋AI「Handol」,理由是担心「最后和他下棋的人会有负担」。这是他自从2016年负于AlphaGo之后,再一次对战围棋AI,也是人类棋手第一次与AI下升降三番棋。一直以来,人们都认为顶尖人类棋手与AI之间的差距在二子到三子之间,但由于从来没有进行过正式比赛的对局,所以真正差距无从得知。李世石提到,自己最终选择下升降棋,也是想确认人类和人工智能之间的差距到底有多少。在对战Handol之前,李世石说自己已经有大概5个月的时间没有参加过比赛,也几乎没有进行过围棋训练。北京时间12月18日12时,李世石与Handol开始第一局对弈。李世石执黑被让两子,按7目半还子。前半盘黑棋先拿到右上角实地,胜率一直保持在80%以上。随后白棋开始反击,直到第78手之前,胜率一直处于上升阶段。转折点出现在李世石的第78手(值得一提的是,李世石当年对战AlphaGo获胜的唯一一局,胜负手同样是第78手)。黑棋吃掉白棋棋筋,加之Handol在第84手征子失误,只得在第92手时投子认输。

第78手,李世石再现「神之一手」。这场比赛仅用两小时就分出了胜负,在100手以内即告结束。尽管李世石表示赛前曾连续练习了十天的被让两子棋,「几乎醒着的时候都在练棋」,但他也表示未能料到自己会在与AI的对决中获胜。

第一局的最终棋局。12月19日,第二局。由于李世石在第一局比赛中获胜,第二局Handol不再让子,李世石仍然执黑先行。这一局,李世石在第31手出现误判,而后白棋的胜率预测一直保持在90%以上,到了第40手以后,胜负已经基本明朗。

第31手。

第二局的最终棋局。最终李世石在第122步认输。这一局时长3小时20分钟,至此,李世石与Handol1:1战平,而剩下的最后一局尤为关键。人类再次在围棋「人机大战」中取得了一场胜利。谷歌DeepMind资深研究员、ALphaGo主要程序开发者黄士杰曾在看完前两盘对决之后表示,如果再有两年的算法更新和优化,AlphaGoMaster将会是最强的棋手。但AI要做到万无一失,仍需要解决bug问题。

12月21日,最后一局的赛场转移到了李世石的家乡全罗道新安郡。这一场李世石依然受两子执黑挑战AI,黑棋贴目7目半。人类与AI在棋盘右下角展开激战。在最后一局中,Handol解除了大部分限制,在每一步上花费了更多「思考」时间。AI执白在右下角存活之后,逐渐将胜率从20%扳至五五开,李世石的思考时间则逐渐用尽。

弈至111手,李世石胜率降到57.5%。图源:新浪棋牌微博。下午2时50分左右,李世石进入读秒,此时白棋已在右侧和左上成活,李世石试图通过打劫寻找AI的破绽。但李世石的努力并没有扭转颓势,在弈至159手时,AI判断李世石的胜率降到5%。

弈至159手,李世石胜率降到5%。图源:新浪棋牌微博。最终,在行至181手时,李世石投子认负。这是三局之中最漫长的一局,双方对弈超过四小时。

第三局最终棋局。赛后,李世石在接受采访时表示:「这场比赛中,Handol的表现与前几场类似,如果自己能够再谨慎一点,或许比赛的结果会有所不同。」对于退役后的工作,李世石还没有做出选择。棋坛再无「李世石九段」李世石的退役消息来得突然,但也算早有苗头。今年3月份,李世石在「三一运动一百周年纪念对局」中败于柯洁之后,即透露过自身想要「在一年之内」退役的想法。除了没有信心战胜AI,李世石的退役似乎也和自己与韩国棋院之间的矛盾分不开。在韩国棋院的24年中,李世石曾提交过休职申请,也强行退出过棋士会,特立独行的处事方式与其在棋盘上的风格如出一辙。李世石1983年出生在距离全罗南道新安郡的飞禽岛,爱好围棋的父亲是李世石的第一任导师。6岁开始接触围棋的李世石是兄弟姐妹中年龄最小的一个,但也是天赋最高的一个。9岁时,因大哥李相勋成功入段,父亲终于也下定决心将李世石送到有「韩国围棋山脉」之称的首尔权甲龙围棋道场学棋。

图源:https://imgur.com/a/dHz3V3年零6个月后,年仅12岁的李世石成功入段,从此在韩国棋院开始了职业围棋生涯。24年来,李世石已经获得了14个国际比赛冠军,32次国内比赛冠军,皆仅次于李昌镐,高居历史第二。2000年,当时的「李世石三段」在巴斯卡杯天元战和倍达王战中击败柳才馨九段和刘昌赫九段,连获两个冠军,成为围棋史上成就最高的「三段」选手。但他却拒绝参加升段赛,声称「段位并不能体现实力」。为此,韩国棋界不得不废除了升段赛,改以成绩定段位。2001年,李世石在获得第五届LG杯世界棋王赛亚军后升至七段,2003年获LG世界棋王战冠军,直升九段。李世石的围棋生涯中曾有一次「妥协」的退役风波,2009年6月,李世石曾向韩国棋院提交过休职书,称因「韩国棋院对棋手不合理的约束」而身心疲惫,计划从当日起休职到2010年底。半年后,李世石复职,但桀骜不驯的性格并未改变。2016年,李世石又与哥哥李相勋一起,因韩国棋院「克扣奖金」的原因退出了棋士会。唯一打败过AlphaGo的人类尽管在围棋上已经登峰造极,真正让李世石名声大噪的还是与AlphaGo的「人机大战」。李世石在2016年3月与AlphaGo的一番激战,被认为是人工智能历史上的一次里程碑事件——虽然李世石以1:4的比分落败,但在比赛的第四局,李世石的惊天翻盘却让他成为了迄今为止唯一一个战胜过AlphaGo的棋手。他在第78手出人预料的一挤,让AlphaGo后续的反应出现失常,彻底改变了战局——这与此次在第一局中战胜Handol的场面何其相似。李世石面对AlphaGo的那一次胜利,曾经为人类战胜人工智能带来了一线希望,但后来李世石将胜利归功于AlphaGo程序的缺陷。「我的第78手并不应该用直接的方式应对。」当然,这样的bug不止存在于AlphaGo。李世石曾说:「在腾讯『绝艺』中,这样的bug至今仍然会出现。即使现在的绝艺已经可以做到让人类两子胜利了,但它仍然会以奇怪的方式输掉比赛,这是因为一个bug所致。」在前三场比赛输给AlphaGo之后,他曾感到相当沮丧。「我很少看网上对我的评论,但是输给了阿尔法狗以后,我很好奇大家怎么看我。意外的是,很少有人批评我。」人类真的永远不会再战胜AI?这一次对战Handol,李世石赚了2亿韩元(约合121万元人民币),包括1亿5000万韩元的基本出场费,每胜一局额外获得5000万韩元的奖金。自从2016年AlphaGo大战李世石之后,围棋AI即被推上风口浪尖。基于近年以来深度学习和强化学习的发展,AlphaGo和各类围棋AI的不断升级,人们一度认为,人类再不可能战胜AI。Handol是韩国NHN娱乐公司推出的一款围棋AI,用以训练的数据来自1999年以来NHN公司在游戏业务方面的大量积累。与AlphaGo的进化路线相似,2017年12月,Handol1.0出世,当时已拥有人类职业棋手9段棋力,可以实现在人类棋谱及既定模式的基础上对棋局进行预测,到了Handol2.0已经能够脱离棋谱,自己与自己下棋。在NHN看来,Handol2.1的实力已经超越了当初对战李世石的AlphaGo。2019年1月,Handol连续战胜了申旻埈九段、李东勋九段、金智硕九段、朴正焕九段和申真瑞九段五位韩国顶级围棋选手,8月在山东举行的「中信证券杯」世界智能围棋公开赛中,Handol也捧回了季军奖杯。在「Handol」首局落败之后,NHN公司人工智能项目的负责人李昌律推测称,「输掉这一局的原因kennel在于「Handol」总体学习量尚且不足,缺少对开局让两子和让三子等棋局的学习」。

图源:https://pulsenews.co.kr/view.php?sc=30800024&year=2019&no=1065937据「Handol」研发团队估算,「Handol」的棋力水平相当于世界围棋中的4500积分,而目前李世石的积分为3414分,柯洁、朴廷桓等人类顶尖棋手的积分接近3700分。在围棋AI领域,棋力最高的选手仍然是DeepMind公司的AlphaGo,它也是第一个击败人类围棋世界冠军的人工智能程序。在2017年柯洁与AlphaGo对战之后,DavidSilver、谷歌大脑负责人JeffDean等人曾在乌镇围棋峰会现场对AlphaGo背后的技术进行过解读。AlphaGo最初主要是依靠大量学习人类棋手的棋谱来提高棋艺,之后进入到完全的自我深度学习阶段,也就是完全摒弃人类棋手的思维方式,按照自己(左右互搏)的方式研究围棋。结合监督学习与强化学习的优势,AlphaGo通过训练形成一个策略网络,将棋盘上的局势作为输入信息,并对有所可行的落子位置形成一个概率分布。然后训练一个价值网络对自我对弈进行预测,以-1(对手的绝对胜利)到1(AlphaGo的绝对胜利)的标准,预测所有可行落子位置的结果。

AlphaGo真正的优势来源于将策略网络和价值网络整合进基于概率的蒙特卡罗树搜索(MCTS)中。在获取棋局信息后,AlphaGo会根据策略网络探索哪个位置同时具备高潜在价值和高可能性,进而决定最佳落子位置。在分配的搜索时间结束时,模拟过程中被系统最繁琐考察的位置将成为AlphaGo的最终选择。经过先期的全盘探索和过程中对最佳落子的不断揣摩,AlphaGo的探索算法就能在其计算能力之上加入近似人类的直觉判断。2016年1月28日,击败李世石的AlphaGo版本登上《Nature》封面,随后在3月即4:1击败李世石,名声大振。和人类不同,AlphaGo没有先入为主的概念,这恰恰也是所有围棋AI的优势所在:尽管有时AI的落子显得违反直觉,但确实是最合理的。乌镇之后,DeepMind宣布AlphaGo从此不会再参与比赛,但在几个月后推出了更强版本的围棋AI「AlphaGoZero」。如果说AlphaGo版本最初还需要观察数千场人类围棋比赛来训练如何学习围棋,AlphaGoZero则直接跳过这一步,从自己完全随机的下围棋开始来学习围棋,几天之内即超越人类棋手的水平,并且以100:0的比分打败了之前战胜世界冠军的AlphaGo。早期的AlphaGo使用「决策网络」选择下一步棋的位置,使用「价值网络」预测每一个位置上决定的胜者。这两个网络在AlphaGoZero中被结合起来,从而使其更高效地训练和评估赛况。并且,AlphaGoZero版本只需4块TPU即可运行。

上个月,DeepMind又推出了名为MuZero的「通用版」AlphaGo,在国际象棋、日本将棋和围棋的精确规划任务中可以匹敌AlphaZero,在围棋中甚至超过了AlphaZero。但与前辈不同的是,MuZero不需要提前获知规则。在围棋AI领域,国内研究机构和企业也在发力,其中最有代表性的要数上文中李世石提到的腾讯围棋AI「绝艺」。「绝艺」诞生于2016年,实力或仅次于AlphaGo。「绝艺」的训练主要包括人类棋谱数据库和机器自对弈,它的算法基于策略网络与价值网络两大核心,并创新性地大幅提升了价值网络的精度,使其大局观表现更好。在2018腾讯世界人工智能围棋大赛中,「绝艺」在决赛中7:0大胜另一款围棋AI「星阵」夺冠,半决赛五番棋和决赛七番棋不失一局,赛后「星阵」研发团队亦称赞「绝艺」已经「达到了AlphaGo的水准」。虽然在围棋的算力上,人类已经难以与机器相比,但棋手们可以通过与AI的对弈不断提升自己的水平,甚至发展出更为先进的战术。据古力此前透露,「绝艺」已经成为中国国家围棋队训练专用AI。参考链接:https://en.yna.co.kr/view/AEN20191218004052315?section=searchhttps://en.yna.co.kr/view/AEN20191219007151315?section=sports/indexhttp://www.hani.co.kr/arti/sports/baduk/921125.htmlhttps://www.nhn.com/ko/pr/pressReleaseDetail.nhnhttps://pulsenews.co.kr/view.php?year=2019&no=1014122本文为机器之心和腾讯科技联合独家首发,未经授权,请勿转载原标题:《1:2不敌韩国围棋人工智能,唯一战胜过AlphaGo的人退役了》

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.

/阅读下一篇/返回网易首页下载网易新闻客户端

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。

上一篇

下一篇