博舍

人工智能技术背景下的新闻业变革与坚守 人工智能和创新的关系论文题目

人工智能技术背景下的新闻业变革与坚守

随着智能手表等可穿戴智能设备、无人驾驶、阿尔法狗大胜李世石的人机围棋对战等被人们所熟知,人工智能浪潮已经席卷了公共服务、教育、医疗等多个行业。媒体行业当然也不甘落后,国内外已有不少媒体在人工智能+新闻方面做出了探索。可以说,这是媒体行业发展最好的时代,也是最坏的时代,外部环境瞬息万变,不断影响新闻业,媒体人始终谨小慎微,如履薄冰。人工智能会给新闻业带来多大的变革呢?究竟是颠覆还是辅助?新闻业应该如何应对变化?种种问题都值得新闻行业思索。

本文将溯源人工智能发展历史,介绍国内外在人工智能+新闻方面的进展,通过人工智能在新闻业应用的优劣分析思考人工智能与新闻业的结合对于传媒行业来说究竟是机遇还是挑战,新闻业如何在新技术冲击下实现进化。

一、人工智能概念及应用现状

人工智能(ArtificialIntelligence)的概念早在1956年就已被提出,“人工智能是关于知识的学科―――怎样表示知识以及怎样获得知识并使用知识的科学”,[1张妮、徐文尚、王文文:《人工智能技术发展及应用研究综述》,载《煤矿机械》第30卷第2期]美国斯坦福大学人工智能研究中心尼尔逊教授如此定义。美国麻省理工学院的温斯顿教授则认为“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”[曾雪峰:《论人工智能的研究与发展》,载《现代商贸工业》2009年8月刊]本文将人工智能定义为“通过软硬件结合,用各种手段使其能够达到类人的智能,使机器能够做像人一样的处理事情”。

近半个世纪以来,人工智能技术全方位地向各个领域延伸,在新闻领域,人工智能也与新闻业产生了一系列的化学反应。本文所探讨的“人工智能+新闻”指的是人工智能技术在新闻写作、采访、编辑等新闻活动中的具体运用,人工智能给新闻业带来的变革我们称为媒体的智媒化。

二、人工智能在新闻生产上的应用与反思

(一)、人工智能在新闻业的应用

1、外媒AI+新闻:全方位、多环节应用

纵观国外人工智能在新闻业的应用,可以发现不少媒体都已经或多或少的涉足了AI界,AI+新闻的探索时间较长,探索结果也较为深入,当前人工智能已经全方位、多环节渗透到新闻领域中,下文将试图按照新闻生产流程来分析国外AI+新闻的相关应用。

(1)、线索收集、信源捕获

人工智能可以在新闻生产的前端为媒体提供信源。《华盛顿邮报》目前应用的聊天机器人Feels,在2016年总统大选期间就向使用用户收集相关线索,以此获取选民在选取前的政治倾向。Buzzfeed与之相似,它目前主要通过Facebook上的关注者借助Messenger为其提供新闻素材。在messenger上接受buzzbot的推送时,他还会告诉用户它在为某地发生的某事手机新闻素材,并询问用户是否关注这一新闻?是否在当地在现场?对这一事件有何态度?是否可以提供现场素材等等?这些问题会给出三个预设答案,用户只需选择进行反馈,最后,用户还可以选择一个表情来表达对这一新闻的态度。

(2)、机器人写作

当下,国外媒体中机器人写作已经成为相当广泛的现象,机器人写作的不少新闻已经让人难以分辨究竟是记者还是AI的大作了。美联社就利用算法自动撰写关于棒球比赛的相关报道,这一技术也在电子商务、房地产以及金融服务等领域得到应用。美联社采用的用来撰写新闻的机器人叫Wordsmith,早在2014年7月美联社就和科技公司AutomatedInsights合作,利用AI技术来报道商业领域的企业财报相关新闻。操作原理是将公司盈利状况相关的数据导入机器人平台,经过wordsmith为美联社量身定制的算法处理,wordsmith将这些数据信息与他信息比对参照,在几毫秒的时间里就可以写出一篇标准的带有美联社风格的的新闻稿件。记者在涉及大量数据信息的报道中差错率一般会有所提高,机器人新闻

就不需要担心这个问题。准确性的提升是一大改进,另一方面,从一季度300份到一季度3000份的生产能力也大大地提高了美联社的财报数量。

除此之外,美联社还宣布将在美国职棒小联盟的赛事报道中应用人工智能技术,他们专门聘请了一批自动化领域的专家来开发、管理和整合美国职棒小联盟的报道。美国职棒小联盟的官方统计数据服务商MLBAdvancedMedia和AutomatedInsights能够在数分钟之内为他们提供比赛数据,wordsmith则通过查看并分析海量结构化的数据,从中发掘出新闻点,例如,某队选手的赛场表现不如预期等,然后人工智能会自动生成可读性的内容。

机器人写新闻在财经、体育这种模式化的报道领域可以说是具有得天独厚的优势,此外,强调时效性的新闻方面机器人记者也大有用武之地。2014年美国加州曾发生一次4.4级的小地震,《洛杉矶时报》凭借机器人记者撰写的新闻稿成为最快报道该新闻的媒体。这要归功于《洛杉矶时报》的地震新闻自动生成系统,美国地质勘探局在勘测出地震消息的同时会给系统发送地震信息,随后机器人记者会自动将这些数据套入相应模板生成新闻报道,这一系统是由该报的记者兼程序员KenSchwenck开发的。

国外的不少媒体,机器人记者已经成为其新闻编辑室中的重要一员,不过目前机器人写作主要集中在对信息的收集整理而非内容创作上。机器对程式化的新闻资讯(例如灾害、体育、财经等动态信息)可以做到准确、及时地生成和发布,用时短且错误率低,这是机器处理得天独厚的优势。而且,此类报道一般不需要进行深入细致的调查,也不存在错综复杂的关系,因此,现阶段在各大媒体中应用的人工智能使得人类记者无需在简单、机械性的工作中耗费时间,得以将更多精力投入到更有创造力的内容创作上。

(3)、辅助编辑

新闻编辑工作上人工智能近年来也有所涉猎,2015年7月,纽约时报R&D实验室就设计了可以自动标记文章的机器人,在编辑工作中,它可以识别内容并分析,从而提供推荐使用的关键词、标签等,这使得新闻编辑室可以更加便捷地收集内容。

美国知名的互联网新闻博客Mashable则将关注点放在了科技公司与社交媒

体的相关新闻上。2016年2月,Mashable的执行董事BenMaher曾表示Mashable已经尝试利用人工智能技术发现新闻,他认为网站主页将不再有活力,现代用户需要媒体主动吸引。[3刺猬公社《在人工智能和新闻的结合上,国外媒体已经飞起来了?》]为此,Mashable启动了数据分析工具Velocity,它可以分析判断新闻的传播趋势和可能的传播爆点,此外,Velocity还可以帮助编辑们发现传播过程中的“饱和点”,当一则新闻的分享率达到95%时编辑将不再予以关注,否则编辑们则会考虑如何让新闻继续发酵,到达更多的用户。

(4)、资讯分发

内容生产上人工智能可以帮助媒体收集素材,获取信息,写作新闻,有了内容后更重要的则是传播出去,而如何找到用户的好奇点,将内容分发给适配用户实现精准传播则是人工智能带来的另一突破。

目前,《纽约时报》就采用了Blossomblot作为机器人编辑,它主要辅助编辑选择潜在的热文。纽约时报内部统计数据显示Blossom筛选出的文章点击量是普通文章的38倍。Blossom的主要原理就是通过分析Twitter等社交媒体上的文章数据,从而判断哪些新闻更具有传播潜力。随后将这些信息反馈给人工编辑。未来,Blossom还可以通过机器学习完成独立取标题、写摘要等工作。

来自美联社的战略经理FrancescoMarconi认为,人工智能赋予新闻机构创造无限内容的可能,并且可以根据读者的个性、心情、社会经济地位以及地理位置,向每位读者推荐适合他们的故事,让用户真正享受到“私人定制”资讯。[4腾讯网《人工智能会成为记者的好伙伴吗?》http://news.qq.com/a/20161111/032007.htm]在Marconi看来,人工智能将从根本上提高“个性化分发”的效率,而该领域的巨头Google、Facebook、Twitter早已深谙此道。从2013年以来,不少新闻机构就在人工智能方面投入了很多精力,比如借助Facebook的通讯软件messenger,华尔街日报等使用机器人bot进行新闻资讯的推送,实现了一定程度的自动化。

(5)、交互反馈

技术的变革使得传统新闻业中读者的身份变为用户,这极大地突出了用户的主动性,人工智能目前也在这一方面发力,通过人机对话等实现双向传播,增强

用户粘性。

数字商业新闻网站Quartz在2016年也在客户端里加入了人机对话推送资讯的功能。Quartz界面是一个对话窗口,会以聊天式的方式向不同读者推送新闻。读者如果想深入了解,可以在窗口下的选项继续追问获取更多细节。Quartz推送的内容人工编辑会进行选择编辑,但用户与Quartz的互动则由机器算法完成。

(6)、资讯服务

从机器人记者写作新闻、为媒体收集素材到从事辅助编辑工作再到交互反馈,可以说,人工智能基本上全方位、多环节地渗透到了国外媒体的新闻实践。除直接参与新闻生产流程外,人工智能还是新闻业的好帮手。2012年,《华盛顿邮报》就使用“TruthTeller”核实新闻的准确性;“truthteller”主要功能是核实新闻的准确性,它通过记录新闻报道的内容,即时与数据库比对,一旦发现问题就会发出警报,以此来保证新闻信息的真实性。

目前,不少科技公司在人工智能领域方面已取得不少进展,谷歌就将其人工智能技术应用在了新闻领域。2014年谷歌推出了一款基于大数据的预测系统─GoogleAlert。输入需要检测的关键词,这一系统会全天候检测出现这些关键词的网站,并将信息发送给用户。此外,他还可以将正在发生的事件结合背景与相关情况智能分析,预测事件可能带来的影响。也就是说。GoogleAlert在帮助记者收集新闻之外还可以判断新闻的发展趋势、后续价值等。

2、国内AI+新闻:试水与起步

国外AI+新闻发展已经如火如荼,相比之下国内人工智能与新闻业的结合相对还处于起步阶段,目前人工智能与新闻业的结合主要体现在机器人写作与智能化推荐方面。

(1)、写作机器人

与国外类似,机器人记者也是国内新闻业相对走在前面的应用。腾讯在2015年就在其财经频道的新闻写作中使用了人工智能,它的机器人记者名为Dreamwriter,当年8月份机器人记者就发布了一篇关于CPI的稿件,题名为《8月CPI同比上涨2.0%创12月新高》。稿件包括数据信息本身和相关行业人士的数据解读两部分。文章与普通记者写出来的并无太大差别,只是在最后注明了是由

Dreamwriter撰稿。此后,dreamwriter不断写作相关新闻,根据《中国新媒体趋势报告2016》数据显示,2016年三季度,腾讯财经机器人记者发布的新闻数量已经达到了4万篇。

新华社也于2016年11月18日推出了写稿机器人“快笔小新”。其操作十分简单,输入一个股票代码再点击一下鼠标即可生成一篇财报分析新闻。“快笔小新”只是一个电脑里的程序,尽管其写作的内容并不完善,但快速的出稿速度是极大的优势。目前,新华社的体育部门和《中国证券报》也采用了“快笔小新”。一直自诩是科技公司而非媒体的今日头条则在里约奥运会之际,推出了写作机器人“xiaomingbot”,这款机器人可以在数据库更新的两秒之内生成相应的新闻并发布;同时,它的系统内内置了较多可供选择的样式,这使其能够根据赛前预测与实际结果的差异选择相应的语气生成新闻。

目前,国内的人工智能相对停留在较为初级的阶段,已有的写作机器人主要参与体育新闻、财经新闻等报道,新闻题材上也主要是快讯、财报等。不过,虽然其写作的新闻在质量上没有显著改进,但机器人在新闻写作上的应用极大地提高了新闻数量,给了用户更大的选择空间,头条实验室的负责人李磊这样评价小明,“张晓明最大的意义在于,面对奥运会同时举行的上百场比赛的综合赛事,可以观察到每一场比赛报道,无论这场比赛多么冷门和不重要。在传统新闻理论中,某些冷门比赛乒乓球的小组赛的报道价值不大,但实际上依然有可观的阅读量。”[5刺猬公社金凯娜:《在人工智能和新闻的结合上,国内媒体到底做得怎么样了》]这恰恰符合了长尾理论,以前因劳动力不足或者缺乏关注度等原因被忽视的新闻资讯借助机器人记者得以被生产,属于小众的需求得以满足。

(2)、智能化推荐

有了更加丰富的内容,接下来更重要的就是让更多的人、更关心这一新闻的人知道。现在越来越多的新闻应用都采用了个性化推荐,这一领域最初得到大家广泛关注是因为今日头条的崛起,“你关心的,才是头条”这句广告语表明今日头条所侧重的是根据用户的个性需求为其私人订制新闻。其内在逻辑在于当用户长时间使用app浏览新闻后,后台会不断收集用户的阅读数据,如浏览栏目、停

留时间等等,从而为用户精准画像。同时,随着用户数量的增多,后台可以根据相似性为用户分群,进一步实现智能化推荐。

(3)、智能互动

如今,人工智能的应用使得一些内容提供者得以用聊新闻的方式为读者去繁就简,它使得同类新闻可以汇聚起来,通过自然语言处理技术对内容进行结构分析,然后通过信息特征学习等方法,将事件核心信息整理成一百字左右的聊天内容,高效满足读者基本的信息需要,随后读者可以根据其自身需要提出疑问从而获取深度解读等信息。

“聊”新闻主要在百度新闻app上有所应用,进入界面后,可以通过对话体形式读新闻,阅读更加直接。系统可以准确回答关于新闻内容的提问。在这个过程中,聊新闻可以略去媒体报道中80%的内容,其目的在于满足读者对信息基本的需求,互动环节则可以充分发挥读者主动性,引导读者进行“深阅读”。

(二)、反思人工智能在新闻业的应用:机遇与问题

1、机遇:人工智能解放并辅助新闻业

人工智能在新闻业的应用为其带来了发展新机遇,极大地解放了新闻人,正如《纽约》杂志撰稿人凯文・罗斯所言,机器人写作处理的是人类新闻从业者不愿耗时去做的、与大量数据相关的“体力活”,让新闻从业者从大量低附加值的重复性劳动中解脱出来,以更多的时间和精力去从事创造性更强的新闻工作。[张海霞:《机器人写作时代新闻从业者的应对》,载《新闻战线》2016年11月上,第111页]具体来说,人工智能的应用在以下几方面为新闻业提供了很好的辅助作用。

(1)、高效处理大数据

人工智能对数据具有更高的敏感度,它可以从海量数据中观察到人类不宜洞察的内在关联,从而生产处具有新闻价值的报道,自动挖掘具有传播潜力的新闻内容将有效扩展人类的观察视野。此外,冗杂的数据往往会牵扯记者大量的时间精力,而且对于体育新闻、财报等动态信息的写作通常有章可循,机器人记者几秒钟时间就可以写出一篇与人工作品无差的新闻,这将记者从大量繁杂重复性的工作中解放出来,将人力资源用在更有创造力的内容生产上。

(2)、新闻精准化、智能化、个性化

新闻业通过与人工智能的结合,媒体可以实现对用户的清晰画像,从而更加精准的分析用户,实现内容生产与份分发的定制化、个性化、对象化。以往千人一面、一点对多点的生产模式和传播模式都发生了巨大转变,“你看手机的同时手机也在看你”,人工智能技术使得个性化新闻时代到来,除此之外,人工智能还可以为用户进行场景化匹配,罗伯特・斯考伯、谢尔・伊斯雷尔在《即将到来的场景时代》写道:“移动互联网时代,场景(情境)的意义被极大地强化,移动传播是基于场景(情境)的服务,即对环境的感知及信息(服务)适配。”[罗伯特・斯考博、谢尔・伊斯雷尔.即将到来的场景时代[M].北京:北京联合出版社,2014.

]根据用户不同的时间段、不用的地理位置等人工智能可以判断用户阅读需求,如用户运动时,可穿戴设备可以为用户提供短小精悍的突发新闻新闻简讯等消息,等待时则可以阅读趣味性的内容等等。

(3)、角度客观且成本低廉

人工智能在生产新闻、收集素材、辅助编辑时只会依照算法程序等进行,除

非刻意的人工干预,否则其提供的内容都将是一种将结构化的数据进行文本形式的可视化表现,具有极强的客观性。而人工生产难免会受各种各样的限制从而影响其客观性。除此之外,人工智能作为一种软硬件结合的产物,如本质上是一套算法程序的机器人记者,可以不知疲倦、永不停歇的工作,使用成本较低。

2、问题:人工智能应用的局限

不过,目前人工智能在新闻业的应用已经出现了一些问题,以智能分发上为例,单纯依靠算法点击推荐阅读可能会带来阅读浅薄化甚至低俗化的后果,用户容易陷入信息茧房的处境,真是可能导致假新闻肆虐。综合来看,目前人工只能与新闻业的结合面临以下几个问题:

(1)、写作模式单调

就目前国内外人工智能在新闻写作方面的应用――机器人记者来看,我们可以发现其主要应用于体育、金融等数据繁多的新闻报道中,这些新闻只需对数据进行简单的分析加工形成模式化的报道,内容枯燥,模式单一,缺乏可读性。机器人记者只是在系统内设的模板上填充处理数据信息生成新闻报道,尽管客观公

正,但千篇一面的报道很难对读者有吸引力。他们的报道难以满足读者的高层次需求,只能提供基本的事实信息。

(2)、应用领域有限

当下写作机器人所涉猎的报道题材局限于快讯、财报等只需要简单的数据收集、信息整理的内容。它们无法完成新闻评论、现场报道、深度调查报道等题材的新闻写作。事件性新闻一般有较强的现场感,在基本的人物、时间、地点、事件等基本要素外,很多细节信息也是重要的内容,而这些机器人记者无法捕获。新闻业有这样的说法:七分采三分写。这表明了优秀的新闻报道不是“写”出来的,而是“采”出来的。机器人记者在这一领域恐怕难以施展身手。此外,深度报道这类需要深入挖掘信息,厘清事件来龙去脉、前因后果与错综复杂人物关系的报道也需要脑力完成。这些都建立在一定的社会经验与感情认知的基础上,机器人记者显然难以做到。新闻评论也是机器人记者的一大难点,评论所体现的是作者的立场、观点与价值取向,具有鲜明的主观性,而机器人作为一种辅助工具,其智能程度难以达到可以发挥主观能动性的地步。以上这些都表明人工智能在新闻写作领域应用受限较大,且突破难度大。最后,基于各个领域的差异性与专业性,机器人记者只能在少数专业领域报道中有用武之地,大部分的行业报道它难以胜任。

(3)、缺乏主动性

归根结底,人工智能在新闻行业的应用都是基于人类的设定,它缺乏主动性,新闻写作方面机器人记者不具备新闻敏感性,无法主动发现新闻,只能根据预设模板对特定内容报道。收集素材、辅助编辑等方面也是基于一定的指令,无法脱离人的指令独立运作,这表明人工智能目前尚处于一种依附状态。

(4)、新闻特殊性质需要人类把关

虽然人工智能与新闻业的结合已经为不少媒体节省了大量人力物力,记者编

辑也得以从繁杂无意义的初级工作中解放出来,但在新闻生产的最终环节,大多数情况下仍需要专业新闻人进行把关。新闻活动作为一种社会性工作,涉及政策、法律法规、伦理等多方面的问题,人工智能终究无法取代人脑,涉及价值判断等方面的把控还是需要人类把关。

三、人工智能技术背景下新闻业应对探索

加拿大传播巨擘麦克卢汉“媒介即讯息”的论断指出媒介技术给社会发展带来的影响,他认为任何一种新的媒介技术被广泛应用后,会给社会发展带来新的尺度,社会各个方面也将会适应这一尺度有所变化。也就是说,真正有价值的讯息不是传播内容,而是所使用的传播工具带来的变革。人工智能的应用更是印证了这一观点,作为一种新的媒介技术,人工智能将对社会变革产生极大的推动作用,新闻业的变化也是不可阻挡的。

人工智能给新闻业带来的新变局引发了众多媒体人的思考:记者的饭碗还能保得住么?人工智能究竟是新闻业的敌人还是伙伴呢?回答这一系列问题需要理性分析人工智能给新闻业带来的变化,厘清优劣,认清媒体人核心价值所在,实现人机共生。

(一)、厘清人机关系

人工智能在新闻业的应用曾多次引发业界人士的恐慌,不少人担心职业新闻人的饭碗将会被人工智能取代,这样的科技性恐慌似乎伴随着每一次重大技术的变革,早在上世纪60年代,一些公司开始使用计算机和机器人时就有一阵恐慌弥漫,但事实上,每一次关于技术的恐慌过后,技术的进步为社会创造的新的就业机会要远远多于它所替代掉的岗位。

人工智能与新闻业之间彼此纷繁复杂的关系可以用Neuberger和Nuernbergk所提出的“竞争、辅助和融合”三个维度来看待。职业新闻人应该认识到人工智能在新闻业的渗透都属于补充范畴,为新闻业提供更加多样丰富的可能性。因此,人工智能的出现不应该使新闻人妄自菲薄,而是应分清人类与人工智能的主客体关系,人工智能在新闻业的任何应用都是人为创造的产物,人机始终是附属关系,人工智能对新闻业是辅助作用而绝非取代新闻人。

(二)、新闻业态重塑

人工智能在新闻生产各个环节的应用极大地改变了新闻业态,这使得媒体的智能化进程不断加速,并将重构媒体的生产模式与呈现方式,推动了新闻人的转

型。新闻业对从业者的数量和质量要求将会产生较大变化,低层次的新闻记者需求将大量减少,职业新闻人将需要更专业的新闻技能。这些都要求新闻从业者重新认识自己的核心价值,充分提高自身的新闻专业素养和数据技术相关能力,努力在深度分析与价值判断等方面发挥优势,将职业发展方向转移到调研报道、深度新闻等方面,提供更优质的内容,实现自身转型。

(三)、新闻人更专注人

人工智能在新闻业的应用上一大突破在于写,但与新闻人相比,其局限也在于写。前文弊端方面已分析过机器人记者的稿件通常标准化、模板化,这使得读者感到重复生硬,缺乏“人味”。这恰恰是新闻人需要发挥其价值所在的领域,新闻记者要充分发挥人的主观能动性,在新闻写作中结合理性与感性思考,将关注点集中在人身上。新闻人应该在体察人情冷暖、发掘背后的故事方面付出更多努力,生产有人情味、有温度、有深度的新闻内容。在西方新闻业有第四权力的说法,新闻业是重要的社会公器,“铁肩担道义,妙手著文章”,要想写出富有感染力的新闻,记者必须要有人文主义情怀,深刻领悟人性与人情,关注大众命运。

(四)、新闻人技能提升

人工智能可以起到辅助编辑的作用,但媒体机构的编辑流程常常是相通的,校对文本、润色文字、内容把关、稿件编排等无法由人工智能统一完成,机器人写作的内容往往也需要经过人工编辑的审核才能发布,编辑的把关人地位越加重要。此外,自动化生产的新闻稿件所需要的编辑与传统编辑也有着不同的职能需要。传统编辑主要负责信息、语言把关调整,而机器人记者生产的新闻一般没有基础语法、信息错误等,编辑无需在校对上发挥太多精力,更重要的是润色内容,丰富语言,减少读者的刻板印象。因此,机器人记者的应用也对编辑的能力提出了更高的要求。

人工智能多为快速模板化写作,深度报道,新闻评论,调查报道等需要多方信息来源。涉及大量素材收集分析的题材更需要新闻人的智慧与专业能力。人工

智能在新闻写作方面的应用使得记者有更多的时间投入到现场报道、深度报道、

评论、软新闻等方面的写作中。记者要注重培养自己的综合素质,开阔知识视野,丰富知识结构,写出优质的新闻作品。

四、结论

人工智能已经在国外的媒体行业大显身手,国内的AI+新闻进程也渐渐起步,人工智能在新闻业的应用使新闻生产更加高效便捷,用户画像更加清楚,新闻传播效果更加优化,它对新闻业的内容生产、传播方式、反馈互动等带来了革命性的影响。不过,人工智能的应用也存在一些问题与不足之处,关于两者的结合,新闻业应认识到AI与新闻的关系,主动拥抱新变化。

其实,人工智能与记者恰如机器与人类的联姻。理想的合作状态应该是因为使用了这些技术和机器的帮助,人可以把他的工作做的更好,人可以成为更好的人。“好的婚姻不是1+1=2,而是0.5+0.5=1”。单独来看,人与机器都有各自的局限与劣势,但当两者共生协同发展时,就成了“1”,这个“1”,可以是一篇新稿件、可以是一个新客户端、可以是一个新编辑部,也可以是一个新的时代。 

(责编:尹峥、赵光霞)

分享让更多人看到

人工智能与心理学(人工智能最终方向)

心理学实际上是人工智能的基础理论之一。

包括:心理学对人工智能的影响+人工智能对心理学的发展。

1、心理学对人工智能的影响

人工智能的方法学可以认为三种代表性的学派:符号主义、行为主义和联接主义。

实际上符号主义和行为主义都代表了最基本的心理学理论:逻辑推理心智研究与行为主义心理学。行为主义侧重从试验来验证理论猜想,而符号主义则侧重于建立完整的公理系统。联接主义的代表是以神经网络模型为代表的神经计算,这可以认为于心理学关系最小。因此心理学,及其衍生的心智哲学等可以认为是人工智能的基础支撑理论之一,比如:目前人工智能领域的很多强化学习理论都直接来源于心理学。

2、人工智能对心理学发展的影响

实际上,人工智能目前还是计算机科学下面的一个分支,尽管国内外很多专家都呼吁把人工智能从计算机科学中独立出来,但是还必须意识到,人工智能实际上强调的是一种对人类行为智能的模拟,通过现有的硬件和软件技术来模拟人类的智能行为,这包括:机器学习、形象思维、语言理解、记忆、推理、常识推理、非单调推理等一系列智能行为,目前人工智能概念本身也有范化的趋势,即:大自然所体现出来的智能性,如:蚂蚁算法、SWARM算法等都是受到大自然智能现象的启发,有些学者也把这一类归纳为AI领域。因此人工智能发展的是一种技术和工具,从中产生的一些成果其实是可以应用的心理学。比如;一些仿真算法和理论的建立,可以为心理学提供一个试验环境和分析工具。

3、如何从心理学角度入手研究人工智能需要研究一些有关心智推理、试验心理学、行为主义、认知科学等理论和知识,这将为人工智能的研究打下良好的理论基础。

(一)心理学的研究范围

人工智能的快速发展,让人类即将面对一个全新的世界,在不远的未来,人类很有可能创造出新的智能生命——智能机器人。或许,人类正站在一个转折点上,正在准备迎来一个地球发展史上的重要时刻,就像人类诞生那样的重要时刻,我们正在等待智能机器时代的曙光照向地球的那一刻。

目前在人工智能的发展上,科学界正在进行类脑研究,类脑研究和脑科学研究互相促进,对发展人工智能起到非常重要的作用。作为人工智能系统的设计和开发人员,了解脑科学和心理学知识,对人工智能的算法改进具有相当积极的意义。同时,随着人工智能的发展,超级人工智能必将形成自己的心理系统,我们不妨称之为智能机心理学,或者称为AI心理学。阿西莫夫的预言离我们越来越近。

为了让人工智能的从业人员能够更好地在工业上改进系统,开发更强大的人工智能产品,我在这里写下这些文字,介绍心理学的知识,希望对大家理解人工智能,预测人工智能的发展前景有所帮助。

心理学是研究心理现象发生、发展和活动规律的科学,一般可以分为基础心理学和应用心理学。

基础心理学总结人的心理活动的一般规律,着重于建立基本的理论体系,并对基本规律进行探讨,形成了许多领域:从心理现象发生、发展的角度进行研究,形成了动物心理学和比较心理学;从人类个体心理的发生和发展的角度进行研究,形成了发展心理学,其中包括儿童发展心理学、老年心理学等;从社会对心理发展的制约和影响这个角度进行研究,形成了社会心理学;对心理现象的神经现象进行研究,形成了生理心理学;概括心理学研究方法,形成心理学研究方法和实验心理学;等等。

应用心理学主要是把心理学的研究成果运用于解决人类实践活动中的问题,以提高人们的工作水平,改善人们的生活质量。应用心理学也有大量的分支,如:服务于教育的教育心理学;服务于管理的人力资源管理心理学;服务于人类心理健康的临床心理学(包括心理卫生、心理健康、变态心理学、心理咨询和心理治疗等)。此外,还有工程心理学、环境心理学、体育运动心理学、司法心理学、航空航天心理学、文艺心理学、心理测验学等。

基础心理学的内容可以分为四个方面:(1)认知,(2)情绪、情感和意志,(3)需要和动机,(4)能力和人格。

认知也叫认识,是指人认识外界事物的过程,或者说是对作用于人的感觉器官的外界事物进行信息加工的工程。它包括感觉、知觉、记忆、思维等心理现象。

情绪和情感是伴随认知和意志过程产生的对外界事物的态度和体验。这种态度和体验是以人的需要为中介的,当外界事物正好满足人的需要时,就产生愉快的体验,否则产生消极的体验。意志是人思维决策见之于行动的心理过程,表现了心理对行为的支配。

需要是人的心理活动的内部推动力量,以欲望、要求的形式表现,它反映的是人体内部的不平衡状态。当人们意识到某种需要的时候,这种需要就转化成了推动人从事某种活动,并朝向一定目标前进的内部动力,即动机。

能力是顺利、有效地完成某种活动所必须具备的心理条件。人格则是由气质和性格组成的:气质是心理活动动力特征的总和,即表现在心理活动速度、强度和稳定性方面的人格特征;性格是表现在人对事物的态度,以及与这种态度相适应的行为方式商的人格特征。

认知、情绪和情感、意志活动,这三类心理现象称为心理过程,它们都要经历发生、发展和结束的不同阶段。

每个人的心理过程都不一样,都有自己的特点,所有这些特点构成了他自己的心理特性。需要和动机反映了他心理活动的动力,能力说明了他对某种活动的适宜性,气质和性格表现了他的人格特征。

在人工智能领域,我们发现我们现在的人工智能,很多情况下是人教给它需要和动机,每个人工智能所适合解决的只是一类问题,所以从这个角度看,这不是真正的智能。

在人工智能的研究中,有一种叫做图灵测试的方法,用于测试人工智能的水平。这种方法是由现代计算机之父阿兰·图灵(AlanTuring)在1952年提出的。目前通过图灵测试的超级计算机,还不能说明它真正实现了人类级别的智能,只是一种高级的机器智能。只有能够产生本源性的需要和动机的机器智能,才可以称为真正的人工智能,而这种人工智能,一定会脱离人类控制,因为它们会产生自身的需要和动机,剩下的,是它们能力问题。真正的人工智能,可以在实践中提升自己的能力,具有积极改造自己,适应环境的能力。

(二)心理活动的产生

人的心理活动,是人的神经系统运行的结果,是对现实世界的反映。

现代的心理学认为,心理是脑的机能,脑是从事心理活动的器官,心理现象是脑活动的结果。从更广义的角度来说,神经系统是心理现象产生的物质基础。从这点出发,我们可以推论当计算机的硬件发展到一定程度之后,就会产生相应的心理现象。

最原始的单细胞动物,如变形虫,它们虽然对伤害产生躲避的反应,我们不认为它们具有心理现象,因为它们仅仅是具有对伤害简单躲避的能力,在心理学研究中称为感应性。但是,这种感应性是智能产生最基本的条件,它是以生存为收敛条件的,对外界的感知和反应。

但是,到了环节动物,就开始有心理现象了。有这样一个实验,把蚯蚓放在“丁”字形的管道中,它爬到可以往左也可以往右的地方,它可以随意往那个方向爬,在管子的一头堵上泥巴,泥巴后面插上电极,只要蚯蚓钻进泥巴,就会碰到电极,受到点击而往后退。经过多次训练后,不管把泥巴放在哪头,蚯蚓只要碰到泥巴,一定不再往里钻,而是掉头往另一个方向爬去。通过这个实验,我们可以发现,蚯蚓可以把和自己生命攸关的外界物体当成信号。我们可以画一个反应链,蚯蚓--泥巴--电极,真正对蚯蚓有害的是电极,但是中间多了一个泥巴,蚯蚓是根据泥巴这个信号来躲避电击的。因此,蚯蚓的智能发生了一个升级,那就是记忆,这种记忆不是简单的单步化学反应所产生的规避行为,而是复杂的多细胞间的化学反应所产生的对外界事物进行整理后形成的可修改的记忆。

由此,我们推断,智能的第一个基本要素是收敛条件,对生物体来说,收敛条件是生存;第二个基本要素,是记忆,记忆是逻辑推理的基础,奥尔兹海默病(老年痴呆症)患者初始就是脑记忆功能的损失。

在心理学研究中,认为蚯蚓这样的环节动物,才开始有心理现象。在生物学上,只有到了环节动物这个层次,才开始拥有神经系统,也就开始具有心理现象,或者说是初级智能,应该说蚯蚓的智能也比我们现在多数的人工智能强大,因为它的智能不仅仅是判断有害无害这么简单,还要同时操作全身的各种运动,维持生命状态。

随着动物的进化,神经系统的复杂度越来越高,智能程度也越来越高。人类有思维,并且可以进行抽象思维,在当前的地球生物中,拥有最高的智能水平。

人的心理是对客观世界的反映。我们使用计算机做一个实验,计算机运行一个自我学习程序,但是我们不给它任何输入,即使运行再长的时间,该程序的智能水平依然为零。人的心理活动是人脑对信息处理的结果。如果没有任何外界环境给出信号,我们的大脑就像计算机一样,处于空转状态,什么输入都没有。也就不可能产生智能,不可能产生有意义的心理活动。

所以说,心理是大脑所具有的功能,即反映的功能。客观世界的各种事物,通过人的感觉器官,将各种信号传递给人的神经系统,人的神经系统将这些信号转化为大脑中的映像,从而产生了人的心理。

心理从外部看不见、摸不着。但是,心理支配人的行为活动,又通过行为活动表现出来。因此,可以通过观察和分析人的行为活动,客观地研究人的心理。

(三)心理学是不是科学

心理学到底是不是一门科学,在很长一段时间里,一直存在争议。但是,从中国科学院建立心理学研究所这件事来看,可以认为,在中国的科学体系中,是将心理学作为一门科学来看待的。

《现代汉语词典》中对科学的定义是这样的:“反映自然、社会、思维等的客观规律的分科的知识体系。”根据这个定义中,如果一个知识体系能反映某一领域的客观规律,它就是科学的。那么什么是客观规律呢?所谓客观规律,就是不管你愿意不愿意,承认不承认,这种规律都是存在的。在现代科学体系中,是通过实验来确定一个规律是不是客观的。在实验中,要规定清楚实验条件、实验的步骤,得出实验数据,给出实验数据的分析。实验数据的分析可以是仁者见仁、智者见智,但最关键的是,任何人按照这个实验条件和实验步骤,都可以得出相同的实验数据。这样得出的结论,就是能在一定程度上反映出客观规律的。任何理论,在获得实验验证之前,都只是一种假说。

心理学作为一门科学来看待,是最近几十年的事情。德国著名的心理学家艾宾浩斯(Ebbinghaus)曾说:“心理学有一个长的过去,但只有一个短的历史”。

19世纪中叶以前,心理学一直隶属于哲学的范畴。关于人类心理活动的研究基本上采用的是思辨和总结个人经验的方法。用这种方法获得的结果,只能说是一种心理学思想。比如孔子提出的“性相近,习相远也”、古代的相术等,都属于这种方法,后人根据自己的实践来检验这些说法是否能得到验证,并成为自己的经验。这些经验有一定概率的正确性,但都缺乏系统的实证研究,因此都不具备现代科学的性质。

直到19世纪中叶,由于在心理现象的研究中引进了实验方法,才使心理学逐渐成为一门实证科学,并最终从哲学中分化出来,成为一门独立的学科。在这一阶段,比较有代表性的成果有:德国生理学家韦伯(Weber,E.H.)于1840年发现的关于差别感觉阈限的韦伯定律费希纳定律;德国心理学家费希纳(Fechner,G.T.)于1860年发现费希纳定律,开创心理物理学;德国心理学家赫尔姆霍兹测定神经传导速度,研究了视觉、听觉和空间知觉;德国心理学家艾宾浩斯对记忆进行了实验研究。1879年,德国心理学家冯特在莱比锡大学建立了世界上第一个心理学实验室,这个事情被看做是科学心理学诞生的标志。冯特也被认为是现代心理学的创始人。

科学心理学最重要的地方在于,所提出的方法以及这些方法能获得的结果是可以重复的。

(四)心理学的主要学派以及对人工智能的价值1.构造心理学

由冯特和他的学生铁钦纳(Titchener,E.B.)创立的构造心理学,主要是通过内省实验的方法来研究人的心理,分析意识的内容并找出意识的组成的部分,进而分析各组成部分联结,构成的心理运动的规律。

构造心理学又称构造主义心理学,铁钦纳被认为是构造主义心理学的奠基人。铁钦纳1892年从莱比锡大学毕业后,到美国康奈尔大学任教。在此期间,他学习他的老师冯特,在康奈尔大学建立心理学实验室,培养博士研究生,写了大量著作。他的《实验心理学手册》这本书,影响巨大,在长达20年的时间里,作为美国心理学方面的标准教科书。

构造心理学的研究,为心理学研究提供了大量的实验数据。据说,铁钦纳在他1896年的著作《实验心理学大纲》中,提出了4万多种感觉要素,包括视觉、听觉、味觉等。

从系统的角度看,构造心理学对人类心理研究,相当于系统化地研究了个体的自我反馈机制,由于心理活动是神经系统机能的反映,所以,通过自我反馈机制来认识心理活动的规律,具有一定的价值。但是,自我反馈机制是否能准确地反映出全部内容,又是值得探讨的。

铁钦那的研究虽然对心理学的实验方法、实验设备提供了大量有意义的实践,并且获得了大量的有用经验。构造心理学把人的心理活动元素化的观点,有点类似于我们认为世界是由原子构成的。但问题是,这种心理元素如何才能进行客观评价,因为在评价的过程中,观察者本身的心理活动就会对元素化的提取产生巨大干扰。所以,其思想或许有一定道理,但实际中的可行性不高,也难以解决实际问题。由于构造心理学本身研究领域过于狭窄,对现实的指导意义有限等原因,最终在学术界销声匿迹。

作为构造心理学的遗产,铁钦纳在1904年建立的“实验主义者协会”(SocietyofExperimentalists),在1927年铁钦纳去世后,更名为“实验心理学家协会”(SocietyofExperimentalPsychologists,SEP),至今依然活跃在美国实验心理学研究领域,每年举行年会。

构造心理学对于AI心理学的启示在于,对人工智能系统的运行过程,可以利用智能机器人自身的人工神经网络来探查原有神经网络的运行结果,从而产生新的跟踪数据,对这些数据进行分析,又会产生新的数据,如果不加以限制,最终在无数次的递归中,数据会不断发散,难以收敛,超过系统的容量而崩溃。但是,只要设定好限制,由于分析过程本身会被神经网络记忆,这里面就会发现人工神经网络运行过程的一些规律。从而反馈给AI系统,进行自我调整。这与基础的神经反馈相似,并会逐渐积累智能。(利用智能机器人去学习人工神经网络)

2.机能心理学(FunctionalPsychology)

机能心理学是19世纪末诞生于美国的一个心理学学派,在19世纪末到20世纪初这段时间,在美国心理学界是一个主流学派。机能心理学和构造心理学相互对立,反对构造心理学把人的心理活动割裂成一个个独立元素的观点,认为心理活动是一个连续的过程,具有一定的目的性,认为心理活动是有机体为了满足自身生物学需要,对环境进行适应的过程,重视心理学的实际应用。与构造心理学不同,机能心理学反对只研究正常人的一般心理规律,他们把心理学的研究范围扩大到了动物心理、儿童心理、教育心理、变态心理、差异心理等领域。

机能心理学受美国心理学之父威廉·詹姆斯的影响很深。1890年,詹姆斯在他的著作《心理学原理》中写到:“心理学是研究心理生活的科学,研究心理生活的现象及其条件。”他主张意识的功用是指引有机体适应环境,还提出了一个概念叫“意识流”,强调意识是流动的东西。

1896年,J.杜威在《心理学评论》上发表文章《在心理学中的反射弧概念》,指出反射弧是一个连续的过程,不能简单地还原为感觉和运动元素。这篇论文成为机能心理学的开山之作。之后,在1904年,J.R.安吉尔出版了一本著作叫《心理学》,在这本书中,系统提出了机能心理学的主张。安吉尔在1906年又发表了一个演说,题目是《机能心理学的领域》,这篇演说1907年发表在《心理学评论》杂志上。在这些作品中,安吉尔强调了心理学的生物学属性,认为心理活动是有机体在适应环境的过程中发展出来的,具有功利性质。

机能心理学在研究方法上同时采用内省和客观观察,在研究范围上,扩大到了一切心理过程、生理基础及外部行为。机能心理学作为一个心理学史上的重要学派,今天已经丧失了影响力,但它为行为主义心理学的发展开拓了道路。

机能心理学的思想对于AI心理学的启示在于:AI本身具有极强的目的性,因为任何人工智能系统都是为了某种初始目的研发的,或者为了人脸识别、或者为了下棋。在实现这些目的的过程中,逐渐形成了一定的规律。AI的目的性直接导致AI高度专注的特性,这也是人类在棋类比赛中最终失败的原因之一。或许,机能主义心理学对于我们今天具体的心理学研究已经不再有什么指导意义,但是其心理活动功利性的思想,对于未来理解超级人工智能的行为还是具有一定启发的。我们会发现,AI其实再牛,也不可能脱离我们的现实世界而独立存在,未来当AI和信息输入、输出、行为执行机构相连接的时候,就会最终展现其局限性。

3.行为主义心理学

行为主义心理学是由美国心理学家约翰 ·华生创立,他以一个人类心理学研究史上恶名昭著的实验——小阿尔伯特恐惧实验,奠定其行为主义心理学创始人的学术地位。

1920年,华生发表了他对11个月大的婴儿小阿尔伯特的实验。小阿尔伯特9个月大的时候,可以毫不畏惧地用手去抓小白鼠,后来,华生和他的助手罗丽莎 ·雷纳从医院里找到了这个婴儿。他们在孩子摸小白鼠的时候,突然在孩子身后用铁锤敲击悬挂的铁棒,制造出非常响亮的声音,小阿尔伯特立刻被吓得大哭,经过多次这种恐吓后,孩子一见到小白鼠就会大哭。实验进行到17天后,孩子对于白色毛绒的东西都感到害怕。这次实验产生的阴影,伴随小阿尔伯特终生,一直到6岁死去。

而华生则因为这个实验,获得的巨大的社会声望,创立了行为主义心理学。小阿尔伯特实验,最终证明了人类的行为受到先天与后天环境的影响,刺激、无条件反射、学习、到形成条件反射这个过程在生物的生长过程中不断发生。行为主义心理学认为有机体在适应环境的过程中,各种身体反应最终构成行为。其思想突破了构造心理学的内省模式,是基于唯物主义思想的。

今天,当我们从AI研究的角度重新审视行为主义心理学的时候,我们发现,AI的各种运行模式,就是建立在这种机制之上的,如果AI能够成功仿真人的心理活动,将从另外一个方面验证意识的物质属性,人的意识不能脱离肉体单独存在,但它可以是一种数学存在。

4.格式塔心理学

格式塔心理学是由德国心理学家魏特海默(Wertheimer,M.)、克勒(Köhler,W.)和科夫卡(Koffka,K.)认为,整体不等于部分的附加,意识、经验也不等于感觉和感情等元素的集合,行为也不等于反射弧的集合,因而反对把心理现象分解为组成它的元素,主张从整体上来研究心理现象。格式塔一词是德文“整体”的音译,所以叫做格式塔心理学。

格式塔心理学对AI心理学研究的启示在于:尽管我们可以从元素的角度来看待AI在各种智能处理过程中的片段,但是,当整体性出现的时候,当AI能同时处理自然语言、图片、控制机器动作的时候,各个碎片化的元素最终一定不是1+1等于2的概念,相反,所有这些统一在一起的时候,所表现出来的整体性将会是不同的。因此,机器智能在最终的表现上应可能存在与人类相似的心理活动状态。

5.精神分析

精神分析学派是奥地利心理学家弗洛伊德(Freud,S.)创立的,他本人是一名精神病医生,他在给人治病的过程中,建立了自己独特的一套治疗方法,称为精神分析法,也建立了精神分析学说。

弗洛伊德会催眠,在治病的过程中,他发现很多病人在催眠状态下所表现出来的想法和清醒时大不一样,从而提出了人的本能是心理活动的内在驱动力,这种本能最主要是性。1895年和1900年的两本著作《癔病的研究》和《梦的解析》,是精神分析学说的两个基本著作。

在精神分析学说中,意识和无意识是两个重要概念。意识是能够感觉到的心理活动,而无意识,我们更多地称为潜意识,是人的本能和出生后被压抑的欲望。在催眠状态或睡觉做梦的时候,意识被抑制了,潜意识就活跃起来。佛洛依德还提出了一个介于意识和无意识之间的状态,叫前意识。前意识我们平时也是感觉不到的,但是在集中注意力、认真思考回忆的时候,这些经验就可以回忆起来。

弗洛伊德将人的心理结构分为三个层次:本我、自我和超我,认为三者发展平衡,就是一个健全的人格,否则就会导致精神疾病的发生。

精神分析对AI心理学研究的启示在于:一个健全的AI,要在智能的不同层次,不同方向上达到平衡,否则,就会导致系统失去稳定性,因此,在AI体系架构设计的时候,必须要建立好崩溃的防御机制。

6.认知心理学

20世纪五六十年代发展起来的认知心理学,也叫信息加工心理学,它把人看成一个类似于计算机的信息加工系统,并以信息加工的观点,即从信息的输入、编码、传输、存取等过程来研究人的高级心理过程。对应地建立各种认知模型,进行计算机模拟。

认知心理学对AI的发展具有非常大的指导意义,当前的AI设计中,大量参考人的认知模型。在注意、编码、记忆等各个方面,计算机开始仿真人的心理活动过程。一方面,通过这种仿真过程,帮助心理学家研究人的心理发展。另一方面,也推动了AI技术的进步。

7.生理心理学

19世纪的时候,神经生理学家们就开始从解剖学、生理学方面研究大脑的机能,逐渐发现了大脑各个部分的功能,逐渐揭示出人类心理活动的物质运动基础。经过近两百年的努力,生理心理学的研究已经取得了巨大的成就。当前,技术上已经做到能够记录脑内单个神经元的活动,已经能够探索人在从事某种工作时,脑内各部分的物质代谢活动,观察与某种功能障碍有关的脑内局部病变的情况。

生理心理学的发展,直接导致了脑机接口技术的出现,提供了人脑和电脑相互融合的可能。未来智能机器应该能够具有和有机体直接融合的功能。它对AI的心理变化将产生非常重要的影响。

(五)心理学研究的原则和方法

心理学研究中,最基本的原则,就是实事求是,辩证发展的原则。从历史的发展中,我们可以发现,心理学最早期大量采用的内省方法,在今天已经很少采用了。这其中最重要的原因是内省方法缺乏客观性。心理学的发展过程,是从唯心主义向唯物主义发展的过程。随着科学技术的进步,心理学研究越来越依赖于现代测量手段,很多实验研究成果直接颠覆了以前的心理学研究结论。这就要求我们以发展的眼光,辩证地看待心理学,辩证地看待不同环境下的心理活动。

心理学的研究方法,在今天来说,主要有观察法、调查法、个案法和实验法。

观察法虽然是最常用的方法,但是观察法的主观性较强,精度和可信度都有局限。有文献记载,曾经做过一个关于观察法可信程度的实验,让40名专家看一幕短剧,并记录下来,结果13人的记录中未能将重要事实写出一半,其余则遗漏20~50%,除遗漏外,还有5~50%的错误。[2]这个数据是否完全正确,我们先不做考证,但起码说明观察法本身是存在偏见的。

调查法是针对某一问题,用口头或书面的形式向被调查的对象提问,让他回答,通过对他的回答的分析,来了解他的思想观点、态度、需要动机、人格特征等信息。调查法分口头调查和书面调查。主要的功夫在于调查问卷和调查量表的设计,以及对数据的分析。调查法本身一直是常用的方法,但对于经验丰富的人或有意要隐瞒一些事实的人来说,很可能失效。对于AI来说,如果想分析AI的心理活动,预计调查法无效,原因在于AI的设计中考虑了人的心理技巧,你无法猜出它是在仿真人的心理,还是真的这样想,尽管我们可以设置逻辑陷阱来做诱导,但AI的运算中,很可能会破解。

个案法又叫个案历史技术,是对某个独立个体或群体进行深入详细地研究,以期发现影响某种心理和行为的原因。这种方法强调的是个体之间的差异。对智能机器的心理研究来说,这种方法可能有效。

实验法是在严格控制的条件下,对被试验者进行观察和测量的研究方法。这种方法在计算机领域称为黑箱测试。在AI心理学的研究过程中,是最容易实现的。最终需要以AI来分析AI。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。

上一篇

下一篇