人工智能给新闻生产带来的挑战与机遇
作品链接：
人工智能给新闻生产带来的挑战与机遇
管顺生
摘要：21世纪是人工智能技术大爆发的时期，也是新闻生产融合人工智能技术的关键时期。当前，遥感技术、VR技术、AR技术、算法推荐技术逐渐走进了新闻生产的过程，新闻信息的采集、内容的产生、信息的发布发生了重大的改变，新闻生产业也因此迎来了人工智能时代的一场大变革。人工智能时代，新闻生产将面临生产内容的模式化与去故事化、“把关人”角色的弱化、新闻内容的速食性、“信息茧房”的快速形成、虚假数据的干扰等一系列挑战，但在政府的支持、人工智能技术的发展、“人机共融”大的发展趋势、“技术+内容”成为新的写作模式的机遇下，新闻生产也定会在人工智能时代凤凰涅槃，为人们带来新的新闻传播方式与思考方式。
关键词：人工智能；新闻生产；信息采集
人工智能形成于1956年，由于当时世界技术发展的局限，人工智能在接下来60多年的发展中历经多次起伏，在研究瓶颈和自我突破中艰难发展。
得益于人工智能技术的应用，信息采集的渠道、形式得到拓展，新闻生产以往单一的主体，也逐渐丰富起来。当前的媒体平台会根据新闻内容的不同进行个性化推荐，在此形势下，受众的阅读、思考方式发生了翻天覆地的转变。而此种转变，给新闻生产业带来了新的挑战。
传统的新闻生产过程包含了4个步骤：新闻线索的收集→记者前往新闻现场采访或者联系新闻当事人→撰写新闻稿件或剪辑新闻视频→刊登或者播放。此种新闻模式体现出封闭链态线性的特点，受众无法在新闻生产期间感知信息，并且新闻生产的每一环节均无法参与。新闻机构与新闻从业者把持着新闻生产的全过程，新闻生产是一个在机构中封闭运作的过程。
随着人工智能时代的到来，新的新闻生产传播工具出现，传统的新闻生产模式受到了巨大的冲击。互联网高效、便利的优势打破了新闻信息传播的时空局限，传播形态也开始了多样化发展。在人工智能时代，只要你愿意，你可以从新闻的接受者、传播者变成新闻的发布者，参与新闻的制作，任何地方的网民都可以看到你发布的新闻动态。新闻机构不再有新闻生产的绝对掌控权，新闻的生产与发布也不再以新闻机构为主体，受众的主体地位逐渐显现。
一、人工智能时代新闻生产面临的挑战
（一）新闻生产内容呈现模式化与去故事化
（1）新闻生产内容的模式化。不同于传统的新闻生产方式，人工智能的应用具有准确性、高效性等优势，它能够以数据分析为核心，保证报道的客观度与严谨性。写作期间，机器人能够做到对所需信息的高效化提取，以固定模板为前提，撰写出符合标准的稿件。尽管新闻写作的时间，提高了新闻写作因人工智能技术应用而达到提高效率的目的，但是机器人没有思想，新闻会出现模式化的状况。例如，新华社的机器人“快笔小新”，运行前相关人员会在机器人执行程序中输入固定的新闻模板，而“小新”只能完全按照模板提取与撰写信息，所以新闻稿件内容十分固定、枯燥。对比同类稿件，可发现机器人撰写的稿件存在模式化问题，部分稿件大同小异，稿件撰写缺乏灵活性、丰富性，形成稿件“批量生产”的现象。[1]
（2）新闻生产内容的去故事化。机器人并不具有人类情感，加之机器人无法思考，所以机器人在叙述事件的原委的过程中无法体现出人情味、生活味，新闻稿件的内容就没有人情温度。判断新闻稿件是否优质，关键在于新闻报道是否具备故事性、情感性及叙述性，能否以新闻事件重构价值观。只要缺少上述任何一种要素，都不能评定为优秀稿件。
综上而言，受众能否被新闻稿件吸引，取决于稿件是否有情感与温度。偿若稿件内容过于模式化，内容缺失情感温度，那么稿件的发布、传播效果必然会受到影响。
（二）“把关人”角色在新闻生产过程中被弱化
20世纪40年代，莫特·卢因首次提出“把关人理论”，即信息在群体传播期间会以“门道”为流动载体，而“把关人”则是这些门道的掌控者，主要职能是甄选信息，确保“门道”中流动的信息合乎社会、道德准则。
将其理论与新闻生产融合可以发现，新闻传播中，编辑、记者扮演着“把关人”的角色，他们身上担负着宣传主流价值观、正确树立社会共识的重任。正因记者、编辑岗位承担以上重任，所以传统媒体对新闻从业者有着较高的价值观判断能力及文化素养要求，只有确保从业者具备应有的素质与品质，才能使“把关人”作用最大化。因人工智能技术的融合发展．此时新闻生产中各环节的“把关人”从以往的从业者转变为智能算法，对信息环境的控制会产生一定的影响。
基于算法技术的新闻推送，主要是以受众特定时间段内阅读记录、文章热度以及喜爱新闻种类的计算为基础，甚至会依据受众阅读的时长分析受众喜爱的新闻类型，并为其提供个性化推送服务。人工智能虽能提升数据分析精准性，但是在信息甄选过程中缺乏主观性判断，在新闻稿件的撰写过程中算法并不能融人社会共识、主流价值观。在长时间的发展与演变过程中，新闻媒体已正确掌握受众“应该知道什么”，并以此为前提进行新闻报道的撰写与发布，凸显新闻生产的功能与价值，在新闻传播过程中实现主流价值观的传递。因智能技术与算法技术在新闻生产中的应用，算法成为个性化推送的核心，衡量是否推送信息的标准变为了“受众是否想知道”，算法会依据受众个性、爱好进行信息的推送。
日前新闻生产中算法技术的应用导致“把关人”作用被弱化，新闻信息质量的管控强度逐渐减弱，新闻传播的作用与价值逐渐丧失。
（三）新闻生产内容缺乏深度，智能发布致使信息窄化
1.浅显、形式化的新闻内容。新闻信息以人工智能技术为载体传播，呈现出无重点特点。受众在阅读新闻信息时，通常会相信机器人带来的“事实”，选择相信信息的真实性，但是新闻信息背后隐藏的复杂关系、利益纠纷，人们不愿意过多思考，导致新闻传播丧失多种价值判断，新闻价值无法得到全面体现，这也是当前“速食”新闻在新闻行业占据一席之地的成因。但实际上，新闻记者须扮演事件叙述者、事件观察者、社会价值挖掘者等多个角色，传播高价值、高深度的新闻信息，传递正能量信息，而这些是智能机器人现阶段无法做到的内容。
2.形成“信息茧房”。桑斯坦层提出“个人日报”概念，他认为人工智能技术在新闻生产中得到深入应用的今天，受众的思考、阅读形式逐渐形成“个人日报”状态，受众阅读时问的逐渐延长会使得“信息茧房”形成。例如，受众喜爱娱乐性新闻，智能手机中的相关新闻软件就会在后台分析受众喜爱的新闻类型，并定期为受众推送娱乐性新闻，于是受众的阅读范围只局限于此类新闻。久而久之，受众将接触不到其他类型的新闻，这对受众认知能力的发展会产生一定影响，逐渐形成“信息茧房”。
（四）新闻生产的内容易被虚假数据所困
1．虚假数据泛滥。若新闻撰写以海量数据信息为支撑，就极易在编辑期间形成“数据黑洞”。基于人工智能技术的新闻撰写，会以大数据分析为核心，数据成为稿件质量的决定性因素，撰写期间若出现数据失灵，或者是数据被人为改写等情况，以数据为支撑的新闻稿件就出现失准情况。以算法为依托的新闻生产极易出现数据错误、算法出错的情况，稿件质量无法得到保障。
2．隐私泄露存在风险。在人工智能时代，逐渐生成数据隐私与数据产权矛盾，且智能推送的广泛应用，使立足于受众成为媒体的核心价值选择，而人工智能技术的影响又导致在推送过程中机器占据主导权。目前智能推送技术的应用，尚不能满足人类选择的多样性，倘若在推送期间机器失灵，受众的价值观选择就会被机器主导。在人工智能时代，新闻的数据素材一般以云计算技术为依托，从网络平台中获取数据信息。因此受众无论是使用手机还是登录网站，其聊天记录、浏览记录，购物、照片等信息，均会在程序后台形成大数据。所以，受众在使用智能手机和电脑时，面临着个人隐私泄露的风险。相关统计表明，在访问消费者隐私时，96%的智能手机都会经相关程序询问受众是否同意。而在每日都有海量数据信息产生的今天，新闻信息素材中含有受众信息数据的现象已经变成可能。
二、人工智能时代新闻生产所面临的机遇
在人工智能时代，新闻生产面临的挑战可以说是十分严峻的。面对如此局面，有人认为，新闻生产行业在人工智能时代可能会一蹶不振，被动接受人工智能对此行业的冲击。其实不然，俗话说，“挑战与机遇往往是最好的搭档”，有挑战的地方就会有机遇，本人始终相信这句话也适用于处于人工智能背景下的新闻生产行业，只要把握好机遇，积极应对挑战，新闻生产行业终将在这场21世纪最新的信息变革中拔得头筹[2]。
（一）依托于大数据技术实现用户画像呈现
目前新闻素材的寻找，常运用大数据挖掘技术，如央视与百度联合推出的“据说春运”，就以CPS技术的应用为依托，充分借助大数据挖掘技术直观地呈现春运的相关数据，此种呈现方式无疑能给受众带来新颖的观看体验。媒体常常在海量数据信息中甄选高价值信息。例如，受众在使用微博程序时，若借助平台搜索“癌症”这一关键词，后台就会借助挖掘技术挖掘癌症相关讨论话题，并将相关信息整理成新闻信息推送给用户。目前在财经报道、天气预报、体育比赛等领域中此类应用较为常见，因为这些领域蕴藏着海量的数据信息、需要借助挖掘技术挖掘其中真实客观、高价值的内容，并推送给受众。
通过对过去数据的挖掘、分析，能够预测未来可能发生的事件。在处理过程中，依托聚类分析处理海量数据，再借助文本分析技术提取关键信息内容，形成高价值的新闻专题。同时，针对受众需求可以充分利用数据分析技术深入挖掘，上文介绍的“用户画像”最重要的目的就是以数据分析为前提，深度剖析受众的需求、偏好，以后台为依托，查看受众对相关新闻信息
转发、点击、浏览、评论的情况。一方面，可以依托上述数据，判断新闻信息的影响力，结合对高影响力新闻信息的分析，分解剖析受众关注的要点，为后续高质量新闻稿件的撰写提供参考；另一方面，在后台分析受众的评论，结合对评论话语中高频词应用的挖掘，剖析受众的想法、情绪，掌握受众的喜好等要素，为新闻报道奠定了良好的基础，能够帮助媒体正确引导新闻舆论。但媒体在充分应用数据挖掘技术时，务必重视对媒介伦理问题的抑制。
（二）个性化新闻呈现
当今社会呈现出信息海量增长的趋势，现代受众的阅读需求是获取高价值的信息。当前互联网中虽然存在大量数据信息，但是其中高价值的信息甚少，所以进行受众个性化信息检索的难度较大。以今日头条为例，该APP始终以“你关心的，才是头条”作为宣传语，这使得今日头条成为受众常用的新闻类APP之一。也正因如此，以“用户画像”为基准的新闻个性化推送在新闻APP中得到广泛应用。“用户画像”是指以标签化的形式呈现受众信息，然后利用媒体对受众相关信息，如基本数据、消费数据、行为习惯等数据进行多维度的科学分类，并借助加权计算方式对受众相关信息进行标签化处理．以此构建受众个性化的“用户画像”。大数据背景下，“用户画像”的价值逐渐提升，受众的实际需求以“用户画像”的形式清晰呈现，且“用户画像”与信息服务推荐的针对性之间存在直接关联。新闻媒体在优化受众体验的服务过程中，可以依据对“用户画像”的分析提升受众黏性，保证新闻媒体平台受众的稳定性。以网易、百度等新闻APP为例，目前客户端的发展目标仍以打造个性化新闻为主，并且个性化推荐功能的设置已成为新闻媒体行业发展的必然趋势。
个性化推荐已成为资讯、新闻类客户端提升服务质量、吸引受众的主要手段，其中今日头条利用相关算法对受众进行个性化推荐为行业开创先河。受众在操作客户端时可以自主选择感兴趣的领域，程序后台会依托于算法对受众相关信息进行标签化处理并分类，进而达到满足受众需求、准确分析兴趣的目的。机器人会依据受众信息，生成个性化新闻信息并推送，以满足受众的个性化需求，促使新闻媒体朝着个性化的方向持续发展。
（三）“人人皆媒体”成为现实
近些年来，传感器和数据处理器及VR、AR等人工智能技术不断发展前行。科学家们不断改进与完善现有的人工智能技术，也在不断研发新的人工智能技术，它们为新闻生产过程中信息源的挖掘、监测提供技术支持，同时对受众信息进行实时监测，以便给受众提供有广度、有深度的新闻内容，实现个性化推送。
随着智能手机的快速普及，人们在真正意义上进人了人工智能时代，现代社会已形成了“人人皆媒体”的社会环境，人们可以在QQ、微博、微信、推特等网络社交平台上畅所欲言，相互分享新闻信息。人们已从新闻的受众变成了新闻报道的采写者与传播者。
有了技术的强有力支撑，有了“人人皆媒体”的大的社会环境作为依托，人工智能时代为新闻生产注入了新鲜的血液。
三、“人机共融”成为未来新闻生产的发展趋势
人工智能技术的快速发展促使“人与机器的关系”这样的历史争论重登辩论者舞台，反对者皆言“机器是人类的威胁”，支持者则说“机器是人类的福音”，两派的争论异常激烈。综合历史与实践，我们可以得出结论，机器使人类的生产力得以提高，人们开始从烦琐、冗杂的事物中抽离，可以花更多的时间和精力做更有意义的事情。
直到今天，人机关系争论仍然是人们讨论的热点话题。但立足于机器人仍然没能取代人类成为这个世界主宰的实际情况，更多的人从激烈的两派争斗中走了出来，他们更愿意相信，技术与社会发展能够相互促进，这也为人工智能时代，新闻从业者与机器人的共处找到了一个平衡点。
（一）“人机融合”成为趋势
新闻从业者与人工智能的和谐相处成为新闻生产大的发展趋势，在这一趋势的推动下，新闻生产的生产与发布过程也迎来了新的机遇，新闻生产的主体开始渐渐抽离出烦琐的新闻劳动，同时也“把关”着机器新闻的社会主流价值观，人的主体性在未来将得到彻底的展现。
（二）“技术+内容”成为新的新闻写作模式
哈罗德·伊尼斯曾在《传播的偏见》中提出，在社会文化变迁以及人类组织生产活动开展过程中，媒介起到了至关重要的作用，并且传统媒介对时间维度、空间维度都存在一定的偏向性。而媒介所存在的时空维度偏向性因人工智能技术的应用被打破，依托于人工智能技术的新闻生产囊括多种媒介形式，如文字、图像、音频及视频等。不同媒介形式的融合实现了时空的汇聚。人工智能时代，机器人能独立完成数据的采集、信息的整合、稿件的编辑、推送这整个新闻生产流程，使得“技术+内容”成为人工智能时代全新的新闻写作模式，并被众多媒体企业所采用。
在未来，“技术+内容”会逐渐在世界范围内得到推广和应用，越来越多的媒体行业将会开始选择这种新型的生产方式生产新闻。而整个新闻产业的变化，又何尝不是新闻生产在人工智能时代全面发展的又一机遇。
四、结语
新闻生产中融合应用人工智能技术，在推动新闻媒体行业向个性化、数据化发展的同时，也给真实化、故事化的新闻生产带来了挑战。要想进一步推动新闻媒体产业的发展，须顺应当前人工智能与新闻生产融合的趋势，紧握住人工智能技术融合带来的机遇，积极应对技术融合带来的挑战，促使人工智能技术为新闻生产作出更大的贡献。
参考文献：
[1]高艳阳新闻异化与仪式重塑：基于人工智能技术的新闻生产与分发[J]新闻研究导刊，2018，9(11)：59-60[2]杜洁，张瑶，杨柏松浅析人工智能新闻生产的功能重组与文化构建[J]传媒，2018(19)：94-96（作者系湖南永州市广播电视台主任记者）联系电话：13974613915
机器人可以写新闻了，媒体记者会被取代吗
关于国内机器人新闻写作，在2015年，腾讯财经运用名为Dreamwriter的自动化新闻写作机器人生成财经稿件，Dreamwriter会根据算法瞬时输出分析和研判，一分钟内就可以将重要资讯和解读呈现到用户眼前；南方都市报社写稿机器人“小南”也可以瞬时完成春运报道。
媒体记者会不会被取代？
如果机器人可以写新闻了，记者的饭碗会不会被抢？当然我也不知道。
但目前来看，机器人新闻写作的领域大多集中于天气报道、体育赛事、公司财报、信息汇编等资讯与短消息。《华盛顿邮报》编辑表示，它不太可能取代记者的工作。《华盛顿邮报》可以通过不断训练机器人的写稿能力，来节省人力开支成本，同时确保报道覆盖的内容和领域足够全面。
对于常规的和重复的任务，从原始数据到标准化写作的过程，记者无法与机器人内容的速度和维度相媲美。但从另一角度来看，采用机器人来写稿是为了将记者从单调、重复的工作当中解放出来，更加聚焦于复杂、深入的选题操作。这对于写作从业者来说是好事。
然而，面对来势汹汹的机器人新闻,记者们往往指出，机器生产内容的质量低下或一般，他们强调人类有能力做出精妙细致的陈述。然而“讲故事”往往不是记者作为一种职业最为人称道的技能；客观性、准确性和时效性才是记者们常被赞扬的特征，可是这些特征恰恰是算法的强项。从这个意义上看，也可以理解当前中国传媒业中非虚构写作的喧嚣尘上。
从媒体的社会功能看，新技术与新闻业危机
机器人造成了新闻业危机吗？回归媒体的社会功能
关于新闻业的危机并不新鲜，仅仅就当下而言，除了机器人，10万＋、自媒体、社会化媒体……都在让这个本身动荡的行业产生危机感。况且外力之外，新闻业本身也始终面临着对自身合法性的质疑。
超越机器人写新闻会不会造成记者失业这个问题，以及机器到底会不会取代人，回到新闻本身来看，当下的媒介环境传媒起到了什么样的社会功能依然是面临的重要问题。拉斯维尔在1948年发表的《传播在社会中的结构与功能》中提出传媒的三功能说：环境监测、社会协调、协会遗产传承。而超越功能主义的意识形态，传播与媒体始终对社会整合起到了重要作用。
尽管在不同文化历史中对新闻有着不同理解，无论西方新闻专业主义的客观与中立，还是中国新闻业传统的“文人办报”或者“铁肩担道义，妙手著文章”的追求，但其中都隐含着一种媒体对整个社会的作用，对不同群体、阶层、结构的把握，不同场域中人的理解。机器人新闻的算法限定了数据的结构、报道的主题、常用的模板。而一旦要求创意、批判性思维、理解社会，机器人尚无法胜任。
从这个意义上看，最终机器人究竟有没有造成新闻业危机，可能本身就是有些单一归因的伪命题。机器人带来的各个领域的伦理问题，新闻业本身的困境与危机，可能一直永远无法回避。但对该领域而言，相信基本的人文价值，相信对社会的理解，可能是在科技大浪潮中维持人本身的主体性的方法之一。尽管也可能是无奈之举。
赞赏作者～
▼
本文为北大新媒体原创，转载请注明出处
作者：迟恩
北大新媒体
微信号：beidaxinmeiti
微博：@北大新媒体
长按二维码识别加关注返回搜狐，查看更多
人工智能的伦理挑战与科学应对
【光明青年论坛】
编者按
2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》，呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”。在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战，引发重大的伦理关切。习近平总书记高度关注人工智能等新兴科技的发展，强调要加快提升“人工智能安全等领域的治理能力”，“塑造科技向善的文化理念，让科技更好增进人类福祉”。为此，本版特组织几位青年学者围绕人工智能的伦理挑战与科学应对展开讨论，并邀请专家予以点评，以期引发学界的更多关注，为推动人工智能健康发展贡献智慧。
与谈人
彭家锋 中国人民大学哲学院博士生
虞昊 华东师范大学政治与国际关系学院博士生
邓玉龙 南京师范大学哲学系博士生
主持人
刘永谋 中国人民大学哲学院教授、国家发展与战略研究院研究员
1.机遇与挑战并存的人工智能
主持人：新技术革命方兴未艾，以人工智能等为代表的新兴科技快速发展，大大拓展了时间、空间和人们的认知范围，人类正在进入一个“人机物”相融合的万物智能互联时代。请具体谈谈人工智能给人类社会发展带来什么样的机遇？
彭家锋：人工智能、大数据、物联网、云计算等智能技术蓬勃兴起，对人类社会的方方面面产生深刻影响，推动整个社会逐步迈入智能社会。在此过程中，存在许多重大历史机遇需要我们把握。就技术治理而言，人工智能作为一种治理技术，正在助推社会治理的治理理念、治理方式、治理效能等方面的变革，将传统技术治理提升至智能化新阶段，呈现出“智能治理的综合”趋势。智能治理将全面提升社会公共治理的智能化水平，主要呈现出四个方面的特征：一是治理融合化，即促进各种智能技术与其他治理技术相互融合，大幅度提升智能社会的治理水平；二是治理数据化，即以日益增长的海量数据为基础，通过对数据映射出来的“数字世界”进行社会计算，实现治理目标；三是治理精准化，即发挥智能技术强大的感知能力、传输能力和计算能力，将传统的粗放治理转变为精准治理；四是治理算法化，即不断完善智能决策系统，尝试将程序化的算法决策扩展到更多的决策活动中，从而提高决策质量。
虞昊：人工智能有助于反思人类社会得以建立与发展的基础。随着分析式AI向着生成式AI不断演变，尤其是生成式AI初步展现出判别问题、分析情感、展开对话、创作内容等越来越具有人类特征的功能，原本属于人类的领域正被人工智能以另一套由“0”与“1”构成的计算机语言逐步侵蚀。这既是对人类社会的冲击，也势必会在更加平等的开放性框架中增强人类的主体性，促进人类社会进一步发展。
邓玉龙：总体来说，以人工智能为代表的新科技发展，显著提升了社会生产力。例如，生成式AI不但能完成传统AI的分析、判断工作，还能进一步学习并完成分析式AI无法从事的创造性工作。从人机交互的角度来看，人工智能也促进了生产关系的高效发展。具体表现在：一是刺激劳动形态的转化。人工智能高效承担大量的基础机械性劳动，人类劳动则向高阶的创造性劳动转化，由此引发社会层面的劳动结构转型、升级，并且以人工智能为中介，社会范围内的劳动整合、协调能力也实现升级。二是促进劳动场域的重构。随着劳动形态的转化和劳动的社会化扩展，人工智能将劳动从固定场域中解放出来，人类劳动的灵活性增加。相比于创造性劳动，机械性劳动更加受到空间和时间的制约，而在人工智能从技术层面替代更低边际成本的基础性劳动之后，人类劳动空间和时间的自由性实现跃迁。三是对主体的发展提出了更高要求，尤其是对主体适应社会发展提出了更高要求。人工智能技术的发展对人类传统的知识结构提出挑战，要求人类更新原有的知识结构以适应社会发展需要，也对教育提出更高要求，教育模式和教育内容需要更契合科技发展的水平，培养更加全面发展的人才。
主持人：人工智能的一系列产物在给人们带来生活便利的同时，也一定程度上引起大家对其可能引发的伦理挑战的警惕。一些人关注人工智能的风险问题，对人工智能的推进有些焦虑。如何看待这种警惕和焦虑？
虞昊：人工智能的风险以及由此带来的焦虑，是完全可以理解的。但我们无法返回一个没有人工智能的世界，人工智能已然深度介入人类社会，试图遏制人工智能的推进只能是螳臂当车。同时我们对人工智能的发展也不能放任不管，无视甚至于压制人工智能的推进只能是掩耳盗铃。因此，我们应该正视这种焦虑，在发展人工智能的过程中探求解决方案，在人工智能带来的风险中寻求危中之机。
邓玉龙：我们应正确看待这种焦虑。要看到，焦虑有其积极的意义，它体现人类的忧患意识，催生对人工智能风险的预见性思考，提醒我们注意焦虑背后人工智能技术发展存在的问题。正确对待焦虑有助于积极采取措施防范风险，辩证分析焦虑中先见性的思考，通过社会治理模式的升级化解风险问题。同时，仅有焦虑和恐惧是不够的，更重要的是积极解决人工智能发展带来的社会问题。从劳动的角度看，人工智能确实会取代部分人类劳动，推动劳动结构转型升级，让劳动向着碎片化、个体化方向发展，劳动者处于弱势地位，面临着“机器换人”的挑战。但是我们也应该理性认识到，人工智能不是对人类劳动能力的完全替代，而是对劳动者提出了更高的要求，要求劳动者掌握科学知识，将技术的发展内化为自身能力，在更具创造性的劳动中实现自身价值。
彭家锋：任何技术的发明使用，不可避免地伴随着这样或那样的风险。人工智能技术自然也不例外，在其应用过程中，同样引发了诸如隐私泄露、算法歧视、法律责任等风险问题。因此，关注人工智能的风险问题，并由此对人工智能的推进产生焦虑，具有一定理论依据和现实基础。但更应当清醒地认识到，人工智能的某些相关风险可以提前得到规避，并不必然会发生；即便真的发生，也仍可不断寻求化解风险的有效手段。以个人隐私滥用风险为例，在治理过程中，虽然不可避免地会涉及个人数据收集和分析处理，但可以通过建立完整的规范和监管体系来保护个人隐私，降低滥用风险。
2.人工智能科技竞争的“伦理赛道”
主持人：习近平总书记在以视频方式出席二十国集团领导人第十五次峰会时指出，“中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康发展”。请谈谈“人工智能原则”应包含哪些内容？科技向善的文化理念对推动全球人工智能健康发展具有怎样的现实价值？
彭家锋：为应对人工智能等新科技快速发展带来的伦理挑战，2022年，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，其中明确了“增进人类福祉”“尊重生命权利”“坚持公平公正”“合理控制风险”“保持公开透明”等五项科技伦理原则。我认为，这五项原则基本涵盖了人工智能原则的伦理要求，彰显了科技向善的文化理念。科技向善的文化理念，根本目标是让科技发展更好地服务社会和人民，带来良好社会或社会公益的善。科技向善对推动全球人工智能健康发展至少具有以下三个方面现实价值：一是塑造公众信任。公众对人工智能的信任很大程度上并不完全由相关风险程度决定，而是取决于公众的利益与价值是否得到足够重视。后者正是科技向善的内在要求。二是引领技术创新。科技向善的文化理念将在技术创新发展过程中发挥价值引领作用。三是促进全球合作。科技向善的文化理念试图在全球范围内建立人工智能伦理规范的“最大公约数”，各国在达成伦理共识的基础之上，能够建立互信，实现更加充分深入的国际合作。
虞昊：个人认为，人工智能原则也应包含非对抗与非失控的理念。非对抗意味着不应将人工智能视作人类社会的对抗性存在，人工智能已经成为人类社会的构成性要素，我们必须持更为开放的态度去面对人工智能。非失控意味着不应放弃对人工智能的伦理规范，应以智能的方式去规范加速发展的人工智能。如果以上述理念为前提，也就是说，在支持人工智能发展的情况下，科技向善的文化理念在推动全球人工智能健康发展中就变得极为重要。此处的“善”在国家治理层面即指向“善治”，而当人工智能的发展从国家范围扩展到全球范围，“善治”就在构建人类命运共同体的意义上拥有了更贴近现实的内涵。各国应摒弃冷战思维与零和博弈，基于善意与友谊共同思考人类作为整体如何在人工智能的冲击下通往全球性的“善治”。
邓玉龙：2019年欧盟发布《可信赖的人工智能伦理准则》，2021年中国国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》（以下简称《规范》）。与欧盟发布的伦理准则相比，《规范》体现了中国特色社会主义的制度优势，旨在将伦理规范融入人工智能全生命周期。人工智能发展的根本目的是促进人的全面发展，因此，我以为，人工智能原则还应体现共享和有序发展的要求。共享，旨在防止人工智能的技术垄断。科技发展应该兼顾全体人民的利益，而不是服务于少数群体，由全体人民共享科技发展成果，推动全球科技水平的共同增长。有序发展，旨在防止人工智能技术的无序扩张。人工智能技术的发展最终是为了提升人的幸福感，推动科技有序发展能够促进人机和谐融合，有效预防潜在无序扩张的风险。
主持人：从规范层面来说，伦理反思对规范人工智能发展的作用主要体现在哪些方面？
彭家锋：近年来，世界各主要国家在人工智能领域竞争日趋激烈，纷纷将人工智能发展置于国家发展的战略层面。比如，美国陆续出台《国家人工智能研究和发展战略计划》（2016）和《关于维持美国在人工智能领域领导地位的行政命令》（2019）；欧盟先后发布《欧洲人工智能战略》（2018）和《人工智能白皮书》（2020）；中国也较早发布了《“互联网+”人工智能三年行动实施方案》（2016）和《新一代人工智能发展规划》（2017）。人工智能科技竞争的客观局面已然形成。在此背景下，如果忽视人工智能技术发展所带来的全球性风险与挑战，极有可能陷入技术赶超的竞争逻辑。因此，亟须规范人工智能的科技竞争，而倡导伦理反思或许就是一条可行之路。伦理反思的意义至少在于：一是设定伦理底线。人工智能技术的开发和应用需要遵循一些基本的价值理念和行为规范。只有守住伦理底线，才有可能避免颠覆性风险的发生。二是实现敏捷治理。伦理反思是一个动态、持续的过程，贯穿于人工智能科技活动的全生命周期。为了确保其始终服务于增进人类福祉和科技向善的初衷，需要保持应有的道德敏感性，以灵活、及时、有效的手段化解人工智能带来的各种伦理挑战，确保其在科技向善的道路上行稳致远，实现良性发展。
邓玉龙：人工智能科技竞争是为了促进科学技术发展，而科学技术发展的最终目的是推动人类社会的进步。人工智能科技竞争不应该仅包括技术竞争的单一维度，更不应该通过技术优势遏制他国的科技发展，而应该是在人工智能科技条件下的综合性竞争，通过良性竞争促进全球人工智能和全人类的共同发展。其中就应该包括社会治理竞争，通过社会治理保障社会公平，因而对社会中人与人关系的伦理反思构成人工智能科技竞争的有机组成部分。首先，伦理反思对人工智能科技竞争提出了更高的要求。人工智能的公平性、可信任性、可解释与透明度、安全性不仅是伦理要求，也代表了人工智能技术的发展方向，是人工智能科技竞争需要抢占的技术制高点。科技的发展是为了人的全面发展，因而人的发展内嵌于科技发展要求，伦理反思有助于防止工具主义的泛滥。其次，伦理反思为人工智能科技竞争提供价值引导。伦理反思注重保障人的权利，科技发展并不是社会发展中的唯一衡量因素，我们还应该关注其中多样性的因素，尤其注重保护特殊群体的利益，例如防止数据鸿沟等不良影响。伦理反思有助于实现人工智能的综合性健康发展。
3.人工智能安全与人的全面发展
主持人：科学探究一直以来都是人们认识世界和了解自身的重要认知方式，人工智能等信息产业的革命如何影响着人们的认知方式？
彭家锋：人工智能等信息产业的革命，促进了科学研究新范式——数据科学的诞生，进而对人们的认知方式产生深刻影响。数据科学被认为是继实验、理论和模拟之后的新的科研范式。相较于传统科学，数据科学融合了统计和计算思维，通过人工智能等技术提供的海量数据、强大算法和算力，能够直接从数据中寻找相关关系、提取相关性或者预测性知识，进而产生一种基于相关性的科学思维模式。但这种相关性并不一定能够转化为因果关系，因为可解释性对于从数据科学技术确定的相关性中提取因果解释至关重要，而相关技术一般都缺乏必要的透明度和可解释性。数据科学更可能成为一种预测科学，但是预测并不是科学追求的唯一目标。通过揭示世界的潜在因果结构来解释和干预现象，也是科学的两个重要目标。因此，尽管数据科学能够通过分析大量数据生成相关性知识，却不能直接产生因果解释。对此，传统科学的可检验性假设方法和因果规律探求仍有其重要价值。数据科学并非取代传统科学，相反，两者将相互补充，共同成为人类探索世界的有效工具。
虞昊：显而易见的是，随着人工智能向着通用人工智能迈进，其能够为人们提供的教育资源、生活娱乐、工作讯息也越来越丰富，人们势必越来越依赖于通过与人工智能进行交互来获取外界信息。因此，当人工智能深度地构成人们认知世界的滤镜时，若不对人工智能本身具有重复性、同质性倾向的认知框架保持警醒，人工智能可能扭曲人们的认知方式直至影响人的主体创造性。
邓玉龙：以人工智能为代表的全新技术发展被称为第四次工业革命，其中最显著的特征就是机器与人类的深度融合，机器不再作为一种外在性的工具被人类使用，而是在与人类的深度关联中影响人类的认知方式。一方面，信息产业革命丰富了人类认知的联结方式。人工智能和大数据技术的发展促进人类的分析逻辑从因果关系扩展为相关关系，对相关关系的重视使人工智能可以从大数据而非小数据维度获取信息，为人类认知提供新的视角。按照传统人类认知方式的理解，因果关系要求关于世界的认知是确定性的，而这在数字时代的复杂性社会中很难实现。人工智能对相关关系的认知填补了这一缺失，允许我们在无法掌握确定信息但在掌握大量数据的条件下对未来趋势作出预测。另一方面，如果我们对人工智能等科技的输出结果和生成内容盲目信赖，将结果和内容与经验事实之间进行绝对等同的连接，误认为是事实的全部，那么我们就会丧失人文主义抽象反思的能力，对此我们应当保持警惕，始终坚持反思和批判的人文精神。
主持人：如何调适人的主体创造性与信息高度集成共享之间的关系？
彭家锋：当人们逐渐将更多创造性工作交由人工智能完成，不免让人担忧人工智能是否将会威胁到人的主体创造性。从人机关系的角度来看，这种担忧是基于一种人机敌对论的视角，认为人工智能挤压了人的主体创造性空间，是替代逻辑的延续。但从人机协作的视角出发，将人工智能看作人的得力帮手，通过创造性地使用人工智能可以赋予人类更大的创造性空间。比如，在进行文字写作、多媒体脚本、程序代码、文稿翻译等工作时，可先由人工智能高水平地完成草稿工作，然后再由人类进行一些创造性的调整和发挥。此时人工智能生成的内容将成为进一步创作的原材料，人类将以更高的效率投入创造性活动之中。当然，要实现以上效果并非易事，不仅需要思想观念的转变，还应在制度安排、教育方式等方面作出相应调整。
虞昊：面对信息高度集成共享的人工智能，人有可能转变为算法的动物。试想下述场景：当依据人工智能展开行动变得足够便捷有效时，行动者便会倾向于采信人工智能，此时，看似是人类行动者基于自然语言在进行互动，实则是算法逻辑基于计算机语言在进行数字化运转。于是，人的主体创造性被侵蚀，人可能沦为算法动物。对此类情形，我们应该保持足够的清醒与警惕。
邓玉龙：人工智能技术生成的内容（AIGC）具有高度集成共享的特性，能够高效地对人类知识进行数据挖掘、信息生成。调适人的主体创造性与信息高度集成共享之间的关系，我们需做到如下几个方面：首先，需要通过人的创造性扩大AIGC数据库，当下AIGC主要是依赖于大语言模型，以大量的网络文本作为训练数据库生成的，通过人的创造性生成可以不局限于网络文本，而是进一步扩展数据库的训练文本，从而提高其丰富度。其次，需要通过人的创造性为AIGC提供价值训练，通过人的创造性生成的价值立场、伦理法则等与AIGC的训练数据库相融合，从而建构可信赖、可持续的信息高度集成共享机制。最后，需要将人创造性生成的内容与AIGC共同作为人类知识的来源，人类知识的获得不能仅仅局限于AIGC，而是需要人发挥其主体创造性对人工智能技术生成的内容进行反思和拓展，将人类无法被数据化的、经验性的知识与AIGC数据化的知识融合成为人类知识的来源。
（本版编辑张颖天整理）