人工智能会导致人类灭亡吗专家称更担心虚假信息和操纵用户
6月4日消息，随着人工智能技术的快速发展和普及，很多行内人士担心不加限制的人工智能可能会导致人类灭亡。但专家们表示，人工智能带来的最大负面影响不太可能是科幻电影中的核战场面，反而更有可能是虚假信息、操纵用户等造成的社会环境不断恶化。
以下是翻译内容：
近几个月来，业内愈发担心人工智能。就在本周，300多名行业领袖发表了一封联名公开信，警告人工智能可能导致人类灭绝，对待人工智能应该像“疫情和核战”那样加以严肃对待。
像“人工智能末日”这种术语总会让人联想到科幻电影中机器人统治世界的画面，但实际上任由发展的人工智能会带来哪些后果？专家们说，现实可能不像电影情节那样跌宕起伏，不会是人工智能启动核弹，而是社会基础环境逐渐恶化。
加州大学伯克利分校人工智能安全计划主任杰西卡·纽曼（JessicaNewman）说：“我不认为人们该担心人工智能会变坏，或者人工智能会有某种恶意欲望。”“危险来自一些更简单的东西，那就是人们可能会给人工智能编程，让它做有害的事情，或者我们最终会把天生不准确的人工智能系统整合到越来越多的社会领域，从而造成伤害。”
这并不是说我们不应该担心人工智能。即便末日场景不太可能发生，强大的人工智能也有能力用错误信息问题不断加剧、操纵人类用户以及给劳动力市场带来巨大变化等形式破坏社会稳定。
虽然人工智能技术已经存在了几十年时间，但像ChatGPT这种语言学习模型的普及加剧了人们长期以来的担忧。纽曼说，与此同时，科技公司争先恐后将人工智能应用到他们的产品中，相互开展激烈竞争，带来了一堆麻烦事。
她说：“我非常担心我们眼下走的道路。”“对于整个人工智能领域来说，我们正处于一个特别危险的时期，因为这些系统虽然看起来很特别，但仍然非常不准确，并且存在固有漏洞。”
接受采访的专家们表示，他们最担心的有不少方面。
错误和虚假信息
许多领域早已经启动了所谓的人工智能变革。机器学习技术支撑着社交媒体新闻推送算法，长期以来，人们一直指责这种技术加剧了固有偏见和错误信息等问题。
专家们警告说，随着人工智能模型的发展，这些尚未解决的问题只会进一步加剧。最糟糕的情况可能影响到人们理解事实真相和有效信息，从而导致更多基于谎言的事件发生。专家们表示，错误和虚假信息的增加可能引发进一步的社会动荡。
“可以说，社交媒体的崩溃是我们第一次遇到真正愚蠢的人工智能。因为推荐系统实际上只是简单的机器学习模型，”数据科学平台Anaconda首席执行官兼联合创始人PeterWang说。“我们真的彻底失败了。”
PeterWang补充说，这些错误可能导致系统陷入永无止境的恶性循环，因为语言学习模型也是在错误信息的基础上进行训练，为未来模型创造的又是有缺陷的数据集。这可能会导致“模型自相残杀”效应，未来模型会因为过去模型的输出放大偏差，并永远受到影响。
专家们称，不准确的错误信息和容易误导人们的虚假信息都被人工智能放大了。像ChatGPT这种大语言模型很容易出现所谓的“幻觉”现象，反复捏造杜撰虚假信息。新闻行业监督机构NewsGuard的一项研究发现，几十个完全由人工智能撰写材料的在线“新闻”网站中有许多内容都存在不准确之处。
NewsGuard联合首席执行官戈登·克罗维茨(GordonCrovitz)和史蒂文·布里尔(StevenBrill)表示，这种系统可能会被坏人利用，故意大规模传播错误信息。
克罗维茨说：“一些恶意的行为者可以制造虚假陈述，然后利用这个系统的倍增效应来大规模传播虚假信息。”“有人说人工智能的危险被夸大了，但在新闻信息领域，它正在产生惊人影响。”
全球非营利性机构PartnershiponAI的丽贝卡·芬利(RebeccaFinlay)表示：“就更大规模的潜在危害而言，错误信息是人工智能最有可能对个人造成伤害的方面、风险也最高。”“问题是我们如何创造一个生态系统，让我们能够理解什么是真实的？”“我们又该如何验证我们在网上看到的东西?”
恶意操纵用户
虽然大多数专家都表示，错误信息是最直接和最普遍的担忧，但关于这项技术可能会在多大程度上对用户的思想或行为产生负面影响，还存在不少争议。
事实上，这些担忧已经带来了不少悲剧。据报道，比利时一名男子在得到聊天机器人的鼓动后自杀身亡。还有聊天机器人告诉用户和他的伴侣分手，或者让有饮食失调问题的用户减肥。
纽曼说，从设计上讲，因为聊天机器人是以对话的形式与用户交流，可能会产生更多的信任感。
“大语言模型特别有能力说服或操纵人们在潜移默化中改变他们的信念或行为，”她说。“孤独和心理健康已经是全世界的大问题，我们需要观察聊天机器人会对世界产生何种认知影响。”
因此，专家们更担心的不是人工智能聊天机器人会获得感知能力并超越人类用户，而是它们背后的大语言模型可能会操纵人们给自己造成原本没有的伤害。纽曼说，那些以广告盈利模式运作的语言模型尤为如此，它们试图操纵用户行为，从而尽可能长时间地使用平台。
纽曼表示：“在很多情况下，给用户造成伤害也不是因为他们想要这样做，而是系统未能遵循安全协议造成的后果。”
纽曼补充说，聊天机器人的类人特性使用户特别容易受到操纵。
她说：“如果你和一个使用第一人称代词的东西交谈，谈论它自己的感受和所处情境，即使明知道它不是真实的，仍然更有可能引发一种它像人类的反应，让人们更容易想要相信它。”“语言模型让人们愿意信任它，把它当成朋友，而不是工具。”
劳动力问题
长期存在的另一个担忧是，数字自动化将取代大量人类工作。一些研究得出结论，到2025年，人工智能将在全球范围内取代8500万个工作岗位，未来将取代超过3亿个工作岗位。
受人工智能影响的行业以及岗位非常多，有编剧也有数据科学家。现如今，人工智能可以像真正的律师那样通过律师考试，还能比真正的医生更好回答健康方面的问题。
专家们发出警告，人工智能的崛起可能会导致出现大规模失业，从而造成社会不稳定。
PeterWang警告说，大规模裁员在不久将来就会发生，“许多工作岗位都面临风险”，而且几乎没有任何计划应对后果。
他说：“在美国，没有关于人们失业时如何生存的框架。”“这将导致很多混乱和动荡。对我来说，这是由此产生的最具体、最现实的意外后果。”
未来怎么办
尽管人们越来越担心科技行业和社交媒体带来的负面影响，但在美国，监管科技行业和社交媒体平台的措施却很少。专家们担心人工智能也是如此。
PeterWang说：“我们许多人担心人工智能发展的原因之一是，在过去的40年时间里，作为一个社会，美国基本上放弃了对科技的监管。”
尽管如此，近几个月来美国国会已经有了一番积极动作，举行听证会，让OpenAI首席执行官萨姆·奥尔特曼(SamAltman)就应该实施的监管措施作证。芬利表示，她对这些举措感到“鼓舞”，但在制定人工智能技术规范以及如何发布方面，还需要做更多工作。
她说：“很难预测立法和监管部门的反应能力。”“我们需要对这种水平的技术进行严格审查。”
尽管人工智能的危害是行业内大多数人最关心的问题，但并非所有专家都是“末日论者”。许多人也对这项技术的潜在应用感到兴奋。
PeterWang说：“实际上，我认为新一代人工智能技术真的可以为人类释放出巨大的潜力，让人类社会以更大规模繁荣起来，要超出过去100年甚至200年的水平。”“实际上，我对它的积极影响非常非常乐观。”（辰辰）
人工智能时代律师会失业吗专家：别担心，高端业务无法取代
“未来人类社会将会有60%的职业、30%的工作被人工智能取代，被取代的岗位有客服、秘书、翻译、会计、交易员，还有仅仅从事法律咨询的律师。”中南财经政法大学教授吴汉东援引专家分析说。
2月24日，北京大成（南京）律师事务所20周年法律服务创新论坛在南京举行。澎湃新闻（www.thepaper.cn）注意到，知名法学家吴汉东在演讲中表示，上述岗位之所以会被机器人取代，因为它们的工作具有重复性、有标准答案、流程有具体规则等三个共同特点。
在这场律师的大聚会中，众多律师不禁发问：“我们会失业吗？”
根据南京大学法学院教授李友根的判断，有一部分律师在人工智能时代将会被“取代”，但是“专业的人做专业的事”，专业的、从事高端法律服务的律师，人工智能是取代不了的。
本世纪中叶人工智能或将替代部分工作
多数人认为人工智能将给各行各业带来巨变，这个爆发点将出现在什么时候？
“业内其实没有一个很明确的共识。”腾讯研究院法律研究中心、未来科技中心高级研究员曹建峰说，强人工智能到底什么时候实现，很多专家说那是一二百年之后的事，有些专家则相对比较大胆，比如霍金曾说，五到十年之内即有可能出现强人工智能。保守的预测是在本世纪中叶，这是一个行业专家平均值。他们认为，在本世纪中叶可能出现强人工智能，但是是以何种方式出现至今没有形成一个共识。
曹建峰认为，当下法官和律师工作强度都很高，但工作效率有提升的空间。怎么用人工智能改造法律行业，让法律行业更加高效，让普通老百姓、消费者更加容易获得法律服务，这是法律行业的机遇。
曹建峰说，我们谈人工智能对工作的影响，往往把技术和人对立起来，但历史上技术和人永远不是对立的，技术的发展将提高“智慧力”和创造力。法律人在检索法律条文、文书写作、案件结果预测方面，都可以借助人工智能、大数据来做决策。
专家：不用担心，高端法律服务业务无法取代
人工智能可以帮助律师做决策，那么在深度学习、充分智能之后会不会替代律师的工作？
北京大成（南京）律师事务所执行主任李晨直言，他并不担心法律的服务机器人、人工智能取代律师，律师根本上是人的行业，人的大脑和心灵衔接有无限可能性，只有人是造物主，人工智能永远是物，“永远只可能是一个福利”，因此法律人要有“人文和人本的自信”。
根据南京大学法学院教授李友根的观点，人工智能必然来临，律师必须清醒地认识到，律师业务中基础的、初级的法律业务比如说合同起草、文书起草、法律法规的查询、案例的检索，乃至相对复杂的法律研究报告，未来很有可能被法律服务的机器人、人工智能代替。因此，律师尤其是年轻的律师应当认识到，必须从事高端法律业务的研究，这部分是人工智能取代不了的。
根据李友根的说法，律师事务所要积极地投身到法律人工智能的研发，这样可以提升律师事务所法律服务的质量，降低成本，同时在未来的法律业务中永远处于优势地位。而一个律所也有望借助人工智能反向超越其他律所的地位。
李友根认为，人工智能将带来新的法律问题，比如因技术而导致失业的，在《劳动法》上如何解决？对企业的规划如何从法律角度提供立法保障？因此，在面临挑战的同时，要主动拥抱人工智能时代的到来。
让人工智能成为“智慧动能”（人民时评）
从人脸识别的逐步应用，到方兴未艾的自动驾驶，人工智能正在越来越多领域发挥作用。科技部、教育部、工信部等6部门联合发布《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》，统筹人工智能场景创新；科技部发布《关于支持建设新一代人工智能示范应用场景的通知》，支持建设包括智慧农场、智能港口在内的10个人工智能示范应用场景……近段时间，助力培育人工智能应用场景的政策措施接连出台，为牵引推动人工智能落地营造了良好的政策环境。
习近平总书记强调：“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应。”作为赋能手段，人工智能与实体经济融合，能够引领产业转型，孕育新产业新模式新业态；作为服务人们美好生活的工具，人工智能的应用有助于提升生活品质，满足人们消费升级需求。无论是促进传统产业提质增效，还是培育新的经济增长点，人们对以互联网、大数据、人工智能为代表的新一代信息技术寄予厚望。
应用需求是技术进步的重要推动力。为推动人工智能应用落地，2017年国务院印发《新一代人工智能发展规划》，截至2021年12月，国家新一代人工智能创新发展试验区已达17个。据测算，我国人工智能核心产业规模超过4000亿元，企业数量超过3000家。得益于海量数据处理带来的旺盛需求，丰富应用场景提供的试验土壤，我国在计算机视觉、语音识别等领域走在世界前列。在应用实践中锤炼、迭代和改进的技术，反过来又促进应用更加深化，从而形成技术进步与应用推广相互推进的良性循环。这是我国发展新技术的重要优势，过去人工智能产业发展受益于此，推动人工智能应用迈向更高水平，依然需要用好这一长处。
随着我国数字基础设施建设提速，更多潜在应用场景将会不断涌现。智能制造、智慧城市、智能矿山、智能供应链等，为拓展人工智能应用提供了广阔的舞台。就此而言，应当加快拓展应用场景，进行规模化市场探索，打造形成一批可复制、可推广的标杆型示范应用场景。加速新技术落地，有助于保持我国人工智能发展的优势。挖掘更多应用场景，着力打通落地环节，推动人工智能与相关行业深度融合，人工智能应用必将发挥更大效用。
需要注意的是，发展人工智能产业是一项系统工程。比如，支撑自动驾驶升级，除了“聪明”的车，更要有“智慧”的路，这离不开营造包括技术研发、基础设施、数据流通在内的良好产业生态。此外，发挥应用场景的优势，也需及时补上底层技术的短板。推进人工智能应用走深走实的同时，加强软硬件、底层技术攻关，两者齐头并进，才能增强产业发展后劲，掌握发展的主动权。
犹记北京冬奥会开幕式上，小朋友在舞台上自由跑动，脚下踩出一片片“雪花”。它们时而散开，时而汇聚，星光也跟着孩子们的脚步流动，这是“人工智能实时视频特效”带来的神奇效果。未来几年是人工智能技术跃迁的重要窗口期，随着应用场景资源的持续开放，场景创新能力的不断提升，人工智能与产业的融合必将更加紧密，人工智能的应用也必将迈向更高水平，为促进经济社会高质量发展注入源源不断的智慧动能。
《人民日报》（2022年09月14日09版）
(责编：袁勃、仝宗莉)分享让更多人看到