人工智能如何“向善” 人工智能的缩写为

人工智能如何“向善”

一段时间以来，以ChatGPT为代表的人工智能大模型搅动了全球人工智能技术发展的浪潮。从写代码到讲故事，从撰写文章到自动制作数据表格……人工智能正在给人类的工作、学习、生活带来诸多变化。

我们距离“无所不能”的通用人工智能还有多远？人工智能的发展带来哪些安全隐患和挑战？近日召开的2023北京智源大会上，来自全球的人工智能专家学者围绕相关话题展开探讨。

通用人工智能路途尚远

“想象一下，未来10年，通用人工智能（AGI）几乎在每一个领域都超过人类的专业知识，最终可能超过所有大型公司的总体生产力，这将提高人们的生活水平。”OpenAI首席执行官山姆·阿尔特曼展现了一幅人工智能的未来图景。

所谓AGI，是指能够像人类一样在各种领域进行智能任务的人工智能系统。这与目前人工智能应用只聚焦于特定任务或领域（如图像识别、语音识别、自然语言处理等）不同，对人工智能技术提出了更高要求。

“通用人工智能可以比人类更好、更快地学习和执行任务，包括人类无法处理的任务。由于机器在速度、内存、通信和带宽方面的巨大优势，未来通用人工智能几乎在所有领域都将远超人类的能力。”美国加州大学伯克利分校计算机科学教授斯图尔特·罗素说。

尽管人工智能已经有了“超越”人类的“时间表”，但在很多专家看来，目前的人工智能距离AGI还有不小的距离。

罗素认为，当下火热的大语言模型并不“理解世界”，只是通用人工智能的一块“拼图”——“我们并不了解如何将它与其他部分连接起来，甚至还有一些缺失的拼图还没有找到。”

北京智源人工智能研究院院长黄铁军指出，要实现通用人工智能，有3条技术路线：第一是大模型，通过海量高质量数据，让人工智能具备智能涌现能力；第二是具身智能，通过强化学习方法，训练出具身模型；第三是类脑智能，让机器达到或类似于人脑能力。

对于人工智能的发展，图灵奖得主、纽约大学教授杨立昆提出了“世界模型”的概念——人工智能系统可以通过这一模型理解世界的运转方式，并以最优化、成本最小的方式来行动。

加强安全治理领域国际合作

根据普华永道会计师事务所预测，到2030年，人工智能将创造15.7万亿美元的经济价值。人工智能为经济发展提供了重要机遇，但也引发了安全性方面的担忧和争议。

图灵奖得主、多伦多大学教授杰弗里·辛顿认为，目前的人工智能已经可以通过学习，掌握“欺骗”人类的方式。“一旦人工智能具备了‘欺骗’的能力，就有了‘控制’人类的能力。这样的超级智能可能会比预想中发生得更快。”

在通用人工智能时代到来之前，人工智能的安全风险主要来自于“人”。“我们不应该假设机器是公正的，因为机器可能会试图改变人类的行为。更准确地说，是机器的所有者想要改变其他人的行为。”图灵奖得主、中国科学院院士姚期智说，当前人工智能的发展处于重要窗口期，各国应共同合作，搭建人工智能的治理结构。

随着人工智能的本事越来越大，人工智能的“对齐”问题浮上水面。所谓“对齐”，即人工智能系统的目标要和人类的价值观与利益“对齐”，保持一致。

如何让人工智能与人类“对齐”？阿尔特曼认为，人们应当负责任地将人工智能应用到世界中，重视和管理好安全风险。他建议在人工智能技术研发过程中建立平等、统一的国际规范和标准，并通过国际合作，以可验证的方式建立人工智能系统安全开发的信任体系。

黄铁军认为，人工智能虽然会产生预料之外的新能力，但这并不意味着人类无法对人工智能进行管理。“如何管理人工智能这样一个创造性极强的系统，社会学、历史学等学科都能提供很好的借鉴意义。”

今年2月，中国在《全球安全倡议概念文件》中提出加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险。在此次智源大会上，专家学者积极评价中国在推动人工智能国际治理上的贡献。

阿尔特曼说，中国在人工智能领域拥有大量优秀的人才和产品系统，在人工智能的安全方面应发挥关键作用。

麻省理工学院人工智能与基础交互研究中心教授马克斯·泰格马克表示，中国在塑造全球人工智能议程上的能力日益增长，可以在人工智能安全治理领域发挥领导作用。

推动大模型共建共享

当下，全球人工智能领域的科技竞赛日趋白热化。2023中关村论坛上发布的《中国人工智能大模型地图研究报告》显示，全国已发布了79个参数在10亿规模以上的人工智能大模型。

从全球来看，中国和美国已发布的大模型数量超过全球总数的80%。中国自2020年起进入大模型快速发展期，在大模型方面已建立起涵盖理论方法和软硬件技术的体系化研发能力，形成了紧跟世界前沿的大模型技术群，涌现出多个具有行业影响力的预训练大模型。

在此次大会上，全面开源的智源“悟道3.0”系列大模型及算法正式发布。据了解，“悟道3.0”涵盖了一系列领先成果，包括“悟道·天鹰”（Aquila）语言大模型系列、天秤（FlagEval）开源大模型评测体系与开放平台，“悟道·视界”视觉大模型系列以及一系列多模态模型成果等。

黄铁军认为，人工智能大模型有3个特点：一是规模大；二是有“涌现性”，即能够产生预料之外的新能力；三是通用性，不限于解决专门问题或者专门领域。他表示，大模型不是任何一家机构或者一家公司垄断的技术，应当共建共享，推出一套智力社会所需的基础的算法体系。

（实习生张伟纳对本文亦有贡献）

分享让更多人看到

从VALSE 2023看近期人工智能的研究热点

VALSE发起于2011年，是VisionAndLearningSEminar的简写，取法语“华尔兹舞”之意，中文名称为视觉与学习青年学者研讨会。VALSE为计算机视觉、图像处理、模式识别与机器学习研究领域的华人青年学者提供了一个自由、平等、低成本的深度学术交流舞台。VALSE极大地促进了国内青年学者的思想交流和学术合作，从而使更多的青年学者在相关领域做出了重量级的学术贡献，提升了中国学者在国际学术舞台上的影响力。VALSE每年举办一次，在全国各地轮流举行。VALSE2023于6月10日到12日在无锡举行。

本次大会包含了3个大会主旨报告、4个大会特邀报告、12个APR报告、4场Tutorial、20场Workshop、200+篇顶会顶刊Poster，由一百余位知名青年学者共同呈现了一场人工智能中的视觉与学习等领域的盛会。

本次大会究竟体现了近期人工智能的哪些研究热点？以下是个人的一些观点，可供参考。

1.大模型

大模型无疑是人工智能近期的研究热点。特别是以ChatGPT为代表的大语言模型，开启了通用人工智能的新时代。很多行业和领域都会因此发生变革。以教育领域为例，一些以记忆、浅层理解为主的知识将会显得不再重要，这些知识可以非常方便地使用ChatGPT获得。这好比早期在做计算的时候人们使用算盘，后来有了计算器，那么算盘就不再重要了。因此，有了以ChatGPT为代表的大模型后，现有的教育模式和学习方式必然会发生改变，大模型技术会融入到教育领域，显著地改变教育的模式和学习的方式，提高学习的效率。大模型会加快自然科学领域的研究进展，改变现有的做科学研究的模式。在数学领域，大模型可以用于求解偏微分方程，可以进行复杂优化问题的求解等，从而解决数学领域以前无法解决的问题；在物理领域，大模型可以用于量子计算和模拟等；在生物领域，大模型可以用来预测蛋白质的结构等。总而言之，大模型不管对于研究人员还是普通大众来说，都是必然会用到的技术。

大模型技术未来的研究方向有哪些？现有的大模型是基于自然语言处理的，那么会不会出现基于图像和视频处理的大模型，会不会出现基于语音分析的大模型？这就涉及到多模态的大模型。也就是说，可以使用不同模态的数据去训练大模型，从而让大模型能够处理不同类型的任务，让其具有更加丰富的功能。此外，大模型与小模型的协同与合作，也可能是未来的研究热点。类似于去搜索广播电台，先粗调然后再微调，在完成特定的任务时，可以使用大模型先得到初步的结果，然后再使用专门训练的小模型对得到的结果进行精细化的调整，从而得到更优的结果。

2.多模态

本次VALSE会议上有多个关于多模态的workshop，这也显示了多模态学习的研究热度。多模态学习是一种机器学习方法，它使用多种不同模态的数据来训练模型，从而提高模型的性能。不同模态的数据包括文本、图像、音频、视频等。为了让模型具有更加丰富的功能，能够完成不同的任务，多模态学习将会显得非常重要。例如，可以使用文本、图像、语音等更加丰富的数据去训练大模型，从而让大模型具有更加丰富的功能。

3.具身智能

具身智能强调智能的物理实现基础，认为智能存在于身体与环境的相互作用之中，而不仅仅局限于大脑或心灵。具身智能是本次VALSE上的热点之一，也是人工智能一个比较新的研究方向。

4.面向开放域的视觉

近些年，面向开放域的视觉受到了研究者的高度关注。面向开放域的物体识别的目的是在标签空间和数据分布存在较大域差异的情况下，为每个目标样本分配一个特定的标识。大多数现有方法都依赖于关于源域和目标域之间标签集关系的大量先验信息，这对其在实际应用中的应用是一个很大的限制。因此，研究面向开放域的物体识别非常重要。此外，面向开放域的目标检测也是研究的热点之一。

5.扩散模型

扩散模型是一类生成模型，具有其强大的生成能力，是生成模型中的研究热点之一。扩散模型分为前向阶段和逆向阶段，在前向阶段中逐步向数据中添加噪声，直至数据变成完全的高斯噪声，然后在逆向阶段学习从高斯噪声中还原为原始数据。扩散模型已经被应用于计算机视觉、语音生成、生物信息学和自然语言处理等领域。可以预见，扩散模型将会在其它更为广泛的领域获得应用。

6.持续学习

持续学习，也称为增量学习，它建立在不断学习外部世界的理念之上，以实现更复杂的技能和知识的自主、渐进式发展。人类学习知识就是一个不断学习的过程，与之类似，机器要获得足够的智能也需要持续学习。当面对的任务发生改变或者数据的特性发生改变的时候，使用已经训练好的模型可能无法获得满意的效果，这就需要机器继续进行学习。对于实现大模型性能的持续改进，持续学习将是一种重要的方法。

青海海西：人工智能助力健康惠民

近年来，海西蒙古族藏族自治州认真贯彻落实国家医改政策及《青海省卫生健康事业发展“十四五”规划》等文件精神，以“构建优质高效的医疗卫生服务体系、解决群众就医难题”为目标，全力推动“互联网+医疗健康”发展，以医疗人工智能技术为抓手，在促进优质医疗资源下沉，提高医疗卫生服务能力，提升群众就医获得感等方面取得了积极成效。

提升基层医疗能力保障医疗质量

“智医助理”是服务于基层医生的人工智能全科辅助诊疗系统，系统集智能问诊、病历书写、病历质检、辅助诊断、推荐诊疗、医学知识检索等于一体，助力提升基层医生诊疗服务能力、规范诊疗行为、扩充基层医生知识库，让患者可以享受到更专业的医疗服务，有效缓解基层医疗机构诊疗服务能力不足的情况。

2019年12月，海西州都兰县正式试点上线智医助理辅助诊疗系统，截至目前，系统已推广到全州12家二级公立医院、34家乡镇卫生院（社区卫生服务中心）、220家村卫生室，累计书写就诊病历252902份，其中规范病历202731份，病历规范率从40%提高到84.22%，2022年基层医疗卫生机构诊疗量占总诊疗量49.69%，较上年提高4.89%，2022年全州县域内就诊率为96.71%。同时，系统集成了青海省药品目录，为医生首先推荐基本药物，有效提高了基本药物使用率。

对于这位特殊“助手”带来的帮助，海西州都兰县人民医院的任涛医生感受颇深。今年四月份，任医生接诊了一位胸部外伤患者，依据患者的症状和查体结果，初步诊断为胸部损伤。而电脑上的智医助理提示“危”字，推断患者有肋骨骨折的可能性。任医生在参考了智医助理的疑似诊断和推荐检查后，安排患者做了CT并最终确诊肋骨骨折。任医生感慨到：“运用智医助理后，可以通过智能辅诊，帮助我们详细询问患者病情，准确诊断，有效避免了误诊漏诊。”

健康服务“零距离”百姓就医“不跑路”

海西州积极探索“互联网+医疗”模式，通过互联网医院促进卫生健康服务优化，将完整医疗数据带到专家手上，将专家带到基层患者床边，促进优质医疗资源公平可及。

海西州互联网医院以海西州人民医院为依托建设，是青海省第二家获批互联网医院执照的机构，目前已实现全州7家公立医院入驻，在线开展预约挂号、缴费、报告单查询、常见病及慢性病复诊、药品配送等服务，已注册人数14.34万人、诊间支付13.39万人，传统而繁杂的就诊模式因“触网”而变得简单，有效实现了医疗资源互联互通，提高患者就医获得感和满意度。

家住德令哈市的关女士就是一名“互联网+医疗健康”的受益者。关女士因孕期相关问题需要频繁定期咨询，每次往返医院和家里都费时费力，给她造成了不小的困扰。如今，“用了互联网医院线上问诊咨询功能，才知道看病原来如此简单。不仅省去了来回医院的时间和路途周折，而且问诊咨询时医生耐心细致解答我的所有问题，非常方便。”在经历了几次线上咨询问诊后，关女士由衷的感慨到。

海西州位于青藏高原北部、青海省西部，特殊的高原低氧环境使得脑卒中的发病、致残及病死率均高于全国平均水平，如何有效甄别与防治高原多发疾病一直是困扰海西州卫生健康工作的一个难题。为有效保障全州人民群众的生命健康，海西州依托浙江援青公益项目，开展脑卒中高危人群早筛早治行动。一方面在海西州互联网医院上开展脑卒中专题线上咨询服务，让群众在家门口就可以享受到优质医疗服务；另一方面，以人工智能语音随访系统为抓手，运用大数据分析，对40岁及以上的高危人群精准筛查，并进行健康宣教，让更多人知晓治疗渠道。作为人工智能助力健康惠民的另一生动实践，全州各级医疗机构上线智能语音随访中心，累计服务202.91万人次，高效开展新冠肺炎知识宣教、体检通知、慢性病随访、接种通知、健康关怀等服务，有效减轻医护人员随访负担，提升医疗服务水平。

创新医疗服务举措织密区域协同网

为进一步完善医疗卫生服务体系，海西州在德令哈市、都兰县、乌兰县、天峻县各级医疗卫生机构部署“云医声”，依托县域紧密型医共体，实现区域诊疗业务协同和数据互联互通。使用“云医声”医护人员只需携带手机就可开展移动办公，随时随地查阅病人诊疗数据，实现“一机在手，信息全有”，大幅提升医生工作效率。对此，海西州人民医院康复科巴医生表示，“印象最深的是可以语音查房，不用手动输入，识别还挺准。我还可以直接在手机里看到很多医学文献，查询非常方便，让我们住院医生的工作和学习都轻松了很多。”

此外，依托区域“云医声”，让全州开展分级诊疗工作更加便捷，协助患者基层首诊和双向转诊，推动落实多学科联合诊疗和查房制度。同时系统汇集10类140余项监管数据，切实加强了医疗卫生行业综合监管，满足医院绩效考核、医改指标等相关指标考核要求，助力海西州卫生健康业务管理与决策支持。

自浙江省与青海省海西州建立对口支援联系以来，在海西州委州政府以及援青指挥部的大力支持下，卫生信息化建设取得新进展，卫生基础设施建设得到明显改善，卫生健康领域帮扶工作取得明显成效，优质医疗资源公平可及变得掷地有声。下一步，海西州将用足用好用活医疗援青资源，持续探索人工智能与医疗健康融合，夯实医疗卫生服务能力建设，持续推动全州卫生健康事业高质量发展，为建设社会主义现代化新海西提供健康支撑。