关于人工智能和人类繁荣的未来的思考
在我们思考人工智能的变革潜力时，人工智能的最新进展引发了我们的好奇和忧虑。人工智能为丰富我们的生活带来了巨大的希望，但这种期待与对可能出现的挑战和风险的忧虑交织在一起。为了培育一个利用人工智能造福人类和社会的未来，将一系列广泛的声音和观点汇聚在一起至关重要。
考虑到这一目标，我很荣幸地推出"人工智能文集"，该文集由来自不同学科的杰出学者和专业人士撰写的20篇鼓舞人心的文章组成。该文集探讨了人工智能可以通过哪些不同的方式来造福人类，同时揭示了潜在的挑战。通过汇集这些不同的观点，我们的目标是激发发人深省的对话，鼓励合作努力，引导人工智能走向一个利用其潜力促进人类繁荣的未来。
2022年秋天，我在担任微软Aether委员会主席时，第一次遇到了GPT-4，一个了不起的大规模语言模型。Aether领导层和工程团队被允许提前接触OpenAI的最新创新，其任务是调查其使用的潜在挑战和更广泛的社会后果。我们的调查以微软的人工智能原则为基础，这些原则是委员会在2017年与微软的领导层合作建立的。我们对GPT-4的能力进行了全面分析，重点关注采用该技术的应用在安全、准确、隐私和公平方面可能带来的挑战。
GPT-4让我大吃一惊。我观察到了出乎意料的智能闪光，这些闪光超出了以前的人工智能系统所见。当与它的前身GPT-3.5--一个被数以千万计的人当作ChatGPT使用的模型--相比，我注意到能力上的重大飞跃。它解释我的意图并对许多提示提供复杂的答案的能力感觉就像一个"相变"，唤起我在物理学中遇到的突发现象的想象。我发现GPT-4是一个多面手，具有整合传统上不同的概念和方法论的非凡能力。它无缝地将超越学科界限的想法编织在一起。
GPT-4的卓越能力引发了关于潜在破坏和不利后果的问题，以及造福人类和社会的机会。当我们更广泛的团队积极探索安全和公平问题时，我深入研究了医学、教育和科学领域的复杂挑战。越来越明显的是，这个模型和它的后继者--可能会在能力上表现出进一步的跳跃--拥有巨大的潜力来进行变革。这使我开始思考更广泛的社会影响。
围绕着艺术创作和归属、恶意行为者、工作和经济，以及我们还无法设想的未知未来，人们想到了一些问题。随着生成性人工智能工具的普及，人们可能会对不再是无与伦比的知识和艺术思想和创作的源泉作出反应？这些进步会如何影响我们的自我认同和个人愿望？在就业市场上可能会有什么短期和长期的后果？人们对人工智能系统所做的创造性贡献如何得到认可？恶意行为者可能如何利用这些新兴的力量来造成伤害？这些用途有哪些重要的潜在意外后果，包括那些我们可能还没有预见的后果？
同时，我想象着这样的未来：人们和社会可以通过利用这种技术以非同寻常的方式蓬勃发展，就像他们利用其他革命性的进步一样。这些变革性的影响包括从最初的认知工具--我们的共享语言，使前所未有的合作和协调--到科学和工程的工具，印刷术，蒸汽机，电力和互联网，最终达到今天人工智能的最新进展。
我们渴望与不同学科的其他人合作研究这些机会，因此在OpenAI的支持下，我们发起了"AI文集"项目。我们邀请了20位专家来探索GPT-4的能力，并思考未来版本对人类的潜在影响。每位参与者都被授予对GPT-4的早期保密访问权，提供教育、科学探索和医学方面的案例研究，这些案例来自我的探索，并被要求专注于两个核心问题：
这项技术和它的后继者可能对人类的繁荣做出怎样的贡献？作为社会，我们如何才能最好地引导技术，为人类实现最大的利益？在我2022年11月在密歇根大学的坦纳讲座中提出的观点基础上(智能的弧线：人类与它的理性和想象力工具)，这些问题强调了长期思考的重要性，并对人工智能丰富人类生活的潜力保持乐观的态度。我们可以释放出巨大的潜在利益。但为了实现这种潜力，我们必须创造技术创新和政策，以防止恶意使用和意外后果。
这本文集证明了设想和合作的承诺，以及在塑造人工智能的未来时不同观点的重要性。这20篇文章提供了大量的见解、希望和关切，说明了随着人工智能的快速发展而产生的复杂性和可能性。
当你阅读这些文章时，我鼓励你对新的想法保持开放，参与深思熟虑的对话，并为正在进行的关于利用人工智能技术造福和赋予人类权力的讨论提供你的见解。人工智能的未来不是一条预先确定的道路，而是我们必须以智慧、远见和深刻的责任感共同驾驭的旅程。我希望这些文章中的观点有助于我们对我们所面临的挑战和机遇的集体理解。它们可以帮助指导我们努力创造一个人工智能系统补充人类智力和创造力以促进人类繁荣的未来。
欢迎来到"AI文集"。愿它能激励你，挑战你，并点燃有意义的对话，引导我们走向一个以创造性和有价值的方式利用人工智能而使人类繁荣的未来。
从今天开始，我们将在每周初发布四篇新文章。完整的"AI文集"将于2023年6月26日推出。
作为微软的首席科学官，埃里克-霍维茨带头在全公司范围内开展活动，在科学前沿、技术和社会的交汇处驾驭机遇和挑战。他因对人工智能理论和实践的贡献而闻名，包括在开放世界的复杂性中研究人工智能的原理和应用。
这些文章中所表达的观点、意见和建议仅代表作者本人，并不一定反映任何其他实体或组织的官方政策或立场，包括微软和OpenAI。作者对其文章中提出的信息和论点的准确性和原创性负全责。参与"AI文集"是自愿的，没有向作者提供任何奖励或补偿。
标签人工智能
人工智能重塑数字世界 推动数实融合高质量发展
光明网讯（记者雷渺鑫）6月26日，世界互联网大会数字文明尼山对话主论坛在山东济宁曲阜尼山举行。大会期间，业界专家就人工智能重塑数字世界展开探讨。
大模型是当下全球科技创新的焦点，也是全球人工智能竞赛主战场。百度创始人、董事长兼首席执行官李彦宏在谈及人工智能的飞速发展时表示，过去一年，人工智能在技术、产品、应用等各个层面，都以“周”为迭代速度向前突进。未来大模型将渗透到越来越多的领域，以大模型为关键驱动的数字经济与实体经济的深度融合，将做强做优做大实体经济，创造可观的增量价值，带来经济社会发展和产业的深刻变革。
现阶段，人工智能技术正处在量变引发质变的关键节点，并开始赋能千行百业。360集团创始人周鸿祎认为，GPT大模型的诞生代表着通用人工智能、强人工智能的到来，是真正的智能涌现。人工智能大模型已经从感知进化到了认知，能够理解文字、语言，作出分析、规划，传统算法将被代替。未来在自动驾驶、机器人控制等很多重要领域，大语言模型都会大显身手，推动。
作为先进生产力，人工智能正推动经济社会向着智能化方向发展，是不可阻挡的历史发展趋势。“人工智能的机遇是巨大的。但随着全球对人工智能的加速应用，政府和组织有必要考虑如何最好地利用这项技术造福人类和地球。”在全球移动通信系统协会（GSMA）首席执行官洪曜庄看来，人工智能正在全球范围内逐渐崭露头角，成为一股强大的力量，有潜力改变企业和社会。
[责编：徐皓]我国人工智能产业发展势头强劲 产业布局提速
央视网消息：据中国信息通信研究院测算，2022年中国人工智能核心产业规模达5080亿元人民币，我国人工智能产业生态正在逐步形成，产业布局也在提速。在昨天（6月26日）召开的世界互联网大会数字文明尼山对话上，与会代表认为，面对人工智能技术发展的突飞猛进，我们既要警惕它存在潜在的风险隐患，也要抓住它所带来的巨大机遇。
这里是位于浙江杭州桐庐县的一座矿山，虽然这段时间正是梅雨季，矿山的工程进度却没有受到任何影响，而这正是得益于传统机械装上了人工智能的“大脑”。工作人员在数公里开外的项目中心，只需要动动键盘和鼠标，就可以远程操控现场的无人挖掘机进行施工作业。
人工智能技术的应用不仅大大提高了传统行业的生产效率，更是让传统制造业变得更有市场竞争力。在杭州的这家丝绸生产企业，原来生产一条丝巾需要经过设计、打样、打印、固色等5至7个流程，而现在通过人工智能现场定制设计，数智化印花一体机开启即时生产，半个小时就可以拿到一条丝巾成品。
随着一批智能车间、智慧供应链等涌现，人工智能与实体经济迅速融合，有力推动各行各业数字化、智能化转型，孕育出一大批新产业新模式新业态。
科技部新一代人工智能发展研究中心近期发布的《中国人工智能大模型地图研究报告》显示，以“大数据+大算力+强算法”相结合的人工智能大模型，在中国正在得到迅猛发展，中国研发的大模型数量排名已居全球第二，仅次于美国，目前中国10亿参数规模以上的大模型已发布79个。
大模型将重塑人工智能产业 发展与治理同步推进
新华网北京7月3日电（记者孙云龙）人工智能已经成为新一轮科技革命和产业变革的重要驱动力。以预训练大模型引领的人工智能创新浪潮呼啸而来。“大模型将重塑人工智能产业链竞争格局。”国家工业信息安全发展研究中心人工智能所副所长刘永东表示，“大模型正处于快速发展的窗口期，同时也暴露出诸多安全隐患，引发热议和担忧，还需不断完善针对性的监管政策，做到发展与治理‘同谋划、同布局’。”
7月2日，以“智能涌现，重塑未来”为主题的2023全球数字经济大会人工智能高峰论坛在京举办。刘永东在论坛间隙接受记者采访时如此表述。
类ChatGPT产品正不断涌现，标志着大模型时代正在来临。北京市经济和信息化局党组书记、局长姜广智在当日论坛致辞中表示，人工智能产业风头正劲，迄今已有八十余个大模型公开发布，其中北京约占一半。大模型产品数量众多，百度、腾讯、华为、阿里、商汤、科大讯飞、360等企业和清华大学、智源研究院、浦江实验室等高校和科研机构相继推出了大模型产品或解决方案。360集团创始人周鸿祎在论坛上表示，大模型在城市、行业、企业数字化转型到智能化的过程中大有可为，进化迭代刚刚开始，相信未来会成为数字化系统的标配。未来可能不是“百模大战”，而是“万模群舞”。
刘永东认为，以ChatGPT为代表的生成式人工智能将推动跨时代的范式变革。它提供了人工智能商业化落地新范式，可以为各个领域带来巨大的生产力提升，引发行业重要升级，提振了产业信心。多模态预训练大模型将成为人工智能基础设施。“多模态大模型将成为具有泛化能力的模型底座、不同领域的共性平台技术，成为迈向通用人工智能的重要探索，也是解决人工智能应用落地所面临的需求碎片化、多样化等问题的有效解决方式。”
刘永东强调，大模型将重塑人工智能产业链竞争格局。一是开发范式变革，逐渐形成围绕大模型结合特定领域模型微调的方式，打造垂直应用模型，科技巨头围绕大模型的生态竞争加剧。二是挤占技术层企业生存空间。生成式大模型的出现严重冲击了以人工智能单一算法开发为主的初创企业，如图像识别、语音识别等。
“与此同时，我们也应关注到大模型带来的挑战。”刘永东表示，一是训练大模型所需的算力资源被科技巨头掌控，在新一轮竞争中筑起较高的行业壁垒。二是训练大模型所需的高质量数据集匮乏，大模型所需的数据资源掌握在传统行业巨头和行业协会手中，需统筹行业力量加大开源数据集的建设力度。三是人工智能安全治理面临的挑战加剧，需不断完善有针对性的监管政策，做到发展与治理“同谋划、同布局”。
刘永东介绍，大模型具有算法不透明、数据强依赖、易被滥用等人工智能固有的风险，与其平台性、易使用、超能力等特点相互交织，风险快速传递并极速放大。敏感数据泄露、虚假信息生成、漏洞攻击加剧等安全风险频现，给人工智能治理带来新挑战，引发热议和担忧，多个国家和地区已经着手研究和探索应对举措。
“如何对具有生成式特征的大模型进行监管，以确保其发展符合公共利益，已成为全球人工智能治理的新课题。”刘永东称。当日论坛上，清华大学计算机系长聘教授、人工智能研究院副院长朱军介绍，大模型在安全方面的问题表现为数据泄露、算法偏见、虚假信息等多个方面，需要有相应的防范措施。周鸿祎也认为，大模型产业化方案需要遵循安全、可信、可控的原则。
刘永东表示，国家工业信息安全发展研究中心正联合有关单位共同发起人工智能可信安全护航计划，探索人工智能安全可信管理解决方案，护航大模型健康良性发展。该中心建议要明确各方责任，加强安全技术，推动行业自律，强化宣传引导，坚持“以人为本”的初心，积极参与全球监管规则建立。
适应人工智能驱动科研新范式
当前，随着新科技革命和产业变革深入发展，人工智能技术不断突破并向科研领域广泛渗透，为科研工作注入了新元素、新动能，对科研效率提升和范式变革形成显著催化作用，现代科研活动由此更加高效、精准，“人工智能驱动的科学研究”已成为全球人工智能新前沿，必将为未来科技发展开启全新局面。
近年来，我国人工智能技术快速发展，科研数据和算力资源日益丰富，顺应新时代新趋势，利用新技术新优势，推动人工智能赋能科学研究恰逢其时、大有可为。
应用场景是新范式的孕育土壤和实训基地，人工智能技术与科学研究互动互促需要在诸多应用场景中反复实践、不断完善，随着应用范围不断拓展延伸，科研能力持续实现智慧升级。为此，以需求为牵引谋划人工智能技术应用场景，基于促进科学研究更加紧密拥抱人工智能技术，拓展人工智能技术在数学、化学、地学、材料、生物和空间科学等重大科学领域的应用。充分发挥人工智能技术在文献数据获取、实验预测、结果分析等方面的作用，围绕具有典型代表意义和辐射带动性的基础科学、应用科学领域，创造更多实战式应用场景，融合人工智能模型算法和领域数据知识，不断探索重大科学问题研究突破的新路径、新范式，持续积累可复制可推广的经验做法。
人工智能技术在科研活动应用中涉及多专业、多环节，离不开不同类型、不同链条主体机构的合理分工和有效协作。为此，要鼓励企业运用人工智能开展关键技术研发、新产品培育等科研活动，支持高校、科研院所、新型研发机构探索人工智能技术用于重大科学研究和技术开发的先进模式，培育壮大一批跨界技术转化和企业孵化机构、科研中介服务机构，探索多元主体合作协作新机制。面向重大科学问题的人工智能模型和算法创新，发展一批针对典型科研领域的“人工智能驱动的科学研究”专用平台，推动国家新一代人工智能公共算力开放创新平台建设，支持高性能计算中心与智算中心异构融合发展，鼓励各类科研主体按照分类分级原则开放科学数据。支持成立“人工智能驱动的科学研究”创新联合体，搭建国际学术交流平台。
适应性人才是新范式突破和推广的根本源泉。提高人工智能技术在科学研究领域的应用水平，既需要人工智能和相应学科的专业人才，也离不开跨领域复合型人才为跨界沟通协作提供高效支撑，这需要多渠道构筑相关人力资源引育平台和机制。为此，要多渠道培养和汇聚跨越人工智能和专业领域的复合型人才。支持更多数学、物理等科学领域的科学家、研究人员投身相关研究，鼓励普通高校、职业院校在人工智能学科专业教学中设置科技创新类专业课程，提升人工智能专业学生科研专业素养。鼓励开展相关人才培训，通过开设研修班、开展实践交流、组织专题培训等多种形式，培养一批人工智能与专业科研能力兼顾的复合型人才。鼓励地方政府、央企、行业领军企业通过“揭榜挂帅”、联合创新等方式支持相关优秀人才和科研团队开展智慧赋能科研工作。
适应人工智能驱动科研新范式
当前，随着新科技革命和产业变革深入发展，人工智能技术不断突破并向科研领域广泛渗透，为科研工作注入了新元素、新动能，对科研效率提升和范式变革形成显著催化作用，现代科研活动由此更加高效、精准，“人工智能驱动的科学研究”已成为全球人工智能新前沿，必将为未来科技发展开启全新局面。
近年来，我国人工智能技术快速发展，科研数据和算力资源日益丰富，顺应新时代新趋势，利用新技术新优势，推动人工智能赋能科学研究恰逢其时、大有可为。
应用场景是新范式的孕育土壤和实训基地，人工智能技术与科学研究互动互促需要在诸多应用场景中反复实践、不断完善，随着应用范围不断拓展延伸，科研能力持续实现智慧升级。为此，以需求为牵引谋划人工智能技术应用场景，基于促进科学研究更加紧密拥抱人工智能技术，拓展人工智能技术在数学、化学、地学、材料、生物和空间科学等重大科学领域的应用。充分发挥人工智能技术在文献数据获取、实验预测、结果分析等方面的作用，围绕具有典型代表意义和辐射带动性的基础科学、应用科学领域，创造更多实战式应用场景，融合人工智能模型算法和领域数据知识，不断探索重大科学问题研究突破的新路径、新范式，持续积累可复制可推广的经验做法。
人工智能技术在科研活动应用中涉及多专业、多环节，离不开不同类型、不同链条主体机构的合理分工和有效协作。为此，要鼓励企业运用人工智能开展关键技术研发、新产品培育等科研活动，支持高校、科研院所、新型研发机构探索人工智能技术用于重大科学研究和技术开发的先进模式，培育壮大一批跨界技术转化和企业孵化机构、科研中介服务机构，探索多元主体合作协作新机制。面向重大科学问题的人工智能模型和算法创新，发展一批针对典型科研领域的“人工智能驱动的科学研究”专用平台，推动国家新一代人工智能公共算力开放创新平台建设，支持高性能计算中心与智算中心异构融合发展，鼓励各类科研主体按照分类分级原则开放科学数据。支持成立“人工智能驱动的科学研究”创新联合体，搭建国际学术交流平台。
适应性人才是新范式突破和推广的根本源泉。提高人工智能技术在科学研究领域的应用水平，既需要人工智能和相应学科的专业人才，也离不开跨领域复合型人才为跨界沟通协作提供高效支撑，这需要多渠道构筑相关人力资源引育平台和机制。为此，要多渠道培养和汇聚跨越人工智能和专业领域的复合型人才。支持更多数学、物理等科学领域的科学家、研究人员投身相关研究，鼓励普通高校、职业院校在人工智能学科专业教学中设置科技创新类专业课程，提升人工智能专业学生科研专业素养。鼓励开展相关人才培训，通过开设研修班、开展实践交流、组织专题培训等多种形式，培养一批人工智能与专业科研能力兼顾的复合型人才。鼓励地方政府、央企、行业领军企业通过“揭榜挂帅”、联合创新等方式支持相关优秀人才和科研团队开展智慧赋能科研工作。（张璐璐）
人工智能快速发展 打开就业新空间
央视网消息：在此次数字文明尼山对话大会上，与会专家也对人工智能发展带来的新就业空间展开了研讨，专家表示，随着以人工智能为核心的产业生态日益壮大，在为我国经济发展注入新动力的同时，也出现了大量新的职业需求，为更多年轻人打开了就业新空间。
AI捏脸算法工程师吴佳阳：这个就是我们智能捏脸的界面，我们能支持通过图片输入的形式和文字输入的形式来进行捏脸。
他叫吴佳阳，他所从事的职业是AI捏脸算法工程师，随着近几年元宇宙、网络游戏等新业态的兴起，催生了专业的“捏脸师”，也就是专门帮用户打造具有个人特色的网络虚拟形象。
AI捏脸算法工程师吴佳阳：很多玩家他们实际上希望在游戏或者元宇宙里面有一个跟自己高度相似的虚拟形象，那么我们这里就可以通过上传自己的照片来生成跟自己非常相似的一个角色。能够让每一个用户在游戏里面都非常有沉浸感代入感，仿佛自己也身临其境。
在人力资源社会保障部最新公布的新职业名录中，虚拟建筑师也赫然在列，而这份最新的职业目前已经不再局限于元宇宙、网络游戏领域，它的服务领域已经有了新的拓展和延伸。
虚拟建筑师邹毅：虚拟空间的应用现在还是比较广泛的，比如说企业，他们会需要搭建自己的3D企业空间，然后有一些展览会发布会，在文旅这一块的话，比如说博物馆，线下的这些旅游风景区也会有线上的一个虚拟空间，所以应用的范围是非常广泛的。
据了解，伴随着人工智能技术的发展，一些专业门槛相对不高的新职业也在不断催生，比如数据标注师、人工智能训练师等现在已经成为热门职业。