关于人工智能和人类繁荣的未来的思考
在我们思考人工智能的变革潜力时，人工智能的最新进展引发了我们的好奇和忧虑。人工智能为丰富我们的生活带来了巨大的希望，但这种期待与对可能出现的挑战和风险的忧虑交织在一起。为了培育一个利用人工智能造福人类和社会的未来，将一系列广泛的声音和观点汇聚在一起至关重要。
考虑到这一目标，我很荣幸地推出"人工智能文集"，该文集由来自不同学科的杰出学者和专业人士撰写的20篇鼓舞人心的文章组成。该文集探讨了人工智能可以通过哪些不同的方式来造福人类，同时揭示了潜在的挑战。通过汇集这些不同的观点，我们的目标是激发发人深省的对话，鼓励合作努力，引导人工智能走向一个利用其潜力促进人类繁荣的未来。
2022年秋天，我在担任微软Aether委员会主席时，第一次遇到了GPT-4，一个了不起的大规模语言模型。Aether领导层和工程团队被允许提前接触OpenAI的最新创新，其任务是调查其使用的潜在挑战和更广泛的社会后果。我们的调查以微软的人工智能原则为基础，这些原则是委员会在2017年与微软的领导层合作建立的。我们对GPT-4的能力进行了全面分析，重点关注采用该技术的应用在安全、准确、隐私和公平方面可能带来的挑战。
GPT-4让我大吃一惊。我观察到了出乎意料的智能闪光，这些闪光超出了以前的人工智能系统所见。当与它的前身GPT-3.5--一个被数以千万计的人当作ChatGPT使用的模型--相比，我注意到能力上的重大飞跃。它解释我的意图并对许多提示提供复杂的答案的能力感觉就像一个"相变"，唤起我在物理学中遇到的突发现象的想象。我发现GPT-4是一个多面手，具有整合传统上不同的概念和方法论的非凡能力。它无缝地将超越学科界限的想法编织在一起。
GPT-4的卓越能力引发了关于潜在破坏和不利后果的问题，以及造福人类和社会的机会。当我们更广泛的团队积极探索安全和公平问题时，我深入研究了医学、教育和科学领域的复杂挑战。越来越明显的是，这个模型和它的后继者--可能会在能力上表现出进一步的跳跃--拥有巨大的潜力来进行变革。这使我开始思考更广泛的社会影响。
围绕着艺术创作和归属、恶意行为者、工作和经济，以及我们还无法设想的未知未来，人们想到了一些问题。随着生成性人工智能工具的普及，人们可能会对不再是无与伦比的知识和艺术思想和创作的源泉作出反应？这些进步会如何影响我们的自我认同和个人愿望？在就业市场上可能会有什么短期和长期的后果？人们对人工智能系统所做的创造性贡献如何得到认可？恶意行为者可能如何利用这些新兴的力量来造成伤害？这些用途有哪些重要的潜在意外后果，包括那些我们可能还没有预见的后果？
同时，我想象着这样的未来：人们和社会可以通过利用这种技术以非同寻常的方式蓬勃发展，就像他们利用其他革命性的进步一样。这些变革性的影响包括从最初的认知工具--我们的共享语言，使前所未有的合作和协调--到科学和工程的工具，印刷术，蒸汽机，电力和互联网，最终达到今天人工智能的最新进展。
我们渴望与不同学科的其他人合作研究这些机会，因此在OpenAI的支持下，我们发起了"AI文集"项目。我们邀请了20位专家来探索GPT-4的能力，并思考未来版本对人类的潜在影响。每位参与者都被授予对GPT-4的早期保密访问权，提供教育、科学探索和医学方面的案例研究，这些案例来自我的探索，并被要求专注于两个核心问题：
这项技术和它的后继者可能对人类的繁荣做出怎样的贡献？作为社会，我们如何才能最好地引导技术，为人类实现最大的利益？在我2022年11月在密歇根大学的坦纳讲座中提出的观点基础上(智能的弧线：人类与它的理性和想象力工具)，这些问题强调了长期思考的重要性，并对人工智能丰富人类生活的潜力保持乐观的态度。我们可以释放出巨大的潜在利益。但为了实现这种潜力，我们必须创造技术创新和政策，以防止恶意使用和意外后果。
这本文集证明了设想和合作的承诺，以及在塑造人工智能的未来时不同观点的重要性。这20篇文章提供了大量的见解、希望和关切，说明了随着人工智能的快速发展而产生的复杂性和可能性。
当你阅读这些文章时，我鼓励你对新的想法保持开放，参与深思熟虑的对话，并为正在进行的关于利用人工智能技术造福和赋予人类权力的讨论提供你的见解。人工智能的未来不是一条预先确定的道路，而是我们必须以智慧、远见和深刻的责任感共同驾驭的旅程。我希望这些文章中的观点有助于我们对我们所面临的挑战和机遇的集体理解。它们可以帮助指导我们努力创造一个人工智能系统补充人类智力和创造力以促进人类繁荣的未来。
欢迎来到"AI文集"。愿它能激励你，挑战你，并点燃有意义的对话，引导我们走向一个以创造性和有价值的方式利用人工智能而使人类繁荣的未来。
从今天开始，我们将在每周初发布四篇新文章。完整的"AI文集"将于2023年6月26日推出。
作为微软的首席科学官，埃里克-霍维茨带头在全公司范围内开展活动，在科学前沿、技术和社会的交汇处驾驭机遇和挑战。他因对人工智能理论和实践的贡献而闻名，包括在开放世界的复杂性中研究人工智能的原理和应用。
这些文章中所表达的观点、意见和建议仅代表作者本人，并不一定反映任何其他实体或组织的官方政策或立场，包括微软和OpenAI。作者对其文章中提出的信息和论点的准确性和原创性负全责。参与"AI文集"是自愿的，没有向作者提供任何奖励或补偿。
标签人工智能
介绍微软安全领航员：以人工智能的速度为防御者赋能
今天的防御者面临着巨大的困难今天，网络安全专业人员仍然面临着巨大的困难。他们经常与多产的、无情的和复杂的攻击者进行不对称的战斗。为了保护他们的组织，防御者必须对经常隐藏在噪音中的威胁做出反应。使这一挑战更加复杂的是全球熟练的安全专业人员的短缺，导致该领域估计有340万的空缺。
攻击的数量和速度要求我们不断地创造新的技术，使天平倾向于防御者。安全专业人员是稀缺的，我们必须让他们有能力破坏攻击者的传统优势，并为其组织推动创新。
在过去的几个月里，随着各组织将先进的人工智能应用于新的技术和用例，世界见证了一波创新。我们已经为范式转变做好准备，并通过将微软领先的安全技术与人工智能的最新进展相结合，实现了巨大的飞跃。
今天，在我们的首届微软安全活动中，我很高兴地欢迎你进入安全的新时代--由OpenAI的GPT-4生成性人工智能的力量所塑造--并激动地向你介绍微软安全驾驶仪。
安全领航员--以机器的速度和规模进行端到端防御微软SecurityCopilot是第一个让防御者以人工智能的速度和规模行动的安全产品。SecurityCopilot将这种先进的大型语言模型（LLM）与微软的安全专用模型相结合。这个安全专用模型反过来又结合了一套不断增长的安全专用技能，并以微软独特的全球威胁情报和超过65万亿的每日信号为依据。由于在Azure的超大规模基础设施上运行，SecurityCopilot还提供了企业级的安全和符合隐私的体验。
当SecurityCopilot收到安全专业人员的提示时，它就会利用安全专用模型的全部力量来部署技能和查询，使最新的大型语言模型能力的价值最大化。而这对于一个安全用例来说是独一无二的。我们的网络训练模型增加了一个学习系统来创建和调整新的技能。然后，SecurityCopilot可以帮助捕捉其他方法可能错过的东西，并增强分析员的工作。在一个典型的事件中，这种提升可以转化为检测质量、响应速度和加强安全态势的能力方面的收益。
安全领航员并不总是能做对一切。AI生成的内容可能包含错误。但SecurityCopilot是一个闭环学习系统，这意味着它在不断地向用户学习，并通过直接内置在工具中的反馈功能给他们提供明确的反馈。随着我们不断从这些互动中学习，我们正在调整它的反应，以创造更连贯、相关和有用的答案。
SecurityCopilot还与端到端的微软安全产品集成，随着时间的推移，它将扩展到一个不断增长的第三方产品的生态系统中。因此，简而言之，SecurityCopilot不仅是一个大型的语言模型，而是一个能够学习的系统，使企业能够真正以机器的速度进行防御。
我们绝对相信，安全是一项团队运动，而安全应该以隐私为核心。我们在建立SecurityCopilot时考虑到了安全团队--你的数据始终是你的数据，并保持在你的控制范围内。它不被用来训练基础的人工智能模型，事实上，它受到最全面的企业合规和安全控制的保护。在保持隐私的同时，每个用户的互动可以很容易地与其他团队成员分享，以加快事件响应，更有效地合作解决复杂问题，并发展集体技能。
提升人类力量的技术人类的创造力和知识对于防御来说永远是必不可少的。SecurityCopilot可以通过机器的速度和规模来增强安全专业人员的能力，从而将人类的智慧部署到最重要的地方。在提供这种体验时，我们以三个原则为指导：
简化复杂的事情。在安全领域，时间很重要。有了SecurityCopilot，防御者可以在几分钟内对安全事件做出反应，而不是几小时或几天。SecurityCopilot通过基于自然语言的调查体验提供关键的逐步指导和背景，从而加速事件调查和响应。快速总结任何过程或事件的能力，并调整报告以适应所需的受众，使防御者能够专注于最紧迫的工作。抓住别人错过的东西。攻击者隐藏在噪音和微弱的信号背后。防御者现在可以发现恶意行为和威胁信号，否则就会被发现。SecurityCopilot实时浮现出优先考虑的威胁，并根据微软的全球威胁情报持续推理，预测威胁行为者的下一步行动。SecurityCopilot还配备了代表安全分析师在威胁猎取、事件响应和漏洞管理等领域专业知识的技能。解决人才差距。一个安全团队的能力总是受到团队规模和人类注意力的自然限制。SecurityCopilot以其回答安全相关问题的能力提高了你的防御者的技能--从基本问题到复杂问题。SecurityCopilot不断地从用户的互动中学习，适应企业的偏好，并建议防御者采取最佳行动方案，以实现更安全的结果。它还支持新团队成员的学习，因为它使他们在发展中接触到新的技能和方法。这使安全团队能够事半功倍，并以更大、更成熟的组织的能力运作。无与伦比的安全能力通过SecurityCopilot，我们将微软领先的安全技术与人工智能领域的最新进展相结合，将敏捷性优势还给了防御者。通过与SecurityCopilot合作，企业可以获得无可比拟的深度和广度的安全人工智能能力，包括：
持续获得最先进的OpenAI模型，以支持最苛刻的安全任务和应用一个专门针对安全的模型，得益于持续的强化、学习和用户反馈，以满足安全专业人士的独特需求；由您的组织的安全产品和微软每天看到的65万亿威胁信号提供的可视性和常青的威胁情报，以确保安全团队在操作时对攻击者、其战术、技术和程序有最新的了解；与微软的端到端安全组合整合，在安全信号的基础上获得高效的体验；越来越多的独特技能和提示，提升了安全团队的专业知识，为即使在有限的资源下也能实现的目标设定了更高的标准。YouTube视频以负责任的方式提供安全AI毫无疑问，人工智能将改变全世界的组织与安全技术的互动方式。为了实现其最大潜力，安全人工智能解决方案必须以安全、可靠和负责任的方式交付。通过SecurityCopilot，我们加强了对有影响力和负责任的人工智能实践的承诺，以负责任的方式进行创新，赋予他人权力，并促进积极影响。
这项工作的基石是我们对SecurityCopilot如何处理您的数据的承诺：
你的数据就是你的数据。它由你拥有和控制，你可以选择如何利用和盈利。你的数据不被用来训练或充实他人使用的基础人工智能模型--你的组织之外的任何人都不会从根据你的数据或业务流程训练的人工智能中受益。您的数据和人工智能模型在每一步都受到业内最全面的企业合规和安全控制的保护。安全的新时代在微软，我们相信，安全最终是关于人的。通过SecurityCopilot，我们正在建立一个未来，让每一个防御者都能获得技术和专业知识，使他们能够充分发挥自己的潜力。技术将在这一旅程中发挥重要作用，但成功的安全是，并将继续是，人类的努力。
我们很高兴能与你一起踏上这段旅程，我们期待着很快分享更多。欢迎来到安全的新时代。
观看微软安全领航员演示>
微软安全：探索改变未来安全的创新
了解最新情况>
相关链接：
迎接时机：通过负责任的人工智能推进未来的发展人工智能如何影响安全的未来
微软安全部达到另一个里程碑--全面的、以客户为中心的解决方案推动成果
用新的人工智能驱动的微软必应和Edge重塑搜索，你的网络副驾驶
引述：
网络信号》第二卷
标签：AI,微软安全领航员,安全