AI技术中弱人工智能、通用人工智能、超级人工智能的区别！
其实AI技术被区分为弱人工智能、通用人工智能、超级人工智能三种模式，弱人工智能也被称为狭义人工智能，是专攻某一领域的人工智能，比如一种AI能在国际象棋比赛中打败世界冠军，例如在围棋上大放异彩的AlphaGo都属于弱人工智能。
通用人工智能(ArtificialGeneralIntelligence,AGI)也叫强人工智能，或人类级人工智能，通用人工智能指的是一台像人类一样拥有全面智能的计算机，人类能解决的智力问题他都能解决。创建通用人工智能比创建弱人工智能难多了，现在社会上尚未由成熟的案例，在建设目标上，人们希望通用人工智能具备为“通用的思考能力，包括但不限于推理、计划、解决问题、抽象思考、理解复杂概念、快速学习和从经验中学习的能力。”
牛津大学哲学家、人工智能思想家尼克·博斯特罗姆（NickBostrom）将超级智能定义为“在几乎所有领域，包括科学创造力、一般智慧和社交技能，都比最优秀的人类大脑聪明得多的智力。
但是目前来说，我们所讨论的AI技术，主要集中在弱人工智能上，例如人脸识别，语音识别，目前市场主流的各大智能手机配备的语音机器人、人脸识别都是AI技术的落地应用的场景之一。此外在线上支付、门禁安全、安防等领域，AI技术的应用相对成熟，不过这类应用场景多与城市安防，公安监控相结合，其对设备和技术要求高，业务门槛也相对较高，在我国政务信息化建设中，AI贴合垂直行业需求，满足其定制化功能，在安防领域发挥了巨大作用。
弱人工智能在个人智能终端和安防领域的应用相对成熟，不过在很多细分垂直领域上，人工智能的应用场景还待开发。例如在会议场景中加入人脸识别，语音唤醒等功能，构建智能化的会议场景，但是这类产品建设成本过高，一般的企业难以承受这样的成本价格，此外在需求上，智能化会议室更多是一个升级产物，而并非一个刚需。
OpenAI发布通用人工智能路线图：AGI比想象中来得更快
机器之心报道
编辑：泽南、小舟
通用人工智能的出现可能只是技术发展历程中的一个小节点，因为AGI或许可以加速自身的进步，从而以指数方式扩展能力。
在ChatGPT引爆科技圈之后，人们对于先进技术产生了更多期待，但一直有专家警告AI可能造成的危害。我们知道，OpenAI的使命是确保通用人工智能——比人类更聪明的AI系统，能够造福全人类。本周五，这家公司发布了「AGI路线图」，详细解释了这家前沿研究机构对通用人工智能研究的态度。
在路线图中，OpenAI对新技术的发展有了更加谨慎的态度，这可能意味着以后用户和应用范围会受到更严密的监控和限制。让我们看看OpenAI是怎么说的：
如果通用人工智能（AGI）最终被成功构建起来，这项技术不仅可以带来更多可能性，推动全球经济发展，也能改变新兴科学知识的发现，会从各种角度帮助人类提升生活水平。
AGI有潜力赋予每个人不可思议的新能力。我们可以想象这样一个世界，在其中，所有人都可以获得几乎所有认知任务的帮助，它或许是人类才智和创造力的巨大力量倍增器。
但另一方面，正如一些人所担心的，通用人工智能也会带来严重的滥用、严重事故和社会混乱的风险。由于AGI的好处如此之大，我们不能认为让社会永远停止其发展是可取的方向，相反，社会和AGI的开发者必须要想办法把它做好。
与通用人工智能共同生活的未来图景难以预测，当前的AI进展可能会遭遇新的挑战，但在ChatGPT获得成功的当下，OpenAI列出了我们最关心的几项原则：
1.我们希望通用人工智能使人类能够在宇宙中实现最大程度的繁荣。我们不希望未来成为一个虚假的乌托邦，但我们希望将技术好的一面最大化，坏的一面最小化，让AGI成为人类善意的放大器。
2.我们希望AGI的益处、接入和治理能得到广泛和公平的分享。
3.我们要正确应对潜在风险。在面对这些风险时，理论上似乎正确的事情在实践中往往比预期更难以控制。我们必须通过部署功能较弱的技术版本来不断学习和适应，以最大程度地减少「无可挽回」的情况。
短期目标
OpenAI认为，若为通用人工智能的发展做准备，有几件事要先做好。
首先，随着我们不断构建出更为强大的AI系统，我们必然希望快速部署AGI并获得在现实世界中操作它们的经验。谨慎管理AGI存在的最佳方式应该是逐渐过渡到AGI的世界。我们期望强大的AI能够加快世界进步的速度，OpenAI认为最好是逐步适应这一点。
渐进的方式让人们、政策制定者和机构能有时间了解正在发生的事情，亲身体验这些系统的好处和缺点，调整我们的经济组织形式，并实施有效监管。渐进的方式还允许社会和AI共同进化，并允许人们在风险相对较低的情况下共同弄清楚自身所需。
OpenAI目前认为，成功应对AI部署挑战的最佳方法是采用快速学习和谨慎迭代的紧密反馈循环。在新技术的冲击下，社会将面临「人工智能系统被允许做什么、如何消除偏见、如何处理工作岗位流失」等重大问题。最佳决策将取决于技术所采用的路径，并且与任何新领域一样，到目前为止，大多数的专家预测都是存在偏差的。这使得在预期外进行规划会非常困难。
一般来说，我们认为在世界上更多地使用AI会带来好处，并希望推广它（通过将模型放入服务API中，将它们开源等等）。OpenAI相信，开放的访问也将导致更多更好的研究，吸引更多的人贡献新的想法。
OpenAI表示，随着其开发的系统越来越接近AGI，该机构在模型的创建和部署方面都变得越来越谨慎。
OpenAI需要权衡部署大模型的利弊。一方面，部署先进的大模型是重要的科技进展；另一方面，部署模型之后，公司和机构也需要考虑如何限制恶意行为者、避免对社会和经济造成不良影响等问题。在这种情况下，OpenAI表示将围绕持续部署来改进其规划。
其次，OpenAI正在努力创建更加一致和可控的模型。从GPT-3的第一个版本到InstructGPT和ChatGPT，这一步步的转变就是OpenAI在这个方向上努力的例子。
值得注意的是，OpenAI认为有一点非常重要，就是人类社会需要就如何使用人工智能达成极其广泛的界限，而在这些界限内，个人用户有很大的自由使用权。OpenAI希望最终世界能够就这些广泛的界限达成一致。
随着模型变得更强大，OpenAI将需要开发新的对齐技术。OpenAI的短期计划是使用AI来帮助人类评估更复杂模型的输出并监控复杂系统，而从长远来看，OpenAI将会使用AI来帮助其提出新的想法以获得更好的对齐技术。
重要的是，我们需要在人工智能安全和能力方面共同取得进展，这二者不应该分开谈论。OpenAI表示其最安全的工作来自于其最有能力的模型。也就是说，提高人工智能的安全性对AI研究进步非常重要。
第三，OpenAI希望就三个关键问题展开全球对话：如何治理这些系统，如何公平分配它们产生的收益，以及如何公平共享访问权限。
除了这些，OpenAI还提到在该公司的章程中有一个条款是关于协助其他组织提高安全性，而不是在后期AGI开发中与对手竞争。OpenAI投资规则中对股东可以获得的回报设定了上限，这样研究机构本身就不会被激励去尝试无限制地获取价值，也不会冒险部署具有潜在灾难性危险的东西。
OpenAI被一个非营利组织管理，以保证该机构是为人类的利益而运行（并且可以凌驾于任何营利利益之上）。
OpenAI认为在发布新系统之前进行独立审查是AGI研究非常重要的一步。关于AGI工作应何时停止训练、确定模型可以安全发布或从生产使用中撤出模型的公共标准是很重要的。最后，OpenAI认为世界主要政府应对超过一定规模的机器学习训练保持监管。
长远目标
OpenAI相信人类的未来应该由人类自己决定，与公众分享有关进步的信息至关重要。我们应该对所有试图建立AGI的努力进行严格审查，并在重大决策上面向公众进行咨询。
从某种意义上说，第一个AGI将只是人工智能持续发展中的一个小节点，然后从这个节点开始不断衍生出新的进展。AI的发展可能会在很长一段时间内保持我们在过去十年中看到的进展速度。
有一天，世界可能会变得与今天截然不同，但科技的进步也可能带给人类很大的风险。一个「错位的」超级智能AGI可能会对世界造成严重的伤害。
加速科学发展的人工智能将是一个值得思考的特例，这也许比其他任何事情都更有影响力。有足够能力加速自身进步的AGI可能会导致世界发生重大变化。也许AGI的发展在初期是比较缓慢的，但OpenAI预计给世界带来巨大变化的AGI在最后阶段一定会出现。
基于上述原因，OpenAI认为AGI领域较慢的启动速度更容易确保安全，并且AGI在关键时刻减速可能也很重要。即使技术的进展让我们可以迅速发展AGI，但减速的重要意义是要给社会足够的时间来适应。
成功过渡到一个拥有超级智能的世界可能是人类历史上最重要、最有希望，但也最可怕的项目。这种巨大进展的成功还远未得到保证，但我们已经可以预见的利害关系有望将所有人团结起来。
无论如何，那将是一个繁荣到我们还无法完全想象的世界。而OpenAI希望为世界贡献一个与这种繁荣相一致的通用人工智能。
参考内容：
https://openai.com/blog/planning-for-agi-and-beyond/
原标题：《OpenAI发布通用人工智能路线图：AGI比想象中来得更快》
阅读原文
科技观察：通用人工智能已被中央关注
据大众日报4月29日头版头条《推动经济实现质的有效提升和量的合理增长》报道，中共中央政治局在4月28日召开会议，分析研究当前经济形势和经济工作。会议提到“要重视通用人工智能发展，营造创新生态，重视防范风险。”由此可见，通用人工智能已被中央关注。
首先，什么是通用人工智能？目前还没有统一定义，常见的说法是指ArtificialGeneralIntelligence，AGI。2007年，知名科技出版集团施普林格(Springer)出版了由本·戈策尔（BenGoertel）和卡西奥·潘纳钦（CassioPennachin）合作的编著“ArtificialGeneralIntelligence”，提出了AGI的命名，并解释了AGI的大体含义是能自我理解和自主控制，能解决复杂问题和新问题的AI系统。由戈策尔担任主席的世界通用人工智能协会（http://agi-society.org），解释了AGI的由来：人工智能（AI）最初设想是创建像人一样能够思考的机器，但由于实践中一直没能成功，因此AI研究转向寻求点上突破，形成针对特定领域、特定问题的专用智能，比如AlphaGo下棋。近年来，随着技术的发展，重回AI的初心具备了越来越多的可能性和可行性，也就是继续发展人类水平的智能。为与专用人工智能区别，采用了通用人工智能AGI的说法。由此来看，通用人工智能应该就是人工智能最本来的面目。近期引发广泛关注的ChatGPT、文心一言等AI产品背后的生成式人工智能大模型，具备了部分知识问答、逻辑推理、意见建议等功能，可以在更多场景中应用，形成了通用人工智能的雏形。
其次，为何在经济会议上研究通用人工智能？关联之前的四则信息来思考。两则是来源于百度微信官方账号：2月发布2022年财报时提到有400多家企业宣布加入百度文心一言生态圈，飞桨平台服务企事业单位20万家；截至3月16日21点，申请百度文心一言API（应用程序接口）调用服务测试的企业已突破6.5万，将助力金融、能源、媒体、政务等千行百业的智能化变革。另外两则是来源于阿里云微信官方账号：4月26日2023阿里云合作伙伴大会透露，“已有超20万企业用户申请测试千问大模型，企业合作专属大模型的需求十分火爆。从通讯、电子产品、企业服务、金融信息，到交通、电力、油气、服饰甚至乳制品等，几乎每个行业都有许多企业找来，这是一片巨大的智能化新市场”；4月27日第六届数字中国建设峰会上，阿里又提出了“实体经济是智能化主战场，千行百业将被重新定义”的观点。由此来看，越来越多的行业尝试嫁接通用人工智能技术，迭代升级出新的产品、服务和业态，用通用人工智能技术赋能产业发展，营造创新生态，进而形成推动现有经济体系实现质的有效提升和量的合理增长的新手段。因此，通用人工智能是作为经济发展的创新手段被中央关注的。
再次，为什么要提重视防范风险？自2022-2023年的岁末年初，作为通用人工智能当前的主要代表，生成式人工智能技术迎来新的爆发点。越来越多的IT大厂作为技术供给方纷纷跑步入局，作为技术应用方的各行业用户更是人头攒动。互联网就是现实社会的映射。热闹环境下，生成式人工智能被误用、滥用、恶用的现象开始出现。比如生成虚假信息误导公众，换脸恶搞图片谋取不当利益，录入的敏感信息、代码遭泄露，训练数据和生成内容的版权争议等。4月10日，中国支付清算协会发布的《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》中指出“此类智能化工具已暴露出跨境数据泄露等风险”，并倡议依法依规使用，不上传关键敏感信息。4月11日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，对生成式人工智能技术提供方提出了要依法合规，尊重社会公德、公序良俗等方面的要求。4月20日，美国新闻/媒体联盟发布了针对生成式人工智能的AI原则，对技术供给方提出了版权、公平、安全等方面的要求。这些问题和伴随而生的监管政策，主要解决的是现有生成式AI的应用风险。另一个层面的风险，就是生成式人工智能技术发展可控性的风险。3月22日，生命未来研究院（FutureofLifeInstitute）发布了一封名为《暂停大型AI实验》的公开信，倡导所有AI实验室立即暂停训练比GPT-4还强大的AI系统至少6个月，以便开发AI治理系统，增强AI可控性。公开信中提及的AI领域中区分真实与合成、审计和认证生态、人工智能伤害责任界定、人工智能安全技术、重大经济政治破坏等问题和风险，确实值得引起重视。截至5月5日，已有27565个独立签名被审核通过。