如何认识人工智能对未来经济社会的影响
原标题：如何认识人工智能对未来经济社会的影响人工智能作为一种新兴颠覆性技术，正在释放科技革命和产业变革积蓄的巨大能量，深刻改变着人类生产生活方式和思维方式，对经济发展、社会进步等方面产生重大而深远的影响。世界主要国家都高度重视人工智能发展，我国亦把新一代人工智能作为推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量。在此背景下，我们有必要更好认识和把握人工智能的发展进程，研究其未来趋势和走向。
人工智能不同于常规计算机技术依据既定程序执行计算或控制等任务，而是具有生物智能的自学习、自组织、自适应、自行动等特征。可以说，人工智能的实质是“赋予机器人类智能”。首先，人工智能是目标导向，而非指代特定技术。人工智能的目标是在某方面使机器具备相当于人类的智能，达到此目标即可称之为人工智能，具体技术路线则可能多种多样，多种技术类型和路线均被纳入人工智能范畴。例如，根据图灵测试方法，人类通过文字交流无法分辨智能机器与人类的区别，那么该机器就可以被认为拥有人类智能。其次，人工智能是对人类智能及生理构造的模拟。再次，人工智能发展涉及数学与统计学、软件、数据、硬件乃至外部环境等诸多因素。一方面，人工智能本身的发展，需要算法研究、训练数据集、人工智能芯片等横跨整个创新链的多个学科领域同步推进。另一方面，人工智能与经济的融合要求外部环境进行适应性变化，所涉的外部环境十分广泛，例如法律法规、伦理规范、基础设施、社会舆论等。随着人工智能进一步发展并与经济深度融合，其所涉外部环境范围还将进一步扩大，彼此互动和影响亦将日趋复杂。
总的来看，人工智能将波浪式发展。当前，人工智能正处于本轮发展浪潮的高峰。本轮人工智能浪潮的兴起，主要归功于数据、算力和算法的飞跃。一是移动互联网普及带来的大数据爆发，二是云计算技术应用带来的计算能力飞跃和计算成本持续下降，三是机器学习在互联网领域的应用推广。但人工智能技术成熟和大规模商业化应用可能仍将经历波折。人工智能的发展史表明，每一轮人工智能发展浪潮都遭遇了技术瓶颈制约，导致商业化应用难以落地，最终重新陷入低潮。本轮人工智能浪潮的技术上限和商业化潜力都大大高于以往，部分专用人工智能可能获得长足进步，但许多业内专家认为目前的人工智能从机理上还不存在向通用人工智能转化的可能性，人工智能大规模商业化应用仍将是一个长期而曲折的过程。人工智能的发展尚处于早期阶段，在可预见的未来仍将主要起到辅助人类工作而非替代人类的作用，同时，严重依赖数据输入和计算能力的人工智能距离真正的人类智能还有很大的差距。
作为继互联网后新一代“通用目的技术”，人工智能的影响可能遍及整个经济社会，创造出众多新兴业态。国内外普遍认为，人工智能将对未来经济发展产生重要影响。
一方面，人工智能将是未来经济增长的关键推动力。人工智能技术的应用将提升生产率，进而促进经济增长。许多商业研究机构对人工智能对经济的影响进行了预测，主要预测指标包括GDP增长率、市场规模、劳动生产率、行业增长率等。多数主要商业研究机构认为，总体上看，世界各国都将受益于人工智能，实现经济大幅增长。未来十年（至2030年），人工智能将助推全球生产总值增长12%左右。同时，人工智能将催生数个千亿美元甚至万亿美元规模的产业。人工智能对全球经济的推动和牵引，可能呈现出三种形态和方式。其一，它创造了一种新的虚拟劳动力，能够解决需要适应性和敏捷性的复杂任务，即“智能自动化”；其二，人工智能可以对现有劳动力和实物资产进行有力的补充和提升，提升员工能力，提高资本效率；其三，人工智能的普及将推动多行业的相关创新，提高全要素生产率，开辟崭新的经济增长空间。
另一方面，人工智能替代劳动的速度、广度和深度将前所未有。许多经济学家认为，人工智能使机器开始具备人类大脑的功能，将以全新的方式替代人类劳动，冲击许多从前受技术进步影响较小的职业，其替代劳动的速度、广度和深度将大大超越从前的技术进步。但他们同时指出，技术应用存在社会、法律、经济等多方面障碍，进展较为缓慢，技术对劳动的替代难以很快实现；劳动者可以转换技术禀赋；新技术的需求还将创造新的工作岗位。
当前，在人工智能对经济的影响这个领域，相关研究已经取得了一些成果，然而目前仍处于研究的早期探索阶段，还未形成成熟的理论和实证分析框架。不过，学界的一些基本共识已经达成：短期来看，人工智能发展将对我国经济产生显著促进作用；长期来看，人工智能的发展路径和速度难以预测。因此，我们需对人工智能加速发展可能导致的世界经济发展模式变化保持关注。
（作者单位：国务院发展研究中心创新发展研究部）
(责编：赵超、吕骞)分享让更多人看到
北京信息科技大学苏中：坚信人工智能是最强有力的创新加速器
原标题：北京信息科技大学苏中：坚信人工智能是最强有力的创新加速器2020年11月14日，由全国高校人工智能与大数据创新联盟主办、云南大学、电子科技大学、安徽工程大学、重庆邮电大学、佛山科学技术学院、上海工程技术大学、中北大学、北京信息科技大学、机械工业出版社、佛山市人工智能学会、新道科技、南京云创、杭州睿数科技等13家单位和机构协办的“2020第三届全国高校人工智能大数据区块链创新论坛”在北京隆重召开。来自产、学、研各界代表120多人出席了会议。全国各地80多所高校的院长、副院长、教授、副教授与40多家企业CEO、CIO、CTO等信息化高管齐聚一堂，紧紧围绕“产学合作、协同育人”、“人工智能大数据区块链教育教学创新”主题展开讨论，为“后疫情时代”全国高校人工智能大数据区块链教育教学事业发展、学科建设、产教融合、校企合作等提供了创新思路和实践指引。
在本届论坛上，北京信息科技大学荣获了2020年度全国高校人工智能大数据区块链教育教学先进单位奖，苏中教授作为获奖代表发表了获奖感言，全文如下：
尊敬的各位专家、老师，大家上午好：
在北京一年中最美的季节，非常荣幸我校人工智能专业获得“2020全国高校人工智能大数据区块链教育教学工作先进单位”奖，感谢全国高校人工智能与大数据创新联盟对我校人工智能专业建设和教育教学工作的肯定和鼓励。
目前全国有215所高校设立了人工智能专业，北京信息科技大学于2019年建设人工智能专业，在2020年作为北京信息科技大学实验班正式招生。构建了从信息获取到知识表示/学习；从知识融合到思维决策；从决策执行到反馈、再学习的以“感知融动”为特色的培养体系，致力于为信息输入智能，自主智能系统，虚拟技术、智能健康、跨媒体计算，大数据智能、类脑芯片等前沿产业培养基础型、未来型人才。
为实现“产学合作协同育人”宗旨，提升人才培养质量，我们围绕“跨媒体语义智能”培养内容，与创业板上市公司—拓尔思信息技术股份有限公司签订了校企合作办学协议，围绕“机器学习、机器视觉”培养内容，与A股上市公司中国大恒（集团）有限公司的北京大恒图像视觉有限公司签订了校企合作办学协议，围绕“自主无人系统”培养内容，与中小板上市公司北京星网宇达科技股份有限公司签订了校企合作办学协议，围绕“智能控制和定制化解决方案”培养内容，与上海宏英智能科技有限公司建立了联合实验室。
同时我们与现代测控技术教育部重点实验室、高动态导航技术北京市重点实验室和电子信息与控制国家级实验教学示范中心，在校内建立了“科教合作，协同育人，场景驱动”培养基地，以教师科研和虚拟仿真充分带动学生创新创业能力的培养。
展开全文作为始终是科技第一生产力、人才第一资源、创新第一动力的结合点和主阵地的高校。我们坚信人工智能是最强有力的创新加速器，未来人工智能的迅速发展必将深刻改变人类的社会生活、改变世界。
谢谢大家。
苏中，博士，教授，兼职博导，享受政府特殊津贴，北京学者。北京信息科技大学学术委员会主任、自动化学院院长。中国惯性技术计量技术委员会委员，中国仿真学会常务理事，中国电子学会嵌入式系统与机器人分会副主任委员、北京智能机器人产业技术创新联盟常务理事，全国高校人工智能与大数据创新联盟常务理事。2005年-2007年筹建了北京信息科技大学智能科学与技术专业，以“自主智能机器人系统”为特色；2019年，组织筹建北京信息科技大学人工智能专业，以“感知融动”为特色。现为学校学术委员会主任、控制科学与工程学科带头人、新一代信息技术与智慧控制学科群带头人（含控制科学与工程、计算机科学与技术、信息与通信工程一级学科）。从事教学、科研工作30余年，致力于人工智能技术创新性应用研究，发表论文100余篇，其中SCI和EI检索40多篇。荣获全国优秀教师、北京市先进工作者、北京市教学名师等荣誉称号。
返回搜狐，查看更多
责任编辑：霍金北京演讲：人工智能也可能是人类文明的终结者
霍金北京演讲：人工智能也可能是人类文明的终结者科技频道来源：澎湃新闻2017年04月27日14:08A-A+扫一扫手机阅读我要分享QQ空间新浪微博腾讯微博QQ微信原标题：
4月27日，著名物理学家史蒂芬·霍金在北京举办的全球移动互联网大会上做了视频演讲。在演讲中，霍金重申人工智能崛起要么是人类最好的事情，要么就是最糟糕的事情。他认为，人类需警惕人工智能发展威胁。因为人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类由于受到漫长的生物进化的限制，将无法与之竞争，从而被取代。
以下为霍金演讲内容：
在我的一生中，我见证了社会深刻的变化。其中最深刻的，同时也是对人类影响与日俱增的变化，是人工智能的崛起。简单来说，我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。我不得不说，是好是坏我们仍不确定。但我们应该竭尽所能，确保其未来发展对我们和我们的环境有利。我们别无选择。我认为人工智能的发展，本身是一种存在着问题的趋势，而这些问题必须在现在和将来得到解决。
人工智能的研究与开发正在迅速推进。也许我们所有人都应该暂停片刻，把我们的研究重复从提升人工智能能力转移到最大化人工智能的社会效益上面。基于这样的考虑，美国人工智能协会（AAAI）于2008至2009年，成立了人工智能长期未来总筹论坛，他们近期在目的导向的中性技术上投入了大量的关注。但我们的人工智能系统须要按照我们的意志工作。跨学科研究是一种可能的前进道路：从经济、法律、哲学延伸至计算机安全、形式化方法，当然还有人工智能本身的各个分支。
文明所提产生的一切都是人类智能的产物，我相信生物大脑可以达到的和计算机可以达到的，没有本质区别。因此，它遵循了“计算机在理论上可以模仿人类智能，然后超越”这一原则。但我们并不确定，所以我们无法知道我们将无限地得到人工智能的帮助，还是被藐视并被边缘化，或者很可能被它毁灭。的确，我们担心聪明的机器将能够代替人类正在从事的工作，并迅速地消灭数以百万计的工作岗位。
在人工智能从原始形态不断发展，并被证明非常有用的同时，我也在担忧创造一个可以等同或超越人类的事物所导致的结果：人工智能一旦脱离束缚，以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。这将给我们的经济带来极大的破坏。未来，人工智能可以发展出自我意志，一个与我们冲突的意志。尽管我对人类一贯持有乐观的态度，但其他人认为，人类可以在相当长的时间里控制技术的发展，这样我们就能看到人工智能可以解决世界上大部分问题的潜力。但我并不确定。
在人工智能从原始形态不断发展，并被证明非常有用的同时，我也在担忧创造一个可以等同或超越人类的事物所导致的结果：人工智能一旦脱离束缚，以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。这将给我们的经济带来极大的破坏。未来，人工智能可以发展出自我意志，一个与我们冲突的意志。尽管我对人类一贯持有乐观的态度，但其他人认为，人类可以在相当长的时间里控制技术的发展，这样我们就能看到人工智能可以解决世界上大部分问题的潜力。但我并不确定。
2015年1月份，我和科技企业家埃隆·马斯克，以及许多其他的人工智能专家签署了一份关于人工智能的公开信，目的是提倡就人工智能对社会所造成的影响做认真的调研。在这之前，埃隆·马斯克就警告过人们：超人类人工智能可能带来不可估量的利益，但是如果部署不当，则可能给人类带来相反的效果。我和他同在“生命未来研究所”的科学顾问委员会，这是一个为了缓解人类所面临的存在风险的组织，而且之前提到的公开信也是由这个组织起草的。这个公开信号召展开可以阻止潜在问题的直接研究，同时也收获人工智能带给我们的潜在利益，同时致力于让人工智能的研发人员更关注人工智能安全。此外，对于决策者和普通大众来说，这封公开信内容翔实，并非危言耸听。人人都知道人工智能研究人员们在认真思索这些担心和伦理问题，我们认为这一点非常重要。比如，人工智能是有根除疾患和贫困的潜力的，但是研究人员必须能够创造出可控的人工智能。那封只有四段文字，题目为《应优先研究强大而有益的人工智能》的公开信，在其附带的十二页文件中对研究的优先次序作了详细的安排。
在过去的20年里，人工智能一直专注于围绕建设智能代理所产生的问题，也就是在特定环境下可以感知并行动的各种系统。在这种情况下，智能是一个与统计学和经济学相关的理性概念。通俗地讲，这是一种做出好的决定、计划和推论的能力。基于这些工作，大量的整合和交叉孕育被应用在人工智能、机器学习、统计学、控制论、神经科学、以及其它领域。共享理论框架的建立，结合数据的供应和处理能力，在各种细分的领域取得了显著的成功。例如语音识别、图像分类、自动驾驶、机器翻译、步态运动和问答系统。
随着这些领域的发展，从实验室研究到有经济价值的技术形成良性循环。哪怕很小的性能改进，都会带来巨大的经济效益，进而鼓励更长期、更伟大的投入和研究。目前人们广泛认同，人工智能的研究正在稳步发展，而它对社会的影响很可能扩大，潜在的好处是巨大的，既然文明所产生的一切，都是人类智能的产物；我们无法预测我们可能取得什么成果，当这种智能是被人工智能工具放大过的。但是，正如我说过的，根除疾病和贫穷并不是完全不可能，由于人工智能的巨大潜力，研究如何（从人工智能）获益并规避风险是非常重要的。
现在，关于人工智能的研究正在迅速发展。这一研究可以从短期和长期来讨论。一些短期的担忧在无人驾驶方面，从民用无人机到自主驾驶汽车。比如说，在紧急情况下，一辆无人驾驶汽车不得不在小风险的大事故和大概率的小事故之间进行选择。另一个担忧在致命性智能自主武器。他们是否该被禁止？如果是，那么“自主”该如何精确定义。如果不是，任何使用不当和故障的过失应该如何问责。还有另外一些担忧，由人工智能逐渐可以解读大量监控数据引起的隐私和担忧，以及如何管理因人工智能取代工作岗位带来的经济影响。
长期担忧主要是人工智能系统失控的潜在风险，随着不遵循人类意愿行事的超级智能的崛起，那个强大的系统威胁到人类。这样错位的结果是否有可能？如果是，这些情况是如何出现的？我们应该投入什么样的研究，以便更好的理解和解决危险的超级智能崛起的可能性，或智能爆发的出现？
当前控制人工智能技术的工具，例如强化学习，简单实用的功能，还不足以解决这个问题。因此，我们需要进一步研究来找到和确认一个可靠的解决办法来掌控这一问题。
近来的里程碑，比如说之前提到的自主驾驶汽车，以及人工智能赢得围棋比赛，都是未来趋势的迹象。巨大的投入倾注到这项科技。我们目前所取得的成就，和未来几十年后可能取得的成就相比，必然相形见绌。而且我们远不能预测我们能取得什么成就，当我们的头脑被人工智能放大以后。也许在这种新技术革命的辅助下，我们可以解决一些工业化对自然界造成的损害。关乎到我们生活的各个方面都即将被改变。简而言之，人工智能的成功有可能是人类文明史上最大的事件。
但是人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。我曾经说过，人工智能的全方位发展可能招致人类的灭亡，比如最大化使用智能性自主武器。今年早些时候，我和一些来自世界各国的科学家共同在联合国会议上支持其对于核武器的禁令。我们正在焦急的等待协商结果。目前，九个核大国可以控制大约一万四千个核武器，它们中的任何一个都可以将城市夷为平地，放射性废物会大面积污染农田，最可怕的危害是诱发核冬天，火和烟雾会导致全球的小冰河期。这一结果使全球粮食体系崩塌，末日般动荡，很可能导致大部分人死亡。我们作为科学家，对核武器承担着特殊的责任，因为正是科学家发明了它们，并发现它们的影响比最初预想的更加可怕。
现阶段，我对灾难的探讨可能惊吓到了在座的各位。很抱歉。但是作为今天的与会者，重要的是，你们要认清自己在影响当前技术的未来研发中的位置。我相信我们团结在一起，来呼吁国际条约的支持或者签署呈交给各国政府的公开信，科技领袖和科学家正极尽所能避免不可控的人工智能的崛起。
去年10月，我在英国剑桥建立了一个新的机构，试图解决一些在人工智能研究快速发展中出现的尚无定论的问题。“利弗休姆智能未来中心”是一个跨学科研究所，致力于研究智能的未来，这对我们文明和物种的未来至关重要。我们花费大量时间学习历史，深入去看——大多数是关于愚蠢的历史。所以人们转而研究智能的未来是令人欣喜的变化。虽然我们对潜在危险有所意识，但我内心仍秉持乐观态度，我相信创造智能的潜在收益是巨大的。也许借助这项新技术革命的工具，我们将可以削减工业化对自然界造成的伤害。
我们生活的每一个方面都会被改变。我在研究所的同事休·普林斯承认，“利弗休姆中心”能建立，部分是因为大学成立了“存在风险中心”。后者更加广泛地审视了人类潜在问题，“利弗休姆中心”的重点研究范围则相对狭窄。
人工智能的最新进展，包括欧洲议会呼吁起草一系列法规，以管理机器人和人工智能的创新。令人感到些许惊讶的是，这里面涉及到了一种形式的电子人格，以确保最有能力和最先进的人工智能的权利和责任。欧洲议会发言人评论说，随着日常生活中越来越多的领域日益受到机器人的影响，我们需要确保机器人无论现在还是将来，都为人类而服务。向欧洲议会议员提交的报告，明确认为世界正处于新的工业机器人革命的前沿。报告中分析的是否给机器人提供作为电子人的权利，这等同于法人（的身份），也许有可能。报告强调，在任何时候，研究和设计人员都应确保每一个机器人设计都包含有终止开关。在库布里克的电影《2001太空漫游》中，出故障的超级电脑哈尔没有让科学家们进入太空舱，但那是科幻。我们要面对的则是事实。奥斯本·克拉克跨国律师事务所的合伙人，洛纳·布拉泽尔在报告中说，我们不承认鲸鱼和大猩猩有人格，所以也没有必要急于接受一个机器人人格。但是担忧一直存在。报告承认在几十年的时间内，人工智能可能会超越人类智力范围，人工智能可能会超越人类智力范围，进而挑战人机关系。报告最后呼吁成立欧洲机器人和人工智能机构，以提供技术、伦理和监管方面的专业知识。如果欧洲议会议员投票赞成立法，该报告将提交给欧盟委员会。它将在三个月的时间内决定要采取哪些立法步骤。
我们还应该扮演一个角色，确保下一代不仅仅有机会还要有决心，在早期阶段充分参与科学研究，以便他们继续发挥潜力，帮助人类创造一个更加美好的的世界。这就是我刚谈到学习和教育的重要性时，所要表达的意思。我们需要跳出“事情应该如何”这样的理论探讨，并且采取行动，以确保他们有机会参与进来。我们站在一个美丽新世界的入口。这是一个令人兴奋的、同时充满了不确定性的世界，而你们是先行者。我祝福你们。
刘慈欣谈 ChatGPT：人类的无能反而是人类最后的屏障
划重点
1人工智能会首先取代高智能的职业，这与我们的预测相反2人工智能可以自我迭代出更高智能的版本，但我们的算力限制它的发展3人工智能或许会让人类陷入舒适的陷阱之中在联合国中文日上，刘慈欣发表了一篇题为《科幻文学中的可持续未来》的演讲，用科幻的视角解读了一个截然不同的人类未来。
何为科幻视角？从距地球60亿公里的太空之上，回望这颗比尘埃还小，却又承载了和我们有关的一切的星球，即为科幻视角。
在演讲结束后，刘慈欣谈到了以ChatGPT为代表的人工智能可能会给人们带来的影响。
2015年，刘慈欣曾在一次采访中引用了霍金的观点，霍金曾预言「人工智能比核弹还危险，人类马上就要被人工智能控制」，当时的他认为这个说法有点危言耸听。
而现在，他认为我们是时候对未来有所警觉。
Q：现在ChatGPT横空出世，被人们热烈地讨论，您觉得人工智能的发展对人类的命运会产生一个什么样的影响？那自我迭代的人工智能有没有可能会取代或者说消灭人类？
我觉得这（人工智能的影响）应该从这个现实或近未来和比较远的未来这两点来看待。
从我们近未来或甚至从我们现实来看，人工智能它对我们社会世界的影响我相信大家已经都看到了，它现在已经产生一个很明显的趋势：（人工智能）有可能在代替我们人去从事很多的工作。
这个应该说是一个正面的趋势，这种趋势它可以提高我们的生活质量、提升人类的幸福感，让我们的生活在科技的加持之下可能变得更加舒适。
但是另一方面我们也不能不正视，人工智能的发展给人类社会带来的冲击。
首先，最明显的一点是人工智能可能会代替相当多的「人的工作」，而且这个趋势与我们以前的预测正好相反。
以前我们预测认为人工智能首先代替的是那些简单劳动、重复劳动的那样的工作，但是现在看来正好相反，人工智能可能首先代替的是那些需要高智能的、很高的教育程度的那样的工作，比如像医生、教师、股票经纪人等等这些工作可能是被首先代替的。这其中可能也包括我们作家也可能首先被代替的。
所以说人工智能对于人类的整个世界的发展来，它的影响很深远。我们再往层次再高一些的话，人工智能可能会对我们世界中相当多的比较基础的东西可能会产生重大的影响。
比如它会对文化艺术、文学，对这个人的创造力，对人的对世界的认识等等可能都会产生重大的影响，甚至可能让这一些东西都会被重新定义。
当这个人工智能现在已经开始介入到我们的科学研究之中，介入到我们对整个世界规律、对自然规律的认识之中，介入到对人类发展规律的认识之中，它可能产生的影响十分的深远。
当初人工智能在围棋领域战胜很多优秀的围棋选手的时候，有一位我们国内最出色的围棋选手说了一句话，让我印象很深刻。
他说中国的围棋博大精深，有两三千年的历史，积累了深厚的这个理论和经验，甚至围棋本身成为一种文化，具有了很深的禅意，但是就在这一夜之间，我们发现它的一切全是错的。
这一个说法确实很令人震惊，这件事情会不会发生在别的领域我们不知道，如果广泛发生的话，那么人工智能对人类文化文明最深层的影响我们是不可忽视的。
下面我回答您的第二个问题，就是说人工智能是否会把这个会消灭人类，这也应该分两个层次来回答。
第一个层次就是这种字面意义上的消灭，就是人工智能用某种暴力从肉体上完全消灭人类或是统治世界。
这一点从目前的这个技术发展趋势来看，特别是从目前的技术水平来看，在可以看到的未来可能性不是太大。
当然您刚才提到一个很有意思的概念叫迭代。人工智能的迭代，这是目前人工智能最可能出现危险的一个行为。
这个行为是什么呢？就是说当人工智能按我们现在的发展，它比人类的智能稍稍高一些的话，它自己也会像人类一样去创造新的人工智能，它创造出来的这个新人工智能可能比它的智能也稍微高一点，那么它又会接着迭代下一代，这样的话他们就会很快的把这些人工智能的智能水平提高到很高。
可能迭代下去，会提高到人类（智能）的几百倍甚至上万倍。
而它而由于它的这个计算机的计算时间比这个人脑人的大脑要快成千上万倍，那么这个迭代的时间可能十分的短，据推测可能只有半个小时到一个小时。
就说我们把人工智能发展到现在用了一个世纪的时间，而人工智能百倍于现在的这个程度，可能只用半个小时到一个小时，这是很可怕的一件事。
但是做出这个预测的人忘了一点，就是我们人类的计算能力，我们所能提供的算力是有限的。它的迭代到一定程度，我们的算力不（能够）支持它。
所以这就是一个有很讽刺意义的一件事情：我们人类的无能反而成为我们一个最后的屏障。所以您说的这这种毁灭不太可能。
那么第二种消灭则是一种我们想不到的一种方式，就是说第一种消灭人类是完全违背人类意愿的，而第二种对人类的消灭可能完全符合我们的意义。
比如说人工智能的发展，我刚才说过它可能会代替我们的这个大量的工作，而我们的社会如果适应了与人工智能的这种共存，我们发展出一种新的这种分配制度，那么我们就可能带来一个十分舒适的那种社会环境和十分舒适的生活。大部分人可能不需要工作，把大部分的工作都交给人工智能来进行。
在这种情况下，我们会越来越多地交出自己对社会运作的操作这种权利给到人工智能。
而生活会变得越来越舒适，那么这个样子下去的话，我们可能面临着人类历史上前所未有的一个巨大的陷阱。
就是说在这个科技的这种安乐窝里面，那么人类文明的活力在哪里？我们的开拓精神在哪里？如果这样一直发展下去的话，那可能人类最后的命运就是您说的被人工智能所消灭，但这个消灭的过程完全是在我们的意愿之内，而人工智能至始至终它没有任何恶意，它只是照着人类的指示去行驶。
而这样的如果真的发生这样的事，那人工智能所需要的它的智能程度以及它所需要的计算能力远远小于我们前面那个真正的字面意义上的那种消灭。所以这确实是我们应该对未来有所警觉的一件事情。
刘慈欣演讲全文整理
大家好，我们今天要谈论的话题是科幻文学中的可持续未来。
作为一种基于想象力的文学形式，科幻小说并不能够对未来作出科学的预测，它只是描述未来的各种可能性，同时它也提供了一个看世界和看未来的独特视角，这个视角与我们从现实看世界看未来的视角可能有很大的不同。
▲《暗淡蓝点》
科幻的视角是什么？大家可能都知道一张叫《暗淡蓝点》的照片，我本来想把那个照片拿来的，但我觉得好像大家应该都看过那张照片，就没有把它拿来放出来。
这可能是人类历史上最重要也是最著名的照片之一，他是上个世纪70年代发射的旅行者1号宇宙探测器，在90年代初在距地球60亿公里的太空中拍摄的。
初看上去整张照片它都是黑色的，很仔细看才能发现这一片黑色中有一个小小的亮点。它十分的小，就是仅有这张照片的0.12个像素那么大。如果不加以指示，你说观看者是很难发现这个白点的。
有人形容它是太空中的一粒尘埃，其实是把它说的大了。按照比例计算，这个暗淡的小点放在宇宙中，它比地球大气层中的一粒尘埃还要小很多个数量级，要小得多。这个亮点就是地球，人类世界的全部，和我们有关的一切，所有活着和曾经活过的人，所有曾经有过和正在进行历史和生活，都在这里尘埃上面，这就是科幻的视角。
对于人类的发展和未来，这个视角与我们传统的视角是有很大差异的。从这个视角去看，我们对人类社会的可持续发展会有一些新的感悟。
首先，目前可持续发展所依赖的基础环境保护，阻止全球气候变化、对资源开采的节约和节制、基于环保的绿色生活方式等等，其重要性是无需质疑的。在可以想见的未来，坚守并贯彻以上的理念是人类文明得以延续的基本保证。
但是从科幻的视角看，从60亿公里外，看一看那个暗淡的蓝点，我们就真切地感受到，人类世界在宇宙中是多么的渺小。
对于文明的发展，这样一个小世界存在着天然的脆弱和不确定性。这些脆弱和不确定性极大地影响着人类可持续的未来。对发展的威胁，它很可能来自发展自身。世界正走在现代化的进程中。尽管近年来遇到了包括疫情、局部战争、国际社会分裂和对抗加剧这些挫折，但从长远的大趋势来看，现代化的进程不可遏制。
现有的不发达国家和地区全面达到西方的发展程度和生活水平并非遥不可及的事，而如果全世界都进入这样的发展状态，我们粗略估算一下，人类将需要4个半地球的资源。所以，要实现人类真正的可持续发展，我们必须找到另外3个半地球。
另外也是更重要的就是未来的不确定性还来自地球自然界本身。地球生态系统是一个极其复杂的系统，处于不断的波动之中。
例如在漫长的地球历史中，在地球的地质纪年中，大气温度上升或下降几度，从这个地质纪年的尺度来看那是一件很平常的事。但是对于现代人类社会来说，却可能是灭顶之灾。
地球平均气温上升几度，就会因冰川融化导致海平面全面上升至使沿海地区、沿海经济区被淹没，大量人口向内地迁移，进而造成世界经济的混乱和崩溃。
而地球平均温度下降几度将导致全球农业体系的崩溃，是世界处于大饥荒之中。就在现在人们担忧过量的碳排放导致气温上升时，却很少有人注意到地球的下一个小冰期可能正在到来。在地球这样一粒宇宙尘埃上，生态圈的长期的稳定，它只是一种幻觉而已。
为了应对未来的种种不确定性，人类社会将在政治、经济和文化等方面作出不断的努力。但这也是从我一个科幻作家的这个角度来看，我们最终所能依赖的力量还是来自于科技的进步。
首先，在地球的生态空间之内，技术的进步可以开发出全新的资源。在历史上，煤炭、石油和核能取代了木材，合成材料取代了棉花和皮革。在未来，科技的进步能够带来更加高效和环保的能源，能够从之前从未利用过的自然资源中产生出新的材料，能够培育出适应各种气候的高产农作物。
无论是在未来变化的地球环境中生存下去，还是努力阻止地球环境发生变化，都要借助科技的力量。如果从地球向外看，我们就看到了一条更为广阔的发展之路。太阳系中有着巨量的资源，在八大行星上，在小行星带中，人类生存和发展所需要的资源，从水到金属，从有机物到核聚变材料到核聚变燃料应有尽有。
我们能够从太阳系的太空中找到的远不止3个半地球，按照地球最终可以养活1000亿人口计算，那么太阳系中的资源总量可以养活10万个地球的人口，一个人只有走出摇篮才能实现可持续的成长，而人类文明作为一个整体，要想拥有真正的可持续的未来，也必须走出地球这个摇篮。
否则的话，人类的未来就有可能像阿瑟克拉克在科幻小说《2001太空奥德赛》中描述的那样，在一片丰饶之中他们慢慢饿死。
这两个方向的可持续发展都是以科学技术的不断进步为基础的，在这方面人们面对的现实并不是很乐观的。我们现在所处的这个年份就是2023年，曾经无数次在科幻小说中出现。
对比一下以往的科幻小说中的21世纪20年代和我们现在已经变为现实的2023年，我们能有的也只是一声叹息。
在科幻小说中的2023年，地球的同步轨道上运行着宏伟的太空城，月球像地球的近邻近郊一样繁荣，在火星上已经建成多处人类知名城市，生活着数以百万的人，在小行星带进行着大规模的矿业开发。在木卫衣的冰封海洋上，在海王星的轨道之外，都有人类开拓新世界的身影。太空航行已经普遍使用核动力飞船，拥有着现在的化学动力飞船所不可比拟的运载和续航能力。
在那个2023年，也就是在科幻小说中的2023年，他们所展望的2023年，10万个地球正在诞生之中。谈到可持续的未来，这应该是一幅符合逻辑的图景，但在现实的2023年中，我们确实还看不到这幅图景的影子。
在现实的2023年，唯一与科幻小说中对这个年份的想象相近的是信息技术的发展。在过去的30年，信息技术以远超其他技术的速度越近，信息网络已经渗透到人类社会的方方面面，全面而深刻地改变着我们的生活。
特别是近来人工智能开始有了取得突破的迹象，也引起了广泛的关注。科幻小说中无数次描述过的21世纪强人工智能，它已经现出端倪。
但正是信息技术的快速发展，掩盖了其他科技领域进步的缓慢，造成了科技全面飞速进步的一个假象。如果把科学发展产生的技术进步看成是一棵大树的话，那么在今天，这棵树上最容易够得到的果实都已经被摘光。
科技进一步的发展和突破需要巨大的投入和长远的规划，而这一点在目前对可持续发展所持的理念上似乎并没有被放到最重要的位置。
目前世界各国对于基础科学研究和航天探索的资金的投入，只有对环境保护事业投入的1/10。现在对可持续发展的规划是建立在环境保护、节约资源和建立绿色生活的基础上。但要得到一个长远的、真正可持续的未来，我们还需要更多的开拓精神和进取精神。
国际社会需要更长远的发展规划，需要对基础研究和技术创新全力关注和投入。在这方面的很多事业可能只有大范围的国际合作才能完成，联合国无疑能够在这方面发挥重要的作用。
科幻小说描述了未来的多种可能性，用想象力构建了无数个未来世界。他们色彩各异，形态万千，但都有一个共同点，那里的科学技术已经发展到了很高的水平，借助于科技的力量，人类能够为自己开拓更加广阔的生存空间。这无数个想象世界中的一个将变为现实，成为我们的未来。
也许在那样的世界中，人类仍然会面临来自社会发展和大自然的更多的挑战，我们也必须接受未来的挑战，用发展来解决发展遇到的问题。最后，对于人类可持续的未来，引用科幻作家乔治威尔斯的一句话：
要么遍布宇宙，要么彻底灭亡。
谢谢大家，我的讲话完了。