刘慈欣谈AI人工智能：ChatGPT是否会彻底取代甚至毁灭人类
今年，随着人工智能的迅猛发展，或许是人类距离科幻成为现实最近的一次。
各行各业的专家们，都开始畅想人类与AI的未来。
刘慈欣作为国内顶尖的科幻小说家之一，自然也在各种场合被提问。
最近，刘慈欣做客俞敏洪的直播间，探讨本土科幻小说的发展。
当被问到对AI的看法时，大刘表示，尽管人工智能目前的水平还没有达到“统治人类”的程度，但它已经产生了很大的影响。
他透露，在参加前不久的科幻大会时，因为时间紧迫，有一两篇发言稿是用ChatGPT写的，结果写得还不错。
刘慈欣谈AI人工智能：ChatGPT是否会彻底取代甚至毁灭人类？
很显然，AI的迅速发展已经让人类感受到了危机。
无数人想知道，再这样发展下去，人工智能是否会彻底取代人类？甚至毁灭人类？
对于这个问题，刘慈欣在联合国中文日交流会议上发表了一篇题为《科幻文学中的可持续未来》的演讲，在演讲结束后，刘慈欣谈到了以ChatGPT为代表的人工智能可能会给人们带来的影响。
刘慈欣谈及人工智能的影响，认为其首先会取代高智能的职业，但这与之前的预测相反。其次，人工智能可以自我迭代出更高智能的版本，但我们的算力限制了它的发展。此外，人工智能可能会让人类陷入舒适的陷阱之中。
在现实和近未来的层面上，人工智能已经产生了一个明显的趋势：它有可能代替我们人去从事很多的工作，提高我们的生活质量和幸福感。
然而，我们也不能忽视人工智能对人类社会带来的冲击，特别是在文化艺术、文学等领域，甚至可能重新定义这些东西。至于人工智能是否会消灭人类，刘慈欣认为从目前的技术发展趋势来看，可能性不大。
但是，人工智能的迭代可能会让它很快地把智能水平提高到几百倍甚至上万倍，而人类的计算能力是有限的，所以人类的无能反而成为最后的屏障。此外，如果人工智能发展到一定程度，社会可能会面临前所未有的巨大陷阱。因此，我们应该对未来有所警觉。
下面为问答节选（部分删减）：
Q：现在ChatGPT横空出世，被人们热烈地讨论，您觉得人工智能的发展对人类的命运会产生一个什么样的影响？那自我迭代的人工智能有没有可能会取代或者说消灭人类？
刘慈欣：我觉得这（人工智能的影响）应该从这个现实或近未来和比较远的未来这两点来看待。
人工智能目前已经开始替代大部分人的工作，但和我们预测的不一样。
大家都认为人工智能最先替代的会是那些简单、重复的体力劳动。但现在看来却正好相反。
人工智能首先代替的是那些需要高智能、高教育程度的工作，这可能会对人类社会的基础学科产生重要影响，甚至介入人类对发展规律的认识之中。
至于它是否有可能像科幻电影里那样毁灭人类，需要分两个层次。
第一个层次的毁灭是，人工智能是否会用某种暴力消灭人类？从目前的技术发展趋势来看，在可以看见的未来，可能性不大。
因为人工智能的迭代是需要算力支持的，而人类能够提供的算力是有限的，因此它不可能无限制地迭代下去。
这是一件很讽刺的事，人类的无能反而成为了人类最后的屏障。
第二个层次的毁灭是，由人工智能构建的科技“安乐窝”，让所有人无需工作就过上了舒适的生活。
人类越来越多的交出自己运作社会的权利，而在整个过程中，AI只是服从了人类的命令，没有任何恶意。
然而，在这种无需努力就能获得一切的情况下，人类文明的活力和开拓精神何在？
这是另外一种意义上的毁灭。
所以这确实是我们应该对未来有所警觉的一件事情。
特别声明：以上文章内容仅代表作者本人观点，不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。人工智能不会统治世界，但将永远改变世界
那是1966年，计算机科学家约瑟夫·维森鲍姆走过麻省理工学院(MIT)的大厅，走向他的办公室，既焦虑又紧张，我们的朋友将开始他的第一个实验，这将改变人工智能的未来，也许还会改变人类的未来。维森鲍姆将测试新的聊天机器人，名为“Eliza”，取自萧伯纳的戏剧《皮格马利翁》中的角色伊丽莎·杜立特(ElizaDoolittle)。
这个想法很简单，Eliza将解释任何用户输入，并以问题的形式呈现，从某种意义上说，它被编程为模仿用户所写的内容，给人留下的印象是，它试图进行理解，例如，如果你告诉它，与朋友的谈话让你生气，它可能只会问你：“你为什么生气？”
Eliza的开发最初旨在探索自然语言处理的可能性，展示人工智能在理解人类情感和人类行为方面的能力，奇怪的讽刺是，维森鲍姆设计这个特殊的机器人是为了展示人机对话的想法是多么肤浅，但他工作的长期效果却与他想要的恰恰相反。
计算机科学家约瑟夫·维森鲍姆（盖帝图像）诚然，这些系统并不实用，你只需要想象，你需要通过一套逻辑规则，用你所在领域所有可能的场景来对它进行编程，这肯定是不可能的，但这一切都随着机器学习和神经网络领域的发展而改变，这在人工智能系统中引发了一场重大革命。顾名思义，机器学习使这些系统能够从数据中学习并通过实验和评估来提高性能，所有这一切都不需要人类编写的程序，也就是说，它以与人类相同的方式学习。
同样地，神经网络是模拟人脑工作方式的一种形式，用于处理复杂的数据，这使机器能够识别数据中的模式，理解图像，甚至处理自然语言，就像在聊天机器人中一样，例如，如果不是向人类学习并将人类翻译的内容与其语言数据进行比较，谷歌翻译就不会以这种方式发展，从某种意义上说，我们并没有仅仅通过赋予机器以人性化的工作方式来达到目前的发展，也许这就是问题的开始。
与机器连接“Eliza”只不过是一个用多种代码编写的简单计算机程序，它会搜索此人讲话中的关键词，然后以简单的短语或问题的形式将其反映在对它的回应中，给人的印象是，它理解这个人的讲话，并回应了他的话，而这个人一开始就不知道他是在和机器人说话。
约瑟夫·维森鲍姆对机器人进行了编程，使其以心理治疗师式的方式与用户互动，这倒是有些说服力，并给人一种想象中的同理心。用户会与Elisa进行长时间的对话，并向它泄露个人秘密，就像在进行心理治疗一样，尽管实际上只是简单的代码，研究人员称之为“Elisa效应”，这意味着人类倾向于赋予机器以人的特征，甚至将它们变成具有自我意识的生物。
这里的问题是，“Eliza”的设计最初并不依赖于它与人类之间这种互动的发生，然而，研究人员发现，用户下意识地认为其回答了“Elisa”问题，包括真正的情感兴趣和与它在谈话中讨论话题的互动，甚至事先知道Elisa不会模仿人类的情感，人与机器之间的这些交互在后来模拟人类行为的机器人技术的发展中发挥了重要作用。
这里需要注意的是，“Elisa”并不是一个真正的基于人工智能的机器人，它只是一个用有限数量的代码编写的程序，你现在可以想象新的聊天机器人所享有的说服力，比如“ChatGPT”，它可能会欺骗人类的情感系统，并让他们相信自己具有意识、同理心和真正的人类品质，我们总是努力将这种人性赋予任何事物，更何况它是否像人类一样对我们说话、回应和同情？这就引出了我们关注的下一个问题：这些模型能否在不久的将来拥有真正的智能和意识？
超级人工智能随着最近聊天机器人ChatGPT的大规模传播，你肯定听说过这些关于我们即将出现的通用人工智能或超级智能机器的预言，凭借这种智慧，它将超越人类，并决定要么消灭我们所有人，要么充其量控制和奴役我们。
人工智能这个词经常与世界末日联系在一起，这个领域的每一个新发展，或者更准确地说，每一个新发展都为群众所关注，都会立即在群众中引起震惊的反应，这里的恐惧是自然的，就好像我们的大脑就像语言模型一样完成了句子，这种恐惧一部分是由于我们对一切新鲜、神秘和陌生的事物的不信任，另一部分是由于好莱坞电影向我们强调，在一个世纪的时间里，人工智能将获得超人的力量，发怒，并摧毁它所经过的一切，这就是人类意识中的著名电影，例如《终结者》和《黑客帝国》等。
电影《黑客帝国》（社交网站）但无论如何，这件事情有很多夸张的地方，虽然人工智能的发展，但对于该领域的一些公司和研究人员来说，人工智能可以执行任何一个人可以执行的认知任务，仍然是一个梦想，然而，以我们目前所拥有的技术能力，以我们对人类智能定义的理解以及我们对人脑工作原理的了解，这仍然是一个遥远的梦想。
现在发生的只是处理能力的巨大发展、机器学习方法的巨大发展，以及前所未有的海量数据的可用性，但是处理能力的提高，无论有多大，所有现有系统——例如ChatGPT——都不一定会产生超人的人工智能，它们只是预测文本中下一个单词的机器，它们没有真正的智能或对它们产生的知识的意识。
因此，与其直接关注科幻电影中的恐惧，比如人工智能接管世界并毁灭我们，不如把注意力转向真正迫在眉睫的挑战，这些挑战其实很多，比如隐私问题、网络安全、日益增长的欺诈，经济形势的变化，以及由此产生的一些受这些新技术影响工作岗位的分配变化问题，这让我们想到了另一个重要的观点：人工智能能否完全抢走我们的工作？
更多岗位初步数据显示，未来新工作岗位的出现是积极的，因为人工智能的普及将增加对数据分析师和科学家等职位的需求（Shutterstock）如果我们回顾历史，自动化造成的破坏或变化在短期内会造成很多混乱，但从长远来看，这会创造更多的就业机会，这就是2021年的研究表明，我们今天所知道的60%的工作在80年前并不存在，由于计算机、互联网和其他现代技术，出现了全新的行业。
当然，我们没有任何信息可以证实这种趋势的延续，然而，初步数据表明未来会出现新的工作岗位，世界经济论坛发布的2023年就业报告未来证实了这一点，报告中谈及，专门从事人工智能和机器学习领域的工作是增长最快的工作领域。
在此背景下，三位专业研究人员阿加耶·阿格拉瓦尔、约书亚·甘兹和艾比·戈德法布在2019年出版的《人工智能经济学》一书中指出，出于多个原因，自动化、人工智能和机器人将在未来增加对劳动力的需求，这与我们一直想象的相反。
首先，当这些技术获得许可并提供给所有人时，它们将取代人类的一些脑力劳动，而这反过来又会影响人类的生产力，随着生产自动化任务的成本降低，经济将进一步扩张，而需要人类思考和判断的实际人工任务对劳动力的需求将会增加。
想象一下，例如，一家公司用响应客户服务的任务取代了聊天机器人，当然，这里将不再需要人类来处理简单的客户查询，然而，这将腾出他们的时间来专注于更复杂和私人的问题和需求，结果是公司可能会见证客户满意度的提高，从而导致对其产品或服务的更高需求，这反过来又将导致公司在更广泛的领域需要更多员工，例如销售、市场营销或产品开发。
其次，更高的自动化率可能会导致资本积累，即金钱、设备和各种资源，当自动化流程进入更多领域时，资本投入机械、技术等方面的需求也会随之增加，这反过来又增加了对劳动力的需求，仅仅是因为我们需要工人来操作和操作这些机器。
例如，一家投资于机械臂的制造公司，以在装配线上处理重复性和体力要求高的任务，随着生产过程效率的提高，对公司产品的需求也可能上升，为了满足这种增长，公司可能需要扩大其设施或投资更新、更现代化的机器，这些扩展工作将需要雇用额外的工人来建立和安装设备、维护和其他事情。
第三，流程自动化还提高了已经自动化的任务的生产率，这意味着机器在执行它们之前执行的任务时变得更加高效，从而提高了整体生产力，同时也增加了对劳动力的需求。
例如，假设一家零售店实施了自动支付系统，允许客户在不需要人工收银员的情况下为他们的购买付款，这个过程快速高效，减少了客户的等待时间并改善了他们的整体体验，鉴于此，商店将面临顾客和销售流量的增加，因此，可能需要雇用更多员工来执行其他与产品相关的任务或帮助客户回答他们的询问，当然，还需要维护和开发更自动化的支付系统。
我们的工作性质将会改变由于人工智能工具，特别是生成式人工智能和应用程序，例如ChatGPT及其相似产品，许多功能将被重新设计（Shutterstock）随之而来的是，自动化过程在工厂工作、工程、管理、会计等各个行业创造了比机器更适合人类的新任务，同样，人工智能可能会在不久的将来在许多服务领域创造新的任务，生成人工智能的新技术尤其会改变劳动力市场，因为它们会改变工作本身的外观和性质。
通常，当人工智能应用进入我们的各个业务领域时，我们的工作并不会像我们第一眼所想的那样被取代，但属于工作本身的任务的性质将会发生变化，换句话说，工作所需的基本技能将发生变化，取而代之的是新技能，这意味着，由于人工智能工具，特别是生成式人工智能和应用程序，例如ChatGPT及其相似产品，许多功能将被重新设计。
在一系列媒体歇斯底里之后，OpenAI首席执行官山姆·阿尔特曼（SamAltman）在5月份的美国国会听证会上指出了这一点，他表示，“重要的是要了解GPT-4模型是一种工具，而不是一种生物，有些人很容易感到困惑，GPT-4和其他类似系统擅长完成任务，而不是工作，”他并补充说，人们开始在工作中使用这些工具来帮助他们完成这些不同的任务。
随着时间的推移，在特定环境中使用生成式人工智能可能会改变人类与这些技术的关系，随着技术的使用不断发展，越来越多地参与到他们的工作中，并且越来越不模棱两可，可以减少人们对这些工具将取代人类工作或拥有超级智能的恐惧，最明显的例子可能是GitHub的Copilot工具，Web开发人员使用它来帮助他们编写代码和排除故障。
知识时代当这些技术顺利进入我们的业务时，它们将开始取得成功并产生真正的影响，我们找到它们的真正用途，可以帮助我们更快、更准确地完成任务，最重要的是，当我们充分了解这些工具的功能局限性时，我们要确保它们不是真正的无所不知的智能，并且它们像我们使用的任何工具一样存在问题。
最后，如果过去的岁月被称为信息时代，那么，我们终于可以说，我们已经过了这个时代，进入了知识时代，信息时代始于上世纪中叶计算机的出现，然后，在90年代初期，互联网出现，目前人工智能正在做的是收集所有这些信息并将其转化为人工知识。
有关于此，人工智能产生的是模仿人类知识的知识，并不真正理解它，但这最终符合我们的利益，我们人类理解、收集和关联所有这些信息，并借助生成式人工智能工具获取新知识，这对人类来说是一个伟大的发展，而且，无论如何都是非常有前途的，远离任何出现的新技术所引起的恐惧和恐慌。
那么，这是否意味着人工智能不会很快毁灭我们？这不是世界末日吗？
是的，这不是世界末日，但这是报告的结尾，感谢您的阅读。
ChatGPT刷爆全网，人工智能真的能大规模取代人类吗
一款由OpenAI公司开发的ChatGPT智能聊天机器人爆红全网。上线仅2个月活跃用户就破了亿，成为抖音之后，全球用户最快破亿的APP。微软CEO纳德拉说：“对于知识性工作者来说，这完全等同于工业革命。”以前，我们以为人工智能机器人首先取代的会是简单的体力劳动，但谁都没想到的是，人工智能机器人首先取代的竟然是简单的脑力劳动。ChatGPT之所以能够在2个月内用户破亿，关键就在于，它在某些领域已经开始展现出比人类更高的智慧，对人类的工作已经形成足以令人恐慌的替代性作用。在接下来的2-3年里，许多人都会因人工智能技术的进步而失业。这已经是不可阻挡的技术浪潮。ChatGPT到底有多强？它能干哪些工作？队长跟大家说几个简单的例子。第一个，在线客服。在ChatGPT没出现之前，我们对在线客服机器人可谓是深恶痛绝。因为它根本就不智能，简直就是智障。其中臭名远扬的就有鹅厂的在线客服机器人，经常逼得用户亲自前往鹅厂总部，讨要说法。那么，有了ChatGPT机器人后，它就可以大规模取代人工在线客服了。如果一家公司，原来需要100个在线客服，以后可能就只需要2-3个在线客服就够了。90%以上的问题都可以交给ChatGPT去回答。后台可以删掉所有的负面词汇，然后给它投喂行业内所有的客服数据，它会像知心小姐姐一样，回答它所知道的一切。第二个，标准化新闻写作。队长是做媒体的，但队长毫不怀疑，ChatGPT可以完成绝大部分的标准化新闻写作，尤其是事实类新闻报道。但它的缺陷是，写不了新闻评论。它只能算是一个高级写作机器人，缺乏视角、观点、立场和深度。新闻是一个需要为内容负责的行业。如果出现重大新闻失误，ChatGPT不能背锅，这是人工智能最大的弱点。可以说，时政新闻，是人工智能机器人暂时还无法进入的领域。举一反三的话，你要看你的工作能否被替代，你就看你是否需要为你的工作承担重大的法律责任。在这个情况下，会计师、律师和建筑设计师等需要终身负责的职业，是难以被替代的。它不可能代替你去坐牢。第三个，程序猿。人工智能技术是程序猿发明和推动的，但程序猿也在革自己的命。许多代码具备复制性和通用性，这些可复制、可通用的代码都能由ChatGPT所完成。那么，基层的程序猿都有可能被大量替代。除了上面三个职业外，像画师、平面设计、论文代写以及口水歌等，都能被ChatPGT所替代。ChatGPT的工作模式其实并不复杂。我们可以把它理解成一个超级洗稿机器人。它的素材量巨大无比，理论上可以包含全人类的数据资料。当我们让它去写一篇文章时，它会迅速检索海量数据库，对人类的原创内容进行重新组织，进而生成一篇新的文章。它缺乏人类的思想，但它可以完成那些不需要思想的内容创作。它可能写不出《三体》这样的科幻小说，但你让它写个睡前小故事，写个鸡汤文，写个历史小短文，那太简单了。它可以在一分钟内给你写完满满的一本杂志。ChatGPT的出现可以让搜索引擎变得更智能。我们以前使用百度搜索时，它是单向的。百度有什么信息，就出来什么信息。但有了它，以后的搜索就是双向的了。你可以像聊天一样，去不断地追问，直到得出你想要的答案。很多美国大学生都用这玩意儿代写论文，代写作业。以后，在学校厕所里的论文代写广告可能很快就会消失了，这个行业要死掉了。对付应试考试，ChatGPT具有先天性优势。它最擅长的就是标准。化和机构化，标准化和结构化程度越高，ChatGPT的替代能力越强。以后，ChatGPT要是写出一篇高考满分作文，大家也不要惊诧。队长仿佛看见了新时代的下岗潮。我们一直在讲的人工智能革命，从数字货币，到元宇宙，都没有真正地大规模落地，也没有真正地深入到人类的生活。数字货币关系到金融稳定，元宇宙缺乏配套的产业链技术，可ChatGPT不同，它是可以直接拿来用的，具备广泛的应用场景。就像前文中所提到的在线客服、平面设计师、画师、论文代写、口水歌、程序猿以及文案编辑等，都能有所取代。ChatGPT不会彻底消灭这些行业，但它作为一款人工智能工具，可以大幅减少用工数量。它具有极强的通用性，可能是人类人工智能革命的转折点。微软已经把ChatGPT应用到必应搜索引擎中，试图颠覆谷歌搜索的霸主地位。它能丰富人们的搜索结果，提高搜索体验，百度搜索也很快会引入相关人工智能机器人。如果人工智能机器人得到广泛应用，它首先带动的不是互联网行业，而是云计算行业。它每天需要处理海量的数据，对算力消耗极大。OpenAI公司投身微软，就是想获得微软云计算的支持。不然，仅算力成本就是OpenAI所不能承受之重。国内的阿里云也将成为这波人工智能技术浪潮的受益者。不管外面的风雨怎么变，只要人工智能技术革命持续推进，提供算力服务的云计算平台，会像水和电一样，不可或缺，稳如泰山。也许，马云很快就要回国了。特别声明：以上文章内容仅代表作者本人观点，不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。超智能机器能取代人类吗
随着人工智能自学能力的加速提升，科技巨头正在竞相提高AI对人类智能的模仿。基于大数据的庞大知识、24/7自学以及超高速度可能使AI很快超越人类的能力。目前是否迫切需要道德和法律方面的保护措施？王钰柯对此进行了探讨。
人类也许经常会遗忘，但是机器绝不会。从用人工智能进行决策支持到在社会上自动实施控制，只需一个小小的步骤。在许多应用中构建自治数字智能，就是为了在编程决策链中加速这个过程。
为了达到更大的利益，人们正在不断创造具有巨大益处的远程医疗诊断、气象预报、农业监测、保险风险评估、教育改进、预测流行病、预防性维护、数字金融等。
最令公民和政府担忧的两大领域是就业机会的减少和核战争。针对就业损失的社会经济工程有政策选择，但核冲突只会导致人类的灭绝。战争中的AI可能导致这样的致命情况。
相关文章中国支持贸易、投资自由化和便利化，反对保护主义和脱钩–总理13分钟ago中国总理表示：中欧应通过双边关系稳定应对国际不确定性13分钟ago数字智能是否有可能发展到需要更多自主权才能真正有效？在战争中，速度、准确性和对威胁的迅速反应至关重要。世界各大强国正在大力投资军事AI，以确保拥有数字攻击优势。目前，世界拥有足以自我毁灭的核武器库存。
关键的是，能够消灭人类的力量构成了生存威胁。在二战后的关键时刻，由于人类只能在严格的协议下激活红色按钮，核灾难得以避免。但如果我们为AI设计一个可以自主评估核威胁并作出反应的程序，我们是不是在为我们自己的种族设定灭绝？
将上述文章翻译成中文普通话，字数至少4000字。确保内容准确且符合原文。缩略词和专有名词保持原样。去掉诸如Khaosod、Sanook等原文的任何标志。段落数量应有所增加。