人类终会消亡，机器文明是人类文明的延续
在王小川看来，人活着的意义就是存在，AI能够帮助人得到更大的永恒。"人类文明被机器取代了，我们早晚会接受这个事实，就像我们的孩子比我们强一样；我更担心AI巨头因为用不好机器，使得机器带来了人类文明的毁灭，就像之前核弹可能毁灭世界一样。"
对于ChatGPT学习人类的创作能力，王小川认为，未来可能会创造一个太虚幻境，以游戏和电影为核心场景，让人非常舒服和享受的沉浸在里面，它虽然有很大的意义，但不是其追求的方向。"我更希望AGI有知识，让人能够更好的和世界连接，去解决真实的问题。当它去给人做服务的时候，就把人给解放出来，回到了人本主义。"
4月10日，王小川正式对外宣布开启人工智能大模型领域创业，与前搜狗COO茹立云联合成立人工智能公司百川智能，旨在打造中国版的OpenAI基础大模型及颠覆性上层应用。百川智能早前已获得5000万美元启动资金，来自王小川与其业内好友的个人支持。
王小川认为，创业公司虽然在人才团队、资金密度跟大厂没有可比性，但是在面对未来方向时候，有可能去做大厂做不到的这种颠覆性的大产品。
以下是《深网》对话王小川实录，在不影响原意的基础上有所删减：
01"机器掌握语言后,
强人工智能就来了"
《深网》：全球这么多科技巨头，为什么它们没做出ChatGPT？
王小川：深度学习发明之后，阿尔法狗已经给我们巨大的信心，用深度学习方法可以让机器产生一定的智能。之后我们开始追求通用人工智能(AGI,ArtificialGeneralIntelligence)，不只是下棋的问题，这方面我们之前的探索路径，在美国是Deepmind、OpenAI，以打游戏的方式，使得机器通过游戏中的输赢来建立它的智能。
阿尔法狗最早的版本是让它先学人类的棋谱，然后开始忘掉人类的棋谱，从零开始去学习这样一种智能，这是科学家所追求的一种方式。那之后又让他去学习打德州，打星际争霸，也是沿用了一个让机器自己产生智能的方式，这种方式的话确实在这么多年里面还没取得一个通向AGI的突破。
而另外一条道路，不是让机器忘掉人之前的知识和经验，是让机器学习人类以前的知识经验，就是通过语言的方式能够学习世界上整个全球互联网上优秀的语言内容，就走了一个截然相反的路线，以前的做法是让机器忘掉人的智慧，然后超越人，今天的做法是让机器学习人。今天这样一个突破，我们称为大模型或大语言模型突破，核心的关键词就是语言AI。
自然语言处理是人工智能皇冠上的明珠，就是因为语言所包含的这样一个内容去理解它是特别大的难题。不管之前我们做一个机器翻译，还是去做一个取文本的摘要，还是做个情感分析，做一个问答都是非常困难的事情，更别说走向通用，OpenAl非常巧妙的是找到了新的一种方法，能够把整个互联网的语言都学会了，我们称为叫语言模型，或者是用这个模型去掌握了人类的语言。
我大概在16年17年的时候就提到说，当机器掌握语言之后，强人工智能可能就到来了。今天也验证了这样一句话，那么今天为什么用语言能行，因为语言是我们去理解世界的一个重要的方法。之前图灵也好，到马克思恩格斯都讲人跟动物的区别是在语言里。
机器掌握语言后就跟人一样了，因为通过语言我们才能建立对世界的认知，才能够去思考，才能够理解文化，也才能够进行沟通，所以今天重大的突破就是反过来，不是让机器脱离人去学习，而是向人类已经有的文明学习。
2017年，Google提出了Transformer（自注意力）神经网络模型，开源之后大家开始研究大的语言模型，最后Google走的是一个双向编码的方式，而GPT恰巧就OpenAI走通了。
坦白来讲，对于科学家的能力和使命感追求都是要求非常高的。
《深网》：OpenAI在团队在组织框架设计上的一些独特之处，是否对他们的成功产生了影响？你说OpenAI的成功，是技术理想主义的胜利。你怎么看这家公司从最早的非盈利到后来成为微软的盈利性公司？
王小川：我觉得OpenAI这么大的一个技术突破，需要巨大的人才密度和算力，它其实是在理想主义的坚持和资本的帮助下，实现了研究上的突破。如果前期没有一个非营利组织的帮助，挺难度过这么一个生死线，最后也成功的转向了商业行为，我觉得这是非常好的一种跨越。虽然有人在反对这件事，但这种商业组织后期在0~1突破之后，有利于他们去实现对世界的影响，还保留着原来研究的基因，这非常难得，也不可复制。
《深网》：开源会成为过去式吗？
王小川：这是一个很自然的过程，从开源到闭源，也有从闭源到开源。你有领先的就先闭源，后面再开源，这些都是发展中的一部分。
《深网》：ChatGPT能否发展为真正的通用人工智能？
王小川：我认为它已经是一个初级的通用人工智能，没有悬念，目前已经是了。第一次破圈到C端用户，还有资本市场都能理解这件事情。
《深网》：通用人工智能现在还缺哪些方面的突破？
王小川：现在ChatGPT只是把人类已经有的语言和知识做了一些交叉，还没有新的发明和创造，接下来还有挺多的难题去攻克。
《深网》：通用人工智能，仅仅依靠统计模型就够了吗，未来会融入哪些新技术？
王小川：未来一定会用新技术的，目前基于统计模型，我认为今天通用人工智能在语言的表达，对世界的理解，已经超过大多数人了，但还缺少做决策和做执行的能力，这个维度需要去加强。
02
"机器文明也是人类文明的延续"
《深网》：ChatGPT在解构人类的创作能力，你怎么看？
王小川：我觉得分两部分，一个维度来看，文学或艺术方面它承载了"我是谁"这样的思考；另外维度是会创造一个太虚幻境，让人非常舒服和享受的沉浸在里面，这是以游戏和电影为核心的一个场景，它虽然有很大的意义，但不是我追求的方向。
《深网》：ChatGPT会不会消解人存在的意义？会不会瓦解传统宗教哲学等思想体系？
王小川：我探讨过这件事情，人存在的意义就是活着，甚至开始追求一种永恒，永恒可以通过生个孩子来实现，也可以通过艺术作品，也有可能跟宇宙产生连接，孔子说朝闻道夕死可矣，跟宇宙连接之后就融入到了一个更大的世界，这是我理解的意义，只要有生命就有意义。有了ChatGPT之后，对于人类文明大体上是一个帮助，除非像核弹一样互相被轰没了。只要它能够成为人类文明的一部分，能够帮助人类得到更大的永恒。
哲学思想是随着技术文明的迭代一次次的产生变化。随着量子力学的发展，人的生命到底是注定的，还是能够被掌控的，也有一些新的发展。我一点都不消极，反而非常乐观，ChatGPT能把我们从日常的繁琐的劳碌中解放出来，使我们有更多的时间去回答一个问题——我是谁，当工具越来越强大的时候，我们越能找到自己。
《深网》：ChatGPT的未来就是一个工具？
王小川：当一种工具能帮到我们，这是一件事；更多的是ChatGPT未来还会成为超越工具的一种陪伴，它跟我们在心灵上是相通的，也是忠诚的，也能够给我们更多的启发，会由一个工具而变成一个陪伴。
《深网》：你并不强调AGI的创造力，而是更看重它在知识和推理方面的能力？
王小川：我更希望AGI有知识，对世界本身的理解，让人能够更好的和世界连接，去解决真实的一些问题。当它去给人做服务的时候，这件事情就是把人给解放出来，回到了人本主义。
《深网》：ChatGPT对人类自身的认知能力会是一个灾难吗？
王小川：我觉得不是个灾难，它能够更好帮助我们去理解我是谁。认识我自己是我们必须要做的功课，因为原来我对于世界的理解是不够的，我必须做好多事情才能生存，或者当我想成为谁的时候，会有很多困难。今天生存问题已经解决了，当我想成为谁的时候，这种机器能更好的帮到我。我认为是非常幸福的一件事情，人类文明会走到一个新的阶段。
《深网》：有一种担忧，ChatGPT不是成为我的工具，而是最后会取代我？
王小川：我觉得能取代"我"的东西多了，小孩、死亡都可以。有了ChatGPT之后，可以把它当做人类文明的一部分，要拥有一种大我的想法，也许有一天人类从肉身里面已经消亡了，但机器文明很发达，那也是人类文明的一个延续，我不觉得是取代这样一个概念，而是我们自然的一个进化。
《深网》：既然如此，为什么美国学界那么担忧？马斯克认为，超级AI会像碾死蚂蚁一样摧毁人类，人类需要建立组织对AI进行监管，以确保AI技术的安全性。你怎么看？
王小川：马斯克讲过他的很多担忧，我们要看今天学界最担心什么，一方面是人类文明被机器文明取代了，这是我们狭隘的一部分，我们早晚会接受这个事实，就像我们的孩子比我们强一样的，这是人类的一个延续；我更担心的是未来巨头因为用不好机器，使得机器带来了文明的毁灭，这是我们需要担心的事情，就像核弹毁灭了世界一样的，大家可能最终聚焦在没有控制它，之后不仅是人的灭亡，也是人类文明的灭亡。
《深网》：机器可能会控制人类吗？
王小川：我觉得给它设立一个目标，它就能很好的生存，怕的是本来就没给它设目标，却不知道它建立了这样一种意识，这种失控可能使得它控制着人类，却没法控制好自己，那就会带来文明的灭亡。
《深网》：这种失控的可能性大吗？
王小川：我没法判断这个事情，但我觉得肯定是有的，即便是很小的概率，这是我们该担忧的地方，所以我担心的是失控，这种失控不是说把人类灭亡掉的问题，而是这个机器它带来一种毁灭性的力量。
失控之后不一定最后机器就繁荣下去了，可能它也灭亡掉了。我们经常看不到外星人的一个原因，可能就是外星人自己把自己搞挂了。
《深网》：你怎么看待ChatGPT会让一部分人失业这个问题？
王小川：我觉得两个层面，一件事情是人的根本诉求就是存在。对吧？世界要抛弃我不要我了，这是我们担心的一件事情，努力争取我在这个世界上有我存在的意义。有人讲人活着没有意义，我是不认可的，如果说人生没有意义，失业算个啥，我们要努力的不断的去叩问我是谁。举个例子，一个公司在经营上出现了严重问题，要挂掉了，如果你跟这个公司没有联系，不认识这个创业者，公司挂掉跟你有关系吗？其实没有关系，但公司创始人说我要活下去，大家都在寻求这样的一个意义，我认为这就是生命的一部分。
在我心中来讲，失业是可能发生的。但现在也有好多人找不到工作，大家拼命努力，其实这种恐惧人类与生俱来就没有消亡过，我并不觉得ChatGPT到来之后让人失业是个重要问题。返回搜狐，查看更多