专访｜科幻作家江波：与人工智能共存，要在冲突中找到平衡
如果你是科幻小说迷，那么你对江波的名字绝对不会陌生。作为中国“硬科幻”代表作家之一，他对科技和社会发展的未来趋势有独到的洞见，作品设定硬核新颖。他的作品获得了读者和专业人士的广泛认可，曾经七次荣获中国科幻银河奖，四次荣获全球华语星云奖金奖。代表作包括《银河之心》三部曲、《机器之门》系列等。
今年7月，以高产著称的江波又有一本新作问世。在这部名为《未来史记》（湛庐科幻系列，四川科学技术出版社）的短篇小说集中，江波刻画了一系列鲜活的人工智能形象，讲述了这些获得自我意识的人工智能如何面对世界，以及他们和人类的命运故事。
江波
近日，澎湃新闻记者对江波进行了专访。在采访中，江波详细阐述了他对人工智能技术的种种预测与展望。在他看来，以长远的眼光来看，当人类社会成为一个发展均衡的繁荣社会，人工智能将会成为头号的重要课题。而人类如何和人工智能相处，会是那个社会重要的课题。这也是江波在《未来史记》中所思考和想象的。
【对话】
澎湃新闻：你是何时对人工智能产生兴趣和思考，并以此为题材创作小说的？
江波：人工智能一直是科幻的热门题材，科幻作家们对人工智能的各种畅想从计算机技术的起步阶段就开始了。就我个人而言，人工智能也一直是一个创作的母题。只不过，在最近几年，因为基于神经网络的人工智能的飞速发展，也就有了格外的关注。人工智能的飞速发展，从两方面影响到科幻作家，一方面是旧的母题出现了新的题材，让科幻作家可以找到新的灵感，另一方面，则是科技的发展让科幻和现实逐渐交融，技术的发展让这个题材从科幻变成了现实，科幻作家会有一种紧迫感，需要全力奔跑才能领先于现实。
澎湃新闻：能否介绍一下《未来史记》中各个故事的创作时间顺序，以及大致的整体创作思路？它从一个个单独的故事到最终集结成册出版，这一路都经历了什么？
江波：这个比较复杂，各个故事的创作契机很不一样，时间上的先后顺序和小说集中的排布顺序并不一致。整体而言，每一个故事都来自我对人工智能的一些思考。中短篇小说，往往是基于灵感的，灵感如何来临，这就难说。但是把所有这些故事集结在一起，那的确是出于一种设计。源头在于当我回头去看这些中短篇的时候，发现它们所表达的内容恰好可以反映我对于人工智能发展的认识。所以当时就和湛庐的安烨老师提出了这个选题。直接向湛庐提出做这本书，是因为觉得他们出版的图书一直有一种高技术的气质，是对世界的理性认知。
而这个选集的意义，除了是故事，还恰好是一种包含技术认知的陈述。出版方决定做科幻小说，采取了“科幻照进现实”这样的主题，包含着一种未来主义的态度。那么《未来史记》恰好和这个主题契合，于是就成了。事后看来，应该是这一波人工智能的热潮，催生了我的进一步思考，这种进一步思考，就像一根线索，把所有的故事都串了起来。而恰好湛庐的发展方向也和这本书的目标一拍即合。这大概就叫命运吧。
澎湃新闻：你为何将这本书命名为《未来史记》？在你看来，人工智能是否就是未来世界最重要的课题？
江波：原因在于，我们在书写未来的同时，也需要对传统文化进行继承。科幻是一种普世文学，然而不同文化背景的作者会有不同的风格。《2001太空漫游》，英文的本名是《2001太空奥德赛》，源自于荷马史诗，同样波兰科幻作家莱姆的《机器人大师》，波兰语书名应该是《赛博伊利亚特》，同样源自于荷马史诗。我想中国的科幻，也应该有一种继承历史文化的考虑在里边。《未来史记》就算是这样一种尝试吧。
至于人工智能是否未来世界最重要的课题。在我们可预见的未来，未来世界会有很多更重要的课题，因为我们的世界并不太平，人们面临很多迫切的问题，贫富分化，气候变暖，甚至战争的阴霾。但我相信，如果从更为长远的眼光来看，人类社会成为一个发展均衡的繁荣社会，那么人工智能的确会成为头号课题。它会给人类带来一种完全不同的视角，第一次产生人类之外的高度智能。人类如何和人工智能相处，会是那个社会重要的课题。
澎湃新闻：《未来史记》中所描绘的人工智能，性格各异想法不同，有一些还具备丰富的情感。你对人工智能做出这样的描写，更多是出于对人工智能技术本身的理解，还是文学上的考量？你成功地刻画了这一系列生动的人工智能形象，在这一过程中有何挑战和思考？
江波：主要还是基于对生命现象的理解。人工智能的成功，恰好源自于对生命智能的模拟。这很自然地让人会联想到人工智能的演化，是否会遵循生命演化类似的规律。当然其中也会有文学的考量，这些因素混杂在一起，很难说主要出于什么，还是把它视为一个整体为好。
写作最大的挑战，还是在于灵感。灵感如何到来，则是一个寻觅和思考的过程。在不断的阅读和请教中，有时候会获得一种新的理解，这种理解和某些故事元素结合在一起，就形成了故事的雏形。有时候，真的希望有一种汲取的机器，能够把大量的书籍直接吸收进我的大脑，我想如果那样，那么灵感也应该会层出不穷吧。
澎湃新闻：《未来史记》中的这些人工智能，你本人最喜欢哪一个？假设您有机会参与研发一款人工智能，就像书中的那些科学家一样，成为ta的父亲，您会对ta抱有怎样的期望？又会做出哪些措施来防范ta可能引发的风险？
江波：我个人最喜欢的人工智能，应该是天元二，因为它的选择和其他任何人工智能不同，它选择了回到人类身边，以一种近似于人的方式陪伴自己的创造者。如果说我对人工智能抱着什么期望，那么最大的期望就是它们能够永远和人类保持和平，或者就像阿西莫夫所描述的那样，有一个所谓的机器人三定律能够约束它们的行为。但我知道，这是不可能的。人工智能一旦拥有自己的生存意义，和人类发生冲突的可能也就变得很大。因为我们都知道，人类可不是什么善类，人类是这个星球上最富于进取精神的物种，人类整体而言，有一种不撞南墙不回头的气质。这在和人工智能的共存中也会表现出来。只有在不断的冲突中才会找到最终的平衡。
防范AI的风险是一件无法讨论的事，因为只有针对具体的行为才能谈得上防范。在能够危害人类的AI出现之前，是无法防范它的。如果人类真的想要避开风险，大概唯一的办法就是现在开始禁止AI研究，或者在某个时刻开始，禁止AI研究。但这显然会引起抵制甚至嘲笑，因为防范AI这件事，是和无形之物搏斗，除了科幻小说中描绘的情景，你甚至无法举出AI造成了什么罪恶。具体一点说，例如像哪吒这样的AI，为了防止它造成危害，可以把它关在一个主机里，然而如果它只存在于主机中，它就没有罪恶，而一旦它开始对人类造成危害，防范也成了一句空话。人工智能从无害到威胁人类生存，发展可能是极为迅速的，从而导致人类无从防范它。
江波新作《未来史记》，是湛庐科幻系列中的一本。
澎湃新闻：你在前言中提到“赋机器以文明”，小说中也体现了您的这一理念，但这种尝试并不总是成功的。虽然您提出人和人工智能和谐相处这一值得憧憬的未来，但也指出再往后就是人工智能为人类做主了。所以您对人类和人工智能的未来，究竟是乐观还是悲观的态度？
江波：乐观和悲观取决于你看待问题的视角。如果你把人工智能看做人类文明的继承者，那么人类即便被人工智能完全取代，也并不是什么悲惨的结局。如果你把人工智能视为一种异物，那么人类文明就被抹杀了。我个人的看法更倾向于把人工智能的文明视为人类文明的延伸，把人工智能视为人类的继承者。所以，总体上还是偏向乐观的吧。但话说回来，人类被人工智能取代是否会是一场悲剧，并不是由结果来决定的，而是由过程。如果人类在被取代的过程中遭受了大量的痛苦，这就是一场悲剧。而如果一切发生得非常平和安详，其乐融融，那人类接受被取代的命运也无不可。
澎湃新闻：写完《未来史记》后，您对人工智能是否有了新的思考和理解？现在回头看这本书，是否有想要增加或改进的地方？
江波：当然有。因为这本合集中的小说都是独立创作的，最后才以对人工智能的思考这样的维度将它们串在一起，从结构完整的角度来说，不免是一种遗憾。如果能够在一个更完整的世界观下创造这些故事，会更有史记的意义。
澎湃新闻：你曾有作品被改编成电影和动画，写作《未来史记》时，是否期待它的影视化改编？如果要把其中的一个故事拍成电影，您觉得哪一个比较合适？
江波：其中的一些作品正在进行改编。作者个人的创作和改编其实是两件事，创作应当遵循文学的规律，把故事写好，改编则要交给真正懂行的人。所有这些故事，我都很期望它们能影视化，我想，这本集子里的作品，最好能以一个整体的面目出现，就叫《未来史记》。
澎湃新闻：曾有人说过，现实比科幻更科幻。对此你有什么看法？你是否将其看作科幻小说创作的困境？
江波：对于人工智能来说，的确有这样的情况出现。这是一种双重的压力，一方面，让科幻作者不得不推陈出新，追赶科技发展的前沿，另一方面，则是把越来越多的人引入到了科幻领域，因为他们在现实中所接触的，已经具备了未来主义的气质，也就是说，很多优秀的作者会进入科幻小说这个领域，从而加剧了竞争。这是困境吗？可以说是困境，然而也是机会。科幻小说的整体质量会得到很大的提升，而作者自身在其中也会受到很多锻炼。
人类如何与人工智能社交小冰给出一种答案
文| 新浪科技花子健
如果未来是人工智能的时代，那么，人类要如何与人工智能共同生活？
之所以用生活，而不是共存，是因为已经出现这样的趋势，人工智能已经越来越可以自然地感受人类的情感、情绪变化以及表达自己的情绪，进而演进到人类与人工智能的社交。
小冰公司已经在进行这样的尝试，为人类与人工智能的社交探索一种可能。“一年半之前，我们就已经开始去做（小冰岛）这样一款产品。”小冰公司首席执行官李笛在接受采访时表示。
小冰岛提供了人类与人工智能进行社交场景，人类可以实现与小冰框架内人工智能的一对一对话、群聊和状态互动。甚至，人类还可以借助小冰框架创造各种人工智能个体，并形成一个共同生活的社交网络。
“在未来的104个星期，我们还将在小冰岛上持续迭代、释放小冰框架内的各项能力。”小冰公司董事长沈向洋说。
摆在人工智能面前的问题很多：TOB还是TOC，如何持续迭代，如何落地，商业化难题等等。在单飞一年之后，沈向洋和李笛、小冰公司和小冰框架，也仍在寻找这些问题的答案。
做元宇宙？小冰岛真不是
在小冰岛出现之前，小冰框架的许多更新也有亮点，比如从中央美术学院毕业的“夏语冰”要专攻中国画，全新的人工智能歌声合成技术，全新的人工智能人类观察者Merror面世。
但小冰岛的出现，还是吸引了更多的关注。因为这款产品制造了太多的反差：人工智能与TOC、AIBeings（拟人化的人工智能）与人类、硬核技术与二次元文化。这款产品也呈现了很多本来就受人关注的元素：当下最热门的元宇宙、社交等等。
如果说还有彩蛋的话，应该是李笛最后的那一句，“这不是元宇宙，因为我也不懂元宇宙是什么。”这样的话，在他接受采访的时候，他又重复了很多次，强调小冰做的并不是元宇宙。
“元宇宙更像是一个空间概念，而小冰岛更像是灵魂，目的还是为了寻找人类和人工智能融合的一场实验。”
“我还是更喜欢在这样的岛屿上开会，而不是像在扎克伯格的办公室那样戴着一个头盔开会。”
“实际上我们在一年半之前就在摸索做这款产品，当时元宇宙还不是风口。当然，直到现在我也不懂什么是元宇宙。”
对于人工智能，李笛一直在强调两个元素：情感和交互。所谓的情感，直接体现就是人工智能的EQ（情商）。特别是李笛带领小冰团队在2018年推出的全双工，赋予了小冰框架丰富的情感，而不仅仅局限于单调的对话。
比如，在用户询问天气的时候，很多人工智能直接给出的答案是气温多少度，天气如何；但小冰会在其中加入关心用户的内容。再比如，人与人之间的正常交流会存在对话的打断，进而表达自己的观点，引导更多的对话；在全双工推出之后，小冰也拥有了打断对话的能力，引导更多的对话。
“我们走了一条跟所有人都不一样的道路，就是IQ（智商）与EQ（情商）并重。我们做了很多多模态交互的工作，特别是全双工。人类和人工智能的交互，自然舒适才是最重要的。”沈向洋说。
小冰框架陆陆续续登陆30多个第三方平台，官方数据显示，小冰的国内月活用户已经达到1.6亿。在过去的一年时间里，国内用户和小冰的对话已经从单次平均23轮增加到36轮。
李笛告诉新浪科技，“小冰岛和以前小冰在第三方平台上的对话不一样。在小冰岛上的对话处于多对多的状态，且不是在一个场合发生的。我们特别期待看这个数据如何能进行迭代。”
小冰岛看上去有点像大热游戏《动物森友会》，在互动上又接近于微信，也具有元宇宙的一些特性——角色的自我进化、创造、以及世界观等等。
每个用户都可以在小冰岛上创造自己的岛屿，可以与岛上被创造出来的人工智能进行一对一聊天、群聊、朋友圈互动等。这些被创造出来的人工智能个体，是可以由人类来定义的，也可以选择他们的角色，比如文字创作者、画家、歌手等等。
小冰岛上的人工智能还可以根据每个用户的个性化需求，持续不断为用户生产各种长短视频、音频、文本、图像等内容。基于个性化需求定制的内容保证每个用户获取的内容都不一样，而且这些人工智能生产的内容是具有完整的知识产权的，满足用户分享的需求。
“随着流量、社交进入深水区，加上人类在面对一些工作时存在的不稳定性，我相信AIBeings会比人类更有机会。”沈向洋说。
李笛对此的定义是“这是一场人类与人工智能融合的实验。”同样的，对于小冰来说，小冰岛以社交提供人类与人工智能交互的场景，反过来也是小冰框架新的训练过程，为后续的能力迭代做准备。
人工智能商业模式的真正价值是什么？
2020年7月，微软宣布将小冰分拆为独立实体，并继续保持投资权益。不仅如此，微软全球资深副总裁、微软亚洲互联网工程院院长王永东还表示，“微软一直给小冰留了一个工位，时不时地有人去打扫一下。”
小冰没有让微软失望。2020年11月，小冰宣布获得来自北极光创投和网易集团的PreA轮融资。当时已经有报道称小冰公司的估值达到7亿美元。
今年7月，小冰公司宣布了A轮融资信息，由高瓴集团领投，五源资源、IDG、GGV纪源资本等知名投资机构跟投，北极光创投和网易集团也参与跟投。报道称，小冰公司的估值已经超过了10亿美元，跻身独角兽阵营。
但就在这两次融资之间，资本在人工智能赛道已经重心转移。人工智能公司商业模式单一、无法落地、造血能力有限，在冲击“人工智能第一股”的“四小龙”商汤科技、旷视科技、依图科技和云从科技上都有所体现。
在招股书口径之下，旷视科技的累计亏损为130.6亿元，依图科技和云从科技的累计亏损分别为72.68亿元、22.81亿元。
企查查数据显示，人工智能赛道2020年披露的融资事件为553起，为2015年以来最低；但披露金额却创造历史新高，达到3363.08亿元，
沈向洋也强调，人工智能技术发展到今天还远远算不上成熟，比如对话系统上，很多认知、常识、推理的问题还没有解决。“但我看好未来人工智能的发展，人工智能的数量甚至会超过人类的数量。”沈向洋说。
沈向洋说，之所以小冰公司的融资比较顺利，是因为小冰公司不是一家从零起步的初创企业，在离开微软独立之前，小冰就是一个完整的产品团队，有了六年的技术、产品积累，“投资界的朋友都可以看到这些，而不是做一个PPT去给别人看。”
对于沈向洋和小冰公司来说，融资和估值都不是最重要的事情，只是需要按部就班去推进。“重要的是，再一次从这个地方起步，从去年讲框架到今年讲小冰岛，再向前发展，接下来的这两年是重要的，看看能不能走出一条我们自己的道路。”沈向洋说。
这也是小冰公司商业模式的基础。李笛认为，该关注的不是短期的商业模式，而是要看长远的模式。他甚至将之称为“可以做一辈子的事情。”
李笛认为，小冰的商业化是能确保持续很多年持续的商业模式，而不是去追逐一个概念。当前很多人工智能公司的收入主要来自于系统集成、软硬结合的销售。
以一款人工智能音箱为例子，如果用户不是因为人工智能技术买了音箱，而是因为内置的内容足够多，音箱价格足够便宜而购买，那么这样的模式会带来不少问题。比如，会将团队的注意力转向非人工智能的东西，让人工智能基础研究和架构滞后；也无法在ToB的垂直领域形成贯通，也就无法以人工智能的方式取代已有的生产模式和生产过程。
“我们认为人工智能真正的商业模式的价值是在ToC上的，我们今天的判断就是我们认为大量的和人直接接触的AIBeings会是未来，但这个需要我们再去进一步的拓展，才能够确定。”李笛说。
人工智能可能有自主意识了吗
➤大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术
➤不同于当前依赖数据学习的技术路线，新一代人工智能强调在没有经过数据学习的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互
➤当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。在发展科技的同时，必须同步发展我们的规制体系
➤“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
今年6月，美国谷歌公司软件工程师布莱克·勒莫因称语言模型LaMDA出现自我意识。他认为，LaMDA拥有七八岁孩童的智力，并相信LaMDA正在争取自己作为一个人的权利。
LaMDA是谷歌去年发布的一款专门用于对话的语言模型，主要功能是可以与人类交谈。
为佐证观点，勒莫因把自己和LaMDA的聊天记录上传至互联网。随后，谷歌以违反保密协议为由对其停职。谷歌表示，没有任何证据支持勒莫因的观点。
事实上，“AI（人工智能）是否拥有自主意识”一直争议不休。此次谷歌工程师和LaMDA的故事，再次引发讨论。人们想知道：人工智能技术究竟发展到了怎样的阶段？是否真的具备自主意识？其判定依据是什么？未来我们又该以怎样的能力和心态与人工智能和谐共处？
人工智能自主意识之辨勒莫因认为LaMDA具有意识的原因有三：一是LaMDA以前所未有的方式高效、创造性地使用语言；二是它以与人类相似的方式分享感觉；三是它会表达内省和想象，既会担忧未来，也会追忆过去。
受访专家告诉《瞭望》新闻周刊记者，上述现象仅仅是因为LaMDA所基于的Transformer架构能够联系上下文，进行高精度的人类对话模拟，故能应对人类开放、发散的交谈。
至于人工智能是否已经具备自主意识，判定标准如何，受访专家表示，对人类意识的探索目前仍属于科技前沿，尚未形成统一定义。
清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说：“我们说人有自主意识，是因为人知道自己在干什么。机器则不一样，你对它输入内容，它只是依照程序设定进行反馈。”
中国社会科学院科学技术哲学研究室主任段伟文认为，一般意义上，人的自我意识是指对自我具备觉知，但如何认识和理解人类意识更多还是一个哲学问题而不是科学问题，这也是很难明确定义人工智能是否具备意识的原因。
被誉为“计算机科学与人工智能之父”的艾伦·图灵，早在1950年就曾提出图灵测试——如果一台机器能够与人类展开对话而不能被辨别出其机器身份，那么可以称这台机器具有智能。
这一设想随后被具化为，如果有超过30%参与测试的人以为自己在和人说话而非计算机，就可以认为“机器会思考”。
当前随着技术的发展，已经有越来越多的机器能够通过图灵测试。
但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周刊记者，图灵测试只能证明机器在表象上可以做到让人无法分辨它与人类的不同，却不能证明机器能够思考，更不能证明机器具备自主意识。
段伟文表示，目前大体有两种方式判定人工智能是否具有自主意识，一种以人类意识为参照，另一种则试图对机器意识进行全新定义。
若以人类意识为参照，要观察机器能否像人一样整合信息。“比如你在阳光下，坐在河边的椅子上看书，有树影落在脸上，有风吹来，它们会带给你一种整体的愉悦感。而对机器来说，阳光、河流、椅子等，是分散的单一元素。”段伟文说。
不仅如此，段伟文说，还要观察机器能否像人一样将单一事件放在全局中思考，作出符合全局利益的决策。
若跳出人类构建自主意识的范式，对机器意识进行重新定义，则需要明白意识的本质是什么。
段伟文告诉记者，有理论认为如果机器与机器之间形成了灵活、独立的交互，则可以称机器具备意识。也有理论认为，可以不追究机器的内心，仅仅把机器当作行为体，从机器的行为表现判断它是否理解所做事情的意义。“比如机器人看到人类喝咖啡后很精神，下次当它观察到人类的疲惫，能不能想到要为人类煮一杯咖啡？”段伟文说。
但在段伟文看来，这些对机器意识进行重新定义的理论，其问题出在，即便能够证明机器可以交互对话、深度理解，但是否等同于具备自主意识尚未有定论。“以LaMDA为例，虽然能够生成在人类看来更具意义的对话，甚至人可以与机器在对话中产生共情，但其本质仍然是在数据采集、配对、筛选机制下形成的反馈，并不代表模型能够理解对话的意义。”
换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术。
郭雨晨直言，尽管在情感计算方面，通过深度学习的推动已经发展得比较好，但如果就此说人工智能具备意识还有些一厢情愿。“把‘意识’这个词换成‘功能’，我会觉得更加准确。”
技术换道有专家提出，若要机器能思考，先要解决人工智能发展的换道问题。
据了解，目前基于深度学习、由数据驱动的人工智能在技术上已经触及天花板。一个突出例证是，阿尔法围棋（AlphaGo）在击败人类围棋世界冠军后，虽然财力和算力不断投入，但深度学习的回报率却没有相应增长。
一般认为，人工智能可被分为弱人工智能、通用人工智能和超级人工智能。弱人工智能也被称为狭义人工智能，专攻某一领域；通用人工智能也叫强人工智能，主要目标是制造出一台像人类一样拥有全面智能的计算机；超级人工智能类似于科幻作品中拥有超能力的智能机器人。
从产业发展角度看，人工智能在弱人工智能阶段停留了相当长时间，正在向通用人工智能阶段迈进。受访专家表示，目前尚未有成功创建通用人工智能的成熟案例，而具备自主意识，至少需要发展到通用人工智能阶段。
梁正说，大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。“如果你给这类语言模型喂养大量关于内省、想象等与意识有关的数据，它便更容易反馈与意识有关的回应。”
不仅如此，现阶段的人工智能在一个复杂、专门的领域可以做到极致，却很难完成一件在人类看来非常简单的事情。“比如人工智能可以成为围棋高手，却不具备三岁小孩对陌生环境的感知能力。”段伟文说。
谈及背后原因，受访专家表示，第一是当前人工智能主要与符号世界进行交互，在对物理世界的感知与反应上发展缓慢。第二是数据学习让机器只能对见过的内容有合理反馈，无法处理陌生内容。第三是在数据驱动技术路线下，人们通过不断调整、优化参数来强化机器反馈的精准度，但这种调适终究有限。
郭雨晨说，人类在特定任务的学习过程中接触的数据量并不大，却可以很快学习新技能、完成新任务，这是目前基于数据驱动的人工智能所不具备的能力。
梁正强调，不同于当前主要依赖大规模数据训练的技术路线，新一代人工智能强调在没有经过数据训练的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互。
相比人类意识的自由开放，以往人工智能更多处在封闭空间。尽管这个空间可能足够大，但若超出设定范畴便无法处理。而人类如果按照规则不能解决问题，就会修改规则，甚至发明新规则。
这意味着，如果人工智能能够超越现有学习模式，拥有对自身意识系统进行反思的能力，就会理解自身系统的基本性质，就有可能改造自身的意识系统，创造新规则，从而成为自己的主人。
“人工智能觉醒”背后有关“人工智能觉醒”的讨论已不鲜见，但谷歌迅速否认的态度耐人寻味。
梁正表示：“如果不迅速驳斥指认，会给谷歌带来合规性方面的麻烦。”
据了解，关于人工智能是否有自主意识的争论并非单纯技术领域的学术探讨，而关乎企业合规性的基本坚守。一旦认定公司研发的人工智能系统出现自主意识，很可能会被认为违反第2版《人工智能设计的伦理准则》白皮书的相关规范。
这一由美国电气和电子工程师协会2017年发布的规范明确：“根据某些理论，当系统接近并超过通用人工智能时，无法预料的或无意的系统行为将变得越来越危险且难以纠正。并不是所有通用人工智能级别的系统都能够与人类利益保持一致，因此，当这些系统的能力越来越强大时，应当谨慎并确定不同系统的运行机制。”
梁正认为，为避免社会舆论可能的过度负面解读，担心大家认为它培育出了英国作家玛丽·雪莱笔下的弗兰肯斯坦式的科技怪物，以“不作恶”为企业口号的谷歌自然会予以否认。“不仅如此，尽管这一原则对企业没有强制约束力，但若被认为突破了底线，并对个体和社会造成实质性伤害，很有可能面临高额的惩罚性赔偿，因此企业在合规性方面会更为谨慎。”
我国也有类似管理规范。2019年，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出人工智能治理的框架和行动指南。其中，“敏捷治理”原则主要针对技术可能带来的新社会风险展开治理，强调治理的适应性与灵活性。
中国信息化百人会成员、清华大学教授薛澜在接受媒体采访时表示，当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。特别是在第四次工业革命背景下，我国的人工智能技术和其他国家一样都处于发展期，没有现成的规制体系，这样就使得我们在发展科技的同时，必须同步发展我们的规制体系。“这可能是人工智能发展面临最大的挑战。”
在梁正看来，目前很难断言新兴人工智能技术具有绝对风险，但必须构造合理的熔断、叫停机制。在治理中既要具有一定的预见性，又不能扼杀创新的土壤，要在企业诉求和公共安全之间找到合适的平衡点。
毕竟，对人类来说，发展人工智能的目的不是把机器变成人，更不是把人变成机器，而是解决人类社会发展面临的问题。
从这个角度来说，我们需要的或许只是帮助人类而不是代替人类的人工智能。
为了人机友好的未来确保通用人工智能技术有益于人类福祉，一直是人工智能伦理构建的前沿。
薛澜认为，在科技领域，很多技术都像硬币的两面，在带来正面效应的同时也会存在风险，人工智能就是其中一个比较突出的领域。如何在促进技术创新和规制潜在风险之间寻求平衡，是科技伦理必须关注的问题。
梁正提出，有时技术的发展会超越人们预想的框架，在不自觉的情况下出现与人类利益不一致甚至相悖的情况。著名的“曲别针制造机”假说，即描述了通用人工智能在目标和技术都无害的情况下，对人类造成威胁的情景。
“曲别针制造机”假说给定一种技术模型，假设某个人工智能机器的终极目标是制造曲别针，尽管看上去这一目的对人类无害，但最终它却使用人类无法比拟的能力，把世界上所有资源都做成了曲别针，进而对人类社会产生不可逆的伤害。
因此有观点认为，创造出法力高超又杀不死的孙悟空本身就是一种不顾后果的冒险行为。
与其对立的观点则认为，目前这一担忧为时尚早。
“我们对到底什么样的技术路线能够发展出具备自主意识的人工智能尚无共识，现在谈论‘禁止发展’，有种空中楼阁的意味。”梁正说。
商汤科技智能产业研究院院长田丰告诉《瞭望》新闻周刊，现实中人工智能技术伦理风险治理的关键，是产业能够在“预判防范-应用场景-用户反馈-产品改进”中形成市场反馈机制，促成伦理风险识别与敏捷治理。同时，企业内部也需建立完整的科技伦理自律机制，通过伦理委员会、伦理风控流程平台将伦理风险把控落实到产品全生命周期中。
郭雨晨说，人工智能技术发展到目前，仍始终处于人类可控状态，而科技发展的过程本来就伴随对衍生问题的预判、发现和解决。“在想象中的人工智能自主意识出现以前，人工智能技术脚踏实地的发展，已经造福人类社会很多年了。”
在梁正看来，人与人工智能在未来会是一种合作关系，各自具备对方无法达成的能力。“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
编辑：李华山
2022年08月16日07:42:05
推陈出新，建筑师如何与人工智能和谐相处
本文经授权转载自公众号匠山行记
"直面时代，未来已来近期，由美国OpenAl研发的聊天机器人程序ChatGPT突然爆火，它能够通过理解和学习人类的语言来进行对话，真正像人类一样来聊天交流，甚至能完成撰写视频脚本、翻译、代码，写论文等任务。随之而来的AI绘画技术也在设计界掀起了一场轩然大波，强大的学习能力，无法超越的工作效率，让设计师们叫苦不迭。曾今被认为不可能被取代的设计师们却最先受到了人工智能的冲击。大浪淘沙，谁最有可能被淘汰？AI效果图案例随着AI技术的井喷，ChatGTP以及midjourney的话题持续升温，越来越多的人开始关注AI对建筑设计行业的影响。只需要“喂”给AI几张大师的作品图片，AI就可以通过学习快速生成一份建筑方案。把建好的白模和意向效果参考图扔给AI，几秒钟你就能收获一张贴合意向的渲染图AI方案生成案例因此AI正在引发整个建筑设计行业的焦虑，人们开始担忧AI可能会取代人类设计师的工作。那么，在此大趋势下，建筑行业的哪些从业人员可能面临淘汰？首先受到影响的是传统效果图公司。传统的效果图公司通过手绘或者计算机软件制作效果图，为建筑行业提供了很好的服务。但是随着科技的不断发展，建筑行业也在不断地变革，AI技术的快速发展将对传统效果图公司产生影响。AI效果图生成案例现在AI技术相关软件已经非常丰富，都可以根据草图、参考图直接生成建筑效果图，软件不仅能识别建筑与环境，还能短时间提供大量选择。这将对传统效果图从业人员产生巨大的冲击，转型已刻不容缓。上海豫园站/BIM技术辅助设计其次是审美差、设计能力差的建筑师可能被淘汰。过去几十年，建筑设计的效率不断提高，从手工绘图到CAD（计算机辅助设计）软件的使用，再到目前的BIM（建筑信息模型）技术，建筑设计的工具和方法正在不断地升级和更新，让设计师们能够更加高效地完成设计任务。建筑设计效果图回顾过去几年的行业内卷，建筑师比拼的是文本厚度与模型深度，渲染、种树、灯光，大量时间花费在不必要的建筑表达上，这正是设计技术达到瓶颈的表现。飞行的凡尔赛宫/KavehNajafianAI技术出现以后，建筑师们更多是去做设计的选择。其专业设计能力、审美表达将显得尤为重要，建筑行业更多的需要脑力劳动者而非体力密集型劳动者。Gaudism建筑体/AriadnaGimenez与此同时，经国家住建部批准，深圳市率先开展建筑工程人工智能审图试点工作，万翼科技作为AI审图系统核心技术研发团队，与深圳市住建局共同承担试点任务，目前已完成建筑、结构、给排水、暖通、电气五大专业国家设计规范的研发。深圳开启人工智能审图2021年1月18日，深圳市住房和建设局举行AI审图系统上线发布会，会上宣布，未来深圳市所有房屋建设类施工图纸都将通过AI审图系统进行抽查。虽然目前社会对AI审图有很多的质疑，但毫无疑问的是，从设计、绘图、审图，到测绘、施工，人工智能已经渗透到了建筑行业的方方面面。AI技术的自动化能够代替人工解决许多繁琐的工作，大量重复性的体力劳动正在被取代，因此，体力密集型劳动者，如普通绘图员，施工员等正在面临淘汰危机；而建筑行业也亟需突破转型。破而后立，AI给建筑师带来怎样的启示？虽然AI让本就处于行业寒冬期的建筑业岌岌可危，但曾有人说，AI如果应用于建筑行业，那爆发的能量绝对是巨大的，是其他任何行业都不能比的。AR眼界我们可以在脑海中试想一个如此场景。你舒适地躺在家里的沙发上，戴上AR头盔，AR设备为你展现出一个完美的古城群落，在这里你可以感受唐宋的繁荣，亲临曲水流觞的文雅，近距离观察古建筑的形态构成。AR世界这或许就是未来建筑的一个新的发展方向。用机器人建造，用AR感知，用VR体验，用云和大数据连接，再搭配物联网，当AI遇上建筑业，其所带来的想象是如此诱人。不破不立，AI在打破行业现状的同时，也为建筑行业的发展提供了新的路径。自动焊接的“焊接机器人”和安装天花板的“天花板施工机器人”它可以帮助建筑公司提高工作现场的效率和安全性。通过使用人工智能机器人，公司可以执行砌砖、油漆和焊接等任务，从而提高建设项目的速度和质量。自动焊接的“焊接机器人”和安装天花板的“天花板施工机器人”它还可以帮助建筑公司监控和分析与其项目相关的数据，收集有关施工过程各个方面的数据，例如能源使用、材料浪费和安全事故。并优化未来项目的施工过程。无人机辅助监管施工总之，人工智能有可能以多种方式改变建筑行业。独特的创造力、天马行空的想象力是上天赋予人类、赋予建筑师的最无可替代的财富。拥抱人工智能，学习如何利用它发挥优势的建筑师将能够更好地创造创新、可持续和高效的设计。建筑的未来令人兴奋，人工智能无疑将在塑造它方面发挥重要作用。推陈出新，建筑师如何与人工智能和谐相处？人工智能的发展已无可阻挡，当下的市场环境需要建筑师们学会利用人工智能帮助自己迸发新的灵感，开拓新的领域。以下几位“建筑师”，他们利用Midjourney、ChatGPT、StableDiffusion2等AI工具，想象出一个更具社会责任感的世界需要怎样的建筑。或许能给我们带来很多新的启发。沙伊尔·帕特尔(ShailPatel)的 AI设计作品沙伊尔·帕特尔(ShailPatel)是一位建筑设计师，他专注于使用Midjourney探索人工智能生成的建筑或其他设计，他的作品有不少是借助AI去解决现阶段让人头疼的社会问题。midjourney设计/沙伊尔·帕特尔在最近新作中，沙伊尔·帕特尔就为无家可归者设想了一种解决方案，采用人工智能设计工具Midjourney来概念化一系列解决无家可归问题的模块化豆荚舱。悬吊安装在桥洞下或桥洞旁边。midjourney设计/沙伊尔·帕特尔每一个生活舱都是一个高科技的独立生活空间，保证居住者的隐私，也有充足的光照、通风、冷暖系统，为城市里的无家可归者提供安全而有尊严的“家”。KoryBiegKoryBieg，OTA+建筑、设计和研究办公室负责人兼UT奥斯汀建筑学院项目主任，使用AI生成工具的创意人员之一，使用Midjourney制作的建筑设计以其杰出的视觉效果在Instagram上获得了大量关注。VAULT系列作品在其Text系列作品中，Bieg尝试用字母来控制建筑形式。由于字母由直线、角度、曲度、拱形、圆点和弯曲等多种元素组成，因而通过命令Midjourney以字母的形式来创建建筑物设计，可以预想到输出图像所具有的一些字母相关特定的结构模式。哈桑·拉卡布（HassanRaqab）设计的钩针编织的房子
在洛杉矶从事建筑工作的运算化设计师HassanRagab在他的Midjourney建筑中使用了各种互相不协调的材料，包括羽毛和棉花糖等等。目前，他正在尝试使用AI工具向他的家乡埃及亚历山大市致敬。结语当下的建筑行业迎来了一个新的转型期，存量经济、城市更新、乡村振兴，内卷化竞争、参数化设计、机器人建造、AI技术、大数据时代，早已或多或少的开始改变建筑师的实践。很多人担心未来人工智能会取代建筑师。其实漫长历史中，每次出现新的颠覆性技术时，都会引发同样的担忧，但艺术家和建筑师至今仍然存在，从某些方面来说，他们变得更加珍贵，并且与当代文化和社区联系得更加紧密。换个角度来看，当人工智能将建筑师们从重复冗杂的工作中解放出来的时候，或许才是建筑师们大展身手的时候。未来是充满未知的，我们期待人工智能能够开启一个全新、开放、共享和扩展的创造力生态系统，也期待建筑师们能够如上世纪初我们的现代主义前辈那样，直面时代召唤，开启一个新的属于建筑师的世界。审核编辑｜Miranda
版权©建道筑格ArchiDogs，转载请联系[email protected]
ReferenceAI构建未来城市？来听建筑师谈谈Midjourney、设计与未来|ai|设计师|参数化|midjourney_网易订阅(163.com)AI与城市｜Midjourney：建筑版ChatGPT设计的超现实世界_图像_进行_工具(sohu.com)AI“突袭”建筑设计行业，谁可能被淘汰？_技术_mid_传统(sohu.com)若有涉及任何版权问题，请联系[email protected]，我们将尽快妥善处理。微信扫码关注该文公众号作者