人工智能与艺术的未来（一）
谷歌的人工智能项目——DeepDream，以人工神经网络为基础进行图片识别和处理，它可以将世界上最著名的画作变换成奇怪美丽的抽象化作品。
赵兴：前面您谈到了您在美国见到的模仿风格制作作品的现象，这种情况是否和跟着导师学画，最后和导师风格很像有类似的地方？您认为现在的人工智能取代了脑力劳动的一部分，使这个过程简化或者缩短，2010年您的博客也曾经上传了一系列通过电脑设计的作品，是否您将人工智能归属于辅助性工具一类？
翟振明：对。跟着导师学习，其中有一个“人”的关系在里面，人与人之间有自由意志的互动，而人工智能把那块去掉了，也就没有人的自由意志。就好像我在山下捡了一块石头剖成两半，不同的矿山一定有不同的风格，这里的山石剖出来的是这里的纹理，就成了风格，但是其中没有人的意志。所以这不是艺术，石头上纹路再怎么好看也不能叫艺术。
以前我写过文章，审美要和自由意志联系起来才叫艺术，分离的话就不是艺术作品。艺术和审美这两个是分离的概念，很多艺术评论家、理论家把它搞混了，以为是同一个概念。艺术一定要有人的自由意志的参与痕迹。我看到了一幅画，把它的作者、时代——这是达·芬奇的、文艺复兴的——把文化、历史的东西找出来，觉得这幅画意义重大，算不算审美？在我看来不算，这与读小说要读出来一个故事差不多。古董就是这样，并不是看着特别好看，但里面要有故事，但故事并不是艺术审美的必要部分。
赵兴：您觉得这种DeepDream的作品能称为艺术作品吗？
翟振明：相当一部分不是。
赵兴：2016年，腾讯与您做过一次访谈，访谈里您提出人工智能是解放脑力劳动，而且解放脑力劳动是要让我们人类进行很多创造性的活动，包括艺术活动，是否意味着人工智能无法进行创造性的艺术活动？
翟振明：你看这个两个词语，一个是劳动，一个是活动，二者的区别非常重要。劳动是工具性的，活动包括目的本身，人的很多目的就是活动，就是要创造，创造属于活动，但不是劳动。这里区分开了，创造性的艺术活动不是艺术劳动。这个对比非常关键，艺术中需要劳动的部分就被替代掉了，但创造中的自由意志是非常重要的，也是不能被替代的。
赵兴：您认为人工智能不能完成创造性的艺术活动，必须要有人的参与吗？
翟振明：对，但是我们艺术创造里面有多少劳动的成分，人工智能就可以代替多少，并且现在已经实现了。
赵兴：2006年您写过一篇《论艺术的价值结构》发表在《哲学研究》，能否请您就人工智能介入艺术创作，谈一谈当下艺术的边界问题？
翟振明：我在理论上是有一贯性的，艺术的价值结构，我的分类跟别人不一样，先要讲纯艺术和不纯的艺术。艺术不是为了改造社会，它可以有这个效果，但是艺术作为艺术本身目的的话就是审美，审美和改造社会没有必然关联，它有偶然关联，所以就要按照审美的不同分类看它纯或不纯，视觉只诉诸于视觉，叫纯艺术。如果要和概念、听觉搞起来也行，就不能叫纯艺术。纯艺术和好艺术是两个概念，纯和有价值是两回事，价值有各种价值，包括人文价值、市场价值等等。但是纯或不纯就是以视觉审美纯不纯为标准，视觉只能靠看，听觉只能靠听，语言艺术只能欣赏语言。如果把人的感官大致归为“五官”的话，我们就大致有五种“纯艺术”。
赵兴：您一贯坚持下来的还是这个意思，人工智能属于工具，如果没有融合我们的自由意志，就不可能产生有创造力的艺术。
翟振明：是的，但是可以有审美效果。
赵兴：您对艺术边界定义得很清晰，必须要有人的自由意志参与其中，才能够算是艺术。
翟振明：是的。买家得到艺术品不是为了其他，只是为了审美的直感效应，就是将其当艺术品。但如果是为了投资，期待升值或是为了行贿，在他那里就与艺术品的本来价值分离了，这个非常清晰。
赵兴：当人工智能介入艺术领域时，艺术家应该有什么作为？您在《论艺术的价值结构》中提到了传播对于艺术的影响，有大量艺术之外的附加值，也提到了艺术欣赏参与艺术作品实现价值的必然性，是不能或缺的。那么，在人工智能高速扩张的现实中，艺术家有没有主动迎接这种变化的举措？
翟振明：有，因为现在大家对人工智能的理解不准确，依然没有把它的工具性和自由意志区别分开，觉得人工智能就是人类，其实不是。我专门论证过，到处讲科学、人工智能的限度，也在进行算法、神经网络的建构，我也和量子力学家一起做过研究。我们现在的图灵机或者叫冯诺依曼机器是绝对不可能有自由意志的，不是技术的问题，只有按照量子力学原理搞出来的东西，未来才有可能变成自由意志。如果没有自由意志就是工具，它不可能有权利。没有创造力，没有自由意志，就不是艺术。
艺术创作过程中的劳动部分被人工智能替代了，但是成为艺术的那部分内容，人工智能不可能替代。所以自由意志很重要，它涉入越多，艺术家就越与劳动分离，就越有机会发挥自由创造力。劳动部分就不要和人工智能挑战了，技能训练、重复模仿都不如人工智能做得好。那么，自由意志在哪里？第一，创作作品的过程中，有人工智能辅助，不一定只出来一个结果，可以有很多的可能性呈现出来。让艺术家在里面挑一个，觉得可以了，那就是他的，基本上是属于艺术家的作品，艺术家是唯一挑过的，要做决策的。第二，更主动地，让艺术家直接介入到人工智能的神经网络的塑造过程中。例如，艺术家看了通过人工智能辅助制作的作品，觉得挺好的，可还是有点不太对的地方，把这些地方分析出来。将来试一试把人工智能的激活函数、权重调整，重调一遍试试看。很多数据要给机器学习，学习前要分类标识，不同的标识，机器学习到的结果就不一样，那时候艺术家就可以介入，留下自由意志干预的痕迹了。
赵兴：我有一个很有意思的问题，如果这个工具的程序特别强大，产出很多视觉效果让艺术家瞠目结舌，我觉得特别好，这就是我喜欢的东西了，我不想再改动它，这也算是我的艺术作品吗？
翟振明：这是轻度的，在观念上已经是你的，当然在那时候，比如说你感觉两种效果的中间状态可能会更好一点，你再把这两个设计进去，那这就是你的了。
赵兴：您这个观点有意思，既使我不改动作品，只要我的意志选择了它，它就是我的作品，只是没有那么深的介入而已；如果我能够对它进行进一步的改动，作品就打下我更深的烙印。我又想起关于您对于价值判断的另外一个问题。比如手绘的作品和喷绘的作品，我们觉得手绘的价值高，我们习惯性地讲手工性的东西相对珍贵，按照您的说法，手绘的东西因为融入了更多的艺术家自由意志的判断，所以它的价值超过喷绘？
翟振明：对，而且手绘的作品，任何一次都不可能重复，它具有独特性，手绘创作的情况下，每一瞬间自由意志的活动都会留下痕迹。而喷绘，就只是框架性的介入，喷绘复制的话，那就更弱了。
赵兴：我对您的《论艺术的价值结构》里面有一个词语很感兴趣，您把“创造者对精神性的内在价值直接肯定或否定”界定为“直感”，用“直感”这个词语取代“审美”。您把它转换了，审美不是美，有可能是丑的。您有一个结构，直感外化到直感印证，这实际上是艺术作品到艺术欣赏的过程。我就想到康德的《判断力批判》里面一个类似的结构，康德把美和崇高并列，我们通过反思性的判断力或者说共通感，达到我们共同认为的美。从康德的结构到您的这个结构，您觉得有什么联系？您这个体系和康德的体系是对应的？
翟振明：可以对应，可以从那里面直接导出来，没有概念上的冲突，而且是刚刚好的。在康德那里，愉悦感之外，他主要关注到崇高，我这里面可以包括很多东西，有丑、无聊、无意义感、颓废什么都可以，只要是直感回应，而不是只看到GDP、生产效率高不高那些因素。
赵兴：我觉得您这个“直感”的提法比较容易让我们理解当代艺术的问题，当代艺术里面“美”不再是核心内容。
翟振明：其实以前美学里面都不是这样，“Aesthetic”中文翻译成“审美”，很多人就基本上只往“美”方面靠，但是这个词语的概念中并没有这样的限制，包括对作品判断美或不美，你说它美，就有不美的，这都属于审美。美和丑，这两个范畴是对立出现的，不然美怎么判断呢，所以它本来就包括了，并不是只有美一方面叫“审美”。
赵兴：您觉得人工智能的发展对艺术世界会产生怎样根本性的影响？人工智能会辅助艺术世界发展，还是会根本性地改变艺术世界的走向？
翟振明：辅助还是根本性的改变，可以有不同的区分方法，根本改变可以是质也可以是量，如果更多的作品可以创造出来，甚至数量级的不同，算不算根本改变？但是从另外一个角度理解，它在自由意志方面始终替代不了人类，只在劳动方面大量的取代，这算是根本吗？这两个“根本”意思是不一样的，分别有不一样的标准。但是我看第二个标准比较有实质性，量可以有很多。实际上，艺术家以艺术家身份在“艺术活动”方面并未被取代，但是艺术家平时没有区分出来，劳动部分和艺术活动部分没有这么区分，因为这两部分概念分开比较容易，而实际的过程却是相互纠缠在一起的。比如作为艺术家，你问我今年从事艺术活动和艺术劳动各占多少时间，一定是不可回答的。从多少时间份额看，不好区分。但从多少心力看，大致还是可以区分的。作为比喻，我当然也可以说，我最精彩的艺术创作活动一年有5天就很满足了，得意之作20天有一幅我就非常满足了，而不满足那部分也许是艺术家的创造性灵感没发挥好，可以全部用机器代替。所以，真正有才能的艺术家和一般的劳动者就非常不一样了，艺术家可以一直创作下去，没问题。但在艺术行业劳动的人，确实要被淘汰的。
赵兴：能否将艺术劳动和艺术创造看成工匠和艺术家的区别呢？
翟振明：可以啊，但是艺术家中的工匠部分是自己完成的，大部分艺术家并没有完全分开。
赵兴：最后，请您总结一下艺术与新技术之间的关系。
翟振明：人工智能、新技术、VR这些东西介入到艺术中，那么现在要认定艺术家最重要的是两个方面：第一是意念，就是自由意志，不管创作过程中自由意志在作品上留下痕迹的多少，但是开始的自由意志一定要有，而且很重要；第二最终得到的作品是审美的，人家能看到有审美价值，或者是艺术作品，能即刻唤起人们的直感效应才行，与它能否有其他社会、经济或政治效应无关。人工智能这块，除非超越了现在这种图灵机，技术本身是不能产生自由意志的，它可以产生有审美效应的产品。审美这块是超出艺术创作者的意图的，一旦成为作品，就与艺术家自己的直感分离了。
真正和艺术家有关系的是，他的艺术活动不一定要产生艺术作品，不一定导致最后的艺术欣赏，他可以把自己的内在感受、各种价值、复杂情感、道德判断，以直感的方式外化出一个东西，最终有没有人知道不重要，这就是艺术家最重要的本质。完成了这个直感外化的过程，拍了多少钱、被谁收藏了，这些都和艺术家没有艺术本质上的关系了。但是艺术作品要从头到尾完成才叫艺术作品，艺术创造这部分只属于艺术家。这样的话，人工智能就没有办法和人相比，艺术家只要找到渗透的机会，“你”就存在了，就参与了创造活动。艺术的功劳全属于人的部分，就完全由人的自由意志的参与度决定的。那些艺术的劳动就完全可以和人没关系，是本来就应该分开的东西。人工智能来了，本该分走的东西分走了，这不就是艺术家的最后回归吗？真正的艺术家，应该感到高兴的。
我想，我实验室中的“虚拟与现实之间无缝穿越体验系统”，完全符合艺术作品的定义，高科技又与人工智能无关，可以作为装置艺术作品参展。其实，简化版的，多年前就在深圳美术馆展出过。
赵兴：人工智能不管怎么发展也不可能取代艺术家的地位，而艺术作品的价值取决于艺术家创造性的艺术活动。那么，人工智能不管怎么说都是一个辅助性工具，这个工具可以放心的使用，它功能越强大就越能解放艺术劳动，而促使艺术创作活动的提升。
翟振明：是啊，被淘汰的本来就是艺术行业中的劳动者，而不是真正的艺术家。
人工智能，让艺术变得廉价？
陈炯
社会上对人工智能技术与艺术的关系已经有所关注，但在当下，人们的关注点还只限于艺术会不会被人工智能技术所取代。其实，这个答案是否定的，人工智能作为一项技术，与艺术的关系不是取代与被取代的关系。刚好相反，二者是相辅相成、互为促进的关系。因此我认为，人工智能与艺术更应该被讨论的是在社会现实层面的“影响”。比如，艺术创作如何利用好人工智能这项技术？人工智能的普及让艺术品的复制更简单、更快捷，也意味着更廉价，而廉价的背后会不会对已经形成的艺术市场带来冲击，抑或是机遇？
人工智能“入侵”艺术领域
被称为史上第一本人工智能创作的诗集最近面市了，这部名为《阳光失了玻璃窗》诗集的作者是微软机器人小冰，小冰花费了100个小时，“学习”了自20世纪20年代以来的519位中国现代诗人的所有作品，并进行了多达1万次迭代，开始自己写作诗歌。这其实不算是新鲜事了。早在2011年，加州大学的音乐学教授柯普就写了一些计算机程序，能够谱出各种协奏曲、交响乐和歌剧。他写的这个名为安妮的人工智能程序专门模仿巴赫的作曲风格，短短一天就谱出五千多首巴赫风格的赞美诗。
也许有人会说，人工智能只是单纯的模仿，“只有画面没灵魂，只有乐曲没有精神”，说的就是它了。人类独占而人工智能难以突破的那些领域，比如情感和创意，是不可逾越的。不过，现在科学的发展可能已不是这样了。微软去年进行了“下一个伦勃朗（TheNextRembrandt）”项目，挑战“如果伦勃朗死而复生了，他最有可能画什么”的问题，探索人工智能的创意潜力，教授电脑像绘画大师伦勃朗一样去思考、创意和绘画。研究团队通过分析伦勃朗的现存作品，让机器自主学习艺术家的绘画风格和主题，“机器人伦勃朗”最后打造了一张3D打印作品，画了一幅三四十岁、头戴帽子、有胡子、面向右方的男子肖像画。参观者感觉该作品与挂在美术馆的伦勃朗真迹一点也不突兀。技术、科技的发展大跨步地向前迈进，艺术也没有停滞。我认为，科技与艺术并不是谁取代谁或谁入侵谁的关系，实际上，艺术也一直在为科技提供着重要服务。二者的关系可以说是相辅相成、互相促进的。只不过在当前，在科技突飞猛进的背景下，值得探讨的问题是：人工智能会不会让艺术变得廉价？一位艺术家几个月完成的作品，通过人工智能几秒钟就能够完成；3D打印的产品甚至比经过大师精心雕琢的工艺品还要精美，且没有材料限制，并可任意复制等等。
由“机器人伦勃朗”通过数据分析生成的男子肖像作品
“艺术家”的概念将被淡化
艺术家博伊斯说：“人人都是艺术家。”换个角度理解也意味着，没有艺术家只有艺术。也许有人并不认同他的观点，不过在几十年后的当下，博伊斯言论很可能变成普遍现实。去年二三月份，谷歌在旧金山举行了一场拍卖会。这些画作一部分是谷歌内部员工创作，另一部分是由其他人员利用DeepDream在业余时间创作完成。Google把自家生成图片的技术Inceptionism开源化，称之为DeepDream，一个原本用来将图片分类的AI，让我们看到了不一样的世界。输入一张图片之后，选择某一层神经网络进行重复处理的次数和变形的程度，就能获得一张非常后现代的“画作”。
不难看出，人工智能、工程师都已经成为艺术创作的主体，“艺术家”这个名词或许在将来会被淡化，只要拥有了科学技术，艺术创作将不再专属于专业人士。人工智能让艺术创作变得越来越普及，也越来越容易，创作者不需要拥有美术、音乐或写作的专业背景，甚至也不需要掌握人工智能的知识，只要学会操作一个软件，输入你想要的艺术作品的要素，比如颜色、线条，甚至是你喜欢的艺术家作品的风格线索，那么，你需要的就是动一动手指，喜欢的作品很快就会呈现在你的面前。
可以说，艺术创作不再是专业人士的专属，不再只是艺术家才能完成的工作，普通人进行艺术创作的几率被大大提高，只要你愿意，借助人工智能技术、设备、软件，一样也可以把艺术创作当做职业。尽管今天艺术家还是一个让人羡慕的职业，艺术家代表了专业、教育背景、文化知识，甚至是生活态度和财富。不过，这些标签在未来或许不再只是贴在专业人士身上的标签。人人都能够运用科技进行艺术创作，人人都能称之为“艺术家”，艺术家与普通人的界限越来越模糊。从某种程度上而言，“艺术家”也就变得“平价”“廉价”起来，不再是众人眼里的阳春白雪。
“机器人伦勃朗”对作品中的一些特殊部分进行几何分析。图片来源：theNextRembrandt
艺术品价值受到冲击
对于通过人工智能创造出的“作品”，目前大多数人认为，其仍属于商品属性而非艺术品属性。不可否认，艺术创作与人的情感、阅历、经验、思维等密切相关，现阶段的人工智能显然还不具备这些人格特征，其作品还限于模仿或更简单的阶段。但是，人工智能对于艺术品市场特别是工艺品市场的冲击开始显露，通过人工智能，一件作品的获得将更快更廉价的时候，艺术品的价格被人工智能作品拉低并不是没有可能。
举个简单的例子。在北京某大型设计展上，一个企业展示了他们运用3D打印技术制作的工艺品，这些作品材料各异，有金属、树脂等材质，尺寸上大小不一，而且还提供定制服务，能够为需要的消费者制作想要的产品。最让人叹为观止的是，其雕琢的细致和精美程度几乎是人们手工操作难以达到的程度，对于大部分外行人来说，看不出与那些有几十年功底的技艺大师的作品有什么区别。尽管定制一件3D打印工艺品价格不菲，由几千元到几万元不等，但相较于大师级的作品来说，不知道便宜了多少倍。另据该企业相关负责人表示，一套专业的3D打印设备目前价格不低，不过伴随技术普及，产品设备价格也必定随之下降。可以预见的是，设备价格下降以及打印产品的不断增加，作品数量的提高将大大摊薄制作成本，3D打印工艺品的价格还将继续降低。
雕塑家李苑琛根据自己的体型设计完成的作品《英雄在内》，通过3D扫描、打印技术，抛弃传统学院派“雕”与“塑”的技术手段而进行新的创作尝试。图为雕塑家体形的扫描图像。
对于专业藏家或收藏爱好者来说，3D打印工艺品显然无法与大师作品做比较，价格也不是其考虑的重要因素。但对于更广大的普通百姓而言，3D打印工艺品却是一个很好的选择，“高级、好看”是大部分人对工艺品的基本要求，过去几万元的工艺品如今可能会以更低的价格就能买到，何乐而不为。
人工智能作画也是如此。有一个公司叫第六镜（Glasssix），专门针对中国传统绘画的工笔、写实、写意手法绘画作品进行处理，实现了“中国风机器作画”。而以西方美术的油画为主的作品，人工智能也早已经学会。同时，人工智能可基于消费者需求提供服务。先有消费需求，然后通过互联网直接告诉企业，需要什么作品，企业根据消费者需求进行创作，提高效率，这种模式产生的作品和人工智能提供的服务更具有市场潜力。一旦人工智能的绘画技术成熟、普及，艺术品市场的秩序恐怕就要重写，甚至有人提出艺术品生意要崩盘，深圳大芬村的绘画产业在未来就到了该考虑转型的阶段。
雕塑家李苑琛根据自己的体型设计完成的作品《英雄在内》，通过3D扫描、打印技术，抛弃传统学院派“雕”与“塑”的技术手段而进行新的创作尝试。图为根据李苑琛减肥前体形进行3D打印的作品。
正视人工智能与艺术的关系
如果要正视人工智能与艺术品的关系，首先需要剖析什么是人工智能？何为艺术？而探讨前者的是科学，探讨后者的是哲学。据我了解，目前的人工智能还是处于模仿的阶段，就连人类最简单的“学习”，人工智能尚且很难达到，所以我们之前提到的“创作”实际上也是模仿的结果。人工智能创作的艺术品特别是绘画等作品，可能更适合用来装点家居，离真正的艺术品创作还很远。不过，人工智能的高速发展和大量人工智能战胜人类的事例，正对当代艺术创作产生不可忽视的影响。
正如前文所述，人工智能与艺术不是谁取代谁的关系，恰恰相反，人工智能技术与艺术创作有着更多结合的可能性。中国的国画和西方的油画无论是技术层面和艺术造诣都已经达到一定的高度，照相机的出现曾经对写实油画产生过冲击，但丝毫没有影响写实油画的发展，反而产生了照相写实的绘画风格。也有当代国画家利用照相显影技术进行创作。因此，科学技术的发展给艺术带来的不确定性中也包括好的、积极的一面，重要的是善于利用。
雕塑家李苑琛根据自己的体型设计完成的作品《英雄在内》，通过3D扫描、打印技术，抛弃传统学院派“雕”与“塑”的技术手段而进行新的创作尝试。图为根据减肥后的扫描图像制作完成的作品零件。
人工智能是理性的，这已经成为共识，而人类除了理性还要表达情感，艺术创作和艺术品最显著的特点也是基于人的感性所产生。人们可以通过人工智能来展示自己的创意、表达自己的感情，把人工智能作为一种媒介和平台，或者把人工智能作为实现创作的手段，这也是现在的艺术工作者尝试的创作重点。实际上，当今社会的发展，任何学科、领域都已经被科技拉得越来越近，抛开科技发展的背景谈行业既不现实，更是倒退，科技与艺术是人类发展的两个重的命题，如何协调二者的关系，考验的正是我们的智慧。
陈炯中国人民大学艺术学院副教授
本文内容版权归本刊所有，请勿转载，侵权必究。
如需转载合作请联系微信号QQ号：526891471返回搜狐，查看更多
人工智能可能有自主意识了吗
➤大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术
➤不同于当前依赖数据学习的技术路线，新一代人工智能强调在没有经过数据学习的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互
➤当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。在发展科技的同时，必须同步发展我们的规制体系
➤“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
今年6月，美国谷歌公司软件工程师布莱克·勒莫因称语言模型LaMDA出现自我意识。他认为，LaMDA拥有七八岁孩童的智力，并相信LaMDA正在争取自己作为一个人的权利。
LaMDA是谷歌去年发布的一款专门用于对话的语言模型，主要功能是可以与人类交谈。
为佐证观点，勒莫因把自己和LaMDA的聊天记录上传至互联网。随后，谷歌以违反保密协议为由对其停职。谷歌表示，没有任何证据支持勒莫因的观点。
事实上，“AI（人工智能）是否拥有自主意识”一直争议不休。此次谷歌工程师和LaMDA的故事，再次引发讨论。人们想知道：人工智能技术究竟发展到了怎样的阶段？是否真的具备自主意识？其判定依据是什么？未来我们又该以怎样的能力和心态与人工智能和谐共处？
人工智能自主意识之辨勒莫因认为LaMDA具有意识的原因有三：一是LaMDA以前所未有的方式高效、创造性地使用语言；二是它以与人类相似的方式分享感觉；三是它会表达内省和想象，既会担忧未来，也会追忆过去。
受访专家告诉《瞭望》新闻周刊记者，上述现象仅仅是因为LaMDA所基于的Transformer架构能够联系上下文，进行高精度的人类对话模拟，故能应对人类开放、发散的交谈。
至于人工智能是否已经具备自主意识，判定标准如何，受访专家表示，对人类意识的探索目前仍属于科技前沿，尚未形成统一定义。
清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说：“我们说人有自主意识，是因为人知道自己在干什么。机器则不一样，你对它输入内容，它只是依照程序设定进行反馈。”
中国社会科学院科学技术哲学研究室主任段伟文认为，一般意义上，人的自我意识是指对自我具备觉知，但如何认识和理解人类意识更多还是一个哲学问题而不是科学问题，这也是很难明确定义人工智能是否具备意识的原因。
被誉为“计算机科学与人工智能之父”的艾伦·图灵，早在1950年就曾提出图灵测试——如果一台机器能够与人类展开对话而不能被辨别出其机器身份，那么可以称这台机器具有智能。
这一设想随后被具化为，如果有超过30%参与测试的人以为自己在和人说话而非计算机，就可以认为“机器会思考”。
当前随着技术的发展，已经有越来越多的机器能够通过图灵测试。
但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周刊记者，图灵测试只能证明机器在表象上可以做到让人无法分辨它与人类的不同，却不能证明机器能够思考，更不能证明机器具备自主意识。
段伟文表示，目前大体有两种方式判定人工智能是否具有自主意识，一种以人类意识为参照，另一种则试图对机器意识进行全新定义。
若以人类意识为参照，要观察机器能否像人一样整合信息。“比如你在阳光下，坐在河边的椅子上看书，有树影落在脸上，有风吹来，它们会带给你一种整体的愉悦感。而对机器来说，阳光、河流、椅子等，是分散的单一元素。”段伟文说。
不仅如此，段伟文说，还要观察机器能否像人一样将单一事件放在全局中思考，作出符合全局利益的决策。
若跳出人类构建自主意识的范式，对机器意识进行重新定义，则需要明白意识的本质是什么。
段伟文告诉记者，有理论认为如果机器与机器之间形成了灵活、独立的交互，则可以称机器具备意识。也有理论认为，可以不追究机器的内心，仅仅把机器当作行为体，从机器的行为表现判断它是否理解所做事情的意义。“比如机器人看到人类喝咖啡后很精神，下次当它观察到人类的疲惫，能不能想到要为人类煮一杯咖啡？”段伟文说。
但在段伟文看来，这些对机器意识进行重新定义的理论，其问题出在，即便能够证明机器可以交互对话、深度理解，但是否等同于具备自主意识尚未有定论。“以LaMDA为例，虽然能够生成在人类看来更具意义的对话，甚至人可以与机器在对话中产生共情，但其本质仍然是在数据采集、配对、筛选机制下形成的反馈，并不代表模型能够理解对话的意义。”
换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术。
郭雨晨直言，尽管在情感计算方面，通过深度学习的推动已经发展得比较好，但如果就此说人工智能具备意识还有些一厢情愿。“把‘意识’这个词换成‘功能’，我会觉得更加准确。”
技术换道有专家提出，若要机器能思考，先要解决人工智能发展的换道问题。
据了解，目前基于深度学习、由数据驱动的人工智能在技术上已经触及天花板。一个突出例证是，阿尔法围棋（AlphaGo）在击败人类围棋世界冠军后，虽然财力和算力不断投入，但深度学习的回报率却没有相应增长。
一般认为，人工智能可被分为弱人工智能、通用人工智能和超级人工智能。弱人工智能也被称为狭义人工智能，专攻某一领域；通用人工智能也叫强人工智能，主要目标是制造出一台像人类一样拥有全面智能的计算机；超级人工智能类似于科幻作品中拥有超能力的智能机器人。
从产业发展角度看，人工智能在弱人工智能阶段停留了相当长时间，正在向通用人工智能阶段迈进。受访专家表示，目前尚未有成功创建通用人工智能的成熟案例，而具备自主意识，至少需要发展到通用人工智能阶段。
梁正说，大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。“如果你给这类语言模型喂养大量关于内省、想象等与意识有关的数据，它便更容易反馈与意识有关的回应。”
不仅如此，现阶段的人工智能在一个复杂、专门的领域可以做到极致，却很难完成一件在人类看来非常简单的事情。“比如人工智能可以成为围棋高手，却不具备三岁小孩对陌生环境的感知能力。”段伟文说。
谈及背后原因，受访专家表示，第一是当前人工智能主要与符号世界进行交互，在对物理世界的感知与反应上发展缓慢。第二是数据学习让机器只能对见过的内容有合理反馈，无法处理陌生内容。第三是在数据驱动技术路线下，人们通过不断调整、优化参数来强化机器反馈的精准度，但这种调适终究有限。
郭雨晨说，人类在特定任务的学习过程中接触的数据量并不大，却可以很快学习新技能、完成新任务，这是目前基于数据驱动的人工智能所不具备的能力。
梁正强调，不同于当前主要依赖大规模数据训练的技术路线，新一代人工智能强调在没有经过数据训练的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互。
相比人类意识的自由开放，以往人工智能更多处在封闭空间。尽管这个空间可能足够大，但若超出设定范畴便无法处理。而人类如果按照规则不能解决问题，就会修改规则，甚至发明新规则。
这意味着，如果人工智能能够超越现有学习模式，拥有对自身意识系统进行反思的能力，就会理解自身系统的基本性质，就有可能改造自身的意识系统，创造新规则，从而成为自己的主人。
“人工智能觉醒”背后有关“人工智能觉醒”的讨论已不鲜见，但谷歌迅速否认的态度耐人寻味。
梁正表示：“如果不迅速驳斥指认，会给谷歌带来合规性方面的麻烦。”
据了解，关于人工智能是否有自主意识的争论并非单纯技术领域的学术探讨，而关乎企业合规性的基本坚守。一旦认定公司研发的人工智能系统出现自主意识，很可能会被认为违反第2版《人工智能设计的伦理准则》白皮书的相关规范。
这一由美国电气和电子工程师协会2017年发布的规范明确：“根据某些理论，当系统接近并超过通用人工智能时，无法预料的或无意的系统行为将变得越来越危险且难以纠正。并不是所有通用人工智能级别的系统都能够与人类利益保持一致，因此，当这些系统的能力越来越强大时，应当谨慎并确定不同系统的运行机制。”
梁正认为，为避免社会舆论可能的过度负面解读，担心大家认为它培育出了英国作家玛丽·雪莱笔下的弗兰肯斯坦式的科技怪物，以“不作恶”为企业口号的谷歌自然会予以否认。“不仅如此，尽管这一原则对企业没有强制约束力，但若被认为突破了底线，并对个体和社会造成实质性伤害，很有可能面临高额的惩罚性赔偿，因此企业在合规性方面会更为谨慎。”
我国也有类似管理规范。2019年，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出人工智能治理的框架和行动指南。其中，“敏捷治理”原则主要针对技术可能带来的新社会风险展开治理，强调治理的适应性与灵活性。
中国信息化百人会成员、清华大学教授薛澜在接受媒体采访时表示，当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。特别是在第四次工业革命背景下，我国的人工智能技术和其他国家一样都处于发展期，没有现成的规制体系，这样就使得我们在发展科技的同时，必须同步发展我们的规制体系。“这可能是人工智能发展面临最大的挑战。”
在梁正看来，目前很难断言新兴人工智能技术具有绝对风险，但必须构造合理的熔断、叫停机制。在治理中既要具有一定的预见性，又不能扼杀创新的土壤，要在企业诉求和公共安全之间找到合适的平衡点。
毕竟，对人类来说，发展人工智能的目的不是把机器变成人，更不是把人变成机器，而是解决人类社会发展面临的问题。
从这个角度来说，我们需要的或许只是帮助人类而不是代替人类的人工智能。
为了人机友好的未来确保通用人工智能技术有益于人类福祉，一直是人工智能伦理构建的前沿。
薛澜认为，在科技领域，很多技术都像硬币的两面，在带来正面效应的同时也会存在风险，人工智能就是其中一个比较突出的领域。如何在促进技术创新和规制潜在风险之间寻求平衡，是科技伦理必须关注的问题。
梁正提出，有时技术的发展会超越人们预想的框架，在不自觉的情况下出现与人类利益不一致甚至相悖的情况。著名的“曲别针制造机”假说，即描述了通用人工智能在目标和技术都无害的情况下，对人类造成威胁的情景。
“曲别针制造机”假说给定一种技术模型，假设某个人工智能机器的终极目标是制造曲别针，尽管看上去这一目的对人类无害，但最终它却使用人类无法比拟的能力，把世界上所有资源都做成了曲别针，进而对人类社会产生不可逆的伤害。
因此有观点认为，创造出法力高超又杀不死的孙悟空本身就是一种不顾后果的冒险行为。
与其对立的观点则认为，目前这一担忧为时尚早。
“我们对到底什么样的技术路线能够发展出具备自主意识的人工智能尚无共识，现在谈论‘禁止发展’，有种空中楼阁的意味。”梁正说。
商汤科技智能产业研究院院长田丰告诉《瞭望》新闻周刊，现实中人工智能技术伦理风险治理的关键，是产业能够在“预判防范-应用场景-用户反馈-产品改进”中形成市场反馈机制，促成伦理风险识别与敏捷治理。同时，企业内部也需建立完整的科技伦理自律机制，通过伦理委员会、伦理风控流程平台将伦理风险把控落实到产品全生命周期中。
郭雨晨说，人工智能技术发展到目前，仍始终处于人类可控状态，而科技发展的过程本来就伴随对衍生问题的预判、发现和解决。“在想象中的人工智能自主意识出现以前，人工智能技术脚踏实地的发展，已经造福人类社会很多年了。”
在梁正看来，人与人工智能在未来会是一种合作关系，各自具备对方无法达成的能力。“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
编辑：李华山
2022年08月16日07:42:05