人工智能：为什么忧虑—新闻—科学网
人工智能：为什么忧虑郭刚制图
■本报记者胡珉琦
围棋人机大战让人工智能的话题热度居高不下。每一次新进展的横空出世，都让期待这项技术的人变得更乐观，不过，人们对其影响力的顾虑也在明显上升。越来越多的组织、机构开始研究智能机器衍生的伦理问题。虽然人们无法保证今天的思考、策略完全有效，但在没有作任何准备的情况下，就必然无法将其控制。
永恒的恐惧
对于人工智能的忧虑，最早可以追溯到200年前。但这不是对一项技术的反思，而是展示了造物者与被造物之间的内在关系。
“亚当”是英国19世纪女作家玛丽·雪莱笔下作品《弗兰肯斯坦》中的合成生命体，科学家弗兰肯斯坦创造了他。亚当天性善良，渴望感情，渴望受到尊重，但世界并没有像他所期待的那样接纳他，他始终是个异类。
于是，他被迫反抗，作出极端行为，胁迫弗兰肯斯坦为他造一个“夏娃”。弗兰肯斯坦担心“亚当”和“夏娃”会衍生出无数新的怪物，在即将成功时将“夏娃”销毁。“亚当”开始了复仇杀戮，弗兰肯斯坦只能与之决斗。
《弗兰肯斯坦》在多年以后，依然能够成为英美文化的热点。上海交通大学科学史与科学文化研究院院长江晓原认为，这是源于人类与被造物之间天然的永恒恐惧与不安。“历史证明，即便同是人类，异族之间想要获得融合，也需付出巨大代价。”这可以解释为什么人类与人工智能的实现越近，恐惧与不安会更深。
不过，科学家一向反对将人工智能过度拟人化，他们认为目前没有确切证据证明它们在未来会带来像作品中的灾难性后果。
伦理学家、哲学家则坚持对人工智能的忧虑，至少可以理解为对科学技术的人文关怀。江晓原说：“要打消这个担忧，就必须论证‘人工智能不会危害人类’或者‘人工智能的危害是可控的’。”
人造机器会不会超越人
对于人工智能的警惕最初的焦点在于“人造的机器会超越人”。库兹韦尔在《奇点临近》中表示，一旦强人工智能实现，它可以很轻易地获得提高，其能力也会增倍，这是机器能力的根本特质。而这种自我强化的智能最终会超过人类智能水平。
世界通用人工智能学会副主席、《通用人工智能》杂志主编、美国天普大学计算机与信息科学系副教授王培认为，首先需要理清人工智能的概念。他告诉《中国科学报》记者，目前主流认知是，“人工智能”就是要在计算机上再现“全部的”人类智力功能。
虽然人们不断尝试设计和构建“思维机器”，但是往往都以失败而告终。因此，科学家转而研发只在某个特定问题的解决上可以达到人类水平的计算机系统。
在王培看来，这种研究方向的根本问题是这类系统的能力完全由人设计决定，系统本身基本上没有适应性、灵活性和创造性。因此，这类系统不是真正的智能。
一种非主流认识是，“智能”代表着某种理性原则，人类的智能从来不是全知全能，但人类总是能在任意环境中找到最优解。因此，真正的智能的定义可以抽象为“在知识和资源相对不足的条件下的适应能力”。
所谓“适应能力”是指，系统面临的问题是实时发生的，对系统作出反应的时间是有要求的；同时，相对于所要解决的问题来说，系统只有有限的信息加工能力，比如记忆的容量、计算的速度；其次，系统必须是开放的，不对面临的问题内容加以限制。
如此一来，目前人们所了解的人工智能系统都不满足这种能力。但王培认为，这才是更接近公众心目中的人工智能观念，是灵活的、有创造力的。
这类系统是一个自适应系统，元程序设计会赋予其自主应对问题的能力，但是它所面临的每一个问题本身并没有程序可以依靠，而是全凭自己在环境中学习和积累经验。
“无论计算机技术如何发展，尽管真正的人工智能系统会在很多具体问题的解决能力上超过人类，但由于它没有生物属性，没有和人类完全相同的经验，所以不会在所有方面超越人类。”王培表示，未来的人工智能系统只是在某些方面和人具有可比性，而非整体超越人类。那么，人与系统之间的关系也不可能等同于人与人之间的互动水平。
人工智能真的可控吗
人工智能不会全面超过人类不意味着它完全可控。就连库兹韦尔也表示，失控的人工智能在逻辑上是完全可能的。
王培承认，“智能”往往被当作褒义词，但事实上，真正的智能在拥有灵活性和创造性的同时，也可能是不稳定、不可靠的。“人工智能目标在一定程度上可以说就是减少人对计算机的控制和干预。因此，智能越高，失控的可能性在理论上就越大，风险也就越大。”
这正好印证了伦理学家的担忧。我国著名生命伦理学家邱仁宗表示，伦理学认为解决这个问题的核心，是希望人工智能机器成为一个“人工道德行动者”，使它们能考虑他人利益，甚至拥有利他主义倾向。
美国机器智能研究院专门研究人工智能的安全发展，该机构奠基人尤德科夫斯基就曾提出了“友好人工智能”的概念，认为“友善”从设计伊始就应当被注入机器的智能系统中。但这个理论很容易被推翻。“一个明显的常识是：人类无法避免自己的一部分后代学坏。”江晓原说。
王培的看法是，一个智能系统的行为同时取决于其先天条件以及后天条件。对于系统设计本身，可以在某种程度上将人类普世的道德标准编进程序。但由于它拥有自适应能力，人类无法预见其行为的所有后果。
“人工智能的‘自主决策’仍是被它的经验所约束的，如果在其‘未成年’期对其输入信息控制，以达到社会认可的动机、知识、技能结构和水平，并在其成长过程中进行与机器相关的道德、法律等社会约束，通过终生教育和社会化过程，可以实现像对人一样的管理。”
他认为，这就是平衡自由和道德的手段，然而，这个平衡并不能事先保证。这也说明人工智能一定能成为“人工道德行动者”的证据是不明确的。
预防还是行动
有一种观点认为，在科技发展过程中，恐惧新技术的人都会振振有词地说：到此处为止，不要再进步。
然而，由于“智能”天生就无法控制，在邱仁宗看来，人工智能对人类构成的威胁是一种“存在威胁”，即人类存在本身都成为问题，没有一项其他科技可以与之对等。
“真正带有终极性质的问题是：我们究竟为什么需要人工智能？人工智能真的必不可少吗？”江晓原认为，“没有人工智能或者限制人工智能并不会影响人类生存，它影响的是资本增值。”
这也造成在该问题上两种截然不同的处理原则。预防原则要求，我们不能用试错法来处理生存危机。如果一个行为的后果未知，但是根据科学家判断有极小可能会带来巨大的负面风险，这一行为最好不要进行；行动派则认为，很明显，这就要求科学家在战略中要尽可能提高自信以对抗这种风险。阻止新兴技术带来的好处，可能会增加灾难性结果的可能性。
尽管两者无法达成一致，但人工智能研究是人类几千年来在意识层面上自我认识的努力的最新前沿，它将不会停止发展。
“目前在这个领域的研究成果还没有成熟到支持应用技术的程度。和所有科学领域一样，把不成熟的研究成果投入实际应用是危险的，尤其是那些可能产生深远影响的成果，因此它的伦理问题很重要。”王培坦言，作为人工智能的研究者，随时想着自己研究工作的社会后果非常必要。“但人工智能技术的具体伦理规范应当随着科学研究的进展而逐渐建立，而不可能在研究成果尚未成熟的条件下完善。”
江晓原也表示，在必须发展该技术的前提下，我们应该抱着慎之又慎的心态。虽然本质上不存在能对抗强人工智能的绝对保护措施，大力增加在发展防御手段上的投入，包括道德标准、法律标准和防御技术本身都是非常必要的。
此外，在他看来，当这样一项重大科技应用有可能引发伦理和社会问题时，应对方式应该是科学与人文、科学家与公众之间展开积极的对话，而非单向的传播和顺从。
《中国科学报》(2016-04-01第1版要闻)人工智能：会给艺术带来什么
本期导读
人工智能：会给艺术带来什么？
▲李振伟
众家谈
▲朱青生、鲁晓波、顾险峰、吴克军、温普林、黄剑武
人工智能在西方：艺术家的敌人还是朋友？
▲殷铄
当下，人工智能介入艺术创作，已然成为大势所趋。如2015年夏谷歌实施的“深梦”计划，让机器展示了对艺术的诠释；2016年，谷歌发布了“品红（Magenta）”计划，试图使机器学会生成艺术和音乐；2016年4月，微软和荷兰国际集团（ING）的机器学习系统成功复制伦勃朗画作。及至今年10月，阿里AI“鲁班”上岗，每秒做8000张海报，顿使艺术界尤其是设计界为之疯狂。
有设计师表示：人工智能取代人类设计师是必然，最先被替代的会是制图环节。技术性越强，被替代的可能性越大；而需要更多创造力的环节，则会在相对较长的时间内被替代。不过，也有业内人士认为，未来人工智能不会取代设计师，而是帮助设计师解决重复性的工作，创意型设计师只会越来越值钱。
那么，人工智能到底能否代替艺术家的创作？作品中有多少是传统艺术观念中的“艺术”成分？凭借机械制作、数据整合的“再创造”真的能够代替艺术创作吗？
说到人工智能进行艺术创作，最惊艳的莫过于机器人作画了，搦管挥毫的状态俨然真人，“无一笔无来处”的程序设计也让人们自叹弗如。而对于大多数人来说，能够亲自体验的手机制图程序和博物馆讲解程序之类的智能软件似乎更亲民。今年1月，小蚁科技发布了“小蚁AI艺术”小程序，将人工智能融入中国传统绘画。据了解，小蚁AI艺术通过深层提取中国绘画的各种风格与图式，学习如齐白石、吴冠中等人的绘画风格，根据网络基端中更为接近图像的基本特征（如原始的点线面和色相、明度），对转化图进行描述、分析和数万次迭代更新，达到原画内容性质的完全转变。
“小蚁AI艺术”小程序作图效果
今年6月，腾讯的小程序“兵马俑”上线运行，用人工智能实现秦俑与游客的面部比对，游客可以寻找与自己最像的秦俑，并可通过俑坑排列图，找到这个秦俑的具体位置。这两类手机软件激发了大众对艺术的极大兴趣，也使艺术在当代社会的传播范围更广泛。
另外，目前国内外有不少研究机构，在对文化遗址的考察和研究中，借助高科技手段来进行测绘甚至复原，以期更有效地帮助研究。但是其中存在的问题也很明显。
笔者曾经亲身参与过一些现场模拟，发现对遗址的复原并不能达到完全模拟原境的效果。尤其在智能机器的演示和3D模型的制作上，往往过于初级和低端，体验者可以明显感受虚拟场景中光影变化的真实与否，以及触感方面的欠缺。那么，在研究领域，到底是以抽象研究为主导，科技手段仅仅作为基础的辅助服务作用，还是可以抛开抽象解读，有效利用智能科技，再造依靠直观感受就能一目了然的“艺术”模式？
对此，清华大学人工智能实验室主任朱小燕表示：“人工智能只是一种改善人类生活的协同合作方式，其制作软件，甚至作诗、作画、作曲也都是供大众日常娱乐，并不是给专业人士用的。”她认为，人工智能的发展现在还只是在最初阶段，对于能够发现和模仿人的认知机理的最终极目标来说，路还很远，其在艺术领域的广泛应用，就更不消说。“从某种意义上讲，人类真正期待的成果还没有”。而艺术学博士吴克军对此则有不同的看法：艺术的创作并不必然比其他“工种”更复杂或更高级，艺术根本上是基于认识论和方法论的一个披着自由与智慧外衣的技能而已，未来的艺术将会是人工智能世界的艺术。
德国哲学家瓦尔特·本雅明说：“即使在最完美的艺术复制品中也会缺少一种成分：艺术品的即时即地性，即它在问世地点的独一无二性。”
瓦尔特·本雅明
这句话道出了艺术作品的唯一性。在这个概念下，人工智能基于算法而模仿绘制的作品，似乎就被排除在艺术品之外了。不可否认，智能机器绘制的作品与前机械复制时代的艺术作品没有本质区别。有学者认为，自从人类进入大众传播时代以来，复制和模仿就一直是艺术创作的一个重要趋向。这也意味着，艺术同质化成为一种流行趋势。艺术不仅将继续呈现批量化机械复制，还将成为一种模式化的产品。或许如独立策展人郑轶所说：艺术并不是人类的目的，它只是一种工具，人工智能也将是一次对艺术具有革命意义的解放，甚至可以把艺术家从创作具体步骤中解放出来。
众所周知，人与其他生物的主要区别是在一般的视听之外，多出了独立思考和对终极真理的探求，所以才有了人类主动性的思维和永恒的创造力。而对于人工智能来说，也许在一般的视觉、听觉、触觉等方面都可以通过数据计算来表达。那么，在更高层次的思维和情感上，是否也可以计算出来呢？艺术评论家、独立策展人李心沫在最近运用智能机器实验的艺术创作中，通过人机合作，出现了意想不到甚至颇为惊悚的画面，“我被那些诡异而具有暗黑气质的画面惊呆了，没想到机器可以如此的方式看世界”，“它结合了神经网络深度学习与系统所创造的如同梦境般的超现实画面，表现我们无法看见的东西。”正所谓“见其所不可见”。这样一种智能机器独特的思考和语言方式，传达出一个信息：机器本身自有其艺术性。
李心沫白日梦境系列2017年（通过人机合作，电脑自动生成意想不到的图像）
清华大学丘成桐数学科学中心访问教授、计算共形几何创始人顾险峰认为，近些年，机器视觉和人工智能的发展正在将艺术拉下神坛，几乎人类智能的一切领域都正在被人工智能所解构和颠覆。“在视觉艺术领域，抽象的艺术风格已经可以被严密数学化，并且可以被提取、变换和转移。一幅艺术作品，其内容和风格紧密缠绕在一起，似乎是密不可分的，但是两者又是相对独立的。”而如何将内容和风格相剥离，如何将不同艺术作品的内容和风格有机结合，这些都是玄妙而又基本的问题。
人工智能颠覆艺术创作的同时，二者是否又会在某种程度上走向融合呢？法国文学家福楼拜说，越往前走，艺术将更为科学，科学将更为艺术，它们在山脚分开，却又在山顶汇聚。或许，两者正在走向融合，只是我们还未察觉。
上海世博会湖南馆（魔比斯环），鲁晓波任设计总监
霍金曾说：“人工智能的成功有可能是人类文明史上最大的事件，但人工智能也有可能是人类文明史的终结。”
面对当下如火如荼的人工智能技术，一些业内专家感到欣喜的同时，也不无忧虑。批评家黄剑武认为，当下的传统艺术在文化产业的尝试发展中，显出前所未有的尴尬境地。“一方面艺术家和文化实体在经济上受益，可以反哺艺术创作或文化产业；而另一方面，却因为过于注意市场交易成效，而失去艺术本身的价值取向，走入低级的批量生产，而沦为反智商人和低俗艺术品的集散地。”因而，不少文化产业实体，因主要艺术家丧失艺术创造力缺乏研发成果，而最终被市场逐渐残酷淘汰，艺术产业也不得不进入机械化重复生产和运作。
基于此，教授设计与新媒体专业的叶涛对当下的人工智能技术有着自己的观点和态度：“面临各种被取代，我们不得不认真思考了。”而对人工智能在传统美术领域的应用，他认为目前才刚刚起步，有着巨大的发展空间，“古代神话、民间艺术、文化遗产以及隐匿于古籍中的奇珍异兽都是可以拿来运用的素材。”在具体运用的方式上，叶涛也逐步形成较为成熟的思考：人工智能带来的，既是挑战，也是机遇。更好地把握高端技术，合理利用好互联网平台与大数据分析，并充分吸收传统文化精髓，同样能创造出具有震撼力和能够浸入式的作品。人们在共享智能技术的同时，也能体验传统的故事性叙事氛围，在新的艺术方式和效果上可能会有更多的收获。
叶涛文化基因2017年作品通过传感器协调人和画面的关系，让观众在一个沉浸式的空间内与文化符号进行互动
科幻电影《非凡》中的男主角说：（人类）思想没什么进步，技术却在突飞猛进。当下“人工智能”所呈现出的种种现象，使人不由得联想到，“2012世界末日”，是否意味着人类思维生命的终结，而游离于科技营造的“新幻像”之中？似乎人类在人文思想、哲学、逻辑学等方面的探索已然停止，人作为人的最重要的思维属性慢慢退化，逐渐让位于机械技术，而风势正盛的人工智能不正是一个明证吗？
仅就艺术学来说，当今有多少新的创见？又有多少发人深省的理论？传统的书画理论领域在现代早已荒芜；已是明日黄花的当代艺术也只是零碎地拾取西方哲学、社会学的概念；即便是还没有确定专业名称却如火如荼的艺术考古专业，其研究的领域和成绩也是尴尬无比，如中央美院一位教师所言：这中间有太多的不确定性，凭借出土文物所总结的规律和结论，总是面临被否定的命运，即便有些奇思妙想，但却选未达到智慧的层面。只是上个文明的一点遗留？
或许，被我们奉若经典的古代人类对生命和哲理的终极追求以及对美的艺术化总结，也只是上个智能科技文明的副产品，有朝一日，这个文明的科技发展到新的高度，如古书所言“飞升而去”，移民到地外星系，留下来的“人们”又开始新一轮的筚路蓝缕，趁着辉煌的智能科技余下的光芒，总结出对生命的哲思与美的规则，重新谱写新的经典，为下一个文明世代的后世子孙瞻仰、赞叹，以及渡尽劫波后的再一次回望，如同我们回望上个世代……
（本报记者武广宇对本文亦有贡献）
本文章来自中国美术报APP
查看更多艺术资讯请下载中国美术报APP
中国美术报网址：http://www.zgmsbweb.com/返回搜狐，查看更多