科学网—人工智能引发的伦理问题及其规制
人工智能引发的伦理问题及其规制精选已有7145次阅读2020-11-2616:49|系统分类:人文社科
人工智能引发的伦理问题及其规制
李侠
（上海交通大学科学史与科学文化研究院）
2020年8月29日，埃隆・马斯克（ElonMusk）在加州弗里蒙特举行了一场发布会，正式向全世界展示了自己的脑机科学公司Neuralink对猪进行脑机接口技术的成果，该芯片可以实时监测到小猪的脑电信号，遗憾的是我们还无法知道小猪在想什么，但这项技术所揭示的未来太令人期待了，这则报道迅速轰动世界也是人们内心偏好的真实反映，它重新激发了人们对于脑机接口技术（brain-computerinterface，BCI）的热情。
所谓的脑机接口，通俗来说就是在人脑（或动物）与外部设备之间建立直接的联系，由此形成信号的接收与发送，并实现相应的功能。按照脑机接入的方式可以分为两类：侵入式脑机接口（马斯克这次演示的就属于此类）与非侵入式脑机接口。前者的优点在于获得的脑电信号更好，便于分析与处理，而后者收集到的信号质量较差、容易受到噪声干扰。因此，侵入式脑机接口是目前国际学术研究的前沿。脑机接口已经实实在在地出现在我们的面前，随着植入头脑的各类芯片与传感器的日益微型化、功能集成化、加上近年来人类对大脑功能了解的深入、脑机融合的日趋完善、创口的微小化、以及电池功能的增强，脑机接口技术取得重大突破绝非幻想，而是一种可以预见得到的发展趋势。
人们之所以对脑机接口技术的发展趋势持乐观态度，是因为社会上对于脑机接口技术有着巨大的市场需求，它所拥有的潜在商业价值是推动该项技术发展的重要推手。仅就目前可以想象得到应用来看，脑机接口市场前景广阔，下述三种情形是最有可能优先发展的领域，如果该项技术成熟，那么日益困扰老年人的老年痴呆症现象将得到极大缓解；修复残疾患者的大脑缺陷，从而实现部分身体功能的恢复，以及可以实现治疗抑郁等精神疾病；更有甚者可以实现神经增强功能，如大脑的计算速度与记忆能力都是远超人类的，如果未来植入的芯片与大脑更好地兼容，那么人类的计算速度与记忆能力都将得到根本性的改变，制造超人不再是梦想。上述三种情形在科学上几乎都有成功案例。如对残疾人来说，通过意念实现部分身体功能，这类实验成功的很多，如已经被广泛采用的脑深部电刺激技术，这就是大名鼎鼎的“脑起搏器”，其原理就是通过植入脑部的电极向大脑的特定部位发送电脉冲，这一技术主要用于治疗帕金森病和强迫性精神障碍等疾病，已经被美国食品药品监督管理局批准。
再比如，美国著名的视觉脑机接口专家都博勒（WilliamDobelle，1941-2004），他的皮层视觉脑机接口主要用于后天失明的病人。1978年，都博勒在一位男性盲人杰瑞（Jerry）的视觉皮层植入了68个电极的阵列，并成功制造了光幻视（Phosphene）。植入后患者能看到清晰度以及更新率较低的图像。如果说都博勒的工作是40年前技术的体现，那么现在这方面的研究也有了最新进展，失明患者看到的视野比以前要好许多，有理由预测，随着一些关键难题的突破，视觉脑机接口将惠及更多的失明患者。
还有科学家把人造海马体植入到因海马体受损而丧失记忆形成功能的老鼠脑中，并成功让老鼠恢复了部分记忆形成功能（伯杰等人）。基于上述案例，我们大体上可以清晰判断出脑机接口技术正在向日常生活领域扩散，一旦有技术上的突破，这种趋势将无可逆转。
问题是脑机接口技术虽然具有如此广阔的应用前景，但也不可避免地带来某些人类从来没有遭遇过的伦理困境。对此，瑞典数学家奥勒•哈格斯特姆曾指出，脑机接口技术带来的两种常见的伦理问题是：隐私和认知能力的“军备竞赛”。关于隐私问题，这已经成为高科技时代具有普遍性的伦理困境，每一次技术升级，都会导致隐私状态随之发生改变，从人类历史上看，从农业社会、工业社会到后工业社会，人类的隐私范围是逐渐缩小的。总体而言，技术进步导致公共领域扩张，而私人领域日益被技术侵蚀，隐私也随之日益变小，人变成了透明人，隐私的消失也就意味着个人自由的萎缩。对于脑机接口技术而言，这种情况尤为紧迫。一旦通过大脑植入设备可以轻易获取我们大脑内的电信号，其内容完全可以被破译出来，这就导致有很多个人或机构想要获取这些信息，从而利用这些信息实施对我们基于特殊目的的操控，如商家的促销、管理者对于雇员的监视、或者国家对于全民的监视等。这种过程是渐进的，在温水煮青蛙效应中，人类的隐私一点点失去，我们不知道这是否就是人类为技术进步所必须付出的代价。上述担忧绝非杞人忧天，据资料介绍，1999年斯坦利（GarrettStanley，现在埃默里大学EmoryUniversity任职）教授，在哈佛大学通过解码猫的丘脑外侧膝状体内的神经元放电信息来重建视觉图像。他们记录了177个神经元的脉冲列，使用滤波的方法重建了向猫播放的八段视频，从重建的结果中可以看到可辨认的物体和场景。同理，利用这套技术也可以重建人类的视觉内容。看到这类实验，你还认为脑机接口所引发的隐私问题还很遥远吗？更何况遥远并不意味着不可能。
再来说说由脑机接口所带来的认知能力的“军备竞赛”问题。由于电脑在精确计算、数据传输与记忆方面比人类的表现强很多，那么，随着技术的发展与完善，总会有一些人尝试在大脑中植入一些芯片，使自己的能力与计算机的能力进行整合，这将造就认知超人，试问我们正常人再怎么努力也无法达到电脑所具有的记忆能力，这种事情一旦开始就无法停下来，从而陷入“军备竞赛”的游戏框架下，因为没有人敢于停下来，否则他将被淘汰。问题是这种神经增强完全打破了人类由自然选择以来所形成的所有关于公平的规范？此时优秀将不再是对于人的能力的褒奖，而是对他植入大脑的设备的褒奖？那么人类的价值又何在呢？也许影响更为深远的是，脑机接口技术的军备竞赛式滥用，还会造成整个社会分层的固化，毕竟任何新技术在早期都是昂贵的，其最初的使用者大多是有钱有势者，这种现实决定了脑机接口技术会更深层次地造成社会的固化，从而使社会秩序遭到毁灭性的破坏。
以脑机接口技术为标志的人工智能发展引发出一系列我们目前尚无法完全预料到的后果，它事关人类的未来，因此，必须从伦理层面对于它的发展进行有目的的约束。2020年上半年，美国五角大楼正式公布人工智能的五大伦理原则，即负责、公平、可追踪、可靠和可控。这个说法作为伦理原则没有错，但是如何在实践中落实，仍存在很多不明确之处，为此，我们需要构建一套全流程的伦理规范机制，把伦理责任分解，采取分布式伦理，即人工智能从制造到应用每个环节都承担相应的伦理责任，只有这样，人工智能才能最大限度上既增进社会的福祉，又把其潜在的风险最小化。目前的调查与研究显示，在新技术发展的进程中，每个人的责任都是有限的，但是其后果却是严重的。由于人类对于微小的恶的不敏感性，导致最初对于风险呈现出整体的麻木状态，到后来小风险的累积就成为高科技面临的严重伦理问题。这已成为一种风险扩散的普遍模式，为此，我们需要构建一个新的伦理责任体系。
由于人工智能本身的复杂性，以及未来发展的不确定性，导致人工智能责任的明确归属变得更为困难和模糊，如何防范其可能带来的风险也就变得越发困难，甚至会出现无法追责的伦理缺席现象。因此，传统的针对单一主体的伦理规范原则开始失灵，为此我们必须构建一种新的伦理约束机制，从而实现对人工智能从前端、中端到末端全覆盖的有效伦理风险防范机制。为此，我们借用英国伦理学家卢恰诺•弗洛里迪提出的分布式道德概念构建人工智能的伦理风险防范框架示意图，根据这张框架图我们可以把人工智能伦理风险防范分为三部分：首先，是前端的AI设计者的伦理责任（责任1，简称R1），其次，是中端使用者的伦理责任（责任2，简称R2），第三，是末端受众的责任（责任3，简称R3）。
我们不妨假设人工智能所引发的伦理风险总量用公式表示为：ΣR=R1+R2+R3，其中，R1≥R2≥R3。这三段式伦理分布的规约机制分别是：1、对于设计者而言，他有多种动机（从善、中性到恶的选择），这一部分伦理风险要通过具有强制性的政策手段（严重违规就上升到法律规约）来遏制，所有负责任创新都是从动机上防范伦理风险的发生；2、对于使用者而言，他要为自己的使用承担相应的伦理责任；3、受众作为社会成员，有监督人工智能使用的间接责任（个体责任最小，但是由于公众数量庞大，无数微小的努力汇聚起来就是强大的伦理风险防范力量），2与3的激活需要利用科学文化的规训作用，在高科技时代没有人是旁观者，只有伦理责任的全覆盖，高科技的伦理风险才会被最大限度上遏制，具体内涵见下图：
【博士跋】这篇小文章是暑假期间应《科学画报》徐老师之邀而写，这次一共写了三篇，这是其中之一，预计发表在《科学画报》2020（12）期上。《科学画报》是诞生于1933年的中国最老的科普杂志，杂志品相很不错，这是第二次应邀写作科普文章。发表时略有删减，这是原稿，与徐老师合作愉快，是为记！
2020-11-26于南方阴雨中
说明：文中图片来自网络，没有任何商业目的，仅供欣赏，特此致谢！
https://blog.sciencenet.cn/blog-829-1259998.html上一篇：两张有趣的图下一篇：浅议生物医学技术引发的伦理问题收藏IP:101.88.43.*|热度|超级人工智能带来的AI伦理是什么样的
时至今日，人们对AI人工智能并不陌生——城市中随处可见的AI场景及应用，给人类生活带来了很多变化：面部识别，让城市通勤、居家有了更便捷的体验；AI模拟成像，让古风甚至穿越成为可能；智能算法的物品筛选，让购物实现千人千面。而随着接踵而来的核心技术的突破、重磅落地的技术前沿革新，“超级人工智能”的诞生及应用让社会对其产生了不同的看法，一方面认为AI可极大提升生产力，推动社会进步，改善人类的生存环境；另一方面则强调AI颠覆性的发展与存在，或将在未来大面积取代人类，并带来伦理层面的挑战。
AI伦理，顾名思义就是AI的伦理学，亦称作“道德哲学”，是对人类道德生活进行的系统性思考和研究。人类对于AI伦理相关的话题，探讨已久。数据科学家凯西·奥尼尔则在《算法霸权：数学杀伤性武器的威胁》一书中，描述了利用大数据、人工智能相关技术导致的偏见和不公。物理学家史蒂芬·霍金曾经谈到，彻底的人工智能可能导致人类的灭亡，伊隆·马斯克认为，人工智能是一个恶魔，但是人类不一定具备控制这个恶魔的能力。
但即便如此，从1950年的图灵测试落地到今日人工智能城市AICITY的诞生，AI的发展显而易见，在“曲折”中持续前行，由此其中夹杂的AI伦理也逐渐成为AI发展之于社会影响的舆论焦点：“超级人工智能”是否会威胁人类的生存安全？算法决策是否能够保证结果公平？当越来越多的“超级人工智能”，特别是机器人投入到使用中，人与机器人的关系如何处理？从弱人工智能到强人工智能甚至是超级人工智能，人工智能是否会失控？所有这些关乎人工智能发展对人类社会基本运营法则的影响的讨论，都属于人工智能伦理的研究范畴。
这些专家和学者的担心并非杞人忧天。机器学习、深度学习算法等人工智能技术，使得计算机可以从数据中不断“学习”，实现自主学习与进化。当前在众多领域，如餐饮、社会服务、巡控检查等，人工智能已经代替人开展了很多工作。未来在某些领域，人工智能可以做出比人类更高效、更精准、更科学的预测和决算。当人工智能进化到足够的高度，产生类似人的情感及“人性”，甚至是与人类伦理类似的“道德伦理观”时，人与机器人的关系是什么，伦理学中人的地位是否会发生变化？这些当前并未清晰定义的问题关系到未来人类生存、生活、发展的方方面面。
AI伦理的5大热点领域
随着人们对于这一问题的认识不断深入，目前围绕人工智能伦理，已经有了明确的问题聚焦。算法歧视、数据隐私、安全与责任、机器人与人的关系以及科技贫困是当前AI伦理5大热点研究领域。
算法歧视算法基于已有的数据进行未来的预测，算法模型和数据输入很大程度上决定着预测结果。无法保证算法开发设计者自身的价值判断不会嵌入算法系统。
数据隐私人工智能充分挖掘和利用数据的相关性，促进了大量数据的采集和流动。通过人工智能终端，后台服务器可以轻易读取个人的活动信息，公共区域高清摄像头随时捕捉行人、行车信息，人脸识别系统轻松抓取面部生物特征，个人、企业的数据隐私将面临越来越多的讨论。深度伪造技术的应用，也出现了滥用个人信息，制造虚假导向等问题。
安全与责任自动驾驶汽车曾导致人员的伤亡、机器人也曾致人受伤。人工智能系统有较强的自主性，也存在受到网络黑客篡改汽车数据的隐患，当出现相关的安全与责任问题时，如何判断责权。
机器人与人的关系人工智能与人类是命令和服从的关系还是友好互动，和谐共生？机器人是否应该获得“意识觉醒”，机器对人类是否会产生“反控制”，机器人与人的关系应该如何界定。
科技贫困人工智能应用将在越来越多领域代人工，人工智能对人力资源的取代，使人类劳动力将面临失业风险。人工智能作为一种高精尖的技术，具有一定的技术门槛，可能产生人工智能技术被少数实力雄厚的大企业垄断的情况，而造成财富格局的固定化、收入差距的扩大化。
可以看到，AI伦理的5大焦点研究领域实际上涵盖了从科技发展到经济增长，乃至人类安全和社会稳定等诸多重大问题，仅靠学界提出呼声，显然是不够的。可喜的是，我们正在看到包括各国政府在内的多种组织和社会团体正在参与到AI伦理的讨论与探索当中。尤其是一批新锐科技公司从自身业务出发对AI伦理的阐述和发展贡献了有益的新思路。
多方构筑下的世界通识
2015年之后，随着人工智能在包括自动驾驶、城市智能化领域的广泛应用，各国政府、非政府组织及各类研究机构开始对AI伦理积极地探索。2019年，我国提出组建国家科技伦理委员会进行科技伦理相关的规范和研究，2020年该委员会正式成立。2021年1月1日，新《民法典》正式实施，从包括保障公众私生活“安宁权”、构筑个人信息安全防火墙到全面建立反性骚扰制度防线以及及时应对AI等新技术对人格权的挑战进行了描述。
欧洲委员会在《人工智能白皮书》中提出，人工智能最终的目的是增进人类福祉，AI以人为本，给予道德，可持续发展，尊重最基本的权利和价值；欧盟委员会提出“可信AI”，明确了三项基本原则：一、AI应当符合法律规定；二、AI应当满足伦理原则；三、AI应当具有可靠性。
IEEE（电器和电子工程师协会）发布《道德准则设计》，主张将价值观嵌入自主智能系统，并将体现人权的最高立项纳入人工智能及自主系统的一般原则。生命未来研究所提出的阿西洛马人工智能原则中从价值归属、司法透明、共同繁荣等13个方面对人工智能系统及应用提出了要求。
与此同时，一批新锐的人工智能领域的科技公司作为AI技术的具体研发方和应用方也提出了自己对于AI伦理的理解。AI伦理无疑将成为未来AICITY建设的重点关注方向。这类需要在全球进行业务拓展的公司而言，将中西方伦理观念进行融合，使其更具普适性和指导性，不仅是出于业务拓展的需要，也从具体操作层面弥补了当前AI伦理研究的盲点。
围绕人工智能伦理的探索，从当前的伦理问题思索，到未来可能产生相对明确而又普适性极强的伦理原则，形成伦理测度，进而进行伦理符合性评估是未来人工智能城市建设中不可回避的问题。但是中西方在道义与功利的伦理价值取向、情感主义和理性主义文化精神等层面存在差异，导致了对于AI伦理的阐述和解读形成了不同的思想阵营。以疫情中东西方社会面对个人健康码的态度和反应速率为例，不同文化心理下的市民对于公众安全与个人隐私之间的博弈有不同的理解。
此外，有研究者将人工智能分为弱人工智能、强人工智能和超人工智能，面对人工智能本身的复杂性以及未来发展极大的不确定性，当前还无法计算和预测超人工智能是否会产生危害，产生何种危害。而人工智能伦理的研究，正是希望通过伦理的原则对人工智能产生的负面影响形成制约。对于这样的科技公司而言，如何将伦理研究嵌入技术研发，使二者形成深度融合，解决当前及未来的问题，最大效用发挥人工智能的正面作用必将是关乎公司未来长远发展的重要课题。
任何一种革命性技术的到来，总是会伴随着这样或那样的认知冲击。从转基因技术到克隆技术再到当前的人工智能，随着人们知识边界的拓展，伦理范畴的讨论也将始终伴随左右。未来的AI伦理研究和应用必将是一个学界、政界、司法界、科技界共同构建的有机生命体，并向着世界范围内的通识渐进。
文/财小哥
图/云图视觉
时/20210303
原标题：《超级人工智能带来的AI伦理是什么样的？》
阅读原文
人工智能伦理规范难题如何走出困境
“人工智能可谓是21世纪最有前景的新兴技术之一，其在自动驾驶、语音识别等方面已经取得了诸多重大突破，但在其商业化应用过程中也出现了不少意外的负面后果，其中浮现出的人工智能伦理风险，为技术健康持续发展和商业化落地带来了新的挑战。”
路易斯维尔大学罗曼（RomanYampolskiy）教授发表的《人工智能和网络安全：人工智能的失败》中列举的人工智能失败案例中，除了我们熟知的特斯拉自动驾驶事故，还有一类特别的“道德”事故，像谷歌搜索中出现的黑人与色情、暴力信息相关联、保险公司利用脸书数据预测交通事故率等失败案例，让人工智能引发的道德风险开始引起越来越多人关注。
人工智能道德风险归因于人类认知能力局限
坚持“技术工具论”的人会说人工智能不过是个产品，怎么能具有伦理属性，而还有一部分被称为“技术实体论”的人也坚持说人工智能有能力也有权利具有自主意识和情感。不论孰是孰非，争论本身就代表着伦理道德风险的存在。
人工智能反映出的道德隐患可以从两方面归因。第一可以归结为人工智能系统在算法设计和学习阶段的错误，第二可能源于人工智能技术结果难以预见和难以以人力量化评估的问题。但究其本源还是人类的有限理性所致。
人类自身认知能力的限制，使人工智能越来越近人甚至在某些方面远超人类时，人类理性已经开始滞后于人工智能的发展速度。最终引发了对人工智能的担忧和道德批判。
而在算法的世界里，人工智能没有能力担忧，或许他们也并不感到担忧，甚至在他们“看来”，人类的某些道德是多么的荒谬。这种未知性也更加深了人类对人工智能道德伦理的担忧。
人工智能伦理待规范责任主体权利归属难
人工智能技术可以说是第一个对人文伦理产生挑战的技术应用，他极可能或正在重塑着人类的社会秩序和伦理规范。
对于人工智能的伦理问题，目前学界关注的重点大多集中在技术应用的责任伦理上。随着人工智能自主能动性的提高，技术使用和监管责任才是最突出的伦理难题——如何确定人工智能技术活动机器后果的责任主体，是人工智能发展必须考虑的问题。
这方面问题涉及到哲学伦理，因而很难被大众讨论。但人工智能表现出的伦理问题，却也与普通人的日常息息相关。
譬如虽然人工智能在速度、精度等方面远高于人，但在大数据运行过程中常会出现算法偏差和歧视问题，像在谷歌搜索中，相比搜索白人名字，黑人名字更易与暗示犯罪、暴力的广告和内容相关联。
在责任主体方面，虽然“机器比人聪明”并非机器替代人类掌握控制权的充要条件，但这一优势也高度反应了智能技术中人类主体权利的隐忧。人类为自我负责源于自我决定权，同时意味着自我风险、行为后果的承担能力。
以自动驾驶汽车为例，人工智能驾驶的汽车拥有自主决定权后，可以有效避免醉酒驾驶、疲劳驾驶等不合法人为错误。
但相应责任转移给人工智能算法后，当智能汽车面临无人驾驶版“电车难题”时，人工智能应该杀掉少部分人保全大部分人，还是仅仅保护车内人员安全等等困局，都难逃责任主体权利归属的拷问。是“技术漏洞”还是“使用不当”抑或是“算法”擅自所谓，这一问题至今无解。
开发伦理嵌入技术应对人工智能伦理风险
关注人工智能技术带来的机器伦理问题，提升人工智能技术的安全性。首先在技术层面，未来可以通过嵌入伦理准则，制定完善设计原则等方式，规避人工智能潜在道德风险。
美国科幻作家阿西莫夫的“机器人三定律”经典地诠释了机器人所应遵从的基本道德规范，在《我，机器人》中，机器人被集体嵌入了道德定律，以此规范人工智能的行为。而在现实中，人工智能的道德也是可以被预设的。
虽然道德嵌入技术暂未实现，但其一直被视为人工智能伦理风险规避的主要手段。社会学家布鲁诺·阿图尔称其为“将装置道德化”，将道德规范对人的约束转变为对物的“道德嵌入”。
除了加紧对道德嵌入技术的开发，还要在设计环节增强道德风险意识，在设计之初预测和评估人工智能产品可能引发的道德危害，从设计源头进行规范。现今暴露的诸多人工智能道德失范问题，实则也是算法设计的疏漏。
尽管对于人工智能技术，还有很多未知领域等待我们探索，但最重要的是必须坚持以理性、积极的心态应对人工智能带来的技术革命。正如兰登·温纳在《自主性技术：作为政治思想主题的失控技术》中所说的，“失控不是技术本身的错，只是人们想象泛滥疑惑勇气的缺失。”
【科技云报道原创】
人工智能的社会、伦理与未来
中国社科院哲学所党委书记王立胜
吴彤教授指出，科技哲学包括人工智能哲学研究需要哲学和科学两个方面的两个积累。当下提出人工智能的社会、伦理与未来研究非常重要。仅从科学和技术的角度研究人工智能还不够，还需要引入哲学、社会学、伦理和未来研究等方面的研究，非常支持在自然辩证法研究会下建立一个专业委员会，在这个旗帜下，把工作做细、做深、做透，研究更为广泛深入系统。在人工智能快速发展过程中，对其社会和未来影响，要有伦理和哲学的关注，应与科技哲学密切结合，以促使人工智能的发展更为健康。
中国自然辩证法研究会副理事长、清华大学吴彤教授
以下是大会的主题报告。
中国人民大学刘晓力教授
上午第一场主题报告由中国人民大学的刘晓力教授主持。她认为：今天是我们人文学界和科学界的一个大聚集，非常高兴能够参加这样一个会议。我们将人工智能的社会、伦理与未来研究提到日程，跟其在上世纪90年代以后的发展有很大的关联。而这一轮报告由我来主持，我想可能是因为我多年来在人工智能科学和认知科学哲学领域的开展工作，比较了解人工智能的发展及其近年来革命性的变化。人工智能分为符号主义、计算主义等自上而下的道路和联结主义如包括神经网络、深度学习等自下而上的道路，但两者分别遇到了符号语义落地问题和物理落地问题，符号语义落地问题指机器不懂符号的语义，物理落地问题指目前发展的人工智能还不能与外部世界很好地打交道。因此有人提出将机器人能不能快递小哥一样满世界送披萨、能不能很好地跟老人打交道、能不能理解人的情感等作为新的图灵测试标准。人工智能的未来发展应该是从自上而下到自下而上的融合，社会伦理问题与两条路径融合的前景相关联。
中国人民大学教授刘大椿
中国人民大学一级教授刘大椿教授在报告《人工智能伦理考量的必要性和局限性》中指出，首先提出一个问题，即“为什么人工智能的伦理考量它具有必要性？”究其原因在于两点，其一是因为人工智能迅猛发展，全世界都十分重视人工智能和对人工智能的伦理考量。以欧盟发布的《人工智能伦理准则》（2019年4月8日）为例，他认为人文学者已经深度地参与到人工智能的发展之中，对此我们应予以关注。信赖的人工智能这是我们的目标，可信赖的人工智能它需要有一定的技术基，必须有伦理准则，实际上就是一种人文考察。可信赖的人工智能必须有两个组成。第一就是要尊重基本人权，人工智能还要尊重基本人权，基本的规章制度，核心的原则和价值观；第二就是在技术上应当是安全可靠的，要避免因为技术的不足造成意外的伤害。第二个原因是当下中国的人工智能的发展十分迅速，很多技术应用已走在前面，伦理考量越来越重要和必要，社会学，伦理学，未来学等方面的思考也不可少。应该看到，在伦理考量上欧盟等已经走在前面了，我们必须抓紧。此外，他也指出，我们要看到对高科技的人文思考包括伦理考量也有其局限性，即往往陷入非黑即白，这样看问题是不利于高科技发展的。科技界应该认识到，人工智能落地遇到的问题往往是社会、伦理和法律问题，不可能完全通过技术解决。哲学社会科学界应该紧跟我国新一代人工智能的发展，持续跟踪和评估人工智能研究的进展和问题，进而有针对性的展开相关研究。
中国人民大学暨美国科罗拉多矿业大学国际著名技术哲学家卡尔·米切姆
中国人民大学暨美国科罗拉多矿业大学国际著名技术哲学家卡尔·米切姆（CarlMitcham）在报告《闪光背后：追问人工智能》中指出：工程技术的发展往往会因其巨大收益而呈现出耀眼的光芒，在当前有关智能主体、深度学习、大数据以及通用人工智能等新一波人工智能热潮中，其应用性和便捷性又呈现出了新的耀眼承诺。但是人类无疑面临着更深远的挑战，而哲学的职责就在于帮助我们去察觉包括人工智能在内的新技术的黑暗的一面。恰如莎士比亚在《威尼斯商人》中的警告：“闪光的未必都是金子”。与此同时，哲学家们也应看到其先前努力中的无能之处，意识到哲学之闪光也未必是真金。
新加坡国立大学暨青岛大学未来学院院长葛树志教授
新加坡国立大学暨青岛大学未来学院院长葛树志教授在其《人工智能和社会机器人的思考》报告中指出：当前流行的深度学习只是机器学习的高峰，虽然人工智能在语音和图像识别上得到了广泛应用，但真正意义上的人工智能的发展还有很长的路要走。在应用层面，人工智能已经开始用于解决社会问题，各种服务机器人、辅助机器人、陪伴机器人、教育机器人等社会机器人和智能应用软件应运而生，各种伦理问题随之产生。人工智能伦理属于工程伦理，主要讲要遵循什么标准或准则可以保证安全，如IEEE的标准等。机器人伦理与人因工程相关，涉及人体工程学、生物学和人机交互，需要以人为中心的机器智能设计。随着推理、社会机器人进入家庭，如何保护隐私、满足个性都要以人为中心而不是以机器为中心设计。过度依赖社会机器人将带来一系列的家庭伦理问题。为了避免人工智能以机器为中心，需要法律和伦理研究参与其中，而相关伦理与哲学研究也要对技术有必要的了解。
上海社科院哲学所副所长成素梅教授
上海社科院哲学所副所长成素梅教授在报告《人工智能的职业伦理准则》中强调，传统的伦理与法律是围绕规范人的社会行为而展开的。伦理与法律的有两个本体论假设，一是人的社会性，二是人与工具的二分，即把工具看成是价值无涉的。然而，人工智能的广泛应用对这种人与工具二分的本体论假设提出了挑战。
因为，人工智能的“大脑”是“算法”，而以算法为核心的软件机器人既有自动监控能力和自主决策能力，也负载着文化，具有技术偏向和路径依赖性。在算法社会人与数据环境关系就会发生逆转，不是人来适应数字环境，而是数字环境来适应人。因此，重构算法社会的伦理规范，来确保人工智能造福于人类，成为改善人类生活的向善力量，成为当前的重要任务。
我们需要制定人工智能的职业伦理准则，来达到下列目标，（1）为防止人工智能技术的滥用设立红线；（2）提高职业人员的责任心和职业道德水准；（3）确保算法系统的安全可靠；（4）使算法系统的可解释性成为未来引导设计的一个基本方向；（5）使伦理准则成为人工智能从业者的工作基础；（6）提升职业人员的职业抱负和理想。
人工智能的职业伦理准则至少应包括下列几个方面，（1）确保人工智能更好地造福于社会；（2）在强化人类中心主义的同时，达到走出人类中心主义的目标，在二者之间形成双向互进关系；（3）避免人工智能对人类造成任何伤害；（4）确保人工智能体位于人类可控范围之内；（5）提升人工智能的可信性；（6）确保人工智能的可问责性和透明性；（7）维护公平；（8）尊重隐私、谨慎应用；（9）提高职业技能与提升道德修养并行发展。
北京邮电大学人机交互与认知工程实验室主任岗位教授
北京邮电大学人机交互与认知工程实验室主任岗位教授刘伟在报告《人机、智能及伦理》中指出：人机、智能与伦理在东西方不同语境下具有不同涵义，对人机、智能和伦理的完整思考需要东西方观念相互结合。人机、智能、伦理还涉及人—机—环境（包括伦理、商业、社会、自然、科技环境）之间的相互作用，关键在人机交互与人机融合。最后应该注意的是：一是所有的智能都是有范围的。以机器学习为例，它仅是一种隐喻。真正的学习本身包括潜在的范围不确定的和隐形的知识与规则；二是没有哲学的分析，所有的智能科学很难发展到今天这个程度，人工智能科学需要尊重哲学才能促进自身长远发展；三、智能科学、人机交互研究是由战争的需要催化出来的，要通过研究战争的规律和发展态势寻找新的研究线索。
复旦大学王国豫教授
第二场主题报告由复旦大学王国豫教授主持。她认为当下，无论是人文学者，还是科学家，人工智能都是一个热点话题。对于人工智能问题，一方面它本身是交叉学科，另一方面就是有关它的伦理问题。这些会讨论的并非是大数据或者人工智能的专门问题，而是人工智能能够带给我们什么。我有一个笔记本可以将我上课的录音转换成文字，长期积累下来对我很有帮助。从这个例子上来说，人工智能能够带给我们很大的方便，但是它也不是很完美，里面的错误还是非常多的。此次会议关于人工智能思考，有来自技术的、政策的、法律的还有来自哲学的，充分展示了关于人工智能社会、伦理和未来的研讨会是一个跨学科的平台。但是最后我希望再说一句给大家思考的问题，尽管平台具有跨学科、多视角的特点，但是我们作为一个探讨人工智能伦理社会的这样一个团体，未来要建立这么一个学会、想要发展下去，并且能够在这学科上给自己一个明确的支撑，我们必须要思考的就是我们研究的方法论基础是什么？我提醒大家思考一下，否则就会是走不下去的。
中国科学院自动化所曾毅研究员
中国科学院自动化所曾毅研究员在报告《人工智能准则及其技术模型》中指出：目前由不同国家地区的政府、非政府组织及研究机构和产业颁布的人工智能伦理准则提案已经超过40个。但不同的准则涉及到的议题视角各不相同。由于文化、地域、领域的差异，“大一统”的准则提案不但很难做到，而且没有必要。因此，不同国家、组织之间伦理准则如何协同很重要。同时，对人工智能风险、安全与伦理的思考急需进行算法化、模型化落地，从而确保人工智能向对社会有益的方向发展。由于技术发展会对伦理准则提出新的要求，这些准则如何进行技术落地、经受社会检验，再不断迭代完善，是未来要面临的更有意义的问题。在当前对人工智能伦理的讨论中，还有一些问题亟待解决。由于设计缺陷，现阶段的很多人工智能模型，忽略了对环境和社会造成的潜在隐患。此外，对自我的计算建模也是当前人工智能领域的一个关键研究问题，具有一定程度自我感知能力的人工智能模型将从本质上更利于自主学习、理解人类的价值观。
赛迪研究院政策法规所所长栾群
赛迪研究院政策法规所所长栾群在报告《人工智能创新发展伦理宣言的核心思想》中指出：当前应用人工智能技术的一些不良的现象和事件不断增多，人工智能相关伦理问题也不断的进入到公众的视线。国务院发的新一代人工智能发展规划，明确要求加强法律法规和道德伦理的制定。2018年7月11日，中国人工智能产业创新发展联盟发布了人工智能创新发展道德伦理宣言。宣言除了序言之外，一共有六个部分，分别是人工智能系统，人工智能与人类的关系，人工智能与具体接触人员的道德伦理要求，以及人工智能的应用和未来发展的方向，最后是附则。人工智能系统，基础数据应该是公平和客观的，采集和使用的时候应该尊重隐私。人工智能系统应该具有相应的技术风险的评估机制，以及要受到科学技术水平和道德伦理法律等人文价值的共同评价。与人类的关系，人工智能的发展应该始终以造福人类为宗旨，不能无论发展到什么阶段，不能改变由人类创造这样一个基本的事实。人工智能与人类的利益或个人合法利益相悖的时候，人工智能应该无条件的有一个停止或者暂停的机制。还要有具体接触人员的道德伦理要求，当然主要但不限于人工智能的研发使用研发者和使用者。人工智能的研发者应该确保其塑造人工智能的系统的自主意识，要符合人类主流的道德伦理的要求。人工智能产品使用者应当遵守遵循产品的既有使用的准则。人工智能的具体接触人员可以根据自身的经验去阐述，但是这种阐述应该本着一个诚实信用的原则，保持理性与客观，不得诱导公众的盲目热情，或者加剧公众的恐慌情绪。人工智能可以提供辅助决策，但是就目前发展来看，人工智能本身不能成为决策的主体。人工智能应该克制在军事领域的应用，也不应该成为侵犯他人合法权益的一个工具。未来的方向简单说就是融合创新，制定人工智能产业的发展标准，推动协同发展，在数据规范应用接口检测检验等各个方面，为消费者提供更好的服务和体验。要打造共性技术的支撑平台，营造人工智能产业生态的健康发展。健全人工智能法律法规。四点思考，第一要重视发展和治理的综合性，来避免计算主义贬低人类的生命。第二要强化人工智能伦理研究的阶段性。第三要建立生态影响评价评估体系。第四是建立人工智能的责任机制。
中国人民大学法学院副教授郭锐
中国人民大学法学院副教授郭锐在《人工智能的伦理标准化》中指出：我们的生活并不是完全由法律来规制的，而只能通过技术的准则、道德、法律规范共同规制。从法律的角度看，有很多问题等到法律去解决可能为时已晚。如果真的要解决问题，要回到技术的基础规则上，把规制的思考、伦理思考结合在技术发展的过程中。这一认识促使我承担了人工智能伦理标准化的研究。当前关于人工智能的伦理问题大致可分为算法、数据和应用方面的伦理问题等短期问题。算法相关问题包括算法安全、算法的可解释性和算法决策的困境。在数据方面，大数据和人工智能的发展，使隐私受到侵害的可能性增加，可能受到侵害的环节也增多了。传统上我们觉得不是隐私的信息，随着新技术的出现，都有可能与个人特征相关，而变成个人敏感信息。在应用方面。算法歧视和算法滥用值得关注。算法歧视有人为造成的歧视、数据驱动的歧视和机器学习造成的歧视。算法滥用往往是因为算法设计者出于自身的利益、过度的依赖算法或者盲目地扩大算法的应用范围造成的。社交媒体中用户的过度沉迷，电商利用消费者价格敏感度不高来设定价格，都属于算法滥用。除了算法、数据和应用这三个维度，我们还引入了时间维度，就是人工智能应用带来的长期风险，诸如就业、产权、竞争和责任分配领域的问题。这些问题并没有一劳永逸的解决方案，为了在现有条件下推进问题的解决，我们提出了两个基本原则：人类根本利益原则和责任原则。我们还据此提出人工智能伦理风险评估的指标和最佳实践指南，希望产学研各个部门和机构能够根据伦理风险的程度进行风险管理。
上海大学教授王天恩
上海大学教授王天恩在报告《类亲历性和人工智能的未来发展》中指出，在通用人工智能进化中，类亲历性是我们要关注的一个重要领域。今天的话题，有一个非常重要的向度就是人工智能的通用化一定是社会化，它不是一个单个的个体能够单独实现的。在很多研究中可以看到支持这一观点的根据。在《失控》这本书中，凯伦·凯勒有一个观点：“非群体系统不能（在生物学意义上）进化”。至少是通用智能进化是不可能以个体的方式进行的，人类进化史已经充分表明了这一点。由此，我们可以看到很多进一步的事实，得到一些进一步的结论。
现在都说目前的人工智能没有真正的理解，刚刚我们有专家也说到，现在的人工智能其实就是高级的自动化。候世达认为目前的人工智能进路完全错了，由此不可能达到真正的机器理解。这正与通用智能的类亲历性密切相关。通用智能意义上的理解，一定是类的行为。理解是一个发育的过程，这与理解所必不可少的语境密切相关。其实新一代人工智能为什么发展那么快，影响那么大，我认为其中一个重要原因，就是通过大数据纳入了人类语境。现在发展很快的智能翻译机，就是最典型的例子。以前的机器翻译是没有语境的，没有语境就不可能有真正的语言理解，但是把大数据纳入人工智能之后，就把人类的语境纳入到人工智能。语境的融合可能是人机融合进化最先开始的领域。由智能进化的类亲历性，还可以看到一个重要的基本事实：通用人工智能与人类智能具有相同的类本性，这使智能进化具有亲历优先原则，广义智能进化以具有亲历优势的人类智能为主导，但这绝不意味着在人工智能发展中人类可以高枕无忧。在广义智能进化过程中，如果在观念上作茧自缚，人类命运就可能走向很多人目前所担忧的结局。如果人类保持观念不断更新，人类就能永远引导智能发展。由此我们可以看到类亲历性之于人工智能的社会、伦理和未来发展所具有的丰富意蕴。
中国社科院哲学所研究员科学技术和社会研究中心主任段伟文
在大会倡议与讨论环节，中国社科院哲学所研究员科学技术和社会研究中心主任段伟文在《迎接人机共生社会的挑战——关于建立“人工智能的社会、伦理与未来研究专业委员会”的倡议》中指出，面对人工智能时代的来临，首先要思考的是我们所面对的未来挑战是什么？简单讲就是知识多到难以把握，世界复杂到无法掌控。相对于我们的理解和把握能力而言，我们创造了太多知识，以至于在面临危机时即便我们已经拥有可能解决危机的知识，也无从知道。召开这次会议的原因一是我们对人工智能的发展后果越来越重视，而我们已有大量知识并不能很好地应对。二是面对人工智能所带来的社会、伦理问题和人机共生社会的未来挑战，我们所掌握的知识变得不够用了。因此，我们在此郑重倡议，在中国自然辩证法研究会建立“人工智能的社会、伦理与未来研究专业委员会”，以此会聚相关领域研究者的智慧、打通学术研究与智库研究、构建整合观点与凝聚共识的研究网络，为促进中国新一代人工智能的健康快速发展做出应有的贡献。
为了积极应对人机共生社会的挑战，我们应该通过其后果与前景的深入研究与预见，将价值与伦理设计和嵌入到人工智能之中，使科技伦理成为科技的有机组成部分和基础。如果中国不仅在人工智能应用而且在人工智能的伦理和落地上走到世界前面，对伦理重视将成为我们的创新优势，这对智能文明在全世界的发展具有重大意义。有人误以为不重视伦理是创新优势，但当伦理问题不可回避时，是非与伦理标准的制定将有利于更好更快地创新。新兴科技包括人工智能的发展具有开放性与不确定性，相应的伦理和治理也应该是开放的和未完成，因此在伦理上应寻求开放性共识，治理上应施以适应性治理。同时，我们还要看到人工智能的发展所带来的去技能化的趋势，探索人机共生社会中人的技能化再生之路，进而寻求人类如何在人机共生社会中保持其尊严与自主性，人在精神上或得拯救与永生，为人类文明探索一条光明的道路。
中国人民大学哲学院刘永谋教授
研讨会在下午继续举行。下午的第三场主题报告由北京农业大学教授、北京自然辩证法研究会理事长李建军，西安电子科技大学人文学院副院长、哲学系主任马德林联合主持。
中国人民大学哲学院刘永谋教授作了题为《技术治理、反治理与再治理：以智能治理为例》的报告。在智能革命的背景之下，技术治理与智能治理成为当前热点研究问题。技术治理试图将自然科学技术的成果用于社会运行尤其是公共治理活动之中，以提高现代社会的运行效率，而智能治理将最新的智能技术运用于治理活动中，属于技术治理新的战术手段，渗透到技术治理所有的重要战略如社会测量、计划体系、智库体系、科学行政、科学管理、科学城市与综合性大工程等之中。首要必须要肯定，将智能技术用于公共治理领域，对于提高社会运行效率和提高公众福祉作用很大，但是也存在智能治理沦为智能操控的危险，因而必须运用技术治理理论来研究智能治理的基本机制。智能治理和所有技术治理一样包括反治理和再治理活动，它们对于技术治理和智能治理的正常运行是建设性的。智能反治理主要涉及5个问题：智能低效、技术怠工、智能破坏、官僚主义智能化和过度治理。研究智能反治理的目的不是为了完全消除它，这是不可能的，而是为了达到治理-反治理的适度平衡，以提高智能治理的水平。智能治理存在各种风险，其中最大的政治风险在于：专家权力过大，威胁民主和自由，极端情况下可能导致机器乌托邦。智能再治理着力从制度上防范智能革命可能导致专家权力过大的政治风险，使智能治理服务于新时代中国特色社会主义建设事业，其核心问题包括：划定专家权力范围，权力越界的纠错制度。
南京大学哲学系潘天群教授
南京大学哲学系潘天群教授做了题为《机器认识论》的报告。认识论是一个传统哲学学科，其研究的是人类的知识是否可能、可靠知识的来源、如何辩护知识等问题。计算机是替代人的智力而得以被建造的，因而，从认识论的角度去思考机器是一个有趣的角度。既然人类的知识是涉身的，机器（人工智能体）拥有知识是否可能？如何理解机器的所谓推理以及知识学习？等等，这些便是机器认识论的内容。他认为机器具有演绎推理的能力，能够做有意义的演绎工作。纯粹的演绎推理被认为不能得到新知识。“演绎无新知”是建立在逻辑全能的基础之上的。如果演绎无新知，从事数学证明工作的那些数学家的工作便没有多少意义的了。某个定理之被证明本身便是一个有意义的工作。一个能够认识自然的机器是含有人类概念化的系统，并对它所“观察”的信息进行判断形成知识。这是一个“准人类”甚至“超人类”的智能体。想象一下，这样的智能体到太空中某个星球上通过信号“告知”我们，那儿有一种类似水的东西，外表与地球上的水完全一样，但其结构不是氢二氧一。它的观察方式是我们能够理解的，因而它告知我们的结论也是我们能够想象的。它们将接触到的信息整合成知识便是一个知识形成过程，这个函数便是知识形成函数。我们知道这个函数，因而能够理解它所说的。
中国社会科学院副研究员张昌盛
中国社会科学院副研究员张昌盛做了题为《意识与人工智能的限度》的报告。很多人工智能伦理研究都提到类主体、机器人的权利问题，还有像倪梁康等人谈人工意识。简单来说，很多对人工智能伦理问题的讨论都预设了一种强人工智能的立场。20世纪60年代以来，德雷福斯（HubertLedererDreyfus）多次批判说，功能主义的人工智能无法模仿海德格尔式的人与世界的存在论关系模式，也不是梅洛-庞帝的具身性的认知主体，达不到人的认知水平。塞尔基于生物自然主义对德雷福斯提出批评。塞尔认为，功能主义基于一种狭义算法，而人类大脑的生物运动神经元的活动乃至宇宙当中的所有的事物的运动也是一种广义的算法。只要我们找出了类似于人类的生物算法，那么类似于人类的智能乃至意识在理论上是可以实现的。因此，德雷福斯所谓主体的具身性及其与世界的生存论关系终究可以用广义的算法描述。
他认为，强人工智能不能实现。基于物理主义无法解决意识的“感受性质”问题。按照查尔莫斯的“哲学僵尸”论证，如果坚持物理主义，有智能并不一定有意识、智能机器永远没有体验，不知道自己在干什么。而且，人的意识也并不是基于仅仅基于生物的神经元基础。虽然人工智能不能产生意识，但是它可能逐渐逼近人的认知，弱人工智能应该是人的一种有力的工具。
我们思考人工智能的实现前景及应用影响时，有一些基本的问题始终拷问着伦理和哲学：人工智能本质到底是什么？他有没有意识，算不算主体？同时，人类的独特性是什么？人类的尊严在哪里？和近现代以来的人文主义理想可否保持？为了回答这些问题，我们不能不反思我们的基本理论预设，必须回溯到人工智能的本质、主体、意识这样一些最基础层面的问题。
北京工商大学的王东讲师
北京工商大学的王东讲师做了题为《智能时代科学发现的哲学反思》的报告。历史上新技术的出现总会带来新的科学发现，随着科学研究中的数据快速积累，使得数据驱动和智能驱动的科学发现成为可能，在天文学，高能粒子，合成化学，计算社会科学等领域都有应用。对于人工智能在科学中冷起到什么作用，在多大程度上能够替代科学家存在争议。有人认为人工智能与大数据方法等存在黑箱问题等各种局限，最终只能是科学家的一种辅助手段，其作用是让科学家能够处理大量的数据，但科学发现的核心过程还是需要人类本身的能力。而另一些则认为人类本身具有先天的认知缺陷，机器不仅能弥补甚至可能在各方面比人类做的还要好。当然更多的是折中综合的观点，认为应该取长补短共同发展，数据驱动方法与理论驱动方法可以相互结合，人与机器应该各尽所能，而当前需要关心的是如何协调好两者的互动关系。
科学家以及哲学家们对数据驱动和智能驱动的科学发现在科学方法论上的争论主要受到两个因素的影响：1.不同的科学研究领域和科学发现层次；2.对于是否存在科学发现的逻辑以及科学活动能否形式化的不同看法。
而争论的核心则是科学中的相关性与因果性的关系以及因果性能否形式化。当前因果机器推理的两个主要理论即潜在因果模型和因果图模型都有各自的问题，例如前者需要随机实验后者需要先验知识和严格的条件。所以短时间内在不考虑强人工智能的情况下，人工智能还只是一种工具没法涉及理论创新。
上海大学哲学系系主任杨庆峰教授
上海大学哲学系系主任杨庆峰教授做了《人工智能取代人类工作的哲学反思》的报告。他认为人工智能与人类整体关系具有双重维度：第一是物质性活动维度，即智能机器能否取代人类实践活动；第二是精神性活动维度，即机器智能能否超越人类智能。前者的设定是智能机器是人类的辅助性助手，取代人类活动的本质是人类活动的自动化趋势及其机器活动的涌现；后者更多触及的是人工智能的终极指向，涉及到通用人工智能和强人工智能的问题。面对人类被取代的未来前景，存在着四种态度：“批判”、“审视”、“适应”和“狂欢”。这四种态度缺乏对于人工智能的恐惧，只有持有人类对于人工智能的“恐惧”和“畏惧”，才能够导致合适的智能人文意识的发生，从而构建起人类与智能机器的自由关系。
上海交通大学副教授闫宏秀
上海交通大学副教授闫宏秀向研讨会做了《人工智能信任度的伦理解析》的报告。人工智能所带来的机遇与挑战，引发了全球社会各界的多维度反思。其中，关于人工智能的伦理思考是其中的一个主要议题。关于伦理方面的思考，事实上源自是关于人与技术关系的再度厘清与辨析。在这种厘清与辨析之中，人的伦理地位、技术的伦理意蕴、人与技术之间的伦理牵连、对人工智能技术图景的伦理描绘等问题被渐次呈现出来。在“以人为中心的人工智能（Human-CenteredAI）”、“人工智能伦理将是未来智能社会的发展基石”、2019年3月到4月之间，谷歌关于外部专家委员会（AdvancedTechnologyExternalAdvisoryCouncil）的风波等一方面是人工智能亟待伦理的参与，另一方面则反应了人工智能伦理构建中正在面临诸多问题。因此，需要对人工智能伦理为何以及何为进行深度解析。关于此，欧盟基于其伦理、安全、和尖端人工智能愿景，发布了《人工智能信任度的伦理框架》。对该框架的伦理逻辑、伦理预设、以及如何正确信任的解析将为人工智能伦理的构建提供有效的理论基础。
华东理工大学科学技术与社会研究所所长黄时进副教授
第四场主题报告由中国人民大学的刘永谋教授和北京航空航天大学的徐治立教授联合主持。
华东理工大学科学技术与社会研究所所长黄时进副教授做了题为：《未来的科学传播：基于人工智能的视角》的报告。他认为科学传播最初的形态被界定为“欠缺模型”（deficitmodel）的传统科普，经过20世纪80年代中期开始的公众理解科学（PublicUnderstandingofScinece）阶段，发展至今的公共参与（PublicParticipationorPublicEngagement）阶段，传播媒介也从牛顿时代的皇家学会期刊、报纸和图书，到20世纪的广播、电视、电影，至21世纪今天的网络时代，微信、微博、甚至抖音快手等新兴媒体成为科学传播的重要媒介。当代人工智能的兴起，为科学传播产生了积极的影响：其一是人工智能让科学传播中客体的“主体间性”（intersubjectivity）得到实现，真正进入公众参与科学传播阶段。借助人工智能的强大数据搜寻、识别和分析能力，普通公众可以相对容易获取自己需要的、浅层的科学技术知识。其二人工智能借助智能机器人极大提升科学传播的效用，特别是面向儿童青少年的科学传播，人机交互将成为主要形态，人工智能机器人将通过互动模式帮助儿童青少年儿童从小爱科学、用科学，提高动手能力，培养科学思维和科学精神。其三人工智能将淡化科学传播中的科学家的专长，而强化公众的交互思维和认知能力。在科学传播中，公众的交互思维素养主要基于人工智能时代人们交往方式的变化而得以提高，具体表现在学会开源共享、参与协商、组建社区等，理解复杂的相互关系等。同时独立思考、逻辑推理、信息加工等高阶认知能力得以提升。在人工智能的帮助下，未来的科学传播呈现以下三个特征：“深度社会化”、“个性化”和“持续自我创新化”。
中国人民大学哲学院的王小伟副教授
中国人民大学哲学院的王小伟副教授所做报告的题目是：《道德物化的意义》，向诸位学者介绍了技术哲学中的荷兰学派的一些研究。他认为近年来荷兰学派技术哲学收到普遍关注，况且荷兰确有一群很好的学者在做技术哲学工作。但细看会发现该学派并无统一研究纲领。维贝克（Peter-Paul-Verbeek）的研究方法是后现象学外加一些技术权力论。提出经验转向的克劳斯（PeterKreos）则基本上是分析的办法，做人工物本体论。乌得勒支大学伦理中心主任杜威尔（MarcusDuwell）则从康德和格沃斯传统来讨论技术伦理问题。方法虽有不同，但他们都有道德物化的诉求。克劳斯和佛贝克，包括梅耶斯（AntonieMeijers）联合编了一些人工物道德属性的书。如果荷兰技术哲学有个学派的话，道德物化是一个显著的标志，尽管不同学者的道德物化认识论基础不尽相同。
所谓道德物化，简单讲就是道德主体即不单是人也不单是物，而是人和物的集合。这意味着物本身不是价值中立而是负载道德的。因此，在设计物时，应有价值自觉地试图把公共善嵌到人工物里去。进而通过物的发端流行来实现善。安全带就是一种道德物化技术。系统会不断报警迫使你扣上它。道德物化概念一经介绍就引起了轰动。支持者认为可以通过物化道德来更好的实现善的生活(goodlife)。好处不论，这里主要介绍相关质疑。
佛贝克将质疑观点概括为三。一是自由侵害论;二是道德取消论;三是技治主义论。自由侵害论认为道德物化会侵害自由。康德认为人之为人是因其有自由理性的能动性（freerationalagency）。如在用物时，人被操纵，非自由地践行价值，那么自由将遭到侵害，尊严受到冒犯。在道德哲学情境中，人的尊严（humandignity）通常是一个红线词汇。一旦触碰，即遭禁止。道德取消论认为如果道德统统被嵌入进人工物，人符合道德要求的行为的道德性即被剥夺。因为它仅仅是符合并非出于道德要求。康德认为只有出于义务的行为（actfromduty）才道德，仅符合（actinaccordancewithduty）义务并不是。如果用物使得行为自然符合义务，道德就被取消了。被安全带噪音骚扰，不厌其烦地系上它并不是一个道德行为。最后，技治主义论认为道德物化给工程师过度赋权。绝大多数老百姓注定没有工程和设计知识，因此必然把道德抉择让渡给了专家。技术专家来衡量好坏，进行价值排序，进而决定物化和实现什么价值。这从根本上是反民主的。佛贝克虽然列举了以上问题，但他并未从认识论角度回应以上挑战。我认为道德物化实际上应该叫价值物化。被物化的特定的价值而不是道德。道德按照康德说法预设主体的内在心理过程，即按照理性的要求拒斥本能。道德物化取消了主体的道德自治，也就无所谓道德。
南开大学哲学院陶锋副教授
南开大学哲学院陶锋副教授做了题为：《美的理性：马克思主义与人工智能美学》的报告。在报告中，他指出人工智能艺术的出现，使得人们需要重新思考美的规律、艺术与科技、理性与人类解放的关系。“美的理性”人工智能美学中核心问题，是基于马克思、本雅明、阿多诺和马尔库塞等思想家对理性和美学的探讨之上所提出来的，它包含了两个层面：首先是“美的规律”。人工智能可以模拟人来生成艺术，为艺术的规则化、算法化提供了可能。人工智能艺术可以分为三个层面：1.人工智能生成艺术；2.人工智能本身是艺术与科技的结合；3.人工智能与网络、大数据结合发展的超级智能，可能会实现社会艺术、人类艺术。人工智能美学研究还包括情感、创造性等如何实现算法化。而目前的人工智能艺术的目的主要还是为了技术所服务。
“美的理性”另一层面是“理性之美”。法兰克福学派批判了工具理性。而这种技术理性进一步发展成了设计理性：智能、生命都是可以设计的了。但是无论是工具理性还是设计理性，理性都是一种未能实现自律的工具。因此，理性要想实现自律，就需要实现技术、艺术的自律，适当去除政治维度，不能仅仅发展“美的德性”。理性的自律还要求理性要有限度——“有限的理性”，即正确处理技术与艺术、人与自然、主体与客体的关系。阿多诺认为，我们可以用艺术中摹仿要素来纠偏工具理性，从而实现和解。我们发展人工智能的同时，也需要思考如何以“美的理性”作为基本原则，让人工智能适度发展、着力于提升人类社会的美与和谐。“美的理性”是美的规律和理性之美的统一，人工智能在艺术和美学的发展，可以为这种统一提供一个契机。
人工智能美学还涉及到了人类解放问题。马克思在其机器与劳动理论中，提到了机器取代人的体力劳动，却加剧了人的劳动异化程度。人工智能技术则进一步地会取代人的脑力劳动，而这似乎加深了人的异化程度。本雅明所提到的“文学的技术”和“审美生产”变成了异化劳动。人工智能艺术正在成为文化工业中重要部分，人们的闲暇被娱乐工业所控制，一些基于人工智能和大数据技术的娱乐app如“抖音”，使得艺术和娱乐被精确计算了。人类或许永远无法回到“感性”状态，人与自然被人工之物彻底中介和隔离了。这种情况下，“美的理性”更有实践意义。理性被美所引导，技术为实现人类美好生活所服务，人类和社会成为美的艺术。
中国社会科学院哲学研究所研究员段伟文
中国社会科学院哲学研究所研究员，即这次研讨会的筹划人段伟文做了题为《机器智能的非人格化权力与主体重塑》的报告。他认为数据驱动的机器智能正在成为一种新的主体型范机制：智能治理和智能化自我治理（如量化自我等）。这与福柯有关主体的塑造的权力技术和自我技术有关，两者分别为支配他人的技术和支配自我的技术；同时，又涉及到德勒兹在《尼采与哲学》中探讨过的能动力与反动力。在尼采的由力所构筑的世界观中，人的意志是能动力与反动力等力的关系的产物，主体的塑造是由特定的力与力之间的关系所形成非人格化的权力运作的结果。数据驱动的机器智能对主体的型范或塑造所采用的是关联本体论而不是关系本体论/实在论或属性本体论/实在论，这一特质使权力技术与自我技术、能动力与反动力呈现为一种微分式的非人格化权力。这意味着，拉图尔的异质性行动者网络和西蒙栋的个体化（individualization）等主体塑造机制将受到挑战：由机器智能所塑造的主体可能会丧失其能动性，而成为智能治理这一新的权力技术在数据向量空间中进行微细预控的对象。实际上，算法权力从权力谱系上与现代以降的测量的权力、档案的权力、索引的权力一脉相承，不论是智能监控、内容推荐还是量化自我，都在一定程度上将主体的个体化转换为碎片化的数据标签或德勒兹的控制社会意义上的算法“分格”。这种基于数据的机器智能的社会运用与其说是对主体的行为预控，毋宁说是对主体潜能的抑制。
为了应对机器智能的非人格化权力，主体可在智能化的生活中探索有助于提升主体塑造的自主性与能动性的生活策略，以寻求更加人性化的主体重塑进路。其一，反思智能化关注与认知中主体的角色。先厘清主体究竟是被观看与分析者还是观看与分析者，在此基础上探索反向智能关注与自我智能关注的可能性，进而揭示出数据智能背后的虚拟的主体性与外在的能动性，使主体的数据孪生成为其自身可掌控的开放性的个体化过程，而非被操控且丧失自我改变潜能的数据僵尸。其二，审度智能化时代的知识与自由之关系。以反思数据行为主义对人的生成性和自我改变潜能的抑制为切入点，探寻机器智能的限度，实现从有为的自由（做一切可为之事的自由）到无为的自由（不做能做之事的自由）、从“无止境的知识探寻”到“有选择的无知”的权力的莫比乌斯翻转。
浙江大学马克思主义学院潘恩荣教授
第五场主题报告由北京理工大学的范春平教授和中国社会科学院研究员梁俊兰主持。
浙江大学马克思主义学院潘恩荣教授所做报告的题目是《面向技术本身的人工智能伦理框架——以自动驾驶为例》。他认为技术与伦理的相互对立甚至对立是目前人工智能产业界难以应对伦理挑战的根源之一。例如，自动驾驶产业化过程中碰到了电车难题，技术专家不知道怎么办，于是，技术专家请伦理专家给出解决方案。然而，伦理专家也无法承受如此之重任，因为他无权决定谁应该被撞死。
将技术与伦理融合为一种面向技术本身的人工智能伦理框架，我们可以避开或者破解上述难题。人工智能伦理问题发生在人工智能技术（人工物）的使用情景中，即人工智能技术（人工物）介入了人与人之间，改变了原来“应该的人与人的关系”而引发了新的冲突——伦理问题。从一个人工智能的使用情景出发，追溯到设计情景当中，我们可以把人工智能伦理与人工智能技术问题放在一个框架中进行考量，将有助于解决自动驾驶的问责问题。
下一步做研究有三个可能路径。第一个是在第二种经验转向基础上结合伦理转向，走向价值论转向；第二个是科学的实践哲学研究进路，将伦理实践跟科技实践结合起来；第三个是马克思主义人工智能哲学或者人工智能马克思主义的进路，在协作分工基础上形成的包含伦理的制度，最后固化到机器或代码上。
上海师范大学马克思主义学院副教授苏令银
上海师范大学马克思主义学院副教授苏令银做了题为：《论智能时代道德机器创造的伦理挑战》。在报告中，他认为基于人工智能的巨大技术进步，完全自主的、类人化的、能够进行伦理推理和决策的智能机器的出现似乎是不可避免的。然而，非伦理学家（如计算机科学、人工智能和机器人领域的研究人员和程序员）在创造道德机器时所面临的伦理挑战。伦理是否“可计算”首先取决于程序员如何理解伦理，以及他们对这些领域中的伦理问题和方法论挑战的理解是否充分。
从道德决策的哲学基础看，机器缺乏自由意志，而自由意志本身通常被理解为是道德能动性的先决条件。基于自由意志反对由于智能机器算法的性质而否定它们的道德能动性，这是无法令人信服的。詹姆斯.摩尔对各种形式的道德能动者进行了重要的区分。没有理由不认真考虑智能机器成为完全的道德能动者的可能性。对于如何实现智能机器的道德决策和道德推理已经有了一些尝试比如自下而上的方法；自上而下的方法；混合方法；其他方法，如基于网络的方法、佛教的方法等决策系统模型。
上述领域研究人员和程序员由于普遍缺乏伦理专业知识，至少面临两种类型的问题：一是伦理专业知识的缺乏。这类问题可以通过向这些人提供必要的道德知识来解决；二是更困难的方法论问题。这涉及学界在伦理学方面存在分歧的领域，目前没有容易的解决办法。道德专家们对于使用哪种伦理理论没有共识，比如电车难题和机器偏见等。伦理学中有着几个长期存在的方法论问题，比如正当性问题和多元主义伦理理论问题，即使是道德哲学家也没有解决。对这些类似问题的熟悉可以帮助他们避免陷阱，构建更好的道德机器。道德机器的伦理决策应以避免不道德行为为基础并与解决道德问题的多元伦理方法相结合，而不是依赖于特定的伦理方法来避免规范的偏见。
未来很可能出现一种道德机器，它能够在没有任何人类监督的情况下自主地进行伦理推理和决策。机器人伦理学研究表明，研究人员和程序员需要向伦理学家寻求建议，以便更好地理解伦理学中根深蒂固的方法论问题。如果他们不适当地处理这些问题，他们创造适当的道德机器的努力将受到严重破坏。如何判断哪些行为在道德上是正确的，是我们生活中最困难的问题之一。理解这些决策所涉及的伦理陷阱和挑战，对于创造智能的、公正的道德机器是绝对必要的。
大连理工大学哲学系讲师于雪
大连理工大学哲学系讲师于雪向参会学者做了题为《人工智能伦理准则建构的方法论问题》的报告。随着人工智能2.0时代的来临，大数据智能、群体智能、跨媒体智能、混合增强智能和自主智能逐渐走向成熟。同时，“人工智能+互联网+区块链”的技术合作模式激发了人工智能技术在各个领域的应用，掀起了新一代技术革命。在这样的时代背景下，建构人工智能的相关伦理准则不仅重要而且必要。但是，人工智能伦理准则的建构并非易事，这其中存在着文化困境、伦理规范的困境、利益相关者的价值困境，以及技术困境这四个方面的问题。建构适宜的人工智能伦理准则首先需要克服这些困境，具体的逻辑建构体系包括人工智能语言体系、人工智能价值体系、人工智能标准体系、人工智能责任体系和人工智能评价体系五个方面。并且，人工智能伦理准则的建构需要以“实践智慧”为核心，及时有效地调整人工智能伦理标准的实施方法，以弹性伦理原则为核心，力求最大程度地实现人工智能伦理准则的实践有效性。
免责声明：本文系网络转载，版权归原作者所有。如涉及作品版权问题，请与我们联系，我们将根据您提供的版权证明材料确认版权并支付稿酬或者删除内容。返回搜狐，查看更多