人工智能引发伦理争议不断，有的问题直接颠覆你的三观！人工智能情感伦理问题有哪些方面

发表时间：2023-07-05 09:48:37

人工智能引发伦理争议不断，有的问题直接颠覆你的三观！

0分享至

作者：袁勇

当前，人工智能浪潮方兴未艾，在很多领域展示出巨大应用前景。然而，随着人工智能技术的不断发展，它引发的伦理争议也不断出现。

近日，中国发展研究基金会发布报告——《未来基石——人工智能的社会角色与伦理》。针对人工智能伦理问题，报告在提出一系列建议的同时，也希望推动问题的充分讨论。

对人工智能的讨论足够了吗

迄今为止，我们对人工智能可能会带来的挑战仍知之甚少，严肃的公共讨论还十分缺乏

要理解人工智能的社会影响，首先要认识人工智能在社会发展中的独特作用。在人类发展进程中，知识的增长和社会协作体系的扩展起到了重要作用，而这一切都离不开人类大脑提供的智能基础。

报告认为，人工智能的发展，将带来知识生产和利用方式的深刻变革，人工智能不仅意味着前沿科技和高端产业，未来也可以广泛用于解决人类社会面临的长期性挑战。从消除贫困到改善教育，从提供医疗到促进可持续发展，人工智能都大有用武之地。

法国生产的EZ10无人驾驶公交车已正式投入运行，随着人工智能技术不断发展，相关法律、法规亟待完善。（资料图片）

例如，人工智能可以大幅度降低医疗服务的成本，缓解医疗人才不足的局面。在教育领域，人工智能能够分析人们获取知识的方式，然后利用这些信息开发出相应模型，来预测人们的投入和理解程度。人工智能还可以改变贫困地区高水平教师不足、教学质量低下的局面，促进教育公平。

此外，人工智能可以服务于残障人士。例如，微软最近在ios应用程序商店推出了一款名为“seeingAI”的产品，帮助失明和弱视人群应对日常生活中的问题。“seeingAI”的开发团队包括一名在7岁时就失明的工程师，这一应用程序尽管还处于早期阶段，但已证明人工智能可以捕捉用户周围的图像并即时描述。比如，它可以读取菜单、清点货币等，从而帮助残障人士提高生活能力。

然而，迄今为止，我们对人工智能可能会带来的挑战仍知之甚少，严肃的公共讨论还十分缺乏。社会公众对人工智能的想象在很大程度上仍被科幻小说和影视作品所主导，而对于人工智能在未来可能产生的影响，更是缺乏认知和关切。在政策层面，对于人工智能的关注很大程度上仍集中于技术和经济层面，缺乏整体性的思考和讨论。尽管有少数哲学和社科领域的学者开始关注人工智能带来的伦理问题和社会挑战，但这些讨论并未进入公共政策视界，而且讨论的重点也多集中在超级人工智能这样仍相对遥远的议题上。

报告认为，在人工智能问题上，围绕可能出现的挑战，无知、忽视、偏狭、误解交织在一起，可能会导致真正的风险。

人工智能会带来哪些伦理挑战

从人文视角来看，人工智能带来了一些有可能撼动社会基础的根本性问题

中国发展研究基金会副理事长兼秘书长卢迈表示，人工智能发展将进一步释放社会活力，中国应积极拥抱人工智能，充分利用好它对生产力的解放效应。但是，把握机遇的前提是了解并预防风险，这需要我们在伦理学和社会治理上下功夫。

中国发展研究基金会秘书长助理、研究一部主任俞建拖认为，社会应该正视人工智能带来的挑战，并超越纯技术和经济的视角，从社会和人文视角去探讨人工智能带来的影响。

报告认为，从人文视角来看，人工智能带来了一些已经在发生或即将发生、有可能撼动我们社会基础的根本性问题。

随着人工智能的不断发展，我们对于人的理解越来越物化和去意义化，人和机器的边界越来越模糊，我们需要思考这种边界模糊的后果。我们该如何对待机器和自身的关系？人和机器应该整合吗？如果人对快乐和痛苦的感受可以通过其他物理和化学手段来满足，那么，人还有参与社会互动的需要和动力吗？

人工智能还带来了新的社会权力结构问题。借助人工智能，企业可以赋予每个用户大量的数据标签，并基于这些标签了解人的偏好和行为，甚至超过用户对自己的了解，这是巨大的权利不对称。

此外，人工智能可能会造成偏见强化。在社交媒体中，人工智能将观点相近的人相互推荐，新闻推送也常常存在路径依赖。当人们的信息来源越来越依赖于智能机器，偏见会在这种同化和路径依赖中被强化。

人工智能还使社会的信息和知识加工处理能力被极大放大，信息和知识的冗余反而使人陷入选择困境。如果人参与社会互动的次数和范围缩小，而人工智能越来越多介入到知识的生产中，知识与人的需求之间的关系将变得越来越间接，甚至会反过来支配人的需求。

尽管人工智能也会推动进一步的专业化分工和创造新的工作机会，但并非所有人都有能力迈过技术性和社会性壁垒。尤瓦尔·赫拉利在《未来简史》中警告，未来社会可能会出现“无用阶级”，这种担心并非全无道理。

人工智能也对传统的法律法规和社会规范提出了挑战。譬如，无人驾驶汽车一旦出现事故，我们究竟该归因于开发产品的企业、产品拥有者还是人工智能产品本身？

如何构建人工智能的伦理规范

考虑到人工智能的深远影响，需要全社会共同努力，制定开发和应用的伦理规范和政策方向

人工智能正帮助人类社会向充满不确定性的未来疾驰。在冲进未知之门之前，需要给它装上刹车，让它真正能行稳致远，这个刹车就是伦理规范和公共政策准则。

当前，已经有一些人工智能领先企业关注人工智能开发和应用的伦理问题。微软公司总裁施博德表示，要设计出可信赖的人工智能，必须采取体现道德原则的解决方案，因此微软提出6个道德基本准则：公平、包容、透明、负责、可靠与安全、隐私与保密。谷歌公司也表示，在人工智能开发应用中，坚持包括公平、安全、透明、隐私保护在内的7个准则，并明确列出了谷歌“不会追求的AI应用”。

报告认为，这些企业的前瞻性探索十分重要。但是，考虑到人工智能对未来社会的深远影响，还需要全社会和各国政府的共同努力，制定人工智能开发和应用的伦理规范和政策方向，为其未来健康发展奠定基础。

为此，报告提出了一系列建议：在社会层面，高校和研究机构开展前瞻性科技伦理研究，为相关规范和制度的建立提供理论支撑；各国政府、产业界、研究人员、民间组织和其他利益攸关方展开广泛对话和持续合作，通过一套切实可行的指导原则，鼓励发展以人为本的人工智能；人工智能企业应该将伦理考量纳入企业社会责任框架中；投资机构应将伦理问题纳入ESG（环境、社会和治理）框架，引导企业进行负责任的人工智能产品开发；社会组织可以通过培训、发布伦理评估报告、总结代表性案例等方式，推动人工智能伦理规范的构建。

报告建议，在公共政策层面，人工智能研发和应用的政策应该将人置于核心，满足人全面发展的需求，促进社会的公平和可持续发展；政府需要设立专项资金，支持大学和研究机构开展人工智能等前沿科技的伦理研究；政府还需要给予不同人群以学习了解人工智能的机会，推动全社会对人工智能的知识普及和公共政策讨论；优先鼓励人工智能应用于解决社会领域的突出挑战，包括减少贫困和不平等，促进弱势群体融入社会并参与社会发展进程；应组建由政府部门和行业专家组成的人工智能伦理委员会，对人工智能的开发和应用提供伦理指引，并对具有重大公共影响的人工智能产品进行伦理与合法性评估。

此外，对于人工智能的规范发展也需要更广泛的国际合作。清华大学公共管理学院院长薛澜表示，“人工智能的发展将在创新治理、可持续发展和全球安全合作3个方面对现行国际秩序产生深刻影响，需要各国政府与社会各界从人类命运共同体的高度予以关切和回应。只有加强各国之间的合作与交流，才可能真正构建起一套全球性的、共建共享、安全高效、持续发展的人工智能治理新秩序”。

报告也建议，各国政府应促进数据共享技术，为人工智能培训和测试提供共享的公共数据集。在个人信息得到保护的前提下，促进数据的自由流通；并加强国际合作，建立多层次的国际人工智能治理机制。各国政府应通过联合国、G20以及其他国际平台，将人工智能发展纳入国际合作议程，利用人工智能推动联合国2030年可持续发展目标的实现。

来源：经济日报

往期相关文章推荐

王沙飞院士：人工智能与电磁频谱战

孙正义：未来30年的人工智能和物联网

解密首批人工智能4支国家队内幕

雄安：人类历史上第一个人工智能城市正在崛起

蓝海长青系列自媒体

特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.

/阅读下一篇/返回网易首页下载网易新闻客户端

人工智能监管难题：如何“用魔法打败魔法”

我国人工智能专门立法具有一定的可行性，但是也面临着诸多现实难题。

全球AI立法进程明显提速，世界各国的监管都在追赶AI的演化速度。

当地时间6月14日，欧洲议会以499票赞成、28票反对和93票弃权，高票通过了《人工智能法案》(AIAct)谈判授权草案。按照欧盟立法程序，欧洲议会、欧盟成员国和欧盟委员会将开始“三方谈判”，以确定法案的最终条款。

欧洲议会称“已经为制定史上首部人工智能法案做好谈判准备”。美国总统拜登释放管控AI信号，有美国国会议员提交了AI监管立法提案。美国参议院民主党领袖查克·舒默展示了他的“人工智能安全创新框架”，并计划在短短“几个月”内制定联邦层面的人工智能法案。

我国相关立法也已提上日程，人工智能法草案预备在今年内提请全国人大常委会审议。6月20日，首批境内深度合成服务算法备案清单也已经出炉，百度、阿里巴巴、腾讯等26家公司、共计41个算法榜上有名。

尽管中国、美国、欧盟都倡导准确、安全、透明度等原则性的AI监管理念，但在具体思路和方式上，存在许多不同。颁布全面的AI法律，背后是对自身规则的输出，欲掌握规则优势。

国内一些专家呼吁尽快开展人工智能法律规制，但目前面临的现实难题不容忽视。此外还有一个重要的考虑是：要监管还是要发展。这并不是一个二元对立的选择，但在数字领域，平衡两者却颇为不易。

欧盟冲刺，中美提速

如果一切顺利，欧洲议会通过的《人工智能法案》有望在今年年底前获批。全球首部综合性人工智能监管法律很有可能落地欧盟。

“该草案会影响其他处于观望的国家加速立法。一直以来，人工智能技术是否应当纳入法治监管范畴始终争议不断。现在来看，《人工智能法案》落地后，相关网络平台，如业务内容以用户信息生成为主的平台，势必会承担更高的审核义务。”北京航空航天大学法学院副教授赵精武告诉《中国新闻周刊》。

作为数字战略的一部分，欧盟希望通过《人工智能法案》全面监管人工智能，其背后的战略布局也已摆到台面。

北京万商天勤(杭州)律师事务所执行主任彭晓燕告诉《中国新闻周刊》，《人工智能法案》除适用于欧盟境内，还规范位于欧盟之外、但系统输出数据在欧盟使用的系统提供方或使用者。极大扩展了法案的管辖适用范围，也可以窥见抢占数据要素管辖范围的端倪。

中国国际问题研究院欧洲研究所副所长、研究员金玲在《全球首部人工智能立法：创新和规范之间的艰难平衡》一文中也写道，《人工智能法案》突出欧盟人工智能治理的道德优势，是欧盟又一次欲发挥其规范性力量，通过规则优势弥补技术短板的尝试。反映了欧盟欲抢占人工智能领域道德制高点的战略意图。

《人工智能法案》已酝酿两年。2021年4月，欧盟委员会提出基于“风险分级”框架的人工智能立法提案，后经多轮讨论和修订。在ChatGPT等生成式AI风靡后，欧盟立法者又紧急添“补丁”。

一个新变化是，《人工智能法案》最新草案加强了对通用人工智能(generalpurposeAI)的透明度要求。例如，基于基础模型的生成式AI必须要对生成的内容进行标注，帮助用户区分深度伪造和真实信息，并确保防止生成非法内容。像OpenAI、Google等基础模型的提供者，若是在培训模型期间使用了受版权保护的数据，也需要公开训练数据的详细信息。

此外，公共场所的实时远程生物识别技术从“高风险”级别调整为“被禁止”级别，即不得利用AI技术，在欧盟国家的公共场合进行人脸识别。

最新草案也进一步提高了违法处罚数额，将最高3000万欧元或侵权公司上一财政年度全球营业额的6%，修改为最高4000万欧元或侵权公司上一年度全球年营业额的7%。这比欧洲的标志性数据安全法律《通用数据保护条例》所规定的，最高可处以全球收入的4%或2000万欧元罚款高出不少。

彭晓燕告诉《中国新闻周刊》，处罚数额的提高，侧面反映了欧盟当局对人工智能监管决心与力度。对于谷歌、微软、苹果等营收数千亿美元的科技巨头而言，若违反《人工智能法案》规定，罚款可能达到上百亿美元。

而在大洋彼岸的美国，华盛顿忙于回应马斯克等人呼吁加强AI管控之际，6月20日，美国总统拜登在旧金山会见了一群人工智能专家和研究人员，讨论如何管理这项新技术的风险。拜登当时称，在抓住AI巨大潜力的同时，需要管理其对社会、经济和国家安全带来的风险。

风险管控成为AI热门话题的背景是，美国并未对AI技术采取像反垄断那般严厉措施，尚未出台联邦层面、综合性的AI监管法律。

美国联邦政府首次正式涉足人工智能监管领域是在2020年1月，当时发布了《人工智能应用监管指南》，为新出现的人工智能问题提供监管和非监管措施指引。2021年出台的《2020年国家人工智能倡议法案》更多算是在AI领域的政策布局，与人工智能治理和强监管还有一定距离。一年后，白宫于2022年10月发布的《人工智能权利法案蓝图》(简称“《蓝图》”)为人工智能治理提供了支持框架，但并不是美国官方政策，不具备约束力。

美国AI立法进展甚微，已招致许多不满。不少人批评，在数字经济的规则制定方面，美国已落后欧盟和中国。不过，或许是看到欧盟《人工智能法案》即将走过最后“关卡”，美国国会近期出现了立法加速迹象。

拜登举行AI会议当天，民主党众议员泰德·刘(TedW.Lieu)、安娜·埃舒(AnnaEshoo)，以及共和党众议员肯·巴克(KenBuck)一同提交了《国家人工智能委员会法案》提案。同时，民主党参议员布莱恩·夏兹(BrianSchatz)将在参议院提出配套立法，一同专注于人工智能监管问题。

根据法案内容，人工智能委员会将由来自政府、行业、民间社会和计算机科学领域的共20名专家组成，将审查美国当前的人工智能监管方法，共同制定全面的监管框架。

“AI正在社会上做出令人惊叹的事情。如果不受控制和监管，会造成重大伤害。国会绝不能袖手旁观。”泰德·刘在一份声明中说。

一天后，6月21日，参议院民主党领袖查克·舒默(ChuckSchumer)在战略和国际研究中心(CSIS)发表演讲，揭示他的“人工智能安全创新框架”(简称“AI框架”)——鼓励创新，同时推进安全、问责制、基础和可解释性，呼应了包括《蓝图》在内的宏观规划。他曾在4月提出过该框架，但当时基本没有透露细节。

AI框架背后是查克·舒默的一项立法战略。他在此次演讲中表示，要在短短“几个月”内制定联邦层面的人工智能法案。不过，美国立法程序繁琐，不仅要经过参众两院投票，还需经过多轮听证会，耗时长久。

为了拉快进度，作为AI框架的组成部分，查克·舒默计划从今年9月起举办一系列人工智能洞察力论坛，涵盖创新、知识产权、国家安全和隐私在内的10个主题。他告诉外界，洞察论坛不会取代国会关于人工智能的听证会，而是同步进行，以便立法机构可以在几个月而不是几年内推出有关该技术的政策。他预计，美国的AI立法可能要到秋天“才能开始看到一些具体的东西”。

虽进度并未赶上欧盟，但我国相关立法也已提上日程。6月初，国务院办公厅印发《国务院2023年度立法工作计划》，其中提到，人工智能法草案等预备提请全国人大常委会审议。

按照我国《立法法》的规定，国务院向全国人大常务委员会提出法律草案后，由委员长会议决定列入常务委员会会议议程，或者先交有关的专门委员会审议、提出报告，再决定列入常务委员会会议议程，后续一般需经历三次审议后再交付表决。

今年以来，不少国家AI立法提速，彭晓燕认为这是竞争和技术发展一同催热的结果。

“数据要素越来越成为国家战略要素，各国也希望通过立法确立管辖权，抢占人工智能话语权。同时，ChatGPT等人工智能技术的迭代更新，让社会看见了强人工智能发展的新希望(11.680,-0.01,-0.09%)。新技术的发展势必会带来新的社会问题与社会矛盾，需要规范介入调整，技术的发展某种程度上推动了立法的更新。”彭晓燕说。

分歧远多于趋同

中国、美国、欧盟是全球AI发展的主要驱动力(2.970,0.01,0.34%)，但三者在AI立法方面也存在一些不同。

欧盟《人工智能法案》从用途、功能等角度将人工智能应用风险分为4个层级，无论草案经过几轮修改，“风险分级”仍然是欧盟治理AI的核心理念。

金字塔顶端对应对人类安全造成“不可接受”的风险。例如，根据人们的社会行为或个人特征对其进行分类的打分系统等，这些将被完全禁止使用。

在最新草案中，欧洲议会扩大了“不可接受的风险”清单，防止人工智能系统出现侵入性和歧视性。全面禁止公共空间生物识别、情感识别、预测性警务(基于侧写、地点或过去的犯罪行为)，以及从网络随意抓取面部图像等六类人工智能系统。

第二类是对人类安全或基本权利产生负面影响的人工智能系统，会被视为“高风险”。例如，航空、汽车、医疗设备等产品中使用的AI系统，以及必须在欧盟数据库中注册的八个特定领域，涵盖关键基础设施、教育、培训、执法等。在符合人工智能规定和事先合格评定的情况下，各种“高风险”人工智能系统将获得授权，遵守一系列要求和义务才能进入欧盟市场。

另外，影响选民和选举结果的人工智能系统，以及根据欧盟《数字服务法》，拥有超过4500万用户的社交媒体平台所使用的推荐系统也将被列入高风险名单，例如Facebook、Twitter和Instagram。

处在金字塔底部的是有限风险、风险很小或没有风险的人工智能系统。前者具有特定透明度义务，需要告知用户正在与AI系统互动，后者无强制性规定，基本上不受监管，如垃圾邮件过滤器等应用。

因有着严格的监管条款，《人工智能法案》被很多业内人士视为长了许多尖锐的“牙齿”。不过，该法案也试图在强监管和创新之间寻求平衡。

例如，最新草案要求成员国至少建立一个可供中小企业和初创企业免费使用的“监管沙盒”，在一个受监督和安全可控的场景中，对创新性人工智能系统在投入使用前进行测试，直到满足合规要求。欧盟普遍认为，该提议不仅可以让当局实时关注技术变化，也帮助AI企业减轻监管压力的同时能继续创新。

金玲在前述文章中称，欧盟的上游治理方法一方面要求企业承担更多的前置成本，另一方面也因为风险评估不确定性影响企业投资热情。因此，尽管委员会一再强调人工智能立法将支持欧洲数字经济的创新和增长，但现实的经济分析似乎并不认同这个结论。法案反映了欧盟在促进创新和权利保护之间难以有效平衡的内在冲突。

美国同欧盟、中国一样，都支持主要基于风险的人工智能监管方法，倡导准确、安全、透明度。不过，在赵精武看来，美国监管思路更注重利用AI，推动AI行业的创新和发展，最终是为了保持美国的领导地位和竞争力。

“不同于中国和欧盟秉持的‘风险预防和技术安全’监管理念，美国则侧重商业发展优先。中国和欧盟均侧重人工智能技术应用安全保障，避免人工智能技术滥用侵害个体权利，美国则是以产业发展作为监管重心。”赵精武说。

有研究发现，美国国会立法主要集中在鼓励和指导政府使用人工智能。例如，美国参议院曾于2021年推出一项人工智能创新法案，要求美国国防部实施一项试点计划，以确保其能够获得最佳的人工智能和机器学习软件能力。

查克·舒默在前述演讲中就将创新视为北极星，其AI框架就是要释放人工智能的巨大潜力，支持美国主导的人工智能技术创新。《人工智能应用监管指南》在开篇就明确应继续促进技术和创新的进步。《2020年国家人工智能倡议法案》最终目标也是要通过增加研究投入、建立劳动力系统等手段确保美国在全球AI技术领域保持领先地位。

彭晓燕表示，从指导性的规范设计角度来看，美国立法及制度层面上对人工智能发展尚且处在弱监管的态势，社会层面以开放的态度积极鼓励人工智能技术的创新与拓展。

与欧盟具有更加明确的调查权和全面的监管覆盖范围相比，美国采取了一种分散化的人工智能监管方式，部分州和机构以较小程度推进AI治理。这样导致的结果是，全国性的AI监管倡议都非常地宽泛和原则化。

例如，《蓝图》作为美国人工智能治理政策里程碑事件，制定了安全有效的系统、防止算法歧视、保护数据隐私、通知及说明、人类参与决策制定等五项基本原则，并无更加细致条款。

彭晓燕认为，《蓝图》未制定具体的实施措施，而是以原则性规定的方式搭建人工智能发展基本框架，旨在指导人工智能系统设计、使用及部署。

“像这类规范，不具有强制性，这是美国出于对人工智能产业扶持发展的考虑。目前，人工智能尚处于新兴发展阶段，高强度监管势必会一定程度上限制产业发展与创新，因而美国在立法上保持相对谦抑态度。”彭晓燕说。

“如果没有法律赋予各机构新的权力，它们就只能根据已有权力规范人工智能的使用。另一方面，对人工智能相关的道德原则保持较少规定，各机构可以自行决定如何监管，保留哪些使用权利。”卡内基分析师哈德里恩·普格(HadrienPouget)认为，这使得以白宫为首的联邦机构既受限制又自由。

以利用和创新为主导的AI治理理念，注定美国的“拳头”不会太硬。美国著名智库布鲁金斯学会研究员亚历克斯·恩格勒(AlexEngler)指出，对于教育、金融、就业等具有社会影响力的人工智能，欧盟和美国正采取不同的监管方法。

在对具体AI应用上，欧盟《人工智能法案》对聊天机器人(16.670,0.02,0.12%)有透明度要求，而在美国还没有联邦层面的规定。面部识别被欧盟视为“不可接受的风险”，美国则是通过美国国家标准与技术研究院(NIST)人脸识别供应商测试计划提供公共信息，但不强制制定规则。

“欧盟的监管范围不仅涵盖了更广泛的应用，而且为这些人工智能应用制定了更多规则。而美国的做法更狭隘地局限于调整当前的机构监管机构来尝试治理人工智能，人工智能的范围也有限得多。”亚历克斯·恩格勒说，尽管存在宽泛的相同原则，但在AI风险管理中，分歧远多于趋同。

赵精武总结中国、欧盟、美国的AI监管模式，发现中国以人工智能技术应用场景为限，专门针对人脸识别技术、深度合成、自动化推荐等应用场景制定专门监管规则。欧盟是以风险水平为导向，根据人工智能应用的风险水平是否属于可接受水平。美国则是在既有的传统法律制度框架判断人工智能技术应用的合法性。

此外，美国也将更多注意力集中在人工智能研究上面，为其投入更多资金。就在5月初，美国白宫宣布投资约1.4亿美元，建立七个新的国家级人工智能研究所。有研究者认为，美国此举是希望能更加了解AI，从而减轻监管过程中产生的担忧。

彭晓燕则表示，我国采取鼓励人工智能技术发展同时有限规范相关领域管理的措施，以调和的政策与管理要求引导人工智能技术发展。

我国立法面临诸多现实难题

欧盟正加速落地全球首部AI监管法案，赵精武告诉《中国新闻周刊》，欧盟的“风险等级制”人工智能监管措施，《人工智能法案》提出的“通用模型”监管概念，以及专门针对ChatGPT这类生成式人工智能应用的披露义务、数据版权合规义务，都对我国人工智能立法有参考价值。

事实上，我国对于人工智能的立法早已起步，2017年国务院发布的《新一代人工智能发展规划》提出，到2025年，初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力。

地方上，2022年，深圳市出台《深圳经济特区人工智能产业促进条例》，被看作我国首部人工智能产业专项立法。《条例》提到，完善人工智能领域监管机制，防范人工智能产品和服务可能出现的伦理安全风险和合规风险。

当前，我国人工智能规制主要由几大部委共同推进，分别从不同领域推动人工智能领域的规范和发展。《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法(征求意见稿)》等规范性文件也相继出台。

“综合历来管理规范来看，我国关于人工智能领域的规定采用区分业务领域、区分技术方向的措施，管理规范趋于分散化。在规范出台上，往往具有应时性特征，在特定技术出现后作出专门性管理规定。规范由行政部门主导颁布，侧重监管，在规范层级上未上升为法律。”彭晓燕说。

值得注意的是，6月20日，首批境内深度合成服务算法备案清单出炉，百度、阿里巴巴、腾讯、字节跳动、美团等26家公司、共计41个算法榜上有名。

随着AI立法热度升温，国内开始有专家呼吁尽快开展人工智能法律规制。不过，在赵精武看来，我国人工智能专门立法具有一定的可行性，但是也面临着诸多现实难题。

“一是立法文件之间的体系衔接问题，人工智能专门立法与其他规范性文件之间的适用关系尚未解决，尤其是专门立法与现行立法在内容层面的重叠问题亟待解决。二是人工智能技术更新迭代速度加快，保障法律与技术的同步发展存在一定的难度;三是人工智能监管规则缺乏整体性，数据、算法和算力三大核心要素的监管规则仍处于探索阶段;四是人工智能立法的重心究竟是以安全风险治理为主，还是以产业发展保障为主争议较大。”赵精武说。

无论是欧盟的《人工智能法案》，还是中国、美国等国家针对AI的规定、倡议、规划，都在试图构建一个完善的监管框架：既能确保安全，又能为AI创造更好条件。

基于这种普适性原则，彭晓燕告诉《中国新闻周刊》，我国建立的人工智能法律，首先应当建立在积极鼓励发展创新的基础上，使得人工智能在相对开放的空间领域进行规范发展，划定发展红线。

“此外，还需要解决现下大家集中关心的人工智能领域法律问题，包括但不限于人工智能违法违规内容的禁止、人工智能数据安全保护、人工智能伦理安全的保障、知识产权侵权的防范等等。”彭晓燕说。

赵精武认为，我国应当建立以产业发展保障为导向的人工智能法律。

“现行立法在一定程度已经可以基本满足人工智能技术应用监管的需求。预防技术风险，保障技术安全只是治理过程，其最终目的仍然还是需要回归到人工智能产业发展层面。毕竟人工智能法律不是限制产业发展，而是引导和保障相关产业的良性发展。”赵精武说。

人工智能的安全、伦理和隐私问题

一、人工智能的安全问题1.人工智能网络安全问题众所周知，很多行业在应用入工智能这项技术以及相关的知识的时候都是依附于计算机网络来进行的，而计算机网络这个行业是错综复杂的，很多计算机网络的安全问题也是目前我国面临的很严重的问题之一，相应的人工智能的网络安全问题也是还存在问题的，比如机器人在为人类服务的过程中，操作系统可能遭到黑客的控制，机器人的管理权限被黑客拿到，使机器人任由黑客摆布；亦或突然源代码遭受到攻击，人工智能的信息基本通过网络进行传输，在此过程中，信息有可能遇到黑客的篡改和控制，这就会导致机器人产生违背主人命令的行为，会有给主人造成安全问题的可能性。不仅如此，在人工智能的发展过程中，大量的人工智能训练师需要对现有的人类大数据进行分析和统计，如何防止信息的泄漏和保护个人信息的隐私也是人工智能领域需要关注的问题。

2.人工智能应用范围限定的问题对一些发展不成熟、会有引起安全问题的可能性的领域以及技术的应用范围给出一定的限定，这是保障人类与社会和谐发展的一种手段，也是不能或缺的一个步骤。目前，人工智能的发展也是如此的，这也是人工智能目前安全问题所面临的问题之一。目前各行各业都有人工智能的应用，比如无人驾驶、各类机器人等，很多行业都会看到人工智能的存在，小到购物APP中的客服机器人，大到国际比赛中机器人的应用，在许多危险的领域，如核电、爆破等危及人类生命安全的场景，发挥了至关重要的作用。这些领域的应用如果应用的成功那没什么问题，一旦出现问题就会产生很严重的安全性问题。对于人工智能应用的范围，目前并没有给出明确的界定，也没有明确的法律依据，这就需要相关组织和机构，尽快对人工智能的适用场景进行梳理，加快人工智能标准和法律的建设步伐，防止一些不法分子，利用法律漏洞将人工智能运用到非法的范围中，造成全人类不可估量的损失。

3.人工智能本身的安全标准人工智能的产生以及应用的本身目的并不是为了赶超人类或者达到人类的智力水平，它本身存在的价值是服务于人类，可以成为人类生活的更好的一种工具，人类需要对其有着一定的控制的能力。但是近几年来，很多人工智能的存在是为了与人类的智力水平以及人类为标准，忽略了部分人类伦理的问题，甚至涉及到部分人权问题，这就偏离了人工智能本身存在的目的，而这种的偏离会产生一定的安全问题，从而影响人工智能的发展。所以人们应对机器人的道德和行为判断力进行判定，确保其在人类的道德伦理范围中，避免人工智能产物做出危害人类安全的行为。人类必须对人工智能的行为进行严格的监管，也要大力发展人工智能自身的伦理监督机制，使其为人类所用。

二、人工智能的伦理问题1.人工智能算法的正义问题依托于深度学习、算法等技术，从个性化推荐到信用评估、雇佣评估、企业管理再到自动驾驶、犯罪评估、治安巡逻，越来越多的决策工作正在被人工智能所取代，越来越多的人类决策主要依托于人工智能的决策。由此产生的一个主要问题是公平正义如何保障？人工智能的正义问题可以解构为两个方面：第一，如何确保算法决策不会出现歧视、不公正等问题。这主要涉及算法模型和所使用的数据。第二，当个人被牵扯到此类决策中，如何向其提供申诉机制并向算法和人工智能问责，从而实现对个人的救济，这涉及透明性、可责性等问题。在人工智能的大背景下，算法歧视已经是一个不容忽视的问题，正是由于自动化决策系统日益被广泛应用在诸如教育、就业、信用、贷款、保险、广告、医疗、治安、刑事司法程序等诸多领域。从语音助手的种族歧视、性别歧视问题，到美国犯罪评估软件对黑人的歧视，人工智能系统决策的不公正性问题已经蔓延到了很多领域，而且由于其“黑箱”性质、不透明性等问题，难以对当事人进行有效救济。

2.人工智能的透明性和可解释性问题人工智能系统进入人类社会，必然需要遵守人类社会的法律、道德等规范和价值，做出合法、合道德的行为。或者说，被设计、被研发出来的人工智能系统需要成为道德机器。在实践层面，人工智能系统做出的行为需要和人类社会的各种规范和价值保持一致，即价值一致性或者说价值相符性。由于人工智能系统是研发人员的主观设计，这一问题最终归结到人工智能设计和研发中的伦理问题，即一方面需要以一种有效的技术上可行的方式将各种规范和价值代码化，植入人工智能系统，使系统在运行时能够做出合伦理的行为；另一方A面需要避免研发人员在人工智能系统研发过程中，将其主观的偏见、好恶、歧视等带入人工智能系统。算法歧视与算法本身的构建和其基于的数据样本数量及样本性质密不可分。算法歧视问题其实取决于底层数据的积累，数据积累越多算法计算就越准确，对某一人群的算法描述就越精准。同时，随着算法复杂性的增加和机器学习的普及导致算法黑箱问题越来越突出。美国计算机协会公共政策委员会在《算法透明性和可问责性声明》中提出七项基本原则，第一项基本原则即为解释，其含义是鼓励使用算法决策系统对算法过程和特定决策提供解释，并认为促进算法的可解释性和透明性在公共政策中尤为重要。未来人工智能系统将会更加紧密地融入社会生活的方方面面，如何避免诸如性别歧视、种族歧视、弱势群体歧视等问题，确保人工智能合伦理行为的实现，这需要在当前注重数学和技术等基本算法研究之外，更多地思考伦理算法的现实必要性和可行性。

三、人工智能的隐私问题1.个人隐私的过度收集互联网的发展以及人工智能技术的应用在很大程度上降低了大数据在分析应用方面的成本，摄像头已经遍布我们生活的大部分角落，走在街上我们的一行一动，都随时随地在电子监控的掌控之中；计算机被广泛利用来准确地记录人们的浏览记录：移动通信设备随时跟踪人们的通话记录，聊天记录等。在人工智能时代，在收集个人信息面前，人们面对无处可逃的命运。在人工智能的应用中，监控发生了根本性的变化，融合了各种类型的监控手段，监控的力度也变的越来越强大。以CCTV视频监控为例，它不再是单一的视频监控或图像记录和存储，其与智能识别和动态识别相结合，大量的视频监控信息构成了大数据，在此基础上通过其他技术的智能分析就能进行身份的识别，或是与个人的消费、信用等的情况进行关联，构成一个人完整的数字化的人格。人工智能应用中的数据米源于许多方面，既包括政府部门也有工商业企业所收集的个人数据资料，还包含着用户个人在智能应用软件中输入和提供的数据资料，比如在可穿戴设备中产生的大量个人数据资料，以及智能手机使用所产生的大量数据资料都可能成为人工智能应用中被监控的部分，它在不改变原有形态的前提下对个人的信息进行关联，将碎片化的数据进行整合，构成对用户自身完整的行为勾勒和心理描绘，用户很难在此情况下保护自己的个人隐私。视频监控还可能借助无线网络通信，使隐私遭遇同步直播成为现实，一些非法的同步录像行为，具有侵犯隐私利益的可能性。此类人工智能技术的广泛应用，让我们隐私无处安放，不仅超出了公众所能容忍的限度，也是对整个社会隐私保护发起的挑战。

2.个人隐私的非法泄露在人工智能不断发展，应用领域不断拓展，人工智能技术在各行各业中都发挥着越来越重要的作用，渗透在各大领域之中，带动着产业的发展，同时我们也必须承认该项技术的发展和应用无法避免的隐患。很多情况下，我们在不自知或不能自知的状态下向智能应用的运营商或者服务提供商提供我们的数据信息，每个人的数据都可能被标记，被犯罪分子窃取并转卖。以“Facebook”数据泄露为例，2018年3月17日，美国《纽约时报》曝光Facebook造成5000多万的用户隐私信息数据被名为“剑桥分析（CambridgeAnalytica）”的一家公司泄露，这些泄露的数据中包含用户的手机号码和姓名、身份信息、教育背景、征信情况等，被用来定向投放广告。“而在此次事件中，一方面是由于使用智能应用的普通用户对自身隐私数据缺乏危机意识和安全保护的措施，另一方面Facebook应用中规定只需要用户的单独授权就能收集到关联用户的相关信息，其将隐私设置为默认公开的选项给第三方抓取数据提供了可乘之机。同样Facebook之所以受到谴责的一个重要原因就是未能保护好用户的隐私数据，欠缺对第三方获取数据目的的必要性审查，对第三方有效使用数据缺乏必要的监控，使个人数据被利益方所滥用，欠缺网络安全事件的信息公开和紧急处理的经验，不仅会侵害网络用户个人的合法权利，也会对社会的发展进步产生消极的影响。Facebook在对数据使用和流转中，并未对个用户数据提起重视、履行责任。在向第三方提供数据共享的便利同时并没有充分考虑到用户隐私保护的重要性和必要性，以及没有采取必要的预防策略，极易对平台数据造成滥用的风险。不难看出，从分析用户的隐私数据来定向投放广告追求商业价值和经济利益，到一再发生的泄密事件使得用户隐私数据信息泄露变得更加“有利可图”。一方面，人工智能应用由于在技术上占有优势，在获得、利用、窃取用户的隐私数据时有技术和数据库的支撑，可以轻松实现自动化、大批量的信息传输，并在后台将这些数据信息进行相应的整合和分析；另一方面，后台窃取隐私数据时，我们普通的用户根本无法感知到，在签订隐私条款时很难对冗长的条文进行仔细的阅读，往往难以发现智能应用中隐藏着的深层动机。在此次数据泄露事件中，该平台本身并没有将用户的数据直接泄露出去，而是第三方机构滥用了这些数据，这种平台授权、第三方滥用数据的行为更加快了隐私泄露的进程。

3.个人隐私的非法交易在人工智能时代，个人信息交易已形成完整的产业链，在这个空间中，一个人的重要隐私信息几乎全部暴露在外，包括身份证号，家庭住址，车牌号，手机号码和住宿记录，所有这些的信息都成为待出售的对象。在人工智能技术广泛应用的同时，人们常用的智能手机、电脑以及社交媒体平台都在无时无刻的记录着我们的生活轨迹，各种垃圾广告和邮件可以实现精准的推送，推销电话、诈骗短信等成为经常光顾的对象，尽管我们没有购买理财产品，没有购房需求，没有保险服务等，也没有向这些公司提供过自己的隐私数据信息，但无法避免而且能经常接到理财公司、房地产商、保险公司等的推销电话。探究这些公司对用户偏好和兴趣精准了解的缘由，那便是人工智能应用中个人隐私的非法交易行为，我们保留在网站或企业中的个人信息，除了由该企业本身使用外，这些企业还经常与其他的个人和企业共同分享、非法交易，而忽略了公民的个人隐私安全。目前，人们的个人数据，如电话号码，银行卡信息，购车记录，收入状况，网站注册信息等，已成为私人非法交易的严重灾区，这些个人信息被不法分子通过非法交易获得并通过循环使用来获利。现阶段，这类专门进行个人信息买卖的公司在国内不计其数，大大小小的分布在各种隐蔽的角落，甚至有一些正规的大型企业也免不了买卖个人信息的行为。当今社会，公民的很多日常行为都不得不提供自己的私人信息，如应聘工作、参加考试、购买保险、购买车票、寻医看病等等。这些信息提供给企业商家后，他们就有义务对用户的信息进行保密，而目前对用户信息保密的相关法律规定还比较欠缺，因此往往寄希望于企业商家通过自律行为来保护用户的隐私。但是目前的现状是大多数企业的自身素质不高，单纯将对隐私保护寄希望于商家企业的自律是不现实的，这些数据往往会被企业商家非法买卖，甚至将这些非法买卖的个人信息用于诈骗、传销。

天狱：人机冲突中的伦理问题

感知中国经济的真实温度，见证逐梦时代的前行脚步。谁能代表2019年度商业最强驱动力？点击投票，评选你心中的“2019十大经济年度人物”。【我要投票】

来源：秦朔朋友圈

2019年三季度以来，多家第三方大数据公司业务负责人被警方带走协助调查。用大数据和人工智能技术为“套路贷”平台提供系统、数据和催收，不但是当下个人隐私和数据安全问题的集中爆发，也是智能时代引发人文危机的一个缩影。

一方面，数字化、自动化、智能化技术的指数增长把人类带入了激动人心的繁荣时代；

另一方面，机器人、人工智能、生物工程和遗传学不受约束地对人类生活甚至人类本身渗透和融合，将最终导致系统性忽视人类存在的基本原则。

未来学家戈尔德·莱昂哈德在《人机冲突——人类与智能世界如何共处》中，将人类的这种处境形容为：“我们正处在天堂与地狱的混合体中，这被称之为天狱（HellVen）。”

在人工智能技术的支持下，人脸识别技术被别有用心地滥用已经愈演愈烈。一个涉及种族歧视的例子是，纽约时报曾公布了一个结果，美国现在最先进的人脸识别技术对白人女性的性别判断错误率是7%，而对深色皮肤的女性性别识别错误率高达30%。随着机器习得类人的能力，它们也容易习得某些人类的偏见，这种偏见若被放大，后果不堪设想。

对于以“人工智能+教育”为名监测学生上课状态，也引发了关于侵犯少年儿童隐私权及影响孩子身心健康的大量争议。比如，2018年5月，杭州某中学引进“智慧课堂行为管理系统”，实时统计分析学生的面部表情和行为，可以识别高兴、反感、难过、害怕、惊讶、愤怒和中性7种表情，以及阅读、书写、听讲、起立、举手和趴桌子6种行为。

今年3月初，广东省某中学又斥资485万元采购3500个电子手环，用来精准定位、检测上课举手次数及每日活动量等。类似的影响人类未来的智能化产品，并将产生难以预料的伦理后果。

人机冲突的基本逻辑在于：信息技术遵从的“摩尔定律”这种指数发展的速度已经扩展到很多领域，但人类道德、文化、社会体系却并没有相应的指数化增长。人工智能的发展速度更是高于摩尔定律，这种反差和冲突将越来越大。

如此，不但技术已经发展到从强化自然到替代自然的程度，人类的大脑算法也正在被各种智能化的理性计算替代，甚至人类已经成为这些技术产品控制的对象。当地球上既有的伦理文明、价值观无法跟得上技术的脚步，人类的基本尊严就会受到空前的挑战。

例如，机器人不仅威胁到了大量低端产业工人的就业，甚至还被应用在比人类劳动者更高的监督岗位，监督人类工作。美国科技媒体theVerge公开了一份亚马逊公司内部文件，在亚马逊的仓库里，一个工人每小时必须完成几百个包裹的包装工作，强大的AI机器监控系统不仅能跟踪每个人的工作进度，甚至还能精确计算工人消极怠工的时间。更可怕的是，按照生产率考核的算法，AI系统能够自动生成警告以及发出解雇员工的指令。

中国首例基因编辑婴儿的问世为什么引发强烈的社会反响，招来科学界和全社会的一致批判，也在于此。

“人机冲突”最大的动力来自巨大的商业利益驱动。莱昂哈德指出，利用技术的指数发展特征连接大众，提供廉价而容易上瘾的移动设备，可能是有史以来最大的生意。

在这方面，由于能够创造每年上万亿美元的生意，数据确实已经成为新的石油，从大数据和网络社会中挖掘资源的公司，正在迅速成为新一代的埃克森美孚石油公司，迫不及待地要为大众提供新鸦片。

用莱昂哈德的话，就是“如果搜集数据的能力被人工智能和物联网放大一千倍，你一定可以听到他们数钞票的声音。”

“人有病，天知否？”在这种技术变革与商业利益共同带来的伦理困境中，莱昂哈德认为人类成为了、、的受害者。包括人工智能、生物工程、认知运算在内的所有指数型技术，尤其是人类基因一旦进入到数字肥胖这种状态，再想减肥，回归到之前的生活模式就很难。我们会变得越来越像机器，以便更好地适应机械化的世界，比如大量的点赞、评论和加好友很容易让人们沉迷到无法自拔。人们承受了太多毫无意义的人际关系，线下生活反而成为一种新的奢侈。

人类总是拒绝不了效率的诱惑，莱昂哈德警示道：我们终将被一个巨大的机器操作系统支配，这个操作系统不断地自我学习，并把输出反馈给我们，直到它不再需要我们贡献的输入。届时，我们的价值将低于我们创造和训练的技术。

这方面最典型的是人们津津乐道抱以巨大期待的脑机连接，人与机器之间的正负反馈可能导致无法辨认谁是系统真正的主体，将会产生更多法律伦理以及社会治理问题。

基于这些原因，《人机冲突》一书提出了“保护自然生理状态的权利”“可以效率低下的权利”“断网的权利”等5项新人权，也提出了15项不应该做的事情，还有9项原则。

但是，如何保障这些权利和原则？如何激励人们能够认识到这些权利和原则？却仍然是乌托邦式的一厢情愿。

从经济学的角度看，由于强大的负外部性，伦理问题已经成为智能时代最严重的一个“公地悲剧”。

面对人类空前的人文危机，首当其冲的是需要组建适应智能时代的伦理委员会等组织，比如，中国已于2019年7月正式组建了国家科技伦理委员会。但是，笔者认为，更关键的在于需要让道德融入人类智能化的发展过程，与指数化增长的技术同步进化。

莱昂哈德在书中也提出了，必须考虑所有指数型技术（包括人工智能、生物工程、认知运算，尤其是人类基因编辑）应具备的伦理准则——这既指发明者或创建者精心或无意嵌入机器中的准则，也包括机器可能随时间推移自主学习和进化形成的准则。

但这仍然远远不够。诚如贝索斯所言，我们需要注重不变的地方。人性亘古不变，伦理作为人类长期进化来的一种管理人性的机制，如何在人机冲突中演进以解决这些重大问题，恐怕还得回到对人性的探究和伦理学本身。所以，与其说是智能时代的人文危机，倒不如说是伦理学承载着新的关于人类命运的使命。

本文原刊于2019年11月30日《21世纪经济报道》，秦朔朋友圈发布前作者进行了补充修订。

「本文仅代表作者个人观点」

「图片|视觉中国」

秦朔朋友圈id：qspyq2015开白名单：duanyu_H

人工智能智能时代我要反馈新浪直播百位牛人在线解读股市热点，带你挖掘板块龙头收起@@title@@@@status_text@@@@teacher_name@@：@@title@@热门推荐收起新浪财经公众号

24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）

人工智能引发伦理争议不断，有的问题直接颠覆你的三观！ 人工智能情感伦理问题有哪些方面