人工智能引发的伦理问题及其规制
0分享至2020年8月29日，埃隆·马斯克（ElonMusk）在加州弗里蒙特举行了一场发布会，正式向全世界展示了自己的脑机科学公司Neuralink对猪进行脑机接口技术的成果，该芯片可以实时监测到小猪的脑电信号，遗憾的是我们还无法知道小猪在想什么，但这项技术所揭示的未来太令人期待了，这则报道迅速轰动世界也是人们内心偏好的真实反映，它重新激发了人们对于脑机接口技术（brain-computerinterface，BCI）的热情。
所谓的脑机接口，通俗来说就是在人脑（或动物）与外部设备之间建立直接的联系，由此形成信号的接收与发送，并实现相应的功能。按照脑机接入的方式可以分为两类：侵入式脑机接口（马斯克这次演示的就属于此类）与非侵入式脑机接口。前者的优点在于获得的脑电信号更好，便于分析与处理，而后者收集到的信号质量较差、容易受到噪声干扰。因此，侵入式脑机接口是目前国际学术研究的前沿。脑机接口已经实实在在地出现在我们的面前，随着植入头脑的各类芯片与传感器的日益微型化、功能集成化、加上近年来人类对大脑功能了解的深入、脑机融合的日趋完善、创口的微小化、以及电池功能的增强，脑机接口技术取得重大突破绝非幻想，而是一种可以预见得到的发展趋势。
人们之所以对脑机接口技术的发展趋势持乐观态度，是因为社会上对于脑机接口技术有着巨大的市场需求，它所拥有的潜在商业价值是推动该项技术发展的重要推手。仅就目前可以想象得到应用来看，脑机接口市场前景广阔，下述三种情形是最有可能优先发展的领域，如果该项技术成熟，那么日益困扰老年人的老年痴呆症现象将得到极大缓解；修复残疾患者的大脑缺陷，从而实现部分身体功能的恢复，以及可以实现治疗抑郁等精神疾病；更有甚者可以实现神经增强功能，如大脑的计算速度与记忆能力都是远超人类的，如果未来植入的芯片与大脑更好地兼容，那么人类的计算速度与记忆能力都将得到根本性的改变，制造超人不再是梦想。上述三种情形在科学上几乎都有成功案例。如对残疾人来说，通过意念实现部分身体功能，这类实验成功的很多，如已经被广泛采用的脑深部电刺激技术，这就是大名鼎鼎的“脑起搏器”，其原理就是通过植入脑部的电极向大脑的特定部位发送电脉冲，这一技术主要用于治疗帕金森病和强迫性精神障碍等疾病，已经被美国食品药品监督管理局批准。
再比如，美国著名的视觉脑机接口专家都博勒（WilliamDobelle，1941-2004），他的皮层视觉脑机接口主要用于后天失明的病人。1978年，都博勒在一位男性盲人杰瑞（Jerry）的视觉皮层植入了68个电极的阵列，并成功制造了光幻视（Phosphene）。植入后患者能看到清晰度以及更新率较低的图像。如果说都博勒的工作是40年前技术的体现，那么现在这方面的研究也有了最新进展，失明患者看到的视野比以前要好许多，有理由预测，随着一些关键难题的突破，视觉脑机接口将惠及更多的失明患者。
还有科学家把人造海马体植入到因海马体受损而丧失记忆形成功能的老鼠脑中，并成功让老鼠恢复了部分记忆形成功能（伯杰等人）。基于上述案例，我们大体上可以清晰判断出脑机接口技术正在向日常生活领域扩散，一旦有技术上的突破，这种趋势将无可逆转。
问题是脑机接口技术虽然具有如此广阔的应用前景，但也不可避免地带来某些人类从来没有遭遇过的伦理困境。对此，瑞典数学家奥勒•哈格斯特姆曾指出，脑机接口技术带来的两种常见的伦理问题是：隐私和认知能力的“军备竞赛”。关于隐私问题，这已经成为高科技时代具有普遍性的伦理困境，每一次技术升级，都会导致隐私状态随之发生改变，从人类历史上看，从农业社会、工业社会到后工业社会，人类的隐私范围是逐渐缩小的。总体而言，技术进步导致公共领域扩张，而私人领域日益被技术侵蚀，隐私也随之日益变小，人变成了透明人，隐私的消失也就意味着个人自由的萎缩。对于脑机接口技术而言，这种情况尤为紧迫。一旦通过大脑植入设备可以轻易获取我们大脑内的电信号，其内容完全可以被破译出来，这就导致有很多个人或机构想要获取这些信息，从而利用这些信息实施对我们基于特殊目的的操控，如商家的促销、管理者对于雇员的监视、或者国家对于全民的监视等。这种过程是渐进的，在温水煮青蛙效应中，人类的隐私一点点失去，我们不知道这是否就是人类为技术进步所必须付出的代价。上述担忧绝非杞人忧天，据资料介绍，1999年斯坦利（GarrettStanley，现在埃默里大学EmoryUniversity任职）教授，在哈佛大学通过解码猫的丘脑外侧膝状体内的神经元放电信息来重建视觉图像。他们记录了177个神经元的脉冲列，使用滤波的方法重建了向猫播放的八段视频，从重建的结果中可以看到可辨认的物体和场景。同理，利用这套技术也可以重建人类的视觉内容。看到这类实验，你还认为脑机接口所引发的隐私问题还很遥远吗？更何况遥远并不意味着不可能。
再来说说由脑机接口所带来的认知能力的“军备竞赛”问题。由于电脑在精确计算、数据传输与记忆方面比人类的表现强很多，那么，随着技术的发展与完善，总会有一些人尝试在大脑中植入一些芯片，使自己的能力与计算机的能力进行整合，这将造就认知超人，试问我们正常人再怎么努力也无法达到电脑所具有的记忆能力，这种事情一旦开始就无法停下来，从而陷入“军备竞赛”的游戏框架下，因为没有人敢于停下来，否则他将被淘汰。问题是这种神经增强完全打破了人类由自然选择以来所形成的所有关于公平的规范？此时优秀将不再是对于人的能力的褒奖，而是对他植入大脑的设备的褒奖？那么人类的价值又何在呢？也许影响更为深远的是，脑机接口技术的军备竞赛式滥用，还会造成整个社会分层的固化，毕竟任何新技术在早期都是昂贵的，其最初的使用者大多是有钱有势者，这种现实决定了脑机接口技术会更深层次地造成社会的固化，从而使社会秩序遭到毁灭性的破坏。
以脑机接口技术为标志的人工智能发展引发出一系列我们目前尚无法完全预料到的后果，它事关人类的未来，因此，必须从伦理层面对于它的发展进行有目的的约束。2020年上半年，美国五角大楼正式公布人工智能的五大伦理原则，即负责、公平、可追踪、可靠和可控。这个说法作为伦理原则没有错，但是如何在实践中落实，仍存在很多不明确之处，为此，我们需要构建一套全流程的伦理规范机制，把伦理责任分解，采取分布式伦理，即人工智能从制造到应用每个环节都承担相应的伦理责任，只有这样，人工智能才能最大限度上既增进社会的福祉，又把其潜在的风险最小化。目前的调查与研究显示，在新技术发展的进程中，每个人的责任都是有限的，但是其后果却是严重的。由于人类对于微小的恶的不敏感性，导致最初对于风险呈现出整体的麻木状态，到后来小风险的累积就成为高科技面临的严重伦理问题。这已成为一种风险扩散的普遍模式，为此，我们需要构建一个新的伦理责任体系。
由于人工智能本身的复杂性，以及未来发展的不确定性，导致人工智能责任的明确归属变得更为困难和模糊，如何防范其可能带来的风险也就变得越发困难，甚至会出现无法追责的伦理缺席现象。因此，传统的针对单一主体的伦理规范原则开始失灵，为此我们必须构建一种新的伦理约束机制，从而实现对人工智能从前端、中端到末端全覆盖的有效伦理风险防范机制。为此，我们借用英国伦理学家卢恰诺•弗洛里迪提出的分布式道德概念构建人工智能的伦理风险防范框架示意图，根据这张框架图我们可以把人工智能伦理风险防范分为三部分：首先，是前端的AI设计者的伦理责任（责任1，简称R1），其次，是中端使用者的伦理责任（责任2，简称R2），第三，是末端受众的责任（责任3，简称R3）。
我们不妨假设人工智能所引发的伦理风险总量用公式表示为：ΣR=R1+R2+R3，其中，R1≥R2≥R3。这三段式伦理分布的规约机制分别是：1、对于设计者而言，他有多种动机（从善、中性到恶的选择），这一部分伦理风险要通过具有强制性的政策手段（严重违规就上升到法律规约）来遏制，所有负责任创新都是从动机上防范伦理风险的发生；2、对于使用者而言，他要为自己的使用承担相应的伦理责任；3、受众作为社会成员，有监督人工智能使用的间接责任（个体责任最小，但是由于公众数量庞大，无数微小的努力汇聚起来就是强大的伦理风险防范力量），2与3的激活需要利用科学文化的规训作用，在高科技时代没有人是旁观者，只有伦理责任的全覆盖，高科技的伦理风险才会被最大限度上遏制，具体内涵见下图：
2020-11-26于南方阴雨中
说明：文中图片来自网络，没有任何商业目的，仅供欣赏，特此致谢！
—THEEND—
编辑∑Gemini
来源:李侠科学网博客
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端人类基因编辑技术及背后的伦理问题 【个人观点，仅供参考】
人类基因编辑技术及背后的伦理问题【个人观点，仅供参考】摘要本文根据遗传学专家詹妮弗·道娜（JenniferDoudna）在TED国际会议上关于一个被称为CRISPR-Cas9的”基因编辑技术“所发表的演讲，针对以下三个问题进行说明：
1.基因编辑带来的优势和风险有哪些？2.基因编辑技术存在哪些伦理问题？3.从自己的观点聊聊如何解决这些伦理问题。
一、CRISPR-Cas9是什么？首先介绍一下基因工程的概念：基因工程（英语：geneticengineering，又称为遗传工程、转基因、基因修饰）是一种使用生物技术直接操纵有机体基因组、用于改变细胞的遗传物质的技术。包括了同一物种和跨物种的基因转移以产生改良的或新的生物体。可以通过使用分子克隆技术分离和复制需要的遗传物质以产生DNA序列，或通过合成DNA，然后插入宿主生物体，以此将新的遗传物质插入宿主基因组中。詹妮弗在此次演讲中说道，她与同事共同发明的这项技术可以被利用于基因工程中，但这项突破性的新技术与已有的DNA测序技术，DNA复制技术，甚至DNA修改技术相比，效率更高，操作更简单，所以使用CRISPR技术的机会已展露曙光。那么CRISPR技术是什么？它可以做什么？目前的发展状况如何？詹妮弗在此次演讲中进行了阐述：CRISPR技术其实来自于一个基础的科学研究，它的主要目的是了解细菌如何与病毒感染进行对抗。要知道，细菌必须在它们自己的环境里才能对付病毒。我们可以这么想，病毒感染像是个定时炸弹，细菌在被消灭前，只有几分钟时间可以拆除炸弹。实际上，很多细菌在它们的细胞里有一种适应力免疫系统叫做“CRISPR”，它可以使细菌侦测到病毒DNA并消灭它。在CRISPR系统中，有一种叫Cas9的蛋白质，它能够以特殊的方式寻找出、剪断，最后削弱病毒DNA。所以他们的研究主要是想了解Cas9蛋白质的活动，如果可以驾驭它的功能，就能让科学家更精准的在细胞中删除或插入特定DNA片段，做到之前根本无法完成的事情。下面介绍这种叫做Cas9的蛋白质是如何以特殊的方式消灭病毒DNA的。当病毒感染一个细胞时，它们会在细胞内插入自身携带的DNA。一旦这些片段DNA被插入到细菌染色体内，细胞就会复制出一小段叫RNA的分子，它是病毒DNA的复制品，能够与DNA上相同序列的分子产生反应。而在一个细菌中，CRISPR系统就可以通过这种叫Cas9的蛋白质把病毒的DNA拔掉，具体的，首先，这个蛋白质综合体如同细胞的卫兵，它会搜寻细胞里所有的DNA，找到能与RNA序列相结合位点的DNA，然后与复制出来RNA片段相结合，即RNA片段与这种叫Cas9的蛋白质结合。这个时候，Cas9蛋白质就会像刀一样非常精确的切断病毒DNA。这个过程结束后，CRISPR系统还会将一小段细菌的DNA插入到染色体内。然后，这些片段DNA会遗传到细胞的后代，使得好几代的细胞都不会受病毒感染。事实上，CRISPR是允许细胞随时纪录是否被病毒感染到的一种机制。所以詹妮弗说：“我们可以把Cas9RNA标记复合体想像成是一把DNA剪刀——它在DNA螺旋结构中，制造了一种"双股螺旋断裂"。这种复合体是可程式化的，在程式化后可以用来辨认特定的DNA序列，并且在DNA的特定位置制造一个断裂。”我们知道，细胞本身具有检测损坏的DNA，并修复它的能力。所以当一个植物或动物细胞在它的DNA中检测到双股螺旋断裂时，它可以修复这种断裂。詹妮弗的想法是如果有一种方式可以引导“双股螺旋断裂”精准地进入DNA，就可以通过破坏或合并新的遗传信息刺激细胞来修复这些断裂。所以如果可以程式化CRISPR技术在DNA里制造断裂，例如，在囊性纤维化发生突变的位置处或附近制造断裂，那么就可以刺激细胞去修复那个突变。这也是CRISPR系统可以被用于基因组工程的原因。
二、”基因编辑技术“的优势和风险通过分析詹妮弗演讲中CRISPR技术的原理，不难看出来，该技术可以通过改变细胞里的DNA，从而能够治愈一些基因疾病。相比于基因工程中其他生物技术来说，CRISPR更加简单，只要利用RNA小片段，就可以简单地编辑它。詹妮弗说：旧的基因工程技术就好比每次你要安装新的软件，就要把电脑升级一次一样，而CRISPR技术就像基因组的软件。所以这项技术发明，实际上是为了在医疗上达到惊人的效果，通过诱导修复在DNA中发生的双股螺旋断裂。比如,能够修正引起镰刀细胞贫血症，或引起亨廷顿氏病的突变。演讲中也提到，费城的科学家证实，他们可以利用CRISPR技术从一个感染的人类细胞中移除HIV病毒(人类免疫缺陷病毒)。这也就是“基因编辑技术”所展现的优势，同样，一个新技术的产生，也会伴随着一定的风险。会议上有位记者谈到：有关道德上的考量，基本上只是安全性问题，科学家会不断地在实验室里做动物实验，一旦感觉它够安全，才会在人体中做测试。很多实验正在动物身上进行着，被当做人类疾病的的试验模型。使用该技术时是否会用副作用，还有待考证。我认为，技术上的风险只是一方面，因为科学家们会用实验来不断地测试它的安全性；而另一方面的风险，则是关乎伦理道德，这也是詹妮弗此次演讲的目的，希望科学界对这个技术的研究能暂缓脚步，因为”基因编辑技术“虽然可能对遗传性疾病的治疗有帮助，但也可能会被用来创造所谓的“订制婴儿”。演讲中提到，中国科学家最近发现，他们甚至可以利用CRISPR技术改变人类胚胎里的基因。若此技术运用在非治疗领域，改造基因，无非就是强化人体的性能上。想像一下我们可以尝试设计制造人类，像是拥有更强壮的骨骼，或降低心血管疾病的诱发机率，甚至拥有我们期待已久的特征，如不同的眼睛颜色,或长得更高。可以理解为"订制人"。虽然哪些基因具有这些特征还是未知的，但了解CRISPR技术有一定的帮助，这也就是这项技术所面临的伦理风险。
三、“基因编辑技术”存在的伦理问题“基因编辑技术”存在的伦理问题是显而易见的，因为这项技术若真正的被实际应用，医学治疗只是能被应用的很小一部分，既然基因能轻而易举的被改变，那么我想更多人愿意通过这项技术来改变自己的特征，强化自己的生理性能、甚至创造出极其完美的“人”。詹妮弗在演讲中也说道：“这个充满契机的基因组编辑技术，也引发了各种我们必须认真思考的道德争议。因为这种技术不仅可以运用在成人细胞上，也可以用在有机体的胚胎上，包含我们人类自己。”由于这项技术的兴起，也涌现了很多初创公司，致力于CRISPR技术的商业化。
四、如何解决这些伦理问题我认为技术的发展不能违背自然规律，社会伦理道德。詹妮弗呼吁全世界暂缓任何临床上有关CRISPR在人类胚胎上的应用，她和她的团队也在认真思考各种不同的CRISPR应用。但是，就像有个记者说的：有些人忍住了，因为他们有道德方面的顾虑，有些人则没有，依然我行我素，因为有些国家有管制，而有些则完全没有。正因为她和她的团队认为他们涉及到这件事的源头，考量到某些事也有可能会牵连到除了生物学之外的其他领域，所以他们站出来为这件事负责并且希望其他的科学技术也能用同样的方式来思考。作为技术人员，他们有这样的责任心，讨论其存在的风险并敢于出面呼吁全世界，而作为受益者也应该深思熟虑，思考如何避免违背伦理道德的技术应用到现实生活中，如何正确的使用这些技术，这是人类共同的责任。而作为政府也应该采取一定的强制措施，或者立法，避免出现技术带来的伦理问题。
参考：https://www.ted.com/talks/jennifer_doudna_how_crispr_lets_us_edit_our_dna/transcripthttps://baike.tw.wjbk.site/wiki/%E5%9F%BA%E5%9B%A0%E5%B7%A5%E7%A8%8B