程承坪：人工智能可以具有弱自主性
一、什么是自主性
自主性（autonomy）是指行为主体按照既定的目标，管理、控制自己的行为导向目标的特性。行为“不受外来力量的操控”是自主性的前提，因而自主性意味着行为主体具有自由意志。
一般而言，自主性包含自我管理和自我立法两种含义。自我管理是指对自我行为的管理，自我立法是指行为主体“服从自己制定的道德法则”。
一般认为，自我意识不仅存在“有没有”的问题，而且存在“强与弱”的问题。
自由意志（freewill）是指行为主体根据自身的意愿或需要做出选择的能力。研究表明，只有人类具有自由意志，而除人之外的动物不具有自由意志。
道德责任（moralresponsibility）是指行为主体依据自由意志，对自己的行为造成的后果承担道义上的责任。
综上所述，自我意识、自由意志和道德责任是构成自主性的三个基本要件，其中自由意志是核心要件，没有自由意志就不可能发展出道德责任，自由意志会反作用于自我意识，缺乏自由意志也会削弱自我意识的发展。具有自我意识才能发展出自由意志，具有自由意志才能发展出道德责任，道德责任会反作用于自由意志。
二、人工智能可以具有弱自主性
自主性的三个构成要件是判断人工智能是否具有自主性的标准。
第一，对照自我意识概念及其存在的基础，判断人工智能是否具有自我意识。
尽管人工智能通过了“镜子测试”，但是学术界仍然有许多学者并不承认人工智能真正具有自我意识。现代神经生理学认为，生命是自我意识的前提，自我意识是由巧妙组织起来的复杂神经元系统“涌现”的结果。认知和计算机科学专家玛格丽特·博登（MargaretBoden）指出，生命的本质特征是新陈代谢，由无机物构成的人工智能，无论发展到什么程度都不可能具有新陈代谢能力。
根据自主性的发展逻辑，人工智能自我意识不足，就难以生成较强的自由意志。
第二，对照自由意志概念，判断人工智能是否具有自由意志。
根据自主性的发展逻辑，人工智能自由意志不足，就难以反作用于自我意识生成较强的自我意识，也难以生成独立的道德责任。
第三，对照道德责任概念，判断人工智能是否具有道德责任。
可以通过把法律法规和道德准则规范化、符号化、算法化，赋予人工智能道德行为。但即使人工智能具有道德能力，也并不意味着人工智能能够独立承担道德责任，因为道德能力只是道德责任的必要而非充分的条件。承担道德责任必须具备理解道德行为与道德准则之间的关系的能力。人工智能并不具备理解自身的道德行为与道德准则之间的关系的能力。
综上所述，人工智能可以具有形式自我意识、弱自由意志和道德能力，不大可能具有实质自我意识，也不能独立承担道德责任。根据构成自主性的三个要件衡量，人工智能可以具有弱自主性。
三、对人工智能可以具有弱自主性的思考
人工智能可以具有弱自主性至少可以带给人们以下四个方面的思考。
第一，具有弱自主性的人工智能能否充当劳动力。当前我国正面临人口老龄化加速，劳动年龄人口不断减少，劳动力成本持续上升的困境。由于人工智能具有无限供给且制造成本可以不断降低的特点，如果人工智能能够充当劳动力，那么中国依靠大量的人工智能劳动力，就能有效地摆脱上述困境。
因此，大力发展人工智能技术，使更多的人工智能具备劳动能力，这既有助于摆脱劳动力供给不足的困境，也有助于防止中国产业链因劳动力供给不足而断裂。
第二，重新思考人的本质特征和人类的未来。
目前人工智能具有弱自主性，但不排除人工智能自主性可能会不断地增强，甚至于超过人类。此外，还有一种可能性，即人工智能发展出与人类不一样的自主性，这种差异，不是表现在自主性的内涵上，而是说两者的自主性具有不同的结构优势。因此，人类与同样具有自主性的人工智能将存在三种关系：一是竞争关系，二是互补关系，三是独立关系。从竞争关系角度而言，存在两种结果：一是人类控制人工智能，二是人类被人工智能控制。人类控制人工智能，让人工智能为人类谋福祉，这是最好的结局。
从相互独立关系而言，人类与人工智能可以相互独立地发展。但这种独立关系将是十分有限的，因为生存的空间是有限的，而且人类的欲望是无限的，人类与人工智能迟早将会发生竞争，其结果不是人类控制人工智能，就是人工智能控制人类，两者必居其一。我们认为，人工智能不可能同时满足这两个条件。因此，不会发生人工智能与人类进行生存竞争的问题。但是如果人机结合，那么人机结合体可以同时满足这两个条件，人机结合体有可能发生与现有人类的生存竞争问题。
第三，重新思考自主性的含义、特点、构成、来源、衡量方法、实践价值等。
过去人们往往是从人类与非人类动物的区别角度来界定、思考自主性的，而今不属于动物的人工智能具有了弱自主性，而且人工智能自主性的许多特点与人类不同，因此现在人们可能需要重新思考自主性的内涵、外延、构成、来源等问题。譬如，自由意志是人类创造性的源泉，而且只有具备了相当程度的自由意志才能发展出道德责任，并且道德责任对自由意志具有反作用，这就要求不断地进行制度变革，创造出更多的促使人们对自己的行为负责的制度安排，从而使人们具有更多的道德责任感，这有助于提高自由意志能力和创造能力。
第四，人类与具有弱自主性的人工智能的关系。
法律制度既要调整人与人之间的社会关系，也要扩展到调整人与具有弱自主性的人工智能之间的关系，还要调整具有弱自主性的人工智能之间的关系等。
四、结语
本文的研究结果表明，人类已经能够创造出具有弱自主性的人工智能。人类文化演化的速度虽然快于自然进化，但文化演化的速度受人类心理学因素的制约。而人工智能演化则完全摆脱了心理学因素的制约，其演化的速度可能会像脱缰之马，难以控制。
只要人工智能不具有能动性的自由意志能力，即使它的能力再强，它也在人类的掌控之中；但是一旦人工智能发展出能动性的自由意志，那么它必然不会受制于人类，人类的任何应对策略都将显得无能为力。
因此，我们提倡大力发展人工智能的自主性，但是决不能让它拥有能动性的自由意志能力。为了阻止人工智能拥有能动性的自由意志能力，需要借鉴尼采的“大政治”思想资源，结合时代的要求，本着人类命运共同体的理念，构建世界“大政治”制度，树立世界“大道德”观念，对人工智能科技研发行为进行约束和规范。
原文《论人工智能的自主性》刊于《上海交通大学学报（哲学社会科学版）》2022年第1期（第43-51页），若下载原文请搜索下方网址：
https://t.cnki.net/kcms/detail?v=ycoWwpLLXhXq-aY42ydwdLiL7gdHX2r_NORHzd0jv2OFt7_DFidN37CzajVLTs2-pnSYbCW_uNG8v1UT8AbfcGqRprWkqPt5WHxjadZFDqEua6b2RLslMA==&uniplatform=NZKPT返回搜狐，查看更多
人工智能为何如此引人关注
从适用范围来讲，人工智能技术还具有一个显著特点，那就是广泛适用性。纵观历史，技术可大致分为两大类，一类是“专门技术”，即为了特定目的而研发的技术，包括交通技术、通讯技术、生产技术、军用技术等。另一类是“使能技术”，这类技术可用于多个领域和其他技术中，使效能倍增，如电力技术。人工智能属于使能技术的范畴，但与其他技术不同的是，人工智能的应用几乎是无孔不入的。2016年被称为人工智能发展元年。2016年3月，AlphaGo以4：1的战绩击败李世石九段，标志着围棋这一最具人类智慧的棋类游戏堡垒的陷落。随后，人工智能在“德州扑克”、“阅读理解”等人类智能领域一路攻城略地，并在产业应用上遍地开花。理论上来讲，只要将某个特定领域的足够有效数据投入适宜算法中进行训练，便能解决这一特定领域的具体问题。比如，人工智能运用于汽车领域可以实现自动驾驶，用于新闻领域可以实现智能新闻撰写。
现实中，新一代人工智能技术正在深度革新经济、文化、军事等社会各方面。语音识别、机器翻译、无人驾驶、自主武器…人工智能几乎无孔不入，深刻反映出人工智能的广泛适用性给社会带来的影响力。高盛首席经济学家哈哲思（JanHatzius）也指出，人工智能的广泛适用性带动了各项针对全球经济增长和生产力优化的应用，将加速经济增长。从传播能力上来看，人工智能技术还具有明显的易扩散性。理论上，人工智能技术依托的算法、大数据和软件都可以很低的成本进行复制和扩散。这意味着，理论上只要有一个系统拥有某项人工智能能力，那么所有机器都可以拥有这种能力。扎克伯格指出，每次在人工智能方法上获得一小步进展，这类系统就都得到了提升。这也反映出人工智能的广泛适用性和易扩散性。具体而言，扩散方式主要有两种：一是横向扩散，即人工智能技术在军民应用场景传播。比如无人驾驶技术技能用于民用交通工具，也能用于军用无人机、无人车和无人潜航器等。二是纵向扩散，即人工智能技术可在不同的行为体中流通。这些行为体既包括主权国家（国家行为体），也包括跨国公司、恐怖主义组织等非国家行为体。获取方式既包括用资金购买等合法手段，也包括网络窃取等非法手段。需要指出的是，这种易扩散性也受到一些因素的限制，比如复杂算法的硬件成本和网络防御能力。
快速进化性
从升级能力看，人工智能具有其他技术甚至人类难以比拟的在训练中快速进化升级的能力。以围棋领域为例，在AlphaGo击败李世石两个月后，AlphaGo升级版Master豪取60连胜，横扫人类围棋界翘楚。再过一个月，采用强化学习算法的AlphaGoZero零基础起步，在三天内与自身对弈490万棋局，并以100：0的成绩击败“前辈”AlphaGo，足见人工智能的学习进化能力之快，令人瞠目结舌。人工智能的快速进化能力意味着传统的“列装—损耗—报废”模式将被颠覆，只需局部更换零件，关键系统则会在训练中不断升级进化。根据未来学家库兹韦尔的“加速回报定律”，人类社会发展速度会越来越快，进步也会越来越大，人工智能将在2040年引发智力爆炸，这也反映出了人工智能的快速进化性特点。
值得注意的是，人工智能还具有系统复杂性。人工智能算法是一个“黑箱”，这意味着哪怕算法设计者本身也不能完全了解其工作机制和准确预测其行为后果，即可预测性和可解释性很低，这为人类运用人工智能带来了很大隐忧。例如，设计者和用户可能无法准确预测自动驾驶汽车何时将改变车道或进行其他操纵行为。现实中，2012年，金融交易公司奈特资本集团因财务故障而瘫痪，导致他们的算法在45分钟内执行了400万次错误交易，导致4.6亿美元的损失。由此可见，拥有快速进化能力的人工智能既可以是“阿里巴巴的宝库”，也可能成为“潘多拉的魔盒”。
结构性去劳动力化
从影响来看，人工智能技术还有一个突出特点，那就是结构性去劳动力化，即“机器取代劳动力”是人工智能时代的显著特征。这种劳动既包括体力劳动，也包括脑力劳动。一方面，人工智能技术的蓬勃发展带来新产业革命和经济结构调整，使原有劳动力市场结构与社会劳动力需求发生偏移，由此产生“结构性失业”。另一方面，人工智能具有的“机器取代人力”的特性使得现有的人力工作岗位削减，由此可能带来大规模失业的风险。有人可能会问，为什么人工智能所带来的此次产业变革是不同以往的？因为它涉及到了之前机器无法做到的层级由低到高的各类任务，低至流水线上的重复工作，高至决策分析、艺术创作等原本只有人类智能才能企及的工作。
诚然，以往重大技术的出现和应用也会不同程度导致旧有行业劳动力的转移。比如汽车的风行使马车行业逐渐退出历史舞台，但马车夫可转行成为汽车司机。但此次人工智能新一轮发展浪潮明显指向各领域的自动化和智能化，也自然带来了去劳动力化。比如，无人驾驶技术的日益成熟将可能打碎世界上庞大司机人群的“饭碗”。当然，新技术的出现也会带来新的工作岗位。人工智能技术将会创造包括研发、使用、监督、维护人工智能技术和产品的工作，以及应对人工智能带来范式转换所产生的相关工作，比如为无人驾驶进行设计的城市规划者、人工智能介入网络安全所产生的法律从业者等。但是这些新出现的工作能够在数量上弥补结构性失业狂潮吗？目前我们还无法断定，但前景并不十分乐观。美国白宫发布的《人工智能、自动化与经济》研究报告就预测，在未来的10到20年间，美国现有工作的47%可能会被人工智能取代。人类的现有工作岗位也无疑会受到人工智能去劳动力化的强烈冲击，如何应对或将到来的失业狂潮成为各国不得不前瞻思考和应对的重大问题。
总而言之，人工智能具有区别于历史上出现技术的诸多显著特征。其中一些特点虽然在以往出现的技术中或多或少也涉及一些，但这次浪潮无疑更为明显和彻底。自主性和系统复杂性是其核心特征，广泛适用性、易扩散性和快速进化性是其在适用范围和传播升级能力上的突出特点，而智能化和结构性去劳动力化则是其带来的显著影响。拥有这些特征的人工智能技术既有促进产业升级、科技创新、经济增长、军事赋能等积极影响，也会给人类社会的安全、法律、伦理带来严峻挑战。正如约翰·桑希尔在《金融时报》撰文所言：如何将人工智能的积极贡献最大化，同时将有害后果控制在最低范围？这个问题考验着人类的整体智慧，也是我们这个时代面临的最大公共政策挑战之一。在此背景下，各国政府、企业、科学家共同体等社会各界都需要积极行动起来，共同推进人工智能的研究和有效引导控制，使其成为人类“最好的发明”而非“最后的发明”。
转载请注明来源返回搜狐，查看更多