人工智能时代下算法治理的内核与路径
作者：唐树源（上海杉达学院法学系、知识产权法商研究中心）
随着时代生产要素的演进，当前人工智能时代的本质在于算法和数据。算法带来飞速便利的同时也带来了诸如大数据杀熟、算法黑箱、信息茧房、算法操纵等新的社会风险问题。2021年12月底，四部门联名签署对外公布《互联网信息服务算法推荐管理规定》（简称“《算法推荐规定》”），并已于2022年3月1日正式实施。基于此，有必要进一步厘清算法治理的基础内核，探究算法时代治理新路径。
一、当前我国算法治理的法律体系
当前我国算法治理的立法体系已初步建成，构建起立法层级广、多部门联动、快速扩张的法律体系。立法监管由此前聚焦在网络安全、数据信息保护转变为当前深度的治理，即人工智能时代的算法治理。
在顶层设计方面，《法治社会建设实施纲要（2020－2025年）》就提出健全算法推荐、深度伪造等新技术应用的规范管理办法。另外，《“十四五”数字经济发展规划》指出加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系。
在法律法规依据方面，《民法典》《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》分别从人格权、网络安全、数据安全、信息保护利用、互联网服务等角度进行了统筹性的规范。
在算法的专门性规范方向，有2021年9月发布的部门规范性文件《关于加强互联网信息服务算法综合治理的指导意见》和2022年《算法管理规定》对算法相关规范进行了全面细致的规范。
在其他规范性文件或国家标准方面，多部门对机器学习、人工智能伦理、信息合成、平台监管等多方面有间接性的规范，如《国务院反垄断委员会关于平台经济领域的反垄断指南》《国家市场监督管理总局、国家网信办、国家发展改革委、公安部、人力资源社会保障部、商务部、中华全国总工会关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》《新一代人工智能伦理规范》《互联网信息服务深度合成管理规定（征求意见稿）》《信息安全技术机器学习算法安全评估规范（征求意见稿）》《信息安全技术个⼈信息安全规范》等。
虽然我们已经在多个层面进行立法，但是当前算法相关立法体系还存在问题。一是立法层级分散，主要聚焦在部门规范性文件。法律法规的制定时间成本明显高于部门规章和各类规范性文件，这就导致目前针对算法这一新兴问题主要在部门规范性文件及国家标准中，容易出现强制性不够、执法监管效果打折扣、部门职责划分不清等问题。同时多部门的规范性文件给平台企业也造成无法适从、标准不统一、专项行动式的紧急应对等情形发生。二是对平台的监管主要在事后被动监管，缺乏精细化的平台监管规范。对平台的监管主要根据平台的过错、行为、责任采取行政处罚措施，而此种监管模式在于缺乏事前的过程性监管，即便现在有算法备案制度，也是主要停留在特定重要领域的算法备案，再者对于备案的算法审查逻辑和标准也需要根据算法分级分类制度及时调整。三是对算法的技术性规范监管较少，立法缺少回归算法本源。算法是一个技术概念，是“计算的方法”或“处理数据的方法”，同时算法也是具备一定的学习能力的，能够根据现有的算法基础和数据不断演变。对于这些计算机指令的技术规范当前仍缺乏立法上的规范，目前主要规范是从网络安全、法律风险等角度来规制的。
二、算法治理的内核、路径与体系建设
为了促进算法相关立法体系的完善，实现算法的精准治理，笔者认为算法治理的内核在于数据信息安全。一方面算法是在自然语言基础上建构起来的一系列程序逻辑，本质上就是且、或、非的逻辑运算。但无论算法多么复杂，其本质也是“用数据训练的模型”，也就是通过不断投喂数据来实现算法的不断运行和进化。算法离不开数据的支持，当数据的处理活动出问题，那算法必然就出问题。因此关注算法的治理，本质就是数据的安全和合理处理。
另一方面自动化决策算法引发的“大数据杀熟”等法律风险已引起越来越多的社会关注，这说明算法治理的本质还在于信息的合理利用。此外，算法的灵魂在于其正向的价值观。数据信息的利用处分需要追求正向价值观，逐步实现算法的可验证、可审核、可监督、可追溯、可预测、可信赖，同时具备普惠性、公平性和非歧视性。
需要说明的是，数据信息安全包括数据安全和信息安全两大块，数据安全就是规范数据处理活动，保障数据安全，维护各方利益，保障数据开发利用和产业发展；信息安全就是以《个人信息保护法》为主体，规范个人信息处理活动，促进个人信息合理利用，从严保护个人隐私。
明晰了算法治理的内核，才能聚焦立法规范和监管的重点，对于当前实践中算法治理的困境问题有新的解决方案。人工智能乃至整个经济社会的发展离不开海量数据和个人信息的填充，自动化决策算法充分利用数据信息发挥更大的经济和社会价值。因此，笔者认为应当构建算法治理的“两内在一外延”保障路径，两个内在要素是强化隐私保护和拓宽数据的广度、深度和精度，一个外延保障是算法安全保障机制。
一是强化隐私保护。《民法典》对于隐私权的保护是在人格权编中的，足以显示隐私保护的重要性。当下各大平台的隐私政策都在调整更新，而这一轮的更新势必会对相关平台的算法无序发展带来更多的限制。隐私保护与算法发展是相对的，强化隐私保护势必会阻碍算法的更多元化发展，但正是基于隐私保护的重要性，避免算法侵害他人合法权益。强化隐私保护可以从以下几点着手：
其一，强化隐私保护体现在立法内容、算法设计和应用、备案审查、执法监管重点、法律责任承担等方面，这是算法治理的基本理念也是底线原则。
其二，强化重点人群的隐私保护，特别是不满十四周岁的未成年人、老年人隐私保护，劳动者和消费者等群体也十分重要。按照《民法典》隐私权保护相关规定和《个人信息保护法》中敏感个人信息的相关规定进行信息保护与数据处理。个人信息处理活动满足个人信息处理的五项重要原则，还有遵照“告知-知情-同意”的核心个人信息处理规则。
其三，有关隐私保护的纠纷主要是通过私法救济的方式解决，而算法治理中涉及到的隐私保护问题就必然需要结合更多公法救济的渠道，因此更多公法治理算法时需要关注隐私保护的传统属性与公私法治理的融合问题。
二是拓宽数据的广度、深度和精度。算法治理绝不是过度强调监管惩罚，而是要强调事前的统筹管理。类似深度学习等自动化决策是需要海量数据的投喂，缺乏数据量基础、数据不精准都会导致算法算到错误的方向。如企业在进行“用户画像”的时候，当用户数据基数少或某一维度数据缺失的时候，就无法精准推送相关信息或提供相应服务。而在拓宽数据的广度、深度和精度的时候，必然要受到数据合法处理活动的限制，处理该问题的要点如下：
其一，拓宽数据的过程首要是保障数据安全，数据安全才能确保算法的安全稳定，此为数据处理的基石。
其二，建立重要数据和数据分级分类管理制度。大量数据的涌入可能会打乱算法的基本秩序，因而对数据进行分级分类是各大平台，尤其是超大型平台需要规范的。
其三，建立算法中的验证纠错机制，即对数据的质量进行验证，如抽检机制、结果预警等发现数据的缺陷，以便及时纠偏。
三是算法安全保障机制。有了前两者隐私保护和数据的基础，接下来健全算法安全保障机制就尤其重要。安全保障机制包括科技伦理审查、立法保障、安全评估监测与安全事件应急处置等多方面，形成技术、法律、管理的多重保障。具体措施包括如下：
其一，算法向善。算法备案审查的基础性要点在于科技伦理审查，此项审查的难点在于算法的不可预判性，即便当下算法规则审查合理，但随着算法本身外延式的延伸，就会导致算法的结果存在不确定性。因此，应当建立类似算法伦理工作小组的专门性组织，由科技、法律等领域专家及监管部门和第三方行业代表等共同组成，加强定期审查与跟踪监督，严防算法价值观问题。
其二，立法保障方面。当前有关算法治理的立法顶层设计已逐步完成，接下来除了算法推荐管理外的其他算法活动需要加以重视，如算法的技术研发、数据挖掘、规则内容、运营支持、人员管理等多角度构建起算法治理新格局。
其三，健全安全评估监测、安全事件应急处置等管理制度和技术措施。对企业来说，要落实算法安全主体责任，守住算法安全的第一道防线，建立健全算法机制机理审核。对监管部门和行业组织来说，制定算法安全行业标准体系，宣扬算法安全基本理念，形成全社会多渠道监督合力。
算法化的时代给各行各业带来了深刻的影响，也导致现在的组织形态发生新的动态变化。算法滥用所导致的问题可能是行业巨大的，算法治理需要跟算法开发同步开展，有效构建算法治理的“两内在一外延”保障路径，建立良好的数字营商环境，促进数字经济社会的稳步健康发展。
【本文系上海杉达学院科研基金(校基金)重点项目《民法典解决互联网权益争议机制研究》（项目号2020ZD01）和上海杉达学院科研基金(校基金)一般项目《法治思想在高校法治人才培养模式中的应用研究》（项目号2021YB11）的阶段性研究成果】
[责编：郑芳芳]“走向智慧治理：人工智能治理中的政府、企业与公众”国际学术研讨会在京举办
科技日报记者 华凌
4月22日，清华大学人工智能国际治理研究院（以下简称I-AIIG）在北京举办“走向智慧治理：人工智能（以下简称AI）治理中的政府、企业与公众”国际学术研讨会。I-AIIG学术委员、首席专家、资深顾问以及特邀国内外专家、企业家等20余人，以线上线下相结合的方式参会。研讨会由I-AIIG副院长肖茜主持。
在研讨会上，I-AIIG国际学术交流项目主任、信息研究院助理教授于洋首先介绍了项目团队正在起草的《AI参与中国疫情治理的实践》专题报告的主要内容。于洋指出，新冠疫情暴发以来，防疫工作与社会治理面对大量计算复杂度高的治理问题，而AI在这类治理问题上全面、敏捷、深入的参与，成为中国疫情治理的鲜明特征之一。这一现象，让我们看到了政府与社会部门融合一体化的合作治理，显著有别于传统的政企伙伴关系。在传统政企伙伴关系中，企业是治理的支撑、为治理提供工具。赋能AI参与治理的是三个要素：企业有公共治理意识，政府有算法适应性思维，以及连接政府和企业的枢纽型部门。企业的主动性源自其主营业务需要正当性构建；而AI技术的迁移能力，也降低了企业主动治理的成本。最后，于洋基于研究院初步完成的公众对AI技术的态度调查报告，分析了公众对发展人工智能的总体态度。他指出，人工智能时代公民对政府治理绩效的预期不断上升，如何更好地运用人工智能技术，提升解决复杂问题的能力、提升治理绩效从而增强国家总体竞争力，是各国面临的共同问题。人工智能在中国疫情治理中的参与实践表明：适应数字经济时代的新的治理模式正在形成且不断演化，亟待深入研究。
之后，与会专家和嘉宾对报告内容进行了点评。
I-AIIG学术委员、世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克教授指出，研究需要更加问题导向，找到人工智能参与到防疫中的短板在哪里。疫情是人工智能大规模应用的契机，人工智能的治理要落到数据、算法、算力、场景和人员的要素上。而且，后疫情时代对数据治理尤为重要。目前我们在“包容”和“平等”方面做得还不够，要发挥“人”作为治理要素的重要性。
I-AIIG首席专家、中国科学院自动化研究所研究员曾毅指出，人工智能如此快速地进入公共治理带来的隐患需要分析，公众对企业的信任的让渡条件和前提是公共部门能很好地保护数据。如何均衡传统治理和新型治理的方法，以及技术和常规管理手段的平衡等都需要进一步探究。从人工智能赋能疫情防控的经验来看，中国的人工智能治理不仅在中国发挥作用，而且在快速测温设备等方面贡献其他国家，服务于人类健康命运共同体的构建。
新加坡管理大学法学教授、人工智能与数据治理中心主任马克·芬德利（MarkFindlay）在发言中指出，报告的内容与其正在进行的研究相互印证，将AI与商业和社会生活结合具有重大意义。他强调，“对人工智能的治理”和“使用人工智能来治理”的内涵不同，在研究人工智能治理时需要更加明确方向。国外在私人数据和公共数据之间有明确的防火墙，但中国在企业和政府的大规模数据共享方面有很多宝贵的经验。当然，我们也需要认真思考AI技术的无效问题和负面效应。
联合国开发计划署助理驻华代表张薇在发言中表示，从全球范围来看，（数字）技术赋能公共服务是大趋势。在疫情治理方面，分析政府、企业和公民社会之间为敏捷应对危机所产生正向互动非常重要。未来，我们需要关注算法偏误带来的风险，以及是否充分考虑到弱势群体的声音与核心诉求。一体化的治理不可避免的使得企业掌握大量敏感数据信息，现有治理结构是否有能力确保数据隐私与数据安全、反垄断政策是否完善，以及如何建设数字韧性社会等问题都是未来值得关注的议题。中国的决策者在理解和将算法思维应用到公共治理方面十分超前，政府和企业在巨大危机面前可以迅速融合，“自下而上”的企业创新如何与“自上而下”的治理结合方面的中国经验对其他国家是有借鉴意义的。
I-AIIG战略合作与发展委员会副理事长、美团副总裁、首席科学家夏华夏指出，报告很好地解释了系统化治理的概念。他认为场景是人工智能第四个重要因素，企业规模的增长伴随社会责任的扩大，企业和政府之间需要有特别好的枢纽部门，达成更好效率。清华大学人工智能国际治理研究院是一个非常好的交叉组织，可以为产学研一体提供更好的助力。
I-AIIG战略合作与发展委员会副理事长、商汤科技联合创始人、副总裁杨帆指出，面对人类命运的共同挑战，积极发挥AI等新技术的巨大潜力，是解决问题的关键之匙。新技术要想发挥重大作用，需要充分发挥政府、企业、社会组织的一体化治理。一体化治理应当结合制度、技术、法律实现多利益相关方综合治理。政府天然拥有大量数据和巨大治理需求，企业善于挖掘数据价值并服务社会，两者有效协同，可以充分发挥数据巨大潜力，推动数字社会大发展。
在专家自由讨论环节，与会专家围绕AI参与中国疫情治理的实践展开热烈讨论。I-AIIG首席专家、清华大学社科学院教授陈琪指出，治理的“正面性”和“负面性”的平衡性非常重要，中国和西方的一体化合作模式的内涵不同，日本和韩国在应对新冠疫情方面也有很好的经验，需要从事实层面深化认知。清华大学公共管理学院副教授张楠指出，公众对于隐私的态度需要从国际经验比较中找寻逻辑，个人隐私让渡给政府和企业带来的影响是不同的。人工智能是较为头部的技术，需要将技术光谱进行划分，区分算法主导和用途主导，进而体现人工智能在公共治理中的意义。国家工业信息安全发展研究中心人工智能研究室主任张熠天指出，工业信息化是一种方法论，工业信息化3.0中人工智能的作用是技术和模式引领驱动。企业作为重要的治理要素，其自治力在助力疫情防控过程中发挥了重要作用。
最后，I-AIIG副院长梁正教授做总结发言，他首先对各位专家的真知灼见表示衷心感谢，指出推动人工智能治理领域的对话交流是研究院的重要使命，研究院未来将继续秉承开放理念，针对人工智能前沿实践与场景，集聚国内外专家智慧，提出具有全球意义的治理方案。
清华大学人工智能国际治理研究院是2020年4月由清华大学批准成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。
人工智能导论第一次作业（人工智能有哪些研究途径与方法它们的关系如何人工智能有哪些研究内容人工智能领域有哪些分支领域和研究方向现在人工智能有哪些学派它们的认知观是什么）
人工智能有哪些研究途径与方法？它们的关系如何？（1）研究途径与方法
“心理模拟、符号推演”心理学派、逻辑学派和符号主义的基于“心理模拟和符号推演”的人工智能研究。就是从人脑的宏观心理层面入手，以智能行为的心理模型为依据，将问题或知识表示成某种逻辑网络，采用符号推演的方法，模拟人脑的逻辑思维过程，实现人工智能。
“生理模拟、神经计算”“生理模拟、神经计算”就是从人脑的生理层面，即微观结构和工作机理入手，以智能行为的生理模型为依据，采用数值计算的方法，模拟脑神经网络的工作过程，实现人工智能。具体来讲，就是用人工神经网络作为信息和知识的载体，用称为神经计算的数值计算方法来实现网络的学习记忆联想识别和推理等功能。
“行为模拟、控制进化”“行为模拟、控制进化”是一种基于“感知—行为”模型的研究途径和方法，我们称其为行为模拟法。基于行为模拟法的人工智能研究，被称为行为主义、进化主义、控制理论学派。
“群体模拟、仿生计算”“群体模拟、仿生计算”就是模拟生物群落的群体智能行为，从而实现人工智能。其特点为可以直接付诸应用而解决工程问题和实际问题。
“博采广鉴、自然计算”“博采广鉴、自然计算”就是模仿或者借鉴自然界中某种机理而设计计算机模型，这种计算机模型一般具有自适应、自组织、自学习、自寻优能力的算法。
“着眼数据、统计建模”“着眼数据、统计建模”就是着眼于事物或问题的外在表现和关系，收集、采集、整理相关信息并做成样本数据，然后基于样本数据用统计学、概率论和其他数学理论和方法建立数学模型，并采用适当的算法和策略进行计算，以期从事物外在表现的样本数据中推测事物的内在模式或规律，并用之解决相关实际问题。
（2）关系
以上人工智能研究的六种方法和途径，它们各有所长，也有各自的局限性。所以，这些研究途径和方法并不能相互取代，而是并存和互补的关系。
人工智能有哪些研究内容？难题求解自动规划、调度与配置机器博弈机器翻译与机器写作机器定理证明自动程序设计智能控制智能管理智能决策智能通信智能预测智能仿真智能设计与制造智能车辆与智能交通智能诊断与治疗智能生物信息处理智能教育智能人—机接口模式识别智能机器人数据挖掘与知识发现计算机辅助创新计算机文艺创作人工智能领域有哪些分支领域和研究方向？a).从研究内容来看，人工智能可以分为搜索与求解、知识与推理、学习与发现等十大分支领域（它们构成了人工智能学科的总体架构）。
b).从研究途径和智能层次来看，人工智能可分为符号智能、计算智能、统计智能和交互智能等四大分支领域。
c).从所模拟的脑智能或脑功能来看，AI中有机器学习、机器感知、机器联想、机器推理、机器行为等分支领域。
d).从系统角度看，AI中有智能计算机系统和智能应用系统两大类。
e).从应用角度看，AI中有难题求解等数十个分支领域和研究方向。
f).从信息处理角度看，人工智能的研究涉及确定—确切性信息处理、不确定—确切性信息处理、确定—不确切性信息处理和不确定—不确切性信息处理等四个主题。
现在人工智能有哪些学派？它们的认知观是什么？目前人工智能的主要学派有下面三家：
(1) 符号主义，又称为逻辑主义、心理学派或计算机学派，其原理主要为物理符号系统(即符号操作系统)假设和有限合理性原理。
(2) 连接主义，又称为仿生学派或生理学派，其主要原理为神经网络及神经网络间的连接机制与学习算法。
(3) 行为主义，又称为进化主义或控制论学派，其原理为控制论及感知-动作型控制系统。
认识观
符号主义认为人工智能源于数理逻辑连接主义认为人工智能源于仿生学行为主义认为人工智能源于控制论5．未来人和机器的关系是什么？
在机器人行为准则被严格贯彻的情况下，机器人可以参与到人们的生活和工作中去，人和及其人可以和谐共存也可以成为朋友甚至是家人。
6.智能时代青少年人工智能伦理教育有必要吗？为什么？
我认为智能时代青少年人工智能伦理教育十分有必要。
从2017年起，伴随互联网和大数据信息技术的社会普及，“人工智能+教育”已成为当前国内教育领域的前端热门话题。编程作为人工智能教育的基础语言成为教育领域的焦点。越来越多的学校和企业采取联合教研的方式合作，利用双方优势助推人工智能教育的普及。国务院《新一代人工智能发展规划》指出，人工智能成为国际竞争的新焦点。人工智能是引领未来的战略性技术，人工智能将深刻改变人类生产生活方式和思维模式，人工智能的迅速发展将深刻改变人类社会生活、改变世界。 人工智能要从娃娃抓起，推动国民科学创新素质。信息数字化社会中，人工智无处不在，融入到教育、交通、金融等改革发展的万花筒中。两会时间里，人工智能被写进2018年政府工作报告，引起社会各界尤其是教育领域的高度关注。“人工智能时代刚刚来临，人工智能发展方面人才缺口大，同时国内中小学校的STEAM科学教育课程也亟待加强，这是促进素质教育的有力突破口。”中国教育科学研究院副研究员郁波说。教育部发布的《关于“十三五”期间全面深入推进教育信息化工作的指导意见》提出，鼓励中小学探索STEAM教育、创客教育等新教育模式，使学生具有较强的信息意识与创新意识，养成数字化学习习惯。“人工智能是改变人类未来生活方式的重要手段，是未来颠覆人类发展生活的大方向。”，对国内中小学教育，人工智能和教育相结合势在必行，“让人工智能融入中小学课堂，推助国民科学创新素质，为国家的人工智能发展培育种子力量，这是一种社会责任。