全球数治｜美国规制人工智能，发布问责框架
这里是“全球数治”专栏周报，追踪近期全球数字治理动态。
近日，美国政府问责署( theU.S.GovernmentAccountabilityOffice,GAO)对联邦机构及其他组织机构发布了人工智能（ArtificialIntelligence,AI）问责框架，该框架分为治理（Governance）、数据（Data）、性能（Performance）和监测（Monitoring）四个部分。每部分都包含关键做法，关键问题和问责程序等内容。（来源：MeriTalk）
美国纽约大学的AINow研究所曾在其2018年发布的《年度AI现状报告》中专门研究了AI问责的重要性。报告认为，随着AI应用的普遍性和技术复杂性不断上升，缺乏有效的问责机制日益成为一个迫切问题。主要原因在于：第一，AI发展过程中，责任分配上的鸿沟日益扩大，创造并部署这些技术的人获得了更有利的地位，但这是以牺牲那些受到技术影响人群的利益为代价；第二，利用AI实施监控，特别是与面部和情感识别相结合，可能加重集中控制和压迫的潜在威胁；第三，政府越来越多地使用会直接影响公民和社区的自动决策系统，但相应监督机制缺位，导致不公正；第四，对人群进行各种不受管制、不受监督的AI实验有可能触发伦理风险；第五、仅用技术解决偏见和歧视问题存在很大局限性。现实的挑战促使人们越来越关注程序正义、责任分配以及针对损害的问责和追究，并呼吁制定相应法规和政策。
AI问责具体是指，一旦AI系统采取了某个行动，做了某个决策，就必须为由此产生的结果负责。当然，由于AI系统本质上是机器，无法承担法律责任，因此问责的对象实际上是系统背后的人或机构。GAO认为，AI的运行和操作对用户是不可见的，透明度缺乏将为监管和审查带来阻力。同时，AI有可能放大与公民自由、道德和社会差异相关的偏见和担忧。因此，GAO强调应重视AI问责，以确保相关技术和系统的公平、可靠、可追溯和可治理，并引导美国政府和所有参与设计、开发、部署和持续监测人工智能系统的机构与企业负责任地使用该技术。当然，在有效监管的同时，也需要平衡好保护公众免受人工智能技术潜在有害影响与鼓励积极创新之间的关系。
目前，美国还没有联邦层面统一的数据保护立法，但电信、金融、健康、教育等行业，以及加利福尼亚等部分州和地方制定了各自的数据法规。也有一些关于AI的政策与规划陆续出台，但未上升到法规层面。其中，2016年，美国发布《为人工智能的未来做准备》、《国家人工智能研究与发展战略计划》两份报告，人工智能被提升至国家战略高度。2019年11月，美国发布《人工智能伦理道德标准》，但并不具有强制约束力。2020年，美国发布《人工智能倡议首年年度报告》，回顾在人工智能方面取得的进展，为未来的AI计划提出了长期愿景。然而，这些都未就如何防止AI系统可能产生的危害确定解决方案。此次GAO出台AI问责框架，为今后创设相关立法、出台政策设定了原则和方向，是美国在AI治理方面一个比较重要的进展，也体现了美国上下对AI伦理问题的关注。
科学技术永远是一把“双刃剑”。它一方面为创造人类更加美好的生活开拓了广阔前景，另一方面又不断挑战着人类的伦理底线、为破坏人类生存基础提供了条件。长远来看，AI导致的问题并不仅局限于侵犯隐私，还将体现在诸如算法歧视、人类对智能化过度依赖、AI对人类造成身体或精神伤害等方面。AI给行业和社会带来的变革，最终是为了服务于人，而非超越人、替代人。世界各国在顺应未来趋势，大力发展AI技术与应用的同时，也需要重视制定适当规则，施以有效治理，保障AI技术长期可持续发展。
规则：
中国网信办发布《网络安全审查办法（修订草案征求意见稿）》
7月10日消息，中国网信办发布关于《网络安全审查办法（修订草案征求意见稿）》公开征求意见的通知。其中提出，掌握超过100万用户个人信息的运营者赴国外上市，必须向网络安全审查办公室申报网络安全审查。（来源：国家网信办官网）
政策：
欧盟：暂缓推进数字税征收计划
7月11日，欧盟委员会宣布，出于美国财政部长珍妮特·耶伦（JanetYellen）的施压，欧盟可能推迟到秋季提出数字税计划，以提高达成全球税收改革协议的可能性。近年来，欧盟一直在酝酿出台新的税务规则，以应对美国谷歌、苹果、脸书、亚马逊等科技公司巨头在欧洲国家的避税举措。美国曾多次公开施压欧盟，要求其放弃数字税征收计划，并指责其对美国公司公开歧视。（来源：金融时报）
欧洲议会批准300亿欧元“连接欧洲设施”计划
7月7日，欧洲议会批准更新版“连接欧洲设施”计划，拟在2021年至2027年间划拨300亿欧元于交通、能源和数字化基础设施建设，旨在确保到2030年如期完成一系列跨欧洲重要基建项目，包括波罗的海铁路、替代燃料充电基础设施、5G覆盖交通枢纽等。按照计划，欧盟将通过该计划投资约230亿欧元用于交通项目，50亿欧元用于能源项目，20亿欧元用于数字化项目。（来源：新华网）
美国或将与俄罗斯就勒索软件问题建立定期沟通机制
7月9日，美国总统拜登宣布，美国政府或将与俄罗斯政府就应对勒索软件攻击达成合作。此前，拜登与俄罗斯总统普京在日内瓦峰会上就勒索软件攻击事件进行了会谈。拜登称，应禁止对关键基础设施部门的攻击，并称两国专家将就具体的禁止措施展开谈判，打击“非国家支持”的黑客组织。（来源：MeriTalk）
美国纽约市启用网络防御中心
7月8日，美国纽约市在曼哈顿启用了一个酝酿已久的网络关键服务和基础设施运营中心，以抵御重大网络攻击。该运营中心由公私部门联合运营，其中的参与者包括亚马逊、联邦储备银行、IBM、纽约市警察局和多个医疗保健机构。如果发生网络攻击，这些机构将展开密切合作，并调动资源共同抵御攻击，防止纽约市基础设施遭到破坏。（来源：华尔街周刊）
监管：
美国36个州及华盛顿特区起诉谷歌公司违反美国反垄断法
7月7日，美国36个州和华盛顿特区于加州北区地方法院起诉谷歌公司在运营其安卓应用商店时违反了反垄断法。起诉书称，谷歌在提供应用购买和订阅服务时存在向程序开发者收取了30%费用；禁止带有异议内容的应用在其应用商店上架；通过排他性合同、技术壁垒和“误导性”安全警告为潜在竞争者设置障碍等行为。（来源：TheHill）
中国工信部、网信办、公安部联合印发《网络产品安全漏洞管理规定》
7月12日，工业和信息化部、国家互联网信息办公室、公安部近日联合印发《网络产品安全漏洞管理规定》，旨在维护国家网络安全，保护网络产品和重要网络系统的安全稳定运行；规范漏洞发现、报告、修补和发布等行为；明确网络产品提供者、网络运营者，以及从事漏洞发现、收集、发布等活动的组织或个人等各类主体的责任和义务；鼓励各类主体发挥各自技术和机制优势开展漏洞发现、收集、发布等相关工作。《规定》将自9月1日起施行。（来源：中国经济网）
产业：
中国工信部发布《网络安全产业高质量发展三年行动计划(2021-2023年)(征求意见稿)》
7月12日，中国工信部公开征求对《网络安全产业高质量发展三年行动计划(2021-2023年)(征求意见稿)》的意见。征求意见稿指出，到2023年，中国网络安全产业规模将超过2500亿元，年复合增长率超过15%。一批网络安全关键核心技术将实现突破，达到先进水平。（来源：中国工信部官网）
德国马普研究所实现纠缠光子的无损检测
7月9日，德国马克斯·普朗克量子光学研究所研究人员实现纠缠光子的无损检测，成功地重复两次检测到单个光子在光纤中的运动而不产生破坏。马普研究所研究人员基于困于反射腔内的铷原子制作出一种非破坏性探测器，使用激光脉冲进行探测。根据测试结果，研究人员在相距60米的两个探测腔内均检测到同一个运动的光子，并没有产生损耗。该成果或将为量子传感和量子通信的研究铺平道路。(来源：德国马普研究所官网)
美国人工智能协会（AAAI）主席Yolanda Gil到访自动化所
5月20日下午，美国人工智能协会现任主席、南加州大学信息科学研究所科研副主任YolandaGil教授到访自动化所。YolandaGil在来访期间与科研人员进行了座谈，参观了类脑智能实验室，并做了题为“ThoughtfulArtificialIntelligence”的学术报告。自动化所副所长刘成林、自动化所特聘研究员、中国科学院大学人工智能学院教授杨戈、模式识别国家重点实验室副主任陶建华、王亮、复杂系统管理与控制国家重点实验室副主任魏庆来、类脑智能研究中心副主任曾毅等参与了座谈。
刘成林介绍了自动化所的历史沿革和基本情况。YolandaGil介绍了美国人工智能协会目前开放合作的几种具体方式。之后，双方就人工智能领域教育与培训以及承办国际研讨会等方面的合作进行了深入探讨，在人才培养方面初步达成AAAI与中科院人工智能学院的合作意向。Gil教授亦在人工智能伦理方面表示出共同开展相关工作的意向。
美国人工智能协会（全称：AmericanAssociationforArtificialIntelligence，简称：AAAI）是1979年成立的世界范围的人工智能组织。这一协会在早期由计算机科学和人工智能的创始人AllenNewell,MarvinMinsky和JohnMcCarthy等人发起，目前在全球有超过6000名会员。该协会主办的学术年会是人工智能领域的重要国际会议。
Gil教授毕业于卡内基梅隆大学，曾在美国国家科学基金会计算机科学与工程理事会咨询委员会任职。Gil教授是计算机协会（ACM）的会士，也是人工智能特别兴趣小组的前任主席。她还是人工智能促进协会（AAAI）的会士，并于2016年当选为第24任主席。
座谈会现场
美国未来20年人工智能研究路线图
几十年来，人工智能取得胜利重大进展，在工业、政府和社会等各方面都发挥了重要的作用，创造了巨大的利益。人工智能系统现在可以进行跨语种翻译、识别图像和视频中的对象、简化制造流程、实现汽车自动驾驶等。
本文来源：AI人工智能科技平台
本报告112页，由于篇幅限制，需要下载并查看完整版PDF报告，可点击阅读原文可下载。
本报告112页，由于篇幅限制，需要下载并查看完整版PDF报告，
请在微信后台输入关键词：美国人工智能，进行下载
本报告112页，由于篇幅限制，需要下载并查看完整版PDF报告，
请在微信后台输入关键词：美国人工智能，进行下载
点击阅读原文下载pdf文件。
美国国会到底会如何监管人工智能这三件事值得关注
原标题：美国国会到底会如何监管人工智能？这三件事值得关注上周，参议院多数党领袖查克·舒默（ChuckSchumer）在华盛顿特区的一次演讲中宣布了他的人工智能政策制定大战略，开启了美国科技政策的新时代。他概述了美国在人工智能监管上的一些关键原则，并认为国会应该迅速出台新的法律。
舒默的计划是许多其他较小政策行动一起推动的高潮。6月14日，参议员乔希·霍利（JoshHawley）和理查德·布卢门撒尔（RichardBlumenthal）提出了一项法案，将生成式人工智能排除在第230条之外（该法律条款保护在线平台不对其用户创建的内容承担责任）。
6月29日，众议院科学委员会接见了几家人工智能公司的相关人士，就这项技术及其带来的各种风险和好处提出了问题。众议院民主党人泰德·利乌（TedLieu）和安娜·埃肖（AnnaEshoo）以及共和党人肯·巴克（KenBuck）提议成立一个国家人工智能委员会来管理人工智能政策，一个两党参议员小组建议成立一个联邦办公室。
尽管这一系列活动值得注意，但美国立法者实际上并没有在人工智能政策上从头开始。布鲁金斯学会（BrookingsInstitution）研究员亚历克斯·恩格勒（AlexEngler）表示：“你会看到许多政策办公室对人工智能政策的特定部分输出了相对独立的观点，这大多数都与其先前存在的问题相关。”联邦贸易委员会、商务部和美国版权局等个别机构迅速应对了过去六个月的人工智能热潮，特别是发布了关于生成式人工智能的政策声明、指导方针和警告。
当然，当涉及到国会时，我们永远不知道谈话是否意味着行动。然而，美国立法者对人工智能的思考反映了一些新出现的原则。以下是所有这些讨论中的三个关键主题，了解它们可以帮助你更好地了解美国人工智能立法的发展方向。
硅谷诞生于美国，以保护创新而闻名。许多最大的人工智能公司都是美国公司，国会不会让你或欧盟忘记这一点！舒默称，创新是美国人工智能战略的“北极星”，这意味着监管机构可能会质询科技公司的CEO，问他们希望如何受到监管。看科技公司的说客工作会很有趣，其中一些措辞是为了回应欧盟的最新规定，一些科技公司和批评人士表示，这些欧盟新规将扼杀创新。
技术，尤其是人工智能技术，应该与“民主价值观”保持一致。我们从舒默和拜登总统等美国高级官员那里听到了这一点。
还有一个大问题是，第230条将会怎么样。美国人工智能监管的一个悬而未决的巨大问题是，我们是否会看到第230条的改革。第230条是20世纪90年代美国立下的一项互联网法，旨在保护科技公司不因其平台上的内容而被起诉。这帮助推动了美国科技产业的繁荣。但科技公司是否应该在人工智能生成的内容上享有同样的“免死金牌”？这是一个大问题，而且还需要科技公司识别和标记人工智能制造出来的文本和图像，这也是一项艰巨的任务。
鉴于美国最高法院最近拒绝对第230条作出裁决，这场辩论很可能被推到国会。每当立法者决定是否以及如何改革该法律时，它都可能对人工智能领域产生巨大影响。
有什么进展吗？事实是，短期内没有任何进展，因为政客们要放假了。但从今年秋天开始，舒默计划只邀请国会的讨论小组来研究人工智能的特定部分。
与此同时，恩格勒表示，我们可能会听到一些关于禁止人工智能某些应用的讨论，如情绪分析或面部识别，这与欧盟法规的部分内容相呼应。立法者还可以尝试恢复现有的全面技术立法提案，例如《算法问责法案》。
目前，所有的目光都集中在舒默的大动作上。恩格勒说：“我们的想法是想出一个全面且迅速的东西。我预计会有相当大的关注。”返回搜狐，查看更多
责任编辑：