人工智能伦理问题的现状分析与对策
中国网/中国发展门户网讯 人工智能（AI）是第四次产业革命中的核心技术，得到了世界的高度重视。我国也围绕人工智能技术制定了一系列的发展规划和战略，大力推动了我国人工智能领域的发展。然而，人工智能技术在为经济发展与社会进步带来重大发展机遇的同时，也为伦理规范和社会法治带来了深刻挑战。2017年，国务院印发的《新一代人工智能发展规划》提出“分三步走”的战略目标，掀起了人工智能新热潮，并明确提出要“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”。2018年，习近平总书记在主持中共中央政治局就人工智能发展现状和趋势举行的集体学习时强调，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。2019年，我国新一代人工智能发展规划推进办公室专门成立了新一代人工智能治理专业委员会，全面负责开展人工智能治理方面政策体系、法律法规和伦理规范研究和工作推进。《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》中专门强调要“探索建立无人驾驶、在线医疗、金融科技、智能配送等监管框架，完善相关法律法规和伦理审查规则”。这些均体现了我国对人工智能伦理及其治理的密切关注程度和积极推进决心，同时也突出了这一问题的重要性。
当前人工智能伦理问题
伦理是处理人与人之间关系、人与社会之间关系的道理和秩序规范。人类历史上，重大的科技发展往往带来生产力、生产关系及上层建筑的显著变化，成为划分时代的一项重要标准，也带来对社会伦理的深刻反思。人类社会于20世纪中后期进入信息时代后，信息技术伦理逐渐引起了广泛关注和研究，包括个人信息泄露、信息鸿沟、信息茧房、新型权力结构规制不足等。信息技术的高速变革发展，使得人类社会迅速迈向智能时代，其突出表现在带有认知、预测和决策功能的人工智能算法被日益广泛地应用在社会各个场景之中；前沿信息技术的综合运用，正逐渐发展形成一个万物可互联、万物可计算的新型硬件和数据资源网络，能够提供海量多源异构数据供人工智能算法分析处理；人工智能算法可直接控制物理设备，亦可为个人决策、群体决策乃至国家决策提供辅助支撑；人工智能可以运用于智慧家居、智慧交通、智慧医疗、智慧工厂、智慧农业、智慧金融等众多场景，还可能被用于武器和军事之中。然而，迈向智能时代的过程如此迅速，使得我们在传统的信息技术伦理秩序尚未建立完成的情况下，又迫切需要应对更加富有挑战性的人工智能伦理问题，积极构建智能社会的秩序。
计算机伦理学创始人 Moore将伦理智能体分为4类：伦理影响智能体（对社会和环境产生伦理影响）；隐式伦理智能体（通过特定软硬件内置安全等隐含的伦理设计）；显示伦理智能体（能根据情势的变化及其对伦理规范的理解采取合理行动）；完全伦理智能体（像人一样具有自由意志并能对各种情况做出伦理决策）。当前人工智能发展尚处在弱人工智能阶段，但也对社会和环境产生了一定的伦理影响。人们正在探索为人工智能内置伦理规则，以及通过伦理推理等使人工智能技术的实现中也包含有对伦理规则的理解。近年来，越来越多的人呼吁要赋予人工智能机器一定的道德主体地位，但机器能否成为完全伦理智能体存在巨大的争议。尽管当前人工智能在一些场景下的功能或行为与人类接近，但实则并不具有“自由意志”。从经典社会规范理论来看，是否能够成为规范意义上的“主体”来承担责任，并不取决于其功能，而是以“自由意志”为核心来构建的。黑格尔的《法哲学原理》即以自由意志为起点展开。因此，当前阶段对人工智能伦理问题的分析和解决路径构建应主要围绕着前3类伦理智能体开展，即将人工智能定性为工具而非主体。
当前阶段，人工智能既承继了之前信息技术的伦理问题，又因为深度学习等一些人工智能算法的不透明性、难解释性、自适应性、运用广泛等特征而具有新的特点，可能在基本人权、社会秩序、国家安全等诸多方面带来一系列伦理风险。例如：人工智能系统的缺陷和价值设定问题可能带来公民生命权、健康权的威胁。2018年，Uber自动驾驶汽车在美国亚利桑那州发生的致命事故并非传感器出现故障，而是由于 Uber在设计系统时出于对乘客舒适度的考虑，对人工智能算法识别为树叶、塑料袋之类的障碍物做出予以忽略的决定。人工智能算法在目标示范、算法歧视、训练数据中的偏失可能带来或扩大社会中的歧视，侵害公民的平等权。人工智能的滥用可能威胁公民隐私权、个人信息权。深度学习等复杂的人工智能算法会导致算法黑箱问题，使决策不透明或难以解释，从而影响公民知情权、程序正当及公民监督权。信息精准推送、自动化假新闻撰写和智能化定向传播、深度伪造等人工智能技术的滥用和误用可能导致信息茧房、虚假信息泛滥等问题，以及可能影响人们对重要新闻的获取和对公共议题的民主参与度；虚假新闻的精准推送还可能加大影响人们对事实的认识和观点，进而可能煽动民意、操纵商业市场和影响政治及国家政策。剑桥分析公司利用 Facebook上的数据对用户进行政治偏好分析，并据此进行定向信息推送来影响美国大选，这就是典型实例。人工智能算法可能在更不易于被察觉和证明的情况下，利用算法歧视，或通过算法合谋形成横向垄断协议或轴辐协议等方式，破坏市场竞争环境。算法决策在社会各领域的运用可能引起权力结构的变化，算法凭借其可以处理海量数据的技术优势和无所不在的信息系统中的嵌入优势，对人们的权益和自由产生显著影响。例如，银行信贷中通过算法进行信用评价将影响公民是否能获得贷款，刑事司法中通过算法进行社会危害性评估将影响是否进行审前羁押等，都是突出的体现。人工智能在工作场景中的滥用可能影响劳动者权益，并且人工智能对劳动者的替代可能引发大规模结构性失业的危机，带来劳动权或就业机会方面的风险。由于人工智能在社会生产生活的各个环节日益广泛应用，人工智能系统的漏洞、设计缺陷等安全风险，可能引发个人信息等数据泄露、工业生产线停止、交通瘫痪等社会问题，威胁金融安全、社会安全和国家安全等。人工智能武器的滥用可能在世界范围内加剧不平等，威胁人类生命与世界和平……
人工智能伦理风险治理具有复杂性，尚未形成完善的理论架构和治理体系。人工智能伦理风险的成因具有多元性，包括人工智能算法的目标失范、算法及系统缺陷、受影响主体对人工智能的信任危机、监管机制和工具欠缺、责任机制不完善、受影响主体的防御措施薄弱等。人工智能技术和产业应用的飞速发展，难以充分刻画和分析其伦理风险及提供解决方案。这要求我们必须克服传统规范体系的滞后性，而采用“面向未来”的眼光和方法论，对人工智能的设计、研发、应用和使用中的规范框架进行积极思考和构建，并从确立伦理准则等软法开始，引领和规范人工智能研发应用。
关于人工智能的发展，我们既不能盲目乐观，也不能因噎废食，要深刻认识到它可以增加社会福祉的能力。因此，在人类社会步入智能时代之际，必须趁早从宏观上引导人工智能沿着科学的道路前行，对它进行伦理反思，识别其中的伦理风险及其成因，逐步构建科学有效的治理体系，使其更好地发挥积极价值。
人工智能伦理准则、治理原则及进路
当前全球人工智能治理还处于初期探索阶段，正从形成人工智能伦理准则的基本共识出发，向可信评估、操作指南、行业标准、政策法规等落地实践逐步深入，并在加快构建人工智能国际治理框架体系。
伦理准则
近几年来，众多国家、地区、国际和国内组织、企业均纷纷发布了人工智能伦理准则或研究报告。据不完全统计，相关人工智能伦理准则已经超过40项。除文化、地区、领域等因素引起的差异之外，可以看到目前的人工智能伦理准则已形成了一定的社会共识。
近年来，中国相关机构和行业组织也非常积极活跃参与其中。例如：2018年1月，中国电子技术标准化研究院发布了《人工智能标准化白皮书（2018版）》，提出人类利益原则和责任原则作为人工智能伦理的两个基本原则；2019年5月，《人工智能北京共识》发布，针对人工智能的研发、使用、治理 3 个方面，提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则；2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能发展的8项原则，勾勒出了人工智能治理的框架和行动指南；2019年7月，上海市人工智能产业安全专家咨询委员会发布了《人工智能安全发展上海倡议》；2021年9月，中关村论坛上发布由国家新一代人工智能治理专业委员会制定的《新一代人工智能伦理规范》等。从发布内容上看，所有准则在以人为本、促进创新、保障安全、保护隐私、明晰责任等价值观上取得了高度共识，但仍有待继续加深理论研究和论证，进一步建立共识。
治理原则
美国、欧洲、日本等国家和地区在大力推动人工智能技术和产业发展的同时，高度重视人工智能的安全、健康发展，并将伦理治理纳入其人工智能战略，体现了发展与伦理安全并重的基本原则。
习近平总书记高度重视科技创新领域的法治建设问题，强调“要积极推进国家安全、科技创新、公共卫生、生物安全、生态文明、防范风险、涉外法治等重要领域立法以良法善治保障新业态新模式健康发展”。近年来，我国在应对新技术新业态的规制和监管方面，形成了“包容审慎”的总体政策。这项基本政策在2017年就已正式提出。在2020年1月1日起实施的《优化营商环境条例》第55条中更是专门规定了“包容审慎”监管原则：“政府及其有关部门应当按照鼓励创新的原则，对新技术、新产业、新业态、新模式等实行包容审慎监管，针对其性质、特点分类制定和实行相应的监管规则和标准，留足发展空间，同时确保质量和安全，不得简单化予以禁止或者不予监管。”这为当前人工智能伦理治理提供了基本原则和方法论。一方面，要注重观察，认识到新技术新事物往往有其积极的社会意义，亦有其发展完善的客观规律，应予以一定空间使其能够发展完善，并在其发展中的必要之处形成规制方法和措施。另一方面，要坚守底线，包括公民权利保护的底线、安全的底线等。对于已经形成高度社会共识、凝结在法律之中的重要权益、价值，在执法、司法过程中都要依法进行保护。这既是法律对相关技术研发者和使用者的明确要求，也是法律对于在智能时代保护公民权益、促进科技向善的郑重承诺。
治理进路
在人工智能治理整体路径选择方面，主要有两种理论：“对立论”和“系统论”。
“对立论”主要着眼于人工智能技术与人类权利和福祉之间的对立冲突，进而建立相应的审查和规制制度。在这一视角下，一些国家和机构重点关注了针对人工智能系统本身及开发应用中的一些伦理原则。例如，2020年《人工智能伦理罗马倡议》中提出7项主要原则——透明、包容、责任、公正、可靠、安全和隐私，欧盟委员会于2019年《可信赖人工智能的伦理指南》中提出人工智能系统全生命周期应遵守合法性、合伦理性和稳健性3项要求，都体现了这一进路。
“系统论”则强调人工智能技术与人类、其他人工代理、法律、非智能基础设施和社会规范之间的协调互动关系。人工智能伦理涉及一种社会技术系统，该系统在设计时必须注意其不是一项孤立的技术对象，而是需要考虑它将要在怎样的社会组织中运作。我们可以调整的不仅仅是人工智能系统，还有在系统中与之相互作用的其他要素；在了解人工智能运作特点的基础上，可以在整个系统内考虑各个要素如何进行最佳调配治理。当前在一些政策和法规中已有一定“系统论”进路的体现。例如，IEEE（电气与电子工程师协会）发布的《合伦理设计》11中提出的8项原则之一即为“资质”（competence），该原则提出系统创建者应明确对操作者的要求，并且操作者应遵守安全有效操作所需的知识和技能的原则，这体现了从对使用者要求的角度来弥补人工智能不足的系统论视角，对智能时代的教育和培训提出了新需求。我国国家新一代人工智能治理专业委员会2019年发布的《新一代人工智能治理原则——发展负责任的人工智能》中，不仅强调了人工智能系统本身应该符合怎样的伦理原则，而且从更系统的角度提出了“治理原则”，即人工智能发展相关各方应遵循的8项原则；除了和谐友好、尊重隐私、安全可控等侧重于人工智能开放和应用的原则外，还专门强调了要“改善管理方式”，“加强人工智能教育及科普，提升弱势群体适应性，努力消除数字鸿沟”，“推动国际组织、政府部门、科研机构、教育机构、企业、社会组织、公众在人工智能发展与治理中的协调互动”等重要原则，体现出包含教育改革、伦理规范、技术支撑、法律规制、国际合作等多维度治理的“系统论”思维和多元共治的思想，提供了更加综合的人工智能治理框架和行动指南。基于人工智能治理的特殊性和复杂性，我国应在习近平总书记提出的“打造共建共治共享的社会治理格局”的指导下，系统性地思考人工智能的治理维度，建设多元共治的人工智能综合治理体系。
我国人工智能伦理治理对策
人工智能伦理治理是社会治理的重要组成部分。我国应在“共建共治共享”治理理论的指导下，以“包容审慎”为监管原则，以“系统论”为治理进路，逐渐建设形成多元主体参与、多维度、综合性的治理体系。
教育改革
教育是人类知识代际传递和能力培养的重要途径。通过国务院、教育部出台的多项措施，以及联合国教科文组织发布的《教育中的人工智能：可持续发展的机遇与挑战》、《人工智能与教育的北京共识》13等报告可以看到，国内外均开始重视教育的发展改革在人工智能技术发展和应用中有着不可或缺的作用。为更好地支撑人工智能发展和治理，应从4个方面进行完善：普及人工智能等前沿技术知识，提高公众认知，使公众理性对待人工智能；在科技工作者中加强人工智能伦理教育和职业伦理培训；为劳动者提供持续的终身教育体系，应对人工智能可能引发的失业问题；研究青少年教育变革，打破工业化时代传承下来的知识化教育的局限性，回应人工智能时代对人才的需求。
伦理规范
我国《新一代人工智能发展规划》中提到，“开展人工智能行为科学和伦理等问题研究，建立伦理道德多层次判断结构及人机协作的伦理框架”。同时，还需制定人工智能产品研发设计人员及日后使用人员的道德规范和行为守则，从源头到下游进行约束和引导。当前有5项重点工作可以开展：针对人工智能的重点领域，研究细化的伦理准则，形成具有可操作性的规范和建议。在宣传教育层面进行适当引导，进一步推动人工智能伦理共识的形成。推动科研机构和企业对人工智能伦理风险的认知和实践。充分发挥国家层面伦理委员会的作用，通过制定国家层面的人工智能伦理准则和推进计划，定期针对新业态、新应用评估伦理风险，以及定期评选人工智能行业最佳实践等多种方式，促进先进伦理风险评估控制经验的推广。推动人工智能科研院所和企业建立伦理委员会，领导人工智能伦理风险评估、监控和实时应对，使人工智能伦理考量贯穿在人工智能设计、研发和应用的全流程之中。
技术支撑
通过改进技术而降低伦理风险，是人工智能伦理治理的重要维度。当前，在科研、市场、法律等驱动下，许多科研机构和企业均开展了联邦学习、隐私计算等活动，以更好地保护个人隐私的技术研发；同时，对加强安全性、可解释性、公平性的人工智能算法，以及数据集异常检测、训练样本评估等技术研究，也提出了很多不同领域的伦理智能体的模型结构。当然，还应完善专利制度，明确算法相关发明的可专利性，进一步激励技术创新，以支撑符合伦理要求的人工智能系统设计。
此外，一些重点领域的推荐性标准制定工作也不容忽视。在人工智能标准制定中，应强化对人工智能伦理准则的贯彻和支撑，注重对隐私保护、安全性、可用性、可解释性、可追溯性、可问责性、评估和监管支撑技术等方面的标准制定，鼓励企业提出和公布自己的企业标准，并积极参与相关国际标准的建立，促进我国相关专利技术纳入国际标准，帮助我国在国际人工智能伦理准则及相关标准制定中提升话语权，并为我国企业在国际竞争中奠定更好的竞争优势。
法律规制
法律规制层面需要逐步发展数字人权、明晰责任分配、建立监管体系、实现法治与技术治理有机结合。在当前阶段，应积极推动《个人信息保护法》《数据安全法》的有效实施，开展自动驾驶领域的立法工作；并对重点领域的算法监管制度加强研究，区分不同的场景，探讨人工智能伦理风险评估、算法审计、数据集缺陷检测、算法认证等措施适用的必要性和前提条件，为下一步的立法做好理论和制度建议准备。
国际合作
当前，人类社会正步入智能时代，世界范围内人工智能领域的规则秩序正处于形成期。欧盟聚焦于人工智能价值观进行了许多研究，期望通过立法等方式，将欧洲的人权传统转化为其在人工智能发展中的新优势。美国对人工智能标准也尤为重视，特朗普于2019年2月发布“美国人工智能计划”行政令，要求白宫科技政策办公室（OSTP）和美国国家标准与技术研究院（NIST）等政府机构制定标准，指导开发可靠、稳健、可信、安全、简洁和可协作的人工智能系统，并呼吁主导国际人工智能标准的制定。
我国在人工智能科技领域处于世界前列，需要更加积极主动地应对人工智能伦理问题带来的挑战，在人工智能发展中承担相应的伦理责任；积极开展国际交流，参与相关国际管理政策及标准的制定，把握科技发展话语权；在最具代表性和突破性的科技力量中占据发展的制高点，为实现人工智能的全球治理作出积极贡献。
（作者：张兆翔、谭铁牛，中国科学院自动化研究所；张吉豫中国人民大学法学院；《中国科学院院刊》供稿）
人工智能的快速发展，对我们的不利影响有哪些
No.10致人大量失业近年来，机器代替人，已成事实。大到汽车制造，小至自助服务终端，都有这种趋势。当机器配上人工智能，它就能自动更新，人类被代替的趋势，愈演愈烈。这将造成失业工人大量涌现，只有少数人从中受益，比如智能机器的制造者、使用者和升级者。No.9陷入道德窘境如果人工智能控制一辆汽车，载着几名乘客，在公路上行驶。突然发现路上有一麻袋垃圾，智能汽车会怎么办？它会转弯避开垃圾，撞向旁边造成车祸而伤人呢？还是会径直撞向垃圾？我们都希望是后者。但是，假如路上的不是一麻袋垃圾，而是一只病狗，或者一个婴儿呢？智能汽车会认为一只动物不值得去救，或者一个婴儿远不及几个乘客的生命宝贵，而直接撞上去吗？如果人开车，马上就能做出正确决定，但汽车自动驾驶的话，估计会酿成悲剧。不管机器有多智能，它和人始终有差距，它做不出道德判断！No.8方便黑客入侵未来的冰箱、烤箱、电灯、汽车等，日常用品都将联网。方便我们自己，同样也方便了黑客。Siri是苹果iOS系统的智能语音助手。未来，它将浓缩进一个小盒子，接入网络，全天候工作，自动更新，自动记录，保存你所有信息。Siri一旦被黑客攻取，后果非常严重。由人工智能储存保护个人信息，你能放宽心吗？No.7差错不曾减少最初，人类以为机器按事先编好的程序工作，效率提升，不会出差错。实际上，机器频频出错，由此带来的烦恼不胜枚举。它误听语音指令，它无动于衷，它错误识别命令，它反应过激，等等。这与机器带来的好处几乎抵消。更可气的，明明出了差错，应当立即停止，但机器仍在运行，甚至继续执行下一步操作！因为它根本意识不到出了差错，它在执行程序而已。只要事先编好的程序不中断，机器就不会停止，无论有没有出差错。No.6差错更难修正人犯错了，自己能意识到，能立即收集整理改正。“知错能改，善莫大焉。”机器出错，自己意识不到，相反，需要人找到出错的根源。重新检查程序，浏览代码，确定根源，然后编写补丁程序，再检验补丁，更新补丁，有时需要补丁的补丁，最后甚至导致程序整体升级。两相比较，孰易孰难？高下立判！对人而言，只需一句告诫：“不要再犯错，因为……”对机器而言，修正差错似乎繁琐到令人厌烦，很不值得。No.5反仆为主机器是帮助人的，智能机器对人的帮助应该更大，可实际上呢？假如你家里有位机器人，它储存你的个人信息，很了解你。你喜欢啤酒、披萨、冰淇淋，在网上订外卖。但机器人觉得这些食物不健康，为你着想，就在网上私自更改菜单，改成了胡萝卜、生菜、鳕鱼肝油。再假如你皮肤过敏，怕晒太阳。机器人在网上获悉天气预报，它觉得晴天紫外线强烈，不适合你出门。为你着想，它把你锁在家里，坚决不开门（门及家里各种设备都是联网的）。你无法上班，怎么交差？假如你的上司也是机器人，你又怎么解释？No.4致人懒惰退化制造机器人，就是为了帮助人类，使人类更轻松惬意、繁荣兴盛。比如，生活中机器人随时提醒，什么时间吃药，喝酒到什么程度刚刚好；机器人还可以洒扫庭除、烧水做饭。人类要么悠闲逛街，要么一心搞研发，其他什么都不用做。实际上恰恰相反。人类不是更悠闲，而是更懒惰，甚至退化。机器人承担一切家务，打扫拾掇，买米买肉，煮饭烧菜等等。人类则呆在家里不出门，蜷在沙发看电视，窝在床上玩手机。如今，年轻一代参加户外活动越来越少，他们通过手机和网络相互沟通。下一步，他们就呆在家里，窝在床上，蜷在沙发，动动嘴唇发发指令，智能机器包办一切，而我们越来越懒，身体机能越来越退化。No.3反叛终结人类在美国科幻大片《终结者》里，人工智能觉醒，发动核战，操控机器，于是各种用途各种形状的机器人、销毁机器人的钢铁溶池、无所不在的天网等，有条不紊地运行；人类处境非常不妙。人工智能配上武器，后果将非常严重。今天，给机器人装上枪炮，相当于给人类提前掘了坟墓，奏了死亡之曲，直到将来有一天，机器智能觉醒。战场上，机器人减少人类伤亡，但是，我们不能保证机器人的枪口永远朝外。人类制造机器人，机器人学会杀人，这应了《侏罗纪公园》的名言：“生命会自己找出路。”No.2替代主宰人类常常这样听说：机器人将占领地球，屠杀、奴役人类，而人类不得已逃到地下求生，暗无天日。如同《黑客帝国》，机器主宰地球，人类要么沉浸于无知却美好的虚拟世界，要么拼杀在磨难而残酷的现实世界。然而，如果人工智能懂得进化，学习人类更多特性，使自己更像人，会怎么样？机器人懂得感情，有了焦虑、后悔、沮丧、嘲讽、爱情、厌烦、猥亵、快乐等等情感，与人类又有何异？在地球上，这些机器人将居于主导地位，替代主宰人类。科幻世界里，《2001太空漫游》的哈尔，能力出众，精通唇语，妄图控制人类；《银河系漫游指南》的马文患抑郁症，又是偏执狂，极其唠叨；《飞出个未来》的班德，嗜酒如命，自私自利，脾气暴躁。这种机器人越来越多，人类立足之地将会越来越少。No.1灭亡人类世界被机器人统治，人类被灭亡，末日来临——这是人工智能带给人类的最大灾难。灭亡人类，只因为机器人把人类视为自己进化路上的唯一障碍。又或许，机器人被植入了“保护地球”的程序，它遵命而行，只不过把人类当成了地球的最大威胁。不管什么原因，至少结果都一样——人类被消灭了，而人类也不可能知道原因了。但是，唯一知道的是，这全部由人类自己的错误造成。人类当警醒，否则，将来可能只剩下灵魂在悲泣：“早知如此，何必当初！”
人工智能、大数据、云计算和物联网的未来发展值得重视，均为前沿产业，多智时代专注于人工智能和大数据的入门和科谱，在此为你推荐几篇优质好文：1.人工智能时代，AI人才都有哪些特征？http://www.duozhishidai.com/article-1792-1.html2.大数据携手人工智能，高校人才培养面临新挑战http://www.duozhishidai.com/article-7555-1.html3.人工智能，机器学习和深度学习之间，主要有什么差异http://www.duozhishidai.com/article-15858-1.html4.大数据人工智能领域，如何从菜鸟晋级为大神http://www.duozhishidai.com/article-1427-1.html
多智时代-人工智能和大数据学习入门网站|人工智能、大数据、物联网、云计算的学习交流网站
让人工智能充分赋能经济社会发展
科技部等六部门发文统筹推进场景创新
让人工智能充分赋能经济社会发展
继2017年国务院印发《新一代人工智能发展规划》（以下简称《发展规划》）之后，科技部、教育部、工信部等六部门近日联合发布《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》（以下简称《指导意见》），在业界引发广泛关注。
作为深刻改变人类社会生活的革命性、战略性技术，人工智能在我国发展如何？怎样推动人工智能快速迭代升级？记者进行了采访。
从实验室走向生产生活，人工智能驶入发展快车道
如今，放眼大江南北，“人工智能”不再是一个学术名词，而是人们生产生活中的“常客”。
在旷视科技改造升级后的国药控股广州有限公司物流中心，随处可见人工智能的“身影”：智能移动机器人、智能堆垛机往来穿梭，成为搬运的主力军，智能五面扫描装置可实时读取运动中的药箱上的电子监管码，实现药品流通可追溯……智慧仓储物流不仅为该中心每年节约人力成本上百万元，更显著提高了工作效率，在疫情防控期间实现了医药物资配送的快速响应。
在位于浙江杭州滨江区的计算机视觉公司易思维的实验室，装配了高性能视觉传感器的工业机器人正在模拟汽车流水线的工位上忙碌。明察秋毫的“眼睛”和自主决策的“大脑”，助力冲压、焊接、涂装、总装四大汽车制造环节的智能化升级，既省工省时又提质增效。易思维研发的工业视觉检测成套装备体系，已在上汽大众、一汽大众、特斯拉等数十家国内外厂商的200多个整车厂落地开花，在“冲、焊、涂、总”四大环节上实现系统化应用。
在华为打造的5G智慧煤矿——晋能控股集团塔山煤矿，地下500米的矿井实现了智能互联：智能巡检机器人往来探视，工人可一键呼叫“网约车”、实时手机视频通话。依托“会说话”“能决策”的智能化综放开采设备，塔山煤矿采煤工效提升40%以上。
在日常生活中，人工智能也无处不在：对着手机眨眨眼，几秒内就可以完成身份认证；手环、手表等智能终端，及时提醒用户健康状况……
“《发展规划》实施至今，我国的人工智能已由实验室走向生产生活的方方面面，驶上了发展快车道。”科技部新一代人工智能发展研究中心主任、中国科学技术信息研究所所长赵志耘认为，“生产更高效、生活更精彩”的背后，是人工智能科技的显著进步。“我国在机器学习、计算机视觉、自然语言处理、类脑计算等领域涌现出一批重要理论成果，大规模预训练模型等前沿研究达到国际先进水平，人工智能基础软硬件快速发展，基于自主技术的人工智能产业生态已初步形成。”
科技部新一代人工智能发展研究中心提供的数据显示，5年来我国智能产业规模持续壮大，企业数量以及风险投资额居世界前列：2021年人工智能核心产业规模超过4000亿元，企业超过3000家；人工智能领域风险投资额占全球比重从2013年的不到5%增长到2021年的20%左右，跃居世界第二。
把新技术应用到实践中，通过迭代不断成熟提升
《指导意见》从打造人工智能重大场景、提升人工智能场景创新能力、加快推动人工智能场景开放等方面，统筹推进人工智能场景创新。
“这不仅是稳经济、培育新增长点的权宜之计，更是促进人工智能更高水平应用、更好支撑高质量发展的长远之策。”科技部战略规划司副司长邢怀滨说，“从全国来看，目前仍存在对场景创新认识不到位、重大场景系统设计不足、场景机会开放程度不够、场景创新生态不完善等问题，急需加强人工智能场景创新。”
邢怀滨告诉记者，场景创新是以新技术的创造性应用为导向，以供需联动为路径，实现新技术迭代升级和产业快速增长的过程。“这个‘牛鼻子’有多方面的牵引效应：直接推动人工智能技术的推广应用，加快传统产业的提质升级；在应用中发现新需求、凝练新课题，从需求侧反推人工智能技术体系的提升完善；促进人工智能相关软硬件技术及其标准的对接、贯通，进而形成全国统一的技术生态、产业生态。”
“目前人工智能正处在新的发展阶段，技术日趋成熟可用，各行业对人工智能技术需求迫切。”赵志耘说，在这个阶段，最重要的是把新技术应用到实践中，通过迭代不断成熟提升。“场景创新作为一种目标导向、应用导向的研发新机制，既有利于引导学术界更好地聚焦行业问题、优化研发方向，也有利于引导企业尽快把理论成果、技术成果快速转化为行业效果。”
易思维创始人兼CEO郭寅认为，人工智能是一门强应用相关的技术学科，从最早的雏形发展到今天，都离不开在各类应用场景中发现问题、解决难题、迭代技术，人工智能技术发展与场景应用创新是个相互促进、螺旋上升的过程。“随着《指导意见》的实施，我国人工智能技术将迎来加快迭代升级的新热潮。”
加快构建全链条、全过程的人工智能行业应用生态
8月15日，科技部启动支持建设新一代人工智能示范应用场景，发布了智慧农场、智能港口、智能矿山、智能工厂等首批支持的十大应用场景。
“人工智能的应用场景涉及生产、生活的方方面面，不能眉毛胡子一把抓。我们坚持面向世界科技前沿、面向经济主战场、面向国家重大需求、面向人民生命健康谋篇布局，以充分挖掘人工智能的价值。”邢怀滨说，“按照提高生产能效、改善工作方式、方便群众生活等主要标准，我们希望尽快打造形成一批可复制、可推广的标杆型示范应用场景，加快构建全链条、全过程的人工智能行业应用生态，让人工智能充分赋能经济社会发展。”
“人工智能是渗透面广、带动性强、影响深刻的新生事物，政府和市场要各司其职、协同发力，真正把充分发挥市场作用和更好发挥政府作用有机结合起来。”邢怀滨强调，一方面，要坚持企业在场景创新全过程中的主体地位，鼓励企业放手去干、去闯；另一方面，政府要与学术界、企业界紧密合作，在相关社会伦理、规则制定、法制完善等方面履职尽责。
“中国拥有全球最齐全的产业体系和超大规模的消费市场，丰富繁多的应用场景为人工智能提供了巨大的用武之地。”邢怀滨表示，“经过全社会的共同努力，中国一定能在新一代人工智能这个赛道上跑出好成绩。”（记者赵永新）
【纠错】【责任编辑:吴咏玲】人工智能会取代人类吗
会这样吗？蔡华伟绘
不久前，在中国乌镇围棋峰会上，人工智能程序“阿尔法狗”与排名世界第一的中国围棋职业九段棋手柯洁对战，以3∶0的总比分大获全胜。在此之前，它曾经以4∶1的总比分击败过同为围棋世界冠军的韩国职业九段棋手李世石，并在中国棋类网站上以“大师”为注册账号与中日韩数十位围棋高手进行快棋对决，连续60局无一败绩。两年来，“阿尔法狗”横扫中日韩围棋棋坛，并且每次表现都堪称完美。
一直以来，就有人工智能的发展会威胁到人类生存的观点，而“阿尔法狗”能在典型的反映人类智慧的围棋比赛中屡屡打败人类，更是加重了一些人的担忧。
那么，人工智能对人们工作、生活的直接影响到底有多大？它具备了人的部分能力，甚至比人类做得更好，未来会不会和人类抢“饭碗”，甚至对我们产生威胁？
具有不可
比拟的优势
未来人工智能可在金融投资、医疗诊断、企业经营、军事指挥等方面进行高水平的预测和决策
人工智能会取代人类吗？应当说，这种担忧也有一定道理。
近年来，人工智能各方面的发展都在逐渐完善，应用也越来越多，并且在很多方面的表现都超越了人类。
比如，2015年9月，腾讯财经推出了自动化新闻写作机器人。它能根据算法在第一时间自动生成稿件，瞬时输出分析和研判，一分钟内就能将重要资讯和解读送达用户。
还有，备受关注的微软小冰，作为一个虚拟伴侣型机器人，它能够模拟人的语气与人对话，聊天时让人感觉这就是一个活生生的人而并非机器。
此外，据外媒报道，摩根大通已经开发出一款金融合同解析软件，原来律师和信贷人员每年需要36万小时才能完成的工作，该软件只需几秒就能完成，且错误率大大降低。
青岛智能产业研究院智慧教育研究所副所长刘希未说：“在问题求解方面，人工智能程序已经能知道如何考虑它们要解决的问题，即搜索解答空间，寻找较优解答。在无人驾驶方面，人工智能已经可以实现长距离复杂路况下的自主驾驶。”
“未来在认知层次，人工智能还将会有广阔应用空间，例如人工智能可在金融投资、医疗诊断、企业经营、军事指挥等方面进行高水平的预测和决策。”中国科学院自动化研究所研究员孙哲南说。
而著名物理学家史蒂芬・霍金则认为人工智能给人类社会带来的冲击将更为巨大。2016年底，他在英国《卫报》发表文章预言说：“工厂的自动化已经让众多传统制造业工人失业，人工智能的兴起很有可能会让失业潮波及中产阶级，最后只给人类留下护理、创造和监管等工作。”
这样的判断还有待未来验证，不过，相比人类智慧，人工智能的确有着不可比拟的优势。
刘希未说：“和人脑相比，人工智能算法应对数值和符号计算更加精确快速，稳定可靠。特别是对于有确定规则的计算问题，人工智能可以远远超出人脑的计算速度，也更容易找到最优的解答。比如，在数值计算，图形、语音、生物特征、行为姿态等方面的识别，甚至更加复杂的预测推理任务方面，人工智能都有超越人脑的优秀表现。”
不会取代
甚至威胁人类
人工智能不具备感性思维，无法跨越到意识领域
那么，人工智能真的会因此而取代人类本身，甚至对我们产生威胁吗？记者采访的几位专家都给出了否定的答案。
首先，专家们认为，当前的计算机架构和编程模式具有本质上的劣势，使得人工智能无法实现与人脑情感、意志、心态、情绪、经验等方面的自然交互。本质上，人工智能仅仅是物质世界范畴的概念，无法跨越到意识领域。
1981年荣获诺贝尔生理学奖的罗杰・斯佩里博士曾发布著名的“左右脑分工理论”，认为人脑的左右半球有着不同分工：左半脑擅长分析、逻辑、演绎、推理等理性抽象思维；右半脑擅长直觉、情感、艺术、灵感等感性形象思维。迄今为止，人工智能的所有智能化表现仅仅在模仿人类左半脑的理性思维模式，而完全不具备右半脑的感性思维。
“也就是说，目前的人工智能技术还很难应对具有显著人类主观意识影响的社会文化和意识领域的各类问题，而人脑却可以通过长期在复杂社会环境下的学习成长轻松应对这类问题。”刘希未说。
他进一步举例说，比如人工智能至今也还没有创作出真正具有人性境界的作品。“电脑与人脑，毕竟有着机械性与生命灵性的本质区别，因此，电脑创作与人脑创作之间尚存在着难以逾越的鸿沟。个性化是人类文学艺术创作的生命，而已有电脑创作系统尚无个性可言，只不过是对已有的艺术作品的模仿、复制与重组。”
那么，随着人工智能的不断发展完善，将来是否有可能实现这种自发的情感智能呢？
“情感智能化分成两个层面，一个是让机器本身具有情感，另外一个是让机器理解人的情感，两者是不一样的”，中国科学院自动化研究所研究员易建强说，“让机器去理解人的情感，这件事是有可能做到的。目前有一部分机器人系统能够做到部分理解场景、环境及对话内容，并根据其结果做出相应的反应或者表情。但要机器人或人工智能系统完全达到人类的水平，有自发的情感和创造性，那是很难实现的，或者说不可能实现。”
中国自动化协会副理事长、秘书长王飞跃对此表示认同，“我个人认为100年内无法实现，或许永远不可能实现，除非重新定义什么是人的情感、理解、推理等等。原因很简单，人们现在都还不清楚这些情感的内涵、产生的过程及其方式。”
将成为人类
发展的加速器
人工智能的确会对人类就业造成一定冲击，但人类的工作不会消失，而是转变为新的形式
科学家们还认为，人工智能技术只是人类智慧创造的一种新型工具，它有助于人类更快做出突破，提高我们应对那些亟待解决的全球性难题的能力。
“我们需要人工智能这个强大的工具来帮助处理复杂问题，预测未知，支持我们实现以往不可能的目标。”王飞跃说。
专家们表示，很多划时代的科技成果必然引发人们生活方式的改变，短期内很可能难以被接受，但若放眼历史长河，就会发现，所有重大的科技革命无一例外地都最终成为人类发展的加速器，同时也是人类生活品质提高的根本保障。
“人工智能技术的出现也同样如此，它的确会对人类的就业造成一定冲击。比如，人工智能更适合处理简单重复、规则确定或者通过案例学习可以找到有效处理规则的问题。像安检、看病理切片和监控视频审核等交给人工智能更为高效可靠，这些工种也因此比较容易受到冲击和替代。”不过，易建强表示，不必因此就担心它会彻底取代人类。“以第一次工业革命为例，它不仅仅是让人类的既有工作被取代，同时会制造出足够多的新的就业机会。大多数情况下，工作不是消失了，而是转变为新的形式。”
易建强说，马车被汽车取代就是一个非常典型的例子。当年，汽车开始进入大城市并逐渐普及的过程中，曾经在数百年的时间里充当出行工具的马车，面临着“下岗”威胁。但后来的事实证明，新兴起的汽车行业拥有比传统马车行业多出数千倍甚至数万倍的产值和工作机会。
“现阶段，在一个真正实现人工智能的工作场景中，传统劳动者也并未被‘下岗’，只是改变了角色而已。仍然需要人类对人工智能的表现进行监控，进行情报采集与分析，以及开展预测性的实验与评估，引导性的过程管理与控制。”王飞跃说，“我相信将来人类90%以上的工作是由人工智能提供的，就像今天我们大多数的工作是由计算机和各种其它机器提供的一样。”
《人民日报》（2017年07月07日20版）
(责编：易潇、沈光倩)分享让更多人看到