人工智能的伦理挑战与科学应对
【光明青年论坛】
编者按
2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》，呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”。在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战，引发重大的伦理关切。习近平总书记高度关注人工智能等新兴科技的发展，强调要加快提升“人工智能安全等领域的治理能力”，“塑造科技向善的文化理念，让科技更好增进人类福祉”。为此，本版特组织几位青年学者围绕人工智能的伦理挑战与科学应对展开讨论，并邀请专家予以点评，以期引发学界的更多关注，为推动人工智能健康发展贡献智慧。
与谈人
彭家锋 中国人民大学哲学院博士生
虞昊 华东师范大学政治与国际关系学院博士生
邓玉龙 南京师范大学哲学系博士生
主持人
刘永谋 中国人民大学哲学院教授、国家发展与战略研究院研究员
1.机遇与挑战并存的人工智能
主持人：新技术革命方兴未艾，以人工智能等为代表的新兴科技快速发展，大大拓展了时间、空间和人们的认知范围，人类正在进入一个“人机物”相融合的万物智能互联时代。请具体谈谈人工智能给人类社会发展带来什么样的机遇？
彭家锋：人工智能、大数据、物联网、云计算等智能技术蓬勃兴起，对人类社会的方方面面产生深刻影响，推动整个社会逐步迈入智能社会。在此过程中，存在许多重大历史机遇需要我们把握。就技术治理而言，人工智能作为一种治理技术，正在助推社会治理的治理理念、治理方式、治理效能等方面的变革，将传统技术治理提升至智能化新阶段，呈现出“智能治理的综合”趋势。智能治理将全面提升社会公共治理的智能化水平，主要呈现出四个方面的特征：一是治理融合化，即促进各种智能技术与其他治理技术相互融合，大幅度提升智能社会的治理水平；二是治理数据化，即以日益增长的海量数据为基础，通过对数据映射出来的“数字世界”进行社会计算，实现治理目标；三是治理精准化，即发挥智能技术强大的感知能力、传输能力和计算能力，将传统的粗放治理转变为精准治理；四是治理算法化，即不断完善智能决策系统，尝试将程序化的算法决策扩展到更多的决策活动中，从而提高决策质量。
虞昊：人工智能有助于反思人类社会得以建立与发展的基础。随着分析式AI向着生成式AI不断演变，尤其是生成式AI初步展现出判别问题、分析情感、展开对话、创作内容等越来越具有人类特征的功能，原本属于人类的领域正被人工智能以另一套由“0”与“1”构成的计算机语言逐步侵蚀。这既是对人类社会的冲击，也势必会在更加平等的开放性框架中增强人类的主体性，促进人类社会进一步发展。
邓玉龙：总体来说，以人工智能为代表的新科技发展，显著提升了社会生产力。例如，生成式AI不但能完成传统AI的分析、判断工作，还能进一步学习并完成分析式AI无法从事的创造性工作。从人机交互的角度来看，人工智能也促进了生产关系的高效发展。具体表现在：一是刺激劳动形态的转化。人工智能高效承担大量的基础机械性劳动，人类劳动则向高阶的创造性劳动转化，由此引发社会层面的劳动结构转型、升级，并且以人工智能为中介，社会范围内的劳动整合、协调能力也实现升级。二是促进劳动场域的重构。随着劳动形态的转化和劳动的社会化扩展，人工智能将劳动从固定场域中解放出来，人类劳动的灵活性增加。相比于创造性劳动，机械性劳动更加受到空间和时间的制约，而在人工智能从技术层面替代更低边际成本的基础性劳动之后，人类劳动空间和时间的自由性实现跃迁。三是对主体的发展提出了更高要求，尤其是对主体适应社会发展提出了更高要求。人工智能技术的发展对人类传统的知识结构提出挑战，要求人类更新原有的知识结构以适应社会发展需要，也对教育提出更高要求，教育模式和教育内容需要更契合科技发展的水平，培养更加全面发展的人才。
主持人：人工智能的一系列产物在给人们带来生活便利的同时，也一定程度上引起大家对其可能引发的伦理挑战的警惕。一些人关注人工智能的风险问题，对人工智能的推进有些焦虑。如何看待这种警惕和焦虑？
虞昊：人工智能的风险以及由此带来的焦虑，是完全可以理解的。但我们无法返回一个没有人工智能的世界，人工智能已然深度介入人类社会，试图遏制人工智能的推进只能是螳臂当车。同时我们对人工智能的发展也不能放任不管，无视甚至于压制人工智能的推进只能是掩耳盗铃。因此，我们应该正视这种焦虑，在发展人工智能的过程中探求解决方案，在人工智能带来的风险中寻求危中之机。
邓玉龙：我们应正确看待这种焦虑。要看到，焦虑有其积极的意义，它体现人类的忧患意识，催生对人工智能风险的预见性思考，提醒我们注意焦虑背后人工智能技术发展存在的问题。正确对待焦虑有助于积极采取措施防范风险，辩证分析焦虑中先见性的思考，通过社会治理模式的升级化解风险问题。同时，仅有焦虑和恐惧是不够的，更重要的是积极解决人工智能发展带来的社会问题。从劳动的角度看，人工智能确实会取代部分人类劳动，推动劳动结构转型升级，让劳动向着碎片化、个体化方向发展，劳动者处于弱势地位，面临着“机器换人”的挑战。但是我们也应该理性认识到，人工智能不是对人类劳动能力的完全替代，而是对劳动者提出了更高的要求，要求劳动者掌握科学知识，将技术的发展内化为自身能力，在更具创造性的劳动中实现自身价值。
彭家锋：任何技术的发明使用，不可避免地伴随着这样或那样的风险。人工智能技术自然也不例外，在其应用过程中，同样引发了诸如隐私泄露、算法歧视、法律责任等风险问题。因此，关注人工智能的风险问题，并由此对人工智能的推进产生焦虑，具有一定理论依据和现实基础。但更应当清醒地认识到，人工智能的某些相关风险可以提前得到规避，并不必然会发生；即便真的发生，也仍可不断寻求化解风险的有效手段。以个人隐私滥用风险为例，在治理过程中，虽然不可避免地会涉及个人数据收集和分析处理，但可以通过建立完整的规范和监管体系来保护个人隐私，降低滥用风险。
2.人工智能科技竞争的“伦理赛道”
主持人：习近平总书记在以视频方式出席二十国集团领导人第十五次峰会时指出，“中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康发展”。请谈谈“人工智能原则”应包含哪些内容？科技向善的文化理念对推动全球人工智能健康发展具有怎样的现实价值？
彭家锋：为应对人工智能等新科技快速发展带来的伦理挑战，2022年，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，其中明确了“增进人类福祉”“尊重生命权利”“坚持公平公正”“合理控制风险”“保持公开透明”等五项科技伦理原则。我认为，这五项原则基本涵盖了人工智能原则的伦理要求，彰显了科技向善的文化理念。科技向善的文化理念，根本目标是让科技发展更好地服务社会和人民，带来良好社会或社会公益的善。科技向善对推动全球人工智能健康发展至少具有以下三个方面现实价值：一是塑造公众信任。公众对人工智能的信任很大程度上并不完全由相关风险程度决定，而是取决于公众的利益与价值是否得到足够重视。后者正是科技向善的内在要求。二是引领技术创新。科技向善的文化理念将在技术创新发展过程中发挥价值引领作用。三是促进全球合作。科技向善的文化理念试图在全球范围内建立人工智能伦理规范的“最大公约数”，各国在达成伦理共识的基础之上，能够建立互信，实现更加充分深入的国际合作。
虞昊：个人认为，人工智能原则也应包含非对抗与非失控的理念。非对抗意味着不应将人工智能视作人类社会的对抗性存在，人工智能已经成为人类社会的构成性要素，我们必须持更为开放的态度去面对人工智能。非失控意味着不应放弃对人工智能的伦理规范，应以智能的方式去规范加速发展的人工智能。如果以上述理念为前提，也就是说，在支持人工智能发展的情况下，科技向善的文化理念在推动全球人工智能健康发展中就变得极为重要。此处的“善”在国家治理层面即指向“善治”，而当人工智能的发展从国家范围扩展到全球范围，“善治”就在构建人类命运共同体的意义上拥有了更贴近现实的内涵。各国应摒弃冷战思维与零和博弈，基于善意与友谊共同思考人类作为整体如何在人工智能的冲击下通往全球性的“善治”。
邓玉龙：2019年欧盟发布《可信赖的人工智能伦理准则》，2021年中国国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》（以下简称《规范》）。与欧盟发布的伦理准则相比，《规范》体现了中国特色社会主义的制度优势，旨在将伦理规范融入人工智能全生命周期。人工智能发展的根本目的是促进人的全面发展，因此，我以为，人工智能原则还应体现共享和有序发展的要求。共享，旨在防止人工智能的技术垄断。科技发展应该兼顾全体人民的利益，而不是服务于少数群体，由全体人民共享科技发展成果，推动全球科技水平的共同增长。有序发展，旨在防止人工智能技术的无序扩张。人工智能技术的发展最终是为了提升人的幸福感，推动科技有序发展能够促进人机和谐融合，有效预防潜在无序扩张的风险。
主持人：从规范层面来说，伦理反思对规范人工智能发展的作用主要体现在哪些方面？
彭家锋：近年来，世界各主要国家在人工智能领域竞争日趋激烈，纷纷将人工智能发展置于国家发展的战略层面。比如，美国陆续出台《国家人工智能研究和发展战略计划》（2016）和《关于维持美国在人工智能领域领导地位的行政命令》（2019）；欧盟先后发布《欧洲人工智能战略》（2018）和《人工智能白皮书》（2020）；中国也较早发布了《“互联网+”人工智能三年行动实施方案》（2016）和《新一代人工智能发展规划》（2017）。人工智能科技竞争的客观局面已然形成。在此背景下，如果忽视人工智能技术发展所带来的全球性风险与挑战，极有可能陷入技术赶超的竞争逻辑。因此，亟须规范人工智能的科技竞争，而倡导伦理反思或许就是一条可行之路。伦理反思的意义至少在于：一是设定伦理底线。人工智能技术的开发和应用需要遵循一些基本的价值理念和行为规范。只有守住伦理底线，才有可能避免颠覆性风险的发生。二是实现敏捷治理。伦理反思是一个动态、持续的过程，贯穿于人工智能科技活动的全生命周期。为了确保其始终服务于增进人类福祉和科技向善的初衷，需要保持应有的道德敏感性，以灵活、及时、有效的手段化解人工智能带来的各种伦理挑战，确保其在科技向善的道路上行稳致远，实现良性发展。
邓玉龙：人工智能科技竞争是为了促进科学技术发展，而科学技术发展的最终目的是推动人类社会的进步。人工智能科技竞争不应该仅包括技术竞争的单一维度，更不应该通过技术优势遏制他国的科技发展，而应该是在人工智能科技条件下的综合性竞争，通过良性竞争促进全球人工智能和全人类的共同发展。其中就应该包括社会治理竞争，通过社会治理保障社会公平，因而对社会中人与人关系的伦理反思构成人工智能科技竞争的有机组成部分。首先，伦理反思对人工智能科技竞争提出了更高的要求。人工智能的公平性、可信任性、可解释与透明度、安全性不仅是伦理要求，也代表了人工智能技术的发展方向，是人工智能科技竞争需要抢占的技术制高点。科技的发展是为了人的全面发展，因而人的发展内嵌于科技发展要求，伦理反思有助于防止工具主义的泛滥。其次，伦理反思为人工智能科技竞争提供价值引导。伦理反思注重保障人的权利，科技发展并不是社会发展中的唯一衡量因素，我们还应该关注其中多样性的因素，尤其注重保护特殊群体的利益，例如防止数据鸿沟等不良影响。伦理反思有助于实现人工智能的综合性健康发展。
3.人工智能安全与人的全面发展
主持人：科学探究一直以来都是人们认识世界和了解自身的重要认知方式，人工智能等信息产业的革命如何影响着人们的认知方式？
彭家锋：人工智能等信息产业的革命，促进了科学研究新范式——数据科学的诞生，进而对人们的认知方式产生深刻影响。数据科学被认为是继实验、理论和模拟之后的新的科研范式。相较于传统科学，数据科学融合了统计和计算思维，通过人工智能等技术提供的海量数据、强大算法和算力，能够直接从数据中寻找相关关系、提取相关性或者预测性知识，进而产生一种基于相关性的科学思维模式。但这种相关性并不一定能够转化为因果关系，因为可解释性对于从数据科学技术确定的相关性中提取因果解释至关重要，而相关技术一般都缺乏必要的透明度和可解释性。数据科学更可能成为一种预测科学，但是预测并不是科学追求的唯一目标。通过揭示世界的潜在因果结构来解释和干预现象，也是科学的两个重要目标。因此，尽管数据科学能够通过分析大量数据生成相关性知识，却不能直接产生因果解释。对此，传统科学的可检验性假设方法和因果规律探求仍有其重要价值。数据科学并非取代传统科学，相反，两者将相互补充，共同成为人类探索世界的有效工具。
虞昊：显而易见的是，随着人工智能向着通用人工智能迈进，其能够为人们提供的教育资源、生活娱乐、工作讯息也越来越丰富，人们势必越来越依赖于通过与人工智能进行交互来获取外界信息。因此，当人工智能深度地构成人们认知世界的滤镜时，若不对人工智能本身具有重复性、同质性倾向的认知框架保持警醒，人工智能可能扭曲人们的认知方式直至影响人的主体创造性。
邓玉龙：以人工智能为代表的全新技术发展被称为第四次工业革命，其中最显著的特征就是机器与人类的深度融合，机器不再作为一种外在性的工具被人类使用，而是在与人类的深度关联中影响人类的认知方式。一方面，信息产业革命丰富了人类认知的联结方式。人工智能和大数据技术的发展促进人类的分析逻辑从因果关系扩展为相关关系，对相关关系的重视使人工智能可以从大数据而非小数据维度获取信息，为人类认知提供新的视角。按照传统人类认知方式的理解，因果关系要求关于世界的认知是确定性的，而这在数字时代的复杂性社会中很难实现。人工智能对相关关系的认知填补了这一缺失，允许我们在无法掌握确定信息但在掌握大量数据的条件下对未来趋势作出预测。另一方面，如果我们对人工智能等科技的输出结果和生成内容盲目信赖，将结果和内容与经验事实之间进行绝对等同的连接，误认为是事实的全部，那么我们就会丧失人文主义抽象反思的能力，对此我们应当保持警惕，始终坚持反思和批判的人文精神。
主持人：如何调适人的主体创造性与信息高度集成共享之间的关系？
彭家锋：当人们逐渐将更多创造性工作交由人工智能完成，不免让人担忧人工智能是否将会威胁到人的主体创造性。从人机关系的角度来看，这种担忧是基于一种人机敌对论的视角，认为人工智能挤压了人的主体创造性空间，是替代逻辑的延续。但从人机协作的视角出发，将人工智能看作人的得力帮手，通过创造性地使用人工智能可以赋予人类更大的创造性空间。比如，在进行文字写作、多媒体脚本、程序代码、文稿翻译等工作时，可先由人工智能高水平地完成草稿工作，然后再由人类进行一些创造性的调整和发挥。此时人工智能生成的内容将成为进一步创作的原材料，人类将以更高的效率投入创造性活动之中。当然，要实现以上效果并非易事，不仅需要思想观念的转变，还应在制度安排、教育方式等方面作出相应调整。
虞昊：面对信息高度集成共享的人工智能，人有可能转变为算法的动物。试想下述场景：当依据人工智能展开行动变得足够便捷有效时，行动者便会倾向于采信人工智能，此时，看似是人类行动者基于自然语言在进行互动，实则是算法逻辑基于计算机语言在进行数字化运转。于是，人的主体创造性被侵蚀，人可能沦为算法动物。对此类情形，我们应该保持足够的清醒与警惕。
邓玉龙：人工智能技术生成的内容（AIGC）具有高度集成共享的特性，能够高效地对人类知识进行数据挖掘、信息生成。调适人的主体创造性与信息高度集成共享之间的关系，我们需做到如下几个方面：首先，需要通过人的创造性扩大AIGC数据库，当下AIGC主要是依赖于大语言模型，以大量的网络文本作为训练数据库生成的，通过人的创造性生成可以不局限于网络文本，而是进一步扩展数据库的训练文本，从而提高其丰富度。其次，需要通过人的创造性为AIGC提供价值训练，通过人的创造性生成的价值立场、伦理法则等与AIGC的训练数据库相融合，从而建构可信赖、可持续的信息高度集成共享机制。最后，需要将人创造性生成的内容与AIGC共同作为人类知识的来源，人类知识的获得不能仅仅局限于AIGC，而是需要人发挥其主体创造性对人工智能技术生成的内容进行反思和拓展，将人类无法被数据化的、经验性的知识与AIGC数据化的知识融合成为人类知识的来源。
（本版编辑张颖天整理）
人工智能发展应用中的安全风险及应对策略
（4）应用场景的影响。谷歌公司机器人阿尔法狗战胜韩国围棋九段棋手李世石和围棋世界冠军柯洁，唤醒了世人对人工智能的高度关注。百度指数数据显示，从2015年底开始，“人工智能”热度逐渐升温，且持续到现在。2015-2016年，其媒体关注度已经暴涨6倍。
2.发展现状
目前，人工智能蓬勃发展，技术进步迅速，其应用已经渗透到我们的日常生活中，如人脸识别、刷脸支付、语音助手、无人机、服务机器人、自动驾驶和智能系统等。与互联网、大数据、物联网、云服务融合的人工智能应用给我们带来了更多的便利。专家认为，人工智能的应用将使劳动生产率提高90%；至2035年，人工智能将使年度经济增长率提高一倍。
但是，业界普遍认为真正的人工智能尚处于发展的初级阶段（认知智能发展阶段），即弱人工智能阶段，有“技能”，但远远谈不上有“智能”，还没能出现像人一样思考和行动的真正的人工智能产品，离通过“图灵测试”这一衡量人工智能技术水平的标准为时尚远。有专家认为，人工智能目前处于婴儿期，其智商大抵相当于3岁的孩子，说不好、笑不真、想不清、行不稳，这四“不”客观地描写了人工智能目前的现状。
02安全风险
1.国家安全
国家安全包括国土安全、政权安全、制度安全和意识形态安全等。2017年7月，美国智库发表题为《人工智能与国家安全》的研究报告，认为人工智能将会是国家安全领域的颠覆性力量，其影响可与核、航空航天、信息和生物技术比肩，将深刻改变军事、信息和经济领域安全态势。该报告强调人工智能通过变革军事优势、信息优势和经济优势影响国家安全。其中，军事领域引入人工智能几乎是不可阻挡的，而人工智能技术与生俱来的军民两用特性则要求决策者必须调和商业与国家安全之间的利益。而且，利用“换脸”、“换声”等人工智能技术可以制作具有欺骗性的假时事新闻。已有案例说明，利用人工智能技术在社交平台大量制作散发虚假新闻可以在政府首脑选举中影响选民的抉择。
2.社会安全
传统犯罪借助人工智能，将会衍生出新型犯罪形态、犯罪行为、手段和方法，出现无法辨识是机器人犯罪还是真实人犯罪的尴尬场景。2018年3月，美国发生了两起涉及自动驾驶的车祸。3月19日，优步（Uber）一辆自主驾驶汽车在美国亚利桑那州坦佩市发生致命车祸，一名49岁的女子晚上推着自行车穿过马路时被汽车撞死。3月23日，一名工程师驾驶特斯拉ModelX型号汽车在加州101公路和85公路交接处发生致命车祸，车祸发生时汽车启用了自动驾驶（或自动辅助驾驶）功能。这些案例说明，人工智能产品如果没有彻底解决安全可靠性问题，将会危及社会公共安全和人身安全。
3.网络安全
网络和大数据的发展推动了人工智能的进步，网络攻击智能化趋势也给网络安全保护提出更高要求。有关人工智能与网络安全关系的研究表明，一旦人工智能运用到网络攻击活动，将使得网络攻击活动更加难以预警和防范，关键信息基础设施也将会面临新的安全风险威胁。如人工智能技术运用到木马病毒制作传播，将会出现难以防御的超级病毒木马，传统应对方法将不足以制止这些恶意程序传播扩散的速度。此外，人工智能的技术研发与应用也存在一些不确定性的安全风险。
03应对人工智能安全风险的对策建议
人工智能的安全风险取决于技术发展及其安全可控的程度，短期风险可以预见，长期风险受制于现有认知能力难以预测和判断。因此，一方面，人类社会要积极推动人工智能技术研发和应用；另一方面，要为人工智能的发展应用规划一条安全边界，防止其被恶意运用、滥用，给人类社会造成不可逆转的伤害。
1.加强人工智能安全风险的研究
树立正确的安全观，科学对待人工智能安全风险。研究掌握在人工智能技术研发和应用过程中会出现哪些风险，并从法律、政策、技术和监管等方面进行有效防控管控。
2.加强人工智能立法研究和法律规范
人工智能理论、方法、技术及其应用引发社会关系、社会结构和行为方式的变化，产生不可预知的安全风险和新的法律问题。建议运用法律手段，重点防控人工智能行为主体及其行为的异化。从现有情况看，人工智能法律研究应主要聚焦在人工智能产品主体，如智能机器人的法律地位、行为的法律属性以及法律责任如何确定等方面。在立法方面应加强对人工智能技术应用可能出现的法律问题的前瞻性研究探索。
3.加强人工智能安全防控体系建设
按照趋利避害原则，处理好人工智能发展应用与安全防控的关系，既要促进人工智能发展应用，又要推动其在安全、可靠和可控的轨道上前行。要加强对人工智能安全防控体系建设的战略规划部署，围绕人工智能安全风险点，借鉴已有经验，有步骤地推进人工智能安全综合防控体系建设。
4.加强人工智能产品服务的安全监管
要及时制定人工智能安全产品和服务技术标准规范，规范和引导产品研发推广。加强对人工智能安全产品和服务的市场监管执法和相关产品上市前的安全测试。对有安全缺陷的产品和服务要依法处理，对造成危害后果的要依法追究法律责任。要积极运用人工智能技术提高安全监管能力，善于运用人工智能技术改进和加强安全监管执法，提高安全监管执法的能力和效率。
5.加强人工智能技术研发的管控
人工智能的快速发展引起了国际社会对于道德伦理问题的关注和担心，应当为人工智能技术研发划出“红线”，设置禁区，禁止研究开发危害人类生存安全的人工智能技术和产品，防止人工智能技术的滥用。美国科幻小说家阿西莫夫在1950年出版的小说《我，机器人》中提出了著名的“机器人三大法则”，第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险时袖手不管；第二定律：机器人必须服从人类发出的命令，当该命令与第一定律冲突时例外；第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。2017年1月，美国著名人工智能研究机构未来生命研究院（FLI）在加利福尼亚州召开主题为“有益的人工智能（BeneficialAI）”的阿西洛马会议，法律、伦理、哲学、经济、机器人和人工智能等众多学科和领域的专家，共同达成了23条人工智能原则（“阿西洛马人工智能原则”，被称为人工智能发展的“23条军规”），呼吁全世界在发展人工智能的时候严格遵守这些原则，共同保障人类未来的利益和安全。23条规则规定，人工智能研究的目标应该建立有益的智能，而不是无向的智能。应该设计高度自主的人工智能系统，以确保其目标和行为在整个运行过程中与人类价值观相一致。对于人工智能造成的风险，尤其是那些灾难性的和存在价值性的风险，必须付出与其所造成的影响相称的努力，以用于进行规划和缓解风险。同时，人工智能军事化问题也是国际法律界关注的热点。目前，国际上限制致命性人工智能武器的呼声不绝于耳，有上百家人工智能领先企业呼吁禁止发展致命性人工智能武器。国际社会应当共同努力，加强合作，反对人工智能军事化，共同应对人工智能安全风险。返回搜狐，查看更多
人工智能对中国劳动力市场的影响
周广肃、褚高斯、李力行、孟岭生（中国人民大学劳动人事学院、百度公司集团战略部、北京大学国家发展研究院、香港中文大学经济系）
自动化和人工智能技术在当今经济和社会发展中发挥了越来越重要的作用，尤其是随着互联网+、大数据、云计算等相关技术的发展，人工智能很有可能会引发新一轮的科技革命浪潮，并对经济社会发展的各个方面产生重要影响。为了抓住人工智能经济带来的新的发展机会，我们国家也出台了一系列刺激人工智能发展的规划纲要或政策文件，希望推动中国成为世界主要的人工智能创新中心之一。人工智能是将人的智力和思维模式融入到机器的运作过程中，将会对许多职业和工作产生重要的影响，但是影响结果到底是什么，取决于人工智能产生的替代效应、互补效应和创造效应的相对大小。一方面，人工智能是一种能够替代劳动力的技术进步，越来越多的工作可能会被人工智能取代；另一方面，人工智能的发展还会通过互补效应来带动一部分就业的增长，或者在其相关领域创造一些前所未有的职业类型。为了较为严谨地回答这一问题，本文尝试性地估计了人工智能对就业所产生的潜在替代效应的大小。首先，根据本文中计算的人工智能应用率和Frey&Osborne（2017）估计的人工智能理论替代概率，本研究估算了人工智能对中国各种职业的实际替代概率。通过在职业层级应用实际替代概率，我们还探讨了人工智能对不同特征劳动力的替代效应，发现人工智能对女性、老年人、受教育程度低和低收入的劳动力有较大替代作用。这一结论表明，人工智能对劳动力市场所带来的替代效应并不是中性的，而是对劳动力市场中的相对弱势群体产生了更大的影响，这很有可能会进一步加剧他们的弱势地位。接下来，我们还预测了每个行业中被人工智能替代的就业人数，结果显示，到2049年中国将有2.78亿劳动力（不同应用率下结果是2.01亿至3.33亿）被人工智能替代，占中国当前就业人数的35.8％。其中，中国将有1.42亿城市劳动力被人工智能替代，占城市总就业人数（4.34亿）的32.7%；同时，中国农村劳动力中将有1.35亿人被取代，占农村劳动力总数（3.42亿）的39.5%。具体而言，城市中就业替代数量最大的三个行业是制造业，交通运输、仓储和邮政业，农林牧渔业；中国农村中就业替代数量最大的三个行业是农林牧渔业，制造业和建筑业。当然，以上只是基于人工智能的应用率和对不同职业的理论替代率计算而出的，人工智能对中国劳动力市场的影响也还受制于许多其他因素。首先，它取决于人工智能技术和人类传统劳动力的相对使用成本和收益。虽然目前中国劳动力成本显著增加，但与发达国家相比仍然相对较低，若将劳动力成本因素考虑在内，人工智能的应用则可能需要更长时间。其次，中国逐步加快的人口老龄化进程也会作用于人工智能对中国劳动力市场的影响，但人工智能也会反过来弥补老龄化进程加快造成的劳动力数量的减少。第三，与其他技术类似，人工智能技术在产生巨大替代效应的同时，也具有非常显著的创造效应。受人工智能上下游产业发展的驱动，人工智能技术将创造出一系列相关领域的工作或新职业，但是目前这一数值难以估计。虽然本研究侧重于预测性分析而非因果推断，但它为研究自动化和人工智能对中国劳动力市场的影响提供了第一手实证证据。中国将发展以人工智能为代表的智能产业作为国家重要的产业政策之一，同时也须认真处理人工智能对劳动力市场的潜在影响。首先，应全面考察人工智能对劳动力市场的影响，特别是对不同特征劳动力的影响，此举十分必要。我们的研究表明，人工智能对不同职业、不同行业和不同特征的劳动力具有异质性影响。只有准确分析人工智能的不同影响，才能制定更有针对性的政策。其次，要更加重视人力资本投资的重要性，不断提升中国劳动者的人力资本。中国应该采取更多措施，来帮助劳动力市场中相对弱势的群体（如女性、低教育程度、老年人和低收入群体），特别是通过职业教育或培训来提升其劳动技能和人力资本，从而尽可能地避免人工智能的负面影响。我们还应该关注人工智能对劳动者福利的影响，尽量减少由于就业机会减少和工资增长放缓导致的福利损失。最后，政府还应该关注人工智能可能造成的社会两极分化和不平等现象。随着人工智能的发展，劳动力将至少分化为两个不同的群体——高技能群体和低技能群体，两者将面临完全不同的工作机会和收入水平，而这种社会分化将会进一步加剧不平等和社会矛盾的激化。为了解决这些问题，政府可以发挥税收和转移支付制度的作用。例如，对人工智能设备或机器人征税，补贴被替代的劳动者或者用以提高他们的工作技能；此外，此项税收也可用于解决老龄化造成的养老金短缺问题。
GuangsuZhou,GaosiChu,LixingLi&LingshengMeng(2019)TheeffectofartificialintelligenceonChina’slabormarket,ChinaEconomicJournal,13:1,24-41原文链接：https://www.tandfonline.com/doi/full/10.1080/17538963.2019.1681201
作者简介：周广肃，中国人民大学劳动人事学院副教授，研究重点关注劳动力市场、收入不平等、家庭经济决策等议题，曾获得刘诗白经济学奖、《经济学》（季刊）最佳论文奖、全国优秀财政理论研究成果二等奖等。
褚高斯，百度公司集团战略部高级顾问。
李力行，北京大学国家发展研究院教授、青年长江学者，研究兴趣包括发展经济学、人力资本、公共财政学等，曾获北京大学“黄廷芳/信和”青年杰出学者奖、北京大学方正奖教金、北京大学人文社会科学研究优秀成果奖、北京大学教学优秀奖等荣誉。
孟岭生，香港中文大学经济系副教授、马里兰大学经济学博士，研究领域涉及劳动经济学、中国经济等。
人工智能的快速发展，对我们的不利影响有哪些
No.10致人大量失业近年来，机器代替人，已成事实。大到汽车制造，小至自助服务终端，都有这种趋势。当机器配上人工智能，它就能自动更新，人类被代替的趋势，愈演愈烈。这将造成失业工人大量涌现，只有少数人从中受益，比如智能机器的制造者、使用者和升级者。No.9陷入道德窘境如果人工智能控制一辆汽车，载着几名乘客，在公路上行驶。突然发现路上有一麻袋垃圾，智能汽车会怎么办？它会转弯避开垃圾，撞向旁边造成车祸而伤人呢？还是会径直撞向垃圾？我们都希望是后者。但是，假如路上的不是一麻袋垃圾，而是一只病狗，或者一个婴儿呢？智能汽车会认为一只动物不值得去救，或者一个婴儿远不及几个乘客的生命宝贵，而直接撞上去吗？如果人开车，马上就能做出正确决定，但汽车自动驾驶的话，估计会酿成悲剧。不管机器有多智能，它和人始终有差距，它做不出道德判断！No.8方便黑客入侵未来的冰箱、烤箱、电灯、汽车等，日常用品都将联网。方便我们自己，同样也方便了黑客。Siri是苹果iOS系统的智能语音助手。未来，它将浓缩进一个小盒子，接入网络，全天候工作，自动更新，自动记录，保存你所有信息。Siri一旦被黑客攻取，后果非常严重。由人工智能储存保护个人信息，你能放宽心吗？No.7差错不曾减少最初，人类以为机器按事先编好的程序工作，效率提升，不会出差错。实际上，机器频频出错，由此带来的烦恼不胜枚举。它误听语音指令，它无动于衷，它错误识别命令，它反应过激，等等。这与机器带来的好处几乎抵消。更可气的，明明出了差错，应当立即停止，但机器仍在运行，甚至继续执行下一步操作！因为它根本意识不到出了差错，它在执行程序而已。只要事先编好的程序不中断，机器就不会停止，无论有没有出差错。No.6差错更难修正人犯错了，自己能意识到，能立即收集整理改正。“知错能改，善莫大焉。”机器出错，自己意识不到，相反，需要人找到出错的根源。重新检查程序，浏览代码，确定根源，然后编写补丁程序，再检验补丁，更新补丁，有时需要补丁的补丁，最后甚至导致程序整体升级。两相比较，孰易孰难？高下立判！对人而言，只需一句告诫：“不要再犯错，因为……”对机器而言，修正差错似乎繁琐到令人厌烦，很不值得。No.5反仆为主机器是帮助人的，智能机器对人的帮助应该更大，可实际上呢？假如你家里有位机器人，它储存你的个人信息，很了解你。你喜欢啤酒、披萨、冰淇淋，在网上订外卖。但机器人觉得这些食物不健康，为你着想，就在网上私自更改菜单，改成了胡萝卜、生菜、鳕鱼肝油。再假如你皮肤过敏，怕晒太阳。机器人在网上获悉天气预报，它觉得晴天紫外线强烈，不适合你出门。为你着想，它把你锁在家里，坚决不开门（门及家里各种设备都是联网的）。你无法上班，怎么交差？假如你的上司也是机器人，你又怎么解释？No.4致人懒惰退化制造机器人，就是为了帮助人类，使人类更轻松惬意、繁荣兴盛。比如，生活中机器人随时提醒，什么时间吃药，喝酒到什么程度刚刚好；机器人还可以洒扫庭除、烧水做饭。人类要么悠闲逛街，要么一心搞研发，其他什么都不用做。实际上恰恰相反。人类不是更悠闲，而是更懒惰，甚至退化。机器人承担一切家务，打扫拾掇，买米买肉，煮饭烧菜等等。人类则呆在家里不出门，蜷在沙发看电视，窝在床上玩手机。如今，年轻一代参加户外活动越来越少，他们通过手机和网络相互沟通。下一步，他们就呆在家里，窝在床上，蜷在沙发，动动嘴唇发发指令，智能机器包办一切，而我们越来越懒，身体机能越来越退化。No.3反叛终结人类在美国科幻大片《终结者》里，人工智能觉醒，发动核战，操控机器，于是各种用途各种形状的机器人、销毁机器人的钢铁溶池、无所不在的天网等，有条不紊地运行；人类处境非常不妙。人工智能配上武器，后果将非常严重。今天，给机器人装上枪炮，相当于给人类提前掘了坟墓，奏了死亡之曲，直到将来有一天，机器智能觉醒。战场上，机器人减少人类伤亡，但是，我们不能保证机器人的枪口永远朝外。人类制造机器人，机器人学会杀人，这应了《侏罗纪公园》的名言：“生命会自己找出路。”No.2替代主宰人类常常这样听说：机器人将占领地球，屠杀、奴役人类，而人类不得已逃到地下求生，暗无天日。如同《黑客帝国》，机器主宰地球，人类要么沉浸于无知却美好的虚拟世界，要么拼杀在磨难而残酷的现实世界。然而，如果人工智能懂得进化，学习人类更多特性，使自己更像人，会怎么样？机器人懂得感情，有了焦虑、后悔、沮丧、嘲讽、爱情、厌烦、猥亵、快乐等等情感，与人类又有何异？在地球上，这些机器人将居于主导地位，替代主宰人类。科幻世界里，《2001太空漫游》的哈尔，能力出众，精通唇语，妄图控制人类；《银河系漫游指南》的马文患抑郁症，又是偏执狂，极其唠叨；《飞出个未来》的班德，嗜酒如命，自私自利，脾气暴躁。这种机器人越来越多，人类立足之地将会越来越少。No.1灭亡人类世界被机器人统治，人类被灭亡，末日来临——这是人工智能带给人类的最大灾难。灭亡人类，只因为机器人把人类视为自己进化路上的唯一障碍。又或许，机器人被植入了“保护地球”的程序，它遵命而行，只不过把人类当成了地球的最大威胁。不管什么原因，至少结果都一样——人类被消灭了，而人类也不可能知道原因了。但是，唯一知道的是，这全部由人类自己的错误造成。人类当警醒，否则，将来可能只剩下灵魂在悲泣：“早知如此，何必当初！”
人工智能、大数据、云计算和物联网的未来发展值得重视，均为前沿产业，多智时代专注于人工智能和大数据的入门和科谱，在此为你推荐几篇优质好文：1.人工智能时代，AI人才都有哪些特征？http://www.duozhishidai.com/article-1792-1.html2.大数据携手人工智能，高校人才培养面临新挑战http://www.duozhishidai.com/article-7555-1.html3.人工智能，机器学习和深度学习之间，主要有什么差异http://www.duozhishidai.com/article-15858-1.html4.大数据人工智能领域，如何从菜鸟晋级为大神http://www.duozhishidai.com/article-1427-1.html
多智时代-人工智能和大数据学习入门网站|人工智能、大数据、物联网、云计算的学习交流网站
人工智能发展的历史、现状和未来展望
0分享至文|探古论今人编辑|探古论今人引言
人工智能，简而言之，也就是指通过模拟人类智能的方式来实现智能化的机器或系统。它是一种让机器具备类似人类思维和行为的能力，能够通过学习、推理和适应等方式，自主地执行任务和解决问题。人工智能通常涵盖多个子领域，包括机器学习、计算机视觉、自然语言处理、语音识别、知识表示、推理和规划等。这些子领域共同构成了人工智能的技术基础，使得机器能够更加智能地处理信息和执行任务。在今天，人工智能的应用广泛，包括但不限于医疗、金融、制造业、零售、交通、教育等领域。例如，在医疗领域，人工智能可以通过学习大量的病历数据，帮助医生进行疾病诊断和治疗决策。在制造业领域，人工智能可以帮助企业提高生产效率和质量，减少资源浪费和成本开支。当然，伴随着人工智能的发展取得了长足进步，一些风险和挑战也随之而来，如隐私保护、数据安全、伦理道德等问题。因此，在人工智能的发展过程中，需要加强法律和道德监管，保障人们的利益和权益。人工智能发展的历史
人工智能的起源可以追溯到上世纪50年代初，当时计算机科学家们开始思考如何让机器像人类一样思考和行动。当时的研究集中在解决一些基础问题，如机器如何理解和处理语言，以及如何模拟人类的逻辑思考等。1956年，达特茅斯会议上正式提出了“人工智能”这个术语，并且人工智能这个领域也开始逐渐成为一个独立的学科。在接下来的几十年里，人工智能领域经历了多次的高潮和低谷。尽管在理论和技术方面有了长足的进步，但是人工智能技术在实际应用中一直受到限制，缺乏足够的数据和计算能力等资源。人工智能技术的发展历程可以大致分为以下几个阶段：1，机器逻辑阶段（1950年代-1960年代）这个阶段的人工智能技术主要集中在逻辑推理和符号计算方面。研究人员尝试用数学公式和逻辑规则来描述人类的思维过程，并通过编程实现在计算机上。早期的人工智能研究集中在推理、学习和问题求解等方面，如“通用问题求解”。2，知识库阶段（1960年代-1970年代）在这个阶段，研究人员意识到单纯的逻辑规则和符号计算并不能解决所有问题，因为现实世界的知识和经验是复杂而模糊的。因此，研究人员开始构建知识库，将人类的知识和经验存储在计算机中，以便机器可以使用这些知识来推理和解决问题。3，神经网络阶段（1980年代-1990年代）这个阶段的人工智能技术主要集中在神经网络和机器学习方面。研究人员试图通过模仿人类神经系统的结构和功能来构建神经网络模型，实现自主学习和模式识别等功能。这个时期的代表性工作包括BP神经网络算法、支持向量机等。4，深度学习阶段（2000年代-至今）随着大数据、高性能计算和云计算等技术的发展，以深度学习为代表的新一代人工智能技术开始兴起。深度学习使用多层神经网络来自动学习特征，并利用大量数据来训练模型，实现高精度的图像识别、语音识别、自然语言处理等任务。深度学习的代表性工作包括卷积神经网络（CNN）、循环神经网络（RNN）等。总体来说，人工智能技术的发展历程表明，人工智能技术不断进步和发展，越来越接近于实现真正的智能化，为人类社会带来了广泛的应用和变革。人工智能现状
一、人工智能技术的应用领域人工智能技术已经广泛应用于各个领域，包括但不限于以下几个方面：自然语言处理领域——自然语言处理是人工智能的一个重要领域，包括语音识别、文本理解、自然语言生成等方面的应用。自然语言处理技术已经应用于语音识别、机器翻译、智能客服等众多场景。计算机视觉领域——计算机视觉是人工智能的另一个重要领域，主要包括图像识别、目标检测、图像生成等方面的应用。计算机视觉技术已经应用于安防监控、智能交通、智能家居等领域。机器学习领域——机器学习是人工智能的核心技术之一，包括监督学习、无监督学习、强化学习等方面的应用。机器学习技术已经应用于金融风控、推荐系统、智能营销等众多领域。智能制造领域——智能制造是近年来人工智能技术的新应用领域，包括智能物流、智能工厂、工业互联网等方面的应用。智能制造技术可以提高生产效率、降低成本、提升产品质量，已经成为制造业转型升级的重要手段。医疗健康领域——人工智能技术在医疗健康领域的应用也越来越广泛，包括疾病诊断、医疗影像分析、健康管理等方面的应用。人工智能技术可以帮助医生进行更准确的诊断和治疗，提高医疗水平和效率。二、人工智能技术的发展现状目前，人工智能技术正在经历快速发展期，比如，随着深度学习等技术的发展，人工智能技术的算法和模型越来越成熟，应用领域也越来越广泛。与此同时，人工智能技术的应用场景也在不断扩展，包括智能驾驶、智能客服、智能家居等新兴领域。同时，人工智能技术在传统领域的应用也越来越深入，如金融、制造业等。当然，人工智能技术的发展也推动了产业链的不断完善，从算法、芯片、硬件到软件、应用等各个环节都有了更加成熟的供应链和生态系统，为人工智能技术的发展提供了更好的支撑。如今随着5G、物联网、云计算等新技术的不断发展，人工智能与其他技术的融合也加速了。这些新技术为人工智能技术的应用提供了更好的条件，同时也为人工智能技术的发展带来了更多的机遇和挑战。三、人工智能技术的发展趋势从当前发展情况来看，未来，人工智能技术的发展将呈现出以下几个趋势：更加智能化——人工智能技术将更加智能化，不仅能够感知环境、识别物体、理解语言等基本能力，还将具备更高级的智能能力，如推理、判断、决策等。更加个性化——人工智能技术将更加个性化，能够根据不同用户的需求和偏好，为用户提供更加个性化的服务和体验，进一步提高用户满意度。更加普及化——人工智能技术将更加普及化，不仅会在传统领域发挥作用，还将进入更多新兴领域，如教育、娱乐、社交等领域，为人们的生活带来更多的便利和乐趣。更加安全可靠——人工智能技术将更加安全可靠，随着人工智能技术在金融、医疗等领域的应用不断加深，安全和可靠性将成为人工智能技术发展的重要考量因素。更加生态化——人工智能技术将更加生态化，人工智能技术的发展将不仅仅是技术的发展，还将涉及到人才培养、产业生态、政策法规等多个方面，为人工智能技术的健康发展提供更好的支撑。人工智能的社会和经济影响
人工智能作为一项新兴技术，对社会和经济产生了深远的影响，具体表现在以下几个方面。人工智能技术作为一项新兴的技术，对社会产生了深远的影响，涉及到社会、经济、文化等各个方面。一、社会影响人工智能技术的应用可以提高社会效率。例如，在医疗领域，人工智能技术可以用于医学图像分析、智能诊断、药物研发等方面。通过人工智能技术的辅助，医生可以更快速地判断病情，提高治疗效率，缩短就诊时间，降低医疗成本，从而让更多的患者受益。除此之外，人工智能技术的应用，改变了就业结构。例如，在制造业中，人工智能技术可以用于机器人生产线的自动化，从而减少了人工成本，提高了生产效率。这将会对传统工业产业链带来重大的影响。另外，在服务业中，人工智能技术可以用于客服机器人、智能语音助手等领域，替代一些低端服务工作。虽然这种替代会导致一些人失业，但同时也会创造一些新的就业机会。当然，人工智能技术的应用也改变了人们的生活方式。例如，在智能家居领域，人工智能技术可以用于智能家电的控制、智能家居设备的连接、家庭安防等方面，让人们的生活更加智能、便捷、舒适。二、经济影响人工智能技术的应用，推动了产业升级。例如，在制造业中，人工智能技术可以用于机器人生产线的自动化，从而提高生产效率，降低生产成本，提高产品质量，推动了制造业的转型升级。与此同时，它还带来了新的商业模式。例如，在电商领域，人工智能技术可以用于智能推荐、智能搜索、智能客服等方面，为用户提供更加智能、个性化的购物体验。另外，在金融领域，人工智能技术可以用于风险评估、投资分析、智能理财等方面，为投资者提供更加精准、有效的投资建议，也带来了新的投资模式和机会。例如，在智能汽车领域，人工智能技术可以用于智能驾驶、智能交通、智能制造等方面，推动了智能汽车产业的发展。另外，在物联网领域，人工智能技术可以用于智能家居、智能医疗、智能城市等方面，推动了物联网产业的发展。三、文化影响人工智能技术的应用，改变了人机交互方式。例如，在智能语音助手领域，人工智能技术可以用于语音识别、语音合成、自然语言处理等方面，让人们与机器之间的交互更加自然、便捷、智能。与此同时，这也改变了信息获取方式。例如，在智能推荐领域，人工智能技术可以通过分析用户的兴趣、行为、历史等数据，为用户推荐个性化的信息和服务。这种信息获取方式，相对于传统的搜索和浏览方式，更加高效、准确、便捷。当然，同样值得一提的是，人工智能技术的应用也推动了文化创意领域的创新。例如，在音乐创作领域，人工智能技术可以用于生成音乐、作曲、编曲等方面，为音乐创作带来了新的思路和方式。另外，在文学创作领域，人工智能技术可以用于文本生成、情感分析、内容推荐等方面，为文学创作带来了新的可能性。话说到这儿，尽管人工智能的发展为人类社会带来了很多优势和机会，但是也带来了一些负面影响。以下是人工智能发展对人类社会带来的负面影响：如，人工智能技术可以代替人类完成许多工作，尤其是那些重复性、简单性较高的工作。这种替代，可能会导致部分工人失去工作机会，增加了他们失业的风险。同时人工智能技术需要大量的数据进行学习和训练，这些数据往往包含了用户的个人信息和隐私。如果这些数据被不法分子窃取或滥用，就可能导致用户的隐私和安全问题。人工智能技术虽然可以完成许多工作，但它本身并不具有道德判断力。这就需要人类对人工智能技术进行监管和管理，以防止它被滥用。例如，在军事领域，人工智能技术可以用于无人机、自动化武器等方面，但如果这些技术被恶意使用，就可能导致不可预测的后果和伤害。当然，最为严峻的是，人工智能技术的应用，可能会导致社会分化。由于人工智能技术对于高技能、高知识、高素质人才的需求越来越大，他们往往能够获得更多的机会和回报。相反，低技能、低知识、低素质的人可能会失去工作机会，进一步加剧社会的分化。笔者观点
综上所述，人工智能技术的应用，对社会产生了深远的影响，不仅带来了诸多的优势和机会，也面临着许多的挑战和问题。因此，我们应该以积极的态度面对人工智能技术的发展，同时也应该警惕其中的风险和挑战，做好充分的准备和应对措施。参考文献[1]通向人工智能时代——兼论美国人工智能战略方向及对中国人工智能战略的借鉴[J].何哲.电子政务,2016(12)[2]人工智能安全问题及其解决进路[J].杜严勇.哲学动态,2016(09)[3]人工智能:“热闹”背后的“门道”[J].钟义信.科技导报,2016(07)[4]一个科学新领域——开放的复杂巨系统及其方法论[J].钱学森.上海理工大学学报,2011(06)[5]复杂网络与一类开放的复杂巨系统的探讨[J].崔霞,李耀东.复杂系统与复杂性科学,2004(01)[6]复杂巨系统科学——一门21世纪的科学[J].戴汝为.自然杂志,1997(04)[7]开创复杂巨系统的科学与技术—祝中国系统工程学会第八届学术年会的召开[J].钱学森.系统工程理论与实践,1995(01)特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端