人工智能的历史、现状和未来
如同蒸汽时代的蒸汽机、电气时代的发电机、信息时代的计算机和互联网，人工智能正成为推动人类进入智能时代的决定性力量。全球产业界充分认识到人工智能技术引领新一轮产业变革的重大意义，纷纷转型发展，抢滩布局人工智能创新生态。世界主要发达国家均把发展人工智能作为提升国家竞争力、维护国家安全的重大战略，力图在国际科技竞争中掌握主导权。习近平总书记在十九届中央政治局第九次集体学习时深刻指出，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。错失一个机遇，就有可能错过整整一个时代。新一轮科技革命与产业变革已曙光可见，在这场关乎前途命运的大赛场上，我们必须抢抓机遇、奋起直追、力争超越。
概念与历程
了解人工智能向何处去，首先要知道人工智能从何处来。1956年夏，麦卡锡、明斯基等科学家在美国达特茅斯学院开会研讨“如何用机器模拟人的智能”，首次提出“人工智能（ArtificialIntelligence，简称AI）”这一概念，标志着人工智能学科的诞生。
人工智能是研究开发能够模拟、延伸和扩展人类智能的理论、方法、技术及应用系统的一门新的技术科学，研究目的是促使智能机器会听（语音识别、机器翻译等）、会看（图像识别、文字识别等）、会说（语音合成、人机对话等）、会思考（人机对弈、定理证明等）、会学习（机器学习、知识表示等）、会行动（机器人、自动驾驶汽车等）。
人工智能充满未知的探索道路曲折起伏。如何描述人工智能自1956年以来60余年的发展历程，学术界可谓仁者见仁、智者见智。我们将人工智能的发展历程划分为以下6个阶段：
一是起步发展期：1956年—20世纪60年代初。人工智能概念提出后，相继取得了一批令人瞩目的研究成果，如机器定理证明、跳棋程序等，掀起人工智能发展的第一个高潮。
二是反思发展期：20世纪60年代—70年代初。人工智能发展初期的突破性进展大大提升了人们对人工智能的期望，人们开始尝试更具挑战性的任务，并提出了一些不切实际的研发目标。然而，接二连三的失败和预期目标的落空（例如，无法用机器证明两个连续函数之和还是连续函数、机器翻译闹出笑话等），使人工智能的发展走入低谷。
三是应用发展期：20世纪70年代初—80年代中。20世纪70年代出现的专家系统模拟人类专家的知识和经验解决特定领域的问题，实现了人工智能从理论研究走向实际应用、从一般推理策略探讨转向运用专门知识的重大突破。专家系统在医疗、化学、地质等领域取得成功，推动人工智能走入应用发展的新高潮。
四是低迷发展期：20世纪80年代中—90年代中。随着人工智能的应用规模不断扩大，专家系统存在的应用领域狭窄、缺乏常识性知识、知识获取困难、推理方法单一、缺乏分布式功能、难以与现有数据库兼容等问题逐渐暴露出来。
五是稳步发展期：20世纪90年代中—2010年。由于网络技术特别是互联网技术的发展，加速了人工智能的创新研究，促使人工智能技术进一步走向实用化。1997年国际商业机器公司（简称IBM）深蓝超级计算机战胜了国际象棋世界冠军卡斯帕罗夫，2008年IBM提出“智慧地球”的概念。以上都是这一时期的标志性事件。
六是蓬勃发展期：2011年至今。随着大数据、云计算、互联网、物联网等信息技术的发展，泛在感知数据和图形处理器等计算平台推动以深度神经网络为代表的人工智能技术飞速发展，大幅跨越了科学与应用之间的“技术鸿沟”，诸如图像分类、语音识别、知识问答、人机对弈、无人驾驶等人工智能技术实现了从“不能用、不好用”到“可以用”的技术突破，迎来爆发式增长的新高潮。
现状与影响
对于人工智能的发展现状，社会上存在一些“炒作”。比如说，认为人工智能系统的智能水平即将全面超越人类水平、30年内机器人将统治世界、人类将成为人工智能的奴隶，等等。这些有意无意的“炒作”和错误认识会给人工智能的发展带来不利影响。因此，制定人工智能发展的战略、方针和政策，首先要准确把握人工智能技术和产业发展的现状。
专用人工智能取得重要突破。从可应用性看，人工智能大体可分为专用人工智能和通用人工智能。面向特定任务（比如下围棋）的专用人工智能系统由于任务单一、需求明确、应用边界清晰、领域知识丰富、建模相对简单，形成了人工智能领域的单点突破，在局部智能水平的单项测试中可以超越人类智能。人工智能的近期进展主要集中在专用智能领域。例如，阿尔法狗（AlphaGo）在围棋比赛中战胜人类冠军，人工智能程序在大规模图像识别和人脸识别中达到了超越人类的水平，人工智能系统诊断皮肤癌达到专业医生水平。
通用人工智能尚处于起步阶段。人的大脑是一个通用的智能系统，能举一反三、融会贯通，可处理视觉、听觉、判断、推理、学习、思考、规划、设计等各类问题，可谓“一脑万用”。真正意义上完备的人工智能系统应该是一个通用的智能系统。目前，虽然专用人工智能领域已取得突破性进展，但是通用人工智能领域的研究与应用仍然任重而道远，人工智能总体发展水平仍处于起步阶段。当前的人工智能系统在信息感知、机器学习等“浅层智能”方面进步显著，但是在概念抽象和推理决策等“深层智能”方面的能力还很薄弱。总体上看，目前的人工智能系统可谓有智能没智慧、有智商没情商、会计算不会“算计”、有专才而无通才。因此，人工智能依旧存在明显的局限性，依然还有很多“不能”，与人类智慧还相差甚远。
人工智能创新创业如火如荼。全球产业界充分认识到人工智能技术引领新一轮产业变革的重大意义，纷纷调整发展战略。比如，谷歌在其2017年年度开发者大会上明确提出发展战略从“移动优先”转向“人工智能优先”，微软2017财年年报首次将人工智能作为公司发展愿景。人工智能领域处于创新创业的前沿。麦肯锡公司报告指出，2016年全球人工智能研发投入超300亿美元并处于高速增长阶段；全球知名风投调研机构CBInsights报告显示，2017年全球新成立人工智能创业公司1100家，人工智能领域共获得投资152亿美元，同比增长141%。
创新生态布局成为人工智能产业发展的战略高地。信息技术和产业的发展史，就是新老信息产业巨头抢滩布局信息产业创新生态的更替史。例如，传统信息产业代表企业有微软、英特尔、IBM、甲骨文等，互联网和移动互联网时代信息产业代表企业有谷歌、苹果、脸书、亚马逊、阿里巴巴、腾讯、百度等。人工智能创新生态包括纵向的数据平台、开源算法、计算芯片、基础软件、图形处理器等技术生态系统和横向的智能制造、智能医疗、智能安防、智能零售、智能家居等商业和应用生态系统。目前智能科技时代的信息产业格局还没有形成垄断，因此全球科技产业巨头都在积极推动人工智能技术生态的研发布局，全力抢占人工智能相关产业的制高点。
人工智能的社会影响日益凸显。一方面，人工智能作为新一轮科技革命和产业变革的核心力量，正在推动传统产业升级换代，驱动“无人经济”快速发展，在智能交通、智能家居、智能医疗等民生领域产生积极正面影响。另一方面，个人信息和隐私保护、人工智能创作内容的知识产权、人工智能系统可能存在的歧视和偏见、无人驾驶系统的交通法规、脑机接口和人机共生的科技伦理等问题已经显现出来，需要抓紧提供解决方案。
趋势与展望
经过60多年的发展，人工智能在算法、算力（计算能力）和算料（数据）等“三算”方面取得了重要突破，正处于从“不能用”到“可以用”的技术拐点，但是距离“很好用”还有诸多瓶颈。那么在可以预见的未来，人工智能发展将会出现怎样的趋势与特征呢？
从专用智能向通用智能发展。如何实现从专用人工智能向通用人工智能的跨越式发展，既是下一代人工智能发展的必然趋势，也是研究与应用领域的重大挑战。2016年10月，美国国家科学技术委员会发布《国家人工智能研究与发展战略计划》，提出在美国的人工智能中长期发展策略中要着重研究通用人工智能。阿尔法狗系统开发团队创始人戴密斯·哈萨比斯提出朝着“创造解决世界上一切问题的通用人工智能”这一目标前进。微软在2017年成立了通用人工智能实验室，众多感知、学习、推理、自然语言理解等方面的科学家参与其中。
从人工智能向人机混合智能发展。借鉴脑科学和认知科学的研究成果是人工智能的一个重要研究方向。人机混合智能旨在将人的作用或认知模型引入到人工智能系统中，提升人工智能系统的性能，使人工智能成为人类智能的自然延伸和拓展，通过人机协同更加高效地解决复杂问题。在我国新一代人工智能规划和美国脑计划中，人机混合智能都是重要的研发方向。
从“人工+智能”向自主智能系统发展。当前人工智能领域的大量研究集中在深度学习，但是深度学习的局限是需要大量人工干预，比如人工设计深度神经网络模型、人工设定应用场景、人工采集和标注大量训练数据、用户需要人工适配智能系统等，非常费时费力。因此，科研人员开始关注减少人工干预的自主智能方法，提高机器智能对环境的自主学习能力。例如阿尔法狗系统的后续版本阿尔法元从零开始，通过自我对弈强化学习实现围棋、国际象棋、日本将棋的“通用棋类人工智能”。在人工智能系统的自动化设计方面，2017年谷歌提出的自动化学习系统（AutoML）试图通过自动创建机器学习系统降低人员成本。
人工智能将加速与其他学科领域交叉渗透。人工智能本身是一门综合性的前沿学科和高度交叉的复合型学科，研究范畴广泛而又异常复杂，其发展需要与计算机科学、数学、认知科学、神经科学和社会科学等学科深度融合。随着超分辨率光学成像、光遗传学调控、透明脑、体细胞克隆等技术的突破，脑与认知科学的发展开启了新时代，能够大规模、更精细解析智力的神经环路基础和机制，人工智能将进入生物启发的智能阶段，依赖于生物学、脑科学、生命科学和心理学等学科的发现，将机理变为可计算的模型，同时人工智能也会促进脑科学、认知科学、生命科学甚至化学、物理、天文学等传统科学的发展。
人工智能产业将蓬勃发展。随着人工智能技术的进一步成熟以及政府和产业界投入的日益增长，人工智能应用的云端化将不断加速，全球人工智能产业规模在未来10年将进入高速增长期。例如，2016年9月，咨询公司埃森哲发布报告指出，人工智能技术的应用将为经济发展注入新动力，可在现有基础上将劳动生产率提高40%；到2035年，美、日、英、德、法等12个发达国家的年均经济增长率可以翻一番。2018年麦肯锡公司的研究报告预测，到2030年，约70%的公司将采用至少一种形式的人工智能，人工智能新增经济规模将达到13万亿美元。
人工智能将推动人类进入普惠型智能社会。“人工智能+X”的创新模式将随着技术和产业的发展日趋成熟，对生产力和产业结构产生革命性影响，并推动人类进入普惠型智能社会。2017年国际数据公司IDC在《信息流引领人工智能新时代》白皮书中指出，未来5年人工智能将提升各行业运转效率。我国经济社会转型升级对人工智能有重大需求，在消费场景和行业应用的需求牵引下，需要打破人工智能的感知瓶颈、交互瓶颈和决策瓶颈，促进人工智能技术与社会各行各业的融合提升，建设若干标杆性的应用场景创新，实现低成本、高效益、广范围的普惠型智能社会。
人工智能领域的国际竞争将日益激烈。当前，人工智能领域的国际竞赛已经拉开帷幕，并且将日趋白热化。2018年4月，欧盟委员会计划2018—2020年在人工智能领域投资240亿美元；法国总统在2018年5月宣布《法国人工智能战略》，目的是迎接人工智能发展的新时代，使法国成为人工智能强国；2018年6月，日本《未来投资战略2018》重点推动物联网建设和人工智能的应用。世界军事强国也已逐步形成以加速发展智能化武器装备为核心的竞争态势，例如美国特朗普政府发布的首份《国防战略》报告即谋求通过人工智能等技术创新保持军事优势，确保美国打赢未来战争；俄罗斯2017年提出军工拥抱“智能化”，让导弹和无人机这样的“传统”兵器威力倍增。
人工智能的社会学将提上议程。为了确保人工智能的健康可持续发展，使其发展成果造福于民，需要从社会学的角度系统全面地研究人工智能对人类社会的影响，制定完善人工智能法律法规，规避可能的风险。2017年9月，联合国犯罪和司法研究所（UNICRI）决定在海牙成立第一个联合国人工智能和机器人中心，规范人工智能的发展。美国白宫多次组织人工智能领域法律法规问题的研讨会、咨询会。特斯拉等产业巨头牵头成立OpenAI等机构，旨在“以有利于整个人类的方式促进和发展友好的人工智能”。
态势与思考
当前，我国人工智能发展的总体态势良好。但是我们也要清醒看到，我国人工智能发展存在过热和泡沫化风险，特别在基础研究、技术体系、应用生态、创新人才、法律规范等方面仍然存在不少值得重视的问题。总体而言，我国人工智能发展现状可以用“高度重视，态势喜人，差距不小，前景看好”来概括。
高度重视。党中央、国务院高度重视并大力支持发展人工智能。习近平总书记在党的十九大、2018年两院院士大会、全国网络安全和信息化工作会议、十九届中央政治局第九次集体学习等场合多次强调要加快推进新一代人工智能的发展。2017年7月，国务院发布《新一代人工智能发展规划》，将新一代人工智能放在国家战略层面进行部署，描绘了面向2030年的我国人工智能发展路线图，旨在构筑人工智能先发优势，把握新一轮科技革命战略主动。国家发改委、工信部、科技部、教育部等国家部委和北京、上海、广东、江苏、浙江等地方政府都推出了发展人工智能的鼓励政策。
态势喜人。据清华大学发布的《中国人工智能发展报告2018》统计，我国已成为全球人工智能投融资规模最大的国家，我国人工智能企业在人脸识别、语音识别、安防监控、智能音箱、智能家居等人工智能应用领域处于国际前列。根据2017年爱思唯尔文献数据库统计结果，我国在人工智能领域发表的论文数量已居世界第一。近两年，中国科学院大学、清华大学、北京大学等高校纷纷成立人工智能学院，2015年开始的中国人工智能大会已连续成功召开四届并且规模不断扩大。总体来说，我国人工智能领域的创新创业、教育科研活动非常活跃。
差距不小。目前我国在人工智能前沿理论创新方面总体上尚处于“跟跑”地位，大部分创新偏重于技术应用，在基础研究、原创成果、顶尖人才、技术生态、基础平台、标准规范等方面距离世界领先水平还存在明显差距。在全球人工智能人才700强中，中国虽然入选人数名列第二，但远远低于约占总量一半的美国。2018年市场研究顾问公司CompassIntelligence对全球100多家人工智能计算芯片企业进行了排名，我国没有一家企业进入前十。另外，我国人工智能开源社区和技术生态布局相对滞后，技术平台建设力度有待加强，国际影响力有待提高。我国参与制定人工智能国际标准的积极性和力度不够，国内标准制定和实施也较为滞后。我国对人工智能可能产生的社会影响还缺少深度分析，制定完善人工智能相关法律法规的进程需要加快。
前景看好。我国发展人工智能具有市场规模、应用场景、数据资源、人力资源、智能手机普及、资金投入、国家政策支持等多方面的综合优势，人工智能发展前景看好。全球顶尖管理咨询公司埃森哲于2017年发布的《人工智能：助力中国经济增长》报告显示，到2035年人工智能有望推动中国劳动生产率提高27%。我国发布的《新一代人工智能发展规划》提出，到2030年人工智能核心产业规模超过1万亿元，带动相关产业规模超过10万亿元。在我国未来的发展征程中，“智能红利”将有望弥补人口红利的不足。
当前是我国加强人工智能布局、收获人工智能红利、引领智能时代的重大历史机遇期，如何在人工智能蓬勃发展的浪潮中选择好中国路径、抢抓中国机遇、展现中国智慧等，需要深入思考。
树立理性务实的发展理念。任何事物的发展不可能一直处于高位，有高潮必有低谷，这是客观规律。实现机器在任意现实环境的自主智能和通用智能，仍然需要中长期理论和技术积累，并且人工智能对工业、交通、医疗等传统领域的渗透和融合是个长期过程，很难一蹴而就。因此，发展人工智能要充分考虑到人工智能技术的局限性，充分认识到人工智能重塑传统产业的长期性和艰巨性，理性分析人工智能发展需求，理性设定人工智能发展目标，理性选择人工智能发展路径，务实推进人工智能发展举措，只有这样才能确保人工智能健康可持续发展。
重视固本强基的原创研究。人工智能前沿基础理论是人工智能技术突破、行业革新、产业化推进的基石。面临发展的临界点，要想取得最终的话语权，必须在人工智能基础理论和前沿技术方面取得重大突破。我们要按照习近平总书记提出的支持科学家勇闯人工智能科技前沿“无人区”的要求，努力在人工智能发展方向和理论、方法、工具、系统等方面取得变革性、颠覆性突破，形成具有国际影响力的人工智能原创理论体系，为构建我国自主可控的人工智能技术创新生态提供领先跨越的理论支撑。
构建自主可控的创新生态。我国人工智能开源社区和技术创新生态布局相对滞后，技术平台建设力度有待加强。我们要以问题为导向，主攻关键核心技术，加快建立新一代人工智能关键共性技术体系，全面增强人工智能科技创新能力，确保人工智能关键核心技术牢牢掌握在自己手里。要着力防范人工智能时代“空心化”风险，系统布局并重点发展人工智能领域的“新核高基”：“新”指新型开放创新生态，如产学研融合等；“核”指核心关键技术与器件，如先进机器学习技术、鲁棒模式识别技术、低功耗智能计算芯片等；“高”指高端综合应用系统与平台，如机器学习软硬件平台、大型数据平台等；“基”指具有重大原创意义和技术带动性的基础理论与方法，如脑机接口、类脑智能等。同时，我们要重视人工智能技术标准的建设、产品性能与系统安全的测试。特别是我国在人工智能技术应用方面走在世界前列，在人工智能国际标准制定方面应当掌握话语权，并通过实施标准加速人工智能驱动经济社会转型升级的进程。
推动共担共享的全球治理。目前看，发达国家通过人工智能技术创新掌控了产业链上游资源，难以逾越的技术鸿沟和产业壁垒有可能进一步拉大发达国家和发展中国家的生产力发展水平差距。在发展中国家中，我国有望成为全球人工智能竞争中的领跑者，应布局构建开放共享、质优价廉、普惠全球的人工智能技术和应用平台，配合“一带一路”建设，让“智能红利”助推共建人类命运共同体。
（作者：中央人民政府驻香港特别行政区联络办公室副主任、中国科学院院士）
人工智能面临哪些挑战和限制
人工智能面临哪些挑战和限制？2023-07-03
12
人工智能（AI）作为一项前沿技术，展现出了巨大的潜力和应用空间。然而，它也面临着一系列挑战和限制。下面将探讨人工智能面临的主要挑战和限制。
数据和隐私：人工智能的有效性和准确性依赖于大量高质量的数据。然而，在实践中，获取、整理和标记这些数据是一项复杂且耗时的任务。此外，大规模数据收集可能引发个人隐私和数据安全问题，导致公众对AI的担忧和不信任。
缺乏透明性和解释性：许多人工智能算法被称为"黑箱"，因为它们的决策过程往往难以解释和理解。这种不透明性限制了AI的可信度和可接受程度，在敏感领域如医疗和司法中尤为重要。为了建立可靠的AI系统，需要更加透明和可解释的算法。
偏见和歧视：人工智能系统容易受到数据偏见的影响，这反映了数据本身的缺陷或被系统开发者的偏见所倾斜。这可能导致不公平的决策和对某些群体的歧视。解决这个问题需要审查和改进数据集，以确保公正和包容性。
缺乏创造性和直觉：尽管人工智能在处理大规模数据和执行重复任务方面表现出色，但在涉及创造性思维和直觉判断的领域中仍存在局限。目前的AI系统往往无法产生原创性的想法或理解抽象概念。这使得AI在某些复杂任务（如创作艺术品或解决复杂的伦理问题）上的应用受到限制。
法律和伦理挑战：人工智能的广泛应用引发了一系列法律和伦理问题。例如，自动驾驶汽车可能引发道德困境，当需要选择救助一个行人还是保护乘客时，应该如何做出决策？此外，随着技术的快速发展，法律法规可能落后于新兴的AI技术，这给监管机构带来了挑战。
就业和社会影响：人工智能的广泛应用对就业市场产生了深远的影响。尽管AI可以提高生产力和创造新的工作机会，但也可能导致某些行业和职位的消失。这对那些依赖于传统工作模式的人们来说是一个重大挑战。此外，AI的广泛应用还可能加剧社会不平等和数字鸿沟。
虽然人工智能面临着许多挑战和限制，但随着技术的进步和持续的研究努力，我们有望克服这些问题，并构建出更强大、透明和负责任的人工智能系统。同时，需要制定相关的法律法规和道德准则，以确保人工智能的公正、安全和可持续发展。
完谢谢观看
展开阅读全文上一篇:人工智能领域的就业前景如何？...下一篇:人工智能如何应用于数据分析？...
人工智能数据安全分享收藏相关课程学习[点击了解]相关阅读
如何摆脱数据分析中的缺失值？如何保障数据的质量和准确性？如何避免机器学习模型过拟合？如何成为一名初级数据分析师？CDA助力华夏银行数字化能力水平提升请不要将数据中台做成BI！2023中国数据要素高峰论坛暨首席数据官CDO峰会...CDA证书-数据分析能力的评判标准伦理与治理，人工智能时代下的困境与出路
原标题：伦理与治理，人工智能时代下的困境与出路
目前，以智能化、网络化、数字化为核心特征的第四次工业革命正在来临。人工智能技术作为数字资源与智能技术的集大成者，成为第四次工业革命中的聚焦点。在大数据与成熟的机器算法的基础之上，以人工智能技术为代表的新一代信息技术在市场应用的迭代中逐渐成熟并渗透到了政治、经济、社会等各个领域，在其加持下出现了智能制造、物联网、机器学习等一大批先导产业。而2020年的过去半年，在全球抗疫的背景下，人工智能在医疗、城市治理、工业、非接触服务等领域快速响应。它从“云端”落地，在疫情之中出演关键角色，提高了抗疫的整体效率。人工智能与其他产业前所未有的紧密结合，再一次验证了人工智能作为新一轮科技革命和产业变革的重要驱动力量对社会的真正价值。事实上，人工智能技术最大的特点就在于，它不仅仅是互联网领域的一次变革，也不属于某一特定行业的颠覆性技术，而是作为一项通用技术成为支撑整个产业结构和经济生态变迁的重要工具之一。它的能量可以投射在几乎所有行业领域中，促进产业形式转换，为全球经济增长和发展提供新的动能。自古及今，从来没有哪项技术能够像人工智能一样引发人类无限的畅想，而在利好人类的同时，人工智能也成为了一个国际性的科学争议热题。人工智能技术的颠覆性让我们也不得不考虑其背后潜藏的巨大危险，早在2016年11月世界经济论坛编纂的《全球风险报告》列出的12项亟需妥善治理的新兴科技中，人工智能与机器人技术就名列榜首。时下，智能技术在全球生产链中的赋能已经开始逐渐扩散到社会生活和世界政治领域中。人工智能的发展为全球化进程和国际社会带来了新的问题和挑战，对人工智能技术进行有效的治理已成为现实境况的迫切要求。为机器立心，为智能立命由于人工智能技术不是一项单一技术，其涵盖面及其广泛。而“智能”二字所代表的意义又几乎可以代替所有的人类活动，即使是仅仅停留在人工层面的智能技术，人工智能可以做的事情也大大超过人们的想象。事实上，人工智已经覆盖了我们生活的方方面面。从垃圾邮件过滤器到叫车软件；日常打开的新闻是人工智能做出的算法推荐；网上购物，首页上显示的是人工智能推荐的用户最有可能感兴趣、最有可能购买的商品。人工智能对人类生活的影响从操作越来越简化的自动驾驶交通工具到日常生活中的面部识别上下班打卡制度等等。这些影响有的让人们深有所感，有的则悄无声息浸润在社会运转的琐碎日常中。当然，在辅助社会发展更加超前与方便的同时，人工智能也埋下了一些隐忧。总体而言，人工智能的治理进程中的治理客体可以分为两个部分：一是对技术本身的治理；一是对衍生问题的规范治理。对于人工智能技术本身来说，技术的发展使得机器智能的边界在不断扩展。智能机器人领域的研究已经持续了四五十年，不只是原始的工业机器人，服务机器人也有30多年的研究历史。这些研究大大增强了机器的运行能力，使机器可以替代人类自己进行活动，甚至某些能力已经超越了人类。目前，这些技术已经大量投入使用。近五六年来，机器学习的算法快速发展。尽管距离机器完全理解“发生了什么”还有很长一段路要走，但随着更好、更便宜的硬件和传感器出现以及设备之间实现无线低延迟互联，还有源源不断的数据输入，机器的感知、理解和联网能力将会有更广阔的发展空间。相比于基本元件运算速度缓慢、结构编码存在大量不可修改原始本能、后天自塑能力有限的人类智能来说，人工智能虽然尚处于蹒跚学步的发展初期，但未来的发展潜力却远远大于人类。几乎可以确定的是，机器智能未来必将超越人类智能。尽管无法确定其会在何时发生，也没有像奇点理论那样给出一个确切的时间点，但毫无疑问，这个趋势一定是存在的。而基于此的人工智能技术治理，就需要人类先跳出科技本身，从人文的角度先为机器立心。其中，就包括相关领域的科学家在对人工智能技术的开发和应用时的价值取向以及道德观念培养。此外，对于一项新生技术，其本身是没有攻击性的，造成危害的往往是对这种技术的使用，人工智能也是如此。在过去的数百年里，人类学会了使用机械能，学会了用电，学会了制造各种机械，学会了制造飞机、汽车。在过去的数十年里，人类也学会了计算机、互联网、云计算、人工智能和5G通信技术。这些都是可以利用的工具，包括运用云端的智能扩展信息和知识搜索的广度、加深推理的深度、帮助我们做非常复杂的运算。而如何更好地掌握和利用这些技术，利用人工智能技术本身来帮助人类最大程度地发挥智能潜力，便是治理人工智能技术本身的破题关键所在。当人工智能走入“伦理真空”地带除了对于人工智能技术的危机治理，我们无法回避的是对人工智能衍生问题的规范治理。首先，就业问题是人工智能治理领域中最接近民生保障，也是最需要解决的问题。由于资本的逐利性，在科学技术是第一生产力的时代，人工智能所表现出的巨大的生产力必然吸引资本蜂拥而至，而数字经济的发展将进一步促进企业的自动化和数字化转型。于是，自动化将缩小社会的横向分工，人工智能将实现生产的半自动化、全自动化，从而消除了生产对人类个体差异性的依赖。随着人工智能研发的深入，更加完善的功能使得人工智能在社会分工体系中越来越占据主导地位。这就减弱了横向分工之间的差距，普通劳动者之间技术的差异性将会逐渐丧失。当人工智能对劳动者的代替性越来越强时，普通劳动者的生存状态并不会得到很大的改善。相反，随着劳动力对技术依赖性的增加以及由此造成的劳动力本身在分工体系中竞争力的下降，劳动者的生存状态会进一步的恶化。除了缩小社会的横向分工，人工智能技术的垄断将会阻隔社会的纵向分工。在信息时代，基于大数据以及计算机应用的自动化生产成为了拉动经济增长的主要驱动力。资本追逐利润的本质使得大量资金都流入了那些掌握前沿科技的企业和人才手里，这样就会造成一些常规性的工作被代替，最终将会造成的整个社会失业率的增加。另一方面，一些本来就处于社会分工等级上层、掌握前沿科技的企业，由于资本的大量流入使得这些企业的地位更加稳固，甚至通过新的技术垄断切断了其他企业以及劳动者突破社会分工的机会，进而将不平等的社会分工等级秩序的牢笼扎得更紧。倘若社会分工顶层和底层间出现了不可逾越的断裂带，这将使得社会两极分化更加严重。其次，由于人工智能需要依赖大量的数据，在人工智能的不断研究开发与应用中，也就存在许多数据管理的难题。当海量信息数据唾手可得，个体位置信息、关注内容、行程安排等极易被获取分析。个体敏感信息、私密内容就可能“无死角”暴露在大众视线。大数据信息动态监控，使个体用户操作“痕迹”被收集挖掘成为可能。有了人工智能助力，不仅能了解你是“谁”，更能预测你将成为“谁”。尽管大数据等智能化手段在开展群体分类时能提供诸多便捷，但也使得许多传统意义上并非隐私的信息变成了个体敏感信息，这就增加了人们隐私受到侵害的可能性和伦理风险概率。这些数据算法的过度依赖或应用范围的盲目扩大，既在社会现实层面上为不法分子提供了随意窃取、滥用信息资源的机会，又在道德层面上引发了伦理道德风险。最后，人工智能技术的发展对国际关系提出了挑战。从世界历史的发展过程中我们可以得出经验，每一轮新的世界大战和工业革命都会迅速地重构社会秩序和国际格局。以人工智能技术为代表的第四次技术革命是科技的集大成者，因此其所造成的影响更是颠覆性的。在经济方面，2018年9月，麦肯锡全球研究所针对人工智能对世界经济的影响做的专题报告显示：到2030年，人工智能可能为全球额外贡献13万亿美元的GDP增长，平均每年推动GDP增长约1.2亿。这意味着，人工智能对国家经济的推动是巨大的。而在这一轮新的工业革命浪潮中，谁掌握了人工智能技术的主要力量，谁就有可能以垄断性的地位占据未来数年内全球经济的命脉。在军事方面，区别于其他类型的科技，人工智能技术和核武器一样，属于军民两用型科技。世界各国已经认识到人工智能是未来国家之间竞争的关键赛场，纷纷开始在军事领域加大人工智能战略部署，尤其是在自主武器方面的研发力度，只为了能够占领新一轮科技革命的历史高点。当人工智能技术赋予国家更多政治和军事力量时，也加剧了国际社会的安全困境，这也给人工智能的治理带来了全球性的挑战。事实上，我们已经走进了一个现代性“伦理真空”的特殊地带，这个真空正是由传统伦理学的缺失与现代自然科学的发展带来的。由于人工智能发展所带来的全世界范围内人类行为方式、思维方式的变化是加速、不可逆转的，而传统伦理学的发展却是缓慢的、滞后的，这就使现代社会出现了巨大的伦理真空地带。因此，在大力发展人工智能的同时，必须高度重视可能出现的社会风险和伦理挑战。加强人工智能伦理学研究，揭示人工智能发展面临的伦理难题，有效治理人工智能，发挥人工智能的真正价值是未来值得关注的问题。人工智能的伦理挑战与科学应对
【光明青年论坛】
编者按
2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》，呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”。在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战，引发重大的伦理关切。习近平总书记高度关注人工智能等新兴科技的发展，强调要加快提升“人工智能安全等领域的治理能力”，“塑造科技向善的文化理念，让科技更好增进人类福祉”。为此，本版特组织几位青年学者围绕人工智能的伦理挑战与科学应对展开讨论，并邀请专家予以点评，以期引发学界的更多关注，为推动人工智能健康发展贡献智慧。
与谈人
彭家锋 中国人民大学哲学院博士生
虞昊 华东师范大学政治与国际关系学院博士生
邓玉龙 南京师范大学哲学系博士生
主持人
刘永谋 中国人民大学哲学院教授、国家发展与战略研究院研究员
1.机遇与挑战并存的人工智能
主持人：新技术革命方兴未艾，以人工智能等为代表的新兴科技快速发展，大大拓展了时间、空间和人们的认知范围，人类正在进入一个“人机物”相融合的万物智能互联时代。请具体谈谈人工智能给人类社会发展带来什么样的机遇？
彭家锋：人工智能、大数据、物联网、云计算等智能技术蓬勃兴起，对人类社会的方方面面产生深刻影响，推动整个社会逐步迈入智能社会。在此过程中，存在许多重大历史机遇需要我们把握。就技术治理而言，人工智能作为一种治理技术，正在助推社会治理的治理理念、治理方式、治理效能等方面的变革，将传统技术治理提升至智能化新阶段，呈现出“智能治理的综合”趋势。智能治理将全面提升社会公共治理的智能化水平，主要呈现出四个方面的特征：一是治理融合化，即促进各种智能技术与其他治理技术相互融合，大幅度提升智能社会的治理水平；二是治理数据化，即以日益增长的海量数据为基础，通过对数据映射出来的“数字世界”进行社会计算，实现治理目标；三是治理精准化，即发挥智能技术强大的感知能力、传输能力和计算能力，将传统的粗放治理转变为精准治理；四是治理算法化，即不断完善智能决策系统，尝试将程序化的算法决策扩展到更多的决策活动中，从而提高决策质量。
虞昊：人工智能有助于反思人类社会得以建立与发展的基础。随着分析式AI向着生成式AI不断演变，尤其是生成式AI初步展现出判别问题、分析情感、展开对话、创作内容等越来越具有人类特征的功能，原本属于人类的领域正被人工智能以另一套由“0”与“1”构成的计算机语言逐步侵蚀。这既是对人类社会的冲击，也势必会在更加平等的开放性框架中增强人类的主体性，促进人类社会进一步发展。
邓玉龙：总体来说，以人工智能为代表的新科技发展，显著提升了社会生产力。例如，生成式AI不但能完成传统AI的分析、判断工作，还能进一步学习并完成分析式AI无法从事的创造性工作。从人机交互的角度来看，人工智能也促进了生产关系的高效发展。具体表现在：一是刺激劳动形态的转化。人工智能高效承担大量的基础机械性劳动，人类劳动则向高阶的创造性劳动转化，由此引发社会层面的劳动结构转型、升级，并且以人工智能为中介，社会范围内的劳动整合、协调能力也实现升级。二是促进劳动场域的重构。随着劳动形态的转化和劳动的社会化扩展，人工智能将劳动从固定场域中解放出来，人类劳动的灵活性增加。相比于创造性劳动，机械性劳动更加受到空间和时间的制约，而在人工智能从技术层面替代更低边际成本的基础性劳动之后，人类劳动空间和时间的自由性实现跃迁。三是对主体的发展提出了更高要求，尤其是对主体适应社会发展提出了更高要求。人工智能技术的发展对人类传统的知识结构提出挑战，要求人类更新原有的知识结构以适应社会发展需要，也对教育提出更高要求，教育模式和教育内容需要更契合科技发展的水平，培养更加全面发展的人才。
主持人：人工智能的一系列产物在给人们带来生活便利的同时，也一定程度上引起大家对其可能引发的伦理挑战的警惕。一些人关注人工智能的风险问题，对人工智能的推进有些焦虑。如何看待这种警惕和焦虑？
虞昊：人工智能的风险以及由此带来的焦虑，是完全可以理解的。但我们无法返回一个没有人工智能的世界，人工智能已然深度介入人类社会，试图遏制人工智能的推进只能是螳臂当车。同时我们对人工智能的发展也不能放任不管，无视甚至于压制人工智能的推进只能是掩耳盗铃。因此，我们应该正视这种焦虑，在发展人工智能的过程中探求解决方案，在人工智能带来的风险中寻求危中之机。
邓玉龙：我们应正确看待这种焦虑。要看到，焦虑有其积极的意义，它体现人类的忧患意识，催生对人工智能风险的预见性思考，提醒我们注意焦虑背后人工智能技术发展存在的问题。正确对待焦虑有助于积极采取措施防范风险，辩证分析焦虑中先见性的思考，通过社会治理模式的升级化解风险问题。同时，仅有焦虑和恐惧是不够的，更重要的是积极解决人工智能发展带来的社会问题。从劳动的角度看，人工智能确实会取代部分人类劳动，推动劳动结构转型升级，让劳动向着碎片化、个体化方向发展，劳动者处于弱势地位，面临着“机器换人”的挑战。但是我们也应该理性认识到，人工智能不是对人类劳动能力的完全替代，而是对劳动者提出了更高的要求，要求劳动者掌握科学知识，将技术的发展内化为自身能力，在更具创造性的劳动中实现自身价值。
彭家锋：任何技术的发明使用，不可避免地伴随着这样或那样的风险。人工智能技术自然也不例外，在其应用过程中，同样引发了诸如隐私泄露、算法歧视、法律责任等风险问题。因此，关注人工智能的风险问题，并由此对人工智能的推进产生焦虑，具有一定理论依据和现实基础。但更应当清醒地认识到，人工智能的某些相关风险可以提前得到规避，并不必然会发生；即便真的发生，也仍可不断寻求化解风险的有效手段。以个人隐私滥用风险为例，在治理过程中，虽然不可避免地会涉及个人数据收集和分析处理，但可以通过建立完整的规范和监管体系来保护个人隐私，降低滥用风险。
2.人工智能科技竞争的“伦理赛道”
主持人：习近平总书记在以视频方式出席二十国集团领导人第十五次峰会时指出，“中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康发展”。请谈谈“人工智能原则”应包含哪些内容？科技向善的文化理念对推动全球人工智能健康发展具有怎样的现实价值？
彭家锋：为应对人工智能等新科技快速发展带来的伦理挑战，2022年，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，其中明确了“增进人类福祉”“尊重生命权利”“坚持公平公正”“合理控制风险”“保持公开透明”等五项科技伦理原则。我认为，这五项原则基本涵盖了人工智能原则的伦理要求，彰显了科技向善的文化理念。科技向善的文化理念，根本目标是让科技发展更好地服务社会和人民，带来良好社会或社会公益的善。科技向善对推动全球人工智能健康发展至少具有以下三个方面现实价值：一是塑造公众信任。公众对人工智能的信任很大程度上并不完全由相关风险程度决定，而是取决于公众的利益与价值是否得到足够重视。后者正是科技向善的内在要求。二是引领技术创新。科技向善的文化理念将在技术创新发展过程中发挥价值引领作用。三是促进全球合作。科技向善的文化理念试图在全球范围内建立人工智能伦理规范的“最大公约数”，各国在达成伦理共识的基础之上，能够建立互信，实现更加充分深入的国际合作。
虞昊：个人认为，人工智能原则也应包含非对抗与非失控的理念。非对抗意味着不应将人工智能视作人类社会的对抗性存在，人工智能已经成为人类社会的构成性要素，我们必须持更为开放的态度去面对人工智能。非失控意味着不应放弃对人工智能的伦理规范，应以智能的方式去规范加速发展的人工智能。如果以上述理念为前提，也就是说，在支持人工智能发展的情况下，科技向善的文化理念在推动全球人工智能健康发展中就变得极为重要。此处的“善”在国家治理层面即指向“善治”，而当人工智能的发展从国家范围扩展到全球范围，“善治”就在构建人类命运共同体的意义上拥有了更贴近现实的内涵。各国应摒弃冷战思维与零和博弈，基于善意与友谊共同思考人类作为整体如何在人工智能的冲击下通往全球性的“善治”。
邓玉龙：2019年欧盟发布《可信赖的人工智能伦理准则》，2021年中国国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》（以下简称《规范》）。与欧盟发布的伦理准则相比，《规范》体现了中国特色社会主义的制度优势，旨在将伦理规范融入人工智能全生命周期。人工智能发展的根本目的是促进人的全面发展，因此，我以为，人工智能原则还应体现共享和有序发展的要求。共享，旨在防止人工智能的技术垄断。科技发展应该兼顾全体人民的利益，而不是服务于少数群体，由全体人民共享科技发展成果，推动全球科技水平的共同增长。有序发展，旨在防止人工智能技术的无序扩张。人工智能技术的发展最终是为了提升人的幸福感，推动科技有序发展能够促进人机和谐融合，有效预防潜在无序扩张的风险。
主持人：从规范层面来说，伦理反思对规范人工智能发展的作用主要体现在哪些方面？
彭家锋：近年来，世界各主要国家在人工智能领域竞争日趋激烈，纷纷将人工智能发展置于国家发展的战略层面。比如，美国陆续出台《国家人工智能研究和发展战略计划》（2016）和《关于维持美国在人工智能领域领导地位的行政命令》（2019）；欧盟先后发布《欧洲人工智能战略》（2018）和《人工智能白皮书》（2020）；中国也较早发布了《“互联网+”人工智能三年行动实施方案》（2016）和《新一代人工智能发展规划》（2017）。人工智能科技竞争的客观局面已然形成。在此背景下，如果忽视人工智能技术发展所带来的全球性风险与挑战，极有可能陷入技术赶超的竞争逻辑。因此，亟须规范人工智能的科技竞争，而倡导伦理反思或许就是一条可行之路。伦理反思的意义至少在于：一是设定伦理底线。人工智能技术的开发和应用需要遵循一些基本的价值理念和行为规范。只有守住伦理底线，才有可能避免颠覆性风险的发生。二是实现敏捷治理。伦理反思是一个动态、持续的过程，贯穿于人工智能科技活动的全生命周期。为了确保其始终服务于增进人类福祉和科技向善的初衷，需要保持应有的道德敏感性，以灵活、及时、有效的手段化解人工智能带来的各种伦理挑战，确保其在科技向善的道路上行稳致远，实现良性发展。
邓玉龙：人工智能科技竞争是为了促进科学技术发展，而科学技术发展的最终目的是推动人类社会的进步。人工智能科技竞争不应该仅包括技术竞争的单一维度，更不应该通过技术优势遏制他国的科技发展，而应该是在人工智能科技条件下的综合性竞争，通过良性竞争促进全球人工智能和全人类的共同发展。其中就应该包括社会治理竞争，通过社会治理保障社会公平，因而对社会中人与人关系的伦理反思构成人工智能科技竞争的有机组成部分。首先，伦理反思对人工智能科技竞争提出了更高的要求。人工智能的公平性、可信任性、可解释与透明度、安全性不仅是伦理要求，也代表了人工智能技术的发展方向，是人工智能科技竞争需要抢占的技术制高点。科技的发展是为了人的全面发展，因而人的发展内嵌于科技发展要求，伦理反思有助于防止工具主义的泛滥。其次，伦理反思为人工智能科技竞争提供价值引导。伦理反思注重保障人的权利，科技发展并不是社会发展中的唯一衡量因素，我们还应该关注其中多样性的因素，尤其注重保护特殊群体的利益，例如防止数据鸿沟等不良影响。伦理反思有助于实现人工智能的综合性健康发展。
3.人工智能安全与人的全面发展
主持人：科学探究一直以来都是人们认识世界和了解自身的重要认知方式，人工智能等信息产业的革命如何影响着人们的认知方式？
彭家锋：人工智能等信息产业的革命，促进了科学研究新范式——数据科学的诞生，进而对人们的认知方式产生深刻影响。数据科学被认为是继实验、理论和模拟之后的新的科研范式。相较于传统科学，数据科学融合了统计和计算思维，通过人工智能等技术提供的海量数据、强大算法和算力，能够直接从数据中寻找相关关系、提取相关性或者预测性知识，进而产生一种基于相关性的科学思维模式。但这种相关性并不一定能够转化为因果关系，因为可解释性对于从数据科学技术确定的相关性中提取因果解释至关重要，而相关技术一般都缺乏必要的透明度和可解释性。数据科学更可能成为一种预测科学，但是预测并不是科学追求的唯一目标。通过揭示世界的潜在因果结构来解释和干预现象，也是科学的两个重要目标。因此，尽管数据科学能够通过分析大量数据生成相关性知识，却不能直接产生因果解释。对此，传统科学的可检验性假设方法和因果规律探求仍有其重要价值。数据科学并非取代传统科学，相反，两者将相互补充，共同成为人类探索世界的有效工具。
虞昊：显而易见的是，随着人工智能向着通用人工智能迈进，其能够为人们提供的教育资源、生活娱乐、工作讯息也越来越丰富，人们势必越来越依赖于通过与人工智能进行交互来获取外界信息。因此，当人工智能深度地构成人们认知世界的滤镜时，若不对人工智能本身具有重复性、同质性倾向的认知框架保持警醒，人工智能可能扭曲人们的认知方式直至影响人的主体创造性。
邓玉龙：以人工智能为代表的全新技术发展被称为第四次工业革命，其中最显著的特征就是机器与人类的深度融合，机器不再作为一种外在性的工具被人类使用，而是在与人类的深度关联中影响人类的认知方式。一方面，信息产业革命丰富了人类认知的联结方式。人工智能和大数据技术的发展促进人类的分析逻辑从因果关系扩展为相关关系，对相关关系的重视使人工智能可以从大数据而非小数据维度获取信息，为人类认知提供新的视角。按照传统人类认知方式的理解，因果关系要求关于世界的认知是确定性的，而这在数字时代的复杂性社会中很难实现。人工智能对相关关系的认知填补了这一缺失，允许我们在无法掌握确定信息但在掌握大量数据的条件下对未来趋势作出预测。另一方面，如果我们对人工智能等科技的输出结果和生成内容盲目信赖，将结果和内容与经验事实之间进行绝对等同的连接，误认为是事实的全部，那么我们就会丧失人文主义抽象反思的能力，对此我们应当保持警惕，始终坚持反思和批判的人文精神。
主持人：如何调适人的主体创造性与信息高度集成共享之间的关系？
彭家锋：当人们逐渐将更多创造性工作交由人工智能完成，不免让人担忧人工智能是否将会威胁到人的主体创造性。从人机关系的角度来看，这种担忧是基于一种人机敌对论的视角，认为人工智能挤压了人的主体创造性空间，是替代逻辑的延续。但从人机协作的视角出发，将人工智能看作人的得力帮手，通过创造性地使用人工智能可以赋予人类更大的创造性空间。比如，在进行文字写作、多媒体脚本、程序代码、文稿翻译等工作时，可先由人工智能高水平地完成草稿工作，然后再由人类进行一些创造性的调整和发挥。此时人工智能生成的内容将成为进一步创作的原材料，人类将以更高的效率投入创造性活动之中。当然，要实现以上效果并非易事，不仅需要思想观念的转变，还应在制度安排、教育方式等方面作出相应调整。
虞昊：面对信息高度集成共享的人工智能，人有可能转变为算法的动物。试想下述场景：当依据人工智能展开行动变得足够便捷有效时，行动者便会倾向于采信人工智能，此时，看似是人类行动者基于自然语言在进行互动，实则是算法逻辑基于计算机语言在进行数字化运转。于是，人的主体创造性被侵蚀，人可能沦为算法动物。对此类情形，我们应该保持足够的清醒与警惕。
邓玉龙：人工智能技术生成的内容（AIGC）具有高度集成共享的特性，能够高效地对人类知识进行数据挖掘、信息生成。调适人的主体创造性与信息高度集成共享之间的关系，我们需做到如下几个方面：首先，需要通过人的创造性扩大AIGC数据库，当下AIGC主要是依赖于大语言模型，以大量的网络文本作为训练数据库生成的，通过人的创造性生成可以不局限于网络文本，而是进一步扩展数据库的训练文本，从而提高其丰富度。其次，需要通过人的创造性为AIGC提供价值训练，通过人的创造性生成的价值立场、伦理法则等与AIGC的训练数据库相融合，从而建构可信赖、可持续的信息高度集成共享机制。最后，需要将人创造性生成的内容与AIGC共同作为人类知识的来源，人类知识的获得不能仅仅局限于AIGC，而是需要人发挥其主体创造性对人工智能技术生成的内容进行反思和拓展，将人类无法被数据化的、经验性的知识与AIGC数据化的知识融合成为人类知识的来源。
（本版编辑张颖天整理）
2023年人工智能领域发展七大趋势
2022年人工智能领域发展七大趋势
有望在网络安全和智能驾驶等领域“大显身手”
人工智能已成为人类有史以来最具革命性的技术之一。“人工智能是我们作为人类正在研究的最重要的技术之一。它对人类文明的影响将比火或电更深刻”。2020年1月，谷歌公司首席执行官桑达尔·皮查伊在瑞士达沃斯世界经济论坛上接受采访时如是说。
美国《福布斯》网站在近日的报道中指出，尽管目前很难想象机器自主决策所产生的影响，但可以肯定的是，当时光的车轮到达2022年时，人工智能领域新的突破和发展将继续拓宽我们的想象边界，其将在7大领域“大显身手”。
增强人类的劳动技能
人们一直担心机器或机器人将取代人工，甚至可能使某些工种变得多余。但人们也将越来越多地发现，人类可借助机器来提升自身技能。
比如，营销部门已习惯使用工具来帮助确定哪些潜在客户更值得关注；在工程领域，人工智能工具通过提供维护预测，让人们提前知道机器何时需要维修；法律等知识型行业将越来越多地使用人工智能工具，帮助人们对不断增长的可用数据中进行分类，以找到完成特定任务所需的信息。
总而言之，在几乎每个职业领域，各种智能工具和服务正在涌现，以帮助人们更有效地完成工作。2022年人工智能与人们日常生活的联系将会变得更加紧密。
更大更好的语言建模
语言建模允许机器以人类理解的语言与人类互动，甚至可将人类自然语言转化为可运行的程序及计算机代码。
2020年中，人工智能公司OpenAI发布了第三代语言预测模型GPT—3，这是科学家们迄今创建的最先进也是最大的语言模型，由大约1750亿个“参数”组成，这些“参数”是机器用来处理语言的变量和数据点。
众所周知，OpenAI正在开发一个更强大的继任者GPT—4。尽管细节尚未得到证实，但一些人估计，它可能包含多达100万亿个参数（与人脑的突触一样多）。从理论上讲，它离创造语言以及进行人类无法区分的对话更近了一大步。而且，它在创建计算机代码方面也会变得更好。
网络安全领域的人工智能
今年1月，世界经济论坛发布《2021年全球风险格局报告》，认为网络安全风险是全世界今后将面临的一项重大风险。
随着机器越来越多地占据人们的生活，黑客和网络犯罪不可避免地成为一个更大的问题，这正是人工智能可“大展拳脚”的地方。
人工智能正在改变网络安全的游戏规则。通过分析网络流量、识别恶意应用，智能算法将在保护人类免受网络安全威胁方面发挥越来越大的作用。2022年，人工智能的最重要应用可能会出现在这一领域。人工智能或能通过从数百万份研究报告、博客和新闻报道中分析整理出威胁情报，即时洞察信息，从而大幅加快响应速度。
人工智能与元宇宙
元宇宙是一个虚拟世界，就像互联网一样，重点在于实现沉浸式体验，自从马克·扎克伯格将脸书改名为“Meta”（元宇宙的英文前缀）以来，元宇宙话题更为火热。
人工智能无疑将是元宇宙的关键。人工智能将有助于创造在线环境，让人们在元宇宙中体会宾至如归的感觉，培养他们的创作冲动。人们或许很快就会习惯与人工智能生物共享元宇宙环境，比如想要放松时，就可与人工智能打网球或玩国际象棋游戏。
低代码和无代码人工智能
2020年，低代码/无代码人工智能工具异军突起并风靡全球，从构建应用程序到面向企业的垂直人工智能解决方案等应用不一而足。这股新鲜势力有望在2022年持续发力。数据显示，低代码/无代码工具将成为科技巨头们的下一个战斗前线，这是一个总值达132亿美元的市场，预计到2025年其总值将进一步提升至455亿美元。
美国亚马逊公司2020年6月发布的Honeycode平台就是最好的证明，该平台是一种类似于电子表格界面的无代码开发环境，被称为产品经理们的“福音”。
自动驾驶交通工具
数据显示，每年有130万人死于交通事故，其中90%是人为失误造成的。人工智能将成为自动驾驶汽车、船舶和飞机的“大脑”，正在改变这些行业。
特斯拉公司表示，到2022年，其生产的汽车将拥有完全的自动驾驶能力。谷歌、苹果、通用和福特等公司也有可能在2022年宣布在自动驾驶领域的重大飞跃。
此外，由非营利的海洋研究组织ProMare及IBM共同打造的“五月花”号自动驾驶船舶（MAS）已于2020年正式起航。IBM表示，人工智能船长让MAS具备侦测、思考与决策的能力，能够扫描地平线以发觉潜在危险，并根据各种即时数据来变更路线。2022年，自动驾驶船舶技术也将更上一层楼。
创造性人工智能
在GPT—4谷歌“大脑”等新模型的加持下，人们可以期待人工智能提供更加精致、看似“自然”的创意输出。谷歌“大脑”是GoogleX实验室的一个主要研究项目，是谷歌在人工智能领域开发出的一款模拟人脑具备自我学习功能的软件。
2022年，这些创意性输出通常不是为了展示人工智能的潜力，而是为了应用于日常创作任务，如为文章和时事通讯撰写标题、设计徽标和信息图表等。创造力通常被视为一种非常人性化的技能，但人们将越来越多地看到这些能力出现在机器上。（记者刘霞）
【纠错】【责任编辑:吴咏玲】人工智能的伦理挑战
原标题：人工智能的伦理挑战控制论之父维纳在他的名著《人有人的用处》中曾在谈到自动化技术和智能机器之后，得出了一个危言耸听的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”维纳的这句谶语，在今天未必成为现实，但已经成为诸多文学和影视作品中的题材。《银翼杀手》《机械公敌》《西部世界》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上《纽约客》杂志2017年10月23日的封面……人们越来越倾向于讨论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的奴仆。
一
维纳的激进言辞和今天普通人对人工智能的担心有夸张的成分，但人工智能技术的飞速发展的确给未来带来了一系列挑战。其中，人工智能发展最大的问题，不是技术上的瓶颈，而是人工智能与人类的关系问题，这催生了人工智能的伦理学和跨人类主义的伦理学问题。准确来说，这种伦理学已经与传统的伦理学旨趣发生了较大的偏移，其原因在于，人工智能的伦理学讨论的不再是人与人之间的关系，也不是与自然界的既定事实（如动物，生态）之间的关系，而是人类与自己所发明的一种产品构成的关联，由于这种特殊的产品――根据未来学家库兹威尔在《奇点临近》中的说法――一旦超过了某个奇点，就存在彻底压倒人类的可能性，在这种情况下，人与人之间的伦理是否还能约束人类与这个超越奇点的存在之间的关系？
实际上，对人工智能与人类之间伦理关系的研究，不能脱离对人工智能技术本身的讨论。在人工智能领域，从一开始，准确来说是依从着两种完全不同的路径来进行的。
首先，是真正意义上的人工智能的路径，1956年，在达特茅斯学院召开了一次特殊的研讨会，会议的组织者约翰・麦卡锡为这次会议起了一个特殊的名字：人工智能（简称AI）夏季研讨会。这是第一次在学术范围内使用“人工智能”的名称，而参与达特茅斯会议的麦卡锡和明斯基等人直接将这个名词作为一个新的研究方向的名称。实际上，麦卡锡和明斯基思考的是，如何将我们人类的各种感觉，包括视觉、听觉、触觉，甚至大脑的思考都变成称作“信息论之父”的香农意义上的信息，并加以控制和应用。这一阶段上的人工智能的发展，在很大程度上还是对人类行为的模拟，其理论基础来自德国哲学家莱布尼茨的设想，即将人类的各种感觉可以转化为量化的信息数据，也就是说，我们可以将人类的各种感觉经验和思维经验看成是一个复杂的形式符号系统，如果具有强大的信息采集能力和数据分析能力，就能完整地模拟出人类的感觉和思维。这也是为什么明斯基信心十足地宣称：“人的脑子不过是肉做的电脑。”麦卡锡和明斯基不仅成功地模拟出视觉和听觉经验，后来的特里・谢伊诺斯基和杰弗里・辛顿也根据对认知科学和脑科学的最新进展，发明了一个“NETtalk”的程序，模拟了类似于人的“神经元”的网络，让该网络可以像人的大脑一样进行学习，并能够做出简单的思考。
然而，在这个阶段中，所谓的人工智能在更大程度上都是在模拟人的感觉和思维，让一种更像人的思维机器能够诞生。著名的图灵测试，也是在是否能够像人一样思考的标准上进行的。图灵测试的原理很简单，让测试一方和被测试一方彼此分开，只用简单的对话来让处在测试一方的人判断，被测试方是人还是机器，如果有30%的人无法判断对方是人还是机器时，则代表通过了图灵测试。所以，图灵测试的目的，仍然在检验人工智能是否更像人类。但是，问题在于，机器思维在作出自己的判断时，是否需要人的思维这个中介？也就是说，机器是否需要先绕一个弯路，即将自己的思维装扮得像一个人类，再去作出判断？显然，对于人工智能来说，答案是否定的，因为如果人工智能是用来解决某些实际问题，它们根本不需要让自己经过人类思维这个中介，再去思考和解决问题。人类的思维具有一定的定势和短板，强制性地模拟人类大脑思维的方式，并不是人工智能发展的良好选择。
二
所以，人工智能的发展走向了另一个方向，即智能增强（简称IA）上。如果模拟真实的人的大脑和思维的方向不再重要，那么，人工智能是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身的方式来进行。这就出现了机器学习的概念。机器学习的概念，实际上已经成为发展出属于机器本身的学习方式，通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，例如，在给机器浏览了上万张猫的图片之后，让机器从这些图片信息中自己提炼出关于猫的概念。这个时候，很难说机器自己抽象出来的猫的概念，与人类自己理解的猫的概念之间是否存在着差别。不过，最关键的是，一旦机器提炼出属于自己的概念和观念之后，这些抽象的概念和观念将会成为机器自身的思考方式的基础，这些机器自己抽象出来的概念就会形成一种不依赖于人的思考模式网络。当我们讨论打败李世石的阿尔法狗时，我们已经看到了这种机器式思维的凌厉之处，这种机器学习的思维已经让通常意义上的围棋定势丧失了威力，从而让习惯于人类思维的棋手瞬间崩溃。一个不再像人一样思维的机器，或许对于人类来说，会带来更大的恐慌。毕竟，模拟人类大脑和思维的人工智能，尚具有一定的可控性，但基于机器思维的人工智能，我们显然不能作出上述简单的结论，因为，根据与人工智能对弈之后的棋手来说，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。
不过，说智能增强技术是对人类的取代，似乎也言之尚早，至少第一个提出“智能增强”的工程师恩格尔巴特并不这么认为。对于恩格尔巴特来说，麦卡锡和明斯基的方向旨在建立机器和人类的同质性，这种同质性思维模式的建立，反而与人类处于一种竞争关系之中，这就像《西部世界》中那些总是将自己当成人类的机器人一样，他们谋求与人类平起平坐的关系。智能增强技术的目的则完全不是这样，它更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术，自动驾驶技术的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还需要采集大量的地图地貌信息，还需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强类性质的智能，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。
三
这样，由于智能增强技术带来了两种平面，一方面是人类思维的平面，另一方面是机器的平面，所以，两个平面之间也需要一个接口技术。接口技术让人与智能机器的沟通成为可能。当接口技术的主要开创者费尔森斯丁来到伯克利大学时，距离恩格尔巴特在那里讨论智能增强技术已经有10年之久。费尔森斯丁用犹太神话中的一个形象――土傀儡――来形容今天的接口技术下人与智能机器的关系，与其说今天的人工智能在奇点临近时，旨在超越和取代人类，不如说今天的人工智能技术越来越倾向于以人类为中心的傀儡学，在这种观念的指引下，今天的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。在这个意义上，我们可以从费尔森斯丁的傀儡学角度来重新理解人工智能与人的关系的伦理学，也就是说，人类与智能机器的关系，既不是纯粹的利用关系，因为人工智能已经不再是机器或软件，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。当苹果公司开发与人类交流的智能软件Siri时，乔布斯就提出Siri是人类与机器合作的一个最朴实、最优雅的模型。以后，我们或许会看到，当一些国家逐渐陷入老龄化社会之后，无论是一线的生产，还是对这些因衰老而无法行动的老人的照料，或许都会面对这样的人与智能机器的接口技术问题，这是一种人与人工智能之间的新伦理学，他们将构成一种跨人类主义，或许，我们在这种景象中看到的不一定是伦理的灾难，而是一种新的希望。
（作者：蓝江，系南京大学哲学系教授）
人工智能遭遇伦理困境，未来发展需法治先行
原标题：人工智能遭遇伦理困境，未来发展需法治先行科技伦理是科技活动需要遵循的价值理念与行为规范，对于科技发展来说至关重要。7月28日，为加强人工智能伦理道德治理，推动人工智能更加规范发展，我国科技部公开征求了对《关于加强科技伦理治理的指导意见(征求意见稿)》的意见，为我国人工智能伦理法治建设打下基础。
人工智能陷入伦理困境
近年来，人工智能发展是愈发的火热，除了人工智能产业本身，由其技术所加持的如自动驾驶、人脸识别、机器人、智能音箱等也十分蓬勃。人工智能的发展为人们的生产生活带来利好，但与此同时，繁荣景象背后也暗藏风险。作为双刃剑，人工智能当前不仅给人类的生存带来冲击，同时也在伦理道德方面带来挑战。
日常应用中，我们便时常能够听闻关于人工智能的各种不好消息。例如2018年，一款名为“诺曼”的人工智能便由于其变态的“思想和认知”，给人们留下了可怕印象，该人工智能甚至一度被称为“精神病患者”。此外2019年，英国也曾出现教唆人类自己刺自己心脏的AI语音助手，不寒而栗的回答让人毛骨悚然。
由于人工智能主要基于数据学习而进化，人类的一些负面情绪、负面数据不可避免的能对人工智能产生影响。如果放任这些负面东西打造人工智能，出来的技术必然对人类也会产生极大负面影响。而这，正是人工智能伦理道德挑战出现的一大原因。当然，除了研发者的道德会影响人工智能道德外，技术本身也是另一原因。
在自动驾驶领域，有一个十分知名的“电车难题”，讲的是一个疯子把五个无辜的人绑在电车轨道上，一辆失控的电车朝这五个人驶来，并且片刻后就要碾压到他们。此时你可以拉一个控制杆，让电车开到另一条轨道上，但那个轨道上也绑着一个人。这种情况下，问你是否应该拉控制杆。
显而易见，对于现有的自动驾驶或者人工智能技术来说，这是一个无法给出答案的伦理难题。对于技术发展来说，伦理道德有时就像一道牢牢套在身上的枷锁，除了找到那个关键性的钥匙，基本很难逃脱。但想要“自由的舞蹈”，又不得不解开枷锁释放双手，在此背景下，就需要通过法治建设来打造出那把“钥匙”。
法治建设挣脱伦理枷锁
目前，面对人工智能带来的伦理道德挑战，各国政府已经愈发的重视。从2017年以来，全球已有多各国家和地区陆续出台或准备出台系列政策，加强对于人工智能伦理道德法治建设。如2017年美国颁布了人工智能14条政策准则；2018年欧盟出台《通用数据保护条例》；以及韩国也推出了《机器人道德宪章》……
而在我国，对于人工智能的伦理道德建设也在有条不紊开展。2017年7月，我国政府发布了《新一代人工智能发展规划》，其中明确到2025年，要初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力。到2030年，建成更加完善的人工智能法律法规、伦理规范和政策体系。
同时，之后工信部也发布了《人工智能创新发展道德伦理宣言》，规定人工智能的发展应当始终以造福人类为宗旨，不能将人工智能的自主意识等同于人类特有的自由意志，不能改变人工智能由人类创造的事实等。以及不少领域内企业也积极加强伦理道德关注，提升责任和意识，增强规范与治理。
当然，近日我国科技部再次公开征求对于《加强科技伦理治理的指导意见(征求意见稿)》意见，无疑更是为“健全科技伦理治理体制”、“健全科技伦理体系”正式迈出了最为坚实的一步。《意见》从基本要求、治理原则、治理体制、治理制度、审查监管、教育宣传等方面对科技伦理治理进行了全面规范，为未来成熟、健康、良好发展打下基础。
不以规矩，不成方圆。只有为人工智能的研发与应用制定完善的、合乎人类利益与道德标准的相关伦理规范与法律制度，才能确保人工智能的可持续发展，确保人类的生存权利与安全。各种负面的人工智能已经一再证明，人类的影响对于人工智能向善还是向恶至关重要，管住人远比管住工具更为重要。返回搜狐，查看更多
责任编辑：人工智能的瓶颈问题
人工智能现有进展主要体现在专用人工智能方面，但是仍存在一些局限性，将其总结为以下四点：有智能没智慧，有智商没情商，会计算不会“算计”，有专才无通才。这些瓶颈问题主要包括：
（1）数据瓶颈：深度学习需要大量的数据；
（2）泛化瓶颈：这是模式识别、计算机视觉、人工智能方法面临的一个共同的问题，现有方法在一些实际问题中仍无法取得理想的泛化性能，或者训练好的模型用在变化的环境或领域，其泛化性能明显下降；
（3）能耗瓶颈：人的大脑尽管是一个通用的人工智能系统，但是能耗很低（只有20瓦），但现有计算机上实现人工智能系统则能耗很高；
（4）语义鸿沟瓶颈：目前语言服务大多为简单查询，不涉及语义推理问题，缺乏真正的语言理解能力，比如一些有歧义的自然语言句子，人很容易根据上下文或常识理解其真正含义，计算机却很难理解；
（5）可解释性瓶颈：现有人工智能系统都是知其然而不知其所以然，其过于依赖训练数据，缺乏深层次数据语义挖掘。报告指出，可解释性非常重要，人工智能不仅要知其然还要知其所以然，知其然只是浅层智能，知其所以然才叫深层智能；
（6）可靠性瓶颈：现有人工智能系统可靠性较差，有些错误识别结果会带来致命后果，比如2016年7月，特斯拉自动驾驶功能不能正确识别反光条件下的卡车，导致致命车祸。
观点二可解释的人工智能是未来重要方向从专用人工智能到通用人工智能是大势所趋，一些科技巨头包括国家机构都在布局通用人工智能的研究，比如GoogleDeepMind创始人DemisHassabis宣布朝着“创造解决世界上一切问题的通用人工智能”这一目标前进，微软成立人工智能实验室以挑战通用人工智能为主要目标。
可解释的人工智能系统备受关注，它也是突破统计学习瓶颈问题的一个重要方向。DARPA（美国国防高级研究计划局）的报告里面把过去几十年人工智能技术的发展和创新分成几个波次：第一个波次是基于规则的，例如以专家系统为代表的系列方法和技术；第二个波次就是当前以大数据驱动为代表的统计学习；第三个波次很可能是可解释的人工智能，就是人工智能要知其然还要知其所以然，以此可见人工智能可解释性的重要意义。
观点三切忌借人工智能热度圈钱圈地国务院印发的《新一代人工智能产业发展规划》的实施，一定会有力推动我国人工智能事业的发展，掀起人工智能新的热潮。但是在新一轮的AI热潮下，我们尤其要保持清醒的头脑，吸取人工智能16年发展的教训，当然也有经验，切忌借这个机会圈钱圈地，一哄而上，给人工智能设定不切实际的目标，提出过高的期望。