探索与争鸣｜人工智能在未来社会将有哪些风险与挑战
当前，人工智能浪潮风起云涌，AI时代已经成为现在进行时。就在近日，国务院印发《新一代人工智能发展规划》，将人工智能上升到国家战略高度，描绘出了中国人工智能发展的新蓝图。除了我国之外，国际社会也对人工智能给予了普遍关注，可以说发展人工智能已然成为了全球共识。但是，我们也清醒地认识到，人工智能在为这个时代注入发展新动能的同时，对就业、法律、政治、经济、伦理和安全等诸多领域也带来了新的挑战。
在人工智能“列车”滚滚驶来的今天，我们应当如何应对其带来的风险和机遇；人工智能的技术属性和社会属性如何实现融合；人工智能又会对未来社会造成怎样的冲击，这些都是亟需我们回答的问题。
2017年8月28日，由上海市社联《探索与争鸣》杂志社和华东政法大学政治学研究院共同主办的“人工智能与未来社会：趋势、风险与挑战”学术研讨会在上海社联大楼召开。来自国内知名高校和研究机构的近四十位专家学者以及业界代表齐聚一堂，针对人工智能的发展和应用，分别从技术、法律、政治、经济、人文等不同角度提出看法，展开热烈探讨。
“人工智能与未来社会：趋势、风险与挑战”学术研讨会现场。本文图片 探索与争鸣杂志微信公众号本次会议共设有六个主题，采取主题发言和自由讨论等形式，对人工智能给未来社会带来的风险与挑战进行交流讨论。
一、人工智能对未来的颠覆性影响
中科院自动化所研究员、复杂系统管理与控制国家重点实验室主任王飞跃发言的题目是“智能科技与新轴心时代：未来的起源与目标”，他从宏观历史出发，分析人工智能的发展演变，辨析物理空间与网络空间的关联，并且对人工智能的未来充满期待。著名学者雅斯贝尔斯提出了“轴心时代”的概念，在公元前800到前200年期间，古代文明涌现出许多重要思想家，对文明发展起到至关重要的作用。王教授认为，世界可分为三个部分：物理世界，心理世界以及人工智能（虚拟）世界。每个世界都要有自己的轴心时代，新的世界也要有它的轴心时代。雅斯贝尔斯所言为第一个。第二个轴心时代就是从文艺复兴一直到牛顿、爱因斯坦，代表着人类理性的觉醒。人工智能世界也要有自己的轴心时代，这个轴心时代就是从哥德尔开始。现在是哲学上的突破，再是科学上的突破，下面就要是技术上的突破。就人们普遍担忧的关于人工智能将取代人类工作的问题，王教授乐观指出，人们当前的工作正是依赖机器来提供的，人类向无用阶级转变其实是社会的进步。“无用之用，重用之基”（徐光启《几何原本》）。
上海交通大学科学史与科学文化研究院院长江晓原教授的发言，则对人工智能表示出明确的否定态度。他分别从近期、中期、远期谈了人工智能的风险，表达出忧患意识：“我认为我们正在玩一把非常危险的‘火’。”从近期来看，人工智能引起的大批失业问题，95%的人不工作，5%的人工作，这样造成的财富分配不均，引起社会不稳定；从中期来看，人工智能存在失控的可能，芯片的物理极限，不可拔掉的电源都会引起互联网和人工智能结合后的不可操控；从远期来看，人工智能的终极威胁即人类这个物种会在个体的体能和智能方面全面的衰落，把对世界的管理让给人工智能，它一定是认为把人类清除掉是最好的。”此外，江院长还指出，要考虑最根本的问题是我们为什么要发展人工智能，资本的推动作用显而易见，资本为了增值盲目且不计后果。二、人工智能是人类的福音还是恶梦？
人工智能到底是造福全人类的利器，还是毁掉世界的终极恶魔？北京大学计算机系主任陈钟教授从自己的角度对此进行了一番解读。陈钟教授的演讲主题是“从人工智能本质看未来的发展”。他首先结合自身求学、工作的经历，分享自己关于计算机的观点与看法。然后，陈教授在演讲中依次展开自己关于人工智能的三个重要观点，即“人工智能本质是计算机科学分支”、“数据驱动导致人工智能发展起起落落”和“社会科学与现实的关系比以往更加紧密”。陈教授将理论与实务相结合，帮助大家更好地理解人工智能的本质与发展趋势。最后，他表达出自己关于人工智能的中庸态度，主张要对人工智能进行规制，促使其合规发展。不同于前面几位理工科学者的讲述，中国社会科学院哲学所的段伟文研究员从哲学和人性入手，对人工智能的社会性进行思考。段伟文研究员具有深厚的哲学功底，他以人性为切入点来思考人工智能的危机和未来情境。段研究员指出，机器的使用最终都是与人的能动性有关，他崇尚一种慢科学，要更多地思考人性、伦理，审慎对待人工智能的发展。他的主要观点可以概括为五句话：一是人工智能的发展带来新的权利，二是数据框定时代、算法设定认知，三是人的机器化和机器的人化，四是智能延展认知与人工愚蠢，五是深度科技化（预防性原则和主动性原则）。宽资本董事长、奇点大学投资人关新则从行业实际发展情况出发，直指人类对人工智能的恐惧之处——人是不可能阻挡技术的，技术本身就是洪水猛兽。而人类所害怕的是技术日新月异。他认为，我们今天应该把人工智能和科技革命当做完全不可阻挡的东西，至于人怎么应对，这是挑战人本身的智慧，而不是机器。三、中国在人工智能时代会领跑世界吗？
有观点认为，人工智能的发展，为发展中的中国提供了“弯道超车”的良机。那么，世界范围内来看，AI的研发水平到了怎样的程度？人工智能的进步到了哪一个阶段？中国在这一研究领域是否占有一席之地？根据现在的研究情况，能否对未来的发展趋势进行预测？中国在人工智能时代是不是能够跑在世界前列？这些问题值得探讨。
上海交通大学电子信息学院的熊红凯教授首先做了题为“人工智能技术下对真理和生命的可解释性”的主题演讲。他回顾了人工智能从上世纪五十年代到现在的起起落落，认为人工智能发展中的不确定性和不可解释性是最大的威胁。熊红凯教授演讲之初就提出与人工智能紧密相关的机器学习、神经网络具有很大的不确定性，而人工智能的发展就要解决这些不确定性、不可解释性与因果性的问题。他演讲的重点就是人工智能技术的安全性。人工智能的推动主体是企业与资本，其最大推动力不是算法而是数据，数据的使用就不可避免带来安全性问题。这也是美国大数据医疗一直进展缓慢的原因。一切技术都是以超越人自身为推动力，从这个角度来看，熊教授认为一些人称人工智能技术是洪水猛兽有一定道理。
上海社会科学院哲学所副所长成素梅研究员则对人工智能研究的范式转换和发展前景进行分析和展望。人工智能是计算机分支学科研究出来的，但是从学科性质上来讲，人工智能不是自然科学，人工智能属于技性科学，是科学与技术相互交叉的一个领域，一开始就具有跨学科性。它是要把科学的原理变成技术的实现，倒过来技术的实现又推动了科学原理的解释和发展。人工智能研究者一旦扬弃追求通用人工智能的范式，转向追求在具体领域的拓展应用，人工智能就会走出瓶颈，迎来新的发展高峰。华东政法大学政治学研究院院长高奇琦教授也提出了重要观点，认为中国在人工智能时代有特殊的使命。高教授首先对比了中美两国的优势和劣势，认为中国的优势第一个在于庞大活跃的中国市场，这个市场规模是全球独一无二的；第二个是勤劳勇敢的中国人，让国外感到恐惧的24小时开店、周末不休息；第三，科研队伍和研究水平；第四是中国已经有了一个良好的发展基础。而最大的优势莫过于位置和文化。相比于西方，中国文化具有多元而开放的特点。最后，高教授提出未来发展的四个“智”——第一，跨智，发挥媒体之间的技术优势；第二，众智，利用群体智能；第三，合智，人工智能和人类智能的合作；第四，善智，发展的目的是为了人类的公平正义。“AI就是“爱”，我们研究AI的目的就是让世界充满AI。”
四、人工智能对法律与政府的影响
法律与政府是公平公正的代名词，面对AI在社会众多领域的应用，法律和政府部门工作也在与人工智能接轨，在实践中让AI发挥更大的作用。
四川大学中国司法改革研究中心主任左卫民教授在法律实务领域具有一定建树，他着重从形而下审思人工智能与中国智慧司法的未来。他鲜明地指出AI与法律学者有一定差距，但法律界总体上对AI是相当认同的，上海、江苏以及浙江等地已经将大数据人工智能运用到审判中来，而案多人少的现实背景、对公正效率的需求也需要发展人工智能。左教授接下来向大家讲述法律界对人工智能的运用情况，他以国家开放司法审判书为例指出司法裁判引入大数据对于建构裁判标准具有重要的意义。当然，他也指出裁判文书的过度应用也存在问题，法律具有独特性，很多现实情况很少用到裁判文书。总而言之，左教授对人工智能在司法领域的应用充满信心。“在我看来人工智能向法律提出的问题更具根本性。”上海交通大学凯原法学院郑戈教授列举了人工智能对法律职业和社会管理的种种挑战。郑戈教授主要以“电子人”为例探讨是否建构人工智能的法律人格。他首先从欧洲关于人工智能的法律法规延伸开来，介绍阿西莫提出的机器人“三大律法”，然后详细列举人工智能给法律带来的问题与挑战。人工智能所涉及的伦理和法律问题是这个时代最关键的问题之一，第二个问题是它涉及现代法律体系的基础性概念和思维方式，第三个问题是数据的实际占有者与使用者之间的界限越来越难以判定，第四个问题是过错的判断越来越困难，第五个问题是过错与损害结果之间的因果关系越来越难以确定等。郑教授主张对人工智能进行合理的法律规制，需要法律人和科学家的深度合作。
华东师范大学政治学系吴冠军教授作为政治哲学研究者，着眼于未来社会秩序。吴冠军教授的演讲用人类学机器这个概念阐述自己对人工智能的理解。人类学机器是著名哲学家阿甘本提出的一个概念，他认为人类与动物以及其他事物之间存在分级制度，人与人工智能之间是一种机器关系，上下级的关系。吴教授指出人类学机器是基于人工智能的全新的物种，这个新物种会带来一系列伦理问题、逻辑关系问题，对现实世界产生颠覆性的影响。我们在关注人工智能发展的同时也要关注它的正当性。上海社会科学院互联网研究中心执行主任惠志斌主要探究人工智能应用场景中的法律问题。他认为，人工智能能够联系大量的人、物，在这样一个联网的基础上产生大量的数据，数据通过智能化的算法，这个算法至少目前来看还是由人来设计，由人来去验证，去实施的算法，共同构造智能网络的应用场景，在各种各样的场景里面，医疗领域、环境领域，包括我们的生活等等各种场景里在应用，所以，在鼓励它发展的同时如何去规避危险，如何能按照人类所希望见到的“善智”这样一些方向发展，这是我们需要考虑的问题。还要考虑如何通过一些公共政策，如何通过法律，把它那些可能带来危害的风险点找到，进行规避。他认为，人工智能碰到的法律和经济问题，比如产权版权问题，变成具体服务和产品问题时的责任归属问题等等，要在基本安全的框架内，探讨人类和机器共同协作的方式，保持透明、开放，让人工智能产品在公众的监督之下，而不是随意设置。上海交通大学凯原法学院杨力教授的主题演讲“司法大数据与人工智能的应用前沿”介绍了司法界AI应用的前景。他介绍了法律实务中大数据应用的四套大纲：第一套大纲是AI系统，所有人工智能依赖于数据驱动，在整个司法链条上做到数据驱动最底层工作，一定要把法院、检察院的相关数据打通，这一点非常关键；第二套是在审判环节，审判环节是整个法律中的中心工作。第三套是算钱算绩效，对每一个法官每年能受理多少案件等进行测算；第四套是模拟审判，希望通过三到五年，机器法官（现在还不敢称智能法官）能够承担法院的简单案件。五、人工智能对经济、社会与传媒的影响
上海大学社会学系顾骏教授重点探讨了人工智能研究的“灯下黑”问题。他认为，以往的研究只是将人工智能与人类智能进行简单的比较，人类的自我中心主义让大多数研究者忽略了人类创造物的内在逻辑。他在演讲中主要提出了自己担忧的人工智能发展的八个问题，比如宇宙发展是否会终结人类，人工智能是否会超越人类，人类创造物是否有自主创造力以及机器人如果能够自我进化，那么进化的结果由谁来控制等。顾教授的演讲体现出强烈的忧思。最后，顾教授认为自己关于人工智能的研究只有问题，没有答案，需要更多的人去理性思考。上海师范大学知识与价值科学研究所所长何云峰教授则持乐观态度，站在进化论视角看待人工智能。他认为，人工智能像人类一样，也是不断进化的。人类为弥补自身进化不足不断开发新的机器，所以说人工智能在很早之前就已经开始，这也可以运用康德的“先天知识何以可能”来论证。何教授对人工智能的发展同样充满自信，重要的问题不是人工智能会带来一些风险，人们在前进的过程中可以解决这些，问题的关键是人工智能大量的使用会导致人类进化危机，它比人类摆脱自身束缚更加可怕。何教授最后对人工智能发展做出乐观预测，人工智能越发展，人类从劳动中解放程度越高，人类将有更多时间来学习和提升自己，拥有更多发展机会。复旦大学哲学学院徐英瑾教授演讲的主题聚焦于认知语言学与人工智能伦理学。他认为，在主流的人工智能伦理学研究中，很少有人意识到：将伦理规范的内容转化为机器编码的作业，在逻辑上必须预设一个好的语义学理论框架，而目前主流人工智能研究所采用的语义学基础理论却恰恰是有问题的。徐教授主张在人工智能与人工智能伦理学的研究中引入认知语言学的理论成果，并在此基础上，特别强调“身体图式”在伦理编码进程中所起到的基础性作用，必须严肃思考“怎样的外围设备才被允许与中央语义系统进行恒久的接驳”这一问题。微软亚太科技有限公司副总裁王枫也参加了研讨会，他鲜明地提出：新科技应助力人工智能造福人类。第一，人工智能服务于人类，互联网和各种软件硬件都是由人制造，为人服务，这是前提。微软近期推出的盲人智能眼镜就是在这一前提下产生，帮助盲人实现以前无法做到的事情。第二，他强调，没有数据的人工智能是一个理论和空谈，数据的完整性、专业性和准确性是最基本的。弹性的云计算的应用使得人工智能不再局限与手机管家的简单问答。而与媒体合作过程中，可以看到，通过人工智能感知的技术可以保证视频内容合法合规。此外，微软最近也推出了新的应用——通过云计算和大数据，抓取照片上人的特点，进行人脸识别，用于找寻流失儿童等。王枫副总裁同时表示，人工智能的标准要依托于法律法规和整个地区国家的标准。上海财经大学讲席教授、城市与区域科学学院副院长张学良教授，从经济学框架来分析人工智能的发展与经济学的未来。他认为经济学可以看作是在不确定的世界中找出确定的因素，经济学的研究将人工智能的发展看作要素驱动。第一，从供给与需求上来看，无论是人工智能和产品的出现，还是技术的发展，它所改变的形态是供给侧。第二，从成本与收益上来看，技术的成本我们是否能看到，它往前走一步投入多少成本，用经济规律讲是有约束条件的，企业家的投资一定要带来收益。它背后有一个成本与收益的法则。要用历史阶段性与连续性的眼光看待，让市场来发挥作用。第三，从政府与市场的角度看，政府要防止垄断，做好分配工作，利益共享，在人工智能时代找准自己的定位。第四，从中国与世界角度看，就业与劳动力市场、教育、文明、社会主要矛盾都是需要考虑的问题。六、圆桌大讨论：人工智能会战胜人类吗？
在圆桌会议中，围绕本次研讨会主题，与会专家学者进行了热烈的自由讨论，纷纷提出独到的观点。
华东师范大学历史系王家范教授：今天的这个话题，我觉得有一个前提，毕竟是人在倡导人工智能，人是主体，既然能够倡导也应该能够控制。所谓的道义是什么呢，我认为它所倡导的倡导物本应该是用来帮助人类的，凡是不利于人类，危害人类的都不应该倡导。违反道德基本准则的就是危害人类的，反人类的。在欢呼进步的同时，有必要对后果进行认真的检讨。要认真思考的是不应该只关心利益，人文主义在科技里面应该占有主导地位。如果把史学看作一门人类理解自己的私密工艺——提炼人类的智慧，用来改善人类现在和未来的处境，这一类的史学工艺，人工智能做不了。搞史学的知道，任何一个有名的史学家，他只能做很少一部分，有多少人能把古今中外的文献都整合在一起？我不认同所谓的人类智慧终极论，我认为机器人永远不可能完全胜过人类的整体智慧。上海政法学院文学与传媒学院副院长张永禄副教授：在人文科学里面，机器人写作要解决两大问题，要把认知语言学形式化。非线性的，非结构化的是不能表现出来的。目前最高级的（人工智能）是能写三千字以内的小说，我们知道最好的小说不是单一类型的。河南大学博士后赵牧：许多人对人工智能可能带来灾难后果报有深深的恐惧。这些恐惧毫无疑问是站在人本主义的立场上的，但种种悲观论调却建立在对人和人类社会既有的经验和认识的基础上，并对人工智能的概念带有望文生义的理解。目前的人工智能，还不过是小部分地实现了人脑的功能模拟。人工智能离所谓的智还有着很长的路要走，但人文学的想象力却将它的自我发展想象为即将到来的现实，似乎人为自己的创造物所奴役已经迫在眉睫了。我们当然不能轻易地否定这种忧虑所包含的人文关怀，但它却在无远弗届地想象人工智能的自主性时，对人之为人的属性设定了一个不变的本质。退一万步讲，既便人工智能成为了无机智能而将来之人成为了它的奴役对象又怎样呢？当年没有走出森林的猴子对作为其进化物的人是没有报怨资格的，它们如果有反思能力的话，也只能“求诸己”，而没办法让人再变成猴子。苏州大学凤凰传媒学院院长陈龙教授：我想从批判的视角来看一下人工智能它应用过程中的问题。讲危害和恐惧，为时尚早。首先人工智能发展到现在的状态，让人们产生了忧思，这本身就是现代性的一种表现，发展到极致状态的一种现象。我们知道人工智能现在的状态，未来的状态到底怎么样，它都是处在一个漫长的量变过程。最大的问题，是权力让步的风险问题。厦门大学法学院郭春镇教授：人工智能和人类之间的关系，一个是人与人之间的关系，还有和商业之间的关系。它其实已经不光影响控制我们的行为了，而是公开的，可以得到我们的信息，政府知道我们这么多信息，商业知道我们这么多信息，这样的话我们怎么控制信息的边界？怎么让他们不滥用个人信息的利用？如何界定和控制这个边界，这个问题依然保留。清华大学博士后曹渝：人工智能会怎么走，第一，不必恐惧，因为该来的还是要来的，我们不如齐心协力把人工智能孵化出来，第二，一定要警惕资本权力的界线。我们技术人是有理想的，不要认为这些IT工程师没有意识，人骨子里追求自由、平等、博爱，会超越一切。(本文首发于《探索与争鸣》杂志微信公众号，澎湃新闻得到授权使用，内容有删节。)
人工智能的伦理挑战与科学应对
【光明青年论坛】
编者按
2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》，呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”。在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战，引发重大的伦理关切。习近平总书记高度关注人工智能等新兴科技的发展，强调要加快提升“人工智能安全等领域的治理能力”，“塑造科技向善的文化理念，让科技更好增进人类福祉”。为此，本版特组织几位青年学者围绕人工智能的伦理挑战与科学应对展开讨论，并邀请专家予以点评，以期引发学界的更多关注，为推动人工智能健康发展贡献智慧。
与谈人
彭家锋 中国人民大学哲学院博士生
虞昊 华东师范大学政治与国际关系学院博士生
邓玉龙 南京师范大学哲学系博士生
主持人
刘永谋 中国人民大学哲学院教授、国家发展与战略研究院研究员
1.机遇与挑战并存的人工智能
主持人：新技术革命方兴未艾，以人工智能等为代表的新兴科技快速发展，大大拓展了时间、空间和人们的认知范围，人类正在进入一个“人机物”相融合的万物智能互联时代。请具体谈谈人工智能给人类社会发展带来什么样的机遇？
彭家锋：人工智能、大数据、物联网、云计算等智能技术蓬勃兴起，对人类社会的方方面面产生深刻影响，推动整个社会逐步迈入智能社会。在此过程中，存在许多重大历史机遇需要我们把握。就技术治理而言，人工智能作为一种治理技术，正在助推社会治理的治理理念、治理方式、治理效能等方面的变革，将传统技术治理提升至智能化新阶段，呈现出“智能治理的综合”趋势。智能治理将全面提升社会公共治理的智能化水平，主要呈现出四个方面的特征：一是治理融合化，即促进各种智能技术与其他治理技术相互融合，大幅度提升智能社会的治理水平；二是治理数据化，即以日益增长的海量数据为基础，通过对数据映射出来的“数字世界”进行社会计算，实现治理目标；三是治理精准化，即发挥智能技术强大的感知能力、传输能力和计算能力，将传统的粗放治理转变为精准治理；四是治理算法化，即不断完善智能决策系统，尝试将程序化的算法决策扩展到更多的决策活动中，从而提高决策质量。
虞昊：人工智能有助于反思人类社会得以建立与发展的基础。随着分析式AI向着生成式AI不断演变，尤其是生成式AI初步展现出判别问题、分析情感、展开对话、创作内容等越来越具有人类特征的功能，原本属于人类的领域正被人工智能以另一套由“0”与“1”构成的计算机语言逐步侵蚀。这既是对人类社会的冲击，也势必会在更加平等的开放性框架中增强人类的主体性，促进人类社会进一步发展。
邓玉龙：总体来说，以人工智能为代表的新科技发展，显著提升了社会生产力。例如，生成式AI不但能完成传统AI的分析、判断工作，还能进一步学习并完成分析式AI无法从事的创造性工作。从人机交互的角度来看，人工智能也促进了生产关系的高效发展。具体表现在：一是刺激劳动形态的转化。人工智能高效承担大量的基础机械性劳动，人类劳动则向高阶的创造性劳动转化，由此引发社会层面的劳动结构转型、升级，并且以人工智能为中介，社会范围内的劳动整合、协调能力也实现升级。二是促进劳动场域的重构。随着劳动形态的转化和劳动的社会化扩展，人工智能将劳动从固定场域中解放出来，人类劳动的灵活性增加。相比于创造性劳动，机械性劳动更加受到空间和时间的制约，而在人工智能从技术层面替代更低边际成本的基础性劳动之后，人类劳动空间和时间的自由性实现跃迁。三是对主体的发展提出了更高要求，尤其是对主体适应社会发展提出了更高要求。人工智能技术的发展对人类传统的知识结构提出挑战，要求人类更新原有的知识结构以适应社会发展需要，也对教育提出更高要求，教育模式和教育内容需要更契合科技发展的水平，培养更加全面发展的人才。
主持人：人工智能的一系列产物在给人们带来生活便利的同时，也一定程度上引起大家对其可能引发的伦理挑战的警惕。一些人关注人工智能的风险问题，对人工智能的推进有些焦虑。如何看待这种警惕和焦虑？
虞昊：人工智能的风险以及由此带来的焦虑，是完全可以理解的。但我们无法返回一个没有人工智能的世界，人工智能已然深度介入人类社会，试图遏制人工智能的推进只能是螳臂当车。同时我们对人工智能的发展也不能放任不管，无视甚至于压制人工智能的推进只能是掩耳盗铃。因此，我们应该正视这种焦虑，在发展人工智能的过程中探求解决方案，在人工智能带来的风险中寻求危中之机。
邓玉龙：我们应正确看待这种焦虑。要看到，焦虑有其积极的意义，它体现人类的忧患意识，催生对人工智能风险的预见性思考，提醒我们注意焦虑背后人工智能技术发展存在的问题。正确对待焦虑有助于积极采取措施防范风险，辩证分析焦虑中先见性的思考，通过社会治理模式的升级化解风险问题。同时，仅有焦虑和恐惧是不够的，更重要的是积极解决人工智能发展带来的社会问题。从劳动的角度看，人工智能确实会取代部分人类劳动，推动劳动结构转型升级，让劳动向着碎片化、个体化方向发展，劳动者处于弱势地位，面临着“机器换人”的挑战。但是我们也应该理性认识到，人工智能不是对人类劳动能力的完全替代，而是对劳动者提出了更高的要求，要求劳动者掌握科学知识，将技术的发展内化为自身能力，在更具创造性的劳动中实现自身价值。
彭家锋：任何技术的发明使用，不可避免地伴随着这样或那样的风险。人工智能技术自然也不例外，在其应用过程中，同样引发了诸如隐私泄露、算法歧视、法律责任等风险问题。因此，关注人工智能的风险问题，并由此对人工智能的推进产生焦虑，具有一定理论依据和现实基础。但更应当清醒地认识到，人工智能的某些相关风险可以提前得到规避，并不必然会发生；即便真的发生，也仍可不断寻求化解风险的有效手段。以个人隐私滥用风险为例，在治理过程中，虽然不可避免地会涉及个人数据收集和分析处理，但可以通过建立完整的规范和监管体系来保护个人隐私，降低滥用风险。
2.人工智能科技竞争的“伦理赛道”
主持人：习近平总书记在以视频方式出席二十国集团领导人第十五次峰会时指出，“中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康发展”。请谈谈“人工智能原则”应包含哪些内容？科技向善的文化理念对推动全球人工智能健康发展具有怎样的现实价值？
彭家锋：为应对人工智能等新科技快速发展带来的伦理挑战，2022年，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，其中明确了“增进人类福祉”“尊重生命权利”“坚持公平公正”“合理控制风险”“保持公开透明”等五项科技伦理原则。我认为，这五项原则基本涵盖了人工智能原则的伦理要求，彰显了科技向善的文化理念。科技向善的文化理念，根本目标是让科技发展更好地服务社会和人民，带来良好社会或社会公益的善。科技向善对推动全球人工智能健康发展至少具有以下三个方面现实价值：一是塑造公众信任。公众对人工智能的信任很大程度上并不完全由相关风险程度决定，而是取决于公众的利益与价值是否得到足够重视。后者正是科技向善的内在要求。二是引领技术创新。科技向善的文化理念将在技术创新发展过程中发挥价值引领作用。三是促进全球合作。科技向善的文化理念试图在全球范围内建立人工智能伦理规范的“最大公约数”，各国在达成伦理共识的基础之上，能够建立互信，实现更加充分深入的国际合作。
虞昊：个人认为，人工智能原则也应包含非对抗与非失控的理念。非对抗意味着不应将人工智能视作人类社会的对抗性存在，人工智能已经成为人类社会的构成性要素，我们必须持更为开放的态度去面对人工智能。非失控意味着不应放弃对人工智能的伦理规范，应以智能的方式去规范加速发展的人工智能。如果以上述理念为前提，也就是说，在支持人工智能发展的情况下，科技向善的文化理念在推动全球人工智能健康发展中就变得极为重要。此处的“善”在国家治理层面即指向“善治”，而当人工智能的发展从国家范围扩展到全球范围，“善治”就在构建人类命运共同体的意义上拥有了更贴近现实的内涵。各国应摒弃冷战思维与零和博弈，基于善意与友谊共同思考人类作为整体如何在人工智能的冲击下通往全球性的“善治”。
邓玉龙：2019年欧盟发布《可信赖的人工智能伦理准则》，2021年中国国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》（以下简称《规范》）。与欧盟发布的伦理准则相比，《规范》体现了中国特色社会主义的制度优势，旨在将伦理规范融入人工智能全生命周期。人工智能发展的根本目的是促进人的全面发展，因此，我以为，人工智能原则还应体现共享和有序发展的要求。共享，旨在防止人工智能的技术垄断。科技发展应该兼顾全体人民的利益，而不是服务于少数群体，由全体人民共享科技发展成果，推动全球科技水平的共同增长。有序发展，旨在防止人工智能技术的无序扩张。人工智能技术的发展最终是为了提升人的幸福感，推动科技有序发展能够促进人机和谐融合，有效预防潜在无序扩张的风险。
主持人：从规范层面来说，伦理反思对规范人工智能发展的作用主要体现在哪些方面？
彭家锋：近年来，世界各主要国家在人工智能领域竞争日趋激烈，纷纷将人工智能发展置于国家发展的战略层面。比如，美国陆续出台《国家人工智能研究和发展战略计划》（2016）和《关于维持美国在人工智能领域领导地位的行政命令》（2019）；欧盟先后发布《欧洲人工智能战略》（2018）和《人工智能白皮书》（2020）；中国也较早发布了《“互联网+”人工智能三年行动实施方案》（2016）和《新一代人工智能发展规划》（2017）。人工智能科技竞争的客观局面已然形成。在此背景下，如果忽视人工智能技术发展所带来的全球性风险与挑战，极有可能陷入技术赶超的竞争逻辑。因此，亟须规范人工智能的科技竞争，而倡导伦理反思或许就是一条可行之路。伦理反思的意义至少在于：一是设定伦理底线。人工智能技术的开发和应用需要遵循一些基本的价值理念和行为规范。只有守住伦理底线，才有可能避免颠覆性风险的发生。二是实现敏捷治理。伦理反思是一个动态、持续的过程，贯穿于人工智能科技活动的全生命周期。为了确保其始终服务于增进人类福祉和科技向善的初衷，需要保持应有的道德敏感性，以灵活、及时、有效的手段化解人工智能带来的各种伦理挑战，确保其在科技向善的道路上行稳致远，实现良性发展。
邓玉龙：人工智能科技竞争是为了促进科学技术发展，而科学技术发展的最终目的是推动人类社会的进步。人工智能科技竞争不应该仅包括技术竞争的单一维度，更不应该通过技术优势遏制他国的科技发展，而应该是在人工智能科技条件下的综合性竞争，通过良性竞争促进全球人工智能和全人类的共同发展。其中就应该包括社会治理竞争，通过社会治理保障社会公平，因而对社会中人与人关系的伦理反思构成人工智能科技竞争的有机组成部分。首先，伦理反思对人工智能科技竞争提出了更高的要求。人工智能的公平性、可信任性、可解释与透明度、安全性不仅是伦理要求，也代表了人工智能技术的发展方向，是人工智能科技竞争需要抢占的技术制高点。科技的发展是为了人的全面发展，因而人的发展内嵌于科技发展要求，伦理反思有助于防止工具主义的泛滥。其次，伦理反思为人工智能科技竞争提供价值引导。伦理反思注重保障人的权利，科技发展并不是社会发展中的唯一衡量因素，我们还应该关注其中多样性的因素，尤其注重保护特殊群体的利益，例如防止数据鸿沟等不良影响。伦理反思有助于实现人工智能的综合性健康发展。
3.人工智能安全与人的全面发展
主持人：科学探究一直以来都是人们认识世界和了解自身的重要认知方式，人工智能等信息产业的革命如何影响着人们的认知方式？
彭家锋：人工智能等信息产业的革命，促进了科学研究新范式——数据科学的诞生，进而对人们的认知方式产生深刻影响。数据科学被认为是继实验、理论和模拟之后的新的科研范式。相较于传统科学，数据科学融合了统计和计算思维，通过人工智能等技术提供的海量数据、强大算法和算力，能够直接从数据中寻找相关关系、提取相关性或者预测性知识，进而产生一种基于相关性的科学思维模式。但这种相关性并不一定能够转化为因果关系，因为可解释性对于从数据科学技术确定的相关性中提取因果解释至关重要，而相关技术一般都缺乏必要的透明度和可解释性。数据科学更可能成为一种预测科学，但是预测并不是科学追求的唯一目标。通过揭示世界的潜在因果结构来解释和干预现象，也是科学的两个重要目标。因此，尽管数据科学能够通过分析大量数据生成相关性知识，却不能直接产生因果解释。对此，传统科学的可检验性假设方法和因果规律探求仍有其重要价值。数据科学并非取代传统科学，相反，两者将相互补充，共同成为人类探索世界的有效工具。
虞昊：显而易见的是，随着人工智能向着通用人工智能迈进，其能够为人们提供的教育资源、生活娱乐、工作讯息也越来越丰富，人们势必越来越依赖于通过与人工智能进行交互来获取外界信息。因此，当人工智能深度地构成人们认知世界的滤镜时，若不对人工智能本身具有重复性、同质性倾向的认知框架保持警醒，人工智能可能扭曲人们的认知方式直至影响人的主体创造性。
邓玉龙：以人工智能为代表的全新技术发展被称为第四次工业革命，其中最显著的特征就是机器与人类的深度融合，机器不再作为一种外在性的工具被人类使用，而是在与人类的深度关联中影响人类的认知方式。一方面，信息产业革命丰富了人类认知的联结方式。人工智能和大数据技术的发展促进人类的分析逻辑从因果关系扩展为相关关系，对相关关系的重视使人工智能可以从大数据而非小数据维度获取信息，为人类认知提供新的视角。按照传统人类认知方式的理解，因果关系要求关于世界的认知是确定性的，而这在数字时代的复杂性社会中很难实现。人工智能对相关关系的认知填补了这一缺失，允许我们在无法掌握确定信息但在掌握大量数据的条件下对未来趋势作出预测。另一方面，如果我们对人工智能等科技的输出结果和生成内容盲目信赖，将结果和内容与经验事实之间进行绝对等同的连接，误认为是事实的全部，那么我们就会丧失人文主义抽象反思的能力，对此我们应当保持警惕，始终坚持反思和批判的人文精神。
主持人：如何调适人的主体创造性与信息高度集成共享之间的关系？
彭家锋：当人们逐渐将更多创造性工作交由人工智能完成，不免让人担忧人工智能是否将会威胁到人的主体创造性。从人机关系的角度来看，这种担忧是基于一种人机敌对论的视角，认为人工智能挤压了人的主体创造性空间，是替代逻辑的延续。但从人机协作的视角出发，将人工智能看作人的得力帮手，通过创造性地使用人工智能可以赋予人类更大的创造性空间。比如，在进行文字写作、多媒体脚本、程序代码、文稿翻译等工作时，可先由人工智能高水平地完成草稿工作，然后再由人类进行一些创造性的调整和发挥。此时人工智能生成的内容将成为进一步创作的原材料，人类将以更高的效率投入创造性活动之中。当然，要实现以上效果并非易事，不仅需要思想观念的转变，还应在制度安排、教育方式等方面作出相应调整。
虞昊：面对信息高度集成共享的人工智能，人有可能转变为算法的动物。试想下述场景：当依据人工智能展开行动变得足够便捷有效时，行动者便会倾向于采信人工智能，此时，看似是人类行动者基于自然语言在进行互动，实则是算法逻辑基于计算机语言在进行数字化运转。于是，人的主体创造性被侵蚀，人可能沦为算法动物。对此类情形，我们应该保持足够的清醒与警惕。
邓玉龙：人工智能技术生成的内容（AIGC）具有高度集成共享的特性，能够高效地对人类知识进行数据挖掘、信息生成。调适人的主体创造性与信息高度集成共享之间的关系，我们需做到如下几个方面：首先，需要通过人的创造性扩大AIGC数据库，当下AIGC主要是依赖于大语言模型，以大量的网络文本作为训练数据库生成的，通过人的创造性生成可以不局限于网络文本，而是进一步扩展数据库的训练文本，从而提高其丰富度。其次，需要通过人的创造性为AIGC提供价值训练，通过人的创造性生成的价值立场、伦理法则等与AIGC的训练数据库相融合，从而建构可信赖、可持续的信息高度集成共享机制。最后，需要将人创造性生成的内容与AIGC共同作为人类知识的来源，人类知识的获得不能仅仅局限于AIGC，而是需要人发挥其主体创造性对人工智能技术生成的内容进行反思和拓展，将人类无法被数据化的、经验性的知识与AIGC数据化的知识融合成为人类知识的来源。
（本版编辑张颖天整理）
人工智能的瓶颈问题
人工智能现有进展主要体现在专用人工智能方面，但是仍存在一些局限性，将其总结为以下四点：有智能没智慧，有智商没情商，会计算不会“算计”，有专才无通才。这些瓶颈问题主要包括：
（1）数据瓶颈：深度学习需要大量的数据；
（2）泛化瓶颈：这是模式识别、计算机视觉、人工智能方法面临的一个共同的问题，现有方法在一些实际问题中仍无法取得理想的泛化性能，或者训练好的模型用在变化的环境或领域，其泛化性能明显下降；
（3）能耗瓶颈：人的大脑尽管是一个通用的人工智能系统，但是能耗很低（只有20瓦），但现有计算机上实现人工智能系统则能耗很高；
（4）语义鸿沟瓶颈：目前语言服务大多为简单查询，不涉及语义推理问题，缺乏真正的语言理解能力，比如一些有歧义的自然语言句子，人很容易根据上下文或常识理解其真正含义，计算机却很难理解；
（5）可解释性瓶颈：现有人工智能系统都是知其然而不知其所以然，其过于依赖训练数据，缺乏深层次数据语义挖掘。报告指出，可解释性非常重要，人工智能不仅要知其然还要知其所以然，知其然只是浅层智能，知其所以然才叫深层智能；
（6）可靠性瓶颈：现有人工智能系统可靠性较差，有些错误识别结果会带来致命后果，比如2016年7月，特斯拉自动驾驶功能不能正确识别反光条件下的卡车，导致致命车祸。
观点二可解释的人工智能是未来重要方向从专用人工智能到通用人工智能是大势所趋，一些科技巨头包括国家机构都在布局通用人工智能的研究，比如GoogleDeepMind创始人DemisHassabis宣布朝着“创造解决世界上一切问题的通用人工智能”这一目标前进，微软成立人工智能实验室以挑战通用人工智能为主要目标。
可解释的人工智能系统备受关注，它也是突破统计学习瓶颈问题的一个重要方向。DARPA（美国国防高级研究计划局）的报告里面把过去几十年人工智能技术的发展和创新分成几个波次：第一个波次是基于规则的，例如以专家系统为代表的系列方法和技术；第二个波次就是当前以大数据驱动为代表的统计学习；第三个波次很可能是可解释的人工智能，就是人工智能要知其然还要知其所以然，以此可见人工智能可解释性的重要意义。
观点三切忌借人工智能热度圈钱圈地国务院印发的《新一代人工智能产业发展规划》的实施，一定会有力推动我国人工智能事业的发展，掀起人工智能新的热潮。但是在新一轮的AI热潮下，我们尤其要保持清醒的头脑，吸取人工智能16年发展的教训，当然也有经验，切忌借这个机会圈钱圈地，一哄而上，给人工智能设定不切实际的目标，提出过高的期望。
人工智能的发展与未来
随着人工智能（artificialintelligent，AI）技术的不断发展，各种AI产品已经逐步进入了我们的生活。
现如今，各种AI产品已经逐步进入了我们的生活｜Pixabay
19世纪，作为人工智能和计算机学科的鼻祖，数学家查尔斯·巴贝奇（CharlesBabbage）与艾达·洛夫莱斯（AdaLovelace）尝试着用连杆、进位齿轮和打孔卡片制造人类最早的可编程数学计算机，来模拟人类的数理逻辑运算能力。
20世纪初期，随着西班牙神经科学家拉蒙-卡哈尔（RamónyCajal）使用高尔基染色法对大脑切片进行显微观察，人类终于清晰地意识到，我们几乎全部思维活动的基础，都是大脑中那些伸出细长神经纤维、彼此连接成一张巨大信息网络的特殊神经细胞——神经元。
至此，尽管智能的具体运作方式还依然是个深不见底的迷宫，但搭建这个迷宫的砖瓦本身，对于人类来说已经不再神秘。
智能，是一种特殊的物质构造形式。
就像文字既可以用徽墨写在宣纸上，也可以用凿子刻在石碑上，智能，也未必需要拘泥于载体。随着神经科学的启迪和数学上的进步，20世纪的计算机科学先驱们意识到，巴贝奇和艾达试图用机械去再现人类智能的思路，在原理上是完全可行的。因此，以艾伦·图灵（AlanTuring）为代表的新一代学者开始思考，是否可以用二战后新兴的电子计算机作为载体，构建出“人工智能”呢？
图灵在1950年的论文《计算机器与智能（ComputingMachineryandIntelligence）》中，做了一个巧妙的“实验”，用以说明如何检验“人工智能”。
英国数学家，计算机学家图灵
这个“实验”也就是后来所说的“图灵测试（Turingtest）”：一名人类测试者将通过键盘和显示屏这样不会直接暴露身份的方式，同时与一名人类和一台计算机进行“网聊”，当人类测试者中有七成都无法正确判断交谈的两个“人”孰真孰假时，就认为这个计算机已经达到了“人工智能”的标准。
虽然，图灵测试只是一个启发性的思想实验，而非可以具体执行的判断方法，但他却通过这个假设，阐明了“智能”判断的模糊性与主观性。而他的判断手段，则与当时心理学界崛起的斯纳金的“行为主义”不谋而合。简而言之，基于唯物主义的一元论思维，图灵和斯金纳都认为，智能——甚至所有思维活动，都只是一套信息处理系统对外部刺激做出反应的运算模式。因此，对于其他旁观者来说，只要两套系统在面对同样的输入时都能够输出一样的反馈，就可以认为他们是“同类”。
1956年，人工智能正式成为了一个科学上的概念，而后涌现了很多新的研究目标与方向。比如说，就像人们在走迷宫遇到死胡同时会原路返回寻找新的路线类似，工程师为了使得人工智能达成某种目标，编写出了一种可以进行回溯的算法，即“搜索式推理”。
而工程师为了能用人类语言与计算机进行“交流”，又构建出了“语义网”。由此第一个会说英语的聊天机器人ELIZA诞生了，不过ELIZA仅仅只能按照固定套路进行作答。
而在20世纪60年代后期，有学者指出人工智能应该简化自己的模型，让人工智能更好的学习一些基本原则。在这一思潮的影响下，人工智能开始了新一轮的发展，麻省理工学院开发了一种早期的自然语言理解计算机程序，名为SHRDLU。工程师对SHRDLU的程序积木世界进行了极大的简化，里面所有物体和位置的集合可以用大约50个单词进行描述。模型极简化的成果，就是其内部语言组合数量少，程序基本能够完全理解用户的指令意义。在外部表现上，就是用户可以与装载了SHRDLU程序的电脑进行简单的对话，并可以用语言指令查询、移动程序中的虚拟积木。SHRDLU一度被认为是人工智能的成功范例，但当工程师试图将这个系统用来处理现实生活中的一些问题时，却惨遭滑铁卢。
而这之后，人工智能的发展也与图灵的想象有所不同。
现实中的人工智能发展，并未在模仿人类的“通用人工智能（也称强人工智能）”上集中太多资源。相反，人工智能研究自正式诞生起，就专注于让计算机通过“机器学习”来自我优化算法，最后形成可以高效率解决特定问题的“专家系统”。由于这些人工智能只会在限定好的狭窄领域中发挥作用，不具备、也不追求全面复杂的认知能力，因此也被称为“弱人工智能”。
但是无论如何，这些可以高效率解决特定问题的人工智能，在解放劳动力，推动现代工厂、组织智能化管理上都起到了关键作用。而随着大数据、云计算以及其他先进技术的发展，人工智能正在朝着更加多远，更加开放的方向发展。随着系统收集的数据量增加，AI算法的完善，以及相关芯片处理能力的提升，人工智能的应用也将逐渐从特定的碎片场景转变为更加深度、更加多元的应用场景。
人工智能让芯片的处理能力得以提升｜Pixabay
从小的方面来看，人工智能其实已经渐渐渗透进了我们生活的方方面面。比如喊一声就能回应你的智能语音系统，例如siri，小爱同学；再比如在超市付款时使用的人脸识别；抑或穿梭在餐厅抑或酒店的智能送餐机器人，这些其实都是人工智能的应用实例。而从大的方面来看，人工智能在制造、交通、能源及互联网行业的应用正在逐步加深，推动了数字经济生态链的构建与发展。
虽然脑科学与人工智能之间仍然存在巨大的鸿沟，通用人工智能仍然像个科幻梦，但就像萧伯纳所说的那样“科学始终是不公道的，如果它不提出十个问题，也永远无法解决一个问题。”科学总是在曲折中前进，而我们只要保持在不断探索中，虽无法预测是否能达到既定的目的地，但途中终归会有收获。
参考文献
[1]王永庆.人工智能原理与方法[M].西安交通大学出版社,1998.
[2]Russell,StuartJ.ArtificialIntelligence:AModernApproach[J].人民邮电出版社,2002.
[3]GabbayDM,HoggerCJ,RobinsonJA,etal.Handbookoflogicinartificialintelligenceandlogicprogramming.Vol.1:Logicalfoundations.,1995.
[4]胡宝洁,赵忠文,曾峦,张永继.图灵机和图灵测试[J].电脑知识与技术：学术版,2006(8):2.
[5]赵楠,缐珊珊.人工智能应用现状及关键技术研究[J].中国电子科学研究院学报,2017,12(6):3.
[6]GeneserethMR,NilssonNJ.LogicalFoundationofArtificialIntelligence[J].brainbroadresearchinartificialintelligence&neuroscience,1987
作者：张雨晨
编辑：韩越扬
[责编：赵宇豪]