李德毅院士 ：智能的困扰和释放
0分享至来源：高校人工智能与大数据创新联盟摘要智能回答整个认知活动中“在哪里”、“是什么”、“为什么”和“怎么做”四个基本问题，含有丰富的内质。当前尚不存在公认的“智能”标准定义。本文分析了这种窘境，给出“智能”的37字新定义，不再区分是人的智能，还是机器的智能，让智能不再被人的生命体特质中的意识、欲望、情感等纠缠困扰。定义强调了学习的重要性，尤其强调在物理空间表现的具身交互导致的感知智能和行为智能，在认知空间的思维导致的计算智能和记忆智能。当智能从身体中单独释放出来，形成认知的机器，就成为人工智能。人类的认知力和想象力，人类学习的能力，以及解释、解决问题的能力，人类智能和人工智能的迭代发展，使得智能能够以超自然进化的速度增长，人类正在进入智能时代。1当我们谈论智能时，我们在谈论什么定义是对于一种事物的本质特征或一个概念的内涵和外延的确切而简要的说明[1]。当前社会，如果不说清楚什么是人的智能，我们也很难讨论人工智能的问题。有人把人的智能和人的本能，甚至和生物本能混为一谈，忽视了后天学习和认知能力的二次扩张；有人把智能等同智慧，把智能和生命中的意识、欲望、情感混在一起，把智能看作是意识的一个属性，认为意识和智能不可割裂；还有人认为智能就是计算和推理的能力，可以通过数值计算、符号问题求解、定理证明，通过提供算力、构建算法来模拟，实现自主决策；有人认为智能主要是使用语言文字表达思维的能力，一切智能都是语言智能，包括数学语言、物理语言、医学语言、音乐语言等，机器实现了自然语言的处理和理解，就有了基本的智能；也有人认为智能就是智商和情商，就是用计、算计、计谋和对抗，当然首先要有常识；也有人认为人工智能就是类脑认知和类脑工程，人工智能就是仿生工程，做机器人，最好是做出一模一样的人形柔性机器人；也有人把智能和认知混为一谈，认为智能等同于时空识别、模式识别，等同于学习、知识和技能；还有人认为智能就是具身行为智能、协同和控制的群体智能；有人把智能和伦理、信仰、价值观混为一谈，谈智能必谈心理学、哲学、世界观、精神、人文和艺术；而更多的人把智能看作是能力，特别是抽象、联想和交互的能力，是想象力和创造力，甚至是虚拟现实、数字孪生、元宇宙等等。在学术会议上的提问和讨论，常常发现是“鸡同鸭讲”，错位沟通，难以汇聚合力，根本原因是它们通常不在同一个语境或语用里。于是，引伸出狭义智能、通用智能、强人工智能、弱人工智能、可信人工智能、安全人工智能、元智能，这些真的可以分开来实现吗?个人的智能、群体的智能、人类的智能、人工的智能、机器的智能，有什么差别?诸多提法让人苦不堪言，哭笑不得，智能被诸多概念困扰，亟待厘清，人们对“智能”需要一个相对稳定的共识。笔者几年前在论证“智能科学和技术”是一级学科时，也花费了大量的精力说清什么是“智能”。2对智能本质内涵的再认识本文的讨论，聚焦人的智能和人工智能。在对“智能”本质和内涵的搜集和详细分析之后[2]，我们对“智能”做如下再定义：智能就是学习的能力（解释解决预设问题的能力），以及解释解决现实问题的能力。预设问题常常是被形式化了的，且行之有效解决了的问题，写到了教科书里。学习是把未知变为可知的能力，是解释解决新问题的基础，解释解决现实问题是学习的目的，两者相互促进，正所谓“学而不思则惘，思而不学则殆”。把人类智能释放到体外，成为离开生命体的智能，即人工智能，包括机器智能。人工智能是人类智能的体外延伸和拓展。我们可以按照智能的内质或者内涵，去枚举智能的种种外延。例如：识别位置、识别天气、识别物体、识别生物、掌握知识、推理、推演、抽象、联想、常识、直觉、顿悟、灵感、预测、优化、会学习、会分析、会想象、有创造，能计算，能类比、举一反三、会总结、归纳、讲评、做诗、作画、协作与配合、群体协同等等，智能的种类数不胜数，难以穷尽。各智其智，智人之智，智智与共，兼容并包才是智能的现实存在。人类对裂脑病人的脑神经元回路的长期医学研究也表明，左半脑可能会否定右半脑[3]；日常生活中，同一个人会有不同的面面观，也会有今天的“我”要否定昨天的“我”。人整体表现出拥有的知识、理性和智能是一个多矛盾、多冲突下的弱统一体，不总是依靠一套完美的、精确的准则演绎运行的，存在不确定性、不一致性和多样性。图1对智能内涵中的两种能力（解释解决预设问题的能力，解释解决现实问题的能力）进行了再划分，体现在物理空间和认知空间的两个大范畴里。物理空间的具身交互能力中有感知智能和行为智能，感知智能中又可分为时空识别智能和目标识别智能等；认知空间的思维能力产生了认知智能，包括计算智能和记忆智能，记忆先于计算，优于计算，约束计算。学习是从未知变为可知的交互过程，是培养和传承解释、解决预设问题的能力，又可分为指导学习和自主学习，学习的结果是记忆，是知识、技巧的存储、调控和提取，学习的目的是解释解决新遇到的现实问题。学习也好，解释解决现实问题也好，都需要认知空间的思维和物理空间的交互，形成闭环，都是在物理空间和认知空间反复迭代，通过行为智能对外体现，并形成记忆的累积，实现认知的自成长。图1智能的内涵：感知智能、行为智能、计算智能和记忆智能人的意识远比人的智能更原始，意识诞生于人类和爬行类共有的那部分大脑[4]，源于大脑中一个非常古老的部位——脑干上部R区，这是生命体生存和繁衍的基本脑区，生物意识和人类智能根本不在同一个起跑线上。哺乳动物的意识先于人类高级智能几亿年，猩猩和倭黑猩猩在600-800万年前就有意识，人在成为智人以前就有了意识的烙印，而人类大脑容积爆长、大脑皮层组织与功能的爆发式进化过程，发生在最近的300万年时间里[6]。意识、情感和欲望等并非始于大脑皮层，更不是大脑皮层所固有的。大脑皮层从脑干中借用了意识和欲望，我们的理性思维和认知过程，有时也会被意识、情绪、欲望和习性所困扰扭曲，意识并不总是有助于人类的认知，并不总是有助于发展人的智能[5]。此外，智能还常常离开意识被单独释放到体外。例如，在科技图书馆里，我们阅读大量的专著、学位论文和专利的正文，都是知识和智能，几乎不涉及到作者们的意识、欲望、情感和性格。又例如，当我们阅读进化论之父查尔斯.达尔文1859年的名著《物种起源》时，我们怎么也没有想到，他的“自然进化、物竞天择”的生物知识和他钟爱的妻子，一个虔诚的基督教徒的信仰如此冲突，说明智能和信仰、价值观是可以分离的。再例如，计算机70年来的发展表现出非凡的智能，但计算机始终没有意识。由此看来，能思维会创造的机器智能，没有被意识和欲望困扰，且受控于人，倒是件大好的事情。这样的机器可以始终集中注意力工作，不知疲倦，不闹情绪，更不会抑郁，表现出一以贯之的工具性，也不会在以后的工作中得上痴呆之类的疾病，因为机器毕竟不是由细胞组成的生物，这正是人类的智慧所在。这里提出的“智能”的37字定义的最大贡献，是不再区分是生命的智能还是机器的智能，不纠缠人的生命体特质中的意识、欲望、情感等，没有任何理论证明非生命的机器不可以仅仅有智能；次大贡献是把学习对智能的重要性在定义里一次性说清楚了。定义中所指的预设问题，常常指经过了实践的考验、成为群体的共识，而且被形式化了的，可以通过学习获得，人类创造的教育，恰好形成了这样一个培养和传承的好环境，人类的智能，植根于教育。3人工智能：人类智能的释放预计到本世纪中叶，不但会出现和人一样思维的机器，而且认知可以自成长，由人和机器交互，赋予机器以意图和动机。尤其重要的，可以通过研发各种各样的传感器和各种各样的行为载体，让机器超越我们碳基身体和精神的局限。尽管人类的大脑如此出色，可它的信息传输却是依靠生化反应，只能达到100米/秒左右，而低端手机联网都是用30万公里/秒的光电方式来传输通话的。人类的听觉、嗅觉、视觉等难比很多动物，听力靠声波，视力靠可见光，寿命还不如乌龟长，人眼不如相机，人脑没有指数式爆炸的算力，算不出小数点后面1012位数的圆周率无理数，想象不出超高维的超级球如何转动，一双手也不如精密机械灵巧，在人类的直觉中有时候还挤满了误会和错误。为什么不借助于智能的机器去拓展我们的感知、认知和行为呢？其实，外形像不像人，并不重要。为了改善人类生存和生活状况，可交互、能思维、会创造的智能机器能够一以贯之的工作，甚至可以暴力思维。期盼到那时绝大多数劳动岗位，尤其是恶劣条件下的艰苦人力岗位，机器都比人类做得更专业、更规范。机器或许让我们多数人离开职场。我们已经从人工智能辅助文字输入、文档生成和内容搜索的时代，跳升到人工智能辅助语言生成的时代，这就是当前很火的ChatGPT。机器越来越多地取代了人类的脑力劳动，并越来越多地渗透到多种机械动能中去，人类社会进入更为自由的智能时代，人类可更加智慧、尊严、优雅地生活。人类普遍希望改善感官，拥有更强的记忆力和计算力，拥有更好的身体行为表现，延缓死亡，唯一依赖进化的碳基生命体其实做不到，硅基的智能机器倒是可以做到。人类命运共同体通过负责任地使用人工智能，可以设法具有比现在人类能力更大的存在力，包括体力和智力。死亡使得个人的才华积累因生命长度局限，难以变得更深刻。我们应该感谢人工智能导致的人类文明生态。人们讨论生物自然进化现象，常用的时间尺度是“万年”，讨论人类文明生态现象，常用的时间尺度是“千年”，讨论人类智能的产物——科学和技术的进步，常用的时间尺度是“百年”甚至“十年”。和地球上其他万千物种相比，人类没有无条件地服从大自然的进化。从早先的“觅食者”跃升为“种植者”、“生产者”、“建设者”，今天又进一步跃升为“创造者”，劳动创造人类，认知和思维成就人类，可交互、会学习、自成长的机器受控于人，正是人类的智慧所在。人类的认知力和想象力，人类学习的能力，以及解释解决问题的能力，正以超自然进化的速度增长，让人发挥人的智慧，机器发挥机器的智能，人类正在借机器延伸和拓展我们的体力，无敌于天下；正在借机器延伸和拓展我们的智力，无畏于圣人，这就是我们身处的智能时代。让我们释放智能、放飞智能、奔向星辰大海吧！参考文献1现代汉语词典（第七版）.商务印书馆，2016,92LeggS,HutterM.ACollectionofDefinitionsofIntelligence:IOSPress2007.3Gazzaniga,MichaelS.TheSplitBraininMan[J].ScientificAmerican,1967,217(2):24-29.4MelanieB,SethAK,MelanieW,etal.Consciousnessinhumansandnon-humananimals:recentadvancesandfuturedirections[J].FrontiersinPsychology,2013,4:625-.5EdelmanDB,SethAK.Animalconsciousness:Asyntheticapproach[J].TrendsinNeurosciences,2009,32(9):476-484.6MarkSolms.TheHiddenSpring:AJourneytotheSourceofConsciousness,W.W.Norton&Company,2021,2.李德毅,何雯*军事科学院系统工程研究院，北京，100141*通信作者.E-mail:colcloud@126.com来源：中国人工智能学会版权声明：转载文章和图片均来自公开网络，推送文章除非无法确认，我们都会注明作者和来源。如果出处有误或侵犯到原作者权益，请与我们联系删除或授权事宜往期精彩文章（单击就可查看）：1.2.3.4.5.6.7.8.9.10.高职大数据专业排行榜2022全国882所高职高专院校大数据技术(与应用)专业教育教学综合实力一览表11.12.13.办14.15.16.17.18.19.20.21.22.23.24.25.特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端人工智能监管的新思路，你绝对想不到！
尽管，已经有人将人工智能与核弹相提并论，但人类监管生物武器和生物技术的方法更适合人工智能。
今天的人类正在开发可能是人类历史上最强大的技术：人工智能。人工智能的社会危害（包括歧视、对民主的威胁和影响力的集中）已经得到了充分的证明。然而，领先的人工智能公司正在进行军备竞赛，以构建越来越强大的人工智能系统，这些系统将以人类历史上从未见过的速度升级这些风险。
当我们的领导人努力解决如何遏制和控制人工智能发展及其相关风险时，他们应该考虑法规和标准如何让人类利用过去的创新。监管和创新可以共存，尤其是当人类生命危在旦夕时，它们必须共存。
核技术提供了一个警示故事。尽管就人类死亡率而言，核能的安全性是石油的600多倍，而且能够产生巨大的产量，但很少有国家会接触它，因为公众首先遇到了错误的核家族成员。
人类是以原子弹和氢弹的形式首先接触到核技术。这些武器代表着人类历史上第一次开发出一种能够终结人类文明的技术，它们是军备竞赛的产物，优先考虑速度和创新，而不是安全和控制。随后，安全工程和风险管理的不足——众所周知，这导致了切尔诺贝利和福岛的核灾难——摧毁了人们广泛接受核能的任何机会。
尽管，核能的总体风险评估仍然非常有利，并且几十年来的努力使世界相信它的可行性，但“核”这个词仍然受到污染。当一项技术在其萌芽阶段造成危害时，社会认知和监管部门的过度反应可能会永久地限制该技术的潜在好处。由于早期在核能方面的一些失误，我们无法利用其清洁、安全的电力，碳中和和能源稳定仍然是一个白日梦。
但在某些行业，我们的做法是正确的。生物技术是一个发展迅速的领域：每天都有患者因无法治愈或治疗的疾病而遭受痛苦和死亡。然而，这项研究的精神不是“快速行动和打破常规”，而是尽可能快速和安全地进行创新。这一领域的创新速度限制是由一套确保社会和个人福祉的禁令、法规、道德和规范体系决定的。它还保护了该行业免受灾难反弹的影响。
冷战期间，在《生物武器公约》（biologicalweaponsConvention）中禁止使用生物武器，对立的超级大国得以走到一起，一致认为制造这些武器不符合任何人的最佳利益。各国领导人认为，这些不可控但极易获得的技术，不应被视为赢得军备竞赛的机制，而应被视为对人类本身的威胁。
生物武器军备竞赛的暂停，使研究能够以负责任的速度发展，科学家和监管机构能够对任何可能造成人类伤害的新创新实施严格的标准。这些规定并没有以牺牲创新为代价。相反，科学界已经建立了生物经济，其应用范围从清洁能源到农业。在2019冠状病毒病大流行期间，生物学家以人类历史上前所未有的速度将一种新型技术mRNA转化为安全有效的疫苗。当个人和社会面临重大伤害时，监管不会阻碍进步；它使之成为可能。
最近一项针对人工智能研究人员的调查显示，36%的人认为人工智能可能会引发核灾难。尽管如此，政府的反应和监管行动充其量是迟缓的。这一速度无法与技术采用的激增相提并论，ChatGPT现在的用户已超过1亿。
在人工智能风险迅速升级的背景下，1800名首席执行官和1500名教授最近签署了一封信，呼吁暂停开发更强大的人工智能6个月，并紧急启动监管和风险缓解进程。这种暂停将给全球社会时间来减少人工智能已经造成的危害，并避免对我们的社会造成潜在的灾难性和不可逆转的影响。
当我们努力对人工智能的潜在危害进行风险评估时，积极潜力的损失应该包括在计算中。如果我们现在采取措施负责任地开发人工智能，我们可以从这项技术中获得难以置信的好处。
例如，我们已经看到人工智能改变了药物发现和开发，提高了医疗保健的质量和成本，增加了就医和医疗的机会。谷歌的DeepMind已经证明，人工智能有能力解决长期以来人类无法解决的生物学基本问题。研究表明，人工智能可以加速实现联合国的每一项可持续发展目标，将人类推向一个更加健康、公平、繁荣与和平的未来。
现在是国际社会团结起来的时刻——就像50年前我们在《禁止生物武器公约》上所做的那样——确保安全和负责任的人工智能发展。如果我们不尽快采取行动，人工智能和我们现在的社会将无法给我们带来光明的未来。
想了解更多关于人工智能、聊天机器人和机器学习的未来吗？请在评论中告诉我们。
读懂人工智能新纪元人工智能ChatGPT背后的技术路线科普书籍
￥65
购买
如果朋友们喜欢，敬请关注“知新了了”！