人工智能的伦理挑战与科学应对
【光明青年论坛】
编者按
2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》，呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”。在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战，引发重大的伦理关切。习近平总书记高度关注人工智能等新兴科技的发展，强调要加快提升“人工智能安全等领域的治理能力”，“塑造科技向善的文化理念，让科技更好增进人类福祉”。为此，本版特组织几位青年学者围绕人工智能的伦理挑战与科学应对展开讨论，并邀请专家予以点评，以期引发学界的更多关注，为推动人工智能健康发展贡献智慧。
与谈人
彭家锋 中国人民大学哲学院博士生
虞昊 华东师范大学政治与国际关系学院博士生
邓玉龙 南京师范大学哲学系博士生
主持人
刘永谋 中国人民大学哲学院教授、国家发展与战略研究院研究员
1.机遇与挑战并存的人工智能
主持人：新技术革命方兴未艾，以人工智能等为代表的新兴科技快速发展，大大拓展了时间、空间和人们的认知范围，人类正在进入一个“人机物”相融合的万物智能互联时代。请具体谈谈人工智能给人类社会发展带来什么样的机遇？
彭家锋：人工智能、大数据、物联网、云计算等智能技术蓬勃兴起，对人类社会的方方面面产生深刻影响，推动整个社会逐步迈入智能社会。在此过程中，存在许多重大历史机遇需要我们把握。就技术治理而言，人工智能作为一种治理技术，正在助推社会治理的治理理念、治理方式、治理效能等方面的变革，将传统技术治理提升至智能化新阶段，呈现出“智能治理的综合”趋势。智能治理将全面提升社会公共治理的智能化水平，主要呈现出四个方面的特征：一是治理融合化，即促进各种智能技术与其他治理技术相互融合，大幅度提升智能社会的治理水平；二是治理数据化，即以日益增长的海量数据为基础，通过对数据映射出来的“数字世界”进行社会计算，实现治理目标；三是治理精准化，即发挥智能技术强大的感知能力、传输能力和计算能力，将传统的粗放治理转变为精准治理；四是治理算法化，即不断完善智能决策系统，尝试将程序化的算法决策扩展到更多的决策活动中，从而提高决策质量。
虞昊：人工智能有助于反思人类社会得以建立与发展的基础。随着分析式AI向着生成式AI不断演变，尤其是生成式AI初步展现出判别问题、分析情感、展开对话、创作内容等越来越具有人类特征的功能，原本属于人类的领域正被人工智能以另一套由“0”与“1”构成的计算机语言逐步侵蚀。这既是对人类社会的冲击，也势必会在更加平等的开放性框架中增强人类的主体性，促进人类社会进一步发展。
邓玉龙：总体来说，以人工智能为代表的新科技发展，显著提升了社会生产力。例如，生成式AI不但能完成传统AI的分析、判断工作，还能进一步学习并完成分析式AI无法从事的创造性工作。从人机交互的角度来看，人工智能也促进了生产关系的高效发展。具体表现在：一是刺激劳动形态的转化。人工智能高效承担大量的基础机械性劳动，人类劳动则向高阶的创造性劳动转化，由此引发社会层面的劳动结构转型、升级，并且以人工智能为中介，社会范围内的劳动整合、协调能力也实现升级。二是促进劳动场域的重构。随着劳动形态的转化和劳动的社会化扩展，人工智能将劳动从固定场域中解放出来，人类劳动的灵活性增加。相比于创造性劳动，机械性劳动更加受到空间和时间的制约，而在人工智能从技术层面替代更低边际成本的基础性劳动之后，人类劳动空间和时间的自由性实现跃迁。三是对主体的发展提出了更高要求，尤其是对主体适应社会发展提出了更高要求。人工智能技术的发展对人类传统的知识结构提出挑战，要求人类更新原有的知识结构以适应社会发展需要，也对教育提出更高要求，教育模式和教育内容需要更契合科技发展的水平，培养更加全面发展的人才。
主持人：人工智能的一系列产物在给人们带来生活便利的同时，也一定程度上引起大家对其可能引发的伦理挑战的警惕。一些人关注人工智能的风险问题，对人工智能的推进有些焦虑。如何看待这种警惕和焦虑？
虞昊：人工智能的风险以及由此带来的焦虑，是完全可以理解的。但我们无法返回一个没有人工智能的世界，人工智能已然深度介入人类社会，试图遏制人工智能的推进只能是螳臂当车。同时我们对人工智能的发展也不能放任不管，无视甚至于压制人工智能的推进只能是掩耳盗铃。因此，我们应该正视这种焦虑，在发展人工智能的过程中探求解决方案，在人工智能带来的风险中寻求危中之机。
邓玉龙：我们应正确看待这种焦虑。要看到，焦虑有其积极的意义，它体现人类的忧患意识，催生对人工智能风险的预见性思考，提醒我们注意焦虑背后人工智能技术发展存在的问题。正确对待焦虑有助于积极采取措施防范风险，辩证分析焦虑中先见性的思考，通过社会治理模式的升级化解风险问题。同时，仅有焦虑和恐惧是不够的，更重要的是积极解决人工智能发展带来的社会问题。从劳动的角度看，人工智能确实会取代部分人类劳动，推动劳动结构转型升级，让劳动向着碎片化、个体化方向发展，劳动者处于弱势地位，面临着“机器换人”的挑战。但是我们也应该理性认识到，人工智能不是对人类劳动能力的完全替代，而是对劳动者提出了更高的要求，要求劳动者掌握科学知识，将技术的发展内化为自身能力，在更具创造性的劳动中实现自身价值。
彭家锋：任何技术的发明使用，不可避免地伴随着这样或那样的风险。人工智能技术自然也不例外，在其应用过程中，同样引发了诸如隐私泄露、算法歧视、法律责任等风险问题。因此，关注人工智能的风险问题，并由此对人工智能的推进产生焦虑，具有一定理论依据和现实基础。但更应当清醒地认识到，人工智能的某些相关风险可以提前得到规避，并不必然会发生；即便真的发生，也仍可不断寻求化解风险的有效手段。以个人隐私滥用风险为例，在治理过程中，虽然不可避免地会涉及个人数据收集和分析处理，但可以通过建立完整的规范和监管体系来保护个人隐私，降低滥用风险。
2.人工智能科技竞争的“伦理赛道”
主持人：习近平总书记在以视频方式出席二十国集团领导人第十五次峰会时指出，“中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康发展”。请谈谈“人工智能原则”应包含哪些内容？科技向善的文化理念对推动全球人工智能健康发展具有怎样的现实价值？
彭家锋：为应对人工智能等新科技快速发展带来的伦理挑战，2022年，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，其中明确了“增进人类福祉”“尊重生命权利”“坚持公平公正”“合理控制风险”“保持公开透明”等五项科技伦理原则。我认为，这五项原则基本涵盖了人工智能原则的伦理要求，彰显了科技向善的文化理念。科技向善的文化理念，根本目标是让科技发展更好地服务社会和人民，带来良好社会或社会公益的善。科技向善对推动全球人工智能健康发展至少具有以下三个方面现实价值：一是塑造公众信任。公众对人工智能的信任很大程度上并不完全由相关风险程度决定，而是取决于公众的利益与价值是否得到足够重视。后者正是科技向善的内在要求。二是引领技术创新。科技向善的文化理念将在技术创新发展过程中发挥价值引领作用。三是促进全球合作。科技向善的文化理念试图在全球范围内建立人工智能伦理规范的“最大公约数”，各国在达成伦理共识的基础之上，能够建立互信，实现更加充分深入的国际合作。
虞昊：个人认为，人工智能原则也应包含非对抗与非失控的理念。非对抗意味着不应将人工智能视作人类社会的对抗性存在，人工智能已经成为人类社会的构成性要素，我们必须持更为开放的态度去面对人工智能。非失控意味着不应放弃对人工智能的伦理规范，应以智能的方式去规范加速发展的人工智能。如果以上述理念为前提，也就是说，在支持人工智能发展的情况下，科技向善的文化理念在推动全球人工智能健康发展中就变得极为重要。此处的“善”在国家治理层面即指向“善治”，而当人工智能的发展从国家范围扩展到全球范围，“善治”就在构建人类命运共同体的意义上拥有了更贴近现实的内涵。各国应摒弃冷战思维与零和博弈，基于善意与友谊共同思考人类作为整体如何在人工智能的冲击下通往全球性的“善治”。
邓玉龙：2019年欧盟发布《可信赖的人工智能伦理准则》，2021年中国国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》（以下简称《规范》）。与欧盟发布的伦理准则相比，《规范》体现了中国特色社会主义的制度优势，旨在将伦理规范融入人工智能全生命周期。人工智能发展的根本目的是促进人的全面发展，因此，我以为，人工智能原则还应体现共享和有序发展的要求。共享，旨在防止人工智能的技术垄断。科技发展应该兼顾全体人民的利益，而不是服务于少数群体，由全体人民共享科技发展成果，推动全球科技水平的共同增长。有序发展，旨在防止人工智能技术的无序扩张。人工智能技术的发展最终是为了提升人的幸福感，推动科技有序发展能够促进人机和谐融合，有效预防潜在无序扩张的风险。
主持人：从规范层面来说，伦理反思对规范人工智能发展的作用主要体现在哪些方面？
彭家锋：近年来，世界各主要国家在人工智能领域竞争日趋激烈，纷纷将人工智能发展置于国家发展的战略层面。比如，美国陆续出台《国家人工智能研究和发展战略计划》（2016）和《关于维持美国在人工智能领域领导地位的行政命令》（2019）；欧盟先后发布《欧洲人工智能战略》（2018）和《人工智能白皮书》（2020）；中国也较早发布了《“互联网+”人工智能三年行动实施方案》（2016）和《新一代人工智能发展规划》（2017）。人工智能科技竞争的客观局面已然形成。在此背景下，如果忽视人工智能技术发展所带来的全球性风险与挑战，极有可能陷入技术赶超的竞争逻辑。因此，亟须规范人工智能的科技竞争，而倡导伦理反思或许就是一条可行之路。伦理反思的意义至少在于：一是设定伦理底线。人工智能技术的开发和应用需要遵循一些基本的价值理念和行为规范。只有守住伦理底线，才有可能避免颠覆性风险的发生。二是实现敏捷治理。伦理反思是一个动态、持续的过程，贯穿于人工智能科技活动的全生命周期。为了确保其始终服务于增进人类福祉和科技向善的初衷，需要保持应有的道德敏感性，以灵活、及时、有效的手段化解人工智能带来的各种伦理挑战，确保其在科技向善的道路上行稳致远，实现良性发展。
邓玉龙：人工智能科技竞争是为了促进科学技术发展，而科学技术发展的最终目的是推动人类社会的进步。人工智能科技竞争不应该仅包括技术竞争的单一维度，更不应该通过技术优势遏制他国的科技发展，而应该是在人工智能科技条件下的综合性竞争，通过良性竞争促进全球人工智能和全人类的共同发展。其中就应该包括社会治理竞争，通过社会治理保障社会公平，因而对社会中人与人关系的伦理反思构成人工智能科技竞争的有机组成部分。首先，伦理反思对人工智能科技竞争提出了更高的要求。人工智能的公平性、可信任性、可解释与透明度、安全性不仅是伦理要求，也代表了人工智能技术的发展方向，是人工智能科技竞争需要抢占的技术制高点。科技的发展是为了人的全面发展，因而人的发展内嵌于科技发展要求，伦理反思有助于防止工具主义的泛滥。其次，伦理反思为人工智能科技竞争提供价值引导。伦理反思注重保障人的权利，科技发展并不是社会发展中的唯一衡量因素，我们还应该关注其中多样性的因素，尤其注重保护特殊群体的利益，例如防止数据鸿沟等不良影响。伦理反思有助于实现人工智能的综合性健康发展。
3.人工智能安全与人的全面发展
主持人：科学探究一直以来都是人们认识世界和了解自身的重要认知方式，人工智能等信息产业的革命如何影响着人们的认知方式？
彭家锋：人工智能等信息产业的革命，促进了科学研究新范式——数据科学的诞生，进而对人们的认知方式产生深刻影响。数据科学被认为是继实验、理论和模拟之后的新的科研范式。相较于传统科学，数据科学融合了统计和计算思维，通过人工智能等技术提供的海量数据、强大算法和算力，能够直接从数据中寻找相关关系、提取相关性或者预测性知识，进而产生一种基于相关性的科学思维模式。但这种相关性并不一定能够转化为因果关系，因为可解释性对于从数据科学技术确定的相关性中提取因果解释至关重要，而相关技术一般都缺乏必要的透明度和可解释性。数据科学更可能成为一种预测科学，但是预测并不是科学追求的唯一目标。通过揭示世界的潜在因果结构来解释和干预现象，也是科学的两个重要目标。因此，尽管数据科学能够通过分析大量数据生成相关性知识，却不能直接产生因果解释。对此，传统科学的可检验性假设方法和因果规律探求仍有其重要价值。数据科学并非取代传统科学，相反，两者将相互补充，共同成为人类探索世界的有效工具。
虞昊：显而易见的是，随着人工智能向着通用人工智能迈进，其能够为人们提供的教育资源、生活娱乐、工作讯息也越来越丰富，人们势必越来越依赖于通过与人工智能进行交互来获取外界信息。因此，当人工智能深度地构成人们认知世界的滤镜时，若不对人工智能本身具有重复性、同质性倾向的认知框架保持警醒，人工智能可能扭曲人们的认知方式直至影响人的主体创造性。
邓玉龙：以人工智能为代表的全新技术发展被称为第四次工业革命，其中最显著的特征就是机器与人类的深度融合，机器不再作为一种外在性的工具被人类使用，而是在与人类的深度关联中影响人类的认知方式。一方面，信息产业革命丰富了人类认知的联结方式。人工智能和大数据技术的发展促进人类的分析逻辑从因果关系扩展为相关关系，对相关关系的重视使人工智能可以从大数据而非小数据维度获取信息，为人类认知提供新的视角。按照传统人类认知方式的理解，因果关系要求关于世界的认知是确定性的，而这在数字时代的复杂性社会中很难实现。人工智能对相关关系的认知填补了这一缺失，允许我们在无法掌握确定信息但在掌握大量数据的条件下对未来趋势作出预测。另一方面，如果我们对人工智能等科技的输出结果和生成内容盲目信赖，将结果和内容与经验事实之间进行绝对等同的连接，误认为是事实的全部，那么我们就会丧失人文主义抽象反思的能力，对此我们应当保持警惕，始终坚持反思和批判的人文精神。
主持人：如何调适人的主体创造性与信息高度集成共享之间的关系？
彭家锋：当人们逐渐将更多创造性工作交由人工智能完成，不免让人担忧人工智能是否将会威胁到人的主体创造性。从人机关系的角度来看，这种担忧是基于一种人机敌对论的视角，认为人工智能挤压了人的主体创造性空间，是替代逻辑的延续。但从人机协作的视角出发，将人工智能看作人的得力帮手，通过创造性地使用人工智能可以赋予人类更大的创造性空间。比如，在进行文字写作、多媒体脚本、程序代码、文稿翻译等工作时，可先由人工智能高水平地完成草稿工作，然后再由人类进行一些创造性的调整和发挥。此时人工智能生成的内容将成为进一步创作的原材料，人类将以更高的效率投入创造性活动之中。当然，要实现以上效果并非易事，不仅需要思想观念的转变，还应在制度安排、教育方式等方面作出相应调整。
虞昊：面对信息高度集成共享的人工智能，人有可能转变为算法的动物。试想下述场景：当依据人工智能展开行动变得足够便捷有效时，行动者便会倾向于采信人工智能，此时，看似是人类行动者基于自然语言在进行互动，实则是算法逻辑基于计算机语言在进行数字化运转。于是，人的主体创造性被侵蚀，人可能沦为算法动物。对此类情形，我们应该保持足够的清醒与警惕。
邓玉龙：人工智能技术生成的内容（AIGC）具有高度集成共享的特性，能够高效地对人类知识进行数据挖掘、信息生成。调适人的主体创造性与信息高度集成共享之间的关系，我们需做到如下几个方面：首先，需要通过人的创造性扩大AIGC数据库，当下AIGC主要是依赖于大语言模型，以大量的网络文本作为训练数据库生成的，通过人的创造性生成可以不局限于网络文本，而是进一步扩展数据库的训练文本，从而提高其丰富度。其次，需要通过人的创造性为AIGC提供价值训练，通过人的创造性生成的价值立场、伦理法则等与AIGC的训练数据库相融合，从而建构可信赖、可持续的信息高度集成共享机制。最后，需要将人创造性生成的内容与AIGC共同作为人类知识的来源，人类知识的获得不能仅仅局限于AIGC，而是需要人发挥其主体创造性对人工智能技术生成的内容进行反思和拓展，将人类无法被数据化的、经验性的知识与AIGC数据化的知识融合成为人类知识的来源。
（本版编辑张颖天整理）
人工智能技术的发展趋势及挑战
人工智能作为一项具有代表性的颠覆性技术，逐渐改变着我们的生活方式。接下来我会从几个方面来介绍一下我对人工智能发展的看法，包含什么是人工智能，人工智能的发展，人工智能所面对的挑战等内容。
什么是人工智能。
人工智能（ArtificialIntelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来，理论和技术日益成熟，应用领域也不断扩大，可以设想，未来人工智能带来的科技产品，将会是人类智慧的“容器”。人工智能可以对人的意识、思维的信息过程的模拟。
人工智能的定义可以分为两部分，即“人工”和“智能”。“人工”即由人设计，为人创造、制造。
而关于什么是“智能”，较有争议性。这涉及到其它诸如意识、自我、心灵，包括无意识的精神等等问题。人们唯一了解的智能是人本身的智能，这是普遍认同的观点。但是我们对我们自身智能的理解都非常有限，对构成人的智能必要元素的了解也很有限，所以就很难定义什么是“人工”制造的“智能”了。因此人工智能的研究往往涉及对人智能本身的研究。其它关于动物或其它人造系统的智能也普遍被认为是人工智能相关的研究课题。
尼尔逊教授对人工智能下了这样一个定义：“人工智能是关于知识的学科――怎样表示知识以及怎样获得知识并使用知识的科学。”而另一个美国麻省理工学院的温斯顿教授认为：“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”这些说法反映了人工智能学科的基本思想和基本内容。即人工智能是研究人类智能活动的规律，构造具有一定智能的人工系统，研究如何让计算机去完成以往需要人的智力才能胜任的工作，也就是研究如何应用计算机的软硬件来模拟人类某些智能行为的基本理论、方法和技术。
有上述定义所得，人工智能本质就是算法，是一类可以自己学习的算法。
接下来说人工智能的发展。
1950年，一位名叫马文·明斯基(后被人称为“人工智能之父”)的大四学生与他的同学邓恩·埃德蒙，建造了世界上第一台神经网络计算机。这也被看做是人工智能的一个起点同年，“计算机之父”阿兰·图灵提出设想：如果一台机器能够与人类开展对话而不能被辨别出机器身份，那么这台机器就具有智能。
1956年，计算机专家约翰·麦卡锡提出“人工智能”一词。这被人们看做是人工智能正式诞生的标志。麦卡锡与明斯基两人共同创建了世界上第一座人工智能实验室——MITAILAB实验室。
50年代，人工智能迎来高峰期。计算机被广泛应用于数学和自然语言领域，这让很多学者对面机器发展成人工智能充满希望。
70年代，人工智能进入低谷期。科研人员低估了人工智能的难度，美国国防高级研究计划署的合作计划失败，还让大家对人工智能的前景望而兴叹。主要技术瓶颈：计算机性能不足；处理复杂问题的能力不足；数据量严重缺失。
80年代，卡内基梅隆大学为数字设备公司设计了一套名为XCON的“专家系统”。它具有完整专业知识和经验的计算机智能系统。在1986年之前能为公司每年节省下来超过四千美元经费。
1987年，苹果和IBM公司生产的台式机性超过了Symbolics等厂商生产的通用计算机。从此，专家系统风光不再。80年代末，美国国防先进研究项目局高层认为人工智能并不是“下一个浪潮”。至此，人工智能再一次成为浩瀚太平洋中那一抹夕阳红。
1997年，IBM的深蓝战胜国际象棋世界冠军卡斯帕罗夫；2009年，螺丝联邦理工学院发起的蓝脑计划，生成已经成功模拟了部分鼠脑；以及2016年谷歌AlphaGO战胜韩国李世石。
回顾了人工智能60余年的发展历程，科研技术人员不断突破阻碍，让我们可以看到今天人工智能所取得的辉煌成果。随着人工智能的不断发展，科学界对人工智能的看法也渐渐分成两种——悲观学派和乐观学派。
悲观学派的代表是天文物理学家史蒂芬·霍金(StephenHawking)，以及特斯拉首席执行官伊隆·马斯克(ElonMusk)。霍金认为AI对人类将来有很大的威胁，主要有以下理由：
AI会遵循科技发展的加速度理论AI可能会有自我改造创新的能力AI进步的速度远远超过人类人类会有被灭绝的危机存在乐观学派主要是Google、Facebook等AI的主要技术发展者，他们对AI持乐观看法的理由：
人类只要关掉电源就能除掉AI机器人任何的科技都会有瓶颈，“摩尔定律”到目前也遇到相当的瓶颈，AI科技也不会无限成长，依然存在许多难以克服的瓶颈。依目前的研究方向，电脑无法突变、苏醒、产生自我意志，AI也不可能具有创意与智能、同情心与审美等这方面的能力。这两种学说各有各的道理，目前很难判断那种学派是正确的。就目前的弱人工智能来说，乐观派或许是对的。但我们很难保证之后的强人工智能不会对我们的生存产生威胁。
《新一代人工智能治理原则——发展负责任的人工智能》是为促进新一代人工智能健康发展，更好协调发展与治理的关系，确保人工智能安全可靠可控，推动经济、社会及生态可持续发展，共建人类命运共同体，人工智能发展相关各方应遵循的原则。由国家新一代人工智能治理专业委员会于2019年6月17日印发实施。这份文检里明确指出了人工智能的发展应遵循的原则：和谐友好，公平公正，包容共享，尊重隐私，安全可控，共担责任，开放协作，敏捷治理。文件的主题还是“负责任”，如薛澜所说：“比如我们提出的‘和谐友好’等原则，强调无论是人工智能提供的产品还是服务，都应该是负责任的、全面的，应以增进人类共同福祉为目标，应该符合人类的价值观和伦理道德，避免误用，禁止滥用、恶用。”负责任就是以人为本，一切以服务人类为主。目前还处于弱人工智能阶段，主要需要被约束的还计算机工程师。计算机工程师要负起自己的责任，确保人工智能安全可控可靠，规避风险隐患，做到为人服务，不侵犯用户的权益和隐私。
“考虑到人工智能发展的高度复杂性和不确定性，要按照渐进性的思路推进人工智能的治理。”薛澜表示，《治理原则》是一份框架性文件，对人工智能健康发展主要发挥宏观引导作用，今后还将根据形势的变化和需要，不断进行充实和调整。在薛澜看来，人工智能的发展过程中也面临着一些基础性的工作，立法就是其中之一。“我们发布的《治理原则》，也为今后的立法工作提供了重要基础。”他认为，人工智能发展非常快，而立法的周期较长，因此也很难只用法律框架来支撑人工智能的发展，“这就需要相关的原则准则、行业规范，包括从业者的自律，来协同推进其健康发展。”
防范风险隐患，发扬科技之善，人工智能发展迅速，它只会不断渗透进我们生活，计算机工程师要从八项原则出发，规范自己的道德标准，遵守法律法规，做好应对人工智能“觉醒”的准备，以人为本的发展人工智能，让人工智能为人民服务，才能更好地，健康地发展人工智能。
人工智能未来的挑战
所谓的人工智能在更大程度上都是在模拟人的感觉和思维，让一种更像人的思维机器能够诞生。著名的图灵测试，也是在是否能够像人一样思考的标准上进行的。图灵测试的目的，仍然在检验人工智能是否更像人类。但是，问题在于，机器思维在作出自己的判断时，是否需要人的思维这个中介？也就是说，机器是否需要先绕一个弯路，即将自己的思维装扮得像一个人类，再去作出判断？显然，对于人工智能来说，答案是否定的，因为如果人工智能是用来解决某些实际问题，它们根本不需要让自己经过人类思维这个中介，再去思考和解决问题。人类的思维具有一定的定势和短板，强制性地模拟人类大脑思维的方式，并不是人工智能发展的良好选择。
所以，人工智能的发展走向了另一个方向，即智能增强（简称IA）上。如果模拟真实的人的大脑和思维的方向不再重要，那么，人工智能是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身的方式来进行。这就出现了机器学习的概念。机器学习的概念，实际上已经成为发展出属于机器本身的学习方式，通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，这个时候，很难说机器自己抽象出来的猫的概念，与人类自己理解的猫的概念之间是否存在着差别。不过，最关键的是，一旦机器提炼出属于自己的概念和观念之后，这些抽象的概念和观念将会成为机器自身的思考方式的基础，这些机器自己抽象出来的概念就会形成一种不依赖于人的思考模式网络。当我们讨论打败李世石的阿尔法狗时，我们已经看到了这种机器式思维的凌厉之处，这种机器学习的思维已经让通常意义上的围棋定势丧失了威力，从而让习惯于人类思维的棋手瞬间崩溃。一个不再像人一样思维的机器，或许对于人类来说，会带来更大的恐慌。毕竟，模拟人类大脑和思维的人工智能，尚具有一定的可控性，但基于机器思维的人工智能，我们显然不能作出上述简单的结论，因为，根据与人工智能对弈之后的棋手来说，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。
不过，说智能增强技术是对人类的取代，似乎也言之尚早，至少第一个提出“智能增强”的工程师恩格尔巴特并不这么认为。对于恩格尔巴特来说，麦卡锡和明斯基的方向旨在建立机器和人类的同质性，这种同质性思维模式的建立，反而与人类处于一种竞争关系之中，这就像《西部世界》中那些总是将自己当成人类的机器人一样，他们谋求与人类平起平坐的关系。智能增强技术的目的则完全不是这样，它更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术，自动驾驶技术的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还需要采集大量的地图地貌信息，还需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强类性质的智能，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。
处理好人工智能思维和人类思维的关系，是人工智能发展的最大挑战。模仿人类思维，会显得有局限性；发展机器思维，又会不可控，这两者的平衡如何把握，就看以后的计算机工程师怎么选择了吧。
人工智能面临的四大趋势和九大挑战
近年来，随着计算机视觉、语音识别、机器翻译的技术的发展和商业化，及诸如数字广告和智能基础设施等基于机器学习的后台技术的普遍部署，人工智能已经从实验室的研究项目变成了实际生产系统不可或缺的关键技术。正是因为积累的海量数据、计算能力前所未有的发展高度、机器学习方法的不断进展、系统软件和架构的持续创新、及方便这些技术落地的开源项目和云计算平台，促使了人工智能技术的广泛应用。
下一代人工智能系统将更广泛地影响我们的生活，人工智能将会通过与环境交互替人类进行更关键的和更加个性化的决策。若想要人工智能发挥更大的作用，我们将面临诸多极具挑战性的问题：我们需要人工智能系统可以在各种极端情况下及时做出安全的决策，比如在各种恶意攻击情况下具备鲁棒性，在保证隐私的情况下具备处理跨多组织多个人的共享数据的能力。随着摩尔定律的终结，存储和处理数据的能力将受限，这些挑战也将变得更加难以解决。在这篇文章里，我们将总结在系统领域、体系结构领域、安全领域等方面的具体研究方向。
四大趋势：
•关键性任务的人工智能（Mission-criticalAI）
•个性化人工智能（PersonalizedAI）
•跨多组织机构的人工智能（AIacrossorganizations）
•后摩尔定律时期的人工智能（AIdemandsoutpacingtheMoore’sLaw
九大挑战：
•持续学习（Continuallearning）
•鲁棒决策（Robustdecisions）
•可解读的决策（Explainabledecisions）
•安全飞地（Secureenclaves）
•对抗学习（Adversariallearning）
•在保密数据上的共享学习（Sharedlearningonconfidentialdata）
•特定领域定制的硬件（Domainspecifichardware）
•组件化的AI系统（ComposableAIsystems）
•跨云端和边缘的系统（Cloud-edgesystems）
人工智能、大数据、云计算和物联网的未来发展值得重视，均为前沿产业，多智时代专注于人工智能和大数据的入门和科谱，在此为你推荐几篇优质好文：1.人工智能时代，AI人才都有哪些特征？http://www.duozhishidai.com/article-1792-1.html2.大数据携手人工智能，高校人才培养面临新挑战http://www.duozhishidai.com/article-7555-1.html3.人工智能，机器学习和深度学习之间，主要有什么差异http://www.duozhishidai.com/article-15858-1.html4.大数据人工智能领域，如何从菜鸟晋级为大神http://www.duozhishidai.com/article-1427-1.html
多智时代-人工智能和大数据学习入门网站|人工智能、大数据、物联网、云计算的学习交流网站
人工智能未来的挑战与发展
原标题：人工智能未来的挑战与发展当前，在全球人工智能发展的浪潮中，中国在人工智能领域取得了令人瞩目的成绩。在新一轮生产力革命人工智能带动了人类分工深化的历史趋势，应认清其中的机遇与挑战。
挑战
1、对中国来说，在基础科学、关键技术研发上一旦受制于人，面临生产力重新落后的危险。
人工智能目前处于发展中阶段，几乎每一类发展中事物的共性都是缺乏探索经验。人工智能会影响就业结构，这是由于它对人类工作的替代性。从某些程度上，它能够促使劳动者提高自身素质，适应新的就业大环境。但是人工智能发展如果太过迅猛，很可能会导致劳动者在猝不及防的状况下失业。
2、对全球来说，机器智能一旦在某些方面超过人类，带来不可测、不可控的风险。
人工智能面临技术失控问题，这个早就是社会热点了。任何科学技术的发展最大的威胁就是超出人类的控制，如果人工智能具备独立思考的能力，形成属于自己的文明，反客为主,那不仅与人工智能发展理念相悖，人类的未来也将不再乐观。人工智能对人类的潜在威胁，被科学家广泛议论，目前仍待商榷。
3、人工智能作为一个处于发展中的新兴技术，到目前为止还不够成熟。例如，我们目前所能看到的大部分系统还停留在规则的引擎阶段，人工智能最大的优势在于深度学习，需要大量的案例和经验来对人工智能系统进行训练，这就需要相关的人才，但就当前来看，精通软件的工程师不了解保险行业日新月异的规则，而企业又缺少精通人工智能的软件工程师。
4、在各大领域，诸如智能顾问、产品精准营销等人工智能技术，都需要海量的用户数据。而对于新成立的初创企业来说，其所拥有的数据远远不够应用层面所需要的量。此外，由于数据一直以来都被认为是核心机密，共享性较弱，即便是从已经有多年业务历史的传统公司层面看，依旧存在着割裂性的问题，几乎没有哪家公司拥有完整的用户数据。
发展
人工智能已经发展了很长时间，它在未来的发展问题是该学科有关研究人员讨论的重点，从现阶段的发展情况来说，未来人工智能可能会朝着以下几个方向发展。
1、更好地为人类服务
人工智能本质上是模拟人的意识、思维的信息过程。虽然未来的机器人能够像人类一样思考，但总体而言，并不能完全与人类的思维保持一致，人工智能主要还是为人类服务为主，主动将意向客户分类，后方便我们去跟进。在这种情况下，人类需要树立终身学习的思想，不断充实自己，以免过分依赖于人工智能。
2、与人类平等
一旦人工智能具有人类的基本特征，它们拥有自己的感情，人类就不能将其作为自己的所属物，肆意地要求人工智能为自己提供各种服务，与人类相比，人工智能的学习能力非常强，人类受到各种因素的影响，存在着许多消极心理，比如懒惰、依赖性强，在这种情况下，人类比较容易被人工智能淘汰，人类在发展过程中需要付出更多的努力，不断挖掘自身的潜力，才能够维持与人工智能的平等地位。
3、毁灭人类
任何科学技术的发展都具有一定的风险，人工智能发展过程中可能会出现无法预测的质变，导致人工智能拥有与人类完全一致的思维方式，超过人类的智慧，易出现违反人类道德但与逻辑相符的情况。这必然会对人类的发展带来严重的危机。除此之外，还有一种可能，即人类依赖于人工智能的便利，产生严重的依赖心理，最终导致许多基本的生产能力丧失，导致人类毁灭。返回搜狐，查看更多
责任编辑：电信行业的机遇和挑战
互联网的高速发展已经彻底改变了电信运营商的生存环境，基于互联网的语音、短信、视频通话等服务给电信运营商的传统业务带来巨大的挑战。电信运营商的传统利润在不断被吞噬。全球电信运营商都在探索如何才能避免沦为数字时代的单纯通道，并且不断总结失败的经验，在这条道路上摸索前行。多家知名电信运营商的经验显示，搭建一个生态系统平台，构建一个让硬件商，终端制造商，第三方内容开发者，用户全部参与的一个生态系统，同时引导这个生态系统的健康良性发展，可以帮助电信运营商由传统业务顺利过渡到数据业务时代。此外，电信公司从战略层面主动迎接数据时代的到来，完成传统电信公司和互联网公司的基因结合，将成为核心竞争力。
对于中国三家电信运营商而言，即将到来的4G时代的征战是确定他们未来发展前景的关键一役。标准和市场准入时间的选择成为博弈的关键决策。尽管三家运营商都没有完全收回3G的铺设成本，但是中国移动已经有明显部署显示它将及早进入4G时代。市场对4G的需求已经开始倒逼电信运营商的技术更新。此时，中国电信和中国联通可以考虑放弃3G铺设的沉没成本，及早跟进4G，抢占未来市场。
三家运营商对于4G标准的选择决定竞争的格局，如果中国电信和中国联通共同选择FDD-LTE标准，3G时代三足鼎立的竞争态势将会持续，一家独大的局面较难出现。然而，由于频段资源稀缺，中国电信未来将会如何选择标准，如何选择频段，还有诸多不确定因素。
尽管全球电信运营商最近几年的利润都受到互联网企业的冲击而不断下降。但是大数据和移动互联时代的到来都给电信运营商带来无限的机遇。
大数据在未来医疗、公共事业、零售、制造行业都会创造出巨大的商业价值。大数据时代的到来让数据成为新的生产力。电信运营商提供了互联网上所有的数据通道，这一先天优势，决定其将是未来大数据时代的最强势的竞争者。而当下，电信运营商最迫切的任务是，如何利用和深挖自己的潜在优势，释放出数据的巨大能量。
移动互联将在未来三年井喷发展，电信运营商掌握了所有移动设备接入互联网的最终端口。这使得电信运营商注定会在消费者未来通过移动终端进行的所有商业行为中分得一杯羹。目前，电信运营商最重要的战略举措应当是提高用户对手机号码的忠诚度，将用户的未来移动互联消费和电信运营商捆绑的更为牢固。巨大的用户基数是决胜的关键底牌。中国电信运营商可以考虑从数量庞大的中低端用户着手，通过补贴中低端安卓智能手机等方法尽早占领最大可能用户群，抢占移动互联时代的市场先机。