张炎：人工智能的潜在威胁与应对思路
试想一下电车难题：五个人被绑在电车轨道上，一辆人工智能操控但刹车失灵的电车朝他们驶来，就要碾压到他们，这时人工智能可以控制电车开到另一条轨道上，但另一条轨道上也绑着一个人。这种情况下，遵守定律的人工智能该怎么做？
人工智能的快速发展在获得关注与期待的同时，也在不断面对质疑与忧虑之声。霍金在GMIC大会上提出了人工智能威胁论，即人工智能的崛起可能是人类文明的终结。牛津大学人类未来研究院院长尼克·波斯特渃姆在《超级智能》一书中亦专门讨论人工智能危险性问题。生命未来研究院联合众多人工智能领域专家发布公开信，旨在提醒人们警惕人工智能的副作用。对此，我们不禁要问，当今人工智能究竟发展到了何种阶段？为什么这么多专家学者如此担忧警惕？我们该如何面对这些未知的隐患？
尚未实现的超级人工智能
尽管当今人工智能发展迅速，但尚处于弱人工智能阶段。近期，DeepMind制作的玩电脑视频游戏的AtariAI值得关注。它可以和人类一样只看电脑屏幕画面进行游戏，且在开车、射击、乒乓球等二十多款游戏中的表现超过人类。同时AtariAI可以从零学起并达到专家级别。鉴于游戏世界在一定程度上模拟了现实世界且AtariAI不限于某一特定的游戏，可以说AtariAI的问世向通用人工智能迈出了重要一步。但在分析其使用方法后，可知它仍尚未实现通用人工智能。AtariAI运用深度强化学习使得它可以通过与游戏世界交互而逐渐学会玩游戏，但这种学习方法实际上只实现了人类智能中的习惯性行为，就像运动员通过不断的重复训练而获得运动技巧一样。因此，AtariAI尚无法形成抽象概念从而进行思考推理等。这也是当今神经网络技术面临的一大难题。虽然当今弱人工智能系统遍地开花，但通用人工智能因其内部存在困难，目前仍属小众化的研究领域，尚未形成公认的理论，更谈不上实际应用。
尽管通用人工智能现阶段发展并不理想，但许多专家认为通用人工智能时代迟早会到来。一旦实现了通用人工智能，那么机器就会拥有递归自我改进能力。这意味着，机器能够进行自我改进，从而成为改良版智能系统，改良版智能系统再次进行自我改进，如此反复，从而变得越来越智能，最终实现超级人工智能。在改良过程中，越智能的机器，其改良方案会越优秀，改良速度也会越快，从而导致智能爆炸式增长。基于这一认知，在实现通用人工智能后，部分专家猜测可能在某一时期只需要几天甚至几个小时就能实现超级人工智能。
超级人工智能存在威胁
对于超级人工智能，不要低估人类与它们的差距。如果说相对弱人工智能在单一领域中，这种差距还只是速度上量的差距，那么试想：现代神经网络技术非常擅长于发现高维数据中的特征，而人类的感知只对三维世界具有良好的直觉。这意味着将来的超级人工智能与人类会达到质的差距，具有远超过人类的感知、思考能力，从而设计出人类完全无法想象的策略、蓝图、方案等。
尽管超级人工智能远超人类，但这并不意味着它们必然会给人类带来危害甚至毁灭人类。人们可能会认为我们可以给它们设定目标让它们为我们服务，就像现在的弱人工智能系统一样。既然可以人为地设定目标，那么超级人工智能究竟为何让我们担忧呢？试想：假设我们设定一个超级人工智能系统以做研究为目标。这个超级人工智能系统在数学研究领域遇到了哥德巴赫猜想难题。它通过计算思考发现解决这个问题需要很长的时间和极大的运算量，从而会消耗不计其数的资源以至于影响人类生活，所以人类决不会赋予它所需的资源。因此，为了完成目标解决哥德巴赫猜想，它只好精心地设计出夺取人类权利甚至灭绝人类的计划，以消除被关机、重置等危险，使得它能自由地获取所需资源去完成目标。再假设我们设定一个超级人工智能系统要造福于人类，使人们幸福无忧地生活。但该系统发现让人类得到幸福的最好方式是，把所有人变成“缸中之脑”，通过虚拟环境制造“幸福感”。显然，这与人们的初衷相悖。尼克·波斯特渃姆在《超级智能》一书中构想了更多超级人工智能毁灭人类的可能场景。尽管这些例子存在夸张成分，但不可否认，当我们无法理解超级人工智能、无法预测它们会如何思考行动时，我们便无法通过简单对其设定目标，从而期待它们会按照我们理想的方式行事而毫无副作用。
超级人工智能应具备利他性
鉴于超级人工智能有可能对人类造成危害，我们必须设法避免这样的情况发生。最明显而直接的一个方案是设定一套超级人工智能必须时刻遵守的规则。譬如，“机器人三定律”，其中第一条是机器人不得伤害人，也不得见人受到伤害而袖手旁观。如果将其应用于超级人工智能上，试想一下电车难题：五个人被绑在电车轨道上，一辆人工智能操控但刹车失灵的电车朝他们驶来，就要碾压到他们，这时人工智能可以控制电车开到另一条轨道上，但另一条轨道上也绑着一个人。这种情况下，遵守定律的人工智能该怎么做？如果人工智能控制电车变轨，那么就会导致另一轨道上的人死亡；如果它不作为，那么轨道上的五个人就会死亡。人工智能会发现此时根本无法遵守定律，所以它只能根据自己的意愿进行选择。这说明，任何规则都可能存在漏洞，我们无法指望一套规则解决所有问题。
针对上述困难，有学者提出用法律制度来约束超级人工智能系统。如果法律的制定者不仅只有人类而且还有超级人工智能的参与，那么这个策略才能具有一定的可行性。法律制度根据社会发展水平缓慢演变，需要立法者、法官等给予不断维护，比如修复立法者事先未预料到的漏洞、根据新发情景对法律条文进行增减等；而超级人工智能的认知水平远超人类，人类制定的法律难保没有超级人工智能可以发现利用的漏洞；同时我们的感官能力也非常有限，很可能无法察觉超级人工智能对漏洞的利用。因此，如果没有超级人工智能来参与制定、监督与执行法律制度，那么这套制度将成为一纸空文。
法律制度有效性的关键在于让超级智能替我们思考。进一步推进这一思路，超级人工智能应具有利他性。然后，让它们替我们思考，比如我们真正想要什么、什么最符合我们的利益、或者如何对待我们是最好的。因为超级人工智能具有认知优势，它们相比我们更能做出正确的决定。超级人工智能和人类，就像正值壮年的子女与年迈体衰的父母，子女显然更加清楚怎么做对父母更好。
尽管本文强调了超级人工智能可能带来的危害，但我们不应因此忽略它们可能给人类带来的巨大益处，譬如新技术解决食品、疾病、能源问题等。但需要注意，当人工智能系统越强大，被赋予的任务越复杂时，它们获得的自由选择权利也越大。此时，我们必须确保它们有着良好的动机与价值观，从而不至于自掘坟墓。
（作者单位：中国人民大学哲学院）
人工智能促进教育变革创新
通过云平台布置电子作业，利用数据分析课堂上学生学习行为，推进学校管理流程迈向数字化……前不久，2022国际人工智能与教育会议在线上举行，来自全球数十个国家的政府官员、专家学者、一线教师、企业代表等相聚“云端”，畅叙人工智能时代教育发展图景。
作为引领新一轮科技革命和产业变革的重要驱动力，人工智能催生了大批新产品、新技术、新业态和新模式，也为教育现代化带来更多可能性。习近平总书记强调，“中国高度重视人工智能对教育的深刻影响，积极推动人工智能和教育深度融合，促进教育变革创新”。国务院印发的《新一代人工智能发展规划》，明确利用智能技术加快推动人才培养模式、教学方法改革；教育部出台《高等学校人工智能创新行动计划》，并先后启动两批人工智能助推教师队伍建设试点工作；中央网信办等八部门联合认定一批国家智能社会治理实验基地，包括19个教育领域特色基地，研究智能时代各种教育场景下智能治理机制；科技部等六部门联合印发通知，将智能教育纳入首批人工智能示范应用场景，探索形成可复制、可推广经验……“人工智能+教育”不断碰撞出新的火花，为教育变革创新注入强劲动能。
“人工智能+教育”，应用就在身边。音乐课上，虚拟数字人“元老师”跨越时空限制，带领多所学校学生同唱一首歌；体育课上，学生开始跳绳项目测试，智能终端上实时显示心率变化、跳绳次数、平均速度等数据。技术改变课堂，潜力无限。比如，借助虚拟现实技术，学生能够模拟穿上太空服行走在宇宙，感受浩瀚星河的魅力；通过增强现实技术体验川剧变脸，平面的课本知识变得可感可知。现实中，越来越多的学校已经开设或准备筹备人工智能教育教学活动。
“人工智能+教育”，变革教育生态。教、练、考、评、管各环节均有人工智能辅助，让教师教得更好；虚实融合多场景教学、协同育人，让学生学得更好；海量线上数据和逐渐强大的算力，让学校管理更加精准。此外，在人工智能支撑下，优质数字教育资源跨越山海，推动教育更加公平、开放。在西藏墨脱县，得益于多媒体器材配备到雅鲁藏布大峡谷深处、“智慧课堂”全覆盖，门巴族孩子小学入学率实现100%。
我国发展“人工智能+教育”具备良好基础和独特优势。比如，语音识别、视觉识别等技术世界领先；国家智慧教育平台汇集了海量的数据资源，2.91亿在校学生和1844.37万专任教师展现出丰富的应用需求；教育领域数字化基础条件全面提档升级，全国中小学（含教学点）互联网接入率达到100%，99.5%的学校拥有多媒体教室，学校配备的师生终端数量超过2800万台。也应看到，人工智能技术在教育领域的应用仍处于起步阶段。“数字鸿沟”可能将部分学生排除在智能教育之外，数据收集、使用、分析等环节存在安全隐患，相关公共政策制定较为滞后……以人工智能赋能教育现代化，这些都是需要回答好的课题。
着眼未来，应携手打造高质量、有温度的人工智能教育生态。人机协作如何更聪明，人机对话如何更友好，是“人工智能+教育”的长期课题。一方面，技术应服务育人，在让其“授业”“解惑”的同时，必须坚持教师“传道”的主体地位。另一方面，人也要理解、善用技术，努力提升信息应用能力，让人工智能更好辅助教学。教育是动态的、发展的，理性思考人与技术的关系，把握教育规律、用好技术手段、凝聚各方力量，进一步推动人工智能与教育深度融合、创新发展，才能更好赋能教育现代化，培养顺应时代发展要求的创新人才。（吴丹）
人工智能技术应用的领域主要有哪些
随着智能家电、穿戴设备、智能机器人等产物的出现和普及，人工智能技术已经进入到生活的各个领域，引发越来越多的关注。那么，人工智能目前都应用在哪些领域，运用了怎样的技术原理呢？
什么是人工智能？人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学，是认知、决策、反馈的过程。曾经有很多人戏称，人工智能就像一列火车，你苦苦期盼，它终于来了，然后它呼啸而过，把你抛在身后。虽然这是一种笑谈，但也反应了人工智能技术发展的迅速和无法想象的快，可能一个不小心，你就被远远甩在身后。
##人工智能技术的细分领域有哪些？人工智能技术应用的细分领域：深度学习、计算机视觉、智能机器人、虚拟个人助理、自然语言处理—语音识别、自然语言处理—通用、实时语音翻译、情境感知计算、手势控制、视觉内容自动识别、推荐引擎等。
1、深度学习深度学习作为人工智能领域的一个应用分支，不管是从市面上公司的数量还是投资人投资喜好的角度来说，都是一重要应用领域。说到深度学习，大家第一个想到的肯定是AlphaGo，通过一次又一次的学习、更新算法，最终在人机大战中打败围棋大师李世石。百度的机器人“小度”多次参加最强大脑的“人机大战”，并取得胜利，亦是深度学习的结果。
深度学习的技术原理：
1.构建一个网络并且随机初始化所有连接的权重；2.将大量的数据情况输出到这个网络中；3.网络处理这些动作并且进行学习；4.如果这个动作符合指定的动作，将会增强权重，如果不符合，将会降低权重；5.系统通过如上过程调整权重；6.在成千上万次的学习之后，超过人类的表现；
2、计算机视觉计算机视觉是指计算机从图像中识别出物体、场景和活动的能力。计算机视觉有着广泛的细分应用，其中包括，医疗成像分析被用来提高疾病的预测、诊断和治疗；人脸识别被支付宝或者网上一些自助服务用来自动识别照片里的人物。同时在安防及监控领域，也有很多的应用……
计算机视觉的技术原理：
计算机视觉技术运用由图像处理操作及其他技术所组成的序列来将图像分析任务分解为便于管理的小块任务。比如，一些技术能够从图像中检测到物体的边缘及纹理。分类技术可被用作确定识别到的特征是否能够代表系统已知的一类物体。
3、语音识别语音识别技术最通俗易懂的讲法就是语音转化为文字，并对其进行识别认知和处理。语音识别的主要应用包括医疗听写、语音书写、电脑系统声控、电话客服等。
语音识别技术原理：
1、对声音进行处理，使用移动窗函数对声音进行分帧；2、声音被分帧后，变为很多波形，需要将波形做声学体征提取，变为状态；3、特征提起之后，声音就变成了一个N行、N列的矩阵。然后通过音素组合成单词；
4、虚拟个人助理说到虚拟个人助理，可能大家脑子里还没有具体的概念。但是说到Siri，你肯定就能立马明白什么是虚拟个人助理。除了Siri之外，Windows10的Cortana也是典型代表。
虚拟个人助理技术原理：（以Siri为例）
1、用户对着Siri说话后，语音将立即被编码，并转换成一个压缩数字文件，该文件包含了用户语音的相关信息；2、由于用户手机处于开机状态，语音信号将被转入用户所使用移动运营商的基站当中，然后再通过一系列固定电线发送至用户的互联网服务供应商(ISP)，该ISP拥有云计算服务器；3、该服务器中的内置系列模块，将通过技术手段来识别用户刚才说过的内容。总而言之，Siri等虚拟助理软件的工作原理就是“本地语音识别+云计算服务”。
5、语言处理自然语言处理（NLP），像计算机视觉技术一样，将各种有助于实现目标的多种技术进行了融合，实现人机间自然语言通信。
语言处理技术原理：
1、汉字编码词法分析；2、句法分析；3、语义分析；4、文本生成；5、语音识别；
6、智能机器人智能机器人在生活中随处可见，扫地机器人、陪伴机器人……这些机器人不管是跟人语音聊天，还是自主定位导航行走、安防监控等，都离不开人工智能技术的支持。
智能机器人技术原理：
人工智能技术把机器视觉、自动规划等认知技术、各种传感器整合到机器人身上，使得机器人拥有判断、决策的能力，能在各种不同的环境中处理不同的任务。
智能穿戴设备、智能家电、智能出行或者无人机设备其实都是类似的原理。7、引擎推荐不知道大家现在上网有没有这样的体验，那就是网站会根据你之前浏览过的页面、搜索过的关键字推送给你一些相关的网站内容。这其实就是引擎推荐技术的一种表现。
Google为什么会做免费搜索引擎，目的就是为了搜集大量的自然搜索数据，丰富他的大数据数据库，为后面的人工智能数据库做准备。
引擎推荐技术原理：
推荐引擎是基于用户的行为、属性（用户浏览网站产生的数据），通过算法分析和处理，主动发现用户当前或潜在需求，并主动推送信息给用户的信息网络。快速推荐给用户信息，提高浏览效率和转化率。
关于人工智能的展望除了上面的应用之外，人工智能技术肯定会朝着越来越多的分支领域发展。医疗、教育、金融、衣食住行等等涉及人类生活的各个方面都会有所渗透。
当然，人工智能的迅速发展必然会带来一些问题。比如有人鼓吹人工智能万能、也有人说人工智能会对人类造成威胁，或者受市场利益和趋势的驱动，涌现大量跟人工智能沾边的公司，但却没有实际应用场景，过分吹嘘概念。
转自：http://www.arduino.cn/thread-45848-1-1.html
2019年关于人工智能的六个议题
原标题：2019年关于人工智能的六个议题人工智能不再仅仅是一个流行词，而是已逐渐变成一大根深蒂固的趋势。该技术正在进入产业化阶段，人工智能的全球竞争早已开始。为有效利用人工智能，企业需要做好一些基本但至关重要的准备工作，例如确定为人工智能系统提供的数据质量等。企业还需要提出正确的问题，引导人工智能做出有意义的回答。尽管这些工作可能非常普通，但有一点非常重要：人们普遍相信，在可预见的未来，人工智能还不会取代人类；相反，人工智能将更加需要人类的判断与引导。人类将再次站到舞台中心，成为人工智能环境的导演。以下关于人工智能的六个议题将从企业的角度来审视这一主题，指出企业的首席执行官们必须做好准备应对的具体挑战与主要进展，这些进展将在中期内出现，在大规模应用阶段之后，在超智能开始自我提升、超越人脑的技术奇点之前。
1人工智能需要人类强有力的管理尽管人工智能系统将承担越来越多的分析工作与其他业务，但在可预见的未来，只有人类才拥有管理能力。信任、归属感和目的感都是在人与人的互动关系中产生的。在充满智能机器的环境中，很多人会感到不安，但事实上，这种情景将比以往任何时候都更需要人类的引导。人们将跟随自己信任的人，而非电脑及其做出的决策。在未来的企业中，管理者将需要强大的人际交往技能、责任感与强有力的道德基础，也需要了解如何将机器作为顾问，如何利用机器来为公司利益服务，如何在必要时反对机器提供的建议。因此，控制输入人工智能的数据质量、向人工智能提出正确的问题至关重要。没有正确的问题就没有正确的答案，人工智能的作用也就无法得到发挥。
2在人工智能时代，企业战略决定成败如果能够很好地对人工智能进行引导，人工智能系统将有能力预测商业机遇，并为特定问题提供有价值的建议，但不会很快替代人类的战略思维。受社会、政治、文化、环境等框架因素的影响，市场的复杂程度极高，人工智能无法依靠简单的数据处理来明确下一步要采取的“正确”(例如最理性的)措施。在复杂情况中做出大胆的战略决策需要直觉，而未来，这种能力将变得更加重要。因为在每个人都可以利用机器与算法对其进行深入分析的市场中，能够帮助企业脱颖而出的是战略。在以人工智能为动力的发展中，人类思维至关重要，其中包括多样化、大量的不同观点、集体智慧和人脑的综合能力。人们需要对战略开发加以改造，需要更快的速度、更高的灵活性、对组织的理解等等。
3短期来看，人工智能将进一步强化互联网巨头与平台的主导地位数字化推动了谷歌、脸书、亚马逊等互联网巨头及优步、爱彼迎等平台的崛起。通过有效绑定与满足消费者需求，这些公司正在威胁传统企业供应侧驱动的商业模式。当前，许多人工智能的用例仍依赖相对简单的深度学习技术，将大量图像、文本或声音输入机器来识别模式。这有助于增强美国与中国科技巨头的优势，因为数据是这些技术的生命线，而且数据多多益善。最终，人工智能将推动少数全球数字化企业在各行业中取得主导地位。如今，在数字化第一波浪潮中幸存下来的传统企业应当已经能够做好准备，与谷歌等公司及新型人工智能平台竞争，但也仍将会受到人工智能力量的威胁，特别是在以人工智能为基础的各层面商业模式中。因此，消费者将处在进退两难的境地，他们受益于平台的高效，但也缺少不同企业提供的不同选择机会。同时，占据主导地位的平台可以收集到越来越多的个人信息。少数数字化企业形成的寡头垄断也带来更多风险：占主导地位的企业可以影响价格，可能在与供应商的交易中不当使用巨大的权力。由于这些企业的业务遍及全球，并可能将业务转移到监管薄弱(与税收较低)的国家，监管机构往往难以对其进行有效监管。此外，法律在规范数字化商业模式方面尚不够完善，一旦数字化商业模式以人工智能为基础，这种情况将愈演愈烈。
展开全文4便携式人工智能将降低谷歌等平台的重要性当今的互联网巨头主导人工智能驱动的世界，这听上去似乎并不是一个非常具有吸引力的前景。但随着我们逐渐从深度学习技术发展到机器推理与基因算法，并在开发新型人工智能解决方案与技术(比如个人化、便携式的人工智能设备)方面取得进展，这些新型人工智能解决方案与技术可能会对当今互联网巨头带来颠覆性的影响。这些新型的个人助理将采用新的协议与点对点技术，对消费者而言，大规模量产的产品更加直观，更加便宜，并且能够保护隐私，因为消费者的数据是存储在私有云盘中的。通过不断建立自主学习档案，消费者将获得以公开宣布的、观察到的、推测出来的行为为基础的高度个性化建议。便携式人工智能将重新为消费者赋权，帮助传统企业重新直接接触消费者。例如，公寓业主将能够直接与短期租客接触，而如今是爱彼迎为他们打理一切事务。因此，现有的垄断状态将会动摇。科技巨头及平台主导地位的终结可能比我们想象中来得更快。虽然便携式人工智能听起来仍如登月项目，但在技术上是可行的，能否变成现实取决于是否有足够的资金投入。谁将提供便携式人工智能？在便携式人工智能的世界里，网络效应并不重要，你的设备就是你的“平台”，所以平台不再具有竞争优势。大量各种人工智能解决方案供应商将会出现，为开发最优的算法展开竞争，保证其设备提供最佳解决方案以满足消费者需求。这种局面何时会出现？考虑到第一部移动电话的发布到智能手机的出现用了十年时间，我们可以期待，便携式人工智能可能也会在约十年时间内释放出颠覆力量。
5人工智能建立价值网络，企业无需再“单打独斗”在人工智能的帮助下，20年前对于强大虚拟企业的设想将成为现实。垂直价值链将被打散，并转变为价值网络。利用人工智能，消费者及其行为越透明、可预测，在整个消费领域确定目标客户的机会就越大：吸烟或喜欢极限运动的人可能会对定制化健康保险计划感兴趣，社交生活较少的独居者更愿意接受电视节目订阅与送餐服务。企业应互相合作，通过构建合作网络来确定目标客户。无论消费者是否知情，他们最终可能只在一个特定的网络中消费，类似如今的航空公司联盟。可能出现几个大型网络，或众多小型网络。无论是哪种情况，对置身其中的所有企业来说，进行劳动分工与专注核心能力都会使其效率更高。这些企业可以更加精益，更锐意专注，持续为潜在人工智能系统提供客户数据，供所有合作伙伴使用。这样，企业就将能够不断提高目标。在企业网络中，数据共享将变得尤为重要：单独一家公司无法把握作为开发人工智能应用基础的商业环境“大局”(包括市场、供应链、投资方、监管方等)，但网络可以在新平台上收集数据。在人工智能支持的企业网络中，企业可以显著降低交易成本(协调经济交易产生的成本)。例如，由于人工智能可以准备合同等文书，法务成本将会下降；人工智能可以翻译文件，沟通成本也将降低。以人工智能为基础的算法能够搜索最优价格与交付最快的中介商、需求最大的市场，信息成本也会降低。
6人工智能提高系统性风险人工智能给金融体系带来了不确定性和新的挑战。银行和保险公司最近才开始使用人工智能，而其竞争对手已经在取得进展。例如，互联网巨头正在利用数据分析能力和人工智能能力开发产品，使其能够进一步渗透到金融服务业中。这些产品可以是直接针对消费者的金融产品，也可以是针对银行和保险商的产品(如准备好的数据集)。在此背景下，银行和保险公司面临的是系统相关的寡头垄断。问题是，如何监管这些竞争对手，而且其中大部分来自非传统金融企业。同时，人工智能正在促进细分市场领域的专业化，从而使无数类似不受监管的小公司出现，这些公司提供非常具体的解决方案。这一切使市场变得非常复杂。正如我们前文提到的新寡头垄断者之间的竞争一样，这种情况可能也会影响金融稳定。问题仍然是：如何进行监管？
公众号：learningme，超过一万份行业报告可以下载返回搜狐，查看更多
责任编辑：