人工智能可能有自主意识了吗
➤大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术
➤不同于当前依赖数据学习的技术路线，新一代人工智能强调在没有经过数据学习的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互
➤当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。在发展科技的同时，必须同步发展我们的规制体系
➤“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
今年6月，美国谷歌公司软件工程师布莱克·勒莫因称语言模型LaMDA出现自我意识。他认为，LaMDA拥有七八岁孩童的智力，并相信LaMDA正在争取自己作为一个人的权利。
LaMDA是谷歌去年发布的一款专门用于对话的语言模型，主要功能是可以与人类交谈。
为佐证观点，勒莫因把自己和LaMDA的聊天记录上传至互联网。随后，谷歌以违反保密协议为由对其停职。谷歌表示，没有任何证据支持勒莫因的观点。
事实上，“AI（人工智能）是否拥有自主意识”一直争议不休。此次谷歌工程师和LaMDA的故事，再次引发讨论。人们想知道：人工智能技术究竟发展到了怎样的阶段？是否真的具备自主意识？其判定依据是什么？未来我们又该以怎样的能力和心态与人工智能和谐共处？
人工智能自主意识之辨勒莫因认为LaMDA具有意识的原因有三：一是LaMDA以前所未有的方式高效、创造性地使用语言；二是它以与人类相似的方式分享感觉；三是它会表达内省和想象，既会担忧未来，也会追忆过去。
受访专家告诉《瞭望》新闻周刊记者，上述现象仅仅是因为LaMDA所基于的Transformer架构能够联系上下文，进行高精度的人类对话模拟，故能应对人类开放、发散的交谈。
至于人工智能是否已经具备自主意识，判定标准如何，受访专家表示，对人类意识的探索目前仍属于科技前沿，尚未形成统一定义。
清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说：“我们说人有自主意识，是因为人知道自己在干什么。机器则不一样，你对它输入内容，它只是依照程序设定进行反馈。”
中国社会科学院科学技术哲学研究室主任段伟文认为，一般意义上，人的自我意识是指对自我具备觉知，但如何认识和理解人类意识更多还是一个哲学问题而不是科学问题，这也是很难明确定义人工智能是否具备意识的原因。
被誉为“计算机科学与人工智能之父”的艾伦·图灵，早在1950年就曾提出图灵测试——如果一台机器能够与人类展开对话而不能被辨别出其机器身份，那么可以称这台机器具有智能。
这一设想随后被具化为，如果有超过30%参与测试的人以为自己在和人说话而非计算机，就可以认为“机器会思考”。
当前随着技术的发展，已经有越来越多的机器能够通过图灵测试。
但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周刊记者，图灵测试只能证明机器在表象上可以做到让人无法分辨它与人类的不同，却不能证明机器能够思考，更不能证明机器具备自主意识。
段伟文表示，目前大体有两种方式判定人工智能是否具有自主意识，一种以人类意识为参照，另一种则试图对机器意识进行全新定义。
若以人类意识为参照，要观察机器能否像人一样整合信息。“比如你在阳光下，坐在河边的椅子上看书，有树影落在脸上，有风吹来，它们会带给你一种整体的愉悦感。而对机器来说，阳光、河流、椅子等，是分散的单一元素。”段伟文说。
不仅如此，段伟文说，还要观察机器能否像人一样将单一事件放在全局中思考，作出符合全局利益的决策。
若跳出人类构建自主意识的范式，对机器意识进行重新定义，则需要明白意识的本质是什么。
段伟文告诉记者，有理论认为如果机器与机器之间形成了灵活、独立的交互，则可以称机器具备意识。也有理论认为，可以不追究机器的内心，仅仅把机器当作行为体，从机器的行为表现判断它是否理解所做事情的意义。“比如机器人看到人类喝咖啡后很精神，下次当它观察到人类的疲惫，能不能想到要为人类煮一杯咖啡？”段伟文说。
但在段伟文看来，这些对机器意识进行重新定义的理论，其问题出在，即便能够证明机器可以交互对话、深度理解，但是否等同于具备自主意识尚未有定论。“以LaMDA为例，虽然能够生成在人类看来更具意义的对话，甚至人可以与机器在对话中产生共情，但其本质仍然是在数据采集、配对、筛选机制下形成的反馈，并不代表模型能够理解对话的意义。”
换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术。
郭雨晨直言，尽管在情感计算方面，通过深度学习的推动已经发展得比较好，但如果就此说人工智能具备意识还有些一厢情愿。“把‘意识’这个词换成‘功能’，我会觉得更加准确。”
技术换道有专家提出，若要机器能思考，先要解决人工智能发展的换道问题。
据了解，目前基于深度学习、由数据驱动的人工智能在技术上已经触及天花板。一个突出例证是，阿尔法围棋（AlphaGo）在击败人类围棋世界冠军后，虽然财力和算力不断投入，但深度学习的回报率却没有相应增长。
一般认为，人工智能可被分为弱人工智能、通用人工智能和超级人工智能。弱人工智能也被称为狭义人工智能，专攻某一领域；通用人工智能也叫强人工智能，主要目标是制造出一台像人类一样拥有全面智能的计算机；超级人工智能类似于科幻作品中拥有超能力的智能机器人。
从产业发展角度看，人工智能在弱人工智能阶段停留了相当长时间，正在向通用人工智能阶段迈进。受访专家表示，目前尚未有成功创建通用人工智能的成熟案例，而具备自主意识，至少需要发展到通用人工智能阶段。
梁正说，大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。“如果你给这类语言模型喂养大量关于内省、想象等与意识有关的数据，它便更容易反馈与意识有关的回应。”
不仅如此，现阶段的人工智能在一个复杂、专门的领域可以做到极致，却很难完成一件在人类看来非常简单的事情。“比如人工智能可以成为围棋高手，却不具备三岁小孩对陌生环境的感知能力。”段伟文说。
谈及背后原因，受访专家表示，第一是当前人工智能主要与符号世界进行交互，在对物理世界的感知与反应上发展缓慢。第二是数据学习让机器只能对见过的内容有合理反馈，无法处理陌生内容。第三是在数据驱动技术路线下，人们通过不断调整、优化参数来强化机器反馈的精准度，但这种调适终究有限。
郭雨晨说，人类在特定任务的学习过程中接触的数据量并不大，却可以很快学习新技能、完成新任务，这是目前基于数据驱动的人工智能所不具备的能力。
梁正强调，不同于当前主要依赖大规模数据训练的技术路线，新一代人工智能强调在没有经过数据训练的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互。
相比人类意识的自由开放，以往人工智能更多处在封闭空间。尽管这个空间可能足够大，但若超出设定范畴便无法处理。而人类如果按照规则不能解决问题，就会修改规则，甚至发明新规则。
这意味着，如果人工智能能够超越现有学习模式，拥有对自身意识系统进行反思的能力，就会理解自身系统的基本性质，就有可能改造自身的意识系统，创造新规则，从而成为自己的主人。
“人工智能觉醒”背后有关“人工智能觉醒”的讨论已不鲜见，但谷歌迅速否认的态度耐人寻味。
梁正表示：“如果不迅速驳斥指认，会给谷歌带来合规性方面的麻烦。”
据了解，关于人工智能是否有自主意识的争论并非单纯技术领域的学术探讨，而关乎企业合规性的基本坚守。一旦认定公司研发的人工智能系统出现自主意识，很可能会被认为违反第2版《人工智能设计的伦理准则》白皮书的相关规范。
这一由美国电气和电子工程师协会2017年发布的规范明确：“根据某些理论，当系统接近并超过通用人工智能时，无法预料的或无意的系统行为将变得越来越危险且难以纠正。并不是所有通用人工智能级别的系统都能够与人类利益保持一致，因此，当这些系统的能力越来越强大时，应当谨慎并确定不同系统的运行机制。”
梁正认为，为避免社会舆论可能的过度负面解读，担心大家认为它培育出了英国作家玛丽·雪莱笔下的弗兰肯斯坦式的科技怪物，以“不作恶”为企业口号的谷歌自然会予以否认。“不仅如此，尽管这一原则对企业没有强制约束力，但若被认为突破了底线，并对个体和社会造成实质性伤害，很有可能面临高额的惩罚性赔偿，因此企业在合规性方面会更为谨慎。”
我国也有类似管理规范。2019年，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出人工智能治理的框架和行动指南。其中，“敏捷治理”原则主要针对技术可能带来的新社会风险展开治理，强调治理的适应性与灵活性。
中国信息化百人会成员、清华大学教授薛澜在接受媒体采访时表示，当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。特别是在第四次工业革命背景下，我国的人工智能技术和其他国家一样都处于发展期，没有现成的规制体系，这样就使得我们在发展科技的同时，必须同步发展我们的规制体系。“这可能是人工智能发展面临最大的挑战。”
在梁正看来，目前很难断言新兴人工智能技术具有绝对风险，但必须构造合理的熔断、叫停机制。在治理中既要具有一定的预见性，又不能扼杀创新的土壤，要在企业诉求和公共安全之间找到合适的平衡点。
毕竟，对人类来说，发展人工智能的目的不是把机器变成人，更不是把人变成机器，而是解决人类社会发展面临的问题。
从这个角度来说，我们需要的或许只是帮助人类而不是代替人类的人工智能。
为了人机友好的未来确保通用人工智能技术有益于人类福祉，一直是人工智能伦理构建的前沿。
薛澜认为，在科技领域，很多技术都像硬币的两面，在带来正面效应的同时也会存在风险，人工智能就是其中一个比较突出的领域。如何在促进技术创新和规制潜在风险之间寻求平衡，是科技伦理必须关注的问题。
梁正提出，有时技术的发展会超越人们预想的框架，在不自觉的情况下出现与人类利益不一致甚至相悖的情况。著名的“曲别针制造机”假说，即描述了通用人工智能在目标和技术都无害的情况下，对人类造成威胁的情景。
“曲别针制造机”假说给定一种技术模型，假设某个人工智能机器的终极目标是制造曲别针，尽管看上去这一目的对人类无害，但最终它却使用人类无法比拟的能力，把世界上所有资源都做成了曲别针，进而对人类社会产生不可逆的伤害。
因此有观点认为，创造出法力高超又杀不死的孙悟空本身就是一种不顾后果的冒险行为。
与其对立的观点则认为，目前这一担忧为时尚早。
“我们对到底什么样的技术路线能够发展出具备自主意识的人工智能尚无共识，现在谈论‘禁止发展’，有种空中楼阁的意味。”梁正说。
商汤科技智能产业研究院院长田丰告诉《瞭望》新闻周刊，现实中人工智能技术伦理风险治理的关键，是产业能够在“预判防范-应用场景-用户反馈-产品改进”中形成市场反馈机制，促成伦理风险识别与敏捷治理。同时，企业内部也需建立完整的科技伦理自律机制，通过伦理委员会、伦理风控流程平台将伦理风险把控落实到产品全生命周期中。
郭雨晨说，人工智能技术发展到目前，仍始终处于人类可控状态，而科技发展的过程本来就伴随对衍生问题的预判、发现和解决。“在想象中的人工智能自主意识出现以前，人工智能技术脚踏实地的发展，已经造福人类社会很多年了。”
在梁正看来，人与人工智能在未来会是一种合作关系，各自具备对方无法达成的能力。“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
编辑：李华山
2022年08月16日07:42:05
“人工智能+教育”的应用场景有哪些
2、“自适应+STEAM教育”类
如“wonderworkshop”——通过软件将儿童的数据进行分析，并通过机器人硬件和独特的教学内容，帮助孩子趣味学习编程。
3、“自适应+语言教育”类
如“朗播网”——提供一套自适应英语学习系统，为用户测试英语各方面能力，并提供针对性的考试提分技巧和能力学习课程。
4、人性化地风险事件处理方案
如“NEWSELA”——将K12用户的英文阅读水平分级，通过科学算法来判断用户的阅读水平，向用户推送符合其阅读水平和兴趣的新闻来提供用户的阅读能力。
2.虚拟学习助手
虚拟学习助手是指为学习者提供陪练答疑、客服咨询、助教等服务，企业从中能够低成本为学习者提供标准化的服务，并且又能获得大量用户数据反馈。
1、虚拟助教
由于教育过程中，助教所需要做的业务就是为学生答疑、提醒等功能，这些工作多为简单重复的脑力工作，因此，AI可以逐渐替代助教业务。
2、虚拟陪练
课后练习反馈对于学习效果的提升非常重要，而数据化程度最高的环节也正是练习，因此这也是大部分人工智能+教育创业者的切入环节。不同类型的学习内容需要的技术方案各不相同，如理论性的学科的练习更加容易智能化，但是与实践相关的科目，如艺术、运动等往往需要搭配智能硬件来达到学习效果。
此类产品如“音乐笔记”就是音乐教育领域的陪练机器人，智能腕带和APP结合，利用可穿戴社会和视频传感器，对钢琴演奏的数据进行实时采集分析，并将练习效果反馈和评价呈现给用户。
3.专家系统
专家系统是指，在某个领域能够有效地运用数字化的经验和知识库，解决以往只有专家能够解决的复杂问题。专家系统结合了人工智能和大数据，具备自我学习和综合分析的能力，系统可以获取、更新知识，不再只是静态的规则和事实。
专家系统帮助学习者和机构诊断、预测、决策。这类企业通常可细分为：
1、“生涯规划+教育”类
如“申请方”——基于大数据和人工智能，为面临升学、留学、求职等情况的用户提供智能规划和申请服务的平台，帮助学生获取开放性的教育资源、实现高效率的血液发展、收获个性化的教育体验。
2、“智能批改+教育”类
如“批改网”——是一个计算机自动批改英语作文的在线系统，为学生和教室提供智能的批改服务。
4.商业智能化
教育机构组织运营包括多个核心环节（推广招生、教学、客户服务等）和支撑活动（基础设施、人力资源、采购、教研等）。人工智能可以在多个环节提升组织的整体效率。
教育商业智能应用场景非常丰富：在基础设施活动中，有智能选址、财务预测管理、校车管理规划等场景了；在人力资源活动中，有教室招聘、人才评估、人才培养三个应用场景；在采购活动中，软硬件采购和评估可以应用AI技术；在教学研发活动中，有教研体系、课程内容和备课工具都可以作为其应用场景；在推广招生环节中，有招生平台、投放策略等场景；在教学过程环节中，有课堂的辅助、LMS、作业批改、考试测评等场景；在客户服务环节中，有家校沟通、客户管理、班级管理等场景。
企业在商业智能化这通常有两个方向：
1、“运营支持”
如“Panorama”——K12教育的数据分析公司，从学生反馈、社会情感学习、学校生态和家长及社会参与度四个方面对学校进行评估，为每个学校制定个性化的调查方案，找出学校的问题所在并针对广泛性问题提供解决方案建议。
2、“学情管理”
如“狸米学习”就是为公立中小学提供个性化教学解决方案的。为学校提供完整的智能化教学配套方案，教室可用于作业管理和课时学情分析，家长通过此了解孩子学习状况，教学管理者可以用于学校的智能化教学分析。
未来教育创业的驱动力定是来自人工智能为核心的“科技创新”+”教研创新“，前面触及到的四个领域（即自适应学习领域、虚拟学习领域、专家系统领域以及教育商业智能领域）的各个赛道中都有巨大的创业机会。
Lighthouse返回搜狐，查看更多
人工智能对传媒业的影响有哪些
0分享至人工智能是引领新一轮科技革命和产业变革的战略性技术。从传感器获取信息，到自动生成图像、音频、视频，再到沉浸化、智能化传播，人工智能技术不断重塑与赋能传媒行业。目前，人工智能技术比较广泛应用于传媒行业，主要包括基础层、感知层、认知层、平台层和应用层。基础层提供AI服务所需的算力、数据和基本算法，极大地降低了对本地硬件设备和软件系统的要求，运维成本和风险。感知层模拟人的听觉、视觉，实现语音识别、图片识别、视频分析、HDR、VR/AR配准渲染等功能。认知层模拟大脑的语义理解功能，实现自然语言处理、知识图谱的记忆推理和用户画像分析等功能。平台层通过开放服务接口，为视频创作、视频生产、内容分发、社交互动、商业变现等应用赋能。AI技术引领传媒业内容生产与传播模式的革新人工智能已经渗透至信息采集、内容生产、内容分发到与用户互动等全链条。数据表明，国内新闻工作各业务环节中，人工智能应用渗入程度最高的环节集中在舆情监测/线索收集、内容精准传播、用户画像等方面，提升了新闻报道的时效性、个性化新闻分发的精确度、新闻生产效率。例如，新华社推出的智能化编辑室持续追踪人工智能技术前沿成果，主要包括“鹰眼”智能监测系统、“现场云”、AI合成主播、智能版权评价系统和区块链技术，对新闻生产进行全环节、全流程、全系统再造。AI技术促进媒介融合催生新业态，多元平台竞合共生万物互联、万物皆媒趋势越来越明显，央视网、人民网等网络媒体运用人工智能技术，构建现代传播体系，打造适应“全程、全息、全员、全效”媒体特点的新业态。从竞争态势来看，今日头条、一点资讯、快手等互联网企业运用人工智能技术实现算法推荐分发，并积极打造内容生态平台，业已成为具有媒体属性的新兴业态。如今网络媒体之间的竞争从之前的内容、产品、营销、渠道竞争上升到平台之争；从传播及影响来看，凭借用户基数大、信息传播快、互动功能强等特点，网络媒体日益成为内容传播的重要力量。新时代的传媒业将更加数字化、智能化，形成资源集聚、结构合理、多元包容、协同高效的传播体系，大量的新生技术将进一步促使网络媒体沟通现实世界与虚拟世界，提升信息传递效率，推动形成社会治理合力，让新时代的声音传得更广、更深、更远。AI技术双刃剑效应愈加明显，引发系列问题挑战人工智能技术对传媒业的颠覆性变革仍在持续，专业媒体、自媒体、平台、用户等努力适应日益混合型媒介环境。人工智能技术的双刃剑效应愈加明显，失序失范现象频现，一系列新问题新挑战接踵而至。推荐算法基于用户精准画像进行内容筛选推送，提升了新闻生产个性化和新闻推送准确率，同时，由于侧重迎合个人偏好，导致“信息窄化”，形成“信息孤岛”。长此以往，舆论趋于分化、极化、碎片化，形成社会共识、增强社会凝聚力难度加大。与此同时，人工智能技术滥用误用引发虚假新闻危害，基于深度学习、虚拟现实等的换脸技术、语音合成技术、视频生成技术大大发展，虚假文本及音视频成为“新型谣言”。基于广泛数据分析的人工智能技术大大增加了公民隐私受侵犯的风险，对个人信息的非法使用和采集，对数据来源缺乏安全有效保护，易于造成隐私泄露，出现信息安全问题。特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端