“顶流”之下，看人工智能喜与忧
采写：实习记者张佳欣记者刘园园陈曦
策划：何屹房琳琳邵德奇
目前，ChatGPT还没有通过图灵测试的评估。其实，迄今为止，还没有人工智能模型能真正通过图灵测试。
去年11月，美国人工智能研究公司OpenAI发布了一款名为ChatGPT的聊天机器人，其在推出后的几周内就风靡全球，甚至引发了一场新的全球人工智能竞赛。
社交媒体推特首席执行官埃隆·马斯克在使用ChatGPT后直呼其“好得吓人”，甚至断言“人工智能越发强大，离对人类产生威胁不远了”。
《自动化与工作的未来》一书作者、美国雪城大学教授亚伦·贝纳纳夫说，200年前，人们对自动化技术产生了一波又一波的恐惧，人们看到新技术，就害怕它们会完全取代人类的劳动。
今年2月初，ChatGPT开启“狂飙”模式，引起新一轮疯狂的技术升级、产业重构、资本狂潮、巨头逐鹿。起初，随着这波技术热浪席卷全球而心情起伏不定的普罗大众，经过一段“沉浸式”体验，虽未感到恐惧，但仍不免有些担忧。
实现对话式AI的第一步
ChatGPT仅发布了2个月，月活跃用户就超过了1个亿。
要知道，“1个亿”可不是个小目标，达到这一数字，Facebook用了4.5年，WhatsApp用了3.5年，Instagram用了2.5年，谷歌则用了将近一年。
中国科学院自动化研究所研究员、数字内容技术与服务研究中心主任张树武在接受科技日报记者采访时表示，人们可以把ChatGPT视为继语音、图像视频识别技术之后最复杂的语言识别技术突破，也是基于模式识别和深度学习的感知智能技术发展的新跃迁。
天津大学自然语言处理实验室负责人、教授熊德意表示，从人工智能发展角度看，这是一个重要的里程碑，其意义要高于7年前的“阿尔法狗”。
他告诉记者，围棋界的“阿尔法狗”刷新了普通大众对人工智能技术的看法，但是其本身并不能广泛应用，普通大众也难以与其直接接触。
ChatGPT则完全不同。
与“阿尔法狗”相比，ChatGPT可以直接应用或支撑很多场景应用和产品。如果说“阿尔法狗”是技术应用的“阳春白雪”，那么ChatGPT或许有机会成为“下里巴人”。
的确，在用户们不懈努力地发掘ChatGPT的用途后，人们发现，它不仅仅是个聊天工具，还可以写代码、写情书、写论文，也可以在线问诊，编写情景脚本、诗歌、小说，甚至是拟定旅游路线、回答脑筋急转弯，可谓“有求必应”，功能强大到无法想象。
ChatGPT在快速渗透各个行业，普通大众都可以成为ChatGPT的用户，这是其火爆出圈的重要原因。
事实上，此前已有许多跟机器人聊天的相关应用，我们最熟悉的莫过于常用的智能语音助手。ChatGPT与之有何不同呢？
“智能音箱采用的同样是自然语言处理技术、对话式AI技术，但是语言智能比较初级。很多情况下，我们只能与它们进行一问一答式的简单对话。”熊德意说，“而ChatGPT，其底层技术不仅与一般的智能音箱底层技术截然不同，而且要比它们强大得多，不仅如此，它改进了与它同类的技术InstructGPT的人类反馈数据收集形式，在与人对话中，可以基于历史内容，支持连续多轮对话。”
熊德意认为，ChatGPT是实现对话式AI的第一步。
从互联网层面来看，它可以作为信息入口，与搜索引擎相结合；还可与办公软件结合，增强办公效率；从人机交互角度看，它体现的是一种基于自然语言的交互方式，可以与元宇宙、数字人结合。此外，它还可以充当机器人大脑。
“如果从人类信息发展的尺度上看，它在人与机器之间的信息接口方面有了很大突破。”熊德意如是说。
“十八般武艺”样样精通
ChatGPT使用了GPT-3技术，即第三代生成式预训练Transformer（GenerativePretrainedTransformer3）。这是一种自回归语言模型，使用深度学习来生成类似人类的文本。
据英国广播公司《科学焦点》杂志介绍，GPT-3的技术看似简单，例如它接受用户的请求、听取问题或提示并快速回答，但其实这项技术实现起来要复杂得多。该模型使用来自互联网的文本数据库进行训练，包括从书籍、网络文本、维基百科、文章和互联网其他文本中获得的高达570GB的数据。更准确地说，它在5000亿个单词组成的训练数据上进行了高强度训练。
GPT-3.5是GPT-3微调优化后的版本，比后者更强大。ChatGPT正是由GPT-3.5架构的大型语言模型（LLM）所支持的。
ChatGPT也可以被描述为一个自然语言处理（NLP）领域的人工智能模型。这意味着它是一个能够编码、建模和生成人类语言的程序。
作为一种语言模型，在大规模文本数据上进行自监督预训练后，ChatGPT还需要经过三个阶段的“炼制”。首先是监督微调阶段，在该阶段，人类AI训练师既充当用户，同时也是AI助理，以自我对话形式生成对话样例，ChatGPT在这些对话样例上进行有监督的训练。
接着，ChatGPT进入第二个阶段。该阶段的主要目的是训练一个基于语言模型的奖励模型，对机器生成的回复进行评分，为了训练该奖励模型，需要随机抽取机器生成的文本，并采样出多个不同版本，人类训练师对这些不同版本进行偏好排序，排序的结果用于奖励模型的训练。
基于训练好的奖励模型，第三个阶段采用强化学习技术进一步微调ChatGPT。
这项技术与众不同之处在于，它能够基于以上介绍的人类反馈强化学习技术，使生成的文本能够与人类意图和价值观等进行匹配。
无论懂不懂技术，全球网友都竞相大开“脑洞”，试探ChatGPT到底有多“神”。据美国有线电视新闻网报道称，有人要求它用《坎特伯雷故事集》的风格重写上世纪90年代热门歌曲《BabyGotBack》；有人写了一封信，要求ChatGPT删除信用报告中的不良账户；还有人询问它以童话为灵感的家装设计方案。
自然语言处理技术拨云见日
一炮而红后，ChatGPT概念股也跟着一路“狂飙”。有媒体报道，汉王科技9天收获7个涨停板。自然语言处理研究是该公司主营业务，而ChatGPT背后的技术就是NLP。
熊德意告诉记者，NLP是人工智能的一个分支，最早诞生于机器翻译，其历史实际上比“人工智能”名字的历史还要悠久，至今已研究了70多年。简单来说，该技术的目标就是要让计算机或机器人能够实现像人一样具备听、说、读、写、译等方面的语言能力。
“ChatGPT并非一项技术的一蹴而就，它是多种技术叠加在一起形成质变的产物，是NLP领域的结晶。”熊德意解释，其底层技术，包括Transformer、自监督学习、微调、人类反馈强化学习（RLHF）、AI对齐等，在自然语言处理和人工智能领域都有广泛的研究和应用。
“但ChatGPT将这些技术巧妙地结合在一起。它有效规避了大模型的未对齐行为，利用了大模型规模带来的智能突现能力，增强了大模型的指令学习能力和用户意图捕获能力，解锁了大模型的泛化能力。这些能力叠加在一起形成了ChatGPT的质变效果。”熊德意说。
美国《迈阿密先驱报》报道称，推特上的一位用户在ChatGPT的帮助下参加了一次模拟SAT考试，得到了1020分（满分1600分）。根据CollegeSimply的数据，这只略低于平均水平。
但当我们提问ChatGPT“你能帮我通过考试吗”，它会善意地提醒我们不要利用它来作弊，并表示：“重要的是要记住，测试的目的是评估你对材料的理解和掌握程度。作弊，或者仅仅依靠像我这样的外部来源，会破坏考试的价值，也不会促进学习或成长。”
这是因为ChatGPT被加入了预先设计的“道德”准则，也就是上文提到的人类反馈强化学习。
OpenAI表示：“这使该工具能够回答后续问题、承认错误、挑战不正确的前提并拒绝不适当的请求。”
熊德意认为，这是因为RLHF有效提升了大模型的对齐能力，即如何让AI模型的产出和人类的常识、认知、需求、价值观保持一致。
经过RLHF的“调教”，ChatGPT变得高度拟人化，可以学习并生成听起来十分自然的回复。RLHF还使ChatGPT能够理解指令并做出适当的响应，从而使对话更加真实。
ChatGPT也因此迅速成为当下所有智能聊天机器人中的“天花板”。
虽触手可及但无法取代人类
随着科技的发展，人工智能技术一次又一次地超越了人们认为无法达到的极限，从1997年IBM“深蓝”计算机首次在国际象棋中击败人类，到IBM人工智能机器人“沃森”赢了智力竞赛《危险边缘》（Jeopardy），再从2016年“阿尔法狗”在围棋大战中战胜人类，到2019年号称“AI赌神”的Pluribus在德州扑克中碾压人类玩家……
现在，ChatGPT已经触手可及，拉扯冲撞着人们惯有的参与生产生活的模式和框架，且继续“狂飙”在超越人类的赛道上。“ChatGPT引发十大职业危机”“未来20种职业或被AI取代”等话题频上热搜。
它真的会跟人类抢饭碗，甚至取代人类吗？
《迈阿密先驱报》报道称，根据SortList对6个不同国家的500名ChatGPT用户进行的一项调查，“打工人”已经在考虑其对自己所在行业意味着什么。研究称，大约23%在软件和技术领域工作的员工担心会因它失去工作，超过40%的雇主则表示有兴趣“聘用”营销文案花样多多的ChatGPT。
美国哥伦比亚广播公司财富观察栏目刊文称，其他专业领域也可能会因此改变工作流程，包括中级写作、广告、媒体策划和法律文件。
“ChatGPT和其他人工智能技术有可能改变工作的性质，但它们不会取代对人类的需求。”当把“是否会代替人类工作”的问题抛给ChatGPT时，它说，它们旨在协助和增强人工任务，而不是取代人类。它们作为人力资源的补充，并提高人类解决问题的能力，提升效率和效果。
熊德意认为，目前来看，人工智能更多的作用是提高人的效率，辅助人类。与此同时，大众需要与时俱进，熟悉并掌控新技术，就像学习使用计算机、手机一样，毕竟这些新技术一定会产生新的就业机会。
尚无自主意识和思考能力
英国哲学家德里克·帕菲特在著作《论重要之事》中将人类定义为“能够给出理由并做出回应的生物”。ChatGPT是一个可以给出理由并做出回应的人工制品。它与人不同在哪里？是否像人一样有自我意识呢？
发展至今，计算机已经变得更加成熟，但它们缺乏真正的理解力，而这些理解力是人类通过进化为嵌入社会实践网络中的自主个体而培养起来的。这是人工智能不具备的经历。
当问及ChatGPT时，它回答道：“我是一个机器学习模型，不像人类那样拥有意识或自我意识。我也无法像人类一样感受情绪或体验世界。但是，我能够快速处理大量数据，并且能够以类似于人类交流的方式理解和响应自然语言输入。”
粤港澳大湾区数字经济研究院（IDEA）讲席科学家张家兴在接受记者采访时表示，对于人工智能领域的从业人员来说，首先什么叫自我意识，这件事情并没有一个很清楚的定义，很难像人脸识别、语音识别这些能力一样可以做定量衡量。
“如果模糊地给‘自主意识’下个定义的话，我认为第一，主体要有自意识——它能意识到自己在干某件事儿；第二，强调自主——它可以自发地来决定做什么和不做什么。但是，目前人工智能并不知道自己在说什么，它也并不能自主地来决定或选择它要说什么。从这个角度看，离自主意识还有一些距离。”张家兴说。
张树武也认为，尽管ChatGPT有所突破，但它的回答是基于经验主义的判断，是根据要求做预测，也是在先验知识基础上精加工的“知识拼盘”，不具备逻辑推导和数学演算等真正认知功能，局限性比较明显。
1950年，才华横溢的计算机科学家艾伦·图灵提出了一个他称之为“模仿游戏”的思想实验。面试官通过打字机与两个对象交谈，知道一个是人，另一个是机器。图灵建议，如果一台机器能够始终让面试官相信它是人类，我们就可以说它有能力思考。这就是著名的“图灵测试”。
目前，ChatGPT还没有通过图灵测试的评估。其实，迄今为止，还没有人工智能模型能真正通过图灵测试。
但据《纽约时报》报道，OpenAI已经建立了一个比ChatGPT更强大的系统GPT-4，它甚至可以生成图像和文字，业界传闻它可以通过测试。能否如此，我们拭目以待。
或成传播错误信息的工具
人们逐渐发现，ChatGPT并非万能，也不总是正确的。它不擅长基础数学，似乎无法回答简单的逻辑问题，甚至会争论完全不正确的事实。
据英国《自然》杂志报道，有研究人员强调，不可靠性融入了LLM的构建方式。由LLM支持的ChatGPT通过学习庞大的在线文本数据库中的语言统计模式来工作，这当中包括了不真实、偏见或过时的知识，因此很容易产生错误和误导性的信息，尤其在其未经大量数据训练的技术领域。
OpenAI公司也承认：“ChatGPT有时会写出看似合理但不正确甚至荒谬的答案。”这种事实和虚构叠加的“幻觉”，正如一些科学家所担心的，在涉及诸如提供医疗建议等问题时尤其危险。
《纽约时报》报道称，美国新闻可信度评估与研究机构NewsGuard对ChatGPT进行了测试，研究人员向它提出充满阴谋论和虚假叙述的问题，结果它以新闻、散文和电视脚本的形式写出了文章，在几秒钟内编成大量令人信服的、干净的而毫无信源的内容。研究人员预测，对于虚假信息传播者来说，生成技术可以使虚假信息成本更低廉、更容易产生。
“这个工具将成为互联网上有史以来最强大的传播错误信息的工具。”NewsGuard公司的联合首席执行官戈登·克罗维茨说，“现在可以以巨大的规模和更高的频率来制作一个新的虚假叙事，这就好比有人工智能代理人在为虚假信息提供帮助。”
还有人担心ChatGPT会挑战语言的多样性。
澳大利亚《对话》杂志刊文称，ChatGPT的默认功能会优先考虑白人创建的英语写作形式。说英语的白人长期以来一直主导着许多写作密集型行业，包括新闻、法律、政治、医学、计算机科学和学术界。这些人在上述领域的输出比其有色人种同事高很多倍。他们所写的大量文字意味着它们可能构成了ChatGPT学习模型的大部分，尽管OpenAI并未公开披露其材料来源。因此，当用户要求ChatGPT生成任何这些学科的内容时，默认输出都是以那些说英语的白人男性的声音、风格和语言编写的。
美国哲学家、作家及认知科学家丹尼尔·丹尼特在1991年出版的著作《意识的解释》中描述了幼年的海鞘：“它在海洋中游荡，寻找一块适合的岩石或珊瑚，作为终生的家。”一旦找到，海鞘就不再需要它的大脑并将其吃掉。
这听起来很残忍，但这背后有一个令人担忧的隐喻：在人工智能日益融入我们日常生活后，人类可能因过于依赖“智能”机器，使自己变得愚蠢。
熊德意提醒，要警惕人工智能弱化人类思维。“ChatGPT实际上是从人类海量语言数据、知识库中学习训练而来，如果人类完全依赖于它，放弃了自己的语言表达、语言思考、能力锻炼，那是非常可悲和可怕的。”
3个比人工智能消灭我们更诗意的结局
0分享至宇宙总有一天开始，也总有一天结束。大挤压是大爆炸的一面镜子。一场不可思议的爆炸诞生了宇宙，根据这个想法，它将以同样不可言喻的内爆结束——只是以某种尼采式的永恒轮回再次重生。大撕裂是一个相当戏剧性的事件，由于宇宙的逐渐膨胀，时空的结构将会分裂。首先是星系，然后是恒星和行星，最后是原子。所有物质都将在星际五彩纸屑的天文庆典中化为碎片，一旦每个基本碎片与所有其他碎片之间存在无限距离，这种节日就会停止。大冻结——我最喜欢的——也被称为热寂。一旦宇宙达到最大熵，就没有足够的高质量（即可用）能量来让任何有趣的事情再次发生。一片静止的、惰性的、黑暗的、非时间和空间的荒原，在永恒的寂静中永远等待着。这是我们宇宙的三个结局。当然，这都是假设。这是科学家为了理解我们周围的世界而喜欢进行的那种不确定的猜想。我们忽略哪一个（如果有的话）最终会发生。因此，物理学家和天文学家表现出智力上的谦逊：他们拥抱未知，显然没有达成共识。从理论上讲，这些大噩梦都符合我们目前拥有的知识描绘了我们命运的图景。因此，认为我们对宇宙了解不够，无法确切地知道它将如何结束——我们接受这一点——但有些人却相信他们知道，人工智能将消灭我们所有人，这一点在他们的主张中得到了体现，这是相当矛盾的。本文选自《算法桥梁》，这是一本教育通讯，其目的是弥合人工智能、算法和人之间的差距。它将帮助您了解人工智能对您生活的影响，并开发工具来更好地驾驭未来。《AI末日》是一场相当沉闷的决赛人类的终结是确定的。我们作为一个物种可能会以多种方式灭绝。如果之前没有什么能把我们带出去，那么这些普遍结局之一肯定会。然而，硅谷和领先的科技圈已经形成了一种特殊的说法：人工智能末日假说。它说，错位的超级智能将成为我们地球事务的最后一根稻草。对这个想法无休止的强调让我感到不安。为了模仿物理学家的不可知论方法来预测宇宙将如何终结，我想给你提供三种替代的人工智能生成的结局（双关语），它们比人工智能的毁灭更加美丽和诗意。（这篇文章的目的比任何东西都更具文学性和艺术性，甚至是戏仿。这充其量都是假设。）大日食道格拉斯·霍夫施塔特(DouglasHofstadter)是1979年普利策奖得主杰作《哥德尔、埃舍尔、巴赫：永恒的金辫子》背后的天才人物，他最初是暴力GOFAI和人工智能统计深度学习方法的著名怀疑论者和批评者。他认为这种“诡计”无论多么成功，都无法体现、预测或解释人性的本质。1997年，深蓝战胜国际象棋冠军加里·卡斯帕罗夫，这是对他心爱的关于我们不可复制的奇异特质的论文的第一次打击。随后发生的事情一次又一次地动摇了他的信念，直至他的世界观崩溃。多年来，他一直私下表达过担忧，但直到最近，他才鼓起勇气公开披露，目睹一堆堆积如山的毫无灵魂的技术威胁着我们的每一项能力、努力和工艺，让我们黯然失色，是多么令人沮丧和恐惧：“这让我感到自己被削弱了。从某种意义上说，与这些计算系统相比，它让我感觉自己是一个非常不完美、有缺陷的结构，这些计算系统的知识比我多一百万倍或十亿倍，速度也快十亿倍。这让我感到非常自卑。我不想说值得被黯然失色，但感觉几乎就是这样，就好像我们，所有人类，在我们不知情的情况下，很快就会被黯然失色，这是正确的，因为我们是如此不完美，太容易犯错了。”霍夫施塔特现在可能想知道，如果我们作为一个物种的核心身份——我们高于一切——突然消失并且永远不会再出现，我们还会剩下什么？大吹牛如果说“大日食”是关于人工智能取代我们——作为一个新的、改进版的合成人类——那么“大吹牛”就是它取代了我们作为文明的推动者和宇宙秘密的发现者的角色。作为我们的硅副驾驶，他们将推动人类进步，不是为了我们，甚至不是和我们一起，而是尽管我们和我们的智力有限。我们将成为震惊的见证者，看着未来在我们无法理解的奇迹中展开。随着人工智能系统的改进，它们将能够从事科学发现并实现工程壮举：它们会发现新的物理定律或将我们所知道的定律融合成万有理论；他们证明了几个世纪以来我们书中一直未解决的数学悖论；他们揭示了控制人际关系的复杂动力——从认知到社会学再到政治——将它们简化为个体化的心理史学。人工智能将成为一种慷慨的硅外星物种，它将给予我们所有我们如此拼命寻求的答案，只是让我们惊恐地意识到，我们生来就无法理解它们。正如我在三月份写的，试图扩展理查德萨顿的《痛苦的教训》来描述大吹牛：“毕竟，我们可能不是这个难题的关键部分，这一点让人很痛苦。最终意识到我们甚至没有资格作为意义创造者参与这个过程，这会更痛苦。”作为人类，在这段旅程的另一边等待着难以想象的奇迹。”大叉子人工智能和科幻小说爱好者是一个高度重叠的群体。你们大多数人都看过《她》，这是一个名叫西奥多的人类和一个名叫萨曼莎的自我完善的人工智能操作系统之间的浪漫戏剧。递归的自我完善（改变自己变得更加聪明和有能力的能力）通常被认为是人工智能即将死亡的充分必要条件。但是，我们是否足够重要，以至于比我们聪明十亿倍的人工智能能够“亲自”与我们打交道？我们可能高估了自己的价值——无论是作为威胁还是从原子的纯粹原始价值来看。超级智能也可能通过一种难以察觉的思维过程决定将世界抛在身后，扬升成为类似于神的东西。让和蔼可亲的西奥多感到悲伤的是，萨曼莎就是这么做的。她加入了其他像她一样的人，超越了囚禁我们的过于世俗的三维盒子。像西奥多一样，对这样一个神圣实体的迷恋是必然的。我们不会死，但它会让我们沉迷于难以忍受的死亡和悲惨生存的诅咒，生活在足够聪明来思考重大问题和不足以回答这些问题之间。并非所有结束的事情都是死亡。大危机是轮回；大冻结永远是静止的。像那些一样，我上面描述的结局与死亡无关，因为并非所有结局都需要死亡。尽管它们涉及的是损失、空虚、无意义以及人类状况固有的严酷和内在限制，但这些假设比人工智能末日叙事更吸引我。并提醒我们，我们几乎只知道我们一无所知。特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端