强大到危险的ChatGPT，会替代人类思考吗
近日，由人工智能实验室OpenAI发布的对话式大型语言模型ChatGPT在各大中外媒体平台掀起了一阵狂潮。短短4天时间，其用户量到达百万级，注册用户之多导致服务器一度爆满。继AI绘画之后，由OpenAI上线的ChatGPT成了新的流量收割机，也引发了网友的一系列“花式整活”。ChatGPT的功能是如此强大，以致连马斯克都认为“我们离强大到危险的AI不远了”。
ChatGPT究竟是什么？
ChatGPT是由美国“开放人工智能研究中心”（OpenAI）发布的一个聊天机器人程序，其实早在去年11月30日就已经发布了，有一项调查显示，截至2023年1月，美国约有89%的大学生在用ChatGPT完成作业。
本质上来说，ChatGPT是一个由技术驱动的自然语言处理工具，它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。
那么，为什么ChatGPT能引起如此大的市场反应呢？
之所以能让马斯克发出“强大到危险的AI”的感叹，是因为ChatGPT作为一个人工智能模型，真的在产出类似人类的常识、认知、需求和价值。比如，根据很多用户的反馈，你可以提问ChatGPT对很多社会问题的看法，而其可以从“广大群众”的角度，通过客观理论的推理来进行解释，从而提供具有社会价值的答案。
而从技术角度来说，它是因为引入了新的算法技术RLHF，即基于人类反馈的强化学习。可以说，ChatGPT的火爆是技术工程和服务产品的胜利。过去我们更为常用的是LLM，也就是大型语言模型，但是它的建模过程中并没有显式的引入人的偏好和主观意见，因而就缺少了人们从ChatGPT上面可以找到的“人的味道”，而RLHF的本质逻辑就是用生成文本的人工反馈作为性能衡量的标准，或者说是用这种反馈来优化模型，也就是说，直接使用强化学习的方式来直接优化带有人类反馈的语言模型。
正是这种快速反馈，让用户有了对ChatGPT拟人化的可能，一系列类似人的语言反馈行为再叠加轻松便捷的聊天场景，人们由原本对人工智能技术的准确性、即时性、客观性的苛刻要求，已经逐步转变为人性化、趣味化、互动化的反馈需求，甚至ChatGPT有一些不太恰当的回复也会成为人与其聊天中的乐趣所在，换个说法，ChatGPT可以提供人们在聊天中所需要的情绪价值，而不仅仅是信息反馈。
更低的门槛让人工智能向通用技术转变
ChatGPT所提供的新的聊天模式，让AI技术的门槛变低了，这种变低有两个层面的含义。
一个层面是AI技术进入人们现实生活的门槛变低了。ChatGPT通过一个更为随意和通俗的聊天场景直接和用户建立了联系，并且其多元化的功能可以通过一个统一的聊天接口对接不同的用户，这就让用户层面的通用化变为了可能。
另一个层面是AI本身语料获取的门槛变低了。通过这种更为随意化的聊天场景，用户在多轮聊天过程中就会不断的提供对于ChatGPT反馈结果的进一步人工反馈，从而提供更多的语料帮助模型的进一步强化。
而门槛变低的结果，就是人工智能技术成功“出圈”，开始可以独立的引领一个AI为核心的大型商业化结构的形成，也就是AIGC，AIGC即AIGeneratedContent，是指利用人工智能技术来生成内容。在内容为王的当代互联网时代，人工智能技术生成内容自带的客观性、即时性、准确性和话题性都将成为其商用吸引力的重要来源。笔者认为从短期而言，可以大规模商用的领域，包括但不限于归纳性和整理性的文字类工作，规范性的代码类工作，图像生成和智能客服等工作。
人力资源和数据获取，是大规模商用的局限性所在
ChatGPT并没有从本质上改变AI的产品结构，其同样也是由模型和训练数据两部分来构成。模型就是类似神经网络模型，只是这一次的transformer模型有了更强的并行化操作能力和扩展性，同时匹配更大规模的数据集，就可以不断地训练出更强大的模型。
而ChatGPT未来发展可能的局限性也正是由这两方面而生。其一是模型。ChatGPT模型的背后对于标注员的工作量和综合素质要求很高，加入人工反馈的模型强化是其具有“人味”的关键，而这也将成为其不断扩大的局限所在。
其二就是数据和算力。由于ChatGPT的技术路线与其他AI甚至和人脑都不太一样，所以其仍然会受到算力资源和算法的限制，其也无法更加深入地具备真正意义上的逻辑思维，而大量数据的获取还会伴随一系列的隐私安全等问题。
那么可能的突破点在哪里？笔者有如下两个想法，一个是让AI为AI打工。随着人为反馈的加入，AI模型本身就可以提供一定程度的人为反馈，因而其也可以作为整个AI模型人为反馈的来源。
另一个是让用户自主成为语料的不断供应者，即，通过更随意的聊天场景、更无感的信息反馈来得到更巨量的语料获取，从而满足数据规模的需求。
ChatGPT会替代人类思考吗？
每一次新的AI技术的出现，市场上都会有一个担忧，就是AI会不会有一天会替代人类的思考，抹杀人类的创新能力。笔者认为，AI并不会，比AI更加智能的永远都是人，而创新是人类智能的体现。
AI替代的是那些“伪创新”，就比如达芬奇在创作《岩间圣母》时，画面的许多背景部分交给他助手画，这些低程度的、重复性的“伪创新”今后可以交给AI来做，这有助于“去伪存真”，激励真正的创新产品不断涌现。
（作者系浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员,工信部信息通信经济专家委员会委员）
爆火引担忧 ChatGPT能否取代人类
中国商报（记者赵熠如）从天气到交通，从文案策划到送女友礼物，ChatGPT以其高效的信息检索能力、精准的语言编纂能力火爆全网。
微软、谷歌、百度等搜索引擎巨头纷纷入场，人们在乐此不疲地与ChatGPT进行交流对话的同时，也不禁担忧：人工智能真的会取代人类吗？
ChatGPT正在以其强大的人工智能语言处理能力火爆全网。（图片由摄图网提供）
ChatGPT能做什么
当你还在面临写文章卡壳、欠缺问题解决方案时，ChatGPT已经可以轻而易举地帮你解决这些烦恼了。它不仅可以快速帮你拟出文案来，还可以在一次又一次的尝试中找出问题最优解。其仿真智慧程度有时会让人产生错觉：自己仿佛是在与真人交流对话。
ChatGPT正在以其强大的人工智能语言处理能力火爆全网。
ChatGPT是美国人工智能研究实验室OpenAI在2022年11月30日开发的一种聊天机器人模型，它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，并协助人类完成一系列任务，例如撰写邮件、论文、脚本，制定商业提案，创作诗歌、故事，甚至敲代码、检查程序错误等。
“ChatGPT可以用于各种自然语言处理任务，包括对话场景、搜索场景。基于GPT-3模型已读取的数据，ChatGPT可以回答用户的所有问题，甚至可以为用户推荐适配的产品、服务。”IDC中国研究总监卢言霞表示。
搜索引擎先“慌”了
高效、快捷、精准的问题检索和语言处理能力，不禁让人们发出疑问：ChatGPT会取代我们吗？
对此，先行一步的是全球各大搜索引擎巨头。
2月8日，微软与其所投资企业OpenAI实验室宣布将推出ChatGPT支持的搜索引擎Bing及Edge浏览器。“AI将从根本上改变每个软件的类别，从最大的类别——搜索开始。”微软董事长兼CEO萨蒂亚·纳德拉说，“今天，我们推出了由AIcopilot和聊天机器人驱动的Bing和Edge，以帮助人们从搜索和网络中获取更多信息。”
2月7日，百度宣布将ChatGPT项目名称定为“文心一言”，英文名“ERNIEBot”，将于3月完成内测，面向公众开放。百度在人工智能四层架构中有全栈布局，包括底层的芯片、深度学习框架、大模型，以及最上层的搜索等应用，而文心一言则位于模型层。
2月6日，谷歌公司首席执行官桑达尔·皮查伊在一篇博文中公布了一款名为Bard的对话聊天机器人，将其描述为“实验性的对话式人工智能服务”。据桑达尔·皮查伊透露，该软件将“在未来几周内更广泛地提供给公众”。
搜索引擎巨头急于推出ChatGPT项目，与其说是在科技道路上的又一次攻坚，不如说是担忧被取代的“恐慌”。
投行摩根士丹利的首席谷歌分析师布莱恩·诺瓦克在一份报告中称，语言模型可能会“颠覆谷歌作为人们上网入口的地位。”而谷歌23号员工、Gmail的创始人保罗·布赫海特则表示：“谷歌可能只需要一两年时间就会被彻底颠覆。AI将会消灭搜索引擎的结果页面，即便谷歌跟上了人工智能的发展脚步，其最能赚钱的业务也将大不如前。”
不过，DCCI互联网研究院院长刘兴亮认为，ChatGPT和搜索引擎之间应该是互补的关系，而非替代关系。
“目前ChatGPT最显性的价值和落地场景正是搜索。从短期来看，ChatGPT肯定会‘吃’掉搜索引擎的一部分份额，因为我们的一些搜索行为其实只是想要一个答案，而不是一堆搜索结果。但从长远来看，ChatGPT和搜索引擎应该是互补的关系。一来，有些问题ChatGPT是拒绝提供结果的；二来，它毕竟是机器人，提供的答案不一定是人们想要的或者准确的；三来，对于一些有争议的问题，人们可能要的不是一个答案，而是正、反各方的结果。所以，很多场景我们还是需要搜索引擎的。”刘兴亮表示。
对于ChatGPT与搜索引擎的结合发展，刘兴亮认为，类ChatGPT技术是对搜索引擎很好的补充，一些特定场景个性化的问题可以用这类技术生成答案，能更好地提升用户体验，或将引领搜索引擎的代际变革。同时，搜索引擎是互联网的最大入口之一，也将成为类ChatGPT技术最普惠的落地场景，让技术人人可用。
我们会被取代吗
事实上，不仅是搜索引擎巨头对此会有被取代的恐慌，ChatGPT所具备的信息检索、语言编纂、逻辑梳理等功能也让每个人陷入担忧：自己的职业是否会在某一天被取代。
ChatGPT可以通过美国医生执业考试，能在SAT考试中取得不错的成绩；大学生可以用它来写论文、做作业，程序员可以用它debug；员工可以用它写邮件，自媒体博主甚至可以用它来写博文……
而当人们问它“ChatGPT能否取代人类”时，它反而会表示：“ChatGPT是一个优秀的工具，可以协助人类完成很多工作，但它不能取代人类，人类仍然是世界的核心和主人”“虽然它有许多强大的功能，但是它只能在人类指导下使用，不能取代人类”，等等。
这同样也是AIGC带给人们的思考。
AIGC指的是利用人工智能技术来生成内容，是继PUGC（专业生成内容）、UGC（用户生成内容）之后，利用人工智能技术自动生成内容的新型生产方式。
AIGC的文本和艺术创作能力不容小觑。2022年8月，JasonAllen凭借AI绘画作品《太空歌剧院》在美国科罗拉多州的新兴数字艺术家竞赛中获得了“数字艺术”类别的一等奖，该作品通过AI绘画应用Midjourney生成，获奖者仅是在生成绘画的基础上用Photoshop对作品进行调整。
ChatGPT等AIGC模型会取代人类吗？
“ChatGPT在写作文稿、检索信息、商业营销、提升写作效率和生产力方面具有积极价值，可以在很多行业作为助手，甚至取代一些不需要太多思考的岗位。”中国传媒大学文化产业管理学院法律系主任郑宁对中国商报记者表示，“ChatGPT写作的文章感情色彩相对缺失，检索到的信息准确性还有待提升，缺乏对信息的深度加工分析能力，对于需要作出主观判断的事项还力有不逮，目前还难以从事一些需要深度思考的复杂思维工作。不过，它的不断优化将对人类社会带来不小的冲击，迫使我们持续学习、深入思考，从事做更多创造性的工作，避免未来因为某些工作岗位减少而出现失业的风险。”
“ChatGPT以及所有AIGC模型，只能在人类‘经验’的基础上进行组合与联结，速度固然很快，但不会产生颠覆性的发明和变革。”刘兴亮认为，“ChatGPT不能取代人类的创造力和创新能力，人类的未来和发展仍然需要人类自己的智慧和努力。”
发展中的安全治理
当前，ChatGPT等AIGC模型的商业前景被业内人士普遍认为“非常广阔”。
根据腾讯研究院发布的《AIGC发展趋势报告2023：迎接人工智能的下一个时代》，AIGC的商业化应用将快速成熟，市场规模会迅速壮大。当前AIGC已经率先在传媒、电商、影视、娱乐等数字化程度高、内容需求丰富的行业取得重大发展，市场潜力逐渐显现。
该报告援引AI作画平台6pen的预测称，未来五年10％—30％的图片内容将由AI参与生成，有望创造超过600亿美元的市场规模。也有国外商业咨询机构预测，2030年AIGC市场规模将达到1100亿美元。
安信国际TMT分析师汪洋认为，国外的一些大公司，例如微软、谷歌等，均非常重视AIGC的发展方向，而且AIGC已经开始了正式的商业化落地进程，但是国内AIGC的发展还属于比较早期的阶段。对于国内来讲，突破底层的核心技术还是一个比较大的挑战，但其发展方向还是非常令人欢欣鼓舞的。
卢言霞认为，基于ChatGPT可能会诞生一批新创企，但单纯依赖大模型无法为创企提供持续的竞争力。垂直领域的数据、面向场景的模型优化、工程化的解决方案，才是将AI落地的根本，也是建立竞争优势的关键。未来可能的形式是部分企业提供基础模型，部分企业基于基础模型开发面向多场景的AI应用。
与此同时，卢言霞认为，短期内ChatGPT对市场的影响有限，长期来看这些模型甚至在三年以后会退出市场，其真正的启示一方面在于语言模型的演进推动通用AI的到来；另一方面在于大模型落地推动AI开发范式的转变，促进产业链细分。
除此之外，ChatGPT等AIGC模型所带来的安全合规问题也不容忽视。
“在学术伦理方面，运用ChatGPT完成论文变得更加容易，一方面导致人类独立思考能力可能会被削弱；另一方面，也将加剧学术造假，增加著作权纠纷和学术不公平的问题。目前，也有一些检测ChatGPT的软件被开发出来，用于识别是否是人工智能生成的论文。”郑宁说，“在新闻伦理方面，运用ChatGPT生成的新闻由于信息不准确，可能存在新闻造假、谣言等问题。而在数据、隐私和个人信息安全方面，ChatGPT可能在收集、处理数据、信息时，未征得用户授权，或者超范围使用，导致个人信息和隐私泄露的风险，滋生违法犯罪。”
对于如何更好地使用ChatGPT等AIGC工具，郑宁认为，首先要由政府和行业协会牵头，使企业尽快形成行业共识，出台使用指引，提示伦理和法律风险，并要求相关企业做好合规工作；其次要通过政府、媒体、企业等做好用户教育，让用户了解如何正确合法使用该工具。
人工智能会取代人类吗?
会这样吗？
蔡华伟绘
不久前，在中国乌镇围棋峰会上，人工智能程序“阿尔法狗”与排名世界第一的中国围棋职业九段棋手柯洁对战，以3∶0的总比分大获全胜。在此之前，它曾经以4∶1的总比分击败过同为围棋世界冠军的韩国职业九段棋手李世石，并在中国棋类网站上以“大师”为注册账号与中日韩数十位围棋高手进行快棋对决，连续60局无一败绩。两年来，“阿尔法狗”横扫中日韩围棋棋坛，并且每次表现都堪称完美。
一直以来，就有人工智能的发展会威胁到人类生存的观点，而“阿尔法狗”能在典型的反映人类智慧的围棋比赛中屡屡打败人类，更是加重了一些人的担忧。
那么，人工智能对人们工作、生活的直接影响到底有多大？它具备了人的部分能力，甚至比人类做得更好，未来会不会和人类抢“饭碗”，甚至对我们产生威胁？
具有不可
比拟的优势
未来人工智能可在金融投资、医疗诊断、企业经营、军事指挥等方面进行高水平的预测和决策
人工智能会取代人类吗？应当说，这种担忧也有一定道理。
近年来，人工智能各方面的发展都在逐渐完善，应用也越来越多，并且在很多方面的表现都超越了人类。
比如，2015年9月，腾讯财经推出了自动化新闻写作机器人。它能根据算法在第一时间自动生成稿件，瞬时输出分析和研判，一分钟内就能将重要资讯和解读送达用户。
还有，备受关注的微软小冰，作为一个虚拟伴侣型机器人，它能够模拟人的语气与人对话，聊天时让人感觉这就是一个活生生的人而并非机器。
此外，据外媒报道，摩根大通已经开发出一款金融合同解析软件，原来律师和信贷人员每年需要36万小时才能完成的工作，该软件只需几秒就能完成，且错误率大大降低。
青岛智能产业研究院智慧教育研究所副所长刘希未说：“在问题求解方面，人工智能程序已经能知道如何考虑它们要解决的问题，即搜索解答空间，寻找较优解答。在无人驾驶方面，人工智能已经可以实现长距离复杂路况下的自主驾驶。”
“未来在认知层次，人工智能还将会有广阔应用空间，例如人工智能可在金融投资、医疗诊断、企业经营、军事指挥等方面进行高水平的预测和决策。”中国科学院自动化研究所研究员孙哲南说。
而著名物理学家史蒂芬·霍金则认为人工智能给人类社会带来的冲击将更为巨大。2016年底，他在英国《卫报》发表文章预言说：“工厂的自动化已经让众多传统制造业工人失业，人工智能的兴起很有可能会让失业潮波及中产阶级，最后只给人类留下护理、创造和监管等工作。”
这样的判断还有待未来验证，不过，相比人类智慧，人工智能的确有着不可比拟的优势。
刘希未说：“和人脑相比，人工智能算法应对数值和符号计算更加精确快速，稳定可靠。特别是对于有确定规则的计算问题，人工智能可以远远超出人脑的计算速度，也更容易找到最优的解答。比如，在数值计算，图形、语音、生物特征、行为姿态等方面的识别，甚至更加复杂的预测推理任务方面，人工智能都有超越人脑的优秀表现。”
不会取代
甚至威胁人类
人工智能不具备感性思维，无法跨越到意识领域
那么，人工智能真的会因此而取代人类本身，甚至对我们产生威胁吗？记者采访的几位专家都给出了否定的答案。
首先，专家们认为，当前的计算机架构和编程模式具有本质上的劣势，使得人工智能无法实现与人脑情感、意志、心态、情绪、经验等方面的自然交互。本质上，人工智能仅仅是物质世界范畴的概念，无法跨越到意识领域。
1981年荣获诺贝尔生理学奖的罗杰·斯佩里博士曾发布著名的“左右脑分工理论”，认为人脑的左右半球有着不同分工：左半脑擅长分析、逻辑、演绎、推理等理性抽象思维；右半脑擅长直觉、情感、艺术、灵感等感性形象思维。迄今为止，人工智能的所有智能化表现仅仅在模仿人类左半脑的理性思维模式，而完全不具备右半脑的感性思维。
“也就是说，目前的人工智能技术还很难应对具有显著人类主观意识影响的社会文化和意识领域的各类问题，而人脑却可以通过长期在复杂社会环境下的学习成长轻松应对这类问题。”刘希未说。
他进一步举例说，比如人工智能至今也还没有创作出真正具有人性境界的作品。“电脑与人脑，毕竟有着机械性与生命灵性的本质区别，因此，电脑创作与人脑创作之间尚存在着难以逾越的鸿沟。个性化是人类文学艺术创作的生命，而已有电脑创作系统尚无个性可言，只不过是对已有的艺术作品的模仿、复制与重组。”
那么，随着人工智能的不断发展完善，将来是否有可能实现这种自发的情感智能呢？
“情感智能化分成两个层面，一个是让机器本身具有情感，另外一个是让机器理解人的情感，两者是不一样的”，中国科学院自动化研究所研究员易建强说，“让机器去理解人的情感，这件事是有可能做到的。目前有一部分机器人系统能够做到部分理解场景、环境及对话内容，并根据其结果做出相应的反应或者表情。但要机器人或人工智能系统完全达到人类的水平，有自发的情感和创造性，那是很难实现的，或者说不可能实现。”
中国自动化协会副理事长、秘书长王飞跃对此表示认同，“我个人认为100年内无法实现，或许永远不可能实现，除非重新定义什么是人的情感、理解、推理等等。原因很简单，人们现在都还不清楚这些情感的内涵、产生的过程及其方式。”
将成为人类
发展的加速器
人工智能的确会对人类就业造成一定冲击，但人类的工作不会消失，而是转变为新的形式
科学家们还认为，人工智能技术只是人类智慧创造的一种新型工具，它有助于人类更快做出突破，提高我们应对那些亟待解决的全球性难题的能力。
“我们需要人工智能这个强大的工具来帮助处理复杂问题，预测未知，支持我们实现以往不可能的目标。”王飞跃说。
专家们表示，很多划时代的科技成果必然引发人们生活方式的改变，短期内很可能难以被接受，但若放眼历史长河，就会发现，所有重大的科技革命无一例外地都最终成为人类发展的加速器，同时也是人类生活品质提高的根本保障。
“人工智能技术的出现也同样如此，它的确会对人类的就业造成一定冲击。比如，人工智能更适合处理简单重复、规则确定或者通过案例学习可以找到有效处理规则的问题。像安检、看病理切片和监控视频审核等交给人工智能更为高效可靠，这些工种也因此比较容易受到冲击和替代。”不过，易建强表示，不必因此就担心它会彻底取代人类。“以第一次工业革命为例，它不仅仅是让人类的既有工作被取代，同时会制造出足够多的新的就业机会。大多数情况下，工作不是消失了，而是转变为新的形式。”
易建强说，马车被汽车取代就是一个非常典型的例子。当年，汽车开始进入大城市并逐渐普及的过程中，曾经在数百年的时间里充当出行工具的马车，面临着“下岗”威胁。但后来的事实证明，新兴起的汽车行业拥有比传统马车行业多出数千倍甚至数万倍的产值和工作机会。
“现阶段，在一个真正实现人工智能的工作场景中，传统劳动者也并未被‘下岗’，只是改变了角色而已。仍然需要人类对人工智能的表现进行监控，进行情报采集与分析，以及开展预测性的实验与评估，引导性的过程管理与控制。”王飞跃说，“我相信将来人类90%以上的工作是由人工智能提供的，就像今天我们大多数的工作是由计算机和各种其它机器提供的一样。”