百度发布的是“文心一言”还是“温馨遗言”
昨天下午两点,百度召开了旗下大语言模型“文心一言”的新闻发布会,这是继“文心一格”之后的另一款生成式AI产品。
百度创始人兼CEO李彦宏在发布会开场时先来了一段深情自白:“全球的大厂当中,百度是第一个发布的,微软是直接调用OpenAI,而Google和Facebook等大厂都没有发布同类型、同级别的产品。”以及:“在文心一言内测过程中的体验来说并不完美,因为市场有需求才选择在今天发布。”
所谓的市场需求便是在当前ChatGPT“肆虐”全球的国际形势下,我们急需一款自己的人工智能语言模型来提振士气,所以这场发布会注定备受关注。
从发布会来看,文心一言可以进行文学创作、商业文案创作、数理逻辑推算、中文理解和多模态生成。
咱就从文学创作开始,文心一言根据提问提炼总结出了每部《三体》的故事脉络,并且从生命的意义、人类与宇宙的关系、道德和伦理、价值和信仰、科技与人文的关系这五个方面提出了续写建议。
文心一言在更加复杂的数理逻辑推算功能方面的表现也堪称完美,面对经典的“鸡兔同笼”问题,它能够像学神附体一样质疑题目的正确性。
它还能将解题思路工整地写下来并给出正确答案。
而压轴展示的功能就是万众瞩目的多模态生成。多模态生成,说人话就是文心一言可以用文字、图片、音频或者视频的方式输入信息并输出符合要求的文字、图片、音频或者视频,属于目前的黑科技。
文心一言用极快的反应时间就根据要求生成了一张“2023世界智能交通大会”的海报,这就是属于输入文字输出图片的多模态生成。
耐人寻味的是,发布会上关于文心一言的演示全是录播,没有一段实机演示,导致现场弥漫着一股诡异的气氛。在展示出种种革命性的功能时,台下乌泱泱的观众并没有爆发相应的欢呼和掌声,跟我看过的任何一场发布会都形成了鲜明对比。
而李彦宏本人也没有表现出自己公司潜心多年搞出划时代产品的那种自信神态,反而像一个学生在硬着头皮依靠拖延战略来答辩,简称依托答辩。
二级市场也给出了质疑,项目演示开始不久,百度股价便应声跳楼,几分钟内暴跌10%。
顺带一提,文心一言的同门“文心一格”,是一款百度旗下的AI画图产品,有好事网友用它生成了“一只爱国的猫”,居然全身美国国旗彩绘。战狼看了要虐猫,昊京看了也要吃不下白象方便面了。
StableDiffusion是一款热门的画图AI,该网友的意思是,文心一格只是接入了StableDiffusion的API。就像你喊我给你画个图,我反手就一个电话打给我表哥喊他画完V我,我再V给你。
同为好事之徒的我用另一款叫Midjourney的画图AI也生成了类似图片。
△Midjourney
有趣的是,我给的关键词同样是“一只爱国的猫”,但Midjourney识别出我使用的是中文后就给这只猫加上了像那么回事的中国元素。
咱说回文心一言,在问世之前,大家就把它对标ChatGPT,但在发布会之后,大家一致认为这不过就是个ChatPPT,所谓期望越大失望越大,也难怪网友会传出这样一幅恶搞图。
△看包浆梗图,品百味人生。
吐槽归吐槽,百度的勇气还是值得称赞的,有一种壮士赴死的气概。
作为文心一言对标产品的ChatGPT在百度发布会前一天发布了自家产品的升级版GPT-4。
△我问了一下ChatGPT对于这次发布会录播演示的看法
相较于已经技惊四座的GPT-3.5来说,GPT-4显得更为惊艳,ChatGPT经过这次迭代已经进化成一个大型多模态模型,在文字交互方面也超过了上一代非常多。
虽然GPT-4目前只支持输入文本和图片输出文本,但它输入图片输出文本的能力已经远远超出大家的预期,甚至能让人感到脊背发凉。
GPT-4之于上一代,在文本的输入限制和记忆上都有了大幅提升,使得它与用户之间的对话具有更好的准确度和逻辑,先来直观感受一下GPT-3.5和GPT-4的数据投喂量差距。
GPT-4在天量数据的支撑下已经能在号称美国高考的SAT中获得1410分的好成绩(总分1600),已经超过了90%的人类学生。
最亮眼的还是GPT-4在专业领域的表现,它在美国BAR律师执照统考中同样超过了90%的人类,在MKSAP19医学知识测试和高级侍酒师理论考试中则是超过了75%的人类。这些成绩对于GPT-3.5来说是遥不可及的。
△GPT-4在多项考试中远超GPT-3.5
英伟达AI科学家JimFan对此感叹道:“GPT-4最强的其实就是推理能力。它在GRE、SAT、法学院考试上的得分几乎和人类考生没有区别。也就是说,GPT-4可以全靠自己考进斯坦福了。”
在多模态生成方面,GPT-4的表现更是令人头皮发麻,OpenAI总裁在发布会演示中手绘了一张笑话网站的样图。
再把样图用手机拍下来发给GPT-4。
GPT-4识别图片之后就根据指令输出了这个笑话网站的代码,程序员的屁股岌岌可危。
你要是随便发一张冰箱里的图片然后问它可以用这些东西做几顿饭,它马上就能给出相应的食谱。
GPT-4还能根据图片内容以逻辑推断出其中的笑点,比如这张图:
你问它笑点在哪里,它会告诉你,这个充电线就是个又大又老的VGA接头,插在这个智能手机上反差很强烈。
再比如这个:
GPT-4会告诉你,图片上的文字明明说这是从太空拍摄的地球照片,但图上的实际内容是一堆排列得像地图的鸡块,所以这个图的笑点在于图文不符。
此外,目前已经有一些基于GPT-4的项目出现,比如你可以通过输入文本来构建3D模型,元宇宙离实现更近了一步。就连摩根士丹利都在用GPT-4来组织他们庞大的知识库。
这些项目中最有意义的是一个叫作“BeMyEyes”的公益项目,顾名思义,GPT-4可以充当盲人或视弱人群的眼睛,告诉他们衣服上的图案、识别各种产品等。
在不久的将来,GPT-4就可以靠着强大的视觉识别功能完全取代导盲犬,带领盲人在复杂的环境中穿行,帮助他们在生活中获得最大程度的独立。
ChatGPT的迭代速度远超想象,从GPT-4的技术报告中可以看到,GPT-4早已于2022年8月就训练完成。
△GPT-4技术报告
而摩根士丹利也透露,更强悍的GPT5正在用25000多块英伟达GPU训练中。
△摩根士丹利报告
到这里就很明了了,百度的文心一言确实很拉,值得思考的是,究竟为什么会拉?
总的来说,咱们AI那么拉是多方面原因造成的,为避免不可抗力,就只从市场的角度来讨论讨论。
首先,各种民族性的批判都不靠谱,什么急功近利之类的,特别没意思。
我们和他们AI有差距的原因就是市场不同,如果市场上发点黄图就能挣钱,谁还会去拍片?但是在美国拍片都很难挣钱,因为p站上竞争太激烈,拍片的都卷成麻花了。(本观点来自一位匿名知乎用户,他本人是研究数字经济和创新管理的硕导)
不成熟的市场是技术无法创新的首要原因,到处都是套利的机会,没有人会去搞技术创新,大厂都忙着卖菜,忙着送外卖,忙着用弹窗广告从每个用户手里扣5角钱。
而成熟的市场充满高强度竞争,没有套利的机会,只能死扛技术创新,搞长线投资来保证自己未来的利润。
美国基因泰克公司那些投资人前后投了几十年,就是因为能看到曙光在前面索性拼命下注。还有美国那个造机器人的波士顿动力公司,也是投了二十多年了,到现在距离盈利还遥遥无期,像个无底洞一样,但是他们做出来的机器人却一年比一年NB。
我们现在还处于一个《羊了个羊》能爆火并创造盈利神话的市场,但是也没必要着急,毕竟美国市场的底蕴是靠上百年沉淀出来的。
我们只要找对方向,
文心一言 vs GPT
GPT-4发布一天之后,压力全部给到百度这边。
就在刚刚,百度交卷。
文心一言,百度全新一代知识增强大语言模型,正式在百度总部“挥手点江山”会议室里发布。
在一片静寂的氛围里,李彦宏小步登场,语气里带着点紧张:
大家的期望值,是我们对标ChatGPT,对标GPT-4,这个门槛有点高(笑)。
十月怀胎,我们就带大家来看看这个AI大模型文心一言长什么样。
此前,有人狂转meme图把百度比作GPT-4旁边的垃圾箱。
也有人鼓吹百度是全村的希望。
而在发布会进行的同时,百度港股市值大幅下跌,相关话题还冲上了微博热搜。
但直播弹幕中也有网友点赞:
那么这个中国版ChatGPT到底实力如何?
咱们就用百度发布会演示的预录制Demo,对比一下崭新出炉的GPT-4,先凭实力说话。
文心一言vsGPT-4
和GPT-4一样,文心一言是一个多模态大模型。
李彦宏开场就展示了文心一言具备的5种能力,包括文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成。
文心一言甚至还现场秀了一口接地气的四川话,现场网友发出一片笑声。
其他能力如何?我们具体展开来看。
文学创作
在文学创作上,李彦宏一开场就搬出了《三体》作者刘慈欣坐镇。
先让文心一言介绍一下大刘,“毕竟我也是刘慈欣老乡嘛”:
看起来没什么问题。同样的问题问问GPT-4呢?
嗯???直接把刘慈欣的老家挪到了湖北省洪湖市。湖北人狂喜。
随后,李彦宏又展示了从哲学的角度对这段文章进行续写的demo:
看起来中规中矩,比较理性。老样子,我们也来与GPT-4进行一波对比:
这波你是想看GPT-4续写的《三体》,还是文心一言的?
再来看看《三体》电视剧中扮演史强和汪淼的老搭档,于和伟和张鲁一,有什么共同点?
也没什么问题。
就是看起来展示的速度有点快,比李彦宏的语速还要快上那么一点点(手动狗头)。
商业文案创作
接下来,李彦宏又展示了一下文心一言在商业文案创作上的能力。
比如给新公司起个名字。
并且这个名字它还不是瞎起的:
再来看看GPT-4起名的效果?
看起来,GPT-4对中文的掌控能力相比之下还是少了一点精髓。
至于写个公司成立的新闻稿?对文心一言来说似乎也不成问题:
数理逻辑推算
数学能力,是考验生成式大模型的一大难题。ChatGPT刚上线时,也翻了不少车。
不过在现场,文心一言处理的数学问题不算复杂,是小学数学竞赛常见的鸡兔同笼问题。
彩蛋是,李彦宏现场展示的第一题,引得文心一言说出了《狂飙》里高启盛的经典台词:这题出得不对。
修改一下题目,OK,再扔给文心一言试试:
看起来,答案还算是有理有据,一步步逻辑推理出来的那种。
李彦宏表示,这些题“不敢说百分之一百能做对,但至少体现了文心一言的思考历程”。
中文理解
接下来,李彦宏着重展示了一下文心一言对中文的理解能力,并特意强调:
文心一言对中国文化的了解,理应超出任何一个预训练大模型。
一上来就是一个成语,“洛阳纸贵。到底有多贵?”
这是文心一言的效果展示:
还解释了一下这个成语背后的经济学原理:
那么,将这个问题抛给GPT-4呢?首先问问它,知不知道洛阳纸贵是什么意思:
接下来,再问问他对应的经济学理论是什么:
这波看起来,GPT-4的中文理解似乎也不输文心一言啊。
那么,再来看看二者写藏头诗的能力?
首先是文心一言的效果展示:
接下来,我们再看看GPT-4怎么说:
诶,看起来反而是GPT-4没有真正理解“藏头诗”的含义。
这波文化理解上,属实是文心一言“小胜一筹”了。
不过在英文上,李彦宏也承认,虽然文心一言也能处理,但能力是显著不如中文的。
这也和百度目前能用到的训练数据有关。
多模态生成
最后,李彦宏还简单展示了一下文心一言多模态生成的能力。
首先来看看,为即将到来的2023世界智能交通大会创作海报——
而除了前文展示过的文字转四川话能力,文心一言还能文字转视频。
李彦宏一句指令“将以上内容生成视频”,很快啊,不到几秒钟,文心一言就把字幕和视频做好了:
有些遗憾的是,在ChatGPT被频频称赞的编程方面,文心一言并没有现场展示相关能力。
但王海峰透露,文心一言的训练数据中同样包括代码。
文心一言如何“跑通”?
正如ChatGPT脱胎于OpenAI的GPT系列,百度这次推出的文心一言(ERNIEBot),背后也正是基于文心大模型技术打造。
据王海峰介绍,文心一言主要脱胎于两大模型:
百度ERNIE系列知识增强千亿大模型,以及百度大规模开放域对话模型PLATO。
在此基础上,主要采用了六项核心技术。
其中三个是广为人知的大模型技术,包括有监督精调、人类反馈强化学习(RLHF)和提示构建。
p.s.人类反馈强化学习也是ChatGPT的关键技术。
另外三个,则是“百度比较有特色”的技术,包括知识增强、检索增强和对话增强技术。
首先来看与ChatGPT类似的技术:有监督精调、RLHF和提示构建。
有监督精调,尤其指中文方面的数据精调。百度基于对中国语言文化和中国应用场景的理解,筛选了特定的数据来训练模型。
至于人类反馈的强化学习(RLHF)和提示构建,操作上也与ChatGPT大差不差。
随后是百度提出的、用于进一步改善模型效果的技术。
知识增强,包括知识内化和知识外用两个部分。其中,知识内化即将知识“渗透”进模型参数中;知识外用指的是模型可以直接使用外部的知识。
检索增强,则与百度搜索引擎积累的检索技术有关。
百度将把检索技术和生成技术结合起来,先对内容进行检索后,将比较有用的部分用于生成,再整合输出结果:
最后是对话增强部分,包括之前百度积累的记忆机制、上下文理解和对话规划等技术:
概括来看,文心一言表现出的能力,被李彦宏称为“智能涌现”:
当参数达到千亿量级,训练语料达到足够多的情况下,这种现象就会发生。
目前,百度拥有的AI技术可以分为四个部分,芯片(昆仑芯)、框架(飞桨)、模型(文心)和应用。
之所以软硬件都要布局,百度称,是为了降低成本:
生成式AI需求的算力非常高,费用相当昂贵。
因此,如果在四层架构之间相互进行协同优化,就能让它的效率比别人更高,从而显著降低成本。
李彦宏认为,这也正是百度的优势所在:
四层都有领先产品的公司,绝无仅有。
这次文心大模型背后的硬件算力,也是通过百度智能云提供服务。
目前,文心一言已经接入百度搜索,目的在于提升搜索资源效率。
同时,包括小度和自动驾驶Apollo等产品,以及爱奇艺等公司也已经接入百度的文心一言模型。
网友:看来还不用提前退休
截至发稿,百度港股股价在一波明显下跌之后,有所回弹。
发布会结束,网友反应最多的是“提前录制有点败好感”:
对于这一点,李彦宏的解释是,给出的问题都比较长,为了节约现场时间,所以才用了提前录制的形式。
还有不少网友对文心一言展示出的能力不太满意。有人调侃,看完之后感觉“提前退休的日子看起来还可以缓一缓”:
离GPT-4还差了20个老胡。
还有网友感觉,文心一言的发布会像极了毕业答辩的自己(doge):
不过也有网友表示,希望能给国产产品一点时间一点耐心。
发布会末尾,王海峰宣布,文心一言将从今天开始对外进行测试,包括个人用户和企业用户。
是骡子是马,相信接下来,会得到更多验证。
— 完 —