文心一言vsGPT-4:百度全新一代自然语言处理引擎

文心一言10mos agoupdate lida
92 0 0

文章主题:编辑部, 凹非寺, GPT-4, 百度

666ChatGPT办公新姿势,助力做AI时代先行者!

编辑部 发自 凹非寺

量子位 | 公众号 QbitAI

GPT-4发布一天之后,压力全部给到百度这边。

就在刚刚,百度交卷。

文心一言,百度全新一代知识增强大语言模型,正式在百度总部“挥手点江山”会议室里发布。

在一片静寂的氛围里,李彦宏小步登场,语气里带着点紧张:

大家的期望值,是我们对标ChatGPT,对标GPT-4,这个门槛有点高(笑)。

十月怀胎,我们就带大家来看看这个AI大模型文心一言长什么样。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

此前,有人狂转meme图把百度比作GPT-4旁边的垃圾箱。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

也有人鼓吹百度是全村的希望。

而在发布会进行的同时,百度港股市值大幅下跌,相关话题还冲上了微博热搜。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

但直播弹幕中也有网友点赞:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

那么这个中国版ChatGPT到底实力如何?

咱们就用百度发布会演示的预录制Demo,对比一下崭新出炉的GPT-4,先凭实力说话。

文心一言 vs GPT-4

和GPT-4一样,文心一言是一个多模态大模型

李彦宏开场就展示了文心一言具备的5种能力,包括文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成

文心一言甚至还现场秀了一口接地气的四川话,现场网友发出一片笑声:

关闭
观看更多
更多
正在加载
正在加载
退出全屏

视频加载失败,请刷新页面再试

文心一言vsGPT-4:百度全新一代自然语言处理引擎 刷新

文心一言vsGPT-4:百度全新一代自然语言处理引擎

其他能力如何?我们具体展开来看。

文学创作

在文学创作上,李彦宏一开场就搬出了《三体》作者刘慈欣坐镇。

先让文心一言介绍一下大刘,“毕竟我也是刘慈欣老乡嘛”:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

看起来没什么问题。同样的问题问问GPT-4呢?

文心一言vsGPT-4:百度全新一代自然语言处理引擎

嗯???直接把刘慈欣的老家挪到了湖北省洪湖市。湖北人狂喜文心一言vsGPT-4:百度全新一代自然语言处理引擎

随后,李彦宏又展示了从哲学的角度对这段文章进行续写的demo:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

看起来中规中矩,比较理性。老样子,我们也来与GPT-4进行一波对比:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

这波你是想看GPT-4续写的《三体》,还是文心一言的?

再来看看《三体》电视剧中扮演史强和汪淼的老搭档,于和伟和张鲁一,有什么共同点?

文心一言vsGPT-4:百度全新一代自然语言处理引擎

也没什么问题。

就是看起来展示的速度有点快,比李彦宏的语速还要快上那么一点点(手动狗头)

文心一言vsGPT-4:百度全新一代自然语言处理引擎

商业文案创作

接下来,李彦宏又展示了一下文心一言在商业文案创作上的能力。

比如给新公司起个名字。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

并且这个名字它还不是瞎起的:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

再来看看GPT-4起名的效果?

文心一言vsGPT-4:百度全新一代自然语言处理引擎

看起来,GPT-4对中文的掌控能力相比之下还是少了一点精髓。

至于写个公司成立的新闻稿?对文心一言来说似乎也不成问题:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

数理逻辑推算

数学能力,是考验生成式大模型的一大难题。ChatGPT刚上线时,也翻了不少车。

不过在现场,文心一言处理的数学问题不算复杂,是小学数学竞赛常见的鸡兔同笼问题。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

彩蛋是,李彦宏现场展示的第一题,引得文心一言说出了《狂飙》里高启盛的经典台词:这题出得不对。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

修改一下题目,OK,再扔给文心一言试试:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

看起来,答案还算是有理有据,一步步逻辑推理出来的那种。

李彦宏表示,这些题“不敢说百分之一百能做对,但至少体现了文心一言的思考历程”。

中文理解

接下来,李彦宏着重展示了一下文心一言对中文的理解能力,并特意强调:

文心一言对中国文化的了解,理应超出任何一个预训练大模型。

一上来就是一个成语,“洛阳纸贵。到底有多贵?”

文心一言vsGPT-4:百度全新一代自然语言处理引擎

这是文心一言的效果展示:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

还解释了一下这个成语背后的经济学原理:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

那么,将这个问题抛给GPT-4呢?首先问问它,知不知道洛阳纸贵是什么意思:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

接下来,再问问他对应的经济学理论是什么:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

这波看起来,GPT-4的中文理解似乎也不输文心一言啊。

那么,再来看看二者写藏头诗的能力?

首先是文心一言的效果展示:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

接下来,我们再看看GPT-4怎么说:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

诶,看起来反而是GPT-4没有真正理解“藏头诗”的含义。

这波文化理解上,属实是文心一言“小胜一筹”了。

不过在英文上,李彦宏也承认,虽然文心一言也能处理,但能力是显著不如中文的。

这也和百度目前能用到的训练数据有关。

多模态生成

最后,李彦宏还简单展示了一下文心一言多模态生成的能力。

首先来看看,为即将到来的2023世界智能交通大会创作海报——

文心一言vsGPT-4:百度全新一代自然语言处理引擎

而除了前文展示过的文字转四川话能力,文心一言还能文字转视频

李彦宏一句指令“将以上内容生成视频”,很快啊,不到几秒钟,文心一言就把字幕和视频做好了:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

有些遗憾的是,在ChatGPT被频频称赞的编程方面,文心一言并没有现场展示相关能力。

但王海峰透露,文心一言的训练数据中同样包括代码。

文心一言如何“跑通”?

正如ChatGPT脱胎于OpenAI的GPT系列,百度这次推出的文心一言(ERNIE Bot),背后也正是基于文心大模型技术打造。

据王海峰介绍,文心一言主要脱胎于两大模型:

百度ERNIE系列知识增强千亿大模型,以及百度大规模开放域对话模型PLATO。

在此基础上,主要采用了六项核心技术

其中三个是广为人知的大模型技术,包括有监督精调、人类反馈强化学习(RLHF)和提示构建。

p.s. 人类反馈强化学习也是ChatGPT的关键技术。

另外三个,则是“百度比较有特色”的技术,包括知识增强、检索增强和对话增强技术。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

首先来看与ChatGPT类似的技术:有监督精调、RLHF和提示构建。

在有监督精调方面,尤其是针对中文领域的数据精调,百度凭借其对我国语言文化及应用场景的深入理解,挑选出适用于训练模型的特定数据集。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

至于人类反馈的强化学习(RLHF)和提示构建,操作上也与ChatGPT大差不差。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

随后是百度提出的、用于进一步改善模型效果的技术。

在提升知识能力的过程中,我们可以将其划分为两大主要部分:知识的内化与知识的应用。首先,知识的内化是指将外部知识融入到模型参数之中,使模型能够更好地理解和掌握这些知识。其次,知识的应用则是指模型能够直接运用这些内部知识来解决实际问题或完成特定任务。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

检索增强,则与百度搜索引擎积累的检索技术有关。

百度将把检索技术和生成技术结合起来,先对内容进行检索后,将比较有用的部分用于生成,再整合输出结果:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

最后是对话增强部分,包括之前百度积累的记忆机制、上下文理解和对话规划等技术:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

概括来看,文心一言表现出的能力,被李彦宏称为“智能涌现”:

当参数达到千亿量级,训练语料达到足够多的情况下,这种现象就会发生。

目前,百度拥有的AI技术可以分为四个部分,芯片(昆仑芯)、框架(飞桨)、模型(文心)和应用。

之所以软硬件都要布局,百度称,是为了降低成本

生成式AI需求的算力非常高,费用相当昂贵。

因此,如果在四层架构之间相互进行协同优化,就能让它的效率比别人更高,从而显著降低成本。

李彦宏认为,这也正是百度的优势所在:

四层都有领先产品的公司,绝无仅有。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

这次文心大模型背后的硬件算力,也是通过百度智能云提供服务。

目前,文心一言已经接入百度搜索,目的在于提升搜索资源效率。

同时,包括小度和自动驾驶Apollo等产品,以及爱奇艺等公司也已经接入百度的文心一言模型。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

网友:看来还不用提前退休

截至发稿,百度港股股价在一波明显下跌之后,有所回弹。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

发布会结束,网友反应最多的是“提前录制有点败好感”:

文心一言vsGPT-4:百度全新一代自然语言处理引擎文心一言vsGPT-4:百度全新一代自然语言处理引擎

对于这一点,李彦宏的解释是,给出的问题都比较长,为了节约现场时间,所以才用了提前录制的形式。

仍有众多网友对文心一言所展现的才华表示不满。部分网友甚至戏谑道:“一读这文章,感觉退休的生活还值得再等等。”

文心一言vsGPT-4:百度全新一代自然语言处理引擎

离GPT-4还差了20个老胡。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

还有网友感觉,文心一言的发布会像极了毕业答辩的自己(doge)

文心一言vsGPT-4:百度全新一代自然语言处理引擎

不过也有网友表示,希望能给国产产品一点时间一点耐心。

文心一言vsGPT-4:百度全新一代自然语言处理引擎

发布会末尾,王海峰宣布,文心一言将从今天开始对外进行测试,包括个人用户和企业用户。

是骡子是马,相信接下来,会得到更多验证。

One More Thing

对了,有网友表示,已经拿到了文心一言的内测资格:体验如图:

文心一言vsGPT-4:百度全新一代自然语言处理引擎

文心一言vsGPT-4:百度全新一代自然语言处理引擎

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

© Copyright notes

Related posts

No comments

No comments...