《文心千帆大模型平台:百度打造一站式AI训练和应用解决方案》

文心一言10mos agoupdate lida
91 0 0

文章主题:关键词:周鑫雨, 苏建勋, 百度文心一言, 扎堆

666ChatGPT办公新姿势,助力做AI时代先行者!

文 | 周鑫雨

编辑 | 苏建勋

在大模型“扎堆”发布的当下,市场亟需更直观的方式,对模型能力做出判断。

在2023年3月16日的百度文心一言发布会上,该模型的展示形式采用了录播 Demo。在36氪的独家专访中,百度首席执行官李彦宏对此现象给出了其背后的原因。

生成式AI所提供的答案可能存在差异性,这一点带来了一定的不确定性。然而,在各种类似发布会上,全球范围内并没有一场是现场演示的,而全部是通过录制的方式呈现的。既然其他人都采用同样的方式,那么我们也可以接受这种做法。

在经历了一个月多的沉默之后,百度公司于5月9日举办了一次技术交流会,展示了一个全新的视角。这次,百度不再保持过去的谨慎态度,而是选择现场展示其最新的“文心千帆大模型平台”能力。

2023年3月27日,我国知名科技巨头百度公司推出了一款全新的文心千帆大模型平台。这款平台集成了百度文心一言服务的调用功能、第三方模型的训练与调优服务,以及一系列便捷的工具,堪称一站式建模解决方案的典范。值得注意的是,该平台主要分为两大服务板块:公有云服务与私有化部署。在公有云服务方面,用户可以尽情享受到文心一言推理能力的调用、模型微调以及模型托管等功能。而在私有化部署方面,则提供了软件授权、软硬一体以及租赁服务等多样化服务选项。这样的配置使得用户可以根据自身需求灵活选择合适的方案,进一步提高了工作效率。

此次现场演示,百度主要展现了文心千帆的推理能力调用和模型微调两部分。

《文心千帆大模型平台:百度打造一站式AI训练和应用解决方案》

文心一言Sugar现场生成了销售额的饼图。

在观察演示结果时,我们可以发现,文心一言旗下的数据可视化工具Sugar具有卓越的理解能力,能够轻松应对结构化数据集,并迅速生成饼图。然而,当面临模型难以解读的“绘制折线图”需求时,百度程序员并未气馁。他们借助文心千帆大模型平台的力量,通过微调功能,将100条标注数据导入到Prompt中,实现了折线图的功能。这一解决方案充分展示了文心一言及其相关技术的强大实力。

《文心千帆大模型平台:百度打造一站式AI训练和应用解决方案》

文心千帆支持模型微调。

这表明,文心千帆已具备在仅用约100条左右的数据标注的情况下,高效地进行模型微调和定制的能力。百度智能云AI与大数据平台总经理忻舟阐述道:“文心千帆提供了直观的图形化界面,为我们提供优质的大模型训练和推理应用环境。无需深入了解代码或执行命令行操作,只需关注核心业务数据和应用,就能在文心千帆平台上进行各类训练和优化。”

在AI时代的大背景下,百度内部的”向内革命”正在逐步展开。其核心业务板块,包括百度搜索、推荐、地图、如流、小度等,都已经成功接入文心一言,这无疑为百度在智能化转型中迈出了重要的一步。

《文心千帆大模型平台:百度打造一站式AI训练和应用解决方案》

作为一款在百度内部广泛应用的办公软件,“如流”近日正式上线了AI小助手。当谈到行业大模型训练的成本时,这个智能助手给出的答案是“10万-50万卡时”。

百度集团副总裁侯震宇表示,对客户而言,成本和模型性能才是评价大模型的两项指标

“训练一个大模型,动辄三个月,一两千万美元,假如每一个企业都需要付出这么高的代价,门槛那么高,显然百度也不会进入这个市场。”他表示,即便从头训练模型的成本依然高昂,但是使用大模型、以及基于大模型底座训练和微调模型的成本已经有显著的降低,“现在调用文心一言的成本,已经降低到模型刚发布时(3月16日)的10%”。

近日谷歌内部流出的一份文件表示,未来OpenAI和谷歌等厂商开发的闭源大模型将不可避免地受到开源模型的冲击。有其随着Meta自研的大模型LLaMa泄露,围绕这一基座的开源模型生态正在迅猛地发展。文件还提到,企业可以免费使用开源模型,并且更加灵活可控。“我们没有壁垒,OpenAI也没有”。

“大家觉得大模型成本非常高,是因为大模型算力成本高,其次是大模型数据成本。开源模型也绕不开大量的GPU,所以并不是开源成本一定低。”侯震宇则向36氪给出了相反的答案。

他认为,免费开源模型的调用成本并不意味着更低:“一方面,一般企业不见得能够用得起两三千张集群卡,另一方面是不一定能够用好,在这么大的集群量中如果出现了BUG很难调整,需要有整体的调优服务能力。大模型贵是因为量大且训练时间长,在成本这方面,最终要看是否有整体端到端的成本控制能力,这样一定会比纯粹去买成本要低。”

随着大模型的落地逐渐从“摸石过河”走向实践的“中场战事”,低成本和高性能将是不同大模型厂商不断演练的课题。

《文心千帆大模型平台:百度打造一站式AI训练和应用解决方案》

36kr制图

关键词:周鑫雨, 苏建勋, 百度文心一言, 扎堆

《文心千帆大模型平台:百度打造一站式AI训练和应用解决方案》

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

© Copyright notes

Related posts

No comments

No comments...