《字节跳动推出“火山方舟”:国内首个多元化模型服务平台的诞生》

火山引擎11mos agoupdate lida
89 0 0

文章主题:文章关键词:字节跳动, 火山引擎, MaaS平台, 模型服务

666ChatGPT办公新姿势,助力做AI时代先行者!

文 | 周鑫雨

编辑 | 邓咏仪

尚未推出自研模型基座的字节跳动,先和第一梯队的模型厂商攒了个局。

在6月28日的新闻发布会上,字节跳动云服务平台火山引擎正式推出了一款名为“火山方舟”的大模型服务平台。该平台主要针对企业用户,提供了一系列的模型服务,包括但不限于模型的精调、评估和推理等方面。这一举措充分展示了字节跳动在人工智能领域的技术实力和服务能力,为企业用户提供了更为全面和专业的模型解决方案。

在当前的时间节点上,我们尚不能称之为早期。在此之前,我国的互联网巨头如BTA、商汤以及360等,已经抢先一步,推出了他们的MaaS(模型服务)平台,旨在占据市场先机。这些MaaS平台的基本服务模式都颇为相似:它们以自身研发的通用大模型或多个行业大模型为基础,进而提供相应的模型服务。

作为一家专业的文章写作高手,我会以更高的标准来组织和表达原文内容。以下是改写后的版本:姗姗来迟的字节,选择了一条独特的道路,那就是差异化的发展策略。在缺乏自主研发模型基座的情况下,他们选择了强大的合作伙伴来组建自己的团队——火山方舟。这个项目就像是我国顶尖模型制造商的第一梯队,它汇集了智谱AI、MiniMax、百川智能、出门问问、复旦大学MOSS、IDEA研究院以及澜舟科技等七家科技公司和科研机构的大模型。

《字节跳动推出“火山方舟”:国内首个多元化模型服务平台的诞生》

火山引擎总裁谭待

性价比、低成本是火山方舟强调的第一个特性。

在人工智能领域,我们正在经历一个由大模型投资向实际应用场景转变的过程。在这个新的阶段,越来越多的企业开始关注AI应用中模型服务的性价比。火山引擎总裁谭待在最近的采访中强调了这一点:“对于企业而言,未来的发展将需要在多个场景中应用多个不同的AI模型,因为每种模型在各个场景中的性价比各不相同。”

同时,火山引擎智能算法的负责人吴迪指出,虽然训练大型模型需要投入大量的资源,但从长远角度来看,模型的推理成本将会高于训练成本。

在一次访谈中,谭先生运用了一个生动的比喻来解释大模型与中小模型的区别。他将大模型比作工资较高的博士,而将应用场景中的问题比作简单的算术题目。在这种情境下,让博士们去解答这些基础的算术问题显然是不现实的。因此,这使得许多厂商不得不选择经过精细调整的中小模型,以实现在获得和大模型相当的效果的同时,还能降低推理的成本。

原文描述了打包合作的主要优势,即用户可以根据自身业务需求,选择适应当前场景且具有高性价比的模型组合。此外,火山方舟还提供专业的模型调整和评估服务,允许客户同时连接多个大型模型,并通过自动和手动评估来优化模型的效果。这种灵活且高效的团队合作方式,不仅满足了客户的实际需求,也为他们的业务带来了更高的效益。

数据安全,则是火山方舟强调的第二个特点。

大模型私有化部署作为一种被广泛认为是最安全的方式,对于我国的企业来说,由于其形式相对易于接受,然而,这种方式也意味着企业需要面对更高的部署成本。为了应对这一挑战,火山方舟推出了一项创新性的解决方案——大模型安全互信计算方案。该方案通过计算隔离、存储隔离、网络隔离以及流量审计等多重方式,确保模型的机密性、完整性和可用性,简单来说,就是为企业数据建造了不同的保险柜。

但相对地,企业也需要牺牲部分的训练推理速度。吴迪指出,大模型安全互信计算方案适用于对训练和推理延时要求较低的客户;火山正在与英伟达合作,基于英伟达新一代硬件探索安全方案。

不过,卖模型弹药的字节,最终仍会亲自上大模型的战场。强调火山引擎本身不训练模型的同时,谭待表示:“字节内部其他团队,如果做好了模型,大概也会上到方舟平台上对外提供,它在方舟上就是众多模型的一个。”

《字节跳动推出“火山方舟”:国内首个多元化模型服务平台的诞生》

欢迎交流!

欢迎交流!

文章关键词:字节跳动, 火山引擎, MaaS平台, 模型服务

《字节跳动推出“火山方舟”:国内首个多元化模型服务平台的诞生》

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

© Copyright notes

Related posts

No comments

No comments...