构建大模型“优选店”:火山引擎发布“火山方舟”

火山引擎10mos agoupdate lida
90 0 0

文章主题:打造大模型, 优选店, 火山引擎, 中国人工智能大模型地图研究报告

666ChatGPT办公新姿势,助力做AI时代先行者!

原标题:打造大模型“优选店” 火山引擎发布“火山方舟”

北京日报客户端 | 记者 赵语涵

在当前大模型风靡全球的情况下,我国作为中国人工智能领域的重要参与者,也并未落后。据中国科学技术信息研究所等权威机构联合发布的《中国人工智能大模型地图研究报告》数据显示,截止到今年5月,我国已经公开披露的大模型数量已经达到了令人瞩目的79个。这些大模型的出现,无疑为各行各业带来了巨大的变革和挑战。面对如此大量涌现的大模型,企业面临着前所未有的“选择困难”。如何在众多的大模型中筛选出最适合自己业务需求的那一个,成为了许多企业当前亟待解决的问题。而解决这个问题的方式,或许就是集成优质大模型的聚合平台。这些聚合平台不仅可以有效地整合各类优质大模型,为企业提供更为全面和多样化的选择,还可以帮助企业在大模型的应用过程中,更好地优化和管理其技术架构,提高工作效率和效果。因此,我们有理由相信,随着优质聚合平台的不断涌现和发展,大模型将在各行各业得到更加广泛和深入的落地应用。

在6月28日这个特殊的日子里,火山引擎与英伟达携手合作,共同举办了一场名为“V-Tech体验创新科技峰会”的盛会。在这个盛大的活动中,火山引擎正式推出了他们全新的大模型服务平台——火山方舟。这一平台面向企业用户,提供了包括模型精调、评估和推理在内的全方位服务,这使得它成为了目前市场上最具MaaS(模型即服务)性质的服务提供商。

“火山方舟”已经成功集成了包括百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技、MiniMax和智谱AI在内的七家AI科技公司及科研机构的大模型,并已经开始邀测。火山引擎总裁谭待表示,火山方舟就是一个类似于”优选店”的大模型平台,可以让企业在平台上选择最适合自己业务需求的大模型组合。一旦选出优选的大模型,企业就可以在火山引擎上同步试用多个大模型,并轻松地选用更适合自身业务需要的模型组合。

构建大模型“优选店”:火山引擎发布“火山方舟”

要打造一个功能强大的大模型集成服务平台,“方舟”目前具备多项优势。其中,安全互信计算是该平台的首个重点功能。据火山引擎智能算法负责人吴迪介绍,“方舟”已经推出了基于安全沙箱的大模型安全互信计算方案。通过采用计算隔离、存储隔离、网络隔离以及流量审计等多种手段,该方案确保了模型的机密性、完整性和可用性,非常适合那些对训练和推理延时要求较低的客户。

在当前大型模型不断涌现的时代背景下,企业可以借助这些技术实现对大型模型的精细调整,从而以更为经济的方式应用它们,或者根据各种业务场景的需求,选择适合的大模型组合,这有助于加速大型模型的广泛应用。据吴迪介绍,一个经过精心调整的中小规模模型,在某些特定任务上可能会展现出与通用、大规模基座模型相媲美的性能,同时推理成本可以降低至原来的十分之一。事实上,已有实例证明,微软通过精调生物领域的BioGPT-Large模型,使其在仅仅拥有150亿参数的情况下,就能在PubMedQA基准测试中超越参数数量高达千亿甚至数千亿的大型通用语言模型。这一案例充分展示了精调大型模型在实际应用中的优势,它为企业提供了更为高效、低成本的解决方案。

“方舟”平台为企业提供了强大的模型调整与评测支持。吴迪阐述道,借助该平台,企业能够将统一的工作流程连接到各种大型模型,针对复杂的需求,可以设定高级参数、验证集、测试集等功能。这样,通过自动化和人工评估的方式,就能直观地比较不同模型的精调效果。此外,根据不同的业务场景,企业还可以灵活切换各种模型,从而实现最高性价比的模型组合。这些自定义指标和评估数据的累积,无疑将成为企业在大型模型时代的重要数据资产。

最近有消息透露,抖音集团内部的多个业务团队已经开始尝试使用“方舟”这一工具。目前,他们在代码纠错、研发提效、知识管理等多个领域,包括文本分类、总结摘要等场景,都在积极地探索如何利用大模型的强大能力来提高工作效率,降低成本,从而实现更高效的运营。

“方舟”的最初邀请测试企业涵盖了金融、汽车、消费等多个行业,其中包括北京银行的CIO龚伟华。他表示,大型模型与客户营销、办公协同以及数据智能的融合,在金融领域具有巨大的潜力和价值。北京银行已经决定与”火山方舟”展开合作,以便在算力优化、模型精调等领域进行研究,共同推进金融风险控制和营销等模型的实际应用。

谈及未来大模型市场展望,谭待判断,企业使用大模型,未来可能会呈现“1+N”的模式:“1”是通过自研或深度合作,形成1个主力模型;由于成本和场景复杂多元等原因,在这个主力模型之外,还会有N个模型同时应用。

“每一次技术的大变革,都会带来体验创新的新机会。”谭待坦言,“方舟”还在起步阶段,工具链和下游应用插件需要持续完善。当被问及字节跳动自研的模型是否会接入“火山方舟”,谭待表示,“火山方舟”是个开放的平台,字节其他团队在未来如果有好的模型,当然也可以加入平台。此外,平台还将接入更多大模型。返回搜狐,查看更多

责任编辑:

打造大模型, 优选店, 火山引擎, 中国人工智能大模型地图研究报告

构建大模型“优选店”:火山引擎发布“火山方舟”

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

© Copyright notes

Related posts

No comments

No comments...