AI大模型时代的cloudnative革新:火山引擎推动多云多模态发展

火山引擎10mos agoupdate lida
86 0 0

文章主题:ChatGPT, AI, 大模型, 技术创新

666ChatGPT办公新姿势,助力做AI时代先行者!

作者 | 刘雨婷

编辑 | 陈彦旭

运营|陈小妍

另镜 ( ID:DMS-012 )

ChatGPT 的问世标志着新一代技术革命的来临。随着 OpenAI、微软、谷歌 等公司展开 AI 竞争,我国百度、阿里巴巴、华为、商汤 等公司的大模型也逐渐浮出水面,而且还有更多的参与者正在加入这场竞赛。面对 AI 大模型时代的到来,各行各业都将面临前所未有的颠覆性变革。

在2023年的4月18日,火山引擎FRACE原动力大会盛大开幕。其中,“FORCE”一词象征着“云计算”,它是推动数字化进程的核心动力。此次大会深度展示了火山引擎的创新发展战略,呈现出其未来的宏伟蓝图。

去年,火山引擎提出了敏捷迭代、数据驱动、体验创新作为云上增长的三要素,今年这些关键因素依然占据核心地位。火山引擎近期发布了一系列自研云产品,包括DPU等,同时对机器学习平台进行了升级,以帮助企业在训练AI大模型时更加得心应手。现在,该平台能够支持万卡级大模型的训练以及微秒级延迟网络,使得大模型的训练过程更为稳定且快速。

火山引擎总裁谭待泄露的信息显示,当前与火山引擎合作的模型公司主要集中在垂类行业,占比约为三分之二;而通用性大模型公司的比例则为三分之一。这一数据揭示了我国火山引擎在合作伙伴方面的业务分布特点,对于理解我国人工智能市场的现状和发展趋势具有重要意义。

在本次盛会上,火山引擎正式宣布与我国字节跳动公司实现内部资源的整合与共享。依托于内外一体的云原生基础架构,抖音等业务闲置的计算资源得以迅速调配至火山引擎的客户手中,实现了资源的高效利用。此外,针对离线业务需求,火山引擎能够实现分钟级的资源调度,提供高达10万核CPU的计算能力;对于在线业务,资源则可以实现潮汐式的复用,进一步提高了资源利用率。值得一提的是,弹性计算抢占式实例的价格最高可享受80%以上的优惠,这无疑为客户带来了更高的性价比。

抖音这款互联网应用程序呈现出明显的用户波动现象,因此,谭待提出了一种有效的策略——错峰互用和资源整合,以期在降低云计算成本的同时,保持服务质量。实际上,我国有数十家企业致力于开发大型人工智能模型,并且大部分已经选择了火山引擎云平台。由此可见,未来大型模型并不会只有一家独大。

据谭待在接受其他媒体采访时透露,火山引擎目前并未涉足大型模型的开发。他认为,大型模型正处于初始阶段,而在此过程中,数据安全、内容安全、隐私保护以及版权保护等诸多问题亟待解决。然而,对未来发展充满信心的是,大型模型有望推动云计算领域AI算力的飞速增长,使得AI算力与通用算力的差距逐渐缩小。这一趋势将为各云服务提供商带来新的机遇,同时也将给数据中心、软件硬件架构以及PaaS平台带来前所未有的挑战。

开启多云多模型时代

Distinct Mirror

字节跳动副总裁杨震原指出,与字节国内业务并进行整合,将有助于优化资源分配和利用,进而提升整体效率。

” 未来将是多云多模型的时代 “,谭待表示。

谭待称,大模型需要大算力,虚拟化会带来资源损耗,规模越大就损耗越多。未来 3 年内,大规模的算力中心,都将形成 “CPU+GPU+DPU” 的混合算力结构,CPU 负责通用计算,GPU 负责 AI 计算,DPU 负责资源卸载、加速和隔离,提升资源效率。

谭待表示,如现在 AI 对各个行业、对各个场景的帮助是越来越大的。AI 很多是代表的是 GPU,非 CPU 异构计算的负载。这部分的负载占比确实会越来越大。以前 GPU 比 CPU 可能是 1 比 10 或 1 比 9,未来这个占比可能会越来越高。AI 是重点关注的方向之一,包括 CPU 场景有很多是要持续优化的。

未来将是多云多模型的时代,火山引擎发布了分布式云原生平台、多云 CDN 管理平台、多云安全平台、混合云 veStack 等产品,助企业用好分布式云,高效应对多云、混合云、边缘云场景的分布式云原生管理的挑战。

此次原动力大会上,火山引擎发布了新一代自研 DPU,实现计算、存储、网络的全组件卸载,释放更多资源给业务负载。

火山引擎尽管是 ” 最年轻 ” 的云厂商,其自研 DPU 已达到业界领先水平,网络性能高达 5000 万 pps 转发能力、延迟低至 20us。基于自研 DPU 的各类计算实例性能也有显著提升,例如适用于大模型分布式并行训练场景的 GPU 实例,相较上一代实例集群性能最高提升 3 倍以上。

聚焦三大核心要素

大模型需要大算力和很好的工程能力,去解决千卡甚至万卡并行的训练问题。对于火山来说,一方面是算力的供给,另一方面是云原生机器学习平台,能够帮助企业去应用好算力,而且进一步去提升效率,去把大模型训练的又快又稳定。

火山引擎的产品理念是围绕云上增长三个核心要素,分别是敏捷迭代、数据驱动、体验创新。

在敏捷迭代方面,火山引擎发布自研 DPU 等系列云产品,并推出支持万卡级大模型训练、微秒级延迟网络的新版机器学习平台,让大模型训练更稳更快。

在数据驱动方面,火山引擎发布业界首个数据飞轮模式,数据飞轮核心是数据消费,数据消费一方面是构建数据应用能力,这里面就是 AB 测试、CDP、GMP 这些事情。另一部分是构建数据平台的闭环,那就是大数据的组件。

火山引擎围绕数据飞轮理念,升级发布了三款数据产品:管理驾驶舱 Plus、云原生湖 LAS 和云原生 Flink。

在体验创新方面,ToB 服务是要一个漫长的实践过程,但它积累起来以后会有很强的连续性。火山引擎短期考虑的还是怎么面向客户创造更多的价值,作为长期来看,要回归商业本质,云计算要成为一个盈利的业务。

为提供更多体验创新,火山引擎发布六款产品:云游戏产品、创意互动 Vlog、AR 互动营销、WTN(WebRTC 传输网络)、虚拟数字人、音视频 云端一体解决方案 veVOS。

ChatGPT, AI, 大模型, 技术创新

AI大模型时代的cloudnative革新:火山引擎推动多云多模态发展

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

© Copyright notes

Related posts

No comments

No comments...