AI大模型时代的cloudnative革新：火山引擎推动多云多模态发展

88 0 0

文章主题：ChatGPT, AI, 大模型, 技术创新

作者 | 刘雨婷

编辑 | 陈彦旭

运营|陈小妍

另镜 ( ID:DMS-012 )

ChatGPT 的问世标志着新一代技术革命的来临。随着 OpenAI、微软、谷歌等公司展开 AI 竞争，我国百度、阿里巴巴、华为、商汤等公司的大模型也逐渐浮出水面，而且还有更多的参与者正在加入这场竞赛。面对 AI 大模型时代的到来，各行各业都将面临前所未有的颠覆性变革。

在2023年的4月18日，火山引擎FRACE原动力大会盛大开幕。其中，“FORCE”一词象征着“云计算”，它是推动数字化进程的核心动力。此次大会深度展示了火山引擎的创新发展战略，呈现出其未来的宏伟蓝图。

去年，火山引擎提出了敏捷迭代、数据驱动、体验创新作为云上增长的三要素，今年这些关键因素依然占据核心地位。火山引擎近期发布了一系列自研云产品，包括DPU等，同时对机器学习平台进行了升级，以帮助企业在训练AI大模型时更加得心应手。现在，该平台能够支持万卡级大模型的训练以及微秒级延迟网络，使得大模型的训练过程更为稳定且快速。

火山引擎总裁谭待泄露的信息显示，当前与火山引擎合作的模型公司主要集中在垂类行业，占比约为三分之二；而通用性大模型公司的比例则为三分之一。这一数据揭示了我国火山引擎在合作伙伴方面的业务分布特点，对于理解我国人工智能市场的现状和发展趋势具有重要意义。

在本次盛会上，火山引擎正式宣布与我国字节跳动公司实现内部资源的整合与共享。依托于内外一体的云原生基础架构，抖音等业务闲置的计算资源得以迅速调配至火山引擎的客户手中，实现了资源的高效利用。此外，针对离线业务需求，火山引擎能够实现分钟级的资源调度，提供高达10万核CPU的计算能力；对于在线业务，资源则可以实现潮汐式的复用，进一步提高了资源利用率。值得一提的是，弹性计算抢占式实例的价格最高可享受80%以上的优惠，这无疑为客户带来了更高的性价比。

抖音这款互联网应用程序呈现出明显的用户波动现象，因此，谭待提出了一种有效的策略——错峰互用和资源整合，以期在降低云计算成本的同时，保持服务质量。实际上，我国有数十家企业致力于开发大型人工智能模型，并且大部分已经选择了火山引擎云平台。由此可见，未来大型模型并不会只有一家独大。

据谭待在接受其他媒体采访时透露，火山引擎目前并未涉足大型模型的开发。他认为，大型模型正处于初始阶段，而在此过程中，数据安全、内容安全、隐私保护以及版权保护等诸多问题亟待解决。然而，对未来发展充满信心的是，大型模型有望推动云计算领域AI算力的飞速增长，使得AI算力与通用算力的差距逐渐缩小。这一趋势将为各云服务提供商带来新的机遇，同时也将给数据中心、软件硬件架构以及PaaS平台带来前所未有的挑战。

开启多云多模型时代

Distinct Mirror

字节跳动副总裁杨震原指出，与字节国内业务并进行整合，将有助于优化资源分配和利用，进而提升整体效率。

” 未来将是多云多模型的时代 “，谭待表示。

谭待称，大模型需要大算力，虚拟化会带来资源损耗，规模越大就损耗越多。未来 3 年内，大规模的算力中心，都将形成 “CPU+GPU+DPU” 的混合算力结构，CPU 负责通用计算，GPU 负责 AI 计算，DPU 负责资源卸载、加速和隔离，提升资源效率。

谭待表示，如现在 AI 对各个行业、对各个场景的帮助是越来越大的。AI 很多是代表的是 GPU，非 CPU 异构计算的负载。这部分的负载占比确实会越来越大。以前 GPU 比 CPU 可能是 1 比 10 或 1 比 9，未来这个占比可能会越来越高。AI 是重点关注的方向之一，包括 CPU 场景有很多是要持续优化的。

未来将是多云多模型的时代，火山引擎发布了分布式云原生平台、多云 CDN 管理平台、多云安全平台、混合云 veStack 等产品，助企业用好分布式云，高效应对多云、混合云、边缘云场景的分布式云原生管理的挑战。

此次原动力大会上，火山引擎发布了新一代自研 DPU，实现计算、存储、网络的全组件卸载，释放更多资源给业务负载。

火山引擎尽管是 ” 最年轻 ” 的云厂商，其自研 DPU 已达到业界领先水平，网络性能高达 5000 万 pps 转发能力、延迟低至 20us。基于自研 DPU 的各类计算实例性能也有显著提升，例如适用于大模型分布式并行训练场景的 GPU 实例，相较上一代实例集群性能最高提升 3 倍以上。

聚焦三大核心要素

大模型需要大算力和很好的工程能力，去解决千卡甚至万卡并行的训练问题。对于火山来说，一方面是算力的供给，另一方面是云原生机器学习平台，能够帮助企业去应用好算力，而且进一步去提升效率，去把大模型训练的又快又稳定。

火山引擎的产品理念是围绕云上增长三个核心要素，分别是敏捷迭代、数据驱动、体验创新。

在敏捷迭代方面，火山引擎发布自研 DPU 等系列云产品，并推出支持万卡级大模型训练、微秒级延迟网络的新版机器学习平台，让大模型训练更稳更快。

在数据驱动方面，火山引擎发布业界首个数据飞轮模式，数据飞轮核心是数据消费，数据消费一方面是构建数据应用能力，这里面就是 AB 测试、CDP、GMP 这些事情。另一部分是构建数据平台的闭环，那就是大数据的组件。

火山引擎围绕数据飞轮理念，升级发布了三款数据产品：管理驾驶舱 Plus、云原生湖 LAS 和云原生 Flink。

在体验创新方面，ToB 服务是要一个漫长的实践过程，但它积累起来以后会有很强的连续性。火山引擎短期考虑的还是怎么面向客户创造更多的价值，作为长期来看，要回归商业本质，云计算要成为一个盈利的业务。

为提供更多体验创新，火山引擎发布六款产品：云游戏产品、创意互动 Vlog、AR 互动营销、WTN（WebRTC 传输网络）、虚拟数字人、音视频云端一体解决方案 veVOS。

ChatGPT, AI, 大模型, 技术创新