曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

火山引擎10mos agoupdate lida
82 0 0

文章主题:本文关键词:火山引擎,全球加速产品,CDN,亚太CDN峰会,中国CDN发展十年转型期,高质量CDN服务,网络加速,边缘云,跨域合规专线,动态API加速,海外市场,企业出海,网络安全问题,性价比,全球 edge 节点,TCP 协议栈,头部压缩技术,BBR 协议,upload 场景,DDoS 防护能力,CC 防护能力,HTTP3/QUIC 协议,菲律宾玩家,AI 大模型,数据传输,跨域合规专线,

666ChatGPT办公新姿势,助力做AI时代先行者!

火山引擎曹志华:火山引擎全球加速产品设计与实践 | CDN十二年

在数字化转型的步伐持续加速的当下,我们看到了大带宽、低时延、高并发的应用场景层出不穷,这使得内容分发网络(CDN)的需求依然在持续增长。因此,构建更优质、高效的CDN服务已经成为新时代产业竞争的核心焦点。亚太CDN峰会从2012年创立至今已有11年的历程,而如今正处于我国CDN发展的十年转型阶段。在这个关键的历史时刻,我们需要努力提升CDN的核心竞争力,以打造出更高品质的CDN服务,从而推动行业的持续发展。

2023年6月29日,北京成功举办了亚太内容分发大会暨CDN峰会。此次盛会由亚太CDN产业联盟与中国移动、火山引擎、腾讯云、网宿科技、阿里云、华为云、中兴通讯、白山云、天翼云等CDN行业的领军企业,以及众多专家、学者和业界领袖携手共庆。在这次会议上,各方共同探讨了如何打造更优质的CDN服务以推动行业的发展。同时,他们还深入研究了下一个十年中,随着人工智能新技术的崛起,计算力需求的增长以及网络流量带来的巨大经济价值。

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

在6月29日下午的GA全球加速论坛中,来自火山引擎边缘云的全球加速技术负责人曹志华先生,为大家带来了一场名为《火山引擎全球加速产品设计与实践》的精彩演讲,深入探讨了如何通过创新技术提升产品的性能与用户体验。

01

中国互联网发展趋势与挑战

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

近年来,我国互联网流量的增速减缓,使得我国的互联网企业的发展速度也相应地放慢。这导致了国内头部APP的DAU(日活跃用户)增长和用户增长都变得不如以前那么迅速。与此同时,许多我国企业出的产品与应用在海外市场却受到了较高的欢迎度。这些因素共同推动了中国企业形成了一股出海的热潮,特别是在短视频、跨境电商以及游戏行业等领域。

根据《出海领航2023年度百家中国制造企业出海调查》的数据,我们可以看到,中国企业海外业务的占比在2021年的36%的基础上,到了2022年提升至了56%。这充分说明,海外市场为中国企业提供了更多的机遇,同时也带来了诸多的挑战。这些挑战包括跨境传输距离远所带来的质量问题、跨域需要专线带来的高成本问题,以及海外网络攻击较为频繁所引发的多网络安全问题。这些问题无疑对中国企业的海外发展构成了威胁与挑战,需要我们进一步的研究与解决。

02

火山引擎全球加速产品概述

GA,作为火山引擎全球加速一款卓越的网络加速服务,具备稳定、高效与安全的特性。该服务依托于众多跨地域节点,实现流量在距离客户端最近的加速区域进入火山引擎的加速网络,从而优化客户体验。

在各种需要跨越地域的服务场景中,如游戏加速和应用加速等,全球加速技术的作用显得尤为重要。它有效地解决了网络抖动、时延高和丢包等问题,从而显著提升了流量传输的效率。

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

火山引擎推出的全球加速产品与其他友商的最大不同之处在于,其基于边缘云自身的资源构建,借助于火山引擎全球丰富的边缘资源,能够提供更加优质和便捷的服务给用户,实现更好的一致性连接,从而显著提升客户的满意度。除此之外,火山引擎全球加速还积极布局,建设了覆盖全球主要区域的跨域合规专线,包括东南亚、中日、中韩、中欧等地,进一步拓宽了其服务范围。同时,火山引擎全球加速也针对游戏行业推出了专业的加速解决方案GNA产品,该产品具备网络诊断、双通道加速以及端上预建连、建连重试等功能,旨在通过全方位的优化,提升游戏玩家的客户体验。在此基础上,全球加速具备了云边端全链路加速的能力,不仅可以实现边边协同和边边协同,还能实现云边协同,从而在技术上实现了全球加速的新突破。

03

火山引擎全球加速产品优势

1.极致加速性能:节点资源众多,智能调度能力,公网路由择优回源,自研TCP协议栈;

2.超高性价比:字节海量业务、边缘节点带宽成本更低、头部压缩降低七层请求带宽;

3.安全可靠:T级DDoS防护能力、百万QPS CC防护能力、支持Web漏洞防护、Bot管理

稳定高可用:应用层、节点、集群高可用能力,丰富的活动重保经验。

04

极致加速性能,提升用户体验

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

在全球范围内,第一火山引擎拥有超过1300个边缘节点,这使得用户能够根据自身位置选择最近的节点进行接入,从而提高服务的可用性和响应速度。对于移动互联网用户来说,他们可以通过手机、Wi-Fi、4G、5G等各种移动网络轻松访问服务。然而,如果在使用过程中,用户选择直接连接源站而不是经过边缘节点,一旦出现丢包现象,基于当前主流的TCP拥塞控制算法,依靠ACK及超时机制来判断是否丢报,这会导致直连链路时延变长,使得用户在感受到丢包后再进行重传,这将大大降低用户的体验感。相反,如果用户能够通过更接近的边缘节点进行接入,建连阶段发生在客户端与接入点之间,这样丢包可以被快速感知并迅速恢复和重传,这将极大地改善用户体验。

• 第二火山引擎具备回源预建连的能力,对动态API加速非常有用,请求一旦进入到加速网络内部,首先会计算出它的下一跳,再根据下一跳的地址来选择一个空闲的已提前建连的链接进行回源传输。这种情况下,可以节省回源的建连时间,包括SSL握手的时间,开启回源预建连能力,可以节省TCP+SSL握手的两个或三个RTT的时间,极大的提高动态接口的加速效果。

• 第三,火山引擎全球加速产品自研智能调度算法,可以智能选择更好接入点上车,可以根据客户分布的集中程度选择出最好最优的节点进行上车,可以极大的提升客户接入效果。另外,请求进入到火山引擎加速网络内部,会根据实时探知结果选择出一条最优的链路回源。

• 第四,公网路由择优能力,两个节点之间,运营商的网络有很多条路由,每一条路由的时延、丢包率各不相同,有的路由可能会产生绕路,有的路由可能因为水位比较高,导致丢包。火山引擎全球加速产品的调度系统会对所有路由进行实时监测,选择出丢包率更低、时延更低的路由进行传输,从而进行数据加速。

• 第五,自研TCP协议栈,根据各种不同场景,比如动态API场景、下载场景、以及上传场景,进行自适应的来选择拥塞控制算法。针对下载场景,我们对BBR协议进行优化,更快的进行升窗,达到更高的传输速度;针对上传场景,在离客户源站最近的接入点下车,原因是加速网络内部窗口升窗算法和机制都是可控的,唯独到客户源站这一段,它的传输速度是受限于客户源站的接收窗口。从距离客户源站最近一个地方下车,最后一跳它的RTT肯定是最短的,最短的RTT就可以带来更快的升窗速度,从而带来上传的带宽会大幅提升。

• 最后是确定性网络,运营商会提供基于SRTE技术的优质网络资源,通过它们SDN控制器来实时监测所有链路的时延和丢包情况,并且计算出一条最优的路由,购买了确定性网络的用户数据,就可以通过这条最优路径进行传输,同时成本也不会增加太多,特别适合对时延敏感性业务。

05

超高性价比,帮助企业降本增效

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

• 第一,全球加速也服务于字节海量业务,包括抖音、今日头条、番茄小说等,如此庞大的规模效应可让全球加速的内部业务与toB客户进行资源复用,包含机器资源的复用、带宽的错峰复用,从而降低资源的开销及成本。

• 第二,边缘性价比资源,因为全球加速产品是基于边缘资源构建的,边缘资源天然的性价比更高。服务字节海量的业务,对各个供应商有比较好的议价权。

• 第三,针对全球加速产品动态接口在加速网络内部开启了头部压缩技术,7层动态接口开启头部压缩,可以有效的降低带宽开销,以抖音为例,开启头部压缩技术后,带宽开销可以降低至少20%以上。

03

分布式安全能力,为企业出海保驾护航

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

全球加速产品是基于边缘资源来构建的,天然具备一个分布式防护能力,这个节点遭受攻击,其他节点稳定性业务都不会受到任何影响。如果遭受全局攻击,火山引擎全球加速产品具备T级别带宽的DDoS防护能力,以及百万QPS以上级别的CC防护能力,还具备Web漏洞防护以及自定义的Bot管理能力,帮助企业出海进行保驾护航。

03

高可用能力,重大活动保障经验

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

稳定性能力,包含高可用能力,以及重大活动保障经验的能力。高可用能力,分为应用级的高可用,节点级的高可用,以及集群级别的高可用:

•应用层高可用:火山引擎全球加速产品支持源站多协议的健康检查,在2分钟之内能够感知并且把流量调度到备用源站。

•节点高可用:当节点故障后,智能调度系统可以在2分钟之内把流量调度到其他节点,尽快恢复业务。

•集群高可用:对重要客户底层资源做了完全隔离,进行故障域的完全隔离,保障好重点客户。

火山引擎全球加速产品拥有重大活动丰富的保障经验,包含2022年抖音世界杯直播、2021年抖音央视春晚红包活动、抖音商城双11活动、京东618活动,这些重大活动的保障经验,可以更好的服务好我们的外部客户。

以抖音2021年央视春晚直播活动为例,我们储备了亿级 QPS 的容量,并且对各种极端的容灾场景都有完备的容灾预案,这些容灾预案现在已完全固化起来并进行常态的容灾演练,切实保障好内外客户的服务。

03

火山引擎全球加速的典型场景与应用

全球加速核心场景

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

全球加速产品的一些核心应用场景,包含互联网应用加速、游戏加速、海外数据集拉取加速以及办公加速。

• 互联网应用加速,针对海外用户访问国内服务,加速全球应用传输,提升互联网应用体验。

• 游戏加速场景,提供优质的全球骨干网资源,联动面向游戏行业端的解决方案GNA产品,进行全链路加速,端上可以提供预建连、连接重试的能力,以及双通道加速的能力等,提升游戏玩家的体验。

• 海外数据集拉取加速,针对AIGC相关的跨境数据集,提供数据集传输加速服务,减少传输时延保障传输效率。

• 办公加速场景,跟火山引擎一站式安全办公产品“飞连”一起,协同火山引擎全球加速的加速网络提升全球office协同办公的网络环境,提升办公效率。

典型客户案例

客户案例一:抖音个性化推荐

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

抖音个性化推荐服务是抖音最核心的接口之一,根据用户喜好返回推荐的短视频列表,抖音客户体验与该接口的时延息息相关。

业务痛点在于弱网场景请求耗时长,成功率较低,客户体验较差。全球加速提供的解决方案一是在全国三大运营商实现了本省覆盖,并且覆盖了小运营商网络,用户就近接入提升建连时延和成功率;第二是利用端上的能力,开启边端协同的全链路加速能力,包含预建连、连接保持、连接重试、DNS解析兜底IP,另外针对弱网环境,开启了HTTP3/QUIC协议进行加速。

产生的效果平均耗时下降比较明显,长尾耗时降低10%以上。从业务反馈来看,业务指标,尤其抖音客户留存率也有提升。

客户案例二:某主流MMORPG手游

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

第二个案例是某主流MMORPG游戏,客户主要痛点在于菲律宾玩家到新加坡源站跨国链路距离非常长、时延较大、稳定性较差,玩家体验非常糟糕。火山引擎全球加速产品的解决方案是菲律宾玩家就近接入到火山引擎的菲律宾节点,通过全球加速优质的骨干网络回源新加坡源站,并且开启连接复用能力,针对游戏场景做了传输优化。此外,协同游戏加速产品“GNA”开启双通道加速能力以及网络诊断能力。最终取得收发包耗时下降20%以上,客诉率大幅度下降的收益。

客户案例三:某AI大模型企业

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

今年AI大模型非常火爆,大模型依赖的海量数据需要从海外传输,这些数据集分布在全球接近200个国家,文件涉及到几十亿,域名达到几百万,全球很多企业也陆续推出了AI大模型,该企业也需要尽快推出自己的大模型,抢占市场。全球加速提供了到日韩、东南亚、香港、欧洲等主要地区的合规跨域专线,加快数据的传输,解决公网时延和带宽不足的问题,第二联动火山引擎对象存储产品,包括MLP云服务产品,从原文件的下载到格式的转换,到分辨率压缩、参数调整,以及打包上传,包括存储、训练,火山引擎提供了一站式服务,帮客户降低了操作难度,并且大幅提前完成了数据集的传输和训练,客户顺利的推出了自己的AI大模型。

03

火山引擎边缘云对全球加速产品的未来展望

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

最后,从生态、成本及性能三方面分享火山引擎边缘云对全球加速产品的未来展望。

•第一是产品生态。越来越多的企业将会在边缘部署服务,根据Gartner预测,到2023年底将会有50%的企业会在边缘部署至少6个以上的服务,到2025年底全球将会有75%的企业在边缘产生和处理数据。因此火山引擎全球加速产品会联动边缘云其他产品一起打造火山引擎边缘云产品生态,提供更多、更便利、更丰富的产品解决方案服务客户。

•第二是性能方面。火山引擎边缘云在研发基于UDP的一些传输协议,包含支持FEC、IRQ等各种传输协议优化,也会对现有QUIC协议做一些优化和升级。

•第三是成本方面,基于AI大数据进行精准的调度,提升带宽复用率和超卖比,从而降低成本。此外火山引擎边缘云团队也与intel进行合作,共同探索高压缩比的压缩算法降低带宽的开销。返回搜狐,查看更多

责任编辑:

曹志华:火山引擎全球加速产品设计与实践,引领CDN新潮流

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

© Copyright notes

Related posts

No comments

No comments...