AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?

火山引擎9mos agoupdate lida
87 0 0

文章主题:AI新时代, 火山引擎, 大模型, 私有云

666ChatGPT办公新姿势,助力做AI时代先行者!

AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?

迎接AI新时代,火山引擎成AI大模型“发动机”。

AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?

出品 | 科技头版   作者 | 电商君

AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?

群雄并起,竞速AI大模型

普通的改变,将改变普通。ChatGPT横空出世后,一些有识之士很快就意识到,无论是从技术还是战略层面,都不应该将ChatGPT归类为一个单纯的聊天工具,而是应该将其视为对人类思维和商业模式的深刻颠覆。正如微软总裁纳德拉所说的:以 ChatGPT 为代表的 AI 大模型,将从根本上改变每一个软件服务类别。这是一个三百六十行,行行都在竞争的时代。随着ChatGPT掀起的大语言模型(LLM)浪潮席卷全球,各大公司纷纷入场,力争自己能够在AI大模型这个新的风口迎风起舞。就拿国内市场来说,最近一段时期以来,百度、华为、阿里巴巴分别发布了文心一言盘古大模型、通义千问等AI大模型。当然,这些产品还只是AI大模型的冰山一角。据不完全统计,目前国内至少已有数十家企业已经“明示”在布局AI大模型。然而赛道虽香,“人人都在谈AI大模型”的背后,还是难掩行业的诸多痛点。首先,人才储备严重不足。AI大模型的“忽如一夜春风来”,让国内科技市场始料未及,也很快暴露出专业人才储备不足的弱点:一方面,AI大模型建设需要大量计算机、数字及工程方面的高精尖人才;另一方面,有业内人士指出,目前全国做大模型的人才相当贫乏,如果不尽快解决人才严重短缺的问题,国内AI大模型的普及很可能就是一句空话。其次,算法、模型架构创新等方面有待提高。事实上,很多体验过ChatGPT的人都有一个感觉,和经历了数次更新迭代的ChatGPT相比,一些AI大模型不是在算力上有明显不逮之处,就是根本就没有形成高层级的架构,难以开展海量的数据训练,产品的使用体验一言难尽。还有,商业模式的探索仍是一个长期过程。AI大模型能否带来商业价值,最终考验的是工程落地的能力,但是这中间包含着无数次的数据处理、模型训练、模型优化、模型场景应用等,需要大量的时间、精力与投入,从目前来看,AI大模型要打通自己的商业模式仍然“道阻且长”。最后,不可回避的安全问题。就像一枚硬币总是有两面,既然AI已经进化到可以模拟近似人脑的环境,就有可能对现在的人类秩序等方面提出挑战甚至破坏。事实上,鉴于有可能存在的安全隐患,一些国家已经宣布禁用了ChatGPT,这也说明,如何做到商业价值和安全合规之间的均衡,让AI大模型在安全监管下发挥其正向功用,是一个重大的课题。如何解决大模型训练的问题?字节跳动旗下的云服务平台火山引擎在今日举办的春季原动力大会上给出了自己的答案:火山引擎原动力大会是云计算和数字化领域的头部盛会,也是全方位向产业、行业企业和从业人员、研究分析机构等全方位展示火山引擎在云技术、云服务和云场景方面的最新探索、应用与实践的平台,在云计算和数字化领域,具有风向标的意义。这次大会上,火山引擎发布了一系列最新的全栈自研云产品,全面展示了火山引擎在云服务上的实力。那么,竞速AI大模型时代,火山引擎到底扮演了什么样的角色?

AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?

升级云服务,火山引擎成AI大模型“发动机”

近年来,火山引擎在云计算方面快速发展。2022年,火山引擎推出了以云为底座的系列产品解决方案,以及覆盖了各个行业的云上增长方案。在火山引擎的云计算能力中,一个重要的应用就是AI。AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?在发布会上,MiniMax联合创始人杨斌分享了火山引擎AML(机器学习平台)和MiniMax Core自研框架合作,助力MiniMax构建领先的大模型训练基础设施的故事。说到火山引擎和MiniMax的这次合作,其实一点也不让人感到意外。MiniMax成立于2021年11月,从诞生的第一天起以大模型作为主要的研发方向,通过AI提升大模型的训练能力是MiniMax的日常。如今,MiniMax已经拥有了文本、视觉、声音多种模态融合的通用大模型技术。值得一提的是,MiniMax的商业模式与ChatGPT的东家OpenAI非常相似,包括to C与to B两大方向。在to C方向,基于自研的大模型,MiniMax已经推出了一个智能对话机器人生成平台 Glow,并且在推出四个月后迅速积累起数百万用户,用户体验非常出色;在to B方向,MiniMax计划在今年对外开放API,也引起了不少投资机构的关注。据了解,MiniMax目前的估值或已达到10亿美金,现有投资人包括高瓴创投、明势资本等一线机构。据MiniMax联合创始人杨斌介绍,MiniMax与火山引擎合作建立了超大规模实验平台,实现千卡级常态化训练;超大规模推理平台有万卡级算力池,支撑单日过亿次调用。在火山引擎云上,MiniMax大模型业务实现快速突破。所以,火山引擎AML(机器学习平台)和MiniMax Core自研框架所以能实现合作,最关键的一点,是火山引擎升级云服务,为MiniMax 的AI大模型提供了强劲动力,这一点和“FORCE·原动力”的寓意:“云计算是实现数字化的核心动力”不谋而合。据介绍,火山引擎此次推出的新版机器学习平台可以支持万卡级大模型训练、微秒级延迟网络,弹性计算可节省70%算力成本,让大模型训练更稳、更快、更省钱。火山引擎总裁谭待预测,未来,AI大模型不会一家独大。火山引擎将接入多家大模型深度合作,为企业和消费者提供更丰富的AI应用。AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?火山引擎总裁 谭待桃李不言,下自成蹊。正是因为有以上明显优势,不光是MiniMax,国内做大模型的商业公司,大多都建在火山引擎的云上,“做AI大模型,就上火山引擎”已经成为包括MiniMax、智谱AI等数十家客户的共识,毫不夸张地说,火山引擎已经成为AI大模型的“发动机”。

AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?

带AI上天,更让数字原力落地

方向确定了,才能越走越快。近年来,随着企业数字化转型的持续深入,云计算正扮演越来越重要的角色。据国际调研机构Canalys统计,2022年,我国云计算市场增长了10%,规模达303亿美元。根据Canalys此前的预测,到2026年,这一数据预计将提高至850亿美元,这说明,企业对云服务的需求正在逐年提高。但是对于企业而言,上云只是数字化转型的第一步,如何将云作为数字化新底座,解决企业在云上多场景的应用落地,以及如何借助云的力量提升品牌竞争力,成为企业必须回答的重大课题。作为国内领先的云服务平台,火山引擎从“敏捷迭代”,“数据驱动”,“体验创新”三个方面促进企业增长,为品牌创造新的价值。

关闭
观看更多
更多
正在加载
正在加载
退出全屏

视频加载失败,请刷新页面再试

AI时代的Edge计算:火山引擎如何成为大模型的“发动机”? 刷新

AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?

就拿敏捷迭代来说,在火山引擎看来,云的敏捷能力不止于上云,而是涵盖了上云-用云-云上创新在内的整个品牌成长阶段。针对企业的上云问题,一方面,火山引擎通过和字节跳动国内业务的大规模并池,形成了规模弹性、高可靠、高可用、高性价比的优势;另一方面,基于自研DPU的弹性计算实例等云产品,火山引擎也正在形成DPU+CPU+GPU的混合算力结构,从而实现计算存储网络的全组件卸载,释放更多资源给业务负载,提升算力基础设施效率。随着越多越多业务迁移到云上,不同的负载如何放到不同形态的云上,构建起适合企业发展的分布式云架构,才能真正做到“用好云”。目前,分布式云在中心侧、边缘侧等方面都存在着不同程度的挑战,分布式云一方面需要解决好从单一公有云架构向多公有云架构升级的问题,以增加弹性、降本增效;同时,还需要解决从传统架构向混合云架构升级,保障投资和数据安全;火山引擎基于“算力靠近数据”的理念,形成覆盖1-40ms不同延时的现场边缘、近场边缘和云边缘的体系化架构,并通过发布分布式云原生、多云安全、多云CDN、veStack等产品完善分布式架构,让企业真正“用好云”。用云不是最终目标,在云上进行更敏捷、更前沿的场景化创新才是云服务能力不断提升的源头活水。谭待表示,做好云上创新,这就不得不谈大模型推动的智能化浪潮。国内很多科技公司投入到大模型建设中,他们有优秀的技术团队,也有丰富的行业知识和创新想法,但往往缺乏经过大规模场景实践的系统工程能力。火山引擎要做的就是为大模型客户提供高稳定性和高性价比的AI基础设施。据悉,火山引擎机器学习平台经过抖音等海量用户业务长期打磨,支持单任务万卡级别的超大规模分布式并行训练场景。GPU弹性计算实例可灵活调度资源,随用随取,为客户节省70%的算力成本。可见,火山引擎云服务的是一个持续过程,它涵盖了上云、用云、云上创新全链路,确保所服务的对象持续在迭代更新中持续提升效率。带AI上天的同时,还要让数字原力落地。作为一朵2021年正式发布的“新云”,火山引擎在推出众多云产品和解决方案时,始终坚持三大理念:“技术驱动极致性价比”“面向业务价值” “开放共享”。从技术优化和资源共享两个层面来让每一家企业都能够平等便捷地上云,让每一个下云的企业再回到云上来;通过云和业务场景深度结合,真正助力客户发展和创新;积极拥抱多云,逐步开放更多的多云原生工具,帮助企业更便捷、平等地使用云计算服务,同时联合更多有能力的伙伴,为产业发展做出更大贡献。上能带AI上天,下能让数字原力落地,不仅一直走在技术的最前沿,还积极推动前沿科技的实践,这也是众多品牌都建上火山引擎云上的重要原因。AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?

迎接多云多模型时代,火山引擎准备好了

根据麦肯锡的报告,到2025年,仍有42%的企业选择保留私有云。与此同时,边缘云在负载分布中的比例正在稳步提升。据IDC报告显示,到2025年,超过30%的数据处理将依赖边缘实时处理。这些趋势背后,是多种复杂因素的交织,既包括业务形态和成本管控的需要,也包括数据安全和监管要求的考虑。因此,对于企业而言,如何应对分布式多云体系所带来的挑战,是其必须有能力面对和解决的问题。

火山引擎总裁谭待认为:数字化将进入多云多模型时代。大模型会在千行百业生长,形成多模型共生甚至协作的生态。火山引擎也顺势推出了分布式云原生平台、多云安全、多云CDN、veStack混合云平台等系列产品,支持客户更好地使用多家云服务。“字节跳动用过全球几乎每一朵公有云,以及大多数CDN,形成一套完整的分布式云管理体系和架构实践”,谭待坚信火山引擎是最懂多云和分布式云的云服务商,这些技术能力都会毫无保留地提供给客户。在充分市场竞争下,云厂商才能提供更可靠和更有性价比的云服务,带来更多优势产品。随着AI大模型的成熟和完善,各行各业的产品都可能接入AI大模型,让原先的产品变得更高效,更聪明,也将深刻改变人与人、人与机器的协作方式,对不同的领域都产生影响。君子得其时则驾,不得其时则蓬累而行。面对多云多模型的AI新时代,火山引擎的分布式云架构和AI大模型技术优势明显,完全有能力支持客户做好大模型和AI应用创新,成为新时代企业增长的“发动机”。

关注,跟主编交个朋友 ↓↓↓

商务合作请联系QQ/微信:2881339633点右下角在看,下次可以优先收到我的文章

AI时代的Edge计算:火山引擎如何成为大模型的“发动机”?

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!

© Copyright notes

Related posts

No comments

No comments...