火山引擎发布大模型训练云平台:支持万卡训练,集群性能提升3倍
2023-04-19 07:24:05 来源:齐鲁壹点
AI大模型技术应用爆发,云市场也在加速变革。
4月18日,火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,让大模型训练更稳更快。火山引擎总裁谭待表示,AI大模型有巨大潜力和创新空间,火山引擎会服务客户做好大模型,共同推动各行业的智能化升级。
【资料图】
“国内有数十家做大模型的企业,大多已经在火山引擎云上”,谭待认为,大模型不会一家独大。与其他云厂商力推自家大模型不同的是,火山引擎将接入多家大模型深度合作,为企业和消费者提供更丰富的AI应用。
会上,火山引擎宣布与字节跳动国内业务并池。基于内外统一的云原生基础架构,抖音等业务的空闲计算资源可极速调度给火山引擎客户使用,离线业务资源分钟级调度10万核CPU,在线业务资源也可潮汐复用,弹性计算抢占式实例的价格最高可优惠80%以上。
让大模型训练快速跑起来
自2022年底发布以来,ChatGPT成为人类历史上最快获得上亿用户的消费级互联网应用。最新的GPT-4大模型,更是在法律、数学、生物学等多项测试中超过90%人类。
谭待表示,国内很多科技公司投入到大模型建设中,他们有优秀的技术团队,也有丰富的行业知识和创新想法,但往往缺乏经过大规模场景实践的系统工程能力。火山引擎要做的就是为大模型客户提供高稳定性和高性价比的AI基础设施。
据悉,火山引擎机器学习平台经过抖音等海量用户业务长期打磨,支持单任务万卡级别的超大规模分布式并行训练场景。GPU弹性计算实例可灵活调度资源,随用随取,最高可以为客户节省70%的算力成本。
字节跳动副总裁杨震原认为,业务创新需要试错,试错要大胆、敏捷,但试错也一定要控制成本。通过潮汐、混部等方式,火山引擎实现资源的高利用率和极低成本。以抖音推荐系统为例,工程师用15个月的样本训练某个模型,5小时就能完成训练,成本只有5000元。火爆全网的抖音“AI绘画”特效,从启动到上线只用一周多时间,模型由一名算法工程师完成训练。
图:字节跳动副总裁杨震原分享抖音的机器学习实践
MiniMax是目前国内少数已经推出自研大模型产品的AI技术公司,拥有文本、视觉、声音三种通用大模型引擎能力。据MiniMax联合创始人杨斌介绍,MiniMax与火山引擎合作建立了超大规模实验平台,实现千卡级常态化训练;超大规模推理平台有万卡级算力池,支撑单日过亿次调用。在火山引擎的云上,MiniMax大模型业务实现快速突破。
谭待透露,火山引擎的大模型云平台获得智谱AI、昆仑万维等众多企业的良好反馈。国内大模型领域,七成以上已是火山引擎客户。
向“多云多模型”架构演进
有评论称,大模型将成为云厂商弯道超车的机会。谭待对此表示,大模型还在发展初期,面临数据安全、内容安全、隐私保护、版权保护等许多问题需要努力解决。但可以预见,大模型将带动云上AI算力急剧增长,AI算力的工作负载与通用算力的差距会越来越小,这会为各家云厂商带来新的机会,同时也会对数据中心、软硬件栈、PaaS平台带来新的挑战。
以数据中心的算力结构为例,谭待表示:“大模型需要大算力,虚拟化会带来资源损耗,规模越大就损耗越多。未来3年内,大规模的算力中心,都将形成‘CPU+GPU+DPU’的混合算力结构,CPU负责通用计算,GPU负责AI计算,DPU负责资源卸载、加速和隔离,提升资源效率”。
此次原动力大会上,火山引擎发布了新一代自研DPU,实现计算、存储、网络的全组件卸载,释放更多资源给业务负载。火山引擎尽管是“最年轻”的云厂商,其自研DPU已达到业界领先水平,网络性能高达5000万pps转发能力、延迟低至20us。基于自研DPU的各类计算实例性能也有显著提升,例如适用于大模型分布式并行训练场景的GPU实例,相较上一代实例集群性能最高提升3倍以上。
自动驾驶公司毫末智行与火山引擎合作打造智算中心,为DriveGPT自动驾驶生成式预训练模型提供强大的算力支持。毫末智行CEO顾维灏介绍,DriveGPT使用量产车4000万公里的人驾数据训练,参数规模达1200亿,对自动驾驶认知决策模型进行持续优化。
谭待表示,在大模型及下游应用发展推动下,无论传统企业还是初创企业,对AI算力都有迫切需求,企业使用多家云服务将成为常态。同时,各行业有自己高质量的私有语料,大模型不会一家独大,而是会在千行百业生长,形成多模型共生甚至协作的生态。“未来将是‘多云多模型’的时代”,谭待称。
图:火山引擎总裁谭待宣布支持“多云多模型”的未来架构
火山引擎也顺势推出了分布式云原生平台、多云安全、多云CDN、veStack混合云平台等系列产品,支持客户更好地使用多家云服务。“字节跳动用过全球几乎每一朵公有云,以及大多数CDN,形成一套完整的分布式云管理体系和架构实践”,谭待坚信火山引擎是最懂多云和分布式云的云服务商,这些技术能力都会毫无保留地提供给客户。
杨震原进一步表示,火山引擎对内对外提供统一的产品,抖音、今日头条等APP开屏都加上了“火山引擎提供计算服务”。杨震原说:“数字化时代,机器学习可以智能、高效地围绕目标解决问题。数字化的下一步是智能化,我们在机器学习方面的技术积累和经验,都会通过火山引擎提供给外部客户,帮助更多企业做好智能化”。
标签:
相关阅读
- (2023-04-19)火山引擎发布大模型训练云平台:支持万卡训练,集群性能提升3倍
- (2023-04-19)世界报道:外网ip 端口查询_外网ip
- (2023-04-19)消防fj是什么意思_fj是什么意思
- (2023-04-19)原价2999元的Redmi红米k60现在只要2699元 世界聚焦
- (2023-04-19)当前看点!什么是领导决策?_什么是领导决策领导决策的要素主要包括哪些
- (2023-04-19)铁塔能源联手品胜电子,推出全球首款电变分离式储能电源-天天热闻
热点推荐
- (2023-04-19)火山引擎发布大模型训练云平台:支持万卡训练,集群性能提升3倍
- (2023-04-19)我省政府存量债券柜台市场交易流通业务上线 世界聚焦
- (2023-04-19)世界报道:外网ip 端口查询_外网ip
- (2023-04-19)热文:雨霖铃翻译及原文_雨霖铃翻译及赏析
- (2023-04-19)消防fj是什么意思_fj是什么意思
- (2023-04-19)环境哲学:生态文明的理论基础_关于环境哲学:生态文明的理论基础介绍
- (2023-04-19)原价2999元的Redmi红米k60现在只要2699元 世界聚焦
- (2023-04-19)qq同城交友找不到人_qq同城交友 微资讯
- (2023-04-19)当前看点!什么是领导决策?_什么是领导决策领导决策的要素主要包括哪些
- (2023-04-19)世界今日报丨宝宝睡觉头出汗是什么原因_宝宝睡觉出汗是什么原因
- (2023-04-19)铁塔能源联手品胜电子,推出全球首款电变分离式储能电源-天天热闻
- (2023-04-19)红日药业:PTS已开始生产_通讯
- (2023-04-19)夏天夏天悄悄过去留下小秘密压心底压心底不能告诉你 夏天夏天悄悄过去留下小秘密是什么歌 当前关注
- (2023-04-19)呼和浩特市新城区:畅享“杏”福花开-当前热讯
- (2023-04-19)0317是哪个城市的区号(0317)_通讯
- (2023-04-19)即时看!曼城提交主场扩建计划:球场顶层新建露天酒吧,内部增设酒店
- (2023-04-19)笔记本电脑屏幕分辨率越高越好吗_电脑屏幕分辨率越高越好吗 当前资讯
- (2023-04-19)今日热议:数智化赋能新时代的“滨州经验”
- (2023-04-19)当前快讯:美国13岁男孩爬进娃娃机偷奖品被卡 坐在玻璃橱窗内等救援
- (2023-04-19)观察:强冷空气又来!降温横扫30省具体是什么情况
- (2023-04-19)今大道既隐原文及翻译_今大道既隐原文及翻译是什么
- (2023-04-19)走齐长城文化体验廊道 看山东高质量发展|这座农业产业园亩均产
- (2023-04-19)【天天热闻】C视频丨走进川江“第一村”:姆陇河畔不缺梦想
- (2023-04-19)世界今日报丨长兴正式启动2023年全国肿瘤防治宣传周系列活动!
- (2023-04-19)SLVU2.8-4低电容ESD二极管 2.8V SOP-8
- (2023-04-19)姆巴佩本赛季法甲助攻4次,其中3次给梅西1次给内马尔
- (2023-04-19)84弄到手机上没事吧?_世界观点
- (2023-04-19)13分大胜!不愧十一冠王!广东全场压制广厦夺赛点,双方险爆冲突
- (2023-04-19)2023上海车展:探岳1.5T车型售价20.79万元
- (2023-04-19)华嵘控股2022年营收1.25亿 董事长周梁辉薪酬99.01万-当前动态
- (2023-04-19)书店就在商圈、景点旁邀你来逛,武汉首届“知音读书节”在汉阳启动_环球快看
- (2023-04-19)买车用什么软件最靠谱_买车用什么软件
- (2023-04-19)小米联合雅昌推出专业影像印制服务,8 寸经典款 32 元|天天快看
- (2023-04-19)【环球新要闻】部队党员转正申请书格式(党员转正申请书格式)
- (2023-04-19)今日视点:竹内亮:我想把中国好玩的东西介绍给世界
- (2023-04-19)福特Bronco的亮相,长安福特的冲锋号从上海车展开始吹响 环球速看
- (2023-04-19)埃及航空确认继续暂停开罗往返喀土穆航班 焦点热文
- (2023-04-18)高盛:上调欧洲央行终端利率预期至3.75%|环球头条
- (2023-04-18)美股开盘:三大股指涨跌不一,高盛跌超3%
- (2023-04-18)当前快讯:TA票选“现役最强防守人”:霍勒迪28.7%得票率最高 字母追梦在列
- (2023-04-18)环球信息:财政部:一季度全国一般公共预算收入62341亿元
- (2023-04-18)专访:中国将帮助备受冲击的全球经济恢复活力——访经合组织中国政策研究室主任玛吉特·莫尔纳_天天时快讯
- (2023-04-18)韩政府延长燃油税下调措施至8月底|每日短讯
- (2023-04-18)科创信息:公司的人工智能平台目前包括视觉缺陷检测、文本抽取等
- (2023-04-18)【当前独家】福斯达:公司目前在部分产品生产工艺方面采用自动流水线等
- (2023-04-18)【时快讯】万和电气:公司出口的主要地区为北美、欧洲等地区
- (2023-04-18)杭叉集团2022年年度董事会经营评述
- (2023-04-18)信立泰:一季度净利2.11亿元 同比下降11.15% 速看
- (2023-04-18)环球速看:威唐工业:集中式储能用电池箱体总成项目已批量供货
- (2023-04-18)北京市消协:“大胃吃播”涉嫌违法,“达人探店”或成商业广告
- (2023-04-18)炬光科技:股价受到包括宏观经济、国际形势、行业趋势、市场情绪等诸多方面的影响
- (2023-04-18)新兴行业“宠物殡葬”悄然兴起 全国已有近9000家相关企业
- (2023-04-18)宝馨科技:公司首个液冷超充充电示范站采用了华为的新一代全液冷超充架构
- (2023-04-18)星源材质:公司的隔膜产品能应用于储能市场 世界简讯
- (2023-04-18)快资讯:云南锗业:鑫耀半导体的砷化镓晶片、磷化铟晶片可以用于光模块
- (2023-04-18)世界播报:炬光科技:公司在VR相关领域已有客户且合作两三年
- (2023-04-18)和顺科技:聚酯薄膜可以用在太阳能光伏背板及锂电池包装_全球滚动
- (2023-04-18)促进乡村振兴 共享发展成果丨塔洋镇红庄村:发展订单农业 助推乡村振兴
- (2023-04-18)盐城团购网_盐城团购 当前讯息
- (2023-04-18)天天时讯:[快讯]杭华股份公布2022年年度分红方案(每10股转增3股)
- (2023-04-18)天天热资讯!台媒:台湾地区恐连续7年无法参加世界卫生大会
- (2023-04-18)中富通:英博达产品涵盖国产化信息录用终端、网络安全网关等部分产品及解决方案
- (2023-04-18)永泰运:公司募投项目之一"运化工"可提升信息化、智慧化管控水平_微头条
- (2023-04-18)欢乐家:公司目前所有产品均为内销-每日播报
- (2023-04-18)深信服:公司目前已在部分产品中使用了AI相关技术|全球观热点
- (2023-04-18)长荣股份:公司部分专利来自于海外专利技术的消化吸收及再创新
- (2023-04-18)山东曹县:10余万亩芦笋喜获丰收 “土特产”打通致富路 世界新消息
- (2023-04-18)热门:奥克兰旅游推荐_这几个景点必去
- (2023-04-18)双发力唤醒“撂荒地”-天天讯息
- (2023-04-18)13万亩苹果花绽放 果农忙中孕育希望
- (2023-04-18)全球今亮点!文文副食店的三次蜕变
- (2023-04-18)中央空调装上“智慧大脑”-环球新视野
- (2023-04-18)游古城品龙虾 安徽固镇文旅“双开花”
- (2023-04-18)掌趣科技:公司正在积极尝试将GPT等技术接入游戏产品 全球百事通
- (2023-04-18)新炬网络:公司业务目前不涉及网络安全领域-今日快讯
- (2023-04-18)蓝帆医疗:佳和健康具有互联网医院牌照
- (2023-04-18)合肥百货:截止2022年末公司开发产品余额较期初下降18.59% 速看
- (2023-04-18)裕太微:商规级以太网物理层芯片可用于WIFI路由器等设备 环球速讯
- (2023-04-18)【全球聚看点】云南普洱:灭火器内藏毒 逃不过民警“法眼”
- (2023-04-18)东陈镇丁北幼儿园开展消防安全疏散演练活动 全球微头条
- (2023-04-18)环球热推荐:百万粉丝博主刘明明 分享70多岁“不设限人生”
- (2023-04-18)天天热点!股票行情快报:深康佳B(200016)4月17日主力资金净卖出87.98万元
- (2023-04-18)“投资中国”展区第六度亮相汉诺威工博会 全球短讯
- (2023-04-18)西井科技上海车展发布全球首款可升级智能网联新能源重卡E
- (2023-04-18)吹!冲!扫!南京三款杀器齐上路治理“毛毛雨”
- (2023-04-18)教育部公布近期各地几起学科类隐形变异违规培训典型案例
- (2023-04-18)海天瑞声DOTS-AD自动驾驶平台正式发布-世界速看料
- (2023-04-18)光环助手ios版怎么用手柄玩_天天快播
- (2023-04-18)刷新国内纪录!中国石油又一项技术获重大突破 全球即时看
- (2023-04-18)聚焦IPO | 中兴新材毛利率大幅低于同业,研发费用增加却不见专利成果
- (2023-04-18)财政部:2023年安排中央对地方转移支付超10万亿元
- (2023-04-18)全球视点!淮河路办事处持续开展城市精细化管理工作
- (2023-04-18)今日播报!加拿大税务局称仍尽力避免大罢工,尚无延期报税计划
- (2023-04-18)全球百事通!科技“引擎”驱动 云南铜业2022年经营业绩创历史新高
- (2023-04-18)张小泉:2022年营收8.27亿元,每10股派发现金2.50元-当前速读
- (2023-04-18)未央今日播报:一季度GDP同比增长4.5% 苹果储蓄账户正式上线
- (2023-04-18)2023上海国际车展开幕 速讯
- (2023-04-18)今天两个88岁的老朋友又见面了 全球热讯
- (2023-04-18)螃蟹为什么不能长时间冰冻?|精选
- (2023-04-18)什么是次新股?301开头是什么股票?