字节豆包大模型团队提出稀疏模型架构 推理成本最高可降低83%

来源：财联社2025年02月12日 13:47

据豆包大模型团队消息，字节跳动豆包大模型Foundation团队近期提出UltraMem，一种同样将计算和参数解耦的稀疏模型架构，在保证模型效果的前提下解决了推理的访存问题。据介绍，该架构有效解决了MoE推理时高额的访存问题，推理速度较MoE架构提升2-6倍，推理成本最高可降低83%。

【责任编辑：刘澄谚】

投稿与新闻线索: 微信/手机: 15910626987 邮箱: 95866527@qq.com
中国能源网官方微信二维码
欢迎关注中国能源官方网站
分享让更多人看到
中国能源网版权作品，未经书面授权，严禁转载或镜像，违者将被追究法律责任。

即时新闻

要闻推荐

热点专题

精彩视频

守牢大国能源“饭碗” 铸强矿山革新“引擎”——武强院士解码新时代能源保障与转型之路
上海市监局回应韩束被曝添加禁用成分：进一步核实调查中
能源奋楫·强国鼎新——扬帆“十五五” 开局最“一线”
运满满到货加价2600 中途为何多了一手？

精彩图集

再访美军空袭后的拉瓜伊拉港
华盛顿举行反对联邦执法人员暴力执法抗议活动
首批下穿太湖超大直径盾构机下线
沪宁合高铁南京特大桥跨滁河斜拉桥顺利合龙
字节豆包大模型团队提出稀疏模型架构 推理成本最高可降低83%
分享到：