CXL高速互联:破解AI时代“内存墙”新途径 | 投研精选
来源:中国能源网 2024年04月29日 10:50
2024-04-29 10:50 来源:中国能源网

国联证券近日发布通信行业研究,聚焦CXL高速互联:破解AI时代“内存墙”新途径,以下为研究报告摘要: AI时代“内存墙”问题愈发明显 AI大模型的快速发展推动“算力”和“存力”需求快速增长,与此同时,对“运力”也提出了更高的需求,系统需要更高的带宽、更快的传输。

国联证券近日发布通信行业研究,聚焦CXL高速互联:破解AI时代“内存墙”新途径。


以下为研究报告摘要:


AI时代“内存墙”问题愈发明显


AI大模型的快速发展推动“算力”和“存力”需求快速增长,与此同时,对“运力”也提出了更高的需求,系统需要更高的带宽、更快的传输。但内存的性能提升速度远低于处理器的性能提升速度,导致处理器无法充分发挥其计算能力。“内存墙”问题由来已久,在AI时代表现的愈发明显,“算力”和“运力”之间的差距越来越大。Transformer类的模型参数的数量呈现指数增长,每两年增加410倍,而GPU内存仅以每两年2倍的速度扩展。


CXL提高内存利用效率,技术优势明显


CXL技术是一种新型的高速互联技术,旨在提供更高的数据吞吐量和更低的延迟,同时实现内存共享、提高内存利用效率,为化解“内存墙”问题提出新的解决方案。CXL通过将计算和存储分离,形成内存池,从而能动态按需配置内存资源,提升效率。CXL技术具有优势:1)CXL延迟较低,通常为10ns,而PCIe的延迟为100ns。2)CXL支持内存一致性,一致性的缺乏限制了PCIe应用程序。3)CXL地址空间可按定义缓存,PCIe则不可以。


CXL版本持续升级迭代,国际巨头纷纷加入CXL联盟


CXL历经5个版本的升级发展。CXL1.0于2019年3月发布,后历经1.1、2.0、3.0版本,2023年11月,CXL联盟发布了最新的CXL3.1版本。随着CXL技术的不断演进,未来数据中心各个计算节点和内存节点的互联将更加快速、高效和灵活。CXL联盟由英特尔牵头成立,目前成员已经超过255个,涵盖了主要的CPU、内存、存储和网络设备制造商。国际巨头加入CXL联盟,积极布局CXL技术,推出支持CXL技术的产品,助力CXL的发展。


CXL市场空间广阔,DRAM占据主要份额


CXL高速互联目前处于市场应用的早期阶段,未来采用CXL协议服务器的占比持续提升。Yole预测到2028年,CXL市场总收入将超过150亿美元,DRAM将占据CXL市场的主要份额,Yole预计到2028年,DRAM占到CXL市场规模的79%。三星和海力士相继推出了采用CXL内存控制器的CXL内存模组,三星推出其首款支持CXL2.0的128GBDRAM,加速下一代存储器解决方案的商用化进程。


投资建议:关注国产算力和国产芯片相关领域


AI大模型的快速发展,对“运力”也提出了更高的需求。CXL凭借高速率低时延的优势,同时可以实现内存共享、提高内存利用效率,有望破除“内存墙”。CXL市场空间广阔,目前渗透率仍较低,有望迎来快速发展,同时,CXL的发展也利好国产算力和芯片的进步,我们建议对此保持高度关注。


风险提示:CXL渗透率不及预期的风险,AI发展不及预期的风险,产品技术迭代不及预期的风险。(国联证券 张宁 )


【责任编辑:肖洁 】

投稿与新闻线索: 微信/手机: 15910626987 邮箱: 95866527@qq.com
投稿与新闻线索: 微信/手机: 15910626987邮箱: 95866527@qq.com
欢迎关注中国能源官方网站
分享让更多人看到
中国能源网版权作品,未经书面授权,严禁转载或镜像,违者将被追究法律责任。
即时新闻
加载更多新闻
为你推荐
加载更多
CXL高速互联:破解AI时代“内存墙”新途径 | 投研精选
分享到: