华为UCM推理记忆管理技术正式开源
金十数据|2025年11月05日 07:29
华为针对AI推理加速的关键技术——UCM（UnifiedCacheManager）推理记忆数据管理正式宣布开源。据华为介绍，UCM目前具备四大能力：稀疏注意力、前缀缓存、预填充卸载、异构PD解耦，实现首Token时延最高降低90%，系统吞吐最大提升22倍，并达到10倍级上下文窗口扩展。(金十数据11月5日)
+5分享至：
脉络
热门快讯
APP下载
X
Telegram
复制链接
+5+5X
Telegram
复制链接