华为UCM推理记忆管理技术正式开源

华为针对AI推理加速的关键技术——UCM（UnifiedCacheManager）推理记忆数据管理正式宣布开源。据华为介绍，UCM目前具备四大能力：稀疏注意力、前缀缓存、预填充卸载、异构PD解耦，实现首Token时延最高降低90%，系统吞吐最大提升22倍，并达到10倍级上下文窗口扩展。(金十数据11月5日)