华为发布AI推理创新技术UCM，融合多类型缓存加速算法工具，可扩大推理上下文窗口，实现高吞吐、低时延的推理体验。该技术已在中国银联三大业务场景中应用试点，计划9月开源。#华为UCM# #AI推理加速#