CacheGen

备注

CacheGen KV Cache 在 MP 模式（多进程）下的压缩功能尚未实现（即将推出）。原有的进程内实现保留在旧版章节中： 压缩。