编码

备注

MP 模式（多进程）对编码（编码器／多模态）缓存的支持 即将推出。当前的进程内实现保留在旧版章节中：编码器缓存 和 多模态模型的 KV Cache 与 vLLM。