在生产环境中使用 LMCache

在生产环境中部署、扩展和操作 LMCache。

• 部署指南
  • Docker
  • Kubernetes
  • 生产最佳实践
  • 传输模式 (--supported-transfer-mode, --shm-name)
• Kubernetes 部署
• Kubernetes Operator
  • 为什么使用 Operator
  • 先决条件
  • 安装 Operator
  • 部署 LMCacheEngine
  • 连接 vLLM
  • 验证部署
  • CRD 规格参考
  • 示例
  • CacheBlend
  • LMCacheCoordinator
  • Operator 与手动部署对比
  • 安全注意事项
  • 开发
• 运行时插件
  • 关键使用案例
  • 配置
  • 运行时插件命名约定
  • 执行模型
  • 示例运行时插件
  • 最佳实践
• Dynamo 集成