使用不同的存储后端

LMCache 支持多种存储后端以卸载和共享 KV Cache 数据。

支持的后端

• CPU 内存
• 自定义存储后端
• 设备-DAX (/dev/dax)
• EIC
• 文件系统后端
• GDS 后端
• Hugging Face Buckets 后端
• InfiniStore
• 本地存储
• Maru
• 模拟
• Mooncake
• Nixl
• Redis
• 谷歌云 Bigtable
• RESP (原生 Redis/Valkey)
• S3 后端
• SageMaker Hyperpod
• Valkey
• Weka
• 3FS