基本检查工具#

LMCache 基本检查工具是一个测试和验证工具，帮助您验证 LMCache 的安装、配置和功能。它提供多种测试模式以验证 LMCache 系统的不同组件。

概述#

基本检查工具（lmcache.v1.basic_check）旨在：

  • 测试远程后端的连接性和功能性

  • 验证存储管理器操作

  • 生成用于性能测试的测试键

  • 验证配置设置

  • 提供故障排除的诊断信息

可用检查模式#

该工具支持几种检查模式，每种模式针对特定功能：

test_remote#

测试远程后端功能，包括：

  • 与远程后端（文件系统等）的连接建立

  • 带数据完整性验证的 put/get 操作

  • 带性能报告的 put/get/exists 操作

用法：

python -m lmcache.v1.basic_check --mode test_remote

test_storage_manager#

测试存储管理器操作，包括：

  • 配置验证

  • 带数据完整性验证的批量放入/获取操作

  • 带批量放入/获取/包含操作的性能报告

用法：

python -m lmcache.v1.basic_check --mode test_storage_manager

键生成 (Key Generation)#

生成用于性能测试和基准测试的测试密钥：

  • 可配置的键数量和并发级别

  • 内存高效的批处理

  • 进度跟踪和性能指标

  • 分布式测试的偏移支持

用法：

python -m lmcache.v1.basic_check --mode gen --num-keys 1000 --concurrency 16

命令行接口#

基本用法#

python -m lmcache.v1.basic_check --mode <MODE> [OPTIONS]

列出可用模式#

python -m lmcache.v1.basic_check --mode list

命令行选项#

--mode MODE#

必需。 操作模式。使用 list 查看可用模式。

--model MODEL#

用于测试的模型名称，仅为持久 KV Cache 的键的一部分。默认值：/lmcache_test_model/

--num-keys NUM#

生成的键的数量（仅限生成模式）。默认值：100

--concurrency NUM#

操作的并发级别（仅限生成模式）。默认值：16

--offset NUM#

密钥生成的偏移量（仅限生成模式）。默认值：0

配置#

基本检查工具使用您现有的 LMCache 配置。您可以通过几种方式指定配置：

环境变量#

export LMCACHE_CONFIG_PATH=/path/to/config.yaml
python -m lmcache.v1.basic_check --mode test_remote

示例配置#

这是一个针对基本检查优化的示例配置：

# Basic cache settings
chunk_size: 256
local_cpu: true
max_local_cpu_size: 1.0  # 1GB for basic checks

# Remote backend (optional)
remote_url: "file:///tmp/lmcache_basic_check"

示例#

examples/basic_check/ 目录包含全面的示例：