lmcache 跟踪#

lmcache trace 命令用于检查和重放 LMCache 存储级别的跟踪文件 (.lct)。它有两个子命令:

lmcache trace {info,replay} FILE [options]

备注

lmcache trace 需要完整的 lmcache 包(StorageManager、trace 编解码器、TraceReader)。在轻量级的 lmcache-cli 安装中不可用,如果缺少这些模块,则会以状态 2 退出。

Trace 捕获 不是 trace 子命令 — 录制绑定到通过 lmcache server --trace-level storage [--trace-output ...] 的实时服务器(参见 lmcache 服务器)。

信息#

打印跟踪文件的一屏摘要:头部元数据加上每个 qualname 的记录计数。

lmcache trace info path/to/trace.lct
Trace file: path/to/trace.lct
  level:                storage
  format_version:       1
  trace_schema_version: 1
  duration:             12.345s
  sm_config_digest:     a1b2c3d4
  total_records:        2048
  ops:
    StorageManager.store: 1024
    StorageManager.retrieve: 1024

唯一的参数是位置参数 FILE``(指向 ``.lct 跟踪文件的路径)。

重放#

对新创建的 StorageManager 重新发出每个记录的调用,遵循记录的调用间隔时间。

lmcache trace replay path/to/trace.lct \
    --l1-size-gb 10 --eviction-policy LRU

replay 接受标准的存储管理器配置标志(--l1-size-gb, --eviction-policy, --l2-...);有关完整列表,请参见 lmcache server --help。重放侧的配置可能与记录在追踪中的配置不同,这可能会导致合法的查找未命中。

警告

重放环境不匹配可能导致查找未命中。重放使用重放端的 StorageManager 配置(可能与记录的配置不同),在性能可能与记录主机不同的主机上运行,并且 StorageManager 的读/写是异步的。将查找未命中计数视为重放环境的信号,而不是记录中的缺陷。

选项#

标志

描述

FILE

`.lct` 跟踪文件的路径(位置参数,必填)。

--verbose

每个重放记录打印一行。

--jsonl-out PATH

将每个重放记录写入一个 JSON 对象到 ``PATH``(qualname,延迟_ms,失败)。

--output-dir DIR

聚合的 CSV / JSON 摘要输出目录(默认:当前目录)。

--no-csv

跳过聚合的 CSV 摘要导出。

--json

还可以导出一个汇总的 JSON。

-q / --quiet

抑制终端指标表(文件仍然会被写入)。

终端摘要报告整体重放统计信息(重放/跳过/失败的记录、持续时间、配置摘要匹配)和每个操作的延迟百分位数。如果任何记录失败,replay 将以状态 1 退出。