控制器 WebUI#

概述#

LMCache 控制器提供了一个基于网页的仪表板,用于监控您的 LMCache 实例。该网页界面允许您监控系统状态、实例、工作进程和性能指标。

快速开始#

要启用 Controller WebUI,请使用以下命令启动您的 LMCache 实例:

python3 -m lmcache.v1.api_server \
    --host 0.0.0.0 \
    --port 9000 \
    --monitor-ports '{"pull":8300,"reply":8400}' \
    --lmcache-worker-timeout 100 \
    --health-check-interval 10

启动控制器后,可以通过以下地址访问 WebUI:

http://localhost:9000/

配置选项#

  • --host: API 服务器的绑定地址(默认: 0.0.0.0)

  • --port: API 服务器的端口(默认: 9000)

  • --monitor-ports: 控制器通信的 ZMQ 端口

  • --lmcache-worker-timeout: 工作线程超时时间(秒)

  • --health-check-interval: 健康检查间隔(秒)

仪表板功能#

控制器仪表板提供:

  • 系统概览和健康监控

  • 实例和工作者管理

  • 性能指标

  • 线程信息

  • 环境变量检查