lmcache coordinator#

lmcache coordinator 命令启动 LMCache MP 协调器，这是一个独立的 HTTP 服务，用于跟踪部署中的 MP 服务器实例。MP 服务器向其注册并发送定期心跳；协调器会逐出任何心跳超时的实例，该超时时间由 --instance-timeout 指定。

它替代了 python -m lmcache.v1.mp_coordinator。该进程在前台运行；使用 Ctrl-C 停止它。

lmcache coordinator [options]

快速开始#

lmcache coordinator \
    --host 0.0.0.0 --port 9300 \
    --instance-timeout 30 \
    --health-check-interval 10

选项#

标志

描述

--host HOST

协调器 HTTP 服务器的绑定地址（默认：0.0.0.0）。

--port PORT

HTTP 端口（默认值：9300）。

--instance-timeout SECS

在没有心跳的情况下，经过多少秒后实例被逐出（默认值：30）。

--health-check-interval SECS

逐出清理之间的秒数；0 禁用循环（默认值：10）。

配置#

每个标志都是可选的。未设置的标志会回退到 LMCACHE_MP_COORDINATOR_* 环境变量（HOST、PORT、INSTANCE_TIMEOUT、HEALTH_CHECK_INTERVAL），然后再回退到内置默认值。提供的标志始终会覆盖匹配的环境派生值，因此仅使用环境的部署将保持不变。

请参阅 多服务器协调 以了解协调器的架构、注册协议和 HTTP API。