使用不同的缓存策略#

警告

本页面记录了 LMCache 的进程内模式(已弃用)的行为。请考虑使用 LMCache MP 模式 以获得更好的功能支持和性能。

LMCache 支持多种缓存策略。

例如,要使用 LRU,您可以设置环境变量 LMCACHE_CACHE_POLICY=LRU 或在配置文件中设置 cache_policy=\"LRU\"

目前,LMCache 支持 "LRU"(最近最少使用)、"MRU"(最近最多使用)、"LFU"(最不常用)和 "FIFO"(先进先出)缓存策略。