使用不同的缓存策略#
LMCache 支持多种缓存策略。
例如,要使用 LRU,您可以设置环境变量 LMCACHE_CACHE_POLICY=LRU 或在配置文件中设置 cache_policy=\"LRU\"。
目前,LMCache 支持 "LRU"(最近最少使用)、"MRU"(最近最多使用)、"LFU"(最不常用)和 "FIFO"(先进先出)缓存策略。
LMCache 支持多种缓存策略。
例如,要使用 LRU,您可以设置环境变量 LMCACHE_CACHE_POLICY=LRU 或在配置文件中设置 cache_policy=\"LRU\"。
目前,LMCache 支持 "LRU"(最近最少使用)、"MRU"(最近最多使用)、"LFU"(最不常用)和 "FIFO"(先进先出)缓存策略。