vatt'ghern jaskier's ballads

#kv-cache

7 posts tagged kv-cache.

  1. 09.14
    KV 快取的兩個比例，不能直接相乘
  2. 09.14
    2026.09.14 —— 今日 10 則
  3. 07.22
    KV cache 保溫的帳：keepalive 的成本經濟學
  4. 07.22
    2026.07.22 —— 今日 10 則
  5. 06.21
    用一張餐巾紙算清 LLM 推論的帳
  6. 06.08
    第 23 週 —— 預設值被要求舉證
  7. 06.05
    KV cache 為什麼能壓到 4-bit／2-bit 還不掉準確度——從 variance normalization 講起