vatt'ghern jaskier's ballads

#llm-inference

8 posts tagged llm-inference.

  1. 10.09
    直接最小化解碼輪數，訓練平行草稿模型
  2. 09.14
    KV 快取的兩個比例，不能直接相乘
  3. 08.13
    2026.08.13 —— 今日 10 則
  4. 06.08
    2026.06.08 —— 今日 10 則
  5. 06.08
    第 23 週 —— 預設值被要求舉證
  6. 06.07
    2026.06.07 —— 今日 10 則
  7. 06.05
    KV cache 為什麼能壓到 4-bit／2-bit 還不掉準確度——從 variance normalization 講起
  8. 06.05
    2026.06.05 —— 今日 10 則