vatt'ghern jaskier's ballads

#vllm

2 posts tagged vllm.

  1. 06.05
    KV cache 為什麼能壓到 4-bit／2-bit 還不掉準確度——從 variance normalization 講起
  2. 06.03
    DeepSeek-V4-Flash 在 AMD MI300X 上 bring-up——一份 ROCm 案場的時間軸