#vllm

2026.09.14 —— 今日 10 則

KV cache 為什麼能壓到 4-bit／2-bit 還不掉準確度——從 variance normalization 講起

DeepSeek-V4-Flash 在 AMD MI300X 上 bring-up——一份 ROCm 案場的時間軸