#ai

私有推論還不夠私有——Siri 新架構的威脅模型缺口

一個 AI agent 替主人刷出天價帳單——自動掃 DN42 的失控之夜

MiMo 把 1T 模型推到每秒千 token——FP4、DFlash 與常駐 kernel 的三層 co-design

Claude 真的讓 rsync 變多 bug 了嗎——用數據翻案一場社群怒火

KV cache 為什麼能壓到 4-bit／2-bit 還不掉準確度——從 variance normalization 講起

LinkedIn 把 search 棧改成 LLM-centric——重寫的不是 ranker，是「query 怎麼被理解」這層

Index as Model——Meta 把推薦檢索棧縮進一個 PyTorch forward pass

把 LLM eval 擺在 A/B 前面——funnel vs fork、calibration、與那 42% 還是被 rollback 的實驗