2026.10.05 —— 今日 10 則
TODAY'S THREAD 今天好幾則都在處理「限制該放在哪一層」：KV Instant 用每個 namespace 每秒一次寫入，換來 p99 約 1.62 毫秒的讀取，Willison 主張雲端預算上限應該預設觸頂即停機，gVisor 則把治理權從單一公司交給 CNCF。
Kolibri：78B 參數、每 token 只啟用約 3.5B 的主權開放模型
Aleph Alpha 發布 Apache 2.0 授權的 Kolibri，總參數 78.1B、啟用約 3.46B 的 MoE，384 位專家每個 token 啟用 6 位，脈絡長度上看 100 萬 tokens，主打英德雙語。官方自報 AIME 2025 英文 96.9%、GPQA Diamond 英文 84.3%，並強調訓練與供應鏈都在歐洲。這些分數都是廠商自己的說法。
雲端服務該預設硬性預算上限
Simon Willison 主張雲端服務應把「超支就停機」設為預設，而不是只寄一封警告信，理由是 AI coding agent 讓失控服務更容易出現。他引用 AWS 在 2026 年 9 月推出的支出上限，以及 Google Cloud 在 7 月推出的 Spend Caps，並提議用明確的選擇退出取代預設無上限。
記憶體不夠時怎麼跑 MoE：MoE-CORE
論文 MoE-CORE 處理專家權重超過裝置記憶體的 MoE 推論，協調專家的 offloading 與駐留。在 DeepSeek-V4-Flash-W4A8 上，平均每個輸出 token 38.0 到 44.8 毫秒，對照 vLLM Prefetch 的 1268.9 到 1269.1 毫秒。數字來自論文自己的實驗。
Page table 可以跟它映射的資料一樣大
每個行程映射同一批分頁，都需要各自一份頁表項目，每筆 8 bytes，所以 512 個行程映射相同分頁時，頁表的大小就等於資料本身。文章蒐集了從 2002 年到 2026 年的案例，其中 ClickHouse 在 200 個連線下，一般分頁的頁表吃掉 6.1 GiB，改用 huge pages 後降到 111 MiB，換算約 56 倍。
Rust 的 derive 常常暗含 inline
derive 產生的實作會帶上 #[inline]，在層層巢狀的錯誤型別中，連 Debug 實作都被展開，造成程式碼膨脹。作者指出 uv 只要擋掉單一 Debug 實作的 inline，二進位檔就能縮小約 160KB。他的做法是寫一個自訂 proc macro，行為像 derive(Debug)，但標成 inline(never)。
KV Instant：用寫入限制換 p99 1.62 毫秒的讀取
Cloudflare 讓 Workers KV 多一個 Instant 模式，後端換成它內部的 Quicksilver，官方標示 p99 讀取 1.62 毫秒，經典模式是 287 毫秒。寫入複製到 300 多個節點的中位數 107 毫秒、p99 256 毫秒。代價也寫明：每個 namespace 每秒只能寫一次，且不支援 metadata；目前是私有 beta，數字皆為官方自報。
gVisor 捐給 CNCF，治理權離開 Google
Google 把 gVisor 的名稱、商標與治理捐給 CNCF，申請 9 月 7 日提交、9 月 28 日通過。團隊提到的動機之一是，專案全屬 Google 時，核心維護者會拒絕上游 patch。新維護者夥伴包括 Ant Group、Modal 與 Tines，治理也將轉為以維護者為主的模式。
為什麼多數開發者不「use the platform」
Nolan Lawson 回頭問為什麼大家明知瀏覽器內建 API，還是去裝 npm 套件、自己造輪子。他列的原因包括早年瀏覽器落後 jQuery、MDN 統一之前文件散在各處，以及自己動手比較好玩。他自己因為做 PouchDB 學到儲存 API，後來才有能力參與 W3C 標準。
改 Go 編譯器，讓 IPv4 轉 IPv6 快約 8 倍
Go 的 netip.Addr 沒有 To6()，常見寫法 netip.AddrFrom16(ip.As16()) 要 7.14 ns，原生實作只要 0.88 ns。Vincent Bernat 先試了 IR 層的取代，因太脆弱而放棄，改在 SSA 層補上 rewrite rule 並提前 memcombine pass，在 Go 1.26.8 的基準上執行時間縮短 86.34%。
DoorDash 的 Agent Gateway：把工具授權集中管
DoorDash 建了集中式 Agent Gateway，資料面的 proxy 負責驗證呼叫者、檢查權限、限流與稽核，控制面的 registry 存放 agent、MCP 伺服器與政策。文中的規模是 200 多個 MCP 伺服器、30 多個 agent 與服務，每週數百萬次工具呼叫，並把「看得到哪些工具」與「能不能執行」分開授權。