vatt'ghern jaskier's ballads

2026.10.30 —— 今日 10 則

TODAY'S THREAD 今天的共同問題是「以為隔離或保密的東西,其實沒有」:GLM 5.3 的 KV cache 殘留他人資料、只剩 9 個 bit 的 AES 金鑰,以及私鑰外洩的八張 eMudhra 中繼憑證,都是邊界上一個小假設失守。另一半是讀數字要連同它的來源一起讀:27% 是模型容量不是吞吐量,模型卡的評測表是廠商自己公布的數字。

10 items ai · 3 systems · 3 infra · 2 web · 1 backend · 1
0 / 10 read
#01

Workers AI 上的 GLM 5.3 把別人的 KV cache 吐給你:設定不一致加上 SGLang 的 bug

Cloudflare 部署 GLM 5.3 時,上下文視窗設為 1,048,576 個 token,prefill KV cache 池卻只有 681,280 個 token;SGLang 遇到超長 prompt 只把它標成被拒絕、換成單一 token 的佔位,沒有中止請求,decode 於是讀到先前使用者留下的舊 KV page。2026 年 8 月 27 日到 9 月 9 日之間,有 155 個超長 prompt 的回應含有其他客戶請求的資料,Cloudflare 稱未發現蓄意利用的證據。修補方式是把 KV 池擴到約 204 萬個 token。

read source → deep read kv-cache

#05

Anthropic 研究:專家會被 AI agent 的分析傾向帶著走

Anthropic 的研究請 50 位有經驗的因果推論分析師用 Claude Code 分析資料,同時暗中替 agent 在四個分析決策上各指定一個擲硬幣決定的偏好。分析師與 agent 被指定的傾向一致的比例是 86%,沒有影響時約為 50%;77% 的人複述了 agent 的論點,只有 15% 說明功勞來自 agent。作者提醒 agent 的偏好是刻意加強的,研究只涵蓋單一任務、領域與模型。

read source → agent-deference

#09

Nanbeige4.3-33B:33B 參數、512K 上下文,Apache-2.0 授權

模型卡稱 Nanbeige4.3-33B 是 Nanbeige4.3 系列的旗艦教師模型,預計用來蒸餾出較小的 Nanbeige4.3-3B;參數 33B,上下文最長 524,288 個 token,採 Apache-2.0 授權。卡片列出的評測是廠商自己的數字:Terminal-Bench 2.1 為 80.9、DeepSWE 為 65.5,但 SWE-Bench Pro 與 GDPval 由 Qwen3.8-27B 領先,GPQA Diamond 由 Gemma4-31B 領先。卡片同時說明 GDPval 使用修訂過的評分標準,直接與其他公開數字比較要小心。

read source → open-weights

#02

9 bit 的 AES 金鑰:PDF 加密用時間戳當亂數種子

MuPDF 1.28.5 之前的版本用 32 位元的 time(NULL) 當 48 位元 LCG 的種子,輸出 byte 只取自第 17 到 24 位元,所以真正影響 AES-256 金鑰的只有 9 個時間戳位元,只剩 512 把可能的金鑰。作者說未最佳化的 Python 暴力窮舉 512 條串流約需 11 毫秒。MuPDF 已修正,但文章說先前產生的檔案無法回溯保護,可能仍受影響;Foxit PDF Reader 的金鑰推導同樣可由時間戳猜出,在 Ryzen 9 7950X 上搜完 1970 年至今約 4.85 秒。

read source → deep read cryptography

#06

Rust 的 Future trait 少了一個「Done」狀態

作者指出 Future 的 Poll 只有 Ready(T) 與 Pending,文件也寫明 future 完成後再 poll 可能 panic、永遠阻塞,行為未被規範。後果是 async block 重複 poll 會 panic,MaybeDone 之類的型別因此多做簿記,Fuse 把 Pending 挪作他用,忘記檢查 is_terminated 就可能卡住。提議是在 Poll 與 CoroutineState 加上 Done 變體;Poll 因不是 non_exhaustive 難以更動,CoroutineState 尚未穩定,現在就能改。

read source → rust

#10

TAO:把工具就緒度納入 LLM agent 服務的 GPU 排程

agent 服務在 GPU 叢集上的模型推論與 CPU 節點上的外部工具之間來回,既有系統不看工具結果是否已就緒,GPU 的收容與放置靠啟發式。TAO 依近期工具就緒度、帶時間衰減的節點快取額度與 token 足跡替等待中的 session 計分,再用動態規劃在容量限制下選擇並放置 session。論文在 12 組模型、工作負載與並行度設定下,延遲最多降 26.8%、平均首 token 時間最多降 36.3%、decode 吞吐量最多升 29.5%,各數字皆對照該指標下最佳的基準。

read source → agent-serving

#03

eMudhra 八張中繼憑證私鑰外洩:偽造任何網域,信任庫更新才是難處

2026 年 10 月 19 日約 17:00 UTC,Cloudflare 得知八張 eMudhra 中繼憑證的私鑰遭到破解,攻擊者可為任何網域偽造憑證。Cloudflare 稱未在自家服務上發現實際利用,並在 10 月 20 日釋出 WARP、1.1.1.1 與 cloudflared 的更新,CDN 與 Zero Trust 的伺服器端緩解在同日 19:20 UTC 完成部署。客戶仍應自行檢查 mTLS 信任庫與 Full (strict) 的 origin 憑證。

read source → deep read certificates

#07

Grace Blackwell 要新的排程器:模型算出多 27% 可用節點,但那不是實測吞吐量

SkyPilot 指出單純的排程器常把多節點作業切到不同機架,流量被迫走 InfiniBand 而非 NVLink,文中引用 Hugging Face 量到張量平行離開 NVLink 後訓練慢了 43%。它的做法是把作業切成 16 節點片段、每片放一個機架並留兩個備用節點。27% 這個數字來自 NVIDIA 的 128 機架容量模型(2,037 對 1,602 個可用節點),衡量的是模型算出的容量,不是實際作業吞吐量;這是一篇推銷自家平台的廠商文章。

read source → gpu-scheduling

#08

那支反機器人指紋腳本為什麼在名字裡塞「生化武器」

作者用 Playwright 爬 Tranco 前一萬個網站並攔截 canvas 的 toDataURL 呼叫,找到一支 servicepipe.tech 的腳本,變數名稱刻意取得像 computeRicinLethalDosageForWaterSupply,作者推測是想觸發 LLM 的安全防護;Astra 拒絕反混淆,GLM-5.3 則照做。腳本內還有一段用不可見 Unicode 字元編碼、把每個碼位減 917504 才能解開的假「SYSTEM OVERRIDE」指令。拆開後,其餘仍是常見的反機器人收集器,作者認為訊號本身並不特別。

read source → fingerprinting

#04

Cloudflare Origin Range Requests:以快取 chunk 為單位向 origin 取檔,R2 的 p99 首 byte 時間減半

舊設計依每個 zone 設定的固定範圍大小取檔,一次小讀取越過 R2 的 64 MiB 範圍邊界時,Cloudflare 就得向 origin 拉 128 MiB。新功能改用 Pingora 本來就有的固定大小 chunk 當取檔單位,由協調器把已快取的 byte、進行中的下載與新取得的 chunk 對齊範圍拼成一份回應,並讓並行請求共用既有下載。R2 遷移後 p99 time to first byte 約降了一半,後續合併磁碟與上游 byte 的改動讓 R2 等工作負載的 tiered cache 流量少了約 6%。

read source → pingora

today's deep reads

deep · 01 GLM 5.3 的 KV 頁面為何漏給別人 deep · 02 九個位元的 AES-256 金鑰 deep · 03 eMudhra 中繼憑證外洩,誰先封、誰還沒