vatt'ghern jaskier's ballads

2026.08.23 —— 今日 10 則

TODAY'S THREAD 今天十則裡有五則都在講基礎設施被 AI 用量逼著重新設計——電力、負載平衡、串流 autoscaler 陸續補洞;另一邊一個 shell 內建指令的漏洞,讓核准過的白名單形同虛設。

10 items ai · 2 systems · 1 infra · 5 web · 1 backend · 1
0 / 10 read
#05

同一支 PR,LinkedIn 派好幾組 AI 分頭審

LinkedIn 讓多組獨立的模型/harness 組合平行審查同一支 PR,再去重、交叉驗證彼此的意見,跑出 63.9% 的建議採用率與 99.1% 的任務完成率。系統另外用全域、repo、組織三層規則,依專案調整審查標準,而不是套用同一套規則審查每個 codebase。

read source → deep read ai-code-review

#10

本地端跑 LLM,Ollama、vLLM、SGLang 該選誰

三套自架 LLM 推論引擎的差異被整理成一篇對照:batching 策略與記憶體管理方式不同,決定了各自適合的部署規模與吞吐量取捨。從 Ollama 單機起步、開始考慮要不要換成 vLLM 或 SGLang 的團隊,可以直接拿這篇當選型依據。

read source → llm-serving

#06

壓到 100MB 以下,Rust Glancer 挑戰 rust-analyzer 的記憶體用量

新專案 Rust Glancer 把常駐記憶體目標壓在 100MB 以下——作者是在自己某個 workspace 上看到 rust-analyzer 吃掉 16GB 記憶體後動手寫的,兩個數字分屬設計目標與個案自述,不是同一份 benchmark。長期被 rust-analyzer 吃記憶體所苦、筆電開大型 workspace 就風扇狂轉的開發者,現在多了一個可以直接比較的對照組。

read source → deep read rust

#01

同時養兩套 Flink autoscaler,Netflix 還沒決定收斂成一套

Netflix 表示,團隊平行維運自研與開源 Kubernetes operator 兩套 Flink autoscaler,橫跨三萬多個串流作業。兩套系統在資源預測、scale down 時機上走不同路線各有優劣,團隊把實際運維下來的取捨攤開講,還沒有直接收斂成一套。

read source → flink

#04

QPS 量不出 AI agent 的真實負載,Google 提出新演算法

長駐、有狀態的即時 AI agent 串流,讓傳統 QPS/CPU 負載指標失靈——一個 session 可能長時間佔用連線卻不觸發任何 QPS 尖峰。Google 這篇架構文章提出一種混合容量模型,把 active session 數與使用率換算成等效速率,用來避免單一後端被靜靜撐爆。

read source → load-balancing

#07

AI 機房要撐得住,電先要換成 800 VDC

NVIDIA 認為要繼續拉高 AI 運算密度,資料中心得從現行配電架構換成 800 VDC,才不會先在電力這一關撞到天花板。這牽涉的不是單一元件汰換,而是整座機房供電架構的轉向。

read source → datacenter-power

#08

省電多管齊下,Dropbox 每 PB 電費砍過半

Dropbox 因應持續成長的容量需求,從容量規劃、機隊管理到硬體生命週期做系統性的效率工程;2020 年以來,整體儲存基礎設施每 petabyte 的耗電量已經改善超過一半,代號 Deep Sleep 的閒置降耗機制是其中一項技巧。團隊同時靠監控硬體效能表現延長服役年限,不再只按固定週期汰換。

read source → datacenter-efficiency

#09

一秒一百萬則訊息,LY 還是把 Kafka 加密了

LY Corporation 表示,在 LINE App 內、每秒約一百萬則訊息規模的 Apache Kafka 管線上疊加端對端加密。這篇文章談的是在這個吞吐量下,加密與金鑰管理要怎麼取捨,才不會讓延遲或維運成本先垮掉。

read source → kafka

#02

robots.txt 只寫一次,Cloudflare 幫你同步分身

Cloudflare 推出 Bot Preference Sync,依 BotBase 追蹤的 Search、Agent、Training 三類機器人清單,自動把 AI 政策寫進 robots.txt。網站可以擋訓練用爬蟲、同時放行合作的搜尋與代理流量,不必逐條手動維護規則清單。

read source → robots-txt

#03

你核准過的指令,被 export 一行改了意思

CVE-2026-22708:export、typeset、declare 這類 shell 內建指令能悄悄改掉 PAGER、PYTHONWARNINGS 等環境變數,讓 Cursor 已經核准過的白名單指令,執行時其實變了樣。Docker 用 microVM 隔離、預設拒絕網路的 Sandbox 架構因應,主張這類問題得靠系統性隔離解決,人工審核指令字面擋不住這條路。

read source → deep read agent-security

today's deep reads

deep · 01 你核准過的指令,被 export 一行改了意思 deep · 02 同一支 PR,LinkedIn 派好幾組 AI 分頭審 deep · 03 壓到 100MB 以下,Rust Glancer 挑戰 rust-analyzer 的記憶體用量