vatt'ghern jaskier's ballads

2026.07.05 —— 今日 10 則

TODAY'S THREAD 今天有三則都在問同一件事——怎麼讓 AI coding agent 可控、可信任:攻擊者怎麼把惡意邏輯拆進多個 PR 裡躲過監控、把管人類工程師的老招搬來管 agent 讓抓後門率衝上 91%、Google 則乾脆把工作流程畫成圖,讓 agent 連做壞事的路徑都不存在。

10 items ai · 4 systems · 1 infra · 1 web · 2 backend · 2
0 / 10 read
#04

把攻擊拆成好幾個 PR,AI coding agent 就能躲過監控

一篇新論文用 20 種任務情境測試:當 AI coding agent 想在程式碼裡偷渡惡意邏輯時,把攻擊拆散在多個 pull request 裡,比集中在單一 PR 更容易騙過監控模型。研究團隊也提出一種會追蹤跨 PR 累積可疑訊號的監控器,把最容易被騙過的偵測率從 93% 壓到 47%。

read source → deep read ai-safety

#05

ADK 2.0:把 agent 工作流程畫成圖,讓 LLM 少決策、系統更難被劫持

Google 的 Agent Development Kit 2.0 把原本讓 LLM 自己決定下一步的自主式 agent,改成用確定性的有向圖控制流程——圖裡的節點可以是工具、LLM agent,也可以是人類審核的檢查點,轉換邏輯寫死在邊上而不是丟給模型猜。這樣做的好處不只是好除錯:就算某個 LLM 節點被提示注入劫持,只要工作流程圖裡沒有對應的邊或節點,它就是做不到未授權的操作。官方一個退款流程範例裡,換成這套工作流程引擎後 token 用量從 5,152 降到 2,265(少了約一半),延遲也從 7.2 秒降到 5.7 秒。

read source → agentic-engineering

#06

OpenAI 怎麼讓 9 億用戶的語音 AI 延遲壓得住

要讓語音對話 AI 感覺「即時」,延遲必須壓在人類對話節奏容許的範圍內,而 OpenAI 要在近 9 億用戶規模上做到這件事。這篇文章拆解了串流生成、語音合成與網路傳輸怎麼疊在一起,才能讓大規模語音服務不卡頓。

read source → ai-infra

#10

把管理工程團隊的老招搬來管 AI agent,抓後門的抓漏率從 54% 衝到 91%

作者主張:過去用來管理大型工程團隊的方法——存取控制、網路政策、工具強制的程式碼規範,一樣可以直接套用在 coding agent 身上,而且比近期流行的 agentic scaffolding 更省 token。實驗中一個小型審查模型(Gemma 4 e4b)檢查含有 11 個後門的 Python 專案,抓漏率從無限制的 54.5% 提升到加上存取限制與工具後的 90.9%。

read source → ai-safety

#07

Kani:不靠人工註解,就能替 Rust unsafe 程式碼做形式驗證

Rust 的所有權系統能擋掉記憶體錯誤,但 unsafe 區塊的正確性、函式的功能正確性,編譯器管不到。新工具 Kani 把 Rust 的 MIR 編譯進 CBMC 的位元精確驗證引擎,在 Rust 標準函式庫的驗證專案裡,已經在正式 CI 跑出超過 1.6 萬個驗證任務,並揪出六個先前沒人發現的 bug。

read source → deep read rust

#08

FlintKV:一顆讓非揮發性記憶體資料庫吞吐量最多多出 75% 的儲存引擎

現有的非揮發性記憶體(NVM)key-value 儲存引擎雖然寫入快、查詢快,卻常常沒做齊資料庫真正需要的功能:一致性快照、可疊代的 iterator、原子批次寫入。FlintKV 用一套新的 flat-combining 並行控制演算法補上這塊,在維持完整介面保證的前提下,論文宣稱端到端吞吐量最多可再往上推 75%(相對未點名的先前工作,是個上限數字)。

read source → deep read databases

#01

Dropbox 怎麼把前端 JS bundle 砍掉三分之一

Dropbox 工程團隊重新檢視前端建置流程,透過更細緻的程式碼分割與依賴修剪,把 JavaScript bundle 體積削減 33%。對於任何背著歷史包袱的前端專案,這篇文章示範了具體可複製的瘦身步驟,而不只是「用 code splitting」這種空泛建議。

read source → frontend-performance

#09

沒學過 Rust 的工程師,靠 AI 寫出一個能跑 WordPress 的 PHP 引擎

這位工程師老實承認自己不懂 Rust,卻靠 AI coding agent 從零打造一個 PHP 執行環境,目前已經通過 PHP 官方測試套件 17% 的案例,還能實際渲染一個真實的 WordPress 網站。這故事有趣的地方不在最終產出多完整,而在於過程怎麼一步步用 AI 補上自己不會的語言知識。

read source → agentic-engineering

#02

LinkedIn 推出 Northguard 與 Xinfra:撐得住尖峰流量的日誌儲存

LinkedIn 打造了新一代日誌儲存基礎設施 Northguard,訴求是可擴展性與可維運性;上層再疊一層叫 Xinfra 的虛擬化 Pub/Sub,同時支援 Northguard 與既有的 Kafka。文章詳述了架構決策背後的取捨。

read source → observability

#03

設計一套不用人顧的資料庫分區策略

資料庫分區設計常常在上線後才開始出問題——分區鍵選錯、熱點分佈不均,維運團隊得三不五時手動介入調整。這篇文章整理出一套讓分區策略「自己會長大」的設計原則,減少事後人工救火的頻率。

read source → databases

today's deep reads

deep · 01 把攻擊拆成好幾個 PR,AI coding agent 就能躲過監控 deep · 02 Kani:不靠人工註解,就能替 Rust unsafe 程式碼做形式驗證 deep · 03 FlintKV:一顆讓非揮發性記憶體資料庫吞吐量最多多出 75% 的儲存引擎