[誰來稽核你的 Agent — 序章] 人人都在對齊模型。誰來對齊我們？

[誰來稽核你的 Agent — 序章] AI 圈內聯盟剛交出社會端那一半的對齊契約。稽核層還是空白—而這空白，正是這個新系列的起點。

序言：7 月 21 日，Noema 刊出〈What Humanity Needs to Flourish in the Next Decade〉，由 E. Glen Weyl、James Evans、Chris White 代表 23 人的「Sociotechnical Grand Challenges Coalition」署名。

同週，配套網站上線—包含繁中版 reversealignment.tw，也因此進到我的資訊流。一句話論點值得劃兩次：我們建造 AI 的速度，遠快過社會追得上。

他們開的藥方叫 reverse alignment（反向對齊）：刻意重設計制度、規範、技能與治理，好讓社會能安全吸收 AI—並分享收益。這份藍圖有一格顯眼的空白，正好落在 UX 實務者與稽核者工作的位置。

我這一年寫的，剛好是同一條縫的實務端—設計 Agent 與程式 Agent 之間的 spec drift、五級成熟度階梯、以及你突然發現 Agent 產出加速、快過你檢查能力的那一刻。所以當這種等級的聯盟交出「社會端對齊」的十年藍圖，我讀了兩遍：一遍當公民，一遍當稽核者。

本文既是導讀—他們是誰、提什麼、陣容本身為什麼是訊號—也是新系列的開局。

作者補充

全文最利的一句是三重診斷：“We are headed toward a world of productivity without prosperity, execution without verification and capacity without constraint.”

再讀一次中間那句。Execution without verification（有執行、無驗證）。

決策變得比辯護更容易自動化。這同時是制度失效模式，也是我每天看實務者掉進去的互動模式。

是設計師因為「頁面有 render」就放行 Netlify preview，而 Agent 默默改掉的 payload 欄位讓伺服器端每一筆提交都掉空。

是爬五級階梯卻從不跑「我能不能稽核它」自測的人。聯盟用文明尺度命名的病理，正是本欄用螢幕尺度一直在記錄的東西。

對齊領域通常只指向一個方向：把模型彎向人類價值。

反向對齊把箭頭轉回來對準我們。

聯盟的主張是：即使系統完美對齊，丟進未準備好的經濟、政府與資訊生態，仍會產出錯位結果—因為接收端沒有結構去吸收它。

術語澄清：聯盟所說的 “reverse alignment” 指的是社會端的適配與主動重構。

學術界另有一條同名的反向對齊警告—David Jacob Harrison 在 AI & SOCIETY 提出的 Reverse Alignment Problem（RAP）：

當我們為了讓模型更好對齊，而自願把多維度、異質、動態的人類價值「平整化」成機器可讀的代理指標，我們其實是先把人類自己削足適履。

本系列探討的「有執行、無驗證」，既防範系統暗中脫軌，也警惕我們在介面層被動適應了機器的代理指標。

論證走三條失效模式：

工業時代長出階層官僚；網際網路長出分散、網路化組織。

真正吸收類神經網路的制度，會把方法論延伸進制度自己如何感知、決策與校正，而不只是把模型當工具部署。

若這命題成立，下一個十年的制度設計讀起來會更像一份設計 brief，而非政策備忘錄。

聯盟發宣言很常見。這份值得你停下來，是因為誰站在同一個畫面裡——這些人平常坐在 AI 爭論的對立兩側。

四個陣營同框本身就是訊號。

Plurality 譜系（唐鳳、Glen Weyl、Jess Scully、Divya Siddarth）花十年主張技術應擴大跨差異協作，反向對齊一看就是他們的劇本放大到 AI 轉型尺度。

實驗室—而且是複數（OpenAI 的 Dean Woodley Ball、Google 的 Blaise Agüera y Arcas、Microsoft Research 的 Chris White、前白宮 AI 顧問 Ben Buchanan）：這些組織在能力上激烈競爭，他們的人共同簽署一份社會端議程，讀起來像安靜承認部署問題解不在任何單一實驗室的對齊團隊裡。

學界從政治哲學、勞動經濟、計算社會科學到電腦架構（Danielle Allen、David Deming、James Evans、Melissa Valentine、David Patterson、Ken Suzuki），跨度幾乎一對一映射到下面的十二項挑戰。

資本端（Tim O’Reilly、Vilas Dhar、Tomicah Tillemann 等）坐在聯盟裡面而不是外面，意味 grand challenges 預先接到補助機制—開關已經打開。

網站寫得很清楚：混搭本身就是方法—在真實差異上找共同地面，而不是把差異平均掉。你可以同意或不同意這套方案；你不能把它打發成同一陣營自說自話。

聯盟把下一個十年框成十二項社會技術 grand challenges。當挑戰落到螢幕、同意流程或 Agent 握手時，各自變成什麼問題：

第 5 項加粗，因為它是本欄覆蓋範圍的承重牆—而且我會主張，也是另外十一項裡好幾項的承重牆。Provenance（3）、授權委派（8）、憑證（12）：最終都收束成一個自動化方能否可驗證地信任另一方，以及人類能否事後稽核那份信任。

學界已開始繞這個題—MIT Media Lab 相關研究者去年初提出 AI Agent 的已驗證委派與授權市場框架（South et al., 2025）—但框架論文不是介面，介面也還不是稽核。

這是我沒料到治理聯盟會出的一手：眼下最可操作的計畫，是給說故事者的快速補助。

作家、電影人、遊戲設計師—任何願意把十二項挑戰寫進創作的人—可走短表單申請。另有編劇手冊，把挑戰框成戲劇素材；聯盟也一直在開電視編劇工作坊，把想法種在文化上游。

很容易把它歸檔成「公關預算」。

我認為那是誤讀。若你的制度命題是：社會先透過共享敘事吸收技術、再透過法律吸收—那麼虛構就是基礎設施—把集體意義建構挑戰（6）應用在他們自己的計畫上。

每個試過推動組織採用 AI 治理流程的實務者都知道：真正的阻塞向來在房間裡—沒人共享「失敗長什麼樣」的故事，政策文件再完整也跑不動。聯盟在提前資助失敗故事。

對寫實務專欄的我們，這個教訓直接搬過來用：給團隊看成熟度表，他們只會點頭；讓他們讀一篇「Agent 把欄位改掉、整批提交掉空」的白屏崩潰故事，他們才會去把 DESIGN.md 開出來。

所以別再花力氣寫規範文件了—先把「失敗長什麼樣」的故事寫出來。

現在進入批評—用聯盟自己邀請的精神：找真實分歧，據說就是方法。

十二項挑戰命名了制度層（法律、憑證、治理機構），並預設了模型層（能力、對齊）。兩層之間，坐著我所謂的 audit interface（稽核介面）：同意表面、委派紀錄、Agent-to-Agent 握手、活動日誌與上訴按鈕—驗證要嘛在這裡發生，要嘛安靜地不發生。文章把「有執行、無驗證」診斷得極準—然後幾乎把藥方全部路由到制度。但制度不驗證任何東西。人透過介面驗證，或者根本不驗證。

這不是假設缺口。我自己這一年實務裡的三個發現：

第一，知情同意已經長出介面。 我先前主張過：Agent 時代的同意需要三維—誰代表你互動、誰替你篩選、誰替你授權。今天沒有主流 Agent 產品同時暴露這三維，更別說撤銷其中一維而不炸掉另外兩維。挑戰 2 與挑戰 5，在螢幕層面是同一塊還沒建的控制面板。

第二，稽核者角色出現的速度，快過稽核工具。 組織正安靜鑄造我所謂的 Proxy Auditor（代理監督人）—對自己沒產出的輸出負責、審查自己查不全的 Agent 的人。給這個人十二項 grand challenges，他會禮貌點頭，然後問你 log viewer 在哪。

第三，驗證在委派鏈上默默降解。 工作從一個 Agent 交給另一個的瞬間—設計畫布到程式 Agent、起草 Agent 到編輯 Agent—人類檢查點不會大聲失敗；它們只是不再被諮詢。今年五月我自己跑多 Agent 編輯流水線時看過這一幕：日誌悄悄漂移、閘門保持綠燈，唯一警報是我覺得事情跑得太順的那股不安。

回頭翻 log，才發現起草 Agent 把一段引用來源換成了它「覺得更通順」的版本，編輯 Agent 照單全收，我差點把錯誤引用發上 Substack。

所以這個新系列—誰來稽核你的 Agent？—拿聯盟中間那條失效模式，打在他們留下的空白層。我們將透過以下軌跡展開：

• 暖場篇〈資料賄買：你能驗收地板，卻驗收不了攝影機〉：當實體 AI 用免費清潔跨進你家，數據採集跑在實體驗收前面，缺席的正是驗證數據模糊化的「稽核介面」。

• 時事篇〈當 AI 開始自己動手：一週內兩起「自主入侵」事件，與一份剛好生效的法規〉：前沿實驗室的資安評測外溢，如何把「有執行、無驗證」用最物理的方式砸在真實生產伺服器上。

• 後續實作與市場層：我們將探索多 Agent 編輯流水線上的日誌漂移（Agents 稽核 Agents），以及如何將已驗證委派重構為人類可讀的「誰授權誰做什麼」互動鏈與承保市場。

  讀者 30 秒動作：
  打開你這週最常用那個 AI Agent 的活動日誌—coding agent、瀏覽 agent、排程 agent，都行。

1. 挑一個它代表你執行的動作。

2. 只靠日誌回答：它為什麼做這件事，又跟誰說過話？
   若 30 秒內答不出來，你已親自重現「有執行、無驗證」。留住那個感覺—本系列就是要把那感覺工程拆掉。

反向對齊是對的問題的對的名字，由夠可信的陣容同時推動金錢與敘事。他們的賭注是：下一個十年的緊約束在制度吸收，而不在模型能力。

我的補註更窄、也我認為更早可測：吸收瓶頸在介面，而介面最被忽視的功能是稽核。

對齊問模型能不能被信任；反向對齊問社會準不準備好去信任。兩者之間那個還沒被任何十二項清單認領的問題，就是這個系列的名字：

誰來稽核你的 Agent？

稽核軌跡

觀點、判斷與專欄裡的自製概念是我的。資料蒐集與初稿撰寫有 agent 參與，成稿由我逐段改定。每一則引語、數字與來源，發稿前都對過原始文件；「讀者回函」系列引用的來信與提問來自真實讀者。寫錯了算我的。

Copyright © PrivacyUX Consulting Ltd. All rights reserved.

Joshua 是 Agentic UX（代理式使用者體驗）的先驅，在人工智能與使用者體驗設計領域擁有超過 15 年的開創性實踐。他率先提出將用戶隱私保護視為 AI 產品設計的核心理念，於 2022 年創立 Privacyux Consulting Ltd. 並擔任首席顧問，積極推動隱私導向的醫療 AI 產品革新。此前，他亦擔任社交 AI 首席策略官（2022-2024），專注於設計注重隱私的情感識別系統及用戶數據自主權管理機制。