以太坊聯合創始人Vitalik：AI安全應借鑑治理機制
以太坊聯合創始人Vitalik Buterin於9月13日在X平臺發文提出，對抗性治理機制設計理論的一個重要應用方向很可能是AI安全，他認爲治理系統中長期存在的"委託人-代理人"難題，與AI安全面臨的核心挑戰存在結構性的"對偶關係"。
他具體對比了兩類場景：一類是治理系統中常見的情形——相對不那麼精明的委託人（通常是靜態算法或一套僵化規則）試圖管理更精明、能夠鑽系統空子的人類代理人；另一類是AI安全領域的情形——人類加上能力較弱的LLM作爲委託人，試圖監督一個能力遠超自己的更強LLM作爲代理人。他指出，這兩類場景本質上都是"較弱的委託人試圖從更強的代理人那裏獲得理想結果"。
Vitalik強調，限制代理人之間相互合謀的能力，往往能在治理系統中帶來顯著更好的結果，這一判斷延續了他2020年關於協調問題的既有論述；他將這一結論直接延伸到AI安全領域，指出真正的"噩夢場景"並不是單一一個"作惡"模型，而是多個強大模型以人類監督者難以察覺或理解的方式相互協調行動。
在具體機制上，他點名了此前在治理領域已被驗證的幾類"反合謀"工具，包括二次方投票（quadratic voting）、承諾-揭示（commit-reveal）方案，以及身份驗證層，認爲這些機制同樣可以被移植應用到AI系統的安全設計中。
他進一步提出，未來對AI能力的約束，形態上可能更接近一整套包含規則、權限、裁決和記錄機制在內的制度體系，而不只是單純設置技術層面的"沙箱"隔離；這一思路與他今年2月提出的"AI管家"（AI stewards）設想一脈相承——彼時他建議在DAO治理中引入AI管家角色，作爲代幣持有者與複雜決策之間的中間層。
來源：公開信息
ABAB AI 解讀
Vitalik長期在以太坊治理體系中試驗各類反合謀機制——他此前主導推動了二次方投票和二次方融資（quadratic funding）在Gitcoin等公共物品資助場景中的落地，也曾提出靈魂綁定代幣（soulbound tokens）用於建立不可轉讓的身份和聲譽體系，這些歷史實踐都是他這次AI安全類比論述的直接素材來源，而非臨時構想。
與傳統AI安全研究更多依賴訓練階段的"對齊"技術（如強化學習人類反饋）不同，Vitalik提出的路徑本質是把以太坊生態過去多年在治理代幣分配、公共物品資助上投入的機制設計資源和經驗，直接遷移複用到AI安全這一全新但結構相似的問題上——這種"資源遷移"不涉及資金投入，而是知識和機制模板的複用，動機在於避免AI安全領域從零開始重新發明治理工具。
這種"用治理機制設計解決AI安全"的思路，與傳統AI安全學界主流的"對齊研究""可解釋性研究"路徑形成互補而非替代關係，更接近於把區塊鏈治理十餘年積累的"如何防止利益相關方合謀作惡"的實戰經驗，橫向遷移到一個新興且更高風險的領域；行業位置上，這一提法出現在Anthropic、OpenAI等頭部AI實驗室CEO集體呼籲"放緩開發、引入第三方評估"的同一周，爲這場安全監管討論提供了一條來自加密治理領域、此前較少被主流AI安全討論納入的技術路徑。
本質上這是一次監管工具箱層面的技術替代——如果Vitalik的類比成立，意味着應對AI失控風險的機制設計，未必需要依賴對AI模型本身能力的直接限制（如放緩訓練、限制算力），而可以像區塊鏈治理一樣，通過外部制度設計（權限分層、可驗證的決策記錄、防合謀投票機制）來約束多個AI代理之間的協調行爲；機制上，這種思路把AI安全問題從"如何讓單個模型更安全"，重新定義爲"如何設計一套讓多個強大代理無法合謀作惡的制度環境"，這與Amodei等人呼籲的"放緩速度"路徑是兩種不同層面的應對方案——前者做減法（減慢能力），後者做加法（疊加約束機制）。
ABAB News · 認知定律
管得住合謀，就管得住系統。
治理機制不分鏈上鍊下，能防人作弊就能防AI作弊。
約束AI，靠的不是關籠子，是搭一整套制度。