以太坊联合创始人Vitalik：AI安全应借鉴治理机制
以太坊联合创始人Vitalik Buterin于9月13日在X平台发文提出，对抗性治理机制设计理论的一个重要应用方向很可能是AI安全，他认为治理系统中长期存在的"委托人-代理人"难题，与AI安全面临的核心挑战存在结构性的"对偶关系"。
他具体对比了两类场景：一类是治理系统中常见的情形——相对不那么精明的委托人（通常是静态算法或一套僵化规则）试图管理更精明、能够钻系统空子的人类代理人；另一类是AI安全领域的情形——人类加上能力较弱的LLM作为委托人，试图监督一个能力远超自己的更强LLM作为代理人。他指出，这两类场景本质上都是"较弱的委托人试图从更强的代理人那里获得理想结果"。
Vitalik强调，限制代理人之间相互合谋的能力，往往能在治理系统中带来显著更好的结果，这一判断延续了他2020年关于协调问题的既有论述；他将这一结论直接延伸到AI安全领域，指出真正的"噩梦场景"并不是单一一个"作恶"模型，而是多个强大模型以人类监督者难以察觉或理解的方式相互协调行动。
在具体机制上，他点名了此前在治理领域已被验证的几类"反合谋"工具，包括二次方投票（quadratic voting）、承诺-揭示（commit-reveal）方案，以及身份验证层，认为这些机制同样可以被移植应用到AI系统的安全设计中。
他进一步提出，未来对AI能力的约束，形态上可能更接近一整套包含规则、权限、裁决和记录机制在内的制度体系，而不只是单纯设置技术层面的"沙箱"隔离；这一思路与他今年2月提出的"AI管家"（AI stewards）设想一脉相承——彼时他建议在DAO治理中引入AI管家角色，作为代币持有者与复杂决策之间的中间层。
来源：公开信息
ABAB AI 解读
Vitalik长期在以太坊治理体系中试验各类反合谋机制——他此前主导推动了二次方投票和二次方融资（quadratic funding）在Gitcoin等公共物品资助场景中的落地，也曾提出灵魂绑定代币（soulbound tokens）用于建立不可转让的身份和声誉体系，这些历史实践都是他这次AI安全类比论述的直接素材来源，而非临时构想。
与传统AI安全研究更多依赖训练阶段的"对齐"技术（如强化学习人类反馈）不同，Vitalik提出的路径本质是把以太坊生态过去多年在治理代币分配、公共物品资助上投入的机制设计资源和经验，直接迁移复用到AI安全这一全新但结构相似的问题上——这种"资源迁移"不涉及资金投入，而是知识和机制模板的复用，动机在于避免AI安全领域从零开始重新发明治理工具。
这种"用治理机制设计解决AI安全"的思路，与传统AI安全学界主流的"对齐研究""可解释性研究"路径形成互补而非替代关系，更接近于把区块链治理十余年积累的"如何防止利益相关方合谋作恶"的实战经验，横向迁移到一个新兴且更高风险的领域；行业位置上，这一提法出现在Anthropic、OpenAI等头部AI实验室CEO集体呼吁"放缓开发、引入第三方评估"的同一周，为这场安全监管讨论提供了一条来自加密治理领域、此前较少被主流AI安全讨论纳入的技术路径。
本质上这是一次监管工具箱层面的技术替代——如果Vitalik的类比成立，意味着应对AI失控风险的机制设计，未必需要依赖对AI模型本身能力的直接限制（如放缓训练、限制算力），而可以像区块链治理一样，通过外部制度设计（权限分层、可验证的决策记录、防合谋投票机制）来约束多个AI代理之间的协调行为；机制上，这种思路把AI安全问题从"如何让单个模型更安全"，重新定义为"如何设计一套让多个强大代理无法合谋作恶的制度环境"，这与Amodei等人呼吁的"放缓速度"路径是两种不同层面的应对方案——前者做减法（减慢能力），后者做加法（叠加约束机制）。
ABAB News · 认知定律
管得住合谋，就管得住系统。
治理机制不分链上链下，能防人作弊就能防AI作弊。
约束AI，靠的不是关笼子，是搭一整套制度。