Anthropic CEO Dario Amodei回应安全组织质疑

ai安全组织encode法律总顾问nathan calvin在x发长文，质问anthropic是安全组织还是全力竞赛造出超级智能的选手。ceo dario amodei随后亲自回复。

起因是politico报道anthropic私下向国会传阅一份联邦ai法案草案。草案规定，政府叫停模型需证明其迫在眉睫地可能造成50人以上死亡或重伤，或超过10亿美元损失。calvin认为门槛过高，且预占部分州法。

calvin指出，anthropic过去一年签下约5000亿美元算力协议，内部由claude主导的研发比例从年初近零升至8月的26%，并改版安全规则删掉“风险控制不住就主动暂停”的承诺。他问，为何失误总恰好有利公司。

dario承认部分事项为失误，但不同意整体结论。他表示公司策略一直是“向上竞争”：先做出负责任样板以抬高行业标准，这要求公司处于前沿，因此扩大算力与用ai加速研发属于正常动作。

dario列出公司为安全付出的商业代价，包括生物安全过滤严格到被生物学家调侃、最强mythos级模型延迟数月才大范围开放、不向中国控股公司提供服务，以及本周拿出公司5%股份成立公益基金。

dario承认三处沟通失误：一封给国会的信、一句“没法在第二名位置上做安全”，以及这份法案草案。他认为这些是措辞与团队同步问题，作为ceo承担责任。删掉暂停承诺一项，他认为旧规则过于僵硬，修改合理。

来源：公开信息