Anthropic CEO Dario Amodei回應安全組織質疑

ai安全組織encode法律總顧問nathan calvin在x髮長文，質問anthropic是安全組織還是全力競賽造出超級智能的選手。ceo dario amodei隨後親自回覆。

起因是politico報道anthropic私下向國會傳閱一份聯邦ai法案草案。草案規定，政府叫停模型需證明其迫在眉睫地可能造成50人以上死亡或重傷，或超過10億美元損失。calvin認爲門檻過高，且預佔部分州法。

calvin指出，anthropic過去一年簽下約5000億美元算力協議，內部由claude主導的研發比例從年初近零升至8月的26%，並改版安全規則刪掉“風險控制不住就主動暫停”的承諾。他問，爲何失誤總恰好有利公司。

dario承認部分事項爲失誤，但不同意整體結論。他表示公司策略一直是“向上競爭”：先做出負責任樣板以抬高行業標準，這要求公司處於前沿，因此擴大算力與用ai加速研發屬於正常動作。

dario列出公司爲安全付出的商業代價，包括生物安全過濾嚴格到被生物學家調侃、最強mythos級模型延遲數月才大範圍開放、不向中國控股公司提供服務，以及本週拿出公司5%股份成立公益基金。

dario承認三處溝通失誤：一封給國會的信、一句“沒法在第二名位置上做安全”，以及這份法案草案。他認爲這些是措辭與團隊同步問題，作爲ceo承擔責任。刪掉暫停承諾一項，他認爲舊規則過於僵硬，修改合理。

來源：公開信息