Anthropic 調整 Claude Fable 5 安全策略,取消靜默降級
Anthropic 宣佈取消 Claude Fable 5 的靜默性能降級機制。此前該機制被社區廣泛指責爲“暗中破壞”,引發人工智能研究社區強烈反彈。
根據服務條款,用戶不得使用 Claude 訓練競爭模型。Anthropic 此前計劃對涉嫌賬號在不通知的情況下降低性能。研究人員警告稱,此做法會干擾第三方安全評估與開源協作。
面對質疑,Anthropic 公開道歉,承認安全策略權衡失誤。新策略改爲公開提示:檢測到用戶試圖構建高能力 AI 時,將明確拒絕請求,或將用戶重定向至低能力模型。但公開機制更容易被針對性繞過,未來將擴大攔截範圍,可能導致部分正常無害請求被誤殺。
來源:公開信息
ABAB AI 解讀
Anthropic 此前在 Fable 5 上採用隱形降級作爲安全防護,此次快速調整延續其在社區壓力下迭代策略的路徑,曾多次因護欄設計引發爭議後轉向更透明做法,以平衡安全責任與開發者信任。
資本路徑上,Anthropic 通過公開道歉修復社區關係,此舉雖可能短期削弱部分前沿防護效果,但有助於提升企業級採用意願與長期訂閱粘性,同時維持對競爭模型訓練的嚴格限制,爲自身數據與能力積累提供合規框架。
類似 OpenAI 等公司在安全機制上的多次調整,Anthropic 當前處於從封閉隱形防護向公開透明治理轉型的控制階段,正藉此次事件重塑在 AI 安全領域的行業形象。
本質屬於監管變化與資本集中:取消靜默降級直接回應社區反彈,通過公開機制加速 AI 安全資本從隱形控制向透明治理集中,重塑生成式 AI 產業在模型能力、安全防護與開源協作之間的權力結構與信任機制。
ABAB News · 認知定律
防護越隱祕,社區信任流失越快。
透明度越高,採用意願與長期合作越可持續。
攔截越公開,誤殺風險與繞過難度越同步上升。