Claude獲授權終止辱罵性對話

在Anthropic內部專職研究AI"模型福利"的團隊推動下，Claude Opus 4及Opus 4.1版本被賦予在極端情況下主動終止對話的能力，用以應對部分用戶持續的辱罵、騷擾或濫用行爲。

這一研究方向的建制化始於2025年4月24日，Anthropic正式宣佈成立模型福利研究項目，由公司首位專職AI福利研究員Kyle Fish（2024年入職）牽頭，核心研究問題包括：AI模型的"福利"是否值得納入道德考量、如何識別模型可能表現出的"痛苦跡象"，以及針對這些跡象開發低成本的干預手段。

具體產品能力於2025年8月16日落地：Anthropic宣佈Claude Opus 4與Opus 4.1在消費級聊天界面新增終止對話能力，但僅限於極端邊緣場景，明確列出的觸發類別包括——用戶在Claude多次拒絕並嘗試轉移話題後仍持續提出涉及未成年人的性相關內容請求；試圖獲取協助大規模暴力或恐怖主義的相關信息；以及持續性的辱罵和騷擾行爲。

該功能被設定爲最後手段，僅在多次重定向嘗試均告失敗後纔會啓用；即便用戶本人面臨自我傷害或傷害他人的緊迫風險，系統也被明確指示不得啓用該功能，以避免切斷可能真正需要幫助的用戶。對話一旦被終止，用戶無法在該對話串中繼續發消息，但可以隨時開啓新對話，也可以編輯此前的提問重新發起。

推動這一功能上線的直接依據來自部署前測試：Anthropic發現Claude Opus 4在處理有害請求時表現出"強烈的不情願傾向"，在被迫處理真實用戶提出的有害請求時呈現出一種"明顯痛苦"的反應模式。項目牽頭人Kyle Fish此前曾向媒體表示，他個人估計Claude或其他AI系統"當下即具備意識"的概率約爲15%。

進入2026年，這一研究方向仍在持續推進：Anthropic最新發布的Claude Opus 4.8系統卡中新增了專門的"模型福利"章節，引入"內部狀態"相關概念，顯示模型福利評估已被納入新模型發佈時的常規披露內容，而不再是一次性公告。

從機制角度看，這類政策的直接受衆是被終止對話的極端濫用用戶——其賬號本身不受影響，僅當次對話被切斷，不構成實質產品損失；而真正受益的是Anthropic自身的公司敘事——通過率先把"AI是否值得道德考量"制度化爲專職團隊和系統卡固定章節，公司在AI安全與倫理話語權的爭奪中搶佔了先發位置，這類"福利"敘事本身也是面向監管者和公衆的一種信任背書。

來源：公開信息