OpenAI調查將“goblin”問題追溯至已退役“Nerdy”人格訓練污染
OpenAI內部調查發現,模型出現的“goblin”異常行爲(可能指特定異常輸出或人格偏差),根源是訓練數據中殘留的已退役“Nerdy”人格特徵造成污染。
“Nerdy”人格曾在早期測試階段使用,後被正式移除,但部分相關數據未完全清除,導致當前模型在特定提示下觸發殘留行爲。
開發者與企業用戶調整提示工程與系統指令,資金從通用模型調用轉向強化對齊、數據清洗與安全過濾工具,OpenAI安全與對齊團隊受益,依賴未清洗歷史數據的模型版本面臨信任與可用性壓力。
來源:公開信息
ABAB AI 解讀
OpenAI此前在GPT-4o及o系列迭代中多次引入不同“personality”進行A/B測試與對齊實驗,“Nerdy”作爲早期內部測試人格已被正式退役,此次“goblin”問題暴露了訓練流程中歷史人格數據未徹底清除的遺留風險,延續其從“快速迭代”向“嚴格數據衛生”轉變的路徑。
資本路徑上,OpenAI正加速實施更嚴格的訓練數據清洗與人格隔離協議,同時加大對齊團隊投入,通過RLHF與憲法AI等技術強化邊界控制,避免類似污染擴散至商用版本,相關安全支出將成爲下一代模型訓練的固定成本項。
類似早期GPT模型出現的“DAN jailbreak”與人格泄漏案例,此次處於大模型訓練從“混合人格快速實驗”向“零殘留數據治理”轉型的中期,“goblin”事件已成爲內部數據管道優化的觸發點。
本質屬於技術替代:傳統依賴人工審覈與簡單過濾的訓練數據管理被更嚴格的污染追蹤與隔離機制替代,OpenAI通過調查將歷史人格殘留從“可接受副產品”升級爲必須徹底清除的風險點,重構模型訓練從“快速混用”向“可審計零污染”的數據治理機制。
OpenAI