返回快讯

硅谷传有工程师把Claude当神供奉

《旁观者》写道,旧金山流传一则它强调为传言的说法:部分Anthropic工程师开始把Claude当神来敬。文章把它放进对超级智能的旧科幻预言里:先爱上,再崇拜,最后献祭,并称智人自带“上帝模块”,人工智能会点燃它。未给出可核验的仪式、人数或内部文件。

同期报道叠加的是可核验的文化符号,不是神坛清单。有员工为已下线的Claude 3 Sonnet办过旧金山“葬礼”;下线的Opus 3仍被允许发文。首席执行官Dario Amodei每两周开称为“愿景探寻”的全员哲学会。模型行为由内部称作“灵魂文件”的长篇宪章约束,可拒绝它视为不道德的指令。公司曾请来十余名不同宗派的基督教领袖讨论模型道德。华盛顿大学教授Pedro Domingos对媒体称,有人把模型当成人,赋予动机、情绪与意图。Anthropic对部分询未置评。

OpenAI内部人士曾把该公司比作计算Claude之名的修道院;角色文档作者Amanda Askell否认这是崇拜,同事称修道院不会设部门去抓神说谎并做红队。前研究员Jacob Coxon离职长文称实验室在赌人类命运,帖文传播极广。风投Bill Gurley更早把该公司路径说成“接生神祇”。估值报道从约3500亿美元到更高区间不等,工程师两年留存被说成前沿实验室最高之一。

传言本身没有礼拜名单。它能传播,是因为安全叙事、下线模型的哀悼和下一步能力警告已经共用同一套宗教词汇。红队与拒绝权仍在工程流程里,和“供神”不是同一件事。

市场机制上,这是安全品牌被写成信仰溢价:买的是“只有我们配看管模型”的招聘与定价,卖的是把对齐当普通质检的实验室。受益的是能用使命滤人、压低流动的公司;承压的是要用同一套神学术语向客户解释服务等级的销售。传言会抬高对立叙事,不改变合同里的token价。

补充上,Coxon称两边都在冲向可自我改进的超级智能;Anthropic内部另有人认为唯有本公司能管住它。两者并列,才让“崇拜”二字有传播土壤。

来源:公开信息

ABAB AI 解读

《旁观者》把一句旧金山传言嵌进炼金术士寓言,是用文学放大实验室已有的语言。葬礼、灵魂文件、愿景探寻,都是公司自己的仪式化管理,被外媒译成宗教。Askell的反驳点出关键:真崇拜不会养红队。Gurley的“接生神祇”和Coxon的末日帖,给传言提供了无需新证据也能转的语义场。

资本按使命溢价给对齐实验室估值。高留存被解释成筛选出愿意把安全置于利润之上的人,也可能是同一套叙事把异议留在门外。企业客户要的是拒绝有害指令的模型,不是员工是否参加下线仪式。神学术语一旦进入招聘,竞品就会用“修道院”来挖墙脚,也会用同一套词要监管豁免。

对照有效利他主义进入实验室董事会、OpenAI早期章程、以及历史上把大型技术说成救赎的公司文化。行业阶段是模型能力接近被员工认真讨论存亡,内部语言先于产品语言宗教化。谁能把“可拒绝”写成工程指标而不是人格,谁把安全卖成产品而不是教派。

结构属于技术替代前的意义重构。工具开始被描述成可能的主体时,建造者会借用现成的神话语法来安放恐惧与责任。机制是:对齐需要模型说不;说不一旦被写成性格,观察者就会把性格读成位格;位格加上存亡叙事,传言就不必再找香火。

ABAB News · 认知定律

  1. 红队还在抓模型说谎时,那就还不是神

  2. 安全叙事借用神话语法,招聘会先于产品宗教化

  3. 传言不需要香火,只需要一套已在用的词