2026年菲尔兹奖得主邓煜批评AI公司以防蒸馏为由拒绝公布思维链
2026年菲尔兹奖得主、芝加哥大学数学系教授邓煜(Deng Yu)在10月25日“知识分子”与“赛先生”联合论坛的线上发言中表示,AI公司通过学习或蒸馏人类网络上的所有数学文献,获得无限知识面与极低试错成本,这是其相对人类的优势。他指出,如果将AI视为研究者,就应遵守学术规范;当AI证明重大问题时,一个合理要求是公布其思维链(chain of thought),以便了解思路来源与参考资料。
邓煜称,相关AI公司在公布的证明中,只有极少数真正公布思维链,多数情况下以所谓“防蒸馏”为借口拒绝公布思维链及相关信息。他表示:“对AI公司来讲,你不能在只有你蒸馏全人类的网络文献、全人类的知识的时候,就大大方方地去蒸馏;事实上没有人想要蒸馏你,大家只是想要了解一下思维链,然后你觉得别人想要蒸馏你,就开始说这个不行,那个不行。”他提议可通过开源数学模型,使数学界掌握属于自己的模型,并让模型使用遵循学术界规范,包括数据使用、思维链公布与可追溯性。
邓煜与陶哲轩等25位菲尔兹奖得主此前于9月11日联合签署声明《人工智能在数学中的严重错位》(A Severe Misalignment of AI in Mathematics),警告AI公司以解决知名数学问题作为模型能力基准的做法,与数学共同体追求概念理解的目标存在严重错位。Anthropic等公司近期公开加强防御措施,称已将蒸馏攻击中被提取的数据量减少约90%至99%,并限制推理链访问以防止未经授权的能力提取。
原始来源:
标题:A Severe Misalignment of AI in Mathematics 发布者:Terence Tao(博客转载,邓煜为25位初始签署人之一) 发布日期:2026-09-11 URL:https://terrytao.wordpress.com/2026/09/11/a-severe-misalignment-of-ai-in-mathematics/ 来源性质:数学家联合声明 核验情况:本次读取全文;核验日期2026-10-28。 支持内容:25位菲尔兹奖得主(含Yu Deng)签署声明,指出AI公司以解决数学问题作为基准的做法损害数学科学与共同体,目标与数学共同体严重错位;声明呼吁紧急处理相关问题。
标题:Strengthening our defenses against distillation attacks 发布者:Anthropic 发布日期:2026-10-12 URL:https://www.anthropic.com/research/distillation-defenses 来源性质:公司官方公告 核验情况:本次读取页面可见部分;核验日期2026-10-28。 支持内容:Anthropic称新防御措施将蒸馏攻击中被提取的数据量减少约90%至99%;蒸馏攻击被定义为未经授权大规模提取模型能力并复制到另一模型的隐蔽行动;公司限制推理链访问并禁止相关账户。
标题:菲尔兹奖得主邓煜评论AI公司反蒸馏:你不能只在你蒸馏全人类知识时支持蒸馏 发布者:网易/IT之家等中文媒体(转述论坛发言) 发布日期:2026-10-26 URL:https://www.163.com/dy/article/LA83VNNA0511B8LM.html(及相关报道) 来源性质:中文媒体转述 核验情况:本次读取可见部分;核验日期2026-10-28。用户提供中文材料用于定位线索,不能作为已完成英文核验的证明。 支持内容:转述邓煜在论坛上关于AI蒸馏全人类知识、以防蒸馏为由拒绝公布思维链、以及提议开源数学模型的表述(具体英文原话未在本次英文来源中直接核实)。
ABAB AI 解读
邓煜于2026年7月获得菲尔兹奖,是首位中国籍获奖者,现任芝加哥大学教授,主要研究偏微分方程等领域,并与合作者在狭义希尔伯特第六问题上取得进展。他与陶哲轩等25位菲尔兹奖得主共同签署9月声明,针对AI公司将解决重大数学问题作为能力基准的做法提出批评,认为这与数学共同体追求概念理解与思想传承的目标错位。10月论坛发言进一步聚焦思维链公布问题,将AI公司训练时使用全人类知识与拒绝公布自身模型推理过程进行对比。
Anthropic等前沿AI公司公开将未经授权的大规模蒸馏定义为“攻击”,并部署分类器、保留思考限制与账户封禁等措施,称已将相关数据提取量降低90%至99%。公司强调自身内部蒸馏(用于生成更小模型)为合法行为,而竞争对手通过虚假账户大规模提取能力则违反服务条款。邓煜的表述则将这一防御措施置于学术规范框架下,认为数学证明的思路来源应可追溯,拒绝公布思维链阻碍了人类对证明过程的理解与后续发展。
对比数学共同体与AI公司的立场,前者强调证明的价值在于概念理解、思想传承与可验证的来源追溯,后者则将模型能力与推理链视为核心知识产权,通过技术与合同限制防止竞争对手低成本复制。邓煜提议数学界发展自主开源模型,以减少对商业AI公司的依赖,并在数据使用与思维链公开上遵循学术惯例。当前公开信息中,邓煜的具体论坛发言主要见于中文转述,英文一手来源主要覆盖联合声明与公司防御公告。
此次发言使2026年菲尔兹奖得主邓煜将AI公司训练时对全人类知识的使用,与其以防蒸馏为由限制思维链公开的做法并列批评。联合声明已将AI公司目标与数学共同体目标的错位公开化,而Anthropic等公司则通过技术措施与公开报告强化对蒸馏的防御。思维链是否应作为学术规范要求予以公开,仍取决于数学共同体与AI公司在可追溯性、知识产权与安全限制之间的具体安排。
ABAB News · 认知定律
AI公司训练时使用全人类公开知识,与拒绝公布自身模型推理过程的做法,可被数学家视为规范上的不对称。
以防蒸馏为由限制思维链公开,使重大证明的思路来源难以追溯,与数学共同体强调思想传承的惯例产生张力。
25位菲尔兹奖得主的联合声明,将AI公司以数学问题作为基准的做法,公开定性为与数学目标的严重错位。