François Chollet发文称,AI产业的目的应是制造握在人手中、提升人类繁荣与福祉的工具
François Chollet发文称,AI产业的目的应是制造握在人手中、提升人类繁荣与福祉的工具,而不是创造人类的“继任物种”; entertain这一想法即事实上成为所有现在与未来人类的敌人。
Chollet为Keras深度学习库作者,2015年发布该库后加入Google,任职至2024年11月,期间为Senior Staff Engineer并参与TensorFlow。他2019年发布ARC-AGI基准,用于测量系统在新颖推理任务上的泛化能力,而非可提前刷题的技能。
2024年他与Zapier联合创始人Mike Knoop共同发起ARC Prize,首届奖金100万美元,目标是在私有评测集上达到85%准确率;此后扩展为ARC Prize Foundation非营利组织,2026年赛事总奖金超过200万美元,并推出交互式ARC-AGI-3环境,人类满分、前沿智能体低于1%。
他于2024年11月离开Google后与Knoop创办Ndea,方向是程序合成路径的通用智能,而非单纯扩大语言模型规模。其公开立场长期反对将当前技术外推为灭绝风险或自主接管,认为现有系统缺乏自主性,最强编码智能体仍需人手把持。
他同时强调智能大量外化在文明与文化中,单独个体接近猿类;并指出若AI造成长期损害,更可能类似汽车或快时尚的公地悲剧,而非超级反派接管。近年他也承认合成疫情等生物风险可能被AI放大,属于需认真对待但非当前优先灭绝叙事的真实风险。
市场机制上,超级智能与“继任物种”叙事被用于融资、人才争夺与监管游说,资本流向大规模训练集群与封闭实验室;工具论与基准竞赛则把资源导向可验证的泛化测试与开源评测。受益方是能把AGI叙事兑换成估值与算力配额的实验室,承压方是坚持人手工具定位、难以按同一故事线募集同等资金的研究路径。
来源:公开信息
ABAB AI 解读
Chollet过去十年的路径是先做Keras这类把深度学习交到开发者手里的接口,再在Google内部把该接口嵌进TensorFlow,最后用ARC把“刷题式能力”和“新颖任务泛化”切开。离开Google创办Ndea,是把同一逻辑从库与基准推进到程序合成实验室,而不是加入当时正在扩大的端到端缩放阵营。
资本与注意力在2023年后明显偏向能讲“下一代物种/可控超级智能”故事的封闭实验室,算力、人才与政策窗口随之集中。Chollet一侧调动的是奖金、公开私有集、非营利基金会和与Knoop的联合创业,把评测权留在可复现的网格与交互环境里,而不是把叙事权交给不可审计的内部演示。
类似位置出现过多次:早期反对“强AI即灭绝”的工程派把资源投向工具链与基准,而安全叙事派把资源投向治理框架与大型预训练。当前阶段属于扩张期中的路线争夺——一边用规模换叙事,一边用不可提前准备的任务换定义权。
结构判断属于定价权转移:谁定义“智能已足够接近继任者”,谁就能给算力、监管与估值定价。机制是评测集一旦可被刷、演示一旦不可复现,定价权就从可检验的工具性能转到不可证伪的物种叙事。
ABAB News · 认知定律
叙事能募资时,评测就会变成政治。
工具交到人手中,物种叙事就失去定价权。
继任者故事卖的是恐惧,工具故事卖的是控制权。