返回快讯

研究员David Bellamy:AI造致命病毒说站不住

哈佛博士、现于阿联酋大模型团队做机器学习系统的David Bellamy发文称,自己大概属于同时做过两件事的极少数人:训练过前沿大语言模型,并亲手在实验室设计、合成定制病毒。他认为“人工智能会造出危险病毒杀死所有人”的说法完全站不住。

他随后拆瓶颈:模型可以提出基因组、序列可以合成、甚至可以有感染性,但那往往只是已知病毒的复制或微调。真正卡住的是物理合成、设备与物资,而不是写一段碱基。设计能躲开全部防疫手段的病毒,需要与物理世界反复迭代,不是数据中心里的天才一次写完。

他把恐惧推到极限:一座专做最危险病毒家族、全自动、可用接口遥控的实验室,造价远超一亿美元,且世上没有一座实验室能合成所有可设想的病毒。即便假设它存在,仍要向合成公司下单或自备合成机;前者有序列筛查,后者要把整条供应链搬进室内。他称自己参与过全自动接口实验室建设,眼下还不存在这种设施。

湿实验速度受物理限制:细胞培养和小鼠不会因为模型更聪明而长得更快,基础病毒学实验常要数日,有的超过一周。递归自我改进主要跑在可编程、可即时验证的数字基准上,不能把采购周期、固件接口和动物实验时间一并加速。小鼠有效也不等于人体有效,这与药物研发同一断层。

背景是斯坦福与Arc研究所用基因组模型Evo在培养皿里做出十六种可感染大肠杆菌的噬菌体,训练数据排除了感染人、动物、植物的病原。同期,病毒学能力测试显示部分前沿模型在实验排障选择题上超过多数人类专家。政策圈据此讨论云实验室与越狱模型的生物武器路径。他的结论是:人工智能最多加快检索仪器与规程,不改采购、监管、成本和人体知识缺口。

市场机制上,买方是要监管与安全溢价的模型公司,卖方是把培养皿里程碑写成文明风险的叙事市场。这是事件驱动的对冲:噬菌体论文加离职研究员灭绝预警之后,湿实验出身的人出来把瓶颈从软件扳回硬件。资金继续流向大模型训练与自动化实验室;受益方是强调合成筛查和设备管制的生安机构,承压方是把“数据中心即可灭世”写成减速理由的实验室公关。

来源:公开信息

ABAB AI 解读

Bellamy的履历卡在两条很少交汇的生产线:前沿预训练和亲手合成病毒。Lila一类公司要把科学超级智能送进自动化实验工厂,阿联酋则在训自己的大模型。他用双重现场经验打击的是同一套柏拉图恐惧——代码世界里的递归改进,被直接映射成湿实验室的灭绝速度。这与Amodei把路径分叉写成政策、Coxon把Slack里的残局写成十年末日,构成同一周的对立证词。

资本路径因此分成两套预算。安全叙事要的是评估员、许可证和减速;实验室叙事要的是冷冻柜、培养箱、无接口的老仪器和一年起订的设备。一百万美元级以上的自动化实验室本身就是筛选装置:买得起、装得拢、过得了物资管制的人,本来就不是“提示词玩家”。把风险写在模型输出上,等于把监管枪口对准聊天框,而把合成公司和固件留在阴影里。

类比不是曼哈顿工程,而是药物发现:计算可以提议分子,批准仍卡在动物和人体。Evo做出噬菌体,证明的是细菌病毒这个极小基因组可写,不是人传人病原可量产。VCT分数高,证明的是模型会答实验选择题,不是会把小鼠结果外推到人群。行业阶段是能力演示快于治理、治理又快于对物理瓶颈的诚实描述。

结构判断属于技术替代被说成已经完成,实际上卡在产业链的物理段。机制是:数字基准可通宵迭代,细胞周期按天走。谁把前者的速度派给后者,谁就在卖减速权;谁把后者的摩擦写进前者,谁就在拆这门生意的定价。

ABAB News · 认知定律

  1. 会写基因组,不等于买得到培养箱。

  2. 数字世界通宵迭代,细胞仍按天生长。

  3. 真正的瓶颈往往不在提示词,而在采购单。