Anthropic CEO：如果AI被滥用，一个人就能按下按钮操控1000万架无人机军队

Anthropic首席执行官Dario Amodei在CBS News采访中警告，AI驱动的全自主武器技术一旦成熟，一小群人甚至单个人就能指挥数百万到上千万架无人机蜂群，取代传统军队的问责链条，权力高度集中到“按按钮”级别，可能导致误杀、滥用或民主倒退。

这一警告引发传播，因为它直接点出AI军事化最极端场景：在乌克兰战场已见部分自主无人机雏形的基础上，强大AI可协调百万级蜂群执行复杂任务，远超人类士兵规模和速度，但缺乏人类判断的“常识”和拒绝非法命令机制，Amodei强调当前前沿模型不可靠，无法支撑全自主武器（易出现不可预测错误），且监督问题无解——“谁按按钮、谁有否决权”尚未讨论清楚，凸显AI从防御工具转向潜在独裁武器的双刃剑，尤其在当前伊朗战争中，美军已使用部分AI辅助目标选择，此类技术若无严格护栏，可能放大战场失控风险。

Amodei在Anthropic官网声明和多场访谈中反复重申两条“红线”：拒绝为大规模国内监视和全自主武器提供技术（后者需人类始终在环），他视此为捍卫民主价值观的核心底线，同时承认部分自主武器对保卫民主至关重要，但强调需先解决可靠性和问责问题，否则“权力过于集中是行不通的”。

来源：公开信息