返回快讯

Telegram 指控下架勒索者利用隐藏色情内容触发苹果短暂下架

Telegram 创始人 Pavel Durov 表示,苹果昨晚曾因用户在公开群组中发布非法色情内容,短暂将 Telegram 从 App Store 下架,随后在数小时内恢复上架。

Durov 称,攻击者通过编辑活跃群组中的旧消息,植入经 AI 修改的非法内容,使其对普通成员“不可见”,并借此绕过人工与自动审核,触发平台举报流程。

他将此类对手定义为“下架勒索者”,其通过自动化账号向公开群组投放违规内容并向苹果举报,试图以应用商店审核机制迫使群组或社区支付赎金。

来源:公开信息

ABAB AI 解读

这次事件的核心不是单纯的内容审核,而是「平台治理被武器化」:攻击者不再直接攻击 Telegram,而是利用苹果的 App Store 审核机制,把违规内容变成触发下架的按钮。

类似案例可对比 2018 年 Telegram 因 CSAM 内容被苹果下架,以及后续各类“举报驱动下架”操纵——区别在于这次加入了 AI 改写、历史消息编辑和隐藏展示,使恶意内容更难被普通用户和自动系统及时识别。

资本路径上,这类“下架勒索”本质是一种低成本高杠杆的敲诈模式:攻击者只需批量账号和内容投放,就能把平台的合规风险转化为真实商业压力,逼迫社区管理者或平台方付费求稳。

本质属于监管变化中的“审核攻击”升级:从单点违规转向流程操纵,机制层原因是 UGC 平台与应用商店的联动,使任何高风险内容都可能被外部行为人放大成分发级事件,平台需要把“审核对象”从内容本身扩展到“审核流程被滥用”的风险。

ABAB News · 认知定律

  1. 最危险的攻击,不是发内容,是操纵规则。

  2. 审核系统一旦可被武器化,举报就会变成生意。

  3. AI 时代的内容治理,先防人,再防内容。