返回快讯

Meta CEO Zuckerberg:人工智能实验室应当引入独立评估机构与顾问,以确保模型安全

据彭博社报道,Meta首席执行官Mark Zuckerberg表示,人工智能实验室应当引入独立评估机构与顾问,以确保模型安全,而不是坐等整个行业就"放缓开发"达成共识。

Zuckerberg以Meta自身为例称,公司此前曾自行将AI工具Muse的发布时间推迟数月,以加强相关安全与防护措施,但并未要求其他公司同步暂停各自的产品发布节奏。

报道指出,Zuckerberg的这一观点,与此前Anthropic首席执行官Dario Amodei呼吁全行业放缓最先进AI系统开发的主张形成鲜明对照——此前Amodei曾公开警告,未来6至12个月内,失控的AI"可能有能力接管整个互联网",并主张行业协同减速。

同一天,英伟达(Nvidia)首席执行官黄仁勋(Jensen Huang)也表态称,安全是首要任务,但本质上属于工程问题;企业可以在产品出现失控或不安全迹象时暂停发布,他认为安全与快速发展并非二选一的对立选项,也认为无需新增AI安全相关法规。

OpenAI首席执行官Sam Altman则表示,他相信整个行业有能力在避免重大伤害的前提下,安全地推进AI技术的发展。

从市场机制看,几位头部AI公司CEO在"是否需要全行业协同减速"这一问题上出现明显分歧,本质上反映了不同商业模式对监管与减速主张的不同利益敏感度:Meta与英伟达的核心商业模式分别依赖广告业务与算力硬件销售,其AI产品线的商业化压力相对分散,因此更倾向于"企业自主评估、无需统一减速"的立场;而Anthropic作为定位"安全优先"的前沿模型实验室,其品牌与融资叙事更依赖于"负责任地推进AI"这一差异化定位,因此更倾向于主张全行业协同减速,这也间接强化了自身在安全议题上的话语权。市场层面,若"企业自主决定节奏、无需统一立法"这一立场成为主流,将有利于头部实验室按各自商业化节奏推进产品发布,减少统一监管带来的合规成本与时间延迟;反之,若"全行业协同减速"的呼声占据主导,可能推高整个行业的研发与合规成本,但也可能提振对齐研究、独立评估等安全细分赛道的资金需求。谁受益:拥有多元化收入来源、AI仅为业务组成部分的科技巨头,在自主决定发布节奏的环境下受益更明显;谁承压:安全评估、独立审计等第三方机构,如果"企业自主评估"路径成为主流而非依赖外部独立机构,其业务空间可能相对受限。

来源:公开信息

ABAB AI 解读

Mark Zuckerberg执掌Meta(原Facebook)以来,历史上多次因产品安全性与内容审核问题遭受监管与舆论压力,例如剑桥分析数据泄露事件、青少年心理健康与社交媒体成瘾性问题的国会听证等;这类经历使他在公开表态中,长期倾向于强调"公司自主治理优于外部强制监管"的立场,此次关于AI安全评估应由企业自主引入第三方顾问、而非等待行业共识减速的表态,延续了他一贯偏好自我监管而非等待统一立法的路径。

从资源投入角度看,Meta此前将AI工具Muse的发布推迟数月以加强安全防护,说明公司愿意为单个产品的安全性投入额外的时间与工程资源,但明确不愿意将这种谨慎态度扩展为要求全行业统一减速的立场——这种"自扫门前雪"式的资源调动逻辑,本质上是在避免因行业协同减速而牺牲自身的产品发布节奏与市场竞争位置,尤其是在英伟达等硬件供应商也持类似立场的情况下,Meta更没有动力主动放弃自身的开发速度优势。

类似的"部分企业主张自我监管优于统一行业标准"的历史先例,包括社交媒体行业在虚假信息与青少年保护议题上,各大平台长期倾向于建立各自的内容审核团队与产品调整机制,而非支持统一的联邦立法框架;汽车行业在自动驾驶安全标准制定过程中,部分车企也曾主张"分车型、分场景自主验证"优于"一刀切"的强制性标准。当前AI行业在安全治理路径上的分歧,正处于"头部实验室主张协同减速"与"应用层与硬件层企业主张自主评估"两条路径并存、尚未收敛的早期博弈阶段。

这本质上属于"监管变化"进程中不同商业模式主体对治理路径的结构性分歧:Anthropic的商业模式与品牌叙事高度依赖"安全优先"这一差异化定位,因此天然倾向于主张全行业协同减速,以此进一步巩固自身在安全议题上的话语权与监管背书;而Meta、英伟达等公司的核心营收并不完全依赖单一前沿模型的安全声誉,因此更倾向于将安全视为可以内部工程化解决的具体问题,而非需要全行业协同应对的系统性风险。机制上,这种分歧之所以持续存在,是因为不同商业模式下,"减速"这一选择对各方造成的机会成本并不对等——对以安全为核心叙事的实验室而言,倡导减速几乎没有额外成本,而对以规模化产品发布为核心商业逻辑的公司而言,减速则直接意味着市场份额与营收增长的实际让渡。

ABAB News · 认知定律

  1. 靠安全叙事赚钱的人,最愿意喊减速

  2. 减速的成本,从来不是雨露均沾的

  3. 自我监管,永远比被监管更划算