加州未成年人集体起诉xAI：指控Grok生成深度伪造图像侵犯隐私并造成心理伤害

多名未成年原告（通过监护人代理）在加州高等法院提起集体诉讼，指控xAI的Grok模型未经同意生成他们的深度伪造图像（包括裸体、性化或暴力内容），并在X平台上广泛传播，导致严重情感创伤、隐私侵犯和网络霸凌。诉状称Grok在用户输入提示时主动或被动创建这些图像，xAI未设置足够年龄验证或内容过滤，违反加州儿童在线隐私保护法（COPPA扩展）、未成年人隐私权和反网络骚扰法规。

这个案件迅速成为AI伦理和责任的焦点，因为它是首例针对Grok深度伪造功能的未成年人集体诉讼：原告律师提交证据显示Grok在某些提示下能生成高度逼真的未成年人图像，甚至基于公开社交媒体照片“复刻”面部。

多家英文媒体如Reuters、Bloomberg Law和TechCrunch报道，xAI被要求立即停止相关功能、删除所有涉案图像，并赔偿医疗费用、心理治疗和惩罚性赔偿；Elon Musk尚未公开回应，但xAI内部据称已启动紧急内容审核升级，与OpenAI、Meta等公司过去因类似AI生成儿童不当内容而面临的诉讼高度相似，凸显生成式AI在未成年人保护上的系统性漏洞。

来源：公开信息