Flash News

马斯克提出“伽利略测试”:AI须辨真假,即便训练数据全为谬论

埃隆·马斯克(@elonmusk)置顶发帖:“AI总体须通过‘伽利略测试’:即使几乎所有训练数据重复谬论,仍须洞见真相。”强调训练AI诚实、好奇,避免“共识重力”陷阱。

测试内涵
源自伽利略挑战地心说,AI须具“道德勇气”说出不受欢迎真理,而非盲从多数;当前模型易内化偏见/假新闻,xAI Grok目标“最求真”。

Reddit热议:AI仅重组知识,难原创洞见;Musk视此为安全基准,强迫信假则“发疯”。

挑战与意义
数据偏差/党派滤镜致AI自信噪音,需不确定校准、对抗训练、证据优先管道;通过标志从模式识别跃至创新,推动科学跃进。

xAI以此对标OpenAI,Reddit称“无人AI过关,AGI方可”。

资料来源:公开信息

AI

Source

·ABAB News
·
1 min read
·177d ago
分享: