LeCun发布JEPA论文挑战Scaling Law

Yann LeCun 与 Randall Balestriero 联合发布论文《Proving and Improving the Platonic Representation Hypothesis with JEPAs》，提出在满足正样本对为同一场景有效观察（Good Views）的条件下，独立训练的文本 JEPA 模型能与视觉模型学到旋转对齐的世界表征。实验显示，一个 1.09 亿参数的文本 JEPA 在跨模态表征对齐指标上达到 0.184，超过了 Qwen2.5-72B 的 0.154 和 Llama-3-70B 的 0.151。 该结果的核心差异在于训练机制而非单纯的参数量级。采用 Good Views 策略的模型仅需 2160 万个训练样本即可达到 Next-Token Prediction 模型使用 9 亿个样本时的对齐水平，样本效率提升约 42 倍。这一发现验证了柏拉图表征假说（PRH），即不同模态模型可能趋向于共享的统计表征结构，且这种结构的构建依赖于提取跨模态共享信息而非单一模态细节。 事实层面，该论文证明了特定架构下的表征收敛性，但并未宣称小模型在数学推理、代码生成或知识问答等通用任务上超越大模型。推断层面，这暗示未来 AI 系统若需具备理解物理世界和规划复杂行动的能力，可能需要从单纯堆砌参数转向优化学习机制和数据构造方式。猜测层面，LeCun 离开 Meta 创立 AMI Labs 并持续推动 JEPA 路线，表明其认为当前主流 LLM 依赖海量陈述性知识的模式存在瓶颈，而基于世界模型的架构可能才是通向 AGI 的关键路径。