1.09亿参数JEPA跨模态对齐超过720亿参数大模型
图片来源：InfoQ 中文
10 月 29 日，66 岁的 Yann LeCun 与布朗大学助理教授 Randall Balestriero 发布了 37 页论文《Proving and Improving the Platonic Representation Hypothesis with JEPAs》。据 InfoQ 报道，论文中一个仅 1.09 亿参数的文本 JEPA，在跨模态表征对齐测试中得到 0.184 分，高于 720 亿参数的 Qwen2.5-72B（0.154）和 Llama-3-70B（0.151），参数规模相差约 660 倍。
42 倍样本效率从哪来
同一语料、同一设置下，新方法用约 2160 万个训练样本，就达到了下一 Token 预测模型用 9 亿个样本才能获得的表征对齐水平，样本效率相差约 42 倍；按读取的 Token 数计算，差距约为 14 倍。
关键在正样本对的构造。论文把对同一场景的有效观察称为 Good Views，比如同一场景的两张照片、两段描述它的文字；把前缀与后续、遮挡片段这类构造归为 Bad Views。当不同 JEPA 按这类关系训练时，即使模态不同，也能学到只相差一个旋转变换的表征空间。
图片来源：InfoQ 中文
把柏拉图表征假说向前推一步
2024 年，MIT 团队在 ICML 上提出柏拉图表征假说：模型能力越强，图像与语言模型的内部表征越相似，可能趋向同一种现实世界统计表征。当时只有观察，没有证明。LeCun 与 Balestriero 建立数学框架，把不同模态视为对同一潜在世界状态的观察，把它变成有前提条件的结论。
图片来源：InfoQ 中文
66 岁，再创业
LeCun 是卷积神经网络先驱，2018 年与 Hinton、Bengio 同获图灵奖；2013 年加入 Facebook 创立 FAIR，在 Meta 工作约 12 年。2025 年 11 月，他宣布离开 Meta 创办新的 AI 研究公司；2026 年 3 月，这家名为 AMI Labs 的公司完成约 10 亿美元融资。
在一个用参数量计价胜负的行业里，66 岁的他把赌注押回学习机制本身。
“超过”的边界与两种声音
论文登上了 Hugging Face 当日热门论文榜，Balestriero 在评论区亲自答问。LeCun 在 X 上回应时写道：
“大语言模型积累了大量陈述性知识。这就是为什么它们能够回答如此多的问题，也是为什么它们需要如此多的参数，进而占用大量内存。”
边界要说清：0.184 对 0.154，比的是跨模态表征对齐这一项指标，不代表它的数学推理、代码生成或知识问答能力超过 Qwen2.5-72B。应用侧已有初步结果——用线性变换连接分别训练的视觉编码器与文本模型，在 COCO 上取得 0.838 的 CIDEr 分数；无需成对图文数据的实验在 ImageNet-100 拿到 64% 的 Top-5。网友 Peter Ebasone 认为，这对小型实验室和个人研究者是个好消息。
规模依然有用，但不再是唯一的路标。技术演化未必一路变重，它也在寻找更省的路径；理解世界，正在向预算有限的人敞开。
参数堆出的是记忆，观察长出的才是理解。