Paper Morning 2026-07-13

2026-07-13

各位早上好,Paper Morning又和大家见面了。 今天想先从一个大家可能都有感受的话题聊起:这两年foundation model火遍AI圈,但我们做科学计算的人一直在想一个问题——这种预训练+泛化的思路,到底能不能真正帮到我们理解物理世界?今天的几篇论文刚好从不同角度触及了这个大问题。 第一篇想聊SciReasoner,它试图解决一个很根本的问题:我们能不能用AI来“推理”化学结构背后的物理原理?大家知道,结构-性质关系是材料科学和生物化学的核心,但过去的方法往往停留在端到端的预测上——给一个结构,输出一个性质,但说不清为什么。SciReasoner这个工作想要做得更深:它是一个多模态的基础模型,能够保留“领域原生”的结构信息,同时展示具体的结构证据是如何支撑预测的。听起来有点像是给模型装上了“科学解释”的能力。这让我想到我们在PDE求解里常说的“物理约束”——不只是拟合数据,还要符合物理规律。这个思路如果能扩展到更复杂的分子体系,或许能为材料设计提供更有解释性的工具。 然后第二篇Long-Horizon-Terminal-Bench很有意思,它提出了一个关于AI agent能力边界的检验。我们现在看很多AI agent的演示,都很惊艳,但仔细一看,很多任务可能几分钟就结束了。这篇工作构造了一个包含46个长视野任务的benchmark,涵盖实验复现、软件工程、科学计算等等,而且每个任务都被分解成细粒度的子任务,这样就能得到更密集的反馈信号。大家不要小看这个设计,它实际上暴露了一个关键问题:当我们把AI agent用在真正的科研流程中时,我们需要的不仅是“能不能完成”,更是“在哪一步卡住了”、“卡住的原因是什么”。这其实和我们训练neural operator时遇到的问题很像——早期只能看最终误差,后来才慢慢学会分析中间过程。 接下来两篇都和视觉基础模型有关,但角度不太一样。第三篇Scalable Visual Pretraining提出了一个很直接的问题:我们训练语言模型的时候,都是用纯文本,那如果反过来,用纯视觉的信号能不能学到“智能”?这个工作的结论是肯定的,而且他们发现视觉预训练学到的东西不比文本预训练差。这让我想到一个跨领域的联想:我们在做PDE求解器的时候,其实也经常面临类似的抉择——是用物理驱动的loss还是纯粹用数据去学?哪种信号更有效?这篇工作给出的提示是,可能视觉这种更“原始”的信号,反而能学到一些文本容易丢失的细节。 第四篇GenCeption更激进,它说视频生成模型可能就是计算机视觉的“下一个GPT时刻”。大家知道NLP领域从task-specific到generalist的转变,关键是把所有任务都统一成next-token prediction。这篇工作认为,视频生成模型的next-frame prediction,同样可以作为一种通用的预训练范式,让模型学到足够的时空先验和视觉-语言对齐。这个思路很值得注意,如果我们把科学模拟也看成一种“生成”过程——给定当前状态,预测下一时刻——那是不是说视频生成的技术可以直接迁移到物理仿真上?这是一个非常有意思的可能性。 最后第五篇Video-Oasis像一个“清醒剂”。它不是又一个benchmark,而是去审视现有benchmark的问题。结果发现55%的视频理解样本,其实不用看视频、不用理解时间上下文就能解决。这意味着很多所谓的“进步”可能只是数据泄露或者任务设计上的捷径。这提醒我们,无论技术怎么变,评估的严谨性永远是基础。 好,总结一下今天的观察。我注意到这几篇论文其实都在回答同一个深层问题:什么是通往通用智能的正确路径?无论是从结构化推理、长程任务、视觉预训练还是视频生成,核心都在于找到那种“足够丰富、足够通用”的预训练信号。对我们做科学计算的人来说,关键的启示可能是:与其争论哪种架构更好,不如思考哪种信号能够真正捕获物理世界的结构。Foundation model的浪潮已经涌向科学发现的核心地带,我们需要做的是保持敏感,同时保持批判。好了各位,明天见。

本期涉及论文