一句话定位

eSEN(equivalent smooth energy network, Fu et al., Meta FAIR, 2025)是”平滑能量网络 + 保守力”路线的代表,也是 MatBench Discovery 上最常青的 OAM 模型之一——它以 30.2M 参数的 eSEN-30M-OAM 稳居 CPS 0.888(Top10),上榜近一年半仍未被淘汰。

名字里的两个关键词——smooth 和 expressive——对应它要解决的两个问题:平滑性(力的质量)与表达力(消化亿级数据)。

架构:四层平滑性防线

等变网络走向大模型时代有一个绕不开的拦路虎:力的预测质量问题——许多高精度能量模型的力出现尖峰、噪声等病态行为,导致声子谱、过渡态搜索等下游任务翻车。神经网络势能面若不处处二阶可微,求导得到的力就会不连续,分子动力学轨迹上表现为能量的锯齿跳变和声子谱的鬼峰。eSCN解决了”算得动”(见 eSCN:把SO(3)卷积拆成稀疏矩阵),eSEN要解决的是”算得对”。

eSEN 把平滑性当作第一等设计目标,系统性构筑了四层防线:

1. 保守力:$F_i = -\partial E/\partial \vec r_i$(对能量做自动微分),保证能量守恒。训练时采用”直接力预训练 → 保守微调”的两阶段协议(详见下文),既拿到直接力的精度与速度,又保住保守力的物理性。

2. 二阶连续($C^2$)平滑截断:常见的 cosine cutoff 在截断半径处一阶导数不为零,原子跨越边界时力发生跳变。eSEN改用二阶连续的平滑截断(多项式包络,源自 DimeNet),让能量、力和它们的导数在 $r_{\text{cut}}$ 处连续消失。

3. 可微激活函数:分段线性或离散网格的非线性会破坏高阶可导性。eSEN采用光滑的 S² 类激活(基于 SiLU 的等变 Gated 非线性),并直接在球谐表示空间里计算,避免了 eSCN/EquiformerV2 那种”投影到离散网格”的做法——离散网格投影会引入超越 Nyquist 频率的高频信号,破坏严格等变与能量守恒。

4. 无邻居数上限 + 小基组:K-nearest 邻居限制在结构微扰下会突变(邻居集合变了),制造不连续;大基组(如 512 个径向基)会引入高频信号。eSEN用纯距离截断(6 Å)+ 少量径向基(默认 10),保证邻域在微扰下稳定、势能面不过敏。

这四层共同保证:势能面在极小位移(0.01–0.05 Å)下平滑且准确——这正是声子计算能否成功的关键。

直接力 vs 保守力:一场关于声子的辩论

eSEN 论文的中心论点是一场关于”力从哪来”的辩论:直接力模型可以在 test MAE 上打平保守模型,但在声子/热导率/MD 能量守恒上灾难性失败。

模型 力的来源 $\kappa_\text{SRME}$↓(热导率误差) 声子 $\omega_\text{max}$ MAE
eSEN-30M-MP 保守(微调后) 0.340 21 K
GRACE-2L-OAM 保守 ~0.5 19 K
eqV2-S-DeNS 直接预测 1.676 309 K(0.01 Å位移)/ 61 K(0.2 Å)
Orb-MPtrj 直接预测 1.726 309 K
M3GNet 直接预测 1.409 —
MACE-MP-0 保守 0.650 —
CHGNet 混合 1.717 —

原因在于:三阶力常数(声子-声子散射、热导率需要)没有模型做解析三阶导,全靠 Phono3py/Phonopy 的超胞有限差分(位移 0.01–0.05 Å)。有限差分对”小位移下的力噪声”极其敏感——直接力模型在小位移下力噪声大,差分出来的二阶/三阶力常数全是鬼峰(缺失声学支、虚假虚频);把位移加到 0.2 Å 才勉强可用,精度仍差 3 倍。所以声子精度本质上是”力在小位移下的平滑性”问题,不是”解析三阶导”问题。

MatBench Discovery 正是为此把 $\kappa_\text{SRME}$(热导率对称相对均方误差)纳入了 CPS 复合分——惩罚”test MAE 好看但物理不光滑”的模型。这与 eqV3 / EquiformerV3:等变Transformer的第三代,平滑与榜首双收 里 eqV2 的教训互为印证。

训练协议:直接力预训练 + 保守微调

eSEN 揭示了一个实用训练配方(论文 §5.1):先用直接力头预训练 60 epoch(快、可用低精度、给强初始化),再切换到保守力头微调 40 epoch。最终模型超越从头保守训练,且 wall-clock 减 40%。这是目前唯一公开的”鱼与熊掌兼得”方案——直接力的效率 + 保守力的物理。eSEN-30M 也正是这样训出来的:直接力预训练 60 ep + 保守微调 40 ep。

不过 eSEN 的”直接力预训练拐杖”并非唯一解——2026 年的 DPA-4 用编译加速的纯保守训练,在 $\kappa_\text{SRME}$ 上反超了 eSEN(0.227 vs 0.340),详见 DPA系列:从注意力势到大模型时代的精度-成本前沿。那篇文章里我们把 eSEN 的 $C^2$ 平滑与 DPA-4 的 $C^3$ 平滑做了逐层对比。

OAM 版本:从MP到通用

eSEN 发布时有两个版本(arXiv:2502.12147):

  • eSEN-30M-MP:只在 MPtrj 上训练(CPS 0.797);
  • eSEN-30M-OAM:用 OAM 配方(MPtrj + OMat24 + sAlex)训练(CPS 0.888)。

OAM 版本比 MP 版本 CPS 高 0.09,再次印证数据配方的威力(见 通用势的数据集版图 的 OAM 讨论)。更重要的是,eSEN-OAM 是”平滑 + 保守”路线在通用势上的第一个爆款——它证明了好力质量不仅能保住下游物理,也不牺牲榜单分数。

榜单成绩

在 MatBench Discovery 榜单上(数据截至 2026-09-23):

指标 eSEN-30M-OAM eSEN-30M-MP
CPS 0.888 0.797
F1(稳定性分类) 0.925 0.831
κSRME 0.170 0.340
能量 MAE 0.018 eV/atom 0.033 eV/atom
参数 30.2M 30.1M
训练数据 MPtrj+OMat24+sAlex MPtrj

对比 eqV2(eqV3 / EquiformerV3:等变Transformer的第三代,平滑与榜首双收):同样 30M 参数,eqV2-S 的 F1 0.815 而 κSRME 1.676;eSEN 的 F1 0.925 而 κSRME 0.170。当保守力路线把力质量修好之后,榜单分数不仅没受损,反而全面反超——这是”物理正确不牺牲性能”的最好证据。

局限与影响

局限:

  1. 30M 参数的中等规模——头部 200M+ 模型(TECE/Prophet)的精度上限更高;
  2. 训练协议较繁琐——“直接力预训练 + 保守微调”两阶段(DPA-4 后来用 torch.compile 免掉了这个拐杖);
  3. 力质量仍非极致——$\kappa_\text{SRME}$ 0.170 已被 DPA-4 的 0.211(MPtrj 版本)、TECE 的 0.093 超越。

影响:

  1. 确立了”平滑 + 保守”作为通用势的默认范式——此后头部模型几乎全部回归保守力;
  2. OAM 配方的示范性发布——成为第二代模型的标准数据配方;
  3. 为 UMA 提供了架构骨干——Meta 的跨域基础模型 UMA(UMA:跨域基础模型,力场界的GPT)采用 eSEN 风格架构;
  4. 长期霸榜的”常青”案例——上榜近一年半仍是 Top10,说明”力质量好 + 榜单分数高”的模型生命周期更长。

参考文献

  1. Fu, X., et al. Learning Smooth and Expressive Interatomic Potentials for Physical Property Prediction (eSEN). arXiv:2502.12147, 2025.