PET 与 ORB:放弃等变约束的非等变路线
一句话定位
PET 和 ORB 是通用势里最”离经叛道”的一支——它们完全放弃显式等变约束,用纯 Transformer 直接处理点云,靠大规模数据和随机旋转增广隐式满足对称性。结果证明了等变性是充分条件而非必要条件。
非等变路线的赌注
从 等变神经网络:原理与脉络 以来,MLIP 社区的主流信念是:等变架构因内建对称性而数据高效。PET/ORB 的赌注是:这个”数据高效”的优势可以被”数据管够 + 简单架构”抵消——与其维护复杂的 CG 张量积,不如上更大规模的纯 Transformer。
这和视觉领域”ViT 战胜卷积的归纳偏置”是同一个剧本。
PET:Point Edge Transformer
PET(EPFL, lab-cosmo)把等变消息传递的”卷积”替换成 Transformer 的注意力,但保留了点-边(point-edge)混合图结构:
- 点:原子;
- 边:键/近邻;
- 注意力:标准 self-attention,用方向信息作为特征而非约束。
它最激进的地方在于规模:PET-OAM-XL 用了 730M 参数——几乎是头部等变模型的 10 倍。这既是它的特色也是它的命门。
ORB:大规模数据 + 旋转增广
ORB(Orbital Materials)走得更纯粹:用等变风格之外的自定义 GNN/Transformer,靠在训练中随机旋转所有结构让模型见过各种姿态,从而隐式学会旋转不变。它的训练数据是 MPtrj + Alexandria + OMat24 的合并集。
ORB v3 以 25.5M 参数拿到 0.860 CPS,参数效率远好于 PET,证明”旋转增广 + 非等变架构”在中等规模下也成立。
榜单成绩
在 MatBench Discovery 榜单上(数据截至 2026-09-23):
| 模型 | CPS | F1 | κSRME | 参数 | 训练数据 |
|---|---|---|---|---|---|
| PET-OAM-XL | 0.898 | 0.924 | 0.119 | 730M | MPtrj+OMat24+sAlex |
| ORB v3 | 0.860 | 0.905 | 0.210 | 25.5M | MPtrj+Alex+OMat24 |
成功还是失败?
两个角度都说得通:
说成功:PET-OAM-XL 挤进 CPS 前十,ORB v3 稳居中上——在不写一行等变代码的情况下达到等变模型的精度,这本身就是对”等变必须”论点的重击。ORB 还在 ORB-1/2 时代就证明了非等变模型能上榜。
说失败:PET 的参数效率惨不忍睹(730M 参数换 0.898,而 GRACE-3L 用 42.1M 就拿到 0.900);ORB 的力质量(κSRME 0.210)明显不如同规模的保守力等变模型。非等变路线的”成功”依赖超大规模数据与算力,这条路在等变模型不断提效的背景下逐渐失去性价比。
结论:非等变路线证明了理论的”必要性问题”(等变不是必要的),但在工程上的性价比之争中,它并没有赢。
参考文献
- PET: Point Edge Transformer for machine-learning interatomic potentials. Nat. Commun. 16 (2025). (OAM 榜单版见 MatBench Discovery 条目.)
- Ashiotis, G., et al. ORB: A Fast, Scalable Neural Network Potential (ORB v2/v3). arXiv:2410.22570 (v2), arXiv:2504.06231 (v3), 2024/2025.




