分子结构生成:从序列到三维的深度生成模型
分子结构生成:从序列到三维的深度生成模型目录
领域概述
发展脉络
序列生成(2016-2018)
图生成(2019-2021)
3D生成(2022-至今)
代表性工作解析
未来展望
领域概述分子结构生成是利用深度生成模型从头设计具有特定性质的分子结构,是药物设计和材料发现的核心技术。其目标是从巨大的化学空间(估计约$10^{60}$个类药分子)中高效采样出满足特定需求的分子。
为什么需要分子生成?
高通量筛选成本高:传统实验筛选耗时耗力
化学空间巨大:暴力搜索不可行
逆向设计需求:从性质到结构的反向设计
核心任务
任务类型
描述
输入
输出
无条件生成
生成合法分子
随机噪声
分子结构
条件生成
生成满足特定性质的分子
性质条件
分子结构
基于结构的生成
生成与靶蛋白结合的分子
蛋白口袋
配体分子
分子优化
优化已有分子的性质
初始分子
优化分子
分子表示方法分子生成的关键是选择合适的分子表示:
1D表示:SMILES字符串CC(=O)OC1=CC=CC=C1C(=O)O (阿司匹林)
优点:可用NLP方法处理
缺点:一个分子可能有多种S ...
Allegro:为十亿原子而生的严格局域等变势
引言:消息传递的通信瓶颈
Strictly-local架构
边特征的张量积自交互
性能与大规模实践
结语
引言:消息传递的通信瓶颈NequIP证明了等变消息传递的价值,但它的架构有一个工程上的隐患:$T$层消息传递意味着每个原子在推理时需要访问半径为$T\times r_{\mathrm{cut}}$邻域内的全部原子。在GPU集群上做百万、千万原子的分子动力学时,空间域分解要求每个MPI进程只持有自己那块区域的数据,消息传递半径越大,跨进程的halo交换就越频繁,并行效率随之崩塌。
Allegro(Musaelian, Batzner, Johansson, Kozinsky组,Nature Communications 2023)的解法干脆至极:彻底放弃跨轮次的消息传递。所有信息交换被压缩到截断半径以内的一次性两体交互中,每个原子的计算只依赖自身$r_{\mathrm{cut}}$球形邻域——这就是所谓严格局域(strictly local)设计。
Strictly-local架构Allegro的信息流可以概括为:先为每条边构造特征,然后反复用张量积精炼这些边特征,最后从边特征汇 ...
NequIP:等变消息传递的开山之作
引言
架构设计
样本效率:数量级的提升
影响与局限
引言我们在 等变神经网络:原理与脉络 中梳理了等变网络的原理与历史。Tensor Field Networks和SE(3)-Transformer在2018-2020年就搭好了理论框架,但真正让整个力场社区转向等变架构的,是2022年发表在Nature Communications上的NequIP——Batzner、Musaelian等人(哈佛Boris Kozinsky组)的工作。
它回答的问题朴素而致命:等变性到底值多少数据?答案是一千倍。
架构设计NequIP的骨架是标准的等变消息传递网络,每一层做三件事。
第一步:几何编码。对每条边计算方向单位矢量并展开为球谐函数:
\vec{e}_{ij}=\frac{\vec{r}_j-\vec{r}_i}{\left|\vec{r}_j-\vec{r}_i\right|}\ \longrightarrow\ Y^{(l)}(\vec{e}_{ij}),\quad l=0,\dots,l_{\max}同时距离$r_{ij}$经Bessel基展开后送入一个小的MLP,生成逐边的径向权重$ ...
等变神经网络:原理与脉络
引言:从不变到等变
数学准备
群与表示
不可约表示与球谐函数
张量积与耦合
等变网络的基本构造
发展简史
代价与收益
引言:从不变到等变我们在 机器学习分子力场:综述 和 不变神经网络:从SchNet到GemNet 的结尾都提到了同一个矛盾:能量是旋转不变的标量,但力是旋转等变的矢量。不变网络把中间表示压成标量,等于强迫所有张量信息走”标量化→存储→求导还原”的迂回路线。等变神经网络的思路则截然相反:既然物理定律在$E(3)$群作用下具有协变性,不如让网络的每一层都保持这种协变性。
形式化地说,对群$G$和其表示$\rho$,若映射$f$满足
f\left(\rho_{\mathrm{in}}(g)\,x\right)=\rho_{\mathrm{out}}(g)\,f(x),\quad \forall g\in G则称$f$关于$G$等变(equivariant);当$\rho_{\mathrm{out}}$取平凡表示时,它退化为不变(invariant)。力场问题恰好同时需要两者:能量头输出不变标量,力头输出等变矢量,而后者可以由前者对坐标求导自动获得——前提是整个网络严格 ...
不变神经网络:从SchNet到GemNet
引言
SchNet:连续滤波卷积
PhysNet:物理先验的回归
DimeNet:方向消息传递
GemNet:两跳消息传递
总结:不变网络的天花板
引言我们在 机器学习分子力场:综述 中提到,2017年消息传递框架的提出解放了原子环境的表示学习。此后四年间,沿着”往网络里塞进更多几何信息”这条主线,出现了四个里程碑式的不变神经网络:SchNet、PhysNet、DimeNet和GemNet。它们全部满足同一个约束——输出在$E(3)$群作用下严格不变:
f(R\vec{r}_i+\vec{t},\ \mathcal{P}\cdot Z)=f(\vec{r}_i,Z)其中$R$是任意旋转,$\vec{t}$是平移,$\mathcal{P}$是同种元素间的置换。实现不变性的代价是把所有几何信息压缩为标量,四个模型的差异恰恰在于压缩时保留了多少信息。这篇文章依次解析它们。
SchNet:连续滤波卷积SchNet(Schütt et al., 2017)是第一个把MPNN框架完整用于力场的模型,它要解决的问题是:如何让卷积对任意旋转不变?
标准CNN的卷积核在空间上是各向异性的——这正是它 ...
机器学习分子力场:综述
引言:精度与效率的困境
从描述符到端到端
消息传递框架的提出
不变神经网络
等变神经网络
通用大模型时代
EGNN之外的其他框架
结语
引言:精度与效率的困境我们在 晶格动力学 中提到过,在绝热近似下,固体的总能量可以写成原子核动能加势能项的形式。这个势能面$E(\{\vec{R}_i\})$原则上由电子结构决定,解这个方程是困难的,我们通常借助DFT来处理它,具体可以参考 第一性原理计算方法 。然而DFT的计算量随体系大小以三次方以上的速度增长,能够处理的原子数目不过上千;而分子动力学模拟动辄需要演化纳秒甚至微秒,涉及数十万个原子的体系,DFT在这里完全无能为力。
另一条路是经典力场。经典力场把原子间相互作用写成键长、键角、二面角等经验项的函数,计算成本极低,可以模拟百万原子的体系。但代价是它本质上无法描述化学键的断裂与生成,对电荷转移、极化等量子效应也只能望洋兴叹。
于是问题变成了:能不能构造一个力场,它既有DFT的精度,又有经典力场的效率?机器学习分子力场(Machine Learning Interatomic Potential, MLIP)给出的答案是肯定的。它的核心思 ...
超导电性
超导概论
超导体的基本物理性质
超导电性的普遍性
超导体的输运性质
超导体的磁学性质
临界磁场
迈斯纳效应
超导体的热学性质
同位素效应
超导电性的物理机制
电子配对态
麦克米兰公式
约瑟夫森效应
超导概论超导的历史与低温技术的历史密不可分。低温技术以温度降低的顺序排列如下:
液氧: 90 K
液氮: 77 K
液氢: 20 K
液氦: 4.2 K
1911年,荷兰物理学家Kamerlingh Onnes在用液氦冷却汞时,发现汞的电阻在温度降低到4.2 K时突然降为零,这一现象被称为超导现象。一直到1986年,超导停留在BCS理论描述的常规超导,温区也在液氢附近徘徊。
2001年,简单金属化合物$MgB_2$被发现具有高达39K的超导转变温度,并且无法通过施加高压和元素替代的方法进一步超越40K,这也是通常所说的BCS超导体的麦克米兰极限。
1986年,J.G. Bednorz和K. A. Muller发现钙钛矿结构的铜氧化合物$La_{2-x}Ba_xCuO_4$具有35K的超导转变温度。通过替换$Ba$元素,可以将温度提高到40K以上。1987年,吴茂昆与朱 ...
自旋波与自旋电子学
磁性理论催生自旋作为新的自由度,所以本章将介绍磁性材料中的自旋波激发以及自旋相关输运的基本理论。
自旋波Heisenberg模型外斯分子场理论虽然能很好地解释铁磁性,但它是一个唯象模型,无法解释原子间相互作用的本质。人们最初以为,磁矩之间的磁相互作用是分子场的来源,但计算表明,磁偶极子之间的相互作用太弱,无法解释铁磁性。量子力学的发展使我们认识到,电子的交换相互作用才是磁性的重要来源:
\begin{aligned}
U&=-2J\vec{S}_i\cdot \vec{S}_j\\
&=-J\left[(\vec{S}_i+ \vec{S}_j)^2-\vec{S}_i^2-\vec{S}_j^2\right]\\
&=\begin{cases}
-J(2-\frac{3}{4}-\frac{3}{4})\hbar^2,\quad \uparrow\uparrow\\
-J(0-\frac{3}{4}-\frac{3}{4})\hbar^2,\quad \uparrow\downarrow
\end{cases}\\
&=\begin{cases} -\frac12J\hbar^2,\ ...
磁性的来源
磁性概论
孤立原子的磁矩
无外场情况
原子磁矩对外场的响应
抗磁性
顺磁性
轨道猝灭效应
固体的磁性
泡利顺磁性
朗道抗磁性
铁磁性
外斯分子场理论
磁滞回线与磁晶的各向异性
反铁磁性
双子格模型
奈耳定律
亚铁磁性
尖晶石结构
表格总结
磁性概论磁性本质上是一种量子效应,而固体的磁性又是大量孤立原子的磁性的集体效应。按照量子力学的理论,原子的磁矩主要来源于:
电子固有的自旋磁矩;
电子绕核运动产生的轨道磁矩;
外加磁场感生的轨道磁矩变化。
在经典图像中,前两个磁矩会跟随外场的方向,给出顺磁性的贡献,此时磁化率的大小大概在$0\sim 10^{-2}$之间,随温度的升高而降低,即居里定律:
\chi=\frac{C}{T}顺磁性的计算在 玻尔兹曼统计 中也曾提到过。
如果前两个磁矩耦合后为零,那么抗磁性作为二阶效应就会显现出来,这是因为磁场给电子提供额外的离心力,致使磁矩变小,磁化率大概在$-10^{-5}\sim -10^{-6}$之间,且不随温度变化。
前两种情况都是在原子间相互作用可以忽略不计的时候,原子磁矩的取向趋于随机分布,宏观上表现为顺磁性或 ...




