物理视角：把 AI 模型看成物理系统的演化定律

2026年11月12日·约 27 分钟

一句话结论：物理驱动的 AI 模型，本质上是把数据生成、记忆检索与特征演化翻译成物理系统的演化定律——它们沿着一条清晰的发现主线演进：早期用热平衡态的能量地形刻画概率分布（玻尔兹曼机、能量模型、现代 Hopfield/注意力机制），因遭遇高维计算的“配分函数死胡同”，转向用非平衡态的演化轨迹与场方程绕开全局求和（扩散模型、流匹配、薛定谔桥、泊松流），最终沉淀为在神经网络架构内部直接锁死对称性与守恒律（哈密顿网络、几何深度学习、物理信息算子与热力学计算硬件）。

一、核心直觉与最小算例：为什么机器学习非要向物理学借工具？

把物理驱动 AI 串成一体的唯一主类比是地形上的粒子运动：把高维空间里的每一个数据点（如一张图像或一句话的词向量）看作一颗处于势能地形上的粒子。真实、合理的数据聚集在地势低洼的“山谷”（低能量区），杂乱无章的噪声散布在高耸陡峭的“荒原”（高能量区）。训练模型是在雕塑整片地形或规划交通路线，而生成新样本或检索记忆，就是把随机撒在荒原上的粒子顺着坡度或水流引向山谷。

但这个主类比有一个必须提前标明的失效边界：真实物理空间只有 3 维，而一张 $512 \times 512$ 的 RGB 图像处于 $786,432$ 维空间。在三维世界里，粒子靠热运动翻越山脊并不难；但在近百万维空间里，绝大多数体积都集中在远离中心的薄壳上（测度集中现象），两个山谷之间隔着指数级广阔的“高能荒漠”。经典热平衡物理直觉在这里会失灵——粒子一旦落入某个局部山谷就会被永久困住，或者根本算不出整片地形的总容量。过去四十年物理驱动 AI 的每一次范式跃迁，全都是为了在高维空间里克服这个失效边界。

先用一个只含 2 个二值神经元 $x_1, x_2 \in \{-1, +1\}$ 的最小算例，把整套数学机制钉死。假设我们希望系统记住“两个神经元状态一致”这一规律（即 $(-1,-1)$ 和 $(+1,+1)$ 是合法数据，其余是非法噪声）。我们不直接给四种状态硬编码概率，而是参考磁铁中相邻原子自旋对齐会降低系统能量的物理现象，定义能量函数 $E(x_1, x_2) = -J x_1 x_2$ ，并设耦合强度 $J = 1$ 。此时四种状态的总表单一清二楚：同号状态 $(+1,+1)$ 与 $(-1,-1)$ 的能量均为 $E = -1$ ；异号状态 $(+1,-1)$ 与 $(-1,+1)$ 的能量均为 $E = +1$ 。接着用指数函数 $e^{-E(x)}$ 把能量转为非负权重（温度设为 $1$ ），同号状态权重各为 $e^{1} \approx 2.718$ ，异号状态权重各为 $e^{-1} \approx 0.368$ 。四者相加得到总权重 $Z = 2 e^{1} + 2 e^{-1} \approx 6.172$ 。最终任意状态的概率就是 $p(x) = \frac{e^{-E(x)}}{Z}$ ：每个同号状态的概率约为 $2.718 / 6.172 \approx 44\%$ ，每个异号状态约为 $6\%$ 。

这个最小算例揭示了统计物理赋予 AI 的第一条普适法则——玻尔兹曼分布（Boltzmann Distribution）：

p_\theta(x) = \frac{e^{-E_\theta(x) / T}}{Z(\theta)}, \qquad Z(\theta) = \sum_{x} e^{-E_\theta(x) / T} \quad \text{（连续空间为积分 } \int e^{-E_\theta(x)/T} dx \text{）}

其中 $T$ 是控制分布尖锐程度的温度，分母 $Z(\theta)$ 在统计力学中称为配分函数（Partition Function）。当神经元数量从 $2$ 个增加到 $1000$ 个时，求和项从 $4$ 项暴增到 $2^{1000} \approx 10^{301}$ 项，比可观测宇宙的原子总数还多。怎么和这个算不出来的分母 $Z(\theta)$ 博弈，构成了整个领域的演进主线。

二、全局版图：四大物理支柱与模型谱系

在展开推导前，先将主流与前沿方法按底层物理定律归入四条演化支线。前两条支线解决概率生成与表征记忆（从静态平衡走向动态输运），第三条解决多体相互作用与复杂序列耦合，第四条解决科学计算与底层硬件的物理一致性。

物理支柱	核心物理定律 / 方程	解决的 AI 核心痛点	代表模型与方法（按演进顺序）
一、平衡态统计力学	玻尔兹曼分布、伊辛自旋玻璃、吉布斯变分自由能	无约束表达任意复杂相关性、高容量联想记忆、隐变量推断	经典 Hopfield 网络、玻尔兹曼机与受限玻尔兹曼机（RBM）、基于能量的模型（EBM）、亥姆霍兹机与变分自编码器（VAE）、现代连续 Hopfield 网络（等价于 Transformer 注意力机制）
二、非平衡热力学与场论	朗之万方程、福克-普朗克方程、连续性方程、泊松/汤川场方程	彻底绕开配分函数 $Z$ ，实现百万维空间稳定训练与快速生成	分数匹配（Score Matching）、扩散模型（DDPM / SDE）、离散扩散模型（CTMC）、连续归一化流与流匹配（Flow Matching / Rectified Flow）、随机插值与薛定谔桥、泊松流（PFGM / PFGM++）与广义物理生成（GenPhys）
三、多体动力学与重整化	耦合振子同步、平均场粒子输运、实空间重整化群、张量纠缠态	解释深度网络表征坍缩、设计局部生物可塑学习、实现线性复杂度长序列建模	Kuramoto 振荡神经元（AKOrN）、平衡传播（Equilibrium Propagation）、状态空间模型（SSM / Mamba）、Transformer 球面粒子群视角、重整化群深度映射、张量网络与玻恩机（Born Machines）
四、分析力学、对称性与硬件	最小作用量原理、哈密顿/辛几何、诺特定理（群等变）、热力学第二定律	防止长程预测能量漂移、零样本跨坐标系泛化、突破冯·诺依曼采样能耗墙	哈密顿神经网络（HNN）、拉格朗日网络（LNN）、端口-度量辛网络（Metriplectic）、几何深度学习与群等变网络（SE(3)-Equivariant）、物理信息神经网络（PINN）与神经算子（FNO / DeepONet）、概率比特（p-bits）热力学计算机

三、第一幕：平衡态统计力学——从玻尔兹曼机到注意力机制

1. 联想记忆与玻尔兹曼机：把数据刻进自旋玻璃的谷底

20 世纪 80 年代初，物理学家研究磁性合金中的无序自旋交互（伊辛模型与自旋玻璃）时发现，当大量二值自旋 $\sigma_i \in \{-1, +1\}$ 通过耦合矩阵 $J_{ij}$ 相互作用时，总能量 $E(\sigma) = -\frac{1}{2}\sum_{i \neq j} J_{ij}\sigma_i\sigma_j - \sum_i h_i \sigma_i$ 会在状态空间中形成许多局部极小值。只要系统每一步都朝着能量下降的方向翻转自旋，无论初始状态残缺成什么样，最终都会滑进离它最近的那个极小值山谷。1982 年提出的经典 Hopfield 网络直接照搬了这一机制：把要记忆的图像存成耦合权重 $J_{ij} = \frac{1}{N}\sum_{\mu=1}^M \xi_i^\mu \xi_j^\mu$ ，给残缺图像做异步更新就能恢复原图。但它很快撞上天花板：二次型能量函数的山谷太宽，当记忆模式数量 $M$ 超过神经元数 $N$ 的约 $0.138$ 倍（ $M \approx 0.138N$ ）时，不同山谷就会互相吞并产生虚假的“伪状态”（Spurious States），网络发生灾难性遗忘。

为了让网络不仅能背诵固定模式，还能学出整个数据分布并生成新样本，1985 年提出的玻尔兹曼机（Boltzmann Machine）引入了两项物理改造：一是加入环境热涨落（温度 $T > 0$ ），让神经元按玻尔兹曼概率随机翻转以跳出伪状态；二是把神经元拆成可见层 $v$ （对应像素）和隐藏层 $h$ （对应抽象特征）。训练时最大化数据的对数似然 $\log p_\theta(v)$ ，对参数求导后会出现一个极其经典的分解：

\nabla_\theta \log p_\theta(v) = -\mathbb{E}_{p_\theta(h|v)}[\nabla_\theta E_\theta(v, h)] + \mathbb{E}_{p_\theta(v', h')}[\nabla_\theta E_\theta(v', h')]

前一项叫正相（Positive Phase），把真实数据钉死在可见层，压低真实数据所在位置的能量（挖深山谷）；后一项叫负相（Negative Phase），让网络在没有任何外部约束的情况下自由演化到热平衡，再抬高它最容易滑去的那些错误位置的能量（铲平假山谷）。

死结就在负相：为了让全连接网络达到热平衡以估算第二项期望，每次梯度更新都要跑极长的马尔可夫链蒙特卡洛（MCMC）采样。受限玻尔兹曼机（RBM）通过砍掉层内连接（可见层内部互不相连、隐藏层内部互不相连），构成二分图结构，使得给定可见层时所有隐藏神经元条件独立，正相一步就能算出，并配合对比散度（Contrastive Divergence）用几步吉布斯采样近似负相。现代深度基于能量的模型（EBM）则干脆用深度神经网络直接输出标量能量 $E_\theta(x)$ ，在连续像素空间里顺着能量负梯度叠加高斯热噪声做更新——这就是过阻尼朗之万动力学（Langevin Dynamics）：

x_{k+1} = x_k - \frac{\epsilon}{2} \nabla_x E_\theta(x_k) + \sqrt{\epsilon} \, z_k, \qquad z_k \sim \mathcal{N}(0, I)

即便如此，高维空间里不同模式山谷之间的能量壁垒太高，有限步的朗之万采样根本无法在山谷之间正常混合（Mixing Time 指数级发散），负相估计失真依然会导致训练崩溃。

2. 变分自由能：算不出精确配分函数，就用上界夹逼它

既然硬采样算不出配分函数 $Z$ ，统计物理提供了另一条经典出路——吉布斯-博戈留波夫-费曼变分不等式。在含隐变量 $z$ 的生成模型中，观测数据 $x$ 的边际似然 $p_\theta(x) = \int p_\theta(x, z) dz$ 本质上就是关于隐变量的配分函数。物理学家引入一个结构简单、易于采样的近似分布 $q_\phi(z|x)$ （对应统计物理中的平均场试探分布），定义变分自由能（Variational Free Energy）：

\mathcal{F}(q_\phi, \theta) = \underbrace{\mathbb{E}_{q_\phi(z|x)}[-\log p_\theta(x, z)]}_{\text{平均内能 } U} - \underbrace{\mathcal{H}(q_\phi(z|x))}_{\text{熵 } S \text{（温度 } T=1\text{）}} = -\log p_\theta(x) + D_{\mathrm{KL}}(q_\phi(z|x) \,\|\, p_\theta(z|x))

因为 KL 散度非负，变分自由能 $\mathcal{F}$ 永远是真实自由能 $-\log p_\theta(x)$ 的严格上界。最小化变分自由能，既在压低真实自由能（提升数据似然），又在迫使试探分布逼近真实后验。1995 年的亥姆霍兹机（Helmholtz Machine，名字直接取自亥姆霍兹自由能 $F = U - TS$ ）首次将这一原理做成双网络，而 2013 年的变分自编码器（VAE）通过重参数化技巧打通了反向传播——AI 工程师熟知的证据下界（ELBO），逐项取负号就是统计物理里的变分自由能；认知神经科学中的卡尔·弗里斯顿“自由能原理”（Free Energy Principle）与主动推理，也是同一公式在生物感知系统上的直接投射。

3. 指数能量函数与注意力机制：Transformer 藏着一张现代 Hopfield 网络

平衡态统计力学最令人意外的当代回响，发生在看似纯粹工程产物的 Transformer 自注意力机制中。前面提到经典 Hopfield 网络因为能量函数是二次型 $E = -\frac{1}{2}\sum \xi_i^\mu \xi_j^\mu \sigma_i \sigma_j$ ，存储容量被死死卡在 $0.138N$ 。2016 年至 2020 年间，Krotov、Hopfield 与 Ramsauer 等人追问：如果把相互作用从两体二次项改成高阶多项式，甚至直接换成指数级陡峭的相互作用势，山谷岂不是会变得像针孔一样窄且互不干扰？

设网络需要在 $d$ 维连续空间里存储 $M$ 个模式向量 $X = [k_1, k_2, \dots, k_M] \in \mathbb{R}^{d \times M}$ ，当前查询状态向量为 $\xi \in \mathbb{R}^d$ 。构造如下连续状态能量函数（其中 $\mathrm{lse}(\beta, z) = \beta^{-1}\log \sum_{\mu=1}^M \exp(\beta z_\mu)$ 为对数指数和函数，对应子系统的自由能项）：

E(\xi) = -\frac{1}{\beta} \log \sum_{\mu=1}^M \exp\left(\beta k_\mu^\top \xi\right) + \frac{1}{2} \xi^\top \xi + \text{const}

第一项用指数势把状态 $\xi$ 猛烈拉向与它内积最大的存储模式 $k_\mu$ ，第二项二次正则项 $\frac{1}{2}\|\xi\|^2$ 给状态加上边界约束防止发散到无穷远。对这个非凸能量函数使用凹凸过程（Concave-Convex Procedure, CCCP）做单步不动点更新——令总能量梯度为零或对凹部线性化求极小值，直接解出下一步状态 $\xi^{\text{new}}$ ：

\nabla_\xi E(\xi) = -X \, \mathrm{softmax}(\beta X^\top \xi) + \xi = 0 \quad \Longrightarrow \quad \xi^{\text{new}} = X \, \mathrm{softmax}(\beta X^\top \xi)

把这个式子转置并代入多个查询向量组成的矩阵 $Q$ ，令存储模式为键矩阵 $K$ （再线性投影到值矩阵 $V$ ），并取逆温度参数 $\beta = \frac{1}{\sqrt{d_k}}$ ，它一字不差地变成了 Transformer 的缩放点积注意力公式：

\mathrm{Attention}(Q, K, V) = \mathrm{softmax}\left(\frac{Q K^\top}{\sqrt{d_k}}\right) V

让我们回到一个 2 维最小算例验证它：假设存了两个正交模式 $k_1 = [1, 0]^\top$ 和 $k_2 = [0, 1]^\top$ ，输入一个略微偏向 $k_1$ 的含噪查询 $\xi = [0.8, 0.2]^\top$ 。若逆温度 $\beta = 1$ ， $\mathrm{softmax}([0.8, 0.2]) \approx [0.65, 0.35]$ ，一步更新后得到 $[0.65, 0.35]^\top$ ，处于两个模式的混合亚稳态（对应 Transformer 浅层注意力头做全局/局部信息平均）；若逆温度升高到 $\beta = 10$ （低温极限）， $\mathrm{softmax}([8, 2]) \approx [0.9975, 0.0025]$ ，仅需一步更新状态就精确坍缩到 $[0.9975, 0.0025]^\top \approx k_1$ （对应深层注意力头精确检索单一上下文 token）。这种指数势能将无串扰存储容量从经典的 $0.138d$ 提升到了指数级 $O(2^{d/2})$ 。因此，Transformer 的每一层自注意力，在物理上就是让当前 token 作为探针粒子，在上下文 token 构成的现代 Hopfield 能量地形上做了一次单步能量极小化检索。

四、第二幕：非平衡热力学与场论——用演化轨迹绕开配分函数

平衡态模型试图直接雕刻最终的静态地形 $E_\theta(x)$ ，始终被配分函数 $Z(\theta)$ 拖累。2015 年之后，生成式 AI 发生了一次根本性的视角转换：既然直接算静态平衡态的概率密度太难，不如模仿一滴墨水在清水中扩散的过程——正向过程利用热力学第二定律把复杂的数据分布彻底冲刷成简单的高斯白噪声，反向过程再训练神经网络把扩散过程倒放回来。

1. 分数匹配与扩散模型：给热扩散装上时间倒流的引擎

在绕开 $Z(\theta)$ 的路上，第一个关键数学突破是分数函数（Score Function）。我们对玻尔兹曼分布两边取对数，再对数据坐标 $x$ （注意是对输入 $x$ 而不是对模型参数 $\theta$ ）求梯度：

s_\theta(x) \triangleq \nabla_x \log p_\theta(x) = \nabla_x \left(-\frac{E_\theta(x)}{T} - \log Z(\theta)\right) = -\frac{1}{T}\nabla_x E_\theta(x)

因为配分函数 $Z(\theta)$ 是对所有 $x$ 积分后的常数，对 $x$ 求导的瞬间， $\nabla_x \log Z(\theta) \equiv 0$ ，配分函数直接凭空消失了！物理上，能量对坐标的负梯度 $-\nabla_x E(x)$ 就是粒子在地形上受到的保守回复力。只要学会在空间每一点预测这个力场 $s_\theta(x)$ ，就能推着粒子回到高密度山谷。

但仅靠静态分数匹配还不够：在近百万维空间里，真实数据只占极薄的低维流形，流形之外全是密度接近零的“无人区”，神经网络在无人区根本没有训练样本，学出来的力场全是乱指的。2015 年 Sohl-Dickstein 等人借用非平衡热力学（Jarzynski 等式思想），以及随后 Ho 等人（DDPM）与 Song 等人（Score SDE）的统一，给出了完整解法：用多尺度的布朗运动把数据流形抹平，填满整个高维空间。

正向扩散过程是一条无需学习的随机微分方程（SDE），比如粒子在漂移力 $f(x,t)$ 和热噪声强度 $g(t)$ 驱动下做布朗运动：

dx = f(x, t) dt + g(t) dw_t

随着时间 $t$ 从 $0$ 走到 $T$ ，原本千奇百怪的数据分布 $p_0(x)$ 经过热扩散，平滑地演变成毫无结构的标准高斯分布 $p_T(x) \approx \mathcal{N}(0, I)$ 。非平衡统计物理中的 Anderson（1982）时间反演定理证明，这个不可逆扩散过程存在一条精确的逆时间随机微分方程：

dx = \left[f(x, t) - g(t)^2 \nabla_x \log p_t(x)\right] dt + g(t) d\bar{w}_t

看方括号里的多出来的那一项： $-g(t)^2 \nabla_x \log p_t(x)$ 。只要神经网络在每个噪声时刻 $t$ 学会预测加噪后分布的分数力场 $\nabla_x \log p_t(x)$ （在代数上等价于预测刚才混进去的高斯噪声），就能沿着逆时间把一团随机雪花点一步步还原成高清图像。

更有洞察力的是，任意一条随机微分方程所对应的宏观概率密度演化都服从福克-普朗克方程（Fokker-Planck Equation）： $\partial_t p_t = -\nabla \cdot (f p_t) + \frac{1}{2}g(t)^2 \Delta p_t$ 。把扩散项改写成散度形式 $\frac{1}{2}g^2 \nabla \cdot (p_t \nabla \log p_t)$ ，福克-普朗克方程立刻变成一个纯确定性的流体连续性方程。这意味着存在一条完全不带随机噪声的常微分方程（概率流 ODE，Probability Flow ODE）：

\frac{dx}{dt} = f(x, t) - \frac{1}{2}g(t)^2 \nabla_x \log p_t(x)

它与随机 SDE 在每一个时刻拥有完全相同的边缘概率密度 $p_t(x)$ 。这一物理等价性直接催生了 DDIM、DPM-Solver 等确定性快速采样器，把原本需要上千步的随机退火压缩到了十几步。对于文本、DNA 序列和蛋白质氨基酸这类离散空间，连续布朗运动被替换为连续时间马尔可夫链（CTMC）上的跳跃过程，服从主方程（Master Equation），神经网络转而学习状态翻转的“具象分数”（概率比值 $\frac{p_t(y)}{p_t(x)}$ ），构成了离散扩散模型（如 SEDD）的数学基石。

2. 流体力学连续性方程：从归一化流、流匹配到薛定谔桥

概率流 ODE 的发现捅破了一层窗户纸：既然最终生成靠的是一条确定性常微分方程把噪声推向数据，为什么还要先绕道去模拟缓慢的布朗热扩散？直接借用流体力学的质量守恒定律来设计速度场岂不是更干脆？

把概率密度 $\rho_t(x)$ 想象成空间中流动的可压缩流体密度，只要流体不凭空创生或湮灭，密度随时间的变化率就必须等于流入与流出的净通量，这就是连续性方程（Continuity Equation，亦称刘维尔输运方程）：

\frac{\partial \rho_t(x)}{\partial t} + \nabla \cdot \left(\rho_t(x) v_\theta(x, t)\right) = 0

顺着流体质点走的拉格朗日视角下，对数概率密度的变化率精确等于速度场的负散度： $\frac{d}{dt}\log \rho_t(x_t) = -\nabla \cdot v_\theta(x_t, t)$ 。早期的归一化流（Normalizing Flows）与神经常微分方程（Neural ODE / 连续归一化流 CNF）直接利用这个公式计算精确似然并做最大似然训练，但代价高昂：每次算损失都必须完整积分一遍 ODE 并计算雅可比迹，无法扩展到超大规模图像和视频。

2023 年前后同时爆发的流匹配（Flow Matching）、矫正流（Rectified Flow）和随机插值（Stochastic Interpolants），用极其漂亮的物理技巧绕开了训练期的 ODE 求解：先在噪声样本 $x_0 \sim \rho_0$ 和真实数据样本 $x_1 \sim \rho_1$ 之间人为修一条笔直的高速公路 $x_t = (1-t)x_0 + t x_1$ 。单看这一对样本，粒子的瞬时速度就是常数向量 $x_1 - x_0$ 。虽然不同样本对的直线会在半路交叉，但理论严格证明：只要让神经网络用最简单的最小二乘回归去拟合所有经过 $x_t$ 的直线速度的条件期望 $\min_\theta \mathbb{E}\left[\|v_\theta(x_t, t) - (x_1 - x_0)\|^2\right]$ ，学出来的宏观速度场 $v_\theta(x, t)$ 就自动精确满足连续性方程，把整团高斯流体平滑输运成真实数据分布！因为粒子走的是近乎笔直的最优输运轨迹，不再像热扩散那样走弯弯曲曲的折线，采样步数进一步大幅下降，成为当今主流图像与视频生成大模型（如 Stable Diffusion 3、Flux 等）的核心底座。

如果在两端分布都固定为任意分布（例如“把模糊CT图像变成高清CT图像”，而非一端必须是高斯白噪声），且底层粒子本身带有不可忽略的微观布朗热运动，怎么找最省力的演化路径？这就是埃尔温·薛定谔在 1931 年提出的思想实验——薛定谔桥问题（Schrödinger Bridge）：给定 $t=0$ 时的一群布朗粒子分布 $\rho_0$ ，在 $t=1$ 时意外观测到它们变成了异常分布 $\rho_1$ ，在所有能连接这两个边缘分布的随机过程中，哪一个相对于自由布朗运动的相对熵（KL 散度）最小？大偏差理论证明，薛定谔桥等价于带有熵正则化的动态最优输运（Entropic Optimal Transport）；当背景热噪声趋于零时，薛定谔桥就退化为确定性的本拿穆-布雷尼尔（Benamou-Brenier）流体动能最小化最优输运。在无限维概率空间上，用瓦瑟斯坦梯度流（Wasserstein Gradient Flow）和 JKO 格式（Jordan-Kinderlehrer-Otto Scheme）审视这一族模型还能发现：过阻尼朗之万扩散在宏观密度层面，等价于自由能泛函在瓦瑟斯坦度量空间里做最速下降。

3. 静电学泊松流与广义物理生成（GenPhys）：不止热力学能做生成模型

扩散模型对应热传导方程（抛物型偏微分方程），那其他物理分支的控制方程能不能转化成生成模型？2022–2023 年提出的泊松流生成模型（PFGM 与 PFGM++）把目光投向了经典静电学。

想象把 $N$ 维空间里的真实数据点看作铺在 $z=0$ 超平面上的一层正电荷，并在原空间之外额外增加 $D$ 个辅助维度 $z \in \mathbb{R}^D$ 。根据静电学中的泊松方程 $\Delta \varphi = -\rho$ 和高斯定理，这层数据电荷会在 $(N+D)$ 维空间中激发出向外辐射的静电场 $E(x, z) = -\nabla \varphi(x, z)$ 。在距离平面无穷远的大半球面上，所有复杂的数据电荷细节都被距离抹平，电场线呈完全均匀的球对称分布！只要从远处的大球面上均匀采样初始点，逆着神经网络学到的电场线一路往回走，落回 $z=0$ 超平面时就精确服从原始数据分布。

更深刻的大统一出现在 PFGM++：利用 $D$ 维辅助空间的旋转对称性，只需追踪辅助维度的半径 $r = \|z\|_2$ 。研究者证明，改变辅助维度数量 $D$ 可以在两个物理世界之间连续插值：当 $D = 1$ 时，它是纯粹的静电学泊松流 PFGM，重尾的库仑势让远距离轨迹对误差极度鲁棒；当辅助维度 $D \to \infty$ （同时保持 $r/\sqrt{D} = \sigma$ ）时，高维球面几何的测度集中效应使得库仑核精确退化为高斯热核，静电学泊松流严丝合缝地变成了扩散模型！有限的 $D$ （例如 $D=128$ 或 $2048$ ）则同时兼具扩散模型的低刚性与静电场的强鲁棒性。

顺着这条思路，GenPhys 框架进一步回答了“什么样的物理偏微分方程能变成生成模型”：只要一个物理过程对应的偏微分方程具有平滑性（随着演化抹平高频细节，熵增或场衰减）并能写成密度流守恒形式，就能构造生成模型。例如粒子物理中描述弱核力/核子介子屏蔽效应的汤川势方程（Yukawa Equation / 屏蔽泊松方程 $\Delta \varphi - m^2 \varphi = -\rho$ ），由于引入了介子质量项 $m$ 导致场强更快衰减，转化成生成模型时就会在粒子流动之外自然涌现出粒子生灭的“分支过程”；而像无阻尼波动方程和自由薛定谔方程这类纯色散、不抹平高频信息的方程，必须人为引入耗散阻尼项才能踏入生成模型家族。

五、第三幕：多体动力学、同步与重整化——重构深度网络的计算微观机制

前两幕聚焦于“怎么生成数据”，而物理学对“神经网络内部究竟如何加工表征、传递信号与更新权重”同样给出了超越传统工程视角的解释与新架构。

1. 球面交互粒子群与 Kuramoto 耦合振子：从解释表征坍缩到新一代动态神经元

把 Transformer 的残差连接看作欧拉时间步进，把层归一化（LayerNorm）看作将特征向量强制投影到高维单位球面 $\mathbb{S}^{d-1}$ 上，Geshkovski 与 Rigollet 等人（2023–2025）建立了一套严格的数学物理图像：深层 Transformer 前向传播，本质上是一群在单位球面上受平均场引力相互作用的粒子系统。注意力权重就是粒子间的指数吸引核。在这个视角下，随着网络层数加深，所有词向量粒子最终都会聚拢坍缩成球面上的同一个点——这解释了深层 Transformer 著名的表征坍缩（Representation Collapse / 过平滑）现象；之所以现实中的大模型没有彻底坍缩成废话，是因为该粒子系统存在两个悬殊的时间尺度：粒子先极快地聚成几个分别代表不同语义簇的长寿命亚稳态团簇（Metastable Clusters），随后团簇之间才以指数级缓慢的速度两两合并。网络只要在亚稳态窗口期内输出结果，就能兼顾上下文融合与语义区分度。

当球面维度降到二维圆周 $\mathbb{S}^1$ 时，上述粒子演化就退化为非线性科学中最著名的同步模型——藏本模型（Kuramoto Model）：一群固有频率各异的萤火虫或摆钟，通过相位差的正弦耦合 $\dot{\theta}_i = \omega_i + \sum_j J_{ij}\sin(\theta_j - \theta_i)$ 自发实现同频闪烁。2025 年（ICLR Oral）提出的人工藏本振荡神经元（AKOrN, Artificial Kuramoto Oscillatory Neurons）直接把传统神经网络里的静态标量激活值，替换成了高维单位球面上持续旋转和耦合的振荡子向量。传统静态神经元很难在没有显式监督的情况下回答“哪些像素属于同一个物体”（神经科学中的特征绑定问题 Binding Problem），而 AKOrN 利用物理学中的同步绑定机制：属于同一物体的特征振子通过局部耦合迅速锁相（Phase-locking）同步旋转，属于不同物体的振子保持相位错开。这种动态振荡激活不仅天然涌现出无监督物体发现能力，还在对抗样本鲁棒性与组合推理任务上显著超越了静态激活网络。

2. 线性时不变系统、重整化群与平衡传播

在长序列建模领域，挑战 Transformer 统治地位的状态空间模型（如 S4、Mamba）同样直接脱胎于经典物理与控制论中的连续时间线性时不变动力学系统（LTI ODE）： $\dot{h}(t) = A h(t) + B x(t), \, y(t) = C h(t)$ 。状态矩阵 $A$ 的特征值实部决定了系统记忆随时间的指数衰减率，虚部决定了振荡基频；Mamba 在此基础上把系数 $A, B, C$ 变成随输入变化的时变物理参数（选择性机制），既保留了微分方程离散化后的线性时间递推效率，又获得了按内容动态开关记忆阀门的能力。

如果追问“为什么层层堆叠的深度网络能从像素里提炼出高级语义”，凝聚态物理中的重整化群（Renormalization Group, RG）给出了精确映射（Mehta & Schwab, 2014）：在研究相变时，卡达诺夫（Kadanoff）实空间区块自旋变换把相邻几个微观自旋打包粗粒化为一个宏观有效自旋，逐步积分掉短程高频涨落，只保留决定宏观相态的长程相关特征。受限玻尔兹曼机和深度卷积池化网络的逐层前向映射，在数学上与变分重整化群的粗粒化算子一一对应。而在量子多体物理一侧，专门用来高效压缩满足“面积律纠缠”量子态的张量网络（如矩阵乘积态 MPS、树张量网络），被引入机器学习构造玻恩机（Born Machines）：它模仿量子力学玻恩定则，用波函数模平方 $p(x) = \frac{|\psi_\theta(x)|^2}{Z}$ 表示概率，既天然保证概率非负，又能用多项式级参数精确计算配分函数并实现无偏自回归采样。

在反向传播算法的物理替代方案上，Scellier 与 Bengio 提出的平衡传播（Equilibrium Propagation）证明：对于拥有物理能量函数的电阻网络或耦合振子网络，根本不需要跨层反向传输误差链式导数。只需分两步走：第一步固定输入让网络自由弛豫到能量极小平衡态 $s^0$ （自由相）；第二步把输出端朝着正确标签轻轻拉拽一点点（弱微扰 $\beta$ ），让微扰顺着物理耦合传遍全身到达新平衡态 $s^\beta$ （钳制相）。两个物理平衡态在每个突触两端的局部状态差值，在 $\beta \to 0$ 时精确等于全局损失函数对该突触权重的反向传播梯度——用纯局部物理弛豫完成了全局信用分配。

六、第四幕：分析力学、对称性与热力学硬件——锁死物理不变量

当 AI 的任务不再只是画图写字，而是预测分子动力学轨迹、模拟机翼湍流、操控机器人，或者需要突破算力芯片的能耗极限时，“受物理启发”就升级成了“强物理约束”。

1. 哈密顿、拉格朗日与度量辛网络：把能量守恒与熵增写死在导数里

让一个普通多层感知机或神经 ODE 去学习单摆或行星三体运动的数据：哪怕训练误差降到 $10^{-6}$ ，只要向前积分几千步，预测轨迹就会因为微小数值误差的不断累积，出现凭空加速飞出轨道或无故停摆的荒谬现象。原因在于普通神经网络直接拟合状态导数 $\dot{z} = f_\theta(z)$ ，它学到的向量场在相空间里不具备守恒几何结构，误差会让系统不断偏离恒定能量面。

2019 年提出的哈密顿神经网络（HNN）回到了经典分析力学的源头：网络不再直接输出位置 $q$ 和动量 $p$ 的导数，而是只输出一个标量——系统的总能量（哈密顿量 $H_\theta(q, p)$ ），然后通过自动微分严格按照哈密顿正则方程组装出运动速度：

\frac{dq}{dt} = +\frac{\partial H_\theta}{\partial p}, \qquad \frac{dp}{dt} = -\frac{\partial H_\theta}{\partial q}

看看这个交叉反号结构会发生什么奇迹：沿着轨迹计算预测总能量随时间的变化率，根据链式法则立即得到：

\frac{d H_\theta}{dt} = \frac{\partial H_\theta}{\partial q}\frac{dq}{dt} + \frac{\partial H_\theta}{\partial p}\frac{dp}{dt} = \frac{\partial H_\theta}{\partial q}\left(\frac{\partial H_\theta}{\partial p}\right) + \frac{\partial H_\theta}{\partial p}\left(-\frac{\partial H_\theta}{\partial q}\right) \equiv 0

无论神经网络内部的权重 $\theta$ 长什么样、哪怕网络还没训练好，它生成的连续相空间流在数学恒等式意义上永远严格守恒能量 $H_\theta$ ，且相空间体积元严格守恒（刘维尔定理 / 辛结构）！配合辛积分器（Symplectic Integrator）离散化后，长期预测的能量误差只会在极小范围内有界振荡，绝不发散。同理，当动量难以直接观测（只有广义坐标 $q$ 与速度 $\dot{q}$ ）时，拉格朗日神经网络（LNN）直接用网络参数化动能减势能 $L_\theta(q, \dot{q})$ ，再通过欧拉-拉格朗日方程（最小作用量原理）反解加速度。

但现实世界并非全是无摩擦的理想天体，流体粘滞和机械摩擦都会耗散机械能并产生热量。近年快速发展的端口-度量辛神经网络（Port-Metriplectic Neural Networks / GENERIC 框架）把热力学第一定律与第二定律同时编码进网络架构：用反对称的泊松括号矩阵 $L$ 控制可逆机械能守恒部分，用半正定对称的摩擦矩阵 $M$ 控制不可逆熵增部分，演化律写为 $\dot{z} = L(z)\nabla E_\theta(z) + M(z)\nabla S_\theta(z)$ ，并通过矩阵退化条件（ $L\nabla S = 0, M\nabla E = 0$ ）从架构根源上保证总能量严格守恒、总熵产率永远非负（ $\dot{S} \ge 0$ ）。在采样算法一侧，哈密顿蒙特卡洛（HMC）同样借用这套相空间轨道：给待采样的概率参数人为配上一组虚拟动量，让采样点像无摩擦冰球一样顺着等能面高速滑行很远再更新动量，一举消除了传统随机游走在高维狭长山谷里来回碰壁的停滞问题。

2. 诺特定理与几何深度学习：对称性就是最强的归纳偏置

1918 年艾米·诺特证明的诺特定理指出：物理系统的每一种连续对称性，都严格对应一条守恒律——空间平移对称对应动量守恒，空间旋转对称对应角动量守恒，时间平移对称对应能量守恒。几何深度学习（Geometric Deep Learning）将这一思想提炼为神经网络架构设计的总蓝图：不要靠把分子或三维点云旋转一万遍做数据增强去硬喂普通网络，而要把物理空间的对称群（Group）直接做成网络层的等变性（Equivariance）约束，即对输入做群变换 $g$ 后过网络，严格等于先过网络再对输出做同构变换： $f(g \cdot x) = g \cdot f(x)$ 。

传统卷积神经网络（CNN）只是最简单的二维平移群等变；在蛋白质折叠（如 AlphaFold 系列中的不变点注意力）、新材料晶体发现与分子力场模拟（如 NequIP、MACE、Equiformer）中， $\mathrm{SE}(3)$ / $\mathrm{E}(3)$ 三维旋转平移等变网络利用球谐函数（Spherical Harmonics）与量子角动量耦合中的克莱布希-高登系数（Clebsch-Gordan Coefficients）传递消息。因为物理定律不随实验桌的朝向而改变，这类网络只需看少量构型，就能零样本地对任意空间旋转下的原子受力做出物理一致的预测。

3. 物理信息网络、神经算子与热力学计算硬件

对于已知形式偏微分方程（如纳维-斯托克斯流体方程、麦克斯韦电磁方程）的正逆问题求解，物理信息神经网络（PINNs）把时空坐标 $(x, t)$ 作为输入、物理场 $u_\theta(x, t)$ 作为输出，利用自动微分直接算出偏导数残差 $\|\mathcal{N}[u_\theta] - f\|^2$ 塞进损失函数，用物理定律本身充当无需标注数据的正则化器；而为了克服 PINN 换一个初边值条件就得重新训练的缺陷，傅里叶神经算子（FNO）与深度算子网络（DeepONet）借鉴线性偏微分方程的格林函数积分核与谱方法，在无穷维函数空间之间直接学习算子映射，一秒内即可给出传统有限元求解器需要数小时才能算完的流场演化。

演进的最后一环正在从算法走回物理硅片本身。既然玻尔兹曼机和离散能量模型最大的瓶颈是用确定性的 GPU 浮点矩阵乘法去笨拙地模拟随机热采样，为什么不反过来利用室温下电子器件天然存在的热噪声来算概率？以 Camsari 等人提出的概率比特（p-bits，基于低势垒随机磁隧道结）以及 Extropic、Normal Computing 等团队在 2025–2026 年推进的热力学计算芯片（Thermodynamic Sampling Units, TSU）为代表，这类非冯·诺依曼硬件不再把热噪声当成需要耗费巨大电压去压制的干扰，而是直接把能量耦合矩阵映射为电路耦合，让物理热涨落以皮秒级速度和低数个数量级的能耗直接吐出服从玻尔兹曼分布 $p(x) \propto e^{-\beta E(x)}$ 的硬件原生样本——物理启发了 AI 算法，最终又在硅基热涨落中接管了它的物理执行。

七、理解的边界：脆弱假设、固有局限与未解难题

看清物理驱动 AI 的威力之后，同样必须标明这套范式在哪里会撞墙、依赖哪些脆弱假设，以及我们在本文推导中省略了什么：

热平衡与遍历性假设在真实复杂系统面前极其脆弱。玻尔兹曼机、EBM 乃至基于瓦瑟斯坦梯度流的采样器，底层都默认目标数据来自某个静态平衡分布，且局部梯度加微弱热噪声能在合理时间内遍历所有模式。然而近期理论严格证明（如针对多模态瓦瑟斯坦梯度流的谱间隙与首达时间分析），当高维分布的多个模式山谷间隔较远时，任何纯局部的梯度驱动输运都会遭遇统计物理中的亚稳态陷阱与临界慢化（Critical Slowing Down），混合时间依然随维度或势垒高度指数爆炸。而真实世界的数据（金融市场、生命演化、气候系统、人类语言流）本质上是持续耗能、不可逆、非平稳的开放非平衡系统，静态能量地形天生无法刻画非保守旋度力场（Curl forces）。
解析物理结构对“脏乱坐标系”高度敏感。哈密顿网络（HNN）和拉格朗日网络（LNN）的神奇守恒律，建立在一个苛刻前提上：你提供给网络的输入必须恰好是一组正则坐标 $(q, p)$ （比如精确质心位置与动量）。如果输入是摄像头拍下来的单摆像素视频，像素灰度既不是广义坐标也不是正则动量，必须先套一层编码器去猜隐空间正则坐标，此时辛结构极易因自编码器的重构畸变而退化；对于激波、断裂、相变这类不可微的间断物理过程，光滑微分方程先验也会失效，导致 PINN 陷入严重的多尺度谱偏置（Spectral Bias）与梯度病态而无法收敛。
物理归纳偏置与“苦涩的教训”（The Bitter Lesson）之间的算力博弈。群等变网络（如使用高阶球谐张量积的 $\mathrm{SO}(3)$ 网络）虽然样本效率极高，但高阶克莱布希-高登张量积的计算复杂度极高且难以像普通矩阵乘法那样吃满现代 GPU Tensor Core 的并行吞吐。在蛋白质结构预测（如 AlphaFold 3 用扩散模块替代部分复杂等变模块）和分子模拟前沿，已经出现了“用更大规模的数据增强 + 通用 Transformer/扩散架构，直接暴力击败精巧但昂贵的严格等变层”的工程倒退现象。精巧的物理约束究竟该硬编码进算子，还是仅作为训练期的软蒸馏目标，目前并无定论。
本文省略的分支。为聚焦于主流计算与生成主线，本文省略了用神经网络充当变分波函数求解薛定谔方程基态的神经量子态（Neural Quantum States, Carleo & Troyer）、软物质活性物质启发的多智能体集群算法，以及光学衍射神经网络与伊辛退火机在组合优化上的专用硬件工程细节——它们属于“用 AI 解特定物理问题”或专用模拟计算，而非塑造通用 AI 模型架构的主干方法。

一、 核心直觉与最小算例：为什么机器学习非要向物理学借工具？

二、 全局版图：四大物理支柱与模型谱系

三、 第一幕：平衡态统计力学——从玻尔兹曼机到注意力机制