能量地形：为什么"滚下山坡"既是记忆，也是优化

本节你将能

• 把任意组合优化问题翻译成"地形 + 一个在上面滚的球"
• 说清局部极小值是怎么产生的，以及为什么维度一高它就不稀奇了
• 区分梯度下降、模拟退火、量子隧穿退火三种"下坡"策略各自适合什么地形
• 看懂 Hopfield 网络与伊辛机其实是同一件事的两副面孔

直觉模型：先画一张地图

假设你要给一辆货车规划 30 个城市的送货顺序。方案总数大约是 30 factorial 量级，逐个算完是不可能的。但如果你能给每个方案打一个分——总里程越短分越好——那所有方案就在你面前铺成了一张高低起伏的地形：山谷是最优路线，山脊是最差路线。

这张图叫能量地形。它不可视、不可打印，因为它是 30 维甚至更高维空间里的曲面，但它在数学上是存在的。一旦承认它存在，"求解"这个动作就变了性质：你不再是在一堆方案里挑，而是在一个地形上往低处走。

图1：把每个解的代价当作高度，优化问题就变成了一个球往低处滚

局部极小值：地形给的下马威

球滚到一个小坑底就停了。这个坑底叫局部极小值。在一维、二维的地形里，局部极小值显得像意外；在高维地形里，它是常态——一个点要在所有方向上都不再下降才算停，维度越高，这种点越多。

蛋白质折叠是这件事的名场面。一条氨基酸链的可能构象数量天文数字，真实折叠过程却只要微秒到毫秒。原因正是它的能量地形不是随机起伏的，而像一个漏斗：大部分路径都顺着坡往下滑，坑不多。这个观察有个专门的名字，叫最小受挫原理。反过来说，会错误聚集的蛋白，往往是因为地形上多出了几个深坑。

图2：同一个地形上，从三个不同起点出发的球停在三个不同深度的坑里

三种下坡策略

球怎么走，决定了你能走到多低。常见的三种策略代价完全不同：

• 只许下坡（梯度下降）：最快，也最容易卡住。适合地形接近漏斗的问题——比如训练神经网络，高维空间里的鞍点比真正的坑多得多，硬往下走反而走得通。
• 偶尔允许上坡（模拟退火）：开头温度高，允许球翻过矮山梁去别的山谷；温度慢慢降，最后只许下坡。代价是慢，而且降温排程得靠调。
• 直接穿墙（量子隧穿退火）：不给球翻山的力气，而是让它在低温下以一定概率直接出现在墙的另一侧。势垒越窄，穿过去的概率越高——这与高度无关，所以它对"又高又薄"的墙特别有效。

图3：只许下坡、允许上坡、直接穿墙——三条路线在同一道势垒前的不同命运

记忆也是同一件事

1982 年，John Hopfield 指出：如果你把一组要记住的图案写成网络的连接权重，让每个图案都对应地形上的一个谷底，那么"回忆"就是从残缺的起点滚进最近的谷底。记忆内容决定了地形长什么样，回忆过程就是在地形上找坑。

这样一来， Hopfield 网络和前面说的货车路线问题就成了同一件事的两副面孔：前者是把谷底刻进地形，后者是在地形上找谷底。今天在 FPGA 上实现的伊辛机，走的正是第二条路——它不推理，它让一堆自旋在能量地形上松弛到低能态，然后读出结果。

核心要点

• 优化的本质是几何：先有地形，才有算法
• 局部极小值在高维空间里是常态，不是 bug
• 梯度下降靠"地形本身是漏斗"，模拟退火靠"温度换时间"，隧穿退火靠"概率穿薄墙"
• 判断一个优化器好不好，别只看最终解，要看它到解需要多久

配套练习

import numpy as np

def energy(spins, J):
    """伊辛能量：相邻自旋一致则能量低"""
    return -0.5 * spins @ J @ spins

def anneal(J, steps=20000, t0=3.0, t1=0.01):
    n = len(J)
    s = np.random.choice([-1, 1], size=n)
    best, best_e = s.copy(), energy(s, J)
    for k in range(steps):
        T = t0 * (t1 / t0) ** (k / steps)        # 指数降温
        i = np.random.randint(n)
        cand = s.copy()
        cand[i] *= -1                             # 翻一个自旋
        dE = energy(cand, J) - energy(s, J)
        if dE <= 0 or np.random.rand() < np.exp(-dE / T):
            s = cand
            e = energy(s, J)
            if e < best_e:
                best, best_e = s.copy(), e
    return best, best_e

把 J 换成随机矩阵跑一遍，你会发现降温越快，最后卡住的能量越高。这不是代码写错了，这正是地形的脾气。

---