观潮 · 模式预报与气象 AI 观察

训练集里几乎没有突变,CVAE 照样学出了平流层突变的潜空间结构

2026-10-05

用深度学习代理一个平流层系统,最大的难点不是网络结构,是数据极度不平衡:绝大多数时间是稳定的极涡状态,真正的突变只占极小比例。确定性模型在这种数据上会退化成"永远给最可能的那个答案"。

这篇论文的做法是:用条件变分自编码器只学一步(一天)的转移分布,然后检查这个模型的潜空间。对 32 维潜变量做主成分分析后,不需要任何标签,四个物理上说得通的簇自己分了出来——强涡、弱涡,以及两种"正处于转变边缘"的状态。

有意思的地方在于:模型只学了一步转移,长期统计却自动对了。

---

缺的是哪一块

平流层极涡是中高纬冬季气候的关键部件。最典型的体现是突然平流层变暖(Sudden Stratospheric Warming,SSW)——极涡快速崩溃、大尺度环流重组、对流层急流被改写,地面可能因此出现持续性的极端寒潮。

预报这类事件难在两个地方:一是需要把平流层到对流层的耦合表达清楚,二是平流层内分辨率要够高——因为驱动过程的时间尺度跨度极大,从天(对流)到年(准两年振荡、ENSO)。很多模式直到最近才具备这个能力。

SSW 属于天气型态转变这一类问题,和阻塞、持续性急流形态并列。这类转变的共同困难是:它们突变性强、在历史记录里相对稀少。相对日常天气现象(比如中纬度气旋)而言,样本量差距悬殊。

已有 AI 天气模型在极端事件上表现不一——有时能借助其他空间位置的信息做局地外推,但面对完全落在训练数据之外的情形时通常就吃力了。

论文自己点明了工作定位:为这个随机亚稳态系统建一个代理模型,同时证明它的潜空间有物理可解释性。而代理模型过去的努力集中在确定性(但混沌)系统上,随机大气动力学的代理被研究得少得多。

---

系统怎么搭的

被代理的对象:随机 Holton–Mass 模型

论文用 Holton–Mass(HM)模型做试验床。这是一个 1976 年就提出的、有影响力的离散化极涡物理模型。虽然理想化,但通过非线性波–平均流相互作用抓住了平流层变异性的核心特征,并且物理可解释。

系统的状态是一个 75 维向量:复数形式的扰动流函数,加上纬向平均的纬向风,在对数压力坐标下等间距的 25 个垂直层上离散。

无随机强迫时,HM 系统有两个稳定平衡态:

弱涡环境容易产生反复的"振荡周期"(vacillation cycles)——涡反复部分恢复然后又被击垮。

加上随机强迫(代表重力波阻尼这类快速、未解析的过程)之后,系统变成亚稳态:轨迹在某个平衡态附近长时间波动,然后罕见、间歇地跳到另一个态。极涡从强到弱的转变在定性上就代表 SSW 事件。

网络:ResNet 风格的条件变分自编码器

论文选 CVAE 而非确定性模型,理由写得很直接:确定性代理会低估变异性,并坍缩到由初始状态决定的单一态上。 CVAE 从未来状态的条件分布里采样,而不是给一个确定的预报。

具体配置:

项 · 设置

架构 · ResNet 风格的条件变分自编码器(CVAE)

编码器/解码器层数 · 各 6 层

条件输入 · 显式的当前状态

预测目标 · 下一步(1 天)的状态分布

潜变量维度 · 32

注意训练目标只有一步。 一个样本内部包含很多积分步,这使得学习目标是一个比简单高斯更复杂的分布,学习问题本身更难。

还有一点值得单独说:论文没有利用对 HM 模型噪声结构的先验知识,而是让 CVAE 自己去学。

数据集与态的划分

训练数据是 HM 模型的一次长期积分。关键积分参数:Euler–Maruyama 格式的时间步长,采样频率为每天一次。

强涡与弱涡两个态按 30 km 高度的纬向风阈值定义为状态空间中的扩展集,阈值依据无强迫系统稳定平衡点的位置选取。论文说明:结果对阈值的适度变化不敏感。

态的分类被细分为瞬态(transient)和持续(persistent)两类:

这套瞬态/持续的判据是为了只捕捉真正的型态转变起点,而不是短暂越界。判据要求满足三个条件,核心是排除那些跨过阈值又回来、并未导致亚稳态集合之间转移的抖动。弱涡一侧对称定义。

为什么"确定性代理"在这里一定不行

论文的分析段落把这个逻辑写成了递进的三句:

而"转变在训练数据中确实存在,只是很少"这一点,是 CVAE 能学成的关键前提。

---

结果数字

一步精度

评估方式是把代理模型的集合模拟与同规模的 HM 模型集合模拟比 RMSE。HM 模型自身的 RMSE 给出的是一个完美代理仅因随机性就会有的单步散布,这是一个很干净的参照基准。

RMSE 随高度的变化是非单调的,在约 15 km 和 40 km 处有局部极大值——两种态下都是这样。论文的归因是随机强迫让高处的纬向风变异性大于低处。

两种态下的差别很明显:

态 · 一步 RMSE 表现

强涡态 · 代理的 RMSE 剖面**全程紧贴** HM 模型

弱涡态 · 代理 RMSE 大多数高度约为 HM 模型的**两倍**

也就是说,一步精度在两种态下都还可以,但强涡态下明显更好。

误差随预报时效的增长

论文对饱和的解释是:到那个时间尺度上,多数转变已经发生过了,对这个系统而言确定性的具体预报不再有用。

这两条数字合起来是理解这类代理模型能力边界的关键:一步学出来的模型,长期的误差增长曲线形状是对的,但"有用预报时效"大约只有 50 天量级。

潜空间的四个簇

对 32 维潜变量的均值做主成分分析后,出现四个清晰分离的簇,分别对应:

论文强调了两点:

其一,这个分离没有用到任何态标签,是在训练中自发出现的。它来自"学习条件分布"这一行为本身,意味着网络隐式地发现了物理上有意义的变异流形。

其二,这个组织结构说明模型捕获的不只是 HM 模型的两个稳定态,还包括连接它们的两条动力学路径。

论文把这个结果定位为潜在的早期预警信号:转变倾向态在潜空间中的可分辨性,本身就是对 SSW 类型态转变的一个信号。

长期统计也对了

尽管只训练了一步,代理模型匹配的不只是短期预报,还包括重要变量的二维结构:

---

原文图

图 1:整篇论文的框架图

原文图 1:四格框架图。左上是被代理的物理系统与数据(Holton-Mass 模型剖面与 A→B / B→A 转变示意),右上 ResNet 风格条件变分自编码器架构,左下代理技巧与罕见事件动力学的概念结果(稳态概率密度、返回周期累积分布、committor 函数、提前时间图),右下潜空间几何(二维主成分分析散点)。
原文图 1:四格框架图。左上是被代理的物理系统与数据(Holton-Mass 模型剖面与 A→B / B→A 转变示意),右上 ResNet 风格条件变分自编码器架构,左下代理技巧与罕见事件动力学的概念结果(稳态概率密度、返回周期累积分布、committor 函数、提前时间图),右下潜空间几何(二维主成分分析散点)。

图 1 是四格结构,左上到右下就是全文的论证顺序。 左上是物理对象:一个 30 km 处的纬向风剖面在强涡(U 大、强西风)和弱涡(U 小、弱东风)之间切换,A→B 是突变、B→A 是恢复。右上是网络:编码器多条 ResNet 分支输出潜变量的均值和方差,经重参数化得到 32 维潜变量,再送进解码器,末端接一个同化到高斯分布的卷积块。左下是评价量:稳态概率密度、返回周期累积分布、committor 函数、提前时间图。右下是潜空间主成分分析散点。左下第四格那个提前时间图是全文最反直觉的地方:代理把强涡(蓝)与弱涡(红)的起始时刻之差画成绿色、把弱涡与强涡的差画成红色,两者都随时间线性张开,而且代理曲线与 HM 模型的"完美代理"参考线几乎重合——虽然训练数据里几乎没有突变。

图 2:一步模拟的时间序列与概率密度对照

原文图 2:左列时间序列、右列概率密度。上排是 Holton-Mass 模型的 30 km 纬向风随 60000 天演化(蓝),下排是代理模型(红);右侧两幅概率密度图把两者叠加比较,代理曲线与 HM 模型基本重合。
原文图 2:左列时间序列、右列概率密度。上排是 Holton-Mass 模型的 30 km 纬向风随 60000 天演化(蓝),下排是代理模型(红);右侧两幅概率密度图把两者叠加比较,代理曲线与 HM 模型基本重合。

图 2 是训练数据本身和代理输出的直接对照。 左边两幅是时间序列:60000 天里,30 km 纬向风在 ±80 m/s 之间反复跳变,弱涡段集中在 0 附近、强涡段在 70 m/s 附近。右边两幅是同一个量的概率密度,上排只有 HM 模型,下排把代理(红)和 HM 模型(蓝)叠在一起——两条曲线的形状和峰位几乎完全一致,包括弱涡峰(密度约 0.02)和强涡峰(约 0.065)这两个特征。值得注意的是时间序列上 HM(蓝)和代理(红)的跳变时刻肉眼可见地不同,但统计分布是对的。

图 3:一步 RMSE 的垂直剖面,两种态分开对比

原文图 3:两幅一步均方根误差随高度分布。左图是强涡态,纵轴 0–70 km,横轴 RMSE 0.5–4 m/s;右图是弱涡态,纵轴 4–20 km 横轴为示意值、0.25–2.25 m/s。绿线是 HM 模型,红线是代理,灰色虚线是背景纬向风。
原文图 3:两幅一步均方根误差随高度分布。左图是强涡态,纵轴 0–70 km,横轴 RMSE 0.5–4 m/s;右图是弱涡态,纵轴 4–20 km 横轴为示意值、0.25–2.25 m/s。绿线是 HM 模型,红线是代理,灰色虚线是背景纬向风。

图 3 把一步精度拆成强涡态和弱涡态两幅,差别一眼可见。 左图强涡态:红线(代理)几乎贴着绿线(HM 模型),在 20 km 高度以下两者几乎不可分,40 km 以上也只差一点点。右图弱涡态:红线整体明显右移,在 5–15 km 高度范围内差距最大,接近 HM 模型的两倍。两幅图的横轴量级也不同(强涡态 0.5–4 m/s,弱涡态 0.25–2.25 m/s),所以不能直接横向比数值大小,只能比红线与绿线的间距。灰色虚线是背景纬向风廓线,右图里它呈双峰形态(4–20 km 之间有一个主峰和一个小峰),强涡态里则是单调上升。

图 4:误差随预报时效的增长,三层高度分别给出

原文图 4:三幅误差随预报时效增长的曲线,横轴都是 0–1000 天。a) 下层 3–22 km,纵轴 RMSE 0–35 m/s;b) 中层 24–46 km,0–95 m/s;c) 上层 48–67 km,0–160 m/s。蓝线是代理的集合预报均值 RMSE,浅蓝阴影是 95% 置信区间,红线与粉线分别是代理与 HM 模型的气候均值参考。
原文图 4:三幅误差随预报时效增长的曲线,横轴都是 0–1000 天。a) 下层 3–22 km,纵轴 RMSE 0–35 m/s;b) 中层 24–46 km,0–95 m/s;c) 上层 48–67 km,0–160 m/s。蓝线是代理的集合预报均值 RMSE,浅蓝阴影是 95% 置信区间,红线与粉线分别是代理与 HM 模型的气候均值参考。

图 4 是判断"能用到什么时候"的关键图。 三幅分别对应下层(3–22 km)、中层(24–46 km)、上层(48–67 km),纵轴上限依次抬高到 35、95、160 m/s——越往上误差越大。三幅的共同形状是:蓝线从原点快速上升,在前 200–400 天附近出现一个明显拐点,之后转为缓慢上升,到 1000 天仍在爬但斜率小得多。红线是气候平均值(RMSE 不随起报时刻变化),蓝线在约 200 天以前低于红线、之后穿上去。浅蓝阴影(95% 区间)在前期很窄、后期很宽,反映集合离散度随时效快速增长。三条水平虚线(蓝、红)分别是代理与 HM 模型的气候均值参考,和正文那个"约 1000 天饱和"的说法对得上。

图 5:稳态联合概率密度,两个模型并排

原文图 5:两幅二维密度等值线图,横轴是 30 km 积分热通量(-20000 到 80000 K·m²/s),纵轴是 30 km 纬向风(-60 到 80 m/s)。左边是 HM 模型、右边是代理模型,等值面填色从深蓝到深红表示密度对数从 -5 到 0。
原文图 5:两幅二维密度等值线图,横轴是 30 km 积分热通量(-20000 到 80000 K·m²/s),纵轴是 30 km 纬向风(-60 到 80 m/s)。左边是 HM 模型、右边是代理模型,等值面填色从深蓝到深红表示密度对数从 -5 到 0。

图 5 比图 2 更进一步,因为它用的是联合分布而不是单一变量的边缘分布。 两幅图的横轴是 30 km 积分热通量(ihf),纵轴是纬向风。等值线都呈一个斜着的椭圆状,两侧还有羽状结构。两幅对照下来:椭圆的位置、长轴走向、深色高密度核心(ihf 约 25000–35000、U 约 10 m/s)的位置都对得上,差别只在代理那幅外围的散点略微稀疏一些、外圈等值面的形状稍不规则。这说明代理不只记住了 U 的分布,还记住了 U 与热通量这个二维联合结构。

图 6:返回周期累积分布,自举法置信区间

原文图 6:两幅返回周期累积分布图,纵轴都是 P(T > t)(对数坐标,1 到 10^-2 量级),横轴是持续时间 0–7000 天。a) A 态持续时间 τ_AB,b) B 态持续时间 τ_BA。红色是 HM 模型、蓝色是代理,阴影是自举 95% 置信区间。
原文图 6:两幅返回周期累积分布图,纵轴都是 P(T > t)(对数坐标,1 到 10^-2 量级),横轴是持续时间 0–7000 天。a) A 态持续时间 τ_AB,b) B 态持续时间 τ_BA。红色是 HM 模型、蓝色是代理,阴影是自举 95% 置信区间。

图 6 展示的是"平均能持续多久"这一层统计。 红线(HM 模型)和蓝线(代理)从 (0, 1) 出发一起下降,两条曲线的置信带大部分时间重叠。关键差别在尾巴:a) 图里蓝线的尾巴一直拖到约 6300 天,红线在 5900 天左右断掉;b) 图里反过来——蓝线在 3000 天就断了,红线一直拖到 5500 天。也就是说,代理在 A 态把"长持续时间"的尾巴估得更重、在 B 态估得更轻,平均量级对得上,但尾部统计有偏差。做定性转变预估时,这一处不一致值得自己拿原始数据再核一遍。

---

作者承认的限制

论文自己划的边界有几条,都很关键:

这是一个理想化的试验床,不是真实大气。 作者明确定位为"理想化积木"层面的贡献:在 HM 模型这个受控环境里证明精心设计的随机深度学习模型能忠实捕获转变统计和 SSW 风险量,同时暴露出一个态与前兆都清晰组织的潜空间。作者把"这些潜结构如何启发更真实系统里的特征设计、型态感知训练或罕见事件采样策略"列为感兴趣的研究者可以去看的方向,不是本文的结论。

突变的概率强迫机制是靠随机种子注入的,不是学出来的"预报"。 潜空间里分出的簇不等于可以拿来做预报的技巧。论文只做到了"潜变量里能区分出转变倾向态",没有报告基于此的提前预警技巧(skill score)——潜空间分离有用,但把它变成可用的预警指标,中间还差一步验证。

弱涡态下一步精度只有强涡态的一半左右。 论文明确说两种态下"表现尚可",但"在强涡态下明显好于弱涡态"。这个差距论文解释了原因(随机强迫让高处纬向风方差更大),但没有把它作为需要解决的问题来处理。

单步一步训练与长期统计匹配之间的机制没有完全解释。 论文把这个现象本身当作发现来报告("尽管只训练一步预测,代理仍能匹配短期和长期统计"),但并没有说明为什么一步条件分布的学习就足以约束到这种程度的长期统计性质。这是一个可以追问的点。

"确定性预报在约 50 天内有用"这条边界依赖于系统本身的混沌性,不能直接搬到别的系统。 这是 HM 模型这个特定系统的性质。

---

一句话判断

用一步条件分布去学随机亚稳态系统,长期统计能自动对上——这是这篇论文最扎实的一点;而"潜空间分成四簇"目前仍停在可解释性证明,离可用的业务预警还差一轮技巧评分。 它的实际价值在于给出了一条可行的代理建模路线:随机亚稳态系统不必直接建模罕见事件分布,把它拆成"学一步条件分布 + 让长期统计自己浮现"就够了,前提是模型是概率型的。

在观潮中打开(含配图与交互)→