观潮 · 模式预报与气象 AI 观察
气候 emulator 学不会增暖的一处根源:训练时随机遮变量,M-ACE2S 把检验期温度 RMSE 从 0.40 K 降到 0.27 K
> AIMIP 基准把 CO₂ 从输入里拿掉,只给规定的海温和海冰,结果 ACE2.1-ERA5 既低估训练期、也低估样本外外推期的近地面增暖趋势。作者的办法是在训练时随机遮掉输入通道(M-ACE2S,即 Masked-ACE2S),逼模型用剩下的变量预测每一个变量,再配一个叫「全局均值移除」的归一化策略。检验期近地面气温的 RMSE 从 0.40 K 降到 0.27 K,51 个场里有 47 个时间平均 RMSE 下降,趋势误差在两个时段也都下降。但作者明确写了三条边界:两个模型都仍然低估 2015—2024 年的增暖,只是 M-ACE2S 低估得少一些;掩码不是对所有场都有效,总水路径在检验期反而更偏离 ERA5;掩码只在训练时发生、评估时不发生,这两者是不相交的机制。
缺的是哪一块
AIMIP 用统一的试验协议系统评估 AI 气候 emulator,参与模型被禁止把 CO₂ 作为输入,只凭规定的海冰和海表温度去复现近地面增暖趋势。这个设计沿用 AMIP 的思路:海温和海冰由观测给定,海洋上的近地面空气通过湍流表面通量与规定的海温绑定,海洋增暖再通过更暖更湿的平流、增强的下行长波以及对流层自由大气的递减率响应传到陆面。物理型气候模式在 CO₂ 固定在前工业水平时,只要规定的海洋在增暖,近地面气温也会增暖。
AI 这边的问题是:给了 CO₂ 的 ACE2 系列看起来更依赖它单调上升的性质,而不是海温。ACE2-SHiELD 在给定 1979 年固定 CO₂ 浓度时无法按预期速率增暖;ACE2-SOM 则在大气和地表状态固定的情况下,随 CO₂ 变化给出了不符合物理的短波和地表向上长波通量变化,作者把这归因于训练时没有见过 CO₂ 与大气状态的独立组合。由于 CO₂ 至少在年均值上单调上升,一个在历史记录上训练的 emulator 可以把它当成时钟而不是强迫。海温也有同类风险,只是更弱,因为它的趋势相对季节和年际变率来说很小。
所以在 AIMIP 下拿掉 CO₂,等于拿掉了捷径,检验 emulator 能不能只从唯一带趋势的输入——规定的海温和海冰——复现趋势。这正是 ACE2.1-ERA5 没学会的部分。
掩码和全局均值移除怎么做
做法是数据增广:训练时随机遮掉变量通道,要求模型用其余输入预测每一个变量,而不是依赖任何单一通道。作者选 ACE 系列做底座,理由是它被积极开发维护、应用面广:ACE2 能复现 ERA5 上的历史变率和趋势,其变体可以模拟对 CO₂ 的平板海洋气候敏感度、完全耦合的海气气候,还能通过降尺度做公里级降水。
配对的另一项是新归一化策略「全局均值移除」,即从温度场里去掉全球平均。作者说它与掩码结合后,进一步改善了近地面气温预报,并让 M-ACE2S 对未见过的强迫的泛化能力提高。
数据用 ERA5,按 AIMIP 协议训练 1979—2008 年、验证 2009—2014 年、2015 年起为检验期;水平用 1° 高斯网格,垂直坐标粗化到 8 层并保持水汽和能量守恒。评估方式是 ERA5 上的 46 年气候滚动预报。
结果数字
量 · 数值
检验期(2015—2024)近地面气温 RMSE · 0.40 K → 0.27 K
时间平均 RMSE 下降的场 · 51 个里 47 个
滚动预评估时段 · 46 年
训练 / 验证 / 检验时段 · 1979—2008 / 2009—2014 / 2015 起
垂直层数 · 8 层(守恒水汽与能量)
两个模型都低估检验期增暖,M-ACE2S 低估得更少;掩码同时降低了两个时段的 RMSE 和趋势误差。单步验证损失这项,作者说明他们报告的是 1994 和 2014 两年(而不是整个 2009—2014),其中只有 2014 落在训练窗口之外。
训练动力学
掩码让训练和验证损失全程都变高,但缩小了两者之间的差距。这两件事有共同解释:掩码是正则化器,减少了对训练数据的过拟合,所以训练与验证损失的间隙收窄;而掩码本身是更难的目标(要求模型预测一个没被送进来的变量),所以两个损失整体抬高。
结果是掩码模型拿到了更低的 5 年推理误差(按 AIMIP 验证年 2009—2014 的时间平均 RMSE 计算),大约从第 20 个 epoch 起就明显优于基线。作者还提到,掩码缓解了 ACE 训练里一个长期存在的问题——训练更久并不总能带来更低的气候时间平均偏差。
作者承认的限制
- 两个模型在样本外都仍然低估增暖。 掩码只是让 M-ACE2S 低估得更少,不是消除了这个问题。
- 掩码不是对所有场都有益。 总水路径在检验期反而进一步偏离 ERA5,作者把「面向特定变量设计掩码策略」列为未解决的问题。
- 训练与评估机制不相交。 掩码只在训练时发生,评估时不带掩码;作者说对「掩码后再做不带掩码的训练」的彻底检验还没做。
- 掩码策略本身还粗糙。 最初用的是伯努利掩码(每个变量在训练中被遮的概率固定),换成均匀掩码后长期预报更好;其余策略留待后续。
- 空间掩码受架构限制。 只遮变量空间场的一部分需要不使用 SFNO 骨干的架构,以避免谱振铃。
- 动态掩码还没实现。 作者设想训练时由模型动态挑出被过度依赖的变量来遮,而不是随机选,但目前只是方向。
一句话判断
把「模型把单调上升的输入当时钟用」这个问题从评测层面搬到训练层面,用通道掩码加全局均值移除去治,是这篇的核心动作;增暖趋势仍被低估,但趋势的来源从「背下来的训练期」往「从规定边界强迫学出来的」挪了一步。