观潮 · 模式预报与气象 AI 观察

湿偏差会翻转结论:同一降水临近模型两套测试口径下偏差方向相反,七年后在意大利复现

2026-10-22

> 生成式降水临近预报普遍用「湿偏差」数据集训练和测试——为了让模型见过足够的极端事件,按目标观测挑样本,让降水过程被过度代表。这篇论文把代价算清楚了:模型固定不动,只换测试集的抽样口径,同一个模型的偏差方向会反转。在湿偏差测试集上它显得预报偏干,在代表业务分布的均匀测试集上它实际偏湿。更麻烦的是,当训练和测试用同一套抽样协议时,即使一个理想模型也会精确地学到「评估所偏好的那个分布」——测试偏差会把训练偏差盖住,于是「与测试集吻合」根本不能证明业务条件下是校准的。作者用德国 2015—2018 年训练的卫星—雷达扩散模型做了对照,再把同一实验搬到完全在训练域之外、且晚七年的意大利复现了这个反转。他们也明确划了边界:理论只在理想化极限下成立,只测了一个模型族、一个架构、一个任务、一种抽样方案,均匀测试集本身也只是业务分布的代理。

缺的是哪一块

临近预报指几小时以内的预报,时空分辨率要很高。数值模式在这个尺度上有几个绕不开的短板:观测处理与同化的延迟、模式起转、分辨率不够。基于机器学习的天气模型整体技巧已经能跟数值模式比,但多数仍靠模式分析场初始化,延迟和分辨率的限制被继承了下来。

生成式模型因此成了这个方向的主流:GAN、扩散、flow matching 都能给出空间上连贯的降水场集合。而这类工作几乎都把重心压在极端降水上,于是很自然地用了湿偏差的训练集和测试集——极端事件太稀有,不人为加权重根本学不动。

问题在于:一旦样本是按目标观测(未来实际下了多少雨)挑出来的,训练分布和测试分布就一起偏离了真正的业务分布。这个偏移常被称作分布偏移。

评估这一侧,这种做法早有名有姓,叫「预报员的困境」(forecaster's dilemma):用未来的实况去挑选验证样本,得到的就不再是业务分布上的性能估计,技巧评分失去正当性,校准诊断也会误导,还破坏了「协变量偏移」这个前提——而机器学习里对抗分布偏移的很大一部分方法都建立在这个前提上。这个概念在临近预报圈子里一直没被认真对待。

训练这一侧的影响,按作者的说法,此前没有被研究过。 理由很直接:生成模型学的是训练集所代表的那个条件分布,抽样偏移会直接写进模型权重里。

实验怎么搭的

环节 · 设置

任务 · 纯卫星输入 → 雷达反射率临近预报(卫星到雷达的转换)

目标数据(德国) · DWD RADOLAN WX 组合反射率,0.5 dBZ 量化,5 分钟、1 公里,极射赤面投影

时间对齐 · 只取 15 分钟整点,与卫星的低时间分辨率对齐

时段 · 2015—2020 年每年 5—10 月;2015—2018 训练、2019 验证、2020 测试

卫星输入 · Meteosat 高分辨率可见光(HRV)反射率

模型 · EDM 扩散模型,条件式

训练抽样 · Kahn 式重要性采样(湿偏差)

测试口径 · ① 湿偏差测试集 ② 均匀采样测试集(代表业务分布)

独立复现 · 意大利域,完全在训练域之外,时间上距训练期七年

空间裁剪 · 128×128 公里的参考窗口,相邻窗口步长 64 公里

选卫星而不是雷达做输入,是有意的:雷达是临近预报的黄金标准,但连续覆盖基本限于陆地上的工业化国家;静止卫星几乎全球覆盖,还能早期捕捉对流初生。

最关键的设计是模型固定不动。训练好的权重一次都不改,只把测试集换掉,这样评估分布的影响就被单独隔离出来了。意大利那一组更进一步:换域、换时间,同时保留同一个模型。

作者还顺带做了文献调查,把常见的抽样方案归了类:

抽样类型 · 做法 · 是否依赖目标观测

重要性采样 · Kahn 式蒙特卡洛重要性采样,压低易样本权重 · 是

确定性过滤 · 最小雨像素比例、平均雨强阈值、只取雨天子集等固定规则 · 是

强度分层均衡 · 按降水强度分箱,各箱等量抽取 · 是

事件策展 · 逐个个例挑选,多聚焦强降雨或极端事件(SEVIR 属此类) · 是

均匀采样 · 不做选择,得到与业务一致的数据集 · 否

调查结论是:除了一份工作用到的分层方式与「均匀」这一类之外,其余所有方案都拿未来观测来选样本,都属于目标依赖协议。作者特别点了 SEVIR 的名——它从 NOAA/NCEI 风暴事件库里挑风暴个例,又叠加了偏向大降水强度的随机抽样,是影响极大的基准数据集,被大量临近预报研究使用。也就是说,一个基准数据集的湿偏差会被每一篇下游论文静默继承。

结果:同一模型被判出相反的偏差

核心结论可以压成一句话:偏差方向的判断取决于测试集怎么抽的,而不取决于模型。

把这两句放在一起,就意味着「按湿偏差集的评估结果去调模型」会把开发者推向错误的方向。作者拿无分类器引导(classifier-free guidance)当例子演示了这条误导向的链条:在校准评估给出相反结论的情况下,下游的模型开发会被带偏。

还有一层更反直觉的结果:即便训练集过度采样了强降水,在均匀测试集上这个模型对小雨偏湿、对强降水仍然偏干。作者对此的结论不是「湿偏差数据集一无是处」,而是「用湿偏差本身不是错,错在完全不承认它引入的分布偏移、还在同一个偏移分布上做评估」。

理论上,作者给出了机制:目标依赖抽样同时挪动训练分布与测试分布;对一个理想模型而言,训练侧的偏移恰好等价于「针对同协议测试集的最优对冲」。两个偏移相互作用,测试偏差就把训练偏差遮住了。

原文图

德国与意大利两个域的雷达与卫星输入
德国与意大利两个域的雷达与卫星输入

两地的数据域与裁剪方式。(a)(b) 是德国,分别是雷达反射率(dBZ)与 Meteosat HRV 反射率(%);(c)(d) 是意大利,分别是雷达雨强(mm/h,对数色标)与 HRV 反射率。橙框为采样区,实线黑框是 128×128 公里的参考裁剪,虚线框是按 64 公里步长的相邻裁剪。意大利这一组完全落在德国的训练域之外。

德国对流个例在不同引导强度下的样本
德国对流个例在不同引导强度下的样本

德国 2020 年 5 月 10 日 15:15 UTC 的对流个例,超阈值判据为 38 dBZ。上排左起:引导强度 s=1、s=2 的第 14 号集合成员,以及 +30 分钟实况;下排是对应的超阈值概率,最右为两者之差。提高引导强度会把降水场推向更强、更集中的形态——这正是作者用来演示「校准结论不同会如何误导调参」的那类旋钮。

意大利对流个例在不同引导强度下的样本
意大利对流个例在不同引导强度下的样本

意大利 2025 年 7 月 13 日 14:00 UTC 的对流个例,超阈值判据为 9.55 mm/h,时间上距德国训练期七年。布局同上,色标换成 mm/h(0.1 到 200 的对数刻度)。同一套权重、同样的引导强度变化,在这个训练域外、时间外推的个例上再现了相同的形态响应。

作者承认的限制

可照着改的几条

作者给的建议可以归成四件事:

要求 · 具体做法

声明业务分布 · 明确写出预期的部署分布,并标出它与训练、测试分布的差异

在业务一致的测试集上验证 · 若为省算力用了重要性采样,须记录接受概率;避免出现接受概率为零的抽样方案;报告分数要用逆概率加权(IPW)估计。也可以用基于预报的分层来强调极端

补校准诊断 · 除逐像素评分外,还应报告 rank 直方图、可靠性图这类校准度量

后处理只用业务一致的验证集 · 后处理与校准拟合不能在湿偏差集上做

长期建议是建一个临近预报的社区基准,测试集按业务分布构造,做法可以参照 WeatherBench 对中期预报机器学习模型所起的作用。

一句话判断

这篇的价值不在「湿偏差数据有害」这种结论,而在于它证明了测试口径本身可以改变偏差判断的符号——同一份权重,换个测试集就从偏干变偏湿;这意味着大量以湿偏差集评分的临近预报论文,其「校准良好」的结论都需要重新审视,而作者自己只在一个任务、一个模型族上验证了它。

在观潮中打开(含配图与交互)→