常用: 学生 教职工 校友 OA系统 邮件系统 VPN系统 图书馆 智慧门户 EN
首页 皇冠盘口 Royal皇冠(中国) 用Attention和MoE预告天气,刷新公里级展望SO

Royal皇冠(中国) 用Attention和MoE预告天气,刷新公里级展望SOTA

发布时间:2026-05-09 来源:皇冠盘口 作者:admin 浏览:57

近日,计较机视觉鸿沟顶级海外会议CVPR 2026公布了论文托福成果。本次会议共收到 16,092 篇投稿,最终托福 4,090 篇,合座托福率为25.42%,其中仅有约2.5%的论文被评为Highlight Paper。

由香港科技大学郭嵩院士(IEEE Fellow)团队与上海 AI 履行室配合完成的论文《STCast: Adaptive Boundary Alignment for Global and Regional Weather Forecasting》奏效入选 CVPR 2026 Highlight Paper。

该使命提议了一种全新的时空天气预告框架 STCast,通过自顺应鸿沟对皆和时辰夹杂大众模子,在群众预告、区域预告、台风旅途展望和聚积预告四大任务上全面超过现存智力,得回了SOTA 性能。

计划配景与动机

准确的公里级区域天气预告是一项具有潜入社会经济影响的首要科学挑战。现存的区域预告战略主要分为两类:

考研专用区域模子

忽略了瞄准确预告至关伏击的跨区域依赖关系

从群众预告中剪辑区域

受限于静态且不精准的区域鸿沟,泛化才调差

传统数值天气预告 ( NWP ) 智力通过求解偏微分方程来处理鸿沟问题,但计较资本极高。而现存的 AI 智力频频只使用相邻区域来界说鸿沟,这与老到的"大气 - 海洋 - 陆地 - 生物圈耦合表面"相矛盾——该表面标明,区域大气中的任何极少都受到总计地球系统的影响。举例,西伯利亚的寒潮不错激励东亚的寒潮,青藏高原的地表加热不错同期蜕变东亚季风和北好意思激流。

为了处罚这些挑战,团队提议了STCast 框架,它明确地模拟了地球系统中抵制演变的群众 - 区域相干性。

三种区域预告战略对比

团队对比了三种主流的区域天气预告战略:

上图中,图 ( 1 ) 是三种区域预告战略泄漏图:

( a ) 现存 AI 智力:从群众预告中剪辑相邻区域,与区域变量总计进行预告;

( b ) 重新平直考研:仅使用规画区域的数据考研模子;

( c ) 团队的智力 ( STCast ) :通过散布密集皆集群众 - 区域模子进行预告。

图 ( 2 ) 是三种战略的区域预告性能对比。

定量成果标明,STCast 在总计变量的平均 RMSE 和 ACC 上都得回了最好性能,显赫优于平直考研和 OneForecast 智力。这考证了团队的动态、地球感知鸿沟机制优于基于静态邻居的耦合智力。

STCast 合座架构

STCast 是一个营救的时空天气预告框架,粗鄙同期处理四大重要任务:

△图 2:STCast 合座架构图

( a ) 低分歧率群众预告:包含编码器、处理器妥协码器,集成了 Temporal MoE 模块;

( b ) 高分歧率区域预告:通过 Spatial-Aligned Attention 模块交融群众和区域信息;

( c ) 台风旅途展望:应用展望的高分歧率 MSL 来猜想台风旅途;

( d ) 历久预告和聚积预告:通过注入 Perlin 噪声生成多个预告聚积。

STCast 的中枢鼎新在于两个重要模块:Spatial-Aligned Attention ( SAA ) 和Temporal Mixture-of-Experts ( TMoE ) 。

中枢鼎新一:Spatial-Aligned Attention ( SAA )

Spatial-Aligned Attention 模块将全局特征当作 Query 和 Key,将区域特征当作 Value,通过线性交叉提神力动态耦合群众和区域特征。

△图 3:Spatial-Aligned Attention 泄漏图

SAA 的重要机制包括:

大圆距离度量

更准确地测量地球名义上的空间关系

指数距离衰减函数

运调理可学习的群众 - 区域散布,确保远距离区域的影响较弱

高效提神力机制

将计较复杂度从 O ( n ² ) 镌汰到 O ( n )

通过这种神志,SAA 确立了一个最优的群众 - 区域散布,皇冠·app官方站入口该散布在考研历程中抵制优化,粗鄙捕捉群众和区域大气情势之间的潜在相干性。

中枢鼎新二:Temporal Mixture-of-Experts ( TMoE )

琢磨到大气变量在不同月份存在显赫各别,Temporal Mixture-of-Experts 将每个月的预告视为相对孤苦的任务,并使用夹杂大众模子来组织这些任务。

△  图 4:Temporal Mixture-of-Experts 泄漏图

TMoE 的重要机制包括:

碎裂高斯散布

为每个月学习一个高斯散布来泄漏那时辰特征

旋转对皆

将月份序列旋转对皆到输入变量,确保激活概率随时辰距离单调递减

多大众激活

增强路由各种性,留心大众同质化

履行成果 1. 低分歧率群众预告

团队在 ERA5 数据集上评估了 STCast 的群众预告性能,与 Pangu-Weather、Graphcast、Fuxi 和 OneForecast 等主流智力进行了对比。

△  表 1:群众天气预告性能对比

成果标明,STCast 在总计基准测试中都进展出一致的优厚性,迥殊是在历久展望方面得回了显赫的提高。这收货于团队的月份特定考研战略,它粗鄙有用地捕捉大气系统中的季节依赖和月际变化。

2. 高分歧率区域预告

△  图 5:东亚区域的高分歧率预告履行:平直考研、OneForecast 和 STCast 智力对比

在东亚区域的高分歧率预告履行中,团队对比了平直考研、OneForecast 和 STCast 三种智力。成果露馅,齐备动态鸿沟要求的 STCast 比拟平直考研的 STCast(无动态鸿沟)和 OneForecast,RMSE 镌汰了 0.05,ACC 提高了 0.1。

3. 顶点事件评估:台风旅途展望

团队评估了 STCast 在两个近期台风事件上的进展:2024 年 5 月的台风艾云尼 ( Ewiniar ) 和 2024 年 11 月的台风银杏   ( Yinxing ) 。

△图 6:台风旅途展望成果

成果露馅,STCast 的 72 小时旅途预告与不雅测旅途的吻合度昭彰高于 ECMWF、FourCastNet、Pangu-Weather 和 FengWu。迥殊是在台风银杏的历久展望中,STCast 的平均舛错仅为 96.5 公里,而次优的 Pangu-Weather 为 160 公里。

消融计划

团队进行了全面的消融计划来考证每个模块的有用性:

△表 2:消融计划成果

成果标明,移除任何组件都会导致区域和群众任务的性能下落。最显赫的下削发出家生在移除群众 - 区域散布   ( 区域任务:10 天 RMSE 增多 0.22 ) 和月份镶嵌   ( 群众任务:10 天 RMSE 增多 0.13 ) 时,这确认了每个组件在提高 STCast 合座有用性方面的重要作用。

论断

在这项使命中,团队在 Spatial-Aligned Attention 模块中引入了自顺应提神力求,为区域预告提供动态鸿沟要求。除了区域任务外,团队还将 Temporal Mixture-of-Experts 镶嵌到时空预告框架 STCast 中,将天气预告视为一个多任务问题,并将月度子任务托福给挑升的大众。

因此,STCast 同期处罚了四个不同的挑战:低分歧率群众预告、高分歧率区域预告、顶点事件评估和聚积天气预告。履行和消融计划确认,STCast 在总计评估场景中都长久优于竞争智力。

论文畅通:https://arxiv.org/pdf/2509.25210v3

代码仓库:https://github.com/chenhao-zju/STCast

一键三连「点赞」「转发」「小心心」

接待在批驳区留住你的思法!

—  完  —

咱们正在招聘别称眼疾手快、温雅 AI 的学术编订实习生  � �

感兴致的小伙伴接待温雅 � �  了解确信

� � 点亮星标 � �

科技前沿进展逐日见Royal皇冠(中国)

滚球app(中国)官网下载