中国科大在新一代神威超级计算机上首次实现地球系统跨圈层相互作用的超大规模模拟

时间:2023-10-07浏览:10

近日,美国计算机学会(ACM)公布了获得首届戈登•贝尔气候建模奖(ACM Gordon Bell Prize for Climate Modelling)提名的研究工作名单。中国科大在新一代神威超级计算机上的应用成果 “Establishing a Modeling System in 3-km Horizontal Resolution for Global Atmospheric Circulation Triggered by Submarine Volcanic Eruptions with 400 Billion Smoothed Particle Hydrodynamics”获得提名。该奖项从 2023 年开始,将连续十年每年颁发一次,旨在表彰并行计算方法和技术的创新对解决全球气候危机所做的杰出贡献。该奖的提名根据研究团队将高性能计算技术应用于气候建模,对气候建模及其相关领域,以及对更广泛的社会所产生的影响和潜在影响选出。

图1 获ACM Gordon Bell Prize for Climate Modelling奖提名

戈登•贝尔奖被誉为超算领域的诺贝尔奖,每年颁发一次,表彰当年在高性能计算领域做出全球最顶尖工作的研究团队。戈登•贝尔气候建模奖特别关注于计算方法的创新所带来的气候模拟性能的提升,以及研究团队增进对地球气候系统的理解所做出的杰出贡献。获奖工作将有助于提高人们对气候变化后果的认识,同时展示专注于这一领域的研究人员是如何为解决这一重大挑战问题而做的开拓性科学研究。今年入围戈登•贝尔气候建模奖提名的还有来自美国能源部和日本理化研究所的两个团队。三个团队将于今年当地时间11月15日在美国丹佛举行的国际高性能计算大会SC23上作特邀报告,最终获奖者也将在大会上公布。

图2 海底火山爆发引发岩石圈、水圈、大气圈、生物圈等发生剧烈变化和相互作用示意

人类有记录以来最致命的自然灾害包括地震、火山爆发、海啸、飓风和洪水等。其中,大规模火山爆发是最致命的和对人类生存环境影响最深远的自然灾害之一。海底火山爆发不仅会迅速引发大范围的海啸,还会在数天内引发大规模闪电、短期暴雨、洪水等气象灾害,并可能导致持续数月甚至数年的长期气候影响。2022年1月15日,南太平洋岛国汤加首都努库阿洛法以北约65公里处的一座名为洪阿哈阿帕伊的火山爆发,产生的蘑菇云直径接近500公里,火山灰直冲3.5万米的高空进入平流层,在卫星云图上清晰可见。它向大气中注入了大量的水、二氧化硫、硫化氢、气溶胶、火山灰以及其他气体。汤加火山爆发构成了一次典型的地球系统突发变化的过程,岩石圈、水圈、大气圈、生物圈等发生了剧烈的变化和相互作用,产生了广泛的影响。

自然和人类活动引起的气候变化给人类适宜生存的地球环境带来了严峻的挑战。但是,受研究领域分工的影响,目前针对地震、火山、海洋和大气的模拟和预测系统的研究是相对独立的。例如,对海洋和大气的模拟一般基于流体力学的模拟方法;而对地震和火山的模拟涉及岩石和板块的运动和断裂,一般采用基于固体力学的模拟方法。并且,受限于数值建模方法和计算能力的不足,目前国际上尚未建立多圈层的耦合模拟系统,能够针对紧密关联的地震、火山、海洋和大气活动进行耦合建模和模拟。

本研究将多介质多相界面运动光滑粒子动力学建模方法(vSPH)与高分辨率大气物理和化学全耦合建模方法(iAMAS)有机结合,自主设计了vSPH/iAMAS软件,建立了一套从局部10米到全球3公里超高空间分辨率的火山喷发和大气环流跨圈层的模拟系统,在新一代神威超级计算机上,使用39,00万个处理器核,在100公里×100公里×60公里的区域内对汤加海底火山喷发与大气环流的全过程进行了模拟,捕捉了火山爆发从冲击波、地震、海啸、蘑菇云到随后6-7天火山灰和水汽的运动扩散,初步获得了由火山喷发产生的地震活动以及同时发生的海洋和大气现象全耦合的相互影响效应。首届戈登·贝尔气候建模奖委员会主席John Taylor认为:本研究工作标志着研究地质构造过程与气候变化相互作用的能力取得了重大突破,为应对未来类似的全球性自然灾害事件提供了开发模拟和预警系统的方法。

图3 SPH & iAMAS耦合建模方程、海底火山爆发触发地球多圈层灾害模拟

本研究采用数据流驱动执行的高性能计算软件实现技术,用于解决在国产超大规模并行系统上科学与工程计算软件设计和优化面临的重大挑战和技术难题。主要创新包括:(1)基于改进的光滑粒子动力学黎曼求解算法和自适应粒子分裂融合算法,实现了从连续到离散一体化的高效动态计算模拟,可以高保真地捕获强激波间断界面的动力学演化过程;(2)通过从分布式计算节点到多核处理器的多层次并行算法设计,充分利用神威众核芯片和异构系统架构特点,实现了细粒度的向量并行计算、数据布局优化、计算与通信重叠的非阻塞通信;(3)采用基于Cell的邻居列表构建方法实现数据的重新组织与访存优化,解决了由粒子运动、迁移引起的访存带宽受限和延迟容忍问题;(4)基于动态自适应区域划分的动态负载均衡策略,攻克了4000亿粒子模拟过程中的极端负载不平衡问题;(5)结合新神威超级计算机网络拓扑和文件系统的特点,通过网格数据重排和通信划分,实现了超大并行规模下的多文件I/O策略,解决了高分辨率读、写数据量指数级增加导致的严重I/O瓶颈。

本研究由来自中国科大、崂山实验室和国家并行计算机工程技术研究中心的研究人员,组成了高性能计算与工程力学、大气物理、固体地球物理、物理海洋多学科交叉协作团队。其中,中国科大计算机科学与技术学院安虹教授团队负责大规模并行算法、并行软件架构设计及性能优化;地球和空间科学学院赵纯教授团队负责高分辨率大气物理和化学算法及模拟,胡岩教授团队负责海底火山构造及喷发模型构建;工程科学学院黄生洪研究员和罗喜胜教授团队负责海底火山喷发的多介质、多动力学过程光滑粒子动力学算法及模拟。

安虹教授和赵纯教授为本论文的共同通讯作者,黄生洪研究员、陈俊仕副研究员和博士生张子豫为共同第一作者。该研究得到了中国科学院战略性先导科技专项、国家自然科学基金、国家重点研发计划、中国科大“双一流工程”研究基金等项目的共同资助。同时,崂山实验室、青岛国实科技集团有限公司、中国科大超算中心等单位为本研究提供了超算资源的支持。

相关链接:

[1] About ACM Gordon Bell Prize for Climate Modelling,https://awards.acm.org/bell-climate

[2] Eyes Beyond the Prize,https://sc23.supercomputing.org/2023/09/eyes-beyond-the-prize/

[3] SC23 Spotlight: ACM Introduces First-Ever Gordon Bell Prize for Climate Modeling,https://www.hpcwire.com/off-the-wire/sc23-spotlight-acm-introduces-first-ever-gordon-bell-prize-for-climate-modeling/