CN112015786B - 一种外赛场极端天气监测预警信息处理系统 - Google Patents

一种外赛场极端天气监测预警信息处理系统 Download PDF

Info

Publication number
CN112015786B
CN112015786B CN201910455365.6A CN201910455365A CN112015786B CN 112015786 B CN112015786 B CN 112015786B CN 201910455365 A CN201910455365 A CN 201910455365A CN 112015786 B CN112015786 B CN 112015786B
Authority
CN
China
Prior art keywords
data
module
early warning
monitoring
subsystem
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910455365.6A
Other languages
English (en)
Other versions
CN112015786A (zh
Inventor
黄富祥
惠雯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Kunyu Tianxin Technology Co ltd
National Satellite Meteorological Center
Original Assignee
Beijing Kunyu Tianxin Technology Co ltd
National Satellite Meteorological Center
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Kunyu Tianxin Technology Co ltd, National Satellite Meteorological Center filed Critical Beijing Kunyu Tianxin Technology Co ltd
Priority to CN201910455365.6A priority Critical patent/CN112015786B/zh
Publication of CN112015786A publication Critical patent/CN112015786A/zh
Application granted granted Critical
Publication of CN112015786B publication Critical patent/CN112015786B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/248Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3668Software testing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/25Integrating or interfacing systems involving database management systems
    • G06F16/258Data format conversion from or to a database
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Data Mining & Analysis (AREA)
  • General Business, Economics & Management (AREA)
  • Quality & Reliability (AREA)
  • Marketing (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Computational Linguistics (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开的属于气象监测预警技术领域,具体为一种外赛场极端天气监测预警信息处理系统,外赛场极端天气监测预警信息处理系统包括卫星、雷达、站点多类数据标准化模块、运行调度模块、系统监控模块和系统演示服务模块,该外赛场极端天气监测预警信息处理系统的软件测试系统包括数据准备子系统、决策计算子系统、检验和评估子系统和产品可视化子系统,利用多种手段获得的气象数据,经过长时间序列的科学研究,精准度较高;多维度大气气象要素应急服务平台,以系统生成的多维度大气气象产品作为输入变量,显示赛区主要气象要素三维分布状况,满足冬奥会外赛场极端天气监测预警需求。

Description

一种外赛场极端天气监测预警信息处理系统
技术领域
本发明涉及气象监测技术领域,具体为一种外赛场极端天气监测预警信息处理系统及软件测试系统。
背景技术
2022年冬季奥运会,中文简称:冬奥会,将在2022年2月4日至2022年2月20日在中华人民共和国北京市和河北省张家口市联合举行。这是中国历史上第一次举办冬季奥运会,张家口同为主办城市,也是中国继奥运会、南京青奥会之后的中国第三次举办的奥运赛事。
冬奥会期间需要对天气进行测量,从而能够对冬奥会区域内的气象情况实时掌控,且需要将气象情况进行整理汇报;
现有的气象平台对于较小区域化的气象监测不够准确,容易造成测量不准确的情况,影响赛事的正常进行。
发明内容
本发明的目的在于提供一种外赛场极端天气监测预警信息处理系统及软件测试系统,以解决上述背景技术中提出的现有的气象平台对于较小区域化的气象监测不够准确,容易造成测量不准确的情况,影响赛事的正常进行的问题。
为实现上述目的,本发明提供如下技术方案:一种外赛场极端天气监测预警信息处理系统,包括多维度大气整体判识模块、运行调度模块、系统监控模块和系统演示服务模块;
所述多维度大气整体判识模块包括资料处理和预处理单元、多类数据标准化单元、产品输出及可视化单元和数据管理单元;
所述资料处理和预处理单元对数据自动获取,且对数据质量控制和格式转换,所述多类数据标准化单元基于多种不同来源、不同手段获取的气象资料,对多类气象数据进行整体处理,多类气象数据包括强风风速、强风风向、极低温度、湿度、高强度降水多维度大气整体判识产品,所述产品输出及可视化单元将数据通过图像、图形形式展示出来,包括强风、对流云、水汽、温湿度产品剖面和切面的可视化,以及多类产品叠加的可视化,还有再分析场产品的可视化和预报产品可视化,所述数据管理单元用于实现系统输入数据、中间结果、输出产品、系统日志文件的压缩、定时备份、定时清理的功能;
数据资料处理模块包括结合实况数据进行强风、低温、对流云、高湿度的综合计算,并根据输出物理量进行降雪/降水计算几个部分;
预报预警系统组成:
系统负责使用WRFDA融合多种类观测数据,包括卫星、地面站、雷达数据,生成预报初始场;
WRF预报系统以WRFDA同化结果为背景场进行预报,组成单次同化预报系统;
将WRF预报系统进行循环部署,循环同化提供1小时预报作为下一个同化时次的背景场;
所述运行调度模块为EC-Flow运行调度模块,为了实现外赛场区域逐小时的计算,并采用EC-Flow运行调度模块对分块区域进行并行作业提交调度;
所述系统监控模块包括监控日志生成单元、监控日志处理单元和告警信息发送单元;
所述系统演示服务模块包括多维度大气要素展示单元和系统监控信息展示单元。
优选的,所述运行调度模块进行业务流程的编排、作业调度、自动任务调度、命令调度运行、作业执行控制、故障处理与恢复、可视化调度控制、监控信息收集与决策、故障管理的业务逻辑和策略处理。
优选的,所述系统演示服务模块通过网页形式对系统输出各种大气要素进行三维显示,同时对同化系统和预报系统的功能和性能进行实时监控和评估,网页界面友好,展示满足高时效性。
优选的,该外赛场极端天气监测预警信息处理系统的软件测试系统包括数据准备子系统、决策计算子系统、检验和评估子系统和产品可视化子系统;
所述数据准备子系统接收多维度大气整体判识模块的数据和国家基站观测数据,通过决策计算子系统、检验和评估子系统对数据准备子系统接收的两种数据对比;
将对比结果通过产品可视化子系统展示。
优选的,所述决策计算子系统、检验和评估子系统对国家卫星气象中心的计算结果,进行系统测试,对计算结果的可靠性和精度进行评估。
与现有技术相比,本发明的有益效果是:
1)利用WRFDA同化系统和WRF对输入数据进行预报,生成外赛场空间分辨率1km×1km、时间分辨率达到小时级的多维度大气气象产品,精准度较高;
2)多维度大气气象要素应急服务平台,以系统生成的多维度大气气象产品作为输入变量,显示赛区主要气象要素三维分布状况,满足气象应急服务的需求;
3)软件测试系统利用台站长时间序列观测数据、卫星遥感数据等,开展气候变化趋势和极端天气可能性预报预警研究;利用独立数据源,对国家卫星气象中心软件的计算结果进行系统测试,对计算结果的可靠性和精度进行评估。
附图说明
图1为本发明外赛场极端天气监测预警信息处理系统的系统框图;
图2为本发明软件测试系统的系统框图;
图3为本发明外赛场极端天气监测预警信息处理系统的工作流程图;
图4为本发明测试系统的工作流程图;
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本发明的描述中,需要理解的是,术语“上”、“下”、“前”、“后”、“左”、“右”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
实施例:
请参阅图1-4,本发明提供一种技术方案:一种外赛场极端天气监测预警信息处理系统,包括多维度大气整体判识模块、运行调度模块、系统监控模块和系统演示服务模块;
多维度大气整体判识模块包括资料处理和预处理单元、多类数据标准化单元、产品输出及可视化单元和数据管理单元;
资料处理和预处理单元对数据自动获取,且对数据质量控制和格式转换,多类数据标准化单元基于多种不同来源、不同手段获取的气象资料,对多类气象数据进行整体处理,多类气象数据包括强风风速、强风风向、极低温度、湿度、高强度降水多维度大气整体判识产品,产品输出及可视化单元将数据通过图像、图形形式展示出来,包括强风、对流云、水汽、温湿度产品剖面和切面的可视化,以及多类产品叠加的可视化,还有再分析场产品的可视化和预报产品可视化,数据管理单元用于实现系统输入数据、中间结果、输出产品、系统日志文件的压缩、定时备份、定时清理的功能;
数据资料处理模块包括结合实况数据进行强风、低温、对流云、高湿度的综合计算,并根据输出物理量进行降雪/降水计算几个部分;
预报预警系统组成:
系统负责使用WRFDA融合多种类观测数据,包括卫星、地面站、雷达数据,生成预报初始场;
WRF预报系统以WRFDA同化结果为背景场进行预报,组成单次同化预报系统;
将WRF预报系统进行循环部署,循环同化提供1小时预报作为下一个同化时次的背景场;
运行调度模块为EC-Flow运行调度模块,为了实现外赛场区域逐小时的计算,并采用EC-Flow运行调度模块对分块区域进行并行作业提交调度;
系统监控模块包括监控日志生成单元、监控日志处理单元和告警信息发送单元;
系统演示服务模块包括多维度大气要素展示单元和系统监控信息展示单元。
运行调度模块进行业务流程的编排、作业调度、自动任务调度、命令调度运行、作业执行控制、故障处理与恢复、可视化调度控制、监控信息收集与决策、故障管理的业务逻辑和策略处理。
系统演示服务模块通过网页形式对系统输出各种大气要素进行三维显示,同时对同化系统和预报系统的功能和性能进行实时监控和评估,网页界面友好,展示满足高时效性。
该外赛场极端天气监测预警信息处理系统的软件测试系统包括数据准备子系统、决策计算子系统、检验和评估子系统和产品可视化子系统;
数据准备子系统接收多维度大气整体判识模块的数据和国家基站观测数据,通过决策计算子系统、检验和评估子系统对数据准备子系统接收的两种数据对比;
将对比结果通过产品可视化子系统展示。
决策计算子系统、检验和评估子系统对国家卫星气象中心的计算结果,进行系统测试,对计算结果的可靠性和精度进行评估。
如图4所示,决策计算子系统、检验和评估子系统对国家卫星气象中心的计算结果,进行系统测试,对计算结果的可靠性和精度进行评估。
工作时,将国家基准站观测数据和上述多维度大气整体判识模块得出的数据通过输入数据准备子系统,决策计算子系统、检验和评估子系统对国家基准站观测数据和上述多维度大气整体判识模块得出的数据对比,判断国家基准站观测数据和上述多维度大气整体判识模块得出的数据之间差异化的大小,找出不同并以天气作为判断国家基准站观测数据的准确性。
资料处理和预处理单元
数据获取及管理功能主要是实现数据的自动化获取及管理,进行数据质量及完整性检查,为系统的业务化运行提供数据保障。
执行步骤:
读取配置参数,连接FTP/CIMISS;
下载需要的气象数据;
本地数据信息统计;
连接超时或者数据下载不完整的进行补下、重下;
针对下载的数据进行数据读取;
质量控制和重投影等操作;
输出指定格式的转换数据。
NCEP/ECMWF预报数据自动获取
登陆卫星气象中心数据FTP服务器,根据匹配原则获取服务器上通过FTP方式,定时获取NCEP/ECMWF数据。
技术实现方式:通过FTP方式,读取远程FTP目录下的文件列表,形成文件清单,并下载。
卫星数据自动获取:登陆风云数据FTP服务器,根据匹配原则获取服务器上通过FTP方式,定时获取FY2/FY3/日本葵花卫星资料数据。
技术实现方式:通过FTP方式,读取远程FTP目录下的文件列表,形成文件清单,并下载。
CIMISS数据库自动连接:登陆CIMISS数据库服务器,定时检索CIMISS数据库中地面、雷达、探空等数据,下载CIMISS数据库中最新数据。
技术实现方式:登陆CIMISS数据库服务器,检索CIMISS数据库中的数据记录,合成符合标准接口文件,地面和探空数据合成文本数据,雷达数据合成二进制文件并保存,CIMISS数据库获取失败时,有容错机制。
NCEP/ECMWF数据质控与格式转换
将NCEP/ECMWF数据格式改为标准数据接口。
技术实现方式:通过了解NCEP/ECMWF数据文件结构,利用程序将数据文件格式批量改为标准数据接口。
存放路径:数据目录下的NCEP文件夹
命名规则:YYJJJ000000XX(其中YY为二位年,JJJ为儒略日计时,XX为预报时间)。
卫星数据质控与格式转换
将卫星数据格式改为NetCDF标准数据接口。
技术实现方式:通过了解风云卫星数据(HDF5格式)文件结构以及葵花卫星特定数据结构,利用程序将数据文件格式批量改为NetCDF标准数据接口,并按照系统规定目录和命名规则进行存放。
存放路径:数据目录下的Satellite文件夹
命名规则:YYJJJ000000XX(其中YY为二位年,JJJ为儒略日计时,XX为预报时间)。
雷达数据质控与格式转换
将雷达数据格式改为标准数据接口。
技术实现方式:通过了解雷达数据文件结构,利用程序将数据文件格式批量改为标准数据接口。
存放路径:数据目录下的Radar文件夹
命名规则:YYJJJHHMM_elevXX(其中YY为二位年,JJJ为儒略日计时,HH为小时,MM为分钟,XX为层数)
地面、探空、GPS数据质控与格式转换
将地面、探空、GPS数据格式改为标准数据接口。
技术实现方式:通过了解探空数据文件结构,利用程序将数据文件格式批量改为标准数据接口。
存放路径:数据目录下的对应子文件夹
命名规则:YYJJJHHMMXX00o(其中YY为二位年,JJJ为儒略日计时,HH为小时,MM为分钟,XX为预报时间)。
多类数据标准化单元
多类气象数据融合主要是根据不同数据的特点,采用对多类气象数据进行综合处理,生产赛区包括强风速、强风向、低温、强湿度、降水等综合计算处理产品,满足外赛场区域空间分辨率、小时级更新周期的技术指标要求。其中,针对卫星、雷达、地面站等资料,对原始卫星数据进行条带拼接,重投影计算区域的范围,采用相近波段数据或校正后的波段数据。
执行步骤:
启动多类数据标准化单元;
进行背景场数据重采样;
常规观测数据地面采集;
卫星数据云顶信息采集;
雷达数据反射率信息采集;
输出综合信息数据;
短临预报。
WRF部署集成
在计算环境下部署WRF系统集成模块,并调试运行,最终集成到本系统中。
技术实现方式:通过在Linux下的调试部署,工程化程序接口,利用shell作为程序调度的标准接口。
部署集成
在本项目计算环境下部署系统集成模块,并调试运行,最终集成到本系统中。
技术实现方式:通过在Linux下的调试部署,工程化程序接口,利用shell作为程序调度的标准接口。
产品输出及可视化单元
执行步骤:
读取配置参数;
选择可视化软件;
读取数据文件;
单类产品可视化,包括风温湿压的剖面及切面可视化;
多类产品叠加可视化。
产品可视化
根据对产品的进一步计算,实现产品多维度可视化,实现对流云产品、降水产品、低温产品、强湿度产品的剖面及切面二维可视化,实现强风产品的剖面、切面可视化以及多类产品叠加可视化。
技术实现方式:采用NCL语言,基于数据的可视化绘图。
数据管理模块
执行步骤:
读取配置参数;
通过配置参数选择执行方式或者运行方式;
根据配置参数对系统生成的数据及日志进行编目管理;
根据配置参数对数据进行备份归档;
根据配置参数对系统进行数据清理;
对系统数据统计;
编目管理
针对获取及生产的数据进行编目管理,配置不同目录存储各类资料等,对该项目的存储结构进行设计规划;
技术实现方式:数据编目管理。
存放路径:规划数据存放路径
命名规则:统一中间文件和结果文件命名规则。
数据备份
定期对数据进行压缩、备份。数据备份周期、路径、归档地址/路径等参数可设置。
技术实现方式:数据备份技术。
存放路径:统一备份目录
命名规则:统一命名规则+BAK
数据清理
数据清理主要是将无效的数据、逾期的数据、不合规范的数据等文件进行清除,定期检查磁盘分区空间,及时清盘。数据清理周期,清理路径等参数可设置。
技术实现方式:数据清理技术。
存放路径:扫描所有保存路径下文件时间戳。
命名规则:无
配置功能
可以通过配置参数,修改系统的运行方式。
技术实现方式:配置统一格式,统一设计。
存放路径:配置文件夹
命名规则:YYJJJHHMMXX00o(其中YY为二位年,JJJ为儒略日计时,HH为小时,MM为分钟,XX为预报时间)。
系统监控模块
执行步骤:
读取配置参数;
对系统各个模块运行状态进行监控;
根据监控到的信息生成状态日志;
网站对监控日志进行解析;
发布告警信息。
作业状态的监视
作业状态监视模块提供实时的作业运行情况,为操作人员提供作业运行进度、作业运行状态等信息,保证系统运行出现的问题及时反馈给用户,用户根据反馈情况做出相应的应对措施。
技术实现方式:ECFLOW结合java和C#编程方式,提供可视化状态显示页面。作业状态由运行在集群环境下得消息中间件对作业状态信息进行收集,并由作业状态收集进程负责入库管理,前台展示通过读取数据库表,实时刷新作业状态信息,为用户提供作业运行状态信息。
运行调度模块
执行步骤:
利用Linux系统的定时启动功能判断作业调度软件服务是否启动;
定时启动作业提交;
作业之间通过逻辑关系来触发,同时实现并发任务的提交;
作业调度软件捕捉提交的作业的运行状态;
实时更新作业执行状态;
已提交作业执行完成时触发新的作业,或者作业流完成;
已提交作业执行失败或者超时时,触发容错机制,重新提交或者跳过该作业;
单次时刻的所有作业完成时,等待新的时刻作业触发。
作业的自动化提交及运行
以时间触发,ECFLOW执行作业并控制作业的运行。
技术实现方式:在后台以时间驱动,定时触发事件执行作业。
作业的并发执行及负载均衡
ECFLOW将作业分为多个独立的进程,同时执行任务,提高作业执行的效率,缩短时间,同时均衡各个进程的负载。
技术实现方式:按照一定的规则,将作业分为多个独立进程执行任务。
作业状态的监视模块
作业状态监视模块提供实时的作业运行情况,为操作人员提供作业运行进度、作业运行状态等信息,保证系统运行出现的问题及时反馈给用户,用户根据反馈情况做出相应的应对措施。
技术实现方式:ECFLOW结合java和C#编程方式,提供可视化状态显示页面。作业状态由运行在集群环境下得消息中间件对作业状态信息进行收集,并由作业状态收集进程负责入库管理,前台展示通过读取数据库表,实时刷新作业状态信息,为用户提供作业运行状态信息。
系统演示服务模块
执行步骤:
读取配置参数;
气象产品、服务器信息和系统运行信息入库;
网站分别读取解析;
网站实时展示及监控。
气象要素三维展示
通过网页,对系统输出各种大气要素进行三维显示。
技术实现方式:数据库录入气象要素数据,网页形式展示。
系统监控信息展示
通过网页形式,对同化系统功能和性能的实时监控和评估。
技术实现方式:数据库。
网站获取系统运行信息。
EC-Flow运行调度模块
自动化作业调度
数值业务系统是每天固定的时间启动,逐日滚动运行的连续系统,具有很强的时效性,而且每一次运行都与上一次的运行状态和结果有很强的联系。正是这种关系和依赖性将所有的过程形成了一个完整的工作流。因此,在这类业务作业应用系统中,不仅需要准确定时地启动业务作业流程以及保证它们的时序关系,而且要求随时监视和报告业务作业运行过程中发生的任何异常,以便及时处理,确保业务作业的及时准确。因此本系统通过ECFLOW,实现业务流程的编排,作业调度和管理(自动任务调度、命令调度运行、作业执行控制、故障处理与恢复、可视化调度控制);监控信息收集与计算、故障管理的业务逻辑和策略处理功能:
参数的自动化:参数控制一般通过待处理数据时间、类型进行控制;
数据清单的自动化准备:对待处理数据进行时间轮循,获得待处理数据清单;
参数文件的自动化创建:在参数准备工作完成后,通过shell和python语言,自动创建参数文件。
程序的自动化运行及容错处理
程序自动化运行依赖时间驱动或指令驱动,首先通过传递待处理任务及处理时间或时间段,完成参数准备工作,并调用相关程序运行,运行信息输入指定文件中,为系统运行诊断提供依据。
自动化运行容错处理分为以下几类:
非相关作业失败不影响其他作业运行:由于本任务是对大量历史数据处理,对单一任务失败,不应影响整体任务运行,只需进行相应的记录,以备后续再处理即可;
程序运行资源的报警功能:由于本次任务涉及数据量较大,对硬件资源:如存储、CPU有较高要求,程序运行中应检测硬件资源情况。并实现提前预警。
灵活的气象常用格式转换
目前气象专用软件编程一般采用C或Fortran程序,其中第三方库如HDF、NetCDF、Bufr、little_r均有对应的API接口,因此技术选型上那个采用Fortran为主C语言为辅,开发气象数据格式转换程序。
方案设计
NETCDF格式程序开发
NetCDF(network Common Data Form)网络通用数据格式是由美国大学大气研究协会(University Corporation for Atmospheric Research,UCAR)的Unidata项目科学家针对科学数据的特点开发的,是一种面向数组型并适于网络共享的数据的描述和编码标准。
NetCDF数据集(文件名后缀为.nc)的格式不是固定的,它是使用者根据需求自己定义的。一个NetCDF数据集包含维(dimensions)、变量(variables)和属性(attributes)三种描述类型,每种类型都会被分配一个名字和一个ID,这些类型共同描述了一个数据集,NetCDF库可以同时访问多个数据集,用ID来识别不同数据集。变量存储实际数据,维给出了变量维度信息,属性则给出了变量或数据集本身的辅助信息属性,又可以分为适用于整个文件的全局属性和适用于特定变量的局部属性,全局属性则描述了数据集的基本属性以及数据集的来源。一个NetCDF文件的结构包括以下对象:
NetCDF name{
Dimensions:…//定义维数
Variables:…//定义变量
Attributes:…//属性
Data:…//数据
}
netCDF数据类型与数据格式
数据类型:
●NC_BYTE 8-bit signed integer
●NC_UBYTE 8-bit unsigned integer
●NC_CHAR 8-bit character byte
●NC_SHORT 16-bit signed integer
●NC_USHORT 16-bit unsigned integer*
●NC_INT(or NC_LONG)32-bit signed integer
●NC_UINT 32-bit unsigned integer*
●NC_INT6464-bit signed integer*
●NC_UINT6464-bit unsigned integer*
●NC_FLOAT 32-bit floating point
●NC_DOUBLE 64-bit floating point
●NC_STRING variable length character string+netCDF数据模型
使用netcdf-4格式创建的文件可以访问增强的数据模型,其中包括命名组。例如在Unix文件系统中,类似于目录的分组是分层结构的,可以任意深度。它们可以用来组织、存储大量的变量。
本系统采用netCDF-4版本的LINUX库进行开发。通过标准化的程序读写接口,封装netCDF读写模块,所有模块产生的中间均采用netCDF格式存储。
Bufr格式程序开发
Bufr(Binary universal form of the representation of Meteorologicaldata)气象数据通用二进制格式,是气象领域广泛使用的一种数据格式。
Bufr格式一般用于存储不是标准的格点数据,可用于观测数据的存储。
Bufr格式组成
Bufr文件由多个Bufr messages组成。每个Bufr message由6段组成。第0段是指示段,一般长度为8个字节。包括“Bufr”字符串,message的总长度以及Bufr的版本号。
第1段是标识段,包括段长、主表标识、主表版本号、报文产生中心标识。序列号以及资料类型。
第2段是选编段,包括段长及供自动数据处理中心内部使用的附加项。
第3段是数据描述段,包括段长,数据子集的个数,观测资料标志,数据压缩标志,描述符集合。
第4段是数据段,包括段长和数据值。
第5段是结束段,以“7777”结束。
数据描述符
第3段中包含Bufr描述符,描述符描述的是第四段中的数据要素。一般描述符要参见Bufr的tables,主要有table B,C and D。
描述符由2个八位组的三个数字F(2bits)、X(6bits)、Y(8bits)组成。
F=0时,称之为数据要素描述符(element descriptor)。此时描述符主要参照table B,描述单个数据项。X代表table B中的类,Y则代表该类中的具体元素。
F=1时,称为重复描述符。X表明了要重复的描述符的数量。Y表示重复序列的总数目。
F=2时,称为操作描述符。运算描述符要参照table C。
F=3时,称为序列描述符。序列描述符参照table D。序列描述符定义了要素描述符,重复描述符,操作描述符及序列描述符的集合。
Bufr编码采用表格驱动编码的方式进行编码。其中的table A B C D可以等同为数据描述符的集合。当描述第四段中的数据时要参照table确定描述符。
Little_r格式程序开发
Little_r的namelist分成9个符合FORTRAN90名字列表规格的逻辑记录。Namelist记录的命名从“记录1”到“记录9”,每个记录含一个内容的松散相关区。Namelist模板文件是“namelist.input”,须在little_r可执行程序的当前工作目录中。主要使用的表格按如下格式读写:
记录1中的记录主要关于little_r的时间功能。
记录2中的数据与输入文件名有关
/>
记录7对于卫星和高空观测数据,数据通常仅水平分布在某一垂直层次上。下面两个选项描述了用户假定数据在气压层空间中有效的范围。
记录8主要针对客观处理后的资料的平滑处理。
/>
数据整体统一方案设计
基于WRF模式,开发新的数据资料处理模块包括强风、温度-高度、对流云、湿度计算,并根据输出场反演雪降/降雨等计算处理等几个部分。WRFDA输出量包括温度、高度、湿度、风场及降雨量。
数据接入处理
采用PYTHON或Fortran程序,将输入数据HDF、ASCII、GRIB2等格式均转换成NetCDF格式/文本格式接入进行融合。
本系统采用的多种类数据源接入,例如背景场数据包括GFS数值预报产品、EC数值预报产品,大气再处理实时系统产品;卫星数据包括FY-2G数据、葵花8号数据。这些数据在输入的时候需要甄选,数据选择遵循一定的原则和策略。对于多种同类数据选择的策略,根据质量——时效性——结果质量,综合评价。设定优选数据,当优选数据缺失,使用备选数据。
需要接入的数据如下表所示:
序号 数据名称 数据格式 备注
1 GFS数值预报产品 GRIB2 全球数据,国际来源
2 国家级地面气象站观测数据 TXT 全国数据,国内来源
3 区域地面气象站观测数据 TXT 区域数据,国内来源
4 探空观测数据 TXT 全国数据,国内来源
5 雷达基数据 二进制 全国数据,国内来源
6 Himawari-8卫星一级数据 二进制 圆盘数据,国际来源
7 FY-2G卫星一级数据 HDF5 圆盘数据,国内来源
8 GNSS/MET观测数据 TXT 全国数据,国内来源
9 飞机观测数据 TXT 全国数据,国内来源
如上表,不同的数据格式不一,接入时方法不同,背景场为GRIB2格式,有些可以直接接入WRFDA,有些需要解析后再读入,卫星写成NetCDF格式后,接入WRFDA模块,其他数据如地面数据采用WRFDA的接入模块产生中间文件后接入WRFDA模块。
原始资料格式预处理
通常获取的原始数据资料(包括背景场及各种探测资料)的格式是ASCII码、GRIB2码或NetCDF格式,但默认的WRFDA资料融合输入数据一般是NetCDF格式,因此在WRFDA之前,需要将所得到的各种资料处理成WRFDA模块要求的输入格式。原始资料的数据预处理部分,主要是处理转换成WRFDA所要求的NetCDF格式的模式初始场中间数据以及各计算变量的中间数据文件。预处理后生成的中间文件分为两种类型,即探空资料等站点数据资料为ASCII码格式,卫星数据、雷达数据、地面观测等格点资料为NetCDF格式。根据不同抓取手段得到的各种类型的原始资料,可采取以下三种方式对其格式进行预处理:
(1)修改WRFDA来读取各种最原始的探测资料。首先,必须编写子程序读取资料以及链接该程序到已有的融合程序中;再由修改的融合程序生成WRFDA融合模块的功能,主要是通过对不同资料做相应处理,生成输入计算模块的中间文件。
(2)编写一个独立于WRFDA程序之外的程序来生成中间文件,首先对原始数据进行投影、重定位,插值等处理,中间文件输出生成WRFDA可以直接识别的NetCDF文件,采用FORTRAN语言编写。
(3)将原始资料转成WRFDA可识别的NetCDF格式输入数据,再WRFDA模块。
本系统研发的背景场接入包含了GFS预报场,大气再处理实时系统产品。
对于GFS预报场,前期项目已经有成熟的接入经验,WRFDA程序可以直接辨识GPS预报场。
雷达资料融合
对于不同类型的雷达资料,融合过程中处理的方法也不同,不管是何种坐标格式的雷达资料,产生的中间文件最后都统一成WRFDA坐标格式。目前处理的是SA,SB和SC波段的多普勒雷达基数据,由极坐标格式的反射率和径向速度进入WRFDA,对于高分辨率的网格,融合雷达资料时的后处理是在径向间进行水平填充。该填充只是相邻区域的简单平均,这里相邻区域是指径向间隙取一个格距。
不同雷达基数据文件格式如下:
本系统的风计算模块需要引进多普勒雷达三维径向风资料,数据来源于CIMISSMUSIC统一接口,根据关键字检索下载雷达径向风资料,生成ASCII码文件。结合探空、地面观测、风廓线雷达、飞机报告等风场资料,质控和多次订正后生成初步的三维风场。利用这个三维风场,和径向风在水平和垂直方向上进行合并。
如果有两部以上雷达参与整体计算时,以第二步计算的风场为背景风场,重复以上步骤。如此循环,最终得到的三维水平风场。
地面资料融合
系统可以融合的地面观测资料十分丰富,包括国家级地面气象站观测数据、区域地面气象站观测数据、机场气象站观测数据等。根据不同的资料,使用CIMISS MUSIC统一接口,分别采取不同的关键词检索(中国地面逐小时资料,Metar资料等),生成ASCII码格式的文件,然后补充海平面气压计算、露点温度计算,转换为NETCDF格式进行综合计算,包括数据解析,投影转换等,生成中间变量,及其它相关计算模块。同时地面融合部分从时间上与实际观测值的质量作比较,弥补资料密度的时间变化。
风廓线雷达观测数据融合
风廓线雷达观测资料也是使用使用CIMISS MUSIC统一接口,采用关键字段检索下载,获取生成ASCII码格式的文件,解析资料,利用网上的NetCDF格式的文件进行接入,包括数据解析,投影转换等。
卫星资料融合
卫星数据原始接入程序导入的FY-2G,葵花8等卫星数据,有两种接入方式:
(1)FY-2G可以接入awx格式的数据,投影插值等处理转换
(2)葵花8卫星数据,只有L1级的全圆盘NetCDF或hdf5格式,则需要通过外部程序提取各通道数据,通过投影再接入WRFDA。
探空资料融合
探空资料包括探空仪、辐射仪、AFWA格式的卫星等探测的RAOB资料。本文档所指探空资料主要是探空仪探测的资料,同样该资料通过CIMISS统一接口下载,对txt数据文件进行变量提取,按照等压面分类各站点数据,处理生成ASCII码格式进入计算模块。
飞机观测数据融合
飞机报数据和地面数据的接入类似,使用CIMISS MUSIC统一接口,采取“UPAR_ARD_G_MUL_MUT_TAB”的关键字段检索,获取生成ASCII码格式的文件,转换为NetCDF格式进行综合处理,包括数据解析,投影转换等。
数据接入与计算
方案提出背景
为了实现2022年冬奥外赛场区域逐小时的计算,并采用EC-Flow调度软件对分块区域进行并行作业提交调度,满足时效性的要求。
1)主要支持的背景场包括:
◆WRF-ARW模式生产的wrfout数据结果,用于区域处理;
◆GFS全球预报场,用于全球计算。
2)接入的观测数据包括:
◆常规观测数据;
◆雷达观测;
◆卫星资料。
同化系统支持接入多种卫星观测数据,地面站观测数据,探空数据,雷达数据等。系统提供对应的bufr/little_r格式接口,需要对观测数据进行格式转换处理,并命名为指定名称。输入数据格式,入名如下表所示:
数据名称 格式 接入名
卫星数据 bufr ahibufr
常规观测数据 prepbufr prepbufr
雷达反射率 bufr radarbufr
雷达径向风 bufr 12rwbufr
同化系统的区域同化模式支持的接入WRF-ARW模式的背景场,接入流程如下:
选取分辨率0.5°全球等经纬GFS预报场作为初始背景场;
初始时刻GFS接入WRF-ARW模式,设定区域、空间分辨率,生成wrfout文件;
将wrfout数据作为初始背景场接入同化系统。
数据同化流程
WRFDA模式主要是针对背景误差的调整,基于多个集合成员得到flow-dependent的背景误差与静态背景误差以一定比例相结合作为整体的背景误差;
步骤:
1)集合成员
采用GFS数据,运行wps和real步骤,得到wrfinput文件;
◆WPS输入:GFS数据,geog静态数据
◆WPS输出:在运行路径下met_em.d01.YYYY-MM-DD_HH:00:00.nc
◆REAL输入:WPS产生的met_em.d01.YYYY-MM-DD_HH:00:00.nc
◆REAL输出:背景场wrfinput_d*边界条件wrfbdy_d*,对于WRFDA需要wrfinput_d*.e001
2)准备观测数据,包括常规观测和卫星数据:
(1)常规观测数据:运行obsproc.exe模块处理little_r格式的obs数据little_r格式的观测数据需要自己做预处理现有测试中同化时间窗选取l小时使用namelist.obsproc;
输入:obs.YYYYMMDDHH(little_r格式)
输出:obs_gts_YYYY-MM-DD_HH:00:00.3DVAR(ascii)
(2)卫星数据:将HDF格式的卫星数据转成Bufr格式做预处理;
3)运行WRFDA同化
以上一步生成的wrfinput_d*.e001作为输入WRFDA模式的集合成员输入Hybrid过程中使用到四个exe:
◆gen_be_ensmean.exe用于通过多个集合成员计算集合平均;
◆需要使用模板,模板通过cp一个集合成员重命名为*.mean和*.vari获得生成的.mean文件会作为da_wrfvar.exe的输入背景场fg;
◆gen_be_ep2.exe用于计算集合扰动在./ep文件夹内生成分要素的结果文件;
◆gen_be_vertloc.exe用于进行垂向局地化生成be.vertloc.dat结果文件;
◆da_wrfvar.exe同化主程序需要设置相关的namelist内容namelist输出重命名成之后可以被wrf.exe读取。
4)更新边界
运行update.exe直接对已有文件进行更新。
以上显示和描述了本发明的基本原理和主要特征和本发明的优点,对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明;因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内,不应将权利要求中的任何附图标记视为限制所涉及的权利要求。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。

Claims (5)

1.一种外赛场极端天气监测预警信息处理系统,其特征在于:包括多维度大气整体判识模块、运行调度模块、系统监控模块和系统演示服务模块;
所述多维度大气整体判识模块包括资料处理和预处理单元、多类数据标准化单元、产品输出及可视化单元和数据管理单元;
所述资料处理和预处理单元对数据自动获取,且对数据质量控制和格式转换,所述多类数据标准化单元基于多种不同来源、不同手段获取的气象资料,对多类气象数据进行整体处理,多类气象数据包括强风风速、强风风向、极低温度、湿度、高强度降水多维度大气整体判识产品,所述产品输出及可视化单元将数据通过图像、图形形式展示出来,包括强风、对流云、水汽、温湿度产品剖面和切面的可视化,以及多类产品叠加的可视化,还有再分析场产品的可视化和预报产品可视化,所述数据管理单元用于实现系统输入数据、中间结果、输出产品、系统日志文件的压缩、定时备份、定时清理的功能;
数据资料处理模块包括结合实况数据进行强风、低温、对流云、高湿度的综合计算,并根据输出物理量进行降雪/降水计算几个部分;
预报预警系统组成:
系统负责使用WRFDA融合多种类观测数据,包括卫星、地面站、雷达数据,生成预报初始场;
WRF预报系统以WRFDA同化结果为背景场进行预报,组成单次同化预报系统;
将WRF预报系统进行循环部署,循环同化提供1小时预报作为下一个同化时次的背景场;
所述运行调度模块为EC-Flow运行调度模块,为了实现外赛场区域逐小时的计算,并采用EC-Flow运行调度模块对分块区域进行并行作业提交调度;
所述系统监控模块包括监控日志生成单元、监控日志处理单元和告警信息发送单元;
所述系统演示服务模块包括多维度大气要素展示单元和系统监控信息展示单元。
2.根据权利要求1所述的一种外赛场极端天气监测预警信息处理系统,其特征在于:所述运行调度模块进行业务流程的编排、作业调度、自动任务调度、命令调度运行、作业执行控制、故障处理与恢复、可视化调度控制、监控信息收集与决策、故障管理的业务逻辑和策略处理。
3.根据权利要求1所述的一种外赛场极端天气监测预警信息处理系统,其特征在于:所述系统演示服务模块通过网页形式对系统输出各种大气要素进行三维显示,同时对同化系统和预报系统的功能和性能进行实时监控和评估,网页界面友好,展示满足高时效性。
4.一种如权利要求1-3中任意一项所述的外赛场极端天气监测预警信息处理系统的软件测试系统,其特征在于:该外赛场极端天气监测预警信息处理系统的软件测试系统包括数据准备子系统、决策计算子系统、检验和评估子系统和产品可视化子系统;
所述数据准备子系统接收多维度大气整体判识模块的数据和国家基站观测数据,通过决策计算子系统、检验和评估子系统对数据准备子系统接收的两种数据对比;
将对比结果通过产品可视化子系统展示。
5.根据权利要求4所述的一种外赛场极端天气监测预警信息处理系统的软件测试系统,其特征在于:所述决策计算子系统、检验和评估子系统对国家卫星气象中心的计算结果,进行系统测试,对计算结果的可靠性和精度进行评估。
CN201910455365.6A 2019-05-29 2019-05-29 一种外赛场极端天气监测预警信息处理系统 Active CN112015786B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910455365.6A CN112015786B (zh) 2019-05-29 2019-05-29 一种外赛场极端天气监测预警信息处理系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910455365.6A CN112015786B (zh) 2019-05-29 2019-05-29 一种外赛场极端天气监测预警信息处理系统

Publications (2)

Publication Number Publication Date
CN112015786A CN112015786A (zh) 2020-12-01
CN112015786B true CN112015786B (zh) 2024-05-07

Family

ID=73501437

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910455365.6A Active CN112015786B (zh) 2019-05-29 2019-05-29 一种外赛场极端天气监测预警信息处理系统

Country Status (1)

Country Link
CN (1) CN112015786B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112966863B (zh) * 2021-02-26 2024-01-30 兰州中心气象台(兰州干旱生态环境监测预测中心) 一种用于天气预报的一体化智能网格预报业务系统
CN113901092B (zh) * 2021-12-07 2022-03-18 中国气象局气象探测中心 一种用于赛场运行监测的文件管理方法及系统
CN114489883A (zh) * 2021-12-17 2022-05-13 中国民用航空华东地区空中交通管理局 一种多源数值预报数据的资料处理分析方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104050518A (zh) * 2014-07-04 2014-09-17 国家电网公司 一种基于多普勒天气雷达的电网对流致灾大风预警方法
CN105894106A (zh) * 2015-01-05 2016-08-24 国家电网公司 一种海洋模式和气象模式的一体化耦合方法
CN108366109A (zh) * 2018-02-01 2018-08-03 王晓峰 一种气象数据数值预报云共享平台和数据共享方法
CN108416031A (zh) * 2018-03-12 2018-08-17 南京恩瑞特实业有限公司 Nriet气象多源探测资料融合分析系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090295587A1 (en) * 2008-03-02 2009-12-03 Gorman Jr Thomas Leo Severe weather, environmental and mass notification warning system and method
US9952352B2 (en) * 2015-09-25 2018-04-24 The United States Of America As Represented By The Secretary Of The Army Device and system for generating a weather forecast for a selected zone

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104050518A (zh) * 2014-07-04 2014-09-17 国家电网公司 一种基于多普勒天气雷达的电网对流致灾大风预警方法
CN105894106A (zh) * 2015-01-05 2016-08-24 国家电网公司 一种海洋模式和气象模式的一体化耦合方法
CN108366109A (zh) * 2018-02-01 2018-08-03 王晓峰 一种气象数据数值预报云共享平台和数据共享方法
CN108416031A (zh) * 2018-03-12 2018-08-17 南京恩瑞特实业有限公司 Nriet气象多源探测资料融合分析系统

Also Published As

Publication number Publication date
CN112015786A (zh) 2020-12-01

Similar Documents

Publication Publication Date Title
CN112015786B (zh) 一种外赛场极端天气监测预警信息处理系统
CN106779505B (zh) 一种基于大数据驱动的输电线路故障预警方法及系统
CN110019595B (zh) 一种多源气象数据集成方法及系统
Warner Introduction to PySPLIT: A Python toolkit for NOAA ARL’s HYSPLIT model
CN110968069A (zh) 风力发电机组的故障预测方法、相应的装置及电子设备
CN111259963B (zh) 一种区域植被指标的驱动因素分析方法、装置及存储介质
CN110705115A (zh) 一种基于深度置信网络的气象预报方法和系统
CN109582702B (zh) 一种基于飞行器测控的事后数据处理系统和方法
CN114625820A (zh) 一种面向人工智能遥感影像解译的样本库系统及组织方法
CN113487251A (zh) 基于一键式遥感的自然灾害预警与应急响应方法与系统
CN111027837B (zh) 预新增国际航线的参考航线确定方法、系统、设备及介质
CN114925043A (zh) 基于时空网格块数据的应用方法、装置及电子设备
CN114330110A (zh) 模型训练方法、光伏发电功率预测方法及系统
Kuma et al. Machine learning of cloud types in satellite observations and climate models
Vitolo et al. Caliver: An R package for CALIbration and VERification of forest fire gridded model outputs
KR101785679B1 (ko) SQL 및 NoSQL을 사용한 해양 플랫폼 계측 및 분석 데이터 관리 시스템
CN113392500A (zh) 地质灾害监测预警系统
Li et al. Application of large-data-driven PHM technology in satellite test and on-orbit management
CN116624226A (zh) 一种煤矿灾害数据采集、分析及可视化展现系统
CN111414355A (zh) 一种海上风电场数据监测存储系统及方法、装置
de Almeida et al. Integration and management of sensor data for rainfall monitoring
Corgnati et al. Recommendation Report 2 on improved common procedures for HFR QC analysis. JERICO-NEXT WP5-Data Management, Deliverable 5.14, Version 1.0.
CN113742929A (zh) 一种针对格点气象实况的数据质量评价方法
Xylogiannopoulos et al. Multivariate motif detection in local weather big data
Christoph Friedrich A multi-talented datacube: integrating, processing and presenting big geodata for the agricultural end user

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant