CN116010703B - 一种历史气象数据查询分析系统及方法 - Google Patents
一种历史气象数据查询分析系统及方法 Download PDFInfo
- Publication number
- CN116010703B CN116010703B CN202310056279.4A CN202310056279A CN116010703B CN 116010703 B CN116010703 B CN 116010703B CN 202310056279 A CN202310056279 A CN 202310056279A CN 116010703 B CN116010703 B CN 116010703B
- Authority
- CN
- China
- Prior art keywords
- data
- weather
- query
- module
- storage module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004458 analytical method Methods 0.000 title claims abstract description 24
- 238000000034 method Methods 0.000 title abstract description 10
- 238000004364 calculation method Methods 0.000 claims abstract description 50
- 230000000007 visual effect Effects 0.000 claims abstract description 12
- 238000012544 monitoring process Methods 0.000 claims abstract description 8
- 238000004422 calculation algorithm Methods 0.000 description 14
- 238000004891 communication Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000007726 management method Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 238000013500 data storage Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 230000002265 prevention Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000008521 reorganization Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000004883 computer application Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
一种历史气象数据查询分析系统及方法,其中,系统包括:第一存储模块,用于存储历史气象数据和基于历史气象数据确定的气候特征数据;第二存储模块,用于存储实时气象数据;监听模块,用于在实时气象数据写入第二存储模块的情况下,输出计算指令;第一计算模块,用于在接收到计算指令的情况下,基于实时气象数据更新气候特征数据,得到更新后的气候特征数据;第三存储模块,用于存储更新后的气象特征数据;指令接收模块,用于接收查询指令;查询模块,用于基于查询指令确定查询类型,并基于查询类型从第一存储模块、第二存储模块和第三存储模块中读取与查询类型对应的查询数据;显示模块,用于以可视化的方式显示查询数据于查询页面上。
Description
技术领域
本申请涉及计算机应用技术领域,具体涉及一种历史气象数据查询分析系统及方法。
背景技术
目前,气象数据的应用大多集中在基本的历史数据整编上,没有深度挖掘历史气象数据和实时气象数据之间关联的应用价值,难以满足用户对气象数据的多维度的应用需求。
发明内容
本申请提供一种历史气象数据查询分析系统及方法,旨在提供满足用户对气象数据的多维度的应用需求。
本申请提出一种历史气象数据查询分析系统,包括:
第一存储模块,用于存储历史气象数据和基于所述历史气象数据确定的气候特征数据;
第二存储模块,用于存储实时气象数据;
第三存储模块,用于存储更新后的气象特征数据;
监听模块,用于在所述实时气象数据写入所述第二存储模块的情况下,输出计算指令;
第一计算模块,用于在接收到所述计算指令的情况下,基于所述实时气象数据更新所述第三存储模块中所述气候特征数据;基于所述实时气象数据、所述气候特征数据和预设提醒触发条件,生成提示信息;
指令接收模块,用于接收查询指令;
查询模块,用于基于所述查询指令确定查询类型,并基于所述查询类型从所述第一存储模块、第二存储模块和所述第三存储模块中的至少一个读取与所述查询类型对应的查询数据;
显示模块,用于以可视化的方式显示所述查询数据和/或所述提示信息于查询页面上。
可选地,所述气候特征数据包括第一气候特征数据,用于表征气象要素的历史极值;所述实时气象数据包括每时气象数据;所述第一计算模块配置为:获取气象要素的每时气象数据;基于所述气象要素,检索得到与所述气象要素对应的第一气候特征数据;基于所述每时气象数据、所述历史极值和第一预设规则,更新所述第一气候特征数据。
可选地,所述查询模块包括:历史极值查询模块,并配置为基于历史极值查询指令确定查询类型为历史极值查询和查询的气象要素;基于所述历史极值查询和查询的气象要素从所述第一存储模块和/或所述第三存储模块中获取与所述查询的气象要素对应的第一气候特征数据。
所述显示模块包括:历史极值显示模块,用于根据第一预设显示规则显示排序后的第一气候特征数据。
可选地,所述气候特征数据包括第二气候特征数据,用于表征气象要素出现极端情况的历史连续天数;所述实时气象数据包括每日气象数据;所述第一计算模块配置为:获取气象要素的每日气象数据;基于所述每日气象数据,获取在一段时间内用于表征该气象要素出现极端情况的最大连续天数;基于所述气象要素检索得到与所述气象要素对应的第二气候特征数据;基于所述最大连续天数、所述历史连续天数和第二预设规则,更新所述第二气候特征数据。
可选地,所述查询模块包括:历史连续天数查询模块,并配置为基于所述查询指令确定查询类型为历史连续天数查询和查询的气象要素;基于所述历史连续天数查询和查询的气象要素从所述第一存储模块和/或所述第三存储模块中获取与所述查询的气象要素对应的第二气候特征数据;所述显示模块包括:历史连续天数显示模块,用于根据第二预设显示规则显示排序后的第二气候特征数据。
可选地,所述气候特征数据包括第三气候特征数据,用于表征气象要素的历史均值;所述实时气象数据包括每时气象数据;所述第一计算模块还配置为:获取气象要素每时气象数据;基于所述每时气象数据,根据第三预设规则更新对应时刻的历史均值,更新后的历史均值作为所述第三气候特征数据;
可选地,所述查询模块包括:历史均值查询模块,并配置为基于所述查询指令确定查询类型为历史均值查询和查询的气象要素;基于所述历史均值查询和查询的气象要素从所述第一存储模块和/或所述第三存储模块中获取与所述查询的气象要素对应的第三气候特征数据;所述显示模块包括:
历史均值显示模块,用于根据第三预设显示规则显示查询得到的第三气候特征数据。
可选地,所述查询模块包括:实时数据查询模块,并配置为基于所述查询指令确定查询类型为实时查询和查询的气象要素;基于所述实时查询和查询的气象要素从所述第二存储模块中获取与所述查询的气象要素对应的实时气象数据;所述显示模块包括:实时数据显示模块,用于根据第四预设显示规则所述实时气象数据。
可选地,所述第一存储模块为列式文件存储器;所述第二存储模块为分布式文件存储器,所述第三存储模块为关系式数据库。
可选地,本申请还提出一种历史气象数据查询分析方法,包括:
将历史气象数据和基于所述历史气象数据确定的气候特征数据存储于所述第一存储模块中;
将实时气象数据存储于第二存储模块中;
将更新后的气象特征数据存储于第三存储模块中,
在将所述实时气象数据写入所述第二存储模块的情况下,输出计算指令;
基于所述计算指令,根据所述实时气象数据更新所述第三存储模块中的所述气候特征数据,得到更新后的气候特征数据;基于所述实时气象数据、所述气候特征数据和预设提醒触发条件,生成提示信息;
将所述第二气象特征数据写入到第三存储模块中;
获取接收查询指令;
基于所述查询指令确定查询类型,并基于所述查询类型从所述第一存储模块、第二存储模块和所述第三存储模块中的至少一个读取与所述查询类型对应的查询数据;
以可视化的方式显示所述查询数据和/或所述提示信息于页面上。
本申请的技术方案中,当实时气象数据进入到第二存储模块中存储时,第一计算模块会基于实时气象数据更新气候特征数据,更新后的气候特征数据会存储于第三存储模块中,便于在查询时即能够直接从第三存储模块中读取更新后的气候特征数据,也能够从第一存储模块中读取基于历史气象数据得到的气候特征数据,也能够读取存储于第二存储模块中的实时气象数据,因此第一存储模块、第二存储模块和第三存储模块存储不同的气象数据,以能够快速地根据用户的需求从对应的存储模块中获取到用户所需的气象数据,满足用户对气象数据的多维度的应用需求。同时,当第一计算模块基于所述实时气象数据、所述气候特征数据和预设提醒触发条件,生成提示信息时,显示模块会显示该提示信息,以提示当前的实时气象数据可能突破所述气候特征数据,以对极端天气的发生进行提醒,为防灾减灾和与气象强关联的行业发展提供决策产品支撑。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请提供的历史气象数据查询分析系统的平台示意图;
图2是本申请提供的历史气象数据查询分析系统的逻辑结构示意图;
图3是本申请提供的历史气象数据查询分析系统的一查询页面示意图;
图4是本申请提供的历史气象数据查询分析系统的又一查询页面示意图;
图5是本申请提供的历史气象数据查询分析系统的再一查询页面示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本申请中,“示例性”一词用来表示“用作例子、例证或说明”。本申请中被描述为“示例性”的任何实施例不一定被解释为比其它实施例更优选或更具优势。为了使本领域任何技术人员能够实现和使用本发明,给出了以下描述。在以下描述中,为了解释的目的而列出了细节。应当明白的是,本领域普通技术人员可以认识到,在不使用这些特定细节的情况下也可以实现本发明。在其它实例中,不会对公知的结构和过程进行详细阐述,以避免不必要的细节使本发明的描述变得晦涩。因此,本发明并非旨在限于所示的实施例,而是与符合本申请所公开的原理和特征的最广范围相一致。
目前本发明所属技术领域的产品停留在基本的历史数据整编,没有结合灵活的市场需求,存在计算效率低,查询检索慢,不能满足市场需求等问题。本申请旨在盘活气象历史数据利用率,拓宽在市场应用广度和深度,满足用户对气象历史数据的多维度应用需求,对极端天气的发生进行提醒,为防灾减灾和与气象强关联的行业发展提供决策产品支撑。
本发明所涉及的系统对应的的平台总体技术架构如图1所示,从下而上分为硬件资源层、数据层、存储层、中间件、服务中心层、通信层和应用层共七层:
硬件资源层是整个平台的底层硬件支撑,分为公有云和私有云两个部分,包括服务器、防火墙、硬盘、机柜、云主机、云服务等资源,为整个平台的运行提供服务。
数据层提供多种平台计算所需的数据源,分为历史日值数据、历史气候数据、实时的预报和实况数据,利用数据采集网关,经过清洗、格式转换等数据标准化和和规范化操作,对接入数据的管理和治理。
存储层提供多种数据存储的介质,包括缓存数据库(redis),关系型数据库(mysql)、列式文件存储(clickhouse)、分布式文件存储(hdfs),根据存储的特点、检索效率、写入速度等优势,结合数据的冷热、大小等属性,选择使用不同的存储方式,其中redis用于存储临时计算结果作为热数据服务于产品加工,mysql关系型数据库用于持久化存储极值数据和均值数据的计算结果,用于平台的查询服务,clickhouse列式存储用于持久化存储原始历史日值数据、原始气候数据以及算法,为计算提供数据,hdfs分布式存储用于更新和存储预报以及实时的实况数据,为极值和均值的订正提供数据。
中间件提供消息通知和计数缓存中间件服务,用于监控实时数据的达到情况,形成消息通知,为实时计算提供消费消息。
服务中心由算法中心、计算中心、管理中心、监控中心四个中心组成,算法中心提供极值算法、均值算法、预报融合算法、实况融合算法;算法中心提供图形渲染引擎、计算链路跟踪、计算消息总线、数据流操作、检索引擎、流式计算、计算任务调度等运算所依赖的软件服务;管理中心提供动态任务管理、系统字典管理、系统用户管理、产品算法管理,保障平台的可视化配置管理,方便平台运维;监控中心提供全流程监控、资源调度监控、监控告警等功能。
通信层负责前后端数据交互的通信渠道搭建,提供socket,http/https,websocket三类通信方式,通过鉴权方式提高准入门槛,实现通信安全和数据安全。
应用层面向用户层的服务,在线提供历史原始数据查询和二次加工决策产品查询以及可视化图形产品的导出服务,包括历史大数据服务平台、后台管理中心,还可通过restful接口开发中心实现数据自动化对接第三方系统。
结合图2所示,本申请的技术方案的一种历史气象数据查询分析系统,包括:
第一存储模块,用于存储历史气象数据和基于所述历史气象数据确定的气候特征数据;
第二存储模块,用于存储实时气象数据;
第三存储模块,用于存储更新后的气象特征数据;
监听模块,用于在所述实时气象数据写入所述第二存储模块的情况下,输出计算指令;
第一计算模块,用于在接收到所述计算指令的情况下,基于所述实时气象数据更新所述第三存储模块中所述气候特征数据;基于所述实时气象数据、所述气候特征数据和预设提醒触发条件,生成提示信息;
指令接收模块,用于接收查询指令;
查询模块,用于基于所述查询指令确定查询类型,并基于所述查询类型从所述第一存储模块、第二存储模块和所述第三存储模块中的至少一个读取与所述查询类型对应的查询数据;
显示模块,用于以可视化的方式显示所述查询数据和/或所述提示信息于查询页面上。
在实施例中,当实时气象数据进入到第二存储模块中存储时,第一计算模块会基于实时气象数据更新气候特征数据,更新后的气候特征数据会存储于第三存储模块中,便于在查询时即能够直接从第三存储模块中读取更新后的气候特征数据,也能够从第一存储模块中读取基于历史气象数据得到的气候特征数据,也能够读取存储于第二存储模块中的实时气象数据,因此第一存储模块、第二存储模块和第三存储模块存储不同的气象数据,以能够快速地根据用户的需求从对应的存储模块中获取到用户所需的气象数据,满足用户对气象数据的多维度的应用需求。同时,当第一计算模块基于所述实时气象数据、所述气候特征数据和预设提醒触发条件,生成提示信息时,显示模块会显示该提示信息,以提示当前的实时气象数据可能突破所述气候特征数据,以对极端天气的发生进行提醒,为防灾减灾和与气象强关联的行业发展提供决策产品支撑。
作为上述实施例的可选实施方式,结合图2所示,所述第一存储模块为列式文件存储器Clickhouse;所述第二存储模块为分布式文件存储器Hdfs,所述第三存储模块为关系式数据库mysql。在实施例中,引入实时气象数据,搭建第二存储模块—hdfs存储,实现实时预报和实况数据的存储;通过构建kafka消息总线,借助sparkstreaming服务消费数据到报消息,以触发第一计算模块对实时气象数据进行,调取mysql(第三存储模块)定时计算得到气象特征数据和hdfs存储的实时数据,利用极值算法,实现实时气象特征数据的更新,更新mysql内的气象特征数据。
在实施例中,第一存储模块中存储有历史气象数据和基于历史气象数据得到的气象特征数据。该系统还包括第二计算模块,第二计算模块配置为根据历史气象数据定时计算得到气象特征数据。也即:在实施例中,第二计算模块每隔预设周期将更新一次历史气象数据和气象特征数据。而第一计算模块则根据实时气象数据实时更新气象特征数据。本申请实施例引入分布式计算、流式计算等技术,通过离线计算(定时计算)和实时计算相结合的方式,实现多维度、多要素的气象数据融合,以期提供丰富的气象数据产品满足用户更多层次的需求。
一般而言,当实时气象数据产生时,将其写入到资源池内;当系统获取到该实时气象数据时,会将其分别存储到第一存储模块和第二存储模块中。一般而言,实时气象数据会及时写入到第二存储模块中,通过第一计算模块使其与气象特征数据进行比对和实时更新,做到及时的预报。实时气象数据定时写入到第一存储模块,通过第二计算模块对气象特征数据进行历史更新;和/或者实时气象数据及时写入到第一存储模块中,通过第二计算模块定时结合该实时气象数据(隔一个计算周期后,已经成为历史气象数据)对气象特征数据进行历史更新。
在实施例中,第二计算模块对气象数据的定时计算结果以及第一计算模块对气象数据的实时计算结果可以相互验证,以提高气象特征数据的准确性。
作为上述实施例的可选实施方式,所述气候特征数据包括第一气候特征数据,用于表征气象要素的历史极值。比如,气象要素为气温、雨、风等。历史极值如最高温度、最低温度、最大雨量和最大风速等。所述实时气象数据包括每时气象数据。每时气象数据比如00.00-00.59、01.00-01.59的气温,雨量或者风速。所述第一计算模块配置为:获取气象要素的每时气象数据;基于所述气象要素,检索得到与所述气象要素对应的第一气候特征数据;基于所述每时气象数据、所述历史极值和第一预设规则,更新所述第一气候特征数据。比如,获取气温的每时气象数据;根据气温,检索得到在单日气温的最大值或最小值。比如,单日为6月15日,则检索得到历史上6月15日单日气温的最大值或最小值。若每时气象数据突破最大值或者跌破最小值,则将当日的最高气温或者最低气温更新为该每日气象数据。比如,历史上6月15日单日气温的最大值和最小值分别42.4℃或24.5℃。测得的每时气象数据为43.4℃,则将历史上6月15日单日气温的最大值更新为43.4℃。
在实施例中,第一预设规则一般为最值排序规则,比如历史前三的最大值排序或者历史前三的最小是排序。比如,历史上6月15日单日气温的前三最大值为42.4℃、41.8℃和40.8℃,前三最小值为24.5℃、25.2℃和26.2℃。而测得的每时气象数据为41.4℃,则需要更新历史上6月15日单日气温的最大值前三为42.4℃、41.8℃和41.4℃。
在实施例中,若每时气象数据突破最值时,显示模块会显示该每时气象数据显示在页面上,以提示用户每时气象数据突破最值,为用户的决策提供实时数据参考。
作为上述实施例的可选实施方式,所述查询模块包括:历史极值查询模块,并配置为基于历史极值查询指令确定查询类型为历史极值查询和查询的气象要素;基于所述历史极值查询和查询的气象要素从所述第一存储模块和/或所述第三存储模块中获取与所述查询的气象要素对应的第一气候特征数据;所述显示模块包括:历史极值显示模块,用于根据第一预设显示规则显示排序后的第一气候特征数据。在实施例中,所述系统配置有用户终端,如APP、网页等。当用户在终端上操作历史极值查询模块对应的按钮、对话框等时,历史极值查询模块接收到历史极值查询指令。比如,用户要查询某地在历史上当天(可以某一天、某月、某旬或某季等)的极值温度天气,则历史极值查询模块确定查询类型为温度历史极值查询;历史极值查询模块从第一存储模块和/或第三存储模块中查询得到当天的极值温度分别为:前三位极大值40.5℃、39.8℃和39.5℃,前三位极小值为22.5℃、22.7℃和23.5℃。历史极值显示模块按照既定的预设显示规则显示排序后的第一气候特征数据:前三位极大值40.5℃、39.8℃和39.5℃,前三位极小值为22.5℃、22.7℃和23.5℃。根据排序显示可以让用户知道同期天气少见。
在实施例中,为了能够有效地区分实时气象数据和第一气象特征数据,历史极值显示模块还配置为:若显示的气象数据含有实时气象数据,则以区分所述实时气象数据和所述第一气象特征数据的方式显示所述实时气象数据,其中,以第一显示方式显示所述第一气象特征数据,以第二显示方式示所述实时气象数据;若显示的气象数据不含有实时气象数据,则以所述第一显示方式显示所述第一气象特征数据。比如,以第一显示方式为以第一颜色显示、第二显示方式为以第二颜色显示;和/或又比如,以第一显示方式为以第一半径的圆圈显示,以第二显示方式为以第二半径(大于第一半径)的圆圈显示。如,历史极值查询模块从第一存储模块和/或第三存储模块中查询得到当天的极值温度分别为:前三位极大值40.5℃、39.8℃(为当前的实时气象数据)和39.5℃,前三位极小值为22.5℃、22.7℃和23.5℃。那么40.5℃和39.5℃以绿色显示,39.8℃以红色显示,以提示用户当前的气温处于历史极端情况。
在上述实施例中,在页面显示时,可以以柱状图、圈里加注数值、表格等一种或多种方式进行呈现,如图4和5所示。在图4中,获取到2022年8月19日新疆维吾尔自治区东道海子在气温为10.6℃,经过与历史气象数据中的历史极值(8月中旬的最低温度12.8℃)比对,跌破了该旬的最低温度,低到10.6℃,达到历史最低。此时,在页面上,以橙色显示序号1、最低气温10.6℃、日期2022-08-19,旬记录排行榜10.6℃(柱状图);而其余两项以绿色显示。
连续出现同一种天气是气象学中重要的观测对象,尤其是连续出现极端情况。比如连续降雨为超大暴雨、连续低温、连续高温、连续干旱等等。因此在实施中,所述气候特征数据包括第二气候特征数据,用于表征气象要素出现极端情况的历史连续天数。比如,连续出现高温5天、10天或者更多天。在统计连续出现极端情况时,通常采集每日气象数据,比如某日的气温、某日的雨量、某日的空气湿度等等。所述第一计算模块配置为:获取气象要素的每日气象数据;基于所述每日气象数据,获取在一段时间内用于表征该气象要素出现极端情况的最大连续天数;基于所述气象要素检索得到与所述气象要素对应的第二气候特征数据;基于所述最大连续天数、所述历史连续天数和第二预设规则,更新所述第二气候特征数据。一般把日最高气温达到或超过35℃时称为高温。比如,获取到在一段时间内的每日最高温度分别为36℃、37℃、38℃、37℃、36℃、34℃,那么出现连续高温的最大连续天数为5天。第二预设规则可以为极值更新规则,即:若最大连续天数大于历史连续天数,则更新所述历史连续天数为所述最大连续天数;如以气温要素检索到对应的历史高温连续天数,如历史高温连续天数为4天,则历史高温连续天数将更新为5天。第二预设规则还可以极值排序规则,即:获取历史排序的历史连续天数,若最大连续天数超过历史排序的历史连续天数中的任一个,则更新所述历史排序;如以气温要素检索到对应的历史高温连续天数的前三分别为8天、6天和4天,则历史高温连续天数的前三更新为8天、6天和5天。
在上述实施例中,若所述最大连续天数、所述历史连续天数触发了第二预设规则,则显示模块将显示所述最大连续天数于页面上,以用于提示用户当前的极端情况。
作为上述实施例的可选实施方式,所述查询模块包括:历史连续天数查询模块,并配置为基于所述查询指令确定查询类型为历史连续天数查询和查询的气象要素;基于所述历史连续天数查询和查询的气象要素从所述第一存储模块和/或所述第三存储模块中获取与所述查询的气象要素对应的第二气候特征数据;所述显示模块包括:历史连续天数显示模块,用于根据第二预设显示规则显示排序后的第二气候特征数据。
当用户在终端上操作历史连续天数查询模块对应的按钮、对话框等时,历史连续天数查询模块接收到历史连续天数查询指令。比如,用户要查询某地在历史上某月(某旬或某季等)的高温天气的连续情况,则历史连续天数查询模块确定查询类型为历史连续天数查询;历史连续天数查询模块从第一存储模块和/或第三存储模块中查询得到该查询月的高温的历史连续天数分别为:前三位15天、12天和10天。历史连续天数显示模块按照既定的预设显示规则显示排序后的第二气候特征数据:15天、12天和10天以及分别对应的时间。
在历史连续天数显示模块显示时,其可以参照历史极值查询模块进行设置:若显示的连续天数含有实时气象数据,则以区分所述实时气象数据和所述第二气象特征数据的方式显示所述实时气象数据,其中,以第三显示方式显示所述第二气象特征数据,以第四显示方式示所述实时气象数据;若显示的气象数据不含有实时气象数据,则以所述第三显示方式显示所述第一气象特征数据。比如,历史连续天数查询模块从第一存储模块和/或第三存储模块中查询得到该查询月的高温的历史连续天数分别为:前三位15天、12天和10天。如果该12天为当前时间点的记录,则历史连续天数显示模块按照既定的预设显示规则显示排序后的第二气候特征数据:15天、12天和10天以及分别对应的时间;其中,15天和10天及其分别对应的时间以绿色显示;二12天及对应的时间以橙色显示。
作为上述实施例的可选实施方式,所述气候特征数据包括第三气候特征数据,用于表征气象要素的历史均值;所述实时气象数据包括每时气象数据;所述第一计算模块还配置为:获取气象要素的每时气象数据;基于所述每时气象数据,根据第三预设规则更新对应时刻的历史均值,更新后的历史均值作为所述第三气候特征数据。在实施例中,以气温为气象要素,比如,获取到某日00.00-00.59的气温为15.4℃,则第一计算模块根据第三预设规则以15.4℃更新历史上该日的00.00-00.59时间段的历史均值;比如历史上该日的00.00-00.59时间段的历史均值为15.8摄氏度,观测值共计N个,则更新后的历史均值为:(15.8*N+15.4)/(N+1)。
作为上述实施例的可选实施方式,所述查询模块包括:历史均值查询模块,并配置为基于所述查询指令确定查询类型为历史均值查询和查询的气象要素;基于所述历史均值查询和查询的气象要素从所述第一存储模块和/或所述第三存储模块中获取与所述查询的气象要素对应的第三气候特征数据。当用户在终端上操作历史均值查询模块对应的按钮、对话框等时,历史均值查询模块接收到历史均值查询指令。比如,用户要查询某地在历史上某日某时的气温均值时,则历史均值查询模块确定查询类型为历史均值查询;历史均值查询模块从第一存储模块和/或第三存储模块中查询得到该查询某日某时的气温历史均值15.45℃。历史均值显示模块按照既定的第三预设显示规则显示该气温历史均值。所述显示模块包括:历史均值显示模块,用于根据第三预设显示规则显示查询得到的第三气候特征数据。比如,第三预设显示规则可以为变色显示或突出显示等。
作为上述实施例的可选实施方式,所述查询模块包括:实时数据查询模块,并配置为基于所述查询指令确定查询类型为实时查询和查询的气象要素;基于所述实时查询和查询的气象要素从所述第二存储模块中获取与所述查询的气象要素对应的实时气象数据;所述显示模块包括:实时数据显示模块,用于根据第四预设显示规则所述实时气象数据。当用户在终端上操作实时数据查询模块对应的按钮、对话框等时,实时数据查询模块接收到实时数据查询指令。比如,用户要查询某地在当前时刻的气象数据时,则实时数据查询模块确定查询类型为实时数据查询;实时数据查询模块从第二存储模块中查询得到该查询该时刻的所有气象实时数据。实时数据显示模块按照既定的第四预设显示规则显示该气温实时数据。所述显示模块包括:实时数据显示模块,用于根据第四预设显示规则根据第四预设显示规则所述实时气象数据。比如如图3所示,在实施例中,第四预设显示规则为表格显示,其内包括:时间、地点、最低气温、最高气温、云量、气压等。
基于上述系统,本申请实施例通过引入1951年至今的全国2400多个全国气象观测站历史日值数据、1951年至今的气候均值数据、未来的预报数据、当前的实况数据作为研究基础,结合当今气象数据在新媒体端快速服务应用的需求,研发极值产品算法、均值产品算法,搭建历史大数据计算平台,借助分布式计算、流式计算、列式存储等IT技术,通过离线计算和实时计算相结合的方式,实现多维度、多要素的历史数据产品加工,构建气象历史大数据服务平台,在线提供基于站点、区域、时间、节气、要素等多维度查询服务和图形可视化产品制作服务、以及关键气象信息及时提醒服务,基于计算中心支撑实现毫秒级结果输出。
本发明的目的是结合市场需求,丰富产品算法,搭建历史数据运算中心,研发创新产品,在线提供数据产品检索,提升历史数据服务稳定性、准确性、及时性,盘活历史数据利用率,拓宽在新媒体市场应用广度和深度。
本发明要解决的技术问题如下:
(1)研发丰富算法,解决产品单一的问题
(2)搭建运算中心,解决计算效率低,查询检索慢,人力成本高的问题
(3)构建服务平台,满足面向市场的灵活的需求。
结合图2所示,本申请系统可以通过如下步骤构建气象历史大数据服务平台,在线提供基于站点、区域、时间、节气、要素等多维度查询服务和图形可视化产品制作服务、以及关键气象信息及时提醒服务,基于计算中心支撑实现毫秒级结果输出。
步骤1:基础数据汇聚
借助中国气象局内网网络环境,通过数据资源池,接入历史日值数据、历史气候数据、实时预报和实况数据,并临时存储于内网网盘,实现数据源的采集汇聚。
步骤2:基础数据治理和存储
借助中国气象局DMZ区网络环境,通过同步脚本,将内网网盘数据同步到DMZ区加工平台,针对接入数据进行标准化和规范化处理,搭建clickhouse、hdfs存储服务,实现历史数据和实时数据以及相关算法的存储。
步骤3:定时计算
在实施例中,第二计算模块用于定时计算。搭建第二计算模块,利用算法库,可编写计算程序,实现极值和均值的定时计算,搭建mysql数据库,实现定时计算的极值和均值的入库存储。
步骤4:实时计算
引入实时气象数据,搭建hdfs存储,实现实时预报和实况数据的存储,构建kafka消息总线,借助sparkstreaming服务消费数据到报消息,触发第一计算模块,调取mysql定时计算的极值和均值数据和hdfs存储的实时数据,利用极值算法,实现实时极值数据和均值数据的计算结果输出,更新mysql内极值和均值数据。
步骤5:Api服务
设计数据交互Api接口标准,包括输入参数、输出结果、异常编码等,编写接口封装程序,从clickhouse库调取原始历史日值、气候均值数据,从hdfs调取实时预报数据和是实况数据,从mysql调取订正后的极值数据和气候均值数据,封装灵活的接口,为平台服务提供数据产品。
步骤6:平台服务
收集用户需求,基于需求设计平台模块功能,包括日值查询模块、极值查询模块、均值查询模块、实时数据查询模块和用户中心模块,在线提供基于站点、区域、时间、节气、要素等多维度查询服务和图形可视化产品制作服务、以及关键气象信息及时提醒服务。
作为上述实施例的可选实施方式,本申请还提出一种历史气象数据查询分析方法,包括:
将历史气象数据和基于所述历史气象数据确定的气候特征数据存储于所述第一存储模块中;
将实时气象数据存储于第二存储模块中;
将更新后的气象特征数据存储于第三存储模块中,
在将所述实时气象数据写入所述第二存储模块的情况下,输出计算指令;
基于所述计算指令,根据所述实时气象数据更新所述第三存储模块中的所述气候特征数据,得到更新后的气候特征数据;基于所述实时气象数据、所述气候特征数据和预设提醒触发条件,生成提示信息;
将所述第二气象特征数据写入到第三存储模块中;
获取接收查询指令;
基于所述查询指令确定查询类型,并基于所述查询类型从所述第一存储模块、第二存储模块和所述第三存储模块中的至少一个读取与所述查询类型对应的查询数据;
以可视化的方式显示所述查询数据和/或所述提示信息于页面上。
以上对本申请实施例所提供的一种历史气象数据查询分析系统及方法进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制说明书。
Claims (9)
1.一种历史气象数据查询分析系统,其特征在于,包括:
第一存储模块,用于存储历史气象数据;所述第一存储模块还用于存储基于所述历史气象数据定时确定的气候特征数据;所述气候特征数据包括用于表征气象要素的历史极值、用于表征气象要素出现极端情况的历史连续天数和用于表征气象要素的历史均值;
第二存储模块,用于存储实时气象数据;
监听模块,用于在所述实时气象数据写入所述第二存储模块的情况下,输出计算指令;
第一计算模块,用于在接收到所述计算指令的情况下,基于所述实时气象数据更新第三存储模块中所述气候特征数据;基于所述实时气象数据、存储于所述第一存储模块的所述气候特征数据和/或存储于所述第三存储模块的更新后的气象特征数据和预设提醒触发条件,生成提示信息;
第二计算模块,配置为用于根据存储于所述第一存储模块中的历史气象数据定时计算得到气候特征数据,并存入第三存储模块中;
所述第三存储模块,用于存储所述第一计算模块更新后的气候特征数据以及所述第二计算模块计算得到的气候特征数据;
指令接收模块,用于接收查询指令;
查询模块,用于基于所述查询指令确定查询类型,并基于所述查询类型从所述第一存储模块、第二存储模块和所述第三存储模块中的至少一个读取与所述查询类型对应的查询数据;
显示模块,用于以可视化的方式显示所述查询数据和/或所述提示信息于查询页面上;
其中,所述第一存储模块为列式文件存储器;所述第二存储模块为分布式文件存储器,所述第三存储模块为关系式数据库。
2.如权利要求1所述的查询分析系统,其特征在于,所述气候特征数据包括第一气候特征数据,用于表征气象要素的历史极值;所述实时气象数据包括每时气象数据;
所述第一计算模块配置为:
获取气象要素的每时气象数据;
基于所述气象要素,检索得到与所述气象要素对应的第一气候特征数据;
基于所述每时气象数据、所述历史极值和第一预设规则,更新所述第一气候特征数据。
3.如权利要求2所述的查询分析系统,其特征在于,所述查询模块包括:
历史极值查询模块,并配置为基于历史极值查询指令确定查询类型为历史极值查询和查询的气象要素;基于所述历史极值查询和查询的气象要素从所述第一存储模块和/或所述第三存储模块中获取与所述查询的气象要素对应的第一气候特征数据;
所述显示模块包括:
历史极值显示模块,用于根据第一预设显示规则显示排序后的第一气候特征数据。
4.如权利要求1所述的查询分析系统,其特征在于,所述气候特征数据包括第二气候特征数据,用于表征气象要素出现极端情况的历史连续天数;所述实时气象数据包括每日气象数据;
所述第一计算模块配置为:
获取气象要素的每日气象数据;
基于所述每日气象数据,获取在一段时间内用于表征该气象要素出现极端情况的最大连续天数;
基于所述气象要素检索得到与所述气象要素对应的第二气候特征数据;
基于所述最大连续天数、所述历史连续天数和第二预设规则,更新所述第二气候特征数据。
5.如权利要求4所述的查询分析系统,其特征在于,所述查询模块包括:
历史连续天数查询模块,并配置为基于所述查询指令确定查询类型为历史连续天数查询和查询的气象要素;基于所述历史连续天数查询和查询的气象要素从所述第一存储模块和/或所述第三存储模块中获取与所述查询的气象要素对应的第二气候特征数据;
所述显示模块包括:
历史连续天数显示模块,用于根据第二预设显示规则显示排序后的第二气候特征数据。
6.如权利要求1所述的查询分析系统,其特征在于,所述气候特征数据包括第三气候特征数据,用于表征气象要素的历史均值;所述实时气象数据包括每时气象数据;
所述第一计算模块还配置为:
获取气象要素的每时气象数据;
基于所述每时气象数据,根据第三预设规则更新对应时刻的历史均值,更新后的历史均值作为所述第三气候特征数据。
7.如权利要求6所述的查询分析系统,其特征在于,所述查询模块包括:
历史均值查询模块,并配置为基于所述查询指令确定查询类型为历史均值查询和查询的气象要素;基于所述历史均值查询和查询的气象要素从所述第一存储模块和/或所述第三存储模块中获取与所述查询的气象要素对应的第三气候特征数据;
所述显示模块包括:
历史均值显示模块,用于根据第三预设显示规则显示查询得到的第三气候特征数据。
8.如权利要求1所述的查询分析系统,其特征在于,所述查询模块包括:
实时数据查询模块,并配置为基于所述查询指令确定查询类型为实时查询和查询的气象要素;基于所述实时查询和查询的气象要素从所述第二存储模块中获取与所述查询的气象要素对应的实时气象数据;
所述显示模块包括:
实时数据显示模块,用于根据第四预设显示规则所述实时气象数据。
9.一种历史气象数据查询分析方法,其特征在于,包括:
将历史气象数据、基于所述历史气象数据定时确定的气候特征数据存储于第一存储模块中;所述气候特征数据包括用于表征气象要素的历史极值、用于表征气象要素出现极端情况的历史连续天数和用于表征气象要素的历史均值;
将实时气象数据存储于第二存储模块中;
在将所述实时气象数据写入所述第二存储模块的情况下,输出计算指令;
基于所述计算指令,根据所述实时气象数据更新第三存储模块中的气候特征数据,得到更新后的气候特征数据;将更新后的气候特征数据存储于第三存储模块中;
根据存储于所述第一存储模块中的历史气象数据定时计算得到气候特征数据,并写入第三存储模块;
基于所述实时气象数据、存储于所述第一存储模块的和/或存储于所述第三存储模块中的所述气候特征数据和预设提醒触发条件,生成提示信息;
获取接收查询指令;
基于所述查询指令确定查询类型,并基于所述查询类型从所述第一存储模块、第二存储模块和所述第三存储模块中的至少一个读取与所述查询类型对应的查询数据;
以可视化的方式显示所述查询数据和/或所述提示信息于页面上;
其中,所述第一存储模块为列式文件存储器;所述第二存储模块为分布式文件存储器,所述第三存储模块为关系式数据库。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310056279.4A CN116010703B (zh) | 2023-01-14 | 2023-01-14 | 一种历史气象数据查询分析系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310056279.4A CN116010703B (zh) | 2023-01-14 | 2023-01-14 | 一种历史气象数据查询分析系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116010703A CN116010703A (zh) | 2023-04-25 |
CN116010703B true CN116010703B (zh) | 2024-02-20 |
Family
ID=86023299
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310056279.4A Active CN116010703B (zh) | 2023-01-14 | 2023-01-14 | 一种历史气象数据查询分析系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116010703B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101984421A (zh) * | 2010-09-03 | 2011-03-09 | 中国科学院软件研究所 | 基于实时数据库的气象要素数据组织录入与查询方法 |
CN107004040A (zh) * | 2014-09-10 | 2017-08-01 | 气象预报公司 | 可定制的天气分析系统 |
CN111552010A (zh) * | 2020-04-28 | 2020-08-18 | 杨军 | 一种全球气象灾害卫星遥感快速响应与可视化服务平台 |
CN113010751A (zh) * | 2021-02-25 | 2021-06-22 | 兰州中心气象台(兰州干旱生态环境监测预测中心) | 一种智能化气象要素查询平台 |
CN113254417A (zh) * | 2021-06-29 | 2021-08-13 | 南京满星数据科技有限公司 | 一种基于大数据技术的气象网格数据服务方法及系统 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030004780A1 (en) * | 2001-06-19 | 2003-01-02 | Smith Michael R. | Method and system for integrating weather information with enterprise planning systems |
WO2009086560A1 (en) * | 2008-01-02 | 2009-07-09 | Weather Insight, L.P. | Weather forecast system and method |
US10473482B2 (en) * | 2016-03-25 | 2019-11-12 | United Parcel Service Of America, Inc. | Template-based weather data queries for compiling location-based weather monitoring data for defined transportation routes |
-
2023
- 2023-01-14 CN CN202310056279.4A patent/CN116010703B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101984421A (zh) * | 2010-09-03 | 2011-03-09 | 中国科学院软件研究所 | 基于实时数据库的气象要素数据组织录入与查询方法 |
CN107004040A (zh) * | 2014-09-10 | 2017-08-01 | 气象预报公司 | 可定制的天气分析系统 |
CN111552010A (zh) * | 2020-04-28 | 2020-08-18 | 杨军 | 一种全球气象灾害卫星遥感快速响应与可视化服务平台 |
CN113010751A (zh) * | 2021-02-25 | 2021-06-22 | 兰州中心气象台(兰州干旱生态环境监测预测中心) | 一种智能化气象要素查询平台 |
CN113254417A (zh) * | 2021-06-29 | 2021-08-13 | 南京满星数据科技有限公司 | 一种基于大数据技术的气象网格数据服务方法及系统 |
Non-Patent Citations (2)
Title |
---|
三维气象信息展示及查询系统研究;崔栋梁等;《第34届中国气象学会年会 S20 气象数据:深度应用和标准化论文集》;全文 * |
横峰气象数据查询系统开发与应用;刘如意;《农业灾害研究》;第11卷(第01期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN116010703A (zh) | 2023-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3471374B1 (en) | Method and device for identifying type of geographic location at where user is located | |
CN107451861B (zh) | 一种大数据下用户上网特征识别的方法 | |
CN102521716A (zh) | 一体化专业气象服务集成系统 | |
CN113487251B (zh) | 基于一键式遥感的自然灾害预警与应急响应方法与系统 | |
CN103605651A (zh) | 一种基于olap多维分析的数据处理展现方法 | |
CN110543477B (zh) | 一种标签构建系统及方法 | |
CN109361577A (zh) | 一种基于分布式传感器的数据监测方法和系统 | |
US10528566B2 (en) | Time series data query engine | |
CN101894153A (zh) | 一种基于环形存储表的数据动态压缩保存方法 | |
CN112632127B (zh) | 设备运行实时数据采集及时序的数据处理方法 | |
US20150348216A1 (en) | Influencer analyzer platform for social and traditional media document authors | |
CN102156739A (zh) | 海量闪电数据的gis平台处理方法 | |
JP2015537286A (ja) | 図形コードデータベースの更新および検索のための方法および装置 | |
CN113946572A (zh) | 气象数据存储、查询方法及装置 | |
CN116010703B (zh) | 一种历史气象数据查询分析系统及方法 | |
CN108959408A (zh) | 通信约束下的北极海洋环境预报产品制作与传输管理方法 | |
CN114022051A (zh) | 一种指标波动分析方法,存储介质和电子设备 | |
CN101593316A (zh) | 一种业务员外勤管理系统及其管理方法 | |
CN116739836B (zh) | 一种基于知识图谱的餐饮数据分析方法及系统 | |
CN109189873A (zh) | 一种气象服务大数据监测分析系统平台 | |
CN111666263A (zh) | 一种数据湖环境下异构数据管理的实现方法 | |
CN112100177A (zh) | 数据存储方法、装置、计算机设备及存储介质 | |
CN105955998B (zh) | 基于缓冲技术的无线电监测数据查询方法 | |
CN114911769A (zh) | 支持自定义动态标签构建的数据管理方法和系统 | |
CN103336865A (zh) | 一种动态通信网络构建方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |