CN114416815A - 基于大数据存储平台的卫星数据分布式处理系统和方法 - Google Patents

基于大数据存储平台的卫星数据分布式处理系统和方法 Download PDF

Info

Publication number
CN114416815A
CN114416815A CN202111537655.9A CN202111537655A CN114416815A CN 114416815 A CN114416815 A CN 114416815A CN 202111537655 A CN202111537655 A CN 202111537655A CN 114416815 A CN114416815 A CN 114416815A
Authority
CN
China
Prior art keywords
real
data processing
time
processing application
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111537655.9A
Other languages
English (en)
Other versions
CN114416815B (zh
Inventor
成芳
沈朋礼
肖厦
卢晓春
李艳红
刘东亮
李晓婉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Time Service Center of CAS
Original Assignee
National Time Service Center of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Time Service Center of CAS filed Critical National Time Service Center of CAS
Priority to CN202111537655.9A priority Critical patent/CN114416815B/zh
Publication of CN114416815A publication Critical patent/CN114416815A/zh
Application granted granted Critical
Publication of CN114416815B publication Critical patent/CN114416815B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2458Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2471Distributed queries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Fuzzy Systems (AREA)
  • Computing Systems (AREA)
  • Multi Processors (AREA)
  • Position Fixing By Use Of Radio Waves (AREA)

Abstract

本发明公开了一种基于大数据存储平台的卫星数据分布式处理系统和方法,所述系统包括大数据存储平台、多个非实时数据处理应用模块、多个实时数据处理应用模块和监测模块,其中,大数据存储平台用于从各观测站接收和存储进行卫星数据处理的各类原始数据;每个非实时数据处理应用模块至少集成有一个卫星指标非实时算法软件,且多个非实时数据处理应用模块分别设置在多个计算机上;每个实时数据处理应用模块至少集成有一个卫星指标实时算法软件,且多个实时数据处理应用模块分别设置在多个计算机上;监测模块连接至每个计算机。本发明基于大数据存储平台,以分布式方式进行数据处理计算,降低了对计算机和应用软件的性能要求。

Description

基于大数据存储平台的卫星数据分布式处理系统和方法
技术领域
本发明属于卫星数据处理技术领域,具体涉及一种基于大数据存储平台的卫星数据分布式处理系统和方法。
背景技术
随着卫星应用越来越广泛,其数据越来越多,数据处理越来越复杂,计算量也越来越大,这对数据处理软件和软件运行平台的性能提出了越来越高的要求。原有的处理方式是按照处理目标(项目/评估类型),将牵涉到所有算法集中到一个应用中,在一台数据处理计算机上进行整体处理;在出现计算性能问题时,多以提高数据处理计算机性能、优化软件编程技巧为处理手段。
但随着卫星数据的几何增长,不断丰富的算法以及不断复杂的逻辑,其计算处理时长在不断增加,需要消耗的资源在不断的增长,严重超出了软件和数据处理计算机的优化极限,影响了整体的指标计算,特别是影响了实时部分的数据处理。
发明内容
为了解决现有技术中存在的上述问题,本发明提供了一种基于大数据存储平台的卫星数据分布式处理系统和方法。本发明要解决的技术问题通过以下技术方案实现:
本发明的一个方面提供了一种基于大数据存储平台的卫星数据分布式处理系统,包括大数据存储平台、多个非实时数据处理应用模块、多个实时数据处理应用模块和监测模块,其中:
所述大数据存储平台用于从各观测站接收和存储待进行卫星数据处理的各类原始数据;
所述多个非实时数据处理应用模块中的每个非实时数据处理应用模块至少集成有一个卫星指标非实时算法软件,且所述多个非实时数据处理应用模块分别设置在不同的数据处理计算机上,以利用所述不同的数据处理计算机接收来自所述大数据存储平台的相应原始数据并进行非实时数据处理,获得观测卫星的相应非实时指标;
所述多个实时数据处理应用模块中的每个实时数据处理应用模块至少集成有一个卫星指标实时算法软件,且所述多个实时数据处理应用模块分别设置在不同的数据处理计算机上,以利用所述不同的数据处理计算机接收来自实时数据网络和各观测站的实时观测数据并进行实时数据处理,获得观测卫星的相应实时指标;
所述监测模块连接各数据处理计算机,用于检测各非实时数据处理应用模块和各实时数据处理应用模块的运行状态并进行显示;
所述大数据存储平台还用于接收和存储所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块的数据处理结果。
在本发明的一个实施例中,根据所述卫星指标非实时算法软件的计算时长和触发时间,将所述多个非实时数据处理应用模块设置在不同的数据处理计算机上,其中,每个数据处理计算机上可以设置一个或多个非实时数据处理应用模块。
在本发明的一个实施例中,所述监测模块构建在任一所述数据处理计算机上,或者构建在单独的监测监测计算机上。
在本发明的一个实施例中,所述监测模块采用Udp协议与所述数据处理计算机进行数据通信。
在本发明的一个实施例中,所有数据处理计算机和/或所述监测计算机均处于同一局域网内。
在本发明的一个实施例中,具有实时数据处理应用模块的数据处理计算机上还设置有实时数据接收模块,用于接收来自实时数据网络和观测站的实时观测数据并传输至所述时数据处理应用模块中进行处理。
在本发明的一个实施例中,所述大数据存储平台还用于:
按照日期生成按天存储的目录,以将来自所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块每天的数据处理结果保存在对应的目录之下;
在所述按天存储目录之下按照数据指标类型生成子目录,以将当天的不同数据指标存储在对应的子目录之下。
在本发明的一个实施例中,具有非实时数据处理应用模块的数据处理计算机上还设置有计时模块,用于预先设定非实时数据处理应用模块进行数据处理的时间间隔,以控制所述非实时数据处理应用模块在每次计算时刻到达时获取所述大数据存储平台上的相应数据进行数据处理,以得到相应的卫星非实时指标。
本发明的另一方面提供了一种基于大数据存储平台的卫星数据分布式处理方法,利用上述实施例中任一项所述的卫星数据分布式处理执行,所述方法包括:
利用大数据存储平台从各观测站接收和存储进行卫星数据处理的各类原始数据;
根据待计算的非实时指标以及设定的计算时间间隔,利用具有非实时数据处理应用模块的不同数据处理计算机接收来自所述大数据存储平台的相应原始数据并在所述非实时数据处理应用模块上进行非实时数据处理,获得观测卫星的相应非实时指标;
根据待计算的实时指标,利用具有实时数据处理应用模块的不同数据处理计算机接收来自实时数据网络和观测站的实时观测数据并在所述实时数据处理应用模块进行实时数据处理,获得待测卫星的相应实时指标;
检测所述非实时数据处理应用模块和所述实时数据处理应用模块的运行状态并进行显示;
利用所述大数据存储平台接收和存储所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块的数据处理结果。
在本发明的一个实施例中,利用所述大数据存储平台接收和存储所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块的数据处理结果,包括:
接收所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块的数据处理结果;
按照日期生成按天存储的目录,以将来自所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块每天的数据处理结果保存在对应的目录之下;
在所述按天存储目录之下按照数据指标类型生成子目录,以将当天的不同数据指标存储在对应的子目录之下。
与现有技术相比,本发明的有益效果在于:
1、本发明的卫星数据分布式处理系统基于大数据存储平台,以分布式方式进行数据计算,是一种成本低廉、实现方便的数据处理系统架构,按照卫星数据处理算法的特点,将算法实现分配在多个数据处理应用模块中,再将所述多个数据处理应用模块部署在不同的数据处理计算机上;在运行上按照计算特点,或持续运行,或按时间触发,在满足处理的同时,也满足了对数据处理结果集中管理、方便使用的需求,同时对于数据处理计算机的性能要求将极大的降低,对于软件的实现,将极大地降低难度(性能优化),不需要花费太多时间在性能优化上。
2、本发明的卫星数据分布式处理系统,具有良好的扩展性和灵活性,可以很好地适应不断增加的卫星数据以及处理方法的需求。
以下将结合附图及实施例对本发明做进一步详细说明。
附图说明
图1是本发明实施例提供的一种基于大数据平台的卫星数据分布式处理系统的模块示意图;
图2是本发明实施例提供的一种质量分析软件的算法示意图;
图3是本发明实施例提供的一种基于大数据平台的卫星数据分布式处理系统的具体框架示意图;
图4是本发明实施例提供的一种监测模块的通信示意图;
图5是本发明实施例提供的一种监测模块的处理流程示意图;
图6是本发明实施例提供的一种基于大数据平台的卫星数据分布式处理方法的流程图。
具体实施方式
为了进一步阐述本发明为达成预定发明目的所采取的技术手段及功效,以下结合附图及具体实施方式,对依据本发明提出的一种基于大数据平台的卫星数据分布式处理系统和方法进行详细说明。
有关本发明的前述及其他技术内容、特点及功效,在以下配合附图的具体实施方式详细说明中即可清楚地呈现。通过具体实施方式的说明,可对本发明为达成预定目的所采取的技术手段及功效进行更加深入且具体地了解,然而所附附图仅是提供参考与说明之用,并非用来对本发明的技术方案加以限制。
应当说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的物品或者设备中还存在另外的相同要素。
实施例一
请参见图1,图1是本发明实施例提供的一种基于大数据平台的卫星数据分布式处理系统的结构示意图。该卫星数据分布式处理系统包括大数据存储平台1、多个非实时数据处理应用模块2、多个实时数据处理应用模块3和监测模块4。
大数据存储平台1用于接收和存储进行卫星数据处理的各种原始数据。在本实施例中,大数据存储平台1通过通信模块(如专线网络或互联网)连接至各观测站,用于接收和存储来自各观测站的原始观测数据,该大数据存储平台1可同时接收来自不同观测站的数据保存为数据文件,不同数据文件不会发生冲突。
需要说明的是,如图2所示,在使用卫星数据进行数据处理或卫星数据质量分析时需要进行各种各样的指标计算,每个指标都有一套算法,而且这些指标的数量还在不断的增加中,每个指标的算法类型和复杂度也在同步增长。例如,在一个项目或者评估项中,可以包含大量的卫星质量分析指标,如包括单点定位精度、PDOP(Position Dilution ofPrecision,位置精度因子)、时序、URE(User Range Error,用户测距误差)、UERE(UserEquivalent Range Error,用户等效测距误差)等。卫星数据的所有指标构成了卫星的使用体系、评估体系等,但是各个指标的计算关联性并不是特别强,很多的算法其计算周期、数据源等是不同的,计算结果相互独立。将这些指标计算过程放在一个应用或数据处理计算机上实现,仅仅是因为同一个项目(或评估项)引起的思维定式。事实上,这些指标算法逻辑上没有关联,计算结果也是相互独立的。如在某质量分析软件中,虽然同时包含单点定位精度、PDOP、时序、URE、UERE等多个指标,但是这些指标的计算过程没有相互联系。因此,在本实施例中,将这些指标的算法进行模块化、形成多个数据处理应用模块,独立实现、独立运行,不需要集中在一起运行。进一步地,根据指标算法的实时性和数据源需要,可以将指标的计算过程分为需要进行实时指标算法和非实时指标算法。也就是说,不同指标的计算周期不同,有些指标需要在获取数据过程中实时进行计算或者计算间隔时间非常短(例如在1min之内),例如单点定位精度、PDOP、时序、观测站点的可见卫星、观测站点的运行状态等指标,这些指标需要获取来自观测站的实时数据进行计算;有些指标需要一段时间内获取的观测数据(例如24h)才能进行计算,例如URE、UERE等指标,这些指标通常是按照预定的计算时间获取经存储的数据文件进行计算每种指标算法通常相互独立,通过分别计算即可获得所需的指标结果,以便于进行后续的卫星数据质量分析。
综上,本实施例的卫星数据分布式处理系统设置多个非实时数据处理应用模块2和多个实时数据处理应用模块3,其中,非实时数据处理应用模块2中集成的是卫星指标非实时算法软件,而实时数据处理应用模块3中集成的是卫星指标实时算法软件。
进一步地,请参见图3,图3是本发明实施例提供的一种基于大数据平台的卫星数据分布式处理系统的具体框架示意图,本实施例的多个非实时数据处理应用模块2中的每个非实时数据处理应用模块至少集成有一个卫星指标非实时算法软件,且多个非实时数据处理应用模块分别设置在不同的数据处理计算机上,以利用所述不同的数据处理计算机接收来自大数据存储平台的相应原始数据并进行非实时数据处理,获得待测卫星的相应指标。
具体地,在构建该卫星数据分布式处理系统时,首先对待计算指标的算法核心部分进行模块化实现,并提供调用接口,随后对算法进行分类,按照实时性、计算时长和触发时间进行分类,并部署在不同的数据处理计算机上。
在本实施例中,根据所述卫星指标各种非实时算法的计算时长和触发时间,可以将多个非实时算法软件集成在一个非实时数据处理应用模块2中,随后将该非实时数据处理应用模块2部署在一个数据处理计算机上。每个非实时数据处理应用模块2包含了一个或多个非实时指标算法,其算法计算间隔比较长,有的是每小时计算,有的是每天计算一次,但计算时间长(如在处理某个算法时,对所有站点的数据逐个处理,时间超过1个小时)。在此种情况下,在数据处理计算机内存中保存较长时间数据供计算是不现实的,因此在本实施例中,计算的数据源全部来源于大数据存储平台1。
根据所述卫星指标各种非实时算法的计算时长和触发时间,以及数据处理计算机的性能,每台数据处理计算机上还可以设置多个非实时数据处理应用模块,使得多个非实时数据处理应用模块中包含的卫星指标非实时算法软件错开触发时间,避免计算峰值的出现。也就是说,在一个数据处理计算机上可以同时部署多个非实时数据处理应用模块2,多个非实时数据处理应用模块2具有不同的计算时间。
在本实施例中,非实时数据处理应用模块2中的指标算法软件均为定时触发,即根据预设设定好的触发时间进行触发运行。具有非实时数据处理应用模块的数据处理计算机上还设置有计时模块,用于预先设定非实时数据处理应用模块进行数据处理的时间间隔,以控制所述非实时数据处理应用模块在每次计算时刻到达时获取所述大数据存储平台上的相应数据进行数据处理,以获得相应的卫星非实时指标。
进一步地,所述多个实时数据处理应用模块3中的每个实时数据处理应用模块至少集成有一个卫星指标实时算法软件,且多个非实时数据处理应用模块分别设置在不同的数据处理计算机上,以利用不同数据处理计算机接收来自实时数据网络的实时观测数据并进行实时数据处理,获得待测卫星的相应指标。在本实施例中,每个进行实时数据处理的数据处理计算机上还设置有实时数据接收模块,用于接收来自实时数据网络和观测站的实时观测数据并传输至同一数据处理计算机上的实时数据处理应用模块上进行处理。
如上所述,有些指标计算时效性较强,需要在收到数据后即刻处理给出指标计算结果,如观测站点的运行状态、观测站点的可见卫星等。由于需要实时显示,因此需要立即计算。对于这类实时数据处理应用模块3,其使用的数据是从观测站或实时数据网络直接接收到的数据,而不是保存在大数据存储平台的数据文件。这是因为,在这么短的时间内,保存为文件又读取出来,不仅读写会引发冲突,而且效率也会变低。
进一步地,在本实施例中,多个实时数据处理应用模块3分别设置在多个数据处理计算机上,在进行分配时,可以按照数据源进行分配,例如使用单个观测站点数据的算法组成的实时数据处理应用模块可以配置在同一个数据处理计算机上。
需要说明的是,对于实时数据处理应用模块,由于算法软件不间断地运行,需要处理好计算过程中数据垃圾问题,避免因长时间运行出现内存泄露。
此外,本实施例的卫星数据分布式处理系统具有可扩展性,可以根据实际需求,不断增加配置有非实时数据处理应用模块的数据处理计算机或者配置有实时数据处理应用模块的数据处理计算机,满足处理算法、数据规模不断扩展的需要。将不同的数据处理算法软件分布在不同的数据处理计算机上,降低了对计算平台的要求,可在通用数据处理计算机上完成计算。根据方法对计算资源的需要,可配置不同的计算平台进行计算。如对于较为复杂、资源需要较高的算法,可以配置性能较高的数据处理计算机;而对于简单的计算,则可以配置一般的数据处理计算机。可将多个较为简单的计算,部署在一台数据处理计算机上计算;而对于较为复杂的计算,可以一个算法一个数据处理计算机。
进一步地,监测模块4连接每个数据处理计算机,用于检测非实时数据处理应用模块和实时数据处理应用模块的运行状态并进行显示在本实施例中,监测模块4构建在任一所述数据处理计算机上,或者构建在单独的第三数据处理计算机上。监测模块4采用Udp协议与所述数据处理计算机数据处理计算机进行数据通信,如图4所示。
请参见图5,图5是本发明实施例提供的一种监测模块的处理流程示意图。本实施例的监测模块4的运行过程如下:首先,启动监测程序,读取通信配置,与各数据处理计算机建立Udp监测线程,接收来自各数据处理计算机的log(日志)信息,所述log信息包括需要监测的信息,比如心跳、收发数据情况、算法执行情况、执行时间等。随后,对所述log信息进行解析,判读数据信息并在监测模块4所在计算机上对数据信息进行分类显示,以实现对各非实时数据处理应用模块和各实时数据处理应用模块运行情况的监测。进一步地,还可以形成统一的log文件并发送至大数据存储平台1上进行存储。
在本实施例中,所述数据处理计算机和/或所述监测计算机均处于同一局域网内,可互相访问。所述数据处理计算机和/或所述监测计算机均可访问大数据平台,对数据进行读写。由于处于高速局域网中,丢包率不需要考虑,整个通信协议采用Udp协议,这样,所有应用模块的启动顺序不需要刻意安排,可以随意启停某个数据处理计算机客户端,也可以随时增加数据处理计算机,满足持续运行应用、定时运行应用的连接、发送的需求。
在本实施例中,大数据存储平台1还用于接收和存储多个非实时数据处理应用模块和多个实时数据处理应用模块的数据处理结果。
具体地,大数据存储平台1用于:
按照日期生成按天存储的目录,以将来自所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块每天的数据处理结果保存在对应的目录之下;
在所述按天存储目录之下按照数据指标类型生成子目录,以将当天的不同数据指标存储在对应的子目录之下。
本实施例基于大数据存储平台的卫星数据分布式处理系统基于大数据存储平台,以分布式方式进行计算,是一种成本低廉、实现方便的数据处理系统架构,按照卫星数据处理算法的特点,将算法实现分配在多个数据处理应用模块中,再将所述多个数据处理应用模块部署在不同的数据处理计算机上;在运行上按照计算特点,或持续运行,或按时间触发,在满足处理的同时,也满足了对数据处理结果集中管理、方便使用的需求。此外,该卫星数据分布式处理系统的架构具有良好的扩展性和灵活性,可以很好的适应不断增加的卫星数据以及处理方法的需求。
实施例二
在上述实施例的基础上,本实施例提供了一种基于大数据存储平台的卫星数据分布式处理方法。如图6所示,该卫星数据分布式处理方法包括:
S1:利用大数据存储平台从各观测站接收和存储进行卫星数据处理的各种各类原始数据。
具体地,所述大数据存储平台连接至各观测站,能够接收和存储来自各观测站的原始观测数据,并且大数据存储平台可同时接收来自不同观测站的数据保存为数据文件,不同数据文件不会发生冲突。
S2:根据待计算计算的非实时指标和以及设定的计算时间间隔,利用利用不同数据处理计算机接收来自所述大数据存储平台的相应原始数据并在当前数据处理计算机的非实时数据处理应用模块上进行非实时数据处理,获得观测卫星的相应非实时指标待测卫星的相应指标;以及/或者根据待计算计算的实时指标,以利用不同数据处理计算机接收来自实时数据网络的实时观测数据并在当前数据处理计算机上的实时数据处理应用模块进行实时数据处理,获得待测卫星的相应实时指标。
具体地,所述非实时数据处理应用模块中的指标算法软件均为定时触发,即根据预设设定好的触发时间进行触发运行。在每次计算时刻到达时,所述非实时数据处理应用模块获取所述大数据存储平台上的相应数据进行数据处理,以获得相应的卫星非实时指标。
在本实施例中,根据所述卫星指标各种非实时算法的计算时长和触发时间,可以将多个非实时算法软件集成在一个非实时数据处理应用模块中,随后将该非实时数据处理应用模块部署在一个数据处理计算机上。
进一步地,所述多个实时数据处理应用模块中的每个实时数据处理应用模块至少集成有一个卫星指标实时算法软件,且多个非实时数据处理应用模块分别设置在不同的数据处理计算机上,以利用不同数据处理计算机接收来自实时数据网络的实时观测数据并进行实时数据处理,获得待测卫星的相应指标。每个进行实时数据处理的数据处理计算机上还设置有实时数据接收模块,用于接收来自实时数据网络和观测站的实时观测数据并传输至同一数据处理计算机上的实时数据处理应用模块上进行处理。
S3:检测所述非实时数据处理应用模块和所述实时数据处理应用模块的运行状态并进行显示。
具体地,启动监测程序,读取通信配置,与各数据处理计算机建立Udp监测线程,接收来自各数据处理计算机的log(日志)信息,所述log信息包括需要监测的信息,比如心跳、收发数据情况、算法执行情况、执行时间等。随后,对所述log信息进行解析,判读数据信息并对数据信息进行分类显示,以实现对各非实时数据处理应用模块和各实时数据处理应用模块运行情况的监测。进一步地,还可以形成统一的log文件并发送至大数据存储平台上进行存储。
S4:利用所述大数据存储平台接收和存储所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块的数据处理结果。
具体存储过程包括:按照日期建立生成按天存储的目录,以将来自所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块的数据处理结果每天的计算数据处理结果保存在对应的目录之下;在所述按天存储目录之下按照数据指标类型建立生成子目录,以将当天的把不同数据指标存储在不同对应的子目录之下。
本实施例的卫星数据分布式处理方法基于大数据平台在任一数据处理计算机节点可访问数据的特点,通过对数据处理方法的分析,将不同指标、不同数据源、不同计算频次的处理方法设置成独立的应用模块,分别部署在多台数据处理计算机上,避免了因计算方法多、数据量大、数据处理计算机处理能力低、部分计算实时性强所带来的计算环境难以满足需求的问题,降低了对计算平台的需求,同时也降低了开发难度。本实施例的方法能够有效解决海量卫星数据、多指标计算的问题,降低了研发成本和计算平台成本,增加了系统灵活性和扩展性。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。

Claims (10)

1.一种基于大数据存储平台的卫星数据分布式处理系统,其特征在于,包括大数据存储平台、多个非实时数据处理应用模块、多个实时数据处理应用模块和监测模块,其中:
所述大数据存储平台用于从各观测站接收和存储待进行卫星数据处理的各类原始数据;
所述多个非实时数据处理应用模块中的每个非实时数据处理应用模块至少集成有一个卫星指标非实时算法软件,且所述多个非实时数据处理应用模块分别设置在不同的数据处理计算机上,以利用所述不同的数据处理计算机接收来自所述大数据存储平台的相应原始数据并进行非实时数据处理,获得观测卫星的相应非实时指标;
所述多个实时数据处理应用模块中的每个实时数据处理应用模块至少集成有一个卫星指标实时算法软件,且所述多个实时数据处理应用模块分别设置在不同的数据处理计算机上,以利用所述不同的数据处理计算机接收来自实时数据网络和各观测站的实时观测数据并进行实时数据处理,获得观测卫星的相应实时指标;
所述监测模块连接各数据处理计算机,用于检测各非实时数据处理应用模块和各实时数据处理应用模块的运行状态并进行显示;
所述大数据存储平台还用于接收和存储所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块的数据处理结果。
2.根据权利要求1所述的基于大数据存储平台的卫星数据分布式处理系统,其特征在于,根据所述卫星指标非实时算法软件的计算时长和触发时间,将所述多个非实时数据处理应用模块设置在不同的数据处理计算机上,其中,每个数据处理计算机上可以设置一个或多个非实时数据处理应用模块。
3.根据权利要求1所述的基于大数据存储平台的卫星数据分布式处理系统,其特征在于,所述监测模块构建在任一所述数据处理计算机上,或者构建在单独的监测计算机上。
4.根据权利要求3所述的基于大数据存储平台的卫星数据分布式处理系统,其特征在于,所述监测模块采用Udp协议与所述数据处理计算机进行数据通信。
5.根据权利要求4所述的基于大数据存储平台的卫星数据分布式处理系统,其特征在于,所有数据处理计算机和/或所述监测计算机均处于同一局域网内。
6.根据权利要求1所述的基于大数据存储平台的卫星数据分布式处理系统,其特征在于,具有实时数据处理应用模块的数据处理计算机上还设置有实时数据接收模块,用于接收来自实时数据网络和观测站的实时观测数据并传输至所述时数据处理应用模块中进行处理。
7.根据权利要求1所述的基于大数据存储平台的卫星数据分布式处理系统,其特征在于,所述大数据存储平台还用于:
按照日期生成按天存储的目录,以将来自所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块每天的数据处理结果保存在对应的目录之下;
在所述按天存储目录之下按照数据指标类型生成子目录,以将当天的不同数据指标存储在对应的子目录之下。
8.根据权利要求1所述的基于大数据存储平台的卫星数据分布式处理系统,其特征在于,具有非实时数据处理应用模块的数据处理计算机上还设置有计时模块,用于预先设定非实时数据处理应用模块进行数据处理的时间间隔,以控制所述非实时数据处理应用模块在每次计算时刻到达时获取所述大数据存储平台上的相应数据进行数据处理,以得到相应的卫星非实时指标。
9.一种基于大数据存储平台的卫星数据分布式处理方法,其特征在于,利用权利要求1至8中任一项所述的卫星数据分布式处理执行,所述方法包括:
利用大数据存储平台从各观测站接收和存储进行卫星数据处理的各类原始数据;
根据待计算的非实时指标以及设定的计算时间间隔,利用具有非实时数据处理应用模块的不同数据处理计算机接收来自所述大数据存储平台的相应原始数据并在所述非实时数据处理应用模块上进行非实时数据处理,获得观测卫星的相应非实时指标;
根据待计算的实时指标,利用具有实时数据处理应用模块的不同数据处理计算机接收来自实时数据网络和观测站的实时观测数据并在所述实时数据处理应用模块进行实时数据处理,获得待测卫星的相应实时指标;
检测所述非实时数据处理应用模块和所述实时数据处理应用模块的运行状态并进行显示;
利用所述大数据存储平台接收和存储所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块的数据处理结果。
10.根据权利要求9所述的基于大数据存储平台的卫星数据分布式处理方法,其特征在于,利用所述大数据存储平台接收和存储所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块的数据处理结果,包括:
接收所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块的数据处理结果;
按照日期生成按天存储的目录,以将来自所述多个非实时数据处理应用模块和所述多个实时数据处理应用模块每天的数据处理结果保存在对应的目录之下;
在所述按天存储目录之下按照数据指标类型生成子目录,以将当天的不同数据指标存储在对应的子目录之下。
CN202111537655.9A 2021-12-15 2021-12-15 基于大数据存储平台的卫星数据分布式处理系统和方法 Active CN114416815B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111537655.9A CN114416815B (zh) 2021-12-15 2021-12-15 基于大数据存储平台的卫星数据分布式处理系统和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111537655.9A CN114416815B (zh) 2021-12-15 2021-12-15 基于大数据存储平台的卫星数据分布式处理系统和方法

Publications (2)

Publication Number Publication Date
CN114416815A true CN114416815A (zh) 2022-04-29
CN114416815B CN114416815B (zh) 2022-12-27

Family

ID=81268246

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111537655.9A Active CN114416815B (zh) 2021-12-15 2021-12-15 基于大数据存储平台的卫星数据分布式处理系统和方法

Country Status (1)

Country Link
CN (1) CN114416815B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117573907A (zh) * 2024-01-16 2024-02-20 北京航空航天大学杭州创新研究院 一种移动机器人数据存储方法及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110188548A1 (en) * 2008-08-28 2011-08-04 Centre National D'etudes Spatiales (Cnes) Grid of ground stations for receiving and storing satellite data
CN103560532A (zh) * 2012-03-30 2014-02-05 中国电力科学研究院 一种兆瓦级电池储能电站的监控系统及其方法
CN103617332A (zh) * 2013-12-11 2014-03-05 北京北斗星通导航技术股份有限公司 一种测量卫星导航算法性能的仿真平台和方法
CN109255523A (zh) * 2018-08-16 2019-01-22 北京奥技异科技发展有限公司 基于kks编码规则和大数据架构的分析指标计算平台
CN110657064A (zh) * 2018-06-28 2020-01-07 北京金风科创风电设备有限公司 风电场集群控制系统、方法、控制设备及存储介质
CN111176616A (zh) * 2019-12-06 2020-05-19 中国人民解放军军事科学院国防科技创新研究院 基于通用型星上应用子系统的卫星综合电子系统架构
CN112165351A (zh) * 2020-08-28 2021-01-01 中国卫通集团股份有限公司 基于5g异构接入架构的hts信关站数据处理方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110188548A1 (en) * 2008-08-28 2011-08-04 Centre National D'etudes Spatiales (Cnes) Grid of ground stations for receiving and storing satellite data
CN103560532A (zh) * 2012-03-30 2014-02-05 中国电力科学研究院 一种兆瓦级电池储能电站的监控系统及其方法
CN103617332A (zh) * 2013-12-11 2014-03-05 北京北斗星通导航技术股份有限公司 一种测量卫星导航算法性能的仿真平台和方法
CN110657064A (zh) * 2018-06-28 2020-01-07 北京金风科创风电设备有限公司 风电场集群控制系统、方法、控制设备及存储介质
CN109255523A (zh) * 2018-08-16 2019-01-22 北京奥技异科技发展有限公司 基于kks编码规则和大数据架构的分析指标计算平台
CN111176616A (zh) * 2019-12-06 2020-05-19 中国人民解放军军事科学院国防科技创新研究院 基于通用型星上应用子系统的卫星综合电子系统架构
CN112165351A (zh) * 2020-08-28 2021-01-01 中国卫通集团股份有限公司 基于5g异构接入架构的hts信关站数据处理方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
郑庭: "基于分布式卫星定位的矿山施工地质灾害实时监测系统设计", 《世界有色金属》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117573907A (zh) * 2024-01-16 2024-02-20 北京航空航天大学杭州创新研究院 一种移动机器人数据存储方法及系统
CN117573907B (zh) * 2024-01-16 2024-04-26 北京航空航天大学杭州创新研究院 一种移动机器人数据存储方法及系统

Also Published As

Publication number Publication date
CN114416815B (zh) 2022-12-27

Similar Documents

Publication Publication Date Title
Baruffa et al. Comparison of MongoDB and Cassandra databases for spectrum monitoring as-a-service
US11403346B2 (en) Method and device for searching for information in applications
CN111913818A (zh) 一种确定服务间依赖关系的方法及相关装置
CN112463543B (zh) 业务数据的监控方法、规则数据生成方法、装置及系统
CN107181821A (zh) 一种基于sse规范的消息推送方法及装置
CN114416815B (zh) 基于大数据存储平台的卫星数据分布式处理系统和方法
CN112328448A (zh) 基于Zookeeper的监控方法、监控装置、设备及存储介质
CN111694793A (zh) 一种日志存储方法、装置及日志查询方法、装置
CN111061802B (zh) 一种电力数据管理处理方法、装置及存储介质
CN114116682A (zh) 卫星遥测数据的迁移方法、装置、系统、设备及介质
Dunne et al. A comparison of data streaming frameworks for anomaly detection in embedded systems
CN113760638A (zh) 一种基于kubernetes集群的日志服务方法和装置
CN109885729B (zh) 一种显示数据的方法、装置及系统
CN111949389A (zh) 基于Slurm的信息采集方法和装置、服务器、计算机可读存储介质
CN111858656A (zh) 一种基于分布式架构的静态数据的查询方法和设备
Guo et al. Fast replica recovery and adaptive consistency preservation for edge cloud system
CN114416868A (zh) 一种数据同步方法、装置、设备及存储介质
CN112948124B (zh) 一种加速任务处理方法、装置、设备及可读存储介质
CN113127526A (zh) 一种基于Kubernetes的分布式数据存储和检索系统
US11687063B2 (en) Semantics-based internet of things device data processing-related application installation method and apparatus
CN113722141B (zh) 数据任务的延迟原因确定方法、装置、电子设备及介质
CN115220131A (zh) 气象数据质检方法及系统
CN112612823B (zh) 一种基于PySpark和Pandas融合的大数据时序分析方法
CN114547206A (zh) 一种数据同步方法和数据同步系统
CN113626383A (zh) 一种数据处理方法、装置及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant