CN104252526A - 基于冗余消除的遥测存储方法 - Google Patents
基于冗余消除的遥测存储方法 Download PDFInfo
- Publication number
- CN104252526A CN104252526A CN201410438779.5A CN201410438779A CN104252526A CN 104252526 A CN104252526 A CN 104252526A CN 201410438779 A CN201410438779 A CN 201410438779A CN 104252526 A CN104252526 A CN 104252526A
- Authority
- CN
- China
- Prior art keywords
- remote measurement
- telemetry
- parameter
- bag
- source code
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/907—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Library & Information Science (AREA)
- Software Systems (AREA)
- Testing Or Calibration Of Command Recording Devices (AREA)
Abstract
基于冗余消除的遥测存储方法,通过遥测帧解析为遥测包、遥测包划分为任务包、解析遥测包的并行操作,完成遥测数据的解析和存储。卫星配置信息和遥测数据保存在本地数据库中,首先从本地数据库中获取配置信息,依据配置信息将遥测帧解析为遥测包,并将遥测帧、遥测包存储到本地数据库中;然后将遥测包解析划分为多个任务包;最后完成任务包在规定范围内的包解析,将遥测包解析为遥测参数并存储到本地数据库中。在遥测包解析之前和解析完后分别识别并去除冗余,减少重复数据的存储,实现节约存储空间的目的。
Description
技术领域
本发明涉及一种卫星遥测参数的存储方法。
背景技术
遥测数据是卫星上各种被测信息经过传感器变换、采集编排后通过无线信道传达到地面的数据。每颗卫星需要传输的遥测参数多达几千个,直接反映了卫星所有搭载设备的工作状态和健康情况。在卫星电性能测试过程中,设计师主要通过遥测数据来判断卫星状态。
由于传统的测试模式数据存储和应用的局限性,缺乏对测试数据(历史)进行统一、全面的分析,测试历史数据的利用率不高,不容易发现大量测试数据内部隐藏很深的可能存在的偶然或必然的联系,所以在测试深度和广度上受到了一定的限制。因此,利用历史数据存储平台合理管理和存储这些遥测数据显得极为重要。
但是数据容量大是卫星历史数据存储管理面临的主要困难。以常见的小卫星测试加电1000小时为例,假设遥测参数单条记录存储空间为20字节,一个平台速变遥测参数则需要存储空间约72M,一颗卫星需要的存储空间高达几百GB甚至更高。数据容量大也是导致数据查询统计速度慢、图形化处理速度慢的主要原因。
研究发现尽管每颗卫星每秒需要传送的遥测参数多达几千个,但是在稳定状态下,大多遥测参数的值保持不变,或者一阶差分范围不超过3个遥测分层值,存储层次上存在大量重复数据。因此导致小卫星数据容量大的一个重要原因就是重复遥测参数过多,需要一种去除小卫星冗余遥测参数,减少小卫星遥测参数占用存储空间,来加快数据查询速度和处理速度的方法。
发明内容
本发明解决的技术问题是:克服现有技术的不足,提供了一种小卫星遥测数据存储方法,使用计算机多线程来使遥测数据解析、存储并行进行,遥测数据解析效率更高,消除了遥测参数的冗余存储,并使所需数据存储空间更少。
本发明的技术解决方案是:一种基于冗余消除的遥测存储方法,包括以下步骤:
(1)从卫星测控系统获取遥测文件,从本地数据库读取存储的配置信息,按照配置信息中指定的遥测帧长度从遥测文件中读取遥测帧,将遥测帧解析为遥测包,并将遥测帧和遥测包同时存储在本地数据库中;所述遥测文件为顺序记录各遥测帧的数据文件,所述配置信息定义了遥测帧的长度、遥测包的类;
(2)从本地数据库中读取存储的遥测包,按照时间片和配置信息中定义的遥测包类型将所有遥测包划分为任务包,使得每一任务包仅包含同一时间片内的同类型的遥测包;所述时间片是指一个连续的时间范围,由起始时间和截止时间两个字段确定,时间范围内的时间点标识了遥测包的获取时间;
(3)对于每一个任务包,对其包含的所有遥测包进行随机排序形成遥测包序列,选取遥测包序列中的第一个遥测包进行解析,得到对应的遥测参数及其源码值并存储在本地数据库中,从遥测包序列中的第二个遥测包开始,比较该遥测包数据与前一遥测包数据是否相同,如果相同则不再解析该遥测包,只记录该遥测包中遥测参数的获取时间,同时建立该遥测包中遥测参数的参数值与本地数据库中存储的前一相同遥测包中包含的遥测参数的参数值的映射关系,不再重复存储该遥测包中遥测参数的参数值;如果不相同,则进入下一步;
(4)解析该遥测包,得到对应的遥测参数及其源码值,并比较该遥测包中每个遥测参数的源码值与前一遥测包解析获得的对应遥测参数的源码值,如果遥测参数及其源码值均相同,则只记录该遥测参数的获取时间,同时建立该遥测参数及其源码值与本地数据库中存储的前一相同遥测参数及其源码值的映射关系,不再重复存储该遥测参数及其源码值;如果遥测参数及其源码值有一项不相同,则将该遥测参数及其源码值存入本地数据库中。
本发明与现有技术相比的优点在于:
(1)同一遥测参数的数值如果在连续一个时间段内保持不变,则会出现重复数据。本发明方法解析遥测包时将同一类型遥测包聚集在一起,更有利于识别重复数据,通过数据共享减少冗余数据存储;
(2)本发明方法能有效去除冗余遥测数据的存储,从而减少数据库插入操作,减少了数据存贮所用空间,进一步提升工作效率;
(3)本发明方法支持并行数据处理,利用线程并行工作优势提高工作效率。相比传统帧解析方法,既实现了帧解析与包解析之间的并行工作,又实现了不同类的遥测包之间的并行工作。
附图说明
图1为本发明遥测数据解析流程图;
图2为本发明帧解析流程图;
图3为本发明包解析流程图。
具体实施方式
如图1所示,本发明方法包括遥测帧解析为遥测包、遥测包划分为任务包、解析遥测包等工作过程,所述的解析和划分过程都需要本地数据库的协作配合。
1)遥测帧解析为遥测包
从遥测文件中读取遥测帧,依据本地数据库中存储的卫星配置信息,按照图2所示流程依次将遥测帧解析为遥测包,并将遥测帧和遥测包存入数据库中。所述配置信息包括遥测帧配置(遥测帧长度、遥测帧格式)、遥测包配置(遥测包类型、遥测包代号)、遥测参数配置(遥测参数类型、遥测参数格式)。
2)遥测包划分为任务包
从本地数据库中读取存储的遥测包,按照时间片和配置信息中定义的遥测包类型将所有遥测包划分为任务包,使得每一任务包仅包含同一时间片内的同类型遥测包的包代号。时间片是指一个连续的时间范围,由起始时间和截止时间两个字段确定,时间范围内的时间点标识了遥测包的获取时间。
3)解析遥测包
解析遥测包。从任务包获取遥测包包代号,根据遥测包包代号从数据库中获取遥测包,并按照图3所示流程依次将遥测包解析为遥测参数,并存储遥测参数及其源码值。
从任务包中的第二个遥测包开始,遥测包解析之前比较该遥测包数据与前一遥测包数据是否相同,如果相同则不再解析该遥测包,只记录该遥测包中遥测参数的获取时间,同时建立该遥测包中遥测参数的参数值与本地数据库中存储的前一相同遥测包中包含的遥测参数的参数值的映射关系,不再重复存储该遥测包中遥测参数的参数值;如果不相同,则解析该遥测包,得到对应的遥测参数及其源码值,并比较该遥测包中每个遥测参数的源码值与前一遥测包解析获得的对应遥测参数的源码值,如果遥测参数及其源码值均相同,则只记录该遥测参数的获取时间,同时建立该遥测参数及其源码值与本地数据库中存储的前一相同遥测参数及其源码值的映射关系,不再重复存储该遥测参数及其源码值;如果遥测参数及其源码值有一项不相同,则将该遥测参数及其源码值存入本地数据库中。所述的遥测包中遥测参数的参数值与本地数据库中存储的前一相同遥测包中包含的遥测参数的参数值的映射关系,使得部分遥测包的遥测参数不再重复存储,节省了存储空间。
所述的遥测帧解析为遥测包的过程、遥测包划分为任务包的过程、解析遥测包的过程采用计算机多线程并行进行。
4)本地数据库
本发明采用SQL Server数据库,它保存两类数据:卫星配置信息和卫星遥测数据。配置信息包括遥测帧配置(遥测帧长度、遥测帧格式)、遥测包配置(遥测包类型、遥测包格式)、遥测参数配置(遥测参数类型、遥测参数格式)。卫星遥测数据按时序进行存储,包括遥测帧和解析得到的遥测包和遥测参数。
表1所示为数据库存储遥测包(Package_Value)和遥测参数(Parameter_Value)的映射模型(使用大写表示关键属性)。遥测包的数据模式由遥测包ID号(Pack_ID)、遥测包计数(Pack_Count)、遥测包内容(Content)和产生时间(GENTIME)四个属性组成。遥测参数的数据模式由遥测参数ID号(PARA_ID)、遥测参数值(Para_Value)、遥测参数工程值(Para_Engivalue)和遥测差值(Difference)四个属性组成。映射模型(Parameter_Map)构建遥测包和遥测参数之间的映射关系。现实工程中,需要根据遥测包中参数个数对映射模型进行扩展,每个遥测参数设置一列,构建遥测包与多个参数之间的映射关系。由于所有遥测参数都是从遥测包中解析得到的,因此,在去除冗余前,遥测包和遥测参数关系表中的记录具有一一对应关系。通过映射模型和遥测参数之间的左连接可以还原遥测参数所有的记录。如表2所示,基于遥测包、映射模型和遥测参数构建视图(View_Parameter_Value),访问遥测参数可以基于视图进行查询,数据库依据视图与映射模型之间的映射关系,对查询进行重构,得到完整的查询结果。
表1遥测包和遥测参数的数据存储模式
表2遥测参数用户视图
如图2所示,帧解析的主要流程包括以下步骤:
21)从本地数据库读取配置信息;
22)读取遥测帧文件;
23)按照配置信息中指定的帧长读取一个遥测帧,开始帧解析,解析完成以后,将遥测帧和解析得到的遥测包存入本地数据库中;
24)重复步骤23)直到遥测文件结束;
25)重复步骤22)~24)直到遥测文件处理完毕。
如图3所示,包解析的主要流程包括以下步骤:
31)从本地数据库读取配置信息;
32)根据时间片从数据库获取遥测包,得到一个连续的时间范围内的同类型遥测包,时间片时间范围内的时间点标识了遥测包的获取时间;
33)读取一个遥测包,比较本遥测包与时间片内上一遥测包数据是否相同,如果相同,说明本遥测包对应的所有遥测参数值都与上一包相同,属于重复信息,不需要重复存储;如果不同,则依次解析包中遥测参数,对于每个遥测参数,首先比较参数源码值与上一包中该参数的源码值,源码相同,则断定是冗余信息,不重复存储参数值及其源码值,如果不同,则计算参数工程值,与参数源码值一起存入数据库中;
重复步骤33)直到所有遥测包处理完毕。
本发明说明书中未作详细描述的内容属本领域技术人员的公知技术。
Claims (1)
1.基于冗余消除的遥测存储方法,其特征在于包括以下步骤:
(1)从卫星测控系统获取遥测文件,从本地数据库读取存储的配置信息,按照配置信息中指定的遥测帧长度从遥测文件中读取遥测帧,将遥测帧解析为遥测包,并将遥测帧和遥测包同时存储在本地数据库中;所述遥测文件为顺序记录各遥测帧的数据文件,所述配置信息定义了遥测帧的长度、遥测包的类型;
(2)从本地数据库中读取存储的遥测包,按照时间片和配置信息中定义的遥测包类型将所有遥测包划分为任务包,使得每一任务包仅包含同一时间片内的同类型的遥测包;所述时间片是指一个连续的时间范围,由起始时间和截止时间两个字段确定,时间范围内的时间点标识了遥测包的获取时间;
(3)对于每一个任务包,对其包含的所有遥测包进行随机排序形成遥测包序列,选取遥测包序列中的第一个遥测包进行解析,得到对应的遥测参数及其源码值并存储在本地数据库中,从遥测包序列中的第二个遥测包开始,比较该遥测包数据与前一遥测包数据是否相同,如果相同则不再解析该遥测包,只记录该遥测包中遥测参数的获取时间,同时建立该遥测包中遥测参数的参数值与本地数据库中存储的前一相同遥测包中包含的遥测参数的参数值的映射关系,不再重复存储该遥测包中遥测参数的参数值;如果不相同,则进入下一步;
(4)解析该遥测包,得到对应的遥测参数及其源码值,并比较该遥测包中每个遥测参数的源码值与前一遥测包解析获得的对应遥测参数的源码值,如果遥测参数及其源码值均相同,则只记录该遥测参数的获取时间,同时建立该遥测参数及其源码值与本地数据库中存储的前一相同遥测参数及其源码值的映射关系,不再重复存储该遥测参数及其源码值;如果遥测参数及其源码值有一项不相同,则将该遥测参数及其源码值存入本地数据库中。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410438779.5A CN104252526B (zh) | 2014-08-29 | 2014-08-29 | 基于冗余消除的遥测存储方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410438779.5A CN104252526B (zh) | 2014-08-29 | 2014-08-29 | 基于冗余消除的遥测存储方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104252526A true CN104252526A (zh) | 2014-12-31 |
CN104252526B CN104252526B (zh) | 2017-09-22 |
Family
ID=52187416
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410438779.5A Active CN104252526B (zh) | 2014-08-29 | 2014-08-29 | 基于冗余消除的遥测存储方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104252526B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107579792A (zh) * | 2017-09-25 | 2018-01-12 | 上海卫星工程研究所 | 多型号在轨卫星工程参数并行解析方法 |
CN109063258A (zh) * | 2018-06-29 | 2018-12-21 | 北京微纳星空科技有限公司 | 卫星状态遥测参数存储方法和系统 |
CN109345534A (zh) * | 2018-11-23 | 2019-02-15 | 江西洪都航空工业集团有限责任公司 | 一种成像导引头遥测数据数字量状态量联合解析的方法 |
CN111078694A (zh) * | 2019-11-29 | 2020-04-28 | 航天恒星科技有限公司 | 一种数据存储方法和装置 |
CN111177083A (zh) * | 2019-12-19 | 2020-05-19 | 胡友彬 | 授权信息解析和文件数据解析系统 |
CN112183646A (zh) * | 2020-09-30 | 2021-01-05 | 中国科学院微小卫星创新研究院 | 卫星遥测数据系统及其操作方法 |
CN112559096A (zh) * | 2020-12-23 | 2021-03-26 | 中国科学院长春光学精密机械与物理研究所 | 一种空间载荷输入数据解析系统及方法 |
CN113268551A (zh) * | 2021-05-18 | 2021-08-17 | 朱厚强 | 一种统一测控系统数据监测方法及装置 |
CN116506526A (zh) * | 2023-03-23 | 2023-07-28 | 航天行云科技有限公司 | 基于可配置协议解析器的卫星数据处理方法及系统 |
CN116521687A (zh) * | 2023-07-04 | 2023-08-01 | 北京航天驭星科技有限公司 | 遥测数据解析结果存储与查询方法、装置及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002082824A (ja) * | 2000-09-05 | 2002-03-22 | Omron Corp | 情報保管サーバ及び情報配信サーバ並びに利用端末及び情報保管方法並びに情報復元方法 |
CN101170345A (zh) * | 2007-11-30 | 2008-04-30 | 航天东方红卫星有限公司 | 一种卫星分包遥测数据的解包方法 |
CN102436465A (zh) * | 2011-09-01 | 2012-05-02 | 北京空间飞行器总体设计部 | 一种在轨航天器遥测数据压缩存储与快速查询方法 |
-
2014
- 2014-08-29 CN CN201410438779.5A patent/CN104252526B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002082824A (ja) * | 2000-09-05 | 2002-03-22 | Omron Corp | 情報保管サーバ及び情報配信サーバ並びに利用端末及び情報保管方法並びに情報復元方法 |
CN101170345A (zh) * | 2007-11-30 | 2008-04-30 | 航天东方红卫星有限公司 | 一种卫星分包遥测数据的解包方法 |
CN102436465A (zh) * | 2011-09-01 | 2012-05-02 | 北京空间飞行器总体设计部 | 一种在轨航天器遥测数据压缩存储与快速查询方法 |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107579792A (zh) * | 2017-09-25 | 2018-01-12 | 上海卫星工程研究所 | 多型号在轨卫星工程参数并行解析方法 |
CN109063258A (zh) * | 2018-06-29 | 2018-12-21 | 北京微纳星空科技有限公司 | 卫星状态遥测参数存储方法和系统 |
CN109345534A (zh) * | 2018-11-23 | 2019-02-15 | 江西洪都航空工业集团有限责任公司 | 一种成像导引头遥测数据数字量状态量联合解析的方法 |
CN109345534B (zh) * | 2018-11-23 | 2022-03-15 | 江西洪都航空工业集团有限责任公司 | 一种成像导引头遥测数据数字量状态量联合解析的方法 |
CN111078694A (zh) * | 2019-11-29 | 2020-04-28 | 航天恒星科技有限公司 | 一种数据存储方法和装置 |
CN111177083A (zh) * | 2019-12-19 | 2020-05-19 | 胡友彬 | 授权信息解析和文件数据解析系统 |
CN112183646A (zh) * | 2020-09-30 | 2021-01-05 | 中国科学院微小卫星创新研究院 | 卫星遥测数据系统及其操作方法 |
CN112183646B (zh) * | 2020-09-30 | 2021-06-29 | 中国科学院微小卫星创新研究院 | 卫星遥测数据系统及其操作方法 |
CN113282685A (zh) * | 2020-09-30 | 2021-08-20 | 中国科学院微小卫星创新研究院 | 基于表格化的卫星遥测数据系统 |
CN112559096B (zh) * | 2020-12-23 | 2022-10-14 | 中国科学院长春光学精密机械与物理研究所 | 一种空间载荷输入数据解析系统及方法 |
CN112559096A (zh) * | 2020-12-23 | 2021-03-26 | 中国科学院长春光学精密机械与物理研究所 | 一种空间载荷输入数据解析系统及方法 |
CN113268551A (zh) * | 2021-05-18 | 2021-08-17 | 朱厚强 | 一种统一测控系统数据监测方法及装置 |
CN116506526A (zh) * | 2023-03-23 | 2023-07-28 | 航天行云科技有限公司 | 基于可配置协议解析器的卫星数据处理方法及系统 |
CN116506526B (zh) * | 2023-03-23 | 2024-05-07 | 航天行云科技有限公司 | 基于可配置协议解析器的卫星数据处理方法及系统 |
CN116521687A (zh) * | 2023-07-04 | 2023-08-01 | 北京航天驭星科技有限公司 | 遥测数据解析结果存储与查询方法、装置及存储介质 |
CN116521687B (zh) * | 2023-07-04 | 2023-09-22 | 北京航天驭星科技有限公司 | 遥测数据解析结果存储与查询方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN104252526B (zh) | 2017-09-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104252526A (zh) | 基于冗余消除的遥测存储方法 | |
US10176208B2 (en) | Processing time series data from multiple sensors | |
CN102750406B (zh) | 一种基于模型集和差异模型的电网模型多版本管理方法 | |
CN108197181B (zh) | 一种时序数据的压缩存储方法、电子设备及存储介质 | |
CN111177178B (zh) | 一种数据处理方法及相关设备 | |
CN104102690B (zh) | 一种基于存储结构的遥测数据处理方法 | |
CN103177094B (zh) | 一种物联网数据清洗方法 | |
US20190138501A1 (en) | System and Method for Compressing Data in a Database | |
CN105574021A (zh) | 一种数据库的数据压缩方法和装置 | |
CN106933845A (zh) | 使用sql实现mdx查询效果的方法和装置 | |
CN103646079A (zh) | 一种用于图数据库搜索的分布式索引及其并行生成方法 | |
CN103714086A (zh) | 用于生成非关系数据库的模式的方法和设备 | |
CN113901135B (zh) | 一种跨源异构数据智能可视化分析展示方法和设备 | |
CN103678550A (zh) | 一种基于动态索引结构的海量数据实时查询方法 | |
US20230067182A1 (en) | Data Processing Device and Method, and Computer Readable Storage Medium | |
CN102521356B (zh) | 基于确定有限状态自动机的正则表达式匹配设备和方法 | |
CN103198157B (zh) | 一种大地电场数据的压缩存储处理方法 | |
CN103514273A (zh) | 数据采集和监视控制系统及该系统的数据处理方法 | |
CN104391891A (zh) | 一种数据库异构复制方法 | |
BR102013021849A2 (pt) | método de armazenamento de dados em um sistema inserido de uma aeronave e sistema para armazenar e acessar dados em um sistema inserido de uma aeronave | |
CN108647243B (zh) | 基于时间序列的工业大数据存储方法 | |
CN110019252A (zh) | 信息处理的方法、装置及电子设备 | |
CN112948531B (zh) | 海量轨迹查询方法、检索服务器及系统 | |
CN111026759B (zh) | 基于Hbase的报表生成方法及装置 | |
CN107729410A (zh) | 一种适用于电力设备大数据的数据库引擎 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |