CN109861789B - 一种适应慢记快发的流水线遥测数据批量处理系统 - Google Patents
一种适应慢记快发的流水线遥测数据批量处理系统 Download PDFInfo
- Publication number
- CN109861789B CN109861789B CN201910034045.3A CN201910034045A CN109861789B CN 109861789 B CN109861789 B CN 109861789B CN 201910034045 A CN201910034045 A CN 201910034045A CN 109861789 B CN109861789 B CN 109861789B
- Authority
- CN
- China
- Prior art keywords
- node
- data
- parameter
- soft bus
- splitting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Selective Calling Equipment (AREA)
Abstract
本发明公开了一种适应慢记快发的流水线遥测数据批量处理系统,包括多个计算机节点和软总线,所述多个计算机节点进行自动组网,组网后形成一个管理节点、多个拆分节点和参数节点,管理节点、拆分节点和参数节点中带有数据接口的节点同时作为接收节点。本发明不需要数据处理人员对数据进行大量的手工处理,节省处理时间,提高航天器的测试效率。
Description
技术领域
本发明涉及一种适应慢记快发的流水线遥测数据批量处理系统,属于遥测数据判读领域。
背景技术
随着空间科技的发展,航天器的功能和结构越来越复杂,运行过程中产生的数据量也越来越大。随着遥测技术的发展,遥测支持的码率不断提高,同时由于飞行器轨道越来越多变和复杂,地面高码率接收设备存在不能覆盖飞行全程的可能。由于以上条件限制,当前的遥测数据体现出了码率高、码率变化的特征。现阶段的遥测数据处理普遍在单台计算机或者服务器上,使用固定帧格式对遥测数据进行解析,因此对于变码率的数据,需要首先对数据进行判断和分割,并对不同码率的数据进行依次处理,在分别处理完成后再对数据进行拼接,形成时间连贯的数据供分析、判读使用。这种处理方式需要数据处理人员对数据进行大量的手工处理,并花费较多的处理时间,影响航天器的测试效率。因此,设计一种适应慢记快发的流水线式遥测数据批量处理方法显得尤为重要。
发明内容
本发明的技术解决问题是:克服现有技术的不足,提供一种适应慢记快发的流水线遥测数据批量处理系统,不需要数据处理人员对数据进行大量的手工处理,节省处理时间,提高航天器的测试效率。
本发明的技术解决方案是:
一种适应慢记快发的流水线遥测数据批量处理系统,包括多个计算机节点和软总线,所述多个计算机节点进行自动组网,组网后形成一个管理节点、多个拆分节点和参数节点,管理节点、拆分节点和参数节点中带有数据接口的节点同时作为接收节点;
管理节点:在系统中同一时刻仅有一个,负责流水线的实时管理调度,读取并记录软总线上的数据信息;
接收节点:接收遥测数据,根据接收遥测数据的帧码率和类型确定配置中对应的帧格式,将遥测数据和对应的帧格式、接收时间信息一起发布至软总线;
拆分节点:从软总线订阅遥测数据,并对其进行帧拆分,将拆分得到的数据和信息发布到软总线;
参数节点:从软总线订阅参数数据,进行参数物理值解析作业,然后按照时间顺序进行存储,同时向软总线发布参数解析结果。
多个计算机节点进行自动组网的方式如下:
1)每个计算机节点上线后,向软总线发送当前时刻的节点心跳包;
2)每个计算机节点接收其他计算机的节点心跳包;
3)比较自身节点心跳包与接收到的其他计算机节点心跳包的时间,若自身节点心跳包时间最靠前,则继续向软总线发送节点心跳包,并成为管理节点;
4)一旦收到时间更靠前的节点心跳包,则自动退化为解析节点,所述解析节点为拆分节点或参数节点。
管理节点进行流水线管理调度的方式如下:
1)统计遥测数据中需要解析的数据量;
2)根据接收到的节点心跳包统计节点数目、节点资源剩余情况和每个节点状态;
3)统计当前流水线上的数据和信息,判断拆分节点和参数节点状态,将有任务堆积的节点标记为繁忙,将一直无提交数据的节点标记为掉线;
4)实时判断各个节点状态,若状态有变化,则调整节点类型,并下发具体任务。
管理节点下发具体任务是指,向每个拆分节点下发其具体负责拆分的帧类型;向每个参数节点下发其具体负责解析的参数信息。
拆分节点的工作流程如下:
1)向软总线中汇报当前节点状态和资源余量;
2)根据管理节点分配的任务向软总线进行遥测数据订阅;
3)若收到需要拆分的遥测数据,则进行帧拆分作业,将拆分后的数据和信息发布至软总线;
4)若长时间未收到管理节点心跳,则重新进行自动组网。
参数节点的工作流程如下:
1)向软总线中汇报当前节点状态和资源余量;
2)根据管理节点分配的任务向软总线进行参数订阅;
3)若收到需要解析的参数数据,则进行参数物理值解析作业,解析后按照时间顺序进行存储,同时向软总线发布参数解析结果;
4)若长时间未收到管理节点心跳,则进入自动组网流程。
拆分节点对遥测数据进行帧拆分时,遥测数据能够直接拆分成参数的,向软总线发布的数据和信息包括参数原码+时标+辅助波道。
拆分节点对遥测数据进行帧拆分时,遥测数据需先拆解为其他帧类型的,向软总线发布的数据和信息包括帧原码+时标结构体。
遥测数据被拆解为其他帧类型后,由其他拆分节点继续拆分。
所述批量处理系统的处理流程,包括如下步骤:
(1)多个接收节点同时接收到遥测数据,每个接收节点根据接收遥测数据的帧码率和类型确定配置中对应的帧格式,将遥测数据和对应的帧格式、接收时间信息一起发布至软总线;
(2)管理节点读取并记录软总线上的数据信息;
(3)软总线根据遥测数据的帧格式,将所述遥测数据发送给能够处理该类帧格式的拆分节点;
(4)拆分节点对遥测数据进行拆分,如果遥测数据直接拆分成参数,则将拆分得到的参数数据和信息发布到软总线,如果遥测数据被拆解为其他帧类型的,将拆分后的信息发布至软总线,然后重复执行步骤(2)-(4),直到被拆分成参数;
(5)管理节点读取并记录软总线上的参数信息;
(6)软总线根据参数信息,将参数数据发送给对应的参数节点;
(7)参数节点对参数数据进行物理值解算和时间排序,排序完成后进行存储。
与现有技术相比,本发明具有如下有益效果:
(1)现有航空飞行器遥测数据多采用慢记快发形式,现有手段中对慢记快发形式的数据,需要通过大量的手工处理对数据进行判断和分割,并对不同码率的数据进行依次处理,在分别处理完成后再对数据进行拼接。本发明能够对码率变化进行自适应,当遥测数据出现慢记快发时,接收节点可以根据格式判断,并由软总线将遥测数据推送给不同的拆分节点,最终解析后的参数由参数节点根据时间进行排序和汇总,实现了慢记快发数据的连续处理,避免了数据处理人员对数据进行大量的手工处理,节省处理时间。
(2)本发明采用基于软总线的多处理机协同方法,对遥测数据进行并发式流水线式处理,实现对5M+10M大码率且码率存在切换情况的遥测数据的实时解析和存储,提高了航天器的测试效率。
附图说明
图1为本发明系统组成示意图;
图2为自动组网流程图;
图3为管理节点工作流程;
图4为非管理节点工作流程;
图5为本发明批量处理系统处理流程。
具体实施方式
本发明公开了一种适应慢记快发的流水线遥测数据批量处理系统,包括多个计算机节点和软总线,多个计算机节点进行自动组网,组网后形成一个管理节点、多个拆分节点和参数节点,管理节点、拆分节点和参数节点中带有数据接口的节点同时作为接收节点。如图1所示。接口节点完成数据的接收,其他节点连接在内部网络中,通过中间件形成的软总线进行信息交互和协同处理。
具体地,
管理节点:在系统中同一时刻仅有一个,负责流水线的实时管理调度,读取并记录软总线上的数据信息;
接收节点:接收遥测数据,根据接收遥测数据的帧码率和类型确定配置中对应的帧格式,将遥测数据和对应的帧格式、接收时间信息一起发布至软总线;
拆分节点:从软总线订阅遥测数据,并对其进行帧拆分,将拆分得到的数据和信息发布到软总线;
参数节点:从软总线订阅参数数据,进行参数物理值解析作业,然后按照时间顺序进行存储,同时向软总线发布参数解析结果。
如图2所示,多个计算机节点进行自动组网的方式如下:
1)每个计算机节点上线后,向软总线发送当前时刻的节点心跳包;
2)每个计算机节点接收其他计算机的节点心跳包;
3)比较自身节点心跳包与接收到的其他计算机节点心跳包的时间,若自身节点心跳包时间最靠前,则继续向软总线发送节点心跳包,并成为管理节点;
4)一旦收到时间更靠前的节点心跳包,则自动退化为解析节点,并向管理节点发送状态包,执行管理节点指令,所述解析节点为拆分节点或参数节点。
如图3所示,管理节点进行流水线管理调度的方式如下:
1)统计遥测数据中需要解析的数据量;
2)根据接收到的节点心跳包统计节点数目、节点资源剩余情况和每个节点状态;
3)统计当前流水线上的数据和信息,判断拆分节点和参数节点状态,将有任务堆积的节点标记为繁忙,将一直无提交数据的节点标记为掉线;
4)实时判断各个节点状态,若状态有变化,则调整节点类型,并下发具体任务。
管理节点下发具体任务是指,向每个拆分节点下发其具体负责拆分的帧类型;向每个参数节点下发其具体负责解析的参数信息。
如图4所示,拆分节点和参数节点(非管理节点)的工作流程如下:
1)向软总线中汇报当前节点状态和资源余量;
2)根据管理节点分配的任务向软总线进行遥测数据订阅;
3)若收到需要拆分的遥测数据,则进行帧拆分作业,将拆分后的数据和信息发布至软总线;
拆分节点对遥测数据进行帧拆分时,遥测数据能够直接拆分成参数的,向软总线发布的数据和信息包括参数原码+时标+辅助波道。拆分节点对遥测数据进行帧拆分时,遥测数据需先拆解为其他帧类型的,向软总线发布的数据和信息包括帧原码+时标结构体。遥测数据被拆解为其他帧类型后,由其他拆分节点继续拆分。
4)若收到需要解析的参数数据,则进行参数物理值解析作业,解析后按照时间顺序进行存储,同时向软总线发布参数解析结果;
5)若长时间未收到管理节点心跳,则重新进行自动组网。
如图5所示,本发明批量处理系统在接收到数据后,执行流水线式遥测数据处理流程,该流程能适应慢记快发的变码率情况,具体包括如下步骤:
(1)多个接收节点同时接收到遥测数据,每个接收节点根据接收遥测数据的帧码率和类型确定配置中对应的帧格式,将遥测数据和对应的帧格式、接收时间信息一起发布至软总线;
(2)管理节点读取并记录软总线上的数据信息;
(3)软总线根据遥测数据的帧格式,将所述遥测数据发送给能够处理该类帧格式的拆分节点;
(4)拆分节点对遥测数据进行拆分,如果遥测数据直接拆分成参数,则将拆分得到的参数数据和信息发布到软总线,如果遥测数据被拆解为其他帧类型的,将拆分后的信息发布至软总线,然后重复执行步骤(2)-(4),直到被拆分成参数;
(5)管理节点读取并记录软总线上的参数信息;
(6)软总线根据参数信息,将参数数据发送给对应的参数节点;
(7)参数节点对参数数据进行物理值解算和时间排序,排序完成后进行存储。
本发明中,由于接收节点接收遥测数据后,根据遥测数据的帧码率和类型确定配置中对应的帧格式,当遥测数据出现慢记快发时,接收节点可以根据格式判断,并由软总线将遥测数据推送给不同的拆分节点,最终解析后的参数由参数节点根据时间进行排序和汇总,实现了慢记快发的数据的连续处理。
本发明经过实际试验,能够对5M+10M大码率且码率存在切换情况的遥测数据进行实时解析和存储。
本发明未详细说明部分属本领域技术人员公知常识。
Claims (6)
1.一种适应慢记快发的流水线遥测数据批量处理系统,其特征在于:包括多个计算机节点和软总线,所述多个计算机节点进行自动组网,组网后形成一个管理节点、多个拆分节点和参数节点,管理节点、拆分节点和参数节点中带有数据接口的节点同时作为接收节点;
多个计算机节点进行自动组网的方式如下:
1)每个计算机节点上线后,向软总线发送当前时刻的节点心跳包;
2)每个计算机节点接收其他计算机的节点心跳包;
3)比较自身节点心跳包与接收到的其他计算机节点心跳包的时间,若自身节点心跳包时间最靠前,则继续向软总线发送节点心跳包,并成为管理节点;
4)一旦收到时间更靠前的节点心跳包,则自动退化为解析节点,所述解析节点为拆分节点或参数节点;
管理节点:在系统中同一时刻仅有一个,负责流水线的实时管理调度,读取并记录软总线上的数据信息;
接收节点:接收遥测数据,根据接收遥测数据的帧码率和类型确定配置中对应的帧格式,将遥测数据和对应的帧格式、接收时间信息一起发布至软总线;
拆分节点:从软总线订阅遥测数据,并对其进行帧拆分,将拆分得到的数据和信息发布到软总线;
拆分节点对遥测数据进行帧拆分时,遥测数据能够直接拆分成参数的,向软总线发布的数据和信息包括参数原码+时标+辅助波道;
拆分节点对遥测数据进行帧拆分时,遥测数据需先拆解为其他帧类型的,向软总线发布的数据和信息包括帧原码+时标结构体;
遥测数据被拆解为其他帧类型后,由其他拆分节点继续拆分;
参数节点:从软总线订阅参数数据,进行参数物理值解析作业,然后按照时间顺序进行存储,同时向软总线发布参数解析结果。
2.根据权利要求1所述的一种适应慢记快发的流水线遥测数据批量处理系统,其特征在于:管理节点进行流水线管理调度的方式如下:
1)统计遥测数据中需要解析的数据量;
2)根据接收到的节点心跳包统计节点数目、节点资源剩余情况和每个节点状态;
3)统计当前流水线上的数据和信息,判断拆分节点和参数节点状态,将有任务堆积的节点标记为繁忙,将一直无提交数据的节点标记为掉线;
4)实时判断各个节点状态,若状态有变化,则调整节点类型,并下发具体任务。
3.根据权利要求2所述的一种适应慢记快发的流水线遥测数据批量处理系统,其特征在于:管理节点下发具体任务是指,向每个拆分节点下发其具体负责拆分的帧类型;向每个参数节点下发其具体负责解析的参数信息。
4.根据权利要求3所述的一种适应慢记快发的流水线遥测数据批量处理系统,其特征在于:拆分节点的工作流程如下:
1)向软总线中汇报当前节点状态和资源余量;
2)根据管理节点分配的任务向软总线进行遥测数据订阅;
3)若收到需要拆分的遥测数据,则进行帧拆分作业,将拆分后的数据和信息发布至软总线;
4)若长时间未收到管理节点心跳,则重新进行自动组网。
5.根据权利要求3所述的一种适应慢记快发的流水线遥测数据批量处理系统,其特征在于:参数节点的工作流程如下:
1)向软总线中汇报当前节点状态和资源余量;
2)根据管理节点分配的任务向软总线进行参数订阅;
3)若收到需要解析的参数数据,则进行参数物理值解析作业,解析后按照时间顺序进行存储,同时向软总线发布参数解析结果;
4)若长时间未收到管理节点心跳,则进入自动组网流程。
6.利用权利要求1所述批量处理系统的处理流程,其特征在于包括如下步骤:
(1)多个接收节点同时接收到遥测数据,每个接收节点根据接收遥测数据的帧码率和类型确定配置中对应的帧格式,将遥测数据和对应的帧格式、接收时间信息一起发布至软总线;
(2)管理节点读取并记录软总线上的数据信息;
(3)软总线根据遥测数据的帧格式,将所述遥测数据发送给能够处理该类帧格式的拆分节点;
(4)拆分节点对遥测数据进行拆分,如果遥测数据直接拆分成参数,则将拆分得到的参数数据和信息发布到软总线,如果遥测数据被拆解为其他帧类型的,将拆分后的信息发布至软总线,然后重复执行步骤(2)-(4),直到被拆分成参数;
(5)管理节点读取并记录软总线上的参数信息;
(6)软总线根据参数信息,将参数数据发送给对应的参数节点;
(7)参数节点对参数数据进行物理值解算和时间排序,排序完成后进行存储。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910034045.3A CN109861789B (zh) | 2019-01-15 | 2019-01-15 | 一种适应慢记快发的流水线遥测数据批量处理系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910034045.3A CN109861789B (zh) | 2019-01-15 | 2019-01-15 | 一种适应慢记快发的流水线遥测数据批量处理系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109861789A CN109861789A (zh) | 2019-06-07 |
CN109861789B true CN109861789B (zh) | 2021-09-07 |
Family
ID=66894729
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910034045.3A Active CN109861789B (zh) | 2019-01-15 | 2019-01-15 | 一种适应慢记快发的流水线遥测数据批量处理系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109861789B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112533276B (zh) * | 2020-11-27 | 2023-11-10 | 北京宇航系统工程研究所 | 基于箭载无线传感网络的自适应编帧设计方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10126864A (ja) * | 1996-10-14 | 1998-05-15 | Nec Eng Ltd | テレメトリステータス収集コード生成回路 |
CN102542002A (zh) * | 2011-12-08 | 2012-07-04 | 北京空间飞行器总体设计部 | 一种卫星遥测数据处理系统以及其实现方法 |
CN104754339A (zh) * | 2013-12-26 | 2015-07-01 | 成都鼎桥通信技术有限公司 | I帧调整方法、装置及系统 |
CN105306526A (zh) * | 2015-09-11 | 2016-02-03 | 中国人民解放军63796部队 | 一种大推力火箭大流量遥测数据处理方法 |
CN107241276A (zh) * | 2017-06-08 | 2017-10-10 | 中国电子科技集团公司第五十四研究所 | 一种多星遥测数据的统一接收处理方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10142641B2 (en) * | 2016-06-01 | 2018-11-27 | Jack Wade | System and method for parallel image processing and routing |
EP3712832A1 (en) * | 2014-03-26 | 2020-09-23 | Mark W. Publicover | Computerized method and system for providing customized entertainment content |
US10360214B2 (en) * | 2017-10-19 | 2019-07-23 | Pure Storage, Inc. | Ensuring reproducibility in an artificial intelligence infrastructure |
-
2019
- 2019-01-15 CN CN201910034045.3A patent/CN109861789B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10126864A (ja) * | 1996-10-14 | 1998-05-15 | Nec Eng Ltd | テレメトリステータス収集コード生成回路 |
CN102542002A (zh) * | 2011-12-08 | 2012-07-04 | 北京空间飞行器总体设计部 | 一种卫星遥测数据处理系统以及其实现方法 |
CN104754339A (zh) * | 2013-12-26 | 2015-07-01 | 成都鼎桥通信技术有限公司 | I帧调整方法、装置及系统 |
CN105306526A (zh) * | 2015-09-11 | 2016-02-03 | 中国人民解放军63796部队 | 一种大推力火箭大流量遥测数据处理方法 |
CN107241276A (zh) * | 2017-06-08 | 2017-10-10 | 中国电子科技集团公司第五十四研究所 | 一种多星遥测数据的统一接收处理方法 |
Non-Patent Citations (3)
Title |
---|
Development of telemetry data processing program;In Jong Kim;《2013 International Conference on ICT Convergence (ICTC)》;20131202;全文 * |
基于模型驱动的海量数据判读系统研究与实践;王毅;《计算机测量与控制》;20181225;全文 * |
飞行器再入测量采用记忆重发的设计原则;王仁寿;《遥测遥控》;19950920;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN109861789A (zh) | 2019-06-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110768872B (zh) | 巡检方法、系统、装置、计算机设备和存储介质 | |
CN110659173A (zh) | 一种运维系统及方法 | |
CN113884961B (zh) | Soc校准方法、建模方法、建模装置、计算机设备及介质 | |
CN113254254B (zh) | 系统故障的根因定位方法、装置、存储介质及电子装置 | |
CN102141962A (zh) | 一种安全性分布式测试框架系统及其测试方法 | |
CN116599857B (zh) | 一种适用于物联网多场景的数字孪生应用系统 | |
CN108536972A (zh) | 基于自适应智能体的复杂系统可靠性仿真方法及系统 | |
CN102710458B (zh) | 测试过程的监控方法、测试管理服务器和测试服务器 | |
CN109861789B (zh) | 一种适应慢记快发的流水线遥测数据批量处理系统 | |
CN109086816A (zh) | 一种基于贝叶斯分类算法的用户行为分析系统 | |
CN115184674A (zh) | 一种绝缘测试方法、装置、电子终端及存储介质 | |
CN114238081A (zh) | 一种适用于小卫星批量测试的方法及系统 | |
CN112181784A (zh) | 基于字节码注入的代码故障分析方法及系统 | |
CN114661571B (zh) | 模型评测方法、装置、电子设备和存储介质 | |
CN115618046A (zh) | 网格化科考处理方法、系统、设备及存储介质 | |
CN110955709B (zh) | 一种数据的处理方法、装置及电子设备 | |
CN112579429A (zh) | 一种问题定位方法和装置 | |
CN112800102A (zh) | 告警相关性计算方法、装置及计算设备 | |
CN116225944B (zh) | 一种预置组网环境的软件测试系统和方法 | |
WO2023051097A1 (zh) | 网络故障诊断方法、装置、存储介质及电子装置 | |
CN111524053B (zh) | 空气质量预报系统的信息采集方法、装置、设备及介质 | |
CN109525642A (zh) | 一种用户机制下的lims系统客户数据自动化上报方法 | |
CN115952085B (zh) | 一种支持快速测试开发的中间件系统 | |
WO2024082706A1 (zh) | 数据处理方法、设备、系统及可读存储介质 | |
CN113783960B (zh) | 智能变电站设备数据处理方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |