CN117593340B - 一种运载火箭伺服机构摆动角度的确定方法、装置及设备 - Google Patents

一种运载火箭伺服机构摆动角度的确定方法、装置及设备 Download PDF

Info

Publication number
CN117593340B
CN117593340B CN202410070221.XA CN202410070221A CN117593340B CN 117593340 B CN117593340 B CN 117593340B CN 202410070221 A CN202410070221 A CN 202410070221A CN 117593340 B CN117593340 B CN 117593340B
Authority
CN
China
Prior art keywords
servo mechanism
track
target
image frames
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202410070221.XA
Other languages
English (en)
Other versions
CN117593340A (zh
Inventor
周良
布向伟
彭昊旻
赵也倪
贺浩
王伟龙
尹朝亮
高岗
李宇
陈乐�
文天乐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dongfang Space Jiangsu Aerospace Power Co ltd
Dongfang Space Technology Shandong Co Ltd
Orienspace Hainan Technology Co Ltd
Orienspace Technology Beijing Co Ltd
Original Assignee
Dongfang Space Jiangsu Aerospace Power Co ltd
Dongfang Space Technology Shandong Co Ltd
Orienspace Hainan Technology Co Ltd
Orienspace Technology Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dongfang Space Jiangsu Aerospace Power Co ltd, Dongfang Space Technology Shandong Co Ltd, Orienspace Hainan Technology Co Ltd, Orienspace Technology Beijing Co Ltd filed Critical Dongfang Space Jiangsu Aerospace Power Co ltd
Priority to CN202410070221.XA priority Critical patent/CN117593340B/zh
Publication of CN117593340A publication Critical patent/CN117593340A/zh
Application granted granted Critical
Publication of CN117593340B publication Critical patent/CN117593340B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/36Videogrammetry, i.e. electronic processing of video signals from a single source or from different sources to give parallax or range information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/277Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T90/00Enabling technologies or technologies with a potential or indirect contribution to GHG emissions mitigation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供一种运载火箭伺服机构摆动角度的确定方法、装置及设备,其中,所述方法包括:获取运载火箭在运行过程中至少一个伺服机构在预设时段内对应的摆动视频流数据;对摆动视频流数据进行预处理,获得至少一个伺服机构在预设时段内进行摆动时的多个图像帧;将至少一个伺服机构对应的多个图像帧输入预设目标跟踪模型中进行处理,获得至少一个伺服机构在预设时段内的目标轨迹,预设目标跟踪模型包括:特征提取模块、轨迹管理模块、数据关联模块以及轨迹输出模块;根据目标轨迹,确定至少一个伺服机构对应的目标摆动角度。本发明提供的方案可以实现对运载火箭伺服机构摆动角度的高精度测量,以提高整个运载火箭发射过程的导航控制效能。

Description

一种运载火箭伺服机构摆动角度的确定方法、装置及设备
技术领域
本发明涉及火箭伺服机构测量技术领域,特别是指一种运载火箭伺服机构摆动角度的确定方法、装置及设备。
背景技术
在现代航天工程中,火箭发射过程中的精准导航和姿态控制是确保任务成功的关键因素。传统的伺服系统监测方法通常使用惯性传感器和陀螺仪等硬件设备,这些设备虽然提供了一定程度的稳定性和精度,同时也存在以下丞待解决的问题:
(1)维护困难:硬件设备通常需要定期维护和校准,这对于航天任务中的设备可靠性和稳定性至关重要。然而,维护这些设备可能需要特殊的环境和专业知识,增加了操作和维护的复杂性。
(2)体积重:传统的硬件设备通常相对较大,占据了有限的航天器空间,这对于设计和构建轻量、紧凑的航天器提出了挑战。体积的增加可能导致载荷和推进系统设计上的限制。
(3)精度受限:由于传感器的物理特性,例如漂移和噪声,传统的硬件设备在某些情况下可能无法提供足够的精度。特别是在复杂的大气和空间环境中,这些设备可能受到干扰,影响测量的准确性。
(4)局限于特定场景:传统硬件设备通常设计用于特定的场景和任务,难以适应环境的变化和不同的任务需求。这在多样化的航天任务中可能导致性能不足。
发明内容
本发明要解决的技术问题是提供一种运载火箭伺服机构摆动角度的确定方法、装置及设备,以实现对运载火箭伺服机构摆动角度的高精度测量,进而提高整个运载火箭发射过程的导航控制效能。
为解决上述技术问题,本发明的实施例提供一种运载火箭伺服机构摆动角度的确定方法,包括:
获取运载火箭在运行过程中至少一个伺服机构在预设时段内对应的摆动视频流数据;
对所述摆动视频流数据进行预处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个图像帧;
将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,所述预设目标跟踪模型包括:特征提取模块、轨迹管理模块、数据关联模块以及轨迹输出模块;所述预设目标跟踪模型是基于深度学习算法对视频流数据进行训练得到的;
根据所述目标轨迹,确定至少一个所述伺服机构对应的目标摆动角度。
可选的,对所述摆动视频流数据进行预处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个图像帧,包括:
按照预设频率对所述摆动视频流数据进行采样处理,获得所述摆动视频流数据对应的多个样本图像帧;
对多个所述样本图像帧进行灰度化处理,获得多个所述样本图像帧对应的多个灰度图像帧;
对多个所述灰度图像帧进行归一化处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个归一化处理后的灰度图像帧。
可选的,将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,包括:
将至少一个所述伺服机构对应的多个图像帧输入到所述特征提取模块中进行处理,获得至少一个所述伺服机构在对应的多个图像帧中的多个轨迹特征点;
将至少一个所述伺服机构对应的多个轨迹特征点输入到所述轨迹管理模块中进行处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点;
将至少一个所述伺服机构对应的多个更新后的轨迹特征点输入到所述数据关联模块中进行处理,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个目标轨迹特征点;
将至少一个所述伺服机构对应多个所述目标轨迹特征点输入到所述轨迹输出模块中,获得至少一个所述伺服机构在所述预设时段内的所述目标轨迹。
可选的,将至少一个所述伺服机构对应的多个图像帧输入到所述特征提取模块中进行处理,获得至少一个所述伺服机构在对应的多个图像帧中的多个轨迹特征点,包括:
在所述特征提取模块中,对输入的多个所述图像帧依次进行多次卷积处理、残差连接处理、池化处理,获得至少一个所述伺服机构的多个所述轨迹特征点。
可选的,将至少一个所述伺服机构对应的多个轨迹特征点输入到所述轨迹管理模块中进行处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点,包括:
将至少一个所述伺服机构对应的多个所述轨迹特征点输入所述轨迹管理模块中,根据所述轨迹管理模块中的预设滤波器对多个所述轨迹特征点进行滤波处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点。
可选的,将至少一个所述伺服机构对应的多个更新后的轨迹特征点输入到所述数据关联模块中进行处理,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个目标轨迹特征点,包括:
在所述数据关联模块中,对至少一个伺服机构对应的多个所述更新后的轨迹特征点进行级联匹配或交并比匹配处理,获得匹配结果;
根据所述匹配结果,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个所述目标轨迹特征点。
可选的,所述目标轨迹包括伺服机构在不同时间步上的位置信息,不同时间步上的位置信息均对应有在当前时间步上的速度信息;
根据所述目标轨迹,确定至少一个所述伺服机构对应的目标摆动角度,包括:
根据所述目标轨迹中当前时间步对应的第二位置信息、与所述当前时间步相邻的前一时间步对应的第一位置信息,以及与所述第一位置信息对应的第一速度信息、与所述第二位置信息对应的第二速度信息,确定至少一个所述伺服机构在所述当前时间步对应的目标摆动角度。
本发明的实施例还提供一种运载火箭伺服机构摆动角度的确定装置,包括:
获取模块,用于获取运载火箭在运行过程中至少一个伺服机构在预设时段内对应的摆动视频流数据;
处理模块,用于对所述摆动视频流数据进行预处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个图像帧;将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,所述预设目标跟踪模型包括:特征提取模块、轨迹管理模块、数据关联模块以及轨迹输出模块;所述预设目标跟踪模型是基于深度学习算法对视频流数据进行训练得到的;根据所述目标轨迹,确定至少一个所述伺服机构对应的目标摆动角度。
本发明的实施例还提供一种计算设备,包括:处理器、存储有计算机程序的存储器,所述计算机程序被处理器运行时,执行如上述所述的方法。
本发明的实施例还提供一种计算机可读存储介质,包括指令,当所述指令在计算机上运行时,使得计算机执行如上述所述的方法。
本发明的上述方案至少包括以下有益效果:
本发明的上述方案,通过获取运载火箭在运行过程中至少一个伺服机构在预设时段内对应的摆动视频流数据;对所述摆动视频流数据进行预处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个图像帧;将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,所述预设目标跟踪模型包括:特征提取模块、轨迹管理模块、数据关联模块以及轨迹输出模块;所述预设目标跟踪模型是基于深度学习算法对视频流数据进行训练得到的;根据所述目标轨迹,确定至少一个所述伺服机构对应的目标摆动角度,以实现对运载火箭伺服机构摆动角度的高精度测量,进而提高整个运载火箭发射过程的导航控制效能。
附图说明
图1是本发明实施例提供的运载火箭伺服机构摆动角度的确定方法流程图;
图2是本发明一可选实施例提供的预设目标跟踪模型的架构图;
图3是本发明一可选实施例提供的助推级伺服机构与芯一级伺服机构的中伺服作动器的位置分布示意图;
图4是本发明一可选实施例提供的芯二级伺服机构、芯三级伺服机构的中伺服作动器的位置分布示意图;
图5是本发明一可选实施例提供的基于伺服机构的目标摆动角度进行运载火箭运行的闭环仿真控制流程示意图;
图6是本发明一可选实施例提供的运载火箭伺服机构摆动角度的确定装置模块框示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
如图1所示,本发明的实施例提出一种运载火箭伺服机构摆动角度的确定方法,包括:
步骤11,获取运载火箭在运行过程中至少一个伺服机构在预设时段内对应的摆动视频流数据;
步骤12,对所述摆动视频流数据进行预处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个图像帧;
步骤13,将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,所述预设目标跟踪模型包括:特征提取模块、轨迹管理模块、数据关联模块以及轨迹输出模块;所述预设目标跟踪模型是基于深度学习模型对视频流数据进行训练得到的;
步骤14,根据所述目标轨迹,确定至少一个所述伺服机构对应的目标摆动角度。
该实施例中,所述伺服机构在所述预设时段内进行摆动的摆动视频流数据可以依据预设置在所述伺服机构上的摄像装置进行采集,并通过以太网实时传输给伺服测量系统;在运载火箭的半实物仿真系统中,半实物仿真系统通过IO发送开始指令给飞控组合,飞控组合系统向运载火箭的伺服机构控制系统发送伺服机构控制指令,伺服机构控制系统接收伺服机构控制指令并对相关伺服机构的作动器进行摆动,此时伺服机构上的摄像装置将各级伺服机构的摆动视频流数据通过以太网实时传递给伺服测量系统;
通过对所述伺服机构在预设时段内进行摆动的视频流数据进行预处理,可以获得所述伺服机构在所述预设时段内进行摆动的图像帧;经过预处理后的图像帧可以满足所述预设目标跟踪模型的处理要求,保证对应目标伺服机构的运行的目标轨迹追踪的准确性,更进一步保证了后续基于确定的目标轨迹,解算对应目标伺服机构的目标摆动角度的准确性及精度;
这里,所述预设目标跟踪模型可以包括:特征提取模块、轨迹管理模块、数据关联模块以及轨迹输出模块;在所述预设目标跟踪模型中,依次通过上述模块对预处理后的图像帧进行处理,进而获得对应伺服机构在所述预设时段内的目标轨迹;所述预设目标跟踪模型是基于深度学习算法对伺服机构的历史视频流数据进行训练得到的,所述深度学习算法可以是DeepSort 算法,通过引入深度学习算法,可以减少对传统硬件设备的依赖,从而降低伺服机构摆动角度测量的成本,使其更为经济实用,同时提高对运载火箭伺服机构摆动角度的实时监测能力。
在本发明的一可选实施例中,至少一个所述伺服机构可以包括所述运载火箭的助推级伺服机构、芯一级伺服机构、芯二级伺服机构、芯三级伺服机构;由于助推级伺服机构、芯一级伺服机构通过一个摄像装置进行视频流的采集,芯二级伺服机构、芯三级伺服机构分别通过设置在其上的摄像装置分别进行视频流的采集,所以所述摆动视频流数据中包含有至少一个目标伺服机构;
这里,所述运载火箭助推级伺服机构有四个助推器,其中包含八个伺服作动器分别为ZTIA、ZTIB、ZTIIA、ZTIIB、ZTIIIA、ZTIIIB、ZTIVA和ZTIVB,将摄像装置放置芯一级伺服机构的喷管圆心垂下方位置,当运载火箭的半实物仿真系统发送开始指令时刻,助推级伺服机构、芯一级伺服机构的摄像装置将助推级伺服机构和芯一级伺服机构的摆动视频流数据通过以太网实时传递给伺服测量系统;
所述运载火箭芯二级伺服机构、芯三级伺服机构分别包含两个伺服作动器,分别为IA、IB和IIA、IIB,芯二级伺服机构、芯三级伺服机构为内置摄像装置,摄像装置分别放置在芯二级伺服机构的喷管上、芯二级伺服机构喷管垂下方位置,当运载火箭的半实物仿真系统开始仿真发送开始指令时刻,芯二级伺服机构、芯三级伺服机构摄像装置将芯二级伺服机构、芯三级伺服机构对应的摆动视频流数据通过以太网实时传递给伺服测量系统。
本发明的一可选实施例中,上述步骤12,可以包括:
步骤121,按照预设频率对所述摆动视频流数据进行采样处理,获得所述摆动视频流数据对应的多个样本图像帧;
步骤122,对多个所述样本图像帧进行灰度化处理,获得多个所述样本图像帧对应的多个灰度图像帧;
步骤123,对多个所述灰度图像帧进行归一化处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个归一化处理后的灰度图像帧。
该实施例中,对所述摆动视频流数据进行预处理是实时进行的,在获取到至少一个所述伺服机构对应的摆动视频流数据之后,可以先循环读取所述摆动视频流连续的视频数据帧,以便于后续进行采样;
对循环读取后获得的连续的视频数据帧按照所述预设频率进行采样处理,以降低计算量,提高处理效率;这里,所述预设频率可以依据所述运载火箭上的系统的运行周期进行设置,保证采样频率与所述运载火箭上的系统的运行周期一致,以保证获得较为准确及流畅的多个样本图像帧,保证后续处理的精度及准确性;
进一步的,为满足所述预设目标跟踪模型的输入要求,以保证后续处理过程的准确性,需要对多个所述样本图像帧进行灰度化处理,获得满足输入要求的灰度图像帧;
在本发明的一可实现示例中,上述步骤122,可以包括:
步骤1221,对每一个样本图像帧按照预设权重进行颜色通道权重的调整;优选的,所述预设权重可以设置为0.299,0.587,0.114;
步骤1222,对调整颜色通道权重后的每个样本图像帧中的每个像素,将其彩色通道值按照权重相加,得到调整颜色通道权重后的每个样本图像帧对应的灰度值;
步骤1223,将所述样本图像帧中的彩色通道替换对应计算的灰度值,则获得对应的所述灰度图像帧;
优选的,在对所述样本图像帧进行灰度处理之前,还可以对所述样本图像帧的大小进行调整,以满足所述预设目标跟踪模型输入大小的要求,这里,可以通过图像插值法将对应的样本图像帧的帧大小调整为所述预设目标跟踪模型期望的帧大小,如:112×92×3;
进一步的,对多个所述灰度图像帧进行归一化处理,以将所述灰度图像帧的像素值归一化到所述预设目标跟踪模型所需的范围,以提高所述预设目标跟踪模型在处理时的效率;这里,将所述灰度图像帧的像素值缩放到[0,1]范围;对多个所述灰度图像帧进行归一化处理,具体的:
首先计算所述灰度图像帧中每个通道的均值,其次计算所述灰度图像帧中每个通道的标准差,最后对所述灰度图像帧中的每个像素通过以下公式进行归一化计算,以获得多个归一化处理后的灰度图像帧:
其中,µ为所述灰度图像帧中每个通道的均值,OriP为所述灰度图像帧对应的灰度处理前的原始像素值,S为原始像素值的标准差;
优选的,对多个所述灰度图像帧进行归一化处理之前,还可以对所述灰度图像帧进行增强处理,对所述灰度图像帧进行增强处理时,首先计算所述灰度图像帧的像素均值,之后根据所述像素均值对所述灰度图像帧中的每个像素进行调整,并将每个像素的分辨率控制在0至255范围内,以增强所述灰度图像帧的对比度,从而提高所述灰度图像帧中的细节对比度、改善所述灰度图像帧质量,以保证后续处理的准确性与精度。
如图2所示,本发明的一可选实施例中,上述步骤13,可以包括:
步骤131,将至少一个所述伺服机构对应的多个图像帧输入到所述特征提取模块中进行处理,获得至少一个所述伺服机构在对应的多个图像帧中的多个轨迹特征点;
步骤132,将至少一个所述伺服机构对应的多个轨迹特征点输入到所述轨迹管理模块中进行处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点;
步骤133,将至少一个所述伺服机构对应的多个更新后的轨迹特征点输入到所述数据关联模块中进行处理,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个目标轨迹特征点;
步骤134,将至少一个所述伺服机构对应多个所述目标轨迹特征点输入到所述轨迹输出模块中,获得至少一个所述伺服机构在所述预设时段内的所述目标轨迹。
该实施例中,输入到所述预设目标跟踪模型中的多个图像帧为归一化处理后的灰度图像帧;所述预设目标跟踪模型中包含的多个模块基于所述归一化处理后的灰度图像帧的处理方法及处理流程是不一样的;
这里,在所述特征提取模块中通过ResNet卷积神经网络,对输入的多个所述归一化处理后的灰度图像帧进行特征提取,以获得所述归一化处理后的灰度图像帧中当前伺服机构在摆动时的多个轨迹特征点;
具体的,在本发明的一可选实施例中,上述步骤131,可以包括:
步骤1311,在所述特征提取模块中,对输入的多个所述图像帧依次进行多次卷积处理、残差连接处理、池化处理,获得至少一个所述伺服机构的多个所述轨迹特征点。
该实施例中,多个所述轨迹特征点中的每个轨迹特征点均包括表示当前伺服机构的当前运动状态所包含的时间点信息、角度信息、位置信息以及速度信息,应当知道的是,输入对应伺服机构的多个归一化处理后的灰度图像帧中的每一个归一化处理后的灰度图像帧均对应有一个轨迹特征点,且该轨迹特征点对应的时间点信息与当前归一化处理后的灰度图像帧的时间是对应的;
在所述特征提取模块中可以通过ResNet卷积神经网络利用前向传播对所述归一化处理后的灰度图像帧进行特征提取,从输入的归一化处理后的灰度图像帧到特征映射,可以表示为:features=ResNet(X),其中,X表示输入的归一化处理后的灰度图像帧,features表示提取的特征点;
具体的:在ResNet卷积神经网络的卷积层中,对输入的归一化处理后的灰度图像帧进行卷积操作,每个卷积层可以表示为:Y=ReLU(Conv(X));其中,X表示输入的归一化处理后的灰度图像帧,Y 表示提取并输出的特征点,Conv 表示卷积操作,ReLU表示激活函数;
进一步的,在ResNet卷积神经网络的残差连接层中;ResNet的核心特性是残差连接,其公式为:Y1=F(Y,{Wi})+Y,其中,Y 表示提取并输出的特征点,Y1表示映射后的特征点,F表示学习的残差映射,{Wi}表示第i个卷积层的权重,i为正整数;进一步的,在ResNet卷积神经网络的池化层中,对映射后的特征点进行池化处理,获得最终输出的轨迹特征点;
进一步的,将所述特征提取模块提取的当前伺服机构在摆动时的多个轨迹特征点输入到所述轨迹管理模块中进行滤波处理,以获得至少一个所述伺服机构对应的多个更新后的轨迹特征点,以保证后续进行轨迹匹配的准确性,进而保证最终输出目标轨迹的准确性;
具体的,在本发明的一可选实施例中,上述步骤132,可以包括:
步骤1321,将至少一个所述伺服机构对应的多个所述轨迹特征点输入所述轨迹管理模块中,根据所述轨迹管理模块中的预设滤波器对多个所述轨迹特征点进行滤波处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点。
该实施例中,所述预设滤波器可以是卡尔曼滤波器,通过所述卡尔曼滤波器对每个伺服机构在所述预设时段内的多个轨迹特征点进行滤波处理,以降低测量噪声的影响,获得具有较为准确运动状态的更新后的轨迹特征点;
在本发明的一可选实施例中,上述步骤1321,可以包括:
步骤13211,滤波初始化:滤波初始化过程中的噪声和测量噪声可以分别表示为:processNoise=pN,measureNoise=mN,初始化设置时间步长为:T=10ms;
对输入的轨迹特征点的初始运动状态进行估计,具体的,可以通过以下公式:
其中,表示轨迹特征点的初始运动状态,Ax和Ay分别表示轨迹特征点对应的位置信息中的坐标在x向和y向的初始旋转角度,Px和Py分别表示轨迹特征点对应的位置信息中的坐标在x向和y向的初始偏移位置,Vx和Vy分别表示轨迹特征点对应的位置信息中的坐标在x向和y向的初始旋转速度;
初始运动状态的协方差矩阵可以表示为:
其中,P0表示初始运动状态的协方差矩阵,P1、P3、P5、P6为初始化特征参数,设定的数值分别为9.799,1.57,7.292115E-5,6.378137E6;
步骤13212,状态预测:在每个时间步,所述卡尔曼滤波器基于轨迹特征点的初始运动状态来预测轨迹特征点当前时间点对应的当前运动状态;
其中,当前运动状态的预测具体计算如下式:
其中,表示轨迹特征点是在时刻 k(时间点k)时基于时刻k-1的信息预测的运动状态,Fk表示状态转移矩阵 xk-1|k-1是上一时间步的运动状态预测(是在时刻 k-1时基于时刻k-1的信息预测的运动状态),Bk是控制输入模型,uk是控制输入;
当前运动状态的协方差预测计算如下式:
其中Pk|k-1为表示轨迹特征点在是在时刻k时基于时刻k-1的信息预测的运动状态协方差,Qk为过程噪声方差,T表示转置,其为一个设定的列向量;
步骤13213,滤波更新:当对当前轨迹点的运动状态预测完成,需要预测下一轨迹特征点的运动状态时,需要对所述卡尔曼滤波器的更新状态进行估计,具体的:
观测更新:
其中,yk表示残差,zk表示观测量,Hk表示观测模型;
卡尔曼滤波增益:
其中,Kk表示卡尔曼滤波增益,Rk表示观测噪声协方差;
状态更新:
协方差矩阵更新:
xk|k是在时刻k时基于时刻k的信息更新的运动状态,Pk|k是在时刻k时基于时刻k的信息更新的运动状态协方差;
步骤13214,运动状态估计输出:轨迹特征点的运动状态估计输出为滤波过程的最终结果(更新后的轨迹特征点),代表对当前伺服机构在对应时间步下的运动状态的最佳估计,包含更新后的轨迹特征点的确定的运动状态或暂定的运动状态,基于所述确定的运动状态或所述暂定的运动状态,便于后续所述数据关联模块进行匹配处理,进一步保证生成目标轨迹的准确性;这里,对于更新后的轨迹特征点的确定的运动状态以及暂定的运动状态的评估,可以通过协方差矩阵Pk|k表示。
进一步的,将所述轨迹管理模块滤波处理后获得的多个所述更新后的轨迹特征点输入到所述数据关联模块中,所述数据管理模块对多个所述更新后的轨迹特征点进行关联匹配处理,并根据关联匹配的结果,对多个所述更新后的轨迹特征点进行筛选,获得多个所述更新后的轨迹特征点中的多个目标轨迹特征点,以保证后续输出的目标轨迹的准确性;
具体的,在本发明的一可选实施例中,上述步骤133,可以包括:
步骤1331,在所述数据关联模块中,对至少一个伺服机构对应的多个所述更新后的轨迹特征点进行级联匹配或交并比匹配处理,获得匹配结果;
步骤1332,根据所述匹配结果,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个所述目标轨迹特征点。
该实施例中,在所述数据关联模块中,根据所述更新后的轨迹特征点的运动状态,将所述更新后的轨迹特征点与轨迹数据库中伺服机构已识别和保存的已有轨迹进行匹配,以确定所述更新后的轨迹特征点对应的目标伺服机构,同时维护目标伺服机构的轨迹历史;所述轨迹数据库可以存储在所述数据关联模块中,所述轨迹数据库内存储有多个伺服机构已经被识别和跟踪的轨迹,每个轨迹包含了对应的目标伺服机构在不同灰度图像帧中的运动状态信息,如位置信息、角度信息、速度信息等;
所述级联匹配为分层匹配,旨在优先匹配最有可能与已有轨迹相关的所述更新后的轨迹特征点,主要用于对具有确定的运动状态的更新后的轨迹特征点进行匹配;通过所述级联匹配处理,获得匹配结果的具体过程如下:
步骤1331-a1,准备匹配:对于每个已有轨迹,基于其最新的轨迹点的运动状态和轨迹对应的外观特征进行准备;
步骤1331-a2,特征相似度计算;
对于每个需要进行匹配的更新后的轨迹特点,计算其与已有轨迹的最新的轨迹点之间的特征相似度,具体公式如下:
其中,d(fi,fj)表示特征相似度,fi表示已有轨迹的最新的轨迹点的特征向量;fj表示需要进行匹配的更新后的轨迹特点的特征向量;
步骤1331-a3,优先级排序:根据各已有轨迹之前的匹配质量,为各已有轨迹设置当前匹配所需的优先级;
步骤1331-a4,贪婪匹配:
从优先级最高的已有轨迹开始,逐一与当前需要匹配的更新后的轨迹特征点进行匹配,若二者之间的特征相似度大于或等于预设相似度阈值,则获得匹配成功的结果,若二者之间的特征相似度小于预设相似度阈值,则获得匹配失败的结果;
进一步的,将与当前优先级对应的已有轨迹匹配成功的更新后的轨迹特征点,确定为当前优先级对应的已有轨迹的目标轨迹特征点,应当知道的是,当前优先级对应的已有轨迹所对应的伺服机构与该已有轨迹匹配成功的而目标轨迹特征点所对应的目标伺服机构应为同一伺服机构,根据匹配处理,可以确定当前目标轨迹特征点所对应的目标伺服机构;
所述交并比匹配是基于空间重叠度量的匹配方法,主要用于对具有暂定的运动状态的更新后的轨迹特征点进行匹配;通过所述交并比匹配处理,获得匹配结果的具体过程如下:
步骤1331-b1,计算交并比:
对于每个需要进行匹配的更新后的轨迹特点,计算其边界框与已有轨迹的最新的轨迹点的边界框之间的交并比IOU,具体公式如下:
其中,IOU(B1,B2)表示交并比;B1表示已有轨迹的最新的轨迹点的边界框;和B2表示需要进行匹配的更新后的轨迹特点的边界框;
步骤1331-b2,匹配判断:
若交并比大于或等于预设交并比阈值,则获得匹配成功的结果,若交并比小于预设交并比阈值,则获得匹配失败的结果;进一步的,将与当前优先级对应的已有轨迹匹配成功的更新后的轨迹特征点,确定为当前优先级对应的已有轨迹的目标轨迹特征点,应当知道的是,当前优先级对应的已有轨迹所对应的伺服机构与该已有轨迹匹配成功的而目标轨迹特征点所对应的目标伺服机构应为同一伺服机构,根据匹配处理,可以确定当前目标轨迹特征点所对应的目标伺服机构;
进一步的,将所述数据关联模块输出的至少一个所述伺服机构对应的多个目标轨迹特征点输入到所述轨迹输出模块中进行拼接处理,获得并输出至少一个伺服机构在所述预设时段内进行摆动时对应的目标轨迹,所述目标轨迹中的每个目标特征点轨迹点对应的时间与当前伺服机构的多个灰度图像帧的时间是对应的;
在所述轨迹输出模块中,将所述目标轨迹特征点按照对应时间的先后顺序进行拼接处理,以获得目标伺服机构在所述预设时段内对应的目标轨迹,所述目标轨迹包括已有轨迹中的轨迹点以及与已有轨迹进行拼接的目标轨迹特征点;拼接处理的具体过程如下:
步骤1341,轨迹存储:
步骤13411,轨迹初始化:
当检测到伺服机构对应的目标轨迹特征点时,为当前伺服机构创建一个新的轨迹(这里,新的轨迹为已有轨迹),所述新的轨迹中包含当前伺服机构之前的运动状态信息中的角度信息、位置信息和速度信息;
步骤13412,轨迹更新:
在每个时间步内,也即是目标轨迹特征点之间的时间间隔,对创建的新的轨迹进行更新,也即是将确定的目标轨迹特征点按照对应时间点的先后顺序,拼接到已有轨迹上,这包括更新当前伺服机构的最新位置和其他相关运动状态信息,其中位置信息更新如下式:
xt=xt-1+vtΔt;其中,xt表示在时间点t时对应的伺服机构的位置信息,vt表示在时间点t时对应的伺服机构的速度,Δt为时间间隔;
步骤13413,运动状态存储:
在轨迹的整个生命周期内,持续存储伺服机构的运动状态信息,这通常涉及将每个时间步的运动状态信息添加到轨迹记录中;
步骤1342,轨迹输出:
步骤13421,运动状态估计输出:提供对每个伺服机构最新运动状态的估计;
步骤13422,轨迹绘制:
在伺服机构对应的图像帧上绘制轨迹,以在对应的摆动视频流数据中显示伺服机构的目标轨迹;
步骤13423,数据格式化和传输:
将对应伺服机构的目标轨迹对应的数据格式化为可用于分析的系统格式,并传输给需要这些数据的系统或接口;
步骤13424,目标轨迹输出:所述目标轨迹的输出格式表示如下: Trajectory={x1,x1,…,xt};其中,xt表示目标轨迹在不同时间步上的位置信息(也即是时间点t时对应的伺服机构的位置信息);
由于所述预设目标跟踪模型中不同模块对归一化处理后的图像帧的具体处理流程以及方法不同,且不同模块中所用的算法及模型时不一样的,所以对于所述预设目标跟踪模型中每个模块的训练也是不一样的;这里,每个模块的具体训练过程与其处理数据的过程是一致的。
如图2所示,本发明的一可选实施例中,所述预设目标跟踪模型还可以包括:目标检测模块;
所述目标检测模块与所述特征提取模块,可以同步对输入到所述预设目标跟踪模型中的多个归一化处理后的灰度图像帧进行处理,所述目标检测模块主要作用是从输入的归一化处理后的灰度图像帧中自动识别和定位感兴趣的目标伺服机构(当对应摆动视屏流数据中包含多个目标对象时,如助推级伺服机构和芯一级伺服机构通过一个摄像装置进行摆动视频采集时),所述目标检测模块的功能包括如下四点:
一、识别目标:通过应用深度学习算法或预设图像处理技术,识别归一化处理后的灰度图像帧中存在的目标对象,这些目标对象可以是发动机、伺服、喷管等任何其他预定义的类别;
二、定位目标:确定目标对象在归一化处理后的灰度图像帧中的具体位置;这里,通常通过提供边目标对象的界框(Bounding Box)来实现,边界框标出了目标对象在归一化处理后的灰度图像帧中的确切位置和大小;
三、提供类别信息:在多类别目标对象检测中,所述目标检测模块标识每个检测到的目标对象的类别,如将归一化处理后的灰度图像帧中的目标对象分类为“伺服”、“喷管”等;
四、计算置信度:对于每个检测到的目标对象,所述目标检测模块可以为每一个目标对象提供一个置信度分数,表明检测结果的可靠性;所述置信度分数是由所述目标检测模块内部的softmax函数计算得出,表示检测的目标对象的类别的概率值(目标对象的类别得分),以确保检测的所有目标对象的类别的概率之和为1;例如,如果一个目标对象被分为"喷管"的置信度分数为0.8,而其他类别的置信度分数较低,则该目标对象的类别得分可能为0.8。
本发明一可实现示例中,所述目标检测模块可以使用Faster R-CNN对归一化处理后的灰度图像帧中的伺服机构进行目标检测,具体流程步骤如下:
步骤21,区域建议:
可以通过RPN深度全卷积算法对归一化处理后的灰度图像帧进行处理,并生成区域建议,生成候选的目标伺服机构区域,对于目标伺服机构区域中的每个锚点,(这里的锚点是在归一化处理后的灰度图像帧中的固定位置生成目标伺服机构的矩形框,这些矩形框具有不同的尺寸和宽高比。这些尺寸和宽高比是在训练所述目标检测模块时预先定义的。锚点的目的是在输入归一化处理后的灰度图像帧中覆盖可能包含目标伺服机构的多种情况,使得所述目标检测模块可以对不同尺寸和形状的目标伺服机构进行检测),计算其对应的两个关键输出:
1、边界框回归调整(Δx,Δy,Δw,Δh):对于每个归一化处理后的灰度图像帧中的锚点,RPN深度全卷积算法预测一个边界框回归调整值,用来修正锚点的位置和尺寸,具体公式如下:
x=xa+Δx·wa
y=ya+Δy·ha
w= wa·exp(Δw);
h= ha·exp(Δh);
其中,(xa,ya,wa,ha)表示锚点的中心坐标(横坐标、纵坐标)和尺寸(宽度、高度),(x,y,w,h)是预测的边界框的中心坐标和尺寸;
2、对象得分:RPN 深度全卷积算法同时为每个归一化处理后的灰度图像帧中的锚点预测一个对象得分,表示该锚点包含目标伺服机构的概率;通过根据目标伺服机构的概率选择置信度较高的锚点,可以减少进一步处理的候选边界框数量,从而降低计算量;当目标伺服机构的概率高于概率阈值时,对应锚点的边界框确定为候选边界框;通过选择包含目标伺服机构的概率较高的锚点,可以提高生成的候选边界框的质量,从而增加目标检测模型的准确性,以便于过滤掉对检测目标伺服机构贡献较小的区域;对于包含目标伺服机构的概率较小的锚点,可以考虑将它们过滤掉,从而减少计算量;
步骤22,池化处理:
步骤221,定义输入区域:在输入归一化处理后的灰度图像帧上,根据步骤21中区域建议网络(RPN )确定候选区域。
步骤222,固定尺寸的输出:每个归一化处理后的灰度图像帧被分割为 H×W(高度×宽度)大小的网格,其中,H和 W是预先定义的固定尺寸;这里,可以依据归一化处理后的灰度图像帧的大小而确定分割网格的数量,例如112×92,其分割成56×46大小的网格,那么总共会有 2×2=4个网格;
步骤223,池化操作:在每个网格单元中,执行最大池化操作提取最重要的特征;
对于矩形区域[rx,ry,rw,rh](其中rx,ry是矩形左上角的坐标,rw,rh是宽度和高度)以及H×W 的池化层,池化操作的过程可以表示为:每个池化单元(i,j)的输出是由原始矩形区域中对应的子区域内的特征进行最大池化得到的,从而保证在每个网格单元中的所有特征中,只有最大的特征值被保留;其中,(i,j)表示池化层的输出中的一个元素的索引,其中 i 表示垂直方向上的索引(行数),j表示水平方向上的索引(列数);
步骤224,输出特征图:通过上述池化操作,每个池化层生成一个固定尺寸(H×W)的特征图,这里不用考虑池化层大小和比例如何;
步骤23,分类和边界框回归:
步骤231,分类:使用softmax函数计算每个目标伺服机构的对应的类别概率;对于类别c的概率pc的计算公式为:
其中,Zc是类别 c 对应的网络输出,K 是类别总数,Z0表示神经网络输出层中第 k个类别的原始分数(也可以称为 logit 或 pre-softmax 激活值);
步骤231,边界框回归:对于边界框回归,归一化处理后的灰度图像帧中预测目标伺服机构的锚点的四个预测值(tx,ty,tw,th),分别表示边界框中心的x和y坐标的偏移量以及宽度和高度的对数尺度变换,具体转换公式如下:
tx=(x-xa)/wa
ty=(y-ya)/ha
tw=log(w/wa);
th=log(h/ha);
其中,(x,y,w,h)是预测的边界框,( xa,ya,wa,ha)是原始的候选区域(锚点的原始边界框);
步骤24,非极大值抑制:从多个重叠的候选区域中选择最佳的一个,以减少重复检测并提高检测的准确性,具体步骤如下:
步骤241,候选检测:依据上述分类和边界框回归后的图像块生成一系列候选检测包,每个候选检测包含一个预测的边界框和一个置信度;
步骤242,排序:将候选检测包按照置信度从高到低排序;
步骤243,选择和抑制:选择置信度最高的候选检测包作为参考,移除所有与该候选检测包的重叠度(可以用交并比 IOU表示)超过预定阈值的其他候选检测包;
步骤244,重复:重复步骤242-243的过程,每次从剩余的候选检测包中选择置信度最高的一个,再移除与其高度重叠的其他候选检测包;
步骤245,最终检测:步骤242-244的过程持续进行,直到所有候选检测包都被考虑过,最终剩下的候选检测包就是经过非极大值抑制处理后的结果。
本发明的一可选实施例中,所述目标轨迹包括伺服机构在不同时间步上的位置信息,不同时间步上的位置信息均对应有在当前时间步上的速度信息;
上述步骤14,可以包括:
步骤141,根据所述目标轨迹中当前时间步对应的第二位置信息、与所述当前时间步相邻的前一时间步对应的第一位置信息,以及与所述第一位置信息对应的第一速度信息、与所述第二位置信息对应的第二速度信息,确定至少一个所述伺服机构在所述当前时间步对应的目标摆动角度。
该实施例中,根据相邻两个目标轨迹特征点中当前时间步对应的目标轨迹特征点的第二位置信息、与所述当前时间步相邻的前一时间步对应的目标轨迹特征点的第一位置信息,以及与所述第一位置信息对应的第一速度信息、与所述第二位置信息对应的第二速度信息,同时依据目标伺服机构中伺服喷管的位置信息与摆动角度、速度信息之间的关系式,可以计算出当前时间步对应的目标轨迹特征点的角度信息,即获得在当前时间步所述目标伺服机构对应的目标摆动角度;
这里,目标伺服机构中伺服喷管的位置信息与摆动角度、速度信息之间的关系式可以表示为:xt=xt-1+vt-1·t·cos(θt);其中,xt-1表示与所述当前时间步相邻的前一时间步对应的目标轨迹特征点的第一位置信息,xt表示当前时间步对应的目标轨迹特征点的第二位置信息,vt-1表示所述第一位置信息对应的第一速度信息,θt表示当前时间步对应的目标轨迹特征点的角度信息(在当前时间步所述目标伺服机构对应的目标摆动角度),t表示当前时间步;
进而可以通过以下公式,计算出目标伺服机构在当前时间步的目标摆动角度:
在本发明的一可选实施例中,在获得所述目标伺服机构对应的目标摆动角度之后,还可以包括:
步骤15,根据所述目标摆动角度,确定所述运载火箭的箭体姿态角;
这里,分别以不同目标伺服机构为例,对上述步骤15的具体过程进行说明;
如图3和图4所示(图中I、II、III、IV分别伺服机构中的伺服作动器所在的第一象限、第二象限、第三象限、第四象限),图3所示为助推级伺服机构、芯一级伺服机构的坐标轴定义;图4为芯二级伺服机构和芯三级伺服机构的坐标轴定义;伺服机构坐标定义根据伺服作动器摆放位置,由于伺服作动器摆放位置不一致,因此设置的坐标位置不一致;其中x坐标方向为伺服作动器A摆放位置,y坐标方向为伺服作动器B摆放位置;
步骤151,角度坐标转换
对于不同芯级伺服机构的箭体姿态角输出具体如下:
1、助推级伺服机构:
定义箭体姿态角:
θr=[γ、Ψ、φ] ,其中,γ表示箭体的滚转角、Ψ表示箭体的偏航角、φ表示箭体的俯仰角;
定义助推级伺服机构的摆动角度:
其中,、/>、/>、/>、/>、/>、/>、/>即为上述实施例中根据目标轨迹解算出的目标摆动角度,T表示装置,其为一个设定的列向量;
定义初始化转换矩阵:
则输出助推级伺服机构对应的箭体姿态角中的滚转角、偏航角、俯仰角分别为:
2、芯一级伺服机构:
定义芯一级伺服机构的摆动角度:
其中,、/>即为上述实施例中根据目标轨迹解算出的目标摆动角度;
则输出芯一级伺服机构对应的箭体姿态角中的偏航角、俯仰角分别为:
;/>
3、芯二级伺服机构:
定义芯二级伺服机构的摆动角度:
其中,、/>即为上述实施例中根据目标轨迹解算出的目标摆动角度;
则输出芯二级伺服机构对应的箭体姿态角中偏航角、俯仰角分别为:;/>
4、芯三级伺服机构:
定义芯三级伺服机构的摆动角度:
其中,、/>即为上述实施例中根据目标轨迹解算出的目标摆动角度;
则输出芯二级伺服机构对应的箭体姿态角中偏航角、俯仰角分别为:
;/>
步骤16,坐标转换后的箭体姿态角,通过光纤实时传递给运载火箭的上的飞控组合系统,以形成一个基于伺服机构的目标摆动角度进行运载火箭运行的闭环仿真控制;
如图5所示;在获取至少一个伺服机构对应的摆动视频流数据之前,半实物仿真系统通过IO发送开始指令给飞控组合系统,飞控组合系统向运载火箭各个伺服机构发送伺服控制指令;各伺服机构接收伺服控制指令并对相关伺服作动器进行摆动,此时助推级伺服机构、芯一级伺服机构、芯二级伺服机构和芯三级伺服机构的摄像装置将各级对应的摆动视频流数据通过以太网实时传递给伺服测量系统;
伺服测量系统通过对各级的摆动视频流数据进行处理,解算出对应伺服机构的目标摆动角度以及对应的位置信息和速度信息,同时将目标摆动角度以及对应的位置信息和速度信息通过光纤反馈至半实物仿真系统;
半实物仿真机接收到目标摆动角度以及对应的位置信息和速度信息后,通过六自由度模型解算箭体的姿态角信息,进一步的,再通过惯组模型计算惯组12个脉冲全量,同时将脉冲信息通过1553B总线传递给飞控组合系统,以构成了一个实时闭环的仿真控制系统;
在伺服测量系统中,通过引入深度学习算法,通过图像识别和跟踪目标的方式,提高对伺服机构摆动角度的测量精度,克服传统硬件设备可能存在的精度限制,减少对传统硬件设备的依赖,从而降低伺服监测方法的成本,使其更为经济实用;
通过引入深度学习算法,可以使伺服机构监测方法更具适应性,能够适应不同光照、视角和背景条件下的运载火箭发射环境,从而提高其在多样化任务中的适用性,同时针对特定的火箭类型和发射条件可以对算法进行优化和调整。
同时可以实现对运载火箭伺服喷管等关键部件的实时跟踪,确保在火箭发射过程中能够持续追踪其位置和状态,可以提高对火箭伺服机构摆动角度的实时监测能力。
如图6所示,本发明的一可选实施例还提供一种运载火箭伺服机构摆动角度的确定装置60,包括:
获取模块61,用于获取运载火箭在运行过程中至少一个伺服机构在预设时段内对应的摆动视频流数据;
处理模块62,用于对所述摆动视频流数据进行预处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个图像帧;将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,所述预设目标跟踪模型包括:特征提取模块、轨迹管理模块、数据关联模块以及轨迹输出模块;所述预设目标跟踪模型是基于深度学习算法对视频流数据进行训练得到的;根据所述目标轨迹,确定至少一个所述伺服机构对应的目标摆动角度。
可选的,所述处理模块62对所述摆动视频流数据进行预处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个图像帧,包括:
按照预设频率对所述摆动视频流数据进行采样处理,获得所述摆动视频流数据对应的多个样本图像帧;
对多个所述样本图像帧进行灰度化处理,获得多个所述样本图像帧对应的多个灰度图像帧;
对多个所述灰度图像帧进行归一化处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个归一化处理后的灰度图像帧。
可选的,将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,包括:
将至少一个所述伺服机构对应的多个图像帧输入到所述特征提取模块中进行处理,获得至少一个所述伺服机构在对应的多个图像帧中的多个轨迹特征点;
将至少一个所述伺服机构对应的多个轨迹特征点输入到所述轨迹管理模块中进行处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点;
将至少一个所述伺服机构对应的多个更新后的轨迹特征点输入到所述数据关联模块中进行处理,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个目标轨迹特征点;
将至少一个所述伺服机构对应多个所述目标轨迹特征点输入到所述轨迹输出模块中,获得至少一个所述伺服机构在所述预设时段内的所述目标轨迹。
可选的,将至少一个所述伺服机构对应的多个图像帧输入到所述特征提取模块中进行处理,获得至少一个所述伺服机构在对应的多个图像帧中的多个轨迹特征点,包括:
在所述特征提取模块中,对输入的多个所述图像帧依次进行多次卷积处理、残差连接处理、池化处理,获得至少一个所述伺服机构的多个所述轨迹特征点。
可选的,将至少一个所述伺服机构对应的多个轨迹特征点输入到所述轨迹管理模块中进行处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点,包括:
将至少一个所述伺服机构对应的多个所述轨迹特征点输入所述轨迹管理模块中,根据所述轨迹管理模块中的预设滤波器对多个所述轨迹特征点进行滤波处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点。
可选的,将至少一个所述伺服机构对应的多个更新后的轨迹特征点输入到所述数据关联模块中进行处理,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个目标轨迹特征点,包括:
在所述数据关联模块中,对至少一个伺服机构对应的多个所述更新后的轨迹特征点进行级联匹配或交并比匹配处理,获得匹配结果;
根据所述匹配结果,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个所述目标轨迹特征点。
可选的,所述目标轨迹包括伺服机构在不同时间步上的位置信息,不同时间步上的位置信息均对应有在当前时间步上的速度信息;
所述处理模块62根据所述目标轨迹,确定至少一个所述伺服机构对应的目标摆动角度,包括:
根据所述目标轨迹中当前时间步对应的第二位置信息、与所述当前时间步相邻的前一时间步对应的第一位置信息,以及与所述第一位置信息对应的第一速度信息、与所述第二位置信息对应的第二速度信息,确定至少一个所述伺服机构在所述当前时间步对应的目标摆动角度。
需要说明的是,该装置是与上述运载火箭伺服机构摆动角度的确定方法相对应的装置,上述方法实施例中的所有实现方式均适用于该装置的实施例中,也能达到相同的技术效果。
本发明的实施例还提供一种计算设备,包括:处理器、存储有计算机程序的存储器,所述计算机程序被处理器运行时,执行如上所述的方法。上述方法实施例中的所有实现方式均适用于该实施例中,也能达到相同的技术效果。
本发明的实施例还提供一种计算机可读存储介质,包括指令,当所述指令在计算机上运行时,使得计算机执行如上所述的方法。上述方法实施例中的所有实现方式均适用于该实施例中,也能达到相同的技术效果。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本发明所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
此外,需要指出的是,在本发明的装置和方法中,显然,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本发明的等效方案。并且,执行上述系列处理的步骤可以自然地按照说明的顺序按时间顺序执行,但是并不需要一定按照时间顺序执行,某些步骤可以并行或彼此独立地执行。对本领域的普通技术人员而言,能够理解本发明的方法和装置的全部或者任何步骤或者部件,可以在任何计算装置(包括处理器、存储介质等)或者计算装置的网络中,以硬件、固件、软件或者它们的组合加以实现,这是本领域普通技术人员在阅读了本发明的说明的情况下运用他们的基本编程技能就能实现的。
因此,本发明的目的还可以通过在任何计算装置上运行一个程序或者一组程序来实现。所述计算装置可以是公知的通用装置。因此,本发明的目的也可以仅仅通过提供包含实现所述方法或者装置的程序代码的程序产品来实现。也就是说,这样的程序产品也构成本发明,并且存储有这样的程序产品的存储介质也构成本发明。显然,所述存储介质可以是任何公知的存储介质或者将来所开发出来的任何存储介质。还需要指出的是,在本发明的装置和方法中,显然,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本发明的等效方案。并且,执行上述系列处理的步骤可以自然地按照说明的顺序按时间顺序执行,但是并不需要一定按照时间顺序执行。某些步骤可以并行或彼此独立地执行。
以上所述是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明所述原理的前提下,还可以作出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (9)

1.一种运载火箭伺服机构摆动角度的确定方法,其特征在于,包括:
获取运载火箭在运行过程中至少一个伺服机构在预设时段内对应的摆动视频流数据;
对所述摆动视频流数据进行预处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个图像帧;
将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,所述预设目标跟踪模型包括:特征提取模块、轨迹管理模块、数据关联模块以及轨迹输出模块;所述预设目标跟踪模型是基于深度学习算法对视频流数据进行训练得到的;
根据所述目标轨迹,确定至少一个所述伺服机构对应的目标摆动角度;
其中,将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,包括:
将至少一个所述伺服机构对应的多个图像帧输入到所述特征提取模块中进行处理,获得至少一个所述伺服机构在对应的多个图像帧中的多个轨迹特征点;
将至少一个所述伺服机构对应的多个轨迹特征点输入到所述轨迹管理模块中进行处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点;
将至少一个所述伺服机构对应的多个更新后的轨迹特征点输入到所述数据关联模块中进行处理,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个目标轨迹特征点;
将至少一个所述伺服机构对应多个所述目标轨迹特征点输入到所述轨迹输出模块中,获得至少一个所述伺服机构在所述预设时段内的所述目标轨迹。
2.根据权利要求1所述的运载火箭伺服机构摆动角度的确定方法,其特征在于,对所述摆动视频流数据进行预处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个图像帧,包括:
按照预设频率对所述摆动视频流数据进行采样处理,获得所述摆动视频流数据对应的多个样本图像帧;
对多个所述样本图像帧进行灰度化处理,获得多个所述样本图像帧对应的多个灰度图像帧;
对多个所述灰度图像帧进行归一化处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个归一化处理后的灰度图像帧。
3.根据权利要求1所述的运载火箭伺服机构摆动角度的确定方法,其特征在于,将至少一个所述伺服机构对应的多个图像帧输入到所述特征提取模块中进行处理,获得至少一个所述伺服机构在对应的多个图像帧中的多个轨迹特征点,包括:
在所述特征提取模块中,对输入的多个所述图像帧依次进行多次卷积处理、残差连接处理、池化处理,获得至少一个所述伺服机构的多个所述轨迹特征点。
4.根据权利要求1所述的运载火箭伺服机构摆动角度的确定方法,其特征在于,将至少一个所述伺服机构对应的多个轨迹特征点输入到所述轨迹管理模块中进行处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点,包括:
将至少一个所述伺服机构对应的多个所述轨迹特征点输入所述轨迹管理模块中,根据所述轨迹管理模块中的预设滤波器对多个所述轨迹特征点进行滤波处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点。
5.根据权利要求1所述的运载火箭伺服机构摆动角度的确定方法,其特征在于,将至少一个所述伺服机构对应的多个更新后的轨迹特征点输入到所述数据关联模块中进行处理,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个目标轨迹特征点,包括:
在所述数据关联模块中,对至少一个伺服机构对应的多个所述更新后的轨迹特征点进行级联匹配或交并比匹配处理,获得匹配结果;
根据所述匹配结果,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个所述目标轨迹特征点。
6.根据权利要求1所述的运载火箭伺服机构摆动角度的确定方法,其特征在于,所述目标轨迹包括伺服机构在不同时间步上的位置信息,不同时间步上的位置信息均对应有在当前时间步上的速度信息;
根据所述目标轨迹,确定至少一个所述伺服机构对应的目标摆动角度,包括:
根据所述目标轨迹中当前时间步对应的第二位置信息、与所述当前时间步相邻的前一时间步对应的第一位置信息,以及与所述第一位置信息对应的第一速度信息、与所述第二位置信息对应的第二速度信息,确定至少一个所述伺服机构在所述当前时间步对应的目标摆动角度。
7.一种运载火箭伺服机构摆动角度的确定装置,其特征在于,包括:
获取模块,用于获取运载火箭在运行过程中至少一个伺服机构在预设时段内对应的摆动视频流数据;
处理模块,用于对所述摆动视频流数据进行预处理,获得至少一个所述伺服机构在所述预设时段内进行摆动时的多个图像帧;将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,所述预设目标跟踪模型包括:特征提取模块、轨迹管理模块、数据关联模块以及轨迹输出模块;所述预设目标跟踪模型是基于深度学习算法对视频流数据进行训练得到的;根据所述目标轨迹,确定至少一个所述伺服机构对应的目标摆动角度;
其中,将至少一个所述伺服机构对应的多个所述图像帧输入预设目标跟踪模型中进行处理,获得至少一个所述伺服机构在所述预设时段内的目标轨迹,包括:
将至少一个所述伺服机构对应的多个图像帧输入到所述特征提取模块中进行处理,获得至少一个所述伺服机构在对应的多个图像帧中的多个轨迹特征点;
将至少一个所述伺服机构对应的多个轨迹特征点输入到所述轨迹管理模块中进行处理,获得至少一个所述伺服机构对应的多个更新后的轨迹特征点;
将至少一个所述伺服机构对应的多个更新后的轨迹特征点输入到所述数据关联模块中进行处理,确定至少一个所述伺服机构对应的多个所述更新后的轨迹特征点中的多个目标轨迹特征点;
将至少一个所述伺服机构对应多个所述目标轨迹特征点输入到所述轨迹输出模块中,获得至少一个所述伺服机构在所述预设时段内的所述目标轨迹。
8.一种计算设备,其特征在于,包括:处理器、存储有计算机程序的存储器,所述计算机程序被处理器运行时,执行如权利要求1至6任一项所述的方法。
9.一种计算机可读存储介质,其特征在于,包括指令,当所述指令在计算机上运行时,使得计算机执行如权利要求1至6任一项所述的方法。
CN202410070221.XA 2024-01-18 2024-01-18 一种运载火箭伺服机构摆动角度的确定方法、装置及设备 Active CN117593340B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202410070221.XA CN117593340B (zh) 2024-01-18 2024-01-18 一种运载火箭伺服机构摆动角度的确定方法、装置及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202410070221.XA CN117593340B (zh) 2024-01-18 2024-01-18 一种运载火箭伺服机构摆动角度的确定方法、装置及设备

Publications (2)

Publication Number Publication Date
CN117593340A CN117593340A (zh) 2024-02-23
CN117593340B true CN117593340B (zh) 2024-04-05

Family

ID=89915393

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202410070221.XA Active CN117593340B (zh) 2024-01-18 2024-01-18 一种运载火箭伺服机构摆动角度的确定方法、装置及设备

Country Status (1)

Country Link
CN (1) CN117593340B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109302591A (zh) * 2018-11-27 2019-02-01 嘉兴学院 一种基于视觉监控的伺服电机控制系统
CN111179311A (zh) * 2019-12-23 2020-05-19 全球能源互联网研究院有限公司 多目标跟踪方法、装置及电子设备
CN113409361A (zh) * 2021-08-12 2021-09-17 深圳市城市交通规划设计研究中心股份有限公司 一种多目标跟踪方法、装置、计算机及存储介质
CN114396345A (zh) * 2022-03-25 2022-04-26 星河动力(北京)空间科技有限公司 运载火箭推力矢量控制系统的刚度测量方法、装置、系统
CN115423846A (zh) * 2022-09-26 2022-12-02 青岛以萨数据技术有限公司 多目标轨迹跟踪方法以及装置
CN116382124A (zh) * 2023-05-29 2023-07-04 东方空间技术(山东)有限公司 一种运载火箭的姿态控制仿真方法和系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11820403B2 (en) * 2020-03-30 2023-11-21 Wipro Limited Method and system of determining trajectory for an autonomous vehicle
CN115147594A (zh) * 2022-07-06 2022-10-04 上海海事大学 一种基于船艏向识别的船舶图像轨迹跟踪与预测方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109302591A (zh) * 2018-11-27 2019-02-01 嘉兴学院 一种基于视觉监控的伺服电机控制系统
CN111179311A (zh) * 2019-12-23 2020-05-19 全球能源互联网研究院有限公司 多目标跟踪方法、装置及电子设备
CN113409361A (zh) * 2021-08-12 2021-09-17 深圳市城市交通规划设计研究中心股份有限公司 一种多目标跟踪方法、装置、计算机及存储介质
CN114396345A (zh) * 2022-03-25 2022-04-26 星河动力(北京)空间科技有限公司 运载火箭推力矢量控制系统的刚度测量方法、装置、系统
CN115423846A (zh) * 2022-09-26 2022-12-02 青岛以萨数据技术有限公司 多目标轨迹跟踪方法以及装置
CN116382124A (zh) * 2023-05-29 2023-07-04 东方空间技术(山东)有限公司 一种运载火箭的姿态控制仿真方法和系统

Also Published As

Publication number Publication date
CN117593340A (zh) 2024-02-23

Similar Documents

Publication Publication Date Title
CN111402336B (zh) 基于语义slam的动态环境相机位姿估计及语义地图构建方法
WO2020186678A1 (zh) 无人机三维地图构建方法、装置、计算机设备及存储介质
CN107491742B (zh) 一种长时稳定的无人机目标跟踪方法
CN112925223B (zh) 基于视觉传感网络的无人机三维跟踪虚拟测试仿真系统
CN107481292A (zh) 车载摄像头的姿态误差估计方法和装置
CN113610141B (zh) 自动驾驶多传感器融合感知模型的鲁棒性测试方法及系统
CN111739066B (zh) 一种基于高斯过程的视觉定位方法、系统及存储介质
Baldini et al. Learning pose estimation for UAV autonomous navigation and landing using visual-inertial sensor data
CN117036989A (zh) 基于计算机视觉的微型无人机目标识别与跟踪控制方法
CN112699536A (zh) 一种自适应目标船舶轨迹预测与锁定方法
Ferdaus et al. Online identification of a rotary wing unmanned aerial vehicle from data streams
CN112733971B (zh) 扫描设备的位姿确定方法、装置、设备及存储介质
CN117593340B (zh) 一种运载火箭伺服机构摆动角度的确定方法、装置及设备
Shukla et al. UBOL: User-Behavior-aware one-shot learning for safe autonomous driving
CN116009583A (zh) 基于纯粹视觉的分布式无人机协同运动控制方法和装置
Baldini et al. Learning pose estimation for uav autonomous navigation andlanding using visual-inertial sensor data
CN113781521B (zh) 一种基于改进YOLO-DeepSort的仿生机器鱼检测跟踪方法
CN115345281A (zh) 一种面向无人机图像导航的深度强化学习加速训练方法
CN112597959A (zh) 基于人工智能和计算机视觉的火车安全监控方法和装置
CN117130383B (zh) 无人机视觉跟踪方法、系统、无人机及可读存储介质
CN113639752B (zh) 一种无人机实时定位信号的传输控制方法
CN114428517B (zh) 一种无人机无人艇协同平台端对端自主降落控制方法
CN114613002B (zh) 基于光线投影原理的运动视角下动态物体检测方法及系统
CN114967715A (zh) 图像/电视制导飞行器上稳姿稳像的目标识别系统及方法
CN115830063A (zh) 一种低功耗无人机自主目标跟踪方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant