CN114419095A - 车机协同目标丢失跟踪方法、装置、设备及其存储介质 - Google Patents

车机协同目标丢失跟踪方法、装置、设备及其存储介质 Download PDF

Info

Publication number
CN114419095A
CN114419095A CN202111515854.XA CN202111515854A CN114419095A CN 114419095 A CN114419095 A CN 114419095A CN 202111515854 A CN202111515854 A CN 202111515854A CN 114419095 A CN114419095 A CN 114419095A
Authority
CN
China
Prior art keywords
tracking
target
vehicle
unmanned
unmanned aerial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111515854.XA
Other languages
English (en)
Inventor
徐坤
向耿召
李慧云
蔡宇翔
刘德梁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Institute of Advanced Technology of CAS
Original Assignee
Shenzhen Institute of Advanced Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Institute of Advanced Technology of CAS filed Critical Shenzhen Institute of Advanced Technology of CAS
Priority to CN202111515854.XA priority Critical patent/CN114419095A/zh
Publication of CN114419095A publication Critical patent/CN114419095A/zh
Priority to PCT/CN2022/138210 priority patent/WO2023109716A1/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00—Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404—Methods for optical code recognition
    • G06K7/1408—Methods for optical code recognition the method being specifically adapted for the type of code
    • G06K7/1417—2D bar codes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00—Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404—Methods for optical code recognition
    • G06K7/1439—Methods for optical code recognition including a method step for retrieval of the optical code
    • G06K7/1443—Methods for optical code recognition including a method step for retrieval of the optical code locating of the code in an image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Electromagnetism (AREA)
  • General Health & Medical Sciences (AREA)
  • Toxicology (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

本申请公开了一种车机协同目标丢失跟踪方法、装置、设备及其存储介质，该方法包括：通过识别需要跟踪的目标，将识别后的目标信息发送到无人机上控制系统上，同时启动无人机上的PID目标跟踪控制模块进行目标跟踪；当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态；当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态。本申请提供的上述方案，能有效解决无人车二维码被短暂的遮挡或者二维码不在摄像头拍摄空间范围内而造成的无人机跟丢目标的问题，通过结合二维码跟踪、轨迹预测跟踪、目标跟踪方法极大的提升车机协同系统。

Description

车机协同目标丢失跟踪方法、装置、设备及其存储介质
技术领域
本发明涉及车机协同技术领域，具体涉及一种车机协同目标丢失跟踪方法、装置、设备及其存储介质。
背景技术
近年来，车机协同领域成为一个研究热点。无人车和无人机在民用，反恐防爆，军事方面都有很重要的应用，无人机时常会被要求跟踪无人车去执行相应任务。在跟踪目标的过程中，可能会由于强风、路面不平坦等因素改变无人车或者无人机的运动状态，从而导致无人机在跟踪的过程中丢失了跟踪目标，这样就会大大降低工作效率。在跟踪算法的研究中，用什么方法如何能够让无人机在丢失跟踪目标后重新捕获到跟踪目标，这也是一个必须要考虑到而且必须解决的问题。
目前现有的专利CN106023257A提出了一种基于旋翼无人机平台的目标跟踪方法。该方法通过多尺度的样本采集并结合实时更新的分类器，有效实现了旋翼无人机平台对移动目标的快速准确地在线实时跟踪；在跟踪过程中，根据当前帧的最大分类器响应值以及其相比前一帧的最大分类器响应值的变化情况，并结合前一帧的跟踪性能判定结果，来判定当前帧的跟踪性能是否稳定，当跟踪性能不稳定时，及时对分类器的分类结果进行修正，可有效防止目标跟踪过程中由于遮挡而导致的跟踪目标丢失。
同时，现有的一种基于L1图半监督协同训练的目标跟踪算法，在前几帧利用跟踪结果收集表征目标的正样本和表征背景的负样本，分别提取样本的颜色和纹理特征构建两个充分冗余的视图。当新一帧到达时，以粒子滤波为模型随机采样候选区域作为未标记样本。再在两个视图上分别利用基于L1图的半监督学习算法训练分类器，计算未标记样本的相似度。然后，相互选择相似度最低的若干未标记样本作为新标记的负类样本更新分类器。最后，不同视图下的分类器独立计算未标记样本的相似度，并以其相似度熵为权值融合得到最终结果。现有的一种基于SBUS协议的远程控制模拟控制方法，针对无人地面车辆，设计了详细的控制方法。针对实时性能和遮挡问题，研究了一种基于比例标签识别的跟踪方案。该方案在没有遮挡的情况下跟踪标签目标。当遮挡发生时，该方案将跟踪标签周围的颜色特征。跟踪算法的精度和遮挡问题得到大大提高。最后，将该方案应用于异构系统。现有的一种基于SBUS协议的四转子控制方法，以保持无人机的原始稳定性。提出了一种带有机械轮的UGV及其控制方法。针对实时性能和遮挡的问题，提出了一种基于二维码(快速响应码)识别的跟踪方案。最后，将该方案应用于异构系统。现有的一种基于SBUS协议的远程控制模拟控制方法。针对无人地面车辆，设计了详细的控制方法。针对实时性能和遮挡问题，研究了一种基于比例标签识别的跟踪方案。该方案在没有遮挡的情况下跟踪标签目标。当遮挡发生时，该方案将跟踪标签周围的颜色特征。跟踪算法的精度和遮挡问题得到提高。最后，将该方案应用于异构系统。
然而，现有技术很多都是在优化跟踪算法的基础上从而希望能够降低丢失跟踪目标的概率，基本没有提出解决目标丢失的方法。同时，现有技术是针对于无人机跟踪的算法研究，没有将车机协同作为一个整体系统去考虑，而且使用单一的目标识别算法没有办法应对各种场景。例如，无人机的飞行高度不同时，目标识别算法的精度也不同，这就会导致在不同高度下不能够精准跟踪目标。
发明内容
鉴于现有技术中的上述缺陷或不足，期望提供一种车机协同目标丢失跟踪方法、装置、设备及其存储介质。
第一方面，本申请实施例提供了一种车机协同目标丢失跟踪方法，该方法包括：通过无人机上的目标识别模块识别需要跟踪的目标，将识别后的目标信息发送到无人机上控制系统上，同时启动无人机上的PID目标跟踪控制模块进行目标跟踪；当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态；当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态。
在其中一个实施例中，所述目标识别模块由二维码检测算法构成，包括artag、apritag、或者aruco二维码检测算法中的任意一种。
在其中一个实施例中，所述通过无人机上的目标识别模块识别需要跟踪的目标，包括：通过无人机上的鱼眼单目摄像头识别需要跟踪的目标无人车上的二维码图像，并输出二维码在相机坐标系下的位置和姿态。
在其中一个实施例中，所述当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态，包括：无人车上的模型预测无人车轨迹模块预测出无人车在预设时刻内的轨迹点坐标，并将轨迹点坐标发送给无人机上的预测轨迹跟踪控制模块；预测轨迹跟踪控制模块将轨迹点坐标转换成无人机机体坐标系下的轨迹，再通过PID控制方法逐一跟踪预测轨迹点，直至无人机找到二维码。
在其中一个实施例中，所述当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态，包括：通过无人车上的激光雷达判断无人车正上方是否有遮挡，如果有遮挡，则控制无人车向目标方向移动预设距离后至无遮挡区域并停在原地；提升无人机飞行高度并在空中以R为半径盘旋，通过无人机上的长焦摄像头识别图像，利用目标跟踪算法KCF、CSK、或者C-COT算法直接追踪无人车；当识别出无人车后无人机停止盘旋并通过PID控制将无人车移至图像中心，然后无人机降低高度至预设高度，当识别出无人车上的二维码后再次降低高度至预设高度，恢复正常跟踪程序，同时启动无人车开始执行任务。
第二方面，本申请实施例还提供了一种车机协同目标丢失跟踪装置，该装置包括：目标识别模块，用于识别需要跟踪的目标，将识别后的目标信息发送到无人机上控制系统上，同时启动无人机上的PID目标跟踪控制模块进行目标跟踪；跟踪模块，用于当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态；目标搜索模块，用于当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态。
第三方面，本申请实施例还提供了一种计算机设备，包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如本申请实施例描述中任一所述的方法。
第四方面，本申请实施例还提供了一种计算机设备一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序用于：所述计算机程序被处理器执行时实现如本申请实施例描述中任一所述的方法。
本发明的有益效果：
本发明提供的车机协同目标丢失跟踪方法，能有效解决无人车二维码被短暂的遮挡或者二维码不在摄像头拍摄空间范围内而造成的无人机跟丢目标的问题，通过结合二维码跟踪、轨迹预测跟踪、目标跟踪方法极大的提升车机协同系统，无人车跟踪无人机人物的鲁棒性。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：
图1示出了本申请实施例提供的车机协同目标丢失跟踪方法的流程示意图；
图2示出了根据本申请一个实施例的车机协同目标丢失跟踪装置200的示例性结构框图；
图3示出了适于用来实现本申请实施例的终端设备的计算机系统的结构示意图；
图4示出了本申请实施例提供的车机协同目标丢失跟踪方法又一流程示意图；
图5示出了本申请实施例提供的车辆运动学模型示意图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图对本发明的具体实施方式做详细的说明。在下面的描述中阐述了很多具体细节以便于充分理解本发明。但是本发明能够以很多不同于在此描述的其它方式来实施，本领域技术人员可以在不违背本发明内涵的情况下做类似改进，因此本发明不受下面公开的具体实施例的限制。
在本发明的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系，除非另有明确的限定。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中，除非另有明确的规定和限定，第一特征在第二特征“上”或“下”可以是第一和第二特征直接接触，或第一和第二特征通过中间媒介间接接触。而且，第一特征在第二特征“之上”、“上方”和“上面”可是第一特征在第二特征正上方或斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”可以是第一特征在第二特征正下方或斜下方，或仅仅表示第一特征水平高度小于第二特征。
需要说明的是，当元件被称为“固定于”或“设置于”另一个元件，它可以直接在另一个元件上或者也可以存在居中的元件。当一个元件被认为是“连接”另一个元件，它可以是直接连接到另一个元件或者可能同时存在居中元件。本文所使用的术语“垂直的”、“水平的”、“上”、“下”、“左”、“右”以及类似的表述只是为了说明的目的，并不表示是唯一的实施方式。
请参考图1并结合图4，图1示出了本申请实施例提供的车机协同目标丢失跟踪方法的流程示意图。
如图1所示，该方法包括：
步骤110，通过无人机上的目标识别模块识别需要跟踪的目标，将识别后的目标信息发送到无人机上控制系统上，同时启动无人机上的PID(比例(proportion)、积分(integral)、微分(derivative))目标跟踪控制模块进行目标跟踪；
步骤120，当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态；
步骤130，当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态。
本申请中的PID目标跟踪控制模块，跟踪高度为h0，无人机在机体坐标系下的当前位置、当前航向角、与期望位置、期望航向角，通过PID控制输出机体坐标系下无人机在x轴、y轴、z轴方向的速度、与航向角速度。
Δwt＝wexpect-wcurrent
It＝It-1+Δwt
It＝cliff(It,-c,+c),
Dt＝Δwt-Dt-1
Figure BDA0003406950500000081
wcurrent为当前位置或姿态，wexpect为期望位置或姿态，It为积分量，Dt为差分量，
Figure BDA0003406950500000082
为速度，cliff(It,-c,+c)为截断函数，将It截断在常量正负c之间。
采用上述技术方案，能有效解决无人车二维码被短暂的遮挡或者二维码不在摄像头拍摄空间范围内而造成的无人机跟丢目标的问题，通过结合二维码跟踪、轨迹预测跟踪、目标跟踪方法极大的提升车机协同系统，无人车跟踪无人机人物的鲁棒性。
在一些实施例中，本申请中的所述目标识别模块由二维码检测算法构成，包括artag、apritag、或者aruco二维码检测算法中的任意一种。
在一些实施例中，所述通过无人机上的目标识别模块识别需要跟踪的目标，包括：
通过无人机上的鱼眼单目摄像头识别需要跟踪的目标无人车上的二维码图像，并输出二维码在相机坐标系下的位置和姿态。
在一些实施例中，所述当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态，包括：
无人车上的模型预测无人车轨迹模块预测出无人车在预设时刻内的轨迹点坐标，并将轨迹点坐标发送给无人机上的预测轨迹跟踪控制模块；
预测轨迹跟踪控制模块将轨迹点坐标转换成无人机机体坐标系下的轨迹，再通过PID控制方法逐一跟踪预测轨迹点，直至无人机找到二维码。
进一步地，参考图5所示，以车辆运动学模型为例
Figure BDA0003406950500000091
无人车状态量
Figure BDA0003406950500000092
无人车控制量u＝[vr δf]，将无人车运动学模型
Figure BDA0003406950500000093
用前向欧拉离散化成ξK+1＝f(ξK,uk)，无人车控制量为u＝[vr ω]，
Figure BDA0003406950500000094
Figure BDA0003406950500000095
将N个步长的控制量输入离散无人车车数学模型，即可得到每个步长的无人车状态量。
预测轨迹跟踪控制模块在目标丢失后，无人机将爬升至高度h1(h1>h0)扩大摄像头视野范围，轨迹预测模块预测出的轨迹转换成无人机机体坐标系下的轨迹，再通过PID控制方法逐一跟踪预测轨迹点，当重新识别出二维码后即停止该模块，恢复高度h0，并开始正常跟踪二维码程序。
在一些实施例中，本申请中的所述当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态，包括：通过无人车上的激光雷达判断无人车正上方是否有遮挡，如果有遮挡，则控制无人车向目标方向移动预设距离后至无遮挡区域并停在原地；提升无人机飞行高度并在空中以R为半径盘旋，通过无人机上的长焦摄像头识别图像，利用目标跟踪算法KCF、CSK、或者C-COT算法直接追踪无人车；当识别出无人车后无人机停止盘旋并通过PID控制将无人车移至图像中心，然后无人机降低高度至预设高度，当识别出无人车上的二维码后再次降低高度至预设高度，恢复正常跟踪程序，同时启动无人车开始执行任务。
具体地，目标搜索模块在前述预测轨迹跟踪控制模块跟踪完N个预测轨迹点后，仍然处于目标丢失状态时启动，此时，首先通过车载竖直向上的激光雷达判断无人车正上方是否有遮挡，如果有遮挡，则控制无人车向目标方向移动一小段距离至无遮挡区域并停在原地。同时无人机再次垂直爬升至高度h2(h2>h1)，此时普通单目摄像头已经失焦，并在空中以R为半径盘旋，采用长焦摄像头识别图像，利用常用目标跟踪算法KCF、CSK、或者C-COT等算法直接追踪无人车，当识别出无人车后无人机停止盘旋并通过PID控制将无人车移至图像中心。然后无人机降低高度至h1，识别出二维码后再次降低高度至h0，恢复正常跟踪程序，同时启动无人车开始执行任务。
进一步地，参考图2，图2示出了根据本申请一个实施例的车机协同目标丢失跟踪装置200的示例性结构框图。
如图2所示，该装置包括：
目标识别模块210，用于识别需要跟踪的目标，将识别后的目标信息发送到无人机上控制系统上，同时启动无人机上的PID目标跟踪控制模块进行目标跟踪；
跟踪模块220，用于当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态；
目标搜索模块230，用于当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态。
应当理解，装置200中记载的诸单元或模块与参考图1描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作和特征同样适用于装置200及其中包含的单元，在此不再赘述。装置200可以预先实现在电子设备的浏览器或其他安全应用中，也可以通过下载等方式而加载到电子设备的浏览器或其安全应用中。装置200中的相应单元可以与电子设备中的单元相互配合以实现本申请实施例的方案。
下面参考图3，其示出了适于用来实现本申请实施例的终端设备或服务器的计算机系统300的结构示意图。
如图3所示，计算机系统300包括中央处理单元(CPU)301，其可以根据存储在只读存储器(ROM)302中的程序或者从存储部分308加载到随机访问存储器(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中，还存储有系统300操作所需的各种程序和数据。CPU 301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
以下部件连接至I/O接口305：包括键盘、鼠标等的输入部分306；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分307；包括硬盘等的存储部分308；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分309。通信部分309经由诸如因特网的网络执行通信处理。驱动器310也根据需要连接至I/O接口305。可拆卸介质311，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器310上，以便于从其上读出的计算机程序根据需要被安装入存储部分308。
特别地，根据本公开的实施例，上文参考图1-2描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种车机协同目标丢失跟踪方法，其包括有形地包含在机器可读介质上的计算机程序，所述计算机程序包含用于执行图1-2的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分309从网络上被下载和安装，和/或从可拆卸介质311被安装。
附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，前述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元或模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中，例如，可以描述为：一种处理器包括第一子区域生成单元、第二子区域生成单元以及显示区域生成单元。其中，这些单元或模块的名称在某种情况下并不构成对该单元或模块本身的限定，例如，显示区域生成单元还可以被描述为“用于根据第一子区域和第二子区域生成文本的显示区域的单元”。
作为另一方面，本申请还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中前述装置中所包含的计算机可读存储介质；也可以是单独存在，未装配入设备中的计算机可读存储介质。计算机可读存储介质存储有一个或者一个以上程序，前述程序被一个或者一个以上的处理器用来执行描述于本申请的应用于透明窗口信封的文本生成方法。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离前述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (10)

1.一种车机协同目标丢失跟踪方法，其特征在于，该方法包括：
通过无人机上的目标识别模块识别需要跟踪的目标，将识别后的目标信息发送到无人机上控制系统上，同时启动无人机上的PID目标跟踪控制模块进行目标跟踪；
当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态；
当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态。
2.根据权利要求1所述的车机协同目标丢失跟踪方法，其特征在于，所述目标识别模块由二维码检测算法构成，包括artag、apritag、或者aruco二维码检测算法中的任意一种。
3.根据权利要求1所述的车机协同目标丢失跟踪方法，其特征在于，所述通过无人机上的目标识别模块识别需要跟踪的目标，包括：
通过无人机上的鱼眼单目摄像头识别需要跟踪的目标无人车上的二维码图像，并输出二维码在相机坐标系下的位置和姿态。
4.根据权利要求1所述的车机协同目标丢失跟踪方法，其特征在于，所述当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态，包括：
无人车上的模型预测无人车轨迹模块预测出无人车在预设时刻内的轨迹点坐标，并将轨迹点坐标发送给无人机上的预测轨迹跟踪控制模块；
预测轨迹跟踪控制模块将轨迹点坐标转换成无人机机体坐标系下的轨迹，再通过PID控制方法逐一跟踪预测轨迹点，直至无人机找到二维码。
5.根据权利要求1所述的车机协同目标丢失跟踪方法，其特征在于，所述当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态，包括：
通过无人车上的激光雷达判断无人车正上方是否有遮挡，如果有遮挡，则控制无人车向目标方向移动预设距离后至无遮挡区域并停在原地；
提升无人机飞行高度并在空中以R为半径盘旋，通过无人机上的长焦摄像头识别图像，利用目标跟踪算法KCF、CSK、或者C-COT算法直接追踪无人车；
当识别出无人车后无人机停止盘旋并通过PID控制将无人车移至图像中心，然后无人机降低高度至预设高度，当识别出无人车上的二维码后再次降低高度至预设高度，恢复正常跟踪程序，同时启动无人车开始执行任务。
6.一种车机协同目标丢失跟踪装置，其特征在于，该装置包括：
目标识别模块，用于识别需要跟踪的目标，将识别后的目标信息发送到无人机上控制系统上，同时启动无人机上的PID目标跟踪控制模块进行目标跟踪；
跟踪模块，用于当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态；
目标搜索模块，用于当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态。
7.根据权利要求6所述的车机协同目标丢失跟踪装置，其特征在于，所述当无人机丢失跟踪目标后，通过跟踪预测无人车轨迹而恢复二维码跟踪状态，包括：
模型预测无人车轨迹模块，用于预测出无人车在预设时刻内的轨迹点坐标，并将轨迹点坐标发送给无人机上的预测轨迹跟踪控制模块；
预测轨迹跟踪控制模块，用于将轨迹点坐标转换成无人机机体坐标系下的轨迹，再通过PID控制方法逐一跟踪预测轨迹点，直至无人机找到二维码。
8.根据权利要求6所述的车机协同目标丢失跟踪装置，其特征在于，所述当跟踪完预测无人车轨迹仍然处于目标丢失状态时，则提升无人机的飞行高度并盘旋，通过目标跟踪算法搜索无人车而恢复二维码跟踪状态，包括：
判断模块，用于通过无人车上的激光雷达判断无人车正上方是否有遮挡，如果有遮挡，则控制无人车向目标方向移动预设距离后至无遮挡区域并停在原地；
图像识别模块，用于提升无人机飞行高度并在空中以R为半径盘旋，通过无人机上的长焦摄像头识别图像，利用目标跟踪算法KCF、CSK、或者C-COT算法直接追踪无人车；
当识别出无人车后无人机停止盘旋并通过PID控制将无人车移至图像中心，然后无人机降低高度至预设高度，当识别出无人车上的二维码后再次降低高度至预设高度，恢复正常跟踪程序，同时启动无人车开始执行任务。
9.一种计算机设备，包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-5中任一所述的方法。
10.一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序用于：
所述计算机程序被处理器执行时实现如权利要求1-5中任一所述的方法。
CN202111515854.XA 2021-12-13 2021-12-13 车机协同目标丢失跟踪方法、装置、设备及其存储介质 Pending CN114419095A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202111515854.XA CN114419095A (zh) 2021-12-13 2021-12-13 车机协同目标丢失跟踪方法、装置、设备及其存储介质
PCT/CN2022/138210 WO2023109716A1 (zh) 2021-12-13 2022-12-09 车机协同目标丢失跟踪方法、装置、设备及其存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111515854.XA CN114419095A (zh) 2021-12-13 2021-12-13 车机协同目标丢失跟踪方法、装置、设备及其存储介质

Publications (1)

Publication Number Publication Date
CN114419095A true CN114419095A (zh) 2022-04-29

Family

ID=81265971

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111515854.XA Pending CN114419095A (zh) 2021-12-13 2021-12-13 车机协同目标丢失跟踪方法、装置、设备及其存储介质

Country Status (2)

Country Link
CN (1) CN114419095A (zh)
WO (1) WO2023109716A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115963856A (zh) * 2023-01-03 2023-04-14 广东工业大学 一种四旋翼无人机快速目标跟踪方法
WO2023109716A1 (zh) * 2021-12-13 2023-06-22 深圳先进技术研究院 车机协同目标丢失跟踪方法、装置、设备及其存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110109482A (zh) * 2019-06-14 2019-08-09 上海应用技术大学 基于ssd神经网络的目标跟踪系统
CN111580551A (zh) * 2020-05-06 2020-08-25 杭州电子科技大学 一种基于视觉定位的导航系统与方法
CN111932588A (zh) * 2020-08-07 2020-11-13 浙江大学 一种基于深度学习的机载无人机多目标跟踪系统的跟踪方法
CN113311873A (zh) * 2021-05-07 2021-08-27 中国科学院沈阳自动化研究所 一种基于视觉的无人机伺服跟踪方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106447697B (zh) * 2016-10-09 2018-10-26 湖南穗富眼电子科技有限公司 一种基于动平台的特定动目标快速跟踪方法
CN211506262U (zh) * 2020-05-06 2020-09-15 杭州电子科技大学 一种基于视觉定位的导航系统
CN114419095A (zh) * 2021-12-13 2022-04-29 深圳先进技术研究院 车机协同目标丢失跟踪方法、装置、设备及其存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110109482A (zh) * 2019-06-14 2019-08-09 上海应用技术大学 基于ssd神经网络的目标跟踪系统
CN111580551A (zh) * 2020-05-06 2020-08-25 杭州电子科技大学 一种基于视觉定位的导航系统与方法
CN111932588A (zh) * 2020-08-07 2020-11-13 浙江大学 一种基于深度学习的机载无人机多目标跟踪系统的跟踪方法
CN113311873A (zh) * 2021-05-07 2021-08-27 中国科学院沈阳自动化研究所 一种基于视觉的无人机伺服跟踪方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023109716A1 (zh) * 2021-12-13 2023-06-22 深圳先进技术研究院 车机协同目标丢失跟踪方法、装置、设备及其存储介质
CN115963856A (zh) * 2023-01-03 2023-04-14 广东工业大学 一种四旋翼无人机快速目标跟踪方法
CN115963856B (zh) * 2023-01-03 2024-05-10 广东工业大学 一种四旋翼无人机快速目标跟踪方法

Also Published As

Publication number Publication date
WO2023109716A1 (zh) 2023-06-22

Similar Documents

Publication Publication Date Title
CN108230361B (zh) 用无人机探测器和追踪器融合来增强目标追踪方法及系统
WO2023109716A1 (zh) 车机协同目标丢失跟踪方法、装置、设备及其存储介质
CN111310631B (zh) 一种旋翼作业飞行机器人目标跟踪方法及系统
US10796206B2 (en) Method for integrating driving images acquired from vehicles performing cooperative driving and driving image integrating device using same
EP4058984A1 (en) Geometry-aware instance segmentation in stereo image capture processes
WO2019082301A1 (ja) 無人航空機制御システム、無人航空機制御方法、及びプログラム
CN111598952A (zh) 一种多尺度合作靶标设计与在线检测识别方法及系统
CN114581831B (zh) 基于图像和点云的无人机障碍物检测和避障方法及系统
CN115686052A (zh) 无人机避障路径规划方法、装置、计算机设备及存储介质
WO2022246352A1 (en) Automatic generation of vector map for vehicle navigation
CN112700498A (zh) 一种基于深度学习的风力发电机叶尖定位方法及系统
CN117036989A (zh) 基于计算机视觉的微型无人机目标识别与跟踪控制方法
CN109635649B (zh) 一种无人机侦察目标的高速检测方法及系统
CN112577481B (zh) 一种旋翼无人机地面目标定位方法
WO2023155903A1 (en) Systems and methods for generating road surface semantic segmentation map from sequence of point clouds
CN116185049A (zh) 基于视觉引导的无人直升机自主着舰方法
Fitzgerald et al. A vision based emergency forced landing system for an autonomous UAV
Rahmania et al. Exploration of the impact of kernel size for yolov5-based object detection on quadcopter
Gu et al. Accurate estimation of pedestrian orientation from on-board camera and inertial sensors
Xiao et al. Fast unstructured road detection and tracking from monocular video
CN113781524A (zh) 一种基于二维标签的目标追踪系统及方法
CN113206951A (zh) 一种基于扑翼飞行系统的实时电子稳像方法
CN114924585B (zh) 基于视觉的旋翼无人机在崎岖地表的安全降落方法及系统
Sunarya et al. The Detection of a Single Wet Rice Field Bund on Unmanned Aerial Vehicle Image Using a Convolutional Neural Network
CN117495898A (zh) 无人机目标识别追踪方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination