CN108765458B - 基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法 - Google Patents

基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法 Download PDF

Info

Publication number
CN108765458B
CN108765458B CN201810335715.0A CN201810335715A CN108765458B CN 108765458 B CN108765458 B CN 108765458B CN 201810335715 A CN201810335715 A CN 201810335715A CN 108765458 B CN108765458 B CN 108765458B
Authority
CN
China
Prior art keywords
target
sea
scale
frame
sky
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810335715.0A
Other languages
English (en)
Other versions
CN108765458A (zh
Inventor
李小毛
张云东
彭艳
谢少荣
罗均
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Shanghai for Science and Technology
Original Assignee
University of Shanghai for Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Shanghai for Science and Technology filed Critical University of Shanghai for Science and Technology
Priority to CN201810335715.0A priority Critical patent/CN108765458B/zh
Publication of CN108765458A publication Critical patent/CN108765458A/zh
Application granted granted Critical
Publication of CN108765458B publication Critical patent/CN108765458B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本发明针对水面无人艇海面目标跟踪中常见的海况等级高以及目标尺度变化大、分辨率低等难点问题,基于核相关滤波KCF算法,提出一种基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法。首先,在高海况场景下,通过海天线检测辅助实现目标搜索区域的自适应移位与缩放,缓解相关滤波的边界效应,以应对该场景下目标抖动剧烈问题;其次,为提高算法鲁棒性以应对目标尺度变化、分辨率低等问题,在目标预处理、特征选择以及尺度估计方面分别做了相应的优化处理。通过实验将本发明与近年来可以达到无人艇实时跟踪要求的几个相关滤波算法进行了对比,结果表面,本发明算法在海面目标跟踪方面具有较明显的优势,特别是在高海况场景下的目标跟踪。

Description

基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法
技术领域
本发明涉及一种基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法,属于计算机视觉目标跟踪领域。
背景技术
水面无人艇是一种集环境感知、任务规划、运动规划、行为执行等模块为一体的智能水面运载平台,可实现路径规划、自主导航避障、目标检测、识别及跟踪等功能,从而完成海洋水质检测,水下考古,海洋巡航,舰艇护航等一系列民事和军事任务。其中,环境感知模块通过搭载摄像头、激光雷达等传感设备,实现对无人艇周围三维环境信息的获取,是完成其他模块功能的先决条件。而视觉目标跟踪子模块,充分利用视频序列的时空上下文信息,可实时地为无人艇提供动态目标的位置以及尺度信息,是环境感知模块中极为重要的一部分。
视觉目标跟踪是计算机视觉领域中最具挑战性的任务之一,在视频监控和机器人等领域有着广泛的应用。给定第一帧中目标的初始状态,跟踪器的目的是在后续视频序列中预测目标的状态,相邻视频帧之间在目标局部区域进行检测(tracking by detection),避免了对每一帧图像的全局检测,从而确保检测准确性的同时有效地保证了算法的实时性。然而,针对视觉跟踪中的各种关键问题,如光照变化、遮挡、形变等,设计一个快速、鲁棒的跟踪器是非常困难的。近年来,基于相关滤波(correlation filter)的判别式跟踪方法因为实时性好、鲁棒性在目标跟踪领域得到广泛应用。
水面无人艇海上目标跟踪同样也存在上述视觉目标跟踪的难点问题,但对于海洋场景下通用的目标跟踪算法往往很难实现无人艇实时并且鲁棒的目标跟踪。其原因主要在于无人艇与目标受海况影响较大,高海况场景下目标抖动剧烈,目标往往会受海浪的影响发生剧烈抖动而脱离跟踪算法的搜索区域,基于检测的跟踪器无法捕捉到目标的特征,从而导致跟踪失败。其次,目标与无人艇之间的相对距离以及角度等变化导致的无人艇视角下的目标尺度变化较大也是常规目标跟踪算法难以适应海上目标跟踪的一个重要原因。
发明内容
本发明的目的在于提供一种基于海天线检测与相关滤波的海况水面无人艇海面目标尺度自适应跟踪方法,解决了无人艇在高海况场景下无法实现实时稳定的目标跟踪问题。该方法可适用于任何海天线检测算法和基于检测的目标跟踪(tracking bydetection)算法。
为保障无人艇在高海况场景下的实时且稳定地实现目标跟踪,本发明的构思是:
目标跟踪中的运动问题可以分为目标运动、相机运动和背景运动三个部分,绝大部分为仅有目标运动以及目标运动加相机运动的场景,而水面无人艇目标跟踪的运动问题则包括目标运动、相机(无人艇)运动和背景运动(海浪)三个部分。无人艇海面目标跟踪与其他跟踪问题的主要不同点在于,背景(海浪)运动对目标跟踪的影响。相关滤波跟踪算法的边界效应使得该类算法在高海况场景,即背景(海浪)运动导致目标抖动剧烈时,无法完成无人艇跟踪任务。本发明通过对目标、背景(海浪)、相机(无人艇)三者的运动关系的分析建模,降低背景(海浪)运动对跟踪算法的影响,解决海面目标跟踪中遇到的抖动剧烈(快速运动)问题。
通过海天线检测可对船载传感器受到海浪等影响而导致的动态运动进行配准,提高目标跟踪等算法的精度。针对水面无人艇海面目标跟踪场景,其中最能反映该场景特征的就是海天线。海天线的上下抖动与斜率变化也直接的反映了海况高低对无人艇目标跟踪的影响程度。因此,本发明结合海天线检测算法,在不破坏相关滤波岭回归分类器的闭合解形式而损失算法实时性的情况下,消除相关滤波的边界效应对海面目标跟踪算法的影响。
根据上述构思,本发明采用如下技术方案:
一种基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法,具体步骤如下:
S01,目标预处理:通过无人艇目标检测模块得到目标初始坐标与尺度信息,启用目标跟踪模块,对初始帧使用双阈值策略对目标进行预处理,保证算法计算速度的同时增加目标的特征信息;
S02,确定下一帧相关滤波器搜索区域:若该帧为视频序列第一帧,则执行S07,否则根据海天线检测算法实时检测的当前帧与下一帧海天线斜率实时调整搜索区域中心点坐标,搜索区域的大小为目标尺度的(1+Pn)倍,其中Pn为根据海天线斜率变化进行自适应缩放的缩放系数;
S03,搜索区域的特征提取:对搜索区域进行特征提取,利用方向梯度直方图(HOG)特征与颜色(CN)特征进行多特征融合提高跟踪算法鲁棒性;
S04,样本表示:对搜索区域特征进行循环移位,构建循环矩阵实现密集采样,利用余弦窗函数消除循环移位造成样本的边界效应,将高斯标签值赋予样本,目标在搜索区域中央的标签值为1,其余移位后的样本标签值为0到1之间;
S05,快速检测:利用S05训练得到的相关滤波器与通过S02至S04步骤提取得到的下一帧目标特征进行相关滤波,得到相关滤波响应图,响应图峰值点即为新一帧目标的位置。
S06,目标尺度估计:在S05预测的目标位置,利用一个单独的一维相关滤波器MOSSE对目标进行尺度估计。
S07,训练与更新分类器:利用上述检测到的结果,提取样本训练与更新岭回归分类器,返回S02对后续视频帧的目标进行跟踪。
与现有技术相比,本发明的突出特点是:
本发明通过海天线检测对目标跟踪算法的搜区域进行自适应地处理,包括搜索区域中心点的坐标变换以及搜索区域面积的自适应缩放,有效地避免了无人艇的目标跟踪算法在高海况情况下,由海浪引起的无人艇以及目标抖动剧烈而导致目标在搜索区域边缘或不在搜索区域内。该改进大大地提升了无人艇跟踪算法在高海况场景下的鲁棒性。在完成目标的位置预测后,增加目标的自适应尺度估计模块,当目标与无人艇相对距离或角度发生变化时,通过该尺度估计模块适时地对目标尺度进行更新,进一步提高无人艇跟踪算法的精度。
附图说明
图1是本发明的无人艇目标跟踪算法整体框架及流程示意图。
图2是本发明的无人艇在高海况海天线斜率变化小场景下搜索区域自适应示意图。
图3是本发明的无人艇在高海况海天线斜率变化小场景下搜索区域自适应示意图。
图4是本发明的无人艇目标跟踪算法多特征融合方法示意图。
图5是本发明的无人艇目标跟踪的尺度自适应模块原理示意图。
图6是本发明的无人艇目标跟踪算法在高海况、尺度变化场景下的实验结果图。
图7是本发明的无人艇目标跟踪算法在高海况、低分辨率场景下的实验结果图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面结合附图对本发明优选实施方式作进一步的详细描述。
如图1所示,一种基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法,包括以下步骤:
S01,目标预处理:
本实施例采用双阈值预处理策略,若第一帧目标分辨率大于阈值MAX,则将搜索区域面积按照一定的比例系数进行缩小;若第一帧目标分辨率小于阈值MIN,则将搜索区域面积按照一定的比例系数进行放大。尺度缩放比例系数SF(scale factor)为:
Figure BDA0001629189550000031
其中,S′表示相关滤波算法的搜索区域初始面积,MIN表示最小阈值,MAX表示最大阈值。因此预处理后搜索区域面积S为:
S=S′/SF (2)
通过对目标分辨率的预处理,虽然在目标较小时,相较于预处理前牺牲了一部分算法的处理速度,但可以获得更多的目标纹理特征,提升了无人艇目标跟踪鲁棒性的同时也不会影响到算法的实时性。
S02,确定下一帧相关滤波器搜索区域:
通过海天线检测可对船载传感器受到海浪等影响而导致的动态运动进行配准,提高目标跟踪算法的精度。针对水面无人艇海面目标跟踪场景,其中最能反映该场景特征的就是海天线。海天线的上下抖动与斜率变化也直接的反映了海况高低对无人艇目标跟踪的影响程度。因此,本发明结合海天线检测算法,在不破坏相关滤波岭回归分类器的闭合解形式而损失算法实时性的情况下,消除相关滤波的边界效应对海面目标跟踪算法的影响。本发明基于多尺度交叉模态线性特征的海天线检测算法进行海天线检测,得到海天线的斜率k与截距b。
1)搜索区域中心点坐标变换:
当相邻两帧之间海天线斜率kn与kn-1的差值小于阈值
Figure BDA0001629189550000041
Figure BDA0001629189550000042
时,则说明背景(海浪)运动对目标的水平方向运动影响较小,主要考虑背景(海浪)运动对目标竖直方向运动的影响,即无人艇视角中目标的上下抖动问题。因此只需根据前后两帧的海天线,对搜索区域的中心点进行坐标变换即可。如图2所示,其中,虚线为前一帧检测到的海天线,黑色线段为当前视频帧检测到的海天线;黑色矩形跟踪框为本发明算法跟踪效果。
首先,计算第n-1视频帧目标中心与该视频帧海天线竖直方向的距离dn-1
dn-1=yn-1-yn-1′=yn-1-(kn-1xn-1+bn-1) (3)
其中,第n-1视频帧海天线方程为y=kn-1x+bn-1,(xn-1,yn-1)为第n-1帧目标中心点坐标,(xn-1′,yn-1′)为与(xn-1,yn-1)同一竖直方向对应的第n-1帧海天线上点坐标。
在同一竖直方向上,计算第n-1帧目标中心点(xn-1,yn-1)在第n帧,对应的海天线上点的坐标(xn′,yn′):
Figure BDA0001629189550000043
其中,第n视频帧海天线方程为y=knx+bn
则消除背景(海浪)运动对目标跟踪的影响后,计算第n帧搜索区域中心点坐标(xn,yn):
Figure BDA0001629189550000051
当相邻两帧之间海天线斜率kn与kn-1的差值大于等于阈值
Figure BDA0001629189550000052
Figure BDA0001629189550000053
时,则说明背景(海浪)运动对目标的水平与竖直方向运动均有较大影响,如图3所示,因此同时考虑背景(海浪)运动在水平与竖直方向导致的目标移位。目标在水平方向受背景(海浪)运动的影响较容易量化,而水平方向则很难用某一具体指标来衡量,因此,本发明从搜索区域中心点坐标变换与自适应搜索区域面积两个方面来消除背景(海浪)运动对目标跟踪的影响。
首先,利用公式(3)计算第n-1视频帧目标中心与该视频帧海天线竖直方向的距离dn-1
其次,通过方程组(6)计算得到第n-1帧海天线与n帧海天线的交点坐标(x0,y0):
Figure BDA0001629189550000054
第n-1帧海天线上与目标中心点同一竖直方向坐标为(xn-1′,yn-1′),根据该点距离海天线交点(x0,y0)与第n帧目标中心在海天线上的竖直投影点距离海天线交点距离相等,求出第n帧目标中心在海天线上的竖直投影点坐标(xn′,yn′):
Figure BDA0001629189550000055
其中,(xn′,yn′)与(xn-1′,yn-1′)位于海天线交点(x0,y0)同一侧。
则消除背景(海浪)运动对目标跟踪的影响后,计算第n帧搜索区域中心点坐标(xn,yn):
Figure BDA0001629189550000056
2)搜索区域面积自适应缩放:
当前后两帧海天线斜率变化大时,仅仅通过搜索区域中心点变换很难抵消背景(海浪)运动对无人艇目标跟踪的影响,因此根据检测到的海天线斜率的变化情况,对搜索区域进行自适应缩放。为减小计算量保证算法的实时性,本发明采用区间式缩放策略,对海天线斜率变化大小处于同一区间内的视频帧采用相同的缩放尺度。
Figure BDA0001629189550000061
其中,Pn表示搜索区域面积相对于目标框面积的缩放系数,
Figure BDA0001629189550000062
Figure BDA0001629189550000063
为海天线斜率变化阈值。如果搜索区域过小则相关滤波的循环矩阵引起的边界效应对跟踪结果影响较大;而如果搜索区域过大,则样本的背景信息过多,样本的特征表征能力弱,分类器性能较差。因此,本发明根据海天线检测得到的海天线斜率的变化区间,在一定范围内自适应地调整缩放系数Pn的大小。
因此,第n帧搜索区域大小为:
(1+Pn)·wn·hn (10)
其中,wn和hn分别表示第n帧目标的宽与高的长度。
S03,搜索区域的特征提取:
特征适用性分析:对于无人艇海上目标跟踪来说,HOG特征对运动模糊和光照变化时鲁棒性较好,因此对于海面光照变化和反射的情况下算法鲁棒性高,但是对形变、尺度变化以及目标船只形状相似度高时鲁棒性较差,同时对于海上小目标特征表示能力弱;颜色特征CN对于目标的旋转、尺度变化和形变都具有很好的鲁棒性,但对光照变化较敏感。梯度特征HOG与颜色特征CN两者属性形成互补,因此本发明参考尺度自适应特征融合跟踪算法SAMF的特征融合策略,融合梯度特征HOG与颜色特征CN两种特征使跟踪算法能够很好的适应各种无人艇海面目标跟踪场景。对HOG特征与CN特征的多通道进行串联融合,融合过程如图4所示。
S04,样本表示:
与传统的基于检测的跟踪算法滑窗法采样或粒子滤波的方法不同,本发明基于的相关滤波跟踪算法中所有的训练样本是由目标区域并加入周边背景区域(padding)循环位移得到的。训练样本和检测样本都由循环移位后的循环矩阵构成的。以一维样本向量举例来说,基准样本特征向量表示为x=[x1,x2,...,xn],n为x的维数。通过置换矩阵对基准样本x进行循环移位操作,移位后循环矩阵每一行可以表示为{Pux|u=0,1,...n-1},其中置换矩阵P:
Figure BDA0001629189550000071
则循环矩阵X=C(x),即:
Figure BDA0001629189550000072
首先利用循环移位实现了训练和检测样本的密集采样,然后利用循环矩阵傅立叶变换后可对角化的性质,经过离散傅立叶变换转换为对角矩阵:
Figure BDA0001629189550000073
其中,
Figure BDA0001629189550000074
为x的离散傅里叶变换
Figure BDA0001629189550000075
F是离散傅里叶矩阵,n为x的维数,H表示矩阵的共轭转置。
S05,快速检测:
跟踪过程中通过回归参数学习后,存储了学习参数α和训练样本循环矩阵X。检测的任务根据提取的检测样本循环矩阵Z,检测并计算公式(14)匹配响应最大的位置,从而实现目标位置跟踪。
对于新一帧的输入图像快z,分类器的响应值为:
Figure BDA0001629189550000076
其中,f(z)为对应于各个循环移位i的分类器响应值矩阵,w为分类器模型参数,而α为分类器在对偶空间的模型参数,k(z,xi)为核函数。
记Kz是由训练样本和检测样本构成的核矩阵。由于训练样本和检测样本是循环矩阵,因此利用酋不变核函数定理,可以得到Kz为循环矩阵。
Kz=C(kxz) (15)
其中,kxz为核矩阵Kz=C(kxz)的第一行元素。
结合公式(14)和(15),可以计算得到所有循环移位后的样本图像块的相关性响应值:
f(z)=(Kz)Tα (16)
其中,f(z)是由响应值组成的矩阵,即所有循环移位样本检测结果的置信度。
同样地,为了提升算法的效率,利用Kz是循环矩阵的特性,对公式(16)进行离散傅立叶变换得到:
Figure BDA0001629189550000081
S06,目标尺度估计:
目标位置估计模块完成目标位置预测后,本发明在该位置利用一个单独的一维相关滤波器MOSSE对目标进行尺度估计。在新的一帧图片中,首先,利用二维位置相关滤波器对搜索区域进行滤波,确定目标的位置坐标;其次,以位置滤波器预测的位置为中心点进行目标的多尺度采样,构建目标的多尺度金字塔,得到不同尺度的候选块(patch),并进行HOG特征提取;然后,利用这些候选块的特征描述子训练分类器,通过在线性空间的求解,得到一维的尺度相关滤波器;最后,通过相关滤波的最大输出响应确定目标的最佳尺度。
假设当前帧的目标尺度为w*h,以当前帧位置滤波器预测的坐标为中心,进行多尺度采样,其尺寸选择原则为:
Figure BDA0001629189550000082
其中,a为尺度因子,S为尺度采样的数量。上述尺度不是线性关系,而是由精到粗的检测过程。
对尺度空间每个尺度缩放到固定的尺度,分别提取每个尺度的特征描述子(HOG特征),并表示为特征向量ft(S),g是高斯函数构造的输出响应大小为1*S,中间值最大,向两端依次减小。如图5所示:
考虑输入信号ft(S)具有d维特征描述,为了构造最佳的相关滤波器h,可以通过最小化以下代价函数得到:
Figure BDA0001629189550000083
其中,上标l表示特征的某一维度,λ为正则项系数。上式可在频域中求解得到式(20),其中λ可以处理ft(S)中零频分量的影响,避免式(20)中出现分母为零的情况:
Figure BDA0001629189550000091
其中,H、G与F为h、g与f在频域中的表示方式,
Figure BDA0001629189550000092
为G的共轭,并将分子分母分别表示成
Figure BDA0001629189550000093
与Bt的形式。
在新的一帧中,目标位置可以通过求解最大相关滤波器响应y来确定:
Figure BDA0001629189550000094
其中F-1为傅立叶反变换。
为了得到鲁棒的近似结果,对尺度滤波器Hl中分子和分母分别进行更新:
Figure BDA0001629189550000095
其中,η为尺度滤波器学习率。
S07,训练与更新分类器:
1)岭回归模型:
相关滤波KCF算法,以目标为中心,选取目标尺度(1+Pn)倍的矩形区域来提取图像特征,并作循环移位赋予相应的标签来训练岭回归分类器。岭回归分类器的目标就是寻找一个函数f(x)=wTx,使得训练样本的损失函数最小,即:
Figure BDA0001629189550000096
其中,w为模型所求参数,x=(x1,x2,...,xn)表示训练样本,yi为第i个样本的标签值,λ为正则项系数,防止最小二乘模型发生过拟合。回归参数可求得闭合解析解:
w=(XTX+λI)-1XT y (24)
复数域的闭合解析解为:
w=(XHX+λI)-1XH y (25)
其中,矩阵X为训练样本循环移位组成的循环矩阵,XH为矩阵X的共轭转置,I为单位矩阵,向量y为训练样本循环移位后被赋予的标签值集合。
由Representer定理可得到公式(25)通过训练样本线性组合形式的最优解:
Figure BDA0001629189550000101
其中,
Figure BDA0001629189550000102
为训练样本映射到高维空间的特征表示。利用核函数
Figure BDA0001629189550000103
将原特征从低维空间转换为高维特征,以提高判别能力。
此时损失函数J(w)在基本空间(prime space)关于参数w极小化问题转换为对偶空间关于参数α极小化问题。α也存在闭合解析解:
α=(K+λI)-1y (27)
其中K是核矩阵,Ki,j=k(xi,xj)。
当核函数k为酋不变核函数时,核矩阵K为循环矩阵。多项式核函数与高斯核函数均为酋不变核函数,本发明使用高斯核函数。利用核矩阵K是循环矩阵的特性避免矩阵求逆运算,将公式(27)进行傅立叶变换加快算法计算速度:
Figure BDA0001629189550000104
其中,kxx为核矩阵K=C(kxx)的第一行元素。
图6是本发明的无人艇目标跟踪算法在高海况、尺度变化场景下的实验结果图。如图6所示,“精海3号”水面无人艇在高海况尺度变化场景下的视频序列,共344帧。我们随机选取了本发明在该场景视频序列的6帧数据(10帧、50帧、100帧、150帧、200帧和217帧)实验结果图。可以发现,本发明无人艇目标跟踪算法通过对相关滤波搜索区域中心点的自适应处理,能够很好的完成高海况场景下的常规跟踪任务,并且通过自适应的尺度估计,实现了较为精准且鲁棒的跟踪。
图7是本发明的无人艇目标跟踪算法在高海况、低分辨率场景下的实验结果图。同样是高海况场景,图7为“精海1号”水面无人艇在阴雨天自主航行的场景,视频序列共1983帧,该场景目标抖动剧烈,分辨率低,目标特征表示能力弱,且存在较强的海面光照反射影响。与图6场景相比,对于跟踪算法则更具有挑战性。我们随机选取了本发明在该场景视频序列的6帧数据(10帧、550帧、660帧、1120帧、1500帧和1983帧)实验结果图。通过对该数据集实验结果分析对比,我们可以发现该场景下,本发明无人艇目标跟踪算法能够较好的实现该挑战性的场景下的无人艇跟踪任务。

Claims (7)

1.一种基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法,其特征在于,包括以下步骤:
S01,目标预处理:
通过无人艇目标检测模块得到目标初始坐标与尺度信息,启用目标跟踪模块,对初始帧使用双阈值策略对目标进行预处理,保证算法计算速度的同时增加目标的特征信息;
S02,确定下一帧相关滤波器搜索区域:
若该帧为视频序列第一帧,则执行S07;
否则根据海天线检测算法实时检测的当前帧与下一帧的海天线斜率,实时调整搜索区域中心点坐标,搜索区域的面积为目标尺度的(1+Pn)倍,其中Pn为根据海天线斜率变化进行自适应缩放的缩放系数;
S03,搜索区域的特征提取:
对搜索区域进行特征提取,利用方向梯度直方图特征与颜色特征进行多特征融合提高跟踪算法鲁棒性;
S04,样本表示:
对搜索区域特征进行循环移位,构建循环矩阵实现密集采样,利用余弦窗函数消除循环移位造成样本的边界效应,将高斯标签值赋予样本,目标在搜索区域中央的标签值为1,其余移位后的样本标签值为0到1之间;
S05,快速检测:
通过S02至S04步骤提取得到的下一帧目标特征,进行相关滤波,得到相关滤波响应图,响应图峰值点即为新一帧目标的位置;
S06,目标尺度估计:
在S05预测的目标位置,利用一个单独的一维相关滤波器MOSSE,训练分类器,得到一维的尺度相关滤波器,对目标进行尺度估计;
然后返回到S05,利用S06训练得到的尺度相关滤波器与通过S02至S04步骤提取得到的下一帧目标特征;进行相关滤波,得到相关滤波响应图,响应图峰值点即为新一帧目标的位置;
S07,训练与更新分类器:
利用上述检测到的结果,提取样本训练与更新岭回归分类器,返回S02对后续视频帧的目标进行跟踪;
所述S02中基于多尺度交叉模态线性特征的海天线检测算法进行海天线检测,得到海天线直线方程,并根据海天线斜率变化对无人艇相关滤波目标跟踪算法的搜索区域中心点进行坐标变换以及搜索区域面积的自适应缩放,具体为:
1)搜索区域中心点坐标变换:
当相邻两帧之间海天线斜率kn与kn-1的差值小于阈值
Figure FDA0003550540630000021
Figure FDA0003550540630000022
时,则说明背景即海浪运动对目标的水平方向运动影响较小,主要考虑海浪运动对目标竖直方向运动的影响,即无人艇视角中目标的上下抖动问题;因此只需根据前后两帧的海天线,对搜索区域的中心点进行坐标变换;
首先,计算第n-1视频帧目标中心与该视频帧海天线竖直方向的距离dn-1
dn-1=yn-1-yn-1′=yn-1-(kn-1xn-1+bn-1) (3)
其中,第n-1视频帧海天线方程为y=kn-1x+bn-1,(xn-1,yn-1)为第n-1帧目标中心点坐标,(xn-1′,yn-1′)为与(xn-1,yn-1)同一竖直方向对应的第n-1帧海天线上点坐标;
在同一竖直方向上,计算第n-1帧目标中心点(xn-1,yn-1)在第n帧,对应的海天线上点的坐标(xn′,yn′):
Figure FDA0003550540630000023
其中,第n视频帧海天线方程为y=knx+bn
则消除背景(海浪)运动对目标跟踪的影响后,计算第n帧搜索区域中心点坐标(xn,yn):
Figure FDA0003550540630000024
当相邻两帧之间海天线斜率kn与kn-1的差值大于等于阈值
Figure FDA0003550540630000025
Figure FDA0003550540630000026
时,则说明海浪运动对目标的水平与竖直方向运动均有较大影响,因此同时考虑海浪运动在水平与竖直方向导致的目标移位;目标在竖直方向受海浪运动的影响较容易量化,而水平方向则很难用某一具体指标来衡量,因此,从搜索区域中心点坐标变换与自适应搜索区域面积两个方面来消除海浪运动对目标跟踪的影响;
首先,利用公式(3)计算第n-1视频帧目标中心与该视频帧海天线竖直方向的距离dn-1
其次,通过方程组(6)计算得到第n-1帧海天线与n帧海天线的交点坐标(x0,y0):
Figure FDA0003550540630000031
第n-1帧海天线上与目标中心点同一竖直方向坐标为(xn-1′,yn-1′),根据该点距离海天线交点(x0,y0)与第n帧目标中心在海天线上的竖直投影点距离海天线交点距离相等,求出第n帧目标中心在海天线上的竖直投影点坐标(xn′,yn′):
Figure FDA0003550540630000032
其中,(xn′,yn′)与(xn-1′,yn-1′)位于海天线交点(x0,y0)同一侧;
则消除海浪运动对目标跟踪的影响后,计算第n帧搜索区域中心点坐标(xn,yn):
Figure FDA0003550540630000033
2)搜索区域面积自适应缩放:
当前后两帧海天线斜率变化大时,仅仅通过搜索区域中心点变换很难抵消海浪运动对无人艇目标跟踪的影响,因此根据检测到的海天线斜率的变化情况,对搜索区域进行自适应缩放;为减小计算量保证算法的实时性,采用区间式缩放策略,对海天线斜率变化大小处于同一区间内的视频帧采用相同的缩放尺度;
Figure FDA0003550540630000034
其中,Pn表示搜索区域面积相对于目标框面积的缩放系数,
Figure FDA0003550540630000035
Figure FDA0003550540630000036
为海天线斜率变化阈值;如果搜索区域过小则相关滤波的循环矩阵引起的边界效应对跟踪结果影响较大;而如果搜索区域过大,则样本的背景信息过多,样本的特征表征能力弱,分类器性能较差;根据海天线检测得到的海天线斜率的变化区间,在一定范围内自适应地调整缩放系数Pn的大小;
因此,第n帧搜索区域大小为:
(1+Pn)·wn·hn (10)
其中,wn和hn分别表示第n帧目标的宽与高的长度。
2.根据权利要求1所述的基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法,其特征在于,所述S01中目标预处理具体为:
采用双阈值预处理策略,若第一帧目标分辨率大于阈值MAX,则将搜索区域面积按照一定的比例系数进行缩小;若第一帧目标分辨率小于阈值MIN,则将搜索区域面积按照一定的比例系数进行放大;尺度缩放比例系数SF为:
Figure FDA0003550540630000041
其中,S′表示相关滤波算法的搜索区域初始面积,MIN表示最小阈值,MAX表示最大阈值;因此预处理后搜索区域面积S为:
S=S′/SF (2)
通过对目标分辨率的预处理,虽然在目标较小时,相较于预处理前牺牲了一部分算法的处理速度,但能够获得更多的目标纹理特征,提升了无人艇目标跟踪鲁棒性的同时也不会影响到算法的实时性。
3.根据权利要求1所述的基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法,其特征在于,所述S03中的搜索区域的特征提取具体为:
特征适用性分析:对于无人艇海上目标跟踪来说,方向梯度直方图特征对运动模糊和光照变化时鲁棒性较好,因此对于海面光照变化和反射的情况下算法鲁棒性高,但是对形变、尺度变化以及目标船只形状相似度高时鲁棒性较差,同时对于海上小目标特征表示能力弱;颜色特征对于目标的旋转、尺度变化和形变都具有很好的鲁棒性,但对光照变化较敏感;方向梯度直方图特征与颜色特征两者属性形成互补,因此采用类似SAMF算法的特征融合策略,融合方向梯度直方图特征与颜色特征两种特征使跟踪算法能够很好的适应各种无人艇海面目标跟踪场景。
4.根据权利要求1所述的基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法,其特征在于,所述S04中的样本表示具体为:所有的训练样本是由目标区域并加入周边背景区域循环位移得到的,训练样本和检测样本都由循环移位后的循环矩阵构成的,以一维样本向量举例来说,基准样本特征向量表示为x=[x1,x2,...,xn],n为x的维数;通过置换矩阵对基准样本x进行循环移位操作,移位后循环矩阵每一行表示为{Pux|u=0,1,…n-1},其中置换矩阵P:
Figure FDA0003550540630000051
则循环矩阵X=C(x),即:
Figure FDA0003550540630000052
首先利用循环移位实现了训练样本和检测的密集采样,然后利用循环矩阵傅立叶变换后可对角化的性质,经过离散傅立叶变换变换为对角矩阵:
Figure FDA0003550540630000053
其中,
Figure FDA0003550540630000054
为x的离散傅里叶变换
Figure FDA0003550540630000055
F是离散傅里叶矩阵,n为x的维数,H表示矩阵的共轭转置。
5.根据权利要求1所述的基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法,其特征在于,所述S05中的快速检测具体为:
跟踪过程中通过回归参数学习后,存储了学习参数α和训练样本循环矩阵X;检测的任务根据提取的检测样本循环矩阵Z,检测并计算公式(14)匹配响应最大的位置,从而实现目标位置跟踪;
对于新一帧的输入图像快z,分类器的响应值为:
Figure FDA0003550540630000056
其中,f(z)为对应于各个循环移位i的分类器响应值矩阵,w为分类器模型参数,而α为分类器在对偶空间的模型参数,k(z,xi)为核函数;
记Kz是由训练样本和检测样本构成的核矩阵;由于训练样本和检测样本是循环矩阵,因此利用酋不变核函数定理,得到Kz为循环矩阵;
Kz=C(kxz) (15)
其中,kxz为核矩阵Kz=C(kxz)的第一行元素;
结合公式(14)和(15),计算得到所有循环移位后的样本图像块的相关性响应值:
f(z)=(Kz)Tα (16)
其中,f(z)是由响应值组成的矩阵,即所有循环移位样本检测结果的置信度;
同样地,为了提升算法的效率,利用Kz是循环矩阵的特性,对公式(16)进行离散傅立叶变换得到:
Figure FDA0003550540630000061
6.根据权利要求1所述的基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法,其特征在于,所述S06中的目标尺度估计具体为:
目标位置估计模块完成目标位置预测后,在该位置利用一个单独的一维相关滤波器MOSSE对目标进行尺度估计;在新的一帧图片中,首先,利用二维位置相关滤波器对搜索区域进行滤波,确定目标的位置坐标;其次,以位置滤波器预测的位置为中心点进行目标的多尺度采样,构建目标的多尺度金字塔,得到不同尺度的候选块,并进行方向梯度直方图特征提取;然后,利用这些候选块的特征描述子训练分类器,通过在线性空间的求解,得到一维的尺度相关滤波器;最后,通过相关滤波的最大输出响应确定目标的最佳尺度;
假设当前帧的目标尺度为w*h,以当前帧位置滤波器预测的坐标为中心,进行多尺度采样,其尺寸选择原则为:
Figure FDA0003550540630000062
其中,a为尺度因子,S为尺度采样的数量;上述尺度不是线性关系,而是由精到粗的检测过程;
对尺度空间每个尺度缩放到固定的尺度,分别提取每个尺度的特征描述子,即方向梯度直方图特征,并表示为特征向量ft(S),g是高斯函数构造的输出响应大小为1*S,中间值最大,向两端依次减小;
考虑输入信号ft(S)具有d维特征描述,为了构造最佳的相关滤波器h,通过最小化以下代价函数得到:
Figure FDA0003550540630000063
其中,上标l表示特征的某一维度,λ为正则项系数;上式在频域中求解得到式(20),其中λ能够处理ft(S)中零频分量的影响,避免式(20)中出现分母为零的情况:
Figure FDA0003550540630000071
其中,H、G与F为h、g与f在频域中的表示方式,
Figure FDA0003550540630000072
为G的共轭,并将分子分母分别表示成
Figure FDA0003550540630000073
与Bt的形式;
在新的一帧中,目标位置通过求解最大相关滤波器响应y来确定:
Figure FDA0003550540630000074
其中F-1为傅立叶反变换;
为了得到鲁棒的近似结果,对尺度滤波器Hl中分子和分母分别进行更新:
Figure FDA0003550540630000075
其中,η为尺度滤波器学习率。
7.根据权利要求1所述的基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法,其特征在于,所述S07中的训练与更新分类器具体为:
相关滤波KCF算法,以目标为中心,选取目标尺度(1+Pn)倍的矩形区域来提取图像特征,并作循环移位赋予相应的标签来训练岭回归分类器;岭回归分类器的目标就是寻找一个函数f(x)=wTx,使得训练样本的损失函数最小,即:
Figure FDA0003550540630000076
其中,w为模型所求参数,x=(x1,x2,...,xn)表示训练样本,yi为第i个样本的标签值,λ为正则项系数,防止最小二乘模型发生过拟合;回归参数求得闭合解析解:
w=(XTX+λI)-1XTy (24)
复数域的闭合解析解为:
w=(XHX+λI)-1XHy (25)
其中,矩阵X为训练样本循环移位组成的循环矩阵,XH为矩阵X的共轭转置,I为单位矩阵,向量y为训练样本循环移位后被赋予的标签值集合;
由Representer定理得到公式(25)通过训练样本线性组合形式的最优解:
Figure FDA0003550540630000081
其中,
Figure FDA0003550540630000082
为训练样本映射到高维空间的特征表示;利用核函数
Figure FDA0003550540630000083
将原特征从低维空间转换为高维特征,以提高判别能力;
此时损失函数J(w)在基本空间关于参数w极小化问题转换为对偶空间关于参数α极小化问题;α也存在闭合解析解:
α=(K+λI)-1y (27)
其中K是核矩阵,Ki,j=k(xi,xj);
当核函数k为酋不变核函数时,核矩阵K为循环矩阵;多项式核函数与高斯核函数均为酋不变核函数,使用高斯核函数;利用核矩阵K是循环矩阵的特性避免矩阵求逆运算,将公式(27)进行傅立叶变换加快算法计算速度:
Figure FDA0003550540630000084
其中,kxx为核矩阵K=C(kxx)的第一行元素。
CN201810335715.0A 2018-04-16 2018-04-16 基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法 Active CN108765458B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810335715.0A CN108765458B (zh) 2018-04-16 2018-04-16 基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810335715.0A CN108765458B (zh) 2018-04-16 2018-04-16 基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法

Publications (2)

Publication Number Publication Date
CN108765458A CN108765458A (zh) 2018-11-06
CN108765458B true CN108765458B (zh) 2022-07-12

Family

ID=64010860

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810335715.0A Active CN108765458B (zh) 2018-04-16 2018-04-16 基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法

Country Status (1)

Country Link
CN (1) CN108765458B (zh)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109816698B (zh) * 2019-02-25 2023-03-24 南京航空航天大学 基于尺度自适应核相关滤波的无人机视觉目标跟踪方法
CN110033006B (zh) * 2019-04-04 2022-03-29 华设设计集团股份有限公司 基于颜色特征非线性降维的车辆检测跟踪方法
CN110097579B (zh) * 2019-06-14 2021-08-13 中国科学院合肥物质科学研究院 基于路面纹理上下文信息的多尺度车辆跟踪方法及装置
CN110399823B (zh) * 2019-07-18 2021-07-09 Oppo广东移动通信有限公司 主体跟踪方法和装置、电子设备、计算机可读存储介质
CN110569855B (zh) * 2019-08-08 2023-01-24 北京航科威视光电信息技术有限公司 基于相关滤波与特征点匹配融合的长时间目标跟踪方法
CN111105444B (zh) * 2019-12-31 2023-07-25 哈尔滨工程大学 一种适用于水下机器人目标抓取的连续跟踪方法
CN111563913B (zh) * 2020-04-15 2021-12-10 上海摩象网络科技有限公司 基于跟踪目标的搜索方法、设备及其手持相机
CN111666979B (zh) * 2020-05-13 2023-09-08 北京科技大学 一种可用于标签生成的水下场景目标检测集成方法及系统
CN111739055B (zh) * 2020-06-10 2022-07-05 新疆大学 一种红外点状目标跟踪方法
CN112037272B (zh) * 2020-08-30 2023-11-17 哈尔滨工程大学 一种基于相关滤波的快速区域搜索的目标跟踪方法
CN112329613B (zh) * 2020-11-03 2021-10-15 珠海大横琴科技发展有限公司 海浪影响下船只检测方法、装置、电子设备及存储介质
CN112560695B (zh) * 2020-12-17 2023-03-24 中国海洋大学 水下目标跟踪方法、系统、存储介质、设备、终端及应用
CN112633253A (zh) * 2021-01-13 2021-04-09 三峡大学 一种基于特征检测的无人机遥感影像森林信息提取系统
CN113192136A (zh) * 2021-04-22 2021-07-30 杭州晟冠科技有限公司 一种基于图像识别的轮船定位跟踪方法
CN113673355B (zh) * 2021-07-23 2023-06-23 南京信息工程大学 一种海浪波谱仪回波波形分类方法
CN114596335B (zh) * 2022-03-01 2023-10-31 广东工业大学 一种无人艇目标检测追踪方法及系统
CN114863373B (zh) * 2022-04-19 2024-06-04 华南理工大学 一种海上无人平台监控方法及海上无人监控平台
CN115131401B (zh) * 2022-06-20 2024-04-12 武汉大学 基于多尺度多方向核相关滤波的遥感视频目标跟踪方法
CN115222776B (zh) * 2022-09-19 2022-12-27 中国人民解放军国防科技大学 匹配辅助视觉目标跟踪方法、装置、电子设备和存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5644508A (en) * 1995-06-05 1997-07-01 Hughes Electronics Detection of moving objects
US6577269B2 (en) * 2000-08-16 2003-06-10 Raytheon Company Radar detection method and apparatus
CN101604383A (zh) * 2009-07-24 2009-12-16 哈尔滨工业大学 一种基于红外图像的海上目标检测方法
CN103679694A (zh) * 2013-05-29 2014-03-26 哈尔滨工程大学 一种基于全景视觉的舰船小目标检测方法
CN105022990A (zh) * 2015-06-29 2015-11-04 华中科技大学 一种基于无人艇应用的水面目标快速检测方法
CN106557774A (zh) * 2015-09-29 2017-04-05 南京信息工程大学 多通道核相关滤波的实时跟踪方法
CN106960446A (zh) * 2017-04-01 2017-07-18 广东华中科技大学工业技术研究院 一种面向无人艇应用的水面目标检测跟踪一体化方法
CN106981071A (zh) * 2017-03-21 2017-07-25 广东华中科技大学工业技术研究院 一种基于无人艇应用的目标跟踪方法
CN107358623A (zh) * 2017-07-12 2017-11-17 武汉大学 一种基于显著性检测和鲁棒性尺度估计的相关滤波跟踪算法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5644508A (en) * 1995-06-05 1997-07-01 Hughes Electronics Detection of moving objects
US6577269B2 (en) * 2000-08-16 2003-06-10 Raytheon Company Radar detection method and apparatus
CN101604383A (zh) * 2009-07-24 2009-12-16 哈尔滨工业大学 一种基于红外图像的海上目标检测方法
CN103679694A (zh) * 2013-05-29 2014-03-26 哈尔滨工程大学 一种基于全景视觉的舰船小目标检测方法
CN105022990A (zh) * 2015-06-29 2015-11-04 华中科技大学 一种基于无人艇应用的水面目标快速检测方法
CN106557774A (zh) * 2015-09-29 2017-04-05 南京信息工程大学 多通道核相关滤波的实时跟踪方法
CN106981071A (zh) * 2017-03-21 2017-07-25 广东华中科技大学工业技术研究院 一种基于无人艇应用的目标跟踪方法
CN106960446A (zh) * 2017-04-01 2017-07-18 广东华中科技大学工业技术研究院 一种面向无人艇应用的水面目标检测跟踪一体化方法
CN107358623A (zh) * 2017-07-12 2017-11-17 武汉大学 一种基于显著性检测和鲁棒性尺度估计的相关滤波跟踪算法

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
Spatio-temporal filter based small infrared target detection in highly cluttered sea background;Sungho Kim et al;《2011 11th International Conference on Control, Automation and Systems》;20111219;全文 *
Visual object tracking using adaptive correlation filters;David S. Bolme et al;《2010 IEEE Computer Society Conference on Computer Vision and Pattern Recognition》;20100805;全文 *
多目标舰船自动跟踪方法研究;张树怀等;《中国海洋大学学报》;20170228;第47卷(第2期);128-138 *
海天背景下海天线定位及目标跟踪算法研究;董月芳;《中国优秀硕士学位论文全文数据库信息科技辑》;20120715;第2012年卷(第7期);I138-2490 *
海天背景下海天线检测及舰船目标跟踪研究;谢熙;《中国优秀硕士学位论文全文数据库信息科技辑》;20131215;第2013年卷(第S2期);I138-1435 *
海天背景下红外舰船目标实时跟踪算法研究;王悦行等;《弹箭与制导学报》;20160228;第36卷(第1期);165-170 *

Also Published As

Publication number Publication date
CN108765458A (zh) 2018-11-06

Similar Documents

Publication Publication Date Title
CN108765458B (zh) 基于相关滤波的高海况无人艇海面目标尺度自适应跟踪方法
CN108830879A (zh) 一种适用于遮挡场景的无人艇海面相关滤波目标跟踪方法
Leira et al. Automatic detection, classification and tracking of objects in the ocean surface from UAVs using a thermal camera
CN104200495B (zh) 一种视频监控中的多目标跟踪方法
KR101455835B1 (ko) 영상을 이용한 차선인식 및 추적시스템, 이를 이용한 차선인식 및 추적방법
KR101891410B1 (ko) 트레이스 변환을 이용한 역합성 개구면 레이더 영상의 표적 분류 장치 및 그 방법
JP5063776B2 (ja) 幾何学変換に基づく一般化統計的テンプレートマッチング
CN113705375A (zh) 一种船舶航行环境视觉感知设备及方法
CN113850783B (zh) 一种海面船舶检测方法及系统
EP4053734A1 (en) Hand gesture estimation method and apparatus, device, and computer storage medium
CN112613565B (zh) 基于多特征融合与自适应学习率更新的抗遮挡跟踪方法
Yu et al. Object detection-tracking algorithm for unmanned surface vehicles based on a radar-photoelectric system
Xue et al. Rethinking automatic ship wake detection: state-of-the-art CNN-based wake detection via optical images
CN116310837B (zh) 一种sar舰船目标旋转检测方法及系统
CN117593650B (zh) 基于4d毫米波雷达与sam图像分割的动点滤除视觉slam方法
CN111080674A (zh) 一种基于混合高斯模型的多目标isar关键点提取方法
CN110826575A (zh) 一种基于机器学习的水下目标识别方法
Zhao et al. Multitask learning for SAR ship detection with Gaussian-mask joint segmentation
Zhu et al. Hierarchical attention for ship detection in SAR images
Zhang et al. Light-SDNet: a lightweight CNN architecture for ship detection
Petković et al. An overview on horizon detection methods in maritime video surveillance
Song et al. Shape-robust SAR ship detection via context-preserving augmentation and deep contrastive RoI learning
CN106291554B (zh) 基于k-wishart分布的极化sar舰船检测方法
Shao et al. A robust method for multi object tracking in autonomous ship navigation systems
Kim et al. Semantic segmentation of marine radar images using convolutional neural networks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant