CN103871079A - 基于机器学习和光流的车辆跟踪方法 - Google Patents

基于机器学习和光流的车辆跟踪方法 Download PDF

Info

Publication number
CN103871079A
CN103871079A CN201410099904.4A CN201410099904A CN103871079A CN 103871079 A CN103871079 A CN 103871079A CN 201410099904 A CN201410099904 A CN 201410099904A CN 103871079 A CN103871079 A CN 103871079A
Authority
CN
China
Prior art keywords
vehicle
image
tracking
blob
track
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410099904.4A
Other languages
English (en)
Other versions
CN103871079B (zh
Inventor
骞森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NANJING WISCOM VISION TECHNOLOGY Co Ltd
Original Assignee
NANJING WISCOM VISION TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NANJING WISCOM VISION TECHNOLOGY Co Ltd filed Critical NANJING WISCOM VISION TECHNOLOGY Co Ltd
Priority to CN201410099904.4A priority Critical patent/CN103871079B/zh
Publication of CN103871079A publication Critical patent/CN103871079A/zh
Application granted granted Critical
Publication of CN103871079B publication Critical patent/CN103871079B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明公开了一种基于机器学习和光流的车辆跟踪方法,一次性离线训练得到车辆模型,用此车辆模型在视频流中实时检测车辆团块Blob,并对每个车辆团块Blob计算特征点集进行双向金字塔光流跟踪,通过对前向和反向的光流跟踪结果进行分析过滤,实现对多目标的稳定精确跟踪,形成车辆轨迹。本发明提供的基于机器学习和光流的车辆跟踪方法,是一完整的车辆跟踪解决方案,在实际的智能交通、电子警察、视频监控、无人驾驶等领域可广阔应用;使用本发明的跟踪方法,用户可很好的解决当前跟踪算法中的经典难题,实现对多目标的稳定精确跟踪,如场景中车辆长期停留、尺度变化、阴影、局部遮挡、粘连等;特别对于恶劣天气、低照度、高噪点也有较好结果。

Description

基于机器学习和光流的车辆跟踪方法
技术领域
本发明涉及一种基于机器学习和光流的车辆跟踪方法,属于车辆跟踪技术。
背景技术
车辆跟踪在智能交通、视频监控、无人驾驶等领域有非常广泛的研究和应用。基于视频的车辆跟踪包括车辆的检测和跟踪两个模块,当前绝大多数的车辆检测都采用基于背景差分的方法,比如通过滑动平均、混合高斯、codebook或Vibe等算法得到背景模型,再通过差分、二值化、形态学处理、连通域分析,得到车辆团块Blob。该方法基于像素特征作处理,难以解决光照突变、车辆等红灯时长时间停留、粘连、阴影、摄像机抖动等问题;通过后续的跟踪算法也只能部分解决上述问题。
不依赖背景的车辆检测与跟踪方法有了一些研究成果。比如,基于特征点的车辆跟踪算法,比如提取图像的角点,通过光流法或不变量特征进行帧间的匹配和跟踪,该方法不受光照突变、车辆长时间停留、阴影、摄像机抖动等问题的影响,但其难点是如何把这些特征点归类为独立的车辆。又比如,基于知识的车辆检测,比如基于边缘对称性、车窗、车辆轮廓模型等车辆检测方法,但单独采用这些车辆检测方法的误检率比较高,比较适合作为辅助检测方法。传统的MeanShift跟踪算法和粒子跟踪算法,对跟踪区域的全局特征进行建模,通过一定策略寻找最佳候选区域,其不足是特征单一(颜色直方图或LBP纹理),对颜色单调的目标或者多目标粘连时,容易漂移。TLD跟踪算法将在线学习和光流跟踪结合起来,通过在线检测来修正跟踪的错误,对单目标可实现长时间的跟踪,但该框架不适合多目标尤其是多个同类目标的跟踪,而且在线学习较耗时。
发明内容
发明目的:为了克服现有技术中存在的不足,本发明提供一种基于机器学习和光流的车辆跟踪方法,不使用传统的背景差分法来检测车辆,而是通过机器学习的方法,直接在视频画面中检测出车辆团块Blob,并采用双向金字塔光流的跟踪方法,通过对前向和反向的光流跟踪结果进行分析过滤,有效排除跟踪错误的点,可以处理场景中车辆长时间停留、阴影、粘连、摄像机抖动等难题,形成稳定的目标轨迹,实现对多目标的稳定精确跟踪,达到95%以上的准确率。
技术方案:为实现上述目的,本发明采用的技术方案为:
基于机器学习和光流的车辆跟踪方法,一次性离线训练得到车辆模型,用此车辆模型在视频流中实时检测车辆团块Blob,并对每个车辆团块Blob计算特征点集进行双向金字塔光流跟踪,通过对前向和反向的光流跟踪结果进行分析过滤,实现对多目标的稳定精确跟踪,形成车辆轨迹,具体包括如下步骤:
首先说明,本发明所有使用到的图像均为预处理后的图像,所述预处理的方法如下:将输入图像由RGB图像转换为灰度图像,并进行尺寸归一化,计算尺寸归一化后的灰度图像的平均亮度和直方图分布,根据计算结果判断检测到的图像的场景为白天、傍晚还是夜间:若检测到的图像的场景属于白天或傍晚,则完成图像预处理;若检测到的图像的场景属于傍晚,则对尺寸归一化后的灰度图像作对比度拉伸和/或直方图均衡化处理,完成图像预处理;
(1)离线训练车辆模型:收集白天和夜间的正负样本图像,通过机器学习算法,提取图像特征,进行学习训练,得到白天车辆模型和夜间车辆模型;
(2)车辆检测:对于预处理后的灰度图像,采用与学习训练相同的机器学习算法,提取与学习训练相同的图像特征,用学习训练好的模型,进行车辆检测,以车辆团块Blob表征车辆,获取图像中的所有车辆团块Blob:若为白天和傍晚场景则调用白天车辆模型,若为夜间场景则调用夜间车辆模型;所述车辆团块Blob使用矩形表示,包括质心坐标(cx,cy)和尺寸信息,所述尺寸包括宽度width和高度height;将当前帧中检测得到的车辆团块Blob送入车辆轨迹匹配模块;在检测车辆过程中,对滑动窗口进行预处理,不满足预处理条件的滑动窗口直接跳过;
(3)车辆跟踪:分析前一帧图像和当前帧图像:对于存在于前一帧图像中的车辆,通过对应的跟踪器跟踪得到该车辆在当前帧图像中的轨迹;对于前一帧图像中不存在而当前帧中存在的车辆,则将该车辆作为新的车辆,并分配一个对应的跟踪器,在后续帧图像中对该车辆进行跟踪;所述跟踪器采用的跟踪算法为双向金字塔光流算法,通过对前向和反向的光流跟踪结果进行分析过滤,实现对多目标的稳定精确跟踪,形成车辆轨迹;所述双向金字塔光流算法具体包括如下步骤:
(31)对前一帧图像,在每个车辆团块Blob内部,计算Harris角点,如果角点数目N1少于阈值T1,则计算差值N2=T1-N1,求不小于N2且能完全开方的最小整数N3,在车辆团块Blob内部按照
Figure BDA0000478236710000021
等间隔取N3个点,将N3个采样点和N1个Harris角点一起作为光流跟踪的原始点集P1;
(32)根据前一帧图像和当前帧图像:首先对原始点集P1进行L层金字塔光流跟踪,运动方向为从前一帧图像到当前帧图像,得到跟踪结果点集P2;再对跟踪结果点集P2做反向的L层金字塔流光跟踪,运动方向为从当前帧图像到前一帧图像,得到反向跟踪结果点集P0;
(33)对反向跟踪结果点集P0与原始点集P1进行误差分析:分别计算P0和P1中对应点的欧氏距离及其中值,标记出欧氏距离超过中值或者超过阈值T2的点;分别计算P0和P1中对应点的N×N邻域的归一化互相关系数及其中值,标记出互相关系数小于中值的点;将所有标记出的点在原始点集P1、跟踪结果点集P2和反向跟踪结果点集P0中删除,最终得到过滤后的原始点集P1'、过滤后的跟踪结果点集P2'和过滤后的反向跟踪结果点集P0';
(34)判断车辆判为跟踪是否可信,若车辆判为跟踪不可信,则使用Kalman滤波方法,根据该车辆团块Blob在前几帧图像中的位置进行预测,将预测出的位置作为车辆在当前帧中的预测轨迹,将预测轨迹送入车辆轨迹匹配模块中;
车辆判为跟踪不可信的判据为:若过滤后的跟踪结果点集P2'中的点的数目少于阈值T3,则该车辆判为跟踪不可信;计算P0'和P1'中对应点的欧氏距离及其中值,若中值大于阈值T4,则该车辆判为跟踪不可信;否则车辆判为跟踪可信;
(35)若车辆判为跟踪可信,则计算车辆在当前帧的轨迹:
计算P1'和P2'中对应点在x方向和y方向上的位移Dx和Dy,分别取中值作为该车辆团块Blob从前一帧运动到当前帧的x方向和y方向位移dx和dy;计算P1'中任意两点在x方向和y方向上的间距Dx1和Dy1,计算P2'中任意两点在x方向和y方向上的间距Dx2和Dy2;将对应的Dx1和Dx2相除,得到一系列比值Dx2/Dx1,取中值作为该车辆团块Blob从前一帧运动到当前帧的x方向的变换尺度sx;将对应的Dy1和Dy2相除,得到一系列比值Dy2/Dy1,取中值作为该车辆团块Blob从前一帧运动到当前帧的y方向的变换尺度sy
根据该车辆团块Blob在前一帧图像中的质心坐标、尺寸、位移和变化尺度,得到该车辆团块Blob在当前帧图像中的位置(以Blob表征),计算方法如下:
cx'=cx+dx
cy'=cy+dy
width'=width×sx
height'=height×sy
以(cx,cy)、width和height表示车辆团块Blob在前一帧图像中的信息,以(cx',cy')、width'和height'表示车辆团块Blob在当前帧图像中的信息;
(36)对计算得到的所有车辆轨迹进行合理性检验:若车辆轨迹不合理,则使用Kalman滤波方法,根据该车辆团块Blob在前几帧图像中的位置进行预测,将预测出的位置作为车辆在当前帧中的预测轨迹(以Blob表征);车辆在当前帧中的预测轨迹和光流跟踪得到的轨迹统称为车辆当前帧轨迹,将车辆当前帧轨迹送入车辆轨迹匹配模块中;
车辆轨迹合理性判据为:根据车辆轨迹,计算车辆在当前帧相对于前一帧的位移Lx1、Ly1和相对于起始帧的位移Lx2、Ly2;如果Lx1、Ly1有向左后或右后方的分量且超过阈值T5,则判为不合理;如果Lx1与Lx2的方向相反且Lx1超过阈值T5、或Ly1与Ly2的方向相反且Ly1超过阈值T5,则判为不合理;
(4)车辆轨迹匹配:使用车辆轨迹匹配模块,将所有车辆当前帧轨迹分别与当前帧中检测得到的所有车辆团块Blob进行两两匹配:若车辆当前帧轨迹与某个车辆团块Blob相匹配,则用该车辆团块Blob替代车辆当前帧轨迹;
两个Blob匹配的准则为:计算宽度差dw、高度差dh、质心距离dcx和dcy,分别满足:dw小于最小宽度的一半,dh小于最小高度的一半,dcx小于最小宽度的1.5倍,dcy小于最小高度的一半;
(5)车辆轨迹删除:在当前帧中,对于车辆当前帧轨迹中的预测轨迹,若未与任何检测得到的车辆团块Blob匹配,则予以删除;对于车辆当前帧轨迹,若质心超出图像边界、或在前后连续5帧中均未被匹配,则予以删除。
所述步骤(1)中,正负样本图像中,正样本图像为各种类型车辆的头部和尾部区域图像,负样本图像为正样本图像以外的图像;所述车辆类型包括轿车、面包车、公交车、卡车和渣土车等。
所述步骤(1)中,机器学习算法为Adaboost或SVM;图像特征为Haar Like特征、LBP特征和HOG特征中的一种或两种以上的组合。
在图像预处理过程中,对于检测到的图像,首先将其缩小到规定分辨率后,再进行灰度图像的转换。
所述步骤(2)中,对滑动窗口进行预处理,具体为:计算滑动窗口的像素均值、方差和梯度和,如果不在设定范围内时,判定滑动窗口不满足预处理条件。
所述步骤(3)中,相关参数的取值范围如下:采样点数目阈值T1取值[25,100],金字塔层数L取值[4,7],欧氏距离阈值T2取值[5,10],互相关邻域窗口尺寸N取值[5,10],正确跟踪的光流点数目阈值T3取值[5,20],反向跟踪误差阈值T4取值[10,20],位移阈值T5取值[10,20]。
通过以上步骤,每帧的车辆轨迹会不断更新,基本上经过3~5帧左右即可达到稳定,认为是稳定的车辆,其中的信息包括所属特征点的轨迹、目标尺寸、质心、速度、方向等,可以用来做交通违章检测、交通流量统计、视觉导航等高级应用。
有益效果:本发明提供的基于机器学习和光流的车辆跟踪方法,是一个完整的车辆跟踪解决方案,在实际的智能交通、电子警察、视频监控、无人驾驶等领域可广阔应用;与现有技术相比,使用本发明的跟踪方法,用户可以很好的解决当前跟踪算法中的经典难题,实现对多目标的稳定精确跟踪,比如场景中车辆长期停留、尺度变化、阴影、局部遮挡、粘连等问题;特别对于恶劣天气、低照度、高噪点也有较好的结果。
附图说明
图1为本发明方法流程图。
具体实施方式
下面结合附图对本发明作更进一步的说明。
如图1所示,基于机器学习和光流的车辆跟踪方法,一次性离线训练得到车辆模型,用此车辆模型在视频流中实时检测车辆团块Blob,并对每个车辆团块Blob进行双向金字塔光流跟踪,通过对前向和反向的光流跟踪结果进行分析过滤,实现对多目标的稳定精确跟踪,形成车辆轨迹,下面就具体步骤加以说明。
(1)离线训练车辆模型:收集白天和夜间的正负样本图像,通过机器学习算法,提取图像特征,进行学习训练,得到白天车辆模库和夜间车辆模型。
具体为:收集各种车辆图像作为正样本,包括轿车、面包车、公交车、卡车和渣土车等,取其头部和尾部区域图像;收集不包含上述车辆的图像作为负样本;一般要求正样本要超过3000张图片,负样本要超过6000张;通过Adaboost机器学习方法,提取10种Haar Like特征,进行学习训练,得到车辆模型,保存在车辆模型库中;白天和夜间的车辆模型获得方法相同。
在训练时取全部特征的10%作为特征集,在结果基本不变的情况下,能够大大减少训练时间;最终选取10种Haar Like特征,其中5个水平垂直特征,5个旋转特征。
在车辆模型训练完成后,需要进行系统初始化,为系统分配必须的变量和内存,读入已经训练好的车辆模型文件,设置算法参数等。
(2)图像预处理:对于输入图像,将RGB彩色图像转换为灰度图像,并进行尺寸归一化到CIF分辨率(352*288),计算灰度图像平均亮度和直方图分布,判断图像场景属于白天、傍晚还是夜间;若为白天,则调用白天车辆模型库;若为傍晚,则对图像作对比度拉伸和/或直方图均衡化处理,再调用白天车辆模型库;若为夜间,则调用夜间车辆模型库。
(2)车辆检测:对于预处理后的灰度图像,采用与学习训练相同的机器学习算法,提取与学习训练相同的图像特征,用学习训练好的模型,进行车辆检测,以车辆团块Blob表征车辆,获取图像中的所有车辆团块Blob:若为白天和傍晚场景则调用白天车辆模型,若为夜间场景则调用夜间车辆模型;所述车辆团块Blob使用矩形表示,包括质心坐标(cx,cy)和尺寸信息,所述尺寸包括宽度width和高度height;将当前帧中检测得到的车辆团块Blob送入车辆轨迹匹配模块;在检测车辆过程中,对滑动窗口进行预处理,不满足预处理条件的滑动窗口直接跳过;对滑动窗口进行预处理,具体为:计算滑动窗口的像素均值、方差和梯度和,如果不在设定范围内时,判定检测图片不满足预处理条件。
(3)车辆跟踪:分析前一帧图像和当前帧图像:对于存在于前一帧图像中的车辆,通过对应的跟踪器跟踪得到该车辆在当前帧图像中的轨迹;对于前一帧图像中不存在而当前帧中存在的车辆,则将该车辆作为新的车辆,并分配一个对应的跟踪器,在后续帧图像中对该车辆进行跟踪;所述跟踪器采用的跟踪算法为双向金字塔光流算法,通过对前向和反向的光流跟踪结果进行分析过滤,实现对多目标的稳定精确跟踪,形成车辆轨迹;所述双向金字塔光流算法具体包括如下步骤:
(31)对前一帧图像,在每个车辆团块Blob内部,计算Harris角点,如果角点数目N1少于阈值T1,则计算差值N2=T1-N1,求不小于N2且能完全开方的最小整数N3,在车辆团块Blob内部按照
Figure BDA0000478236710000071
等间隔取N3个点,将N3个采样点和N1个Harris角点一起作为光流跟踪的原始点集P1;T1=25;
(32)根据前一帧图像和当前帧图像:首先对原始点集P1进行L层金字塔光流跟踪,运动方向为从前一帧图像到当前帧图像,得到跟踪结果点集P2;再对跟踪结果点集P2做反向的L层金字塔流光跟踪,运动方向为从当前帧图像到前一帧图像,得到反向跟踪结果点集P0;L=4;
(33)对反向跟踪结果点集P0与原始点集P1进行误差分析:分别计算P0和P1中对应点的欧氏距离及其中值,标记出欧氏距离超过中值或者超过阈值T2的点;分别计算P0和P1中对应点的N×N邻域的归一化互相关系数及其中值,标记出互相关系数小于中值的点;将所有标记出的点在原始点集P1、跟踪结果点集P2和反向跟踪结果点集P0中删除,最终得到过滤后的原始点集P1'、过滤后的跟踪结果点集P2'和过滤后的反向跟踪结果点集P0';T2=8,N=10;
(34)判断车辆判为跟踪是否可信,若车辆判为跟踪不可信,则使用Kalman滤波方法,根据该车辆团块Blob在前几帧图像中的位置进行预测,将预测出的位置作为车辆在当前帧中的预测轨迹,将预测轨迹送入车辆轨迹匹配模块中;
车辆判为跟踪不可信的判据为:若过滤后的跟踪结果点集P2'中的点的数目少于阈值T3,则该车辆判为跟踪不可信;计算P0'和P1'中对应点的欧氏距离及其中值,若中值大于阈值T4,则该车辆判为跟踪不可信;否则车辆判为跟踪可信;T3=10,T4=15。
(35)若车辆判为跟踪可信,则计算车辆在当前帧的轨迹:
计算P1'和P2'中对应点在x方向和y方向上的位移Dx和Dy,分别取中值作为该车辆团块Blob从前一帧运动到当前帧的x方向和y方向位移dx和dy;计算P1'中任意两点在x方向和y方向上的间距Dx1和Dy1,计算P2'中任意两点在x方向和y方向上的间距Dx2和Dy2;将对应的Dx1和Dx2相除,得到一系列比值Dx2/Dx1,取中值作为该车辆团块Blob从前一帧运动到当前帧的x方向的变换尺度sx;将对应的Dy1和Dy2相除,得到一系列比值Dy2/Dy1,取中值作为该车辆团块Blob从前一帧运动到当前帧的y方向的变换尺度sy
根据该车辆团块Blob在前一帧图像中的质心坐标、尺寸、位移和变化尺度,得到该车辆团块Blob在当前帧图像中的位置(以Blob表征),计算方法如下:
cx'=cx+dx
cy'=cy+dy
width'=width×sx
height'=height×sy
以(cx,cy)、width和height表示车辆团块Blob在前一帧图像中的信息,以(cx',cy')、width'和height'表示车辆团块Blob在当前帧图像中的信息;
(36)对计算得到的所有车辆轨迹进行合理性检验:若车辆轨迹不合理,则使用Kalman滤波方法,根据该车辆团块Blob在前几帧图像中的位置进行预测,将预测出的位置(以Blob表征)作为车辆在当前帧中的预测轨迹;车辆在当前帧中的预测轨迹和光流跟踪得到的轨迹统称为车辆当前帧轨迹,将车辆当前帧轨迹送入车辆轨迹匹配模块中。
车辆轨迹合理性判据为:根据车辆轨迹,计算车辆在当前帧相对于前一帧的位移Lx1、Ly1和相对于起始帧的位移Lx2、Ly2;如果Lx1、Ly1有向左后或右后方的分量且超过阈值T5,则判为不合理;如果Lx1与Lx2的方向相反且Lx1超过阈值T5、或Ly1与Ly2的方向相反且Ly1超过阈值T5,则判为不合理;T5=10。
(4)车辆轨迹匹配:使用车辆轨迹匹配模块,将所有车辆当前帧轨迹分别与当前帧中检测得到的所有车辆团块Blob进行两两匹配:若车辆当前帧轨迹与某个车辆团块Blob相匹配,则用该车辆团块Blob替代车辆当前帧轨迹。
两个Blob匹配的准则为:计算宽度差dw、高度差dh、质心距离dcx和dcy,分别满足:dw小于最小宽度的一半,dh小于最小高度的一半,dcx小于最小宽度的1.5倍,dcy小于最小高度的一半。
(5)车辆轨迹删除:在当前帧中,对于车辆当前帧轨迹中的预测轨迹,若未与任何检测得到的车辆团块Blob匹配,则予以删除;对于车辆当前帧轨迹,若质心超出图像边界、或在前后连续5帧中均未被匹配,则予以删除。
通过以上步骤,每帧的车辆轨迹会不断更新,基本上经过3~5帧左右即可达到稳定,认为是稳定的车辆,其中的信息包括所属特征点的轨迹、目标尺寸、质心、速度、方向等,可以用来做交通违章检测、交通流量统计、视觉导航等高级应用。
以上所述仅是本发明的优选实施方式,应当指出:对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (6)

1.基于机器学习和光流的车辆跟踪方法,其特征在于:所有使用到的图像均为预处理后的图像,所述预处理的方法如下:将输入图像由RGB图像转换为灰度图像,并进行尺寸归一化,计算尺寸归一化后的灰度图像的平均亮度和直方图分布,根据计算结果判断检测到的图像的场景为白天、傍晚还是夜间:若检测到的图像的场景属于白天或傍晚,则完成图像预处理;若检测到的图像的场景属于傍晚,则对尺寸归一化后的灰度图像作对比度拉伸和/或直方图均衡化处理,完成图像预处理;该车辆跟踪方法具体包括如下步骤:
(1)离线训练车辆模型:收集白天和夜间的正负样本图像,通过机器学习算法,提取图像特征,进行学习训练,得到白天车辆模型和夜间车辆模型;
(2)车辆检测:对于预处理后的灰度图像,采用与学习训练相同的机器学习算法,提取与学习训练相同的图像特征,用学习训练好的模型,进行车辆检测,以车辆团块Blob表征车辆,获取图像中的所有车辆团块Blob:若为白天和傍晚场景则调用白天车辆模型,若为夜间场景则调用夜间车辆模型;所述车辆团块Blob使用矩形表示,包括质心坐标(cx,cy)和尺寸信息,所述尺寸包括宽度width和高度height;将当前帧中检测得到的车辆团块Blob送入车辆轨迹匹配模块;在检测车辆过程中,对滑动窗口进行预处理,不满足预处理条件的滑动窗口直接跳过;
(3)车辆跟踪:分析前一帧图像和当前帧图像:对于存在于前一帧图像中的车辆,通过对应的跟踪器跟踪得到该车辆在当前帧图像中的轨迹;对于前一帧图像中不存在而当前帧中存在的车辆,则将该车辆作为新的车辆,并分配一个对应的跟踪器,在后续帧图像中对该车辆进行跟踪;所述跟踪器采用的跟踪算法为双向金字塔光流算法,通过对前向和反向的光流跟踪结果进行分析过滤,实现对多目标的稳定精确跟踪,形成车辆轨迹;所述双向金字塔光流算法具体包括如下步骤:
(31)对前一帧图像,在每个车辆团块Blob内部,计算Harris角点,如果角点数目N1少于阈值T1,则计算差值N2=T1-N1,求不小于N2且能完全开方的最小整数N3,在车辆团块Blob内部按照
Figure FDA0000478236700000011
等间隔取N3个点,将N3个采样点和N1个Harris角点一起作为光流跟踪的原始点集P1;
(32)根据前一帧图像和当前帧图像:首先对原始点集P1进行L层金字塔光流跟踪,运动方向为从前一帧图像到当前帧图像,得到跟踪结果点集P2;再对跟踪结果点集P2做反向的L层金字塔流光跟踪,运动方向为从当前帧图像到前一帧图像,得到反向跟踪结果点集P0;
(33)对反向跟踪结果点集P0与原始点集P1进行误差分析:分别计算P0和P1中对应点的欧氏距离及其中值,标记出欧氏距离超过中值或者超过阈值T2的点;分别计算P0和P1中对应点的N×N邻域的归一化互相关系数及其中值,标记出互相关系数小于中值的点;将所有标记出的点在原始点集P1、跟踪结果点集P2和反向跟踪结果点集P0中删除,最终得到过滤后的原始点集P1'、过滤后的跟踪结果点集P2'和过滤后的反向跟踪结果点集P0';
(34)判断车辆判为跟踪是否可信,若车辆判为跟踪不可信,则使用Kalman滤波方法,根据该车辆团块Blob在前几帧图像中的位置进行预测,将预测出的位置作为车辆在当前帧中的预测轨迹,将预测轨迹送入车辆轨迹匹配模块中;
车辆判为跟踪不可信的判据为:若过滤后的跟踪结果点集P2'中的点的数目少于阈值T3,则该车辆判为跟踪不可信;计算P0'和P1'中对应点的欧氏距离及其中值,若中值大于阈值T4,则该车辆判为跟踪不可信;否则车辆判为跟踪可信;
(35)若车辆判为跟踪可信,则计算车辆在当前帧的轨迹:
计算P1'和P2'中对应点在x方向和y方向上的位移Dx和Dy,分别取中值作为该车辆团块Blob从前一帧运动到当前帧的x方向和y方向位移dx和dy;计算P1'中任意两点在x方向和y方向上的间距Dx1和Dy1,计算P2'中任意两点在x方向和y方向上的间距Dx2和Dy2;将对应的Dx1和Dx2相除,得到一系列比值Dx2/Dx1,取中值作为该车辆团块Blob从前一帧运动到当前帧的x方向的变换尺度sx;将对应的Dy1和Dy2相除,得到一系列比值Dy2/Dy1,取中值作为该车辆团块Blob从前一帧运动到当前帧的y方向的变换尺度sy
根据该车辆团块Blob在前一帧图像中的质心坐标、尺寸、位移和变化尺度,得到该车辆团块Blob在当前帧图像中的位置,计算方法如下:
cx'=cx+dx
cy'=cy+dy
width'=width×sx
height'=height×sy
以(cx,cy)、width和height表示车辆团块Blob在前一帧图像中的信息,以(cx',cy')、width'和height'表示车辆团块Blob在当前帧图像中的信息;
(36)对计算得到的所有车辆轨迹进行合理性检验:若车辆轨迹不合理,则使用Kalman滤波方法,根据该车辆团块Blob在前几帧图像中的位置进行预测,将预测出的位置作为车辆在当前帧中的预测轨迹;车辆在当前帧中的预测轨迹和光流跟踪得到的轨迹统称为车辆当前帧轨迹,将车辆当前帧轨迹送入车辆轨迹匹配模块中;
车辆轨迹合理性判据为:根据车辆轨迹,计算车辆在当前帧相对于前一帧的位移Lx1、Ly1和相对于起始帧的位移Lx2、Ly2;如果Lx1、Ly1有向左后或右后方的分量且超过阈值T5,则判为不合理;如果Lx1与Lx2的方向相反且Lx1超过阈值T5、或Ly1与Ly2的方向相反且Ly1超过阈值T5,则判为不合理;
(4)车辆轨迹匹配:使用车辆轨迹匹配模块,将所有车辆当前帧轨迹分别与当前帧中检测得到的所有车辆团块Blob进行两两匹配:若车辆当前帧轨迹与某个车辆团块Blob相匹配,则用该车辆团块Blob替代车辆当前帧轨迹;
两个Blob匹配的准则为:计算宽度差dw、高度差dh、质心距离dcx和dcy,分别满足:dw小于最小宽度的一半,dh小于最小高度的一半,dcx小于最小宽度的1.5倍,dcy小于最小高度的一半;
(5)车辆轨迹删除:在当前帧中,对于车辆当前帧轨迹中的预测轨迹,若未与任何检测得到的车辆团块Blob匹配,则予以删除;对于车辆当前帧轨迹,若质心超出图像边界、或在前后连续5帧中均未被匹配,则予以删除。
2.根据权利要求1所述的基于机器学习和光流的车辆跟踪方法,其特征在于:所述步骤(1)中,正负样本图像中,正样本图像为各种类型车辆的头部和尾部区域图像,负样本图像为正样本图像以外的图像;所述车辆类型包括轿车、面包车、公交车、卡车和渣土车。
3.根据权利要求1所述的基于机器学习和光流的车辆跟踪方法,其特征在于:所述步骤(1)中,机器学习算法为Adaboost或SVM;图像特征为Haar Like特征、LBP特征和HOG特征中的一种或两种以上的组合。
4.根据权利要求1所述的基于机器学习和光流的车辆跟踪方法,其特征在于:在图像预处理过程中,对于检测到的图像,首先将其缩小到规定分辨率后,再进行灰度图像的转换。
5.根据权利要求1所述的基于机器学习和光流的车辆跟踪方法,其特征在于:所述步骤(2)中,对滑动窗口进行预处理,具体为:计算滑动窗口的像素均值、方差和梯度和,如果不在设定范围内时,判定检测图片不满足预处理条件。
6.根据权利要求1所述的基于机器学习和光流的车辆跟踪方法,其特征在于:所述步骤(3)中,相关参数的取值范围如下:采样点数目阈值T1取值[25,100],金字塔层数L取值[4,7],欧氏距离阈值T2取值[5,10],互相关邻域窗口尺寸N取值[5,10],正确跟踪的光流点数目阈值T3取值[5,20],反向跟踪误差阈值T4取值[10,20],位移阈值T5取值[10,20]。
CN201410099904.4A 2014-03-18 2014-03-18 基于机器学习和光流的车辆跟踪方法 Expired - Fee Related CN103871079B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410099904.4A CN103871079B (zh) 2014-03-18 2014-03-18 基于机器学习和光流的车辆跟踪方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410099904.4A CN103871079B (zh) 2014-03-18 2014-03-18 基于机器学习和光流的车辆跟踪方法

Publications (2)

Publication Number Publication Date
CN103871079A true CN103871079A (zh) 2014-06-18
CN103871079B CN103871079B (zh) 2016-11-09

Family

ID=50909584

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410099904.4A Expired - Fee Related CN103871079B (zh) 2014-03-18 2014-03-18 基于机器学习和光流的车辆跟踪方法

Country Status (1)

Country Link
CN (1) CN103871079B (zh)

Cited By (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104159088A (zh) * 2014-08-23 2014-11-19 中科院成都信息技术股份有限公司 一种远程智能车辆监控系统及方法
CN104156978A (zh) * 2014-07-04 2014-11-19 合肥工业大学 基于球载平台的多目标动态跟踪方法
CN104200237A (zh) * 2014-08-22 2014-12-10 浙江生辉照明有限公司 一种基于核化相关滤波高速自动多目标跟踪方法
CN104517125A (zh) * 2014-12-26 2015-04-15 湖南天冠电子信息技术有限公司 高速物体的图像实时跟踪方法与系统
CN105374049A (zh) * 2014-09-01 2016-03-02 浙江宇视科技有限公司 一种基于稀疏光流法的多角点跟踪方法及装置
CN105447886A (zh) * 2014-08-26 2016-03-30 上海云罡同汇视觉艺术设计有限公司 动感影院播放控制方法
CN105608431A (zh) * 2015-12-22 2016-05-25 杭州中威电子股份有限公司 一种基于车辆数目与车流速度的高速公路拥堵检测方法
CN106022263A (zh) * 2016-05-19 2016-10-12 西安石油大学 一种融合特征匹配和光流法的车辆跟踪方法
CN106504268A (zh) * 2016-10-20 2017-03-15 电子科技大学 一种基于信息融合的改进Mean‑Shift跟踪方法
CN106570487A (zh) * 2016-11-10 2017-04-19 维森软件技术(上海)有限公司 物体间的碰撞预测方法和装置
CN106780563A (zh) * 2017-01-22 2017-05-31 王恒升 一种带回测光流的图像特征点跟踪法
CN107025642A (zh) * 2016-01-27 2017-08-08 百度在线网络技术(北京)有限公司 基于点云数据的车辆轮廓检测方法和装置
CN107330919A (zh) * 2017-06-27 2017-11-07 中国科学院成都生物研究所 花蕊运动轨迹的获取方法
CN108538062A (zh) * 2018-05-30 2018-09-14 杭州天铂红外光电技术有限公司 用于检测车辆拥堵的方法
CN108550258A (zh) * 2018-03-29 2018-09-18 东软集团股份有限公司 车辆排队长度检测方法、装置、存储介质和电子设备
CN108733042A (zh) * 2017-04-19 2018-11-02 上海汽车集团股份有限公司 自动驾驶车辆的目标跟踪方法及装置
CN109063593A (zh) * 2018-07-13 2018-12-21 北京智芯原动科技有限公司 一种人脸跟踪方法及装置
CN109087510A (zh) * 2018-09-29 2018-12-25 讯飞智元信息科技有限公司 交通监测方法及装置
CN109214245A (zh) * 2017-07-03 2019-01-15 株式会社理光 一种目标跟踪方法、装置、设备及计算机可读存储介质
CN109446917A (zh) * 2018-09-30 2019-03-08 长安大学 一种基于级联霍夫变换的消失点检测方法
CN109657590A (zh) * 2018-12-11 2019-04-19 合刃科技(武汉)有限公司 一种检测车辆信息的方法、装置及存储介质
CN109727275A (zh) * 2018-12-29 2019-05-07 北京沃东天骏信息技术有限公司 目标检测方法、装置、系统和计算机可读存储介质
CN109766841A (zh) * 2019-01-10 2019-05-17 深圳大学 车辆检测方法、装置及计算机可读存储介质
CN109961462A (zh) * 2019-03-25 2019-07-02 华瑞新智科技(北京)有限公司 目标跟踪方法、装置和系统
CN110033006A (zh) * 2019-04-04 2019-07-19 中设设计集团股份有限公司 基于颜色特征非线性降维的车辆检测跟踪方法
CN110478911A (zh) * 2019-08-13 2019-11-22 苏州钛智智能科技有限公司 基于机器学习的智能游戏车无人驾驶方法及智能车、设备
US10733474B2 (en) 2018-07-03 2020-08-04 Sony Corporation Method for 2D feature tracking by cascaded machine learning and visual tracking
CN112232111A (zh) * 2020-09-01 2021-01-15 杭州鸿泉物联网技术股份有限公司 商砼车搅拌筒转向监测方法、系统、电子设备与存储介质
CN112330720A (zh) * 2020-11-12 2021-02-05 北京环境特性研究所 一种运动弱小目标的跟踪方法及装置
CN112836684A (zh) * 2021-03-09 2021-05-25 上海高德威智能交通系统有限公司 基于辅助驾驶的目标尺度变化率计算方法、装置及设备
CN114897973A (zh) * 2022-07-15 2022-08-12 腾讯科技(深圳)有限公司 轨迹检测方法、装置、计算机设备和存储介质
CN112232111B (zh) * 2020-09-01 2024-04-26 杭州鸿泉物联网技术股份有限公司 商砼车搅拌筒转向监测方法、系统、电子设备与存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070285217A1 (en) * 2006-04-27 2007-12-13 Denso Corporation Field recognition apparatus, method for field recognition and program for the same
CN101840507A (zh) * 2010-04-09 2010-09-22 江苏东大金智建筑智能化系统工程有限公司 基于角点特征不变量和图论聚类的目标跟踪方法
CN102393901A (zh) * 2011-11-18 2012-03-28 东南大学 基于混杂特征的交通流信息感知方法及系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070285217A1 (en) * 2006-04-27 2007-12-13 Denso Corporation Field recognition apparatus, method for field recognition and program for the same
CN101840507A (zh) * 2010-04-09 2010-09-22 江苏东大金智建筑智能化系统工程有限公司 基于角点特征不变量和图论聚类的目标跟踪方法
CN102393901A (zh) * 2011-11-18 2012-03-28 东南大学 基于混杂特征的交通流信息感知方法及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
JORGE NINO CASTANEDA 等: "Non-Overlapping Multi-Camera Detection and Tracking of Vehicles in Tunnel Surveillance", 《2011 INTERNATIONAL CONFERENCE ON DIGITAL IMAGE COMPUTING: TECHNIQUES AND APPLICATIONS》, 8 December 2011 (2011-12-08), pages 591 - 596, XP032094802, DOI: doi:10.1109/DICTA.2011.105 *
REYES RIOS-CABRERA 等: "Efficient multi-camera vehicle detection,tracking,and identification in a tunnel surveillance application", 《COMPUTER VISION AND IMAGE UNDERSTANDING》, vol. 116, no. 6, 30 June 2012 (2012-06-30), pages 742 - 753 *
郭金林: "跨摄像头车辆跟踪技术研究与实现", 《中国优秀硕士学位论文全文数据库 信息科技辑》, no. 2, 15 December 2013 (2013-12-15), pages 138 - 1106 *

Cited By (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104156978A (zh) * 2014-07-04 2014-11-19 合肥工业大学 基于球载平台的多目标动态跟踪方法
CN104156978B (zh) * 2014-07-04 2018-08-10 合肥工业大学 基于球载平台的多目标动态跟踪方法
CN104200237A (zh) * 2014-08-22 2014-12-10 浙江生辉照明有限公司 一种基于核化相关滤波高速自动多目标跟踪方法
CN104200237B (zh) * 2014-08-22 2019-01-11 浙江生辉照明有限公司 一种基于核化相关滤波高速自动多目标跟踪方法
CN104159088B (zh) * 2014-08-23 2017-12-08 中科院成都信息技术股份有限公司 一种远程智能车辆监控系统及方法
CN104159088A (zh) * 2014-08-23 2014-11-19 中科院成都信息技术股份有限公司 一种远程智能车辆监控系统及方法
CN105447886A (zh) * 2014-08-26 2016-03-30 上海云罡同汇视觉艺术设计有限公司 动感影院播放控制方法
CN105374049B (zh) * 2014-09-01 2020-01-14 浙江宇视科技有限公司 一种基于稀疏光流法的多角点跟踪方法及装置
CN105374049A (zh) * 2014-09-01 2016-03-02 浙江宇视科技有限公司 一种基于稀疏光流法的多角点跟踪方法及装置
CN104517125A (zh) * 2014-12-26 2015-04-15 湖南天冠电子信息技术有限公司 高速物体的图像实时跟踪方法与系统
CN104517125B (zh) * 2014-12-26 2018-05-22 湖南天冠电子信息技术有限公司 高速物体的图像实时跟踪方法与系统
CN105608431A (zh) * 2015-12-22 2016-05-25 杭州中威电子股份有限公司 一种基于车辆数目与车流速度的高速公路拥堵检测方法
CN107025642A (zh) * 2016-01-27 2017-08-08 百度在线网络技术(北京)有限公司 基于点云数据的车辆轮廓检测方法和装置
CN106022263A (zh) * 2016-05-19 2016-10-12 西安石油大学 一种融合特征匹配和光流法的车辆跟踪方法
CN106022263B (zh) * 2016-05-19 2019-07-09 西安石油大学 一种融合特征匹配和光流法的车辆跟踪方法
CN106504268A (zh) * 2016-10-20 2017-03-15 电子科技大学 一种基于信息融合的改进Mean‑Shift跟踪方法
CN106570487A (zh) * 2016-11-10 2017-04-19 维森软件技术(上海)有限公司 物体间的碰撞预测方法和装置
CN106780563A (zh) * 2017-01-22 2017-05-31 王恒升 一种带回测光流的图像特征点跟踪法
CN108733042A (zh) * 2017-04-19 2018-11-02 上海汽车集团股份有限公司 自动驾驶车辆的目标跟踪方法及装置
CN107330919B (zh) * 2017-06-27 2020-07-10 中国科学院成都生物研究所 花蕊运动轨迹的获取方法
CN107330919A (zh) * 2017-06-27 2017-11-07 中国科学院成都生物研究所 花蕊运动轨迹的获取方法
CN109214245A (zh) * 2017-07-03 2019-01-15 株式会社理光 一种目标跟踪方法、装置、设备及计算机可读存储介质
CN109214245B (zh) * 2017-07-03 2022-02-18 株式会社理光 一种目标跟踪方法、装置、设备及计算机可读存储介质
CN108550258A (zh) * 2018-03-29 2018-09-18 东软集团股份有限公司 车辆排队长度检测方法、装置、存储介质和电子设备
CN108538062B (zh) * 2018-05-30 2020-09-15 杭州天铂红外光电技术有限公司 用于检测车辆拥堵的方法
CN108538062A (zh) * 2018-05-30 2018-09-14 杭州天铂红外光电技术有限公司 用于检测车辆拥堵的方法
US10733474B2 (en) 2018-07-03 2020-08-04 Sony Corporation Method for 2D feature tracking by cascaded machine learning and visual tracking
CN109063593A (zh) * 2018-07-13 2018-12-21 北京智芯原动科技有限公司 一种人脸跟踪方法及装置
CN109087510B (zh) * 2018-09-29 2021-09-07 讯飞智元信息科技有限公司 交通监测方法及装置
CN109087510A (zh) * 2018-09-29 2018-12-25 讯飞智元信息科技有限公司 交通监测方法及装置
CN109446917B (zh) * 2018-09-30 2022-08-30 长安大学 一种基于级联霍夫变换的消失点检测方法
CN109446917A (zh) * 2018-09-30 2019-03-08 长安大学 一种基于级联霍夫变换的消失点检测方法
CN109657590A (zh) * 2018-12-11 2019-04-19 合刃科技(武汉)有限公司 一种检测车辆信息的方法、装置及存储介质
CN109727275A (zh) * 2018-12-29 2019-05-07 北京沃东天骏信息技术有限公司 目标检测方法、装置、系统和计算机可读存储介质
CN109766841A (zh) * 2019-01-10 2019-05-17 深圳大学 车辆检测方法、装置及计算机可读存储介质
CN109961462A (zh) * 2019-03-25 2019-07-02 华瑞新智科技(北京)有限公司 目标跟踪方法、装置和系统
CN110033006B (zh) * 2019-04-04 2022-03-29 华设设计集团股份有限公司 基于颜色特征非线性降维的车辆检测跟踪方法
CN110033006A (zh) * 2019-04-04 2019-07-19 中设设计集团股份有限公司 基于颜色特征非线性降维的车辆检测跟踪方法
CN110478911A (zh) * 2019-08-13 2019-11-22 苏州钛智智能科技有限公司 基于机器学习的智能游戏车无人驾驶方法及智能车、设备
CN112232111A (zh) * 2020-09-01 2021-01-15 杭州鸿泉物联网技术股份有限公司 商砼车搅拌筒转向监测方法、系统、电子设备与存储介质
CN112232111B (zh) * 2020-09-01 2024-04-26 杭州鸿泉物联网技术股份有限公司 商砼车搅拌筒转向监测方法、系统、电子设备与存储介质
CN112330720A (zh) * 2020-11-12 2021-02-05 北京环境特性研究所 一种运动弱小目标的跟踪方法及装置
CN112836684A (zh) * 2021-03-09 2021-05-25 上海高德威智能交通系统有限公司 基于辅助驾驶的目标尺度变化率计算方法、装置及设备
CN112836684B (zh) * 2021-03-09 2023-03-10 上海高德威智能交通系统有限公司 基于辅助驾驶的目标尺度变化率计算方法、装置及设备
CN114897973A (zh) * 2022-07-15 2022-08-12 腾讯科技(深圳)有限公司 轨迹检测方法、装置、计算机设备和存储介质
CN114897973B (zh) * 2022-07-15 2022-09-16 腾讯科技(深圳)有限公司 轨迹检测方法、装置、计算机设备和存储介质

Also Published As

Publication number Publication date
CN103871079B (zh) 2016-11-09

Similar Documents

Publication Publication Date Title
CN103871079A (zh) 基于机器学习和光流的车辆跟踪方法
WO2019196130A1 (zh) 面向车载热成像行人检测的分类器训练方法和装置
CN101840507B (zh) 基于角点特征不变量和图论聚类的目标跟踪方法
Liu et al. Rear vehicle detection and tracking for lane change assist
CN102750708B (zh) 基于快速鲁棒特征匹配的仿射运动目标跟踪算法
CN103310444B (zh) 一种基于头顶摄像头的监控行人计数的方法
CN108776974B (zh) 一种适用于公共交通场景的实时目标跟踪方法
Huang et al. Lane detection based on inverse perspective transformation and Kalman filter
CN106682586A (zh) 一种复杂光照条件下基于视觉的实时车道线检测的方法
CN103903019A (zh) 一种多车道车辆轨迹时空图的自动生成方法
CN104239865A (zh) 一种基于多级检测的行人检测与跟踪方法
CN103065325B (zh) 一种基于彩色颜色距离和图像分割聚合的目标跟踪方法
EP2813973B1 (en) Method and system for processing video image
CN105160649A (zh) 基于核函数非监督聚类的多目标跟踪方法及系统
CN105740835A (zh) 夜视环境下基于车载相机的前方车辆检测方法
Liu et al. Effective road lane detection and tracking method using line segment detector
Huang et al. Lane marking detection based on adaptive threshold segmentation and road classification
Song et al. All-day traffic states recognition system without vehicle segmentation
CN103578121A (zh) 干扰运动环境下基于共享高斯模型的运动检测方法
Zhou et al. Real-time traffic light recognition based on c-hog features
Xiang et al. Vehicle detection and tracking for gas station surveillance based on AdaBoosting and optical flow
Zhao et al. An Improved Method for Infrared Vehicle and Pedestrian Detection Based on YOLOv5s
Ren et al. LaneDraw: Cascaded lane and its bifurcation detection with nested fusion
Kapileswar et al. Automatic traffic monitoring system using lane centre edges
CN105740834A (zh) 夜视环境下对前方车辆的高精度检测方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: Vehicle tracking method based on machine learning and optical flow

Effective date of registration: 20181122

Granted publication date: 20161109

Pledgee: Bank of Nanjing Limited by Share Ltd. Nanjing branch

Pledgor: NANJING WISCOM VISION TECHNOLOGY Co.,Ltd.

Registration number: 2018320000325

PE01 Entry into force of the registration of the contract for pledge of patent right
PC01 Cancellation of the registration of the contract for pledge of patent right
PC01 Cancellation of the registration of the contract for pledge of patent right

Date of cancellation: 20191225

Granted publication date: 20161109

Pledgee: Bank of Nanjing Limited by Share Ltd. Nanjing branch

Pledgor: NANJING WISCOM VISION TECHNOLOGY Co.,Ltd.

Registration number: 2018320000325

PE01 Entry into force of the registration of the contract for pledge of patent right
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: Vehicle tracking method based on machine learning and optical flow

Effective date of registration: 20191226

Granted publication date: 20161109

Pledgee: Nanjing Bank Co.,Ltd. Nanjing North Branch

Pledgor: NANJING WISCOM VISION TECHNOLOGY Co.,Ltd.

Registration number: Y2019320000408

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20161109