CN109712168A - 一种目标跟踪方法及电子设备、装置及存储介质 - Google Patents
一种目标跟踪方法及电子设备、装置及存储介质 Download PDFInfo
- Publication number
- CN109712168A CN109712168A CN201811355222.XA CN201811355222A CN109712168A CN 109712168 A CN109712168 A CN 109712168A CN 201811355222 A CN201811355222 A CN 201811355222A CN 109712168 A CN109712168 A CN 109712168A
- Authority
- CN
- China
- Prior art keywords
- target
- tracked
- characteristic point
- blocked
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Analysis (AREA)
Abstract
本申请实施例提供一种目标跟踪方法及电子设备、装置及存储介质,所述方法包括:确定待跟踪目标的未被遮挡的部位的特征点;根据所述特征点,确定所述待跟踪目标的遮挡状态;根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板;在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域;其中,所述目标区域为用于跟踪所述待跟踪目标的区域。
Description
技术领域
本申请涉及图像检测领域,尤其涉及一种目标跟踪方法及电子设备、装置及存储介质。
背景技术
待跟踪目标遮挡一直以来都是目标跟踪算法中的一个难点问题,因为在实际应用中,目标跟踪过程会经常出现遮挡问题,如果算法不能很好的处理遮挡问题,那么其实用性将大打折扣,因此遮挡的检测对跟踪算法来说至关重要。
虽然相关技术中跟踪算法能够长时间稳定跟踪待跟踪目标,但是其成立的前提是:待跟踪目标没有被遮挡。如果待跟踪目标被遮挡,同时跟踪算法不知道待跟踪目标被遮挡,那么算法就会继续按照原来的机制继续进行,这时跟踪算法会把背景当作前景进行跟踪,从而使得待跟踪目标的跟踪位置出现偏移,导致待跟踪目标跟丢。
发明内容
有鉴于此,本发明实施例为解决现有技术中存在的问题,提供一种目标跟踪方法及电子设备、装置及存储介质。
本申请实施例的技术方案是这样实现的:
本申请实施例提供一种目标跟踪方法,所述方法包括:确定待跟踪目标的未被遮挡的部位的特征点;根据所述特征点,确定所述待跟踪目标的遮挡状态;根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板;在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域;其中,所述目标区域为用于跟踪所述待跟踪目标的区域。
本申请实施例提供一种目标跟踪装置,所述装置包括:第一确定模块、第二确定模块、第一调整模块和第一搜索模块,其中:所述第一确定模块,用于确定待跟踪目标的未被遮挡的部位的特征点;所述第二确定模块,用于根据所述特征点,确定所述待跟踪目标的遮挡状态;所述第一调整模块,用于根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板;所述第一搜索模块,用于在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域;其中,所述目标区域为用于跟踪所述待跟踪目标的区域。
本申请实施例提供一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述目标跟踪方法中的步骤。
对应地,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述目标跟踪方法中的步骤。
本申请实施例提供一种目标跟踪方法及电子设备、装置及存储介质,其中,首先,确定待跟踪目标的未被遮挡的部位的特征点;根据所述特征点,确定所述待跟踪目标的遮挡状态;然后,根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板;最后,在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域;这样,根据待跟踪目标的遮挡情况,调整不同的用于跟踪的模板,从而能够灵活的对行人进行跟踪,如此,获得长时间稳定的目标跟踪算法,特别是对部分遮挡具有很强的鲁棒性,大大减少因为部分遮挡而出现待跟踪目标跟丢的情况。
附图说明
在附图(其不一定是按比例绘制的)中,相似的附图标记可在不同的视图中描述相似的部件。具有不同字母后缀的相似附图标记可表示相似部件的不同示例。附图以示例而非限制的方式大体示出了本文中所讨论的各个实施例。
图1A为本申请实施例目标跟踪方法的流程示意图;
图1B为本申请实施例又一目标跟踪方法的流程示意图;
图1C为本申请实施例另一目标跟踪方法的流程示意图;
图1D为本申请实施例再一目标跟踪方法的流程示意图;
图1E为本申请实施例另一目标跟踪方法的流程示意图;
图1F为本申请实施例另一目标跟踪方法的流程示意图;
图2为本申请实施例又一实现目标跟踪方法的流程示意图;
图3为本申请实施例目标跟踪方法的应用场景示意图;
图4为本申请实施例目标跟踪装置的组成结构示意图;
图5为本申请实施例中电子设备的一种硬件实体示意图。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本申请的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。
电子设备可以以各种形式来实施。例如,本申请中描述的电子设备可以包括诸如个人数字助理(Personal Digital Assistant,PDA)、导航装置、可穿戴设备等移动电子设备,以及诸如数字TV、台式计算机等固定电子设备。
后续描述中将以移动电子设备为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本申请的实施方式的构造也能够应用于固定类型的电子设备。
在相关技术中,跟踪算法大部分都使用行人检测算法来检测遮挡,当检测到行人后继续进行跟踪,没有检测到则跟踪结束。这种方式无法解决待跟踪目标任意部分的遮挡问题,如遮挡2/3或4/5时;当前的行人检测算法只能实现预先指定的训练好的固定数量的分类器,如训练三个检测器:上身检测器,下半身检测器,全身检测器;虽然这些可以较好的处理这三种遮挡,但是如果出现待跟踪目标的2/3被遮挡,或是1/2遮挡(但遮挡部分是1/4至3/4部分)时,则使用这三类检测器无法检测出来,这时候跟踪算法会认为待跟踪目标跟丢,停止跟踪,从而无法实现长时间稳定跟踪。
为解决相关技术中待跟踪目标部分被遮挡的情况下,无法长时间稳定跟踪的问题,本申请实施例提供一种目标跟踪方法,图1A为本申请实施例目标跟踪方法的流程示意图,如图1A所示,所述方法包括以下步骤:
步骤S101,确定待跟踪目标的未被遮挡的部位的特征点。
这里,待跟踪目标可以为任意需要跟踪的行人,所述未被遮挡的部位,可以理解为,在跟踪待跟踪目标的过程中,未被跟踪过程中的实际场景中的物体所遮挡的部位,比如,未被树、广告牌或者其他行人等遮挡了的某些部位。所述未被遮挡的部位,还可以理解为,能够被识别到的待跟踪目标的部位;所述特征点为待跟踪目标的未被遮挡的部位某些点,比如,待跟踪目标的头部、肩部、腰部、腿部、脚部等共取18个特征点,根据未被遮挡的特征点,即可确定待跟踪目标的未被遮挡的部位。特征点为头部的特征点,表明待跟踪目标的未被遮挡的部位为头部;所述方法应用于电子设备中,该电子设备包括采集装置,所述采集装置可以是电子设备的摄像头,用于采集待跟踪目标的未被遮挡的部位的特征点。
步骤S102,根据所述特征点,确定所述待跟踪目标的遮挡状态。
这里,待跟踪目标的遮挡状态至少包括:无遮挡状态、部分遮挡状态和完全遮挡状态。
步骤S103,根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板。
这里,假如待跟踪目标的遮挡状态为无遮挡状态,创建第一特征模板,标记为模板A;所述第一特征模板,是根据待跟踪目标特征点创建的,可以理解为是包含待跟踪目标的全部特征点的三维人体模型或者平面人体模型;那么当待跟踪目标的遮挡状态为部分遮挡时,根据未被遮挡的特征点创建第二特征模板;将第一特征模板调整为第二特征模板,第二特征模板包含的特征点少于所述第一特征模板包含的特征点;所述第二特征模板可以通过以下方法得到:
首先,获得特征点的外接矩形,使用这个矩形区域来建立第二特征模板,所述第二特征模板,可以理解为是包含待跟踪目标的未被遮挡的特征点的三维人体模型或者平面;然后,切换跟踪算法的特征模板,即从原来的第一特征模板切换到第二特征模板,继续跟踪和更新待跟踪目标位置。
步骤S104,在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域。
这里,所述目标区域为用于跟踪所述待跟踪目标的身体所占的区域。所述步骤S104可以理解为,如果待跟踪目标处于无遮挡状态,在待跟踪目标对应的目标区域中,搜索并追踪未被遮挡的部位与第一特征模板包含的特征点相匹配的第一区域。所述待跟踪目标对应的目标区域可以理解为待跟踪目标的身体区域,比如,待跟踪目标为人物A,那么人物A对应的目标区域可以是人物A的身体所对应的区域。即在目标区域中搜索与调整后的特征模板最相似的部分,如果相似度大于一定阈值,则认为待跟踪目标跟踪正常。
在本申请实施例中,通过根据跟踪目标的遮挡情况,调整不同的用于跟踪的特征模板,从而能够灵活的对行人进行跟踪,如此,实现了长时间稳定的跟踪,特别是对跟踪目标的部位被部分遮挡的情况具有很强的鲁棒性,大大减少因为部分遮挡而出现待跟踪目标跟丢的情况。
本申请实施例提供一种目标跟踪方法,图1B为本申请实施例又一目标跟踪方法的流程示意图,如图1B所示,所述方法包括以下步骤:
步骤S111,从输入的待检测图像中确定待跟踪目标。
这里,所述待检测图像,可以理解为是包含待跟踪目标的图像,在待检测图像中除了待跟踪目标之外,还可能包含其他行人、动物、建筑物和植物等等;待跟踪目标可以是任何能够移动的对象,比如,行人、动物甚至是行进中的车辆等;因此,所述从输入的待检测图像中确定待跟踪目标,可以是从待检测图像的多个行人中确定需要跟踪的一个或多个人;所述从输入的待检测图像中确定待跟踪目标,还可以是从待检测图像中确定其中的动物为待跟踪目标。比如,待检测图像中包括五个人,其中,有一个是犯罪嫌疑人,为了尽快的追捕该犯罪嫌疑人,在监控视频中对该犯罪嫌疑人进行跟踪,以确定该犯罪嫌疑人的行动;如果待跟踪目标是动物,比如,一只刚刚做完手术的金丝猴,需要时刻关注该金丝猴的身体情况,那么通过监控器对该熊猫进行追踪。
步骤S112,检测所述待跟踪目标的未被遮挡的部位,得到所述未被遮挡的部位的特征点。
这里,所述步骤S112可以理解为,根据未被遮挡的部位,确定这些未被遮挡的部位包含的特征点,比如,如果待跟踪目标是行人,而且行人的头部未被遮挡,确定头部对应的两个特征点是未被遮挡的部位的特征点;如果待跟踪目标是行进中的车辆,而且整个车身都没有被遮挡,那么确定车辆的车牌号、车辆的商标、车型等为未被遮挡的部位的特征点;然后,根据车辆的牌号、车辆的商标、车型等创建第一特征模板,以便于对车辆进行跟踪;如果车辆的车牌号被遮挡(即车辆被部分遮挡),根据未被遮挡的车辆的商标和车型等创建第二特征模板,然后根据第二特征模板对行进中的车辆进行跟踪。
上述的步骤S111和步骤S112给出了一种实现“确定待跟踪目标的未被遮挡的部位的特征点”的方式,在该方式中,首先,确定待跟踪目标,然后通过检测到未被遮挡的部位,从而确定该部位对应的特征点,如此,能够精确的获取到用于追踪的未被遮挡的特征点,进而在追踪过程中,不会因为部分遮挡造成追踪失败。
步骤S113,根据所述特征点,确定待跟踪目标的遮挡状态。
步骤S114,根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板。
步骤S115,在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域。
在本实施例中,对需要跟踪的行人(比如,犯罪嫌疑人)进行追踪时,在行人运动的过程,难免会被途中的建筑物、树木等物体遮挡,在这种情况下,首先,确定该行人未被遮挡的部位,基于此,确定出未被遮挡的特征点;然后,基于这些未被遮挡的特征点,构建包含该未被遮挡的特征点的第二特征模板,采用第二特征模板对部位被部分遮挡的行人进行追踪,如此可实现长时间稳定跟踪,大大减少因为部分遮挡而出现待跟踪目标跟丢的情况。
本申请实施例提供一种目标跟踪方法,图1C为本申请实施例另一目标跟踪方法的流程示意图,如图1C所示,根据特征点数量的多少,确定待跟踪目标的遮挡状态,所述方法包括以下步骤:
步骤S121,确定待跟踪目标的未被遮挡的部位的特征点。
步骤S122,如果特征点数量大于等于第一阈值,确定所述待跟踪目标的遮挡状态为无遮挡状态。
这里,比如,假如待跟踪目标是行人,如果特征点的数量为12个,第一阈值为11,说明待跟踪目标的身体区域绝大部分都未被遮挡,所以确定待跟踪目标的遮挡状态为无遮挡状态。比如,待跟踪目标是运动员,在运动员的头部、肩部、腰部、腿部、脚部等共取12个特征点,仅仅脚部的一个特征点被其他运动员遮挡,未被遮挡的11个特征点,仍可准确的表明该运动的身份,即根据未被遮挡的11个特征点,仍然可以准确的识别出该运动员,所以确定该运动员的遮挡状态为无遮挡状态。
步骤S123,如果所述特征点数量小于第一阈值大于等于第二阈值,确定所述待跟踪目标的遮挡状态为部分遮挡状态。
这里,比如,如果特征点的数量为8个,第一阈值为11,第二阈值为5,说明待跟踪目标的身体区域,部分都未被遮挡,所以确定待跟踪目标的遮挡状态为部分状态。比如,待跟踪目标是运动员,在运动员的头部、肩部、腰部、腿部、脚部等共取12个特征点,仅仅脚部的一个特征点被其他运动员遮挡,未被遮挡的8个特征点,但是根据未被遮挡的8个特征点,仍然可以准确的识别出该运动员,所以确定该运动员的遮挡状态为部分挡状态。
步骤S124,如果所述特征点数量小于第二阈值,确定所述待跟踪目标的遮挡状态为完全遮挡状态。
这里,如果所述待跟踪目标处于完全遮挡状态,确定所述待跟踪目标丢失,结束追踪。比如,如果特征点的数量为12个,大于第一阈值11,确定待跟踪目标的遮挡状态为全部遮挡,那么由于待跟踪目标的特征点几乎被完全遮挡,所以检测不到可追踪的特征点,表明追踪失败,因此,当待跟踪目标处于完全遮挡状态,确定待跟踪目标丢失,结束追踪。比如,待跟踪目标是狡猾的犯罪嫌疑人,在追踪的过程中,犯罪嫌疑人很可能会藏起来,这种情况下,由于无法检测到犯罪嫌疑人的身体部位,那么也就无法得到用于跟踪的特征点,说明跟踪失败。
上述的步骤S122至步骤S124给出了一种实现“确定所述待跟踪目标的遮挡状态”的方式,在该方式中,根据待跟踪目标被遮挡的特征点的数量,来确定待跟踪目标的遮挡状态,如此,能够准确的反映出,待跟踪目标被遮挡的部位,从而确定是否需要创建第二特征模板,以便于对待跟踪目标进行长时间的跟踪。
步骤S125,根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板。
步骤S126,在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域。
在本实施例中,根据待跟踪目标被遮挡的特征点的数量,来确定待跟踪目标的遮挡状态,当待跟踪目标是部分被遮挡的时候,根据未被遮挡的部分特征点创建第二特征模板,以便于继续跟踪,但是当待跟踪目标全部被遮挡时,由于已经无法检测到未被遮挡的特征点,那么即结束跟踪,避免浪费跟踪资源。
在其他实施例中,对于所述待跟踪目标的遮挡状态的确定,可以根据特征点所处的部位,来确定待跟踪目标的遮挡状态,过程如下:
根据特征点所处的部位,确定待跟踪目标的未被遮挡部位,从而确定待跟踪目标的遮挡状态;比如,在待跟踪的行人的头部、肩部、腰部、腿部、脚部等共取13个特征点,如果特征点是头部的全部特征点和肩部的特征点,说明待跟踪的行人的头部和肩部均未被遮挡,即待跟踪的行人的身体区域的部分被遮挡,因此,确定待跟踪目标的遮挡状态为部分遮挡。
本申请实施例提供一种目标跟踪方法,图1D为本申请实施例再一目标跟踪方法的流程示意图,如图1D所示,如果待跟踪目标处于无遮挡状态,所述方法可以通过以下步骤实现:
步骤S131,确定待跟踪目标的未被遮挡的部位的特征点。
步骤S132,根据所述特征点,确定所述待跟踪目标的遮挡状态。
步骤S133,如果待跟踪目标处于无遮挡状态,根据处于无遮挡状态的待跟踪目标的特征点,创建第一特征模板。
这里,根据处于无遮挡状态的待跟踪目标的全部特征点,创建包含这些特征点的三维或者平面人体模板,在跟踪过程中将该第一特征模板中包含的特征点与待跟踪目标的未被遮挡的部位的特征点进行比对,以确定是否跟踪正常。比如,待跟踪目标是运动员,在运动员的头部、肩部、腰部、腿部、脚部等共取12个特征点,如果该运动员的遮挡状态为无遮挡状态,即根据这12个特征点,创建包含这些特征点的三维或者平面人体模板,然后基于该三维或者平面人体模板对运动员进行跟踪。
步骤S134,在所述待跟踪目标对应的目标区域中,搜索并追踪未被遮挡的部位与所述第一特征模板包含的特征点相匹配的第一区域。
这里,在目标区域中,搜索并追踪未被遮挡的部位中的特征点与所述第一特征模板包含的特征点相似度大于一定阈值的特征点,对应的区域,简单来说,在目标区域中,搜索未被遮挡的部位中哪些特征点与第一特征模板包含的特征点的相似度较高,将这些相似度较高的特征点所占的区域确定为第一区域;比如,未被遮挡的部位中肩部的特征点,与第一特征模板包含的特征点的相似度非常高,确定肩部为第一区域。
上述的步骤S133和步骤S134给出了一种实现“如果待跟踪目标处于无遮挡状态,对待跟踪目标进行跟踪”的方式,在该方式中,当待跟踪目标处于无遮挡状态时,采用包含全部特征点的第一特征模板进行跟踪,保证了跟踪的准确度。
在本实施例中,如果待跟踪目标处于无遮挡状态,那么采用包含待跟踪目标所有特征的第一特征模板对待跟踪目标进行跟踪,从而达到精准追踪的目的。
本申请实施例提供一种目标跟踪方法,图1E为本申请实施例另一目标跟踪方法的流程示意图,如图1E所示,如果待跟踪目标处于部分遮挡状态,所述方法可以通过以下步骤实现:
步骤S141,确定待跟踪目标的未被遮挡的部位的特征点。
步骤S142,根据所述特征点,确定所述待跟踪目标的遮挡状态。
步骤S143,如果所述待跟踪目标的遮挡状态为部分遮挡状态,将第一特征模板调整为第二特征模板。
这里,所述第二特征模板包含的特征点少于所述第一特征模板包含的特征点;所述步骤S143,可以理解为如果待跟踪目标的身体区域被部分遮挡,根据未被遮挡的部位的特征点,确定这些特征点的外接矩形,使用这个矩形区域来建立包含这些特征点的三维或者平面模型,作为第二特征模板;然后,从原来的第一特征模板切换到第二特征模板,继续跟踪和更新待跟踪目标位置。比如,待跟踪目标是运动员,在运动员的头部、肩部、腰部、腿部、脚部等共取12个特征点,如果该运动员的遮挡状态为部分遮挡状态,即根据未被遮挡的8个特征点,创建包含这些特征点的三维或者平面人体模板,作为第二特征模板,然后第二特征模板对运动员进行跟踪。
步骤S144,在所述待跟踪目标对应的目标区域中,搜索并追踪未被遮挡的部位与所述第二特征模板包含的特征点相匹配的第二区域。
这里,步骤S144可以理解为,在待跟踪目标对应的目标区域中,搜索未被遮挡的部位的特征点与第二特征模板包含的特征点的相似度大于等于预设阈值的第二区域。即,将与第二特征模板包含的特征点的相似度较大的未被遮挡的部位的特征点,对应的区域,确定为第二区域。
上述的步骤S143和步骤S144给出了一种实现“如果待跟踪目标处于部分遮挡状态,对待跟踪目标进行跟踪”的方式,在该方式中,当待跟踪目标处于部分遮挡状态时,将用于跟踪的模板从包含全部特征点的第一特征模板调整为包含部分特征点的第二特征模板,进行跟踪,如此根据待跟踪目标的遮挡状态,灵活的切换用于跟踪的特征模板,从而保证了即使待跟踪目标被部分遮挡,也能够准确的进行跟踪。
在本实施例中,基于待跟踪目标的部位的遮挡状态,首先,构建包含未被遮挡的特征点的第二特征模板,然后,将第一特征模板调整为第二特征模板对处于部分遮挡的待跟踪目标进行跟踪,以使即便待跟踪目标的部位被部分遮挡,也能够精准的进行跟踪。
本申请实施例提供一种目标跟踪方法,图1F为本申请实施例另一目标跟踪方法的流程示意图,如图1F所示,所述方法可以通过以下步骤实现:
步骤S151,确定待跟踪目标的未被遮挡的部位的特征点。
步骤S152,根据所述特征点,确定所述待跟踪目标的遮挡状态。
步骤S153,根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板。
步骤S154,在所述待跟踪目标对应的目标区域中,搜索未被遮挡的部位的特征点与所述第二特征模板包含的特征点的相似度大于等于预设阈值的第二区域。
这里,在对待跟踪目标进行追踪的过程中,通过比较待跟踪目标未被遮挡的部位的特征点与第二特征模板包含的特征点的相似度,以确定是否跟踪正常,比如,待跟踪目标是运动员,而且未被遮挡的特征点是8个,在对该运动员进行跟踪的过程中,通过比较当前运动员未被遮挡的部位的特征点与包含这8个特征点的第二特征模板的相似度是否大于预设阈值,如果大于,说明跟踪正常,否则,跟踪失败。
步骤S155,如果待跟踪目标的目标区域中任一区域包含的特征点,均与第二特征模板包含的特征点不匹配,确定所述待跟踪目标丢失,结束追踪。
这里,如果所述待跟踪目标处于完全遮挡状态,确定所述待跟踪目标丢失,结束追踪。如果待跟踪目标的目标区域中没有特征点与第二特征模板包含的特征点的相似度大于一定阈值,说明目标区域中已经不能精确搜索到待跟踪目标,即待跟踪目标跟踪丢失。
上述的步骤S154和步骤S155给出了一种实现“确定所述待跟踪目标丢失,结束追踪”的方式,在该方式中,首先,比较未被遮挡的部位的特征点与第二特征模板包含的特征点的相似度,如果相似度大于预设阈值,说明跟踪正常;如果相似度小于预设阈值说明跟踪异常,即跟踪丢失,并及时的结束跟踪;如此,在搜索不到可跟踪的特征点时,及时的结束跟踪,避免进行无用的跟踪,浪费时间和跟踪资源。
在本实施例中,当待跟踪目标完全被遮挡,或者待跟踪目标的目标区域中没有与特征模板相似度较高的特征点时,确定跟踪丢失,并及时结束跟踪,以免浪费跟踪资源。
本申请实施例提供一种目标跟踪方法,图2为本申请实施例又一实现目标跟踪方法的流程示意图,如图2所示,所述方法包括以下步骤:
步骤S201,从输入的待检测图像中确定待跟踪目标。
这里,假如输入的待检测图像中包含5个人,从中5个人中确定待跟踪目标,比如,其中一个人或者2个人等。
步骤S202,检测所述待跟踪目标的未被遮挡的部位,得到所述未被遮挡的部位的特征点。
这里,如果被遮挡的部位是头部,那么得到头部的特征点,即头部的几个特征点。
步骤S203,如果所述特征点数量大于等于第一阈值,确定所述待跟踪目标的遮挡状态为无遮挡状态。
这里,假设为待跟踪目标全身一共设置了13个特征点,第一阈值为11,如果获得的特征点大于等于11,说明待跟踪目标几乎未被遮挡,确定待跟踪目标的遮挡状态为无遮挡状态。
步骤S204,根据处于无遮挡状态的待跟踪目标的特征点,创建第一特征模板。
这里,当待跟踪目标的遮挡状态处于无遮挡状态时,根据13个特征点建立第一特征模板。
步骤S205,在所述待跟踪目标对应的目标区域中,搜索并追踪未被遮挡的部位与所述第一特征模板包含的特征点相匹配的第一区域。
这里,所述步骤S205可以理解为,在目标区域中(即待跟踪目标包含特征点的身体区域),搜索与第一特征模板中的特征点最相似的部分,如果相似度大于一定阈值,则认为待跟踪目标跟踪正常。比如,在目标区域中搜索与第一特征模板中的16个特征点对应的特征点最为相似的部分,如果相似度大于90%,则认为跟踪正常。
步骤S206,如果所述特征点数量小于第一阈值大于等于第二阈值,确定所述待跟踪目标的遮挡状态为部分遮挡状态。
这里,假设为待跟踪目标全身一共设置了13个特征点,第一阈值为11,第二阈值为5,如果特征点数量为9,大于5且小于11,说明待跟踪目标的身体区域部分被遮挡,因此,确定待跟踪目标的遮挡状态为部分遮挡状态。
步骤S207,将第一特征模板调整为第二特征模板。
这里,所述步骤S207可以理解为,当待跟踪目标的遮挡状态为部分遮挡状态时,首先,获得特征点,然后确定这些特征点的外接矩形,使用这个矩形区域来建立第二特征模板,最后,从原来的第一特征模板切换到第二特征模板,继续跟踪和更新待跟踪目标位置。
步骤S208,在所述待跟踪目标对应的目标区域中,搜索并追踪未被遮挡的部位与所述第二特征模板包含的特征点相匹配的第二区域。
这里,如果特征点数量为9,那么第二特征模板包含的特征点的数量为9,在目标区域中,搜索未被遮挡的部位的特征点与第二特征模板包含的特征点最相似的部分(即在目标区域中,搜索并追踪未被遮挡的部位与所述第二特征模板包含的特征点相匹配的第二区域),如果相似度大于一定阈值(目标区域中的特征点与第二特征模板包含的特征点相似度大于一定阈值,说明在目标区域中包含待跟踪目标,即包含待跟踪目标),说明跟踪成功。显然,如果待跟踪目标的目标区域中任一区域包含的特征点,均与第二特征模板包含的特征点不匹配,说明目标区域中包含的特征点与第二特征模板包含的特征点相似度较低甚至为0,说明待跟踪目标被跟踪丢失,因此确定待跟踪目标丢失,结束追踪。
步骤S209,如果所述特征点数量小于第二阈值,确定所述待跟踪目标的遮挡状态为完全遮挡状态,并确定所述待跟踪目标丢失,结束追踪。
这里,如果特征点中包含2个特征点,小于第二阈值5,说明待跟踪目标的身体区域被覆盖了绝大区域,因此,确定待跟踪目标的遮挡状态为完全遮挡状态。由于待跟踪目标被完全遮挡,显然无法再继续跟踪个,所以确定所述待跟踪目标丢失,结束追踪。
在本申请实施例中,通过根据待跟踪目标的遮挡状态,调整与遮挡状态对应的特征模板,从而能够在待跟踪目标被部分遮挡的情况下,仍能够精准的进行跟踪,大大减少因为部分遮挡而出现待跟踪目标跟丢的情况。
本申请实施例提供一种目标跟踪方法,为了准确的检测到待跟踪目标的遮挡情况,本实施例采取基于人体关键点的遮挡检测算法实现目标跟踪方法,包括以下步骤:
第一步,确定待跟踪目标全身的特征点。
这里,如图3所示,在待跟踪目标30的头部、肩部、腰部、膝盖处和脚踝处,共确定13个特征点(即点a至点m)。
第二步,基于待跟踪目标无遮挡状态下的特征点,即全部的特征点,建立模板A(即第一特征模板)。
这里,模板A中包含13个特征点对应的特征点。
第三步,根据检测出的13个人体特征点来区分待跟踪目标的当前遮挡状态。
这里,待跟踪目标的遮挡状态包括三种:无遮挡状态、部分遮挡状态和全部遮挡状态;如果全身13个特征点全部均能够被检测到,则确定待跟踪目标处于无遮挡状态。如果只有部分特征点被检测到,则确定待跟踪目标处于部分遮挡状态。如果没有一个特征点能够被检测到,则确定待跟踪目标处于完全遮挡状态。
第四步,根据不同的遮挡状态,调整不能的特征模板。
这里,如果待跟踪目标处于无遮挡状态,继续采用模板A,在目标区域中,搜索未被遮挡的部位的特征点与模板A包含的特征点最相似的部分,如果相似度大于一定阈值,确定跟踪正常。如果待跟踪目标处于部分遮挡状态,则获得特征点,然后确定这些特征点的外接矩形,使用这个矩形区域来建立模板B(即第二特征模板),然后切换跟踪算法的特征模板,从原来的模板A切换到模板B,继续跟踪和更新待跟踪目标的位置。当待跟踪目标遮挡结束后,又从特征模板B切换回模板A,从而继续进行无遮挡的跟踪。如果待跟踪目标处于完全遮挡状态,则认为待跟踪目标跟丢,跟踪过程结束。
本申请实施例提供一种目标跟踪装置,该装置包括所包括的各模块、以及各模块所包括的各单元,可以通过计算机设备中的处理器来实现;当然也可通过具体的逻辑电路实现;在实施的过程中,处理器可以为中央处理器(CPU)、微处理器(MPU)、数字信号处理器(DSP)或现场可编程门阵列(FPGA)等。
图4为本申请实施例目标跟踪装置的组成结构示意图,如图4所示,所述装置400包括:第一确定模块401、第二确定模块402、第一调整模块403和第一搜索模块404,其中:
所述第一确定模块401,用于确定待跟踪目标的未被遮挡的部位的特征点;
所述第二确定模块402,用于根据所述特征点,确定所述待跟踪目标的遮挡状态;
所述第一调整模块403,用于根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板;
所述第一搜索模块404,用于在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域;其中,所述目标区域为用于跟踪所述待跟踪目标的区域。
在上述装置中,所述第一确定模块401,包括:
第一确定子模块,用于从输入的待检测图像中确定待跟踪目标;
第一检测子模块,用于检测所述待跟踪目标的未被遮挡的部位,得到所述未被遮挡的部位的特征点。
在上述装置中,所述第二确定模块402,包括:
第二确定子模块,用于如果所述特征点数量大于等于第一阈值,确定所述待跟踪目标的遮挡状态为无遮挡状态;
第三确定子模块,用于如果所述特征点数量小于第一阈值大于等于第二阈值,确定所述待跟踪目标的遮挡状态为部分遮挡状态;
第四确定子模块,用于如果所述特征点数量小于第二阈值,确定所述待跟踪目标的遮挡状态为完全遮挡状态。
在上述装置中,所述第一调整模块403,还包括:第一创建子模块,用于根据处于无遮挡状态的待跟踪目标的特征点,创建第一特征模板;
对应地,所述第一搜索模块404,包括:第一搜索子模块,用于在所述待跟踪目标对应的目标区域中,搜索并追踪未被遮挡的部位与所述第一特征模板包含的特征点相匹配的第一区域。
在上述装置中,所述第一调整模块403,包括:第一调整子模块,用于如果所述待跟踪目标的遮挡状态为部分遮挡状态,将第一特征模板调整为第二特征模板;其中,所述第二特征模板包含的特征点少于所述第一特征模板包含的特征点;
对应地,所述第一搜索模块404,包括:第二搜索子模块,用于在所述待跟踪目标对应的目标区域中,搜索并追踪未被遮挡的部位与所述第二特征模板包含的特征点相匹配的第二区域。
在上述装置中,所述第二搜索子模块,包括:
第一搜索单元,用于在所述待跟踪目标对应的目标区域中,搜索未被遮挡的部位的特征点与所述第二特征模板包含的特征点的相似度大于等于预设阈值的第二区域。
在上述装置中,所述装置还包括:
第三确定模块,用于如果所述待跟踪目标的目标区域中任一区域包含的特征点,均与所述第二特征模板包含的特征点不匹配,确定所述待跟踪目标丢失,结束追踪;或者,
第四确定模块,用于如果所述待跟踪目标处于完全遮挡状态,确定所述待跟踪目标丢失,结束追踪。
需要说明的是,本申请实施例中,如果以软件功能模块的形式实现上述的目标跟踪方法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算设备(可以是个人计算机或者服务器等)执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本申请实施例不限制于任何特定的硬件和软件结合。
需要说明的是,图5为本申请实施例中电子设备的一种硬件实体示意图,如图5所示,该电子设备500的硬件实体包括:处理器501、通信接口502和存储器503,其中
处理器501通常控制电子设备500的总体操作。
通信接口502可以使电子设备通过网络与其他电子设备或服务器通信。
存储器503配置为存储由处理器501可执行的指令和应用,还可以缓存待处理器501以及电子设备500中各模块待处理或已经处理的数据(例如,图像数据、音频数据、语音通信数据和视频通信数据),可以通过闪存(FLASH)或随机访问存储器(Random AccessMemory,RAM)实现。
以上存储介质和设备实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请存储介质和设备实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件可以是、或也可以不是物理上分开的,作为显示的部件可以是、或也可以不是物理单元;既可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本申请各实施例中的各功能单元可以全部集成在一个处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
或者,本申请上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种目标跟踪方法,其特征在于,所述方法包括:
确定待跟踪目标的未被遮挡的部位的特征点;
根据所述特征点,确定所述待跟踪目标的遮挡状态;
根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板;
在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域;其中,所述目标区域为用于跟踪所述待跟踪目标的区域。
2.如权利要求1中所述的方法,其特征在于,所述确定待跟踪目标的未被遮挡的部位的特征点,包括:
从输入的待检测图像中确定待跟踪目标;
检测所述待跟踪目标的未被遮挡的部位,得到所述未被遮挡的部位的特征点。
3.如权利要求1中所述的方法,其特征在于,所述根据所述特征点,确定所述待跟踪目标的遮挡状态,包括:
如果所述特征点数量大于等于第一阈值,确定所述待跟踪目标的遮挡状态为无遮挡状态;
如果所述特征点数量小于第一阈值大于等于第二阈值,确定所述待跟踪目标的遮挡状态为部分遮挡状态;
如果所述特征点数量小于第二阈值,确定所述待跟踪目标的遮挡状态为完全遮挡状态。
4.如权利要求1中所述的方法,其特征在于,所述根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板,还包括:根据处于无遮挡状态的待跟踪目标的特征点,创建第一特征模板;
对应地,所述在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域,包括:在所述待跟踪目标对应的目标区域中,搜索并追踪未被遮挡的部位与所述第一特征模板包含的特征点相匹配的第一区域。
5.如权利要求4中所述的方法,其特征在于,所述根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板,包括:如果所述待跟踪目标的遮挡状态为部分遮挡状态,将第一特征模板调整为第二特征模板;其中,所述第二特征模板包含的特征点少于所述第一特征模板包含的特征点;
对应地,所述在所述待跟踪目标对应的目标区域中,搜索与所述特征模板相匹配的区域,包括:在所述待跟踪目标对应的目标区域中,搜索并追踪未被遮挡的部位与所述第二特征模板包含的特征点相匹配的第二区域。
6.如权利要求5中所述的方法,其特征在于,在所述待跟踪目标对应的目标区域中,搜索未被遮挡的部位与所述第二特征模板包含的特征点相匹配的第二区域,包括:
在所述待跟踪目标对应的目标区域中,搜索未被遮挡的部位的特征点与所述第二特征模板包含的特征点的相似度大于等于预设阈值的第二区域。
7.如权利要求5中所述的方法,其特征在于,所述方法还包括:
如果所述待跟踪目标的目标区域中任一区域包含的特征点,均与所述第二特征模板包含的特征点不匹配,确定所述待跟踪目标丢失,结束追踪;或者,
如果所述待跟踪目标处于完全遮挡状态,确定所述待跟踪目标丢失,结束追踪。
8.一种目标跟踪装置,其特征在于,所述装置包括:第一确定模块、第二确定模块、第一调整模块和第一搜索模块,其中:
所述第一确定模块,用于确定待跟踪目标的未被遮挡的部位的特征点;
所述第二确定模块,用于根据所述特征点,确定所述待跟踪目标的遮挡状态;
所述第一调整模块,用于根据所述待跟踪目标的遮挡状态,调整所述待跟踪目标对应的特征模板;
所述第一搜索模块,用于在所述待跟踪目标对应的目标区域中,搜索并追踪与调整后的特征模板相匹配的区域;其中,所述目标区域为用于跟踪所述待跟踪目标的区域。
9.一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至7任一项所述目标跟踪方法中的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至7任一项所述目标跟踪方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811355222.XA CN109712168A (zh) | 2018-11-14 | 2018-11-14 | 一种目标跟踪方法及电子设备、装置及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811355222.XA CN109712168A (zh) | 2018-11-14 | 2018-11-14 | 一种目标跟踪方法及电子设备、装置及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109712168A true CN109712168A (zh) | 2019-05-03 |
Family
ID=66254840
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811355222.XA Pending CN109712168A (zh) | 2018-11-14 | 2018-11-14 | 一种目标跟踪方法及电子设备、装置及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109712168A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111178201A (zh) * | 2019-12-20 | 2020-05-19 | 南京理工大学 | 基于OpenPose姿态检测的人体分段式跟踪方法 |
CN111539283A (zh) * | 2020-04-15 | 2020-08-14 | 上海摩象网络科技有限公司 | 人脸跟踪方法及人脸跟踪设备 |
CN112184769A (zh) * | 2020-09-27 | 2021-01-05 | 上海高德威智能交通系统有限公司 | 一种跟踪异常的识别方法、装置及设备 |
CN113139417A (zh) * | 2020-11-24 | 2021-07-20 | 深圳云天励飞技术股份有限公司 | 行动对象追踪方法及相关设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103854293A (zh) * | 2014-02-26 | 2014-06-11 | 奇瑞汽车股份有限公司 | 一种基于特征点匹配的车辆跟踪方法及装置 |
CN105405151A (zh) * | 2015-10-26 | 2016-03-16 | 西安电子科技大学 | 基于粒子滤波和加权Surf的抗遮挡目标跟踪方法 |
CN105654515A (zh) * | 2016-01-11 | 2016-06-08 | 上海应用技术学院 | 基于分片及多特征自适应融合的目标跟踪方法 |
CN106548486A (zh) * | 2016-11-01 | 2017-03-29 | 浙江大学 | 一种基于稀疏视觉特征地图的无人车位置跟踪方法 |
-
2018
- 2018-11-14 CN CN201811355222.XA patent/CN109712168A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103854293A (zh) * | 2014-02-26 | 2014-06-11 | 奇瑞汽车股份有限公司 | 一种基于特征点匹配的车辆跟踪方法及装置 |
CN105405151A (zh) * | 2015-10-26 | 2016-03-16 | 西安电子科技大学 | 基于粒子滤波和加权Surf的抗遮挡目标跟踪方法 |
CN105654515A (zh) * | 2016-01-11 | 2016-06-08 | 上海应用技术学院 | 基于分片及多特征自适应融合的目标跟踪方法 |
CN106548486A (zh) * | 2016-11-01 | 2017-03-29 | 浙江大学 | 一种基于稀疏视觉特征地图的无人车位置跟踪方法 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111178201A (zh) * | 2019-12-20 | 2020-05-19 | 南京理工大学 | 基于OpenPose姿态检测的人体分段式跟踪方法 |
CN111539283A (zh) * | 2020-04-15 | 2020-08-14 | 上海摩象网络科技有限公司 | 人脸跟踪方法及人脸跟踪设备 |
CN111539283B (zh) * | 2020-04-15 | 2023-08-11 | 上海摩象网络科技有限公司 | 人脸跟踪方法及人脸跟踪设备 |
CN112184769A (zh) * | 2020-09-27 | 2021-01-05 | 上海高德威智能交通系统有限公司 | 一种跟踪异常的识别方法、装置及设备 |
CN112184769B (zh) * | 2020-09-27 | 2023-05-02 | 上海高德威智能交通系统有限公司 | 一种跟踪异常的识别方法、装置及设备 |
CN113139417A (zh) * | 2020-11-24 | 2021-07-20 | 深圳云天励飞技术股份有限公司 | 行动对象追踪方法及相关设备 |
CN113139417B (zh) * | 2020-11-24 | 2024-05-03 | 深圳云天励飞技术股份有限公司 | 行动对象追踪方法及相关设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109712168A (zh) | 一种目标跟踪方法及电子设备、装置及存储介质 | |
Kristan et al. | The seventh visual object tracking vot2019 challenge results | |
Feng et al. | Spatio-temporal fall event detection in complex scenes using attention guided LSTM | |
CN111627045B (zh) | 单镜头下的多行人在线跟踪方法、装置、设备及存储介质 | |
CN109325456B (zh) | 目标识别方法、装置、目标识别设备及存储介质 | |
Lee et al. | Human pose tracking in monocular sequence using multilevel structured models | |
Riaz et al. | Motion reconstruction using very few accelerometers and ground contacts | |
CN109584302A (zh) | 相机位姿优化方法、装置、电子设备和计算机可读介质 | |
WO2021242445A1 (en) | Tracking multiple objects in a video stream using occlusion-aware single-object tracking | |
CN109784232A (zh) | 一种融合深度信息的视觉slam回环检测方法及装置 | |
Liu et al. | Robust multi-drone multi-target tracking to resolve target occlusion: A benchmark | |
JP2022521540A (ja) | オンライン学習を利用した物体追跡のための方法およびシステム | |
CN109948624A (zh) | 特征提取的方法、装置、电子设备和计算机存储介质 | |
He et al. | OVD-SLAM: An online visual SLAM for dynamic environments | |
CN117581272A (zh) | 用于体育分析中的队伍分类的方法和装置 | |
Nemade et al. | Adaptive automatic tracking, learning and detection of any real time object in the video stream | |
US10789778B1 (en) | Systems and methods for displaying augmented-reality objects | |
CN101650776A (zh) | 追踪人物肢体位置的方法与系统 | |
CN112417205A (zh) | 目标检索装置及方法、电子设备 | |
WO2017139086A1 (en) | Performing multiple queries within a robust video search and retrieval mechanism | |
Sun et al. | Intelligent optimization algorithm of 3d tracking technology in football player moving image analysis | |
Geng et al. | Reliable part guided multiple level attention learning for person re-identification | |
KR101491413B1 (ko) | 단말기의 모노 카메라에 입력된 손가락 영상을 이용한 3차원 좌표 생성 방법 및 모노 카메라에 입력된 손가락 영상을 이용하여 3차원 좌표를 생성하는 이동 단말기 | |
WO2023112321A1 (ja) | 画像処理システム、画像処理方法及び非一時的なコンピュータ可読媒体 | |
KR102434535B1 (ko) | 인터랙션 검출 방법 및 그 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |