CN106295594A - 一种基于动态路径树的跨摄像头目标跟踪方法及装置 - Google Patents
一种基于动态路径树的跨摄像头目标跟踪方法及装置 Download PDFInfo
- Publication number
- CN106295594A CN106295594A CN201610681599.9A CN201610681599A CN106295594A CN 106295594 A CN106295594 A CN 106295594A CN 201610681599 A CN201610681599 A CN 201610681599A CN 106295594 A CN106295594 A CN 106295594A
- Authority
- CN
- China
- Prior art keywords
- photographic head
- target
- suspicious object
- represent
- path
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
本发明提供了一种基于动态路径树的跨摄像头目标跟踪方法及装置,该方法包括:对预先构建的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,直至所述指定目标离开当前摄像头的视角范围;根据目标搜索区域切换算法获得当前需要搜索的摄像头列表;对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标;根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。本发明在尽可能小的计算资源开销下能够较为准确的进行跨摄像头目标跟踪,能够更加准确的预测路径。
Description
技术领域
本发明涉及视频分析技术领域,尤其涉及一种基于动态路径树的跨摄像头目标跟踪方法及装置。
背景技术
当前大部分传统的目标跟踪技术还是针对于单摄像头目标跟踪问题,然而随着近几年各种智能监控系统的规模越来越大,单摄像头目标跟踪在实际应用时的局限性愈发明显,而跨摄像头目标跟踪技术的需求则愈发变大。
跨摄像头目标跟踪与单摄像头目标跟踪相比具有更大的挑战性,具体表现在以下三个方面:一,由于拍摄视角、拍摄距离、光线条件等因素造成同一目标在不同摄像头下的视觉外观具有较大的差异,因此跨摄像头目标跟踪难度远比单摄像头目标跟踪难度要大;二,由于目标在离开一个摄像头视角后,再在其他摄像头发现一个相似目标时其实很难光凭外观相似度高低就确定其是否真的是原跟踪目标,因此跟踪过程中很有可能会丢失目标;三,随着现今监控摄像头网络规模越来越大,摄像头所拍摄画面的分辨率越来越高,在对这些视频数据进行处理分析时所需要消耗的计算资源也越来越多,简单粗暴进行全部遍历的方式在实际场景中通常并不可行。
基于视觉技术的跨摄像头目标跟踪主要包含对象检测、单摄像头目标跟踪和跨摄像头目标相似度匹配三个核心算法,但是正如之前所述,简单的将这三种技术拼接起来又无法很好的解决跨摄像头目标跟踪问题,因此我们还需要针对其中的目标轨迹估计和计算资源开销过大两个问题进行专门的优化。
发明内容
针对现有技术的缺陷,本发明提供一种基于动态路径树的跨摄像头目标跟踪方法及装置,能够提高目标跟踪准确性并降低所需的计算资源开销。
第一方面,本发明提供了一种基于动态路径树的跨摄像头目标跟踪方法,所述方法包括:
S1:对预先构建的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,直至所述指定目标离开当前摄像头的视角范围;
S2:根据目标搜索区域切换算法获得当前需要搜索的摄像头列表;所述摄像头列表包括:一个或多个所述摄像头网络中的摄像头;
S3:对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标;
S4:根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。
优选地,所述方法还包括:
将所述指定目标的运动轨迹发送至客户端,以展示所述运动轨迹,并转至步骤S2,直至接收到用户输入的终止命令或者所述指定目标离开所述摄像头网络对应的监控区域。
优选地,所述步骤S1之前,所述方法还包括:
构建图模型G={V,E}以表示摄像头网络的拓扑关系。
优选地,所述构建图模型G={V,E}以表示摄像头网络的拓扑关系,包括:
通过一个无向图模型G={V,E}表示整个监控摄像头网络;所述无向图模型中每个顶点V对应一个摄像头,每条边E对应两个摄像头之间的路径,当前仅当摄像头v1,v2之间存在一条直接连通的路径时边ev1,v2>0;
所述摄像头网络对应的图模型的不带权距离矩阵和带权距离矩阵分别为:
其中,N(j)表示与摄像头j相邻的其他摄像头集合,不带权距离矩阵Ai,j表示摄像头i,j之间是否存在直接相连的路径,带权距离矩阵Di,j表示摄像头i,j之间的直接相连的路径的距离;
定义fA(i,j)表示摄像头的不带权最短距离,fD(i,j)表示摄像头的带权最短距离。
优选地,所述步骤S2,包括:
每次所述指定目标离开一个摄像头ci的视角范围时,获得所述摄像头的附近区域内的摄像头cj;Rs表示搜索半径;
经预设时段Dci,cj/vmax后,对所述摄像头cj对应的视频数据进行可疑目标搜索;vmax表示所述指定目标运动的最大速度。
优选地,所述根据动态路径树模型对所述可疑目标进行处理,包括:
S41:初始化只有根节点X1=I1的动态路径树T;
S42:将检测到的可疑目标In加入可以对象列表Ilist中;
S43:对于所述动态路径树中的任一节点Xn,若ξ(i,n)>δ且fA(i,n)<RS,则在节点Xn下添加一个子节点x=In;ξ(i,n)表示可疑目标Ii、In为所述指定目标的可信度;δ为可信度阈值;
S44:计算所述动态路径树中所有叶子节点的能量函数E(x);
S45:进行树剪枝操作,转至步骤S42,直至任务停止。
优选地,所述步骤S43,包括:
通过如下步骤计算ξ(i,n):
构建经验速度概率函数φ(v;uv,σ):
其中,v为可疑目标的运动速度,uv,σ分别是可疑目标的平均运动速度与速度变化标准差;
通过计算得到
其中,表示可疑目标从摄像头ci到摄像头cn的速度概率,an表示可疑目标In在摄像头cn出现的时间,di表示可疑目标Ii在摄像头ci离开的时间,Sn表示该可疑目标与所述指定目标的视觉相似度。
优选地,所述步骤S44,包括:
统计所述动态路径树中所有可能的N条路径{I1,I2,…,IN};
针对其中任意一条路径该路径的路径可信度E(In)为:
其中,ln表示路径In所包含的可疑目标的数量,J(In)表示整体路径In平均每一段的可信度,W(In)表示路径In的长度在N条所有可能路径中所占的比例,λ表示这两个可行度之间的权值。
优选地,所述步骤S45,包括:
若摄像头ck与摄像头ci之间存在直接相连的路径且di<ak时,将ξ(i,k)小于预设的可信度阈值的跳转方式对应的路径全部删除;ak表示可疑目标Ik在摄像头ck出现的时间,di表示可疑目标Ii在摄像头ci离开的时间;
根据公式计算各叶子节点xk的能量比例,将所述能量比例低于预设阈值的路径删除。
第二方面,本发明提供了一种基于动态路径树的跨境头目标跟踪装置,所述装置包括:
目标跟踪模块,用于对预先构建的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,直至所述指定目标离开当前摄像头的视角范围;
摄像头搜索模块,用于根据目标搜索区域切换算法获得当前需要搜索的摄像头列表;所述摄像头列表包括:一个或多个所述摄像头网络中的摄像头;
可疑目标筛选模块,用于对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标;
运动轨迹推断模块,用于根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。
由上述技术方案可知,本发明提供一种基于动态路径树的跨摄像头目标跟踪方法及装置,通过对用户指定的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,并根据目标搜索区域切换算法获得当前需要搜索的摄像头列表,以对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标,从而根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。如此,本发明利用目标的视觉信息和时空运动信息进行分析,然后在尽可能小的计算资源开销下能够较为准确的进行跨摄像头目标跟踪,能够更加准确的预测路径,同时还能动态确定目标当前可能出现的位置区域,避免监控系统每时每刻都要对所有摄像头视角进行搜索,最大程度上降低了计算资源的开销。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些图获得其他的附图。
图1是本发明一实施例提供的一种基于动态路径树的跨摄像头目标跟踪方法的流程示意图;
图2是本发明另一实施例提供的一种基于动态路径树的跨摄像头目标跟踪方法的流程示意图;
图3是本发明一实施例提供的以行人为例的先验目标运动速度概率分布示意图;
图4是本发明一实施例提供的动态路径树的构建方法示意图;
图5是本发明一实施例提供的一实际场景中使用动态路径树进行路径推断的过程;
图6是本发明一实施例提供的一种基于动态路径树的跨摄像头目标跟踪装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1是本发明一实施例中的一种基于动态路径树的跨摄像头目标跟踪方法的流程示意图,本实施例的执行主体为服务器,所述方法包括如下步骤:
S1:对预先构建的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,直至所述指定目标离开当前摄像头的视角范围。
具体来说,用户通过客户端可在预设的摄像头监控网络中任意摄像头视角范围内指定一个目标作为跟踪目标。在用户确定指定目标后,会向服务器发送所述指定目标跟踪指令,而服务器首先采用预设的单摄像头目标跟踪方法控制摄像头对所述指定目标进行跟踪,直至该指定目标离开当前摄像头的视角范围。
S2:根据目标搜索区域切换算法获得当前需要搜索的摄像头列表;所述摄像头列表包括:一个或多个所述摄像头网络中的摄像头。
具体来说,根据搜索区域切换算法确定当前需要搜索的摄像头列表,例如若指定目标最近一次出现在某摄像头视角内,因此可只搜索与该摄像头相邻的一些摄像头,根据这些摄像头生成摄像头列表,以对摄像头列表中的各摄像头的视频数据进行搜索。
S3:对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标。
具体来说,对摄像头列表中的所有摄像头的视频数据进行对象检测,获得预设类别的对象,如行人、车辆等;将所述预设类别的对象与所述指定目标进行目标相似度匹配,从所述预设类别的对象中筛选出与所述指定目标的相似度大于预设阈值的可疑目标。
S4:根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。
具体地,根据动态路径树模型对当前所有可疑目标进行处理,推断出指定目标最可能的运动轨迹,即从所有可疑目标中筛选出所述指定目标。
由此可见,本实施例通过对用户指定的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,并根据目标搜索区域切换算法获得当前需要搜索的摄像头列表,以对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标,从而根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。如此,本实施例利用目标的视觉信息和时空运动信息进行分析,然后在尽可能小的计算资源开销下能够较为准确的进行跨摄像头目标跟踪,能够更加准确的预测路径,同时还能动态确定目标当前可能出现的位置区域,避免监控系统每时每刻都要对所有摄像头视角进行搜索,最大程度上降低了计算资源的开销。
进一步地,在本发明的一个可选实施例中,如图2所示,所述方法还包括如下步骤:
S5:将所述指定目标的运动轨迹发送至客户端,以展示所述运动轨迹;
S6:判断是否接收到用户输入的终止命令或者所述指定目标离开所述摄像头网络对应的监控区域,若是转至步骤S7,否则转至步骤S2。
S7:终止跟踪任务。
举例来说,以跨摄像头行人目标跟踪为例,假设用户初始指定的目标为I*,那么我们的目标跟踪系统在跟踪任务过程中可能会随时在任意一个摄像头里检测到一个可疑目标,在时间轴上形成一个可疑目标列表Ilist={I1,I2,…,Ik},其中Ik=(ck,sk,ak,dk)是最近发现的一个可疑目标,ck代表可疑目标Ik所在摄像头,sk为其与原始指定跟踪目标的视觉相似度,ak,dk为其在摄像头ck出现与离开的时间。需要说明的是,这个可疑目标可能是(正样本)也可能不是用户之前指定的目标(误检,负样本),而用户之前指定的目标在进入到某个摄像头后也不一定会被检测出来(漏检)加入这个可疑目标列表Ilist,具体地,本实施例在实际进行跨摄像头指定目标跟踪时的场景一般可以形容为:
1.用户选取某个目标I*,任务开始;
2.执行单摄像头跟踪直到目标离开当前摄像头;
3.t1时刻在摄像头c1发现一个相似度为s1=0.7的可疑目标;
4.t2时刻在摄像头c2发现一个相似度为s2=0.5的可疑目标;
5.……
6.若用户手动停止、目标丢失或目标离开监控区域,任务结束。
在本发明的一个可选实施例中,所述步骤S1之前,所述方法还包括:
S0:构建图模型G={V,E}以表示摄像头网络的拓扑关系。
具体地,步骤S0中的所述构建图模型G={V,E}以表示摄像头网络的拓扑关系,具体包括:
通过一个无向图模型G={V,E}表示整个监控摄像头网络;所述无向图模型中每个顶点V对应一个摄像头,每条边E对应两个摄像头之间的路径,当前仅当摄像头v1,v2之间存在一条直接连通的路径时边ev1,v2>0;
所述摄像头网络对应的图模型的不带权距离矩阵和带权距离矩阵分别为:
其中,N(j)表示与摄像头j相邻的其他摄像头集合,不带权距离矩阵Ai,j表示摄像头i,j之间是否存在直接相连的路径,带权距离矩阵Di,j表示摄像头i,j之间的直接相连的路径的距离;
定义fA(i,j)表示摄像头的不带权最短距离,fD(i,j)表示摄像头的带权最短距离。
进一步地,所述步骤S2,具体包括如下子步骤:
S21:每次所述指定目标离开一个摄像头ci的视角范围时,获得所述摄像头的附近区域内的摄像头cj;Rs表示搜索半径。
S22:经预设时段Dci,cj/vmax后,对所述摄像头cj对应的视频数据进行可疑目标搜索;vmax表示所述指定目标运动的最大速度。
具体来说,由于目标在任意两个摄像头间ci,cj运动时均需要消耗一定的时间,因此每当目标离开某摄像头ci时,我们可以对区域NRs(ci)中的每个摄像头cj设置一个计时器,使其在目标离开ci后至少经过Dci,cj/vmax才开始进行可疑目标搜索。
需要说明的是,步骤S21中设置需要搜索的摄像头集合为与目标刚离开摄像头在无权图上距离不超过Rs的NRs(ci),这是因为在实际场景中有时会出现对象漏检的特殊情况,也就是说即使跟踪目标出现在某个摄像头也不一定能被发现,因此在搜索”相邻区域”时其实并不能真的仅搜索那些与原摄像头直接相邻的摄像头区域。步骤S22中的计时器对应的时间实际上就是一个随着时间持续递减的整数,初始被设置成对象以最大速度从摄像头ci到达摄像头cj的时间fD(ci,cj)/vmax,然后在递减的过程中:
1、τ>0,视觉搜索模块尚未启动;
2、τ=0,开始视觉搜索模块,且计时器仍然继续递减。
3、τ<0,视觉搜索模块依旧在运行,计时器的绝对值表示视觉搜索模块运行的时间。另外,每个摄像头可以同时有多个计时器,且只要其中一个τ≤0,该摄像头的视频流数据就开始执行视觉搜索模块,不过为了防止各个摄像头计时器数量不断无限制的增长,摄像头ck的计时器在以下三种情况下会被删除:(i)Ik被确定为一个负样本(即不是原跟踪目标);(ii)在Ik之后发现目标非常大概率的已经转移到了另一个摄像头,即检测到sk+1接近1的Ik+1;(iii)情况(i)与(ii)均为发生,而且很长一段时间都没有再检测到可疑目标,目标已经丢失或离开监控区域。
由此可见,本实施例根据基于计时器的目标搜索区域切换算法计算当前需要搜索的摄像头列表,避免监控系统每时每刻都要对所有摄像头视角进行搜索,最大程度上降低了计算资源的开销。
进一步地,上述实施例中步骤S4中的所述根据动态路径树模型对所述可疑目标进行处理,具体可包括如下子步骤:
S41:初始化只有根节点X1=I1的动态路径树T;
S42:将检测到的可疑目标In加入可以对象列表Ilist中;
S43:对于所述动态路径树中的任一节点Xn,若ξ(i,n)>δ且fA(i,n)<RS,则在节点Xn下添加一个子节点x=In;ξ(i,n)表示可疑目标Ii、In为所述指定目标的可信度;δ为可信度阈值;
S44:计算所述动态路径树中所有叶子节点的能量函数E(x);
S45:进行树剪枝操作,转至步骤S42,直至任务停止。
其中,所述步骤S43具体,包括:
通过如下步骤计算ξ(i,n):
构建经验速度概率函数φ(v;uv,σ):
其中,v为可疑目标的运动速度,uv,σ分别是可疑目标的平均运动速度与速度变化标准差;
通过计算得到
其中,表示可疑目标从摄像头ci到摄像头cn的速度概率,an表示可疑目标In在摄像头cn出现的时间,di表示可疑目标Ii在摄像头ci离开的时间,Sn表示该可疑目标与所述指定目标的视觉相似度。其中,φ(v;uv,σ)是一个经验速度概率函数,例如以行人为例的先验目标运动速度概率分布如图3所示。
进一步地,所述步骤S44,具体包括:
统计所述动态路径树中所有可能的N条路径{I1,I2,…,IN};
针对其中任意一条路径该路径的路径可信度E(In)为:
其中,ln表示路径In所包含的可疑目标的数量,J(In)表示整体路径In平均每一段的可信度,W(In)表示路径In的长度在N条所有可能路径中所占的比例,λ表示这两个可行度之间的权值。
需要说明的是,上述公式(4)包含如下两部分含义:
(1)平均每段路径的可信度越高,整条路径的越有可能是目标的真实路径;
(2)错误可疑目标不太可能在保证较为稳定运动速度的同时还形成一条长路径。
具体地,所述步骤S45,具体包括:
若摄像头ck与摄像头ci之间存在直接相连的路径且di<ak时,将ξ(i,k)小于预设的可信度阈值的跳转方式对应的路径全部删除;ak表示可疑目标Ik在摄像头ck出现的时间,di表示可疑目标Ii在摄像头ci离开的时间;
根据公式计算各叶子节点xk的能量比例,将所述能量比例低于预设阈值的路径删除。
具体来说,若摄像头ck与摄像头ci之间存在直接相连的路径且di<ak时,那么每次新发现的可疑目标Ik理论上可以是从之前任意一个节点Ii直接跳转过来的,而该跳转方式的可信度可以用之前的公式计算ξ(i,k),在实际跟踪任务中,我们对每个跳转方式设置一个可信度阈值,将ξ(i,k)小于预设的可信度阈值的跳转方式全部丢弃。
另外,随着动态路径树的生长,树的结构需要不断的进行剪枝操作(treepruning),即设置一个阈值,将能量比例低于预设阈值的路径删除,仅保留能量比例最高的几条,删除某些路径后产生的新叶子结点需要递归的根据这个公式重新剪枝,直到没有可以剪枝的情况。这一步骤主要基于上文所提到的“错误可疑目标不太可能在保证较为稳定运动速度的同时还形成一条长路径”原则。
举例来说,图4详细展示了一棵动态路径树的构建过程。在实际进行目标跟踪任务时尽管每次发现新的可疑目标都需要反复计算动态路径树各个叶子节点的能量函数,但因为同时存在剪枝操作,使得动态路径树的计算复杂度实际上还是非常之低,事实上,控制这棵树结构复杂度的关键所在就是参数θ的设置,例如当θ=0.1时,动态路径树最多包含1/0.1=10个叶子节点,当θ=0.2时则最多只包含1/0.2=5个叶子节点,因此如果对象检测和目标精准搜索算法的准确性不是太差,最终这棵动态路径树将会变成一棵非常长但是没有太多分支的形状,并且仅有的一些分支一般也都分布在叶子结点附近而不是靠近根节点。图5展示了一个详细的路径估计过程,I={I1,I2,…,I9}是一个可疑对象列表,其中I9是最近发现的一个,图5中第一幅图展示了I9之前可能的三个跳转点I6、I7、I8,第二幅图给出了一个在靠近叶子节点产生两个分支的情形,第三幅图则展示了较为罕见的在靠近根节点I1就产生两个分支的情形。
图6是本发明一实施例中的一种基于动态路径树的跨境头目标跟踪装置的结构示意图,如图6所示,所述装置包括:目标跟踪模块601、摄像头搜索模块602、可疑目标筛选模块603及运动轨迹推断模块604。其中:
目标跟踪模块601用于对预先构建的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,直至所述指定目标离开当前摄像头的视角范围;摄像头搜索模块602用于根据目标搜索区域切换算法获得当前需要搜索的摄像头列表;所述摄像头列表包括:一个或多个所述摄像头网络中的摄像头;可疑目标筛选模块603用于对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标;运动轨迹推断模块604用于根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。
由此可见,本实施例通过对用户指定的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,并根据目标搜索区域切换算法获得当前需要搜索的摄像头列表,以对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标,从而根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。如此,本实施例利用目标的视觉信息和时空运动信息进行分析,然后在尽可能小的计算资源开销下能够较为准确的进行跨摄像头目标跟踪,能够更加准确的预测路径,同时还能动态确定目标当前可能出现的位置区域,避免监控系统每时每刻都要对所有摄像头视角进行搜索,最大程度上降低了计算资源的开销。
本实施例中,所述装置还包括:展示模块,用于:
将所述指定目标的运动轨迹发送至客户端,以展示所述运动轨迹,并转至摄像头搜索模块,直至接收到用户输入的终止命令或者所述指定目标离开所述摄像头网络对应的监控区域。
本实施例中,所述装置还包括:网络构建模块,用于:
构建图模型G={V,E}以表示摄像头网络的拓扑关系。
本实施例中,所述网络构建模块,具体用于:
通过一个无向图模型G={V,E}表示整个监控摄像头网络;所述无向图模型中每个顶点V对应一个摄像头,每条边E对应两个摄像头之间的路径,当前仅当摄像头v1,v2之间存在一条直接连通的路径时边ev1,v2>0;
所述摄像头网络对应的图模型的不带权距离矩阵和带权距离矩阵分别为:
其中,N(j)表示与摄像头j相邻的其他摄像头集合,不带权距离矩阵Ai,j表示摄像头i,j之间是否存在直接相连的路径,带权距离矩阵Di,j表示摄像头i,j之间的直接相连的路径的距离;
定义fA(i,j)表示摄像头的不带权最短距离,fD(i,j)表示摄像头的带权最短距离。
本实施例中,摄像头搜索模块602,具体用于:
每次所述指定目标离开一个摄像头ci的视角范围时,获得所述摄像头的附近区域内的摄像头cj;Rs表示搜索半径;
经预设时段Dci,cj/vmax后,对所述摄像头cj对应的视频数据进行可疑目标搜索;vmax表示所述指定目标运动的最大速度。
进一步地,所述运动轨迹推断模块604,具体用于:
初始化只有根节点X1=I1的动态路径树T;
将检测到的可疑目标In加入可以对象列表Ilist中;
对于所述动态路径树中的任一节点Xn,若ξ(i,n)>δ且fA(i,n)<RS,则在节点Xn下添加一个子节点x=In;ξ(i,n)表示可疑目标Ii、In为所述指定目标的可信度;δ为可信度阈值;
计算所述动态路径树中所有叶子节点的能量函数E(x);
进行树剪枝操作,并转至所述将检测到的可疑目标In加入可以对象列表Ilist中的步骤,直至任务停止。
进一步地,通过如下步骤计算ξ(i,n):
构建经验速度概率函数φ(v;uv,σ):
其中,v为可疑目标的运动速度,uv,σ分别是可疑目标的平均运动速度与速度变化标准差;
通过计算得到
其中,表示可疑目标从摄像头ci到摄像头cn的速度概率,an表示可疑目标In在摄像头cn出现的时间,di表示可疑目标Ii在摄像头ci离开的时间,Sn表示该可疑目标与所述指定目标的视觉相似度。
进一步地,所述计算所述动态路径树中所有叶子节点的能量函数的步骤,包括:
统计所述动态路径树中所有可能的N条路径{I1,I2,…,IN};
针对其中任意一条路径该路径的路径可信度E(In)为:
其中,ln表示路径In所包含的可疑目标的数量,J(In)表示整体路径In平均每一段的可信度,W(In)表示路径In的长度在N条所有可能路径中所占的比例。
进一步地,所述进行树剪枝操作的步骤,包括:
若摄像头ck与摄像头ci之间存在直接相连的路径且di<ak时,将ξ(i,k)小于预设的可信度阈值的跳转方式对应的路径全部删除;ak表示可疑目标Ik在摄像头ck出现的时间,di表示可疑目标Ii在摄像头ci离开的时间;
根据公式计算各叶子节点xk的能量比例,将所述能量比例低于预设阈值的路径删除。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
在本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种基于动态路径树的跨摄像头目标跟踪方法,其特征在于,所述方法包括:
S1:对预先构建的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,直至所述指定目标离开当前摄像头的视角范围;
S2:根据目标搜索区域切换算法获得当前需要搜索的摄像头列表;所述摄像头列表包括:一个或多个所述摄像头网络中的摄像头;
S3:对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标;
S4:根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将所述指定目标的运动轨迹发送至客户端,以展示所述运动轨迹,并转至步骤S2,直至接收到用户输入的终止命令或者所述指定目标离开所述摄像头网络对应的监控区域。
3.根据权利要求1所述的方法,其特征在于,所述步骤S1之前,所述方法还包括:
构建图模型G={V,E}以表示摄像头网络的拓扑关系。
4.根据权利要求3所述的方法,其特征在于,所述构建图模型G={V,E}以表示摄像头网络的拓扑关系,包括:
通过一个无向图模型G={V,E}表示整个监控摄像头网络;所述无向图模型中每个顶点V对应一个摄像头,每条边E对应两个摄像头之间的路径,当前仅当摄像头v1,v2之间存在一条直接连通的路径时边ev1,v2>0;
所述摄像头网络对应的图模型的不带权距离矩阵和带权距离矩阵分别为:
其中,N(j)表示与摄像头j相邻的其他摄像头集合,不带权距离矩阵Ai,j表示摄像头i,j之间是否存在直接相连的路径,带权距离矩阵Di,j表示摄像头i,j之间的直接相连的路径的距离;
定义fA(i,j)表示摄像头的不带权最短距离,fD(i,j)表示摄像头的带权最短距离。
5.根据权利要求4所述的方法,其特征在于,所述步骤S2,包括:
每次所述指定目标离开一个摄像头ci的视角范围时,获得所述摄像头的附近区域内的摄像头cj;Rs表示搜索半径;
经预设时段Dci,cj/vmax后,对所述摄像头cj对应的视频数据进行可疑目标搜索;vmax表示所述指定目标运动的最大速度。
6.根据权利要求5所述的方法,其特征在于,所述根据动态路径树模型对所述可疑目标进行处理,包括:
S41:初始化只有根节点X1=I1的动态路径树T;
S42:将检测到的可疑目标In加入可以对象列表Ilist中;
S43:对于所述动态路径树中的任一节点Xn,若ξ(i,n)>δ且fA(i,n)<RS,则在节点Xn下添加一个子节点x=In;ξ(i,n)表示可疑目标Ii、In为所述指定目标的可信度;δ为可信度阈值;
S44:计算所述动态路径树中所有叶子节点的能量函数E(x);
S45:进行树剪枝操作,转至步骤S42,直至任务停止。
7.根据权利要求6所述的方法,其特征在于,所述步骤S43,包括:
通过如下步骤计算ξ(i,n):
构建经验速度概率函数φ(v;uv,σ):
其中,v为可疑目标的运动速度,uv,σ分别是可疑目标的平均运动速度与速度变化标准差;
通过计算得到
其中,表示可疑目标从摄像头ci到摄像头cn的速度概率,an表示可疑目标In在摄像头cn出现的时间,di表示可疑目标Ii在摄像头ci离开的时间,Sn表示该可疑目标与所述指定目标的视觉相似度。
8.根据权利要求6所述的方法,其特征在于,所述步骤S44,包括:
统计所述动态路径树中所有可能的N条路径{I1,I2,…,IN};
针对其中任意一条路径该路径的路径可信度E(In)为:
其中,ln表示路径In所包含的可疑目标的数量,J(In)表示整体路径In平均每一段的可信度,W(In)表示路径In的长度在N条所有可能路径中所占的比例,λ表示这两个可行度之间的权值。
9.根据权利要求6所述的方法,其特征在于,所述步骤S45,包括:
若摄像头ck与摄像头ci之间存在直接相连的路径且di<ak时,将ξ(i,k)小于预设的可信度阈值的跳转方式对应的路径全部删除;ak表示可疑目标Ik在摄像头ck出现的时间,di表示可疑目标Ii在摄像头ci离开的时间;
根据公式计算各叶子节点xk的能量比例,将所述能量比例低于预设阈值的路径删除。
10.一种基于动态路径树的跨境头目标跟踪装置,其特征在于,所述装置包括:
目标跟踪模块,用于对预先构建的摄像头网络中任一摄像头视角范围内的指定目标进行单摄像头目标跟踪,直至所述指定目标离开当前摄像头的视角范围;
摄像头搜索模块,用于根据目标搜索区域切换算法获得当前需要搜索的摄像头列表;所述摄像头列表包括:一个或多个所述摄像头网络中的摄像头;
可疑目标筛选模块,用于对所述摄像头列表中的所有摄像头的视频数据进行对象检测,并采用视觉相似度匹配算法,筛选出视觉外观与所述指定目标的相似度大于预设阈值的可疑目标;
运动轨迹推断模块,用于根据动态路径树模型对所述可疑目标进行处理,推断出所述指定目标的运动轨迹。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610681599.9A CN106295594B (zh) | 2016-08-17 | 2016-08-17 | 一种基于动态路径树的跨摄像头目标跟踪方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610681599.9A CN106295594B (zh) | 2016-08-17 | 2016-08-17 | 一种基于动态路径树的跨摄像头目标跟踪方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106295594A true CN106295594A (zh) | 2017-01-04 |
CN106295594B CN106295594B (zh) | 2019-10-15 |
Family
ID=57679153
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610681599.9A Active CN106295594B (zh) | 2016-08-17 | 2016-08-17 | 一种基于动态路径树的跨摄像头目标跟踪方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106295594B (zh) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106911916A (zh) * | 2017-03-10 | 2017-06-30 | 北京旷视科技有限公司 | 图像采集系统、设备和方法 |
CN107153820A (zh) * | 2017-05-10 | 2017-09-12 | 电子科技大学 | 一种面向高噪声的人脸识别及运动轨迹判别方法 |
CN108234961A (zh) * | 2018-02-13 | 2018-06-29 | 欧阳昌君 | 一种多路摄像机编码与视频流引流方法及系统 |
CN108875507A (zh) * | 2017-11-22 | 2018-11-23 | 北京旷视科技有限公司 | 行人跟踪方法、设备、系统和计算机可读存储介质 |
CN109359552A (zh) * | 2018-09-21 | 2019-02-19 | 中山大学 | 一种高效的跨摄像头行人双向跟踪方法 |
CN110047097A (zh) * | 2019-03-27 | 2019-07-23 | 深圳职业技术学院 | 一种多摄像机协同的目标持续跟踪方法 |
CN110781796A (zh) * | 2019-10-22 | 2020-02-11 | 杭州宇泛智能科技有限公司 | 一种标注方法、装置及电子设备 |
CN110781797A (zh) * | 2019-10-22 | 2020-02-11 | 杭州宇泛智能科技有限公司 | 一种标注方法、装置及电子设备 |
CN110876035A (zh) * | 2018-08-31 | 2020-03-10 | 杭州海康威视系统技术有限公司 | 一种基于视频的场景更新方法、装置及电子设备 |
CN111107319A (zh) * | 2019-12-25 | 2020-05-05 | 眸芯科技(上海)有限公司 | 基于区域摄像头的目标追踪方法、装置及系统 |
CN111340856A (zh) * | 2018-12-19 | 2020-06-26 | 杭州海康威视系统技术有限公司 | 车辆的跟踪方法、装置、设备及存储介质 |
CN112365522A (zh) * | 2020-10-19 | 2021-02-12 | 中标慧安信息技术股份有限公司 | 园区内人员跨境追踪的方法 |
CN112819857A (zh) * | 2021-01-22 | 2021-05-18 | 上海依图网络科技有限公司 | 目标跟踪方法及其装置、介质和电子设备 |
CN113411478A (zh) * | 2021-06-17 | 2021-09-17 | 西安应用光学研究所 | 一种用于空中光电监视系统的跨探测器多视窗漫游方法 |
CN113515982A (zh) * | 2020-05-22 | 2021-10-19 | 阿里巴巴集团控股有限公司 | 轨迹还原方法及设备、设备管理方法及管理设备 |
CN114119674A (zh) * | 2022-01-28 | 2022-03-01 | 深圳佑驾创新科技有限公司 | 一种静态目标跟踪方法、装置及存储介质 |
CN117495913A (zh) * | 2023-12-28 | 2024-02-02 | 中电科新型智慧城市研究院有限公司 | 夜间目标轨迹的跨时空关联方法和装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101616309A (zh) * | 2009-07-16 | 2009-12-30 | 上海交通大学 | 无重叠视域多摄像机人体目标跟踪方法 |
CN102156863A (zh) * | 2011-05-16 | 2011-08-17 | 天津大学 | 跨摄像头的多运动目标跟踪方法 |
CN102436662A (zh) * | 2011-11-29 | 2012-05-02 | 南京信息工程大学 | 一种非重叠视域多摄像机网络中的人体目标跟踪方法 |
CN102680957A (zh) * | 2012-05-21 | 2012-09-19 | 杭州电子科技大学 | 基于图切的雷达微弱目标优化检测方法 |
US20120249802A1 (en) * | 2010-12-01 | 2012-10-04 | The Trustees Of The University Of Pennsylvania | Distributed target tracking using self localizing smart camera networks |
CN103632044A (zh) * | 2013-11-19 | 2014-03-12 | 北京环境特性研究所 | 基于地理信息系统的摄像头拓扑构建方法及装置 |
CN104717468A (zh) * | 2015-03-06 | 2015-06-17 | 中国科学院大学 | 基于集群轨迹分类的集群场景智能监控方法及系统 |
-
2016
- 2016-08-17 CN CN201610681599.9A patent/CN106295594B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101616309A (zh) * | 2009-07-16 | 2009-12-30 | 上海交通大学 | 无重叠视域多摄像机人体目标跟踪方法 |
US20120249802A1 (en) * | 2010-12-01 | 2012-10-04 | The Trustees Of The University Of Pennsylvania | Distributed target tracking using self localizing smart camera networks |
CN102156863A (zh) * | 2011-05-16 | 2011-08-17 | 天津大学 | 跨摄像头的多运动目标跟踪方法 |
CN102436662A (zh) * | 2011-11-29 | 2012-05-02 | 南京信息工程大学 | 一种非重叠视域多摄像机网络中的人体目标跟踪方法 |
CN102680957A (zh) * | 2012-05-21 | 2012-09-19 | 杭州电子科技大学 | 基于图切的雷达微弱目标优化检测方法 |
CN103632044A (zh) * | 2013-11-19 | 2014-03-12 | 北京环境特性研究所 | 基于地理信息系统的摄像头拓扑构建方法及装置 |
CN104717468A (zh) * | 2015-03-06 | 2015-06-17 | 中国科学院大学 | 基于集群轨迹分类的集群场景智能监控方法及系统 |
Cited By (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106911916A (zh) * | 2017-03-10 | 2017-06-30 | 北京旷视科技有限公司 | 图像采集系统、设备和方法 |
CN107153820A (zh) * | 2017-05-10 | 2017-09-12 | 电子科技大学 | 一种面向高噪声的人脸识别及运动轨迹判别方法 |
CN108875507B (zh) * | 2017-11-22 | 2021-07-23 | 北京旷视科技有限公司 | 行人跟踪方法、设备、系统和计算机可读存储介质 |
CN108875507A (zh) * | 2017-11-22 | 2018-11-23 | 北京旷视科技有限公司 | 行人跟踪方法、设备、系统和计算机可读存储介质 |
CN108234961A (zh) * | 2018-02-13 | 2018-06-29 | 欧阳昌君 | 一种多路摄像机编码与视频流引流方法及系统 |
CN108234961B (zh) * | 2018-02-13 | 2020-10-02 | 欧阳昌君 | 一种多路摄像机编码与视频流引流方法及系统 |
CN110876035B (zh) * | 2018-08-31 | 2021-04-30 | 杭州海康威视系统技术有限公司 | 一种基于视频的场景更新方法、装置及电子设备 |
CN110876035A (zh) * | 2018-08-31 | 2020-03-10 | 杭州海康威视系统技术有限公司 | 一种基于视频的场景更新方法、装置及电子设备 |
CN109359552A (zh) * | 2018-09-21 | 2019-02-19 | 中山大学 | 一种高效的跨摄像头行人双向跟踪方法 |
CN109359552B (zh) * | 2018-09-21 | 2020-11-13 | 中山大学 | 一种高效的跨摄像头行人双向跟踪方法 |
CN111340856B (zh) * | 2018-12-19 | 2024-04-02 | 杭州海康威视系统技术有限公司 | 车辆的跟踪方法、装置、设备及存储介质 |
CN111340856A (zh) * | 2018-12-19 | 2020-06-26 | 杭州海康威视系统技术有限公司 | 车辆的跟踪方法、装置、设备及存储介质 |
CN110047097A (zh) * | 2019-03-27 | 2019-07-23 | 深圳职业技术学院 | 一种多摄像机协同的目标持续跟踪方法 |
CN110781797B (zh) * | 2019-10-22 | 2021-04-06 | 杭州宇泛智能科技有限公司 | 一种标注方法、装置及电子设备 |
CN110781796B (zh) * | 2019-10-22 | 2022-03-25 | 杭州宇泛智能科技有限公司 | 一种标注方法、装置及电子设备 |
CN110781796A (zh) * | 2019-10-22 | 2020-02-11 | 杭州宇泛智能科技有限公司 | 一种标注方法、装置及电子设备 |
CN110781797A (zh) * | 2019-10-22 | 2020-02-11 | 杭州宇泛智能科技有限公司 | 一种标注方法、装置及电子设备 |
CN111107319A (zh) * | 2019-12-25 | 2020-05-05 | 眸芯科技(上海)有限公司 | 基于区域摄像头的目标追踪方法、装置及系统 |
CN111107319B (zh) * | 2019-12-25 | 2021-05-28 | 眸芯科技(上海)有限公司 | 基于区域摄像头的目标追踪方法、装置及系统 |
CN113515982A (zh) * | 2020-05-22 | 2021-10-19 | 阿里巴巴集团控股有限公司 | 轨迹还原方法及设备、设备管理方法及管理设备 |
CN113515982B (zh) * | 2020-05-22 | 2022-06-14 | 阿里巴巴集团控股有限公司 | 轨迹还原方法及设备、设备管理方法及管理设备 |
CN112365522A (zh) * | 2020-10-19 | 2021-02-12 | 中标慧安信息技术股份有限公司 | 园区内人员跨境追踪的方法 |
CN112365522B (zh) * | 2020-10-19 | 2024-06-14 | 中标慧安信息技术股份有限公司 | 园区内人员跨境追踪的方法 |
CN112819857A (zh) * | 2021-01-22 | 2021-05-18 | 上海依图网络科技有限公司 | 目标跟踪方法及其装置、介质和电子设备 |
CN113411478A (zh) * | 2021-06-17 | 2021-09-17 | 西安应用光学研究所 | 一种用于空中光电监视系统的跨探测器多视窗漫游方法 |
CN114119674A (zh) * | 2022-01-28 | 2022-03-01 | 深圳佑驾创新科技有限公司 | 一种静态目标跟踪方法、装置及存储介质 |
CN117495913A (zh) * | 2023-12-28 | 2024-02-02 | 中电科新型智慧城市研究院有限公司 | 夜间目标轨迹的跨时空关联方法和装置 |
CN117495913B (zh) * | 2023-12-28 | 2024-04-30 | 中电科新型智慧城市研究院有限公司 | 夜间目标轨迹的跨时空关联方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN106295594B (zh) | 2019-10-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106295594A (zh) | 一种基于动态路径树的跨摄像头目标跟踪方法及装置 | |
CN103679674B (zh) | 一种无人飞行器实时图像拼接方法及系统 | |
Dymczyk et al. | The gist of maps-summarizing experience for lifelong localization | |
CN109145836B (zh) | 基于深度学习网络和卡尔曼滤波的船只目标视频检测方法 | |
CN110298404A (zh) | 一种基于三重孪生哈希网络学习的目标跟踪方法 | |
EP2219379B1 (en) | Social network construction based on data association | |
US8102423B2 (en) | Method and system for performing adaptive image acquisition | |
Huletski et al. | Evaluation of the modern visual SLAM methods | |
CN111474953B (zh) | 多动态视角协同的空中目标识别方法及系统 | |
CN110428449A (zh) | 目标检测跟踪方法、装置、设备及存储介质 | |
CN106814737A (zh) | 一种基于啮齿类动物模型和RTAB‑Map闭环检测算法的SLAM方法 | |
Khalkhali et al. | Vehicle tracking with Kalman filter using online situation assessment | |
CN105809108B (zh) | 基于分布式视觉的行人定位方法和系统 | |
Naveed et al. | Deep introspective SLAM: Deep reinforcement learning based approach to avoid tracking failure in visual SLAM | |
Nasernejad et al. | Multiagent modeling of pedestrian-vehicle conflicts using Adversarial Inverse Reinforcement Learning | |
Makris et al. | A comparison of trajectory compression algorithms over AIS data | |
MacTavish et al. | Selective memory: recalling relevant experience for long‐term visual localization | |
Zhao et al. | Gaussian processes for flow modeling and prediction of positioned trajectories evaluated with sports data | |
CN113870312B (zh) | 基于孪生网络的单目标跟踪方法 | |
Brosh et al. | Accurate visual localization for automotive applications | |
Makrigiorgis et al. | Extracting the fundamental diagram from aerial footage | |
Radwan | Leveraging sparse and dense features for reliable state estimation in urban environments | |
CN110148154A (zh) | 一种基于无人机的数据关联行人跟踪算法 | |
CN117516581A (zh) | 融合BEVFormer和邻域注意力Transformer端到端自动驾驶轨迹规划系统、方法及训练方法 | |
Kazmi et al. | Gist+ ratslam: An incremental bio-inspired place recognition front-end for ratslam |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |