CN110276244B - 形成移动轨迹的方法、装置、计算机设备及存储介质 - Google Patents
形成移动轨迹的方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN110276244B CN110276244B CN201910377560.1A CN201910377560A CN110276244B CN 110276244 B CN110276244 B CN 110276244B CN 201910377560 A CN201910377560 A CN 201910377560A CN 110276244 B CN110276244 B CN 110276244B
- Authority
- CN
- China
- Prior art keywords
- image
- image data
- time
- body shape
- orientation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 230000008034 disappearance Effects 0.000 claims abstract description 77
- 230000000877 morphologic effect Effects 0.000 claims abstract description 20
- 230000037237 body shape Effects 0.000 claims description 132
- 230000001815 facial effect Effects 0.000 claims description 59
- 238000013528 artificial neural network Methods 0.000 claims description 45
- 238000012549 training Methods 0.000 claims description 25
- 230000008569 process Effects 0.000 claims description 23
- 230000002441 reversible effect Effects 0.000 claims description 17
- 238000013500 data storage Methods 0.000 claims description 12
- 230000001502 supplementing effect Effects 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 7
- 238000002372 labelling Methods 0.000 claims description 5
- 238000000605 extraction Methods 0.000 claims description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 23
- 239000000284 extract Substances 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 4
- 210000000887 face Anatomy 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000008685 targeting Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000001508 eye Anatomy 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000000214 mouth Anatomy 0.000 description 1
- 210000001331 nose Anatomy 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本申请属于人工智能技术领域,涉及形成移动轨迹的方法、装置、计算机设备及存储介质。该方法包括:获取所述目标人物的形貌特征样本;从所述形貌特征样本中提取图像特征集;在路网的图像数据比对范围内提取图像数据与所述图像特征集进行比对;当有所述图像数据与所述图像特征集的相似度超过阈值时,确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间;将所述出现方位、所述消失方位、所述出现时间以及所述消失时间标注到所述路网中形成所述目标人物的移动轨迹。该方法能够快速地生成目标人物在所述路网中的移动轨迹。
Description
技术领域
本申请属于人工智能技术领域,涉及形成移动轨迹的方法、装置、计算机设备及存储介质。
背景技术
随着城市闭路电视监控系统和道路卡口的普及,目前广泛地实时获取路网中的图像数据已经成为可能。所述城市闭路电视监控系统和所述道路卡口对于降低城市犯罪、提高城市破案率、寻找失踪人员等有着实质性的作用。
现有的技术条件下,通过所述城市闭路电视监控系统和所述道路卡口来形成目标人物的移动轨迹一般通过人工来实现。例如,通过人工识别所述目标人物并绘制所述目标人物的移动轨迹。
发明内容
本申请实施例公开了形成移动轨迹的方法、装置、计算机设备及存储介质,旨在准确而快速地形成目标人物的移动轨迹。
本申请的一些实施例公开了一种形成移动轨迹的方法。
所述形成移动轨迹的方法包括:获取所述目标人物的形貌特征样本;从所述形貌特征样本中提取图像特征集;在路网的图像数据比对范围内提取图像数据与所述图像特征集进行比对;当有所述图像数据与所述图像特征集的相似度超过阈值时,确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间;将所述出现方位、所述消失方位、所述出现时间以及所述消失时间标注到所述路网中形成所述目标人物的移动轨迹。
在本申请的一些实施例中,所述图像数据包括体形图像数据和脸部图像数据,所述图像特征集包括体形特征集和脸部特征集,所述在图像数据比对范围内提取图像数据与所述图像特征集进行比对的步骤包括:应用体形图像识别神经网络将所述体形图像数据中的各帧体形图像与所述体形特征集进行比对;计算所述各帧体形图像与所述体形特征集的第一相似度;应用脸部图像识别神经网络将所述脸部图像数据中的各帧脸部图像与所述脸部特征集进行比对;计算所述各帧脸部图像与所述脸部特征集的第二相似度。
在本申请的一些实施例中,所述在图像数据比对范围内提取图像数据与所述图像特征集进行比对的步骤还包括:当所述体形图像与所述体形特征集的所述第一相似度达到第一阈值时,将所述体形图像提供给所述体形图像识别神经网络进行图像识别增强训练;当所述脸部图像与所述脸部特征集的所述第二相似度达到第二阈值时,将所述脸部图像提供所述脸部图像识别神经网络进行图像识别增强训练。
在本申请的一些实施例中,所述确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间的步骤包括:将所述相似度超过所述阈值的所述图像数据按照时间进程形成图像序列;以所述图像序列中最早的时间点为所述出现时间,以所述图像序列中最晚的时间点为所述消失时间;应用路网识别神经网络识别与所述出现时间对应的所述图像数据中所述目标人物在所述路网中的第一方位;以所述第一方位为所述出现方位;应用所述路网识别神经网络识别与所述消失时间对应的所述图像数据中所述目标人物在所述路网中的第二方位;以所述第二方位为所述消失方位。
在本申请的一些实施例中,所述图像数据包括体形图像数据和脸部图像数据,所述相似度包括第一相似度和第二相似度;所述阈值包括第一阈值和第二阀值;所述将所述相似度超过所述阈值的所述图像数据按照时间进程形成图像序列的步骤包括:将所述第一相似度达到所述第一阈值的所述体形图像数据按照时间进程形成体形图像序列;将所述第二相似度达到所述第二阈值的所述脸部图像数据按照时间进程形成脸部图像序列;将所述体形图像序列与所述脸部图像序列进行融合得到所述图像序列。
在本申请的一些实施例中,所述将所述体形图像序列与所述脸部图像序列进行融合得到所述图像序列的步骤包括:按照所述时间进程将所述体形图像序列中的各帧体形图像与所述脸部图像序列中的各帧脸部图像进行融合;在所述体形图像序列中的一个所述时间进程的节点缺失所述体形图像时,通过所述脸部图像序列中相同所述节点的脸部图像进行补充;在所述脸部图像序列中一个所述时间进程的节点缺失所述脸部图像时,通过所述体形图像序列中相同所述节点的体形图像进行补充。
在本申请的一些实施例中,所述根据所述出现方位、所述确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间的步骤之后,所述方法还包括步骤:
根据所述出现方位、所述消失方位、所述出现时间以及所述消失时间更新所述图像数据比对范围:结合所述路网搜索所述出现方位的至少一个摄像装置以及所述消失方位的至少一个摄像装置;以所述出现时间为第一时间端点从所述出现方位的至少一个摄像装置的图像数据存储地址逆时间进程获取逆向图像数据;以所述消失时间为第二时间端点从所述消失方位的至少一个摄像装置的图像数据存储地址顺时间进程获取顺向图像数据;用所述逆向图像数据和所述顺向图像数据更新所述图像数据比对范围。
本申请的一实施例公开了一种形成移动轨迹的装置。
所述形成移动轨迹的装置包括:形貌特征样本获取模块,用于获取所述目标人物的形貌特征样本;图像特征集提取模块,用于从所述形貌特征样本中提取图像特征集;比对模块,用于在路网的图像数据比对范围内提取图像数据与所述图像特征集进行比对;目标人物确定模块,用于当有所述图像数据与所述图像特征集的相似度超过阈值时,确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间;移动轨迹标注模块,用于将所述出现方位、所述消失方位、所述出现时间以及所述消失时间标注到所述路网中形成所述目标人物的移动轨迹。
在本申请的一些实施例中,所述图像数据包括体形图像数据和脸部图像数据,所述图像特征集包括体形特征集和脸部特征集。所述比对模块包括:体形图像识别子模块,用于应用体形图像识别神经网络将所述体形图像数据中的各帧体形图像与所述体形特征集进行比对;计算所述各帧体形图像与所述体形特征集的第一相似度;脸部图像识别子模块,用于应用脸部图像识别神经网络将所述脸部图像数据中的各帧脸部图像与所述脸部特征集进行比对;计算所述各帧脸部图像与所述脸部特征集的第二相似度。
在本申请的一些实施例中,所述比对模块还包括图像识别增强训练子模块,用于当所述体形图像与所述体形特征集的所述第一相似度达到第一阈值时,将所述体形图像提供给所述体形图像识别神经网络进行图像识别增强训练;当所述脸部图像与所述脸部特征集的所述第二相似度达到第二阈值时,将所述脸部图像提供所述脸部图像识别神经网络进行图像识别增强训练。
在本申请的一些实施例中,所述目标人物确定模块包括:时间确定子模块,用于将所述相似度超过所述阈值的所述图像数据按照时间进程形成图像序列;以所述图像序列中最早的时间点为所述出现时间,以所述图像序列中最晚的时间点为所述消失时间;方位确定子模块,用于应用路网识别神经网络识别与所述出现时间对应的所述图像数据中所述目标人物在所述路网中的第一方位;以所述第一方位为所述出现方位;应用所述路网识别神经网络识别与所述消失时间对应的所述图像数据中所述目标人物在所述路网中的第二方位;以所述第二方位为所述消失方位。
在本申请的一些实施例中,所述图像数据包括体形图像数据和脸部图像数据,所述相似度包括第一相似度和第二相似度;所述阈值包括第一阈值和第二阀值;所述时间确定子模块包括:体形图像序列单元,用于将所述第一相似度达到所述第一阈值的所述体形图像数据按照时间进程形成体形图像序列;脸部图像序列单元,用于将所述第二相似度达到所述第二阈值的所述脸部图像数据按照时间进程形成脸部图像序列;融合单元,用于将所述体形图像序列与所述脸部图像序列进行融合得到所述图像序列。
在本申请的一些实施例中,所述融合单元按照所述时间进程将所述体形图像序列中的各帧体形图像与所述脸部图像序列中的各帧脸部图像进行融合;在所述体形图像序列中的一个所述时间进程的节点缺失所述体形图像时,通过所述脸部图像序列中相同所述节点的脸部图像进行补充;在所述脸部图像序列中一个所述时间进程的节点缺失所述脸部图像时,通过所述体形图像序列中相同所述节点的体形图像进行补充。
在本申请的一些实施例中,所述形成移动轨迹的装置还包括:比对范围更新模块;所述比对范围更新模块包括:摄像装置搜索子模块,用于结合所述路网搜索所述出现方位的至少一个摄像装置以及所述消失方位的至少一个摄像装置;逆向图像数据获取子模块,用于以所述出现时间为第一时间端点从所述出现方位的至少一个摄像装置的图像数据存储地址逆时间进程获取逆向图像数据;顺向图像数据获取子模块,用于以所述消失时间为第二时间端点从所述消失方位的至少一个摄像装置的图像数据存储地址顺时间进程获取顺向图像数据;图像数据图像数据更新子模块,用所述逆向图像数据和所述顺向图像数据更新所述图像数据比对范围。
本申请的一些实施例公开了一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一种形成移动轨迹的方法的步骤。
本申请的一些实施例公开了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一种形成移动轨迹的方法的步骤。
与现有技术相比,本申请公开的技术方案主要有以下有益效果:
在本申请的实施例中,所述形成移动轨迹的方法在获取到的所述形貌特征样本中提取图像特征集,在路网的图像数据比对范围内提取图像数据与所述图像特征集进行比对,进而在所述图像数据比对范围内识别出所述目标人物。当有所述图像数据与所述图像特征集的相似度超过阈值时,确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间。然后将所述出现方位、所述消失方位、所述出现时间以及所述消失时间标注到路网中形成所述目标人物的移动轨迹。所述形成移动轨迹的方法应用图像识别的人工智能技术,根据所述出现方位、所述消失方位、所述出现时间以及所述消失时间,能够准确而快速地生成所述目标人物在所述路网中的移动轨迹,可以应用于失踪人员寻找、犯罪分子行进路径分析。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。
图1为本申请的一实施例中所述形成移动轨迹的方法的示意图;
图2为本申请的一实施例中在图像数据比对范围内提取图像数据与所述图像特征集进行比对的步骤示意图;
图3为本申请的一实施例中确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间的步骤示意图;
图4为本申请的一实施例中将所述相似度超过所述阈值的所述图像数据按照时间进程形成图像序列的步骤示意图;
图5为本申请的一实施例中将所述体形图像序列与所述脸部图像序列进行融合得到所述图像序列的步骤示意图;
图6为本申请的一实施例中根据所述出现方位、所述消失方位、所述出现时间以及所述消失时间更新所述图像数据比对范围的步骤示意图;
图7为本申请的一实施例中所述形成移动轨迹的装置的示例图;
图8为本申请的一实施例中所述比对模块30的示例图;
图9为本申请的一实施例中所述目标人物确定模块40的示例图;
图10为本申请的一实施例中所述时间确定子模块41的示例图;
图11为本申请的一实施例中所述比对范围更新模块60的示例图
图12为本申请的一实施例中计算机设备100基本结构框图。
附图标记说明:
具体实施方式
为了便于理解本申请,下面将参照相关附图对本申请进行更全面的描述。附图中给出了本申请的较佳实施例。但是,本申请可以以许多不同的形式来实现,并不限于本文所描述的实施例。相反地,提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中在本申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请。
本申请的一实施例公开一种形成移动轨迹的方法,用于形成目标人物的移动轨迹。
参考图1,为本申请的一实施例中所述形成移动轨迹的方法的示意图。
如图1中所示意的,在本申请的实施例中,所述形成移动轨迹的方法包括:
S1:获取所述目标人物的形貌特征样本。
所述目标人物的所述形貌特征样本可以通过以下的方式获取。例如,所述目标人物为失踪人员时,可以由所述目标人物的亲人将所述目标人物的照片、视频等提供给警方,然后由警方将所述目标人物的照片、视频等制成所述形貌特征样本并存储在存储介质中,从所述存储介质中获取所述目标人物的所述形貌特征样本。
所述形貌特征样本包括所述目标人物的体形特征样本和脸部特征样本。所述体形特征样本包括:步履姿态的图像特征、身高与体宽的比值特征等。所述脸部特征样本包括眉、眼、鼻、口等脸部的图像特征以及各脸部构成的比例特征等。为了让所述形貌特征样本能够充分反映所述目标人物的形貌特点,并提高识别所述目标人物的准确性,在所述形貌特征样本中可以包括:所述目标人物多个角度的步履姿态的图像特征、多个角度的身高与体宽的比值特征、多个角度的脸部的图像特征以及多个角度的各脸部构成的比例特征等。
S2:从所述形貌特征样本中提取图像特征集。
所述图像特征集的提取可以结合图像数据比对范围内的图像数据进行。具体而言,判断所述图像数据包含的形貌特征内容,根据所述形貌特征内容从所述形貌特征样本中提取包含相同所述形貌特征内容的图像特征组成所述图像特征集。
S3:在图像数据比对范围内提取图像数据与所述图像特征集进行比对。
所述图像数据包括体形图像数据和脸部图像数据,所述图像特征集包括体形特征集和脸部特征集。所述体形图像数据和所述脸部图像数据可以通过以下方式获得:对从所述路网中采集到的图像进行人体体形检测和人体脸部检测,获取所述体形图像数据和所述脸部图像数据,并按照时间进程建立所述体形图像数据与所述脸部图像数据之间的映射表。
所述图像数据比对范围为选定的至少一个摄像装置在一个时间段内的体形图像数据与脸部图像数据的集合。所述摄像装置包括但不限于道路卡口、城市闭路电视监控系统中的摄像头等。
参考图2,为本申请的一实施例中在图像数据比对范围内提取图像数据与所述图像特征集进行比对的步骤示意图。
如图2中所示意的,所述在图像数据比对范围内提取图像数据与所述图像特征集进行比对的步骤包括:
S31:应用体形图像识别神经网络将所述体形图像数据中的各帧体形图像与所述体形特征集进行比对。
S32:计算所述各帧体形图像与所述体形特征集的第一相似度。
S33:应用脸部图像识别神经网络将所述脸部图像数据中的各帧脸部图像与所述脸部特征集进行比对。
S34:计算所述各帧脸部图像与所述脸部特征集的第二相似度。
所述计算所述各帧体形图像与所述体形特征集的第一相似度的方法包括:利用图像直方图计算所述第一相似度、利用平均哈希算法或感知哈希算法计算所述第一相似度、基于数学上的矩阵分解计算所述第一相似度、基于图像特征点计算第一相似度等。同样的,也可以上述方法计算所述各帧脸部图像与所述脸部特征集的第二相似度。
所述在图像数据比对范围内提取图像数据与所述图像特征集进行比对的步骤还包括:
S35:当所述体形图像与所述体形特征集的所述第一相似度达到第一阈值时,将所述体形图像提供给所述体形图像识别神经网络进行图像识别增强训练。
通过所述图像识别增强训练可以进一步提高所述体形图像识别神经网络对所述目标人物的体形图像的识别准确度。
S36:当所述脸部图像与所述脸部特征集的所述第二相似度达到第二阈值时,将所述脸部图像提供所述脸部图像识别神经网络进行图像识别增强训练。
通过所述图像识别增强训练可以进一步提高所述体形图像识别神经网络对所述目标人物的脸部图像的识别准确度。
所述体形图像识别神经网络和所述脸部图像识别神经网络可以采用卷积神经网络实现,对所述体形图像识别神经网络和所述脸部图像识别神经网络的训练过程包括两个阶段,第一阶段为初始训练阶段,第二阶段为图像识别增强训练阶段。在所述初始训练阶段通过人为选择所述目标人物的体形图像输入所述体形图像识别神经网络进行训练,通过人为选择所述目标人物的脸部图像进行训练。在所述图像识别增强训练阶段,将所述第一相似度达到所述第一阈值的所述体形图像提供给所述体形图像识别神经网络进行图像识别增强训练,扩大所述体形图像识别神经网络的训练样本,有利于提高所述体形图像识别神经网络识别的准确度;将所述第二相似度达到所述第二阈值的所述脸部图像提供所述脸部图像识别神经网络进行图像识别增强训练,扩大了所述脸部图像识别神经网络训练样本,有利于提高所述脸部图像识别神经网络识别的准确度。
在本申请的一些实施例中,所述第一阈值略大于所述第二阈值,以提高对所述目标人物体形识别的可靠程度。
需要说明的是,S31和S32与S33和S34的执行顺序并不分先后,S35与S36的执行顺序并不分先后。
S4:当有所述图像数据与所述图像特征集的相似度超过阈值时,确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间。
参考图3,为本申请的一实施例中确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间的步骤示意图。
如图3中所示意的,所述确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间的步骤包括:
S41:将所述相似度超过所述阈值的所述图像数据按照时间进程形成图像序列;以所述图像序列中最早的时间点为所述出现时间,以所述图像序列中最晚的时间点为所述消失时间。
参考图4,为本申请的一实施例中将所述相似度超过所述阈值的所述图像数据按照时间进程形成图像序列的步骤示意图。
如图4中所示意的,所述将所述相似度超过所述阈值的所述图像数据按照时间进程形成图像序列的步骤包括:
S411:将所述第一相似度达到所述第一阈值的所述体形图像数据按照时间进程形成体形图像序列。
S412:将所述第二相似度达到所述第二阈值的所述脸部图像数据按照时间进程形成脸部图像序列。
S413:将所述体形图像序列与所述脸部图像序列进行融合得到所述图像序列。
参考图5,为本申请的一实施例中将所述体形图像序列与所述脸部图像序列进行融合得到所述图像序列的步骤示意图。
如图5中所示意的,所述将所述体形图像序列与所述脸部图像序列进行融合得到所述图像序列的步骤包括:
S413a:按照所述时间进程将所述体形图像序列中的各帧体形图像与所述脸部图像序列中的各帧脸部图像进行融合。
S413b:在所述体形图像序列中的一个所述时间进程的节点缺失所述体形图像时,通过所述脸部图像序列中相同所述节点的脸部图像进行补充。
S413c:在所述脸部图像序列中一个所述时间进程的节点缺失所述脸部图像时,通过所述体形图像序列中相同所述节点的体形图像进行补充。
S42:应用路网识别神经网络识别与所述出现时间对应的所述图像数据中所述目标人物在所述路网中的第一方位;以所述第一方位为所述出现方位。
S43:应用所述路网识别神经网络识别与所述消失时间对应的所述图像数据中所述目标人物在所述路网中的第二方位;以所述第二方位为所述消失方位。
所述路网识别神经网络首先在图像中识别所述目标人物所处的环境,然后结合所述路网判断并记录所述目标人物所处的位置,将所述目标人物位置的改变映射到所述路网中,以得出所述目标人物在所述路网中的方位变化。其中,与所述出现时间对应的方位即为所述第一方位,与所述消失时间对应的方位即为所述第二方位。所述目标人物所处的位置能够反映在所述图像中,因此所述目标人物在所述路网中的位置可以通过识别所述目标人物在所述图像中的位置间接获得。所述图像包括但不限于所述脸部图像和所述体形图像。
需要说明的是,S42与S43的执行顺序并不分先后,S411与S412的执行顺序并不分先后,S413b与S413c的执行顺序并不分先后。
S5:将所述出现方位、所述消失方位、所述出现时间以及所述消失时间标注到路网中形成所述目标人物的移动轨迹。
在本申请的一些实施例中,所述形成移动轨迹的方法还包括步骤:
S6:根据所述出现方位、所述消失方位、所述出现时间以及所述消失时间更新所述图像数据比对范围。
参考图6,为本申请的一实施例中根据所述出现方位、所述消失方位、所述出现时间以及所述消失时间更新所述图像数据比对范围的步骤示意图。
如图6中所示意的,所述根据所述出现方位、所述消失方位、所述出现时间以及所述消失时间更新所述图像数据比对范围的步骤包括:
S61:结合所述路网搜索所述出现方位的至少一个摄像装置以及所述消失方位的至少一个摄像装置。
S62:以所述出现时间为第一时间端点从所述出现方位的至少一个摄像装置的图像数据存储地址逆时间进程获取逆向图像数据。
S63:以所述消失时间为第二时间端点从所述消失方位的至少一个摄像装置的图像数据存储地址顺时间进程获取顺向图像数据。
S64:用所述逆向图像数据和所述顺向图像数据更新所述图像数据比对范围。
所述址逆时间进程获取逆向图像数据指的是在比所述第一时间端点更早的时间点获取所述逆向图像数据。例如,当所述出现时间为9:00am时,以9:00am为所述第一时间端点,从所述出现方位的至少一个摄像装置的图像数据存储地址获取8:59am的所述逆向图像数据。
所述顺时间进程获取顺向图像数据指的是在比所述第二时间端点更晚的时间点获取所述顺向图像数据。例如,当所述消失时间为9:05am时,以9:05am为所述第二时间端点,从所述消失方位的至少一个摄像装置的图像数据存储地址获取9:06am的的所述顺向图像数据。
进一步参考图1,在本申请的一些实施例中,根据所述出现方位、所述消失方位、所述出现时间以及所述消失时间更新所述图像数据比对范围后,继续执行S3,即在更新后的所述图像数据比对范围内提取图像数据与所述图像特征集进行比对。S3、S4、S5以及S6循环执行,不断将所述目标人物的新的所述出现方位、所述消失方位、所述出现时间以及所述消失时间标注到路网中形成所述目标人物的连续的移动轨迹。
在本申请的实施例中,所述形成移动轨迹的方法在获取到的所述形貌特征样本中提取图像特征集,在图像数据比对范围内提取图像数据与所述图像特征集进行比对,进而在所述图像数据比对范围内识别出所述目标人物。当有所述图像数据与所述图像特征集的相似度超过阈值时,确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间。然后将所述出现方位、所述消失方位、所述出现时间以及所述消失时间标注到路网中形成所述目标人物的移动轨迹。所述形成移动轨迹的方法通过根据所述出现方位、所述消失方位、所述出现时间以及所述消失时间更新所述图像数据比对范围,进而在所述路网中的所述出现方位和所述消失方位上继续识别更新后的所述图像数据比对范围内所述目标人物,得出所述目标人物在所述路网中其余地方的出现方位、消失方位、出现时间以及消失时间。最终所述形成移动轨迹的方法能够获得所述目标人物在所述路网中完整有效的移动轨迹。所述形成移动轨迹的方法应用图像识别的人工智能技术,能够准确而快速地生成所述目标人物在所述路网中的移动轨迹,可以应用于失踪人员寻找、犯罪分子行进路径分析。
本申请的一实施例公开了一种形成移动轨迹的装置。
参考图7,为本申请的一实施例中所述形成移动轨迹的装置的示例图。
如图7中所示意的,所述形成移动轨迹的装置包括:
形貌特征样本获取模块10,用于获取所述目标人物的形貌特征样本。
图像特征集提取模块20,用于从所述形貌特征样本中提取图像特征集。
比对模块30,用于在图像数据比对范围内提取图像数据与所述图像特征集进行比对。
目标人物确定模块40,用于当有所述图像数据与所述图像特征集的相似度超过阈值时,确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间。
移动轨迹标注模块50,用于将所述出现方位、所述消失方位、所述出现时间以及所述消失时间标注到路网中形成所述目标人物的移动轨迹。
参考图8,为本申请的一实施例中所述比对模块30的示例图。
如图8中所示意的,在本申请的一些实施例中,所述比对模块30包括:
体形图像识别子模块31,用于应用体形图像识别神经网络将所述体形图像数据中的各帧体形图像与所述体形特征集进行比对,并计算所述各帧体形图像与所述体形特征集的第一相似度。
脸部图像识别子模块32,用于应用脸部图像识别神经网络将所述脸部图像数据中的各帧脸部图像与所述脸部特征集进行比对,并计算所述各帧脸部图像与所述脸部特征集的第二相似度。
在本申请的一些实施例中,所述比对模块30还包括图像识别增强训练子模块33,用于当所述体形图像与所述体形特征集的所述第一相似度达到第一阈值时,将所述体形图像提供给所述体形图像识别神经网络进行图像识别增强训练;当所述脸部图像与所述脸部特征集的所述第二相似度达到第二阈值时,将所述脸部图像提供所述脸部图像识别神经网络进行图像识别增强训练。
参考图9,为本申请的一实施例中所述目标人物确定模块40的示例图。
如图9中所示意的,在本申请的一些实施例中,所述目标人物确定模块40包括:
时间确定子模块41,用于将所述相似度超过所述阈值的所述图像数据按照时间进程形成图像序列;以所述图像序列中最早的时间点为所述出现时间,以所述图像序列中最晚的时间点为所述消失时间。
方位确定子模块42,用于应用路网识别神经网络识别与所述出现时间对应的所述图像数据中所述目标人物在所述路网中的第一方位;以所述第一方位为所述出现方位。
所述方位确定子模块42还用于应用所述路网识别神经网络识别与所述消失时间对应的所述图像数据中所述目标人物在所述路网中的第二方位;以所述第二方位为所述消失方位。
参考图10,为本申请的一实施例中所述时间确定子模块41的示例图。
如图10中所示意的,在本申请的一些实施例中,所述时间确定子模块41包括:
体形图像序列单元411,用于将所述第一相似度达到第一阈值的所述体形图像数据按照时间进程形成体形图像序列。
脸部图像序列单元412,用于将所述第二相似度达到第二阈值的所述脸部图像数据按照时间进程形成脸部图像序列。
融合单元413,用于将所述体形图像序列与所述脸部图像序列进行融合得到所述图像序列。
在本申请的一些实施例中,所述融合单元413按照所述时间进程将所述体形图像序列中的各帧体形图像与所述脸部图像序列中的各帧脸部图像进行融合;在所述体形图像序列中的一个所述时间进程的节点缺失所述体形图像时,通过所述脸部图像序列中相同所述节点的脸部图像进行补充;在所述脸部图像序列中一个所述时间进程的节点缺失所述脸部图像时,通过所述体形图像序列中相同所述节点的体形图像进行补充。
在本申请的一些实施例中,所述形成移动轨迹的装置还包括:比对范围更新模块60,用于根据所述出现方位、所述消失方位、所述出现时间以及所述消失时间更新所述图像数据比对范围。
参考图11,为本申请的一实施例中所述比对范围更新模块60的示例图。
如图11中所示意的,在本申请的一些实施例中,所述比对范围更新模块60包括:
摄像装置搜索子模块61,用于结合所述路网搜索所述出现方位的至少一个摄像装置以及所述消失方位的至少一个摄像装置。
逆向图像数据获取子模块62,用于以所述出现时间为第一时间端点从所述出现方位的至少一个摄像装置的图像数据存储地址逆时间进程获取逆向图像数据。
顺向图像数据获取子模块63,用于以所述消失时间为第二时间端点从所述消失方位的至少一个摄像装置的图像数据存储地址顺时间进程获取顺向图像数据。
图像数据更新子模块64,用所述逆向图像数据和所述顺向图像数据更新所述图像数据比对范围。
本申请的一实施例公开了一种计算机设备。具体请参考图12,为本申请的一实施例中计算机设备100基本结构框图。
如图12中所示意的,所述计算机设备100包括通过系统总线相互通信连接存储器101、处理器102、网络接口103。需要指出的是,图12中仅示出了具有组件101-103的计算机设备100,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。本技术领域技术人员应当理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器101至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,所述存储器101可以是所述计算机设备100的内部存储单元,例如该计算机设备100的硬盘或内存。在另一些实施例中,所述存储器101也可以是所述计算机设备100的外部存储设备,例如该计算机设备100上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。当然,所述存储器101还可以既包括所述计算机设备100的内部存储单元也包括其外部存储设备。本实施例中,所述存储器101通常用于存储安装于所述计算机设备100的操作系统和各类应用软件,例如上述形成移动轨迹的方法的程序代码等。此外,所述存储器101还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器102在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器102通常用于控制所述计算机设备100的总体操作。本实施例中,所述处理器102用于运行所述存储器101中存储的程序代码或者处理数据,例如运行上述形成移动轨迹的方法的程序代码。
所述网络接口103可包括无线网络接口或有线网络接口,该网络接口103通常用于在所述计算机设备100与其他电子设备之间建立通信连接。
本申请还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有单据信息录入程序,所述单据信息录入程序可被至少一个处理器执行,以使所述至少一个处理器执行上述任意一种形成移动轨迹的方法的步骤。
最后应说明的是,显然以上所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例,附图中给出了本申请的较佳实施例,但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现,相反地,提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明,对于本领域的技术人员来而言,其依然可以对前述各具体实施方式所记载的技术方案进行修改,或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构,直接或间接运用在其他相关的技术领域,均同理在本申请专利保护范围之内。
Claims (9)
1.一种形成移动轨迹的方法,用于形成目标人物的移动轨迹,其特征在于,包括:
获取所述目标人物的形貌特征样本,所述形貌特征样本包括所述目标人物的体形特征样本和脸部特征样本;
从所述形貌特征样本中提取图像特征集;
在路网的图像数据比对范围内提取图像数据与所述图像特征集进行比对;
当有所述图像数据与所述图像特征集的相似度超过阈值时,确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间;
根据所述出现方位、所述消失方位、所述出现时间以及所述消失时间更新所述图像数据比对范围:
结合所述路网搜索所述出现方位的至少一个摄像装置以及所述消失方位的至少一个摄像装置;
以所述出现时间为第一时间端点从所述出现方位的至少一个摄像装置的图像数据存储地址逆时间进程获取逆向图像数据;
以所述消失时间为第二时间端点从所述消失方位的至少一个摄像装置的图像数据存储地址顺时间进程获取顺向图像数据;
用所述逆向图像数据和所述顺向图像数据更新所述图像数据比对范围;
将所述出现方位、所述消失方位、所述出现时间以及所述消失时间标注到所述路网中形成所述目标人物的移动轨迹。
2.根据权利要求1所述形成移动轨迹的方法,其特征在于,所述图像数据包括体形图像数据和脸部图像数据,所述图像特征集包括体形特征集和脸部特征集,所述在路网的图像数据比对范围内提取图像数据与所述图像特征集进行比对的步骤包括:
应用体形图像识别神经网络将所述体形图像数据中的各帧体形图像与所述体形特征集进行比对;计算所述各帧体形图像与所述体形特征集的第一相似度;
应用脸部图像识别神经网络将所述脸部图像数据中的各帧脸部图像与所述脸部特征集进行比对;计算所述各帧脸部图像与所述脸部特征集的第二相似度。
3.根据权利要求2所述形成移动轨迹的方法,其特征在于,所述在路网的图像数据比对范围内提取图像数据与所述图像特征集进行比对的步骤还包括:
当所述体形图像与所述体形特征集的所述第一相似度达到第一阈值时,将所述体形图像提供给所述体形图像识别神经网络进行图像识别增强训练;
当所述脸部图像与所述脸部特征集的所述第二相似度达到第二阈值时,将所述脸部图像提供所述脸部图像识别神经网络进行图像识别增强训练。
4.根据权利要求1所述形成移动轨迹的方法,其特征在于,所述确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间的步骤包括:
将所述相似度超过所述阈值的所述图像数据按照时间进程形成图像序列;以所述图像序列中最早的时间点为所述出现时间,以所述图像序列中最晚的时间点为所述消失时间;
应用路网识别神经网络识别与所述出现时间对应的所述图像数据中所述目标人物在所述路网中的第一方位;以所述第一方位为所述出现方位;
应用所述路网识别神经网络识别与所述消失时间对应的所述图像数据中所述目标人物在所述路网中的第二方位;以所述第二方位为所述消失方位。
5.根据权利要求4所述形成移动轨迹的方法,其特征在于,所述图像数据包括体形图像数据和脸部图像数据,所述相似度包括第一相似度和第二相似度;所述阈值包括第一阈值和第二阈值;所述将所述相似度超过所述阈值的所述图像数据按照时间进程形成图像序列的步骤包括:
将所述第一相似度达到所述第一阈值的所述体形图像数据按照时间进程形成体形图像序列;
将所述第二相似度达到所述第二阈值的所述脸部图像数据按照时间进程形成脸部图像序列;
将所述体形图像序列与所述脸部图像序列进行融合得到所述图像序列。
6.根据权利要求5所述形成移动轨迹的方法,其特征在于,所述将所述体形图像序列与所述脸部图像序列进行融合得到所述图像序列的步骤包括:
按照所述时间进程将所述体形图像序列中的各帧体形图像与所述脸部图像序列中的各帧脸部图像进行融合;
在所述体形图像序列中的一个所述时间进程的节点缺失所述体形图像时,通过所述脸部图像序列中相同所述节点的脸部图像进行补充;
在所述脸部图像序列中一个所述时间进程的节点缺失所述脸部图像时,通过所述体形图像序列中相同所述节点的体形图像进行补充。
7.一种形成移动轨迹的装置,用于形成目标人物的移动轨迹,其特征在于,所述形成移动轨迹的装置用于执行实现如权利要求1至6中任一项所述形成移动轨迹的方法的步骤,所述形成移动轨迹的装置包括:
形貌特征样本获取模块,用于获取所述目标人物的形貌特征样本;
图像特征集提取模块,用于从所述形貌特征样本中提取图像特征集;
比对模块,用于在路网的图像数据比对范围内提取图像数据与所述图像特征集进行比对;
目标人物确定模块,用于当有所述图像数据与所述图像特征集的相似度超过阈值时,确定所述目标人物在所述图像数据比对范围内的出现方位、消失方位、出现时间以及消失时间;
移动轨迹标注模块,用于将所述出现方位、所述消失方位、所述出现时间以及所述消失时间标注到所述路网中形成所述目标人物的移动轨迹。
8.一种计算机设备,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至6中任一项所述形成移动轨迹的方法的步骤。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述形成移动轨迹的方法的步骤。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910377560.1A CN110276244B (zh) | 2019-05-07 | 2019-05-07 | 形成移动轨迹的方法、装置、计算机设备及存储介质 |
PCT/CN2019/103180 WO2020224116A1 (zh) | 2019-05-07 | 2019-08-29 | 形成移动轨迹的方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910377560.1A CN110276244B (zh) | 2019-05-07 | 2019-05-07 | 形成移动轨迹的方法、装置、计算机设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110276244A CN110276244A (zh) | 2019-09-24 |
CN110276244B true CN110276244B (zh) | 2024-04-09 |
Family
ID=67959802
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910377560.1A Active CN110276244B (zh) | 2019-05-07 | 2019-05-07 | 形成移动轨迹的方法、装置、计算机设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN110276244B (zh) |
WO (1) | WO2020224116A1 (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101163940A (zh) * | 2005-04-25 | 2008-04-16 | 株式会社吉奥技术研究所 | 摄影位置分析方法 |
CN107423674A (zh) * | 2017-05-15 | 2017-12-01 | 广东数相智能科技有限公司 | 一种基于人脸识别的寻人方法、电子设备及存储介质 |
CN107644204A (zh) * | 2017-09-12 | 2018-01-30 | 南京凌深信息科技有限公司 | 一种用于安防系统的人体识别与跟踪方法 |
CN108288025A (zh) * | 2017-12-22 | 2018-07-17 | 深圳云天励飞技术有限公司 | 一种车载视频监控方法、装置及设备 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107909025B (zh) * | 2017-11-13 | 2021-12-24 | 深圳市戴升智能科技有限公司 | 基于视频和无线监控的人物识别及追踪方法和系统 |
CN109194619A (zh) * | 2018-08-06 | 2019-01-11 | 湖南深纳数据有限公司 | 一种应用于智慧安防的大数据服务系统 |
-
2019
- 2019-05-07 CN CN201910377560.1A patent/CN110276244B/zh active Active
- 2019-08-29 WO PCT/CN2019/103180 patent/WO2020224116A1/zh active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101163940A (zh) * | 2005-04-25 | 2008-04-16 | 株式会社吉奥技术研究所 | 摄影位置分析方法 |
CN107423674A (zh) * | 2017-05-15 | 2017-12-01 | 广东数相智能科技有限公司 | 一种基于人脸识别的寻人方法、电子设备及存储介质 |
CN107644204A (zh) * | 2017-09-12 | 2018-01-30 | 南京凌深信息科技有限公司 | 一种用于安防系统的人体识别与跟踪方法 |
CN108288025A (zh) * | 2017-12-22 | 2018-07-17 | 深圳云天励飞技术有限公司 | 一种车载视频监控方法、装置及设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2020224116A1 (zh) | 2020-11-12 |
CN110276244A (zh) | 2019-09-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109657533B (zh) | 行人重识别方法及相关产品 | |
CN109558832B (zh) | 一种人体姿态检测方法、装置、设备及存储介质 | |
CN110197146B (zh) | 基于深度学习的人脸图像分析方法、电子装置及存储介质 | |
CN109145742B (zh) | 一种行人识别方法及系统 | |
WO2021139324A1 (zh) | 图像识别方法、装置、计算机可读存储介质及电子设备 | |
CN110659589B (zh) | 基于姿态和注意力机制的行人再识别方法、系统、装置 | |
WO2019033574A1 (zh) | 电子装置、动态视频人脸识别的方法、系统及存储介质 | |
CN110503076B (zh) | 基于人工智能的视频分类方法、装置、设备和介质 | |
CN110706247B (zh) | 一种目标跟踪方法、装置及系统 | |
TWI712980B (zh) | 理賠資訊提取方法和裝置、電子設備 | |
CN112364827B (zh) | 人脸识别方法、装置、计算机设备和存储介质 | |
US20180349716A1 (en) | Apparatus and method for recognizing traffic signs | |
CN114155284A (zh) | 基于多目标行人场景的行人跟踪方法、装置、设备及介质 | |
CN111667001A (zh) | 目标重识别方法、装置、计算机设备和存储介质 | |
CN114049512A (zh) | 模型蒸馏方法、目标检测方法、装置及电子设备 | |
WO2021169642A1 (zh) | 基于视频的眼球转向确定方法与系统 | |
CN111898561A (zh) | 一种人脸认证方法、装置、设备及介质 | |
CN111582027B (zh) | 身份认证方法、装置、计算机设备和存储介质 | |
CN111291612A (zh) | 一种基于多人多摄像头跟踪的行人重识别方法及装置 | |
CN109858464B (zh) | 底库数据处理方法、人脸识别方法、装置和电子设备 | |
CN112070744B (zh) | 一种人脸识别的方法、系统、设备及可读存储介质 | |
CN113591921A (zh) | 图像识别方法及装置、电子设备、存储介质 | |
CN113706550A (zh) | 图像场景识别和模型训练方法、装置和计算机设备 | |
CN110210425B (zh) | 人脸识别方法、装置、电子设备及存储介质 | |
CN110276244B (zh) | 形成移动轨迹的方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |