CN108733679B - 一种行人检索方法、装置和系统 - Google Patents

一种行人检索方法、装置和系统 Download PDF

Info

Publication number
CN108733679B
CN108733679B CN201710245868.1A CN201710245868A CN108733679B CN 108733679 B CN108733679 B CN 108733679B CN 201710245868 A CN201710245868 A CN 201710245868A CN 108733679 B CN108733679 B CN 108733679B
Authority
CN
China
Prior art keywords
image
detection area
features
sub
index
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710245868.1A
Other languages
English (en)
Other versions
CN108733679A (zh
Inventor
校利虎
陈茂林
白博
骆立俊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN201710245868.1A priority Critical patent/CN108733679B/zh
Publication of CN108733679A publication Critical patent/CN108733679A/zh
Application granted granted Critical
Publication of CN108733679B publication Critical patent/CN108733679B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Abstract

一种行人检索方法、装置和系统。所述行人检索方法包括接收图像查询请求,图像查询请求包括查询图像,提取查询图像的检测区域所包括的多个子检测区域的特征,当确定任意两个子检测区域的特征的差值中的至少一个差值大于预设阈值时,利用查询图像的检测区域中的至少一个子检测区域的特征进行图像检索。对于查询图像中任意两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值的情况,该查询图像中的不同子检测区域对应的图像内容在另一个视角的图像中很可能不会同时出现,因此,利用查询图像的子检测区域的特征而不是整个检测区域的特征进行图像检索能够提高检索准确率。

Description

一种行人检索方法、装置和系统
技术领域
本发明涉及数据分析、检索技术领域,尤其涉及一种行人检索方法、装置和系统。
背景技术
随着人们对社会的公共安全越来越深入的密切关注,越来越多的政府研究机构和公司致力于相关的视频采集、存储和视频的内容分析技术的研发。在诸如商场、学校、大型广场、地铁站等人群密集易发生公共安全事件的场所,已经部署了大量的监控摄像头。传统的人工分析已经无法满足实际的需要,因此利用计算机对监控视频中的行人进行检索的应用需求得到快速发展。
传统的行人检索方法,在入库流程中,是对实时的行人检测的序列图像经过预处理,选择出具有代表性的关键帧,再进行全局特征抽取并构建索引。在查询时,也是采用同样的流程,对输入的查询图像进行特征抽取,并在索引数据库中进行检索,得到最终的查询结果。
但是,在实际的应用中,图像的不同视角存在较大的差异。传统的行人检索方法不会考虑图像在不同视角可能存在的不同特征。从而导致索引数据库中可能包括与查询图像相对应的索引图片,而不能被检索到。在一种现有技术中,基于在线聚类提取检测区域的特征并对所述特征进行重检索的方法。以只包含单个行人的矩形图像作为输入图像,经前景提取和在线聚类提取得到检测区域。再将检测区域的统计特征作为局部特征应用于人物重检索。该方法虽然采用自适应聚类来提取行人图像的局部区域进行比对。但是,无法有效处理跨视角等图像表观差异较大的情况。
发明内容
本发明实施例提供了一种行人检索方法、装置和系统,可以解决现有技术中因为不考虑不同视角中可能存在部分相同的特征而导致的检索不准确的问题。
一方面,本发明具体实施例提供一种行人检索方法。所述方法包括接收图像查询请求,所述图像查询请求包括查询图像。提取所述查询图像的检测区域所包括的多个子检测区域的特征。当确定任意两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值时,利用所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索。
对于查询图像中任意两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值的情况,该查询图像中的不同子检测区域对应的图像内容在另一个视角的图像中很可能不会同时出现,因此,利用查询图像的子检测区域的特征而不是整个检测区域的特征进行图像检索能够提高检索准确率。
在一个可能的设计中,当确定任意两个子检测区域的特征的差值均小于预设阈值时,利用所述查询图像的检测区域的特征进行图像检索。由于多个子检测区域的相差较小,通过子检测区域进行检索时并不能检索出差别较大的索引图像,从而通过检测区域的特征进行检索,降低了系统的消耗。
在一个可能的设计中,所述利用所述查询图像的检测区域的特征进行图像检索具体包括:利用所述查询图像的检测区域的特征在索引数据库中检索与所述检测区域的特征相匹配的特征,并获取与所述检测区域的特征相匹配的特征所对应的索引图像。通过检索与检测区域的特征相匹配的特征,从而确定与相匹配的特征相对应的索引图像。
在一个可能的设计中,所述利用所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索具体包括:利用所述查询图像的检测区域中的至少一个子检测区域的特征在所述索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征,并获取与所述至少一个子检测区域的特征相匹配的特征所对应的索引图像。通过检索与子检测区域的特征相匹配的特征,从而确定与相匹配的特征相对应的索引图像。
在一个可能的设计中,所述索引数据库包括第一索引图像的检测区域的特征和第二索引图像的检测区域中的各子检测区域的特征。
在一个可能的设计中,提取所述第一索引图像的检测区域所包括的各子检测区域的特征。确定所述第一索引图像的任意两个子检测区域的特征的差值均小于预设阈值。将所述检测区域的特征添加到所述索引数据库。根据索引图像的任意两个子检测区域的特征的差值与预设阈值的关系,来确定所述索引图像整体一致或不一致
在一个可能的设计中,提取所述第二索引图像的检测区域所包括的各子检测区域的特征。确定所述第二索引图像的任两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值。将所述第二索引图像的检测区域所包括的各子检测区域的特征添加到所述索引数据库。根据索引图像的任意两个子检测区域的特征的差值与预设阈值的关系,来确定所述索引图像整体一致或不一致
在一个可能的设计中,所述索引数据库包括第一索引数据库和第二索引数据库,其中,所述第一索引数据库用于存储所述第一索引图像的检测区域的特征,所述第二索引数据库用于存储所述第二索引图像的检测区域中的各子检测区域的特征。对于检测区域的特征和子检测区域的特征分别创建数据库,从而方便检索。
在一个可能的设计中,所述利用所述查询图像的检测区域的特征在索引数据库中检索与所述检测区域的特征相匹配的特征具体包括:利用所述查询图像的检测区域的特征在所述第一索引数据库中检索与所述检测区域的特征相匹配的特征。
在一个可能的设计中,所述利用所述查询图像的检测区域中的至少一个子检测区域的特征在所述索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征具体包括:利用所述查询图像的检测区域中的至少一个子检测区域的特征在所述第二索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征。
在一个可能的设计中,所述特征包括颜色特征、纹理特征和高维特征中的至少一种。通过多种特征来判定图像的特征值。
第二方面,本发明具体实施例提供一种行人检索装置。包括接收单元和处理单元。所述接收单元,用于接收图像查询请求,所述图像查询请求包括查询图像。处理单元,用于提取所述查询图像的检测区域所包括的多个子检测区域的特征;当确定任意两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值时,还用于根据所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索。
在一个可能的设计中,所述处理单元,用于根据所述查询图像的检测区域的特征进行图像检索具体包括:利用所述查询图像的检测区域的特征在索引数据库中检索与所述检测区域的特征相匹配的特征,并获取与所述检测区域的特征相匹配的特征所对应的索引图像。
在一个可能的设计中,所述处理单元,用于根据所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索具体包括:利用所述查询图像的检测区域中的至少一个子检测区域的特征在所述索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征,并获取与所述至少一个子检测区域的特征相匹配的特征所对应的索引图像。
在一个可能的设计中,所述索引数据库包括第一索引图像的检测区域的特征和第二索引图像的检测区域中的各子检测区域的特征。
在一个可能的设计中,所述处理单元还用于提取所述第一索引图像的检测区域所包括的各子检测区域的特征。确定所述第一索引图像的任意两个子检测区域的特征的差值均小于预设阈值。将所述检测区域的特征添加到所述索引数据库。
在一个可能的设计中,所述处理单元,还用于提取所述第二索引图像的检测区域所包括的各子检测区域的特征。确定所述第二索引图像的任两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值。将所述第二索引图像的检测区域所包括的各子检测区域的特征添加到所述索引数据库。
在一个可能的设计中,所述索引数据库包括第一索引数据库和第二索引数据库,其中,所述第一索引数据库用于存储所述第一索引图像的检测区域的特征,所述第二索引数据库用于存储所述第二索引图像的检测区域中的各子检测区域的特征。
在一个可能的设计中,所述处理单元,用于根据所述查询图像的检测区域的特征在索引数据库中检索与所述检测区域的特征相匹配的特征具体包括:利用所述查询图像的检测区域的特征在所述第一索引数据库中检索与所述检测区域的特征相匹配的特征。
在一个可能的设计中,所述处理单元,用于根据所述查询图像的检测区域中的至少一个子检测区域的特征在所述索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征具体包括:利用所述查询图像的检测区域中的至少一个子检测区域的特征在所述第二索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征。
在一个可能的设计中,所述特征包括颜色特征、纹理特征和高维特征中的至少一种。
第三方面,本发明具体实施例提供一种行人检索装置。包括处理器、存储器、通信接口和系统总线,所述存储器和所述通信接口通过所述系统总线与所述处理器连接并完成相互间的通信,所述存储器用于存储计算机执行指令,所述通信接口用于和其他设备进行通信,所述处理器用于运行所述计算机执行指令,使所述行人检索装置执行如权利要求第一方面所述的方法。
第四方面,本发明具体实施例提供一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行如第一方面所述的方法。
附图说明
图1为本发明实施例提供的一种行人检索系统架构图;
图2为本发明具体实施例提供的一种行人检索方法流程;
图3-1为本发明具体实施例提供的一种预先划分的子检测区域;
图3-2为本发明具体实施例提供的一种子检测区域划分示意图;
图4为本发明具体实施例提供的一种索引图像;
图5为本发明具体实施例提供的一种行人检索装置;
图6为一种控制面节点的结构示意图。
具体实施方式
下面通过附图和实施例,对本发明实施例的技术方案做进一步的详细描述。
本发明具体实施例提供一种行人检索方法、装置和系统。包括判断索引图像的检测区域的整体一致性。对于整体一致的索引图像,将所述索引图像的检测区域的特征存储到索引数据库。对于整体不一致的索引图像,将所述索引图像中检测区域的子检测区域的特征存储到索引数据库。
在通过上述索引数据库对查询图像进行检索时,根据查询图像的特征判断查询图像的整体一致性。当所述查询图像整体一致时,通过查询图像的检测区域的特征在第一索引数据库和/或第二索引数据库进行查询。当所述查询图像整体不一致时,通过查询图像的子检测区域的特征从第二索引数据库和/或第一索引数据库中进行检索。
对于整体不一致的索引图像,由于子检测区域之间的差值较大,该查询图像中的不同子检测区域对应的图像内容在另一个视角的图像中很可能不会同时出现,因此,利用查询图像的子检测区域的特征而不是整个检测区域的特征进行图像检索能够提高检索准确率。
图1为本发明实施例提供的一种行人检索系统架构图。如图1所示,所述系统包括数据处理设备、智能分析平台、存储设备、客户端和图像检索设备。在本发明的具体实施例中,所述行人检索系统至少可用于执行索引数据库的创建流程和根据所述查询图像对创建的索引数据库进行检索的流程。
需要说明的是,上述行人检索系统架构仅为本发明具体实施例的一种具体的实现方法,而不能用于对本发明具体实施例的限定。在一个例子中,所述行人检索系统中,图像检索设备和智能分析平台可以为一个实体设备。在另一个例子中,所述数据处理设备、图像检索设备和智能分析平台可以为一个实体设备。
在所述索引数据库的创建流程中,所述数据处理设备用于确定索引图像,并将所述索引图像向智能分析平台发送。所述智能分析平台包括用于确定索引图像的检测区域的特征,或检测区域中包括的子检测区域的特征。
所述存储设备包括图像存储模块和特征存储模块,所述图像存储模块用于存储索引图像,所述特征存储模块用于存储索引图像的检测区域或子检测区域的特征。在本发明的具体实施例中,所述特征存储模块可以与上述或下述的索引数据库相同。例如,所述特征存储模块包括相似特征存储模块和不相似特征存储模块,所述相似特征存储模块与第一索引数据库相对应,不相似特征存储模块与第二索引数据库相对应。
其中,所述特征存储模块中还包括所述特征与图像存储模块中存储的索引图像的对应关系。从而在特征存储模块中检索到特征时,找到与所述特征相对应的索引图像。
在所述查询图像的检索流程中,客户端向智能分析平台发送图像查询请求,所述图像查询请求包括查询图像。智能分析平台接收客户端发送的图像查询请求,根据所述图像查询请求确定查询图像的检测区域所包括的各个子检测区域的特征。当任意两个子检测区域的特征的差值均小于预设阈值时,可以认为所述查询图像整体一致,相应地,所述图像检索设备根据智能分析平台确定的查询图像的检测区域的特征进行图像检索。当任意两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值时,可以认为所述查询图像整体不一致,相应地,所述图像检索设备根据智能分析平台确定的所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索。
通过上述方式来确定特征存储模块中存储的与查询图像的特征相对应的特征。根据所述特征确定图像存储模块中存储的索引图像,并将所述索引图像向客户端发送。
具体的,对索引数据库创建的具体流程进行说明。
所述数据处理设备用于获取视频数据,从所述视频数据中识别并截取出行人的图像,以形成索引图像。将所述索引图像向智能分析平台发送。在本发明的具体实施例中,所述数据处理设备还可以对截取的行人图像进行存储。
在一个例子中,对视频数据中识别并截取的行人的图像可以是,对一个行人截取多张图像,形成所述行人的索引图像序列。将所述行人的索引图像序列向智能分析平台发送,以通过所述智能分析平台的处理将所述行人的索引图像序列创建索引。
所述智能分析平台接收所述数据处理设备发送的索引图像,对所述索引图像创建索引。其中,索引图像包括检测区域,所述检测区域为上半身检测区域和/或下半身检测区域。通过对检测区域进行整体一致性判断,确定所述图像整体一致或整体不一致。
在本发明的具体实施例中,所述智能分析平台还将所述检测区域划分为多个子检测区域。分别对所述多个子检测区域提取特征,通过所述多个子检测区域的特征来判断所述索引图像整体是否相似。所述索引图像的子检测区域的特征可以是颜色特征和纹理特征等多方面的特征。
当索引图像的检测区域中的任意两个子检测区域的特征的差值均小于预设阈值时,确定所述查询图像整体一致。当索引图像的检测区域中的任意两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值时,确定所述查询图像整体不一致。
具体的,所述索引图像的的整体一致性可以用每两个子特征之间的差值来判断。例如,索引图像的检测区域包括第一子检测区域和第二子检测区域。其中,第一子检测区域的特征为A,第二子检测区域的特征为B。当特征A与特征B的差值小于预设的阈值,则判断所述索引图像的检测区域整体一致。当特征A与特征B的差值大于预设的阈值,则判断所述索引图像的检测区域整体不一致。
在另一个例子中,索引图像的检测区域包括第一子检测区域、第二子检测区域和第三子检测区域。其中,第一子检测区域的特征为A,第二子检测区域的特征为B,第三子检测区域的特征为C。当特征A与特征B之差、特征A与特征C之差和特征B与特征C之差均小于预设阈值时,判断所述索引图像的检测区域整体一致。当特征A与特征B之差或特征A与特征C之差或特征B与特征C之差中的至少一个差值大于预设的阈值,则判断所述索引图像的检测区域整体不一致。
所述智能分析平台在确定索引图像的检测区域的整体一致性后,将所述索引图像的特征存储至特征存储模块。例如,所述特征存储模块包括第一索引数据库和第二索引数据库。当所述索引图像整体一致时,将所述索引图像的特征存储在第一索引数据库中。当所述索引图像整体不一致时,将所述索引图像的特征存储在第二索引数据库中。
需要说明的是,上述第一索引数据库和第二索引数据图仅为本发明具体实施例的举例。第一索引数据库和第二索引数据库不用于表示只有一个第一索引数据库和一个第二索引数据库。只要用于存储检测区域的特征的数据库,均为第一索引数据库,只要是用于存储子检测区域特征的数据块,均为第二索引数据库。
在本发明的具体实施例中,当所述智能分析平台接收到包括N张索引图像的索引图像序列时,所述智能分析平台还从所述N张索引图像中选择出具有代表性的M张索引图像。其中,所述M和N为大于1的正整数,所述M小于等于N。所述智能分析平台分别对M张索引图像创建索引。
具体的,对查询图像的具体流程进行说明。
用户可以对客户端进行操作。当用户需要对图像进行查询时,通过客户端向智能分析平台发送查询请求,所述查询请求包括需要查询的查询图像。
所述智能分析平台接收客户端发送的查询请求。并根据所述请求中包括的查询图像,确定所述查询图像整体是否一致。所述确定查询图像整体一致性与上述对索引图像创建索引时确定索引图像整体一致性相同,本发明对此不再敖述。
在所述智能分析平台确定所述查询图像整体一致性和所述查询图像的检测区域或子检测区域的特征时,将所述查询图像整体一致性和所述查询图像的检测区域或子检测区域的特征向图像检索设备发送。所述图像检索设备根据查询图像整体的整体一致性和特征,在第一索引数据和/或第二索引数据库中进行检索。
在所述图像检索设备确定多个相似特征时,根据所述特征与索引图像的对应关系,将特征存储模块中存储的与检索结果对应的特征的图像向用户发送,以通过客户端确定最终的检索结果。
为了对本发明具体实施例中索引数据库的创建和查询图像的检索进行更加详细的说明,下面通过具体的方法流程进行说明。所述方法可以应用在图1所述的行人检索系统中。
图2为本发明具体实施例提供的一种行人检索方法流程。如图2所示,在对所述行人进行检索前,所述方法还包括创建索引数据库。
所述创建索引数据库包括创建第一索引数据库和第二索引数据库,所述第一索引数据库包括第一索引图像的检测区域的特征,所述第二索引数据库存储第二索引图像的子检测区域的特征。其中,所述第一索引图像整体相似,第二索引图像整体不相似。
在创建索引数据库前,所述方法还包括获取索引图像。所述索引图像包括第一索引图像和第二索引图像,通过判断所述索引图像的整体一致性,创建第一索引数据库或第二索引数据库。当所述索引图像整体相似时,将索引图像的检测区域的特征存储至第一索引数据库。当所述索引图像整体不一致时,将索引图像的检测区域的子检测区域的特征存储至第二索引数据库。其中,所述索引图像可以包括检测区域,所述检测区域还包括多个子检测区域。在一个例子中,所述索引图像为行人图像,所述行人图像中,所述行人的上半身和/或行人的下半身为检测区域。
在本发明的具体实施例中,所述方法还可以是获取索引图像序列,所述索引图像序列包括多张索引图像。在本发明的具体实施例中,索引图像序列中包括的多张索引图像可能存在相同的特征,为了避免对特征相同的索引图像的特征进行存储,从而导致存储空间的浪费,在本发明的具体实施例中,还需要从索引图像序列包括的多张索引图像中选择部分索引图像创建索引。所述对索引图像序列中包括的多张索引图像创建索引与单张索引图像创建索引相同,本发明对此不再敖述。
检测区域的特征可以包括该检测区域的颜色特征和纹理特征等一个或多个方面的特征。子检测区域的特征可以是该子检测区域的颜色特征和纹理特征等一个或多个方面的特征。例如,单独根据颜色或纹理或形状对一个特征进行描述。当然,也可以将颜色和纹理中的任意一项或多项的组合进行描述。
在本发明的具体实施例中,对检测区域划分为多个子检测区域可以采用多种方法。例如,可以是预先划分的子检测区域,也可以是根据检测的纹理特征、颜色特征自动划分为多个子检测区域。
图3-1为本发明具体实施例提供的一种预先划分的子检测区域。图3-2为本发明具体实施例提供的一种子检测区域划分示意图。如图3-1所述,包括三种不同的划分方法。其中,划分方法“A”将子检测区域分为1、2、3三个子检测区域,例如,图3-2所示的索引图像A所示。划分方法“B”将子检测区域划分为1和2两个子检测区域,其中,1和2左右分割,例如,图3-2所示的索引图像B所示。划分方法“C”将子检测区域划分为1和2两个子检测区域,其中,1和2上下分割,例如,图3-2所示的索引图像C所示。
在本发明的具体实施例中,可以固定采用一种划分方式。在另一种可能中,也可以同时采用多种划分方式。针对每种划分方式判断索引图像的整体是否相似,当其中一种判断划分方式判断索引图像整体不相似时,以不相似的划分方式进行存储。
所述索引图像的检测区域的整体一致性可以通过子检测区域的差值来确定。当检测区域中每两个子检测区域的特征的差值均小于预设的阈值时,确定所述索引图像整体一致。当检测区域中每两个子检测区域的特征的差值中,至少一个差值大于预设的阈值时,确定所述索引图像整体不一致。
两个子检测区域的特征的差值是两个子检测区域的特征对应的特征值的差值。
例如,提取第一索引图像的检测区域所包括的各子检测区域的特征。确定所述第一索引图像的任两个子检测区域的特征的差值均小于预设阈值,将所述第一索引图像的检测区域的特征添加到所述索引数据库。提取第二索引图像的检测区域所包括的各子检测区域的特征。确定所述第二索引图像的任意两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值,将所述第二索引图像的检测区域所包括的子检测区域的特征添加到所述索引数据库。
图4为本发明具体实施例提供的一种索引图像。如图4所示,包括索引图像A和索引图像B。其中,所述索引图像A的检测区域包括第一子检测区域、第二子检测区域和第三子检测区域。其中,第一子检测区域的特征值为X,第二子检测区域的特征值为Y,第三子检测区域的特征值为Z。
所述索引图像B包括第四子检测区域和第五子检测区域。其中,第四子检测区域的特征值为з,第五子检测区域的特征值为λ。
在判断所述索引图像A的整体一致性时,通过索引图像A中包括的特征对应的特征值两两求差来判断。在判断所述索引图像B的整体一致性时,通过索引图像B中包括的特征对应的特征值两两求差来判断。
当所述特征值的差值小于所述预设的阈值时,判断所述索引图像整体一致。当所述特征值的差值大于所述预设的阈值时,判断所述索引图像整体不一致。
具体的,在判断索引图像B整体是否一致时,根据:
|з-λ|>δ
来进行判断。其中,δ为预设阈值。
当计算结果大于δ时,确定所述索引图像B整体不一致。当计算结果小于δ时,确定所述索引图像B整体一致。
具体的,在判断索引图像A的整体一致性时,根据:
|X-Y|>δ1
|X-Z|>δ1
|Y-Z|>δ1
来进行判断,其中,δ1为预设阈值。
当至少一组的计算结果大于δ1时,确定所述索引图像A整体不一致。当每组的计算结果均小于δ1时,确定所述索引图像A整体一致。
在一个例子中,根据索引图像序列的多张索引图像的整体一致性来判断所述索引图像序列的整体一致性可以通过多种方式进行判断。例如,根据整体一致和整体不一致的索引图像的数量来判断。当整体一致的索引图像的数量大于整体不一致的索引图像的数量时,确定所述索引图像序列中的各个索引图像整体一致。当整体不一致的索引图像的数量大于整体一致的索引图像的数量时,确定所述索引图像序列整体不一致。当所述整体一致的索引图像的数量与整体不一致的索引图像的数量相同时,优先将所述索引图像序列按照整体不一致进行存储。当然,在所述整体一致的索引图像的数量与整体不一致的索引图像的数量相同时也可以将所述索引图像序列优先按照整体一致进行存储。
所述根据索引图像的整体一致性,将整体一致的索引图像的检测区域的特征存储至第一索引数据库中,将整体不一致的索引图像的子检测区域的特征存储至第二索引数据库中。
确定索引图像的整体一致性后,还将索引图像存储至图像数据库。其中,所述图像数据库中存储的索引图像与第一索引数据库和第二索引数据库的索引图像的特征包括对应关系。从而通过检索所述第一索引数据库和第二索引数据库中的特征,找到与所述特征相对应的索引图像。
可选的,将索引图像的检测区域的特征和子检测区域的特征存储至第一索引数据库和第二索引数据库时,还可以根据所述特征的特征值对所述索引图像的特征进行存储。具体的,所述第一索引数据库和第二索引数据库分别包括多个哈希表项;一个哈希表项对应一个特征值的范围。将索引图像的检测区域特征存储至第一索引数据库或将索引图像的子检测区域的特征存储至第一索引数据库和第二索引数据库时根据所述特征的特征值和所述多个哈希表项的对应关系进行存储。
通过在所述索引数据库中引入哈希表项,将所述索引图像的特征根据所述哈希表项进行存储。使查询图像检索时,首先根据查询图像的检测区域或子检测区域包括的特征的特征值,确定一个哈希表项,在所述哈希表项所对应的特征中进行检索,从而减少了图像检索的范围。从而,提高可图像检索的效率,降低了资源的消耗。
在本发明的上述实施例中,在创建索引时,将所述索引图像分为整体一致整体不一致,使查询图像在检索时更加有针对性。对整体区别较大的查询图像,对每个子检测区域的特征分别在第一索引数据库和/或第二索引数据库中查询,达到查询图像与索引图像存在部分相似特征也能够被检索到的目的。
下面,对各个行人检索的流程进行更加详细的说明。
S201、接收图像查询请求,所述图像查询请求包括查询图像。
用户可以对客户端进行操作。当用户需要进行图像检索时,通过客户端向智能分析平台发送查询请求,所述查询请求包括需要查询的查询图像。
接收客户端发送的查询请求,并确定所述查询请求中包括的查询图像。
S202、提取所述查询图像的检测区域所包括的多个子检测区域的特征;
所述确定查询图像包括的子检测区域的特征。所述确定查询图像子检测区域包括的特征与上述创建索引数据库时确定索引图像的子检测区域包括的特征相同,本发明对此不再赘述。
不同的,所述子检测区域的特征还可以是高维特征或高维特征与颜色特征、纹理特征等一个或多个方面的组合。
S203、当确定任意两个子检测区域的特征的差值均小于预设阈值时,利用所述查询图像的检测区域的特征进行图像检索。当确定任意两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值时,利用所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索。
在确定查询图像的子检测区域包括的特征后,还需要根据子检测区域的特征确定所述查询图像的整体一致性。所述根据子检测区域的特征确定查询图像的整体一致性与上述创建索引数据库时,根据索引图像的子检测区域的特征确定索引图像的检测区域的整体一致性相同,本发明对此不再赘述。
在本发明的具体实施了中,当确定任意两个子检测区域的特征的差值均小于预设阈值时,所述索引图像的整体一致。当确定任意两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值时,所述索引图像的整体不一致。
当所述索引图像整体一致时,利用所述查询图像的检测区域的特征在第一索引数据中进行图像检索。当所述索引图像的整体不一致时,利用所述查询图像的检测区域中的至少一个子检测区域的特征在第二索引数据库中进行图像检索。
在本发明的具体实施例中,所述根据查询图像包括的检测区域的特征或子检测区域的特征在第一索引数据库中和/或第二索引数据库中查找疑似样本是将查询图像的特征与第一索引数据库中和/或第二索引数据库中包括的特征进行比较,以确定与查询图像相似的索引数据。
在一个具体的例子中,分别将所述查询图像的检测区域的特征或多个子检测区域特征中的至少一个特征与第一索引数据库中和/或第二索引数据库中的每个特征进行对比。当检测区域或子检测区域的一个特征与索引数据库中的一个特征相匹配时,确定所述索引数据库中的该特征对应的查询图像与所述查询图像相似。
所述确定两个特征相匹配可以是,查询图像检测区域的特征或子检测区域的一个特征与特征存储模块存储的一个特征完全相同。所述确定两个特征相匹配也可以是,所述查询图像检测区域的特征或子检测区域的一个特征的维度值与特征存储模块存储的一个特征的维度值的差值小于和/或等于一定阈值。
在一个例子中,所述索引数据库包括存储第一索引图像的的子检测区域的第一特征和第二特征。所述第一特征的特征值为γ。所述第二特征的特征值为μ。所述查询图像的检测区域包括第三特征和第四特征。所述第三特征的特征值为η,所述第四特征的特征值为α。
对查询图像进行查询时,分别对查询图像的第三特征和第四特征进行检索。根据查询图像一个特征的特征值,从索引数据库中确定一个哈希表项,其中,所述哈希表项对应第一特征和第二特征时。从所述哈希表项对应的特征中查找与特征值η或特征值α相匹配的特征。
当索引数据库存储的一个特征与查询图像的特征的差值小于预设的阈值时,确定所述索引数据库存储的特征对应的索引图像与所述查询图像相似。
可选的,可以根据比较结果的相似度,向用户进行展示查询的结果。在一个例子中,当索引数据库存储的多个特征与查询图像的特征相似,且多个特征对应相同的索引图像。则向客户端发送查询结果时,所述索引图像与查询图像的相似度高。
将相似的查询图像向客户端发送,从而完成图像检索。在本发明的具体实施例中,当所述查询图像的整体不一致时,同时在第一索引数据库第二索引数据库中对所述查询图像进行检索。所述图像检索设备还分别将在第一索引数据库的检索结果和第二索引数据库中检索的结果向客户端发送。
图5为本发明具体实施例提供的一种行人检索装置,所述装置可以应用在上述图1和图4所述的方法。所述装置包括接受单元501和处理单元502。
接收单元501,用于接收图像查询请求,所述图像查询请求包括查询图像。
处理单元502,用于提取所述查询图像的检测区域所包括的多个子检测区域的特征。还用于在确定任意两个子检测区域的特征的差值均小于预设阈值(即确定所述查询图像整体一致)时根据所述查询图像的检测区域的特征进行图像检索。进一步,还可以用于在确定任意两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值(即确定所述查询图像整体不一致)时,根据所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索。
所述处理单元502,用于根据所述查询图像的检测区域的特征进行图像检索具体包括:利用所述查询图像的检测区域的特征在索引数据库中检索与所述检测区域的特征相匹配的特征,并获取与所述检测区域的特征相匹配的特征所对应的索引图像。
所述处理单元502,用于根据所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索具体包括:利用所述查询图像的检测区域中的至少一个子检测区域的特征在所述索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征,并获取与所述至少一个子检测区域的特征相匹配的特征所对应的索引图像。
所述索引数据库包括第一索引图像的检测区域的特征和第二索引图像的检测区域中的各子检测区域的特征。
所述处理单元502,还用于提取所述第一索引图像的检测区域所包括的各子检测区域的特征,确定所述第一索引图像的任意两个子检测区域的特征的差值均小于预设阈值(即确定所述第一索引图像整体一致),并将所述检测区域的特征添加到所述索引数据库。
所述处理单元502,还用于提取所述第二索引图像的检测区域所包括的各子检测区域的特征,确定所述第二索引图像的任两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值(即确定所述第一索引图像整体不一致),并将所述第二索引图像的检测区域所包括的各子检测区域的特征添加到所述索引数据库。
所述索引数据库包括第一索引数据库和第二索引数据库,其中,所述第一索引数据库用于存储所述第一索引图像的检测区域的特征,所述第二索引数据库用于存储所述第二索引图像的检测区域中的各子检测区域的特征。
所述处理单元502,用于根据所述查询图像的检测区域的特征在索引数据库中检索与所述检测区域的特征相匹配的特征具体包括:利用所述查询图像的检测区域的特征在所述第一索引数据库中检索与所述检测区域的特征相匹配的特征。
所述处理单元502,用于根据所述查询图像的检测区域中的至少一个子检测区域的特征在所述索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征具体包括:利用所述查询图像的检测区域中的至少一个子检测区域的特征在所述第二索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征。
所述特征包括颜色特征、纹理特征和高维特征中的至少一种。
所述处理单元502具体可以包括第一处理单元和第二处理单元。其中,所示第一处理单元用于对所述第一索引图像和所述第二索引图像进行整体一致性判断,并将所述第一索引图像和所述第二索引图像的特征添加到所述索引数据库,还用于对所述查询图像进行整体一致性判断,并将所述查询图像的用于进行图像检索的特征(即所述查询图像的检测区域的特征或子检测区域的特征)发送给所述第二处理单元,相应地,所述第二处理单元利用接收的所述查询图像的特征进行图像检索。在具体实现时,可以利用图1所述的系统来实现,相应地所述第一处理单元可以部署在所述智能分析平台中,所述第二处理单元可以部署在所述图像检索设备中。
图6为一种服务器的结构示意图。本实例提供的控制面节点包括:处理器61、存储器62、通信接口63和系统总线64。其中,所述服务器可以是图1所述的智能分析平台和/或图像检索设备,所述服务器还可以执行图2所述的方法。
通信接口63包括用于和其他外部设备进行通信。其中,通信接口可以分别与第一索引数据库、第二索引数据库、图像数据库、客户端和数据处理设备连接并通信,从而获取或发送相应的信息。
存储器62和通信接口63通过系统总线64与处理器61连接并完成相互间的通信。存储器62用于存储计算机执行指令,处理器61用于运行所述计算机执行指令,使所述树立起执行上述图2所述的各个步骤。
专业人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (22)

1.一种行人检索方法,其特征在于,所述方法包括:
接收图像查询请求,所述图像查询请求包括查询图像;
提取所述查询图像的检测区域所包括的多个子检测区域的特征,所述检测区域为单个行人的区域;
当确定任意两个子检测区域的特征的差值中的至少一个差值大于预设阈值时,利用所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索;
当确定任意两个子检测区域的特征的差值均小于预设阈值时,利用所述查询图像的检测区域的特征进行图像检索。
2.根据权利要求1所述的方法,其特征在于,所述利用所述查询图像的检测区域的特征进行图像检索具体包括:利用所述查询图像的检测区域的特征在索引数据库中检索与所述检测区域的特征相匹配的特征,并获取与所述检测区域的特征相匹配的特征所对应的索引图像。
3.根据权利要求1-2任一项所述的方法,其特征在于,所述利用所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索具体包括:利用所述查询图像的检测区域中的至少一个子检测区域的特征在索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征,并获取与所述至少一个子检测区域的特征相匹配的特征所对应的索引图像。
4.根据权利要求1-2任一项所述的方法,其特征在于,索引数据库包括第一索引图像的检测区域的特征和第二索引图像的检测区域中的各子检测区域的特征。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
提取所述第一索引图像的检测区域所包括的各子检测区域的特征;
确定所述第一索引图像的任意两个子检测区域的特征的差值均小于预设阈值;
将所述检测区域的特征添加到所述索引数据库。
6.根据权利要求4所述的方法,其特征在于,所述方法还包括:
提取所述第二索引图像的检测区域所包括的各子检测区域的特征;
确定所述第二索引图像的任两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值;
将所述第二索引图像的检测区域所包括的各子检测区域的特征添加到所述索引数据库。
7.根据权利要求4所述的方法,其特征在于,所述索引数据库包括第一索引数据库和第二索引数据库,其中,所述第一索引数据库用于存储所述第一索引图像的检测区域的特征,所述第二索引数据库用于存储所述第二索引图像的检测区域中的各子检测区域的特征。
8.根据权利要求7所述的方法,其特征在于,所述利用所述查询图像的检测区域的特征在索引数据库中检索与所述检测区域的特征相匹配的特征具体包括:利用所述查询图像的检测区域的特征在所述第一索引数据库中检索与所述检测区域的特征相匹配的特征。
9.根据权利要求7所述的方法,其特征在于,所述利用所述查询图像的检测区域中的至少一个子检测区域的特征在所述索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征具体包括:利用所述查询图像的检测区域中的至少一个子检测区域的特征在所述第二索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征。
10.根据权利要求1-2任一所述的方法,其特征在于,所述特征包括颜色特征、纹理特征和高维特征中的至少一种。
11.一种行人检索装置,其特征在于,包括:
接收单元,用于接收图像查询请求,所述图像查询请求包括查询图像;
处理单元,用于提取所述查询图像的检测区域所包括的多个子检测区域的特征,所述检测区域为单个行人的区域;还用于在确定任意两个子检测区域的特征的差值中的至少一个差值大于预设阈值时,根据所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索;在确定任意两个子检测区域的特征的差值均小于预设阈值时,根据所述查询图像的检测区域的特征进行图像检索。
12.根据权利要求11所述的装置,其特征在于,所述处理单元,用于根据所述查询图像的检测区域的特征进行图像检索具体包括:利用所述查询图像的检测区域的特征在索引数据库中检索与所述检测区域的特征相匹配的特征,并获取与所述检测区域的特征相匹配的特征所对应的索引图像。
13.根据权利要求11-12任一项所述的装置,其特征在于,所述处理单元,用于根据所述查询图像的检测区域中的至少一个子检测区域的特征进行图像检索具体包括:利用所述查询图像的检测区域中的至少一个子检测区域的特征在索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征,并获取与所述至少一个子检测区域的特征相匹配的特征所对应的索引图像。
14.根据权利要求11-12任一项所述的装置,其特征在于,索引数据库包括第一索引图像的检测区域的特征和第二索引图像的检测区域中的各子检测区域的特征。
15.根据权利要求14所述的装置,其特征在于,所述处理单元,还用于:
提取所述第一索引图像的检测区域所包括的各子检测区域的特征;
确定所述第一索引图像的任意两个子检测区域的特征的差值均小于预设阈值;
将所述检测区域的特征添加到所述索引数据库。
16.根据权利要求14所述的装置,其特征在于,所述处理单元,还用于:
提取所述第二索引图像的检测区域所包括的各子检测区域的特征;
确定所述第二索引图像的任两个子检测区域的特征的差值中的至少一个差值大于所述预设阈值;
将所述第二索引图像的检测区域所包括的各子检测区域的特征添加到所述索引数据库。
17.根据权利要求13所述的装置,其特征在于,所述索引数据库包括第一索引数据库和第二索引数据库,其中,所述第一索引数据库用于存储第一索引图像的检测区域的特征,所述第二索引数据库用于存储第二索引图像的检测区域中的各子检测区域的特征。
18.根据权利要求17所述的装置,其特征在于,所述处理单元,用于根据所述查询图像的检测区域的特征在索引数据库中检索与所述检测区域的特征相匹配的特征具体包括:利用所述查询图像的检测区域的特征在所述第一索引数据库中检索与所述检测区域的特征相匹配的特征。
19.根据权利要求17所述的装置,其特征在于,所述处理单元,用于根据所述查询图像的检测区域中的至少一个子检测区域的特征在所述索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征具体包括:利用所述查询图像的检测区域中的至少一个子检测区域的特征在所述第二索引数据库中检索与所述至少一个子检测区域的特征相匹配的特征。
20.根据权利要求11-12任一项所述的装置,其特征在于,所述特征包括颜色特征、纹理特征和高维特征中的至少一种。
21.一种行人检索装置,其特征在于,包括:处理器、存储器、通信接口和系统总线,所述存储器和所述通信接口通过所述系统总线与所述处理器连接并完成相互间的通信,所述存储器用于存储计算机执行指令,所述通信接口用于和其他设备进行通信,所述处理器用于运行所述计算机执行指令,使所述行人检索装置执行如权利要求1-10任一项所述的方法。
22.一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行如权利要求1-10任一项所述的方法。
CN201710245868.1A 2017-04-14 2017-04-14 一种行人检索方法、装置和系统 Active CN108733679B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710245868.1A CN108733679B (zh) 2017-04-14 2017-04-14 一种行人检索方法、装置和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710245868.1A CN108733679B (zh) 2017-04-14 2017-04-14 一种行人检索方法、装置和系统

Publications (2)

Publication Number Publication Date
CN108733679A CN108733679A (zh) 2018-11-02
CN108733679B true CN108733679B (zh) 2021-10-26

Family

ID=63923783

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710245868.1A Active CN108733679B (zh) 2017-04-14 2017-04-14 一种行人检索方法、装置和系统

Country Status (1)

Country Link
CN (1) CN108733679B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1916906A (zh) * 2006-09-08 2007-02-21 北京工业大学 基于信息突变的图像检索算法
CN103049446A (zh) * 2011-10-13 2013-04-17 中国移动通信集团公司 一种图像检索方法及装置
CN103116630A (zh) * 2013-02-03 2013-05-22 苏州市职业大学 一种基于sift种子区域增长的彩色图像检索方法
CN103336801A (zh) * 2013-06-20 2013-10-02 河海大学 基于多特征lsh索引组合的遥感图像检索方法
CN103714181A (zh) * 2014-01-08 2014-04-09 天津大学 一种层级化的特定人物检索方法
CN104268583A (zh) * 2014-09-16 2015-01-07 上海交通大学 基于颜色区域特征的行人重识别方法及系统
CN104951440A (zh) * 2014-03-24 2015-09-30 联想(北京)有限公司 一种图像处理方法及电子设备
US9269105B2 (en) * 2005-10-31 2016-02-23 Sony Europe Limited Image processing
CN105630906A (zh) * 2015-12-21 2016-06-01 苏州科达科技股份有限公司 一种人员搜索方法、装置及系统

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9269105B2 (en) * 2005-10-31 2016-02-23 Sony Europe Limited Image processing
CN1916906A (zh) * 2006-09-08 2007-02-21 北京工业大学 基于信息突变的图像检索算法
CN103049446A (zh) * 2011-10-13 2013-04-17 中国移动通信集团公司 一种图像检索方法及装置
CN103116630A (zh) * 2013-02-03 2013-05-22 苏州市职业大学 一种基于sift种子区域增长的彩色图像检索方法
CN103336801A (zh) * 2013-06-20 2013-10-02 河海大学 基于多特征lsh索引组合的遥感图像检索方法
CN103714181A (zh) * 2014-01-08 2014-04-09 天津大学 一种层级化的特定人物检索方法
CN104951440A (zh) * 2014-03-24 2015-09-30 联想(北京)有限公司 一种图像处理方法及电子设备
CN104268583A (zh) * 2014-09-16 2015-01-07 上海交通大学 基于颜色区域特征的行人重识别方法及系统
CN105630906A (zh) * 2015-12-21 2016-06-01 苏州科达科技股份有限公司 一种人员搜索方法、装置及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
利用人体部位特征重要性进行行人再识别;章登义 等;《武汉大学学报 信息科学版》;20170131;第42卷(第1期);第84-90页 *
基于目标区域的图像综合特征检索;田玉敏 等;《计算机工程》;20051031;第31卷(第19期);第167-169页 *
基于视觉一致性的图像检索;贺广南 等;《中国图象图形学报》;20110430;第16卷(第4期);第503-509页 *

Also Published As

Publication number Publication date
CN108733679A (zh) 2018-11-02

Similar Documents

Publication Publication Date Title
US11152032B2 (en) Robust tracking of objects in videos
CN105243060B (zh) 一种检索图片的方法及装置
KR101856120B1 (ko) 이미지로부터 상가 발견
US9710488B2 (en) Location estimation using image analysis
CN108959478B (zh) 一种云环境下的密文图像检索方法及系统
CN107251045B (zh) 物体识别装置、物体识别方法及计算机可读存储介质
US20190005069A1 (en) Image Retrieval with Deep Local Feature Descriptors and Attention-Based Keypoint Descriptors
CN108256443A (zh) 一种人员定位方法、系统及终端设备
CN111581423B (zh) 一种目标检索方法及装置
US8254678B2 (en) Image segmentation
CN104486585B (zh) 一种基于gis的城市海量监控视频管理方法及系统
CN112581477A (zh) 图像处理方法、图像匹配方法、设备以及存储介质
CN107315984B (zh) 一种行人检索的方法及装置
JP6173754B2 (ja) 画像検索システム、画像検索装置および画像検索方法
KR20190124436A (ko) 영상 기반 건물 검색 방법 및 장치
WO2021196551A1 (zh) 图像检索方法、装置、计算机设备和存储介质
US20150254527A1 (en) Methods for 3d object recognition and registration
CN115049731B (zh) 一种基于双目摄像头的视觉建图和定位方法
CN108733679B (zh) 一种行人检索方法、装置和系统
CN103093213A (zh) 视频文件分类方法及终端
CN112333182B (zh) 档案处理方法、装置、服务器及存储介质
CN113449130A (zh) 一种图像检索方法、装置、一种计算机可读存储介质和计算设备
CN113627384A (zh) 考勤系统、方法和存储介质
Deren et al. Automatic change detection of geo-spatial data from imagery
Sangeetha et al. An Enhanced Triadic Color Scheme for Content‐Based Image Retrieval

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant