CN116912535B - 一种基于相似筛选的无监督目标重识别方法、装置及介质 - Google Patents
一种基于相似筛选的无监督目标重识别方法、装置及介质 Download PDFInfo
- Publication number
- CN116912535B CN116912535B CN202311152784.5A CN202311152784A CN116912535B CN 116912535 B CN116912535 B CN 116912535B CN 202311152784 A CN202311152784 A CN 202311152784A CN 116912535 B CN116912535 B CN 116912535B
- Authority
- CN
- China
- Prior art keywords
- target
- camera
- image
- clustering
- image set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000012216 screening Methods 0.000 title claims abstract description 38
- 238000005070 sampling Methods 0.000 claims abstract description 52
- 238000013528 artificial neural network Methods 0.000 claims abstract description 37
- 238000012549 training Methods 0.000 claims abstract description 27
- 238000000605 extraction Methods 0.000 claims abstract description 9
- 239000013598 vector Substances 0.000 claims description 36
- 238000004364 calculation method Methods 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 5
- 238000012163 sequencing technique Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 6
- 230000008901 benefit Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/762—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using clustering, e.g. of similar faces in social networks
- G06V10/763—Non-hierarchical techniques, e.g. based on statistics of modelling distributions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/761—Proximity, similarity or dissimilarity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于相似筛选的无监督目标重识别方法、装置及介质，涉及重识别技术领域。方法包括：利用公开数据集预训练以初始化无监督目标重识别模型的神经网络以及内存库，对获取的目标域图像集进行特征提取和聚类更新内存库；根据目标域图像集依据相机样本比例进行采样确定采样数据；根据采样数据计算总损失迭代训练神经网络，利用神经网络新提取的特征和聚类结果更新内存库，直至总损失不再下降确定无监督目标重识别模型；获取待进行重识别的预定目标图像以及多目标图像集；根据无监督目标重识别模型，从多目标图像集中识别出与预定目标图像相同目标的目标图像数据集。有效减轻相机身份差距对重识别准确率的影响。
Description
技术领域
本发明涉及重识别技术领域，并且更具体地，涉及一种基于相似筛选的无监督目标重识别方法、装置及介质。
背景技术
目标重识别是一种跨摄像机视图的目标匹配任务，给定一个查询目标，能在跨摄像机的大型数据库里检索该特定目标，可以看作是图像检索的子问题。近年来，随着深度学习的发展，无监督人物重识别方法得到广泛研究，但仍然面临以下问题：目标域数据集包括多个摄像头，不同摄像头之间由于相机参数和位置等不同存在间隙，导致不同摄像机拍摄的同一个人差异较大，存在较大的类内差异，即在同一个聚类簇下同一个相机的图像更容易聚在一起，而不同相机之间的同一身份图像会存在距离，这种距离会影响到聚类的准确性，从而增加重识别的难度。
发明内容
针对现有技术的不足，本发明提供一种基于相似筛选的无监督目标重识别方法、装置及介质。
根据本发明的一个方面，提供了一种基于相似筛选的无监督目标重识别方法，包括：
利用公开数据集ImageNet预训练以初始化无监督目标重识别模型的神经网络以及内存库；
根据初始化的神经网络对获取的目标域图像集进行特征提取和聚类，更新内存库；
根据目标域图像集依据相机样本比例进行采样，确定采样数据，其中采样数据包括多个目标，每个目标包括多张图像；
根据采样数据计算总损失，并根据总损失迭代训练神经网络，利用神经网络新提取的特征和聚类结果更新内存库，直至总损失不再下降，确定无监督目标重识别模型；
获取待进行重识别的预定目标图像以及多目标图像集，其中多目标图像集由多个相机采集，每个相机采集不同目标的多张图像；
根据无监督目标重识别模型，从多目标图像集中识别出与预定目标图像相同目标的目标图像数据集。
可选地，利用公开数据集ImageNet预训练以初始化无监督目标重识别模型的神经网络以及内存库，包括：
在公开数据集ImageNet上预训练ResNet50网络以初始化神经网络；
利用初始化网络提取重识别公开数据集的特征，并根据提取的样本特征的特征相似性进行聚类；
将样本特征存储在实例内存库中以初始实例化内存库，根据聚类结果将聚类中心特征存储在相机间内存库和相机内内存库中以初始聚类化内存库。
可选地，根据初始化的神经网络对获取的目标域图像集进行特征提取和聚类，更新内存库，包括：
根据初始化的神经网络对目标域图像进行特征提取，确定特征向量，更新所述实例内存库；
根据特征向量之间的距离计算相似度，并对特征向量进行DBSCAN聚类，获取相机间聚类结果和相机内聚类结果；
根据相机间聚类结果和相机内聚类结果分配对应的伪标签，并进行相似度计算排序，获取每张图像的全局最近邻图像集合和对应相机内的局部最近邻图像集合，更新所述聚类内存库。
可选地，对特征向量进行DBSCAN聚类，所述聚类内存库的更新过程为：
式中，m是动量更新因子，q是由编码器提取的查询实例特征，是第i个簇的向量表示，它在聚类级别更新特征向量并计算损失，每次训练迭代后，内存库由q更新。
可选地，根据采样数据计算总损失，包括：
根据采样数据进行相似筛选，确定正样本和负样本；
根据正样本和负样本，计算总损失。
可选地，根据采样数据进行相似筛选，确定正样本和负样本，包括：
在相机间聚类中，在采样数据中任意一个图像的全局最近邻图像集中筛掉与该图像在全局和对应相机下具有相似一致性的样本图像，确定正样本，其中在采样数据中的任意一个图像在全局和对应相机下都为最近邻图像，判定该图像具有全局和局部相似一致性；
向相机内聚类中，在采样数据中任意一个图像的局部最近邻图像集合中筛掉与该图像在全局和局部中具有相似一致性的样本图像，确定负样本。
可选地，总损失L的计算公式如下：
其中，为对比损失，/>为三元组损失；
三元组损失的计算公式为：
其中，a代表新增的正样本数，为正负样本相似度的差值边界,/>为/>的正样本，/>为/>的负样本，N为样本数据的总数；
对比损失的计算公式为：
其中，τ是温度超参数，q是由编码器提取的查询实例特征，是第i个簇的向量表示，/>是实例特征q的相似正样本的向量表示，I为簇数，在聚类级别更新特征向量并计算损失。
根据本发明的另一个方面，提供了一种基于相似筛选的无监督目标重识别装置，包括：
初始化模块，用于利用公开数据集ImageNet预训练以初始化无监督目标重识别模型的神经网络以及内存库；
更新模块，用于根据初始化的神经网络对获取的目标域图像集进行特征提取和聚类，更新内存库；
第一确定模块，用于根据目标域图像集依据相机样本比例进行采样，确定采样数据，其中采样数据包括多个目标，每个目标包括多张图像；
第二确定模块，用于根据采样数据计算总损失，并根据总损失迭代训练神经网络，利用神经网络新提取的特征和聚类结果更新内存库，直至总损失不再下降，确定无监督目标重识别模型；
获取模块，用于获取待进行重识别的预定目标图像以及多目标图像集，其中多目标图像集由多个相机采集，每个相机采集不同目标的多张图像；
识别模块，用于根据无监督目标重识别模型，从多目标图像集中识别出与预定目标图像相同目标的目标图像数据集。
根据本发明的又一个方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行本发明上述任一方面所述的方法。
根据本发明的又一个方面，提供了一种电子设备，所述电子设备包括：处理器；用于存储所述处理器可执行指令的存储器；所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现本发明上述任一方面所述的方法。
从而，本发明于相似筛选的无监督目标重识别方法，采用相机筛选模块，利用相似差异选择更可靠的正负样本，并设计改进的三元组损失以拉进类内距离并推远类间距离。并且设计了一种相机平衡抽样策略，以保证损失计算的一致性。有效减轻相机身份差距对重识别准确率的影响，使模型学习到更具鉴别性的特征表示，提高模型的识别准确率。
附图说明
通过参考下面的附图，可以更为完整地理解本发明的示例性实施方式：
图1是本发明一示例性实施例提供的基于相似筛选的无监督目标重识别方法的流程示意图；
图2是本发明一示例性实施例提供的基于相似筛选的无监督目标重识别方法的另一示意图；
图3是本发明一示例性实施例提供的相似筛选模块的示意图；
图4是本发明一示例性实施例提供的基于相似筛选的无监督目标重识别装置的结构示意图；
图5是本发明一示例性实施例提供的电子设备的结构。
具体实施方式
下面，将参考附图详细地描述根据本发明的示例实施例。显然，所描述的实施例仅仅是本发明的一部分实施例，而不是本发明的全部实施例，应理解，本发明不受这里描述的示例实施例的限制。
应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。
本领域技术人员可以理解，本发明实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。
还应理解，在本发明实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。
还应理解，对于本发明实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。
另外，本发明中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本发明中字符“/”，一般表示前后关联对象是一种“或”的关系。
还应理解，本发明对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。
同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，技术、方法和设备应当被视为说明书的一部分。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
本发明实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统﹑大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。
终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。
示例性方法
图1是本发明一示例性实施例提供的基于相似筛选的无监督目标重识别方法的流程示意图。本实施例可应用在电子设备上，如图1所示，基于相似筛选的无监督目标重识别方法100包括以下步骤：
步骤101，利用公开数据集ImageNet预训练以初始化无监督目标重识别模型的神经网络以及内存库。
步骤102，根据初始化的神经网络对获取的目标域图像集进行特征提取和聚类，更新内存库。
步骤103，根据目标域图像集依据相机样本比例进行采样，确定采样数据，其中采样数据包括多个目标，每个目标包括多张图像。
步骤104，根据采样数据计算总损失，并根据总损失迭代训练神经网络，利用神经网络新提取的特征和聚类结果更新内存库，直至总损失不再下降，确定无监督目标重识别模型。
步骤105，获取待进行重识别的预定目标图像以及多目标图像集，其中多目标图像集由多个相机采集，每个相机采集不同目标的多张图像。
步骤106，根据无监督目标重识别模型，从多目标图像集中识别出与预定目标图像相同目标的目标图像数据集。
具体地，本发明提出的基于相似筛选的无监督目标重识别方法主要包括以下步骤：构建了无监督目标重识别模型进行预定目标图像的重识别，模型主要有五部分构成，网络和内存库初始化、特征提取和聚类、相似筛选、相机平衡采样和损失计算阶段。
步骤1、网络和内存库初始化
无监督目标重识别网络通过在公开数据集ImageNet上预训练ResNet50网络以初始化，并利用模型提取输入图像的特征，根据特征相似性进行聚类并分配伪标签，得到一个带有伪标签的数据集/>。N表示图像总数，Y表示聚类簇数。并将样本特征存储在内存库中以初始化内存库，并在训练过程中动态更新。
构建了一个实例内存库M i 来存储所有样本特征，，用于计算三元组损失。构建了两个聚类内存库/>和/>来存储聚类中心特征用于计算对比损失，其中，/>为相机间内存库，/>为相机内内存库，Y表示相机间聚类簇数，/>表示第t个相机的聚类簇数，C表示相机的总数。大部分现有的方法会构建实例内存库用以存储实例特征，再根据实例特征计算聚类中心，然而由于在目标域训练集中每个类别实例数目不同，导致在每次迭代中每个类别的实例特征被更新的比例不同，使得计算每个类别的聚类中心特征时新旧实例特征占比不同，即特征表示不一致。因此，本发明依据特征一致性，构建的聚类内存库直接根据查询的实例特征更新聚类特征，而不用计算聚类中心，这样每个身份只存储和更新一个特征，保证了特征表示的一致性。该方法能够有效减轻伪标签噪声的影响，使模型学习到更具鉴别性的特征表示。
步骤2、特征提取和聚类：
将目标域图像输入网络进行特征提取得到特征向量，根据特征间的距离计算相似度并对进行DBSCAN聚类，一方面进行相机不可知聚类得到相机间聚类结果，，其中M表示样本总数。另一方面进行相机可知聚类得到相机内聚类结果/>，/>，其中，/>表示相机第i个相机，C为相机的总数，M i 表示第i个相机下的样本总数。根据聚类结果分配对应的伪标签，并进行相似度计算排序，得到每张图片的全局最近邻图像集/>（k表示相似图像个数）和对应相机内的局部最近邻图像集合/>（k表示相似图像个数，表示相机第i个相机，C为相机的总数）。相机内和相机间图像的相似性排序会存在差异。此外，依据得到的特征向量以更新实例内存库和聚类内存库，其中聚类内存库存储了所有聚类簇的特征表示，可一致更新为:
其中，m是动量更新因子，q是由编码器提取的查询实例特征，θ i 是第i个簇的向量表示，它在聚类级别更新特征向量并计算损失。每次训练迭代后，内存库由q更新。
步骤3、相机平衡采样：
一般与三元组损失配合使用的采样方法为PK采样法，从原始图片中随机选出P个身份，每个身份随机选K张图片作为一个小批量训练模型。这种采样方式在一个类中样本数量较少时，会出现重复采样的问题，增大权重导致样本不平衡。由于数据集中不同相机下样本总数不一致且每个身份的图片数量也不一致，导致在聚类后进行抽样时，不能保证每个相机下都抽到了对应身份的样本，出现损失不一致问题。因此，
本发明提出了相机平衡采样策略，按照不同相机下样本数量，从原始图片中随机选出P个身份，每个身份抽取对应比例的图片共抽取K张，进而计算损失并训练模型，保证了每个相机下都更新了样本特征且更新比例相同，保证了损失计算的一致性。此外对于不足K张的样本，采用水平翻转等数据增强的方法生成新的样本并进行采样，以解决重复采样的问题。
步骤4、相似筛选：
目标重识别数据集基于多个跨摄像机的拍摄，但不同摄像机之间由于相机参数、视角和光照等不同存在间隙，导致处于不同相机下的同一身份图像间的距离大于处于同一相机下的不同身份图像间的距离，即在不同摄像机下图像存在很大的类内差异。为解决由摄像机视图变化导致的类内差异问题，本发明提出了一个相似筛选模块来缓解类内差异问题，以提高重识别的准确性。
对于采样数据中任一图像Z，如果某一图像在全局和对应相机下都表现为Z的最近邻图像，那么我们认为该图像与Z具有全局和局部相似一致性。在相机间聚类中，在Z的全局最近邻图像集中，筛掉在全局和对应相机下具有与Z相似一致性的样本，得到其他相机下Z的相似样本/>，经过数据增强后形成的图像作为Z的正样本计算三元组损失，以拉进该图像与不同相机下相似样本的距离，减少类内差距。
其次，在相机内聚类中，在Z的局部最近邻图像集合中，筛掉在全局和局部中具有与Z相似一致性的样本，得到对应相机内与该图像最相似的其他身份的样本，作为困难负样本Z n ，以增大该图像与不同相机下相似样本的距离，增大类间距离。
使用选中的可靠正负样本计算三元组损失，能够有效地缓解相机类内差异问题，并辅助模型提取更准确的特征以降低伪标签噪声。
步骤5、损失计算：
传统的三元组损失的计算公式如下：
针对步骤4中的可靠的正负样本，我们用改进的三元组损失进一步优化模型，计算公式为（其中a代表新增的正样本数）：
其中，/>为正负样本相似度的差值边界,/>为f i 的正样本，/>为f i 的负样本。
此外，依据训练的分类器结果计算对比损失L D ，使用聚类内存库中聚类簇的唯一特征向量表示来计算查询实例与所有聚类之间的距离。
其中，τ是温度超参数，q是由编码器提取的查询实例特征，是第i个簇的向量表示，/>是实例特征q的相似正样本的向量表示，I为簇数，它在聚类级别更新特征向量并计算损失。
最后用总损失L来优化模型。
重复训练步骤2-步骤5。
通过上述步骤训练得到的无监督目标重识别模型进行预定目标图像的目标重识别。
从而，本发明于相似筛选的无监督目标重识别方法，采用相机筛选模块，利用相似差异选择更可靠的正负样本，并设计改进的三元组损失以拉进类内距离并推远类间距离。并且设计了一种相机平衡抽样策略，以保证损失计算的一致性。有效减轻相机身份差距对重识别准确率的影响，使模型学习到更具鉴别性的特征表示，提高模型的识别准确率。
示例性装置
图4是本发明一示例性实施例提供的基于相似筛选的无监督目标重识别装置的结构示意图。如图4所示，装置400包括：
初始化模块410，用于利用公开数据集ImageNet预训练以初始化无监督目标重识别模型的神经网络以及内存库；
更新模块420，用于根据初始化的神经网络对获取的目标域图像集进行特征提取和聚类，更新内存库；
第一确定模块430，用于根据目标域图像集依据相机样本比例进行采样，确定采样数据，其中采样数据包括多个目标，每个目标包括多张图像；
第二确定模块440，用于根据采样数据计算总损失，并根据总损失迭代训练神经网络，利用神经网络新提取的特征和聚类结果更新内存库，直至总损失不再下降，确定无监督目标重识别模型；
获取模块450，用于获取待进行重识别的预定目标图像以及多目标图像集，其中多目标图像集由多个相机采集，每个相机采集不同目标的多张图像；
识别模块460，用于根据无监督目标重识别模型，从多目标图像集中识别出与预定目标图像相同目标的目标图像数据集。
可选地，初始化模块410，包括：
第一初始化子模块，用于在公开数据集ImageNet上预训练ResNet50网络以初始化神经网络；
聚类子模块，用于利用初始化网络提取重识别公开数据集的特征，并
根据提取的样本特征的特征相似性进行聚类；
第二初始化子模块，用于将样本特征存储在实例内存库中以初始化内存库，根据聚类结果将聚类中心特征存储在相机间内存库和相机内内存库中以初始化内存库。
可选地，更新模块420，包括：
第一确定子模块，用于根据初始化的神经网络对目标域图像进行特征提取，确定特征向量，更新所述实例内存库；
获取子模块，用于根据特征向量之间的距离计算相似度，并对特征向量进行DBSCAN聚类，获取相机间聚类结果和相机内聚类结果；
排序子模块，用于根据相机间聚类结果和相机内聚类结果分配对应的伪标签，并进行相似度计算排序，获取每张图像的全局最近邻图像集合和对应相机内的局部最近邻图像集合，更新所述聚类内存库。
可选地，所述聚类内存库的更新过程为：
式中，m是动量更新因子，q是由编码器提取的查询实例特征，是第i个簇的向量表示，它在聚类级别更新特征向量并计算损失，每次训练迭代后，内存库由q更新。
可选地，第二确定模块440，包括：
第二确定子模块，用于根据采样数据进行相似筛选，确定正样本和负样本；
计算子模块，用于根据正样本和负样本，计算总损失。
可选地，第二确定子模块，包括：
第一确定单元，用于在相机间聚类中，在采样数据中任意一个图像的全局最近邻图像集中筛掉与该图像在全局和对应相机下具有相似一致性的样本图像，确定正样本，其中在采样数据中的任意一个图像在全局和对应相机下都为最近邻图像，判定该图像具有全局和局部相似一致性；
第二确定单元，用于向相机内聚类中，在采样数据中任意一个图像的局部最近邻图像集合中筛掉与该图像在全局和局部中具有相似一致性的样本图像，确定负样本。
可选地，总损失L的计算公式如下：
其中，为对比损失，/>为三元组损失；
三元组损失的计算公式为：
其中，a代表新增的正样本数，为正负样本相似度的差值边界,/>为/>的正样本，/>为/>的负样本，N为样本数据的总数；
对比损失的计算公式为：
其中，τ是温度超参数，q是由编码器提取的查询实例特征，是第i个簇的向量表示，/>是实例特征q的相似正样本的向量表示，I为簇数，在聚类级别更新特征向量并计算损失。
示例性电子设备
图5是本发明一示例性实施例提供的电子设备的结构。如图5所示，电子设备50包括一个或多个处理器51和存储器52。
处理器51可以是中央处理单元（CPU）或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备中的其他组件以执行期望的功能。
存储器52可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器（RAM）和/或高速缓冲存储器（cache）等。所述非易失性存储器例如可以包括只读存储器（ROM）、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器51可以运行所述程序指令，以实现上文所述的本发明的各个实施例的软件程序的方法以及/或者其他期望的功能。在一个示例中，电子设备还可以包括：输入装置53和输出装置54，这些组件通过总线系统和/或其他形式的连接机构（未示出）互连。
此外，该输入装置53还可以包括例如键盘、鼠标等等。
该输出装置54可以向外部输出各种信息。该输出装置54可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然，为了简化，图5中仅示出了该电子设备中与本发明有关的组件中的一些，省略了诸如总线、输入/输出接口等的组件。除此之外，根据具体应用情况，电子设备还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外，本发明的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本发明各种实施例的方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本发明实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外，本发明的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本发明各种实施例的方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、系统或器件，或者任意以上的组合。可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑盘只读存储器（CD-ROM）、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本发明的基本原理，但是，需要指出的是，在本发明中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本发明的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本发明为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
本发明中涉及的器件、系统、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、系统、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。
可能以许多方式来实现本发明的方法和系统。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本发明的方法和系统。用于所述方法的步骤的上述顺序仅是为了进行说明，本发明的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本发明实施为记录在记录介质中的程序，这些程序包括用于实现根据本发明的方法的机器可读指令。因而，本发明还覆盖存储用于执行根据本发明的方法的程序的记录介质。
还需要指出的是，在本发明的系统、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本发明的等效方案。提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本发明。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本发明的范围。因此，本发明不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本发明的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (7)
1.一种基于相似筛选的无监督目标重识别方法，其特征在于，包括：
利用公开数据集ImageNet预训练以初始化无监督目标重识别模型的神经网络以及内存库；
根据初始化的所述神经网络对获取的目标域图像集进行特征提取和聚类，更新所述内存库；
根据所述目标域图像集依据相机样本比例进行采样，确定采样数据，其中所述采样数据包括多个目标，每个目标包括多张图像；
根据所述采样数据计算总损失，并根据所述总损失迭代训练神经网络，利用神经网络新提取的特征和聚类结果更新所述内存库，直至所述总损失不再下降，确定无监督目标重识别模型；
获取待进行重识别的预定目标图像以及多目标图像集，其中多目标图像集由多个相机采集，每个相机采集不同目标的多张图像；
根据所述无监督目标重识别模型，从所述多目标图像集中识别出与所述预定目标图像相同目标的目标图像数据集；
根据所述采样数据计算总损失，包括：
根据所述采样数据进行相似筛选，确定正样本和负样本；
根据所述正样本和所述负样本，计算所述总损失；
根据所述采样数据进行相似筛选，确定正样本和负样本，包括：
在相机间聚类中，在所述采样数据中任意一个图像的全局最近邻图像集中筛掉与该图像在全局和对应相机下具有相似一致性的样本图像，确定所述正样本，其中在所述采样数据中的任意一个图像在全局和对应相机下都为最近邻图像，判定该图像具有全局和局部相似一致性；
向相机内聚类中，在所述采样数据中任意一个图像的局部最近邻图像集合中筛掉与该图像在全局和局部中具有相似一致性的样本图像，确定所述负样本；
所述总损失L的计算公式如下：
其中，为对比损失，/>为三元组损失；
所述三元组损失的计算公式为：
其中，a代表新增的正样本数，为正负样本相似度的差值边界, />为/>的正样本，为/>的负样本，N为样本数据的总数；
所述对比损失的计算公式为：
其中，τ是温度超参数，q是由编码器提取的查询实例特征，是第i个簇的向量表示，是实例特征q的相似正样本的向量表示，I为簇数，在聚类级别更新特征向量并计算损失。
2.根据权利要求1所述的方法，其特征在于，利用公开数据集ImageNet预训练以初始化无监督目标重识别模型的神经网络以及内存库，包括：
在所述公开数据集ImageNet上预训练ResNet50网络以初始化神经网络；
利用初始化网络提取重识别公开数据集的特征，并根据提取的样本特征的特征相似性进行聚类；
将所述样本特征存储在实例内存库中以初始化实例内存库，根据聚类结果将聚类中心特征存储在相机间内存库和相机内内存库中以初始化聚类内存库。
3.根据权利要求2所述的方法，其特征在于，根据初始化的所述神经网络对获取的目标域图像集进行特征提取和聚类，更新所述内存库，包括：
根据初始化的所述神经网络对所述目标域图像进行特征提取，确定特征向量，更新所述实例内存库；
根据所述特征向量之间的距离计算相似度，并对所述特征向量进行DBSCAN聚类，获取相机间聚类结果和相机内聚类结果；
根据所述相机间聚类结果和所述相机内聚类结果分配对应的伪标签，并进行相似度计算排序，获取每张图像的全局最近邻图像集合和对应相机内的局部最近邻图像集合，更新所述聚类内存库。
4.根据权利要求3所述的方法，其特征在于，所述聚类内存库的更新过程为：
式中，m是动量更新因子，q是由编码器提取的查询实例特征，是第i个簇的向量表示，它在聚类级别更新特征向量并计算损失，每次训练迭代后，内存库由q更新。
5.一种基于相似筛选的无监督目标重识别装置，其特征在于，包括：
初始化模块，用于利用公开数据集ImageNet预训练以初始化无监督目标重识别模型的神经网络以及内存库；
更新模块，用于根据初始化的所述神经网络对获取的目标域图像集进行特征提取和聚类，更新所述内存库；
第一确定模块，用于根据所述目标域图像集依据相机样本比例进行采样，确定采样数据，其中所述采样数据包括多个目标，每个目标包括多张图像；
第二确定模块，用于根据所述采样数据计算总损失，并根据所述总损失迭代训练神经网络，利用神经网络新提取的特征和聚类结果更新所述内存库，直至所述总损失不再下降，确定无监督目标重识别模型；
获取模块，用于获取待进行重识别的预定目标图像以及多目标图像集，其中多目标图像集由多个相机采集，每个相机采集不同目标的多张图像；
识别模块，用于根据所述无监督目标重识别模型，从所述多目标图像集中识别出与所述预定目标图像相同目标的目标图像数据集；
第二确定模块，包括：
第二确定子模块，用于根据所述采样数据进行相似筛选，确定正样本和负样本；
计算子模块，用于根据所述正样本和所述负样本，计算所述总损失；
第二确定子模块，包括：
第一确定单元，用于在相机间聚类中，在所述采样数据中任意一个图像的全局最近邻图像集中筛掉与该图像在全局和对应相机下具有相似一致性的样本图像，确定所述正样本，其中在所述采样数据中的任意一个图像在全局和对应相机下都为最近邻图像，判定该图像具有全局和局部相似一致性；
第二确定单元，用于向相机内聚类中，在所述采样数据中任意一个图像的局部最近邻图像集合中筛掉与该图像在全局和局部中具有相似一致性的样本图像，确定所述负样本；
所述总损失L的计算公式如下：
其中，为对比损失，/>为三元组损失；
所述三元组损失的计算公式为：
其中，a代表新增的正样本数，为正负样本相似度的差值边界, />为/>的正样本，为/>的负样本，N为样本数据的总数；
所述对比损失的计算公式为：
其中，τ是温度超参数，q是由编码器提取的查询实例特征，是第i个簇的向量表示，是实例特征q的相似正样本的向量表示，I为簇数，在聚类级别更新特征向量并计算损失。
6.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-4任一所述的方法。
7.一种电子设备，其特征在于，所述电子设备包括：
处理器；
用于存储所述处理器可执行指令的存储器；
所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求1-4任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311152784.5A CN116912535B (zh) | 2023-09-08 | 2023-09-08 | 一种基于相似筛选的无监督目标重识别方法、装置及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311152784.5A CN116912535B (zh) | 2023-09-08 | 2023-09-08 | 一种基于相似筛选的无监督目标重识别方法、装置及介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116912535A CN116912535A (zh) | 2023-10-20 |
| CN116912535B true CN116912535B (zh) | 2023-11-28 |
Family
ID=88367030
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311152784.5A Active CN116912535B (zh) | 2023-09-08 | 2023-09-08 | 一种基于相似筛选的无监督目标重识别方法、装置及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116912535B (zh) |
Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109711228A (zh) * | 2017-10-25 | 2019-05-03 | 腾讯科技（深圳）有限公司 | 一种实现图像识别的图像处理方法及装置、电子设备 |
| CN111401281A (zh) * | 2020-03-23 | 2020-07-10 | 山东师范大学 | 基于深度聚类和样例学习的无监督行人重识别方法及系统 |
| CN112069929A (zh) * | 2020-08-20 | 2020-12-11 | 之江实验室 | 一种无监督行人重识别方法、装置、电子设备及存储介质 |
| CN113255695A (zh) * | 2021-05-21 | 2021-08-13 | 广州广电运通金融电子股份有限公司 | 一种目标重识别的特征提取方法及系统 |
| CN113642547A (zh) * | 2021-10-18 | 2021-11-12 | 中国海洋大学 | 一种基于密度聚类的无监督域适应人物重识别方法及系统 |
| CN113920472A (zh) * | 2021-10-15 | 2022-01-11 | 中国海洋大学 | 一种基于注意力机制的无监督目标重识别方法及系统 |
| CN115205570A (zh) * | 2022-09-14 | 2022-10-18 | 中国海洋大学 | 一种基于对比学习的无监督跨域目标重识别方法 |
| CN115641613A (zh) * | 2022-11-03 | 2023-01-24 | 西安电子科技大学 | 一种基于聚类和多尺度学习的无监督跨域行人重识别方法 |
| WO2023020214A1 (zh) * | 2021-08-17 | 2023-02-23 | 腾讯科技（深圳）有限公司 | 检索模型的训练和检索方法、装置、设备及介质 |
| CN115861164A (zh) * | 2022-09-16 | 2023-03-28 | 重庆邮电大学 | 一种基于多领域半监督的医学图像分割方法 |
| WO2023160312A1 (zh) * | 2022-02-23 | 2023-08-31 | 厦门市美亚柏科信息股份有限公司 | 基于自监督学习的行人重识别方法、装置、设备及存储介质 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110210535B (zh) * | 2019-05-21 | 2021-09-10 | 北京市商汤科技开发有限公司 | 神经网络训练方法及装置以及图像处理方法及装置 |
| US11429809B2 (en) * | 2019-09-24 | 2022-08-30 | Beijing Sensetime Technology Development Co., Ltd | Image processing method, image processing device, and storage medium |
-
2023
- 2023-09-08 CN CN202311152784.5A patent/CN116912535B/zh active Active
Patent Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109711228A (zh) * | 2017-10-25 | 2019-05-03 | 腾讯科技（深圳）有限公司 | 一种实现图像识别的图像处理方法及装置、电子设备 |
| CN111401281A (zh) * | 2020-03-23 | 2020-07-10 | 山东师范大学 | 基于深度聚类和样例学习的无监督行人重识别方法及系统 |
| CN112069929A (zh) * | 2020-08-20 | 2020-12-11 | 之江实验室 | 一种无监督行人重识别方法、装置、电子设备及存储介质 |
| CN113255695A (zh) * | 2021-05-21 | 2021-08-13 | 广州广电运通金融电子股份有限公司 | 一种目标重识别的特征提取方法及系统 |
| WO2023020214A1 (zh) * | 2021-08-17 | 2023-02-23 | 腾讯科技（深圳）有限公司 | 检索模型的训练和检索方法、装置、设备及介质 |
| CN113920472A (zh) * | 2021-10-15 | 2022-01-11 | 中国海洋大学 | 一种基于注意力机制的无监督目标重识别方法及系统 |
| CN113642547A (zh) * | 2021-10-18 | 2021-11-12 | 中国海洋大学 | 一种基于密度聚类的无监督域适应人物重识别方法及系统 |
| WO2023160312A1 (zh) * | 2022-02-23 | 2023-08-31 | 厦门市美亚柏科信息股份有限公司 | 基于自监督学习的行人重识别方法、装置、设备及存储介质 |
| CN115205570A (zh) * | 2022-09-14 | 2022-10-18 | 中国海洋大学 | 一种基于对比学习的无监督跨域目标重识别方法 |
| CN115861164A (zh) * | 2022-09-16 | 2023-03-28 | 重庆邮电大学 | 一种基于多领域半监督的医学图像分割方法 |
| CN115641613A (zh) * | 2022-11-03 | 2023-01-24 | 西安电子科技大学 | 一种基于聚类和多尺度学习的无监督跨域行人重识别方法 |
Non-Patent Citations (3)
| Title |
|---|
| High-Order Semantic Decoupling Network for Remote Sensing Image Semantic Segmentation;Chengyu Zheng 等;《IEEE Transactions on Geoscience and Remote Sensing ( Volume: 61)》;全文 * |
| 三元组在非监督行人再识别中的应用;王兴柱;王儒敬;;仪表技术(第12期);全文 * |
| 基于改进SSD的电力检修多目标人员追踪方法;沈茂东;高宏;付新阳;周伟;张俊岭;公凡奎;冯志珍;;计算机系统应用(第08期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116912535A (zh) | 2023-10-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108229322B (zh) | 基于视频的人脸识别方法、装置、电子设备及存储介质 | |
| CN111797893B (zh) | 一种神经网络的训练方法、图像分类系统及相关设备 | |
| CN110431560B (zh) | 目标人物的搜索方法和装置、设备和介质 | |
| US11074434B2 (en) | Detection of near-duplicate images in profiles for detection of fake-profile accounts | |
| WO2019001481A1 (zh) | 车辆外观特征识别及车辆检索方法、装置、存储介质、电子设备 | |
| CN108427927B (zh) | 目标再识别方法和装置、电子设备、程序和存储介质 | |
| WO2019210695A1 (zh) | 模型训练和业务推荐 | |
| CN103403739B (zh) | 用于比较图像的方法和系统 | |
| WO2017075939A1 (zh) | 一种图像内容识别方法及装置 | |
| CN111966914B (zh) | 基于人工智能的内容推荐方法、装置和计算机设备 | |
| JP2018533148A (ja) | データのカテゴリ分類のための方法およびシステム | |
| US11216701B1 (en) | Unsupervised representation learning for structured records | |
| US20210073890A1 (en) | Catalog-based image recommendations | |
| CN112395487A (zh) | 信息推荐方法、装置、计算机可读存储介质及电子设备 | |
| CN114612743A (zh) | 深度学习模型的训练方法、目标对象识别方法和装置 | |
| CN110348516B (zh) | 数据处理方法、装置、存储介质及电子设备 | |
| CN111310743B (zh) | 人脸识别方法、装置、电子设备及可读存储介质 | |
| Cheng et al. | AL‐DDCNN: a distributed crossing semantic gap learning for person re‐identification | |
| CN112364198A (zh) | 一种跨模态哈希检索方法、终端设备及存储介质 | |
| CN116912535B (zh) | 一种基于相似筛选的无监督目标重识别方法、装置及介质 | |
| CN112149566A (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
| Zheng et al. | U-Turn: Crafting Adversarial Queries with Opposite-Direction Features | |
| Sun et al. | Weighted joint sparse representation-based classification method for robust alignment-free face recognition | |
| CN110516717A (zh) | 用于生成图像识别模型的方法和装置 | |
| CN111723199A (zh) | 文本的分类方法、装置和计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |