CN115661485B - 图像特征提取方法、装置、设备及存储介质 - Google Patents

图像特征提取方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN115661485B
CN115661485B CN202211660348.4A CN202211660348A CN115661485B CN 115661485 B CN115661485 B CN 115661485B CN 202211660348 A CN202211660348 A CN 202211660348A CN 115661485 B CN115661485 B CN 115661485B
Authority
CN
China
Prior art keywords
image
features
extracted
sub
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211660348.4A
Other languages
English (en)
Other versions
CN115661485A (zh
Inventor
刘雄辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Semidrive Technology Co Ltd
Original Assignee
Nanjing Semidrive Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing Semidrive Technology Co Ltd filed Critical Nanjing Semidrive Technology Co Ltd
Priority to CN202211660348.4A priority Critical patent/CN115661485B/zh
Publication of CN115661485A publication Critical patent/CN115661485A/zh
Application granted granted Critical
Publication of CN115661485B publication Critical patent/CN115661485B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本公开提供了一种图像特征提取的方法、装置、设备及存储介质,通过将待处理图像划分为多个子图像,根据目标特征总数和子图像个数,确定各个子图像需要提取的默认特征个数,根据角点检测法,确定当前子图像的候选特征,根据所述当前子图像的候选特征个数和所述当前子图像需要提取的默认特征个数,确定所述当前子图像能够提取的实际特征个数,并在完成所述当前子图像的特征提取操作之后,进行下一子图像的特征提取,直至完成所有子图像的特征提取,不仅能够解决现有技术中提取特征点均匀性差的问题,还具有无需重复遍历图像的优点,能够显著提高特征点的提取效率。

Description

图像特征提取方法、装置、设备及存储介质
技术领域
本公开涉及图像处理技术领域,尤其涉及一种图像特征提取方法、装置、设备及存储介质。
背景技术
基于快速特征点提取和描述算法(Oriented FAST and Rotated BRIEF,ORB)特征的三维定位与地图构建算法(ORB-Simultaneous localization and mapping,ORB-SLAM),可用于机器人、无人机、自动驾驶等领域,能够通过视觉传感器在对环境建图的同时进行无人系统的自主定位。
在现有技术中,ORB-SLAM算法经常采用角点检测算法进行特征点(也称角点)提取。但角点检测算法得到的特征点不仅存在大量冗余的问题,还存在均匀性差、重复遍历图像以及效率低等问题。
发明内容
本公开提供了一种图像特征提取的方法、装置、设备及存储介质,以至少解决现有技术中存在的以上技术问题。
根据本公开的第一方面,提供了一种图像特征提取方法,包括:
将待处理图像划分为多个子图像;
根据目标特征总数和子图像个数,确定各个子图像需要提取的默认特征个数;
根据角点检测法,确定当前子图像的候选特征;
根据所述当前子图像的候选特征个数和所述当前子图像需要提取的默认特征个数,确定所述当前子图像能够提取的实际特征个数,并在完成所述当前子图像的特征提取操作之后,进行下一子图像的特征提取,直至完成所有子图像的特征提取。
在一可实施方式中,进行下一子图像的特征提取之前,包括:
根据所述当前子图像能够提取的实际特征个数,确定是否对所述下一子图像需要提取的默认特征个数进行变更;
若所述当前子图像能够提取的实际特征个数等于所述默认特征个数,则保持所述下一子图像需要提取的默认特征个数不变;
若所述当前子图像能够提取的实际特征个数小于所述默认特征个数,则根据所述当前子图像能够提取的实际特征个数和所述默认特征个数确定第一特征个数差值,并根据所述第一特征个数差值以及所述默认特征个数,变更所述下一子图像需要提取的默认特征个数。
在一可实施方式中,在所述进行下一子图像的特征提取之前,包括:
根据所述当前子图像能够提取的实际特征个数、之前子图像已经提取的已提取特征总数以及所述目标特征总数,确定剩余待提取特征总数;
根据剩余待提取子图像个数与所述默认特征个数确定剩余估算特征总数;
若所述剩余估算特征总数与所述剩余待提取特征总数存在第二特征个数差值,则根据所述第二特征个数差值以及所述默认特征个数,变更所述下一子图像需要提取的默认特征个数。
在一可实施方式中,根据所述当前子图像的候选特征个数和所述当前子图像需要提取的默认特征个数,确定所述当前子图像能够提取的实际特征个数,包括:
若所述当前子图像的候选特征个数大于或等于所述当前子图像需要提取的默认特征个数,则确定所述当前子图像能够提取的实际特征个数为所述默认特征个数;
若所述当前子图像的候选特征个数小于所述当前子图像需要提取的默认特征个数,则确定所述当前子图像能够提取的实际特征个数为所述候选特征个数。
在一可实施方式中,根据角点检测法,确定当前子图像的候选特征,包括:
将所述角点检测法设置为双阈值模式,其中,所述双阈值模式包括常规阈值模式和异常阈值模式;
默认使用所述常规阈值模式,根据所述角点检测法,将所述当前子图像中特征点所对应的特征值大于常规阈值的特征点,确定为所述当前子图像的候选特征;
若在所述当前子图像中,根据所述常规阈值模式能够提取的候选特征个数满足预设异常条件,则使用所述异常阈值模式确定所述当前子图像的候选特征。
在一可实施方式中,完成所述当前子图像的特征提取操作,包括:
按照预设排序条件,将所述当前子图像的候选特征进行排序,得到多个排序候选特征;
根据预设提取规则以及所述当前子图像的实际特征个数,在所述多个排序候选特征中提取特征,以完成所述当前子图像的特征提取。
根据本公开的第二方面,提供了一种图像特征提取装置,装置包括:
图像划分模块,用于将待处理图像划分为多个子图像;
默认特征个数确定模块,用于根据目标特征总数和子图像个数,确定各个子图像需要提取的默认特征个数;
候选特征确定模块,用于根据角点检测法,确定当前子图像的候选特征;
特征提取模块,用于根据所述当前子图像的候选特征个数和所述当前子图像需要提取的默认特征个数,确定所述当前子图像能够提取的实际特征个数,并在完成所述当前子图像的特征提取操作之后,进行下一子图像的特征提取,直至完成所有子图像的特征提取,则结束操作。
在一可实施方式中,特征提取模块,具体还用于:
在所述进行下一子图像的特征提取之前,根据所述当前子图像能够提取的实际特征个数,确定是否对所述下一子图像需要提取的默认特征个数进行变更;
若所述当前子图像能够提取的实际特征个数等于所述默认特征个数,则保持所述下一子图像需要提取的默认特征个数不变;
若所述当前子图像能够提取的实际特征个数小于所述默认特征个数,则根据所述当前子图像能够提取的实际特征个数和所述默认特征个数确定第一特征个数差值,并根据所述第一特征个数差值以及所述默认特征个数,变更所述下一子图像需要提取的默认特征个数。
在一可实施方式中,特征提取模块,具体还用于:
在所述进行下一子图像的特征提取之前,根据所述当前子图像能够提取的实际特征个数、之前子图像已经提取的已提取特征总数以及所述目标特征总数,确定剩余待提取特征总数;
根据剩余待提取子图像个数与所述默认特征个数确定剩余估算特征总数;
若所述剩余估算特征总数与所述剩余待提取特征总数存在第二特征个数差值,则根据所述第二特征个数差值以及所述默认特征个数,变更所述下一子图像需要提取的默认特征个数。
在一可实施方式中,特征提取模块,具体用于:
若所述当前子图像的候选特征个数大于或等于所述当前子图像需要提取的默认特征个数,则确定所述当前子图像能够提取的实际特征个数为所述默认特征个数;
若所述当前子图像的候选特征个数小于所述当前子图像需要提取的默认特征个数,则确定所述当前子图像能够提取的实际特征个数为所述候选特征个数。
在一可实施方式中,候选特征确定模块,用于:
将所述角点检测法设置为双阈值模式,其中,所述双阈值模式包括常规阈值模式和异常阈值模式;
默认使用所述常规阈值模式,根据所述角点检测法,将所述当前子图像中特征点所对应的特征值大于常规阈值的特征点,确定为所述当前子图像的候选特征;
若在所述当前子图像中,根据所述常规阈值模式能够提取的候选特征个数满足预设异常条件时,则使用所述异常阈值模式确定所述当前子图像的候选特征。
在一可实施方式中,特征提取模块,具体用于:
按照预设排序条件,将所述当前子图像的候选特征进行排序,得到多个排序候选特征;
根据预设提取规则以及所述当前子图像的实际特征个数,在所述多个排序候选特征中提取特征,以完成所述当前子图像的特征提取。
根据本公开的第三方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开所述的方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行本公开所述的方法。
本公开的一种图像特征提取的方法、装置、设备及存储介质,通过将待处理图像划分为多个子图像,根据目标特征总数和子图像个数,确定各个子图像需要提取的默认特征个数,根据角点检测法,确定当前子图像的候选特征,根据所述当前子图像的候选特征个数和所述当前子图像需要提取的默认特征个数,确定所述当前子图像能够提取的实际特征个数,并在完成所述当前子图像的特征提取操作之后,进行下一子图像的特征提取,直至完成所有子图像的特征提取,本实施例不仅能够解决现有技术中提取特征点均匀性差的问题,还具有无需重复遍历图像的优点,能够显著提高特征点的提取效率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过参考附图阅读下文的详细描述,本公开示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中,以示例性而非限制性的方式示出了本公开的若干实施方式,其中:
在附图中,相同或对应的标号表示相同或对应的部分。
图1A示出了现有技术中提取特征点的过程示意图;
图1B示出了现有技术中四叉树均匀化算法提取特征点的过程示意图;
图1C示出了本公开实施例一提供的一种图像特征提取方法的流程图;
图1D为本公开实施例一提供的一种待处理图像划分示意图;
图1E为本公开实施例一提供的一种图像特征提取的过程示意图;
图2示出了本公开实施例二提供的一种图像特征提取装置的结构示意图;
图3示出了本公开实施例一种电子设备的组成结构示意图。
具体实施方式
为使本公开的目的、特征、优点能够更加的明显和易懂,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而非全部实施例。基于本公开中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
一般来说,ORB-SLAM算法的第一步就是对摄像头拍摄的图像进行特征点提取,后续再对拍摄的图像进行匹配跟踪。上述技术具体可以应用于机器人的左右眼所拍摄到的图像,对其进行特征提取,再根据特征匹配以合成一张图像;还可以应用于智能汽车的多个摄像头拍摄的图像,也是对其进行特征提取,再根据特征匹配拼接,建立车外周身环境的三维立体影像。
现有技术对提取特征点部分的常规做法是多使用将全图分成多个子区域进行FAST角点检测算法(Features From Accelerated Segment Test,FAST)进行特征点(角点)提取,如图1A所示。图1A为现有技术中提取特征点的过程示意图,其中,(a)表示将原图划分成四个子图,(b)表示检测出所有特征点的图像示意图。如图1A所示,现有技术先将原始图片划分成四个子图,再分别对该四个子图进行FAST角点检测法检测特征点,最后根据所有子图的检测结果得到全图特征点。
但是,FAST角点检测算法得到的特征点大量冗余,例如对于复杂的室外环境,一张图片动辄可以提取出数万个FAST角点,这会导致后续算法处理遭遇极大计算量。而且这些大量的特征点往往出现集中和均匀性差的特点,因此会为每幅图设定一个提取特征点的目标数量来控制后续算法处理的计算量。例如可以使用类似四叉树均匀化算法对提取到的大量特征点进行筛选。图1B为现有技术中四叉树均匀化算法提取特征点的过程示意图。如图1B所示,(a)表示检测出所有特征点的待划分图像的示意图(b)表示第一轮划分的结果示意图(c)表示第二轮划分的结果示意图(d)表示第三轮划分的结果示意图。
具体的,图1B中的(a)表示了即将待划分图像,包含了FAST特征点。(b)表示了将(a)中的待划分图像区域划分为相同大小的4个子图像区域,且为采用四叉树均匀化算法进行FAST特征点提取的第一轮操作过程的示意图,其中,图中数字4表示4个存在可提取特征点的有效子区域。现有技术将存在特征点的子区域作为一个特征点区域,不存在则删除。当得到的特征点区域达到期望数量,或特征点区域个数不再增加时,均匀化处理完成。否则,将特征点数量大于1的子区域继续进行划分,直至均匀化完成。示例性的,假设提取特征点的目标数量为16,由于第一轮操作仅划分了四个存在可提取特征点的有效子区域,因此需要继续划分。(c)和(d)分别表示了采用四叉树均匀化算法进行FAST特征点提取的第二轮和第三轮操作过程的示意图。其中,白色子区域为存在多个特征点的可继续划分区域,点状填充子区域为仅有一个特征点的停止划分区域,斜纹填充子区域为无特征点的删除区域。因为第三轮划分后可用于提取点状填充子区域和白色子区域的特征点数量总和达到预定目标特征点数量16,则划分停止。
在现有技术中,四叉树均匀化算法虽然改善了特征点提取均匀性差的问题,但是却需要先检测出图像中的所有特征点,再针对检测出的所有特征点进行划分,因此需要存储下全图检测出的所有特征点。这对存储器性能的依赖度较高,例如对于复杂环境中的几万个特征点而言,则需要大量内存来存储这些特征点的位置和特征值信息,且导致后续算法处理遭遇极大计算量。除此之外,虽然该方法改善了特征点过于密集的问题,但需要重复遍历图像,时间成本非常高,因此该算法为视觉SLAM算法的实时性带来不便。
本实施例提供了一种图像特征提取方法,无需将通过原始图像得到的所有特征点进行划分来提取目标特征点,而是采用更加方便快捷、占用内存更小的方法,可以有效的解决现有技术中的均匀性差、重复遍历图像以及效率低等问题,具体详述如下。
实施例一
图1C为本公开实施例一提供的一种图像特征提取方法的流程图,该方法可以由本公开实施例提供的图像特征提取装置来执行,该装置可采用软件和/或硬件的方式实现。该方法具体包括:
S110、将待处理图像划分为多个子图像。
其中,待处理图像可以是摄像头拍摄的用于后续特征点提取的原始图像,子图像可以是由待处理图像进行均匀划分后所得的图像,用于后续运算的特征点提取。
具体的,本实施例需要将摄像头拍摄图像进行特征点提取,以方便后续的匹配跟踪。本实施例为了减轻存储器的压力,不需要先提取待处理图像中的所有特征点,而是仅划分为若干子图像。
示例性的,图1D为本公开实施例一提供的一种待处理图像划分示意图,如图1D所示,待处理图像的宽度和高度分别为ImgWidth和ImgHeight,根据经验可以将子图像的宽度和高度设置为GridWidth和GridHeight,那么本实施例则可以得到子图像的总数量,记为BlockNum。其中,子图像总数量的计算公式为BlockNum =(ImgWidth/GridWidth )*(ImgHeight / GridHeight)。
S120、根据目标特征总数和子图像个数,确定各个子图像需要提取的默认特征个数。
其中,目标特征总数可以是预先设定的原始图像中需要采集的特征点个数,记为TargetNum。默认特征个数可以是每个子图像需要采集的特征点个数,记为DefaultGridNum。
具体的,本实施例将待处理图像提取特征点,转换为对各个子图像提取特征点,因此需要为各个子图像设定提取的默认特征个数。其中,默认特征个数可以通过预先设定的目标特征总数除以子图像总数量得到,默认特征个数的计算公式为:DefaultGridNum =TargetNum/BlockNum。
S130、根据角点检测法,确定当前子图像的候选特征。
其中,角点检测法可以是任意一种能够达到角点检测目的的方法,例如包括FAST角点检测法、Harris角点检测法和Shi-Tomasi角点检测法。示例性的,本实施例采用的是FAST角点检测法。候选特征可以是通过角点检测法筛选出来的特征点,以供后续运算提取一定数量的特征点,当前子图像可以是当前正在处理的子图像。
具体的,由于本实施例的目的是提取特征点,因此需要提供满足特征点需求的候选特征以等待提取。具体的,本实施例可以逐一对各个子图像提取候选特征,在提取候选特征后,在候选特征中提取特征点。例如,在当前子图像利用角点检测法得到若干符合一定特征条件的特征点,即当前子图像的候选特征。
在本公开实施例中,根据角点检测法,确定当前子图像的候选特征,包括:将角点检测法设置为双阈值模式。其中,双阈值模式包括常规阈值模式和异常阈值模式。
其中,常规阈值模式,可以是使用常规特征阈值来提取特征点的模式;异常阈值模式,可以是在使用常规特征阈值来提取特征点提取失败的情况下,设置的使用异常特征阈值来提取特征点的模式,一般情况下,本实施例设置的异常特征阈值小于常规特征阈值。
具体的,本实施例默认使用常规阈值模式,根据角点检测法,将当前子图像中特征点所对应的特征值大于常规特征阈值的特征点,确定为当前子图像的候选特征。若在当前子图像中,根据常规阈值模式提取不出来特征点,则使用异常阈值模式确定当前子图像的候选特征。
示例性的,由于各个子图像中特征点的特征明显度存在差异,甚至很大。例如若一张图片中有树木和水泥道路,树木和水泥道路的特征值差异就很大,将该图划分为若干子图像,若使用常规特征阈值来提取特征点,则只能检测出来树木的特征点,检测不出来水泥道路的特征点。因此,本实施例为了达到均匀提取特征点的目的,设置异常阈值模式,具体为在关于水泥道路的子图像提取特征点的过程中,由于使用常规阈值模式提取不出来特征点,则可以使用异常阈值模式,也即使用比常规特征阈值低一些的异常特征阈值来提取特征点,争取让每一张子图像都能提取出来特征点。
S140、根据当前子图像的候选特征个数和当前子图像需要提取的默认特征个数,确定当前子图像能够提取的实际特征个数,并在完成所述当前子图像的特征提取操作之后,进行下一子图像的特征提取,直至完成所有子图像的特征提取。
其中,实际特征个数可以是根据当前子图像的候选特征情况而确定实际提取的特征个数。
具体的,由于各个子图像中的候选特征点数量不均,可能很多,也可能很少,并非每个子图像的候选特征个数必须满足相应的子图像需要提取的默认特征个数,因此本实施例可以将当前子图像的候选特征个数和当前子图像需要提取的默认特征个数,确定当前子图像能够提取的实际特征个数。
在本公开实施例中,根据当前子图像的候选特征个数和当前子图像需要提取的默认特征个数,确定当前子图像能够提取的实际特征个数,包括:若当前子图像的候选特征个数大于或等于当前子图像需要提取的默认特征个数,则确定当前子图像能够提取的实际特征个数为默认特征个数。若当前子图像的候选特征个数小于当前子图像需要提取的默认特征个数,则确定当前子图像能够提取的实际特征个数为候选特征个数。
具体的,本实施例中由于各个子图像的候选特征个数并非恰好满足相应的子图像需要提取的默认特征个数,因此若当前子图像的候选特征个数等于当前子图像需要提取的默认特征个数,或者比当前子图像需要提取的默认特征个数多时,则可以确定当前子图像能够提取出来默认特征个数的候选特征,即确定实际特征个数为默认特征个数,并提取默认特征个数的候选特征;若当前子图像的候选特征个数小于当前子图像需要提取的默认特征个数,则可以确定当前子图像不能提取出来默认特征个数的候选特征,也即确定当前子图像能够提取出来的实际特征个数为候选特征个数,并全部提取出来。
在本公开实施例中,完成当前子图像的特征提取操作,包括:按照预设排序条件,将当前子图像的候选特征进行排序,得到多个排序候选特征。根据预设提取规则以及当前子图像的实际特征个数,在多个排序候选特征中提取特征,以完成当前子图像的特征提取。
其中,预设排序条件可以是根据需求而设定的排序条件,例如是将候选特征按照特征值从大到小的顺序进行排序。排序候选特征可以是具有排序特征的候选特征,例如排在第一位置的候选特征的特征值大于排在第二位置的候选特征,以此类推。预设提取规则可以是按照特征值的排序,将特征值较大的候选特征进行优先提取。
由于当前子图像的候选特征点的特征明显度存在差异,为了得到当前子图像中特征明显度较强的候选特征,因此本实施例可以将当前子图像的候选特征点按照需求进行特征值从大到小的排序,得到当前子图像对应的排序候选特征。示例性的,本实施例可以将候选特征按照特征值的大小进行从大到小的排序,若当前子图像的实际提取个数为4,则提取特征值较大的前四个排序候选特征。
本实施例根据已排序好的当前子图像的候选特征个数与当前子图像需要提取的默认特征个数的比较结果,可以从已排序好的当前子图像的候选特征点中提取相应个数的当前子图像的候选特征,即当前子图像的实际特征个数,若已排序好的当前子图像的候选特征个数大于或等于当前子图像需要提取的默认特征个数时,则从已排序好的当前子图像的候选特征中提取默认特征个数的当前子图像候选特征;若已排序好的当前子图像的候选特征个数小于当前子图像需要提取的默认特征个数时,则将已排序好的当前子图像的候选特征全部提取。在当前子图像的实际特征提取操作之后,再进行下一子图像的实际特征提取,直至完成所有子图像的实际特征提取。
除此之外,本实施例在进行下一子图像的特征提取之前,还包括:根据当前子图像能够提取的实际特征个数,确定是否对下一子图像需要提取的默认特征个数进行变更,若当前子图像能够提取的实际特征个数等于默认特征个数,则保持下一子图像需要提取的默认特征个数不变,若当前子图像能够提取的实际特征个数小于默认特征个数,则根据当前子图像能够提取的实际特征个数和默认特征个数确定第一特征个数差值,并根据第一特征个数差值以及默认特征个数,变更下一子图像需要提取的默认特征个数。
具体的,本实施例由于各个子图像中存在的已排序的特征点个数与当前子图像中默认提取的特征点个数并非完全一致,所以需要根据当前子图像中默认提取的特征点个数和当前子图像存在的已排序的特征个数,决定当前子图像能够提取的实际特征点个数,进而决定下一个子图像中需要提取的特征点个数。
具体的,若已排序好的当前子图像的候选特征个数小于当前子图像需要提取的默认特征个数,则将已排序好的当前子图像的候选特征个数与当前子图像需要提取的默认特征个数的差值,累积到下一子图像需要提取的默认特征个数上,在进行下一子图像的实际特征提取时,不仅需要提取对应的子图像需要提取的默认特征个数,而且还需要额外提取当前子图像的候选特征个数与当前子图像需要提取的默认特征个数的差值,随后依次提取各个子图像的实际特征,直至完成所有子图像的特征提取。在本实施例,根据第一特征个数差值以及默认特征个数,变更下一子图像需要提取的默认特征个数,可以直接将第一特征个数差值累加到下一子图像需要提取的默认特征个数,也可以为了均匀化考虑,设定第一特征个数差值固定为1。示例性的,若第一特征个数差值为3,则可以直接将第一特征个数差值3累加到下一子图像需要提取的默认特征个数,也可以直接将设定第一特征个数差值1累加到下一子图像需要提取的默认特征个数,本实施例不对其进行限定。示例性的,如图1E所示,图1E为本公开实施例一提供的一种图像特征提取的过程示意图,其中,(a)表示对第一个子图像提取特征,(b)表示对第二个子图像提取特征,(c)表示对第三个子图像提取特征,(d)表示对第四个子图像提取特征,其中,圆圈中的数字为已提取出来的特征总数,每个子图像括号中的数字为默认特征个数,括号外的数字为实际特征个数。
示例性,本实施例中FAST角点算法提取的子区域为4个,目标特征点数为16,则每个子图像的默认提取特征点个数为4,因此在第一个子图像中需要提取4个候选特征点,若第一个子图像中存在的已排序的候选特征点个数为5,而当前子图像中默认提取的特征点个数为4,则按照当前子图像中默认提取的特征个数,在第一个子图像中已排序特征点中提取序位靠前的候选特征点,若第二个子图像中存在的已排序的候选特征点个数为3,而第二个子图像中默认提取的特征点个数为4,则将第二个子图像中存在的候选特征点全部提取,并将第三子图像需要提取的候选特征点个数调整为5,但是由于第三个子图像中仅检出4个候选特征点,所以也仅能在该子图像中提取到4个候选特征点,因此将第四个子图像需要提取的特征点个数修改为5,以达到目标特征点个数的需求。另一实施例中,若第四个子图像中存在的候选特征点个数也无法满足该子图像需要提取的特征点个数,则可能出现最终得到的实际特征点个数少于目标特征点个数,但是由于本实施例提取特征点后续工作为将两个图像中的特征点进行匹配,因此本实施例对最终提取的目标特征总数要求并没有那么严格,本实施例提供的方法得到的待处理图像的目标候选特征个数与实际候选特征之间的差额不会太大,所以可以忽略不计。
本公开实施例除了可以根据当前子图像的提取数来确定下一子图像的提取数之外,在另一实施例中,还可以根据已经提取的所有子图像的提取总数来确定下一子图像的提取数,也即在进行下一子图像的特征提取之前,包括:根据当前子图像能够提取的实际特征个数、之前子图像已经提取的已提取特征总数以及目标特征总数,确定剩余待提取特征总数;根据剩余待提取子图像个数与默认特征个数确定剩余估算特征总数;若剩余估算特征总数与剩余待提取特征总数存在第二特征个数差值,则根据第二特征个数差值以及默认特征个数,变更下一子图像需要提取的默认特征个数。
其中,剩余待提取特征总数指的是根据目标特征总数和完成提取操作的子图像已经提取出来的特征个数之间的特征个数差值,也即还需要在剩余子图像中需要提取的特征总数。剩余估算特征总数指的是根据剩余子图像个数和各个子图像的默认特征个数相乘后计算出来的、理论上能够提取到的特征值最大数量。
具体的,本实施例尤其针对前面多个子图像提取不到特征点或者提取特征点个数远不满足应当要提取的特征点个数的情况而设定的技术方案。本实施例在每完成一个子图像的提取工作后都会重新计算一遍剩余待提取特征总数,也即通过当前子图像能够提取的实际特征个数、之前子图像已经提取的已提取特征总数以及目标特征总数进行计算确定。本实施例通过剩余还没有提取的子图像数目和每个子图像理论的默认提取数目(也即默认特征个数),也就能够确定如果不改变子图像的默认提取数目,理论上能够提取到的最大数量,也即剩余估算特征总数。本实施例通过判断剩余估算特征总数与剩余待提取特征总数是否存在第二特征个数差值,来判断是否变更下一子图像需要提取的默认特征个数。如此能够解决极端情况,例如,前面存在多个子图像都提取不到特征点,则本实施例可以在后面多个子图像都增加默认特征个数,才有可能补齐目标特征总数,完成特征提取任务。
示例性的,为了本实施例的方案能够实现,可以设定编写的程序内容如下:
1、图像宽度为ImgWidth,高度为ImgHeight,期待特征点(角点)数量为TargetNum;
2、将图像均匀划分为多个子图区域进行FAST角点检测。子图宽度为 GridWidth,高度为GridHeight,则子图总数量计算公式为:
BlockNum =( ImgWidth/GridWidth )*( ImgHeight / GridHeight );
每个子图默认待检测出的特征点数计算公式为:
DefaultGridNum = TargetNum / BlockNum;
3、初始化还未完成检测的子图可能含有的特征点数目为UnCheckedNum 和还需提取的点数为UnFoundNum:
UnCheckedNum = DefaultGridNum * BlockNum;
UnFoundNum = TargetNum;
4、按照从左到右从上到下的顺序对子图依次进行FAST角点检测,对于第 i 个子图像,预期提取的角点数CurrentTargetNum由以下规则获得:
如果UnCheckedNum >= UnFoundNum,
则CurrentTargetNum = DefaultGridNum,
否则下个子图像需要提取的角点数为:
CurrentTargetNum=DefaultGridNum + 1;
5、子图像的FAST角点检测采用双阈值模式:常规阈值和低阈值,先进行常规阈值的检测,如果未检测出角点,则使用低阈值检测,以尽量争取在该子图像中检测到角点。如果最终检测到的角点数目 FoundNum 大于 CurrentTargetNum,则提取特征值前CurrentTargetNum 个角点,否则提取全部 FoundNum 个角点,检测完第i个子图后,更新数据:
UnCheckedNum = UnCheckedNum - DefaultGridNum;
若FoundNum>CurrentTargetNum,则UnFoundNum =(UnFoundNum -CurrentTargetNum);否则UnFoundNum =(UnFoundNum - FoundNum )。
由于四叉树均匀化方法,虽然改善了特征点过于密集的问题,但需要重复遍历图像,因此相比于现有技术而言,本实施例提供的方法为将特征点提取子区域的划分和提取特征点数量的判断结合对原图进行多个子区域进行FAST角点检测并提取,而不是等全图大量特征点提取完毕后再划分,本实施例的方法操作性简单、实用性强以及显示提高其计算效率高。与此同时,除了被提取出的特征点,每个子区域直接丢弃检测出的大量冗余特征点,这些冗余特征点不需要存储,也同时减轻了内存使用压力。
实施例二
图2是本公开实施例二提供的一种图像特征提取装置的结构示意图,该装置具体包括:
图像划分模块210,用于将待处理图像划分为多个子图像
默认特征个数确定模块220,用于根据目标特征总数和子图像个数,确定各个子图像需要提取的默认特征个数;
候选特征确定模块230,用于根据角点检测法,确定当前子图像的候选特征;
特征提取模块240,用于根据当前子图像的候选特征个数和当前子图像需要提取的默认特征个数,确定当前子图像能够提取的实际特征个数,并在完成当前子图像的特征提取操作之后,进行下一子图像的特征提取,直至完成所有子图像的特征提取,则结束操作。
在一可实施方式中,特征提取模块240,具体还用于:在进行下一子图像的特征提取之前,根据当前子图像能够提取的实际特征个数,确定是否对下一子图像需要提取的默认特征个数进行变更;若当前子图像能够提取的实际特征个数等于默认特征个数,则保持下一子图像需要提取的默认特征个数不变;若当前子图像能够提取的实际特征个数小于默认特征个数,则根据当前子图像能够提取的实际特征个数和默认特征个数确定第一特征个数差值,并根据第一特征个数差值以及默认特征个数,变更下一子图像需要提取的默认特征个数。
在一可实施方式中,特征提取模块240,具体还用于:在所述进行下一子图像的特征提取之前,根据所述当前子图像能够提取的实际特征个数、之前子图像已经提取的已提取特征总数以及所述目标特征总数,确定剩余待提取特征总数;根据剩余待提取子图像个数与所述默认特征个数确定剩余估算特征总数;若所述剩余估算特征总数与所述剩余待提取特征总数存在第二特征个数差值,则根据所述第二特征个数差值以及所述默认特征个数,变更所述下一子图像需要提取的默认特征个数。
在一可实施方式中,特征提取模块240,具体用于:若当前子图像的候选特征个数大于或等于当前子图像需要提取的默认特征个数,则确定当前子图像能够提取的实际特征个数为默认特征个数;若当前子图像的候选特征个数小于当前子图像需要提取的默认特征个数,则确定当前子图像能够提取的实际特征个数为候选特征个数。
在一可实施方式中,候选特征确定模块230,用于:将角点检测法设置为双阈值模式,其中,双阈值模式包括常规阈值模式和异常阈值模式;默认使用常规阈值模式,根据角点检测法,将当前子图像中特征点所对应的特征值大于常规阈值的特征点,确定为当前子图像的候选特征;若在当前子图像中,根据常规阈值模式能够提取的候选特征个数满足预设异常条件时,则使用异常阈值模式确定当前子图像的候选特征。
在一可实施方式中,特征提取模块240,具体用于:按照预设排序条件,将当前子图像的候选特征进行排序,得到多个排序候选特征;根据预设提取规则以及当前子图像的实际特征个数,在多个排序候选特征中提取特征,以完成当前子图像的特征提取。
根据本公开的实施例,本公开还提供了一种电子设备和一种可读存储介质。
图3示出了可以用来实施本公开的实施例的示例电子设备300的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图3所示,设备300包括计算单元301,其可以根据存储在只读存储器(ROM)302中的计算机程序或者从存储单元308加载到随机访问存储器(RAM)303中的计算机程序,来执行各种适当的动作和处理。在RAM 303中,还可存储设备300操作所需的各种程序和数据。计算单元301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
设备300中的多个部件连接至I/O接口305,包括:输入单元306,例如键盘、鼠标等;输出单元307,例如各种类型的显示器、扬声器等;存储单元308,例如磁盘、光盘等;以及通信单元309,例如网卡、调制解调器、无线通信收发机等。通信单元309允许设备300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元301可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元301的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元301执行上文所描述的各个方法和处理,例如图像特征提取方法。例如,在一些实施例中,图像特征提取方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元308。在一些实施例中,计算机程序的部分或者全部可以经由ROM 302和/或通信单元309而被载入和/或安装到设备300上。当计算机程序加载到RAM 303并由计算单元301执行时,可以执行上文描述的XXX方法的一个或多个步骤。备选地,在其他实施例中,计算单元301可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行图像特征提取方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或隐含地包括至少一个该特征。在本公开的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
以上所述,仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以所述权利要求的保护范围为准。

Claims (10)

1.一种图像特征提取方法,其特征在于,所述方法包括:
将待处理图像划分为多个子图像;
根据目标特征总数和子图像个数,确定各个子图像需要提取的默认特征个数;
根据角点检测法,确定当前子图像的候选特征;
根据所述当前子图像的候选特征个数和所述当前子图像需要提取的默认特征个数,确定所述当前子图像能够提取的实际特征个数,并在完成所述当前子图像的特征提取操作之后,进行下一子图像的特征提取,直至完成所有子图像的特征提取。
2.根据权利要求1所述的方法,其特征在于,在所述进行下一子图像的特征提取之前,包括:
根据所述当前子图像能够提取的实际特征个数,确定是否对所述下一子图像需要提取的默认特征个数进行变更;
若所述当前子图像能够提取的实际特征个数等于所述默认特征个数,则保持所述下一子图像需要提取的默认特征个数不变;
若所述当前子图像能够提取的实际特征个数小于所述默认特征个数,则根据所述当前子图像能够提取的实际特征个数和所述默认特征个数确定第一特征个数差值,并根据所述第一特征个数差值以及所述默认特征个数,变更所述下一子图像需要提取的默认特征个数。
3.根据权利要求1所述的方法,其特征在于,在所述进行下一子图像的特征提取之前,包括:
根据所述当前子图像能够提取的实际特征个数、之前子图像已经提取的已提取特征总数以及所述目标特征总数,确定剩余待提取特征总数;
根据剩余待提取子图像个数与所述默认特征个数确定剩余估算特征总数;
若所述剩余估算特征总数与所述剩余待提取特征总数存在第二特征个数差值,则根据所述第二特征个数差值以及所述默认特征个数,变更所述下一子图像需要提取的默认特征个数。
4.根据权利要求2或3所述的方法,其特征在于,所述根据所述当前子图像的候选特征个数和所述当前子图像需要提取的默认特征个数,确定所述当前子图像能够提取的实际特征个数,包括:
若所述当前子图像的候选特征个数大于或等于所述当前子图像需要提取的默认特征个数,则确定所述当前子图像能够提取的实际特征个数为所述默认特征个数;
若所述当前子图像的候选特征个数小于所述当前子图像需要提取的默认特征个数,则确定所述当前子图像能够提取的实际特征个数为所述候选特征个数。
5.根据权利要求4所述的方法,其特征在于,所述根据角点检测法,确定当前子图像的候选特征,包括:
将所述角点检测法设置为双阈值模式,其中,所述双阈值模式包括常规阈值模式和异常阈值模式;
默认使用所述常规阈值模式,根据所述角点检测法,将所述当前子图像中特征点所对应的特征值大于常规阈值的特征点,确定为所述当前子图像的候选特征;
若在所述当前子图像中,根据所述常规阈值模式能够提取的候选特征个数满足预设异常条件,则使用所述异常阈值模式确定所述当前子图像的候选特征。
6.根据权利要求5所述的方法,其特征在于,所述完成所述当前子图像的特征提取操作,包括:
按照预设排序条件,将所述当前子图像的候选特征进行排序,得到多个排序候选特征;
根据预设提取规则以及所述当前子图像的实际特征个数,在所述多个排序候选特征中提取特征,以完成所述当前子图像的特征提取。
7.一种图像特征提取装置,其特征在于,所述装置包括:
图像划分模块,用于将待处理图像划分为多个子图像;
默认特征个数确定模块,用于根据目标特征总数和子图像个数,确定各个子图像需要提取的默认特征个数;
候选特征确定模块,用于根据角点检测法,确定当前子图像的候选特征;
特征提取模块,用于根据所述当前子图像的候选特征个数和所述当前子图像需要提取的默认特征个数,确定所述当前子图像能够提取的实际特征个数,并在完成所述当前子图像的特征提取操作之后,进行下一子图像的特征提取,直至完成所有子图像的特征提取,则结束操作。
8.根据权利要求7所述的装置,其特征在于,所述特征提取模块,具体还用于:
在所述进行下一子图像的特征提取之前,根据所述当前子图像能够提取的实际特征个数,确定是否对所述下一子图像需要提取的默认特征个数进行变更;
若所述当前子图像能够提取的实际特征个数等于所述默认特征个数,则保持所述下一子图像需要提取的默认特征个数不变;
若所述当前子图像能够提取的实际特征个数小于所述默认特征个数,则根据所述当前子图像能够提取的实际特征个数和所述默认特征个数确定第一特征个数差值,并根据所述第一特征个数差值以及所述默认特征个数,变更所述下一子图像需要提取的默认特征个数。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。
CN202211660348.4A 2022-12-23 2022-12-23 图像特征提取方法、装置、设备及存储介质 Active CN115661485B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211660348.4A CN115661485B (zh) 2022-12-23 2022-12-23 图像特征提取方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211660348.4A CN115661485B (zh) 2022-12-23 2022-12-23 图像特征提取方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN115661485A CN115661485A (zh) 2023-01-31
CN115661485B true CN115661485B (zh) 2023-03-10

Family

ID=85022346

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211660348.4A Active CN115661485B (zh) 2022-12-23 2022-12-23 图像特征提取方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN115661485B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111726533A (zh) * 2020-06-30 2020-09-29 RealMe重庆移动通信有限公司 图像处理方法、装置、移动终端及计算机可读存储介质
CN111739064A (zh) * 2020-06-24 2020-10-02 中国科学院自动化研究所 用于视频中目标跟踪的方法及存储设备和控制设备
CN113706592A (zh) * 2021-08-24 2021-11-26 北京百度网讯科技有限公司 一种定位信息的修正方法、装置、电子设备和存储介质
CN115022679A (zh) * 2022-05-30 2022-09-06 北京百度网讯科技有限公司 视频处理方法、装置、电子设备和介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111739064A (zh) * 2020-06-24 2020-10-02 中国科学院自动化研究所 用于视频中目标跟踪的方法及存储设备和控制设备
CN111726533A (zh) * 2020-06-30 2020-09-29 RealMe重庆移动通信有限公司 图像处理方法、装置、移动终端及计算机可读存储介质
CN113706592A (zh) * 2021-08-24 2021-11-26 北京百度网讯科技有限公司 一种定位信息的修正方法、装置、电子设备和存储介质
CN115022679A (zh) * 2022-05-30 2022-09-06 北京百度网讯科技有限公司 视频处理方法、装置、电子设备和介质

Also Published As

Publication number Publication date
CN115661485A (zh) 2023-01-31

Similar Documents

Publication Publication Date Title
WO2019205819A1 (zh) 即时定位与地图构建方法、计算机设备及存储介质
CN111209978B (zh) 三维视觉重定位方法、装置及计算设备、存储介质
CN112150551B (zh) 物体位姿的获取方法、装置和电子设备
CN110111388B (zh) 三维物体位姿参数估计方法及视觉设备
CN109658454B (zh) 一种位姿信息确定方法、相关装置及存储介质
CN110648363A (zh) 相机姿态确定方法、装置、存储介质及电子设备
CN112488060B (zh) 目标检测方法、装置、设备和介质
CN111639147B (zh) 一种地图压缩方法、系统及计算机可读存储介质
CN113792690A (zh) 车道线检测方法和装置
CN113435462B (zh) 定位方法、装置、电子设备和介质
CN113506368B (zh) 地图数据融合方法、装置、电子设备、介质和程序产品
CN112634366B (zh) 位置信息的生成方法、相关装置及计算机程序产品
CN113763458B (zh) 确定目标对象摆放面的方法和装置
CN115661485B (zh) 图像特征提取方法、装置、设备及存储介质
CN113112398A (zh) 图像处理方法和装置
CN117274370A (zh) 三维位姿确定方法、装置、电子设备和介质
CN112085842A (zh) 深度值确定方法及装置、电子设备和存储介质
CN114119990B (zh) 用于图像特征点匹配的方法、装置及计算机程序产品
CN114519739A (zh) 一种基于识别装置的方向定位方法、装置及存储介质
CN110634155A (zh) 一种基于深度学习的目标检测方法和装置
US11281935B2 (en) 3D object detection from calibrated 2D images
US9361540B2 (en) Fast image processing for recognition objectives system
CN112991451A (zh) 图像识别方法、相关装置及计算机程序产品
CN112184766A (zh) 一种对象的跟踪方法、装置、计算机设备和存储介质
CN113312979B (zh) 图像处理方法、装置、电子设备、路侧设备及云控平台

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant