CN110443820A - 一种图像处理方法以及装置 - Google Patents

一种图像处理方法以及装置 Download PDF

Info

Publication number
CN110443820A
CN110443820A CN201910594121.6A CN201910594121A CN110443820A CN 110443820 A CN110443820 A CN 110443820A CN 201910594121 A CN201910594121 A CN 201910594121A CN 110443820 A CN110443820 A CN 110443820A
Authority
CN
China
Prior art keywords
image
value
mentioned
color feature
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910594121.6A
Other languages
English (en)
Other versions
CN110443820B (zh
Inventor
黄泽浩
李宗飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201910594121.6A priority Critical patent/CN110443820B/zh
Publication of CN110443820A publication Critical patent/CN110443820A/zh
Priority to PCT/CN2019/117943 priority patent/WO2021000495A1/zh
Application granted granted Critical
Publication of CN110443820B publication Critical patent/CN110443820B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Abstract

本申请公开了一种图像处理方法以及装置。该方法包括:获得第一图像,所述第一图像中包含目标对象,所述目标对象与所述第一图像的边缘存在重合;基于所述第一图像的像素的色彩信息构建填充像素;使用所述填充像素在所述第一图像的边缘进行扩充,得到第二图像;将所述第二图像输入到用于边缘检测的神经网络,得到所述目标对象的轮廓。此外,还公开一种图像处理装置。实施本申请的方案,可以提高图像的边缘识别率。

Description

一种图像处理方法以及装置
技术领域
本申请涉及计算机技术领域,具体涉及一种图像处理方法以及装置。
背景技术
在图像识别领域,边缘检测是图像处理、图像分析、模式识别、计算机视觉以及人类视觉的基本步骤之一。通过检测图像的边缘,能够获取图像的大部分信息,而且还能确定图像中物体的基本轮廓。随着神经网络算法的完善,神经网络的边缘识别率大大提高。
当图像中的目标的边缘与整个图像的边缘重合时,现有的神经网络无法准确识别出目标,会出现漏边的情况,导致边缘识别率较为低下。
发明内容
本申请实施例提供一种图像处理方法以及装置,可以提高图像的边缘识别率。
第一方面,本申请实施例提供了一种图像处理方法,包括:获得第一图像,所述第一图像中包含目标对象,所述目标对象与所述第一图像的边缘存在重合;基于所述第一图像的像素的色彩信息构建填充像素;使用所述填充像素在所述第一图像的边缘进行扩充,得到第二图像;将所述第二图像输入到用于边缘检测的神经网络,得到所述目标对象的轮廓。
在一种可能的实现方式中,所述基于所述第一图像的像素的色彩信息构建填充像素,包括:确定所述第一图像的特征像素的颜色特征值,所述特征像素为与所述第一图像的色彩信息最相近的像素;构建与所述特征像素的颜色特征值差别最大的像素,将所述与所述特征像素的颜色特征值差别最大的像素作为填充像素。
在另一种可能的实现方式中,所述确定第一图像的特征像素的颜色特征值,包括:对所述第一图像进行颜色数值转换,得到所述第一图像的所有像素的颜色特征值;对所述第一图像的所有像素的颜色特征值进行统计,确定所述第一图像的特征像素的颜色特征值。
在又一种可能的实现方式中,所述对所述第一图像的所有像素的颜色特征值进行统计,确定所述第一图像的特征像素的颜色特征值,包括:对所述第一图像的所有像素的颜色特征值进行统计,得到众数颜色特征值,将所述众数颜色特征值作为所述特征像素的颜色特征值,所述众数颜色特征值为统计的颜色特征值中最多的一个,或者,所述众数颜色特征值为统计的颜色特征值中最多的至少两个颜色特征值中的任意一个。
在又一种可能的实现方式中,所述颜色特征值包括第一分量值、第二分量值和第三分量值,所述对所述第一图像的所有像素的颜色特征值进行统计,确定所述第一图像的特征像素的颜色特征值,包括:对所述第一图像的所有像素的第一分量值进行统计,得到众数第一分量值,将所述众数第一分量值作为所述特征像素的第一分量值,所述众数第一分量值为统计的第一分量值中最多的一个,或者,所述众数第一分量值为统计的第一分量值中最多的至少两个第一分量值中的任意一个;对所述第一图像的所有像素的第二分量值进行统计,得到众数第二分量值,将所述众数第二分量值作为所述特征像素的第二分量值,所述众数第二分量值为统计的第二分量值中最多的一个,或者,所述众数第二分量值为统计的第二分量值中最多的至少两个第二分量值中的任意一个;对所述第一图像的所有像素的第三分量值进行统计,得到众数第三分量值,将所述众数第三分量值作为所述特征像素的第三分量值,所述众数第三分量值为统计的第三分量值中最多的一个,或者,所述众数第三分量值为统计的第三分量值中最多的至少两个第三分量值中的任意一个。
在又一种可能的实现方式中,所述对所述第一图像的所有像素的颜色特征值进行统计,确定所述第一图像的特征像素的颜色特征值,包括:对所述第一图像的所有像素的颜色特征值进行加权计算,得到所述第一图像的所有像素的加权后的颜色特征值;对所述第一图像的所有像素的加权后的颜色特征值进行统计,得到最大值,将所述最大值作为所述特征像素的颜色特征值。
在又一种可能的实现方式中,所述第一图像的尺寸为M*N,所述使用所述填充像素在所述第一图像的边缘进行扩充,得到第二图像,包括:获取所述用于边缘检测的神经网络使用的激活函数的类型;根据所述类型,选取所述填充像素的扩充个数X;使用所述填充像素在所述第一图像的边缘进行扩充,得到第二图像,其中,所述第二图像的尺寸为(M+2X)*(N+2X)。
在又一种可能的实现方式中,所述将所述第二图像输入到用于边缘检测的神经网络,得到所述目标对象的轮廓,包括;对所述第二图像进行卷积处理,得到一个或多个特征图像;将所述一个或多个特征图像进行加权融合,得到所述目标对象的轮廓。
第二方面,本申请实施例提供了一种图像处理装置,包括:获得单元,用于获得第一图像,所述第一图像中包含目标对象,所述目标对象与所述第一图像的边缘存在重合;构建单元,用于基于所述第一图像的像素的色彩信息构建填充像素;扩充单元,用于使用所述填充像素在所述第一图像的边缘进行扩充,得到第二图像;处理单元,用于将所述第二图像输入到用于边缘检测的神经网络,得到所述目标对象的轮廓。
在一种可能的实现方式中,所述构建单元,包括:特征子单元,用于确定第一图像的特征像素的颜色特征值;构建子单元,用于构建与所述特征像素的颜色特征值差别最大的像素,将所述与所述特征像素的颜色特征值差别最大的像素作为填充像素。
在另一种可能的实现方式中,所述特征子单元,包括:转换子单元,用于对所述第一图像进行颜色数值转换,得到所述第一图像的所有像素的颜色特征值;确定子单元,用于对所述第一图像的所有像素的颜色特征值进行统计,确定所述第一图像的特征像素的颜色特征值。
在又一种可能的实现方式中,所述确定子单元具体用于,对所述第一图像的所有像素的颜色特征值进行统计,得到众数颜色特征值,将所述众数颜色特征值作为所述特征像素的颜色特征值,所述众数颜色特征值为统计的颜色特征值中最多的一个,或者,所述众数颜色特征值为统计的颜色特征值中最多的至少两个颜色特征值中的任意一个。
在又一种可能的实现方式中,所述确定子单元具体用于,对所述第一图像的所有像素的第一分量值进行统计,得到众数第一分量值,将所述众数第一分量值作为所述特征像素的第一分量值,所述众数第一分量值为统计的第一分量值中最多的一个,或者,所述众数第一分量值为统计的第一分量值中最多的至少两个第一分量值中的任意一个;对所述第一图像的所有像素的第二分量值进行统计,得到众数第二分量值,将所述众数第二分量值作为所述特征像素的第二分量值,所述众数第二分量值为统计的第二分量值中最多的一个,或者,所述众数第二分量值为统计的第二分量值中最多的至少两个第二分量值中的任意一个;对所述第一图像的所有像素的第三分量值进行统计,得到众数第三分量值,将所述众数第三分量值作为所述特征像素的第三分量值,所述众数第三分量值为统计的第三分量值中最多的一个,或者,所述众数第三分量值为统计的第三分量值中最多的至少两个第三分量值中的任意一个。
在又一种可能的实现方式中,所述确定子单元具体用于,对所述第一图像的所有像素的颜色特征值进行加权计算,得到所述第一图像的所有像素的加权后的颜色特征值;对所述第一图像的所有像素的加权后的颜色特征值进行统计,得到最大值,将所述最大值作为所述特征像素的颜色特征值。
在又一种可能的实现方式中,所述第一图像的尺寸为M*N,所述扩充单元具体用于,获取所述用于边缘检测的神经网络使用的激活函数的类型;根据所述类型,选取所述填充像素的扩充个数X;使用所述填充像素在所述第一图像的边缘进行扩充,得到第二图像,其中,所述第二图像的尺寸为(M+2X)*(N+2X)。
在又一种可能的实现方式中,所述处理单元具体用于,对所述第二图像进行卷积处理,得到一个或多个特征图像;将所述一个或多个特征图像进行加权融合,得到所述目标对象的轮廓。
第三方面,本申请实施例提供了一种图像处理装置,包括:处理器、输入装置、输出装置和存储器,其中所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行上述第一方面及其任一种可选方式的方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述各方面所述的方法。
第五方面,本申请实施例提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述各方面所述的方法。
本申请实施例具有以下有益效果:
实施本申请,由于图像处理装置使用填充像素对用于识别的图像的边缘进行了适度的扩充,即使用于识别的图像中的目标对象与图像边缘存在重合,也能准确识别该目标对象的轮廓,因此可以提高图像的边缘识别率。
附图说明
图1是本申请实施例提供的一种图像处理方法的流程示意图;
图2是本申请实施例提供的一种图像处理装置的结构示意图;
图3是本申请实施例提供的一种图像处理装置的硬件结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
请参阅图1,图1是本申请例提供的一种图像处理方法的流程示意图,其中:
S101、获得第一图像。
具体的,上述第一图像包含目标对象,上述目标对象与上述第一图像的边缘存在重合。
在一种可能的实现方式中,在上述第一图像中设置边缘框,并获得上述目标对象在上述第一图像中的位置,上述位置为包含上述目标对象的矩形框的任意一对对角在上述第一图像中的位置。当包含上述目标对象的矩形框的任一点与边缘框的距离小于距离阈值时,确定上述目标对象与上述第一图像的边缘存在重合。
例如,上述第一图像的尺寸为100*100,边缘框的宽度为1.5,包含上述目标对象的矩形框的宽度为1,上述距离阈值为0.5,上述矩形框的点A与边缘框的距离为0.2,确定上述目标对象与上述第一图像的边缘存在重合。
又例如,上述第一图像的尺寸为100*100,边缘框的宽度为1,包含上述目标对象的矩形框的宽度为0.5,上述距离阈值为0.2,上述矩形框的某一边与上述边缘框重合,即上述矩形框的某一边与边缘框的距离为0,确定上述目标对象与上述第一图像的边缘存在重合。
S102、基于所述第一图像的像素的色彩信息构建填充像素。
具体的,确定第一图像的特征像素的颜色特征值;构建与上述特征像素的颜色特征值差别最大的像素,将上述与上述特征像素的颜色特征值差别最大的像素作为填充像素。
在本申请实施例中,上述特征像素是与上述第一图像色彩信息最相近的像素,上述填充像素是与上述特征像素的颜色特征值相似度最低的像素。上述填充像素可以为上述第一图像中与上述特征像素的颜色特征值相似度最低的像素;或者,上述填充像素可以为上述第一图像的像素以外的,与上述特征像素的颜色特征值相似度最低的像素。
具体的,可以采用欧几里得距离(Euclidean Distance)算法、曼哈顿距离(Manhattan Distance)算法、明可夫斯基距离(Minkowski distance)算法、余弦相似度(Cosine Similarity)算法和Jaccard Similarity算法等算法进行相似度的计算,若两个像素的特征颜色值之间的距离越大,那么这两个像素的相似度越小。可理解,本申请实施例对于使用的相似度算法不作唯一性限定。
例如,使用上述第一图像的所有像素的颜色特征值与上述特征像素的颜色特征值进行相似度计算,得到上述第一图像的所有像素与上述特征像素的颜色特征值之间的距离。通过统计得到距离最大的像素为像素A,即像素A与上述特征像素的相似度最低。将上述像素A确定为上述填充像素,并确定上述像素A对应的颜色特征值为上述填充像素的颜色特征值。
进一步的,设置某个距离阈值,相似度计算结果大于该阈值则证明两个像素之间的差别较大。若上述第一图像中所有像素的颜色特征值与上述特征像素的颜色特征值的相似度计算结果均没有大于上述相似度阈值,即使用上述第一图像的像素的颜色特征值以外的与上述特征像素距离最远的颜色特征值,作为上述填充像素的颜色特征值。
例如,采用HIS颜色空间模型,表示上述第一图像的像素的色彩信息,其中,H的取值范围为0-2π,S的取值范围为0-255,I的取值范围为0-255。上述第一图像的所有像素的颜色特征值均为(π/2,127,127),上述特征像素的颜色特征值为(π/2,127,127),由于上述第一图像中的所有像素的颜色特征值与上述特征像素的颜色特征值的相似度计算结果均没有大于上述相似度阈值,则使用(π,255,255)作为上述填充像素的颜色特征值。
进一步的,上述确定第一图像的特征像素的颜色特征值,包括:对上述第一图像进行颜色数值转换,得到上述第一图像的所有像素的颜色特征值;对上述第一图像的所有像素的颜色特征值进行统计,确定上述第一图像的特征像素的颜色特征值。
HSI颜色空间模型反映了人的视觉系统观察彩色的方式,使用方式接近于人对彩色感知的方式。上述颜色特征值为像素对应的HSI值。本申请实施例中,通过将上述第一图像由RGB颜色空间模型转换至上述HSI颜色空间模型,得到上述第一图像的所有像素的颜色特征值。
具体的,利用转换公式,将上述第一图像的所有像素由RGB值转化为HSI值。上述HSI数值分别有H、S和I三个分量,上述RGB数值分别由R、G和B三个分量。其中,H的取值范围为0-2π,S的取值范围为0-255,I的取值范围为0-255。转换公式如下:
可选的,上述第一图像可以为经过预处理的图像,也可以为没有经过预处理的图像。若上述第一图像为没有经过预处理的图像,首先可以对上述第一图像进行平滑、去噪等简单的预处理。
在一种可能的实现方式中,对上述第一图像的所有像素的颜色特征值进行统计,得到众数颜色特征值,将上述众数颜色特征值作为上述特征像素的颜色特征值。其中,上述众数颜色特征值为统计的颜色特征值中最多的一个,或者,上述众数颜色特征值为统计的颜色特征值中最多的至少两个颜色特征值中的任意一个。
例如,上述第一图像由100个像素构成,H分量为π/2,S分量和I分量均为150的颜色特征值出现了90次。根据统计结果,该颜色特征值为众数颜色特征值,即上述特征像素的颜色特征值为(π/2,150,150)。
又例如,上述第一图像由100个像素构成,颜色特征值A和颜色特征值B分别出现了45次。根据统计结果,颜色特征值A或颜色特征值B为众数颜色特征值,即上述特征像素的颜色特征值为颜色特征值A和颜色特征值B中的任意一个。
在另一种可能的实现方式中,上述颜色特征值包括第一分量值、第二分量值和第三分量值,对上述第一图像的所有像素的第一分量值进行统计,得到众数第一分量值,将上述众数第一分量值作为上述特征像素的第一分量值,上述众数第一分量值为统计的第一分量值中最多的一个,或者,上述众数第一分量值为统计的第一分量值中最多的至少两个第一分量值中的任意一个;对上述第一图像的所有像素的第二分量值进行统计,得到众数第二分量值,将上述众数第二分量值作为上述特征像素的第二分量值,上述众数第二分量值为统计的第二分量值中最多的一个,或者,上述众数第二分量值为统计的第二分量值中最多的至少两个第二分量值中的任意一个;对上述第一图像的所有像素的第三分量值进行统计,得到众数第三分量值,将上述众数第三分量值作为上述特征像素的第三分量值,上述众数第三分量值为统计的第三分量值中最多的一个,或者,上述众数第三分量值为统计的第三分量值中最多的至少两个第三分量值中的任意一个。
具体的,上述第一分量值、第二分量值和第三分量值分别对应上述第一图像的像素的H、S、I分量。上述众数第一分量值为出现次数最多的H分量值,上述众数第二分量值为出现次数最多的S分量值,上述众数第三分量值为出现次数最多的I分量值。
例如,通过统计上述第一图像中的所有像素的H、S及I分量,出现次数最多的H分量值为π/2,出现次数最多的S分量值为100,出现次数最多的I分量为150;即上述特征像素的第一分量值为π/2,第二分量值为100,第三分量值为150。
又例如,通过统计上述第一图像中的所有像素的H、S及I分量,出现次数最多的H分量值为π/2,出现次数最多的S分量值为100和155,出现次数最多的I分量为150;即上述特征像素的第一分量值为π/2,第二分量值为100,第三分量值为150;或者上述特征像素的第一分量值为π/2,第二分量值为155,第三分量值为150。
又例如,统计上述第一图像中的出现次数最多的R、G、B分量,并将上述分量转化为对应的H、S、I分量。转化出的结果即为上述特征像素的颜色特征值。在又一种可能的实现方式中,对上述第一图像的所有像素的颜色特征值进行加权计算,得到上述第一图像的所有像素的加权后的颜色特征值;对上述第一图像的所有像素的加权后的颜色特征值进行统计,得到最大值,将上述最大值作为上述特征像素的颜色特征值。
例如,H、S、I分量分别占据的权重为0.6、0.3和0.1,上述第一图像由像素A和像素B构成。像素A的H分量为π/2,S分量和I分量均为150;像素B的H分量为π,S分量为200,I分量为150。经过加权计算,像素A的H分量为3π/10,S分量为45和I分量为15;像素B的H分量为3π/5,S分量为60和I分量为15,即上述特征像素的颜色特征值为(3π/5,60,15)。
又例如,H、S、I分量分别占据的权重为0.5、0.4和0.1,第一图像由像素A和像素B构成。像素A的H分量为π/2,S分量和I分量均为150;像素B的H分量为π,S分量为200,I分量为150。经过加权计算,像素A的H分量为π/4,S分量为60和I分量为15;像素B的H分量为π/2,S分量为80和I分量为15,上述像素B计算出的加权后的颜色特征值更大,即将像素B的分量作为上述特征像素的颜色特征值。
S103、使用所述填充像素在所述第一图像的边缘进行扩充,得到第二图像。
具体的,上述第一图像的尺寸为M*N,获取上述用于边缘检测的神经网络使用的激活函数的类型;根据上述类型,选取上述填充像素的扩充个数X;使用上述填充像素在上述第一图像的边缘进行扩充,得到第二图像,其中,上述第二图像的尺寸为(M+2X)*(N+2X)。
在一种可能的实现方式中,激活函数类型与填充像素扩充个数的对应关系表为表1-1所示,上述第一图像的尺寸为20*20,选用的激活函数为Maxout函数根据表1-1可以确定扩充个数为2,即使用上述填充像素在上述第一图像的边缘进行扩充,上述第二图像的尺寸为24*24。
网络激活函数 扩充像素个数
ReLU函数 1
Maxout函数 2
表1-1
又例如,激活函数类型与填充像素扩充个数的对应关系表为表1-2所示,上述第一图像的尺寸为20*20,选用的激活函数为ReLU函数,根据表1-2可以确定扩充个数为6,即使用上述填充像素在上述第一图像的边缘进行扩充,上述第二图像的尺寸为32*32。
可选的,当某种激活函数类型对应有多个扩充个数时,选择最少的扩充像素个数对上述第一图像进行扩充。
例如,激活函数类型与填充像素扩充个数的对应关系表为表1-2所示,上述第一图像的尺寸为20*20,选用的激活函数为Maxout函数,根据表1-2可以确定扩充个数为2,即使用上述填充像素在上述第一图像的边缘进行扩充,上述第二图像的尺寸为24*24。
可选的,当某种激活函数类型对应有多个扩充个数时,选择中间数的扩充像素个数对上述第一图像进行扩充。
例如,激活函数类型与填充像素扩充个数的对应关系表为表1-2所示,上述第一图像的尺寸为20*20,选用的激活函数为Maxout函数,根据表1-2可以确定扩充个数为3,即使用上述填充像素在上述第一图像的边缘进行扩充,上述第二图像的尺寸为26*26。
可选的,当某种激活函数类型对应有多个扩充个数时,选择最多的扩充像素个数对上述第一图像进行扩充。
例如,激活函数类型与填充像素扩充个数的对应关系表为表1-2所示,上述第一图像的尺寸为20*20,选用的激活函数为Maxout函数,根据表1-2可以确定扩充个数为7,即使用上述填充像素在上述第一图像的边缘进行扩充,上述第二图像的尺寸为34*34。
可选的,当激活函数对应有多个扩充像素时,使用不同扩充像素对上述第一图像进行扩充,获取多个扩充结果。
例如,激活函数类型与填充像素扩充个数的对应关系表为表1-2所示,上述第一图像的尺寸为20*20,选用的激活函数为Maxout函数,根据表1-2可以确定扩充个数为2、3和7,即使用上述填充像素在上述第一图像的边缘进行扩充,得到尺寸分别为24*24、26*26和34*34的第二图像。
网络激活函数 扩充像素个数
Tanh函数 1
Maxout函数 2
Maxout函数 3
Sigmoid函数 4
Leaky-ReLU 5
ReLU函数 6
Maxout函数 7
表1-2
具体的,上述激活函数可以为Sigmoid函数、Tanh函数、ReLU函数、Leaky-ReLU函数及Maxout函数等函数。应理解,本申请实施例对激活函数类型与填充像素扩充个数的对应关系和具体使用的激活函数类型不作具体限定。
S104、将所述第二图像输入到用于边缘检测的神经网络,得到所述目标对象的轮廓。
具体的,对所述第二图像进行卷积处理,得到一个或多个特征图像;将所述一个或多个特征图像进行加权融合,得到上述目标对象的轮廓。
本申请实施例中,使用的用于边缘检测的神经网络为整体嵌入边缘检测(Holistically-nested Edge Detection,HED)。当该神经网络用于图像边缘检测时,输出对象为输入图像中主要形状的边缘轮廓图像。
上述HED神经网络包括多个阶段、多个卷积层和一个加权融合层。上述每个阶段分别包括卷积层和分类器,上述每个阶段中的卷积层和分类器相关联形成侧输出层,上述侧输出层用于生成并输出此阶段对应的目标对象的轮廓图像。其中,上述HED神经网络的每个阶段得到的特征图像的尺寸都是前一个阶段得到的特征图像的尺寸的一半。
例如,第一阶段得到的特征图像的尺寸为64*64,则第二阶段得到的特征图像的尺寸为32*32。
进一步的,由于每个阶段得到的特征图像的尺寸不一致,在将上述一个或多个特征图像进行加权融合之前,需要使用转置卷积或者反卷积对第一阶段之后的特征图像进行处理。将多个特征图像的尺寸处理到一致后,再进行加权融合,得到上述目标对象的轮廓。
应理解,在本申请实施例中可以使用任一种转置卷积算法或者反卷积算法,以及根据用户的需求,调整加权融合使用的函数类型和具体权重参数,不对使用的具体算法和具体参数进行限定。
根据本申请实施例提供的一种图像处理方法,使用填充像素对用于识别的图像的边缘进行适度的扩充,即使用于识别的图像中的目标对象与图像边缘存在重合,也能识别出该目标对象的轮廓,实施本申请的方案,能够有效提升提高图像的边缘识别率。
请参阅图2,图2是本申请实施例提供的一种图像处理装置的结构示意图。该图像处理装置包括:获得单元20、构建单元21、扩充单元22和处理单元23。其中:
获得单元20,用于获得第一图像;
构建单元21,用于基于上述第一图像的像素的色彩信息构建填充像素;
扩充单元22,用于使用上述填充像素在上述第一图像的边缘进行扩充,得到第二图像;
处理单元23,用于将上述第二图像输入到用于边缘检测的神经网络,得到上述目标对象的轮廓。
在一种可能的实现方式中,上述构建单元21,包括:
特征子单元211,用于确定第一图像的特征像素的颜色特征值;
构建子单元212,用于构建与上述特征像素的颜色特征值差别最大的像素,将上述与上述特征像素的颜色特征值差别最大的像素作为填充像素。
在另一种可能的实现方式中,上述特征子单元211,包括:
转换子单元2111,用于对上述第一图像进行颜色数值转换,得到上述第一图像的所有像素的颜色特征值;
确定子单元2112,用于对上述第一图像的所有像素的颜色特征值进行统计,确定上述第一图像的特征像素的颜色特征值。
在又一种可能的实现方式中,上述确定子单元2112具体用于,对上述第一图像的所有像素的颜色特征值进行统计,得到众数颜色特征值,将上述众数颜色特征值作为上述特征像素的颜色特征值。
在又一种可能的实现方式中,上述确定子单元2112具体用于,对上述第一图像的所有像素的第一分量值进行统计,得到众数第一分量值,将上述众数第一分量值作为上述特征像素的第一分量值,上述众数第一分量值为统计的第一分量值中最多的一个,或者,上述众数第一分量值为统计的第一分量值中最多的至少两个第一分量值中的任意一个;对上述第一图像的所有像素的第二分量值进行统计,得到众数第二分量值,将上述众数第二分量值作为上述特征像素的第二分量值,上述众数第二分量值为统计的第二分量值中最多的一个,或者,上述众数第二分量值为统计的第二分量值中最多的至少两个第二分量值中的任意一个;对上述第一图像的所有像素的第三分量值进行统计,得到众数第三分量值,将上述众数第三分量值作为上述特征像素的第三分量值,上述众数第三分量值为统计的第三分量值中最多的一个,或者,上述众数第三分量值为统计的第三分量值中最多的至少两个第三分量值中的任意一个。
在又一种可能的实现方式中,上述确定子单元2112具体用于,对上述第一图像的所有像素的颜色特征值进行加权计算,得到上述第一图像的所有像素的加权后的颜色特征值;对上述第一图像的所有像素的加权后的颜色特征值进行统计,得到最大值,将上述最大值作为上述特征像素的颜色特征值。
在又一种可能的实现方式中,上述第一图像的尺寸为M*N,上述扩充单元22具体用于,获取上述用于边缘检测的神经网络使用的激活函数的类型;根据上述类型,选取上述填充像素的扩充个数X;使用上述填充像素在上述第一图像的边缘进行扩充,得到第二图像,其中,上述第二图像的尺寸为(M+2X)*(N+2X)。
在又一种可能的实现方式中,上述处理单元23具体用于,对上述第二图像进行卷积处理,得到一个或多个特征图像;将上述一个或多个特征图像进行加权融合,得到上述目标对象的轮廓。
有关上述获得单元20、构建单元21、扩充单元22及处理单元23更详细的描述可以直接参考上述图1所述的方法实施例中图像处理方法的相关描述直接得到,这里不加赘述。
根据本申请实施例提供的一种图像处理装置,使用填充像素对用于识别的图像的边缘进行适度的扩充,即使用于识别的图像中的目标对象与图像边缘存在重合,也能识别出该目标对象的轮廓,能够有效提升提高图像的边缘识别率。
请参阅图3,图3是本申请实施例提供的一种图像处理装置的硬件结构示意图。如图3所示的本实施例中的图像处理装置可以包括:处理器301、输入装置302、输出装置303及存储器304。上述处理器301、输入装置302、输出装置303及存储器304之间可以通过总线相互连接。
存储器包括但不限于是随机存储记忆体(random access memory,RAM)、只读存储器(read-only memory,ROM)、可擦除可编程只读存储器(erasable programmable readonly memory,EPROM)、或便携式只读存储器(compact disc read-only memory,CD-ROM),该存储器用于相关指令及数据。
处理器可以包括是一个或多个处理器,例如包括一个或多个中央处理器(centralprocessing unit,CPU),在处理器是一个CPU的情况下,该CPU可以是单核CPU,也可以是多核CPU。
存储器用于存储网络设备的程序代码和数据。
输入装置用于输入数据和/或信号,以及输出装置用于输出数据和/或信号。输出装置和输入装置可以是独立的器件,也可以是一个整体的器件。
处理器用于调用该存储器中的程序代码和数据,执行如下步骤:获得第一图像,上述第一图像中包含目标对象,上述目标对象与上述第一图像的边缘存在重合;基于上述第一图像的像素的色彩信息构建填充像素;使用上述填充像素在上述第一图像的边缘进行扩充,得到第二图像;将上述第二图像输入到用于边缘检测的神经网络,得到上述目标对象的轮廓。
在一种可能的实现方式中,上述处理器执行上述基于上述第一图像的像素的色彩信息构建填充像素的步骤,包括:确定第一图像的特征像素的颜色特征值;构建与上述特征像素的颜色特征值差别最大的像素,将上述与上述特征像素的颜色特征值差别最大的像素作为填充像素。
在另一种可能的实现方式中,上述处理器执行上述确定第一图像的特征像素的颜色特征值的步骤,包括:对上述第一图像进行颜色数值转换,得到上述第一图像的所有像素的颜色特征值;对上述第一图像的所有像素的颜色特征值进行统计,确定上述第一图像的特征像素的颜色特征值。
在又一种可能的实现方式中,上述处理器执行上述对上述第一图像的所有像素的颜色特征值进行统计,确定上述第一图像的特征像素的颜色特征值的步骤,包括:对上述第一图像的所有像素的颜色特征值进行统计,得到众数颜色特征值,将上述众数颜色特征值作为上述特征像素的颜色特征值。其中,上述众数颜色特征值为统计的颜色特征值中最多的一个,或者,上述众数颜色特征值为统计的颜色特征值中最多的至少两个颜色特征值中的任意一个。
在又一种可能的实现方式中,上述颜色特征值包括第一分量值、第二分量值和第三分量值,上述处理器执行上述对上述第一图像的所有像素的颜色特征值进行统计,确定上述第一图像的特征像素的颜色特征值的步骤,包括:对上述第一图像的所有像素的第一分量值进行统计,得到众数第一分量值,将上述众数第一分量值作为上述特征像素的第一分量值,上述众数第一分量值为统计的第一分量值中最多的一个,或者,上述众数第一分量值为统计的第一分量值中最多的至少两个第一分量值中的任意一个;对上述第一图像的所有像素的第二分量值进行统计,得到众数第二分量值,将上述众数第二分量值作为上述特征像素的第二分量值,上述众数第二分量值为统计的第二分量值中最多的一个,或者,上述众数第二分量值为统计的第二分量值中最多的至少两个第二分量值中的任意一个;对上述第一图像的所有像素的第三分量值进行统计,得到众数第三分量值,将上述众数第三分量值作为上述特征像素的第三分量值,上述众数第三分量值为统计的第三分量值中最多的一个,或者,上述众数第三分量值为统计的第三分量值中最多的至少两个第三分量值中的任意一个。
在又一种可能的实现方式中,上述处理器执行上述对上述第一图像的所有像素的颜色特征值进行统计,确定上述第一图像的特征像素的颜色特征值的步骤,包括:对上述第一图像的所有像素的颜色特征值进行加权计算,得到上述第一图像的所有像素的加权后的颜色特征值;对上述第一图像的所有像素的加权后的颜色特征值进行统计,得到最大值,将上述最大值作为上述特征像素的颜色特征值。
在又一种可能的实现方式中,上述第一图像的尺寸为M*N,上述处理器执行上述使用上述填充像素在上述第一图像的边缘进行扩充,得到第二图像的步骤,包括:获取上述用于边缘检测的神经网络使用的激活函数的类型;根据上述类型,选取上述填充像素的扩充个数X;使用上述填充像素在上述第一图像的边缘进行扩充,得到第二图像,其中,上述第二图像的尺寸为(M+2X)*(N+2X)。
在又一种可能的实现方式中,上述处理器执行上述将上述第二图像输入到用于边缘检测的神经网络,得到上述目标对象的轮廓的步骤,包括;对上述第二图像进行卷积处理,得到一个或多个特征图像;将上述一个或多个特征图像进行加权融合,得到上述目标对象的轮廓。
可以理解的是,图3仅仅示出了图像处理装置的简化设计。在实际应用中,图像处理装置还可以分别包含必要的其他元件,包含但不限于任意数量的网络接口、输入装置、输出装置、处理器、存储器等,而所有可以实现本申请实施例的计算平台都在本申请的保护范围之内。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,该单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。所显示或讨论的相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行该计算机程序指令时,全部或部分地产生按照本申请实施例的流程或功能。该计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。该计算机指令可以存储在计算机可读存储介质中,或者通过该计算机可读存储介质进行传输。该计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(digital subscriber line,DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。该计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。该可用介质可以是只读存储器(read-onlymemory,ROM),或随机存储存储器(random access memory,RAM),或磁性介质,例如,软盘、硬盘、磁带、磁碟、或光介质,例如,数字通用光盘(digital versatile disc,DVD)、或者半导体介质,例如,固态硬盘(solid state disk,SSD)等。

Claims (10)

1.一种图像处理方法,其特征在于,包括:
获得第一图像,所述第一图像中包含目标对象,所述目标对象与所述第一图像的边缘存在重合;
基于所述第一图像的像素的色彩信息构建填充像素;
使用所述填充像素在所述第一图像的边缘进行扩充,得到第二图像;
将所述第二图像输入到用于边缘检测的神经网络,得到所述目标对象的轮廓。
2.根据权利要求1所述的方法,其特征在于,所述基于所述第一图像的像素的色彩信息构建填充像素,包括:
确定所述第一图像的特征像素的颜色特征值,所述特征像素为与所述第一图像的色彩信息最相近的像素;
构建与所述特征像素的颜色特征值差别最大的像素,将所述与所述特征像素的颜色特征值差别最大的像素作为填充像素。
3.根据权利要求2所述的方法,其特征在于,所述确定第一图像的特征像素的颜色特征值,包括:
对所述第一图像进行颜色数值转换,得到所述第一图像的所有像素的颜色特征值;
对所述第一图像的所有像素的颜色特征值进行统计,确定所述第一图像的特征像素的颜色特征值。
4.根据权利要求3所述的方法,其特征在于,所述对所述第一图像的所有像素的颜色特征值进行统计,确定所述第一图像的特征像素的颜色特征值,包括:
对所述第一图像的所有像素的颜色特征值进行统计,得到众数颜色特征值,将所述众数颜色特征值作为所述特征像素的颜色特征值,所述众数颜色特征值为统计的颜色特征值中最多的一个,或者,所述众数颜色特征值为统计的颜色特征值中最多的至少两个颜色特征值中的任意一个。
5.根据权利要求3所述的方法,其特征在于,所述颜色特征值包括第一分量值、第二分量值和第三分量值,所述对所述第一图像的所有像素的颜色特征值进行统计,确定所述第一图像的特征像素的颜色特征值,包括:
对所述第一图像的所有像素的第一分量值进行统计,得到众数第一分量值,将所述众数第一分量值作为所述特征像素的第一分量值,所述众数第一分量值为统计的第一分量值中最多的一个,或者,所述众数第一分量值为统计的第一分量值中最多的至少两个第一分量值中的任意一个;
对所述第一图像的所有像素的第二分量值进行统计,得到众数第二分量值,将所述众数第二分量值作为所述特征像素的第二分量值,所述众数第二分量值为统计的第二分量值中最多的一个,或者,所述众数第二分量值为统计的第二分量值中最多的至少两个第二分量值中的任意一个;
对所述第一图像的所有像素的第三分量值进行统计,得到众数第三分量值,将所述众数第三分量值作为所述特征像素的第三分量值,所述众数第三分量值为统计的第三分量值中最多的一个,或者,所述众数第三分量值为统计的第三分量值中最多的至少两个第三分量值中的任意一个。
6.根据权利要求3所述的方法,其特征在于,所述对所述第一图像的所有像素的颜色特征值进行统计,确定所述第一图像的特征像素的颜色特征值,包括:
对所述第一图像的所有像素的颜色特征值进行加权计算,得到所述第一图像的所有像素的加权后的颜色特征值;
对所述第一图像的所有像素的加权后的颜色特征值进行统计,得到最大值,将所述最大值作为所述特征像素的颜色特征值。
7.根据权利要求2所述的方法,其特征在于,所述第一图像的尺寸为M*N,所述使用所述填充像素在所述第一图像的边缘进行扩充,得到第二图像,包括:
获取所述用于边缘检测的神经网络使用的激活函数的类型;
根据所述类型,选取所述填充像素的扩充个数X;
使用所述填充像素在所述第一图像的边缘进行扩充,得到第二图像,其中,所述第二图像的尺寸为(M+2X)*(N+2X)。
8.根据权利要求7所述的方法,其特征在于,所述将所述第二图像输入到用于边缘检测的神经网络,得到所述目标对象的轮廓,包括;
对所述第二图像进行卷积处理,得到一个或多个特征图像;
将所述一个或多个特征图像进行加权融合,得到所述目标对象的轮廓。
9.一种图像处理装置,其特征在于,包括:处理器、输入装置、输出装置和存储器,其中,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行如权利要求1至8任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的方法。
CN201910594121.6A 2019-07-03 2019-07-03 一种图像处理方法以及装置 Active CN110443820B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201910594121.6A CN110443820B (zh) 2019-07-03 2019-07-03 一种图像处理方法以及装置
PCT/CN2019/117943 WO2021000495A1 (zh) 2019-07-03 2019-11-13 一种图像处理方法以及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910594121.6A CN110443820B (zh) 2019-07-03 2019-07-03 一种图像处理方法以及装置

Publications (2)

Publication Number Publication Date
CN110443820A true CN110443820A (zh) 2019-11-12
CN110443820B CN110443820B (zh) 2023-07-14

Family

ID=68429316

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910594121.6A Active CN110443820B (zh) 2019-07-03 2019-07-03 一种图像处理方法以及装置

Country Status (2)

Country Link
CN (1) CN110443820B (zh)
WO (1) WO2021000495A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021000495A1 (zh) * 2019-07-03 2021-01-07 平安科技(深圳)有限公司 一种图像处理方法以及装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113743417B (zh) * 2021-09-03 2024-02-23 北京航空航天大学 语义分割方法和语义分割装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010061500A (ja) * 2008-09-05 2010-03-18 Sony Corp 画像処理方法、画像処理装置、プログラム及び画像処理システム
WO2013049153A2 (en) * 2011-09-27 2013-04-04 Board Of Regents, University Of Texas System Systems and methods for automated screening and prognosis of cancer from whole-slide biopsy images
US20160238703A1 (en) * 2015-02-16 2016-08-18 Panasonic Intellectual Property Management Co., Ltd. Object detection apparatus and method
CN107452014A (zh) * 2017-07-11 2017-12-08 中国农业科学院农业信息研究所 一种图像分割方法及装置
CN108648145A (zh) * 2018-04-28 2018-10-12 北京东软医疗设备有限公司 图像拼接方法及装置
CN109409376A (zh) * 2018-11-05 2019-03-01 昆山紫东智能科技有限公司 针对固废对象的图像分割方法、计算机终端及存储介质
CN109754379A (zh) * 2018-12-29 2019-05-14 北京金山安全软件有限公司 一种图像处理方法及装置
CN109934813A (zh) * 2019-03-08 2019-06-25 广州视源电子科技股份有限公司 目标对象的识别方法和装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108960246B (zh) * 2018-06-14 2020-06-16 国网江苏省电力有限公司电力科学研究院 一种用于图像识别的二值化处理装置及方法
CN110443820B (zh) * 2019-07-03 2023-07-14 平安科技(深圳)有限公司 一种图像处理方法以及装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010061500A (ja) * 2008-09-05 2010-03-18 Sony Corp 画像処理方法、画像処理装置、プログラム及び画像処理システム
WO2013049153A2 (en) * 2011-09-27 2013-04-04 Board Of Regents, University Of Texas System Systems and methods for automated screening and prognosis of cancer from whole-slide biopsy images
US20160238703A1 (en) * 2015-02-16 2016-08-18 Panasonic Intellectual Property Management Co., Ltd. Object detection apparatus and method
CN107452014A (zh) * 2017-07-11 2017-12-08 中国农业科学院农业信息研究所 一种图像分割方法及装置
CN108648145A (zh) * 2018-04-28 2018-10-12 北京东软医疗设备有限公司 图像拼接方法及装置
CN109409376A (zh) * 2018-11-05 2019-03-01 昆山紫东智能科技有限公司 针对固废对象的图像分割方法、计算机终端及存储介质
CN109754379A (zh) * 2018-12-29 2019-05-14 北京金山安全软件有限公司 一种图像处理方法及装置
CN109934813A (zh) * 2019-03-08 2019-06-25 广州视源电子科技股份有限公司 目标对象的识别方法和装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021000495A1 (zh) * 2019-07-03 2021-01-07 平安科技(深圳)有限公司 一种图像处理方法以及装置

Also Published As

Publication number Publication date
CN110443820B (zh) 2023-07-14
WO2021000495A1 (zh) 2021-01-07

Similar Documents

Publication Publication Date Title
WO2020224403A1 (zh) 分类任务模型的训练方法、装置、设备及存储介质
CN108875511B (zh) 图像生成的方法、装置、系统及计算机存储介质
CN110084161B (zh) 一种人体骨骼关键点的快速检测方法及系统
CN109685819B (zh) 一种基于特征增强的三维医学图像分割方法
WO2021109876A1 (zh) 图像处理方法、装置、设备及存储介质
Fang et al. Bottom-up saliency detection model based on human visual sensitivity and amplitude spectrum
CN108346162B (zh) 基于结构信息和空间约束的遥感图像配准方法
CN105718848B (zh) 一种指纹图像的质量评估方法及装置
CN108510504A (zh) 图像分割方法和装置
CN111008935B (zh) 一种人脸图像增强方法、装置、系统及存储介质
CN110288602A (zh) 滑坡提取方法、滑坡提取系统及终端
CN113689373B (zh) 图像处理方法、装置、设备及计算机可读存储介质
CN110147708A (zh) 一种图像数据处理方法和相关装置
CN110443820A (zh) 一种图像处理方法以及装置
CN104036468A (zh) 基于预放大非负邻域嵌入的单帧图像超分辨重建方法
CN108509830B (zh) 一种视频数据处理方法及设备
CN111353325A (zh) 关键点检测模型训练方法及装置
CN113052923A (zh) 色调映射方法、装置、电子设备和存储介质
CN114049491A (zh) 指纹分割模型训练、指纹分割方法、装置、设备及介质
CN111428809B (zh) 基于空间信息融合与卷积神经网络的人群计数方法
CN114493988A (zh) 一种图像虚化方法、图像虚化装置及终端设备
CN111476838A (zh) 图像分析方法以及系统
CN117132515A (zh) 一种图像处理方法及电子设备
CN112711984B (zh) 注视点定位方法、装置和电子设备
CN113191208B (zh) 一种用于遥感图像实例分割的特征提取方法和计算机设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant