CN105374018A - 一种对图像进行区域增强的方法 - Google Patents
一种对图像进行区域增强的方法 Download PDFInfo
- Publication number
- CN105374018A CN105374018A CN201510958177.7A CN201510958177A CN105374018A CN 105374018 A CN105374018 A CN 105374018A CN 201510958177 A CN201510958177 A CN 201510958177A CN 105374018 A CN105374018 A CN 105374018A
- Authority
- CN
- China
- Prior art keywords
- image
- point
- region
- area
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000012545 processing Methods 0.000 claims abstract description 26
- 230000011218 segmentation Effects 0.000 claims abstract description 25
- 230000000007 visual effect Effects 0.000 claims abstract description 7
- 230000000694 effects Effects 0.000 claims abstract description 6
- 230000008569 process Effects 0.000 claims description 38
- 230000001186 cumulative effect Effects 0.000 claims description 17
- 238000003706 image smoothing Methods 0.000 claims description 17
- 230000007261 regionalization Effects 0.000 claims description 16
- 230000008859 change Effects 0.000 claims description 12
- 239000011159 matrix material Substances 0.000 claims description 7
- 230000001172 regenerating effect Effects 0.000 claims description 6
- 238000002372 labelling Methods 0.000 claims description 4
- 238000012546 transfer Methods 0.000 claims description 3
- 230000007704 transition Effects 0.000 abstract description 4
- 238000003672 processing method Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 15
- 230000009466 transformation Effects 0.000 description 8
- 238000003709 image segmentation Methods 0.000 description 6
- 238000010187 selection method Methods 0.000 description 5
- 230000002708 enhancing effect Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000001816 cooling Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000003909 pattern recognition Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/40—Image enhancement or restoration using histogram techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
一种对图像进行区域增强的方法,涉及计算机数字图像处理方法。在对一幅图像的处理上设置六个阶段,分别是:初始化步骤、图像区域化分割、图像区域选择、图像区域增强、区域间边界均衡化和结束步骤。当输入一幅原始图像时,首先对图像进行初始化,然后基于meanshift理论对图像进行区域化分割,得到区域化图像后,采用用户选择和自动选择两种方式选择待增强区域,对待增强区域进行图像增强处理,最后以增强区域边界为基准做区域间边界平滑过渡处理,得到一幅整体视觉效果和谐、针对性强、有效的增强图像。
Description
技术领域
本发明涉及计算机数字图像处理方法,尤其是涉及一种对图像进行区域增强的方法。
背景技术
图像增强是数字图像处理的基本内容之一,为了增强图像中的有用信息。其目的是要改善图像的视觉效果,针对给定图像的应用场合,有目的地强调图像的整体或局部特性,将原来不清晰的图像变得清晰或强调某些感兴趣的特征,扩大图像中不同物体特征之间的差别,抑制不感兴趣的特征,改善图像质量、丰富信息量,加强图像判读和识别效果,满足某些特殊分析的需要。图像增强处理并不能增加原始图像的信息,而只能增强对某种信息的辨识能力,使处理后的图像对某些特定的应用比原来的图像更加有效。
图像增强技术根据增强处理过程所在的空间不同,可分为基于空域的算法和基于频域的算法两大类。基于空域的算法处理时直接基于图像灰度级进行运算,基于空域的算法分为点运算算法和邻域去噪算法。点运算算法包括灰度变换和直方图变换等,目的或使图像成像均匀,或扩大图像动态范围,扩展对比度。根据变换函数的形式,灰度变换分为线性变换,分段性变换和非线性变换,直方图变换分为直方图修正、直方图均衡化、直方图规定化。
目前国内外针对图像增强的研究做了大量工作,基于不同出发点和目的选择性的对图像进行不同程度的增强,大部分仍停留在对图像全局的增强。但一幅图像的纹理特征、亮度特征、颜色特征等通常不是全局一致的,需要对图像进行区域特征判断,那么则需要采用区域增强以求达到一幅图像的整体和谐。涉及到图像区域化则需要考虑图像分割。
图像分割是图像分析和识别的首要问题,也是图像处理的经典难题之一,它决定图像的最终分析质量和模式识别的判别结果。图像分割是指将图像中具有特殊意义的不同区域分开来,并使这些区域相互不相交,且每个区域应满足特定区域的一致性条件。图像一旦被分割,就可以进一步进行处理,如基于内容的图像检索、分类及识别等。因此,图像分割是图像处理和模式识别中的一个重要研究领域。图像分割指的是根据灰度、颜色、纹理和形状等特征把图像划分成若干互不交迭的区域,并使这些特征在同一区域内呈现出相似性,而在不同区域间呈现出明显的差异性。
基于区域的分割方法是将图像按照相似性准则分成不同的区域,主要包括种子区域生长法、区域分裂合并法和分水岭法等几种类型。种子区域生长法是从一组代表不同生长区域的种子像素开始,接下来将种子像素邻域里符合条件的像素合并到种子像素所代表的生长区域中,并将新添加的像素作为新的种子像素继续合并过程,直到找不到符合条件的新像素为止。该方法的关键是选择合适的初始种子像素以及合理的生长准则。区域分裂合并法的基本思想是首先将图像任意分成若干互不相交的区域,然后再按照相关准则对这些区域进行分裂或者合并从而完成分割任务,该方法既适用于灰度图像分割也适用于纹理图像分割。
基于meanshift理论的区域分割方法是一种性能优良的特征空间聚类算法,通过迭代的寻找样本的概率密度的极大值点,将样本点划分到不同的类别中去。运用meanshift算法对彩色图像在颜色空间进行聚类,可以实现对图像的分割。
发明内容
本发明的目的在于提供可对图像的局部区域进行增强处理,以实现图像整体视觉效果和谐的一种对图像进行区域增强的方法。
本发明由初始化步骤、图像区域化分割、图像区域选择、图像区域增强、区域间边界均衡化和结束步骤组成。
本发明对于发明内容中出现的名称和变量做如下解释与定义:
RGB颜色空间:RGB色彩模式是工业界的一种颜色标准,是通过对红(R)、绿(G)、蓝(B)三个颜色通道的变化以及它们相互之间的叠加来得到各式各样的颜色的,RGB即是代表红、绿、蓝三个通道的色彩分量,三个通道在本发明中的取值范围为0到255的整数;例如白色在RGB颜色空间中表示为(255,255,255),黑色为(0,0,0)。同理,LUV颜色空间则为另一种表示方法,是于1976年由国际照明委员会CIE提出。L表示亮度、U和V表示色度。
定义变量sr为颜色半径,sp为区域半径。定义变量color为颜色变量,变量num为计数器,变量itr为迭代次数,变量d为移动步长。定义x代表一个像素点,yi代表一个像素点,i代表像素点的序号。定义x_ngb代表像素点x的八邻居像素点,包括x的上、下、左、右、左上、左下、右上、右下四个相邻方向的像素点。定义X与Y为图像中两个区域。
本发明包括以下步骤:
(1)初始化步骤,所述初始化的具体方法如下:
(1.1)对于输入图像,初始化存储容器,用于存放处理中间结果;
(1.2)将输入图像的颜色空间由RGB转为LUV,存放于容器中;
(1.3)初始化分割参数sr、sp,由用户指定或设定为默认值(sr=6.5,sp=10)。进行步骤(2);
(2)图像区域化分割步骤,所述图像区域化分割步骤分为4个子步骤,分别为图像平滑步骤(2.1)、区域生长步骤(2.2)、区域合并步骤(2.3)和小区域合并步骤(2.4),具体方法如下:
(2.1)图像平滑步骤:
(2.1.1)初始化:color=0,num=0,itr=0,d。
(2.1.2)进行图像平滑操作即meanshift过程。对于图像中的每一个像素点x,对其周围的区域,进行步骤(2.1.3)直到迭代次数itr大于某阈值或移动步长不变为止。
(2.1.3)对于x周围半径为sp内的点yi(i=1,2,…),判断像素点yi与像素点x的距离是否小于颜色半径平方,若是,则转步骤(2.3);否则处理下一个点yi+1,若像素点x周围的所有像素点yi都处理完毕,则转步骤(2.1.5)。
(2.1.4)将像素点yi的颜色值计入颜色变量,并累加计数器。
(2.1.5)得到区域均值为color/num,并得到移动步长为||color/num–x||,转步骤(2.1.2)。
(2.2)区域生长步骤:
(2.2.1)初始化标签值label=1,其中,label为像素点的标签值。
(2.2.2)对于图像的每个点,若其已被分派标签值,则处理下一个点;否则,先将x指定标签值为label,并使label自增,转步骤(2.2.3)。
(2.2.3)将像素点x与周围的8邻域点x_ngb进行对比,若x与该点x_ngb的颜色距离小于颜色半径的平方,则将该点标签赋为像素点x的标签值,转步骤(2.2.4)。
(2.2.4)对新赋标签值的点的8邻域进行相同操作,即判断它们的颜色距离是否小于sr*sr,若是,则赋为同样的标签,直到找不到邻接点满足条件,转步骤(2.2.2)。
(2.3)区域合并步骤:
(2.3.1)对于步骤(2.2)产生的标签矩阵,首先生成一个邻接区域图,即所有标签值的区域和它所相邻的区域列表,转步骤(2.3.2)。
(2.3.2)对于每个区域X,判断它相邻区域Y,若两区域的颜色值距离小于颜色半径的平方,则合并两区域。
(2.3.3)对于上述操作处理过的图像,重新生成邻接区域图。
(2.4)小区域合并步骤:
(2.4.1)对于步骤(2.3)产生的邻接区域图中的每个区域X,若该区域的像素点数目小于某阈值(默认为100~400),则转步骤(2.4.2)。
(2.4.2)对于小区域X,遍历其邻接区域列表,找到一个与X颜色最接近的区域Y,将X与Y合并为新的区域。
(2.4.3)对于上述操作处理过的图像,重新生成邻接区域图和标签矩阵。
至此,输入图像被分割为若干个区域,使用的是meanshift图像分割算法。
(3)图像区域选择步骤,有2种处理方式,根据用户选择方式或是自动选择方式,选择预备增强的区域。若为用户手动选择方式,对用户指定区域,则进入步骤(4);若为自动选择方式,则进行下述过程:
(3.1)定义指定区域i的增强系数μ:
μ=li×di
其中,i表示指定增强区域,μ为指定区域的增强系数,li为指定区域的亮度值,di为指定区域的对比度。
定义区域i的亮度值li:
其中,定义g(x,y)为点(x,y)的灰度值,num(i)为区域i的像素点总数。
定义区域i的对比度di:
其中,g(x,y)为点(x,y)的灰度值,g(i,j)为点(i,j)的灰度值,num(i)为区域i的像素点总数。
(3.2)对于步骤(2)产生的所有区域,计算增强系数,系数越小的区域,表示该区域越暗且对比度越低,越需要进行区域增强以改善视觉观察效果,以下提供2种选择方式,其一为对所有系数小于某阈值的区域均进行步骤(4),其二仅对系数最小的区域进行步骤(4)。
至此,待增强区域已列好,下面进行图像区域增强步骤(4)。
(4)图像区域增强步骤,进行下述过程:
定义步骤(3)中选定的区域或区域列表如下:
Ωi,i=1,2,…,N,
其中,Ωi表示待增强的区域,i表示区域编号,N为待增强区域数目。
(4.1)获取区域亮度:
(4.1.1)对输入区域中的每个点,定义该点三个通道的最大值:
Lx=Max(r,g,b),
其中,x表示待增强区域中的像素点,Lx表示像素点x三个通道的最大值,r,g,b分别代表像素点x的三个通道值。
(4.1.2)对输入区域中的每个点,定义该点的亮度值为Lr(x):
其中,Lr(x)为像素点x的亮度值,U(Lx,Ly)为单位阶跃函数。Lx,Ly分别为x点和y点的最大通道值。δ为Lx,Ly的颜色频度系数,即为整张图片中值Lx与值Ly相邻的数目。β为系数δ之和。
求得该区域上每个点的亮度值,进入下一步骤(4.2)。
(4.2)获取区域累积带权直方图:
(4.2.1)对输入区域中的每个点,定义公式:
Lg(x)=lg(Lr(x)+1)
其中,Lg(x)表示x点的亮度值加1后再做对数运算的结果。(log运算底数为10,简写为lg)。
(4.2.2)对输入区域中的每个点,计算每个点x的颜色权重。
(4.2.3)对输入区域中的每个点,定义其颜色权重累积直方图,计算每个点x的颜色权重累积直方图,定义x点的累积密度函数为公式:
其中,mp(v)为整张图像中所有亮度值与v相等的点的Lg值之和,v是一个取值范围为0到Lr(x)的变量。即:mp(v)=∑Lr(x)=vLg(x)
(4.3)直方图增强区域:
(4.3.1)求标准累积直方图,对一长度为256的常数数组cf[],计算:
其中常数i为数组cf[]的下标,j为从0到i的变量,k为从0到255的变量。
(4.3.2)对输入区域Ωi中的每个点x,计算其增强后的亮度值:首先求得该点的累积密度函数cL(x),其次遍历数组cf[],取出与cL(x)值最接近的数组成员,记该成员的下标为z,定义增强后的亮度值Lm(x)=z。
(4.3.3)对输入区域Ωi中的每个点x,计算其增强后的通道值:
其中,r′,g′,b′分别为增强后的rgb三通道值。至此,增强步骤已经执行完毕。
(5)所述区域间边界均衡化步骤中,热传导方程为:
其中,是函数u(t,x)关于t变量的偏导,函数u(t,x)表示t时,x位置上的热量值,整个方程的解u(t,x)表示热量u随时间t以及位置x的变化情况,u0(x)即为初始时刻x位置上的热量值,该方程是热力学中傅里叶冷却律的一个重要推论,反映了物体热量随时间的传导性质。
将该方程应用于图像区域边界均衡化,定义u(t,x)的取值为一个三元组向量,表示图像的3个通道值经过前面增强步骤后与原始图像相比的变化量,其中,x表示图像中的点,u0(x)即为x点的初始变化量,t在本步骤中表示距离系数。经过本步骤,使增强操作后的图像更自然。
具体说明如下:
热传导方程(a)的解为Gauss函数的低通滤波,即:
其中,定义在为增强系数,Gt(x)即表示随时间变化该系数的取值。
u0定义为增强操作后图像颜色初始变化量,即:
u0=|p-p′|,其中p=r,g,bp‘=r’,g‘,b’
t定义为距离系数,即:
D为类中心与边缘距离D=min(xc-xi),
xi∈增强区域边缘,x为当前处理的点,xc为当前点x所属的类中心
具体实施过程如下:
(5.1)对于待增强区域中的每个点,计算增强后的通道值与原通道值之差,定义公式:
u0=|p-p′|,其中p=r,g,bp‘=r’,g‘,b’
(5.2)对于待增强区域中的每个点,求增强系数,定义公式:
xc为图像平滑步骤中求得的类中心(区域中心)
(5.3)对于待增强区域中的每个点,求均衡增强后的通道值,定义公式:
p″=p‘+u0*Gt(x),p’=r‘,g’,b‘
(6)结束步骤,进行下述过程:输出局部区域增强后的图像。
本发明实现了基于meanshift理论的图像区域化分割过程,以及采用直方图增强方法的图像增强过程,并将两种技术结合,实现了图像区域化增强的目的,最后,为了使区域增强的图像整体更加和谐,在增强与未增强的区域之间,以区域边界线为基准,应用热传导方程进行区域间的图像均衡过渡,保证区域增强的适应性和合理性。当给出一幅图像时,本发明的图像区域化分割过程对图像进行平滑处理,以平滑后的图像为基础进行区域生长以及区域合并过程,得到一个基本的分割图像,最后进行小区域合并过程。得到分割后的区域化图像后,本发明的图像区域选择步骤中,采用手动或自动区域选择方法。选择好区域后,本发明对该区域进行图像增强过程,在图像增强过程中,将所选择的区域图像分离出灰度图像与反射图像,对灰度图像采用直方图增强的方法,增强区域图像的灰度值,将增强后的灰度图像与原反射图像合并得到区域增强图像。最后,以增强区域的区域边界为基准,进行区域间边界的平滑过渡,本发明基于热传导方程理论实现区域间边界平滑过渡。至此,本发明已经得到一幅具有针对性的图像区域增强后的效果图。
本发明通过实现图像区域化增强以及增强后区域间边界均衡化过渡的过程,针对某些在全局不同区域间亮度、颜色、对比度等特征方面不一致的图像进行了较好的处理,提升了全局特征不均匀图像的整体视觉效果与和谐度。
附图说明
图1为本发明示意图;
图2为本发明的图像区域化分割步骤过程示意图;
图3为本发明的图像区域化分割步骤中的图像平滑步骤过程示意图;
图4为本发明的图像区域化分割步骤中的区域生长步骤过程示意图;
图5为本发明的图像区域化分割步骤中的区域合并步骤过程示意图;
图6为本发明的图像区域选择步骤过程示意图;
图7为本发明的图像区域增强步骤过程示意图;
图8为本发明的图像区域间边界均衡化步骤过程示意图。
具体实施方式
下面结合附图对本发明作进一步详细说明。
本发明实施例由初始化步骤、图像区域化分割、图像区域选择、图像区域增强、区域间边界均衡化和结束步骤组成,具体步骤如下:
(1)初始化步骤,所述初始化的具体方法如下:
(1.1)对于输入图像,初始化存储容器,用于存放处理中间结果;
(1.2)将输入图像的颜色空间由RGB转为LUV,存放于容器中;
(1.3)初始化分割参数sr、sp,由用户指定或设定为默认值(sr=6.5,sp=10)。进行步骤(2);
(2)图像区域化分割步骤,所述图像区域化分割步骤分为4个子步骤,分别为图像平滑步骤(2.1)、区域生长步骤(2.2)、区域合并步骤(2.3)和小区域合并步骤(2.4),具体方法如下:
(2.1)图像平滑步骤:
(2.1.1)初始化:color=0,num=0,itr=0,d。
(2.1.2)进行图像平滑操作即meanshift过程。对于图像中的每一个像素点x,对其周围的区域,进行步骤(2.1.3)直到迭代次数itr大于某阈值或移动步长不变为止。
(2.1.3)对于x周围半径为sp内的点yi(i=1,2,…),判断像素点yi与像素点x的距离是否小于颜色半径平方,若是,则转步骤(2.3);否则处理下一个点yi+1,若像素点x周围的所有像素点yi都处理完毕,则转步骤(2.1.5)。
(2.1.4)将像素点yi的颜色值计入颜色变量,并累加计数器。
(2.1.5)得到区域均值为color/num,并得到移动步长为||color/num–x||,转步骤(2.1.2)。
(2.2)区域生长步骤:
(2.2.1)初始化标签值label=1,其中,label为像素点的标签值。
(2.2.2)对于图像的每个点,若其已被分派标签值,则处理下一个点;否则,先将x指定标签值为label,并使label自增,转步骤(2.2.3)。
(2.2.3)将像素点x与周围的8邻域点x_ngb进行对比,若x与该点x_ngb的颜色距离小于颜色半径的平方,则将该点标签赋为像素点x的标签值,转步骤(2.2.4)。
(2.2.4)对新赋标签值的点的8邻域进行相同操作,即判断它们的颜色距离是否小于sr*sr,若是,则赋为同样的标签,直到找不到邻接点满足条件,转步骤(2.2.2)。
(2.3)区域合并步骤:
(2.3.1)对于步骤(2.2)产生的标签矩阵,首先生成一个邻接区域图,即所有标签值的区域和它所相邻的区域列表,转步骤(2.3.2)。
(2.3.2)对于每个区域X,判断它相邻区域Y,若两区域的颜色值距离小于颜色半径的平方,则合并两区域。
(2.3.3)对于上述操作处理过的图像,重新生成邻接区域图。
(2.4)小区域合并步骤:
(2.4.1)对于步骤(2.3)产生的邻接区域图中的每个区域X,若该区域的像素点数目小于某阈值(默认为100~400),则转步骤(2.4.2)。
(2.4.2)对于小区域X,遍历其邻接区域列表,找到一个与X颜色最接近的区域Y,将X与Y合并为新的区域。
(2.4.3)对于上述操作处理过的图像,重新生成邻接区域图和标签矩阵。
至此,输入图像被分割为若干个区域,使用的是meanshift图像分割算法。
(3)图像区域选择步骤,有2种处理方式,根据用户选择方式或是自动选择方式,选择预备增强的区域。若为用户手动选择方式,对用户指定区域,则进入步骤(4);若为自动选择方式,则进行下述过程:
(3.1)定义指定区域i的增强系数μ:
μ=li×di
其中,i表示指定增强区域,μ为指定区域的增强系数,li为指定区域的亮度值,di为指定区域的对比度。
定义区域i的亮度值li:
其中,定义g(x,y)为点(x,y)的灰度值,num(i)为区域i的像素点总数。
定义区域i的对比度di:
其中,g(x,y)为点(x,y)的灰度值,g(i,j)为点(i,j)的灰度值,num(i)为区域i的像素点总数。
(3.2)对于步骤(2)产生的所有区域,计算增强系数,系数越小的区域,表示该区域越暗且对比度越低,越需要进行区域增强以改善视觉观察效果,以下提供2种选择方式,其一为对所有系数小于某阈值的区域均进行步骤(4),其二仅对系数最小的区域进行步骤(4)。
至此,待增强区域已列好,下面进行图像区域增强步骤(4)。
(4)图像区域增强步骤,进行下述过程:
定义步骤(3)中选定的区域或区域列表如下:
Ωi,i=1,2,…,N,
其中,Ωi表示待增强的区域,i表示区域编号,N为待增强区域数目。
(4.1)获取区域亮度:
(4.1.1)对输入区域中的每个点,定义该点三个通道的最大值:
Lx=Max(r,g,b),
其中,x表示待增强区域中的像素点,Lx表示像素点x三个通道的最大值,r,g,b分别代表像素点x的三个通道值。
(4.1.2)对输入区域中的每个点,定义该点的亮度值为Lr(x):
其中,Lr(x)为像素点x的亮度值,U(Lx,Ly)为单位阶跃函数。Lx,Ly分别为x点和y点的最大通道值。δ为Lx,Ly的颜色频度系数,即为整张图片中值Lx与值Ly相邻的数目。β为系数δ之和。
求得该区域上每个点的亮度值,进入下一步骤(4.2)。
(4.2)获取区域累积带权直方图:
(4.2.1)对输入区域中的每个点,定义公式:
Lg(x)=lg(Lr(x)+1)
其中,Lg(x)表示x点的亮度值加1后再做对数运算的结果。(log运算底数为10,简写为lg)。
(4.2.2)对输入区域中的每个点,计算每个点x的颜色权重。
(4.2.3)对输入区域中的每个点,定义其颜色权重累积直方图,计算每个点x的颜色权重累积直方图,定义x点的累积密度函数为公式:
其中,mp(v)为整张图像中所有亮度值与v相等的点的Lg值之和,v是一个取值范围为0到Lr(x)的变量。即:mp(v)=∑Lr(x)=vLg(x)
(4.3)直方图增强区域:
(4.3.1)求标准累积直方图,对一长度为256的常数数组cf[],计算:
其中常数i为数组cf[]的下标,j为从0到i的变量,k为从0到255的变量。
(4.3.2)对输入区域Ωi中的每个点x,计算其增强后的亮度值:首先求得该点的累积密度函数cL(x),其次遍历数组cf[],取出与cL(x)值最接近的数组成员,记该成员的下标为z,定义增强后的亮度值Lm(x)=z。
(4.3.3)对输入区域Ωi中的每个点x,计算其增强后的通道值:
其中,r′,g′,b′分别为增强后的rgb三通道值。至此,增强步骤已经执行完毕。
(5)所述区域间边界均衡化步骤中,热传导方程为:
其中,是函数u(t,x)关于t变量的偏导,函数u(t,x)表示t时,x位置上的热量值,整个方程的解u(t,x)表示热量u随时间t以及位置x的变化情况,u0(x)即为初始时刻x位置上的热量值,该方程是热力学中傅里叶冷却律的一个重要推论,反映了物体热量随时间的传导性质。
将该方程应用于图像区域边界均衡化,定义u(t,x)的取值为一个三元组向量,表示图像的3个通道值经过前面增强步骤后与原始图像相比的变化量,其中,x表示图像中的点,u0(x)即为x点的初始变化量,t在本步骤中表示距离系数。经过本步骤,使增强操作后的图像更自然。
具体说明如下:
热传导方程(a)的解为Gauss函数的低通滤波,即:
其中,定义在为增强系数,Gt(x)即表示随时间变化该系数的取值。
u0定义为增强操作后图像颜色初始变化量,即:
u0=|p-p′|,其中p=r,g,bp‘=r’,g‘,b’
t定义为距离系数,即:
D为类中心与边缘距离D=min(xc-xi),
xi∈增强区域边缘,x为当前处理的点,xc为当前点x所属的类中心
具体实施过程如下:
(5.1)对于待增强区域中的每个点,计算增强后的通道值与原通道值之差,定义公式:
u0=|p-p′|,其中p=r,g,bp‘=r’,g‘,b’
(5.2)对于待增强区域中的每个点,求增强系数,定义公式:
xc为图像平滑步骤中求得的类中心(区域中心)
(5.3)对于待增强区域中的每个点,求均衡增强后的通道值,定义公式:
p″=p‘+u0*Gt(x),p’=r‘,g’,b‘
(6)结束步骤,进行下述过程:输出局部区域增强后的图像。
图1为本发明各步骤关系示意图:初始化步骤完成后进入图像区域化分割过程(包括图像平滑、区域生长、区域合并、小区域合并步骤),然后进行图像区域选择,对选择好的区域进行图像区域增强过程,最后进行区域间边界均衡化过渡过程,进入结束步骤。
图2为本发明的图像区域化分割步骤过程示意图:图像区域化分割分为4个子步骤,分别为图像平滑处理步骤,图像区域生长步骤,图像区域合并步骤以及图像小区域合并步骤,按上述步骤顺序执行。
图3为本发明的图像区域化分割步骤中的图像平滑步骤过程示意图,进行下述操作:
首先初始化颜色变量,计数器,迭代次数,移动步长。进行meanshift迭代过程:对于图像每一个像素点,对其周围的区域内的点,判断距离是否小于颜色半径乘积,若是,则进行区域合并处理。若不是,则继续比较其他点,直到所有点都处理完。
图4为本发明的图像区域化分割步骤中的区域生长步骤过程示意图,进行下述操作:
首先初始化未被分配标签的像素,将像素点x与周围的8邻域点进行对比,若像素点x与邻域点的颜色距离小于颜色半径乘积,则将该点标签赋为像素点x的标签值。对新赋标签值的点的8邻域进行相同操作,若是则赋为同样的标签,直到找不到邻接点满足条件。
图5为本发明的图像区域化分割步骤中的区域合并步骤过程示意图,进行下述操作:
根据标签矩阵生成邻接区域图,对于每个未比较过的区域,判断它与相邻区域颜色值距离若小于颜色半径乘积,则合并两区域。所有区域处理完,重新生成邻接区域图。重复该过程。
图6为本发明的图像区域选择步骤过程示意图,所述图像区域选择步骤,有2种处理方式,根据用户选择方式或是自动选择方式,选择预备增强的区域。若为用户手动选择方式,对用户指定区域为待增强区域。若为自动选择方式,则求出每个区域的增强系数,本发明提供2种选择方式,其一为将所有系数小于某阈值的区域都作为待增强区域,其二仅对系数最小的区域进行增强。
图7为本发明的图像区域增强步骤过程示意图,对区域中的每个点,求该点三个通道的最大值,继而求出该点的亮度值。获取区域累积带权直方图,计算区域内每个点的颜色权重值,定义每个点的颜色权重累积直方图,对直方图进行增强。
图8为本发明的图像区域间边界均衡化步骤过程示意图,根据上一步骤中得到的增强区域中每个点增强后的通道值,求出每个点增强后通道值与原通道值之差。利用热传导方程求出每个点的增强系数,最后,利用增强差值与增强系数求出每个点均衡增强后的通道值。
Claims (1)
1.一种对图像进行区域增强的方法,其特征在于包括以下步骤:
(1)初始化步骤,所述初始化的具体方法如下:
(1.1)对于输入图像,初始化存储容器,用于存放处理中间结果;
(1.2)将输入图像的颜色空间由RGB转为LUV,存放于容器中;
(1.3)初始化分割参数sr、sp,由用户指定或设定为默认值(sr=6.5,sp=10);进行步骤(2);
(2)图像区域化分割步骤,所述图像区域化分割步骤分为4个子步骤,分别为图像平滑步骤(2.1)、区域生长步骤(2.2)、区域合并步骤(2.3)和小区域合并步骤(2.4),具体方法如下:
(2.1)图像平滑步骤:
(2.1.1)初始化:color=0,num=0,itr=0,d;
(2.1.2)进行图像平滑操作即meanshift过程;对于图像中的每一个像素点x,对其周围的区域,进行步骤(2.1.3)直到迭代次数itr大于某阈值或移动步长不变为止;
(2.1.3)对于x周围半径为sp内的点yi,其中i=1,2,…,判断像素点yi与像素点x的距离是否小于颜色半径平方,若是,则转步骤(2.3);否则处理下一个点yi+1,若像素点x周围的所有像素点yi都处理完毕,则转步骤(2.1.5);
(2.1.4)将像素点yi的颜色值计入颜色变量,并累加计数器;
(2.1.5)得到区域均值为color/num,并得到移动步长为||color/num–x||,转步骤(2.1.2);
(2.2)区域生长步骤:
(2.2.1)初始化标签值label=1,其中,label为像素点的标签值;
(2.2.2)对于图像的每个点,若其已被分派标签值,则处理下一个点;否则,先将x指定标签值为label,并使label自增,转步骤(2.2.3);
(2.2.3)将像素点x与周围的8邻域点x_ngb进行对比,若x与该点x_ngb的颜色距离小于颜色半径的平方,则将该点标签赋为像素点x的标签值,转步骤(2.2.4);
(2.2.4)对新赋标签值的点的8邻域进行相同操作,即判断它们的颜色距离是否小于sr×sr,若是,则赋为同样的标签,直到找不到邻接点满足条件,转步骤(2.2.2);
(2.3)区域合并步骤:
(2.3.1)对于步骤(2.2)产生的标签矩阵,首先生成一个邻接区域图,即所有标签值的区域和它所相邻的区域列表,转步骤(2.3.2);
(2.3.2)对于每个区域X,判断它相邻区域Y,若两区域的颜色值距离小于颜色半径的平方,则合并两区域;
(2.3.3)对于上述操作处理过的图像,重新生成邻接区域图;
(2.4)小区域合并步骤:
(2.4.1)对于步骤(2.3)产生的邻接区域图中的每个区域X,若该区域的像素点数目小于某阈值,默认为100~400,则转步骤(2.4.2);
(2.4.2)对于小区域X,遍历其邻接区域列表,找到一个与X颜色最接近的区域Y,将X与Y合并为新的区域;
(2.4.3)对于上述操作处理过的图像,重新生成邻接区域图和标签矩阵;
至此,输入图像被分割为若干个区域,使用的是meanshift图像分割算法;
(3)图像区域选择步骤,有2种处理方式,根据用户选择方式或是自动选择方式,选择预备增强的区域;若为用户手动选择方式,对用户指定区域,则进入步骤(4);若为自动选择方式,则进行下述过程:
(3.1)定义指定区域i的增强系数μ:
μ=li×di
其中,i表示指定增强区域,μ为指定区域的增强系数,li为指定区域的亮度值,di为指定区域的对比度;
定义区域i的亮度值li:
其中,定义g(x,y)为点(x,y)的灰度值,num(i)为区域i的像素点总数;
定义区域i的对比度di:
其中,g(x,y)为点(x,y)的灰度值,g(i,j)为点(i,j)的灰度值,num(i)为区域i的像素点总数;
(3.2)对于步骤(2)产生的所有区域,计算增强系数,系数越小的区域,表示该区域越暗且对比度越低,越需要进行区域增强以改善视觉观察效果,以下提供2种选择方式,其一为对所有系数小于某阈值的区域均进行步骤(4),其二仅对系数最小的区域进行步骤(4);
至此,待增强区域已列好,下面进行图像区域增强步骤(4);
(4)图像区域增强步骤,进行下述过程:
定义步骤(3)中选定的区域或区域列表如下:
Ωi,i=1,2,…,N,
其中,Ωi表示待增强的区域,i表示区域编号,N为待增强区域数目;
(4.1)获取区域亮度:
(4.1.1)对输入区域中的每个点,定义该点三个通道的最大值:
Lx=Max(r,g,b),
其中,x表示待增强区域中的像素点,Lx表示像素点x三个通道的最大值,r,g,b分别代表像素点x的三个通道值;
(4.1.2)对输入区域中的每个点,定义该点的亮度值为Lr(x):
其中,Lr(x)为像素点x的亮度值,U(Lx,Ly)为单位阶跃函数;Lx,Ly分别为x点和y点的最大通道值;δ为Lx,Ly的颜色频度系数,即为整张图片中值Lx与值Ly相邻的数目;β为系数δ之和;
求得该区域上每个点的亮度值,进入下一步骤(4.2);
(4.2)获取区域累积带权直方图:
(4.2.1)对输入区域中的每个点,定义公式:
Lg(x)=lg(Lr(x)+1)
其中,Lg(x)表示x点的亮度值加1后再做对数运算的结果;
(4.2.2)对输入区域中的每个点,计算每个点x的颜色权重;
(4.2.3)对输入区域中的每个点,定义其颜色权重累积直方图,计算每个点x的颜色权重累积直方图,定义x点的累积密度函数为公式:
其中,mp(v)为整张图像中所有亮度值与v相等的点的Lg值之和,v是一个取值范围为0到Lr(x)的变量;即:mp(v)=∑Lr(x)=vLg(x)
(4.3)直方图增强区域:
(4.3.1)求标准累积直方图,对一长度为256的常数数组cf[],计算:
其中常数i为数组cf[]的下标,j为从0到i的变量,k为从0到255的变量;
(4.3.2)对输入区域Ωi中的每个点x,计算其增强后的亮度值:首先求得该点的累积密度函数cL(x),其次遍历数组cf[],取出与cL(x)值最接近的数组成员,记该成员的下标为z,定义增强后的亮度值Lm(x)=z;
(4.3.3)对输入区域Ωi中的每个点x,计算其增强后的通道值:
其中,r′,g′,b′分别为增强后的rgb三通道值;至此,增强步骤已经执行完毕;
(5)所述区域间边界均衡化步骤中,热传导方程为:
其中,是函数u(t,x)关于t变量的偏导,函数u(t,x)表示t时,x位置上的热量值,整个方程的解u(t,x)表示热量u随时间t以及位置x的变化情况,u0(x)即为初始时刻x位置上的热量值;
将该方程应用于图像区域边界均衡化,定义u(t,x)的取值为一个三元组向量,表示图像的3个通道值经过前面增强步骤后与原始图像相比的变化量,其中,x表示图像中的点,u0(x)即为x点的初始变化量,t在本步骤中表示距离系数;
具体说明如下:
热传导方程(a)的解为Gauss函数的低通滤波,即:
其中,定义在为增强系数,Gt(x)即表示随时间变化该系数的取值;
u0定义为增强操作后图像颜色初始变化量,即:
u0=|p-p′|,其中p=r,g,bp‘=r’,g‘,b’
t定义为距离系数,即:
D为类中心与边缘距离D=min(xc-xi),
xi∈增强区域边缘,x为当前处理的点,xc为当前点x所属的类中心具体过程如下:
(5.1)对于待增强区域中的每个点,计算增强后的通道值与原通道值之差,定义公式:
u0=|p-p′|,其中p=r,g,bp‘=r’,g‘,b’
(5.2)对于待增强区域中的每个点,求增强系数,定义公式:
xc为图像平滑步骤中求得的类中心(区域中心)
其中,xc为图像平滑步骤中求得的类中心,即区域中心;
(5.3)对于待增强区域中的每个点,求均衡增强后的通道值,定义公式:
p″=p‘+u0*Gt(x),p’=r‘,g’,b‘
(6)结束步骤,进行下述过程:输出局部区域增强后的图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510958177.7A CN105374018B (zh) | 2015-12-18 | 2015-12-18 | 一种对图像进行区域增强的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510958177.7A CN105374018B (zh) | 2015-12-18 | 2015-12-18 | 一种对图像进行区域增强的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105374018A true CN105374018A (zh) | 2016-03-02 |
CN105374018B CN105374018B (zh) | 2018-10-19 |
Family
ID=55376190
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510958177.7A Expired - Fee Related CN105374018B (zh) | 2015-12-18 | 2015-12-18 | 一种对图像进行区域增强的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105374018B (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106897963A (zh) * | 2017-01-04 | 2017-06-27 | 奇酷互联网络科技(深圳)有限公司 | 调整图像亮度的方法、装置和终端设备 |
CN106910434A (zh) * | 2017-02-13 | 2017-06-30 | 武汉随戈科技服务有限公司 | 一种会展会议服务用电子席卡 |
CN106960426A (zh) * | 2017-04-05 | 2017-07-18 | 上海矽奥微电子有限公司 | 基于图像内容的自适应阳光下可读图像增强的方法 |
CN108681989A (zh) * | 2018-03-30 | 2018-10-19 | 国信优易数据有限公司 | 一种图像数据增强方法以及装置 |
CN108805829A (zh) * | 2018-05-25 | 2018-11-13 | 浙江科澜信息技术有限公司 | 影像数据处理方法、装置、设备及计算机可读存储介质 |
CN109697706A (zh) * | 2018-12-28 | 2019-04-30 | 哈尔滨工业大学 | 一种低对比度图像的自定义区域增强方法 |
TWI672669B (zh) * | 2018-02-13 | 2019-09-21 | 奇景光電股份有限公司 | 影像處理方法與裝置 |
CN111159150A (zh) * | 2019-12-19 | 2020-05-15 | 北京文安智能技术股份有限公司 | 一种数据扩充方法及装置 |
CN111369478A (zh) * | 2020-03-04 | 2020-07-03 | 腾讯科技(深圳)有限公司 | 人脸图像增强方法、装置、计算机设备和存储介质 |
CN112612043A (zh) * | 2020-12-10 | 2021-04-06 | 国网四川省电力公司信息通信公司 | 一种高速无线通信与导航定位融合的区域增强系统及方法 |
CN113139872A (zh) * | 2021-05-10 | 2021-07-20 | 北京人和创建信息技术有限公司 | 一种基于互联网服务的外包服务交易系统 |
TWI752697B (zh) * | 2020-10-27 | 2022-01-11 | 大陸商深圳天德鈺科技股份有限公司 | 輝度補償方法、輝度補償電路及顯示裝置 |
CN114494256A (zh) * | 2022-04-14 | 2022-05-13 | 武汉金龙电线电缆有限公司 | 基于图像处理的电线生产缺陷检测方法 |
CN114723701A (zh) * | 2022-03-31 | 2022-07-08 | 南通博莹机械铸造有限公司 | 基于计算机视觉的齿轮缺陷检测方法和系统 |
CN115797225A (zh) * | 2023-01-06 | 2023-03-14 | 山东环宇地理信息工程有限公司 | 一种水下地形测量用无人船采集图像增强方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130321419A1 (en) * | 2012-06-05 | 2013-12-05 | Tandent Vision Science, Inc. | Automatic Processing Scale Estimation for Use in an Image Process |
CN104156921A (zh) * | 2014-08-08 | 2014-11-19 | 大连理工大学 | 一种低照度或亮度不均图像的自适应图像增强方法 |
CN105118029A (zh) * | 2015-08-11 | 2015-12-02 | 曲阜裕隆生物科技有限公司 | 一种基于人眼视觉特性的医学图像增强方法 |
-
2015
- 2015-12-18 CN CN201510958177.7A patent/CN105374018B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130321419A1 (en) * | 2012-06-05 | 2013-12-05 | Tandent Vision Science, Inc. | Automatic Processing Scale Estimation for Use in an Image Process |
CN104156921A (zh) * | 2014-08-08 | 2014-11-19 | 大连理工大学 | 一种低照度或亮度不均图像的自适应图像增强方法 |
CN105118029A (zh) * | 2015-08-11 | 2015-12-02 | 曲阜裕隆生物科技有限公司 | 一种基于人眼视觉特性的医学图像增强方法 |
Non-Patent Citations (3)
Title |
---|
SHAMIK SURAL 等: "SEGMENTATION AND HISTOGRAM GENERATION USING THE HSV COLOR SPACE FOR IMAGE RETRIEVAL", 《IMAGE PROCESSING.2002 INTERNATIONAL CONFERENCE ON》 * |
徐小东: "图像亮度的自动调整", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
曹军峰 等: "采用聚类分割和直方图均衡的图像增强算法", 《红外与激光工程》 * |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106897963A (zh) * | 2017-01-04 | 2017-06-27 | 奇酷互联网络科技(深圳)有限公司 | 调整图像亮度的方法、装置和终端设备 |
CN106910434A (zh) * | 2017-02-13 | 2017-06-30 | 武汉随戈科技服务有限公司 | 一种会展会议服务用电子席卡 |
CN106960426A (zh) * | 2017-04-05 | 2017-07-18 | 上海矽奥微电子有限公司 | 基于图像内容的自适应阳光下可读图像增强的方法 |
CN106960426B (zh) * | 2017-04-05 | 2019-12-03 | 上海弘矽半导体有限公司 | 基于图像内容的自适应阳光下可读图像增强的方法 |
TWI672669B (zh) * | 2018-02-13 | 2019-09-21 | 奇景光電股份有限公司 | 影像處理方法與裝置 |
US10621930B2 (en) | 2018-02-13 | 2020-04-14 | Himax Technologies Limited | Image processing method and image processing device for reducing color shift |
CN108681989A (zh) * | 2018-03-30 | 2018-10-19 | 国信优易数据有限公司 | 一种图像数据增强方法以及装置 |
CN108805829B (zh) * | 2018-05-25 | 2021-01-01 | 浙江科澜信息技术有限公司 | 影像数据处理方法、装置、设备及计算机可读存储介质 |
CN108805829A (zh) * | 2018-05-25 | 2018-11-13 | 浙江科澜信息技术有限公司 | 影像数据处理方法、装置、设备及计算机可读存储介质 |
CN109697706A (zh) * | 2018-12-28 | 2019-04-30 | 哈尔滨工业大学 | 一种低对比度图像的自定义区域增强方法 |
CN111159150A (zh) * | 2019-12-19 | 2020-05-15 | 北京文安智能技术股份有限公司 | 一种数据扩充方法及装置 |
CN111369478A (zh) * | 2020-03-04 | 2020-07-03 | 腾讯科技(深圳)有限公司 | 人脸图像增强方法、装置、计算机设备和存储介质 |
CN111369478B (zh) * | 2020-03-04 | 2023-03-21 | 腾讯科技(深圳)有限公司 | 人脸图像增强方法、装置、计算机设备和存储介质 |
TWI752697B (zh) * | 2020-10-27 | 2022-01-11 | 大陸商深圳天德鈺科技股份有限公司 | 輝度補償方法、輝度補償電路及顯示裝置 |
CN112612043A (zh) * | 2020-12-10 | 2021-04-06 | 国网四川省电力公司信息通信公司 | 一种高速无线通信与导航定位融合的区域增强系统及方法 |
CN113139872A (zh) * | 2021-05-10 | 2021-07-20 | 北京人和创建信息技术有限公司 | 一种基于互联网服务的外包服务交易系统 |
CN114723701A (zh) * | 2022-03-31 | 2022-07-08 | 南通博莹机械铸造有限公司 | 基于计算机视觉的齿轮缺陷检测方法和系统 |
CN114494256A (zh) * | 2022-04-14 | 2022-05-13 | 武汉金龙电线电缆有限公司 | 基于图像处理的电线生产缺陷检测方法 |
CN114494256B (zh) * | 2022-04-14 | 2022-06-14 | 武汉金龙电线电缆有限公司 | 基于图像处理的电线生产缺陷检测方法 |
CN115797225A (zh) * | 2023-01-06 | 2023-03-14 | 山东环宇地理信息工程有限公司 | 一种水下地形测量用无人船采集图像增强方法 |
Also Published As
Publication number | Publication date |
---|---|
CN105374018B (zh) | 2018-10-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105374018B (zh) | 一种对图像进行区域增强的方法 | |
Bora | Importance of image enhancement techniques in color image segmentation: a comprehensive and comparative study | |
JP3740065B2 (ja) | 領域分割された映像の領域特徴値整合に基づいた客体抽出装置およびその方法 | |
CN108629783B (zh) | 基于图像特征密度峰值搜索的图像分割方法、系统及介质 | |
JP2002170117A (ja) | 色−テクスチャ距離の測定方法及び装置並びにこれらを用いた映像の領域区分方法及び装置 | |
CN102165491A (zh) | 图像处理设备、图像处理方法以及程序 | |
US20170039683A1 (en) | Image processing apparatus, image processing method, image processing system, and non-transitory computer readable medium | |
CN105957124B (zh) | 具有重复场景元素的自然图像颜色编辑方法及装置 | |
Liu et al. | Image contrast enhancement based on intensity expansion-compression | |
US11461880B2 (en) | Generating image masks from digital images utilizing color density estimation and deep learning models | |
Porebski et al. | Supervised texture classification: color space or texture feature selection? | |
CN114359323B (zh) | 一种基于视觉注意机制的图像目标区域检测方法 | |
CN111833362A (zh) | 基于超像素和区域生长的非结构化道路分割方法及系统 | |
CN103929629B (zh) | 一种基于图像主要颜色的图像处理方法 | |
US9672447B2 (en) | Segmentation based image transform | |
Chung et al. | Efficient edge-preserving algorithm for color contrast enhancement with application to color image segmentation | |
CN112365517A (zh) | 一种基于图像颜色和密度特征的超像素分割方法 | |
He et al. | Effective haze removal under mixed domain and retract neighborhood | |
US8478032B2 (en) | Segmenting an image | |
Abdelsadek et al. | Impact of using different color spaces on the image segmentation | |
CN113379785B (zh) | 一种融合边界先验与频域信息的显著性目标检测方法 | |
Phyo et al. | Classification of Cluster Area Forsatellite Image | |
Zheng et al. | An improved NAMLab image segmentation algorithm based on the earth moving distance and the CIEDE2000 color difference formula | |
Chen et al. | Candidate region acquisition optimization algorithm based on multi-granularity data enhancement | |
Liu et al. | Background subtraction with multispectral images using codebook algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20181019 |