CN102034225B - 一种基于边缘模式的插入图像颜色分量的方法 - Google Patents

一种基于边缘模式的插入图像颜色分量的方法 Download PDF

Info

Publication number
CN102034225B
CN102034225B CN2010105966814A CN201010596681A CN102034225B CN 102034225 B CN102034225 B CN 102034225B CN 2010105966814 A CN2010105966814 A CN 2010105966814A CN 201010596681 A CN201010596681 A CN 201010596681A CN 102034225 B CN102034225 B CN 102034225B
Authority
CN
China
Prior art keywords
interpolation
edge
vertical
component
level
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2010105966814A
Other languages
English (en)
Other versions
CN102034225A (zh
Inventor
宋占杰
李明明
黄喆
王东东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianjin University
Original Assignee
Tianjin University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin University filed Critical Tianjin University
Priority to CN2010105966814A priority Critical patent/CN102034225B/zh
Publication of CN102034225A publication Critical patent/CN102034225A/zh
Application granted granted Critical
Publication of CN102034225B publication Critical patent/CN102034225B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)
  • Color Image Communication Systems (AREA)

Abstract

本发明公开了一种基于边缘模式的插入图像颜色分量的方法,涉及图形学领域,对Bayer图像进行预处理,获取处理后的第一Bayer图像;提取并分析第一Bayer图像中R周围的G分量、B周围的G分量,获取第一阈值;根据第一阈值、第一Bayer图像,获取第一水平或垂直高低模式、第二水平或垂直高低模式、水平或垂直细线模式和斜角高低模式;相应地获取到第一水平或垂直高低边缘、第二水平或垂直高低边缘、水平或垂直细线边缘和斜角高低边缘;根据第一水平或垂直高低边缘、第二水平或垂直高低边缘、水平或垂直细线边缘和斜角高低边缘,对第一Bayer图像进行G分量插值;采用色差恒定法插值R分量和B分量,获取24位全彩图像。

Description

一种基于边缘模式的插入图像颜色分量的方法
技术领域
本发明涉及图形学领域,特别涉及一种基于边缘模式的插入图像颜色分量的方法。
背景技术
由于电子技术的发展,数码相机越来越受到人们的青睐,人们可以随时使用数码相机捕捉物体的图像并存储捕捉的图像。现有技术中通常通过CCD(Charge-Coupled Device,电荷耦合器件)和CMOS(Complementary Metal OxideSemiconductor,互补金属氧化物半导体)来捕捉图像。在很多数码相机中采用CFA(Color Filter Array,彩色滤光片阵列),布置在CCD和CMOS的前面以获的彩色图像,单CCD成像系统如图1所示。捕捉的彩色图像经过CFA后,被下采样为三个颜色分量(R红色分量,G绿色分量和B蓝色分量)的Bayer模板矩阵,参见图2,从Bayer矩阵恢复原24位全彩图像的过程称为图像插值。
现有技术中广泛使用的图像插值方法主要包括:基于单通道空间相关性的双线性插值法、基于多通道间的相关性的ECI方法、综合利用两种通道相关性的Hamilton方法和Lu方法。该些方法中,计算最简单的方法为基于单通道空间相关性的双线性插值法,该方法很多改进插值算法的基础。
现有技术中的图像插值方法对平滑的区域插值效果较好,但在边缘的地方会出现不同程度的失真,主要表现为伪彩失真和Zipper效应,伪彩失真表现为出现了原来的图像不存在的彩色;Zipper效应表现为边缘区域出现的凹凸感的锯齿。基于单通道空间相关性的双线性插值法在边缘处会产生明显的伪彩失真和Zipper效应;ECI方法的伪彩失真和Zipper效应依然明显;Hamilton方法总体伪彩失真的面积较小,但是有的局部失真很明显;Lu方法伪彩失真的面积相比Hamilton法要大一些。
发明内容
为了避免出现伪彩失真和Zipper效应,提高捕捉到的图像质量,本发明提供了一种基于边缘模式的插入图像颜色分量的方法,所述方法包括以下步骤:
(1)数码相机处于待机状态,判断所述数码相机是否进入照相模式,如果是,执行步骤(2),如果否,重新判断所述数码相机是否进入照相模式;
(2)所述数码相机执行照相模式;
(3)所述数码相机捕捉图像获取光信号,获取到的所述光信号通过CFA滤波阵列,提取Bayer图像;
(4)对所述Bayer图像进行预处理,获取处理后的第一Bayer图像;
(5)提取并分析所述第一Bayer图像中R周围的G分量、B周围的G分量,获取第一阈值;
(6)根据所述第一阈值、所述第一Bayer图像,获取第一水平或垂直高低模式、第二水平或垂直高低模式、水平或垂直细线模式和斜角高低模式;
(7)根据获取到的所述第一水平或垂直高低模式、所述第二水平或垂直高低模式、所述水平或垂直细线模式和所述斜角高低模式,相应地获取到第一水平或垂直高低边缘、第二水平或垂直高低边缘、水平或垂直细线边缘和斜角高低边缘;
(8)根据所述第一水平或垂直高低边缘、所述第二水平或垂直高低边缘、所述水平或垂直细线边缘和所述斜角高低边缘,对所述第一Bayer图像进行G分量插值;
(9)判断所述G分量插值是否完成,如果是,执行步骤(10),如果否,重新执行步骤(8);
(10)采用色差恒定法插值R分量和B分量,获取24位全彩图像。
步骤(4)中的所述对Bayer图像进行预处理,获取处理后的第一Bayer图像具体为:
对所述Bayer图像进行结构变换与SPIHT编码,获取Bayer图像的码流;
对所述Bayer图像的码流进行SPIHT解码与结构反变换,获取处理后的所述第一Bayer图像。
所述第一阈值具体为:对与G分量相邻的上下左右四个G分量取平均值。
步骤(8)中的所述根据所述第一水平或垂直高低边缘、所述第二水平或垂直高低边缘、所述水平或垂直细线边缘和所述斜角高低边缘,对所述第一Bayer图像进行G分量插值,具体为:
1)在所述第一Bayer图像选取第一插值点,判断所述第一插值点的边缘模式是否是所述第一水平或垂直高低边缘和所述第二水平或垂直高低边缘,如果是,执行步骤2);如果否,执行步骤3);
2)对所述第一插值点使用边缘加权自适应插值法进行G分量插值;
3)判断所述第一插值点的边缘模式是否为所述斜角高低边缘,如果是,执行步骤4);如果否,执行步骤5);
4)对所述第一插值点使用反梯度加权插值法进行G分量插值;
5)判断所述第一插值点的边缘模式是否为所述水平或垂直细线边缘,如果是,执行步骤6);如果否,执行步骤7);
6)对所述第一插值点使用细线边缘法进行G分量插值;
7)对所述第一插值点使用边缘加权自适应插值法进行G分量插值。
所述对所述第一插值点使用边缘加权自适应插值法进行G分量插值,具体为:
获取第一水平梯度算子
Figure BDA0000039503710000031
第一垂直梯度算子
Figure BDA0000039503710000032
判断所述第一水平梯度算子
Figure BDA0000039503710000033
是否小于所述第一垂直梯度算子
Figure BDA0000039503710000034
如果是,根据第一插值公式,与所述第一水平梯度算子
Figure BDA0000039503710000035
关联的水平相邻G、B或G、R分配第二权重来插值B或R位置上的G分量;如果否,判断所述第一水平梯度算子是否大于所述第一垂直梯度算子,执行下一步;
如果是,根据所述第一插值公式,与所述第一垂直梯度算子
Figure BDA0000039503710000036
关联的垂直相邻的G、B或G、R分配第二权重来插值B或R位置上的G分量;如果否,根据所述第一插值公式,与所述第一水平梯度算子
Figure BDA0000039503710000037
关联的水平相邻的G、B或G、R,和与所述第一垂直梯度算子
Figure BDA0000039503710000038
关联的垂直相邻的G、B或G、R分配相等的第三权重来插值B或R位置上的G分量;
其中,所述第一水平梯度算子
Figure BDA0000039503710000039
所述第一垂直梯度算子
Figure BDA00000395037100000310
所述第一插值公式为:
G i , j = w G i , j [ G i , j - 1 + G i , j + 1 &lambda; 1 + w B i , j B i , j - B i , j - 2 - B i , j + 2 &lambda; 2 ] + ( 1 - w G i , j ) [ G i - 1 , j + G i + 1 , j &lambda; 1 + w B i , j B i , j - B i - 2 , j - B i + 2 , j &lambda; 2 &Delta;H i , j < &Delta; V i , j w G i , j [ G i - 1 , j + G i + 1 , j &lambda; 1 + w B i , j B i , j - B i - 2 , j - B i + 2 , j &lambda; 2 ] + ( 1 - w G i , j ) [ G i , j - 1 + G i , j + 1 &lambda; 1 + w B i , j B i , j - B i , j - 2 - B i , j + 2 &lambda; 2 ] &Delta;H i , j > &Delta; V i , j 1 &lambda; 1 [ G i - 1 , j + G i + 1 , j &lambda; 1 + w B i , j B i , j - B i - 2 , j - B i + 2 , j &lambda; 2 ] + 1 &lambda; 1 [ G i , j - 1 + G i , j + 1 &lambda; 1 + w B i , j B i , j - B i , j - 2 - B i , j + 2 &lambda; 2 ] &Delta; H i , j = &Delta; V i , j
Figure BDA0000039503710000042
为第一权重、i,j的取值为实数、
Figure BDA0000039503710000043
为第二权重,
Figure BDA0000039503710000044
为第三权重,λ1,λ2为常数。
所述对所述第一插值点使用反梯度加权插值法进行G分量插值,具体为:
利用与所述第一插值点相邻的上下左右四个G分量,采用所述色差恒定法产生四个插值点像素的预估值;
利用与所述第一插值点相邻的上下左右四个G分量、与所述第一插值点同颜色分量的四个颜色分量得到四个预估值的权值;
根据所述四个插值点像素的预估值和所述四个预估值的权值、第二插值公式计算所述第一插值点处的G分量;
其中,所述四个插值点像素的预估值分别为
Figure BDA0000039503710000045
Figure BDA0000039503710000046
G ~ i , j + 1 = G i , j + 1 + &lambda; 1 ( R i + 1 , j + 1 - R i - 1 , j + 1 ) ;
G ~ i + 2 , j + 1 = G i + 2 , j + 1 + &lambda; 1 ( R i + 1 , j + 1 - R i + 3 , j + 1 ) ;
G ~ i , j + 1 = G i , j + 1 + &lambda; 1 ( R i + 1 , j + 1 - R i - 1 , j + 1 ) ;
G ~ i + 1 , j + 2 = G i + 1 , j + 2 + &lambda; 1 ( R i + 1 , j + 1 - R i + 1 , j + 3 ) ;
所述四个预估值的权值分别为αi,j-1、αi,j+1、αi-1,j和αi+1,j
&alpha; i , j - 1 = 1 1 + | G i , j - 1 - G i , j + 1 | + | B i , j - B i , j - 2 | ;
&alpha; i , j + 1 = 1 1 + | G i , j - 1 - G i , j + 1 | + | B i , j - B i , j + 2 | ;
&alpha; i - 1 , j = 1 1 + | G i - 1 , j - G i + 1 , j | + | B i , j - B i - 2 , j | ;
&alpha; i + 1 , j = 1 1 + | G i - 1 , j - G i + 1 , j | + | B i , j - B i + 2 , j | ;
所述第二插值公式具体为:
G ^ i , j = &alpha; i , j - 1 G ~ i , j - 1 + &alpha; i , j + 1 G ~ i , j + 1 + &alpha; i + 1 , j G ~ i + 1 , j + &alpha; i - 1 , j G ~ i - 1 , j &alpha; i , j - 1 + &alpha; i , j + 1 + &alpha; i + 1 , j + &alpha; i - 1 , j .
所述对所述第一插值点使用细线边缘法进行G分量插值,具体为:
选取所述第一插值点,获取所述水平或垂直细线边缘的六个方向梯度D1、D2、D3、D4、D5和D6
判断是否同时满足第一判断条件和第二判断条件,如果是,所述水平或垂直细线边缘存在明显的细线边缘,执行下一步;如果否,所述水平或垂直细线边缘不存在明显的细线边缘,对所述第一插值点使用所述边缘加权自适应法进行G分量的插值;
判断是否同时满足第三判断条件和第四判断条件,如果是,获取第二水平梯度算子和第二垂直梯度算子,根据获取到的所述第二水平梯度算子、所述第二垂直梯度算子和所述第一插值公式进行G分量的插值;如果否,获取第三水平梯度算子和第三垂直梯度算子,根据获取到的所述第三水平梯度算子、所述第三垂直梯度算子和所述第一插值公式进行G分量的插值;
其中,D1=|Gi-1,j-Gi,j-1|、D2=|Gi+1,j-Gi,j+1|、D3=|Gi,j-1-Gi,j+1|、D4=|Gi-1,j-Gi+1,j|、D5=|Ri-1,j-1-Ri+1,j+1|、D6=|Ri+1,j-1-Ri-1,j+1|;
所述第一判断条件具体为:D1+D2>D3+D4+D5+D6,所述第二判断条件具体为:D1+D2>DThreshold,DThreshold为第二阈值,
所述第三判断条件具体为:
Figure BDA0000039503710000051
所述第四判断条件具体为:Threshold为第三阈值,
所述第二水平梯度算子为:
&Delta; H i , j 2 = | G i , j - 1 - G i , j + 1 | + | w B i , j B i , j - B i , j - 2 - B i , j + 2 | + | G i , j - 1 - B i , j | + | B i , j - G i , j + 1 | ;
所述第二垂直梯度算子为:
&Delta; V i , j 2 = | G i - 1 , j - G i + 1 , j | + | w B i , j B i , j - B i - 2 , j - B i + 2 , j | + | G i - 1 , j - B i , j | + | B i , j - G i + 1 , j | ;
所述第三水平梯度算子为:
&Delta; H i , j 3 = | G i - 1 , j - 1 - G i - 1 , j | + | G i - 1 , j - G i - 1 , j + 1 | ;
所述第三垂直梯度算子为:
&Delta; V i , j 3 = | G i - 1 , j - 1 - G i , j - 1 | + | G i , j - 1 - G i + 1 , j - 1 | .
所述方法还包括:对所述24位全彩图像进行后处理。
所述对所述24位全彩图像进行后处理,具体为:
用线性加色差恒定法对所述24位全彩图像进行插值,获取所述24位全彩图像的方差Var(I);
判断所述方差Var(I)是否大于第三阈值TH,如果是,流程结束,如果否,重新执行上一步。
所述线性加色差恒定法具体为:
选取所述第一插值点,根据相邻的上下左右四个G分量和与所述第一插值点颜色分量相同的R或B分量,利用色差公式获得相应的四个第一色差值;
对所述的四个第一色差值取均值,加上相应的R或B分量进行G分量的插值,获取G分量的值
Figure BDA0000039503710000061
根据上下左右四个的G分量和B或R相应的R或B分量,利用色差公式相应的获取四个第二色差值;
对所述第二色差值取第一均值,然后将所述
Figure BDA0000039503710000062
与所述第一均值作差,进行相应的R或B分量上的B或R分量的插值。
选取第二插值点,根据
Figure BDA0000039503710000063
和与所述第二插值点水平相邻的两个R分量或B分量,利用所述色差公式获得相应的两个第三色差值;
对所述的两个第三色差值取第二均值,然后将G分量与所述第二均值作差,进行相应的R或B分量的插值;
其中,所述色差公式:
ΔX=G-X,X为R或B。
本发明提供的技术方案的有益效果是:
本发明提供了一种基于边缘模式的插入图像颜色分量的方法,该方法通过对Bayer图像进行预处理,获取处理后的第一Bayer图像;提取并分析第一Bayer图像中R周围的G分量、B周围的G分量,获取第一阈值;根据第一阈值、第一Bayer图像,获取第一水平或垂直高低模式、第二水平或垂直高低模式、水平或垂直细线模式和斜角高低模式;相应地获取到第一水平或垂直高低边缘、第二水平或垂直高低边缘、水平或垂直细线边缘和斜角高低边缘;根据第一水平或垂直高低边缘、第二水平或垂直高低边缘、水平或垂直细线边缘和斜角高低边缘,对第一Bayer图像进行G分量插值;采用色差恒定法插值R分量和B分量,获取24位全彩图像,该方法避免了出现伪彩失真和Zipper效应,提高了捕捉到的图像质量,满足了实际应用中的需要。
附图说明
图1为现有技术提供的单CCD成像系统的结构示意图;
图2为现有技术提供的Bayer图像;
图3为本发明提供的基于边缘模式的插入图像颜色分量的方法的流程图;
图4为本发明提供的用于插值的Bayer图像;
图5为本发明提供的第一水平或垂直高低模式的示意图;
图6为本发明提供的第二水平或垂直高低模式的示意图;
图7为本发明提供的水平或垂直细线模式的示意图;
图8为本发明提供的斜角高低模式的示意图;
图9为本发明提供的对图像进行G分量插值的流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
为了避免出现伪彩失真和Zipper效应,提高捕捉到的图像质量,本发明实施例提供了一种基于边缘模式的插入图像颜色分量的方法,参见图3和图4,详见下文描述:
101:数码相机处于待机状态,判断数码相机是否进入照相模式,如果是,执行步骤102,如果否,重新判断数码相机是否进入照相模式;
102:数码相机执行照相模式;
103:数码相机捕捉图像获取光信号,获取到的光信号通过CFA滤波阵列,提取Bayer图像;
104:对Bayer图像进行预处理,获取处理后的第一Bayer图像;
其中,对Bayer图像进行预处理具体包括:
对Bayer图像进行结构变换与SPIHT编码,获取Bayer图像的码流;
其中,结构变换采用现有技术中通用的结构变换方式,具体实现时,可以为合并、可逆的解交错扫描、结构分离和结构转换等结构变换方式。本发明实施例以结构分离的结构变换方式为例进行说明,具体实现时,本发明实施例对此不做限制。
对Bayer图像的码流进行SPIHT解码与结构反变换,获取处理后的第一Bayer图像。
其中,结构反变换采用现有技术中通用的结构反变换方式,具体实现时,可以采用结构变换的逆过程来实现结构反变换,本发明实施例以结构分离的逆过程为例进行说明,本发明实施例对此不做限制。
105:提取并分析第一Bayer图像中R周围的G分量、B周围的G分量,获取第一阈值;
其中,第一阈值具体为:对与G分量相邻的上下左右四个G分量取平均值。
106:根据第一阈值、第一Bayer图像,获取第一水平或垂直高低模式、第二水平或垂直高低模式、水平或垂直细线模式和斜角高低模式;
参见图5、图6、图7和图8,该步骤具体为:大于第一阈值的点判定为高,用H表示,小于阈值的点判定为低,用L表示,因此将第一Bayer图像划分为第一水平或垂直高低模式、第二水平或垂直高低模式、水平或垂直细线模式和斜角高低模式。
107:根据获取到的第一水平或垂直高低模式、第二水平或垂直高低模式、水平或垂直细线模式和斜角高低模式,相应地获取到第一水平或垂直高低边缘、第二水平或垂直高低边缘、水平或垂直细线边缘和斜角高低边缘;
108:根据第一水平或垂直高低边缘、第二水平或垂直高低边缘、水平或垂直细线边缘和斜角高低边缘,对第一Bayer图像进行G分量插值;
参见图9,该步骤具体为:
1081:在第一Bayer图像选取第一插值点,判断第一插值点的边缘模式是否是第一水平或垂直高低边缘、第二水平或垂直高低边缘,如果是,执行步骤1082;如果否,执行步骤1083;
1082:对第一插值点使用边缘加权自适应插值法进行G分量插值;
获取第一水平梯度算子、第一垂直梯度算子;
第一水平梯度算子为:
&Delta; H 1 i , j = | G i , j - 1 - G i , j + 1 | + | w B i , j B i , j - B i , j - 2 - B i , j + 2 |
第一垂直梯度算子为:
Figure BDA0000039503710000082
其中,
Figure BDA0000039503710000083
为第一权重、i,j的取值为实数,具体实现时可以根据实际应用情况对
Figure BDA0000039503710000084
的值进行设定,本发明实施例以
Figure BDA0000039503710000091
为例进行说明,本发明实施例对此不做限制。
判断第一水平梯度算子ΔH1i,j是否小于第一垂直梯度算子ΔV1i,j,如果是,根据第一插值公式,与第一水平梯度算子ΔH1i,j关联的水平相邻G、B或G、R分配第二权重来插值B或R位置上的G分量;如果否,判断第一水平梯度算子是否大于第一垂直梯度算子,执行下一步;
如果是,根据第一插值公式,与第一垂直梯度算子ΔV1i,j关联的垂直相邻的G、B或G、R分配第二权重来插值B或R位置上的G分量;如果否,根据第一插值公式,与第一水平梯度算子
Figure BDA0000039503710000092
关联的水平相邻的G、B或G、R,和与第一垂直梯度算子关联的垂直相邻的G、B或G、R分配相等的第三权重来插值B或R位置上的G分量;
第一插值公式为:
G i , j = w G i , j [ G i , j - 1 + G i , j + 1 &lambda; 1 + w B i , j B i , j - B i , j - 2 - B i , j + 2 &lambda; 2 ] + ( 1 - w G i , j ) [ G i - 1 , j + G i + 1 , j &lambda; 1 + w B i , j B i , j - B i - 2 , j - B i + 2 , j &lambda; 2 &Delta;H i , j < &Delta; V i , j w G i , j [ G i - 1 , j + G i + 1 , j &lambda; 1 + w B i , j B i , j - B i - 2 , j - B i + 2 , j &lambda; 2 ] + ( 1 - w G i , j ) [ G i , j - 1 + G i , j + 1 &lambda; 1 + w B i , j B i , j - B i , j - 2 - B i , j + 2 &lambda; 2 ] &Delta;H i , j > &Delta; V i , j 1 &lambda; 1 [ G i - 1 , j + G i + 1 , j &lambda; 1 + w B i , j B i , j - B i - 2 , j - B i + 2 , j &lambda; 2 ] + 1 &lambda; 1 [ G i , j - 1 + G i , j + 1 &lambda; 1 + w B i , j B i , j - B i , j - 2 - B i , j + 2 &lambda; 2 ] &Delta; H i , j = &Delta; V i , j
其中,
Figure BDA0000039503710000095
为第二权重,
Figure BDA0000039503710000096
为第三权重,λ1,λ2为常数,具体实现时可以根据实际应用情况对的值、λ1,λ2的值进行设定,本发明实施例以
Figure BDA0000039503710000098
λ1=2,λ2=4为例进行说明,本发明实施例对此不做限制。
1083:判断第一插值点的边缘模式是否为斜角高低边缘,如果是,执行步骤1084;如果否,执行步骤1085;
1084:对第一插值点使用反梯度加权插值法进行G分量插值;
其中,该步骤具体为:
利用与第一插值点相邻的上下左右四个G分量,采用色差恒定法产生四个插值点像素的预估值;
利用与第一插值点相邻的上下左右四个G分量、与第一插值点同颜色分量的四个颜色分量得到四个预估值的权值;
根据四个插值点像素的预估值和四个预估值的权值、第二插值公式计算插值点处的G分量。
其中,四个插值点像素的预估值分别为:
Figure BDA00000395037100000910
G ~ i , j + 1 = G i , j + 1 + &lambda; 1 ( R i + 1 , j + 1 - R i - 1 , j + 1 )
G ~ i + 2 , j + 1 = G i + 2 , j + 1 + &lambda; 1 ( R i + 1 , j + 1 - R i + 3 , j + 1 )
G ~ i , j + 1 = G i , j + 1 + &lambda; 1 ( R i + 1 , j + 1 - R i - 1 , j + 1 )
G ~ i + 1 , j + 2 = G i + 1 , j + 2 + &lambda; 1 ( R i + 1 , j + 1 - R i + 1 , j + 3 )
其中,四个预估值的权值分别为αi,j-1、αi,j+1、αi-1,j和αi+1,j
&alpha; i , j - 1 = 1 1 + | G i , j - 1 - G i , j + 1 | + | B i , j - B i , j - 2 |
&alpha; i , j + 1 = 1 1 + | G i , j - 1 - G i , j + 1 | + | B i , j - B i , j + 2 |
&alpha; i - 1 , j = 1 1 + | G i - 1 , j - G i + 1 , j | + | B i , j - B i - 2 , j |
&alpha; i + 1 , j = 1 1 + | G i - 1 , j - G i + 1 , j | + | B i , j - B i + 2 , j |
其中,第二插值公式具体为:
G ^ i , j = &alpha; i , j - 1 G ~ i , j - 1 + &alpha; i , j + 1 G ~ i , j + 1 + &alpha; i + 1 , j G ~ i + 1 , j + &alpha; i - 1 , j G ~ i - 1 , j &alpha; i , j - 1 + &alpha; i , j + 1 + &alpha; i + 1 , j + &alpha; i - 1 , j
1085:判断第一插值点的边缘模式是否为水平或垂直细线边缘,如果是,执行步骤1086;如果否,执行步骤1087;
1086:对第一插值点使用细线边缘法进行G分量插值;
其中,该步骤具体为:
选取第一插值点Bi,j,获取水平或垂直细线边缘的六个方向梯度D1、D2、D3、D4、D5和D6
D1=|Gi-1,j-Gi,j-1|   D2=|Gi+1,j-Gi,j+1|      D3=|Gi,j-1-Gi,j+1|
D4=|Gi-1,j-Gi+1,j|   D5=|Ri-1,j-1-Ri+1,j+1|  D6=|Ri+1,j-1-Ri-1,j+1|
判断是否同时满足第一判断条件和第二判断条件,如果是,水平或垂直细线边缘存在明显的细线边缘,执行下一步;如果否,水平或垂直细线边缘不存在明显的细线边缘,对第一插值点使用边缘加权自适应法进行G分量插值;
其中,第一判断条件具体为:D1+D2>D3+D4+D5+D6,第二判断条件具体为:D1+D2>DThreshold,DThreshold为第二阈值,具体实现时可以根据实际应用情况对DThreshold的值进行设定,本发明实施例以DThreshold=32为例进行说明,本发明实施例对此不做限制。
判断是否同时满足第三判断条件和第四判断条件,如果是,获取第二水平梯度算子和第二垂直梯度算子,根据获取到的第二水平梯度算子、第二垂直梯度算子和第一插值公式进行G分量的插值;如果否,获取第三水平梯度算子和第三垂直梯度算子,根据获取到的第三水平梯度算子、第三垂直梯度算子和第一插值公式进行G分量的插值。
其中,第三判断条件具体为:第四判断条件具体为:
Figure BDA0000039503710000112
Threshold为第三阈值,本发明实施例以Threshold=8为例进行说明,本发明实施例对此不做限制。
第二水平梯度算子为:
&Delta; H 2 i , j = | G i , j - 1 - G i , j + 1 | + | w B i , j B i , j - B i , j - 2 - B i , j + 2 | + | G i , j - 1 - B i , j | + | B i , j - G i , j + 1 |
第二垂直梯度算子为:
&Delta; V 2 i , j = | G i - 1 , j - G i + 1 , j | + | w B i , j B i , j - B i - 2 , j - B i + 2 , j | + | G i - 1 , j - B i , j | + | B i , j - G i + 1 , j |
第三水平梯度算子为:
ΔH3i,j=|Gi-1,j-1-Gi-1,j|+|Gi-1,j-Gi-1,j+1|
第三垂直梯度算子为:
ΔV3i,j=|Gi-1,j-1-Gi,j-1|+|Gi,j-1-Gi+1,j-1|
其中,Gi-1,j-1,Gi-1,j+1在上一行的插值中已经得出,Gi+1,j-1的值如下
G i + 1 , j - 1 = R i + 1 , j - 1 + 1 &lambda; 1 [ ( G i - 1 , j - 1 - R i - 1 , j - 1 ) + ( G i - 1 , j + 1 - R i - 1 , j + 1 ) ]
1087:对第一插值点使用边缘加权自适应插值法进行G分量插值。
109:判断G分量插值是否完成,如果是,执行步骤110,如果否,重新执行步骤108;
110:采用色差恒定法插值R分量和B分量,获取24位全彩图像。
为了提高图像的质量,降低复杂度和获取到更好的效果,本发明实施例还包括:
对24位全彩图像进行后处理。
该步骤具体为:
1)用线性加色差恒定对24位全彩图像进行插值,获取24位全彩图像的方差Var(I);
2)判断24位全彩图像的方差是否大于第三阈值TH,如果是,流程结束,如果否,重新执行步骤1)。
经过步骤101-110的插值处理后,每个插值点的R,G,B均已知,线性加色差恒定法具体为:
选取第一插值点,根据相邻的上下左右四个G分量和与第一插值点颜色分量相同的R或B分量,利用色差公式获得相应的四个第一色差值;
对四个第一色差值取均值,加上相应的R或B分量进行G分量的插值,获取G分量的值
Figure BDA0000039503710000121
根据上下左右四个的G分量和B或R相应的R或B分量,利用色差公式相应的获取四个第二色差值;
其中,相应的R或B分量具体为:若第一插值点是B分量则相应的应该是R分量,若第一插值点是R分量则相应的应该是B分量。
对第二色差值取第一均值,然后将
Figure BDA0000039503710000122
与第一均值作差,进行相应的R或B分量上的B或R分量的插值。
选取第二插值点,根据
Figure BDA0000039503710000123
和与第二插值点水平相邻的两个R分量或B分量,利用色差公式获得相应的两个第三色差值;
对两个第三色差值取第二均值,然后将G分量与第二均值作差,进行相应的R或B分量的插值;
其中,色差公式:
ΔX=G-X,X为R或B。
获取第一插值点的上、下、左、右四个点的ΔB的值;
例如:ΔBi-1,j=Gi-1,j-Bi-1,j,ΔBi,j-1,ΔBi,j+1和ΔBi+1,j的计算同该式,在此不再赘述。
恢复R,B分量的值时,需要利用已经得到的G分量的值来算出插值点周围的ΔB,ΔR,若是恢复Bi,j上的R分量,
R i , j = G ^ i , j - 1 4 ( &Delta; R i - 1 , j - 1 + &Delta; R i - 1 , j + 1 + &Delta;R i + 1 , j - 1 + &Delta; R i + 1 , j + 1 )
若是恢复G上的R分量,
R i - 1 , j = G i - 1 , j - 1 2 ( &Delta; R i - 1 , j - 1 + &Delta; R i - 1 , j + 1 )
恢复B分量的步骤和恢复R分量类似,在此不再赘述。确定了迭代的插值方法后,迭代重点在于确定合适的终止判定方法。对每个通道分别进行判定,以每个通道前一次插值导致的通道值变化的剧烈程度为判定标准。
I(i,j)=Xn+1(i,j)-Xn(i,j)
X表示G,B或R通道变量的任意一个,n表示第几次插值的结果(n=1时,表示基于步骤101-110得到的插值结果,n=2,3,...表示迭代插值结果),I表示进行一次插值后,通道值的变化量。
Var ( I ) = 1 M &times; N &Sigma; i = 1 M &Sigma; j = 1 N ( I ( i , j ) - I &OverBar; ( i , j ) ) 2
I &OverBar; = 1 M &times; N &Sigma; i = 1 M &Sigma; j = 1 N ( I ( i , j ) )
Figure BDA0000039503710000133
表示整个24位全彩图像I的平均值,Var(I)表示I的方差,M,N分别表示24位全彩图像的行数和列数。Var(I)>TH作为I通道继续迭代的条件,如果条件不满足,则此通道立即终止迭代插值,R0、B0和G0的值都设为零。经过实际测试,本发明实施例优选TH=1,具体实现时,第三阈值TH的值根据实际的应用情况进行设定,本发明实施例对此不做限制。
综上所述,本发明实施例提供了一种基于边缘模式的插入图像颜色分量的方法,该方法通过对Bayer图像进行预处理,获取处理后的第一Bayer图像;提取并分析第一Bayer图像中R周围的G分量、B周围的G分量,获取第一阈值;根据第一阈值、第一Bayer图像,获取第一水平或垂直高低模式、第二水平或垂直高低模式、水平或垂直细线模式和斜角高低模式;相应地获取到第一水平或垂直高低边缘、第二水平或垂直高低边缘、水平或垂直细线边缘和斜角高低边缘;根据第一水平或垂直高低边缘、第二水平或垂直高低边缘、水平或垂直细线边缘和斜角高低边缘,对第一Bayer图像进行G分量插值;采用色差恒定法插值R分量和B分量,获取24位全彩图像,该方法避免了出现伪彩失真和Zipper效应,提高了捕捉到的图像质量,满足了实际应用中的需要。
本领域技术人员可以理解附图只是一个优选实施例的示意图,上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (7)

1.一种基于边缘模式的插入图像颜色分量的方法,其特征在于,所述方法包括以下步骤:
(1)数码相机处于待机状态,判断所述数码相机是否进入照相模式,如果是,执行步骤(2),如果否,重新判断所述数码相机是否进入照相模式;
(2)所述数码相机执行照相模式;
(3)所述数码相机捕捉图像获取光信号,获取到的所述光信号通过CFA滤波阵列,提取Bayer图像;
(4)对所述Bayer图像进行预处理,获取处理后的第一Bayer图像;
(5)提取并分析所述第一Bayer图像中R周围的G分量、B周围的G分量,获取第一阈值;
(6)根据所述第一阈值、所述第一Bayer图像,获取第一水平或垂直高低模式、第二水平或垂直高低模式、水平或垂直细线模式和斜角高低模式;
(7)根据获取到的所述第一水平或垂直高低模式、所述第二水平或垂直高低模式、所述水平或垂直细线模式和所述斜角高低模式,相应地获取到第一水平或垂直高低边缘、第二水平或垂直高低边缘、水平或垂直细线边缘和斜角高低边缘;
(8)根据所述第一水平或垂直高低边缘、所述第二水平或垂直高低边缘、所述水平或垂直细线边缘和所述斜角高低边缘,对所述第一Bayer图像进行G分量插值;
(9)判断所述G分量插值是否完成,如果是,执行步骤(10),如果否,重新执行步骤(8);
(10)采用色差恒定法插值R分量和B分量,获取24位全彩图像;
(11)对所述24位全彩图像进行后处理;
其中,所述对所述24位全彩图像进行后处理具体为:
(111)用线性加色差恒定法对所述24位全彩图像进行插值,获取所述24位全彩图像的方差Var(I);
(112)判断所述方差Var(I)是否大于第三阈值TH,如果是,流程结束,如果否,重新执行步骤(111)。
2.根据权利要求1所述的基于边缘模式的插入图像颜色分量的方法,其特征在于,步骤(4)中的所述对Bayer图像进行预处理,获取处理后的第一Bayer图像具体为:
对所述Bayer图像进行结构变换与SPIHT编码,获取Bayer图像的码流;
对所述Bayer图像的码流进行SPIHT解码与结构反变换,获取处理后的所述第一Bayer图像。
3.根据权利要求1所述的基于边缘模式的插入图像颜色分量的方法,其特征在于,所述第一阈值具体为:对与G分量相邻的上下左右四个G分量取平均值。
4.根据权利要求1所述的基于边缘模式的插入图像颜色分量的方法,其特征在于,步骤(8)中的所述根据所述第一水平或垂直高低边缘、所述第二水平或垂直高低边缘、所述水平或垂直细线边缘和所述斜角高低边缘,对所述第一Bayer图像进行G分量插值,具体为:
1)在所述第一Bayer图像选取第一插值点,判断所述第一插值点的边缘模式是否是所述第一水平或垂直高低边缘和所述第二水平或垂直高低边缘,如果是,执行步骤2);如果否,执行步骤3);
2)对所述第一插值点使用边缘加权自适应插值法进行G分量插值;
3)判断所述第一插值点的边缘模式是否为所述斜角高低边缘,如果是,执行步骤4);如果否,执行步骤5);
4)对所述第一插值点使用反梯度加权插值法进行G分量插值;
5)判断所述第一插值点的边缘模式是否为所述水平或垂直细线边缘,如果是,执行步骤6);如果否,执行步骤7);
6)对所述第一插值点使用细线边缘法进行G分量插值;
7)对所述第一插值点使用边缘加权自适应插值法进行G分量插值。
5.根据权利要求4所述的基于边缘模式的插入图像颜色分量的方法,其特征在于,所述对所述第一插值点使用边缘加权自适应插值法进行G分量插值,具体为:
获取第一水平梯度算子
Figure FDA0000117942140000021
第一垂直梯度算子
Figure FDA0000117942140000022
判断所述第一水平梯度算子是否小于所述第一垂直梯度算子如果是,根据第一插值公式,与所述第一水平梯度算子
Figure FDA0000117942140000025
关联的水平相邻G、B或G、R分配第二权重来插值B或R位置上的G分量;如果否,判断所述第一水平梯度算子是否大于所述第一垂直梯度算子,执行下一步;
如果是,根据所述第一插值公式,与所述第一垂直梯度算子
Figure FDA0000117942140000026
关联的垂直相邻的G、B或G、R分配第二权重来插值B或R位置上的G分量;如果否,根据所述第一插值公式,与所述第一水平梯度算子
Figure FDA0000117942140000031
关联的水平相邻的G、B或G、R,和与所述第一垂直梯度算子
Figure FDA0000117942140000032
关联的垂直相邻的G、B或G、R分配相等的第三权重来插值B或R位置上的G分量;
其中,所述第一水平梯度算子 &Delta; H i , j 1 = | G i , j - 1 - G i , j + 1 | + | w B i , j B i , j - B i , j - 2 - B i , j + 2 | , 所述第一垂直梯度算子 &Delta; V i , j 1 = | G i - 1 , j - G i + 1 , j | + | w B i , j B i , j - B i - 2 , j - B i + 2 , j | ,
所述第一插值公式为:
G i , j = w G i , j [ G i , j - 1 + G i , j + 1 &lambda; 1 + w B i , j B i , j - B i , j - 2 - B i , j + 2 &lambda; 2 ] + ( 1 - w G i , j ) [ G i - 1 , j + G i + 1 , j &lambda; 1 + w B i , j B i , j - B i - 2 , j - B i + 2 , j &lambda; 2 ] &Delta; H i , j < &Delta; V i , j w G i , j [ G i - 1 , j + G i + 1 , j &lambda; 1 + w B i , j B i , j - B i - 2 , j - B i + 2 , j &lambda; 2 ] + ( 1 - w G i , j ) [ G i , j - 1 + G i , j + 1 &lambda; 1 + w B i , j B i , j - B i , j - 2 - B i , j + 2 &lambda; 2 ] &Delta; H i , j > &Delta; V i , j 1 &lambda; 1 [ G i - 1 , j + G i + 1 , j &lambda; 1 + w B i , j B i , j - B i - 2 , j - B i + 2 , j &lambda; 2 ] + 1 &lambda; 1 [ G i , j - 1 + G i , j + 1 &lambda; 1 + w B i , j B i , j - B i , j - 2 - B i , j + 2 &lambda; 2 ] &Delta; H i , j = &Delta; V i , j
Figure FDA0000117942140000036
为第一权重、i,j的取值为实数、
Figure FDA0000117942140000037
为第二权重,
Figure FDA0000117942140000038
为第三权重,λ1,λ2为常数。
6.根据权利要求5所述的基于边缘模式的插入图像颜色分量的方法,其特征在于,所述对所述第一插值点使用反梯度加权插值法进行G分量插值,具体为:
利用与所述第一插值点相邻的上下左右四个G分量,采用所述色差恒定法产生四个插值点像素的预估值;
利用与所述第一插值点相邻的上下左右四个G分量、与所述第一插值点同颜色分量的四个颜色分量得到四个预估值的权值;
根据所述四个插值点像素的预估值和所述四个预估值的权值、第二插值公式计算所述第一插值点处的G分量;
其中,所述四个插值点像素的预估值分别为
Figure FDA0000117942140000039
Figure FDA00001179421400000310
i,j的取值为实数,
Figure FDA00001179421400000311
Figure FDA00001179421400000313
Figure FDA00001179421400000314
所述四个预估值的权值分别为αi,j-1、αi,j+1、αi-1,j和αi+1,j
&alpha; i , j - 1 = 1 1 + | G i , j - 1 - G i , j + 1 | + | B i , j - B i , j - 2 | ;
&alpha; i , j + 1 = 1 1 + | G i , j - 1 - G i , j + 1 | + | B i , j - B i , j + 2 | ;
&alpha; i - 1 , j = 1 1 + | G i - 1 , j - G i + 1 , j | + | B i , j - B i - 2 , j | ;
&alpha; i + 1 , j = 1 1 + | G i - 1 , j - G i + 1 , j | + | B i , j - B i + 2 , j | ;
所述第二插值公式具体为:
Figure FDA0000117942140000045
7.根据权利要求6所述的基于边缘模式的插入图像颜色分量的方法,其特征在于,所述对所述第一插值点使用细线边缘法进行G分量插值,具体为:
选取所述第一插值点,获取所述水平或垂直细线边缘的六个方向梯度D1、D2、D3、D4、D5和D6
判断是否同时满足第一判断条件和第二判断条件,如果是,所述水平或垂直细线边缘存在明显的细线边缘,执行下一步;如果否,所述水平或垂直细线边缘不存在明显的细线边缘,对所述第一插值点使用所述边缘加权自适应法进行G分量的插值;
判断是否同时满足第三判断条件和第四判断条件,如果是,获取第二水平梯度算子和第二垂直梯度算子,根据获取到的所述第二水平梯度算子、所述第二垂直梯度算子和所述第一插值公式进行G分量的插值;如果否,获取第三水平梯度算子和第三垂直梯度算子,根据获取到的所述第三水平梯度算子、所述第三垂直梯度算子和所述第一插值公式进行G分量的插值;
其中,D1=|Gi-1,j-Gi,j-1|、D2=|Gi+1,j-Gi,j+1|、D3=|Gi,j-1-Gi,j+1|、D4=|Gi-1,j-Gi+1,j|、D5=|Ri-1,j-1-Ri+1,j+1|、D6=|Ri+1,j-1-Ri-1,j+1|;
所述第一判断条件具体为:D1+D2>D3+D4+D5+D6,所述第二判断条件具体为:D1+D2>DThreshold,DThreshold为第二阈值,i,j的取值为实数;
所述第三判断条件具体为:所述第四判断条件具体为: 1 &lambda; 1 ( G i - 1 , j + G i + 1 , j ) - B i , j > Threshold , Threshold为第三阈值,
所述第二水平梯度算子为:
&Delta; H i , j 2 = | G i , j - 1 - G i , j + 1 | + | w B i , j B i , j - B i , j - 2 - B i , j + 2 | + | G i , j - 1 - B i , j | + | B i , j - G i , j + 1 | ;
所述第二垂直梯度算子为:
&Delta; V i , j 2 = | G i - 1 , j - G i + 1 , j | + | w B i , j B i , j - B i - 2 , j - B i + 2 , j | + | G i - 1 , j - B i , j | + | B i , j - G i + 1 , j | ;
所述第三水平梯度算子为:
&Delta; H i , j 3 = | G i - 1 , j - 1 - G i - 1 , j | + | G i - 1 , j - G i - 1 , j + 1 | ;
所述第三垂直梯度算子为:
&Delta; V i , j 3 = | G i - 1 , j - 1 - G i , j - 1 | + | G i , j - 1 - G i + 1 , j - 1 | .
CN2010105966814A 2010-12-20 2010-12-20 一种基于边缘模式的插入图像颜色分量的方法 Expired - Fee Related CN102034225B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2010105966814A CN102034225B (zh) 2010-12-20 2010-12-20 一种基于边缘模式的插入图像颜色分量的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2010105966814A CN102034225B (zh) 2010-12-20 2010-12-20 一种基于边缘模式的插入图像颜色分量的方法

Publications (2)

Publication Number Publication Date
CN102034225A CN102034225A (zh) 2011-04-27
CN102034225B true CN102034225B (zh) 2012-05-23

Family

ID=43887078

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2010105966814A Expired - Fee Related CN102034225B (zh) 2010-12-20 2010-12-20 一种基于边缘模式的插入图像颜色分量的方法

Country Status (1)

Country Link
CN (1) CN102034225B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102254301B (zh) * 2011-07-22 2013-01-23 西安电子科技大学 基于边缘方向插值的cfa图像去马赛克方法
CN103559692B (zh) * 2013-11-13 2017-01-11 华为技术有限公司 处理图像的方法与装置
CN104376540B (zh) * 2014-12-01 2017-02-22 北京思比科微电子技术股份有限公司 一种Bayer图像的去噪方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1780405A (zh) * 2005-05-26 2006-05-31 智多微电子(上海)有限公司 一种从原始拜尔插值到全彩色的转换方法和模块
CN101115209A (zh) * 2006-07-24 2008-01-30 三星电子株式会社 用于在数字拍摄装置中进行彩色内插的方法和设备
US20080240601A1 (en) * 2007-03-30 2008-10-02 Adams Jr James E Edge mapping using panchromatic pixels
CN101727658A (zh) * 2008-10-14 2010-06-09 深圳迈瑞生物医疗电子股份有限公司 图像处理方法及装置
CN101770636A (zh) * 2008-12-30 2010-07-07 比亚迪股份有限公司 图像噪声去除方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1780405A (zh) * 2005-05-26 2006-05-31 智多微电子(上海)有限公司 一种从原始拜尔插值到全彩色的转换方法和模块
CN101115209A (zh) * 2006-07-24 2008-01-30 三星电子株式会社 用于在数字拍摄装置中进行彩色内插的方法和设备
US20080240601A1 (en) * 2007-03-30 2008-10-02 Adams Jr James E Edge mapping using panchromatic pixels
CN101727658A (zh) * 2008-10-14 2010-06-09 深圳迈瑞生物医疗电子股份有限公司 图像处理方法及装置
CN101770636A (zh) * 2008-12-30 2010-07-07 比亚迪股份有限公司 图像噪声去除方法及装置

Also Published As

Publication number Publication date
CN102034225A (zh) 2011-04-27

Similar Documents

Publication Publication Date Title
CN107578392B (zh) 一种基于残余插值的卷积神经网络去马赛克方法
CN111510691B (zh) 颜色插值方法及装置、设备、存储介质
US7652700B2 (en) Interpolation method for captured color image data
JP6352617B2 (ja) 映像処理装置及びその方法
CN107967668B (zh) 一种图像处理方法及装置
JP5036421B2 (ja) 画像処理装置、画像処理方法、プログラムおよび撮像装置
CN102254301B (zh) 基于边缘方向插值的cfa图像去马赛克方法
CN103327220B (zh) 低照度Bayer图像上以绿色通道为导向的去噪方法
CN102292975A (zh) 固体摄像元件、照相机系统和固体摄像元件的驱动方法
EP1978752A2 (en) Image processing device
CN106412542A (zh) 一种图像处理方法及系统
JP4894594B2 (ja) 画像処理装置
KR20190087017A (ko) 이미지 센싱 장치
WO2011141196A1 (en) Two-dimensional super resolution scaling
CN103347190A (zh) 一种边相关的联合彩色去马赛克和放大方法
CN102034225B (zh) 一种基于边缘模式的插入图像颜色分量的方法
KR100565429B1 (ko) 컬러 필터 어레이에서 손실된 컬러값 복원 방법 및 장치
CN103747222A (zh) 一种图像假色抑制的方法及装置
Pekkucuksen et al. Edge oriented directional color filter array interpolation
CN110139087B (zh) 一种基于拜耳排布的图像处理方法
CN116896688B (zh) Bayer图像的处理方法、装置、芯片及存储介质
Kasar et al. Image demosaicking by nonlocal adaptive thresholding
Wang Improved color interpolation method based on bayer image
Rafinazari et al. Demosaicking algorithm for the Fujifilm X-Trans color filter array
Shi et al. Demosaicing for RGBZ sensor

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20120523

Termination date: 20121220