JP2015154308A - 画像処理装置、画像処理方法、およびプログラム - Google Patents
画像処理装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP2015154308A JP2015154308A JP2014027220A JP2014027220A JP2015154308A JP 2015154308 A JP2015154308 A JP 2015154308A JP 2014027220 A JP2014027220 A JP 2014027220A JP 2014027220 A JP2014027220 A JP 2014027220A JP 2015154308 A JP2015154308 A JP 2015154308A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- unit
- signal
- green
- low signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title description 4
- 238000012545 processing Methods 0.000 claims abstract description 135
- 238000004364 calculation method Methods 0.000 claims description 93
- 230000014509 gene expression Effects 0.000 claims description 16
- 230000003044 adaptive effect Effects 0.000 claims description 9
- 238000000034 method Methods 0.000 description 165
- 230000008569 process Effects 0.000 description 149
- 238000006243 chemical reaction Methods 0.000 description 125
- 238000000605 extraction Methods 0.000 description 86
- 239000000203 mixture Substances 0.000 description 29
- 239000000284 extract Substances 0.000 description 25
- 238000009499 grossing Methods 0.000 description 21
- 238000002156 mixing Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 17
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 16
- 238000012935 Averaging Methods 0.000 description 6
- 239000006185 dispersion Substances 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000006978 adaptation Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 241000280258 Dyschoriste linearis Species 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G06T5/70—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4015—Demosaicing, e.g. colour filter array [CFA], Bayer pattern
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/40—Picture signal circuits
- H04N1/409—Edge or detail enhancement; Noise or error suppression
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Abstract
【課題】デモザイク処理後の画像信号におけるジッパーノイズを低減する。【解決手段】G補間部13は、画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、くさび型である場合、緑色が割り当てられた画素である緑色画素のロー信号のみを用いて、ロー信号に対応する全ての画素の緑色の画像信号を生成し、ロー信号に対してデモザイク処理を行う画像処理装置等に適用する。【選択図】図1
Description
本開示は、画像処理装置、画像処理方法、およびプログラムに関し、特に、デモザイク処理後の画像信号におけるジッパーノイズを低減することができるようにした画像処理装置、画像処理方法、およびプログラムに関する。
高解像度と偽色低減を両立させるデモザイク処理として、DLMMSE(Directional Linear Minimum Mean Square-Error Estimation)法を用いた処理が考案されている(例えば、非特許文献1参照)。
DLMMSE法を用いたデモザイク処理では、まず、各画素の緑色の画像信号が生成される。具体的には、画像のH(横)方向とV(縦)方向のそれぞれについて、画素ごとに、周辺画素の色差の平均値を用いて自乗誤差が最小となる緑色の画像信号が生成され、H補間信号、V補間信号とされる。次に、画素ごとに、補間する緑色の画像信号のH方向とV方向の方向性が検出され、その方向性に基づいてH補間信号とV補間信号が按分されて、緑色の画像信号が生成される。そして、補間後の各画素の緑色の画像信号と仮想色差(B-G,R-G)とを用いて、各画素の青色の画像信号と赤色の画像信号が生成される。
DLMMSE法を用いたデモザイク処理では、H方向とV方向の方向性が正確に検出された場合、画像信号において、高解像度と低偽色を実現することができる。しかしながら、画像がナイキスト周波数に近い模様を有する場合、方向性が誤検出されることがある。方向性が誤検出されると、真値とは大きく異なる緑色の画像信号が生成され、画像信号において脈絡の無い偽色が発生する。
また、画像内に局所的に赤色(R)や青色(B)だけが存在する場合、色差の平均値が本来の色差より減少する色抜けと呼ばれる現象が発生する。その結果、緑色の画像信号が局所的に上昇し、ジッパーノイズと呼ばれる、白点や黒点が孤立して発生するノイズが発生する。
一方、クラス分類適応処理によるデモザイク処理では、各画素の緑色の画像信号が、その画素の周辺の画素の、その画素に割り当てられた色の信号であるデモザイク処理前のロー信号に基づいて生成される。従って、このデモザイク処理においても、画像内に局所的に赤色や青色だけが存在する場合、緑色の画像信号が局所的に上昇し、ジッパーノイズが発生する。
Lei Zhang, Xiaolin Wu,"Color Demosaicking Via Directional Linear Minimum Mean Square-Error Estimation",IEEE TRANSACTIONS ON IMAGE PROCESSING, VOL. 14, NO. 12, DECEMBER 2005
以上のように、画像内に局所的に赤色や青色だけが存在する場合、デモザイク処理後の画像信号においてジッパーノイズが発生し、画質が劣化する。
本開示は、このような状況に鑑みてなされたものであり、デモザイク処理後の画像信号におけるジッパーノイズを低減することができるようにするものである。
本開示の一側面の画像処理装置は、画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号を生成する緑色補間部を備える画像処理装置である。
本開示の一側面の画像処理方法およびプログラムは、本開示の一側面の画像処理装置に対応する。
本開示の一側面においては、画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号が生成される。
本開示の一側面によれば、デモザイク処理を行うことができる。また、本開示の一側面によれば、デモザイク処理後の画像信号におけるジッパーノイズを低減することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
以下、本開示の前提および本開示を実施するための形態(以下、実施の形態という)について説明する。なお、説明は以下の順序で行う。
1.第1実施の形態:画像処理装置(図1乃至図16)
2.第2実施の形態:画像処理装置(図17乃至図22)
3.他の画素配列への適用(図23および図24)
4.第3実施の形態:コンピュータ(図25)
1.第1実施の形態:画像処理装置(図1乃至図16)
2.第2実施の形態:画像処理装置(図17乃至図22)
3.他の画素配列への適用(図23および図24)
4.第3実施の形態:コンピュータ(図25)
<第1実施の形態>
(画像処理装置の第1実施の形態の構成例)
図1は、本開示を適用した画像処理装置の第1実施の形態の構成例を示すブロック図である。
(画像処理装置の第1実施の形態の構成例)
図1は、本開示を適用した画像処理装置の第1実施の形態の構成例を示すブロック図である。
図1の画像処理装置10は、形状判定部11、G補間部12、G補間部13、選択部14、遅延部15、R生成部16、およびB生成部17により構成される。画像処理装置10は、画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号を、ロー信号に対応する全ての画素の赤色(R)、緑色(G)、青色(B)の信号を有する画像信号に変換するデモザイク処理を行う。
具体的には、画像処理装置10の形状判定部11には、図示せぬ単板イメージセンサにより撮像されたロー信号が入力される。なお、ここでは、単板イメージセンサの画素配列は、ベイヤ配列であるものとする。形状判定部11は、ロー信号に基づいて、ロー信号のうちの緑色以外の色が割り当てられた画素(以下、G補間画素という)のロー信号の形状がくさび型であるかどうかを判定する。形状判定部11は、判定結果をG補間部12と選択部14に供給する。
G補間部12には、図示せぬ単板イメージセンサからロー信号が入力される。G補間部12は、形状判定部11から供給される判定結果に基づいて、ロー信号のうちの緑色が割り当てられた画素(以下、G画素という)のロー信号のみを用いて、G補間画素の緑色の画像信号を生成する。G補間部12は、G補間画素の緑色の画像信号とG画素のロー信号とを、ロー信号に対応する画像の緑色の画像信号として選択部14に供給する。
G補間部13には、図示せぬ単板イメージセンサからロー信号が入力される。G補間部13は、DLMMSE法により、ロー信号を用いてG補間画素の緑色の画像信号を補間する。G補間部13は、G補間画素の緑色の画像信号とG画素のロー信号とを、ロー信号に対応する画像の緑色の画像信号として選択部14に供給する。
選択部14は、形状判定部11から供給される判定結果に基づいて、G補間部12から供給される緑色の画像信号またはG補間部13から供給される緑色の画像信号を選択する。選択部14は、選択された緑色の画像信号をR生成部16とB生成部17に供給するとともに、出力する。
遅延部15には、図示せぬ単板イメージセンサからロー信号が入力される。遅延部15は、入力されたロー信号を所定の期間だけ遅延させ、R生成部16とB生成部17に供給する。
R生成部16は、ロー信号において赤色以外の色が割り当てられている画素(以下、R補間画素という)ごとに、遅延部15から供給されるロー信号と選択部14から供給される緑色の画像信号とに基づいて、仮想色差(R-G)を生成する。R生成部16は、R補間画素ごとに、緑色の画像信号と仮想色差(R-G)とに基づいて、赤色の画像信号を生成する。R生成部16は、R補間画素の赤色の画像信号と赤色が割り当てられた画素(以下、R画素という)のロー信号とを、ロー信号に対応する画像の赤色の画像信号として出力する。
B生成部17は、ロー信号において青色以外の色が割り当てられている画素(以下、B補間画素という)ごとに、遅延部15から供給されるロー信号と選択部14から供給される緑色の画像信号とに基づいて、仮想色差(B-G)を生成する。B生成部17は、B補間画素ごとに、緑色の画像信号と仮想色差(B-G)とに基づいて、青色の画像信号を生成する。B生成部17は、B補間画素の青色の画像信号と青色が割り当てられた画素(以下、B画素という)のロー信号とを、ロー信号に対応する画像の青色の画像信号として出力する。
(くさび型のロー信号の例)
図2は、図1の形状判定部11により形状がくさび型であると判定されるくさび型のロー信号の例を示す図である。
図2は、図1の形状判定部11により形状がくさび型であると判定されるくさび型のロー信号の例を示す図である。
なお、図2において、X方向(横方向)の軸は、ロー信号に対応する画素のH方向の位置を表し、Y方向(縦方向)の軸は、V方向の位置を表す。また、Z方向(高さ方向)の軸は、ロー信号のレベルを表す。
図2に示すように、例えば、H方向に並ぶ画素のうちの1つの画素においてロー信号のレベルが急激に低下する場合、形状判定部11は、ロー信号の形状がH方向のくさび型であると判定する。図示は省略するが、V方向についても同様に、V方向に並ぶ画素のうちの1つの画素においてロー信号のレベルが急激に低下する場合、形状判定部11は、ロー信号の形状がV方向のくさび型であると判定する。
以上のように、ロー信号の形状がH方向またはV方向のくさび型であると判定される場合、即ち、H方向またはV方向に並ぶ画素のうちの1つの画素においてロー信号のレベルが急激に低下する場合、色抜けが発生する。即ち、ロー信号のレベルが急激に低下する画素の周辺の画素の色差の平均値は、その画素における本来の色差より減少する。従って、この画素の緑色の画像信号をDLMMSE法で補間すると、緑色の画像信号の補間値が1点だけ上昇する。よって、ジッパーノイズが発生しやすい。
従って、選択部14は、形状判定部11から供給される判定結果が、ロー信号の形状がH方向またはV方向のくさび型であるという判定結果である合、G補間部13からの緑色の画像信号を選択せず、G補間部12からの緑色の画像信号を選択する。
(G補間部12の処理の説明)
図3は、図1のG補間部12の処理を説明する図である。
図3は、図1のG補間部12の処理を説明する図である。
図3において、2方向の斜線が付された丸は、G画素を表し、白丸は、R画素を表し、水玉が付された丸は、B画素を表す。これらのことは、後述する図10および図23においても同様である。
G補間画素31のロー信号の形状がV方向のくさび型であると判定された場合、G補間部12は、図3Aに示すように、G補間画素31とH方向に隣接するG画素32およびG画素33のロー信号を用いて、G補間画素31の緑色の画像信号を生成する。例えば、G補間部12は、G画素32およびG画素33のロー信号の平均値を、G補間画素31の緑色の画像信号とする。
また、G補間画素31のロー信号の形状がH方向のくさび型であると判定された場合、G補間部12は、図3Bに示すように、G補間画素31とV方向に隣接するG画素34およびG画素35のロー信号を用いて、G補間画素31の緑色の画像信号を生成する。例えば、G補間部12は、G画素34およびG画素35のロー信号の平均値を、G補間画素31の緑色の画像信号とする。
以上のように、G補間部12は、G画素のロー信号のみを用いてG補間画素の緑色の画像信号を生成するので、G補間画素の緑色の画像信号はR画素とB画素のロー信号の影響を受けない。従って、ジッパーノイズは発生しないが、解像度は低下する。
よって、ジッパーノイズが発生しやすいロー信号の形状がH方向またはV方向のくさび型である場合にのみ、選択部14は、G補間部12により生成された緑色の画像信号を選択する。これにより、画像信号におけるジッパーノイズを低減することができる。また、画像信号における解像度を向上させることができる。
(G補間部13の構成例)
図4は、図1のG補間部13の構成例を示すブロック図である。
図4は、図1のG補間部13の構成例を示すブロック図である。
図4のG補間部13は、水平方向演算部51、垂直方向演算部52、α決定部53、αブレンド部54、および加算部55により構成される。
G補間部13の水平方向演算部51は、図示せぬ単板イメージセンサから入力されるロー信号に基づいて、G補間画素のH方向の色差(B-G,R-G)の候補と重み係数を算出する。水平方向演算部51は、H方向の色差(B-G,R-G)の候補をαブレンド部54に供給し、H方向の重み係数をα決定部53に供給する。
垂直方向演算部52は、図示せぬ単板イメージセンサから入力されるロー信号に基づいて、G補間画素のV方向の色差(B-G,R-G)の候補と重み係数を算出する。垂直方向演算部52は、V方向の色差(B-G,R-G)の候補をαブレンド部54に供給し、V方向の重み係数をα決定部53に供給する。
α決定部53は、水平方向演算部51から供給されるH方向の重み係数と、垂直方向演算部52から供給されるV方向の重み係数とに基づいて、以下の式(1)により、αブレンド部54におけるαブレンドのαを決定し、αブレンド部54に供給する。
式(1)において、Whは、H方向の重み係数を表し、Wvは、V方向の重み係数を表す。
αブレンド部54は、水平方向演算部51から供給されるH方向の色差(B-G,R-G)の候補と垂直方向演算部52から供給されるV方向の色差(B-G,R-G)の候補を、α決定部53から供給されるαを用いてαブレンドする。αが1であるとき、αブレンド結果は、H方向の色差(B-G,R-G)の候補であり、αが0であるとき、V方向の色差(B-G,R-G)の候補である。αブレンド部54は、αブレンド結果を加算部55に供給する。
加算部55は、図示せぬ単板イメージセンサから入力されるG補間画素のロー信号と、αブレンド結果とを加算し、加算結果をG補間画素の緑色の画像信号として、図1の選択部14に供給する。なお、図示せぬ単板イメージセンサから入力されるG画素のロー信号は、そのまま、そのG画素の緑色の画像信号として選択部14に出力される。
(水平方向演算部の構成例)
図5は、図4の水平方向演算部51の構成例を示すブロック図である。
図5は、図4の水平方向演算部51の構成例を示すブロック図である。
図5の水平方向演算部51は、抽出部71、色差生成部72、色差平滑部73、平均部74、分散演算部75、分散演算部76、α決定部77、およびαブレンド部78により構成される。
水平方向演算部51の抽出部71は、図示せぬ単板イメージセンサから入力されるロー信号から、G補間画素を中心としてH方向に5個ずつ並ぶ合計11個の画素からなるG補間画素群のロー信号を抽出し、色差生成部72に供給する。
色差生成部72は、抽出部71から供給されるG補間画素群のロー信号のうちの連続する3個の画素のロー信号を用いて、その3個の画素のうちの中央の画素のロー信号の色差(B-G,R-G)を端から順に補間する。具体的には、色差生成部72は、連続する3個の画素を端から順に選択し、その3個の画素のうちの隣接する画素どうしのロー信号の色差(B-G,R-G)を求め、例えば平均化する。
色差生成部72は、その結果得られる9個の色差を色差平滑部73に供給する。また、色差生成部72は、9個の色差のうちの、G補間画素を中心としてH方向に2個ずつ並ぶ画素に対応する5個の色差を分散演算部75に供給する。さらに、色差生成部72は、G補間画素に対応する色差をαブレンド部78に供給する。
色差平滑部73は、色差生成部72から供給される9個の色差のうちの連続する5個の色差の平均値を端から順に求めることにより、色差の平滑化を行う。色差平滑部73は、その結果得られる5個の色差の平滑化値を、平均部74、分散演算部75、および分散演算部76に供給する。
平均部74は、色差平滑部73から供給される5個の色差の平滑化値の平均値を求め、分散演算部76とαブレンド部78に供給する。
分散演算部75は、色差生成部72から供給される5個の色差と色差平滑部73から供給される5個の色差の平滑化値の分散値(高周波成分)を求める。分散演算部75は、求められた分散値をα決定部77に供給する。
分散演算部76は、色差平滑部73から供給される5個の色差の平滑化値と平均部74から供給される平均値との分散値(低周波成分)を求める。分散演算部75は、分散値をα決定部77に供給するとともに、H方向の重み係数として図4のα決定部53に供給する。
α決定部77は、分散演算部75から供給される分散値と分散演算部76から供給される分散値とに基づいて、以下の式(2)により、αブレンド部78におけるαブレンドのαを決定し、αブレンド部78に供給する。
式(2)において、Vは、分散演算部75から供給される分散値を表し、Vgは、分散演算部76から供給される分散値を表す。
αブレンド部78は、色差生成部72から供給されるG補間画素に対応する色差と平均部74から供給される平均値を、α決定部77から供給されるαを用いてαブレンドする。αが1であるとき、αブレンド結果は、G補間画素に対応する色差であり、αが0であるとき、平均値である。αブレンド部54は、αブレンド結果をG補間画素のH方向の色差(B-G,R-G)の候補として図4のαブレンド部54に供給する。
なお、図示は省略するが、垂直方向演算部52の構成は、H方向がV方向に代わる点を除いて、水平方向演算部51の構成と同様である。
(水平方向演算部の処理の説明)
図6および図7は、図5の水平方向演算部51の処理を説明する図である。
図6および図7は、図5の水平方向演算部51の処理を説明する図である。
図6および図7において、正方形は画素を表している。
図6Aに示すように、G補間画素がR画素R55である場合、抽出部71は、R画素R55を中心としてH方向に5個ずつ並ぶ合計11個のG画素G50、R画素R51、G画素G52、R画素R53、G画素G54、R画素R55、G画素G56、R画素R57、G画素G58、R画素R59、およびG画素G5AをG補間画素群81とする。抽出部71は、入力されたロー信号からG補間画素群81のロー信号を抽出する。
また、図6Bに示すように、G補間画素がB画素B55である場合、抽出部71は、B画素B55を中心としてH方向に5個ずつ並ぶ合計11個のG画素G50,B画素B51,G画素G52、B画素B53、G画素G54、B画素B55、G画素G56、B画素B57、G画素G58、B画素B59、およびG画素G5AをG補間画素群82とする。抽出部71は、入力されたロー信号からG補間画素群82のロー信号を抽出する。
色差生成部72は、G補間画素群81のロー信号のうちの連続する3個の画素のロー信号を用いて、その3個の画素のうちの中央の画素のロー信号の色差(R-G)を端から順に補間する。
具体的には、色差生成部72は、まず、連続する3個のG画素G50、R画素R51、およびG画素G52のロー信号を用いて、色差C51を求める。次に、色差生成部72は、連続する3個のR画素R51、G画素G52、およびR53のロー信号を用いて、色差C52を求める。同様に、色差生成部72は、連続する3個のG画素G52、R画素R53、およびG画素G54、R画素R53,G画素G54、およびR画素R55、G画素G54、R画素R55、およびG56、R画素R55、G画素G56、およびR画素R57、G画素G56、R画素R57、およびG画素G58、R画素R57、G画素G58、およびR画素R59、G画素G58、R画素R59、およびG画素G5Aを順に用いて、色差C53,C54,C55,C56,C57,C58,C59を求める。
色差平滑部73は、LPF(Low Pass Filter)を用いて、色差C51乃至C59のうちの連続する5個の色差の平均値を端から順に求めることにより、色差の平滑化を行う。
具体的には、色差平滑部73は、まず、連続する5個の色差C51乃至C55の平均値を平滑化値Cg53として求める。次に、色差平滑部73は、連続する5個の色差C52乃至C56の平均値を平滑化値Cg54として求める。同様に、色差平滑部73は、連続する5個の色差C53乃至C57、色差C54乃至C58、色差C55乃至C59の平均値を、順に、平滑化値Cg55,Cg56,Cg57として求める。
平均部74は、5個の平滑化値Cg53乃至Cg57の平均値Cgm55を求める。
分散演算部75は、以上のようにして求められた9個の色差C51乃至C59のうちの、R画素R55を中心としてH方向に2個ずつ並ぶR画素R53、G画素G54、R画素R55、G画素G56、およびR画素R57に対応する5個の色差C53乃至C57と、5個の平滑化値Cg53乃至Cg57の分散値V55を求める。分散演算部76は、5個の平滑化値Cg53乃至Cg57と平均値Cgm55の分散値Vg55を求め、H方向の重み係数とする。
α決定部77は、分散値V55と分散値Vg55に基づいてαを決定する。αブレンド部78は、αに基づいて、R画素R55に対応する色差C55と平均値Cgm55をαブレンドし、αブレンド結果をR画素R55のH方向の色差(R-G)の候補Ch55とする。
G補間画素がB画素B55である場合の水平方向演算部51の処理は、上述したG補間画素がR画素R55である場合の処理と同様であるため、説明は省略する。
なお、抽出部71により抽出される画素の数、および、色差平滑部73により平均化される色差の数は、上述した数に限定されない。
(画像処理装置の処理の説明)
図8は、図1の画像処理装置10のデモザイク処理を説明するフローチャートである。このデモザイク処理は、例えば、図示せぬ単板イメージセンサにより撮像されたロー信号が画像処理装置10に入力されたとき、開始される。
図8は、図1の画像処理装置10のデモザイク処理を説明するフローチャートである。このデモザイク処理は、例えば、図示せぬ単板イメージセンサにより撮像されたロー信号が画像処理装置10に入力されたとき、開始される。
図8のステップS10において、画像処理装置10のG補間部12とG補間部13は、入力されたロー信号のうちのG画素のロー信号を、G画素の緑色の画像信号として選択部14に出力する。
ステップS11乃至S17の処理は、G補間画素ごとに行われる。ステップS11において、形状判定部11は、ロー信号に基づいて、G補間画素のロー信号の形状がくさび型であるかどうかを判定する形状判定処理を行う。この形状判定処理の詳細は、後述する図9を参照して説明する。
ステップS12において、G補間部13は、DLMMSE法で、ロー信号を用いてG補間画素の緑色の画像信号を生成するG生成処理を行う。このG生成処理の詳細は、後述する図16を参照して説明する。
ステップS13において、G補間部12は、形状判定部11から供給される判定結果を表すddr_class_gが、ロー信号の形状がくさび型であることを表す1であるかどうかを判定する。ステップS13でddr_class_gが1ではないと判定された場合、処理はステップS14に進む。
ステップS14において、選択部14は、G補間部13からの緑色の画像信号を選択する。選択部14は、選択された緑色の画像信号をR生成部16とB生成部17に供給するとともに出力し、処理をステップS18に進める。
一方、ステップS13でddr_class_gが1であると判定された場合、処理はステップS15に進む。ステップS15において、G補間部12は、入力されたロー信号から、ステップS11の形状判定処理で判定されたくさび型の方向(H方向またはV方向)と垂直の方向にG補間画素と隣接する2つのG画素のロー信号を抽出する。
ステップS16において、G補間部12は、抽出されたG画素のロー信号を用いて、G補間画素の緑色の画像信号を生成し、選択部14に供給する。
ステップS17において、選択部14は、G補間部12からの緑色の画像信号を選択する。選択部14は、選択された緑色の画像信号をR生成部16とB生成部17に供給するとともに出力し、処理をステップS18に進める。
ステップS18において、R生成部16は、R補間画素ごとに、選択部14から供給される緑色の画像信号と仮想色差(R-G)とに基づいて、赤色の画像信号を生成する。この仮想色差(R-G)は、遅延部15により遅延されたロー信号と緑色の画像信号とに基づいて、R補間画素ごとに生成される。R生成部16は、R補間画素の赤色の画像信号とR画素のロー信号とを、ロー信号に対応する画像の赤色の画像信号として出力する。
ステップS19において、B生成部17は、B補間画素ごとに、選択部14から供給される緑色の画像信号と仮想色差(B-G)とに基づいて、青色の画像信号を補間する。この仮想色差(B-G)は、遅延部15から供給されるロー信号と緑色の画像信号とに基づいて、B補間画素ごとに生成される。B生成部17は、B補間画素の青色の画像信号とB画素のロー信号とを、ロー信号に対応する画像の青色の画像信号として出力する。そして、処理は終了する。
図9は、図8のステップS11の形状判定処理の詳細を説明するフローチャートである。
図9のステップS31において、形状判定部11は、入力されるロー信号に基づいて、G補間画素とその周辺の画素からなる形状判定画素群のG画素のロー信号のダイナミックレンジLocalGDRを算出する。
例えば、図10に示すように、G補間画素がR画素r2である場合、形状判定部11は、R画素r2を中心とした5×3画素、および、その5×3画素の上下の行の画素r2のH方向の位置を中心とした3画素の合計21個の画素を形状判定画素群として抽出する。そして、形状判定部11は、形状判定画素群のうちの12個のG画素g0乃至g11のロー信号の最大値と最小値を検出し、最大値から最小値を減算した減算値をダイナミックレンジLocalGDRとして算出する。
ステップS32において、形状判定部11は、形状判定画素群の中央の3つの水平ライン(H方向のライン)および3つの垂直ライン(V方向のライン)について、1つ飛んで隣接する画素どうしのロー信号の差分の最大値を算出する。
具体的には、形状判定部11は、形状判定画素群の中央の3つの水平ラインについて、以下の式(3)により、最大値h_ddiffmax0乃至h_ddiffmax2を算出する。
また、形状判定部11は、形状判定画素群の中央の3つの垂直ラインについて、以下の式(4)により、最大値v_ddiffmax0乃至v_ddiffmax2を算出する。
ステップS33において、形状判定部11は、各水平ラインの最大値h_ddiffmax0乃至h_ddiffmax2の総和h_ddiffmaxと、各垂直ラインの最大値v_ddiffmax0乃至v_ddiffmax2の総和v_ddiffmaxを算出する。
ステップS34において、形状判定部11は、総和h_ddiffmaxが総和v_ddiffmax以下であるかどうかを判定する。ステップS34で総和h_ddiffmaxが総和v_ddiffmax以下であると判定された場合、処理はステップS35に進む。
ステップS35において、形状判定部11は、G補間画素の存在する中央の水平ラインの最大値h_ddiffmax1をDDrMinとし、その水平ラインと隣接する水平ラインの最大値h_ddiffmax0およびh_ddiffmax2のうちの小さい方をDDrMin1とする。なお、形状判定部11は、最大値h_ddiffmax0と最大値h_ddiffmax2が同一である場合、その同一の値をDDrMin1とする。
ステップS36において、形状判定部11は、判定するくさび型の方向を表すhvを、V方向を表す0に設定する。このhvは、G補間部12に供給され、図8のステップS15でロー信号を抽出する際、G補間部12により用いられる。
一方、ステップS34で総和h_ddiffmaxが総和v_ddiffmax以下ではないと判定された場合、処理はステップS37に進む。
ステップS37において、形状判定部11は、G補間画素の存在する中央の垂直ラインの最大値v_ddiffmax1をDDrMinとし、その垂直ラインと隣接する垂直ラインの最大値v_ddiffmax0およびv_ddiffmax2のうちの小さい方をDDrMin1とする。なお、形状判定部11は、最大値v_ddiffmax0と最大値v_ddiffmax2が同一である場合、その同一の値をDDrMin1とする。
ステップS38において、形状判定部11は、判定するくさび型の方向を表すhvを、H方向を表す1に設定する。このhvは、G補間部12に供給され、図8のステップS15でロー信号を抽出する際、G補間部12により用いられる。
ステップS36またはステップS38の処理後、処理はステップS39に進む。ステップS39において、形状判定部11は、ロー信号が表す色がグレーであるかどうかを表すgray_modeを算出するgray_mode算出処理を行う。このgray_mode算出処理の詳細は、後述する図11を参照して説明する。
ステップS40において、形状判定部11は、gray_mode算出処理により算出されたgray_modeが、ロー信号が表す色がグレーではないことを表す0であるかどうかを判定する。ステップS40でgray_modeが0であると判定された場合、ステップS41において、形状判定部11は、DDrMinがダイナミックレンジLocalGDRのk0倍以下であるかどうかを判定する。
ステップS41でDDrMinがダイナミックレンジLocalGDRのk0倍以下であると判定された場合、処理はステップS42に進む。ステップS42において、形状判定部11は、DDrMin1がダイナミックレンジLocalGDRのk1倍以下であるかどうかを判定する。
ステップS42でDDrMin1がダイナミックレンジLocalGDRのk1倍以下であると判定された場合、処理はステップS43に進む。ステップS43において、形状判定部11は、DDrMinがk5より小さいかどうかを判定する。ステップS43でDDrMinがk5より小さいと判定された場合、処理はステップS44に進む。
ステップS44において、形状判定部11は、ddr_class_gをロー信号の形状がくさび型であることを判定結果として表す1に設定し、G補間部12と選択部14に供給する。そして、処理は図8のステップS11に戻り、ステップS12に進む。
一方、ステップS41でDDrMinがダイナミックレンジLocalGDRのk0倍以下ではないと判定された場合、ステップS42でDDrMin1がダイナミックレンジLocalGDRのk1倍以下ではないと判定された場合、または、ステップS43でDDrMinがk5より小さくはないと判定された場合、処理はステップS45に進む。
ステップS45において、形状判定部11は、ddr_class_gをロー信号の形状がくさび型ではないことを判定結果として表す0に設定し、G補間部12と選択部14に供給する。そして、処理は図8のステップS11に戻り、ステップS12に進む。
また、ステップS40でgray_modeが0ではないと判定された場合、処理はステップS46に進む。ステップS46において、形状判定部11は、DDrMinがダイナミックレンジLocalGDRのk2倍以下であるかどうかを判定する。
ステップS46でDDrMinがダイナミックレンジLocalGDRのk2倍以下であると判定された場合、処理はステップS47に進む。ステップS47において、形状判定部11は、DDrMin1がダイナミックレンジLocalGDRのk3倍以下であるかどうかを判定する。
ステップS47でDDrMin1がダイナミックレンジLocalGDRのk3倍以下であると判定された場合、処理はステップS48に進む。ステップS48において、形状判定部11は、DDrMinがk4より小さいかどうかを判定する。ステップS48でDDrMinがk4より小さいと判定された場合、処理はステップS44に進み、上述した処理を行う。
一方、ステップS46でDDrMinがダイナミックレンジLocalGDRのk2倍以下ではないと判定された場合、ステップS47でDDrMin1がダイナミックレンジLocalGDRのk3倍以下ではないと判定された場合、または、ステップS48でDDrMinがk4より小さくはないと判定された場合、処理はステップS49に進む。
ステップS49において、形状判定部11は、ddr_class_gを0に設定し、G補間部12と選択部14に供給する。そして、処理は図8のステップS11に戻り、ステップS12に進む。
以上のように、形状判定部11は、gray_modeが1である場合と0である場合とで、異なる閾値を用いて、ddr_class_gを決定する。即ち、形状判定部11は、ロー信号が表す色がグレーであるかどうかに応じた閾値を用いて、ロー信号の形状がくさび型であることを判定する。
図11は、図9のgray_mode算出処理の詳細を説明するフローチャートである。
図11のステップS61において、形状判定部11は、入力されたロー信号から、G補間画素とその周囲の画素からなるグレー算出画素群のロー信号を抽出する。例えば、G補間画素が図12のB画素90である場合、形状判定部11は、B画素90を中心とした5×5画素からなるグレー算出画素群91のロー信号を抽出する。
なお、図12において、Rが付された丸はR画素を表し、Gが付された丸はG画素を表し、Bが付された丸はB画素を表す。これらのことは、後述する図13乃至図15においても同様である。
ステップS62において、形状判定部11は、グレー算出画素群内のR画素とB画素の補間信号gとして、そのR画素とB画素の上下左右に隣接するG画素のロー信号の平均値を生成する。例えば、形状判定部11は、図13に示すように、R画素またはB画素である画素92の補間信号gとして、その画素92の上下左右に隣接するG画素92a乃至92dのロー信号の平均値を生成する。
ステップS63において、形状判定部11は、グレー算出画素群内のG画素のロー信号と補間信号gの平均値を、代表信号Dgとして生成する。
ステップS64において、形状判定部11は、グレー算出画素群内のG画素の補間信号rとして、そのG画素の左右に隣接するR画素のロー信号の平均値を生成する。例えば、形状判定部11は、図14に示すように、G画素93の補間信号rとして、G画素93の左右に隣接するR画素93aと93bのロー信号の平均値を生成する。
ステップS65において、形状判定部11は、グレー算出画素群内の補間信号rからG画素のロー信号を減算した減算値と、グレー算出画素群内のR画素のロー信号から補間信号gを減算した減算値の平均値を求める。
ステップS66において、形状判定部11は、ステップS65で求められた平均値と代表信号Dgを加算して、代表信号Drとする。
ステップS67において、形状判定部11は、グレー算出画素群内のG画素の補間信号bとして、そのG画素の上下に隣接するB画素のロー信号の平均値を生成する。例えば、形状判定部11は、図15に示すように、G画素94の補間信号bとして、G画素94の上下に隣接するB画素94aと94bのロー信号の平均値を生成する。
ステップS68において、形状判定部11は、グレー算出画素群内の補間信号bからG画素のロー信号を減算した減算値と、グレー算出画素群内のB画素のロー信号から補間信号gを減算した減算値の平均値を求める。
ステップS69において、形状判定部11は、ステップS68で求められた平均値と代表信号Dgを加算して、代表信号Dbとする。
ステップS70において、形状判定部11は、代表信号Drと代表信号Dgの差分Δrg、および、代表信号Dbと代表信号Dgの差分Δbgを求める。ステップS71において、形状判定部11は、差分ΔrgとΔbgの大きい方の値が閾値以上であるかどうかを判定する。
ステップS71で差分ΔrgとΔbgの大きい方の値が閾値以上であると判定された場合、ステップS72において、形状判定部11は、gray_modeを0に設定する。そして、処理は図9のステップS39に戻り、ステップS40に進む。
一方、ステップS71で差分ΔrgとΔbgの大きい方の値が閾値以上ではないと判定された場合、ステップS73において、形状判定部11は、gray_modeを1に設定する。そして、処理は図9のステップS39に戻り、ステップS40に進む。
図16は、図8のステップS12のG生成処理の詳細を説明するフローチャートである。
図16のステップS91乃至S98の処理は、図4の水平方向演算部51と垂直方向演算部52においてそれぞれ行われるが、垂直方向演算部52の処理は、H方向がV方向に代わる点を除いて、水平方向演算部51の処理と同様であるため、以下では、水平方向演算部51の処理についてのみ説明する。
ステップS91において、水平方向演算部51の抽出部71(図5)は、入力されるロー信号からG補間画素群のロー信号を抽出し、色差生成部72に供給する。
ステップS92において、色差生成部72は、抽出部71から供給されるG補間画素群のうちの連続する3個の画素のロー信号を用いて、ロー信号の色差(B-G,R-G)を端から順に生成する。色差生成部72は、その結果得られる9個の色差を色差平滑部73に供給する。また、色差生成部72は、9個の色差のうちの、G補間画素を中心としてH方向に2個ずつ並ぶ画素に対応する5個の色差を分散演算部75に供給する。さらに、色差生成部72は、G補間画素に対応する色差をαブレンド部78に供給する。
ステップS93において、色差平滑部73は、色差生成部72から供給される9個の色差のうちの連続する5個の色差の平均値を端から順に求めることにより、色差を平滑化する。色差平滑部73は、その結果得られる5個の色差の平滑化値を、平均部74、分散演算部75、および分散演算部76に供給する。
ステップS94において、平均部74は、色差平滑部73から供給される5個の色差の平滑化値の平均値を求め、分散演算部76とαブレンド部78に供給する。
ステップS95において、分散演算部75は、色差生成部72から供給される5個の色差と色差平滑部73から供給される5個の色差の平滑化値の分散値を算出し、α決定部77に供給する。
ステップS96において、分散演算部76は、色差平滑部73から供給される5個の色差の平滑化値と平均部74から供給される平均値との分散値を算出する。分散演算部75は、分散値をα決定部77に供給するとともに、H方向の重み係数として図4のα決定部53に供給する。
ステップS97において、α決定部77は、分散演算部75から供給される分散値と分散演算部76から供給される分散値とに基づいて、αブレンド部78におけるαブレンドのαを決定し、αブレンド部78に供給する。
ステップS98において、αブレンド部78は、α決定部77から供給されるαに基づいて、色差生成部72から供給されるG補間画素に対応する色差と平均部74から供給される平均値とをαブレンドする。αブレンド部54は、αブレンド結果をG補間画素のH方向の色差(B-G,R-G)の候補として図4のαブレンド部54に供給する。
垂直方向演算部52では、上述したステップS91乃至S98の処理と同様の処理がV方向について行われ、V方向の色差(B-G,R-G)の候補がαブレンド部54に供給され、重み係数がα決定部53に供給される。
ステップS99において、α決定部53は、水平方向演算部51から供給されるH方向の重み係数とV方向の重み係数とに基づいて、αブレンド部54におけるαブレンドのαを決定し、αブレンド部54に供給する。
ステップS100において、αブレンド部54は、α決定部53から供給されるαに基づいて、水平方向演算部51から供給されるH方向の色差(B-G,R-G)の候補と垂直方向演算部52から供給されるV方向の色差(B-G,R-G)の候補をαブレンドする。αブレンド部54は、αブレンド結果を加算部55に供給する。
ステップS101において、加算部55は、αブレンド結果とG補間画素のロー信号とを加算し、G補間画素の緑色の画像信号を生成する。加算部55は、G補間画素の緑色の画像信号を図1の選択部14に供給する。そして、処理は図8のステップS12に戻り、ステップS13に進む。
以上のように、画像処理装置10は、ロー信号の形状が、DLMMSE法を用いたデモザイク処理によってジッパーノイズが発生しやすいくさび型である場合、G画素のロー信号のみを用いて緑色の画像信号を生成する。従って、画像信号におけるジッパーノイズと呼ばれる画質劣化を低減することができる。
また、画像処理装置10は、G補間画素のロー信号の形状がくさび型ではない場合、そのG補間画素の緑色の画像信号をDLMMSE法により生成する。従って、全てのG補間画素の緑色の画像信号がG画素のロー信号のみを用いて生成される場合に比べて、画像信号の解像度を向上させることができる。
<第2実施の形態>
(画像処理装置の第2実施の形態の構成例)
図17は、本開示を適用した画像処理装置の第2実施の形態の構成例を示すブロック図である。
(画像処理装置の第2実施の形態の構成例)
図17は、本開示を適用した画像処理装置の第2実施の形態の構成例を示すブロック図である。
図17の画像処理装置100は、代表RGB演算部101と形状判定形状判定部102を有する。画像処理装置100は、Gクラスタップ抽出部103−1、Rクラスタップ抽出部103−2、Bクラスタップ抽出部103−3、G予測タップ抽出部104−1、R予測タップ抽出部104−2、およびB予測タップ抽出部104−3を有する。また、画像処理装置100は、G変換部105−1および105−2、R変換部105−3および105−4、並びに、B変換部105−5および105−6を有する。
画像処理装置100は、Gクラス分類部106−1、Rクラス分類部106−2、Bクラス分類部106−3、G係数メモリ107−1、R係数メモリ107−2、およびB係数メモリ107−3を有する。画像処理装置100は、G積和演算部108−1、R積和演算部108−2、およびB積和演算部108−3を有する。画像処理装置100は、図示せぬ単板イメージセンサにより撮像されたロー信号に対して、クラス分類適応処理によりデモザイク処理を行う。
具体的には、画像処理装置100の代表RGB演算部101は、デモザイク処理により生成する画像信号に対応する画像のうちの各画素を、順に、注目している画素である注目画素とする。代表RGB演算部101は、図示せぬ単板イメージセンサから入力されるロー信号を用いて、Gクラスタップ、Rクラスタップ、およびBクラスタップ(詳細は後述する)の代表信号Dr,Db、およびDgを演算する。具体的には、代表RGB演算部101は、グレー算出画素群を、Gクラスタップ、Rクラスタップ、Bクラスタップに対応する画素群に代えて、図11のステップS61乃至S69の処理を行う。
なお、Gクラスタップは、注目画素の緑色の画像信号の生成時のクラス分類に用いられる信号であり、注目画素に対応する位置の周辺に位置する複数の画素のロー信号からなる。Rクラスタップは、注目画素の赤色の画像信号の生成時のクラス分類に用いられる信号であり、注目画素に対応する位置の周辺に位置する複数の画素のロー信号と緑色の画像信号とからなる。Bクラスタップは、注目画素の青色の画像信号の生成時のクラス分類に用いられる信号であり、注目画素に対応する位置の周辺に位置する複数の画素のロー信号と緑色の画像信号とからなる。
また、代表RGB演算部101は、G予測タップ、R予測タップ、およびB予測タップ(詳細は後述する)の代表信号Dr,Db、およびDgを演算する。具体的には、代表RGB演算部101は、グレー算出画素群を、G予測タップ、R予測タップ、B予測タップに対応する画素群に代えて、図11のステップS61乃至S69の処理を行う。
なお、G予測タップは、注目画素の緑色の画像信号の生成に用いられる信号であり、注目画素に対応する位置の周辺に位置する複数の画素のロー信号からなる。R予測タップは、注目画素の赤色の画像信号の生成に用いられる信号であり、注目画素に対応する位置の周辺に位置する複数の画素のロー信号と緑色の画像信号とからなる。B予測タップは、注目画素の青色の画像信号の生成に用いられる信号であり、注目画素に対応する位置の周辺に位置する複数の画素のロー信号と緑色の画像信号とからなる。
代表RGB演算部101は、代表信号Dr,Db、およびDgを生成する際、Gクラスタップ、Rクラスタップ、Bクラスタップ、G予測タップ、R予測タップ、G予測タップに対応する画素群ではなく、その画素群を含む画素群の信号を用いるようにしてもよい。即ち、代表RGB演算部101は、図11のステップS61乃至S69の処理におけるグレー算出画素群を、Gクラスタップ、Rクラスタップ、Bクラスタップ、G予測タップ、R予測タップ、G予測タップを含む画素群に代えることにより、代表信号Dr,Db、およびDgを生成するようにしてもよい。
代表RGB演算部101は、Gクラスタップの代表信号Dr,Db、およびDgをG変換部105−1に供給し、Rクラスタップの代表信号Dr,Db、およびDgをR変換部105−3に供給する。また、代表RGB演算部101は、Bクラスタップの代表信号Dr,Db、およびDgをB変換部105−5に供給する。
また、代表RGB演算部101は、G予測タップの代表信号Dr,Db、およびDgをG変換部105−2に供給し、R予測タップの代表信号Dr,Db、およびDgをR変換部105−4に供給する。また、代表RGB演算部101は、B予測タップの代表信号Dr,Db、およびDgをB変換部105−6に供給する。
形状判定部102は、図示せぬ単板イメージセンサから入力されるロー信号に基づいて、注目画素に対応する画素のロー信号の形状がくさび型であるかどうかを判定する形状判定処理を行う。この形状判定処理は、G補間画素が注目画素に対応する画素に代わる点を除いて、図9の形状判定処理と同一である。形状判定部102は、判定結果を表すddr_class_gをGクラスタップ抽出部103−1、G予測タップ抽出部104−1、およびG係数メモリ107−1に供給する。
Gクラスタップ抽出部103−1は、形状判定部102から供給されるddr_class_gに基づいて、図示せぬ単板イメージセンサから入力されるロー信号からGクラスタップを抽出し、G変換部105−1に供給する。
Rクラスタップ抽出部103−2は、図示せぬ単板イメージセンサから入力されるロー信号とG積和演算部108−1から供給される緑色の画像信号とから、Rクラスタップを抽出し、R変換部105−3に供給する。Bクラスタップ抽出部103−3は、図示せぬ単板イメージセンサから入力されるロー信号とG積和演算部108−1から供給される緑色の画像信号とから、Bクラスタップを抽出し、B変換部105−5に供給する。
G予測タップ抽出部104−1は、形状判定部102から供給されるddr_class_gに基づいて、図示せぬ単板イメージセンサから入力されるロー信号からG予測タップを抽出し、G変換部105−2に供給する。
R予測タップ抽出部104−2は、図示せぬ単板イメージセンサから入力されるロー信号とG積和演算部108−1から供給される緑色の画像信号とから、R予測タップを抽出し、R変換部105−4に供給する。B予測タップ抽出部104−3は、図示せぬ単板イメージセンサから入力されるロー信号とG積和演算部108−1から供給される緑色の画像信号とからB予測タップを抽出し、B変換部105−6に供給する。
G変換部105−1は、代表RGB演算部101から供給されるGクラスタップの代表信号Dr,Db、およびDgを用いて、Gクラスタップ抽出部103−1から供給されるGクラスタップに対して、以下の式(5)によりG変換処理を行う。
G’=G
R’=R−(Dr−Dg)
B’=B−(Db−Dg)
・・・(5)
R’=R−(Dr−Dg)
B’=B−(Db−Dg)
・・・(5)
式(5)において、Gは、GクラスタップのうちのG画素のロー信号を表し、G´は、G変換処理後のG画素のロー信号を表す。Rは、GクラスタップのうちのR画素のロー信号を表し、R´は、G変換処理後のR画素のロー信号を表す。Bは、GクラスタップのうちのB画素のロー信号を表し、B´は、G変換処理後のB画素のロー信号を表す。
このようなG変換処理が施されることにより、Gクラスタップ内のR画素およびB画素のロー信号が、G画素のロー信号を基準としてオフセットされる。これにより、Gクラスタップの画素間の色の違いによる変化を除去することができる。その結果、Gクラスタップの画素間の相関性を高めることができる。G変換部105−1は、G変換処理後のGクラスタップをGクラス分類部106−1に供給する。
G変換部105−2は、代表RGB演算部101から供給されるG予測タップの代表信号Dr,Db、およびDgを用いて、G予測タップ抽出部104−1から供給されるG予測タップに対して、G変換部105−1によるG変換処理と同様のG変換処理を行う。G変換部105−2は、G変換処理後のG予測タップをG積和演算部108−1に供給する。
R変換部105−3は、代表RGB演算部101から供給されるRクラスタップの代表信号Dr,Db、およびDgを用いて、Rクラスタップ抽出部103−2から供給されるRクラスタップに対して、以下の式(6)によりR変換処理を行う。
G’=G−(Dg−Dr)
R’=R
B’=B−(Db−Dr)
・・・(6)
R’=R
B’=B−(Db−Dr)
・・・(6)
式(6)において、Gは、RクラスタップのうちのG画素のロー信号および緑色の画像信号を表し、G´は、G変換処理後のG画素のロー信号および緑色の画像信号を表す。Rは、RクラスタップのうちのR画素のロー信号および緑色の画像信号を表し、R´は、G変換処理後のR画素のロー信号および緑色の画像信号を表す。Bは、RクラスタップのうちのB画素のロー信号および緑色の画像信号を表し、B´は、G変換処理後のB画素のロー信号および緑色の画像信号を表す。
このようなR変換処理が施されることにより、Rクラスタップ内のG画素およびB画素のロー信号が、R画素のロー信号を基準としてオフセットされる。これにより、Rクラスタップの画素間の色の違いによる変化を除去することができる。その結果、Rクラスタップの画素間の相関性を高めることができる。R変換部105−3は、R変換処理後のRクラスタップをRクラス分類部106−2に供給する。
R変換部105−4は、代表RGB演算部101から供給されるR予測タップの代表信号Dr,Db、およびDgを用いて、R予測タップ抽出部104−2から供給されるR予測タップに対して、R変換部105−3によるR変換処理と同様のR変換処理を行う。R変換部105−4は、R変換処理後のR予測タップをR積和演算部108−2に供給する。
B変換部105−5は、代表RGB演算部101から供給されるBクラスタップの代表信号Dr,Db、およびDgを用いて、Bクラスタップ抽出部103−3から供給されるBクラスタップに対して、以下の式(7)によりB変換処理を行う。
G’=G−(Dg−Db)
R’=R−(Dr−Db)
B’=B
・・・(7)
R’=R−(Dr−Db)
B’=B
・・・(7)
式(6)において、Gは、BクラスタップのうちのG画素のロー信号および緑色の画像信号を表し、G´は、G変換処理後のG画素のロー信号および緑色の画像信号を表す。Rは、BクラスタップのうちのR画素のロー信号および緑色の画像信号を表し、R´は、G変換処理後のR画素のロー信号および緑色の画像信号を表す。Bは、BクラスタップのうちのB画素のロー信号および緑色の画像信号を表し、B´は、G変換処理後のB画素のロー信号および緑色の画像信号を表す。
このようなB変換処理が施されることにより、Bクラスタップ内のG画素およびR画素のロー信号が、B画素のロー信号を基準としてオフセットされる。これにより、Bクラスタップの画素間の色の違いによる変化を除去することができる。その結果、Bクラスタップの画素間の相関性を高めることができる。B変換部105−5は、B変換処理後のBクラスタップをBクラス分類部106−3に供給する。
B変換部105−6は、代表RGB演算部101から供給されるB予測タップの代表信号Dr,Db、およびDgを用いて、B予測タップ抽出部104−3から供給されるB予測タップに対して、B変換部105−5によるB変換処理と同様のB変換処理を行う。B変換部105−6は、B変換処理後のB予測タップをR積和演算部108−2に供給する。
Gクラス分類部106−1は、G変換部105−1から供給されるGクラスタップに対してADRC(Adaptive Dynamic Range Coding)処理を行い、再量子化コードを生成する。具体的には、Gクラス分類部106−1は、ADRC処理として、以下の式(8)により、Gクラスタップの最大値MAXと最小値MINの間を指定されたビット数pで均等に分割して再量子化する処理を行う。
式(8)において、[]は、[]内の値の小数点以下を切り捨てることを意味する。また、kiは、Gクラスタップのi番目のロー信号を表し、qiは、Gクラスタップのi番目のロー信号の再量子化コードを表す。また、DRは、ダイナミックレンジであり、MAX-MIN+1である。
Gクラス分類部106−1は、再量子化コードに基づいて注目画素をクラスに分類する。具体的には、Gクラス分類部106−1は、再量子化コードを用いて、以下の式(9)により、クラスを表すクラスコードclassを算出する。
式(9)において、nは、Gクラスタップに対応する画素の数である。Gクラス分類部106−1は、クラスコードをG係数メモリ107−1に供給する。
なお、クラスコードを算出する方法としては、ADRCを用いる方法の他に、DCT(Discrete Cosine Transform),VQ(Vector Quantization),DPCM(differential pulse code modulation)などのデータ圧縮方式を応用し、データ圧縮した結果のデータ量をクラスコードとする方法などを用いることもできる。
Rクラス分類部106−2は、R変換部105−3から供給されるRクラスタップに対して、Gクラス分類部106−1と同様にADRC処理を行い、再量子化コードを生成する。Rクラス分類部106−2は、Gクラス分類部106−1と同様に、再量子化コードに基づいて注目画素をクラスに分類する。Rクラス分類部106−2は、その結果得られるクラスコードをR係数メモリ107−2に供給する。
Bクラス分類部106−3は、B変換部105−5から供給されるBクラスタップに対して、Gクラス分類部106−1と同様にADRC処理を行い、再量子化コードを生成する。Bクラス分類部106−3は、Gクラス分類部106−1と同様に、再量子化コードに基づいて注目画素をクラスに分類する。Bクラス分類部106−3は、その結果得られるクラスコードをB係数メモリ107−3に供給する。
G係数メモリ107−1は、クラスコードとddr_class_gとに対応付けてG予測係数を記憶する。このG予測係数は、後述するように、クラスコードとddr_class_gごとに、緑色の画像信号に対応する教師信号と、ロー信号に対応する生徒信号とを用いて、各画素の教師信号、その画素に対応する画素の生徒信号、および予測係数の関係を示す正規方程式を解くことにより予め学習された予測係数である。
G係数メモリ107−1は、Gクラス分類部106−1から供給されるクラスコードと形状判定部102から供給されるddr_class_gとに対応づけて記憶されているG予測係数を読み出し、G積和演算部108−1に供給する。
R係数メモリ107−2は、クラスコードに対応付けてR予測係数を記憶する。このR予測係数は、後述するように、クラスコードごとに、赤色の画像信号に対応する教師信号と、ロー信号に対応する生徒信号とを用いて、各画素の教師信号、その画素に対応する画素の生徒信号、および予測係数の関係を示す正規方程式を解くことにより予め学習された予測係数である。R係数メモリ107−2は、Rクラス分類部106−2から供給されるクラスコードに対応づけて記憶されているR予測係数を読み出し、R積和演算部108−2に供給する。
B係数メモリ107−3は、クラスコードに対応付けてB予測係数を記憶する。このB予測係数は、後述するように、クラスコードごとに、青色の画像信号に対応する教師信号と、ロー信号に対応する生徒信号とを用いて、各画素の教師信号、その画素に対応する画素の生徒信号、および予測係数の関係を示す正規方程式を解くことにより予め学習された予測係数である。B係数メモリ107−3は、Bクラス分類部106−3から供給されるクラスコードに対応づけて記憶されているB予測係数を読み出し、B積和演算部108−3に供給する。
G積和演算部108−1は、G係数メモリ107−1から読み出されたG予測係数と、G変換部105−2から供給されるG予測タップとの予測演算により、注目画素の緑色の画像信号を生成する。G積和演算部108−1は、注目画素の緑色の画像信号をRクラスタップ抽出部103−2、Bクラスタップ抽出部103−3、R予測タップ抽出部104−2、およびB予測タップ抽出部104−3に供給するとともに、出力する。
R積和演算部108−2は、R係数メモリ107−2から読み出されたR予測係数と、R変換部105−4から供給されるR予測タップとの予測演算により、注目画素の赤色の画像信号を生成し、出力する。
B積和演算部108−3は、B係数メモリ107−3から読み出されたB予測係数と、B変換部105−6から供給されるB予測タップとの予測演算により、注目画素の青色の画像信号を生成し、出力する。
以上のようにして、画像処理装置100のGクラスタップ抽出部103−1,G予測タップ抽出部104−1、G変換部105−1、G変換部105−2、Gクラス分類部106−1、G係数メモリ107−1、およびG積和演算部108−1は、クラス分類適応処理により緑色の画像信号を生成する緑色補間部として機能する。
また、Rクラスタップ抽出部103−2,R予測タップ抽出部104−2、R変換部105−3、R変換部105−4、Rクラス分類部106−2、R係数メモリ107−2、およびR積和演算部108−2は、クラス分類適応処理により赤色の画像信号を生成する赤色補間部として機能する。Bクラスタップ抽出部103−3,B予測タップ抽出部104−3、B変換部105−5、B変換部105−6、Bクラス分類部106−3、B係数メモリ107−3、およびB積和演算部108−3は、クラス分類適応処理により青色の画像信号を生成する青色補間部おして機能する。
(タップ構造の例)
図18は、Gクラスタップ、Rクラスタップ、Bクラスタップ、G予測タップ、Rクラスタップ、およびGクラスタップのタップ構造の例を示す図である。
図18は、Gクラスタップ、Rクラスタップ、Bクラスタップ、G予測タップ、Rクラスタップ、およびGクラスタップのタップ構造の例を示す図である。
なお、図18において、Rが付された丸はR画素のロー信号を表し、Gが付された丸はG画素のロー信号を表し、Bが付された丸はB画素のロー信号を表す。また、gが付された丸は、その丸を含む丸が表す画素に対応する画素の緑色の画像信号を表す。
図18の例では、図中色が付された丸が表すR画素のロー信号に対応する画素が注目画素とされている。この場合、ddr_class_gが0であるとき、GクラスタップおよびG予測タップは、図18Aに示すように、図中外周に太線が付された丸で表される、注目画素に対応するR画素を中心とした3×3画素のロー信号により構成される。即ち、ロー信号の形状がくさび型ではない場合、GクラスタップおよびG予測タップは、R画素、G画素、およびB画素のロー信号からなる。
一方、ddr_class_gが1であるとき、GクラスタップおよびG予測タップは、図18Bに示すように、図中外周に太線が付された丸で表される、注目画素に対応するR画素に上下左右で最も近い4つのG画素のロー信号により構成される。即ち、ロー信号の形状がくさび型である場合、GクラスタップおよびG予測タップは、G画素のロー信号のみからなる。
また、図18Cに示すように、RクラスタップおよびR予測タップは、図中外周に太線が付された丸で表される、注目画素に対応するR画素、および、そのR画素の右側と下側で最も近いR画素のロー信号を含む。また、RクラスタップおよびR予測タップは、図中外周に太線が付された丸で表される、注目画素および注目画素と上下左右に隣接する画素の緑色の画像信号を含む。即ち、RクラスタップおよびR予測タップは、3個のR画素のロー信号と5個の画素の緑色の画像信号とにより構成される。
また、図18Dに示すように、BクラスタップおよびB予測タップは、図中外周に太線が付された丸で表される、注目画素に対応するR画素の右上側、右下側、および左下側で最も近いB画素のロー信号を含む。また、BクラスタップおよびB予測タップは、図中外周に太線が付された丸で表される、注目画素および注目画素と上下左右に隣接する画素の緑色の画像信号を含む。即ち、BクラスタップおよびB予測タップは、3個のB画素のロー信号と5個の画素の緑色の画像信号とにより構成される。
なお、図18の例では、注目画素がR画素に対応する画素とされているが、注目画素がG画素に対応する画素である場合も、以下のことを除いて同様である。
注目画素がG画素に対応する画素である場合には、ddr_class_gが1であるとき、GクラスタップおよびG予測タップは、例えば、注目画素に対応するG画素と、そのG画素に上下左右で最も近い4つのG画素のロー信号により構成される。また、RクラスタップおよびR予測タップとしては、注目画素に対応するR画素、および、そのR画素の右側と下側で最も近いR画素のロー信号の代わりに、注目画素に対応するG画素に最も近いR画素、および、そのR画素の右側と下側で最も近いR画素のロー信号が選択される。
また、注目画素がB画素に対応する画素である場合には、以下のことを除いて同様である。
注目画素がB画素に対応する画素である場合には、RクラスタップおよびR予測タップとしては、注目画素に対応するR画素、および、そのR画素の右側と下側で最も近いR画素のロー信号の代わりに、注目画素に対応するB画素に最も近いR画素、および、そのR画素の右側と下側の最も近いR画素のロー信号が選択される。
また、ここでは、GクラスタップとG予測タップ、RクラスタップとR予測タップ、BクラスタップとB予測タップが、それぞれ同一の構造であるものとするが、異なってもよい。
(予測演算の説明)
次に、図17のG積和演算部108−1における予測演算と、その予測演算に用いられるG予測係数の学習について説明する。
次に、図17のG積和演算部108−1における予測演算と、その予測演算に用いられるG予測係数の学習について説明する。
いま、予測演算として、例えば、線形1次予測演算を採用することとすると、各画素の緑色の画像信号yは、次の線形1次式によって求められることになる。
式(10)において、xiは、画像信号yについてのG予測タップを構成するロー信号のうちのi番目の画素のロー信号を表し、Wiは、そのi番目の画素のロー信号と乗算されるi番目のG予測係数を表す。また、nは、G予測タップを構成するロー信号に対応する画素の数を表している。これらのことは、以下の式(11)、(12)、(14)、および(17)においても同様である。
また、第kサンプルの各画素の緑色の画像信号yの予測値をyk’と表すと、予測値yk’は以下の式(11)で表される。
式(11)において、xkiは、予測値yk’の真値についてのG予測タップを構成するロー信号のうちのi番目の画素のロー信号を表す。このことは、後述する式(12)、(15)、および(16)においても同様である。
また、予測値yk’の真値をykと表すと、予測誤差ekは、以下の式(12)で表される。
式(12)の予測誤差ekを0とするG予測係数Wiが、真値ykを予測するのに最適なものとなるが、学習用のサンプルの数がnより小さい場合は、G予測係数Wiは一意に定まらない。
そこで、G予測係数Wiが最適なものであることを表す規範として、例えば、最小自乗法を採用することとすると、最適なG予測係数Wiは、以下の式(13)で表される自乗誤差の総和Eを最小にすることで求めることができる。
式(13)の自乗誤差の総和Eの最小値(極小値)は、以下の式(14)に示すように、総和EをG予測係数Wiで偏微分したものを0とするWiによって与えられる。
以下の式(15)および式(16)に示すようにXijとYiを定義すると、式(14)は、以下の式(17)のように行列式の形で表すことができる。
式(17)の正規方程式は、例えば、掃き出し法(Gauss-Jordanの消去法)などの一般的な行列解法を用いることにより、G予測係数Wiについて解くことができる。
以上により、クラスコードおよびddr_class_gごとの最適なG予測係数Wiの学習は、式(17)の正規方程式をクラスコードおよびddr_class_gごとにたてて解くことにより行うことができる。
なお、画像信号yは、式(10)に示した線形1次式ではなく、2次以上の高次の式によって求められるようにすることも可能である。
R積和演算部108−2およびB積和演算部108−3における予測演算は、G予測タップが、R予測タップやB予測タップに代わる点、並びに、クラスコードおよびddr_class_gごとのG予測係数が、クラスコードごとのR予測係数やB予測係数に代わる点を除いて、G積和演算部108−1における予測演算と同様であるので、説明は省略する。
(画像処理装置の処理の説明)
図19は、図17の画像処理装置100のデモザイク処理を説明するフローチャートである。このデモザイク処理は、例えば、図示せぬ単板イメージセンサにより撮像されたロー信号が画像処理装置100に入力されたとき、開始される。
図19は、図17の画像処理装置100のデモザイク処理を説明するフローチャートである。このデモザイク処理は、例えば、図示せぬ単板イメージセンサにより撮像されたロー信号が画像処理装置100に入力されたとき、開始される。
図19のステップS121において、画像処理装置100は、入力されたロー信号から緑色の画像信号を生成するG生成処理を行う。このG生成処理の詳細は、後述する図20を参照して説明する。
ステップS122において、画像処理装置100は、G生成処理により生成された緑色の画像信号とロー信号に基づいて、クラス分類適応処理により赤色の画像信号を生成する。即ち、画像処理装置100の代表RGB演算部101、Rクラスタップ抽出部103−2、R予測タップ抽出部104−2、R変換部105−3、R変換部105−4、Rクラス分類部106−2、R係数メモリ107−2、およびR積和演算部108−2が、クラス分類適応処理を行い、赤色の画像信号を生成する。
ステップS123において、画像処理装置100は、G生成処理により生成された緑色の画像信号とロー信号に基づいて、クラス分類適応処理により青色の画像信号を生成する。即ち、画像処理装置100の代表RGB演算部101、Bクラスタップ抽出部103−3、B予測タップ抽出部104−3、B変換部105−5、B変換部105−6、Bクラス分類部106−3、B係数メモリ107−3、およびB積和演算部108−3が、クラス分類適応処理を行い、青色の画像信号を生成する。そして、処理は終了する。
図20は、図19のステップS121のG生成処理の詳細を説明するフローチャートである。
図20のステップS141において、画像処理装置100の代表RGB演算部101は、デモザイク処理により生成する画像信号に対応する画像の各画素のうち、まだ注目画素に決定されていない画素を注目画素に決定する。
ステップS142において、形状判定部102は、注目画素に対応する画素に対して形状判定処理を行う。形状判定部102は、判定結果を表すddr_class_gをGクラスタップ抽出部103−1、G予測タップ抽出部104−1、およびG係数メモリ107−1に供給する。
ステップS143において、Gクラスタップ抽出部103−1は、形状判定部102から供給されるddr_class_gが1であるかどうかを判定する。ステップS143でddr_class_gが1ではないと判定された場合、処理はステップS144に進む。
ステップS144において、Gクラスタップ抽出部103−1は、入力されたロー信号から注目画素に対応する画素を中心とした3×3画素のロー信号をGクラスタップとして抽出し、G変換部105−1に供給する。ステップS145において、G予測タップ抽出部104−1は、入力されたロー信号からGクラスタップと同一のロー信号をG予測タップとして抽出し、G変換部105−2に供給する。そして、処理はステップS148に進む。
一方、ステップS143でddr_class_gが1であると判定された場合、処理はステップS146に進む。
ステップS146において、Gクラスタップ抽出部103−1は、注目画素に対応する画素に上下左右で最も近い4つのG画素のロー信号をGクラスタップとして抽出する。なお、注目画素に対応する画素がG画素である場合には、Gクラスタップ抽出部103−1は、例えば、注目画素に対応するG画素と、そのG画素に上下左右で最も近い4つのG画素のロー信号をGクラスタップとして抽出する。Gクラスタップ抽出部103−1は、GクラスタップをG変換部105−1に供給する。
ステップS147において、G予測タップ抽出部104−1は、入力されたロー信号からGクラスタップと同一のG画素のロー信号をG予測タップとして抽出し、G変換部105−2に供給する。そして、処理はステップS148に進む。
ステップS148において、代表RGB演算部101は、入力されたロー信号に基づいて、注目画素に対応するGクラスタップとG予測タップの代表信号Dr,Db、およびDgを演算する。代表RGB演算部101は、Gクラスタップの代表信号Dr,Db、およびDgをG変換部105−1に供給し、G予測タップの代表信号Dr,Db、およびDgをG変換部105−2に供給する。
ステップS149において、G変換部105−1は、代表RGB演算部101から供給されるGクラスタップの代表信号Dr,Db、およびDgを用いて、Gクラスタップ抽出部103−1から供給されるGクラスタップに対してG変換処理を行う。G変換部105−1は、G変換処理後のGクラスタップをGクラス分類部106−1に供給する。
ステップS150において、Gクラス分類部106−1は、G変換部105−1から供給されるG変換処理後のGクラスタップに基づいて、注目画素をクラスに分類する。Gクラス分類部106−1は、その結果得られるクラスコードをG係数メモリ107−1に供給する。
ステップS151において、G係数メモリ107−1は、Gクラス分類部106−1から供給されるクラスコードと形状判定部102から供給されるddr_class_gとに対応するG予測係数を読み出し、G積和演算部108−1に供給する。
ステップS152において、G変換部105−2は、代表RGB演算部101から供給されるG予測タップの代表信号Dr,Db、およびDgを用いて、G予測タップ抽出部104−1から供給されるG予測タップに対してG変換処理を行う。G変換部105−2は、G変換処理後のG予測タップをG積和演算部108−1に供給する。
ステップS153において、G積和演算部108−1は、G変換部105−2から供給されるG変換処理後のG予測タップとG係数メモリ107−1から読み出されたG予測係数との予測演算により、注目画素の緑色の画像信号を生成する。G積和演算部108−1は、注目画素の緑色の画像信号をRクラスタップ抽出部103−2、Bクラスタップ抽出部103−3、R予測タップ抽出部104−2、およびB予測タップ抽出部104−3に供給するとともに、出力する。
ステップS154において、代表RGB演算部101は、画像信号に対応する画像の全ての画素を注目画素としたかどうかを判定する。ステップS154でまだ全ての画素を注目画素としていないと判定された場合、処理はステップS141に戻り、全ての画素を注目画素とするまで、ステップS141乃至S154の処理が繰り返される。
一方、ステップS154で全ての画素を注目画素としたと判定された場合、処理は、図19のステップS121に戻り、ステップS122に進む。
以上のように、画像処理装置100は、ロー信号の形状が、DLMMSE法を用いたデモザイク処理によってジッパーノイズが発生しやすいくさび型である場合、G予測タップがG画素のロー信号のみを用いて構成される。従って、この場合、G画素のロー信号のみを用いて緑色の画像信号が生成される。よって、画像信号におけるジッパーノイズと呼ばれる画質劣化を低減することができる。
また、画像処理装置100は、注目画素に対応する画素のロー信号の形状がくさび型ではない場合、G画素以外の画素を含むG予測タップを用いて緑色の画像信号を生成する。従って、全ての画素の緑色の画像信号がG画素のロー信号のみを用いて生成される場合に比べて、画像信号の解像度を向上させることができる。
(学習装置の構成例)
図21は、図17のG係数メモリ107−1に記憶されるG予測係数を学習する学習装置200の構成例を示すブロック図である。
図21は、図17のG係数メモリ107−1に記憶されるG予測係数を学習する学習装置200の構成例を示すブロック図である。
図21の学習装置200は、注目画素選択部201、生徒信号生成部202、代表RGB演算部203、形状判定部204、Gクラスタップ抽出部205、G予測タップ抽出部206、G変換部207−1、G変換部207−2、Gクラス分類部208、正規方程式加算部209、およびG予測係数生成部210により構成される。
学習装置200には、G予測係数の学習に用いられる教師信号として、複数の学習用の画像のボケのない鮮明な緑色の画像信号が入力される。
学習装置200の注目画素選択部201は、各教師信号に対応する画像のうちの各画素を、順に、注目画素とする。注目画素選択部201は、入力される教師信号から注目画素の教師信号を抽出し、正規方程式加算部209に供給する。
生徒信号生成部202は、例えば、光学ローパスフィルタのシミュレーションモデルを用いるなどして、教師信号からボケの有るロー信号を生成し、生徒信号とする。生徒信号生成部202は、生徒信号を、代表RGB演算部203、形状判定部204、Gクラスタップ抽出部205、およびG予測タップ抽出部206に供給する。
代表RGB演算部203は、図17の代表RGB演算部101の場合と同様に、生徒信号生成部202から供給される生徒信号に基づいて、GクラスタップとG予測タップの代表信号Dg,Dr、およびDbを算出する。代表RGB演算部203は、Gクラスタップの代表信号Dg,Dr、およびDbをG変換部207−1に供給する。また、代表RGB演算部203は、G予測タップの代表信号Dg,Dr、およびDbをG変換部207−2に供給する。
形状判定部204は、形状判定部102と同様に、生徒信号生成部202から供給される生徒信号に基づいて、注目画素に対応する画素の生徒信号の形状がくさび型であるかどうかを判定する。形状判定部204は、判定結果を表すddr_class_gをGクラスタップ抽出部205、G予測タップ抽出部206、および正規方程式加算部209に供給する。
Gクラスタップ抽出部205は、Gクラスタップ抽出部103−1と同様に、形状判定部204から供給されるddr_class_gに基づいて、生徒信号生成部202から供給される生徒信号からGクラスタップを抽出し、G変換部207−1に供給する。
G予測タップ抽出部206は、G予測タップ抽出部104−1と同様に、形状判定部102から供給されるddr_class_gに基づいて、生徒信号生成部202から供給される生徒信号からG予測タップを抽出し、G変換部207−2に供給する。
G変換部207−1は、G変換部105−1と同様に、代表RGB演算部203から供給されるGクラスタップの代表信号Dr,Db、およびDgを用いて、Gクラスタップ抽出部205から供給されるGクラスタップに対してG変換処理を行う。G変換部207−1は、G変換処理後のGクラスタップをGクラス分類部208に供給する。
G変換部207−2は、G変換部105−2と同様に、代表RGB演算部203から供給されるG予測タップの代表信号Dr,Db、およびDgを用いて、G予測タップ抽出部206から供給されるG予測タップに対してG変換処理を行う。G変換部207−2は、G変換処理後のG予測タップを正規方程式加算部209に供給する。
Gクラス分類部208は、Gクラス分類部106−1と同様に、G変換部207−1から供給されるGクラスタップに基づいて、注目画素をクラスに分類する。Gクラス分類部208は、その結果得られるクラスコードを正規方程式加算部209に供給する。
正規方程式加算部209は、Gクラス分類部208からのクラスコードと形状判定部204からのddr_class_g(の組み合わせ)について、注目画素選択部201からの注目画素の教師信号と、G変換部207−2からのG予測タップとを対象とした足し込みを行う。
具体的には、正規方程式加算部209は、注目画素のクラスコードとddr_class_gについて、G予測タップの各画素の生徒信号をxkiおよびxkj(i,j=1,2,・・・,n)として、式(10)の左辺の行列におけるxki×xkjを演算し、積算する。
また、正規方程式加算部209は、注目画素のクラスコードとddr_class_gについて、その注目画素の教師信号をykとし、生徒信号をxkiとして、式(10)の右辺の行列におけるxki×ykを演算し、積算する。
そして、正規方程式加算部209は、全ての教師信号の全ての画素を注目画素として足し込みを行うことにより生成された、クラスコードおよびddr_class_gごとの式(10)の正規方程式をG予測係数生成部210に供給する。
G予測係数生成部210は、正規方程式加算部209から供給される正規方程式を解くことにより、クラスコードおよびddr_class_gごとに最適なG予測係数を求める。このクラスコードおよびddr_class_gごとのG予測係数は、図17のG係数メモリ107に記憶される。
(学習装置の処理の説明)
図22は、図21の学習装置200のG予測係数学習処理を説明するフローチャートである。このG予測係数学習処理は、例えば、学習装置200に教師信号が入力されたとき、開始される。
図22は、図21の学習装置200のG予測係数学習処理を説明するフローチャートである。このG予測係数学習処理は、例えば、学習装置200に教師信号が入力されたとき、開始される。
図22のステップS171において、学習装置200の生徒信号生成部202は、例えば、光学ローパスフィルタのシミュレーションモデルを用いるなどして、入力された教師信号からボケの有るロー信号を生成し、生徒信号とする。生徒信号生成部202は、生徒信号を、代表RGB演算部203、形状判定部204、Gクラスタップ抽出部205、およびG予測タップ抽出部206に供給する。
ステップS172において、注目画素選択部201は、教師信号に対応する画像のうちの、まだ注目画素とされていない画素を注目画素に決定する。ステップS173において、注目画素選択部201は、入力された教師信号から注目画素の教師信号を抽出し、正規方程式加算部209に供給する。
ステップS174において、形状判定部204は、生徒信号生成部202から供給される生徒信号に基づいて、注目画素に対応する画素に対して形状判定処理を行う。形状判定部204は、その結果得られるddr_class_gをGクラスタップ抽出部205、G予測タップ抽出部206、および正規方程式加算部209に供給する。
ステップS175において、Gクラスタップ抽出部205は、形状判定部204から供給されるddr_class_gが1であるかどうかを判定する。ステップS175でddr_class_gが1ではないと判定された場合、処理はステップS176に進む。
ステップS176において、Gクラスタップ抽出部205は、生徒信号生成部202から供給される生徒信号から、注目画素に対応する画素を中心とした3×3画素の生徒信号をGクラスタップとして抽出し、G変換部207−1に供給する。
ステップS177において、G予測タップ抽出部206は、生徒信号生成部202から供給される生徒信号から、Gクラスタップと同一の生徒信号をG予測タップとして抽出し、G変換部207−2に供給する。そして、処理はステップS180に進む。
一方、ステップS175でddr_class_gが1であると判定された場合、処理はステップS178に進む。
ステップS178において、Gクラスタップ抽出部205は、生徒信号生成部202から供給される生徒信号から、注目画素に対応する画素に上下左右で最も近い4つのG画素の生徒信号をGクラスタップとして抽出する。なお、注目画素に対応する画素がG画素である場合には、Gクラスタップ抽出部205は、例えば、注目画素に対応するG画素と、そのG画素に上下左右で最も近い4つのG画素の生徒信号をGクラスタップとして抽出する。Gクラスタップ抽出部205は、GクラスタップをG変換部207−1に供給する。
ステップS179において、G予測タップ抽出部206は、生徒信号生成部202から供給される生徒信号から、Gクラスタップと同一のG画素の生徒信号をG予測タップとして抽出し、G変換部207−2に供給する。そして、処理はステップS180に進む。
ステップS180において、代表RGB演算部203は、生徒信号生成部202から供給される生徒信号に基づいて、GクラスタップとG予測タップの代表信号Dg,Dr、およびDbを算出する。代表RGB演算部203は、Gクラスタップの代表信号Dg,Dr、およびDbをG変換部207−1に供給する。また、代表RGB演算部203は、G予測タップの代表信号Dg,Dr、およびDbをG変換部207−2に供給する。
ステップS181において、G変換部207−1は、代表RGB演算部203から供給されるGクラスタップの代表信号Dr,Db、およびDgを用いて、Gクラスタップ抽出部205から供給されるGクラスタップに対してG変換処理を行う。G変換部207−1は、G変換処理後のGクラスタップをGクラス分類部208に供給する。
ステップS182において、Gクラス分類部208は、G変換部207−1から供給されるG変換処理後のGクラスタップに基づいて、注目画素をクラスに分類する。Gクラス分類部208は、その結果得られるクラスコードを正規方程式加算部209に供給する。
ステップS183において、G変換部207−2は、代表RGB演算部203から供給されるG予測タップの代表信号Dr,Db、およびDgを用いて、G予測タップ抽出部206から供給されるG予測タップに対してG変換処理を行う。G変換部207−2は、G変換処理後のG予測タップを正規方程式加算部209に供給する。
ステップS184において、正規方程式加算部209は、Gクラス分類部208からのクラスコードと形状判定部204からのddr_class_gについて、注目画素の教師信号とG変換処理後のG予測タップとを対象とした足し込みを行う。
ステップS185において、注目画素選択部201は、教師信号に対応する画像の全ての画素を注目画素としたかどうかを判定する。ステップS185でまだ全ての画素を注目画素としていないと判定された場合、処理はステップS172に戻り、全ての画素を注目画素とするまで、ステップS172乃至S185の処理が繰り返される。
一方、ステップS185で全ての画素を注目画素としたと判定された場合、ステップS186において、生徒信号生成部202は、新たな教師信号が入力されたかどうかを判定する。ステップS186で新たな教師信号が入力されたと判定された場合、処理はステップS171に戻り、新たな教師信号が入力されなくなるまで、ステップS171乃至S186の処理が繰り返される。
ステップS186で新たな教師信号が入力されていないと判定された場合、正規方程式加算部209は、全ての教師信号の全ての画素を注目画素として足し込みを行うことにより生成された、クラスコードおよびddr_class_gごとの式(10)の正規方程式をG予測係数生成部210に供給する。
そして、ステップS187において、G予測係数生成部210は、正規方程式加算部209から供給されるクラスコードおよびddr_class_gごとの正規方程式を解くことにより、クラスコードおよびddr_class_gごとに最適なG予測係数を求める。このクラスコードおよびddr_class_gごとのG予測係数は、図17のG係数メモリ107−1に記憶される。
以上のように、学習装置200は、ボケのない鮮明な緑色の画像信号を教師信号とし、ボケの有るロー信号を生徒信号として、G予測係数を生成する。従って、このG予測係数を用いて緑色の画像信号を生成する画像処理装置100は、ボケのない鮮明な緑色の画像信号を生成することができる。
なお、説明は省略するが、R予測係数とG予測係数を学習する学習装置および学習処理も、ddr_class_gに基づいてクラスタップおよび予測タップの構造が変化しない点、および、正規方程式がクラスコードごとに生成されて予測係数が求められる点を除いて、図21の学習装置200および図22の学習処理と同様である。
また、第2実施の形態では、ddr_class_gが1である場合、hvによらず、GクラスタップとG予測タップの構造が決定されたが、hvによってGクラスタップとG予測タップの構造を変更するようにしてもよい。この場合、例えば、hvが1である場合、GクラスタップとG予測タップは、注目画素に対応する画素の上下で最も近い2つのG画素のロー信号とされる。一方、hvが0である場合、GクラスタップとG予測タップは、注目画素に対応する画素の左右で最も近い2つのG画素のロー信号とされる。
<他の画素配列への適用>
(画素配列の他の例)
図23は、ロー信号を生成する図示せぬ単板イメージセンサの画素配列の他の例を示す図である。
(画素配列の他の例)
図23は、ロー信号を生成する図示せぬ単板イメージセンサの画素配列の他の例を示す図である。
図23に示すように、ロー信号を生成する図示せぬ単板イメージセンサの画素配列は、ダブルベイヤ配列(斜めベイヤ配列)にすることができる。
この場合、ロー信号からロー信号の解像度の2倍の解像度の画像信号に変換する際、ロー信号に対応する画素配列がベイヤ配列である場合と同様に、ロー信号の形状がくさび型であるときにジッパーノイズがH方向およびV方向のラインで発生しやすい。従って、この場合も、画像処理装置10や画像処理装置100にロー信号を入力し、デモザイク処理を行わせることにより、画像信号におけるジッパーノイズを低減することができる。
但し、この場合、形状判定処理以外の処理において、H方向とV方向は、H方向とV方向を−45度回転させた方向に代えられる。また、形状判定処理は、以下の図24の形状判定処理に代えられる。この形状判定処理では、生成する緑色の画像信号に対応する画素230に対して、その画素230の周辺の3×3のG画素g20乃至g28が形状判定画素群とされる。
(形状判定処理の説明)
図24は、ロー信号を生成する図示せぬ単板イメージセンサの画素配列が図23のダブルベイヤ配列である場合の形状判定部11による形状判定処理を説明するフローチャートである。
図24は、ロー信号を生成する図示せぬ単板イメージセンサの画素配列が図23のダブルベイヤ配列である場合の形状判定部11による形状判定処理を説明するフローチャートである。
図24のステップS201において、形状判定部11は、図示せぬ単板イメージセンサから入力されるロー信号に基づいて、形状判定画素群のG画素のロー信号のダイナミックレンジLocalGDRを算出する。例えば、形状判定画素群が図10のG画素g20乃至g28である場合、形状判定部11は、G画素g20乃至g28のロー信号の最大値と最小値を検出し、最大値から最小値を減算した減算値をダイナミックレンジLocalGDRとして算出する。
ステップS202において、形状判定部11は、形状判定画素群の中央の水平ラインのロー信号のダイナミックレンジh_ddrと中央の垂直ラインのロー信号のダイナミックレンジv_ddrを算出する。具体的には、形状判定部11は、G画素g23乃至g25のロー信号の最大値から最小値を減算した減算値をダイナミックレンジh_ddrとして算出する。また、形状判定部11は、G画素g21,g24、およびg27のロー信号の最大値から最小値を減算した減算値をダイナミックレンジv_ddrとして算出する。
ステップS203において、形状判定部11は、各水平ラインおよび各垂直ラインのロー信号の平均値を算出する。具体的には、形状判定部11は、G画素g20乃至g22のロー信号の平均値have0を算出し、G画素g23乃至g25のロー信号の平均値have1を算出し、G画素g26乃至g28のロー信号の平均値have2を算出する。
また、形状判定部11は、G画素g20,g23、およびg26のロー信号の平均値vave0を算出し、G画素g21,g24、およびg27のロー信号の平均値vave1を算出し、G画素g22,g25、およびg28のロー信号の平均値vave2を算出する。
ステップS204において、形状判定部11は、ダイナミックレンジh_ddrがダイナミックレンジv_ddr以下であるかどうかを判定する。ステップS204でダイナミックレンジh_ddrがダイナミックレンジv_ddr以下であると判定された場合、処理はステップS205に進む。
ステップS205において、形状判定部11は、ダイナミックレンジh_ddrをDDrMinに設定する。ステップS206において、形状判定部11は、水平ラインのロー信号の平均値have0乃至have2に基づいてDDrFlagを決定する。
具体的には、平均値have2からオフセットoffsetを減算した値が平均値have1より大きく、かつ、平均値have1が平均値have0より大きい場合、形状判定部11は、DDrFlagを0に決定する。また、平均値have0が平均値have1より大きく、かつ、平均値have1が平均値have2とオフセットoffsetを加算した値より大きい場合、形状判定部11は、DDrFlagを0に決定する。なお、オフセットoffsetは、以下の式(18)により定義される。
式(18)において、paraは予め設定されたパラメータであり、例えば4にすることができる。一方、形状判定部11は、上述した場合以外の場合、DDrFlagを1に決定する。
ステップS207において、形状判定部11は、判定するくさび型の方向を表すhvを、V方向を表す0に設定する。このhvは、図8のステップS15でロー信号を抽出する際、G補間部12により用いられる。
上述したように、画素配列がダブルベイヤ配列である場合、形状判定処理以外の処理において、H方向とV方向は、H方向とV方向を−45度回転させた方向に代えられる。従って、hvが0である場合、ステップS15では、G補間画素に対応する画素とH方向を−45度回転させた方向に最も近い2つの画素のロー信号が抽出される。例えば、G補間画素が図23の画素230である場合、画素230の位置に最も近い画素g24とH方向を−45度回転させた方向に最も近い画素g20と画素g28のロー信号が抽出される。ステップS207の処理後、処理はステップS211に進む。
一方、ステップS204でダイナミックレンジh_ddrがダイナミックレンジv_ddr以下ではないと判定された場合、処理はステップS208に進む。
ステップS208において、形状判定部11は、ダイナミックレンジv_ddrをDDrMinに設定する。ステップS209において、形状判定部11は、水平ラインのロー信号の平均値vave0乃至vave2に基づいてDDrFlagを決定する。
具体的には、平均値vave2から式(18)で定義されるオフセットoffsetを減算した値が平均値vave1より大きく、かつ、平均値vave1が平均値vave0より大きい場合、形状判定部11は、DDrFlagを0に決定する。また、平均値vave0が平均値vave1より大きく、かつ、平均値vave1が平均値vave2と式(18)で定義されるオフセットoffsetを加算した値より大きい場合、形状判定部11は、DDrFlagを0に決定する。一方、形状判定部11は、上述した場合以外の場合、DDrFlagを1に決定する。
ステップS210において、形状判定部11は、hvを、H方向を表す1に設定する。このhvは、ステップS15でロー信号を抽出する際G補間部12により用いられる。これにより、ステップS15では、G補間画素に対応する画素とV方向を−45度回転させた方向に最も近い2つの画素のロー信号が抽出される。例えば、G補間画素が図23の画素230である場合、画素230の位置に最も近い画素g24とV方向を−45度回転させた方向に最も近い画素g22と画素g26のロー信号が抽出される。ステップS210の処理後、処理はステップS211に進む。
ステップS211において、形状判定部11は、DDrFlagが1であるかどうかを判定する。ステップS211でDDrFlagが1であると判定された場合、処理はステップS212に進む。ステップS212において、形状判定部11は、図9のステップS39と同様にgray_mode算出処理を行う。
ステップS213において、形状判定部11は、gray_mode算出処理により算出されたgray_modeが0であるかどうかを判定する。ステップS213でgray_modeが0であると判定された場合、ステップS214において、形状判定部11は、DDrMinがダイナミックレンジLocalGDRのk0倍以下であるかどうかを判定する。
ステップS214でDDrMinがダイナミックレンジLocalGDRのk0倍以下であると判定された場合、処理はステップS215に進む。ステップS215において、形状判定部11は、DDrMinがk4より小さいかどうかを判定する。ステップS43でDDrMinがk4より小さいと判定された場合、処理はステップS216に進む。
ステップS216において、形状判定部11は、ddr_class_gを1に設定し、G補間部12と選択部14に供給する。そして、形状判定処理は終了する。
一方、ステップS211でDDrFragが1ではないと判定された場合、ステップS214でDDrMinがダイナミックレンジLocalGDRのk0倍以下ではないと判定された場合、または、ステップS215でDDrMinがk4より小さくはないと判定された場合、処理はステップS217に進む。
ステップS217において、形状判定部11は、ddr_class_gを0に設定し、G補間部12と選択部14に供給する。そして、形状判定処理は終了する。
また、ステップS213でgray_modeが0ではないと判定された場合、処理はステップS218に進む。ステップS218において、形状判定部11は、DDrMinがダイナミックレンジLocalGDRのk2倍以下であるかどうかを判定する。
ステップS218でDDrMinがダイナミックレンジLocalGDRのk2倍以下であると判定された場合、処理はステップS219に進む。ステップS219において、形状判定部11は、DDrMinがk3より小さいかどうかを判定する。ステップS219でDDrMinがk3より小さいと判定された場合、処理はステップS216に進み、上述した処理を行う。
一方、ステップS218でDDrMinがダイナミックレンジLocalGDRのk2倍以下ではないと判定された場合、または、ステップS219でDDrMinがk3より小さくはないと判定された場合、処理はステップS220に進む。
ステップS220において、形状判定部11は、ddr_class_gを0に設定し、G補間部12と選択部14に供給する。そして、形状判定処理は終了する。
以上のように、ロー信号に対応する画素配列がダブルベイヤ配列である場合、形状判定部11は、G画素のロー信号に基づいて形状判定処理を行う。
<第3実施の形態>
(本開示を適用したコンピュータの説明)
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
(本開示を適用したコンピュータの説明)
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図25は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
コンピュータ400において、CPU(Central Processing Unit)401,ROM(Read Only Memory)402,RAM(Random Access Memory)403は、バス404により相互に接続されている。
バス404には、さらに、入出力インタフェース405が接続されている。入出力インタフェース405には、入力部406、出力部407、記憶部408、通信部409、及びドライブ410が接続されている。
入力部406は、キーボード、マウス、マイクロフォンなどよりなる。出力部407は、ディスプレイ、スピーカなどよりなる。記憶部408は、ハードディスクや不揮発性のメモリなどよりなる。通信部409は、ネットワークインタフェースなどよりなる。ドライブ410は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア411を駆動する。
以上のように構成されるコンピュータ400では、CPU401が、例えば、記憶部408に記憶されているプログラムを、入出力インタフェース405及びバス404を介して、RAM403にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ400(CPU401)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア411に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータ400では、プログラムは、リムーバブルメディア411をドライブ410に装着することにより、入出力インタフェース405を介して、記憶部408にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部409で受信し、記憶部408にインストールすることができる。その他、プログラムは、ROM402や記憶部408に、あらかじめインストールしておくことができる。
なお、コンピュータ400が実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
また、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、ジッパーノイズが発生しやすい形状であれば、くさび型以外の形状を判定し、判定結果に基づいて補間方法を変更するようにしてもよい。
また、ロー信号において各画素に割り当てられる色は、赤色、緑色、および青色以外の色であってもよい。
さらに、本開示は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
なお、本開示は、以下のような構成もとることができる。
(1)
画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号を生成する緑色補間部
を備える画像処理装置。
(2)
前記緑色補間部は、クラス分類適応処理により前記緑色の画像信号を生成する
ように構成された
前記(1)に記載の画像処理装置。
(3)
前記緑色補間部は、前記緑色の画像信号に対応する教師信号と、前記緑色画素の前記ロー信号に対応する生徒信号とを用いて、各画素の前記教師信号、その画素に対応する画素の前記生徒信号、および予測係数の関係を示す式を解くことにより学習された前記予測係数と、前記画像のうちの注目している画素である注目画素に対応する、前記緑色画素の前記ロー信号のみからなる予測タップとの演算により、前記注目画素の前記緑色の画像信号を求める
前記(2)に記載の画像処理装置。
(4)
前記緑色補間部は、前記ロー信号の形状が前記所定の形状ではない場合、前記緑色の信号に対応する教師信号と、前記ロー信号に対応する生徒信号とを用いて、各画素の前記教師信号、その画素の前記生徒信号、および予測係数の関係を示す式を解くことにより学習された前記予測係数と、前記画像のうちの注目している画素である注目画素に対応する前記ロー信号からなる予測タップとの演算により、前記注目画素の前記緑色の画像信号を求める
前記(2)に記載の画像処理装置。
(5)
前記ロー信号の形状が前記所定の形状であることを判定する形状判定部
をさらに備え、
前記緑色補間部は、前記形状判定部により前記ロー信号の形状が前記所定の形状であると判定された場合、前記緑色画素の前記ロー信号のみを用いて前記緑色の画像信号を生成する
ように構成された
前記(1)乃至(4)のいずれかに記載の画像処理装置。
(6)
前記形状判定部は、前記ロー信号が表す色に応じた閾値を用いて、前記ロー信号の形状が前記所定の形状であることを判定する
ように構成された
前記(5)に記載の画像処理装置。
(7)
前記形状判定部は、前記緑色画素の前記ロー信号に基づいて前記判定を行う
ように構成された
前記(5)または(6)に記載の画像処理装置。
(8)
前記所定の形状は、くさび型である
ように構成された
前記(1)乃至(7)のいずれかに記載の画像処理装置。
(9)
画像処理装置が、
画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号を生成する緑色補間ステップ
を含む画像処理方法。
(10)
コンピュータを、
画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号を生成する緑色補間部
として機能させるためのプログラム。
画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号を生成する緑色補間部
を備える画像処理装置。
(2)
前記緑色補間部は、クラス分類適応処理により前記緑色の画像信号を生成する
ように構成された
前記(1)に記載の画像処理装置。
(3)
前記緑色補間部は、前記緑色の画像信号に対応する教師信号と、前記緑色画素の前記ロー信号に対応する生徒信号とを用いて、各画素の前記教師信号、その画素に対応する画素の前記生徒信号、および予測係数の関係を示す式を解くことにより学習された前記予測係数と、前記画像のうちの注目している画素である注目画素に対応する、前記緑色画素の前記ロー信号のみからなる予測タップとの演算により、前記注目画素の前記緑色の画像信号を求める
前記(2)に記載の画像処理装置。
(4)
前記緑色補間部は、前記ロー信号の形状が前記所定の形状ではない場合、前記緑色の信号に対応する教師信号と、前記ロー信号に対応する生徒信号とを用いて、各画素の前記教師信号、その画素の前記生徒信号、および予測係数の関係を示す式を解くことにより学習された前記予測係数と、前記画像のうちの注目している画素である注目画素に対応する前記ロー信号からなる予測タップとの演算により、前記注目画素の前記緑色の画像信号を求める
前記(2)に記載の画像処理装置。
(5)
前記ロー信号の形状が前記所定の形状であることを判定する形状判定部
をさらに備え、
前記緑色補間部は、前記形状判定部により前記ロー信号の形状が前記所定の形状であると判定された場合、前記緑色画素の前記ロー信号のみを用いて前記緑色の画像信号を生成する
ように構成された
前記(1)乃至(4)のいずれかに記載の画像処理装置。
(6)
前記形状判定部は、前記ロー信号が表す色に応じた閾値を用いて、前記ロー信号の形状が前記所定の形状であることを判定する
ように構成された
前記(5)に記載の画像処理装置。
(7)
前記形状判定部は、前記緑色画素の前記ロー信号に基づいて前記判定を行う
ように構成された
前記(5)または(6)に記載の画像処理装置。
(8)
前記所定の形状は、くさび型である
ように構成された
前記(1)乃至(7)のいずれかに記載の画像処理装置。
(9)
画像処理装置が、
画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号を生成する緑色補間ステップ
を含む画像処理方法。
(10)
コンピュータを、
画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号を生成する緑色補間部
として機能させるためのプログラム。
10 画像処理装置, 11 形状判定部, 12 G補間部, 100 画像処理装置, 102 形状判定部, 103−1 Gクラスタップ抽出部, 103−2 G予測タップ抽出部, 105−1,105−2 G変換部, 106−1 Gクラス分類部, 107−1 G係数メモリ, 108−1 G積和演算部
Claims (10)
- 画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号を生成する緑色補間部
を備える画像処理装置。 - 前記緑色補間部は、クラス分類適応処理により前記緑色の画像信号を生成する
ように構成された
請求項1に記載の画像処理装置。 - 前記緑色補間部は、前記緑色の画像信号に対応する教師信号と、前記緑色画素の前記ロー信号に対応する生徒信号とを用いて、各画素の前記教師信号、その画素に対応する画素の前記生徒信号、および予測係数の関係を示す式を解くことにより学習された前記予測係数と、前記画像のうちの注目している画素である注目画素に対応する、前記緑色画素の前記ロー信号のみからなる予測タップとの演算により、前記注目画素の前記緑色の画像信号を求める
請求項2に記載の画像処理装置。 - 前記緑色補間部は、前記ロー信号の形状が前記所定の形状ではない場合、前記緑色の信号に対応する教師信号と、前記ロー信号に対応する生徒信号とを用いて、各画素の前記教師信号、その画素の前記生徒信号、および予測係数の関係を示す式を解くことにより学習された前記予測係数と、前記画像のうちの注目している画素である注目画素に対応する前記ロー信号からなる予測タップとの演算により、前記注目画素の前記緑色の画像信号を求める
請求項2に記載の画像処理装置。 - 前記ロー信号の形状が前記所定の形状であることを判定する形状判定部
をさらに備え、
前記緑色補間部は、前記形状判定部により前記ロー信号の形状が前記所定の形状であると判定された場合、前記緑色画素の前記ロー信号のみを用いて前記緑色の画像信号を生成する
ように構成された
請求項1に記載の画像処理装置。 - 前記形状判定部は、前記ロー信号が表す色に応じた閾値を用いて、前記ロー信号の形状が前記所定の形状であることを判定する
ように構成された
請求項5に記載の画像処理装置。 - 前記形状判定部は、前記緑色画素の前記ロー信号に基づいて前記判定を行う
ように構成された
請求項5に記載の画像処理装置。 - 前記所定の形状は、くさび型である
ように構成された
請求項1に記載の画像処理装置。 - 画像処理装置が、
画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号を生成する緑色補間ステップ
を含む画像処理方法。 - コンピュータを、
画像の各画素の信号として、その画素に割り当てられた色の信号を有するロー信号の形状が、所定の形状である場合、緑色が割り当てられた前記画素である緑色画素の前記ロー信号のみを用いて、前記ロー信号に対応する全ての画素の緑色の画像信号を生成する緑色補間部
として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014027220A JP2015154308A (ja) | 2014-02-17 | 2014-02-17 | 画像処理装置、画像処理方法、およびプログラム |
US14/600,200 US20150235352A1 (en) | 2014-02-17 | 2015-01-20 | Image processing apparatus, image processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014027220A JP2015154308A (ja) | 2014-02-17 | 2014-02-17 | 画像処理装置、画像処理方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015154308A true JP2015154308A (ja) | 2015-08-24 |
Family
ID=53798538
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014027220A Pending JP2015154308A (ja) | 2014-02-17 | 2014-02-17 | 画像処理装置、画像処理方法、およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20150235352A1 (ja) |
JP (1) | JP2015154308A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019176161A1 (ja) * | 2018-03-10 | 2019-09-19 | リアロップ株式会社 | 画像処理装置、画像処理方法、記録媒体及び撮像装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4630307A (en) * | 1984-09-10 | 1986-12-16 | Eastman Kodak Company | Signal processing method and apparatus for sampled image signals |
JPH11122626A (ja) * | 1997-10-17 | 1999-04-30 | Nikon Corp | 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体 |
EP1073279A4 (en) * | 1999-02-19 | 2006-04-05 | Sony Corp | PICTURE SIGNAL PROCESSOR, PICTURE SIGNAL PROCESSING METHOD, LEARNING DEVICE, LERMETHOID AND RECORDING MEDIUM |
KR100826215B1 (ko) * | 2006-07-25 | 2008-04-29 | 엠텍비젼 주식회사 | 격자 노이즈 및 에지 방향을 고려한 컬러 보간 방법 및장치 |
US20100123009A1 (en) * | 2008-11-20 | 2010-05-20 | Datalogic Scanning Inc. | High-resolution interpolation for color-imager-based optical code readers |
-
2014
- 2014-02-17 JP JP2014027220A patent/JP2015154308A/ja active Pending
-
2015
- 2015-01-20 US US14/600,200 patent/US20150235352A1/en not_active Abandoned
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019176161A1 (ja) * | 2018-03-10 | 2019-09-19 | リアロップ株式会社 | 画像処理装置、画像処理方法、記録媒体及び撮像装置 |
Also Published As
Publication number | Publication date |
---|---|
US20150235352A1 (en) | 2015-08-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5454075B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP4097815B2 (ja) | 画像処理装置および画像処理方法 | |
JP5724185B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP4385282B2 (ja) | 画像処理装置および画像処理方法 | |
JP5529048B2 (ja) | 補間システムおよび方法 | |
CN102025959B (zh) | 从低清晰度视频产生高清晰度视频的系统与方法 | |
JP5672776B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP2004221838A (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JP2014194706A (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
WO2001059751A1 (en) | Image processing device and method, and recording medium | |
US10269128B2 (en) | Image processing device and method, and recording medium | |
JP2004048465A (ja) | 画像処理装置および画像処理プログラム | |
JPWO2018163843A1 (ja) | 撮像装置、および撮像方法、並びに画像処理装置、および画像処理方法 | |
JP2015154307A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US8773556B2 (en) | Signal processing device, imaging device, and signal processing method for color interpolation | |
JP2014200008A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2015122576A (ja) | 画素補間処理装置、撮像装置、プログラムおよび集積回路 | |
JP2014042176A (ja) | 画像処理装置および方法、プログラム、並びに、固体撮像装置 | |
CN105046631A (zh) | 图像处理设备和图像处理方法 | |
JP2015154308A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JPWO2017203941A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP2014200000A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2010233241A (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
JP6435560B1 (ja) | 画像処理装置、画像処理方法、プログラム及び撮像装置 | |
JP2009157449A (ja) | 画像処理システム、画像処理方法および画像処理用プログラム |