JP2004229055A - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP2004229055A JP2004229055A JP2003015804A JP2003015804A JP2004229055A JP 2004229055 A JP2004229055 A JP 2004229055A JP 2003015804 A JP2003015804 A JP 2003015804A JP 2003015804 A JP2003015804 A JP 2003015804A JP 2004229055 A JP2004229055 A JP 2004229055A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- correlation
- data
- pixels
- pixel data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 230000002093 peripheral effect Effects 0.000 claims description 23
- 238000000034 method Methods 0.000 abstract description 8
- 238000010586 diagram Methods 0.000 description 12
- 239000003086 colorant Substances 0.000 description 5
- 230000000052 comparative effect Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 238000007906 compression Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 239000002245 particle Substances 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000994 depressogenic effect Effects 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
- Image Input (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
Abstract
【課題】注目画素の周辺画素の相関を正確に求めることにより、Gのプレーンデータを高精度に求める。
【解決手段】注目画素として1つのRまたはB画素を選択し、注目画素の周囲の画素の画素データから相関係数Kを求める(ステップ101)。相関係数Kは注目画素の垂直および水平方向にある関連画素に関する第1相関値と、注目画素の斜め方向に隣接する4つの周辺画素に関する第2相関値とから成る。相関係数K>0か否かを判定する(ステップ102)。相関係数K>0のとき、注目画素の垂直方向の相関が強いと判断し、注目画素の垂直方向にある関連画素の画素データを用いた補間処理により、注目画素のGの画素データを求める(ステップ103)。相関係数K<0のとき、注目画素の水平方向の相関が強いと判断し、注目画素の水平方向にある関連画素の画素データを用いた補間処理により注目画素のGの画素データを求める(ステップ104)。
【選択図】 図8
【解決手段】注目画素として1つのRまたはB画素を選択し、注目画素の周囲の画素の画素データから相関係数Kを求める(ステップ101)。相関係数Kは注目画素の垂直および水平方向にある関連画素に関する第1相関値と、注目画素の斜め方向に隣接する4つの周辺画素に関する第2相関値とから成る。相関係数K>0か否かを判定する(ステップ102)。相関係数K>0のとき、注目画素の垂直方向の相関が強いと判断し、注目画素の垂直方向にある関連画素の画素データを用いた補間処理により、注目画素のGの画素データを求める(ステップ103)。相関係数K<0のとき、注目画素の水平方向の相関が強いと判断し、注目画素の水平方向にある関連画素の画素データを用いた補間処理により注目画素のGの画素データを求める(ステップ104)。
【選択図】 図8
Description
【0001】
【発明の属する技術分野】
本発明は、例えばデジタルカメラに設けられ、撮像素子を介して得られたレッド(R)、グリーン(G)およびブルー(B)の画素データに対して補間処理を施し、Gのプレーンデータを求める画像処理装置に関する。
【0002】
【従来の技術】
従来デジタルカメラにおいて、撮像素子の受光面にR、G、Bのカラーフィルタがベイヤー配列に従って設けられたものが知られている。すなわち撮像素子から読み出された静止画像の生データでは、R、G、B画素がベイヤー配列に従って市松模様に並んでおり、画像処理では、各画素に関して補間処理が実行され、R、G、Bの3枚のプレーンデータが作成される(例えば特許文献1)。
【0003】
Gのプレーンデータは画質に与える影響が大きいため、注目画素であるR画素またはB画素に関し、その画素を通る垂直線および水平線上にある周辺画素の画素データの相関を求めている。すなわち、相対的に強い相関を有する側の画素データを用いて、注目画素のGの画素データを補間処理により求めている。例えば縦縞模様の画像における縦縞の境界線では、垂直方向の相関が強いため、注目画素のGの画素データは垂直方向に位置する画素の画素データが用いられる。
【0004】
【特許文献】
特開2002−218482号公報
【0005】
【発明が解決しようとする課題】
ところが、被写体像の一部が、ざらついた壁面のように一様な色の部分に異なる色の粒が点在するような画像であったり、生データにノイズが含まれているような場合、相関が正確に求められるとは限らない。このため、相関の弱い側の画素データを用いて補間処理を行うこととなり、本来の色成分からかけ離れた色成分の画素データが求められて画質が低下するという問題が生じる。
【0006】
本発明は、注目画素の周辺画素の相関を正確に求めることにより、Gのプレーンデータを高精度に求めることを目的としている。
【0007】
【課題を解決するための手段】
本発明に係る画像処理装置は、レッド(R)、グリーン(G)およびブルー(B)画素が格子状に規則的に配置されて成る画像データにおいて、R画素またはB画素に関してGの画素データを演算により求める画像処理装置であって、注目画素であるR画素またはB画素の垂直方向および水平方向に位置する関連画素の画素データに基づいて、注目画素に関する第1相関値を演算により求める第1相関値演算手段と、注目画素の斜め左上、斜め右上、斜め左下および斜め右下に隣接する4つの周辺画素に関する第2相関値を演算により求める第2相関値演算手段と、第1相関値と第2相関値に基づいて、注目画素の垂直方向および水平方向における画素データの相関関係を求め、垂直方向の相関関係が相対的に大きいときは注目画素の垂直方向に位置するG画素およびR画素またはB画素の画素データを用いて、水平方向の相関関係が相対的に大きいときは注目画素の水平方向に位置するG画素およびR画素またはB画素の画素データを用いて、注目画素のGの画素データを演算により求める画素データ演算手段とを備えることを特徴としている。
【0008】
画素データ演算手段は、好ましくは、前記第1相関値と前記第2相関値に対して異なる係数を乗じて求めた相関係数に基づいて前記相関関係を求める。第2相関値は、各周辺画素の左右に隣接するG画素におけるGの画素データの差の絶対値と、各周辺画素の上下に隣接するG画素におけるGの画素データの差の絶対値とに基づいて演算されてもよい。この場合第2相関値は、例えば、4つの周辺画素の左右に隣接するG画素におけるGの画素データの差の絶対値の和と、4つの周辺画素の上下に隣接するG画素におけるGの画素データの差の絶対値の和との差に基づいて演算される。
【0009】
【発明の実施の形態】
以下、本発明の実施形態を図面を参照して説明する。
図1は、本発明の一実施形態である画像処理装置を備えたデジタルカメラの電気的および光学的な構成を概略的に示すブロック図である。このデジタルカメラは単一の撮像素子(CCD)10を備えている。撮像素子10の受光面には、例えばベイヤー配列に従って、格子状に規則的に配列されたレッド(R)、グリーン(G)およびブルー(B)のカラーフィルタが設けられている。撮影レンズ11の光軸上には、赤外カットフィルタ12と光学ローパスフィルタ13と撮像素子10がこの順に配設されている。したがって撮影レンズ11を通過した光線は、赤外線とノイズ成分を除去されて撮像素子10に入射し、撮像素子10ではアナログの電気信号である画像信号が発生する。
【0010】
この画像信号は、相関二重サンプリング回路(CDS)とAD変換器(ADC)を備えたアナログ信号処理回路14において、ノイズ成分を除去されるとともにデジタルの画像データに変換される。デジタルの画像データは、デジタル信号処理回路15において、後述する種々の画像処理を施される。
【0011】
デジタル信号処理回路15において処理された画像データはメモリ16に格納される。画像データはメモリ16から読み出され、圧縮処理を施されて、PCカード17に静止画像として記録される。静止画像の画像データは、LCD表示回路18において所定の処理を施され、液晶表示装置(LCD)19においてカラー画像として表示される。また、デジタル信号処理回路15から出力された画像データはLCD表示回路18に直接入力され、液晶表示装置19ではモニタ画像が動画として表示される。
【0012】
図2はデジタル信号処理回路15において実行される画像処理の手順を示す図である。デジタル信号処理回路15に入力された画像データ(生データ)は、ステップS1においてホワイトバランス調整される。ステップS2ではG補間が実行され、RとB画素に関して、Gの画素データが補間により求められる。ステップS3ではRB補間が実行され、RとBの画素データが欠落している画素について、RとBの画素データがそれぞれ補間によって求められる。これにより、全ての画素について、R、G、Bの画素データが求められる。
【0013】
ステップS4では、ステップS3の処理結果として得られた画素データに色補正マトリクスが施され、カラーフィルタの特性によって生じる誤差が除去される。ステップS5では色補正マトリクスが施された画素データに対してガンマ補正が施される。ステップS6では輪郭強調が実行される。このようにして得られたRGBカラー画像データは、上述したように、液晶表示装置19に出力され、あるいは圧縮処理を施されてPCカード17に記録される。
【0014】
図3は撮像素子10によって得られた画像データ(生データ)における画素の配置と色を示している。R、G、Bの文字はそれぞれレッド、グリーンおよびブルーの色を示す。したがって画像データにおいて、最上部から奇数番目の列L1ではG画素とR画素が交互に並び、偶数番目の列L2ではB画素とG画素が交互に並んでいる。数字は座標を示し、座標の原点は左隅(すなわち「G00」)である。例えば上から3番目の列では、左から右へ向かってG20、R21、G22、R23・・・の順に並んでいる。なお図3において、G画素は2重枠によって示されている。
【0015】
図3〜図7を参照して、本実施形態を用いない場合、すなわち比較例におけるGのプレーンデータの生成を説明する。
図4において、枠Wによって囲まれた部分は図3に対応している。枠Wの外側には、枠Wの最外周に位置する画素と同じ画素データが二重に記載され、画像データは2画素分だけ拡張されている。網かけの部分はG画素であり、濃い網かけの部分(70と記載されている)はR23(図3参照)に対応する。
【0016】
注目画素がR23であるとき、下記(1)式に従って相関係数Kが演算される。
(1)式において、a、b、cは係数であり、経験的に求められる。また(1)式において、R23、G22、G24等の符号はその画素における画素データを示す。なお以下の説明においても、式中のR23等の符号はその画素における画素データを示す。
【0017】
相関係数K>0であるとき、R23の垂直方向の相関が相対的に強いと判断され、R23の垂直方向に位置する関連画素の画素データを用いて、下記(2)式に従った補間処理によりG23が求められる。
G23=(G13+G33)/2+(−R03+2R23−R43)/8 ・・・(2)
すなわち関連画素は、R23の上下側に隣接するG画素(G13、G33)と、これらのG画素の上方または下方に隣接するR画素(R03、R43)である。
【0018】
これに対して相関係数K<0であるとき、R23の水平方向の相関が相対的に強いと判断され、R23の水平方向に位置する関連画素の画素データを用いて、下記(3)式に従った補間処理によりG23が求められる。
G23=(G22+G24)/2+(−R21+2R23−R25)/8 ・・・(3)
すなわち関連画素は、R23の左右側に隣接するG画素(G22、G24)と、これらのG画素の左側または右側に隣接するR画素(R21、R25)である。
【0019】
図4の例におけるR画素とB画素の相関係数Kを(1)式に従って求めると、図5に示す結果が得られる。なお、図5において網かけの部分はG画素に対応しており、相関係数Kは存在しない。濃い網かけの部分(−10と記載されている)は、R23の画素の相関係数Kである。
【0020】
図5に示される相関係数Kを用いて、(2)式または(3)式に従って全てのR画素とB画素のGの画素データを求めると、図6に示す結果が得られる。なお、係数a、b、cはそれぞれ1である。
【0021】
図6において網かけの部分はG画素であり、(2)式または(3)式による演算は適用されない。濃い網かけの部分(58.8と記載されている)は、R23におけるGの補間データ(すなわちG23)である。図5に示されるようにR23の画素の相関係数K(=−10)<0であるので、水平方向に相関が強いと判断され、(3)式が用いられてG23=58.8が求められる。
【0022】
図7は、このようにして得られた全ての画素におけるGの画素データを3次元的に示し、かつ画素データが60以上である部分を黒く塗って示したものである。この図から理解されるように、G23の画素データ(符号Q1)は隣接するG画素の画素データよりも相対的に小さく、峰状に突出した部分(符号Q2)を図の右側から見ると、符号Q1の所で窪んでいる。これは、G23を求めるときに、その画素の相関係数Kに誤差が生じていたためであると考えられ、本実施形態では、次に述べるように注目画素の斜め方向に位置する周辺画素も考慮して求めた相関係数Kを用いている。
【0023】
図8は注目画素であるR画素およびB画素のGの画素データを求める補間処理ルーチンのフローチャートである。
【0024】
ステップ101では、注目画素として1つのR画素またはB画素が選択されるとともに、注目画素の周囲の画素の画素データから相関係数Kが求められる。ここで「周囲の画素」は、注目画素の垂直方向および水平方向に位置する関連画素だけでなく、注目画素の斜め左上、斜め右上、斜め左下および斜め右下に隣接する4つの周辺画素も含む。例えばR23の画素の場合、関連画素はR03、G13、G33、R43、R21、G22、G24、R25であり、周辺画素はB12、B14、B32、B34である。
【0025】
R23を例にとると、相関係数Kは下記(4)式に従って演算される。
(4)式を(1)式と比較することから明らかなように、係数dがかかっている項が追加され、周辺画素が考慮されている。なお係数dは係数a、b、cと同様に経験に基づいて任意に決定することができ、相互に異なる値をとってもよく、あるいは全ての係数が1であってもよい。
【0026】
(4)式において、係数a、b、cがかかっている3つの項の和は第1相関値であり、注目画素の垂直方向および水平方向の相関の強さを概略的に示す指標である。また、係数dがかかっている4つ目の項は4つの周辺画素に関する第2相関値であり、周辺画素が水平方向と垂直方向のいずれに相関が強いかを示している。第2相関値は、各周辺画素の左右に隣接するG画素におけるGの画素データの差の絶対値と、各周辺画素の上下に隣接するG画素におけるGの画素データの差の絶対値とに基づいて演算され、本実施形態では、各周辺画素の左右に隣接するG画素におけるGの画素データの差の絶対値の和と、各周辺画素の上下に隣接するG画素におけるGの画素データの差の絶対値の和との差に、係数dを乗じて求められる。つまり第2の相関値は、注目画素から上下左右に1画素ずれた井桁状の4本の直線上のG画素データから注目画素近傍の縦横相関値を求めることにより、求められる。
【0027】
ステップ102では、相関係数K>0であるか否かが判定される。相関係数K>0であるとき、注目画素の垂直方向の相関が相対的に強いと判断され、注目画素の垂直方向に位置する関連画素の画素データを用いた補間処理により、注目画素のGの画素データが求められる。この演算は(2)式と同じである。
【0028】
これに対して相関係数K<0であるときは、注目画素の水平方向の相関が相対的に強いと判断され、注目画素の水平方向に位置する関連画素の画素データを用いた補間処理により、注目画素のGの画素データが求められる。この演算は(3)式と同じである。
【0029】
ステップ105では、全てのR画素とB画素について、ステップ101〜104の処理が完了したか否かが判定される。完了していなければステップ101へ戻り、上述した処理が再び実行され、完了していれば補間処理ルーチンは終了する。
【0030】
図4の例におけるR画素とB画素の相関係数Kを(4)式に従って求めると、図9に示す結果が得られる。図5と同様に、図9において網かけの部分はG画素に対応している。濃い網かけの部分(50と記載されている)は、R23の画素の相関係数Kである。
【0031】
図9に示される相関係数Kを用いて、(2)式または(3)式に従って全てのR画素とB画素のGの画素データを求めると、図10に示すようなGのプレーンデータが得られる。なお、係数a、b、c、dはそれぞれ1である。
【0032】
図10において、濃い網かけの部分(70と記載されている)は、R23におけるGの補間データ(すなわちG23)である。図9に示されるようにR23の画素の相関係数K(=50)>0であるので、垂直方向に相関が強いと判断され、(2)式が用いられてG23=70が求められる。
【0033】
図11は、このようにして得られた全ての画素におけるGの画素データを3次元的に示し、かつ画素データが60以上である部分を黒く塗って示したものである。この図から理解されるように、G23の画素データ(符号Q3)は隣接するG画素の画素データの中間の値を有しており、峰状に突出した部分(符号Q4)を図の右側から見ると、符号Q3の部分はその両側の部分と滑らかにつながっている(図7の比較例参照)。これは、R23の周辺画素に関する第2相関値も考慮して相関係数Kを用いたためであると考えられる。
【0034】
したがって本実施形態によれば、被写体像の一部が、ざらついた壁面のように一様な色の部分に異なる色の粒が点在するような画像であったり、被写体像にノイズが存在したりするような場合であっても、相関が正確に求められる。すなわち、常に、相関の強い側の画素データを用いて補間処理を行うこととなり、本来の色成分に近い色成分の画素データが求められ、画質が低下が防止される。
【0035】
なお、R画素とB画素は通常の補間処理により求められる。
【0036】
【発明の効果】
以上のように本発明によれば、注目画素の周辺画素の相関を正確に求めることにより、Gのプレーンデータを高精度に求めることができる。
【図面の簡単な説明】
【図1】本発明の一実施形態である画像処理装置を備えたデジタルカメラの電気的および光学的な構成を示すブロック図である。
【図2】デジタル信号処理回路において実行される画像処理の手順を示す図である。
【図3】撮像素子によって得られた画像データにおける画素の配置と色を示す図である。
【図4】撮像素子によって得られた画像データの数値を示す図である。
【図5】比較例における各注目画素の相関係数Kの分布を示す図である。
【図6】比較例におけるGのプレーンデータを示す図である。
【図7】図6のGのプレーンデータを3次元的に示す図である。
【図8】補間処理ルーチンのフローチャートである。
【図9】実施形態における各注目画素の相関係数Kの分布を示す図である。
【図10】実施形態におけるGのプレーンデータを示す図である。
【図11】図10のGのプレーンデータを3次元的に示す図である。
【符号の説明】
10 撮像素子
【発明の属する技術分野】
本発明は、例えばデジタルカメラに設けられ、撮像素子を介して得られたレッド(R)、グリーン(G)およびブルー(B)の画素データに対して補間処理を施し、Gのプレーンデータを求める画像処理装置に関する。
【0002】
【従来の技術】
従来デジタルカメラにおいて、撮像素子の受光面にR、G、Bのカラーフィルタがベイヤー配列に従って設けられたものが知られている。すなわち撮像素子から読み出された静止画像の生データでは、R、G、B画素がベイヤー配列に従って市松模様に並んでおり、画像処理では、各画素に関して補間処理が実行され、R、G、Bの3枚のプレーンデータが作成される(例えば特許文献1)。
【0003】
Gのプレーンデータは画質に与える影響が大きいため、注目画素であるR画素またはB画素に関し、その画素を通る垂直線および水平線上にある周辺画素の画素データの相関を求めている。すなわち、相対的に強い相関を有する側の画素データを用いて、注目画素のGの画素データを補間処理により求めている。例えば縦縞模様の画像における縦縞の境界線では、垂直方向の相関が強いため、注目画素のGの画素データは垂直方向に位置する画素の画素データが用いられる。
【0004】
【特許文献】
特開2002−218482号公報
【0005】
【発明が解決しようとする課題】
ところが、被写体像の一部が、ざらついた壁面のように一様な色の部分に異なる色の粒が点在するような画像であったり、生データにノイズが含まれているような場合、相関が正確に求められるとは限らない。このため、相関の弱い側の画素データを用いて補間処理を行うこととなり、本来の色成分からかけ離れた色成分の画素データが求められて画質が低下するという問題が生じる。
【0006】
本発明は、注目画素の周辺画素の相関を正確に求めることにより、Gのプレーンデータを高精度に求めることを目的としている。
【0007】
【課題を解決するための手段】
本発明に係る画像処理装置は、レッド(R)、グリーン(G)およびブルー(B)画素が格子状に規則的に配置されて成る画像データにおいて、R画素またはB画素に関してGの画素データを演算により求める画像処理装置であって、注目画素であるR画素またはB画素の垂直方向および水平方向に位置する関連画素の画素データに基づいて、注目画素に関する第1相関値を演算により求める第1相関値演算手段と、注目画素の斜め左上、斜め右上、斜め左下および斜め右下に隣接する4つの周辺画素に関する第2相関値を演算により求める第2相関値演算手段と、第1相関値と第2相関値に基づいて、注目画素の垂直方向および水平方向における画素データの相関関係を求め、垂直方向の相関関係が相対的に大きいときは注目画素の垂直方向に位置するG画素およびR画素またはB画素の画素データを用いて、水平方向の相関関係が相対的に大きいときは注目画素の水平方向に位置するG画素およびR画素またはB画素の画素データを用いて、注目画素のGの画素データを演算により求める画素データ演算手段とを備えることを特徴としている。
【0008】
画素データ演算手段は、好ましくは、前記第1相関値と前記第2相関値に対して異なる係数を乗じて求めた相関係数に基づいて前記相関関係を求める。第2相関値は、各周辺画素の左右に隣接するG画素におけるGの画素データの差の絶対値と、各周辺画素の上下に隣接するG画素におけるGの画素データの差の絶対値とに基づいて演算されてもよい。この場合第2相関値は、例えば、4つの周辺画素の左右に隣接するG画素におけるGの画素データの差の絶対値の和と、4つの周辺画素の上下に隣接するG画素におけるGの画素データの差の絶対値の和との差に基づいて演算される。
【0009】
【発明の実施の形態】
以下、本発明の実施形態を図面を参照して説明する。
図1は、本発明の一実施形態である画像処理装置を備えたデジタルカメラの電気的および光学的な構成を概略的に示すブロック図である。このデジタルカメラは単一の撮像素子(CCD)10を備えている。撮像素子10の受光面には、例えばベイヤー配列に従って、格子状に規則的に配列されたレッド(R)、グリーン(G)およびブルー(B)のカラーフィルタが設けられている。撮影レンズ11の光軸上には、赤外カットフィルタ12と光学ローパスフィルタ13と撮像素子10がこの順に配設されている。したがって撮影レンズ11を通過した光線は、赤外線とノイズ成分を除去されて撮像素子10に入射し、撮像素子10ではアナログの電気信号である画像信号が発生する。
【0010】
この画像信号は、相関二重サンプリング回路(CDS)とAD変換器(ADC)を備えたアナログ信号処理回路14において、ノイズ成分を除去されるとともにデジタルの画像データに変換される。デジタルの画像データは、デジタル信号処理回路15において、後述する種々の画像処理を施される。
【0011】
デジタル信号処理回路15において処理された画像データはメモリ16に格納される。画像データはメモリ16から読み出され、圧縮処理を施されて、PCカード17に静止画像として記録される。静止画像の画像データは、LCD表示回路18において所定の処理を施され、液晶表示装置(LCD)19においてカラー画像として表示される。また、デジタル信号処理回路15から出力された画像データはLCD表示回路18に直接入力され、液晶表示装置19ではモニタ画像が動画として表示される。
【0012】
図2はデジタル信号処理回路15において実行される画像処理の手順を示す図である。デジタル信号処理回路15に入力された画像データ(生データ)は、ステップS1においてホワイトバランス調整される。ステップS2ではG補間が実行され、RとB画素に関して、Gの画素データが補間により求められる。ステップS3ではRB補間が実行され、RとBの画素データが欠落している画素について、RとBの画素データがそれぞれ補間によって求められる。これにより、全ての画素について、R、G、Bの画素データが求められる。
【0013】
ステップS4では、ステップS3の処理結果として得られた画素データに色補正マトリクスが施され、カラーフィルタの特性によって生じる誤差が除去される。ステップS5では色補正マトリクスが施された画素データに対してガンマ補正が施される。ステップS6では輪郭強調が実行される。このようにして得られたRGBカラー画像データは、上述したように、液晶表示装置19に出力され、あるいは圧縮処理を施されてPCカード17に記録される。
【0014】
図3は撮像素子10によって得られた画像データ(生データ)における画素の配置と色を示している。R、G、Bの文字はそれぞれレッド、グリーンおよびブルーの色を示す。したがって画像データにおいて、最上部から奇数番目の列L1ではG画素とR画素が交互に並び、偶数番目の列L2ではB画素とG画素が交互に並んでいる。数字は座標を示し、座標の原点は左隅(すなわち「G00」)である。例えば上から3番目の列では、左から右へ向かってG20、R21、G22、R23・・・の順に並んでいる。なお図3において、G画素は2重枠によって示されている。
【0015】
図3〜図7を参照して、本実施形態を用いない場合、すなわち比較例におけるGのプレーンデータの生成を説明する。
図4において、枠Wによって囲まれた部分は図3に対応している。枠Wの外側には、枠Wの最外周に位置する画素と同じ画素データが二重に記載され、画像データは2画素分だけ拡張されている。網かけの部分はG画素であり、濃い網かけの部分(70と記載されている)はR23(図3参照)に対応する。
【0016】
注目画素がR23であるとき、下記(1)式に従って相関係数Kが演算される。
(1)式において、a、b、cは係数であり、経験的に求められる。また(1)式において、R23、G22、G24等の符号はその画素における画素データを示す。なお以下の説明においても、式中のR23等の符号はその画素における画素データを示す。
【0017】
相関係数K>0であるとき、R23の垂直方向の相関が相対的に強いと判断され、R23の垂直方向に位置する関連画素の画素データを用いて、下記(2)式に従った補間処理によりG23が求められる。
G23=(G13+G33)/2+(−R03+2R23−R43)/8 ・・・(2)
すなわち関連画素は、R23の上下側に隣接するG画素(G13、G33)と、これらのG画素の上方または下方に隣接するR画素(R03、R43)である。
【0018】
これに対して相関係数K<0であるとき、R23の水平方向の相関が相対的に強いと判断され、R23の水平方向に位置する関連画素の画素データを用いて、下記(3)式に従った補間処理によりG23が求められる。
G23=(G22+G24)/2+(−R21+2R23−R25)/8 ・・・(3)
すなわち関連画素は、R23の左右側に隣接するG画素(G22、G24)と、これらのG画素の左側または右側に隣接するR画素(R21、R25)である。
【0019】
図4の例におけるR画素とB画素の相関係数Kを(1)式に従って求めると、図5に示す結果が得られる。なお、図5において網かけの部分はG画素に対応しており、相関係数Kは存在しない。濃い網かけの部分(−10と記載されている)は、R23の画素の相関係数Kである。
【0020】
図5に示される相関係数Kを用いて、(2)式または(3)式に従って全てのR画素とB画素のGの画素データを求めると、図6に示す結果が得られる。なお、係数a、b、cはそれぞれ1である。
【0021】
図6において網かけの部分はG画素であり、(2)式または(3)式による演算は適用されない。濃い網かけの部分(58.8と記載されている)は、R23におけるGの補間データ(すなわちG23)である。図5に示されるようにR23の画素の相関係数K(=−10)<0であるので、水平方向に相関が強いと判断され、(3)式が用いられてG23=58.8が求められる。
【0022】
図7は、このようにして得られた全ての画素におけるGの画素データを3次元的に示し、かつ画素データが60以上である部分を黒く塗って示したものである。この図から理解されるように、G23の画素データ(符号Q1)は隣接するG画素の画素データよりも相対的に小さく、峰状に突出した部分(符号Q2)を図の右側から見ると、符号Q1の所で窪んでいる。これは、G23を求めるときに、その画素の相関係数Kに誤差が生じていたためであると考えられ、本実施形態では、次に述べるように注目画素の斜め方向に位置する周辺画素も考慮して求めた相関係数Kを用いている。
【0023】
図8は注目画素であるR画素およびB画素のGの画素データを求める補間処理ルーチンのフローチャートである。
【0024】
ステップ101では、注目画素として1つのR画素またはB画素が選択されるとともに、注目画素の周囲の画素の画素データから相関係数Kが求められる。ここで「周囲の画素」は、注目画素の垂直方向および水平方向に位置する関連画素だけでなく、注目画素の斜め左上、斜め右上、斜め左下および斜め右下に隣接する4つの周辺画素も含む。例えばR23の画素の場合、関連画素はR03、G13、G33、R43、R21、G22、G24、R25であり、周辺画素はB12、B14、B32、B34である。
【0025】
R23を例にとると、相関係数Kは下記(4)式に従って演算される。
(4)式を(1)式と比較することから明らかなように、係数dがかかっている項が追加され、周辺画素が考慮されている。なお係数dは係数a、b、cと同様に経験に基づいて任意に決定することができ、相互に異なる値をとってもよく、あるいは全ての係数が1であってもよい。
【0026】
(4)式において、係数a、b、cがかかっている3つの項の和は第1相関値であり、注目画素の垂直方向および水平方向の相関の強さを概略的に示す指標である。また、係数dがかかっている4つ目の項は4つの周辺画素に関する第2相関値であり、周辺画素が水平方向と垂直方向のいずれに相関が強いかを示している。第2相関値は、各周辺画素の左右に隣接するG画素におけるGの画素データの差の絶対値と、各周辺画素の上下に隣接するG画素におけるGの画素データの差の絶対値とに基づいて演算され、本実施形態では、各周辺画素の左右に隣接するG画素におけるGの画素データの差の絶対値の和と、各周辺画素の上下に隣接するG画素におけるGの画素データの差の絶対値の和との差に、係数dを乗じて求められる。つまり第2の相関値は、注目画素から上下左右に1画素ずれた井桁状の4本の直線上のG画素データから注目画素近傍の縦横相関値を求めることにより、求められる。
【0027】
ステップ102では、相関係数K>0であるか否かが判定される。相関係数K>0であるとき、注目画素の垂直方向の相関が相対的に強いと判断され、注目画素の垂直方向に位置する関連画素の画素データを用いた補間処理により、注目画素のGの画素データが求められる。この演算は(2)式と同じである。
【0028】
これに対して相関係数K<0であるときは、注目画素の水平方向の相関が相対的に強いと判断され、注目画素の水平方向に位置する関連画素の画素データを用いた補間処理により、注目画素のGの画素データが求められる。この演算は(3)式と同じである。
【0029】
ステップ105では、全てのR画素とB画素について、ステップ101〜104の処理が完了したか否かが判定される。完了していなければステップ101へ戻り、上述した処理が再び実行され、完了していれば補間処理ルーチンは終了する。
【0030】
図4の例におけるR画素とB画素の相関係数Kを(4)式に従って求めると、図9に示す結果が得られる。図5と同様に、図9において網かけの部分はG画素に対応している。濃い網かけの部分(50と記載されている)は、R23の画素の相関係数Kである。
【0031】
図9に示される相関係数Kを用いて、(2)式または(3)式に従って全てのR画素とB画素のGの画素データを求めると、図10に示すようなGのプレーンデータが得られる。なお、係数a、b、c、dはそれぞれ1である。
【0032】
図10において、濃い網かけの部分(70と記載されている)は、R23におけるGの補間データ(すなわちG23)である。図9に示されるようにR23の画素の相関係数K(=50)>0であるので、垂直方向に相関が強いと判断され、(2)式が用いられてG23=70が求められる。
【0033】
図11は、このようにして得られた全ての画素におけるGの画素データを3次元的に示し、かつ画素データが60以上である部分を黒く塗って示したものである。この図から理解されるように、G23の画素データ(符号Q3)は隣接するG画素の画素データの中間の値を有しており、峰状に突出した部分(符号Q4)を図の右側から見ると、符号Q3の部分はその両側の部分と滑らかにつながっている(図7の比較例参照)。これは、R23の周辺画素に関する第2相関値も考慮して相関係数Kを用いたためであると考えられる。
【0034】
したがって本実施形態によれば、被写体像の一部が、ざらついた壁面のように一様な色の部分に異なる色の粒が点在するような画像であったり、被写体像にノイズが存在したりするような場合であっても、相関が正確に求められる。すなわち、常に、相関の強い側の画素データを用いて補間処理を行うこととなり、本来の色成分に近い色成分の画素データが求められ、画質が低下が防止される。
【0035】
なお、R画素とB画素は通常の補間処理により求められる。
【0036】
【発明の効果】
以上のように本発明によれば、注目画素の周辺画素の相関を正確に求めることにより、Gのプレーンデータを高精度に求めることができる。
【図面の簡単な説明】
【図1】本発明の一実施形態である画像処理装置を備えたデジタルカメラの電気的および光学的な構成を示すブロック図である。
【図2】デジタル信号処理回路において実行される画像処理の手順を示す図である。
【図3】撮像素子によって得られた画像データにおける画素の配置と色を示す図である。
【図4】撮像素子によって得られた画像データの数値を示す図である。
【図5】比較例における各注目画素の相関係数Kの分布を示す図である。
【図6】比較例におけるGのプレーンデータを示す図である。
【図7】図6のGのプレーンデータを3次元的に示す図である。
【図8】補間処理ルーチンのフローチャートである。
【図9】実施形態における各注目画素の相関係数Kの分布を示す図である。
【図10】実施形態におけるGのプレーンデータを示す図である。
【図11】図10のGのプレーンデータを3次元的に示す図である。
【符号の説明】
10 撮像素子
Claims (4)
- レッド(R)、グリーン(G)およびブルー(B)画素が格子状に規則的に配置されて成る画像データにおいて、R画素またはB画素に関してGの画素データを演算により求める画像処理装置であって、
注目画素であるR画素またはB画素の垂直方向および水平方向に位置する関連画素の画素データに基づいて、前記注目画素に関する第1相関値を演算により求める第1相関値演算手段と、
前記注目画素の斜め左上、斜め右上、斜め左下および斜め右下に隣接する4つの周辺画素に関する第2相関値を演算により求める第2相関値演算手段と、
前記第1相関値と前記第2相関値に基づいて、前記注目画素の垂直方向および水平方向における画素データの相関関係を求め、垂直方向の相関関係が相対的に大きいときは前記注目画素の垂直方向に位置するG画素およびR画素またはB画素の画素データを用いて、水平方向の相関関係が相対的に大きいときは前記注目画素の水平方向に位置するG画素およびR画素またはB画素の画素データを用いて、前記注目画素のGの画素データを演算により求める画素データ演算手段と
を備えることを特徴とする画像処理装置。 - 前記画素データ演算手段が、前記第1相関値と前記第2相関値に対して異なる係数を乗じて求めた相関係数に基づいて前記相関関係を求めることを特徴とする請求項1に記載の画像処理装置。
- 前記第2相関値が、前記各周辺画素の左右に隣接するG画素におけるGの画素データの差の絶対値と、前記各周辺画素の上下に隣接するG画素におけるGの画素データの差の絶対値とに基づいて演算されることを特徴とする請求項1に記載の画像処理装置。
- 前記第2相関値が、前記4つの周辺画素の左右に隣接するG画素におけるGの画素データの差の絶対値の和と、前記4つの周辺画素の上下に隣接するG画素におけるGの画素データの差の絶対値の和との差に基づいて演算されることを特徴とする請求項3に記載の画像処理装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003015804A JP2004229055A (ja) | 2003-01-24 | 2003-01-24 | 画像処理装置 |
US10/762,360 US20040160521A1 (en) | 2003-01-24 | 2004-01-23 | Image processing device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003015804A JP2004229055A (ja) | 2003-01-24 | 2003-01-24 | 画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004229055A true JP2004229055A (ja) | 2004-08-12 |
Family
ID=32844090
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003015804A Withdrawn JP2004229055A (ja) | 2003-01-24 | 2003-01-24 | 画像処理装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20040160521A1 (ja) |
JP (1) | JP2004229055A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007037104A (ja) * | 2005-06-21 | 2007-02-08 | Sony Corp | 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム |
JP2009055595A (ja) * | 2007-07-30 | 2009-03-12 | Casio Comput Co Ltd | 画素補間回路、およびプログラム |
US8009935B2 (en) | 2007-07-30 | 2011-08-30 | Casio Computer Co., Ltd. | Pixel interpolation circuit, pixel interpolation method, and recording medium |
CN103856767A (zh) * | 2012-11-30 | 2014-06-11 | 三星泰科威株式会社 | 用于处理图像的方法和设备 |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006020015A (ja) * | 2004-07-01 | 2006-01-19 | Pentax Corp | 画像処理装置 |
US7443428B2 (en) | 2004-07-01 | 2008-10-28 | Hoya Corporation | Image processing device |
JP4352331B2 (ja) * | 2004-09-09 | 2009-10-28 | 富士フイルム株式会社 | 信号処理装置、信号処理方法及び信号処理プログラム |
JP4682070B2 (ja) * | 2006-03-23 | 2011-05-11 | Hoya株式会社 | 画像信号処理装置 |
JP4612593B2 (ja) * | 2006-07-26 | 2011-01-12 | Hoya株式会社 | 画像記録装置 |
US7825965B2 (en) * | 2007-09-07 | 2010-11-02 | Seiko Epson Corporation | Method and apparatus for interpolating missing colors in a color filter array |
US20090092338A1 (en) * | 2007-10-05 | 2009-04-09 | Jeffrey Matthew Achong | Method And Apparatus For Determining The Direction of Color Dependency Interpolating In Order To Generate Missing Colors In A Color Filter Array |
CN108014424B (zh) * | 2017-12-29 | 2020-12-18 | 深圳开立生物医疗科技股份有限公司 | 一种内窥镜装置 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3787927B2 (ja) * | 1996-11-18 | 2006-06-21 | ソニー株式会社 | 撮像装置及びカラー画像信号の処理方法 |
US6697107B1 (en) * | 1998-07-09 | 2004-02-24 | Eastman Kodak Company | Smoothing a digital color image using luminance values |
JP4097815B2 (ja) * | 1998-11-24 | 2008-06-11 | 株式会社リコー | 画像処理装置および画像処理方法 |
US6781626B1 (en) * | 2000-01-13 | 2004-08-24 | Biomorphic Vlsi, Inc. | System and method of color interpolation |
US20020047907A1 (en) * | 2000-08-30 | 2002-04-25 | Nikon Corporation | Image processing apparatus and storage medium for storing image processing program |
US7046277B2 (en) * | 2001-01-26 | 2006-05-16 | Pentax Corporation | Image interpolating device, including interpolation and modification processors |
-
2003
- 2003-01-24 JP JP2003015804A patent/JP2004229055A/ja not_active Withdrawn
-
2004
- 2004-01-23 US US10/762,360 patent/US20040160521A1/en not_active Abandoned
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007037104A (ja) * | 2005-06-21 | 2007-02-08 | Sony Corp | 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム |
JP2009055595A (ja) * | 2007-07-30 | 2009-03-12 | Casio Comput Co Ltd | 画素補間回路、およびプログラム |
JP4497233B2 (ja) * | 2007-07-30 | 2010-07-07 | カシオ計算機株式会社 | 画素補間回路、およびプログラム |
KR101003605B1 (ko) | 2007-07-30 | 2010-12-23 | 가시오게산키 가부시키가이샤 | 화소보간회로, 화소보간방법 및 기록매체 |
KR101003681B1 (ko) | 2007-07-30 | 2010-12-23 | 가시오게산키 가부시키가이샤 | 화소보간회로, 화소보간방법 및 기록매체 |
US8009935B2 (en) | 2007-07-30 | 2011-08-30 | Casio Computer Co., Ltd. | Pixel interpolation circuit, pixel interpolation method, and recording medium |
TWI387352B (zh) * | 2007-07-30 | 2013-02-21 | Casio Computer Co Ltd | 畫素插補電路、畫素插補方法及記錄媒體 |
TWI387353B (zh) * | 2007-07-30 | 2013-02-21 | Casio Computer Co Ltd | 畫素插補電路、畫素插補方法及記錄媒體 |
CN103856767A (zh) * | 2012-11-30 | 2014-06-11 | 三星泰科威株式会社 | 用于处理图像的方法和设备 |
CN103856767B (zh) * | 2012-11-30 | 2017-05-03 | 韩华泰科株式会社 | 用于处理图像的方法和设备 |
KR101744761B1 (ko) * | 2012-11-30 | 2017-06-09 | 한화테크윈 주식회사 | 영상처리장치 및 방법 |
Also Published As
Publication number | Publication date |
---|---|
US20040160521A1 (en) | 2004-08-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9055181B2 (en) | Solid-state imaging device, image processing apparatus, and a camera module having an image synthesizer configured to synthesize color information | |
JP5740465B2 (ja) | 撮像装置及び欠陥画素補正方法 | |
EP2184915B1 (en) | Image processing device, image processing method, and image processing program | |
US8284278B2 (en) | Image processing apparatus, imaging apparatus, method of correction coefficient calculation, and storage medium storing image processing program | |
WO2006048962A1 (ja) | 画素信号処理装置及び画素信号処理方法 | |
CN103460703B (zh) | 彩色摄像元件及摄像装置 | |
JP2004229055A (ja) | 画像処理装置 | |
CN104041021B (zh) | 图像处理装置及方法以及摄像装置 | |
JP5268321B2 (ja) | 画像処理装置及び画像処理方法、画像処理プログラム | |
CN103460702B (zh) | 彩色摄像元件及摄像装置 | |
JP5786355B2 (ja) | デフォーカス量検出装置および電子カメラ | |
JPWO2006059365A1 (ja) | 画像処理装置、非撮像色信号算出装置及び画像処理方法 | |
JP5055588B2 (ja) | 画像処理装置および画像処理方法 | |
US7324138B2 (en) | False-color reducing device | |
US20110292182A1 (en) | Camera module and image recording method | |
JP5036524B2 (ja) | 画像処理装置、画像処理方法、プログラムおよび撮像装置 | |
JP4581633B2 (ja) | 色信号補正方法、装置及びプログラム | |
JP5673186B2 (ja) | 撮像装置及び撮像装置の補間処理方法 | |
JP5484015B2 (ja) | 撮像装置、撮像方法、及びプログラム | |
JP4105942B2 (ja) | 画像処理装置 | |
JP5228929B2 (ja) | 画像処理装置、撮像装置及び画像処理プログラム | |
JP2007053659A (ja) | 計測用撮像装置 | |
JP4021306B2 (ja) | 偽色低減装置 | |
JP2008035090A (ja) | 信号処理方法およびカメラ | |
JP2007195258A (ja) | カラー撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051205 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071019 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071030 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20071205 |