JP2012173943A - 画像処理装置および画像処理プログラム - Google Patents
画像処理装置および画像処理プログラム Download PDFInfo
- Publication number
- JP2012173943A JP2012173943A JP2011034661A JP2011034661A JP2012173943A JP 2012173943 A JP2012173943 A JP 2012173943A JP 2011034661 A JP2011034661 A JP 2011034661A JP 2011034661 A JP2011034661 A JP 2011034661A JP 2012173943 A JP2012173943 A JP 2012173943A
- Authority
- JP
- Japan
- Prior art keywords
- image
- determination unit
- image processing
- pixel
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 79
- 230000008859 change Effects 0.000 claims abstract description 7
- 230000003287 optical effect Effects 0.000 claims description 17
- 238000000605 extraction Methods 0.000 claims description 13
- 239000000284 extract Substances 0.000 claims description 6
- 239000000428 dust Substances 0.000 abstract description 63
- 230000007547 defect Effects 0.000 abstract description 31
- 238000012937 correction Methods 0.000 description 58
- 238000003384 imaging method Methods 0.000 description 16
- 238000006243 chemical reaction Methods 0.000 description 14
- 238000001514 detection method Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 12
- 238000002834 transmittance Methods 0.000 description 10
- 238000000034 method Methods 0.000 description 8
- 230000007717 exclusion Effects 0.000 description 7
- 230000002093 peripheral effect Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000003702 image correction Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Abstract
【課題】ゴミ影等の画像欠損部位を良好に検出することのできる画像処理装置および画像処理プログラムを提供する。
【解決手段】画像処理装置は、処理対象画像に対して明るさの変化量に基づいて連結した画素領域を判定する連結領域判定部61と、連結領域判定部61によって判定された連結した画素領域のうちから所定範囲の大きさの画素領域を抽出する対象領域抽出部62と、連結領域判定部61によって判定された連結した画素領域のうちから領域内外における明るさの違いが大きい画素領域を選択する明るさ判定部63と、連結領域判定部61によって判定された連結した画素領域のうちから領域内外における色相の違いが小さい画素領域を選択する色相判定部64と、を備える。
【選択図】図4
【解決手段】画像処理装置は、処理対象画像に対して明るさの変化量に基づいて連結した画素領域を判定する連結領域判定部61と、連結領域判定部61によって判定された連結した画素領域のうちから所定範囲の大きさの画素領域を抽出する対象領域抽出部62と、連結領域判定部61によって判定された連結した画素領域のうちから領域内外における明るさの違いが大きい画素領域を選択する明るさ判定部63と、連結領域判定部61によって判定された連結した画素領域のうちから領域内外における色相の違いが小さい画素領域を選択する色相判定部64と、を備える。
【選択図】図4
Description
本発明は、画像処理装置および画像処理プログラムに関する。
電子カメラ等により撮像を行う際、光学フィルタ等にゴミが付着していると、ゴミの影が撮像画像に写り込む場合がある。このように画像に写り込んだゴミ影等による画像欠損部位を補正するものとして、ゴミ影の写り込んだ基準画像からゴミ位置の座標等の情報を得、その情報に基づいて通常撮影された撮影画像に写り込んだゴミ影による画像欠損を補正する画像処理装置が知られている。
また、補正対象の画像におけるゴミ影による透過率の変化(各画素における輝度情報の変化)からゴミを検出し、ゴミ影を削除する補正を行う技術が知られている(特許文献1参照)。
また、補正対象の画像におけるゴミ影による透過率の変化(各画素における輝度情報の変化)からゴミを検出し、ゴミ影を削除する補正を行う技術が知られている(特許文献1参照)。
しかしながら、ゴミ影部分の光の透過率(輝度変化)に基づくゴミ影の検出では、被写体像をゴミ影として誤検出してしまうことがある。
本発明の課題は、ゴミ影等の画像欠損部位を良好に検出することのできる画像処理装置を提供することである。
本発明は、以下のような解決手段により前記課題を解決する。なお、理解を容易にするために、本発明の実施形態に対応する符号を付して説明するが、これに限定されるものではない。
請求項1に記載の発明は、光学素子(3L,12)を介して撮像素子(13)により撮像された処理対象画像に対して、明るさの変化量に基づいて連結した画素領域を判定する連結領域判定部(61)と、前記連結領域判定部(61)によって判定された連結した画素領域のうちから所定範囲の大きさの対象画素領域を抽出する抽出部(62)と、前記連結領域判定部(61)によって判定された連結した画素領域のうちから領域内外における明るさの違いが大きい画素領域を選択する明るさ判定部(63)と、前記連結領域判定部(61)によって判定された連結した画素領域のうちから領域内外における色相の違いが小さい画素領域を選択する色相判定部(64)と、を備えること、を特徴とする画像処理装置(50)である。
請求項2に記載の発明は、請求項1に記載の画像処理装置であって、前記連結領域判定部(61)によって判定された連結した画素領域のうちから領域内外における彩度の違いが小さい画素領域を選択する彩度判定部(65)をさらに備えること、を特徴とする画像処理装置(50)である。
請求項3に記載の発明は、請求項1または2に記載の画像処理装置であって、前記抽出部(62)は、処理対象画像の画素ピッチ(α)を参照して、前記連結した領域の絶対的な大きさに基づいて前記対象画素領域を抽出すること、を特徴とする画像処理装置(50)である。
請求項4に記載の発明は、請求項3に記載の画像処理装置であって、前記抽出部(62)は、画素数によって規定された閾値に基づいて前記連結した画素領域から前記対象画素領域を抽出し、前記閾値は、前記処理対象画像における画素ピッチと反比例して変化すること、を特徴とする画像処理装置(50)である。
請求項5に記載の発明は、請求項1〜4に記載のいずれかに記載の画像処理装置の機能をコンピュータに実行させるための画像処理プログラムである。
請求項2に記載の発明は、請求項1に記載の画像処理装置であって、前記連結領域判定部(61)によって判定された連結した画素領域のうちから領域内外における彩度の違いが小さい画素領域を選択する彩度判定部(65)をさらに備えること、を特徴とする画像処理装置(50)である。
請求項3に記載の発明は、請求項1または2に記載の画像処理装置であって、前記抽出部(62)は、処理対象画像の画素ピッチ(α)を参照して、前記連結した領域の絶対的な大きさに基づいて前記対象画素領域を抽出すること、を特徴とする画像処理装置(50)である。
請求項4に記載の発明は、請求項3に記載の画像処理装置であって、前記抽出部(62)は、画素数によって規定された閾値に基づいて前記連結した画素領域から前記対象画素領域を抽出し、前記閾値は、前記処理対象画像における画素ピッチと反比例して変化すること、を特徴とする画像処理装置(50)である。
請求項5に記載の発明は、請求項1〜4に記載のいずれかに記載の画像処理装置の機能をコンピュータに実行させるための画像処理プログラムである。
本発明によれば、ゴミ影等の画像欠損部位を良好に検出することのできる画像処理装置を提供できる。
以下、図面等を参照して、本発明の実施形態について説明する。
図1は、レンズ交換式のカメラ1の構成を示す図である。図2は、カメラ1と画像処理装置を構成するパーソナルコンピュータ(PC)30および周辺装置を示すブロック図である。
カメラ1は、被写体像を電気信号に変換した画像データとして出力する電子スチルカメラである。
カメラ1は、カメラ本体2と、カメラ本体2に対して着脱可能な撮像レンズ3とにより構成されている。撮像レンズ3は、複数の光学レンズ群(図1においては1枚のレンズで示す)から成る結像光学系3Lを備えている。
図1は、レンズ交換式のカメラ1の構成を示す図である。図2は、カメラ1と画像処理装置を構成するパーソナルコンピュータ(PC)30および周辺装置を示すブロック図である。
カメラ1は、被写体像を電気信号に変換した画像データとして出力する電子スチルカメラである。
カメラ1は、カメラ本体2と、カメラ本体2に対して着脱可能な撮像レンズ3とにより構成されている。撮像レンズ3は、複数の光学レンズ群(図1においては1枚のレンズで示す)から成る結像光学系3Lを備えている。
カメラ1は、結像光学系3L(撮像レンズ3)とカメラ本体2とを備える。
カメラ本体2は、シャッター11、光学フィルタ12、撮像素子13、画像処理部14、操作部15、表示部16、メモリカード用インターフェース部17、外部インターフェース部18、電源19、制御部20等を備えている。
カメラ本体2は、シャッター11、光学フィルタ12、撮像素子13、画像処理部14、操作部15、表示部16、メモリカード用インターフェース部17、外部インターフェース部18、電源19、制御部20等を備えている。
シャッター11は、結像光学系3Lから撮像素子13へ向かう撮影光を遮蔽および通過させることによって、露光時間を調整する。
光学フィルタ12は、撮像に際して偽色(色モアレ)等の発生を防止する光学ローパスフィルタ等によって構成される。なお、符号4は、この光学フィルタ12の表面に付着した塵や埃などのゴミを示す。このような撮影光の光路上にあって撮影光を透過する光学フィルタ12にゴミ4が付着していると、撮像素子13によって取得される画像データのなかに、ゴミ4の影響を受けた画素が含まれる場合がある。
光学フィルタ12は、撮像に際して偽色(色モアレ)等の発生を防止する光学ローパスフィルタ等によって構成される。なお、符号4は、この光学フィルタ12の表面に付着した塵や埃などのゴミを示す。このような撮影光の光路上にあって撮影光を透過する光学フィルタ12にゴミ4が付着していると、撮像素子13によって取得される画像データのなかに、ゴミ4の影響を受けた画素が含まれる場合がある。
撮像素子13は、CCDやCMOS等の光電変換素子であって、複数の画素から構成される矩形形状の撮像領域を有している。そして、撮像素子13は、その結像面に結像された像を電気信号に変換し、被写体像に対応する画像信号(撮像信号)を出力する。撮像素子13から出力された画像信号は、所定のアナログ信号処理の後、A/D変換されて画像処理部14に入力される。
画像処理部14は、撮像素子13から入力された画像データに対して、補間,階調変換や輪郭強調などの画像処理を行う。
なお、本実施形態のカメラ1では、画像処理部14に供給される画像データはRGB表色系で示されるものについて説明するが、これに限定されるものではない。画像データを構成する各々の画素には、RGBの何れか1つの色成分の色情報が存在する。ここで、撮像素子13を構成する1つの光電変換素子を画素と言うが、この画素に対応した画像データの1単位も画素と言う。また、画像も複数の画素から構成される概念である。画像処理が完了した画像データは、補間処理が完了し、各画素にはRGBのすべての色成分の色情報が存在するものとする。
なお、本実施形態のカメラ1では、画像処理部14に供給される画像データはRGB表色系で示されるものについて説明するが、これに限定されるものではない。画像データを構成する各々の画素には、RGBの何れか1つの色成分の色情報が存在する。ここで、撮像素子13を構成する1つの光電変換素子を画素と言うが、この画素に対応した画像データの1単位も画素と言う。また、画像も複数の画素から構成される概念である。画像処理が完了した画像データは、補間処理が完了し、各画素にはRGBのすべての色成分の色情報が存在するものとする。
操作部15は、撮影者が撮影タイミング等を決定する信号を入力するレリーズボタンや、モード切り換え用の選択ボタン等を備えている。そして、操作部15は、それらの操作情報を制御部に入力する。
表示部16は、LCD等によって構成され、カメラ1における各種設定メニュー、撮像素子13による撮像画像やメモリカードに格納された画像データに基づく再生画像を表示する。
表示部16は、LCD等によって構成され、カメラ1における各種設定メニュー、撮像素子13による撮像画像やメモリカードに格納された画像データに基づく再生画像を表示する。
メモリカード用インターフェース部17は、メモリカード40とのインターフェースをとるものである。
外部インターフェース部18は、所定のケーブルや無線伝送路を介してPC30等の外部装置とのインターフェースをとるものである。
電源19は、カメラ1の各機能部に電力を供給する。
外部インターフェース部18は、所定のケーブルや無線伝送路を介してPC30等の外部装置とのインターフェースをとるものである。
電源19は、カメラ1の各機能部に電力を供給する。
制御部20は、カメラ1における各機能部を統括制御する。すなわち、制御部20は、操作部15におけるレリーズスイッチから撮影指示信号が入力されると、シャッター11を駆動制御して露光動作等の撮影動作を制御する。また、制御部20は、撮像素子13で取得されて画像処理部14で画像処理が行われて入力された画像データを、メモリカード用インターフェース部17に着脱可能に取り付けられたメモリカード40等に記憶させ、保存する。さらに、制御部20は、メモリカード40等に記憶された画像データを呼び出し、表示部16に表示させる。
上記のように構成されたカメラ1は、撮影時において制御部20によって制御されて、下記のように作用する。
操作者によって操作部15のレリーズボタンが押圧操作されると、シャッター11を所定時間開放する。撮像素子13は、結像光学系3Lにより撮像領域に結像された光学像に対応する画像信号を生成する。撮像素子13によって生成された画像信号は、画像データとして画像処理部14に入力され、画像処理部14によって所定の画像処理が施される。そして、画像処理部14で画像処理された画像データに基づいて表示部16に撮影画像を表示すると共に、その画像データに必要に応じてJPEG等による圧縮処理を施してメモリカード用インターフェース部17に装着されたメモリカード40に記憶・保存する。また、外部インターフェース部18を介して接続された後述するPC30に、画像データを送出する。
操作者によって操作部15のレリーズボタンが押圧操作されると、シャッター11を所定時間開放する。撮像素子13は、結像光学系3Lにより撮像領域に結像された光学像に対応する画像信号を生成する。撮像素子13によって生成された画像信号は、画像データとして画像処理部14に入力され、画像処理部14によって所定の画像処理が施される。そして、画像処理部14で画像処理された画像データに基づいて表示部16に撮影画像を表示すると共に、その画像データに必要に応じてJPEG等による圧縮処理を施してメモリカード用インターフェース部17に装着されたメモリカード40に記憶・保存する。また、外部インターフェース部18を介して接続された後述するPC30に、画像データを送出する。
ここで、メモリカード40に記憶・保存され、または、外部インターフェース部18を介してPC30に送出される画像データは、たとえば、Exifファイルに記録される。Exifファイルには、カメラ名,カメラメーカー名,撮像画素情報,絞り値やシャッター速度および露光補正等の露出条件、撮影時刻などの付加情報が共に記録される。
パーソナルコンピュータ(PC)30は、図示しないが、CPU、メモリ、ハードディスク、メモリカード40とのインターフェースをとるメモリカード用インターフェース部、ケーブルや無線伝送路を介してカメラ1等の外部装置とのインターフェースをとる外部インターフェース部等を備えている。また、PC30には、モニタ31やプリンタ32等が接続されており、CD−ROM33に記録された画像欠損補正処理に係るアプリケーションプログラムが予めインストールされている。
つぎに、図3〜図6を参照して、撮影された対象画像データにおけるゴミ影等による画像欠損を補正する処理(画像欠損補正処理)について説明する。
図3は、画像欠損補正処理を行う画像処理装置50の機能ブロック図である。図4は、画像処理装置50における欠損判定部60の機能ブロック図である。図5は、HSV変換処理の六角錐モデルを表す概念図である。図6は、画素ピッチの違いによるゴミ影の検出画素数の違いを説明する図である。図7は、画像処理装置50における画像欠損補正処理のフローチャートである。
図3は、画像欠損補正処理を行う画像処理装置50の機能ブロック図である。図4は、画像処理装置50における欠損判定部60の機能ブロック図である。図5は、HSV変換処理の六角錐モデルを表す概念図である。図6は、画素ピッチの違いによるゴミ影の検出画素数の違いを説明する図である。図7は、画像処理装置50における画像欠損補正処理のフローチャートである。
画像欠損補正処理は、メモリカード30を介して提供された、または、カメラ1の外部インターフェース部18から伝送された画像処理完了後の画像データに対して、PC30によって行われる。前述したように、PC30には、画像欠損補正処理のアプリケーションプログラムがインストールされており、PC30はこのプログラムを実行することによって、画像欠損補正処理を行う画像処理装置として機能するものである。
PC30とプログラムとによって機能する画像処理装置50は、図3に示すように、画像欠損領域を検出する欠損判定部60と、欠損判定部60によって判定された画像欠損情報に基づいてその欠損部位を補正する補正部51と、を備えている。
欠損判定部60は、機能ブロック図である図4に示すように、連結領域判定部61と、対象領域抽出部62と、明るさ判定部63と、色相判定部64と、彩度判定部65と、誤検出排除部66と、を備えている。
欠損判定部60は、機能ブロック図である図4に示すように、連結領域判定部61と、対象領域抽出部62と、明るさ判定部63と、色相判定部64と、彩度判定部65と、誤検出排除部66と、を備えている。
連結領域判定部61は、対象画像における各画素の明るさ(たとえば明度)情報から、画像欠損の可能性のある領域を抽出する。画像欠損は、たとえば光学フィルタ12の前面に付着したゴミ4(図1参照)によるゴミ影を撮影することで生ずる。以下、このようなゴミ4(図1参照)によるゴミ影によって生じた画像欠損領域を例として説明する。
連結領域判定部61による画像欠損領域(ゴミ影部位)の検出は、対象画像を形成するRGBによる各画素の画像データをHSV変換して明度平面を求め、さらにその明度勾配を求めて行う。
連結領域判定部61による画像欠損領域(ゴミ影部位)の検出は、対象画像を形成するRGBによる各画素の画像データをHSV変換して明度平面を求め、さらにその明度勾配を求めて行う。
ここで、HSV変換について説明する。
図5は、HSV変換の六角錐モデルの概念図である。明度Vの座標軸は六角錐の中心軸で表され、彩度Sの座標軸は六角錐の中心軸に直交する軸で表され、色相Hは六角錐の中心軸を回転する回転角で表される。
明度値V(Value)、色相値H(Hue)および彩度値S(Saturation)の各画素の要素は、RGB画像データにおける各画素のRGB要素から、以下の数式(1)〜(10)を用いて変換される。
図5は、HSV変換の六角錐モデルの概念図である。明度Vの座標軸は六角錐の中心軸で表され、彩度Sの座標軸は六角錐の中心軸に直交する軸で表され、色相Hは六角錐の中心軸を回転する回転角で表される。
明度値V(Value)、色相値H(Hue)および彩度値S(Saturation)の各画素の要素は、RGB画像データにおける各画素のRGB要素から、以下の数式(1)〜(10)を用いて変換される。
Vmax=max{R,G,B}・・・(1)
Vmin=min{R,G,B}・・・(2)
として、
V= Vmax ・・・(3)
S=(Vmax−Vmin)/Vmax ・・・(4)
H=(π/3)(b−g) (R=Vmaxのとき) ・・・(5)
H=(π/3)(2+r−b) (G=Vmaxのとき) ・・・(6)
H=(π/3)(4+g−r) (B=Vmaxのとき) ・・・(7)
Vmin=min{R,G,B}・・・(2)
として、
V= Vmax ・・・(3)
S=(Vmax−Vmin)/Vmax ・・・(4)
H=(π/3)(b−g) (R=Vmaxのとき) ・・・(5)
H=(π/3)(2+r−b) (G=Vmaxのとき) ・・・(6)
H=(π/3)(4+g−r) (B=Vmaxのとき) ・・・(7)
ただし、
r=(Vmax−R)/(Vmax−Vmin) ・・・(8)
g=(Vmax−G)/(Vmax−Vmin) ・・・(9)
b=(Vmax−B)/(Vmax−Vmin) ・・・(10)
なお、式(5)〜(7)で変換された結果、H<0の時には、Hに2πを加える。また、Vmax=0の時は、S=0,H=不定となる。
r=(Vmax−R)/(Vmax−Vmin) ・・・(8)
g=(Vmax−G)/(Vmax−Vmin) ・・・(9)
b=(Vmax−B)/(Vmax−Vmin) ・・・(10)
なお、式(5)〜(7)で変換された結果、H<0の時には、Hに2πを加える。また、Vmax=0の時は、S=0,H=不定となる。
連結領域判定部61では、対象画像を構成する各画素について、上述の式(1)〜(10)で示すHSV変換処理を実行することによって、各画素の明度値Vを求め、対象画像平面に対応する明度平面を生成する。
ついで、連結領域判定部61は、上記のようにして求められた明度平面に対して逆ガンマ補正をかけ、入出力の関係を線形に戻す。
すなわち、逆ガンマ補正後のV’は、上記明度値Vを使って、
V’=(V)γ
によって算出する。
これは、画像処理装置50に入力された対象画像は表示装置等に対応すべくガンマ補正によって明るさ,調子,色のバランスなどの調整が行われているが、以降の画像処理を容易とするために入出力が線形となるように戻すための処理である。
すなわち、逆ガンマ補正後のV’は、上記明度値Vを使って、
V’=(V)γ
によって算出する。
これは、画像処理装置50に入力された対象画像は表示装置等に対応すべくガンマ補正によって明るさ,調子,色のバランスなどの調整が行われているが、以降の画像処理を容易とするために入出力が線形となるように戻すための処理である。
そして、連結領域判定部61は、逆ガンマ補正後の明度平面から、明度勾配平面を生成する。
すなわち、明度平面に対して、縦方向横方向に微分フィルタをかけてそれぞれの差分
Δxf(i,j), Δyf(i,j)
を求め、下記式によって画素の勾配(grad)を計算し、これによって明度勾配平面を得る。
明度勾配平面では、ゴミ影の周縁部では高い画素値を示し、空などの一様な平面では低い画素値を示す。つまり、エッジ部分では高い画素値を示し、これによってゴミ影のエッジ部分を検出できる。
すなわち、明度平面に対して、縦方向横方向に微分フィルタをかけてそれぞれの差分
Δxf(i,j), Δyf(i,j)
を求め、下記式によって画素の勾配(grad)を計算し、これによって明度勾配平面を得る。
また、連結領域判定部61は、所定の閾値を設定して、明度勾配平面を2値画像に変換する。すなわち、閾値より高い明度勾配値を有する画素を「1」、閾値より低い明度勾配値を有する画素を「0」と置換する。
そして、連結領域判定部61は、このようにして得られた2値画像から、「1」の画素が連結した領域(連結画素領域)を抽出する。連結画素領域とは、たとえば、矩形の画素の4辺の内の少なくとも1辺で連続した(4近傍の)画素領域とする。この連結画素領域が、ゴミ影による画像欠損の可能性のある領域である。
そして、連結領域判定部61は、このようにして得られた2値画像から、「1」の画素が連結した領域(連結画素領域)を抽出する。連結画素領域とは、たとえば、矩形の画素の4辺の内の少なくとも1辺で連続した(4近傍の)画素領域とする。この連結画素領域が、ゴミ影による画像欠損の可能性のある領域である。
対象領域抽出部62は、連結領域判定部61によって抽出された連結画素領域の中から、ゴミ影のサイズ(大小)に基づいて補正候補領域を抽出する。この対象領域抽出部62におけるゴミ影の大きさの判別は、画素数によって規定する。
ここで、対象領域抽出部62は、連結画素領域から補正候補領域を抽出する際において、ゴミ影の絶対的な大きさを基準とする。ここでは、一般的なゴミのサイズとゴミ影のサイズがほぼ等しいものとして、最小100μm×100μm〜最大400μm×400μmの大きさを検出対象とする。
ここで、対象領域抽出部62は、連結画素領域から補正候補領域を抽出する際において、ゴミ影の絶対的な大きさを基準とする。ここでは、一般的なゴミのサイズとゴミ影のサイズがほぼ等しいものとして、最小100μm×100μm〜最大400μm×400μmの大きさを検出対象とする。
図6に概念的を示すように、撮像素子13の撮像面において同一サイズのゴミ影であっても、これに対応する画素数は、対象画像の画素ピッチによって異なる。すなわち、図6(a)に示す同一サイズのゴミ影4Aが撮像面に投影された場合であっても、(b)に示すように画素ピッチ:α(αb)が小さければゴミ影4Aの影響を受ける画素数は多く、(c)に示すように画素ピッチ:α(αc)が大きければゴミ影4Aの影響を受ける画素数は少なくなる。つまり、ゴミ影4Aの影響を受ける画素数(後述する閾値に相当)は、対象画像における画素ピッチ:αと反比例して変化する。
前述した範囲の大きさのゴミ影が画素ピッチ:α(μm)のセンサに投影したものとして、撮像画像におけるゴミ影のサイズを画素数で表すと、一辺がおよそ[100/α〜400/α]画素となる。従って、検出したいゴミの面積は、[(100/α)2〜(400/α)2]画素となる。
なお、センサの画素ピッチ:α(=画素の大きさ)は、
α=センサ水平方向サイズ(μm)/水平方向画素数
で求められる。これは、補正対象画像に付加された撮像素子情報等に基づいて算出される。また、別途入力する構成であっても良い。
α=センサ水平方向サイズ(μm)/水平方向画素数
で求められる。これは、補正対象画像に付加された撮像素子情報等に基づいて算出される。また、別途入力する構成であっても良い。
そして、対象領域抽出部62では、上記ゴミ影の画素数によって表される面積を閾値として、連結領域判定部61において2値画像から抽出された連結画素領域の大きさ(画素数)がこの閾値内に含まれるものを、補正対象となり得るゴミ影であるとして補正候補領域と判定し、選択する。
明るさ判定部63は、先の連結領域判定部61において説明したHSV変換によって求められた明度値V(Value)と画像平面に対応する明度平面とを用い、連結画素領域における内外の明度を比較する。ここで、ゴミ影は、内部の明度が周辺の明度に比較して低く、明度比(内部の明度/周辺の明度)は1よりとても小さい。このため、明度比が小さい所定の閾値を設定し、連結画像領域の明度比がこの閾値より小さいに場合にのみ、補正対象となり得るゴミ影であるとして補正候補領域と判定し、選択する。
色相判定部64は、先の連結領域判定部61において説明したHSV変換によって、各画素の色相値Hを求めて画像平面に対応する色相平面を生成する。色相判定部64は、色相値Hと色相平面とを用い、連結画像領域における内外の色相を比較する。ここで、ゴミ影は、明度には大きく影響するものの色相にはほとんど影響を与えず、連結画像領域の内外における色相比はほとんど1に近い。このため、1に近い所定の閾値を設定し、色相比がこの閾値より大きい場合にのみ、補正対象となり得るゴミ影であるとして補正候補領域と判定し、選択する。
彩度判定部65は、先の連結領域判定部61において説明したHSV変換によって、各画素の彩度値Sを求めて画像平面に対応する彩度平面を生成する。彩度判定部65は、彩度値Sと彩度平面とを用い、連結画像領域における内外の彩度を比較する。ゴミ影は、彩度にはほとんど影響を与えず、連結画像領域の内外における彩度比はほとんど1に近い。このため、1に近い所定の閾値を設定し、彩度比がこの閾値より大きい場合にのみ、補正対象となり得るゴミ影であるとして、補正候補領域と判定し、選択する。
このような彩度比による判定を行う理由は、画像によっては、明度比が1より極めて小さく、且つ、色相比がほとんど1に近いような被写体が存在し、このような被写体は明度比と色相比のみに基づく判定では誤検出されてしまう虞があり、これを回避するためである。
誤検出排除部66は、連結画素領域の周辺の領域に含まれる画素の明度値Vの平均値が、所定の閾値以下である場合には、連結画素領域が補正対象領域ではないと判断する。これは、連結画素領域の周辺の明るさが所定の値より低い場合は、たとえその連結画素領域がゴミ影が写り込んだものであったとしても、画像に与える影響が小さいと考えられるからである。
また、誤検出排除部66は、連結画素領域の周辺の領域における明るさの標準偏差が、所定の閾値以上である場合は、その連結画素領域は画像に写りこんだゴミ影ではないと判断する。これは、連結領域の周辺の領域における明るさの標準偏差が大きい場合は、連結画素領域における高い明度勾配値が、ゴミ影によるものではなく、被写体光によるものである可能性が高いからである。
そして、欠損判定部60は、連結領域判定部61によって抽出されたゴミ影による画像欠損の可能性の有る連結画素領域に対して、対象領域抽出部62、明るさ判定部63、色相判定部64、彩度判定部65、誤検出排除部66が、それぞれ補正候補領域の判定・選択を行い、それら全てにおいて補正候補領域であるとの判定・選択されたものを補正対象領域とする。
補正部51は、欠損判定部60によって判定・選択された補正対象領域に対して、その影響を低減する(欠損を補正する)画像補正を行う。
すなわち、補正部51は、補正対象領域について、明度透過率信号を算出し、明度透過率マップ(明度ゲインマップ)を生成する。そして、補正部51は、明度透過率マップを用い、補正対象領域に含まれる各画素の明度値Vに、明度透過率信号の逆数を掛け算して、ゲイン補正を行う。これにより、ゴミ影による明度の変化を低減もしくは除去する。
すなわち、補正部51は、補正対象領域について、明度透過率信号を算出し、明度透過率マップ(明度ゲインマップ)を生成する。そして、補正部51は、明度透過率マップを用い、補正対象領域に含まれる各画素の明度値Vに、明度透過率信号の逆数を掛け算して、ゲイン補正を行う。これにより、ゴミ影による明度の変化を低減もしくは除去する。
また、補正部51は、補正対象領域について、彩度透過率信号を算出し、彩度透過率マップ(彩度ゲインマップ)を生成する。そして、補正部51は、その彩度透過率マップを用いて、補正対象領域に含まれる各画素の彩度値Sに、彩度透過率信号の逆数を掛け算して、ゲイン補正を行う。これにより、ゴミ影による彩度の変化を低減もしくは除去する。
つぎに、図7に示すフローチャートに従って、画像処理装置50における画像欠損補正処理の流れを説明する。なお、以下の説明における各機能部の符号については図1〜図6を参照のこと。また、図7および以下の説明中、ステップを「S」とも略記する。
画像処理装置50は、メモリカード40を介して、または、カメラ1の外部インターフェース部18を介して入力された補正対象画像データを読み込む(S01)。
読み込んだ対象画像データに対して、連結領域判定部61が、RGB画像データのHSV変換(S02)、逆ガンマ処理および付随するノイズ処理(S03)、明度勾配の計算(S04)を行う。そして、明度勾配から連結画素領域を抽出する(S05)。
読み込んだ対象画像データに対して、連結領域判定部61が、RGB画像データのHSV変換(S02)、逆ガンマ処理および付随するノイズ処理(S03)、明度勾配の計算(S04)を行う。そして、明度勾配から連結画素領域を抽出する(S05)。
続いて、ステップ06で、対象領域抽出部62によって、連結画素領域の大きさに基づいて補正候補領域に該当するか否かを判定する。
ステップ07では、明るさ判定部63によって、連結画素領域における内外の明度比に基づいて補正候補領域に該当するか否かを判定する。
ステップ08では、色相判定部64によって、連結画素領域における内外の色相比に基づいて補正候補領域に該当するか否かを判定する。
ステップ09では、彩度判定部65によって、連結画素領域における内外の彩度比に基づいて補正候補領域に該当するか否かを判定する。
ステップ07では、明るさ判定部63によって、連結画素領域における内外の明度比に基づいて補正候補領域に該当するか否かを判定する。
ステップ08では、色相判定部64によって、連結画素領域における内外の色相比に基づいて補正候補領域に該当するか否かを判定する。
ステップ09では、彩度判定部65によって、連結画素領域における内外の彩度比に基づいて補正候補領域に該当するか否かを判定する。
さらに、ステップ10で、誤検出排除部66によって、連結画素領域が明るいエリアにあり、且つ、領域周辺の明度標準偏差が小さく、補正候補領域に該当するか否かを判定する。
そして、全ての判定において補正候補領域と判定された連結画素領域を補正対象領域として、ステップ11で、この補正対象領域に対して、補正部51によって、明度および彩度のゲインマップを作成し、ゴミ影による欠損を補正する画像補正を行うものである。
そして、全ての判定において補正候補領域と判定された連結画素領域を補正対象領域として、ステップ11で、この補正対象領域に対して、補正部51によって、明度および彩度のゲインマップを作成し、ゴミ影による欠損を補正する画像補正を行うものである。
以上、本実施形態によると、以下の効果を有する。
(1)本構成によれば、画像処理装置50における欠損判定部60は、対象領域抽出部62が、対象画像の画素ピッチに基づいて変化する閾値によってゴミ影の絶対的な大きさを基準として、補正候補領域となる連結画素領域を抽出する。これにより、解像度が異なる画像であっても、対象とするサイズのゴミ影を高い精度で検出することができる。
(1)本構成によれば、画像処理装置50における欠損判定部60は、対象領域抽出部62が、対象画像の画素ピッチに基づいて変化する閾値によってゴミ影の絶対的な大きさを基準として、補正候補領域となる連結画素領域を抽出する。これにより、解像度が異なる画像であっても、対象とするサイズのゴミ影を高い精度で検出することができる。
(2)画像処理装置50における欠損判定部60は、彩度判定部65が、連結画素領域における内外の彩度を比較して補正候補領域を判定する。これにより、明度比や色相比のみに基づく判定では誤検出されてしまう連結画素領域についても正確な判定が可能となる。その結果、高い精度で補正候補領域を検出することができる。
(変形形態)
以上、説明した実施形態に限定されることなく、以下に示すような種々の変形や変更が可能であり、それらも本発明の範囲内である。
(1)上記実施形態では、欠損判定部60における連結領域判定部61は、各画素の明るさ情報として明度を用い、ゴミ影等による画像欠損部位を検出した。しかし、画像欠損部位を検出する際に用いる各画素の明るさの情報は、明度に限らず輝度を用いてもよい。
以上、説明した実施形態に限定されることなく、以下に示すような種々の変形や変更が可能であり、それらも本発明の範囲内である。
(1)上記実施形態では、欠損判定部60における連結領域判定部61は、各画素の明るさ情報として明度を用い、ゴミ影等による画像欠損部位を検出した。しかし、画像欠損部位を検出する際に用いる各画素の明るさの情報は、明度に限らず輝度を用いてもよい。
(2)上記実施形態における画像処理装置50の画像欠損補正処理フローでは、連結領域判定部61によって連結画素領域を抽出した後、対象領域抽出部62、明るさ判定部63、色相判定部64、彩度判定部65、誤検出排除部66の順番で各判定を行っている。しかし、これら判定の順番はこの例に限定されるものではなく、適宜変更(たとえば図4中破線で示すように変更)可能なものである。ただし、対象領域抽出部62による工程(補正候補領域から補正対象領域を抽出する工程)は、他の工程より前に行うことが、処理対象のデータ量を削減して処理速度を向上させることができるため、より好ましい。
(3)上記実施形態では、電子スチルカメラであるカメラ1によって撮影した画像データを処理する例を説明したが、必ずしもこの内容に限定する必要はない。本発明は、動画を扱うビデオカメラで撮影した画像データにも適用できる。また、カメラつき携帯電話などで撮影した画像データにも適用できる。さらに、コピー機やスキャナー等にも適用できる。すなわち、撮像素子を使用して撮像したあらゆる画像データに対して、本発明を適用することができる。
(4)上記実施の形態では、電子スチルカメラであるカメラ1で撮影した画像データをPC(パソコン)30で処理してゴミの影響を除去する例を説明したが、この内容に限定するものではない。カメラ1にそのようなプログラムを備えてもよい。また、プリンタや投影装置などにそのようなプログラムを備えてもよい。すなわち、本発明は、画像データを扱うあらゆる装置に適用することができる。
(5)PC30で実行するプログラムは、CD−ROMなどの記録媒体に限らず、インターネットなどのデータ信号を通じて提供することができる。
なお、実施形態及び変形形態は、適宜組み合わせて用いることもできるが、詳細な説明は省略する。また、本発明は以上説明した実施形態によって限定されることはない。
なお、実施形態及び変形形態は、適宜組み合わせて用いることもできるが、詳細な説明は省略する。また、本発明は以上説明した実施形態によって限定されることはない。
1:カメラ、12:光学フィルタ、13:撮像素子、17:メモリカード用インターフェース部、18:外部インターフェース部、30:パーソナルコンピュータ(PC)、33:CD−ROM、40:メモリカード、50:画像処理装置、51:補正部、60:欠損判定部、61:連結領域判定部、62:対象領域抽出部、63:明るさ判定部、64:色相判定部、65:彩度判定部、66:誤検出排除判定部、α:画素ピッチ
Claims (5)
- 光学素子を介して撮像素子により撮像された処理対象画像に対して、
明るさの変化量に基づいて連結した画素領域を判定する連結領域判定部と、
前記連結領域判定部によって判定された連結した画素領域のうちから所定範囲の大きさの対象画素領域を抽出する抽出部と、
前記連結領域判定部によって判定された連結した画素領域のうちから領域内外における明るさの違いが大きい画素領域を選択する明るさ判定部と、
前記連結領域判定部によって判定された連結した画素領域のうちから領域内外における色相の違いが小さい画素領域を選択する色相判定部と、
を備えること、を特徴とする画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記連結領域判定部によって判定された連結した画素領域のうちから領域内外における彩度の違いが小さい画素領域を選択する彩度判定部をさらに備えること、
を特徴とする画像処理装置。 - 請求項1または2に記載の画像処理装置であって、
前記抽出部は、処理対象画像の画素ピッチを参照して、前記連結した画素領域の絶対的な大きさに基づいて前記対象画素領域を抽出すること、
を特徴とする画像処理装置。 - 請求項3に記載の画像処理装置であって、
前記抽出部は、画素数によって規定された閾値に基づいて前記連結した画素領域から前記対象画素領域を抽出し、
前記閾値は、前記処理対象画像における画素ピッチと反比例して変化すること、
を特徴とする画像処理装置。 - 請求項1〜4に記載のいずれかに記載の画像処理装置の機能をコンピュータに実行させるための画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011034661A JP2012173943A (ja) | 2011-02-21 | 2011-02-21 | 画像処理装置および画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011034661A JP2012173943A (ja) | 2011-02-21 | 2011-02-21 | 画像処理装置および画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012173943A true JP2012173943A (ja) | 2012-09-10 |
Family
ID=46976806
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011034661A Pending JP2012173943A (ja) | 2011-02-21 | 2011-02-21 | 画像処理装置および画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2012173943A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108154510A (zh) * | 2018-01-17 | 2018-06-12 | 深圳市亿图视觉自动化技术有限公司 | 产品表面缺陷检测方法、装置及计算机可读存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004220553A (ja) * | 2002-12-27 | 2004-08-05 | Nikon Corp | 画像処理装置および画像処理プログラム |
JP2010050828A (ja) * | 2008-08-22 | 2010-03-04 | Fuji Xerox Co Ltd | 画像処理装置、及び画像処理プログラム |
JP2010226178A (ja) * | 2009-03-19 | 2010-10-07 | Nikon Corp | 画像処理装置および撮像装置 |
JP2011029710A (ja) * | 2009-07-21 | 2011-02-10 | Nikon Corp | 画像処理装置、画像処理プログラムおよび撮像装置 |
-
2011
- 2011-02-21 JP JP2011034661A patent/JP2012173943A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004220553A (ja) * | 2002-12-27 | 2004-08-05 | Nikon Corp | 画像処理装置および画像処理プログラム |
JP2010050828A (ja) * | 2008-08-22 | 2010-03-04 | Fuji Xerox Co Ltd | 画像処理装置、及び画像処理プログラム |
JP2010226178A (ja) * | 2009-03-19 | 2010-10-07 | Nikon Corp | 画像処理装置および撮像装置 |
JP2011029710A (ja) * | 2009-07-21 | 2011-02-10 | Nikon Corp | 画像処理装置、画像処理プログラムおよび撮像装置 |
Non-Patent Citations (2)
Title |
---|
CSNG201000159007; 稲葉 洋、鎌田 清一郎: '"荒天時の車載カメラ映像におけるフロントガラスへの付着物による前方遮蔽部の修繕に関する一考察"' 映像情報メディア学会技術報告 Vol.33, No.51, 20091119, p.33-38, (社)映像情報メディア学会 * |
JPN6014051558; 稲葉 洋、鎌田 清一郎: '"荒天時の車載カメラ映像におけるフロントガラスへの付着物による前方遮蔽部の修繕に関する一考察"' 映像情報メディア学会技術報告 Vol.33, No.51, 20091119, p.33-38, (社)映像情報メディア学会 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108154510A (zh) * | 2018-01-17 | 2018-06-12 | 深圳市亿图视觉自动化技术有限公司 | 产品表面缺陷检测方法、装置及计算机可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108668093B (zh) | Hdr图像的生成方法及装置 | |
US9185265B2 (en) | Image processing method and image processing apparatus for performing a tone correction to acquire a combined image | |
US20100209009A1 (en) | Image capturing device, image capturing method, and storage medium having stored therein image capturing program | |
JP2020533883A (ja) | ダブルカメラベースの撮像のための方法および装置 | |
JP2014126803A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP4438363B2 (ja) | 画像処理装置および画像処理プログラム | |
JP2015192338A (ja) | 画像処理装置および画像処理プログラム | |
US10896344B2 (en) | Information processing apparatus, information processing method, and computer program | |
JP2001307079A (ja) | 画像処理装置、画像処理方法および記録媒体 | |
JP2017138927A (ja) | 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム | |
JP5750934B2 (ja) | 画像処理装置および画像処理プログラム | |
JP5371135B2 (ja) | 輝度補正装置、輝度補正システムおよび輝度補正方法 | |
JP2012222508A (ja) | 画像処理装置および画像処理プログラム | |
JP2012173943A (ja) | 画像処理装置および画像処理プログラム | |
JP2016051982A (ja) | 画像処理装置、カメラおよび画像処理プログラム | |
JP2015233202A (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
JP2013012089A (ja) | 画像処理装置、カメラおよび画像処理プログラム | |
TWI497448B (zh) | 影像強化方法及其系統 | |
JP5950552B2 (ja) | 撮像装置、及び撮像装置の制御方法 | |
JP2005175909A (ja) | 信号処理方法および画像取得装置 | |
JP2012256169A (ja) | 画像処理装置および画像処理プログラム | |
JP5147912B2 (ja) | 画像処理方法、画像処理装置、プログラムおよび記録媒体 | |
JP2012185648A (ja) | 画像処理装置および画像処理プログラム | |
JP2012222509A (ja) | 画像処理装置及び画像処理プログラム | |
JP2012213075A (ja) | 画像処理装置及び画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140219 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20141128 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20141209 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20150407 |