JP5471704B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP5471704B2 JP5471704B2 JP2010074122A JP2010074122A JP5471704B2 JP 5471704 B2 JP5471704 B2 JP 5471704B2 JP 2010074122 A JP2010074122 A JP 2010074122A JP 2010074122 A JP2010074122 A JP 2010074122A JP 5471704 B2 JP5471704 B2 JP 5471704B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- processing
- gap
- predetermined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 253
- 238000003672 processing method Methods 0.000 title claims description 8
- 238000000034 method Methods 0.000 claims description 119
- 230000008569 process Effects 0.000 claims description 113
- 238000003384 imaging method Methods 0.000 claims description 85
- 238000006243 chemical reaction Methods 0.000 claims description 42
- 238000012937 correction Methods 0.000 claims description 41
- 238000000605 extraction Methods 0.000 claims description 26
- 238000001914 filtration Methods 0.000 claims description 16
- 230000003287 optical effect Effects 0.000 claims description 15
- 239000011159 matrix material Substances 0.000 claims description 12
- 230000009466 transformation Effects 0.000 claims description 8
- 239000000284 extract Substances 0.000 claims description 6
- 238000003702 image correction Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 5
- 230000000737 periodic effect Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 4
- 230000004075 alteration Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 239000011295 pitch Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Landscapes
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Facsimile Image Signal Circuits (AREA)
- Studio Devices (AREA)
Description
そこで、画像上の格子状の模様に対応する周期パターンを検出し、この周期パターンに基づいて各ドットに対応する領域を特定して、当該領域の画素値から新たな画像データの各画素の画素値を生成する画像処理装置が知られている(例えば、特許文献1参照)。
また、仮に撮影画像内の周期パターンの画素数の最大値に対応した所定のフィルタを適用して一律に行うようにすると、新たな画像データの画質の劣化を招いてしまうといった問題もある。逆に、仮に撮影画像内の周期パターンの画素数の最小値に対応した所定のフィルタを適用して一律に行うようにすると、十分に表示画面の格子状の模様を消すことが出来ないといった問題もある。
複数のドットがマトリクス状に配置されている表示画面に表示された表示画像を撮像した撮像画像を取得する取得手段と、この取得手段により取得された撮像画像の所定の画像領域に対する直角四辺形変換処理を行って、直角四角形でない画像から直角四辺形画像を生成する第1処理手段と、この第1処理手段により生成された前記直角四辺形画像に対して、前記表示画像の所定方向に隣接するドットどうしの隙間に対応する隙間領域の画像データを修正する隙間修正処理を行う第2処理手段と、を備えたことを特徴としている。
前記第1処理手段により生成された前記直角四辺形画像における前記隙間領域を構成する画素数を算出する算出手段と、この算出手段により算出された前記画素数に基づいて、前記隙間修正処理にて処理対象となる一の画素の処理範囲を特定する特定手段と、を更に備え、前記第2処理手段は、前記特定手段により特定された前記一の画素の処理範囲を基準として前記直角四辺形画像に対する前記隙間修正処理を行うことを特徴としている。
前記特定手段は、前記算出手段により算出された前記画素数に基づいて、前記処理対象となる一の画素の処理範囲を規定する、前記隙間修正処理としてのフィルタ処理に用いられる所定のフィルタのサイズを特定し、前記第2処理手段は、前記特定手段により特定されたサイズの所定のフィルタを用いて前記直角四辺形画像に対する前記フィルタ処理を行って、当該直角四辺形画像における前記隙間領域の画像データを修正することを特徴としている。
前記算出手段は、前記直角四辺形画像の何れか一の辺と平行な所定の一方向に沿って前記隙間領域を複数特定して、当該複数の隙間領域の各々を構成する画素数を算出し、前記特定手段は、前記算出手段により算出された複数の前記画素数の中での最大値を基準として、前記フィルタ処理に用いられる所定のフィルタのサイズを特定することを特徴としている。
前記算出手段は、前記直角四辺形画像の何れか一の辺と平行な複数の方向に沿ってそれぞれ前記隙間領域を複数特定して、各方向における前記複数の隙間領域の各々を構成する画素数を算出し、前記特定手段は、前記算出手段により算出された各方向における複数の前記画素数の中での最大値に基づいて、前記互いに平行な複数の方向に係る複数の画素数を代表する代表値を特定し、特定された代表値を基準として、前記フィルタ処理に用いられる所定のフィルタのサイズを特定することを特徴としている。
前記取得手段により取得された前記撮像画像に対して輪郭抽出処理を施して前記所定の画像領域を抽出する抽出手段を更に備え、前記第1処理手段は、前記抽出手段により抽出された前記所定の画像領域に対して前記直角四辺形変換処理を施すことを特徴としている。
前記抽出手段は、前記所定の画像領域を複数抽出し、前記複数の所定の画像領域の中で、前記第1処理手段により前記直角四辺形変換処理が施される所定の画像領域を指定する指定手段を更に備えることを特徴としている。
前記取得手段により取得された前記撮像画像における、前記表示画像を撮像した撮像手段の光学的特性によって生じた歪みを補正する補正手段を更に備え、前記第1処理手段は、前記補正手段により歪みが補正された撮像画像の所定の画像領域に対して前記直角四辺形変換処理を施すことを特徴としている。
前記第2処理手段による前記隙間修正処理後の画像を記録手段に記録させる制御手段を更に備えることを特徴としている。
複数のドットがマトリクス状に配置されている表示画面に表示された表示画像を撮像した撮像画像を取得する取得手段を備える画像処理装置を用いた画像処理方法であって、前記取得手段により取得された撮像画像の所定の画像領域に対する直角四辺形変換処理を行って、直角四角形でない画像から直角四辺形画像を生成する処理と、生成された前記直角四辺形画像に対して、前記表示画像の所定方向に隣接するドットどうしの隙間に対応する隙間領域の画像データを修正する隙間修正処理を行う処理と、を含むことを特徴としている。
複数のドットがマトリクス状に配置されている表示画面に表示された表示画像を撮像した撮像画像を取得する取得手段を備える画像処理装置のコンピュータを、前記取得手段により取得された撮像画像の所定の画像領域に対する直角四辺形変換処理を行って、直角四角形でない画像から直角四辺形画像を生成する第1処理手段、この第1処理手段により生成された前記直角四辺形画像に対して、前記表示画像の所定方向に隣接するドットどうしの隙間に対応する隙間領域の画像データを修正する隙間修正処理を行う第2処理手段、として機能させることを特徴としている。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
本実施形態の撮像装置100は、複数のドットがマトリクス状に配置されている表示画面201に表示された表示画像S(図4(a)参照)を撮像した撮像画像i1(図4(b)参照)を取得して、当該撮像画像i1の所定の画像領域(四角領域A1)に対する直角四辺形変換処理を行って直角四辺形画像i2(図5(a)参照)を生成する。また、撮像装置100は、生成された直角四辺形画像i2に対して、表示画像Sの所定方向に隣接するドットどうしの隙間に対応する隙間領域C(図3参照)の画像データを修正する隙間修正処理を行う。
具体的には、図1に示すように、撮像装置100は、撮像部1と、撮像制御部2と、画像データ生成部3と、メモリ4と、画像処理部5と、符号化部6と、記録媒体制御部7と、表示制御部8と、表示部9と、操作入力部10と、中央制御部11とを備えている。
また、撮像制御部2は、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体を撮像する際の条件の調整制御を行う。
ここで、表示装置200は、例えば、液晶表示ディスプレイや有機EL表示ディスプレイなどであり、その表示パネルの表面(表示画面201)にR(赤)、G(緑)、B(青)の色成分に対応するドットがマトリクス状に複数配列されている。
そして、撮像部1が表示装置200の表示画面201の所定位置に表示されている表示画像Sを撮像する際に、撮像制御部2は、レンズ部の各種レンズを通過した撮像画像i1の光学像を所定のタイミングで電子撮像部により二次元の画像信号に変換させ、この電子撮像部の撮像領域から当該撮像画像i1の画像フレームを読み出して画像データ生成部3に出力させる。
従って、当該撮像画像i1の画像情報は、表示画像S自体の画像情報の他に、表示パネルの表面のマトリクス状に配置されたドット及びドットどうしの隙間領域Cの画像情報も含むこととなる。このため、撮像画像i1を当該撮像装置100の表示部9などに表示させると、表示画像S自体に重畳して表示画面201の複数のドットどうしの隙間領域Cが格子状の模様となって現れてしまう。このような格子状の模様は、特に、高分解能(高画素)の電子撮像部や明るい(F値の小さい)レンズ部を用いて表示画像Sを撮像した場合に顕著に現れる。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用されるメモリ4にDMA転送される。
即ち、画像取得部5aは、撮像部1により撮像されて画像データ生成部3から出力された撮像画像i1の画像データ(YUVデータ)を取得する。具体的には、画像取得部5aは、撮像部1が表示装置200の表示画面201の所定位置に表示されている表示画像Sを撮像することによって、画像データ生成部3により生成されて出力された撮像画像i1の画像データを取得する。
ここで、画像取得部5aは、複数のドットがマトリクス状に配置されている表示画面201に表示された表示画像Sを撮像した撮像画像i1を取得する取得手段を構成している。
即ち、撮像画像i1の光学像は、例えば、レンズ部のズームレンズの位置(ズーム値)によって生じる歪みの大きさが異なる。そこで、画像補正部5bは、レンズ部のズーム値と関連付けられている光学像の歪みに関連する光学特性情報に基づいて、画像取得部5aにより取得された画像データに対して所定の強度の歪曲収差補正を行って、撮像部1のレンズ部の光学的特性によって生じた撮像画像i1の歪みを補正する。
ここで、画像補正部5bは、画像取得部5aにより取得された撮像画像i1における、表示画像Sを撮像した撮像部1の光学的特性によって生じた歪みを補正する補正手段を構成している。
即ち、輪郭抽出部5cは、例えば、画像補正部5bによる歪曲収差補正後のYUVデータの輝度信号Yに対して直線検出処理(例えば、ハフ変換処理など)を施して直線を検出し、所定方向に延在する4本の直線によって形成される四角形を輪郭として特定する。そして、輪郭抽出部5cは、特定された四角形内の画像領域(四角領域A1;図4(c)参照)を所定の画像領域として抽出する。ここで、複数の四角形が特定された場合には、輪郭抽出部5cは、これら複数の四角形内の画像領域をそれぞれ抽出する。
これにより、表示装置200の表示画面201に表示されている略矩形状(直角四辺形状)の画像、即ち、表示画像S自体や、表示画像Sに加えて当該表示画像Sのファイル名などが表示されたタイトルバーやGUI(Graphical User Interface)の各種ボタン等を含む領域(いわゆる、「ウインドウ」)の画像などが所定の画像領域(四角領域A1)として抽出される。また、表示画像Sが表示装置200の表示画面201全体に表示されている場合には、略矩形状の当該表示画面201の各辺を四角領域A1の輪郭として特定しても良い。
ここで、輪郭抽出部5cは、画像取得部5aにより取得された撮像画像i1に対して輪郭抽出処理を施して四角領域(所定の画像領域)A1を抽出する抽出手段を構成している。
また、直線検出処理として、ハフ変換処理を例示したが、一例であってこれに限られるものではなく、エッジ検出処理など適宜任意に変更可能である。なお、ハフ変換処理やエッジ検出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
即ち、表示装置200の表示画面201と撮像装置100とが真正面に正確に対向していない状態で撮像されることによって、直角四辺形状をなさない(各内角が直角でない)歪んだ四角形内の画像領域が所定の画像領域として輪郭抽出部5cにより抽出される。そこで、四辺形変換処理部5dは、画像補正部5bによる歪曲収差補正により歪みが補正された輝度信号Yから輪郭抽出部5cにより抽出された四角領域(所定の画像領域)A1に対して、直角四辺形変換処理(例えば、台形補正処理等)を行って直角四辺形画像i2(例えば、矩形画像、正方形画像など)を生成する。ここで、輪郭抽出部5cにより複数の四角領域A1が抽出されていた場合には、四辺形変換処理部5dは、これら複数の四角領域A1の中で、ユーザによる操作入力部10の所定操作に基づいて中央制御部11により選択指定された四角領域A1を処理対象として直角四辺形変換処理を施す。
また、この直角四変形変換処理後の直角四辺形画像の縦横比は、取得した表示画面201の表示ドット数から算出された縦横比に基づいて算出することができる。
このようにして生成された直角四辺形画像i2は、縦方向及び横方向の各々に沿って延在する辺を有する画像となり、表示画像Sに対応する複数のドットのピッチを略均一にすることができる。また、表示画像Sに重畳して現れる格子状の模様(複数のドットどうしの隙間領域C)も縦方向及び横方向の各々に沿って延在した状態となる。
このように、四辺形変換処理部5dは、画像取得部5aにより取得された撮像画像i1の四角領域(所定の画像領域)A1に対する直角四辺形変換処理を行って直角四辺形画像i2を生成する第1処理手段を構成している。
即ち、隙間画素数算出部5eは、直角四辺形画像i2の縦方向及び横方向の各々と略平行な方向に沿って隙間領域Cを複数特定した後、これら複数の隙間領域Cの各々を構成する画素数を算出する。具体的には、隙間画素数算出部5eは、先ず、直角四辺形画像i2内で所定の閾値よりも明るい画素が所定の割合(例えば、過半数以上)を占める任意の処理対象領域A2を特定する。この処理対象領域A2は、例えば、直角四辺形画像i2の各辺と略平行な辺を有している。
次に、隙間画素数算出部5eは、処理対象領域A2内の輝度値の累積度数分布を算出し、例えば、所定の分布率以下となる画素が隙間領域Cであると想定して、当該所定の分布率に対応する輝度値を所定の閾値として設定する。そして、隙間画素数算出部5eは、処理対象領域A2内で縦方向及び横方向のうちの何れか一方向(例えば、縦方向)と互いに平行な複数の方向の各々に沿って処理対象ラインを設定し、各処理対象ラインを走査して所定の閾値よりも輝度値の小さい画素からなる領域を隙間領域Cとして複数特定する。続けて、隙間画素数算出部5eは、互いに平行な複数の処理対象ラインの各々について、複数の隙間領域Cの各々を構成する画素数(図3参照)を算出していく。
例えば、図3に示すように、表示画像S自体(ドット)に対応する画素は輝度値が大きくなる一方で、隣接するドットどうしの隙間領域Cに対応する画素は輝度値が小さくなる。なお、図3に例示したものは一の処理対象ラインに沿った複数の画素の輝度値の一例であり、例えば、処理対象ラインが隙間領域C上となると、当該隙間領域Cに対応する画素のみ、即ち、輝度値の小さい画素のみによって占められることとなる。この場合には、後述するように、フィルタサイズ特定部5fによるフィルタサイズの特定処理からは除外される。
このように、隙間画素数算出部5eは、四辺形変換処理部5dにより生成された直角四辺形画像i2における、表示画像Sの所定方向に隣接するドットどうしの隙間に対応する隙間領域Cを構成する画素数を算出する算出手段を構成している。
即ち、フィルタサイズ特定部5fは、フィルタ処理部5gにより直角四辺形画像i2の隙間領域Cの画像データを補間する隙間補間処理として行われるフィルタ処理に用いられる所定の二次元フィルタ(例えば、メディアンフィルタ等)のサイズ(タップ数)を特定する。つまり、フィルタ処理に用いられる所定の二次元フィルタのサイズは、直角四辺形画像i2における処理対象となる一の画素の演算処理範囲を規定するものである。そこで、フィルタサイズ特定部5fは、隙間画素数算出部5eにより算出された隙間領域Cを構成する画素数に基づいて、隙間補間処理としてのフィルタ処理に用いられる所定の二次元フィルタのサイズを一の画素の演算処理範囲として特定する。
つまり、処理対象ラインが格子状をなす隙間領域Cを構成する所定方向に延在する直線上に設定されると、この直線に対応する輝度値の小さい画素によって大部分(例えば、過半数以上)が占められることとなるため、当該処理対象ラインでは隙間領域Cを構成する画素数の値が大きくなる。そこで、フィルタサイズ特定部5fは、例えば、処理対象方向と互いに平行な複数の処理対象ラインに係る複数の画素数の最大値の中で、最頻値や平均値を代表値として特定することにより、輝度値の小さい画素が大部分を占める処理対象ラインを除外する。そして、フィルタサイズ特定部5fは、例えば、処理対象方向について特定された代表値を「gap」として、フィルタ処理に用いられるメディアンフィルタのタップ数「tap」を下記式(1)に従って算出する。
tap= 2gap +1 …式(1)
なお、上記式(1)は、メディアンフィルタのタップ数「tap」を算出するための演算式の一例であってこれに限られるものではなく、係数や定数などは適宜任意に変更可能である。また、演算式は、フィルタ処理に用いられるフィルタの種類によっても適宜任意に変更可能である。
また、フィルタサイズ特定部5fは、処理対象領域A2の縦方向及び横方向の各々を処理対象方向として特定されたフィルタサイズに基づいて、最終的なフィルタサイズを特定する。ここで、処理対象領域A2の縦方向及び横方向のうち、処理対象となる方向によって異なるサイズが特定された場合には、そのまま縦方向及び横方向の異なるサイズとしても良く、それらの平均値や最大値を基準として最終的なフィルタサイズを特定するようにしても良い。
このように、フィルタサイズ特定部5fは、隙間画素数算出部5eにより算出された画素数に基づいて、直角四辺形画像i2の隙間領域Cの画像データを修正する隙間補間処理(隙間修正処理)にて処理対象となる一の画素の処理範囲を特定する特定手段を構成している。
即ち、フィルタ処理部5gは、直角四辺形画像i2の隙間領域Cの画像データを補間する隙間補間処理としてフィルタ処理を行う。このとき、フィルタ処理部5gは、フィルタサイズ特定部5fにより特定されたフィルタサイズ、つまり、当該直角四辺形画像i2における処理対象となる一の画素の演算処理範囲を規定するフィルタサイズ(例えば、5×5画素等)を基準として、直角四辺形画像i2に対するフィルタ処理を施す。具体的には、フィルタ処理部5gは、例えば、直角四辺形画像i2の各画素に対して5×5画素のサイズのメディアンフィルタを用いてフィルタ処理を行うことによって、隣接するドットどうしの隙間領域Cを構成する画素の輝度値を、当該画素の近傍の表示画像S自体(ドット)に対応する画素の輝度値に置換する。これにより、フィルタ処理部5gは、表示画像Sに重畳して現れている格子状の模様(複数のドットどうしの隙間領域C)を補間(修正)した隙間補間処理済画像i3(図5(b)参照)の画像データを生成する。
また、隙間補間処理(フィルタ処理)によって、直角四辺形画像i2の隙間領域Cの画像データを修正するようにしたが、当該隙間領域Cの修正方法はこれに限られるものではない。例えば、隙間領域Cの各画素の輝度値を近傍の画素に対して輝度差を小さくするように修正する方法など、隙間領域Cとその周囲の領域との画素値の差を小さくするような画像処理であれば如何なる方法を適用しても良い。
ここで、フィルタ処理部5gは、四辺形変換処理部5dにより生成された直角四辺形画像i2に対して、表示画像Sの所定方向に隣接するドットどうしの隙間に対応する隙間領域Cの画像データを修正する隙間補間処理(隙間修正処理)を行う第2処理手段を構成している。
ここで、記録媒体制御部7は、フィルタ処理部5gによる隙間補間処理(フィルタ処理)後の画像i3を記録媒体Mに記録させる制御手段を構成している。
具体的には、表示制御部8は、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部11の制御下にてメモリ4から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部9に出力する。
ここで、中央制御部11及び操作入力部10は、複数の四角領域(所定の画像領域)A1の中で、四辺形変換処理部5dにより直角四辺形変換処理が施される四角領域A1を指定する指定手段を構成している。
図2は、隙間補間撮像処理に係る動作の一例を示すフローチャートである。
隙間補間撮像処理は、ユーザによる操作入力部10の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から隙間補間撮像モードが選択指示された場合に実行される処理である。また、隙間補間撮像処理にあっては、表示装置200(図4(a)参照)の表示画面201の所定位置に表示されている表示画像Sを被写体として撮像部1により撮像する。
そして、中央制御部11は、ライブビュー表示処理中に、ユーザによる操作入力部10のシャッタボタンの所定操作に基づいて撮像指示が入力されたか否かを判定する(ステップS2)。
そして、ステップS2にて、撮像指示が入力されたと判定されると(ステップS2;YES)、撮像制御部2は、例えば、表示装置200の表示画面201のフリッカー等に対応させて露出条件(シャッター速度、絞り、増幅率等)やホワイトバランス等の撮像条件を調整して、表示装置200に表示されている表示画像Sの光学像を撮像部1の電子撮像部に撮像させる(ステップS3)。その後、画像データ生成部3は、電子撮像部から転送された撮像画像i1(図4(b)参照)のYUVデータを生成する。
生成されたYUVデータは、図示しないDMAコントローラを介して、バッファメモリとして使用されるメモリ4にDMA転送される。
また、このとき、表示制御部8は、メモリ4に一時的に記憶されている撮像画像i1の表示用の画像データを読み出して表示部9に表示させても良い。
続けて、画像補正部5bは、取得されたYUVデータに対してレンズ部のズーム値を基準とする所定の強度の歪曲収差補正を行って、撮像部1のレンズ部の光学的特性によって生じた撮像画像i1の歪みを補正する(ステップS5)。
ここで、輪郭抽出部5cによって複数の四角領域A1が抽出された場合には、表示制御部8は、これら複数の四角領域A1を直角四辺形変換処理(後述)の処理対象の候補として表示部9に表示させる。即ち、表示制御部8は、例えば、各四角領域A1の外縁部に沿って枠線を表示させるとともに、これら複数の四角領域A1を切り替え可能に表示させる。そして、中央制御部11は、ユーザによる操作入力部10の所定操作に基づいて選択指定された四角領域A1を直角四辺形変換処理の処理対象とする。
続けて、隙間画素数算出部5eは、四辺形変換処理部5dにより生成された直角四辺形画像i2における隣接するドットどうしの隙間領域Cを特定して、当該隙間領域Cを構成する画素数を算出する(ステップS8)。具体的には、隙間画素数算出部5eは、直角四辺形画像i2内で所定の閾値よりも明るい画素が所定の割合を占める任意の処理対象領域A2を特定する。その後、隙間画素数算出部5eは、処理対象領域A2内の各画素の輝度値の累積度数分布を算出して、所定の分布率に対応する輝度値を所定の閾値として設定する。続けて、隙間画素数算出部5eは、処理対象領域A2内で縦方向及び横方向のうちの何れか一方向(例えば、縦方向)と互いに平行な複数の方向の各々に沿って処理対象ラインを設定し、各処理対象ラインを走査して所定の閾値よりも輝度値の小さい画素からなる領域を隙間領域Cとして複数特定する。続けて、隙間画素数算出部5eは、互いに平行な複数の処理対象ラインの各々について、複数の隙間領域Cの各々を構成する画素数を算出していく。
また、隙間画素数算出部5eは、縦方向及び横方向のうち、処理対象となっていない他方向(例えば、横方向)についても上記と同様にして、複数の隙間領域Cの各々を構成する画素数を算出する。
より具体的には、フィルタサイズ特定部5fは、直角四辺形画像i2の処理対象領域A2の縦方向及び横方向のうちの処理対象方向(例えば、縦方向)と互いに平行な複数の処理対象ラインの各々について、隙間領域Cを構成する複数の画素数の中での最大値を算出する。そして、フィルタサイズ特定部5fは、特定された複数の画素数の最大値に基づいて、処理対象方向に係る複数の画素数を代表する代表値を特定した後、特定された代表値を「gap」として、フィルタ処理に用いられるメディアンフィルタのタップ数「tap」を下記式(1)に従って算出する。
tap= 2gap +1 …式(1)
また、フィルタサイズ特定部5fは、処理対象領域A2の縦方向及び横方向のうち、処理対象となっていない他方向(例えば、横方向)についても上記と同様にして、フィルタ処理に用いられる所定の二次元フィルタのサイズを特定する。
そして、フィルタサイズ特定部5fは、処理対象領域A2の縦方向及び横方向の各々を処理対象方向として特定されたフィルタサイズに基づいて、最終的なフィルタサイズを特定する。
具体的には、フィルタ処理部5gは、直角四辺形画像i2の各画素に対してフィルタ処理を行うことによって、隣接するドットどうしの隙間領域Cを構成する画素の輝度値を、当該画素の近傍の表示画像S自体(ドット)に対応する画素の輝度値に置換する。これにより、フィルタ処理部5gは、表示画像Sに重畳して現れている格子状の模様(複数のドットどうしの隙間領域C)を補間した隙間補間処理済画像i3の画像データを生成する。
続けて、記録媒体制御部7は、符号化部6により符号化された隙間補間処理済画像i3の記録用の画像データを記録媒体Mに記録させる(ステップS12)。このとき、表示制御部8は、表示制御部8は、隙間補間処理済画像i3の表示用の画像データを取得して表示部9に表示させる。
これにより、隙間補間撮像処理を終了する。
このように、表示画像Sを撮像した画像を変形させた直角四辺形画像i2から隣接するドットどうしの隙間、即ち、当該画像の表示には不要な情報が補間されて修正された画像の生成を簡便に、且つ、適正に行うことができる。
これにより、算出された隙間領域Cの画素数に基づいて、隙間補間処理にて処理対象となる一の画素の処理範囲の特定を適正に行うことができる。具体的には、処理対象となる一の画素の処理範囲を規定する、フィルタ処理に用いられる所定の二次元フィルタのサイズを特定して、当該サイズの所定の二次元フィルタを用いてフィルタ処理を行うので、フィルタ処理後の画像データの画質劣化を生じさせることなく直角四辺形画像i2における隙間領域Cを適正に補間することができる。つまり、直角四辺形画像i2に対するフィルタ処理を、特定されたサイズの所定の二次元フィルタを適用して一律に行うことができることから、当該フィルタ処理を処理負担の小さい単純な回路構成で簡便に行うことができる。この結果、フィルタ処理の処理効率の向上及び高速化を図ることができるとともに、フィルタ処理後の画像データの画質劣化や解像度の低下を生じさせることなく直角四辺形画像i2からの隙間領域Cの補間を適正に行うことができる。
つまり、処理対象領域A2の縦方向及び横方向のうちの処理対象方向と平行となるように設定される処理対象ラインが、格子状をなす隙間領域Cを構成する所定方向に延在する直線上となった場合には、算出される隙間領域Cを構成する画素数の値が大きくなる。そこで、処理対象方向に係る複数の処理対象ラインに対応する複数の画素数の中での最大値に基づいて、輝度値の小さい画素が大部分を占める処理対象ラインに係るものを除外するように処理対象方向に係る複数の画素数の代表値を特定し、特定された代表値を基準として、フィルタ処理に用いられる所定の二次元フィルタのサイズを特定する。
このように、処理対象領域A2の中で、格子状をなす隙間領域Cを構成する所定方向に延在する直線上に設定される処理対象ラインを考慮してフィルタサイズを特定することができるので、当該所定の二次元フィルタのサイズの最適化を図ることができる。
ここで、複数の所定の画像領域が抽出された場合であっても、ユーザによる操作入力部10の所定操作に基づいて中央制御部11が直角四辺形変換処理の処理対象となる所定の画像領域を指定するので、複数の所定の画像領域の中でユーザ所望の領域を直角四辺形変換処理の処理対象として設定することができる。
例えば、上記実施形態では、隙間修正処理(隙間補間処理)としてフィルタ処理を例示したが、一例であってこれに限られるものではなく、適宜任意に変更可能である。即ち、本発明にあっては、隙間修正処理の前に、撮像画像i1の所定の画像領域に対する直角四辺形変換処理を行って直角四辺形画像i2を生成することで、直角四辺形画像i2における隙間領域Cの特定を適正に行って、その後の隙間修正処理の簡略化を図ることができるようになる。従って、当該隙間修正処理の処理効率の向上及び高速化を図る上では、本実施形態のように所定のサイズの二次元フィルタを一律に適用する処理負担の小さい単純な回路構成で行うことが好ましいが、他の如何なる構成、例えば、従来の各種手法を適用しても良い。
この場合には、処理対象ラインに沿って特定された複数の隙間領域Cの各々を構成する画素数を算出して、算出された複数の画素数の中での最大値を基準として、フィルタ処理に用いられる所定の二次元フィルタのサイズを特定することで、当該所定の二次元フィルタのサイズの最適化を図ることができる。
さらに、上記実施形態にあっては、撮像画像i1における撮像部1のレンズ部の光学的特性によって生じた歪みを補正するようにしたが、これに限られるものではなく、撮像画像i1に生じた歪みを補正する処理を行うか否かは適宜任意に変更可能である。
即ち、表示装置200に表示された表示画像Sを当該撮像装置100にて撮像して撮像画像i1を取得するようにしたが、例えば、当該撮像装置100以外の撮像装置にて撮像された撮像画像を記録媒体Mや所定の通信回線を介して取得するようにしても良い。また、画像処理部5による画像処理後の直角四辺形画像i2の画像データ(隙間補間処理済画像i3の画像データ)を記録媒体Mに記録させるようにしたが、例えば、当該撮像装置100の外部に設けられ所定の通信回線を介して接続されている所定の記録手段(例えば、ハードディスクドライブなど)に転送して記録するようにしても良い。
また、画像処理装置として、撮像装置100を例示したが、これに限られるものではなく、本発明に係る所定の画像処理を実行可能なものであれば如何なる構成であっても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、画像取得処理ルーチン、第1処理ルーチン及び第2処理ルーチンを含むプログラムを記憶しておく。そして、取得処理ルーチンにより中央制御部11のCPUを、複数のドットがマトリクス状に配置されている表示画面201に表示された表示画像Sを撮像した撮像画像i1を取得する取得手段として機能させるようにしても良い。また、第1処理ルーチンにより中央制御部11のCPUを、取得手段により取得された撮像画像i1の所定の画像領域に対する直角四辺形変換処理を行って直角四辺形画像i2を生成する第1処理手段として機能させるようにしても良い。また、第2処理ルーチンにより中央制御部11のCPUを、第1処理手段により生成された直角四辺形画像i2に対して、表示画像Sの所定方向に隣接するドットどうしの隙間に対応する隙間領域Cの画像データを修正する隙間修正処理を行う第2処理手段として機能させるようにしても良い。
1 撮像部
2 撮像制御部
5 画像処理部
5a 画像取得部
5b 画像補正部
5c 輪郭抽出部
5d 四辺形変換処理部
5e 隙間画素数算出部
5f フィルタサイズ特定部
5g フィルタ処理部
7 記録媒体制御部
10 操作入力部
11 中央制御部
M 記録媒体
Claims (11)
- 複数のドットがマトリクス状に配置されている表示画面に表示された表示画像を撮像した撮像画像を取得する取得手段と、
この取得手段により取得された撮像画像の所定の画像領域に対する直角四辺形変換処理を行って、直角四角形でない画像から直角四辺形画像を生成する第1処理手段と、
この第1処理手段により生成された前記直角四辺形画像に対して、前記表示画像の所定方向に隣接するドットどうしの隙間に対応する隙間領域の画像データを修正する隙間修正処理を行う第2処理手段と、
を備えたことを特徴とする画像処理装置。 - 前記第1処理手段により生成された前記直角四辺形画像における前記隙間領域を構成する画素数を算出する算出手段と、
この算出手段により算出された前記画素数に基づいて、前記隙間修正処理にて処理対象となる一の画素の処理範囲を特定する特定手段と、を更に備え、
前記第2処理手段は、
前記特定手段により特定された前記一の画素の処理範囲を基準として前記直角四辺形画像に対する前記隙間修正処理を行うことを特徴とする請求項1に記載の画像処理装置。 - 前記特定手段は、前記算出手段により算出された前記画素数に基づいて、前記処理対象となる一の画素の処理範囲を規定する、前記隙間修正処理としてのフィルタ処理に用いられる所定のフィルタのサイズを特定し、
前記第2処理手段は、前記特定手段により特定されたサイズの所定のフィルタを用いて前記直角四辺形画像に対する前記フィルタ処理を行って、当該直角四辺形画像における前記隙間領域の画像データを修正することを特徴とする請求項2に記載の画像処理装置。 - 前記算出手段は、前記直角四辺形画像の何れか一の辺と平行な所定の一方向に沿って前記隙間領域を複数特定して、当該複数の隙間領域の各々を構成する画素数を算出し、
前記特定手段は、前記算出手段により算出された複数の前記画素数の中での最大値を基準として、前記フィルタ処理に用いられる所定のフィルタのサイズを特定することを特徴とする請求項3に記載の画像処理装置。 - 前記算出手段は、前記直角四辺形画像の何れか一の辺と平行な複数の方向に沿ってそれぞれ前記隙間領域を複数特定して、各方向における前記複数の隙間領域の各々を構成する画素数を算出し、
前記特定手段は、前記算出手段により算出された各方向における複数の前記画素数の中での最大値に基づいて、前記互いに平行な複数の方向に係る複数の画素数を代表する代表値を特定し、特定された代表値を基準として、前記フィルタ処理に用いられる所定のフィルタのサイズを特定することを特徴とする請求項4に記載の画像処理装置。 - 前記取得手段により取得された前記撮像画像に対して輪郭抽出処理を施して前記所定の画像領域を抽出する抽出手段を更に備え、
前記第1処理手段は、
前記抽出手段により抽出された前記所定の画像領域に対して前記直角四辺形変換処理を施すことを特徴とする請求項1〜5の何れか一項に記載の画像処理装置。 - 前記抽出手段は、前記所定の画像領域を複数抽出し、
前記複数の所定の画像領域の中で、前記第1処理手段により前記直角四辺形変換処理が施される所定の画像領域を指定する指定手段を更に備えることを特徴とする請求項6に記載の画像処理装置。 - 前記取得手段により取得された前記撮像画像における、前記表示画像を撮像した撮像手段の光学的特性によって生じた歪みを補正する補正手段を更に備え、
前記第1処理手段は、
前記補正手段により歪みが補正された撮像画像の所定の画像領域に対して前記直角四辺形変換処理を施すことを特徴とする請求項1〜7の何れか一項に記載の画像処理装置。 - 前記第2処理手段による前記隙間修正処理後の画像を記録手段に記録させる制御手段を更に備えることを特徴とする請求項1〜8の何れか一項に記載の画像処理装置。
- 複数のドットがマトリクス状に配置されている表示画面に表示された表示画像を撮像した撮像画像を取得する取得手段を備える画像処理装置を用いた画像処理方法であって、
前記取得手段により取得された撮像画像の所定の画像領域に対する直角四辺形変換処理を行って、直角四角形でない画像から直角四辺形画像を生成する処理と、
生成された前記直角四辺形画像に対して、前記表示画像の所定方向に隣接するドットどうしの隙間に対応する隙間領域の画像データを修正する隙間修正処理を行う処理と、
を含むことを特徴とする画像処理方法。 - 複数のドットがマトリクス状に配置されている表示画面に表示された表示画像を撮像した撮像画像を取得する取得手段を備える画像処理装置のコンピュータを、
前記取得手段により取得された撮像画像の所定の画像領域に対する直角四辺形変換処理を行って、直角四角形でない画像から直角四辺形画像を生成する第1処理手段、
この第1処理手段により生成された前記直角四辺形画像に対して、前記表示画像の所定方向に隣接するドットどうしの隙間に対応する隙間領域の画像データを修正する隙間修正処理を行う第2処理手段、
として機能させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010074122A JP5471704B2 (ja) | 2010-03-29 | 2010-03-29 | 画像処理装置、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010074122A JP5471704B2 (ja) | 2010-03-29 | 2010-03-29 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011211270A JP2011211270A (ja) | 2011-10-20 |
JP5471704B2 true JP5471704B2 (ja) | 2014-04-16 |
Family
ID=44941919
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010074122A Expired - Fee Related JP5471704B2 (ja) | 2010-03-29 | 2010-03-29 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5471704B2 (ja) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4055388B2 (ja) * | 2001-10-12 | 2008-03-05 | ソニー株式会社 | 情報処理装置、情報処理システム、及びプログラム |
JP2005267457A (ja) * | 2004-03-19 | 2005-09-29 | Casio Comput Co Ltd | 画像処理装置、撮影装置、画像処理方法及びプログラム |
JP4355305B2 (ja) * | 2005-06-13 | 2009-10-28 | シャープ株式会社 | 画像処理装置、コンピュータプログラム、及び記録媒体 |
JP4662874B2 (ja) * | 2006-03-27 | 2011-03-30 | Necカシオモバイルコミュニケーションズ株式会社 | 画像処理装置、及びプログラム |
-
2010
- 2010-03-29 JP JP2010074122A patent/JP5471704B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2011211270A (ja) | 2011-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5269718B2 (ja) | 画像処理装置、画像処理プログラムおよび画像処理方法 | |
US8363123B2 (en) | Image pickup apparatus, color noise reduction method, and color noise reduction program | |
US9538085B2 (en) | Method of providing panoramic image and imaging device thereof | |
JP5845464B2 (ja) | 画像処理装置及び画像処理方法並びにデジタルカメラ | |
JP5280448B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び半導体集積回路 | |
JP5234150B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP4433883B2 (ja) | ホワイトバランス補正装置及びホワイトバランス補正方法、プログラム、電子カメラ装置 | |
JP4868046B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US9137506B2 (en) | User interface (UI) providing method and photographing apparatus using the same | |
JP2013162347A (ja) | 画像処理装置、画像処理方法、プログラム、および装置 | |
JP2007274504A (ja) | デジタルカメラ | |
JP5455728B2 (ja) | 撮像装置、画像処理装置、及び画像処理方法 | |
JP2010141661A (ja) | 画像処理装置 | |
JP2014146872A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP5673454B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5471704B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US8804014B2 (en) | Imaging device for reducing color moire | |
JP2010154390A (ja) | 撮像装置及び撮像方法並びにプログラム | |
JP2010056817A (ja) | 撮像装置 | |
JP6003974B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5979040B2 (ja) | 撮像装置、撮像方法及びプログラム | |
JP6627418B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6601062B2 (ja) | 撮像制御装置、撮像制御方法及びプログラム | |
JP5290734B2 (ja) | ノイズ低減装置及びノイズ低減方法 | |
JP2012227869A (ja) | 画像処理装置及び画像処理方法並びにデジタルカメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130325 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20130325 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131001 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131017 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140107 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140120 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5471704 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |