JP2020170306A - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP2020170306A JP2020170306A JP2019070671A JP2019070671A JP2020170306A JP 2020170306 A JP2020170306 A JP 2020170306A JP 2019070671 A JP2019070671 A JP 2019070671A JP 2019070671 A JP2019070671 A JP 2019070671A JP 2020170306 A JP2020170306 A JP 2020170306A
- Authority
- JP
- Japan
- Prior art keywords
- region
- interest
- similar
- pixel value
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims description 3
- 238000000034 method Methods 0.000 claims description 32
- 230000000694 effects Effects 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 238000001454 recorded image Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229920001690 polydopamine Polymers 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
【課題】ノイズ低減効果を向上させることを目的とする。【解決手段】本発明の画像処理装置は、画像の着目領域の周囲に、前記着目領域に対応する複数の領域を設定し、設定した複数の領域の少なくとも一部において、領域内に含まれる画素の位置と画素値に組み合わせを変更した変形領域を生成し、変形領域の画素値に基づいて、着目領域の画素値を補正することを特徴とする。【選択図】図8
Description
本発明は、画像処理装置、画像処理方法およびプログラムに関するものである。特に、画像データを補正する技術に関するものである。
近年、デジタルカメラ等の画像処理装置において、ノイズ低減処理の高性能化が進んでいる。ある着目画素のノイズを十分に低減させるように補正するには、その着目画素周辺の広い範囲の画素情報も用いて処理を行う必要がある。また、ノイズを低減しつつテクスチャの情報を失わないようにする必要があり、これらに関して様々な手法が提案されている。
特許文献1は、画像領域を抽出した画像パッチの集合を生成し、その集合に属する全ての画像パッチに対して、画像パッチごとに異なるパラメータのノイズ低減処理を行い、デノイズ後の画像パッチを合成することにより、デノイズされた画像を生成している。
しかしながら、特許文献1では、例えば、着目画素の周囲に画像のエッジがある場合には、着目画素の周囲の画素情報を用いることができないためにノイズを十分に低減できないという問題がある。
本発明は、上述したような問題点に鑑み、ノイズ低減効果を向上させることを目的とする。
本発明は、上述したような問題点に鑑み、ノイズ低減効果を向上させることを目的とする。
本発明の画像処理装置は、画像の着目領域の周囲に、前記着目領域に対応する複数の領域を設定する設定手段と、前記設定手段により設定された前記複数の領域の少なくとも一部において、該領域内に含まれる画素の位置と画素値の組み合わせを変更した変形領域を生成する生成手段と、前記変形領域の画素値に基づいて、前記着目領域の画素値を補正する補正手段と、を有することを特徴とする。
本発明によればノイズ低減効果を向上させることができる。
以下、図面を参照して本発明の好適な実施形態について説明する。
<第1の実施形態>
本実施形態では、画像処理装置がカメラ等の撮像装置である場合について説明する。
図1は、撮像装置100の構成の一例を示すブロック図である。
撮像装置100は、制御部101、ROM102、RAM103、光学系104、撮像部105、A/D変換部106、画像処理部107、記録部108、表示部109等により構成される。
<第1の実施形態>
本実施形態では、画像処理装置がカメラ等の撮像装置である場合について説明する。
図1は、撮像装置100の構成の一例を示すブロック図である。
撮像装置100は、制御部101、ROM102、RAM103、光学系104、撮像部105、A/D変換部106、画像処理部107、記録部108、表示部109等により構成される。
制御部101は、例えばCPUであり、撮像装置100全体を制御する。制御部101が、撮像装置100の上述した各構成部を動作させるプログラムをROM102から読み出し、RAM103に展開して実行することにより撮像装置100全体を制御する。ROM102は、電気的に消去・記録可能な不揮発性メモリである。ROM102は、撮像装置100の各構成部を動作させるプログラムに加えて、各構成部を動作させるのに必要なパラメータ等を記録する。RAM103は、書き換え可能な揮発性メモリである。RAM103は、撮像装置100の各構成部が動作することで出力されたデータの一時的な記憶領域として用いられる。
光学系104は、ズームレンズ、フォーカスレンズを含むレンズ群で構成され、被写体像を撮像部105に結像する。撮像部105は、例えば、CCDやCMOSセンサ等の撮像素子である。撮像部105は、光学系104によって結像された光学像を光電変換し、得られたアナログ画像信号をA/D変換部106に出力する。本実施形態の撮像素子は原色RGBのベイヤー配列であるものとする。A/D変換部106は、入力されたアナログ画像信号をデジタル画像信号に変換し、得られたデジタル画像データをRAM103に出力する。
画像処理部107は、RAM103に記憶されている画像データに対して、ホワイトバランス調整、ノイズ低減、色補間(ディベイヤー)、ガンマ処理等の様々な画像処理を適用する。
記録部108は着脱可能なメモリカード等であり、画像処理部107で処理された画像がRAM103を介して記録画像として記録される。
表示部109は、LCD等の表示デバイスであり、RAM103および記録部108に記録した画像やユーザからの指示を受け付けるためのユーザインターフェイスを表示する。
記録部108は着脱可能なメモリカード等であり、画像処理部107で処理された画像がRAM103を介して記録画像として記録される。
表示部109は、LCD等の表示デバイスであり、RAM103および記録部108に記録した画像やユーザからの指示を受け付けるためのユーザインターフェイスを表示する。
図2は、画像処理部107の機能構成の一例を示すブロック図である。
画像処理部107は、ホワイトバランス処理部201、ノイズ低減処理部202、現像処理部203等を有する。画像処理部107の機能構成は、制御部101が例えばROMに記録されたプログラムを実行することにより構成される。
ホワイトバランス処理部201は、RAM103からベイヤー画像信号を受け取り、RGBそれぞれの色信号に対してホワイトバランスのゲインをかける。
ノイズ低減処理部202は、ホワイトバランス処理部201から出力されたベイヤー画像信号に対して、補正処理としてのノイズ低減処理を行う。ノイズ低減処理部202は、設定手段、補正手段、判定手段、変形手段、エッジ判定手段の一例に対応する。ノイズ低減処理については後述する。
現像処理部203は、ノイズ低減処理部202から出力されたベイヤー画像信号に対して、色補間(ディベイヤー)処理、ガンマ処理、マトリクス処理、圧縮処理等を行い、最終的な記録画像を生成する。生成された記録画像はRAM103を介して記録部108に記録される。
画像処理部107は、ホワイトバランス処理部201、ノイズ低減処理部202、現像処理部203等を有する。画像処理部107の機能構成は、制御部101が例えばROMに記録されたプログラムを実行することにより構成される。
ホワイトバランス処理部201は、RAM103からベイヤー画像信号を受け取り、RGBそれぞれの色信号に対してホワイトバランスのゲインをかける。
ノイズ低減処理部202は、ホワイトバランス処理部201から出力されたベイヤー画像信号に対して、補正処理としてのノイズ低減処理を行う。ノイズ低減処理部202は、設定手段、補正手段、判定手段、変形手段、エッジ判定手段の一例に対応する。ノイズ低減処理については後述する。
現像処理部203は、ノイズ低減処理部202から出力されたベイヤー画像信号に対して、色補間(ディベイヤー)処理、ガンマ処理、マトリクス処理、圧縮処理等を行い、最終的な記録画像を生成する。生成された記録画像はRAM103を介して記録部108に記録される。
次に、本実施形態のノイズ低減処理部202の動作について説明する。
図3は、ノイズ低減処理部202の動作の一例を示すフローチャートである。図3のフローチャートは、制御部101が例えばROM102に記録されたプログラムを実行することにより実現される。
S301では、ノイズ低減処理部202は入力されたベイヤー画像信号をR、Gr、Gb、Bの色ごとの画像信号に分離する。ここで、図4(a)は、ノイズ低減処理部202に入力されたベイヤー画像信号の一例を示す図である。図4(b)は、色ごとに分離した画像信号の一例を示す図である。
S302では、ノイズ低減処理部202は分離した4つの画像信号それぞれに対して、ノイズ低減処理を行う。
S303では、ノイズ低減処理部202はノイズ低減処理後の4つの画像信号をベイヤー配列の画像信号に戻して、ノイズ低減処理後のベイヤー画像信号を生成する。
図3は、ノイズ低減処理部202の動作の一例を示すフローチャートである。図3のフローチャートは、制御部101が例えばROM102に記録されたプログラムを実行することにより実現される。
S301では、ノイズ低減処理部202は入力されたベイヤー画像信号をR、Gr、Gb、Bの色ごとの画像信号に分離する。ここで、図4(a)は、ノイズ低減処理部202に入力されたベイヤー画像信号の一例を示す図である。図4(b)は、色ごとに分離した画像信号の一例を示す図である。
S302では、ノイズ低減処理部202は分離した4つの画像信号それぞれに対して、ノイズ低減処理を行う。
S303では、ノイズ低減処理部202はノイズ低減処理後の4つの画像信号をベイヤー配列の画像信号に戻して、ノイズ低減処理後のベイヤー画像信号を生成する。
次に、上述したS302でのノイズ低減処理について詳細に説明する。
図5は、S302でのノイズ低減処理の動作の一例を示すフローチャートである。
S501では、ノイズ低減処理部202は着目領域の位置を更新する。なお、着目領域の初期位置は、例えば画像データの左上画素に設定する。初期位置以降、ノイズ低減処理部202は着目領域の位置を水平に3画素おきに右に移動して更新する。なお、着目領域の位置が画像の右端まで到ると、ノイズ低減処理部202は着目領域の位置を垂直に3画素下に移動して更新し、同様に着目領域の位置を水平に3画素おきに右に移動して更新する。
図5は、S302でのノイズ低減処理の動作の一例を示すフローチャートである。
S501では、ノイズ低減処理部202は着目領域の位置を更新する。なお、着目領域の初期位置は、例えば画像データの左上画素に設定する。初期位置以降、ノイズ低減処理部202は着目領域の位置を水平に3画素おきに右に移動して更新する。なお、着目領域の位置が画像の右端まで到ると、ノイズ低減処理部202は着目領域の位置を垂直に3画素下に移動して更新し、同様に着目領域の位置を水平に3画素おきに右に移動して更新する。
S502では、ノイズ低減処理部202は更新した着目領域ごとに類似する類似領域を抽出する。ここで、S502において図6(a)に示す位置に着目領域を更新したとする。ノイズ低減処理部202は着目領域の周囲であって、着目領域の基準画素を中心に類似領域の探索範囲を設定する。図6(b)では着目領域の基準画素を中心として、9×9の範囲に類似領域の探索範囲が設定されている。
ノイズ低減処理部202は類似領域の探索範囲内で着目領域と類似度の高い領域を抽出する。具体的に、ノイズ低減処理部202は図6(c)に示すように、探索範囲内に着目領域と同じサイズの類似度判定領域を設定する。
次に、ノイズ低減処理部202は例えば、下記の式(1)を用いて着目領域と類似度判定領域との差分絶対値和を算出する。ここで、式(1)のDは差分絶対値和であり、Nは着目領域および類似度判定領域の画素数であり、Yiは着目領域の画素値であり、Ysは類似度判定領域の画素値である。差分絶対値和が小さいほど着目領域と類似度判定領域との間の類似度が高いことになる。
ノイズ低減処理部202は類似領域の探索範囲内で着目領域と類似度の高い領域を抽出する。具体的に、ノイズ低減処理部202は図6(c)に示すように、探索範囲内に着目領域と同じサイズの類似度判定領域を設定する。
次に、ノイズ低減処理部202は例えば、下記の式(1)を用いて着目領域と類似度判定領域との差分絶対値和を算出する。ここで、式(1)のDは差分絶対値和であり、Nは着目領域および類似度判定領域の画素数であり、Yiは着目領域の画素値であり、Ysは類似度判定領域の画素値である。差分絶対値和が小さいほど着目領域と類似度判定領域との間の類似度が高いことになる。
ここで、ノイズ低減処理部202は差分絶対値和Dの値が所定の閾値よりも小さい類似度判定領域を類似領域として抽出する。なお、本実施形態では、簡易的に差分絶対値和を用いて類似領域を判定しているが、領域間の類似度を評価できる他の手法を用いて類似領域を判定してもよい。
ノイズ低減処理部202は着目領域と類似度判定領域との類似度を判定した後、図6(d)に示す類似領域の探索範囲内で類似度判定領域を移動させながら設定して、着目領域と類似度判定領域との類似度を判定していく。このように、ノイズ低減処理部202は、複数の類似度判定領域を設定していき、設定する度に着目領域と類似度判定領域との類似度を判定する。本実施形態のように、類似領域の探索範囲が9×9の画素サイズ、着目領域および類似度判定領域が3×3の画素サイズの場合には、類似度判定領域の基準画素が7×7の範囲で移動することになる。結果として、ノイズ低減処理部202は着目領域を除いた計48回(7×7−1)の類似度を判定することになる。
ノイズ低減処理部202は着目領域と類似度判定領域との類似度を判定した後、図6(d)に示す類似領域の探索範囲内で類似度判定領域を移動させながら設定して、着目領域と類似度判定領域との類似度を判定していく。このように、ノイズ低減処理部202は、複数の類似度判定領域を設定していき、設定する度に着目領域と類似度判定領域との類似度を判定する。本実施形態のように、類似領域の探索範囲が9×9の画素サイズ、着目領域および類似度判定領域が3×3の画素サイズの場合には、類似度判定領域の基準画素が7×7の範囲で移動することになる。結果として、ノイズ低減処理部202は着目領域を除いた計48回(7×7−1)の類似度を判定することになる。
ここで、本実施形態では、類似領域が少ない場合であってもノイズ低減効果が得られる補正を行うために、類似領域判定領域を幾何変形させた変形領域であって着目領域に類似する変形領域の画素も考慮して着目領域を補正する。
図7は、類似度判定領域の幾何変形について説明するための図である。
図7(a)は、図6(c)の類似度判定領域を取り出した画素パッチの一例を示す図である。ここでは、図7(a)の画素パッチには、エッジ成分がなく、ランダムノイズ成分であるものとする。
図7(b)は、図7(a)の画素パッチのうち中心の基準画素を通る縦方向の画素列を軸にして鏡像反転させ、画素の位置を変更させた画素パッチを示す図である。図7(c)は、図7(b)と同一の画素パッチである。具体的に、図7(b)の画素パッチの画素値と、図7(c)の画素パッチの画素値とは、X1=Y3,X2=Y2,X3=Y1,X4=Y6,X5=Y5,X6=Y4,X7=Y9,X8=Y8,X9=Y7の関係である。図7(c)の画素パッチは、類似度判定領域を幾何変形させた変形領域の一例である。
図7(a)は、図6(c)の類似度判定領域を取り出した画素パッチの一例を示す図である。ここでは、図7(a)の画素パッチには、エッジ成分がなく、ランダムノイズ成分であるものとする。
図7(b)は、図7(a)の画素パッチのうち中心の基準画素を通る縦方向の画素列を軸にして鏡像反転させ、画素の位置を変更させた画素パッチを示す図である。図7(c)は、図7(b)と同一の画素パッチである。具体的に、図7(b)の画素パッチの画素値と、図7(c)の画素パッチの画素値とは、X1=Y3,X2=Y2,X3=Y1,X4=Y6,X5=Y5,X6=Y4,X7=Y9,X8=Y8,X9=Y7の関係である。図7(c)の画素パッチは、類似度判定領域を幾何変形させた変形領域の一例である。
図7(d)は、図7(a)の画素パッチのうち基準画素を中心に時計回りに90度回転させ、画素の位置を変更させた画素パッチを示す図である。図7(e)は、図7(d)と同一の画素パッチである。具体的に、図7(d)の画素パッチの画素値と、図7(e)の画素パッチの画素値とは、X1=Y7,X2=Y4,X3=Y1,X4=Y8,X5=Y5,X6=Y2,X7=Y9,X8=Y6,X9=Y3の関係である。図7(e)の画素パッチは、類似度判定領域を幾何変形させた変形領域の一例である。
このように、類似度判定領域を幾何変形させた変形領域を新たに生成する。ここでは、類似度判定領域の画素パッチの縦方向の画素列を軸にして鏡像反転させる場合について説明したが、横方向の画素列を軸にして鏡像反転させてもよい。また、類似度判定領域の画素パッチを時計回りに90度回転させる場合について説明したが、時計回りに180度回転させたり、時計回りに270度回転(反時計回りに90度回転)させたりしてもよい。また、鏡像反転させた後に回転させたり、回転させた後に鏡像反転させたりしてもよい。更に、回転や鏡像反転に限られずに、元の画素値を用いるのであれば画素の位置をランダムに変更させてもよい。
なお、1つの類似度判定領域について幾何変形させる方法および幾何変形させる種類の数は予め設定されていてもよく、抽出された類似領域の数に応じて変更してもよい。
なお、1つの類似度判定領域について幾何変形させる方法および幾何変形させる種類の数は予め設定されていてもよく、抽出された類似領域の数に応じて変更してもよい。
ノイズ低減処理部202は、生成した変形領域と着目領域との類似度を判定する。具体的には、ノイズ低減処理部202は例えば、下記の式(2)を用いて着目領域と変形領域との差分絶対値和を算出する。ここで、式(2)のDは差分絶対値和であり、Nは着目領域および変形領域の画素数であり、Yiは着目領域の画素値であり、Xsは変形領域の画素値である。
図7(a)の画素パッチにエッジ成分がなく、ランダムノイズ成分であれば、画素パッチを回転や反転等して画素パッチの位置を入れ替えることにより、類似度判定領域の画素パッチとしても取り扱うことが可能となる。
図7(a)の画素パッチにエッジ成分がなく、ランダムノイズ成分であれば、画素パッチを回転や反転等して画素パッチの位置を入れ替えることにより、類似度判定領域の画素パッチとしても取り扱うことが可能となる。
ここで、ノイズ低減処理部202は差分絶対値和Dの値が所定の閾値よりも小さい変形領域を類似する変形領域として特定する。ノイズ低減処理部202は特定した変形領域を、着目領域に類似する類似領域の一つとして取り扱う。なお、以下では、類似領域に、着目領域に類似する変形領域を含む場合には、「類似領域を含む」と記載する。
次に、図5のフローチャートの説明に戻る。
S503では、ノイズ低減処理部202は、ノイズ低減処理部202は着目領域と類似領域に対してノイズ低減処理を行う。具体的に、ノイズ低減処理部202は例えば、下記の式(3)を用いて着目領域とS502において抽出した類似領域(変形領域を含む)との画素の平均値を算出する。ここで、式(3)のYNRはノイズ低減処理後の画素値であり、Mは類似領域(変形領域を含む)と判定された領域の個数であり、Yiは着目領域の画素値であり、Ysは類似領域(変形領域を含む)の画素値である。平均値を算出する処理は、着目領域と類似領域との位置が対応する画素ごとに行われる。
S503では、ノイズ低減処理部202は、ノイズ低減処理部202は着目領域と類似領域に対してノイズ低減処理を行う。具体的に、ノイズ低減処理部202は例えば、下記の式(3)を用いて着目領域とS502において抽出した類似領域(変形領域を含む)との画素の平均値を算出する。ここで、式(3)のYNRはノイズ低減処理後の画素値であり、Mは類似領域(変形領域を含む)と判定された領域の個数であり、Yiは着目領域の画素値であり、Ysは類似領域(変形領域を含む)の画素値である。平均値を算出する処理は、着目領域と類似領域との位置が対応する画素ごとに行われる。
なお、ノイズ低減処理部202は平均値を算出するのに、全ての類似領域(変形領域を含む)を用いる場合に限られず、類似度が高い順から上位N個の類似領域(変形領域を含む)を用いて平均値を算出してもよい。このように、上位N個の類似領域(変形領域を含む)を用いて平均値を算出することにより処理負荷を軽減することができる。
また、本実施形態では、平均値を算出する処理を用いて簡易的なノイズ低減処理を行っているが、着目領域と類似領域(変形領域を含む)の画素値を用いた他の手法を用いて低減処理を行ってもよい。
また、本実施形態では、平均値を算出する処理を用いて簡易的なノイズ低減処理を行っているが、着目領域と類似領域(変形領域を含む)の画素値を用いた他の手法を用いて低減処理を行ってもよい。
ノイズ低減処理部202は、算出した平均値を用いて入力画像を補正する。ノイズ低減処理部202は着目領域と類似領域の画素値をノイズ低減処理後の画素値に置き換えることで補正する。
なお、具体的な補正方法は限定されず、例えば以下のように補正してもよい。すなわち、ノイズ低減処理部202は置き換えた画素値を入力画像とは別の蓄積画像として記憶する。ノイズ低減処理部202は着目領域と類似領域が重なっている画素では、重なっている枚数分の画素値を加算して蓄積画像を生成する。ノイズ低減処理部202は、S501〜S503までの処理を、画像全体に亘って行うことで、各画素位置にノイズ低減処理後の画素値を加算して蓄積画像を更新する。最後に、ノイズ低減処理部202は蓄積画像の加算した画素値を、加算した回数で除算して補正した画像を生成する。
なお、具体的な補正方法は限定されず、例えば以下のように補正してもよい。すなわち、ノイズ低減処理部202は置き換えた画素値を入力画像とは別の蓄積画像として記憶する。ノイズ低減処理部202は着目領域と類似領域が重なっている画素では、重なっている枚数分の画素値を加算して蓄積画像を生成する。ノイズ低減処理部202は、S501〜S503までの処理を、画像全体に亘って行うことで、各画素位置にノイズ低減処理後の画素値を加算して蓄積画像を更新する。最後に、ノイズ低減処理部202は蓄積画像の加算した画素値を、加算した回数で除算して補正した画像を生成する。
以上のように、本実施形態によれば、類似度判定領域の画素の位置を変更させた変形領域のうち着目領域に類似する変形領域の画素に基づいて、着目領域を補正する。したがって、探索範囲を広げることなく、探索範囲内の類似領域の数を増やすことができる。そのため、例えば、着目領域が画像のエッジ部である等の理由により探索範囲内に類似領域の数が少ない場合であっても類似領域(変形領域を含む)の数を増やすことで、ノイズ低減効果を向上させることができる。
また、本実施形態によれば、類似度判定領域を回転させたり鏡像反転させたりするように幾何変形させることで画素の位置を変更させた変形領域を生成する。したがって、ランダムではなく所定の法則に基づいて変形領域を生成することができるので変形領域を生成する処理負荷を軽減することができる。
また、本実施形態によれば、類似度判定領域を回転させたり鏡像反転させたりするように幾何変形させることで画素の位置を変更させた変形領域を生成する。したがって、ランダムではなく所定の法則に基づいて変形領域を生成することができるので変形領域を生成する処理負荷を軽減することができる。
なお、上述した実施形態では、類似度判定領域を回転させたり鏡像反転させたりした変形領域と着目領域との類似度を判定する場合について説明したが、この場合に限られない。着目領域側を回転させたり鏡像反転させたりした領域と類似度判定領域との類似度を判定してもよい。このように、着目領域側を幾何変形させることで、類似度を判定するときの処理負荷を軽減することができる。
また、上述した実施形態では、ベイヤー画像信号を図4に示すようにR、Gr、Gb、Bの色ごとの信号に分離して、それぞれの信号に対して独立にノイズ低減処理を行う場合について説明したが、この場合に限られない。例えば、ベイヤー画像信号の配列のまま着目領域を設定して、同様のノイズ低減処理を行ってもよい。なお、ベイヤー画像信号の配列のままノイズ低減処理を行う場合には、類似度判定領域から変形領域を新たに生成するときに類似度判定領域の画素を、変更前後で色の種類を維持したままでランダムに変更させることが好ましい。すなわち、Rの画素はランダムに異なるRの画素に変更し、Grの画素はランダムに異なるGrの画素に変更し、Gbの画素はランダムに異なるGbの画素に変更し、Bの画素はランダムに異なるBの画素に変更して、変形領域を生成することが好ましい。このように、変更前後で色の種類を維持したままで変形領域を生成することで、着目領域と類似度の高い変形領域を生成することができる。
また、上述した実施形態では、着目領域を3×3の画素サイズ、探索範囲を9×9の画素サイズである場合について説明したが、この場合に限られず、異なる大きさに設定してノイズ低減処理を行ってもよい。また、着目領域の形状または探索範囲の形状は正方形である場合に限られず、異なる形状に設定してノイズ低減処理を行ってもよい。
また、上述した実施形態では、着目領域を3×3の画素サイズ、探索範囲を9×9の画素サイズである場合について説明したが、この場合に限られず、異なる大きさに設定してノイズ低減処理を行ってもよい。また、着目領域の形状または探索範囲の形状は正方形である場合に限られず、異なる形状に設定してノイズ低減処理を行ってもよい。
<第2の実施形態>
次に、第2の実施形態のノイズ低減処理部202による動作について図8のフローチャートを参照して説明する。本実施形態では、着目領域が画像のエッジ部である場合に類似度判定領域を幾何変形させた変形領域を新たに生成し、着目領域が画像のエッジ部ではない場合には類似度判定領域を幾何変形させる処理を行わない。
S801、S802は、それぞれ図5のフローチャートのS501、S502と同様の処理であり、説明を省略する。
次に、第2の実施形態のノイズ低減処理部202による動作について図8のフローチャートを参照して説明する。本実施形態では、着目領域が画像のエッジ部である場合に類似度判定領域を幾何変形させた変形領域を新たに生成し、着目領域が画像のエッジ部ではない場合には類似度判定領域を幾何変形させる処理を行わない。
S801、S802は、それぞれ図5のフローチャートのS501、S502と同様の処理であり、説明を省略する。
S803では、ノイズ低減処理部202は着目領域が画像のエッジ部であるか否かを判定する。エッジ部であるか否かを判定するには、例えば、着目領域が3×3の画素サイズである場合に着目領域内の画素値の最小値と最大値との差分が所定値以上である場合にはエッジ部であると判定し、所定値未満である場合にはエッジ部ではないと判定する方法がある。着目領域がエッジ部であると判定した場合にはS804に進み、着目領域がエッジ部ではないと判定した場合にはS806に進む。
S804では、ノイズ低減処理部202は、類似度判定領域を幾何変形させた変形領域を新たに生成する。
S805では、ノイズ低減処理部202は、生成した変形領域と着目領域との類似度を判定して、着目領域と類似する変形領域を特定する。ノイズ低減処理部202は特定した変形領域を、着目領域に類似する類似領域の一つとして取り扱う。
S804、S805の処理は、第1の実施形態において図7を参照して説明した処理と同様であり、詳細な説明を省略する。
S805では、ノイズ低減処理部202は、生成した変形領域と着目領域との類似度を判定して、着目領域と類似する変形領域を特定する。ノイズ低減処理部202は特定した変形領域を、着目領域に類似する類似領域の一つとして取り扱う。
S804、S805の処理は、第1の実施形態において図7を参照して説明した処理と同様であり、詳細な説明を省略する。
S806では、ノイズ低減処理部202は、ノイズ低減処理部202は着目領域と類似領域に対してノイズ低減処理を行う。この処理は、図5のフローチャートのS503と同様の処理であり、説明を省略する。
以上のように、本実施形態によれば、着目領域が画像のエッジ部である場合のみ、類似度判定領域を幾何変形させて画素の位置を変更させた変形領域を生成する。着目領域が画像のエッジ部ではない場合には、変形領域を生成しなくとも、着目領域に類似する類似領域を多く抽出することができる。したがって、着目領域が画像のエッジ部ではない場合には、変形領域を生成する処理を行わないことでノイズ低減処理の処理負荷を軽減することができる。
<第3の実施形態>
次に、第3の実施形態のノイズ低減処理部202による処理について説明する。本実施形態では、類似度判定領域を幾何変形させて生成した変形領域と着目領域との類似度を判定する場合と、類似度判定領域と着目領域との類似度を判定する場合とで重み付けを変更する。
なお、本実施形態と第2の実施形態との差異は、図8のS805での動作のみであるために、S805の処理について説明する。
次に、第3の実施形態のノイズ低減処理部202による処理について説明する。本実施形態では、類似度判定領域を幾何変形させて生成した変形領域と着目領域との類似度を判定する場合と、類似度判定領域と着目領域との類似度を判定する場合とで重み付けを変更する。
なお、本実施形態と第2の実施形態との差異は、図8のS805での動作のみであるために、S805の処理について説明する。
S805では、ノイズ低減処理部202は、生成した変形領域と着目領域との類似度を判定する。このとき、ノイズ低減処理部202は、下記の式(4)を用いて、着目領域と変形領域との差分絶対値和を算出する。ここで、式(4)のDは、差分絶対値和であり、Nは着目領域および変形領域の画素数であり、Yiは着目領域の画素値であり、Xsは変形領域の画素値である。また、Ms(>1)は重み係数である。
このように重み係数によって着目領域と変形領域との差分絶対値和が大きく算出される。一方、着目領域と類似度判定領域との差分絶対値和を算出する場合には、上述した式(1)に示すように重み係数は存在しない。したがって、変形領域は類似度判定領域と比べて類似と判定されることが少ない。結果として、同じ位置における類似度判定領域が採用され難くなり、様々な位置における類似領域および変形領域が採用された上で上述した式(3)を用いた平均値が算出されることから、より広範囲でのノイズ低減処理が可能である。また、重み付けを変更することで、上述した式(3)を用いて着目領域と類似領域との画素の平均値を算出する場合に、変形領域の影響が小さく、類似領域の影響が大きくなるように算出することができる。
<第4の実施形態>
次に、第4の実施形態のノイズ低減処理部202による動作について図9のフローチャートを参照して説明する。本実施形態では、着目領域が画像のエッジ部でない場合であっても類似領域の数が閾値以上ではない場合には類似度判定領域を幾何変形させた変形領域を生成する。
S901、S902、S904〜S906は、それぞれ図8のフローチャートのS801、S802、S804〜S806と同様の処理であり、説明を省略する。
次に、第4の実施形態のノイズ低減処理部202による動作について図9のフローチャートを参照して説明する。本実施形態では、着目領域が画像のエッジ部でない場合であっても類似領域の数が閾値以上ではない場合には類似度判定領域を幾何変形させた変形領域を生成する。
S901、S902、S904〜S906は、それぞれ図8のフローチャートのS801、S802、S804〜S806と同様の処理であり、説明を省略する。
S903において着目領域がエッジ部であると判定した場合にはS904に進み、着目領域がエッジ部ではないと判定した場合にはS907に進む。
S907では、ノイズ低減処理部202は、抽出した類似領域の数をカウントし、類似領域の数が所定数以上であるか否かを判定する。類似領域の数が所定数以上である場合にはS906に進み、ノイズ低減処理部202は着目領域と類似領域に対してノイズ低減処理を行う。一方、類似領域の数が所定数以上ではない場合にはS904に進み、ノイズ低減処理部202は、類似度判定領域を幾何変形させた変形領域を新たに生成する。
なお、S904、S905の処理は、第1の実施形態において図7を参照して説明した処理と同様であり、詳細な説明を省略する。
S907では、ノイズ低減処理部202は、抽出した類似領域の数をカウントし、類似領域の数が所定数以上であるか否かを判定する。類似領域の数が所定数以上である場合にはS906に進み、ノイズ低減処理部202は着目領域と類似領域に対してノイズ低減処理を行う。一方、類似領域の数が所定数以上ではない場合にはS904に進み、ノイズ低減処理部202は、類似度判定領域を幾何変形させた変形領域を新たに生成する。
なお、S904、S905の処理は、第1の実施形態において図7を参照して説明した処理と同様であり、詳細な説明を省略する。
以上のように、本実施形態によれば、着目領域に類似する類似領域の数が閾値よりも小さい場合に、類似度判定領域を幾何変形させた変形領域を生成する。したがって、類似領域の数が閾値以上である場合には、変形領域を生成する処理を行わないことでノイズ低減処理の処理負荷を軽減することができる。
<第5の実施形態>
次に、第5の実施形態のノイズ低減処理部202による動作について図10のフローチャートを参照して説明する。本実施形態では、着目領域に含まれるエッジ部の状態を判定して、判定したエッジ部の状態に基づいて類似度判定領域を幾何変形させる方法を変更する。
S1001、S1002、S1005〜S1007は、それぞれ図8のフローチャートのS801、S802、S804〜S806と同様の処理であり、説明を省略する。
次に、第5の実施形態のノイズ低減処理部202による動作について図10のフローチャートを参照して説明する。本実施形態では、着目領域に含まれるエッジ部の状態を判定して、判定したエッジ部の状態に基づいて類似度判定領域を幾何変形させる方法を変更する。
S1001、S1002、S1005〜S1007は、それぞれ図8のフローチャートのS801、S802、S804〜S806と同様の処理であり、説明を省略する。
S1003において着目領域がエッジ部であると判定した場合にはS1004に進み、着目領域がエッジ部ではないと判定した場合にはS1007に進む。
S1004では、ノイズ低減処理部202は、着目領域が所定のパターンのエッジ部であるか否かを判定する。所定のパターンのエッジ部である場合にはS1008に進み、所定のパターンのエッジ部ではない場合にはS1005に進む。
S1004では、ノイズ低減処理部202は、着目領域が所定のパターンのエッジ部であるか否かを判定する。所定のパターンのエッジ部である場合にはS1008に進み、所定のパターンのエッジ部ではない場合にはS1005に進む。
図11は、所定のパターンのエッジ部の一例を示す図である。図11(a)〜(h)は、8つのエッジパターンを示している。ここでは、着目領域が所定のパターンのエッジ部であるか否かは、着目領域と8つのエッジパターンとの一致度に基づいて判定することができる。例えば、着目領域とエッジパターンとの間で差分絶対値和を算出し、差分絶対値和の値が閾値以下である場合には所定のパターンのエッジ部であると判定し、閾値以下ではない場合には所定のパターンのエッジ部ではないと判定する。
図10のフローチャートに戻る。
S1008では、ノイズ低減処理部202は、類似判定領域を90度回転、270度回転させた変形領域を生成し、鏡像反転させた変形領域を生成しないようにする。着目領域が所定のパターンのエッジ部である場合には、鏡像反転させても近くに類似するパターンがある可能性が低いために、ノイズ低減処理部202は一部の幾何変形をしないようにする。
S1009では、ノイズ低減処理部202は、90度回転、270度回転させた変形領域と着目領域との類似度を判定して、着目領域と類似する変形領域を特定する。ノイズ低減処理部202は特定した変形領域を、着目領域に類似する類似領域の一つとして取り扱う。
一方、S1004において所定のパターンのエッジ部ではないと判定して、S1005に進んだ場合には、ノイズ低減処理部202は、鏡像反転させた変形領域も生成する。
S1008では、ノイズ低減処理部202は、類似判定領域を90度回転、270度回転させた変形領域を生成し、鏡像反転させた変形領域を生成しないようにする。着目領域が所定のパターンのエッジ部である場合には、鏡像反転させても近くに類似するパターンがある可能性が低いために、ノイズ低減処理部202は一部の幾何変形をしないようにする。
S1009では、ノイズ低減処理部202は、90度回転、270度回転させた変形領域と着目領域との類似度を判定して、着目領域と類似する変形領域を特定する。ノイズ低減処理部202は特定した変形領域を、着目領域に類似する類似領域の一つとして取り扱う。
一方、S1004において所定のパターンのエッジ部ではないと判定して、S1005に進んだ場合には、ノイズ低減処理部202は、鏡像反転させた変形領域も生成する。
以上のように、本実施形態によれば、着目領域が特定のパターンのエッジ部である場合には類似度判定領域を例えば、90度回転や270度回転等の特定の変換のみを行って変形領域を生成する。したがって、特定のパターンのエッジ部である場合には、不要な変形領域を生成する処理を行わないことでノイズ低減処理の処理負荷を軽減することができる。
<他の実施形態>
本発明は、以下の処理を実行することによっても実現される。すなわち、上述した実施形態の機能を実現するプログラムをネットワークまたは記録媒体を介してシステムまたは装置に供給し、システムまたは装置のコンピュータ(CPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラムおよびそのプログラムを記憶した記録媒体は本発明を構成することになる。
本発明は、以下の処理を実行することによっても実現される。すなわち、上述した実施形態の機能を実現するプログラムをネットワークまたは記録媒体を介してシステムまたは装置に供給し、システムまたは装置のコンピュータ(CPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラムおよびそのプログラムを記憶した記録媒体は本発明を構成することになる。
以上のように、本発明を好適な実施形態に基づいて説明したが、本発明は上述した特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。更に、上述した実施形態は本発明の一実施形態を示すものにすぎず、適宜変更したり、各実施形態を組み合せたり、各実施形態の変形例を他の実施形態に組み合せたりすることができる。
また、本実施形態では、本発明を撮像装置に適用する場合を例にして説明したが、この場合に限定されず画像処理できる装置であれば適用可能である。すなわち、本発明は、パーソナルコンピュータ、PDA、スマートフォン、タブレット端末、携帯電話端末、携帯型の画像ビューワ、デジタルフォトフレーム、ゲーム機、電子ブックリーダ等に適用可能である。
100:撮像装置(画像処理装置) 101:制御部 102:ROM 103:RAM 104:光学系 105:撮像部 106:A/D変換部 107:画像処理部 108:記録部 109:表示部 201:ホワイトバランス調整部 202:ノイズ低減処理部 203:現像処理部
Claims (14)
- 画像の着目領域の周囲に、前記着目領域に対応する複数の領域を設定する設定手段と、
前記設定手段により設定された前記複数の領域の少なくとも一部において、該領域内に含まれる画素の位置と画素値の組み合わせを変更した変形領域を生成する変形手段と、
前記変形領域の画素値に基づいて、前記着目領域の画素値を補正する補正手段と、
を有することを特徴とする画像処理装置。 - 前記変形領域と、前記着目領域との類似度を判定する判定手段を有し、
前記補正手段は、前記着目領域と類似する前記変形領域の画素値に基づいて、前記着目領域の画素値を補正することを特徴とする請求項1に記載の画像処理装置。 - 前記変形領域は、前記設定手段により設定された前記複数の領域の少なくとも一部において、該領域の所定の画素を中心として、該領域内のそれぞれの画素値が対応する画素の位置を、該領域内で回転および所定の画素列に対する鏡像反転の少なくとも何れかにより変更した領域であることを特徴とする請求項2に記載の画像処理装置。
- 前記補正手段は、更に、
前記設定手段により設定された前記複数の領域のうち、前記着目領域に類似する類似領域の画素に基づいて、前記着目領域を補正することを特徴とする請求項2または3に記載の画像処理装置。 - 前記補正手段は、
前記着目領域に類似する変形領域の画素値と、前記着目領域に類似する類似領域の画素値とに基づいて、前記着目領域の画素値を補正する場合に、前記着目領域に類似する変形領域の画素値と、前記着目領域に類似する類似領域の画素値との間で重み付けを変更して前記着目領域の画素値を補正することを特徴とする請求項4に記載の画像処理装置。 - 前記補正手段は、
前記着目領域に類似する変形領域の画素値よりも前記着目領域に類似する類似領域の画素値の影響が大きくなるように前記着目領域の画素値を補正することを特徴とする請求項5に記載の画像処理装置。 - 前記補正手段は、
前記着目領域が画像のエッジ部である場合には、前記着目領域に類似する変形領域の画素値と、前記着目領域に類似する類似領域の画素値とに基づいて、前記着目領域の画素値を補正することを特徴とする請求項4ないし6の何れか1項に記載の画像処理装置。 - 前記補正手段は、
前記着目領域が画像のエッジ部ではない場合には、前記着目領域に類似する類似領域の画素値に基づいて、前記着目領域の画素値を補正することを特徴とする請求項7に記載の画像処理装置。 - 前記補正手段は、
前記設定手段により設定された複数の領域のうち、前記着目領域に類似する類似領域の数が閾値よりも小さい場合には、前記着目領域に類似する変形領域の画素値と、前記着目領域に類似する類似領域の画素値とに基づいて、前記着目領域の画素値を補正することを特徴とする請求項4ないし8の何れか1項に記載の画像処理装置。 - 前記補正手段は、
前記設定手段により設定された複数の領域のうち、前記着目領域に類似する類似領域の数が閾値以上の場合には、前記着目領域に類似する類似領域の画素値に基づいて、前記着目領域の画素値を補正することを特徴とする請求項9に記載の画像処理装置。 - 前記着目領域に含まれるエッジ部の状態を判定するエッジ判定手段を有し、
前記補正手段は、
前記エッジ判定手段により判定されたエッジ部の状態に基づいて、前記設定手段により設定された領域から前記変形領域を生成する方法を変更することを特徴とする請求項1ないし10の何れか1項に記載の画像処理装置。 - 前記補正手段は、
ベイヤー画像信号のまま画像を補正する場合には、前記設定手段により設定された領域の画素の位置を、変更前後で色の種類を維持したままで生成した変形領域の画素値に基づいて、前記着目領域の画素値を補正することを特徴とする請求項1に記載の画像処理装置。 - 画像の着目領域の周囲に、前記着目領域に対応する複数の領域を設定する設定ステップと、
前記設定ステップにより設定された前記複数の領域の少なくとも一部において、該領域内に含まれる画素の位置と画素値の組み合わせを変更した変形領域を生成する変形ステップと、
前記変形領域の画素値に基づいて、前記着目領域の画素値を補正する補正ステップと、
を有することを特徴とする画像処理方法。 - コンピュータを、請求項1ないし12の何れか1項に記載された画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019070671A JP2020170306A (ja) | 2019-04-02 | 2019-04-02 | 画像処理装置、画像処理方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019070671A JP2020170306A (ja) | 2019-04-02 | 2019-04-02 | 画像処理装置、画像処理方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020170306A true JP2020170306A (ja) | 2020-10-15 |
Family
ID=72746030
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019070671A Pending JP2020170306A (ja) | 2019-04-02 | 2019-04-02 | 画像処理装置、画像処理方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020170306A (ja) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012155386A (ja) * | 2011-01-24 | 2012-08-16 | Ricoh Co Ltd | 画像処理装置、画素補間方法およびプログラム |
JP2013218523A (ja) * | 2012-04-09 | 2013-10-24 | Dainippon Printing Co Ltd | 画像拡大処理装置 |
WO2015178350A1 (ja) * | 2014-05-19 | 2015-11-26 | 株式会社島津製作所 | 画像処理装置 |
JP2017067765A (ja) * | 2015-10-02 | 2017-04-06 | 東芝メディカルシステムズ株式会社 | 医用画像処理装置及びポジトロン放射断層撮影装置 |
JP2017076240A (ja) * | 2015-10-14 | 2017-04-20 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP2018148513A (ja) * | 2017-03-09 | 2018-09-20 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
-
2019
- 2019-04-02 JP JP2019070671A patent/JP2020170306A/ja active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012155386A (ja) * | 2011-01-24 | 2012-08-16 | Ricoh Co Ltd | 画像処理装置、画素補間方法およびプログラム |
JP2013218523A (ja) * | 2012-04-09 | 2013-10-24 | Dainippon Printing Co Ltd | 画像拡大処理装置 |
WO2015178350A1 (ja) * | 2014-05-19 | 2015-11-26 | 株式会社島津製作所 | 画像処理装置 |
JP2017067765A (ja) * | 2015-10-02 | 2017-04-06 | 東芝メディカルシステムズ株式会社 | 医用画像処理装置及びポジトロン放射断層撮影装置 |
JP2017076240A (ja) * | 2015-10-14 | 2017-04-20 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP2018148513A (ja) * | 2017-03-09 | 2018-09-20 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111667416B (zh) | 图像处理方法、装置、学习模型制造方法和图像处理系统 | |
EP2574039B1 (en) | Image pickup device, image processing device, image processing method, and image processing program | |
JP5468404B2 (ja) | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 | |
JP6308748B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP6906947B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム | |
JP2005252626A (ja) | 撮像装置および画像処理方法 | |
KR20180019709A (ko) | 왜곡 보정 방법 및 단말기 | |
JP2012065187A (ja) | 撮像装置及び復元ゲインデータ生成方法 | |
US10559068B2 (en) | Image processing device, image processing method, and program processing image which is developed as a panorama | |
JP2017103756A (ja) | 画像データ処理装置及び方法 | |
US20160381305A1 (en) | Image processing device, image processing system, imaging apparatus, image processing method, and recording medium | |
JP2021114180A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP7025237B2 (ja) | 画像処理装置およびその制御方法ならびにプログラム | |
JP2018107532A (ja) | 投影制御装置、投影制御方法及びプログラム | |
JP2020170306A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2015095890A (ja) | 画像処理装置およびその制御方法 | |
JP6557451B2 (ja) | 撮像装置およびその制御方法ならびにプログラム | |
JP7455575B2 (ja) | 画像処理装置、画像処理方法、学習装置、学習方法、プログラムおよびシステム | |
JP7286330B2 (ja) | 画像処理装置及びその制御方法、プログラム、記憶媒体 | |
JP6218520B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2021114186A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2020061129A (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理システム、プログラム、および、記憶媒体 | |
JP2020047223A (ja) | 画像処理装置、画像処理方法およびプログラム | |
US20240029321A1 (en) | Image processing method, image processing apparatus, storage medium, image processing system, method of generating machine learning model, and learning apparatus | |
US20230146844A1 (en) | Image processing apparatus and image processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220204 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230110 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230627 |