JP2018180964A - 画像処理装置及び画像処理方法 - Google Patents
画像処理装置及び画像処理方法 Download PDFInfo
- Publication number
- JP2018180964A JP2018180964A JP2017080140A JP2017080140A JP2018180964A JP 2018180964 A JP2018180964 A JP 2018180964A JP 2017080140 A JP2017080140 A JP 2017080140A JP 2017080140 A JP2017080140 A JP 2017080140A JP 2018180964 A JP2018180964 A JP 2018180964A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- reference pixel
- image
- similarity
- weight
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 59
- 238000003672 processing method Methods 0.000 title description 2
- 238000012937 correction Methods 0.000 claims abstract description 12
- 238000003702 image correction Methods 0.000 claims abstract description 12
- 238000004364 calculation method Methods 0.000 claims abstract description 11
- 230000002093 peripheral effect Effects 0.000 claims abstract description 4
- 238000000034 method Methods 0.000 description 30
- 238000003384 imaging method Methods 0.000 description 12
- 238000011156 evaluation Methods 0.000 description 5
- 238000012935 Averaging Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000001174 ascending effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
Landscapes
- Facsimile Image Signal Circuits (AREA)
- Image Processing (AREA)
Abstract
【課題】原信号に近い参照画素に重みを持たせることで、ノイズ低減処理による解像度低下を抑制することが可能になる画像処理装置を提供すること。【解決手段】画像に含まれる着目画素の周辺の画素による着目領域と、前記画像上の参照画素毎の該画素の周辺画素による参照領域と、の第1の類似度を算出する領域間類似度算出手段と、前記第1の類似度に基づいてサブピクセル推定を行い、該参照画素の詳細位置と、該詳細位置に対応する第2の類似度を算出するサブピクセル推定手段と、前記参照画素毎の詳細位置と前記第2の類似度に基づいて該参照画素毎の重みを算出する重み算出手段と、前記参照画素の画素値と該参照画素の重みを用いて、前記着目画素の補正値を算出する画像補正手段と、を備えることを特徴とする。【選択図】図1
Description
本発明は、画像データに含まれるノイズを低減する画像処理装置及び画像処理方法に関する。
現在、デジタルスチルカメラやデジタルビデオカメラなどのデジタル撮像装置が広く普及している。これらのデジタル撮像装置は、CCDやCMOSセンサなどの光電荷変換素子(撮像素子)で受光した光をデジタル信号に変換することでデジタル画像データを生成する。しかしながら、撮像素子や回路の特性により暗電流ノイズ、熱雑音、ショットノイズなどが発生するため、デジタル画像データにノイズが混入して画質が劣化するという問題がある。そこで、このようなノイズを低減する様々な手法が提案されてきた。
最も単純なノイズ低減方法としてノイズ周波数以下の信号成分を通すローパスフィルタの適用が考えられるが、この方式ではエッジがぼけてしまうため、ノイズとエッジを何らかの方法で区別してノイズ成分だけを低減する試みが行われている。例えば、着目画素を含む領域(着目領域)を定め、その領域単位で着目画素と参照画素の類似度を求め、この類似度に応じた加重平均値で着目画素値を置き換えることでエッジ成分を残しつつノイズを低減する方法が提案されている(特許文献1、特許文献2)。この発明を用いれば、着目領域のパターンを利用して着目画素と関連の強い参照画素を選択し、これを平均化することにより効率よくノイズを除去することができる。
このような探索処理を含む画像処理の精度を向上させるため、サブピクセル単位での探索方法が数多く提案されている。例えば、画像を線形補間などによって擬似的に高解像度化する方法や、ピクセル単位で求めた一致度評価値を関数近似することでサブピクセル単位の一致度評価値を内挿する方法(非特許文献1)により、より細かい単位での対応を推定する方法が知られている。
清水雅夫,奥富正敏:画像のマッチングにおける高精度なサブピクセル推定手法,電子情報通信学会論文誌,Vol.J84−D−II,No.7,pp.1409−1418(2001)
しかしながら、サブピクセル単位での探索により着目画素と参照画素の対応を高精度に求めたとしても、参照画素の画素値はその近傍画素の画素値を補間して算出することとなり、情報の欠落は避けられない。例えば、参照画素値が近傍画素の平均値となる場合には、解像度が大きく低下してしまうという課題があった。
上記の課題を解決するために、本発明に係る画像処理装置は、
画像に含まれる着目画素の周辺の画素による着目領域と、前記画像上の参照画素毎の該画素の周辺画素による参照領域と、の第1の類似度を算出する領域間類似度算出手段と、前記第1の類似度に基づいてサブピクセル推定を行い、該参照画素の詳細位置と、該詳細位置に対応する第2の類似度を算出するサブピクセル推定手段と、前記参照画素毎の詳細位置と前記第2の類似度に基づいて該参照画素毎の重みを算出する重み算出手段と、前記参照画素の画素値と該参照画素の重みを用いて、前記着目画素の補正値を算出する画像補正手段と、を備えることを特徴とする。
画像に含まれる着目画素の周辺の画素による着目領域と、前記画像上の参照画素毎の該画素の周辺画素による参照領域と、の第1の類似度を算出する領域間類似度算出手段と、前記第1の類似度に基づいてサブピクセル推定を行い、該参照画素の詳細位置と、該詳細位置に対応する第2の類似度を算出するサブピクセル推定手段と、前記参照画素毎の詳細位置と前記第2の類似度に基づいて該参照画素毎の重みを算出する重み算出手段と、前記参照画素の画素値と該参照画素の重みを用いて、前記着目画素の補正値を算出する画像補正手段と、を備えることを特徴とする。
本発明に係る画像処理装置によれば、原信号に近い参照画素に重みを持たせることで、ノイズ低減処理による解像度低下を抑制することが可能になる。
以下、本発明を実施するための形態について、図面を参照しながら説明する。
本実施例における画像処理装置の構成について、図1を参照して説明する。
図1において、画像処理装置はCPU101、RAM102、HDD103、汎用インターフェース(I/F)104、モニタ108、メインバス109を備える。汎用I/Fはカメラなどの撮像装置105や、マウス、キーボードなどの入力装置106、メモリーカードなどの外部メモリ107をメインバス109に接続する。 以下では、CPU101がHDD103に格納された各種ソフトウェア(コンピュータプログラム)を動作させることで実現する各種処理について述べる。
まず、CPU101はHDD103に格納されている画像処理アプリケーションを起動し、RAM102に展開するとともに、モニタ108にユーザインターフェース(UI)を表示する。続いて、HDD103や外部メモリ107に格納されている各種データ、撮像装置105で撮影された画像、入力装置106からの指示などがRAM102に転送される。さらに、画像処理アプリケーション内の処理に従って、RAM102に格納されているデータはCPU101からの指令に基づき各種演算を行う。演算結果はモニタ108に表示したり、HDD103、外部メモリ107に格納したりする。
上記の構成に於いて、CPU101からの指令に基づき、画像処理アプリケーションに画像データを入力してノイズを低減した画像データを生成し、出力する処理の詳細について説明する。
まず、本実施例で用いるノイズ低減の基本処理について説明する。この処理は、ノイズ低減対象となる着目画素とその周辺に存在する複数の参照画素の画素値に適応的な重みを掛け、その結果を全て加算した値を着目画素の画素値とする事でノイズを低減する。説明を分かりやすくするため、まず、ピクセル単位で処理する場合について説明する。
参照画素の画素数をNS、参照画素の画素値をIj(j=1〜NS)、参照画素の重みをwj(j=1〜NS)とすると、ノイズ低減処理後の着目画素の画素値Inewは次式になる。
参照画素の画素数をNS、参照画素の画素値をIj(j=1〜NS)、参照画素の重みをwj(j=1〜NS)とすると、ノイズ低減処理後の着目画素の画素値Inewは次式になる。
次に、参照画素の重みの算出方法について、図2及び図3を参照して説明する。図2(a)において、201は画像データの例を示しており、左上の画素を原点として各画素の画素値をI(x、y)と表すものとする。ここで、202は着目画素であり、その画素値はI(4、4)である。203は着目領域であり、着目画素202を中心とした3×3画素の矩形領域である。204は参照画素であり、着目画素202を含む5×5画素(NS=25)の矩形領域内の画素である。205は、参照画素I(2,2)の参照領域であり、I(2,2)を中心とする3×3画素の矩形領域である。なお、参照領域は参照画素毎に存在するが、ここでは参照画素I(2,2)の参照領域だけ示している。
参照画素I(2、2)の重みを求めるために、まず、着目領域203と参照領域205を比較して類似度を算出する。なお、類似度は所望の方法で求めてよい。例えば、図2(b)のように、着目領域202の画素をbs(p,q)、参照領域の画素をbj(p,q)(j=1〜NS)とする。そして、着目領域203と参照領域205の空間的に対応する画素の差を類似度とすると、類似度Cjは次式になる。
類似度Cjは値が小さいほど着目領域と参照領域の類似度が高くなる。そこで、類似度に応じて、重みを決定する。重みは図3に示す関数のようにCjが小さいほど重みが大きく、Cjが大きいほど重みが小さくなるように決定すればよく、例えば次式で定まる。
ここで、hは重みの大きさを制御する変数であり、hを大きくするとノイズ低減効果が高くなるが、エッジがぼける。
以下同様に、着目領域203と各参照画素の参照領域とを順次比較していくことで、各参照画素の重みを得る。
このように、着目画素を中心としたブロックについて、近傍画素とのブロックマッチングにより類似度を算出し、その類似度に応じた重みで着目画素と近傍画素を加重平均することで、先鋭性を保ったままノイズを低減することが可能となる。
ここで、ノイズ低減処理の精度をさらに向上させるため、サブピクセル推定を導入する。サブピクセル推定とは、画素単位で算出した評価値に基づき、評価値が最小となる画素位置を画素単位よりも細かい精度で算出する処理である。例えば図4はサブピクセル推定の例であって、図4(a)は直線補間、図4(b)はスプライン補間を用いた場合を示す。例えば本実施例では、後者を用いる。通常のサブピクセル探索では対象データ内で評価値が最小となる座標を探索するが、本発明では参照領域毎に類似度を算出する必要がある。そこで、図4に示したように、各参照画素から水平方向、垂直方向夫々±0.5画素の範囲毎に最小値とその画素位置を算出し、これを参照画素に対応付ける。
本発明による画像処理装置では、サブピクセル推定で得た対応点と近傍画素の距離により重みwjを補正する。サブピクセル推定で算出した画素位置が近傍画素群の重心と一致する場合、その画素値は例えば隣接画素の平均値で表され、原信号が損なわれてしまう。例えば図5に示した点P’の画素値は、点P’の近傍4画素P、Q、R、Sの平均で求めることができるが、画素値の平均処理となるために解像度が低下する。一方で点P’が画素Pと一致した場合には、撮影画像の画素値そのもの(原信号)を用いるため、補間処理による解像度低下の影響を受けない。そこで本実施例では、サブピクセル推定で得た画素位置と最近傍画素との距離L(0≦L≦√2/2)を用いて重みwjを補正する。ここでいう距離は、水平あるいは垂直方向に隣接する画素中心の間隔を1とする。補正後の重みwjは、サブピクセル推定で得た類似度C’を用いて、例えば次式のように表せる。
ここで、α(0≦α)はLの重みを制御する変数であり、この値が大きいほどサブピクセル推定による補正の影響を小さくすることができる。例えば本実施例ではα=1とする。
このような方法により重みwjを決定することで、補間の影響が少ない画素を重視したノイズ低減処理を行うことが出来る。特に連続撮影など微小なずれを含む画像上に参照領域を設定する場合に、本発明の効果が高い。
尚、本実施例におけるノイズ低減処理は、参照画素の重みを着目領域と参照領域の類似度に基づいて決まる処理であればよく、類似度や重みの算出方法などはここで説明した方法に限られるものではない。
(画像処理装置の論理構成)
図6は本実施例の画像処理装置の論理構成を示す模式図である。
図6は本実施例の画像処理装置の論理構成を示す模式図である。
図6において、画像データ入力部601は画像データを画像処理装置に入力する。画像データはCPU101からの指示に基づき、撮像装置105或いはHDD103や外部メモリ107から入力される。勿論、撮像装置105で撮影した画像をHDD103などの記憶装置に一旦記憶した後で入力してもかまわない。
パラメータ算出部602は、CPU101からの指示に基づいて、暗部ノイズ量や撮像センサ温度などの撮像センサ情報を取得し、ノイズ低減処理に用いるパラメータを算出する。算出したパラメータはRAM102に記憶される。
画像補正処理部603は、CPU101からの指示に基づいて、入力画像データとパラメータと取得し、入力画像データに対するノイズ低減処理を実行し、出力画像データを生成する。生成した画像データはRAM102に記憶される。
画像データ出力部604は、画像補正処理部603で生成した画像データをモニタ108やHDD103などに出力する。尚、出力先はこれに限られるものではなく、例えば、汎用I/F104に接続した外部メモリ107に出力してもよい。
(メイン処理フロー)
以下では、図6で説明した画像処理装置の論理構成における各処理の詳細について、図7のフローチャートを参照して説明する。
以下では、図6で説明した画像処理装置の論理構成における各処理の詳細について、図7のフローチャートを参照して説明する。
ステップS701は、画像入力部601から画像データを入力する。
ステップS702は、パラメータ算出部602で入力画像の補正処理に用いるパラメータを算出する。ここで算出するパラメータは少なくとも参照画素と着目領域を含む。例えば本実施例における参照画素は、着目画素を中心とした近傍5×5画素に含まれる画素とする。また、着目領域および参照領域のサイズは、3×3画素とする。
ステップS703は、画像補正処理部603において、ステップS702で算出したパラメータを参照し、ステップS701で入力した画像データに画像補正処理を適用して補正画像データを生成する。画像補正処理の詳細は後述する。
ステップS704は、画像出力部604から、ステップS703で生成した補正画像データを出力する。
(画像補正処理)
以下では、図7で説明したステップS704における画像補正処理の詳細について図8のフローチャート図を参照して説明する。
以下では、図7で説明したステップS704における画像補正処理の詳細について図8のフローチャート図を参照して説明する。
ステップS801は、ステップS701で入力したRAW画像データを取得する。
ステップS802は、ステップS702で算出したパラメータを取得する。
ステップS803は、ステップS801で取得したRAW画像から未処理画素を選択する。
ステップS804は、ステップS803で選択した着目画素に対応する参照領域を選択する。
ステップS805は、ステップS804で選択した参照領域内の各参照画素について、式(2)を用いて画素単位での類似度を算出する
ステップS806は、ステップS805で得た各参照画素の類似度を用いてサブピクセル推定を行い、各参照画素の画素位置と類似度を更新する。
ステップS806は、ステップS805で得た各参照画素の類似度を用いてサブピクセル推定を行い、各参照画素の画素位置と類似度を更新する。
ステップS807は、ステップS806で更新した画素位置と類似度、および更新後の画素位置と最近傍画素との距離から、各参照画素の重みを算出する。具体的には式(4)を適用する。
ステップS808は、ステップS808で算出した各参照画素の重みを用いて、画像補正後の画素値を算出する。具体的には式(1)を適用する。
ステップS809は、ステップS801で取得したRAW画像の全画素の補正処理が終了したかどうか判定する。終了していればステップS810に移行し、終了していなければステップS803に移行して処理を継続する。
ステップS810は、ステップS803からステップS809で生成した補正画像データを出力する。
以上の処理により、従来に比べてより高精度な類似度を用いつつ、補間によって生じる解像度低下の影響を考慮したノイズ低減処理を実現することができる。
実施例1では、1枚の静止画像を対象とした場合のノイズ低減処理について述べた。しかしながら、ノイズ低減処理は1枚の画像のみからではなく、複数枚の画像の参照により、さらに画質を向上させることが出来る。そこで本実施例では、複数枚の連続撮影画像を対象とした場合の例について述べる。
実施例1の形態との違いは、参照領域を処理対象画像内だけでなく、他の画像上にも設定する点である。例えば図2及び図3では処理対象画像上に参照領域を設定しているが、連続撮影画像など処理対象画像と相関の強い画像が存在する場合には、参照領域をその画像上にも設定できる。例えば、処理対象画像以外の画像上に、処理対象画像と同じ座標に参照領域を設定しても良い。
図9は、本実施例によるノイズ低減処理の流れを示すフローチャートである。
実施例1の処理と異なるのは、ステップS906でサブピクセル推定を行った後、ステップS907で参照画素の選択を行う点である。本実施例のように複数枚の画像上に参照領域を設定する場合、被写体の微小なぶれや手ぶれなどの影響により画像間にずれが生じた結果、ずれ量によってはサブピクセル推定で得られる画素位置と、最近傍画素との距離Lが大きくなってしまう場合がある。そこでステップS907では、参照画素群をサブピクセル推定で得た距離Lの値で昇順にソートして予め定められた画素数(例えば本実施例ではNS)選択し、選択した参照画素を用いて着目画素の画素値Inewを算出する。着目画素の画素値の算出方法は実施例1と同様であるため、説明を省略する。
このような処理を行うことで、複数の画像上に参照領域を設定した場合でも、補間処理の影響を最小限に留めることができる。
[その他の実施例]
実施例1は、画像処理アプリケーションに画像データを入力してノイズを低減した画像データを生成する例を説明したが、撮像装置で撮影した画像データに対して撮像装置内の画像処理ハードウェア上で処理する方法であってもかまわない。
[その他の実施例]
実施例1は、画像処理アプリケーションに画像データを入力してノイズを低減した画像データを生成する例を説明したが、撮像装置で撮影した画像データに対して撮像装置内の画像処理ハードウェア上で処理する方法であってもかまわない。
101 CPU、102 RAM、103 HDD、
104 汎用インターフェース(I/F)、108 モニタ、
109 メインバス
104 汎用インターフェース(I/F)、108 モニタ、
109 メインバス
Claims (4)
- 画像に含まれる着目画素の周辺の画素による着目領域と、前記画像上の参照画素毎の該画素の周辺画素による参照領域と、の第1の類似度を算出する領域間類似度算出手段と、
前記第1の類似度に基づいてサブピクセル推定を行い、該参照画素の詳細位置と、該詳細位置に対応する第2の類似度を算出するサブピクセル推定手段と、
前記参照画素毎の詳細位置と前記第2の類似度に基づいて該参照画素毎の重みを算出する重み算出手段と、
前記参照画素の画素値と該参照画素の重みを用いて、前記着目画素の補正値を算出する画像補正手段と、
を備えることを特徴とする画像処理装置。 - 前記重み算出手段は、前記参照画素毎の詳細位置と、該詳細位置に最も近い参照画素との距離と、前記第2の類似度を用いて前記重みを決定することを特徴とする請求項1に記載の画像処理装置。
- さらに前記詳細位置と該詳細位置に最も近い参照画素との距離に基づいて前記参照画素群をソートして、予め定められた数の参照画素を選択する参照画素選択手段を備え、前記画像補正手段は、前記参照画素選択手段で選択された参照画素のみを用いて前記着目画素の補正値を算出することを特徴とする請求項1に記載の画像処理装置。
- さらに前記詳細位置と該詳細位置に最も近い参照画素との距離が予め定められた値以下の前記参照画素群を選択する参照画素選択手段を備え、前記画像補正手段は、前記参照画素選択手段で選択された参照画素のみを用いて前記着目画素の補正値を算出することを特徴とする請求項1に記載の画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017080140A JP2018180964A (ja) | 2017-04-14 | 2017-04-14 | 画像処理装置及び画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017080140A JP2018180964A (ja) | 2017-04-14 | 2017-04-14 | 画像処理装置及び画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018180964A true JP2018180964A (ja) | 2018-11-15 |
Family
ID=64276869
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017080140A Pending JP2018180964A (ja) | 2017-04-14 | 2017-04-14 | 画像処理装置及び画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018180964A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114936987A (zh) * | 2022-07-19 | 2022-08-23 | 武汉极动智能科技有限公司 | 一种镜头畸变校正方法、装置、设备及存储介质 |
-
2017
- 2017-04-14 JP JP2017080140A patent/JP2018180964A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114936987A (zh) * | 2022-07-19 | 2022-08-23 | 武汉极动智能科技有限公司 | 一种镜头畸变校正方法、装置、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5909540B2 (ja) | 画像処理表示装置 | |
JP5331816B2 (ja) | 画像補正装置及び画像補正方法 | |
JP7136080B2 (ja) | 撮像装置、および撮像方法、並びに画像処理装置、および画像処理方法 | |
JP6465563B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2006222933A (ja) | ブレ補正方法および撮像装置 | |
JP2016208307A (ja) | 画像処理装置、その制御方法及びプログラム | |
JP2010258710A (ja) | 動きベクトル検出装置およびその制御方法、ならびに撮像装置 | |
JP2014086956A (ja) | 画像処理装置及び画像処理方法 | |
JP6270413B2 (ja) | 画像処理装置、撮像装置、および画像処理方法 | |
JP6604908B2 (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP6614824B2 (ja) | 画像処理装置、画像処理システム、撮像装置、画像処理方法およびプログラム | |
JP2018180964A (ja) | 画像処理装置及び画像処理方法 | |
JP2016201037A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2019020839A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2008141616A (ja) | 動きベクトル算出装置、方法およびプログラム、動画像圧縮記録装置ならびに撮像装置 | |
JP2009088884A (ja) | 撮像データにおける動きベクトル検出方法と装置 | |
JP2019045981A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6332982B2 (ja) | 画像処理装置およびその方法 | |
JP6854629B2 (ja) | 画像処理装置、画像処理方法 | |
JP6708131B2 (ja) | 映像処理装置、映像処理方法及びプログラム | |
JP6381212B2 (ja) | 撮像装置及びその制御方法 | |
JP2015055988A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
KR101989868B1 (ko) | 전자 장치 및 제어 방법 | |
JP2019192048A (ja) | 撮像装置 | |
JP2013157755A (ja) | ノイズ低減装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20191125 |