JP2018148513A - 画像処理装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP2018148513A JP2018148513A JP2017044617A JP2017044617A JP2018148513A JP 2018148513 A JP2018148513 A JP 2018148513A JP 2017044617 A JP2017044617 A JP 2017044617A JP 2017044617 A JP2017044617 A JP 2017044617A JP 2018148513 A JP2018148513 A JP 2018148513A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- reference image
- reliability
- pixel position
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
【課題】ゲイン処理により画像内の位置によってノイズ量に違いが生じている場合でも、高精度の類似画素検出を実現可能にすることを課題とする。【解決手段】高画質化処理部(107)は画素位置に応じたゲイン値によるゲイン処理後の複数の画像を用いて高画質化処理を行う。テンプレート設定部(121)は、ゲイン処理後の基準画像の着目画素を含む領域をテンプレートに設定する。サーチエリア設定部(122)は、ゲイン処理後の参照画像の中で着目画素の画素位置に基づく領域をサーチエリアとして設定する。類似度算出部(123)は、サーチエリア内の各画素位置でテンプレートとの類似度を算出する。信頼度算出部(124)は、基準画像の着目画素とサーチエリアの中の各画素位置の各ゲイン値の差に基づき類似度の信頼度を算出する。出力値算出部(125)は、類似度と信頼度とに基づいて出力画像の画素値を算出する。【選択図】図1
Description
本発明は、撮像等された画像を処理する画像処理装置、画像処理方法、プログラムに関する。
従来、デジタルカメラ等による撮像画像に対して施される画像処理として、その撮像画像の前後に撮影された複数の画像の情報を用いた高画質化処理が知られている。
また例えば、特許文献1には、連続して撮影された第1,第2の画像を基に、第2の画像に対してブロック単位の動き補償を行い、撮影条件に基づくノイズ量から算出された加算重みを用いて第1の画像と合成することでノイズ量を低減する技術が開示されている。
また例えば、特許文献1には、連続して撮影された第1,第2の画像を基に、第2の画像に対してブロック単位の動き補償を行い、撮影条件に基づくノイズ量から算出された加算重みを用いて第1の画像と合成することでノイズ量を低減する技術が開示されている。
前述した高画質化処理では、連続して撮像された複数枚の画像のうち、処理対象とされた画像の中の着目画素に類似した類似画素を、処理対象の画素の前後の複数の画像の中から検出するような処理が行われる。そして、高画質化処理では、着目画素と検出された類似画素とを基に、ノイズが低減された画素の出力値を得るような画像処理が行われる。
ここで、デジタルカメラ等では、撮像画像内の位置によって異なるゲイン値を用いたゲイン処理が行われることがある。この場合、撮像画像内の位置によってノイズ量も異なるようになり、その撮像画像内の位置によるノイズ量の違いが、高画質化処理において類似画素を検出する際の検出精度に影響を及ぼし、類似画素の検出精度が低下することがある。そして、類似画素の検出精度の低下により例えば誤った類似画素が検出されると、その誤検出された類似画素を用いた画像処理が行われることになり、出力画像はノイズ低減効果の低い画像になることがある。なお、特許文献1に開示された技術では、撮像画像毎のノイズ量の違いは考慮されているものの、同一画像内でのノイズ量の違いは考慮されていないため、画像内の位置によってノイズ量に違いが生じる場合にノイズ低減効果が低下してしまう。
そこで本発明は、ゲイン処理により画像内の位置によってノイズ量に違いが生じている場合でも、高い精度で類似画素を検出可能にすることを目的とする。
本発明は、画素位置に応じたゲイン値によるゲイン処理が施された複数の画像を用いて所定の画像処理を行って出力画像を生成する画像処理装置であって、前記ゲイン処理が施された複数の画像のうち処理の対象となされた基準画像の中の着目画素を含む領域を、テンプレートとして設定する第1の設定手段と、前記ゲイン処理が施された複数の画像のうち前記基準画像に対する参照画像の中で前記着目画素の画素位置に基づく領域を、サーチエリアとして設定する第2の設定手段と、前記設定されたサーチエリア内の各画素位置で、前記テンプレートとの類似度を算出する類似度算出手段と、前記基準画像の中の前記着目画素の画素位置に応じたゲイン値と前記参照画像の前記サーチエリアの中の各画素位置に応じたゲイン値との差異に基づいて、前記類似度の信頼度を算出する信頼度算出手段と、前記類似度と前記信頼度とに基づいて、前記出力画像の画素値を算出する出力値算出手段と、を有することを特徴とする。
本発明によれば、ゲイン処理により画像内の位置によってノイズ量に違いが生じている場合でも、高い精度で類似画素を検出可能となる。
以下、図面を参照しながら、本発明の実施形態を詳細に説明する。
本実施形態の画像処理装置は、例えば、デジタルカメラやデジタルビデオカメラ、カメラ機能を備えたスマートフォンやタブレット端末などの各種携帯端末、工業用カメラ、車載カメラ、医療用カメラなどの各種カメラに適用可能である。以下、本実施形態の画像処理装置の一例として、連続して撮像した複数の撮像画像の中の一枚の画像に対し、その前後の撮像画像の情報を用いて高画質化処理を施す機能を備えたデジタルカメラを例に挙げて説明する。
本実施形態の画像処理装置は、例えば、デジタルカメラやデジタルビデオカメラ、カメラ機能を備えたスマートフォンやタブレット端末などの各種携帯端末、工業用カメラ、車載カメラ、医療用カメラなどの各種カメラに適用可能である。以下、本実施形態の画像処理装置の一例として、連続して撮像した複数の撮像画像の中の一枚の画像に対し、その前後の撮像画像の情報を用いて高画質化処理を施す機能を備えたデジタルカメラを例に挙げて説明する。
図1(a)は、本実施形態のデジタルカメラ100の概略構成を示したブロック図である。
撮像レンズ101は、ズームレンズ、フォーカスレンズを含むレンズ群である。絞り102は、撮像レンズ101からの入射光量を調節するのに用いられる。
撮像素子103は、撮像レンズ101を介して入射されて撮像面上に形成された光学像等を電気信号に変換するためのCCDやCMOS素子である。なお、図示は省略しているが、撮像素子103の撮像面上には、入射光をR(赤),G(緑),B(青)の各色成分に分離するためのカラーフィルタが設けられている。本実施形態の場合、カラーフィルタは、R,G,Bの各色成分のフィルタがいわゆるベイヤー配列と呼ばれる並び順に配置されている。
A/D変換器104は、撮像素子103から出力されたアナログ信号をデジタルデータに変換するために用意されている。A/D変換器104から出力されるデジタルデータよりなる画像は一般にRAW画像と呼ばれ、このRAW画像のデータは一時記憶メモリであるRAM105に保存される。なお、ベイヤー配列のRAW画像では、1画素につきR,G,Bのうち1色しかないため、以下の説明で述べている1画素は、R,G,Bの何れかの1色に対応した画素である。
撮像レンズ101は、ズームレンズ、フォーカスレンズを含むレンズ群である。絞り102は、撮像レンズ101からの入射光量を調節するのに用いられる。
撮像素子103は、撮像レンズ101を介して入射されて撮像面上に形成された光学像等を電気信号に変換するためのCCDやCMOS素子である。なお、図示は省略しているが、撮像素子103の撮像面上には、入射光をR(赤),G(緑),B(青)の各色成分に分離するためのカラーフィルタが設けられている。本実施形態の場合、カラーフィルタは、R,G,Bの各色成分のフィルタがいわゆるベイヤー配列と呼ばれる並び順に配置されている。
A/D変換器104は、撮像素子103から出力されたアナログ信号をデジタルデータに変換するために用意されている。A/D変換器104から出力されるデジタルデータよりなる画像は一般にRAW画像と呼ばれ、このRAW画像のデータは一時記憶メモリであるRAM105に保存される。なお、ベイヤー配列のRAW画像では、1画素につきR,G,Bのうち1色しかないため、以下の説明で述べている1画素は、R,G,Bの何れかの1色に対応した画素である。
周辺光量補正部106は、RAM105から読み出されたRAW画像の各画素値に対して、画像中心からの距離に応じたゲイン値を乗算することによる周辺光量補正処理を行う。この周辺光量補正処理後の画像はRAM105に保存される。本実施形態における周辺光量補正処理の詳細については後述する。
高画質化処理部107は、RAM105から、時間的に連続した複数枚の周辺光量補正処理後の画像を読み出し、それら複数枚の画像を用いてノイズを低減等するような所定の画像処理を行う。本実施形態の高画質化処理では、例えばいわゆるNLM(Non Local Means)法に準ずる手法を用いて、画像のノイズ低減を実現している。本実施形態における高画質化処理部107は、図1(b)に示すように、例えば、テンプレート設定部121、サーチエリア設定部122、類似度算出部123、信頼度算出部124、出力値算出部125を有する。高画質化処理部107の詳細な構成と動作の説明は後述する。この高画質化処理後の画像はRAM105に保存される。
現像処理部108は、RAM105から読み出した高画質化処理後のRAW画像に対し、例えばエッジ強調、歪み補正処理等を施す。現像処理が施された後の画像データは、外部メモリ制御部109を介して外部メモリ110に保存される。
高画質化処理部107は、RAM105から、時間的に連続した複数枚の周辺光量補正処理後の画像を読み出し、それら複数枚の画像を用いてノイズを低減等するような所定の画像処理を行う。本実施形態の高画質化処理では、例えばいわゆるNLM(Non Local Means)法に準ずる手法を用いて、画像のノイズ低減を実現している。本実施形態における高画質化処理部107は、図1(b)に示すように、例えば、テンプレート設定部121、サーチエリア設定部122、類似度算出部123、信頼度算出部124、出力値算出部125を有する。高画質化処理部107の詳細な構成と動作の説明は後述する。この高画質化処理後の画像はRAM105に保存される。
現像処理部108は、RAM105から読み出した高画質化処理後のRAW画像に対し、例えばエッジ強調、歪み補正処理等を施す。現像処理が施された後の画像データは、外部メモリ制御部109を介して外部メモリ110に保存される。
以下、高画質化処理部107による複数枚の画像を用いた所定の画像処理の概要について、図2(a)〜図2(c)を用いて説明する。
例えば、複数枚の画像を用いてノイズ低減等の高画質化処理を行うためには、処理の対象となる画像内の或る絵柄と類似した領域を、他の参照される複数の画像の中から検出する必要がある。図2(a)は、ノイズ低減等の高画質化処理の対象となる画像を示した図である。以下、この高画質化処理の対象となる画像を基準画像と呼ぶ。図2(b)と図2(c)は、基準画像に続いて順に連続して撮像された画像を示した図である。これらの画像は、基準画像に対する参照画像であり、以下、基準画像の次に撮像された図2(b)に示す画像を参照画像P1、この参照画像P1の次に撮像された図2(c)に示す画像を参照画像P2と呼ぶことにする。
例えば、複数枚の画像を用いてノイズ低減等の高画質化処理を行うためには、処理の対象となる画像内の或る絵柄と類似した領域を、他の参照される複数の画像の中から検出する必要がある。図2(a)は、ノイズ低減等の高画質化処理の対象となる画像を示した図である。以下、この高画質化処理の対象となる画像を基準画像と呼ぶ。図2(b)と図2(c)は、基準画像に続いて順に連続して撮像された画像を示した図である。これらの画像は、基準画像に対する参照画像であり、以下、基準画像の次に撮像された図2(b)に示す画像を参照画像P1、この参照画像P1の次に撮像された図2(c)に示す画像を参照画像P2と呼ぶことにする。
基準画像中の着目画素Tに対する高画質化処理を行う場合、高画質化処理部107は、着目画素Tに対応した画素(以下、対応画素と呼ぶ。)を、参照画像P1と参照画像P2からそれぞれ検出する。図2(b)では図2(a)の着目画素Tに対応した画素として対応画素C1が例示され、図2(c)では図2(a)の着目画素Tに対応した画素として対応画素C2が例示されている。そして、詳細は後述するが、高画質化処理部107は、着目画素Tと参照画像P1から検出された対応画素C1及び参照画像P2から検出された対応画素C2の各画素値を用いて、着目画素Tの画素位置における高画質化処理後の出力値(出力画素値)を求める。
ただし、これら基準画像と参照画像P1及び参照画像P2は、それぞれの画像が撮像された時刻が異なる。このため、例えば被写体が移動体である場合には、基準画像内の被写体等の位置と参照画像P1や参照画像P2の中の同被写体等の位置とは一致しない。また、撮影時にいわゆる手ぶれが生じている場合には、それら基準画像と参照画像P1及び参照画像P2との間で画像間の位置ずれが生ずる。したがって、基準画像内の着目画素Tの高画質化処理を行う場合には、被写体の移動や手ぶれに起因した画像間の位置ずれ量を考慮して、参照画像P1及び参照画像P2からそれぞれ対応画素を検出する必要がある。
本実施形態の場合、対応画素の位置検出を行うために、高画質化処理部107は、先ず第1の検出ステップの処理を実施する。第1の検出ステップの処理は、手ぶれや被写体の移動等に起因した画像間の位置ずれを考慮し、各参照画像の中で、着目画素Tとその周辺の複数画素からなる画像領域の絵柄に類似した画像領域(以下、類似画像領域と呼ぶ。)の大凡の位置を検出する処理である。なお、図2(a)には、着目画素Tの周囲の複数画素からなる領域が、着目画素Tを含む画像領域201となされている例が示されている。また、図2(b)には、参照画像P1において対応画素C1の位置検出を行うための類似画像領域211の例が示され、同様に、図2(c)には、参照画像P2の中の対応画素C2の位置検出を行うための類似画像領域221の例が示されている。また、本実施形態の場合、詳細は後述するが、第1の検出ステップの処理の際には、基準画像と参照画像をそれぞれ縮小した画像を用いることにより、検出処理の効率化を図っている。第1の検出ステップの処理の詳細については後述する。
次に、高画質化処理部107は、第2の検出ステップの処理を実施する。第2の検出ステップの処理は、第1の検出ステップの処理で検出した類似画像領域内の各画素位置の画素と、着目画素Tとの類似度を検出(算出)する処理である。第2の検出ステップの処理では、類似度の高い画素の画素位置として、類似度が上位の所定数の画素(例えば上位の5画素)の各画素位置が検出され、それらが対応画素の画素位置となされる。第2の検出ステップの処理の詳細については後述する。
ところで、撮像レンズ101は、その光学特性により、光軸に対して直交する方向に離れるほど光量(明るさ)が低下し、このため特に撮像画像の画像辺縁部で光量低下が大きくなる、いわゆる周辺光量低下が生ずる。なお、光量低下が目立つ範囲や光量低下量は、使用されている撮像レンズ101の口径や絞り値などの撮影条件によっても変化する。このような周辺光量低下により、撮像画像の各画素値は、光軸に直交する方向に離れた画素位置になるほど低下し、特に画像中心部の画素と画像辺縁部の画素とではそれらの画素値に大きな差が生ずることになる。したがって、例えば周辺光量低下が大きい場合、手ぶれや被写体の移動に起因した位置ずれによって類似画像領域が画像辺縁部に位置するようになると、その画像辺縁部での類似画像領域の検出精度は低下することになる。逆に、着目画素が画像辺縁部に在り、類似画像領域が画像中心部に位置する場合にも、類似画像領域の検出精度が低下する可能性がある。
この場合、撮像画像の各画素に対し、光軸に直交する方向の距離に応じたゲイン値を乗算するゲイン処理により周辺光量低下を補正しておけば、周辺光量低下による明るさの違いに起因して撮像画像の各画素位置間で生ずる画素値の差を少なくすることができる。したがって、基準画像と各参照画像に周辺光量低下の補正処理を施しておけば、手ぶれや被写体の移動に起因した位置ずれにより類似画像領域と着目画素の位置が光軸に直交する方向に離れている場合でも、類似画像領域検出精度の低下を抑えることができる。
図3は、周辺光量補正で用いられるゲイン値の一例を示す図である。図3の横軸は光軸に対応した画像中心からの距離(いわゆる像高)を表し、縦軸はゲイン値を表しており、周辺光量補正で用いるゲイン値は画像中心(光軸)からゲイン処理の対象となる画素位置までの距離(像高)に応じて一意に決められている。この図3の曲線300で示すように、周辺光量補正で用いられるゲイン値は、画像中心から離れるほど、つまり光量落ちの顕著な画像辺縁部に近づくほど大きな値となる。なお、図3の横軸上の距離Ltは、図2(a)の基準画像の画像中心Oから着目画素Tの画素位置までの像高を示している。また、図3の距離Lc1は図2(b)の参照画像P1の画像中心Oから対応画素C1の画素位置までの像高を、距離Lc2は図2(c)の参照画像P2の画像中心Oから対応画素C2の画素位置までの像高を示している。また、図3の縦軸上のゲイン値GNt、GNc1、GNc2は、図2(a)の着目画素T、図2(b)の対応画素C1、図2(c)の対応画素C2のそれぞれの画素位置における周辺光量補正のためのゲイン値を示している。例えば、図2(c)の対応画素C2における画素値が1000で、周辺光量補正処理のゲイン値GNc2が2.0であるとすると、周辺光量補正処理後の対応画素C2の画素値は2000となる。
一方、周辺光量低下の補正処理では、撮像画像の各画素に対し、画像中心からの距離に応じた異なるゲイン値を乗算するゲイン処理が行われるため、撮像画像内の各画素位置におけるノイズ成分もゲイン処理により変化することになる。図3の例で説明すると、例えば距離Ltの画素位置の着目画素Tに対してはゲイン値GNtによるゲイン処理がなされ、距離Lc2の画素位置の対応画素C2に対してはゲイン値GNc2によるゲイン処理がなされる。このため、それら着目画素Tと対応画素C2の各画素位置におけるノイズ量も、ゲイン値GNtとゲイン値GNc2との差301に相当する差異が生ずることになる。一例として、ゲイン値GNtが1.1でゲイン値GNc2が2.2であった場合、周辺光量補正前と比べ、それぞれの画素値は約1.1倍と約2.2倍に増加し、同様にノイズ量も増加することになり、各画素位置によってノイズ量に差異が生じてしまう。
ここで、前述した第1の検出ステップの場合は、後述するように画像の縮小処理が行われ、その画像の縮小処理によりノイズ量も低減されるため、類似画像領域検出処理の際、画素位置によるノイズ量の差異による影響は少ない。
一方で、第2の検出ステップでは、各参照画像から検出された類似画像領域内の各画素位置の画素と、着目画素Tとの類似度を算出する処理が行われる。言い換えると、第2の検出ステップにおける類似度算出処理は、一画素毎の画素単位で行われる処理であるため、画像の各画素位置におけるノイズ量の違いによる影響を受け易い。このため、前述のように周辺光量補正のためにゲイン処理を行ったことで画像内の位置によってノイズ量に違いが生じている場合には、類似度の算出精度が低下してしまう可能性がある。
一方で、第2の検出ステップでは、各参照画像から検出された類似画像領域内の各画素位置の画素と、着目画素Tとの類似度を算出する処理が行われる。言い換えると、第2の検出ステップにおける類似度算出処理は、一画素毎の画素単位で行われる処理であるため、画像の各画素位置におけるノイズ量の違いによる影響を受け易い。このため、前述のように周辺光量補正のためにゲイン処理を行ったことで画像内の位置によってノイズ量に違いが生じている場合には、類似度の算出精度が低下してしまう可能性がある。
そして、このような画素位置によるノイズ量の違いに起因した類似度算出の精度低下は、高画質化処理の際に参照画素の中から対応画素を決める処理に影響を与えてしまう。この場合、高画質化処理において、例えば本来は参照すべきでない画素位置の画素値を用いて出力値を算出してしまうようなことが起こる可能性がある。このように、本来は参照すべきでない画素位置の画素値を用いて出力値を算出してしまうと、ノイズ低減効果の低下などの弊害が発生することになる。すなわち、類似度の算出精度が低下すると、高画質化処理におけるノイズ低減処理の精度も低下することになり、その結果、高画質化処理によるノイズ低減効果の高い高品質な出力画像が得られなくなる虞がある。
そこで、本実施形態では、画素位置毎のノイズ量の違いによる高画質化処理への影響を低減するために、ゲイン処理で使用する画素位置毎のゲイン値に基づく信頼度を加味した高画質化処理を行うようになされている。
<第1の実施形態>
図4は、第1の実施形態の高画質化処理部107における処理の詳細を示すフローチャートである。図4のフローチャートでは、ステップST401〜ステップST405をそれぞれST401〜ST405と略記する。また図4のフローチャートの処理は、ハードウェア構成により実行されてもよいし、CPU等がプログラムを実行することにより実現されてもよい。これらのことは後述する他のフローチャートにおいても同様とする。以下、図1(b)と図4以降の各図を参照しながら、高画質化処理部107で行われる詳細な処理について説明する。
図4は、第1の実施形態の高画質化処理部107における処理の詳細を示すフローチャートである。図4のフローチャートでは、ステップST401〜ステップST405をそれぞれST401〜ST405と略記する。また図4のフローチャートの処理は、ハードウェア構成により実行されてもよいし、CPU等がプログラムを実行することにより実現されてもよい。これらのことは後述する他のフローチャートにおいても同様とする。以下、図1(b)と図4以降の各図を参照しながら、高画質化処理部107で行われる詳細な処理について説明する。
図4のフローチャートのST401において、高画質化処理部107のテンプレート設定部121は、RAM105に保存されている周辺光量補正済みのRAW画像の中から、一枚の画像を処理対象の基準画像として読み出す。また、サーチエリア設定部122は、RAM105に保存されている周辺光量補正済みのRAW画像の中から、基準画像に対して時間軸上で後や前等に連続して撮像された複数枚の画像を参照画像として読み出す。
次のST402において、高画質化処理部107は、読み出された複数枚の参照画像の各々について、基準画像の着目画素Tとその周辺の複数画素からなる画像領域の絵柄に類似した類似画像領域の大凡の位置を検出する第1の検出ステップの処理を実行する。第1の検出ステップの処理は、テンプレート設定部121、サーチエリア設定部122、類似度算出部123により行われる。
図5は、図4のST402の第1の検出ステップの詳細なフローチャートである。
図5のフローチャートのST501において、テンプレート設定部121は、RAM105から読み出された基準画像から縮小画像(以下、縮小基準画像と呼ぶ。)を生成する。また、サーチエリア設定部122は、RAM105から読み出された複数の参照画像からそれぞれ縮小画像(以下、それらを縮小参照画像と呼ぶ。)を生成する。縮小画像の生成処理は、基準画像と各参照画像のそれぞれについて、水平方向と垂直方向で予め決められた間隔毎に画素を間引くような処理となされる。
図5のフローチャートのST501において、テンプレート設定部121は、RAM105から読み出された基準画像から縮小画像(以下、縮小基準画像と呼ぶ。)を生成する。また、サーチエリア設定部122は、RAM105から読み出された複数の参照画像からそれぞれ縮小画像(以下、それらを縮小参照画像と呼ぶ。)を生成する。縮小画像の生成処理は、基準画像と各参照画像のそれぞれについて、水平方向と垂直方向で予め決められた間隔毎に画素を間引くような処理となされる。
次のST502において、テンプレート設定部121は、ST501による縮小基準画像の各画素位置の中で、縮小前の着目画素Tの座標(Xt,Yt)に対応した画素位置の座標(Xts,Yts)を求める。縮小処理における水平方向と垂直方向の間引き画素数をそれぞれNh、Nvとすると、縮小基準画像の座標(Xts,Yts)におけるXts値とYts値は、式(1)、式(2)により算出される。なお、式(1)、式(2)のfloor()は、カッコ()内の計算結果から整数値を抽出する関数である。
Xts=floor(Xt/Nh) ・・・・式(1)
Yts=floor(Yt/Nv) ・・・・式(2)
Yts=floor(Yt/Nv) ・・・・式(2)
次のST503において、テンプレート設定部121は、縮小基準画像内の着目画素Tの座標(Xst,Yts)を中心とし、その周囲の複数画素を含む所定の大きさの画像領域を、類似画像探索のリファレンスとなる第1のテンプレートとして設定する。第1のテンプレートのサイズは、例えば16×16画素の大きさとする。図6(a)は、縮小基準画像内で着目画素Tの座標(Xts,Yts)を基に設定された第1のテンプレート601を示している。なお、第1のテンプレートのサイズは、縮小処理の際の水平方向、垂直方向の間引き画素数Nh、Nvの値に応じて多少の調整が行われてもよい。
次のST504において、サーチエリア設定部122は、ST501による縮小参照画像内で、座標(Xts,Yts)を中心とし、その周囲の複数画素を含む所定の大きさの画像領域を、第1のサーチエリアとして設定する。第1のサーチエリアの大きさは、基準画像と参照画像がそれぞれ撮像された際の撮影時間間隔に応じて決定する。例えば撮影時間間隔が十分に短い場合には、手ぶれや被写体の移動等に起因した画像間の位置ずれの影響が小さいと推測できるため、第1のサーチエリアは、例えば64×64画素程度の大きさに設定される。一方、撮影時間間隔が長い場合には、手ぶれや被写体の移動等に起因した画像間の位置ずれの影響が大きいと推測できるため、第1のサーチエリアは、例えば256×256画素程度の大きさに設定される。図6(b)は縮小された参照画像P1の中で着目画素Tに対応した画素位置Tpの座標(Xts,Yts)を基に設定された第1のサーチエリア611を示している。同様に、図6(c)は、縮小された参照画像P2の中で着目画素Tに対応した画素位置Tpの座標(Xts,Yts)を基に設定された第1のサーチエリア621を示している。なお、第1のテンプレートの場合と同様に、第1のサーチエリアの大きさについても、縮小画像の際の間引き画素数Nh、Nvの値に応じて多少の調整が行われてもよい。
次のST505において、高画質化処理部107の類似度算出部123は、第1のサーチエリア内の各画素位置について、第1のテンプレートを1画素ずつ移動させながら相関値、例えば差分絶対値和を算出する。そして、類似度算出部123は、算出した差分絶対値和が最も小さくなる画素位置を、手ぶれや被写体の移動等により位置ずれした、着目画素Tを含む画像領域に類似した類似画像領域の中心座標とする。
次のST506において、ST505で求めた類似画像領域の中心座標を(Xrs、Yrs)とすると、類似度算出部123は、式(3)、式(4)により、縮小前の参照画像内において対応する座標(Xr,Yr)を算出する。この座標(Xr,Yr)は、後述する第2の検出ステップの処理において、縮小されていない各参照画像に対してそれぞれ設定される第2のサーチエリアの中心座標(Xr,Yr)となされる。なお、式(3)のNhと式(4)のNvは、それぞれ縮小画像生成時の水平、垂直方向の間引き画素数である。
Xr=Xrs*Nh ・・・・式(3)
Yr=Yrs*Nv ・・・・式(4)
Yr=Yrs*Nv ・・・・式(4)
高画質化処理部107は、以上のようにして、手ぶれや被写体の移動等により位置ずれした着目画素Tを含む画像領域に類似した類似画像領域の中心座標を検出する。そして、ST506の後、高画質化処理部107は、図4のST403に処理を進める。
図4のフローチャートに説明を戻す。ST403において、高画質化処理部107は、S402で検出した類似画素領域の中心座標を探索中心とし、基準画像の着目画素Tと、参照画像P1及び参照画像P2の類似画像領域内の各画素との類似度を算出する第2の検出ステップの処理を行う。第2の検出ステップの処理は、テンプレート設定部121、サーチエリア設定部122、類似度算出部123により行われる。
図7は、図4のST403の第2の検出ステップの詳細なフローチャートである。
図7のフローチャートのST701において、テンプレート設定部121は、基準画像の着目画素Tを含む画像領域を、類似度算出のリファレンスとなる第2のテンプレートとして設定する。次のST702において、サーチエリア設定部122は、参照画像P1と参照画像P2の中に、前述した類似画素領域の中心座標を基に、類似度算出の対象エリアとなる第2のサーチエリアをそれぞれ設定する。
図7のフローチャートのST701において、テンプレート設定部121は、基準画像の着目画素Tを含む画像領域を、類似度算出のリファレンスとなる第2のテンプレートとして設定する。次のST702において、サーチエリア設定部122は、参照画像P1と参照画像P2の中に、前述した類似画素領域の中心座標を基に、類似度算出の対象エリアとなる第2のサーチエリアをそれぞれ設定する。
ここで、第1の検出ステップでは、縮小基準画像と各縮小参照画像に対し、第1のテンプレート、第1のサーチエリアを設定したが、第2の検出ステップでは、縮小前の基準画像と各参照画像に対し、第2のテンプレート、第2のサーチエリアが設定される。第2の検出ステップの場合、第2のテンプレートは、縮小前の基準画像の着目画素Tの座標(Xt,Yt)を基に設定される。また、第2のサーチエリアは、第1の検出ステップで各参照画像についてそれぞれ求められた類似画像領域の中心座標(Xr,Yr)を基に設定される。さらに、第2の検出ステップの場合、第2のテンプレートのサイズは例えば3×3画素の大きさ、第2のサーチエリアのサイズは例えば5×5画素の大きさとなされる。なお、これら第1のテンプレートと第2のサーチエリアのサイズは一例であり、この例に限定されるものではない。
図8(a)〜図8(c)は、第2の処理ステップにおいて設定される第2のテンプレートと第2のサーチエリアの関係を示す図である。図8(a)は、基準画像内の着目画素Tの座標(Xt,Yt)を中心として設定された第2のテンプレート801の例を示している。図8(b)は、参照画像P1について第1の検出ステップで求めた類似画像領域の中心座標(ここでは、中心座標(Xr1,Yr1)とする。)を基に設定された第2のサーチエリア811の例を示している。同様に、図8(c)は、参照画像P2について第1の検出ステップで求めた類似画像領域の中心座標(ここでは、中心座標(Xr2,Yr2)とする。)を基に設定された第2のサーチエリア821の例を示している。
図7のフローチャートに説明を戻す。ST702の次のST703において、類似度算出部123は、第2のサーチエリア内の各探索対象画素について第2のテンプレートとの類似度を算出する。以下、第2のサーチエリア内の探索対象画素の設定方法と類似度の算出処理について、図9(a)と図9(b)を参照して説明する。図9(a)は第2のサーチエリア902と第2のテンプレート901、図9(b)は第2のテンプレート901を例示した図である。図9(a)に示すように、第2のサーチエリア902は、前述した類似画像領域の中心座標の画素921を中心とした例えば5×5画素のサイズで設定されている。また、図9(a)、図9(b)に示すように、第2のテンプレート901は着目画素911を中心とした例えば3×3画素のサイズで設定されている。
ここで、本実施形態の場合、撮像画像はベイヤー配列に基づく画像であるため、撮像画像の各画素はR,G,Bの各色のうちの1色に対応した画素となる。このため、類似度を算出する際に第2のサーチエリア902内で探索対象となされる画素(探索対象画素)は、第2のテンプレート901の着目画素911と同じ色の画素でなければならない。例えば第2のテンプレート901の中心の着目画素911がR色の画素である場合、第2のサーチエリア902内の探索対象画素は、着目画素911と同じR色の各画素となされる。したがって、図9(a)に示すように、類似度算出部123は、第2のサーチエリア902に含まれるR色の9個の画素をそれぞれ探索対象画素とし、それら9個のR色の画素毎に、第2のテンプレート901の着目画素911との類似度を算出する。探索対象画素の座標を(X,Y)とすると、類似度S(X,Y)は、式(5)により求めることができる。なお、式(5)において、Mは画素値の採り得る最大値、SAD(X,Y)は探索対象画素の座標(X,Y)における第2のテンプレートの画素値と第2のサーチエリアの画素値との差分絶対値和、Nは第2のテンプレートの総画素数である。
S(X,Y)=M−SAD(X,Y)/N ・・・・式(5)
そして、類似度算出部123は、参照画像が複数ある場合には、それぞれの参照画像に設定された第2のサーチエリアについて前述同様に類似度の算出を行う。図10(a)は、参照画像P1に設定された第2のサーチエリアと算出された類似度の一例を示し、同様に、図10(b)は参照画像P2に設定された第2のサーチエリアと各類似度の一例を示している。図10(a)、図10(b)に示した第2のサーチエリアは5×5画素のサイズであり、それらの第2のサーチエリア内の各画素の中に記載された数値が類似度の値を表しており、類似度の値が大きければその画素は着目画素と類似していることを表している。なお、図10(a)、図10(b)の例は、前述の図9(a)に例示したR色の9個の各画素について類似度が算出されているとする。
ここで仮に、各画素位置の画素値に対する前述したゲイン処理による影響が非常に小さく、各画素位置のノイズ量にも殆ど差がなかったとすると、式(5)で算出された各類似度は、略々等しい条件の下で算出された値とみなせる。したがって、この場合、例えば類似度の高い上位の所定数の画素を抽出して、それら類似度に基づく重み係数を用いて各画素値を加重加算する合成処理を行えば、ノイズの低減された出力値が得られることになる。図10(a)と図10(b)の例の場合、信頼度の高い上位所定数の画素として、画素1001,1002、画素1011〜1013の5画素を挙げている。
これに対し、各画素位置の画素値に対するゲイン処理の影響により、各画素位置のノイズ量に大きな差が生じているとすると、式(5)で算出された各類似度は、異なる条件下で算出された値となるため、各類似度の算出精度には違いが生じていることになる。したがって、この場合、算出された各類似度のみを参照して合成に用いる画素を決定すると、誤ってノイズ量の大きい画素値を合成してしまうことになる可能性があり、ノイズ低減効果が低下してしまうことになる。
このため、本実施形態の高画質化処理部107は、図4のST404において、画素位置によってノイズ量が異なることによるノイズ低減効果への影響を軽減するために、周辺光量補正に起因したノイズ量の違いを考慮して、類似度に対する信頼度を算出する。このST404の信頼度算出処理は、信頼度算出部124により行われる。本実施形態の場合、信頼度算出部124は、基準画像中の着目画素の画素位置と参照画像の第2のサーチエリア内の対応画素の画素位置とに対してそれぞれ設定されている周辺光量補正のためのゲイン値に基づいて、各類似度の信頼度を算出する。
図11は、前述の図3と同様、周辺光量補正で用いられるゲイン値の一例を示す図である。図11の距離Ltは基準画像の画像中心から着目画素Tの画素位置までの距離(像高)、距離Lsは一つの参照画像の画像中心から第2のサーチエリア内の対応画素(ここでは、対応画素Cとする。)の画素位置までの距離(像高)を表している。また、ゲイン値GNtは着目画素Tに乗算されるゲイン値、ゲイン値GNcは対応画素Cに乗算されるゲイン値を表している。信頼度算出部124は、図11に示すように、画像中心からの距離を表す像高Lに対して設定されるゲイン値GN(L)を表す曲線を基に、着目画素Tに対するゲイン値GNtを式(6)、対応画素Cに対するゲイン値GNcを式(7)により算出する。
GNt=GN(Lt) ・・・・式(6)
GNc=GN(Lc) ・・・・式(7)
GNc=GN(Lc) ・・・・式(7)
また、基準画像の画像中心の座標を(Xo,Yo)、着目画素Tの座標を(Xt,Yt)、対応画素Cの座標を(Xc,Yc)で表すと、信頼度算出部124は、距離Ltを式(8)、距離Lcを式(9)により算出する。
更に、信頼度算出部124は、着目画素Tの画素位置におけるゲイン値GNtと、対応画素Cの画素位置におけるゲイン値GNcを基に、式(10)によりゲイン比Ratioを算出する。
Ratio=GNt/GNc ・・・・式(10)
また更に、信頼度算出部124は、図12に折れ線で示す特性を基に、信頼度rを決定する。図12に折れ線で示す特性は、ゲイン比Ratioが1に近いほど、つまり着目画素Tと対応画素Cとでノイズ量の差が少ないほど、信頼度rが最大値である1に近づくような特性テーブルとして設定されている。
そして、ST703の後、高画質化処理部107は、図4のST405に処理を進める。図4のST405において、高画質化処理部107は、ST404で算出された信頼度と、ST403で算出された類似度とに基づいて、出力値(出力画素値)を算出する。出力値の算出処理は、出力値算出部125により行われる。
先ず、出力値算出部125は、式(11)により、ST404で算出された信頼度rを、ST403で算出された各探索対象画素の画素位置(座標(X,Y))の類似度S(X,Y)に乗算することで、ノイズ量の違いを加味した評価値S'(X,Y)を算出する。
S'(X,Y)=r*S(X,Y) ・・・・式(11)
ここで、図13(a)は、参照画像P1に設定された第2のサーチエリアと各画素位置における類似度Sの一例を示す図であり、図13(b)は、参照画像P2に設定された第2のサーチエリアと各類似度Sの一例を示す図である。これら図13(a)、図13(b)は、前述の図10(a),図10(b)と同様に表されている。また、図13(c)は、信頼度rの値が例えば0.9の場合に、図13(a)に示した参照画像P1の第2のサーチエリアから算出された各評価値S'を示した図である。一方、図13(d)は、信頼度rの値が例えば0.8の場合に、図13(b)に示した参照画像P2の第2のサーチエリアから算出された各評価値S'を示した図である。
次に、出力値算出部125は、参照画像P1と参照画像P2にそれぞれ設定された第2のサーチエリア内で算出された評価値S'の値を参照し、評価値S'の大きい上位5画素の画素値を抽出する。図13(c)、図13(d)の例の場合、上位5画素として画素1321〜1323、画素1331,1332の5画素の各画素値が抽出される。そして、出力値算出部125は、それら抽出した各画素位置の評価値S'の値に基づいて重み係数を算出し、その重み係数を用いて各画素値を合成する。例えば、評価値S'がn番目に大きい画素位置における画素値をI(n)、その画素の類似度をS'(n)とすると、出力値Ioutは式(12)により算出される。また、式(12)におけるW1,W2,W3,W4,W5は、式(13)〜式(17)により算出され、式(13)〜式(17)のSumは式(18)により算出される。式(18)中のNは1〜5となる。
Iout=W1*I(1)+W2*I(2)+W3*I(3)+W4*I(4)+W5*I(5) ・・・・式(12)
W1=S'(1)/Sum ・・・・式(13)
W2=S'(2)/Sum ・・・・式(14)
W3=S'(3)/Sum ・・・・式(15)
W4=S'(4)/Sum ・・・・式(16)
W5=S'(5)/Sum ・・・・式(17)
W1=S'(1)/Sum ・・・・式(13)
W2=S'(2)/Sum ・・・・式(14)
W3=S'(3)/Sum ・・・・式(15)
W4=S'(4)/Sum ・・・・式(16)
W5=S'(5)/Sum ・・・・式(17)
その後、高画質化処理部107は、ST406において、以上説明した着目画素に対する処理が、基準画像中の全ての画素位置について実施されたか否かを判定する。そして、高画質化処理部107は、基準画像の中の全ての画素位置について処理が実施されたと判定(Yes)した場合、図4のフローチャートの処理を終了する。一方、高画質化処理部107は、基準画像の中で処理が実施されていない画素位置があると判定(No)した場合にはST401に処理を戻して、その画素位置の画素(着目画素)に対する前述の処理を行う。第1の実施形態においては、以上説明したような着目画素に対する処理が基準画像中の全ての画素位置について実施されることで、ノイズが低減された高品質の出力画像を得ることができる。
前述したように、第1の実施形態によれば、画像中のノイズ量を考慮してノイズ低減に使用する画素を決定しているため、画素位置によってノイズ量の違いが生じている場合であっても、高い精度で類似画素を検出可能となる。そして、第1の実施形態では、ゲイン値の比を考慮することで、高画質化処理の際にノイズ量の差異が小さい画素を優先的に用いて画素値の合成を行えるようになり、ノイズが高い精度で低減された、高品質の出力画像を得ることが可能となる。このように、第1の実施形態によれば、周辺光量補正等のゲイン処理により画像位置によるノイズ量の違いが生じている場合においても、高い精度で類似画素を検出でき、その結果、ノイズが良好に低減された高品質の出力画像を得ることが可能となる。
<第2の実施形態>
以下、第2の実施形態について説明する。
第2の実施形態では、第2のテンプレートとして設定される領域を変形することで、類似度算出の信頼度をさらに向上させることを可能にしている。特に第2の実施形態の画像処理は、周辺光量補正が施された画像のように、各画素位置でゲイン値に大きな差異が生じている可能性が高い画像辺縁部に着目画素が位置している場合に有効である。
以下、第2の実施形態について説明する。
第2の実施形態では、第2のテンプレートとして設定される領域を変形することで、類似度算出の信頼度をさらに向上させることを可能にしている。特に第2の実施形態の画像処理は、周辺光量補正が施された画像のように、各画素位置でゲイン値に大きな差異が生じている可能性が高い画像辺縁部に着目画素が位置している場合に有効である。
第2の実施形態の構成は、概ね第1の実施形態と同様であるが、図7に示したフローチャートのST701における第2のテンプレートの設定処理が異なる。第2の実施形態では、テンプレート設定部121は、着目画素の位置のゲイン値と、その着目画素の周辺領域の各画素位置のゲイン値とを参照し、着目画素のゲイン値とその周辺領域の各画素位置のゲイン値との差異(差の絶対値)をそれぞれ算出する。そして、それら算出したゲイン値の差の絶対値が所定の閾値よりも大きい画素位置の画素は無効な画素とし、差の絶対値が所定の閾値以内の画素のみを含んだ第2のテンプレートを設定する。
例えば、着目画素Tの座標(Xt,Yt)のゲイン値をGN(Xt,Yt)、着目画素Tの周辺領域の各画素位置におけるゲイン値をGN(Xs,Ys)とすると、ゲイン値の差D(Xs,Ys)は、式(19)により算出される。
D(Xs,Ys)=|GN(XS,YS)−GN(Xt,Yt)| ・・・式(19)
図14(a)、図14(b)は、第2の実施形態におけるゲイン値の差異算出の一例を説明する図である。図14(a)は、着目画素の画素位置1401とその周辺領域の各画素の画素位置の各ゲイン値を示しており、各画素位置の中に記載された数値がそれぞれゲイン値を表している。図14(b)は、着目画素の画素位置1401のゲイン値と周辺領域の各画素位置のゲイン値との差Dを表しており、各画素の中に記載された数値がそれぞれ差Dの値を表している。図14(b)の例では、着目画素の画素位置1401における差Dは0.00であり、周辺領域の各画素位置における差Dは着目画素の画素位置1401のゲイン値との差分の値を表している。また、図14(b)において、画素位置1412,1413,1414は、所定の閾値として決められている値が例えば0.5である場合に、所定の閾値よりもそれぞれ差Dが大きい画素である。第2の実施形態では、図14(b)の例の場合、差Dが所定の閾値よりも大きい画素位置1412,1413,1414の各画素を第2のテンプレートから除外する画素とし、それら以外の画素を第2のテンプレートに含める。
ここで、着目画素の周辺領域の各画素のうち、着目画素のゲイン値との差異が所定の閾値より大きい画素は、着目画素とは大きく異なるゲイン値によるゲイン処理がなされた画素である。したがって、それらの画素のノイズ量は着目画素のノイズ量とは大きく異なっていると考えられる。このため、第2の実施形態では、着目画素の周辺領域の各画素のうち、着目画素のゲイン値との差異が所定の閾値より大きい画素を第2のテンプレートから除外している。このように第2の実施形態では、着目画素の周辺領域の各画素のうち、着目画素のゲイン値との差異が所定の閾値より大きい画素を第2のテンプレートから除外することで、ノイズ量が一定範囲内となっている領域のみを第2のテンプレートとして設定している。これにより、第2の実施形態によれば、例えば周辺光量補正がなされた画像のように、画像中心部に対してノイズ量に大きな差異が生じている可能性が高い画像辺縁部に着目画素が位置している場合であっても、類似度算出の精度を向上させることができる。したがって、第2の実施形態においても、周辺光量補正等のゲイン処理により画像位置によるノイズ量の違いが生じている場合においても高い精度で類似画素を検出でき、ノイズが低減された高品質の出力画像を得ることが可能となる。
<第3の実施形態>
以下、第3の実施形態について説明する。
第3の実施形態では、信頼度マップを使用することで類似度算出の信頼度をさらに向上させることを可能とする。第3の実施形態では、例えば100×100画素サイズのように、広い第2のサーチエリアが設定される場合に、その広い第2のサーチエリア内でのゲイン値の差異によってノイズ量に大きな差が生じるような場合に特に有効である。
以下、第3の実施形態について説明する。
第3の実施形態では、信頼度マップを使用することで類似度算出の信頼度をさらに向上させることを可能とする。第3の実施形態では、例えば100×100画素サイズのように、広い第2のサーチエリアが設定される場合に、その広い第2のサーチエリア内でのゲイン値の差異によってノイズ量に大きな差が生じるような場合に特に有効である。
第3の実施形態の構成は、概ね第1の実施形態と同様であるが、図4に示したフローチャートのST404の信頼度算出処理が異なる。第3の実施形態の場合、信頼度算出部124は、広い第2のサーチエリアについて信頼度マップを生成し、その信頼度マップを基に信頼度を算出する。以下、図15(a)と図15(b)、及び図16を用いて、信頼度マップを用いた信頼度算出方法について説明する。
信頼度マップとは、図15(a)、図15(b)に示すように、画像を複数の画像領域に分割したそれぞれの分割領域別の2次元の基底関数であり、前述した周辺光量補正に対応した信頼度マップの場合は画像辺縁部ほど小さい係数を持つものとなされる。本実施形態の場合、信頼度マップは、周辺光量補正における撮影条件と各画素位置に応じたゲイン値に基づいて生成され、例えばRAM105に保持されている。そして、本実施形態の場合、基準画像に対して、参照画像における被写体の移動や手ぶれによる画像間の位置ずれ量に応じて、予め分割領域別に用意されている信頼度マップがRAM105から読み出される。
図15(a)では、画像の水平方向をH0〜H5に分け、垂直方向をV0〜V5に分けることで、画像を30分割した例を示している。以下の説明では、例えば水平方向のH4と垂直方向のV2に対応した分割領域をH4V2のように表すとする。また、図15(a)では、基準画像の着目画素Tと参照画像中の対応画素Cとが、同じ分割領域H4V2の中に位置している例を示している。
図15(a)に例示したように、基準画像の着目画素Tと参照画像中の対応画素Cとが同じ分割領域H4V2の中に位置している場合、信頼度算出部124は、その分割領域H4V2に対応した信頼度マップMPh4v2をRAM105から読み出す。そして、信頼度算出部124は、その分割領域H4V2の信頼度マップMPh4v2に対し、着目画素Tと対応画素Cのゲイン値の比率(ゲイン比)から得られる調整係数Kを乗算することにより、信頼度rを算出する。
第3の実施形態の場合、信頼度算出部124は、図16の折れ線で示す特性を基に、調整係数Kを算出する。図16の折れ線で示す特性は、ゲイン比Ratioが1に近いほど、つまり着目画素Tと対応画素Cとでノイズ量の差が少ないほど、調整係数Kが最大値である1に近づくような特性テーブルとして設定さている。第2のサーチエリアを例えば3×3画素サイズで表した場合、分割領域H4V2の信頼度マップMPh4v2は式(20)で表され、そして、調整係数Kが例えばK=0.9である場合、信頼度rは式(21)のように算出される。
図15(b)は、図15(a)と同様に、画像を30分割した例を示している。図15(b)は基準画像の着目画素Tと参照画像中の対応画素Cが異なる分割領域内に位置している例を示しており、この例では着目画素Tが分割領域H4V2内に、対応画素Cが分割領域H4V1の中に位置している。
この場合、信頼度算出部124は、着目画素Tが位置する分割領域H4V2の信頼度マップMPh4v2と、対応画素Cが位置する分割領域H4V1の信頼度マップMPh4v1とを、RAM105から読み出す。さらに、信頼度算出部124は、着目画素Tと対応画素Cのゲイン値の比率から得られる調整係数Kを基に重み係数Wkを算出し、その重み係数Wkを用いて式(22)により信頼度rを算出する。また、重み係数Wkは、式(23)により算出される。
r=(1−Wk)*MPh4v1+Wk*MPh4v2 ・・・・式(22)
Wk=K/2 ・・・・式(23)
Wk=K/2 ・・・・式(23)
第2のサーチエリアを例えば3×3画素サイズで表し、信頼度マップMPh4v1、MPh4v2がそれぞれ式(24)、式(25)で表され、さらに重み係数WkがWk=0.5である場合、信頼度rは、式(26)により算出される。
以上説明したように、第3の実施形態においては、第2のサーチエリアが広範囲に設定されている場合においても、信頼度マップを用いることにより、第2のサーチエリア中のゲイン値の差異により生じるノイズ量の違いを考慮した類似度算出の信頼度を評価できる。このため、第3の実施形態によれば、周辺光量補正等のゲイン処理により各画像位置でノイズ量の違いが生じている場合でも類似度算出の精度を保つことができ、その結果、高品質の出力画像を得ることが可能となる。
<その他の実施形態>
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
前述の各実施形態では、周辺光量補正のためのゲイン処理を行った画像の画像処理例を挙げたが、撮像画像内で局所的なゲイン処理を行った複数の画像の局所領域の位置合わせを行って合成等して出力画像を生成するような画像処理にも本発明は適用可能である。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
前述の各実施形態では、周辺光量補正のためのゲイン処理を行った画像の画像処理例を挙げたが、撮像画像内で局所的なゲイン処理を行った複数の画像の局所領域の位置合わせを行って合成等して出力画像を生成するような画像処理にも本発明は適用可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
100:デジタルカメラ、101:撮像レンズ、102:絞り、103:撮像素子、105:RAM、106:周辺光量補正部、107:高画質化処理部、121:テンプレート設定部121、122:サーチエリア設定部、123:類似度算出部、124:信頼度算出部、125:出力値算出部
Claims (14)
- 画素位置に応じたゲイン値によるゲイン処理が施された複数の画像を用いて所定の画像処理を行って出力画像を生成する画像処理装置であって、
前記ゲイン処理が施された複数の画像のうち処理の対象となされた基準画像の中の着目画素を含む領域を、テンプレートとして設定する第1の設定手段と、
前記ゲイン処理が施された複数の画像のうち前記基準画像に対する参照画像の中で前記着目画素の画素位置に基づく領域を、サーチエリアとして設定する第2の設定手段と、
前記設定されたサーチエリア内の各画素位置で、前記テンプレートとの類似度を算出する類似度算出手段と、
前記基準画像の中の前記着目画素の画素位置に応じたゲイン値と前記参照画像の前記サーチエリアの中の各画素位置に応じたゲイン値との差異に基づいて、前記類似度の信頼度を算出する信頼度算出手段と、
前記類似度と前記信頼度とに基づいて、前記出力画像の画素値を算出する出力値算出手段と、
を有することを特徴とする画像処理装置。 - 前記ゲイン処理は、前記複数の画像を撮像する際に用いられる撮像レンズの光学特性及び撮影条件に応じた画素位置毎のゲイン値を、前記撮像レンズを用いて撮像された撮像画像の前記画素位置毎の各画素値にそれぞれ乗算する処理であることを特徴とする請求項1に記載の画像処理装置。
- 前記所定の画像処理は、前記ゲイン処理が施された前記基準画像に対して、前記基準画像の前又は後の少なくとも何れかで撮像された前記参照画像を用いた所定の高画質化処理を施して前記出力画像を生成する処理であり、
前記出力値算出手段により算出された前記画素値を用いて前記出力画像が生成されることを特徴とする請求項1又は2に記載の画像処理装置。 - 前記信頼度算出手段は、前記基準画像の中の前記着目画素の画素位置に応じたゲイン値と前記参照画像の前記サーチエリアの中の各画素位置に応じたゲイン値との比を基に、前記類似度の信頼度を算出することを特徴とする請求項1から3の何れか1項に記載の画像処理装置。
- 前記信頼度算出手段は、前記ゲイン値の比と、予め設定された信頼度との対応を表す特性テーブルを基に、前記類似度の信頼度を決定することを特徴とする請求項4に記載の画像処理装置。
- 前記出力値算出手段は、前記サーチエリアの中の各画素位置で算出された前記類似度に対して前記信頼度の値を乗算して評価値を算出し、前記評価値が上位の所定数の画素位置の画素値を、前記評価値に基づく重み係数を用いて合成することにより前記出力画像の画素値を算出することを特徴とする請求項1から5の何れか1項に記載の画像処理装置。
- 前記第1の設定手段は、前記基準画像を縮小した縮小基準画像の中の前記着目画素の画素位置に基づく第1のテンプレートを設定し、
前記第2の設定手段は、前記参照画像を縮小した縮小参照画像の中で前記着目画素の画素位置に基づく第1のサーチエリアを設定し、
前記類似度算出手段は、前記縮小参照画像について、前記第1のサーチエリア内で前記第1のテンプレートを用いた探索を行って、前記着目画素を含む画像領域に類似した類似画像領域の中心座標を求め、
さらに前記第1の設定手段は、縮小されていない前記基準画像の着目画素の画素位置に基づく第2のテンプレートを設定し、
さらに前記第2の設定手段は、縮小されていない前記参照画像の中で前記類似画像領域の中心座標を基に、第2のサーチエリアを設定し、
さらに前記類似度算出手段は、前記第2のサーチエリア内の各画素位置で、前記第2のテンプレートとの前記類似度を算出することを特徴とする請求項1から6の何れか1項に記載の画像処理装置。 - 前記第1の設定手段は、前記基準画像の画素を間引いて前記縮小基準画像を生成し、前記間引く画素数に応じて前記第1のテンプレートの大きさを調整し、
前記第2の設定手段は、前記参照画像の画素を間引いて前記縮小参照画像を生成し、前記間引く画素数に応じて前記第1のサーチエリアの大きさを調整することを特徴とする請求項7に記載の画像処理装置。 - 前記第2の設定手段は、撮像により得られた前記基準画像と前記参照画像との撮影時間間隔に応じて、前記第1のサーチエリアの大きさを設定することを特徴とする請求項7又は8に記載の画像処理装置。
- 前記第1の設定手段は、前記着目画素の画素位置のゲイン値と前記着目画素の周辺の画素位置のゲイン値との差を求め、前記着目画素の周辺の画素のうち、前記差が所定の閾値以内の画素を前記第2のテンプレートに含めることを特徴とする請求項7から9の何れか1項に記載の画像処理装置。
- 前記信頼度算出手段は、前記基準画像と前記参照画像との間の画像間の位置ずれ量に応じて、予め画像領域ごとに用意されている信頼度マップを読み出し、前記読み出した信頼度マップに基づいて前記サーチエリアの各画素位置における信頼度を決定することを特徴とする請求項1から10の何れか1項に記載の画像処理装置。
- 前記信頼度マップは、少なくとも前記画素位置に応じたゲイン値に基づいて生成されることを特徴とする請求項11に記載の画像処理装置。
- 画素位置に応じたゲイン値によるゲイン処理が施された複数の画像を用いて所定の画像処理を行って出力画像を生成する画像処理装置の画像処理方法であって、
前記ゲイン処理が施された複数の画像のうち処理の対象となされた基準画像の中の着目画素を含む領域を、テンプレートとして設定する第1の設定工程と、
前記ゲイン処理が施された複数の画像のうち前記基準画像に対する参照画像の中で前記着目画素の画素位置に基づく領域を、サーチエリアとして設定する第2の設定工程と、
前記設定されたサーチエリア内の各画素位置で、前記テンプレートとの類似度を算出する類似度算出工程と、
前記基準画像の中の前記着目画素の画素位置に応じたゲイン値と前記参照画像の前記サーチエリアの中の各画素位置に応じたゲイン値との差異に基づいて、前記類似度の信頼度を算出する信頼度算出工程と、
前記類似度と前記信頼度とに基づいて、前記出力画像の画素値を算出する出力値算出工程と、
を有することを特徴とする画像処理方法。 - コンピュータを、請求項1から12の何れか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017044617A JP2018148513A (ja) | 2017-03-09 | 2017-03-09 | 画像処理装置、画像処理方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017044617A JP2018148513A (ja) | 2017-03-09 | 2017-03-09 | 画像処理装置、画像処理方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018148513A true JP2018148513A (ja) | 2018-09-20 |
Family
ID=63591733
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017044617A Pending JP2018148513A (ja) | 2017-03-09 | 2017-03-09 | 画像処理装置、画像処理方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018148513A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020170306A (ja) * | 2019-04-02 | 2020-10-15 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
CN113744133A (zh) * | 2021-09-13 | 2021-12-03 | 烟台艾睿光电科技有限公司 | 一种图像拼接方法、装置、设备及计算机可读存储介质 |
-
2017
- 2017-03-09 JP JP2017044617A patent/JP2018148513A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020170306A (ja) * | 2019-04-02 | 2020-10-15 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
CN113744133A (zh) * | 2021-09-13 | 2021-12-03 | 烟台艾睿光电科技有限公司 | 一种图像拼接方法、装置、设备及计算机可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8224069B2 (en) | Image processing apparatus, image matching method, and computer-readable recording medium | |
US9300946B2 (en) | System and method for generating a depth map and fusing images from a camera array | |
JP4375322B2 (ja) | 画像処理装置、画像処理方法、そのプログラム、およびそのプログラムを記録したコンピュータ読取り可能な記録媒体 | |
JP6577703B2 (ja) | 画像処理装置及び画像処理方法、プログラム、記憶媒体 | |
US20110096143A1 (en) | Apparatus for generating a panoramic image, method for generating a panoramic image, and computer-readable medium | |
JP2015197745A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
EP2704423A1 (en) | Image processing apparatus, image processing method, and image processing program | |
JP2010088105A (ja) | 撮像装置および方法、並びにプログラム | |
JP2015100066A (ja) | 撮像装置及びその制御方法、並びにプログラム | |
US8774551B2 (en) | Image processing apparatus and image processing method for reducing noise | |
JP6711396B2 (ja) | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム | |
JP2017069926A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP2013206175A (ja) | 画像判定装置、画像判定方法及び画像判定用コンピュータプログラム | |
JPWO2013105381A1 (ja) | 画像処理方法、画像処理装置および画像処理プログラム | |
JP6544978B2 (ja) | 画像出力装置およびその制御方法、撮像装置、プログラム | |
JP6494402B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム | |
JP2018148513A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2005250994A (ja) | ステレオ画像処理装置 | |
CN110969575B (zh) | 自适应图像拼接的方法及图像处理装置 | |
JP2017011652A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP5927265B2 (ja) | 画像処理装置及びプログラム | |
JP6153318B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP5928465B2 (ja) | 劣化復元システム、劣化復元方法およびプログラム | |
WO2014077024A1 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP6137437B1 (ja) | 画像処理装置及び画像処理方法 |