JP2017130168A - 画像処理装置、撮像装置および画像処理プログラム - Google Patents
画像処理装置、撮像装置および画像処理プログラム Download PDFInfo
- Publication number
- JP2017130168A JP2017130168A JP2016011129A JP2016011129A JP2017130168A JP 2017130168 A JP2017130168 A JP 2017130168A JP 2016011129 A JP2016011129 A JP 2016011129A JP 2016011129 A JP2016011129 A JP 2016011129A JP 2017130168 A JP2017130168 A JP 2017130168A
- Authority
- JP
- Japan
- Prior art keywords
- image
- target
- pixel
- noise
- noise reduction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 149
- 238000003384 imaging method Methods 0.000 title claims description 45
- 230000009467 reduction Effects 0.000 claims abstract description 51
- 239000000284 extract Substances 0.000 claims abstract description 10
- 230000003287 optical effect Effects 0.000 claims description 62
- 238000000034 method Methods 0.000 claims description 39
- 230000008569 process Effects 0.000 claims description 26
- 238000000605 extraction Methods 0.000 claims description 13
- 238000011946 reduction process Methods 0.000 claims description 7
- 238000013075 data extraction Methods 0.000 claims description 4
- 238000000354 decomposition reaction Methods 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 3
- 230000002194 synthesizing effect Effects 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 31
- 230000003321 amplification Effects 0.000 description 23
- 238000003199 nucleic acid amplification method Methods 0.000 description 23
- 238000012546 transfer Methods 0.000 description 23
- 238000013527 convolutional neural network Methods 0.000 description 20
- 230000000694 effects Effects 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 230000015556 catabolic process Effects 0.000 description 4
- 238000006731 degradation reaction Methods 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000009931 harmful effect Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Abstract
【課題】高解像度化処理を行って増幅されたノイズをNLMフィルタを用いて低減する。
【解決手段】画像処理装置404は、入力画像に対して高解像度化処理を行って生成した第1の画像を複数の第2の画像に周波数分解し、複数の第2の画像のうち対象画像に対して高解像度化処理の特性に基づいてノイズ低減処理を行う。ノイズ低減画像を含む複数の第2の画像を合成して第3の画像を生成する。ノイズ低減手段は、対象画像から対象画素を抽出し、対象画像またはそれ以外の第2の画像から複数の参照画素を抽出し、対象画像から対象画素に対応した画素を含む部分領域である対象領域データと複数の参照画素に対応した画素を含む複数の部分領域である複数の参照領域データとの相関値を算出する。高解像度化処理の特性と相関値とに基づいて参照画素に対する重みを与え、複数の参照画素と重みとから算出した信号値を用いて対象画素に対応する出力画素を生成する。
【選択図】図8
【解決手段】画像処理装置404は、入力画像に対して高解像度化処理を行って生成した第1の画像を複数の第2の画像に周波数分解し、複数の第2の画像のうち対象画像に対して高解像度化処理の特性に基づいてノイズ低減処理を行う。ノイズ低減画像を含む複数の第2の画像を合成して第3の画像を生成する。ノイズ低減手段は、対象画像から対象画素を抽出し、対象画像またはそれ以外の第2の画像から複数の参照画素を抽出し、対象画像から対象画素に対応した画素を含む部分領域である対象領域データと複数の参照画素に対応した画素を含む複数の部分領域である複数の参照領域データとの相関値を算出する。高解像度化処理の特性と相関値とに基づいて参照画素に対する重みを与え、複数の参照画素と重みとから算出した信号値を用いて対象画素に対応する出力画素を生成する。
【選択図】図8
Description
本発明は、画像のノイズを低減する画像処理技術に関し、特に高解像度化処理を行った画像からノイズを低減する画像処理技術に関する。
デジタルカメラ等の撮像装置による撮影光学系(以下、単に光学系という)を通した撮像では、該光学系で発生する回折や収差等の影響により1点から発生した光が1点に収束することができず、微小な広がりを持つ。このような微小な広がりを持った分布をPSF(Point Spread Function:点像強度分布関数)という。撮像により生成された撮影画像には、理想的な被写体像にPSFが畳み込まれて形成されることになり、画像がぼけて解像度が劣化する。撮影画像に対して上記光学系による解像度劣化を補正する高解像度化処理が行われている。高解像度化処理の1つとして従来行われている画像回復処理を以下に示す。
実空間(x,y)上で、光学系による劣化を受ける前の画像をf(x,y)、PSFをh(x,y)、劣化した画像をg(x,y)とすると、これらは以下に示す(1)式で書くことができる。
g(x,y)=∫∫f(X,Y)・h(x−X,y−Y)dXdY (1)
(1)式にフーリエ変換を施し、実空間(x,y)から周波数空間(u,v)への変換を行うと、
G(u,v)=F(u,v)・H(u,v) (2)
となる。F(u,v)はf(x,y)のフーリエ変換であり、G(u,v)はg(x,y)のフーリエ変換であり、H(u,v)はh(x,y)のフーリエ変換である。H(u,v)はOTF(Optical Transfer Function:光学伝達関数)である。
g(x,y)=∫∫f(X,Y)・h(x−X,y−Y)dXdY (1)
(1)式にフーリエ変換を施し、実空間(x,y)から周波数空間(u,v)への変換を行うと、
G(u,v)=F(u,v)・H(u,v) (2)
となる。F(u,v)はf(x,y)のフーリエ変換であり、G(u,v)はg(x,y)のフーリエ変換であり、H(u,v)はh(x,y)のフーリエ変換である。H(u,v)はOTF(Optical Transfer Function:光学伝達関数)である。
さらに、(2)式を変形すると、
F(u,v)=G(u,v)/H(u,v) (3)
となる。これは周波数空間上で、劣化画像g(x,y)のフーリエ変換G(u,v)をPSFであるh(x,y)のフーリエ変換H(u,v)で除することにより、劣化を受ける前の元の画像f(x,y)のフーリエ変換であるF(u,v)を得ることができることを意味する。したがって、F(u,v)にフーリエ逆変換を施せば、元の画像f(x,y)を得ることができる。
F(u,v)=G(u,v)/H(u,v) (3)
となる。これは周波数空間上で、劣化画像g(x,y)のフーリエ変換G(u,v)をPSFであるh(x,y)のフーリエ変換H(u,v)で除することにより、劣化を受ける前の元の画像f(x,y)のフーリエ変換であるF(u,v)を得ることができることを意味する。したがって、F(u,v)にフーリエ逆変換を施せば、元の画像f(x,y)を得ることができる。
ただし、実際にこのような処理を行って元の画像を得ようとすると、撮像素子によって生じ得るノイズを著しく増幅させ、画像上にリンギングを発生させたりエッジの掘り込み(アンダーシュート)を発生させたりする等の弊害が生ずるおそれがある。このようなノイズの増幅を抑制するための画像回復手法として、(4)式で表されるウィナーフィルタを用いることが知られている。H(u,v)はOTF(光学伝達関数)であり、Γはノイズの増幅量を低減するための定数である。さらに言えば、画像回復処理を施す対象の画像に全くノイズが発生していなくても、増幅率が大きくなりすぎると上記リンギングその他の弊害が発生しやすくなる。したがって、Γは増幅率を制御する調整項として利用することが可能であると言える。また、Γは定数ではなくΓ(u,v)として、周波数特性を考慮した調整項としてもよい。以下、λf(u,v)を高解像度化処理の周波数特性といい、Γを増幅率調整項という。
また、光学系の光学伝達関数H(u,v)は、撮影画像のうち領域(部分領域)ごとに異なる特性を持つ。したがって、(4)式で示す高解像度化処理の周波数特性λf(u,v)も部分領域ごとに異なる特性としてもよい。ただし、ここでいう部分領域とは、画素単位も含むこととする。(4)式を劣化画像g(x,y)のフーリエ変換G(u,v)に乗ずれば、光学系の回折や収差によって発生したPSFの位相成分を0にし、振幅成分の周波数特性を増幅することで高解像度かつ良好な画像を得ることができる。すなわち、ウィナーフィルタを用いた画像回復処理により回復された画像の周波数空間情報をR(u,v)とすると、
R(u,v)=G(u,v)・λf(u,v) (5)
が得られる。
R(u,v)=G(u,v)・λf(u,v) (5)
が得られる。
ウィナーフィルタにおいて、Γを小さくして増幅率を強くすると、高解像度化処理の効果が向上するが、ノイズが著しく増幅されてしまう。一方、Γを大きくして増幅率を弱くすると、ノイズの増幅を抑制することができるが、高解像度化処理の効果が低下する。
高解像度化処理の効果とノイズの抑制とを両立させる方法として、特許文献1および特許文献2にて開示されているように、高解像度化処理を行って取得した高解像度画像に対してノイズ低減処理を行う方法がある。
特許文献1には、高解像度化処理後の画像に対して、シグマフィルタや平均化フィルタ等の2次元フィルタを用いてノイズ低減処理を行う際に、画像位置の関数として決定されたノイズレベルに応じてノイズ低減処理のパラメータを変更する方法が開示されている。
また、特許文献2には、NLM(Non-Local Means)フィルタと呼ばれる被写体空間の自己相似性を利用したノイズ低減処理の手法が提案されている。NLMフィルタは、画像の劣化が少ないノイズ低減処理として知られており、対象画素(注目画素)の信号値を、該注目画素を含む部分領域の構造に似ている複数の部分領域における各画素の加重平均信号値で置換してノイズを低減する。この際、加重平均で用いる重みは、注目画素を中心とする部分領域の各信号値を成分としたベクトルと、該注目画素の周辺にある画素から同様に生成したベクトルの距離に応じて決定される。
しかしながら、特許文献1にて開示されているような局所的なノイズ低減処理では、エッジ等の劣化が生じる場合があり、高解像度化処理の効果を低下させてしまうことがある。また、高解像度化処理を行って取得した高解像度画像に対して特許文献2にて開示されたNLMフィルタによるノイズ低減処理を行うことで、増幅されたノイズを効果的に低減する方法については従来提案されてない。さらに、NLMフィルタは解像度を保ちつつノイズを低減できる手法として知られているが、設定するパラメータによっては画像の劣化や残留ノイズが生じる場合がある。
本発明は、NLMフィルタを用いて、高解像度化処理を行って増幅されたノイズを効果的に低減する画像処理装置および撮像装置等を提供する。
本発明の一側面としての画像処理装置は、撮像により生成された入力画像に対して高解像度化処理を行うことにより第1の画像を生成する高解像度化処理手段と、第1の画像を互いに異なる周波数帯域成分からなる複数の第2の画像に周波数分解する周波数分解手段と、複数の第2の画像のうち少なくとも1つの対象画像に対して高解像度化処理の特性に基づいてノイズ低減処理を行うことによりノイズ低減画像を生成するノイズ低減手段と、ノイズ低減画像を含む複数の第2の画像を合成して第3の画像を生成する合成手段とを有する。ノイズ低減手段は、対象画像から対象画素を抽出し、複数の第2の画像のうち対象画像または該対象画像以外の少なくとも1つの参照用の第2の画像から複数の参照画素を抽出し、第1の画像または複数の第2の画像のうち対象画像もしくは該対象画像以外の少なくとも1つのデータ抽出用の第2の画像から、対象画素に対応した画素を含む部分領域である対象領域データと複数の参照画素に対応した画素を含む複数の部分領域である複数の参照領域データとを抽出し、複数の参照領域データのそれぞれに対して、対象領域データとの相関値を算出し、高解像度化処理の特性と相関値とに基づいて、複数の参照画素のそれぞれに対する重みを与え、複数の参照画素と重みとから算出した信号値を用いて対象画素に対応する出力画素を生成することを特徴とする。
なお、上記画像処理装置と入力画像を得るための撮像を行う撮像手段とを有する撮像装置も、本発明の他の一側面を構成する。
また、コンピュータに上記画像処理装置としての動作を行わせるコンピュータプログラムとしての画像処理プログラムも、本発明の他の一側面を構成する。
本発明によれば、高解像度化処理を行って増幅されたノイズをNLMフィルタを用いて効果的に低減することができ、高画質な画像を生成することができる。
以下、本発明の実施例について図面を参照しながら説明する。
図1には、本発明の実施例である画像処理装置が行う画像処理(画像処理方法)の流れを示している。この画像処理は、画像処理装置を構成するコンピュータ(パーソナルコンピュータやCPU等)がコンピュータプログラムとして画像処理プログラムに従って実行する。該画像処理は、デジタルカメラ等の撮像装置から取得した撮影画像である入力画像に対して高解像度化処理を行った後、高解像度化処理の周波数特性に基づいてノイズ低減処理を行う。本実施例では、高解像度化処理の例として、画像回復処理を用いる手法について説明する。
まず、ステップS101において、コンピュータは、撮像装置から入力画像としての撮影画像を取得する。撮像装置は、撮影光学系(以下、単に光学系という)により形成された被写体像をCMOSセンサやCCDセンサ等の撮像素子により撮像(光電変換)して撮影画像を生成する。撮像装置からの撮影画像の取得は、撮像装置と画像処理装置(コンピュータ)とを有線または無線による通信を介して行ってもよいし、半導体メモリや光ディスク等の記憶媒体を介して行ってもよい。撮影画像には、撮影時の焦点距離、F値、撮影距離、画素サイズ等といった撮影条件情報が付加されている。
図2には、撮影画像を水平方向にM分割、垂直方向にN分割して示している。撮像装置の光学系の光学特性は一様ではないが、狭い領域であればその中の光学特性を一様とみなすことができる。以下の説明なおいて、この光学系の光学特性が一様である領域をシフトインバリアント領域といい、画像処理もシフトインバリアント領域(m,n)ごとに行う。なお、シフトインバリアント領域は、予め光学系の光学特性を考慮して決定しておくことが好ましい。分割数を増やしてシフトインバリアント領域を細かくすると、後述する画像回復処理等の精度は向上するが、処理速度やデータ量は増えることになる。したがって、処理のコストを考慮してシフトインバリアント領域を決定するとよい。
次にステップS102では、コンピュータは、入力画像に含まれる第1のノイズ量σ0を算出する。ここにいうノイズ量とはノイズ分布の標準偏差である。
撮影画像である入力画像に含まれる第1のノイズ量σ0としては、撮像装置のISO感度や輝度レベル等の撮影条件に対するノイズ量データを予め測定してメモリに記憶しておき、撮影画像を取得した撮影時の撮影条件に合致するノイズ量を取得してもよい。
また、第1のノイズ量σ0を算出する別手法として、MAD(Median Absolute Deviation)を用いてもよい。MADは、入力画像をウェーブレット変換して取得した最も高周波なHH1のサブバンド画像のウェーブレット係数wHH1において、(6)式により算出される。
MAD=median(|wHH1−median(wHH1)|) (6)
入力画像に含まれる第1のノイズ量σ0は、MADと標準偏差が(7)式の関係であることから推定することができる。
σ0=MAD/0.6745 (7)
また、第1のノイズ量σ0は、入力画像におけるシフトインバリアント領域(m,n)等の一定の範囲を持つ領域ごとに取得してもよいし、画素ごとに取得してもよい。なお、ステップS102の処理は、ステップS105を実行する前であれば、ステップS103およびステップS104を実行した後で行ってもよい。
MAD=median(|wHH1−median(wHH1)|) (6)
入力画像に含まれる第1のノイズ量σ0は、MADと標準偏差が(7)式の関係であることから推定することができる。
σ0=MAD/0.6745 (7)
また、第1のノイズ量σ0は、入力画像におけるシフトインバリアント領域(m,n)等の一定の範囲を持つ領域ごとに取得してもよいし、画素ごとに取得してもよい。なお、ステップS102の処理は、ステップS105を実行する前であれば、ステップS103およびステップS104を実行した後で行ってもよい。
次にステップS103において、コンピュータは、撮像装置の光学系の光学伝達関数を取得する。
光学伝達関数は、式(2)においてH(u,v)で表されるように2次元空間におけるPSFの周波数特性である。このため、光学伝達関数はPSFによってその特性が変化する。光学伝達関数は光学系の状態によって膨大な量のバリエーションがある。例として焦点距離が可変なズームレンズの場合は、焦点距離、F値、撮影距離、画面位置、色(波長)等の組み合わせ分だけ光学伝達関数が存在する。したがって、現実的にはこれらの組み合わせの中から画像回復処理に必要なものだけを保持しておけばよい。なお、保持している撮影条件以外の光学伝達関数は補間処理によって生成してもよい。これら光学伝達関数データは予め光学CAD等で計算しておき、上記画像回復処理に適したデータベースにしてメモリに保持しておく。光学伝達関数データベースの画面位置は図2のシフトインバリアント領域に対応するようにしておくことが望ましい。また、光学伝達関数は測定によって求め、データとして保持しておいて使用するときに取得してもよい。
そして、コンピュータは、取得した撮影画像から撮影時の撮影条件(焦点距離、F値、撮影距離、画素サイズ等)の情報を取得し、予め保持された光学伝達関数データベースの中から上記撮影条件に合致した光学伝達関数を取得する。
次にステップS104において、コンピュータは、高解像度化処理の周波数特性を算出する。ユーザは画像回復処理の強さを指定し、取得した光学伝達関数を用いて(4)式により高解像度化処理の周波数特性λf(u,v)を算出する。
図2に示したシフトインバリアント領域(m,n)を代表する光学伝達関数をHm,n(u,v)とする。このたき、(4)式は、
と書き改めることができる。(8)式により、シフトインバリアント領域(m,n)ごとに高解像度化処理の周波数特性λf m,n(u,v)を算出することができる。
画像回復処理の強さはユーザが分かりやすい0〜100等のような数値範囲でよい。このときユーザが指定した値に対して、実際に適用する画像回復処理の信号増幅量を設定する。この信号増幅量は(8)式の絶対値(|λf m,n(u,v)|)として計算され、Γm,nによって制御を行う。ここで、信号増幅量は、例えば特定の周波数位置(u,v)における値|λf m,n(u,v)|としてもよいし、|λf m,n(u,v)|の帯域内の最大値や平均値としてもよい。
次にステップS105において、コンピュータ(高解像度化手段)は、入力画像に対して、算出した周波数特性λf m,n(u,v)に基づいて高解像度化処理としての画像回復処理を行い、高解像度画像(第1の画像)を取得する。シフトインバリアント領域(m,n)ごとに算出した高解像度化処理の周波数特性λf m,n(u,v)を用いることによって、シフトインバリアント領域(m,n)ごとに最適な画像回復処理を行うことが可能となる。さらに言えば、シフトインバリアント領域の切り替わりで不連続にならないような補間処理を用いると、より良好な画像回復処理による高解像度化処理を行うことが可能となる。また、画像回復処理は、(8)式をフーリエ逆変換して得られる実空間のフィルタを用いて、入力画像に畳み込むことで行ってもよい。その場合、予め生成された実空間のフィルタを前述した光学伝達関数データベースに格納して用いることも可能である。
次にステップS106において、コンピュータ(周波数分解手段)は、高解像度画像に対してウェーブレット変換(離散ウェーブレット変換)を行う。これにより、高解像度画像は、図3に示すような互いに異なる複数の周波数帯域成分HH,HL,LH,LLからなる複数のサブバンド画像(第2の画像)に周波数分解される。ウェーブレット変換で用いる基底関数は予め数列データとしてメモリに記憶される。そして、コンピュータは、選択した基底関数の数列を取得してウェーブレット変換を行う。本実施例では、変換レベルを3としたときの処理の例について説明するが、変換レベルは3に限定されるものではなく、変更が可能である。
ウェーブレット変換により分解して得られた複数のサブバンド画像は、図4に示すように、画像回復処理時に入力画像を分割処理したときと同様に、水平方向にM分割され、垂直方向にN分割される。サブバンド画像における各分割領域は、光学系の光学特性(光学伝達関数:OTF)に基づいて分割された領域に相当する。そして、各サブバンド画像おけるM×N個の分割領域における分割領域(m,n)ごとに処理を行う。
次にステップS107において、コンピュータは、入力画像のシフトインバリアント領域(m,n)で行った高解像度化処理の周波数特性λf m,n(u,v)を取得し、サブバンド画像の分割領域(m,n)における増幅量Asubband(m,n)を算出する。光学伝達関数データベースに実空間のフィルタを格納した場合の増幅量は、予め実空間のフィルタとともに格納したものを用いてもよいし、実空間のフィルタをフーリエ変換して求めてもよい。
上述したように光学系の光学伝達関数Hm,n(u,v)はシフトインバリアント領域ごとに異なるため、高解像度化処理は撮影画像におけるシフトインバリアント領域ごとの周波数特性λf m,n(u,v)に基づいて行われる。このため、高解像度画像には、シフトインバリアント領域における高解像度化処理の周波数特性λf m,n(u,v)に基づいて増幅されたノイズを含んでいる。つまり、高解像度化処理によるノイズの増幅量は、各サブバンド画像の複数の分割領域において一様ではなく、分割領域ごとに異なる。したがって、サブバンド画像の分割領域(m,n)における増幅量Asubband(m,n)を(9)式により算出する。(9)式において、Nは高解像度化処理の周波数特性λf m,n(u,v)のデータ数である。
図5には、サブバンド画像の分割領域(m,n)における増幅量Asubband(m,n)の算出結果の例を示している。なお、周波数分解の周波数特性Ψsubband(u,v)は、ウェーブレット変換時に取得した基底関数の数列をフーリエ変換することで取得する。また、予めウェーブレット変換の各基底関数の数列からサブバンドの周波数特性Ψsubband(u,v)を算出して、メモリに記憶しておき、これを取得してもよい。
次にステップS108において、コンピュータは、サブバンド画像の各分割領域(m,n)におけるノイズ量(第2のノイズ量)を取得する。ここにいうノイズ量も、ノイズ分布の標準偏差である。
上述したように撮影画像のシフトインバリアント領域(m,n)ごとに行った高解像度化処理の周波数特性λf m,n(u,v)は、シフトインバリアント領域ごとの撮像光学系の光学伝達関数Hm,n(u,v)に基づいて算出される。このため、サブバンド画像の分割領域ごとにノイズ量が異なる。よって、高解像度化処理の周波数特性に基づいて、サブバンド画像の分割領域(m,n)ごとのノイズ量σsubband(m,n)を取得する必要がある。
サブバンド画像の分割領域(m,n)ごとのノイズ量σsubband(m,n)は、ステップS102で取得した入力画像に含まれるノイズ量σ0と、ステップS107で算出した増幅量Asubband(m,n)とを用いて(10)式により算出される。
次にステップS109〜S113(ノイズ低減ステップ)において、コンピュータ(ノイズ低減手段)は、サブバンド画像の分割領域(m,n)ごとに取得したノイズ量に基づいて、該分割領域ごとにノイズ低減処理を行う。以下に、NLM(Non Local Means)フィルタを用いたノイズ低減処理に関して詳細に説明する。
ステップS109では、コンピュータは、処理対象となる対象画素(以下、注目画素という)を抽出するとともに複数の参照画素とを抽出する。注目画素は、1回の処理でノイズ低減処理を行う画素であり、単数でも複数でもよい。注目画素は、複数のサブバンド画像(第2の画像)のうち少なくとも1つのサブバンド画像(対象画像)から抽出される。例えば図6に示すように、サブバンド画像200から注目画素201が抽出される。ただし、注目画素のサイズや形状および抽出位置は図6に示したものに限定されない。参照画素は加重平均に用いる画素であり、対象画像または該対象画像以外の少なくとも1つの参照用のサブバンド画像から抽出される。ただし、被写体空間の自己相似性を利用するという観点から、注目画素が存在する周波数帯域成分であるサブバンド画像(対象画像)から抽出することが望ましい。
また、サブバンド画像のある色成分(例えばGreen)から注目画素を抽出している場合、サブバンド画像の他の色成分(RedやBlue)から参照画素を取得してもよい。また、注目画素の相似形状はその近傍に存在している可能性が高いことから、処理の高速化のため、参照画素の抽出領域を注目画素の近傍に絞ってもよい。または、参照画素の抽出領域を注目画素における高解像度化処理による増幅量に基づいて決定してもよい。例えば、注目画素における高解像度化処理による増幅量から予め設定した範囲内の増幅量である領域から参照画素を抽出する。さらに言うと、注目画素における第2のノイズ量に応じて参照画素の抽出領域を決定してもよく、第2のノイズ量が大きくなるほど抽出領域を大きく設定することでノイズ低減処理の効果を向上することができる。
例えば図6のように、サブバンド画像200において抽出領域202を設定する。ただし抽出領域のサイズや形状は図6に示すものに限定されない。また、参照画素は抽出領域内から抽出し、例えば図6の参照画素203のように抽出する。ただし、参照画素のサイズや形状および抽出位置は図6に示すものに限定されない。
ステップS110では、コンピュータは、注目画素に対応する画素を含む部分領域である注目データ(対象領域データ)と、参照画素に対応する画素を含む部分領域である参照データ(参照領域データ)とを抽出する。ただし、注目データおよび参照データは信号の分布に関する情報を持っている必要があるため、複数の画素のデータである必要がある。したがって、注目画素および参照画素が1画素の場合、注目データおよび参照データは必ず注目画素および参照画素より画素数が多くなる。
また、注目データおよび参照データは、複数のサブバンド画像(第2の画像)のうち対象画像もしくは該対象画像以外の少なくとも1つのデータ抽出用のサブバンド画像から抽出する。ただし、被写体空間の自己相似性を利用するという観点から、注目画素が存在する周波数帯域成分であるサブバンド画像(対象画像)から抽出することが望ましい。例えば、図6のように、サブバンド画像200から注目データ204および参照データ205を抽出する。ただし、注目データおよび参照データのサイズや形状および抽出位置は図6に示すものに限定されない。
また、注目データおよび参照データを高解像度画像(第1の画像)から抽出してもよい。例えば、図7に示すように、注目画素に対応する画素301および参照画素に対応する画素302を含む部分領域を高解像度画像300から注目データ303および参照データ304として抽出する。
ステップS111では、コンピュータは、ステップS110で取得した注目データと参照データとの相関値を算出する。相関値の算出方法の例として、注目データと参照データの信号差の二乗平均平方根を使用する手法について説明する。ただし、これは例であり、他の算出方法を用いてもよい。また、以下の説明に際しては簡単のため色成分(RGB)を考えず、単色信号の場合で式を記述するが、複数の色成分を持つ場合にも同様に適用できる。
注目データおよび参照データを画像の部分領域として、つまりは行列としい扱う場合は、相関算出式gは以下の(11)式のようになる。
式(11)において、Tは注目データにおける各画素の信号値を成分tijとする行列、NはTの行数、MはTの列数、Rkはk番目の参照データの各信号値を成分rijとする行列である。(11)式で表される相関算出式は、注目データと参照データの差分を見ているため、値が0に近いほど両者の相似性が高いことを意味する。
ここで、注目データおよび参照データの信号から直流成分(平均値を意味し、画像の明るさに相当する)を減算してもよい。相関算出によって判定したいのは、注目データと参照データの持つ構造がどの程度似ているかであるため、その明るさ(直流成分)は無関係である。また両者の相関が最も高くなるように、参照データのコントラストを調整してもよい。これは参照データの交流成分をスカラー倍することに相当する。
また、注目画素における第2のノイズ量に応じて、注目データおよび参照データの画素数を決定してもよい。例えば、第2のノイズ量が大きい注目画素に対してノイズ低減処理を行う場合は、注目データおよび参照データの画素数を少なくする。注目データおよび参照データの画素数を少なくすると、相関値が大きくなり、重みが大きくなる参照画素が増加するため、ノイズ低減処理の効果を向上することができる。第2のノイズ量が小さい注目画素に対してノイズ低減処理を行う場合は、注目データおよび参照データの画素数を多くすることでノイズ低減処理の効果を抑制することもできる。
また、注目画素における第2のノイズ量に応じて、注目データおよび参照データの画素数を決定してもよい。例えば、第2のノイズ量が大きい注目画素に対してノイズ低減処理を行う場合は、注目データおよび参照データの画素数を少なくする。注目データおよび参照データの画素数を少なくすると、相関値が大きくなり、重みが大きくなる参照画素が増加するため、ノイズ低減処理の効果を向上することができる。第2のノイズ量が小さい注目画素に対してノイズ低減処理を行う場合は、注目データおよび参照データの画素数を多くすることでノイズ低減処理の効果を抑制することもできる。
ステップS112では、コンピュータは、各参照画素に対する重みをステップS111で求めた相関値から設定する。相関が高いほど、その参照データが注目データと類似しているので、重みを大きく設定する。これにより、注目画素周辺の構造を保ったままノイズ低減処理を行うことができる。また、ステップS108で算出した第2のノイズ量に基づいて重みを設定する。つまり、第2のノイズ量が大きいほど重みを大きく設定し、ノイズ低減処理の効果を強くする。例えば、以下の(12)式のように重みを設定する。
ここでwkはk番目の参照画素に対応した重みであり、cは重み調整パラメータである。重み調整パラメータは定数としてもよいし、ユーザが調整できるようなパラメータとしてもよい。Zは重みwkの規格化因子であり、以下の(13)式を満たす。
この際、注目画素における第2のノイズ量に応じて重みを設定する。また、注目画素と参照画素における第2のノイズ量に応じて重みを設定してもよい。例えば、注目画素における第2のノイズ量に対して参照画素における第2のノイズ量が大きい場合は、ノイズが強い画素が参照され、効果の低減や弊害の要因となり得るため、重みを小さく設定する。
ただし、重みの算出方法はこれに限らない。例えばステップS107で算出した高解像度化処理による増幅量を用いて重みを算出してもよい。その場合は、ステップS102における第1のノイズ量の取得とステップS108における第2のノイズ量の取得は省略してもよい。
ステップS113では、コンピュータは、ステップS112で設定した重みを用いて参照画素の加重平均を算出し、その値で注目画素の信号値を置換する。これにより、注目画素のノイズ低減処理が完了する。加重平均信号値saveは、例えば以下の(14)式のように算出する。
ここでskは、k番目の参照データにおける参照画素の信号値である。ただし、加重平均の算出方法はこれに限らない。例えば、非線型結合を用いてもよい。
このように複数の画素の信号値を合成することで信号値が平均化され、ノイズが低減される。この加重平均信号値saveで注目画素を置換することで、該注目画素をノイズ低減処理した出力画素が生成される。注目画素が複数である場合は、(14)式を各注目画素に対して算出すればよい。またこの際、同時に他のノイズ低減処理の手法を併用してもよい。さらに、前述した置換処理の代わりに、加重平均信号値を参考にして学習型のノイズ低減処理を使用してもよい。
以上のノイズ低減処理をサブバンド画像の全画素に対して行うことで、ノイズ低減処理後のサブバンド画像(ノイズ低減画像)を生成する。また、予めノイズ低減処理を行うサブバンド画像や領域を設定しておき、そのサブバンド画像や領域に対してのみノイズ低減処理を行ってもよい。
次にステップS114において、コンピュータ(合成手段)は、ノイズ低減処理後の1または複数のノイズ低減画像を含むサブバンド画像(ノイズ低減画像以外のサブバンド画像があればそれらを含む)HH,HL,LH,LLをウェーブレット逆変換により合成する。これにより、ステップS115において、ノイズ低減処理後の出力画像(第3の画像)を取得する。
上述したノイズ低減処理は、サブバンド画像の領域(m,n)における第2のノイズ量に基づいたものであり、入力画像のシフトインバリアント領域ごとの高解像度化処理によるノイズの増幅量に対して適応化されている。したがって、本実施例におけるノイズ低減処理により、高解像度化処理によって増幅されたノイズを効果的に低減することができる。
なお、本実施例では高解像度化処理の例として画像回復処理を用いる手法について説明したが、高解像度化処理の周波数特性を取得できる場合であれば、エッジ強調や超解像等による高解像度化処理を行ってもよい。
次に、本発明の実施例2について説明する。図8には、実施例1で説明した画像処理装置を内蔵した撮像装置の構成を示している。
撮影光学系401により形成された被写体の光学像は、撮像素子402により撮像(光電変換)される。撮像素子402から出力されたアナログ電気信号は、A/D変換器403によりデジタル信号に変換されて画像処理装置としての画像処理部404に入力される。撮影光学系401および撮像素子402により撮像部(撮像手段)が構成される。
画像処理部404は、入力されたデジタル信号に対して各種画像処理を行うことにより撮影画像を生成する。
表示部405には、高解像度化処理およびノイズ低減処理を行うか否かをユーザに選択させるためのGUI(グラフィカルユーザーインターフェース)と、高解像度化処理の強さを決定させるためのGUIとが表示される。GUIにおいてユーザが高解像度化処理およびノイズ低減処理を行うことを選択し、かつ高解像度化処理の強さを決定すると、画像処理部404は撮影画像を入力画像として、実施例1で説明した高解像度化処理およびノイズ低減処理を行う。また、予めユーザが高解像度化処理およびノイズ低減処理を行うことおよび高解像度化処理の強さを決定しておき、画像処理部404が取得した撮影画像に対して自動的に高解像度化処理およびノイズ低減処理を行うようにしてもよい。
画像処理部404に高解像度化処理を行わせるために、状態検知部407は、撮影画像を生成する際における撮像装置の撮影条件の情報を得る。状態検知部407は、撮影条件の情報をシステムコントローラ410から得てもよい。また、撮像光学系401に関する撮影条件の情報については、撮像光学系401の絞り401aの動作やフォーカスレンズ401bの移動を制御する撮像光学系制御部406から得てもよい。撮影条件情報は撮影画像に付加され、該撮影画像は画像処理部404に接続されている画像記録媒体409に記録される。
光学伝達関数情報は、撮像光学系401の識別情報及び焦点距離、F値、撮影距離、画面位置等の撮影条件の組み合わせ毎に、予め記憶部408に保持されている。
画像処理部404は、高解像度化処理およびノイズ低減処理により生成された出力画像(第3の画像)を半導体メモリや光ディスク等の画像記録媒体409に出力して記録させたり、表示部405に出力して表示させたりする。以上説明した一連の動作は、CPUやMPU等によって構成されるシステムコントローラ410により制御される。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
401 撮像光学系
402 撮像素子
404 画像処理部
402 撮像素子
404 画像処理部
Claims (15)
- 撮像により生成された入力画像に対して高解像度化処理を行うことにより第1の画像を生成する高解像度化処理手段と、
前記第1の画像を互いに異なる周波数帯域成分からなる複数の第2の画像に周波数分解する周波数分解手段と、
前記複数の第2の画像のうち少なくとも1つの対象画像に対して前記高解像度化処理の特性に基づいてノイズ低減処理を行うことによりノイズ低減画像を生成するノイズ低減手段と、
前記ノイズ低減画像を含む前記複数の第2の画像を合成して第3の画像を生成する合成手段とを有し、
前記ノイズ低減手段は、
前記対象画像から対象画素を抽出し、
前記複数の第2の画像のうち前記対象画像または該対象画像以外の少なくとも1つの参照用の第2の画像から複数の参照画素を抽出し、
前記第1の画像または前記複数の第2の画像のうち前記対象画像もしくは該対象画像以外の少なくとも1つのデータ抽出用の第2の画像から、前記対象画素に対応した画素を含む部分領域である対象領域データと前記複数の参照画素に対応した画素を含む複数の部分領域である複数の参照領域データとを抽出し、
前記複数の参照領域データのそれぞれに対して、前記対象領域データとの相関値を算出し、
前記高解像度化処理の特性と前記相関値とに基づいて、前記複数の参照画素のそれぞれに対する重みを設定し、
前記複数の参照画素と前記重みとから算出した信号値を用いて前記対象画素に対応する出力画素を生成することを特徴とする画像処理装置。 - 前記ノイズ低減手段は、
前記入力画像に含まれる第1のノイズ量を取得し、
該第1のノイズ量と前記高解像度化処理の特性とに基づいて、前記複数の第2の画像に含まれる第2のノイズ量を算出し、
前記第2のノイズ量と前記相関値とに基づいて前記複数の参照画素のそれぞれに対する重みを設定することを特徴とする請求項1に記載の画像処理装置。 - 前記ノイズ低減手段は、少なくとも前記対象画素における前記第2のノイズ量と前記相関値とに基づいて前記複数の参照画素のそれぞれに対する重みを設定することを特徴とする請求項2に記載の画像処理装置。
- 前記ノイズ低減手段は、前記対象画素および前記参照画素における前記第2のノイズ量と前記相関値とに基づいて前記複数の参照画素のそれぞれに対する重みを設定することを特徴とする請求項2に記載の画像処理装置。
- 前記ノイズ低減手段は、前記対象画素における前記第2のノイズ量に基づいて前記対象領域データおよび前記参照領域データの画素数を設定することを特徴とする請求項2から4のいずれか一項に記載の画像処理装置。
- 前記ノイズ低減手段は、前記第2のノイズ量を、前記高解像度化処理の特性と前記周波数分解に用いる基底関数の周波数特性とに基づいて算出することを特徴とする請求項2から5のいずれか一項に記載の画像処理装置。
- 前記ノイズ低減手段は、前記対象画像から前記複数の参照画素を抽出することを特徴とする請求項1から6のいずれか一項に記載の画像処理装置。
- 前記ノイズ低減手段は、前記対象画像から前記対象領域データと前記参照領域データを抽出することを特徴とする請求項1から7のいずれか一項に記載の画像処理装置。
- 前記ノイズ低減手段は、前記高解像度化処理の特性に基づいて選択した抽出領域から前記参照画素を抽出することを特徴とする請求項1から8のいずれか一項に記載の画像処理装置。
- 前記周波数分解手段は、前記周波数分解を、離散ウェーブレット変換により行うことを特徴とする請求項1から9のいずれか一項に記載の画像処理装置。
- 前記高解像度化処理手段は、前記高解像度化処理を前記撮像に用いられた光学系の光学特性に基づいて行うことを特徴とする請求項1から10のいずれか一項に記載の画像処理装置。
- 前記高解像度化処理の特性は、前記入力画像のうち前記撮像に用いられる光学系の光学特性に基づいて分割される領域ごとに異なることを特徴とする請求項1から11のいずれか一項に記載の画像処理装置。
- 前記高解像度化処理の特性は、前記撮像に用いられた光学系の光学特性に基づく周波数特性であることを特徴とする請求項1から12のいずれか一項に記載の画像処理装置。
- 請求項1から13のいずれか一項に記載の画像処理装置と、
前記撮像を行う撮像手段とを有することを特徴とする撮像装置。 - コンピュータに撮像により生成された入力画像に対する画像処理を行わせるコンピュータプログラムであって、
前記画像処理は、
前記入力画像に対して高解像度化処理を行うことにより第1の画像を生成するステップと、
前記第1の画像を互いに異なる周波数帯域成分からなる複数の第2の画像に周波数分解するステップと、
前記複数の第2の画像のうち少なくとも1つの対象画像に対して前記高解像度化処理の特性に基づいてノイズ低減処理を行うことによりノイズ低減画像を生成するノイズ低減ステップと、
前記ノイズ低減画像を含む前記複数の第2の画像を合成して第3の画像を生成するステップとを有し、
前記ノイズ低減ステップにおいて、
前記対象画像から対象画素を抽出し、
前記複数の第2の画像のうち前記対象画像または該対象画像以外の少なくとも1つの参照用の第2の画像から複数の参照画素を抽出し、
前記第1の画像または前記複数の第2の画像のうち前記対象画像もしくは該対象画像以外の少なくとも1つのデータ抽出用の第2の画像から、前記対象画素に対応した画素を含む部分領域である対象領域データと前記複数の参照画素に対応した画素を含む複数の部分領域である複数の参照領域データとを抽出し、
前記複数の参照領域データのそれぞれに対して、前記対象領域データとの相関値を算出し、
前記高解像度化処理の特性と前記相関値とに基づいて、前記複数の参照画素のそれぞれに対する重みを設定し、
前記複数の参照画素と前記重みとから算出した信号値を用いて前記対象画素に対応する出力画素を生成することを特徴とする画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016011129A JP2017130168A (ja) | 2016-01-22 | 2016-01-22 | 画像処理装置、撮像装置および画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016011129A JP2017130168A (ja) | 2016-01-22 | 2016-01-22 | 画像処理装置、撮像装置および画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017130168A true JP2017130168A (ja) | 2017-07-27 |
Family
ID=59395696
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016011129A Pending JP2017130168A (ja) | 2016-01-22 | 2016-01-22 | 画像処理装置、撮像装置および画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017130168A (ja) |
-
2016
- 2016-01-22 JP JP2016011129A patent/JP2017130168A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6327922B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
CN110023810B (zh) | 光学系统像差的数字校正 | |
US8941762B2 (en) | Image processing apparatus and image pickup apparatus using the same | |
JP6351903B1 (ja) | 画像処理装置、画像処理方法、及び撮影装置 | |
JP5054248B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、撮像装置 | |
US20090180704A1 (en) | Method and system for processing low-illuminance image | |
JP2012239103A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP6711396B2 (ja) | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム | |
JP2017010092A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP5765893B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6614843B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
WO2015098243A1 (ja) | 画像処理装置、撮像装置、プログラム及び画像処理方法 | |
KR20090027060A (ko) | 영상 복원 장치 및 복원 방법 | |
JP6344934B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラムおよび記録媒体 | |
JP2012090146A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP2017130167A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6541454B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2023055848A (ja) | 画像処理方法、画像処理装置、画像処理システム、およびプログラム | |
JP5115297B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
CN112241670B (zh) | 图像处理方法及装置 | |
JP2017130168A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP2016119532A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6559011B2 (ja) | 画像処理装置、および画像処理方法 | |
JP6468791B2 (ja) | 画像処理装置、撮像装置、画像処理システム、画像処理方法および画像処理プログラム | |
JP2010213175A (ja) | 画像処理装置及び撮像装置 |