JP6625165B2 - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP6625165B2
JP6625165B2 JP2018123240A JP2018123240A JP6625165B2 JP 6625165 B2 JP6625165 B2 JP 6625165B2 JP 2018123240 A JP2018123240 A JP 2018123240A JP 2018123240 A JP2018123240 A JP 2018123240A JP 6625165 B2 JP6625165 B2 JP 6625165B2
Authority
JP
Japan
Prior art keywords
pixel
weight
interest
region
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018123240A
Other languages
English (en)
Other versions
JP2018166331A (ja
JP2018166331A5 (ja
Inventor
和浩 矢幡
和浩 矢幡
良隆 佐々木
良隆 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of JP2018166331A publication Critical patent/JP2018166331A/ja
Publication of JP2018166331A5 publication Critical patent/JP2018166331A5/ja
Application granted granted Critical
Publication of JP6625165B2 publication Critical patent/JP6625165B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)

Description

本発明は、撮像した画像データのノイズを低減する画像処理装置、画像処理方法、およびプログラムに関する。
より暗いシーン、あるいはより速いものを撮像するために、カメラを従来よりもさらに高感度にする事が望まれている。しかしながら、カメラの感度を上げるとノイズが増えるため、ノイズをより強く低減させるノイズ低減処理が必要となる。単純なノイズ低減処理を施すと解像感が低下するため、エッジやテクスチャを保存しつつノイズを低減する技術が必要とされている。そのようなエッジを保存するノイズ低減技術の一般的な手法は、ノイズを低減しようとしている着目画素とその周辺の参照画素との類似度を求め、その類似度に応じて重みを決定して重み付き平均を計算してノイズを低減するものである。たとえばバイラテラルフィルタと呼ばれる技術は着目画素と参照画素との画素値の差、および着目画素と参照画素との画像上での距離に基づいて算出される類似度に応じて重みが決定される(非特許文献1)。また、さらに精度の高いノイズ低減処理とされているnon local means法と呼ばれる技術では、着目画素と参照画素との類似度の計算にブロックマッチングが用いられている(非特許文献2)。
"Bilateral Filtering for Gray and Color Images", Proc. IEEE Int. Conf. on Computer Vision, 836-846, (1998) "A non local algorithm for image denoising" IEEE Computer Vision and Pattern Recognition 2005, Vol. 2, 60−65, (2005)
しかしながらnon local means法において、参照画素として着目画素と同じ領域が設定された場合にブロックが完全に一致してしまう事に起因し、ノイズ低減効果が十分でないという課題がある。
画像に対してノイズ低減処理をする画像処理装置であって、前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定手段と、前記参照画素の画素値と前記参照画素の重みとを用いた重み付き演算を実行することにより、前記着目画素のノイズ低減処理した画素値を導出する重み付き平均手段とを有し、前記決定手段は、前記着目画素を参照画素とせずに前記着目画素以外の画素を参照画素として前記参照画素の重みを決定する、または、前記決定手段は、前記着目画素を参照画素の1つとして、前記決定手段が決定し得る重みにおいて前記着目画素の重みが唯一の最大値にはならないように、前記参照画素の重み決定することを特徴とする画像処理装置。
本発明により、参照画素が着目画素に一致する場合の類似度と重みとを適切に調節する事が可能となり、より良好なノイズ低減画像を得る事ができる。
画像処理装置の構成を示すブロック図である。 着目画素、着目領域、参照画素、参照領域の関係を説明する図である。 着目領域と参照領域の差分二乗和をノイズ分散の2倍で割った値が従う確率分布の例を示す図である。 実施例1の画像処理装置のブロック図である。 実施例1における処理の流れを示すフローチャートである。 実施例2で使用する類似度を重みに変換する関数の例である。 実施例2の画像処理装置のブロック図である。 実施例2における処理の流れを示すフローチャート図である。 実施例3の画像処理装置のブロック図である。 実施例3における処理の流れを示すフローチャート図である。 実施例4の画像処理装置のブロック図である。 実施例4における処理の流れを示すフローチャート図である。
以下、図面を参照して発明を実施するための形態について説明する。なお、以下の実施例において示す構成は一例にすぎず、本発明は図示された構成に限定されるものではない。
本実施例における画像処理装置の構成について、図1を参照して説明する。
図1において、画像処理装置はCPU101、RAM102、HDD103、汎用インターフェース(I/F)104、モニタ108、メインバス109を備える。汎用I/Fはカメラなどの撮像装置105や、マウス、キーボードなどの入力装置106、メモリーカードなどの外部メモリ107をメインバス109に接続する。
以下では、CPU101がHDD103に格納された各種ソフトウェア(コンピュータプログラム)を動作させることで実現する各種処理について述べる。
まず、CPU101はHDD103に格納されている画像処理アプリケーションを起動し、RAM102に展開するとともに、モニタ108にユーザインターフェース(UI)を表示する。続いて、HDD103や外部メモリ107に格納されている各種データ、撮像装置105で撮像された画像データ、入力装置106からの指示などがRAM102に転送される。さらに、画像処理アプリケーション内の処理に従って、RAM102に格納されているデータはCPU101からの指令に基づき各種演算を行う。演算結果はモニタ108に表示したり、HDD103、外部メモリ107に格納したりする。
上記の構成に於いて、CPU101からの指令に基づき、画像処理アプリケーションにノイズ低減の対象となる画像データを入力し、ノイズ低減処理を行う処理の詳細について説明する。まず、従来技術であるnon local means法の処理について説明する。その後、本実施例において注目する、参照画素が着目画素と一致する場合の処理における問題について述べる。そしてその問題を解決する手法の説明を行う。
<Non Local means法の説明>
撮像で得られる画像データは、ノイズのない本来の値であるシグナル成分にノイズ成分が加わったものである。理想的なノイズ低減処理は、シグナル成分が同じである画素の画素値の平均を計算する事である。これによりシグナル成分はそのままに、ノイズ成分の標準偏差が低下してノイズ低減された画像データが得られる。ただし、撮像で得られる画像データにはノイズがあるために本来のシグナル成分が同じである画素がどれであるかは正確には分かり得ない。しかしながら、何らかの類似度を基に尤もらしい画素を選択して平均するか、又は平均の計算に類似度に応じた重みを持たせる事で、シグナル成分が同じである画素の画素値の平均を計算することに近い処理を行うことができる。それゆえ重み付き平均を計算する処理(重み付き平均処理)は、画像処理におけるノイズ低減処理の一般形となっている。以下、ノイズ低減をしようと着目している画素を着目画素とよび、平均計算に用いようとしている複数の画素のそれぞれを参照画素とよぶ。このとき、重み付き平均の式は以下のようになる。
Figure 0006625165
ここで、Nrは参照画素数である。左辺のIi,newはi番目の着目画素のノイズ低減処理後の画素値である。Σは複数ある参照画素を識別するインデックスjについて和を取ることを意味し、Ijはj番目の参照画素の画素値、wijはi番目の着目画素に対するj番目の参照画素の重みである。分母は重みの和が1となるように規格化を行うものである。Non−localmeans法では、着目画素と参照画素との類似度の計算にブロックマッチングを取り入れている。すなわち、図2に示すように、まず着目画素の周辺の領域を着目領域と定義し、同様に各参照画素の周辺の領域を参照領域と定義する。着目領域は着目画素群と、参照領域は参照画素群とも称する。この際、着目領域は必ずしも着目画素を含む必要はなく、各参照領域も必ずしも各参照画素を含む必要はない。着目領域と参照領域とは同じサイズの領域を用意する。また、着目領域と参照領域との画素配列は同じものを用意する。そして、着目領域を構成する各画素と、その各画素に対応した参照領域を構成する画素との差分二乗を計算する。着目領域を構成する全ての画素について計算した差分二乗の和を取り、差分二乗和を計算する。この差分二乗和が着目画素と参照画素との類似度の指標である。差分二乗和が0に近いほど類似度が高く、逆に大きくなると類似度が低い。そしてこの差分二乗和を重みwijに変換する。変換式は以下のようになる。
Figure 0006625165
Iikは、着目領域を構成している画素のk番目の画素値であり、Ijkはj番目の参照領域を構成しているk番目の画素の画素値である。αkは着目領域のk番目の画素に対して決められた値を持つ定数である。Nbは着目領域を構成する画素の数(以下、着目領域画素数)である。なお、参照領域を構成する画素数も着目領域画素数と同じである。hはパラメータであり、ノイズ低減の強さを調節する役割を持つ。なお、non−localmeansという名前は、参照画素の範囲(参照画素範囲)を画像の局所領域ではなく、画像全体に設定する事からこう名付けられたものである。しかし参照画素範囲を画像の全体に設定することはノイズ低減に必須の要件ではなく、参照画素を画像の局所領域に限定してもノイズ低減効果は得られる。また、ノイズ低減処理後の値に着目画素自身の値を反映させる事はごく自然な事であるから、参照画素となる範囲には着目画素が含まれている。すなわち、着目画素を含む着目画素近傍の範囲を、参照画素範囲として設定することが行なわれている。従来技術では参照画素と着目画素が一致する場合でも上式に従って処理される。
<non local means法に潜む問題>
次に、本実施例で解決しようとしているnon local means法の問題点について述べる。上述のように、non local means法は、着目領域と参照領域とのブロックマッチングを用いて着目画素と参照画素との類似度を算出する。これは、着目領域の各画素の画素値と参照領域の各画素の画素値とが同一である場合に、着目画素のシグナル成分と参照画素のシグナル成分とが同一であると仮定している。しかしながら、着目領域と、ある参照領域Aとのシグナル成分が同一である場合においても、着目領域と参照領域Aとの類似度が高くなるような状況は統計的に稀である。例えば、着目領域と参照領域Aとの各画素のシグナル成分が同一色のベタ領域である場合であっても、ノイズ成分に起因して着目領域と参照領域Aとの類似度がそれほど高くならないからである。一方、参照領域として、着目領域と同一の領域である参照領域B(すなわち、着目領域自身)を用いる場合、同一の領域を用いて各画素を比較するので着目領域と参照領域Bとの各画素は画素値が完全に一致することになる。non local means法では、類似度が高い参照領域を構成する参照画素には高い重みをつけるので、参照領域Bを構成する参照画素B’(すなわち、着目画素自身)には極めて高い重みがつく。一方、シグナル成分が同一であるはずの参照領域Aを構成する参照画素A’は、比較的類似度が高いものの、参照領域Bを構成する参照画素B’(すなわち、着目画素自身)と比較して低い重みにしかならない。結局のところ、着目画素自身の画素の重みのみが他の参照画素の重みよりも相対的に高くなってしまうので、十分なノイズ低減効果が得られない。
以下、上記の内容をより詳細に説明する。まず、着目領域における各画素と参照領域における各画素のシグナル成分が同一である時の差分二乗和の統計的振舞いについて説明する。この差分二乗和は着目領域と参照領域との類似度となり、この参照領域を構成する参照画素に対する重みに対応することになる。なお、αkの有無はこれから説明する問題の本質には関わらない。そこで以後の説明では、説明を容易にするためαkは全て1と仮定する。
まず、着目領域のシグナル成分をSik、ノイズ成分をNikとする。着目領域のk番目の画素値Iikは、シグナル成分Sikとノイズ成分のNikの和である。同様にj番目の参照領域のシグナル成分をSjk、ノイズ成分をNjkとする。着目領域のシグナル成分と参照領域のシグナル成分とが同一(Sik=Sjk)であるとき、差分二乗和Dijはノイズ成分の差分二乗和になる。
Figure 0006625165
このようなシグナル成分が同一である場合の差分二乗和Dij、言い換えれば、ノイズ成分の差分二乗和は、着目領域と参照領域とが同一領域として設定される場合には0となる。しかしながら、一般の場合、すなわち、着目領域と参照領域とが同一領域として設定されない場合においては、ノイズ成分の差分二乗和が0となる確率は稀である。以下に説明する。
ノイズの分布をガウス分布とし、標準偏差をσとすると、差分二乗和Dijをノイズ分散σ2の2倍で割った量χijは、自由度が着目領域画素数Nbであるカイ二乗分布に従う事が知られている。χ二乗分布P(x|Nb)は以下のような式で表される。
Figure 0006625165
図3に着目領域画素数Nbが1の場合と、着目領域画素数Nbが9の場合のカイ二乗分布の概観を示す。図3に示すように、着目領域画素数Nbが1の場合は、差分二乗和において確率的に最もありそうな値つまり最頻値は0であるが、着目領域画素数Nbが9の場合は最頻値は7であり、差分二乗和が0というのは稀な現象である。カイ二乗分布においては、自由度である着目領域画素数Nbが増えるほど差分二乗和が0となるのは稀な現象となる。なお、この着目領域画素数Nbが増えるほど差分二乗和が0となる事が稀になるという傾向は、ガウス分布以外のノイズ分布においてもおおよそ成り立つ。これは次元の効果であり、差分を算出する画素のペアの数が増えれば増える程、この複数の画素のペアが同時に同じ値を取る確率が画素数に対して指数関数的に小さくなるためである。つまり、シグナル成分が同一である着目画素と参照画素について、着目領域のノイズ成分と参照領域のノイズ成分とが一致することが稀であることを示している。一方で、従来のnonlocal means法では、着目画素のシグナル成分と参照画素のシグナル成分とが一致する場合には、ノイズ成分まで一致するというこのような稀な現象であるはずの現象が必ず生じていることになってしまう。このような、本来稀な現象(着目領域のノイズ成分と参照領域のノイズ成分とが一致すること)に対する重みを、確率的に発生し得る場合の重みに近づけるということが本実施例の考え方の1つである。
さて、従来のnon local means法において参照領域と着目領域とが同一領域として設定された場合、その差分二乗和Dijは必ず0となる。このため参照画素として着目画素自身を設定した場合、着目画素に対する重みは式(2)に従って常に1となる。一方、参照画素として着目画素以外を設定した場合に参照画素と着目画素のシグナル成分が同一であっても重みが1になる事は非常にまれであり、典型的な値である、重みの期待値は1よりもかなり小さい。重みの期待値Wは以下のように計算される。P(x|Nb)は、着目領域の画素がNb個のとき、かつ、シグナル成分が同一である場合の差分二乗和xの確率分布関数である。
Figure 0006625165
例えば、着目領域画素数Nbが9である時、パラメータhをノイズの標準偏差σの2倍とした場合の重みの期待値は約0.16となる。同様に、着目領域画素数Nbが25であり、パラメータhが2σである時の重みの期待値は約0.0063となる。このように、式(2)に基づいて重みを導出すると、着目画素自身の画素値に対する重みがその他の参照画素の画素値に対する重みよりも圧倒的に大きな値となる。このため、たとえシグナル成分が一様であるベタ画像にノイズが混入した画像に対して重み付き平均を計算しても、着目画素自身の画素値に対する重みが圧倒的に大きいので、ほぼ着目画素自身の値が得られることになる。結果として、着目画素について十分なノイズ低減がなされない。この効果は着目領域の画素数Nbが大きくなるほど顕著であり、着目領域が4x4のブロック(Nb=16)より大きくなると深刻になる。
一方、パラメータhがノイズの標準偏差σよりもかなり大きい場合、式(2)に基づいて算出される重みは1よりもやや小さい程度となる。例えばh=5σの場合、Nb=9とNb=25における重みの期待値はそれぞれ約0.71と0.38となる。このようにパラメータhが大きいと、Nb=9の場合に約1.4倍、Nb=25の場合に2.6倍と、参照画素の画素値が着目画素の画素値と3倍も違わないような重みにより重みづき平均される事になる。着目画素に対する重みと参照画素の重みの比がこの程度であれば重み付き平均によって着目画素のノイズが低減される。しかしながら、パラメータhを大きくするという事は、差分二乗和が大きな値でも平均値の計算に用いるということである。これはつまり、着目画素と参照画素のシグナル成分が統計的に有意に一致しない場合でも平均に用いるということであるから、結果としてぼけた画像となってしまう。ぼけの少ないノイズ低減画像を得るためには、シグナル成分が統計的に有意に一致しない参照画素に対する重みを、シグナル成分が統計的に有意に一致する参照画素に対する重みよりも十分小さな値としなければならない。
シグナル成分が統計的に有意に一致するかしないかは、χijの値で判断できる。具体的には、以下の等式を満たす値χthを求め、χijがその値χthより大きい時には、参照領域における各画素と着目領域における各画素のシグナル成分は一致しないと判断する。
Figure 0006625165
ここで、εは参照領域における各画素のシグナル成分と着目領域における各画素のシグナル成分とが一致するという帰無仮説を棄却する際の有意水準である。例えばε=0.001とする。式(6)の左辺は、参照領域における各画素のシグナル成分と着目領域における各画素のシグナル成分とが一致する場合において、χijがχthを超える確率を表す。つまり参照領域における各画素のシグナル成分と着目領域における各画素のシグナル成分とが一致する場合にχijがχthを超える確率が1000分の1以下でしかない場合に、シグナル成分が一致しないと判断している事になる。そしてノイズ低減後の画像をぼかさないためには、このようなシグナル成分が一致しないと判断されるχijあるいはそれに対応する差分二乗和Dijに対する重みは、シグナル成分が一致する場合の重みの期待値Wの少なくとも25分の1以下であるべきでる。100分の1程度以下であればより好ましい。このようなシグナル成分が一致しないと判断されるχthにおける重みの値を調べると、h=5σの場合、Nb=9とNb=25においてそれぞれ約0.11と0.015となる。これは、重みの期待値の0.71と0.38に対してそれほど小さくはないため、いくらかぼけた画像となる。
なお詳細に調べると、Nbが16以下である場合に限り、次のパラメータhが存在する。すなわち、従来のnon local means法であっても、着目画素に対する重みが重みの期待値の3倍以下で、シグナル成分が一致しない画素の重みが期待値の100分の1以下となるパラメータhが存在する。しかしながら、その条件を満たすパラメータhの範囲は狭く、画質の調整の自由度が少ない。また、Nbの値を小さくするとノイズの低周波成分が落ちにくいなど別の要因によって画質の劣化が起こるという問題もあり、Nbを自由に小さくする事は必ずしもできる訳ではない。結局、従来のnon local means法においては、ノイズの低減とエッジやテクスチャの保存を両立した画像を得ることが困難であるという問題を持っている。
<本実施例の詳細>
以上述べたように、従来のnon local means法では、参照領域として着目領域と同じ領域が設定された場合に導出される参照画素(この場合着目画素が参照画素となる)に対する重みが統計的には尤もではない。そのため、ノイズの低減とエッジの保存を両立した画像を得ることが困難である。本実施例では参照領域として着目領域と同じ領域が設定された場合、すなわち参照画素が着目画素自身となる場合の重みを相対的に従来よりも小さくする事によってこの課題を解決する。ここで相対的としたのは、重み付き平均においては、全ての重みを定数倍しても結果が変わらないという自由度をもつためである。本実施例の本質は、参照領域として着目領域と同じ領域を設定した場合に導出される着目画素に対する重みを単純に所定値より小さくする事ではなく、着目画素以外の参照画素に対応する重みとの間にある相対的な差を小さくすることである。従って、例えば着目画素以外の画素を参照画素として導出される重みを相対的に高くするように1に近い値にしてもよい。このような相対的な差を小さくすることによって着目領域と同じ領域を参照領域とした場合に導出される重みが統計的に尤もであることになる。したがって、ノイズの低減とエッジの保存を両立した画像を得ることができる。
以下、本実施例について詳細を説明する。本実施例では課題を解決するために、処理を行おうとしている参照領域が着目領域と同一であるかどうかを判定し、同一である場合と同一ではない場合とで異なる処理を行う。すなわち、参照領域を構成する参照画素が着目画素自身であるか否かの判定結果に応じて異なる処理を行う例について説明する。
具体的なノイズ低減処理方法について、図4のブロック図と図5のフローチャートを用いて説明する。図4は、画像処理装置の処理ブロックの一例を示す図である。図4に示す画像処理装置は、重み導出方法切り替え部401と、第1の重み導出部402と、第2の重み導出部403と、重み付き平均導出部404とを有する。
重み導出方法切り替え部401は、全ての参照領域の画素値と着目領域の画素値とを入力して重み導出方法を切り替える処理を行う。
第1の重み導出部402は、着目画素を除く参照画素の類似度を導出し、類似度から参照画素の重みを導出する。第1の重み導出部402は、一般的に行われるnon local means法に基づく処理部とすることができる。なお、第1の重み導出部402は、後述する第2の重み導出部403と異なる重みを導出する機能を備えていればよい。
第2の重み導出部403は、着目画素の重みを導出する。すなわち、着目画素を参照画素として処理する場合における、その参照画素(すなわち着目画素)の重みを導出する。重みの導出方法はいずれの方法であってもよいが、第1の重み導出部403とは異なる導出方法により重みが導出される必要がある。例えば、仮に着目画素を参照画素とした各画素値を第1の重み導出部402と第2の導出部403とに入力した場合、各重み導出部からはそれぞれ異なる重みが導出されることになる。つまり、着目画素を参照画素とした場合の重み導出処理を、他の参照画素とは異なる処理にしている点が実施例1の特徴である。
重み付き平均導出部404は、第1の重み導出部と第2の重み導出部とから導出される重みを用いて、式(1)に従って着目画素の画素値となる重み付き平均を導出する。
図4に示す各ブロックは、入力画像に対して画素毎に処理を行う。この処理を全ての画素に対して行うことでノイズ低減後の画像データが得られる。
図5は、図4に示す画像処理装置の処理の流れを示すフローチャートである。図5に示す処理は、CPU101がRAM102に格納されたプログラムを実行して、図4に示す各処理部として機能させることによって実現される。
まず、ステップS501において、重み導出方法切り替え部401は、着目領域の画素値と全ての参照領域の画素値と画素位置などの画素情報を取得する。ステップS502において、重み導出方法切り替え部401は、参照領域として設定された領域が着目領域と同じであるかどうかを判定する。ここでは、参照領域を構成する参照画素の位置が着目画素の位置と同じであるかどうかにより判定する。着目領域と参照領域が異なる領域である場合、処理はステップS503に遷移する。なおステップS502における判定はこの方法に限らない。参照画素として設定される画素の順序が決まっている場合には、参照画素として入力される画素の順番により着目画素を参照画素として設定したかどうかを判定することもできる。
ステップS503においては、第1の重み導出部402が、参照画素に対する類似度と重みとを導出する。
一方、着目領域と参照領域が同一の領域である場合、すなわち、参照領域を構成する参照画素が着目画素と同一である場合、処理はステップS504に遷移する。ステップS504において、第2の重み導出部403が、参照画素(すなわち、着目画素)に対する重みを導出する。着目領域と同じ領域を参照領域とする場合の重み、すなわち、ステップS504において第2の重み導出部403が導出する重みは、次のようにして決定されることが好ましい。すなわち、先述した重みの期待値か、式(4)であらわされるχijの分布の最頻値(Nb−2)や期待値(Nb)に対応する重みの値とする事が好ましい。すなわち、着目領域と同じ領域を参照領域とする場合には、その参照画素(すなわち着目画素自身)に対する重みが高くなりすぎる。そこで、着目領域と同じ領域を参照領域とする場合には、確率的に類似度として尤もな値に対応する重みの値とすることが好ましい。また、ステップS504では、第2の重み導出部403は着目画素に対する重みを0として導出してもよい。0とした場合には参照画素にスパイク状のノイズが乗っている場合に除去されるという副次的な効果を得る。
なお、着目領域と参照領域が同一の領域である場合、ステップS504において所定値を重みとするのではなく、着目画素に対する重みがある程度幅をもつような導出方法であってもよい。しかしながら、ステップS503において導出される着目画素以外の画素を参照画素とした時の参照画素に対する重みよりもステップS504において導出される着目画素の重みが大きすぎる場合は上述した問題が解決されない。着目領域と参照領域とが同一の領域である場合の参照画素(この場合着目画素)に対する重みは、少なくともシグナル成分が同じである画素を参照画素とした場合の重みの期待値の10倍以下である方がよく、好ましくは5倍程度を上限とするとよい。なぜならば、シグナル成分が同じ場合であっても、ノイズ成分に起因して着目領域の画素の値と参照領域の画素の値とが一致することは稀であるからである。つまり、本来、稀である事象であるにも関わらず生じてしまう重みを、統計的に尤もであり得る場合の重みとすることで、第1の重み導出部402と第2の重み導出部403とで導出される重みの差を縮めるような値とするとよい。すなわち、ステップS504において第2の重み導出部403は、重みを、0以上かつ前記着目領域の画素値と前記参照領域の画素値とがノイズを除いて一致する場合に期待される重みの値の5倍以下であるように導出することができる。
このように参照画素の重みの導出を、全ての参照画素に対して行う。重み導出方法切り替え部401は、ステップS505において、全ての参照画素を処理したか判定する。重み導出方法切り替え部401が全ての参照画素を処理したと判定した場合、処理はステップS506に遷移する。全ての参照画素を処理していないと判定した場合、重み導出方法切り替え部401はステップS502に戻る。
次に、ステップS506において、重み付き平均導出部404は、ステップS503およびステップS504で導出された重みに基づいて重み付き平均を導出し、出力画像の画素値を出力する。なお、全ての重みが0であると重み付き平均が定義できない。着目画素の重みを0とした場合にこの現象が起こりうるが、この場合は重み付き平均導出部404は着目画素の画素値をそのまま出力する。
最後にステップS507において、重み導出方法切り替え部401は全ての画素を処理したかどうかを判定する。処理していないと重み導出方法切り替え部401が判定した場合ステップS501に戻り、処理したと重み導出方法切り替え部401が判定した場合、終了となる。これら一連の処理によってノイズ低減処理が施された出力画像を得られる。
以上により、本実施例では参照領域が着目領域と同じ領域であるかどうかを判定して処理を切り替えることにより、着目画素自身の値に影響を受け過ぎることなく画素値を導出できる。その結果、適切にノイズ低減処理された良好な画像を得る事が可能となる。
実施例2における画像処理装置の全体の構成は実施例1の図1と同様であるため説明を省略し、以下、実施例1と異なる部分について説明する。
実施例1は参照領域として着目領域と同じ領域が設定された場合に、重みを導出する処理を切り替えることによって良好な画像を得る手法を示した。実施例2では、類似度から重みを導出する関数の形を変える事で課題を克服する手法を示す。
従来のnon local means法における問題は、参照画素として着目画素を設定する時に、類似度が厳密に0という統計的には極めて稀で起こり得ない事が、その定義から常に生じてしまう事から生じる。そこで、実施例1の式(2)で示すような類似度を重みに変換する関数形を変更し、統計的には起こり得ないような類似度の値が得られた際の重みを相対的に従来手法よりも小さくする事で問題を回避する事ができる。相対的の意味は実施例1にてすでに説明した通りである。
課題解決のためには、たとえ類似度が高く(つまり差分二乗和が小さく)ともその類似度が実際に観測される確率が統計的には非常に稀である場合には、重みは小さくなるような重み関数を用いればよい。そのような特性を持つ単純な重み関数としては、ある類似度が観測される確率そのものや、その確率に対して単調性を持った重み関数などが考えられる。ただし、類似度が観測される確率と重みとの間の単調性が破れて逆転現象があるとしても、それが多少であれば大きな問題とはならない。したがって、重みを求める関数の形はある程度柔軟に設定することができる。また、差分二乗和が0となる場合以外で、観測される確率が十分に小さい類似度に対する重みはどのような値であっても、実際に観測される事が無いために大きな問題とはならない。
本実施例において重み関数が最低限持つべき重要な性質は、参照領域として着目領域と同じ領域が設定された場合の重みが、シグナル成分が同じである場合の重みの期待値の10倍よりも小さくなっていることである。参照領域として着目領域と同じ領域が設定された場合に導出される着目画素に対する重みが、シグナル成分が同じである場合の重みの期待値の1から5倍程度であるとさらに好ましい。あるいは、参照領域として着目領域と同じ領域が設定された場合に導出される着目画素に対応する重みが、重み関数の中で唯一の最大値ではないようなものも好ましい。参照領域として着目領域と同じ領域を用いる場合の重みが上記の程度であれば、統計的には起こり得ないような類似度の値が得られた際の重みが相対的に従来手法よりも小さくなり、大きな問題とはならない。
図6Aから6Cに、本実施例で用いるχijを重みに変換する関数の例を実線にて示す。また、従来のnon local means法との比較のため、式(2)によってあらわされる重み関数をh=2.5σとh=5σの場合についてそれぞれ二点鎖線と一点鎖線で示す。さらに、シグナル成分が一致する場合のχijを着目領域画素数Nbで割った値の確率分布を点線で示す。ここでNb=25としている。横軸はχijを着目領域画素数Nbで割った値であり、縦軸は重み(左目盛)と確率分布の値(右目盛り)である。横軸の値が約2.1のところに垂直に破線を引いたが、これは、式(6)の左辺が0.001となるラインである。実施例1で説明したように、横軸の値がε=0.001より大きい場合は、着目領域の画素値と参照領域の画素値とがノイズを除いて一致するとはみなし得ない事を表す。したがって、ε=0.001より大きい値については重みが極めて低い値となるような関数となっている。
図6Aの重み関数の形状は、χijが0から増加してもしばらく0ではない定数となっており、着目領域の画素値と参照領域の画素値とがノイズを除いて一致すると判断されなくなる直前まで続く。そしてさらにχijが増加すると、重みは0ないしは、それ以前の値より十分小さな値となっている。従来のnon local means法との比較のために示した、式(2)によってあらわされる重み関数(h=2.5σとh=5σ)では、着目領域と参照領域とが一致した場合(図6Aではχijが0である時)に重みが1となる。一方、図6Aの関数では、着目領域の画素値と参照領域の画素値とがノイズを除いて一致するとはみなし得ない値まで、着目領域と参照領域とが一致した場合を含めて重みが定数となっている。したがって、着目領域と参照領域とが一致した場合に重みが極端に高くなるようなことはない。
図6Bの重み関数の形状は、χijが0である時の重みと、χij/Nbの確率分布の値が高いところでの重みとの比が従来ほど大きくない。例えば、χij/Nbの確率分布の値が高い1.0の重みを見ると、従来のh=2.5σではほぼ0であり、h=5σでは約0.2の重みに対して、図6Bの重み関数では約0.6の重みとなる。そして、着目領域の画素値と参照領域の画素値がノイズを除いて一致するとはみなし得ない領域では重みは十分小さな値となっている。
図6Cの重み関数の形状は、χijが0である時の重みをさらに抑え、χijが0である時の重みが、χij/Nbの確率分布の値が高いところ(横軸が1.0のところ)での重み以下となっている。この関数形では着目画素自身の重みがさらに低くなるため、高いノイズ低減度を得やすい。
以下、実施例2の処理に関して、図7のブロック図と図8のフローチャートを用いて説明する。図7は、実施例2に係る画像処理装置の処理ブロックの一例を示す図である。図7の画像処理装置は、類似度導出部701と、重み取得部702と、類似度重み変換テーブル記憶部703と、重み付き平均導出部704とを有する。
類似度導出部701は、全ての参照領域に含まれる画素値と着目領域に含まれる画素値とを入力し、類似度を出力する。
重み取得部702は、類似度導出部701で導出された類似度を用いて類似度重み変換テーブル記憶部703に記憶されている類似度重み変換テーブルから重みを導出する。
類似度重み変換テーブル記憶部703は、参照領域が着目領域と同じ領域である場合の重みが、参照画素のシグナル成分と着目画素のシグナル成分が同じである場合の重みの期待値の10倍よりも小さくなっている関数系に従う変換テーブルを記憶する。また、変換テーブルは、参照領域が着目領域と同じ領域である場合の重みが、参照画素のシグナル成分と着目画素のシグナル成分が同じである場合の重みの期待値の1から5倍程度であるとさらに好ましい。あるいは、参照領域が着目領域と同じ領域である場合に対応する重みが、重み関数の中で唯一の最大値ではないようなものも好ましい。類似度重み変換テーブル記憶部703は、具体的には、図6Aから図6Cにおいて示したいずれかの関数に対応する変換テーブルを記憶する。
重み付き平均導出部704は重み取得部702から出力された重みを用いて重み付き平均を導出して、出力画像の画素値を出力する。
図7に示す各ブロックは、入力画像に対して画素毎に処理を行う。この処理を全ての画素に対して行うことでノイズ低減後の画像が得られる。
図8は、図7に示す画像処理装置の処理の流れを示すフローチャートである。図8に示す処理は、CPU101がRAM102に格納されたプログラムを実行して、図7に示す各処理部として機能させることによって実現される。
ステップS801において、類似度導出部701は、着目領域における画素の画素値と全ての参照領域における画素の画素値と画素位置などの画素情報を取得する。ステップS802において、類似度導出部701は、例えば式(3)のように差分二乗和を用いて着目領域と参照領域との類似度を導出する。
次にステップS803において、重み取得部702は、類似度導出部701で導出された類似度を取得する。そして重み取得部702は、取得した類似度に対応した重みを類似度重み変換テーブル記憶部703から取得する。類似度重み変換テーブル記憶部703に記憶されている類似度重み変換テーブルは、例えば図6(a)から(c)において示した各関数で規定される変換テーブルである。重み取得部702は、例えば図6(a)から(c)において示したいずれかの関数に対応する変換テーブルから、類似度に対応する重みを取得する。このように取得される重みは、上述したように、たとえ類似度が高く(つまり差分二乗和が小さく)ともその類似度が実際に観測される確率が統計的には非常に稀である場合には、重みは小さくなるような重み関数によって導出されることになる。
ステップS804において、類似度導出部701は、未処理の参照画素があるかどうかを判定する。未処理の参照画素があると類似度導出部701が判定した場合、ステップS802に戻る。未処理の参照画素がないと類似度導出部701判定した場合、処理はステップS805に遷移する。
ステップS805において、重み付き平均導出部704は重み取得部702にて取得された重みに基づいて、式(1)に従って重み付き平均を導出し、出力画像の画素値として出力する。
最後に類似度導出部701は、全ての画素を処理したかどうかを判定し、処理していなければステップS801に戻り、処理していれば終了となる。これら一連の処理によってノイズ低減処理が施された出力画像を得られる。
以上本実施例では、参照領域が着目領域と同じ領域である場合に対応する重みが、従来よりも相対的に小さくなる類似度重み変換関数を使用する事で、良好な画像を得る事が可能となる。
実施例3における画像処理装置の全体の構成は実施例1の図1と同様であるため説明を省略し、以下、実施例1と異なる部分について説明する。
実施例1と実施例2では、参照領域の一つとして着目領域と同じ領域を設定する場合の例を示した。実施例3においては、まず参照領域の設定時に着目領域が含まれないように設定する方法について説明する。これは数学的には、実施例1で述べたように参照領域と着目領域が等しい場合に重みを0とする場合と等価である。従って参照領域の設定時に着目領域と同じ領域が設定されないようにするのみでは、周辺にシグナル成分が全く異なる参照画素しか存在しない場合、全ての参照画素に対する重みが0となり重み付き平均が計算不可能となってしまう。また、着目画素周辺においていずれの参照画素についても、着目画素との類似度が同程度に低い場合、各参照画素の重みが小さくかつ同程度となる事がある。この場合、参照領域が着目画素と類似していないにも関わらずどの参照画素も同じように足し合わされて重み付き平均が導出されることになり、着目画素のシグナル成分とはかけ離れた値が出力される(あるいはぼける)という問題が生じる。
その問題に対応するため、本実施例では着目画素を参照画素として使用するかどうかを判定する部分を設ける。この判定は、類似度が高い参照画素があったかどうかで判定する。特に、着目領域における各画素のシグナル成分と統計的にほぼ同一と判定される参照領域があったかどうかという観点で判定されることが望ましい。具体的には、差分二乗和がある一定の値よりも小さくなる参照領域が存在したかどうか、あるいは、重みがある一定の値よりも大きくなる参照画素が存在したかどうかを調べる。そして、シグナル成分が着目領域と統計的にほぼ同一と思われる参照領域があった場合には、その参照領域を用いることで適切な重み平均が導出されることができるので、着目画素を参照画素として使用しないと判定することができる。差分二乗和で判定する場合をさらに詳細に述べると、差分二乗和をノイズ分散の2倍で割った量はシグナル成分が同じ場合にはカイ二乗分布に従う。そこで、棄却確率を設定し、シグナル成分が同じである確率が棄却確率以下となる閾値を計算しておき、その閾値よりも差分二乗和が小さい場合は、シグナル成分が同一であると判定すればよい。ノイズがガウス分布でない場合や、あるいは窓関数の係数αkがkに依存する場合でも、その状況に応じてシグナル成分が同じ場合にとりうる値の範囲を事前に調べておくことで、閾値を設定できる。
以下、実施例3の処理に関して、図9のブロック図と図10のフローチャートを用いて説明する。図9は、実施例3の画像処理装置の処理ブロックの一例を示す図である。図9に示す画像処理装置は、着目領域設定部901と、参照領域設定部902と、類似度・重み導出部903と、着目画素重み補正部904と、重み付き平均導出部905とを有する。
図9に示す各処理部は、入力画像に対して画素毎に処理を行う。この処理を全ての画素に対して行うことでノイズ低減後の画像が得られる。
図10は、図9に示す画像処理装置の処理の流れを示すフローチャートである。図10に示す処理は、CPU101がRAM102に格納されたプログラムを実行して、図9に示す各処理部として機能させることによって実現される。
ステップS1001において、まず、着目領域設定部901は、着目画素とその周辺の領域を着目領域として設定する。次に、ステップS1002において、参照領域設定部902は、参照する複数の参照画素と、それら周辺の領域を複数の参照領域として設定する。このとき、参照領域設定部902は、参照領域と着目領域が同じ領域とならないように参照領域を設定する。
ステップS1003において、類似度・重み導出部903は、着目領域と全ての参照領域の画素値と画素位置とを含む画素情報を取得する。そしてステップS1004において類似度・重み導出部903は、着目領域と参照領域との類似度と重みとを導出する。ステップS1005において、類似度・重み導出部903は、未処理の参照画素があるかどうかを判定し、ステップS1004の処理を全ての参照画素に対して処理が終わるまで繰り返す。
次に、ステップS1006において、着目画素重み補正部904は参照画素の重みを調べ、シグナル成分が着目画素とほぼ同一と判定される参照領域があったかどうかを判定する。ステップS1006の判定は、上述したように、差分二乗和がある一定の値よりも小さくなる参照領域が存在したかどうか、あるいは、重みがある一定の値よりも大きくなる参照画素が存在したかどうかに基づいて行うことができる。ステップS1006の判定により、着目領域を参照領域として用いずとも重み付け平均の導出を可能にしたり、着目画素のシグナル成分とはかけ離れた値が出力されることを防止したりすることができる。着目画素重み補正部904は、ステップS1006にてシグナル成分が着目画素とほぼ同一と判定される参照領域がないと判定した場合、ステップS1007にて着目画素の重みを設定する。すなわち、ステップS1002において着目領域と参照領域とが同じ領域にならないように参照領域を設定したものの、シグナル成分が着目画素とほぼ同一と判定される参照領域がないので、着目画素を参照画素として用いる必要がある。そこで、着目画素を参照画素として用いるものの、その重みについては実施例1で説明したように設定する。例えば、ステップS1007では、着目画素重み補正部904は、着目画素の重みとして、シグナル成分が同じである場合の統計的に尤もらしい類似度に対応した値を使用すればよい。
一方、ステップS1006において参照画素の重みを調べ、シグナル成分が着目画素とほぼ同一と判定される参照領域があった場合には、着目画素を参照画素として用いずとも、そのような参照領域を用いて重み付き平均を導出できる。よって、ステップS1007を行わずにステップS1008へ処理が遷移する。
ステップS1008において、重み付き平均導出部905はステップS1004で得られた重みに基づいて重み付き平均を導出し、出力画像の画素値として導出する。ステップS1008においては、重み付き平均導出部905はステップS1007で着目画素に重みが設定されていれば重み付き平均に着目画素を取り込む。
最後にステップS1009において、画像処理装置は全ての画素を処理したかどうかを判定し、処理していなければステップS1001に戻り、処理していれば終了する。これら一連の処理によってノイズ低減処理が施された出力画像を得られる。
以上、本実施例では参照領域が着目領域と同じ領域にならないように参照領域を設定し、後に参照画素の類似度によって、着目領域と同じ領域を参照領域として使用するかどうかを判定する事で、従来よりも良好な画像を得る事が可能となる。
実施例4における画像処理装置の全体の構成は実施例1の図1と同様であるため説明を省略し、以下、実施例1と異なる部分について説明する。
実施例1では、参照領域が着目領域と同じであるかを判定し、重みの導出方法を切り替える例を示した。実施例4においては、参照領域と着目領域が同じであるかどうかに関わらず同じ重みの導出方法を用い、その後に着目領域と同じである参照領域の重みを再算出する方法について説明する。実施例4は実施例1と同じ効果が得られるが処理の順序が異なる。
着目領域と同じ領域である参照領域の重みを再算出するため、本実施例では着目画素重み再導出部を設ける。
以下、実施例4の処理に関して、図11のブロック図と図12のフローチャートを用いて説明する。図11は、実施例4の画像処理装置の処理ブロックの一例を示す図である。図11に示す画像処理装置は、着目領域・参照領域設定部1101と、類似度・重み導出部1102と、着目画素重み再導出部1103と、重み付き平均導出部1104とを有する。
図11に示す各処理部は、入力画像に対して画素毎に処理を行う。この処理を全ての画素に対して行うことでノイズ低減後の画像が得られる。
図12は、図11に示す画像処理装置の処理の流れを示すフローチャートである。図12に示す処理は、CPU101がRAM102に格納されたプログラムを実行して、図11に示す各処理部として機能させることによって実現される。
ステップS1201において、まず、着目領域・参照領域設定部1101は、着目画素とその周辺の領域を着目領域として設定し、さらに参照する複数の参照画素と、それら複数の参照画素の周辺の領域を複数の参照領域として設定する。本実施例4では、参照領域の1つが着目領域と同じ領域となっている。着目領域と同じである参照領域は、例えば値を格納するメモリを決めておくことで容易に同定できるようにしておく。
ステップS1202において、類似度・重み導出部1102は、着目領域と全ての参照領域の画素値と画素位置とを含む画素情報を取得する。ステップS1203において、類似度・重み導出部1102は、着目領域に対する各参照領域の類似度と重みとを導出する。ここで、参照領域のうちの1つは着目領域そのものである。ステップS1204において、類似度・重み導出部1102は、未処理の参照画素があるかどうかを判定し、ステップS1203の処理を全ての参照画素に対して処理が終わるまで繰り返す。
次に、ステップS1205において、着目画素重み再導出部1103は着目領域と同一の領域である参照領域の重みを再導出する。この時、実施例1から実施例3までに説明したように、他の参照画素の重みに対して極端に大きな値ではなく着目画素の重みとして相応しい値を導出する。例えば、所定の値に置換すればよい。
ステップS1206において、重み付き平均導出部1104はステップS1205までに得られた重みに基づいて重み付き平均を導出し、出力画像の画素値として導出する。
最後にステップS1207において、画像処理装置は全ての画素を処理したかどうかを判定し、処理していなければステップS1201に戻り、処理していれば終了する。これら一連の処理によってノイズ低減処理が施された出力画像を得られる。
以上、本実施例では参照領域が着目領域と同じ領域であっても同じように重みを導出した後に、着目領域と同じ領域である参照領域の参照画素に対する重みを再導出する。これにより、着目画素に対する重みが極端に重くなる問題を避ける事ができ、統計的に従来よりも良好な画像を得る事が可能となる。なお、本実施例4では重みを再導出する方法を述べたが、重み付き平均を導出する過程において同様の処理を行っても良い。すなわち、重み付き平均を導出する際に、着目画素と同一である参照画素の画素値と重みとの積を取った後に、この値を適切な値として再導出する方法であっても同様の効果が得られる。適切な値として再導出する方法として、上述した各実施例で説明したような点を考慮して例えば、所定値に置換(上書き)すればよい。
以上の各実施例で説明したように、本手法では着目領域と同じ領域を参照領域とする場合の重みを従来よりも相対的に小さくする。これにより、着目領域と同じ領域を参照領域とする場合の重みが重すぎる事に起因したノイズの低減とエッジの保存とを両立した良好な画像を得ることができる。
なお、実施例1から実施例3において参照領域と着目領域との類似度として一貫して差分二乗和を用いて説明してきたが、本発明は差分二乗和を用いて類似度を評価するものに限定されない事を述べておく。実施例1及び実施例4は特定の類似度の評価方法にはよらずに実施できる。実施例2では、着目領域と同じ領域を参照領域とする場合の類似度を事前に知る必要があるが、類似度の定義があればこれはいつでも可能であり、特定の類似度の評価方法に依存しない。実施例3では着目画素を参照画素として使用するかどうかの判定を行うために類似度ないしは重みに対する閾値が必要であるが、特定の類似度の評価方法に依存しない。差分二乗和以外の類似度の評価としては、差分絶対値和や、画素値の比の積、画素値の比の和など様々なものが考えられる。これらのいずれに対しても、シグナル成分が一致する場合にどのような値を取り得るかを理論的に計算(コンピューターによる数値計算を含む)する事が常に可能であるから、閾値を事前に決定する事が可能である。また、閾値は理論的に決定せずとも、多数の画像を処理して経験的に設定する事も可能である。よって、実施例1から実施例4のいずれも、類似度の評価に差分二乗和を用いる場合に限定されるものではない。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施例の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施の形態の機能を実現することになり、そのプログラムコード及び該プログラムコードを記憶した記憶媒体は本発明を構成することになる。

Claims (24)

  1. 画像に対してノイズ低減処理をする画像処理装置であって、
    前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定手段と、
    前記参照画素の画素値と前記参照画素の重みとを用いた重み付き演算を実行することにより、前記着目画素のノイズ低減処理した画素値を導出する重み付き平均手段とを有し、
    前記決定手段は、前記着目画素を参照画素とせずに前記着目画素以外の画素を参照画素として前記参照画素の重みを決定する、または、前記決定手段は、前記着目画素を参照画素の1つとして、前記決定手段が決定し得る重みにおいて前記着目画素の重みが唯一の最大値にはならないように、前記参照画素の重み決定する
    ことを特徴とする画像処理装置。
  2. 前記重み付き平均手段は、前記着目画素以外の画素のみを前記参照画素として前記重み付き平均を実行する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記決定手段は、前記着目画素を参照画素の1つとする場合、前記着目画素に対応する参照画素の重みを0とする
    ことを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記決定手段は、前記着目画素を参照画素の1つとする場合、前記着目画素に対応する参照画素の重みを所定値とし、
    前記着目画素以外の参照画素に対する重みは、前記類似度に基づいて決定する
    ことを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。
  5. 前記重み付き平均手段は、前記参照画素の重みが全て0である場合には、前記重み付演算を実行せず、前記着目画素の画素値を出力する
    ことを特徴とする請求項1からのいずれか一項に記載の画像処理装置。
  6. 前記決定手段は、前記着目画素を参照画素の1つとする場合に、前記着目画素に対応する参照画素の重みとして前記所定値を予め保持している
    ことを特徴とする請求項4に記載の画像処理装置。
  7. 前記決定手段は、前記着目領域と前記参照領域との間で、対応する画素の画素値の差分二乗和を前記類似度として導出する
    ことを特徴とする請求項1から6のいずれか一項に記載の画像処理装置。
  8. 前記決定手段は、前記参照画素のうち、前記着目画素以外の画素に対しては、前記類似度が高い参照領域に対応する参照画素の重みが、前記類似度が低い参照領域に対応する参照画素の重みよりも大きくなる重み決定方法により重みを決定する
    ことを特徴とする請求項1から7のいずれか一項に記載の画像処理装置。
  9. 前記決定手段は、前記着目画素を参照画素の1つとする場合に、
    前記参照画素のうち前記着目画素に対しては前記重み決定方法とは異なる方法により重みを決定する
    ことを特徴とする請求項8に記載の画像処理装置。
  10. 前記決定手段は、前記参照領域が前記着目領域に対応する領域である場合は、前記参照領域に対応する重みを決定しない
    ことを特徴とする請求項1に記載の画像処理装置。
  11. 画像に対してノイズ低減処理をする画像処理装置であって、
    前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定手段と、
    前記参照画素の画素値と前記参照画素の重みとを用いた重み付き演算を実行する重み付き平均手段とを有し、
    前記決定手段は、前記着目画素を参照画素とせず、前記着目画素以外の画素を参照画素として前記参照画素の重みを決定する
    ことを特徴とする画像処理装置。
  12. 画像に対してノイズ低減処理をする画像処理装置であって、
    前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定手段と、
    前記参照画素の画素値と前記参照画素の重みとを用いた重み付き演算を実行する重み付き平均手段とを有し、
    前記決定手段は、前記着目画素を参照画素の1つとし、前記決定手段が決定し得る重みにおいて前記着目画素の重みが唯一の最大値にはならないように、記参照画素の重み決定する
    ことを特徴とする画像処理装置。
  13. 前記決定手段は、前記参照画素のうち、前記着目画素以外の画素に対しては、前記類似度が高い参照領域に対応する参照画素の重みが、前記類似度が低い参照領域に対応する参照画素の重みよりも大きくなる重み決定方法により重みを決定する
    ことを特徴とする請求項12に記載の画像処理装置。
  14. 前記決定手段は、前記着目画素に対応する参照画素の重みを0とする
    ことを特徴とする請求項12または13に記載の画像処理装置。
  15. 前記重み付き平均手段は、前記参照画素の重みが全て0である場合には、前記重み付演算を実行せず、前記着目画素の画素値を出力する
    ことを特徴とする請求項12から14のいずれか一項に記載の画像処理装置。
  16. 画像に対してノイズ低減処理をする画像処理装置であって、
    前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定手段と、
    前記参照画素の画素値と前記参照画素の重みとを用いた重み付き演算を実行することにより、前記着目画素のノイズ低減処理した画素値を導出する重み付き平均手段とを有し、
    前記決定手段は、前記着目画素を参照画素とせずに前記着目画素の近傍にある近傍画素を参照画素として、前記類似度が高い参照領域に対応する参照画素の重みが、前記類似度が低い参照領域に対応する参照画素の重みよりも大きくなるように、前記近傍画素それぞれの重みを決定する、
    または、
    前記決定手段は、前記着目画素と前記近傍画素とを参照画素として、前記近傍画素に対しては、前記類似度が高い参照領域に対応する参照画素の重みが、前記近傍画素で前記類似度が低い参照領域に対応する参照画素の重みよりも大きくなるように、前記近傍画素それぞれの重みを設定し、前記着目画素に対しては、前記決定手段が決定し得る重みにおいて前記着目画素の重みが唯一の最大値にはならないように前記着目画素の重みを決定する
    ことを特徴とする画像処理装置。
  17. 前記決定手段は、前記着目画素を参照画素の1つとする場合、前記着目画素に対応する参照画素の重みを所定値とする
    ことを特徴とする請求項16に記載の画像処理装置。
  18. 前記所定値は、0であることを特徴とする請求項17に記載の画像処理装置。
  19. 前記重み付き平均手段は、前記参照画素の重みが全て0である場合には、前記重み付演算を実行せず、前記着目画素の画素値を出力する
    ことを特徴とする請求項16から18のいずれか一項に記載の画像処理装置。
  20. 画像に対してノイズ低減処理をする画像処理方法であって、
    前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定ステップと、
    前記参照画素の画素値と前記参照画素の重みとを用いた重み付き演算を実行することにより、前記着目画素のノイズ低減処理した画素値を導出する重み付き平均ステップと、を含み、
    前記決定ステップは、前記着目画素を参照画素とせずに前記着目画素以外の画素を参照画素として前記参照画素の重みを決定する、または、前記決定ステップは、前記着目画素を参照画素の1つとして、前記決定ステップにおいて決定し得る重みにおいて前記着目画素の重みが唯一の最大値にはならないように、前記参照画素の重みを決定する
    ことを特徴とする画像処理方法。
  21. 画像に対してノイズ低減処理をする画像処理方法であって、
    前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定ステップと、
    前記参照画素の画素値と前記参照画素の重みとを用いた重み付き演算を実行する重み付き平均ステップと、を含み、
    前記決定ステップは、前記着目画素を参照画素とせず、前記着目画素以外の画素を参照画素として前記参照画素の重みを決定する
    ことを特徴とする画像処理方法。
  22. 画像に対してノイズ低減処理をする画像処理方法であって、
    前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定ステップと、
    前記参照画素の画素値と前記参照画素の重みとを用いた重み付き演算を実行する重み付き平均ステップと、を含み、
    前記決定ステップは、前記着目画素を参照画素の1つとし、前記決定ステップにおいて決定し得る重みにおいて前記着目画素の重みが唯一の最大値にはならないように、前記参照画素の重みを決定する
    ことを特徴とする画像処理方法。
  23. 画像に対してノイズ低減処理をする画像処理方法であって、
    前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定ステップと、
    前記参照画素の画素値と前記参照画素の重みとを用いた重み付き演算を実行することにより、前記着目画素のノイズ低減処理した画素値を導出する重み付き平均ステップと、を含み、
    前記決定ステップは、前記着目画素を参照画素とせずに前記着目画素の近傍にある近傍画素を参照画素として、前記類似度が高い参照領域に対応する参照画素の重みが、前記類似度が低い参照領域に対応する参照画素の重みよりも大きくなるように、前記近傍画素それぞれの重みを決定する、
    または、
    前記決定ステップは、前記着目画素と前記近傍画素とを参照画素として、前記近傍画素に対しては、前記類似度が高い参照領域に対応する参照画素の重みが、前記近傍画素で前記類似度が低い参照領域に対応する参照画素の重みよりも大きくなるように、前記近傍画素それぞれの重みを設定し、前記着目画素に対しては、前記決定ステップにおいて決定し得る重みにおいて前記着目画素の重みが唯一の最大値にはならないように前記着目画素の重みを決定する
    ことを特徴とする画像処理方法。
  24. コンピュータを、請求項1から19のいずれか一項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2018123240A 2013-02-14 2018-06-28 画像処理装置、画像処理方法、およびプログラム Active JP6625165B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2013026870 2013-02-14
JP2013026870 2013-02-14

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014005924A Division JP6362333B2 (ja) 2013-02-14 2014-01-16 画像処理装置、画像処理方法、およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019135370A Division JP6780073B2 (ja) 2013-02-14 2019-07-23 画像処理装置、画像処理方法、およびプログラム

Publications (3)

Publication Number Publication Date
JP2018166331A JP2018166331A (ja) 2018-10-25
JP2018166331A5 JP2018166331A5 (ja) 2019-09-05
JP6625165B2 true JP6625165B2 (ja) 2019-12-25

Family

ID=63923041

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018123240A Active JP6625165B2 (ja) 2013-02-14 2018-06-28 画像処理装置、画像処理方法、およびプログラム
JP2019135370A Active JP6780073B2 (ja) 2013-02-14 2019-07-23 画像処理装置、画像処理方法、およびプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2019135370A Active JP6780073B2 (ja) 2013-02-14 2019-07-23 画像処理装置、画像処理方法、およびプログラム

Country Status (2)

Country Link
US (1) US11282173B2 (ja)
JP (2) JP6625165B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210112042A (ko) * 2020-03-04 2021-09-14 에스케이하이닉스 주식회사 이미지 센싱 장치 및 그의 동작 방법

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001189944A (ja) 1999-12-28 2001-07-10 Sony Corp 撮像装置
US7054501B1 (en) 2000-11-14 2006-05-30 Eastman Kodak Company Estimating noise for a digital image utilizing updated statistics
KR100722596B1 (ko) 2001-04-19 2007-05-28 가부시끼가이샤 도시바 화상처리방법과 화상처리장치
JP4649781B2 (ja) 2001-06-20 2011-03-16 ソニー株式会社 画像処理方法および装置
US6858010B2 (en) 2003-05-06 2005-02-22 Siemens Medical Solutions Usa, Inc. Identifying clinical markers in spatial compounding ultrasound imaging
US7822285B2 (en) * 2004-05-20 2010-10-26 Omnivision Technologies, Inc. Methods and systems for locally adaptive image processing filters
KR100721543B1 (ko) 2005-10-11 2007-05-23 (주) 넥스트칩 통계적 정보를 이용하여 노이즈를 제거하는 영상 처리 방법및 시스템
TWI320914B (en) * 2006-07-28 2010-02-21 Via Tech Inc Weight-adjusted apparatus and method thereof
JP4440297B2 (ja) 2007-03-23 2010-03-24 三菱電機株式会社 テレビジョン映像信号のノイズ低減装置およびノイズ低減方法
FR2919943B1 (fr) 2007-08-07 2010-02-26 Dxo Labs Procede de traitement d'objet numerique et systeme associe
KR100872253B1 (ko) 2007-08-23 2008-12-05 삼성전기주식회사 이미지 센서에 의해 생성된 이미지의 노이즈 제거 방법
KR101303660B1 (ko) * 2007-10-01 2013-09-04 삼성전자주식회사 잡음제거를 고려한 선명도 향상 방법 및 장치 그리고 잡음가중치 계산 방법 및 장치
KR101481551B1 (ko) 2008-06-03 2015-01-13 엘지전자 주식회사 영상 노이즈 제거 장치 및 방법
US8139650B2 (en) * 2008-08-07 2012-03-20 California Institute Of Technology Fast noise reduction in digital images and video
JP2010153969A (ja) 2008-12-24 2010-07-08 Sanyo Electric Co Ltd 撮像装置
JP5348145B2 (ja) * 2009-01-28 2013-11-20 富士通株式会社 画像処理装置および画像処理プログラム
EP2424438A4 (en) 2009-04-30 2013-04-03 Univ California SYSTEM AND METHODS FOR RAPID IMPLEMENTATION OF EQUAL TILING TOMOGRAPHY
TWI399079B (zh) 2009-09-18 2013-06-11 Altek Corp Noise Suppression Method for Digital Image
TWI393073B (zh) * 2009-09-21 2013-04-11 Pixart Imaging Inc 影像雜訊濾除方法
TWI390466B (zh) * 2009-09-21 2013-03-21 Pixart Imaging Inc 影像雜訊濾除方法
JP5289288B2 (ja) 2009-11-27 2013-09-11 三菱電機株式会社 ノイズ除去装置及びノイズ除去方法
KR101674078B1 (ko) 2009-12-16 2016-11-08 삼성전자 주식회사 블록 기반의 영상 잡음 제거 방법 및 장치
US8885961B2 (en) * 2010-09-07 2014-11-11 Siemens Aktiengesellschaft System and method for image denoising optimizing object curvature
JP5517883B2 (ja) 2010-10-20 2014-06-11 キヤノン株式会社 画像処理装置及び画像処理方法
US8928813B2 (en) 2010-10-28 2015-01-06 Microsoft Corporation Methods and apparatus for reducing structured noise in video
US20120281923A1 (en) 2011-05-02 2012-11-08 Yeda Research And Development Co., Ltd. Device, system, and method of image processing utilizing non-uniform image patch recurrence
WO2012167711A1 (en) 2011-06-10 2012-12-13 Mediatek Inc. Method and apparatus of scalable video coding
WO2013148142A1 (en) * 2012-03-29 2013-10-03 Nikon Corporation Algorithm for minimizing latent sharp image cost function and point spread function cost function with a spatial mask in a regularization term
KR101910870B1 (ko) 2012-06-29 2018-10-24 삼성전자 주식회사 잡음 제거 장치, 시스템 및 방법
CN103686194B (zh) 2012-09-05 2017-05-24 北京大学 基于非局部均值的视频去噪方法和装置
JP6253331B2 (ja) * 2012-10-25 2017-12-27 キヤノン株式会社 画像処理装置及び画像処理方法
JP6362333B2 (ja) 2013-02-14 2018-07-25 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP6161326B2 (ja) 2013-02-27 2017-07-12 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US9576346B2 (en) * 2015-03-24 2017-02-21 Intel Corporation Non-local means image denoising with an adaptive directional spatial filter

Also Published As

Publication number Publication date
US20200074597A1 (en) 2020-03-05
JP2019176532A (ja) 2019-10-10
JP6780073B2 (ja) 2020-11-04
JP2018166331A (ja) 2018-10-25
US11282173B2 (en) 2022-03-22

Similar Documents

Publication Publication Date Title
JP6362333B2 (ja) 画像処理装置、画像処理方法、およびプログラム
Lou et al. A weighted difference of anisotropic and isotropic total variation model for image processing
Hum et al. Multiobjectives bihistogram equalization for image contrast enhancement
Rousselle et al. Robust denoising using feature and color information
Nguyen et al. Bounded self-weights estimation method for non-local means image denoising using minimax estimators
WO2021164232A1 (zh) 用户识别方法、装置、设备及存储介质
US8908989B2 (en) Recursive conditional means image denoising
Zhang et al. Decision-based non-local means filter for removing impulse noise from digital images
JP2021170284A (ja) 情報処理装置及びプログラム
JP6625165B2 (ja) 画像処理装置、画像処理方法、およびプログラム
Pooja et al. Adaptive sparsity through hybrid regularization for effective image deblurring
Pang et al. A fast NL-means method in image denoising based on the similarity of spatially sampled pixels
Nair et al. An efficient adaptive weighted switching median filter for removing high density impulse noise
Zhu et al. A random-valued impulse noise removal algorithm via just noticeable difference threshold detector and weighted variation method
Peng et al. Detail enhancement for infrared images based on propagated image filter
Marcos-Morales et al. Evaluating unsupervised denoising requires unsupervised metrics
KR20190067551A (ko) 통계적 적응식 추정함수 모델링 기법을 통한 진단 의료 영상의 대비 향상 방법
CN114764839A (zh) 动态视频生成方法、装置、可读存储介质及终端设备
CN113761249A (zh) 一种确定图片类型的方法和装置
Storozhilova et al. 2.5 D extension of neighborhood filters for noise reduction in 3D medical CT images
CN111369425A (zh) 图像处理方法、装置、电子设备和计算机可读介质
CN110473161A (zh) 创建图像链的方法
KR102485995B1 (ko) 공간 적응적 비정규화 기반 초고해상도 영상 생성 방법 및 장치
CN113706428B (zh) 一种图像生成方法及装置
JP2016110341A (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190723

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191126

R151 Written notification of patent or utility model registration

Ref document number: 6625165

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151