JP2021128497A - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP2021128497A
JP2021128497A JP2020022179A JP2020022179A JP2021128497A JP 2021128497 A JP2021128497 A JP 2021128497A JP 2020022179 A JP2020022179 A JP 2020022179A JP 2020022179 A JP2020022179 A JP 2020022179A JP 2021128497 A JP2021128497 A JP 2021128497A
Authority
JP
Japan
Prior art keywords
correction
covariance matrix
patches
image processing
abnormal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020022179A
Other languages
English (en)
Inventor
陽一 滝川
Yoichi Takigawa
陽一 滝川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020022179A priority Critical patent/JP2021128497A/ja
Priority to US17/168,033 priority patent/US11710217B2/en
Publication of JP2021128497A publication Critical patent/JP2021128497A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/30Noise filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)

Abstract

【課題】 本発明は、ノイズ低減処理後の出力画像の破綻を抑制することを目的とする。【解決手段】 本発明は、共分散行列が異常であるか否かを判定する判定手段と、前記判定手段で前記共分散行列が異常でないと判定された場合、前記共分散行列を用いて、前記複数のパッチに含まれる画素に対して第1の補正を行い、第1の補正画素を取得する第1の補正手段と、前記判定手段で前記共分散行列が異常であると判定された場合、前記複数のパッチに含まれる画素に対して前記第1の補正と異なる第2の補正を行い、第2の補正画素を取得する第2の補正手段と、を有することを特徴とする。【選択図】 図2

Description

本発明は、画像のノイズ低減を行う画像処理装置、画像処理方法およびプログラムに関する。
従来、カメラで撮影した画像に含まれるノイズを抑制するため、画像中の複数画素からなるパッチに着目し、パッチベースでノイズを低減する技術が知られている。非特許文献1に記載された処理は、撮影画像中の複数のパッチからなるパッチ集合を選び出してその平均と共分散行列で表されるパッチの確率モデルを生成し、パッチ集合を構成するパッチ各々に対して最大事後確率法に基づいたノイズ低減処理を行う。そして、ノイズ低減処理されたパッチを用い出力画像を生成する。この時、前記共分散行列の逆行列である逆共分散行列を算出し、これに基づいてノイズ低減処理後の画素値を決定する。
Implementation of the "Non−Local Bayes" (NL−Bayes) Image Denoising Algorith。 Image Processing On Line, 3 (2013), pp. 1−42.
しかしながら、従来の技術ではノイズ低減処理後のパッチ内の画素の値が異常値になる場合があり、結果として出力画像が破綻する可能性があった。
本発明は、上記課題を鑑みてなされたものであり、ノイズ低減処理後の出力画像の破綻を抑制することを目的とする。
本発明は、画像のノイズを低減する画像処理装置であって、前記画像中に複数のパッチを設定する設定手段と、前記複数のパッチに基づいて、共分散行列を算出する算出手段と、前記共分散行列が異常であるか否かを判定する判定手段と、前記判定手段で前記共分散行列が異常でないと判定された場合、前記共分散行列を用いて、前記複数のパッチに含まれる画素に対して第1の補正を行い、第1の補正画素を取得する第1の補正手段と、前記判定手段で前記共分散行列が異常であると判定された場合、前記複数のパッチに含まれる画素に対して前記第1の補正と異なる第2の補正を行い、第2の補正画素を取得する第2の補正手段と、前記第1の補正画素もしくは前記第2の補正画素で出力画像を生成する生成手段と、を有することを特徴とする。
本発明によれば、ノイズ低減処理後の出力画像の破綻を抑制することが出来る。
実施形態1のハードウェア構成 実施形態1の画像処理のブロック図 実施形態1の第1、第2の補正処理部が持つ機能をより詳細に示したブロック図 実施形態1の画像処理のフローチャート 実施形態1の第1、第2の補正処理のフローチャート 実施形態2の画像処理のブロック図 実施形態2の第1、第2の補正処理部が持つ機能をより詳細に示したブロック図 実施形態2の画像処理のフローチャート 実施形態2の第1、第2の補正処理のフローチャート
(実施形態1)
本実施形態では、パッチベースのノイズ低減処理において共分散行列の異常を判定して、異常な場合に出力画像の破綻を回避する方法を説明する。
図1は、本実施形態に係るハードウェア構成を示すブロック図である。図1において画像処理装置100は、CPU101、RAM102、記憶部103、汎用インタフェース104、表示部105で構成され、これらがメインバス106を介して相互に接続されている。そして、汎用インタフェース104を介して、外部メモリ110と、マウスやキーボードなどの入力装置120とがメインバス106に接続されている。記憶部103は、HDDやSSDなどの記憶デバイスである。表示部105は液晶ディスプレイや有機ELディスプレイなどである。
以下では、CPU101が記憶部103に格納された各種ソフトウェア(コンピュータプログラム)を動作させることで実現する各種処理について述べる。まず、CPU101は記憶部103に格納されている画像処理プログラムを起動し、RAM102に展開するとともに、表示部105にユーザインタフェース画面(以下、UI画面)を表示する。続いて、入力装置120を通じたユーザからの指示に従い、外部メモリ110に格納されている入力画像データをRAM102に読み込む。さらに、ユーザからの指示に従って、RAM102に格納されている入力画像データに対して、ノイズ低減処理を行う。ノイズ低減処理後の画像データは再びRAM102に格納される。RAM102に格納されたノイズ低減処理後の画像データは、ユーザからの指示に応じて一連の処理が施された後、表示部105への表示や外部メモリ110への格納といった所定の出力に供される。なお、ノイズ低減処理の対象となる入力画像データは、外部メモリ110の他、記憶部103に格納されていてもよく、また、不図示のネットワークを介してサーバからRAM102に読み込んでもよい。
ここで、パッチベースのノイズ低減処理の概要について説明する。入力画像データの一部を切りだした部分画像をパッチと呼ぶ。着目パッチ近傍の所定の参照領域に存在する複数のパッチを参照パッチとし、着目パッチに対応したノイズ低減処理をする際に参照する。パッチベースのノイズ低減処理では、参照パッチのうち、着目パッチの画素値分布と類似したパッチを類似パッチとして検出し、それらをパッチ集合とする。なお、複数の参照パッチの中には着目パッチ自身が含まれていても構わない。パッチ集合に基づいて、各類似パッチに対してノイズ低減処理を実行する。ノイズを低減した類似パッチを集約(Aggregation)することにより、入力画像データに対してノイズ低減処理した画像を生成する。
図2は、本実施形態にかかる画像処理のブロック図である。画像入力部201は、入力画像データを取得する。パッチ集約部202は、複数の補正された類似パッチを集約(Aggregation)して、ノイズ低減された出力画像を生成する。着目パッチ設定部203は、入力画像データから所定の形状の部分画像を切り出し着目パッチとする。本実施形態では、所定の形状を6画素×6画素の正方形とする。類似パッチ検出部204は、着目パッチ近傍の所定の参照領域に存在する複数のパッチを参照パッチとして設定し、参照パッチの内で着目パッチに類似するものを類似パッチとして検出する。各参照パッチは着目パッチと同一の形状である。基準パッチ算出部205は、複数の類似パッチに基づいて基準パッチを算出する。ノイズ量パッチ算出部206は、複数の類似パッチに基づいてノイズ量パッチを算出する。共分散行列算出部207は、複数の類似パッチに基づいて共分散行列を算出する。異常判定部208は、共分散行列が異常であるか否(正常である)かを判定する。第1の補正処理部209は、共分散行列が正常であると判定された場合に、類似パッチの補正を行う。第2の補正処理部210は、共分散行列が異常であると判定された場合に、類似パッチの補正を行う。
共分散行列の異常を判定する異常判定部を持ち、判定結果によって処理を異ならせる点が本発明の特徴である。本実施形態では、2つの異なる補正処理部を持ち、異常判定部の判定結果に応じて2つの補正処理部による補正結果を選択して用いる構成を説明する。より具体的には、共分散行列が正常であると判定された場合には第1の補正処理部209が通常の「パッチベースのノイズ低減処理」を行う。一方で、共分散行列が異常であると判定された場合には第2の補正処理部210が共分散行列の修正を行った後に通常の「パッチベースのノイズ低減処理」を行う構成を説明する。
図3は、本実施形態にかかる第1の補正処理部209と第2の補正処理部210が持つ機能をより詳細に示した画像処理のブロック図である。第1の逆共分散行列算出部312は、共分散行列の逆行列である逆共分散行列を算出する。第1の補正行列算出部313は、逆共分散行列とノイズ量パッチとに基づいて補正行列を算出する。第1のパッチ補正部314は補正行列と基準パッチとに基づいて複数の類似パッチそれぞれを補正する。共分散行列修正部321は、異常判定部208の判定結果に基づいて共分散行列を修正する。第2の逆共分散行列算出部322は、共分散行列の逆行列である逆共分散行列を算出する。第2の補正行列算出部323は、逆共分散行列とノイズ量パッチとに基づいて補正行列を算出する。第2のパッチ補正部324は補正行列と基準パッチとに基づいて複数の類似パッチそれぞれを補正する。
図4は、本実施形態にかかる画像処理のフローチャートである。
ステップS401で画像入力部201は、入力画像データを取得する。
ステップS402でパッチ集約部202は、集約用画像データをゼロで初期化する。集約用画像データは分母画像データと分子画像データからなり、いずれも入力画像データと同じ画素数である。
ステップS403で着目パッチ設定部203は、着目パッチをひとつ設定する。一般にひとつの入力画像データに対して複数のパッチを着目パッチとして設定することができる。本ステップ以降の処理は、設定する着目パッチの位置を変えて繰り返し実行される。その際、すべてのパッチを1回ずつ着目パッチとして設定するように制御してもよいし、一部のパッチのみを着目パッチとして設定するように制御してもよい。本実施形態では、左上からラスタ順に全てのパッチを着目パッチとして設定する。前述の通り、本実施形態では入力画像データから6画素×6画素の正方形の部分画像を切り出し着目パッチとする。つまり着目パッチは36画素からなる。以下では、着目パッチを、36画素を縦に並べた列ベクトルTで表す。一般に着目パッチがM画素からなる場合、着目パッチを、M画素を縦に並べた列ベクトルTで表す。
ステップS404で類似パッチ検出部204は、類似パッチを検出する。
まず、着目パッチT近傍の所定の参照領域に存在する複数のパッチを参照パッチとして設定する。各参照パッチの形状は、着目パッチTの形状と一致する。以下では、i番目の参照パッチを、M画素を縦に並べた列ベクトルR_iで表す。
次に、複数の参照パッチそれぞれについて、着目パッチTとの類似度を算出する。類似度は、参照パッチと着目パッチTの、各画素の差分二乗和(SSD)により算出される。具体的には、i番目の参照パッチR_iの類似度SSD_iは以下の式(1)で算出される。
Figure 2021128497
ここで、ベクトルTのj番目の成分(画素値)をT(j)で表している。この算出方法から明らかなように、類似度SSD_iの値が小さいほど、参照パッチR_iが着目パッチTに類似していることを意味する。さらに、複数の参照パッチの内から、類似度に基づいて一部のパッチを類似パッチとして検出する。本実施形態では、予め定める閾値より類似度が小さいパッチを類似パッチとして検出する。ここで検出された類似パッチの個数をNとし、i番目の類似パッチをP_iで表す。
ステップS405で基準パッチ算出部205は、複数の類似パッチに基づいて基準パッチQを以下の式(2)で算出する。
Figure 2021128497
ステップS406でノイズ量パッチ算出部206は、着目パッチTを用いてノイズ量パッチVを以下の式(3)で算出する。
Figure 2021128497
ここでkは定数、V_0は基準パッチQと同じ形状のベクトルであり、いずれも予め定めて保存しておく。
ステップS407で共分散行列算出部207は、複数の類似パッチに基づいて共分散行列を算出する。ステップS405で算出した基準パッチQを用いて、共分散行列Cを以下の式(4)で算出する。
Figure 2021128497
ここでは、パッチを表すベクトルを行列とみなし、行列としての演算を行う。tは行列の転置である。
ステップS408で異常判定部208は、共分散行列Cが異常であるか否かを判定する。まず、共分散行列Cの対角成分それぞれについて予め定めた閾値Threと比較し、閾値よりも大きい場合に当該対角成分が正常であると判定し、そうでない場合に当該対角成分が異常であると判定する。異常判定部208はこの判定処理を行う対角成分判定部(不図示)を有する。次に、全ての対角成分が正常であると判定された場合に共分散行列Cが正常であると判定し、そうでない場合に共分散行列Cが異常であると判定する。異常判定部208はこの判定処理を行う行列判定部(不図示)を有する。
共分散行列Cが異常であると判定された場合、ステップS410で第2の補正処理部210は、第2の補正処理を行う。図5(b)は第2の補正処理のフローチャートである。
ステップS521で、共分散行列修正部321は共分散行列Cを修正する。共分散行列Cを修正する処理の詳細は後述する。
ステップS522で、第2の逆共分散行列算出部322は、ステップS521で修正された共分散行列Cの逆行列である逆共分散行列C^−1を算出する。
ステップS523で、第2の補正行列算出部323は、補正行列Hを以下の式(5)で算出する。
Figure 2021128497
ここでdiag(V)は主対角上にベクトルVの要素をもつ正方対角行列を表す。
ステップS524で、第2のパッチ補正部324は、複数の類似パッチそれぞれP_iに対応する補正画素を含む補正済みパッチO_iを以下の式(6)で算出する。
Figure 2021128497
共分散行列Cが正常であると判定された場合、ステップS409で第1の補正処理部209は、第1の補正処理を行う。図5(a)は第1の補正処理のフローチャートである。
この処理は、共分散行列Cを修正するか否かの違いを除いて、第2の補正処理と同一であるため説明を省略する。
ステップS411でパッチ集約部202は、複数の補正済みパッチに基づき集約用画像データを編集する。前述の通り、集約用画像データは分母画像データと分子画像データからなる。複数の補正済みパッチO_iそれぞれについて、全画素の値を分子用画像データの対応する位置に加算する。この位置は、入力画像データにおいて各画素が存在した位置である。また、分母用画像における同じ位置に1を加算する。
ステップS412において全ての着目パッチが処理済みであるか否かを判定する。全ての着目パッチが処理済みである場合はS4110に進む。そうでない場合はS4030に進む。
ステップS413でパッチ集約部202は、集約用画像データに基づいて出力画像データを生成する。分子用画像データの各画素値を、分母用画像データの対応する画素値で除算して出力画像データとする。
共分散行列修正部321が共分散行列Cを修正する処理の一例を詳細に説明する。共分散行列Cのj番目の対角成分をd_j、その修正後をe_jと記述する。ステップS408でd_jが異常であると判定されていた場合は、修正後のe_jを以下の式(7)で算出する。
Figure 2021128497
ここでThreはS408で用いた閾値と同一である。rは定数であり、予め定めて保存しておく。ステップS408でd_jが正常であると判定されていた場合は、修正後のe_jを以下の式(8)で算出する。
Figure 2021128497
これは、d_jが正常である場合には修正前後で値を変化させない(修正しない)事を意味する。
以上が本実施形態の画像処理のフローである。
以上の処理により、共分散行列の異常が生じた場合にも当該異常を修正し、好適な出力画像を得ることができる。
なお、本実施形態の処理は、各種の形式の画像データに適用できる。例えばモノクロ画像に対して適用できるし、複数の色成分からなるカラー画像にも適用できるし、Bayer配列の画像にも適用できる。
また、参照パッチと着目パッチTの類似度を、各画素の差分二乗和(SSD)により算出したが、他の方法で算出してもよい。例えば、各画素の差分絶対値和(SAD)で算出してもよいし、各画素の差分の絶対値の最大値、最小値、平均値、中央値などを用いてもよい。
また、全ての対角成分が正常であると判定された場合に共分散行列Cが正常であると判定したが、これに限らない。例えば、正常であると判定された対角成分の数が所定の数以下の場合に共分散行列Cが正常であると判定するようにしてもよい。
また、ステップS408で共分散行列Cの対角成分が異常であるか否かを判定する際に用いた閾値Threは、常に同一の値を用いてもよいし、各種パラメータに応じて異ならせてもよい。また、複数の類似パッチに含まれる画素の平均値と、中央値と、最頻値との少なくともいずれか一つに基づいて算出してもよい。共分散行列Cのj番目の対角成分を判定する際に用いる閾値Thre_jを、基準パッチQのj番目の成分Q(j)に応じて異ならせてもよい。この場合、例えばQ(j)が大きいほどThre_jを大きくするなどの方法がある。
また、共分散行列修正部321が共分散行列Cを修正する処理において、修正後のe_jは式(7)で算出したが、他の方法で決定してもよい。例えば他の式で算出してもよいし、ルックアップテーブルを用いて決定してもよい。その際、修正後のe_jは修正前のd_jに対して(広義の)単調減少であり、e_j=Threにおいて式(8)と連続となるように決定することが望ましい。
また、上記の式(7)による修正に加えて、非対角成分の修正を行ってもよい。例えば、全ての非対角成分をゼロに置き換えてもよいし、ステップS408で異常であると判定されていたd_jと直交する非対角成分のみをゼロに置き換えてもよい。
また、基準パッチを、複数の類似パッチの平均で算出したが、これに限らない。例えば、基準パッチの各画素の値を、複数の類似パッチの対応する画素の中央値や最小値などで定めても良い。
共分散行列の異常を判定する異常判定部を持ち、共分散行列が正常であると判定された場合に通常の「パッチベースのノイズ低減処理」を行う。一方で、共分散行列が異常であると判定された場合には通常の「パッチベースのノイズ低減処理」とは異なる補正処理を行うことが本実施形態の主眼である。この補正処理は、本実施形態で説明したものに限らない。例えば、補正済みパッチを、補正対象の類似パッチ、基準パッチ、あるいはそれらの線形和として算出するなどの方法がある。
(実施形態2)
本実施形態では、実施形態1の処理に加えて、共分散行列が異常であるか否かの判定処理をより高精度に行うために、共分散行列を調整する処理を行う方法を説明する。実施形態1と共通の部分は説明を省略する。
入力画像データに含まれるノイズ量は、対応する画素位置の画素値に依存して異なる(場合がある)。本実施形態では、ノイズ量パッチを用いて予め共分散行列を調整した後に異常であるか否かを判定する処理を行うことで、ノイズの輝度依存性によらず同一処理でより精度良く判定する例を示す。なおこの調整は、判定処理後の適当なタイミングでキャンセルすることが望ましい。
図6は、本実施形態にかかる画像処理のブロック図である。図2で示した実施形態1の構成と比較して、調整部601が追加されている。調整部601は、ノイズ量パッチに基づいて共分散行列を調整する。
図7は、本実施形態にかかる第1の補正処理部209と第2の補正処理部210が持つ機能をより詳細に示した画像処理のブロック図である。図3で示した実施形態1の構成と比較して、第1の調整キャンセル部710と第2の調整キャンセル部720とが追加されている。第1の調整キャンセル部710と第2の調整キャンセル部720は、ノイズ量パッチに基づいて逆共分散行列の調整をキャンセルする。
図8は、本実施形態にかかる画像処理のフローチャートである。図4で示した実施形態1のフローと比較して、ステップS801が追加され、ステップS409、ステップS410の内容が変更されている。
ステップS801では、調整部601が、ノイズ量パッチVに基づいて共分散行列Cを調整する。まずノイズ量パッチVに基づいて調整用パッチAを以下の式(9)で算出する。
Figure 2021128497
この時、V(j)の値が予め定める正の閾値より小さい場合に別の値に置き換えるなどして、負の数の2乗根算出やゼロでの除算などを回避することが望ましい。
次に、調整用パッチAを用いて、以下の式(10)で共分散行列Cを調整して調整済み共分散行列C_1を算出する。
Figure 2021128497
ここで、・は行列の積である。
図9(b)は本実施形態にかかる第2の補正処理のフローチャートである。
ステップS521で、共分散行列修正部321は調整済み共分散行列C_1を修正する。この処理は、修正対象の共分散行列が調整されているか否かの違いを除いて実施形態1と同一である。
ステップS522で、第2の逆共分散行列算出部322は、ステップS521で修正された調整済み共分散行列C_1の逆行列である調整済み逆共分散行列(C_1)^−1を算出する。
ステップS920では、第2の調整キャンセル部720が、調整済み逆共分散行列(C_1)^−1の調整をキャンセルする。具体的には、式(9)で算出した調整用パッチAを用いて、以下の式(11)で調整済み逆共分散行列(C_1)^−1の調整をキャンセルして、逆共分散行列C^−1を算出する。
Figure 2021128497
ステップS523の処理内容は実施形態1と同一である。
ステップS524の処理内容は実施形態1と同一である。
以上の処理により、ノイズの輝度依存性によらず同一処理でより精度良く共分散行列の異常を修正し、好適な出力画像を得ることができる。
なお、調整用パッチAを式(9)で算出したが、これに限らない。他の式で算出しても良いし、予め作成したテーブルを用いても良い。ノイズ量パッチでなく基準パッチに基づいて算出しても良い。
(その他の実施形態)
本発明は、前述の各実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける一つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。
また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
前述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。
即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。例えば、二次関数係数演算部の一部は上位の制御手段から与えられる演算開始信号によって動作し、演算結果を保持しておき、画像が入力されている間は、ここで保持したデータ参照するのみにすることで電力を削減することが可能である。

Claims (11)

  1. 画像のノイズを低減する画像処理装置であって、
    前記画像中に複数のパッチを設定する設定手段と、
    前記複数のパッチに基づいて、共分散行列を算出する算出手段と、
    前記共分散行列が異常であるか否かを判定する判定手段と、
    前記判定手段で前記共分散行列が異常でないと判定された場合、前記共分散行列を用いて、前記複数のパッチに含まれる画素に対して第1の補正を行い、第1の補正画素を取得する第1の補正手段と、
    前記判定手段で前記共分散行列が異常であると判定された場合、前記複数のパッチに含まれる画素に対して前記第1の補正と異なる第2の補正を行い、第2の補正画素を取得する第2の補正手段と、
    前記第1の補正画素もしくは前記第2の補正画素で出力画像を生成する生成手段と、を有することを特徴とする画像処理装置。
  2. 前記判定手段は、前記共分散行列に含まれる対角成分それぞれが異常であるか否かを判定する第二の判定手段を有し、当該第二の判定手段の判定に基づき、前記共分散行列が異常であるか否かを判定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記第二の判定手段は、前記共分散行列に含まれる複数の対角成分それぞれと所定の閾値とを比較し、前記所定の閾値よりも小さい場合に、当該対角成分が異常であると判定することを特徴とする請求項2に記載の画像処理装置。
  4. 前記第2の補正手段は、前記共分散行列を修正し、当該修正された共分散行列を用いて、前記複数のパッチに含まれる画素に対して第2の補正を行い、第2の補正画素を取得することを特徴とする請求項1に記載の画像処理装置。
  5. 前記第2の補正手段は、前記共分散行列に含まれる対角成分を他の値に置き換えることにより、前記共分散行列を修正し、当該修正された共分散行列を用いて、前記複数のパッチに含まれる画素に対して第2の補正を行い、第2の補正画素を取得することを特徴とする請求項2または請求項3に記載の画像処理装置。
  6. 前記第2の補正手段は、前記共分散行列に含まれる対角成分と直交する非対角成分を他の値に置き換えることを特徴とする請求項5に記載の画像処理装置。
  7. 前記判定手段は、前記複数のパッチに基づいて、前記所定の閾値を算出することを特徴とする請求項3に記載の画像処理装置。
  8. 前記判定手段は、前記複数のパッチに含まれる画素の平均値と、中央値と、最頻値との少なくともいずれか一つに基づき前記閾値を算出することを特徴とする請求項3に記載の画像処理装置。
  9. 前記判定手段は、ノイズの輝度依存性をなくすように前記共分散行列を調整して、
    調整された前記共分散行列が異常であるか否かを判定することを特徴とする請求項1乃至請求項8のいずれか1項に記載の画像処理装置。
  10. 画像のノイズを低減する画像処理方法であって、
    設定手段が、前記画像中に複数のパッチを設定する設定工程と、
    算出手段が、前記複数のパッチに基づいて、共分散行列を算出する算出工程と、
    判定手段が、前記共分散行列が異常であるか否かを判定する判定工程と、
    第1の補正手段が、前記判定工程で前記共分散行列が異常でないと判定された場合、前記共分散行列を用いて、前記複数のパッチに含まれる画素に対して第1の補正を行い、第1の補正画素を取得する第1の補正工程と、
    第2の補正手段が、前記判定工程で前記共分散行列が異常であると判定された場合、前記複数のパッチに含まれる画素に対して前記第1の補正と異なる第2の補正を行い、第2の補正画素を取得する第2の補正工程と、
    生成手段が、前記第1の補正画素もしくは前記第2の補正画素で出力画像を生成する生成工程と、を有することを特徴とする画像処理装置。
  11. コンピュータを、
    画像のノイズを低減する画像処理装置であって、
    前記画像中に複数のパッチを設定する設定手段と、
    前記複数のパッチに基づいて、共分散行列を算出する算出手段と、
    前記共分散行列が異常であるか否かを判定する判定手段と、
    前記判定手段で前記共分散行列が異常でないと判定された場合、前記共分散行列を用いて、前記複数のパッチに含まれる画素に対して第1の補正を行い、第1の補正画素を取得する第1の補正手段と、
    前記判定手段で前記共分散行列が異常であると判定された場合、前記複数のパッチに含まれる画素に対して前記第1の補正と異なる第2の補正を行い、第2の補正画素を取得する第2の補正手段と、
    前記第1の補正画素もしくは前記第2の補正画素で出力画像を生成する生成手段と、を有することを特徴とする画像処理装置として機能させるためのプログラム。
JP2020022179A 2020-02-13 2020-02-13 画像処理装置、画像処理方法およびプログラム Pending JP2021128497A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020022179A JP2021128497A (ja) 2020-02-13 2020-02-13 画像処理装置、画像処理方法およびプログラム
US17/168,033 US11710217B2 (en) 2020-02-13 2021-02-04 Image processing apparatus, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020022179A JP2021128497A (ja) 2020-02-13 2020-02-13 画像処理装置、画像処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2021128497A true JP2021128497A (ja) 2021-09-02

Family

ID=77271940

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020022179A Pending JP2021128497A (ja) 2020-02-13 2020-02-13 画像処理装置、画像処理方法およびプログラム

Country Status (2)

Country Link
US (1) US11710217B2 (ja)
JP (1) JP2021128497A (ja)

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7643010B2 (en) * 2007-01-03 2010-01-05 Apple Inc. Peripheral pixel noise reduction
US8269727B2 (en) * 2007-01-03 2012-09-18 Apple Inc. Irregular input identification
US8285033B2 (en) * 2010-04-01 2012-10-09 Seiko Epson Corporation Bi-affinity filter: a bilateral type filter for color images
US9514383B2 (en) * 2013-02-18 2016-12-06 Nec Corporation Image processing method, image processing device, and recording medium
US9196021B2 (en) * 2013-05-29 2015-11-24 Adobe Systems Incorporated Video enhancement using related content
KR101491461B1 (ko) * 2013-08-02 2015-02-23 포항공과대학교 산학협력단 공분산 기술자를 이용하는 물체 인식 방법 및 장치
US9159123B2 (en) * 2014-01-24 2015-10-13 Adobe Systems Incorporated Image prior as a shared basis mixture model
US9342869B2 (en) * 2014-04-29 2016-05-17 Adobe Systems Incorporated Discriminative indexing for patch-based image enhancement
US9538126B2 (en) * 2014-12-03 2017-01-03 King Abdulaziz City For Science And Technology Super-resolution of dynamic scenes using sampling rate diversity
US9342873B1 (en) * 2015-05-23 2016-05-17 Google Inc. Tile-based optical flow
US9633274B2 (en) * 2015-09-15 2017-04-25 Mitsubishi Electric Research Laboratories, Inc. Method and system for denoising images using deep Gaussian conditional random field network
US10262401B2 (en) * 2017-04-27 2019-04-16 Apple Inc. Noise reduction using sequential use of multiple noise models
JP7409606B2 (ja) * 2020-02-13 2024-01-09 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム

Also Published As

Publication number Publication date
US11710217B2 (en) 2023-07-25
US20210256662A1 (en) 2021-08-19

Similar Documents

Publication Publication Date Title
US11055564B2 (en) Image processing apparatus, image processing method, and storage medium
JP5907938B2 (ja) 画像形成装置及びプログラム
JP6128987B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2015171099A5 (ja)
JP2014045488A (ja) ドットノイズを実質的に除去するための方法および画像処理装置
US20200118250A1 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
US8724172B2 (en) Image processing apparatus, image processing method, and storage medium capable of realizing high speed generation processing of bitmap image data without increasing the load of object combining processing
JP2012053770A (ja) 動きベクトル検出装置
JP2019106173A (ja) 画像処理方法、画像処理装置およびプログラム
US10019645B2 (en) Image processing apparatus and method, and electronic equipment
JP2021128497A (ja) 画像処理装置、画像処理方法およびプログラム
JP7409606B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2010066865A (ja) 差分抽出装置及び差分抽出プログラム
US20150213585A1 (en) Image processing apparatus, image processing method, and storage medium
WO2019116975A1 (ja) 画像処理方法、画像処理装置およびプログラム
WO2018225134A1 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP2016032265A (ja) 画像処理装置
JP2021129191A (ja) 画像処理装置、画像処理方法およびプログラム
JP6350474B2 (ja) キャリブレーションシステム、キャリブレーション方法、画像形成装置およびキャリブレーションプログラム
WO2015052890A1 (ja) X線画像処理装置および方法、並びにx線撮像装置、プログラム
JP6827838B2 (ja) 撮像装置及び画像処理装置とその制御方法並びにプログラム
JP2021182239A (ja) 画像処理装置、画像処理方法およびプログラム
JP2021077037A (ja) 画像処理装置、画像処理方法、及びプログラム。
US9591220B2 (en) Selection apparatus, selection method, and storage medium
US20240029288A1 (en) Image processing apparatus, image processing method, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231012

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231017

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20240416