JP2019101686A - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP2019101686A
JP2019101686A JP2017231082A JP2017231082A JP2019101686A JP 2019101686 A JP2019101686 A JP 2019101686A JP 2017231082 A JP2017231082 A JP 2017231082A JP 2017231082 A JP2017231082 A JP 2017231082A JP 2019101686 A JP2019101686 A JP 2019101686A
Authority
JP
Japan
Prior art keywords
patch
similar
noise
image
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017231082A
Other languages
English (en)
Other versions
JP7030493B2 (ja
Inventor
和浩 矢幡
Kazuhiro Yahata
和浩 矢幡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017231082A priority Critical patent/JP7030493B2/ja
Priority to US16/201,740 priority patent/US11055564B2/en
Publication of JP2019101686A publication Critical patent/JP2019101686A/ja
Application granted granted Critical
Publication of JP7030493B2 publication Critical patent/JP7030493B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/30Noise filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/76Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries based on eigen-space representations, e.g. from pose or different illumination conditions; Shape manifolds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)

Abstract

【課題】パターン状のノイズの発生を抑制して、よりノイズを除去された画像を生成する。【解決手段】 入力画像に対してノイズを低減することで出力画像を生成する画像処理装置であって、入力画像における着目パッチと類似する複数の類似パッチを検出する検出手段と、前記複数の類似パッチに基づいて、画素間における相関を表す共分散行列を算出する行列算出手段と、前記共分散行列の複数の固有値、前記複数の固有ベクトル、前記ノイズ量および前記類似パッチの数に基づいて、前記共分散行列とは異なる補正用行列を導出する導出手段と、前記補正用行列に基づいて、前記複数の類似パッチの少なくとも1つの類似パッチにおける各画素の画素値を補正するパッチ補正手段と、補正された類似パッチを合成することで、前記出力画像を生成する生成手段と、有することを特徴とする。【選択図】 図2

Description

本発明は、画像におけるノイズを低減する技術に関する。
撮像装置などを用いて撮影したデジタル画像にはノイズが含まれる。そのため画像に対してノイズを低減するためのノイズ低減処理が知られている。ノイズ低減処理には、画像において複数の画素からなるパッチに注目し、パッチベースでノイズを低減する方法がある。非特許文献1に記載された方法では、画像からパッチ集合を選び、パッチの平均と共分散行列で表現されるパッチの確率モデルを生成し、最大事後確率法に基づいて全てのパッチに対してノイズ低減処理を行う。そして、これらのノイズ低減されたパッチにアグリゲーションと呼ばれる合成処理を行うことでノイズを低減された画像を生成する。また、特許文献1に記載された方法ではまず、画像におけるパッチ集合の平均と共分散行列を算出し、共分散行列の固有値と固有ベクトルを算出する。算出した後、固有値と固有ベクトルに基づいて基底行列を生成し、基底行列を用いてパッチ射影処理を行うことで、パッチ集合に属する全てのパッチにノイズ低減処理を行う。さらに、非特許文献1と同様に、ノイズ低減処理した各パッチの合成処理を行うことで、ノイズを低減された画像を生成する。
特開2013−026669号公報
Implementation of the "Non−Local Bayes" (NL−Bayes) Image Denoising Algorithm, Image Processing On Line, 3 (2013), pp. 1−42.
このような従来のパッチベースのノイズ低減方法においては、出力画像にパターン状のノイズが発生している場合がある。そこで本発明は、パターン状のノイズが発生することを抑制したパッチベースのノイズ低減処理を実現することを目的とする。
上記課題を解決するため本発明は、入力画像に対してノイズを低減することで出力画像を生成する画像処理装置であって、入力画像において着目パッチを設定する設定手段と、前記入力画像において、前記着目パッチと類似する複数の類似パッチを検出する検出手段と、前記複数の類似パッチに基づいて、画素間における相関を表す共分散行列を算出する行列算出手段と、前記共分散行列の複数の固有値と複数の固有ベクトルを算出する算出手段と、前記入力画像におけるノイズ量を取得する取得手段と、前記複数の固有値、前記複数の固有ベクトル、前記ノイズ量および前記類似パッチの数に基づいて、前記共分散行列とは異なる補正用行列を導出する導出手段と、前記補正用行列に基づいて、前記複数の類似パッチの少なくとも1つの類似パッチにおける各画素の画素値を補正するパッチ補正手段と、前記パッチ補正手段により補正された類似パッチを合成することで、前記出力画像を生成する生成手段と、有する。
本発明により、パターン状のノイズの発生を抑制して、よりノイズを除去された画像を生成することができる。
画像処理装置のハードウェア構成を示したブロック図 画像処理装置の詳細な論理構成を示したブロック図 ノイズ低減処理の流れを示すフローチャート 固有値補正処理の流れを示すフローチャート 固有値と補正値の関係を示す図 画像処理装置の詳細な論理構成を示したブロック図 ノイズ低減処理の流れを示すフローチャート 固有値補正処理の流れを示すフローチャート 画像処理装置の詳細な論理構成を示したブロック図 ノイズ低減処理の流れを示すフローチャート 閾値算出処理の流れを示すフローチャート
以下、本発明の実施形態について、図面を参照して説明する。なお、以下の実施形態において示す構成は一例にすぎず、本発明は図示された構成に必ずしも限定されるものではない。
<実施形態1>
本実施形態では、パッチベースのノイズ低減処理を実行する画像処理装置について実現する態様を説明する。図1は、本実施形態に係る画像処理装置のハードウェア構成を示すブロック図である。画像処理装置100は、CPU101、RAM102、記憶部103、汎用インタフェース104、表示部105を有す各構成は、メインバス106を介して相互に接続されている。画像処理装置100は、汎用インタフェース104を介して、外部メモリ110と、マウスやキーボードなどの入力装置120と接続している。記憶部103は、HDDやSSDなどの記憶デバイスである。表示部105は液晶ディスプレイや有機ELディスプレイなどである。
以下では、CPU101が記憶部103に格納された各種ソフトウェア(コンピュータプログラム)を動作させることで実現する各種処理について述べる。まず、CPU101は記憶部103に格納されている画像処理プログラムを起動し、RAM102に展開するとともに、表示部105にユーザインタフェース画面(以下、UI画面)を表示する。続いて、入力装置120を通じたユーザからの指示に従い、外部メモリ110に格納されている入力画像をRAM102に読み込む。さらに、ユーザからの指示に従って、RAM102に格納されている入力画像に対して、ノイズ低減処理を行う。ノイズ低減処理後の画像は、再びRAM102に格納される。RAM102に格納されたノイズ低減処理後の画像は、ユーザからの指示に応じて、表示部105や外部メモリ110に出力される。なお、ノイズ低減処理の対象となる入力画像は、外部メモリ110の他、記憶部103に格納されていてもよく、また、不図示のネットワークを介してサーバからRAM102に読み込んでもよい。
ここで、パッチベースのノイズ低減処理の概要について説明する。入力画像における着目画素について、着目画素を基準とする複数の画素で構成されたパッチを、着目パッチと呼ぶこととする。着目画素の近傍の複数の画素それぞれを参照画素とし、各参照画素に対応するパッチを参照パッチと呼ぶこととする。参照パッチは、参照画素を基準とする複数の画素で構成されたパッチである。参照パッチは、着目パッチに対してノイズ低減処理をする際に参照される。1つの着目画素に対して複数の参照画素が設定されるため、1つの着目画素あたり複数の参照パッチが存在することになる。パッチベースのノイズ低減処理では、参照パッチのうち、着目パッチの画素値分布と類似したパッチを類似パッチとして選択し、パッチ集合とする。なお、複数の参照パッチの中には着目パッチ自身が含まれていても構わない。パッチ集合に基づいて、各類似パッチに対してノイズ低減処理を実行する。ノイズを低減した類似パッチを合成することにより、入力画像に対してノイズ低減処理した画像を生成する。
図2(a)は、本実施形態に係るノイズ低減処理を実行する画像処理装置の詳細な論理構成を示すブロック図である。本実施形態における画像処理装置100は、画像入力部201、着目パッチ設定部202、類似パッチ検出部203、共分散行列算出部204、固有値・固有ベクトル算出部205、行列算出部206、類似パッチ補正部207、パッチ合成部208を有する。
画像入力部201は、入力画像を表す画像データを取得する。本実施形態では、入力画像は、0〜255(8ビット)の画素値が格納された画素からなるモノクロ画像とする。着目パッチ設定部202は、入力画像における着目画素に対して、着目パッチを設定する。ここでは、入力画像を構成する画素のうち左上画素からラスタ順に、着目画素とする。また、着目パッチの形状は、予め設定されている。本実施形態において着目パッチ設定部202は、着目画素を中心とする5画素×5画素を着目パッチとして設定する。
類似パッチ検出部203は、着目画素の近傍において複数の参照パッチを設定し、それら参照パッチのうち着目パッチに類似したパッチを、類似パッチとして選択することで、類似パッチを検出する。なお本実施形態では類似パッチ検出部203は、複数の参照パッチを類似パッチとして選択する。具体的には類似パッチ検出部203はまず、所定の範囲に含まれる着目画素近傍のある画素を参照画素として順に設定し、着目パッチと同様に参照画素に対する参照パッチを設定する。次に類似パッチ検出部203は、参照パッチと着目パッチの類似度を導出して、各参照パッチが着目パッチに類似しているかどうかを判定する。参照パッチが着目パッチに類似している場合は、参照パッチを類似パッチとして選択する。ここでは、着目画素を中心とする15画素×15画素を、参照画素を設定する所定の範囲とする。従って、類似パッチ検出部203は、着目画素を含む225画素を参照画素として設定し、類似パッチを最大で225枚検出する。類似パッチ検出部203はさらに、処理対象の着目画素について、選択した類似パッチの数も算出する。
共分散行列算出部204は、複数の類似パッチに基づいて共分散行列を算出する。この共分散行列は、類似パッチにおいての各画素の間にどのような相関があるかを示す。パッチにおいて隣接する2つの画素に着目したとき、多くの類似パッチにおいて画素値が近い値だったり、同様の差分があったりする場合は、2画素間には相関があるとみなすことができる。このような画素間の相関を示す共分散行列に対して後述の固有値・固有ベクトルを算出することで、パッチ集合からテクスチャ成分を抽出する。
固有値・固有ベクトル算出部205は、共分散行列の複数の固有値と、固有値それぞれに対応する固有ベクトルを算出する。この固有ベクトルは、類似パッチから抽出されたテクスチャ成分を表す。各類似パッチは、平均パッチと抽出されたテクスチャ成分を用いて表すことができる。固有値は、テクスチャ成分が各類似パッチに出現する度合いの変動を示す。固有ベクトルに対応する固有値が大きいほど、その固有ベクトルが表すテクスチャ成分の変動が高いことを示す。逆にテクスチャ成分の変動がほとんどない時は、固有値は入力画像のノイズ分散程度の値となる。
行列算出部206は、類似パッチ検出部203が算出した類似パッチ数に応じて各固有値を補正し、補正した固有値と固有ベクトルに基づいて、複数の類似パッチに対してノイズを低減するための補正用行列を算出する。図2(b)は、行列算出部206の詳細を示した図である。固有値補正部231は各固有値について、固有値と類似パッチ数、および入力画像のノイズ量に基づいて固有値を補正する。この補正により、ノイズにより生じたテクスチャ成分を表す固有ベクトルにも関わらず固有値が偶然大きな値となってしまうことで、ノイズにより生じたテクスチャ成分がノイズ低減後の画像に残留することを防ぐ。補正用行列導出部206は、補正済みの全ての固有値と全ての固有ベクトルに基づいて、補正用行列を算出する。類似パッチ補正部207は行列算出部206が算出した補正値算出行列に基づいて、複数の類似パッチを補正することで、各類似パッチのノイズを低減する。パッチ合成部208は、補正された複数の類似パッチを合成することで、ノイズ低減された出力画像を生成する。パッチ合成部208は、補正された類似パッチを入力画像の元の位置に配置し、他の補正された類似パッチと重なる場合にはそれらを平均化した値を算出し、平均化した値によって元の画素の画素値を更新することで、補正された類似パッチを合成する。このような合成は、アグリケーションとも呼ばれる。
図3は、本実施形態における画像処理装置が実行するノイズ低減処理のフローチャートである。CPU101は、図3に示すフローチャートを実現するためのプログラムを読み出し、実行させる。以下、図3を用いて、ノイズ低減処理の流れを詳細に説明する。なお、フローチャートにおける各工程(ステップ)は、「S」を用いて表すこととする。
S301において画像入力部201は、入力画像を読み込む。S302においてパッチ合成部208は、アグリゲーションを行うための分子用画像と分母用画像とを0に初期化する。この分子用画像と分母用画像は、垂直方向と水平方向のどちらも入力画像と同じ画素数を有する。
S303において着目パッチ設定部202は、入力画像における着目画素を選択し、着目画素に対応する着目パッチを設定する。前述の通り、本実施形態にでは、入力画像においてラスタ順に、着目画素を設定する。ここで、着目パッチはM個の画素で構成されている。本実施形態では、5画素×5画素を着目パッチとするため、M=25である。以下では、着目パッチを、M個の画素の画素値を並べた列ベクトルTで表すこととする。
S304において類似パッチ検出部203が、S303で設定した着目パッチTに対して、複数の参照パッチを設定する。各参照パッチの形状は、着目パッチの形状と一致する。したがって各参照パッチもM個の画素により構成されている。以下、i番目の参照パッチを、それらM個の画素値を並べた列ベクトルRiで表すこととする。本実施形態ではi=225である。
S305において類似パッチ検出部203は、複数の参照パッチのうち、着目パッチと類似しているパッチを類似パッチとして選択する。具体的にはまず類似パッチ検出部203は、S304において設定した複数の参照パッチそれぞれについて着目パッチとの類似度を算出する。類似度は、着目パッチの各画素と参照パッチの各画素との差分二乗和(SSD)により算出される。類似パッチ検出部203は、i番目の参照パッチの差分二乗和SSDを、以下の式(1)により算出する。
ここで、Ri(j)はi番目の参照パッチにおけるj番目の画素の画素値である。T(j)は着目パッチTにおけるj番目の画素の画素値である。パッチにおける画素位置が同じ2つの画素の画素値の差分を2乗した値を累積することで、差分二乗和が算出される。このように差分二乗和SSDiを用いて類似度を算出する場合、類似度の値が小さいほど、参照パッチRiは着目パッチTに類似していることを意味する。つまり、類似度の値が小さいほど、類似度が高い。一方類似度の値が大きいほど、参照パッチRiは着目パッチTに類似していない。
類似パッチ検出部203は、複数の参照パッチのうち、類似度が高い参照パッチを類似パッチとして選択する。類似パッチ検出部203は、あらかじめ定めた閾値と、参照パッチごとに算出した類似度(差分二乗和)とを比較し、類似度の値が閾値よりも小さい場合に、類似パッチとして選択する。類似パッチ検出部203は、複数の参照パッチを類似パッチとして選択する。この類似パッチの集合を、パッチ集合とする。以下、類似パッチ検出部203は、N個の類似パッチを検出したものとする。また、選択されたN個の類似パッチのうち、i番目の類似パッチをPiで表すこととする。なお、類似度の指標としては、本実施形態が用いる差分二乗和の他に、差分絶対値和(SAD)などを用いても良い。また、類似パッチ検出部203は、選択した類似パッチの数Nを算出する。類似パッチの数Nは、参照パッチのそれぞれが着目パッチに類似しているかどうかに依存する。そのため、たいていの場合は、着目パッチが異なれば類似パッチの数も異なる。
S306において共分散行列算出部204は、S305において選択した複数の類似パッチに基づいて、類似パッチの平均パッチと共分散行列Cとを算出する。共分散行列算出部204はまず、複数の類似パッチにおいて、同じ位置の画素の画素値の平均を算出し、各画素に平均値を格納して平均パッチを算出する。従って、平均パッチは、着目パッチの形状と同じ形状であり、M個の画素で構成されている。平均パッチにおけるM個の画素の画素値を並べた列ベクトルをQと表すと、共分散行列算出部204は、式(2)により平均パッチを算出する。
また、パッチ集合から算出される共分散行列Cは、正方行列であり、一辺のサイズが、類似パッチを構成する画素数Mである。共分散行列算出部204は、平均パッチQを用いて式(3)により共分散行列Cを算出する。
S307において固有値・固有ベクトル算出部205は、共分散行列Cの固有値と固有ベクトルを算出する。一般に、固有値と固有ベクトルはそれぞれ複数存在し、固有値と固有ベクトルそれぞれの数は共分散行列の一辺のサイズである。すなわち、固有値と固有ベクトルはそれぞれ類似パッチを構成する画素数M個分、存在する。また、固有ベクトルの要素の数は、類似パッチを構成する画素数Mと同じである。j番目の固有値をλj、j番目の固有ベクトルをEjと表す。共分散行列Cの固有値λjと固有ベクトルEjは、共分散行列Cに対して式(4)の関係を満たす。つまり固有値λjと固有ベクトルEjは、お互いに対応している。
固有値・固有ベクトル算出部205は、式(4)を満たす固有値λjと固有ベクトルEjを算出する。ここで固有ベクトルEjは、互いに類似するパッチ集合において抽出されるテクスチャ成分に相当する。また固有値λjは、各固有ベクトルの各類似パッチにおける出現度合いのばらつきに相当する。本来、固有ベクトルが表すテクスチャ成分が、ノイズによるテクスチャである場合、固有値は画像におけるノイズの分散程度になる。固有値の値が、ノイズの分散より大きい値であるほど、その固有値に対応する固有ベクトルは、本来画像に残すべき被写体のテクスチャ成分であることを意味する。後述するS310では、被写体のテクスチャ成分を残し、ノイズによるテクスチャ成分を除去するように、各類似パッチをノイズ低減処理する。
S308において固有値補正部231は、S307において算出した複数の固有値それぞれを補正する。固有値補正部231は、S307において算出した各固有値、入力画像におけるノイズ量、S305において選択された類似パッチの数に基づいて、各固有値を補正する。後述するS310におけるパッチに対するノイズ低減処理では、固有値の大きさに応じて、対応する固有ベクトルのテクスチャ成分が保存されるか否かが決まる。ノイズの分散近傍の固有値に対応する固有ベクトルは、ノイズとみなされ、類似パッチから除去される。一方ノイズの分散から離れた値の固有値に対応する固有ベクトルは、保存すべきテクスチャとみなされ、類似パッチに保存される。しかしながら実際にはノイズによって生じるテクスチャ成分の固有値は、ノイズの分散近傍でばらつきがある。固有値のばらつきの結果、本来除去すべきノイズによるテクスチャ成分であるにも関わらず、保存すべきテクスチャとみなされてしまう場合がある。そこで本実施形態においては、ノイズによるテクスチャ成分であるにも関わらず画像に保存される現象を抑制するために、保存すべきテクスチャ成分である場合に算出される値よりも小さい固有値を、ノイズ分散程度の値に補正する。
図4を用いて、固有値の補正処理の詳細を説明する。図4は、S308における固有値の補正処理の詳細なフローチャートである。後述する以降の処理において、各類似パッチに対してノイズ低減処理をする際に、まずS301において固有値補正部231は、入力画像におけるノイズ量σと、S305において選択された類似パッチの数Nを取得する。ここで、ノイズ量σは、画像におけるノイズの標準偏差である。撮像装置を用いて撮像することで得られた画像は一般に、ノイズの標準偏差が撮像装置の特性に応じて変動することが知られている。そこであらかじめ入力画像を撮像した撮像装置の機種や撮像時に設定された感度ごとに入力画像のノイズ量σを測定しておくことで、入力画像のノイズの標準偏差を保持しておく。ここでは固有値補正部231は、撮像装置の機種とISO感度ごとのノイズ量σをテーブルとして保持する。固有値補正部231は、テーブルを参照することで、処理対象とする入力画像を撮像した撮像装置の機種と撮像時に設定されたISO感度に基づいて、入力画像のノイズ量を設定する。ただし、撮像装置の機種や撮像時の設定に応じたノイズ量をテーブルとして保持する方法に限らない。例えば固有値補正部231は、入力画像における平坦部などからノイズ標準偏差を算出する既知の手法を用いるなどしてもよい。
S402において固有値補正部231は、S307において算出した複数の固有値のうちの1つを取得する。S403において固有値補正部231は、補正用関数を用いて、S402において取得した処理対象の固有値λを補正する。以下、補正後の固有値ηを単に補正値ηと呼ぶ。図5(a)は、固有値補正部231が参照する補正用関数の特性を示す。固有値λは、入力画像のノイズ量によって決まるノイズ分散に応じて補正される。図5(a)に示す補正用関数において、固有値λが、ノイズ分散(ノイズ標準偏差であるノイズ量σの二乗)のα倍よりも小さい場合は、ノイズ分散σ程度の補正値ηが対応している。そして、固有値λがノイズ分散のα倍よりも大きい場合は、補正値ηもノイズ分散σより大きな値とする。さらに、固有値λが十分に大きい場合、補正値ηは、元の固有値と概略一致する。このような補正用関数を用いて、固有値補正部231は、固有値λがノイズ分散のα倍よりも小さい場合は、固有値がノイズ分散程度になるよう補正する。
さらに固有値補正部231は、着目画素に対して選択された類似パッチの数に応じて、係数αを設定する。係数αは1以上の値であることが望ましい。類似パッチが少ない場合、ノイズにより生じたテクスチャ成分に対応する固有値は、ばらつきが大きい。すなわち、類似パッチが少ない場合に算出される固有値は、固有値の値がノイズの分散よりも大きい値であっても、ノイズにより生じたテクスチャ成分である可能性が高い。類似パッチが多いほど、ノイズによって生じたテクスチャ成分に対して大きな固有値が算出される現象は生じにくくなる。そのため、類似パッチが多いほど、補正すべき固有値の上限は小さくてよい。そこで本実施形態において固有値補正部231は、類似パッチの数Nが大きいほど係数αを小さくする。例えば本実施形態においては、225個の参照パッチのうち、類似パッチ数N=49以下の場合はα=4.0、N=50〜100の場合はα=3.0、N=101〜200の場合はα=2.0、N=201以上の場合はα=1.0とする。係数αをこのように設定することにより、類似パッチの数Nに応じて、適切に類似パッチのノイズを低減することができる。なお、固有値がノイズ分散のα倍よりも大きく、補正した固有値ηが固有値λと概一致(固有値を補正しない)するまでの区間は、図5(a)のように滑らかに繋がれていることが望ましい。ただし、図5(b)のように、固有値λを補正すべき対象の範囲を不連続に切り替えてもよい。
S404において固有値補正部231は、未補正の固有値があるか否かを調べ、未補正の固有値がある場合はS402に戻る。全ての固有値に対して補正処理を行うとこのフローは終了となる。以上がS308で行われる固有値の補正処理の詳細である。
図3に戻り、S309において補正用行列導出部232は、S308において補正された固有値と、S307において算出された固有ベクトルとに基づいて、補正用行列を算出する。具体的には補正用行列導出部232は、複数の補正した固有値ηi(i=1..M)と対応する固有ベクトルEi(i=1..M)を用いて、補正用行列として以下の式(5)により表される補正値算出行列Hを算出する。
ここで算出される補正値算出行列Hは、共分散行列Cと同様に、一辺のサイズが類似パッチの画素数Mである正方行列である。補正値算出行列Hは、共分散行列Cにおける各固有値λを固有値ηに置き換えて逆行列にしてノイズの分散を乗じた行列である。
S310において類似パッチ補正部207は、補正値算出行列Hに基づいて、類似パッチそれぞれを補正する。具体的には、平均パッチをQ、i番目の類似パッチをPiとしたとき、類似パッチ補正部207は、以下の式(6)により補正した類似パッチOiを算出する。
すなわち、式(6)における第2項目のH(Pi−Q)が類似パッチPiに対する補正値である。この補正値を類似パッチPiから減算することで、各類似パッチのノイズが低減される。
S311においてパッチ合成部208は、S310において算出された類似パッチOiに基づいて、分子用画像と分母用画像のそれぞれを算出する。具体的には、補正した類似パッチに含まれる各画素の画素値を、分子用画像における各画素の位置に加算する。この画素値を加算する位置は、入力画像において類似パッチがあった位置である。また、分母用画像における同様の位置には、1を加算する。
S312において未処理の着目パッチがあるか否かを調べ、未処理の着目パッチがある場合はS303に戻る。未処理の着目パッチが無い場合は、S313に進む。S313においてパッチ合成部208は、分子用画像における各画素の画素値を分母用画像における各画素の画素値により除算する。着目画素に対してS303〜S311の処理を実行すると、1つの画素が複数の類似パッチに含まれていることがある。また、入力画像における各画素を順に着目画素として設定し、S303〜S311の処理を繰り返し実行することで、1つの画素について、複数回、パッチに対してノイズ低減した結果が得られることもある。従って、着目パッチに類似したパッチ集合に基づいて、パッチ集合の各パッチをノイズ低減処理した結果、複数の画素値が算出されている画素については、その平均値を出力画像における画素値として算出する。パッチ合成部208は、分子用画像を分母用画像で除算した画像を、出力画像として生成し、処理を終了する。以上が、本実施形態に係るノイズ低減処理プログラムの処理フローである。
以上の通り、本実施形態では、まずN個の類似パッチから算出した共分散行列Cに対して、固有値と固有ベクトルを算出する。次に、ノイズ量と類似パッチの数Nに基づいて固有値を補正し、この補正された固有値と固有ベクトルから補正値算出行列Hを算出する。そして、この補正値算出行列Hを用いて各パッチのノイズを低減する。従来のNLベイズ法では、本実施形態における補正値算出行列Hではなく、共分散行列の逆行列C−1を用いて各パッチのノイズを低減する。しかし共分散行列の逆行列C−1を用いて各パッチのノイズを低減する方法では、ノイズにより偶然生じたテクスチャが各パッチに残留する傾向にある。その結果、出力画像においてパターン状のノイズとして視認されてしまう。本実施形態では固有値を算出し、さらに類似パッチの数Nに基づいて適切に固有値を補正することで、ノイズにより偶然生じたテクスチャをノイズとみなして処理することができ、パターン状のノイズの発生を抑えることができる。
なお、本実施形態では、8bitのモノクロ画像を入力画像として説明したが、多ビット数の画像や、複数の色成分ごとの画像からなるカラー画像にも適用できる。また、14bitのBayer配列の画像を入力画像とすることもできる。
また、着目パッチの形状は、5画素×5画素の矩形領域に限らない。カラー画像の場合は、色ごとに処理を適用してもよいし、着目パッチの形状を、5画素×5画素×色数としてもそのまま本実施形態を適用することができる。また本実施形態では、着目画素に対して着目画素を中心とした着目パッチを設定したが、これに限らない。着目画素が着目パッチにおいて最端に位置するように着目パッチを設定してもよいし、着目画素以外の画素群を着目パッチとして設定してもよい。
<変形例1>
実施形態1では、共分散行列Cの固有値を、図5(a)に示す特性の関数を用いて、全ての固有値λに対して補正後の固有値ηを出力する方法を例に説明した。しかしながら、固有値λが十分大きい値である範囲においては、同じ値が補正後の固有値ηとして出力される。これはつまり、固有値λが十分大きい値である範囲においては、固有値λに対して補正する必要はないことを意味する。そこで、事前に類似パッチの数とノイズの分散に基づいて、補正するか否かを判定する形態としてもよい。具体的にはまず、固有値補正部231は、類似パッチの数とノイズの分散とに応じた閾値ασを導出する。そして、固有値λと閾値ασを比較し、固有値λが閾値ασより小さい場合は、固有値λをノイズ分散σに補正する。固有値λが閾値ασ以上である場合は、固有値λを補正しない。このように、固有値に対して事前に補正するか否かを判定した結果に応じて、固有値を補正する形態としても、実施形態1と同様の効果を得ることができる。
<実施形態2>
実施形態1では、共分散行列Cの固有値を、ノイズ量、類似パッチ数および固有値自身に基づいて補正し、さらに補正した固有値から補正値算出行列Hを導出し、各類似パッチのノイズ低減を行う例を示した。実施形態2では、着目画素近傍における特徴に応じて着目パッチごとに着目パッチの画素数Nが変動する場合の処理について述べる。本実施形態におけるハードウェア構成は実施形態1と同様であるため説明を省略する。また、実施形態1と同様の構成については、同じ符号を付し、詳細な説明を省略する。
図6(a)、図6(b)は、実施形態2に係るノイズ低減処理を実行する画像処理装置の詳細な論理構成を示すブロック図である。図6(a)において、着目パッチ設定部202は、着目画素近傍にエッジがあるか否かを判定し、エッジ判定の結果に応じて着目パッチの形状を設定する。つまり実施形態2では、着目画素近傍における特徴として、エッジ度を用いる。類似パッチ検出部603は、実施形態1と同様に類似パッチを検出して類似パッチ数を算出する。実施形態2では類似パッチ検出部603が、パッチの画素数も算出する。図6(b)は行列算出部606の詳細な論理構成を示すブロック図である。固有値補正部631は、ノイズ量、類似パッチ数とパッチの画素数に基づいて、固有値を補正する。
図7は、本実施形態に係るノイズ低減処理プログラムのフローチャートである。以下、図7を用いて、画素処理の流れを説明する。S701において画像入力部201は、入力画像を読み込む。S702においてパッチ合成部208は、アグリゲーションを行うための分子用画像と分母用画像とを0で初期化する。
S703において着目パッチ設定部602は、入力画像に対して着目パッチを設定する。まず着目画素とその近傍の画素に基づいて、着目画素近傍にエッジがあるか否かを判定する。具体的には、入力画像に対してSobelフィルタのようなエッジ検出フィルタを適用する。エッジ検出フィルタを適用することで、各画素のエッジ度を算出する。着目画素および近傍画素に、エッジ度が大きい画素がある場合は、着目画素近傍にエッジがあるとみなし、画素数の少ない着目パッチTを設定する。逆に、着目画素および近傍画素に、エッジ度が大きい画素がない場合は、画素数の多い着目パッチTを設定する。ここでは、着目画素近傍にエッジがある場合は、着目画素を中心として5画素×5画素の領域を着目パッチとし、着目画素近傍にエッジがない場合は、着目画素を中心として7画素×7画素の領域を着目パッチとする。以下、着目パッチTはM個の画素により構成されているものとして説明する。実施形態2においては、画素数Mは着目画素に応じて設定される。
S704において類似パッチ検出部603は、S703において設定した着目パッチTに対して、複数の参照パッチを設定する。各参照パッチの形状は着目パッチと一致する。したがって各参照パッチも、M個の画素で構成されている。
S705において類似パッチ検出部603は、実施形態1のS504と同様に、S704で設定した複数の参照パッチ各々について、着目パッチとの類似度を算出し、類似度が高い複数の参照パッチを類似パッチとして選択する。
S706において共分散行列算出部204は、S705において選択した複数の類似パッチの平均パッチと共分散行列Cとを算出する。平均パッチは、各類似パッチにおける同じ位置の画素の画素値を平均することで算出される。つまり平均パッチは、M個の画素で構成されている。共分散行列Cは、正方行列であり、一辺のサイズはMである。
S707において固有値・固有ベクトル算出部205は、S706において算出した共分散行列Cの固有値と固有ベクトルを算出する。S708において固有値補正部631は、S707において算出した複数の固有値をそれぞれ補正する。S708における補正処理は、S707において算出した各固有値、入力画像のノイズ量、S705において選択された類似パッチの数および各パッチの画素数Mに基づいて行う。パッチの画素数Mはエッジがあるか否かの判定結果に応じて設定されるため、着目画素ごとにパッチの画素数が異なっている。図8を用いて、固有値の補正処理の詳細を説明する。
まずS801において固有値補正部631は、入力画像に含まれるノイズの標準偏差σと、S705において選択された類似パッチの数Nと、S703において設定した着目パッチの画素数Mとを取得する。
S802において固有値補正部631は、S707において算出した複数の固有値のうちの1つを取得する。
S803において固有値補正部631は、S802において取得した固有値λを、図5(a)に示す特性の関数を用いて補正し、補正後の固有値ηを得る。すなわち、固有値λがノイズ分散(ノイズ標準偏差σの二乗)のα倍よりも小さい場合は補正値ηがノイズ分散σ程度となるように補正する。そして、固有値がノイズ分散のα倍よりも大きい場合は補正値ηもノイズ分散σより大きな値とし、固有値が十分に大きい場合の補正値ηは、元の固有値と概略一致する。さらに固有値補正部631は、類似パッチの数Nとパッチの画素数Mに応じて係数αを設定する。この係数αは1以上の値であることが望ましい。実施形態1と同様に、類似パッチが多いほどノイズによるテクスチャ成分に対して大きな固有値が生じにくい。そのため、類似パッチが多いほど補正すべき固有値の上限は小さくてよい。つまり、類似パッチの数Nが大きいほどαを小さくする。逆に、パッチの画素数Mが多いほどノイズによって生じたテクスチャ成分に対して大きな固有値が生じやすいため、パッチ画素数Mが大きいほど補正すべき固有値の上限を大きくする。つまり、パッチ画素数Mが大きいほどαを大きくする。例えば、パッチ画素数M=25の場合、類似パッチ数N=49以下の場合はα=4.0、N=50〜100の場合はα=3.0、N=101〜200の場合はα=2.0、N=201以上の場合は、α=1.0とする。また、パッチ画素数M=49の場合、類似パッチ数N=49以下の場合はα=5.0、N=50〜100の場合はα=4.0、N=101〜200の場合はα=3.0、N=200以上の場合は、α=2.0とする。このように係数αをパッチの画素数と類似パッチ数に応じて設定することにより、適切に類似パッチのノイズを低減することができる。固有値がノイズ分散のα倍よりも大きく、補正値ηが固有値と概略一致するまでの間の区間は図5(a)のように滑らかに繋がれている事が望ましい。しかしながら、図5(b)のように不連続に切り替えてもパターン状のノイズの発生を防ぐ効果は得られる。
S804において固有値補正部631は、未補正の固有値があるか否かを調べ、未補正の固有値がある場合はS802に戻る。全ての固有値に対して補正を行うとこのフローは終了となる。以上がS708で行われる固有値の補正処理の詳細である。
図7に戻り、以降の説明を行う。S709において補正用行列導出部232では実施形態1のS509と同様に、S708において補正した固有値と、S707において算出された固有ベクトルに基づいて、補正値算出行列Hを算出する。
S710において類似パッチ補正部207は、この補正値算出行列Hに基づいて、類似パッチの各々を補正する。具体的な方法は実施形態1のS510と同じである。S711においてパッチ合成部208は、S710で補正した各々の類似パッチに基づいて分子用画像と分母用画像のそれぞれを算出する。具体的な方法は実施形態1のS511と同様である。S712では未処理の着目パッチがあるか調べ、未処理の着目パッチがある場合はS703に戻る。未処理の着目パッチが無い場合は、分子用画像を分母用画像で割り、これを出力画像として、処理を終了する。以上が、本実施形態に係るノイズ低減処理の流れの説明である。
以上の通り、本実施形態では、N個の類似パッチから算出した共分散行列Cに対して、固有値と固有ベクトルを算出した後、ノイズ量、類似パッチの数N、パッチの画素数Mに基づいて固有値を補正する。この補正された固有値と固有ベクトルから、補正値算出行列Hを算出する。この補正値算出行列Hを用いて各パッチのノイズを低減する。ノイズにより偶然生じたテクスチャを除去ためには、係数αを適切に設定して、固有値を補正する必要がある。本実施形態では係数αをパッチの画素数Mが大きいほど大きく、類似パッチの数Nが大きいほど小さくなるように設定する。これにより、各類似パッチに対してノイズにより偶然生じたテクスチャを消すことができ、効果的にパターン状のノイズの発生を抑えることができる。
なお、本実施形態における係数αやパッチの画素数などは好ましい値の一例として説明したが、目的に応じて他の値を適用しても良い。例えばαを全体的に1割程度大きな値とした場合は、よりパターン状のノイズの低減効果が高くなる。その一方、ノイズの低減効果を高めることでノイズ低減後の画像が多少ぼけてしまう場合もある。このようなトレードオフにおいて、最も適切なαを事前に設定しておくとよい。
<実施形態3>
実施形態3では、共分散行列を求めた後、主成分分析を行うことでノイズを低減する方法を例について述べる。前述の実施形態と同様の構成については、同一の符号を付し、詳細な説明を省略する。
図9(a)は実施形態3に係るノイズ低減処理を実行する画像処理装置の詳細な論理構成を示すブロック図である。図9(a)において、着目パッチ設定部902は、着目画素近傍の画素群における画素値の分散を算出し、この分散に基づいて適応的に着目パッチの形状を設定する。つまり実施形態3では、着目画素近傍における特徴として分散を用いる。
行列算出部906は、類似パッチ数・パッチ画素数、固有値、固有ベクトルおよびノイズ量に基づいて、類似パッチのノイズを低減するために用いられる射影行列を算出する。図9(b)は、行列算出部906の詳細な論理構成を示すブロック図である。閾値算出部931は、類似パッチ数、パッチ画素数、ノイズ量に基づいて、固有値に対する閾値を算出する。補正用行列導出部932は、固有値に対する閾値と固有値および固有ベクトルから、射影行列を算出する。
図10は、本実施形態に係るノイズ低減処理のフローチャートである。以下、図7を用いて、プログラムの処理フローを説明する。なお、実施形態2と共通の部分が多いため、実施形態2と異なるのみ詳細に説明する。
S1001において画像入力部201は入力画像を読み込む。S1002においてパッチ合成部208は、アグリゲーションを行うための分子用画像と分母用画像とを0で初期化する。
S1003において着目パッチ設定部902は入力画像中の着目パッチを設定する。まず着目画素とその近傍の画素群の画素値の分散を算出し、分散が大きい場合は画素数の少ない着目パッチTを設定する。逆に、分散が小さい場合は画素数の多い着目パッチTを設定する。以下、着目パッチTはM個の画素で構成されているものとして説明する。この画素数Mは、着目画素に応じて設定される。
S1004において類似パッチ検出部603はS1003で設定した着目パッチTに対して、複数の参照パッチを設定する。各参照パッチの形状は、着目パッチと一致している。したがって各参照パッチもM個の画素で構成されている。
S1005において類似パッチ検出部603は、実施形態1のS204と同様に、S1004で設定した複数の参照パッチ各々について着目パッチとの類似度を算出し、類似度が高い複数の参照パッチを類似パッチとして選択する。
S1006において共分散行列算出部204では、S1005で選択した複数の類似パッチの平均パッチと共分散行列Cとを算出する。平均パッチはM個の画素で構成されている。共分散行列Cは、一辺のサイズがMの正方行列である。
S1007において固有値・固有ベクトル算出部205は、S1006において算出された共分散行列Cの固有値と固有ベクトルを算出する。
S1008において閾値算出部931は、固有値に対する閾値を算出する。この閾値は、S1007において算出された各固有値、入力画像のノイズ量、S1005において選択された類似パッチの数Nおよび各パッチの画素数Mに基づいて算出される。
図11を用いて、閾値算出処理の詳細を説明する。まずS1101において閾値算出部931は、入力画像に含まれるノイズの標準偏差σと、S1105において選択された類似パッチの数Nと、S1103において設定された着目パッチの画素数Mとを取得する。
S1102において閾値算出部931は、固有値に対する閾値θを算出する。補正用行列導出部932は、固有値と閾値θを比較し、閾値θ以上の固有値に対応した固有ベクトルを、主成分として扱う。逆に、この閾値θ未満の固有値に対応する固有ベクトルは、ノイズに相当するものとして扱う。一般に、ノイズに相当する固有ベクトルの固有値はノイズ分散を中心にいくらかばらついた値をとる。従って、閾値θはノイズ分散σよりも大きな値とすべきである。そこで本実施形態では、係数αを1以上の実数として、閾値算出部931は閾値θを以下の式(7)により算出する。
本実施形態では、この係数αは、ノイズにより偶然大きな値が算出された固有値を、正しくノイズとしてみなされるように設定する。類似パッチの数が多いほどノイズによって大きな固有値が生じにくいため、類似パッチが多いほど固有値に対する閾値θは小さくてよい。つまり、類似パッチの数Nが大きいほどαを小さくする。逆に、パッチ画素数Mが多いほどノイズによって大きな固有値が生じやすいため、パッチ画素数Mが大きいほど固有値に対する閾値を大きくする。つまり、パッチ画素数Mが大きいほどαを大きくする。例えば、パッチ画素数M=25の場合、類似パッチ数N=49以下の場合はα=4.0、N=50〜100の場合はα=3.0、N=101〜200の場合はα=2.0、N=201以上の場合はα=1.0とする。また、パッチ画素数M=49の場合、類似パッチ数N=49以下の場合はα=5.0、N=50〜100の場合はα=4.0、N=101〜200の場合はα=3.0、N=201以上の場合はα=2.0とする。以上がS1008で行われる閾値算出処理の詳細である。
図10に戻り、以降の説明を行う。S1009において補正用行列導出部932は、S1007において算出された固有値、固有ベクトルと、S1008において算出された閾値θに基づいて、補正用行列を導出する。本実施形態において補正用行列導出部は、補正用行列として、以下の式(8)、式(9)によりあらわされる射影行列Wを計算する。
ここでFやFは、それぞれ固有値が閾値θ以上の固有ベクトルである。行列Bは、固有値が閾値θ以上という条件を満たした固有ベクトルを全て並べた基底行列である。ここでは、K個(K<=M)の固有値が閾値θ以上であったとして説明する。基底行列BはK行M列の行列であり、射影行列WはM行M列の正方行列である。射影行列Wは、類似パッチから主成分だけを残すための役割を果たす。
S1010において類似パッチ補正部207は、各類似パッチPiから平均パッチQを引いた差分パッチを、射影行列Wを用いて射影し、射影した結果に平均パッチQを加算することで、類似パッチを補正する。この補正により、主成分だけを残してノイズ低減したパッチOiが算出される。類似パッチ補正部207による処理は、以下の式(10)の通りに表される。

S1011においてパッチ合成部208は、S1010において補正された各々の類似パッチに基づいて分子用画像と分母用画像のそれぞれを算出する。具体的な方法は実施形態1におけるS211と同様である。
S1012において、未処理の着目パッチがあるか否かを調べ、未処理の着目パッチがある場合はS1003に戻る。未処理の着目パッチが無い場合パッチ合成部208は、分子用画像を分母用画像で割り、これを出力画像として、処理を終了する。以上が、本実施形態に係るノイズ低減処理のフローの説明である。
以上の通り本実施形態では、類似パッチの数Nと、パッチの画素数M,そしてノイズ量に基づいて、主成分を選ぶための閾値θを算出する。共分散行列Cに対する固有値が閾値θ以上となる固有ベクトルを主成分として射影行列Bを算出する。そして、射影行列Bを用いて、各類似パッチのノイズを低減する。閾値θを算出する際、ノイズに相当する固有ベクトルを正しくノイズとして扱うため、係数αをパッチの画素数Mが大きいほど大きく、類似パッチの数Nが大きいほど小さくなるように設定する。これにより、ノイズで偶生まれたテクスチャを消すことができ、効果的にパターン状のノイズの発生を抑えることができる。なお、本実施形態で例として挙げた値は好ましい値であるものの、この例に必ずしも限定されない。例えば係数αを全体的に1割程度大きな値とした場合は、よりパターン状のノイズの低減効果が高くなる。ノイズ低減効果を高めることで、ノイズ低減後の画像が多少ぼけてしまうという場合もある。このようなトレードオフにおいて適切な係数αを事前に設定しておくとよい。
<その他の実施形態>
上記実施形態では、入力画像における全ての画素を着目画素として設定する場合を例に説明したが、その方法に必ずしも限定されない。例えば、入力画像に対して着目パッチをタイル状に配置するように設定するなどしてもよい。
なお、上述の3つの実施形態では、コンピュータプログラムを動作させることで実現するソフトウェアを例に説明した。しかしながら、図2、図6、図9に示したブロック図の各構成の一部、またはそのすべてを専用の画像処理回路によって実現してもよい。
また本発明は上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。

Claims (11)

  1. 入力画像に対してノイズを低減することで出力画像を生成する画像処理装置であって、入力画像において着目パッチを設定する設定手段と、
    前記入力画像において、前記着目パッチと類似する複数の類似パッチを検出する検出手段と、
    前記複数の類似パッチに基づいて、画素間における相関を表す共分散行列を算出する行列算出手段と、
    前記共分散行列の複数の固有値と複数の固有ベクトルを算出する算出手段と、
    前記入力画像におけるノイズ量を取得する取得手段と、
    前記複数の固有値、前記複数の固有ベクトル、前記ノイズ量および前記類似パッチの数に基づいて、前記共分散行列とは異なる補正用行列を導出する導出手段と、
    前記補正用行列に基づいて、前記複数の類似パッチの少なくとも1つの類似パッチにおける各画素の画素値を補正するパッチ補正手段と、
    前記パッチ補正手段により補正された類似パッチを合成することで、前記出力画像を生成する生成手段と、
    有することを特徴とする画像処理装置。
  2. 前記複数の固有値それぞれは、前記複数の固有ベクトルの何れかに対応し、
    前記導出手段は、前記複数の固有値のうち、前記ノイズ量に応じて設定される閾値より大きい固有値に対応する固有ベクトルに基づいて、前記補正用行列を導出することを特徴とする請求項1に記載の画像処理装置。
  3. 前記閾値は、前記類似パッチの数に基づいて設定されることを特徴とする請求項2に記載の画像処理装置。
  4. 前記設定手段は、前記入力画像における着目画素に対して、前記着目画素と前記着目画素の近傍の画素群における特徴に応じた画素数のパッチを前記着目パッチとして設定し、
    前記閾値は、前記類似パッチを構成する画素数に基づいて設定されることを特徴とする請求項2または3に記載の画像処理装置。
  5. 前記導出手段は、前記閾値未満の固有値を補正し、前記補正された固有値と前記補正された固有ベクトルに対応する固有ベクトルに基づいて、前記補正用行列を導出することを特徴とする請求項2乃至4の何れか一項に記載の画像処理装置。
  6. 前記導出手段は、前記閾値以下の固有値を、前記ノイズ量の値に補正することを特徴とする請求項5に記載の画像処理装置。
  7. 前記導出手段は、前記類似パッチの数が多いほど、前記閾値を小さい値に設定することを特徴とする請求項2乃至6の何れか一項に記載の画像処理装置。
  8. 前記導出手段は、前記複数の固有値に対して、前記ノイズ量と前記類似パッチの画素数に応じた補正し、
    前記補正された固有値と前記複数の固有ベクトルに基づいて、前記補正用行列を算出することを特徴とする請求項1乃至6の何れか一項に記載の画像処理装置。
  9. 前記導出手段は、前記ノイズ量と前記類似パッチの画素数に応じて閾値を設定し、
    前記閾値と前記固有値のそれぞれを比較することにより、固有ベクトルを選択し、
    前記選択された固有ベクトルを用いて前記補正用行列を算出することを特徴とする請求項1乃至5の何れか一項に記載の画像処理装置。
  10. コンピュータを請求項1乃至9の何れか一項に記載の画像処理装置として機能させるためのプログラム。
  11. 入力画像に対してノイズを低減することで出力画像を生成する画像処理方法であって、入力画像において着目パッチを設定し、前記入力画像において、前記着目パッチと類似する複数の類似パッチを検出し、
    前記複数の類似パッチに基づいて、画素間における相関を表す共分散行列を算出し、
    前記共分散行列の複数の固有値と複数の固有ベクトルを算出し、
    前記複数の固有値、前記複数の固有ベクトル、前記入力画像におけるノイズ量および前記類似パッチの数に基づいて、前記共分散行列とは異なる補正用行列を導出し、
    前記補正用行列に基づいて、前記複数の類似パッチの少なくとも1つの類似パッチにおける各画素の画素値を補正し、
    前記パッチ補正手段により補正された類似パッチを合成することを特徴とする画像処理方法。
JP2017231082A 2017-11-30 2017-11-30 画像処理装置、画像処理方法およびプログラム Active JP7030493B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017231082A JP7030493B2 (ja) 2017-11-30 2017-11-30 画像処理装置、画像処理方法およびプログラム
US16/201,740 US11055564B2 (en) 2017-11-30 2018-11-27 Image processing apparatus, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017231082A JP7030493B2 (ja) 2017-11-30 2017-11-30 画像処理装置、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2019101686A true JP2019101686A (ja) 2019-06-24
JP7030493B2 JP7030493B2 (ja) 2022-03-07

Family

ID=66633288

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017231082A Active JP7030493B2 (ja) 2017-11-30 2017-11-30 画像処理装置、画像処理方法およびプログラム

Country Status (2)

Country Link
US (1) US11055564B2 (ja)
JP (1) JP7030493B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021043874A (ja) * 2019-09-13 2021-03-18 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP2021117748A (ja) * 2020-01-27 2021-08-10 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP2021128497A (ja) * 2020-02-13 2021-09-02 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2021129190A (ja) * 2020-02-13 2021-09-02 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2021129191A (ja) * 2020-02-13 2021-09-02 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
WO2021256399A1 (ja) * 2020-06-15 2021-12-23 国立大学法人京都大学 データ処理方法、データ処理装置およびデータ処理プログラム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7005168B2 (ja) * 2017-05-02 2022-01-21 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
US10789696B2 (en) * 2018-05-24 2020-09-29 Tfi Digital Media Limited Patch selection for neural network based no-reference image quality assessment
US12078717B2 (en) * 2020-06-30 2024-09-03 Panasonic Intellectual Property Management Co., Ltd. Sensor
FR3117651B1 (fr) * 2020-12-10 2022-12-16 Airbus Defence & Space Sas Procédé de démosaïquage non-local d’une image et dispositif associé
CN113870132B (zh) * 2021-09-24 2024-08-13 浪潮(北京)电子信息产业有限公司 计算鬼成像采样过程中的噪声消除方法、系统及相关组件
CN117688614B (zh) * 2024-02-01 2024-04-30 杭州海康威视数字技术股份有限公司 差分隐私保护数据可用性增强方法、装置及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008154150A (ja) * 2006-12-20 2008-07-03 Sony Corp 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
JP2013026669A (ja) * 2011-07-15 2013-02-04 Tokyo Institute Of Technology ノイズ低減装置、ノイズ低減方法及びプログラム
JP2014130512A (ja) * 2012-12-28 2014-07-10 Toshiba Corp 画像処理装置および画像処理方法
US20140334701A1 (en) * 2013-05-10 2014-11-13 Korea Advanced Institute Of Science And Technology Method and apparatus for convergence guaranteed image reconstruction

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6024107B2 (ja) * 2012-01-06 2016-11-09 株式会社リコー 画像処理装置、撮像装置、画像処理方法およびプログラム
JP6362333B2 (ja) * 2013-02-14 2018-07-25 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP6501452B2 (ja) * 2014-04-04 2019-04-17 キヤノン株式会社 画像処理装置及びシステム、画像処理方法、並びにプログラム
JP6390173B2 (ja) * 2014-06-02 2018-09-19 日本電気株式会社 情報処理装置、情報処理システム、画像処理方法、及び、プログラム
CN104184589B (zh) * 2014-08-26 2018-09-07 重庆邮电大学 一种身份认证方法、终端设备,及系统
JP6320571B2 (ja) * 2015-01-20 2018-05-09 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
KR102580519B1 (ko) * 2016-09-07 2023-09-21 삼성전자주식회사 영상처리장치 및 기록매체

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008154150A (ja) * 2006-12-20 2008-07-03 Sony Corp 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
JP2013026669A (ja) * 2011-07-15 2013-02-04 Tokyo Institute Of Technology ノイズ低減装置、ノイズ低減方法及びプログラム
JP2014130512A (ja) * 2012-12-28 2014-07-10 Toshiba Corp 画像処理装置および画像処理方法
US20140334701A1 (en) * 2013-05-10 2014-11-13 Korea Advanced Institute Of Science And Technology Method and apparatus for convergence guaranteed image reconstruction

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
HANGFAN LIU, 外3名: ""Image denoising via adaptive soft-thresholding based on non-local samples"", 2015 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION (CVPR), JPN6021045006, 12 June 2015 (2015-06-12), US, pages 484 - 492, ISSN: 0004639294 *
XINFENG ZHANG, 外5名: ""Low-Rank Decomposition-Based Restoration of Compressed Images via Adaptive Noise Estimation"", IEEE TRANSACTIONS ON IMAGE PROCESSING, JPN6021045004, 7 July 2016 (2016-07-07), US, pages 4158 - 4171, ISSN: 0004639292 *
山内啓大朗, 外2名: ""ノンローカルPCAに基づく画像デノイジング"", 電子情報通信学会論文誌, vol. 第J96-D巻, 第3号, JPN6021045001, 1 March 2013 (2013-03-01), JP, pages 389 - 398, ISSN: 0004639293 *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021043874A (ja) * 2019-09-13 2021-03-18 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP7328096B2 (ja) 2019-09-13 2023-08-16 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP2021117748A (ja) * 2020-01-27 2021-08-10 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP7446827B2 (ja) 2020-01-27 2024-03-11 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP2021128497A (ja) * 2020-02-13 2021-09-02 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2021129190A (ja) * 2020-02-13 2021-09-02 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2021129191A (ja) * 2020-02-13 2021-09-02 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP7409607B2 (ja) 2020-02-13 2024-01-09 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP7409606B2 (ja) 2020-02-13 2024-01-09 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
WO2021256399A1 (ja) * 2020-06-15 2021-12-23 国立大学法人京都大学 データ処理方法、データ処理装置およびデータ処理プログラム

Also Published As

Publication number Publication date
US20190164008A1 (en) 2019-05-30
US11055564B2 (en) 2021-07-06
JP7030493B2 (ja) 2022-03-07

Similar Documents

Publication Publication Date Title
JP7030493B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP6405891B2 (ja) 位置・姿勢推定装置、位置・姿勢推定方法、及び、プログラム
US20130266218A1 (en) Detecting and Tracking Point Features with Primary Colors
JP6239153B2 (ja) 雑音を有する画像の雑音を除去する方法
JP6369150B2 (ja) アンチエイリアシングエッジを回復するフィルタリング方法及びフィルタリング装置
JP6128987B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
US11145032B2 (en) Image processing apparatus, method and storage medium for reducing color noise and false color
JP7328096B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US20150156484A1 (en) Image processing apparatus, method, and storage medium
JP2014165874A (ja) 画像処理装置、画像処理方法、及びプログラム
WO2013089261A1 (ja) 画像処理システム及び画像処理方法
JP6645442B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP7409606B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2019106173A (ja) 画像処理方法、画像処理装置およびプログラム
JP6221333B2 (ja) 画像処理装置、画像処理回路及び画像処理方法
JP7301589B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP5431501B2 (ja) 画像処理装置、及びその方法
CN115511744A (zh) 图像处理方法、装置、计算机设备和存储介质
JP5478200B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
US9679363B1 (en) System and method for reducing image noise
CN116664449B (zh) 一种卫星图像的处理方法
JP2021077037A (ja) 画像処理装置、画像処理方法、及びプログラム。
JP2021182239A (ja) 画像処理装置、画像処理方法およびプログラム
JP5934019B2 (ja) 階調復元装置及びそのプログラム
JP2021077038A (ja) 画像処理装置、画像処理方法、及びプログラム。

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220125

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220222

R151 Written notification of patent or utility model registration

Ref document number: 7030493

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151