JP2011527463A - 画像のコントラストを維持しながらノイズを低減するための技術 - Google Patents

画像のコントラストを維持しながらノイズを低減するための技術 Download PDF

Info

Publication number
JP2011527463A
JP2011527463A JP2011512240A JP2011512240A JP2011527463A JP 2011527463 A JP2011527463 A JP 2011527463A JP 2011512240 A JP2011512240 A JP 2011512240A JP 2011512240 A JP2011512240 A JP 2011512240A JP 2011527463 A JP2011527463 A JP 2011527463A
Authority
JP
Japan
Prior art keywords
pixel
pixels
value
weight
calculator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011512240A
Other languages
English (en)
Other versions
JP5653913B2 (ja
Inventor
コーエン,ノイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fotonation Ltd
Original Assignee
DigitalOptics Corp Europe Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by DigitalOptics Corp Europe Ltd filed Critical DigitalOptics Corp Europe Ltd
Publication of JP2011527463A publication Critical patent/JP2011527463A/ja
Application granted granted Critical
Publication of JP5653913B2 publication Critical patent/JP5653913B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Picture Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

画像内のノイズを低減するためのシステムおよび方法が開示される。本発明は、表示されるべき画像について、その画像は画素を有し、(1)第1の画素の値を1組の他の画素の値と比較し、(2)第1の画素に隣接する画素の値を1組の他の画素に隣接するさらなる画素の値と比較し、(3)1組の他の画素における各画素についてステップ(1)および(2)の結果に基づいて重みを決定し、(4)1組の他の画素における各画素の重みに基づいてノイズ除去された画素値を計算し、(5)第1の画素の値をノイズ除去された画素値に置換することによって、ノイズを低減するとともにコントラストを維持する。

Description

発明の分野
本発明は、デジタル信号処理に関する。
背景
ノイズは、デジタル画像における一般的な問題であり、デジタル信号処理(digital signal processing:DSP)アルゴリズムは、デジタル画像におけるノイズを低減するために用いられ得る。たとえば、ノイズは、画像を不鮮明に見せる、画素値のランダムで不所望な変動であり得る。デジタル画像ノイズを低減することを目的とする様々なノイズ除去アルゴリズムが現在利用可能であるが、これらのアルゴリズムは、ノイズとデータとの分離に課題を有する傾向にある。これは、デジタル画像が低コントラスト領域において、細かな詳細を有するときに、特に問題となる。
多くのノイズ除去アルゴリズムは、デジタル画像における均一領域については、うまく機能する傾向にあるが、デジタル画像を不鮮明にすることなく、デジタル画像の端部および輪郭上、ならびにデジタル画像の細部まで詳細な領域(detail-rich area)におけるノイズを排除することには、実質的な課題を典型的に有する。ここで、細部まで詳細な領域は、異なるコントラストレベルを表わす近接配置された画素を含み得る。ノイズを排除することの課題は、情報の損失をもたらし得る。
必要とされることは、画像の他の特性に悪影響を及ぼすことなく、上述の問題を解決する技術である。
簡単な要約
本発明は、デジタル信号処理に関する。本発明の実施形態に従うシステムは、画素を含む画像におけるノイズを低減する。システムは、距離計算機と、重み計算機と、ノイズ除去された画素計算機とを含む。距離計算機は、第1の画素の値を1組の他の画素の値と比較し、ここで第1の画素および1組の他の画素の各々は第1の色であり、さらにシステムは、第1の画素に隣接する画素の値を1組の他の画素に隣接するさらなる画素の値と比較し、ここで第1の画素に隣接する画素および1組の他の画素に隣接するさらなる画素は、第1の色、第2の色、および第3の色のうちの1つである。重み計算機は、1組の他の画素における各画素について、距離比較器の結果に基づいて重みを決定する。そして、最終的に、ノイズ除去された画素計算機は、1組の他の画素における各画素の重みに基づいてノイズ除去された画素値を計算するとともに、第1の画素の値をノイズ除去された画素値に置換する。
本発明の実施形態に従う方法は、画素を含む画像におけるノイズを低減する。方法は、第1の画素の値を1組の他の画素の値と比較することを含み、ここで第1の画素および1組の他の画素の各々は第1の色である。さらに方法は、第1の画素に隣接する画素の値を1組の他の画素に隣接するさらなる画素の値と比較することを含み、ここで第1の画素に隣接する画素および1組の他の画素に隣接するさらなる画素は、第1の色、第2の色、および第3の色のうちの1つである。方法は、さらに、1組の他の画素における各画素について重みを決定すること、1組の他の画素における各画素の重みに基づいてノイズ除去された画素値を計算すること、および、第1の画素の値をノイズ除去された画素値に置換することを含む。
本発明のシステムおよび方法によれば、画像の均一領域の画素、画像の端部および輪郭に沿った画素、ならびに、細部まで詳細な領域にある画素におけるノイズが、コントラストを維持しながら低減される。
本発明のさらなる実施形態、特徴、および利点は、本発明の様々な実施形態の構造および動作とともに、添付の図面を参照して以下にその詳細が説明される。
図面/図の簡単な説明
本発明の実施形態は、添付の図面を参照して説明される。図面においては、同様の参照番号は、同一または機能的に類似の要素を示し得る。要素が最初に現れる図面は、一般的に、対応する参照番号において最も左の桁(left-most digit)によって示される。
本発明の実施形態を実行するために適したシステム例を示す図である。 本発明の実施形態に従う、システム例のモジュールの図である。 本発明の実施形態に従う、システム例のモジュールのより詳細な図である。 本発明の実施形態に従う、システム例のモジュールの要素の詳細図である。 本発明の実施形態に従う、画像ウィンドウの例である。 本発明の実施形態に従う、画像ウィンドウの例である。 本発明の実施形態に従う、距離計算機の例の図である。 本発明の実施形態に従う、パラメータセレクタの例の図である。 本発明の実施形態に従う、パラメータセレクタの例の図である。 本発明の実施形態に従う、重み計算機の例の図である。 本発明の実施形態に従う、重み加算器の例の図である。 本発明の実施形態に従う、最大重み識別器の例の図である。 本発明の実施形態に従う、最小の2のべき乗計算機の例の図である。 本発明の実施形態に従う、中間重み計算機の例の図である。 本発明の実施形態に従う、中間重み計算機の例の図である。 本発明の実施形態に従う、加重平均計算機の例の図である。 本発明の実施形態に従う、モバイル装置の例の図である。 本発明の実施形態に従う、コンピュータシステムの例の図である。 本発明の実施形態に従う、画像におけるノイズを低減するための方法のフローチャートである。
発明の詳細な説明
以下の説明においては、説明の目的のために、多くの具体的な詳細が本発明の完全な理解を提供するために記載される。しかしながら、本発明は、これらの具体的な詳細を用いなくとも実現され得ることが明らかであろう。他の例においては、周知の構成および装置が、本発明の不必要な曖昧さを避けるために、ブロック図形式内に示される。
信号データを処理するための技術が、本明細書で開示される。信号データは、多くの異なった信号行列によって表わされ得、各行列は信号の異なる部分を表わす。たとえば、各信号行列は、画像センサにおける1組の画素に対応するエントリを含むように構成される。信号データは、たとえば、オーディオデータ、あるいは、画像データ以外の他の信号データを含み得る。
図1は、本発明の実施形態を実行するために適したシステム100を示す図である。例として、限定されないが、システム100は、画像信号処理(image signal processing:ISP)チェーンであり得る。実施形態においては、ISPチェーンは、RAW画像を処理するためのアルゴリズムを実行するモジュールを含み、不揮発性メモリに保存される最終画像(たとえば、JPEG画像、TIFF画像など)を出力する。図1に示されるように、システム100は、アナログゲインモジュール102と、黒レベル補正モジュール104と、不良画素補正モジュール106と、緑−赤/緑−青(green-red/green-blue:GRGB)補償モジュール108と、ホワイトバランスおよびデジタルゲインモジュール110と、レンズフード補正モジュール112と、固定パターンノイズ(fixed-pattern noise:FPN)およびランダムノイズ除去モジュール114と、ノイズ除去モジュール116と、デジタルオートフォーカスモジュール118と、モザイク除去モジュール120と、鮮明化モジュール122と、色補正行列モジュール124と、ガンマ補正モジュール126と、JPEG圧縮モジュール128とを含む。これらのISPモジュールは、この用途において提示されるノイズ除去アルゴリズムを実行するためには必要とされないことに注意すべきである。
実施形態においては、アナログゲインモジュール102は、画像180を検出する図示されない画像センサからの画像180を受信する。他の実施形態においては、アナログゲインモジュール102は、画像180を検出する画像センサに結合されたメモリから、画像180を受信する。メモリは、フラッシュメモリ、磁気ディスク、光ディスク、または他の記憶媒体であり得る。画像センサは、光学画像を、画像180を生成するための電気信号に変換する。画像センサは、たとえば、ベイヤー(BAYER)センサ、フォビオン(Foveon)X3センサ、3CCDセンサなどのような、様々な異なる種類のカラー画像センサのうちの1つであり得る。たとえば、ベイヤーセンサは、赤、緑、および青の光を画素に透過し、3つの色に敏感なインターレースグリッドを形成する。ベイヤーセンサは、画素を覆うための赤、緑、および青の色フィルタの特別な配列であるベイヤーフィルタを利用し得る。ベイヤーフィルタは、図5を参照して、以下により詳細が説明される。明確化の目的のために、限定されないが、システム100は、画像センサがベイヤーセンサであるかのように、ここでは説明される。
アナログゲインモジュール102は、ゲインを画像180に適合し、低露出時間を用いる際に生じる画像180の暗部を補償し得る。アナログゲインモジュール102は、アナログ−デジタル(A/D)変換を生じる前にゲインに適合する。アナログゲインモジュール102は、画像180の修正されたバージョンを、黒レベル補正モジュール104へ送る。
実施形態においては、黒レベル補正モジュール104は、画像180からのフロア値(floor value)を除去する。例として、黒レベル補正モジュール104は、画像180から、画像センサから出力された「暗電流」を除去する。黒レベル補正モジュール104は、画像180のさらに修正されたバージョンを、不良画素補正モジュール106へ送る。
不良画素補正モジュール106は、非常に低いまたは非常に高い誤り値を生成する、画像180内の「焼失(burned)」画素を探索する。実施形態においては、不良画素補正モジュール106は、その後、これらの「焼失」画素を、画像180の環境の「高性能(smart)」平均と置き換える。不良画素補正モジュール106は、画像180のさらなる修正されたバージョンを、GRGB補償も108へ送る。
実施形態においては、GRGB補償モジュール108は、緑および赤の両方の画素を含む画素線(pixel line)における緑の画素と、緑および青の両方の画素を含む画素線における緑の画素との間に生じ得る差を補償する。例として、画素値は12ビットであり、選択色の強さを表す。GRGB補償モジュール108は、画像180のさらなる修正されたバージョンを、ホワイトバランスおよびデジタルゲインモジュール110へ送る。
ホワイトバランスおよびデジタルゲインモジュール110は、緑、赤および青の画素値の各々にゲインを適合し、各画素のダイナミックレンジを維持しながら、色のバランスをとるとともに、光の状態および光のレベルを補償する。実施形態においては、ホワイトバランスおよびデジタルゲインモジュール110は、画像180のさらなる修正されたバージョンを、レンズフード補正モジュール112へ送る。
実施形態においては、レンズフード補正モジュール112は、中間画素から遠く離れたところに位置される画素の輝度を増加することによって、レンズフードプロファイルを補償する。レンズフード補正モジュール112は、画像180のさらなる修正されたバージョンを、固定パターンノイズ(FPN)およびランダムノイズ除去も114へ送る。
FPNおよびランダムノイズ除去モジュール114は、画像180からランダムノイズおよび固定パターンノイズを除去する。実施形態においては、FPNおよびランダムノイズ除去モジュール114は、画像180のさらなる修正されたバージョンを、ノイズ除去モジュール116へ送る。
実施形態においては、ノイズ除去モジュール116は、コントラストについてできるだけ最小限の影響で、端部および輪郭上およびその近傍、ならびに細部まで詳細な領域における画素値を維持しながら、画像180の少なくとも一部からノイズを効果的に除去する。ここで用いられるように、端部および輪郭は、画素の空間的な位置にかかわらず、画像180において画素値における急激な変化が生じる領域を称する。さらに、ここで用いられるように、細部まで詳細な領域は、極めて近接し、異なるコントラストレベルを示す画像180の画素を称する。ノイズ除去モジュール116は、処理されている画像180の部分の中心または中間画素を、その近傍の他の画素の平均と置換する。これら近接する画素は、値において中間の画素と類似するとともに、類似の環境を有する。ノイズ除去モジュール116は、図2から図13を参照して、以下に、より詳細に説明される。ノイズ除去モジュール116は、画像180のさらなる修正されたバージョンを、デジタルオートフォーカスモジュール118へ送る。
デジタルオートフォーカスモジュール118は、画像180のコントラストを増加する。デジタルオートフォーカスモジュール118は、2008年1月7日に出願された、「信号への所望の効果を達成するために、信号へのカーネルの適用の効果を調整するための技術(Techniques for Adjusting the Effect of Applying Kernels to Signals to Achieve Desired Effect on Signal)」と題された、共有する米国特許出願第11/970,427において、より詳細に説明されており、その全体が参照により引用される。実施形態においては、デジタルオートフォーカスモジュール118は、画像180のさらなる修正されたバージョンを、モザイク除去モジュール120へ送る。
代替的な実施形態においては、図示されないが、ノイズ除去モジュール116は、デジタルオートフォーカスモジュール118内に含まれる。この場合、FPNおよびランダムノイズ除去114は、さらに修正された画像180をデジタルオートフォーカス118へ送る。
モザイク除去モジュール120は、画像180が、すべての画素が3つの色チャンネル値を有する完全なRGB画像となるように、補間を実行する。実施形態においては、モザイク除去モジュール120は、画像180のさらなる修正されたバージョンを、鮮明化モジュール122へ送る。
鮮明化モジュール122は、画像180における画素のコントラストを強調する。実施形態においては、デジタルオートフォーカスモジュール118は、デジタルオートフォーカスモジュール118が点拡がり関数(point spread function)を補償するという点で、鮮明化モジュール122とは異なる。鮮明化モジュール122は、画像180のさらなる修正されたバージョンを、色補正行列モジュール124へ送る。
色補正行列モジュール124は、画像180の色精度(color accuracy)および彩度を制御する。実施形態においては、色補正行列モジュール124は、画像180のさらなる修正されたバージョンを、ガンマ補正モジュール126へ送る。
ガンマ補正モジュール126は、画像180にガンマ曲線を適用する。実施形態においては、ガンマ補正モジュール126は、画像180のさらなる修正されたバージョンを、JPEG圧縮モジュール128へ送る。
JPEG圧縮モジュール128は、画像180をフルBMP画像から、たとえばフラッシュメモリのような不揮発性メモリへその後保存され得るJPEG画像へ圧縮する。GIFのようなJPEG以外の他の圧縮もまた、画像180を圧縮するために用いられ得る。
アナログゲインモジュール102、黒レベル補正モジュール104、不良画素補正モジュール106、GRGB補償モジュール108、ホワイトバランスおよびデジタルゲインモジュール110、レンズフード補正モジュール112、FPNおよびランダムノイズ除去モジュール114、ノイズ除去モジュール116、デジタルオートフォーカスモジュール118、モザイク除去モジュール120、鮮明化モジュール122、色補正行列モジュール124、ガンマ補正モジュール126、およびJPEG圧縮モジュール128の各々は、ハードウェア、ソフトウェア、またはそれらのどのような組み合わせによって実行され得る。
図2は、本発明の実施形態に従うノイズ除去モジュール116の図を示す。図2に示されるように、ノイズ除去モジュール116は、距離計算機210と、重み計算機220と、ノイズ除去された画像計算機230とを含む。実施形態においては、ノイズ除去モジュール116は、一度に、画像ウィンドウ202として認識される画像180の一部を評価する。たとえば、画像ウィンドウ202は、7×7の画素の行列であり得る。ノイズ除去モジュール116がスタンドアロン型のモジュールとして実行される場合は、7つのラインバッファが、画像ウィンドウ202からの画素の7つのラインを記憶するために用いられ、パイプライン実装(pipelined implementation)を可能にする。ノイズ除去モジュール116がデジタルオートフォーカスモジュール118の追加として実行される場合は、デジタルオートフォーカスモジュール118も画像180の画素を記憶するためのラインバッファを用いるので、追加のラインバッファは必要とされない。例として、デジタルオートフォーカスモジュール118は、9つの再使用可能なラインバッファを有し得る。画像ウィンドウ202のより詳細な説明が、図5Aおよび図5Bを参照して、以下に与えられる。
実施形態においては、距離計算機210は、画像ウィンドウ202の中央または中間における画素と、その中間の画素に隣接する画素との間の値の差を計算する。これらの画素のより詳細な説明は、図5Aおよび図5Bを参照して以下に与えられる。差の計算のより詳細な説明は、図6を参照して以下に与えられる。
実施形態においては、重み計算機220は、中間の画素に隣接する各画素についての重みを計算する。その重みは、距離計算機210において計算された差に依存する。重み計算は、図8を参照して以下により詳細に説明される。
実施形態においては、ノイズ除去された画素計算機230は、重み計算機220によって生成された重みを用い、中間の画素のノイズを除去する。ノイズ除去された画素計算機230は、新しい画素値を出力し、元の中間の画素値を置換する。ノイズ除去された画素計算機230は、図4および図9から図13を参照して、以下により詳細に説明される。
ノイズ除去モジュール116は数回処理し、各回ごとに異なる画像ウィンドウ202を受信することに注意すべきである。実施形態においては、ノイズ除去モジュール116は、画像180内の各画素が、画像ウィンドウ202内の中間の画素として現れ、ノイズ除去された値に置換されるまで処理を行う。一旦、画像180内のすべての画素がノイズ除去され、かつそれらの値が置換されると、画像180は、ISPチェーンの残余のモジュールによって処理される。他の実施形態においては、ノイズ除去モジュール116は、画像180内の設定された数の画素がノイズ除去されるまで処理を行う。
ノイズ除去モジュール116がデジタルオートフォーカスモジュール118に包含される場合は、ノイズ除去モジュール116は、他の画像ウィンドウ202が処理される前に画像180のさらなる処理を行うために、デジタルオートフォーカスモジュール118の残りへ、ノイズ除去された中間の画素値を送ることに注意すべきである。
図3は、本発明の実施形態に従うノイズ除去モジュール116のより詳細な図である。具体的には、図3は、各中間の画素についてのノイズ除去された画素を生成するように相互作用するノイズ除去モジュール116の要素を示す。図3に示されるように、距離計算機210、重み計算機220およびノイズ除去された画素計算機230に加えて、ノイズ除去モジュール116は、さらに、パラメータセレクタ340およびしきい値調整器350を含む。実施形態においては、ノイズ除去モジュール116は、画像ウィンドウ202入力およびノイズ除去有効信号308を受信する。ノイズ除去有効信号308は、ノイズ除去モジュール116が、有効とされるかまたは無効とされるかを制御する。ノイズ除去有効信号308は、システム100内のほかのモジュールから、または、ISPチェーン外部のソースから受信される。ISPチェーン外部の要素を含むシステム例は、図14および図15を参照して、以下に説明される。
画像180および画像ウィンドウ202から、たとえば、画像ノイズレベル304および中間画素値306を含む、いくつかの信号が導き出される。画像ノイズレベル304は、画像180におけるノイズのレベルと相関のある基準である。実施形態においては、この基準はシステム100の前のモジュールにおいて計算され、ノイズ除去モジュール116へ入力される。他の実施形態においては、画像ノイズレベル304は、プレビューモードの間に計算され、ここでプレビューモードは、画像180が不揮発性メモリへ保存されることを生じない。代替的には、画像ノイズレベル304は、画像180に適用される、デジタルおよび/またはアナログゲインならびに露出時間の情報を用いて推定される。実施形態においては、中間画素値306は、画像ウィンドウ202における中間および画素の値である。
パラメータセレクタ340は、様々なノイズ除去パラメータプロファイルを記憶する。実施形態においては、パラメータセレクタ340は、画像ノイズレベル304を用いて、どのパラメータプロファイルを画像ウィンドウ202に適用するかを決定する。例として、限定はされないが、5つのパラメータプロファイルが定義され、ここで、第1のパラメータプロファイルは非常に低ノイズレベルのために選択され、第2のパラメータプロファイルは低ノイズレベルのために選択され、第3のパラメータプロファイルは中間のノイズレベルのために選択され、第4のパラメータプロファイルは高ノイズレベルのために選択され、そして第5のパラメータプロファイルは非常に高レベルのために選択される。
各パラメータプロファイルは、しきい値の数と、距離計算機210、重み計算機220、およびノイズ除去された画素計算機230によって用いられる定数とを定義する。実施形態においては、パラメータセレクタ340は、9つの定数である、空間w値360a〜iを距離計算機210へ送り、しきい値362a〜d、信号しきい値378a〜d、および信号結果値380a〜eをしきい値調整器350へ送り、結果値364a〜eを重み計算機220へ送り、合計しきい値366および低重みしきい値368をノイズ除去された画素計算機230へ送る。これらのしきい値および定数は、図6から図8および図12A,図12Bを参照して、以下により詳細に説明される。
実施形態においては、しきい値調整器350は、信号しきい値378a〜d、信号結果値380a〜e、および中間画素値306を用いて、しきい値362a〜dを調整し、調整されたしきい値376a〜dを出力する。代替的な実施形態においては、中間画素値306は、中間画素の隣接画素の値とともに、調整計算において用いられる。しきい値調整器350のより詳細な説明が、図7Aおよび図7Bを参照して、以下に与えられる。しきい値調整器350は、調整されたしきい値376a〜dを、重み計算機220へ送る。
実施形態においては、距離計算機210は、画像ウィンドウ202および空間w値360a〜iを用いて、環境距離370a〜hを計算する。距離計算機210は、環境距離370a〜hを重み計算機220へ送る。
重み計算機220は、結果値364a〜e、環境距離370a〜h、および調整されたしきい値376a〜dを用いて、環境重み372a〜hを決定する。実施形態においては、重み計算機220は、環境重み372a〜hをノイズ除去された画素計算機230へ送る。
実施形態においては、ノイズ除去された画素計算機230は、合計しきい値366、低重みしきい値368、環境重み372a〜h、および画像ウィンドウ202を用いて、画像ウィンドウ202の中間画素についての、ノイズ除去された画素値374を決定する。ノイズ除去された画素計算機230は、ノイズ除去された画素値374を、ノイズ除去有効信号308によって制御されるマルチプレクサ382へ送る。ノイズ除去モジュール116がスタンドアロン型のモジュールであり有効とされる場合は、マルチプレクサ382は、ノイズ除去された画素値374を送る。そうでなく、ノイズ除去モジュール116がスタンドアロン型のモジュールであり無効とされる場合は、もとの画素値である中間画素値306が送られる。ノイズ除去モジュール116がスタンドアロン型のモジュールである場合は、マルチプレクサ382は、ノイズ除去された全画素画像、または画像180を単一の画素の代わりに送る。
図4は、本発明の実施形態に従う、ノイズ除去された画素計算機230の詳細図である。図4に示されるように、ノイズ除去された画素計算機230は、重み加算器402と、最大重み識別器404と、最小の2のべき乗計算機406と、中間重み計算機408と、加重平均計算機410とを含む。実施形態においては、重み加算器402は、環境重み372a〜hを利用して、それらの合計を見出す。重み加算器402は、この合計を、環境重み合計412の形式で、最小の2のべき乗計算機406および中間重み計算機408へ送る。重み加算器402は、図9を参照して、以下により詳細が説明される。
最大重み識別器404は、環境重み372a〜hを受信し、最大環境重みを識別する。実施形態においては、最大重み識別器404は、その結果を、中間重み計算機408へ送る。最大重み識別器404は、図10を参照して、以下に、より詳細が説明される。
実施形態においては、最小の2のべき乗計算機406は、環境重み合計412より大きい、最小の2のべき乗を計算する。結果である最小の2のべき乗414は、中間重み計算機408へ進められる。最小の2のべき乗計算機406は、図11を参照して、以下に、より詳細に説明される。
中間重み計算機408は、中間画素の重みが小さすぎないことを保障するためのいくつかの条件により、最小の2のべき乗を調整する。中間重み計算機408は、中間画素の重みも計算する。実施形態においては、両方の計算は、合計しきい値366、低重みしきい値368、環境重み合計412、最小の2のべき乗414、および最大環境重み416に依存する。中間重み418および更新された最小の2のべき乗420は、加重平均計算機410へ送られる。中間重み計算機408のより詳細な説明は、図12Aおよび図12Bを参照して、以下に与えられる。
実施形態においては、加重平均計算機410は、環境重み372a〜h、画像ウィンドウ202、中間重み418、および更新された最小の2のべき乗420を用いて、ノイズ除去された画素値374を計算し、もとの中間画素値を置換する。加重平均計算機410は、図13を参照して、以下に、より詳細に説明される。
図5Aおよび図5Bは、本発明の実施形態に従う画像ウィンドウ202の例を表示する。図5Aにおいて示されるように、画像ウィンドウ202は7つのラインである、ライン502,504,506,510,512,514から構成され、トータルで49個の画素で構成される。実施形態においては、画像ウィンドウ202についての最大サイズは、7×7の行列である。X9によって認識された画素は、画像ウィンドウ202の中間または中央の画素としても知られる。画素X1,X2,X3,X4,X5,X6,X7,X8は、中間画素に隣接する画素であり、最終的なノイズ除去された中間画素値の決定において用いられる。
実施形態においては、ノイズ除去された画素値を決定するために用いられ、かつ中間画素の周囲に定められる各画素の周囲の環境が定められる。各環境は、画素の3×3の行列である。たとえば、X1の環境は、E1_11,E1_21,E1_31,E1_12,E1_13,E1_23,E1_33,およびX1を含む。画素ウィンドウ202は、9つの環境を含み得る。環境は、2つまたはより多くの環境と共通であるいくつかの画素があるように重複することに注意すべきである。例として、ライン506における第3の画素は、左から右へ、X1,X2,X4,X9の環境と共通である。
図5Bに示されるように、画像ウィンドウ202内の各画素は、単一の色を表わす。この場合、各画素は、赤I、緑(G)、または青(B)のいずれかである。ベイヤーパターンによれば、各ラインは、赤の画素と緑の画素との交代、または青の画素と緑の画素との交代を含む。X1からX9は、全て同じ色であり、この場合は青である。この性質は、どの色であっても、X1からX9によって表わされることについても当てはまる。また、1つの環境における所与の位置においての色は、他の環境における同じ相対的な位置においての同じ色に対応する。たとえば、ライン506における左から右に向かって3番目の画素は赤であり、X1の環境の右下角に対応する。同様に、ライン510における左から右に向かって5番目の画素もまた赤であり、この場合にはX9の環境である、環境の右下角に対応する。以下に説明されるように、この性質は、距離計算器210の差の計算のために重要である。
図6から図13は、ノイズ除去モジュール116のハードウェア図、および図5A,図5Bに示された画像ウィンドウ202のそれらの画素の参照を示す。実施形態においては、以下のハードウェア実行例は、必要とされるゲートカウントを最小化する方法で設計される。しかしながら、他のハードウェア実行例が本発明を実行するために用いられ得るので、これは限定を意味するものではない。
図6は、本発明の実施形態に従う距離計算器210の詳細図である。図6に示されるように、距離計算器210は、少なくとも、減算ブロック602a〜i、絶対値ブロック604a〜i、バレルシフタ606a〜i、および加算ブロック608a〜d,610a〜b,612,614を含む。実施形態においては、図6に示される要素は、環境距離370a〜hの1つを計算するために用いられる。追加的な7つの同じブロックが、環境距離370a〜hを並行して計算するために、距離計算器210に設けられる。代替的な実施形態においては、図示しないが、図6に示される要素が1度に1回、各環境距離370a〜hを計算するように、各環境距離370a〜hが連続的に計算される。本明細書で説明されるように、図6に示される要素が環境距離370aを計算するように想定される。
環境距離370a〜hは、中間画素に隣接する画素の環境1つの画素値から中間画素の環境の画素値を減算することによって計算される。実施形態においては、図6に示される要素は、環境距離370a〜hを決定するために用いられる以下の式を物理的に表わす。
Figure 2011527463
ここで、Dkは8つの環境距離370a〜hのうちの1つを示し、Spatial_W[i,j]は9つの空間w値360a〜iを示し、EyはXyの環境における画素値を示し、kは1から8まで実行し、iおよびjは3×3の画素行列内の位置を決定する。差の絶対値が、どの環境距離370a〜hも負でないことを保証するために使用されることに注意すべきである。
実施形態においては、空間w値360a〜iは、環境内のそれらの位置に基づいて、異なる重要度を画素に適用するために用いられる重みとして機能する。空間w値360a〜iは、3×3の画素行列として編成される。実施形態においては、各空間w値360a〜iは2のべき乗であり、空間w値360a〜iの2を底とする対数が、各個別のバレルシフタ606a〜iに結合されるレジスタ(図示せず)に記憶される。これによって、バレルシフタ606a〜iを、乗算器またはドライバとして機能させることができ、E9_xyとE1_xyとの間の差の絶対値は、対応する空間w値360a〜iが1より小さい場合は右にシフトされたビットであり、対応する空間w値360a〜iが1より大きい場合は左にシフトされたビットである。
空間w値360a〜iの合計は、環境距離370a〜hのダイナミックレンジに対応する。たとえば、空間w値360a〜iの合計が1の場合、環境距離370a〜hは1のダイナミックレンジを有し、環境距離370a〜hが、画像ウィンドウ202の画素値と同じビット解像度であることを意味している。空間w値360a〜iの合計が16の場合、環境距離370a〜hは、合計が1のときより16倍大きいダイナミックレンジを有する。より小さいダイナミックレンジが望ましいが、より少ないビットで環境距離370a〜hを表わすことが必要とされ、かつゲートカウントが減少するので、合計およびダイナミックレンジには制限はない。空間w値360a〜iを1/2,1/4などと掛け合わせることによって、2のべき乗である重みを維持しながら、ダイナミックレンジを低減することが可能であることに注意すべきである。以下の表1は、可能性のある空間w値360a〜iの4つの例を与える。
Figure 2011527463
代替的な実施形態においては、表1の最も右の例に示されるように、空間w値360a〜iは2のべき乗ではない。これは、より複雑な方法で、式(1)に示されるような、絶対値による重みの乗算を実行することが要求され得る。たとえば、乗算器および/または加算器が、その乗算を実行するために、バレルシフタ606a〜iとともに用いられ得る。全体として、空間w値360a〜iは、必要に応じて、所望のノイズ除去レベルを達成するように調整される。
式(1)は画素値における差を見出すことを説明するが、環境距離370a〜hは、それらが、X1からX9の中間画素に隣接する画素の各環境がどれくらい中間画素に近接しているかを表わしているので、「距離」と呼ばれることに注意すべきである。たとえば、X3およびX9の環境が、画素値の点でほぼ同一である場合は、環境距離370cまたはD3は、非常に低い値を受ける。しかしながら、その反対が正である場合は、環境距離370cは非常に高い値を受ける。
例として、限定はされないが、画素値Ek_xyは12ビットまで拡大し、バレルシフタ606a〜iに到達する多くとも12ビットの値をもたらす。バレルシフタ606a〜iに結合されたレジスタ内に記憶されたそれらの値は、最大3ビットであり、絶対値が右または左に最大7ビットシフトされたことを意味する。シフト値624a〜iのビット解像度は、バレルシフタ606a〜iによって受信された絶対値のビット解像度に依存し、この場合は12ビットである。加算器に続く各合計値である第1の合計626a〜d、第2の合計628a〜d、第3の合計630、および環境距離370aは、一緒に加算される2つの値の最大ビット解像度よりも1ビット高い最大ビット解像度を有する。したがって、この場合には、第1の合計626dの最大ビット解像度は13ビットであり、第2の合計628a〜dの最大ビット解像度は14ビットであり、第3の合計630の最大ビット解像度は15ビットであり、環境距離370aの最大ビット解像度は16ビットである。
一旦、環境距離370a〜hが計算されると、環境重み372a〜hが重み計算機220によって計算される。実施形態においては、環境重み372a〜hは、環境距離370a〜hをしきい値と比較することによって演算される。しかしながら、これらの比較に先立って、しきい値が調整され得る。
図7Aおよび図7Bは、本発明の実施形態に従う、しきい値調整器350のより詳細な図を示す。図7Aおよび図7Bに示されるように、しきい値調整器350は、比較器702a〜dと、マルチプレクサ論理704と、右バレルシフタ750a〜dとを含む。図7Aに示されるように、画像ウィンドウ202の信号レベルは、適切な調整を決定するために用いられる。この信号レベルは、比較器702a〜dの入力aである。第1の実施形態においては、この信号レベルは、中間画素値306である。第2の実施形態においては、図示されないが、この信号レベルはX1からX9の加重平均である。例として、以下の式が、この実施形態における信号レベルを計算するために用いられる。
Figure 2011527463
ここで、Wは2のべき乗である。Wの合計は、もしそれがもともと2のべき乗でない場合は、除算を避けるために最も近い2のべき乗に正規化される。第3の実施形態においては、図示されないが、この信号レベルは、以下の式に従って見出される。
Figure 2011527463
第4の実施形態においては、図示されないが、この信号レベルは、以下の式に従って見出される。
Figure 2011527463
一旦信号レベルが決定されると、各信号しきい値378a〜dと比較される。また、上述のように、これらの信号しきい値378a〜dは、画像ノイズレベル304に基づいて生じる。例として、信号しきい値378a〜dは、10ビットの画素値について、それぞれ150、300、500および800である。比較器702a〜dは、信号レベルがそれぞれの信号しきい値378a〜dより大きいか否かを判断し、それぞれの比較器結果708a〜dをマルチプレクサ論理704へ送出する。実施形態においては、比較器結果708a〜dは1ビットの値であり、信号レベル倍率710を決定するために用いられるアドレスとして機能する。たとえば、信号レベルが信号しきい値378a〜bより大きいが、信号しきい値378c〜dより大きくない場合は、アドレスは1100である。この場合においては、信号結果値380cは、信号レベル倍率710として用いられる。したがって、信号結果値380a〜eのうちの1つが信号レベル倍率710となることになる。例として、信号結果値380a〜eは、10ビットの画素値について、それぞれ16、8、4、2、および1である。信号結果値380a〜eは、信号レベルの反比例することに注意すべきである。実施形態においては、信号結果値380a〜eは、8の最大ビット解像度を有する。以下の式が、信号レベル倍率710を計算するために用いられる。
Figure 2011527463
ここで、SRVa-eはそれぞれ信号結果値380a〜eであり、STVa-dは信号しきい値378a〜dであり、MAXは信号レベルの最大ビット解像度によって決定された値より小さい1(one)である。
図7Bに示されるように。信号レベル倍率710は、しきい値362a〜dをスケーリングするために用いられる。実施形態においては、しきい値362a〜dおよび信号レベル倍率710が2のべき乗である場合は、右バレルシフタ750a〜dは、しきい値362a〜dを信号レベル倍率710で適切に除算するのに十分である。この場合には、しきい値362a〜dは、信号レベル倍率710の2を底とする対数によって右方向にシフトされたビットであり、調整されたしきい値376a〜dを生成する。代替的な実施形態のいては、しきい値362a〜dおよび/または信号レベル倍率710が2のべき乗でない場合は、除算を実行するために、たとえば、加算器や乗算器のような、追加的なハードウェアが必要となる。以下の式は、図7Bの要素によって表わされる。
Figure 2011527463
計算後、調整されたしきい値376a〜dは、重み計算機220へ送られる。
図8は、本発明の実施形態に従う重み計算機220のより詳細な図である。図8に示されるように、重み計算機220は、比較器802a〜dと、マルチプレクサ論理804とを含む。実施形態においては、図8における要素は、環境重み372a〜hのうちの1つを計算するために用いられる。さらなる7つの同一のブロックが、すべての環境重み372a〜hを並行して計算するために、重み計算機220内に設けられる。代替的な実施形態においては、図示しないが、各環境重み372a〜hは、図8に示される要素が各環境重み372a〜hを1度に1回計算するように、順番に計算される。本明細書で説明されるように、図8に示される要素は、環境重み372aを計算するものとされる。
実施形態においては、比較器802a〜dは、調整されたしきい値376a〜dが環境距離370aより大きいか否かを判断し、それらの比較結果808a〜dをマルチプレクサ論理804へ送出する。環境距離370aは環境重み372aに対応し、環境距離370bは環境重み372bに対応する、などとなることに注意すべきである。比較結果808a〜dは1ビット値であり、環境距離372aを決定するために用いられるアドレスとして機能する。たとえば、環境距離370aが調整されたしきい値376aより大きいけれども、調整されたしきい値376b〜dよりも大きくない場合は、アドレスは1000である。この場合、結果値364bは、環境重み372aとして用いられる。これは、結果値364a〜eのうちの1つが環境重み372aになることになる。例として、結果値364a〜eは、それぞれ32、16、8、2および1である。2のべき乗の結果値364a〜eを有することは、さらなる乗算について余分なハードウェアを必要としないので、ゲートカウントを低減することに注意すべきである。また、小さい環境距離370a〜hが距離メトリックの意味でより近接した環境を表わすので、結果値364a〜eは降順であることにも注意すべきである。これは、中間画素値の環境から、距離メトリックの意味で離れた環境が、ノイズ除去された画素値374についてより小さい効果を有するように、環境重み372a〜hが環境距離370a〜hに反比例することになる。実施形態においては、結果値364a〜eは、8の最大ビット解像度を有し、レジスタ内に記憶される。以下の式が、環境重み372aを計算するために用いられる。
Figure 2011527463
ここで、RVa-eはそれぞれ結果値364a〜eであり、ATVa-dは調整されたしきい値376a〜dであり、MAXは環境距離370a〜hの最大ビット解像度によって決定された値より小さい1(one)である。例として、合計して1になる空間w値360a〜iおよび12ビットの画素値ビット解像度について、MAXは4095である。式(7)はいかなる環境重み372a〜hについての計算にも適用されることに注意すべきである。
図8に示された構造が、図7Aに示された構造と類似していることに注意すべきである。実施形態においては、図示されないが、重み計算機220およびしきい値調整器350は、それらの個別のタスクを達成するために、同じ構造を共有する。
代替的な実施形態においては、図示されないが、環境重み372a〜hは、より複雑な式を用いて計算される。例として、以下の5つの式が、環境距離370a〜hと環境重み372a〜hとの間の反比例関係を生成するために用いられ得る。
Figure 2011527463
ここで、σおよびaはいくつかの定数であり、各環境重み372a〜hおよび環境距離370a〜hの対をカバーするために、kは1から8までの値をとる。式(8)〜(12)は、実行例における図8の設計よりも多くのゲートカウントを必要とすることに注意すべきである。
一旦、環境重み327a〜hが決定されると、ノイズ除去された画素値374を見出すためのプロセスが起動される。図9〜図13は、ノイズ除去された画素計算機230のより詳細な図を提供し、ノイズ除去された画素値374の探索がどのように達成されるかを示す。しかしながら、中間画素値306の重みである中間重み418が、ノイズ除去された画素値374の探索に先立って必要とされる。第1の実施形態においては、中間重み418は、環境重み372a〜hの合計である環境重み合計412に基づく値である。この実施形態においては、環境重み合計412は、重み加算器402によって計算される。
図9は、本発明の実施形態に従う重み加算器402のより詳細な図である。図9に示されるように、重み加算器402は、加算器902a〜d、904a〜bおよび906を含む。加算器902a〜dは、環境重み372a〜hを受け、1度に2つの環境重み372a〜hを合計して第1の合計910a〜dを生成する。例として、環境重み372a〜hは、8ビットの最大ビット解像度を有し、これは第1の合計910a〜dが9ビットの最大ビット解像度を有することを意味する。加算器904a〜bは、1度に2回、第1の合計910a〜dを合計し、第2の合計912a〜bを生成する。実施形態においては、第2の合計912a〜bは、10ビットの最大ビット解像度を有する。最終的に、加算器906は、第2の合計912a〜bを合計して環境重み合計412を生成し、それは11ビットの最大ビット解像度を有する。実施形態においては、環境重み合計412は、最小の2のべき乗計算機406および中間重み計算機408の両方へ送られる。環境重み合計412を見出すために用いられる計算は、以下の式によって表わされる。
Figure 2011527463
ここで、Wkは環境重み372a〜hのうちの1つを表わす。
同時にあるいは異なるときに、最大重み識別器404が、最大環境重み416を計算する。図10は、本発明の実施形態に従う最大重み識別器404のより詳細な図である。図10に示されるように、最大重み識別器404は、比較器1002a〜d,1004a〜b、1006を含む。比較器1002a〜dの各々は、一対の環境重み372a〜hを受け、その対においてどちらの環境重み372a〜dがより大きいかを判断する。比較器1002a〜dは、より大きい環境重み372a〜hを、第1の最大値1010a〜dとして、比較器1004a〜bへ通過させる。比較器1004a〜bの各々は、その後、第1の最大値1010a〜dのうちのどちらがより大きいかを判断し、それらの結果を第2の最大値1012a〜bとして比較器1006へ通過させる。そして、比較器1006は、第2の最大値1012a〜bのうちのどちらがより大きいかを判断し、最大環境重み416を結果としてもたらす。第1の最大値1010a〜d、第2の最大値1012a〜bおよび最大環境重み416は、環境重み372a〜hと同じ最大ビット解像度を有することに注意すべきである。実施形態においては、最大環境重み416は中間重み計算機408へ送られる。最大環境重み416を見出すために用いられる計算は、以下の式によって表わされる。
Figure 2011527463
ここで、Wkは環境重み372a〜hのうちの1つを表わす。
ゲートカウントを最小化するために、中間重み418が決定される前に、最小の2のべき乗414が、最小の2のべき乗計算機406によって計算される。図11は、本発明の実施形態に従う最小の2のべき乗計算機406のより詳細な図である。図11に示されるように、最小の2のべき乗計算機406は、右バレルシフタ1102a〜kと、比較器1104a〜kと、反転器1106a〜kと、加算器1108とを含む。実施形態においては、環境重み合計412が、各右バレルシフタ1102a〜kによって受信され、示された数だけ右にビットシフトされてシフト値1110a〜kを生成する。たとえば、シフト値1110cは、2ビット右にビットシフトされた環境重み合計412と等価である。環境重み合計412の最大ビット解像度が11ビットの場合は、シフト値1110aの最大ビット解像度は11ビットであり、シフト値1110bの最大ビット解像度は10ビットであり、シフト値1110cの最大ビット解像度は11ビットである、といったようになる。
各シフト値110a〜kが、ゼロと等しいかどうかを判断するために、比較器1104a〜kによってチェックされ、1ビットの結果1112a〜kをもたらす。実施形態においては、結果1112a〜kは、それぞれのシフト値1110a〜kがゼロに等しい場合はhighであり、そうでない場合はlowである。これらの結果1112a〜kは、反転器1106a〜kによって反転され、ともに統合されて結果1114を形成する。例として、反転された結果1114は11ビットであり、反転された結果1112aは最下位ビットとして機能し、反転された結果1112kは最上位ビットとして機能する。
最終的に、加算器1108は、反転された結果1114に1を加算し、11ビットの最小の2のべき乗414をもたらす。最小の2のべき乗414を見出すために、いかなる実行可能な概略設計が用いられるので、図11は、限定されることを意味されたものではないことに注意すべきである。例として、より複雑な設計は、最小の2のべき乗414を決定するために、環境重み合計412の2を底とする対数を用いる。この場合においては、最小の2のべき乗414の計算は、以下の式によって表わされる。
MP2=2ceil(log2(weight sum)) (16)
ここで、ceilは、2を底とする対数の結果を丸めて、最も近い整数にしたものである。実施形態においては、最小の2のべき乗414は、中間重み計算機408に送られる。最小の2のべき乗414を用いて、中間重み計算機408は中間重み418を演算する。
図12A〜図12Bは、本発明の実施形態に従う中間重み計算機408のより詳細な図である。図12A〜図12Bに示されるように、中間重み計算機408は、比較器1202および1214と、マルチプレクサ論理1204および1218と、左バレルシフタ1210と、減算器1212および1220と、左バレルシフタ1222とを含む。中間重み418および可能性のある更新された最小の2のべき乗414を出力する前に、中間重み計算機408は、ノイズ除去された画素値374が、最終的に正しく計算されることを保証するために、いくつかの最終状況(end case)をチェックする。
図12Aは、最終状況をチェックするために用いられる第1の条件を示す。比較器1202は、最小の2のべき乗を合計しきい値366と比較して、どちらがより大きいかを判断し、比較器結果1206をマルチプレクサ論理1204へ出力する。実施形態においては、比較器結果1206は、どのデータ入力が中間の最小2のべき乗1208になるかを判定するために用いられるアドレスとして機能する、1ビットの値である。この場合においては、最小2のべき乗414および合計しきい値366は、マルチプレクサ論理1204へのデータ入力としても機能する。例として、最小2のべき乗414が合計しきい値366より大きい場合は、比較器結果1206はlowであり、結果として最小2のべき乗414が中間の最小2のべき乗1208になる。基本的に、中間の最小2のべき乗1208はマルチプレクサ論理1204のデータ入力のうちのより大きいほうになる。実施形態においては、最小2のべき乗414および合計しきい値366の両方は、11ビットの最大ビット解像度を有し、これは、中間の最小2のべき乗1208もまた11ビットの最大ビット解像度を有することを意味する。
第1の条件の目的は、各環境重み372a〜hが、たとえば1または2のような非常に低い値を受け、結果として低い環境重み合計412をもたらす最終状況を取り扱うことである。低い環境重み合計412は、以下に説明するように、環境重み372a〜hと中間重み418との加重平均に対する環境重み372a〜hの相対的なパーセンテージが高いような、最終的に低い中間重み418をもたらす。実施形態においては、環境重み372a〜hと中間重み418との加重平均に対する環境重み372a〜hの相対的なパーセンテージが、実際に望まれる。たとえば、環境重み372a〜hが0,0,0,0,0,1,1,1の値をそれぞれ受け、環境重み合計412は3であり、最小の2のべき乗414は4であり場合は、以下の式(18)によれば中間重み418は1であり、したがって、全体の加重平均のたった1/4になる。一方、たとえ、低い環境重み372a〜hが、それらの環境が中間画素の環境に近くないことを示すことを考慮して、そのような重みをこれらの画素に与えることが望ましくなくとも、その他の画素X1〜X9は3/4の割合を受ける。例として、合計しきい値366は16である。以下に示されるように、これは、中間重み418が、全体の加重平均の13/16になるという結果をもたらす。
図12Bは、最終状況をチェックするために用いられる第2の条件を示す。減算器1212は、中間の最小の2のべき乗1208から環境重み合計412を差し引き、その結果を比較器1214の入力aへ送出する。左バレルシフタ1210は、最大環境重み416を、低い重みしきい値368だけ左にビットシフトする。実施形態においては、低い重みしきい値368は、3ビットの最大ビット解像度を有し、レジスタ内に記憶される。そして、最大環境重み416は、7ビットと同じだけ左にビットシフトされる。ビットシフトされた最大環境重み416は、比較器1214の入力bへ送出される。
実施形態においては、比較器1214は、どちらの入力がより大きいかを判断し、比較器結果1216をマルチプレクサ論理1218へ送る。比較器結果1216は、1ビットの値であり、マルチプレクサ論理1218へのデータ入力を識別するアドレスとして機能する。入力1は1ビットだけ左にビットシフトされた中間の最小の2のべき乗1208であり、入力0は中間の最小の2のべき乗である。実施形態においては、入力0は、中間および最小の2のべき乗に一致する11ビットの最大ビット解像度を有するが、入力1は左へのビットシフトによる12ビットの最大ビット解像度を有する。比較器結果1216によって選ばれた入力は、更新された最小の2のべき乗420になり、ここで、更新された最小の2のべき乗420は、12ビットの最大ビット解像度を有する。基本的に、中間の最小の2のべき乗1208および環境重み合計412との間の差が、最大環境重み416が掛け合わされた低いしきい値368よりも大きい場合は、更新された最小の2のべき乗420は中間の最小の2のべき乗と同じままである。そうでなければ、更新された最小の2のべき乗420は、中間の最小の2のべき乗1208の2倍になる。
この条件の目的は、中間および2のべき乗1208と環境重み合計412との間の差が正の低い値であるような最終状況を取り扱うことである。式(18)を参照して以下に説明されるように、正の低い値は、中間重み4118が小さすぎる値になることを結果的にもたらす。たとえば、環境重み合計412は30であり、中間の2のべき乗1208は32である場合、中間重み418は2である。これは、第1の条件に関して上述したものと同様の問題を引き起こす。中間重み418がより高い値を受けることを保障するために、中間の2のべき乗1208はベースライン値と比較され、この場合においては、低い重みしきい値368が最大環境重み416と掛け合わされ、それが低くなりすぎる場合には調整される。以下の式は、図12A〜図12Bにおいて実行される演算を数値的に表す。
Figure 2011527463
ここで、第1の条件におけるMP2は最小の2のべき乗414であり、第2の条件におけるMP2は中間の最小の2のべき乗1208であり、STVは合計しきい値366であり、LWTVは低い重みしきい値368である。
一旦、更新された最小の2のべき乗420が見出されると、中間重み418が計算され得る。実施形態においては、減算器1220は、更新された最小の2のべき乗420から環境重み合計412を減算し、中間重み418を結果としてもたらす。以下の式は、中間重み418の計算を表すために用いられる。
9=MP2−Weight Sum (18)
ここで、MP2は更新された最小の2のべき乗420である。更新された最小の2のべき乗420が12ビットの最大ビット解像度を有し、かつ環境重み合計412が11ビットの最大ビット解像度を有するので、中間重み418は11ビットの最大ビット解像度を有する。実施形態においては、中間重み418および更新された最小の2のべき乗420の両方は、加重平均計算機410へ送られる。
第2の実施形態においては、図示されないが、中間重み418は、最大環境重み416の倍数の値に設定される。たとえば、以下の式は、中間重み418を見出すためのアルゴリズムを示す。
Figure 2011527463
ここで、bは、パラメータセレクタ340によってレジスタ内に記憶された、1,2,3,4などの整数である。実施形態においては、bは、ゲートカウントを低減するために、2のべき乗であることが好ましい。
式(19)は、中間重み418が、少なくともb回、その周囲の画素X1からX8の最高の重みを受けることを保障する。bの値は、ノイズ除去の所望のレベルに従って調整される。しかしながら、最終的な重みの合計は、たとえば、加重平均計算機410によって実行されるべき除算を必要とする2のべき乗である必要はない。
環境重み合計412がゼロの場合、中間重み418は1の値を受けることに注意すべきである。たとえば、これは、結果値364a〜eの少なくとも1つが0の場合に生じる。以下に説明されるように、除算演算を実行する必要なく、最終加重平均を正規化することがより容易になるので、更新された最小の2のべき乗420は2のべき乗であることに注意すべきである。
図13は、本発明の実施形態に従う加重平均計算機410のより詳細な図である。図13に示されるように、加重平均計算機410は、乗算器1304と、左バレルシフタ1306a〜hと、加算器1308a〜d,1310a〜b,1312および1314と、右バレルシフタ1316とを含む。図13における要素は、X1からX9の画素値の加重平均を計算するために用いられる設計を示す。
各左バレルシフタ1306a〜hは、入力として、中間画素近傍のうちの1つの画素値を利用し、画素のそれぞれの環境重み372a〜hの2を底とする対数だけ、各々を左にビットシフトし、結果として左シフト値1324a〜hをもたらす。たとえば、X1の画素値は、環境重み372aの2を底とする対数だけ左にビットシフトされ、左シフト値1324aを生成する。12ビットの画素値と仮定すると、2を底とする対数は、最大3ビットであり、各画素値が7ビットまで左にビットシフトされることを意味する。左シフト値1324a〜hは、その後、19ビットの最大ビット解像度を有する。
中間重み418は、2のべき乗である必要はないので、乗算器1304は左バレルシフタ1306a〜hと同じ機能を実行することが必要とされる。実施形態においては、乗算器1304は、中間画素値306であるX9を中間重み418と掛け合わせ、結果として乗算値1322をもたらす。中間画素値306は12ビットであり、かつ中間重み418は11ビットの最大ビット解像度を有するので、乗算値1322は、23ビットの最大ビット解像度を有する。
加算器1308a〜dは、第1の合計1326a〜dを見出すために、左シフト値1324a〜hの対を加算し、それは20ビットの最大ビット解像度を有する。加算器1310a〜bは、第1の合計1326a〜dを受け、21ビットの最大ビット解像度を有する第2の合計1328a〜bを結果としてもたらす。加算器1312は、第2の合計1328a〜bを合計して、22ビットの最大ビット解像度を有する第3の合計1330を計算する、その後、加算器1314は、第3の合計1330を乗算値1322へ加算し、その合計を右バレルシフタ1316に送出し、その合計は23ビットの最大ビット解像度を有する。この場合には、重みの合計が2048よりも大きくなるはずがないので、その合計は23ビットの最大ビット解像度を有することに注意すべきである。
最後に、右バレルシフタ1316は、その合計を、更新された最小の2のべき乗420の、2を底とする対数だけ右にビットシフトする。実施形態においては、2を底とする対数は4ビットの最大ビット解像度を有し、これは、その合計が16ビットと同じだけ右にビットシフトされることを意味する。右バレルシフタ1316の出力は、ノイズ除去された画素値374である。ビットシフト後、ノイズ除去された画素値374のビット解像度が、この場合は12ビットである他のすべての画素値のビット解像度よりも大きい場合は、ノイズ除去された画素値374は、他の画素値によって共有されるビット解像度に縮小される。加重平均計算は、以下の式によって表される。
Figure 2011527463
ここで、環境重み372a〜hおよび中間重み418は合計されて2のべき乗とされ、複雑な除算計算を回避する。
上述のように、パラメータセレクタ340によって決定される定数およびしきい値を設定することによって、ノイズ除去のレベルを制御することが可能である。例として、12ビットの画素解像度を仮定すると、以下のパラメータが、第1、第2、および第3のパラメータプロファイルのために用いられる。
Figure 2011527463
図14は、本発明の実施形態が実行され得るモバイル装置例1400についてのブロック図である。モバイル装置1400は、カメラアセンブリ1402と、カメラ・グラフィックスインターフェース1480と、通信回路1490とを備える。カメラアセンブリ1470は、カメラレンズ1436と、画像センサ1472と、画像プロセッサ1474とを含む。カメラレンズ1436は、単一のレンズまたは複数のレンズ群を備え、画像センサ1472上に光を集めるともに焦点を合わせる。画像センサ1472は、カメラレンズ1436によって集められかつ合焦された光によって形成された画像を捕らえる。画像センサ1472は、電荷結合素子(charge-coupled device:CCD)または相補型金属酸化半導体(complementary metal oxide semiconductor:CMOS)画像センサのような、従来型の画像センサ1472であり得る。画像プロセッサ1474は、メモリ1496内への後続の記憶のため、ディスプレイ1426への出力のため、および/または、通信回路1490による伝送のために、画像センサによって捕捉された生の(raw)画像データを処理する。画像プロセッサ1474は、当技術分野において周知の、画像データを処理するようにプログラムされた従来型のデジタル信号プロセッサであり得る。
画像プロセッサ1474は、カメラ・グラフィックスインターフェース1480を介して、通信回路1490とインターフェースする。通信回路1490は、アンテナ1492と、送受信器1494と、メモリ1496と、マイクロプロセッサ1492と、入力/出力回路1494と、音声処理回路1496と、ユーザインターフェース1497とを備える。送受信器1494は、信号を受信および送信するために、アンテナ1492と結合される。送受信器1492は、完全に機能的なセルラー無線送受信器であり、それは、グローバルシステム・フォー・モバイルコミュニケーション(Global System for Mobile Communications:GSM)、TIA/EIA−136、cdmaOne、cdma2000、UMTS、および広帯域CDMA(Wideband CDMA)として、一般的に知られた標準を含む、いかなる公知の標準に従って動作し得る。
画像プロセッサ1474は、センサ1472によって取得された画像を、本明細書で説明した1つまたはより多くの実施形態を用いて処理し得る。画像プロセッサ1474は、ハードウェア、ソフトウェア、または、ソフトウェアおよびハードウェアのいくつかの組み合わせによって実現され得る。たとえば、画像プロセッサ1474は、特定用途向け集積回路(application specific integrated circuit:ASIC)の一部として実現され得る。他の例として、画像プロセッサ1474は、本発明の1つまたはより多くの実施形態を実行するために、コンピュータ読取可能媒体上に記憶される指令にアクセスすることができるとともに、それらの指令をプロセッサ上で実行することができる。
マイクロプロセッサ1492は、メモリ1496内に記憶されたプログラムに従って、送受信器1494を含む、モバイル装置1400の動作を制御する。マイクロプロセッサ1492は、本明細書で開示された画像処理実施例の部分または全体を、さらに実行し得る。処理機能は、単一のマイクロプロセッサ、または複数のマイクロプロセッサで実行され得る。適当なマイクロプロセッサは、たとえば、汎用および専用の両方のマイクロプロセッサならびにデジタル信号プロセッサを含み得る。メモリ1496は、モバイル通信装置内のメモリの全体の階層を表し、ランダムアクセスメモリ(RAM)および読取専用メモリ(read-only memory:ROM)の両方を含み得る。動作のために必要とされるコンピュータプログラム指令およびデータは、EPROM、EEPROM、および/またはフラッシュメモリのような不揮発性メモリ内に記憶され、それらは、個別の装置、積層装置として実現され、またはマイクロプロセッサ1492とともに統合され得る。
入力/出力回路1494は、カメラ・グラフィックスインターフェース1480を介して、マイクロプロセッサ1492と、画像プロセッサ1474とのインターフェースをとる。カメラ・グラフィックスインターフェース1480は、さらに、本技術分野で公知の方法にしたがって、画像プロセッサ1474とユーザインターフェース1497とのインターフェースをとる。さらに、入力/出力回路1494は、通信回路1490の、マイクロプロセッサ1492、送受信器1494、音声処理回路1496、およびユーザインターフェース1497をインターフェースする。ユーザインターフェース1497は、ディスプレイ1426と、スピーカ1428と、マイクロフォン1438と、キーパッド1440とを含む。ディスプレイ1426は、表示部分の後面に配置され、操作者が、ダイアルされた数字、画像、呼び出された状態、メニューオプション、および他のサービス情報を見ることができるようにする。キーパッド1440は英数字キーパッドを含み、本技術分野において周知であるジョイスティック制御(図示せず)のようなナビゲーション制御を任意的に含み得る。さらに、キーパッド1440は、パームトップコンピュータまたはスマートフォンとともに用いられるような、完全クワーティ(QWERTY)配列キーボードを備え得る。キーパッド1440は、操作者が、数字のダイアル、指令の入力、およびオプションの選択ができるようにする。
マイクロフォン1438は、ユーザの話す言葉を、電気音声信号に変換する。音声処理回路1496は、マイクロフォン1438から、アナログ音声入力を受け入れ、これらの信号を処理し、入力/出力1494を介して送受信器1494へ処理された信号を提供する。送受信器1494によって受信された音声信号は、音声処理回路1496によって処理される。音声処理回路1496によって処理されることによって生成された基本アナログ出力信号は、スピーカ1428へ提供される。そして、スピーカ1428は、そのアナログ音声信号を、ユーザによって聞き取られ得る可聴信号に変換する。
当業者は、図14に示された1つまたはより多くの要素が組合わされ得ることを理解するであろう。たとえば、カメラ・グラフィックスインターフェース1480は図14においては分離された要素として示されるが、カメラ・グラフィックスインターフェース1480は、入力/出力回路1494と併合され得ることが理解されるであろう。さらに、マイクロプロセッサ1492、入力/出力回路1494、音声処理回路1496、画像プロセッサ1474、および/またはメモリ1496は、特別に設計された、特定用途向け集積回路(ASIC)1491に含まれ得る。
図15は、本発明の1つまたはより多くの実施形態が実行され得るコンピュータシステム1500を図示したブロック図である。コンピュータシステム1500は、バス1502または情報を通信する他の通信機構、およびバス1502に結合された情報を処理するためのプロセッサ1504を含む。コンピュータシステム1500は、バス1502に結合され、プロセッサ1504によって実行されるべき情報および指令を記憶するための、ランダムアクセスメモリ(RAM)または他の動的記憶装置のような、メインメモリ1506をさらに含む。メインメモリ1506は、プロセッサ1504によって実行されるべき指令の、実行中の一時的な変数や他の中間情報を記憶するためにも用いられ得る。コンピュータシステム1500は、バス1502に結合され、プロセッサ1504のための静的な情報および指令を記憶するための、読取専用メモリ(ROM)1508または他の静的記憶装置をさらに含む。磁気ディスクまたは光学ディスクのような記憶装置1510が、情報および指令を記憶するために設けられ、かつバス1502に結合される。
コンピュータシステム1500は、ブラウン管(CRT)のような、コンピュータユーザに対して情報を表示するためのディスプレイ1512に、バス1502を介して結合され得る。英数字および他のキーを含む入力装置1514は、プロセッサ1504への情報および命令選択を通信するために、バス1502へ結合される。他のタイプのユーザ入力装置は、マウス、トラックボール、またはカーソル方向キーのような、プロセッサ1504への情報および命令選択の決定を通信するとともにディスプレイ1512上のカーソルの動きを制御するための、カーソル制御1516である。この入力装置は、典型的に、第1の軸(たとえば、x軸)および第2の軸(たとえば、y軸)の2つの軸における2つの自由度を有し、その装置が平面状の位置を特定できるようにする。コンピュータシステム1500は、マイクロフォンまたはカメラのような、上述の実施形態を用いて処理され得る可聴音、静止画、または動画を提供するための音声/ビデオ入力装置1515をさらに含み得る。
本明細書に開示された様々な処理技術は、コンピュータシステム1500上のデータを処理するために実行され得る。本発明の一実施形態によれば、それらの技術は、メインメモリ1506内に含まれる1つまたはより多くの指令の、1つまたはより多くのシーケンスを実行するプロセッサ1504に応答して、コンピュータシステム1500によって実行される。このような指令は、記憶装置1510のような他の機械読取可能媒体からメインメモリ1506内に読み込まれ得る。メインメモリ1506内に含まれる指令のシーケンスの実行によって、プロセッサ1504は、本明細書に記載されたプロセスステップを実行する。代替的な実施形態においては、本発明を実行するためのソフトウェア指令に代えて、あるいはそれと組合わされて、ハードワイヤ回路が用いられ得る。このように、本発明の実施形態は、ハードウェア回路およびソフトウェアの特定の組み合わせに限定されない。
本明細書で使用される「機械読取可能媒体」の語句は、機械を特定の態様で動作させるデータを提供することに関与するいかなる媒体を称する。コンピュータシステム1500を用いて実行される実施形態においては、さまざまな機械読取可能媒体は、たとえば、プロセッサ1504に対して実行のための指令を提供することに関与する。このような媒体は、多くの形態を利用し、限定されないが、記憶媒体や伝送媒体を含む。記憶媒体は、不揮発性媒体および揮発性媒体の両方を含む。不揮発性媒体は、たとえば、記憶装置1510のような光学または磁気ディスクを含む。揮発性媒体は、メインメモリ1506のようなダイナミックメモリを含む。伝送媒体は、同軸ケーブル、銅線および光ファイバを含み、バス1502を備えるワイヤを含む。伝送媒体は、無線および赤外線データ通信の間に生成されるもののような、音波または光波の形態も利用し得る。すべてのこのような媒体は、媒体によって搬送される指令が、機械内にその指令を読み込む物理的な機構によって検出されることを可能にするための具体的なものでなくてはならない。
機械読取可能媒体の一般的な形態は、たとえば、フロッピディスク、フレキシブルディスク、ハードディスク、磁気テープ、またはその他の磁気媒体、CD−ROM、その他の光学媒体、パンチカード、紙テープ、穴のパターンを有するその他の物理媒体、RAM、PROM、EPROM、FLASH−EPROM、その他のメモリチップまたはカートリッジ、以降に説明されるような搬送波、あるいは、コンピュータが読み込みできるその他の媒体を含む。
機械読取可能媒体の様々な形態は、プロセッサ1504への実行のための1つまたはより多くの指令の1つまたはより多くのシーケンスを搬送することに関与され得る。たとえば、指令は、最初に、リモートコンピュータの磁気ディスク上に搬送され得る。リモートコンピュータは、その指令をダイナミックメモリ内に読込み、モデムを用いて電話回線を通してその指令を送信し得る。コンピュータシステム1500の場所のモデムは、電話回線上のデータを受信し、赤外線送信器を用いてそのデータを赤外線信号に変換し得る。赤外線検出器が赤外線信号で搬送されたデータを受信し、適当な回路がそのデータをバス1502上に配置し得る。バス1502はそのデータをメインメモリ1506に搬送し、そこからプロセッサ1504は指令を取り出して実行する。メインメモリ1506によって受信された指令は、プロセッサ1504による実行の前あるいは後のいずれかに、任意的に、記憶装置1510に記憶され得る。
コンピュータシステム1500は、バス1502に結合された通信インターフェース1518をさらに含む。通信インターフェース1518は、ローカルネットワーク1522に接続されるネットワークリンク1520に結合する双方向データ通信を提供する。たとえば、通信インターフェース1518は、デジタル総合サービスネットワーク(integrated services digital network:ISDN)、または電話回線の対応する型式へのデータ通信接続を提供するモデムであり得る。他の例としては、通信インターフェース1518は、互換LAN(compatible LAN)へのデータ通信接続を提供するローカルエリアネットワーク(LAN)カードであり得る。無線リンクもまた実行され得る。このような実行例において、通信インターフェース1518は、様々なタイプの情報を表わすデジタルデータストリームを搬送する、電気信号、電磁信号または光学信号を送受信する。
ネットワークリンク1520は、典型的に、1つまたはより多くのネットワークを通して、他のデータ装置にデータ通信を提供する。たとえば、ネットワークリンク1520は、ローカルネットワーック1522を通して、ホストコンピュータ1524またはインターネットサービスプロバイダ(Internet Service Provider:ISP)1526によって動作されるデータ機器への接続を提供し得る。ISP1526は、次に、現在、一般に「インターネット」1528と称される、ワールドワイドパケットデータ通信ネットワークを通して、データ通信サービスを提供する。ローカルネットワーク1522およびインターネット1528の両方は、デジタルデータストリームを搬送する、電気信号、電磁信号、または光学信号を用いる。デジタルデータを、コンピュータシステム1500へ、およびコンピュータシステム1500から搬送する、さまざまなネットワークを通じた信号、ならびに、ネットワークリンク1520上および通信インターフェース1518を通じた信号は、その情報を搬送する搬送波の例示的な形態である。
コンピュータシステム1500は、ネットワーク、ネットワークリンク1520、および通信インターフェース1518を通して、メッセージを送りかつプログラムコードを含むデータを受信する。インターネットの例においては、サーバ1530が、インターネット1528、ISP1526、ローカルネットワーク1522、および通信インターフェース1518を通して、アプリケーションプログラム用の要求されたコードを伝送し得る。
受信されたコードは、受信されると、プロセッサ1504によって実行され、および/または、後の実行のために、記憶装置1510または他の不揮発性記憶装置に記憶され得る。このようにして、コンピュータシステム1500は、搬送波の形式でアプリケーションコードを取得し得る。
本明細書に記載されるようなプログラムコードの実施形態によって処理されたデータは、限定されないが、A/V入力装置1515、記憶装置1510、および通信インターフェース1518を含むさまざまなソースから得られ得る。
図16は、本発明の実施形態に従う、画像ウィンドウの中間画素のためのノイズ除去された画素値を計算するための方法1600のフローチャートである。方法1600は本発明の実施形態に関して説明されるが、方法1600は、本発明に限定されることが意味されるものではなく、他の用途においても用いられ得る。一例においては、方法1600は、図3のノイズ除去された画素値374を計算するために用いられる。しかしながら、方法1600は、ノイズ除去された画素値374に限定されることが意味されるものではない。図16に示されるように、方法1600は、画像ウィンドウが受信されるステージ1602において開始する。実施形態においては、画像ウィンドウはISPチェーンによって処理され、かつ、ノイズ除去モジュールによって受信される画像の少なくとも一部である。画像ウィンドウは、行および列に配列される画素値で構成される。ステージ1602が完了すると、方法1600はステージ1604へ進む。
ステージ1604において、中間画素および中間画素に隣接する画素が認識される。隣接画素は、中間画素の1画素の範囲内にある画素である。実施形態においては、中間画素は8つの隣接画素を有する。中間画素と隣接画素との間の画素値の差が計算される。実施形態においては、これらの差は、所与の隣接画素の環境が、中間画素の環境に対して、どれだけ近いかまたは遠いかを数値的に説明し、環境距離を称される。ステージ1604が完了すると、方法1600はステージ1606へと続く。
ステージ1606において、環境重みを決定するために後に用いられるしきい値が調整され得る。実施形態においては、しきい値は、画像ウィンドウの信号レベルに基づいて調整される。ステージ1606が完了すると、方法1600はステージ1608へと続く。
第1の代替的な実施形態においては、図示されないが、ステージ1606は、ステージ1604の前に生じる。第2の代替的な実施形態においては、図示されないが、ステージ1604およびステージ1606は同時に生じ得る。
ステージ1608において、ステージ1604において計算された環境距離、およびステージ1606において調整されたしきい値が、各隣接画素についての環境重みを計算するために用いられる。実施形態においては、より小さい環境距離がより望ましいので、環境重みは、環境距離に反比例する。ステージ1608が完了すると、方法1600はステージ1610へと進む。
ステージ1610において、中間画素についての重みが決定される。実施形態においては、この重みは、隣接する画素の重みに依存する。たとえば、中間画素重みは、隣接画素重みの合計、最大隣接画素重み、および、隣接画素重みの合計より大きい最小の2のべき乗に依存する。ステージ1610が完了すると、方法1600はステージ1612へと続く。
ステージ1612において、ノイズ除去された画素値が計算される。実施形態においては、ノイズ除去された画素値は、すべての重みの加重平均に基づいている。たとえば、隣接画素および中間画素の各重みは、それらのそれぞれの画素値と掛け合わされ、かつ合計される。そして、その合計は、重みの全合計によって除される。実施形態においては、この計算されたノイズ除去された画素値は、画像ウィンドウにおける中間画素のもとの画素値を置き換える。ステージ1612が完了すると、方法1600はステージ1614へと進む。
ステージ1614において、画像ウィンドウの源となる画像内のさらなる画素が、ノイズ除去される必要があるか否かを判断するために、状態が検査される。より多くの画素がノイズ除去される必要がある場合は、方法1600は、ステージ1602へ戻り、新しい画像ウィンドウが受信される。ノイズ除去されるべき画像がもはやない場合は、方法1600は終了する。
上述の明細書において、本発明の実施形態が、実行例から実行例へと変化し得る、多くの特定の詳細に関して説明された。このように、何が発明であるか、および、何が出願人によって発明であると意図されるかの、唯一のそして独占的な指標は、この出願から生じる一群の特許請求の範囲であり、このような特許請求の範囲が生じる特定の形態において、どのような後続の補正をも含む。このような特許請求の範囲に含まれる語句について、本明細書に明示的に記載されたいかなる定義も、特許請求の範囲において用いられるような語句の意味を規定するものとする。したがって、特許請求の範囲に明示的には記載されていない、限定、要素、特性、特徴、利点、または特質は、そのような方法においても、このような特許請求の範囲を限定すべきものではない。明細書および図面は、したがって、限定的意味というよりは、例示的な意味であると考えられるべきである。

Claims (39)

  1. 画像処理装置において実行され、表示されるべき画像のノイズを低減するとともにコントラストを維持するための方法であって、
    前記画像は画素を有し、
    前記方法は、
    (a)第1の画素の値を、1組の他の画素の値と比較するステップを備え、
    前記第1の画素および前記1組の他の画素の各々は第1の色であり、
    前記方法は、
    (b)前記第1の画素に隣接する画素の値を、前記1組の他の画素に隣接するさらなる画素の値と比較するステップをさらに備え、
    前記第1の画素に隣接する画素および前記1組の他の画素に隣接するさらなる画素は、前記第1の色、第2の色、および第3の色のうちの1つであり、
    前記方法は、
    (c)前記1組の他の画素における各画素について、ステップ(a)および(b)の結果に基づいて重みを決定するステップと、
    (d)前記1組の他の画素における各画素の前記重みに基づいて、ノイズ除去された画素値を計算するステップと、
    (e)前記第1の画素の値を前記ノイズ除去された画素値に置換するステップとをさらに備える、方法。
  2. ステップ(d)は、
    前記1組の他の画素における各画素の前記重みの合計をとるステップと、
    前記重みの合計よりも大きい、最小の2のべき乗を計算するステップと、
    前記最小の2のべき乗および前記重みの合計の関数として、前記ノイズ除去された画素値を計算するステップとを含む、請求項1に記載の方法。
  3. 前記最小の2のべき乗は、前記最小の2のべき乗と前記重みの合計との間の差が予め定められた値よりも小さい場合は、前記ノイズ除去された画素値を計算する前に調整される、請求項2に記載の方法。
  4. 前記最小の2のべき乗は、前記最小の2のべき乗が予め定められた値よりも小さい場合は、前記ノイズ除去された画素値を計算する前に調整される、請求項2に記載の方法。
  5. 前記ノイズ除去された画素値を計算するステップは、
    前記1組の他の画素における各画素の重みと前記第1の画素の重みとの、加重平均を計算するステップを含み、
    前記第1の画素の重みは、前記最小の2のべき乗および前記重みの合計に基づき、
    前記ノイズ除去された画素値を計算するステップは、
    前記ノイズ除去された画素値を前記加重平均と等しく設定するステップをさらに含む、請求項2に記載の方法。
  6. 前記加重平均は、レジスタ内のビットをシフトすることによって計算される、請求項5に記載の方法。
  7. ステップ(a)は、
    前記1組の他の画素における各画素について、前記第1の画素の値と前記1組の他の画素における各画素の値との間の差を計算するステップを含む、請求項1に記載の方法。
  8. ステップ(b)は、
    前記第1の画素に隣接する各画素について、前記第1の画素に隣接する画素の値と前記1組の他の画素に隣接する対応するさらなる画素の値との間の差を計算するステップを含み、
    前記第1の画素に対する前記第1の画素に隣接する画素の位置、および、前記1組の他の画素に対する前記1組の他の画素に隣接するさらなる画素の位置は、前記第1の画素に隣接するどの画素が、前記1組の他の画素に隣接するさらなる画素のどの画素に対応するかを決定する、請求項7に記載の方法。
  9. ステップ(a)および(b)の計算された差は、空間重み行列に基づく、請求項8に記載の方法。
  10. ステップ(c)は、
    しきい値を調整するステップを含み、
    前記調整は信号レベルに基づき、
    前記信号レベルは、前記第1の画素の値および前記1組の他の画素の値のうちの少なくとも1つに依存し、
    ステップ(c)は、
    前記調整されたしきい値と前記ステップ(a)および(b)の計算された差とを比較するステップと、
    前記比較に基づいて、前記1組の他の画素における各画素の前記重みを決定するステップとをさらに含む、請求項8に記載の方法。
  11. 前記画像は、細部まで詳細な領域(detail-rich area)を含み、
    前記細部まで詳細な領域は、前記第1の画素および前記1組の他の画素を含む、請求項1に記載の方法。
  12. (f)前記画像の前記細部まで詳細な領域における全ての画素、ならびに、前記画像の端部および輪郭上およびその付近の全ての画素について、ステップ(a)から(e)を繰り返すステップをさらに備える、請求項11に記載の方法。
  13. (g)前記画像処理装置によるさらなる処理のために前記画像を出力するステップをさらに備える、請求項12に記載の方法。
  14. 表示されるべき画像のノイズを低減するとともにコントラストを維持するためのシステムであって、
    前記画像は画素を有し、
    前記システムは、
    第1の画素の値を1組の他の画素の値と比較するとともに、前記第1の画素に隣接する画素の値を前記1組の他の画素に隣接するさらなる画素の値と比較する距離計算機を備え、
    前記第1の画素および前記1組の他の画素の各々は第1の色であり、
    前記第1の画素に隣接する画素および前記1組の他の画素に隣接するさらなる画素は、前記第1の色、第2の色、および第3の色のうちの1つであり、
    前記システムは、
    前記1組の他の画素における各画素について、前記距離比較器の結果に基づいて重みを決定する重み計算機と、
    前記1組の他の画素における各画素の前記重みに基づいてノイズ除去された画素値を計算するとともに、前記第1の画素の値を前記ノイズ除去された画素値に置換する、ノイズ除去された画素計算機とをさらに備える、システム。
  15. 前記ノイズ除去された画素計算機は、
    前記1組の他の画素における各画素の前記重みの合計をとる重み加算器と、
    前記重みの合計よりも大きい、最小の2のべき乗を計算する、最小の2のべき乗計算機と、
    前記最小の2のべき乗および前記重みの合計の関数として、前記ノイズ除去された画素値を計算する加重平均計算機とを含む、請求項14に記載のシステム。
  16. 前記ノイズ除去された画素計算機は、
    前記最小の2のべき乗と前記重みの合計との間の差が予め定められた値よりも小さい場合は、前記加重平均計算機が前記ノイズ除去された画素値を計算する前に、前記最小の2のべき乗を調整する、中間重み計算機をさらに含む、請求項15に記載のシステム。
  17. 前記ノイズ除去された画素計算機は、
    前記最小の2のべき乗が予め定められた値よりも小さい場合は、前記加重平均計算機が前記ノイズ除去された画素値を計算する前に、前記最小の2のべき乗を調整する中間重み計算機をさらに含む、請求項15に記載のシステム。
  18. 前記加重平均計算機は、前記1組の他の画素における各画素の重みと前記第1の画素の重みとの加重平均を計算し、前記第1の画素の重みは、前記最小の2のべき乗および前記重みの合計に基づいており、そして前記ノイズ除去された画素値を前記加重平均と等しく設定する、請求項15に記載のシステム。
  19. 前記加重平均計算機は、レジスタ内のビットをシフトすることによって前記加重平均を計算する、請求項18に記載のシステム。
  20. 前記距離計算機は、前記1組の他の画素における各画素について、前記第1の画素の値と前記1組の他の画素における各画素の値との間の差を計算する、請求項14に記載のシステム。
  21. 前記距離計算機は、前記第1の画素に隣接する各画素について、前記第1の画素に隣接する各画素の値と前記1組の他の画素に隣接する対応するさらなる画素の値との間の差を計算し、
    前記第1の画素に対する前記第1の画素に隣接する画素の位置、および、前記1組の他の画素に対する前記1組の他の画素に隣接するさらなる画素の位置は、前記第1の画素に隣接するどの画素が、前記1組の他の画素に隣接するさらなる画素のどの画素に対応するかを決定する、請求項20に記載のシステム。
  22. 前記距離計算機によって計算された差は、空間重み行列に基づく、請求項21に記載のシステム。
  23. 前記重み計算機は、しきい値を調整するバレルシフタを含み、
    前記調整は信号レベルに基づき、
    前記信号レベルは、前記第1の画素の値および前記1組の他の画素の値のうちの少なくとも1つに依存し、
    前記重み計算機は、
    前記調整されたしきい値と前記距離計算機によって計算された差とを比較する比較器と、
    前記比較器の結果に基づいて、前記1組の他の画素における各画素の前記重みを決定するマルチプレクサ論理とをさらに含む、請求項21に記載のシステム。
  24. 前記画像は、細部まで詳細な領域を含み、
    前記細部まで詳細な領域は、前記第1の画素および前記1組の他の画素を含む、請求項14に記載のシステム。
  25. 前記距離計算機、前記重み計算機、および前記ノイズ除去された画素計算機は、前記画像の前記細部まで詳細な領域における全ての画素、ならびに、前記画像の端部および輪郭上およびその付近の全ての画素を評価する、請求項24に記載のシステム。
  26. 前記ノイズ除去された画素計算機は、さらなる処理のために前記画像を出力する、請求項25に記載のシステム。
  27. 演算装置で用いるためのコンピュータプログラム製品であって、
    前記コンピュータプログラム製品は、
    画像プロセッサに、表示されるべき画像のノイズを低減させるとともにコントラストを維持させるための、その上にコンピュータ読取可能なプログラムコードを有する、有形のコンピュータで使用可能な媒体を備え、
    前記画像は画素を有し、
    前記コンピュータ読取可能なプログラムコードは、
    第1の画素の値を1組の他の画素の値と比較するとともに、前記第1の画素に隣接する画素の値を前記1組の他の画素に隣接するさらなる画素の値と比較する距離計算機を提供するための第1のコンピュータ読取可能なプログラムコードを含み、
    前記第1の画素および前記1組の他の画素の各々は第1の色であり、
    前記第1の画素に隣接する画素および前記1組の他の画素に隣接するさらなる画素は、前記第1の色、第2の色、および第3の色のうちの1つであり、
    前記1組の他の画素における各画素について、前記距離比較器の結果に基づいて重みを決定する重み計算機を提供するための第2のコンピュータ読取可能なプログラムコードと、
    前記1組の他の画素における各画素の前記重みに基づいて、ノイズ除去された画素値を計算するとともに、前記第1の画素の値を前記ノイズ除去された画素値に置換する、ノイズ除去された画素計算機を提供するための第3のコンピュータ読取可能なプログラムコードとをさらに含む、コンピュータプログラム製品。
  28. 前記ノイズ除去された画素は、
    前記1組の他の画素における各画素の前記重みの合計をとる重み加算器と、
    前記重みの合計よりも大きい最小の2のべき乗を計算する最小の2のべき乗計算機と、
    前記最小の2のべき乗および前記重みの合計の関数として、前記ノイズ除去された画素値を計算する加重平均計算機とを含む、請求項27に記載のコンピュータプログラム製品。
  29. 前記ノイズ除去された画素計算機は、
    前記最小の2のべき乗と前記重みの合計との間の差が予め定められた値よりも小さい場合は、前記加重平均計算機が前記ノイズ除去された画素値を計算する前に、前記最小の2のべき乗を調整する中間重み計算機をさらに含む、請求項28に記載のコンピュータプログラム製品。
  30. 前記加重平均計算機は、前記1組の他の画素における各画素の重みと前記第1の画素の重みとの加重平均を計算し、前記第1の画素の重みは、前記最小の2のべき乗および前記重みの合計に基づいており、そして前記ノイズ除去された画素値を前記加重平均と等しく設定する、請求項28に記載のコンピュータプログラム製品。
  31. 前記加重平均計算機は、前記1組の他の画素における各画素の重みと前記第1の画素の重みとの加重平均を計算し、前記第1の画素の重みは、前記最小の2のべき乗および前記重みの合計に基づいており、そして前記ノイズ除去された画素値を前記加重平均と等しく設定する、請求項28に記載のコンピュータプログラム製品。
  32. 前記加重平均計算機は、レジスタ内のビットをシフトすることによって前記加重平均を計算する、請求項31に記載のコンピュータプログラム製品。
  33. 前記距離計算機は、前記1組の他の画素における各画素について、前記第1の画素の値と前記1組の他の画素における各画素の値との間の差を計算する、請求項27に記載のコンピュータプログラム製品。
  34. 前記距離計算機は、前記第1の画素に隣接する各画素について、前記第1の画素に隣接する画素の値と前記1組の他の画素に隣接する対応するさらなる画素の値との間の差を計算し、
    前記第1の画素に対する前記第1の画素に隣接する画素の位置、および、前記1組の他の画素に対する前記1組の他の画素に隣接するさらなる画素の位置は、前記第1の画素に隣接するどの画素が、前記1組の他の画素に隣接するさらなる画素のどの画素に対応するかを決定する、請求項33に記載のコンピュータプログラム製品。
  35. 前記距離計算機によって計算された差は、空間重み行列に基づく、請求項34に記載のシステム。
  36. 前記重み計算機は、しきい値を調整するバレルシフタを含み、
    前記調整は信号レベルに基づき、
    前記信号レベルは、前記第1の画素の値および前記1組の他の画素の値のうちの少なくとも1つに依存し、
    前記重み計算機は、
    前記調整されたしきい値と前記距離計算機によって計算された差とを比較する比較器と、
    前記比較器の結果に基づいて、前記1組の他の画素における各画素の前記重みを決定するマルチプレクサ論理とをさらに含む、請求項34に記載のコンピュータプログラム製品。
  37. 前記画像は、細部まで詳細な領域を含み、
    前記細部まで詳細な領域は、前記第1の画素および前記1組の他の画素を含む、請求項27に記載のコンピュータプログラム製品。
  38. 前記距離計算機、前記重み計算機、および前記ノイズ除去された画素計算機は、前記画像の前記細部まで詳細な領域における全ての画素、ならびに、前記画像の端部および輪郭上およびその付近の全ての画素を評価する、請求項37に記載のコンピュータプログラム製品。
  39. 前記ノイズ除去された画素計算機、さらなる処理のために前記画像を出力する、請求項38に記載のコンピュータプログラム製品。
JP2011512240A 2008-06-06 2009-06-05 画像のコントラストを維持しながらノイズを低減するための技術 Active JP5653913B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US5945008P 2008-06-06 2008-06-06
US61/059,450 2008-06-06
PCT/IB2009/006257 WO2009147535A1 (en) 2008-06-06 2009-06-05 Techniques for reducing noise while preserving contrast in an image

Publications (2)

Publication Number Publication Date
JP2011527463A true JP2011527463A (ja) 2011-10-27
JP5653913B2 JP5653913B2 (ja) 2015-01-14

Family

ID=41103553

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011512240A Active JP5653913B2 (ja) 2008-06-06 2009-06-05 画像のコントラストを維持しながらノイズを低減するための技術

Country Status (5)

Country Link
US (1) US8723879B2 (ja)
EP (1) EP2297695B1 (ja)
JP (1) JP5653913B2 (ja)
KR (1) KR101526031B1 (ja)
WO (1) WO2009147535A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013518527A (ja) * 2010-01-29 2013-05-20 イーストマン コダック カンパニー 加重画素値差分に基づくcfa画像デノイズ
JP2013529400A (ja) * 2010-01-29 2013-07-18 インテレクチュアル ベンチャーズ ファンド 83 エルエルシー 色フィルタアレイ画像反復デノイズ
JP2020169994A (ja) * 2019-04-03 2020-10-15 メクウィンズ, エセ.アー.Mecwins, S.A. バイオマーカを光学的に検出するための方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8723879B2 (en) 2008-06-06 2014-05-13 DigitalOptics Corporation Europe Limited Techniques for reducing noise while preserving contrast in an image
US8879841B2 (en) * 2011-03-01 2014-11-04 Fotonation Limited Anisotropic denoising method
US20130027416A1 (en) * 2011-07-25 2013-01-31 Karthikeyan Vaithianathan Gather method and apparatus for media processing accelerators
US8891866B2 (en) * 2011-08-31 2014-11-18 Sony Corporation Image processing apparatus, image processing method, and program
TWI516133B (zh) * 2012-01-18 2016-01-01 聯詠科技股份有限公司 影像處理裝置及方法
TW201336303A (zh) * 2012-02-24 2013-09-01 Htc Corp 影像擷取系統及應用於影像擷取系統的影像處理方法
US20130329996A1 (en) * 2012-06-10 2013-12-12 Apple Inc. Method and system for auto-enhancing photographs with tonal response curves
US9854138B2 (en) * 2012-09-20 2017-12-26 Gyrus Acmi, Inc. Fixed pattern noise reduction
US9712178B2 (en) * 2013-05-03 2017-07-18 Texas Instruments Incorporated Dynamic resolution adjustment for digital converters
KR102145209B1 (ko) * 2014-02-12 2020-08-18 삼성전자주식회사 플래시 장치, 영상 촬영 장치, 및 방법
US10262399B2 (en) * 2017-01-09 2019-04-16 Samsung Electronics Co., Ltd. Image denoising with color-edge contrast preserving
CN109300077B (zh) * 2017-07-24 2023-03-28 厦门雅迅网络股份有限公司 动态信息隐写方法及计算机可读存储介质
KR102614088B1 (ko) 2018-08-06 2023-12-18 삼성전자주식회사 이미지 신호 프로세서 및 이미지 신호 프로세서를 포함하는 전자 장치

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003153290A (ja) * 2001-08-31 2003-05-23 Stmicroelectronics Srl ベイヤーパターン画像データ用ノイズフィルタ
EP1315367A2 (en) * 2001-11-13 2003-05-28 Nokia Corporation Method and system for improving color images
JP2006033473A (ja) * 2004-07-16 2006-02-02 Nikon Corp 画像処理装置、および画像処理プログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6633683B1 (en) * 2000-06-26 2003-10-14 Miranda Technologies Inc. Apparatus and method for adaptively reducing noise in a noisy input image signal
US20030026495A1 (en) * 2001-03-07 2003-02-06 Gondek Jay Stephen Parameterized sharpening and smoothing method and apparatus
US6983079B2 (en) * 2001-09-20 2006-01-03 Seiko Epson Corporation Reducing blocking and ringing artifacts in low-bit-rate coding
US7430334B2 (en) * 2003-07-31 2008-09-30 Hewlett Packard Development Company, L.P. Digital imaging systems, articles of manufacture, and digital image processing methods
US7616829B1 (en) * 2003-10-29 2009-11-10 Apple Inc. Reducing undesirable block based image processing artifacts by DC image filtering
US20050100235A1 (en) * 2003-11-07 2005-05-12 Hao-Song Kong System and method for classifying and filtering pixels
US7822286B2 (en) * 2003-11-07 2010-10-26 Mitsubishi Electric Research Laboratories, Inc. Filtering artifacts in images with 3D spatio-temporal fuzzy filters
CA2616875A1 (en) * 2004-07-30 2006-02-02 Algolith Inc. Apparatus and method for adaptive 3d artifact reducing for encoded image signal
US7657098B2 (en) * 2005-05-02 2010-02-02 Samsung Electronics Co., Ltd. Method and apparatus for reducing mosquito noise in decoded video sequence
JP4763079B2 (ja) * 2006-04-11 2011-08-31 トムソン ライセンシング コンテンツ適応型のフィルタ技法
US7889207B2 (en) * 2007-02-08 2011-02-15 Nikon Corporation Image apparatus with image noise compensation
US7983503B2 (en) * 2007-05-25 2011-07-19 Zoran Corporation Advanced noise reduction in digital cameras
US8254716B2 (en) * 2007-12-12 2012-08-28 Intel Corporation Method for adaptive image enhancement
US8723879B2 (en) 2008-06-06 2014-05-13 DigitalOptics Corporation Europe Limited Techniques for reducing noise while preserving contrast in an image
US8391628B2 (en) * 2010-12-16 2013-03-05 Stmicroelectronics Asia Pacific Pte Ltd. Directional anti-aliasing filter
US8879841B2 (en) * 2011-03-01 2014-11-04 Fotonation Limited Anisotropic denoising method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003153290A (ja) * 2001-08-31 2003-05-23 Stmicroelectronics Srl ベイヤーパターン画像データ用ノイズフィルタ
EP1315367A2 (en) * 2001-11-13 2003-05-28 Nokia Corporation Method and system for improving color images
JP2006033473A (ja) * 2004-07-16 2006-02-02 Nikon Corp 画像処理装置、および画像処理プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN5011004374; HUNG-YI LO: 'DIRECTIONAL WEIGHTING-BASED DEMOSAICKING ALGORITHM FOR NOISY CFA ENVIRONMENTS' INTERNATIONAL CONFERENCE ON MULTIMEDIA AND EXPO , 20060701, P489-492, IEEE *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013518527A (ja) * 2010-01-29 2013-05-20 イーストマン コダック カンパニー 加重画素値差分に基づくcfa画像デノイズ
JP2013529400A (ja) * 2010-01-29 2013-07-18 インテレクチュアル ベンチャーズ ファンド 83 エルエルシー 色フィルタアレイ画像反復デノイズ
JP2020169994A (ja) * 2019-04-03 2020-10-15 メクウィンズ, エセ.アー.Mecwins, S.A. バイオマーカを光学的に検出するための方法
JP7467205B2 (ja) 2019-04-03 2024-04-15 メクウィンズ,エセ.アー. バイオマーカを光学的に検出するための方法

Also Published As

Publication number Publication date
KR101526031B1 (ko) 2015-06-04
JP5653913B2 (ja) 2015-01-14
US8723879B2 (en) 2014-05-13
EP2297695A1 (en) 2011-03-23
US20110090240A1 (en) 2011-04-21
EP2297695B1 (en) 2018-08-08
WO2009147535A1 (en) 2009-12-10
KR20110031433A (ko) 2011-03-28

Similar Documents

Publication Publication Date Title
JP5653913B2 (ja) 画像のコントラストを維持しながらノイズを低減するための技術
KR101313911B1 (ko) 이미지 처리 방법 및 장치
US8537234B2 (en) Image restoration with enhanced filtering
JP5060447B2 (ja) ノイズキャンセル処理回路および固体撮像装置
US20090077359A1 (en) Architecture re-utilizing computational blocks for processing of heterogeneous data streams
US20080231732A1 (en) Streaking correction signal generating circuit, streaking correction signal generating method, program, streaking correcting circuit, and imaging device
CN107395991B (zh) 图像合成方法、装置、计算机可读存储介质和计算机设备
JP2006186965A (ja) 画素補間方法および画像判定方法
JP2006080852A (ja) 画像処理装置、電子カメラ、スキャナ、画像処理方法、および画像処理プログラム
KR101225056B1 (ko) 이미지 센서 노이즈 저감 장치 및 방법
JP2011203814A (ja) 画像処理装置および方法、プログラム
JP2013218487A (ja) 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
KR20160112226A (ko) 이미지 처리 장치 및 이를 포함하는 노이즈 제거 시스템
EP1394742A1 (en) Method for filtering the noise of a digital image sequence
US8737758B2 (en) Apparatus and method of reducing noise
US20060017824A1 (en) Image processing device, image processing method, electronic camera, and scanner
CN113273180B (zh) 图像处理装置和方法
JP2018185586A (ja) 画像処理装置および画像処理方法、撮像装置
US8705883B2 (en) Noise reduction device and noise reduction method
JP4380399B2 (ja) 撮像装置、ノイズリダクション装置およびノイズリダクション方法並びにプログラム
JP5103580B2 (ja) 画像処理装置およびデジタルカメラ
KR102282464B1 (ko) 영상 처리 장치 및 영상 처리 방법
JPH11252373A (ja) 画像処理装置及びコンピュータ読み取り可能な記憶媒体
JP4062329B2 (ja) 信号処理装置および方法
JP2007228259A (ja) 信号処理装置及び撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120529

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130619

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141021

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141119

R150 Certificate of patent or registration of utility model

Ref document number: 5653913

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D04

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250