JP2016514936A - 近赤外ガイドイメージノイズ除去 - Google Patents
近赤外ガイドイメージノイズ除去 Download PDFInfo
- Publication number
- JP2016514936A JP2016514936A JP2016507589A JP2016507589A JP2016514936A JP 2016514936 A JP2016514936 A JP 2016514936A JP 2016507589 A JP2016507589 A JP 2016507589A JP 2016507589 A JP2016507589 A JP 2016507589A JP 2016514936 A JP2016514936 A JP 2016514936A
- Authority
- JP
- Japan
- Prior art keywords
- image
- visible light
- nir
- scale map
- gradation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 claims abstract description 128
- 239000013598 vector Substances 0.000 claims abstract description 108
- 238000003384 imaging method Methods 0.000 claims abstract description 34
- 238000000701 chemical imaging Methods 0.000 claims abstract description 28
- 238000009499 grossing Methods 0.000 claims description 16
- 238000001228 spectrum Methods 0.000 claims description 2
- 230000008569 process Effects 0.000 description 44
- 230000006870 function Effects 0.000 description 18
- 238000012545 processing Methods 0.000 description 14
- 238000003860 storage Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 7
- 230000009021 linear effect Effects 0.000 description 7
- 238000012546 transfer Methods 0.000 description 6
- 238000013459 approach Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000009977 dual effect Effects 0.000 description 4
- 230000010365 information processing Effects 0.000 description 4
- 238000005457 optimization Methods 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000003863 fast low-angle shot imaging Methods 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000004069 differentiation Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000002245 particle Substances 0.000 description 2
- 238000004321 preservation Methods 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 241000130993 Scarabaeus <genus> Species 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000002425 crystallisation Methods 0.000 description 1
- 230000008025 crystallization Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 239000010437 gem Substances 0.000 description 1
- 229910001751 gemstone Inorganic materials 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G06T5/70—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/21—Indexing scheme for image data processing or generation, in general involving computational photography
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20012—Locally adaptive
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
Abstract
Description
[0001]
本開示は、ノイズ除去プロセスを含むイメージングシステムおよび方法に関連する。特に、本開示は、近赤外イメージを使用して、ノイズ除去プロセスをガイドするシステムおよび方法に関連する。
[0002]
低照度条件のもとで高品質の写真やビデオを撮ることは、難題となることがある。十分な周辺光なしでピクチャの品質を高めるために、撮影者には、一般的に、4つのオプションがある。第1のオプションは、イメージを捕捉するときに、高いISOを使用することである。センサ利得を増加させると、有効に信号強度を増加させることができ、短い露光時間内で明るいイメージを得ることができる。しかしながら、同様に、イメージノイズが必然的に増加されるので、信号対ノイズ比(SNR)は改善されない。
第2のオプションは、広い口径を使用して、イメージを捕捉することである。より多くの光がカメラレンズを通過できるようにすることは、イメージ品質を改善するための非常に単純明快な方法である。しかしながら、口径サイズを変更することは、被写界深度にも影響する。さらに、小型形態の要因、例えば、セル電話機のカメラに対応するように、センサおよびレンズが構築されているとき、効果は非常に限定される。
第3のオプションは、長い露光時間を使用して、イメージを捕捉することである。延長された露光時間は、SNRを増加させることができるが、捕捉されたイメージにおいて、望ましくない動きのボケを増加させるかもしれない。
第4のオプションは、鮮明な、ノイズの無いイメージを取得するために、シーンに対して、フラッシュまたは他の強い人工光を用いることである。しかしながら、フラッシュ光の色温度および強度は、普通、周辺光のそれらとはかなり異なり、フラッシュの使用は、雰囲気を台無しにして、赤目や、望ましくない反射や、不快な影や、および、強い光のハイライトと反射のような、望まれないアーティファクトをもたらすかもしれない。
上記の4つのオプションから、撮影者は、普通、高いISOイメージを使用し、捕捉されたイメージに対してノイズ減少を適用することを好む。イメージノイズ除去は、集中的に研究されている問題であり、多数の方法が存在する。しかしながら、最新技術のイメージノイズ除去方法を用いてさえ、特にノイズレベルが高いときに、高品質のノイズがない写真を取得することは、依然として非常に困難である。
従来の単一のイメージノイズ除去解決法は、いくつかの異なる方法からなる。イメージフィルタリングベースの方法は、ノイズのあるイメージの一部分を選択的に平滑化する。ウェーブレットベースの方法は、ウェーブレット係数の慎重な縮減に基づいている。イメージ先行ベースの方法は、ノイズの無いイメージからディクショナリを習得し、ディクショナリ中のエレメントの疎線形の組み合わせを使用して、ノイズの無いイメージを近似することによって、イメージをノイズ除去する。より最近のアプローチは、本来のイメージの「局所的でない」特性を活用する。本来のイメージ中の小さなパッチは、イメージ内で繰り返す傾向がある。方法の最後のクラスでは、BM3Dが、単一のイメージノイズ除去における最新技術をよく表している。しかしながら、単一のイメージノイズ除去アプローチで共通である根本的な問題は、特に、より精細なイメージ詳細に関して、単一のイメージノイズ除去アプローチが、ノイズ信号と、オリジナルのイメージ信号とを識別できないことである。よって、これらのアプローチは、比較的低いノイズレベルで、イメージに対して適度に良品質の結果を発生させるが、一般的に、高ノイズレベルを含むイメージに対して、多くのアーティファクトを有する、過度に平滑化された結果を生成させる。
上記で説明した単一のイメージノイズ除去アプローチの制限を克服する試みにおいて、デュアルイメージ方法は、ノイズ除去プロセスをガイドするために、別のイメージをもたらす。同一のシーンの、2つのイメージが捕捉される。その後、イメージ構造をよりよく保存するために、第2のイメージのガイダンスを使用して第1のイメージのイメージフィルタリングが適用され、精細なイメージ詳細を向上させるために、イメージ詳細転送が適用されてもよい。例えば、第1のイメージとは異なるライティング条件のもとでガイダンスイメージを捕捉してもよく、したがって、ガイダンスイメージは、イメージシーンの異なるレベルの詳細を含んでいるかもしれない。ガイダンスイメージ中の追加の詳細を使用して、第1のイメージの品質を向上させてもよい。デュアルイメージノイズ除去方法の第1のタイプは、ガイダンスイメージとして可視フラッシュイメージを使用する。しかしながら、この方法は、弱いエッジを容易にボケさせて、ガイダンスイメージからのアーティファクトをもたらすことがある。さらに、可視フラッシュは、低照度条件のもとで使用するのにはじゃまであり、ある環境においては禁止さえされている。
最も最近では、可視光帯域外のイメージを捕捉して、対応する可視光イメージをノイズ除去するのを助けるのにその「ダークフラッシュ」イメージを使用するために、「不可視フラッシュ」を、例えば、近赤外光または紫外線光を使用するフラッシュを使用するデュアルイメージノイズ除去方法の第2のタイプが現われている。参照としてダークフラッシュイメージを使用して、可視光イメージをノイズ除去するために、単純なポアッソン方程式を介した階調転送を採用できる。このような方法は、ノイズ除去と詳細転送とを同時に実行でき、ときには、高品質のノイズ除去結果を達成する。しかしながら、ダークフラッシュイメージからの階調制約は、発見的過ぎて、可視光イメージとダークフラッシュイメージとの間の差を取り扱うように上手く適合されていないかもしれない。これは、結果として、特に、強いノイズを有するイメージを取り扱うときに、ノイズ除去の結果において、顕著な外観変化をもたらす。
例として提供されていて、限定ではない以下の図面を参照して、発明の特定のインプリメンテーションをここで説明する。
ここで開示するインプリメンテーションは、イメージノイズ除去アプリケーションのためのシステム、方法および装置を提供する。例えば、ここで説明するように、近赤外(NIR)イメージのような、対応するダークフラッシュイメージを使用して、ノイズのある可視光イメージから、高品質イメージを処理することが望ましいことがある。実施形態は、ここで、NIRイメージを用いることとして説明されているが、赤外線および紫外線のフラッシュイメージを同様に使用してもよいことが正しく認識されるだろう。ここで開示するインプリメンテーションを使用して、可視光のペア、例えば、同一のイメージシーンのRGBイメージとNIRイメージとを捕捉することができる。ノイズ除去プロセスの間、可視光イメージとNIRイメージとをピクセルベースで位置調整してもよく、階調スケールマップをもたらして、位置調整された可視光イメージとNIRイメージとの階調フィールドを関連付けてもよい。
可視光イメージの階調ベクトルと、NIRイメージの階調ベクトルとの間の差および類似性に基づいて、階調スケールマップを発生させてもよい。階調ベクトルは、イメージ中のピクセルの領域間の強度値における連続性および不連続性を検出するのに使用できる。連続性および不連続性は、イメージ中の対象の境界と、シーン照光における変動と、深度における不連続性と、物質的特性における変化とを表していてもよい。
イメージの階調ベクトルは、水平微分フィルタおよび垂直微分フィルタでイメージを畳み込むことによって、各ピクセルにおいて決定できる。例えば、NIRイメージと可視光イメージとの間のオーバーラップしている領域のような、ピクセルのグループに対して、x方向とy方向に沿った階調ベクトルを計算してもよい。いくつかの実施形態において、水平微分フィルタおよび垂直微分フィルタでイメージを畳み込むことによって、階調ベクトルを計算してもよい。考えられるピクセルの各グループに対して、ピクセル強度値における水平の変化および垂直の変化を表している、水平方向と垂直方向における1次導関数または2次導関数を計算するために、微分フィルタを適用できる。これは、ピクセルのグループ中の中央ピクセルに割り当てることができる階調ベクトル値を生成させる。したがって、各ピクセルの周囲の領域における強度値を使用して、ピクセルにおける対応する階調ベクトル値を近似できる。イメージ中のピクセルの階調ベクトル値は、階調絶対値ベクトルと階調方向ベクトルとを計算するために組み合わせることができる。階調方向ベクトルおよび階調絶対値ベクトルは、対象境界の位置についての情報と、境界の各々の側上のピクセルの領域の異なる強度値についての情報とを提供する。例えば、対象境界ピクセルを、階調絶対値の局所的な最大値に位置付けることができる。
ここで説明するノイズ除去方法を促進するために、可視光イメージとNIRイメージとを、ピクセル毎のベースで位置調整してもよく、オーバーラップしている領域にクロッピングしてもよい。可視光イメージの階調ベクトルとNIRイメージ中の階調ベクトルとの値における差を、または、可視光イメージの階調ベクトルとNIRイメージ中の階調ベクトルとの値の間の比を計算することによって、階調スケールマップを発生させてもよい。階調スケールマップは、したがって、イメージ間の構造的な差異および類似性の本質を捕捉し、ここで説明したノイズ除去プロセスにおいて使用するために、明確な統計的および数値的な意味を有するかもしれない。
いくつかの実施形態において、階調スケールマップには、各ピクセル位置に対して、正の値または負の値が割り当てられてもよい。例えば、可視光イメージとNIRイメージとの両方において、類似した階調方向ベクトルを有する、エッジまたは構造が存在していることを、正の値は示しているかもしれない。可視光イメージとNIRイメージとの両方において、エッジまたは構造が存在しているが、NIRイメージ中の局所的な階調ベクトルの方向が、可視光イメージ中の局所的な階調ベクトルに対して逆であることを、負の値は示しているかもしれない。例えば、NIRフラッシュから結果的に生じるハイライトや影により、可視光イメージにおいては存在しないエッジまたは構造が、NIRイメージにおいて存在していることを、ゼロの値は示しているかもしれず、または、例えば、赤および赤外線の光に対する、シーン中の対象の異なる反射特性により、可視光イメージ中に存在するエッジまたは構造が、NIRイメージにおいて存在しないことを、ゼロの値は示しているかもしれない。階調スケールマップ中のこれらの値の解析に基づいて、適応平滑化と、エッジ保存と、ガイダンス強度操作とを考慮して、階調転送によるノイズ除去のための最適な比のマップを発生させてもよい。最適な比のマップは、各ピクセルで可視光イメージに適用される、NIRイメージからのガイダンスの量を表していてもよい。階調スケールマップおよび階調転送スキームを利用することによって、ここで説明するノイズ除去の方法は、高品質のイメージノイズ除去を達成するために、ガイダンスイメージとして、NIRイメージをより上手く活用することができ、ノイズ除去された可視光イメージ中に、ガイダンスイメージから、付加的なアーティファクトをもたらすことなく、これを行うかもしれない。
実施形態において、イメージング装置は、2つの異なるタイプのイメージングセンサ、例えば、NIRセンサと可視光センサとを使用して、イメージを捕捉してもよい。このタイプのマルチスペクトルイメージングは、可視光センサによって捕捉されたイメージをノイズ除去するのに有用であることがある。1つの実施形態において、可視光センサにおいて受け取られた光は、シーンの色情報を伝えることができる一方、NIRセンサによって捕捉された光を使用して、イメージノイズ除去を実行することによって、可視光イメージの品質を向上させることができる。例えば、NIRイメージおよび可視光イメージは、階調ベクトルに分解して、階調スケールマップを作成するために使用してもよい。上記で説明したように、階調スケールマップを使用して、NIRイメージによる可視光イメージのノイズ除去をガイドして、捕捉した可視光イメージの品質を改善させてもよい。
1つの実施形態においては、NIRセンサによって捕捉されたイメージを使用して、低照度条件において捕捉された可視光イメージの品質を向上させる。例えば、従来の低照度システムでは、可視光フラッシュシステムを使用して、イメージングされる対象を照光することが多い。しかしながら、このような人工光は、イメージの雰囲気を台無しにするかもしれず、赤目や、望まれない反射や、影のような、好ましくないアーティファクトをもたらすかもしれない。ここで説明する方法では、可視光フラッシュの代わりにNIRフラッシュランプを使用して、NIRイメージを捕捉してもよく、(RGBカラーCCDのような)従来の可視イメージングセンサは、対応する可視光イメージを捕捉する。NIRイメージは、可視光イメージにおけるようにはノイズで汚されないかもしれず、(加重最小二乗平滑化技術のような)ノイズ除去技術に関連して、NIRイメージを使用して、低照度条件によって生じた可視イメージ(例えば、RGB)からノイズを取り除いてもよい。主に、NIRフラッシュを使用して捕捉したNIRガイダンスイメージの文脈内で議論するが、いくつかの実施形態において、イメージシーン中に本来存在する赤外線または近赤外光を検出するように構成されているイメージセンサを使用して、フラッシュなしで、NIRガイダンスイメージを捕捉してもよい。
NIR(近赤外)光は、人間の眼には不可視であるが、イメージセンサによって捕捉することができる。対応するRGBイメージにおいてノイズ除去と詳細復元をガイドするために、じゃまでないNIRフラッシュを用いて、高品質の、ノイズの無いNIR写真を捕捉する。いくつかの実施形態は、RGBイメージとNIRイメージとのペアを同時に捕捉して、その後、RGBイメージとNIRイメージとを、ピクセルに関して位置調整してもよい。その全体が参照によってここに組み込まれている、2012年10月30日に出願された米国特許出願番号第13/663,897号において説明されているように、デュアルカメラシステムを使用して、単一のRGB−IRカメラによって、または、ステレオRGB−NIRカメラシステムによって、静的なシーンにおいてシーケンシャルなRGB−NIRショットを捕捉する単一のカメラを使用して、このようなイメージペアを捕捉することができる。
以下の記述において、例の完全な理解を提供するために、特定の詳細を与える。しかしながら、これらの特定の詳細なしで例を実施してもよいことが、当業者によって理解されるだろう。例えば、不必要な詳細で例を曖昧にしないようにするために、電気的なコンポーネント/デバイスを、ブロックダイヤグラムで示しているかもしれない。例をさらに説明するために、他の例では、このようなコンポーネント、他の構造および技術を詳細に示しているかもしれない。
フローチャート、フローダイヤグラム、有限状態ダイヤグラム、構造ダイヤグラム、または、ブロックダイヤグラムとして図示されているプロセスとして、例を説明していることにも着目する。フローチャートは、動作をシーケンシャルなプロセスとして説明しているかもしれないが、動作のうちの多くを、パラレルに、または同時に実行でき、プロセスを繰り返すことができる。さらに、動作の順序は、再構成してもよい。プロセスは、その動作が完了したときに終了する。プロセスは、方法や、関数や、手順や、サブルーチンや、サブプログラム等に対応していてもよい。プロセスが、ソフトウェア関数に対応しているとき、その終了は、呼出し関数またはメイン関数への関数のリターンに、あるいは、サブルーチンまたは同様な機能の類似した完了に対応していてもよい。
さまざまな異なるテクノロジーおよび技術のうちのいずれかを使用して、情報および信号を表してもよいことを、当業者は理解するだろう。例えば、上記の説明を通して参照されているかもしれない、データと、命令と、コマンドと、情報と、信号と、ビットと、シンボルと、チップは、電圧や、電流や、電磁波や、磁場または磁性粒子や、光場または光学粒子や、あるいは、これらのいずれかの組み合わせによって表されていてもよい。
[0028]
ここで図1に目を向けると、マルチスペクトルイメージングシステム100の概略的なブロックダイヤグラムが図示されている。マルチスペクトルイメージングシステム100は、マルチスペクトルイメージング装置110を含むことができる。少なくとも、可視光波長と、近赤外(NIR)光波長とを含んでいる波長の広帯域を感知できる1つ以上のマルチスペクトルイメージングセンサを含むように、マルチスペクトルイメージング装置110を構成することができる。例えば、マルチスペクトルイメージング装置110は、およそ390nmからおよそ1400nmの間の波長における光を検出するように構成することができる。もちろん、イメージング装置110は、同様に、はるかに広い範囲の波長を検出するように構成することもできる。いくつかのインプリメンテーションにおいて、マルチスペクトルイメージングセンサとして、電荷結合素子(CCD)を使用できる。他のインプリメンテーションにおいて、マルチスペクトルイメージングセンサとして、CMOSイメージングセンサを使用できる。さらに、シーンを照光するのを助けるために、フラッシュモジュール118および/または他のアクセサリが、マルチスペクトルイメージング装置110中に含まれていてもよい。さまざまなインプリメンテーションにおいて、フラッシュモジュール118は、可視フラッシュデバイスおよび/またはNIRフラッシュデバイスを含むことができる。
図1において示されているインプリメンテーションにおいて、マルチスペクトルイメージング装置110は、単一のマルチスペクトルイメージングセンサの代わりに、2つの別々のセンサを含んでいる。このインプリメンテーションにおいて、マルチスペクトルイメージング装置110は、可視光センサ115と、別のNIRセンサ117とを含んでいる。例えば、マルチスペクトルイメージング装置110は、少なくとも、およそ390nmからおよそ800nmの間の範囲における可視光を検出することが可能なCCD/CMOSセンサのような、第1の可視センサ115を有している。マルチスペクトルイメージング装置110は、さらに、およそ800nmからおよそ1400nmの間の範囲におけるNIR光を検出することが可能なCCD/CMOSセンサのような、第2のNIRセンサ117を含んでいる。いくつかのインプリメンテーションにおいて、可視センサおよびNIRセンサに対する波長範囲は、オーバーラップさせることができ、または、実質的に同じにさえすることができる。いくつかのインプリメンテーションにおいて、NIRデータのみを検出するために、NIRパスフィルタのようなイメージングフィルタを、適切なCCD/CMOSセンサ上で使用できる。1つのインプリメンテーションにおいて、例えば、可視光センサ115とNIRセンサ117との両方を、Sumsung(登録商標)S5K4E1GX QSXGA CMOSセンサ上で実現できる。センサがNIR光を受け取ることができるようにするために、IRカットオフフィルタを取り除くことによって、NIRセンサ117を実現できる。より低い波長、例えば、およそ800nmよりも低い波長をフィルタアウトするために、IRフィルタによって、改良されたNIRセンサ117をさらにカバーすることができる。例えば、Kodak(登録商標)Wratten IR filter(#87C)を、NIRセンサ117上に適用できる。他のインプリメンテーションにおいて、他のさまざまなセンサを、または、その組み合わせを使用して、可視イメージデータとNIRイメージデータとを捕捉できる。
いくつかのインプリメンテーションにおいて、マルチスペクトルイメージングシステム100は、RGBイメージとNIRイメージとのペアを、同時に捕捉してもよい。マルチスペクトルイメージングシステム100は、他の実施形態において、RGBイメージを捕捉する予め決定された時間間隔内で、NIRイメージを捕捉でき、予め決定された時間間隔は、イメージのペアが実質的に同一のシーンのものであるとすることができるのに十分なくらい短くてもよい。NIRフラッシュを使用するか、または、ターゲットイメージシーン中に存在するNIR周辺光を使用してイメージを捕捉することによって、NIRイメージを捕捉してもよい。フラッシュまたは周辺光を使用して、可視イメージを捕捉してもよい。
互いにデータ通信する、そして、イメージング装置100とデータ通信するプロセッサ140およびメモリ130を、マルチスペクトルイメージングシステム100はさらに含んでいる。プロセッサ140およびメモリ130を使用して、イメージング装置110によって捕捉されたイメージを処理して記憶させることができる。さらに、マルチスペクトルイメージングシステム100は、ユーザに対して入力/出力(I/O)動作を提供するように構成されているユーザインターフェース(UI)150を含むことができる。例えば、UI150は、さまざまなアイコンをユーザに提示するディスプレイを含むことができる。UI150は、キーボード、タッチスクリーン入力、マウス、ローラーボール、データ入力(例えば、USBまたはワイヤレス)、および/または、他の適切なタイプの入力デバイスのような、さまざまな入力デバイスも含んでいてもよい。ユーザがイメージデータを操作できるように、および/または、ユーザが使用を望むイメージングモードをユーザが選択できるように、UI150をプログラムできる。UI150は、マルチスペクトルイメージデータを捕捉するための制御も含んでいてもよい。
さらに、プロセッサ140およびメモリ130を、イメージ処理モジュール120中のソフトウェアモジュールのような、記憶されたプロセスを実現するように構成することができ、マルチスペクトルイメージング装置110によって捕捉されたマルチスペクトルイメージデータを処理するように構成することができる。イメージ処理モジュール120は、一時的でない記憶媒体のような、任意の適切なコンピュータ読取可能な記憶媒体において実現できる。イメージ処理モジュール120は、任意の数のソフトウェアモジュールを有することができる。例えば、通信モジュール121は、イメージ処理モジュール120上で実現できる。通信モジュール121は、マルチスペクトルイメージングシステム100のコンポーネント間のデータのフローを管理するコンピュータにより実現される命令を備えることができる。例えば、通信モジュール121は、マルチスペクトルイメージング装置110からのイメージデータの受け取りを管理する命令を含むことができる。イメージ処理モジュール120は、さまざまなタイプのデータを、ソースコードを、および/または、実行可能なファイルを記憶させるように構成されている記憶モジュール129も含んでいる。例えば、イメージング装置110によって受け取られたイメージデータを、および/または、イメージ処理モジュール120によって処理されたイメージデータを記憶するように、記憶モジュール129をプログラムできる。
イメージ処理モジュール120は、さまざまなマルチスペクトルイメージングアプリケーションを実現させるようにプログラムされているさまざまなモジュールも含むことができる。例えば、イメージ処理モジュール120は、NIRイメージと可視光イメージとの両方を捕捉するようにプログラムされているダークフラッシュイメージングモジュール123を含んでいる。いくつかのインプリメンテーションにおいて、ダークフラッシュイメージングモジュール123は、可視光センサ115とNIRセンサ117とに、実質的に同時にターゲットシーンのイメージを捕捉させてもよい。別のインプリメンテーションにおいて、ダークフラッシュイメージングモジュール123は、可視光センサ115とNIRセンサ117とに、連続してターゲットシーンのイメージを捕捉させてもよい。
さらに、イメージ処理モジュール120は、ハイブリッドイメージングモジュール125を含んでいてもよい。イメージング装置110によって捕捉された静止イメージとビデオイメージとの両方を処理するように、ハイブリッドイメージングモジュール125をプログラムできる。例えば、可視光センサ115からの静止イメージデータを、そして、NIRセンサ117からのビデオイメージデータを、または、逆もまた同じように処理するように、ハイブリッドイメージングモジュール25をプログラムできる。いくつかのアレンジメントにおいて、それぞれのセンサによって、静止イメージデータとビデオイメージデータとを、同時に捕捉できる。他のアレンジメントにおいて、静止イメージデータとビデオイメージデータとを、別々の回に捕捉できる。さまざまなインプリメンテーションにおいて、シーンのイメージ中の動きのボケを低減させるために、静止イメージデータを、ビデオイメージよりも高い解像度で捕捉できる。
イメージ処理モジュール120は、マルチスペクトル情報処理モジュール127も含んでいる。ノイズ除去プロセスを通して、可視光センサ115から捕捉された可視光イメージデータの品質を向上させるために、NIRセンサ117から捕捉されたNIRイメージデータを処理するように、マルチスペクトル情報処理モジュール127をプログラムできる。マルチスペクトル情報処理モジュール127は、下記で説明するようなノイズ低減プロセスを行うために、さまざまなサブモジュールを含むことができる。
マルチスペクトル情報処理モジュール127は、イメージ位置調整モジュール124を含んでいてもよい。NIRセンサ117と可視光センサ115は、ある距離だけ離れてスペースをあけていてもよく、したがって、異なるフレーミングおよび/またはアングルを使用して、ターゲットシーンを捕捉するかもしれない。ノイズ低減のためにイメージを処理する前に、NIRイメージと可視光イメージとを位置調整してもよい。例えば、可視光センサ115とNIRセンサ117とが、垂直に並べられていることを確認することのような、任意の予備動作を、NIRイメージおよび可視光イメージ上で実行するように、イメージ位置調整モジュール124をプログラムできる。NIRイメージ中のピクセルを可視光イメージ中のピクセルとマッチングして、複数のマッチングされたピクセルのペアを形成させるように、イメージ位置調整モジュール124をさらにプログラムできる。イメージ位置調整モジュール124は、よって、各イメージに対するイメージディスクリプタに基づいて、NIRイメージおよび可視光イメージの、初期のピクセル毎の位置調整を提供できる。イメージディスクリプタは、それぞれのイメージ中で測定されたイメージ階調に、部分的に基づいていてもよい。
NIRイメージと可視光イメージとの疎な一部分をあまねく位置調整するように、イメージ位置調整モジュール124をプログラムすることもできる。例えば、各マッチングされたピクセルペアに対するピクセル差異を計算するように、イメージ位置調整モジュール124をプログラムできる。さまざまなインプリメンテーションにおいて、ピクセル差異は、各マッチングされたペアに対するピクセルの分離距離に基づくことができる。各マッチングされたピクセルペアに対して計算されたピクセル差異に少なくとも部分的に基づいて、各マッチングされたピクセルペアに対する重みを割り当てるように、イメージ位置調整モジュール124をプログラムできる。いったん重みが割り当てられると、さまざまなインプリメンテーションにおいて、より大きな重みを有するマッチングが保たれる一方、より小さな重みを有するマッチングは廃棄される。可視イメージとNIRイメージとの間の、区分的なホモグラフィ制約を推定でき、後続の位置調整処理のために、ホモグラフィ制約を満たすマッチングを保つことができる。
さらに、割り当てられた重みに少なくとも部分的に基づいて、NIRイメージを可視光イメージと位置調整するように、イメージ位置調整モジュール124をプログラムできる。例えば、イメージ位置調整モジュール124は、例えば、割り当てられた重みのような、強度類似値および/または信頼マップに基づいて、疎なマッチング結果を、密集したマッチング結果に伝播できる。いくつかの態様において、イメージの位置調整が正確であることを確認するために、可視光イメージのパースペクティブに対してNIRイメージを、または、その逆も同じに、ワープさせることができる。
NIRイメージとRGBイメージとから階調スケールマップを発生させるように、階調スケールマップ発生モジュール126をプログラムできる。例えば、上記で説明したように、可視光イメージとNIRイメージとにおける階調ベクトル間の差および類似性に基づいて、階調スケールマップを発生させてもよい。したがって、例えば、ピクセルブロックに対して微分フィルタを適用し、各ピクセルブロック中の中央ピクセルに対して階調ベクトルを割り当てることによって、可視イメージとNIRイメージのそれぞれ中の各ピクセルにおける階調ベクトル値を計算するように、階調スケールマップ発生モジュール126をプログラムできる。
NIRイメージおよび可視光イメージの階調ベクトルの比較に基づいて、階調スケールマップを発生させるように、階調スケールマップ発生モジュール126は、さらにプログラムされていてもよい。階調スケールマップは、したがって、NIRイメージと可視光イメージとの間の構造的な差異および類似性の本質を捕捉するかもしれない。いくつかの実施形態において、階調スケールマップ発生モジュール126は、階調スケールマップ内の各ピクセル位置に対して、正の値または負の値を割り当ててもよい。例えば、可視光イメージとNIRイメージとの両方において、類似した階調方向ベクトルを有する、エッジまたは対象境界が存在していることを、正の値は示しているかもしれない。可視光イメージとNIRイメージとの両方において、エッジが存在しているが、NIRイメージ中の局所的な階調ベクトルの方向が、可視光イメージ中の局所的な階調ベクトルに対して逆であることを、負の値は示しているかもしれない。例えば、NIRフラッシュから結果的に生じるハイライトや影により、可視光イメージにおいては存在しないエッジが、NIRイメージにおいて存在していることを、ゼロの値は示しているかもしれず、または、例えば、赤および赤外線の光に対する、シーン中の対象の異なる反射特性により、可視光イメージ中に存在するエッジまたは構造が、NIRイメージにおいて存在しないことを、ゼロの値は示しているかもしれない。
階調スケールマップ発生モジュール126から階調スケールマップ値を受け取るように、そして、このような値を利用して可視光イメージをノイズ除去するように、ノイズ除去モジュール128をプログラムしてもよい。いくつかの実施形態において、階調スケールマップにおけるピクセル毎の値の解析に基づいて、階調転送によるノイズ除去のための、最適な比のマップを発生させてもよい。最適な比のマップを構築するときに、ノイズ除去モジュール128は、適応平滑化や、エッジ保存や、ガイダンス強度操作のような、イメージ品質向上要因を考慮に入れるかもしれない。最適な比のマップは、ノイズ除去モジュール128が各ピクセルにおける可視光イメージに対して適用する、NIRイメージからのガイダンスの量を表していてもよい。
いくつかの実施形態において、可視光イメージ上での反復的なノイズ除去プロセスを実行するように、ノイズ除去モジュール128を、さらにプログラムしてもよい。例えば、ノイズ除去された可視光イメージおよびNIRイメージ中の階調ベクトルフィールド間の類似性および差を表している更新された階調スケールマップを発生させるために、ノイズ除去された可視光イメージを、NIRイメージとともに、階調スケールマップ発生モジュール126に送り戻してもよい。ノイズ除去モジュール128は、ノイズ除去された可視イメージをさらにノイズ除去するために、この更新された階調スケールマップを使用してもよい。いくつかの実施形態において、更新された階調スケールマップが、以前の階調スケールマップからのしきい値量よりも小さく変化するまで、このプロセスを繰り返してもよい。いくつかの実施形態において、結果的なノイズ除去された可視光イメージが、更新された階調スケールマップを構築するために使用される、可視光イメージからのしきい値量よりも小さく変化するまで、プロセスを繰り返してもよい。
[0043]
図2は、1つのインプリメンテーションにしたがった、特定のシーンのマルチスペクトルイメージデータを捕捉するための方法200のフローチャートである。図示された方法200は、NIRセンサと可視光センサとをアクティブ化するブロック205中で始まる。例えば、図1を参照すると、ユーザは、イメージングシステム100に電源を入れ、および/または、立ち上げて、センサがシーンを捕捉できるようにしてもよい。さまざまなインプリメンテーションにおいて、NIRセンサ117と可視光センサ115とをアクティブ化するために、移動体デバイス上のアイコンをエンゲージしてもよい。方法は、その後、ブロック210に移り、可視光センサによって可視光イメージを捕捉し、NIRセンサによってNIRイメージを捕捉する。さまざまなアレンジメントにおいて、フラッシュ(例えば、可視および/またはNIRフラッシュ)を使用してシーンを照光してもよい。
シーンの可視光イメージおよびNIRイメージを捕捉した後に、プロセス200は、ブロック215に移り、図1のイメージ位置調整モジュール124に関して、NIRイメージおよび可視光イメージを位置調整できる。イメージを正確に位置調整することによって、調整不良によって生じるイメージアーティファクトを低減させるか、または、取り除くことができる。後続の処理のために、位置調整されたイメージを、オーバーラップしている領域にクロップしてもよい。
プロセス200は、その後、NIRイメージと可視光イメージの階調ベクトルフィールド間の、差および類似性を表している階調スケールマップを発生させるブロック230に移る。上記で説明したように、NIRイメージと可視光イメージの各ピクセルに対して、階調ベクトル方向と階調ベクトル絶対値との間の差を計算することによって、階調スケールマップを発生させてもよい。
次に、ブロック225において、イメージ処理のために、階調スケールマップを使用する。例えば、可視光イメージをノイズ除去するために、階調スケールマップを使用して、NIRイメージから、可視光イメージに適用されるガイダンスのレベルを決定してもよい。いくつかの実施形態において、可視光イメージに曇りをなくすために、または、可視光イメージのボケをなくすために、可視光イメージ中の鮮明さを、または、コントラストを増加させるために、あるいは、肌を滑らかにするアプリケーションのために、階調スケールマップを使用してもよい。
プロセス200は、その後、追加のイメージを処理すべきか否かを決定するために、決定ブロック230に移る。決定ブロック230において、追加のイメージを処理すべきであるという決定がなされた場合、その後、追加のNIRイメージデータと可視光イメージデータとを捕捉するために、方法200はブロック210に戻る。決定ブロック230において処理すべき、追加のイメージがないという決定がなされた場合、その後、方法200は終了する。
[0048]
図3Aは、例示的な可視光イメージ300と、例示的なNIRイメージ310とを図示している。この例において、可視光イメージ300を、RGBイメージとして議論しているが、しかしながら、可視光イメージ300は、グレースケールであってもよい。図3Bは、図3Aのイメージを通して、長方形の縁取り320、330および340によって着目される、図3AのRGBイメージ300の赤、緑、および、青のチャネルのさまざまな領域と、NIRイメージ310の対応する領域とを考慮して、拡大して図示している。NIRイメージ310を使用して、RGBイメージ300のノイズ除去をガイドすることは、RGBイメージの各チャネル(赤、緑および青のチャネル)と比較して、詳細な分布および強度形成においてかなりの差を作るかもしれない。図3Aと図3Bとにおいて図示され、以下でさらに詳細に議論するように、RGB300イメージとNIR310イメージとの間の、エッジ構造および階調の不一致は、ほとんどすべてのピクセルに対して存在する。
存在するかもしれない1つの構造の不一致は、階調絶対値変動である。例として、エリア320を考慮して拡大されて示されているように、ブックカバー上の文字「D」は、RGBイメージ300におけるものよりも、NIRイメージ310において、はるかに低いコントラストで捕捉されている。この効果は、赤外線および可視光に対する、異なる反射特性によるものであるかもしれない。
階調方向相違は、別の構造不一致であり、ここにおいて、RGBイメージ300中のいくつかの階調方向ベクトルは、NIRイメージ310中の対応するエッジに沿って位置付けられている階調方向ベクトルに関して逆である。図示するために、図3Bにおいて、ブックカバーのより下側エリア330の赤のチャネル、緑のチャネルおよび青のチャネルが、同一のエリア330のNIRチャネルと比較して、図示されている。2つのイメージの階調ベクトル方向は逆である。すなわち、赤、緑および青のチャネル中の下側ピクセル領域は、上側のピクセル領域よりも明るい一方、NIRイメージでは、上側のピクセル領域は、より下側のピクセル領域よりも明るい。上側および下側のイメージ領域中のピクセルは、それらの相対強度レベルを大きく変化させるが、RGBイメージおよびNIRイメージ中では反対方向である。
別の構造上の不一致は、RGBイメージ300中に存在するいくつかの階調が、NIRイメージ310において完全に失われる階調損失である。図3Bの最後の列において示すように、Jewel Scarabのブックカバーの領域340における赤、緑および青のチャネル中で可視であるテキストは、NIRイメージの同一の領域340からすっかり欠落している。この階調損失は、赤外線および可視光に対する、シーン中の対象の異なる反射によるものでもあるかもしれない。図示されていないが、例えば、異なる照光源により、それぞれのイメージにおいて存在するハイライトまたは影における差から結果的に生じる他の構造上の不一致が、RGBイメージとNIRイメージとにおけるピクセル領域間に存在するかもしれない。
一般的に、NIRイメージ光のコンテンツは、対応する可視光イメージよりも良いコントラストを産み、より豊かなレベルの詳細を伝え、これは、NIRイメージをガイダンスイメージとして使用して、RGBイメージの品質を向上させるための大きな可能性を発生させる。しかしながら、上記で議論した構造上の不一致により、NIRイメージのすべての領域が、RGBイメージの対応する領域を向上させるのに使用するのには適切ではないということは明白である。RGBイメージとNIRイメージとの間の構造上の不一致によるガイダンス問題を防ぐために、ここで説明するノイズ除去方法は、2つのイメージの階調フィールド間の関係を記述するのに階調スケールマップを用いる。
[0053]
図4は、階調スケールマップを発生させて、ノイズ除去のために階調スケールマップを使用する方法の実施形態を図示しているフローチャートである。上記で議論したように、可視光イメージとNIRイメージとの間の構造の本来の差異をより上手く取り扱うために、階調スケールマップを発生させてもよい。いくつかの実施形態において、階調スケールマップを以下のように定義する。
ノイズのあるイメージであるかもしれないRGBイメージI0に対するイメージデータを受け取るとともに、無視できるノイズを有するかもしれない対応するNIRフラッシュイメージGに対するイメージデータを受け取るときに、プロセス400は、ブロック405で始まる。I0の全体的な視覚外観を保持しながらも、Gにしたがって、ノイズが取り除かれ、保持されている構造を有する、階調スケールマップsと、クリーンなイメージIとを、I0から復元させるために、プロセス400は、その後、ブロック410に移り、NIRイメージとRGBイメージの両方中の各ピクセルに対するx方向およびy方向の階調ベクトルを決定する。いくつかの実施形態において、上記で説明したように、各ブロック中の中央ピクセルに対する階調ベクトル値を取得するために、NIRおよびRGBのピクセルブロックに対して、水平の線形畳み込みフィルタと垂直の線形畳み込みフィルタとを適用することによって、これを遂行してもよい。いくつかの実施形態において、中央ピクセルを囲っている少なくとも4つのピクセルを使用して、中央ピクセルの階調ベクトル値を計算してもよいが、しかしながら、より多くのものを使用してもよい。例えば、各ピクセルに対する階調ベクトル値を、座標ペア、例えば、(x、y)として定義してもよく、イメージの向きに対して、座標ペアの「x」変数の値は、右方向または左方向において階調が増加するか否かを示していてもよく、座標ペアの「y」変数の値は、上方向または下方向において階調が増加するか否かを示していてもよい。
NIRイメージとRGBイメージとの階調ベクトルを計算した後に、プロセス400はブロック420に移り、階調ベクトルから階調スケールマップ値を計算する。いくつかの実施形態において、階調スケールマップは、NIR階調ベクトルとRGB階調ベクトルとにおける値の間の比であってもよい。いくつかの実施形態において、階調スケールマップは、各ピクセル位置に対して、正の値または負の値を含んでいてもよい。例えば、可視光イメージとNIRイメージとの両方において、類似した階調方向を有するエッジが存在することを、正の値は示しているかもしれないが、一方、可視光イメージとNIRイメージとの両方において、エッジが存在するが、NIRイメージ中の局所的な階調ベクトルの方向は、可視光イメージ中の局所的な階調ベクトルに対して逆であることを、負の値は示しているかもしれない。例えば、NIRフラッシュから結果的に生じるハイライトと影によって、可視光イメージ中に存在しないエッジが、NIRイメージ中に存在することを、ゼロの値は示していているかもしれず、または、例えば、可視光および近赤外光に対するイメージ中の特質の異なる反射特性により、可視光イメージ中に存在するエッジが、NIRイメージ中に存在しないことを、ゼロの値は示しているかもしれない。
次に、プロセス400はブロック425に移り、階調スケールマップ値を使用して、可視光イメージI0のイメージノイズ除去をガイドする。階調スケールマップsを使用して、I0からノイズ除去されたイメージIを取得することの問題は、以下の条件付き確率を最大化することとして公式化することができる。
ここで、P(I)は均一分布であると仮定する。両側の負の対数をとることによって、方程式(2)は、以下のように書き換えることができる。
以下の方程式(4)において、Iは、オリジナルのノイズのあるRGBイメージI0のノイズ除去された反復を表しており、これは、グラウンドトゥルースイメージI*の推定であり、方程式(1)は、
(∇Giの2つの成分を考慮して)∇Giを割ることによって、Gによって生じる予期しないスケーリングの影響を取り除く。∇XGiまたは∇yGiがゼロに近いという、自明な状況を避けるため、そして、アウトライアーを拒絶する能力を確保するために、sおよびIに対するデータ項は、
ここで、sign(x)は、符号演算子であり、xが正またはゼロである場合、1を出力し、そうでなければ、−1を出力する。しきい値mを使用して、ゼロによる除法を避けてもよく、いくつかの実施形態においては、しきい値mを、経験的に0.004に設定する。
Iに対するデータ項は、単純に、
[0062]
規則化項は、特に、異方性の階調テンソルにより定義してもよい。階調スケールマップs中の値が、局所的に、ある方向においてのみ類似しているという事実に、これは基づいている。例えば、s値は、エッジに渡る値よりも、エッジに沿って、平滑に変化するか、または、一定であるべきである。すべての方向において、sを均等に平滑化することは、連続的なエッジに沿った不連続性を作成するか、または、鮮明な境界をボケさせるかのいずれかである。
したがって、異方性テンソルスキームは、Gの階調方向にしたがって、鮮明なエッジを保存することができる。異方性テンソルは、
この形式は、sに対する規則化を、
それぞれ、エッジに渡って、そして、エッジに沿って、方向γ1および方向γ2におけるμ1およびμ2によって、異なる平滑化ペナルティを制御してもよい。より強い平滑化は、本来、エッジに沿って課される。
方程式(3)に対する各項を定義した後、最終的な目的関数は、
方程式(15)における目的関数は、疎項のために、非凸状である。最適化におけるsおよびIに対するジョイント表現は、問題をさらに複雑化する。単純な満足のできる階調によって、そのままこれを解くと、最適性を補償できず、局所的な最小に対してさえ、非常に遅い収束につながるかもしれない。図示されている実施形態は、加重最小二乗スキームを用い、これは、オリジナルの特性を失うことなく、数個の対応する線形系を使用して、オリジナルの問題を、方程式(15)中の目的関数を、解くのを可能にする。しかしながら、この問題を解決するのに使用できる多くの標準的な数的解法がある。
初めに、任意のスカラーxに対して、方程式(4)中のロバスト関数ρ(x)を、
ここで、εは、ゼロによる除法を避けるための、小さな数であってもよい。この形式は、ロバスト関数を2つの部分に分けるのを可能にし、φ(x)は、x2に対する重みとして考えることができる。φ(x)とx2のそれぞれは、より単純な表現の利益のある最適化を形成するために、他の項とともに利用できるので、プロセス400の間、再加重最小二乗の慣例にしたがって、φ(x)とx2は、最適化の間、代替的に更新される。加重最小二乗スキームを使用することによって、方程式(3)は以下のようなベクトル形式に書き換えられる。
これらの間で、Ax、AyおよびBは、再加重プロセスに対処し、典型的に、以前の反復からの推定を使用して計算される。PXおよびPyは、ガイドされた入力Gからの正規化項である。
方程式(18)の最後の項は、sの空間平滑化を制御することに着目されたい。ここで、行列Lは、平滑化ラプラシアンであり、
次に、プロセス400はブロック430に移り、ここで、ノイズ除去されたイメージを使用して、追加の階調スケールマップを発生させるので、プロセス400は、方程式(18)を解くために、交互最小化プロセスを有利に用いる。各反復tにおけるsおよびIの結果は、s(t)およびI(t)として示されている。初めに、s(0)=1であり、ここにおいて、エレメントはすべて1であり、I(t)=I0である。すべての初期siを1に設定することによって、高い平滑化を達成することができる。これは、E3(s)に対してゼロコストをもたらし、最適化に対して非常に良い開始ポイントをもたらす。この初期化は、多くの詳細で、開始∇Iを∇Gと同じにすることも行う。その後、反復t+1において、以下の2つの下位問題をシーケンシャルに解く。
s(t+1)に対する解は、s(t)とI(t)が与えられた場合に、E(s、I)を最小化して、s(t+1)を得ることである。s上のE(s、I)の微分をとって、これらを0に設定することにより、疎線形系を取得してもよい。
I(t+1)に対する解は、s(t+1)とI(t)が与えられた場合に、E(s、I)を最小化して、I(t+1)を得ることである。同様に、I上のE(s,I)の微分をとって、これらを0に設定することにより、Iを解くための最終的な疎線形系は、
決定ブロック435において、sおよびIがしきい値量を超えて変化しないとプロセス400が決定するまで、2つのステップは繰り返す。いくつかの実施形態において、視覚的に心地良い結果を発生させるのには、3から6の反復で十分であるかもしれない。
BM3D、ジョイントBF、および、既存のダークフラッシュ方法のような、既存のイメージノイズ除去方法と比較すると、ここで開示されている反復プロセス400は、最終的なノイズ除去イメージ中の色やコントラストやイメージ構造の保存、および、エッジに沿ったアーティファクトの回避のような、いくつかの利点を提供する。特に、既存のダークフラッシュノイズ除去方法の結果と比較すると、ここで説明されているノイズ除去プロセスの結果は、より良い全体的なコントラストを有しており、ノイズのあるエッジに沿った階段アーティファクトを防ぐことができる。両方の方法は、オリジナルRGBイメージにより色の類似を、ガイドされたイメージにより階調類似を強化する。しかしながら、既存のダークフラッシュ方法は発見的な疎階調制約を使用しており、発見的な疎階調制約は、オリジナルRGBイメージとNIRフラッシュイメージとの間の差を取り扱うためには、本来上手く適合されていない。従来のダークフラッシュ方法を使用するとき、RGBイメージの階調における大きな変化は、イメージコントラストの低減を導くかもしれない。対照的に、ここで説明する方法400は、階調スケールマップを使用して、イメージペア間の差異および類似性を上手くモデル化する。したがって、ノイズ除去方法400は、ノイズの無いターゲットイメージシーンのグラウンドトゥルースイメージの階調と近くなるように、ノイズのあるRGBイメージの階調を制約できる。さらに、プロセス400中で使用する異方性テンソルスキームは、疎階調制約によって生じる階段アーティファクトを低減させるのを助ける。
[0077]
図5は、上記で説明したノイズ除去プロセス400のさまざまなイメージおよびステージを図示している。この実施形態において、オリジナルのRGBイメージ500は、高いノイズレベルを有しており、NIRフラッシュイメージ505のいくつかの階調は、ノイズのあるRGBイメージ500の階調と比較して、復帰され、より弱い。図5は、階調スケールマップ510と、推定されたノイズ除去イメージ515の反復と、最終的なノイズ除去イメージ520も図示している。
[0078]
さらに、ここで開示したインプリメンテーションに関して説明されているさまざまな実例となる論理ブロックと、モジュールと、回路と、プロセスステップを、電子ハードウェアや、コンピュータソフトウェアや、または、両方の組み合わせとして実現してもよいことを、当業者は正しく認識するだろう。ハードウェアとソフトウェアのこの互換性を明確に図示するために、さまざまな実例となるコンポーネントと、ブロックと、モジュールと、回路と、ステップを、これらの機能に関して、上記で一般的に説明している。ハードウェアまたはソフトウェアとして、このような機能を実現するか否かは、特定のアプリケーションと、システム全体に課された設計制約とに依存している。熟練した職人は、説明した機能を、各特定のアプリケーションに対して変化する方法で実現してもよいが、このようなインプリメンテーション決定は、本発明の範囲からの逸脱を生じさせるように解釈されるべきではない。当業者は、一部分または一部が、全体よりもいくらか小さく、または、等しく構成されていることを認識するだろう。例えば、ピクセルの収集の一部分は、これらのピクセルのサブ収集を指しているかもしれない。
ここで開示されているインプリメンテーションに関連して説明されているさまざまな実例となる論理ブロックと、モジュールと、回路は、汎用プロセッサや、デジタル信号プロセッサ(DSP)や、特定用途向け集積回路(ASIC)や、フィールドプログラム可能なゲートアレイ(FPGA)や、または、他のプログラム可能な論理デバイスや、ディクリートゲートまたはトランジスタ論理や、ディクリートハードウェアコンポーネントや、または、ここで説明した機能を実行するように設計されているこれらの任意の組み合わせによって、実現するか、または、実行してもよい。汎用プロセッサは、マイクロプロセッサであってもよいが、代替において、プロセッサは、任意の従来のプロセッサや、制御装置や、マイクロ制御装置や、状態機械であってもよい。例えば、DSPとマイクロプロセッサの組み合わせ、複数のマイクロプロセッサの組み合わせ、DSPコアに関連する1つ以上のマイクロプロセッサ、または、他の何らかのこのようなコンフィギュレーションのような、計算デバイスの組み合わせとしても、プロセッサを実現してもよい。
ここで開示されたインプリメンテーションに関して説明されている方法またはプロセスのステップは、ハードウェア中か、プロセッサによって実行されるソフトウェアモジュール中か、または、2つの組み合わせ中で、直接具現化してもよい。RAMメモリや、フラッシュメモリや、ROMメモリや、EPROM(登録商標)メモリや、EEPROM(登録商標)メモリや、レジスタや、ハードディスクや、取外し可能ディスクや、CD−ROMや、または、技術的に知られている一時的でない記憶媒体の他の何らかの形態中で、ソフトウェアモジュールは存在していてもよい。例示的なコンピュータ読取可能な記憶媒体は、プロセッサに結合されており、このようなプロセッサは、コンピュータ読取可能な記憶媒体からの情報を読み取り、そして、コンピュータ読取可能な記憶媒体への情報を書き込むことができる。代替において、記憶媒体は、プロセッサと一体化していてもよい。プロセッサおよび記憶媒体は、ASIC中に存在していてもよい。ASICは、ユーザ端末中、カメラ中、または、他のデバイス中に存在していてもよい。代替において、プロセッサおよび記憶媒体は、ユーザ端末中、カメラ中、または、他のデバイス中のディクリートコンポーネントとして存在していてもよい。
参照のために、そして、さまざまなセクションを位置付けるのを支援するために、見出しがここに含まれている。これらの見出しは、これに関して説明したコンセプトの範囲を限定することを意図していない。このようなコンセプトは、明細書全体を通して適用可能性を有していてもよい。
開示されたインプリメンテーションの以前の記述は、任意の当業者が本発明を作るか、または、使用するのを可能にするために提供されている。これらのインプリメンテーションに対するさまざまな修正は、当業者に対して、たやすく明白であり、そして、ここで定義されている包括的な原理は、本発明の精神および範囲から逸脱することなく、他のインプリメンテーションに適用してもよい。よって、本発明は、ここで示されているインプリメンテーションを限定することを意図していないが、ここで開示されている原理および新たな特徴と一貫するより広い範囲を与えることを意図している。
開示されたインプリメンテーションの以前の記述は、任意の当業者が本発明を作るか、または、使用するのを可能にするために提供されている。これらのインプリメンテーションに対するさまざまな修正は、当業者に対して、たやすく明白であり、そして、ここで定義されている包括的な原理は、本発明の精神および範囲から逸脱することなく、他のインプリメンテーションに適用してもよい。よって、本発明は、ここで示されているインプリメンテーションを限定することを意図していないが、ここで開示されている原理および新たな特徴と一貫するより広い範囲を与えることを意図している。
以下に、本願出願時の特許請求の範囲に記載された発明を付記する。
[1]イメージノイズ除去のための電子的な方法において、
前記方法は、
NIRイメージと可視光イメージとを含むイメージデータを受け取ることと、
前記NIRイメージ中のピクセルを、前記可視光イメージ中の対応するピクセルと位置調整することと、
前記NIRイメージ中の階調ベクトルと、前記可視光イメージ中の階調ベクトルとを決定することと、
前記NIRイメージ中の前記階調ベクトルと、前記可視光イメージ中の前記階調ベクトルとから、階調スケールマップを発生させることと、
前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することとを含む方法。
[2]前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することは、ピクセル毎の階調スケールマップ値を使用して、前記NIRイメージからノイズ除去ガイダンスのレベルを決定することをさらに含む[1]記載の方法。
[3]前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することは、加重最小二乗平滑化技術を用いて、前記可視光イメージからノイズを取り除くことを含む[1]記載の方法。
[4]前記ピクセル毎の階調スケールマップ値は、前記NIRイメージ中の前記階調ベクトルと、前記可視光イメージ中の前記階調ベクトルとの間の差のレベルを表す[2]記載の方法。
[5]前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することは、ノイズ除去されたイメージを発生させることをさらに含み、
前記方法は、
前記ノイズ除去されたイメージ中の階調ベクトルを決定することと、
前記NIRイメージ中の前記階調ベクトルと、前記ノイズ除去されたイメージ中の前記階調ベクトルとから、追加の階調スケールマップを発生させることとをさらに含む[1]記載の方法。
[6]前記階調スケールマップと、前記追加の階調スケールマップとの間の差を計算することをさらに含む[5]記載の方法。
[7]前記差を、しきい値と比較することと、
前記差が前記しきい値よりも大きい場合、前記追加の階調スケールマップを使用して、前記ノイズ除去されたイメージをノイズ除去することか、または、前記差が前記しきい値よりも小さい場合、前記ノイズ除去されたイメージを最終イメージとして出力することとをさらに含む[6]記載の方法。
[8]マルチスペクトルイメージングシステムにおいて、
近赤外(NIR)イメージを捕捉するように構成されているNIRイメージングセンサと、
可視光イメージを捕捉するように構成されている可視光イメージングセンサと、
前記NIRイメージ中の階調ベクトルと、前記可視光イメージ中の階調ベクトルとを決定し、
前記NIRイメージ中の前記階調ベクトルと、前記可視光イメージ中の前記階調ベクトルとから、階調スケールマップを発生させるようにプログラムされている階調スケールマップ発生モジュールと、
前記階調スケールマップを使用して、前記可視光イメージをノイズ除去するようにプログラムされているノイズ除去モジュールとを具備するシステム。
[9]前記ノイズ除去モジュールは、加重最小二乗平滑化技術を用いることにより、前記階調スケールマップを使用して、前記可視光イメージをノイズ除去するようにさらにプログラムされている[8]記載のシステム。
[10]前記NIRイメージと前記可視光イメージとを位置調整するように構成されているイメージ位置調整モジュールをさらに具備する[8]記載のシステム。
[11]赤外線波長のスペクトル中の光で、前記NIRイメージを照光するように構成されているNIRフラッシュをさらに具備する[8]記載のシステム。
[12]前記階調スケールマップ発生モジュールは、前記NIRイメージ中の前記階調ベクトルを、前記可視光イメージ中の前記階調ベクトルと比較して、ピクセル毎の階調スケールマップ値を発生させる[8]記載のシステム。
[13]前記ノイズ除去モジュールは、前記ピクセル毎の階調スケールマップ値を使用して、前記可視光イメージ中の各ピクセルに対して、前記NIRイメージからノイズ除去ガイダンスの量を決定するようにプログラムされている[12]記載のシステム。
[14]前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することは、ノイズ除去されたイメージを発生させ、前記ノイズ除去モジュールは、前記ノイズ除去されたイメージ中の階調ベクトルと、前記NIRイメージ中の前記階調ベクトルとに基づいて、追加の階調スケールマップを発生させるようにプログラムされている[8]記載のシステム。
[15]ノイズ除去モジュールは、前記追加の階調スケールマップを使用して、前記ノイズ除去されたイメージをノイズ除去し、これにより第2の反復ノイズ除去されたイメージを発生させるようにプログラムされている[14]記載のシステム。
[16]前記ノイズ除去モジュールは、現在の階調スケールマップと以前の階調スケールマップとの間の差が、しきい値を下回るまで、さらなる追加の階調スケールマップを発生させ続けるようにプログラムされている[15]記載のシステム。
[17]前記ノイズ除去モジュールは、現在の反復ノイズ除去されたイメージと以前の反復ノイズ除去されたイメージとの間の差が、しきい値を下回るまで、さらなる追加の階調スケールマップと、さらなる反復ノイズ除去されたイメージとにより、ノイズ除去反復を継続するようにプログラムされている[15]記載のシステム。
[18]イメージングシステムにおいて、
NIRイメージを捕捉する手段と、
可視光イメージを捕捉する手段と、
前記NIRイメージ中の階調ベクトルと、前記可視光イメージ中の階調ベクトルとを決定する手段と、
前記NIRイメージ中の前記階調ベクトルと、前記可視光イメージ中の前記階調ベクトルとから、階調スケールマップを発生させる手段と、
前記階調スケールマップを使用して、前記可視光イメージをノイズ除去する手段とを具備するイメージングシステム。
[19]前記階調ベクトルを決定する手段と、前記階調スケールマップを発生させる手段は、階調スケールマップモジュールを含む[18]記載のイメージングシステム。
[20]前記NIRイメージを捕捉する手段は、NIRイメージセンサとNIRフラッシュを含む[18]記載のイメージングシステム。
[21]前記NIRイメージと前記可視光イメージとを位置調整する手段をさらに具備する[18]記載のイメージングシステム。
[22]前記NIRイメージと前記可視光イメージを位置調整する手段は、イメージ位置調整モジュールを含む[21]記載のイメージングシステム。
[23]前記可視光イメージをノイズ除去する手段は、ノイズ除去モジュールを含む[18]記載のイメージングシステム。
[24]その上に記憶されているコードを有する、一時的でないコンピュータ読取可能媒体において、
前記コードは、実行されたときに、
NIRイメージと可視光イメージとを含むイメージデータを受け取ることと、
前記NIRイメージ中のピクセルを、前記可視光イメージ中の対応するピクセルと位置調整することと、
前記NIRイメージ中の階調ベクトルと、前記可視光イメージ中の階調ベクトルとを決定することと、
前記NIRイメージ中の前記階調ベクトルと、前記可視光イメージ中の前記階調ベクトルとから、階調スケールマップを発生させることと、
前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することとを含む方法を実行する一時的でないコンピュータ読取可能媒体。
[25]前記方法は、ピクセル毎の階調スケールマップ値を使用して、前記NIRイメージからノイズ除去ガイダンスのレベルを決定することをさらに含む[24]記載の一時的でないコンピュータ読取可能媒体。
[26]前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することは、ノイズ除去されたイメージを発生させることをさらに含む[24]記載の一時的でないコンピュータ読取可能媒体。
[27]前記方法は、前記ノイズ除去されたイメージ中の階調ベクトルを決定することと、前記NIRイメージ中の前記階調ベクトルと前記ノイズ除去されたイメージ中の前記階調ベクトルとから、追加の階調スケールマップを発生させることとをさらに含む[26]記載の一時的でないコンピュータ読取可能媒体。
[28]前記方法は、前記階調スケールマップと、前記追加の階調スケールマップとの間の差を計算することをさらに含む[27]記載の一時的でないコンピュータ読取可能媒体。
[29]前記方法は、前記差をしきい値と比較することをさらに含み、前記差が前記しきい値よりも大きい場合、前記方法は、前記追加の階調スケールマップを使用して、前記ノイズ除去されたイメージをノイズ除去することをさらに含むか、または、前記差が前記しきい値よりも小さい場合、前記方法は、前記ノイズ除去されたイメージを最終イメージとして出力することをさらに含む[28]記載の一時的でないコンピュータ読取可能媒体。
[30]前記方法は、前記可視光イメージを捕捉する予め決定された時間間隔内で、NIRフラッシュを使用して、前記NIRイメージを捕捉することをさらに含む[24]記載の一時的でないコンピュータ読取可能媒体。
Claims (30)
- イメージノイズ除去のための電子的な方法において、
前記方法は、
NIRイメージと可視光イメージとを含むイメージデータを受け取ることと、
前記NIRイメージ中のピクセルを、前記可視光イメージ中の対応するピクセルと位置調整することと、
前記NIRイメージ中の階調ベクトルと、前記可視光イメージ中の階調ベクトルとを決定することと、
前記NIRイメージ中の前記階調ベクトルと、前記可視光イメージ中の前記階調ベクトルとから、階調スケールマップを発生させることと、
前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することとを含む方法。 - 前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することは、ピクセル毎の階調スケールマップ値を使用して、前記NIRイメージからノイズ除去ガイダンスのレベルを決定することをさらに含む請求項1記載の方法。
- 前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することは、加重最小二乗平滑化技術を用いて、前記可視光イメージからノイズを取り除くことを含む請求項1記載の方法。
- 前記ピクセル毎の階調スケールマップ値は、前記NIRイメージ中の前記階調ベクトルと、前記可視光イメージ中の前記階調ベクトルとの間の差のレベルを表す請求項2記載の方法。
- 前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することは、ノイズ除去されたイメージを発生させることをさらに含み、
前記方法は、
前記ノイズ除去されたイメージ中の階調ベクトルを決定することと、
前記NIRイメージ中の前記階調ベクトルと、前記ノイズ除去されたイメージ中の前記階調ベクトルとから、追加の階調スケールマップを発生させることとをさらに含む請求項1記載の方法。 - 前記階調スケールマップと、前記追加の階調スケールマップとの間の差を計算することをさらに含む請求項5記載の方法。
- 前記差を、しきい値と比較することと、
前記差が前記しきい値よりも大きい場合、前記追加の階調スケールマップを使用して、前記ノイズ除去されたイメージをノイズ除去することか、または、前記差が前記しきい値よりも小さい場合、前記ノイズ除去されたイメージを最終イメージとして出力することとをさらに含む請求項6記載の方法。 - マルチスペクトルイメージングシステムにおいて、
近赤外(NIR)イメージを捕捉するように構成されているNIRイメージングセンサと、
可視光イメージを捕捉するように構成されている可視光イメージングセンサと、
前記NIRイメージ中の階調ベクトルと、前記可視光イメージ中の階調ベクトルとを決定し、
前記NIRイメージ中の前記階調ベクトルと、前記可視光イメージ中の前記階調ベクトルとから、階調スケールマップを発生させるようにプログラムされている階調スケールマップ発生モジュールと、
前記階調スケールマップを使用して、前記可視光イメージをノイズ除去するようにプログラムされているノイズ除去モジュールとを具備するシステム。 - 前記ノイズ除去モジュールは、加重最小二乗平滑化技術を用いることにより、前記階調スケールマップを使用して、前記可視光イメージをノイズ除去するようにさらにプログラムされている請求項8記載のシステム。
- 前記NIRイメージと前記可視光イメージとを位置調整するように構成されているイメージ位置調整モジュールをさらに具備する請求項8記載のシステム。
- 赤外線波長のスペクトル中の光で、前記NIRイメージを照光するように構成されているNIRフラッシュをさらに具備する請求項8記載のシステム。
- 前記階調スケールマップ発生モジュールは、前記NIRイメージ中の前記階調ベクトルを、前記可視光イメージ中の前記階調ベクトルと比較して、ピクセル毎の階調スケールマップ値を発生させる請求項8記載のシステム。
- 前記ノイズ除去モジュールは、前記ピクセル毎の階調スケールマップ値を使用して、前記可視光イメージ中の各ピクセルに対して、前記NIRイメージからノイズ除去ガイダンスの量を決定するようにプログラムされている請求項12記載のシステム。
- 前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することは、ノイズ除去されたイメージを発生させ、前記ノイズ除去モジュールは、前記ノイズ除去されたイメージ中の階調ベクトルと、前記NIRイメージ中の前記階調ベクトルとに基づいて、追加の階調スケールマップを発生させるようにプログラムされている請求項8記載のシステム。
- ノイズ除去モジュールは、前記追加の階調スケールマップを使用して、前記ノイズ除去されたイメージをノイズ除去し、これにより第2の反復ノイズ除去されたイメージを発生させるようにプログラムされている請求項14記載のシステム。
- 前記ノイズ除去モジュールは、現在の階調スケールマップと以前の階調スケールマップとの間の差が、しきい値を下回るまで、さらなる追加の階調スケールマップを発生させ続けるようにプログラムされている請求項15記載のシステム。
- 前記ノイズ除去モジュールは、現在の反復ノイズ除去されたイメージと以前の反復ノイズ除去されたイメージとの間の差が、しきい値を下回るまで、さらなる追加の階調スケールマップと、さらなる反復ノイズ除去されたイメージとにより、ノイズ除去反復を継続するようにプログラムされている請求項15記載のシステム。
- イメージングシステムにおいて、
NIRイメージを捕捉する手段と、
可視光イメージを捕捉する手段と、
前記NIRイメージ中の階調ベクトルと、前記可視光イメージ中の階調ベクトルとを決定する手段と、
前記NIRイメージ中の前記階調ベクトルと、前記可視光イメージ中の前記階調ベクトルとから、階調スケールマップを発生させる手段と、
前記階調スケールマップを使用して、前記可視光イメージをノイズ除去する手段とを具備するイメージングシステム。 - 前記階調ベクトルを決定する手段と、前記階調スケールマップを発生させる手段は、階調スケールマップモジュールを含む請求項18記載のイメージングシステム。
- 前記NIRイメージを捕捉する手段は、NIRイメージセンサとNIRフラッシュを含む請求項18記載のイメージングシステム。
- 前記NIRイメージと前記可視光イメージとを位置調整する手段をさらに具備する請求項18記載のイメージングシステム。
- 前記NIRイメージと前記可視光イメージを位置調整する手段は、イメージ位置調整モジュールを含む請求項21記載のイメージングシステム。
- 前記可視光イメージをノイズ除去する手段は、ノイズ除去モジュールを含む請求項18記載のイメージングシステム。
- その上に記憶されているコードを有する、一時的でないコンピュータ読取可能媒体において、
前記コードは、実行されたときに、
NIRイメージと可視光イメージとを含むイメージデータを受け取ることと、
前記NIRイメージ中のピクセルを、前記可視光イメージ中の対応するピクセルと位置調整することと、
前記NIRイメージ中の階調ベクトルと、前記可視光イメージ中の階調ベクトルとを決定することと、
前記NIRイメージ中の前記階調ベクトルと、前記可視光イメージ中の前記階調ベクトルとから、階調スケールマップを発生させることと、
前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することとを含む方法を実行する一時的でないコンピュータ読取可能媒体。 - 前記方法は、ピクセル毎の階調スケールマップ値を使用して、前記NIRイメージからノイズ除去ガイダンスのレベルを決定することをさらに含む請求項24記載の一時的でないコンピュータ読取可能媒体。
- 前記階調スケールマップを使用して、前記可視光イメージをノイズ除去することは、ノイズ除去されたイメージを発生させることをさらに含む請求項24記載の一時的でないコンピュータ読取可能媒体。
- 前記方法は、前記ノイズ除去されたイメージ中の階調ベクトルを決定することと、前記NIRイメージ中の前記階調ベクトルと前記ノイズ除去されたイメージ中の前記階調ベクトルとから、追加の階調スケールマップを発生させることとをさらに含む請求項26記載の一時的でないコンピュータ読取可能媒体。
- 前記方法は、前記階調スケールマップと、前記追加の階調スケールマップとの間の差を計算することをさらに含む請求項27記載の一時的でないコンピュータ読取可能媒体。
- 前記方法は、前記差をしきい値と比較することをさらに含み、前記差が前記しきい値よりも大きい場合、前記方法は、前記追加の階調スケールマップを使用して、前記ノイズ除去されたイメージをノイズ除去することをさらに含むか、または、前記差が前記しきい値よりも小さい場合、前記方法は、前記ノイズ除去されたイメージを最終イメージとして出力することをさらに含む請求項28記載の一時的でないコンピュータ読取可能媒体。
- 前記方法は、前記可視光イメージを捕捉する予め決定された時間間隔内で、NIRフラッシュを使用して、前記NIRイメージを捕捉することをさらに含む請求項24記載の一時的でないコンピュータ読取可能媒体。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201361811610P | 2013-04-12 | 2013-04-12 | |
US61/811,610 | 2013-04-12 | ||
US14/151,589 | 2014-01-09 | ||
US14/151,589 US9171355B2 (en) | 2013-04-12 | 2014-01-09 | Near infrared guided image denoising |
PCT/US2014/033197 WO2014168880A1 (en) | 2013-04-12 | 2014-04-07 | Near infrared guided image denoising |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016514936A true JP2016514936A (ja) | 2016-05-23 |
JP2016514936A5 JP2016514936A5 (ja) | 2017-04-20 |
JP6416208B2 JP6416208B2 (ja) | 2018-10-31 |
Family
ID=50640037
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016507589A Active JP6416208B2 (ja) | 2013-04-12 | 2014-04-07 | 近赤外ガイドイメージノイズ除去 |
Country Status (6)
Country | Link |
---|---|
US (1) | US9171355B2 (ja) |
EP (1) | EP2984621B1 (ja) |
JP (1) | JP6416208B2 (ja) |
KR (1) | KR102190717B1 (ja) |
CN (1) | CN105103189B (ja) |
WO (1) | WO2014168880A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102160682B1 (ko) * | 2019-11-05 | 2020-09-29 | 인천대학교 산학협력단 | 다중 스펙트럼 영상을 이용한 원격 이미지 처리 방법 및 장치 |
Families Citing this family (45)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9485495B2 (en) | 2010-08-09 | 2016-11-01 | Qualcomm Incorporated | Autofocus for stereo images |
US9438889B2 (en) | 2011-09-21 | 2016-09-06 | Qualcomm Incorporated | System and method for improving methods of manufacturing stereoscopic image sensors |
US9398264B2 (en) | 2012-10-19 | 2016-07-19 | Qualcomm Incorporated | Multi-camera system using folded optics |
US10178373B2 (en) | 2013-08-16 | 2019-01-08 | Qualcomm Incorporated | Stereo yaw correction using autofocus feedback |
US9383550B2 (en) | 2014-04-04 | 2016-07-05 | Qualcomm Incorporated | Auto-focus in low-profile folded optics multi-camera system |
US9374516B2 (en) | 2014-04-04 | 2016-06-21 | Qualcomm Incorporated | Auto-focus in low-profile folded optics multi-camera system |
US10013764B2 (en) * | 2014-06-19 | 2018-07-03 | Qualcomm Incorporated | Local adaptive histogram equalization |
US9294672B2 (en) | 2014-06-20 | 2016-03-22 | Qualcomm Incorporated | Multi-camera system using folded optics free from parallax and tilt artifacts |
US9819863B2 (en) | 2014-06-20 | 2017-11-14 | Qualcomm Incorporated | Wide field of view array camera for hemispheric and spherical imaging |
US9386222B2 (en) | 2014-06-20 | 2016-07-05 | Qualcomm Incorporated | Multi-camera system using folded optics free from parallax artifacts |
US9541740B2 (en) | 2014-06-20 | 2017-01-10 | Qualcomm Incorporated | Folded optic array camera using refractive prisms |
TWI511088B (zh) * | 2014-07-25 | 2015-12-01 | Altek Autotronics Corp | 產生方位影像的方法 |
US10102613B2 (en) * | 2014-09-25 | 2018-10-16 | Google Llc | Frequency-domain denoising |
US9832381B2 (en) | 2014-10-31 | 2017-11-28 | Qualcomm Incorporated | Optical image stabilization for thin cameras |
US10523855B2 (en) * | 2015-09-24 | 2019-12-31 | Intel Corporation | Infrared and visible light dual sensor imaging system |
US9934557B2 (en) * | 2016-03-22 | 2018-04-03 | Samsung Electronics Co., Ltd | Method and apparatus of image representation and processing for dynamic vision sensor |
US10200632B2 (en) | 2016-08-01 | 2019-02-05 | Microsoft Technology Licensing, Llc | Low-illumination photo capture with reduced noise and blur |
US10546195B2 (en) * | 2016-12-02 | 2020-01-28 | Geostat Aerospace & Technology Inc. | Methods and systems for automatic object detection from aerial imagery |
US10140689B2 (en) | 2017-01-20 | 2018-11-27 | Sony Corporation | Efficient path-based method for video denoising |
CN107483817B (zh) * | 2017-08-11 | 2019-12-13 | 成都西纬科技有限公司 | 一种图像处理方法及装置 |
US10945657B2 (en) * | 2017-08-18 | 2021-03-16 | Massachusetts Institute Of Technology | Automated surface area assessment for dermatologic lesions |
CN107730480A (zh) * | 2017-08-31 | 2018-02-23 | 中国航空工业集团公司洛阳电光设备研究所 | 红外图像数据处理中高低频信号的自适应分区域重组方法 |
US11045083B2 (en) * | 2017-10-17 | 2021-06-29 | Verily Life Sciences Llc | Flash optimization during retinal burst imaging |
DE102018001076A1 (de) * | 2018-02-10 | 2019-08-14 | Diehl Defence Gmbh & Co. Kg | Verfahren zur Bestimmung von Kennlinienkorrekturfaktoren eines im infraroten Spektralbereich abbildenden Matrixdetektors |
US10467730B2 (en) * | 2018-03-15 | 2019-11-05 | Sony Corporation | Image-processing apparatus to reduce staircase artifacts from an image signal |
CN108391067B (zh) * | 2018-05-10 | 2023-09-29 | 浙江芯劢微电子股份有限公司 | 一种基于rgb-ir传感器的去噪增强装置及方法 |
CN108694715A (zh) * | 2018-05-15 | 2018-10-23 | 清华大学 | 基于卷积稀疏编码的单相机rgb-nir成像系统 |
KR102627146B1 (ko) | 2018-07-20 | 2024-01-18 | 삼성전자주식회사 | 스펙트럼 처리 장치 및 방법 |
JP2020072299A (ja) | 2018-10-29 | 2020-05-07 | 三星電子株式会社Samsung Electronics Co.,Ltd. | 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム |
CN109859119B (zh) * | 2019-01-07 | 2022-08-02 | 南京邮电大学 | 一种基于自适应低秩张量恢复的视频图像去雨方法 |
KR20200087399A (ko) * | 2019-01-11 | 2020-07-21 | 엘지전자 주식회사 | 카메라 장치 및 이를 구비하는 전자 장치 |
CN109584174B (zh) * | 2019-01-29 | 2023-03-24 | 电子科技大学 | 一种梯度最小法红外图像边缘保持去噪方法 |
KR102223316B1 (ko) * | 2019-08-13 | 2021-03-05 | 숭실대학교산학협력단 | 그라디언트 벡터들의 비교 결과에 기초한 차량 led 조명 상태 판단 방법 및 장치 |
CN110781859B (zh) * | 2019-11-05 | 2022-08-19 | 深圳奇迹智慧网络有限公司 | 图像标注方法、装置、计算机设备和存储介质 |
CN112887513B (zh) * | 2019-11-13 | 2022-08-30 | 杭州海康威视数字技术股份有限公司 | 图像降噪方法及摄像机 |
CN111369456B (zh) * | 2020-02-28 | 2021-08-31 | 深圳市商汤科技有限公司 | 图像去噪方法及装置、电子设备和存储介质 |
KR102431986B1 (ko) * | 2020-07-22 | 2022-08-12 | 엘지전자 주식회사 | 로봇 청소기 및 이의 제어방법 |
US11620759B2 (en) * | 2020-07-24 | 2023-04-04 | Apple Inc. | Systems and methods for machine learning enhanced image registration |
CN112235046B (zh) * | 2020-10-20 | 2023-10-31 | 深圳万知达科技有限公司 | 无线紫外光通信的降噪处理方法 |
CN112132753B (zh) * | 2020-11-06 | 2022-04-05 | 湖南大学 | 多尺度结构引导图像的红外图像超分辨率方法及系统 |
WO2022103423A1 (en) * | 2020-11-12 | 2022-05-19 | Innopeak Technology, Inc. | Depth-based see-through prevention in image fusion |
US11741577B2 (en) | 2020-12-11 | 2023-08-29 | Samsung Electronics Co., Ltd | Method and apparatus for multi-frame based detail grade map estimation and adaptive multi-frame denoising |
CN112446828B (zh) * | 2021-01-29 | 2021-04-13 | 成都东方天呈智能科技有限公司 | 一种融合可见光图像梯度信息的热成像超分辨率重建方法 |
US11788972B2 (en) | 2021-04-29 | 2023-10-17 | Industrial Technology Research Institute | Method of automatically setting optical parameters and automated optical inspection system using the same |
US11783453B2 (en) | 2021-06-10 | 2023-10-10 | Bank Of America Corporation | Adapting image noise removal model based on device capabilities |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012018621A (ja) * | 2010-07-09 | 2012-01-26 | Panasonic Corp | 画像処理装置、画像処理方法及びプログラム |
JP2012138043A (ja) * | 2010-12-28 | 2012-07-19 | Jvc Kenwood Corp | 画像ノイズ除去方法及び画像ノイズ除去装置 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7443443B2 (en) | 2005-07-28 | 2008-10-28 | Mitsubishi Electric Research Laboratories, Inc. | Method and apparatus for enhancing flash and ambient images |
KR101563348B1 (ko) * | 2008-10-07 | 2015-10-27 | 삼성전자 주식회사 | 영상의 노이즈를 저감하는 영상 처리 장치 및 방법 |
US8374457B1 (en) * | 2008-12-08 | 2013-02-12 | Adobe Systems Incorporated | System and method for interactive image-noise separation |
WO2010081010A2 (en) | 2009-01-09 | 2010-07-15 | New York University | Methods, computer-accessible medium and systems for facilitating dark flash photography |
US8503778B2 (en) | 2009-05-14 | 2013-08-06 | National University Of Singapore | Enhancing photograph visual quality using texture and contrast data from near infra-red images |
GB0914982D0 (en) | 2009-08-27 | 2009-09-30 | Univ East Anglia | Methods and apparatus for generating accented image data |
EP2309449B1 (en) | 2009-10-09 | 2016-04-20 | EPFL Ecole Polytechnique Fédérale de Lausanne | Method to produce a full-color smoothed image |
KR101901602B1 (ko) * | 2011-01-14 | 2018-09-27 | 삼성전자주식회사 | 디지털 사진에서 노이즈를 제거하는 장치 및 방법 |
CN102404581A (zh) * | 2011-11-02 | 2012-04-04 | 清华大学 | 基于插值与近红外的彩色图像处理的方法和装置 |
US9692991B2 (en) | 2011-11-04 | 2017-06-27 | Qualcomm Incorporated | Multispectral imaging system |
-
2014
- 2014-01-09 US US14/151,589 patent/US9171355B2/en active Active
- 2014-04-07 WO PCT/US2014/033197 patent/WO2014168880A1/en active Application Filing
- 2014-04-07 KR KR1020157032226A patent/KR102190717B1/ko active IP Right Grant
- 2014-04-07 EP EP14721712.9A patent/EP2984621B1/en active Active
- 2014-04-07 JP JP2016507589A patent/JP6416208B2/ja active Active
- 2014-04-07 CN CN201480020052.3A patent/CN105103189B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012018621A (ja) * | 2010-07-09 | 2012-01-26 | Panasonic Corp | 画像処理装置、画像処理方法及びプログラム |
JP2012138043A (ja) * | 2010-12-28 | 2012-07-19 | Jvc Kenwood Corp | 画像ノイズ除去方法及び画像ノイズ除去装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102160682B1 (ko) * | 2019-11-05 | 2020-09-29 | 인천대학교 산학협력단 | 다중 스펙트럼 영상을 이용한 원격 이미지 처리 방법 및 장치 |
Also Published As
Publication number | Publication date |
---|---|
EP2984621A1 (en) | 2016-02-17 |
JP6416208B2 (ja) | 2018-10-31 |
US20150125092A1 (en) | 2015-05-07 |
KR20150140380A (ko) | 2015-12-15 |
CN105103189A (zh) | 2015-11-25 |
US9171355B2 (en) | 2015-10-27 |
EP2984621B1 (en) | 2019-05-15 |
KR102190717B1 (ko) | 2020-12-14 |
WO2014168880A1 (en) | 2014-10-16 |
CN105103189B (zh) | 2018-01-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6416208B2 (ja) | 近赤外ガイドイメージノイズ除去 | |
CN113454981B (zh) | 用于基于卷积神经网络的多个图像帧的多曝光融合及用于对多个图像帧去模糊的技术 | |
US10432861B2 (en) | Scene motion correction in fused image systems | |
US10237527B2 (en) | Convolutional color correction in digital images | |
US9344636B2 (en) | Scene motion correction in fused image systems | |
US11526995B2 (en) | Robust use of semantic segmentation for depth and disparity estimation | |
Gao et al. | A fast image dehazing algorithm based on negative correction | |
US9754356B2 (en) | Method and system for processing an input image based on a guidance image and weights determined thereform | |
US8503778B2 (en) | Enhancing photograph visual quality using texture and contrast data from near infra-red images | |
Guo et al. | Low-light image enhancement with regularized illumination optimization and deep noise suppression | |
EP2962278B1 (en) | Multi-spectral imaging system for shadow detection and attenuation | |
US11238302B2 (en) | Method and an apparatus for performing object illumination manipulation on an image | |
Iwasokun et al. | Image enhancement methods: a review | |
US20210327026A1 (en) | Methods and apparatus for blending unknown pixels in overlapping images | |
Guo et al. | Low-light maritime image enhancement with regularized illumination optimization and deep noise suppression | |
Thai | Effective techniques for digital image processing | |
CN113096033A (zh) | 基于Retinex模型自适应结构的低光照图像增强方法 | |
JP2020181399A (ja) | 画像処理装置及びその制御方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151225 Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151228 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170313 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170313 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180223 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180306 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180518 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180904 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181003 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6416208 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |