JP6909379B2 - イメージングノイズ低減システムおよび方法 - Google Patents
イメージングノイズ低減システムおよび方法 Download PDFInfo
- Publication number
- JP6909379B2 JP6909379B2 JP2019562218A JP2019562218A JP6909379B2 JP 6909379 B2 JP6909379 B2 JP 6909379B2 JP 2019562218 A JP2019562218 A JP 2019562218A JP 2019562218 A JP2019562218 A JP 2019562218A JP 6909379 B2 JP6909379 B2 JP 6909379B2
- Authority
- JP
- Japan
- Prior art keywords
- noise
- image
- pixel
- segment
- mask
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 97
- 230000009467 reduction Effects 0.000 title claims description 28
- 238000003384 imaging method Methods 0.000 title claims description 21
- 230000008569 process Effects 0.000 claims description 22
- 230000011218 segmentation Effects 0.000 claims description 19
- 230000003287 optical effect Effects 0.000 claims description 15
- 238000012546 transfer Methods 0.000 claims description 12
- 238000001514 detection method Methods 0.000 claims description 11
- 230000006870 function Effects 0.000 description 66
- 238000004422 calculation algorithm Methods 0.000 description 53
- 238000005070 sampling Methods 0.000 description 29
- 238000012937 correction Methods 0.000 description 27
- 230000015654 memory Effects 0.000 description 18
- 239000011324 bead Substances 0.000 description 13
- 238000003860 storage Methods 0.000 description 13
- 238000012545 processing Methods 0.000 description 12
- 238000013500 data storage Methods 0.000 description 11
- 230000001419 dependent effect Effects 0.000 description 10
- 238000009826 distribution Methods 0.000 description 10
- 238000004088 simulation Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 9
- 102000029749 Microtubule Human genes 0.000 description 8
- 108091022875 Microtubule Proteins 0.000 description 8
- 230000007423 decrease Effects 0.000 description 8
- 210000004688 microtubule Anatomy 0.000 description 8
- 230000002093 peripheral effect Effects 0.000 description 8
- 210000004027 cell Anatomy 0.000 description 7
- 238000004590 computer program Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 239000004065 semiconductor Substances 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 230000000295 complement effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 229910044991 metal oxide Inorganic materials 0.000 description 5
- 150000004706 metal oxides Chemical class 0.000 description 5
- 238000003491 array Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 239000006185 dispersion Substances 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 108010052285 Membrane Proteins Proteins 0.000 description 3
- 230000004075 alteration Effects 0.000 description 3
- 238000000799 fluorescence microscopy Methods 0.000 description 3
- 238000000386 microscopy Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 210000002824 peroxisome Anatomy 0.000 description 3
- 239000000523 sample Substances 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 102100038678 Microtubule-associated protein RP/EB family member 3 Human genes 0.000 description 2
- 101710099430 Microtubule-associated protein RP/EB family member 3 Proteins 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000009977 dual effect Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000002073 fluorescence micrograph Methods 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 238000003657 Likelihood-ratio test Methods 0.000 description 1
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 240000007594 Oryza sativa Species 0.000 description 1
- 235000007164 Oryza sativa Nutrition 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 239000012472 biological sample Substances 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 238000000295 emission spectrum Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000001000 micrograph Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000001179 pupillary effect Effects 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 235000009566 rice Nutrition 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/10—Image enhancement or restoration using non-spatial domain filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
- H04N25/671—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20056—Discrete and fast Fourier transform, [DFT, FFT]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
本特許出願は、2017年1月30日に出願され、その内容は参照によりその全体が本開示に組み込まれる仮米国特許出願第62 / 452,326号に関連し、その優先権を主張する。
A−前記セグメントに対してノイズマスクを取得し、
B−反復セグメント画像の離散フーリエ変換(DFT)を取得し、
C−前記ノイズマスクを前記セグメントの前記DFTに適用することにより、前記セグメントのノイズの寄与を取得し、
D−ピクセル値に基づいて前記セグメントのために負の対数尤度関数を計算し(ただし、前記負の対数尤度関数は、前記反復セグメント画像と初期セグメント画像間の統計を用いた負の類似度(尤度)の尺度を表す)、
E−前記負の対数尤度関数に前記ノイズの寄与を加えることにより、コスト関数を計算し、
F−ピクセル値を調整し、それによって新しい反復セグメント画像を取得し、反復最小化プロセスでステップB〜Eを繰り返すことにより、コスト関数を最小化し、
G−前記コスト関数が最小化されたときにノイズが低減されたセグメント画像を出力することを含む
複数のピクセルからのピクセルデータを表す電子検出器を有するカメラからの入力画像データを受信し、
入力画像データを複数のセグメントにセグメント化し、複数のセグメントのそれぞれについて、
初期セグメント画像を確立し、
ゲインとオフセットの所定のマップに基づいて各ピクセルの電圧オフセットとゲインを考慮してピクセルデータを変更することにより、ピクセルデータを事前補正し(又は、ゲインとオフセットの所定のマップに基づいて各ピクセルの電圧オフセットとゲインを修正してピクセルデータを変更することにより、ピクセルデータを事前補正し/又は、ゲインとオフセットの所定のマップに基づいて各ピクセルの電圧オフセットとゲインを修正するためにピクセルデータを変更することによりピクセルデータを事前補正し)、
コスト関数を最小化することにより出力画像の推定を取得し、前記推定された画像を他の推定及び出力された画像セグメントに出力およびステッチし、
前記ステッチされた推定された画像を含むノイズ低減画像を出力することを含む。
B−反復セグメント画像の離散フーリエ変換(DFT)を取得し、
C−前記ノイズマスクを前記セグメントの前記DFTに適用することにより、前記セグメントのノイズの寄与を取得し、
D−ピクセル値に基づいて前記セグメントのために負の対数尤度関数を計算し(ただし、負の対数尤度関数は、前記反復セグメント画像と初期セグメント画像間の負の類似度(尤度)尺度を表す)、
E−前記負の対数尤度関数に前記ノイズの寄与を加えることにより、コスト関数を計算し、
F−ピクセル値を調整し、それによって新しい反復セグメント画像を取得し、反復最小化プロセスでステップB〜Eを繰り返すことにより、コスト関数を最小化し、
G−前記コスト関数が最小化されたときにノイズが低減されたセグメント画像を出力すること
図5Bは、図5Aと同様のsCMOSのシーケンスの平均及びNCSフレーム、並びに、実空間(上パネル)及びフーリエ空間(下パネル)における対応する振幅である。図5Cは、sCMOSおよびNCSフレーム(OTF加重マスクおよびノイズオンリーマスクでのNCSフレーム)からのフーリエ空間での径平均振幅と正規化周波数のグラフを提供する。
1)各ピクセルの事前に特徴付けられた値(一部のCMOSカメラメーカーは現在これらのパラメータマップを提供している)を使用してオフセットとゲインを補正し、事前補正されたイメージDを取得する。その際、アルゴリズムはDの中の非正値のすべてのピクセルを10−6などの小さいを非ゼロ値に割り当てる。(又は、アルゴリズムにより、Dの中の非正値のすべてのピクセルは、10−6などの小さいを非ゼロ値に割り当てられる)。
2)入力画像をM×Mピクセルのサブ画像にセグメント化(分割)する。Mは任意の正の整数であり得る。一実施形態によれば、Mの値は約1から約256の間である。
3)以下で与えられるコスト関数fを最小化することにより推定値を取得する:
f=LLS+ασΝ、
ここで、LLSは単純化された負の対数尤度(negative LL)を表し、
σΝは、それぞれOTF周辺(境界)の近くと外側のノイズの寄与を表し、Mと目的のノイズ補正強度に基づいて変更できる値を有し得る経験的な重み係数である。汎用の準ニュートンルーチンを使用してfを最小化できる。推定の初期値は、セグメントの値に設定される。
4)各セグメントについて、ステップ3を反復する。すべてのセグメントは独立しているため、グラフィック処理装置(GPU)、中央処理装置(CPU)、または特定用途向け集積回路(ASIC)を介して並列処理できる。通常、回帰は約20回の反復内で収束する。
1)事前補正
2)画像のノイズ低減
x=mAx、
y=nAy、
kx=p/LΔx、
ky=q/LΔy、
m、n、p、qは1ずつ増加し、
p、q∈[−L/2、L/2−1]、ΔχおよびΔyは、2次元の画像のピクセルサイズを表し、一般にΔχ=Ayである。OTFマスクイメージ(kx、ky)は、以下で説明するように、レイズドコサインフィルターから生成され、ノイズの寄与は次から計算できる。
ハイパスレイズドコサインフィルタを使用して、ノイズ補正(NCS)アルゴリズムでのノイズの寄与を計算するためのOTFマスクを生成する。ハイパスレイズドコサインフィルタを使用すると、ユーザはマスク境界のシャープネスとフィルター処理の度合いを調整できる。OTFマスクは以下から生成される:
(1)sCMOSカメラからの静止画像シーケンスの平均画像を計算する。
(2)フーリエ変換のモジュラス(又は、係数/modulus)(複素フーリエ係数の絶対値)を計算する。
(3)(2)から得られた画像の対数の径平均を計算する。
(4)縮小するウィンドウを使用して、径平均曲線を滑らかにし(たとえば、ウィンドウ内の標準偏差を計算し)、滑らかな曲線の転換点からカットオフ周波数を見つける。
(4)画像の負の対数尤度
上記のように、sCMOSカメラ上の単一ピクセルからのピクセル読み出し(単位:ADU)は、それぞれポアソン分布とガウス分布に従う2つのランダム変数の合計としてモデル化される。したがって、ピクセル読み出しの確率(確かさ)は、ポアソン分布とガウス分布の畳み込みとして記述できる。畳み込みに必要な無限和の計算の複雑さを軽減するために、この確率関数の分析的近似が適用される。したがって、推定画像μと画像Dの間の尤度は以下から計算される。
本開示のアルゴリズムの性能は、対数尤度比が以下から得られる対数尤度比試験に基づくシミュレートされたデータの理想的な画像と異なる種類のノイズ及びノイズ低減後の画像を有する画像を比較することにより調べられた:
Xは、推定画像、理想的な画像、読み出し及びポアソンノイズを含む画像、またはポアソンノイズのみを含む画像のいずれかである。
sCMOSノイズ補正アルゴリズムでは、変数の数は画像内のピクセルの数に等しい。256x256ピクセルの画像の場合、合計65536個の変数の最適化は計算負荷が高い。計算時間を短縮するために、各画像はそれぞれM×Mピクセルを含む小さなサブ画像にセグメント化(分割)され、そのため、これらのサブ画像はCPUまたはGPUを介して並列処理できる。
1)元の画像に対して非エッジのピクセルの場合、それは、元の画像の隣接するピクセルでパディングされる。
2)元の画像に対してエッジのピクセルの場合、それは、それ自体でパディングされる。この変更は、フーリエ変換によるエッジ効果を回避するためのものである。パディングされた画像は、ノイズ低減アルゴリズムにおいてDとして使用される。最終出力画像では、パディングされたエッジは破棄される。この変更を実行することにより、最終画像のエッジピクセルを除き、エッジ効果が除去される。
下記は、本願の出願当初に記載の発明である。
<請求項1>
カメラ画像のノイズを低減するシステムであって、
1つ以上のプロセッサと、
プロセッサに動作可能に結合された電子検出器を備えたカメラを有し、
プロセッサはカメラ画像のノイズを減らすように構成されており、
前記プロセッサは、
複数のピクセルからのピクセルデータを表すカメラからの入力画像データを受信し、
前記入力画像データを複数のセグメントにセグメント化し、複数のセグメントのそれぞれについて、
初期セグメント画像を確立し、
ゲインとオフセットの所定のマップに基づいて各ピクセルの電圧オフセットとゲインを修正するためにピクセルデータを変更することによりピクセルデータを事前補正し、
コスト関数を最小化することにより出力画像の推定を取得し、前記推定された画像を他の推定および出力された画像セグメントに出力およびステッチし、
ステッチされた推定された画像を含むノイズ低減画像を出力するよう構成された、
システム。
<請求項2>
出力画像を推定するステップが、
A−前記セグメントに対してノイズマスクを取得し、
B−反復セグメント画像の離散フーリエ変換(DFT)を取得し、
C−前記ノイズマスクを前記セグメントの前記DFTに適用することにより、前記セグメントのノイズの寄与を取得し、
D−ピクセル値に基づいて前記セグメントのために負の対数尤度関数を計算し(ただし、前記負の対数尤度関数は、前記反復セグメント画像と初期セグメント画像間の統計を用いた負の類似度(尤度)の尺度を表す)、
E−前記負の対数尤度関数に前記ノイズの寄与を加えることにより、コスト関数を計算し、
F−ピクセル値を調整し、それによって新しい反復セグメント画像を取得し、反復最小化プロセスでステップB〜Eを繰り返すことにより、コスト関数を最小化し、
G−前記コスト関数が最小化されたときにノイズが低減されたセグメント画像を出力することを含む、請求項1に記載のシステム。
<請求項3>
前記ノイズマスクは、前記カメラの光学伝達関数(OTF)に基づく、請求項2に記載のシステム。
<請求項4>
前記ノイズマスクは、以下によって表されるハイパスレイズドコサインフィルタに基づく、請求項3に記載のシステム。
<数28>
ただし、kr=√(kx 2+ky 2)であり、Mはノイズマスクであり、βおよびTはNAおよびγに基づく調整可能なパラメータであり、NAは開口数を表し、λは検出波長を表す。
<請求項5>
前記ハイパスレイズドコサインフィルタは、β=1およびT=λ/5.6NAで表されるOTF加重マスクに基づいている、請求項4に記載のシステム。
<請求項6>
前記ハイパスレイズドコサインフィルタは、β=0.2およびT=(1−β)λ/4ΝΑで表されるOTFノイズオンリーマスクに基づいている、請求項4に記載のシステム。
<請求項7>
前記ハイパスレイズドコサインフィルタは、以下によって表される調整可能なOTFマスクに基づく、請求項4に記載のシステム。
<数29>
ただし、幅wは10−6から2で調整でき、高さhは0から1で調整可能である。
<請求項8>
前記ハイパスレイズドコサインフィルタは、幅および高さの少なくとも2つのパラメータに基づく調整可能なOTFマスクに基づく、請求項4に記載のシステム。
<請求項9>
前記幅は10−6から2NA/λで変化することができ、前記高さは0から1で変化することができる、請求項7に記載のシステム。
<請求項10>
前記ハイパスレイズドコサインフィルタは、ユーザ定義マスクに基づく、請求項4に記載のシステム。
<請求項11>
前記ゲインおよびオフセットの所定のマップは、カメラ製造業者によって提供されるか、または前記複数のピクセルのそれぞれを特徴付けることによって取得される、請求項1に記載のシステム。
<請求項12>
前記事前補正は、以下によって実行される請求項1に記載のシステム。
<数30>
ただし、Diは、事前補正されたピクセルデータi、Aiは未補正のピクセル、Oiはピクセルiのオフセット、giはピクセルiのゲインを表す。
<請求項13>
LxL画像の前記DFTが以下によって表される、請求項4に記載のシステム。
<数31>
ただし、x=mΔx、y=nΔy、kx=p/LΔx、ky=q/LΔy、m、n、p、qは1ずつ増加するインデックス、p、q∈[−L/2,L/2−1]であり、ΔχとΔyは2次元での画像のピクセルサイズを表す。
<請求項14>
Δχが実質的にΔyと同じである、請求項13記載のシステム。
<請求項15>
前記ノイズの寄与は、以下によって表される、請求項13に記載のシステム。
<数32>
<請求項16>
尤度関数が以下によって表される、請求項15に記載のシステム。
<数33>
ただし、iはピクセルインデックス、Nは画像のピクセル数、γiはキャリブレーション量である。
<請求項17>
γiがσi2/gi2であり、σi2及びgiは、それぞれピクセルiの分散とゲインである、請求項16に記載のシステム。
<請求項18>
前記負の対数尤度関数は、以下によって表される、請求項17に記載のシステム。
<数34>
ただし、Diは、
<数35>
で表される事前補正されたピクセルデータであり、Aiは未補正ピクセルを表し、Oiはピクセルiのオフセットを表し、giはピクセルiのゲインを表す。
<請求項19>
前記入力画像の前記セグメント化は、1xlから前記カメラの検出器の最大サイズまでのサイズのセグメントに基づいている、請求項18に記載のシステム。
<請求項20>
カメラにより付加されたノイズが約80%まで低減される、請求項18に記載のシステム。
<請求項21>
カメラ画像からノイズを減少させる方法であって、
複数のピクセルからのピクセルデータを表す電子検出器を有するカメラからの入力画像データを受信し、
入力画像データを複数のセグメントにセグメント化し、複数のセグメントのそれぞれについて、
初期セグメント画像を確立し、
ゲインとオフセットの所定のマップに基づいて各ピクセルの電圧オフセットとゲインを修正するためにピクセルデータを変更することによりピクセルデータを事前補正し、
コスト関数を最小化することにより出力画像の推定を取得し、前記推定された画像を他の推定及び出力された画像セグメントに出力およびステッチし、
前記ステッチされた推定された画像を含むノイズ低減画像を出力することを含む、方法。
<請求項22>
出力画像を推定するステップが、
A−前記セグメントに対してノイズマスクを取得し、
B−反復セグメント画像の離散フーリエ変換(DFT)を取得し、
C−前記ノイズマスクを前記セグメントの前記DFTに適用することにより、前記セグメントのノイズの寄与を取得し、
D−ピクセル値に基づいて前記セグメントのために負の対数尤度関数を計算し(ただし、負の対数尤度関数は、前記反復セグメント画像と初期セグメント画像間の負の類似度(尤度)尺度を表す)、
E−前記負の対数尤度関数に前記ノイズの寄与を加えることにより、コスト関数を計算し、
F−ピクセル値を調整し、それによって新しい反復セグメント画像を取得し、反復最小化プロセスでステップB〜Eを繰り返すことにより、コスト関数を最小化し、
G−前記コスト関数が最小化されたときにノイズが低減されたセグメント画像を出力することを含む、請求項21に記載の方法。
<請求項23>
前記ノイズマスクは、前記カメラの光学伝達関数(OTF)に基づく、請求項22に記載の方法。
<請求項24>
前記ノイズマスクは、以下によって表されるハイパスレイズドコサインフィルタに基づく、請求項23に記載の方法。
<数36>
ただし、kr=√(kx 2+ky 2)であり、Mはノイズマスクであり、βおよびTはNAおよびγに基づく調整可能なパラメータであり、NAは開口数を表し、λは検出波長を表す。
<請求項25>
前記ハイパスレイズドコサインフィルタは、β=1およびT=λ/5.6NAで表されるOTF加重マスクに基づいている、請求項24に記載の方法。
<請求項26>
前記ハイパスレイズドコサインフィルタは、β=0.2およびT=(1−β)λ/4ΝΑで表されるOTFノイズオンリーマスクに基づいている、請求項24に記載の方法。
<請求項27>
前記ハイパスレイズドコサインフィルタは、以下によって表される調整可能なOTFマスクに基づく、請求項4に記載のシステム。
<数37>
ただし、幅wは10−6から2で調整でき、高さhは0から1で調整可能である。
<請求項28>
前記ハイパスレイズドコサインフィルタは、幅および高さの少なくとも2つのパラメータに基づく調整可能なOTFマスクに基づく、請求項24に記載の方法。
<請求項29>
前記幅は10−6から2NA/λで変化することができ、前記高さは0から1で変化することができる、請求項28に記載の方法。
<請求項30>
前記ハイパスレイズドコサインフィルタは、ユーザ定義マスクに基づく、請求項24に記載の方法。
<請求項31>
前記ゲインおよびオフセットの所定のマップは、カメラ製造業者によって提供されるか、または前記複数のピクセルのそれぞれを特徴付けることによって取得される、請求項21に記載の方法。
<請求項32>
前記事前補正は、以下によって実行される請求項21に記載のシステム。
<数38>
ただし、Diは、事前補正されたピクセルデータi、Aiは未補正のピクセル、Oiはピクセルiのオフセット、giはピクセルiのゲインを表す。
<請求項33>
LxL画像の前記DFTが以下によって表される、請求項4に記載のシステム。
<数39>
ただし、x=mΔx、y=nΔy、kx=p/LΔx、ky=q/LΔy、m、n、p、qは1ずつ増加するインデックス、p、q∈[−L/2,L/2−1]であり、ΔχとΔyは2次元での画像のピクセルサイズを表す。
<請求項34>
Δχが実質的にΔyと同じである、請求項33に記載の方法。
<請求項35>
前記ノイズの寄与は、以下によって表される、請求項33に記載のシステム。
<数40>
<請求項36>
尤度関数が以下によって表される、請求項35に記載の方法。
<数41>
ただし、iはピクセルインデックス、Nは画像のピクセル数、γiはキャリブレーション量である。
<請求項37>
γiがσi2/gi2であり、σi2及びgiは、それぞれピクセルiの分散とゲインである、請求項36に記載の方法。
<請求項38>
前記負の対数尤度関数は、以下によって表される、請求項37に記載の方法。
<数42>
ただし、Diは、
<数43>
で表される事前補正されたピクセルデータであり、Aiは未補正ピクセルを表し、Oiはピクセルiのオフセットを表し、giはピクセルiのゲインを表す。
<請求項39>
前記入力画像の前記セグメント化は、1xlから前記カメラの検出器の最大サイズまでのサイズのセグメントに基づいている、請求項38に記載の方法。
<請求項40>
カメラにより付加されたノイズが約80%まで低減される、請求項38に記載の方法。
Claims (41)
- カメラ画像のノイズを低減するシステムであって、
1つ以上のプロセッサと、
プロセッサに動作可能に結合された電子検出器を備えたカメラを含む撮像システムを有し、
プロセッサはカメラ画像のノイズを減らすように構成されており、
前記プロセッサは、
複数のピクセルからのピクセルデータを表すカメラからの光の量子性に起因するポアソンノイズを有する入力画像データを受信するステップであって、各ピクセルは関連するピクセルで生じたガウスノイズと関連付けられており、前記カメラは周波数ドメインにおいて境界を規定する光学伝達関数(OTF)を規定し、前記境界の内側にはノイズ及び信号の両方が存在し、前記境界の外側にはノイズのみが存在し、前記ノイズはポアソンノイズ及びガウスノイズである、該ステップと、
前記入力画像データを複数のセグメントにセグメント化し、複数のセグメントのそれぞれについて、
初期セグメント画像を確立し、
ゲインとオフセットの所定のマップに基づいて各ピクセルの電圧オフセットとゲインを修正するためにピクセルデータを変更することによりピクセルデータを事前補正し、
前記境界の外側のノイズを減少させることでコスト関数を最小化することにより出力画像の推定を取得し、前記推定された画像を他の推定および出力された画像セグメントに出力およびステッチし、
ステッチされた推定された画像を含むノイズ低減画像を出力するステップを実行するよう構成された、
システム。 - 出力画像を推定するステップが、
A−前記セグメントに対してノイズマスクを取得し、
B−反復セグメント画像の離散フーリエ変換(DFT)を取得し、
C−前記ノイズマスクを前記セグメントの前記DFTに適用することにより、前記セグメントのノイズの寄与を取得し、
D−ピクセル値に基づいて前記セグメントのために負の対数尤度関数を計算し(ただし、前記負の対数尤度関数は、前記反復セグメント画像と初期セグメント画像間の統計を用いた負の類似度(尤度)の尺度を表す)、
E−前記負の対数尤度関数に前記ノイズの寄与を加えることにより、コスト関数を計算し、
F−ピクセル値を調整し、それによって新しい反復セグメント画像を取得し、反復最小化プロセスでステップB〜Eを繰り返すことにより、コスト関数を最小化し、
G−前記コスト関数が最小化されたときにノイズが低減されたセグメント画像を出力することを含む、請求項1に記載のシステム。 - 前記ノイズマスクは、前記カメラの前記光学伝達関数(OTF)に基づく、請求項2に記載のシステム。
- 前記ハイパスレイズドコサインフィルタは、β=1およびT=λ/5.6NAで表されるOTF加重マスクに基づいている、請求項4に記載のシステム。
- 前記ハイパスレイズドコサインフィルタは、β=0.2およびT=(1−β)λ/4ΝΑで表されるOTFノイズオンリーマスクに基づいている、請求項4に記載のシステム。
- 前記ハイパスレイズドコサインフィルタは、幅および高さの少なくとも2つのパラメータに基づく調整可能なOTFマスクに基づく、請求項4に記載のシステム。
- 前記幅は10−6から2NA/λで変化することができ、前記高さは0から1で変化することができる、請求項7に記載のシステム。
- 前記ハイパスレイズドコサインフィルタは、ユーザ定義マスクに基づく、請求項4に記載のシステム。
- 前記ゲインおよびオフセットの所定のマップは、カメラ製造業者によって提供されるか、または前記複数のピクセルのそれぞれを特徴付けることによって取得される、請求項1に記載のシステム。
- Δχが実質的にΔyと同じである、請求項13記載のシステム。
- γiがσi2/gi2であり、σi2及びgiは、それぞれピクセルiの分散とゲインである、請求項16に記載のシステム。
- 前記入力画像の前記セグメント化は、1xlから前記カメラの検出器の最大サイズまでのサイズのセグメントに基づいている、請求項18に記載のシステム。
- カメラにより付加されたノイズが約80%まで低減される、請求項18に記載のシステム。
- カメラ画像からノイズを減少させる方法であって、
複数のピクセルからのピクセルデータを表すカメラからの光の量子性に起因するポアソンノイズを有する入力画像データを受信するステップであって、各ピクセルは関連するピクセルで生じたガウスノイズと関連付けられており、前記カメラは周波数ドメインにおいて境界を規定する光学伝達関数(OTF)を規定し、前記境界の内側にはノイズ及び信号の両方が存在し、前記境界の外側にはノイズのみが存在し、前記ノイズはポアソンノイズ及びガウスノイズである、該ステップと、
入力画像データを複数のセグメントにセグメント化し、複数のセグメントのそれぞれについて、
初期セグメント画像を確立し、
ゲインとオフセットの所定のマップに基づいて各ピクセルの電圧オフセットとゲインを修正するためにピクセルデータを変更することによりピクセルデータを事前補正し、
前記境界の外側のノイズを減少させることでコスト関数を最小化することにより出力画像の推定を取得し、前記推定された画像を他の推定及び出力された画像セグメントに出力およびステッチし、
前記ステッチされた推定された画像を含むノイズ低減画像を出力するステップを含む、方法。 - 出力画像を推定するステップが、
A−前記セグメントに対してノイズマスクを取得し、
B−反復セグメント画像の離散フーリエ変換(DFT)を取得し、
C−前記ノイズマスクを前記セグメントの前記DFTに適用することにより、前記セグメントのノイズの寄与を取得し、
D−ピクセル値に基づいて前記セグメントのために負の対数尤度関数を計算し(ただし、負の対数尤度関数は、前記反復セグメント画像と初期セグメント画像間の負の類似度(尤度)尺度を表す)、
E−前記負の対数尤度関数に前記ノイズの寄与を加えることにより、コスト関数を計算し、
F−ピクセル値を調整し、それによって新しい反復セグメント画像を取得し、反復最小化プロセスでステップB〜Eを繰り返すことにより、コスト関数を最小化し、
G−前記コスト関数が最小化されたときにノイズが低減されたセグメント画像を出力することを含む、請求項21に記載の方法。 - 前記ノイズマスクは、前記カメラの前記光学伝達関数(OTF)に基づく、請求項22に記載の方法。
- 前記ハイパスレイズドコサインフィルタは、β=1およびT=λ/5.6NAで表されるOTF加重マスクに基づいている、請求項24に記載の方法。
- 前記ハイパスレイズドコサインフィルタは、β=0.2およびT=(1−β)λ/4ΝΑで表されるOTFノイズオンリーマスクに基づいている、請求項24に記載の方法。
- 前記ハイパスレイズドコサインフィルタは、幅および高さの少なくとも2つのパラメータに基づく調整可能なOTFマスクに基づく、請求項24に記載の方法。
- 前記幅は10−6から2NA/λで変化することができ、前記高さは0から1で変化することができる、請求項28に記載の方法。
- 前記ハイパスレイズドコサインフィルタは、ユーザ定義マスクに基づく、請求項24に記載の方法。
- 前記ゲインおよびオフセットの所定のマップは、カメラ製造業者によって提供されるか、または前記複数のピクセルのそれぞれを特徴付けることによって取得される、請求項21に記載の方法。
- Δχが実質的にΔyと同じである、請求項33に記載の方法。
- γiがσi2/gi2であり、σi2及びgiは、それぞれピクセルiの分散とゲインである、請求項36に記載の方法。
- 前記入力画像の前記セグメント化は、1xlから前記カメラの検出器の最大サイズまでのサイズのセグメントに基づいている、請求項38に記載の方法。
- カメラにより付加されたノイズが約80%まで低減される、請求項38に記載の方法。
- カメラ画像のノイズを低減するシステムであって、
1つ以上のプロセッサと、
プロセッサに動作可能に結合された電子検出器を備えたカメラを有し、
プロセッサはカメラ画像のノイズを減らすように構成されており、
前記プロセッサは、
複数のピクセルからのピクセルデータを表すカメラからの入力画像データを受信し、
前記入力画像データを複数のセグメントにセグメント化し、複数のセグメントのそれぞれについて、
初期セグメント画像を確立し、
ゲインとオフセットの所定のマップに基づいて各ピクセルの電圧オフセットとゲインを修正するためにピクセルデータを変更することによりピクセルデータを事前補正し、
コスト関数を最小化することにより出力画像の推定を取得し、前記推定された画像を他の推定および出力された画像セグメントに出力およびステッチし、
ステッチされた推定された画像を含むノイズ低減画像を出力するよう構成され、
出力画像を推定するステップが、
A−前記セグメントに対してノイズマスクを取得し、
B−反復セグメント画像の離散フーリエ変換(DFT)を取得し、
C−前記ノイズマスクを前記セグメントの前記DFTに適用することにより、前記セグメントのノイズの寄与を取得し、
D−ピクセル値に基づいて前記セグメントのために負の対数尤度関数を計算し(ただし、前記負の対数尤度関数は、前記反復セグメント画像と初期セグメント画像間の統計を用いた負の類似度(尤度)の尺度を表す)、
E−前記負の対数尤度関数に前記ノイズの寄与を加えることにより、コスト関数を計算し、
F−ピクセル値を調整し、それによって新しい反復セグメント画像を取得し、反復最小化プロセスでステップB〜Eを繰り返すことにより、コスト関数を最小化し、
G−前記コスト関数が最小化されたときにノイズが低減されたセグメント画像を出力することを含む、システム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762452326P | 2017-01-30 | 2017-01-30 | |
US62/452,326 | 2017-01-30 | ||
PCT/US2018/015795 WO2018140900A1 (en) | 2017-01-30 | 2018-01-29 | Imaging noise reduction system and method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020524422A JP2020524422A (ja) | 2020-08-13 |
JP6909379B2 true JP6909379B2 (ja) | 2021-07-28 |
Family
ID=62979181
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019562218A Active JP6909379B2 (ja) | 2017-01-30 | 2018-01-29 | イメージングノイズ低減システムおよび方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11074674B2 (ja) |
JP (1) | JP6909379B2 (ja) |
KR (1) | KR102396261B1 (ja) |
WO (1) | WO2018140900A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020172123A1 (en) * | 2019-02-18 | 2020-08-27 | Georgia Tech Research Corporation | Microscopy with near-ideal scmos camera |
CN110246513B (zh) * | 2019-07-08 | 2021-08-24 | 维沃移动通信有限公司 | 语音信号的处理方法及移动终端 |
US11669939B1 (en) * | 2019-10-07 | 2023-06-06 | Gopro, Inc. | Burst deblurring with kernel estimation networks |
WO2023042554A1 (ja) * | 2021-09-15 | 2023-03-23 | 浜松ホトニクス株式会社 | 推定方法、推定プログラム及び推定装置 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1279011A2 (en) * | 2000-05-01 | 2003-01-29 | BAE SYSTEMS Information and Electronic Systems Integration, Inc. | Methods and apparatus for compensating a radiation sensor for temperature variations of the sensor |
US7009636B2 (en) * | 2001-11-13 | 2006-03-07 | The Board Of Trustees Of The Leland Stanford Junior University | Photocurrent estimation from multiple captures for simultaneous SNR and dynamic range improvement in CMOS image sensors |
WO2007118097A1 (en) * | 2006-04-03 | 2007-10-18 | Omnivision Cdm Optics, Inc. | Optical imaging systems and methods utilizing nonlinear and/or spatially varying image processing |
US7623723B2 (en) * | 2003-11-26 | 2009-11-24 | GE Medical Systems Global Technology Com. | Method for random point and patterned noise reduction in digital images |
EP2024902A4 (en) * | 2006-02-13 | 2012-06-13 | Univ Chicago | IMAGE RECONSTRUCTION FROM INCOMPLETE OR LIMITED NUMBERS |
US8346008B2 (en) * | 2009-06-09 | 2013-01-01 | Aptina Imaging Corporation | Systems and methods for noise reduction in high dynamic range imaging |
DE102009039987A1 (de) * | 2009-09-03 | 2011-03-17 | Siemens Aktiengesellschaft | Iterativer CT-Bildfilter zur Rauschreduktion |
US8665361B1 (en) * | 2010-05-21 | 2014-03-04 | Southern Methodist University | Enhancing imaging performance through the use of active illumination |
US9202265B2 (en) | 2012-04-30 | 2015-12-01 | Nikon Corporation | Point spread function cost function with non-uniform weights |
CN105144675B (zh) | 2013-03-15 | 2018-09-14 | 耶鲁大学 | 用于处理具有传感器相关噪声的成像数据的技术 |
-
2018
- 2018-01-29 KR KR1020197025616A patent/KR102396261B1/ko active IP Right Grant
- 2018-01-29 JP JP2019562218A patent/JP6909379B2/ja active Active
- 2018-01-29 US US16/480,258 patent/US11074674B2/en active Active
- 2018-01-29 WO PCT/US2018/015795 patent/WO2018140900A1/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
US11074674B2 (en) | 2021-07-27 |
KR102396261B1 (ko) | 2022-05-10 |
KR20190113889A (ko) | 2019-10-08 |
JP2020524422A (ja) | 2020-08-13 |
US20190385280A1 (en) | 2019-12-19 |
WO2018140900A1 (en) | 2018-08-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6909379B2 (ja) | イメージングノイズ低減システムおよび方法 | |
Claus et al. | Videnn: Deep blind video denoising | |
CN113228628B (zh) | 用于转换非拜尔图案颜色滤波器阵列图像数据的系统和方法 | |
JP5543605B2 (ja) | 空間画像事前確率を用いたぼけ画像修正 | |
CN110992272B (zh) | 基于深度学习的暗光图像增强方法、装置、设备及介质 | |
JP4593449B2 (ja) | 検知装置及びエネルギー場の検知方法 | |
KR100911890B1 (ko) | 이미지 모델의 컬러 성분의 복원을 위한 방법, 시스템,프로그램 모듈, 및 컴퓨터 프로그램 생성물 | |
JP5374700B2 (ja) | 信号に対して所望のエフェクトを得るために、信号にカーネルを適用するエフェクトを調整するための技術 | |
JP5067635B2 (ja) | 撮像装置のための、エッジを保護しながらノイズを低減する方法および装置 | |
US7522782B2 (en) | Digital image denoising | |
RU2400815C2 (ru) | Способ повышения качества цифрового фотоизображения | |
US20080253678A1 (en) | Denoise method on image pyramid | |
CN110136055B (zh) | 图像的超分辨率方法和装置、存储介质、电子装置 | |
KR101225056B1 (ko) | 이미지 센서 노이즈 저감 장치 및 방법 | |
JP2012256202A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
Roels et al. | An overview of state‐of‐the‐art image restoration in electron microscopy | |
Trimeche et al. | Multichannel image deblurring of raw color components | |
WO2015098243A1 (ja) | 画像処理装置、撮像装置、プログラム及び画像処理方法 | |
Zhang et al. | INFWIDE: Image and feature space Wiener deconvolution network for non-blind image deblurring in low-light conditions | |
KR101651889B1 (ko) | 극저조도 영상의 화질 개선 장치 및 방법 | |
US20090034872A1 (en) | Method and apparatus for increasing brightness of image captured in low light | |
US10748252B2 (en) | Method and device for image correction | |
Phelippeau et al. | Shot noise adaptive bilateral filter | |
RU2405200C2 (ru) | Способ и устройство быстрого фильтрования шума цифровых изображений | |
WO2021189460A1 (zh) | 图像处理方法、装置及可移动平台 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20190920 Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190910 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190925 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190920 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20200630 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20200630 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201109 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210215 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210413 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210511 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6909379 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R370 | Written measure of declining of transfer procedure |
Free format text: JAPANESE INTERMEDIATE CODE: R370 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |