JP2022551174A - 低光子計数撮像条件における改善された信号対ノイズ比を用いたsted顕微鏡法 - Google Patents
低光子計数撮像条件における改善された信号対ノイズ比を用いたsted顕微鏡法 Download PDFInfo
- Publication number
- JP2022551174A JP2022551174A JP2022521556A JP2022521556A JP2022551174A JP 2022551174 A JP2022551174 A JP 2022551174A JP 2022521556 A JP2022521556 A JP 2022521556A JP 2022521556 A JP2022521556 A JP 2022521556A JP 2022551174 A JP2022551174 A JP 2022551174A
- Authority
- JP
- Japan
- Prior art keywords
- image
- filtered
- sted
- intensity
- calculating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title description 3
- 238000010870 STED microscopy Methods 0.000 title 1
- 238000000034 method Methods 0.000 claims abstract description 59
- 239000002131 composite material Substances 0.000 claims abstract description 6
- 238000004590 computer program Methods 0.000 claims description 12
- 230000005284 excitation Effects 0.000 claims description 11
- 238000009826 distribution Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000009792 diffusion process Methods 0.000 claims description 3
- 230000001678 irradiating effect Effects 0.000 claims description 2
- 230000001131 transforming effect Effects 0.000 claims 1
- 238000001914 filtration Methods 0.000 description 10
- 238000013459 approach Methods 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000009021 linear effect Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000004088 simulation Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 108010076504 Protein Sorting Signals Proteins 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 239000000975 dye Substances 0.000 description 2
- 239000007850 fluorescent dye Substances 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000010869 super-resolution microscopy Methods 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 238000001161 time-correlated single photon counting Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 101100521334 Mus musculus Prom1 gene Proteins 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000003628 erosive effect Effects 0.000 description 1
- 238000000799 fluorescence microscopy Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000015654 memory Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000004611 spectroscopical analysis Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/6456—Spatial resolved fluorescence measurements; Imaging
- G01N21/6458—Fluorescence microscopy
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/6408—Fluorescence; Phosphorescence with measurement of decay time, time resolved fluorescence
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/6428—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/10—Image enhancement or restoration using non-spatial domain filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/6428—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
- G01N2021/6439—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes" with indicators, stains, dyes, tags, labels, marks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10064—Fluorescence image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
- G06T2207/20032—Median filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20064—Wavelet transform [DWT]
Landscapes
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Immunology (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Analytical Chemistry (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Pathology (AREA)
- Chemical Kinetics & Catalysis (AREA)
- Optics & Photonics (AREA)
- Microscoopes, Condenser (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
Abstract
本発明は、合成画像を生成する方法に関する。この方法は、試料の、ピクセルを含むSTED画像を取得するステップと、画像ピクセルに対する到達時間のフーリエ係数を計算し、第1の画像を表す実係数と、第2の画像を表す虚係数と、を得るステップと、STED画像から強度画像を導出するステップと、第1の画像と第2の画像と強度画像とに空間フィルタを適用し、それぞれのフィルタリングされた画像を得るステップと、フィルタリングされた第1の画像とフィルタリングされた強度画像とに基づき画像Gを計算するステップと、フィルタリングされた第2の画像とフィルタリングされた強度画像とに基づき画像Sを計算するステップと、2つの画像G,Sに基づき合成画像を計算するステップと、を含む。
Description
STED(誘導放出抑制)蛍光顕微鏡では、例えば欧州特許第0801759号明細書に記載されているように、蛍光分子または蛍光染料で染色された少なくとも1つの試料画像が、顕微鏡対物レンズの焦点領域内の光パルスによって蛍光分子または蛍光染料を励起することにより、取得される。さらに、焦点領域または焦点エリアの中心の外側のエリアを脱励起するために、脱励起光が試料に照射される。したがって、このような顕微鏡は、通常の光の回折限界を下回る空間分解能を有する画像を生成することができる。この脱励起は、パルス光源または連続波(CW)光源から生じ得る。2つの光源は通常、レーザーであり、励起レーザーおよびディプリーションレーザーと称される。
米国特許第9551658号明細書には、時間ゲート検出を用いて、一層良好な空間分解能で試料から生じる光パルスを抽出するための方法および装置が記載されている。脱励起光は、蛍光寿命の減少の原因となる。したがって、蛍光信号の時間的減衰は、焦点エリアの中心よりも、焦点エリアの中心の外側の方が短い。この場合、寿命τは、
によって得られる。式中、knrは、非放射脱励起速度であり、krは、放射脱励起速度であり、kSTEDは、ディプリーションレーザーによって導入された、付加的な非放射脱励起速度の速度である。時間ゲートは、励起パルス後の短い周期内の信号を排除し、残りの信号が収集される。この時間ゲートアプローチでは、焦点エリアの中心から生じる光の収集も不完全である。ゲートオフ周期で到来する光子からの信号は喪失されており、これにより、あまり良好に分解されない非ゲート画像よりも低い信号対ノイズ比がもたらされてしまう。
出版物である、Lanzano et. al. (2015), Encoding and decoding spatio-temporal information for super-resolution microscopy, Nature Communications, 6:6701, 10.1038/ncomms7701には、フェーザアプローチを適用することにより初期光子の信号を保存することができる、SPLIT法が記載されている。この出版物では、各ピクセルについての寿命減衰は、極座標プロット(フェーザプロットと称する)に変換される。このプロットでは、各ピクセルの座標(フェーザと称する)は、3つの成分、つまり、高分解信号、低分解信号およびバックグラウンドの座標の線形結合である。高分解された成分の重みは、生じる画像に対する強度として使用され、検出された全ての光子からの情報を含む。全ての光子の信号が使用されるが、この方法には、多数の光子が取得されなければならないという制約がある。低光子計数条件下では、フェーザプロットにおける分布があまりにも広くなるので、信号対ノイズ比の改善が達成され得ない。
より狭い分布を達成するために、フェーザ座標はフィルタリングされなければならない。書籍の1つの章である、Digman et. al. (2012), The phasor approach to fluorescence lifetime imaging: exploiting phasor linear properties, in Fluorescence Lifetime Spectroscopy and Imaging: Principles and Applications in Biomedical Diagnostics (ed. L Marcu, PMW French, and DS Elson), CRC Pressには、メディアンフィルタの使用により空間情報を維持することを目的として、フェーザプロットのためのフィルタリング方法が記載されている。ただし、超分解能の文脈においては、このフィルタ法によってさえ、空間分解能の不所望の劣化がもたらされてしまう。
デジタル画像処理において、より先進的なフィルタリング方法が知られている。一例として、出版物である、Sendur, L. & Selesnick, I., (2003), Bivariate Shrinkage with Local Variance Estimation, Signal Processing Letters, IEEE. 9, 438-441, 10.1109/LSP.2002.806054.には、画像に適用された場合に空間分解能をより良好に維持するウェーブレット変換に基づく、先進的なノイズ除去フィルタが記載されている。メディアンフィルタと同様にこのノイズ除去フィルタまたは類似のフィルタをフェーザ成分に適用する試みは、フェーザ成分画像におけるノイズの強い変動が原因で機能しない。
本発明の目的は、ゲートSTEDアプローチの空間分解能を維持しながら低光子計数条件下でSTED画像における信号対ノイズ比を増大させる方法を提供することである。この目的は、
試料の、ピクセルを含むSTED画像を取得するステップ、
画像ピクセルに対する光子到達時間または光子到達時間データのフーリエ係数を計算し、実係数と虚係数とを得るステップであって、実係数は第1の画像を表し、虚係数は第2の画像を表すステップ、
STED画像から強度画像を導出するステップ、
第1の画像と第2の画像と強度画像とに空間フィルタを適用し、それぞれのフィルタリングされた画像を得るステップ、
フィルタリングされた第1の画像とフィルタリングされた強度画像とに基づき画像Gを計算するステップ、
フィルタリングされた第2の画像とフィルタリングされた強度画像とに基づき画像Sを計算するステップ、および
2つの画像G,Sに基づき合成画像を計算するステップ
のうちの少なくともいくつかのステップを含む方法によって達成される。
試料の、ピクセルを含むSTED画像を取得するステップ、
画像ピクセルに対する光子到達時間または光子到達時間データのフーリエ係数を計算し、実係数と虚係数とを得るステップであって、実係数は第1の画像を表し、虚係数は第2の画像を表すステップ、
STED画像から強度画像を導出するステップ、
第1の画像と第2の画像と強度画像とに空間フィルタを適用し、それぞれのフィルタリングされた画像を得るステップ、
フィルタリングされた第1の画像とフィルタリングされた強度画像とに基づき画像Gを計算するステップ、
フィルタリングされた第2の画像とフィルタリングされた強度画像とに基づき画像Sを計算するステップ、および
2つの画像G,Sに基づき合成画像を計算するステップ
のうちの少なくともいくつかのステップを含む方法によって達成される。
好ましくは、STED画像を取得するステップは、
試料にパルス励起光を照射するステップであって、パルス励起光は、試料に照射されるときに焦点を含むステップと、
試料に、焦点の中央領域を取り囲む脱励起光を照射するステップと、
を含む。
試料にパルス励起光を照射するステップであって、パルス励起光は、試料に照射されるときに焦点を含むステップと、
試料に、焦点の中央領域を取り囲む脱励起光を照射するステップと、
を含む。
通常、試料または試料の一部の2次元の(もしくは3次元の)STED画像が、STED機能を有する走査顕微鏡を用いて取得される。例えば、取得された2次元のSTED画像は、走査顕微鏡の取得パラメータに応じて、x方向およびy方向におけるピクセル(例えば512×512ピクセル)を含む。レーザーパルスに関する光子到達時間は、各ピクセルについて記録される。典型的な蛍光染料の蛍光寿命は、1ns~4nsの範囲にある。多くのSTED染料は、多様な寿命成分を有する。焦点領域の中心には、脱励起光が全く存在しないかまたはわずかにしか存在せず、自然寿命が観察される。この寿命は、焦点領域の中心の外側では減少する/より短くなるが、例えば脱励起光が照射される領域では、脱励起プロセスに起因して典型的には1ns未満である。焦点領域の中心の外側での寿命の減少は、ディプリーションレーザーによるディプリーションエネルギに反比例する。典型的なSTED画像の場合には、明度の高いピクセルにおいて、約100個の光子計数が記録される。光子到達時間のフーリエ係数の計算は、ピクセルごとに、好ましくは全ての画像ピクセルに対して実施される。というのも、全てのピクセルが、実フーリエ係数および虚フーリエ係数を有し、実(フーリエ)係数は第1の画像とみなすことができ、虚(フーリエ)係数は第2の画像とみなすことができるからである。ただし、第1の画像または第2の画像が例えば2次元の画像を実際に形成するかどうかは、あまり重要ではない。第1の画像および第2の画像は、例えば線形データストレージ配置または他の適切なデータストレージ配置だけを有するデータ構造として表現され得るかまたはこのようなデータ構造とみなすことができる。同様のことが、合成画像、フィルタリングされた画像、強度画像、画像Gおよび画像Sのうちの少なくとも1つに該当する。
好ましい一実施形態では、STED画像を取得するステップは、励起パルスに関する検出された蛍光光子の各々の到達時間を、各ピクセルにつき別個に記録するステップをさらに含む。
これとは択一的にまたはこれに加えて、到達時間は、少なくとも2つの時間ゲートによって記録される。
好ましくは、フーリエ係数の計算は、n次フーリエ係数の計算を含み、nは、予め選択された値(自然数)である。
好ましくは、強度画像は、STED画像の取得から、またはピクセルに対して記録された光子の数に由来する強度値の計算から導出される。
好ましい一実施形態では、画像Gは、フィルタリングされた第1の画像を、フィルタリングされた強度画像で除算することに基づき計算される。
別の好ましい一実施形態では、画像Sは、フィルタリングされた第2の画像を、フィルタリングされた強度画像で除算することに基づき計算される。
さらに好ましい一実施形態では、空間フィルタは、異方性拡散、全変動ノイズ除去、最大エントロピーノイズ除去、非局所的平均およびウェーブレットノイズ除去のうちの少なくとも1つである。
上記の目的はさらに、上記の方法を実施するように適応化された装置によって解決される。
さらに、上記の目的は、上記の方法を実施するコンピュータプログラムによってさらに解決される。本願の意味における第1の画像および/または第2の画像は、それぞれのフーリエ係数の2次元アレイの形態で表現され得る。
本発明の特に好ましい一実施形態では、第1の画像と第2の画像と強度画像とのフィルタ/空間フィルタリングは、フーリエ係数がフィルタリングされた強度で除算される前に適用される。以前は、画像が除算される場合には、ステップの後でフィルタが適用された。近隣ピクセルの(除算された)フェーザ座標は、類似の値を有する一方、生のフーリエ係数は、特に低光子計数条件下では強度に応じて変動する。本明細書の文脈におけるフェーザ座標という用語は、Lanzano et. al.に記載されている用語と同様に使用される。光子計数の数がより少ない場合には、近隣ピクセルのフーリエ係数は、高い光子計数の場合よりも高度の変動を示す。類似の平均値に対する異なる変動は、先進的なフィルタ法の前提条件と矛盾する。従来技術では、近隣ピクセルにおいて光子計数の変動がほとんどない場合に合理的に動作する、メディアンフィルタが選択された。しかしながら、STED画像は、維持されなければならない高度の変動を示す。除算される前に画像がフィルタリングされる場合には、本発明によれば、先進的なフィルタのための前提条件が得られる。さらに、フィルタリングされた画像が除算される場合には、フィルタリングされた画像が、異なる重みを有する異なる領域からの情報を含む可能性があり、したがって除算ステップにより、フェーザ座標のより広範な分布がもたらされる可能性があるという不利益がある。
しかしながら、特に好ましい一実施形態の手順によって達成されるこれらの結果は、驚くべきことに、目的が実際に達成され得る程度に、従来のアプローチ/以前のアプローチよりも優れている。先進的なフィルタリングアルゴリズムは、近隣ピクセルの統計値における強い変動に対してより一層感度が高いことが判った。
標準的なSTED顕微鏡に加えて、通常、共焦点レーザー走査顕微鏡に実装される、励起光の励起パルスに関する光子到達時間検出手段が、本発明の方法に必須である。この手段は、例えば、時間相関単一光子計数法(TCSPC法)による記録装置、または時間ゲートに基づく記録装置を含んでいてよい。
次のステップにおいて、3つの画像Freal,FimagおよびIは、空間フィルタ、特にノイズ除去フィルタを用いてフィルタリングされる。好ましくは、多種多様な先進的ノイズ除去アルゴリズムは、空間分解能を維持することができ、したがってこのステップにおいて使用され得る。例えば、以下のアルゴリズム、つまり、異方性拡散、全変動ノイズ除去、最大エントロピーノイズ除去、非局所的平均およびウェーブレットノイズ除去が適用され得る。
好ましい一実施形態では、ウェーブレットフィルタが選択される。基本動作方式は、ノイズ除去用のフーリエフィルタと同様である。ガウス分布ノイズは、全てのフーリエ係数の振幅に対する付加的なオフセットの原因となる。画像は、フーリエ空間に変換される。オフセットが減算され、画像が逆変換される。このプロセスは収縮とも称される。ウェーブレット空間は、ウェーブレット係数が画像領域ごとの周波数情報を表すという事実によって、フーリエ空間とは区別される。ウェーブレットノイズ除去のために、係数の収縮の同じ動作方式が使用される。極めて単純な方法は、全ての係数を同じオフセットだけ収縮させることである。さらに先進的な方法が開発されており、本発明に適用され得る(例えば、Sendur, L. & Selesnick, I., (2003), Bivariate Shrinkage with Local Variance Estimation, Signal Processing Letters, IEEE. Vol. 9. 438-441, 10.1109/LSP.2002.806054.)。
収縮アプローチは、ノイズのガウス分布を仮定している。強度画像Iについてのノイズ分布は、ポアソン分布であることが知られている。ガウス分布ノイズ用に設計されたフィルタをポアソン分布ノイズで使用する方法は、例えば、データをアンスコム変換によって変換することである:
次いで、フィルタを適用してデータを逆変換する。アンスコム変換後のノイズの標準偏差は、1.0である。
2つの画像FrealおよびFimagに対する状況は異なる。積分動作の後、ノイズは正確にポアソン分布とならず、蛍光寿命に依存する。
ただし、この状況は、フェーザ成分をフィルタリングする試みにとって、それほど目覚ましいものではない。まず、分布がほとんどポアソン分布であり、これらの画像に対するノイズ分散が統計的にロバストな方法、例えば中央絶対偏差(MAD)によって評価され得ると仮定することができる:
式中、σは標準偏差であり、中央演算値は、全てのピクセルiの強度Xに適用される。σと最適な収縮オフセットとの間には、依存性、特に線形依存性が存在する。係数は、ウェーブレット変換の実施詳細に依存し、特に使用される収縮アルゴリズムに対して導出され得る。例えばSendur, L. & Selesnick, I.では、この依存性は式5で得られ、セクションIIにはこの導出が含まれる。
好ましい一実施形態では、全ての3つの画像Freal,FimagおよびIは、アンスコム変換(3)によって変換され、次いで、全ての3つの画像に対するノイズが、中央絶対偏差法(4)によって評価される。アンスコム変換画像は、ウェーブレット空間に変換される。係数は、評価されたノイズの標準偏差から導出された値によって収縮される。次いで、収縮された画像がウェーブレット空間から逆変換され、アンスコム逆変換される。この結果は、フィルタリングされた画像Freal_filtered,Fimag_filteredおよびI_filteredである。
最後のステップにおいて、合成画像が、フェーザ係数から計算される。この計算は、Lanzano et. al. (2015), Encoding and decoding spatio-temporal information for super-resolution microscopy, Nature Communications, 10.1038/ncomms7701に記載されたSPLIT法と同様に実行され得る。
続いて、フェーザG成分およびフェーザS成分がフィルタリングされる従来技術よりも優れて本発明の方法が機能する理由について説明する。図1aには、縦座標1に沿った強度Iおよび横座標2に沿った到達時間tによる、励起光の焦点の中央領域から生じる光子についてのグラフ3を用いた減衰線図が示されている。図1bには、脱励起光が照射される焦点の中心の外側の領域から生じる光子についてのグラフ6が示されている。焦点の中心の外側の領域から生じる光子の平均到達時間は、焦点から生じる光子の平均到達時間よりも短い。図1cには、検出された全ての光子についてのグラフ7が示されている。時間ゲートSTEDにおいて、中央領域からの光子が支配的となっている到達時間インターバル8が、(例えばゲーティングすることによって)選択される。このインターバルの前に検出された光子は無視される。したがって、中央領域に関する情報を有する信号4(図1a参照)は喪失されている。信号の部分5(図1a参照)のみが、画像を生成するために使用される。時間ゲートアプローチの結果、空間的にはより良好に分解されるが、従来のSTED法と比べてノイズのある画像が生じる。
中央領域からの減衰のみを有するピクセルが、例えばフェーザプロット内の位置9(図1d参照)に位置している。外側からの光子は、フェーザプロット内の別個の位置10に位置している。SPLIT法(従来技術)の背景にあるアイデアは、フェーザプロット内のピクセルの位置に応じて個々のピクセルの強度に重みを適用することである。この結果、空間分解能は時間ゲートSTED法に匹敵するが、計数された光子は喪失されていないため、生じるノイズはより少ない。
図2aは、画像ピクセル内の10個の光子計数の平均についてシミュレートされたデータを視覚化している。このシミュレーションは、50%の、4ns(4ナノ秒)の寿命を有する中心エリアからの光子11と、50%の、200ps(200ピコ秒)の寿命を有する外側からの光子12と、の混合物を仮定している。20個のピクセルのフェーザ座標13が図示されている。高い光子計数に対して、フェーザの位置は、2つの成分11,12の位置の間の中間点、つまり符号14の位置になければならない。符号15が付された、フィルタリングされていない低い光子計数は、フィルタが存在しない広範な分布が原因で、ゲーティング法と比べて改善が不可能な状況にある。
図2bには、符号16が付された5×5メディアンフィルタが従来技術に従って適用される場合の、同じシミュレーションデータが示されている。図2cの場合には、符号17が付された7×7メディアンフィルタが使用される。最後に、図2dには、本発明の一実施形態のウェーブレットフィルタが使用される場合の結果が示されている(符号18が付されている)。同等の信号対ノイズ比を達成するためには、7×7メディアンフィルタが必要である。
フィルタはさらに、STED用途において有用であるように空間分解能を維持しなければならない。2つの混合物を用いたシミュレーションにより、エッジに沿ったフィルタの挙動が示されている。図3aのシミュレーションにおいて、画像19は、左半部20では、3分の2の低分解された成分と、3分の1の高分解された成分との混合物で作成された。右半部21では、3分の1の低分解された成分と、3分の2の高分解された成分と、がシミュレートされている。中央領域22内の、8個のピクセルからなる7つの行は、垂直方向に積み重ねられ、フェーザ内の4nsの位置と200psの位置との間の線に沿った強度勾配で重み付けされる。
図3bには、非常に高い光子計数の最適な条件のための、8個の平均ピクセルに対する強度23が示されている。ピクセルにつき10回の計数を行う際の、8個の平均ピクセルに対する強度が、フィルタリングされない場合については図3cに、メディアンフィルタ7×7を使用した場合については図3dに、本発明のウェーブレットフィルタを使用した場合については図3eに示されている。
本発明のウェーブレットフィルタは、信号対ノイズ比(図2cおよび図2d)が比較可能な状態で、従来技術のメディアンフィルタ(図3d)よりも良好に空間分解能を維持する(図3e)。
近隣ピクセルにおける類似のノイズ特性のための、先進的なフィルタが設計される。このようなフィルタは、従来技術に従ってフェーザ成分に直接に適用されると機能しない。フェーザ式での強度による除算が原因で、ノイズは過度に変動してしまう。
ステップの一部または全部は、例えば、プロセッサ、マイクロプロセッサ、プログラマブルコンピュータまたは電子回路等のハードウェア装置(またはハードウェア装置を使用すること)によって実行されてもよい。いくつかの実施形態では、極めて重要なステップのいずれか1つまたは複数が、そのような装置によって実行されてもよい。
一定の実装要件に応じて、本発明の実施形態は、ハードウェアまたはソフトウェアで実装され得る。この実装は、非一過性の記録媒体によって実行可能であり、非一過性の記録媒体は、各方法を実施するために、プログラマブルコンピュータシステムと協働する(または協働することが可能である)、電子的に読取可能な制御信号が格納されている、デジタル記録媒体等であり、これは例えば、フロッピーディスク、DVD、ブルーレイ、CD、ROM、PROMおよびEPROM、EEPROMまたはFLASHメモリである。したがって、デジタル記録媒体は、コンピュータ読取可能であってもよい。
本発明のいくつかの実施形態は、本明細書に記載のいずれかの方法が実施されるように、プログラマブルコンピュータシステムと協働することができる、電子的に読取可能な制御信号を有するデータ担体を含んでいる。
一般的に、本発明の実施形態は、プログラムコードを備えるコンピュータプログラム製品として実装可能であり、このプログラムコードは、コンピュータプログラム製品がコンピュータ上で実行されるときにいずれかの方法を実施するように作動する。このプログラムコードは、例えば、機械可読担体に格納されていてもよい。
別の実施形態は、機械可読担体に格納されている、本明細書に記載のいずれかの方法を実施するためのコンピュータプログラムを含んでいる。
したがって、換言すれば、本発明の実施形態は、コンピュータプログラムがコンピュータ上で実行されるときに本明細書に記載のいずれかの方法を実施するためのプログラムコードを有するコンピュータプログラムである。
したがって、本発明の別の実施形態は、プロセッサによって実行されるときに本明細書に記載のいずれかの方法を実施するために、格納されているコンピュータプログラムを含んでいる記録媒体(またはデータ担体またはコンピュータ読取可能な媒体)である。データ担体、デジタル記録媒体または被記録媒体は、典型的に、有形である、かつ/または非一過性である。本発明の別の実施形態は、プロセッサと記録媒体を含んでいる、本明細書に記載されたような装置である。
したがって、本発明の別の実施形態は、本明細書に記載のいずれかの方法を実施するためのコンピュータプログラムを表すデータストリームまたは信号シーケンスである。データストリームまたは信号シーケンスは例えば、データ通信接続、例えばインターネットを介して転送されるように構成されていてもよい。
別の実施形態は、処理手段、例えば、本明細書に記載のいずれかの方法を実施するように構成または適合されているコンピュータまたはプログラマブルロジックデバイスを含んでいる。
別の実施形態は、本明細書に記載のいずれかの方法を実施するために、インストールされたコンピュータプログラムを有しているコンピュータを含んでいる。
本発明の別の実施形態は、本明細書に記載のいずれかの方法を実施するためのコンピュータプログラムを(例えば、電子的にまたは光学的に)受信機に転送するように構成されている装置またはシステムを含んでいる。受信機は、例えば、コンピュータ、モバイル機器、記憶装置等であってもよい。装置またはシステムは、例えば、コンピュータプログラムを受信機に転送するために、ファイルサーバを含んでいてもよい。
いくつかの実施形態では、プログラマブルロジックデバイス(例えばフィールド・プログラマブル・ゲート・アレイ)が、本明細書に記載された方法の機能の一部または全部を実行するために使用されてもよい。いくつかの実施形態では、フィールド・プログラマブル・ゲート・アレイは、本明細書に記載のいずれかの方法を実施するためにマイクロプロセッサと協働してもよい。一般的に、有利には、任意のハードウェア装置によって方法が実施される。
Claims (12)
- 合成画像を生成する方法であって、前記方法は、
a.試料の、ピクセルを含むSTED画像を取得するステップと、
b.前記STED画像のピクセルに対する光子到達時間のフーリエ係数を計算し、第1の画像を表す実係数と、第2の画像を表す虚係数と、を得るステップと、
c.前記STED画像から強度画像を導出するステップと、
d.前記第1の画像と前記第2の画像と前記強度画像とに空間フィルタを適用し、それぞれのフィルタリングされた画像を得るステップと、
e.フィルタリングされた前記第1の画像とフィルタリングされた前記強度画像とに基づき画像Gを計算するステップと、
f.フィルタリングされた前記第2の画像とフィルタリングされた前記強度画像とに基づき画像Sを計算するステップと、
g.2つの前記画像Gおよび前記画像Sに基づき前記合成画像を計算するステップと、
を含む方法。 - 前記STED画像を取得するステップは、
前記試料に、焦点を有するパルス励起光を照射するステップと、
前記試料に、焦点の中央領域を取り囲む脱励起光を照射するステップと、
を含む、
請求項1記載の方法。 - 前記STED画像を取得するステップは、
励起パルスに関する検出された蛍光光子の到達時間を、各ピクセルにつき別個に記録するステップ、および/または
少なくとも2つの時間ゲートによって到達時間を記録するステップ
をさらに含む、
請求項1または2記載の方法。 - 前記フーリエ係数の計算は、n次フーリエ係数の計算を含み、nは、予め選択された値である、
請求項1から3までのいずれか1項記載の方法。 - 前記強度画像は、前記STED画像の取得から、または、ピクセルに対して記録された光子の数に由来する強度値の計算から導出される、
請求項1から4までのいずれか1項記載の方法。 - 前記画像Gは、フィルタリングされた前記第1の画像を、フィルタリングされた前記強度画像で除算することに基づき計算される、
請求項1から5までのいずれか1項記載の方法。 - 前記画像Sは、フィルタリングされた前記第2の画像を、フィルタリングされた前記強度画像で除算することに基づき計算される、
請求項1から6までのいずれか1項記載の方法。 - 前記方法は、好ましくは請求項1記載のステップd)が実行される前に、第1のノイズ分布、例えばポアソンノイズ分布を有する、取得された前記STED画像、前記第1の画像、前記第2の画像および/または前記強度画像を、第2のノイズ分布、例えばガウスノイズ分布を有する変換画像に変換し、特に請求項1記載の残りのステップを、前記変換画像に基づき実行するステップをさらに含む、
請求項1から7までのいずれか1項記載の方法。 - 前記方法は、請求項1記載のステップd)が実行された後に、取得された前記STED画像、フィルタリングされた前記第1の画像、フィルタリングされた前記第2の画像および/またはフィルタリングされた前記強度画像を逆変換するステップをさらに含む、
請求項8記載の方法。 - 前記空間フィルタは、異方性拡散、全変動ノイズ除去、最大エントロピーノイズ除去、非局所的平均およびウェーブレットノイズ除去のうちの少なくとも1つである、
請求項1から9までのいずれか1項記載の方法。 - 請求項1から10までのいずれか1項記載の方法を実施するように適応化された装置であって、前記装置は、好ましくはSTED顕微鏡またはSTED走査顕微鏡である、
装置。 - プロセッサ上で実行されるときに請求項1から10までのいずれか1項記載の方法を実施するためのプログラムコードを含む、
コンピュータプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP19202285.3 | 2019-10-09 | ||
EP19202285 | 2019-10-09 | ||
PCT/EP2020/078317 WO2021069611A1 (en) | 2019-10-09 | 2020-10-08 | Sted microscopy method with improved signal to noise ratio in low photon count imaging conditions |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022551174A true JP2022551174A (ja) | 2022-12-07 |
Family
ID=68295938
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022521556A Pending JP2022551174A (ja) | 2019-10-09 | 2020-10-08 | 低光子計数撮像条件における改善された信号対ノイズ比を用いたsted顕微鏡法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20220343467A1 (ja) |
EP (2) | EP3987275B1 (ja) |
JP (1) | JP2022551174A (ja) |
CN (1) | CN114556090A (ja) |
DE (1) | DE202020005737U1 (ja) |
WO (1) | WO2021069611A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116862919B (zh) * | 2023-09-05 | 2023-12-05 | 武汉工程大学 | 基于高斯超拉普拉斯分布的线结构光中心提取方法及装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9551A (en) | 1853-01-18 | Improvement in seed-planters | ||
US658A (en) | 1838-03-26 | Machine fob pricking leatpier preparatory to stitching | ||
ATE204086T1 (de) | 1994-02-01 | 2001-08-15 | Hell Stefan | Vorrichtung und verfahren zum optischen messen eines probenpunktes einer probe mit hoher ortsauflösung |
US7590801B1 (en) | 2004-02-12 | 2009-09-15 | Netapp, Inc. | Identifying suspect disks |
WO2012069076A1 (en) | 2010-11-22 | 2012-05-31 | MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. | Sted microscopy with pulsed excitation, continuous stimulation, and gated registration of spontaneously emitted fluorescence light |
-
2020
- 2020-10-08 DE DE202020005737.1U patent/DE202020005737U1/de active Active
- 2020-10-08 JP JP2022521556A patent/JP2022551174A/ja active Pending
- 2020-10-08 CN CN202080070738.9A patent/CN114556090A/zh active Pending
- 2020-10-08 EP EP20796485.9A patent/EP3987275B1/en active Active
- 2020-10-08 EP EP22189501.4A patent/EP4124850A1/en active Pending
- 2020-10-08 US US17/636,035 patent/US20220343467A1/en active Pending
- 2020-10-08 WO PCT/EP2020/078317 patent/WO2021069611A1/en unknown
Also Published As
Publication number | Publication date |
---|---|
EP3987275B1 (en) | 2022-08-10 |
EP4124850A1 (en) | 2023-02-01 |
CN114556090A (zh) | 2022-05-27 |
US20220343467A1 (en) | 2022-10-27 |
DE202020005737U1 (de) | 2022-04-20 |
WO2021069611A1 (en) | 2021-04-15 |
EP3987275A1 (en) | 2022-04-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ströhl et al. | A joint Richardson—Lucy deconvolution algorithm for the reconstruction of multifocal structured illumination microscopy data | |
US11562584B2 (en) | Systems and methods to reduce scattering in temporal focusing multiphoton microscopy | |
US20170146787A1 (en) | Temporal compressive sensing systems | |
Jaiswal et al. | Adaptive multispectral demosaicking based on frequency-domain analysis of spectral correlation | |
Bai et al. | Imaging enhancement of light-sheet fluorescence microscopy via deep learning | |
Danielyan et al. | Denoising of two-photon fluorescence images with Block-Matching 3D filtering | |
JP2022551174A (ja) | 低光子計数撮像条件における改善された信号対ノイズ比を用いたsted顕微鏡法 | |
Abubakar et al. | A hybrid denoising algorithm of BM3D and KSVD for Gaussian noise in DoFP polarization images | |
CN109300098B (zh) | 一种基于小波变换的多聚焦显微图像融合方法 | |
US10978271B2 (en) | Electron imaging method and system | |
US9696255B2 (en) | Image processing method of two-photon structured illumination point scanning microscopy | |
Hung et al. | An utilization of edge detection in a modified bicubic interpolation used for frame enhancement in a camera-based traffic monitoring | |
Vivirito et al. | Restoration of out-of-focus images based on circle of confusion estimate | |
Abdalla et al. | A review of nonlinear image-denoising techniques | |
Chowdhury et al. | A quantum study on digital image noises and their in-depth clusterization | |
CN115839936A (zh) | 一种基于锁相探测的结构光照明超分辨显微成像重构方法 | |
Narasimha et al. | A comparative study: Spatial domain filter for medical image enhancement | |
Kumar et al. | Characterization of supra-threshold stochastic resonance for uniform distributed signal with laplacian and gaussian noise | |
Shahram et al. | Statistical analysis of achievable resolution in incoherent imaging | |
Kockentiedt et al. | Poisson shot noise parameter estimation from a single scanning electron microscopy image | |
Yeap et al. | Adaptive tuning piecewise cubic Hermite interpolation with Wiener filter in wavelet domain for scanning electron microscope images | |
Azizi et al. | Cross‐channel regularisation for joint demosaicking and intrinsic lens deblurring | |
CN111402210A (zh) | 一种单分子荧光信号图像的超分辨定位方法及系统 | |
Zakharov et al. | Super-resolution image restoration from several blurred images formed in various conditions | |
Tutunaru et al. | Image processing technology for scanning electron microscopy |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231006 |