JP2022031252A - 顕微鏡で使用するための推定器を適合させるための方法、コンピュータプログラム、及び装置 - Google Patents

顕微鏡で使用するための推定器を適合させるための方法、コンピュータプログラム、及び装置 Download PDF

Info

Publication number
JP2022031252A
JP2022031252A JP2021129780A JP2021129780A JP2022031252A JP 2022031252 A JP2022031252 A JP 2022031252A JP 2021129780 A JP2021129780 A JP 2021129780A JP 2021129780 A JP2021129780 A JP 2021129780A JP 2022031252 A JP2022031252 A JP 2022031252A
Authority
JP
Japan
Prior art keywords
probe positions
estimator
tcp
sample
emitter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021129780A
Other languages
English (en)
Inventor
ローマン シュミット
Schmidt Roman
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Abberior Instruments GmbH
Original Assignee
Abberior Instruments GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Abberior Instruments GmbH filed Critical Abberior Instruments GmbH
Publication of JP2022031252A publication Critical patent/JP2022031252A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0072Optical details of the image generation details concerning resolution or correction, including general design of CSOM objectives
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/008Details of detection or image processing, including general computer control
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/16Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Immunology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biochemistry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Radiology & Medical Imaging (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Medical Informatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Microscoopes, Condenser (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Abstract

Figure 2022031252000001
【課題】試料がプローブ位置の1つ以上の組において光で照射され、蛍光光子がプローブ位置の組に関して取得される方法に基づいて、試料中のエミッタの位置を推定するために顕微鏡で使用するための推定器を適合させるための方法、コンピュータプログラム、及び装置を提供する。
【解決手段】試料はプローブ位置の1つ以上の組において光で照射され(S1)、蛍光光子はプローブ位置の組について取得され(S2)、取得された(S2)光子の光子計数が光子計数のベクトルに加算されるか(S3)、又は光子計数の合計がプローブ位置の組について決定される。続いて、背景ノイズを表す値が、光子計数のベクトル又は光子計数の合計から決定され(S4)、リアルタイムで推定器を適応させる(S5)。
【選択図】図1

Description

本発明は、試料(sample)中のエミッタ(emitter:発光体)の位置を推定するために顕微鏡に用いる推定器(estimator)を適合させる方法、コンピュータプログラム、及び装置に関する。本発明は、さらに、このような方法又は装置を利用する顕微鏡に関する。
蛍光顕微鏡(fluorescence microscopy)は,STED(STimulated Emission Depletion)[2](非特許文献2)とRESOLFT(REversible Saturable OpticaL Fluorescence Transitions)[3](非特許文献3)に代表される座標を目標化した超解像ファミリー[1](非特許文献1)と、PALM(PhotoActivated Localization Microscopy)/STORM(STochastic Optical Reconstruction Microscopy)[4](非特許文献4)とPAINT(Point Accumulation for Imaging in Nanoscale Topography)[5](非特許文献5)で構成されるその座標確率論的対応策を経験してきた。その結果、MINFLUX(MINimal photon FLUXes)[6](非特許文献6)と呼ばれる相乗効果のあるコンセプトにより、STED、PALM/STORM、その他の蛍光ナノスコピーで広く普及している約20~30nmの分解能のギャップを、分子そのものの1~5nmのサイズスケールにまで縮めることに成功した。
その核心において、MINFLUX位置決め(localization:位置特定)は、中心強度最小値、すなわちゼロを有するドーナツのような構造化された光ビームを使用して、試料に基準座標(reference coordinate)を注入するという重要な理論的根拠に基づいている。試料内のゼロの位置は、目標試料座標(targeted sample coordinate)を定義する。MINFLUXの概念は、基準座標の組(set:集合)全体、すなわち、線及び点のようなゼロ、並びに広い視野における並列化された検出に等しく適用される。座標ターゲティング(coordinate targeting)では、蛍光分子の位置を制御して光効率を高めることができる。これにより、カメラに映る回折限界の微弱な蛍光スポットの中心を特定することなく、蛍光体の座標を決定することができる。代わりに、フルオロフォアは、励起ドーナツのゼロをフルオロフォアに能動的に標的化することによって位置決めされる。具体的には、検出された蛍光レートが背景ノイズとほぼ一致するまで、考え抜かれた反復作業により、励起強度ゼロを分子にできるだけ近づけていく。ドーナツゼロによって目標とされる座標と分子位置との間の残りの距離を確立することは、はるかに少ない検出光子しか必要としないので、この最も近い近接において、最大限の位置決め精度を得るためには最小限の数の蛍光光子のみが必要とされる。したがって、試料中に基準座標を「注入」又は標的化することは、ドーナツ型励起ビーム中の無尽蔵な数の光子に位置決めするために多くの蛍光光子を必要とする負担をシフトさせる。
MINFLUX位置決めは、多数の蛍光光子を待つことによってもはや制限されないので、このナノメートル精度の位置決めは、PALM/STORMで使用されるカメラベースの位置決めよりもはるかに高速である。ドーナツゼロを使用して座標を光学的に投入するという考えは、元のSTED概念にも本質的に存在する。STED顕微鏡法では、バックグラウンドが存在しない場合、単一の検出された光子で、ドーナツゼロが標的とする座標にフルオロフォアが存在することを証明するのに十分であることが明らかである。また、そこでは、発光フルオロフォアが、STEDビームによって注入された光子によって完全に位置決めされる。
不偏推定器で達成可能な最小位置決め精度、すなわち標的座標パターンによって輪郭が描かれた直径Lの領域内に位置するフルオロフォアの位置決めのためのクレーマー・ラオの下限(CRLB)は、標的座標パターンの座標に配置されたゼロで検出された光子の総和を示すNによって、
Figure 2022031252000002

によって与えられる。標的座標パターンの直径Lへの依存性は線形であるが、検出光子数Nへの依存性は、単に周知の逆平方根関係に従うだけである。したがって、励起ドーナツのゼロをフルオロフォア位置に近づけること、すなわち、標的座標パターンの直径Lの制御された縮小は、検出された光子Nより大きな数を待つことよりも、より効果的に位置決め精度を高める。この基本的な事実は、反復MINFLUXアプローチの中核であり、これは、ドーナツのゼロを、背景ノイズによってのみ制限される手続きであるプローブされたフルオロフォアと空間的に一致させるという中心的なアイデアを果たす。外側三角形プラス中心探査点の組を含む目標座標パターンの一般的な場合には、3倍σk-1になるように選択された段階的に縮小されたLで分子上の連続的なズームイン、すなわち前の繰り返しにおける不確実性は、位置推定値を精緻化するための実行可能な戦略である。少数回kの繰り返しの後、したがって、繰り返し当たりの同一又は類似の光子計数の場合に検出された光子の組み合わせN=k・Nに対して、CRLBは、以下のようになる:
Figure 2022031252000003
すでに4つのステップ、すなわちk=4は、
Figure 2022031252000004

を生じ、検出された光子の数Nに対する逆平方根依存性とは対照的に、逆二次方程式を生じる。より多くの繰り返しは、指数関数的関係を反映して、さらに高い次数を容易にもたらす。また、重要なことに、各繰り返しにおいて収集される光子の数は、同一である必要はない。むしろ、それらは、繰り返し手順におけるそれらの最も効率的な消費のために個別に調整されてもよい。
MINFLUX測定のための試料最適化は、典型的には試料のための正しいイメージング条件、例えば、レーザ出力又はバッファー組成を見つけることを中心とし、これは、通常、適合されたパラメータを用いた連続的な測定によって行われる。このルーチンを容易にし、一般に試料スループットを改善するために、測定が始まった直後にすでに試料の品質を判断することを可能にするので、測定中の最終位置決めデータの即時レンダリングが非常に望ましい。
超解像度イメージングのための1つの可能なモダリティは、出力ランピングによる反復MINFLUXイメージングを利用する。このアプローチは、データに確率推定量を適用することにより、一組のプローブ位置で測定された光子計数から、試料中のエミッタの位置を導出する。このアプローチは偏らない結果、すなわち系統誤差のない結果に到達するためには、ドーナツの空間強度分布や信号対雑音比のような特定の実験条件を考慮しなければならないという事実によって複雑である。これまで、これらの条件は、位置決めデータの時間のかかる後処理によって考慮されてきた([6](非特許文献6)、[6a](非特許文献7)、[7](非特許文献8)、[8](非特許文献9))。
本発明の目的は、リアルタイムで顕微鏡において使用するための推定器を適合させるための解決策を提供することである。
この目的は、請求項1に記載の方法、この方法を実装する請求項13に記載のコンピュータプログラム、請求項14に記載の装置、及び請求項15に記載の顕微鏡によって達成される。従属請求項は、以下に記載される本原理の有利なさらなる発展及び改良を含む。
第1の態様によれば、試料中のエミッタの位置を推定するための顕微鏡で使用される推定器を適応させる方法であって、1つ以上のプローブ位置の組で試料に光を照射し、プローブ位置の組について蛍光光子を取得する方法であって、以下の構成を備える:
・プローブ位置の1つ以上の組での光により試料を照射することと、
・プローブ位置の組に対する蛍光光子を取得することと、
・プローブ位置の組に対する光子計数のベクトル又は光子計数の合計に取得された光子の光子計数を加算することと、
・光子計数のベクトル又は光子計数の合計から背景ノイズを表す値を決定することと、
・背景ノイズを表す値を使用してリアルタイムで推定器を適応させること。
取得された光子の光子計数を、プローブ位置の組についての光子計数のベクトル又は光子計数の合計に加算することによって、光子計数のベクトル又は光子計数の合計が、取得された光子からプローブ位置の組について決定される。
したがって、コンピュータプログラムは、少なくとも1つのプロセッサによって実行されると、少なくとも1つのプロセッサに、試料が1つ以上のプローブ位置の組において光で照射され、蛍光光子がプローブ位置の組について取得される方法に基づいて、試料中のエミッタの位置を推定するために顕微鏡で使用するための推定器を適合させるための以下のステップを実行させる命令を備える:
・プローブ位置の1つ以上の組において光で試料を照射することと、
・プローブ位置の組に対する蛍光光子を取得することと、
・プローブ位置の組に対する光子計数のベクトル又は光子計数の合計に取得された光子の光子計数を加算することと、
・光子計数のベクトル又は光子計数の合計から背景ノイズを表す値を決定することと、
・背景ノイズを表す値を使用してリアルタイムで推定器を適応させること。
コンピュータという用語は、広い意味で理解されなければならない。特に、コンピュータは、組み込みデバイス、ワークステーション、フィールドプログラマブルゲートアレイ(FPGA)などの並列計算手段、及びプロセッサベースのデータ処理装置も含む。
コンピュータプログラムコードは、例えば、電子検索のために利用可能であり又は、コンピュータ読み取り可能な記憶媒体に記憶することができる。
別の態様によれば、試料中のエミッタの位置を推定するための顕微鏡で使用される推定器を適応させる装置であって、1つ以上のプローブ位置の組で試料に光を照射し、プローブ位置の組について蛍光光子を取得する方法であって、以下の構成を備える:
・プローブ位置の1つ以上の組において光で試料を照射するように構成された照射手段と、
・プローブ位置の組に対する蛍光光子を取得するように構成された取得手段と、
・取得された光子の光子計数を、プローブ位置の組についての光子計数のベクトル又は光子計数の合計に追加し、光子計数のベクトル又は光子計数の合計から背景ノイズを表す値を決定するように構成された処理手段と、
・背景ノイズを表す値を使用してリアルタイムで推定器を適応させるように構成された制御手段。
取得された光子の光子計数を、プローブ位置の組についての光子計数のベクトル又は光子計数の合計に加算するように構成することによって、処理手段は、取得された光子から、プローブ位置の組についての光子計数のベクトル又は光子計数の合計を決定するように構成される。
本発明によれば、推定器は背景ノイズを補償するためにリアルタイムで適応される。このようにして、実質的に偏りのないリアルタイムの位置決めが可能になる。推定器を適応させるために、背景を測定データから推定し、背景を推定器のバイアスを除去するために用いた。推定器のリアルタイム適応は、測定中にすでに最終的な位置決めデータのレンダリングを可能にし、すなわち、画像は、測定中にすでにユーザに提供される。これは測定が始まった直後に、すでに試料の品質を判断することを可能にし、これは試料最適化のルーチンを容易にし、一般に、試料スループットを改善する。さらに、反復MINFLUXアプローチの場合には、分子上のプローブ点の連続的なズームインに偏りがないので、利用可能な光子がより良く使用される。さらなる利点は、分子の追跡中にも偏りがないことである。
もちろん、本発明の使用は、反復MINFLUXに限定されない。背景補償は、単にパターンを使用する場合にもリアルタイムで機能する。したがって、本発明による解決策は、パターンが追跡される追跡中にも機能する。トラッキング中も、パターンの半径を調整できる。ただし、ここでは、速度の調整を行っている。いくつかの位置決めが互いに近い場合、半径を小さくすることができる。位置決めがシフトすると、半径が増加する。
有利な実施形態では、背景ノイズを表す値を決定するために、エミッタからの蛍光が検出されないプローブ位置の組のみが評価される。このアプローチは、背景ノイズの推定が、実際にエミッタからの蛍光に由来する光子によって歪まないという利点を有する。このようにして、より正確なバックグラウンド推定が達成される。
有利な実施形態では、エミッタからの蛍光が検出されるか否かを判定するために、プローブ位置の組に対する光子計数の合計が、現在の推定背景から導出された閾値と比較される。例えば、閾値は、現在の推定背景とプリセット閾値との和、又は現在の推定背景と1より大きいプリセット定数との積であってもよい。このようにして、プローブ位置の組に対する光子計数の合計が、現在の推定背景から大きく逸脱する場合にのみ、この合計は信号として分類される。現在の推定背景はまた、以前のプローブ位置からの背景推定値のスライディング平均として計算されてもよい。
有利な実施形態では、光子計数の合計が、ヒストグラムに加算される。ヒストグラム、例えば、先入れ先出し方式で限られた数のエントリから構築されるランニングヒストグラムを使用することは、測定の履歴を容易に評価することができるという利点を有する。
有利な実施形態では、ヒストグラムが複数の走査繰り返しの各々について特定のものである。反復MINFLUXアプローチでは、プローブ位置の集合のサイズが、連続的な繰り返しに対して低減される。同時に、フルオロフォアが励起ドーナツの最小値のより近くに位置するので、強度が増加する。一般に、背景ノイズの強度に対する依存性は非線形である。したがって、使用される強度ごとに、背景ノイズを表す値を別々に決定することが有利である。線形依存性の場合は、単一の推定で十分である。
有利な実施形態では、背景ノイズを表す値が、ヒストグラムのピークから導出される。ヒストグラムのピークから背景ノイズを表す値を導出することは、容易に実現することができる。例えば、ヒストグラムの絶対最大値を使用することができ、これは計算的に安価な選択である。代替的に、ピーク検出アルゴリズムを適用してもよい。例えば、背景ノイズを表す値は、ガウスカーネルで平滑化した後に、ヒストグラムのコピーから最大値ピークとして、又は第1のピークとして導出されてもよい。代替案として、値は、合計で最も多くのエントリを含むピークの位置から導出されてもよい。
有利な実施形態では、推定器が背景ノイズの期待値がエミッタの位置を推定する前に、光子計数から減算されるように適合される。一般的な推定器は、エミッタの位置に対する期待値を提供する。この期待値は、背景ノイズの影響を受ける可能性がある。エミッタの位置を推定する前に、光子計数から背景ノイズの期待値を差し引くことにより、エミッタの位置に対するより信頼できる期待値が得られる。
有利な実施形態では、推定器が各走査繰り返しに固有の較正多項式を使用する。例えば、2次の較正多項式を使用することができる。較正多項式を使用することは、較正多項式が顕微鏡ハードウェア上で計算するのに安価であるという利点を有する。多項式に対して最適化されたパラメータは、例えば、既知の実験パラメータを説明するモンテカルロシミュレーションによって得ることができる。較正多項式は同様に、ルックアップテーブルとして提供されてもよい。
有利な実施形態では、プローブ位置の組が複数回照射される。これにより、背景の短いバーストがプローブ位置のサブセットに集中する場合に生じる方向の歪みを緩和するために、時間変動背景信号がすべてのプローブ位置で効果的にプローブされることが保証される。
有利な実施形態では、1組のプローブ位置が、円上に回転対称に配置された3つ以上のプローブ位置を含む。測定の目的は、可能な限り簡単な方法で、プローブ位置の組についての測定データの組からフルオロフォアの位置を推測することである。少なくともリアルタイム背景推定のためには、一組のプローブ位置が中心プローブ位置を使用せず、中心の周りに回転対称に配置されたプローブ位置のみを使用する。言い換えると、各プローブ位置は、中心の周りを回転させることによって、異なるプローブ位置にマッピングすることができる。もちろん、これは、追加のプローブ位置を測定することができる可能性を排除するものではなく、この場合、結果として得られる情報が追加的に使用される。たとえば、中心で測定を行い、測定の妥当性を確認することができる。
円上に回転対称に配置された3つ以上のプローブ位置を含むパターンは、任意の合理的な推定器がエミッタの位置のみに依存し、位置に依存しない背景ノイズに依存しない期待値を供給するという特性を有する。これは、すべての妥当な推定器が、基本的に測定値の重心を決定するからである。この重心は、全ての測定値に固定値を加えても変化しない。しかしながら、重心は、個々の測定値のベクトル和から決定される。このベクトル和は、測定値の合計に関して、ノイズのないケースで正規化する必要がある。ここで背景ノイズが加わると、集計器のベクトル和の期待値は変わらないが、和の期待値は、全測定時間中にプローブ位置に記録された背景ノイズの期待値分だけ増加する。背景ノイズに依存しない位置推定値の期待値を作るために、背景ノイズの期待値を分母で差し引いた。
最新技術では、中心にプローブ位置も有するパターンが、好ましくは、推定に使用される。このような推定は、背景ノイズが加わると期待値の変化につながる。しかしながら、従来技術の推定器では、背景ノイズを単純に減算することはできない。中心にプローブ位置を有する推定器の場合には、少なくともこの中心位置に対して測定された値が、背景ノイズを除去するために背景ノイズに関して補正されなければならないであろう。残念ながら、中心部では、信号の光子が最も少ないことが予想され、すなわち、信号と背景との関係は極めて好ましくない。エミッタが正確に中心にある場合、信号は実際にはゼロになる。平均ノイズがゼロから差し引かれると、負の値が得られる。これは深刻な問題を引き起こす。中心における信号をゼロに設定することは、マイナスである場合には同様に不可能である。したがって、最先端では、補正関数の最適係数が信号と背景の各比率に対して決定されるが、そのような測定された光子計数は補正されない。つまり、信号と背景の比率をパラメータとする補正関数を決定する必要がある。
本発明による解決策を用いて、信号と背景の比を、リアルタイムで決定することができる。この目的のために、リアルタイムで推定された背景によって低減された平均信号値、すなわち、個々の測定値の相応に補正された合計が決定される。この比は、求められる信号/背景比である。続いて、正しい補正関数を選択することができ、又は決定された信号/背景比が、全体的な補正関数のパラメータとして使用される。
有利な実施形態では、プローブ位置の組の対向するプローブ位置が連続する一対で照射される。このアプローチはさらに、背景の短いバーストがプローブ位置のサブセットに集中する場合に生じるのであろう方向性歪みの防止をサポートする。プローブ位置の各対は、プローブ位置の組の中心と共に、角度を規定し、ここで、プローブ位置は脚上に位置し、中心は、頂点上に位置する。偶数個のプローブ位置の場合、対向するプローブ位置は、角度が180°のものである。奇数個のプローブ位置の場合、対向するプローブ位置は、角度が180°に最も近いものである。
有利な実施形態では、推定器は、最小二乗平均推定器(least-mean-squared estimator)である。最小平均二乗推定器は、背景ノイズに対して非常にロバストであり、MINFLUX位置決めでの使用に良く適している。もちろん、他のタイプの推定器、例えば、最尤推定器(maximum likelihood estimator)又は当業者に公知の他の推定器を使用することもできる。
本発明の1つの態様によれば、これは上述の背景推定と併用することができるが、それとは独立して、改良された位置決めモードが実装され、ピンホール軌道走査(pinhole orbit scanning)と名付けられる。特に、試料中のエミッタを位置決めする方法は以下を含む:
・固定ドーナツ型励起ビームによる試料を照射すること、
・目標とする座標パターンのプローブ位置に順次ピンホールを投影すること、
・プローブ位置に対する蛍光光子を取得すること、
・取得された蛍光光子から試料内のエミッタの位置を推定すること。
したがって、コンピュータプログラムは、少なくとも1つのプロセッサによって実行されると、少なくとも1つのプロセッサに、試料中のエミッタを位置特定するための以下のステップを実行させる命令を含む:
・固定ドーナツ型励起ビームにより試料を照射すること、
・目標とする座標パターンのプローブ位置に順次ピンホールを投影すること、
・プローブ位置に対する蛍光光子を取得すること、
・取得された蛍光光子から試料内のエミッタの位置を推定すること。
前述のように、コンピュータという用語は、広く理解されなければならない。特に、本発明は、組み込みデバイス、ワークステーション、フィールドプログラマブルゲートアレイなどの並列計算手段、及びプロセッサベースのデータ処理装置も含む。
コンピュータプログラムコードは例えば、電子検索のために利用可能にすることも、コンピュータ読み取り可能な記憶媒体に記憶することもできる。
同様に、試料中のエミッタを位置決めするための装置は以下を含む:
・固定ドーナツ型励起ビームで試料を照射するように構成された照射手段と、
・目標座標パターンの位置を順次探査するためにピンホールを投影するように構成された投影手段と、
・プローブ位置に対する蛍光光子を取得するように構成された取得手段と、
・取得された蛍光光子から試料内のエミッタの位置を推定するように構成された処理手段。
上述の解決策は、検索プロセスの効率を改善するという利点を有する。従来のMINFLUX実装で使用されたものとは対照的に、この事前位置決めは、規則的に集束されたビームに頼らない。これは、異なる焦点強度分布間、例えばガウス形状とドーナツ形状との間のマイクロ秒スケールの切り替えのための専用ハードウェアを冗長にするが、セットアップを著しく単純化する。通常、ガウス形状とドーナツ形状との間の切り替えに使用される空間光変調器は、測定ルーチン中に形状を切り替えるには通常、あまりにも遅すぎる。捕獲範囲は、幾つかのパラメータに依存するが、ドーナツ形状は、ガウス形状のそれを超えて捕獲範囲を広げることを容易にする。換言すれば、ポテンシャル井戸内に位置する全てのエミッタを見つけることができる。
有利な実施形態では、励起ビームが、協調して作用する検流計スキャナ及び電気光学スキャナを用いて安定状態に保たれる。これは、かなり大きな視野が達成されるという利点を有する。
有利な実施形態では、走査位置間の相互距離が、使用される励起波長の10%から50%の間である。これは、ドーナツゼロから潜在的に生じる検索グリッドの位置に隣接するダークスポットを防止する。
本発明のさらなる特徴は、以下の説明及び添付の特許請求の範囲を図面と共に参照することによって明らかになるのであろう。
試料中のエミッタの位置を推定するために顕微鏡で使用するための推定器を適合させるための方法を概略的に示す。 試料中のエミッタの位置を推定するために顕微鏡で使用するための推定器を適合させるための装置の第1の実施形態を概略的に示す。 試料中のエミッタの位置を推定するために顕微鏡で使用するための推定器を適合させるための装置の第2の実施形態を概略的に示す。 多数の分子を持つ試料を示す。 光分布を通る断面にわたる典型的な強度曲線を示す。 MINFLUX顕微鏡の例示的な光学セットアップを示す。 リアルタイム背景補償の原理を説明する。 MINFLUX位置決めの原理を示す。 シミュレートされた平均位置推定値及び信頼区間と共に、MINFLUX位置決めプロセスで適用されたターゲット座標パターンを示す。
本明細書は、本開示の原理を示す。したがって、当業者は本明細書では明示的に説明又は図示されていないが、本開示の原理を具現化する様々な構成を考案することができることが理解されよう。
本明細書に記載されているすべての例及び条件文は、本開示の原理及び本発明者が本技術の発展に貢献した概念を、読者が理解するのを助けるための教育目的であり、そのような具体的に記載された例及び条件に限定されないものとして解釈される。
さらに、本開示の原理、態様、及び実施形態、並びにその特定の例を列挙する本明細書のすべての説明は、その構造的及び機能的な均等物の両方を包含することが意図される。さらに、そのような均等物は現在知られている均等物と、将来開発される均等物、すなわち、構造にかかわらず、同じ機能を実行するように開発された任意の要素との両方を含むことが意図される。
したがって、たとえば、本明細書で提示される図は、本開示の原理を具体化する例示的な回路の概念図を表すことが、当業者には理解されよう。
図に示されている様々な要素の機能は、専用のハードウェアと、適切なソフトウェアと関連してソフトウェアを実行することができるハードウェアとを使用して提供することができる。プロセッサによって提供される場合、機能は、単一の専用プロセッサ、単一の共用プロセッサ、又は複数の個々のプロセッサによって提供されてもよく、その一部は共用されてもよい。さらに、用語「プロセッサ」又は「コントローラ」の明示的な使用は、ソフトウェアを実行することができるハードウェアのみを意味するものと解釈されるべきではなく、デジタル信号プロセッサ(DSP)ハードウェア、ソフトウェアを記憶するための読み出し専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、及び不揮発性記憶装置を暗黙的に含むことができる。
他のハードウェア、通常のもの及び/又はカスタムなものも含まれ得る。同様に、図に示される任意のスイッチは、概念的なものにすぎない。これらの機能は、プログラムロジックの動作、専用ロジック、プログラム制御と専用ロジックの相互作用を通して、さらには手動で行うことができ、特定の技術は、文脈からより具体的に理解されるように、実装者が選択することができる。
本明細書の特許請求の範囲において、特定の機能を実行するための手段と表現されている要素は、例えば、その機能を実行する回路要素の組み合わせや、その機能を実行するためにそのソフトウェアを実行するための適切な回路と組み合わされた、ファームウェア、マイクロコードなどを含むあらゆる形態のソフトウェアを含む、その機能を実行するためのあらゆる方法を包含することが意図される。そのような特許請求の範囲によって定義される開示は、様々な列挙された手段によって提供される機能が特許請求の範囲が要求する方法で組み合わされ、まとめられるという事実にある。したがって、これらの機能を提供することができる任意の手段は、本明細書に示されるものと均等であると見なされる。
図1は、試料中のエミッタの位置を推定するための顕微鏡内で使用する推定器を適合させるための本発明による方法を概略的に示す。例えば、推定器(estimator)は、最小平均二乗推定器(least-mean-squared estimator)であってもよい。この方法では、試料がプローブ位置の1つ以上の組において光で照明され(S1)、蛍光光子は、プローブ位置の組に対して取得される(S2)。有利には、プローブ位置の組が、複数回照明される(S1)。一組のプローブ位置の対向するプローブ位置は、連続する対で照射されてもよい(S1)。好ましくは、プローブ位置の組が、円上に回転対称に配置された3つ以上のプローブ位置を含む。次いで、取得された(S2)光子の光子計数が、プローブ位置の組についての光子計数のベクトル又は光子計数の合計に加算される(S3)。続いて、背景ノイズを表す値が、光子計数のベクトル又は光子計数の合計から決定される(S4)。例えば、光子計数の合計は、ヒストグラムに加算されてもよく、このヒストグラムは、好ましくは複数の走査繰り返し(scanning iterations)の各々に固有のものである。次いで、背景ノイズを表す値を、ヒストグラムのピークから導出することができる。背景ノイズを表す値は、リアルタイムで推定器を適応させる(S5)ために使用される。例えば、推定器は、エミッタの位置を推定する前に、背景ノイズの期待値が光子計数から減算されるように、適応させること(S5)ができる。好ましくは、推定器が較正多項式を使用し、これは各走査繰り返しに固有である。有利には、背景ノイズを表す値を決定するために、エミッタからの蛍光が検出されないプローブ位置の組のみが評価される。エミッタからの蛍光が検出されるかどうかを決定するために、プローブ位置の組に対する光子計数の合計は、現在の推定背景から導出された閾値と比較されてもよい。
図2は、試料中のエミッタの位置を推定するために顕微鏡10で使用するための推定器35を適合させるための、本発明による装置40の第1の実施形態のブロック図を概略的に示す。例えば、推定器35は、最小平均二乗推定器であってもよい。装置40は、顕微鏡10の構成要素とデータを交換するためのインタフェース41を有する。照射手段42は、例えば、それに応じて顕微鏡の光源及び位置制御素子に指示することによって、1つ以上のプローブ位置の組で試料に光を照射するように構成される。有利には、プローブ位置の組が、複数回照明される(S1)。一組のプローブ位置の対向するプローブ位置は、連続する対で照射されてもよい(S1)。好ましくは、プローブ位置の組が、円上に回転対称に配置された3つ以上のプローブ位置を含む。取得手段43は、例えば、顕微鏡の1つ以上の検出器の信号を評価することによって、プローブ位置の組のための蛍光光子を取得するように構成される。処理手段44は、取得された光子の光子計数を、プローブ位置の組についての光子計数のベクトル又は光子計数の合計に加算し、光子計数のベクトル又は光子計数の合計から背景ノイズを表す値を決定するように構成される。例えば、光子計数の合計は、ヒストグラムに加算されてもよく、このヒストグラムは、好ましくは複数の走査繰り返しの各々に固有のものである。制御手段45は、背景ノイズを表す値を使用して、リアルタイムで推定器35を適応させるように構成される。例えば、推定器は、エミッタの位置を推定する前に、背景ノイズの期待値が光子数から減算されるように適応されてもよい。好ましくは、推定器が、較正多項式を使用し、これは各走査繰り返しに固有である。有利には、背景ノイズを表す値を決定するために、エミッタからの蛍光が検出されないプローブ位置の組のみが評価される。エミッタからの蛍光が検出されるかどうかを決定するために、プローブ位置の組に対する光子計数の合計は、現在の推定背景から導出された閾値と比較されてもよい。
照射手段42、取得手段43、処理手段44、及び制御手段45は、コントローラ46によって制御することができる。ローカル記憶ユニット47は、例えば、処理中にデータを記憶するために設けられる。ユーザーインターフェース48は、ユーザが装置40の様々な要素42~46の設定を変更することを可能にするために設けられてもよい。装置40の様々な要素42~46は、専用のハードウェアユニットとして具現化することができる。もちろん、それらは、同様に、完全に又は部分的に単一のユニットに組み合わされてもよく、又はプロセッサ、例えばCPU又はGPU上で実行されるソフトウェアとして実装されてもよい。
試料中のエミッタの位置を推定するための顕微鏡で使用するための推定器を適合させるための本発明による装置50の第2の実施形態のブロック図が、図3に示されている。装置50は、処理装置51及びメモリ装置52を備える。例えば、装置50は、コンピュータ、電子制御ユニット、又は組込みシステムであってもよい。処理装置51によって実行されると、装置50に説明された方法のうちの1つによるステップを実行させる命令を、メモリ装置52は格納している。したがって、メモリ装置52に格納された命令は、本原理に従って本明細書で説明されるようなプログラムステップを実行するために、処理装置51によって実行可能な命令のプログラムを有形に具現化する。装置50は、データを受信するための入力53を有する。処理装置51によって生成されたデータは、出力54を介して利用可能にされる。さらに、このようなデータをメモリ装置52に記憶してもよい。入力53及び出力54は、単一の双方向インタフェースに結合されてもよい。
本明細書で使用される処理装置51は、マイクロプロセッサ、デジタル信号プロセッサ、又はそれらの組合せなどの1つ以上の処理ユニットを含むことができる。
ローカル記憶ユニット47及びメモリ装置52は、揮発性及び/又は不揮発性メモリ領域、並びにハードディスクドライブ、光ドライブ、及び/又はソリッドステートメモリなどの記憶デバイスを含むことができる。
以下で図4~図9を参照して、本発明の態様をより詳細に説明する。
図4は多数のエミッタ2、例えば、フルオロフォア(fluorophores:蛍光色素分子)でマークされた、又はフルオロフォア自体として作用する、分子を有する実例1を示す。この実例では、5つのエミッタ2が表示され、M1からM5の位置が決定される。フルオロフォアは、光子を放出するのに適した波長の光で励起することができる。MINFLUX顕微鏡では、位置決めさせたいフルオロフォアが、励起に使用した光分布の最小値の近く又は最小値の中に常に配置されるようにフルオロフォアを励起し、それによって光分布は、最小値に隣接する強度増加範囲を持たなければならない。このようにして、それぞれの発光フルオロフォアの位置に関する情報を得ることに関して、蛍光光子のより良好な利用が達成される。理想的には、励起光分布の最小値はゼロ点である。
図5は、適切に構造化された光ビーム、この場合にはドーナツの光分布3を通る断面にわたる例示的な強度曲線を示す。強度Iは、光分布3内の位置に対して、ここではx軸に沿ってプロットされている。光分布3の強度曲線は、中心強度最小値4を示し、これは、強度増加領域5によって全ての側面で囲まれている。
図6は、MINFLUX顕微鏡10の例示的な光学設定を示す。光学設定は、一般的な蛍光顕微鏡に基づく。典型的な顕微鏡ワークフローは、また、ナノメートル解像度画像が記録される前に、特に、広視野モードでの試料の接眼レンズ検査に基づいて、又は共焦点走査によって、関心領域を選択する前のステップを伴う。標準的な倒立顕微鏡プラットフォーム11上にMINFLUXを実現することは、一般的な蛍光顕微鏡が、標準的なステージ、プローブホルダ、明視野及び落射蛍光照明との適合性などの日常的に必要とされる特徴を提供し、試料中の大きな関心領域を迅速にチェックするために使用可能なフィルタ及び接眼レンズとの実用性の組み合わせを容易にする。MINFLUX顕微鏡10は、コントローラ12によって制御される。
レーザ14によって放射される励起ビーム13は、顕微鏡プラットフォーム11の一部である対物レンズの焦点面内に集束される。MINFLUXスキームを適用する所望の領域における大きな関心領域のフレキシブルなプレビューと正確な測定の両方を可能にするために、静止試料に関するビーム走査は、協調して動作する検流計走査ユニット16と電気光学ビーム偏向器17、18とによって達成される。x-y-平面におけるMINFLUX測定のための横方向の高速走査を可能にするために、励起ビーム13は、λ/2-板15を通過し、2つの電気光学ビーム偏向器17、18によって偏向され、これらの偏向器は直列に設置され、それぞれの軸に対して90°だけ回転される。電気光学ビーム偏向器17、18の間にあるλ/2プレート20は、レーザビーム偏向を90°回転させて、その回転に対応させる。焦点面内の偏向器アレイのアクセス可能な視野は小さく、顕微鏡本体のカメラポートに設置された追加の検流計走査ユニット16を介して拡張され、これは、追加のより細かく、はるかに高速な電気光学x及びy変位のためのより粗い基礎として働く。励起ビーム13のガウス形状とドーナツ形状とを切り替えるために、位相変調空間光変調器21が使用され、これは、ヘリカル位相シフトをビーム13に導入する。その後、λ/4板22が、励起光の円偏光を成形する。続いて、励起ビーム13は、ビームスプリッタ23と共に検出ビーム経路と重ね合わされ、検流計走査ユニット16を介して顕微鏡11内に進む。共同して、検流計走査ユニット16及び電気光学ビーム偏向器17、18の両方を用いて、共焦点走査のための通常の集束ビームとして、又はMINFLUXプロトコルのための中心ゼロ点強度を有するドーナツとして、顕微鏡11内に励起ビーム13を位置決めする。
単一のフルオロフォアの活性化のために、活性化レーザ24が使用される。このレーザ24の強度は、減光(neutral-density)フィルタ25によってナノワット領域に低減される。λ/4板26を通過した後、活性化レーザビーム27は、ビームスプリッタ28によって、励起レーザビーム経路と同様に検出レーザビーム経路と重ねられる。活性化レーザビーム27は、電気光学ビーム偏向器17、18を通さずに顕微鏡11に提供される
試料によって放射された蛍光29は、対物レンズによって収集され、検流計走査ユニット16によってデスキャン(descanned)され、前述のビームスプリッタ23、28によって透過され、二つのアバランシェフォトダイオード31、32を用いて共焦点化検出のための可変ピンホール30に渡され、ダイクロイックミラー33によって画定される明確なスペクトル範囲の光子を検出する。
試料内のエミッタの位置を推定するために、コントローラ12は、推定器35を含む。推定器35は、推定器35を適応させるために、本発明による装置40によってリアルタイムで適応させることができる。この例では、装置40もコントローラ12に含まれる。もちろん、それは、同様に、内蔵型装置として提供されてもよい。
先に示したように、超解像度撮像のための1つの可能なモダリティは、出力ランピングを伴う反復MINFLUX撮像を使用することである。このアプローチは、データに確率推定量を適用することにより、一組のプローブ位置で測定された光子計数から、試料中のエミッタの位置を導出する。偏りのない結果、すなわち、系統的誤差のない結果に到達するために、測定スキームが使用され、これは、リアルタイムで実質的に偏りのない位置決め(localization:位置特定)を提供する。
半径Lを有する円上のビーム位置
Figure 2022031252000005

と、等しい滞在時間の間に収集された関連する光子計数とを有する標的座標パターンに対して、標的座標パターン内の(相対的な)エミッタ位置に対する最小平均二乗推定量(LMSE)を積として書くことができる
Figure 2022031252000006

規化されたベクトル和から
Figure 2022031252000007

Lと点広がり関数の半値全幅(FWHM)を説明するスケーリング定数cを持つ。本発明の1つの態様によれば、スケーリング定数を、顕微鏡ハードウェア上で計算するのに安価な2次の繰り返し従属較正多項式Pに置き換えて、較正された最小平均二乗推定量から偏りのないエミッタ位置を得る:
Figure 2022031252000008
各繰り返しkについて、最適化された係数Pは、ドーナツの正確な形状、対象座標パターンの幾何学的形状及び光子限界Nのような既知の実験パラメータを説明するモンテカルロシミュレーションによって得ることができる。好ましくは、収集された光子の実際の数がプリセットNを超えるまで、顕微鏡は、各位置決めステップ中に複数回、目標座標パターンを探査する。滞留時間(dwell times)及び励起パワーは、収集された光子の実際の数の分布が、Pの使用を保証するためにこの限界に十分に近いままであるように調整されてもよい。以前のMINFLUX実装で使用されたようなm=3の中心から外れたビーム位置に対して、推定器バイアスは、半径方向の対称性から著しく逸脱する。したがって、好ましくは、全ての繰り返しについて6に増加される。目標が最高の位置決め率であり、及び追加されたオーバーヘッドが回避されるべきである繰り返しに対して例外が行われてもよい。位置決め精度の増大した角度均一性は、特に、標的座標パターンの周辺に存在するエミッタに対して注目に値するものとなる。
しかしながら、偏りのないエミッタ位置を提供する際に、式(4)は、典型的な用途に存在する不可避のバックグラウンドを説明するものではない。一様なバックグラウンドは、分子へのその平均寄与が0になるので、標的座標パターンの中心に向かうバイアスを導入し、一方、分母は、ここで、位置決めされたエミッタから来た光子の数を過大評価するであろう。この考えに基づいて、リアルタイム背景推定アルゴリズムを有するMINFLUX制御ロジックが、十分に均一な準静的バックグラウンドを軽減するために使用される。
アルゴリズムの実装を図7に示す。繰り返し当たりの現在の蛍光ベースラインは、位置決め中に検出された蛍光強度のランニングヒストグラムから推定される。インデックスkを有する変数は、繰り返し固有であり、ここで、kは、0から始まる現在の繰り返しである。NITは、MINFLUXシーケンスにおける繰り返しの数を示す。TCPとは、目標とする座標パターン、すなわち、プローブ位置の相対座標を指す。EPEは、POSに対するエミッタ位置推定値、すなわち、TCPの原点である試料内の測定位置である。POSは、開始エミッタ位置推定値でもある。SIPは、光子計数のベクトルであるパターンからの最後の信号を指す。ΣSIPは、最後の信号の全光子計数である。SIAは、現在の繰り返しにわたって累積されたSIPを指す。したがって、ΣSIAは、推定されたバックグラウンドにわたる現在の繰り返しの合計光子計数である。PHLは光子制限であり、HSTは取得したΣSIPの(ランニング)ヒストグラムである。DKTは、ダーク(暗)タイムカウンタ、ダークタイムリミットへのDKLを指す。EBGは、現在の繰り返しにおける単一パターンの推定背景計数である。TBGは、バックグラウンド閾値を指す。STAは、測定の状態である。ステータスが「明(blight)」の場合、アルゴリズムは、エミッタの位置を特定しようとしている。ステータスが「暗(dark)」の場合、アルゴリズムは背景を推定している。CLMSEは、較正された最小二乗平均推定器を指す。
この実施形態は、決定の基礎となるデータの最小単位として、目標座標パターンの単一のプロービング中に取得された光子計数のベクトル「パターンからの信号(signal from pattern)」SIP=(p,・・・,p)を使用する。単一のSIPプロービングの場合、すべての
Figure 2022031252000009

を少なくとも1回は指定する必要がある。しかしながら、典型的には、目標座標パターンが、単一のSIP取得中に複数回走査されて、時間変動バックグラウンド信号が効果的にすべての
Figure 2022031252000010

で探査されることを確実にし、バックグラウンドの短いバーストが
Figure 2022031252000011

のサブセットに集中する場合に生じる指向性歪みを軽減する。同じ理由で、対向する
Figure 2022031252000012

が連続する対で探査されるように走査順序を選択することが有益である。
バックグラウンドを推定するために、ヒストグラム型のベースライン推定が使用される。各MINFLUX繰り返しkに対して、各測定ΣSIPを繰り返し特有の実行ヒストグラムHSTに入力することによって、各個々のSIPの間に収集された光子
Figure 2022031252000013

の数の記録が保持される。ランニングヒストグラムは、先入れ先出し方式で限られた数のエントリから構築されるヒストグラムである。関心領域が蛍光エミッタを探索して走査される間、顕微鏡は、蛍光信号が検出されるまで、試料中の異なる位置で0番目の繰り返しSIPを取得する。画像形成条件、例えば活性化レベル等は、このプロセスの間、非背景エミッタの大部分が、暗状態にあるように選択される。したがって、0番目の繰り返しにおいて取得されたSIPの大部分は、背景のみの信号を含む。より高い繰り返しk>0では、対応するヒストグラムHSTが、計測状態が「暗」に変化した後に計測されたSIPのみから構築され、すなわち、バックグラウンドを超える有意な信号は検出されなかった。その結果、すべてのヒストグラムは、具体的には繰り返しして、現在の平均背景レベルの推定値であるΣSIPの値EBGにおいて最大値を生じる。
各MINFLUX繰り返し中に、位置特定を進めるのに十分な光子が取得されるまで、1つ以上のSIPが取得される。このプロセスの間、現在位置特定されているエミッタ、すなわち現在のエミッタは、(マイクロ)バーストで断続的に蛍光を放出することができ、これは蛍光タンパク質について周知の特性であり、いつでも発光を停止することができる。これらのSIPのみが、現在のエミッタからの信号を搬送する可能性が高く、位置決めに寄与することを可能にするために、ΣSIPを現在の値EBGと閾値TBGとの和と比較することによって、個々のSIPがバックグラウンドを超える有意な信号を含むかどうかが判定される。答えがイエスである場合、SIPはこの繰り返しのための累積されたベクトル信号を保持するベクトルSIAに加算され、このベクトル信号は後に式(3)の分子に寄与する。式(3)の分母について、ΣSIPは背景補正され、次に、累積総信号ΣSIA→ΣSIA+ΣSIP-EBGに加算される。答えがノーである場合、現在のエミッタは明らかに非蛍光暗状態に入ったので、SIPは廃棄される。カウンタDKTは、この場合に該当し、ここで1だけインクリメントされる連続するSIPの数を測定する。カウンタDKTが、現在のエミッタが再発光するのを待つための最長時間を決定する予め設定された暗時間限界(dark-time-limit)DKLを超える場合、測定状態は暗(dark)に設定される。この状態では、顕微鏡は位置決めをスキップし、それぞれのヒストグラムHSTを満たすために、後続の繰り返しごとに単一のSIPをプローブする。測定状態は明に戻り、すなわち、次の位置決めイベントの初期化中に、現在のエミッタからの信号を期待する。
あまり良くない挙動の背景構造は、関心領域の異なる領域に割り当てられた背景推定の複数のインスタンスのような追加の効果を必要とし得るが、既にこの単純なアプローチが、手近な画像化タスクのために効率的であることを証明していることは注目に値する。有益な副作用として、ドーナツの中心強度をゼロより高くする集束の不完全性は、付随的に軽減され、それは、それらが平均エミッタ輝度及び印加されるレーザ出力に主に依存する付加的な背景寄与として顕在化するからである。
ヒストグラムHSTの絶対最大値の位置を値EBGとして使用する上述の手法は、計算上安価な選択肢である。それは、最大値が形成されることを可能にするために十分に広く、一方で量子化効果が推定値を歪ませることを防止するために十分に狭く、ヒストグラムビンサイズを選択することを必要とする。実際には、予測される単一エミッタ強度の5%~15%に相当するビンサイズが、作業上のトレードオフを表す。推定値のより高い精度及び/又は測定パラメータへのより低い依存性のために、より複雑な方法を適用することができる。例えば、ビンサイズは、予想される単一エミッタ強度の1%よりも小さくなるように選択することができる。この場合、ピーク検出アルゴリズムを適用して、値EBGを導出することができる。例えば、値EBGは、ヒストグラムをガウスカーネルで平滑化した後、ヒストグラムのコピーから、最高ピークとして、又は第1のピークとして導出されてもよい。代替として、値EBGは、ビン当たりの大部分のエントリではなく、合計で大部分のエントリを含むピークの位置から導出されてもよい。もちろん、ヒストグラムの代わりに他の濃度推定方法を用いてもよい。
閾値TBGの影響と決定に関して、背景、又は背景プラス興味のあるエミッタからの信号のいずれかを含むSIPから構築されたヒストグラムHSTを持つ単純な状況が想定される。ヒストグラムHSTは2つのピークを示し、これらは、検出された信号のポアソンノイズ、ならびにエミッタ及び背景の明るさの変動のために広がる。上述の測定条件下では、背景ピークは、グローバルな最大値を示し、その位置は値EBGとなる。背景ピークがほぼ対称であり、閾値TBGが0に設定される場合、測定された純粋な背景SIPのほぼ半分は、現在のエミッタからの信号として誤って扱われ、すなわち、偽陽性を構成する。閾値TBGが、より大きく選択される場合、エミッタピークのますます多くの面積が最終的に、値EBG+TBGによって与えられる閾値を下回り、測定されたエミッタSIPの対応する一部が廃棄される。典型的には、閾値TBGが、繰り返し指数と共に減少する、計測中に予想される単一エミッタ強度の10%~50%に設定することができる。初期繰り返し中のより高い閾値は、バックグラウンドの追跡を防止する。関心のあるエミッタがすでに識別されており、背景補正スキームが、誤検出SIP分類の誤位置決めに関する影響を緩和するため、閾値TBGの値が小さくなり、その結果、より高い繰り返しで誤検出が許容される可能性がある。
実際には、単一のMINFLUX位置決めステップの使用可能な視野が、通常、使用される励起光の波長の半分以下に制限される。マイクロメートルサイズの関心領域で広がった試料を走査するために、顕微鏡は、それを走査位置の六角形のグリッドで測定される(span)。反復MINFLUX位置決めの原理を、図8に示す例によって説明する。この例では、このプロセスは、ピンホール軌道走査による事前位置決めから始まり、そのピンホールは、その中心にプローブ位置を持たない六角形の標的座標パターンの複数の点に順次投影される。ピンホール軌道走査による予備位置決めに続いて、繰り返し手順は、3つの中間の後続繰り返しと1つの最終繰り返しで進行する。図では、ピンホールの投影位置を塗りつぶした黒丸で示している。黒い空の円は、繰り返しに適用される目標座標パターン、すなわちドーナツ中心位置を示す。目標座標パターンの中心位置もマーキングされるが、プローブ位置としては使用されない。星印は、フルオロフォアの位置を示す。各繰り返しの後、目標座標パターンは、登録された光子計数に基づいて較正された最小平均二乗推定値からの事前エミッタ位置推定値に従って再センタリングされる。この手順では、エミッタにすばやくズームインし、目標座標パターンをより小さな寸法Lに縮小する。約2nmの精度が、均一に得られる。その後、放出された光子を使用して、エミッタが蛍光を発するのを止めるまで、位置推定値をさらに精緻化することができる。
図9は、シミュレートされた平均位置推定値及び信頼区間と共に、MINFLUX位置決めプロセスで適用される目標座標パターンを示す。黒い実線の円は、シミュレートされた平均位置の推定値を示す。楕円体は、間隔を空けて配置されたエミッタ位置の信頼区間を示し、エミッタ位置は黒い十字で示される。図9a)は事前位置決めを示し、図9b)は中間位置決めを示し、図9c)は最終位置決めを示す。走査位置間の間隔dは、使用される励起波長λexcの10%~50%の間、すなわち0.1・λexc≦d≦0.5・λexcであることが好ましい。これらの位置は、測定中に繰り返しプローブされ、蛍光マーカーの活性化、探索及び位置決めのための開始点として役立つ。単一のMINFLUX位置決めステップの視野は一般に、回折限界の大きさ程度又はそれ以下の大きさの領域に限定されるので、本発明の1つの態様によれば、ピンホール軌道走査と名付けられた、より精度は低いが、さらに到達する位置決めモードが実装され、これは検索プロセスの効率を改善する。以前のMINFLUX実装で使用されたものとは対照的に、事前位置決めは、規則的に(regularly)集束されたビームに頼らない。代わりに、電流測定及び電気光学スキャナは、ドーナツ型の励起ビームをグリッド位置に静止させるように協同的に作用し、一方、ピンホールは六角形の標的座標パターン、すなわちm=6の点に順次投影され、すなわち、その中心にプローブ位置がなく、約300nmのビーム分離である。次いで、位置推定値は、MINFLUXモードの場合と同様に、式(4)に従って、1つ以上のステップで40光子についてのマッチングPを用いて得られる。ドーナツ0から潜在的に生じる格子位置の隣の暗点を防止するために、使用可能な範囲は、好ましくは約λexc/2で制限される。この構成は、例えば、ガウス形状とドーナツ形状との間の異なる焦点強度分布間のマイクロ秒スケールのスイッチングのための専用ハードウェアを冗長にするので、ほぼ全波長の検出半径を提供し、セットアップを著しく単純化する。
[1] S.W. Hell: "Far-Field Optical Nanoscopy", Science 316, 1153-1158 (2007) [2] S.W. Hell et al.: "Breaking the diffraction resolution limit by stimulated emission: stimulated-emission-depletion fluorescence microscopy", Optics Letters 19, 780-782 (1994) [3] S.W. Hell: "Toward fluorescence nanoscopy". Nat Biotech 21, 1347-1355 (2003) [4] E. Betzig et al.: "Imaging Intracellular Fluorescent Proteins at Nanometer Resolution", Science 313, 1642-1645 (2006) [5] A. Sharonov et al: "Wide-field subdiffraction imaging by accumulated binding of diffusing probes", Proceedings of the National Academy of Sciences 103, 18911-18916 (2006) [6] F. Balzarotti et al.: "Nanometer resolution imaging and tracking of fluorescent molecules with minimal photon fluxes", Science 355, 606-612 (2017) [6a] F. Balzarotti et al.: "Supplementary Materials for Nanometer resolution imaging and tracking of fluorescent molecules with minimal photon fluxes", Science 355, 606-612 (2017) [7] K.C. Gwosch et al.: "MINFLUX nanoscopy delivers 3D multicolor nanometer resolution in cells", Nature Methods 17, 217-224 (2020) [8] Y. Eilers et al.: "MINFLUX monitors rapid molecular jumps with superior spatiotemporal resolution", Proceedings of the National Academy of Sciences 115, 6117-6122 (2018)
1 試料
2 エミッタ
3 配光
4 強度最小値
5 強度増加領域
10 顕微鏡
11 反転顕微鏡プラットフォーム
12 コントローラ
13 励起ビーム
14 レーザ
15 λ/2板
16 検流計走査部
17 電気光学ビーム偏向器
18 電気光学ビーム偏向器
20 λ/2板
21 空間光変調器
22 λ/4板
23 ビームスプリッタ
24 活性化レーザ
25 減光フィルタ
26 λ/4板
27 活性化ビーム
28 ビームスプリッタ
29 蛍光
30 可変ピンホール
31 アバランシェフォトダイオード
32 アバランシェフォトダイオード
33 ダイクロイックミラー
35 推定器
40 装置
41 インタフェース
42 照射手段
43 取得手段
44 処理手段
45 制御手段
46 コントローラ
47 ローカル記憶ユニット
48 ユーザーインターフェース
50 装置
51 処理装置
52 メモリ装置
53 入力
54 出力
EBG 推定背景
HST ヒストグラム
エミッタ位置
プローブ位置
SIP 光子計数のベクトル
ΣSIP 光子計数の合計
TCP プローブ位置の組
S1 プローブ位置の組で試料を光で照射する
S2 蛍光光子の取得
S3 取得した光子の光子計数を光子計数のベクトル又は合計に加算する
S4 背景ノイズを表す値の決定
S5 リアルタイムで推定器を適応させる

Claims (15)

  1. プローブ位置(Pi)の1つ以上の組(TCP)において光で試料を照射し、プローブ位置(Pi)の前記組(TCP)について蛍光光子を取得する方法に基づいて、試料(1)中のエミッタ(2)の位置を推定するための顕微鏡(10)で使用するための推定器(35)を適合させる方法であって、
    プローブ位置(P)の1つ以上の組(TCP)にある光(13)で前記試料(1)を照射すことと(S1)、
    プローブ位置(P)の前記組(TCP)に対する(S2)蛍光光子を取得することと、
    プローブ位置(P)の前記組(TCP)に関して、前記取得した(S2)光子の光子計数を、光子計数のベクトル(SIP)又は光子計数の合計(ΣSIP)に追加すること(S3)と、
    光子計数のベクトル(SIP)又は光子計数の合計(ΣSIP)から背景ノイズを表す値(EBG)を決定すること(S4)と、
    背景ノイズを表す値(EBG)を用いて、前記推定器(35)をリアルタイムで適応させること(S5)と、
    を含む、方法。
  2. 背景ノイズを表す値(EBG)を決定する(S4)ために、エミッタ(2)からの蛍光が検出されないプローブ位置(P)の組(TCP)のみが評価される、請求項1に記載の方法。
  3. エミッタ(2)からの蛍光が検出されるかどうかを決定するために、プローブ位置(Pi)の組(TCP)についての光子計数の合計(ΣSIP)が、現行の推定された背景から導出された閾値と比較される、請求項2に記載の方法。
  4. 光子計数の前記合計(ΣSIP)が、ヒストグラム(HST)に追加される、請求項2又は3に記載の方法。
  5. 前記ヒストグラム(HST)は、走査繰り返しごとに固有である、請求項4に記載の方法。
  6. 前記背景ノイズを表す数値(EBG)は、前記ヒストグラム(HST)のピークから導出される、請求項4又は5に記載の方法。
  7. 前記推定器(35)は、エミッタ(2)の位置を推定する前に、前記背景ノイズの期待値が光子計数から減算されるように適合される(S5)、請求項1~6のいずれか1項に記載の方法。
  8. 前記推定器(35)は、複数の走査繰り返しの各々に固有の較正多項式を使用する、請求項1~7のいずれか1項に記載の方法。
  9. プローブ位置(P)の前記組(TCP)が、複数回照射される(S1)、請求項1~8のいずれか1項に記載の方法。
  10. プローブ位置(P)の組(TCP)は、円上で回転対称に配置される3つ以上のプローブ位置(P)を含む、請求項1~9のいずれか1項に記載の方法。
  11. プローブ位置(P)の組(TCP)の反対のプローブ位置(P)が、順次対で照射される(S1)、請求項10に記載の方法。
  12. 前記推定器(35)は、最小平均二乗推定器である、請求項1~11のいずれか1項に記載の方法。
  13. コンピュータによって実行されると、コンピュータに、プローブ位置(Pi)の1つ以上の組(TCP)において光で試料を照射し、プローブ位置(Pi)の前記組(TCP)について蛍光光子を取得する方法に基づいて、試料(1)中のエミッタ(2)の位置を推定するための顕微鏡(10)で使用するための推定器(35)を適合させるための請求項1~12のいずれか1項に記載の方法を実行させる命令を含むコンピュータプログラム。
  14. プローブ位置(Pi)の1つ以上の組(TCP)において光で試料を照射し、プローブ位置(Pi)の前記組(TCP)について蛍光光子を取得する方法に基づいて、試料(1)中のエミッタ(2)の位置を推定するための顕微鏡(10)で使用するための推定器(35)を適合させるための装置(40)であって、
    前記試料(1)を1組以上のプローブ位置(Pi)の光(13)で照射する(S1)ように構成された照射手段(42)と、
    プローブ位置(Pi)の前記組(TCP)に対する蛍光光子を取得する(S2)ように構成された取得手段(43)と、
    前記取得された(S2)光子の光子計数を、プローブ位置(Pi)の前記組(TCP)に対する光子計数のベクトル(SIP)又は光子計数の合計(ΣSIP)に加算し(S3)、光子計数のベクトル(SIP)又は光子計数の合計(ΣSIP)から背景ノイズを表す値(EBG)を決定する(S4)ように構成された処理手段(44)と、
    背景ノイズを表す値(EBG)を用いて前記推定器(35)をリアルタイムに適応させるように構成された制御手段(45)と、
    を含む装置。
  15. 顕微鏡(10)は、請求項14に記載の装置(40)を備えるか、又は試料(1)中のエミッタ(2)の位置を推定するための推定器(35)を適合させるために請求項1~12のいずれか1項に記載の方法を実行するように構成されることを特徴とする、顕微鏡(10)。
JP2021129780A 2020-08-07 2021-08-06 顕微鏡で使用するための推定器を適合させるための方法、コンピュータプログラム、及び装置 Pending JP2022031252A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP20190122 2020-08-07
EP20190122 2020-08-07

Publications (1)

Publication Number Publication Date
JP2022031252A true JP2022031252A (ja) 2022-02-18

Family

ID=71995884

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021129780A Pending JP2022031252A (ja) 2020-08-07 2021-08-06 顕微鏡で使用するための推定器を適合させるための方法、コンピュータプログラム、及び装置

Country Status (4)

Country Link
US (1) US11933729B2 (ja)
EP (1) EP3951470A1 (ja)
JP (1) JP2022031252A (ja)
CN (1) CN114062331A (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4246202A1 (en) 2022-03-17 2023-09-20 Abberior Instruments GmbH Method, device and computer program for tracking a light-emitting entity in a sample
DE102022119589B3 (de) * 2022-08-04 2023-11-23 Abberior Instruments Gmbh Verfahren, Lichtmikroskop und Computerprogramm zur Lokalisierung einzelner Emitter in einer Probe
DE102022208627A1 (de) 2022-08-19 2024-02-22 Carl Zeiss Microscopy Gmbh Verfahren zur Korrektur von Hintergrundsignalen in erfassten Messwerten analoger Detektoren
DE102022123632A1 (de) 2022-09-15 2024-03-21 Abberior Instruments Gmbh Verfahren, lichtmikroskop und computerprogramm zur lokalisierung oder zum verfolgen von emittern in einer probe

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5880465A (en) * 1996-05-31 1999-03-09 Kovex Corporation Scanning confocal microscope with oscillating objective lens
JP2007218711A (ja) * 2006-02-16 2007-08-30 Hitachi High-Technologies Corp 電子顕微鏡装置を用いた計測対象パターンの計測方法
JP6548965B2 (ja) * 2015-06-15 2019-07-24 オリンパス株式会社 顕微鏡システムおよび顕微鏡観察方法

Also Published As

Publication number Publication date
EP3951470A1 (en) 2022-02-09
CN114062331A (zh) 2022-02-18
US11933729B2 (en) 2024-03-19
US20220042914A1 (en) 2022-02-10

Similar Documents

Publication Publication Date Title
JP2022031252A (ja) 顕微鏡で使用するための推定器を適合させるための方法、コンピュータプログラム、及び装置
Deschout et al. Precisely and accurately localizing single emitters in fluorescence microscopy
JP6151824B2 (ja) 差分測定に基づき顕微鏡検査をスキャンするためのオートフォーカス
JP2015092253A (ja) 適応光学系を有する顕微鏡検査法
JP6393474B2 (ja) 高分解能3d位置特定顕微鏡検査方法
CN109813435B (zh) 静态光反射显微热成像方法、装置及终端设备
EP3051276B1 (en) Analysis device, microscope device, analysis method, and program
CN107621463B (zh) 图像重建方法、装置及显微成像装置
CN116745678A (zh) 在多个空间方向高分辨率定位单个染料分子的方法和设备
US20240133811A1 (en) Methods, computer programs and apparatus for estimating a position of an emitter or a reflector in a sample
US11042017B2 (en) Point-spread-function measurement device and measurement method, image acquisition apparatus, and image acquisition method
WO2018102147A1 (en) System and method for estimating and compensating for sample drift during data acquisition in fluorescence microscopy
NL2023860B1 (en) Pattern activated structured illumination localization microscopy
CN111579486B (zh) 基于低功率受激发射损耗的超分辨成像方法及成像系统
JP5453407B2 (ja) 組織化された材料のナノ構造を探索するための焦点容量の変調を伴うコヒーレント非線形顕微鏡法システム及び方法
WO2018151599A1 (en) Structured illumination scanning microscopy
US20240219304A1 (en) Method, computer program, and apparatus for adapting an estimator for use in a microscope
US20230288689A1 (en) Method, device, microscope and computer program for estimating a position of an emitter in a sample
KR101505745B1 (ko) 이중 검출 반사 공초점 현미경 및 이를 사용하는 시편의 높이의 정보를 검출하는 방법
EP4095583A1 (en) Method, device, microscope and computer program for estimating a position of an emitter in a sample
JP2016507739A (ja) 差動赤外線ナノ顕微鏡法システムおよび方法
JP2018004492A (ja) 情報処理システム及び情報処理方法
CN116235093A (zh) 用于定位样本中的发射体的方法、设备和计算机程序
Yang et al. Computational nonscanning incoherent superoscillatory imaging
NL2020516B1 (en) Re-scan confocal microscopy with PSF-engineered excitation