JP7228917B2 - 局在化顕微鏡法のための方法及びシステム - Google Patents
局在化顕微鏡法のための方法及びシステム Download PDFInfo
- Publication number
- JP7228917B2 JP7228917B2 JP2020536947A JP2020536947A JP7228917B2 JP 7228917 B2 JP7228917 B2 JP 7228917B2 JP 2020536947 A JP2020536947 A JP 2020536947A JP 2020536947 A JP2020536947 A JP 2020536947A JP 7228917 B2 JP7228917 B2 JP 7228917B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- filtered
- time trace
- pixel intensity
- temporal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 78
- 230000004807 localization Effects 0.000 title claims description 70
- 238000000386 microscopy Methods 0.000 title claims description 28
- 230000002123 temporal effect Effects 0.000 claims description 52
- 238000004422 calculation algorithm Methods 0.000 claims description 34
- OAICVXFJPJFONN-UHFFFAOYSA-N Phosphorus Chemical compound [P] OAICVXFJPJFONN-UHFFFAOYSA-N 0.000 claims description 19
- 238000001914 filtration Methods 0.000 claims description 17
- 238000001000 micrograph Methods 0.000 claims description 14
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000009877 rendering Methods 0.000 claims 2
- 238000004590 computer program Methods 0.000 claims 1
- 229920013655 poly(bisphenol-A sulfone) Polymers 0.000 description 26
- 230000006870 function Effects 0.000 description 17
- 239000000523 sample Substances 0.000 description 17
- 230000008569 process Effects 0.000 description 15
- 238000012545 processing Methods 0.000 description 13
- 230000004397 blinking Effects 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 9
- 239000011159 matrix material Substances 0.000 description 8
- 102100033993 Heterogeneous nuclear ribonucleoprotein L-like Human genes 0.000 description 5
- 101100071255 Homo sapiens HNRNPLL gene Proteins 0.000 description 5
- 241000021559 Dicerandra Species 0.000 description 3
- 235000010654 Melissa officinalis Nutrition 0.000 description 3
- 238000007792 addition Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000004061 bleaching Methods 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000005284 excitation Effects 0.000 description 3
- 238000002372 labelling Methods 0.000 description 3
- 239000000865 liniment Substances 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 239000000872 buffer Substances 0.000 description 2
- 210000004027 cell Anatomy 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 102000034287 fluorescent proteins Human genes 0.000 description 2
- 108091006047 fluorescent proteins Proteins 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 238000000399 optical microscopy Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 238000010869 super-resolution microscopy Methods 0.000 description 2
- 102000004190 Enzymes Human genes 0.000 description 1
- 108090000790 Enzymes Proteins 0.000 description 1
- 102000029749 Microtubule Human genes 0.000 description 1
- 108091022875 Microtubule Proteins 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 239000007844 bleaching agent Substances 0.000 description 1
- 239000003638 chemical reducing agent Substances 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000003750 conditioning effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 239000000975 dye Substances 0.000 description 1
- 230000003090 exacerbative effect Effects 0.000 description 1
- 238000000799 fluorescence microscopy Methods 0.000 description 1
- 239000007850 fluorescent dye Substances 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000003834 intracellular effect Effects 0.000 description 1
- 230000002045 lasting effect Effects 0.000 description 1
- 238000004020 luminiscence type Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 210000004688 microtubule Anatomy 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012731 temporal analysis Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/6408—Fluorescence; Phosphorescence with measurement of decay time, time resolved fluorescence
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/645—Specially adapted constructive features of fluorimeters
- G01N21/6456—Spatial resolved fluorescence measurements; Imaging
- G01N21/6458—Fluorescence microscopy
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/16—Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/58—Optics for apodization or superresolution; Optical synthetic aperture systems
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Health & Medical Sciences (AREA)
- Analytical Chemistry (AREA)
- Optics & Photonics (AREA)
- Immunology (AREA)
- General Health & Medical Sciences (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Life Sciences & Earth Sciences (AREA)
- Pathology (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Biochemistry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Microscoopes, Condenser (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Image Processing (AREA)
Description
この方法は、低密度発光体のデータで用いられる標準的な単発光体-単フレームフィッティング法の拡張である。この方法では、PSFのスケールの画像の局所的最大値が識別されて、その最大値の周囲の画像の小さな部分(セクション)が選択される(単発光体フィッティングと同様)。1つ又は複数の発光体に対して、典型的なPSFがこの部分にフィッティングされる。通常、フィッティングの統計的に有意な改善が観察されなくなるまで、寄与する発光体の数は増加する。通常、正則化項(regularisation term)を導入して、フィッティングされた蛍光体の数、及び/又は、それらの強度に課される拘束条件を制限する。この方法は、発光体間の間隔が小さ過ぎず(約250nm)、且つ、密度が依然として明確に定義された局所的最大値を観察できるほど十分に低く、そして、重なり合う蛍光体の数がそれなりに(fairly)少ない場合には、有効に働く。しかしながら、これらの条件のいずれかが満たされない場合は、失敗する傾向にある。複発光体フィッティングの先行技術として、例えば以下のものを挙げることができる:(MEフィッティングの参考文献)「Simultaneous multiple-emitter fitting for single molecule super-resolution imaging」,Huang,F.,Schwartz,S.,Byars,J.及びLidke,K.著,Biomedical Optics Express,2巻,ページ1377~1393,2011年;並びに、(MEフィッティングの参考文献)「DAOSTORM: an algorithm for high-density super-resolution microscopy」,Holden,S.J.,Uphoff,S.及びKapanidis,A.N.著,Nature Methods,8巻,ページ279~280,2011年。
圧縮センシング法は、幅広い分野と用途に及ぶ、十分に確立された信号処理方法である。この方法は、特定の条件下で、それが十分に疎(スパース)である(含まれているものはほとんどゼロである)場合に、サンプリングされていない信号を実質的に復元させることができる最適化手法である。超解像顕微鏡法の場合、この方法は、より多く且つより小さな画素を伴う各画像フレームに対して、より高解像な変換を行うことを意味している。そして、これらの変換されたフレームは全て合計され、最終的な超解像画像が生成される。最適化を実行するには、特定の諸条件が満たされる必要がある。試料の構造は疎でなければならない、つまり、ほとんどの試料は、標識化された構造を含んでいてはならない。この条件は、微小管(micro-tubules)などの生物学的構造については全体的に当てはまることもあるかもしれないが、局所的には必ずしも当てはまらないであろう。また、装置のPSFは正確に既知でなければならず、しかも、どこでも一定でなければならない。これは、例えば、ある程度の焦点のドリフト又は収差はほぼ常に存在するので、当てはまる可能性は低い。背景の変化も、分析される画像の大きさに対して小さくなければならない。
この方法では、画像系列全体にわたる強度の変動が分析される。画素輝度の時間トレースでの自己又は相互キュムラントを特定の次数(specified order)計算する。変動がクラスタ化しているところでは蛍光体の密度が高くなり、そのため、この方法は、個々の変動を個々の蛍光体に関連付けない。計算値のマップは、超解像画像を形成する。この方法において知られているアーチファクトは、平均相対強度より高い試料領域の明るさを誇張する傾向があることであるが、これは、各蛍光体の「点滅」特性による悪影響を受けたものである。これにより、超解像画像では、明るさが低い構造を検出できなくなる可能性がある。回折限界よりも著しく高い解像度を得るためには、キュムラントを高次まで計算しなければならず、この問題を大きく悪化させてしまう。
ここで採用するアプローチは、蛍光体の光スイッチング(「点滅性」)及び光退色の挙動を示す画像系列全体にフィッティングする試料のモデル構造を見つけ出す試みである。初期の推測から始め、蛍光体の位置は、それ以上の改善が観察されなくなるまで繰り返し調整される。この方法は、それなりに少ない数のフレームから高解像度を得ることができるが、発光体間の間隔が小さい場合は、複発光体フィッティングと同じく鮮鋭化するアーチファクトの影響を受ける。また、計算量が非常に多く、計算時間は他のいずれの方法よりもはるかに長くかかる。このため、大規模な計算リソースが利用可能でない限り、適用は極めて小さな画像に制限される。
SRRFは、発光体の局在化と高次の時間相関(SOFI等)とを組み合わせたハイブリッドシステムとみなせる。第1の部分では、画像内での局所的な放射対称性のサブ画素マップが、画素の輝度の空間勾配から生成される。発光体が位置する場所では、局所的な放射対称性の程度は高いはずである。これらの「放射状マップ(radiality map)」の1つが、系列中の各フレームに対して生成される。その後、「放射状マップ」の系列全体がSOFIと同様の方法で分析されるが、今回は、各「放射状マップ」のサブ画素の時間トレースにおける時間相関を計算する。そして、これらの値により最終的な超解像画像が生成される。この方法は、局在化と時間分析についての長所と短所の両方を備えている。両方の段階で有用な解像度向上を得ることができるが、近接した蛍光体に対して、他のフィッティング法と同じく人工的に鮮鋭化したアーチファクトを生じ、SOFIで見られる構造における明るい方の部分と暗い方の部分/欠け部分とのコントラストも誇張される。
この方法は、解像度を上げるのに役立つ時間情報を得るために画像系列全体を調べるのではなく、単に、一方のフレームから他方のフレーム(隣り合うペア)を減算することによって、一度に2つのフレームを比較するだけのものである。この方法は、顕著な強度スイッチング挙動を示さない、又は、光スイッチングバッファを用いない、蛍光標識を対象とする。初めに、大部分の蛍光体は発光状態にある。時間が経つにつれて、スイッチ「オフ」になる又は光退色する。特定の画像フレームにおいてスイッチ「オフ」になる又は光退色する蛍光体は、現在のフレームから後続のフレームを差し引くことにより検出できる。次に、局在化アルゴリズムがこの「差分」フレームに適用される。先行するフレームを差し引くことにより、より稀な「スイッチオン」事象を分離することができる。
先に述べた方法は全て、多色検出法と組み合わせて使うことができる。この局在化顕微鏡法のバリエーションでは、試料内の2つ以上の異なる構造を、異なる発光波長(色)の蛍光分子で標識化する。含まれる装置は、従来の局在化顕微鏡の場合と同じであるが、収集された蛍光発光の光路に光学フィルタが追加される。光学フィルタの通過帯域は、2つの蛍光マーカ分子の発光波長を分離するように選択される。フィルタリングされた蛍光は、その後、別々のカメラ上の画像となる、又は、単一のカメラのセンサの別々の領域上の画像となる。したがって、各蛍光マーカに対応する複数の画像系列を生成できて、試料内の複数の構造を同時に画像化することが可能となる。しかしながら、複数の蛍光マーカの適切な「点滅性」を操作することは困難な場合があり、この方法は色収差によって影響を受ける可能性もある。多色局在化顕微鏡法の先行技術として、例えば以下のものを挙げることができる:(多色法の参考文献)「Subdiffraction-Resolution Fluorescence Imaging with Conventional Fluorescent Probes」,Heilemann,M.,Van de Linde,S.,Schuttpelz,M.,Kasper,R.,Seefeldt,B.,Mukherjee,A.,Tinnefeld,P.及びSauer,M.著,Angew Chem Int Ed Engl.,47巻33号,ページ6l72~6,2008年。
第1のステップでは、未処理の画像系列から画素輝度トレースの集合を作成する。
ここで、x,yは画素インデックス、tはフレーム番号である。各画素について、順に、その輝度トレースX(t)(列ベクトルとして)にハール行列を乗算して、その変換トレースY(t’)を生成する。
ハール行列の非ゼロ要素は以下のように与えられる:
ここで、i,jは行と列のインデックスであり、floor(..)は最も近い整数に切り捨てることを示し、Nはフレームの総数であって2の整数乗になるように切り捨てる必要があるものである。正の整数mは、ハールウェーブレット変換(HWT)の「レベル」を表す。各レベルは、最短(m=1)から最長(m=log2N)までで、元の時間トレースにおいて異なる長さの蛍光体の点滅、及びDC成分に対応する。これは、単一フレームから画像の長さの半分まで続く輝度の変動(点滅)に一定の背景値(試料とカメラ成分の和)を加えたものに対応する。mの適切な値については後述する。単純な4フレームの輝度トレースのHWTの例を以下に示す:
ここで、ハール行列の異なるフィルタレベルは、m=1(下の2行)、m=2(第2行)、及び背景(最上行)となる。
フィルタ処理された画素の輝度トレースを取得するためにHWTの逆行列を適用する必要がある。ハール行列の逆行列は、その転置行列(transpose)と等しいため、簡単に求めることができる。
フィルタ処理された画素の輝度トレースZ(m)は次式で与えられる:
下記は、式(4)の変換された輝度トレースに対してフィルタレベルm=1を適用した後の上記の逆変換の例である。
フィルタ処理された輝度トレースには、大きさが等しく符号が反対の奇数/偶数フレームのペアが含まれることに留意すべきである。これは単一ハール周波数成分を使用することによる避けられない結果であるが、符号の空間的相関は物理的に意味がある。PSFと同じ大きさの正値のクラスタは、奇数フレームから偶数フレームへと発光体の輝度が増加することを示す。反対に、同様の負値の集まりは、発光体輝度が低下することを示す。これは、奇数番号のフレームでは全ての負値をゼロに調整し(cropping)、且つ偶数番号のフレームでは全ての正値をゼロに調整してから-1を乗じることにより、オンとオフの遷移を区別するメカニズムを提供する。フィルタ処理された輝度トレースに対するこの調整手順は、次の条件式で表される:
ここで、Z’(m)(t)は、調整された画素の輝度トレースである。
次に、この新しい画素の輝度トレースの集合X’(t)に対して、処理が繰り返される。結果である画像系列はその前の画像系列に追加され、フレーム数は元のデータの2倍になる。
ハールフィルタは、1次元の画像カーネルとして同様に表現できる。最初の3つのハールカーネルの大きさは、それぞれ、2、4、8であり、次のように与えられる:
先に述べたように、各画素を個別に輝度時系列として扱う。したがって、画像スタック(l(x,y,t))が与えられると、ある画素位置x,yに対して、時系列はX(t)=l(x,y,t)となる。次に、Xとカーネルとの畳み込みを計算する:
等、ここで*は離散的畳み込みの演算子である。Xをパディングしないので、結果であるZはXよりも短くなる。画素x,yに対して、様々なZを連結することによって最終的な時系列を作成する:
ここで、niはZiにおける要素の数である。蛍光体がオフに切り替わると、Zに負値が生じる。最後のステップでは、正値と負値をZ’に分離する。
代替として、絶対値を使うこともできる:
最終的な時間系列Z’のそれぞれを画像スタックに再構成し、ThunderSTORM等のサードパーティアルゴリズムで各フレームを個別に分析する。
Claims (15)
- 顕微鏡によって取り込まれた顕微鏡画像フレームの時間的な系列を受け取るステップであって、前記顕微鏡画像フレームはその中に発光体又は蛍光体を含む画像である、ステップと;
前記顕微鏡画像フレーム内の同じ画素位置のそれぞれに対する時間的にフィルタ処理された複数の画素値のそれぞれの集合を取得するために、異なる時間的特性を有する複数の時間的フィルタを用いて、前記顕微鏡画像フレームの前記系列における前記同じ画素位置のそれぞれに対する画素値の集合のそれぞれを時間的にフィルタ処理するステップと;
前記時間的にフィルタ処理された画素値の前記集合のそれぞれを局在化アルゴリズムへの入力として提供することによりそれに依存して発光体又は蛍光体の局在化を可能とするステップと;を備える、
局在化顕微鏡法のための方法。 - 前記時間的にフィルタ処理するステップは、
前記顕微鏡画像フレーム内の画素位置に対して、前記顕微鏡画像フレーム内の前記同じ画素位置での画素値に対応する画素輝度の時間トレースを形成するステップと;
第1の時間的フィルタを前記画素輝度の時間トレース内の前記画素値に適用して第1のフィルタ処理された画素輝度の時間トレースを取得するステップと;
少なくとも前記第1の時間的フィルタとは異なる第2の時間的フィルタを、前記画素輝度の時間トレース内の前記画素値に適用して第2のフィルタ処理された画素輝度の時間トレースを取得するステップと;
前記第1のフィルタ処理された画素輝度の時間トレースと前記第2のフィルタ処理された画素輝度の時間トレースとを組み合わせて、前記局在化アルゴリズムへの入力のためのフィルタ処理された単一の出力画素輝度の時間トレースとするステップと;を備える、
請求項1に記載の方法。 - 少なくとも前記第1の時間的フィルタ及び前記第2の時間的フィルタとは異なる第3の時間的フィルタを前記画素輝度の時間トレース内の前記画素値に適用して、第3のフィルタ処理された画素輝度の時間トレースを取得するステップと;
前記第1のフィルタ処理された画素輝度の時間トレースと、前記第2のフィルタ処理された画素輝度の時間トレースと、前記第3のフィルタ処理された画素輝度の時間トレースとを組み合わせて、前記局在化アルゴリズムへの入力のためのフィルタ処理された単一の出力画素輝度の時間トレースとするステップと;を更に備える、
請求項2に記載の方法。 - 組み合わされた出力画素輝度の時間トレースを形成するために、前記第1、前記第2、及び前記第3のフィルタ処理された画素輝度の時間トレースが連結される、
請求項3に記載の方法。 - 前記時間的フィルタは、
i)ハールウェーブレットカーネル;
ii)バターワース;又は
iii)チェビシェフ;を備えるグループから選択される、
請求項1乃至請求項4のいずれか1項に記載の方法。 - 前記時間的特性は、画素のフィルタ処理された値が現在検出されている現フレームの周辺の連続フレームの数に関係し、前記フィルタ処理された値の計算に寄与する、
請求項1乃至請求項5のいずれか1項に記載の方法。 - 前記顕微鏡を単独で用いた場合の解像度よりも高い解像度で前記画像内の発光体又は蛍光体の前記画素位置を識別するために、時間的にフィルタ処理された画素値の前記集合のそれぞれに対して前記局在化アルゴリズムを適用するステップを更に備える、
請求項1乃至請求項6のいずれか1項に記載の方法。 - コンピュータ読取可能な顕微鏡画像フレームを生成するように構成された顕微鏡法のシステムと;
プロセッサと;
前記プロセッサによって実行されると、前記プロセッサに所定の動作を実行させるコンピュータ読取可能な命令を格納するコンピュータ読取可能な記憶媒体であって、前記所定の動作は、
i)前記顕微鏡法のシステムによって取り込まれた顕微鏡画像フレームの時間的な系列を受け取る動作であって、前記顕微鏡画像フレームはその中に発光体又は蛍光体を含む画像である、動作と;
ii)前記顕微鏡画像フレーム内の同じ画素位置のそれぞれに対する時間的にフィルタ処理された複数の画素値のそれぞれの集合を取得するために、異なる時間的特性を有する複数の時間的フィルタを用いて、前記顕微鏡画像フレームの前記系列における前記同じ画素位置のそれぞれに対する画素値の集合のそれぞれに対して時間的にフィルタ処理する動作と;
iii)時間的にフィルタ処理された画素値の前記集合のそれぞれを局在化アルゴリズムへの入力として提供することによりそれに依存して発光体又は蛍光体の局在化を可能とする動作と;を備える、前記コンピュータ読取可能な記憶媒体と;を備える、
局在化顕微鏡法のシステム。 - 前記時間的にフィルタ処理する動作は、
前記顕微鏡画像フレーム内の画素位置に対して、前記顕微鏡画像フレーム内の前記同じ画素位置での画素値に対応する画素輝度の時間トレースを形成する動作と;
第1の時間的フィルタを前記画素輝度の時間トレース内の前記画素値に適用して、第1のフィルタ処理された画素輝度の時間トレースを取得する動作と;
少なくとも前記第1の時間的フィルタとは異なる第2の時間的フィルタを前記画素輝度の時間トレース内の前記画素値に適用して、第2のフィルタ処理された画素輝度の時間トレースを取得する動作と;
前記第1のフィルタ処理された画素輝度の時間トレースと前記第2のフィルタ処理された画素輝度の時間トレースとを組み合わせて、前記局在化アルゴリズムへの入力のためのフィルタ処理された単一の出力画素輝度の時間トレースとする動作と;を備える、
請求項8に記載のシステム。 - 前記所定の動作は、少なくとも前記第1の時間的フィルタ及び前記第2の時間的フィルタとは異なる第3の時間的フィルタを前記画素輝度の時間トレース内の前記画素値に適用して、第3のフィルタ処理された画素輝度の時間トレースを取得する動作と;
前記第1のフィルタ処理された画素輝度の時間トレースと、前記第2のフィルタ処理された画素輝度の時間トレースと、前記第3のフィルタ処理された画素輝度の時間トレースとを組み合わせて、前記局在化アルゴリズムへの入力のためのフィルタ処理された単一の出力画素輝度の時間トレースとする動作と;を更に備える、
請求項9に記載のシステム。 - 組み合わされた出力画素輝度の時間トレースを形成するために、前記第1、前記第2及び前記第3のフィルタ処理された画素輝度の時間トレースが連結される、
請求項10に記載のシステム。 - 前記時間的フィルタは、
i)ハールウェーブレットカーネル;
ii)バターワース;又は、
iii)チェビシェフ;を備えるグループから選択される、
請求項8乃至請求項11のいずれか1項に記載のシステム。 - 前記時間的特性は、画素のフィルタ処理された値が現在検出されている現フレームの周辺の連続フレームの数に関係し、前記フィルタ処理された値の計算に寄与する、
請求項8乃至請求項12のいずれか1項に記載のシステム。 - 前記所定の動作は、顕微鏡を単独で用いた場合の解像度よりも高い解像度で前記画像内の発光体又は蛍光体の前記画素位置を識別するために、時間的にフィルタ処理された画素値の前記集合のそれぞれに対して前記局在化アルゴリズムを適用する動作を更に備える、
請求項8乃至請求項12のいずれか1項に記載のシステム。 - コンピュータによって実行されると、前記コンピュータに請求項1乃至請求項7のいずれか1項に記載の方法を実行させるコンピュータ読取可能な命令を備える、
コンピュータプログラム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GBGB1800026.5A GB201800026D0 (en) | 2018-01-02 | 2018-01-02 | Method & systems for localisation microscopy |
GB1800026.5 | 2018-01-02 | ||
GB1803638.4 | 2018-03-07 | ||
GBGB1803638.4A GB201803638D0 (en) | 2018-03-07 | 2018-03-07 | Method and system for localisation microscopy |
PCT/GB2018/053765 WO2019135069A1 (en) | 2018-01-02 | 2018-12-21 | Method and system for localisation microscopy |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021513095A JP2021513095A (ja) | 2021-05-20 |
JP7228917B2 true JP7228917B2 (ja) | 2023-02-27 |
Family
ID=64949339
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020536947A Active JP7228917B2 (ja) | 2018-01-02 | 2018-12-21 | 局在化顕微鏡法のための方法及びシステム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11169368B2 (ja) |
EP (1) | EP3735606B1 (ja) |
JP (1) | JP7228917B2 (ja) |
CN (1) | CN111656246B (ja) |
WO (1) | WO2019135069A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102022131448A1 (de) | 2022-11-28 | 2024-05-29 | Carl Zeiss Microscopy Gmbh | Verfahren und Vorrichtung zum Aufbereiten von Daten zum Identifizieren von Analyten |
DE102022131444A1 (de) | 2022-11-28 | 2024-05-29 | Carl Zeiss Microscopy Gmbh | Verfahren zum Identifizieren von Analyten in einer Bildfolge |
DE102022131446A1 (de) | 2022-11-28 | 2024-05-29 | Carl Zeiss Microscopy Gmbh | Verfahren und Vorrichtung zum Aufbereiten von Daten zum Identifizieren von Analyten |
DE102022131445A1 (de) | 2022-11-28 | 2024-05-29 | Carl Zeiss Microscopy Gmbh | Verfahren und Vorrichtung zum Aufbereiten von Daten zum Identifizieren von Analyten |
DE102022131449A1 (de) | 2022-11-28 | 2024-05-29 | Carl Zeiss Microscopy Gmbh | Verfahren und Vorrichtung zum Aufbereiten von Daten zum Identifizieren von Analyten |
DE102022131447A1 (de) | 2022-11-28 | 2024-05-29 | Carl Zeiss Microscopy Gmbh | Verfahren und Vorrichtung zum Aufbereiten von Daten zum Identifizieren von Analyten |
DE102022131451A1 (de) | 2022-11-28 | 2024-05-29 | Carl Zeiss Microscopy Gmbh | Verfahren und Vorrichtung zum Bestimmen einer Signal-Zusammensetzung von Signalfolgen einer Bildfolge |
DE102022131450A1 (de) | 2022-11-28 | 2024-05-29 | Carl Zeiss Microscopy Gmbh | Verfahren und Vorrichtung zum Aufbereiten von Daten zum Identifizieren von Analyten |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030011674A1 (en) | 2001-07-14 | 2003-01-16 | Leica Microsystems Heidelberg Gmbh | Method and system for adjusting the image acquisition system of a microscope |
US20090237501A1 (en) | 2008-03-19 | 2009-09-24 | Ruprecht-Karis-Universitat Heidelberg Kirchhoff-Institut Fur Physik | method and an apparatus for localization of single dye molecules in the fluorescent microscopy |
JP2012530947A (ja) | 2009-06-26 | 2012-12-06 | カール ツァイス マイクロスコピー ゲーエムベーハー | 顕微鏡画像における蛍光事象の評価方法 |
WO2013047284A1 (ja) | 2011-09-26 | 2013-04-04 | シャープ株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、および画像処理プログラムを記憶した記録媒体 |
DE102012102707A1 (de) | 2012-03-29 | 2013-10-02 | Carl Zeiss Ag | Verfahren und Vorrichtungen zur Bildverarbeitung |
JP2013531221A5 (ja) | 2011-04-28 | 2014-06-05 | ||
CN104202609A (zh) | 2014-09-25 | 2014-12-10 | 深圳市云朗网络科技有限公司 | 一种视频编码方法及视频解码方法 |
JP2015516063A (ja) | 2012-05-02 | 2015-06-04 | サントル ナショナル ドゥ ラ ルシェルシュ シアンティフィク | ウェーブレット分析を用いた単一粒子位置特定の方法および装置 |
WO2016157346A1 (ja) | 2015-03-27 | 2016-10-06 | 株式会社ニコン | 顕微鏡装置、観察方法、及び制御プログラム |
Family Cites Families (49)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6215587B1 (en) * | 1994-02-14 | 2001-04-10 | Robert R. Alfano | Microscope imaging inside highly scattering media |
FR2751825A1 (fr) * | 1996-07-24 | 1998-01-30 | Philips Electronics Nv | Procede de filtrage temporel du bruit dans une image d'une sequence d'images numerisees et dispositif mettant en oeuvre ce procede |
EP1432976A4 (en) * | 2001-09-05 | 2007-11-28 | Genicon Sciences Corp | DEVICE FOR READING SIGNALS EMITTED BY RESONANCE LIGHT DISPERSION PARTICLES USED AS MARKERS |
JP2004053498A (ja) * | 2002-07-23 | 2004-02-19 | Matsushita Electric Ind Co Ltd | 顕微鏡画像解析装置とその画像解析方法 |
RU2305270C2 (ru) * | 2005-05-18 | 2007-08-27 | Андрей Алексеевич Климов | Способ флуоресцентной наноскопии (варианты) |
EP1894010B2 (en) * | 2005-05-23 | 2016-06-15 | Harald F. Hess | Optical microscopy with phototransformable optical labels |
US20080312283A1 (en) | 2005-05-26 | 2008-12-18 | Othera Pharmaceuticals, Inc. | Use of Hydroxylamine Derivates for Inhibiting Vitrectomy-Induced Cataracts |
US7485875B2 (en) * | 2005-07-22 | 2009-02-03 | Carl Zeiss Microimaging Gmbh | Resolution-enhanced luminescence microscopy |
JP2009532741A (ja) * | 2006-04-03 | 2009-09-10 | クゥアルコム・インコーポレイテッド | 顕微鏡スライド自動読み取りシステム |
US7776613B2 (en) * | 2006-08-07 | 2010-08-17 | President And Fellows Of Harvard College | Sub-diffraction image resolution and other imaging techniques |
US7838302B2 (en) * | 2006-08-07 | 2010-11-23 | President And Fellows Of Harvard College | Sub-diffraction limit image resolution and other imaging techniques |
US7916304B2 (en) * | 2006-12-21 | 2011-03-29 | Howard Hughes Medical Institute | Systems and methods for 3-dimensional interferometric microscopy |
DE102007018048A1 (de) * | 2007-04-13 | 2008-10-16 | Michael Schwertner | Verfahren und Anordnung zur optischen Abbildung mit Tiefendiskriminierung |
EP4060327A1 (en) * | 2007-12-21 | 2022-09-21 | President and Fellows of Harvard College | Sub-diffraction limit image resolution in three dimensions |
GB0900526D0 (en) * | 2009-01-14 | 2009-02-11 | Perkinelmer Ltd | Fluorescence microscopy methods and apparatus |
DE102009005953A1 (de) * | 2009-01-19 | 2010-07-22 | Universität Tübingen | Verfahren und System zur Charakterisierung einer Probe mittels bildgebender Fluoreszenzmikroskopie |
DE102009060793A1 (de) * | 2009-12-22 | 2011-07-28 | Carl Zeiss Microlmaging GmbH, 07745 | Hochauflösendes Mikroskop und Verfahren zur zwei- oder dreidimensionalen Positionsbestimmung von Objekten |
WO2011112559A2 (en) * | 2010-03-08 | 2011-09-15 | Bruce Adams | System, method and article for normalization and enhancement of tissue images |
GB201007055D0 (en) * | 2010-04-28 | 2010-06-09 | Vib Vzw | Method and apparatus for the imaging of a labelled sample |
DE102010037190B4 (de) * | 2010-08-27 | 2015-11-26 | Leica Microsystems Cms Gmbh | Vorrichtung zum zeitlichen Verschieben von Weißlichtlaserpulsen |
WO2012039636A2 (en) * | 2010-09-24 | 2012-03-29 | Christian Soeller | "3d localisation microscopy and 4d localisation microscopy and tracking methods and systems" |
DE102010041794A1 (de) * | 2010-09-30 | 2012-04-05 | Carl Zeiss Microlmaging Gmbh | Mikroskopsystem, Mikroskopieverfahren und Computerprogrammprodukt |
US10908403B2 (en) * | 2011-02-14 | 2021-02-02 | European Molecular Biology Laboratory (Embl) | Light-pad microscope for high-resolution 3D fluorescence imaging and 2D fluctuation spectroscopy |
US9104903B2 (en) * | 2012-03-16 | 2015-08-11 | University Of Utah Research Foundation | Microscopy visualization |
JP6166776B2 (ja) * | 2012-04-03 | 2017-07-19 | ユニバーシティー コート オブ ザ ユニバーシティー オブ セイント アンドリューズUniversity Court Of The University Of St Andrews | 拡張ボリュームの高分解能イメージング |
JP6335160B2 (ja) * | 2012-04-13 | 2018-05-30 | バイオアキシアル エスエーエス | 光学測定方法および光学測定装置 |
FR2989472B1 (fr) * | 2012-04-13 | 2015-09-25 | Bioaxial | Procede et dispositif optique |
TW201404879A (zh) * | 2012-07-31 | 2014-02-01 | Nat Defense Medical Ct | 非貼附式球體細胞培養容器、系統及方法 |
JP6161276B2 (ja) * | 2012-12-12 | 2017-07-12 | キヤノン株式会社 | 測定装置、測定方法、及びプログラム |
WO2014145620A2 (en) * | 2013-03-15 | 2014-09-18 | The Broad Institute, Inc. | Novel hybridization probes and uses thereof |
JP2015041164A (ja) * | 2013-08-20 | 2015-03-02 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
DE102013218231A1 (de) * | 2013-09-11 | 2015-03-12 | Sirona Dental Systems Gmbh | Optisches System zur Erzeugung eines sich zeitlich ändernden Musters für ein Konfokalmikroskop |
CN103592278B (zh) * | 2013-11-21 | 2016-01-20 | 中国计量学院 | 基于荧光发射抑制机理的随机定位超分辨显微方法及装置 |
WO2015117115A1 (en) * | 2014-02-03 | 2015-08-06 | President And Fellows Of Harvard College | Three-dimensional super-resolution fluorescence imaging using airy beams and other techniques |
JP6378931B2 (ja) * | 2014-05-21 | 2018-08-22 | 浜松ホトニクス株式会社 | 顕微鏡装置及び画像取得方法 |
US10795144B2 (en) * | 2014-12-06 | 2020-10-06 | Howard Hughes Medical Institute | Microscopy with structured plane illumination and point accumulation for imaging and nanoscale topography |
US10921255B2 (en) * | 2014-12-09 | 2021-02-16 | Bioaxial Sas | Optical measuring device and process |
CN107567578A (zh) * | 2015-04-30 | 2018-01-09 | 西门子公司 | 光辐射设备和用于测量光辐射的方法 |
US10761028B2 (en) | 2015-06-19 | 2020-09-01 | The Government Of The United States Of America, As Represented By The Secretary Of The Navy | Determining extracellular analyte concentration with nanoplasmonic sensors |
AU2016362397A1 (en) * | 2015-12-02 | 2018-06-21 | The United States Of America, As Represented By The Secretary, Department Of Health And Human Services | Fluorescent nanodiamonds as fiducial markers for microscopy and fluorescence imaging |
DE102015016353A1 (de) | 2015-12-16 | 2017-06-22 | Horst Wochnowski | PALM-Verfahren mit mehreren sich nur marginal voneinander unterscheidenden Fluorophoren |
WO2017177180A1 (en) * | 2016-04-08 | 2017-10-12 | ARIZONA BOARD OF REGENTS on behalf of THE UNIVERSITY OF ARIZONA, A BODY CORPORATE | Systems and methods for extended depth-of-field microscopy |
US20190284552A1 (en) * | 2016-05-26 | 2019-09-19 | Singular Bio, Inc. | Arrays for Single Molecule Detection and Uses Thereof |
WO2017223426A1 (en) * | 2016-06-24 | 2017-12-28 | Howard Hughes Medical Institute | Automated adjustment of light sheet geometry in a microscope |
DE102017211031A1 (de) * | 2016-11-21 | 2018-05-24 | Carl Zeiss Microscopy Gmbh | Verfahren und Mikroskop zum Ermitteln einer Fluoreszenzintensität |
US10573003B2 (en) * | 2017-02-13 | 2020-02-25 | Amit Sethi | Systems and methods for computational pathology using points-of-interest |
GB201704275D0 (en) * | 2017-03-17 | 2017-05-03 | Science And Tech Facilities Council | Super-resolution microscopy |
US11255785B2 (en) * | 2019-03-14 | 2022-02-22 | Applied Materials, Inc. | Identifying fiducial markers in fluorescence microscope images |
WO2020186029A1 (en) * | 2019-03-14 | 2020-09-17 | Applied Materials, Inc. | Identifying fiducial markers in microscope images |
-
2018
- 2018-12-21 JP JP2020536947A patent/JP7228917B2/ja active Active
- 2018-12-21 US US16/959,346 patent/US11169368B2/en active Active
- 2018-12-21 CN CN201880085005.5A patent/CN111656246B/zh active Active
- 2018-12-21 WO PCT/GB2018/053765 patent/WO2019135069A1/en unknown
- 2018-12-21 EP EP18829968.9A patent/EP3735606B1/en active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030011674A1 (en) | 2001-07-14 | 2003-01-16 | Leica Microsystems Heidelberg Gmbh | Method and system for adjusting the image acquisition system of a microscope |
US20090237501A1 (en) | 2008-03-19 | 2009-09-24 | Ruprecht-Karis-Universitat Heidelberg Kirchhoff-Institut Fur Physik | method and an apparatus for localization of single dye molecules in the fluorescent microscopy |
JP2011514532A (ja) | 2008-03-19 | 2011-05-06 | ルプレヒト−カールス−ウニヴェルジテート ハイデルベルク | 蛍光顕微鏡において単一色素分子の局在化のための方法および装置 |
JP2012530947A (ja) | 2009-06-26 | 2012-12-06 | カール ツァイス マイクロスコピー ゲーエムベーハー | 顕微鏡画像における蛍光事象の評価方法 |
JP2013531221A5 (ja) | 2011-04-28 | 2014-06-05 | ||
WO2013047284A1 (ja) | 2011-09-26 | 2013-04-04 | シャープ株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、および画像処理プログラムを記憶した記録媒体 |
DE102012102707A1 (de) | 2012-03-29 | 2013-10-02 | Carl Zeiss Ag | Verfahren und Vorrichtungen zur Bildverarbeitung |
JP2015516063A (ja) | 2012-05-02 | 2015-06-04 | サントル ナショナル ドゥ ラ ルシェルシュ シアンティフィク | ウェーブレット分析を用いた単一粒子位置特定の方法および装置 |
CN104202609A (zh) | 2014-09-25 | 2014-12-10 | 深圳市云朗网络科技有限公司 | 一种视频编码方法及视频解码方法 |
WO2016157346A1 (ja) | 2015-03-27 | 2016-10-06 | 株式会社ニコン | 顕微鏡装置、観察方法、及び制御プログラム |
Non-Patent Citations (2)
Title |
---|
Charles Kervrann et al.,A Guided Tour of Selected Image Processing and Analysis Methods for Fluorescence and Electron Microscopy,IEEE JOURNAL OF SELECTED TOPICS IN SIGNAL PROCESSING,2016年02月01日,Vol. 10, No. 1,p. 6-30 |
Eelco Hoogendoorn et al.,The fidelity of stochastic single-molecule super-resolution reconstructions critically depends upon robust background estimation,SCIENTIFIC REPORTS,2014年01月24日,Vol. 4, Article number 3854 ,p. 1-10 |
Also Published As
Publication number | Publication date |
---|---|
CN111656246A (zh) | 2020-09-11 |
EP3735606A1 (en) | 2020-11-11 |
EP3735606B1 (en) | 2023-03-22 |
JP2021513095A (ja) | 2021-05-20 |
WO2019135069A1 (en) | 2019-07-11 |
CN111656246B (zh) | 2022-07-29 |
US20200348504A1 (en) | 2020-11-05 |
US11169368B2 (en) | 2021-11-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7228917B2 (ja) | 局在化顕微鏡法のための方法及びシステム | |
EP2966492B1 (en) | Method and apparatus for single-particle localization using wavelet analysis | |
McNally et al. | Three-dimensional imaging by deconvolution microscopy | |
US20110043619A1 (en) | Resolution-Enhanced Luminescence Microscopy | |
Zhao et al. | Faster super-resolution imaging with auto-correlation two-step deconvolution | |
Fazel et al. | Analysis of super-resolution single molecule localization microscopy data: A tutorial | |
Prigent et al. | SPITFIR (e): a supermaneuverable algorithm for fast denoising and deconvolution of 3D fluorescence microscopy images and videos | |
Rieger et al. | Image processing and analysis for single-molecule localization microscopy: Computation for nanoscale imaging | |
Shroff et al. | Live-cell imaging powered by computation | |
WO2017217325A1 (ja) | データ復元装置、顕微鏡システム、およびデータ復元方法 | |
Maalouf | Contribution to fluorescence microscopy, 3D thick samples deconvolution and depth-variant PSF | |
Zunino et al. | Open-source tools enable accessible and advanced image scanning microscopy data analysis | |
Hazelwood et al. | Entering the portal: understanding the digital image recorded through a microscope | |
Li | THE NOISE AND INFLUENCE ON FLUORESCENCE MICROSCOPY | |
CN111189807A (zh) | 基于波动的荧光显微术 | |
US20240037755A1 (en) | Imaging device and method | |
Macháň | Introduction to Fluorescence Microscopy | |
CN113191981B (zh) | 基于非负矩阵分解的深层双光子钙成像方法和装置 | |
US11238566B2 (en) | Image processing device, system, and method for improving signal-to-noise of microscopy images | |
Mayerich et al. | Superresolution Image Processing | |
Yemc | The Effects of Super-Resolution Microscopy on Colocalization Conclusions Previously Made with Diffraction-Limited Systems in the Biomedical Sciences | |
WO2022117695A1 (en) | Superresolution optical imaging system and method | |
Hardo et al. | Quantitative Microbiology with Microscopy: Effects of Projection and Diffraction | |
Fersini et al. | Direct access to optical aberration information in fluorescence laser scanning microscopy using detector arrays | |
WO2023139036A1 (en) | Method for saving an image acquired using single molecule localization microscopy |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211129 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220909 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220920 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221220 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230110 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230207 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7228917 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |