JP5588507B2 - 超解像光ゆらぎイメージング(sofi) - Google Patents

超解像光ゆらぎイメージング(sofi) Download PDF

Info

Publication number
JP5588507B2
JP5588507B2 JP2012514089A JP2012514089A JP5588507B2 JP 5588507 B2 JP5588507 B2 JP 5588507B2 JP 2012514089 A JP2012514089 A JP 2012514089A JP 2012514089 A JP2012514089 A JP 2012514089A JP 5588507 B2 JP5588507 B2 JP 5588507B2
Authority
JP
Japan
Prior art keywords
function
image
sofi
pixel
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012514089A
Other languages
English (en)
Other versions
JP2012529119A (ja
Inventor
エンダーライン ヨルグ
Original Assignee
ソーファスト ゲーエムベーハー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソーファスト ゲーエムベーハー filed Critical ソーファスト ゲーエムベーハー
Publication of JP2012529119A publication Critical patent/JP2012529119A/ja
Application granted granted Critical
Publication of JP5588507B2 publication Critical patent/JP5588507B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/58Optics for apodization or superresolution; Optical synthetic aperture systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/008Details of detection or image processing, including general computer control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)
  • Television Systems (AREA)

Description

本願は、2009年6月2日に出願された「超解像光ゆらぎイメージング(SOFI)」と題したヨルク・エンデルラインの仮出願番号61183519の優先権に依存するものである。
本発明は概して、データスタック(時間関数としての複数のx−y画像/フレームのシーケンス、すなわち、動画)の信号処理方法に基づくサブ回折及びバックグランド低減の光(又は、電磁波)画像法に関する。この方法は、画像のシーケンス(動画)に記録される時間ゆらぎ(例えば、蛍光点滅/間欠性により発生する)の複数次の自己及び相互相関(及び自己/相互キュムラント)の統計的分析に基づく。この方法は、発光物体、吸収物体又は、拡散点滅物体からなる超解像静止サンプル及び非静止サンプルに適用することができる。使用分野には、顕微鏡法、望遠鏡使用法、医用イメージング及び、他の形式の電磁波イメージングなどが含まれる。
本発明の背景を説明しその実践に関する詳細を追加するために本明細書おいて引用する出版物、特許及び、他の参考資料は、本明細書に含まれるものとする。
光学的画像法(顕微鏡法、望遠鏡使用法など)の空間解像度は、光の回折限界(アッベ限界)によって制限される。光学的顕微鏡法及び、特に、蛍光顕微鏡法によって、生細胞、組織及び生きた有機体の3次元(3D)の研究を可能とする。しかしながら、上述した限界のために、可視光の発光波長(〜200―300nm)のおよそ半分よりも小さい特徴を、従来の遠視野顕微鏡法で解像することはできない。同様に、天体観測では、光の回折限界よりも低い隣接する天体を解像することはできない。
電子顕微鏡法(走査電子望遠鏡、伝送電子顕微鏡、低温電子顕微鏡)及び、走査型プローブ顕微鏡法(走査トンネル顕微鏡、原子間力顕微鏡)などの他の非光学画像法により分子レベルの解像を達成するが、生体内の特徴を結像するためには好適ではない。それらは、分析している表面(膜)又は固定された薄く分割されたサンプルに限定される。
光学的回折限界は、最近の10年間に以下に説明するような新しい概念の導入により克服されてきた。
ヘル(Hell)及びヴィックマン(Wichmann)、「誘導放出による回折解像限界の打破:誘導放出の枯渇による蛍光顕微鏡法(Breaking the Diffraction resolution limit by stimulated emission: Stimulated-emission-depletion fluorescence microscopy)」、1994年、米国光学学会、オプティックスレターズ(Optics Letters)、第19巻、780−782頁、ヘル(Hell)及びクロウク(Kroug)、「基底状態の枯渇による蛍光顕微鏡法:回折解像限界を打破するための概念(Ground-state-depletion fluorescence microscopy: A concept for breaking the diffraction resolution limit)」、1995年、応用物理B、レーザーズオプティックス(Lasers Optics)、第60巻、495−497頁、クラー(Klar)等、「遠視野蛍光顕微鏡法におけるサブ回折解像度(Subdiffraction resolution in far-field fluorescence microscopy)」、1999年7月15日、米国光学学会、オプティックスレターズ(Optics Letters)、第24巻、14番、954−956頁、US5731588、US7719679、US7538893、US7430045、US7253893及びUS7064824は、特別な装置、特別なエミッタ(フルオロフォア)及び比較的強いレーザー照明が必要な誘導放出の枯渇(STED)顕微鏡法及び関連方法を教示する。
グスタフソン(Gustafsson)、「構造化照明顕微鏡法を用いて2の係数により方位解像限界を上回ること(Surpassing the lateral resolution limit by a factor of two using structured illumination microscopy)」、2000年、顕微鏡法ジャーナル(Journal of Microscopy)、第198巻、82−87頁、ハインツマン(Heintzmann)等、「飽和しパターン形成された励起顕微鏡法:光学的解像度の向上のための概念(Saturated patterned excitation microscopy: A concept for optical resolution improvement)」、2002年、米国光学学会Aジャーナル(Journal of Optical Society of America A)、第19巻、1599−1609頁、グスタフソン(Gustafsson)等、(IM)−M−5「100nmよりもいい距離解像度を有する3次元広視野光顕微鏡法(3D wide-field light microscopy with better than 100-nm axial resolution)」、1999年、顕微鏡法ジャーナル(Journal of Microscopy)、第195巻、10−16頁及び、US5671085は、構造的照明顕微鏡法及び飽和した構造的照明顕微鏡法(SIM/SSIM)及び画像干渉顕微鏡法(I5M)を教示する。
ベッチック(Betzig)等、「ナノメートル解像度での細胞間蛍光タンパク質のイメージング(Imaging intracellular fluorescent proteins at nanometer resolution)」、2006年、サイエンス、第313巻、1642−1645頁、ヘス(Hess)等、「蛍光光活性化局在性顕微鏡法による超高解像イメージング(Ultra-high-resolution imaging by fluorescence photoactivation localization microscopy)」、2006年、生物物理学ジャーナル(Biophysics Journal)、第19巻、4258−4272頁、UE7710563、US7626703、US7626695、US7626694、US7535012は、光活性化局在性顕微鏡法(PALM)及び関連した方法を教示し、ラスト(Rust)等、「確率的光学再構築顕微鏡法によるサブ回折限界イメージング(Subdiffraction-limit imaging by stochastic optical reconstruction microscopy (STORM))」、2006年、ネーチャーメソッド(Nature Methods)、第3巻、793−795頁は、関連する確率論的光学再構成顕微鏡法(STORM)を教示する。
マリオット(Mariott)等、「生細胞におけるコントラストが向上した画像のための光学ロックイン検出イメージング顕微鏡法(Optical lock-in detection imaging microscopy for contrast enhanced imaging in living cells)」、2008年、国立科学アカデミー予稿集、米国、第105巻、17789−17794頁によって教示されるように、切換可能な蛍光プローブの発展も、光学ロックイン検出(OLID)などの新しいバックグランド低減、コントラスト向上技術の出現を引き起こした。
STEDは、ビデオレートの解像度を向上させたが、この方法は、標識化手順、染料の選択に関して非常に注文が多く、退屈な位置合わせの手順を必要とするため、困難である。最近の11Hzでの超解像顕微鏡法は、SIMを用いて示され、2倍増の方位解像度を実現する。シュテンゲル(Shtengel)等、「3次元細胞超微細構造を解像する干渉蛍光超解像顕微鏡法(Interferometric fluorescent super-resolution microscopy resolves 3D cellular ultrastructure)」、2009年、国立科学アカデミー予稿集、第106巻、米国、3125−3130頁、ジュエット(Juette)等、「厚いサンプルの3次元サブ100nm解像蛍光顕微鏡法(Three-dimensional sub-100-nm resolution fluorescence microscopy of thick samples)」、2008年、ネーチャーメソッド(Nature Methods)、第5巻、527−529頁、フアン(Huang)等、「ナノメートル解像度を有する細胞構造間の相互作用を解明する全細胞3次元STORM(Whole-cell 3D STORM reveals interactions between cellular structures with nanometer-scale resolution)」、2008年、ネーチャーメソッド(Nature Methods)、第5巻、1047−1052頁によって教示されるように、全ての超解像法は、3次元での解像度を向上させることができるが、主要な技術的要求又は顕微鏡法への修正を犠牲にすることが多い。PALM及びSTORMは、ナノメートルの解像度を実現するが、その代わりに取得速度が遅い。完全な超解像画像の取得には、通常数分から数時間かかる。最後に、OLIDは、向上したコントラストを有する早いイメージングを提供するが、超解像の能力に欠ける。
リドケ(Lidke)等は、「点滅統計を用いた量子ドットの局在性による超解像(Superresolution by localization of quantum dots using blinking statistics)」、2005年、オプティックスエクスプレス(Optics Express)、第13巻、7052−7062頁において、エミッタを分解し局在させるための高次統計的分析に基づいてエミッタを同時に重ね合わせ変動させる分析方法を教示する。彼らが開発してきたものは、独立成分分析(ICA)及びQDの点滅の統計に基づく超解像イメージングである。彼らは、この方法が、回折限界よりも下に狭い間隔で並んだQDを解像することができることを示した。リドケ(Lidke)等が指摘したように、QDの数を少なく又は多く見積もることで、(正しくない数の)エミッタの軌跡の判断における精度に影響を与えてしまう。現行の発明(SOFI)において示されているように、エミッタの数についてのそのような演繹的知識は必要としない。「ウェーブレットのプレフィルタリングを用いる力学的スペクル照明(DSI)顕微鏡法(Dynamic speckle illumination (DSI) microscopy with wavelet pre-filtering)」、2007年、オプティックスレターズ(Optics Letters)、第32巻、1417−1419頁、2007年においてベンタロン(Ventalon)等は、分散の線形加算に基づいた統計学的分析法を議論する。それは、観察された信号のゆらぎの評価に基づくが、励起光によって誘導され、その後、SOFIと同様な方法で評価される。この手法により光軸に沿ったセクショニングを生じさせたとしても、ゆらぎが独立した微視的(すなわち、サブ回折の大きさの)エミッタからのものではなく、回折限界のスペックルからのものであるという事実により、回折限界であるためにDSI解像度において本質的に限界が強いられる。SOFIと上述した方法は、相関関数の共通な数学的概念にのみその起源を有するという類似点を有する。しかしながら、これらの手法の詳しい分析によって、能力、結果として得られる効果、利用法及び応用において、劇的な違いが明らかとなる。
そのため、シンプルで、早く、低コストで、内在する3次元の可能性を有し、光毒性を持たず、生体細胞の画像化に適している超解像イメージング及びバックグランド低減イメージングに対して大きな需要がある。この方法は、フレキシブルで、様々な広く展開された市販の顕微鏡によって取得された画像スタックにおいて実施可能であり、その実施及び操作が簡単でなければならない。
本発明は、古典的回折限界を超えて解像度を向上させバックグランドを低減させる、ゆらぐ物体の画像スタック(動画)の統計的分析技術(自己及び相互相関/キュムラントに基づく)を開示するものである。画像フレームにおける全てのピクセルの時間軌道は、それ自身及び/又は隣接するピクセルの時間軌道と相関している。各ピクセルの(時間差の間隔について、任意の時間差又は平均された又は統合された時間差での)自己又は相関関数/キュムラントの振幅は、生成された超解像SOFI画像における当該ピクセルの強度値として用いられる。使用分野には、顕微鏡法、望遠鏡使用法、医用イメージング及び他の形式の点滅物体の電磁波イメージングが含まれる。
図1(a)〜図1(f)は、SOFI法を用いてバックグランドを低減した超解像画像を生成すために必要なステップを表す図である。 図1(a)〜図1(f)は、SOFI法を用いてバックグランドを低減した超解像画像を生成すために必要なステップを表す図である。 図1(a)〜図1(f)は、SOFI法を用いてバックグランドを低減した超解像画像を生成すために必要なステップを表す図である。 図1(a)〜図1(f)は、SOFI法を用いてバックグランドを低減した超解像画像を生成すために必要なステップを表す図である。 図1(a)〜図1(f)は、SOFI法を用いてバックグランドを低減した超解像画像を生成すために必要なステップを表す図である。 図1(a)〜図1(f)は、SOFI法を用いてバックグランドを低減した超解像画像を生成すために必要なステップを表す図である。 図2は、2次SOFI画像を生成するためのプロトコルを詳述するフローチャートである。 図3(a)〜図3(c)は、異なる時間差構成を用いて2次自己相関関数に基づいたSOFI画像を得るための様々な方法を表す図である。 図3(a)〜図3(c)は、異なる時間差構成を用いて2次自己相関関数に基づいたSOFI画像を得るための様々な方法を表す図である。 図3(a)〜図3(c)は、異なる時間差構成を用いて2次自己相関関数に基づいたSOFI画像を得るための様々な方法を表す図である。 図4(a)〜図4(c)は、異なる時間差構成を用いて2次相互相関関数に基づいたSOFI画像を得るための様々な方法を表す図である。 図4(a)〜図4(c)は、異なる時間差構成を用いて2次相互相関関数に基づいたSOFI画像を得るための様々な方法を表す図である。 図4(a)〜図4(c)は、異なる時間差構成を用いて2次相互相関関数に基づいたSOFI画像を得るための様々な方法を表す図である。 図5(a)〜図5(c)は、SOFI画像に対してインターリーブするピクセルを、物理ピクセル間において生成する原理を示す図である(特定の2次キュムラントの場合についての例を示す)。 図5(a)〜図5(c)は、SOFI画像に対してインターリーブするピクセルを、物理ピクセル間において生成する原理を示す図である(特定の2次キュムラントの場合についての例を示す)。 図5(a)〜図5(c)は、SOFI画像に対してインターリーブするピクセルを、物理ピクセル間において生成する原理を示す図である(特定の2次キュムラントの場合についての例を示す)。 図6は、相互キュムラントを用いてインターリーブピクセルを生成し、距離係数に対して補正するためのプロトコルを詳述するフローチャートである。 図7(a)〜7(d)は、完全にアップサンプルされた2次SOFI画像を得るためにピクセルの時間軌道を相互相関させることができる例を示す図である。 図7(a)〜7(d)は、完全にアップサンプルされた2次SOFI画像を得るためにピクセルの時間軌道を相互相関させることができる例を示す図である。 図7(a)〜7(d)は、完全にアップサンプルされた2次SOFI画像を得るためにピクセルの時間軌道を相互相関させることができる例を示す図である。 図7(a)〜7(d)は、完全にアップサンプルされた2次SOFI画像を得るためにピクセルの時間軌道を相互相関させることができる例を示す図である。 図8は、2次自己相関及び相互相関を用いてアップサンプリングされた2次SOFI画像を生成するためのプロトコルを詳述するフローチャートである。 図9(a)及び図9(b)は、相互相関がある様々なピクセルの時間軌道による同じSOFIピクセルの求め方を示す図である。 図9(a)及び図9(b)は、相互相関がある様々なピクセルの時間軌道による同じSOFIピクセルの求め方を示す図である。 図10は、SOFIの解像度向上を従来の広視野顕微鏡法のものと比較する図である。
SOFIは、独立して点滅する点のような物体(図1(a))を含む視野又はそのような物体で標識付けられる構造を結像させる方法である。「点のような」とは、イメージングシステムの点広がり関数(PSF)のサイズよりもずっと小さいエミッタのサイズを言う。エミッタのそれぞれは、放射、吸収、拡散などの1つ以上の光学的特性において、確率的及び独立的(互いに)にゆらぎ(又は「点滅」)する。ゆらぎは、物体それ自体に内在するものであっても良いし、外部手段によって誘発されるものであっても良いが、独立していなければならず、他の物体間で同期されてはならない。ゆらぎは、その要因が(分子の)遷移、(分子の)配向性又は、(分子の)配座にあり、ある光学的特性を測定可能な度合いに変更させる。これは、例えば、分子の2つ以上のエネルギー状態同士の遷移によるもの又は、分子の双極子再配向による光学的偏光放出、吸収又は、拡散における変化によるものであっても良い。ゆらぎ(又は、点滅)は、例えば、「オン」や「オフ」といった蛍光状態のようなバイナリ特性を有する必要はないことが強調される。測定可能なゆらぎであれば、SOFI画像の生成に用いることができる。この例において、エミッタのk及びjは、回折限界よりも短い距離によって分離される。
上述した視野(サンプル又は対物面)は、光学的イメージングシステム(顕微鏡、望遠鏡など)を、デジタルカメラ(又は他のアレイ検出器)を用いて平行又は連続して(1ピクセルずつ)(図1(b))、繰り返し(1フレームずつ)、時間をかける(すなわち、データは、様々な低速度撮影の顕微鏡法の1つによって取得される)ことによって結像される。エミッタk及びj(及び他の全てのエミッタ)からの信号は、光の回折による顕微鏡点広がり関数(PSF)で本来折り畳まれ、サブ回折グリッドに時間関数として記憶される(例えば、CCDカメラのピクセルや走査像)。これにより、図1(a)の点線で描いた箱に詳細を示した視野のひと続きの拡大図(動画、画像のスタック又は、フレーム、図1(c))が生成される。イメージングシステム及び記録システムの構成は、空間及び時間における物体のゆらぎ(例においては、点滅蛍光エミッタ)を検出して記録するのに適しており、十分な感度を有する。視野は、記録された画像の1ピクセルがPSFの画像の大きさの断片に対応する程度までイメージングシステムによって拡大される(すなわち、例えば、〜4x4−10x10ピクセルによってPSFがサンプルされる)。
時間軌道(又は、時間トレース)は、その位置ri:F(ri,t)(図1(d))における時間tの関数として(蛍光)強度のゆらぎを表す、記録された画像スタックにおけるピクセル毎ri=(xi,yi,zi)に抽出される。iは、アレイ検出器の全てのピクセルを列挙する離散インデックスである。各ピクセルの時間軌道は、それぞれのエミッタの信号(そのPSFは、特定のピクセルのPSFに寄与する)の加重和からなる。その時間軌道がエミッタk及びjから発せられる信号の加重和である(図1(c)に示したような)3つの仮想ピクセルi−1,i,i+1の時間軌道を示す。
F(ri,t)の時間平均値を計算して、記憶した時間軌道から減算することでゼロ平均ゆらぎ信号
Figure 0005588507

を生成する。
Figure 0005588507

は、時間平均を表す。
次に、時間2次自己相関関数
Figure 0005588507

をピクセルの時間軌道毎に計算して、結果としてG2(ri,0,1)の値の行列を得る。一般性を喪失することなく、τ1=0及びτ2=0を設定すると、0は、動画の第1のフレームの時点を表し、1は、2つの隣接するフレーム間の時間差を表す(しかしながら、記録された時間範囲内におけるτ1及びτ2対しては、如何なる時間差の値を選んでも良い)(図1(e)及び図3(a))。この数学操作の有益な結果は、無相関なバックグランドを排除することである。
SOFI画像は、
Figure 0005588507
に従って、行列G2(ri,0,1)から構成される。ここで、各ピクセルは、値S2(ri)が割り当てられる(式1及び図1(f))。kは、サンプル/視野内における全ての物体/エミッタに渡って延びる。時間差の他の選択又は、選択した時間差の範囲に渡るこれらの関数の有限積分の値を利用することができる。この例では、エミッタk及びjは、ここでは、結果として得られたSOFI画像に解像される。
元々の画像(位置rj)は、物体/エミッタk毎の形式U(rk−ri)の点広がり関数(PSF)の重ね合わせからなる一方、SOFI画像は、明るさのターム
Figure 0005588507

及び各エミッタの時間的ゆらぎを表すタームによって拡大された形式U2(rk−ri)のPSFの重ね合わせからなる。近似された3次元ガウスPSFは、
Figure 0005588507

結果として得られたSOFI修正されたPSFの関数形式は、
Figure 0005588507

ここで、
Figure 0005588507

及び
Figure 0005588507

である。その結果、PSFの幅は、x,y,zのそれぞれの方向において、係数√2によって減少する。PSFは多くの場合、上記式が正当であることを証明する3次元のガウス分布として近似させてモデル化することができる。このことは、エアリーディスクなどのPSFのより正確な説明又は実際の実験的手法で決まったPSFについても言える。SOFI修正されたPSFは、形式U2(r)を依然として持つが、幅は結果として縮小する。
図2は、段落0016から0030までに説明したようなSOFIアルゴリズムのステップを要約する図である。
実施例1:任意の時間差を用いた2次自己相関に基づくSOFI
任意の時間差τjに対する2次自己相関関数G2(ri,τ1,τ2)は、
Figure 0005588507

によって与えられる。
SOFI画像は、段落0019から0022において説明したように時間差τ1=0及びτ2=1に対してだけではなく、τ1、τ2の任意の組み合わせに対する時間差2次自己相関関数を用いて生成することができる(図3(b))。多くのそのような組み合わせを重ね合わせることでもSOFI画像を生成することができる(式(5)及び図3(c))。
Figure 0005588507

なお、τjは、有限の時間差の値であっても良く、時間差同士の差であっても良い。
実施例2:高次自己キュムラントに基づくSOFI
好適な実施形態及び実施例1(段落0016〜0034)の上記説明では、2次自己相関を利用する。自己キュムラントの概念を利用して高次SOFI画像を生成することができる。自己キュムラントは、自己相関関数から導き出すことができ、次数1、2、3(1次相関は、時間平均値に対応する)に対する自己相関関数と同じである。高次自己相関関数(ピクセルriに対する)は、
Figure 0005588507

によって、自己キュムラント(メンデル(J.Mendel)、「信号処理における高次統計(スペクトラ)及びシステム論理に関するチュートリアル:論理的結果及び応用(Tutorial on Higher-Order Statistics (Spectra) in Signal Processing and System Theory: Theoretical Results and Some Applications)」、1991年、IEEE予稿集、第19巻、3番、式A−1)を利用して計算され、Gn(ri,τ1,...,τn)は、以下の自己キュムラントCnと自己相関Gnとの間の関係を表す式(7)によって計算することができる(4次までの関係のみを示す)。
Figure 0005588507

式(5)と同様に、より高次のSOFI画像は、より高次のキュムラントSn(ri)の重ね合わせた値を対応するピクセルに割り当てることで構成することができ:
Figure 0005588507

また、式(1)と同様に、このより高次のSOFI画像は、n乗Un(rk−ri)まで上げられ、かつ、明るさ係数
Figure 0005588507
によって乗算された元々のPSF及び時間的重み付け係数wk(τ1,...,τn)を有する形式:
Figure 0005588507
を持つことになる。3次元ガウスPSF近似に対して、PSFの幅が係数√nによって改善する。PSF(エアリーディスク又は実験的に決定されたPSF)のより正確な近似に対して、結果として得られる解像度の向上は、Un(r)及びU(r)の相対的な幅によって決まる。
実施例3:2次相互相関に基づくSOFI
2次自己相関SOFI法(段落0016〜0031)に類似した方法で、時空間的2次相互相関に基づくSOFI法を定義することができる。この場合、異なるピクセルのri1及びri2の時間軌道は、時間差τ1=0及びτ2=1において相関性がある。2次相互相関XG2は、
Figure 0005588507

によって与えられる(図4(a)参照)。
元々のPSFがいくつかのピクセルによってオーバーサンプリングされ、これらのピクセルが相関するように近隣のエミッタからゆらぎを記録する場合はいつでも、相互相関を計算することができる。異なるピクセルの時間軌道を用いて相互相関のタームを計算するけれども、XG2の値は、
Figure 0005588507

による特定のSOFI画像のピクセルに割り当てられる。ここで、kは視野/サンプルに存在する全てのエミッタに渡って延び、rkは、エミッタkの位置を表す。ri1及びri2は、相互相関に用いるピクセル時間軌道の位置を表す。XG2の値は、最終的なSOFI画像における位置
Figure 0005588507

(すなわち、ri1及びri2の幾何学的中心)に割り当てられる。割り当てられたSOFIのピクセル強度は、
Figure 0005588507

によって与えられる。
i1=ri2を設定し、式(12)におけるPSF(U(0)=1)を正規化することにより、自己相関の結果(式(1))が回復される。
実施例4:任意の時間差を用いる2次相互相関に基づくSOFI
実施例1にあるように、2次相互相関の手法は任意の時間差τjまで広げることができる。
Figure 0005588507

SOFI画像は、実施例3において説明したように時間差τ1=0及びτ2=1に対してだけではなく、τ1、τ2の任意の組み合わせに対する時間差2次相互相関関数を用いて生成することができる(図4(b))。多くのそのような組み合わせを重ね合わせることでもSOFI画像を生成することができる(式(14)及び図4(c))。
Figure 0005588507

なお、τjは、有限の時間差の値であっても良く、時間差同士の差であっても良い。
実施例5:2次相互間に基づくSOFIを計算するための複数の方法
2次相互相関に基づくSOFIピクセルの位置は、2つのピクセルri1、ri2
Figure 0005588507

(図5(a))の幾何学的中心位置に割り当てられ、ピクセルの組み合わせの組は、同じ幾何学的中心を有することができるので(図9(a))、
Figure 0005588507

がおよそPSFの幅又はそれ以下である組を利用することが最も有効である。SOFIは、次の形式を取ることができる。
Figure 0005588507
実施例6:より高次の相互キュムラントに基づくSOFI
より高次の時間的自己キュムラント法(実施例2)に類似した方法で、より高次な空間時間的相互キュムラントに基づくSOFIの手法を定義することができる。この場合、異なるピクセルの時間軌道は、相関性がある。相互キュムラントは、相互相関関数から導き出すことができ、次数2及び3に対するものと同じである。より高次時の空間的相互相関関数XGnは、入力として、n組のピクセルの時間軌道(ri1,ri2,...,rin)及びn組の時間差(τ1,τ2,...,τn)を有する。XGnは、
Figure 0005588507

によって与えられ、相互キュムラント(メンデル(J.Mendel)、「信号処理における高次統計(スペクトラ)及びシステム論理に関するチュートリアル:論理的結果及び応用(Tutorial on Higher-Order Statistics (Spectra) in Signal Processing and System Theory: Theoretical Results and Some Applications)」、1991年、IEEE予稿集、19巻、3号、式A−1)を利用して計算することができる。XGn(ri1,...,rin|τ1,...,τn)は、相互キュムラントXCnと相互相関XGnとの関係を説明する以下の式(17)によって計算することができる。(4次までの関係のみを示す。)
Figure 0005588507

元々のエミッタのPSFの画像がいくつかのピクセルによってオーバーサンプルされるだけ十分に大きく、それらのピクセルが相関したゆらぎを検出できる時はいつも、相互相関を、1つの領域を互いにオーバーサンプルするピクセル間において行うことができる。各計算された相互キュムラントを用いてSOFI画像を生成することができる。相互キュムラントは、異なるピクセルの時間軌道を入力として計算に入れるが、ユニークな位置(ピクセル)を、最終的なSOFI画像の結果として得られる相関キュムラントの値に対して割り当てることが可能である。XCnは、以下の式によって与えられる。
Figure 0005588507

対応するSOFIピクセルの位置は(式(18)から分かるように)、
Figure 0005588507

によって与えられる。より高次の相互キュムラントSOFI画像は、
Figure 0005588507

によって与えられる。
式(14)と類似して、多くの時間差の組み合わせの重ね合わせを用いて、より高次の相互キュムラントSOFI画像を計算することができる。
Figure 0005588507

n次相互キュムラントに基づくSOFI画像の位置は、n個のピクセル
Figure 0005588507

の幾何学的中心位置に割り当てられ、ピクセル組の他の組み合わせは、同じ幾何学的中心を持つことができるので、
Figure 0005588507

(全ての組み合わせ(l,j)に対する)が、およそPSFの幅の大きさ又は、それよりも小さい組を利用することが最も有効である。SOFI画像は、次の形式を取ることができる。
Figure 0005588507

結果として得られるより高次のSOFI画像には、明るさの係数
Figure 0005588507

及び時間重み付け係数wk(τ1,...,τn)を有する形式Un(rk−r)のPSFの組み合わせが含まれる。3次元ガウスPSFの近似に関しては、PSFの幅が係数√nによって改善する。PSFのより正確な近似(エアリーディスク又は、実験的に決定したPSF)に関しては、結果として得られる解像度の改善は、Un(r)及びU(r)の相対的幅によって決まる。
実施例7:相互キュムラントによるインターリーブされたピクセルの生成
インターリーブピクセルは、幾何学的中心が物理的(「実際の」)ピクセル同士の範囲に入るピクセルの相互相関軌道によって生成することができる。図5(a)は、インターリーブされたピクセルを、2次相互相関によって生成する方法を示す図である。2つの隣接するピクセルの時間軌道は相互相関し、その結果として、2つの物理的ピクセルの間に位置するインターリーブされたピクセルを得る。例えば、座標r1=100のピクセルの時間軌道と座標r2=101のピクセルの時間軌道との間の2次相互相関は、座標r=100.5のピクセルを生成する。この手法は、より高次のキュムラントに対しても当てはまる。相互キュムラントは、相互キュムラントを生成するために用いられるピクセルの時間軌道の距離に基づく係数によって重み付けされる(図5(b)及び5(c))。
Figure 0005588507

この距離係数(式(23))は、SOFI画像における各ピクセルにとって公知でなければならない。そして、全てのピクセルに対するSOFIの値は、式(20)式(21)、式(22)のそれぞれに従って計算することができる。近隣のピクセルの可能な組み合わせを考えると、近隣のピクセル同士の2次相互相関の計算は、各水平、垂直、斜めの組み合わせの間の中間に有効なピクセルを生成する(図6及び図7(a)〜7(d))。同様に、より高次の相互相関は、各可能な組み合わせによって与えられるより多くの有効ピクセルを生成する。例えば、4次相互キュムラントによって4つの異なるピクセルの時間軌道の組み合わせが可能となる。
補間とは対称的に、これらの相互キュムラントから導き出されたインターリーブされたピクセルは、真に改善された解像度を提供する。例えば、ピクセルのサンプリングサイズよりも近くに配置された(そして、それゆえ元々の従来の画像では解像されない)1組のエミッタを、相互相関/相互キュムラントを用いて解像することで、十分な数のSOFIピクセルを生成することができるので、2つの強度ピーク(2つのエミッタを表す)間における強度減少が明らかとなる。その結果、相互相関の手法を複数のキュムラントの次数に渡って自己相関の手法と組み合わせることで、結果として得られる画像においてさらに増加するピクセルを生成することができ、単一の画像スタックが様々な解像度、様々な数の結果として得られる画像及び、元々のピクセルサンプリングサイズさえ超える解像度を有するSOFI画像を生成することを可能とする。一般的に、相互相関の手法は、PSFのサイズが縮小するような場合でも、SOFI画像を記録するために用いなければならない(例えば、カメラの有効ピクセルサイズ:nm/ピクセルなど)サンプリングの頻度を調整する必要がないという利点を有する。PSFに対する元々のサンプリング頻度を維持することができる。SOFI画像のそのようなアップサンプルされたSOFI画像を生成するフローチャートを図8に示し、この2次技術を立証する。
実施例8:相互相関による信号強化
相互相関を用いて、異なるピクセルの時間軌道の組(n次のSOFI画像に対して、それぞれのピクセル時間軌道の3組又はn組)を用いてピクセル(仮想又は実際の)SOFIの値を複数回計算することができる。各相互キュムラントが異なるピクセル時間軌道の組(n次SOFI画像に対して、それぞれのピクセル時間軌道の3組又はn組)から得られたものだが同じ情報を伝えるので、この手法を用いてノイズの多い信号を強めることができる。どのピクセル時間軌道を相互相関させなければならないかは、式(19)から分かる。例えば、図9(a)及び9(b)を参照のこと。
実施例9:顕微鏡法の応用
SOFIは、蛍光顕微鏡法の応用に特に適している。ほぼ全ての蛍光顕微鏡において、2つ以上の強度、寿命、偏光又は、スペクトル状態の間を独立して遷移するフルオロフォアを用いて、超解像及びバックグランド低減をもたらすために用いることができる。そのようなフルオロフォア遷移の例には、量子ドット点滅、その間光を発しないフルオロフォア三重項状態、特定の波長(及び低強度であっても良い)の照明下でのスペクトラの電源を切る又は変更する可能性を有する光スイッチ可能なプローブが含まれる。
SOFIの手法は、幅広い標準的蛍光顕微鏡において機器に修正を加える必要なく機能するので、他の超解像技術との比較において優れている。これが可能なのは、解像度の向上に対する鍵が、エミッタの確率的に独立した点滅/ゆらぎであるためである。顕微鏡は、その点滅/ゆらぎが分析できるように、こられのエミッタの画像スタックを記録するための手段を提供するだけで良い。その結果、SOFIを、カメラを用いて視野全体を同時に結像する広視野顕微鏡において実施することができる。また、焦点外の光をセクショニングして排除することがピンホールの回転ディスクによって改善された共焦点回転ディスク顕微鏡などの改良型広視野顕微鏡及び、内反射を用いて、非常に狭い照明片(ガラス面に近い)を選択して、幅(z)方向に非常に狭いPSFを生じさせる内部全反射蛍光(TIRF)顕微鏡において用いることもできる。それぞれの場合において、顕微鏡は、初期(回折限度)PSFを提供し、SOFIアルゴリズムの以下の利用法は、3方向全ての超解像及びバックグランド低減を提供する。
SOFIの手法は、単一の励起スポットをサンプル(走査ビーム又は走査ステージ)によって走査して画像を生成するラスター走査設定においても用いることができる。これは、単一の点でゆらぎが観測できる程十分ゆっくりと走査するだけで達成することができる。或いは、ゆらぎの速度に対してゆらぎをオーバーサンプルするのに十分早く、ビームが同じ点に戻ることがとても早い(すなわち、信号は、正しいテンポでまだ十分に相関している)ので、サンプルを複数回走査することによってゆらぎをサンプルしようと試みることができる。第3の選択肢を用いることもできる。すなわち全てのjに対する組み合わせτj=0(0074参照のこと)。この手法に関して、時間相関が完全に失われている。しかしながら、相互キュムラントの手法を用いることはもはやできない。
実施例10:非蛍光性顕微鏡法の応用
SOFIは、電磁放射特性、吸収特性又は散乱特性において点滅する/ゆらぐ全ての物体に用いることができる。例えば、確率的に再配向/回転拡散する小さな金ナノロッドは、異方的に光を拡散する。偏光光学及び適切なカメラを備える広視野かつ暗視野の顕微鏡は、そのように再配向する物体の光拡散におけるゆらぎを結像し記憶して、SOFIと互換性のあるデータセットを取得することができる。同様に、吸収双極子の配向性における変化を利用してSOFI分析にかけることができる。
実施例11:非顕微鏡法の応用
SOFIの応用は、顕微鏡法に限定されるものではない。ゆらいでいる点のような発光し/吸収し/拡散するソースからの信号を記憶する、電磁遠視野画像システム又は、回折限度を受ける波動現象は、SOFIアルゴリズムを利用することができる。可能な応用には、望遠鏡使用法、医用イメージング及び、他の形式の電磁波イメージングが含まれる。
実施例12:時間差の選択、点滅する時間スケール、ショットノイズ、フレームレート及び、画像スタック期間
相関関数は、任意の時間差τj又は相関する信号値同士の相対的時間遅延に対して役立つ。しかしながら、典型的なゆらぎ/点滅の時間スケール(レート)、時間取得フレームレート及び、選択した相関時間差の間を注意深く整合することが、SOFIアルゴリズムを正しく実施するには必要である。アフターパルスなどの通常は不要な短い時間スケールの検出器のゆらぎ、すなわち、カウントのすぐ後に他のカウントを生成する検出器における傾向又は、1つのフレームから直後のフレームへの信号強度における非相関の統計的ゆらぎであるショットノイズを含ませる又は排除することに影響を与える。
時間差の最も単純な選択は、全てに対してτj=0を設定して、相関関数を平均化されたモーメント及び、より従来型のキュムラントと等しい一般化されたキュムラントに相当させることである。例えば、この特殊なケースでは、2次SOFI画像は、各ピクセルの時間的分散に相当する。これは、考え方としては最も単純であり、非常に短い時間スケールのゆらぎの観察を可能とするが、独立してゆらぐエミッタを解像する能力を低減させるショットノイズ挙動を含んでしまうことになる。ショットノイズは、カメラの測定されたノイズ分布又はポアソン分布したフォトン計数検出器のショットノイズなどの公知の挙動に従うかどうかで取り除くことができる。このようにしてショットノイズを取り除くことで、超解像を依然として得ながらエミッタの短い時間スケールのゆらぎに対する検出感度を与える。
しかしながら、1つ以上の非ゼロ時間差が選択される場合、元々ショットノイズが存在しないSOFI画像を生成することができる。この手法は、実際の統計的分布とは関係なくショットノイズの寄与を抑制することを保証する。一旦非ゼロ時間差を用いると、エミッタが示した元々の点滅挙動の時間スケールを考慮する必要がある。この手法を用いて点滅挙動を観察するのに良好な感度を得るためには、典型的な点滅時間スケールは、1つの点滅期間(「off」時)が元々の画像スタックのフレーム毎の1つの積分時間(フレームレートの逆数)よりも長く続くように、十分長くなければならない。
独立したピクセル間の相互相関が(自己相関の代わりに)用いられると、ショットノイズのゆらぎは、ゼロ時間差についても抑制される。よって、ショットノイズ分布の減算(自己相関を用いる場合)又はゼロ時間差を用いた相互相関手法のどちらかを用いて、点滅時間スケールを、例えば、ストローブ励起を用いてフレームレートの逆数よりも短くて良い単一フレームの取得時間と同じくらい短いものと見なすことができる(そのため、蛍光エミッタを励起する照明は、各フレームのわずかな時間だけ電源が入り、フレームレートよりずっと短い点滅時間スケールからSOFI画像を生成させることができる)。例えば、この手法を用いることで、フルオロフォアがマイクロ秒からミリ秒の間の非発光三重項状態に入ることにより点滅する短い時間スケールの三重項状態を結像することができる。
分析のために時間スケールを選択する他の重要な側面は、SOFI画像の生成を混乱させる、ゆっくりとした時間スケールが平均してドリフト(例えば、サンプルステージがゆっくりと熱的又は機械的にドリフト)することを防止することである。これは、平均が各セグメントの中心になるようにドリフトの時間スケールよりもずっと短いセグメントにおいて相関関数を生成する又は、相関しないランダムなノイズを加えて平均を正規化させることによって解決することができる。例えば、染料を用いる蛍光サンプルは、フルオロフォアが永久的に暗状態に入る各励起を有する可能性があり、共通して色あせを経験する。このため、結果として、フルオロフォア及び励起出力に基づいて、減衰時間が秒から分よりも長い範囲で変動できる指数関数的減衰を示す平均強度となる。その染料を用いる画像の全てが同様に色あせるので、これは、画像スタックの初めのより明るい状態から画像スタックの最後の暗状態まで移行するSOFIにとっては独立していなければならない多くのエミッタを互いに効果的に相関させる。画像スタックを1組の短いスタックに分割する又は、ランダムノイズ法を用いることで、この問題を緩和させることができる。
実施例13:画像スタックのスタック−SOFI動画の生成
SOFI画像を取得する速度は、イメージングシステム及びゆらぎの時間スケールによって与えられる。そのため、複数の画像スタックを取得し、超解像を盛り込んだSOFI画像のシーケンス(SOFI動画)を生成することができる。具体的には、結像された対象物が動いている時、潜在的に短い取得時間が有利であることが分かるが、それは、そうでなければぼやけた画像となってしまうためである。SOFI画像の計算は、ソフトウェア又はハードウェアのどちらかを用いる手法によって非常に効率的かつ素早く行うことができる。
実施例14:バックグランド低減
SOFI画像の生成は、平均信号レベルに対する時間信号のゆらぎの分析に依存する。その結果、一定のままのバックグランド信号又は、非常に小さいゆらぎを発生させるバックグランド信号が抑制され、結果としてバックグランドが低減された(バックグランドがない場合さえある)コントラストが向上したSOFI画像を得ることになる。このバックグランド低減は、非常に大きな一定信号を排除することができるので、より小さいゆらぎの信号を見えるようにすることができる。これにより、大きなバックグランドでは見失ったり見えなかったりする(超解像以上の)構造の観察が可能となる。
ゼロよりも大きい時間差セレクションを選択すると、コントラストの向上は、元々の画像スタックの各フレームにまたがるピクセルにおいて持続する信号だけを選択する。その結果、バックグランドの一部としてショットノイズがフレームの長さよりもずっと短い他の多くの信号として低減される。相互相関も、例えば、検出器のアフターパルス、宇宙線、ダークカウント及び、ショットノイズなどゼロ時間差であっても単一ピクセルにおいてのみ存在する任意のゆらぐバックグランドを低減させ、複数のピクセルに渡って相関して起こるゆらぎだけをコントラスト向上のために選択する。
蛍光による細胞イメージングの場合、画質を乱す共通の問題は、焦点の合っていない光及び細胞の自己蛍光(細胞の自然な含有物が励起光に応答して光を発する)の両方によってもたらされる高度なバックグランドである。焦点の合っていない光及び細胞の自己蛍光の両方は、ゆらぎのない信号であるため、SOFI画像では取り除かれて、実質的に高品質の画像を生成し、細胞イメージングで重要なコントラストの問題を解決する。
焦点の合っていない光及び散乱は、コントラストの低減及び、生きている動物や組織のイメージングにおける画像性能の低減に有意に寄与する。上述した細胞イメージングについての同じ原理がここでも当てはまる。SOFIのバックグランド低減及びコントラスト向上は、そのような生体内における応用の大きな補助となることができる。
実施例15:3次元(3D)イメージング
SOFIの手法は、本質的にPSFを3方向全てにおいて縮ませる。そのため、3次元超解像を実現することができる。実際、2次元のSOFI画像でさえ、焦点に近いエミッタからの信号を向上させるので、z方向において解像度が増加している。3次元に超解像されたスタックは、いくつかの異なる深さ(セクション)のそれぞれにおける画像スタックを取得し、各セクションについてSOFI画像を計算するだけで得られるので、3次元に超解像されたバックグランドが低減されたSOFI画像スタックとなる。
z方向に沿ってインターリーブするピクセルは、異なるセクションからの相互相関信号又は、SOFIアルゴリズムを実施する前に画像スタックを中間セクションに挿入することで実施例7のように計算することができる。しかしながら、これは、イメージングの時間スケールに対する要件を導入する。中間ピクセルを得るためには、各深さのフレームを同時又は異なる深さのフレーム同士の相関が保てるよう十分素早く測定しなければならない。
異なる深さのピクセル同士の相互相関を有する3次元のSOFI画像を得るためには、2つの深さにおける信号を同時又は相前後し、かつ、(相関が保てるように)ゆらぎの時間スケールに対して十分素早く測定する必要がある。
発明の実施化
デルティンガー(Dertinger)等、「高速で、バックグランドがない、3次元高解像光ゆらぎイメージング(SOFI)(Fast, background-free, 3D super-resolution optical fluctuation imaging (SOFI))」、2009年、全米科学アカデミー予稿集、第106巻、22287〜22292頁は、SOFI実施の詳細な説明及び発明の実施化を提供する。以下に簡単な要約を提供する。3T3繊維芽細胞の微小管を量子ドット(QD)で免疫染色して、CCDカメラを備える広視野顕微鏡において結像させ、SOFIアルゴリズムによってデータスタックを分析した。超解像し、バックグランド低減したSOFI画像の結果として得られた断面図(上述した参考文献の図F〜H)を図10に示す。以下に一覧で示したものは、SOFI画像を得るための詳細である。
細胞標識
NIH−3T3(ATCC、マナッサス、バージニア州、米国)細胞をダルベッコ変法イーグル培地(ACCT、カタログ番号30、2002年)において〜80%の合流レベル及び、10%のウシ胎仔血清(10082−147、インビトロジェン社、カールスバッド)及び、100単位のペニシリンストレプトマイシン(Pen−Strep、15140122、インビトロジェン社、カールスバッド)まで成長させた。固化させるために以下の手順を適用した。細胞は、室温において15分間CBバッファ(10mMMES、pH6.2、140mM、NaCl、2.5mM EGTA、5mM MgCl2)、11%のスクロース、3.7%のパラホルムアルデヒド、0.5%のグルタルアルデヒド、0.25%のトリトンを定着剤として用いて培養した。CBにおいて0.5mg/mlの水酸化ホウ素ナトリウムにおいて8分間のクエンチング行った。細胞を一度PBSで洗浄し、室温で1時間2%のBSA+PBSにおいてブロックした。微小管を2%のBSA+PBSにおいてDM1Aの抗αチューブリン単クローン抗体(シグマ社)の1:500の希釈を用いて着色した。それから細胞を量子ドット(QD)QD625の標識ヤギF(ab)2の1:400の希釈及び、6%のBSA+PBSにおける抗マウスIgG抗体(H+L)(インビトロジェン社、カールスバッド)を用いて、PBSで3回洗浄して室温で1時間培養した。細胞をPBSで3回洗浄した。全てのステップは、湿度室において行われた。標本は、30%、70%、90%、100%のエタノールにおいて5秒間連続してカバースリップを浮かせることで乾燥させた。その後、1mg/mlのPVAで優しくスピンコート(〜500rpm)した。
顕微鏡設定
動画を反転広視野顕微鏡(オリンパス、IX71)で撮影した。470nmLEDアレイ装置を光源(ルーメンコア社、アウラライトエンジン(Aura Light Engine)、ビバートン、オレゴン州、米国)として用いる。サンプル励起及び蛍光収集を、高開口数の物体(オリンパス、UPlanApro 60x、1.45、オイル、センターバレー、ペンシルバニア州、米国)を用いて行った。励起光は、620/40バンドパス吸収フィルタ(D620/40、クロマテクノロジー社、ロッキンガム、バーモント州、米国)を用いて蛍光からフィルタされる。蛍光は、CCDカメラ(Andor、iXonEM+885、ベルファスト、北アイルランド)に集光された。35nm/ピクセルを得られるように倍率を調整した。
データ取得
動画を、3000フレーム、100ms/フレームで取得した。
データ分析
上記段落0016〜0031において説明した特注したマットラブ(Matlab)のソフトウェアを用いるSOFIアルゴリズムを用いて動画を分析した。
図10。SOFIの解像度向上を比較されたい。デルティンガー等の図5E〜Hにおける点線から抽出した強度プロファイル。実線は、元々の広視野画像の断面を示す。破線は、2次SOFI画像における同じ断面を示す。この比較により、解像度における増加及びバックグランドにおける低減が明らかとなる。

Claims (9)

  1. 独立して点滅する物体の視野を分析する方法であって、
    (i)1つ以上の光学的特性において確率的及び互いに独立的にゆらぐ光学的に信号を伝達する物体の集合からの物体からなるサンプル又は観察画像を選択するステップと、
    (ii)時間関数として前記物体の繰り返される光学画像のシーケンスを取得してピクセルのx,y,t画像スタックを生成するステップと、
    (iii)前記画像スタックからピクセル毎に時間軌道を抽出するステップと、
    (iv)各ピクセルの時間軌道の自己相関又は自己キュムラントを少なくとも2次まで計算するステップと、
    (v)自己相関関数又は自己キュムラント関数の選択した時間差又は、時間差の範囲に渡る自己相関関数又は自己キュムラント関数の有限積分の値を用いて、強度値が振幅であるピクセルを含む前記計算された関数から、超解像されバックグランド低減された画像を生成するステップと、を含む方法。
  2. 前記独立して点滅する物体は、使用したイメージングシステムの回折限界で解像した距離よりも短い距離によって分離させることができる上記請求項1に記載の方法。
  3. 前記サンプル又は前記観察画像を含む前記サンプル物体は、発光材料、吸収材料又は、拡散材料及びそのような材料で標識付けられた物体からなる集合から選択される上記請求項1に記載の方法。
  4. 前記光学画像のシーケンスは、走査ビーム又は走査サンプルから平行又は連続する広視野、或いは、ピクセル毎のシーケンスにおいて生成される上記請求項1に記載の方法。
  5. 前記生成された関数は、相互相関関数又は相互キュムラント関数のどちらかを含む上記請求項1に記載の方法。
  6. 前記相関関数又はキュムラント関数は、2次よりも高次の関数である上記請求項5に記載の方法。
  7. 前記取得した光学画像のシーケンスは、複数の画像スタックの組を含む上記請求項6に記載の方法。
  8. 解像度が回折限界よりも低い物体の視野を、前記視野における光学エミッタが、使用したイメージングシステムの回折限界を解像した距離よりも短い距離の間隙を介して配置され、時間と共に独立してゆらぐことができるシステムにおいてイメージングする方法であって、
    (i)時間関数として任意の点広がり関数の光学システムを有する視野を光学的にイメージングして、強度がサブ回折の大きさの独立したエミッタから放出される信号の重ね合わせである様々なピクセルシーケンスをそれぞれが含むx,y,tのスタックを生成するステップと、
    (ii)ピクセル毎の前記画像スタックから時間軌道を抽出するステップと、
    (iii)少なくとも2次までの各ピクセルの前記時間軌道の相関関数又はキュムラント関数を計算するステップと、
    (iv)ピクセルを含む新しい画像を生成するステップと、を含み、
    ピクセルの強度値は、選択した時間差又は時間差の範囲に渡る前記関数の有限関数に従って相関関数又はキュムラント関数に関連付けられて、超解像されバックグランド低減された光学画像を導き出す方法。
  9. 前記エミッタのサイズは、前記点広がり関数よりも実質的に小さく、前記方法は、ピクセルが点広がり関数画像サイズの断片となるように前記視野を拡大することを含み、ゼロ平均ゆらぎ信号は、各ピクセルの前記時間軌道から導かれ減算され、2次相関関数又はキュムラント関数をピクセル毎に計算して、2次SOFI画像におけるSOFIピクセルの前記強度を定義する行列を構成する上記請求項8に記載の方法。
JP2012514089A 2009-06-02 2010-06-02 超解像光ゆらぎイメージング(sofi) Expired - Fee Related JP5588507B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US18351909P 2009-06-02 2009-06-02
US61/183,519 2009-06-02
PCT/US2010/037099 WO2010141608A1 (en) 2009-06-02 2010-06-02 Superresolution optical fluctuation imaging (sofi)

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014149779A Division JP5856252B2 (ja) 2009-06-02 2014-07-23 超解像光ゆらぎイメージング(sofi)

Publications (2)

Publication Number Publication Date
JP2012529119A JP2012529119A (ja) 2012-11-15
JP5588507B2 true JP5588507B2 (ja) 2014-09-10

Family

ID=43220309

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2012514089A Expired - Fee Related JP5588507B2 (ja) 2009-06-02 2010-06-02 超解像光ゆらぎイメージング(sofi)
JP2014149779A Expired - Fee Related JP5856252B2 (ja) 2009-06-02 2014-07-23 超解像光ゆらぎイメージング(sofi)

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2014149779A Expired - Fee Related JP5856252B2 (ja) 2009-06-02 2014-07-23 超解像光ゆらぎイメージング(sofi)

Country Status (4)

Country Link
US (2) US8625863B2 (ja)
EP (1) EP2438555B1 (ja)
JP (2) JP5588507B2 (ja)
WO (1) WO2010141608A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014207018A (ja) * 2009-06-02 2014-10-30 ソーファスト ゲーエムベーハー 超解像光ゆらぎイメージング(sofi)

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2309302A1 (en) * 2009-10-09 2011-04-13 Deutsches Krebsforschungszentrum Localization light emitting molecules of unknown orientation
DE102011001091C5 (de) * 2010-10-19 2022-07-14 Leica Microsystems Cms Gmbh Verfahren und Einrichtung zur mikroskopischen Bildaufnahme einer Probenstruktur
DE102011077269A1 (de) * 2011-06-09 2012-12-13 Carl Zeiss Microimaging Gmbh Hochauflösende Lumineszenzmikroskopie
EP2535755A1 (en) * 2011-06-14 2012-12-19 Ecole Polytechnique Fédérale de Lausanne (EPFL) Cumulant microscopy
DE102011084315A1 (de) * 2011-10-12 2013-04-18 Carl Zeiss Microscopy Gmbh Hochauflösende Lumineszenzmikroskopie
CN104471462B (zh) * 2012-02-23 2017-09-19 美国卫生与公共服务秘书部 多焦结构化照明显微系统和方法
DE102012205032A1 (de) * 2012-03-28 2013-10-02 Carl Zeiss Microscopy Gmbh Hochauflösende Fluoreszenzmikroskopie
ITPI20120034A1 (it) * 2012-03-31 2013-10-01 Cnr Consiglio Naz Delle Ricer Che Metodo e dispositivo perfezionati per microscopia video-confocale
US9435993B2 (en) 2013-03-24 2016-09-06 Bruker Nano, Inc. Three dimensional microscopy imaging
US10701287B1 (en) * 2013-05-23 2020-06-30 Rockwell Collins, Inc. Passive clear air turbulence detection system and method
DE102013216124A1 (de) 2013-08-14 2015-02-19 Carl Zeiss Microscopy Gmbh Hochauflösende 3D-Fluoreszenzmikroskopie
NL2012169C2 (en) * 2014-01-30 2015-08-06 Univ Delft Tech Determining the average number of localizations per emitter and the average number of emitters associated with one site in localization microscopy.
JP6355961B2 (ja) * 2014-04-30 2018-07-11 オリンパス株式会社 標本観察装置
JP6300658B2 (ja) * 2014-06-19 2018-03-28 オリンパス株式会社 標本観察装置
KR101641777B1 (ko) * 2014-09-26 2016-07-21 한국과학기술원 이미지 생성 장치 및 이미지 생성 방법
CN104515760B (zh) * 2014-12-17 2017-10-31 深圳市纳观生物有限公司 双色荧光定位超分辨率生物显微方法及系统
DE102015107367A1 (de) 2015-05-11 2016-11-17 Carl Zeiss Ag Auswertung von Signalen der Fluoreszenzrastermikroskopie unter Verwendung eines konfokalen Laserscanning-Mikroskops
DE102015112628A1 (de) * 2015-07-31 2017-02-02 Carl Zeiss Microscopy Gmbh Verfahren zur Erzeugung eines digitalen Fluoreszenzbildes
WO2017085618A1 (en) * 2015-11-16 2017-05-26 Ecole Polytechnique Federale De Lausanne (Epfl) Superresolved synthetic aperture microscope
CN105825526B (zh) * 2016-03-22 2018-09-07 辽宁师范大学 基于视频数据3d自相关性的视频多尺度几何分析方法
DE102016110407A1 (de) * 2016-06-06 2017-12-07 Carl Zeiss Microscopy Gmbh Digitales Mikroskop mit einem Objektiv und mit einem Bildsensor
JPWO2018008136A1 (ja) * 2016-07-07 2019-04-18 オリンパス株式会社 画像処理装置および画像処理装置の作動方法
US10217190B2 (en) 2016-12-27 2019-02-26 Kla-Tencor Corporation System and method for reconstructing high-resolution point spread functions from low-resolution inspection images
US10908072B2 (en) 2016-12-15 2021-02-02 The Board Of Regents Of The University Of Texas System Total internal reflection and transmission illumination fluorescence microscopy imaging system with improved background suppression
US10983059B2 (en) * 2017-02-09 2021-04-20 Technion Research & Development Foundation Ltd. Sparsity-based super-resolution correlation microscopy
CN108470099B (zh) * 2018-03-15 2021-11-02 长沙天玖卫星科技有限公司 光学成像类小卫星成像能力分析与姿态控制指标分析方法
JP7298993B2 (ja) 2018-04-09 2023-06-27 浜松ホトニクス株式会社 試料観察装置及び試料観察方法
DE102018128590A1 (de) * 2018-11-14 2020-05-14 Carl Zeiss Microscopy Gmbh Fluktuationsbasierte Fluoreszenzmikroskopie
EP3690510A1 (en) 2019-02-04 2020-08-05 Max-Planck-Gesellschaft zur Förderung der Wissenschaften e.V. Method of and apparatus for imaging light emitting objects on an image sensor
CN110836892B (zh) * 2019-11-26 2021-06-11 清华大学 衍射超分辨显微成像方法及系统
CN113658056B (zh) * 2021-07-14 2024-04-26 复旦大学 一种基于图像梯度方差分析的序列图像超分辨修正方法

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR970003395B1 (ko) * 1993-12-01 1997-03-18 삼성전자 주식회사 팩시밀리의 기록지 이송과 자동 절단장치
WO1995021393A2 (de) * 1994-02-01 1995-08-10 Stefan Hell Vorrichtung und verfahren zum optischen messen eines probenpunktes einer probe mit hoher ortsauflösung
US5671085A (en) 1995-02-03 1997-09-23 The Regents Of The University Of California Method and apparatus for three-dimensional microscopy with enhanced depth resolution
AU2001246281A1 (en) * 2000-04-13 2001-10-30 Ecole Polytechnique Federale De Lausanne (Epfl) Assembly and method for a correlator structure
DE10154699B4 (de) * 2001-11-09 2004-04-08 MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. Verfahren und Vorrichtung zum räumlich eng begrenzten Anregen eines optischen Übergangs
US20040008269A1 (en) * 2001-11-30 2004-01-15 Assaf Zomet System and method for providing multi-sensor super-resolution
JP3984132B2 (ja) * 2002-09-17 2007-10-03 オリンパス株式会社 蛍光分光分析装置
JP4495083B2 (ja) * 2003-02-13 2010-06-30 浜松ホトニクス株式会社 蛍光相関分光解析装置
US7064824B2 (en) 2003-04-13 2006-06-20 Max-Planck-Gesellschaft Zur Forderung Der Wissenschaften E.V. High spatial resoulution imaging and modification of structures
US7430045B2 (en) 2003-04-13 2008-09-30 Max-Planck-Gesellschaft Zur Forderung Der Wissenschaften E.V. High spatial resolution imaging
US7847234B2 (en) * 2003-08-06 2010-12-07 The United States Of America As Represented By The Secretary Of The Army Method and system for observing a subject at a first location based upon quantum properties measured at a second location
US7602997B2 (en) * 2005-01-19 2009-10-13 The United States Of America As Represented By The Secretary Of The Army Method of super-resolving images
DE102005013969A1 (de) * 2005-03-26 2006-10-05 MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. Verfahren zur mikroskopischen Untersuchung einer räumlichen Feinstruktur
JP4709278B2 (ja) * 2005-05-23 2011-06-22 エフ. ヘスス ハラルド 光変換可能な光学標識を用いる光学顕微鏡法
DE102005027896B4 (de) 2005-06-16 2012-03-15 MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. Verfahren zum optischen Messen einer Probe
JP5094036B2 (ja) * 2006-04-17 2012-12-12 オリンパスメディカルシステムズ株式会社 内視鏡挿入方向検出装置
US8611639B2 (en) * 2007-07-30 2013-12-17 Kla-Tencor Technologies Corp Semiconductor device property extraction, generation, visualization, and monitoring methods
US9123114B2 (en) * 2007-12-06 2015-09-01 The United States Of America As Represented By The Secretary Of The Army System and processor implemented method for improved image quality and enhancement based on quantum properties
US9628811B2 (en) * 2007-12-17 2017-04-18 Qualcomm Incorporated Adaptive group of pictures (AGOP) structure determination
WO2009115108A1 (en) * 2008-03-19 2009-09-24 Ruprecht-Karls-Universität Heidelberg A method and an apparatus for localization of single dye molecules in the fluorescent microscopy
US8153446B2 (en) * 2008-05-23 2012-04-10 Kent State University Fluorogenic compounds converted to fluorophores by photochemical or chemical means and their use in biological systems
US8097864B2 (en) * 2009-01-26 2012-01-17 The General Hospital Corporation System, method and computer-accessible medium for providing wide-field superresolution microscopy
JP5588507B2 (ja) * 2009-06-02 2014-09-10 ソーファスト ゲーエムベーハー 超解像光ゆらぎイメージング(sofi)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014207018A (ja) * 2009-06-02 2014-10-30 ソーファスト ゲーエムベーハー 超解像光ゆらぎイメージング(sofi)

Also Published As

Publication number Publication date
EP2438555A1 (en) 2012-04-11
US20140099043A1 (en) 2014-04-10
US9111366B2 (en) 2015-08-18
JP5856252B2 (ja) 2016-02-09
WO2010141608A1 (en) 2010-12-09
JP2012529119A (ja) 2012-11-15
US20100303386A1 (en) 2010-12-02
US8625863B2 (en) 2014-01-07
EP2438555A4 (en) 2013-07-31
JP2014207018A (ja) 2014-10-30
EP2438555B1 (en) 2017-03-08

Similar Documents

Publication Publication Date Title
JP5856252B2 (ja) 超解像光ゆらぎイメージング(sofi)
Hedde et al. Stimulated emission depletion-based raster image correlation spectroscopy reveals biomolecular dynamics in live cells
US20140198198A1 (en) Cumulant microscopy
CN111656246B (zh) 用于定位显微的方法和系统、计算机可读存储介质
Enderlein Breaking the diffraction limit with dynamic saturation optical microscopy
Sheppard et al. Signal-to-noise ratio in confocal microscopes
Wiseman Image correlation spectroscopy: mapping correlations in space, time, and reciprocal space
Van den Eynde et al. Quantitative comparison of camera technologies for cost-effective super-resolution optical fluctuation imaging (SOFI)
Stuurman et al. Impact of new camera technologies on discoveries in cell biology
Ball et al. A cell biologist's guide to high resolution imaging
Zeng et al. Computational methods in super-resolution microscopy
Naredi‐Rainer et al. Confocal microscopy
CN107144551B (zh) 基于sCMOS的共聚焦超分辨成像系统和方法
Liu et al. Parallelized fluorescence lifetime imaging microscopy (FLIM) based on photon reassignment
Yu et al. Parallel detecting super-resolution microscopy using correlation based image restoration
Junod et al. Obtaining 3D super-resolution images by utilizing rotationally symmetric structures and 2D-to-3D transformation
Mayerich et al. Superresolution Image Processing
Silberberg et al. pawFLIM: reducing bias and uncertainty to enable lower photon count in FLIM experiments
CN111579486A (zh) 基于低功率受激发射损耗的超分辨成像方法及成像系统
Diouf et al. Multiphoton imaging using a quantitative CMOS camera
Dilipkumar et al. Taylor series expansion based multidimensional image reconstruction for confocal and 4pi microscopy
Mazidi et al. A robust statistical estimation (RoSE) algorithm jointly recovers the 3D location and intensity of single molecules accurately and precisely
Wang et al. Structural anisotropy quantification improves the final superresolution image of localization microscopy
Stein et al. Stochastic optical fluctuation imaging
Yi et al. Local Dynamic Range Compression for High Order Super-Resolution Optical Fluctuation Imaging (SOFI)

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130507

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140114

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140311

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140318

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140514

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140701

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140725

R150 Certificate of patent or registration of utility model

Ref document number: 5588507

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees