図1を参照すると、顕微鏡システム100は、サンプル又は試料11の全体としてのイメージングのために設計され、光学顕微鏡110内で動作する自動時空的適応システム160を含む。光学顕微鏡110は、ライトシートイメージングを使用して試料11をイメージングするマルチビューライトシート顕微鏡である。自動時空的適応システム160により、光学顕微鏡110は、ライトシートイメージングの進行中に変化する試料内で遭遇する動的光学条件に連続的かつ自動的に適応することにより試料11のライトシートイメージングの空間分解能を実質的に改善できるスマートライトシート顕微鏡に変わる。試料11のライトシートイメージングのプロセスは本明細書では試料11の主要ライトシートイメージング又は低速度撮影ライトシートイメージング実験と呼ぶことができ、適応システム160によって実行される適応態様は本明細書では時空的適応イメージングと呼ぶことができる。
試料11は、発達中の幼胚などの複雑な生体生物試料11である可能性がある。例えば、複雑な生物試料11は受精卵として始まる可能性があり、この場合、顕微鏡システム100は受精卵全体の機能動物への変態を捕捉する(capture)ことができ、数時間又は数日というスケールの期間をかけて形を成す時に受精卵から形成される幼胚内のそれぞれの細胞を追跡する能力を含む。顕微鏡システム100は、数時間から数日の経過につれて捕捉された多くの画像の寄せ集めを提供することができ、何がイメージングされているか次第で、観察者は単一集団の細胞として出現し始めた幼胚内の生物学的構造が数万個の高密度に詰め込まれた細胞を備えた細長い体に変身するのを見ることができる。顕微鏡システム100は同時マルチビューイメージングを提供するライトシート顕微鏡法技術を使用し、これはより遅い順次マルチビューイメージングによって引き起こされる可能性のある時空的アーチファクトを除去又は低減するものである。更に、照らされている試料11の一部を検出器が記録する間に試料11の薄片(例えば、Z軸に沿って取られた幅が1マイクロメートル(μm)程度のもの)が走査されたレーザライトシートによって一度に照らされるだけであるので、試料11に対する損傷が低減される。同時マルチビューイメージングを実行するために試料11の機械的回転は不要である。
顕微鏡システム100は光学顕微鏡110(マルチビューライトシート顕微鏡である)と制御システム180とを含む。光学顕微鏡110と制御システム180は、互いに情報を交換するように構成される。一般に、光学顕微鏡110は、照射軸に沿って存在する別個のそれぞれの照射方向から試料11を照らす複数のライトシート(例えばライトシート12、14)と、検出軸と平行な複数の検出方向又はビューに沿って結果として生じる蛍光を収集する複数の検出サブシステム(例えば検出サブシステム116、118)から構成される。以下に示す例では、それぞれの照明サブシステム112、114において2つのライトシート12、14が生成され、これらは照射軸と平行でライトシート方向又は照射方向と呼ばれる両方向から試料11を照らす。それぞれの検出サブシステム116、118はそれぞれの検出対物レンズの向きによって規定される2つの検出ビュー(又は検出方向)に沿って結果として生じる蛍光36、38を収集し、検出方向は検出軸と平行である。この特定の例では、ライトシート方向はそのライトシート12、14が試料11に入る時に移動する方向によって規定され、検出方向は試料11に対する検出サブシステム116又は118のそれぞれの検出対物レンズの向きによって規定される。従って、この例では、ライトシート方向は照射軸であるY軸と平行であり、検出方向は検出軸であって、Y軸に対して垂直なZ軸と平行である。X軸、Y軸、及びZ軸は光学顕微鏡110の絶対座標系を規定する。
図2により詳細に示されているように、試料11の薄片(例えば、Z軸に沿って取られた幅が1マイクロメートル(μm)程度のもの)はレーザライトシート12又は14によって一度に照らされる。例えば、ライトシート12は+Y軸に沿って誘導され、ライトシート14は−Y軸に沿って誘導される。それぞれのライトシート12、14は、それぞれのライトシート12、14の平面領域が試料11と一致するか又はそれを横断するように、X軸に沿った広がりと、Z軸に沿ったより小さい広がりも有する。Z軸に沿った広がりはX軸又はY軸のいずれかに沿ったライトシート12、14の広がりよりかなり小さく、このZ軸の広がりはライトシート12、14のウエストで最も薄くなる。
ライトシート12、14は、Y−X平面に沿って広がるイメージボリュームIVに沿って試料11内で互いに空間的にオーバーラップし、時間的にオーバーラップし、イメージボリュームIV内で試料11と光学的に相互作用する。時間的オーバーラップは、光学顕微鏡110の空間分解能限界に対応する分解能時間より小さいタイムシフト又は時間差の範囲内である。特に、これは、ライトシート12、14が、同時に又は時間差中に生物試料11内で追跡された細胞の任意の変位が顕微鏡110の分解能限界より著しく(例えば、以下に示す1桁分)小さくなるほど小さい時間差だけ時間的にずらして、試料11のイメージボリュームIV内で空間的にオーバーラップすることを意味し、この場合、分解能限界は光学顕微鏡110の空間分解能限界に対応する時間である。
いくつかの実施形態では、ライトシート12、14は、X軸を横切ってライトビームを走査するか又は偏向させることによって形成される。他の例として、ライトシート12、14は代わりに、Z軸に沿ってその曲率で向けられた円柱レンズを通ってレーザビームを誘導し、それによりZ軸に沿ってライトシート12、14を合焦させるが、X軸に沿って不変のままにすることにより形成される。
ライトシート12、14は、ライトシート12、14のウエストが図2に示されているように試料11内に存在するように、それぞれの照明サブシステム112、114内のコンポーネントによって調整される。ライトシート12、14のウエストは、Z軸の方向にライトシート12、14の最も薄い部分である。ライトシート12、14の平面領域はX軸及びY軸によって規定することができ、ライトシート12、14の平面領域は試料11を切るように進む。試料11及び(それぞれの検出サブシステム116、118内で)互いに直交するように向けられた検出対物レンズの焦点領域を照らすライトシート12、14(具体的には、ライトシート12、14の平面領域)は、検出サブシステム116、118が試料11から放出された蛍光36、38を効率的に収集するために、試料11内で互いにオーバーラップしなければならない。
この例では、顕微鏡システム100は、4つの補完的(かつ異なる)光学ビューの取得により完璧に近い適用範囲を提供する。例えば、図3を参照すると、第1のビュー(ビュー1)はライトシート12と試料11との相互作用により放出された蛍光36_2を検出する検出システム116から得られ、第2のビュー(ビュー2)はライトシート14と試料11との相互作用により放出された蛍光36_4を検出する検出システム116から得られ、第3のビュー(ビュー3)はライトシート12と試料11との相互作用により放出された蛍光38_2を検出する検出システム118から得られ、第4のビュー(ビュー4)はライトシート14と試料11との相互作用により放出された蛍光38_4を検出する検出システム118から得られる。
顕微鏡システム100はライトシート蛍光顕微鏡法を使用し、これは生物試料11のライブイメージングを可能にし、優れた空間及び時間分解能を提供し、生理学的条件下で試料11内の生物学的プロセスの長期観察を容易にする。生物試料11は生きており、従って、空間的に異種であるだけでなく、時間的に動的でもある複雑な光学的性質を有する。この複雑さは典型的に、ライトシート12、14によって規定される平面領域と、検出システム116、118の焦点領域によって規定されるイメージング面との間に著しい時空的に可変な不一致をもたらす。培養組織内又は多細胞生物の表面における個々の細胞など、小さく透明な試料11において回折限界に近い高い空間分解能を達成することは実現可能であるが、幼胚全体などのより大きく光学的により挑戦的な試料の高解像度画像を達成することは困難である可能性がある。このような難題は、ライトシート12、14の平面領域が検出システム116、118内の検出対物レンズの焦点領域とオーバーラップするというライトシート顕微鏡法における原理要件に直接的にリンクされる。第一次近似として、ライトシート12、14の平面領域はライトシート面(例えば、X−Y平面と平行)と見なすことができ、検出対物レンズの焦点領域は焦点面(図2に示されている焦点面26、28など)と見なすことができ、ライトシート面は検出対物レンズの焦点面と同一平面上になければならない。いかなる時及び場所でもこの空間関係に違反する場合、空間分解能及び画像品質は劣化する。
従って、ライトシート12、14を使用する顕微鏡法における最適画像品質は、照明ライトシート12、14の平面とそれぞれの検出サブシステム116、118内の検出対物レンズの焦点面26、28とのオーバーラップを必要とする。しかしながら、上述のように、生体試料11の時空的に変化する光学的性質により、ライトシート面と検出面26、28との間の不一致が発生する可能性がある。実際には、ライトシート12、14の平面と生体試料11内の検出焦点面26、28との間の時空的に変化する不一致に対して、多くの要因が貢献するが、このような貢献の4つの例について次に説明する。
第一に、多細胞生物である生体試料11は典型的に複雑な3次元(3D)形状を有する。試料11、周囲のサポートマトリックス(例えば、アガロース)、及び試料11を保持する顕微鏡チャンバ内の媒体(例えば、水)の平均屈折率は通常、実質的に異なるので、光の屈折は試料11の表面で発生する可能性があり、ライトシート12、14の平面と検出面26、28との相対位置及び3D配向の不一致をもたらす可能性がある。これらの不一致は、ボリュメトリックイメージングの過程にわたりライトシート12、14が試料11の異なる領域に移動するにつれて変化する。
第二に、図4を参照すると、試料11自体は、細胞密度、細胞サイズ、及び生化学的組成の局所的な差の結果として、空間的に変化する光学的性質を有する。例えば、ショウジョウバエ又はゼブラフィッシュの幼胚内の脂質豊富な卵黄は、幼胚の組織領域とは別個の細胞密度、細胞サイズ、及び生化学的組成を有する。この空間的異種性は、発達中に連続的に変化し、試料11内部でライトシート12、14によって横断される光路の方向及び長さに更に影響を及ぼす。例えば、図4では、試料41は、ホルダ410によって支持されるサポートマトリックス405(例えば、アガロースゲルにすることができる)内に取り付けられる。この例では、この時点で試料41は4つの別個の領域C1、C2、C3、及びC4を有し、それぞれが別個の屈折率nC1、nC2、nC3、及びnC4を有する。その上、サポートマトリックス405は異なる屈折率nBを有し、サポートマトリックス405を取り囲む環境は別個の回折率nAを有する。ライトシート12又は14は、それが試料41に向かって更に試料41を通って移動する時に遭遇する領域次第で様々に変質されることになり、これはライトシート12、14によって横断される光路の方向及び長さの変化を引き起こす。
第三に、波長に依存する効果及び色収差はライトシート12、14の平面及び検出面26、28において追加の不一致をもたらし、これらの不一致はイメージング深さの関数として変動し、蛍光マーカのスペクトル照明及び検出ウィンドウに依存する。ライブイメージング中の顕微鏡コンポーネントにおける熱、機械、及び電子的ドリフトは空間分解能の劣化に更に貢献する可能性がある。
第四に、蛍光マーカの分布は、イメージング実験中に、特に特定の(潜在的に非定常の)細胞集団をターゲットとする遺伝的にコード化されたマーカの使用又は特定の遺伝子産物の追跡を伴う実験において、頻繁に時空的変化を経験する。被包中の初期ゼブラフィッシュ(学名:D.rerio)幼胚などの発達中の生物をイメージングする場合、光学条件がサンプル内で時間及び空間位置の関数として連続的に変化することを考慮する必要もある。ショウジョウバエにおける発達中の神経系を追跡する汎神経蛍光マーカなど、遺伝的にコード化された蛍光マーカのライブイメージングは、マーカ表現における時空的動力学によって更に複雑になる。従って、イメージング実験において最適分解能を回復することは、動的蛍光信号を追跡しながら、動的光学条件に対する顕微鏡の時空的適応が必要になる。
従って、ライトシート12、14の平面と検出面26、28の空間関係は、実験の開始時に定量的に説明できない実験中の動的変化を受けやすい。
もう一度、図1を参照し、更に図5A及び図5Bも参照すると、制御システム180によって生成された結果として生じる画像において高い空間分解能を達成し維持するために、空間分解能を低減するように作用しているこれらの要因にもかかわらず、顕微鏡システム100は、時空的適応イメージングを保証する自動時空的適応システム160(本明細書では適応システムと呼ばれる)を含む。適応システム160は、試料41のライトシートイメージングに関連する諸態様を連続的に分析し最適化する(又は改善する)ことができる。例えば、適応システム160は、試料41のボリューム全体にわたってライトシート12、14の平面及び検出面26、28の空間及び時間関係を改善することができる。適応システム160によって実行される適応はリアルタイムで実行され、これは、光学顕微鏡110を使用する主要イメージング取得の実行とともにその適応が実行されることを意味する。適応システム160は、試料41の光学的性質及びその環境に適応することにより、試料41(生物など)全体にわたって空間分解能を系統的に査定し最適化するものであり、このため、適応システム160は、光学顕微鏡110内に統合されると、自動マルチビューライトシート顕微鏡110を提供する。
適応システム160は、光学顕微鏡110のライトシート12、14によるイメージングに関する1つ以上の特性の測定152と、測定152から1つ以上の特性を受信し、この受信した測定152に基づいて1つ以上の分析を実行し、その分析に基づいて1つ以上の制御信号を出力する自動計算フレームワーク185と、フレームワーク185からの受信した制御信号に基づいて光学顕微鏡110の1つ以上の動作パラメータを制御又は調整するために光学顕微鏡110に接続された作動装置150とを含む。制御又は調整される動作パラメータは、光学顕微鏡110の動作に関する自由度(DOF)と見なすことができる。
測定152は画像の品質に関することができる。具体的には、試料11内の基準領域(基準面にすることができる)のセットにおいて画像品質をサンプリングすることができる。例えば、図4Aに示されているように、基準面PL0〜PL4を使用して試料41の画像品質をサンプリングする。画像品質は画像品質メトリックに基づいて推定することができる。画像品質メトリックは、その引数として画像を取り、実数を返す関数として定義される。光学顕微鏡110のダウンタイム(以下に図6に関連して述べるアイドル時間)中に、光学顕微鏡110は、試料11全体にわたってセット内の基準面のそれぞれで既知の動作パラメータを摂動させ(又は増分的に変化させ)、次にこれらの摂動がこれらの基準面でサンプリングされた画像の品質にどのように影響を及ぼすかを分析することにより探査される。サンプリングされる画像のいくつかは、サンプリングされた画像におけるより多くのぶれ(又はデフォーカス)を発生する摂動動作パラメータのセットを有する可能性があり、従って、これらの基準面におけるこのような画像の品質は低減される。サンプリングされるその他の画像は、サンプリングされた画像におけるぶれ(又はデフォーカス)を低減する摂動動作パラメータのセットを有する可能性があり、従って、このような画像の品質は改善される。適応システム160はこの探査中にシステムに供給されるパラメータのセットを把握しているので、どの動作パラメータがより高い品質の画像を生成するかを決定することは可能である。その上、これらの画像品質値は主要ライトシートイメージング中に得られた現行画像と比較することができ、適応システム160は、作動装置150に信号を送ることによりイメージングを改善するように光学顕微鏡110の1つ以上の動作パラメータを調整すべきかどうかを決定することができる。測定152の分析の結果として調整される1つ以上の動作パラメータは、測定152を判断するために探査しながら、光学顕微鏡110を摂動させるように変更される1つ以上の動作パラメータとは別個のものである場合もあれば、同じものである場合もある。
作動装置150のコンポーネントについて述べる前に、図5Aから図5Eに関連して動作パラメータについて次に述べる。図5Bから図5Eでは、ライトシート12、14は一般にlsとして表され(lsは12又は14にすることができる)、検出焦点面26、28は一般にfpとして表される(fpは26又は28にすることができる)。更に、図5Aから図5Eでは、試料41はサポートマトリックス405内に取り付けられる。図5Aから図5Eの図は一定の縮尺で描かれているわけではなく、詳細を示すために誇張されている可能性がある。
作動装置150は、ライトシートイメージングに関連する1つ以上の動作パラメータを調整するために光学顕微鏡110内に統合される。作動装置150は、計算フレームワーク185からの命令に基づいて光学顕微鏡110内の1つ以上のコンポーネントを作動させる。作動装置150は、X、Y、及びZの3つの軸のうちの1つ以上においてライトシート面及び/又は検出面を回転及び/又は並進させるために光学顕微鏡110のエレメントに結合されたアクチュエータを含む。
例えば、図5B及び図5Cに関連して述べると、照射軸(Y軸)に対して垂直な方向に沿った(例えば、Z軸に沿った)ライトシートlsの並進に関連するパラメータI(ls)は、それぞれ、I(12)及びI(14)と呼ぶことができる。図5B及び図5Dに関連して述べると、Z軸に沿って取られた検出焦点面fpの位置に関連するパラメータD(fp)は、それぞれ、D(26)及びD(28)と呼ぶことができる。
図5B及び図5Eに関連して述べると、ライトシートlsの伝搬方向の周りのライトシートの回転に関連するパラメータα(ls)は、それぞれ、α(12)及びα(14)と呼ぶことができる。ライトシートlsの伝搬方向がY軸上に存在する場合、このパラメータは、Y軸の周りを回転させた角度α(ls)と見なすことができる。
図5B及び図5Fを参照すると、ライトシートlsのウエストの位置を表すポイントによって規定される軸の周りのライトシートlsの回転に関連するパラメータβ(ls)は、それぞれ、β(12)及びβ(14)と呼ぶことができる。ウエスト位置のポイントはX軸と平行な方向に沿って存在し、従って、パラメータβ(ls)はX軸と平行な方向の周りでライトシートlsを回転させることに関連する。
他の例として、作動装置150は、Y軸と平行な照射軸に沿ってライトシートlsを並進させるための光学顕微鏡110のエレメントに結合されたアクチュエータを含む。図5A及び図5Gに示されているように、Y軸に沿って取られたライトシートlsのウエストW(ls)の位置に関連するパラメータY(ls)は、それぞれ、Y(12)及びY(14)と呼ぶことができる。
他の例として、作動装置150は、蛍光36、38がイメージングされるボリュームを変更し、それによりサンプル11のジオメトリの変化を補償するための光学顕微鏡110のエレメント(例えば、検出サブシステム116、118又は試料11のホルダなど)に結合されたアクチュエータを含む。蛍光36、38がイメージングされるボリュームは、Z軸に沿ってより大きい範囲の値全体にわたって試料11を移動することによりZ軸において変更することができる。高速の機能的イメージング実験では、試料11が静止状態のままになり、3次元(3D)イメージングのための対物レンズ及びライトシート12、14が調整され、検出サブシステム116、118に結合されたアクチュエータを調整することができる。非常に大きい試料11のより低速の発達イメージングの場合、代わりに試料11を移動することができ、適応システム160は、完全なサンプルボリュームを捕捉するために試料11が移動する範囲を更新することが必要になるであろう。この場合、ライトシート12、14及び焦点面26、28は、ライトシート12、14と焦点面26、28との不一致を補正するためにのみ、依然として調整される。これらの場合、計算フレームワーク185は、その幾何学的中心(又は蛍光質量中心)が静止状態のままになるように、X軸、Y軸、及びZ軸のそれぞれにおいて試料11を追跡するためのアルゴリズムを含む。
他の例として、作動装置150は、蛍光36、38の波面を補正するための検出サブシステム116、118のエレメントに結合されたアクチュエータを含む。例えば、アクチュエータは変形可能ミラーにすることができるか、又はアクチュエータは検出サブシステム116、118内のチューブレンズに結合することができる。
適応システム160は、光学顕微鏡110からの測定152を急速に分析し、この分析に基づいて試料11のボリューム全体にわたって空間分解能をリアルタイムで連続的に最適化又は改善する完全自動計算フレームワーク185を制御システム180内に含む。測定152は、光学顕微鏡110のライトシート12、14によるイメージングに関する1つ以上の特性の測定である。いくつかの実施形態では、測定152は検出サブシステム116、118のうちの1つ以上から得られる。例えば、測定152は、試料11に関連するジオメトリ(例えば、サイズ、形状、及び/又は位置)の測定にすることができる。他の例として、測定152は、顕微鏡システム100によって形成される試料11の画像に関する測定にすることができる。例えば、測定152は顕微鏡システム100によって形成される試料11の画像の品質にすることができる。測定152は蛍光36、38の波面から取ることができる。
図6も参照すると、適応システム160を使用する時空的適応イメージングのための模範的なプロセスワークフロー600が示されている。一般に、試料11に関する低速度撮影実験における主要画像取得605は、繰り返し離散方式で顕微鏡システム100によって実行される。例えば、連続する画像取得605の開始は期間T605だけ分離することができる。その上、1回の主要画像取得605の終了と次の主要画像取得605の開始又は始まりとの間にはアイドル時間610が存在する。このアイドル時間610中に適応システム160の1つ以上のサブアクション615が実行される。例えば、適応システム160に関する測定152は、このアイドル時間610中に、主要画像取得605が完了した後に実行される。測定152は可能な限り短い期間の間に取られ、従って、測定152の実行により引き起こされる可能性のある、試料11のイメージングにおける光退色、光毒性、及び時間分解能に対する影響を最小化するために、低速度撮影実験中に時間的に分散される。アイドル時間610中に実行される1つ以上のサブアクション615は、アイドル時間610中に受信した測定152に基づいて計算フレームワーク185によって実行される計算も含むことができる。また、アイドル時間610中に実行される1つ以上のサブアクション615は、計算フレームワーク185が作動装置150に信号を送信することを含み、次に作動装置150が次の主要画像取得605中にライトシートイメージングに関連する1つ以上の動作パラメータを調整することも可能である。しかしながら、作動装置150に信号を送信する前に複数のアイドル時間610からの複数の測定152に基づいて分析を実行する前に、計算フレームワーク185が複数のアイドル時間610にわたって数セットの測定152を取得することは有益である可能性がある。この場合、複数のアイドル時間610後に光学顕微鏡110に対する更新620(計算フレームワーク185が作動装置150に信号を送信すること及び作動装置150が計算フレームワーク185からの命令に基づいて光学顕微鏡110内の1つ以上のコンポーネントを作動させることを含む)を実行することができる。
図7Aも参照すると、測定152が光学顕微鏡110のライトシート12、14によるイメージングに関する1つ以上の特性の測定である場合、計算フレームワーク185は、適応システム160で使用するための試料701の画像がいつどこで取られるかを制御することができる。例えば、測定152は、XY平面と平行で、Z軸に沿った8つの別個の位置Z0、Z1、・・・Z7で試料71全体に分散される8つの別個で分離された基準面PL0、PL1、・・・PL7で取られた(蛍光36又は38の)取得した画像にすることができる。大きく部分的に不透明な試料をイメージングする場合、基準面のいくつか(例えば、面PL0、PL1、PL2、及びPL3)はこのような基準面により近接した検出サブシステム116により関連するものになり、その他の基準面(例えば、面PL4、PL5、PL6、及びPL7)はこのような基準面により近接した検出サブシステム118により関連するものになる。更に、典型的にそれぞれの位置ZS−1及びZSにおいて試料71の中心付近に位置する基準面のサブセット(例えば、同期面と呼ばれる面PLS−1及びPLS)は検出サブシステム116、118の両方に関連する可能性がある。これらの同期面に関連する関連自由度は、試料71のボリュームの残りの部分で使用されるものとは異なる制約を受け、これらの同期面で実行される測定152は試料71のボリューム全体を通して空間連続性を保証するために使用される。
図7Bに関連して述べると、試料71のイメージング中に基準面の位置を調整することは可能である。上述のように、測定152は、試料71に関連するジオメトリ(例えば、サイズ、形状、及び/又は位置)の測定にすることができる。この場合、計算フレームワーク185は、基準面で検出された画像を分析し、試料71のエッジ、外周、サイズ、及び/又は中心を決定することができる。その上、計算フレームワーク185がこの決定を行うと、試料71が時間の経過につれて変化した時に試料71のジオメトリの変化に対処するために試料71内の基準面の位置を調整することが必要になる可能性もある。例えば、図7Bに示されているように、試料71のジオメトリは(そのサイズ又はボリュームの増加、その質量中心の変化、又はその形状の変化により)変化しており、基準面PL0、PL1、・・・PL7の位置は、試料71のジオメトリの変化に対処するために新しい位置Z0’、Z1’、・・・Z7’に調整されている。
より一般的に記載すると、測定152は、設定数Kの基準面で取られた画像のものにすることができ、Kは1より大きい任意の整数である。従って、8つより少ないか又は8つより多い基準面を使用することができる。この基準面のセットは、位置のセット[Z0,Z1,・・・ZK−1]で取られたセット[PL0,PL1,・・・PLK−1]と呼ぶことができる。他の例として、図4Aに示されているように、5つの基準面PL0、PL1、PL2、PL3、及びPL4で画像が記録される。
計算フレームワーク185は、長期の高速イメージング実験の過程にわたり最適画像品質を維持するために、試料11における動的変化に連続的に適応する。すべての判断は、データ駆動型であり、実験のバックグラウンドで動作する時間及び光に関して効率的な手順を使用して収集された画像派生情報のリアルタイム評価に基づくものである。制御システム180内の計算フレームワーク185は、作動装置150に信号を送信し、それによりライトシートイメージングに関連する1つ以上の動作パラメータ(3次元におけるライトシート12、14の平面及び検出サブシステム116、118の平面の並進、回転、又は並進と回転の両方、あるいは試料11がイメージングされるボリュームの変更など)を調整することにより、イメージングの空間分解能を連続的に最適化又は改善する。制御システム180内の計算フレームワーク185は光学顕微鏡110を制御するためのソフトウェア又はプログラムを含み、この制御ソフトウェアは、試料11全体にわたって最大画像品質を回復し維持するために光学顕微鏡110の構成の変更が必要であるかどうか(及びどの変更が必要か)を急速に検出できる最適化手順と統合される。
もう一度、図5Aを参照すると、適応システム160の計算フレームワーク185は、いくつかのソフトウェアモジュール586、587、588、及び589と、データがソフトウェアモジュール586、587、588、589、作動装置150、測定152の間を移動する際に通るデータインターフェース590とを含む。
ソフトウェアモジュール587は、測定152から受信された画像の品質を推定し、異なるシステム状態で画像品質を比較し、推定を実行するために画像品質メトリックを使用する、画像品質ソフトウェアモジュールである。ソフトウェアモジュール588は、基準面[PL0,PL1,・・・PLK−1]における測定152の影響を低減又は最小化するために試料11においてライトシートジオメトリを再構築するために(単一デフォーカスイメージシーケンスから)パラメータに関する最適設定を計算する、ライトシートジオメトリ推定ソフトウェアモジュールである。ライトシートジオメトリ推定ソフトウェアモジュール588は、全体的な適応スキームを改善するために使用される。ライトシートジオメトリ推定ソフトウェアモジュール588は、測定152によって提供される画像に基づいて、試料11内部のライトシート12、14の位置又は試料11内部のライトシート12、14の向きを決定することができる。
ソフトウェアモジュール589は、モジュール587及び588からの出力を受信し、受信した出力に基づいて分析を実行し、光学顕微鏡110の動作パラメータに関する補正状態を決定して試料11のイメージングを改善する、最適化ソフトウェアモジュールである。最適化ソフトウェアモジュール589は制約グラフを使用することができ、これは顕微鏡110の光学機械式自由度並びにそれらの互いの空間、時間、及びスペクトル関係を表す数学的オブジェクトである。この制約は固定することができ、即ち、不変の幾何学的及び光学要件に関するものにすることができる。この制約は動的なものにすることができ、即ち、変化する受信測定152に関するものにすることができる。画像品質ソフトウェアモジュール587からの出力は、ライトシート及び検出焦点面パラメータI(12)、I(14)、D(26)、及びD(28)並びに照射軸(Y(12)及びY(14))に沿ったライトシート12、14の並進を制御するために使用される。ライトシートジオメトリ推定ソフトウェアモジュール588からの出力は、ライトシート12、14の角度α(12)、α(14)、β(12)、β(14)を制御するために使用される。
ソフトウェアモジュール586は、ソフトウェアモジュール589からの分析の出力に基づいて光学顕微鏡110の動作パラメータをどのように調整しなければならないかを決定する、作動ソフトウェアモジュールである。この決定が行われると、ソフトウェアモジュール586はリアルタイム制御信号を作動装置150に提供して、光学顕微鏡110に対する調整を実施する。
適応システム160は、すべての次元においてライトシート12、14及び検出焦点面の平面のコンピュータ制御の並進及び回転のために完全にデジタルで調整可能な光学機械式自由度を提供する。また、適応システム160は、イメージング中にサイズが不変ではない試料11も補償する。例えば、適応システム160は、試料11がイメージング中に発達している時に測定152を使用して試料11の空間的広がり及び形状を決定することができ、従って、適応システム160は、拡大している試料11に対処するために試料11をどのようにイメージングするかについて諸態様を変更することができる。適応システム160は、測定152を使用してリアルタイムで試料11全体にわたって空間分解能及び画像品質をロバストに査定し、系統的に追跡する。イメージングに関する特性の測定152は、時空的測定であり、試料11に関連する光子収支、試料11の生理学、及び光学顕微鏡110がイメージングする速度に対する測定の影響を最小化又は低減するように設計される方式で行われる。
適応システム160は、スマートライトシート顕微鏡、即ち、自動時空的適応イメージングのための複合型ハードウェアソフトウェアフレームワークを可能にする。適応システム160は、光学顕微鏡110の異なる生物学的モデルシステム、生物学的プロセス、マーカ戦略、時空的信号力学、及び光学構成に関してロバストである。適応システム160は、このような適応システム160が欠落している光学顕微鏡110と比較した場合、大きい多細胞生物全体にわたって空間分解能及び信号強度を2〜5倍改善する。
次に、光学顕微鏡110及び作動装置150から始めて、適応システム160の説明を示す。
光学顕微鏡及び作動装置
ライトシート12、14は試料11の両側でY軸に沿って試料11を照らす。薄いボリュームと、照射軸(一般にY軸と平行である)に対して(Z軸に沿って)直角の蛍光方向による高速走査は光学的に区分された画像を提供する。ライトシート12、14は試料11内の蛍光体をより高いエネルギーレベルに励起し、その結果、蛍光光子のその後の放出が行われ、これらの蛍光光子はひとまとめにして蛍光36、38と呼ばれ、それぞれの検出サブシステム116、118において検出される。試料11内で励起される蛍光体は、例えば、GFPなどの遺伝的にコード化された蛍光タンパク質又はAlexa−488などの染料など、試料11の細胞に添付されるラベルにすることができる。蛍光体はいくつかの実施形態では、試料11の細胞内の実際のタンパク質又は天然タンパク質にすることができ、このようなタンパク質はライトシート12、14によって露光した時に特定の波長の光を放出する。
ライトシート12、14及びそれらと試料11との相互作用並びに照明サブシステム112、114及び検出サブシステム116、118に関する詳細な考察は、2016年8月2日に発行された「Multi-view Light Sheet Microscopy」という名称の米国特許第9,404,869号に記載され、参照により全体として本明細書に組み込まれる。
図8を参照すると、光学顕微鏡110の一実施形態がブロック図形式で示されている。光学顕微鏡110のそれぞれの照明サブシステム112、114はそれぞれの光源822、824を含み、それぞれの光源822、824はライトビームを出力する。それぞれの光源822、824から出力されるライトビームは、光学コンポーネントのそれぞれのセット832、834によって変更される。これらの光学コンポーネントは、ライトビームの方向、サイズ、角度、ジオメトリなどの特性を変更してそれぞれのライトシート12、14を生成する。例えば、照明サブシステム112、114内で生成されるライトシート12、14は、以下に詳述するように、それぞれの光源822、824の出力を走査することにより生成することができる。光学コンポーネントのセット832、834を通過した後、それぞれのライトシート12、14は、試料11内の照射面にライトシート12、14を合焦させるそれぞれの照明対物レンズ842、844を通って誘導される。照明対物レンズ842、844は、いくつかの実施形態では、比較的長い作動距離の空気対物レンズにすることができる。
それぞれの検出サブシステム116、118は、試料11から放出されたそれぞれの蛍光36、38を収集する、それぞれの検出対物レンズ826、828を含む。それぞれの検出対物レンズ826、828によって収集された蛍光36、38は次に、それぞれのカメラ846、848に入る前に1つ以上の光学コンポーネントのそれぞれのセット836、838を通って誘導される。従って、ライトシートイメージングの1つ以上の特性の測定152は、カメラ846、848から出力される画像の特性の測定にすることができ、この測定152は処理及び分析のために計算フレームワーク185に誘導される。光学コンポーネントのそれぞれのセット836、838は、検出すべき光の波長のあたりに中心を合わせた波長帯域の外側の波長の光を拒絶するフィルタなどのコンポーネントを含むことができる。光学コンポーネントのそれぞれのセット836、838は、それぞれのカメラ846、848のセンサ上に収集した蛍光を合焦させる1つ以上のレンズ(チューブレンズなど)を含むことができる。
次に、顕微鏡110のこれらのコンポーネントに関連して作動装置150内のアクチュエータについて説明する。作動装置150は、照射軸(一般にY軸と平行である)に沿ってライトシート12、14のウエストを調整するためにそれぞれの照明対物レンズ842、844に物理的に結合されたアクチュエータ51(12)、51(14)を含み、上述のように、ウエストの位置はそれぞれパラメータY(12)及びY(14)によって与えられる。アクチュエータ51(12)、51(14)は、照射軸(Y軸)に沿ってそれぞれの照明対物レンズ842、844を並進させることによりそれぞれのライトシート12、14のウエストに対する調整を実施することができる。
作動装置150は、検出軸(Z軸である)に沿ってライトシート12、14の照射面(XY平面と平行である)を並進させるためにそれぞれのセット832、834内のそれぞれの光学コンポーネントに物理的に結合されたアクチュエータ52(12)、52(14)を含む。Z軸上のライトシート12、14の照射面の位置はパラメータI(12)、I(14)によって与えられる。
作動装置150は、照射軸(Y軸である)の周りでそれぞれのライトシート12、14を回転させるためにそれぞれのセット832、834内のそれぞれの光学コンポーネントに物理的に結合されたアクチュエータ53(12)、53(14)を含む。ライトシート12、14がY軸の周りで回転する角度はそれぞれのパラメータα(12)、α(14)によって与えられ、これらは横揺れと呼ぶことができる。
作動装置150は、照射軸に対して垂直なX軸の周りでそれぞれのライトシート12、14を回転させるためにそれぞれのセット832、834内のそれぞれの光学コンポーネントに物理的に結合されたアクチュエータ54(12)、54(14)を含む。ライトシート12、14がX軸の周りで回転する角度はそれぞれのパラメータβ(12)、β(14)によって与えられ、これらは偏揺れ又は旋回と呼ぶことができる。
作動装置150は、検出軸(Z軸である)に沿って焦点面26、28の位置を調整するためにそれぞれの検出対物レンズ826、828に物理的に結合されたアクチュエータ55(26)、55(28)を含み、上述のように、焦点面26、28の位置はそれぞれのパラメータD(26)及びD(28)によって与えられる。アクチュエータ55(26)、55(28)は、検出軸に沿ってそれぞれの検出対物レンズ826、828を並進させることにより蛍光36、38の焦点面26、28に対する調整に影響を及ぼすことができる。
作動装置150は、蛍光36、38がイメージングされるボリュームを変更し、それによりサンプル11のジオメトリの変化を補償するために検出サブシステム116、118のエレメントに結合されたアクチュエータ56(16)、56(18)を含む。例えば、アクチュエータ56(16)、56(18)は、計算フレームワーク185によって分析される基準面[PL0,PL1,・・・PLK]の別個のZ位置を調整するためにカメラ846、848、セット836、838の光学コンポーネント、及びカメラ846、848のうちの1つ以上に結合することができる。
他の例として、作動装置150は、蛍光36、38の波面を補正するために検出サブシステム116、118のエレメントに結合されたアクチュエータ57(16)、57(18)を含む。例えば、これらのアクチュエータは、変形可能ミラーにするか、又は光学コンポーネントのセット836、838内のチューブレンズに結合することができる。
作動装置150は図8に示されていないその他のアクチュエータを含むこともできる。
図9を参照すると、光学顕微鏡910の一実施形態が斜視図で示されており、この実施形態では、それぞれの光源822、824の出力を走査することによってライトシート12、14が作成され、図8に示されている作動装置150のアクチュエータのうちのいくつかが使用される。この実施形態では、光学顕微鏡910は試料11を収容するチャンバを含む。
例えば、光学顕微鏡910の作動装置150は、Y軸に沿ってそれぞれの対物レンズ842、844を並進させることにより(パラメータY(12)及びY(14)に基づいて)Y軸に沿ってライトシート12、14のウエストを調整するためにそれぞれの照明対物レンズ842、844に物理的に結合されたアクチュエータ51(12)、51(14)を含む。アクチュエータ51(12)、51(14)は圧電ポジショナにすることができる。それぞれの照明サブシステム112、114の光軸(Y軸)に沿ったライトシートウエストの位置(Y(12)及びY(14))の精密な制御のために、アクチュエータ51(12)、51(14)は、移動範囲が800μmであり、E-665圧電増幅器及びコントローラ(Physik Instrumente製)によって動作するP-628.1CD Hera圧電ポジショナであり、それぞれの対物レンズ842、844は圧電ポジショナに取り付けられる。
光学顕微鏡910の作動装置150は、Z軸に沿ってそれぞれの検出対物レンズ826、828を並進させることにより(パラメータD(26)及びD(28)に基づいて)Z軸に沿って焦点面26、28の位置を調整するためにそれぞれの検出対物レンズ826、828に物理的に結合されたアクチュエータ55(26)、55(28)を含む。アクチュエータ55(26)、55(28)は圧電ポジショナにすることができる。それぞれの検出サブシステム116、118の光軸に沿った検出焦点面の位置(D(26)及びD(28))の精密な制御のために、アクチュエータ55(26)及び55(28)は、移動範囲が250μmであり、E-665圧電増幅器及びコントローラ(Physik Instrumente製)によって動作するP-622.1CD Hera圧電ポジショナにすることができ、それぞれの対物レンズ826、828は圧電ポジショナに取り付けられる。
光学顕微鏡910の作動装置150は、ライトシートイメージングの2つの動作パラメータに対する複合調整に影響を及ぼすためにそれぞれのセット832、834内のそれぞれの光学コンポーネント(ミラーなど)に物理的に結合されたアクチュエータ52(12)、52(14)及びアクチュエータ53(12)、53(14)を含む。具体的には、アクチュエータ52(12)、52(14)及びアクチュエータ53(12)、53(14)の複合セットは、それぞれのセット832、834内の光学コンポーネント上で一緒に働いて、(パラメータI(12)、I(14)に基づいて)Z軸に沿ってライトシート12、14の照射面(XY平面と平行である)を並進させるとともに、(パラメータα(12)、α(14)に基づいて)Y軸の周りでそれぞれのライトシート12、14を回転させる。
いくつかの実施形態では、アクチュエータ52(12)、52(14)、53(12)、53(14)のうちの1つ以上は圧電ドライバである。その他の実施形態では、アクチュエータ52(12)、52(14)、53(12)、53(14)はCombridge Technology製のモデル6215HSM40Bなどのガルバノメータスキャナである。いくつかの実施形態では、アクチュエータ52(12)、52(14)、53(12)、53(14)及びそれらが制御するセットのミラーは、例えばPhysik Instrumente (PI)製のS-334ミニチュアピエゾチップ/チルトミラーを使用して互いに統合することができる。圧電制御のミラーは、ガルバノメータスキャナと同じ機能性を提供することができるが、隠されたシステム摂動の導入を単純化できる追加のアナログオフセット入力を提供する。追加のアナログオフセット入力に関する要件がない場合、ガルバノメータスキャナは、改善された温度安定性と、圧電制御が提供するものより高速のライン繰り返し率を提供することができる。
また、光学顕微鏡910の作動装置150は、(それぞれのパラメータβ(12)、β(14)に基づいて)X軸の周りでそれぞれのライトシート12、14を回転させるためにそれぞれのセット832、834内のそれぞれの光学コンポーネント(ミラーなど)に物理的に結合されたアクチュエータ54(12)、54(14)も含む。いくつかの実施形態では、アクチュエータ54(12)、54(14)のうちの1つ以上は圧電ドライバである。その他の実施形態では、アクチュエータ54(12)、54(14)はCombridge Technology製のモデル6215HSM40Bなどのガルバノメータスキャナである。
それぞれの照明システムの光軸に対して垂直なライトシートオフセット(I(12)及びI(14))並びに試料11における空間内の横揺れライトシート角度(α(12)及びα(14))の精密な制御のために、アクチュエータ52(12)、52(14)及び53(12)、53(14)は、二軸6215Hガルバノメータスキャナ(Cambridge Technology)として単一ユニット内に形成することができる。同様に、試料11における空間内の偏揺れライトシート角度(β(12)及びβ(14))の精密な制御のために、アクチュエータ54(12)、54(14)は、二軸6215Hガルバノメータスキャナ(Cambridge Technology)として形成することができる。それぞれの照明サブシステム112、114では、光源822、824からのライトビームと相互作用する第1の二軸ガルバノメータスキャナ(アクチュエータ54(12)、54(14)は、試料11の平面に対して共役し、試料11の空間内でライトシート12、14の角度の向きを制御するのに対し、ライトビームと相互作用する第2の二軸ガルバノメータスキャナ(アクチュエータ52(12)/53(12)、52(14)/53(14)の対)は、検出対物レンズ826、828の焦点面26、28に対して共役し、横方向(Z軸)ライトシートオフセットを制御する(更に走査したライトシート照明自体も容易にする)。
幼胚全体の発達又は組織及び臓器の形成など、試料11内の動的生物学的プロセスの長期イメージング中に画像品質及び空間分解能を最適化するために、適応システム160によって可能になった時空的適応イメージングの手法は、これら10個の動作パラメータ(自由度と見なすことができるもの)Y(12)、Y(14)、D(26)、D(28)、I(12)、I(14)、α(12)、α(14)、β(12)、及びβ(14)のデジタル制御を頼みにしており、これらはすべてのライトシート12、14と検出焦点面26、28との間の相対オフセット及び角度を特徴付けるものである。これらの自由度の制御を自動化することにより、適応システム160のフレームワーク185は、試料11の光学的性質における時空的変化、試料11における蛍光マーカの局所及び大域分布及び成熟、並びに光学顕微鏡110の様々なコンポーネントにおける機械及び熱ドリフトを補償することができる。
図10A及び図10Bを参照すると、図8及び図9の照明サブシステム114の一実施形態の概略図が示され、記載されている。照明サブシステム112は設計及び動作の点で照明サブシステム114と同様のものであり、単純にするために照明サブシステム114のコンポーネントのみについて述べる。
光源824は、アクチュエータ54(14)によって制御され調整される旋回光学配置1005に最初に誘導されるライトビーム1000を生成する。旋回光学配置1005は図9の照明サブシステム114内にもあるが、他のコンポーネントが配置1005をブロックしているために見えない。旋回光学配置1005は、それぞれのレンズ1010、1015まで1焦点距離離れた場所で2つのリレーレンズ1010、1015の間に挟まれている。旋回光学配置1005は、照明サブシステム114から出力されるライトシート14の偏揺れ角β(14)を調整又は制御するために組み合わせて使用される第1のチルトミラー1005Aと第2のチルトミラー1005Bとを含む。以下に述べるように、旋回光学配置1005は、X軸の周りのみの回転によって制約を受ける試料11においてライトシート14に対する調整を引き起こすように構成することができる。このようにして、照明サブシステム114のその他のコンポーネントは、ライトシート14の他の特性を制御するために使用することができる。
照明サブシステム114は、リレーレンズ1015を通過するライトビーム1000を受け取る光学スキャナ配置1020を含む。光源824によって生成された視準ライトビーム1000はリレーレンズ1010によってチルトミラー1005A上に合焦され、リレーレンズ1015は視準を復旧し、ライトビーム1000を光学スキャナ配置1020に誘導する。
光学スキャナ配置1020はアクチュエータ52(14)及び53(14)によって制御され調整される。光学スキャナ配置1020はライトビーム1000をX軸に沿って偏向させてライトシート1025を形成し、そのライトシート1025はfθレンズ1030、チューブレンズ1035、及び照明対物レンズ844に向かって誘導され、照明対物レンズ844の出力はライトシート14を形成する。光学スキャナ配置1020は、次に簡単に説明するいくつかの機能を実行するために組み合わせて使用される第1のチルトミラー1020Aと第2のチルトミラー1020Bとを含む。チルトミラー1020A、1020Bは、X軸全体にわたってライトビーム1000を走査してライトシート1025を形成するように調整される。チルトミラー1020A、1020Bは、照射軸(Y軸と平行である)に対して垂直な方向に沿ってライトシート14の平面をオフセット又は並進させるように調整され、例えば、ライトシート14の平面はZ軸に沿ってオフセットすることができる。上述のように、照射軸に対して垂直なライトシート14の平面のオフセットの量はパラメータI(14)によって与えられる。その上、チルトミラー1020A、1020Bは、Y軸の周りのライトシート14の回転である、ライトシート14の横揺れ角α(14)を制御又は調整するように調整される。
旋回光学配置1005はライトシート14の偏揺れ角β(14)の制御を担当し、光学スキャナ配置1020は横揺れ角α(14)及びライトシート並進I(14)を制御する。光学顕微鏡110のフットプリント(又はサイズ)を低減するために、これらの配置1005、1020のそれぞれは、二軸スキャナでセットアップされる(これは、それぞれのアクチュエータが2つの異なる軸の周りでライトビームを制限するか又は回転させることを意味する)。
光学スキャナ配置1020の主要機能は、試料11内でX軸に沿ってライトシート14の高さを規定する角度範囲を生成するように入射ライトビーム1000を偏向することである。更に、光学スキャナ配置1020はfθレンズ1030の焦点面に位置するように位置決めされ、その結果、巨視的ライトシート14を生成するので、光学スキャナ配置1020を出るライトビーム1000の角度はfθレンズ1030によってX軸又はその方向に沿った変位に変換される。チューブレンズ1035と照明対物レンズ844の対は、fθレンズ1030から出力された巨視的ライトシート14を試料11における微視的ライトシート14に集束させる。照明対物レンズ844は比較的長い作動距離の空気対物レンズにすることができる。
次に、ライトシート14の偏揺れ角β(14)の制御について説明する。偏揺れ角β(14)は、走査されたライトビーム14のウエストの位置を表すポイントによって規定されるX軸の周りの試料11におけるライトシート14の回転である。偏揺れ角β(14)は、アクチュエータ52(14)又は53(14)を横方向に物理的に変位させるか又は光学スキャナ配置1020と相互作用するライトビーム1000を横方向に変位させることにより、調整することができる。(光学スキャナ配置1020と相互作用するライトビーム1000を横方向に変位させるための)第2の手法は、より単純な設計であり、自動かつデジタル制御の方式で実行できるので、より実用的なものである。
チルトミラー1005A及び1005Bの角度又は傾斜を調整することにより、ライトビーム1000はリレーレンズ1015の平面においてXZ平面内のどこかで光軸から外れて位置決めすることができる。図10A及び図10Bの構成では、第1のチルトミラー1005A及び第2のチルトミラー1005Bは、噛み合っておらず、非旋回かつ軸上の位置にあり、これは、ライトシート14が旋回されておらず、偏揺れ角β(14)の値がゼロであることを意味する。図10C及び図10Dの構成では、第1のチルトミラー1005A及び第2のチルトミラー1005Bは、噛み合っており、旋回位置にあり、これは、ライトシート14が旋回されており、偏揺れ角β(14)の値が非ゼロであることを意味する。
上記のように、旋回光学配置1005は、それぞれのレンズまで1焦点距離離れた場所で2つのリレーレンズ1010及び1015の間に位置決めされる。このため、(旋回光学配置1005及びレンズ1010、1015からなる)複合システムはその光軸に対してライトビーム1000の平行移動をもたらし、その平行移動は照明サブシステム114の下流光学コンポーネントによって旋回運動又は調整、即ち、試料11の位置における偏揺れ角β(14)に変換される。図10C及び図10Dは、旋回運動β(14)を生成するためのライトビーム1000の変位の導入を示している。旋回されたライトビーム1025(図10C及び図10Dに示されている)は、光学スキャナ配置1020後に軸上のライトビーム1025(図10A及び図10Bに示されている)に対して横方向に(Z軸に沿って)変位する。
第1のチルトミラー1005Aが図10A及び図10Bの非旋回位置から図10C及び図10Dの旋回された位置まで回転すると、ミラー1005AはXに沿って角度θXだけライトビーム1000を変位する。第2のチルトミラー1005Bが図10Aの非旋回位置から図10Cの旋回された位置まで回転すると、ミラー1005BはZに沿って角度θZだけライトビーム1000を変位する。図10C及び図10Dに示されているチルトミラー1005A及び1005Bの両方を回転させることによる蓄積効果は、チルトミラー1005Aにおいて図10A及び図10Bの軸上/非旋回ライトビーム1000に対して角度γだけXZ平面内のライトビーム1000を角変位することである。
チルトミラー1005A、1005Bの回転は、旋回光学配置1005による調整の全体的な効果により、X軸以外の他の軸の周りでライトシート14の偏向を引き起こさずに試料11において偏揺れ角β(14)だけライトシート14を偏向させることであることを保証するようなやり方で抑制することができる。この全体的な効果を保証する制約は、光学スキャナ配置1020の設計に関するものであり、次に図11、図12A、及び図12Bに関連して述べる。図11に示されているように、光学スキャナ配置1020内のチルトミラー1020A、1020Bはそれぞれのシャフト1121A、1121B上に取り付けられ、これらのシャフトはそれぞれのアクチュエータ52(14)及び53(14)のコンポーネントである。それぞれのシャフト1121A、1121Bは主要軸1122A、1122Bを規定し、シャフト1121A、1121Bは、それぞれのミラー1020A、1020Bがそれぞれの主要軸1122A、1122Bの周りを回転できるモータ回転子に取り付けられている間、所定の場所に固定される。シャフト1121Bの主要軸1122Bは、シャフト1122Aの主要軸1122Aが存在するYZ平面に対してηの角度で固定される。この角度ηは、図12A及び図12Bに示されているように、リレーレンズ1015におけるX軸に対してライトビーム1000のシフト後の位置の向きを規定する。アクチュエータ対52(14)及び53(14)が61021506R40 XYマウントを使用するCambridge Technology製のモデル6215Hなどの二軸スキャナである場合、ηの値は約17°である(ただし、他の値も可能である)。
具体的には、ライトビーム1000が衝突するリレーレンズ1015における旋回位置PはXZ平面内の制約線CL上に存在しなければならない。制約線CLはX軸に対して角度ηである。これは、旋回光学配置1005によるライトビーム1000の変位によりリレーレンズ1015における旋回位置PをXZ平面内の制約線CL上に残存させることを意味する。その上、光学スキャナ配置1020を通過した後、ライトビーム1025はZ軸のみに沿って偏向したままになり、X軸に沿った偏向を呈しない。これはfθレンズ1030における偏向面1200の位置から明白である。このため、チューブレンズ1035及び照明対物レンズ844から出力されたライトシート14はX軸のみの周りでZ軸のみに沿って回転する。従って、旋回位置Pが制約線CLまでに抑制されると、旋回光学配置1005によって引き起こされる調整による全体的な影響は、ライトシート14をX軸のみの周りで回転させること(偏揺れ角β)になる。比較のため、リレーレンズ1015におけるライトビーム1000の非旋回位置は図12AでOとして示し、fθレンズ1030における非偏向位置の位置は図12Bで1205として示す。
図12Aに示されているように、リレーレンズ1015におけるシフト後の旋回位置P’が制約線CLから偏向されるようにライトビーム1000が旋回光学配置1005によって調整される場合、光学スキャナ配置1020から出力されるライトビーム1025は図12Bに示されているようにZ軸とX軸の両方に沿って偏向される。これはfθレンズ1030における偏向位置1210の位置から明白である。このため、チューブレンズ1035及び照明対物レンズ844から出力されたライトシート14はX軸の周りだけでなくZ軸の周りでも回転する。
一般に、旋回位置Pの向きは、ライトビーム1025が光学スキャナ配置1020から出てfθレンズ1030に衝突した時に90°−ηだけ反転する。従って、アクチュエータ54(14)はθXの角度だけライトビーム1000を変位させて、光学スキャナ配置1020後に横方向の変位を引き起こす。更に、軸角ηについて補正するために、ライトビーム1000はθZだけ変位される。累積的に、ライトビームはチルトミラー1005Aで測定された光軸に対する角度γだけ変位され、そこでライトビーム1000は合焦され、これによりライトシート14は試料11において平面1040内でX軸の周りで角度β(14)だけ旋回することになる(図10Cに示されている通り)。
更に、ライトビーム14の回転軸の位置(偏揺れ角β(14)及び横揺れ角α(14)の両方に関するもの)は、ライトシートオフセットI(14)の値に応じてライトシート1000を並進させることにより変更することができる。
以下の数学的関係は、旋回光学配置1005のチルトミラー1005A、1005Bによって生成される光角θ
X及びθ
Zを確立するのに役に立つ。光学軸からのライトビームの偏差はγによって示され(図10Dに示されている)、以下の式で示される。
ここで、f
Rはレンズ1015の焦点距離であり、OPは位置Pと位置Oの中心同士の距離である。その上、試料11の平面1040内の旋回又は偏揺れ角β(14)は以下の式で示される。
ここで、Mはf
TL/f
objで示されるチューブレンズ1035及び照明対物レンズ844の倍率であり、f
1030はレンズ1030の焦点距離である。光学軸γからのライトビーム1025の角偏差は、以下のように既知の数量によって書き直すことができる。
上記の式では、すべての角度が自由空間で規定されることに留意されたい。
実験的に、旋回角β(14)は試料11が浸漬される媒体である浸漬媒体内にあり、旋回角はβ
m=β/n
mによって示され、n
mは浸漬媒体の屈折率である。このため、所期の旋回β(14)が規定されると、γによって示される光学軸からのライトビーム1000の偏差は上記の関係を使用して求めることができ、旋回光学配置1005内の2つのチルトミラー1005A、1005Bによって発生される光角は、以下のように図10B及び図10Dに示されている幾何学的構成を使用して導出される以下の式を使用して確認することができる。
ここで、Δは旋回光学配置1005内のチルトミラー1005Aと1005Bとの間の分離である。
次に、光学顕微鏡110のハードウェアコンポーネントの例について説明する。1つの照明サブシステム114のみに対する言及は両方の照明サブシステム112に適用される。
光学顕微鏡110は、レーザシステムにすることができる光源822、824を含む2つの照明サブシステム112、114と、2つの検出サブシステム116、118と、試料11を収容する試料チャンバと、X軸、Y軸、又はZ軸におけるチャンバ内の試料11の位置を調整するための位置決めシステムと、顕微鏡110の制御及びデータ取得を提供する制御システム180のためのコンピュータワークステーション及びリアルタイム電子機器と、顕微鏡110の制御のためのLabVIEWベースのソフトウェアと、計算ワークフレーム185のためのJava及びLabVIEWベースのソフトウェアと、を含む。これらのコンポーネントの概要を示す。
いくつかの実施形態では、光学顕微鏡110又は910(試料11に関する光学部品及び位置決めハードウェアのすべてを含む)は、光学ブレッドボード(メートル単位又はインペリアル単位の複数ねじ穴からなるアレイ又は長方形グリッドである)950及び光学テーブル955上に組み立てられる(図9)。光学ブレッドボード950は、Newport Corporation製のカスタムRGグレードのブレッドボード、例えば、製品コード04SI69108にすることができる。光学テーブル955は、IQ-200-YG-8というダンパアップグレードを備え、Newport Corporation製の自動レベリングを備えた4つのS-2000シリーズ28’’アイソレータによって支持されたST-UT2-48-8光学テーブルにすることができる。
いくつかの実施形態では、光源822、824は単一レーザ源から形成され、その出力はそれぞれの照明サブシステム112、114で使用するための2つのビームを形成するために分割される。単一レーザ源は、赤外線(IR)範囲内の波長、例えば、650nm〜1100nmの値の波長を有するライトビームを出力する、Coherent,Inc.製のChameleon Ultra IIなどのパルスチタン:サファイア(Ti:Sapphire)レーザにすることができる。単一レーザ源からの光は、例えば、Melles Griot、Casix、又はLinosによるビームスプリッティング光学部品によって分割することができる。例えば、このビームスプリッタは、Melles Griot製のモデルPBSH-450-2000-100広帯域偏光キューブビームスプリッタ又はCasix製のWPA 1312-2-700-1000アクロマチック2分の1波長板にすることができる。いくつかの実施形態では、光源822、824からの光は、Canoptics製のモデル350-80-LA-02 KD*Pシリーズの電気光学変調器及びモデル302RMドライバなどのポッケルスセルにより誘導することができる。
その他の実施形態では、光源822、824は、スペクトルの可視部分及びIR部分内のレーザビームを結合するためにデュアルポートファイバモジュール、ファイバコリメータ、及びダイクロイックミラー内に結合された3つの固体レーザを備えたレーザアレイなどの複数のレーザから成る。デュアルポートファイバモジュール内に結合された固体レーザの一例は、OmicronによるSOLE-3など、ドイツRodgau-DudenhofenのOmicron-Laserage Laserprodukte GmbH製のSOLE(登録商標)レーザライトエンジンである。
その他の実施形態では、任意の所与の時点で、即ち同時に、異なる色を有する複数の光源及び/又は複数のライトシートを使用し、それぞれの検出サブシステム116、118にダイクロイックビームスプリッタ及び複数のカメラを装備し、異なるカラーチャンネルを同時に記録できるようにすることが可能である。
いくつかの実施形態では、それぞれの照明サブシステム112、114は、VMM-D3スリーチャンネルドライバを備え、AlMgF2コーティングを有するUniblitzレーザシャッタモデルVS14S2ZM1-100などのレーザシャッタを含む。それぞれの照明サブシステム112、114は、ノッチフィルタ及び中性フィルタを装備したフィルタホイールを含むことができる。このフィルタホイールは、Ludl製のモデルMAC6000 DCサーボコントローラによって制御されるモデル96A351フィルタホイールにすることができ、中性フィルタはMelles Griot製のNDQ中性フィルタにすることができ、ノッチフィルタはChroma製のレーザクリーンアップノッチフィルタモデル488/10、561/10、又は594/10にすることができる。
旋回光学配置1005のチルトミラー1005A、1005Bは銀メッキ6mmミラーにすることができ、旋回光学配置1005のアクチュエータ54(14)はその上に銀メッキミラーが固定される二軸ガルバノメータスキャナにすることができる。二軸ガルバノメータスキャナは、MicroMax 673XX二軸積分サーボドライバ増幅器を備えたCambridge Technology製のモデル6215HSM40Bガルバノメータスキャナにすることができる。銀メッキ6mmミラーはセットとしてスキャナに取り付けることができる。アクチュエータ54(14)用の電源はAstrodyne製のMK320S-24電源にすることができる。
同様に、光学スキャナ配置1020のチルトミラー1020A、1020Bは銀メッキ6mmミラーにすることができ、光学スキャナ配置1020のアクチュエータ52(14)/53(14)はその上に銀メッキミラーが固定される二軸ガルバノメータスキャナにすることができる。二軸ガルバノメータスキャナは、MicroMax 673XX二軸積分サーボドライバ増幅器を備えたCambridge Technology製のモデル6215HSM40Bガルバノメータスキャナにすることができる。銀メッキ6mmミラーはセットとしてスキャナに取り付けることができる。アクチュエータ54(14)用の電源はAstrodyne製のMK320S-24電源にすることができる。
リレーレンズ1010、1015はEdmund Optics製のモデル49-361-INKなどのリレーレンズ対にすることができる。fθレンズは、Special Optics製のモデル66-S80-30T-488-1100nmなど、約488nm〜約1100nmの波長を有するライトビーム1025をサポートするカスタムfθレンズにすることができる。チューブレンズ1035及び照明対物レンズ844は、一光子又は二光子励起のために最適化できる、Olympus又はNikon製などの整合セットにすることができる。例えば、チューブレンズモジュールはOlympus製のモデルU-TLU-1-2カメラチューブにすることができ、照明対物レンズ844用のアクチュエータ51(14)は、Physik Instrumente製のE-665圧電増幅器及びサーボコントローラを使用する、モデルP-622.1CN PIHera圧電リニアステージなどの圧電ポジショナにすることができる。照明対物レンズ844は、Olympus製のモデルLMPLN5XIR 5×/0.10、モデルLMPLN10XIR 10×/0.30、又はモデルXLFLUOR 4×/340/0.28にすることができる。
検出対物レンズ826、828は、以下の模範的な仕様を有する高開口数水浸検出対物レンズにすることができる。例えば、検出対物レンズは、16×又は20×の倍率を提供し、少なくとも0.8の開口数を有することができる。検出対物レンズは、Nikon製のモデルCFI60/75 LWD水浸シリーズ又はCarl Zeiss製のアポクロマート/プランアポクロマート水浸シリーズにすることができる。
光学コンポーネント836、838のセットは、それぞれの検出対物レンズ826、828に整合したチューブレンズと、カメラ846、848への入力において適切なフィルタを備えたフィルタホイールを含むことができる。検出対物レンズ826、828に整合したチューブレンズは、Nikon製のCFI第2レンズユニット又はCarl Zeiss製のAxioImager 130mm ISDチューブレンズにすることができる。フィルタホイールは、Ludl製のMAC6000 DCサーボコントローラを備えたモデル96A354フィルタホイールにすることができる。フィルタホイール上のフィルタは、488nm、561nm、及び/又は594nmのRazorEdge及びEdgeBasicロングパスフィルタあるいはSemrock製の525nm及び/又は550nmのBrightLine帯域フィルタのうちの1つ以上にすることができる。
検出対物レンズ826、828用のアクチュエータ55(26)、55(28)は、Physik Instrumente製のE-665圧電増幅器及びサーボコントローラを使用する、モデルP-622.1CN PIHera圧電リニアステージなどの圧電ポジショナにすることができる。カメラ846、848は、Hamamatsu製のJULABOウォータチラーを備えたOrca Flash 4.0 v2カメラにすることができる。
図4Bに関連して述べたように、試料41は、ホルダ410によって支持されるサポートマトリックス405内に取り付けられる。このホルダは、ライトシート12、14が試料41に入れるようにするため、及び蛍光36、38がそれぞれの検出サブシステム116、118に入れるようにするための4つの開口部を有する試料チャンバ内に位置決めされる。試料チャンバは試料41を受け入れるための開口部も含む。このチャンバは黒のデルリンから製造することができる。試料ホルダ410は、医療グレードのステンレス鋼から製造されたホルダカップにすることができる。その上、試料ホルダ410は、X軸、Y軸、又はZ軸のうちの任意の1つに沿って試料ホルダ410及び従って試料41を移動させるためにマルチステージ位置決めシステムに取り付けることができる。例えば、試料ホルダ410は、3つの並進ステージに取り付けることができ、それぞれの並進ステージはX軸、Y軸、又はZ軸のうちの1つに沿って試料ホルダ410を並進させるように配置される。並進ステージはPhysik Instrumente製のモデルM-111K046ステージにすることができる。試料ホルダ410は、Physik Instrumente製のモデルM-116.2DG回転ステージなどの回転ステージに取り付けることができる。マルチステージ位置決めシステムは、モーション入出力インターフェース及び増幅器と、制御システム180と通信するモーションコントローラとを含むことができる。例えば、増幅器はPhysik Instrumente製のモデルC-809.40 4チャンネルサーボ増幅器にすることができ、モーションコントローラはNational Instruments製のモデルPXI-7354四軸ステッパ/サーボモーションコントローラにすることができる。
次に、制御システム180及び計算フレームワーク185に関する詳細を示す。制御システム180は、1つ以上の出力装置(モニタ又はプリンタなど)、キーボード、マウス、タッチディスプレイ、又はマイクロホンなどの1つ以上のユーザ入力インターフェース、特定のタスクを実行するための専用ワークステーションを含む1つ以上の処理装置、メモリ(例えば、ランダムアクセスメモリ又は読み取り専用メモリ又は仮想記憶装置など)、並びにハードディスクドライブ、ソリッドステートドライブ、又は光ディスクなどの1つ以上の記憶装置などのハードウェアを含む。処理装置は、スタンドアロンプロセッサにすることができるか、又は本来的にワークステーションなどのサブコンピュータにすることができる。
図13を参照すると、制御システム180は、いくつかの機能が1つのホストコンピュータ(高性能ワークステーションなど)1380A上に割り振られるか又は配置され、その他の機能がリアルタイム制御システム1380B上に割り振られるか又は配置される、分散アーキテクチャを有する制御システム1380として設計することができる。例えば、ユーザインターフェース、短時間データ記憶領域、データ管理ソフトウェア、及び画像取得ファイルロギングは高性能ワークステーション上に配置することができる。その上、計器制御(光学顕微鏡110の制御)、波形生成、及び実験シーケンス制御ソフトウェアはリアルタイム制御システム上に配置することができる。高性能ワークステーション1380A及びリアルタイム制御システム1380Bは、例えば、TCP/IPサーバクライアントアーキテクチャ1382により通信することができる。また、制御システム1380は、計算フレームワーク185によって使用するための適応プロセスに関するアルゴリズムを記憶するためのライブラリ1390も含む。このライブラリ1390は、焦点及び画像品質メトリックに関するアルゴリズム、状態モデリング及び最適化のためのプログラミングインターフェース、試料11内部のライトシート12、14の3次元ジオメトリをマッピングするためのアルゴリズム、並びに適応プロセスを主要制御ソフトウェアと統合するためのインターフェースを含む。
いくつかの実施形態では、リアルタイム制御システム1380BはPXI-8110リアルタイムコントローラ(National Instruments製)である。このリアルタイムコントローラは、4つのPXI-6733高速アナログ入出力インターフェースボード(National Instruments製)、PXI-8432/2シリアルインターフェースボード(National Instruments製)、及びPXI-7354四軸ステッパ/サーボモーションコントローラ(National Instruments製)、並びにC-809.40 4チャンネルサーボ増幅器(Physik Instrumente製)及び4つのBNC-2110シールドコネクタブロック(National Instruments製)を装備することができる。リアルタイム計器制御、波形生成、実験シーケンスのためのソフトウェア層はリアルタイム制御システム1380BのPXI-8110リアルタイムコントローラ上に配備される。PXIシャーシは4つのPXI-6733 8チャンネルアナログ出力モジュールを保持し、これらのモジュールはガルバノメータスキャナ(即ち、アクチュエータ52(12、14)、53(12、14)、及び54(14))、光源822、824、カメラ846、848用のトリガ、圧電ポジショナ(アクチュエータ51(12、14)及び55(26、28)用)、ポッケルスセル、及びシャッタ状態を制御するために使用される。その他のPXIモジュールはフィルタホイール及びホルダ410の動きを制御するために使用される。
いくつかの実施形態では、高性能コンピュータワークステーション1380AはColfax International製の高性能コンピュータワークステーションである。このワークステーションは、2つのXeon E5-2687W CPU(Intel)、イメージングリングバッファに割り振られた192GBのメモリ、2つのsCMOSカメラからの同時ストリーミングのためにRS2WG160 SAS RAIDコントローラ(Intel)を使用して2つのRAID-0アレイに結合された14個のSASハードディスク(2.5 XE 900GB、Western Digital)、及びストレージサーバへのデータオフロードのためのX520-SR1 10Gファイバコントローラ(Intel)を装備することができる。ワークステーション1380Aは、画像データストリームの受信、処理、及びオンライン可視化のためのソフトウェアモジュールと、適応システム160を使用して主要イメージング実験及び適応制御を構成するためのグラフィカルユーザインターフェース(GUI)とを含む。
適応システム160は、試料11に対する低速度撮影イメージング実験における主要ライトシート画像取得の前の初期システム最適化、及び低速度撮影実験中の顕微鏡状態更新という2つの別個のモードで動作する(図6に示されているものなど)。適応システム160のユーザは、顕微鏡状態適応の複数の収束反復を実行することにより、試料11内のそれぞれの基準面PL及びライトシート12、14のそれぞれの波長についてそれぞれのパラメータに使用するための値[例えば、Y(12,14)、D(26,28)、I(12,14)、α(12,14)、及びβ(12,14)]を自動的に決定する初期システム最適化モードを実行する。次に、図6に関連して上述したように、低速度撮影イメージング実験中に、実験時点間のユーザ定義の間隔で顕微鏡状態更新(小さい補正であると想定されるもの)が行われる。これは、試料11の形態及び光学的性質の動的変化、試料11内部の蛍光マーカ分布、並びに試料11の環境の光学的性質に対する光学顕微鏡110の連続的時空的適応を保証するものである。
図6に関連して上述したように、低速度撮影実験中に画像が取得される速度に対する適応システム160の影響を最小化又は低減するために、計算フレームワーク185は、時点取得間のアイドル時間中に排他的に画像品質を監視し(全顕微鏡帯域幅の5%未満を使用する)、試料11、41のボリューム全体を通して分散されたユーザ定義の基準面PL(典型的に、20〜80μmステップでボリュームを区分する4〜8つの平面)においてより良好なパラメータ設定を迅速に探索する。これらの基準面PLで取られた測定の影響を最小化又は低減するために、単一のデフォーカスイメージシーケンスから同時に3つのパラメータクラスについて最適設定を計算できるアルゴリズムが開発される。このアルゴリズムは、試料11内部の3Dライトシートジオメトリを再構築し、それによりライトシート角度α及びβ並びにライトシートデフォーカスオフセットIを決定する。
10自由度(パラメータ)のすべてについて試料11のボリューム全体にわたって実行された測定をひとまとめにして使用して最適化問題を公式化し、それにより光学顕微鏡110の新しい最適状態が計算される。この最適化手順は、制約グラフ、光学顕微鏡110の光学機械式自由度を表す数学的オブジェクト、並びにそれらの空間、時間、及びスペクトルの関係を使用する。制約グラフでは、それぞれのノードはパラメータを表し、エッジは本質的に固定又は動的のいずれかである制約を規定する。固定制約は不変の幾何学的及び光学的要件をコード化し、例えば、2つのカメラフィールド全体にわたって画像空間の連続性を強制し、複数のカラーチャンネルにおいて画像データを位置合わせする。
動的制約は、画像品質測定、局所信号の有無、及びサンプル内の局所ライトシートジオメトリに関する。時間的に動的であるか又は空間的に希薄な蛍光マーカ分布の場合、置換制約は特定の時点及び試料11内の特定の空間位置における蛍光信号の欠落に自動的に取りかかる。
図14を参照すると、手順1400は適応イメージングのために制御システム180の制御下で光学顕微鏡110によって実行される。手順1400は、制御システム180の制御下でライトシートイメージング(1405)を使用してサンプル(試料11、41など)をイメージングすることを含む。例えば、図6に関連して述べると、このライトシートイメージングは、試料11に対する低速度撮影実験における主要画像取得605を指す。上述のように、ライトシートイメージング(1405)は、光を発生すること、それぞれの照射軸に沿ってサンプル内の1つ以上の位置で光から1つ以上のライトシート12、14を形成すること、及び1つ以上のライトシートとサンプルとの間の光学的相互作用によりサンプルから検出軸に沿って放出された蛍光36、38の画像を記録することを含む。
次に、ライトシートイメージングに関する1つ以上の特性が適応システム160の制御下で測定される(1410)。例えば、図6に関連して述べると、これらの測定(1410)は、最後のライトシートイメージング(1405)の終了と次のライトシートイメージングの開始との間のアイドル時間610中に行うことができる。
適応システム160は、光学顕微鏡110を調整する必要があるかどうかを判断するための完全な分析を実行するために、十分な測定値が取得されているかどうかを判断する(1425)。十分な測定値が取得されている場合、適応システム160の制御下で1つ以上の測定された特性が分析される(1430)。例えば、図6に関連して述べると、分析(1430)はアイドル時間610と一致する場合もあれば、主要画像取得605のうちの1つ以上と並行して実行される場合もある。それ以外の場合は、手順1400はライトシートイメージング(1405)を実行し続ける。
適応システム160は、分析(1430)に基づいて、光学顕微鏡110に対する調整が保証されるかどうかを判断する(1445)。調整が保証される場合(1445)、1つ以上の測定された特性の分析(1430)に基づいて、ライトシートイメージング(1405)に関連する1つ以上の動作パラメータが調整される(1450)。この調整は、主要画像取得605間のアイドル時間610中に光学顕微鏡110に対する更新620中に実行することができる(1450)。
1つ以上の測定された特性の分析(1430)は、サンプル11についていずれの仮定も行わずに実行することができる。例えば、分析(1430)は、サンプル11の物理的性質、サンプル11の光学的性質、並びにサンプル11内の蛍光マーカの分布及び数について仮定を行わずに実行することができる。
測定されるライトシートイメージングに関する1つ以上の特性としては、1つ以上の記録された画像の品質、サンプル11内部のライトシート12、14の位置、及び/又はサンプル11内部のライトシート12、14の向きのうちの1つ以上を含むことができる。
調整されるライトシートイメージングに関連する1つ以上の動作パラメータ(1450)としては、1つ以上のライトシート12、14、サンプル11、及び蛍光36、38の画像が記録される焦点面26、28のうちの1つ以上の特性であって、例えば、ライトシート12、14と検出軸に沿って蛍光36、38の画像が記録される検出焦点面26、28との間の角度、ライトシート12、14がサンプル11内に形成される1つ以上の位置、及びライトシート12、14と検出焦点面26、28との相対位置などを含むことができる。
1つ以上の動作パラメータに対する調整(1450)としては、サンプル11に対する1つ以上のライトシート12、14の回転、照射軸Yに対して垂直な方向に沿った1つ以上のライトシート12、14の並進、照射軸Yに対して平行な方向に沿った1つ以上のライトシート12、14の並進、照射軸Yに沿ったライトシート12、14のウエストの並進、及び/又は蛍光36、38の画像が検出軸Zに沿って記録される焦点面26、28の並進のうちの1つ以上を含むことができる。
図15A及び図15Bも参照すると、ライトシートイメージングに関する1つ以上の特性は手順1510により測定される。手順1510は、適応システム160、特に計算フレームワーク185の制御下で光学顕微鏡110によって実行される。
適応システム160により探査するためにサンプル11の少なくとも1つの基準領域が選択される(1511)。例えば、計算フレームワーク185は、(例えば、検出サブシステム116、118及び/又は照明サブシステム112、114の特性を調整することにより)サンプル11の選択された基準領域を探査するように光学顕微鏡110を構成するために作動装置150に信号を送信することができる。次に、ライトシートイメージングに関する少なくとも1つの動作パラメータが計数値のセットのうちの1つの計数値に変更される(1512)。例えば、計算フレームワーク185は、動作パラメータの計数値に基づいて作動装置150に信号を送信することができる。従って、1512が完了した後、適応システム160は、特定の基準領域におけるイメージングの品質及び少なくとも1つの動作パラメータの計数値を探査する準備ができている。例えば、変更されるライトシートイメージングに関する動作パラメータ(1512)は、ライトシートの平面及び/又は蛍光36、38の画像が記録される焦点面26、28にすることができる。
基準領域から放出される蛍光36、38の画像が検出サブシステム116、118によって記録される(1513)。この記録された画像は計算フレームワーク185に送信され、その計算フレームワークが記録された画像の品質を決定する(1514)。記録された画像の品質は、記録された画像に画像品質メトリックを適用して、記録された画像の品質を表す実数を生成することにより、決定することができる(1514)。計算フレームワーク185は、その動作パラメータを計数値のセット内の他の計数値に変更すべきかどうかを判断する(1515)。そうである場合、計算フレームワーク185は動作パラメータを計数値のセット内の他の計数値に変更し始める(1512)。そのセットの動作パラメータのすべての計数値が探査された(従って、これらの計数値のそれぞれにおいて記録された画像の画像品質が記録された(1514))場合、手順1510は、図15Bに示されているように、記録された画像の品質を分析するための手順1530を実行する。分析を実行する手順1530の完了後、計算フレームワーク185は、サンプル11の他の基準領域を探査する必要があるかどうかを判断し(1516)、そうである場合、サンプルの次の基準領域が探査される。
図15Bに関連して述べると、分析を実行する手順1530は、選択された基準領域において動作パラメータ値の範囲内のどの動作パラメータ値が最高品質を備えた記録された画像を生成するかを計算フレームワーク185(及び特にソフトウェアモジュール588及び/又はソフトウェアモジュール589)が観察すること(1531)を含む。動作パラメータ値の範囲は動作パラメータの計数値のセットに限定されない。特に、そのセット内の動作パラメータの計数値より高い分解能を備えた動作パラメータ値の位置を抽出するために計数値セットに基づくフィッティング戦略を使用することができる。次に、この基準領域に関する動作パラメータの観察に関連する数量が計算フレームワーク185によって記憶される(1532)。
いくつかの実施形態では、手順1510及び1530は、次に述べるようにソフトウェアモジュール587及び589によって実行される。これらの実施形態では、計算フレームワーク185は、手順1530中に得られた記憶された数量に基づいてライトシートイメージングに関連する1つ以上の動作パラメータを調整する方法を決定し、次に1つ以上の動作パラメータを調整し始める(1450)。従って、1450で調整されるこれらの動作パラメータは、探査中に変更される動作パラメータ(1512)に対応することができる。計算フレームワーク185は、1つ以上の動作パラメータをどのように調整できるかを制限する1つ以上の制約に基づいて、1つ以上の動作パラメータを調整する方法の決定を行うこともできる。
その上、サンプルの複数の基準領域を1511で選択することができる。例えば、基準面PL0、PL1、・・・PLKのそれぞれを1511で選択することができる。ソフトウェアモジュール587及び589がどのように手順1510及び1530を実行するかに関する考察については、図16Aから図16D及び図17Aから図17Eに関連して以下に示す。
その他の実施形態では、手順1510及び1530はソフトウェアモジュール588によって実行される。これらの実施形態では、サンプルの複数の基準領域が1511で選択される。それぞれの基準領域は、検出サブシステム116、118によって取得された画像の一部分又は小領域に対応することができる。例えば、検出焦点面からz方向のz基準位置のセットが選択され、そのセット内のそれぞれのz基準位置について、z方向に対して垂直なxy平面内で規定される複数の基準領域(その画像の小領域に対応するもの)が選択される。それぞれの基準領域は他の基準領域とは別個のものである。z方向はZ軸に対して垂直な方向であり、xy平面はX軸及びY軸によって規定されるXY平面と平行な平面である。
変更される動作パラメータは、ライトシートイメージングに関する第1の動作パラメータであると見なすことができる(ライトシート12、14の平面の位置又は焦点面26、28の位置など)。
これらの実施形態では、調整されるライトシートイメージングに関連する1つ以上の動作パラメータ(1450)は、第1の動作パラメータとは別個の第2の動作パラメータに対応する。例えば、調整できる第2の動作パラメータは、ライトシート12、14と検出サブシステム116、118の焦点面26、28との間の角度にすることができる。その上、手順1510は第2の動作パラメータを調整する方法に関する決定を含むことができ、この決定は複数の基準領域内のそれぞれの基準領域に関する動作パラメータの観察に関連する記憶された数量(1532)に基づくことができる。
これらの実施形態では、最高品質を備えた記録された画像を生成するものとして観察される動作パラメータ値の範囲内の動作パラメータ値(1531)は、最高品質を備えた記録された画像を生成する焦点面にすることができる。その上、記憶される観察に関連する数量は、焦点面がz方向に沿って位置決めされる値と、それに対応してxy平面内で規定される基準領域とのセットによって規定される3次元空間内の位置にすることができる。ライトシートと焦点面との間の角度を調整する方法を決定するために、計算フレームワーク185は、3次元空間内でそれぞれの記憶された位置を通過する可能性が最も高い平面を決定することができる。
ソフトウェアモジュール588がどのように手順1510及び1530を実行するかに関する考察については、図18Aから図18Eに関連して以下に示す。
画像品質メトリック
完全自動時空的適応イメージングは、動作パラメータ値の範囲内のどの動作パラメータが最高品質を備えた記録された画像を生成するかを観察する(1531)ために、異なるシステム状態における画像品質を推定し、定量的に比較するための高速かつロバストな手順又は方法を決定的に必要とする。光学顕微鏡110の解像度の変化に非常に敏感な画像品質メトリックは、画像品質を推定できるやり方の1つである。
光学顕微鏡110などの複雑な多軸顕微鏡のシステム状態の最適化及び時空的適応イメージングにおける基本的な難題は、画像品質の推定及び比較分析である(1531)。
画像品質メトリックはライトシート顕微鏡法における自動画像解析のために評価される。ライトシート顕微鏡法によるイメージングは、広視野顕微鏡法及び写真などのその他のイメージングモダリティとは非常に異なるものである。薄いボリュームの光学セクショニングは、空間的に限られた照明によって達成される。その後、このボリュームセクションの画像は、同様に薄い被写界深度を備えた対物レンズを使用して取得される。照らされたボリュームの種々の部分は、検出焦点面に対するそれぞれの位置次第で、多かれ少なかれ焦点が合っているように見える。更なる相違点は、ガウスライトシートの双曲的軸変化図、サンプルによってもたらされる収差、及び光散乱の結果としてのコントラストの損失から発生する。その上、ノイズの相対的影響は、イメージング速度の増加及び露光時間の減少につれて増加する。従って、既存の画像品質メトリックの評価は、適応システム160を使用するライトシート顕微鏡法における適応イメージングのための最良実行メトリックを識別するために実行することができる。
画像品質メトリックは、従来の及び変更された候補メトリックを含み、広域スペクトルのタイプの試料11(生物学的モデルシステム)、マーカ戦略、及びイメージング検定をカバーする画像データセットについて評価される。いくつかの画像品質メトリックは、画像内の隣接ピクセル間の相関関係を頼みにしている(Vollath尺度など)。いくつかの画像品質メトリックは、ピクセル強度の平均、最大、分散、尖度、又はヒストグラムなどの単純な統計的数量を頼みにしている。いくつかの画像品質メトリックは、光学顕微鏡画像がカメラ846、848における読み出し雑音によって劣化し、帯域限定光学システム(光学コンポーネント836、838のセット内で光学帯域フィルタを使用するもの)によって取得されるという事実を頼みにしており、これらのメトリックは、光学顕微鏡110の光学帯域フィルタを通過できるすべての情報のみを定量化するように明示的に設計される。この概念に基づいて評価された画像品質メトリックの例としては、離散フーリエ変換(DFT)、離散コサイン変換(DCT)、及び離散ウェーブレット変換(DWT)などのデータ変換を含む。
合成データ及び実数データのベンチマークを使用すると、正規化離散コサイン変換(DCTS)のシャノンエントロピは、ライトシート蛍光顕微鏡法(光学顕微鏡110によって実行されるもの)のための最適又は有用なメトリックの1つとして識別される。DCTSは、ピクセルあたり27nsの中央処理速度で動作しながら、最良の焦点局所化精度(3.0μmのライトシート半値全幅厚及び1.75μmの検出焦点深度の場合に320nmの平均誤差)、大域最適付近の高い信号対背景比、及び焦点曲線に沿った局所最大の低い密度を提供する。
評価されたメトリックの詳細説明については、2017年1月17日に出願された米国特許出願第62/447,154号及び2026年6月24日に出願された米国特許出願第62/354,384号に含まれており、どちらも参照により全体として本明細書に組み込まれる。
手順1510及び1530を実行するソフトウェアモジュール587/589
原則として、画像メトリックが選択されると、それぞれの動作パラメータ[I(12,14)、D(26,28)、Y(12,14)、α(12,14)、β(12,14)]は、顕微鏡110から出力される画像品質を最適化又は改善するように分離して調整し評価することができる。それにもかかわらず、複数の検出サブシステム116、118及び複数の照明サブシステム112、114を備えた複雑な光学顕微鏡110では、これらの動作パラメータはすべて相互依存している。以下の説明では、最適化の背後にある数学的理論について述べる。単純かつ明瞭にするためにのみ、この説明は、2つ以下の照明サブシステム112、114と2つ以下の検出サブシステム116、118を有する光学顕微鏡110に関するものであり、検出面及びライトシート12、14の平面の並進に対応するシステムパラメータのみを考慮する。次にこの理論を大域的最適化理論に拡張する。
光学顕微鏡110は、直交構成の2つの同軸検出アーム(検出サブシステム116、118)と2つの同軸照明アーム(照明サブシステム112、114)からなる。合焦に関連する状態変数又はパラメータは、D(26)及びD(28)として示される2つの検出面の位置と、I(12)及びI(14)として示される検出軸Zに沿った2つのライトシート12、14の位置である。これらの4つの状態変数は以下のようにシステムの状態ベクトルSを構成する。
2つの検出アームは、それぞれ2つのカメラ846及び848上に、試料11によって放出された蛍光36、38をイメージングする。それぞれのカメラ846及び848について、第1のライトシート12又は第2のライトシート14のいずれかを使用して試料11を照らすことによって形成できる2つの異なる画像が存在する。従って、照明及び検出アーム(I(12,14)、D(26,28))のそれぞれの組み合わせごとに、光学顕微鏡110は、I(12,14)及びD(26,28)の値次第で、多かれ少なかれ合焦させた画像を生成することができる。これらの変数は、顕微鏡の電子機器及びソフトウェアフレームワーク(上述のもの)によって直接制御可能であり、合焦状態に対応すると想定できない任意の未定義ゼロ位置を有する。
4アームのライトシート顕微鏡110の手動合焦は、例えば、パラメータ又は変数D(26)を固定することと、次にI(12)及びI(14)を独立して調整することからなる。最後に、変数D(28)は、前に決定された値I(12)及びI(14)に基づいて2つの先験的に異なる値に設定することができる。この2つの値を調和させるために、単純に平均を取ることができる(最終的に両方のライトシートによって同時にイメージングを実行する必要がある場合)。その他の順序も可能であり、例えば、まずI(12)を固定し、次にD(26)及びD(28)を決定し、最後にI(14)のための折衷案を見つける。この素朴な順次手法には、(i)定義できる唯一の制約が変数の固定であること、(ii)システム全体の補正が最小限になるという保証が全くないこと、(iii)このスキームが本質的に漸進的であり、このため、システムの状態を変更する前に必要な測定をすべて行うことが可能ではないことといういくつかの短所がある。以下の説明では、これらの短所について我々の焦点最適化理論でどのように対処するかを示す。
もう一度、図5Aから図5Gを参照すると、示されている適応イメージングに関する10個の模範的な状態変数は、D(26)、D(28)、I(12)、I(14)、Y(12)、Y(14)、α(12)、α(14)、β(12)、及びβ(14)である。適応システム160の目標は、試料11の高度に合焦させた画像を生成することである。光学顕微鏡110によって生成される画像の合焦は、それぞれの検出面26、28とそれぞれのライトシート面との間の距離に依存する。これらの距離は、以下に示されている焦点行列(focus matrix)Mを使用して計算することができる。
M内の項目の符号は軸の向きに依存する。実際には、異なるユニットがD(26)、D(28)、I(12)、及びI(14)に使用されることは可能である。そうである場合、単一ユニットが選択され、行列M内のいくつかの項目は+1又は−1とは異なる値を有する。その上、変数D(26)、D(28)、I(12),及びI(14)は、アクチュエータ(例えば、アクチュエータ55(26)、55(28)、52(12)、52(14)、53(12)、又は53(14))コマンドに直接変換されるので、先験的に未定義のゼロ位置を有する。その結果、行列Mによって計算された距離も未定義のオフセットを有することになるが、物理的なゼロ位置は必ずしも数値的なゼロに対応しない。この数学的形式は、以下に述べるように、これらの不十分な確定性を扱うことができる。実際に、以下に示す理論の主要目的は、従来のシステム較正がない場合に光学顕微鏡110の合焦状態について推論できることである。
行列Mは以下のように状態ベクトルSから焦点状態ベクトルFを計算するものである。
行列Mはランク3のランク欠乏であるので、その結果、異なるシステム状態Sが同じ焦点状態に対応することになる。直観的に、これは、すべての平面を同じ量だけ同じ物理的方向に並進させる時の合焦不変性に留意することによって理解することができる。形式的に、システム状態Sは以下のようにMのカーネルKer(M)内の任意のベクトルKによって変換することができる。
F=M(S+K)
本明細書に記載されているマルチビュー顕微鏡110の場合、カーネルは以下のように生成することができる。
実際には、状態変数は限られた範囲を有するので、kの範囲も限られる。
システムを合焦させることは、すべての検出面及び照射面が一致するような最適焦点ベクトルFを見つけることを意味する。ベクトルFのそれぞれの成分F
u,vは検出器D
uによって取得された画像J
u,vに関連し、それから焦点値f(J
u,v)を計算することができる。このため、それぞれの焦点状態Fについて、(画像を取得し、それぞれの画像の焦点値を計算することにより)以下のベクトルを計算することができる。
単純にするため、φはf(F)と書くことができる。最適の探索は、それぞれのφ
u,vの最大値に達するまでベクトルFのそれぞれの成分F
u,vを独立して変化させることによって達成される。それぞれのF
u,vは、対応する検出面D
u又はI
vの位置を変更することによって変化させることができる(焦点行列Mの最初の2列を参照)。しかしながら、実際には、取得した画像の比較可能性を改善するために、ライトシートを静止状態に維持することがより良いことである。従って、F
u,vは、D
uを変化させることによって変化する。補正の局所性及び連続性を想定しているので、I
vの代わりにD
uを変化させることによって決定される補正は小さい変位に有効である。分析及び最適化が先験的に未合焦の焦点状態Fから始まり、この方法によって新しいより良好な焦点状態F’を見つけることを考慮すると、以下のようになる。
ΔF=F−F’=M(S−S’)=MΔS
ここで、ΔFは最高焦点品質を達成する現行焦点状態に対する補正ベクトルであり、ΔSは同等のシステム状態の補正ベクトルである。焦点状態補正ΔFに基づいてシステム補正ΔSを決定するには、焦点行列Mの一般逆行列の決定が必要である。
模範的な一般逆行列はムーア・ペンローズ一般逆行列である。行列Mのムーア・ペンローズ一般逆行列は以下のようになる。
ムーア・ペンローズ一般逆行列は、所与のΔFについて、システムΔF=MΔSの最小L
2ノルム解ΔSを返す。
ΔS=M
+ΔF
次に、システムは、S’=S+ΔSを適用することにより、より良好合焦状態S’に移動することができる。この数学的形式は、補正が数学的に明確に定義されることを保証する。
最適化プロセスが時間の経過につれてドリフトしないことを保証するために、変数D(26)、D(28)、I(12)、又はI(14)のうちの1つを固定するよう要求することにより、プロセスをアンカリングすることができる。これは、ΔSの選択された成分がゼロになるようにΔSに近似的に選択されたベクトルΔK∈Ker(M)を加えることにより達成することができる。ΔKはKer(M)に属すので、この新しい補正は依然としてシステムΔF=MΔSに対する解である。これは、素朴な手動手法を使用して達成できるものと同様のものである。代替的に、光学顕微鏡110の固定質量中心を維持することが可能である。本明細書で考慮されるすべての自由度(パラメータ)は同じ軸に沿っており、カーネルKer(M)はランク1のものであるので、その結果、質量中心は以下の積によって得られた単一次元によってパラメータ化できることになる。
交互の符号は、D(26)、D(28)、I(12)、及びI(14)の異なる軸の向きから発生する。その場合、顕微鏡110の質量中心が不変のままになるようなΔK∈Ker(M)を加えることにより補正ΔSを調整することができる。この能力は、手動合焦について述べた時に前述したポイント(ii)に対処するものである。
1つの検出アーム及び/又は1つの照明アームのみが必要である場合、補正ΔSは、まず焦点補正ベクトルΔFの対応する成分をゼロに設定し、状態補正ΔSを計算することによって見つけることができる。
ΔSはΔFから決定することができ、ΔFは対応するφ’
u,vを最大化するF’
u,vを探索することによって見つけられる。実際には、φ’
u,vを最大化する最適F’
u,vは、以下のように初期値F
u,vあたりのF’
u,vのm個の値をサンプリングすることによって見つけることができる。
ここで、rは探索半径であり、k∈[0,...,m−1]である。実際には、(2k−m+1)/(m−1)がゼロになり、従ってシステムに対する補正なしの可能性を提供するように奇数個のサンプルmを選ぶことが有用である。その場合、最適F’
u,vは以下のようになる。
ここで、
であり、
はライトシートvを使用して検出サブシステムuで取得された画像である。この単純順序バッチ順次手法は、顕微鏡のハードウェア及び電子機器の好ましい動作モードのため、フィボナッチ探索、ゴールデンセクションサーチ、又はブレント法を実行するより高速である。カメラ846、848及び制御システム180の低レベル制御電子機器は、確定的な事前定義シーケンスの画像を取得するように指示された時に更に高速で実行し、機械的考慮事項は順次順序付けられたコマンドを要求する。少数のサンプル(m≦10)に関するロバストネスを改善するために、以下のように焦点値の正規化が実行される。
ここで、
であり、
である。F’u,vを見つけるために、標準的なガウシアンフィッティング又は我々のよりロバストなargmaxアルゴリズムが適用される。
次に、k個の
のポイントが与えられたargmaxの計算について説明する。最も単純な手法は、レーベンバーグ・マーカートアルゴリズムによりα、μ、及びσの選択肢を最適化することによってガウス曲線
をフィッティングすることである。上述のように、このガウシアンは、焦点曲線の形状のために良いモデルであると経験的に分かっている。多項式モデルは変動するというその固有の傾向に悩まされ、ローレンツ・コーシー又はフォークトなどのその他のガウス様分布は実際には十分に機能せず、付加的な複雑さ以上の何物にも貢献しない。Apache Commons MathライブラリにおけるMINPACKベースの実施形態(https://commons.apache.org/proper/commons-math)は、初期ステップ限界係数100、コスト関連許容差10
−10、パラメータ関連許容差10
−10、及び直交性許容差10
−10とともに使用することができる。その場合、最適値F’
u,vは以下の公式によって得られる。
この手法は多くの場合に十分機能するが、信号対雑音比が低いことに苦しむイメージングシナリオではロバストネスが欠如する可能性がある。
argmaxは、潜在的に、低速度撮影イメージング実験中に数千回計算しなければならない。汎神経マーカ表現の発現の場合など、画像の信号対雑音比が非常に低い場合、これは雑音の多い焦点測定
をもたらし、次にこれは顕微鏡110の全体的な安定性を最終的に劣化させる雑音の多いF’
u,v値をもたらす。この問題に対処するために、集合手法を使用するロバストなargmaxフィッターアルゴリズムを開発することができる。
データポイント
に曲線をフィッティングするため、及びargmaxを見つけるための直截的な手法は特定の条件に対して脆弱である。例えば、ガウス曲線フィッティングは対称形の単峰性曲線で十分機能するが、応答に偏りがあり、非対称形である(非ナル歪度(non-null skewness))場合には一般に適切ではない。この場合、3次又は4次の多項式の方が良い選択肢である可能性があるが、多項式は周知の通り、過剰フィッティングするという固有の傾向を有し、特に雑音がある場合に破滅的に変動する、悪い補間である。より良好な手法は例えばスプライン補間又はLoessフィルタリング手法であるが、この場合も失敗に終わるケースがあるであろう。解決策は多くの異なる手法を同時に活用することによりargmaxを推定することである。以下の説明ではy=f(x)というargmaxについて探索する。また、以下の11通りの推定も並行して計算する。
1.三点二次フィット(Three point quadratic fit):このアルゴリズムは、3つの点(xに関する最小値、平均値、及び最大値)のみを取り、単一の放物線にフィットする。
2.レーベンバーグ・マーカート二次フィット(Levenberg-Marquardt quadratic fit):このアルゴリズムは、すべての点を放物線にフィットさせ、放物線の極値位置を返す。
3.レーベンバーグ・マーカートガウシアンフィッティング(Levenberg-Marquardt Gaussian fit):このアルゴリズムは、すべての点をガウスにフィットさせ、ガウスの平均を返す。
4.レーベンバーグ・マーカート四次フィット(Levenberg-Marquardt quartic fit):このアルゴリズムは、すべての点を四次式にフィットさせ、そのargmaxを返す。
5.スプラインフィット(Spline fit):アンクランプスプライン(unclamped spline)はデータにフィットされ、高分解能サンプリングによって経験的にargmaxを決定する。
6.ランダムスプラインフィット(Random spline fit):データのランダムサブセットが選択され、スプラインがそれぞれにフィットされ、すべてのデータサブセットについて中間argmaxが計算される。目的はアウトライアに対するロバストネスを達成することである。
7.Loessフィット(Loess fit):データは局所回帰アルゴリズム(Loess)を使用してフィットされ、argmaxは高分解能リサンプリングによって経験的に計算される。
8.トップ5二次フィット(Top 5 quadratic fit):最高y値の5つのデータ点(x,y)が選択され、放物線がフィットされ、極値位置が返される。
9.質量中心argmax(Center-of-mass argmax):データ点の質量中心が計算され、分布として解釈される。
10.モード(Mode):データ点のモードが計算され、分布として解釈される(最高y値に関するx値)。
11.中央値(Median):データ点の中央値が計算され、分布として解釈される。
これらのアルゴリズムはすべて制御システム180内の異なるプロセッサスレッド上で同時に実行され、中間推定を計算することは、それらの結果を1つのロバスト推定に結合する。上記のargmax推定法のすべて又は多くが同じデータセットについて失敗に終わるか又は偏りのある結果をもたらすことは非常に可能性が低い。全体的に見て、すべての推定の中央値によって理想的なargmax値のよりロバストな推定が得られる。
強い雑音が存在する場合でも正しいargmax値を推定する能力が重要である。しかしながら、「断念する」時期を把握することは更により重要である。従って、argmax計算が信頼できる場合又は信頼できない場合を判断するための評価を行うことができる。最悪の事態のシナリオでは、顕微鏡110は、重要な蛍光信号がない試料11の領域について調整される。これは、雑音によって支配された暗い画像
のシーケンスと、その結果、
のランダムシーケンスをもたらす。ほとんどの場合、このような事態を検出し、これらの測定を信頼できないものとしてマークするために、
について閾値を設定することで十分である。しかしながら、異なるタイプの実験についてこれらの閾値を調整することが必要になる場合も多い。その代わりに、低品質画像から高い確実性で派生する測定値を排除する保守的に低いDCTS閾値を使用する方がより良い可能性がある。残念ながら、これは、何らかの信号が存在するが、信頼できるargmax推定を行うには十分ではないという多くの境界例を残すものである。もう一つの補完的手法は、データの標準偏差(RMSD)に関する閾値をガウシアンフィットに設定することである。しかしながら、RMSDに関する閾値を決定する際に根本的な困難があり、これは経験的に実行できるが、ほとんど保証がないものである。全体的に見て、まず第一にこのような閾値が不要であれば、確かにより良いことであろう。この問題を解決するために、データに対するフィットのRMSDが計算される。次に、
の置換によってランダム化された同じデータの100のインスタンスに対してガウスをフィッティングすることによって得られたRMSD値が計算される。このようにして、観察されたRMSDが偶然のみによるものである確率の推定を行うことができる。直観的に、データがすでにランダムである場合、ランダム置換後は統計的に区別のできないものになる。しかしながら、データがランダムではない場合、即ち、単峰性ガウス様形状を有する場合、置換後はその構造を失うことになり、フィットエラーは徹底的に異なるものになる。形式的に、伝統的な統計的仮説検定の観点から、帰無仮説はデータがランダムであることである。ランダム置換により、帰無仮説に基づくRMSDの確率分布は経験的に計算され、これにより対応するp値の計算が可能になる。p値(p
v)は、帰無仮説の真理を想定して、ある事象が少なくとも極端なものと見なされる確率(真の非ランダム化データに関する所与のRMSD)である。実際の確率1−p
vについて閾値を適用することができ、これは通常、良好なフィットの場合は0.99を十分上回り、非常に雑音の多い曲線の場合は容易に0.5未満に低下する可能性がある。実際には、明確に定義された解釈を有する0.99などの閾値が選択され、雑音の多いデータから「幻覚として経験されて」いる確率が>1%である測定は拒絶される。
長期イメージングセッションを開始する前に、初期合焦ステップが必要である。最適値F’u,vは現在値Fu,vから先験的に遠く離れているので、0.5μmという予想誤差を達成するために、r及びmは大きい値(典型的にr=60μm及びm=121)に設定される。これは、使用可能な光子収支に関して無駄が多すぎると思われ、例えば、露光量に対して極めて敏感な初期の幼胚の生理学に影響を及ぼす可能性がある。その代わりに、探索空間を増分的に狭くする反復手法を使用することができる。例えば、mを11に設定することができ、典型的にs=3を使用して、s個のステップでr=60μmからr=3μmの半径により、合焦手順全体を適用することができる。これは、合計33個のサンプルのみの場合に0.25μm以下というより高い予想精度(実際にはDCTSのベンチマーク性能を考慮して実現可能なものである)を達成する(測定値の75%の低減)。
試料11又は試料11が埋め込まれる媒体によってもたらされる収差がない場合、決定される合焦状態Sは試料11内の異なる深さで有効なままになると想定することができる。しかしながら、ショウジョウバエ又はゼブラフィッシュ幼胚全体などのいくつかの試料11では、異なるイメージング深さにおける最適画像品質のために異なる補正が必要になる。この変動性に対処するために、Z軸に沿ったそれぞれの位置[Z0,Z1,・・・ZK−1]におけるいくつかのイメージング基準面[PL0,PL1,・・・PLK−1]で光学顕微鏡110の最良状態が決定され、対応する最適状態[S0,S1,・・・SK−1]が記憶される。計算フレームワーク185は、これらの記憶された最適状態間において直線補間し、記憶された光学状態の外側で直線補外して、任意のイメージング深さZにおける状態SZを得ることができる。
完全に透明ではない試料の場合、それぞれの検出サブシステム116、118は、試料11の約半分、即ち、図7A及び図7Bに示されているように検出対物レンズ826、828が面している半分についてのみ、典型的に高品質の画像データを取得することができる。例えば、検出サブシステム116は、検出対物レンズ826に面している試料11の半分について高品質の画像データを取得する。その上、それぞれの他の検出サブシステム116、118は一般に、検出経路長がより短いために、試料11の残りの半分についてより良好な画像品質を提供する。これに留意すると、真ん中の合焦基準面PLはZS及びZS−1に位置決めされる。例えば、図7A及び図7BではS=3である。その結果、検出サブシステム116に面する試料11の半分に関する最適顕微鏡状態Sk≦S−1の決定は変数D(26)、I(12)、及びI(14)を必要とし、検出サブシステム118に面する試料11の半分における最適状態Sk≧Sの決定は変数D(28)、I(12)、及びI(14)を必要とすることになる(Z>0)。それぞれの平面Zkについて独立して最適顕微鏡状態Skを決定することは、変数D(26)とD(28)との間に相対的なドリフトが存在する場合にイメージングされたボリュームの連続性を保証しないであろう。空間連続性は、検出サブシステム116に面する試料11の半分の場合、D(26)を固定位置に維持することによって保証され、検出サブシステム118に面する試料11の半分の場合、D(28)を固定位置に維持することによって保証される。特に、(ライトシート12、14の移動を担当するあまり正確ではないガルバノメータスキャナ又はチップチルトミラーとは対照的に)それぞれの検出対物レンズ826、828を移動させるために圧電ポジショナなどの非常に正確なアクチュエータ55(26)、55(28)を使用する場合、変数D(26)及びD(28)を固定する方が変数I(12)又はI(14)を固定するより良い選択になる可能性がある。試料11の2つの半分同士の間の連続的で明確に定義されたリンクは、平面ZS−1から平面ZSにおけるライトシート位置I(12)及びI(14)を持ち越し、I(12)及びI(14)の両方を固定することによってD(28)について平面ZSにおいて光学顕微鏡システムを解くことによって確立される。これは、試料11のボリューム全体のシームレスな空間連続性を保証するものである。
最長で数日間を要する可能性のある発達中の幼胚などの試料11の長期イメージング中に、イメージング品質は通常、試料自体の発達によってもたらされる熱、機械、及び電子的ドリフト並びに光学的変化に左右される。このような低速度撮影実験全体を通して最適合焦を改善するために、最良合焦状態SZは連続する時点として調整しなければならない。システム状態変数St,Zは時間(t)と深さZの関数になる。例えば、8つの基準面PLを伴う再合焦シーケンス全体を実行するには典型的に、80回程度の画像取得を必要とする。画像あたり240msという平均計算コスト(取得及び処理を含む)の場合、顕微鏡110全体の再合焦には約19秒を必要とすると思われ、これは使用可能な時間予算次第で受け入れられない可能性がある。例えば、細胞追跡のためにショウジョウバエの胚発育をイメージングする場合、細胞がある時点から次の時点までに細胞径の半分以上移動しないことを保証するために、30秒という時間分解能が好ましい。このシナリオにおいてボリュメトリックイメージングのために試料11を移動させるために電動式ステージを使用する場合、適応システム160(図6に示されているものなど)の測定に使用できる時点同士の間において5秒以上のアイドル時間(即ち、主要画像取得時に消費されない時間)が存在しない可能性がある。
この問題に対する解決策は、複数の時点について再合焦するために必要な測定を分散することである。観察量子、即ち、実際にはより小さい測定に分割できない測定は、所与の波長及び深さZに関する
の測定である。取得デューティサイクルはしばしば90%までになる。これは、適応システム160が画像品質測定を実行するために10%未満の時間が使用可能であることを意味する。発達上の低速度撮影イメージングにおける典型的な取得設定の場合、これは、m個の画像を取得し、画像品質メトリックを計算し、最適パラメータ設定を決定するために使用可能な2つの時点同士の間の3〜6秒という時間予算に変換される。深さZにおいて顕微鏡システム状態を補正するためにすべての情報が使用可能になると、新しい値S
t+1,Zが計算され、その結果、前の値S
t,Zが更新される。図6は、実験タイムラインを示し、画像品質測定が概念上、どのように時間的に分散できるかを示している。高速機能イメージングの場合、イメージング実験の時間分解能に影響を及ぼさずに画像品質測定を実行することは典型的に可能ではない(単に、顕微鏡110が可能な最大イメージング速度で取得を実行する場合が多くなり、その結果、画像品質測定のための時間が全く残らないからである)。しかしながら、これらのタイプの記録は通常、非常に短いので、初期合焦のみを必要とし、時間的再合焦から著しく利益を得るものではない。
試料11における蛍光マーカの表現は空間又は時間の点で必ずしも一定ではなく、例えば、蛍光性のタグが付いた転写因子又は発達中の幼胚内で移動する細胞の個々にラベルが付いた集団をイメージングする場合である。従って、最良顕微鏡システム状態S
t,Zを決定するために所与の時間t及び基準面Z
kにおいて蛍光36、38からの蛍光信号(即ち、情報)が常に十分にあるわけではない。時空的適応顕微鏡110は、時間又は空間のいずれかの点で信号の欠如に対してロバストでなければならない。DCTS画像品質メトリックの高い感度にもかかわらず、蛍光36、38からの十分な量の蛍光信号がない場合の合焦は、雑音によるシステム変動のリスクをもたらす。この難題に対処するために、基準面PLが信号を欠いているかどうかを判断するために2つの戦略が評価され、即ち、(i)絶対焦点値閾値f
minが設定され、(ii)ガウシアンフィットの誤差の上限が設定される。この定義に基づいて、基準面Zkが空である場合、新しい顕微鏡システム状態S’
kは平均
に設定され、ここで、
は隣接平面からの前に決定された合焦状態である(k−1<0又はk+1>n−1である場合、代わりに
が使用される)。その結果、局所信号がより良好な局所最適を決定するのに十分な強さになるまで、蛍光36、38からの十分な蛍光信号を提供しない基準面PLがその隣接平面の挙動に追従することになる。
ライトシート顕微鏡法における一般的な試料11調製戦略は低密度のアガロースゲルに試料11を埋め込むことに基づく。このゲルは、優れたイメージング品質を提供するが、試料11が長期イメージングセッションにおいてX軸、Y軸、又はZ軸のうちのいずれか1つ以上に沿って移動するというドリフトの傾向をもたらす可能性もある。極端な場合、これらのドリフトは、試料11の各部がイメージングされたボリュームの外側に移動する場合に記録自体を危うくする可能性がある。加えて、幼胚に対する平面Zkの位置は、このドリフトのために変化する可能性がり、これが原則として時空的合焦の品質に影響する可能性がある。この問題に対処するために、試料11をイメージングされたボリューム内で静止状態に維持する3次元試料追跡技法が実現される。
次に、大域的最適化理論について述べる。時空的適応イメージングのための大域的最適化理論の基礎は、単一の潜在的に大きい線形反転問題が、すべての基準面PL[PL0,PL1,・・・PLK−1]及びすべてのカラーチャンネル(波長)に関するすべての自由度(すべてのパラメータ)に関するすべての観察、線形パラメータ関係、及び制約を表せるように、焦点行列Mの基礎において公式化された逆問題を拡張できるという認識である。この最適化はすべての自由度(パラメータ)について同時に実行され、従って、個々の観察からの雑音の伝搬を低減する。これは、マルチカラーイメージングにおいて色収差を正確に補償すること並びに精巧なパラメータアンカリング及びブリッジングスキームを導入することを可能にする。
以下の説明では、普遍性の喪失なしにいくつかの仮定が行われる。第一に、2つの検出サブシステム116、118及び2つの照明サブシステム112、114を含むマルチビューライトシート顕微鏡110について、時空的適応イメージングが実行されることが想定される。顕微鏡110の状態ベクトルSは、すべての基準面PL及びすべてのカラーチャンネル(波長)についてすべての自由度(パラメータ)の値を含む。
自由度D(26)、D(28)、I(12)、I(14)は前述のものと同じ変数である。新しい状態変数Y(12)、Y(14)はそれぞれの照射軸(Y軸と平行なもの)に沿ったライトシート12、14の並進に対応する。パラメータA(12)、A(14)、及びB(12)、B(14)はそれぞれ、それぞれのライトシート12、14の2つの角自由度(α及びβ)に対応する。すべてのカラーチャンネル及びすべての基準面PLについて、状態ベクトルS
tは10自由度のそれぞれに関する項目を含む。例えば、2カラー3平面の構成の場合、状態ベクトルSは長さが60になるであろう。カラーチャンネルは、特定の励起波長及び検出フィルタについて取得された画像のセットに対応する。主要イメージング実験中に複数の波長が使用される場合、それぞれの波長に関する画像を順次取得することができ、この取得フェーズのそれぞれにおいて顕微鏡状態パラメータの専用セットを使用することができる。これは、例えば、1つの波長に関するレーザビームが他の波長に関するレーザビームと完全に一致するわけではない場合、又は試料11が異なる波長において異なる光学的性質を有する場合に有用である可能性があり、従って、最適画像を得るために、それぞれの波長について異なる設定α、β、Y、I、Dが必要になる可能性がある。
角自由度A(12)及びA(14)並びにB(12)及びB(14)を加える際の根本的な困難は、それらとI(12)及びI(14)との結合並びにそれらとD(26)及びD(28)との間接的な結合である。実際は、ライトシート12、14の回転軸は必ずしも試料11の所与の光学セクションの幾何学的中心と一致していないので、角自由度A及び/又はBの変化は検出焦点面26、28に対するライトシート12、14のデフォーカスももたらす可能性がある。単純な較正スキームを使用して、試料11内の特定のポイントまでライトシート12、14の回転ポイントをシフトするのに必要なパラメータを識別することができる。
I’=I−d
atan(A)−d
btan(B)
ここで、
はライトシートの回転ポイントを変位させるベクトルである。この変換は、ライトシート12、14の位置及び角度に関する画像品質メトリックの直交性を保証するものである。以下の説明では、それぞれのライトシート12、14について、制御変数I、A、及びBがこのような変換によって切り離されていることが想定される。変数Y、A、及びBの最適化は大部分は主な変数D及びIから独立している。その結果、これらの自由度のそれぞれが独立した1次元の最適化問題として最適化できることになる。単純にするため、以下の解説ではこの新しい追加の変数は無視される。
図16Aから図16Dを参照すると、時空的適応イメージングに関する大域的最適化理論の基礎をなす主要概念が示されている。単純かつ読みやすくするため、これらの図では時空的適応イメージングのためのフレームワークで使用される10自由度[D(26)、D(28)、I(12)、I(14)、Y(12)、Y(14)、α(12)、α(14)、β(12)、及びβ(14)]のうちの4つ(D(26)、D(28)、I(12)、及びI(14))のみについて考慮する。その上、単純にするため、図16Aから図16D並びに図16Aから図16Dに関する付随考察において、D1はD(26)を表し、D2はD(28)を表し、I1はI(12)を表し、I2はI(14)を表し、ziはZ軸における基準面PLiの位置に対応し、カラーは波長λ0及びλ1によって示される。
図16Aは、2カラー(λ0及びλ1)3平面(z0、z1、及びz2)構成においてD1、D2、I1、及びI2に関する合焦制約の制約グラフ表現を示している。ライトシートオフセット位置(I1及びI2)を表す変数は、検出対物レンズ位置(D1及びD2)に対して観察されたデフォーカス測定を介してリンクされる。検出対物レンズ826、828に取り付けられた圧電ポジショナは顕微鏡110内の最も精密な空間測定デバイスであり、従って、空間的基準として機能するので、検出対物レンズ826、828は所与のカラーチャンネル(λ0及びλ1)においてすべての基準面(z0、z1、及びz2)について一定の位置に維持される。2つのカラーチャンネルは、検出対物レンズ826、828の位置の質量中心(その個々の絶対位置ではない)が異なるカラーチャンネルについて同じであるという要件によってリンクされる。
図16Bは、状態変数Sとデフォーカス及び制約違反観察Fとの直線関係を記述する単一行列Mに合焦制約を集約できることを示している。値Fu,vはデフォーカス測定であり、値Vkは制約違反補正項である。
図16Cは、システムアンカリング制約(検出対物レンズ826、828の位置の固定質量中心)の図を示しており、これは顕微鏡110の質量中心のドリフトを防止するために必要なものである。明瞭かつ単純にするために、この制約は図14Aのパネルでは省略されている。
図16Dは、蛍光36、38からの信号が任意の基準面PLにおいて実験中の任意の時間に(例えば、遺伝的にコード化された蛍光マーカを表さないか又はまだ表していない試料11の領域において、あるいは細胞によってまだ占有されていないが大規模な細胞運動事象の過程で後で占有済みになる試料11の領域において)弱いか又は存在しない場合に、画像品質メトリックが事前定義閾値未満で応答し、特別な置換制約を使用して欠落情報を概算することを示している。ここに示されている例では、ライトシートオフセット位置は、1つの隣接基準面における値に設定される。実際には、この値は、考慮される基準面が最初の基準面又は最後の基準面ではない限り、隣接基準面の平均値になるように設定される。
ベイズの確率理論における係数グラフを暗示するように、最適化問題は、ノードが状態変数(状態ベクトルSの個々の項目)であり、エッジがこれらの変数に関する制約である制約グラフとして表すことができる。図16Aは、単一のブリッジング平面(z1)及び両方のカラーチャンネルに関する同じ質量中心を備えた2カラー3平面構成に関する制約グラフの一例を提供する。この例では、(i)デフォーカス測定に依存し、従って、時間が変動する可能性のあるデフォーカス制約、(ii)検出対物レンズ826、828の位置のサンプル深さ不変性を強制する同等制約、及び(iii)2つの検出対物レンズ826、828間の中間点がすべてのカラーチャンネルについて同じであることを保証する質量中心同等制約という3つのタイプの制約が存在する。単純にするため、システムをアンカリングするかあるいは欠落又は低信頼デフォーカス情報を扱うために必要な制約は省略されている。以下の説明では、図16Aに示されている3つの制約並びにその他の有用な制約について詳細に述べる。述べられているこれらの制約は、デフォーカス制約、同等制約、質量中心同等制約、アンカリング制約、及び置換による欠落情報充填制約である。
最も重要な制約は、以下のように検出対物レンズ位置(D1、D2)をライトシート位置(I1、I2)にリンクするデフォーカス制約である。
ΔFu,v=ΔDu−ΔIv
この差の符号は、ΔDuΔFu,v>0になるように選択され、これは、Ivを一定に保持しながらDuを変更することによりデフォーカスΔFu,vの測定を可能にするものである。
このその他の非常に基本的な制約は、例えば、検出対物レンズの位置(D
1及びD
2)がイメージング深さ(z)によって不変であることが必要である時に発生する。
これは、
から
への変化は
への同じ変化を伴わなければならないことを意味する。
が最初に等しいと想定すると、その結果、
は補正が適用された後に等しいままになることになる。これらの制約の示差的側面は、
の現在値を観察することにより得られる補正項で0を置き換えることによって除去することができる。
これは、補正
が、最初に該当しない場合でも
になるようなものであることを保証する。
検出対物レンズは、作動距離をある波長から他の波長にわずかに変動させる色収差に苦しんでいる。検出対物レンズ826、828の焦点面26又は28は、イメージングされる蛍光36、38の波長次第でシフトする。例えば、いくつかの実験で使用されるNikon製16×/0.8対物レンズの場合、緑色蛍光タンパク質(GFP)によって生成された蛍光36、38をイメージングする場合と赤色蛍光タンパク質(RFP)によって生成された蛍光36、38をイメージングする場合では、焦点面26又は28は約0.8μmだけシフトする。マルチビューライトシート顕微鏡110は、互いに面している2つの検出対物レンズ826、828を使用するので、異なる波長では2つの対物レンズ826、828間の相対距離が異なる必要がある。理想的には、2つの対物レンズ826、828の質量中心は、焦点面26、28と一致するので、静止状態でなければならない。この制約は以下のように表すことができる。
同様に、この示差的制約は以下のようにインテグラルにすることができる。
表記を単純にするため、変数tは
において省略されている。
図16Aの行列Mはフルランクを持たない。1つの制約なし自由度が残存しており、依然として適正な計器位置合わせを維持しながら、システム全体の実量中心を並進させることができる。システムをアンカリングし、複数の補正ラウンドにおけるドリフトを防止するために、一定のままになるように検出対物レンズ826、828の質量中心を抑制することができる。
0=ΔD1+ΔD2
この場合も、これは以下のようにインテグラル形式で表すことができる。
−(D1+D2)=ΔD1+ΔD2
対応する制約は図16Cに示されている。
上述のように、蛍光36、38からの信号は、試料11のそれぞれの蛍光マーカが存在しない特定のカラーチャンネル又は基準面PLの場合、(時には又は永続的に)低いか又は存在しない可能性がある。この状況では、画像品質測定は必ずしも信頼できるわけではない。従って、システムロバストネスのために、隣接平面又は補完的カラーチャンネルをプロキシとして使用することは好ましい。このようにして、例えば、隣接ライトシート位置を補間することにより、欠落デフォーカス観察を置換することができる。これは、実際には、例えば以下のように単純な平均化によって行うことができる。
これが
を伴う唯一の制約である場合、
の値はその隣接値の平均変動に従うことになるが、必ずしもその隣接値の平均値と等しくなるわけではない。代替的に、以下のようにインテグラル形式を使用することができる。
この場合、
の値は、最初に該当しない場合でも補正が適用された後の
の平均になる。対応する制約は図16Cに示されている。
グラフ内のそれぞれの制約は、S内の項目とF内の対応する項目のサブセットを伴う1次方程式である。その結果、それぞれの制約が行列M内の行としてコード化できることになる。図16Bは図16Aの制約グラフに対応する行列Mを示している。種々のタイプの制約は、F内の項目を順序付けることにより行列Mに一緒に暗示的にグループ化される。
一般化した焦点行列は明示的にデフォーカス観察のベクトルΔFを状態ベクトル補正ΔSに関連付けるものである。
ΔF=MΔS
基本的な漸進的手法とは対照的に、状態ベクトルSはこの時点ですべてのカラー及び平面に関する状態情報を含み、ΔFはデフォーカス測定及びインテグラル制約に関する補正項を含む。
状態ベクトルSの補正ΔSは、焦点行列Mを疑似反転し、ΔFが与えられたΔSを計算することによって計算される。
ΔS=M+ΔF
上述のように、この解は最小自乗解(L2ノルム)に対応する。これは、最小エネルギのベクトルΔS(L2ノルム)が返されることを意味する。これは、ΔSを得るための最も単純な手法である。より精巧な及び/又は強力なその他の手法も可能であり、次にこれらについて述べる。
前述の手法は、行列Mがフルランクのものであるか又は過剰抑制されている場合に最良のものである。行列Mがフルランクのものではない場合、例えば、システムがアンカリングされていない場合、潜在的に多くの異なる解ΔSが存在するので、問題は特異なものになる。この場合、希薄な補正ベクトルΔSを支持する最小L1長の解ΔSを探索することは有利である。直観的に、この手法は、最適焦点を達成するために最も小さい数の自由度を変更する。
測定から実際の補正への雑音の伝搬を制限するためのすべての努力にもかかわらず、実際には、(例えば、検出面
対ライトシートオフセット
について)他のものより大きい特定の自由度の補正振幅を制限することは有用なままになる。不適切に位置合わせされたシステムをもたらす可能性があるので、最適化後に補正を制限することは選択肢にならない。この問題に対する我々の解は、これらの限界をより一般的な最適化問題に統合することからなる。以下の制約付き二次最適化問題は以下のように解くことができる。
L
iはそれぞれの自由度に関する補正を制限する制限ベクトルLの成分である。値ΔS
iは状態補正ベクトルΔSの成分であり、(MΔS)
iはベクトルMΔSに関する成分である。第1のセットの不等式はそれぞれの自由度に関する補正を制限するものである。第2のセットは、制約グラフからの制約がすでに満足され、(ΔF)
i=0である時に、それが満足されたままになり、(MΔS)
i=0になることを保証するものである。これらの不等式の役割を理解するためのもう1つの方法は、(大域問題に対する局所的解ではなく)局所的問題に関する局所的解を支持することにより、制約グラフ全体を通して補正の伝搬を回避する希薄誘発不等式としてである。
補正サイクルは、(i)すべてのデフォーカス測定ΔFを取得することと、(ii)補正ベクトルΔSを計算し、これらの補正を適用することからなる。
極端なケースでは、いくつかのカラーチャンネル及び多くの基準面PLに関する補正サイクルは、完了するのに数分を要する可能性がある。特に、デフォーカス測定と補正の適用との間には遅延が存在する(予想される遅延は補正サイクルの半分である)。これは、顕微鏡110の摂動が補正されるまでに平均して1.5補正サイクルが経過することを意味する。しかしながら、ライトシート12、14に関するデフォーカス補正は、その後の観察及び補正のための基準として最後に補正されたシステム状態を不変の状態で保持しながら、それらを観察した直後に適用することができる。それにより、適応システムは通常の大域補正サイクルに影響を及ぼさないが、同時に、可能な限り迅速にデフォーカスを局所的に補正することができる。これらの高速局所補正はI1及びI2を変更するが、一般に、値D1及びD2を変更することはできない。これは制約グラフ(例えば、図16Aを参照)から理解することができ、その場合、I1及びI2に関する変数は「リーフノード」であり、従って、第1の近似において局所的に最適化することができる。
試料によって誘発される画像摂動の処理に加えて、適応イメージング用の自動顕微鏡110は、システムによって誘発される画像摂動から迅速に回復することもできなければならない。このために適応システム160の能力を系統的にテストするために、核ラベル化(His2Av−RFP)キイロショウジョウバエ幼胚における胚条収縮及び背側閉鎖の4時間低速度撮影を記録しながら、外部摂動が誘発された。この実験中に、検出対物レンズ826、828の位置を規定する圧電性アクチュエータ及びライトシート12、14のオフセットを規定するチップ/チルトミラーのゼロオフセットは(ハードウェアレベルで)手動でシフトされた。重要なことに、摂動は(アナログコントローラ上のそれぞれのノブによりベースライン電圧を調整することにより)ソフトウェア及び電子機器層の下流で手動で誘発されるので、計算フレームワークはこれらの摂動の実行、タイミング、及び規模に気付かない。
30秒ごとに1回、ショウジョウバエ幼胚の完全な4ビューの3D画像データセット(イメージスタックあたり515×1186×111ボクセルを含む)が取得された。4分ごとに、4つの均一間隔の基準面に関する完全な補正サイクルを完了した。補正サイクルの位相に対して摂動が発生した時期次第で、30秒程度の短い時間内に単一平面及びビューを補正することができた。時間の経過につれてシステム全体がサンプルに対してドリフトしないことを保証するために、第1の検出対物レンズの位置(D1)はロックされ、他の自由度のみに対する補正が可能になる。9通りのタイプの摂動がトリガされ、それぞれは顕微鏡110の4つの主要自由度のサブセット、即ち、2つの検出対物レンズの位置(D1及びD2)並びに2つのライトシートのオフセット(I1及びI2)を伴う。
図17Aは、それぞれの摂動によって影響される対応する自由度及び摂動の振幅を含み、9回の摂動の概要を提供する。図17Aでは、ボリュメトリックDCTS焦点値は、ショウジョウバエ胚発生の適応ライブイメージング実験中の時間の関数として示されており(試料11はショウジョウバエである)、検出対物レンズ826、828の位置の9回の摂動及びライトシート12、14へのオフセットは手動で導入された。9回の摂動のそれぞれは焦点品質の一時的な下降をもたらし(青色バー)、これはその後、適応システム160によって提供される時空的適応イメージングのために自動フレームワーク185によって開始される適切な対策により復旧される。
摂動#1〜#6は、個々の自由度(D1、D2、I1、I2)並びに自由度の対(D1及びD2、I1及びI2)の瞬時変化である。摂動#7及び#8は、最初にI2及び次にD1を伴う2回の低速傾斜(1μm/分の速度でシステムを位置合わせ不良にする)である。最後の摂動#9は、摂動#1の前の初期ベースライン構成にシステムを戻す、I2及びD1の強い(8μm)同時瞬時変化である。この最後の摂動は非常に強いので、生物試料11のみによって実行される「通常実験」において発生する可能性は非常に低い。しかしながら、このテストは、真剣にシステムを吟味し、極端な条件下でそのロバストネスを評価するために含まれていた。
顕微鏡110によって記録された画像データの品質を監視するために、それぞれの取得ボリュームについて、最良遂行焦点メトリック(DCTS)に基づいてボリュメトリック品質メトリックが計算される。図17Aは、胚発育がボリュメトリック焦点品質メトリックにおける正の縦方向傾向をもたらすことを示し、これは時間の経過につれて核密度の増加並びに対応する微細細部及びイメージングボリュームにおける高周波テクスチャの増加によるものである。より重要なことに、この可視化は、それぞれの摂動がボリュメトリック焦点品質メトリックにおける一時的な下降をどのようにもたらすかも示している。
図17Bは、顕微鏡110の4つの自由度(D1、D2、I1、I2)を基準面z2に関する時間の関数として示している。図17Bは、基準面z3において4つの自由度にシステムによって自動的に適応された変化を示している。基準面z3は、この平面における画像が制約なしの自由度D2にリンクされるのでこの実証のために選択されたものである(これにより、この位置で読み出されたデータがシステムロバストネスを評価するために特に有用なものになる)。
図17Cは、最大値投影(左)と、第4の摂動の直前及び直後の幼胚の小さい領域の拡大図の時系列(右)とを示している。このイメージシーケンスは、対物レンズO4によって照らされ、対物レンズO2によってイメージングされる試料11の象限を強調している。最適焦点品質は、示されている象限については0.5分以内に復旧され、試料11のボリューム全体については2分以内に復旧される。
図17Dは、最大値投影(左)と、第5の摂動の直前及び直後の幼胚の小さい領域の拡大図の時系列とを示している。このイメージシーケンスは、対物レンズO4によって照らされ、対物レンズO2によってイメージングされる試料11の象限を強調している。最適焦点品質は、示されている象限については1分以内に復旧され、試料11のボリューム全体については4分以内に復旧される。
図17Eは、最大値投影(左)と、第9の摂動の直前及び直後の幼胚の小さい領域の拡大図の時系列とを示している。第9の摂動は、このベンチマークに含まれる最も厳しいシステム摂動である。2つのイメージシーケンスは、対物レンズO4(右)及びO3(左)によって照らされ、対物レンズO1によってイメージングされる試料11の象限内の領域を強調している。
図17Cから図17Eは、対物レンズO4(右)及びO3(左)によって照らされ、対物レンズO1によってイメージングされる象限に関するイメージシーケンスを示している。同じ方向にそれぞれ8μmのD1及びI2の同時シフトは、O3によって照らされ、O1によってイメージングされる象限について互いに打ち消し合うものである。O4によって照らされ、O1によってイメージングされる象限に関する画像データに見られるかなり劇的な焦点品質の損失からの回復は、局所的には16時点、ボリューム全体では22時点を要する。
図17C、図17D、及び図17Eは、平面z3における画像品質が3つの摂動例#4、#5、及び#9によってどのように影響されるかを示している。図17Aに示されているように、摂動#4はボリュメトリック画像品質メトリックにおける非常に小さい下降をもたらし、それは、図17Cに示されている摂動に続く画像品質のほとんど感知不能な劣化によって更に確認される。摂動#5は両方の検出対物レンズ826、828を伴い、平面z3では2時点(1分)以内に、ボリューム全体では10時点(フルシステム補正サイクルの長さに近い期間)以内に完全に補償される(図17Aを参照)。対照的に、例外的に強い摂動#9(振幅:8μm)は、試料ボリューム全体を通して完全に補正されるためにフル補正サイクル2回分を必要とする。
図17A及び図17Eに示されているように、適応システム160は、その適切な合焦状態の強い外部摂動に直面した場合など、極端な条件下でも首尾良く回復することができる。特に、この同じテスト実験中に、適応システム160は、生体幼胚の発達に従い、それに対して調整することにより、サンプルによって誘発される摂動も首尾良く処理した。
上述のように、自由度(DOF)に対する調整は順次線分探索によって行われた。しかしながら、2つの角度ライトシート自由度α及びβの場合、図5E及び図5Fに示されているように、ライトシート角度を変化させると、照らされる試料11のセクションも変化させるので、この手法は不適切である。このシナリオでは、結果的に特異な問題になるような異なる基礎的蛍光体分布から発生する画像の品質を比較することが必要になるであろう。以下の説明では、ライトシートジオメトリパラメータを単一焦点スタック、即ち、D及びIを最適化するために使用される同じスタックから直接抽出するために開発された画像解析アルゴリズムに関する詳細が提供される。従って、この手法は、3Dライトシートジオメトリを決定するためのライトシート角度の変化を回避し、その結果、上記で概説した問題を克服するものであり、システム状態を最適化するために取得する必要がある画像の数を最小化し、その結果、試料の光子収支に対する影響を最小化するという追加の利点を有する。
手順1510及び1530を実行するソフトウェアモジュール588
ライトシート面、ライトシートウエスト、及び検出焦点面26、28の位置を適応させることに加えて、適応システム160は、ライトシートと検出焦点面との間の3次元角度(α(12)、α(14)、β(12)、及びβ(14))を制御する。これらの自由度は、試料11とその環境との間の境界面において空間的に可変のライトシート屈折を補償するために使用される。ライトシート角度の空間適応がない場合、図18A及び図18Bに示されているように、視野全体にわたって合焦することは不可能又は困難になるので、それに対応するライトシートと検出焦点面との共平面性の損失により空間分解能及び画像品質が劣化する。図18Aは、屈折率nmが屈折率neと等しくないので、取り付けマトリックス(屈折率nmを有するもの)と試料11(屈折率neを有するもの)との間の境界面における屈折の結果として、生体試料11内部のライトシート角度βが像平面同士の間でどのように変化すると予想されるかを示している。対照的に、その短軸が照射軸と位置合わせされた場合、ライトシート角度αは卵形試料11の全体にわたって変動するとは予想されない。図18Bは、画像の品質に対する屈折の効果を示している。ライトシート面と検出焦点面26、28が試料11外部では同一平面上にあるが、試料11内部では互いに対して傾斜している場合、ライトシート12、14によって照らされるすべての領域が同時に合焦状態にあるわけではない。例えば、ショウジョウバエ幼胚内の50μmの深さでは、ラベル化領域a、b、c、及びdを比較することにより示されるように、最適焦点設定は像平面全体にわたって連続的に変化し、これにより、β=0.6°に対応する2μmの焦点拡散がもたされる。
図18Cは、ライトシート面と検出焦点面との間の角度の不一致α及びβの測定及び補正が自由度D、I、及びYのみに制限される時空的適応イメージングによって達成されるレベルを超えて空間分解能をどのように改善するかを示している。ショウジョウバエ幼胚内の表面領域及び深部画像領域の代表的な例は、α及びβの適応最適化あり(上)及びなし(下)で取得された拡大図(紫色、緑色)として示されている。スペクトル線変化図(下)は、D、I、及びYのみを補正することによって解明されない亜細胞の特徴を明らかにしている。
図18Dは、キイロショウジョウバエ幼胚のボリューム全体わたって実験的に測定され、理論的に予測された補正角β(βグラフにおける黒色及び灰色の線)を示している。予測は、幼胚内の表面領域と、試料11が保持されるマトリックスの1.339及び1.35という平均屈折率を想定する光線光学モデルによって得られた。実験とモデルとの良好な合致は、1.幼胚と周囲のマトリックス/媒体との間の境界面におけるライトシート屈折、並びに2.光学検出経路(Z軸)に沿って試料によって誘発されるレンジングの結果としての試料11内部の検出焦点面26、28の曲率という2つの主要光学効果が試料11内部のライトシート及び検出焦点面26、28の角度の不一致の責任を負うべきであることを示唆している。
計算フレームワーク185は、ライトシート角度α及びβの連続最適化のためのロバストなイメージベースのアルゴリズムを使用して、試料11のボリューム全体にわたって3次元ライトシート経路を計算的にマッピングし補正する。このアルゴリズムは、ライトシート及び検出焦点面(I1、I2、D1、及びD2)のオフセットを補正するために使用される同じデフォーカスイメージシーケンスについて機能するものであり、これは追加の測定の必要性を解消し、時間の使用及び光子収支を最適化する。空間適応方式でライトシート屈折を補償することは、大きい視野全体にわたって系統的に解像度を改善するために不可欠であり、並進自由度に限定される適応イメージングによって置き換えることはできない。
パラメータのフルセットについて複数のモデルシステムにおける解像度の改善を定量化することに加えて、角自由度がない場合のライトシートと検出焦点面との間の発散の原因と影響が調査される。α及びβ偏向角の値は深さの関数としてショウジョウバエ幼胚内で測定され、ライトシート伝搬の理論的モデルは幼胚の光学及び幾何学的特性を考慮して開発される。カメラ846、848からの出力の空間分解能を最適化するために、βは、それぞれのカメラフィールドにおいて間隔[0.5° 2.0°]及び[−0.5° −2.0°]に及ぶ非線形パラメータ軌跡を使用して連続的に調整する必要がある(図18Dに示されている通り)。これらの補正の必要性は2つの主要光学効果から発生する。試料11とその環境との間の屈折率の不一致は、(i)試料11の表面において位置に依存するライトシートの屈折をもたらし、(ii)試料11内部で検出焦点面26、28の空間的に可変の曲率をもたらす。これらのメカニズムは、完全なデータ駆動方式で計算フレームワーク185によって決定され実行される最適補正と良好に合致する、ライトシート面と検出焦点面26、28との間の理論的に位置に依存する角度の不一致をもたらす(図18Dに示されている通り)。
ライトシート角度αはライトシート顕微鏡のシステムアライメント中に調整される(この自由度が顕微鏡の設計において考慮された場合)。この自由度の調整は適切に実行する必要があるが、角度αは典型的に、時間の経過につれて実質的にドリフトするか又は実験中に重大なイメージングアーチファクトの責任を主に負うべきであるとは予想されない。しかしながら、大きい試料及び/又は複雑な試料ジオメトリ(マウンティング媒体とは異なる屈折率分布を備えたもの)の場合、上述のように、ライトシート面と検出面26、28との角度の不一致をもたらす収差及び光屈折が発生する可能性がある。角度αとは対照的に、深さに依存する方式で角度βを調整するためのより強いケースが存在する。例えば、典型的な球形又は楕円形の試料11(ゼブラフィッシュ又はショウジョウバエ幼胚など)の場合、イメージング面は試料11の一方の端部からそのもう一方の端部までZ軸に沿って移動するので、媒体とサンプルとの境界面に対するライトシート入射角は−90度から+90度に変動する。
従って、試料11に入ると、ライトシート12、14は像平面の位置に依存する量だけ屈折する(図18Dに示されている通り)。ライトシート面のこの示差的経路偏向により、試料11内の異なる像平面は、最適画像品質を復旧するために異なる角度焦点調整を必要とする。このような考慮は、実際には、いかなる焦点並進調整もライトシート12、14の不可避な屈折を完全に補正できないので、角度調整に代わるものは何もないことを示している。
図18Eを参照すると、試料11内のライトシート12、14の3次元の向きは、以下のように、適応システム160によって実行される手順1510及び1530を使用して自動的に決定される。手順1510及び1530は、ライトシートパラメータz、α、及びβを決定するために使用され、これらは2つのライトシート角度並びに最良焦点品質のオフセット位置zを含む(従って、ライトシート面の3次元ジオメトリを完全に規定する)。
画像の標準焦点スタックSTが取得される。画像の標準焦点スタックSTは、再合焦のためにカメラ846、848によって取得される。このスタックはいくつかの画像STk(実際には9つ又は11個の画像)からなり、ここでkはスタック内の画像の数である。次に、クロップ済みスタックSTCを形成するためにスタックSTのそれぞれの画像がクロップされ、次にクロップ済みスタックSTCのそれぞれの画像が小領域STi,jに分割され、i及びjは画像の平面を規定する2つの軸(X軸及びY軸など)に沿った小領域の数に対応する。それぞれの小領域STi,jはサンプルの選択された基準領域(1511)に対応する。その上、変更される動作パラメータ(1512)は焦点面26、28又はZ軸に沿ったライトシート12、14の平面Iの位置である。蛍光の画像は小領域STi,jのそれぞれで記録される(1513)。
それぞれの小領域の品質は、それぞれの小領域に画像メトリックMETを適用して3次元ライトシート経路を特徴付けるポイント(x,y,d)を決定することによって決定される(1514)。使用できる画像メトリックはDCTS画像メトリックである。それぞれのサブスタックSTi,jについて、それぞれの画像のメトリックMETであるMET(STk,i,j)が計算される。
最高品質画像を生成する動作パラメータは、それぞれのサブスタックSTi,jについて最適焦点深さzi,jを個々に決定することによって観察され(1531)、これらは記憶される(1532)。いくつかのサブスタックの場合、統計的に無意味なフィッティングのために(例えば、例外的に長い照射及び検出経路長によるスタックのリモート位置における信号の欠落又は不十分な画像品質の結果として)信頼できる焦点情報を決定することが可能ではない場合もある。この場合、対応するデータ点は廃棄される。
アウトライアが検出される。ライトシート面と検出焦点面との間の角度α及びβの動作パラメータはロバストに再構築される。それぞれの幾何学的隔離及びサブスタックあたりのそれぞれの最大メトリック(例えばDCTS)値の両方に関してアウトライアを除去するためにデータ点の追加のフィルタリングを実行することができる。次に、これらの点を通過する可能性が最も高い平面を見つけるために、収集されたデータ点(xi,j,yi,j,zi,j)が使用される。この平面はライトシート面自体に対応し、原則として、単純な最小2乗回帰を適用することによって見つけることができる。しかしながら、アウトライアは慎重なフィルタリング後でも依然としてデータ点間に残存する可能性があるので、インライアとアウトライアを区別できるロバストな線形フィット推定法を使用することができる。
最終結果は、以下の形の2次元平面フィットである。
z=ax+by+c
2つの角度は以下のように抽出することができる。
α=atan(b)
β=atan(a)
これらの角度は、例えば、更新620中に(図6)調整することができる(1450)。
テスト/実験
適応システム160の性能を評価するために、既知の規模の明確に定義された光学摂動を使用するシステムベンチマークが実行された。このベンチマークは、次の項に記載されている生物学的実験において遭遇される先験的に未知の光学摂動に適応システム160をさらす前に我々の方法の妥当性検査及び特徴付けとして機能した。
変動する規模のライトシート及び検出焦点面位置について明確に定義された瞬時ジャンプ及び連続ドリフト(2〜8μmのジャンプ、1μm min−1のドリフト)を電子的に誘発しながら、生体ショウジョウバエ幼胚を使用する短期ボリュメトリックイメージング実験が実行される。これらの摂動は、ライトシート及び検出対物レンズの位置決めを担当する圧電コントローラを使用し、顕微鏡制御フレームワーク自体がこれらの外部事象のタイミング、タイプ、及びソースに気付かないことを保証して、生成された。従って、適応システム160は、実際の生物学的イメージング実験において遭遇される難題を模倣して、取得した画像のリアルタイム分析のみによってこれらの摂動を査定し、補償することができるであろう。誘発されたシステム摂動の規模及びタイプを適応システム160の判断及び応答タイミングと比較することにより、図17Aから図17Eに示されているように、適応システム160の性能をテストすることができる。このベンチマークは、ライトシートと焦点面との間の3D空間関係に影響を及ぼす様々な摂動に応じて最適画像品質の急速かつ正確な回復を実証するものであり、すべての摂動について、適応システム160は、影響を受けた自由度(複数も可)を正しく識別し、平均して摂動後の1〜2時点以内に摂動によって誘発された画像品質の損失の92%を回復した。
角自由度に関する追加のベンチマークは、既知の規模のライトシート偏向(0.25〜2°のジャンプ)を導入し、それを補償することによって実行される。この後者の実験は、適応システム160が図19に示されているようにそれぞれαi及びβiについて0.15°及び0.21°の精度で生体試料内部のライトシートと検出焦点面との間の角度の不一致を正しく識別し、補正することを示している。
最後に、適応システム160は、どの程度迅速に未補正光学顕微鏡110を改めて(未知の状態から始めて)最適化し、大きい試料全体にわたって高い空間分解能を回復するかを査定するためにテストされる。図20に示されているように、遺伝的にコード化されたカルシウム指標を表す、ゼブラフィッシュ幼生脳全体に関するシステム補正時間を測定した。図20Aに示されているように、800×600×200μm3というボリュームの試料11を5つの基準領域に分割し、試料11の光学的性質に対する反復集束パラメータ適応を3回実行し、図20Bに示されているように、最後の回で最適システム性能に達したことを確認した。図20Cに示されているように、脳全体を通して細胞分解能が完全に欠落している状態から始めた後、システム最適化は40秒を要し、脳全体を通して高分解能を系統的に回復した。このシステム全体最適化手順は、光学顕微鏡110が明確に定義された最適状態にあることを保証するために、低速度撮影実験の開始時に1回実行することができる。その後のシステム状態更新は、反復スキームを必要とせず、適応システム160によってタスクについて費やされる時間を最小限にするために測定のサブセットに区分することができる。
適応システム160の例
適応システム160の能力及びロバストネスは、広範囲の(i)種々のタイプの形態学的マーカ及びカルシウム指標を含むマーカ戦略、(ii)ショウジョウバエ及びゼブラフィッシュ幼胚並びにゼブラフィッシュ幼生脳を含むモデルシステム、及び(iii)発達、機能、マルチカラー、及びマルチビューイメージング実験を含むイメージング検定を使用して実証される。
ショウジョウバエ発達の時空的適応イメージング
図21Aから図21D、図22A、図22B、及び図23を参照すると、多細胞生物の高分解能ライブイメージングに関する難題は、特に試料形態の変化中における、局所光学的性質の動的変化の発生である。このシナリオにおける時空的適応イメージングの潜在能力は、挑戦的なテストケースを提示するショウジョウバエ胚発育を使用してテストされる。
胚発生の初期段階では、形態学的変化が幼胚全体にわたって発生し、組織の高速再配列及びリモデリングとなって現れる。その上、初期ショウジョウバエ幼胚は大量の脂質豊富な卵黄を含み、これは時間の経過につれて消費される。これらのプロセスは、試料全体を通して局所光学的性質に影響を及ぼし、不明の状態で残された場合、空間分解能及び画像品質を劣化させるものである。
21時間の低速度撮影イメージング実験は、すべての細胞においてヒストン−赤色蛍光タンパク質(ヒストン−RFP)を表すショウジョウバエ幼胚で実行される。適応システム160は、この実験を完全に制御でき、図21Aから図21D、図22A、及び図22Bに示されているように、光学顕微鏡110の状態を連続的にかつ自動的に最適化するように主要自由度(I1、I2、D1、及びD2)を調整することができた。ライトシート及び検出焦点面を並進させるために必要なこれらの4つの自由度は、効果的なシステム補正に必要な最小パラメータセットを形成する。次の結果の項では、10自由度すべてを備えた高度な適応イメージングについて述べる。予想されるように、最適空間分解能に必要な補正(図21B)は時間の関数として変動し、幼胚内部のイメージング深さに依存する。空間及び時間の全体にわたって、ライトシート位置は、すべての参照位置について平均して5.3μmだけ(最大で9.4μmまで)調整する必要があった(図21B)。適応システム160によって実行されるリアルタイム補正は更に、幼胚において最も高速かつ最も顕著な内部形態学的変化が起こる、産卵の3〜8時間後(図21A及び図21Bの0〜5時間に対応する)にシステム状態調整の最も差し迫った必要性が発生することを実証している。空間分解能はイメージング実験全体を通して実質的に改善され、発達中の神経系の深部組織領域内を含む、非適応顕微鏡法(図21C)において低画像品質に苦しむと思われる多くの領域で細胞及び亜細胞の特徴が回復される。空間分解能の改善は、(図21D及び図23に示されているように)細胞核境界と交差する強度変化図を系統的に分析することにより、幼胚全体を通して定量化される。この分析は、適応イメージングによって空間分解能が平均2.4倍(局所的に3.8倍まで)、信号強度が平均1.6倍(局所的に2.0倍まで)改善されたことを示している。適応イメージングによって取得されたデータのフーリエ解析は、半径で30〜40%の増加を示し、最大周波数サポートをマークする(図21C)。帯域限定で雑音の多い画像が、分解能限界の推定とは無関係の低周波構造のみを含む領域を含む全体として考慮されるので、この分析はスペクトル線変化図と比較して解像度の改善を過小評価している。
更に、公正な比較のために、定量化は一般に適応システム160の性能を過小評価し、低速度撮影イメージング実験の開始時に適応システム160によって決定される完全に最適化された顕微鏡構成を使用して、未補正顕微鏡状態を表す画像が取得された。従って、この分析は、単にライブイメージング中の連続顕微鏡状態更新に帰因する改善を定量化するものである。
ゼブラフィッシュにおける大規模な細胞運動の適応イメージング
図24Aから図24E及び図25を参照すると、上述のイメージング実験では、ショウジョウバエ幼胚は初期発生中に大規模な形態学的変化を経験するが、偏在的なラベル化幼胚全体を通して常に蛍光信号が入手可能である。その他のモデルシステム、発達プロセス、又はマーカ戦略による実験では、蛍光信号の分布は実質的に時間の関数として変化する可能性がある。従って、次に、形態学的変化の結果として信号分布における大規模な変化に対するオンデマンド顕微鏡適応を実行するために適応システム160がテストされる。このために、原腸胚形成全体を通して発達中のゼブラフィッシュ幼胚の時空的適応イメージングが実行される。長さ6〜12時間の実験は被包のプロセス全体を捕捉し、これは幼胚全体にわたって大規模な定方向細胞運動によって特徴付けられる(図24A)。従って、顕微鏡は、局所信号の出現について試料ボリュームを連続的に監視し、オンデマンドで、前に蛍光信号が欠落していた新しい領域に急速に適応しなければならない(図24B)。
12時間の低速度撮影実験のうちの最初の4.5時間の間、核局在化GFPを表す細胞は動物から植物半球に移動し、最初は空の基準面z4〜z6を漸次占有する(図24A)。適応システム160は、蛍光における関連の時空的変化を自動的に検出し、これらの新たに占有された領域に光学顕微鏡110を適応させる(図24B及び図24C)。基準面PLの密度は、空間的に変動する光学的性質の妥当な補正を保証するために十分高く設定される。実用的な選択肢は、隣接平面に関するライトシートオフセット補正の差が焦点深度を超えない設定である(〜2μm、その結果、ゼブラフィッシュ幼胚の全体にわたって7つの基準面が得られる、図24C)。これらの設定は典型的に、同じ生物学的モデルシステムによって実行されるすべての実験にわたってロバストである。適応システム160からの以前の測定がまったく入手可能ではない場合、第1の実験においてすでに最適の画像品質を保証しながら、光学効果を査定するために、高密度の基準面(例えば、20μmの間隔)を使用することができる。空の基準面は、それに関する蛍光信号が入手可能な、その最も近い空間隣接物と同じパラメータ変化にかけられる。
大規模な細胞運動中に、光学顕微鏡110は、イメージングボリュームの変化に漸次適応し、局所信号に基づく測定が使用可能になると直ちに画像品質を局所的に最適化する。ショウジョウバエの発達に関して上記で示されているように、時空的適応イメージングは、発達中のゼブラフィッシュ幼胚に関する空間分解能及び画像品質の実質的な改善も提供し、非適応イメージングによって解明されない多くの領域において細胞及び亜細胞の特徴を回復する(図24D)。解像度の定量分析は、適応イメージングによって空間分解能が平均3.1倍(局所的に5.9倍まで)、信号強度が平均2.1倍(局所的に4.8倍まで)改善されたことを示している(図24E及び図25)。適応イメージングによって取得されたデータのフーリエ解析は、半径で20〜30%の増加を更に示し、最大周波数サポートをマークする(図24E)。
動的遺伝子発現の適応マルチカラーイメージング
図26Aから図26Eを参照すると、マルチカラーイメージングは生物における動的プロセスを照会するための強力なツールである。重要な適用例としては、例えば、タンパク質同士の相互作用の研究及び局所組織コンテキストに対する細胞型固有情報の登録を含む。それぞれのマーカの空間分布は頻繁に動的変化を経験し、特定の遺伝子産物を追跡する遺伝子ラベルは低速度撮影実験の開始時に表すことができない。マルチカラー設定における先験的に未知のマーカ分布に対するオンデマンド顕微鏡適応を実証するために、すべての細胞における核局在化RFP及び胚神経系を形成する前駆細胞における細胞質GFPを表す発達中のショウジョウバエ幼胚全体おいて20時間の間、細胞力学を追従した(図26A)。従って、発達中の幼胚における光学的変化への適応に加えて、適応システム160は、試料11の種々の部分におけるGFP表現の発現を自律的に検出し、幼胚全体を通して連続的に変化するGFPの分布に適応しなければならない。更に、2カラーチャンネルは空間的に正しく登録する必要があり、これは色収差の自動検出及び補償を必要とする。
汎神経マーカの時空的表現を追跡することにより(図26B)、適応システム160は、局所的画像品質を改善するための情報をどの測定が提供するかを評価し、低信号を有する領域に対応するデータ点を置換する。この選択的最適化手順は、幼胚全体を通して空間分解能をロバストに改善し、適応イメージングなしでは細胞分解能が欠落する出現中の神経系の多くの部分の個々の細胞を解明する(図26C)。試料及び光学部品によって誘発された色収差は自動的に検出され、除去される(図26D)。その上、照明対物レンズの位置(Y1及びY2)を制御することにより、適応システム160は、ライトシートの最も薄い領域が試料全体にわたって3Dマーカ分布を系統的に追跡することを保証する(図27Aから図27Gに示されている通り)。偏在(RFP)及び汎神経(GFP)マーカは空間的に異なる分布になるので、適応システム160は、それぞれのカラーチャンネルについて個別に最適照明焦点軌跡を決定することにより更に空間分解能を改善する(図26E、図27F、及び図27G)。
幼生ゼブラフィッシュにおける適応全脳機能イメージング
上述の発達イメージング適用を補完すると、適応システム160は時空的適応全脳機能イメージングに適用される。このような実験は、神経細胞活動に応じて強度レベルを変更し、発達イメージング実験よりかなり高い画像取得速度を要求するカルシウム指標によって頻繁に実行される。生後4日及び5日の幼生ゼブラフィッシュの脳の全体わたるライトシート屈折は、ショウジョウバエ幼胚のものより顕著ではない(例えば、図18Dに示されているように、βiは平均して3倍小さい)。しかしながら、ライトシートオフセットIiは、実質的に脳全体わたって変動し、検出焦点の深さに匹敵する空間スケールにおいて時間的に更に動的である。これは、全脳機能イメージングが適応システム160の制御下で実質的に顕微鏡適応の恩恵を受けるはずであることを示唆している。同時に複数のビューからの急速圧電ベースのボリュメトリックイメージングを可能にする光学顕微鏡110設計を利用すると、適応システム160によって仲介されたシステム最適化と同時に高速機能イメージングのためのイメージング検定が開発される。
深さ200μmの脳のボリュームにおよぶライトシート及び7つの基準面の両方に関する適応システム160の測定及び計算は10秒を要する。進んだ発達段階における光学条件の低速ドリフトにより、コアパラメータセット(Ii、Di)に関する10分の更新周波数は最適画像品質を維持するために十分なものである。従って、顕微鏡帯域幅の残りの98%は、3Hzという持続的ボリュームレートでの高分解能全脳イメージングのために排他的に確保することができる。図28Aから図28Dを参照すると、補正済み画像データと未補正画像データとの比較は、適応機能イメージングによって、顕微鏡適応なしでは解明できない複数の脳領域における単細胞分解能が回復され、単一ニューロン活動追跡の忠実度において更に実質的な改善が提供されることを示している。例えば、1時間のイメージング後、画像品質は依然として中脳領域において比較可能なものであるが、前脳領域の未補正画像は実質的な劣化に苦しんでいる(図28D)。20時間の低速度撮影実験の中間点では、前脳及び中脳の両方の大きいセクションにおける画像品質は、適応顕微鏡状態補正なしでは実質的に劣化する。
構造化ライトシートの実施形態
基準面[PL0,PL1,・・・PLK−1]で取られた画像の測定152は、画像内のデータの固有周波数内容とは無関係に自動焦点のロバストネスを保証するために画像内に組み込まれる工学的高周波成分を含むことができる。
構造化ライトシートを使用すると、均一なテクスチャレスマーカ分布を含む、広範囲のマーカ戦略全体にわたってロバストネスが改善される。具体的には、高周波レーザ強度変調によって作成された構造化ライトシートによってライトシートジオメトリと焦点がマッピングされる。このモードでは、画像データの(先験的に既知の)固有周波数内容とは無関係に自動焦点のロバストネスを保証するために、工学的高周波成分が画像に組み込まれる。これに反して、主要画像データ取得は従来の均一ライトシートによって実行される。ロバストネスの強化に加えて、焦点局所化のための構造化ライトシートの使用は試料11のエネルギ荷重を更に低減するものである。
これらの実施形態では、手順1400は構造化ライトシートを作成することも含む。このようにして、測定される(1410)ライトシートイメージングに関する1つ以上の特性は、構造化ライトシートによるサンプルのイメージングに関する1つ以上の特性を含む。構造化ライトシートは、形成されたライトシート12、14の特性をある周波数で変調することによって作成することができる。変調周波数は、ライトシートイメージングの実行に関連する光学的伝達関数に基づいて決定される。
この変調は、像平面内の空間位置の関数としてその周波数でライトシートの強度を変調することによって実行することができる。
結論
適応システム160は、時空的適応ライブイメージングのためのライトシート顕微鏡フレームワークを提供する。このフレームワークは、生体試料において遭遇される動的光学条件に対して連続的にかつ自動的に適応することにより実質的に空間分解能を改善できる「スマート」ライトシート顕微鏡を効果的にもたらすものである。このフレームワークは、多種多様なモデルシステム、蛍光マーカ戦略、及びイメージング検定のためのロバストな性能を提供する。本書で提示されているデータを補完して、適応システム160は、3通りのタイプのライトシート顕微鏡110上に配備される。従って、適応システム160を使用するという手法によって実現される高レベルの自動化により、非熟練者によるライトシート顕微鏡の使用が単純化され、挑戦的な生物試料について作業するか又は複雑なイメージングワークフローを実行する場合でも、イメージング経験が限られているユーザが一貫して最適なデータ品質を得ることができる。
適応システム160の基礎をなす概念は、その他のタイプのライトシート顕微鏡に適用できる設計原理に従うものである。適応システム160は、特定のモードの蛍光励起に抑制されず、従って、2光子イメージング、ベッセルビーム、及び格子ライトシートに適用可能である。概念的に、適応システム160は、任意の数の照明及び検出アームを備えた顕微鏡設計に一般化され、必要であれば、追加の自由度を容易に操作することができる。
また、時空的適応イメージングのための適応システム160は、大きい生体試料におけるライトシートベースの適応光学部品のための基礎も築くものである。適応システム160を使用して得られるライトシートと検出焦点面との間の空間的オーバーラップの最適化は、このための重要な前提条件である。従って、適応システム160は、顕微鏡の照明及び検出アーム内の波面センサ、空間光変調器、及び変形可能ミラーを操作するように更に拡張することができ、それにより、補完的な光学補正を可能にすることになるであろう。
適応システム160によって達成される高分解能及びシステム自動化は更に、大きい生物試料の高分解能ライブイメージングのためのハイスループット検定に対して門戸を開放するものである。多細胞生物の高分解能インビボデータを必要とする本質的にすべての調査を利することに加えて、適応システム160は、自動ドラッグスクリーン、突然変異体スクリーン、並びに様々な生物学的モデルシステムにおける解剖学的及び発達上のアトラスの構築のためのライトシート顕微鏡の使用を可能にすることができる。
自動時空的適応システム160は、手動適応システムと比較した時に適応のための時間を低減する。その上、自動時空的適応システム160は、多数のパラメータが制御されるので、顕微鏡システム100内で機能するのに手動適応システムより適している。更に、試料11の光学的性質はライブイメージング中に変化し、その変化が発生する速度は急速すぎて手動調整できないので、自動時空的適応システム160は手動システムよりライブイメージング時に実行するのに適している。関心のある生物学的プロセスの発現(例えば、初期発生事象をイメージングする場合)又は試料11の劣化の発現(例えば、敏感な臓器外植片をイメージングする場合)の前に限られた時間しか使用可能ではないことを考慮すると、実験の開始時でも手動手法は現実的なオプションではない場合が多い。低速度撮影イメージング中に生体試料11における時空的変化を連続的に手動監視し、それに対して光学顕微鏡110を適応させることは実際的に実行可能ではない。従って、大きいか又は複雑な生体試料11において空間分解能を系統的に最適化するには、自動時空的適応イメージングが可能な顕微鏡システム100が必要である。
自動時空的適応システム160は、遺伝的にコード化された蛍光マーカの時空的動力学に自動的に適応し、生物における大規模な形態形成変化中にイメージング性能をロバストに最適化する。自動時空的適応システム160によって実現される高レベルの顕微鏡自動化は更に、非熟練ユーザがライトシート顕微鏡をフル活用して、最適品質の画像データを生成できるようにする。自動時空的適応システム160は本明細書では光学顕微鏡110の特定の設計に関連して示されているが、その他のライトシート顕微鏡設計に容易に適応できる一般的なシステムである。その上、自動時空的適応システム160は、非適応ライトシート顕微鏡では解明できない、多くの解剖学的領域内の細胞及び亜細胞の特徴を回復する。自動時空的適応システム160を使用して、発達中のゼブラフィッシュ(学名:Danio rerio)及びキイロショウジョウバエ幼胚全体の長期適応イメージングが実証され、幼生ゼブラフィッシュにおける適応全脳機能イメージングが実行される。