JP6140737B2 - 多焦点構造化照射顕微鏡検査システムおよび方法 - Google Patents

多焦点構造化照射顕微鏡検査システムおよび方法 Download PDF

Info

Publication number
JP6140737B2
JP6140737B2 JP2014558888A JP2014558888A JP6140737B2 JP 6140737 B2 JP6140737 B2 JP 6140737B2 JP 2014558888 A JP2014558888 A JP 2014558888A JP 2014558888 A JP2014558888 A JP 2014558888A JP 6140737 B2 JP6140737 B2 JP 6140737B2
Authority
JP
Japan
Prior art keywords
focus
multifocal
fluorescence emission
fluorescence
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014558888A
Other languages
English (en)
Other versions
JP2015513671A (ja
Inventor
ハリ シャロフ,
ハリ シャロフ,
アンドリュー ヨーク,
アンドリュー ヨーク,
Original Assignee
ザ ユナイテッド ステイツ オブ アメリカ, アズ リプレゼンテッド バイ ザ セクレタリー, デパートメント オブ ヘルス アンド ヒューマン サービシーズ
ザ ユナイテッド ステイツ オブ アメリカ, アズ リプレゼンテッド バイ ザ セクレタリー, デパートメント オブ ヘルス アンド ヒューマン サービシーズ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ザ ユナイテッド ステイツ オブ アメリカ, アズ リプレゼンテッド バイ ザ セクレタリー, デパートメント オブ ヘルス アンド ヒューマン サービシーズ, ザ ユナイテッド ステイツ オブ アメリカ, アズ リプレゼンテッド バイ ザ セクレタリー, デパートメント オブ ヘルス アンド ヒューマン サービシーズ filed Critical ザ ユナイテッド ステイツ オブ アメリカ, アズ リプレゼンテッド バイ ザ セクレタリー, デパートメント オブ ヘルス アンド ヒューマン サービシーズ
Publication of JP2015513671A publication Critical patent/JP2015513671A/ja
Application granted granted Critical
Publication of JP6140737B2 publication Critical patent/JP6140737B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0072Optical details of the image generation details concerning resolution or correction, including general design of CSOM objectives
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0032Optical details of illumination, e.g. light-sources, pinholes, beam splitters, slits, fibers
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0036Scanning details, e.g. scanning stages
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0036Scanning details, e.g. scanning stages
    • G02B21/004Scanning details, e.g. scanning stages fixed arrays, e.g. switchable aperture arrays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N2021/6463Optics
    • G01N2021/6478Special lenses
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/06Illumination; Optics
    • G01N2201/063Illuminating optical parts
    • G01N2201/0633Directed, collimated illumination

Description

(関連出願への相互参照)
本出願は、2012年2月23日に出願された米国仮特許出願第61/602,139号に対して優先権を主張するPCT特許出願である。上記文献は、その全体として参照することによって本明細書において援用される。
(分野)
本明細書は、多焦点構造化照射顕微鏡検査に関し、特に、試料の多焦点パターンから生じる複数の多焦点蛍光発光を生成するための多焦点構造化照射顕微鏡検査システムおよび方法に関する。
(背景)
従来の蛍光顕微鏡検査は、「回折限界」と称される光の波長によって、分解能が限定され、これは、試料が顕微鏡によって検出される蛍光を放出するときの典型的励起および放出波長において、横方向分解能を約200nmに、軸方向分解能を約500nmに制限する。共焦点顕微鏡検査は、点照射および空間ピンホール配列を使用して、焦点面より厚い標本からの焦点外放出光を排除し、それによって、ピンホールを緊密に閉鎖することを要求する方法による回折限界より1.41倍の分解能を伴う画像を送達することによって、回折限界を超えて、光学分解能を増加させるために使用される、光学撮像技法である。残念ながら、ピンホールの閉鎖は、超分解能の本特定の方法を非実践的にするほど、試料から放出される光の信号レベルを低下させる。加えて、共焦点顕微鏡検は、不整合ピンホールが、検出された光信号の低減かつ脆弱をもたらすだけではなく、試料自体の軸方向光学切片化の低減をもたらすため、顕微鏡の照射ビームからの励起をピンホール/検出器と完璧に整合させなければならない。したがって、共焦点顕微鏡の不整合は、光信号の低減を生じさせ得る。
共焦点顕微鏡検査の分解能向上のための方法が、見出されているが、それは、カメラ画像内の画素等、検出器のアレイを使用し、アレイ内の検出器がそれぞれ、別個の共焦点画像を生成するものである。検出器のアレイが、十分に小さい場合、形成された共焦点画像はそれぞれ、共焦点画像が適切に整合されるとき、回折限界顕微鏡の1.41倍の分解能が達成されるほど、緊密に閉鎖されたピンホールを伴う共焦点顕微鏡によって形成される類似共焦点画像に匹敵し得る。加えて、デコンボリューションは、画像分解能にさらなる増加を提供する。しかしながら、本検出器アレイ配列は、単一励起点のみ試料の2次元平面全体を通して走査されるため、限定され、これは、試料が走査され得る速度および試料の蛍光発光の後続検出を限定する。
構造化照射顕微鏡検査(SIM)と称される、別のタイプの顕微鏡検査は、試料に対して異なる位置に平行移動および回転される、空間的に変調された励起強度で試料を照射し、広視野画像が、各平行移動および回転において撮影される。未加工画像を適切に処理することによって、従来の広視野顕微鏡検査の2倍の横方向分解能を有する、最終画像がもたらされる。そのようなSIMシステムは、従来の顕微鏡の2倍の空間分解能を伴う画像を発生させるが、複数の未加工画像のそれぞれを取得するために時間がかかるため、最終画像を生成するとき、依然として、時間的分解能を犠牲にする。SIMはまた、「光学切片化」として知られる焦点外ぼけを排除するために使用され得る。しかしながら、そのような光学切片化は、計算上で行なわれ、したがって、ショット(Poisson)雑音を被る。SIMは、したがって、背景蛍光が、焦点内信号を圧倒するほどのこのようなショット雑音寄与を生じさせ得るとき、厚いまたは著しく染色された試料には不適切である。
したがって、当技術分野において、走査速度を犠牲にせず、各高分解能画像のための試料の多焦点励起パターンを生成し、SIM画像を破壊し得る、ショット雑音を抑制する、構造化照射顕微鏡検査システムの必要性が、存在する。
(要約)
ある実施形態では、顕微鏡検査システムは、単一光ビームを伝送するための光源と、単一光ビームを複数の光ビームに分割し、多焦点パターンを形成するためのビームスプリッタとを含んでもよい。スキャナは、試料が各多焦点パターンから生じる複数の蛍光発光を発生させるように、多焦点パターンを試料上に形成する、複数の光ビームを走査する。焦点化構成要素は、次いで、各多焦点パターンから生じる複数の蛍光発光の焦点外蛍光発光を物理的に遮断するように構成された開口を画定し、焦点内蛍光発光を、開口を通して通過させる。加えて、スケーリング構成要素は、複数の焦点内蛍光発光のそれぞれが、所定の係数によってスケールダウンされ、各多焦点パターンから生じる複数のスケーリングされた焦点内蛍光発光を生成するように、各多焦点パターンから生じる複数の焦点内蛍光発光をスケールダウンする。加算構成要素は、複数のスケーリングされた焦点内蛍光発光のそれぞれを加算し、複数の加算されたスケーリングされた焦点内蛍光発光の複合画像を形成する複数の加算されたスケーリングされた焦点内蛍光発光を生成する。
別の実施形態では、顕微鏡検査システムは、単一光ビームを伝送するための光源と、単一光ビームを複数の光ビームに分割し、複数の多焦点パターンを形成するためのビームスプリッタであって、複数の多焦点パターンのそれぞれは、複数の焦点を画定する、ビームスプリッタと、試料が、多焦点パターンのそれぞれから生じる複数の蛍光発光を発生させるように、複数の多焦点パターンのそれぞれを形成する複数の光ビームを試料上に走査するためのスキャナであって、複数の多焦点パターンのそれぞれは、複数の蛍光焦点を画定する、スキャナと、多焦点パターンのそれぞれから生じる複数の蛍光発光を収集するための検出器と、検出器から収集された多焦点蛍光発光を処理するための処理システムとを含み得、処理システムは、複数の収集された多焦点蛍光発光を記憶するために、データベースと動作通信するプロセッサを備え、プロセッサは、複数の多焦点パターンのそれぞれから生じる焦点外蛍光発光を除去し、複数の多焦点パターンのそれぞれから生じる焦点内蛍光発光のみを残し、次いで、プロセッサは、局所縮小動作において、複数の多焦点パターンのそれぞれから生じる焦点内蛍光発光をスケーリングし、多焦点パターンのそれぞれから生じる複数の蛍光放出のそれぞれは、複数の蛍光発光が縮小し、スケーリングされた焦点内蛍光発光を生成するにつれて、多焦点パターンから生じる別の複数の蛍光発光から同一の割合の距離を維持し、プロセッサは、複数の多焦点焦点内蛍光発光を加算し、複合画像を生成する。
さらに別の実施形態では、多焦点構造化照射顕微鏡検査のための方法は、
単一光ビームを発生させることと、
単一光ビームを複数の光ビームに分割することであって、複数の光ビームのそれぞれの焦点は、複数の多焦点パターンを形成する、ことと、
複数の多焦点パターンのそれぞれを形成する複数の光ビームで試料を照射することであって、照射された試料は、複数の多焦点パターンのそれぞれから生じる複数の蛍光発光を生成する、ことと、
ピンホール動作を行なうことであって、複数の蛍光発光からの焦点外蛍光発光が遮断され、複数の蛍光発光からの焦点内蛍光発光のみが、ピンホール動作の間、通過される、ことと、
所定の係数によって、複数の多焦点パターンから生じる複数の焦点内蛍光発光の各焦点をスケーリングし、複数の多焦点パターンから生じる複数のスケーリングされた焦点内蛍光発光を生成することと、
複数のスケーリングされた焦点内蛍光放出のそれぞれを加算し、複合画像を形成することと
を含んでもよい。
例えば、本願発明は以下の項目を提供する。
(項目1)
顕微鏡検査システムであって、
単一光ビームを伝送するための光源と、
前記単一光ビームを複数の光ビームに分割し、多焦点パターンを形成するためのビームスプリッタと、
試料が、各多焦点パターンを伴う複数の蛍光発光を発生させるように、前記多焦点パターンを前記試料上に形成する、前記複数の光ビームを走査するためのスキャナと、
各多焦点パターンのための前記複数の蛍光発光の焦点外蛍光発光を遮断するように構成された開口を画定し、焦点内蛍光発光を、前記開口を通して通過させる、焦点化構成要素と、
前記複数の焦点内蛍光発光のそれぞれが、スケールダウンされ、各多焦点パターンのための複数のスケーリングされた焦点内蛍光発光を生成するように、各多焦点パターンのための前記複数の焦点内蛍光発光をスケールダウンするためのスケーリング構成要素と、
前記複数のスケーリングされた焦点内蛍光発光のそれぞれを加算し、複数の加算されたスケーリングされた焦点内蛍光発光の複合画像を形成する前記複数の加算されたスケーリングされた焦点内蛍光発光を生成するための加算構成要素と
を備える、システム。
(項目2)
前記ビームスプリッタは、マクロレンズアレイである、項目1に記載の顕微鏡検査システム。
(項目3)
前記焦点化構成要素は、ピンホールアレイである、項目1に記載の顕微鏡検査システム。
(項目4)
前記スケーリング構成要素は、複数のマクロレンズアレイである、項目1に記載の顕微鏡検査システム。
(項目5)
各多焦点パターンは、前記複数の焦点内蛍光発光のそれぞれのための複数の個別の焦点を画定し、前記スケーリング構成要素は、局所縮小において、前記複数の焦点をスケーリングし、前記多焦点パターン内の前記複数の焦点のそれぞれは、前記複数の蛍光発光が、所定の係数によって、縮小するにつれて前記多焦点パターン内の他の複数の焦点から同一の割合の距離を維持する、項目1に記載の顕微鏡検査システム。
(項目6)
前記複合画像をデコンボリューションするための処理サブシステムをさらに備える、項目1に記載の顕微鏡検査システム。
(項目7)
前記スキャナは、前記試料によって放出される前記複数の蛍光発光を前記焦点化構成要素に逆走査する、項目1に記載の顕微鏡検査システム。
(項目8)
前記複数の光ビームを一方向に通過させ、反対方向からの前記複数の蛍光発光を再指向させるためのダイクロイックミラーをさらに備える、項目1に記載の顕微鏡検査システム。
(項目9)
チューブレンズおよび対物レンズを通して前記試料を照射する前記複数の光ビームを結像するための第1のレンズをさらに備える、項目1に記載の顕微鏡検査システム。
(項目10)
前記複数の光ビームは、350nm〜1200nmの波長を有する、項目1に記載の顕微鏡検査システム。
(項目11)
前記複数の蛍光発光は、350nm〜1200nmの波長を有する、項目1に記載の顕微鏡検査システム。
(項目12)
約350nm〜1200nmのスケーリングされた焦点内蛍光発光を検出器に通過させるための発光フィルタをさらに備える、項目11に記載の顕微鏡検査システム。
(項目13)
前記複数のスケーリングされた焦点内蛍光放出を検出するための検出器をさらに備える、項目1に記載の顕微鏡検査システム。
(項目14)
前記スキャナは、前記スケーリングされた焦点内蛍光発光を前記検出器に再走査する、項目12に記載の顕微鏡検査システム。
(項目15)
顕微鏡検査システムであって、
単一光ビームを伝送するための光源と、
前記単一光ビームを複数の光ビームに分割し、複数の多焦点パターンを形成するためのビームスプリッタであって、前記多焦点パターンのそれぞれは、複数の焦点を画定する、ビームスプリッタと、
試料が、複数の蛍光焦点を画定する前記多焦点パターンのそれぞれ内に複数の多焦点蛍光発光を発生させるように、前記試料上に前記多焦点パターンのそれぞれを形成する、前記複数の光ビームを走査するためのスキャナと、
前記多焦点パターンのそれぞれから生じる前記複数の多焦点蛍光発光を収集するための検出器と、
前記検出器から収集された前記多焦点パターンのそれぞれから生じる前記複数の多焦点蛍光発光を処理するための処理システムと
を備え、
前記処理システムは、前記多焦点パターンから生じる前記複数の収集された多焦点蛍光発光を記憶するためのデータベースと動作通信するプロセッサを備え、前記プロセッサは、前記複数の蛍光発光のそれぞれのための焦点外蛍光発光を除去し、前記複数の多焦点パターンのそれぞれから生じる焦点内蛍光発光のみを残し、次いで、前記プロセッサは、局所縮小動作において、前記複数の多焦点パターンのそれぞれから生じる前記焦点内蛍光発光をスケーリングし、前記多焦点パターンのそれぞれから生じる前記複数の蛍光焦点のそれぞれは、前記複数の蛍光焦点が、縮小し、スケーリングされた焦点内蛍光発光を生成するにつれて、前記多焦点パターンから生じる別の複数の蛍光焦点から同一の距離を維持し、前記プロセッサは、各スケーリングされた焦点内蛍光発光を加算し、複合画像を生成する、システム。
(項目16)
前記プロセッサが、前記スケーリングされた焦点内蛍光発光を伴う前記複数の多焦点パターンを処理するためのデコンボリューション動作を実行することをさらに含む、項目15に記載の顕微鏡検査システム。
(項目17)
前記ビームスプリッタは、デジタルマイクロミラーデバイスまたは掃引場共焦点ユニット、または回転盤、またはNipkow共焦点走査ヘッドである、項目15に記載の顕微鏡検査システム。
(項目18)
前記処理システムは、前記複数の多焦点パターンのそれぞれの自動格子検出を実行し、1つ以上の照射スポットの位置を判定する、項目15に記載の顕微鏡検査システム。
(項目19)
前記自動格子検出は、複数のベクトルを判定し、前記1つ以上の照射スポットのそれぞれの位置を特定する、項目18に記載の顕微鏡検査システム。
(項目20)
前記複数のベクトルは、格子ベクトル、シフトベクトル、および/またはオフセットベクトルを含む、項目19に記載の顕微鏡検査システム。
(項目21)
前記格子ベクトルのうちの2つは、任意の2つの近隣照射スポット間の2次元変位を規定する、項目20に記載の顕微鏡検査システム。
(項目22)
多焦点構造化照射顕微鏡のための方法であって、
単一光ビームを発生させることと、
前記単一光ビームを複数の光ビームに分割することであって、各前記複数の光ビームの焦点は、複数の多焦点照射パターンを形成する、ことと、
試料を前記複数の多焦点照射パターンのそれぞれを形成する前記複数の光ビームで照射することであって、前記照射された試料は、前記複数の多焦点パターンにおいて、複数の蛍光発光を生成する、ことと、
ピンホール動作を行なうことであって、前記複数の蛍光発光からの焦点外蛍光放出が遮断され、前記複数の蛍光発光からの焦点内蛍光放出のみが、前記ピンホール動作の間、通過される、ことと、
所定の係数によって、前記複数の多焦点パターンから生じる前記複数の焦点内蛍光発光の各焦点をスケーリングし、前記複数の多焦点パターンから生じる複数のスケーリングされた焦点内蛍光発光を生成することと、
前記複数のスケーリングされた焦点内蛍光発光のそれぞれを加算し、複合画像を形成する複数の加算されたスケーリングされた焦点内蛍光発光を生成することと
を含む、方法。
(項目23)
前記複数の多焦点パターンのそれぞれから生じる前記複数のスケーリングされた焦点内蛍光発光は、局所縮小を受け、多焦点パターン内の焦点のそれぞれ間の相対的距離は、割合が同一を維持する、項目22に記載の方法。
(項目24)
前記試料上に前記複数の多焦点パターン内の前記複数の光ビームを走査することをさらに含む、項目22に記載の方法。
(項目25)
前記試料上に前記複数の多焦点パターンを走査することは、検流計によって行なわれる、項目24に記載の方法。
(項目26)
加算されたスケーリングされた焦点内蛍光発光から成る前記複合画像上でデコンボリューション動作を行なうことをさらに含む、項目22に記載の方法。
(項目27)
多焦点構造化照射顕微鏡のための方法であって、
単一光ビームを発生させることと、
前記単一光ビームを複数の光ビームに分割することであって、各前記複数の光ビームの焦点は、複数の多焦点パターンを形成する、ことと、
前記複数の多焦点パターンのそれぞれを形成する前記複数の光ビームで試料を照射することであって、前記照射された試料は、各前記複数の多焦点パターンから生じる複数の蛍光発光を生成する、ことと、
ピンホール動作を行なうことであって、前記複数の蛍光発光からの焦点外蛍光発光が遮断され、前記複数の蛍光発光からの焦点内蛍光発光のみが、前記ピンホール動作の間、通過される、ことと、
所定の係数によって、前記複数の多焦点パターンから生じる前記複数の焦点内蛍光発光の各焦点をスケーリングし、前記複数の多焦点パターンから生じる複数のスケーリングされた焦点内蛍光発光を生成することと、
前記複数のスケーリングされた焦点内蛍光放出のそれぞれを加算し、複合画像を形成することと
を含み得る、方法。
(項目28)
前記加算されたスケーリングされた焦点内蛍光発光から生じる前記複合画像上でデコンボリューション動作を行なうことをさらに含む、項目27に記載の方法。
付加的目的、利点、および新規特徴は、以下の説明に記載され、以下の図面および発明を実施するための形態の検討に応じて、当業者に明白となるであろう。
図1は、多焦点構造化照射顕微鏡検査(SIM)システムにおいて、多焦点パターンを発生させるための一方法を図示する、簡略化されたブロック図である。 図2は、多焦点SIMシステムの別の実施形態において、多焦点パターンを発生させるための別の方法を図示する、簡略化されたブロック図である。 図3は、図1の多焦点SIMシステムの一実施形態のための種々の構成要素を示す、簡略化された例証図である。 図4は、図2の多焦点SIMシステムの一実施形態のための種々の構成要素を示す、簡略化された例証図である。 図5は、複数の焦点を伴う多焦点パターンを示す、簡略化された例証図である。 図6は、試料によって放出される多焦点パターンから生じる、焦点内蛍光発光をスケーリングする、スケーリング動作を示す、簡略化された例証図である。 図7は、図4の多焦点SIMシステム内の処理システムによって、スケーリング、および加算動作を行なうための一方法を図示する、流れ図である。 図8は、処理システムの焦点外蛍光排除、スケーリング、および加算動作を実行するときの格子ベクトルを取得するための一方法を図示する、流れ図である。 図9は、処理システムの焦点外蛍光排除、スケーリング、および加算動作を実行するときのオフセットベクトルを取得するための一方法を図示する、流れ図である。 図10は、処理システムの焦点外蛍光排除、スケーリング、および加算動作を実行するときのシフトベクトルを取得するための一方法を図示する、流れ図である。 図11は、処理システムの焦点外蛍光排除、スケーリング、および加算動作を実行するときのピンホールマスキングの一方法を図示する、流れ図である。 図12は、処理システムの焦点外蛍光排除、スケーリング、および加算動作を実行するときのスケーリングおよび局所縮小のための一方法を図示する、流れ図である。 図13は、処理システムの焦点外蛍光排除、スケーリング、および加算動作を実行するときの加算のための一方法を図示する、流れ図である。 図14は、多焦点SIMシステムの一実施形態の試験の間に使用される照射システムを示す、簡略化された例証図である。 図15は、フルオロマウント内に埋め込まれた試料の種々の画像を図示する。 図16は、フルオロマウント内に埋め込まれた二重標識された3次元試料の種々の画像を図示する。 図17は、ピンホール焦点化、スケーリング、および3次元デコンボリューション後の多焦点照射システムを使用した試料の種々の画像を図示する。
対応する参照文字は、図面の表示間で対応する要素を示す。図中で使用される見出しは、請求項の範囲を限定するものと解釈されるものではない。
(詳細な説明)
現在の顕微鏡検査では、構造化照射顕微鏡検査(SIM)は、後に検出される試料蛍光を励起させるための空間的にパターン化された光と、従来の広視野顕微鏡検査画像の2倍の分解能を伴う超分解能画像を生成するように処理された1つ以上の画像とを使用して、単一細胞を検査するために使用され得る。しかしながら、SIM顕微鏡は、分解能が高いほど速度を犠牲にする(超分解能画像毎に複数の未加工画像を撮影する)。さらに、SIMシステムにおける光学切片化は、計算上で行なわれ、したがって、蛍光背景に固有のショット雑音を受けやすい。これは、検査され得る試料の厚さを限定し、それによって、より厚い試料を検査するとき、他の顕微鏡検査技法が使用されることを要求する。例えば、共焦点顕微鏡検査システムは、ピンホール配列を使用して、焦点外光を物理的に排除し、試料によって放出される放出光からの特定の焦点のみからの光をシステムによって検出させ、それによって、SIM顕微鏡によって達成可能であるものより比較的に厚い試料の高コントラストの光学的に切片化された画像を生成する。共焦点顕微鏡はまた、従来の広視野顕微鏡検査と比較して、向上した分解能を提供可能である。しかしながら、共焦点顕微鏡によって向上した本画像分解能は、ピンホール配列を絞ることによって達成され、これは、対応して、試料から検出される蛍光発光信号の著しい損失をもたらす。修正された共焦点顕微鏡は、放出信号強度を犠牲にせずに、SIM顕微鏡の分解能レベルまで画像分解能を改善することが示されている。しかしながら、本顕微鏡によって達成される走査速度の遅さは、研究目的には非実践的である。
したがって、本明細書に記載される多焦点SIMシステムの実施形態は、従来の顕微鏡検査撮像システムによって要求される走査速度および信号強度を犠牲にせずに、高画像分解能を達成することに関連する問題を解決し、現在市販のSIMシステムより厚い試料において優れた性能を提供する、特定の構成要素、特性、および特徴を含む。本明細書に説明される多焦点SIMシステムは、試料の撮影される画像毎に多焦点励起パターンを発生させ、従来の共焦点顕微鏡検査およびSIMシステムと比較して、有意な信号損失を伴わずに、高走査率で高分解能画像を生成する、特定の構成要素を含む。多焦点SIMシステムおよび方法のさらなる詳細は、以下により詳細に論じられる。
図面を参照すると、多焦点SIMシステムの種々の実施形態が、図示され、図1−4では、概して、100および200として示される。図1に図示されるように、100として指定される、多焦点SIMシステムの一般的実施形態の1つが、示される。多焦点SIMシステム100は、照射パターン発生動作102を行い、1つ以上の多焦点パターンを発生させるために、単一光ビームを複数の光ビームに分割し、各多焦点パターンは、複数の光ビームのそれぞれのための焦点の配列を画定する。例えば、多焦点パターン170の一実施例の簡略化された例証図は、図5に示される。一実施形態では、多焦点パターン170は、複数の光ビームによって画定される特定の多焦点パターン170に配列される、複数の焦点172を含んでもよく、各多焦点パターン170は、多焦点パターン170が、焦点172の所与の密度に対して、任意の2つの最近傍焦点172間の距離を最小限にし、それによって、クロストークを最小限にするように、複数の光ビームのための焦点の異なる配列を画定する。本明細書で使用されるように、クロストークという用語は、他の焦点からの励起および蛍光が、当該焦点から生じるかのように表出させる、近傍光ビームの能力を指す。走査動作104では、各多焦点照射パターン内の複数の光ビームは、試料106が複数の蛍光発光を放出するように照射されている試料106上にラスタされる。試料106によって放出される蛍光発光は、焦点化動作110における焦点外蛍光発光の除去のために複数の蛍光発光を再指向される、逆走査動作108においてラスタされる。焦点化動作110では、焦点外蛍光発光は、遮断され、焦点内蛍光発光のみ、処理のために通過される。
各多焦点パターンによって生じる焦点内蛍光発光は、次いで、所定の係数によって、蛍光発光のそれぞれを局所的に縮小させるスケーリング動作112を使用して、スケーリングされる。図6に図示されるスケーリング動作112の一実施形態では、単一多焦点パターン170内に生じた蛍光焦点172の局所縮小が、生じる。例えば、多焦点パターン170内における、それぞれ、スケーリングされた蛍光焦点172A’および172B’への蛍光焦点172Aおよび172Bの局所縮小は、蛍光焦点172Aおよび172Bの幾何学的中心175間の距離300ならびに蛍光焦点172Aおよび172Bの距離302が、多焦点パターン170の蛍光焦点172に適用されたスケーリングの程度のかかわらず、同一のままであるように行なわれる。言い換えると、スケーリング動作112は、蛍光焦点のそれぞれ間の相対的距離を同一に維持しながら、蛍光焦点172を局所的に縮小させる。スケーリング動作112後、各多焦点照射パターンのためのスケーリングされた焦点内蛍光発光は、次いで、収集および加算動作116において、各多焦点パターンによって生じた縮小された焦点内蛍光発光を検出器によって収集および加算させ、複合高分解能画像を生成させる、再走査動作114において、ラスタされる。
いくつかの実施形態では、収集および加算動作116後、複合画像は、複合画像の分解能をさらに向上させる一定レベルのぼけ除去を行なう、デコンボリューション動作118を受けてもよい。デコンボリューション動作118は、市販のPiotyr Wendykier’s Parallel Iterative Deconvolution Plugin等の任意の従来のデコンボリューション動作118であってもよい。
図2を参照すると、200として指定される、多焦点SIMシステムの別の実施形態による、多焦点パターンを発生させるための別の方法が、図示される。多焦点SIMシステム200は、照射パターン発生動作202を行い、単一光ビームが、複数の光ビームの1つ以上の多焦点パターンを発生させるために、複数の光ビームに分割される。走査動作204では、各多焦点パターンのための複数の光ビームが、試料206上にラスタされる。試料206は、収集動作208において検出された多焦点パターンに応答して、蛍光発光を生成する。収集動作208では、検出器は、焦点内蛍光発光を収集し、収集されたデータを処理動作210を行なう処理システムに伝送する。処理動作210は、各多焦点パターン内の焦点外蛍光発光を除去し、残りの焦点内蛍光発光をスケーリングし、次いで、スケーリングされた焦点内蛍光発光を加算し、多焦点パターンによって作成された複数の蛍光発光から構成される複合画像を発生させる。いくつかの実施形態では、収集されたデータは、次いで、画像分解能をさらに向上させる複合画像のぼけ除去を行なう、デコンボリューション動作120に類似するデコンボリューション動作212を受けてもよい。
図3を参照すると、多焦点SIMシステム100の一実施形態は、マクロレンズアレイ等のビームスプリッタ124を通して伝送される、単一光ビーム122を発生させるための照射源120、例えば、レーザを含んでもよい。ビームスプリッタ124は、単一光ビーム122を、集合的に多焦点パターン128を形成する異なる焦点を有する複数の光ビーム126のそれぞれを伴う、複数の光ビーム126に分割する。いくつかの実施形態では、第1のレンズ130は、各多焦点パターン128を、画像ダイクロイックミラー132を通して、方向Aに、そして、検流計等の走査装置134上へと結像し、走査動作104を行なう。
走査動作104の間、走査装置134は、複数の光ビーム126の各多焦点パターン128を、試料144上へ、第2のレンズ136、チューブレンズ138、および対物レンズ140の配列を通して、そして、試料144上へとラスタする。
試料144が複数の光ビーム126の多焦点パターン128によって照射されることに応答して、試料144は、光ビーム126から成る多焦点パターン128によって生じる蛍光発光142を放出させる。照射された試料144によって放出される各多焦点パターン128のための複数の蛍光発光142は、次いで、対物レンズ140を通して捕捉され、チューブレンズ138および第2のレンズ136を通して、複数の光ビーム126が、直接、ダイクロイックミラー132に通過する、方向Aと反対の方向Bに、第2のレンズ136からの蛍光発光142をダイクロイックミラー132上にラスタすることによって、複数の蛍光発光142のそれぞれを逆走査する、走査装置134上に通過される。方向Bでは、複数の蛍光発光142は、ダイクロイックミラー132によって再指向され、第3のレンズ146に通過され、そこで、複数の蛍光発光142は、次いで、ピンホールアレイ148上に焦点化され、ピンホール動作110を行なう。
ピンホール動作110の間、ピンホールアレイ148は、焦点外蛍光発光142を物理的に遮断および排除し、焦点内蛍光発光142Aのみ、ピンホールアレイ148に通過させる。一実施形態では、ピンホールアレイ148は、焦点内蛍光発光142Aのみをピンホールアレイ148に通過させる一方、開口のうちのを1つも通過しない、いかなる蛍光発光142も遮断するように構成される、複数の開口を含んでもよい。
ピンホールアレイ148を通過後、複数の焦点内蛍光発光142Aは、第2のマクロレンズアレイ152と直列に配列された第1のマクロレンズアレイ150を使用して、所定の係数、例えば、係数2によって、個別の多焦点パターン128のための焦点のそれぞれを局所的に縮小する、前述のスケーリング動作112を使用してスケーリングされる。一実施形態では、第1のマクロレンズアレイ150は、焦点内蛍光発光142Aの多焦点パターン128をコリメートする一方、第2のマクロレンズアレイ152は、コリメートされた焦点内蛍光発光142Aを受光し、各焦点が所定の係数によってスケールダウンされ、多焦点パターン128の局所縮小を達成するように、コリメートされた焦点内蛍光発光142Aのための焦点距離を修正する。いくつかの実施形態では、各多焦点パターン128によって生じたスケーリングされた焦点内蛍光発光142Bは、次いで、第1のミラー154によって再指向され、スケーリングされた焦点内蛍光発光142Bを第2のミラー156上に焦点化するために、第4のレンズ158を通過する。第2のミラー156は、スケーリングされた焦点内蛍光発光142Bを再指向し、特定の波長、例えば、515nmを伴うスケーリングされた焦点内蛍光発光142Bのみ、発光フィルタ160を通過させる、発光フィルタ160を通過する。スケーリングされた焦点内蛍光発光142Bが、フィルタ処理されると、走査装置134は、各多焦点パターン128のためのスケーリングされた焦点内蛍光発光142Bが、収集され、焦点内蛍光発光142Bが、検出器164によって加算され、複合画像143を生成するように、第5のレンズ162を通して、検出器164上に蛍光発光142Bをラスタする。多焦点パターン128によって生じた蛍光発光142Bを収集するプロセスは、視野全体が照射され、全ての結果として生じる蛍光発光142Bが検出器164によって収集されるまで、繰り返される。
いくつかの実施形態では、検出器164は、視野全体が照射され、全ての収集されたデータが受信されるまで、収集のために、スケーリングされた焦点内蛍光発光142Bが、検出器164上にラスタされるにつれて露出させるために、シャッタが開放されたままのカメラであってもよい。
いくつかの実施形態では、複合画像143は、ぼけ除去機能を行い、各複合画像143の分解能を向上させる、デコンボリューション動作118を行なう、処理システム166に伝送される。
図4を参照すると、多焦点パターン223を発生させるための多焦点SIMシステム200の一実施形態は、拡大された光ビーム203を、ビームスプリッタ209、例えば、市販のデジタルマイクロミラーデバイス(DMD)または掃引場共焦点ユニット上に走査する、走査動作204を行なうためのビーム操向ミラー207に反射する、拡大された単一光ビーム203を生成する、ビーム拡大器205を通して伝送される、単一光ビーム203を発生させる、照射源201を含んでもよい。いくつかの実施形態では、DMDは、多焦点パターン223を発生および切り替え、各焦点は、多焦点パターン223上の照射されたスポットである。各照射スポットは、拡大された光ビーム203の一部が、単一DMDミラー画素に反射するように、ON位置にある単一DMDミラー画素によって作成される。ビームスプリッタ209は、走査されている拡大された光ビーム203を、集合的に一連の多焦点パターン223を形成する複数の拡大された光ビーム203Aに分割する、照射パターン発生動作202を行なう。各多焦点パターン223のための複数の拡大された光ビーム203Aは、第1のチューブレンズ211を通して通過され、方向Aに沿って、直接、ダイクロイックミラー213を通して通過する。
直接、ダイクロイックミラー213を通して通過後、拡大された光ビーム203Aは、試料217の試料照射206を行なうために、対物レンズ215によって、試料平面上に焦点化され、試料217によって放出される複数の蛍光発光205を発生させる。収集動作208では、蛍光発光222は、各多焦点パターン223のための蛍光発光222が再指向され、第2のチューブレンズ219を通して通過するような方向Cと反対の方向Dに沿って、対物レンズ215を通して、ダイクロイックミラー213上に逆焦点化される。第2のチューブレンズ219は、蛍光発光222を検出器221上に焦点化し、したがって、焦点外光を排除し、スケーリング、および加算動作210を行なう処理システム225に伝送するために、収集されたデータ227の形態において、各多焦点パターン223を収集する。各多焦点パターンによって生じた蛍光発光222を収集するプロセスは、視野全体が照射されるまで繰り返される。いくつかの実施形態では、処理システム225は、以下により詳細に論じられるように、命令を実行することによって、コンピュータ可読媒体等のデータベース232内に記憶された収集されたデータ227を処理するために、検出器221と動作通信するプロセッサ230を含んでもよい。
一実施形態では、処理システム225は、焦点外蛍光発光222を排除し、収集されたデータ227を処理するために、コンピュータ化された手順を使用して、各多焦点パターン223のための収集されたデータ227において、スケーリング、および加算動作210を行なう。図7を参照すると、流れ図は、処理システム225を使用して、焦点外蛍光排除、スケーリング、および加算動作210を行なうための一方法を図示する。ブロック1000では、処理システム225は、多焦点照射パターン223の自動格子検出を行なう。具体的には、自動格子検出は、種々の蛍光焦点のピンホールマスキングおよび局所縮小を行なうために、特定の多焦点パターン223のための各照射焦点の位置を判定する。例えば、自動格子検出は、5つのベクトルを判定し、画像取得系列において、特定の多焦点パターン223内の各蛍光発光222のための全焦点の場所を完全に規定する。いくつかの実施形態では、5つのベクトルは、格子ベクトル、シフトベクトル、およびオフセットベクトルであってもよい。2つの格子ベクトルは、任意の2つの近隣照射スポット(例えば、焦点)間の2次元変位を規定する。したがって、格子ベクトルによって変位された任意の格子点は、別の格子点上に来るであろう。熱シフトのため、各照射スポットの正確な場所は、時間に伴って変動し得、したがって、収集されたデータ227からの各測定されたデータセットに対して全ベクトルを正確に抽出することは、以下の方法論を使用して、最良の結果を提供する。
図8を参照すると、処理システム225が、焦点外排除、スケーリング、および加算動作210を行なうときに収集されたデータ227の各測定されたデータセットに対する全ベクトルを正確に抽出するための方法が、示される。オフセットベクトルは、処理システム225によって処理されている任意の1つの画像取得系列において、多焦点パターンの中心に最も近い照射スポットの絶対位置を規定する。シフトベクトルは、連続画像間で移動した特定の多焦点パターン223のための各照射スポットの距離を規定する。多焦点パターン223は、2次元平面でラスタされるため、「高速」シフトベクトルが、動作210の全ステップに適用され、「低速」シフトベクトルは、「高速」シフトベクトルが、1行の照射を完了すると適用される。本明細書で使用されるように、用語「高速」シフトベクトルは、単一行内のそれらの格子点を規定し、用語「低速」シフトベクトルは、連続行を規定する。ブロック2000では、特定の多焦点パターン223から捕捉された蛍光142Bを表す各未加工画像は、Hannウィンドウ(フーリエ領域内のリンギングを防止する)によって操作され、フーリエ変換される。ブロック2002では、結果として生じるフーリエの大きさが、平均化され、フーリエ空間内のピーク場所の高信号対雑音測定値が求められる。ブロック2004では、平均化された結果として生じるフーリエの大きさは、帯域通過フィルタを通してフィルタ処理される。ブロック2006では、フーリエ領域内のスパイクまたはピークの検索が、達成される。加算されたフーリエの大きさに対する未加工画像は、ピークの周期格子であると予測されるため、格子要素または雑音のいずれかである、フーリエ極大値を判定することによって、各周期格子の次元化が行なわれる。ブロック2008では、3つの最低空間周波数ピークの高調波が、予測される周波数倍数またはその近傍におけるピーク強度を計算上検索することによって判定される。ブロック2010では、高調波を伴う3つの最低空間周波数ピークの場所を前提として、格子ベクトルを構成する、そのベクトル和および差におけるピークの検索が行なわれる。本方法では、周期格子内のピークは、各格子点が、フーリエ格子ベクトルの整数のベクトル和に位置する、同一の格子内の他のピークの場所を予測する。ブロック2012では、処理システム225は、最小二乗法によって、結果として生じる連立方程式を解法し、3つの格子ベクトルを求める。フーリエ領域内のいかなる単一ピークも、雑音または画素化によるある程度の位置誤差を有するであろう。最小二乗法を利用することによって、各ピークによって提供される情報は、格子次元のより正確な測定を生成する。ブロック2014では、処理システム225は、格子ベクトルを加算し、誤差ベクトルを判定し、次いで、各フーリエ格子ベクトルから、誤差ベクトルの3分の1を減算する。ブロック2016では、2つのフーリエ格子ベクトルのうちの任意の2つが、選択および変換され、実空間格子ベクトルが求められる。多焦点照射パターンのための2つの格子ベクトルを求めることは、実質的に、オフセットベクトルおよびシフトベクトルを測定することをより容易にすることが分かっている。
図9を参照すると、処理システム225が、焦点外ぼけの排除、スケーリング、および加算動作210を行なうときのオフセットベクトルを判定するための方法が、示される。ブロック3000では、第1の未加工画像は、メディアンフィルタ処理される。ブロック3002では、測定された格子ベクトルからの点の格子が、ゼロのオフセットベクトルとともに構築される。ブロック3004では、各格子点にセンタリングされた一式のより小さい画像が、サブ画素センタリングのための補間を使用して、メディアンフィルタ処理された未加工画像から抽出される。ブロック3006では、より小さい画像が、平均化され、「格子平均」画像を形成する。ブロック3008では、格子平均画像内の最も明るい画素が、判定される。ブロック3010では、格子平均画像内の各強度ピークのサブ画素位置が、補間技法を使用して推定される。
図10を参照すると、処理システム225が、焦点外ぼけの排除、スケーリング、および加算動作210を行なうときのシフトベクトルを判定するための方法が、示される。ブロック4000では、一式の予測されるフーリエピーク場所が、測定されたフーリエ格子ベクトルから構築される。ブロック4002では、抽出位相は、変換され、収集されたデータ227に対する画像番号毎に抽出される。ブロック4004では、処理システム525は、多焦点パターン223の各系列を位相アンラップし、2π跳躍を除去する。各未加工画像のフーリエ変換の大きさは、未加工画像のシストから独立することに留置されたい。シフトに関する情報は、フーリエ変換の位相においてエンコードされる。ブロック4006では、処理システム525は、2次元系列内の各位相系列を走査パターンと同一の次元を伴う2次元アレイ(例えば、16画素×14画素)に再成形する。各位相系列の再成形後、ブロック4008では、線は、「高速」および「低速」方向の両方において、各位相系列の平均傾きに適合される。検出された各連続未加工画像では、照射は、XFASTずつシフトする。各行の終了時、照射はまた、XSLOWずつシフトする。未加工画像が、Xずつシフトする場合、kに位置するフーリエ空間内のピークの位相は、k*Xずつシフトする。ブロック4010では、処理システム525は、XFASTおよびXSLOWに対して結果として生じる連立方程式を解法する。ブロック4012では、オフセットベクトルが、多焦点パターン223の系列の最初および最後のフレームに対して構築される。最初のフレームのオフセットベクトルを計算した同一のプロセスを使用する、最後のフレームに対するオフセットベクトルの計算は、推定の精度を大幅に増加させる、有力な制約を提供する。ブロック4014では、予測されたオフセットベクトルが、XFASTおよびXSLOWに対する現在の推定に基づいて構築される。予測されたオフセットベクトルが構築されると、2つのベクトル間の差異は、誤差ベクトルであると判定され、走査内の未加工画像の数によって除算され、その結果をXSLOWから減算する。
図11を参照すると、処理システム225が、焦点外ぼけ、スケーリング、および加算動作210を行なうとき、焦点外ぼけを排除するためのピンホールマスキングのための方法が、示される。ブロック5000では、前述で判定されたベクトルに基づく一式の予測される照射場所が、収集動作208の間に収集された各未加工画像に対して構築される。ブロック5002では、各照射場所にセンタリングされたより小さいサブ画像が、補間技法を使用して抽出され、次いで、ブロック5004では、各センタリングされたサブ画像は、2次元Gaussianマスクによって、処理システム525により乗算される。これらのプロセスステップは、物理的ピンホールの効果をシミュレートする。ブロック5006では、背景は、随意に、各サブ画像から減算され、センタリングされたサブ画像は、較正データによって与えられた補正係数によって乗算されてもよい。ブロック5008では、個々のホット画素は、随意に、処理システム525によってメディアンフィルタ処理されてもよい。
図12を参照すると、処理システム525が、焦点外ぼけの排除、スケーリング、および加算動作210を行なうときのスケーリングおよび局所縮小を行なうための方法が、示される。ブロック6000では、各マスクされたサブ画像は、約2分の1にマスクされたサブ画像を縮小するために再サンプリングされる。ブロック6002では、各スケーリングされたマスクされたサブ画像は、未加工画像を処理することに追加される。
図13を参照すると、処理システム525が、焦点外ぼけの排除、スケーリング、および加算動作210を行なうときの加算のための方法が、示される。ブロック7000では、処理された未加工画像が、加算され、複合画像を形成する。ブロック7002では、未加工画像は、随意に、加算され、計算された「広視野」画像を生成してもよい。
焦点外ぼけの排除、スケーリング、および加算動作210によって生成された結果として生じる複合画像は、従来の広視野顕微鏡検査によって生成される典型的広視野画像より√2優れた分解能を有することが示された。焦点外ぼけの排除、スケーリング、および加算動作210はまた、従来の回転盤または掃引場共焦点顕微鏡と同様に、光学切片化を大幅に改善する。
試験
生物学的撮像のための多焦点SIMシステム200の潜在性を調査するために、フルオロマウント内に埋め込まれたヒト骨肉腫(U2OS)細胞中の抗体標識された微小管が、撮像された。以下は、照射システム(図14)、顕微鏡検査システム、試料調製、および捕捉された画像のデータ処理の説明である。デコンボリューションと組み合わせた多焦点パターンの使用は、横方向に145nmおよび軸方向に400nmまでの分解能において、撮像率1Hzで種々の試料を調査することを可能にした。従来の構造化照射顕微鏡検査システムと比較して、多焦点SIMシステム200は、従来の構造化照射顕微鏡検査システムより5〜8倍厚い試料の3次元画像を提供した。本調査では、微小管は、カバースリップ表面から45μmを上回る深度において、生きている遺伝子組み換えゼブラフィッシュの胚子内で撮像された。加えて、生きている線虫の胚子内のGFP標識されたヒストンの4次元SIMデータセットも、得られた。
試験のために、本特定のパターンは、点の所与の密度に対する任意の2つの最近傍近隣間の距離を最大化し、それによって、クロストークを最小限化するため、我々の照射点場所に対して、略正三角形の周期格子が使用された。多焦点照射パターンは、1度に、試料平面内のステップサイズ120nmに対応する、1つのDigital Micromirror Device(DMD)画素に変換された。より大きなステップは、試料を均等に照射せず、可視的ストライピングアーチファクトをもたらした一方、より小さいステップは、取得時間を増加させ、画質に増加はなかった。
多焦点パターンが、市販の倒立顕微鏡上に搭載された試料上に結像され、科学グレードの相補型金属酸化膜半導体カメラ(sCMOS)が、各多焦点パターン位置に対して1つの未加工画像を記録するために使用された。照射点間の間隔を変動させることによって、取得速度は、切片化品質と引き換えにされ得る。広く離間された焦点は、クロストークが少ないが、付加的多焦点照射パターンが、試料を均等に照射するために要求されることが分かった。対照的に、密度が高いほど、焦点は、クロストークが多いが、対応して、試料を均等に照射するために要求される多焦点パターンは少ない。走査点間に16画素の水平分離および14画素の垂直分離を伴う多焦点パターンが、調査された生物学的試料に良好な結果を提供することが分かった。480画素×480画素視野に対して222Hzで撮影された結果として生じる224の未加工露出値は、約1Hzの超分解能画像取得率に対応した。
生物学的撮像のための多焦点SIMシステム200の潜在性を調査するために、我々は、図15に図示される画像に示されるように、フルオロマウント内に埋め込まれたヒト骨肉腫(U2OS)細胞内の抗体標識された微小管を撮像した。広視野画像と比較して、SIMシステム200によって生成された多焦点照射、ピンホール処理、加算、およびスケーリングされた画像は、画像コントラストを含む、画像分解能を改善させた。加えて、並行反復デコンボリューションはさらに、結果として生じる複合画像を改善し、回折によって以前は隠されていた特徴を露顕させた。多焦点SIMシステム200の画像における微小管の見掛け半値全幅(FWHM)強度は、145nmであって、これは、広視野撮像と比較して、2倍の改善であった。110nmサブ回折ビーズにおける類似実験でも、本結果が確認された(多焦点SIMシステム200FWHM146+/−15nm対広視野FWHM284+/−32nm、N=80ビーズ)。48μmx49μm視野に対する総取得時間は、約1sであって、これは、各顕微鏡検査システムに対して同一の222Hz未加工フレーム率を仮定して、従来の画像走査顕微鏡検査(ISM)システムの6500倍の改善であった。
二重標識された3次元試料のための多焦点SIMシステム200の好適性もまた、図16に図示される試料に示されるように調査された。フルオロマウント内に埋め込まれた固定細胞上の画像のZスタックが、使用された。Alexa Fluor488で免疫標識された微小管およびMitotracker Redで染色されたミトコンドリアが、3.7μm厚のある体積として得られ、個々のスライスは、100nm分離された。同一の総照射用量で得られた広視野画像と比較して、3次元多焦点SIMシステム200の画像は、組み合わせられた物理的(デジタルピンホールを介して)および計算上の(3次元デコンボリューションを介して)焦点外光の除去のため、画像コントラストに著しい増加をもたらした。
多焦点SIMシステム200によって生成された結果として生じる複合画像は、広視野撮像より約2倍分解能を改善させた。すなわち、微小管および「虫状」ミトコンドリアをより良好に解像した。例えば、個々のミトコンドリアの端部におけるサブ回折空隙の良好な解像が、200nmを上回って分離された微小管対を含め、達成された。予想外にも、多焦点SIMシステム200はまた、広視野画像より約2倍、軸方向分解能も改善させ、微小管は、約400nmの見掛け軸方向FWHMを有していた。本結果は、100nmサブ回折ビーズにおいても確認された(多焦点SIMシステムFWHM402+/−49nm;広視野826+/−83nm、N=80ビーズ)。
多焦点SIMシステム200はまた、より厚い生体試料の3次元撮像にも適用され、ピンホール動作によって、そうでなければ、焦点内光信号を圧倒するであろう、焦点外光を物理的に排除した。本能力を実証するために、微小管を標識したGFP導入遺伝子を発現する、生きている固定されたゼブラフィッシュの胚子が、撮像された。
多焦点SIMシステム200による多焦点照射を使用して、241個のスライスが、2次元撮像率1Hzにおいて、0.2μm離間されて取得された。ピンホール焦点化、スケーリング、および3次元デコンボリューション後、48.2μm厚のある体積が、図17に図示される試料の画像に示されるように達成された。2つの隣接する中胚子葉節間の境界、中胚子葉節境界に沿った微小管の整合、および発達筋肉細胞の核に対応する微小管を含まない領域等の構造特徴が、スタック内で明白に可視である。本スタック内の連続するより深部の核のz−位置の推定は、撮像体積が6〜7細胞層を含有することを示唆する。
ある試験では、多焦点SIMシステム200の撮像率は、画像内の有意な被写体ぼけを伴わずに、表皮内の分割細胞を捕捉した。多焦点SIMシステム200の分解能向上は、体積全体を通して保持され、細胞分割の部位における微小管対間の分離は、200nmを上回って解像され、表皮内の微小管は、横方向に175+/−33nm(N=30)および軸方向に496+/−65nm(N=21)の横方向FWHMを有していた。
照射システム
照射システムでは、全光学は、機械的振動を最小限にするために、光学テーブル(Kinetic Systems, Vibraplane Model #5704−3660−23SPL)上に搭載された。蛍光を励起するために、2つのレーザ、すなわち、150mW、561nmレーザ(561, Coherent, Sapphire 561−150 CW CDRH)および200mW、488nmレーザ(488, Coherent, Sapphire 488−200 CDRH)が使用された。各レーザ後に置かれた機械的シャッタ(Thorlabs, SH05およびSC10)は、制御照射を制御するために使用された。ビームは、ダイクロイックミラー(DC、Chroma、525dcxru)と組み合わせられ、2つの色収差補正レンズ(Edmund、f=30mm、NT49−352−INKおよびThorlabs、f=200mm、AC254−200−A−ML0)から構築されたビーム拡大器を用いて、6.7倍拡大された。拡大されたビームは、ON位置において、マイクロミラーがDMD面に垂直な出力ビームを傾斜させるように、24度法線からずれてデジタルマイクロミラーデバイス(DMD, Digital Light Innovations, D4100 DLP0.55” XGA)上に指向された。結果として生じる照射パターンの中心次数は、DMD面が顕微鏡(Olympus、IX−81)内部の180mmチューブレンズの後焦点面において再結像されるような4f構成に整合される、ビーム縮小器(Thorlabs、f=75mm、AC254−075−A−MLおよびf=50mm、AC254−050−A−ML0)を用いて、1.5倍縮小された。これらの要素は、図14に示される。顕微鏡の左側ポートに入射後、ビームは、DMDと照射されている試料との間の90倍の総縮小のために、連続して、(i)チューブレンズ、(ii)ダイクロイックミラー(Chroma、zt405/488/561)、(iii)60倍対物レンズ(単一細胞の場合、Olympus、PlanApo、NA 1.45TIRF、またはゼブラフィッシュおよび虫の胚子の場合、UPLSAPO 60XS、NA1.3)を通過した。試料における照射は、約50μmの直径の円形領域を被覆した。
顕微鏡検査システム
構造化照射顕微鏡検査(SIM)撮像は、左および右側ポートの両方と、付加的Z圧電ステージ(200μm範囲、Applied Scientific Instrumentation, PZ−2000)を伴う、自動XYステージとを具備する、Olympus IX81倒立顕微鏡上で行なわれた。DMDによって作成されたパターン化された励起(例えば、多焦点照射パターン)が、左側ポートを介して、顕微鏡にもたらされた。照射された試料によって放出された蛍光は、対物レンズによって収集され、ダイクロイックミラー(Chroma、zt405/488/561)を用いて反射され、顕微鏡内部の180nmチューブレンズを通して通過され、ポンプ光を排除するように適切にフィルタ処理され(Semrock、LP02−488RE−25およびNF03−561E−25)、右側ポート上に搭載された科学グレード相補型金属酸化膜半導体(sCMOS)カメラ(Cooke、pco.edge)を用いて検出された。光学軸に沿ってsCMOSを正しく整合することは、回折限界近傍性能を達成する際に重要であった。カメラを正しく位置付けるのを支援するために、60倍対物レンズが、典型的には、10x air objective(Olympus、CPlanFl10x、0.3NA)(光学が、軸方向整合における誤差にはるかに敏感である)を用いて撮像する際に使用された。固定照射パターン(SIMにおいて使用されるものに類似)蛍光レーキ試料上に結像され、各照射スポットの見掛けサイズが最小限になるまで、光学軸に沿って、カメラを平行移動させた。
試料調製
U2OS細胞が、標準的成長媒体(DMEM−HG(Invitrogen、11960)、ピルビン酸ナトリウム(Invitrogen、11360)、GlutaMAX(Invitrogen、35050)、および10%加熱不活性化したウシ胎仔血清(Invitrogen、11082))内において、エタノール滅菌清浄された#1.5の25mm直径のカバースリップ(Warner Instruments、64−0715)上で培養された。微小管に対して試料を染色するために、細胞は、Cytosketetal Buffer(CB、10mM MOPS、138mM KCl、2mM MgCl、2mM EGTA、0.01%NaN、および160mM Sucrose、pH6.1)中、0.5%グルタルアルデヒド、0.37%ホルムアルデヒド、および0.3%TritonX−100の混合を用いて固定された。固定後、細胞は、CBで洗浄され、100nmグリシンで急冷され、CBで洗浄され、抗体希釈緩衝液(AbDil、150mM NaCl、20nMTris、0.1%TritonX−100、0.1%NaN、および2%ウシ血清アルブミン、pH7.4)中に固定された。一次モノクローナル抗体(Invitrogen、32−2500)が、室温で1時間、AbDil中で2μg/mLまで希釈された細胞とともにインキュベートされた。一次抗体インキュベーション後、細胞は、1時間、AbDil中で1:200の希釈率で二次Alexa Fluor488標識抗体(Invitrogen、A−11001)とともに細胞をインキュベートする前に、リン緩衝生理食塩水で洗浄された。
2色実験のための試料が、固定に先だって、製造業者の指示に従って、最初に、Mitotracker Red(Invitrogen、M−7512)で染色された。ミトコンドリア標識後、前述で概説された手技を使用して、微小管を染色した。全試料が、フルオロマウントG(Electron Microscopy Solutionis, 17984−25)内において、標準的25mm×75mmガラススライド(SPIsupplieds、#01251−AB)に搭載され、マニキュア液を用いて密閉された。
a)サブ回折ビーズ
黄緑色または赤色蛍光ビーズ(Invitrogen、F8803、110nm直径;Invitrogen F8801、100nm直径)が、全点広がり関数(PSF)測定のために使用された。ビーズは、1:1300の原液濃度から希釈され(希釈水中で1:200およびエタノール中で1:13)、清浄なガラスカバースリップ上に拡散された。エタノールを蒸発させるための5分間の空気乾燥後、カバースリップは、希釈水中で2回洗浄され、未結合ビーズを除去した。再び空気乾燥後、ビーズは、ガラススライド上のフルオロマウントまたはシリコーンオイル内に搭載され、マニキュア液で密閉された。
b)ゼブラフィッシュ試料
ゼブラフィッシュdclk2−GFP導入遺伝子を担持するTg(XlEef1a1:dclk2−GFP)io008胚子が、図16に示される厚いMSIM実験において使用された。これを構築するために、導入遺伝子を含有するプラスミドが、Tol2 mRNAとともに、1細胞ゼブラフィッシュ胚子内に注入された。蛍光胚子は、成人期まで育てられ、GFP発現の子種をスクリーニングすることによって、生殖細胞系伝達を選択するために交配された。
Tg(XlEdf1a1:dclk2−GFP)io0008胚子が、自然放卵によって収集され、摂氏28度に維持された。多焦点SIMシステム200による撮像に先立って、24hpfにおける胚子が、胚子媒体(リットルddHOあたり60mgのInstant海塩(Petsmart))中、最終濃度600μMにおけるTricaine(Sigma、E105210)で麻酔された。麻酔された胚子は、円形カバースリップ上に搭載され、1%低融点アガロース(Cambrex、50080)中に固定され、円形カバースリップホルダ(ASI、I−3033−25D)内に置かれ、胚子媒体で被覆され、室温で撮像された。
データ処理
前述の照射および顕微鏡検査システムを使用した未加工画像の取得後、試料の各収集された未加工画像セットは、Pythonプログラミング言語で書かれたソフトウェアを有する処理システム225を使用して、超分解能画像に処理された。処理システム225によって採用された処理ステップは、(i)照射スポットの個別の場所を精密に判定するための自動格子検出、(ii)焦点外光を排除するための各検出された照射スポットの周囲のデジタルピンホールマスキングおよび較正データを使用した光学平坦場、(iii)局所縮小(例えば、スケーリング)を行い、各照射スポットの周囲の面積を再サンプリングし、分解能を√2改善すること、(iv)処理された未加工画像を加算して、超分解能複合画像を生成すること、および(v)従来のデコンボリューション技法を使用して、完全2倍の分解能向上を復元することであった。これらのプロセスステップは、多焦点SIMシステム200の処理システム225によって実行される焦点化、スケーリング、および加算動作210に関して前述でより詳細に論じられている。
前述から、特定の実施形態が図示および説明されたが、当業者に明白となるであろうように、本発明の精神および範囲から逸脱することなく、種々の修正が、本明細書に行なわれ得ることを理解されたい。そのような変更および修正は、本明細書に添付の請求項に定義される本発明の範囲および教示内である。

Claims (26)

  1. 顕微鏡検査システムであって、
    単一光ビームを伝送するための光源と、
    前記単一光ビームを複数の光ビームに分割することにより、多焦点パターンを形成するためのビームスプリッタと、
    試料が前記多焦点パターンを伴う複数の蛍光発光を生成するように、前記多焦点パターンを前記試料上に形成す前記複数の光ビームを走査するためのスキャナと、
    前記多焦点パターンのための前記複数の蛍光発光の焦点外蛍光発光を遮断するように構成された開口を画定する焦点化構成要素であって、焦点内蛍光発光前記開口通過することを可能にする焦点化構成要素と、
    前記多焦点パターンのための前記複数の焦点内蛍光発光をスケールダウンするためのスケーリング構成要素であって、前記複数の焦点内蛍光発光の各々は、それぞれの幾何学的中心を画定し、前記複数の焦点内蛍光発光をスケールダウンすることは、前記複数の焦点内蛍光発光の各々が互いに対して所定の係数の分だけ局所的に縮小することを引き起こし、その結果、各それぞれの幾何学的中心間の距離は同一を維持する、スケーリング構成要素と、
    前記複数のスケーリングされた焦点内蛍光発光の各々を加算することにより、複数の加算されたスケーリングされた焦点内蛍光発光の複合画像を形成する前記複数の加算されたスケーリングされた焦点内蛍光発光を生成するための加算構成要素と
    を備える、システム。
  2. 前記ビームスプリッタは、マクロレンズアレイである、請求項1に記載の顕微鏡検査システム。
  3. 前記焦点化構成要素は、ピンホールアレイである、請求項1に記載の顕微鏡検査システム。
  4. 前記スケーリング構成要素は、複数のマクロレンズアレイである、請求項1に記載の顕微鏡検査システム。
  5. 前記複合画像をデコンボリューションするための処理サブシステムをさらに備える、請求項1に記載の顕微鏡検査システム。
  6. 前記スキャナは、前記試料によって放出される前記複数の蛍光発光を前記焦点化構成要素に逆走査する、請求項1に記載の顕微鏡検査システム。
  7. 前記複数の光ビームを一方向に通過させ、反対方向からの前記複数の蛍光発光を再指向させるためのダイクロイックミラーをさらに備える、請求項1に記載の顕微鏡検査システム。
  8. チューブレンズおよび対物レンズを通して前記試料を照射する前記複数の光ビームを結像するための第1のレンズをさらに備える、請求項1に記載の顕微鏡検査システム。
  9. 前記複数の光ビームは、350nm〜1200nmの波長を有する、請求項1に記載の顕微鏡検査システム。
  10. 前記複数の蛍光発光は、350nm〜1200nmの波長を有する、請求項1に記載の顕微鏡検査システム。
  11. 約350nm〜1200nmのスケーリングされた焦点内蛍光発光を検出器に通過させるための発光フィルタをさらに備える、請求項10に記載の顕微鏡検査システム。
  12. 前記複数のスケーリングされた焦点内蛍光放出を検出するための検出器をさらに備える、請求項1に記載の顕微鏡検査システム。
  13. 前記スキャナは、前記スケーリングされた焦点内蛍光発光を前記検出器に再走査する、請求項11に記載の顕微鏡検査システム。
  14. 顕微鏡検査システムであって、
    単一光ビームを伝送するための光源と、
    前記単一光ビームを複数の光ビームに分割することにより、多焦点パターンを形成するためのビームスプリッタであって、前記多焦点パターンは、複数の焦点を画定する、ビームスプリッタと、
    試料複数の蛍光焦点を画定する前記多焦点パターン内に複数の多焦点蛍光発光を生成するように、前記試料上に前記多焦点パターンを形成す前記複数の光ビームを走査するためのスキャナと、
    前記多焦点パターンから生じる前記複数の多焦点蛍光発光を収集するための検出器と、
    前記検出器から収集された前記多焦点パターンから生じる前記複数の多焦点蛍光発光を処理するための処理システムと
    を備え、
    前記処理システムは、前記多焦点パターンから生じる前記複数の収集された多焦点蛍光発光を記憶するためのデータベースと動作通信するプロセッサを備え、前記プロセッサは、前記蛍光発光のための焦点外蛍光発光を除去し、前記多焦点パターンから生じる焦点内蛍光発光のみを残し、次いで、前記プロセッサは、前記多焦点パターンから生じる前記焦点内蛍光発光をスケーリングし、前記プロセッサは、前記多焦点パターンから生じる前記複数の焦点内蛍光発光をスケールダウンし、前記複数の焦点内蛍光発光の各々は、それぞれの幾何学的中心を画定し、前記複数の焦点内蛍光発光の各々をスケールダウンすることは、前記複数の焦点内蛍光発光の各々が所定の係数の分だけ局所的に縮小することを引き起こし、その結果、各それぞれの幾何学的中心間の距離は同一を維持し、スケーリングされた焦点内蛍光発光を生成し、
    前記プロセッサは、各スケーリングされた焦点内蛍光発光を加算することにより、複合画像を生成する、システム。
  15. 前記プロセッサが、前記スケーリングされた焦点内蛍光発光を伴う前記多焦点パターンを処理するためのデコンボリューション動作を実行することをさらに含む、請求項14に記載の顕微鏡検査システム。
  16. 前記ビームスプリッタは、デジタルマイクロミラーデバイスまたは掃引場共焦点ユニット、または回転盤、またはNipkow共焦点走査ヘッドである、請求項14に記載の顕微鏡検査システム。
  17. 前記処理システムは、前記多焦点パターンの自動格子検出を実行し、1つ以上の照射スポットの位置を判定する、請求項14に記載の顕微鏡検査システム。
  18. 前記自動格子検出は、複数のベクトルを判定し、前記1つ以上の照射スポットの各々の位置を特定する、請求項17に記載の顕微鏡検査システム。
  19. 前記複数のベクトルは、格子ベクトル、シフトベクトル、および/またはオフセットベクトルを含む、請求項18に記載の顕微鏡検査システム。
  20. 前記格子ベクトルのうちの2つは、任意の2つの近隣照射スポット間の2次元変位を規定する、請求項19に記載の顕微鏡検査システム。
  21. 多焦点構造化照射顕微鏡のための方法であって、
    単一光ビームを生成することと、
    前記単一光ビームを複数の光ビームに分割することであって、前記複数の光ビームの各々の焦点は、多焦点照射パターンを形成する、ことと、
    試料を前記多焦点照射パターンを形成する前記複数の光ビームで照射することであって、前記照射された試料は、前記多焦点パターンにおいて、複数の蛍光発光を生成する、ことと、
    ピンホール動作を行なうことであって、前記複数の蛍光発光からの焦点外蛍光放出が遮断され、前記複数の蛍光発光からの焦点内蛍光放出のみが、前記ピンホール動作の間、通過可能とされる、ことと、
    前記複数の焦点内蛍光発光の各々スケールダウンすることであって、前記複数の焦点内蛍光発光の各々は、それぞれの幾何学的中心を画定し、前記複数の焦点内蛍光発光をスケールダウンすることは、前記複数の焦点内蛍光発光が所定の係数の分だけ局所的に縮小することを引き起こし、その結果、各それぞれの幾何学的中心間の距離は同一を維持し、複数のスケーリングされた焦点内蛍光発光を生成する、ことと、
    前記複数のスケーリングされた焦点内蛍光発光の各々を加算することにより、複合画像を形成する複数の加算されたスケーリングされた焦点内蛍光発光を生成することと
    を含む、方法。
  22. 前記試料上に前記多焦点パターン内の前記複数の光ビームを走査することをさらに含む、請求項21に記載の方法。
  23. 前記試料上に前記多焦点パターンを走査することは、検流計によって行なわれる、請求項22に記載の方法。
  24. 加算されたスケーリングされた焦点内蛍光発光から成る前記複合画像上でデコンボリューション動作を行なうことをさらに含む、請求項21に記載の方法。
  25. 多焦点構造化照射顕微鏡のための方法であって、
    単一光ビームを生成することと、
    前記単一光ビームを複数の光ビームに分割することであって、各前記複数の光ビームの焦点は、多焦点パターンを形成する、ことと、
    前記多焦点パターンを形成する前記複数の光ビームで試料を照射することであって、前記照射された試料は、前記多焦点パターンから生じる複数の蛍光発光を生成する、ことと、
    ピンホール動作を行なうことであって、前記複数の蛍光発光からの焦点外蛍光発光が遮断され、前記複数の蛍光発光からの焦点内蛍光発光のみが、前記ピンホール動作の間、通過可能とされる、ことと、
    前記複数の焦点内蛍光発光の各々スケールダウンすることであって、前記複数の焦点内蛍光発光の各々は、それぞれの幾何学的中心を画定し、前記複数の焦点内蛍光発光が所定の係数の分だけ局所的に縮小するようにスケールダウンし、その結果、各それぞれの幾何学的中心間の距離は同一を維持し、複数のスケーリングされた焦点内蛍光発光を生成する、ことと、
    前記複数のスケーリングされた焦点内蛍光放出のそれぞれを加算することにより、複合画像を形成することと
    を含み得る、方法。
  26. 前記加算されたスケーリングされた焦点内蛍光発光から生じる前記複合画像上でデコンボリューション動作を行なうことをさらに含む、請求項25に記載の方法。
JP2014558888A 2012-02-23 2013-02-22 多焦点構造化照射顕微鏡検査システムおよび方法 Active JP6140737B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261602139P 2012-02-23 2012-02-23
US61/602,139 2012-02-23
PCT/US2013/027413 WO2013126762A1 (en) 2012-02-23 2013-02-22 Multi-focal structured illumination microscopy systems and methods

Publications (2)

Publication Number Publication Date
JP2015513671A JP2015513671A (ja) 2015-05-14
JP6140737B2 true JP6140737B2 (ja) 2017-05-31

Family

ID=47884525

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014558888A Active JP6140737B2 (ja) 2012-02-23 2013-02-22 多焦点構造化照射顕微鏡検査システムおよび方法

Country Status (5)

Country Link
US (4) US9696534B2 (ja)
EP (1) EP2817670B1 (ja)
JP (1) JP6140737B2 (ja)
CN (1) CN104471462B (ja)
WO (1) WO2013126762A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9685495B2 (en) 2009-11-19 2017-06-20 STATS ChipPAC, Pte. Ltd. Semiconductor device and method of forming IPD on molded substrate

Families Citing this family (65)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090093403A1 (en) 2007-03-01 2009-04-09 Feng Zhang Systems, methods and compositions for optical stimulation of target cells
US9274099B2 (en) 2005-07-22 2016-03-01 The Board Of Trustees Of The Leland Stanford Junior University Screening test drugs to identify their effects on cell membrane voltage-gated ion channel
WO2007024391A2 (en) 2005-07-22 2007-03-01 The Board Of Trustees Of The Leland Stanford Junior University Light-activated cation channel and uses thereof
US9238150B2 (en) 2005-07-22 2016-01-19 The Board Of Trustees Of The Leland Stanford Junior University Optical tissue interface method and apparatus for stimulating cells
US8926959B2 (en) 2005-07-22 2015-01-06 The Board Of Trustees Of The Leland Stanford Junior University System for optical stimulation of target cells
US10052497B2 (en) 2005-07-22 2018-08-21 The Board Of Trustees Of The Leland Stanford Junior University System for optical stimulation of target cells
WO2008086470A1 (en) 2007-01-10 2008-07-17 The Board Of Trustees Of The Leland Stanford Junior University System for optical stimulation of target cells
US8401609B2 (en) 2007-02-14 2013-03-19 The Board Of Trustees Of The Leland Stanford Junior University System, method and applications involving identification of biological circuits such as neurological characteristics
US10035027B2 (en) 2007-10-31 2018-07-31 The Board Of Trustees Of The Leland Stanford Junior University Device and method for ultrasonic neuromodulation via stereotactic frame based technique
US10434327B2 (en) 2007-10-31 2019-10-08 The Board Of Trustees Of The Leland Stanford Junior University Implantable optical stimulators
KR20110005280A (ko) 2008-04-23 2011-01-17 더 보드 어브 트러스티스 어브 더 리랜드 스탠포드 주니어 유니버시티 표적 세포의 광학적 자극을 위한 시스템, 방법 및 조성물
JP5887136B2 (ja) 2008-06-17 2016-03-16 ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティー 細胞発達を制御するための装置および方法
WO2010006049A1 (en) 2008-07-08 2010-01-14 The Board Of Trustees Of The Leland Stanford Junior University Materials and approaches for optical stimulation of the peripheral nervous system
NZ602416A (en) 2008-11-14 2014-08-29 Univ Leland Stanford Junior Optically-based stimulation of target cells and modifications thereto
AU2011227131B2 (en) 2010-03-17 2014-11-13 The Board Of Trustees Of The Leland Stanford Junior University Light-sensitive ion-passing molecules
EP2635109A4 (en) 2010-11-05 2014-03-19 Univ Leland Stanford Junior OPTICALLY CONTROLLED CNS DYSFUNCTION
CA2816990A1 (en) 2010-11-05 2012-05-10 The Board Of Trustees Of The Leland Stanford Junior University Stabilized step function opsin proteins and methods of using the same
AU2011323228B2 (en) 2010-11-05 2016-11-10 The Board Of Trustees Of The Leland Stanford Junior University Control and characterization of memory function
ES2716819T3 (es) 2010-11-05 2019-06-17 Univ Leland Stanford Junior Opsinas quiméricas activadas por luz y métodos de uso de las mismas
WO2012061684A1 (en) 2010-11-05 2012-05-10 The Board Of Trustees Of The Leland Stanford Junior University Upconversion of light for use in optogenetic methods
CN103476456B (zh) 2010-11-05 2017-10-03 斯坦福大学托管董事会 奖赏相关行为的光遗传学控制
US8696722B2 (en) 2010-11-22 2014-04-15 The Board Of Trustees Of The Leland Stanford Junior University Optogenetic magnetic resonance imaging
US9365628B2 (en) 2011-12-16 2016-06-14 The Board Of Trustees Of The Leland Stanford Junior University Opsin polypeptides and methods of use thereof
WO2013126521A1 (en) 2012-02-21 2013-08-29 The Board Of Trustees Of The Leland Stanford Junior University Compositions and methods for treating neurogenic disorders of the pelvic floor
WO2013126762A1 (en) * 2012-02-23 2013-08-29 The United States Of America, As Represented By The Secretary, Department Of Health And Human Services Office Of Technology Transfer, National Institutes Of Health Multi-focal structured illumination microscopy systems and methods
US10025082B2 (en) 2012-02-23 2018-07-17 The United States Of America, As Represented By The Secretary, Department Of Health And Human Services Multi-focal structured illumination microscopy systems and methods
EP2968997B1 (en) 2013-03-15 2019-06-26 The Board of Trustees of the Leland Stanford Junior University Optogenetic control of behavioral state
US9636380B2 (en) 2013-03-15 2017-05-02 The Board Of Trustees Of The Leland Stanford Junior University Optogenetic control of inputs to the ventral tegmental area
EP2991491B1 (en) 2013-04-29 2019-12-25 The Board of Trustees of the Leland Stanford Junior University Devices, systems and methods for optogenetic modulation of action potentials in target cells
CN105829538A (zh) 2013-08-14 2016-08-03 小利兰·斯坦福大学托管委员会 用于控制疼痛的组合物和方法
GB201318598D0 (en) 2013-10-21 2013-12-04 Univ Leicester Improvements in or relating to super-resolution microscopy
US20150131148A1 (en) 2013-11-12 2015-05-14 Intelligent Imaging Innovations, Inc. Spinning disk confocal using paired microlens disks
JP6596001B2 (ja) * 2013-12-24 2019-10-23 ティシュヴィジョン、インコーポレーテッド 多焦点多光子イメージングシステム及び方法
JP5999121B2 (ja) 2014-02-17 2016-09-28 横河電機株式会社 共焦点光スキャナ
US10352860B2 (en) * 2014-04-24 2019-07-16 Bruker Nano, Inc. Super resolution microscopy
JP6355961B2 (ja) * 2014-04-30 2018-07-11 オリンパス株式会社 標本観察装置
KR102025038B1 (ko) * 2014-09-11 2019-09-24 사이버옵틱스 코포레이션 3-차원 형상측정에서 복수 카메라 및 광원으로부터의 포인트 클라우드 병합
EP3198324B1 (en) * 2014-09-24 2020-12-23 The United States of America, as represented by The Secretary, Department of Health and Human Services Resolution enhancement for line scanning excitation microscopy systems and methods
US9766442B2 (en) 2014-12-08 2017-09-19 Yokogawa Electric Corporation Confocal scanner and confocal microscope
WO2016145366A1 (en) 2015-03-11 2016-09-15 Timothy Ragan System and methods for serial staining and imaging
JP6342842B2 (ja) 2015-04-30 2018-06-13 オリンパス株式会社 走査型顕微鏡システム
CN107667310B (zh) * 2015-06-02 2021-01-01 生命技术公司 荧光成像系统
DE102015109674A1 (de) * 2015-06-17 2016-12-22 Carl Zeiss Microscopy Gmbh Verfahren zur Bestimmung und Kompensation geometrischer Abbildungsfehler
WO2016209654A1 (en) * 2015-06-22 2016-12-29 The Board Of Trustees Of The Leland Stanford Junior University Methods and devices for imaging and/or optogenetic control of light-responsive neurons
ITUB20154591A1 (it) * 2015-10-12 2017-04-12 Crestoptics S R L Apparato di microscopia confocale e relativo procedimento di acquisizione ed elaborazione di immagini
CN105319196B (zh) * 2015-11-30 2019-02-05 哈尔滨工业大学 一种超分辨结构探测共焦荧光成像装置及其成像方法
DE102016103736A1 (de) * 2016-03-02 2017-09-07 Carl Zeiss Microscopy Gmbh Verfahren zur Bestimmung einer Höhenlage eines Objekts
CN109154715A (zh) * 2016-08-23 2019-01-04 美利坚合众国,由健康及人类服务部部长代表 用于即时内部反射荧光/结构化照明显微术的系统和方法
JP2019537067A (ja) * 2016-12-01 2019-12-19 バークレー ライツ,インコーポレイテッド 微小物体を撮像する装置、システム、及び方法
US10664685B2 (en) * 2017-02-03 2020-05-26 Northeastern University Methods, systems, and devices for optical sectioning
DE102017105103A1 (de) * 2017-03-10 2018-09-13 Carl Zeiss Microscopy Gmbh 3D-Mikroskopie
US11294165B2 (en) 2017-03-30 2022-04-05 The Board Of Trustees Of The Leland Stanford Junior University Modular, electro-optical device for increasing the imaging field of view using time-sequential capture
US11086113B2 (en) 2017-06-06 2021-08-10 The United States Of America Multi-focal structured illumination microscopy systems and methods
CN114924401A (zh) * 2017-06-06 2022-08-19 美利坚合众国,由健康及人类服务部部长代表 显微系统
SE543211C2 (en) 2017-06-29 2020-10-27 Mabtech Production Ab Method and system for analyzing Fluorospot assays
WO2019006433A1 (en) 2017-06-30 2019-01-03 Preza Chrysanthe MULTILAYER LIGHT SHEET STRUCTURED LIGHT EMITTING FLUORESCENCE MICROSCOPY SYSTEM
CN111512205A (zh) * 2017-12-20 2020-08-07 马克斯-普朗克科学促进学会 使用可编程阵列显微镜进行光学共焦成像的方法和设备
CN108169887B (zh) * 2017-12-27 2020-04-24 清华大学 3d多焦面结构光快速显微成像系统及方法
NL2020619B1 (en) * 2018-01-16 2019-07-25 Illumina Inc Dual optical grating slide structured illumination imaging
US11593953B2 (en) 2018-11-01 2023-02-28 Intelligent Imaging Innovations, Inc. Image processing using registration by localized cross correlation (LXCOR)
DE102019129932B4 (de) * 2019-11-06 2023-12-21 Technische Universität Braunschweig Optische Detektionseinrichtung und Verfahren zum Betreiben einer optischen Detektionseinrichtung
TW202138867A (zh) * 2019-12-06 2021-10-16 美商伊路米納有限公司 提供參數估計的裝置和方法
CN113946044B (zh) * 2021-09-09 2024-02-20 深圳大学 基于点扩散函数工程的多焦点多光子显微成像系统及方法
CN114113019B (zh) * 2021-11-30 2023-07-14 哈尔滨工业大学 一种基于多重信号分类算法的阵列扫描超分辨显微成像装置、方法、设备及存储介质
CN117369106B (zh) * 2023-12-05 2024-03-08 北京大学 一种多点共聚焦图像扫描显微镜及成像方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6133986A (en) * 1996-02-28 2000-10-17 Johnson; Kenneth C. Microlens scanner for microlithography and wide-field confocal microscopy
JPH11142243A (ja) * 1997-11-13 1999-05-28 Yokogawa Electric Corp 干渉計及びこれを用いたフーリエ変換型分光装置
US6424404B1 (en) * 1999-01-11 2002-07-23 Kenneth C. Johnson Multi-stage microlens array
IL128519A0 (en) * 1999-02-14 2000-06-01 Aaron Lewis Deconvolving far-field optical images beyond the diffraction limit by using scanned-probe optical and non-optical data as the constraint in mathematical constraint algorithms
JP2002072383A (ja) * 2000-08-28 2002-03-12 Fuji Photo Film Co Ltd 放射線画像情報読取装置
EP1953580B1 (fr) * 2000-09-18 2014-09-17 Vincent Lauer Dispositif de balayage optique confocal
US7209287B2 (en) * 2000-09-18 2007-04-24 Vincent Lauer Confocal optical scanning device
JPWO2004036284A1 (ja) * 2002-09-30 2006-02-16 独立行政法人科学技術振興機構 共焦点顕微鏡、共焦点顕微鏡を用いた蛍光測定方法及び偏光測定方法
EP1570411A4 (en) 2002-10-22 2007-05-30 Univ Rice William M CONFOCAL HIGH SPEED MICROSCOPE WITH RANDOM ACCESS
US7742213B2 (en) 2005-12-29 2010-06-22 Rensselaer Polytechnic Institute Adaptive-scanning optical microscope
US7872796B2 (en) * 2007-01-25 2011-01-18 Adobe Systems Incorporated Light field microscope with lenslet array
CN101498833A (zh) 2009-03-06 2009-08-05 北京理工大学 兼有宏-微视场观测的超分辨差动共焦显微镜
JP5340799B2 (ja) * 2009-05-08 2013-11-13 オリンパス株式会社 レーザ走査型顕微鏡
US8625863B2 (en) * 2009-06-02 2014-01-07 Sofast Gmbh Superresolution optical fluctuation imaging (SOFI)
JP2011002398A (ja) * 2009-06-22 2011-01-06 Hitachi High-Technologies Corp 分光イメージング装置
CN102062929B (zh) 2010-11-27 2012-06-20 长春迪瑞医疗科技股份有限公司 一种显微镜系统的自动聚焦方法和装置
US10025082B2 (en) * 2012-02-23 2018-07-17 The United States Of America, As Represented By The Secretary, Department Of Health And Human Services Multi-focal structured illumination microscopy systems and methods
WO2013126762A1 (en) * 2012-02-23 2013-08-29 The United States Of America, As Represented By The Secretary, Department Of Health And Human Services Office Of Technology Transfer, National Institutes Of Health Multi-focal structured illumination microscopy systems and methods

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9685495B2 (en) 2009-11-19 2017-06-20 STATS ChipPAC, Pte. Ltd. Semiconductor device and method of forming IPD on molded substrate

Also Published As

Publication number Publication date
EP2817670A1 (en) 2014-12-31
JP2015513671A (ja) 2015-05-14
US20180024338A1 (en) 2018-01-25
US10656403B2 (en) 2020-05-19
US20190250389A1 (en) 2019-08-15
WO2013126762A1 (en) 2013-08-29
US20180341096A1 (en) 2018-11-29
US9696534B2 (en) 2017-07-04
EP2817670B1 (en) 2020-07-29
CN104471462B (zh) 2017-09-19
US10042149B2 (en) 2018-08-07
US20160238827A1 (en) 2016-08-18
CN104471462A (zh) 2015-03-25
US10281702B2 (en) 2019-05-07

Similar Documents

Publication Publication Date Title
JP6140737B2 (ja) 多焦点構造化照射顕微鏡検査システムおよび方法
US10156711B2 (en) Multi-focal structured illumination microscopy systems and methods
US20210096348A1 (en) Multi-focal structured illumination microscopy systems and methods
Bewersdorf et al. Comparison of I5M and 4Pi‐microscopy
US8040608B2 (en) System and method for self-interference fluorescence microscopy, and computer-accessible medium associated therewith
JP7225108B2 (ja) 多焦点構造化照明顕微鏡システム及び方法
Murray Methods for imaging thick specimens: confocal microscopy, deconvolution, and structured illumination
CN108761752A (zh) 傅立叶重叠关联成像系统、设备和方法
Chen et al. Superresolution structured illumination microscopy reconstruction algorithms: a review
JP7064796B2 (ja) 画像再構成方法、装置及び顕微結像装置
Carlini et al. Correction of a depth-dependent lateral distortion in 3D super-resolution imaging
NL2008873C2 (en) Method and apparatus for multiple points of view three-dimensional microscopy.
Jonkman et al. [18] Resolution in optical microscopy
Fuseler et al. Types of confocal instruments: basic principles and advantages and disadvantages
Bewersdorf et al. 4Pi microscopy
EP3308211B1 (en) Confocal microscope and related process of acquiring and processing images
Lin Super-Resolution Structured Illumination Microscopy with Adaptive Optics
Chen Three-dimensional super-resolution microscopy using laser scanning and non-linear optimization
Neu et al. Time-resolved confocal microscopy using a digital micromirror device
Appelt Single-shot Optical Sectioning Using Polarised Illumination Coded Structured Illumination Microscopy (picoSIM).
Mangeol et al. Optical apparatus for multiple points of view three-dimensional microscopy and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170321

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170331

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170501

R150 Certificate of patent or registration of utility model

Ref document number: 6140737

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250