JP2016119300A - 基準マークに基づく相関顕微鏡法 - Google Patents

基準マークに基づく相関顕微鏡法 Download PDF

Info

Publication number
JP2016119300A
JP2016119300A JP2015243742A JP2015243742A JP2016119300A JP 2016119300 A JP2016119300 A JP 2016119300A JP 2015243742 A JP2015243742 A JP 2015243742A JP 2015243742 A JP2015243742 A JP 2015243742A JP 2016119300 A JP2016119300 A JP 2016119300A
Authority
JP
Japan
Prior art keywords
sample volume
charged particle
imaging
images
reference mark
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015243742A
Other languages
English (en)
Other versions
JP2016119300A5 (ja
Inventor
スティーブン・ランドルフ
Steven Randolph
ジェームズ・ミヤサキ
Miyasaki James
マーカス・ストロー
Marcus Straw
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
FEI Co
Original Assignee
FEI Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by FEI Co filed Critical FEI Co
Publication of JP2016119300A publication Critical patent/JP2016119300A/ja
Publication of JP2016119300A5 publication Critical patent/JP2016119300A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6486Measuring fluorescence of biological material, e.g. DNA, RNA, cells
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J37/00Discharge tubes with provision for introducing objects or material to be exposed to the discharge, e.g. for the purpose of examination or processing thereof
    • H01J37/02Details
    • H01J37/22Optical or photographic arrangements associated with the tube
    • H01J37/222Image processing arrangements associated with the tube
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6428Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N23/00Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00
    • G01N23/22Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00 by measuring secondary emission from the material
    • G01N23/223Investigating or analysing materials by the use of wave or particle radiation, e.g. X-rays or neutrons, not covered by groups G01N3/00 – G01N17/00, G01N21/00 or G01N22/00 by measuring secondary emission from the material by irradiating the sample with X-rays or gamma-rays and by measuring X-ray fluorescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0032Optical details of illumination, e.g. light-sources, pinholes, beam splitters, slits, fibers
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/008Details of detection or image processing, including general computer control
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/16Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J37/00Discharge tubes with provision for introducing objects or material to be exposed to the discharge, e.g. for the purpose of examination or processing thereof
    • H01J37/26Electron or ion microscopes; Electron or ion diffraction tubes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6428Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
    • G01N2021/6439Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes" with indicators, stains, dyes, tags, labels, marks
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/22Treatment of data
    • H01J2237/221Image processing
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/245Detection characterised by the variable being measured
    • H01J2237/24571Measurements of non-electric or non-magnetic variables
    • H01J2237/24578Spatial variables, e.g. position, distance
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01JELECTRIC DISCHARGE TUBES OR DISCHARGE LAMPS
    • H01J2237/00Discharge tubes exposing object to beam, e.g. for analysis treatment, etching, imaging
    • H01J2237/26Electron or ion microscopes
    • H01J2237/2611Stereoscopic measurements and/or imaging

Abstract

【課題】相関光学および電子画像化用の試料を調製し、試料の変形に起因する画像化プロセスにおける収差を補正する方法を提供すること。【解決手段】染料でコーティングされた基準マークのマーカを試料体積の全体にわたって分布させる。この基準マークのマーカは、その表面が官能化され続いて蛍光染料で処理されたポリスチレン・ナノ球の形態をとることが好ましい。この染料は、球内に浸透せず、表面に結合するだけである。染料をナノ球の表面だけに限定することによって、iPALM画像中および荷電粒子画像中で球の形状を決定することができ、このことは、試料体積に対して生じる可能性がある物理的変化を追跡するのに役立つ。【選択図】図1

Description

本発明は、相関顕微鏡法に関し、特に相関光学および電子顕微鏡画像化に関する。
生物試料中の細胞構造の顕微鏡画像は、生体プロセスおよび細胞構造に関する重要な情報を明らかにすることができる。光学顕微鏡法と電子顕微鏡法の両方を使用する相関法は、最も包括的な結果を生み出す。例えば、光学顕微鏡法情報を使用して、試料中の生物学的に重要な領域およびそれらの領域の動態を識別することができる。次いで、固定および/または染色後に、電子顕微鏡法を使用して、それらの領域内の構造的詳細を分析することができる。
従来の光学顕微鏡を用いて集められた画像の分解能は、使用する光の波長の約半分に限定される。実用的な光学顕微鏡法ではこの限界が約200nmである。この限界のため、従来の光学顕微鏡は、回折限界型(diffraction limited)と言われる。回折限界を超えて分解能を向上させる多くの技法が存在する。このような技法は超解像技法(super−resolution technique)と呼ばれている。具体的な1つの技法が確率的光学再構築顕微鏡法(stochastic optical reconstruction microsopy:STORM)である。別の技法が、光活性化局在性顕微鏡法(photo−activated localization microscopy:PALM)である。これらの技法は、マーカが蛍光を発する「オン」状態とマーカが蛍光を発しない「オフ」状態の間で切り換えることができる蛍光マーカを使用して試料の画像を形成する目的に使用される。STORMは通常、蛍光有機染料を使用し、一方PALMは通常、蛍光タンパク質を使用する。これらの状態間の切換えは、蛍光を発した後にマーカが暗状態に入り、ある期間、励起に対して不感応であるときに実現される。この不活性化のため、所与の時刻に大部分のマーカは暗状態にあり、少数のマーカだけが蛍光を発する。試料の超解像画像を形成する際には、それぞれの個々のマーカを、近隣のマーカから独立して局在化するために、その試料の多数の一連の別々の画像が集められる。
これらの別々の画像では、それぞれのマーカが、回折限界点像分布関数(diffraction−limited point−spread funciton)として現われる。それぞれの点像分布関数にガウス・フィット(Gaussian fit)を適用し、その後は、マーカ位置を、ガウス・フィットの中心にある点によって表す。画像化およびこのプロセスのそれぞれのマーカへの適用を逐次的に行うことによって、回折限界を超えた画像化を可能にする、試料の超解像画像を構築する。例えば異なるマーカの発光をそれらのマーカの発光スペクトルに基づいて分離するように選択されたダイクロイック光学部品を使用することによって、異なる色の蛍光染料を同時に画像化することができる。いくつかの波長チャネルの使用は、いくつかの異なる細胞成分を同時に画像化することを可能にすることができる。
PALMの一変形がインターフェロメトリック(interferometric)PALMまたは「iPALM」である。複数のレンズを配置することによって、例えば試料の上方に1つ、試料の下方に1つレンズを配置することによって、集められた蛍光がその蛍光自体と干渉させて、その2つのレンズ・システム間の光路長の差によって決まる干渉縞を生成するようにすることができる。これは、Z次元における局在化(localizaiton)を可能にする。
分解能は低下するが、共焦点画像化(confocal imaging)などの非超解像技法も3次元蛍光画像化を可能にする。本発明は、これらのタイプの光学画像化方式を含む相関顕微鏡法に対しても有利なことがある。
相関顕微鏡法は、1つの画像化技法を用いて生成した1つまたは複数の画像に、もう1つの画像化技法を使用して生成した1つまたは複数の画像をオーバレイすることを含む。例えば、光学顕微鏡によって1つの画像を形成し、荷電粒子ビーム顕微鏡によって別の画像を形成することができる。一例では、iPALMを使用して光学画像を形成し、走査電子ビームを使用して一連の画像を形成し、それらの画像を相関させる。iPALM技法は、試料中の特定の領域に関する局在化情報を提供し、電子顕微鏡からの画像は、試料の総合的な特性を示すことができる。このプロセスは、生物試料中の特定のタンパク質もしくは他の構造体を有機染料で化学的に機能化することができ、または、生物試料中の特定のタンパク質もしくは他の構造体を、iPALMで画像化することができる蛍光タンパク質を発現するように遺伝子操作することができる生物試料の画像化において特に有用である。iPALMデータを、荷電粒子システムからのデータと相関させると、試料の超微細構造中の蛍光マーカの位置に関する構成情報(contextual information)が得られる。適当な荷電粒子調製技法および荷電粒子画像化技法を選択すると、試料中のどこに特定の特徴が位置するのかに関する優れた展望を与える3次元画像を構築することができる。
相関顕微鏡法の上記の例では、iPALMを使用し、最初に、X−Y画像平面において関心の領域を順次、局在化し、その分子座標から2次元超解像画像をレンダリングすることによって、試料の3次元超解像蛍光画像を得る。さらに、それぞれの分子から放出された光の同時多相干渉を使用して、第3の次元を規定するZ軸位置を抽出する。次いで、iPALMを使用して画像化した試料と同じ試料を、荷電粒子システムによって画像化する。この荷電粒子システムは、例えば集束イオン・ビーム(FIB)が厚さ数ナノメートルの試料層を除去して新しい表面を露出させ、SEMがその表面を画像化するサイクルで動作させることができる。このサイクルを多数回繰り返して、試料中のますます深い層の多数の画像を形成することができる。
しかしながら、iPALM画像と電子顕微鏡法(electron microscopy:EM)画像との相関には限界がある。既存の相関法は、試料体積(sample volume)と支持基板の境界面にある基準マークの平面層の使用を含む。これによって、X−Y平面においては正確な位置情報が得られるが、Z平面における局在化は不十分である。例えば、Hess他の米国特許第7,924,432号明細書(「Hess」)に記載されているような技法を使用した2次元X−Y平面内の相関は、優れたデータを生成する。この技法におけるX次元およびY次元の相関は一般に単純である。しかしながら、Hessの方法を使用したZ平面の相関は、切片化された試料の頂面と底面の間の補間に依存する。試料切片は、電子ビームおよびイオン・ビームによって誘起された歪みに起因する変化、ならびに試料の調製および荷電粒子処理のための真空への試料の挿入に起因して試料中で生じうる変化を受けることがあるため、このような補間に依存することは問題となる。
荷電粒子顕微鏡法用の生物試料を調製するときには、その結果として、しばしば、試料に対する物理的変化が生じる。これらの物理的変化は、試料の「湿式」調製が原因で起こりうる。このような調製の1つの例は、荷電粒子システムで視認できる重金属染色剤で試料を染色するものである。物理的変化は、荷電粒子システム内で試料が真空環境にさらされることによっても起こりうる。これらの物理的変化は、iPALM画像を同じ試料の荷電粒子画像と相関させて、試料の有益な情報、特にZ次元の情報を得る能力を低下させる。
Z次元の正確な画像化のこれらの欠陥を克服する試みがいくつかなされている。このような試みには、試料の頂面において蛍光マーカを使用することが含まれる。しかしながら、このような試みは、試料の変形に起因するデータ相関のこれらの欠陥を克服しない。蛍光マーカを使用する現在の方法が提示する別の難点は、マーカを含む試料体積の全体にわたって蛍光染料が存在することである。試料体積の全体にわたって染料が存在する場合には通常、染料の量があまりに多いため、個々の単一光子放出事象を画像化する必要がある確率的なiPALMプロセスまたはSTORMプロセスを使用して、マーカを正確に局在化することはできない。その結果、試料体積の全体にわたって分散した染料の明るさによってあまりに多くの蛍光が生成されるため、近くの関心の領域の位置を正確に決定することが困難になることがある。
米国特許第7,924,432号明細書
Huang他、Int.Journal of Applied Mechanics 03、335(2011年) Peeters他、Ann.Biomed.Engineering、2004年10月、32(10)、1443〜1452 Unlu他、Medical Imaging、第5747巻
本発明は、光学画像と荷電粒子画像とを3次元で正確に相関させる方法を含む。
いくつかの実施形態は、試料体積の全体にわたって物体または基準マークを分布させる方法を提供する。これらの基準マークは、光学画像中と荷電粒子画像中の両方で視認でき、これらの基準マークを使用して、光学的方法による画像中の試料内の位置を、荷電粒子画像化による画像中の試料内の位置と相関させることができる。いくつかの実施形態では、基準マークの形状ならびに基準マークの位置を使用して、それらの画像を相関させる。
以上では、以下の本発明の詳細な説明をより十分に理解できるように、本発明の特徴および技術上の利点をかなりおおまかに概説した。以下では、本発明の追加の特徴および追加の利点を説明する。開示される着想および特定の実施形態を、本発明の同じ目的を実施するために他の構造体を変更しまたは設計するベースとして容易に利用することができることを当業者は理解すべきである。さらに、このような等価の構造体は、添付の特許請求の範囲に記載された本発明の範囲を逸脱しないことを当業者は認識すべきである。
次に、本発明および本発明の利点のより完全な理解のため、添付図面にとともに以下の説明を参照する。
試料体積の全体にわたって複数の基準マークが包埋された試料を示す図である。 染料でコーティングされた本発明の一実施形態に基づく球形基準マークを示す図である。 物理的変形を受ける前および受けた後の試料を示す図である。 画像化するために基板上に取り付けられた本発明に基づく試料を示す図である。 蛍光基準マークのマーカを照らし観察するための光学顕微鏡の略図である。 電子ビーム・カラムおよびイオン・ビーム・カラムを含むデュアル・ビーム・システムの略図である。 デュアル・ビーム・システムを使用して試料を処理するスライス・アンド・ビュー・プロセスを示す図である。 相関光学および電子顕微鏡法用の試料を調製する諸ステップを示す流れ図である。 iPALMの諸ステップを示す流れ図である。
本明細書に記載された方法は、光学顕微鏡法と電子顕微鏡法の間のより正確な相関データを有する試料の3次元画像を生成する。これらの方法は、いかなる特定の光学顕微鏡技法またはいかなる特定の荷電粒子ビーム画像化技法にも限定されない。本発明は、回折限界型の光学技法および超解像光学技法と一緒に使用することができる。実施形態はさらに、PALM、iPALM、STORM、SIM、STED、構造化照明(structured illumination)技法、4Piなどのブロード・フィールド(broad field)光学技法ならびに、走査共焦点顕微鏡法、近距離場(near field)走査光学顕微鏡法、TIRFなどの走査技法の両方と一緒に使用することができる。本発明は、STED、GSD、RESOLFT、SSIMなどの確定的(deterministic)超解像技法、ならびにSOFIおよび全ての単一分子局在化法(single−molecule localization method:SMLM)などの確率的超解像技法と一緒に使用することができる。SMLMには例えばSPDM、SPDMphymod、PALM、FPALM、STORM、dSTORMなどがある。これらの技法は例として挙げたのであって、本発明の用途を限定するものとして挙げたのではない。
本発明の実施形態で使用することができる荷電粒子画像化技法には、走査電子顕微鏡法、走査イオン顕微鏡法、透過電子顕微鏡法、走査透過電子顕微鏡法などがあり、透過電子顕微鏡断層撮影技法など、これらの技法の変形も含まれる。
本発明のいくつかの実施形態は、表面にマーカを有するナノ球(nanosphere)の使用を含む。いくつかの実施形態では、表面を官能化し、続いて処理して、蛍光染料などのマーカを提供することができる。ナノ球のこのような処理によって、染料の存在が表面だけに限定されることが好ましい。染料をナノ球の表面だけに限定することによって、光学画像中で球の形状をより容易に決定することができ、このことは、試料体積に対して生じる可能性がある物理的変化を追跡するのに役立つ。
超解像顕微鏡法および荷電粒子顕微鏡法を使用して試料体積の3次元画像を得た後、試料体積中に包含される基準マークの位置および形状を比較し、補正を実施して、それらの位置の位置合せをすることができる。これによって、超解像画像中の位置と荷電粒子画像中の位置との間の優れた相関、特にZ軸の優れた相関が可能になる。
X−Y次元における画像化ならびにZ次元における最初の画像化は、既知のシステムおよび方法を使用して実行することができる。そのような1つの方法が、Hess他の「Three−Dimensional Interferometric Microscopy」という名称の米国特許第7,924,432号明細書に示され記述されている。Hessに記載された方法では、X−Y次元の2次元相関を、金ナノロッド(nanorod)技法を使用して実行し、Z次元の相関を、画像化された切片の頂面と底面の間の補間に基づいて実行する。一実施形態において、本出願の出願人は、染料でコーティングされた複数の基準マークのマーカを試料体積中に散在させることによって試料を調製する。試料中に染料でコーティングされた基準マークを包埋すると、試料中の関心の物体に対する基準マークの超解像局在化が可能になる。単一の基準マークの形状を画像化プロセス間で比較することも可能である。加えて、試料中の染料でコーティングされた基準マークは、染料でコーティングされた他の基準マークに対する正確な位置決定を可能にする。試料の頂面と底面の間で補間を行う現在の方法に依存することなく、この方法を使用して相関画像化を補正することができる。
図1は、樹脂などの固定材103中に生物細胞などの関心の領域102が包埋された試料100を示す。試料100は、試料100中に包埋され試料体積の全体にわたって分布した複数の基準マークのマーカを含む。それらの基準マークのマーカは球104の形状を有することが好ましい。図2に示されているように、それぞれのマーカは、市販されているポリスチレン球またはラテックス球などの球104であることが好ましいが、本発明は、さまざまな形状および材料を企図する。他のタイプの基準マーク、例えば官能化されたシリカ・ビーズ、蛍光コーティングを有する粒子、量子ドット、ナノ粒子(nanoparticle)、ナノロッド、化学的に官能化されたナノまたはマイクロ構造体などを使用することもできる。
それぞれの球には、光学顕微鏡で観察することができるマーカが付加されている。例えば、蛍光マーカ、量子ドット、金属ナノ粒子または他のマーカを使用することができる。球にマーカを付加する任意の方法を使用することができる。一実施形態では、球がポリスチレンであり、それぞれの球104が、球の表面に官能基を付加する化学処理を受ける。例えばアミン(R−NH)基を表面に導入することができる。次いで、これらのアミノ末端を、例えば米ニューヨーク州Grand IslandのLife Technologiesから販売されているAlexaFluor 488染料のスルホジクロロフェノールエステル誘導体と反応させることができる。画像化プロセスにおいてそれぞれの球の内部体積108が染色されておらず、透明のままであり続けるように、この染料コーティング106は、それぞれの球104の外面だけに塗布する。他のタイプの官能基および染料を使用してマーカをコーティングすることもできること、ならびに、光学顕微鏡法および荷電粒子顕微鏡法によって確実に画像化することができる限りにおいて、マーカは、球形以外の形状および輪郭を有することもできることに留意すべきである。例えば、蛍光染料に結合された化学的に官能化されたカーボン・ナノチューブ(carbon nanotube)またはカーボン・ナノファイバ(nanofiber)を使用することもできる。次いで、球104を例えば、例えば生物細胞がその中に存在するアガロース溶液中に分散させる。次いで試料を脱水し、アクリル樹脂を染み込ませる。その結果、生物細胞は、染料でコーティングされた球104とともに恒久的に包埋される。球表面の化学官能基と染料誘導体の他の組合せ、または染料誘導体の不使用も、ナノ球に染料を導入する可能な方法である。
図3は、物理的変化を受ける前および受けた後の試料体積を示す。試料300に対する物理的変化は、iPALM後の試料調製の結果、逐次切片化時にビームにさらされた結果、もしくは真空環境にさらされた結果であることがあり、または他の原因で起こることもある。図3の左側には、生物細胞物質302などの包埋された関心の領域と、試料体積の全体にわたって分散した複数の球304とを含む、物理的変形を受ける前の試料300が示されている。物理的変化を受ける前、試料300は実質上対称であり、外面は実質的に平行であることが分かる。例えば、上面306は下面308と実質的に平行である。図3の右側には、物理的変形後の試料300が示されており、この変形では、試料300にいくつかの変化が生じている。より具体的には、上面306と下面308はもはや実質的に平行ではない。加えて、試料体積の形状が変化した結果として、細胞物質302と球304の相対位置が変化している。位置の変化に加えて、球304自身が、最初の球形の形状を球がもはや持たない物理的変化を受けることもある。図2に最もよく示されているとおり、それぞれの球304は、染料分子の層を球の外面にだけ有するため、標識化はまばらとなり、その結果、1つの球の蛍光が近くの球と干渉しない。したがって、試料中の個々の球の正確な位置、および/または特定のタンパク質分子などの他の関心の物体の正確な位置が得られる。加えて、球の外面の染料コーティングは、画像中で球が透明で中空に見えるような、球を通した光学画像化を可能にする。次いで、球または他の形状の重心の位置を決定することができる。この重心は、基準マークと試料体積中の他の物体の間の相対間隔を決定する基準点として使用される。さらに、その球のその最適な球形からの偏差ならびに他の球に対するその球の位置を使用して、荷電粒子顕微鏡法を使用して得た画像化された切片を補正することができる。この補正によって、iPALM画像と電子画像の間の相関の正確さを向上させることができる。
図4は、樹脂404または他の固定材中に包埋された細胞構造体402または他の関心の領域を有する試料400を示す。樹脂404中には、iPALMデータをFIB−SEMスライス・アンド・ビュー・データと相関させるための3次元基準マークのマーカとして使用するために、染料でコーティングされた複数の球406が分散している。染料でコーティングされた球406の位置を突き止めるのは、iPALM画像化と電子画像化の両方で容易である。試料400は、金ナノロッド412を含むITOコーティング410を有するカバーガラス408からなる支持体407上に取り付けられている。金ナノロッドを使用したZ次元の最初の較正は、Hess他の米国特許第7,924,432号明細書に示され記述されているとおりに実施される。しかしながら、染料でコーティングされた球406の分散は、試料の体積全体にわたってiPALMデータとEMデータとを直接に相関させることを可能にする。
本発明の実施形態は、蛍光マーカを照らして観察するための光学顕微鏡と、イオン・ビーム・カラムおよび電子ビーム・カラムを含むことができるデュアル・ビーム・システムとを含む既存のシステムで実装することができる。図5は、超解像光学システム500を示す。このシステムは、励起ビームを放出する励起源502を有する。このビームを、ディプリーション・ビーム(depletion beam)を放出するディプリーション源528と結合させることができる。結合後のビーム504はミラー514で反射され、試料体積520中で小さなスポットに集束する。他の実施形態は、本発明の範囲を逸脱しない異なる光学ビーム経路を特徴とすることができる。試料体積中の脱励起された分子によって放出された光子をレンズ522および524によって集め、プリズム508で再結合させる。この再結合によって干渉縞が生じ、その干渉縞をコレクタ526によって集める。この干渉縞を解析することによって、試料体積の正確な3次元画像を生成することができる。
典型的なデュアル荷電粒子ビーム・システム600が図6に示されている。システム600は電子ビーム・カラム602を含み、電子ビーム・カラム602は、電子源604、偏向器605、ならびに電子光学レンズ606および608を備え、これらのレンズは、電子ビーム610を集束させ、試料ステージ614上に取り付けられた試料612に向かって導く。システム600はさらに集束イオン・ビーム・カラム616を含み、集束イオン・ビーム・カラム616は、イオン源618、イオン光学レンズ620および622を備え、これらのレンズは、イオン・ビーム624を集束させ、試料612に向かって導く。電子ビーム・カラム602およびイオン・ビーム・カラム618ならびに粒子検出器626は、真空室628内に含まれる。真空室628は真空ポンプ630によって排気される。制御装置632が、電子ビーム・カラム602とイオン・ビーム・カラム618の両方ならびに検出器626を制御する。図7は、デュアル・ビーム・システム600によって試料体積700に対して実行されるスライス・アンド・ビュー・プロセスを示す。試料体積700は、包埋された構造体702および染料でコーティングされた分散した球704を含む。電子ビーム・カラム710からの電子ビーム708によって試料面706を画像化する。画像化した後、集束イオン・ビーム・カラム714からの集束イオン・ビーム712を用いたミリング(milling)によって試料体積の平面層を除去する。この層をミリングすることによって新しい試料面716を露出させ、次いで試料面716を電子ビーム708を用いて画像化する。次いでこのプロセスを繰り返し、集束イオン・ビーム712によって新しい試料面718をミリングし露出させ、次いで試料面718を画像化する。このプロセスをさらに別の層に対して継続して、新しい試料面720および722を露出させ、次いでそれらの面を画像化し、除去する。層のサイズおよび数は、関心の領域のサイズおよび位置によって変わってくる。イオン・ビーム・システムも、電子画像化と同様のプロセスで画像を生成することができる。電子顕微鏡法の代わりにイオン顕微鏡法を使用することができる。加えて、電子断層撮影法、荷電粒子ビーム・エネルギーに基づいて深さ情報を集める方法など、3次元荷電粒子画像を生み出す他の方法も知られている。
図8は、相関光学および電子顕微鏡法用の試料を調製する方法および相関画像化プロセスを示す。このプロセスは試料802から始まり、試料は、生きている生物、組織生検材料または他のタイプの試料とすることができる。本明細書の多くの部分が生物試料を対象としているが、この方法を使用して他のタイプの試料を調べることもできる。この試料を、当技術分野でよく知られている方法を使用して固定し804、染色する808。この試料調製プロセスの任意の時点で免疫標識化(immunolabeling)806を使用することができ、免疫標識化806は、蛍光マーカまたは重金属マーカを用いた試料中の特定の領域の局在化された染色を可能にする。最初の試料調製とは別に、3D基準マークを調製する。ステップ812で、最終的な試料切片の所望の厚さよりも小さな直径を有するように、基準マークのサイズを選択する。ステップ814で、最終的な試料切片の視野の中に複数の基準マークが存在するが、試料の構成部分の視覚化が困難になるほどには存在する基準マークの数が多くならないように、必要な基準マークの濃度を計算する。
本発明の一実施形態では、基準マークがポリスチレン球である。染料の結合を可能にするために、例えば脂肪族アミン基または他の官能基を球の表面に化学結合させることによって球の表面を化学的に修飾することができる。球の表面を化学的に修飾することによって、球の表面だけに蛍光染料を結合させ、球の内部へ染料を浸透させないようにすることができる。球がスライスされ画像化されると、このスライシングの結果として球の内部が露出した場合、球はリングとして現われる。基準マークの表面だけに染料を配置すると、それによって、基準マークに関する位置情報、ならびに後続の試料処理中の球の変形に関する情報がより正確になるため有利である。基準マークが重金属で染色されやすいことも有利なことがある。例えば、四酸化オスミウムは、球中の不飽和炭化水素を選択的に染色することができ、その結果、SEMでのコントラストが向上する。
ステップ818で、基準マークを媒質に懸濁させる。これで、試料を導入する準備ができたことになる。この媒質はしばしば粘性溶液、例えばアガロース・ゲルである。ステップ810は、相関顕微鏡法が望ましいかどうかを判断するステップである。以前に述べたとおり、相関顕微鏡法は多くの望ましい特徴を有する。相関顕微鏡法が望ましくない場合には、続いて、基準マークを含まない媒質に試料を懸濁させる。相関顕微鏡法が望まれる場合には、以前に調製しておいた基準マークを含む媒質に試料を懸濁させる820。ステップ824で、追加の染色ステップ826を試料に適用するかどうかを判断する。一実施形態では、追加の染色が、四酸化オスミウム、酢酸ウラニルなどの重金属染色剤の使用を含む。追加の染色を実装する場合には追加の染色に続いて、試料を脱水する828。この脱水は、当技術分野でよく知られているさまざまな方法を使用して実行することができる。例えば、試料の水分を、エタノールなどの混和性の溶媒に段階的に置き換えることができる。
脱水の後、試料をプラスチック樹脂に包埋する830。これで、試料を薄い切片にする準備ができたことになる。試料の切片化832は、例えば超薄切片法(ultramicrotomy)によって、または集束イオン・ビームを使用した切片化によって実行することができる。次いで、ステップ834で、試料の薄い切片を基板上に置く。いくつかの実施形態では、この基板が、表面全体に基準マークが分布し、それらの基準マークが、試料体積と基板の境界に基準マークのマーカの2次元アレイを形成した平面基板の形態をとる。いくつかの実施形態では、図4に示されているように、基準マークが金ナノロッドであり、基板がカバーガラスである。試料を基板に載せたら画像化の準備は完了である。一般に、最初の画像化プロセスとしては光学画像化ステップ836が好ましい。光学画像化プロセスは通常、試料体積の著しい物理的変化を引き起こさないためである。次いで、ステップ838の荷電粒子画像化を実行する。
いくつかの実施形態では、図9に示されているようなインターフェロメトリックPALMを使用して3D超解像画像を生成する。調製済みの試料902を、図5に示された顕微鏡などの顕微鏡内に置き、ステップ904で励起光を照射する。次いで、一連の蛍光画像906を得る。同時に、インターフェロメトリック・データも集める908。このデータを解釈してZ軸情報を提供することができる。次いで、それぞれの発光体の点像分布関数にガウス・フィットを適用し910、ガウス・フィットを、インターフェロメトリックZ軸データと組み合わせて、3次元空間内の点を与える。これらの点が最終的な3D画像912を構成する。いくつかの実施形態では、複数の蛍光マーカを連続して画像化する。マーカは、重なり合わない蛍光発光スペクトルを有するように選択する。その結果、例えばダイクロイック光学部品を使用することによって、それらのマーカの蛍光を分離することができる。
荷電粒子顕微鏡の真空室に試料を導入すると、図3に最も明確に示されているように、試料体積に物理的変化が起こることがある。例えば、試料が収縮または変形し、その結果、使用する2つの顕微鏡技法間で、試料体積中の位置間の相関が失われる可能性がある。本発明は、試料体積の光学画像と荷電粒子画像の間の相関を改善する。前に説明したとおりに調製し、分布させた基準マークのマーカは、光学超解像画像中と荷電粒子画像中の両方で視認することができる。したがって、試料体積の全体にわたる基準マークのマーカの分布および位置は、光学画像中と荷電粒子体積測定(volumetric)画像中の両方で決定することができる。基準マークのマーカは試料体積基質(matrix)中で動かないため、基準マークのマーカは、試料体積が何らかの物理的変化を受けたときに、試料体積中の関心の特徴と一緒に移動する。光学画像化と荷電粒子画像化の両方で、試料体積中の基準マークのマーカの3次元位置を正確に決定することによって、画像化技法間のそれぞれの基準マークの移動量、したがって画像化プロセス間の試料体積の変形の量を決定することができる。加えて、基準マークの形状の任意の変化を使用して、試料体積の変形を決定することもできる。次いで、どちらかの画像セットに補正を適用して、画像化方法間の正確な相関を可能にすることができる。
ステップ840(図8)で、光学画像中の基準マークの位置を、荷電粒子ビーム画像中の基準マークの位置と相関させる。有用な相関技法が、Huang他、Int.Journal of Applied Mechanics 03、335(2011年)「Huang」によって示されている。Huangは、一組のディジタル体積相関アルゴリズムを使用して、レーザ走査共焦点顕微鏡法を使用した軟かいゲルの3次元変形測定に対処している。第1のアルゴリズムを使用して、インテジャ(integer)−ボクセル(voxel)相関計算を加速する。次いで、2つの異なるアルゴリズムを使用して、変形の前後の体積画像のサブボクセル変位および歪みフィールドを得る。Huangは、試料の異なる層のレーザ走査共焦点顕微鏡法による画像を相関させているが、Huangが使用した技法を使用して、光学画像とEM画像とを相関させることができる。Peeters他、Ann.Biomed.Engineering、2004年10月、32(10)、1443〜1452は、後続の画像間の変形を定量化する可能な別の方法を記載しており、Unlu他、Medical Imaging、第5747巻もそのような方法を記載している。別の方法は、荷電粒子画像中と光学画像中の両方でエッジ検出を使用し、それらの画像に3D変換を適用して、光学画像と荷電粒子画像の間でエッジを一致させる。
EM画像中の基準マークが、光学画像中の基準マークの位置の3次元内の位置と一致するように、一連の画像中の画素を再配分することによって、電子顕微鏡での歪んだ画像を「歪みのない」画像にすることができる。さらに、ステップ842で、電子ビーム画像の基準マークの元の球形からの偏差によって歪みを決定することもでき、EM画像の画素を、基準マークの画像が球形の基準マークを示すように再配列することができる。本発明の好ましい方法または装置は多くの新規の態様を有する。本発明は、目的の異なる、異なる方法または装置で具現化することができるため、全ての実施形態に全ての態様が存在する必要はない。さらに、記載された実施形態の態様の多くは別個に特許を受けることができる。本発明は幅広い適用可能性を有し、上記の例において説明し、示した多くの利点を提供することができる。本発明の実施形態は、具体的な用途によって大きく異なり、全ての実施形態が、これらの全ての利点を提供するわけではなく、本発明によって達成可能な全ての目的に合致するわけではない。
さらに、コンピュータ・ハードウェア、ハードウェアとソフトウェアの組合せ、またはコンピュータ可読の非一時的記憶装置に記憶されたコンピュータ命令によって、本発明の実施形態を実装することができることも認識すべきである。本発明の方法は、標準プログラミング技法を使用し、本明細書に記載された方法および図に基づいて、コンピュータ・プログラムとして実装することができ、このコンピュータ・プログラムは、コンピュータ・プログラムを含むように構成されたコンピュータ可読の非一時的記憶媒体を含み、そのように構成された記憶媒体は、コンピュータを、予め定義された特定の方式で動作させる。コンピュータ・システムと通信するため、それぞれのプログラムは、高水準手続き型プログラミング言語またはオブジェクト指向プログラミング言語で実装することができる。しかしながら、所望ならば、それらのプログラムを、アセンブリ言語または機械語で実装することもできる。いずれにせよ、その言語は、コンパイルまたは解釈される言語とすることができる。さらに、そのプログラムは、その目的のためにプログラムされた専用集積回路上で実行することができる。
さらに、方法論は、限定はされないが、荷電粒子ツールもしくは他の画像化デバイスとは別個の、荷電粒子ツールもしくは他の画像化デバイスと一体の、または荷電粒子ツールもしくは他の画像化デバイスなどと通信するパーソナル・コンピュータ、ミニコンピュータ、メインフレーム、ワークステーション、ネットワーク化されたコンピューティング環境または分散コンピューティング環境、コンピュータ・プラットホームなどを含む、任意のタイプのコンピューティング・プラットホームで実装することができる。本発明の諸態様は、取外し可能であるか、またはコンピューティング・プラットホームと一体であるかを問わない、ハードディスク、光学式読取りおよび/または書込み記憶媒体、RAM、ROMなどの非一時的記憶媒体または記憶装置上に記憶された機械可読コードであって、プログラム可能なコンピュータが、本明細書に記載された手順を実行するために、その記憶媒体または記憶装置を読んだときに、そのコンピュータを構成し、動作させるために、そのコンピュータが読むことができるように記憶された機械可読コードとして実装することができる。さらに、機械可読コードまたは機械可読コードの一部を、有線または無線ネットワークを介して伝送することができる。本明細書に記載された発明は、マイクロプロセッサまたは他のデータ処理装置と連携して上述の諸ステップを実装する命令またはプログラムを含む、これらのさまざまなタイプの非一時的コンピュータ可読記憶媒体、およびその他のさまざまなタイプの非一時的コンピュータ可読記憶媒体を含む。本発明はさらに、本明細書に記載された方法および技法に従ってプログラムされたとき、そのコンピュータ自身を含む。
入力データに対してコンピュータ・プログラムを適用して、本明細書に記載された機能を実行し、それによって入力データを変換して出力データを生成することができる。この出力情報は、ディスプレイ・モニタなどの1つまたは複数の出力装置に適用される。本発明の好ましい実施形態では、変換されたデータが物理的な実在する物体を表し、これには、その物理的な実在する物体の特定の視覚的描写をディスプレイ上に生成することが含まれる。
以上の説明の多くは、ドリル掘り屑からの鉱物試料を対象としているが、本発明は、適当な任意の物質の試料を調製する目的に使用することができる。特記しない限り、本出願では、用語「加工物」、「試料」、「基板」および「試験体」が相互に交換可能に使用されている。さらに、本明細書において用語「自動」、「自動化された」または同種の用語が使用されるときには常に、それらの用語が、自動プロセスもしくは自動ステップ、または自動化されたプロセスもしくは自動化されたステップの手動開始を含むことが理解されよう。
実施形態では、光学的に取得した画像および荷電粒子ビーム・システムを用いて取得した画像を利用した試料体積中の関心の領域の位置の3次元相関の方法が提示される。この方法は、基板上に支持された試料体積を提供することであり、この試料体積が、関心の領域と、試料体積の全体にわたって分布した基準マークとを含み、この基準マークが、試料体積の光学画像中と荷電粒子画像中の両方で識別可能であることと、試料体積を光学システムに導入することと、試料体積を光学システムを使用して画像化することと、1つまたは複数の光学画像を使用して、試料体積の全体にわたって分布した基準マークの3次元位置を識別することと、試料体積を荷電粒子ビーム・システムに導入することと、試料体積を荷電粒子ビームを使用して画像化することと、1つまたは複数の荷電粒子画像を使用して、試料体積の全体にわたって分布した基準マークの3次元位置を識別することと、光学画像中および荷電粒子ビーム画像中の基準マークの位置を使用して、試料体積中の関心の領域の位置を相関させることとを含む。
いくつかの実施形態では、試料体積の全体にわたって分布した基準マークが蛍光マーカを含む。
いくつかの実施形態では、近くの蛍光マーカから実質的に干渉されることなくそれぞれの蛍光マーカを個別に画像化することができる十分に低い濃度で、蛍光マーカが、試料体積の全体にわたって分布している。
いくつかの実施形態では、この方法が、試料体積と基板との境界面のX−Y平面内に基準マークの平面層をさらに含み、前記基準マークが、試料体積の全体にわたって分布した基準マークと区別できる。
いくつかの実施形態では、試料体積を光学システムを使用して画像化することが、3次元超解像画像化を含む。
いくつかの実施形態では、超解像画像化が光活性化局在性顕微鏡法を含む。
いくつかの実施形態では、物体の3次元位置を、荷電粒子ビーム・システムを使用して、逐次画像化および材料除去サイクルによって得る。
いくつかの実施形態では、画像化が、走査電子顕微鏡画像を得ることを含み、材料除去が、集束イオン・ビームを用いたミリングを含む。
いくつかの実施形態では、基準マークが蛍光ナノ粒子を含む。
いくつかの実施形態では、ナノ粒子が、染料によって機能化された球(dye−functionalized sphere)である。
いくつかの実施形態では、染料によって機能化された球が、球の表面に存在し球の内部には浸透しない染料を含む。
いくつかの実施形態では、この染料が、光活性化可能な(photoactivatable)染料またはタンパク質である。
いくつかの実施形態では、ナノ粒子が量子ドットである。
実施形態では、試料体積中の空間的変化を補正する方法が提示される。この方法は、試料体積を光学システムを使用して画像化することと、集められた1つまたは複数の光学画像を使用して、試料体積の全体にわたって分布した基準マークの3次元位置を決定することと、試料体積を荷電粒子システムに導入することと、試料体積を荷電粒子ビームを使用して画像化することと、集められた1つまたは複数の荷電粒子ビーム画像を使用して、試料の全体にわたって分布した基準マークの3次元位置を決定することと、1つまたは複数の光学画像中の基準マークの位置を、1つまたは複数の荷電粒子ビーム画像中の基準マークの位置と比較することと、1つまたは複数の光学画像と1つまたは複数の荷電粒子画像の間の基準マークの位置の差を計算することと、1つまたは複数の光学画像あるいは1つまたは複数の荷電粒子画像に補正を適用して、試料体積に対する空間的変化を考慮することとを含む。
いくつかの実施形態では、この方法が、補正を適用した後に、1つまたは複数の光学画像に1つまたは複数の荷電粒子画像をオーバレイすることをさらに含む。
いくつかの実施形態では、光学画像化が3次元超解像画像化を含む。
いくつかの実施形態では、荷電粒子画像化が、逐次画像化および材料除去サイクルによる一連の画像を含み、この一連の逐次画像を処理して、試料体積の3次元表現にすることができる。
いくつかの実施形態では、1つまたは複数の光学画像中の基準マークと前記1つまたは複数の荷電粒子画像中の基準マークの間の相対距離を比較することによって、基準マークの位置の差を決定する。
いくつかの実施形態では、光学画像化と荷電粒子画像化の間の基準マークの形状の何らかの変化を計算し、この変化を使用して、1つもしくは複数の光学画像または1つまたは複数の荷電粒子画像に補正を適用する。
以下の議論および特許請求の範囲では、用語「含む(including)」および「備える(comprising)」が、オープン・エンド(open−ended)型の用語として使用されており、したがって、これらの用語は、「...を含むが、それらだけに限定はされない(including,but not limited to)」ことを意味すると解釈すべきである。どの用語も本明細書で特に定義されていない限り、その用語は、その通常の一般的な意味で使用されることが意図されている。添付図面は、本発明の理解を助けることが意図されており、特記しない限り、一定の比率では描かれていない。本発明を実施するのに適した粒子ビーム・システムは例えば、本出願の譲受人であるFEI Companyから市販されている。
本発明および本発明の利点を詳細に説明したが、添付の特許請求の範囲によって定義されたような本発明の趣旨および範囲から逸脱することなく、本明細書に記載された実施形態に、さまざまな変更、置換および改変を加えることができることを理解すべきである。さらに、本出願の範囲が、本明細書に記載されたプロセス、機械、製造、組成物、手段、方法およびステップの特定の実施形態に限定されることは意図されていない。当業者なら本発明の開示から容易に理解するように、本明細書に記載された対応する実施形態と実質的に同じ機能を実行し、または実質的に同じ結果を達成する既存のまたは今後開発されるプロセス、機械、製造、組成物、手段、方法またはステップを、本発明に従って利用することができる。したがって、添付の特許請求の範囲は、その範囲内に、このようなプロセス、機械、製造、組成物、手段、方法またはステップを含むことが意図されている。
100 試料
102 関心の領域
103 固定材
104 球
602 電子ビーム・カラム
604 電子源
610 電子ビーム
612 試料
614 試料ステージ
616 集束イオン・ビーム・カラム

Claims (33)

  1. 光学画像および荷電粒子画像を利用した試料体積中の関心の領域の位置の3次元相関の方法であって、
    試料体積を含む試料を提供することであり、前記試料体積が、関心の領域を包含し、前記試料体積中に分布した基準マークとを含み、前記基準マークが、前記試料体積の光学画像中と荷電粒子画像中の両方で識別可能であることと、
    前記試料体積を光学システムを使用して画像化することと、
    前記試料体積を荷電粒子ビームを使用して画像化することと、
    前記光学画像中と前記荷電粒子ビーム画像中の両方で識別された前記基準マークの位置を使用して、前記試料体積中の関心の領域の位置を相関させることと
    を含む方法。
  2. 前記基準マークが既知の3次元形状を有し、前記基準マークが表面にマーカを含み、しかし内部には含まない、請求項1に記載の方法。
  3. 前記試料体積中の関心の領域の位置を相関させることが、前記試料体積の全体にわたって分布した前記基準マークのうちの少なくともいくつかの基準マークの3次元位置を、1つまたは複数の光学画像を使用して決定すること、および前記試料体積中に分布した前記基準マークの3次元位置を、1つまたは複数の荷電粒子画像を使用して決定することを含む、請求項1または2に記載の方法。
  4. 前記試料体積を前記光学システムを使用して画像化することと、前記試料体積を前記荷電粒子ビームを使用して画像化することの間で、前記試料体積の形状が変化し、前記試料体積中の関心の領域の位置を相関させることが、前記荷電粒子ビーム画像の画素を再配分して、前記光学画像中の前記基準マークの3次元位置が、前記荷電粒子ビーム画像中の前記基準マークの3次元位置と一致するようにすることを含む、請求項1から3のいずれか一項に記載の方法。
  5. 前記試料体積を前記光学システムを使用して画像化することと、前記試料体積を前記荷電粒子ビームを使用して画像化することの間で、前記基準マークの形状が変化し、前記試料体積中の関心の領域の位置を相関させることが、前記基準マークの形状の前記変化を使用することを含む、請求項1から4のいずれか一項に記載の方法。
  6. 前記基準マークが既知の3次元形状を有し、前記基準マークが表面にマーカを含み、しかし内部には含まない、請求項1から5のいずれか一項に記載の方法。
  7. 前記試料体積中に分布した前記基準マークが蛍光球を含み、前記蛍光球が、前記球の表面に存在し前記球の内部には浸透しない染料を含む、請求項1から6のいずれか一項に記載の方法。
  8. 近くの蛍光マーカから実質的に干渉されることなくそれぞれの基準マークを個別に画像化することができる十分に低い濃度で、前記基準マークが前記試料体積中に分布している、請求項1から7のいずれか一項に記載の方法。
  9. 前記試料体積と基板との境界面のX−Y平面内に基準マークの平面層をさらに含み、前記基準マークが、前記試料体積の全体にわたって分布した前記基準マークと区別できる、請求項1から8のいずれか一項に記載の方法。
  10. 前記試料体積を光学システムを使用して画像化することが、3次元超解像画像化を含む、請求項1から9のいずれか一項に記載の方法。
  11. 超解像画像化が光活性化局在性顕微鏡法を含む、請求項10に記載の方法。
  12. 物体の3次元位置を、前記荷電粒子ビーム・システムを使用して、逐次画像化および材料除去サイクルによって得る、請求項1から11のいずれか一項に記載の方法。
  13. 画像化が、走査電子顕微鏡画像を得ることを含み、材料除去が、集束イオン・ビームを用いたミリングを含む、請求項12に記載の方法。
  14. 前記基準マークが蛍光ナノ粒子を含む、請求項1から13のいずれか一項に記載の方法。
  15. 前記ナノ粒子が、染料によって機能化された球である、請求項14に記載の方法。
  16. 前記染料によって機能化された球が、前記球の表面に存在し前記球の内部には浸透しない染料を含む、請求項15に記載の方法。
  17. 前記染料が、光活性化可能な染料またはタンパク質である、請求項15または16に記載の方法。
  18. 前記ナノ粒子が量子ドットである、請求項14に記載の方法。
  19. 前記基準マークの3次元位置を、1つもしくは複数の荷電粒子画像または1つもしくは複数の光学画像を使用して決定することが、前記基準マークの3次元形状を決定することをさらに含む、請求項2から18のいずれか一項に記載の方法。
  20. 前記光学画像中と前記荷電粒子ビーム画像中の両方で識別された前記基準マークの位置を使用することが、前記基準マークの形状の変化を使用することをさらに含む、請求項14に記載の方法。
  21. 試料体積中の空間的変化を補正する方法であって、
    試料体積を提供することであり、前記試料体積が、前記試料体積の全体にわたって分散した基準マークを含むことと、
    前記試料体積を光学システムを使用して画像化することと、
    集められた1つまたは複数の前記光学画像を使用して、前記試料体積中に分布した前記基準マークの3次元位置を決定することと、
    前記試料を荷電粒子ビーム・システムに導入することと、
    前記試料を荷電粒子ビームを使用して画像化することと、
    集められた1つまたは複数の前記荷電粒子ビーム画像を使用して、前記試料体積中に分布した前記基準マークの3次元位置を決定することと、
    前記1つまたは複数の光学画像中の前記基準マークの位置を、前記1つまたは複数の荷電粒子ビーム画像中の前記基準マークの位置と比較することと、
    前記1つまたは複数の光学画像と1つまたは複数の荷電粒子画像の間の基準マークの位置の差を計算することと、
    前記試料体積に対する空間的変化を考慮するために、前記1つまたは複数の光学画像あるいは前記1つまたは複数の荷電粒子画像に補正を適用することと
    を含む方法。
  22. 前記基準マークの3次元位置を決定することが、前記基準マークの3次元形状を決定することをさらに含む、請求項21に記載の方法。
  23. 補正を適用した後に、前記1つまたは複数の光学画像に前記1つまたは複数の荷電粒子画像をオーバレイするスことさらに含む、請求項21または22に記載の方法。
  24. 光学画像化が3次元超解像画像化を含む、請求項21から23のいずれか一項に記載の方法。
  25. 荷電粒子画像化が、逐次画像化および材料除去サイクルによる一連の画像を含み、前記一連の逐次画像を処理して、前記試料体積の3次元表現にすることができる、請求項21から24のいずれか一項に記載の方法。
  26. 前記1つまたは複数の光学画像中の基準マークと前記1つまたは複数の荷電粒子画像中の基準マークの間の相対距離を比較することによって、基準マークの位置の差を決定する、請求項21から25のいずれか一項に記載の方法。
  27. 選択された基準マークの相対形状を光学画像化と荷電粒子画像化の間で比較することによって、前記基準マークの形状の変化を決定する、請求項21から26のいずれか一項に記載の方法。
  28. 光学画像化と荷電粒子画像化の間の前記基準マークの形状の任意の変化を計算し、この変化を使用して、前記1つもしくは複数の光学画像または前記1つまたは複数の荷電粒子画像に補正を適用する、請求項21から27のいずれか一項に記載の方法。
  29. 試料体積中の空間的変化の画像補正のための装置であって、
    荷電粒子画像化システムと、
    光学画像化システムと、
    試料体積の全体にわたって分布した基準マークを含む前記試料体積と、
    不揮発性記憶装置に接続された制御装置と
    を備え、
    前記記憶装置が、以下の各動作:
    前記試料体積を光学システムを使用して画像化すること、
    集められた1つまたは複数の前記光学画像を使用して、前記試料体積の全体にわたって分布した前記基準マークの3次元位置を決定すること、
    前記試料体積を荷電粒子ビームを使用して画像化すること、
    集められた1つまたは複数の前記荷電粒子ビーム画像を使用して、前記試料体積の全体にわたって分布した前記基準マークの3次元位置を決定すること、
    前記1つまたは複数の光学画像中の前記基準マークの位置を、前記1つまたは複数の荷電粒子ビーム画像中の前記基準マークの位置と比較すること、
    前記1つまたは複数の光学画像と前記1つまたは複数の荷電粒子画像の間の基準マークの位置の差を計算すること、および
    前記試料体積に対する空間的変化を考慮するために、前記1つまたは複数の光学画像あるいは前記1つまたは複数の荷電粒子画像に補正を適用すること
    を実行するよう前記制御装置に命令する命令を記憶した、試料体積中の空間的変化の画像補正のための装置。
  30. 前記基準マークの3次元位置を決定することが、前記基準マークの3次元形状を決定することをさらに含む、請求項29に記載の装置。
  31. 光学画像化が3次元超解像画像化を含み、荷電粒子画像化が走査電子顕微鏡法を含む、請求項29または30に記載の装置。
  32. 前記1つまたは複数の光学画像中の基準マークと前記1つまたは複数の荷電粒子画像中の基準マークの間の相対距離を比較することによって、基準マークの位置と形状のうちの一方または両方の差を決定する、請求項29から31のいずれか一項に記載の装置。
  33. 基準マークの位置と形状のうちの一方または両方の差が、前記試料の形状に対する物理的変化によって生じる、請求項29または32に記載の装置。
JP2015243742A 2014-12-22 2015-12-15 基準マークに基づく相関顕微鏡法 Pending JP2016119300A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US14/579,056 2014-12-22
US14/579,056 US9368321B1 (en) 2014-12-22 2014-12-22 Fiducial-based correlative microscopy

Publications (2)

Publication Number Publication Date
JP2016119300A true JP2016119300A (ja) 2016-06-30
JP2016119300A5 JP2016119300A5 (ja) 2019-01-31

Family

ID=54849802

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015243742A Pending JP2016119300A (ja) 2014-12-22 2015-12-15 基準マークに基づく相関顕微鏡法

Country Status (4)

Country Link
US (1) US9368321B1 (ja)
EP (1) EP3037862A1 (ja)
JP (1) JP2016119300A (ja)
CN (1) CN105717078A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020080508A1 (ja) * 2018-10-19 2020-04-23 株式会社日立ハイテクノロジーズ アライメントシステム及び位置合わせ用シール
JP2020514822A (ja) * 2017-03-17 2020-05-21 ユナイテッド キングダム リサーチ アンド イノベーション 超解像顕微鏡法
JP2020136053A (ja) * 2019-02-19 2020-08-31 日本電子株式会社 観察方法、画像処理装置、および電子顕微鏡
US11676794B2 (en) 2017-03-17 2023-06-13 United Kingdom Research And Innovation Super-resolution microscopy

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11896944B2 (en) 2017-02-01 2024-02-13 Illumina, Inc. System and method with fiducials responding to multiple excitation frequencies
GB201701689D0 (en) 2017-02-01 2017-03-15 Illumia Inc System and method with fiducials of non-closed shapes
GB201701686D0 (en) 2017-02-01 2017-03-15 Illunina Inc System & method with fiducials having offset layouts
GB201701691D0 (en) * 2017-02-01 2017-03-15 Illumina Inc System and method with reflective fiducials
GB201701688D0 (en) * 2017-02-01 2017-03-15 Illumia Inc System and method with fiducials in non-recliner layouts
US10252350B1 (en) 2018-06-17 2019-04-09 Arevo, Inc. Fiducial marks for articles of manufacture with non-trivial dimensional variations
CN111239085B (zh) * 2019-03-06 2022-11-22 南昌工程学院 基于深度学习的显微视觉伺服控制方法
WO2020186029A1 (en) * 2019-03-14 2020-09-17 Applied Materials, Inc. Identifying fiducial markers in microscope images
CN110865058A (zh) * 2019-11-21 2020-03-06 成都博奥独立医学实验室有限公司 激光微阵列芯片扫描仪的浓度梯度荧光校准片及校准方法
US11551906B1 (en) * 2021-06-30 2023-01-10 Fei Company Time-gated detection, dual-layer SPAD-based electron detection

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1820346B (zh) * 2003-05-09 2011-01-19 株式会社荏原制作所 基于带电粒子束的检查装置及采用了该检查装置的器件制造方法
WO2006127692A2 (en) * 2005-05-23 2006-11-30 Hess Harald F Optical microscopy with phototransformable optical labels
US7924432B2 (en) * 2006-12-21 2011-04-12 Howard Hughes Medical Institute Three-dimensional interferometric microscopy
US8422777B2 (en) * 2008-10-14 2013-04-16 Joshua Victor Aller Target and method of detecting, identifying, and determining 3-D pose of the target
CN103367085B (zh) * 2012-04-05 2017-07-07 Fei 公司 提供深度分辨图像的带电粒子显微镜
EP2893331B1 (en) * 2012-09-07 2020-01-15 Carl Zeiss X-Ray Microscopy, Inc. Combined confocal x-ray fluorescence and x-ray computerised tomographic system and method
US8872105B2 (en) * 2013-02-19 2014-10-28 Fei Company In situ reactivation of fluorescence marker

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020514822A (ja) * 2017-03-17 2020-05-21 ユナイテッド キングダム リサーチ アンド イノベーション 超解像顕微鏡法
JP7150743B2 (ja) 2017-03-17 2022-10-11 ユナイテッド キングダム リサーチ アンド イノベーション 超解像顕微鏡法
US11676794B2 (en) 2017-03-17 2023-06-13 United Kingdom Research And Innovation Super-resolution microscopy
WO2020080508A1 (ja) * 2018-10-19 2020-04-23 株式会社日立ハイテクノロジーズ アライメントシステム及び位置合わせ用シール
JPWO2020080508A1 (ja) * 2018-10-19 2021-09-09 株式会社日立ハイテク アライメントシステム及び位置合わせ用シール
US11538657B2 (en) 2018-10-19 2022-12-27 Hitachi High-Tech Corporation Alignment system and seal for positional alignment
JP2020136053A (ja) * 2019-02-19 2020-08-31 日本電子株式会社 観察方法、画像処理装置、および電子顕微鏡

Also Published As

Publication number Publication date
US9368321B1 (en) 2016-06-14
EP3037862A1 (en) 2016-06-29
US20160181060A1 (en) 2016-06-23
CN105717078A (zh) 2016-06-29

Similar Documents

Publication Publication Date Title
JP2016119300A (ja) 基準マークに基づく相関顕微鏡法
Kukulski et al. Precise, correlated fluorescence microscopy and electron tomography of lowicryl sections using fluorescent fiducial markers
Hauser et al. Correlative super-resolution microscopy: new dimensions and new opportunities
Schellenberger et al. High-precision correlative fluorescence and electron cryo microscopy using two independent alignment markers
Smith et al. Quantitatively imaging chromosomes by correlated cryo-fluorescence and soft x-ray tomographies
CN108474022A (zh) 用于包含三维核酸的基质容积成像的设备和方法
Caplan et al. The power of correlative microscopy: multi-modal, multi-scale, multi-dimensional
US7767414B1 (en) Optical imaging of molecular characteristics of biological specimen
Do et al. Imaging and characterizing cells using tomography
JP6393474B2 (ja) 高分解能3d位置特定顕微鏡検査方法
US9464995B2 (en) FIB-SEM array tomography
US20130279752A1 (en) Automated imaging of predetermined regions in series of slices
Fukuda et al. Coordinate transformation based cryo-correlative methods for electron tomography and focused ion beam milling
US9857318B2 (en) Method for generating image data relating to an object and particle beam device for carrying out this method
JP2001509612A (ja) ウェーブフィールド顕微鏡、ウェーブフィールド顕微鏡法、dna順序決定のためのウェーブフィールド顕微鏡法、およびウェーブフィールド顕微鏡に対する較正方法
JP2014160068A5 (ja)
JP2014224813A (ja) 3d高解像度局在顕微鏡法のための方法
Herrmannsdörfer et al. 3D d STORM imaging of fixed brain tissue
Figueiras et al. Phasor-assisted nanoscopy reveals differences in the spatial organization of major nuclear lamina proteins
JP2020511162A (ja) バイオインク転写用の器具
KR101878214B1 (ko) 최소세제곱 알고리즘을 기반으로 하는 암시야 조명을 이용한 비형광 나노 입자의 3차원 초고분해 영상 이미지의 획득 방법 및 시스템
Barr et al. Super-resolution analysis of TCR-dependent signaling: Single-molecule localization microscopy
Sauer et al. Localization‐based super‐resolution microscopy
CN110243318A (zh) 截面加工观察装置及其方法、程序以及形状测定方法
Ortiz Ortega et al. Characterization Techniques for Morphology Analysis

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181210

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191003

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191015

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200512