JP6984065B2 - 構造化照明パラメータの予測 - Google Patents
構造化照明パラメータの予測 Download PDFInfo
- Publication number
- JP6984065B2 JP6984065B2 JP2021110726A JP2021110726A JP6984065B2 JP 6984065 B2 JP6984065 B2 JP 6984065B2 JP 2021110726 A JP2021110726 A JP 2021110726A JP 2021110726 A JP2021110726 A JP 2021110726A JP 6984065 B2 JP6984065 B2 JP 6984065B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- structured lighting
- structured
- lighting parameter
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005286 illumination Methods 0.000 claims description 87
- 238000000034 method Methods 0.000 claims description 83
- 230000008859 change Effects 0.000 claims description 33
- 238000013213 extrapolation Methods 0.000 claims description 14
- 230000000704 physical effect Effects 0.000 claims description 4
- 230000001052 transient effect Effects 0.000 claims description 3
- 239000000523 sample Substances 0.000 description 167
- 238000003384 imaging method Methods 0.000 description 113
- 230000003287 optical effect Effects 0.000 description 77
- 230000033001 locomotion Effects 0.000 description 47
- 238000010586 diagram Methods 0.000 description 21
- 238000004891 communication Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 10
- 238000012545 processing Methods 0.000 description 10
- 239000013307 optical fiber Substances 0.000 description 9
- 239000000758 substrate Substances 0.000 description 9
- 230000005284 excitation Effects 0.000 description 8
- 230000010363 phase shift Effects 0.000 description 7
- 238000013519 translation Methods 0.000 description 7
- 238000004590 computer program Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 230000000903 blocking effect Effects 0.000 description 5
- 230000009977 dual effect Effects 0.000 description 5
- 150000007523 nucleic acids Chemical class 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 238000010276 construction Methods 0.000 description 4
- 239000000835 fiber Substances 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 102000039446 nucleic acids Human genes 0.000 description 4
- 108020004707 nucleic acids Proteins 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 239000012530 fluid Substances 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 239000012472 biological sample Substances 0.000 description 2
- 239000003153 chemical reaction reagent Substances 0.000 description 2
- 230000001427 coherent effect Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 230000003954 pattern orientation Effects 0.000 description 2
- 238000012163 sequencing technique Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 229920002307 Dextran Polymers 0.000 description 1
- 102000004190 Enzymes Human genes 0.000 description 1
- 108090000790 Enzymes Proteins 0.000 description 1
- 239000004743 Polypropylene Substances 0.000 description 1
- 239000004793 Polystyrene Substances 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 239000012620 biological material Substances 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000003776 cleavage reaction Methods 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 239000006059 cover glass Substances 0.000 description 1
- 239000007850 fluorescent dye Substances 0.000 description 1
- 239000000499 gel Substances 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 239000010931 gold Substances 0.000 description 1
- 229910052737 gold Inorganic materials 0.000 description 1
- 239000004816 latex Substances 0.000 description 1
- 229920000126 latex Polymers 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 238000000386 microscopy Methods 0.000 description 1
- 239000002773 nucleotide Substances 0.000 description 1
- 125000003729 nucleotide group Chemical group 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004033 plastic Substances 0.000 description 1
- 229920003023 plastic Polymers 0.000 description 1
- 230000010287 polarization Effects 0.000 description 1
- 229920000747 poly(lactic acid) Polymers 0.000 description 1
- 229920002401 polyacrylamide Polymers 0.000 description 1
- -1 polypropylene Polymers 0.000 description 1
- 229920001155 polypropylene Polymers 0.000 description 1
- 229920002223 polystyrene Polymers 0.000 description 1
- APTZNLHMIGJTEW-UHFFFAOYSA-N pyraflufen-ethyl Chemical compound C1=C(Cl)C(OCC(=O)OCC)=CC(C=2C(=C(OC(F)F)N(C)N=2)Cl)=C1F APTZNLHMIGJTEW-UHFFFAOYSA-N 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000007017 scission Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 238000010561 standard procedure Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 235000012431 wafers Nutrition 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/06—Means for illuminating specimens
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2513—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/16—Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/24—Base structure
- G02B21/26—Stages; Adjusting means therefor
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/361—Optical details, e.g. image relay to the camera or image sensor
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/58—Optics for apodization or superresolution; Optical synthetic aperture systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Description
である、米国仮特許出願第62/692,303号の利益を主張する。
用いて試料を撮像し、顕微鏡の横方向分解能を2倍以上増大できる技術を表現する。ある
例では、試料の撮像中に、試料の干渉縞パターンの3つの画像が種々のパターン位相(例え
ば、0°、120°及び240°)で取得され、その結果、試料上の各箇所は一定範囲の照度に曝
され、その行為はパターンの配向を、光軸を中心に3つの別々の角度(例えば、0°、60°
及び120°)に回転させることによって繰り返される。捕捉された画像(例えば、9つの画像
)は拡張された空間周波数帯域幅を有する単一の画像に組み立てられてもよく、これは実
空間に再変換されて、従来の顕微鏡によって捕捉されたものよりも高い分解能を有する画
像を生成してもよい。
結み合わされ、正弦波強度変動を有する干渉縞模様として投影され得る2つ以上の別々の
次数にビームを分割する光ビームスプリッタを通って方向付けられる。回折格子は、高い
コヒーレンス度と安定した伝搬角度を持つビームを生成できるビームスプリッタの例であ
る。このような2つのビームを組み合わせるときに、それらの間の干渉は均一で規則的に
繰り返される縞模様を作り出すことができ、そこでは、間隔は干渉ビーム間の角度を含む
要因によって決定される。
組立てまたは再構成中に、以下の構造化照明パラメータ、すなわち、隣接する縞間の間隔
(すなわち、縞模様の周波数)、構造化照明パターンの位相または角度、および照明された
試料に対する縞模様の配向を考慮する必要があり得る。理想的な撮像システムでは、機械
的不安定性および熱的変動のような要因に左右されず、これらのパラメータの各々は時間
の経過とともにドリフトまたはさもなければ変化せず、所与の画像サンプルに関連する正
確なSIM周波数、位相、および配向パラメータは既知であろう。しかしながら、励起ビー
ム経路の機械的不安定性および/または撮像された試料の熱膨張/収縮などの要因のために
、これらのパラメータは、時間とともにドリフトするか、そうでなければ変化し得る。
経時的な変動を考慮する必要がある場合がある。多くのSIM撮像システムはリアルタイム
でSIM画像処理を実行しない(例えば、オフラインで取り込まれた画像を処理する)ので、
そのようなSIMシステムは、SIM画像を処理してその画像の構造化照明パラメータを推定す
るためにかなりの量の計算時間を費やすことがある。
捉された構造化照明パラメータの推定値を使用して、時間点、空間、および/または温度
における特定の点について構造化照明パラメータを予測することを対象とする。
プと、コンピューティングデバイスを使用して、少なくとも捕捉された第1画像を用いて
第1構造化照明パラメータを推定するステップと、構造化照明システムを使用して、試料
の第2画像を捕捉するステップと、コンピューティングデバイスを使用して、少なくとも
捕捉された第2画像を用いて第2構造化照明パラメータを推定するステップと、コンピュ
ーティングデバイスを使用して、少なくとも第1構造化照明パラメータ又は第2構造化照
明パラメータを用いて、第3画像に対応する第3構造化照明パラメータを予測するステッ
プと、を含む。第1構造化照明パラメータ、第2構造化照明パラメータ及び第3構造化照
明パラメータのそれぞれは、位相、周波数、配向又は変調次数を含むことができる。
2時間に捕捉され、第3画像は、第1時間と第2時間との間の第3時間に捕捉され、第3
構造化照明パラメータは、少なくとも内挿法を用いることによって第3時間に予測される
。内挿法は、コンピューティングデバイスを使用して、第1時間における第1構造化照明
パラメータから、第2時間における第2構造化照明パラメータまでの変化率を決めるステ
ップと、コンピューティングデバイスを使用して、少なくとも決められた変化率を用いて
、第3時間における第3構造化照明パラメータを予測するステップを含むことができる。
画像及び第3構造化照明パラメータを用いて高分解能画像を構築するステップを更に含む
。
2時間に捕捉され、第3画像は、第1時間及び第2時間の両方の前又は後の第3時間に捕
捉され、第3構造化照明パラメータは、少なくとも外挿法を用いることによって第3時間
に予測される。
明システムのハードウェアコンポーネントを調整して、第3時間において第3画像を捕捉
する前の構造化照明システムパラメータの変化に対して補償するステップを更に含む。ハ
ードウェアコンポーネントを調整するステップは、構造化照明パターンの位相又は配向を
調整する回転ミラーを調節すること、回折格子を担持し構造化照明パターンの位相又は配
向を調整する並進ステージを調節すること、及び構造化照明パターンの位相又は配向を調
整する試料並進ステージを調節すること、の1つ以上を含むことができる。
タ、第2構造化照明パラメータ及び第3構造化照明パラメータを記憶するステップと、記
憶される第1構造化照明パラメータ、記憶される第2構造化照明パラメータ、記憶される
第3構造化照明パラメータ、及び構造化照明システムの既知の物性に基づくとともに記憶
される値の1つ以上を用いて、第4画像に対する第4構造化照明パラメータに関する捜索
空間を減少させるステップと、
を更に含む。
は、最小二乗適合を少なくとも第1構造化照明パラメータ及び第2構造化照明パラメータ
に適用することを含む。ある実施形態では、第3画像に対応する第3構造化照明パラメー
タを予測するステップは、第2構造化照明パラメータを用いることを含む。
ータは第1試料温度で推定され、試料の第2画像は第2試料温度で捕捉され、第2構造化
照明パラメータは第2試料温度で推定され、第3構造化照明パラメータは第3試料温度で
予測される。
テップと、コンピューティングデバイスを使用して、少なくとも複数の画像サブセクショ
ンの第1画像サブセクションを用いて第4構造化照明パラメータを推定するステップと、
コンピューティングデバイスを使用して、少なくとも複数の画像サブセクションの第2画
像サブセクションを用いて第5構造化照明パラメータを推定するステップと、コンピュー
ティングデバイスを使用して、少なくとも第4構造化照明パラメータ又は第5構造化照明
パラメータを用いて、複数の画像サブセクションの第3画像サブセクションに対応する第
6構造化照明パラメータを予測するステップと、を更に含む。
、コンピューティングデバイスを使用して、少なくとも複数の画像サブセクションの第1
画像サブセクションを用いて第4構造化照明パラメータを推定するステップと、推定され
る第4構造化照明パラメータを、複数の画像サブセクションの第2画像サブセクションの
予測される構造化照明パラメータとして用いるステップと、を更に含む。
読取可能媒体に記憶される実行可能な命令を有することができ、命令はプロセッサによっ
て実行されるときに、プロセッサに、構造化照明システムを使用して試料の第1画像を捕
捉する動作と、少なくとも捕捉される第1画像を用いて第1構造化照明パラメータを推定
する動作と、構造化照明システムを使用して試料の第2画像を捕捉する動作と、少なくと
も捕捉される第2画像を用いて第2構造化照明パラメータを推定する動作と、少なくとも
第1構造化照明パラメータ又は第2構造化照明パラメータを用いて、第3画像に対応する
第3構造化照明パラメータを予測する動作と、を実施させる。
で捕捉され、第3画像は、第1試料位置と第2試料位置との間の第3試料位置で捕捉され
、第3構造化照明パラメータは、少なくとも内挿法を用いることによって第3試料位置で
予測される。内挿法は、コンピューティングデバイスを使用して、第1試料位置における
第1構造化照明パラメータから、第2試料位置における第2構造化照明パラメータまでの
変化率を決めるステップと、少なくとも決められた変化率を用いて、第3試料位置におけ
る第3構造化照明パラメータを予測するステップと、を含むことができる。
くとも第3画像及び第3構造化照明パラメータを用いて高分解能画像を構築する動作を更
に実施させる。
第3構造化照明パラメータは、少なくとも外挿法を用いることによって第3試料位置で
予測される。
少なくとも第3構造化照明パラメータを用いて、構造化照明システムのハードウェアコン
ポーネントを、第3試料位置において画像を捕捉する前の、構造化照明パラメータの変化
に対して補償するように調整させる動作を行わせる。
化照明システムのメモリに、第1構造化照明パラメータ、第2構造化照明パラメータ及び
第3構造化照明パラメータを記憶する動作と、記憶される第1構造化照明、記憶される第
2構造化照明パラメータ、記憶される第3構造化照明パラメータ、及び構造化照明システ
ムの既知の物性に基づくとともに記憶される値の1つ以上を用いて、第4画像に対する第
4構造化照明パラメータに関する捜索空間を減少させる動作と、を更に実施させる。
割して構造化照明パターンを試料の面に投影するビームスプリッタと、プロセッサと、非
一時的なコンピュータ読取可能媒体であり、非一時的なコンピュータ読取可能媒体は、非
一時的なコンピュータ読取可能媒体に記憶される実行可能な命令を有し、命令はプロセッ
サによって実行されるときに、プロセッサに、試料の第1画像を捕捉する動作と、少なく
とも捕捉される第1画像を用いて第1構造化照明パラメータを推定する動作と、試料の第
2画像を捕捉する動作と、少なくとも捕捉される第2画像を用いて第2構造化照明パラメ
ータを推定する動作と、少なくとも第1構造化照明パラメータ又は第2構造化照明パラメ
ータを用いて、第3画像に対応する第3構造化照明パラメータを予測する動作と、
を実施させる、非一時的なコンピュータ読取可能媒体と、を備える。
るステップと、コンピューティングデバイスを使用して、少なくとも捕捉される第1の複
数画像を用いて第1構造化照明パラメータを推定するステップと、構造化照明システムを
使用して、試料の第2の複数画像を捕捉するステップと、コンピューティングデバイスを
使用して、少なくとも捕捉される第2の複数画像を用いて第2構造化照明パラメータを推
定するステップと、コンピューティングデバイスを使用して、少なくとも第1構造化照明
パラメータ又は第2構造化照明パラメータを用いて、1つ以上の画像に対応する第3構造
化照明パラメータを予測するステップと、を含む。
成を示す添付の図面と併せて、以下の詳細な説明から明らかになるであろう。この概要は
、特許請求の範囲及び均等物によって定められる、本明細書に記載される任意の発明の範
囲を限定することを意図しない。
書で開示される本発明の主題の一部であると考えられることを理解されたい。特に、本開
示の末尾にある特許請求の範囲の主題のすべての組み合わせは、本明細書に開示される本
発明の主題の一部であると考えられる。
面は、説明のみを目的として提供され、単に例示的な実装を示す。さらに、図を明確にし
、説明を容易にするために、図中の要素は必ずしも一定の縮尺で描かれていないことに留
意されたい。
形態を示す。添付の説明テキストは「上面」、「底面」、または「側面」図などの図に言
及することができるが、そのような言及は単に説明的なものであり、別段の明示的な記載
がない限り、開示された技術が特定の空間的配向で実施または使用されることを暗示また
は要求するものではない。
は構造化照明パターン(例えば、縞またはグリッドパターン)の縞または線間の間隔に言及
することが意図される。例えば、縞間の間隔がより大きいパターンは、縞間の間隔がより
小さいパターンよりも低い周波数を有することになる。
、試料を照らす構造化照明パターンの位相を指すことが意図される。例えば、位相は、照
明された試料に対して構造化照明パターンを平行移動させることによって変化させること
ができる。
構造化照明パターン(例えば、縞または格子パターン)と、パターンによって照明される試
料との間の相対配向を指すことが意図される。例えば、配向は、照明された試料に対して
構造化された照明パターンを回転させることによって変更されてもよい。
る」または「予測している」はパラメータを直接測定することなく、またはパラメータに
対応する捕捉された画像からパラメータを推定することなく、パラメータの値を計算する
ことを意味することが意図される。例えば、構造化照明パターンの位相はt2<t1<t3である
時間t2及びt3において(例えば、捕捉された位相画像から)直接測定又は推定された位相値
間の内挿によって、時間t1において予測されてもよい。別の例として、構造化照明パター
ンの周波数はt2<t3<t1である時間t2およびt3において(例えば、捕捉された位相画像から)
直接測定または推定された周波数値からの外挿によって、時間t1において予測されてもよ
い。
」または「次数」という用語は、建設的干渉のための回折格子の隣接するスリットまたは
構造からの光の経路長差を表す整数波長の数を意味することを意図している。一連の格子
構造または他のビーム分割構造の繰り返し上の入射光ビームの相互作用が、光ビームの一
部を元のビームから予測可能な角度方向に再指向または回折させることができる。「0次
」または「0次最大」という用語が、回折がない回折格子によって放出された中心の明る
い縞を指すことを意図している。「1次」という用語が0次縞のいずれかの側に回折された
2つの明るい縞を指すことを意図しており、経路長差は±1波長である。より高い次数は、
元のビームからより大きな角度に回折される。回折格子の特性を操作して、ビーム強度の
どれだけを様々な次数に向けるかを制御することができる。例えば、±1次の透過を最大
化し、ゼロ次ビームの透過を最小化するために、位相格子を製造することができる。
従って他の点または領域から区別され得るパターン内の点または領域を意味することが意
図される。個々の特徴部は、特定の型の1つ以上の分子を含み得る。例えば、特徴は特定
の同一配列を有する単一の標的核酸分子を含むことができ、または特徴部は同じ配列(お
よび/またはその相補的配列)を有するいくつかの核酸分子を含み得る。
よびyによって定められる2次元領域を意味することを意図している。検出器および検出器
によって観察される物体に関して使用される場合、領域は、ビーム軸線、または検出器と
検出される物体との間の観察方向に直交するものとしてさらに特定され得る。
または領域の位置を特定する情報を意味することが意図される。特定の実施形態では、z
軸線が検出器によって観察される物体の領域に直交する。例えば、光学系に対するフォー
カスの方向は、z軸線に沿って指定されてもよい。
間接的に光を与えるように適合される1つの要素を指すことが意図される。
ータの望ましくない変化を補正するために必要とされ得る。一例として、図1A〜1Cは、規
則的にパターニングされた試料上に一次元構造化照明パターンを投影するSIM撮像システ
ムにおいて、経時的に生じ得る周波数(図1A)、位相(図1B)、および配向(図1C)の望ましく
ない変化を示す。特に、図1Aは周波数シフトの前後に、縞60を有する一次元構造化照明パ
ターンによって照明される特徴部51を有する試料50を示す。任意の周波数シフトの前に、
隣接する縞60は、初期周波数fに対応するPのピッチまたは中心間隔を有する。時間の経過
とともに、システム内の温度変動に伴って、ピッチPが増加または減少することがある。
例えば、熱膨張は、ピッチPをP+ΔP1に増大させ、それに対応して周波数fをf-Δf1に減少
させる。逆に、熱収縮により、ピッチPがP-ΔP1に減少し、それに応じて周波数fがf+Δf2
に増加することがある。
た試料50を示す。図示されるように、位相ドリフトの前に、第1の位相状態Φは、試料50
の特徴部51の1列おきに(every second column)完全に照明する縞に対応し得る。時間
の経過と共に、試料50に対する縞60の位置は、全ての位相画像がΔΦだけオフセットされ
るようにシフトすることができる。例えば、SIM撮像システムにおける機械的振動(例えば
、励起ビーム経路内)、回折格子または試料ステージによって使用される平行移動ステー
ジにおける不正確さ、熱的変動、および/または他の要因は、位相における望ましくない
ドリフトを引き起こし得る。位相がΔΦだけドリフトした後、第1の位相状態はΦ+ΔΦに
変化し、縞はもはや特徴部の1つおきの列の中心に来ない。
た試料50を示す。図示のように、配向の変化の前に、試料50に対する縞の配向は、完全に
垂直である。時間の経過とともに、配向は、励起ビーム経路の変化、試料の移動、熱的変
動、および/または他の要因などの要因によって変化し得る。配向が角度Δθだけ回転し
た後、縞は試料に対してもはや完全に垂直ではなくなる。
のパラメータ推定は、1組のサンプリングされた画像からの画像のアーチファクトのない
正確な再構成を保証するのに役立つ。しかしながら、このようなプロセスは計算的に高価
であることがあり、画像取得後に頻繁に実行される。画像のリアルタイム処理および再構
成、ひいては周波数、位相、配向、および変調順序などのパラメータのリアルタイム推定
を含む時間クリティカルSIM撮像システムの場合、これらの計算要件はデータスループッ
トの損失をもたらすおそれがある(例えば、単位時間当たりに処理されるデータがより少
なくなることがある)。そのようなシステムでは、サンプルが撮像される速度が、構造化
照明パラメータがサンプリングされた画像から直接推定され得る速度を超えることがある
。したがって、複雑さが低く、処理時間が短いパラメータ推定値を生成する方法が必要と
されている。
捕捉される画像から得られる構造化照明パラメータの推定値を使用して、特定の時点、空
間、および/または温度に関する構造化照明パラメータを予測することを対象とする。特
定の実施態様は構造化照明周波数、位相、配向、および/または変調次数パラメータを予
測することを対象とする。
明パラメータの推定値を補間することによって、所与の時点、空間、および/または温度
について予測され得る。例えば、第1の周波数は第1のサンプリングされた画像から推定さ
れ、第2の周波数は第2のサンプリングされた画像から推定され、第1の捕捉された画像と
第2の捕捉された画像との間のある時点に対応する周波数(例えば、第1の画像と第2の画像
との間で取得された画像に対する周波数)は第1の捕捉された画像と第2の捕捉された画像
との間の周波数の少なくとも決定された変化率を使用して補間することによって予測され
得る。
得された構造化照明パラメータの推定値を使用する外挿によって、所与の時点、空間、お
よび/または温度について予測され得る。例えば、第1の配向は第1のサンプリングされた
画像から推定され、第2の配向は第2のサンプリングされた画像から推定され、第1および
第2の捕捉された画像の後のある時点に対応する配向(例えば、第1および第2の画像の後に
取得された第3の画像に対する配向)は第1の捕捉された画像から第2の捕捉された画像への
配向の少なくとも決定された変化率を使用して、外挿によって予測され得る。第2の例と
して、第1の配向は第1のサンプリングされたイメージから推定され、第2の配向は第2のサ
ンプリングされたイメージから推定され、第1および第2の捕捉された画像の後のある時点
に対応する配向(例えば、第1および第2の画像の後に取得された第3の画像に対する配向)
は第2の捕捉された画像からの値を保持することによって予測され得る。
の構造化照明パラメータの探索空間を狭めることができる。例えば、第1の時点、空間、
および/または温度に対する構造化照明パラメータの推定値が与えられると、第1の時点、
空間、および/または温度に近い第2の時点、空間、および/または温度に対する構造化照
明パラメータの値は、第1の時点、空間、および/または温度における予測値または推定値
を考慮して予測され得る。
ために構造化照明システムのメモリに記憶されてもよい。例えば、予測され推定されたパ
ラメータは、ルックアップテーブルのような履歴ファイルに記憶することができる。メモ
リに記憶される予測パラメータは推定パラメータから決定されてもよく、または構造化照
明システムの物理的特性に基づいて設定されてもよい。例えば、構造化照明システムの公
称グリッド間隔を記憶することができる。その後、記憶されたパラメータを参照して、較
正された画像再構成、構造化照明パラメータの変化を補正するためのフィードバックをハ
ードウェアコンポーネントに提供すること、および追加の構造化照明パラメータを予測す
るときに探索空間を狭めることなどの動作を実行することができる。
する前に、これらの技術を実装することができる例示的なSIM撮像システムを説明するこ
とが有用である。図2-6は、このような3つの例示的なSIM撮像システムを示す。これらの
システムは主に、一次元照明パターンを生成するSIM撮像システムの文脈で記載されるが
、本明細書に開示される技術はより高い次元の照明パターン(例えば、2次元グリッドパタ
ーン)を生成するSIM撮像システムで実施されてもよいことに留意されたい。
実施することができる構造化照明顕微鏡(SIM)撮像システム100を示す。例えば、システム
100は、生体資料を撮像するために空間的に構造化された励起光を利用する構造化照明蛍
光顕微鏡システムであってもよい。
出力するように構成されている。コリメートされた光は、光構造化光学アセンブリ155に
よって構造化(パターン化)され、対物レンズ142を通ってダイクロイックミラー160によっ
て試料容器110の試料上に導かれ、この試料容器110は運動ステージ170上に位置決めされ
る。蛍光試料の場合、試料は構造化された励起光に応答して蛍光を発し、得られた光は、
対物レンズ142によって収集され、カメラシステム140のイメージセンサに導かれて、蛍光
を検出する。
、ビームスプリッタキューブまたは板)を含み、試料容器110の試料上に投影される光のパ
ターン(例えば、フリンジ、典型的には正弦波)を生成する。回折格子は、一次元又は二次
元の透過性格子又は反射格子とすることができる。回折格子は、正弦波振幅格子又は正弦
波位相格子とすることができる。
回転ステージを利用しない場合がある。他の実装形態では、回折格子が回転ステージ上に
実装されてもよい。いくつかの実施態様では、回折格子が撮像システムの動作中に固定さ
れてもよい(すなわち、回転運動または直線運動を必要としない)。例えば、以下にさらに
説明する特定の実装において、回折格子は互いに垂直に配向した2つの固定された1次元透
過回折格子(例えば、水平回折格子及び垂直回折格子)を含むことができる。
次数を阻止または最小化しながら、第1次数の回折光線(例えばm = ±1次)を出力する。し
かしながら、代替実施形態では、追加の次数の光を試料上に投影することができる。
々の位相で複数の画像を取得し、縞模様は変調方向に(例えば、x-y平面内で、かつ縞に垂
直に)横方向に変位し、この手順は光軸を中心に(すなわち、試料のx-y平面に対して)パタ
ーン配向を回転することによって、1回以上繰り返される。次いで、捕捉された画像はよ
り高い解像度の画像(例えば、個々の画像の横方向の空間解像度の約2倍を有する画像)を
生成するために、計算によって再構成されてもよい。
ードによって出力される光線を放出する)であってもよく、または1つ以上のレーザまたは
レーザダイオードによって出力される光の発光体などのコヒーレント発光体であってもよ
い。システム100の例に図示されるように、発光体150は、出力される光線を導くための光
ファイバ152を含む。しかしながら、発光体150の他の構成を使用してもよい。マルチチャ
ネル撮像システムにおける構造化照明を利用する実施形態(例えば、光の複数の波長を利
用するマルチチャネル蛍光顕微鏡)では、光ファイバ152が複数の異なる光源(図示せず)に
光学的に結合することができ、各光源は異なる波長の光を発光する。システム100は単一
の発光体150を有するものとして示されているが、いくつかの実施形態では複数の発光体1
50を含むことができる。例えば、複数の発光体が、更に後述する、複数のアームを利用す
る構造化照明撮像システムの場合に含まれてもよい。
めにz軸線に沿って関節運動するレンズ素子を含むことができる管レンズ156を含むことが
できる。例えば、管レンズの構成要素は容器110内の試料のある範囲の試料厚さ(例えば、
異なるカバーガラス厚さ)を占めるために関節運動されてもよい。
れたヌクレオチド、緩衝液、酵素、切断試薬など)の流れを、試料容器110および廃棄バル
ブ120に(およびそれを通して)導き得る。試料容器110は、その上に試料が提供される1つ
以上の基板を含むことができる。例えば、多数の異なる核酸配列を分析するためのシステ
ムの場合、試料容器110はその上にシーケンシングされる核酸が結合し、付着し、又は関
連付けられる1つ以上の基板を含み得る。基板は例えば、ガラス表面、プラスチック表面
、ラテックス、デキストラン、ポリスチレン表面、ポリプロピレン表面、ポリアクリルア
ミドゲル、金表面、およびシリコンウェーハなど、核酸を付着させることができる任意の
不活性基板またはマトリックスを含むことができる。いくつかの用途では、基板が試料容
器110にわたるマトリックス又はアレイに形成される複数個所のチャネル又は他の区域内
にある。システム100はまた、試料容器110内の流体の状態の温度を任意に調節することが
できる温度ステーションアクチュエータ130およびヒーター/クーラー135を含むことがで
きる。
に含まれる液体を含むパターンフローセルとして実施することができ、生物学的試料は半
透明カバープレートの内面または基板の内面に配置することができる。フローセルは定め
られたアレイ(例えば、六角形アレイ、矩形アレイなど)にパターニングされた多数(例え
ば、数千、数百万、または数十億)のウェルまたは領域を基板に含んでもよい。各領域は
例えば合成によるシーケンシングを使用して配列決定され得る、DNA、RNA、または別のゲ
ノム物質のような生物学試料のクラスター(例えば、モノクローナルクラスター)を形成し
得る。フローセルはさらに、多数の離間したレーン(例えば、8つのレーン)に分割されて
もよく、各レーンは、クラスタの六角形のアレイを含む。
ために、試料ステージ170上に取り付けることができる。試料ステージは3次元のいずれか
で移動することを可能にするために、1つ以上のアクチュエータを有することができる。
例えば、デカルト座標系に関して、アクチュエータを、ステージが対物レンズに対してX
、Y及びZ方向に移動することを可能にするように提供し得る。このことは、試料容器110
上の1つ以上の試料位置が対物レンズ142と光学的に位置合わせされて配置されることを可
能にし得る。対物レンズ142に対する試料ステージ170の移動は、試料ステージ自体、対物
レンズ、撮像システムの他のいくつかの成分、または前記のものの任意の組合せを移動さ
せることによって達成することができる。さらなる実施形態はまた、静止した試料に対し
て撮像システム全体を移動させることを含むことができる。代替的に、試料容器110は、
撮像中に固定されてもよい。
的にはz軸線、またはz方向と呼ばれる)における試料容器110に対する光学部品の位置決め
を制御してもよい。フォーカス要素175は光学ステージ若しくは試料ステージ又はそれら
の両方に物理的に結合される1つ以上のアクチュエータを含むことができ、試料ステージ1
70上の試料容器110を光学要素(例えば、対物レンズ142)に対して移動させて、撮像動作の
ための適切な焦点合わせを提供することができる。例示すると、アクチュエータは、ステ
ージに又はステージとの、例えば機械的、磁気的、流体的若しくは他の取り付けによって
、又は直接的若しくは間接的な接触によって、それぞれのステージに物理的に連結されて
もよい。1つ以上のアクチュエータは試料ステージを同じ平面内に維持しながら(例えば、
光軸に垂直なレベル又は水平姿勢を維持しながら)ステージをz方向に移動させるように構
成され得る。1つ以上のアクチュエータは、ステージを傾斜させるように構成されること
もできる。このことは、例えば、試料容器110がその表面における任意の傾きを考慮して
動的に水平にされ得るように、行われ得る。
を介してカメラシステム140の1つ以上の検出器に向けることができる。いくつかの実施形
態では、1つ以上の発光フィルタを有するフィルタスイッチングアセンブリ165を含めるこ
とができ、1つ以上の発光フィルタを使用して、特定の発光波長を通過させ、他の発光波
長をブロック(または反射)することができる。例えば、1つ以上の発光フィルタは、撮像
システムの異なるチャネルの間で切り替えるために使用されてもよい。特定の実施形態に
おいて、発光フィルタは、異なる波長の発光を、カメラシステム140の異なるイメージセ
ンサに向けるダイクロイックミラーとして実装することができる。
に、1つ以上の画像センサを含み得る。カメラシステム140は例えば、電荷結合素子(CCD)
撮像素子カメラとして実装することができるが、他のイメージセンサ技術(例えば、アク
ティブ画素センサ)を使用することもできる。
各撮像サイクル中に撮像された画像を再構成して、より高い空間解像度を有する画像を生
成することができるソフトウェアアプリケーションとして実現され得るリアルタイムSIM
撮像コンポーネント191に通信され得る。再構成された画像は、経時的に予測される構造
照明パラメータの変化を考慮に入れることができる。さらに、SIM撮像コンポーネント191
は予測されたSIMパラメータを追跡するために、および/または、事前に推定されたおよび
/または予測されたSIMパラメータが与えられた場合にSIMパラメータの予測を行うために
使用されてもよい。
00の操作を制御するために、コントローラ195を設けることができる。コントローラは例
えば光構造化光学アセンブリ155の構成(例えば、回折格子の選択及び/又は直線移動)、チ
ューブレンズ156の移動、合焦、ステージ移動、及び撮像動作のようなシステム動作の態
様を制御するように実装することができる。コントローラはまた、システム100のハード
ウェア要素を制御して、構造化照明パラメータの経時変化を補正するように実装されても
よい。例えば、コントローラは、光構造化光学アセンブリ155、運動ステージ170、または
システム100の他の何らかの要素の構成を制御するモータまたは他の装置に制御信号を送
信して、構造化照明位相、周波数、および/または配向の経時的な変化を補正または補償
するように構成されてもよい。実施形態では、これらの信号は、SIM撮像コンポーネント1
91を使用して予測された構造化照明パラメータに従って送信することができる。いくつか
の実施形態では、コントローラ195が異なる時間および/または試料位置に対応する予測お
よび/または推定された構造化照明パラメータを記憶するためのメモリを含むことができ
る。
実行可能命令)、または前記のものの組合せを使用して実装することができる。例えば、
ある実施形態では、コントローラが関連するメモリを有する1つ以上のCPU、GPU、または
プロセッサを含むことができる。別の例として、コントローラは、コンピュータプロセッ
サ、および機械可読命令が格納された非一時的コンピュータ可読媒体など、動作を制御す
るためのハードウェアまたは他の回路を備えることができる。例えば、この回路は、フィ
ールド・プログラマブル・ゲート・アレイ(FPGA)、特定用途向け集積回路(ASIC)、プログ
ラマブル・ロジック・デバイス(PLD)、複合プログラマブル・ロジック・デバイス(CPLD)
、プログラマブル・ロジック・アレイ(PLA)、プログラマブル・アレイ・ロジック(PAL)
または他の類似する処理デバイス若しくは回路の1つ以上を含むことができる。さらに別
の例として、コントローラは、この回路と1つ以上のプロセッサとの組合せを備えること
ができる。
実施することができる2アームSIM撮像システム200の例示的な光学構成を示す光学図であ
る。システム200の第1のアームは、発光体210Aと、発光体210Aによって出力された光をコ
リメートするための第1の光コリメータ220Aと、光軸に関して第1の配向における回折格子
230Aと、回転ミラー240Aと、第2の光コリメータ250Aとを含む。システム200の第2のアー
ムは、発光体210Bと、発光体210Bによって出力された光をコリメートする第1の光コリメ
ータ220Bと、光軸に対して第2の配向における回折格子230Bと、回転ミラー240Bと、第2の
光コリメータ250Bとを含む。この例では回折格子が図示されているが、他の実施形態では
ビームスプリッタキューブまたはプレートのような他のビーム分割要素を使用して、SIM
撮像システム200の各アームで受け取った光を分割してもよい。
って出力される光線を放出する)、または1つ以上のレーザまたはレーザダイオードによっ
て出力される発光体などのコヒーレント発光体とすることができる。システム200の例で
は、各発光体210A〜210Bがそれぞれのコリメータ220A〜220Bによってコリメートされた光
ビームを出力する光ファイバである。
的に結合することができる。撮像中、各光ファイバは、ファイバと光源との間の光路内に
配置された高速シャッタ(図示せず)を用いて、又は撮像中にファイバの対応する光源を所
定の周波数でパルス化することによって、オン又はオフに切り替えることができる。いく
つかの実施形態では、各光ファイバは同じ光源に光学的に結合することができる。このよ
うな実施形態では、光源からの光を光ファイバの各々に導くために、ビームスプリッタ又
は他の適切な光学素子を使用することができる。このような例では、各光ファイバは、フ
ァイバとビームスプリッタとの間の光路内に配置された高速シャッタ(図示せず)を使用し
て、オンまたはオフに切り替えることができる。
例えば、垂直縞模様)の格子パターンを試料上に投影し、第2のアームは固定水平格子230B
を含み、第2の配向(例えば、水平縞模様)の格子パターンを試料271上に投影する。SIM撮
像システム200の格子は、改良されたシステム速度、信頼性、および再現性を提供し得る
、機械的に回転または平行移動される必要はない。
れる光の光路長(従って位相)を変化させるために平行移動させることができるそれぞれの
直線運動ステージ上に実装することができる。ステージの直線運動の運動軸線は試料271
に沿った格子のパターンの平行移動を実現するために、それぞれの格子の配向から垂直で
あってもよく、そうでなければオフセットされていてもよい。
ば、平行なスリットまたは溝)を含む透過回折格子であってもよい。格子は、格子材料の
屈折率の周期的変動を提供する位相格子として実装することができる。溝または特徴部の
間隔は適切な角度で光を回折し、SIM撮像システム200の動作のために撮像された試料の最
小分解可能特徴サイズに調整されるように選択され得る。他の実装形態では、グレーティ
ングは反射回折グレーティングであってもよい。
る。他の実施形態では、格子の他の配向を使用して、約90度のオフセットを生成すること
ができる。例えば、格子は、それらが試料271のxまたはy平面から±45度オフセットされ
た画像を投影するように配向されてもよい。構造化された分解能向上は2つの直交回折格
子(例えば、垂直格子および水平格子)のみを使用して達成され得るので、例示的SIM撮像
システム200の構成は、矩形グリッド上に特徴部を有する規則的にパターン化された試料2
71の場合に特に有利であり得る。
±2次など)に回折するように構成され、その±1次を試料271上に投影することができる。
この例に示されるように、垂直格子230Aは平行光ビームを第1次数回折ビーム(±1次)に回
折し、ページの平面上で第1次数を広げ、水平格子230Bは平行光ビームを第1次数回折ビー
ムに回折し、ページの平面の上下(すなわち、ページに垂直な平面内)で当該次数を広げる
。システムの効率を改善するために、0次ビームおよび他のすべての高次ビーム(すなわち
、±2次以上)を遮断する(すなわち、試料271上に投影された照明パターンからフィルタ除
去する)ことができる。例えば、0次ビーム及び高次ビームを遮断するために、各回折格子
の後に光路に次数フィルタ等の図示しないビーム遮断素子を挿入してもよい。幾つかの実
施形態では回折格子230A〜230Bがビームを1次のみに回折するように構成されてもよく、0
次(未回折ビーム)は何らかのビーム遮断素子によって遮断されてもよい。
相変調器または移相器240A〜240Bを含む。例えば、構造化撮像の間、各回折ビームの光学
位相は構造化パターンの各縞のピッチ(λ)のある部分(例えば、1/2、1/3、1/4等)だけシ
フトされてもよい。図3の例では、位相変調器240A及び240Bがガルバノメータ又は他の回
転アクチュエータを使用して、各回折ビームの光路長を回転させ変調させることができる
回転窓として実装されている。例えば、窓240Aは垂直軸線の周りを回転して、垂直格子23
0Aによって試料271上に投影される画像を左右にシフトさせてもよく、窓240Bは水平軸線
の周りを回転して、水平格子230Bによって試料271上に投影される画像を上下にシフトさ
せてもよい。
平行移動ステージ、ウェッジ等)を使用してもよい。加えて、光学位相変調器240A〜240B
は回折格子230A〜230Bの後に配置されるように図示されているが、他の実施形態において
、それらは照明システムの他の箇所に配置されてもよい。
されてもよく、または単一の位相変調器は経路長の両方を調整するために単一の動きを使
用してもよい。例えば、穴261を有するミラー260の後に、大きな、回転する光学窓を配置
することができる。この場合、窓240A及び240Bの代わりに大きな窓を用いて、垂直及び水
平回折格子によって出力される回折ビームの両セットの位相を変調することができる。格
子のうちの1つの光軸に対して平行である代わりに、大きな回転窓の回転軸線は大きな窓
の1つの共通の回転軸線に沿った両方向に沿った位相シフトを可能にするために、垂直格
子および水平格子のそれぞれの光軸から45度オフセット(または他の何らかの角度オフセ
ット)されてもよい。幾つかの実施形態では、大きな回転窓が公称ビーム軸線を中心に回
転する楔状光学系によって置き換えられてもよい。
例えば、反射性コーティングにおける小さな吸収以外に、光パワーの著しい損失なしに)
光路内に結合する。ミラー260は、各格子からの回折次数が空間的に分解され、不要な次
数が遮断されるように配置することができる。ミラー260は、第1アームが出力する光の第
1次数に穴261を通過させる。ミラー260は、第2のアームによって出力された光の第1次数
を反射する。したがって、構造化照明パターンは各エミッタをオンまたはオフにすること
によって、または光源の光を光ファイバケーブルに通す光シャッタを開閉することによっ
て、垂直配向(例えば、格子230A)から水平配向(例えば、格子230B)に切り替えることがで
きる。他の実施形態では、構造化照明パターンは光学スイッチを使用して、試料を照らす
アームを変化させることによって切り替えられてもよい。
、対物レンズ270、およびカメラ290が示されている。例えば、チューブレンズ265は構造
化されたビーム形状および経路を調整するために、z軸線に沿って関節を形成するように
実装されてもよい。半反射ミラー280は各アームから受け取った構造化照明光を対物レン
ズ270内に反射して試料271上まで投影し、試料271によって放射された光(例えば、励起と
は異なる波長で放射される蛍光)をカメラ290上に通過させるためのダイクロイックミラー
であってもよい。
に通信されてもよく、リアルタイムSIM撮像構成要素はソフトウェアアプリケーションと
して実装されてもよく、ソフトウェアアプリケーションは以下でさらに説明するように、
各撮像サイクル中に捕捉された画像を再構成して、より高い空間分解能を有する画像を生
成してもよい。再構成された画像は、経時的に予測される構造照明パラメータの変化を考
慮に入れることができる。さらに、リアルタイムSIM撮像構成要素は予測されたSIMパラメ
ータを追跡するために、および/または先に推定されたおよび/または予測されたSIMパラ
メータが与えられた場合にSIMパラメータの予測を行うために使用され得る。
00の動作を制御するために、コントローラ(図示せず)を設けることができる。コントロー
ラは例えば、各光学アームの構成(例えば、位相画像の捕捉中に各光学アームをオン/オフ
すること、位相変調器240A〜240Bの作動)、チューブレンズ265の移動、試料271のステー
ジ移動(いずれかのステージが使用される場合)、および撮像動作などのシステム動作の態
様を制御するように実装することができる。コントローラはまた、システム200のハード
ウェア要素を制御して、構造化照明パラメータの経時変化を補正するように実装されても
よい。例えば、コントローラはシステム100の各光学アームまたは何らかの他の素子の構
成を制御する装置(例えば、位相変調器240A〜240B)に制御信号を送信して、構造化照明位
相、周波数、および/または配向の経時的変化を補正または補償するように構成されても
よい。別の例として、格子230A〜230Bが直線運動ステージ上に実装される場合(例えば、
位相変調器240A〜240Bを使用する代わりに)、コントローラは、直線運動ステージを制御
して位相変化を補正または補償するように構成されてもよい。実施態様では、これらの信
号はSIM撮像コンポーネントを使用して予測された構造化照明パラメータに従って送信す
ることができる。いくつかの実施形態では、コントローラが異なる時間および/または試
料位置に対応する予測および/または推定された構造化照明パラメータを記憶するための
メモリを含むことができる。
とに留意されたい。さらに、システム200はこの例では単一チャネルシステムとして図示
されているが、他の実装形態では、(例えば、2つの異なる波長で放射する2つの異なるカ
メラおよび光源を使用することによって)マルチチャネルシステムとして実装されてもよ
い。
に、SIM撮像システム200の垂直格子230Aおよび水平格子230Bによって、試料271の平面上
に投影され得る単純化された照明縞模様を示す。この例では、垂直照明配向を有する3つ
の位相画像を垂直格子230Aを用いて捕捉することができ、水平照明配向を有する3つの位
相画像を水平格子230Bを用いて捕捉することができる。各配向について、投影された縞は
1/3λのステップ(例えば、位相変調器230Aまたは230Bを3つの異なる位置に設定すること
によって)で位置を位相シフトして、配向パターンの3つの位相画像を捕捉することができ
る。
ることができる。例えば、試料271の異なる特徴部に位置する蛍光色素は蛍光を発し、得
られた光は、対物レンズ270によって収集され、蛍光を検出するためにカメラ290の画像セ
ンサに向けられてもよい。捕捉された6つの画像は、試料全体またはより大きな試料の位
置を撮像するためのものであってもよい。
像から高分解能画像を構築することができる。例えば、図4に示す6つの画像から高分解
能画像を再構築することができる。適切なアルゴリズムを使用して、これらの様々な画像
を組み合わせて、個々の要素画像のいずれかよりも著しく良好な空間分解能で試料の単一
の画像を合成することができる。
位相、周波数、配向)の変化は開示に従って予測される構造化照明パラメータ(例えば、位
相、周波数、または配向の予測される変化)を使用するために、アルゴリズム的に補償さ
れてもよい。例えば、垂直照明画像及び/又は水平照明画像の位相、配向、及び/又は周波
数のオフセットを補償することができる。
システム200の1つ以上のハードウェア要素を制御することによって、構造化照明パラメー
タの望ましくないシフトまたは変化を、画像キャプチャの前に補償することができる。例
えば、撮像シーケンスの前、および/または撮像シーケンスの画像の捕捉の間で、位相シ
フト素子(例えば、回転ミラー、リニアアクチュエータなど)を調整することによって、各
光学アームに対して位相ドリフトを補償してもよい。いくつかのの実施形態では、ハード
ウェアとアルゴリズム補償の組み合わせが実施されてもよい。
テムを示すが、他の実施形態では本明細書に記載される技術が3つ以上のアームを使用す
るシステムで実施されてもよいことに留意されたい。矩形グリッド上に特徴部を有する規
則的にパターン化された試料の場合、分解能の向上は上述したように、2つの直交角度(例
えば、垂直格子および水平格子)のみで達成することができる。一方、他の試料(例えば、
六角形にパターン化された試料)に対する全ての方向における画像分解能向上のために、3
つの格子角度が使用されてもよい。例えば、3アームシステムは3つの発光体及び3つの固
定回折格子(アーム毎に1つ)を含むことができ、ここで、各回折格子はそれぞれのパター
ン配向(例えば、0°パターン、120°パターン、又は240°パターン)を試料上に投影する
ように、システムの光軸の周囲に配向される。このようなシステムでは、穴を有する追加
のミラーを使用して、追加の格子の追加の画像をシステムに無損失で結合することができ
る。あるいは、そのようなシステムが1つ以上の偏光ビームスプリッタを利用して、格子
の各々の画像を結合させてもよい。
測を実施できるデュアル光学回折格子スライドSIM撮像システム500の一例の光学構成を示
す模式図である。例示的システム500では、試料570上に投影される格子パターン(例えば
、パターン位相シフトまたは回転)へのすべての変更は単一の運動軸に沿って運動ステー
ジ530を直線的に平行移動させ、格子531または532を選択し(すなわち、格子の方位を選択
し)、または格子531〜532のうちの1つを位相シフトさせることによって行われてもよい。
0によって出力された光をコリメートする第1の光コリメータ520(例えば、コリメーション
レンズ)、第1の回折格子531(例えば、水平格子)および第2の回折格子532(例えば、垂直格
子)が取り付けられた直線運動ステージ530、チューブレンズ540、半反射ミラー550(例え
ば、ダイクロイックミラー)、対物レンズ560、試料570、およびカメラ580を含む。簡単に
するために、SIM撮像システム500の光学部品は、図5Aから省略することができる。さらに
、システム500はこの例では単一チャネルシステムとして示されているが、他の実装形態
では、(例えば、2つの異なる波長で放射する2つの異なるカメラおよび光源を使用するこ
とによって)マルチチャネルシステムとして実装されてもよい。
ムを(ページの平面上の)1次回折光ビームに回折させてもよい。図5Bによって図示される
ように、回折格子532(例えば、垂直回折格子)は、ビームを1次に(ページの平面の上下に)
回折させてもよい。この構成では単一のエミッタ510(例えば、光ファイバ)および単一の
直線運動ステージを有する単一の光学アームのみが、試料570を撮像するために必要であ
り、これは速度、複雑性およびコストを改善するために、可動システム部品の数を減らす
などのシステム利点を提供し得る。加えて、システム500において、偏光子がないことは
、前述の高い光学効率の利点を提供し得る。構造化された分解能向上は2つの直交格子(例
えば、垂直格子および水平格子)のみを使用して達成され得るので、例示的SIM撮像システ
ム200の構成は、矩形グリッド上に特徴を有する規則的にパターン化された試料570の場合
に特に有利であり得る。
べての高次回折ビーム(すなわち、±2次以上)を遮断する(すなわち、試料570上に投影さ
れた照明パターンからフィルタ除去する)ことができる。例えば、次数フィルタのような
ビーム遮断要素(図示せず)を、移動ステージ530の後の光路に挿入することができる。幾
つかの実施形態では回折格子531〜532がビームを1次のみに回折するように構成されても
よく、0次(未回折ビーム)は何らかのビーム遮断要素によって遮断されてもよい。
-60°等のような、運動軸線からオフセットされた他の何らかの角度)に配置されてもよく
、その結果、位相シフトは単一の直線運動軸線に沿って、各格子531〜532に対して実現さ
れ得る。いくつかの実施形態では、2つの格子が1つの物理的光学素子に組み合わされても
よい。例えば、物理光学素子の一側面は第1の配向における格子パターンを有してもよく
、物理光学素子の隣接側面は第1の配向に直交する第2の配向における格子パターンを有す
る可能性がある。
対してY軸線に沿って移動することを可能にするために、1つ以上のアクチュエータを含
んでもよい。動作中、直線運動ステージ530は、効率的な画像再構成のために正確な照明
パターンを投影するために、十分な走行(例えば、約12〜15mm)および精度(例えば、約0.5
マイクロメートル未満の反復性)を提供してもよい。運動ステージ530が、蛍光顕微鏡など
の自動化撮像システムに利用される実装において、高速動作、最小振動発生、および長い
動作寿命を提供するように構成されてもよい。実施態様では、直線運動ステージ530が交
差ころ軸受、リニアモータ、高精度リニアエンコーダ、および/または他の構成要素を含
むことができる。例えば、モーションステージ530は、コントローラを使用して平行移動
され得る高精度ステッパーまたはピエゾ運動ステージとして実装されてもよい。
に通信されてもよく、リアルタイムSIM撮像構成要素はソフトウェアアプリケーションと
して実装されてもよく、ソフトウェアアプリケーションは以下でさらに説明するように、
各撮像サイクル中に捕捉される画像を再構成して、より高い空間分解能を有する画像を生
成してもよい。再構成された画像は、経時的に予測される構造照明パラメータの変化を考
慮に入れることができる。さらに、リアルタイムSIM画像構成要素は予測されたSIMパラメ
ータを追跡するために、および/または先に推定されたおよび/または予測されたSIMパラ
メータが与えられた場合にSIMパラメータの予測を行うために使用され得る。
00の動作を制御するために、コントローラ(図示せず)を設けることができる。コントロー
ラは例えば、直線運動ステージ530の平行移動、チューブレンズ540の移動、試料570のス
テージ移動(いずれかのステージが使用される場合)、および撮像動作などのシステム動作
の態様を制御するように実装することができる。コントローラはまた、装置500のハード
ウェア要素を制御して、構造化照明パラメータの経時変化を補正するように実装されても
よい。例えば、コントローラはデバイス(例えば、直線運動ステージ530)に制御信号を送
信して、構造化された照明位相、周波数、および/または配向の経時的な変化を補正また
は補償するように構成されてもよい。実施形態では、これらの信号はSIM撮像コンポーネ
ントを使用して予測された構造化照明パラメータに従って送信することができる。いくつ
かの実施形態では、コントローラが異なる時間および/または試料位置に対応する予測お
よび/または推定された構造化照明パラメータを記憶するためのメモリを含むことができ
る。
子スライド撮像システムを図示しているが、構造化照明パラメータ予測は、3つ以上の回
折格子を搭載した直線運動アクチュエータを使用するSIM撮像システムにおいて実施する
ことができる。
ドSIM撮像システム500の第1の回折格子および第2の回折格子によって、試料570の平面上
に投影され得る単純化された照明縞模様を図示する。例えば、SIM撮像システム500は、第
1の回折格子531および第2の回折格子532を使用して、図6に示される照明パターンを生成
してもよい。図6の例に図示されるように、2つの回折格子は、試料570の表面に垂直な縞
模様を投影し、直線運動ステージ530の運動軸線から約±45°に配置される。
ることができる。試料によって放出された任意の光はカメラ580によって捕捉されてもよ
く、第1のパターン(例えば、+45°パターン)の第1の位相画像が捕捉されて第1位相画像
を生成してもよい。追加の位相シフト画像を捕捉するために、格子によって投影されるパ
ターンは、直線運動ステージを平行移動させることによって位相シフトされてもよい。こ
れらの位相シフト運動が図6のステップ1および2として示されている。位相シフト移動は
、格子上に投影される縞パターンをわずかにシフトさせるために、格子の小さな(例えば
、約3〜5マイクロメートル以下)移動を提供し得る。
テージ530を平行移動させることによって回折格子を切り替えて、別の回折格子を撮像シ
ステムの光源に光学的に結合させてもよい(例えば、図5Aから図5Bへの移行)。この動きは
、図6の例ではステップ3として示されている。回折格子が変化する場合、直線運動ステー
ジは比較的大きな平行移動(例えば、12〜15mmのオーダー)を提供し得る。
示すように、第2の回折格子は試料に1次の照明縞を投影することができ、投影された縞
は直線運動ステージ530を平行移動させることによって位置をシフトさせて、格子のパタ
ーンの3つの位相画像を捕捉することができる(例えば、図6のステップ4及び5)。
像から高分解能画像を構築することができる。例えば、図6に示す6つの画像から高分解能
画像を再構築することができる。適切なアルゴリズムを使用して、これらの様々な画像を
組み合わせて、個々の要素画像のいずれかよりも著しく良好な空間分解能で試料の単一の
画像を合成することができる。
しくないシフトまたは変化は開示に従って予測される構造化照明パラメータ(例えば、位
相、周波数、または配向の予測される変化)を使用するために、アルゴリズム的に補償さ
れてもよい。例えば、垂直照明画像及び/又は水平照明画像の位相、配向、及び/又は周波
数のオフセットを補償することができる。
システム500の1つ以上のハードウェア要素を制御することによって、構造化照明パラメー
タの望ましくないシフトまたは変化を、画像キャプチャの前に補償することができる。例
えば、撮像シーケンスの前及び/又は撮像シーケンスの画像の捕捉の間に、位相ドリフト
は、直線運動ステージ530を並進させることによって補償されてもよい。ある実施形態で
は、ハードウェアとアルゴリズム補償の組み合わせが実施されてもよい。
び/または後に捕捉された画像から取得された構造化照明パラメータの推定値を使用して
、特定の時点について予測され得る。例えば、計算リソースの制限はSIM撮像システム(例
えば、システム100、200、または500)が、捕捉された画像から位相、周波数、および/ま
たは配向などの構造化照明パラメータを直接推定することができる速度を制限することが
ある。場合によっては、SIM撮像システムが位相画像毎に構造化照明パラメータを直接推
定又は測定することができ、この場合、構造化照明パラメータを予測する必要がない場合
がある。しかしながら、他の場合には、SIM撮像システムが撮像サイクル毎に1回、又はよ
りまばらに(例えば、3、5、10、50、又は100撮像サイクル毎に)、撮像サイクルの幾つか
の位相画像について構造化照明パラメータを直接推定又は測定することしかできない場合
がある。そのような場合、システムの画像サンプリングレートに追従するために、特定の
時点および/または空間について得られた構造化照明パラメータの直接推定を活用して、
他の時点および/または空間における構造化照明パラメータについての予測を行うことが
有利であり得る。
メータを推定する1つの方法である。
り、c(x)は基準に相関する画像データから導出され、fは推定される値(この例では周波数
)である。本開示によれば、他の代替推定技法を利用することができることに留意された
い。
できる。パラメータ推定値fは、相関の大きさを最大にするfの値として得ることができる
。しかしながら、多くの場合、相関出力を最大にするために、fの多数の仮定値を試みる
必要がある。大きな探索空間は計算要件を増大させ、その結果、システムスループットの
低下(すなわち、単位時間当たりに処理されるデータの減少)を引き起こす可能性がある。
しいfの値の「近傍」を確認することができる。一例として、空間(X)および時間(T)で変
化する推定値(φ)を示す図7を考える。図7によって図示されるように、φについての初期
値は、Aブロックに対応するXおよびT座標について得られ得る。空間または時間において
推定値がゆっくりと変化すると仮定すると、Aブロックからの推定値(φA)をBブロックま
たはEブロックのいずれかの初期値として使用することができる。より具体的には、Bおよ
びEブロックの探索空間がAブロックから得られるφの値の「近傍」の値に限定されてもよ
い。この手法では、φを識別するのに必要な時間を大幅に短縮することができ、その結果
、単位時間内に処理されるデータ量をそれに応じて増加させることができる。
れかにおいて予測され得る。一例として、図7を考えると、ブロックごとの推定値は空間
次元においてΔφXだけ増大し、時間次元においてΔφTだけ増大する。この観察を考える
と、ブロックBの最初の推定値は図8に示すように、φA+Δφx, として導出することがで
きる。さらに、ブロックEの最初の推定値は、φA+ΔφTとして導出することができる。複
数のブロックからの値を使用するX次元およびT次元の両方における他の予測子も実装する
ことができる。
ラメータの推定値を用いて構造化照明を予測するための例示的補間方法900を示す動作フ
ロー図である。実施形態において、方法700はSIM撮像システム(例えば、システム100、20
0、または500)のメモリに記憶された機械可読命令を実行することによって実現されても
よい。
相画像は、第1の時点で捕捉されてもよい。動作920において、構造化照明パラメータは、
捕捉された第1画像を使用して推定されてもよい。例えば、構造化照明位相、周波数、配
向、又は変調次数のうちの任意の1つを推定することができる。推定値は、特定の時点、
空間、および/または温度で得ることができる。
相画像は、第1のSIM画像試料が捕捉される第1の時点の後の第2の時点で捕捉されてもよい
。いくつかの実施形態では、試料の第1の画像および試料の第2の画像が同じ撮像シーケン
ス中に(例えば、より高い分解能の画像に構築される6つの位相画像または9つの位相画像
を生成する撮像シーケンスの一部として)捕捉され得る。他の実施形態では、第1の画像お
よび第2の画像が異なる撮像シーケンス中に捕捉されてもよい。動作940において、構造化
照明パラメータは、捕捉された第2画像を使用して推定されてもよい。例えば、構造化照
明位相、周波数、配向、又は変調次数のうちの任意の1つを推定することができる。推定
値は、特定の時点、空間、および/または温度で得ることができる。
画像からの構造化照明の推定値を使用して、第3の画像に対応する構造化照明パラメータ
を予測することができ、第3の画像は第1の画像と第2の画像との間の時点、空間(例えば、
試料位置)、および/または温度(例えば、試料温度)にある。例えば、第3の画像は、第1の
画像の後であるが第2の画像の前に捕捉されていてもよい。別の例として、第3の画像は、
第1の画像と第2の画像との間の位置において、後の時点で捕捉されてもよい。
とも決定された変化率に基づくことができる。数学的説明として、第1の時間T1および第2
の時間T2について、構造化照明位相がある量ΔφTだけドリフトしたと判定された場合、
位相の変化率(例えば、ドリフト)は、ΔφT/ (T2 - T1)として表すことができる。内挿を
使用して、時間T3に対する位相ドリフトの量を予測することができる。例えば、位相が時
間T1における5度のオフセットから時間T2における15度のオフセットにドリフトした場合
、位相は、これら2つの時間の中間の時間T3において10度のオフセットにドリフトしたと
予測することができる。
の時点、空間、および/または温度で構造化照明パラメータを予測するために内挿を適用
する状況に関して説明されるが、方法900は3つ以上の既知の推定値がある場合に拡張され
得ることに留意されたい。このような場合には、構造化照明パラメータを予測するために
、適宜傾向推定機能を使用することができる。例えば、線形傾向推定の場合、時間、空間
、及び/又は温度における特定の点で構造化照明パラメータを補間して予測するために、
既知の推定値に最小二乗適合を適用することができる。いくつかの実施形態では、構造化
照明パラメータの予測が追加の推定値が収集されるにつれて、経時的に更新され得る。さ
らに、方法900は第3の画像に対応するパラメータを予測するために、第1の画像および第2
の画像からの推定値を使用するものとして説明されるが、いくつかの実施形態では2つの
推定値のうちの1つのみが、パラメータを予測するために(たとえば、推定値を保持するこ
とによって)使用され得る。
えられた特定時間における構造化照明パラメータを予測するために内挿を適用する状況で
説明するが、方法900はまた、空間の次元(例えば、撮像された試料の位置またはサブセッ
ト)および温度の次元を考慮するために拡張されてもよい。場合によっては、複数のパラ
メータ(例えば、空間、時間および/または温度)を考慮するジョイント予測が適用されて
もよい。例えば、図7に図示されているように、構造化照明パラメータを予測する際に、
時間及び空間の両方における傾向を考慮することができる。あるいは、単に空間における
構造化照明パラメータの傾向を考慮してもよい。
照明パラメータを予測するための例示的外挿方法1000を示す動作フロー図である。実施形
態において、方法700がSIM撮像システム(例えば、システム100、200、または500)のメモ
リに記憶された機械可読命令を実行することによって実現されてもよい。
。例えば、構造化照明周波数は、捕捉された画像を使用して、第1の時点及び第2の時点で
推定されてもよい。
らの構造化照明の推定値を少なくとも使用して、第3の画像に対応する構造化照明パラメ
ータを予測することができ、第3の画像は、時間、空間(例えば、試料位置)、および/また
は温度(例えば、試料温度)における、第1の画像および第2の画像の両方の後の点、または
第1の画像および第2の画像の両方の前の点に存在する。いくつかの実施形態では、この予
測が2つの時点の間の構造化照明パラメータの少なくとも決定された変化率に基づくこと
ができる。数学的説明として、第1の時間T1および第2の時間T2について、構造化照明周波
数が量Δfだけドリフトしたと判定される場合、位相の変化率(例えば、ドリフト)は、Δf
/(T2 - T1)として表すことができる。外挿法を使用して、後の時間T3における周波数ド
リフトの総量を予測することができる。
間、および/または温度における特定の点で構造化照明パラメータを予測するために外挿
法を適用する状況に関連して説明されるが、方法900の場合のように、方法1000は3つ以上
の既知の推定値がある場合に拡張され得ることに留意されたい。このような場合には、構
造化照明パラメータを予測するために、適切な傾向推定機能を使用することができる。例
えば、線形傾向推定の場合、構造化照明パラメータを外挿して予測するために、既知の推
定値に最小二乗適合を適用することができる。いくつかの実施形態では、構造化照明パラ
メータの予測が追加の推定値が収集されるにつれて、経時的に更新され得る。
び第2の画像からの推定値を使用するものとして説明されるが、いくつかの実施形態では2
つの推定値のうちの1つのみが、パラメータを予測するために(たとえば、推定値を保持す
ることによって)使用され得る。
タの2つの既知の推定値が与えられた特定時間における構造化照明パラメータを予測する
ために、外挿法を適用する状況で説明されるが、方法1000はまた、空間および温度のよう
な他の次元を考慮するために拡張されてもよい。
タ、第2の画像を使用して推定された構造化照明パラメータ、および/または第3の画像に
ついて予測された構造化照明パラメータはSIM撮像システムのメモリに格納され得る。例
えば、推定/予測パラメータは、高分解能画像構築中に、SIM撮像システムハードウェア構
成要素を調整して構造化照明パラメータ変化を補償し、及び/又は時間、空間、及び/又は
温度における他の点での他の構造化照明パラメータの予測を容易にする間に参照されるル
ックアップテーブルなどの履歴ファイルに格納されてもよい。実施態様では、各推定また
は予測に対応する時間、試料位置、および試料温度を記憶することができる。
る第1の推定値および第2の推定値が複数の画像を使用して生成され得る。したがって、撮
像シーケンスにおける第1の画像セットからの1つ以上(例えば、1、2、3、4、5、6など)の
画像を使用して、第1の推定値を生成することができ、撮像シーケンスにおける第2の画像
セットからの1つ以上(例えば、1、2、3、4、5)の画像を使用して、第2の推定値を生成す
ることができる。
画像再構成中に予測される構造化照明パラメータを使用する例示的な方法1100を示す動作
フロー図である。実施形態において、方法1100がSIM撮像システム(例えば、システム100
、200、または500)のメモリに記憶された機械可読命令を実行することによって実現され
てもよい。
ば、位相画像)について予測されてもよい。例えば、構造化照明パラメータは、方法900を
実施することによって、捕捉される画像に対応する時点で予測されてもよい。動作1120で
は、高分解能画像構築が捕捉画像(例えば、位相画像)および他の捕捉画像(例えば、他の
捕捉位相画像)を使用して実行されてもよい。高分解能画像再構成中に、予測された構造
化照明パラメータを使用して、時間、空間、および/または温度の次元にわたる構造化照
明パラメータの変化を補償することができる。例えば、周波数、位相、および/または配
向の変化を補償することができる。ある場合には、動作1120が複数の予測構造化照明パラ
メータを使用することを含んでもよい。例えば、構造化照明パラメータは、2つ以上の位
相画像について予測されてもよい。加えて、位相、周波数、および配向の2つ以上が、所
与の位相画像について予測されてもよい。
用して、構造化照明パラメータの経時変化を補償する例示的な方法1200を示す動作フロー
図である。動作1210において、構造化照明パラメータは、外挿法を使用して予測されても
よい。例えば、構造化照明パラメータは、方法1000を実施することによって将来の時点で
予測することができる。
予測される構造化照明パラメータを使用して調整されてもよい。例えば、時点Tにおける
予測位相ドリフトに基づいて、SIM撮像システムのハードウェアコンポーネントは、時点T
における位相画像キャプチャの前に調整されてもよい。
して来るべき時期に予測される位相および/または配向の変化を補償するように調整され
てもよい。別の例として、回転ミラー240Aまたは240Bは、SIM撮像システム200に対して来
るべき時間のために予測される位相変化を補償するために調整されてもよい。さらなる例
として、線形平行移動ステージ530を並進させて、SIM撮像システム500について来るべき
であると予測される位相変化を補償する。さらなる例として、SIM撮像システムについて
予測される配向変化は、試料を運ぶ平行移動ステージおよび光源から試料までの光路のう
ちの1つ以上を調整することによって補償され得る。
法が、捕捉される画像サンプルを複数の画像サブセクションに分割することによって、単
一の捕捉される画像サンプルに適用され得る。例えば、いくつかの実施形態では、方法が
、画像サンプルを取得するステップと、画像サンプルを複数の画像サブセクション(例え
ば、3つ以上のサブセクション)に分割するステップと、複数の画像サブセクションのうち
の第1の画像サブセクションを使用して第1の構造化照明パラメータを推定するステップと
、複数の画像サブセクションのうちの第2の画像サブセクションを使用して第2の構造化照
明パラメータを推定するステップと、少なくとも第1の画像サブセクションからの構造化
照明パラメータの推定値及び第2の画像サブセクションからの構造化照明パラメータの推
定値を使用するステップと、複数の画像サブセクションのうちの第3の画像サブセクショ
ンに対応する構造化照明パラメータを予測するステップとを含むことができる。第3の画
像サブセクションについて予測される構造化照明パラメータは、構造化照明位相、周波数
、配向、または変調次数のうちの任意の1つとすることができる。いくつかの実施形態で
は、3つ以上の画像サブセクションから取得された構造化照明パラメータを使用して、別
の画像サブセクションの構造化照明パラメータを予測することができる。例えば、他の画
像サブセクションに対する構造化照明パラメータを予測するために、傾向推定関数又は他
の適切な当てはめ関数を他の画像サブセクションからの既知の推定値に適用することがで
きる。他の実施態様では、第1の画像サブセクションから取得された構造化照明パラメー
タの推定値を、第2の画像サブセクションの予測構造化照明パラメータとして使用するこ
とができる。
セクションと第2の画像サブセクションとの間の空間内の点(例えば、試料位置)または温
度(例えば、試料温度)に位置することができる。例えば、第3の画像サブセクションは、
デカルト軸線に沿って第1の画像サブセクションと第2の画像サブセクションとの間にあっ
てもよい。2次元デカルト空間ではサブセクションは画像を等しい面積を有する長方形に
分割するグリッドによって定めることができるが、サブセクションの代替的な決定も可能
である。別の例として、第3の画像サブセクションは、第1の画像サブセクションの試料温
度よりも高いが、第2の画像サブセクションの試料温度よりも低い試料温度であってもよ
い。
セクションおよび第2の画像サブセクションの後または前にある空間(例えば、試料位置)
または温度(例えば、試料温度)内の点に位置することができる。例えば、第3の画像サブ
セクションは、デカルト軸線に沿って第1の画像サブセクション及び第2の画像サブセクシ
ョンの両方の後に位置することができる。別の例として、第3の画像サブセクションは、
第1の画像サブセクションの試料温度よりも低く、第2の画像サブセクションの試料温度よ
りも低い試料温度であってもよい。
明パラメータを予測するためのこれらの技術を、1つ以上の画像から推定された構造化照
明パラメータを使用して別の画像の構造化照明パラメータを予測するための本明細書で説
明する技術と組み合わせて使用することができる。
形態に従って実行することができる機能の所与のユニットを記述することができる。本明
細書で使用されるときに、コンポーネントは、任意の形態のハードウェア、ソフトウェア
、又はそれらの組み合わせを利用して実装され得る。例えば、コンポーネントを構成する
ために、1つ以上のプロセッサ、コントローラ、FPGA、CPU、GPU、ASIC、PLA、PAL、CPLD
、論理コンポーネント、ソフトウェアルーチン、または他のメカニズムが実装されてもよ
い。実施形態において、本明細書で説明される様々なコンポーネントは個別のコンポーネ
ントとして実装されてもよく、または説明される機能および特徴が1つ以上のコンポーネ
ントの間で部分的にまたは全体的に共有されてもよい。言い換えれば、この説明を読んだ
後に当業者に明らかになるように、本明細書で説明される様々な特徴および機能は、任意
の所与の応用で実装することができ、様々な組合せおよび順列で1つ以上の別個のまたは
共有のコンポーネントで実装され得る。機能性の様々な特徴または要素は個別のコンポー
ネントとして個別に説明または請求され得るが、当業者はこれらの特徴および機能性が1
つ以上の共通のソフトウェアおよびハードウェア要素の間で共有され得ることを理解し、
そのような説明はそのような特徴または機能性を実装するために、個別のハードウェアま
たはソフトウェアコンポーネントが使用されることを必要とせず、または暗示するもので
はない。
なコンピューティングコンポーネント1300を示す。コンピューティングコンポーネント13
00は例えば、撮像デバイス、デスクトップ、及びノート型パソコン、ハンドヘルドコンピ
ューティングデバイス(タブレット、スマートフォンなど)、メインフレーム、スーパーコ
ンピュータ、ワークステーション若しくはサーバ、又は所与のアプリケーション若しくは
環境にとって望ましく若しくは適切であり得る任意の他の種類の専用又は汎用コンピュー
ティングデバイス内で見られるコンピューティング又は処理能力を表すことができる。コ
ンピューティングコンポーネント1300はまた、所与の装置内に組み込まれた、又は所与の
装置に利用可能な計算能力を表すこともできる。本明細書で使用されるときに、用語「コ
ンピューティングデバイス」は、コンピューティングコンポーネントのハードウェアを指
すことができる。
プロセッサ、コントローラ、制御コンポーネント又は他の処理デバイスを含むことができ
る。プロセッサ1304は例えば、マイクロプロセッサ、コントローラ、又は他の制御ロジッ
クなど、汎用又は専用の処理エンジンを使用して実装することができる。プロセッサ1304
は、一種のコンピューティングデバイスであってもよい。図示された例では、プロセッサ
1304はバス1302に接続されているが、任意の通信媒体を使用して、コンピューティングコ
ンポーネント1300の他の構成要素との相互作用を容易にし、又は外部と通信したりするこ
とができる。
称する1つ以上のメモリコンポーネントを含んでもよい。例えば好ましくは、ランダムア
クセスメモリ(RAM)又は他のダイナミック・メモリがプロセッサ1304によって実行され
る情報及び命令を記憶するために使用され得る。メインメモリ1308は、プロセッサ1304に
よって実行される命令の実行中に、一時変数又は他の中間情報を記憶するためにも使用さ
れ得る。同様に、コンピューティングコンポーネント1300はプロセッサ1304のための静的
情報及び命令を記憶するために、バス1302に結合される読出し専用メモリ(“ROM”)又
は他の静的記憶デバイスを含んでもよい。
憶ユニットインタフェース1320を含むことができる、1つ以上の様々な形態の情報記憶機
構1310を含んでもよい。媒体ドライブ1312は、固定又は取り外し可能な記憶媒体1314をサ
ポートするためのドライブ又は他の機構を含んでもよい。例えば、ハードディスクドライ
ブ、ソリッドステートドライブ、光ディスクドライブ、CD、DVD若しくはブルーレイドラ
イブ(R又はRW)、又は他の取り外し可能な若しくは固定媒体ドライブを設けることができ
る。したがって、記憶媒体1314は例えば、ハードディスク、ソリッドステートドライブ、
カートリッジ、光ディスク、CD、DVD若しくはブルーレイ、又は媒体ドライブ1312によっ
て読み取り、書き込み、又はアクセスされる他の固定若しくは取り外し可能媒体を含むこ
とができる。これらの例が示すように、記憶媒体1314は、コンピュータソフトウェア又は
データが記憶されたコンピュータ使用可能な記憶媒体を含むことができる。
データをコンピュータコンポーネント1300にロードすることを可能にするための他の類似
の手段を含むことができる。そのような手段は例えば、固定又は取り外し可能な記憶ユニ
ット1322及びインタフェース1320を含み得る。このような記憶ユニット1322及びインタフ
ェース1320の例は、プログラムカートリッジ及びカートリッジインタフェース、取り外し
可能なメモリ(例えば、フラッシュメモリ又は他の取り外し可能なメモリコンポーネント)
及びメモリスロット、PCMCIAスロット及びカード、並びに、ソフトウェア及びデータを記
憶ユニット1322からコンピューティングコンポーネント1300に転送することを可能にする
他の固定又は取り外し可能な記憶ユニット1322及びインタフェース1320を含むことができ
る。
い。通信インタフェース1324は、ソフトウェア及びデータを、コンピューティングコンポ
ーネント1300と外部デバイスとの間で転送することを可能にするために使用されてもよい
。通信インタフェース1324の例は、ピーシーアイエクスプレス(PCIe)インタフェース等
の周辺インタフェース、モデム若しくはソフトモデム、ネットワークインタフェース(イ
ーサネット(登録商標)、ネットワークインターフェースカード、WiMedia、IEEE 802.XX
又はその他のインタフェースなど)、Bluetooth(登録商標)インタフェース、通信ポート
(USB(登録商標)ポート、USB-Cポート、THUNDERBOLT(登録商標)ポート、又はその他の
ポートなど)、又はその他の通信インタフェースを含むことができる。通信インタフェー
ス1324を介して転送されるソフトウェア及びデータは、典型的には所与の通信インタフェ
ース1324によって交換されることが可能な、電子的、電磁気的(光を含む)、又は他の信号
であり得る、信号上で搬送され得る。これらの信号は、チャンネル1328を介して通信イン
タフェース1324に提供されてもよい。このチャンネル1328は、信号を搬送することができ
、有線又は無線通信媒体を使用して実装することができる。チャネルのいくつかの例は、
電話回線、セルラリンク、RFリンク、光リンク、ネットワークインタフェース、ローカル
又はワイドエリアネットワーク、及び他の有線又は無線通信チャネルを含むことができる
。
び「コンピュータプログラム媒体」が一般に、例えば、メモリ1308、記憶ユニット1322及
び媒体1314などの、揮発性又は不揮発性の、非一時的な媒体を指すために使用される。こ
れら及び他の様々な形態のコンピュータプログラム媒体又はコンピュータ使用可能媒体は
、実行のために1つ以上の命令の1つ以上の配列をプロセッサに搬送することに関与するこ
とができる。媒体に組み込まれるそのような命令は一般に、「コンピュータプログラムコ
ード」又は「コンピュータプログラム製品」(コンピュータプログラム又は他のグループ
の形態でグループ化することができる)と呼ばれる。そのような命令は、実行されるとき
に、コンピューティングコンポーネント1300が本明細書で説明される本願の構成又は機能
を実行することを可能にすることができる。
上に記載された様々な構成、態様、および機能はそれらの利用可能性において、それらが
記載されている特定の実施形態に限定されず、その代わりに、そのような実施形態が記載
されているかどうか、およびそのような構成が記載されている実施形態の一部として提示
されているかどうかにかかわらず、単独で、または様々な組合せで、本願の他の実施形態
のうちの1つ以上に適用することができることを理解されたい。したがって、本願の幅お
よび範囲は、上述の例示的な実施形態のいずれによっても限定されるべきではない。
的に記載されていない限り、限定ではなく、オープンエンド型の意味にとる必要がある。
前述の例として、「含む」という用語は「限定なしに含む」などを意味するものとして解
釈されるべきであり、「例」という用語は論議中の項目の典型的な例を提供するために使
用され、その項目を網羅または限定するものではなく、「1つの(”a” or “an”)」と
いう用語は「少なくとも1つの」、「1つ以上の」などを意味するものとして解釈されるべ
きであり、「従来の」、「伝統的な」、「通常の」、「標準の」、「既知の」などの形容
詞、および同様の意味の用語は記載された項目を、所与の期間に、または所与の時間に利
用可能な項目に限定するものと解釈されるべきではなく、代わりに、現在または将来にお
いて利用可能であるか、または既知である可能性がある従来の、伝統的な、通常の、また
は標準の技術を包含するものと解釈されるべきである。同様に、本明細書が当業者に明ら
かであろう又は知られているであろう技術に言及する場合、そのような技術は、現在又は
将来の任意の時点で当業者に明らかであるか又は知られている技術を包含する。
などの拡張語および句、または他の同様の句の存在はそのような拡張語句が存在しない可
能性がある場合に、より狭い場合が意図され、または必要とされることを意味すると解釈
されるべきではない。
ト、および他の図に関して説明される。本明細書を読んだ後に当業者には明らかになるよ
うに、例示された実施形態およびそれらの様々な代替形態は、例示された例に限定される
ことなく実施することができる。例えば、ブロック図及びそれらに付随する説明は、特定
のアーキテクチャ又は構造を指定するものとして解釈されるべきではない。
いう用語は処理の変化などによる小さな変動を記述し、説明するために使用される。例え
ば、これらの用語は、±5%以下、例えば±2%以下、例えば±1%以下、例えば±0.5%以下、
例えば±0.2%以下、例えば±0.1%以下、例えば±0.05%以下を指すことができる。
これらの用語によって説明されるそれぞれの対象を別個のエンティティとして示すために
使用され、本明細書において明示的に別段の記載がない限り、時系列順の意味を暗示する
ことを意味しない。
み提示されてきたことが理解されるべきである。同様に、様々な図は、本開示に含まれ得
る構成および機能を理解するのを助けるために行われる、本開示のための例示的なアーキ
テクチャまたは他の構造を示すことができる。本開示は例示されたアーキテクチャまたは
構造に限定されるものではないが、所望の特徴は種々の代替アーキテクチャおよび構造を
使用して実施することができる。実際、本開示の所望の構成を実施するために、代替の機
能的、論理的、または物理的なパーティションおよび構造をどのように実施することがで
きるかは、当業者には明らかであろう。また、本明細書に示されたもの以外の多数の異な
る構成モジュール名を、様々なパーティションに適用することができる。さらに、フロー
図、動作説明、及び方法クレームに関して、本明細書でステップが提示される順序は文脈
が別段の指示をしない限り、様々な実施形態が、記載された機能を同じ順序で実行するよ
うに実装されることを強制するものではない。
実施形態のうちの1つ以上において説明されている様々な構成、態様、および機能はそれ
らの利用可能性において、それらが説明されている特定の実施形態に限定されず、その代
わりに、そのような実施形態が説明されているかどうか、およびそのような特徴が説明さ
れている実施形態の一部として提示されているかどうかにかかわらず、単独で、または様
々な組合せで、本開示の他の実施形態のうちの1つ以上に適用することができることを理
解されたい。したがって、本開示の幅および範囲は、上述の例示的な実施形態のいずれに
よっても限定されるべきではない。
書で開示される本発明の主題の一部であると考えられることを理解されたい。特に、本開
示に現れる請求される主題の全ての組み合わせは、本明細書に開示される本発明の主題の
一部であると考えられる。
Claims (20)
- 構造化照明システムにおいて、試料の第1画像を捕捉するステップと、
コンピューティングデバイスにおいて、少なくとも捕捉された前記第1画像を用いて第1構造化照明パラメータを推定するステップと、
前記構造化照明システムにおいて、前記試料の第2画像を捕捉するステップと、
前記コンピューティングデバイスにおいて、少なくとも捕捉された前記第2画像を用いて第2構造化照明パラメータを推定するステップと、
前記コンピューティングデバイスにおいて、少なくとも前記第1構造化照明パラメータ又は前記第2構造化照明パラメータを用いて、第3画像に対応する第3構造化照明パラメータを予測するステップと、
を含む方法であり、
前記第3構造化照明パラメータを予測するステップは、最小二乗適合を少なくとも前記第1構造化照明パラメータ及び前記第2構造化照明パラメータに適用することを含む、方法。 - 前記第1画像は、第1時間に捕捉され、
前記第2画像は、前記第1時間の後の第2時間に捕捉され、
前記第3画像は、前記第1時間と前記第2時間との間の第3時間に捕捉され、
前記第3時間における前記第3構造化照明パラメータを予測するステップは、少なくとも内挿法を用いることを含む、請求項1に記載の方法。 - 前記コンピューティングデバイスにおいて、前記第1時間における前記第1構造化照明パラメータから、前記第2時間における前記第2構造化照明パラメータまでの変化率を決めるステップと、
前記コンピューティングデバイスにおいて、少なくとも決められた前記変化率を用いて、前記第3時間における前記第3構造化照明パラメータを予測するステップを更に含む、請求項1に記載の方法。 - 前記コンピューティングデバイスにおいて、少なくとも前記第3画像及び前記第3構造化照明パラメータを用いて高分解能画像を構築するステップを更に含む、請求項1に記載の方法。
- 前記第1画像は、第1時間に捕捉され、
前記第2画像は、前記第1時間の後の第2時間に捕捉され、
前記第3画像は、前記第1時間及び前記第2時間の両方の後の第3時間に捕捉され、
前記第3時間における前記第3構造化照明パラメータを予測するステップは、少なくとも外挿法を用いることによって予測することを含む、請求項1に記載の方法。 - 少なくとも前記第3構造化照明パラメータを用いて、前記構造化照明システムのハードウェアコンポーネントを調整して、前記第3時間において前記第3画像を捕捉する前の構造化照明システムパラメータの変化に対して補償するステップを更に含む、請求項5に記載の方法。
- 前記ハードウェアコンポーネントを調整するステップは、
構造化照明パターンの位相又は配向を調整する回転ミラーを調節すること、
回折格子を担持し構造化照明パターンの位相又は配向を調整する並進ステージを調節すること、又は
構造化照明パターンの位相又は配向を調整する試料並進ステージを調節すること、
を含む、請求項6に記載の方法。 - 前記構造化照明システムのメモリに、前記第1構造化照明パラメータ、前記第2構造化照明パラメータ及び前記第3構造化照明パラメータを記憶するステップと、
記憶される前記第1構造化照明パラメータ、記憶される前記第2構造化照明パラメータ、記憶される前記第3構造化照明パラメータ、又は前記構造化照明システムの既知の物性に基づくとともに記憶される値の1つ以上を用いて、第4画像に対する第4構造化照明パラメータに関する捜索空間を減少させるステップと、
を更に含む、請求項1に記載の方法。 - 前記試料の前記第1画像は第1試料温度で捕捉され、
前記第1構造化照明パラメータは前記第1試料温度で推定され、
前記試料の前記第2画像は第2試料温度で捕捉され、
前記第2構造化照明パラメータは前記第2試料温度で推定され、
前記第3構造化照明パラメータを予測するステップは、第3試料温度における前記第3構造化照明パラメータを予測することを含む、請求項1に記載の方法。 - 前記試料の前記第1画像を複数の画像サブセクションに分割するステップと、
前記コンピューティングデバイスにおいて、少なくとも前記複数の画像サブセクションの第1画像サブセクションを用いて第4構造化照明パラメータを推定するステップと、
前記コンピューティングデバイスにおいて、少なくとも前記複数の画像サブセクションの第2画像サブセクションを用いて第5構造化照明パラメータを推定するステップと、
前記コンピューティングデバイスにおいて、少なくとも前記第4構造化照明パラメータ又は前記第5構造化照明パラメータを用いて、前記複数の画像サブセクションの第3画像サブセクションに対応する第6構造化照明パラメータを予測するステップと、
を更に含む、請求項1に記載の方法。 - 前記試料の前記第1画像を複数の画像サブセクションに分割するステップと、
前記コンピューティングデバイスにおいて、少なくとも前記複数の画像サブセクションの第1画像サブセクションを用いて第4構造化照明パラメータを推定するステップと、
推定される前記第4構造化照明パラメータを、前記複数の画像サブセクションの第2画像サブセクションの予測される構造化照明パラメータとして用いるステップと、
を更に含む、請求項1に記載の方法。 - 非一時的なコンピュータ読取可能媒体であり、非一時的なコンピュータ読取可能媒体は、前記非一時的なコンピュータ読取可能媒体に記憶される実行可能な命令を有し、前記命令はプロセッサによって実行されるときに、構造化照明システムに、
試料の第1画像を捕捉することと、
少なくとも捕捉される前記第1画像を用いて第1構造化照明パラメータを推定することと、
前記試料の第2画像を捕捉することと、
少なくとも捕捉される前記第2画像を用いて第2構造化照明パラメータを推定することと、
少なくとも前記第1構造化照明パラメータ又は前記第2構造化照明パラメータを用いて、第3画像に対応する第3構造化照明パラメータを予測することと、
を含む動作を実施させ、
前記第3構造化照明パラメータを予測することは、最小二乗適合を少なくとも前記第1構造化照明パラメータ及び前記第2構造化照明パラメータに適用することを含む、非一時的なコンピュータ読取可能媒体。 - 前記第1画像は、第1試料位置で捕捉され、
前記第2画像は、第2試料位置で捕捉され、
前記第3画像は、前記第1試料位置と前記第2試料位置との間の第3試料位置で捕捉され、
前記第3構造化照明パラメータを予測することは、少なくとも内挿法を用いることによって前記第3試料位置で前記第3構造化照明パラメータを予測することを含む、請求項12に記載の非一時的なコンピュータ読取可能媒体。 - 前記内挿法は、
前記第1試料位置における前記第1構造化照明パラメータから、前記第2試料位置における前記第2構造化照明パラメータまでの変化率を決めるステップと、
少なくとも決められた前記変化率を用いて、前記第3試料位置における前記第3構造化照明パラメータを予測するステップと、
を含む、請求項13に記載の非一時的なコンピュータ読取可能媒体。 - 前記動作は、少なくとも前記第3画像及び前記第3構造化照明パラメータを用いて高分解能画像を構築することを更に含む、請求項12に記載の非一時的なコンピュータ読取可能媒体。
- 前記第1画像は、第1位置で捕捉され、
前記第2画像は、第2位置で捕捉され、
前記第3画像は、第1試料位置及び第2試料位置の両方の後又は前に存在する第3試料位置で捕捉され、
前記第3構造化照明パラメータを予測することは、少なくとも外挿法を用いることによって前記第3試料位置における前記第3構造化照明パラメータを予測することを含む、請求項12に記載の非一時的なコンピュータ読取可能媒体。 - 前記動作は、更に少なくとも前記第3構造化照明パラメータを用いて、前記構造化照明システムのハードウェアコンポーネントを、前記第3試料位置において前記第3画像を捕捉する前の、構造化照明パラメータの変化に対して補償するように調整することを含む、請求項16に記載の非一時的なコンピュータ読取可能媒体。
- 前記ハードウェアコンポーネントを調整することは、
構造化照明パターンの位相又は配向を調整する回転ミラーを調整すること、
回折格子を担持するとともに構造化照明パターンの位相又は配向を調整する並進ステージを調整すること、又は
構造化照明パターンの位相又は配向を調整する試料並進ステージを調整すること、
を含む、請求項17に記載の非一時的なコンピュータ読取可能媒体。 - 前記動作は、
前記構造化照明システムのメモリに、前記第1構造化照明パラメータ、前記第2構造化照明パラメータ及び前記第3構造化照明パラメータを記憶することと、
記憶される前記第1構造化照明パラメータ、記憶される前記第2構造化照明パラメータ、記憶される前記第3構造化照明パラメータ、又は前記構造化照明システムの既知の物性に基づくとともに記憶される値の1つ以上を用いて、第4画像に対する第4構造化照明パラメータに関する捜索空間を減少させることと、
を更に含む、請求項12に記載の非一時的なコンピュータ読取可能媒体。 - 光を放出する発光体と、
前記発光体が放出する光を分割して構造化照明パターンを試料の面に投影するビームスプリッタと、
プロセッサと、
非一時的なコンピュータ読取可能媒体であり、非一時的なコンピュータ読取可能媒体は、前記非一時的なコンピュータ読取可能媒体に記憶される実行可能な命令を有し、前記命令は前記プロセッサによって実行されるときに、前記構造化照明システムに、
試料の第1画像を捕捉することと、
少なくとも捕捉される前記第1画像を用いて第1構造化照明パラメータを推定することと、
前記試料の第2画像を捕捉することと、
少なくとも捕捉される前記第2画像を用いて第2構造化照明パラメータを推定することと、
少なくとも前記第1構造化照明パラメータ又は前記第2構造化照明パラメータを用いて、第3画像に対応する第3構造化照明パラメータを予測することと、
を含む動作を実施させる、非一時的なコンピュータ読取可能媒体と、
を備え、
前記第3構造化照明パラメータを予測することは、最小二乗適合を少なくとも前記第1構造化照明パラメータ及び前記第2構造化照明パラメータに適用することを含む、構造化照明撮像システム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862692303P | 2018-06-29 | 2018-06-29 | |
US62/692,303 | 2018-06-29 | ||
JP2019571743A JP6909315B2 (ja) | 2018-06-29 | 2019-06-20 | 構造化照明パラメータの予測 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019571743A Division JP6909315B2 (ja) | 2018-06-29 | 2019-06-20 | 構造化照明パラメータの予測 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021177182A JP2021177182A (ja) | 2021-11-11 |
JP6984065B2 true JP6984065B2 (ja) | 2021-12-17 |
Family
ID=68987431
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019571743A Active JP6909315B2 (ja) | 2018-06-29 | 2019-06-20 | 構造化照明パラメータの予測 |
JP2021110726A Active JP6984065B2 (ja) | 2018-06-29 | 2021-07-02 | 構造化照明パラメータの予測 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019571743A Active JP6909315B2 (ja) | 2018-06-29 | 2019-06-20 | 構造化照明パラメータの予測 |
Country Status (17)
Country | Link |
---|---|
US (3) | US10831012B2 (ja) |
EP (1) | EP3814824A4 (ja) |
JP (2) | JP6909315B2 (ja) |
KR (2) | KR102422076B1 (ja) |
CN (2) | CN115308893B (ja) |
AU (2) | AU2019283788B2 (ja) |
BR (1) | BR112019027945B8 (ja) |
CA (1) | CA3065029C (ja) |
IL (1) | IL271419B (ja) |
MX (1) | MX2019014804A (ja) |
MY (1) | MY201229A (ja) |
NZ (1) | NZ760225A (ja) |
RU (1) | RU2740050C9 (ja) |
SA (1) | SA520410974B1 (ja) |
SG (1) | SG11201913694RA (ja) |
TW (2) | TWI718557B (ja) |
WO (1) | WO2020005718A1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10901202B2 (en) * | 2018-09-19 | 2021-01-26 | Illumina, Inc. | Structured illumination of a sample |
WO2021158642A1 (en) * | 2020-02-03 | 2021-08-12 | Arizona Board Of Regents On Behalf Of The University Of Arizona | System and method for measuring distorted illumination patterns and correcting image artifacts in structured illumination imaging |
CN111580260B (zh) * | 2020-05-12 | 2023-08-01 | 西安交通大学 | 一种高速光学三维光切片显微系统及方法 |
CN112730354B (zh) * | 2020-12-14 | 2022-11-01 | 南方科技大学 | 一种结构光成像方法、成像图及在生化检测中的应用 |
CN113433681B (zh) * | 2021-06-25 | 2023-03-24 | 清华大学 | 结构光照明显微成像系统、方法 |
CN114169224A (zh) * | 2021-11-15 | 2022-03-11 | 歌尔股份有限公司 | 获取光栅结构数据的方法、装置及可读存储介质 |
KR102599457B1 (ko) * | 2022-08-03 | 2023-11-08 | 한국기초과학지원연구원 | 구조조명을 생성하는 현미경 장치 및 이의 동작 방법 |
CN116045836B (zh) * | 2023-04-03 | 2023-06-02 | 成都太科光电技术有限责任公司 | 一种Φ1200mm极大口径平面光学干涉测试装置 |
CN116774417B (zh) * | 2023-08-25 | 2023-10-27 | 长春理工大学 | 一种基于级联柔性光栅的多点激光扫描显微镜系统 |
Family Cites Families (43)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3856986A (en) | 1968-12-06 | 1974-12-24 | American Express Invest | Scanned holography systems using temporal modulation |
US4213706A (en) | 1977-08-19 | 1980-07-22 | The University Of Arizona Foundation | Background compensating interferometer |
US5761085A (en) | 1996-11-12 | 1998-06-02 | The United States Of America As Represented By The Secretary Of The Navy | Method for monitoring environmental parameters at network sites |
US6188478B1 (en) | 1998-10-21 | 2001-02-13 | Philips Electronics North America Corporation | Method and apparatus for film-thickness measurements |
AU2001279247A1 (en) * | 2000-08-10 | 2002-02-25 | Sensys Instruments Corporation | Database interpolation method for optical measurement of diffractive microstructures |
US7274446B2 (en) | 2001-04-07 | 2007-09-25 | Carl Zeiss Jena Gmbh | Method and arrangement for the deep resolved optical recording of a sample |
DE10131508A1 (de) * | 2001-07-02 | 2003-01-16 | Leica Microsystems | Verfahren und Mikroskop zur Detektion eines Objekts |
JP5048899B2 (ja) | 2001-09-28 | 2012-10-17 | オリンパス株式会社 | 顕微鏡 |
US6947127B2 (en) | 2001-12-10 | 2005-09-20 | Carl Zeiss Jena Gmbh | Arrangement for the optical capture of excited and/or back scattered light beam in a sample |
KR100489431B1 (ko) | 2002-06-28 | 2005-05-12 | 학교법인연세대학교 | 스캔식 위상천이 3차원 형상측정 장치 및 측정 방법 |
US7324214B2 (en) * | 2003-03-06 | 2008-01-29 | Zygo Corporation | Interferometer and method for measuring characteristics of optically unresolved surface features |
US7376079B2 (en) | 2003-05-28 | 2008-05-20 | Symbol Technologies, Inc. | Backup cell controller |
JP2005080181A (ja) | 2003-09-03 | 2005-03-24 | Nikon Corp | 画像読み取り装置および画像読み取りプログラム |
WO2005043197A2 (en) | 2003-10-28 | 2005-05-12 | University Of Maryland, Baltimore | Spatial light modulator apparatus and method |
US20050221351A1 (en) | 2004-04-06 | 2005-10-06 | Affymetrix, Inc. | Methods and devices for microarray image analysis |
CN1292227C (zh) | 2005-07-12 | 2006-12-27 | 中国科学院上海光学精密机械研究所 | 高分辨数字干涉仪空间分辨率的标定方法 |
US20080158668A1 (en) * | 2005-10-07 | 2008-07-03 | Nikon Corporation | Microscope and Image Generation Method |
JPWO2007043382A1 (ja) * | 2005-10-07 | 2009-04-16 | 株式会社ニコン | 顕微鏡装置及び画像生成方法 |
WO2007061632A2 (en) | 2005-11-09 | 2007-05-31 | Geometric Informatics, Inc. | Method and apparatus for absolute-coordinate three-dimensional surface imaging |
US7803609B2 (en) | 2006-07-21 | 2010-09-28 | Affymetrix, Inc. | System, method, and product for generating patterned illumination |
DE102006044229B4 (de) | 2006-09-20 | 2023-09-28 | Carl Zeiss Microscopy Gmbh | Verfahren und Vorrichtung zur Bildverarbeitung mit höheren Harmonischen eines Beleuchtungsgitters |
DE102006047912A1 (de) | 2006-10-06 | 2008-04-10 | Carl Zeiss Microimaging Gmbh | Verfahren und Anordnung zur parallelisierten mikroskopischen Bildgebung |
EP2093601B1 (en) | 2006-12-12 | 2013-03-13 | Nikon Corporation | Microscope device and image processing method |
WO2009009081A2 (en) | 2007-07-10 | 2009-01-15 | Massachusetts Institute Of Technology | Tomographic phase microscopy |
US8759077B2 (en) | 2007-08-28 | 2014-06-24 | Lightspeed Genomics, Inc. | Apparatus for selective excitation of microparticles |
US8222040B2 (en) | 2007-08-28 | 2012-07-17 | Lightspeed Genomics, Inc. | Nucleic acid sequencing by selective excitation of microparticles |
JP2009098215A (ja) * | 2007-10-12 | 2009-05-07 | Nikon Corp | 顕微鏡装置、及び顕微鏡装置における位相変化量の算出方法。 |
US8509879B2 (en) | 2007-11-06 | 2013-08-13 | The Regents Of The University Of California | Apparatus and method for widefield functional imaging (WiFI) using integrated structured illumination and laser speckle imaging |
US20090219607A1 (en) | 2008-01-17 | 2009-09-03 | Baylor College Of Medicine | Method and apparatus for enhanced resolution microscopy of living biological nanostructures |
DE102008009216A1 (de) | 2008-02-13 | 2009-08-20 | Carl Zeiss Microimaging Gmbh | Vorrichtung und Verfahren zum räumlich hochauflösenden Abbilden einer Struktur einer Probe |
EP2110697B1 (en) * | 2008-04-17 | 2016-02-10 | Ruprecht-Karls-Universität Heidelberg | Wave field microscope with sub-wavelength resolution and methods for processing microscopic images to detect objects with sub-wavelength dimensions |
DE102008049878A1 (de) * | 2008-09-30 | 2010-04-01 | Carl Zeiss Microlmaging Gmbh | Verbesserte Verfahren und Vorrichtungen für die Mikroskopie mit strukturierter Beleuchtung |
US9465228B2 (en) | 2010-03-19 | 2016-10-11 | Optical Biosystems, Inc. | Illumination apparatus optimized for synthetic aperture optics imaging using minimum selective excitation patterns |
US8502867B2 (en) | 2010-03-19 | 2013-08-06 | Lightspeed Genomics, Inc. | Synthetic aperture optics imaging method using minimum selective excitation patterns |
US8796185B2 (en) | 2011-03-08 | 2014-08-05 | Lightspeed Genomics, Inc. | Self-assembling high density ordered patterned biomolecule array and method for making and using the same |
NL2008414A (en) * | 2011-03-21 | 2012-09-24 | Asml Netherlands Bv | Method and apparatus for determining structure parameters of microstructures. |
US8817362B2 (en) | 2011-04-29 | 2014-08-26 | Lightspeed Genomics, Inc. | Modular pattern illumination and light beam multiplexing for selective excitation of microparticles |
JP5849231B2 (ja) * | 2012-04-23 | 2016-01-27 | パナソニックIpマネジメント株式会社 | 表面形状測定装置及び方法 |
CN105264360B (zh) * | 2013-04-04 | 2019-04-26 | 伊利诺斯工具制品有限公司 | 螺旋计算机断层成像 |
EP4220256A1 (en) | 2015-03-16 | 2023-08-02 | Pacific Biosciences of California, Inc. | Analytical system comprising integrated devices and systems for free-space optical coupling |
US20180045937A1 (en) * | 2016-08-10 | 2018-02-15 | Zeta Instruments, Inc. | Automated 3-d measurement |
JP7305611B2 (ja) | 2017-03-17 | 2023-07-10 | アプトン バイオシステムズ インコーポレイテッド | 配列決定および高分解能画像化の方法 |
NL2020620B1 (en) * | 2018-01-16 | 2019-07-25 | Illumina Inc | Pattern angle spatial selection structured illumination imaging |
-
2019
- 2019-06-13 TW TW108120487A patent/TWI718557B/zh active
- 2019-06-13 TW TW110100820A patent/TWI792150B/zh active
- 2019-06-20 MY MYPI2019007779A patent/MY201229A/en unknown
- 2019-06-20 EP EP19817112.6A patent/EP3814824A4/en active Pending
- 2019-06-20 US US16/447,729 patent/US10831012B2/en active Active
- 2019-06-20 KR KR1020217037455A patent/KR102422076B1/ko active IP Right Grant
- 2019-06-20 CA CA3065029A patent/CA3065029C/en active Active
- 2019-06-20 WO PCT/US2019/038293 patent/WO2020005718A1/en active Application Filing
- 2019-06-20 RU RU2019140878A patent/RU2740050C9/ru active
- 2019-06-20 KR KR1020197038431A patent/KR102329661B1/ko active IP Right Grant
- 2019-06-20 AU AU2019283788A patent/AU2019283788B2/en active Active
- 2019-06-20 JP JP2019571743A patent/JP6909315B2/ja active Active
- 2019-06-20 BR BR112019027945A patent/BR112019027945B8/pt active IP Right Grant
- 2019-06-20 SG SG11201913694RA patent/SG11201913694RA/en unknown
- 2019-06-20 CN CN202210923324.7A patent/CN115308893B/zh active Active
- 2019-06-20 CN CN201980003321.8A patent/CN111108425B/zh active Active
- 2019-06-20 NZ NZ760225A patent/NZ760225A/en unknown
- 2019-12-12 IL IL271419A patent/IL271419B/en unknown
- 2019-12-29 MX MX2019014804A patent/MX2019014804A/es unknown
-
2020
- 2020-01-06 SA SA520410974A patent/SA520410974B1/ar unknown
- 2020-11-05 US US17/090,775 patent/US11119302B2/en active Active
-
2021
- 2021-07-02 JP JP2021110726A patent/JP6984065B2/ja active Active
- 2021-08-06 US US17/396,478 patent/US11525993B2/en active Active
- 2021-09-06 AU AU2021229139A patent/AU2021229139B2/en active Active
Also Published As
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6984065B2 (ja) | 構造化照明パラメータの予測 | |
JP6983916B2 (ja) | マルチアーム構造化照明撮像 | |
KR102312777B1 (ko) | 패턴 각도 공간 선택 구조화 조명 이미징 | |
KR102308470B1 (ko) | 이중 광학격자 슬라이드 구조화 조명 이미징 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210709 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210709 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210709 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210907 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211008 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211102 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211124 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6984065 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |