TWI792150B - 用於預測結構照明參數之方法、系統和非暫時性電腦可讀取媒體 - Google Patents
用於預測結構照明參數之方法、系統和非暫時性電腦可讀取媒體 Download PDFInfo
- Publication number
- TWI792150B TWI792150B TW110100820A TW110100820A TWI792150B TW I792150 B TWI792150 B TW I792150B TW 110100820 A TW110100820 A TW 110100820A TW 110100820 A TW110100820 A TW 110100820A TW I792150 B TWI792150 B TW I792150B
- Authority
- TW
- Taiwan
- Prior art keywords
- image
- structured lighting
- structured
- sample
- lighting parameter
- Prior art date
Links
- 238000005286 illumination Methods 0.000 title claims abstract description 125
- 238000000034 method Methods 0.000 title claims description 90
- 238000003384 imaging method Methods 0.000 claims description 112
- 230000008859 change Effects 0.000 claims description 28
- 238000013519 translation Methods 0.000 claims description 14
- 238000013213 extrapolation Methods 0.000 claims description 12
- 230000000704 physical effect Effects 0.000 claims description 2
- 239000000523 sample Substances 0.000 description 163
- 230000003287 optical effect Effects 0.000 description 78
- 230000033001 locomotion Effects 0.000 description 47
- 238000004891 communication Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 238000012545 processing Methods 0.000 description 10
- 239000000758 substrate Substances 0.000 description 10
- 230000014616 translation Effects 0.000 description 10
- 239000013307 optical fiber Substances 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 230000005284 excitation Effects 0.000 description 7
- 239000000835 fiber Substances 0.000 description 7
- 230000000903 blocking effect Effects 0.000 description 5
- 239000012530 fluid Substances 0.000 description 5
- 150000007523 nucleic acids Chemical class 0.000 description 5
- 230000010363 phase shift Effects 0.000 description 5
- 239000007787 solid Substances 0.000 description 5
- 230000002123 temporal effect Effects 0.000 description 5
- 230000001427 coherent effect Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000010276 construction Methods 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 238000000386 microscopy Methods 0.000 description 4
- 102000039446 nucleic acids Human genes 0.000 description 4
- 108020004707 nucleic acids Proteins 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 239000012472 biological sample Substances 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 239000002699 waste material Substances 0.000 description 3
- DLRVVLDZNNYCBX-UHFFFAOYSA-N Polydextrose Polymers OC1C(O)C(O)C(CO)OC1OCC1C(O)C(O)C(O)C(O)O1 DLRVVLDZNNYCBX-UHFFFAOYSA-N 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 239000003153 chemical reaction reagent Substances 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 230000003954 pattern orientation Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000012163 sequencing technique Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 102000004190 Enzymes Human genes 0.000 description 1
- 108090000790 Enzymes Proteins 0.000 description 1
- 229920001100 Polydextrose Polymers 0.000 description 1
- 239000004743 Polypropylene Substances 0.000 description 1
- 239000004793 Polystyrene Substances 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 239000006059 cover glass Substances 0.000 description 1
- 230000009089 cytolysis Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000007850 fluorescent dye Substances 0.000 description 1
- 239000000499 gel Substances 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 239000010931 gold Substances 0.000 description 1
- 229910052737 gold Inorganic materials 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004816 latex Substances 0.000 description 1
- 229920000126 latex Polymers 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000002773 nucleotide Substances 0.000 description 1
- 125000003729 nucleotide group Chemical group 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 239000004033 plastic Substances 0.000 description 1
- 229920003023 plastic Polymers 0.000 description 1
- 229920000747 poly(lactic acid) Polymers 0.000 description 1
- 229920002401 polyacrylamide Polymers 0.000 description 1
- 229940035035 polydextrose Drugs 0.000 description 1
- 235000013856 polydextrose Nutrition 0.000 description 1
- 239000001259 polydextrose Substances 0.000 description 1
- -1 polypropylene Polymers 0.000 description 1
- 229920001155 polypropylene Polymers 0.000 description 1
- 229920002223 polystyrene Polymers 0.000 description 1
- APTZNLHMIGJTEW-UHFFFAOYSA-N pyraflufen-ethyl Chemical compound C1=C(Cl)C(OCC(=O)OCC)=CC(C=2C(=C(OC(F)F)N(C)N=2)Cl)=C1F APTZNLHMIGJTEW-UHFFFAOYSA-N 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 235000012431 wafers Nutrition 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2513—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/06—Means for illuminating specimens
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/16—Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/24—Base structure
- G02B21/26—Stages; Adjusting means therefor
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/361—Optical details, e.g. image relay to the camera or image sensor
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/58—Optics for apodization or superresolution; Optical synthetic aperture systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Engineering & Computer Science (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Microscoopes, Condenser (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Circuit Arrangement For Electric Light Sources In General (AREA)
- Image Processing (AREA)
- Spectrometry And Color Measurement (AREA)
- Investigating Or Analyzing Materials Using Thermal Means (AREA)
- Radiation Pyrometers (AREA)
Abstract
本發明之實施係關於使用獲自一結構化照明系統所捕獲之結構化照明影像的結構化照明參數之估計值,來預測一特定時間、空間及/或溫度點之結構化照明參數。特定實施係關於預測結構化照明頻率、相位、定向及/或調變階數參數。
Description
本申請案涉及預測結構照明參數。
本申請案主張2018年6月29日申請且標題為「PREDICTING STRUCTURED ILLUMINATION PARAMETERS」之美國臨時專利申請案第62/692,303號的權益。
結構化照明顯微法(SIM)描述一種技術,藉由該技術,可使用空間結構化(亦即,經型樣化)光對一樣本成像,以將顯微鏡之側向解析度增大二或更大之一因數。在一些情況下,在樣本之成像期間,樣本之三個條紋型樣影像在各種型樣相位(例如,0°、120°及240°)被獲取,從而使得樣本上的每一位置曝露於照明強度範圍內,其中藉由圍繞光軸將型樣定向旋轉至3個單獨角度(例如,0°、60°及120°)來重複該程序。可將所捕獲影像(例如,九個影像)組裝(assemble)至具有延伸之空間頻寬的單個影像中,該影像可被重變換至真實空間中以產生相比習知顯微鏡所捕獲之影像具有更高解析度的影像。
在當前SIM系統之一些實施中,經線性偏振光束被引導穿過光束
分光器,該光束分光器將該光束分裂成兩個或更多個單獨階,其可組合且投影在成像樣本上作為具有正弦強度變化之干涉條紋型樣。繞射光柵為光束分光器的實例,繞射光柵為可產生具有高度同調性及穩定傳播角度的光束。當兩個此等光束組合時,兩者之間的干涉可產生均勻的規律重複的條紋型樣,其中間隔由包括干擾光束之間的角度之因數判定。
在影像之捕獲及/或後續組裝或重建構至具有延伸之空間頻寬的單個影像中期間,可能需要考慮以下結構化照明參數:鄰近條紋之間的間隔(亦即,條紋型樣之頻率)、結構化照明型樣之相位或角度,及條紋型樣相對於照明樣本之定向。在理想成像系統中,未受制於諸如機械不穩定性及熱變化的因素,此等參數中之每一者將不會隨時間推移而漂移或以其他方式改變,且將得知與給定影像樣本相關聯的精確SIM頻率、相位及定向參數。然而,歸因於諸如激發光束路徑之機械不穩定性及/或成像樣本之熱膨脹/收縮的因素,此等參數可能隨時間推移而漂移或以其他方式改變。
就此而論,SIM成像系統可能需要估計結構化照明參數,以考慮其隨時間推移之變化。由於許多SIM成像系統並不即時地執行SIM影像處理(例如,其離線處理所捕獲影像),因此,此類SIM系統可能耗費大量計算時間來處理SIM影像以估計影像之結構化照明參數。
本發明之實施係關於使用獲自一結構化照明系統所捕獲之結構化照明影像的結構化照明參數之估計值,來預測一特定時間、空間及/或溫度點之結構化照明參數。
在一個實例中,一種方法包含:使用一結構化照明系統捕獲一樣本之一第一影像;至少使用該所捕獲第一影像,使用一計算裝置估計一第一結構
化照明參數;使用該結構化照明系統捕獲該樣本之一第二影像;至少使用該所捕獲第二影像,使用該計算裝置估計一第二結構化照明參數;及至少使用該第一結構化照明參數或該第二結構化照明參數,使用該計算裝置預測對應於一第三影像之一第三結構化照明參數。該些第一、第二及第三結構化照明參數中之每一者可包含一相位、頻率、定向或調變階數。
在一些實施中,該第一影像在一第一時間捕獲,該第二影像在該第一時間之後的一第二時間捕獲,該第三影像在該第一時間與該第二時間之間的一第三時間捕獲,且該第三結構化照明參數藉由至少使用一內插方法而在該第三時間進行預測。該內插方法可包含:使用該計算裝置判定自該第一時間的該第一結構化照明參數至該第二時間的該第二結構化照明的一改變速率;及至少使用該經判定改變速率,使用該計算裝置預測該第三時間的該第三結構化照明參數。
在一些實施中,該方法進一步包含:至少使用該第三影像及該第三結構化照明參數,使用該計算裝置建構一高解析度影像。
在一些實施中:該第一影像在一第一時間捕獲,該第二影像在該第一時間之後的一第二時間捕獲,該第三影像在該第一時間及該第二時間兩者之後或之前的一第三時間捕獲,且該第三結構化照明參數藉由至少使用一外插方法而在該第三時間進行預測。
在一些實施中,該方法進一步包含:至少使用該第三結構化照明參數調整該結構化照明系統之一硬體組件,以在於該第三時間捕獲該第三影像之前補償一結構化照明參數之變化。調整一硬體組件可包含:調整以下各項中之一或多者:調整一結構化照明型樣之一相位或定向的一旋轉鏡面;承載一繞射光柵以調整一結構化照明型樣之一相位或定向的一平移台;及調整一結構化照明型樣之一相位或定向的一樣本平移台。
在一些實施中,該方法進一步包含:將以下項儲存於該結構化照明系統之一記憶體中:該第一結構化照明參數、該第二結構化照明參數及該第三結構化照明參數;及使用該些所儲存之第一結構化照明、所儲存之第二結構化照明參數、所儲存之第三結構化照明參數及基於該結構化照明系統之該些已知物理特性的一所儲存值之一或多者,減小一第四影像之一第四結構化照明參數的一搜尋空間。
在一些實施中,預測對應於該第三影像之該第三結構化照明參數包含:將一最小平方擬合應用於至少該第一結構化照明參數及該第二結構化照明參數。在一些實施中,預測對應於該第三影像之該第三結構化照明參數包含:使用該第二結構化照明參數。
在一些實施中,該樣本之該第一影像在一第一樣本溫度下捕獲;該第一結構化照明參數在該第一樣本溫度下估計;該樣本之該第二影像在一第二樣本溫度下捕獲;該第二結構化照明參數在該第二樣本溫度下估計;且該第三結構化照明參數在一第三樣本溫度下進行預測。
在一些實施中,該方法進一步包含:將該樣本之該第一影像劃分成複數個影像子部分;至少使用該複數個影像子部分之一第一影像子部分,使用該計算裝置估計一第四結構化照明參數;至少使用該複數個影像子部分之一第二影像子部分,使用該計算裝置估計一第五結構化照明參數;至少使用該第四結構化照明參數或該第五結構化照明參數,使用該計算裝置預測對應於該複數個影像子部分之一第三影像子部分的一第六結構化照明參數。
在一些實施中,該方法進一步包含:將該樣本之該第一影像劃分成複數個影像子部分;至少使用該複數個影像子部分之一第一影像子部分,使用該計算裝置估計一第四結構化照明參數;將該經估計第四結構化照明參數用作該複數個影像子部分之一第二影像子部分的一經預測結構化照明參數。
在一個實例中,一種非暫時性電腦可讀取媒體可具有儲存於其上的可執行指令,該些指令在由一處理器執行時使得該處理器執行以下之操作:使用一結構化照明系統捕獲一樣本之一第一影像;至少使用該所捕獲第一影像估計一第一結構化照明參數;使用該結構化照明系統捕獲該樣本之一第二影像;至少使用該所捕獲第二影像估計一第二結構化照明參數;及至少使用該第一結構化照明參數或該第二結構化照明參數,預測對應於一第三影像之一第三結構化照明參數。
在一些實施中,該第一影像在一第一樣本方位(position)捕獲,該第二影像在一第二樣本方位捕獲,該第三影像在介於該第一樣本方位與該第二樣本方位之間的一第三樣本方位捕獲,且該第三結構化照明參數藉由至少使用一內插方法在該第三樣本方位進行預測。該內插方法可包含:使用該計算裝置判定自該第一樣本方位處的該第一結構化照明參數至該第二樣本方位處的該第二結構化照明的一改變速率;及至少使用該經判定改變速率,預測在該第三樣本方位的該第三結構化照明參數。
在一些實施中,該些指令在由該處理器執行時,使得該處理器進一步執行以下之一操作:至少使用該第三影像及該第三結構化照明參數建構一高解析度影像。
在一些實施中,該第三樣本方位位於該第一樣本方位及該第二樣本方位之後,且該第三結構化照明參數藉由至少使用一外插方法在該第三樣本方位進行預測。
在一些實施中,該些指令在由該處理器執行時,使得該處理器進一步執行以下之一操作:至少使用該第三結構化照明參數,使得該結構化照明系統之一硬體組件得以調整,以在捕獲該第三樣本方位處的一影像之前補償一結構化照明參數之變化。
在一些實施中,該些指令在由該處理器執行時使得該處理器進一步執行以下之操作:將以下項儲存於該結構化照明系統之一記憶體中:該第一結構化照明參數、該第二結構化照明參數及該第三結構化照明參數;及使用該些所儲存之第一結構化照明、所儲存之第二結構化照明參數、所儲存之第三結構化照明參數及基於該結構化照明系統之該些已知物理特性的一所儲存值之一或多者,減小一第四影像之一第四結構化照明參數的一搜尋空間。
在一個實例中,一種結構化照明成像系統包含:一光發射器,其發射光;一光束分光器,其將藉由該光發射器發射之光分裂,以將一結構化照明型樣投射於一樣本之一平面上;一處理器;及一種其上儲存有可執行指令之非暫時性電腦可讀取媒體,該些指令在由該處理器執行時使得該處理器執行以下之操作:捕獲一樣本之一第一影像;至少使用該所捕獲第一影像估計一第一結構化照明參數;捕獲該樣本之一第二影像;至少使用該所捕獲第二影像估計一第二結構化照明參數;及至少使用該第一結構化照明參數或該第二結構化照明參數,預測對應於一第三影像之一第三結構化照明參數。
在一個實例中,一種方法包含:使用一結構化照明系統捕獲一樣本之第一複數個影像;至少使用該所捕獲第一複數個影像,使用一計算裝置估計一第一結構化照明參數;使用該結構化照明系統捕獲該樣本之第二複數個影像;至少使用該所捕獲第二複數個影像,使用該計算裝置估計一第二結構化照明參數;及至少使用該第一結構化照明參數或該第二結構化照明參數,使用該計算裝置預測對應於一或多個影像之一第三結構化照明參數。
結合藉助於實例說明根據所揭示技術之實施之特徵的附圖,所揭示技術之其他特徵及態樣將自以下實施方式變得顯而易見。概述不意欲限制本文中所描述之任何發明的範圍,該些發明由申請專利範圍及均等物來界定。
應瞭解,前述概念(假設此類概念並非相互不一致)之所有組合
預期為本文所揭示之發明性主題的部分。詳言之,在本發明結尾處出現之所主張主題的全部組合預期為本文所揭示發明性主題的部分。
50:樣本
51:特徵
60:條紋
100:系統
110:容器
120:廢料閥
130:溫度站致動器
135:加熱器/冷卻器
140:攝影機系統
142:物鏡
150:光發射器
151:準直透鏡
152:光纖
155:光結構化光學總成
156:管透鏡
160:雙色鏡
165:濾光器切換總成
170:運動台
175:聚焦組件
190:流體遞送模組或裝置
191:結構化照明顯微法(SIM)成像組件
195:控制器
200:系統
210A:光發射器
210B:光發射器
220A:第一光學準直器
220B:第一光學準直器
230A:繞射光柵
230B:繞射光柵
240A:旋轉鏡
240B:旋轉鏡
250A:第二光學準直器
250B:第二光學準直器
260:鏡面
261:孔
265:管透鏡
270:物鏡
271:樣本
280:半反射鏡面
290:攝影機
500:系統
510:光發射器
520:第一光學準直器
530:運動台
531:第一繞射光柵
532:第二繞射光柵
540:管透鏡
550:半反射鏡面
560:物鏡
570:樣本
580:攝影機
900:內插方法
910:操作
920:操作
930:操作
940:操作
950:操作
1000:方法
1050:操作
1100:方法
1110:操作
1120:操作
1200:方法
1210:操作
1220:操作
1300:計算組件
1302:匯流排
1304:處理器
1308:主記憶體
1310:資訊儲存機構
1312:媒體驅動機
1314:媒體
1320:儲存單元介面
1322:儲存單元
1324:通信介面
1328:通道
f:初始頻率
P:間隔
參看以下圖式詳細地描述根據一或多個實施的本發明。僅出於說明目的提供諸圖,且該些圖僅描繪實例實施。此外應注意,出於說明清楚及容易起見,諸圖中之元件未必已按比例繪製。
本文中所包括之諸圖中的一些自不同視角說明所揭示技術之各種實施。儘管隨附描述性文字可將此等視圖稱為「俯視」、「仰視」或「側視」視圖,但此等參考僅係描述性的且不暗示或要求所揭示技術應以特定空間定向實施或使用,除非另有明確規定。
[圖1A]在一個實例中說明在將1D結構化照明型樣投影於樣本上之SIM成像系統中可能隨時間推移出現的非期待之頻率變化。
[圖1B]在一個實例中說明在將1D結構化照明型樣投影於樣本上之SIM成像系統中可能隨時間推移出現的非期待之相位變化。
[圖1C]在一個實例中說明在將1D結構化照明型樣投影於樣本上之SIM成像系統中可能隨時間推移出現的非期待之定向變化。
[圖2]在一個實例中說明根據本文中所描述之一些實施的可實施結構化照明參數預測之SIM成像系統。
[圖3]為說明根據本文中所描述之一些實施的可實施結構化照明參數預測之雙臂SIM成像系統的實例光學組態之光學圖。
[圖4]在一個實例中說明在使用結構化光產生高解析度影像的一個成像循環期間,可藉由圖3之SIM成像系統之垂直光柵及水平光柵投射至樣本之平面上的簡易照明條紋型樣。
[圖5A]為說明根據本文中所描述之一些實施的可實施結構化照明參數預測之雙光柵滑動SIM成像系統的實例光學組態之示意圖。
[圖5B]為說明根據本文中所描述之一些實施的可實施結構化照明參數預測之雙光柵滑動SIM成像系統的實例光學組態之示意圖。
[圖6]在一個實例中說明在結構化照明成像循環之影像捕獲期間,可藉由圖5A至圖5B之SIM成像系統之第一繞射光柵及第二繞射光柵投射至樣本之平面上的簡易照明條紋型樣。
[圖7]在一個實例中展示在空間(X)及時間(T)上變化的相位參數之估計值。
[圖8]在一個實例中說明隨x而變的參數之估計值變化的趨勢。
[圖9]為說明根據本文中所描述之一些實施的用於預測特定時間點之結構化照明參數的實例內插方法之可操作流程圖,該方法使用自該時間點前後所捕獲之影像獲得的結構化照明參數之估計值。
[圖10]為說明根據本文中所描述之一些實施的用於預測特定時間點之結構化照明參數的實例外插方法之可操作流程圖,該方法使用自該時間點之前所捕獲之兩個或更多個影像獲得的結構化照明參數之估計值。
[圖11]為說明根據本文中所描述之一些實施的在高解析度影像重建構期間,使用經預測結構化照明參數補償結構化照明參數隨時間推移的非期待之變化的實例方法之可操作流程圖。
[圖12]為說明根據本文中所描述之一些實施的使用SIM成像系統硬體組件之經預測結構化照明參數調整,以補償隨時間推移之結構化照明參數變化的實例方法之可操作流程圖。
[圖13]為可與本發明之各種實施結合使用之計算組件的實例。
諸圖並非詳盡的且不將本發明限於所揭示之精確形式。
如本文中用以指代結構化照明參數,術語「頻率」意欲指代結構化照明型樣(例如,條紋或柵格型樣)之條紋或線之間的間隔。舉例而言,條紋之間具有較大間隔之型樣相比條紋之間具有較小間隔之型樣具有較低頻率。
如本文中用以指代結構化照明參數,術語「相位」意欲指代將照明樣本之結構化照明型樣之相位。舉例而言,可藉由相對於經照明樣本平移結構化照明型樣來改變相位。
如本文中用以指代結構化照明參數,術語「定向」意欲指代結構化照明型樣(例如,條紋或柵格型樣)與被型樣照明之樣本之間的相對定向。舉例而言,可藉由相對於經照明樣本旋轉結構化照明型樣來改變定向。
如本文中用以指代結構化照明參數,術語「預測(predict或predicting)」欲意謂在不直接自對應於參數之所捕獲影像量測參數或估計參數的情況下計算參數之值。舉例而言,可藉由在於時間t2及t3直接量測或估計(例如,自所捕獲相位影像)之相位值之間進行內插,來在時間t1預測結構化照明型樣之相位,其中t2<t1<t3。作為另一實例,可藉由自於時間t2及t3直接量測或估計(例如,自所捕獲相位影像)之頻率值進行外插,來在時間t1預測結構化照明型樣之頻率,其中t2<t3<t1。
如本文用以指代由繞射光柵發射之光,術語「階」或「階數」欲意謂表示由於建設性干涉來自繞射光柵之鄰近縫隙或結構之光路徑長度差之整數波長的數目。入射光束在一系列重複光柵結構或其他光束分光結構上的互動,可將光束之部分自原始光束再導向或繞射至可預測角度方向。術語「零階」或「最大零階亮區」意欲指代藉由繞射光柵發射的其中不存在繞射之中心明亮條紋。術語「一階」意欲指代經繞射至零階條紋任一側的兩條明亮條紋,其中路徑長度差
為±1波長。高階為自原始光束繞射至較大角度。可操縱光柵之性質以控制多少光束強度被引導至各種階。舉例而言,相位光柵可經製造以最大化±1階光束之傳輸,且最小化零階光束之傳輸。
如本文中用以指代樣本,術語「特徵」欲意謂型樣中可根據相對位置區別於其他點或區域的點或區域。個別特徵可包括一特定類型之一或多個分子。舉例而言,特徵可包括具有特定序列之單個目標核酸分子,或特徵可包括具有相同序列(及/或其互補序列)之若干核酸分子。
如本文中所使用,術語「xy平面」欲意謂笛卡爾座標系中由直線軸線x及y界定之2維區域。當參考偵測器及由偵測器觀測到之物件使用時,區域可進一步指定為正交於光束軸線,或正交於偵測器與正在偵測之物件之間的觀測方向。
如本文中所使用,術語「z座標」欲意謂指定沿著與xy平面正交之一軸線之點、線或區域之位置的資訊。在特定實施中,z軸正交於由偵測器觀測之物件的區域。舉例而言,光學系統之焦點方向可沿著z軸指定。
如本文中所使用,術語「光學耦接」意欲指一個元件經調適以直接地或間接地將光賦予至另一元件。
如上所指出,可能需要SIM影像處理之參數估計來校正結構化照明參數隨時間推移的非期待之變化。藉助於實例,圖1A至圖1C說明將一維結構化照明型樣投影於經規律型樣化之樣本上的SIM成像系統中可能隨時間推移而出現的非期待之頻率變化(圖1A)、相位變化(圖1B)、及定向變化(圖1C)。特定而言,圖1A說明頻率偏移前後由具有條紋60之一維結構化照明型樣照明的具有特徵51之樣本50。在任何頻率偏移之前,鄰近條紋60具有對應於初始頻率f的間距或中心至中心間隔P。隨時間推移,隨系統中之溫度變化,間距P可增大或減小。舉例而言,熱膨脹可能導致間距P增大至P+△P1,從而相對應地,將頻率f減
小至f-△f1。相反,熱收縮可能導致間距P減小至P-△P1,從而相對應地將頻率f增大至f+△f2。
圖1B說明相位變化前後由具有條紋60之一維結構化照明型樣照明的樣本50。如所示,在相位漂移之前,第一相位狀態Φ可對應於完整地照明樣本50之每隔一行特徵51的條紋。隨時間推移,條紋60相對於樣本50之方位可偏移,使得所有相位影像偏移△Φ。舉例而言,SIM成像系統中之機械振動(例如,激發光束路徑中)、由光柵或樣本台使用的平移台之不精確性、熱變化及/或其他因素可能導致非期待之相位漂移。在相位漂移△Φ之後,第一相位狀態變化至Φ+△Φ,且條紋不再位於每隔一行特徵的中心。
圖1C說明定向變化前後由具有條紋60之一維結構化照明型樣照明的樣本50。如所示,在定向變化之前,條紋相對於樣本50之定向係完全垂直的。隨時間推移,定向可能歸因於諸如激發光束路徑之變化、樣本移動、熱變化及/或其他因素之因素而改變。在定向旋轉角度△θ之後,條紋不再相對於樣本完全垂直。
在SIM成像過程期間的準確考慮如上文所描述之結構化照明參數變化的參數估計,有助於確保來自一組經取樣影像的一影像無假影及該影像之精確重建構。然而,此過程可能計算代價高,且在影像獲取之後頻繁執行。對於涉及影像之即時處理及重建構,且因此涉及諸如頻率、相位、定向及調變階數之參數之即時估計的對時間要求嚴格之SIM成像系統,此等計算要求可能造成資料產出量損失(例如,每單位時間處理之資料較少)。在此等系統中,樣本得以成像之速率可能超過可自經取樣影像直接估計結構化照明參數的速率。就此而論,需要一種以低複雜度及短處理時間產生參數估計的方法。
為此目的,本文所揭示之技術的實施係關於使用獲自結構化照明系統所捕獲之影像的結構化照明參數之估計值,來預測特定時間、空間及/或溫
度點的結構化照明參數。特定實施係關於預測結構化照明頻率、相位、定向及/或調變階數參數。
根據一些實施,可藉由內插來自影像捕獲之結構化照明參數之估計值,來預測給定時間、空間及/或溫度點的結構化照明參數。舉例而言,可自第一經取樣影像估計第一頻率,可自第二經取樣影像估計第二頻率,且可藉由至少使用第一所捕獲影像與第二所捕獲影像之間的經判定頻率變化速率進行內插,來預測對應於第一所捕獲影像與第二所捕獲影像之間的時間點之頻率(例如,第一與第二影像之間所獲取的影像的頻率)。
根據一些實施,可藉由使用獲自兩次影像捕獲之結構化照明參數之估計值進行外插,來預測給定時間、空間及/或溫度點的結構化照明參數。舉例而言,可自第一經取樣影像估計第一定向,可自第二經取樣影像估計第二定向,且可藉由至少使用自第一所捕獲影像至第二所捕獲影像之的經判定定向變化速率進行外插,來預測對應於第一與第二所捕獲影像之後的時間點之定向(例如,在第一及第二影像之後獲取的第三影像之定向)。作為第二實例,可自第一經取樣影像估計第一定向,可自第二經取樣影像估計第二定向,且可藉由保持來自第二所捕獲影像之值,來預測對應於第一與第二所捕獲影像之後的時間點之定向(例如,在第一及第二影像之後獲取的第三影像之定向)。
在實施中,經估計及經預測結構化照明參數可用以使得得以預測之其他結構化照明參數的搜尋空間變窄。舉例而言,在給定第一時間、空間及/或溫度點之結構化照明參數的估計值的情況下,可考慮該第一時間、空間及/或溫度點處的經預測或經估計值,而預測位於該第一時間、空間及/或溫度點附近的第二時間、空間及/或溫度點之結構化照明參數之值。
在實施中,經估計及經預測結構化照明參數可儲存於結構化照明系統之記憶體中,以供稍後被系統使用。舉例而言,經預測及經估計參數可儲存
於諸如查找表之歷史檔案中。儲存於記憶體中之經預測參數可自經估計參數而被判定,或可基於結構化照明系統之物理特性而被設定。舉例而言,可儲存結構化照明系統之標稱柵格間隔。所儲存參數可此後經參考以執行操作,該些操作諸如:經校準之影像重建構、將回饋提供至硬體組件以校正結構化照明參數之變化,及變窄在預測額外結構化照明參數時的搜尋空間。
在描述本文所揭示的用於預測結構化照明參數之技術之各種實施之前,描述可用以實施此等技術之實例SIM成像系統係有用的。圖2至圖6說明三個此等實例SIM成像系統。應注意,雖然此等系統主要在產生1D照明型樣之SIM成像系統之上下文中進行描述,但本文所揭示之技術可藉由產生較高維度照明型樣(例如,二維柵格型樣)之SIM成像系統來實施。
圖2說明根據本文中所描述之一些實施的可實施結構化照明參數預測之結構化照明顯微法(structured illumination microscopy,SIM)成像系統100。舉例而言,系統100可係利用空間結構化激發光以對生物樣本進行成像之結構化照明螢光顯微鏡系統。
在圖2之實例中,光發射器150經組態以輸出由準直透鏡151準直之光束。準直光由光結構化光學總成155進行結構化(型樣化),且由雙色鏡(dichroic mirror)160引導穿過物鏡142至樣本容器110之樣本上,該樣本容器110被定位於運動台170上。在螢光樣本之狀況下,樣本回應於結構化激發光而發螢光,且所得光由物鏡142收集且引導至攝影機系統140之影像感測器以偵測螢光。
光結構化光學總成155包括產生被投射至樣本容器110之樣本上的光之型樣(例如,條紋,通常正弦)的一或多個光學繞射光柵或其他光束分光元件(例如,光束分光立方體或板)。繞射光柵可為一維或二維透射性或反射性光柵。繞射光柵可為正弦振幅光柵或正弦相位光柵。
在一些實施中,繞射光柵可能不會利用旋轉台改變結構化照明型
樣之定向。在其他實施中,繞射光柵可安裝於旋轉台上。在一些實施中,繞射光柵可在成像系統之操作期間固定(亦即,不需要旋轉或線性運動)。舉例而言,在下文進一步描述之一特定實施中,繞射光柵可包括垂直於彼此定向的兩個固定一維透射性繞射光柵(例如,水平繞射光柵及垂直繞射光柵)。
如在圖2之實例中所說明,光結構化光學總成155輸出第一階繞射光束(例如,m=±1階),同時阻擋或最小化所有其他階(包括零階)。然而,在替代性實施中,額外階之光可投射至樣本上。
在每一成像循環期間,成像系統100利用光結構化光學總成155在各種相位獲取複數個影像,其中條紋型樣在調變方向上側向移位(例如,在x-y平面上且垂直於條紋),其中此程序藉由圍繞光軸(亦即,相對於樣本之x-y平面)旋轉型樣定向來重複一次或多次。可接著在計算上重建構所俘獲影像以產生更高解析度影像(例如,具有約兩倍的個別影像之側向空間解析度之影像)。
在系統100中,光發射器150可為非同調光發射器(例如,發射由一或多個激發二極體輸出之光束),或同調光發射器,諸如,由一或多個雷射或雷射二極體輸出光之發射器。如系統100之實例中所說明,光發射器150包括用於導引待輸出之光束的光纖152。然而,可使用光發射器150之其他組態。在利用多通道成像系統(例如,利用多個光波長之多通道螢光顯微鏡)中之結構化照明的實施中,光纖152可以光學方式耦接至複數個不同光源(圖中未示),各光源發射不同波長之光。儘管系統100說明為具有單個光發射器150,但在一些實施中可包括多個光發射器150。舉例而言,在下文進一步論述之利用多個臂之結構化照明成像系統的狀況下,可包括多個光發射器。
在一些實施中,系統100可包括管透鏡156,該管透鏡156可包括透鏡元件以沿著z軸鉸接以調整結構化光束形狀及路徑。舉例而言,管透鏡之一組件可為鉸接式的以考量容器110中之樣本的樣本厚度(例如,不同防護玻璃罩
厚度)範圍。
在系統100之實例中,流體遞送模組或裝置190可將試劑流(例如,經螢光標記之核苷酸、緩衝劑、酶類、裂解試劑等等)引導至(及穿過)樣本容器110及廢料閥120。樣本容器110可包括一或多個基板,其上提供有樣本。舉例而言,在系統要分析大量不同的核酸序列之狀況下,樣本容器110可包括一或多個基板,待定序之核酸係結合、附接或關聯於該一或多個基板上。基板可包括核酸可附接至之任何惰性基板或基質,諸如玻璃表面、塑膠表面、乳膠、聚葡萄糖、聚苯乙烯表面、聚丙烯表面、聚丙烯醯胺凝膠、金表面及矽晶圓。在一些應用中,基板係在跨越樣本容器110形成為矩陣或陣列的複數個位置處的通道或其他區域內。該系統100亦可包括溫度站致動器130及加熱器/冷卻器135,該兩者可視情況調節樣本容器110內之流體的溫度條件。
在特定實施中,樣本容器110可實施為包括半透明蓋板、基板及含於其間之液體的型樣化流量槽,且生物樣本可位於半透明蓋板之內表面或基板之內表面處。流量槽可包括大量(例如,數千、數百萬或數十億)井或區,該些井或區係以界定陣列(例如,六邊形陣列、矩形陣列等)型樣化至基板中。每一區可形成生物樣本之叢集(例如,單株叢集),該生物樣本諸如DNA、RNA或可例如使用合成定序來定序的另一基因組材料。流量槽可進一步分成數個隔開的通路(lane)(例如,八個通路),每一通路包括叢集之六邊形陣列。
樣本容器110可安裝於樣本台170上,以提供樣本容器110相對於物鏡142之移動及對準。樣本台可具有一或多個致動器以允許樣本台在三個維度中之任一者中移動。舉例而言,就笛卡爾座標系而言,可提供致動器以允許載台相對於物鏡在X、Y及Z方向上移動。此可允許樣本容器110上之一或多個樣本位置定位為與物鏡142光學對準。樣本台170相對於物鏡142之移動可藉由移動樣本台本身、物鏡、成像系統之某一其他組件或前述各者之任何組合來達成。其他實
施亦可包括使整個成像系統在靜止樣本上方移動。替代地,樣本容器110可在成像期間固定。
在一些實施中,聚焦(z軸)組件175可經包括以控制光學組件相對於樣本容器110在聚焦方向(通常稱為z軸或z方向)上的定位。聚焦組件175可包括一或多個致動器,該一或多個致動器實體地耦接至光學台或樣本台或兩者,以使樣本台170上之樣本容器110相對於光學組件(例如,物鏡142)移動,從而提供用於成像操作的恰當聚焦。舉例而言,致動器可諸如藉由與各別台直接或間接地進行機械、磁性、流體或其他附接或接觸而在實體上耦接至該台。該一或多個致動器可經組態以使載台在z方向上移動,同時將樣本台維持在同一平面中(例如,維持垂直於光軸的水平(level或horizontal)姿態)。該一或多個致動器亦可經組態以使載台傾斜。舉例而言,該傾斜動作可使得樣本容器110可依照其表面中之任何斜坡進行動態調平。
自正成像之一樣本位置處之一測試樣本發散的結構化光可經引導穿過雙色鏡160至攝影機系統140之一或多個偵測器。在一些實施中,可包括具有一或多個發射濾光器之濾光器切換總成165,其中一或多個發射濾光器可用以穿過特定發射波長且阻擋(或反射)其他發射波長。舉例而言,一或多個發射濾光器可用以在成像系統之不同通道之間切換。在特定實施中,發射濾光器可實施為將具有不同波長之發射光引導至攝影機系統140之不同影像感測器的雙色鏡。
攝影機系統140可包括一或多個影像感測器以監視及追蹤樣本容器110之成像(例如,定序)。攝影機系統140可實施為例如電荷耦合裝置(CCD)影像感測器攝影機,但可使用其他影像感測器技術(例如,主動像素感測器)。
來自攝影機系統140之輸出資料(例如,影像)可傳達至即時SIM成像組件191,其可如下文進一步描述實施為可重建構在每一成像循環期間捕獲之影像以產生具有較高空間解析度之影像的軟體應用程式。經重建構影像可考
慮隨時間推移而預測的結構化照明參數之變化。另外,SIM成像組件191可用以在給定先前經估計及/或經預測SIM參數的情況下,追蹤經預測SIM參數及/或對SIM參數進行預測。
控制器195可經提供以控制結構化照明成像系統100之操作,包括使系統100之各種光學組件同步。該控制器可經實施以控制系統操作之態樣,諸如,光結構化光學總成155之組態(例如,繞射光柵之選擇及/或線性平移)、管透鏡156之移動、聚焦、載台移動及成像操作。該控制器亦可經實施以控制系統100之硬體元件,以校正結構化照明參數隨時間推移之變化。舉例而言,控制器可經組態以將控制信號傳輸至控制光結構化光學總成155、運動台170或系統100之某其他元件之組態的馬達或其他裝置,以校正或補償結構化照明相位、頻率及/或定向隨時間推移之變化。在實施中,可根據使用SIM成像組件191預測之結構化照明參數傳輸此等信號。在一些實施中,控制器195可包括用於儲存對應於不同時間及/或樣本方位之經預測及或經估計結構化照明參數的記憶體。
在各種實施中,控制器195可使用硬體、演算法(例如,機器可執行指令)或前述各者之組合來實施。舉例而言,在一些實施中,控制器可包括一或多個CPU、GPU或處理器以及相關聯的記憶體。作為另一實例,控制器可包含用以控制操作之硬體或其他電路系統,諸如電腦處理器及其上儲存有機器可讀取指令之非暫時性電腦可讀取媒體。舉例而言,此電路系統可包括以下各者中之一或多者:場可程式化閘陣列(FPGA)、特殊應用積體電路(ASIC)、可程式化邏輯裝置(PLD)、複雜可程式化邏輯裝置(CPLD)、可程式化邏輯陣列(PLA)、可程式化陣列邏輯(PAL)或其他類似的處理裝置或電路系統。作為又一實例,控制器可包含此電路系統與一或多個處理器之組合。
圖3為說明根據本文中所描述之一些實施的可實施結構化照明參數預測之雙臂SIM成像系統200的實例光學組態之光學圖。系統200之第一臂包括
光發射器210A、使由光發射器210A輸出之光準直的第一光學準直器220A、相對於光軸位於第一定向中的繞射光柵230A、旋轉鏡240A及第二光學準直器250A。系統200之第二臂包括光發射器210B、使由光發射器210B輸出之光準直的第一光學準直器220B、相對於光軸位於第二定向中的繞射光柵230B、旋轉鏡240B及第二光學準直器250B。儘管在此實例中說明繞射光柵,但在其他實施中,可使用其他光束分光元件(諸如光束分光立方體或板)將在SIM成像系統200之每一臂處接收的光分裂。
每一光發射器210A至210B可為非同調光發射器(例如,由一或多個激發二極體輸出之發射光束),或同調光發射器,諸如,由一或多個雷射或雷射二極體輸出光之發射器。在系統200之實例中,每一光發射器210A至210B為輸出由各別準直器220A至220B準直之光束的光纖。
在一些實施中,每一光纖可光學耦接至對應光源(圖中未示),諸如雷射。在成像期間,每一光纖可使用定位於光纖與光源之間的光學路徑中之高速快門(圖中未示),或藉由在成像期間以預定頻率使光纖之對應光源發出脈波而接通或斷開。在一些實施中,每一光纖可光學耦接至同一光源。在此等實施中,光束分光器或其他合適光學元件可用以將光自光源導引至光纖中之每一者。在此等實例中,每一光纖可使用定位於光纖與光束分光器之間的光學路徑中之高速快門(圖中未示)接通或斷開。
在SIM成像系統200之實例中,第一臂包括將處於第一定向(例如,垂直條紋型樣)中的光柵型樣投射至樣本上的固定垂直光柵230A,且第二臂包括將處於第二定向(例如,水平條紋型樣)中的光柵型樣投射至樣本271上的固定水平光柵230B。SIM成像系統200之光柵無需機械地旋轉或平移,其可提供經改良的系統速度、可靠性及可重複性。
在替代性實施中,光柵230A及230B可安裝於各別線性運動台上,
該些運動台可平移以改變由光柵230A及230B發射之光的光學路徑長度(且因此,相位)。載台之線性運動的運動軸線可係垂直的,或以其他方式自其各別光柵之定向偏移,以實現光柵之型樣沿樣本271之平移。
光柵230A至230B可為透射性繞射光柵,包括形成為玻璃基板或其他合適表面的複數個繞射元件(例如,平行縫隙或凹槽)。光柵可經實施為提供光柵材料之折射率之週期性變化的相位光柵。凹槽或特徵間隔可經選擇以合適的角度繞射光,且經調諧為成像樣本之最小可分辨特徵尺寸以供SIM成像系統200之操作。在其他實施中,光柵可為反射性繞射光柵。
在SIM成像系統200之實例中,垂直及水平型樣偏移約90度。在其他實施中,可使用光柵之其他定向產生約90度之偏移。舉例而言,光柵可經定向從而使其投射自樣本271之x或y平面偏移±45度的影像。實例SIM成像系統200之組態可在矩形柵格上之具有特徵的經規律型樣化樣本271的狀況下特別有利,此係因為可僅僅使用兩個垂直光柵(例如,垂直光柵及水平光柵)達成結構化解析度提高。
在系統200之實例中,光柵230A至230B經組態以使輸入光束繞射成數個階(例如,0階、±1階、±2階等等),其中±1階可經投影於樣本271上。如此實例中所示,垂直光柵230A使準直光束繞射成一階繞射光束(±1階),從而擴展頁面之平面上的第一階,且水平光柵230B使準直光束繞射成一階繞射光束,從而擴展頁面之平面上方及下方(亦即,在垂直於該頁面之平面中)的階。為改良系統之效率,可阻擋零階光束及所有其他高階光束(亦即,±2階或更高)(亦即,經投影於樣本271上的照明型樣被濾除)。舉例而言,可將諸如階濾波器之光束阻擋元件(圖中未示)插入至位於每一繞射光柵之後光學路徑中,以阻擋0階光束及高階光束。在一些實施中,繞射光柵230A至230B可經組態以使光束僅僅繞射成第一階,且可藉由一些光束阻擋元件阻擋0階(非繞射光束)。
每一臂包括光學相位調變器或移相器240A至240B,以使由光柵230中之每一者輸出的繞射光相移。舉例而言,在結構化成像期間,每一繞射光束之光學相位可移位結構化型樣之每一條紋之間距(λ)的某一百分率(例如,1/2、1/3、1/4等等)。在圖3之實例中,相位調變器240A及240B經實施為旋轉窗,其可使用電流計或其他旋轉致動器旋轉且調變每一繞射光束之光學路徑長度。舉例而言,窗240A可圍繞垂直軸線旋轉,以將由垂直光柵230A投影於樣本271上之影像向左或向右偏移,且窗240B可圍繞水平軸旋轉,以將由水平光柵230B投影於樣本271上之影像向上或向下偏移。
在其他實施中,可使用改變繞射光之光學路徑長度的其他相位調變器(例如,線性平移台、楔形等等)。另外,儘管光學相位調變器240A至240B說明為置放在光柵230A至230B之後,但在其他實施中,其可置放於照明系統中之其他位置處。
在替代性實施中,單相調變器可針對不同條紋型樣在兩個不同方向上操作,或單相調變器可使用單個運動調整兩條路徑長度。舉例而言,大型旋轉光學窗可置放在具有孔261之鏡面260之後。在此狀況下,可使用大型視窗代替視窗240A及240B,來調變由垂直及水平繞射光柵輸出的兩組繞射光束的相位。並非相對於光柵中之一者之光軸平行,大型旋轉窗之旋轉軸可自垂直及水平光柵中之每一者的光軸偏移45度(或某其他角度偏移),以允許沿大型窗之一個旋轉公共軸在兩個方向上相移。在一些實施中,大型旋轉窗可替換為圍繞標稱光束軸線旋轉之楔形光學件。
在實例系統200中,具有孔261之鏡面260以無損方式將兩個臂組合至光學路徑中(例如,除反射性塗層之較小吸收之外,無光功率之顯著損耗)。鏡面260可經定位使得來自光柵中之每一者的繞射階經空間解析,且不要之階可被阻擋。鏡面260使藉由第一臂經過通孔261輸出之第一階光通過。鏡面260將藉
由第二臂輸出之第一階光反射。就此而論,結構化照明型樣可藉由將每一發射器打開或關閉,或藉由打開及閉合導向光源之光穿過光纜的光學快門,自垂直定向(例如,光柵230A)切換至水平定向(例如,光柵230B)。在其他實施中,結構化照明型樣可藉由使用光學開關改變將樣本照明之臂來切換。
亦在實例成像系統200中進行說明的有管透鏡265、半反射鏡面280、物鏡270及攝影機290。舉例而言,管透鏡265可經實施以沿z軸鉸接,以調整結構化光束形狀及路徑。半反射鏡面280可為雙色鏡,將自每一臂接收之結構化照明光向下反射至物鏡270以供投影至樣本271上,且將藉由樣本271發射之光(例如,螢光,其以不同於激發光之波長發射)傳遞至攝影機290上。
來自攝影機290之輸出資料(例如,影像)可傳達至即時SIM成像組件(圖中未示),其可如下文進一步描述實施為可重建構在每一成像循環期間捕獲之影像以產生具有較高空間解析度之影像的軟體應用程式。經重建構影像可考慮隨時間推移而預測的結構化照明參數之變化。另外,即時SIM成像組件可用以在給定先前經估計及/或經預測SIM參數的情況下,追蹤經預測SIM參數及/或對SIM參數進行預測。
控制器(圖中未示)可經提供以控制結構化照明成像系統200之操作,包括使系統200之各種光學組件同步。該控制器可經實施以控制系統操作之態樣,諸如,每一光學臂之組態(例如,在相位影像之捕獲期間打開/關閉每一光學臂、相位調變器240A至240B之致動)、管透鏡265之移動、樣本271之載台移動(若使用任何載台)及成像操作。該控制器亦可經實施以控制系統200之硬體元件,以校正結構化照明參數隨時間推移之變化。舉例而言,控制器可經組態以將控制信號傳輸至控制每一光學臂或系統100之某其他元件之組態的裝置(例如,相位調變器240A至240B),以校正或補償結構化照明相位、頻率及/或定向隨時間推移之變化。作為另一實例,當光柵230A至230B安裝於線性運動台上時(例
如,非使用相位調變器240A至240B),控制器可經組態以控制線性運動台校正或補償相位變化。在實施中,可根據使用SIM成像組件預測之結構化照明參數傳輸此等信號。在一些實施中,控制器可包括用於儲存對應於不同時間及/或樣本方位之經預測及或經估計結構化照明參數的記憶體。
應注意,為簡單起見,SIM成像系統200之光學組件可已自前述論述省略。另外,儘管系統200在此實例中說明為單通道系統,但在其他實施中,其可實施為多通道系統(例如,藉由使用兩個不同攝影機及以兩個不同波長發射的光源)。
圖4說明可在使用結構化光產生高解析度影像的一個成像循環期間,藉由SIM成像系統200之垂直光柵230A及水平光柵230B投射至樣本271之平面上的簡易照明條紋型樣。在此實例中,可使用垂直光柵230A捕獲具有垂直照明定向之三個相位影像,且可使用水平光柵230B捕獲具有水平照明定向之三個相位影像。對於每一定向,經投影條紋可以1/3λ之步階在方位(例如,藉由將相位調變器230A或230B設定為三個不同方位)中被相移,以捕獲定向型樣之三個相位影像。
在每一相位影像之捕獲期間,可由攝影機290捕獲由樣本發射之任何光。舉例而言,位於樣本271之不同特徵處的螢光染料可發螢光,且所得光可由物鏡270收集,且經引導至攝影機290之影像感測器以偵測螢光。所捕獲六個影像可對整個樣本或較大樣本之位置成像。
一旦已針對成像循環捕獲所有影像(在此實例中,六個影像),便可自所捕獲影像建構高解析度影像。舉例而言,可自圖4中所示之六個影像重建構高解析度影像。可使用合適的演算法組合此等各種影像,以合成相比個別組件影像中之任一者具有顯著更佳空間解析度的樣本之單個影像。
在高解析度影像之建構期間,可使用根據本發明進行預測之結構
化照明參數(例如,相位、頻率或定向之經預測變化),在演算法上補償結構化照明參數(例如,相位、頻率、定向)的非期待之偏移或變化。舉例而言,可補償垂直照明影像及/或水平照明影像之相位、定向及/或頻率的偏移。
在一些實施中,可在影像捕獲之前補償結構化照明參數的非期待之偏移或變化,方法為控制系統200之一或多個硬體元件補償SIM成像系統中之彼等變化。舉例而言,在成像序列之前及/或在捕獲成像序列之影像的之間,可藉由調整相移元件(例如,旋轉鏡面、線性致動器等等)來補償每一光學臂之相位漂移。在一些實施中,可實施硬體及演算法補償之一組合。
儘管系統200說明包括經定向成兩個不同角度之兩個光柵的雙臂結構化照明成像系統,但應注意,在其他實施中,本文中所描述之技術可藉由使用兩個以上臂之系統實施。在矩形柵格上之具有特徵的經規律型樣化樣本的狀況下,可僅僅運用如上文所描述之兩個垂直角度達成解析度提高(例如,垂直光柵及水平光柵)。在另一方面,對於其他樣本(例如,經六邊形型樣化樣本)的所有方向上之影像解析度提高,可使用三個光柵角度。舉例而言,三臂系統可包括三個光發射器及三個固定繞射光柵(每個臂一個繞射光柵),其中每一繞射光柵經定向圍繞系統之光軸,以將各別型樣定向投射於樣本上(例如,0°型樣、120°型樣或240°型樣)。在此等系統中,可使用具有孔之額外鏡面以無損方式將額外光柵之額外影像組合至系統中。或者,此等系統可利用一或多個極化光束分光器來組合光柵中之每一者之影像。
圖5A至圖5B為說明根據本文中所描述之一些實施的可實施結構化照明參數預測之雙光柵滑動SIM成像系統500的實例光學組態之示意圖。在實例系統500中,可藉由沿單條運動軸線將運動台530線性平移,來進行經投影於樣本570上之光柵型樣的所有變化(例如,型樣相移或旋轉),以選擇光柵531或532(亦即,選擇光柵定向)或將光柵531至532中之一者相移。
系統500包括光發射器510(例如,光學耦接至光源之光纖)、使由光發射器510輸出之光準直的第一光學準直器520(例如,準直透鏡)、安裝有第一繞射光柵531(例如,水平光柵)及第二繞射光柵532(例如,垂直光柵)之線性運動台530、管透鏡540、半反射鏡面550(例如,雙色鏡)、物鏡560、樣本570及攝影機580。為簡單起見,SIM成像系統500之光學組件可自圖5A省略。另外,儘管系統500在此實例中說明為單通道系統,但在其他實施中,其可實施為多通道系統(例如,藉由使用兩個不同攝影機及以兩個不同波長發射的光源)。
如藉由圖5A所說明,光柵531(例如,水平繞射光柵)可將經準直光束繞射為一階繞射光束(頁面之平面上)。如藉由圖5B所說明,繞射光柵532(例如,垂直繞射光柵)可將光束繞射為第一階(頁面之平面上方及下方)。在此組態中,僅僅需要具有單個發射器510(例如光纖)及單個線性運動台之單個光學臂以對樣本570成像,其可提供諸如減少移動系統部件之數目之系統優勢,以改良速度、複雜度及成本。另外,在系統500中,不存在偏振器可能提供先前提到的高光學效率優勢。實例SIM成像系統200之組態可在矩形柵格上的具有特徵之經規律型樣化樣本570的狀況下特別有利,此係因為可僅僅使用兩個垂直光柵達成結構化解析度提高(例如,垂直光柵及水平光柵)。
為改良系統之效率,可阻擋藉由每一光柵輸出的零階光束及所有其他高階繞射光束(亦即,±2階或更高)(亦即,經投影於樣本570上的照明型樣被濾除)。舉例而言,可將諸如階濾波器之光束阻擋元件(圖中未示)插入至位於運動台530後方的光學路徑中。在一些實施中,繞射光柵531至532可經組態以將光束繞射為僅僅第一階,且零階(非繞射光束)可藉由一些光束阻擋元件阻擋。
在系統500之實例中,兩個光柵可經配置離運動之軸線約±45°(或離運動軸線某些其他角度偏移,諸如約+40°/-50°、約+30°/-60°等),從而可實現每一光柵531至532沿單個線性運動軸線的相移。在一些實施中,該些兩個光柵可
組合為一個實體光學元件。舉例而言,實體光學元件之一側可具有處於第一定向中之光柵型樣,且實體光學元件之鄰近側可具有處於與第一定向正交之第二定向中的光柵型樣。
單個軸線線性運動台530可包括一或多個致動器,允許其相對於樣本平面沿X軸移動或相對於樣本平面沿Y軸移動。在操作期間,線性運動台530可提供充足行進(例如,約12至15mm)及精確性(例如,約小於0.5微米可重複性),以使得精確照明型樣經投影用於高效影像重建構。在運動台530用於諸如螢光顯微鏡之自動成像系統中的實施中,其可經組態以提供高速操作、最小振動產生及長工作壽命。在實施中,線性運動台530可包括交叉滾筒軸承、線性馬達、高精確性線性編碼器及/或其他組件。舉例而言,運動台530可實施為可使用控制器平移的高精確度步進或壓電運動台。
來自攝影機580之輸出資料(例如,影像)可傳達至即時SIM成像組件(圖中未示),其可如下文進一步描述實施為可重建構在每一成像循環期間捕獲之影像以產生具有較高空間解析度之影像的軟體應用程式。經重建構影像可考慮隨時間推移而預測的結構化照明參數之變化。另外,即時SIM成像組件可用以在給定先前經估計及/或經預測SIM參數的情況下,追蹤經預測SIM參數及/或對SIM參數進行預測。
控制器(圖中未示)可經提供以控制結構化照明成像系統500之操作,包括使系統500之各種光學組件同步。該控制器可經實施以控制系統操作之態樣,諸如,線性運動台530之平移、管透鏡540之移動、樣本570之載台移動(若使用任何載台)及成像操作。該控制器亦可經實施以控制系統500之硬體元件,以校正結構化照明參數隨時間推移之變化。舉例而言,控制器可經組態以將控制信號傳輸至裝置(例如,線性運動台530),以校正或補償結構化照明相位、頻率、及/或定向隨時間推移之變化。在實施中,可根據使用SIM成像組件預測之
結構化照明參數傳輸此等信號。在一些實施中,控制器可包括用於儲存對應於不同時間及/或樣本方位之經預測及或經估計結構化照明參數的記憶體。
儘管圖5A至圖5B之實例說明可實施結構化照明參數預測的雙光柵滑動成像系統,但結構化照明參數預測可實施於使用安裝有兩個以上繞射光柵之線性運動致動器的SIM成像系統中。
圖6說明在結構化照明成像循環之影像捕獲期間,可藉由雙光柵滑動SIM成像系統500之第一繞射光柵及第二繞射光柵投射至樣本570之平面上的簡化照明條紋型樣。舉例而言,SIM成像系統500可使用第一繞射光柵531及第二繞射光柵532產生圖6中所示之照明型樣。如在圖6之實例中所說明,兩個光柵將垂直條紋型樣投射於樣本570之表面上,且經配置離線性運動台530之運動軸線約±45°。
舉例而言,第一光柵(例如,光柵531)可將一階照明條紋投射於樣本570上。藉由樣本發射的任何光可藉由攝影機580捕獲,且可捕獲第一型樣(例如,+45°型樣)之第一相位影像以產生第一相位影像。為捕獲額外經相移影像,可藉由平移線性運動台使得藉由光柵投影之型樣相移。此等相移運動說明為圖6中之步驟1及2。相移運動可提供光柵之小移動(例如,約3至5微米或更小),以將經投影於光柵上的條紋型樣稍微偏移。
在捕獲針對繞射光柵的所有經相移影像之後,系統500可藉由平移線性運動台530來切換繞射光柵,以在光學上將另一繞射光柵耦接至成像系統之光源(例如,自圖5A轉變至圖5B)。此運動經說明為圖6之實例中的步驟3。在繞射光柵變化之狀況下,線性運動台可提供相對較大平移(例如,數量級為12至15mm)。
可接著針對下一光柵捕獲一系列相位影像。舉例而言,如藉由圖6所說明,第二繞射光柵可將一階照明條紋投射於樣本上,且藉由平移線性運動
台530經投影條紋可經移位於適當方位中,以捕獲光柵之型樣的三個相位影像(例如,圖6之步驟4及5)。
一旦已針對成像循環捕獲所有影像(在此實例中,六個影像),便可自所捕獲影像建構高解析度影像。舉例而言,可自圖6中所示之六個影像重建構高解析度影像。可使用合適的演算法組合此等各種影像,以合成相比個別組件影像中之任一者具有顯著更佳空間解析度的樣本之單個影像。
在高解析度影像之建構期間,可使用根據本發明進行預測之結構化照明參數(例如,相位、頻率或定向之經預測變化),在演算法上補償結構化照明參數(例如,相位、頻率、定向)的非期待之偏移或變化。舉例而言,可補償垂直照明影像及/或水平照明影像之相位、定向及/或頻率的偏移。
在一些實施中,可在影像捕獲之前補償結構化照明參數的非期待之偏移或變化,方法為控制系統500之一或多個硬體元件補償SIM成像系統中之彼等變化。舉例而言,在成像序列之前及/或在捕獲成像序列之影像之間,可藉由平移線性運動台530補償相位漂移。在一些實施中,可實施硬體及演算法補償之一組合。
根據本文中所描述之實施,可使用獲自在特定時間點之前及/或之後所捕獲之影像的結構化照明參數之估計值,針對這些特定時間點預測結構化照明參數。舉例而言,計算資源侷限性可限制SIM成像系統(例如,系統100、200或500)可自所捕獲影像直接估計諸如相位、頻率及/或定向之結構化照明參數時的速率。在一些狀況下,SIM成像系統可每一相位影像直接估計或量測結構化照明參數,在此狀況下,可能無需預測結構化照明參數。然而,在其他狀況下,SIM成像系統可僅僅能夠直接估計或量測成像循環之一些相位影像的結構化照明參數,每一成像循環一次,或甚至以更低頻率(例如,每3個、5個、10個、50個或100個成像循環)。在此等狀況下,為趕上系統之影像取樣速率,利用針對特
定時間及/或空間點獲得的結構化照明參數之直接估計,來預測其他時間及/或空間點之結構化照明參數可能係有利的。
為在數學上說明此原理之一個實例,與參考之相關性是一種估計結構化照明參數之方式。
Correlation Output=Σ r c(x)h(x-f), (1)
其中h(x)為可係已知的或自影像資料導出之參考,c(x)係自與參考相關之影像資料導出,且f為待估計之值(在此實例中,頻率)。應注意,可利用根據本發明之其他替代性估計技術。
在等式(1)之實例中,可針對f之數個假設值中之每一者產生一個相關性輸出。參數估計f可經獲得作為將相關性之量值最大化的f之值。然而,在許多狀況下,可能需要嘗試f之大量假設值,以便將相關性輸出最大化。大的搜尋空間可能增大計算要求,且因此,可能造成系統產出量減少(亦即,每單位時間所處理的資料較少)。
為避開此問題,來自先前f估計的資訊可用以確定待判定之新f值的「相鄰者」。作為一實例,考慮圖7,該圖展示在空間(X)及時間(T)上變化的估計值(Φ)。如藉由圖7所說明,可針對對應於A區塊之X及T座標獲得Φ之初始值。假定估計之值在空間或時間上緩慢變化,自A區塊(ΦA)之估計值可被用作B或E區塊任一者的初始值。更特定言之,B及E區塊之搜尋空間可能受限於獲自A區塊之Φ值的「相鄰者」的值。在此方法的情況下,識別Φ所需的時間可能大大縮短,且因此,在單位時間處理的資料量可能因此增大。
為延伸此概念,可在空間(X)或時間(T)維度任一者中預測估計變化之趨勢。作為一實例,考慮圖7,其中每區塊估計值在空間維度中增大△ΦX,且在時間維度中增大△ΦT。給定此觀察結果,區塊B之初始估計值可導出為ΦA+△ΦX,如藉由圖8所說明。此外,區塊E之初始估計值可導出為ΦA+△ΦT。亦可
實施使用來自多個區塊之值的X及T維度兩者中的其他預測符。
圖9為說明用於使用獲自結構化照明系統所捕獲之多個影像的結構化照明參數之估計值,預測結構化照明的實例內插方法900之操作流程圖。在實施中,方法700可藉由執行儲存於SIM成像系統(例如,系統100、200或500)中之記憶體的機器可讀取指令實施。
在操作910,可獲得第一SIM影像樣本。舉例而言,可在第一時間點捕獲樣本之相位影像。在操作920,可使用所捕獲第一影像估計結構化照明參數。舉例而言,可估計結構化照明相位、頻率、定向或調變階數中之任一者。可在特定時間、空間及/或溫度點獲得估計值。
在操作930,可獲得第二SIM影像樣本。舉例而言,可在捕獲第一SIM影像樣本時的第一時間點之後的第二時間點捕獲樣本之相位影像。在一些實施中,可在同一成像序列期間捕獲樣本之第一影像及樣本之第二影像(例如,作為產生被建構成更高解析度影像之六個相位影像或九個相位影像的成像序列之部分)。在其他實施中,第一影像及第二影像可在不同成像序列期間捕獲。在操作940,可使用所捕獲第二影像估計結構化照明參數。舉例而言,可估計結構化照明相位、頻率、定向或調變階數中之任一者。可在特定時間、空間及/或溫度點獲得估計值。
在操作950,至少使用來自第一影像之結構化照明參數的估計值及來自第二影像之結構化照明的估計值,可預測對應於第三影像之結構化照明參數,其中第三影像處於第一影像與第二影像之間的時間點、空間點(例如,樣本方位)及/或溫度點(例如,樣本溫度)處。舉例而言,可在第一影像之後但在第二影像之前捕獲第三影像。作為另一實例,可在第一影像與第二影像之間的一方位處稍後捕獲第三影像。
在一些實施中,此預測可至少基於兩個時間點之間的結構化照明
參數之改變之經判定速率。藉助於數學說明,對於第一時間T1及第二時間T2,若判定結構化照明相位已漂移量△ΦT,則相位之改變(例如,漂移)速率可表示為△ΦT/(T2-T1)。使用內插,可預測時間T3內的相位漂移之量。舉例而言,若相位自時間T1的5度偏移漂移至時間T2的15度偏移,則可預測,相位已在位於此等兩個時間中間的時間T3漂移至10度偏移。
儘管方法900主要描述於在給定結構化照明參數之兩個已知估計值的情況下應用內插以預測特定時間、空間及/或溫度點下的結構化照明參數的上下文中,但應注意,方法900可擴展至存在兩個以上已知估計值的狀況。在此等狀況下,可使用適當趨勢估計函數預測結構化照明參數。舉例而言,在線性趨勢估計之狀況下,可將最小平方擬合應用於已知估計值,以內插且預測特定時間、空間及/或溫度點下的結構化照明參數。在一些實施中,隨著估計值得以收集,可隨時間推移更新結構化照明參數之預測。另外,儘管方法900描述為使用來自第一影像及第二影像之估計值預測對應於第三影像之參數,但在一些實施中,可僅使用兩個估計值中之一者(例如,藉由保持估計值)來預測參數。
另外,儘管方法900描述於在給定不同時間下的結構化照明參數之兩個已知估計值的情況下,應用內插以預測特定時間之結構化照明參數的上下文中,但方法900亦可擴展以考慮空間(例如,成像樣本之位置或子集)及溫度的維度。在一些情況下,可應用考慮多個參數(例如,空間、時間及/或溫度)之聯合預測。舉例而言,如藉由圖7所說明,可考慮時間及空間兩者之趨勢以預測結構化照明參數。或者,可考慮僅僅空間中的結構化照明參數之趨勢。
圖10為說明用於使用獲自兩個或更多個影像之結構化照明參數之估計值預測結構化照明參數的實例外插方法1000之可操作流程圖。在實施中,方法700可藉由執行儲存於SIM成像系統(例如,系統100、200或500)中之記憶體的機器可讀取指令實施。
可如上文參考方法900所論述的執行方法1000之操作910至940。舉例而言,可使用所捕獲影像在第一時間點及第二時間點估計結構化照明頻率。
在操作1050,至少使用來自第一影像之結構化照明參數的估計值及來自第二影像之結構化照明的估計值,可預測對應於第三影像之結構化照明參數,其中第三影像處於第一影像及第二影像兩者之後或第一影像及第二影像兩者之前的時間點、空間點(例如,樣本方位)及/或溫度點(例如,樣本溫度)處。在一些實施中,此預測可至少基於兩個時間點之間的結構化照明參數之改變之經判定速率。藉助於數學說明,對於第一時間T1及第二時間T2,若判定結構化照明頻率已漂移量△f,則相位之改變(例如,漂移)速率可表示為△f/(T2-T1)。使用外插,可預測在稍後時間T3的頻率漂移之總量。
儘管方法1000描述於在給定結構化照明參數之兩個已知估計值的情況下,應用外插以在特定時間、空間及/或溫度點預測結構化照明參數的上下文中,但應注意,如在方法900之狀況中,方法1000可擴展至存在兩個以上已知估計值的狀況。在此等狀況下,可使用適當趨勢估計函數預測結構化照明參數。舉例而言,在線性趨勢估計之狀況下,可將最小平方擬合應用於已知估計值以外插且預測結構化照明參數。在一些實施中,隨著估計值得以收集,可隨時間推移更新結構化照明參數之預測。
另外,儘管方法1000描述為使用來自第一影像及第二影像之估計值預測對應於第三影像之參數,但在一些實施中,可僅使用兩個估計值中之一者(例如,藉由保持估計值)來預測參數。
另外,儘管方法1000描述於在給定不同時間下的結構化照明參數之兩個已知估計值的情況下,應用外插以預測結構化照明參數的上下文中,如在方法900之狀況中,方法1000亦可經擴展以考慮諸如空間及溫度之其他維度。
在方法900及1000之實施中,使用第一影像估計之結構化照明參
數、使用第二影像估計之結構化照明參數,及/或針對第三影像預測之結構化照明參數可儲存於SIM成像系統之記憶體中。舉例而言,經估計/經預測參數可儲存於歷史檔案中,諸如查找表,以在高解析度影像建構期間、在SIM成像系統硬體組件之調整期間被參考,以補償結構化照明參數變化及/或促進其他時間、空間及/或溫度點下的其他結構化照明參數之預測。在實施中,可儲存對應於每一估計或預測的時間、樣本位置及樣本溫度。
在方法900及1000之實施中,可使用複數個影像產生用以預測結構化照明參數的第一及第二估計值。就此而論,可使用來自成像序列中之第一影像集合(例如,1、2、3、4、5、6等)的一或多個影像產生第一估計值,且可使用來自成像序列中之第二影像集合(例如,1、2、3、4、5)的一或多個影像產生第二估計值。
圖11為說明在高解析度影像重建構期間使用經預測結構化照明參數補償結構化照明參數隨時間推移的非期待之變化的實例方法1100之可操作流程圖。在實施中,方法1100可藉由執行儲存於SIM成像系統(例如,系統100、200或500)中之記憶體的機器可讀取指令實施。
在操作1110,可使用內插方法預測所捕獲影像(例如,相位影像)之結構化照明參數。舉例而言,可藉由實施方法900在對應於所捕獲影像之時間點預測結構化照明參數。在操作1120,可使用所捕獲影像(例如,相位影像)及其他所捕獲影像(例如,其他所捕獲相位影像)執行高解析度影像建構。在高解析度影像重建構期間,可使用經預測結構化照明參數在時間、空間及/或溫度之維度上補償結構化照明參數之變化。舉例而言,可補償頻率、相位及/或定向之變化。在一些狀況下,操作1120可包含使用多個經預測結構化照明參數。舉例而言,可預測多於一個相位影像之結構化照明參數。另外,可預測給定相位影像之相位、頻率及定向中之兩者或兩者以上。
圖12為說明使用SIM成像系統硬體組件之經預測結構化照明參數調整來補償隨時間推移之結構化照明參數變化的實例方法1200之可操作流程圖。在操作1210,可使用外插方法預測結構化照明參數。舉例而言,可在未來時間點藉由實施方法1000預測結構化照明參數。
在操作1220,可至少使用經預測結構化照明參數調整SIM成像裝置之機械及/或光學組件。舉例而言,基於時間點T處的經預測相位漂移,可在時間T處的相位影像捕獲之前調整SIM成像系統之硬體組件。
舉例而言,針對SIM成像系統100,光結構化光學總成155之一或多個組件可經調整,以補償在即將到來的時間被預測的相位及/或定向變化。作為另一實例,針對SIM成像系統200,旋轉鏡面240A或240B可經調整,以補償在即將到來的時間被預測的相位變化。作為另一實例,針對SIM成像系統500,將線性平移台530平移以補償即將、被預測的相位變化。作為另一實例,可藉由調整承載樣本之平移台及自光源至樣本之光學路徑中之一或多者,來補償針對SIM成像系統被預測的定向變化。
在一些實施中,可藉由將所捕獲影像樣本劃分成複數個影像子部分,來將本文中描述的用於結構化照明參數預測之技術應用於單個所捕獲影像樣本。舉例而言,在一些實施中,一種方法可包括:獲得一影像樣本;將該影像樣本劃分成複數個影像子部分(例如,三個或更多個子部分);使用該複數個影像子部分之一第一影像子部分估計一第一結構化照明參數;使用該複數個影像子部分之一第二影像子部分估計一第二結構化照明參數;及至少使用來自該第一影像子部分的該結構化照明參數之該估計值及來自該第二影像子部分的該結構化照明參數之該估計值,預測對應於該複數個影像子部分之一第三影像子部分的一結構化照明參數。針對該第三影像子部分預測的該結構化照明參數可為一結構化照明相位、頻率、定向或調變階數中之任一者。在一些實施中,獲自兩
個以上影像子部分的結構化照明參數可用以預測另一影像子部分之一結構化照明參數。舉例而言,可將一趨勢估計函數或其他適當擬合函數應用於來自該些其他影像子部分的該些已知估計值,以預測另一影像子部分之該結構化照明參數。在其他實施中,獲自一第一影像子部分的該結構化照明參數之一估計值可被用作一第二影像子部分之該經預測結構化照明參數。
在應用本文中描述之內插技術的情況下,第三影像子部分可處於第一影像子部分與第二影像子部分之間的空間點(例如,樣本方位)或溫度點(例如,樣本溫度)處。舉例而言,第三影像子部分可沿一笛卡爾軸線處於第一影像子部分與第二影像子部分之間。在二維笛卡爾空間中,子部分可界定為將影像劃分成具有相等面積之矩形的一柵格,而子部分之替代性界定係可能的。作為另一實例,第三影像子部分可處在高於第一影像子部分之樣本溫度但低於第二影像子部分之樣本溫度的一樣本溫度下。
在應用本文中描述之外插技術的情況下,第三影像子部分可處於第一影像子部分及第二影像子部分之後或之前的空間點(例如,樣本方位)或溫度點(例如,樣本溫度)處。舉例而言,第三影像子部分可沿一笛卡爾軸線處於第一影像子部分及第二影像子部分兩者之後。作為另一實例,第三影像子部分可處在低於第一影像子部分之樣本溫度且低於第二影像子部分之樣本溫度的一樣本溫度下。
在實施中,此等用於使用影像之子部分預測影像之其他子部分之結構化照明參數的技術,可與本文中描述的用於使用自一或多個影像估計之結構化照明參數預測另一影像之結構化照明參數的技術組合使用。
如本文所使用,術語組件可描述可根據本申請案之一或多個實施而執行之給定功能性單元。如本文中所使用,可利用任何形式之硬體、軟體或其組合來實施組件。舉例而言,一個或多個處理器、控制器、FPGA、CPU、GPU、
ASIC、PLA、PAL、CPLD、邏輯組件、軟體常式或其他機構可經實施以組成組件。在實施中,本文中所描述之各種組件可實施為離散組件,或所描述之功能及特徵可共用一或多個組件當中的部分或全部。換言之,如一般熟習此項技術者在閱讀本說明書之後將顯而易見,本文中所描述之各種特徵及功能性可實施於任何給定應用程式中,且可以各種組合及排列實施於一或多個單獨或共用組件中。即使功能性之各種特徵或要素可個別地描述或主張為單獨組件,但一般熟習此項技術者將理解,此等特徵及此功能性可在一或多個共同軟體及硬體元件間共用,且此描述不應需要或暗示使用單獨硬體或軟體組件來實施此等特徵或此功能性。
圖13說明可用以實施本文所揭示之方法之各種特徵的實例計算組件1300。計算組件1300可表示(例如)以下各者:內存在成像裝置的計算或處理能力;桌上型電腦及膝上型電腦;手持型計算裝置(平板電腦、智慧型手機等等);大型電腦、超級電腦、工作站或伺服器;或如可能合乎需要或適合於給定應用或環境的任何其他類型之專用或通用計算裝置。計算組件1300亦可表示嵌入於一給定裝置內或以其他方式可用於給定裝置之計算能力。如本文所使用,術語「計算裝置」可指計算組件之硬體。
計算組件1300可包括例如一或多個處理器、控制器、控制組件或其他處理裝置,諸如處理器1304。處理器1304可使用通用或專用處理引擎實施,諸如微處理器、控制器或其他控制邏輯。處理器1304可為一種類型的計算裝置。在所說明實例中,處理器1304連接至匯流排1302,但任何通信媒體可用以有助於與計算組件1300之其他組件互動或在外部通信。
計算組件1300亦可包括一或多個記憶體組件,在本文中僅被稱作主記憶體1308。舉例而言,較佳地,隨機存取記憶體(RAM)或其他動態記憶體可用於儲存資訊及待由處理器1304執行之指令。主記憶體1308亦可用於在待
由處理器1304執行之指令之執行期間,儲存暫時性變數或其他中間資訊。計算組件1300同樣地可包括耦接至匯流排1302的一唯讀記憶體(「ROM」)或其他靜態儲存裝置,以用於儲存用於處理器1304之靜態資訊及指令。
計算組件1300亦可包括一或多個各種形式之資訊儲存機構1310,其可包括(例如)一媒體驅動機1312及一儲存單元介面1320。媒體驅動機1312可包括驅動機或其他機構以支援固定或抽取式儲存媒體1314。舉例而言,可提供硬碟機、固態磁碟機、光碟驅動機、CD、DVD或BLU-RAY驅動機(R或RW),或其他抽取式或固定媒體驅動機。因此,儲存媒體1314可包括例如硬碟、固態磁碟機、磁帶、光碟、CD、DVD或BLU-RAY,或其他固定或抽取式媒體,其藉由媒體驅動機1312讀取、寫入至媒體驅動機或由媒體驅動機存取。如此等實例說明,儲存媒體1314可包括電腦可用儲存媒體,其中儲存有電腦軟體或資料。
在替代性實施中,資訊儲存機構1310可包括用於允許電腦程式或其他指令或資料載入至計算組件1300內的其他類似工具。此等工具可包括例如固定或抽取式儲存單元1322及介面1320。此等儲存單元1322及介面1320之實例可包括程式卡匣及卡匣介面、抽取式記憶體(例如,快閃記憶體或其他抽取式記憶體組件)及記憶體槽、PCMCIA槽及卡,以及其他固定或抽取式儲存單元1322及介面1320,其允許軟體及資料自儲存單元1322傳送至計算組件1300。
計算組件1300亦可包括通信介面1324。通信介面1324可用以允許軟體及資料在計算組件1300與外部裝置之間傳送。通信介面1324之實例可包括周邊介面,諸如周邊組件高速互連(PCIe)介面、數據機或軟數據機、網路介面(諸如,乙太網路、網路介面卡、WiMedia、IEEE 802.XX或其他介面)、藍芽介面、通信埠(諸如,USB埠、USB-C埠、THUNDERBOLT埠或其他埠),或其他通信介面。經由通信介面1324傳送之軟體及資料可典型地攜載於信號上,該些信號可係能夠藉由給定通信介面1324進行交換之電子、電磁(包括光學)或其他信
號。此等信號可經由通道1328提供至通信介面1324。此通道1328可攜載信號且可使用有線或無線通信媒體來實施。通道之一些實例可包括電話線、蜂巢式鏈路、RF鏈路、光學鏈路、網路介面、區域或廣域網路,及其他有線或無線通信通道。
在本文件中,術語「電腦可讀取媒體」、「電腦可用媒體」及「電腦程式媒體」一般用來指代揮發性或非揮發性的非暫時性媒體,諸如記憶體1308、儲存單元1322及媒體1314。此等及其他各種形式之電腦程式媒體或電腦可用媒體可涉及將一或多個指令之一或多個序列攜載至處理器以供執行。具體化於媒體上之此等指令通常被稱為「電腦程式碼」或「電腦程式產品」(其可以電腦程式或其他分組之形式來分組)。此等指令在執行時可使計算組件1300能夠執行如本文中所論述的本申請案之特徵或功能。
儘管上文就各種例示性實施及實施進行了描述,但應理解,在個別實施中之一或多者中所描述之各種特徵、態樣及功能性在其適用性上不限於對其進行描述時所涉及之特定實施,而是可單獨或以各種組合應用於本申請案之其他實施中之一或多者,無論此等實施是否進行了描述,以及此等特徵是否作為所描述實施之一部分而呈現。因此,本申請案之廣度及範圍應不由上述例示性實施中之任一者來限制。
除非另有明確規定,否則本文件中所使用之術語及片語及其變體應解釋為與限制性相反之開放式。作為前述內容之實例:術語「包括」應理解為意謂「包括但不限於」或其類似者;術語「實例」用以提供所論述之項目的例示性例項,而非該項目之詳盡或限制性清單;術語「一(a或an)」應理解為意謂「至少一個」、「一或多個」或其類似者;且諸如「習知」、「傳統」、「常規」、「標準」、「已知」及具類似含義之術語的形容詞不應解釋為將所描述項目限於給定時間段或限於截至給定時間可獲得之項目,而是應理解為涵蓋現在或在未來之任何時間可獲得或已知的習知、傳統、常規或標準技術。同樣,在本文件提及一般熟
習此項技術者將顯而易見或已知之技術時,此等技術涵蓋現在或在未來之任何時間對熟練技術人員顯而易見或已知之技術。
在一些情況下,拓寬詞語及片語,諸如「一或多個」、「至少」、「但不限於」或其他類似片語之存在不應理解為意謂在可能不存在此等拓寬片語之情況下預期或需要較狹窄狀況。
另外,本文所闡述之各種實施係關於例示性方塊圖、流程圖及其他說明而描述。如一般熟習此項技術者在閱讀本文件之後將變得顯而易見,可實施所說明之實施及其各種替代方案而不限於所說明之實例。舉例而言,方塊圖及其隨附描述不應被視為要求特定架構或組態。
貫穿包括申請專利範圍之本發明所使用的術語「實質上」及「約」用以描述且考量諸如歸因於處理中之變化的小波動。舉例而言,其可指小於或等於±5%,諸如小於或等於±2%、諸如小於或等於±1%、諸如小於或等於±0.5%、諸如小於或等於±0.2%、諸如小於或等於±0.1%、諸如小於或等於±0.05%。
在適用範圍內,術語「第一」、「第二」、「第三」等在本文中僅用以展示藉由此等術語描述為單獨實體的各別物件,且並不意圖意味著時間次序之意義,除非本文中以其他方式明確地陳述。
雖然以上已描述本發明之各種實施,但應理解,其僅借助於實例且非限制來提出。同樣地,各圖可描繪用於本發明之實例架構或其他組態,可進行描繪以輔助理解可包括於本發明中之特徵及功能性。本發明不限於所說明之實例架構或組態,但所要特徵可使用多種替代性架構及組態來實施。實際上,熟習此項技術者將顯而易見可如何實施替代性功能性、邏輯或實體分割及組態以實施本發明之所要特徵。又,除本文中所描繪之名稱外的眾多不同構成模組名稱可應用於各種分區。另外,關於流程圖、操作描述及方法技術方案,步驟在本文中提出之次序不應要求各種實施經實施以相同次序來執行列舉功能性,除非上
下文另有規定。
儘管上文就各種例示性實施及實施進行了描述,但應理解,在個別實施中之一或多者中所描述之各種特徵、態樣及功能性在其適用性上不限於對其進行描述時所涉及之特定實施,而是可單獨或以各種組合應用於本發明之其他實施中之一或多者,無論此等實施是否進行了描述,以及此等特徵是否作為所描述實施之一部分而呈現。因此,本發明之廣度及範圍應不由上述例示性實施中之任一者來限制
應瞭解,前述概念(假設此類概念並非相互不一致)之所有組合預期為本文所揭示之發明性主題的部分。特定言之,在本發明中出現之所主張主題的全部組合預期為本文所揭示之本發明主題的一部分。
100:系統
110:容器
120:廢料閥
130:溫度站致動器
135:加熱器/冷卻器
140:攝影機系統
142:物鏡
150:光發射器
151:準直透鏡
152:光纖
155:光結構化光學總成
156:管透鏡
160:雙色鏡
165:濾光器切換總成
170:運動台
175:聚焦組件
190:流體遞送模組或裝置
191:結構化照明顯微法(SIM)成像組件
195:控制器
Claims (20)
- 一種用於預測結構照明參數之方法,其包含:在一結構化照明系統處,捕獲一樣本之一第一影像;在一計算裝置處,使用至少所捕獲之該第一影像,估計一第一結構化照明參數;在該結構化照明系統處,捕獲該樣本之一第二影像;在該計算裝置處,使用至少所捕獲之該第二影像,估計一第二結構化照明參數;及在該計算裝置處,使用至少該第一結構化照明參數或該第二結構化照明參數,預測一第三結構化照明參數,該第三結構化照明參數對應於一第三影像,其中預測該第三結構化照明參數包含將一最小平方擬合應用於至少該第一結構化照明參數或該第二結構化照明參數。
- 如請求項1所述之方法,其中該第一影像在一第一時間處捕獲,其中該第二影像在一第二時間處捕獲,其中該第二時間是在該第一時間之後,其中該第三影像在一第三時間處捕獲,其中該第三時間是介於該第一時間與該第二時間之間,其中預測該第三結構化照明參數包含:使用至少一內插方法,預測在該第三時間處的該第三結構化照明參數。
- 如請求項1所述之方法,其進一步包含:在該計算裝置處,判定自該第一時間處的該第一結構化照明參數至該第二時間處的該第二結構化照明的一改變速率;及在該計算裝置處,使用至少經判定之該改變速率,預測在該第三時間處的該第三結構化照明參數。
- 如請求項1所述之方法,其進一步包含:在該計算裝置處,使用至少該第三影像及該第三結構化照明參數,建構一高解析度影像。
- 如請求項1所述之方法,其中該第一影像在一第一時間處捕獲,其中該第二影像在一第二時間處捕獲,其中該第二時間是在該第一時間之後,其中該第三影像在一第三時間處捕獲,其中該第三時間是在該第一時間及該第二時間兩者之後,其中預測該第三結構化照明參數包含:使用至少一外插方法,預測在該第三時間處的該第三結構化照明參數。
- 如請求項5所述之方法,其進一步包含:使用至少該第三結構化照明參數,調整該結構化照明系統之一硬體組件,以在於該第三時間處捕獲該第三影像之前補償一結構化照明參數之變化。
- 如請求項6所述之方法,其中調整該硬體組件包含:調整以下各項中之一或多者:調整一結構化照明型樣之一相位或定向的一旋轉鏡面;承載一繞射光柵以調整一結構化照明型樣之一相位或定向的一平移台;及調整一結構化照明型樣之一相位或定向的一樣本平移台。
- 如請求項1所述之方法,其進一步包含:將以下項儲存於該結構化照明系統之一記憶體中:該第一結構化照明參數、該第二結構化照明參數及該第三結構化照明參數;及使用所儲存之該第一結構化照明、所儲存之該第二結構化照明參數、所儲存之該第三結構化照明參數及基於該結構化照明系統之已知物理特性的一所儲存值中之一或多者,減小針對一第四影像之一第四結構化照明參數的一搜尋空間。
- 如請求項1所述之方法,其中:該樣本之該第一影像在一第一樣本溫度處捕獲;該第一結構化照明參數在該第一樣本溫度處估計;該樣本之該第二影像在一第二樣本溫度處捕獲;該第二結構化照明參數在該第二樣本溫度處估計;且該第三結構化照明參數在一第三樣本溫度處進行預測。
- 如請求項1所述之方法,其進一步包含:將該樣本之該第一影像劃分成複數個影像子部分;在該計算裝置處,使用至少該複數個影像子部分之一第一影像子部分,估計一第四結構化照明參數;在該計算裝置處,使用至少該複數個影像子部分之一第二影像子部分,估計一第五結構化照明參數;在該計算裝置處,使用至少該第四結構化照明參數或該第五結構化照明參數,預測對應於該複數個影像子部分之一第三影像子部分的一第六結構化照明參數。
- 如請求項1所述之方法,其進一步包含:將該樣本之該第一影像劃分成複數個影像子部分;在該計算裝置處,使用至少該複數個影像子部分之一第一影像子部分,估計一第四結構化照明參數;將經估計之該第四結構化照明參數用作該複數個影像子部分之一第二影像子部分的一經預測結構化照明參數。
- 一種其上儲存有可執行指令之非暫時性電腦可讀取媒體,該些指令在由一處理器執行時使得該處理器執行以下操作:在一結構化照明系統處,捕獲一樣本之一第一影像;使用至少所捕獲之該第一影像,估計一第一結構化照明參數;在該結構化照明系統處,捕獲該樣本之一第二影像;使用至少所捕獲之該第二影像,估計一第二結構化照明參數;及使用至少該第一結構化照明參數或該第二結構化照明參數,預測對應於一第三影像之一第三結構化照明參數,其中預測該第三結構化照明參數包含將一最小平方擬合應用於至少該第一結構化照明參數或該第二結構化照明參數。
- 如請求項12所述之非暫時性電腦可讀取媒體,其中該第一影像在一第一樣本方位處捕獲,其中該第二影像在一第二樣本方位處捕獲,其中該第三影像在介於該第一樣本方位與該第二樣本方位之間的一第三樣本方位處捕獲,且其中預測該第三結構化照明參數包含:使用至少一內插方法,預測在該第三樣本方位處的該第三結構化照明參數。
- 如請求項13所述之非暫時性電腦可讀取媒體,其中該內插方法包含:判定自該第一樣本方位處的該第一結構化照明參數至該第二樣本方位處的該第二結構化照明的一改變速率;及使用至少經判定之該改變速率,預測在該第三樣本方位處的該第三結構化照明參數。
- 如請求項12所述之非暫時性電腦可讀取媒體,其中該些指令在由該處理器執行時使得該處理器進一步執行以下之一操作:使用至少該第三影像及該第三結構化照明參數,建構一高解析度影像。
- 如請求項12所述之非暫時性電腦可讀取媒體,其中該第一影像在一第一樣本方位處捕獲,其中該第二影像在一第二樣本方位處捕獲,其中該第三影像在一第三樣本方位處捕獲,其中該第三樣本方位位於該第一樣本方位及該第二樣本方位之後或之前,其中預測該第三結構化照明參數包含:使用至少一外插方法,預測在該第三樣本方位處之該第三結構化照明參數。
- 如請求項12所述之非暫時性電腦可讀取媒體,其中該些指令在由該處理器執行時使得該處理器進一步執行以下之一操作:使用至少該第三結構化照明參數,調整該結構化照明系統之一硬體組件,以在於該第三樣本方位處捕獲一影像之前補償一結構化照明參數之變化。
- 如請求項17所述之非暫時性電腦可讀取媒體,其中經調整之該 硬體組件包含:調整一結構化照明型樣之一相位或定向的一旋轉鏡面;承載一繞射光柵以調整一結構化照明型樣之一相位或定向的一平移台;或調整一結構化照明型樣之一相位或定向的一樣本平移台。
- 如請求項12所述之非暫時性電腦可讀取媒體,其中該些指令在由該處理器執行時使得該處理器進一步執行以下操作:將以下項儲存於該結構化照明系統之一記憶體中:該第一結構化照明參數、該第二結構化照明參數及該第三結構化照明參數;及使用所儲存之該第一結構化照明、所儲存之該第二結構化照明參數、所儲存之該第三結構化照明參數及基於該結構化照明系統之已知物理特性的一所儲存值中之一或多者,減小針對一第四影像之一第四結構化照明參數的一搜尋空間。
- 一種結構化照明成像系統,其包含:一光發射器,其用以發射光;一光束分光器,其用以將藉由該光發射器發射之光分裂,以將一結構化照明型樣投射於一樣本之一平面上;一處理器;及一非暫時性電腦可讀取媒體,其上儲存有可執行指令,該些指令在由該處理器執行時使得該處理器執行以下操作:捕獲一樣本之一第一影像;使用至少所捕獲之該第一影像,估計一第一結構化照明參數;捕獲該樣本之一第二影像;使用至少所捕獲之該第二影像,估計一第二結構化照明參數;及使用至少該第一結構化照明參數或該第二結構化照明參數,預測對應於一第三影像之一第三結構化照明參數,其中預測該第三結構化照明參數包含將一最小平方擬合應用於至少該第一結構化照明參數或該第二結構化 照明參數。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862692303P | 2018-06-29 | 2018-06-29 | |
US62/692,303 | 2018-06-29 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW202136709A TW202136709A (zh) | 2021-10-01 |
TWI792150B true TWI792150B (zh) | 2023-02-11 |
Family
ID=68987431
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW108120487A TWI718557B (zh) | 2018-06-29 | 2019-06-13 | 用於預測結構照明參數之方法、系統和非暫時性電腦可讀取媒體 |
TW110100820A TWI792150B (zh) | 2018-06-29 | 2019-06-13 | 用於預測結構照明參數之方法、系統和非暫時性電腦可讀取媒體 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW108120487A TWI718557B (zh) | 2018-06-29 | 2019-06-13 | 用於預測結構照明參數之方法、系統和非暫時性電腦可讀取媒體 |
Country Status (17)
Country | Link |
---|---|
US (3) | US10831012B2 (zh) |
EP (1) | EP3814824A4 (zh) |
JP (2) | JP6909315B2 (zh) |
KR (2) | KR102422076B1 (zh) |
CN (2) | CN115308893B (zh) |
AU (2) | AU2019283788B2 (zh) |
BR (1) | BR112019027945B8 (zh) |
CA (1) | CA3065029C (zh) |
IL (1) | IL271419B (zh) |
MX (1) | MX2019014804A (zh) |
MY (1) | MY201229A (zh) |
NZ (1) | NZ760225A (zh) |
RU (1) | RU2740050C9 (zh) |
SA (1) | SA520410974B1 (zh) |
SG (1) | SG11201913694RA (zh) |
TW (2) | TWI718557B (zh) |
WO (1) | WO2020005718A1 (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10901202B2 (en) * | 2018-09-19 | 2021-01-26 | Illumina, Inc. | Structured illumination of a sample |
US11640657B2 (en) * | 2020-02-03 | 2023-05-02 | Arizona Board Of Regents On Behalf Of The University Of Arizona | System and method for measuring distorted illumination patterns and correcting image artifacts in structured illumination imaging |
CN111580260B (zh) * | 2020-05-12 | 2023-08-01 | 西安交通大学 | 一种高速光学三维光切片显微系统及方法 |
CN112730354B (zh) * | 2020-12-14 | 2022-11-01 | 南方科技大学 | 一种结构光成像方法、成像图及在生化检测中的应用 |
CN113433681B (zh) * | 2021-06-25 | 2023-03-24 | 清华大学 | 结构光照明显微成像系统、方法 |
CN114169224A (zh) * | 2021-11-15 | 2022-03-11 | 歌尔股份有限公司 | 获取光栅结构数据的方法、装置及可读存储介质 |
KR102599457B1 (ko) * | 2022-08-03 | 2023-11-08 | 한국기초과학지원연구원 | 구조조명을 생성하는 현미경 장치 및 이의 동작 방법 |
CN116045836B (zh) * | 2023-04-03 | 2023-06-02 | 成都太科光电技术有限责任公司 | 一种Φ1200mm极大口径平面光学干涉测试装置 |
CN116774417B (zh) * | 2023-08-25 | 2023-10-27 | 长春理工大学 | 一种基于级联柔性光栅的多点激光扫描显微镜系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050280832A1 (en) * | 2000-08-10 | 2005-12-22 | Johnson Kenneth C | Database interpolation method for optical measurement of diffractive microstructures |
TW200730796A (en) * | 2005-11-15 | 2007-08-16 | Zygo Corp | Interferometer and method for measuring characteristics of optically unresolved surface features |
US20080158668A1 (en) * | 2005-10-07 | 2008-07-03 | Nikon Corporation | Microscope and Image Generation Method |
TW201809592A (zh) * | 2016-08-10 | 2018-03-16 | 美商澤塔儀器公司 | 自動化三維量測 |
Family Cites Families (39)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3856986A (en) | 1968-12-06 | 1974-12-24 | American Express Invest | Scanned holography systems using temporal modulation |
US4213706A (en) | 1977-08-19 | 1980-07-22 | The University Of Arizona Foundation | Background compensating interferometer |
US5761085A (en) | 1996-11-12 | 1998-06-02 | The United States Of America As Represented By The Secretary Of The Navy | Method for monitoring environmental parameters at network sites |
US6188478B1 (en) | 1998-10-21 | 2001-02-13 | Philips Electronics North America Corporation | Method and apparatus for film-thickness measurements |
US7274446B2 (en) | 2001-04-07 | 2007-09-25 | Carl Zeiss Jena Gmbh | Method and arrangement for the deep resolved optical recording of a sample |
DE10131508A1 (de) * | 2001-07-02 | 2003-01-16 | Leica Microsystems | Verfahren und Mikroskop zur Detektion eines Objekts |
JP5048899B2 (ja) | 2001-09-28 | 2012-10-17 | オリンパス株式会社 | 顕微鏡 |
US6947127B2 (en) | 2001-12-10 | 2005-09-20 | Carl Zeiss Jena Gmbh | Arrangement for the optical capture of excited and/or back scattered light beam in a sample |
KR100489431B1 (ko) | 2002-06-28 | 2005-05-12 | 학교법인연세대학교 | 스캔식 위상천이 3차원 형상측정 장치 및 측정 방법 |
EP1634171B1 (en) | 2003-05-28 | 2007-11-14 | Symbol Technologies, Inc. | Backup cell controller |
JP2005080181A (ja) | 2003-09-03 | 2005-03-24 | Nikon Corp | 画像読み取り装置および画像読み取りプログラム |
US7532323B2 (en) | 2003-10-28 | 2009-05-12 | Cha-Min Tang | Spatial light modulator apparatus and method |
US20050221351A1 (en) | 2004-04-06 | 2005-10-06 | Affymetrix, Inc. | Methods and devices for microarray image analysis |
CN1292227C (zh) | 2005-07-12 | 2006-12-27 | 中国科学院上海光学精密机械研究所 | 高分辨数字干涉仪空间分辨率的标定方法 |
WO2007043382A1 (ja) * | 2005-10-07 | 2007-04-19 | Nikon Corporation | 顕微鏡装置及び画像生成方法 |
CN101466998B (zh) | 2005-11-09 | 2015-09-16 | 几何信息学股份有限公司 | 三维绝对坐标表面成像的方法和装置 |
US7803609B2 (en) | 2006-07-21 | 2010-09-28 | Affymetrix, Inc. | System, method, and product for generating patterned illumination |
DE102006044229B4 (de) | 2006-09-20 | 2023-09-28 | Carl Zeiss Microscopy Gmbh | Verfahren und Vorrichtung zur Bildverarbeitung mit höheren Harmonischen eines Beleuchtungsgitters |
DE102006047912A1 (de) | 2006-10-06 | 2008-04-10 | Carl Zeiss Microimaging Gmbh | Verfahren und Anordnung zur parallelisierten mikroskopischen Bildgebung |
WO2008072597A1 (ja) | 2006-12-12 | 2008-06-19 | Nikon Corporation | 顕微鏡装置及び画像処理方法 |
WO2009009081A2 (en) | 2007-07-10 | 2009-01-15 | Massachusetts Institute Of Technology | Tomographic phase microscopy |
US8759077B2 (en) | 2007-08-28 | 2014-06-24 | Lightspeed Genomics, Inc. | Apparatus for selective excitation of microparticles |
US8222040B2 (en) | 2007-08-28 | 2012-07-17 | Lightspeed Genomics, Inc. | Nucleic acid sequencing by selective excitation of microparticles |
JP2009098215A (ja) * | 2007-10-12 | 2009-05-07 | Nikon Corp | 顕微鏡装置、及び顕微鏡装置における位相変化量の算出方法。 |
US8509879B2 (en) | 2007-11-06 | 2013-08-13 | The Regents Of The University Of California | Apparatus and method for widefield functional imaging (WiFI) using integrated structured illumination and laser speckle imaging |
US20090219607A1 (en) | 2008-01-17 | 2009-09-03 | Baylor College Of Medicine | Method and apparatus for enhanced resolution microscopy of living biological nanostructures |
DE102008009216A1 (de) | 2008-02-13 | 2009-08-20 | Carl Zeiss Microimaging Gmbh | Vorrichtung und Verfahren zum räumlich hochauflösenden Abbilden einer Struktur einer Probe |
EP2110697B1 (en) | 2008-04-17 | 2016-02-10 | Ruprecht-Karls-Universität Heidelberg | Wave field microscope with sub-wavelength resolution and methods for processing microscopic images to detect objects with sub-wavelength dimensions |
DE102008049878A1 (de) * | 2008-09-30 | 2010-04-01 | Carl Zeiss Microlmaging Gmbh | Verbesserte Verfahren und Vorrichtungen für die Mikroskopie mit strukturierter Beleuchtung |
US9465228B2 (en) | 2010-03-19 | 2016-10-11 | Optical Biosystems, Inc. | Illumination apparatus optimized for synthetic aperture optics imaging using minimum selective excitation patterns |
US8502867B2 (en) | 2010-03-19 | 2013-08-06 | Lightspeed Genomics, Inc. | Synthetic aperture optics imaging method using minimum selective excitation patterns |
US8796185B2 (en) | 2011-03-08 | 2014-08-05 | Lightspeed Genomics, Inc. | Self-assembling high density ordered patterned biomolecule array and method for making and using the same |
NL2008414A (en) | 2011-03-21 | 2012-09-24 | Asml Netherlands Bv | Method and apparatus for determining structure parameters of microstructures. |
WO2012149459A1 (en) | 2011-04-29 | 2012-11-01 | Lightspeed Genomics, Inc. | Modular pattern illumination and light beam multiplexing for selective excitation of microparticles |
JP5849231B2 (ja) * | 2012-04-23 | 2016-01-27 | パナソニックIpマネジメント株式会社 | 表面形状測定装置及び方法 |
EP2981813B1 (en) * | 2013-04-04 | 2019-03-27 | Illinois Tool Works Inc. | Helical computed tomography |
EP4220256A1 (en) | 2015-03-16 | 2023-08-02 | Pacific Biosciences of California, Inc. | Analytical system comprising integrated devices and systems for free-space optical coupling |
JP7305611B2 (ja) | 2017-03-17 | 2023-07-10 | アプトン バイオシステムズ インコーポレイテッド | 配列決定および高分解能画像化の方法 |
NL2020620B1 (en) * | 2018-01-16 | 2019-07-25 | Illumina Inc | Pattern angle spatial selection structured illumination imaging |
-
2019
- 2019-06-13 TW TW108120487A patent/TWI718557B/zh active
- 2019-06-13 TW TW110100820A patent/TWI792150B/zh active
- 2019-06-20 CN CN202210923324.7A patent/CN115308893B/zh active Active
- 2019-06-20 CN CN201980003321.8A patent/CN111108425B/zh active Active
- 2019-06-20 BR BR112019027945A patent/BR112019027945B8/pt active IP Right Grant
- 2019-06-20 EP EP19817112.6A patent/EP3814824A4/en active Pending
- 2019-06-20 MY MYPI2019007779A patent/MY201229A/en unknown
- 2019-06-20 WO PCT/US2019/038293 patent/WO2020005718A1/en active Application Filing
- 2019-06-20 KR KR1020217037455A patent/KR102422076B1/ko active IP Right Grant
- 2019-06-20 JP JP2019571743A patent/JP6909315B2/ja active Active
- 2019-06-20 SG SG11201913694RA patent/SG11201913694RA/en unknown
- 2019-06-20 RU RU2019140878A patent/RU2740050C9/ru active
- 2019-06-20 US US16/447,729 patent/US10831012B2/en active Active
- 2019-06-20 NZ NZ760225A patent/NZ760225A/en unknown
- 2019-06-20 KR KR1020197038431A patent/KR102329661B1/ko active IP Right Grant
- 2019-06-20 CA CA3065029A patent/CA3065029C/en active Active
- 2019-06-20 AU AU2019283788A patent/AU2019283788B2/en active Active
- 2019-12-12 IL IL271419A patent/IL271419B/en unknown
- 2019-12-29 MX MX2019014804A patent/MX2019014804A/es unknown
-
2020
- 2020-01-06 SA SA520410974A patent/SA520410974B1/ar unknown
- 2020-11-05 US US17/090,775 patent/US11119302B2/en active Active
-
2021
- 2021-07-02 JP JP2021110726A patent/JP6984065B2/ja active Active
- 2021-08-06 US US17/396,478 patent/US11525993B2/en active Active
- 2021-09-06 AU AU2021229139A patent/AU2021229139B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050280832A1 (en) * | 2000-08-10 | 2005-12-22 | Johnson Kenneth C | Database interpolation method for optical measurement of diffractive microstructures |
US20080158668A1 (en) * | 2005-10-07 | 2008-07-03 | Nikon Corporation | Microscope and Image Generation Method |
TW200730796A (en) * | 2005-11-15 | 2007-08-16 | Zygo Corp | Interferometer and method for measuring characteristics of optically unresolved surface features |
TW201809592A (zh) * | 2016-08-10 | 2018-03-16 | 美商澤塔儀器公司 | 自動化三維量測 |
Also Published As
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI792150B (zh) | 用於預測結構照明參數之方法、系統和非暫時性電腦可讀取媒體 | |
TWI725875B (zh) | 結構照明成像系統和使用結構化光來創建高解析度圖像的方法 | |
KR102312777B1 (ko) | 패턴 각도 공간 선택 구조화 조명 이미징 | |
TWI697699B (zh) | 雙光學光柵滑動結構化照明成像 | |
RU2824337C1 (ru) | Способ прогнозирования параметров структурированного освещения, долговременный машиночитаемый носитель и система визуализации со структурированным освещением |