TW202037901A - 螢光顯微鏡檢查系統、裝置及方法 - Google Patents

螢光顯微鏡檢查系統、裝置及方法 Download PDF

Info

Publication number
TW202037901A
TW202037901A TW109103847A TW109103847A TW202037901A TW 202037901 A TW202037901 A TW 202037901A TW 109103847 A TW109103847 A TW 109103847A TW 109103847 A TW109103847 A TW 109103847A TW 202037901 A TW202037901 A TW 202037901A
Authority
TW
Taiwan
Prior art keywords
sample
light
image data
filter
dark field
Prior art date
Application number
TW109103847A
Other languages
English (en)
Other versions
TWI837296B (zh
Inventor
馬修 C 樸特曼
強恩 B 樸特曼
巴迪姆 皮斯基
丹尼斯 夏羅寇
Original Assignee
美商奈米創尼克影像公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商奈米創尼克影像公司 filed Critical 美商奈米創尼克影像公司
Publication of TW202037901A publication Critical patent/TW202037901A/zh
Application granted granted Critical
Publication of TWI837296B publication Critical patent/TWI837296B/zh

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/16Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • G02B21/08Condensers
    • G02B21/12Condensers affording bright-field illumination
    • G02B21/125Condensers affording bright-field illumination affording both dark- and bright-field illumination
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/18Arrangements with more than one light path, e.g. for comparing two specimens
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/693Acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Optics & Photonics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Microscoopes, Condenser (AREA)

Abstract

本發明揭示一種螢光顯微鏡檢查系統,其包含能夠發射引起一樣本發螢光之光及不引起一樣本發螢光之光的光源。導引該發射光穿過一或多個濾波器及物鏡通道而朝向一樣本。一環狀燈光使光透過一暗場通道來依一斜角投射向該樣本。該等濾波器之一者可修改該光以匹配與該樣本相關聯之一預定帶隙能量,且另一濾波器可過濾自該樣本反射至一攝影機之光之波長。該攝影機可自該接收光產生一影像且可對該影像執行樣本分類及特徵分析。

Description

螢光顯微鏡檢查系統、裝置及方法
本發明大體上係關於使用非同調照明技術之螢光顯微鏡檢查系統、裝置及方法。更特定言之,本發明之實施例係關於可提供旨在激發一樣本之特定層或一樣本中所含之材料之可變波長之非同調光且自由吸收光或其他電磁輻射引起之所得螢光自動偵測一樣本之特徵的螢光顯微鏡檢查系統。
將不可見光投射向一樣本且捕捉由一樣本發射之所得螢光/光致發光可提供關於一樣本上之特徵之數量、類型、位置及形態的重要資訊。此外,僅可使用不可見照明來觀察一樣本之特定特徵,諸如樣本之純度或結構瑕疵等等。一般技術者所理解之樣本係指一檢驗物品(例如一晶圓或一生物載玻片)且特徵係指一樣本之可觀察特性,其包含異常及/或缺陷。特徵可包含(但不限於):電路、電路板組件、生物細胞、組織、缺陷(例如雜質、結構瑕疵、不規則性、疊差、污染物、結晶缺陷、刮痕、灰塵、指紋)。
應注意,本文中所使用之術語「螢光(FL)」包含光致發光,其常與來自半導體材料之光發射相關聯。不可見光係指具有10奈米(nm)至400 nm之間的一波長之電磁光譜之區域(即,可見光與X射線之間的區域)。例如,在一些實施例中,可選擇200 nm至400 nm、300 nm至400 nm範圍內之光波長及/或任何其他適合波長。此外,激發一樣本且由一樣本自吸收光或其他電磁輻射引起螢光所需之光波長不受限於10 nm至400 nm之間的波長範圍,而是可在一些實施例中選擇於400 nm以上之一範圍內以向一樣本提供所要激發,如本文中所解釋。同調光係指具有相同頻率且其波彼此同相之光能粒子。相比而言,非同調光之光能粒子不具有相同頻率且其波彼此不同相。
儘管同調光源(例如雷射)常用於樣本螢光,但此等光源不適合於偵測大特徵或與特定類型之樣本(例如圖案化晶圓)一起使用。另一方面,非同調光源較適合於偵測一較大範圍特徵(其包含大特徵及圖案化晶圓上之特徵)。此外,同調光源僅照射一視域之一小部分,而非同調光照射整個視域以使其更適合於產生樣本特徵圖。樣本特徵圖將一樣本上之特徵分類且確定其位置。應注意,一般技術者所理解之術語「視域」係指由一影像感測器一次性捕捉之一檢驗區域。此外,一般技術者應易於瞭解,術語「視域」及「影像」在本文中可互換使用。
因此,可期望使用非同調照明技術之新螢光顯微鏡檢查機構激發一樣本之特定層或一樣本中所含之材料以引起其發螢光且自所得螢光自動偵測一樣本之特徵。此外,亦可期望相同機構使用不引起螢光之照明技術來檢查一樣本之特徵。
在一實例中,一種系統包含:一框架;一或多個非同調光源,其連接至該框架且經組態以發射將引起一樣本發螢光之光之至少一第一波長及不會引起一樣本發螢光之光之一第二波長,其中該發射光經組態以導引至該樣本;一激發濾波器,其連接至該框架且經組態以過濾來自該一或多個光源之光,其中該過濾光經組態以匹配與該樣本相關聯之一預定帶隙能量;一物鏡,其連接至該框架,該物鏡包括一明場通道及一暗場通道;一滑件,其連接至該框架且沿該物鏡與該一或多個非同調光源之間的一光路定位,其中該滑件包含經組態以沿該光路將光透射至至少一暗場通道之至少一組態,該至少一暗場通道經組態以使光依一斜角導引至該樣本;及一發射濾波器,其連接至該框架且經組態以過濾自該樣本反射至一接收攝影機之光之選定波長。
在一些實例中,該滑件之該至少一組態經組態以將光透射至該明場通道及該暗場通道兩者。
在一些實例中,該系統進一步包含:一換鏡旋座,其連接至該框架,其中該物鏡經由一附件來連接至該換鏡旋座;及一暗場嵌件,其緊固至該附件且定位於該物鏡之該暗場通道上方,該暗場嵌件包含經組態以使光依一斜角投射向該樣本之一環狀燈光。
在一些實例中,該滑件係連接至該框架且定位於該暗場嵌件下方之一濾波器滑件,該濾波器滑件經組態以提供多種類型之激發濾波器及用於該明場通道或該暗場通道之一或多者之一或多個額外發射濾波器。
在一些實例中,該系統進一步包含至少一第二攝影機且該發射光包含導引至各自攝影機之可見光及不可見光。
在一些實例中,該系統包含連接至該框架之一或多個額外攝影機,各額外攝影機經組態以接收光之各自唯一波長。
在一些實例中,該系統進一步包含一或多個處理器及儲存指令之一記憶體,該等指令在由該一或多個處理器執行時引起該一或多個處理器:自該接收攝影機接收影像資料,該影像資料基於來自該樣本之該導引光;由一經訓練分類器基於該接收影像資料來分類該樣本;擷取與該樣本之該分類相關聯之儲存系統組態;及將該等系統組態應用於該等光源、該激發濾波器、該發射濾波器或該接收攝影機之一或多者。
在一些實例中,該記憶體儲存進一步指令以:自該接收攝影機接收額外影像資料,在已應用該等系統組態之後接收該額外影像資料;由一影像資料模型基於該接收額外影像資料來識別樣本缺陷;及基於該等樣本缺陷來產生一特徵圖。
在一些實例中,該一或多個非同調光源進一步包含:一第一光源,其連接至該框架且經組態以將來自該一或多個非同調光源之反射光發射至該樣本;及一額外光源,其在該樣本下方附接至該框架且經組態以藉由使光與由該一或第一非同調光源發射之該光同時發射向該樣本來提高該樣本上光之強度。
在一些實例中,該系統進一步包含連接至該框架且經組態以導引發射光朝向該樣本之一分束器。
在一實例中,一種方法包含:自一或多個非同調光源發射引起一樣本發螢光之光之一第一波長及不引起該樣本發螢光之光之一第二波長,其中將該發射光導引至該樣本;透過一激發濾波器來過濾該發射光,該過濾光匹配一預定帶隙能量;使該發射光透射穿過一滑件、經由一物鏡之一暗場通道而依一斜角至該樣本;及將自該樣本反射之光導引至一接收攝影機,該反射光回應於該導引過濾光,其中自該樣本反射之該導引光包括選定波長。
在一些實例中,該方法進一步包含使該過濾光透射穿過該滑件至該物鏡之一明場通道而至該樣本。
在一些實例中,該方法包含定位於該物鏡之該暗場通道上方之一暗場嵌件,其包含使光經由該物鏡之該暗場通道來依一斜角發射至該樣本之一環狀燈光。
在一些實例中,該發射光包含可見光及不可見光,且該方法進一步包含由一第二攝影機接收自該樣本反射之該導引光之至少一部分。
在一些實例中,該方法包含由一或多個額外攝影機接收自該樣本反射之該光之唯一波長。
在一些實例中,該方法包含:自該接收攝影機接收影像資料,該影像資料基於自該樣本反射之該導引光;由一經訓練分類器基於該接收影像資料來分類該樣本;擷取與該樣本之該分類相關聯之儲存系統組態;及將該等系統組態應用於該等光源、該激發濾波器、該發射濾波器或該接收攝影機之一或多者。
在一些實例中,該方法包含:自該接收攝影機接收額外影像資料,在已應用該等系統組態之後接收該額外影像資料;由一影像資料模型基於該接收額外影像資料來識別樣本缺陷;及基於該等樣本缺陷來產生一特徵圖。
在一些實例中,該方法進一步包含:自該一或多個非同調光源之一第一光源發射一第一光朝向該樣本;及藉由使該一或多個非同調光源之一額外光源自該樣本下方發射指向該樣本之一第二光來提高該樣本上光之強度,其中該額外光與由該一或多個非同調光源之該第一光源發射該光同時發射。
在一些實例中,該方法進一步包含由一分束器導引該發射光朝向該樣本。
在一實例中,一種裝置包含:一或多個非同調光源,其經組態以發射將引起一樣本發螢光之光之至少一第一波長及不會引起該樣本發螢光之光之一第二波長,其中該發射光經組態以導引至該樣本;一激發濾波器,其經組態以過濾來自該一或多個光源之光,其中該過濾光經組態以匹配與該樣本相關聯之一預定帶隙能量;一物鏡,其包含一明場通道及一暗場通道;一換鏡旋座,其經由一附件來連接至該物鏡;一暗場嵌件,其緊固至該附件且定位於該物鏡之該暗場通道上方,該暗場嵌件包含經組態以使光依一斜角投射向該樣本之一環狀燈光;一發射濾波器,其經組態以過濾自該樣本反射至一接收攝影機之光之選定波長;一或多個處理器;及一記憶體,其儲存指令,該等指令在由該一或多個處理器執行時引起該一或多個處理器:自該接收攝影機接收影像資料,該影像資料基於自該樣本反射之該導引光;由一經訓練分類器基於該接收影像資料來分類該樣本;擷取與該樣本之該分類相關聯之儲存系統組態;將該等系統組態應用於該等光源、該激發濾波器、該發射濾波器或該接收攝影機之一或多者;自該接收攝影機接收額外影像資料,在已應用該等系統組態之後接收該額外影像資料;由一影像資料模型基於該接收額外影像資料來識別樣本缺陷;及基於該等樣本缺陷來產生一特徵圖。
交叉參考 本申請案係相關於以下申請案且根據35 U.S.C. § 119(e)主張以下申請案之優先權:名稱為「INCOHERENT ULTRAVIOLET LIGHT AUTOMATIC MICROSCOPY INSPECTION SYSTEMS, APPARATUS AND METHODS」且於2019年2月7日申請之美國專利申請案第62/802,246號及名稱為「PHOTOLUMINESCENCE IMAGING FOR DETECTION AND CLASSIFICATION OF STACKING FAULTS IN 4H-SiC」且於2019年4月19日申請之美國專利申請案第62/836,206號,該等各案之全部內容以引用的方式併入本文中用於所有目的。
根據本發明之一些實施例,提供用於螢光顯微鏡檢查之機構(其可包含系統、方法、器件、裝置等等),其使用非同調照明技術來激發一樣本之特定層或一樣本中所含之材料以引起其發螢光且自所得螢光自動偵測一樣本之特徵。相同機構亦可用於使用不引起螢光之照明技術來檢查一樣本之特徵。此外,在一些實施例中,可將一顏料添加至一樣本且可針對顏料使用非同調照明技術來引起其發螢光。檢查(有時稱為檢驗)係指掃描、成像、分析、量測及使用所揭示之非同調顯微鏡檢查機構來螢光成像之一樣本之任何其他適合複查。
圖1A及圖1B繪示根據本發明之一些實施例之使用非同調照明來自動分析自一樣本發射之螢光之螢光顯微鏡檢查系統(本文中稱為「FMIS 100」)之實例。在一高階圖中,根據一些實施例,FMIS 100之基本組件包含用於提供非同調光之一或多個照明源(例如光源25、25a及28)、用於找到一樣本之聚焦面的一聚焦機構32、一照明器22、一成像器件6、一或多個物鏡35、一載物台30、一或多個濾波器機構15、一明場/暗場滑件40及包括硬體、軟體及/或韌體之一控制模組110及一電腦分析系統115。如所繪示,控制模組110及電腦分析系統115經由一通信通道120來耦合至檢查系統100。應瞭解,通信通道120可包含一或多個信號傳輸構件,諸如一匯流排或無線RF通道。亦應瞭解,FMIS 100可包含此項技術中熟知之額外顯微鏡組件。例如,FMIS 100可包含可連接FMIS 100之各種組件(例如一或多個照明源、一聚焦機構、一照明器、一成像器件、一或多個物鏡、一載物台、一或多個濾波器機構、一明場/暗場滑件、一控制模組、一換鏡旋座、一分束器)的一框架(圖中未描繪)(例如為了便攜性、穩定性、模組化支撐等等)。在一些實施例中,一電腦分析系統可連接至框架且在一些實施例中其可不連接至框架。本文中未列出但此項技術中熟知之其他顯微鏡組件亦可連接至框架。
FMIS 100可實施為任何適合類型之顯微鏡之部分。例如,在一些實施例中,FMIS 100可實施為使用反射光(如圖1A中所展示)及/或透射光(如圖1B中所展示)之一光學顯微鏡之部分。更特定言之,FMIS 100可實施為購自Cuyahoga Falls, OH之Nanotronics Imaging公司之nSpec®光學顯微鏡之部分。
在一些實施例中,一XY平移台可用於載物台30。XY平移台可由步進馬達、伺服馬達、線性馬達、壓電馬達及/或任何其他適合機構驅動。在一些實施例中,XY平移台可經組態以在任何適合控制器之控制下沿X軸及/或Y軸方向移動一樣本。
在一些實施例中,耦合至載物台30之一聚焦機構32可用於沿一Z方向調整載物台朝向及遠離物鏡35。聚焦機構32可用於作出(例如) 0 mm至5 mm、0 mm至10 mm、0 mm至30 mm及/或(若干)任何其他適合距離範圍之粗聚焦調整。聚焦機構32亦可用於向上及向下移動載物台30以允許將不同厚度之樣本放置於載物台上。在一些實施例中,聚焦機構32亦可用於提供(例如) 0 μm至50 μm、0 μm至100 μm、0 μm至200 μm及/或(若干)任何其他適合距離範圍之細聚焦。在一些實施例中,聚焦機構32亦可包含一定位器件。定位器件可經組態以判定載物台30在任何適合時間點之一位置。在一些實施例中,任何適合位置(例如一樣本聚焦時之載物台之位置)可依任何適合方式儲存且稍後用於使載物台返回至該位置,即使FMIS 100重設及/或電力循環。在一些實施例中,定位器件可為一線性編碼器、一旋轉編碼器或適合於追蹤載物台30相對於物鏡之絕對位置的任何其他機構。
根據一些實施例,FMIS 100可包含一或多個物鏡35。物鏡可具有不同放大率及/或經組態以操作螢光及明場/暗場、差分干涉對比(DIC)、偏振光、橫向偏振光及/或任何其他適合形式之照明。在一些實施例中,用於檢查一樣本之物鏡及/或照明技術可由軟體、硬體及/或韌體控制。
在一些實施例中,一第二聚焦機構(圖中未展示)可用於沿一Z方向驅動物鏡35朝向及遠離載物台30。第二聚焦機構可經設計以粗或細聚焦調整物鏡35。第二聚焦機構可為一步進馬達、伺服馬達、線性致動器、壓電馬達及/或任何其他適合機構。例如,在一些實施例中,可使用一壓電馬達且其可驅動物鏡0微米(μm)至50 μm、0 μm至100 μm或0 μm至200 μm及/或(若干)任何其他適合距離範圍。
在一些實施例中,控制模組(例如控制器及控制器介面)與FMIS 100之組件之間的通信可使用提供與一或多個其他器件通信及/或與一電腦網路交換資料之能力的任何適合通信技術。舉例而言,所實施之通信技術可包含(但不限於)類比技術(例如繼電器邏輯)、數位技術(例如RS232、以太網路或無線)、網路技術(例如區域網路(LAN)、一廣域網路(WAN)、網際網路)、Bluetooth技術、近場通信技術、安全RF技術及/或任何其他適合通信技術。
在一些實施例中,可使用任何適合輸入器件(例如鍵盤、滑鼠、操縱桿、觸控、觸控螢幕等等)來將操作者輸入傳送至控制模組110。
在一些實施例中,電腦分析系統115可使用任何適合通信技術(諸如類比技術(例如繼電器邏輯)、數位技術(例如RS232、以太網路或無線)、網路技術(例如區域網路(LAN)、一廣域網路(WAN)、網際網路)、Bluetooth技術、近場通信技術、安全RF技術及/或任何其他適合通信技術)來依任何適合方式耦合至FMIS 100或包含於FMIS 100中。電腦分析系統115及電腦分析系統115內之模組可經組態以使用由FMIS 100輸出及/或由電腦可讀媒體儲存之影像來執行本文中將進一步描述之諸多功能。
電腦分析系統115可包含任何適合硬體(其在一些實施例中可執行軟體),諸如(例如)電腦、微處理器、微控制器、專用積體電路(ASIC)、場可程式化閘陣列(FPGA)及數位信號處理器(DSP)(其之各者可稱為一硬體處理器)、編碼器、用於讀取編碼器之電路、記憶體器件(其包含一或多個EPROM、一或多個EEPROM、動態隨機存取記憶體(「DRAM」)、靜態隨機存取記憶體(「SRAM」)及/或快閃記憶體)及/或任何其他適合硬體元件。
電腦可讀媒體可為可由電腦存取且包含揮發性及非揮發性媒體、可抽換及不可抽換媒體兩者之任何非暫時性媒體。舉例而言(但非限制),電腦可讀媒體可包括電腦儲存媒體及通信媒體。電腦儲存媒體可包含實施於儲存資訊(諸如電腦可讀指令、資料結構、程式模組或其他資料)之任何方法或技術中之揮發性及非揮發性、可抽換及不可抽換媒體。電腦儲存媒體包含(但不限於) RAM、ROM、EEPROM、快閃記憶體或其他記憶體技術、CD-ROM、數位視訊光碟(DVD)或其他光碟儲存器、卡式磁帶、磁帶、磁碟儲存器或其他磁性儲存器件或可用於儲存所要資訊且可由電腦存取之任何其他媒體。
FMIS 100可包含一或多個照明源,例如光源25、25a及28。在一些實施例中,例如圖1A中所展示,可使用反射照明(即,源自樣本上方之光)。反射光穿過垂直照明器22而至分束器20。分束器20可依90°反射來自(若干)照明源之光向下穿過一換鏡旋座23及穿過物鏡35之明場通道42而至樣本。在其他實施例中,例如圖1B中所展示,可使用透射照明(即,源自樣本下方之光(光源25a))。不同照明源可經組態以提供彼此不同之波長之照明。不同照明源亦可經調整以控制每單位面積所提供之強度。
本文中所使用之分束器可係指反射鏡、二向分光鏡、濾波器或光束組合器,其透射一已知特定波長之光且組合透射光與另一已知特定波長之光。
在一些實施例中,如圖1B中所展示,為提高一樣本上光之強度,來自照明源25/28之反射光可與來自照明源25a之透射光同時投射。在一些態樣中,各種照明源可提供類似或相等波長之光。在其他實施例中,FMIS 100可包含可提供不同波長範圍內之光的一單一照明源。
例如,在一些實施例中,一第一照明源25提供不可見光8 (例如投射具有10奈米(nm)至400 nm之範圍內之一波長的光),而第二照明源28提供可見光9 (例如投射具有400奈米(nm)至740 nm之範圍內之一波長的光)。在進一步實施例中,照明源可提供其他適合波長。
在一些實施例中,如圖1A及圖1B中所展示,照明源25經定位使得其光沿一實質上水平方向投射向垂直照明器22。照明源25、25a及28可包含適合於各源之發射光之波長的一聚焦透鏡。
在使用兩個照明源之一些實施例中,在光行進至垂直照明器22之前將一分束器60放置於兩個照明源(例如照明源25及28)之光學路徑中。照明源可經啟動使得兩個照明源在相同時間或不同時間提供照明。可在不背離本發明之範疇之情況下考量照明源之其他放置。應注意,可使用呈任何適合組態之上述器件之一組合來反射及透射所要照明源及波長。在一些實施例中,具有一特定截止波長之一分束器經選擇以反射由照明源28發射之光之波長且允許自照明源25發射之光之波長穿過。可根據一45°入射角來設計分束器60,使得來自照明源28之拒收光依一90°角反射且平行於來自照明源25之光路行進。可在不背離本發明之範疇之情況下考量其他分束器設計。
應注意,在一些實施例中,(若干)任何適合非同調照明源可與照明源25、25a及28一起使用,其包含(但不限於)發光二極體(LED)、鹵素燈及/或螢光燈。
在一些實施例中,可使用一濾波器機構15來允許來自光源25及28之特定波長範圍穿過至一樣本。濾波器機構15 (亦稱為一激發濾波器)可為(例如)具有不同帶通濾波器(例如帶通濾波器16及17)之一載玻片。各帶通濾波器允許特定波長穿過且阻擋所有其他波長。可使用一馬達或一機械機構來選擇及定位一帶通濾波器。在其他實施例中,可使用包含軟體、韌體及/或硬體之一可調諧濾波器來控制所要波長穿過至樣本。在一些實施例中,所選擇之帶通濾波器可基於樣本中之一或多個材料之帶隙性質。舉例而言,帶通濾波器可經選擇以與匹配或超過被檢查之一樣本中之一材料之帶隙的一波長能量對應。換言之,透射至一樣本之波長能量可經選擇使得其引起樣本內之一目標材料發螢光。各材料具有不同於其他材料之一已知帶隙能量。帶隙能量係指一特定材料之價帶之頂部與導帶之底部之間的能量差。當一材料中之電子由光之波長激發使得其吸收光子且發射一激發光(發射光通常依長於吸收光之一波長發射)時,發生螢光。除施加適當波長來激發一樣本之外,亦必須每單位面積施加足夠強度,使得螢光可發生。每單位面積之強度之足夠性將取決於樣本之材料組成且一般在1瓦特/cm2 至11瓦特/cm2 之範圍內。例如,可將依365 nm之一波長及4瓦特之強度投射光之一照明源應用於具有3.26 eV之一帶隙能量的碳化矽樣本以激發一螢光回應。
在進一步實施例中,所選擇之波長能量可對應於引起樣本內之一目標材料及/或添加至一目標樣本之一顏料發螢光所需之波長能量。應注意,術語「激發」係指引起一樣本或添加至樣本之一顏料發螢光(即,發射螢光)之波長能量。
在一些實施例中,一激發濾波器機構可基於待執行之所要顯微鏡檢查來使用且僅允許(例如)一選定範圍內之波長穿過。舉例而言,可使用濾波器機構來選擇不可見光範圍內之波長(例如來自照明源25之紫外光)或可見光範圍內之波長(例如來自照明源28)穿過。在其他實施例中,可使用一濾波器機構來將光之一特定波長透射至一樣本(例如對應於被檢查之材料之帶隙且將激發材料之波長)。
應注意,激發濾波器滑件15表示一實例性實施例,且可在光到達樣本之前將一或多個激發濾波器放置於沿光路之任何適合位置處。在一些實施例中,滑件40可包含一激發濾波器及/或一激發濾波器可包含於換鏡旋座23中。本文中將描述此等各種實施例。
在進一步實施例中,可使用一或多個發射濾波器來允許適當波長自樣本透射至成像器件,使得僅所要波長成像。類似於激發濾波器,發射濾波器可為允許特定波長穿過且阻擋其他波長之一帶通濾波器。在其他實施例中,可包含軟體、韌體及/或硬體之一可調諧濾波器可用於控制穿過之所要波長。
一或多個發射濾波器可放置於各成像器件之前(例如圖2中所展示之發射濾波器18及19)、管透鏡90之前(例如圖1A中所展示之發射濾波器21)及/或換鏡旋座23中(例如圖6C中所展示之濾波器滑件52之發射濾波器F3)以透射一樣本之螢光回應。在一些實施例中,可使用進一步過濾特定色彩之波長免於到達一或多個成像器件之一發射濾波器輪。發射濾波器可經選擇或控制以允許特定波長到達成像器件。例如,為探查不同波長處之碳化矽之螢光回應,可使用允許不同範圍之波長穿過(例如414 nm至440 nm、500 nm至550 nm或590 nm至670 nm)之不同發射帶通濾波器(或一單一波長)。此等濾波器可一次應用一個,或若存在多個攝影機,則其可同時應用或作為一序列滑件之部分(即,在各成像器件前面使用允許一不同波長範圍之一濾波器)。
圖2展示包含兩個成像器件6及7之一實例性實施例。在一些實施例中,成像器件6及7可為分別包含影像感測器5及4之攝影機。可使用成像器件6及7來捕捉一樣本之影像。影像感測器5及4可為(例如)一CCD、一CMOS影像感測器及/或將光轉換成一或多個電信號之任何其他適合電子器件。此等電信號可用於形成一樣本之影像及/或視訊(其包含螢光影像及/或視訊)。在一些實施例中,成像器件可為自入射光子有效產生電子電荷之一高量子效率攝影機。在一些實施例中,此等電信號經傳輸以顯示於連接至FMIS 100之一顯示螢幕上。在一些實施例中,成像器件可由用於觀看一樣本之一目鏡或一接目鏡或用於量測來自一樣本之光譜發射的一光譜儀替換或補充。
成像器件可定位於FMIS 100之一共軛焦面上。在一些實施例中,可使用適當組件來將成像器件安裝於其他位置中以使選定位置適應系統之光學特性。在進一步實施例中,可使用一個以上成像器件。在一些實施例中,成像器件可為包含一影像感測器之一可旋轉攝影機,影像感測器經組態以允許攝影機與一樣本、一載物台及/或一樣本上之一特徵對準。名稱為「Camera and Object Alignment to Facilitate Large Area Imaging in Microscopy」之美國專利第10,048,477號中描述用於使可由FMIS 100使用之一攝影機旋轉的一些實例性方法,該專利之全文以引用的方式併入本文中。
圖2繪示各耦合至一各自成像器件之發射濾波器件18及19。各濾波器件允許自樣本反射及/或發射之特定波長由相關聯成像器件接收且阻擋所有其他波長。圖2包含一分束器24,其在自一樣本反射/發射之光之光學路徑中定位於照明器22上方。分束器可經定位使得一特定範圍內之波長被導引向一成像器件且一不同範圍內之光波長被導引向一第二成像器件。
可使用包含明場、暗場、差分干涉對比(DIC)及熟習技術者已知之其他模式之各種觀察模式來執行由FMIS 100使一樣本成像。
在一些實施例中,FMIS 100可同時或單獨提供明場及暗場兩種照明。暗場照明係指使用傾斜照明而非正交光來照射一樣品之一照明技術。一物鏡可包含圍繞明場通道之一環形暗場通道,其允許光依小於90°且大於0° (通常25°至80°)之一入射角透射至一樣品。在一些實施例中,FMIS 100可包含一明場/暗場滑件40或允許僅暗場照明、僅明場照明、明場/暗場照明之一組合或其他類型之照明(例如DIC)到達一樣品之其他適合機構(例如一籠形立方體)。將結合圖2至圖5來討論明場/暗場滑件40之不同組態。在其他實施例中,可藉由將一光源耦合於暗場通道上方且經由控制模組110啟動光源以提供暗場照明至一樣品來實現明場/暗場照明。將結合圖2至圖5來討論一些實例性實施例。
在一些實施例中,如圖3A、圖3B及圖3C中所展示,FMIS 100使用包含一明場組態43及一暗場組態44之一明場/暗場滑件40 (一滑件類型)。明場/暗場滑件40可沿行進至一樣本之光路10定位於任何位置(例如在垂直照明器中、在分束器20之前或耦合於換鏡旋座23上方或下方)。明場/暗場滑件40包含兩個組態43及44。在一第一位置中,如圖3A中所展示,當組態43定位於光路中時,組態43之中心中之孔隙允許光10a穿過且自分束器20反射穿過物鏡35之中心中之明場通道以提供明場照明至一樣本,且阻擋光穿過至暗場通道41。此外,在一些實施例中,組態43之中心中之孔隙可由僅允許特定波長到達一樣本(經由自分束器20反射)之一激發濾波器替換。
在一第二位置中,如圖3B中所展示,當組態44定位於光路中時,封閉中心孔隙以阻擋光透射至明場通道42且經由自分束器20反射來透射光10b穿過暗場通道環41以提供傾斜照明至一樣本。可使用一馬達或一機械機構來選擇及定位明場/暗場滑件組態之一者。接著,自樣本反射之光10c行進穿過物鏡35而至(若干)成像器件。
明場/暗場滑件40之其他組態係可行的,例如圖4A (明場/暗場滑件40a)及圖4B (明場/暗場滑件40b)中所展示。明場/暗場滑件40a可包含組態45 (其包含圍繞一封閉中心之一環狀燈光46 (例如一LED燈光形成之環))及43 (結合圖3A至圖3C所描述)。當組態45定位於光路中且啟動LED燈46時,可經由暗場通道41 (藉由自分束器20反射)來將傾斜照明透射至一樣本。因為環之中心封閉且阻擋光進入一明場通道(經由自分束器20反射),所以無明場光透射至一樣本。
如圖4B中所展示,明場/暗場滑件40b可包含組態47 (其包含圍繞一孔隙之一LED環狀燈光46)及43 (結合圖3A及圖3B所描述)。當組態47定位於光路中且啟動LED環狀燈光46時,可將傾斜照明投射及透射至一樣本(經由自分束器20反射),同時明場照明可穿過中心中之孔隙且透過物鏡35之明場通道42來透射至一樣本(如圖5B中所展示)。
在一些實施例中,如圖5A (其展示一實例性FMIS 100)、圖5B (其展示一實例性換鏡旋座23之細節)、圖6A (其展示一實例性暗場嵌件51)及圖6B (其展示一實例性圓筒29)中所展示,一圓筒29 (本文中亦稱為一「附件」或一「圓筒附件」)可緊固至FMIS 100之換鏡旋座23 (例如經由螺釘或其他緊固件),且一物鏡35 (其包含環形暗場通道41及明場通道42)可在暗場通道41上方緊固至圓筒29。此外,具有一環狀燈光46 (例如LED燈46)之一暗場嵌件51可在暗場通道41上方緊固至圓筒29。此一組態允許圓筒29緊固至任何換鏡旋座中且與任何物鏡一起使用。應注意,圓筒29可呈任何適合形狀。此外,包含於暗場嵌件51上之環狀燈光可包含發射一或多個波長之任何適合燈,且可與具有包含一不同類型之燈且發射一不同波長(或波長組)之一環狀燈光的另一嵌件51靈活互換。
在一些實施例中,具有多個發射/激發濾波器F1、F2、F3、...、FN之一濾波器滑件52 (一滑件類型)可在暗場嵌件51下方耦合至圓筒29。在一些實施例中,滑件52之濾波器F1包含允許來自經啟動之燈46之光不經過濾地經由暗場通道41穿至一樣本之一孔隙。滑件52之濾波器F2包含僅允許特定暗場及明場波長到達一樣本之一激發濾波器。在一些實施例中,激發濾波器可包含中心中之一孔隙,且僅過濾到達一樣本之暗場光。在進一步實施例中,濾波器F3可包含用於明場及暗場通道之不同濾波器。例如,暗場濾波器可經組態以過濾暗場激發光,而明場濾波器可組態為用於在自一樣本發射之光到達一或多個成像器件之前過濾其之一發射濾波器。滑件52可包含旨在阻擋特定激發波長到達一樣本及/或阻擋特定發射波長到達一或多個成像器件之其他適合濾波器。
應注意,呈任何適合組態之上述激發及發射濾波器之一組合可用於反射及透射所要照明源及波長。
圖7A展示根據本發明之一些實施例之使用一FM檢查系統來照射一樣本以達成所要光譜發射及其他所要照明用於影像捕捉之一實例性方法700之一高階圖。在一些實施例中,方法700可使用FMIS 100。
在710中,可將待檢驗之一樣本放置於樣本台30上。在一些實施例中,在選擇FMIS 100之光源及濾波器之前使樣本聚焦。
在720中,可針對影像捕捉來調整FMIS 100之設定。此可基於(例如)被檢驗之一樣本之特徵或一樣本之材料組成來手動或自動(例如使用一電腦演算法)執行。在一些實施例中,控制模組110可根據一特定樣本之儲存資訊、樣本類別及/或任何其他適合分類群組來啟動及調整來自(若干)光源之光之波長及強度及對應激發及發射濾波器。儲存資訊可包含識別一樣本上之已知特徵之類型及位置的一圖(「樣本特徵圖」或「特徵圖」)。儲存資訊亦可包含一樣本之材料組成、用於捕捉不同關注區域處之樣本之不同影像(例如藉由確定指向一樣本之光之波長及強度、藉由選擇及調整適當激發及/或發射濾波器)的最佳FM檢查系統設定。此外,儲存資訊可包含關於一樣本之已知或預期缺陷之類型及位置的資訊。將結合圖8來進一步討論用於選擇適合儲存資訊之方法。
在730中,根據一些實施例,由FMIS 100捕捉一樣本之一或多個影像。步驟720及730可視情況重複多次以捕捉樣本之不同影像。例如,可調整光源25、25a及/或28及對應激發及發射濾波器之強度及波長以捕捉樣本之不同影像。例如,可基於一樣本之儲存資訊(其包含樣本組成、樣本之已知或預期缺陷及/或一樣本特徵圖)來調整光源。此外,可針對樣本之不同關注區域(如由一樣本特徵圖或其他所指示)來調整光源25、25a及/或28及對應濾波器之波長,且可針對各關注區域來捕捉影像。在一些實施例中,可在適合於提供所要激發至樣本及/或關注區域之一範圍內選擇光源25、25a及/或28及對應濾波器之波長。此外,可藉由調整提供至一樣本之照明類型(諸如施加明場、暗場、明場及暗場之一組合及/或DIC照明)來捕捉樣本之不同影像。
圖7B繪示根據本發明之一些態樣之用於識別一樣本分類且自動調整FMIS 100之光源及濾波器之一實例性程序705之步驟。程序705開始於步驟740,其中(例如)由一影像處理系統(例如影像處理模組834 (如圖8中所展示))接收影像資料。在一些方法中,影像資料可包含於由作為FMIS 100之部分之一成像器件取得之一樣本之一接收影像中。影像資料可包含安置於FMIS 100之一載物台上之一樣本之全部或一部分。
在步驟750中,分析影像資料以識別樣本之一分類。在一些例項中,可執行影像分析來識別樣本之一子集,諸如樣本內之一特定區域、特徵或材料。如下文將討論,可使用機器學習分類器、電腦視覺及/或人工智慧來識別/分類樣本及一樣本上之特徵。圖10中展示使用卷積神經網路(CNN)之一實例性分類法。
隨後,可基於樣本(或特徵)分類來自動選擇儲存資訊(步驟760)。樣本/特徵分類可用於查詢含有與以下各項相關聯之儲存資訊的一資料庫(例如儲存資訊資料庫836):一樣本、一樣本之材料組成、樣本特徵類型及/或其他適合分類群組。藉由參考步驟750中所判定之樣本分類,可自動識別及擷取適合於樣本之儲存資訊。如上文所討論,儲存資訊可含有各種設定資料,其描述可用於達成被觀察之樣本、特徵及/或材料之最佳照明及影像捕捉的FMIS 100之組態。
圖7C繪示根據本發明之一些態樣之用於自動識別及/或分類樣本缺陷之一實例性程序710之步驟。在一些實施方案中,步驟780可跟在上文相對於圖7B所討論之步驟770之後。然而,應瞭解,可獨立於上文所討論之程序700及705之各種步驟來執行程序710。
在步驟780中,在應用FM檢查系統之調整/設定之後自成像器件接收包含螢光之影像資料。在一些方法中,可在樣本自動分類(如上述步驟770中所描述)之後執行步驟780。因而,步驟780中所接收之影像資料可表示最佳或經改良照明狀況(如由針對FM檢查系統所執行之設定選擇所實現)下所取得之樣本之一影像。
在步驟785中,將包含螢光之新影像資料提供至經組態以自動識別/偵測及/或分類樣本之缺陷/特徵的一缺陷偵測分類器。可在不知道樣本分類或類型之情況下執行缺陷/特徵偵測及分類。然而,在一些實施例中,一樣本分類及/或相關聯經儲存資訊可用作缺陷偵測分類器之輸入且藉此用於通知缺陷/特徵偵測及識別之程序。
在步驟790中,識別及/或分類樣本之一或多個缺陷/特徵。可依不同方式實施識別及/或分類樣本缺陷/特徵之程序,其取決於所要實施方案。例如,可使用缺陷/特徵識別來自動產生或更新與給定樣本及/或樣本分類相關聯之一特徵圖及/或儲存資訊(步驟795)。因而,可使用新穎缺陷/特徵之識別來改良(訓練)未來缺陷/特徵分類計算及改良調整FM檢查系統設定之自動程序(如程序705中所描述)。在一些態樣中,缺陷/特徵識別及/或分類可用於觸發一警報,例如告知一使用者FM檢查系統存在偵測缺陷/特徵及/或缺陷/特徵類型(分類)。
應瞭解,在一些實施例中,可依不受限於圖7A、圖7B及圖7C中所展示及結合圖7A、圖7B及圖7C所描述之順序及序列的任何順序或序列執行本文中所描述之方法700、705及710之至少一些部分。此外,在一些實施例中,可適當地實質上同時或並行執行本文中所描述之程序700、705及710之一些部分。另外或替代地,可在一些實施例中省略程序700、705及710之一些部分。方法700、705及710可實施於任何適合硬體及/或軟體中。例如,在一些實施例中,方法700、705及710可實施於FM檢查系統100中。
圖8展示根據本發明之一些實施例之電腦分析系統115之一實施例之一般組態。儘管電腦分析系統115繪示為其中各種組件經由一匯流排805來耦合之一區域運算系統,但應瞭解,各種組件及功能運算單元(模組)可實施為單獨實體或虛擬系統。例如,一或多個組件及/或模組可實施於實體分離及遠端器件中,諸如使用一雲端環境中所例示之虛擬程序(例如虛擬機或容器)。
電腦分析系統115包含一處理單元(例如一/若干CPU及/或一/若干處理器) 810及匯流排805,匯流排805將包含系統記憶體815 (諸如唯讀記憶體(ROM) 820及隨機存取記憶體(RAM) 825)之各種系統組件耦合至一/若干處理器810。
記憶體815可包含具有不同效能特性之各種記憶體類型,諸如記憶體快取812。處理器810耦合至儲存器件830,儲存器件830經組態以儲存實施一或多個功能模組及/或資料庫系統(諸如儲存資訊資料庫836)所需之軟體及指令。此等模組及/或資料庫系統之各者可經組態以控制處理器810及其中將軟體指令併入至實際處理器設計中之一專用處理器。因而,影像處理模組834及儲存資訊資料庫836可為完全獨立系統。例如,在不背離本發明之範疇之情況下,影像處理模組834可實施為一離散影像處理系統。
為使使用者能夠與電腦分析系統115互動,輸入器件845可表示任何數目個輸入機構,諸如一語音麥克風、用於手勢或圖形輸入之一觸敏螢幕、鍵盤、滑鼠、運動輸入等等。一輸出器件835亦可為熟習技術者已知之諸多輸出機構之一或多者。在一些例項中,多模式系統可使一使用者能夠提供多種類型之輸入來與電腦分析系統115通信,例如傳送與一樣本類型/分類或其他特性相關之樣本資訊。通信介面840一般可操縱及管理使用者輸入及系統輸出。操作任何特定硬體配置不受限制,因此,此處之基本特徵可易於隨著其發展而被換為改良硬體或韌體配置。
儲存器件830係一非暫時性記憶體且可為一硬碟或可儲存可由一電腦存取之資料的其他類型之電腦可讀媒體,諸如卡式磁帶、快閃記憶卡、固態記憶體器件、數位多用磁碟、盒式磁帶、隨機存取記憶體(RAM) 825、唯讀記憶體(ROM) 820及其之混合物。
實際上,儲存資訊資料庫836可經組態以接收、儲存及更新與一樣本、一樣本類別及/或其他適合樣本分類相關聯之背景資料。各樣本/樣本類別/樣本分類之背景資料可包含(但不限於):一樣本及/或一樣本之特徵之一電腦輔助設計(CAD)檔案、識別特徵及其位置之一特徵圖、由FMIS 100捕捉之樣本/樣本之特徵之影像、已知樣本及/或特徵之影像、已知尺寸、材料組成、一樣本之機械及/或物理性質、已知材料或樣本之光譜變動圖、共同疊差、與一樣本相關聯之結構缺陷或其他缺陷、一樣本之特徵之最佳FM檢查設定、一樣本或樣本分類、待檢驗之關注區域及/或關注材料之識別。在一些實施例中,關注區域可識別於一特徵圖上。儲存資訊資料庫836可耦合至影像處理模組834且可傳輸資料至影像處理模組834及自影像處理模組834接收資料。此外,背景資料可包含與使用FMIS 100來檢查一樣本相關之資料,諸如:FMIS 100之光源之數目、各光源之波長範圍及強度、成像器件之數目及激發/發射濾波器之不同類型及其位置;樣本台30與物鏡35之間的可能距離之範圍。
處理器810可包含一影像處理模組834。影像處理模組834可結合儲存資訊資料庫836來使用以基於以下各項來分類一樣本:一(若干)樣本影像中所接收之包含螢光之影像資料;自儲存資訊資料庫836擷取之背景資料;及/或其他接收樣本特性,諸如由一使用者(例如)經由輸入845所手動提供之樣本特性。另外,影像處理模組可經組態以分類特定樣本特徵、判定其他物理及/或機械樣本性質(例如樣本反射率、樣本尺寸、樣本材料組成)。樣本類型之分類及樣本特徵/性質可儲存於儲存資訊資料庫836中。
在一些實施例中,在判定一樣本之一樣本類型、特定特徵及/或材料組成(例如藉由影像處理模組834)之後,與判定樣本類型/特徵相關聯之額外背景資料可自儲存資訊資料庫836擷取且發送至控制模組110以調整FMIS 100之設定以捕捉特定樣本影像及/或指導FMIS 100檢查樣本(例如藉由捕捉特定特徵及/或關注區域之影像)。
在一些實施例中,一影像處理模組834可接收整個樣本掃描或一樣本之一或多個影像。如圖9中所展示,影像處理模組834可應用一或多個(若干)人工智慧演算法來分類一樣本類型及樣本上之特徵。
熟習技術者應瞭解,在不背離本發明之情況下,基於人工智慧/機器學習之分類技術可取決於所要實施方案來變動。例如,機器學習分類方案可單獨或組合利用以下之一或多者:隱藏式馬可夫(Markov)模型、遞歸神經網路、卷積神經網路(CNN)、深度學習、貝氏(Bayesian)符號法、生成對抗網路、支援向量機、影像配準法、基於適用規則之系統。當使用回歸演算法時,其可包含(但不限於)隨機梯度下降回歸因子及/或一被動積極回歸因子等等。
機器學習分類模型亦可基於叢集演算法(例如一小批量K均數叢集演算法)、一推薦演算法(例如一最小雜湊演算法或歐幾里德LSH演算法)及/或一異常偵測演算法,諸如一局部離群值因數。另外,機器學習模型可採用一降维法,諸如以下之一或多者:一小批量詞典學習演算法、一增量主成分分析(PCA)演算法、一潛在狄利克里分配演算法及/或一小批量K均數演算法等等。
在一些例項中,機器學習模型可用於執行樣本、一樣本內之材料、樣本特徵及/或其他樣本特性之分類。在一些態樣中,可(例如)由影像處理模組834提供來自樣本影像之影像資料作為一機器學習分系統之一輸入。分類器輸出可確定一樣品或特徵分類,其接著可用於識別一樣本上之特定關注區域來由FMIS 100進一步檢查且提供關於應用於檢查該等關注區域之光源及濾波器之類型的指令至FMIS 100之控制模組110。
此等演算法、網路、機器及系統提供相對於任何「使用人工智慧來判定一樣本之一特徵的構件」或「使用人工智慧來判定用於進一步檢查之一樣本之一關注區域的構件」或「使用人工智慧來判定一樣本之一特徵的構件」所使用之結構之實例。
此外,針對樣本上之各特徵或針對一關注區域,影像處理模組可應用一或多個人工智慧演算法來:i)偵測特徵;ii)分類特徵類型;iii)判定樣本上之特徵之位置;iv)判定樣本/特徵之材料組成;v)判定FMIS 100之最佳設定(例如波長激發設定、波長發射設定、所應用之照明技術)以檢查一特徵/樣本/材料。在一些實施例中,由影像處理模組834使用之(若干)演算法可考量背景資料,如一樣本上之特徵之位置、被檢查之樣本之類型、被檢查之樣本之物理及機械性質、相同或類似樣本之類似特徵、受檢查樣本之一參考特徵圖、用於產生樣本掃描或樣本影像之FM檢查系統設定。
可由影像處理模組834使用之基於機器學習人工智慧之影像處理演算法之實例係影像配準,如由以下所描述:Barbara Zitova之「Image Registration Methods: A Survey」(Image and Vision Computing,2003年10月11日,第21卷,第11期,第977頁至第1000頁),其全文以引用的方式併入本文中。所揭示之方法僅為實例且不意在限制。舉例而言,可使用包含(但不限於)以下各項之多個訓練資料源來訓練機器學習/人工智慧模型:一樣本及/或一樣本之特徵之一電腦輔助設計(CAD)檔案、識別一樣本上之特徵及其位置的一樣本特徵圖、已知樣本及/或特徵之影像及/或關於已知樣本之資訊(例如一樣本之尺寸、一樣本之材料組成、一樣本之機械及/或物理性質、已知材料或樣本之光譜變動圖、共同疊差、結構缺陷、識別一樣本分類內之特徵通常所在之位置的特徵圖)。
在一些實施例中,如圖9中所展示,首先使用訓練資料920來訓練一影像處理演算法905,使得影像處理模組834可辨識及分類一樣本且偵測及辨識一樣本上之特徵。可使用多個訓練技術且其可取決於被使用之特定分類器模型。在一實例中,可使用隨機梯度下降來在多個時期內訓練一CNN (諸如一13層CNN等等)以探查一各自誤差空間。在一實例中,可使用80個時期來訓練且隨機梯度下降可包含一動量因數。另外,可使用一自適應學習率,諸如(例如但不限於)學習率自早期之0.1 (例如作為隨機梯度下降中之一步進值)調整至後期之0.01。
訓練資料920可包含樣本及特徵之已知類型之標記實例。針對被訓練之各分類(例如特徵、特徵類型、缺陷之類型等等),訓練資料920可進一步包含變形特徵(此等可為實際變形特徵或根據預定參數所模擬之變形特徵)之標記成像且訓練資料920可包含此等變形特徵之標記影像。訓練資料920亦可包含自0°至360°旋轉之各缺陷類型之標記影像。訓練資料920亦可包含依不同大小產生之各缺陷類型之標記影像。訓練資料920之一實例係包含具有不同結構、形狀及大小之標記疊差及各類型之疊差之對應螢光發射的影像。此外,標記影像亦可包含額外背景資料,如確定FMIS 100之設定(例如波長激發設定、波長發射設定、所應用之照明技術)、一特徵或一樣本之材料組成、一樣本上之一特徵之位置、特徵之物理/機械性質及/或任何其他適合特性的資訊。在一些實施例中,訓練資料亦可包含未標記資料。
在訓練影像處理演算法之後,其可由影像處理模組834應用於一樣本之一(若干)接收樣本掃描或影像以分類樣本類型、偵測特徵、分類故障類型、判定特徵及/或故障位置、判定樣本組成及判定用於偵測一特徵/樣本之最佳FM檢查系統設定。輸出資料940可經視覺顯示、印刷或依檔案形式產生且儲存於資料庫836中或傳輸至其他組件用於進一步處理。
在一些實施例中,可將輸出資料發送至一特徵圖產生器模組832以產生樣本之一特徵圖。在一些實施例中,輸出資料可包括多個影像。所產生之特徵圖可識別及定位樣本上之特徵。所產生之特徵圖可經視覺顯示、印刷或依檔案形式產生且儲存於資訊資料庫836中或傳輸至其他模組用於進一步處理。
此外,所產生之特徵圖可用於使FMIS 100之進一步檢查聚焦於一樣本之特定特徵及/或區域。基於特徵及區域之特性,可自儲存資訊資料庫836擷取儲存資訊。例如,針對各關注特徵及/或區域,可自儲存資訊資料庫836擷取指令以應用不同波長及強度位準處之不同光源及照明技術、使用不同激發/發射濾波器來捕捉不同影像且傳輸至控制模組110。例如,可藉由在一或多個成像器件之前應用不用帶通發射濾波器來偵測不同螢光發射且識別一樣本之不同特徵(例如一樣本之表面之不規則性或缺陷)。
圖10描述使用一深度卷積網路分類器1005之訓練影像處理模組834之一實施例。可使用模擬擴充資料1007來訓練分類器1005。例如,可依不同定向、不同大小、不同像素強度、一樣本上之不同位置產生不同類型之樣本之已知缺陷(1006及1009)。可使此等已知缺陷之形狀變模糊及/或扭曲。在經訓練之後,可將FMIS 100之一或多個候選影像輸入至一分類器中(1009)。在一些實施例中,首先藉由偵測特定區域且自該等區域提取特徵(1002及1003)來處理影像(1001)。接著,使用分類器1005來分析所提取之特徵且將特徵分類成若干類型且定位樣本上之該等特徵(1010)。應注意,名稱為「Macro Inspection Systems, Apparatus and Methods」之美國專利申請案第16/262,017號(該案之全文以引用的方式併入本文中)中描述可由FMIS 100使用之用於定位樣本上之一特徵的一些實例性方法。在一些實施例中,已知缺陷包含具有不同結構、大小及形狀之疊差。
在一些實施例中,可使用任何適合電腦可讀媒體來儲存用於執行本文中所描述之功能及/或程序的指令。例如,在一些實施例中,電腦可讀媒體可為暫時性或非暫時性的。例如,非暫時性電腦可讀媒體可包含諸如以下各項之媒體:非暫時性磁性媒體(諸如硬碟、軟碟等等)、非暫時性光學媒體(諸如光碟、數位視訊光碟、藍光光碟等等)、非暫時性半導體媒體(諸如快閃記憶體、電可程式化唯讀記憶體(EPROM)、電可擦除可程式化唯讀記憶體(EEPROM)等等)、在傳輸期間不飛逝或無任何永久表象之任何適合媒體及/或任何適合有形媒體。作為另一實例,暫時性電腦可讀媒體可包含網路上之信號、電線、導體、光纖、電路及在傳輸期間飛逝且無任何永久表象之任何適合媒體及/或任何適合非有形媒體。
本文中所描述之各種系統、方法及電腦可讀媒體可實施為一雲端網路環境之部分。如本發明中所使用,一雲端運算系統係提供虛擬化運算資源、軟體及/或資訊至用戶端器件之一系統。可藉由維持邊緣器件可透過一通信介面(諸如一網路)來存取之集中服務及資源來虛擬化運算資源、軟體及/或資訊。雲可經由雲端元件來提供各種雲端運算服務,諸如軟件即服務(SaaS)(例如合作服務、郵件服務、企業資源計劃服務、內容服務、通信服務等等)、基礎設施即服務(IaaS)(例如安全服務、網路服務、系統管理服務等等)、平台即服務(PaaS)(例如網頁服務、串流服務、應用程式開發服務等等)及其他類型之服務,諸如桌面即服務(DaaS)、資訊技術管理即服務(ITaaS)、管理軟體即服務(MSaaS)、行動後端即服務(MBaaS)等等。
本文中所描述之實例之規定(及表述為「諸如」、「例如」、「包含」及其類似者之子句)不應被解譯為使本發明受限於特定實例;確切而言,實例意欲僅繪示諸多可能態樣之若干者。一般技術者應瞭解,術語「機構」可涵蓋硬體、軟體、韌體或其之任何適合組合。
如自以上討論所明白,除非另有明確說明,否則應瞭解,在整個描述中,利用諸如「判定」、「提供」、「識別」、「比較」或其類似者之術語的討論涉及一電腦系統或類似電子運算器件操縱及變換表示為電腦系統記憶體或暫存器或其他此等資訊儲存、傳輸或顯示器件內之物理(電子)量之資料的動作或程序。本發明之特定態樣包含呈一演算法之形式之本文中所描述之程序步驟及指令。應注意,本發明之程序步驟及指令可體現於軟體、韌體或硬體中,且當體現於軟體中時,可經下載以駐留於由即時網路作業系統使用之不同平台上且自其操作。
本發明亦係關於一種用於執行本文中之操作的裝置。此裝置可根據所需用途來特別建構,或其可包括由儲存於電腦可存取之一電腦可讀媒體上之一電腦程式選擇性啟動或重組態之一通用電腦。此一電腦程式可儲存於一電腦可讀儲存媒體中,諸如(但不限於)任何類型之磁碟,其包含軟碟、光碟、CD-ROM、磁光碟、唯讀記憶體(ROM)、隨機存取記憶體(RAM)、EPROM、EEPROM、磁卡或光卡、專用積體電路(ASIC)或適合於儲存電子指令之任何類型之非暫態電腦可讀儲存媒體。此外,本說明書中所涉及之電腦可包含一單一處理器或可為採用多個處理器設計以提高運算能力之架構。
本文中所呈現之演算法及操作不與任何特定電腦或其他裝置內在相關。各種通用系統亦可根據本文中之教示來與程式一起使用,或可證明建構更專用裝置來執行所需方法步驟及系統相關動作係方便的。熟習技術者將明白各種此等系統之所需結構及等效變動。另外,未參考任何特定程式設計語言來描述本發明。應瞭解,各種程式設計語言可用於實施本文中所描述之本發明之教示,且提供特定語言之任何參考來揭示本發明之有利及最佳模式。
已特別參考此等繪示實施例來詳細描述FM檢查裝置、方法及系統。然而,應瞭解,可在本說明書所描述之揭示內容之精神及範疇內作出各種修改及改變,且此等修改及改變應被視為本發明之等效物及部分。
4:影像感測器 5:影像感測器 6:成像器件 7:成像器件 8:不可見光 9:可見光 10:光路 10a:光 10b:光 10c:光 15:濾波器機構/激發濾波器滑件 16:帶通濾波器 17:帶通濾波器 18:發射濾波器/發射濾波器件 19:發射濾波器/發射濾波器件 20:分束器 21:發射濾波器 22:照明器 23:換鏡旋座 24:分束器 25:第一光源/照明源 25a:光源/照明源 28:第二光源/照明源 29:圓筒 30:載物台 32:聚焦機構 35:物鏡 40:明場/暗場滑件 40a:明場/暗場滑件 40b:明場/暗場滑件 41:暗場通道/暗場通道環 42:明場通道 43:明場組態 44:暗場組態 45:組態 46:燈 47:組態 51:暗場嵌件 52:濾波器滑件 60:分束器 90:管透鏡 100:螢光顯微鏡檢查系統(FMIS) 110:控制模組 115:電腦分析系統 120:通信通道 700:方法/程序 705:程序/方法 710:程序/方法 720:步驟 730:步驟 740:步驟 750:步驟 760:步驟 770:步驟 780:步驟 785:步驟 790:步驟 795:步驟 805:匯流排 810:處理單元/處理器 812:記憶體快取 815:系統記憶體 820:唯讀記憶體(ROM) 825:隨機存取記憶體(RAM) 830:儲存器件 832:特徵圖產生器模組 834:影像處理模組 835:輸出器件 836:儲存資訊資料庫 840:通信介面 845:輸入器件 905:影像處理演算法 920:訓練資料 1001:影像 1002:偵測特定區域 1003:自區域提取特徵 1005:深度卷積網路分類器 1006:依不同定向、不同大小、不同像素強度、一樣本上之不同位置產生不同類型之樣本之已知缺陷 1007:模擬擴充資料 1009:將FMIS 100之一或多個候選影像輸入至一分類器中 1010:分析提取特徵且將特徵分類成若干類型且定位樣本上之該等特徵 F1:發射/激發濾波器 F2:發射/激發濾波器 F3:發射/激發濾波器
為描述可獲得本發明之上述及其他優點及特徵的方式,將藉由參考附圖中所繪示之本發明之特定實施例來呈現上文所簡要描述之原理之一更特定描述。應瞭解,此等圖式僅描繪本發明之例示性實施例且因此不應被視為限制其範疇,本文中透過使用附圖來另外特別及詳細地描述及解釋原理,其中:
圖1A及圖1B繪示根據本發明之一些態樣之螢光顯微鏡檢查系統之實例。
圖2展示包含兩個成像器件之一螢光顯微鏡檢查系統之一實例性實施例。
圖3A及圖3B展示一螢光顯微鏡檢查系統之光路中之一明場/暗場滑件之實例性實施例。
圖3C、圖4A及圖4B展示一明場/暗場滑件之實例性實施例。
圖5A展示具有包含一暗場嵌件之一圓筒附件之一螢光顯微鏡檢查系統之一實例性實施例。
圖5B展示具有包含一暗場嵌件之一圓筒附件之一實例性換鏡旋座。
圖6A展示一暗場嵌件之一實例性實施例。
圖6B展示一圓筒附件之一實例性實施例。
圖6C展示一濾波器滑件之一實例性實施例。
圖7A展示根據本發明之一些態樣之使用一FM檢查系統來照射一樣本之一實例性方法之一高階圖。
圖7B繪示根據本發明之一些態樣之用於識別一樣本分類且自動調整FM檢查系統之光源及濾波器之一實例性程序之步驟。
圖7C繪示根據本發明之一些態樣之用於自動識別及/或分類樣本缺陷之一實例性程序之步驟。
圖8展示根據本發明之一些實施例之電腦分析系統之一實施例之一般組態。
圖9展示首先經訓練資料訓練使得一影像處理模組可識別一樣本及一樣本上之特徵之一影像處理演算法。
圖10繪示根據本發明之一些態樣之使用卷積神經網路(CNN)之一實例性分類法。
5:影像感測器
6:成像器件
8:不可見光
9:可見光
10c:光
15:濾波器機構/激發濾波器滑件
16:帶通濾波器
17:帶通濾波器
20:分束器
21:發射濾波器
22:照明器
23:換鏡旋座
25:第一光源/照明源
28:第二光源/照明源
30:載物台
32:聚焦機構
35:物鏡
40:明場/暗場滑件
60:分束器
90:管透鏡
100:螢光顯微鏡檢查系統(FMIS)
110:控制模組
115:電腦分析系統
120:通信通道

Claims (19)

  1. 一種顯微鏡系統,其包括: 一框架; 一或多個非同調光源,其連接至該框架且經組態以發射將引起一樣本發螢光之光之至少一第一波長及不會引起一樣本發螢光之光之一第二波長,其中該發射光經組態以導引至該樣本; 一激發濾波器,其連接至該框架且經組態以過濾來自該一或多個非同調光源之光,其中該過濾光經組態以匹配與該樣本相關聯之一預定帶隙能量; 一物鏡,其連接至該框架,該物鏡包括一明場通道及一暗場通道; 一換鏡旋座,其經由一附件來連接至該物鏡; 一滑件,其連接至該框架且沿該物鏡與該一或多個非同調光源之間的一光路定位,其中該滑件包含經組態以沿該光路將光傳輸至至少一暗場通道的至少一組態,該至少一暗場通道經組態以使光依一斜角導引至該樣本;及 一發射濾波器,其連接至該框架且經組態以過濾自該樣本反射至一接收攝影機之光之選定波長; 一或多個處理器;及 一記憶體,其儲存指令,該等指令由於由該一或多個處理器執行而引起該顯微鏡系統: 自該接收攝影機接收影像資料,該影像資料基於自該樣本反射之該經導引光; 由一經訓練分類器基於該接收影像資料來分類該樣本; 擷取與該樣本之該分類相關聯之儲存系統組態; 將該等系統組態應用於該等非同調光源、該激發濾波器、該發射濾波器或該接收攝影機之一或多者; 自該接收攝影機獲得額外影像資料,在已應用該等系統組態之後獲得該額外影像資料; 由一影像資料模型基於該獲得額外影像資料來識別樣本缺陷;及 基於該等樣本缺陷來產生一特徵圖。
  2. 如請求項1之系統,其中該滑件之該至少一組態經組態以將光透射至該明場通道及該暗場通道兩者。
  3. 如請求項1之系統,其中該滑件係: 一濾波器滑件,其連接至該框架且定位於暗場嵌件下方,該濾波器滑件經組態以提供多種類型之激發濾波器;及 一或多個額外發射濾波器,其用於該明場通道或該暗場通道之一或多者。
  4. 如請求項1之系統,其進一步包括至少一第二攝影機,且其中該發射光包括導引至各自攝影機之可見光及不可見光。
  5. 如請求項1之系統,其進一步包括連接至該框架之一或多個額外攝影機,各額外攝影機經組態以接收光之各自唯一波長。
  6. 如請求項1之系統,其進一步包括: 一或多個處理器;及 一記憶體,其儲存指令,該等指令在由該一或多個處理器執行時引起該一或多個處理器: 自該接收攝影機接收影像資料,該影像資料基於來自該樣本之該經導引光; 由一經訓練分類器基於該接收影像資料來分類該樣本; 擷取與該樣本之該分類相關聯之儲存系統組態;及 將該等系統組態應用於該等光源、該激發濾波器、該發射濾波器或該接收攝影機之一或多者;
  7. 如請求項6之系統,其中該記憶體儲存進一步指令以: 自該接收攝影機接收額外影像資料,在已應用該等系統組態之後接收該額外影像資料; 由一影像資料模型基於該接收額外影像資料來識別樣本缺陷;及 基於該等樣本缺陷來產生一特徵圖。
  8. 如請求項1之系統,其中該一或多個非同調光源進一步包括: 一第一光源,其連接至該框架且經組態以將來自該一或多個非同調光源之反射光發射至該樣本;及 一額外光源,其在該樣本下方附接至該框架且經組態以藉由使指向該樣本之光與由該一或第一非同調光源發射之該光同時發射來提高該樣本上光之強度。
  9. 如請求項1之系統,其進一步包括連接至該框架且經組態以導引發射光朝向該樣本之一分束器。
  10. 一種方法,其包括: 自一或多個非同調光源發射引起一樣本發螢光之光之至少一第一波長及不引起該樣本發螢光之光之一第二波長,其中將該發射光導引至該樣本; 透過一激發濾波器來過濾該發射光,該過濾光匹配一預定帶隙能量; 使該發射光透射穿過一滑件、經由一物鏡之一暗場通道來依一斜角至該樣本; 使用一發射濾波器來將自該樣本反射之光導引至一接收攝影機,該反射光回應於該經導引過濾光,其中自該樣本反射之該經導引光包括選定波長; 自該接收攝影機接收基於自該樣本反射之該經導引光的影像資料; 由一經訓練分類器基於該影像資料來分類該樣本; 擷取與該樣本之該分類相關聯之儲存系統組態; 將該等系統組態應用於該等非同調光源、該激發濾波器、該發射濾波器或該接收攝影機之一或多者; 自該接收攝影機獲得額外影像資料,在應用該等系統組態之後獲得該額外影像資料; 由一影像資料模型基於該獲得額外影像資料來識別樣本缺陷;及 基於該等樣本缺陷來產生一特徵圖。
  11. 如請求項10之方法,其進一步包含使該過濾光透射穿過該滑件至該物鏡之一明場通道而至該樣本。
  12. 如請求項10之方法,其中包括一環狀燈光之定位於該物鏡之該暗場通道上方之一暗場嵌件使光經由該物鏡之該暗場通道來依一斜角發射至該樣本。
  13. 如請求項10之方法,其中該發射光包括可見光及不可見光,且該方法進一步包括由一第二攝影機接收自該樣本反射之該經導引光之至少一部分。
  14. 如請求項10之方法,其進一步包括由一或多個額外攝影機接收自該樣本反射之該光之唯一波長。
  15. 如請求項10之方法,其進一步包括: 自該接收攝影機接收影像資料,該影像資料基於自該樣本反射之該經導引光; 由一經訓練分類器基於該接收影像資料來分類該樣本; 擷取與該樣本之該分類相關聯之儲存系統組態;及 將該等系統組態應用於該等光源、該激發濾波器、該發射濾波器或該接收攝影機之一或多者;
  16. 如請求項15之方法,其進一步包括: 自該接收攝影機接收額外影像資料,在已應用該等系統組態之後接收該額外影像資料; 由一影像資料模型基於該接收額外影像資料來識別樣本缺陷;及 基於該等樣本缺陷來產生一特徵圖。
  17. 如請求項10之方法,其進一步包括: 自該一或多個非同調光源之一第一光源發射一第一光朝向該樣本;及 藉由使該一或多個非同調光源之一額外光源自該樣本下方發射指向該樣本之一第二光來提高該樣本上光之強度,其中該額外光與由該一或多個非同調光源之該第一光源發射之該光同時發射。
  18. 如請求項10之方法,其進一步包括由一分束器導引該發射光朝向該樣本。
  19. 一種顯微鏡裝置,其包括: 一或多個非同調光源,其經組態以發射將引起一樣本發螢光之光之至少一第一波長及不會引起該樣本發螢光之光之一第二波長,其中該發射光經組態以導引至該樣本; 一激發濾波器,其經組態以過濾來自該一或多個光源之光,其中該過濾光經組態以匹配與該樣本相關聯之一預定帶隙能量; 一物鏡,其包括一明場通道及一暗場通道; 一換鏡旋座,其經由一附件來連接至該物鏡; 一暗場嵌件,其緊固至該附件且定位於該物鏡之該暗場通道上方,該暗場嵌件包括經組態以使光依一斜角投射向該樣本之一環狀燈光; 一發射濾波器,其經組態以過濾自該樣本至一接收攝影機之反射光之選定波長; 一或多個處理器;及 一記憶體,其儲存指令,該等指令在由該一或多個處理器執行時引起該一或多個處理器: 自該接收攝影機接收影像資料,該影像資料基於自該樣本反射之該經導引光; 由一經訓練分類器基於該接收影像資料來分類該樣本; 擷取與該樣本之該分類相關聯之儲存系統組態; 將該等系統組態應用於該等光源、該激發濾波器、該發射濾波器或該接收攝影機之一或多者; 自該接收攝影機接收額外影像資料,在已應用該等系統組態之後接收該額外影像資料; 由一影像資料模型基於該接收額外影像資料來識別樣本缺陷;及 基於該等樣本缺陷來產生一特徵圖。
TW109103847A 2019-02-07 2020-02-07 螢光顯微鏡檢查系統、裝置及方法 TWI837296B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201962802246P 2019-02-07 2019-02-07
US62/802,246 2019-02-07
US201962836206P 2019-04-19 2019-04-19
US62/836,206 2019-04-19

Publications (2)

Publication Number Publication Date
TW202037901A true TW202037901A (zh) 2020-10-16
TWI837296B TWI837296B (zh) 2024-04-01

Family

ID=

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114720436A (zh) * 2022-01-24 2022-07-08 四川农业大学 基于荧光高光谱成像的农产品品质参数检测方法及设备
TWI801224B (zh) * 2022-04-27 2023-05-01 財團法人工業技術研究院 顯微觀察方法及顯微觀察裝置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114720436A (zh) * 2022-01-24 2022-07-08 四川农业大学 基于荧光高光谱成像的农产品品质参数检测方法及设备
TWI801224B (zh) * 2022-04-27 2023-05-01 財團法人工業技術研究院 顯微觀察方法及顯微觀察裝置

Also Published As

Publication number Publication date
US10578850B1 (en) 2020-03-03

Similar Documents

Publication Publication Date Title
JP7226856B2 (ja) 蛍光顕微鏡検査システム、装置および方法
KR102539921B1 (ko) 자동으로 생성된 결함 피처를 가진 반도체 구조의 검사를 위한 방법 및 시스템
JP7080884B2 (ja) 三次元半導体構造の検査用の欠陥発見およびレシピ最適化
US10578850B1 (en) Fluorescence microscopy inspection systems, apparatus and methods
JP7320882B2 (ja) 反射標本のマクロ検査のためのシステム、方法および装置
EP3864578A1 (en) Macro inspection systems, apparatus and methods
TW202043744A (zh) 無監督之缺陷分段
EP4371059A1 (en) System, method and apparatus for macroscopic inspection of reflective specimens
JP2023501581A (ja) 非直交配置の照明対物レンズおよび集光対物レンズを用いたオープントップ型ライトシート顕微鏡
TWI837296B (zh) 螢光顯微鏡檢查系統、裝置及方法
US20230206405A1 (en) System, method and apparatus for macroscopic inspection of reflective specimens
US20240126063A1 (en) Fluorescence microscopy inspection systems, apparatus and methods
TWI839774B (zh) 反光樣件之宏觀檢查的系統、方法及裝置
US20230258918A1 (en) Digital microscope with artificial intelligence based imaging
TWM556447U (zh) 顯微掃描裝置