TWI787630B - 基於人工智能的瑕疵檢測方法及其光學檢測系統 - Google Patents
基於人工智能的瑕疵檢測方法及其光學檢測系統 Download PDFInfo
- Publication number
- TWI787630B TWI787630B TW109122671A TW109122671A TWI787630B TW I787630 B TWI787630 B TW I787630B TW 109122671 A TW109122671 A TW 109122671A TW 109122671 A TW109122671 A TW 109122671A TW I787630 B TWI787630 B TW I787630B
- Authority
- TW
- Taiwan
- Prior art keywords
- neural network
- object image
- network model
- category
- image
- Prior art date
Links
Images
Landscapes
- Eyeglasses (AREA)
- Testing Of Optical Devices Or Fibers (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Analysis (AREA)
Abstract
一種基於人工智能的瑕疵檢測方法,適用於光學檢測系統,以檢測待測物的瑕疵。於此,待測物的物件影像會饋入光學檢測系統的第一神經網路模型、第二神經網路模型與第三神經網路模型。複數第三神經網路模型一對一對應複數瑕疵,並各第三神經網路模型識別物件影像是否存在屬於其對應的單一瑕疵的瑕疵影像。在第一神經網路模型對待測物的物件影像進行線上檢測時,第二神經網路模型搭配複數第三神經網路模型以同一物件影像進行驗證。如此,得以降低神經網路模型導入時程及人力。
Description
本發明是關於瑕疵物件的檢測技術,特別是關於一種基於人工智能的瑕疵檢測方法及其光學檢測系統。
在自動化生產中,需耗費人力資源進行產品檢測,以淘汰不良品。業界往往無法透過人力進行線上100%的產品檢測,因而導入自動光學檢測(Automated Optical Inspection,AOI)技術取代人工目視檢測,以大幅縮短檢測處理時間,進而降低生產成本。自動光學檢測是高速度、高精確度的光學影像檢測系統。在產品的製程中,自動光學檢查可取得產品的表面狀態,再以電腦影像處理技術來檢出異物或圖案異常等瑕疵。
然而,傳統AOI設備在進行瑕疵檢測時,漏檢(underkill,又稱Leakage,未檢測出瑕疵,將壞樣本誤判為好樣本)或誤殺(overkill,將好樣本誤判為壞樣本)是可能出現的。對於漏檢或誤殺,傳統上須仰賴人員複判,但這將造成檢測成本無法大幅降低。導入人工智能後雖可提升檢測效能,然依現行做法人工智能導入至AOI設備的驗證時程仍相當冗長。
在一實施例中,一種基於人工智能的光學檢測系統,包括:
移載裝置、影像擷取裝置以及處理電路。移載裝置使複數待測物逐一移動至一檢測位置。影像擷取裝置對準檢測位置,並逐一擷取位於檢測位置的待測物的物件影像。處理電路耦接影像擷取裝置,並執行第一神經網路模型、第二神經網路模型與一對一對應複數種瑕疵的複數第三神經網路模型。其中,於擷取到任一待測物的物件影像時,處理電路以第一神經網路模型分析並判定物件影像為複數預定類別中之一以得到一檢測結果。於此,複數預定類別包括:代表物件影像存在瑕疵的瑕疵影像的有瑕疵類別以及代表物件影像不存在瑕疵的瑕疵影像的無瑕疵類別。
並且,於擷取到任一待測物的物件影像時,處理電路還以第二神經網路模型分析並判定物件影像為複數預定類別中之一以得到一第一輸出、將物件影像饋入至複數第三神經網路模型、以各第三神經網路模型分析並辨識物件影像是否存在對應的瑕疵的瑕疵影像以得到一第二輸出,以及根據第一輸出與各第二輸出產生一驗證結果。
在一實施例中,一種基於人工智能的瑕疵檢測方法,包括:接收一待測物的物件影像;將物件影像饋入一第一神經網路模型、一第二神經網路模型與一對一對應複數種瑕疵的複數第三神經網路模型;以第一神經網路模型分析並判定物件影像複數預定類別中之一以得到一檢測結果,其中複數預定類別包括代表物件影像存在瑕疵的瑕疵影像的有瑕疵類別以及代表物件影像不存在瑕疵的瑕疵影像的無瑕疵類別;以第二神經網路模型分析並判定物件影像複數預定類別中之一以得到一第一輸出;以各第三神經網路模型分析並辨識物件影像是否存在對應的瑕疵的瑕疵影像以得到一第二輸出;以及根據第一輸出與各第二輸出產生一驗證結果。
在一實施例中,一種基於人工智能的光學檢測系統,包括:移載裝置、影像擷取裝置以及處理電路。移載裝置使複數待測物逐一移動至一檢測位置。影像擷取裝置對準檢測位置,並逐一擷取位於檢測位置的待測物的物件影像。處理電路耦接影像擷取裝置,並執行第一神經網路模型。其中,於擷取到任一待測物的物件影像時,處理電路以第一神經網路模型分析並判定物件影像為複數預定類別中之一以得到一檢測結果。於此,複數預定類別包括:代表物件影像存在瑕疵的瑕疵影像的有瑕疵類別、代表物件影像不存在瑕疵的瑕疵影像的無瑕疵類別以及代表無法確認物件影像有無存在瑕疵影像的未知類別。
在一實施例中,一種基於人工智能的瑕疵檢測方法,包括:接收一待測物的物件影像;將物件影像饋入一第一神經網路模型;以及以第一神經網路模型分析並判定物件影像複數預定類別中之一以得到一檢測結果,其中複數預定類別包括代表物件影像存在瑕疵的瑕疵影像的有瑕疵類別、代表物件影像不存在瑕疵的瑕疵影像的無瑕疵類別以及代表無法確認物件影像有無存在瑕疵影像的未知類別。
綜上,在一些實施例中,基於人工智能的瑕疵檢測方法,適用於待測物的光學檢測系統,其在線上檢測待測物的同時能藉由一對一對應多種瑕疵的多個第三神經網路模型的復判對新版的神經網路模型(即第二神經網路模型)進行驗證,進而降低神經網路模型導入時程及人力。在一些實施例中,基於人工智能的瑕疵檢測方法,適用於待測物的光學檢測系統,其增加代表無法確認物件影像有無存在瑕疵影像的未知類別的判定,以作為日後新版神經網路模型的訓練材料。
10:光學檢測系統
101:框架
102:電腦主機
103:抓取機械手臂
104:送料軌道
105:震動盤
110:移載裝置
112,114:輸送輪
116:承載治具
117:滾筒
117a:開口
118:漏斗
119:輸送帶
120:影像擷取裝置
130:處理電路
131:輸入單元
132a:第一神經網路模型
132b:第二神經網路模型
133:更新單元
134:第三神經網路模型
134a~134d:第三神經網路模型
135:輸出單元
137:驗證單元
138:標記單元
139:傳輸單元
140:警示裝置
150:儲存裝置
151~158:資料匣
160:顯示裝置
170:連網模組
180:分類裝置
190:蒐集箱
190a:瑕疵蒐集箱
190b:合格蒐集箱
20:捲帶式半導體組件
210:半導體元件
220:捲帶
220a,220b:表面
310:機構件
410:顆粒物
30:網路
40:伺服器
IM:物件影像
DA:檢測位置
S11~S16:步驟
圖1為一實施例的基於人工智能的光學檢測系統的功能方塊圖。
圖2為圖1的基於人工智能的光學檢測系統的第一示範例的示意圖。
圖3為圖2的半導體元件的示意圖。
圖4為圖1的基於人工智能的光學檢測系統的第二示範例的示意圖。
圖5為圖1的基於人工智能的光學檢測系統的第三示範例的示意圖。
圖6為圖1的處理電路的一示範例的功能方塊圖。
圖7為一實施例的基於人工智能的瑕疵檢測方法的流程圖。
圖8為圖1的處理電路的另一示範例的局部功能方塊圖。
圖9為圖1的處理電路的又一示範例的功能方塊圖。
為了清楚表現各元件,於圖式中有時會以透明化或省略的方式呈現絕緣層,然此非本發明之限制。並且,以下述及之「第一」、「第二」、「第三」及「第四」等術語,其係用以區別所指之元件,而非用以排序或限定所指元件之差異性,且亦非用以限制本發明之範圍。
參照圖1,一種基於人工智能的光學檢測系統10(以下簡稱光學檢測系統10),其包括移載裝置110、影像擷取裝置120以及處理電路130。在一些實施例中,此光學檢測系統10可由自動光學檢測機台實現,如圖2、圖4及圖5所示。
於此,光學檢測系統10能用以檢測製作完成的待測物是否存在缺陷。在一些實施例中,待測物可為半導體元件、機構件、或顆粒物。
在第一示範例中,參照圖2及圖3,基於人工智能的光學檢測系統10能用以檢測封裝完成的半導體元件210是否存在封裝上的瑕疵。其中,封裝上的瑕疵可例如空焊(void welding)、氣泡(bubble)、爬膠(underfill overflow)、毛邊(backside chipping)或其任意組合。舉例來說,半導體元件210可為以玻璃覆晶封裝(Chip On Glass,COG)技術所形成的封裝晶片、以薄膜覆晶封裝(Chip on Film,COF)技術所形成的封裝晶片、或以塑膠基板覆晶封裝(Chip On Plastic,COP)所形成的封裝晶片等。在第二示範例中,參照圖4,基於人工智能的光學檢測系統10能用以檢測封裝完成的機構件310是否存在瑕疵。其中,機構件310的瑕疵可例如異物(foreign debris)、壓痕(dent)、污漬(stain)、變形(deformation)、汙染(contamination)、切邊(trimming)、溢流(overflow)、裂痕(chipping)或其任意組合。在一些實施例中,機構件310可例如接頭、線束、手機機殼等,但不以此為限。在第三示範例中,參照圖5,基於人工智能的光學檢測系統10能用以檢測封裝完成的顆粒物410是否存在瑕疵。其中,顆粒物410可為咖啡豆或諸如膠囊、藥錠等藥品。當顆粒物410可為咖啡豆時,顆粒物410的瑕疵可例如奎克(Quaker)豆、蟲蛀(insect damage)豆、貝殼(sshell)豆、破裂(broken/chipped/cut)豆、隕石豆(即烘培瑕疵豆)、銀皮(parchment)豆(又稱帶殼豆)、碳化豆(dark bean)或其任意組合。當顆粒物410可為藥錠時,顆粒物410的瑕疵可例如角落斑點、黑線、刻字處斑點、三層錠斑點、缺字、邊緣破損、塗層邊緣缺損、塗層頂部缺損、頂部表面缺損、邊緣破損、破損、側面斑點、頂裂、側面裂痕、刻字處汙點、非刻字處汙點、分裂線上斑點、圖層頂部缺
損、形狀異常、表面隆起、刻字處缺損或其任意組合。當顆粒物410可為膠囊時,顆粒物410的瑕疵可例如表面斑點、空膠囊、缺字、表面凹洞、連接處瑕疵、凹痕、膠囊帽凹洞、角落斑點或其任意組合。
其中,處理電路130耦接移載裝置110與影像擷取裝置120,並用以控制移載裝置110與影像擷取裝置120等組件的運作。
在一些實施例中,移載裝置110對應檢測位置DA設置光學檢測系統10的框架101上,以致使移載裝置110能使待測物逐一移動至檢測位置DA。在第一示範例中,參照圖1至圖3,以待測物為半導體元件210且各半導體元件210為一封裝晶片為例,待檢測的多個半導體元件210依序位於一捲帶220上(即構成捲帶式半導體組件20),以及移載裝置110捲動捲帶220以逐一移動待檢測的多個半導體元件210至檢測位置DA。舉例來說,移載裝置110可包括二輸送輪112、114。各半導體元件210為一封裝晶片,並且待檢測的多個半導體元件210依序位於一捲帶220上,如圖3所示。於此,參照圖2及圖3,捲帶220具有相對二表面220a、220b。待檢測的多個半導體元件210位於捲帶220的表面220b上。捲帶220的二端分別捲繞於二輸送輪112、114上。於檢測時,處理電路130控制二輸送輪112、114以同方向(如,順時鐘方向或逆時鐘方向)轉動以捲動捲帶220使捲帶220上的半導體元件210逐一經過影像擷取裝置120面向的檢測位置DA。其中,捲帶220可為捲帶式軟性電路板(FPC)。應能明瞭的是,在圖2中,半導體元件210是位於捲帶220相對於表面220a的另一側表面,故以虛線繪製部分半導體元件210以示意。在第二示範例中,參照圖1及圖4,以待測物為機構件310為例,移載裝置110可為承載治具116,並且透
過抓取機械手臂103、送料軌道104與震動盤105將待檢測的機構件310放置到承載治具116上。藉由旋轉承載治具116而將承載治具116上的機構件310移動至各影像擷取裝置120所對準的檢測位置DA上。在第三示範例中,參照圖1及圖5,以待測物為顆粒物410為例,移載裝置110可包括滾筒117與漏斗118。透過旋轉滾筒117使滾筒117中的顆粒物410逐一從滾筒117上的開口117a帶出滾筒117並掉落至漏斗118內。顆粒物410順著漏斗118經過影像擷取裝置120所對準的檢測位置DA,以供影像擷取裝置120擷取顆粒物410的物件影像IM。換言之,漏斗118的下半部為透明管道,且透明管道的內部即為檢測位置DA。於顆粒物410通過透明管道時,影像擷取裝置120即可擷取通過透明管道的顆粒物410的物件影像IM。
參照圖1至圖5,影像擷取裝置120則對準檢測位置DA設置光學檢測系統10的框架101上。影像擷取裝置120的感測面面向檢測位置DA。
參照圖1至圖7,在執行檢測程序時,處理電路130驅動移載裝置110,以致使移載裝置110驅使多個待測物逐一移動至檢測位置DA(步驟S11)。並且,處理電路130驅動影像擷取裝置120,以致使影像擷取裝置120會逐一擷取位於檢測位置DA的待測物的物件影像IM(步驟S11)。換句話說,當待檢測的多個待測物中的任一者移動至檢測位置DA時,影像擷取裝置120會擷取位於檢測位置DA中的待測物的物件影像IM。在一些實施例中,光學檢測系統10依檢測需求設置單一個影像擷取裝置120,或是設置多個影像擷取裝置120。在一示範例中,光學檢測系統10可具有多個影像擷取裝置120,並且此些影像擷取裝置120是相對於待測物以相
同角度擷取待測物的物件影像IM。在另一示範例中,光學檢測系統10可具有多個影像擷取裝置120,並且此些影像擷取裝置120是相對於待測物以不同角度擷取待測物的物件影像IM,如圖4所示。
處理電路130下載安裝並執行一第一神經網路模型132a、一第二神經網路模型132b以及多個第三神經網路模型134,如圖6所示。於此,處理電路130所具有的第一神經網路模型132a、第二神經網路模型132b與各第三神經網路模型134可為已完成訓練(以下稱第一階段訓練)的神經網路模型。此外,參照圖6,處理電路130還具有輸入單元131、輸出單元135與驗證單元137。輸入單元131的輸出耦接第一神經網路模型132a的輸入與第二神經網路模型132b的輸入。第一神經網路模型132a的輸出耦接輸出單元135。第二神經網路模型132b的輸出耦接多個第三神經網路模型134的輸入。驗證單元137的輸入耦接第二神經網路模型132b的輸出與第三神經網路模型134的輸出。於此,第二神經網路模型132b是作為第一神經網路模型132a的更新程式。
於影像擷取裝置120擷取到的任一待測物的物件影像IM時,影像擷取裝置120會擷取到的物件影像IM提供給處理電路130。此時,處理電路130的輸入單元131接收來自影像擷取裝置120的物件影像IM並將此物件影像IM饋入第一神經網路模型132a、第二神經網路模型132b與所有第三神經網路模型134(步驟S12)。
於物件影像IM饋入(步驟S12)後,第一神經網路模型132a(即在預測模式下)會分析待測物的物件影像IM來確認此待測物是否存在瑕疵並據以判定此物件影像IM為複數預定類別中之一以得到一檢測結
果(步驟S13)。其中,多個預定類別包括代表物件影像IM不存在任一種瑕疵的瑕疵影像的無瑕疵類別以及代表物件影像IM存在至少一種瑕疵的瑕疵影像的有瑕疵類別。舉例來說,假設預定類別為有瑕疵類別與無瑕疵類別。於第一神經網路模型132a透過分析物件影像IM確認此待測物不存在瑕疵時,第一神經網路模型132a得到此待測物的物件影像IM屬於無瑕疵類別之檢測結果,即表示待測物無瑕疵。於第一神經網路模型132a透過分析物件影像IM確認此待測物存在瑕疵時,第一神經網路模型132a得到此待測物的物件影像IM屬於有瑕疵類別之檢測結果,即表示待測物有瑕疵。在一些實施例中,多個預定類別還可更包括代表無法確認物件影像IM有無存在瑕疵影像的未知(unknown)類別。舉例來說,假設預定類別為有瑕疵類別、無瑕疵類別與未知類別。於第一神經網路模型132a透過分析物件影像IM確認此待測物不存在瑕疵時,第一神經網路模型132a得到此待測物的物件影像IM屬於無瑕疵類別之檢測結果,即表示待測物無瑕疵。於第一神經網路模型132a透過分析物件影像IM確認此待測物存在瑕疵時,第一神經網路模型132a得到此待測物的物件影像IM屬於有瑕疵類別之檢測結果,即表示待測物有瑕疵。於第一神經網路模型132a透過分析物件影像IM無法確認此待測物是否存在瑕疵時,第一神經網路模型132a得到此待測物的物件影像IM屬於未知類別之檢測結果。
於物件影像IM饋入(步驟S12)後,第二神經網路模型132b(即在預測模式下)亦會分析待測物的物件影像IM來確認此待測物是否存在瑕疵並據以判定此物件影像IM為複數預定類別中之一以得到一第一輸出(步驟S14)。在一些實施例中,由於第二神經網路模型132b是作為
第一神經網路模型132a的更新程式,因此第二神經網路模型132b所分類的多個預定類別相同於第一神經網路模型132a所分類的多個預定類別。也就是,第二神經網路模型132b所分類的多個預定類別亦包括代表物件影像IM不存在任一種瑕疵的瑕疵影像的無瑕疵類別以及代表物件影像IM存在至少一種瑕疵的瑕疵影像的有瑕疵類別。舉例來說,假設預定類別為有瑕疵類別與無瑕疵類別。於第二神經網路模型132b透過分析物件影像IM確認此待測物不存在瑕疵時,第二神經網路模型132b得到代表此待測物的物件影像IM屬於無瑕疵類別之第一輸出。於第二神經網路模型132b透過分析物件影像IM確認此待測物存在瑕疵時,第二神經網路模型132b得到代表此待測物的物件影像IM屬於有瑕疵類別之第一輸出。在一些實施例中,第二神經網路模型132b所分類的多個預定類別亦可更包括代表無法確認物件影像IM有無存在瑕疵影像的未知(unknown)類別。舉例來說,假設預定類別為有瑕疵類別、無瑕疵類別與未知類別。於第一神經網路模型132a透過分析物件影像IM確認此待測物不存在瑕疵時,第一神經網路模型132a得到此待測物的物件影像IM屬於無瑕疵類別之檢測結果,即表示待測物無瑕疵。於第一神經網路模型132a透過分析物件影像IM確認此待測物存在瑕疵時,第一神經網路模型132a得到此待測物的物件影像IM屬於有瑕疵類別之檢測結果,即表示待測物有瑕疵。於第一神經網路模型132a透過分析物件影像IM無法確認此待測物是否存在瑕疵時,第一神經網路模型132a得到此待測物的物件影像IM屬於未知類別之檢測結果。
於此,多個第三神經網路模型134一對一對應多個缺陷。於物件影像IM饋入(步驟S12)後,各第三神經網路模型134(即在預測模
式下)會分析待測物的物件影像IM來判定此待測物是否存在對應的缺陷,即辨識待測物的物件影像IM是否存在其所對應的瑕疵的瑕疵影像以得到一第二輸出(步驟S15)。其中,瑕疵影像是指物件影像IM中呈現對應的缺陷的影像區塊。在一些實施例中,於第三神經網路模型134判定此待測物存在對應的缺陷時,第三神經網路模型134得到表示物件影像IM具有對應的瑕疵的瑕疵影像的第二輸出。於第三神經網路模型134判定此待測物不存在對應的缺陷時,第三神經網路模型134得到表示物件影像IM不具有對應的瑕疵的瑕疵影像的第二輸出。在第一示範例中,假設待測物為半導體元件210、各半導體元件210為一封裝晶片,且此封裝晶片的瑕疵種類有空焊、氣泡、爬膠與毛邊。此時,第三神經網路模型134有四個,即為第三神經網路模型134a-134d。其中,第三神經網路模型134a對應於空焊,即其用以辨識待測物的物件影像IM是否存在空焊的瑕疵影像。第三神經網路模型134b對應於氣泡,即其用以辨識待測物的物件影像IM是否存在氣泡的瑕疵影像。第三神經網路模型134c對應於爬膠,即其用以辨識待測物的物件影像IM是否存在爬膠的瑕疵影像。第三神經網路模型134d對應於毛邊,即其用以辨識待測物的物件影像IM是否存在毛邊的瑕疵影像。在第二示範例中,假設待測物為機構件310,且此機構件310的瑕疵種類有異物、壓痕、污漬、變形、汙染、切邊、溢流與裂痕。此時,第三神經網路模型134有八個,且一對一對應於異物、壓痕、污漬、變形、汙染、切邊、溢流與裂痕。
然後,針對每個待測物的物件影像IM,驗證單元137會根據第二神經網路模型132b所得到的此物件影像IM的第一輸出與所有第三神
經網路模型134得到的此物件影像IM的第二輸出產生此物件影像IM的驗證結果(步驟S16)。在一些實施例中,驗證結果包括合格(ok)、漏檢(underkill)、不合格(NG)與誤殺(overkill)。針對每一物件影像IM,當第二神經網路模型132b得到代表物件影像IM屬於無瑕疵類別之第一輸出且每個第三神經網路模型134均得到代表物件影像IM不存在對應瑕疵的瑕疵影像之第二輸出時,驗證單元137會產生代表合格的驗證結果。當第二神經網路模型132b得到代表物件影像IM屬於無瑕疵類別之第一輸出但任一第三神經網路模型134得到代表物件影像IM存在對應瑕疵的瑕疵影像之第二輸出時,驗證單元137會產生代表漏檢的驗證結果。當第二神經網路模型132b得到代表物件影像IM屬於有瑕疵類別之第一輸出且任一第三神經網路模型134得到代表物件影像IM存在對應瑕疵的瑕疵影像之第二輸出時,驗證單元137會產生代表不合格的驗證結果。當第二神經網路模型132b得到代表物件影像IM屬於有瑕疵類別之第一輸出但每個第三神經網路模型134均得到代表物件影像IM不存在對應瑕疵的瑕疵影像之第二輸出時,驗證單元137會產生代表誤殺的驗證結果。
如此,光學檢測系統10在線上檢測待測物的同時能對新版的神經網路模型(即第二神經網路模型132b)進行驗證。
需注意的是,雖然圖7及其對應說明是依序記載瑕疵判定程序(即步驟S13)與驗證程序(即步驟S14、S15、S16),但此順序並非本發明之限制,熟習相關技藝者應可瞭解在合理情況下部分步驟的執行順序可同時進行或先後對調。
在一些實施例中,輸出單元135的輸出可耦接儲存裝置
150,並且儲存裝置150具有多個資料匣151-153。此些資料匣151-153分別代表不同的檢測結果。輸出單元135還會根據所產生的檢測結果將對應的物件影像IM儲存在對應的資料匣(151-153中之一)中。在一示範例中,檢測結果可為物件影像IM屬於有瑕疵類別與的物件影像IM屬於無瑕疵類別。儲存裝置150具有代表有瑕疵的資料匣151與代表無瑕疵的資料匣152。因此,輸出單元135會將屬於有瑕疵類別的物件影像IM存入代表有瑕疵的資料匣151中,並將屬於無瑕疵類別的物件影像IM存入代表無瑕疵的資料匣152中。在另一示範例中,檢測結果可為物件影像IM屬於有瑕疵類別、物件影像IM屬於無瑕疵類別與物件影像IM屬於未知類別。儲存裝置150具有代表有瑕疵的資料匣151、代表無瑕疵的資料匣152與代表未知的資料匣153。因此,輸出單元135會將屬於有瑕疵類別的物件影像IM存入代表有瑕疵的資料匣151中、將屬於無瑕疵類別的物件影像IM存入代表無瑕疵的資料匣152中,並將屬於未知的物件影像IM存入代表未知的資料匣152中。
在一些實施例中,驗證單元137的輸出亦可耦接儲存裝置150,並且儲存裝置150更具有多個資料匣154-158。此些資料匣154-158分別代表不同的多個驗證結果。驗證單元137還會根據所產生的驗證結果將對應的物件影像IM儲存在對應的資料匣(154-158中之一)中。在一示範例中,驗證結果可為合格、漏檢、不合格與誤殺。儲存裝置150具有代表合格的資料匣154、代表漏檢的資料匣155、代表不合格的資料匣156與代表誤殺的資料匣157。因此,驗證單元137會將驗證結果為合格的物件影像IM儲存在代表合格的資料匣154中、將驗證結果為漏檢的物件影像IM
儲存在代表漏檢的資料匣154中、將驗證結果為不合格的物件影像IM儲存在代表不合格的資料匣154中、以及將驗證結果為誤殺的物件影像IM儲存在代表誤殺的資料匣154中。在另一示範例中,驗證結果可為合格、漏檢、不合格、誤殺與未知。儲存裝置150具有代表合格的資料匣154、代表漏檢的資料匣155、代表不合格的資料匣156、代表誤殺的資料匣157與代表未知的資料匣158。因此,驗證單元137會將驗證結果為合格的物件影像IM儲存在代表合格的資料匣154中、將驗證結果為漏檢的物件影像IM儲存在代表漏檢的資料匣154中、將驗證結果為不合格的物件影像IM儲存在代表不合格的資料匣154中、將驗證結果為誤殺的物件影像IM儲存在代表誤殺的資料匣154中、以及將驗證結果為未知的物件影像IM儲存在代表未知的資料匣154中。
在一些實施例中,處理電路130可更包括一標記單元138。標記單元138耦接儲存裝置150與顯示裝置160。
在一示範例中,標記單元138會執行一標記程序以讀出存於資料匣154-158中的任一物件影像IM、將讀出的物件影像IM在顯示裝置160顯示,並根據使用者的操作對顯示的物件影像IM進行標記,以對物件影像IM中的瑕疵影像作記號。於標記後,標記單元138會將物件影像IM存回讀出的資料匣(154-158中之一)中。
在另一示範例中,標記單元138會執行一檢閱程序以讀出存於資料匣151-153及/或資料匣154-158中的任一物件影像IM並將讀出的物件影像IM在顯示裝置160顯示,以供使用者檢閱並確認驗證結果是否正確。舉例來說,使用者檢閱代表合格的資料匣154中的物件影像IM以確認
物件影像IM是否確實無瑕疵存在。使用者檢閱代表漏檢的資料匣155中的物件影像IM以確認物件影像IM是否有瑕疵存在。使用者檢閱代表不合格的資料匣156中的物件影像IM以確認物件影像IM是否有瑕疵存在。使用者檢閱代表誤殺的資料匣157中的物件影像IM以確認物件影像IM是否確實無瑕疵存在。在一些實施例中,標記單元138在執行檢閱程序時,還能根據使用者的操作對顯示的物件影像IM進行檢閱結果的註記。於檢閱後,標記單元138會將註記後的物件影像IM存回讀出的資料匣(154-158中之一)中。於此,代表合格的資料匣154與代表不合格的資料匣156中的物件影像IM只需人為抽檢,而代表漏檢的資料匣155與代表誤殺的資料匣157中的物件影像IM再由人為全檢,藉以減少驗證時需要人為全檢所耗費的時間。舉例來說,標記單元138於執行檢閱程序時會從代表合格的資料匣154的全部物件影像IM中隨機讀取並逐一顯示部分物件影像IM、從代表不合格的資料匣156中的全部物件影像IM中隨機讀取並逐一顯示部分物件影像IM,以及逐一讀取並顯示代表漏檢的資料匣155中的全部物件影像IM與代表誤殺的資料匣157中的物件影像IM。
在又一示範例中,標記單元138同時具有前述標記程序與前述檢閱程序的執行能力。
在一些實施例中,光學檢測系統10還包括警示裝置140。警示裝置140耦接處理電路130,並由處理電路130控制其運作。換言之,處理電路130的輸出單元135還耦接警示裝置140。於判定待測物的檢測結果為物件影像IM屬於有瑕疵類別時,輸出單元135會輸出一致能訊號,以致使警示裝置140發出一告警。在一些實施例中,於待測物的檢測結果為物
件影像IM屬於有瑕疵類別,即表示檢測到此待測物存在瑕疵時,輸出單元135還會暫停移載裝置110與影像擷取裝置120的運作,以待檢查員來確認此物件影像IM所對應的待測物是否確實存在瑕疵。於確認完成後,處理電路130再重新啟動移載裝置110與影像擷取裝置120。
在一些實施例中,光學檢測系統10還包括分類裝置180與一對一對應多個檢測結果的蒐集箱190。分類裝置180耦接處理電路130,並由處理電路130控制其運作。分類裝置180還對應蒐集箱190設置。換言之,處理電路130的輸出單元135還耦接分類裝置180,並根據檢測結果輸出控制訊號給分類裝置180。於待測物的檢測結果判定為物件影像IM屬於有瑕疵類別時,分類裝置180響應控制訊號將待測物分檢至對應物件影像IM屬於有瑕疵類別之檢測結果的蒐集箱190。於待測物的檢測結果判定為物件影像IM屬於無瑕疵類別時,分類裝置180響應控制訊號將待測物分檢至對應物件影像IM屬於無瑕疵類別之檢測結果的蒐集箱190。承接前述第三示範例中,移載裝置110可更包括輸送帶119。漏斗118的下方出口耦接輸送帶119的一端,並且輸送帶119的另一端對準分類裝置180。落入漏斗118內的顆粒物410經由漏斗118的下方出口進入輸送帶119,並經由輸送帶119輸送至分類裝置180。分類裝置180根據檢測結果將顆粒物410分類至對應的蒐集箱190中。如,檢測結果為顆粒物410屬於有瑕疵類別時,分類裝置180將對應的顆粒物410分類至瑕疵蒐集箱190a。檢測結果為顆粒物410屬於無瑕疵類別時,分類裝置180將對應的顆粒物410分類至合格蒐集箱190b。舉例來說,顆粒物410為咖啡豆時,分類裝置180將檢測結果為顆粒物410屬於有瑕疵類別之咖啡豆分檢至瑕疵豆蒐集箱(如瑕疵蒐
集箱190a),並且將檢測結果為顆粒物410屬於無瑕疵類別之咖啡豆分檢至好豆蒐集箱(如合格蒐集箱190b)。
在步驟S13的一實施例中,處理電路130以第一神經網路模型132a計算此物件影像IM於有瑕疵類別的可能性與無瑕疵類別的可能性並且根據計算得的有瑕疵類別的可能性與無瑕疵類別的可能性判定此物件影像IM所代表的待測物的檢測結果。在一示範例中,第一神經網路模型132a是以可能性最高的預定類別作為檢測結果。舉例來說,當無瑕疵類別的可能性為最高值時,第一神經網路模型132a判定此物件影像IM屬於無瑕疵類別(即檢測結果),即表示物件影像IM不存在有瑕疵影像,也就是說,物件影像IM所屬的待測物為無存在瑕疵的合格產品。當有瑕疵類別的可能性為最高值時,第一神經網路模型132a判定此物件影像IM屬於有瑕疵類別(即檢測結果),即表示物件影像IM存在任一種瑕疵的瑕疵影像,也就是說,物件影像IM所屬的待測物存在對應的瑕疵。在另一示範例中,第一神經網路模型132a以一閥值(以下稱第一閥值)比較有瑕疵類別的可能性與無瑕疵類別的可能性並根據比較結果得到檢測結果。舉例來說,當無瑕疵類別的可能性大於第一閥值時,第一神經網路模型132a判定此物件影像IM屬於無瑕疵類別(即檢測結果)。當有瑕疵類別的可能性大於第一閥值時,第一神經網路模型132a判定此物件影像IM屬於有瑕疵類別(即檢測結果)。在另一示範例中,第一神經網路模型132a以二閥值(以下稱第一閥值與第二閥值)比較有瑕疵類別的可能性與無瑕疵類別的可能性並根據比較結果得到檢測結果。其中,第一閥值大於第二閥值。舉例來說,當無瑕疵類別的可能性大於第一閥值時,第一神經網路模
型132a判定此物件影像IM屬於無瑕疵類別(即檢測結果)。當有瑕疵類別的可能性大於第一閥值時,第一神經網路模型132a判定此物件影像IM屬於有瑕疵類別(即檢測結果)。當無瑕疵類別的可能性與有瑕疵類別的可能性均小於第二閥值時,第一神經網路模型132a判定此物件影像IM屬於未知類別(即檢測結果)。在一些實施例中,前述之閥值可為依據所需的精準度而預先設定的定值。在一示範例中,前述之可能性可以百分比來表示,即介於0%至100%之間。因此,前述之閥值可為大於0%且小於或等於100%的任意數。
在步驟S14的一實施例中,處理電路130以第二神經網路模型132b計算此物件影像IM於有瑕疵類別的可能性與無瑕疵類別的可能性並且根據計算得的有瑕疵類別的可能性與無瑕疵類別的可能性判定此物件影像IM所代表的待測物的檢測結果。在一示範例中,第二神經網路模型132b是以可能性最高的預定類別作為檢測結果。舉例來說,當無瑕疵類別的可能性為最高值時,第二神經網路模型132b判定此物件影像IM屬於無瑕疵類別(即第一輸出)。當有瑕疵類別的可能性為最高值時,第二神經網路模型132b判定此物件影像IM屬於有瑕疵類別(即第一輸出)。在另一示範例中,第二神經網路模型132b以一閥值(以下稱第一閥值)比較有瑕疵類別的可能性與無瑕疵類別的可能性並根據比較結果得到檢測結果。舉例來說,當無瑕疵類別的可能性大於第一閥值時,第二神經網路模型132b判定此物件影像IM屬於無瑕疵類別(即第一輸出)。當有瑕疵類別的可能性大於第一閥值時,第二神經網路模型132b判定此物件影像IM屬於有瑕疵類別(即第一輸出)。在另一示範例中,第二神經網路模型132b
以二閥值(以下稱第一閥值與第二閥值)比較有瑕疵類別的可能性與無瑕疵類別的可能性並根據比較結果得到檢測結果。其中,第一閥值大於第二閥值。舉例來說,當無瑕疵類別的可能性大於第一閥值時,第二神經網路模型132b判定此物件影像IM屬於無瑕疵類別(即第一輸出)。當有瑕疵類別的可能性大於第一閥值時,第二神經網路模型132b判定此物件影像IM屬於有瑕疵類別(即第一輸出)。當無瑕疵類別的可能性與有瑕疵類別的可能性均小於第二閥值時,第二神經網路模型132b判定此物件影像IM屬於未知類別(即第一輸出)。在一些實施例中,前述之閥值可為依據所需的精準度而預先設定的定值。在一示範例中,前述之可能性可以百分比來表示,即介於0%至100%之間。因此,前述之閥值可為大於0%且小於或等於100%的任意數。
在一些實施例中,各神經網路模型(即第一神經網路模型132a、第二神經網路模型132b或任一第三神經網路模型134)可以由輸入層、輸出層及中間層(隱藏層)構成。輸入層、輸出層及中間層都包括一個或多個神經元(單元)。其中,中間層可以為一層或兩層以上。在一些實施例中,各神經網路模型可為深度神經網路模型,即其包括兩層以上的中間層。輸入資料(如,物件影像IM)輸入至輸入層的各神經元,中間層的各神經元被輸入前一層或後一層的神經元的輸出信號,輸出層的各神經元被輸入前一層(即最後一層中間層)的神經元的輸出信號。注意,各神經元既可以與前一層和後一層的所有神經元連結(全連結),又可以與部分神經元連結。在一些實施例中,各神經網路模型可以深度學習演算法(如,卷積神經網路(CNN)演算法、循環神經網路(RNN)演算法或
其組合)來實現。
在一些實施例中,第二神經網路模型132b可切換為訓練模式。輸入單元131可將存在資料匣154-158中標記後的複數物件影像IM饋入訓練模式下的第二神經網路模型132b,以致第二神經網路模型132b以標記後的物件影像IM進行訓練(即為第二階段訓練)。
在一些實施例中,於第二神經網路模型132b的驗證程序完成後,第二神經網路模型132b與多個第三神經網路模型134可移除,以致第一神經網路模型132a單獨進行線上瑕疵判定程序,如圖9所示。換句話說,當光學檢測系統10上線運作後,處理電路130具有第一神經網路模型132a,不具有第二神經網路模型132b與第三神經網路模型134,並且執行第一神經網路模型132a進行待測物的檢測,即瑕疵判定程序。
在一些實施例中,處理電路130可更包括一更新單元133。在完成第二神經網路模型132b的驗證程序後,更新單元133能以第二神經網路模型132b更新第一神經網路模型132a。換句話說,光學檢測系統10以第二神經網路模型132b與一對一對應複數種瑕疵的複數第三神經網路模型134來代替人工驗證。於第二神經網路模型132b經各一對一對應複數種瑕疵的複數第三神經網路模型134驗證,再經人工確認效能可達滿意程度後,完成驗證的第二神經網路模型132b即可正式上線運作成為新版的第一神經網路模型132a(即更新取代原本的第一神經網路模型132a)。在一些實施例中,於更新後,處理電路130則不再保留第二神經網路模型132b。
在一些實施例中,處理電路130可更包括一傳輸單元139。
傳輸單元139耦接一連網模組170。連網模組170能經由網路30通訊連接伺服器40。於此,在伺服器40完成新版的第二神經網路模型132b的第一階段訓練後,傳輸單元139能藉由連網模組170從伺服器40下載完成第一階段訓練的第二神經網路模型132b。
在一些實施例中,在伺服器40完成新版的第二神經網路模型132b與複數第三神經網路模型134的第一階段訓練後,傳輸單元139亦可藉由連網模組170從伺服器40下載完成第一階段訓練的第二神經網路模型132b與第三神經網路模型134。
在一些實施例中,參照圖1至圖8,傳輸單元139還耦接儲存裝置150。於此,傳輸單元139還能藉由連網模組170上傳判定檢測結果後的各物件影像IM至伺服器40。舉例來說,傳輸單元139將整個資料匣151-153(含存於其中的物件影像IM)上傳至伺服器40。在一些實施例中,伺服器40於接收到判定檢測結果後的物件影像IM後可根據判定檢測結果後的物件影像IM計算漏檢率及誤殺率,並於漏檢率及誤殺率中任一者超過其對應的閥值時,產生用以指示第一神經網路模型132a需進行更新之通知訊息。於此,伺服器40可將此通知訊息回傳至光學檢測系統10,藉以通知使用者進行光學檢測系統10的第一神經網路模型132a的更新作業(例如:以第二神經網路模型132b更新第一神經網路模型132a,或以檢測結果為未知類別的物件影像IM訓練第四神經網路模型並於訓練後載入處理電路130以更新第一神經網路模型132a等)。舉例來說,在光學檢測系統10上線持續運作中,伺服器40將持續分析光學檢測系統10的漏檢率及誤殺率,並儲存檢測結果為未知類別的物件影像IM。當漏檢率及誤殺率有
不正常(如超過其對應的閥值)時,伺服器40將對使用者告警,以針對未知類別的物件影像IM再行人工標註,以利後續以標記後的未知類別的物件影像IM再訓練產生新的神經網路模型。在一些實施例中,漏檢率所對應的閥值與誤殺率所對應的閥值可為相同,亦可為不同。在一些實施例中,漏檢率所對應的閥值與誤殺率所對應的閥值可為依據實際需求所預設的大於0的定值。在一示範例中,相對於光學檢測系統10,伺服器40可為遠端的雲端伺服器。在另一示範例中,相對於光學檢測系統10,伺服器40可為本地端的中央控制機台。
在一些實施例中,伺服器40於接收到判定檢測結果後的物件影像IM後可根據判定檢測結果為未知類別的物件影像IM訓練一第四神經網路模型。於此,用以訓練的屬於未知類別的物件影像IM可為通過標記程式所標記的物件影像IM。並且,此些物件影像IM的標記作業能由前述之標記單元138執行前述之標記程式實施,亦可由伺服器40執行前述之標記程式實現。在一示範例中,第四神經網路模型可相同於第一神經網路模型132a。換言之,第四神經網路模型與第一神經網路模型132a可為相同程式。如,第四神經網路模型為第一神經網路模型132a的複製程式,或第一神經網路模型132a為第四神經網路模型的複製程式。如此,能藉以改善第一神經網路模型132a再訓練時效。
在一些實施例中,參照圖1至圖8,傳輸單元139還能藉由連網模組170上傳判定驗證結果後的各物件影像IM至伺服器40。舉例來說,傳輸單元139將整個資料匣154-158(含存於其中的物件影像IM)上傳至伺服器40。
在一些實施例中,伺服器40於接收到判定驗證結果後的物件影像IM後可根據判定驗證結果的物件影像IM訓練一第四神經網路模型。於此,用以訓練的物件影像IM可為通過標記程式所標記的物件影像IM。並且,此些物件影像IM的標記作業能由前述之標記單元138執行前述之標記程式實施,亦可由伺服器40執行前述之標記程式實現。在一示範例中,第四神經網路模型可相同於第二神經網路模型132b。換言之,第四神經網路模型與第二神經網路模型132b可為相同程式。如,第四神經網路模型為第二神經網路模型132b的複製程式,或第二神經網路模型132b為第四神經網路模型的複製程式。如此,能藉以改善第二神經網路模型132b再訓練時效。在另一示範例中,第四神經網路模型亦可不同於第二神經網路模型132b,也不同於第一神經網路模型132a,即相對於第二神經網路模型132b,為新版之神經網路模型。如此,能藉以改善新版之神經網路模型訓練時效。
在一實施例中,處理電路130可為一處理器。在另一實施例中,處理電路130可由一內建處理器與一可插拔式處理器實現。在一示範例中,當處理電路130由內建處理器與可插拔式處理器實現時,所有第三神經網路模型134、驗證單元137與資料匣154-158的生成與存取能由可插拔式處理器執行,而處理電路130的其他元件及其功能運作則由內建處理器執行或實現。
在一些實施例中,警示裝置140可為一蜂鳴器或一警示燈。
在一些實施例中,儲存裝置150還用以儲存相關之軟體/韌體程式、資料、數據及其組合等。儲存裝置150可由一個或多個記憶體實現。
在一些實施例中,連網模組170可以包含用於網路30訪問的有線/無線網際網路模組。無線網際網路模組支援無線網際網路技術,例如:無線LAN技術(WLAN)、無線寬頻技術(Wibro)、全球互通微波存取技術(Wimax)、高速下行封包存取技術(HSDPA)、行動通訊技術(如3G、4G、5G)等。有線網際網路模組支援有線網際網路技術,例如:數位用戶迴路技術(x Digital Subscriber Line,xDSL)、光纖到府技術(FTTH)、電力線通訊技術(PLC)等。
在一些實施例中,處理電路130、儲存裝置150與連網模組170可設置在電腦主機102中,如圖2所示。
在一些實施例中,根據本發明之基於人工智能的瑕疵檢測方法可由一電腦程式產品實現,以致於當電腦主機載入程式並執行(如電腦主機中的光學檢測系統10的處理電路130載入程式並執行載入的程式)後可完成步驟S11-S16。在一些實施例中,電腦程式產品可為一可讀取記錄媒體,而上述程式則儲存在可讀取記錄媒體中供一電腦主機載入。在一些實施例中,上述程式本身即可為電腦程式產品,並且經由有線或無線的方式傳輸至電腦中。
綜上,在一些實施例中,基於人工智能的瑕疵檢測方法,適用於待測物的光學檢測系統10,其在線上檢測待測物的同時能藉由一對一對應多種瑕疵的多個第三神經網路模型134的復判對新版的神經網路模型(即第二神經網路模型132b)進行驗證,進而降低神經網路模型導入時程及人力。在一些實施例中,基於人工智能的瑕疵檢測方法,適用於待測物的光學檢測系統10,其增加代表無法確認物件影像IM有無存在瑕疵影像
的未知類別的判定,以作為日後新版神經網路模型的訓練材料。在一些實施例中,基於人工智能的瑕疵檢測方法及其光學檢測系統,其還能提升檢測的精準度並降低漏檢率及誤殺率,進而提升檢測速度。在一些實施例中,基於人工智能的瑕疵檢測方法及其光學檢測系統,其還能從遠端之伺服器40載入新版的神經網路模型,以便於神經網路模型部屬。在一些實施例中,基於人工智能的瑕疵檢測方法及其光學檢測系統,其還能上傳檢測結果及/或驗證結果至遠端的伺服器40,以供伺服器40做進一步的數據分析及/或據以判定神經網路模型是否需要更新。在一些實施例中,基於人工智能的瑕疵檢測方法及其光學檢測系統,其還能上傳檢測結果及/或驗證結果至遠端的伺服器40,以供伺服器40進行神經網路模型的訓練。
130:處理電路
131:輸入單元
132a:第一神經網路模型
132b:第二神經網路模型
133:更新單元
134:第三神經網路模型
134a~134d:第三神經網路模型
135:輸出單元
137:驗證單元
138:標記單元
139:傳輸單元
150:儲存裝置
151~158:資料匣
160:顯示裝置
170:連網模組
IM:物件影像
Claims (31)
- 一種基於人工智能的光學檢測系統,包括:一移載裝置,使複數待測物逐一移動至一檢測位置;一影像擷取裝置,對準該檢測位置,逐一擷取位於該檢測位置的該待測物的物件影像;以及一處理電路,耦接該影像擷取裝置,執行一第一神經網路模型,其中於擷取到任一該待測物的該物件影像時,該處理電路以該第一神經網路模型分析並判定該物件影像為該複數預定類別中之一以得到一檢測結果,其中該複數預定類別包括:代表該物件影像存在複數瑕疵中之至少一者的瑕疵影像的一有瑕疵類別以及代表該物件影像不存在複數瑕疵中之任一者的該瑕疵影像的一無瑕疵類別;其中,該處理電路更執行一第二神經網路模型以及一對一對應複數種瑕疵的複數第三神經網路模型;其中,於擷取到任一該待測物的該物件影像時,該處理電路更以該第二神經網路模型分析並判定該物件影像為該複數預定類別中之一以得到一第一輸出、將該物件影像饋入至該複數第三神經網路模型、以各該第三神經網路模型分析並辨識該物件影像是否存在對應的該瑕疵的該瑕疵影像以得到一第二輸出,以及根據該第一輸出與各該第二輸出產生一驗證結果;以及其中,該複數預定類別更包括:一未知類別,以及該處理電路以該第一神經網路模型計算該物件影像於該有瑕疵類別的可能性與該無瑕疵類別的可能性並將該有瑕疵類別的該可能性與該無瑕疵類別的該可能性均 低於一閥值的該物件影像所對應的該待測物的該檢測結果判定為該未知類別。
- 如請求項1所述的基於人工智能的光學檢測系統,更包括:一警示裝置,其中於該檢測結果為該待測物的該物件影像屬於該有瑕疵類別時,該處理電路輸出一致能訊號,並且該警示裝置根據該致能訊號發出一告警。
- 如請求項1所述的基於人工智能的光學檢測系統,更包括:一連網模組,耦接該處理電路,經由一網路通訊連接一伺服器,其中該處理電路更藉由該連網模組從該伺服器下載該第二神經網路模型。
- 如請求項3所述的基於人工智能的光學檢測系統,其中該處理電路更藉由該連網模組從該伺服器下載該複數第三神經網路模型。
- 如請求項1所述的基於人工智能的光學檢測系統,更包括:一連網模組,耦接該處理電路,經由一網路通訊連接一伺服器,其中該處理電路更藉由該連網模組上傳判定該檢測結果後的各該物件影像至該伺服器。
- 如請求項1所述的基於人工智能的光學檢測系統,更包括:一連網模組,耦接該處理電路,經由一網路通訊連接一伺服器,其中該處理電路更藉由該連網模組上傳判定該驗證結果後的各該物件影像至該伺服器。
- 如請求項1所述的基於人工智能的光學檢測系統,其中該處理電路更以該第二神經網路模型更新該第一神經網路模型。
- 如請求項1所述的基於人工智能的光學檢測系統,其中該處理電路更執行一標記程序以標記各該物件影像。
- 如請求項8所述的基於人工智能的光學檢測系統,更包括:一連網模組,耦接該處理電路,經由一網路通訊連接一伺服器,其中該處理電路更藉由該連網模組將標記後的各該物件影像上傳該伺服器,以供該伺服器訓練一第四神經網路模型。
- 如請求項1所述的基於人工智能的光學檢測系統,其中該處理電路為一處理器。
- 如請求項1所述的基於人工智能的光學檢測系統,其中該處理電路由一內建處理器與一可插拔式處理器實現。
- 如請求項1所述的基於人工智能的光學檢測系統,其中該複數待測物為複數半導體元件、複數機構件、或複數顆粒物。
- 一種基於人工智能的瑕疵檢測方法,包括:接收一待測物的物件影像;將該物件影像饋入一第一神經網路模型、一第二神經網路模型與複數第三神經網路模型,其中該複數第三神經網路模型一對一對應複數種瑕疵;以該第一神經網路模型分析並判定該物件影像為該複數預定類別中之一以得到一檢測結果,其中該複數預定類別包括代表該物件影像存在複數瑕疵中之至少一者的瑕疵影像的一有瑕疵類別以及代表該物件影像不存在複數瑕疵中之任一者的該瑕疵影像的一無瑕疵類別; 以該第二神經網路模型分析並判定該物件影為該複數預定類別中之一以得到一第一輸出;以各該第三神經網路模型分析並辨識接收到該物件影像是否存在對應的該瑕疵的該瑕疵影像以得到一第二輸出;以及根據該第一輸出與各該第二輸出產生一驗證結果;其中,該複數預定類別更包括:一未知類別,以及以該第一神經網路模型分析並判定該物件影像為該複數預定類別中之一以得到該檢測結的步驟包括:以該第一神經網路模型計算該物件影像於該有瑕疵類別的可能性與該無瑕疵類別的可能性;以及於該有瑕疵類別的該可能性與該無瑕疵類別的該可能性均低於一閥值時,判定該檢測結果為該待測物屬於該未知類別。
- 如請求項13所述的基於人工智能的瑕疵檢測方法,更包括:於該檢測結果為該待測物的該物件影像屬於該有瑕疵類別時,輸出一致能訊號;以及根據該致能訊號發出一告警。
- 如請求項13所述的基於人工智能的瑕疵檢測方法,更包括:經由一網路與一伺服器建立一通訊連接;以及經由該通訊連接從該伺服器載入該第二神經網路模型。
- 如請求項15所述的基於人工智能的瑕疵檢測方法,更包括:經由該通訊連接從該伺服器載入該複數第三神經網路模型。
- 如請求項13所述的基於人工智能的瑕疵檢測方法,更包括: 經由一網路與一伺服器建立一通訊連接;以及經由該通訊連接上傳判定該檢測結果後的該物件影像至該伺服器。
- 如請求項13所述的基於人工智能的瑕疵檢測方法,更包括:經由一網路與一伺服器建立一通訊連接;以及經由該通訊連接上傳判定該驗證結果後的該物件影像至該伺服器。
- 如請求項13所述的基於人工智能的瑕疵檢測方法,更包括:執行一標記程序以標記該物件影像;以及以標記後的該物件影像訓練一第四神經網路模型。
- 如請求項13所述的基於人工智能的瑕疵檢測方法,更包括:以該第二神經網路模型更新該第一神經網路模型。
- 如請求項13所述的基於人工智能的瑕疵檢測方法,其中該複數待測物為複數半導體元件、複數機構件、或複數顆粒物。
- 一種基於人工智能的光學檢測系統,包括:一移載裝置,使複數待測物逐一移動至一檢測位置;一影像擷取裝置,對準該檢測位置,逐一擷取位於該檢測位置的該待測物的物件影像;以及一處理電路,耦接該影像擷取裝置,執行一第一神經網路模型,其中於擷取到任一該待測物的該物件影像時,該處理電路以該第一神經網路模型分析並判定該物件影像為該複數預定類別中之一以得到一檢測結果,其中該複數預定類別包括:代表該物件影像存在複數瑕疵中之至少一者的瑕疵影像的一有瑕疵類別、代表該物件影像不存在複數瑕疵中之任一者的該 瑕疵影像的一無瑕疵類別以及代表無法確認該物件影像有無存在該瑕疵影像的一未知類別;其中,該處理電路以該第一神經網路模型計算該物件影像於該有瑕疵類別的可能性與該無瑕疵類別的可能性並將該有瑕疵類別的該可能性與該無瑕疵類別的該可能性均低於一閥值的該物件影像所對應的該待測物的該檢測結果判定為該未知類別。
- 如請求項22所述的基於人工智能的光學檢測系統,更包括:一警示裝置,其中於該檢測結果為該待測物的該物件影像屬於該有瑕疵類別時,該處理電路輸出一致能訊號,並且該警示裝置根據該致能訊號發出一告警。
- 如請求項22所述的基於人工智能的光學檢測系統,更包括:一連網模組,耦接該處理電路,經由一網路通訊連接一伺服器,其中該處理電路更藉由該連網模組從該伺服器下載一第二神經網路模型。
- 如請求項22所述的基於人工智能的光學檢測系統,更包括:一連網模組,耦接該處理電路,經由一網路通訊連接一伺服器,其中該處理電路更藉由該連網模組上傳判定該檢測結果後的各該物件影像至該伺服器。
- 如請求項22所述的基於人工智能的光學檢測系統,其中該複數待測物為複數半導體元件、複數機構件、或複數顆粒物。
- 一種基於人工智能的瑕疵檢測方法,包括:接收一待測物的物件影像;將該物件影像饋入一第一神經網路模型;以及 以該第一神經網路模型分析並判定該物件影像為該複數預定類別中之一以得到一檢測結果,其中該複數預定類別包括代表該物件影像存在複數瑕疵中之至少一者的瑕疵影像的一有瑕疵類別、代表該物件影像不存在複數瑕疵中之任一者的該瑕疵影像的一無瑕疵類別以及代表無法確認該物件影像有無存在該瑕疵影像的一未知類別;其中,以該第一神經網路模型分析並判定該物件影像為該複數預定類別中之一以得到該檢測結果的步驟包括:以該第一神經網路模型計算該物件影像於該有瑕疵類別的可能性與該無瑕疵類別的可能性;以及於該有瑕疵類別的該可能性與該無瑕疵類別的該可能性均低於一閥值時,判定該檢測結果為該待測物屬於該未知類別。
- 如請求項27所述的基於人工智能的瑕疵檢測方法,更包括:於該檢測結果為該待測物的該物件影像屬於該有瑕疵類別時,輸出一致能訊號;以及根據該致能訊號發出一告警。
- 如請求項27所述的基於人工智能的瑕疵檢測方法,更包括:經由一網路與一伺服器建立一通訊連接;以及經由該通訊連接從該伺服器載入一第二神經網路模型。
- 如請求項27所述的基於人工智能的瑕疵檢測方法,更包括:經由一網路與一伺服器建立一通訊連接;以及經由該通訊連接上傳判定該檢測結果後的該物件影像至該伺服器。
- 如請求項27所述的基於人工智能的瑕疵檢測方法,其中該複數待測物為複數半導體元件、複數機構件、或複數顆粒物。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW109122671A TWI787630B (zh) | 2020-07-03 | 2020-07-03 | 基於人工智能的瑕疵檢測方法及其光學檢測系統 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW109122671A TWI787630B (zh) | 2020-07-03 | 2020-07-03 | 基於人工智能的瑕疵檢測方法及其光學檢測系統 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW202203145A TW202203145A (zh) | 2022-01-16 |
TWI787630B true TWI787630B (zh) | 2022-12-21 |
Family
ID=80787672
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW109122671A TWI787630B (zh) | 2020-07-03 | 2020-07-03 | 基於人工智能的瑕疵檢測方法及其光學檢測系統 |
Country Status (1)
Country | Link |
---|---|
TW (1) | TWI787630B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110715941A (zh) * | 2018-12-06 | 2020-01-21 | 住华科技股份有限公司 | 自动光学检测方法及应用其的自动光学检测系统 |
CN110930350A (zh) * | 2018-09-19 | 2020-03-27 | 鸿富锦精密电子(天津)有限公司 | 机器学习方法及应用机器学习方法的自动光学检测设备 |
US20200160497A1 (en) * | 2018-11-16 | 2020-05-21 | Align Technology, Inc. | Machine based three-dimensional (3d) object defect detection |
US20200160505A1 (en) * | 2018-11-20 | 2020-05-21 | Bnsf Railway Company | Systems and methods for determining defects in physical objects |
TWM596871U (zh) * | 2019-12-03 | 2020-06-11 | 智泰科技股份有限公司 | 智慧型光學檢測ai資料蒐集系統 |
US20200193588A1 (en) * | 2018-12-18 | 2020-06-18 | Kla-Tencor Corporation | Optical-Mode Selection for Multi-Mode Semiconductor Inspection |
-
2020
- 2020-07-03 TW TW109122671A patent/TWI787630B/zh active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110930350A (zh) * | 2018-09-19 | 2020-03-27 | 鸿富锦精密电子(天津)有限公司 | 机器学习方法及应用机器学习方法的自动光学检测设备 |
US20200160497A1 (en) * | 2018-11-16 | 2020-05-21 | Align Technology, Inc. | Machine based three-dimensional (3d) object defect detection |
US20200160505A1 (en) * | 2018-11-20 | 2020-05-21 | Bnsf Railway Company | Systems and methods for determining defects in physical objects |
CN110715941A (zh) * | 2018-12-06 | 2020-01-21 | 住华科技股份有限公司 | 自动光学检测方法及应用其的自动光学检测系统 |
US20200193588A1 (en) * | 2018-12-18 | 2020-06-18 | Kla-Tencor Corporation | Optical-Mode Selection for Multi-Mode Semiconductor Inspection |
TWM596871U (zh) * | 2019-12-03 | 2020-06-11 | 智泰科技股份有限公司 | 智慧型光學檢測ai資料蒐集系統 |
Also Published As
Publication number | Publication date |
---|---|
TW202203145A (zh) | 2022-01-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWM604031U (zh) | 基於人工智能的光學檢測系統 | |
TWI757825B (zh) | 基於假點缺陷檢測之pcb檢修系統及檢修方法 | |
CN110659662B (zh) | 利用人工智能的瑕疵检测系统及其方法 | |
JPH01212339A (ja) | 生産ラインに沿って移動する加工部片の検査方法及びその装置 | |
JPS5999338A (ja) | 像検査方法および像検査装置 | |
CN102514768A (zh) | 一种线束质量检测方法 | |
WO2023045038A1 (zh) | 一种融合云端的产品分拣系统及方法 | |
CN111060512A (zh) | 智能缺陷识别系统 | |
JP6630912B1 (ja) | 検査装置及び検査方法 | |
JPH05249279A (ja) | 核燃料ペレットの周面検査装置 | |
KR20060022350A (ko) | 반도체 패키지의 테스트 핸들러 및 그 검사 방법 | |
JPH0736004B2 (ja) | 検査方法及び装置 | |
TWI787630B (zh) | 基於人工智能的瑕疵檢測方法及其光學檢測系統 | |
TWI840006B (zh) | 印刷電路板缺陷檢測模型訓練方法及缺陷檢測方法 | |
JP2021152489A (ja) | 教師データ生成装置、検査装置及びプログラム | |
CN110178020A (zh) | 改进的玻璃检查系统 | |
CN108827368A (zh) | 一种防呆测试装置及方法 | |
KR102049563B1 (ko) | Pcb 제조 공정에서의 기판 겹침 검출 시스템 및 방법 | |
JP3174732B2 (ja) | 等階級判別設備 | |
KR20210106038A (ko) | 딥러닝 기반의 ai 기술을 활용한 2차전지 분리막 자동 검사장치 | |
JP3770484B2 (ja) | 電池に取付けた端子の検査方法 | |
JP2021148678A (ja) | 不良検出装置及び不良検出方法 | |
JPH11111784A (ja) | バンプ高さ良否判定装置 | |
TWI742710B (zh) | 改良機器學習使用資料進行訓練的方法及系統 | |
CN110989422A (zh) | 一种基于流水号喷码的aoi过检参数的管理系统及管理方法 |