TWI841850B - 檢查資料製作方法、檢查資料製作裝置及檢查裝置 - Google Patents
檢查資料製作方法、檢查資料製作裝置及檢查裝置 Download PDFInfo
- Publication number
- TWI841850B TWI841850B TW110121908A TW110121908A TWI841850B TW I841850 B TWI841850 B TW I841850B TW 110121908 A TW110121908 A TW 110121908A TW 110121908 A TW110121908 A TW 110121908A TW I841850 B TWI841850 B TW I841850B
- Authority
- TW
- Taiwan
- Prior art keywords
- similarity
- image
- mentioned
- registered
- substrate
- Prior art date
Links
- 238000007689 inspection Methods 0.000 title claims abstract description 213
- 238000002360 preparation method Methods 0.000 title claims abstract description 21
- 239000000758 substrate Substances 0.000 claims abstract description 172
- 238000012545 processing Methods 0.000 claims description 78
- 238000004519 manufacturing process Methods 0.000 claims description 47
- 229910000679 solder Inorganic materials 0.000 claims description 31
- 238000010801 machine learning Methods 0.000 claims description 27
- 238000000034 method Methods 0.000 claims description 16
- 238000011960 computer-aided design Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 238000007639 printing Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 210000004899 c-terminal region Anatomy 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 5
- 238000009434 installation Methods 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000005476 soldering Methods 0.000 description 3
- 239000003990 capacitor Substances 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 101100422415 Dictyostelium discoideum ssrp1 gene Proteins 0.000 description 1
- 101001121408 Homo sapiens L-amino-acid oxidase Proteins 0.000 description 1
- 102100026388 L-amino-acid oxidase Human genes 0.000 description 1
- 101150084576 Ssrp gene Proteins 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000037237 body shape Effects 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000011900 installation process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000007650 screen-printing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Abstract
本發明之檢查資料製作方法具備如下步驟:獲取已安裝基板圖像;擷取已安裝基板圖像中之零件的零件圖像;基於零件圖像,獲取每個零件之零件相似度;以及基於零件每個零件之零件相似度,對作為零件資料之檢查資料進行設定。
Description
本發明係關於一種檢查資料製作方法、檢查資料製作裝置及檢查裝置,尤其是關於一種對作為零件資料之檢查資料進行設定之檢查資料製作方法、檢查資料製作裝置及檢查裝置。
先前,已知一種對作為零件資料之檢查資料進行設定之檢查資料製作方法。此種方法例如揭示於日本專利再公表2018/105100號公報中。
於上述日本專利再公表2018/105100號公報中,揭示了一種對作為零件資料之檢查工件資料進行設定之檢查工件資料製作方法(檢查資料製作方法)。於該檢查工件資料製作方法中,首先,從成品基板之成品圖像資料中擷取電子零件之尺寸。繼而,於該檢查工件資料製作方法中,查詢所擷取之電子零件之尺寸是否與預先登錄有多種電子零件之零件資料的零件庫中之電子零件之尺寸一致。繼而,於該檢查工件資料製作方法中,基於電子零件之尺寸一致這一條件,對作為零件資料之檢查資料進行設定。
然而,上述日本專利再公表2018/105100號公報所記載之檢查工件資料製作方法僅基於所擷取之電子零件之尺寸與預先登錄有多種電子零件之零件資料的零件庫中之電子零件之尺寸一致這一條件,對作為零件資料之檢查工件資料(檢查資料)進行設定,因此存在適用範圍較小、難以容易地對作為零件資料之檢查工件資料(檢查資料)進行設定之問題。
本發明係為了解決如上所述之問題而成者,本發明之目的之一在於,提供一種與僅基於尺寸一致這一條件對作為零件資料之檢查資料進行設定之情形相比,能夠容易地對作為零件資料之檢查資料進行設定之檢查資料製作方法、檢查資料製作裝置及檢查裝置。
本發明之第1態樣之檢查資料製作方法具備如下步驟:獲取已安裝零件之基板之已安裝基板圖像;擷取已安裝基板圖像中之零件之零件圖像;基於零件圖像,獲取每個零件之零件相似度;以及基於每個零件之零件相似度,對在檢查基板之檢查裝置中使用之作為零件資料之檢查資料進行設定。
於本發明之第1態樣之檢查資料製作方法中,如上所述,設置如下步驟:基於零件圖像,獲取每個零件之零件相似度;以及基於每個零件之零件相似度,對在檢查基板之檢查裝置中使用之作為零件資料之檢查資料進行設定。藉此,與僅基於尺寸一致這一條件對作為零件資料之檢查資料進行設定之情形不同,即便尺寸並不完全一致,亦能夠基於每個零件之零件相似度對作為零件資料之檢查資料進行設定。結果,能夠拓寬適用範圍,因此能夠提供一種與僅基於尺寸一致這一條件對作為零件資料之檢查資料進行設定之情形相比,能夠容易地對作為零件資料之檢查資料進行設定之檢查資料製作方法。
於上述第1態樣之檢查資料製作方法中,較佳為每個零件之零件相似度包含數值,設定檢查資料的步驟包括如下步驟,即,將零件之相似度之數值最高的零件設定成作為零件資料之檢查資料。以此方式構成,能夠將零件之相似度之數值最高的零件設定成作為零件資料之檢查資料。結果,能夠更容易地對作為零件資料之檢查資料進行設定。
於上述第1態樣之檢查資料製作方法中,較佳為獲取每個零件之零件相似度的步驟包括利用以下圖像處理中之至少1個,獲取每個零件之零件相似度,上述圖像處理係指已預先學習之機器學習模型所進行之圖像處理、及利用了圖像中之顏色深淺及圖像中之高度的其中至少1個之圖像處理。以此方式構成,使用已預先學習之機器學習模型所進行之圖像處理、或利用了圖像中之顏色深淺及圖像中之高度的其中至少1個之圖像處理,能夠容易地獲取每個零件之零件相似度。又,於使用已預先學習之機器學習模型所進行之圖像處理之情形時,能夠容易地進行與本領域技術人員之判斷接近之高精度之判斷(相似度之獲取)。
於上述第1態樣之檢查資料製作方法中,較佳為獲取每個零件之零件相似度的步驟包括如下步驟,即,基於零件圖像,獲取每零件種類之零件種類相似度。以此方式構成,能夠基於每零件種類之零件種類相似度,獲取每個零件之零件相似度。結果,基於考慮到零件種類之零件相似度,能夠識別種類不同之零件,並對作為零件資料之檢查資料進行設定。
於此情形時,較佳為獲取每個零件之零件相似度的步驟除了包括基於零件圖像,獲取每零件種類之零件種類相似度的步驟以外,進而於獲取零件種類相似度的步驟另外包括如下步驟,即,基於零件圖像,獲取每零件形狀之零件形狀相似度。以此方式構成,不僅能夠基於每零件種類之零件種類相似度,亦能夠基於每零件形狀之零件形狀相似度,獲取每個零件之零件相似度。結果,能夠基於考慮到零件之種類及形狀之零件之相似度,識別種類及形狀不同之零件,並對作為零件資料之檢查資料進行設定。又,因考慮零件之種類及形狀這兩者,故與僅考慮零件之形狀之情形不同,能夠識別相同形狀但種類不同之零件,並對作為零件資料之檢查資料進行設定。
於獲取上述零件之每零件種類之零件種類相似度、及每零件形狀之零件形狀相似度的構成中,較佳為獲取每個零件之零件相似度的步驟包括如下步驟,即,基於每零件種類之零件種類相似度、及每零件形狀之零件形狀相似度,針對預先登錄有複數個零件種類及形狀之零件登錄資訊,獲取每個零件之零件相似度;設定檢查資料的步驟包括如下步驟,即,根據零件登錄資訊之登錄零件資料,對作為零件資料之檢查資料進行設定。以此方式構成,能夠使用零件登錄資訊之登錄零件資料,容易地對作為零件資料之檢查資料進行設定。
於獲取上述每零件種類之零件種類相似度、及每零件形狀之零件形狀相似度的構成中,較佳為零件形狀相似度包含零件外形之相似度、零件本體之相似度、及零件端子之相似度中的至少1個。以此方式構成,能夠基於零件外形之相似度、零件本體之相似度、或零件端子之相似度,確切地獲取零件形狀之相似度。
於獲取上述每零件種類之零件種類相似度、及每零件形狀之零件形狀相似度的構成中,較佳為獲取每個零件之零件相似度的步驟包括如下步驟,即,基於零件圖像,獲取零件外形之寬度、零件外形之長度、零件外形之厚度、零件本體之寬度、零件本體之長度、零件本體之厚度、零件端子之數量、零件端子之間距、零件端子之寬度、及零件端子之長度中的至少1個。以此方式構成,能夠基於零件外形之寬度、零件外形之長度、零件外形之厚度、零件本體之寬度、零件本體之長度、零件本體之厚度、零件端子之數量、零件端子之間距、零件端子之寬度、或零件端子之長度,確切地獲取零件之形狀相似度。
於獲取上述每零件種類之零件種類相似度、及每零件形狀之零件形狀相似度的構成中,較佳為獲取每個零件之零件相似度的步驟包括如下步驟,即,使用已預先學習之機器學習模型所進行之圖像處理,獲取每零件種類之零件種類相似度,並使用利用了圖像中之顏色深淺及圖像中之高度的其中至少1個之圖像處理,獲取每零件形狀之零件形狀相似度。以此方式構成,能夠使用已預先學習之機器學習模型所進行之圖像處理,確切地獲取每零件種類之零件種類相似度,並使用利用了圖像中之顏色深淺及圖像中之高度的其中至少1個之圖像處理,確切地獲取每零件形狀之零件形狀相似度。
於獲取上述每零件種類之零件種類相似度、及每零件形狀之零件形狀相似度的構成中,較佳為獲取每個零件之零件相似度的步驟包括如下步驟,即,於使用利用了圖像中之顏色深淺及圖像中之高度的其中至少1個之圖像處理,獲取每零件種類之零件種類相似度、及每零件形狀之零件形狀相似度中的至少1個之情形時,考慮與基板之顏色有關之資訊、及與基板之焊料之厚度有關之資訊中的至少1個。以此方式構成,於考慮與基板之顏色有關之資訊之情形時,即便是基板之顏色與零件之顏色(零件之本體之顏色、及零件之端子之顏色等)為相近之顏色之情形,亦能夠容易地識別基板與零件。結果,能夠準確地獲取每零件種類之零件種類相似度、或每零件形狀之零件形狀相似度。又,於考慮與基板之焊料之厚度有關之資訊之情形時,因知曉識別基板之焊料與零件之端子之高度之基準,故能夠容易地識別基板之焊料與零件之端子。結果,能夠準確地獲取每零件種類之零件種類相似度、或每零件形狀之零件形狀相似度。
於上述第1態樣之檢查資料製作方法中,較佳為擷取已安裝基板圖像中之零件圖像的步驟包括如下步驟,即,基於將零件安裝於基板上之零件安裝裝置中使用且包含零件之形狀及零件之安裝位置之基板資料、及作為基板之圖像資料之基板CAD(computer-aided design,電腦輔助設計)資料中的至少1個,擷取已安裝基板圖像中之零件圖像。以此方式構成,能夠基於基板資料或基板CAD資料,容易地指定已安裝基板圖像中之零件之位置。結果,與不使用基板資料或基板CAD資料之情形相比,能夠容易地擷取已安裝基板圖像中之零件圖像。
於上述第1態樣之檢查資料製作方法中,較佳為設定檢查資料的步驟包括如下步驟,即,於設定作為檢查資料之零件之端子的資訊與基於零件圖像獲取之零件之端子的資訊不同之情形時,利用基於零件圖像獲取之零件之端子的資訊覆寫設定作為檢查資料之零件之端子的資訊,藉此製作新的檢查資料。以此方式構成,能夠抑制將錯誤之零件之端子的資訊設定作為檢查資料。
本發明之第2態樣之檢查資料製作裝置具備:獲取部,其獲取已安裝零件之基板之已安裝基板圖像;以及控制部,其擷取已安裝基板圖像中之零件的零件圖像,基於零件圖像,獲取每個零件之零件相似度,基於每個零件之零件相似度,對在檢查基板之檢查裝置中使用之作為零件資料之檢查資料進行設定。
於本發明之第2態樣之檢查資料製作裝置中,如上所述設置控制部,該控制部基於零件圖像,獲取每個零件之零件相似度,基於每個零件之零件相似度,對在檢查基板之檢查裝置中使用之作為零件資料之檢查資料進行設定。藉此,與上述第1態樣之檢查資料製作方法同樣,能夠提供一種與僅基於尺寸一致這一條件對作為零件資料之檢查資料進行設定之情形相比,能夠容易地對作為零件資料之檢查資料進行設定之檢查資料製作裝置。
本發明之第3態樣之檢查裝置具備:拍攝部,其拍攝已安裝零件之基板,獲取已安裝基板圖像;以及控制部,其擷取已安裝基板圖像中之零件的零件圖像,基於零件圖像,獲取每個零件之零件相似度,基於每個零件之零件相似度,對作為零件資料之檢查資料進行設定。
於本發明之第3態樣之檢查裝置中,如上所述設置控制部,該控制部基於零件圖像,獲取每個零件之零件相似度,基於每個零件之零件相似度,對作為零件資料之檢查資料進行設定。藉此,與上述第1態樣之檢查資料製作方法同樣,能夠提供一種與僅基於尺寸一致這一條件對作為零件資料之檢查資料進行設定之情形相比,能夠容易地對作為零件資料之檢查資料進行設定之檢查裝置。
以下,基於圖式,對實現本發明之實施方式進行說明。
首先,參照圖1,對一實施方式之零件安裝系統100之構成進行說明。
(零件安裝系統的構成)
如圖1所示,零件安裝系統100具備檢查資料製作裝置10、資料庫20、及檢查裝置30。
檢查資料製作裝置10係用以製作在檢查裝置30中使用之檢查資料之裝置。檢查資料製作裝置10例如係構成為能夠進行各種運算之個人電腦。檢查資料製作裝置10具備控制部11、記憶部12、輸入部13、顯示部14、及通信部15。控制部11係控制檢查資料製作裝置10之動作之控制電路。控制部11包含CPU(Central Processing Unit,中央處理器)等處理器。記憶部12包含能夠進行各種資訊(資料)之記憶及所記憶之資訊(資料)之讀出的非揮發性記憶媒體。記憶部12例如記憶有從檢查裝置30獲取之已安裝基板圖像40、及發送至檢查裝置30之檢查資料50等。再者,通信部15係申請專利範圍之「獲取部」之一例。
輸入部13包含滑鼠及鍵盤等,構成為受理用戶之輸入操作。顯示部14例如包含液晶顯示器,顯示檢查資料50等資訊。通信部15構成為能夠與外部機器進行通信。通信部15構成為能夠與資料庫20及檢查裝置30進行通信。通信部15構成為從檢查裝置30獲取已安裝基板圖像40。
資料庫20具備零件庫21,該零件庫21中登錄有安裝於基板B(參照圖2)上之每個零件C之零件資料。零件庫21包含零件C之種類資訊、零件C之形狀資訊、零件C之檢查資訊作為每個零件C之零件資料。零件C之種類資訊例如包含晶片電容器、晶片電阻器、晶片電感器、晶片電晶體、LED(light-emitting diode,發光二極體)、SOP(Small Out-Line Package,小外形封裝)、BGA(Ball Grid Array,球柵陣列)、QFP(Quad Flat Package,四方扁平封裝)、及連接器等零件C之種類資訊。又,零件C之形狀資訊例如包含零件C之外形之寬度、零件C之外形之長度、零件C之外形之厚度、零件C之本體之寬度、零件C之本體之長度、零件C之本體之厚度、零件C之端子(引線)之數量、零件C之端子(引線)之間距、零件C之端子(引線)之寬度、及零件C之端子(引線)之長度等零件C之形狀資訊。又,零件C之檢查資訊例如包含檢查框之位置、檢查部位、及檢查參數等零件C之檢查資訊。再者,零件庫21係申請專利範圍之「零件登錄資訊」之一例。
檢查裝置30係將基板B作為檢查對象進行拍攝,對基板B及基板B上之零件C進行各種檢查之裝置。檢查裝置30構成用以將零件C安裝於基板B上而製造電路基板之基板生產線之一部分。
作為基板製造程序之概要,首先,於形成有配線圖案之基板B上,藉由焊料印刷裝置(未圖示)以規定之圖案進行焊料(焊膏)之印刷(塗佈)(焊料印刷工序)。繼而,藉由零件安裝裝置(未圖示)於焊料印刷後之基板B上搭載(安裝)零件C(安裝工序),藉此將零件C之端子配置於焊料上。其後,將已安裝零件C之基板B搬送至回焊爐(未圖示),進行焊料之熔融及硬化(冷卻)(回焊工序),藉此將零件C之端子焊接於基板B之配線上。藉此,零件C在電性連接於配線之狀態下固定於基板B上,基板製造完成。
檢查裝置30例如用於焊料印刷工序後之基板B上之焊料之印刷狀態之檢查、安裝工序後之零件C之安裝狀態之檢查、或回焊工序後之零件C之安裝狀態之檢查等。因此,檢查裝置30於基板生產線中設置1個或複數個。關於焊料之印刷狀態,對印刷位置相對於設計上之印刷位置之偏離、焊料之形狀、體積及高度(塗佈量)、有無橋接(短路)等進行檢查。關於零件C之安裝狀態,對零件C之種類及朝向(極性)是否適當、零件C之位置相對於設計上之安裝位置之偏離量是否在容許範圍內、端子之焊接狀態是否正常等進行檢查。又,作為各工序間之共通之檢查內容,亦進行污物或其他附著物等異物之檢測。
如圖2所示,檢查裝置30具備:基板搬送輸送器31,其用以搬送基板B;頂部移動機構32,其能夠於基板搬送輸送器31之上方沿XY方向(水平方向)及Z方向(上下方向)移動;測定部33,其由頂部移動機構32保持;以及控制裝置34,其進行檢查裝置30之控制。
基板搬送輸送器31構成為,能夠將基板B沿水平方向搬送,使基板B於規定之檢查位置停止後保持該基板B。又,基板搬送輸送器31構成為,能夠將結束檢查之基板B從規定之檢查位置沿水平方向搬送,將基板B從檢查裝置30中搬出。
頂部移動機構32設置於基板搬送輸送器31之上方,例如包含使用滾珠螺桿軸及伺服馬達之正交三軸(XYZ軸)機械手。頂部移動機構32具備用以進行該等X軸、Y軸及Z軸之驅動之X軸馬達、Y軸馬達及Z軸馬達。藉由該等X軸馬達、Y軸馬達及Z軸馬達,頂部移動機構32構成為,能夠使測定部33於基板搬送輸送器31(基板B)之上方沿XY方向(水平方向)及Z方向(上下方向)移動。
測定部33構成為測定(拍攝)二維資訊(二維圖像)及三維資訊(三維圖像)。測定部33具備拍攝部33a、及投影部33b。該測定部33構成為,藉由頂部移動機構32而移動至基板B之上方之規定位置,並藉由使用拍攝部33a或投影部33b等,而進行用於基板B及基板B上之零件C等之外觀檢查之拍攝。
拍攝部33a構成為,拍攝經投影部33b照射條紋圖案光之基板B。拍攝部33a具有CCD(Charge Coupled Device,電荷耦合器件)影像感測器、及CMOS(complementary metal oxide semiconductor,互補金氧半導體)影像感測器等拍攝元件。拍攝部33a構成為,能夠於大致矩形形狀之拍攝區域中拍攝基板B。又,拍攝部33a沿相對於水平方向之基準面垂直之方向配置有光軸33c。即,拍攝部33a構成為,從大致垂直上方之位置拍攝基板B之上表面之二維圖像。藉由該拍攝部33a,於投影部33b之照明光之下,獲得二維圖像。
投影部33b設置有複數個。又,複數個投影部33b構成為,分別從相對於拍攝部33a之光軸33c方向傾斜之方向,投影要用拍攝部33a拍攝之測定圖案。即,測定部33構成為,從複數個方向投影測定圖案,測定三維資訊。投影部33b以從上方觀察時,包圍拍攝部33a之周圍之方式,配置有複數個(例如4個)。又,複數個投影部33b以大致等角度(大致90度)間隔,排列於距拍攝中心(拍攝部33a)等距離之位置。又,投影部33b構成為,投影具有正弦波狀之光強度分佈之等間隔之格子狀明暗圖案(條紋圖案光)作為測定圖案。又,投影部33b構成為,使該明暗圖案之位置(相位)偏移而投影。
控制裝置34構成為控制檢查裝置30之各部。控制裝置34包含控制部34a、記憶部34b、圖像處理部34c、拍攝控制部34d、投影控制部34e、及馬達控制部34f。
控制部34a包含執行邏輯運算之CPU等處理器、記憶控制CPU之程式等之ROM(Read Only Memory,唯讀記憶體)、及於裝置之動作中暫時記憶各種資料之RAM(Random Access Memory,隨機存取記憶體)等。控制部34a構成為,按照記憶於ROM中之程式、儲存於記憶部34b中之軟體(程式),經由圖像處理部34c、拍攝控制部34d、投影控制部34e及馬達控制部34f,控制檢查裝置30之各部。並且,控制部34a控制測定部33,對基板B進行各種外觀檢查。
記憶部34b包含能夠進行各種資訊(資料)之記憶、及所記憶之資訊(資料)之讀出之非揮發性記憶媒體。於記憶部34b中,例如記憶有藉由拍攝部33a拍攝之拍攝圖像資料(已安裝基板圖像40)、及從檢查資料製作裝置10獲取之檢查資料50等。基於檢查資料50,進行檢查裝置30對基板B及基板B上之零件C之各種檢查。
圖像處理部34c構成為,對藉由拍攝部33a拍攝之拍攝圖像(拍攝信號)進行圖像處理,產生適於對基板B、基板B上之零件C、及焊接部(焊料)進行識別(圖像識別)之圖像資料。
拍攝控制部34d構成為,基於從控制部34a輸出之控制信號,於規定之時點從拍攝部33a中讀出拍攝信號,並將讀出之拍攝信號輸出至圖像處理部34c。投影控制部34e構成為,基於從控制部34a輸出之控制信號,對投影部33b之投影進行控制。
馬達控制部34f構成為,基於從控制部34a輸出之控制信號,控制檢查裝置30之各伺服馬達(頂部移動機構32之X軸馬達、Y軸馬達及Z軸馬達,用以驅動基板搬送輸送器31之馬達(未圖示)等)之驅動。又,馬達控制部34f構成為,基於來自各伺服馬達之編碼器(未圖示)之信號,獲取測定部33、及基板B等之位置。
(檢查資料製作處理)
其次,參照圖3之流程圖、圖4之流程圖、及圖5~圖11,對本實施方式之檢查資料製作裝置10所進行之檢查資料製作處理進行說明。再者,圖3之流程圖及圖4之流程圖之各處理係藉由檢查資料製作裝置10之控制部11進行。
如圖3及圖5所示,首先,於步驟S101中,獲取已安裝零件C之基板B之已安裝基板圖像(完成基板圖像)40。具體而言,首先,於檢查裝置30中拍攝已安裝零件C之基板B,藉此獲取已安裝基板圖像40。繼而,於步驟S101中,經由通信部15,於檢查資料製作裝置10中獲取在檢查裝置30中獲取之已安裝基板圖像40。再者,已安裝基板圖像40包含:三維圖像,其具有已安裝零件C之基板B之三維形狀之資訊;以及二維圖像,其具有已安裝零件C之基板B之二維形狀之資訊。
繼而,於步驟S102中,擷取已安裝基板圖像40中之零件圖像41。具體而言,於步驟S102中,基於基板資料及基板CAD資料中的至少1個,擷取已安裝基板圖像40中之零件圖像41。基板資料係在將零件C安裝於基板B上之零件安裝裝置(未圖示)中使用,並包含零件C之形狀及零件C之安裝位置之資料。又,基板CAD資料係包含零件C之安裝位置之基板B之圖像資料。於步驟S102中,利用基板資料所包含之零件C之安裝位置之資訊、及基板CAD資料所包含之零件C之安裝位置之資訊中的至少1個,擷取已安裝基板圖像40中之零件圖像41。再者,零件圖像41包含:三維圖像,其具有零件C之三維形狀之資訊;以及二維圖像,其具有零件C之二維形狀之資訊。
繼而,於步驟S103中,基於零件圖像41,獲取每個零件C之零件C相似度60。具體而言,於步驟S103中,進行圖4的步驟S201~S203之處理。
如圖4及圖5所示,首先,於步驟S201中,基於零件圖像41,獲取每零件種類之零件C種類相似度61。具體而言,於步驟S201中,如圖6所示,使用已預先學習之機器學習模型(辨別器)70所進行之圖像處理,獲取每零件種類之零件C種類相似度61。更具體而言,於步驟S201中,向機器學習模型70輸入作為二維圖像及三維圖像之零件圖像41,獲取每零件種類之零件C種類相似度61作為輸出結果。又,於步驟S201中,獲取每零件種類之零件C種類相似度61作為每個零件種類之可信度(概率)。每零件種類之零件C種類相似度61包含數值。
機器學習模型70例如能夠藉由如圖7所示進行學習而製作。即,如圖7所示,首先,準備視野圖像71。作為視野圖像71,只要為包含零件C之圖像則無特別限制,例如能夠使用在檢查裝置30中獲取之圖像。又,視野圖像71包含二維圖像及三維圖像。繼而,從視野圖像71中切下(擷取)零件C之區域,藉此獲取視野圖像71中之零件圖像72。此時,從作為二維圖像及三維圖像之視野圖像71中獲取作為二維圖像及三維圖像之零件圖像72。再者,於切下零件C之區域之工序中,根據零件C之種類及尺寸,切下之圖像之尺寸有所不同。
因此,藉由對零件圖像72進行圖像尺寸之變更(調整大小),而獲取確定尺寸之零件圖像73作為學習圖像。此時,從作為二維圖像及三維圖像之零件圖像72中獲取作為二維圖像及三維圖像之零件圖像73。繼而,對零件圖像73標記零件C之種類。繼而,基於標記有零件C之種類之作為二維圖像及三維圖像之零件圖像73,進行機器學習,藉此製作已學習之機器學習模型70。機器學習模型70能夠利用卷積神經網路而製作(構建)。又,機器學習模型70使用晶片電容器、晶片電阻器、晶片電感器、晶片電晶體、LED、SOP、BGA、QFP、及連接器等各種零件圖像73進行學習。
繼而,如圖4及圖5所示,於步驟S202中,基於零件圖像41,獲取零件C之形狀之相似度62。即,除了基於零件圖像41,獲取每零件種類之零件C種類相似度61的步驟S201以外,亦進行與獲取零件C種類相似度61的步驟S201另外之如下步驟S202,即,基於零件圖像41,獲取每零件形狀之零件C形狀相似度62。
如圖8所示,於步驟S202中,首先,基於零件圖像41,獲取零件C之形狀。具體而言,基於零件圖像41,獲取零件C之外形之寬度W1、零件C之外形之長度L1、零件C之外形之厚度T1、零件C之本體之寬度W2、零件C之本體之長度L2、零件C之本體之厚度T2、零件C之端子之數量、零件C之端子之間距P3、零件C之端子之寬度W3、及零件C之端子之長度L3。再者,所謂零件C之外形,意指包含零件C之本體及端子這兩者之零件C之整體。又,所謂零件C之本體,意指零件C之不包含端子之晶片部分。又,所謂零件C之端子,意指零件C之不包含本體之電極(引線)部分。
此時,使用利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取零件C之外形之寬度W1、零件C之外形之長度L1、零件C之外形之厚度T1、零件C之本體之寬度W2、零件C之本體之長度L2、零件C之本體之厚度T2、零件C之端子之數量、零件C之端子之間距P3、零件C之端子之寬度W3、及零件C之端子之長度L3。作為利用了圖像中之顏色深淺及圖像中之高度之圖像處理,並無特別限制,能夠採用二值化處理、邊緣擷取處理、及輪廓跟蹤處理等。
例如,能夠利用零件C之本體及端子與基板B之顏色深淺(亮度值)之不同,從作為二維圖像之零件圖像41中識別零件C之本體及端子。結果,能夠從作為二維圖像之零件圖像41中獲取零件C之外形之寬度W1、零件C之外形之長度L1、零件C之本體之寬度W2、零件C之本體之長度L2、零件C之端子之數量、零件C之端子之間距P3、零件C之端子之寬度W3、及零件C之端子之長度L3。
又,能夠利用零件C之本體及端子與基板B之高度之不同,從作為三維圖像之零件圖像41中識別零件C之本體及端子。結果,能夠從作為三維圖像之零件圖像41中獲取零件C之外形之寬度W1、零件C之外形之長度L1、零件C之外形之厚度T1、零件C之本體之寬度W2、零件C之本體之長度L2、零件C之本體之厚度T2、零件C之端子之數量、零件C之端子之間距P3、零件C之端子之寬度W3、及零件C之端子之長度L3。
又,亦可複合地利用作為二維圖像及三維圖像之零件圖像41,而非相互獨立地利用作為二維圖像及三維圖像之零件圖像41。例如,能夠在基於作為三維圖像之零件圖像41之高度資訊,對作為二維圖像之零件圖像41進行隱藏多餘部分(零件C以外之部分)之遮罩處理之狀態下,從作為二維圖像之零件圖像41中獲取零件C之形狀。藉此,能夠更高精度地獲取零件C之形狀。
又,於使用利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取零件C之形狀之情形時,考慮與基板B之顏色有關之資訊、及與基板B之焊料之厚度有關之資訊。與基板B之顏色有關之資訊包含基板B之表面之顏色、及基板B之絲網印刷之顏色等。又,與基板B之焊料之厚度有關之資訊包含基板B之焊料之厚度、或焊料之印刷所使用之絲網遮罩之厚度。與基板B之顏色相關之資訊例如於利用了圖像中之顏色深淺之圖像處理時,作為用以識別零件C及基板B之輔助資訊使用。又,與基板B之焊料之厚度有關之資訊於利用了圖像中之高度之圖像處理時,作為用以識別零件C之端子及基板B之焊料之輔助資訊使用。
於步驟S202中,使用利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取每零件形狀之零件C形狀相似度62。又,於步驟S202中,在使用利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取每零件形狀之零件C形狀相似度62之情形時,考慮與基板B之顏色有關之資訊、及與基板B之焊料之厚度有關之資訊。
繼而,於步驟S202中,如圖9所示,基於零件C之形狀,獲取每零件形狀之零件C形狀相似度62。具體而言,針對預先登錄有複數個零件C之種類及形狀之零件庫21,獲取每零件形狀之零件C形狀相似度62。零件C形狀相似度62包含零件C外形之相似度、零件C本體之相似度、及零件C端子之相似度。具體而言,零件C形狀相似度62包含零件C外形之寬度W1之相似度、零件C外形之長度L1之相似度、零件C外形之厚度T1之相似度、零件C本體之寬度W2之相似度、零件C本體之長度L2之相似度、零件C本體之厚度T2之相似度、零件C端子之數量之相似度、零件C端子之間距P3之相似度、零件C端子之寬度W3之相似度、及零件C端子之長度L3之相似度。該等零件C形狀相似度62能夠藉由以下之式(1),設為測量零件(零件圖像41之零件C)與零件庫21中之登錄零件之背離度而求出。每零件形狀之零件C形狀相似度62包含數值。
S
s=1.0-|X1-X2|/X1…(1)
此處,
S
s:零件形狀相似度(背離度)
X1:測量零件形狀之值
X2:登錄零件形狀之值。
例如,於求零件C外形之長度L1之相似度之情形時,在圖9所示之例中,測量零件外形之長度L1為6.40(X1),登錄零件外形之長度L1為6.50(X2),因此零件C之外形之長度L1之相似度(S
s)為1.0-|6.40-6.50|/6.40=0.9843。又,例如,於求零件C之本體之寬度W2之相似度之情形時,在圖9所示之例中,測量零件之本體之寬度W2為4.37(X1),登錄零件之本體之寬度W2為4.40(X2),因此零件C之本體之寬度W2之相似度(S
s)為1.0-|4.37-4.40|/4.37=0.9931。又,例如,於求零件C之端子之數量之相似度之情形時,在圖9所示之例中,測量零件右邊之端子之數量為6(X1),登錄零件右邊之端子之數量為7(X2),因此零件C之端子之數量之相似度(S
s)為1.0-|6-7|/6=0.8333。
繼而,如圖4及圖5所示,於步驟S203中,基於每零件種類之零件C種類相似度61及每零件形狀之零件C形狀相似度62,獲取每零件C之零件C相似度60,該每個零件C之零件C相似度60係作為包含零件種類及零件形狀這兩者之評價指標的綜合性評價指標。具體而言,如圖10所示,基於每零件種類之零件C種類相似度61及每零件形狀之零件C形狀相似度62,針對預先登錄有複數個零件C之種類及形狀之零件庫21,獲取每個零件C之零件C相似度60。更具體而言,針對零件庫21中之所有登錄零件,獲取零件C之相似度60,藉此獲取特定出種類及形狀這兩者之每個零件C之零件C相似度60。零件C相似度60能夠藉由以下之式(2),作為包含零件種類及零件形狀這兩者之評價指標(相似度)的綜合性評價指標而求出。每個零件C之零件C相似度60包含數值。
S
p=a×S
t+b×(S
sow×S
sol×S
sot)+c×(S
sbw×S
sbl×S
sbt)+d×(S
srn×S
srp×S
srw×S
srl)…(2)
此處,
S
p:零件之相似度
a:零件之種類之相似度之加權因數
S
t:零件之種類之相似度(可信度)
b:零件之外形之相似度之加權因數
S
sow:零件之外形之寬度之相似度(背離度)
S
sol:零件之外形之長度之相似度(背離度)
S
sot:零件之外形之厚度之相似度(背離度)
c:零件之本體之相似度之加權因數
S
sbw:零件之本體之寬度之相似度(背離度)
S
sbl:零件之本體之長度之相似度(背離度)
S
sbt:零件之本體之厚度之相似度(背離度)
d:零件之端子之相似度之加權因數
S
srn:零件之端子之數量之相似度(背離度)
S
srp:零件之端子之間距之相似度(背離度)
S
srw:零件之端子之寬度之相似度(背離度)
S
srl:零件之端子之長度之相似度(背離度)。
再者,上述式(2)之S
p、S
t、S
sow、S
sol、S
sot、S
sbw、S
sbl、S
sbt、S
srn、S
srp、S
srw、S
srl係0以上1以下之值。又,加權因數a、b、c、d能夠預先藉由實驗等求出。又,於將零件C之相似度60之最大值(S
p之最大值)設為100之情形時,加權因數a、b、c、d之合計為100。
如上述式(2)所示,零件C之相似度60係藉由對零件C之種類之相似度61、及零件C之形狀之相似度62分別進行加權、相加,而獲取。具體而言,零件C之相似度60係藉由對零件C之種類之相似度61之群、零件C之外形之相似度之群、零件C之本體之相似度之群、及零件C之端子之相似度之群分別進行加權、相加,而獲取。
如此,於步驟S201~S203中,使用已預先學習之機器學習模型70所進行之圖像處理、及利用了圖像中之顏色深淺及圖像中之高度的其中至少1個之圖像處理,獲取每個零件C之零件C相似度60。
繼而,如圖3及圖10所示,於步驟S104中,基於每個零件C之零件C相似度60,設定在檢查基板B之檢查裝置30中使用之作為零件資料之檢查資料50。具體而言,於步驟S104中,根據零件庫21中之登錄零件資料,將零件C之相似度60之數值最高的零件C設定成作為零件資料之檢查資料50。於圖10所示之例中,將「SOP14pin-p1.27-L6.5×W4.4」之零件(登錄零件)C設定成作為零件資料之檢查資料50。
此處,根據零件庫21中之登錄零件之數量,擔心發生無與自零件圖像41獲取之零件形狀接近之登錄零件資料,而將零件形狀不同之登錄零件資料設定成作為零件資料之檢查資料50的情況。此種情況容易發生於SOP及QFP等引線零件中。其原因在於,在引線零件中,存在較多零件C之外形及本體之形狀大致相同而端子之形狀不同之零件C。
因此,於步驟S104中,當設定成檢查資料50之零件C之端子的資訊(登錄零件資料之零件C之端子的資訊)與基於零件圖像41獲取之零件C之端子的資訊不同時,利用基於零件圖像41獲取之零件C之端子的資訊覆寫設定成檢查資料50之零件C之端子的資訊,藉此製作新的檢查資料。零件C之端子的資訊包含零件C之端子之數量、零件C之端子之間距P3、零件C之端子之寬度W3、及零件C之端子之長度L3。於步驟S104中,將設定成檢查資料50之零件C之端子的資訊與基於零件圖像41獲取之零件C之端子的資訊加以比較,在基於比較結果,判斷2個資訊超過閾值且存在較大差異之情形時,利用基於零件圖像41獲取之零件C之端子的資訊覆寫設定成檢查資料50之零件C之端子的資訊。
繼而,藉由對已安裝基板圖像40中之所有零件C(所有零件圖像41)進行步驟S103及S104之處理,用以檢查已安裝零件C之基板B之檢查資料50之自動設定完成。
再者,如圖11所示,於步驟S104中,即便零件C相似度60較小,亦將零件C相似度60之數值最高的零件C設定成作為零件資料之檢查資料50。即,與零件C相似度60之數值大小無關,將零件C相似度60之數值最高的零件C設定成作為零件資料之檢查資料50。
(本實施方式之效果)
於本實施方式中,能夠獲得如下效果。
於本實施方式中,如上所述,設置如下步驟:基於零件圖像41,獲取每個零件C之零件C相似度60;以及基於每個零件C之零件C相似度60,設定在檢查基板B之檢查裝置30中使用之作為零件資料之檢查資料50。藉此,與僅基於尺寸一致這一條件對作為零件資料之檢查資料50進行設定之情形不同,即便尺寸並不完全一致,亦能夠基於每個零件C之零件C相似度60對作為零件資料之檢查資料50進行設定。結果,能夠拓寬適用範圍,因此與僅基於尺寸一致這一條件對作為零件資料之檢查資料50進行設定之情形相比,能夠容易地對作為零件資料之檢查資料50進行設定。
又,於本實施方式中,如上所述,每個零件C之零件C相似度60包含數值。又,設定檢查資料50的步驟包括如下步驟,即,將零件C之相似度60之數值最高的零件C設定成作為零件資料之檢查資料50。藉此,能夠將零件C之相似度60之數值最高的零件C設定成作為零件資料之檢查資料50。結果,能夠更容易地對作為零件資料之檢查資料50進行設定。
又,於本實施方式中,如上所述,獲取每個零件C之零件C相似度60的步驟包括如下步驟,即,使用已預先學習之機器學習模型70所進行之圖像處理、及利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取每個零件C之零件C相似度60。藉此,使用已預先學習之機器學習模型70所進行之圖像處理、或利用了圖像中之顏色深淺及圖像中之高度的圖像處理,能夠容易地獲取每個零件C之零件C相似度60。又,於使用已預先學習之機器學習模型70所進行之圖像處理之情形時,能夠容易地進行與本領域技術人員之判斷接近之高精度之判斷(相似度之獲取)。
又,於本實施方式中,如上所述,獲取每個零件C之零件C相似度60的步驟包括如下步驟,即,基於零件圖像41,獲取每零件種類之零件C種類相似度61。藉此,基於每零件種類之零件C種類相似度61,能夠獲取每個零件C之零件C相似度60。結果,能夠基於考慮到零件C之種類之零件C相似度60,識別種類不同之零件C,並對作為零件資料之檢查資料50進行設定。
又,於本實施方式中,如上所述,獲取每個零件C之零件C相似度60的步驟除了包括基於零件圖像41,獲取每零件種類之零件C種類相似度61的步驟以外,進而於獲取零件C種類相似度61的步驟另外包括之如下步驟,即,基於零件圖像41,獲取每零件形狀之零件C形狀相似度62。藉此,不僅能夠基於每零件種類之零件C種類相似度61,亦能夠基於每零件形狀之零件C形狀相似度62,獲取每個零件C之零件C相似度60。結果,能夠基於考慮到零件C之種類及形狀之零件C相似度60,識別種類及形狀不同之零件C,並對作為零件資料之檢查資料50進行設定。又,因考慮零件C之種類及形狀這兩者,故與僅考慮零件C之形狀之情形不同,能夠識別相同形狀但種類不同之零件C,並對作為零件資料之檢查資料50進行設定。
又,於本實施方式中,如上所述,獲取每個零件C之零件C相似度60的步驟包括如下步驟,即,基於每零件種類之零件C種類相似度61、及每零件形狀之零件C形狀相似度62,針對預先登錄有複數個零件C之種類及形狀之零件庫21,獲取每個零件C之零件C相似度60。又,設定檢查資料50的步驟包括如下步驟,即,根據零件庫21中之登錄零件資料,對作為零件資料之檢查資料50進行設定。藉此,能夠使用零件庫21中之登錄零件資料,容易地對作為零件資料之檢查資料50進行設定。
又,於本實施方式中,如上所述,零件C之形狀之相似度62包含零件C之外形之相似度、零件C之本體之相似度、及零件C之端子之相似度。藉此,能夠基於零件C之外形之相似度、零件C之本體之相似度、或零件C之端子之相似度,確切地獲取零件C之形狀之相似度62。
又,於本實施方式中,如上所述,獲取每個零件C之零件C相似度60的步驟包括如下步驟,即,基於零件圖像41,獲取零件C之外形之寬度W1、零件C之外形之長度L1、零件C之外形之厚度T1、零件C之本體之寬度W2、零件C之本體之長度L2、零件C之本體之厚度T2、零件C之端子之數量、零件C之端子之間距P3、零件C之端子之寬度W3、及零件C之端子之長度L3。藉此,能夠基於零件C之外形之寬度W1、零件C之外形之長度L1、零件C之外形之厚度T1、零件C之本體之寬度W2、零件C之本體之長度L2、零件C之本體之厚度T2、零件C之端子之數量、零件C之端子之間距P3、零件C之端子之寬度W3、或零件C之端子之長度L3,確切地獲取零件C之形狀之相似度62。
又,於本實施方式中,如上所述,獲取每個零件C之零件C相似度60的步驟包括如下步驟,即,使用已預先學習之機器學習模型70所進行之圖像處理,獲取每零件種類之零件C種類相似度61,並使用利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取每零件形狀之零件C形狀相似度62。藉此,能夠使用已預先學習之機器學習模型70所進行之圖像處理,確切地獲取每零件種類之零件C種類相似度61,並使用利用了圖像中之顏色深淺及圖像中之高度之圖像處理,確切地獲取每零件形狀之零件C形狀相似度62。
又,於本實施方式中,如上所述,獲取每個零件C之零件C相似度60的步驟包括如下步驟,即,於使用利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取每零件形狀之零件C形狀相似度62之情形時,考慮與基板B之顏色有關之資訊、及與基板B之焊料之厚度有關之資訊。藉此,於考慮與基板B之顏色有關之資訊之情形時,即便是基板B之顏色與零件C之顏色(零件C之本體之顏色、及零件C之端子之顏色等)為相近之顏色之情形,亦能夠容易地識別基板B與零件C。結果,能夠準確地獲取每零件形狀之零件C形狀相似度62。又,於考慮與基板B之焊料之厚度有關之資訊之情形時,因知曉識別基板B之焊料與零件C之端子之高度之基準,故能夠容易地識別基板B之焊料與零件C之端子。結果,能夠準確地獲取每零件形狀之零件C形狀相似度62。
又,於本實施方式中,如上所述,擷取已安裝基板圖像40中之零件圖像41的步驟包括如下步驟,即,基於在將零件C安裝於基板B上之零件安裝裝置中使用且包含零件C之形狀及零件C之安裝位置之基板資料、及作為基板B之圖像資料之基板CAD資料中的至少1個,擷取已安裝基板圖像40中之零件圖像41。藉此,能夠基於基板資料或基板CAD資料,容易地指定已安裝基板圖像40中之零件C之位置。結果,與不使用基板資料或基板CAD資料之情形相比,能夠容易地擷取已安裝基板圖像40中之零件圖像41。
又,於本實施方式中,如上所述,製作檢查資料50的步驟包括如下步驟,即,於設定作為檢查資料50之零件C之端子的資訊與基於零件圖像41獲取之零件C之端子的資訊不同之情形時,利用基於零件圖像41獲取之零件C之端子的資訊覆寫設定成檢查資料50之零件C之端子的資訊,藉此製作新的檢查資料50。藉此,能夠抑制將錯誤之零件C之端子的資訊設定作為檢查資料50。
[變化例]
再者,應當認為,本次所揭示之實施方式於所有方面均為例示而非限制性者。本發明之範圍由申請專利範圍示出,而非由上述實施方式之說明示出,進而包含與申請專利範圍均等之含義及範圍內之所有變更(變化例)。
例如,於上述實施方式中,示出了檢查資料製作裝置進行本發明之檢查資料之製作之例,但本發明不限於此。於本發明中,檢查裝置亦可進行本發明之檢查資料之製作。於此情形時,上述實施方式之檢查裝置30之控制部34a與上述實施方式之檢查資料製作裝置10之控制部11同樣地發揮作用。
又,於上述實施方式中,示出了基於每個零件之零件相似度而自動設定檢查資料之例,但本發明不限於此。於本發明中,亦可基於每個零件之零件相似度而手動設定檢查資料。於此情形時,例如可藉由在顯示部中顯示,而向作業人員提示每個零件之零件相似度,由作業人員手動設定檢查資料。
又,於上述實施方式中,示出了無關於零件之相似度之數值之大小,而將零件之相似度之數值最高的零件設定成作為零件資料之檢查資料之例,但本發明不限於此。於本發明中,亦可於零件之相似度之數值為閾值以下之情形時,向作業人員通知零件之相似度之數值為閾值以下。
又,於上述實施方式中,示出了使用機器學習模型所進行之圖像處理、及利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取每個零件之零件相似度之例,但本發明不限於此。於本發明中,亦可僅使用機器學習模型所進行之圖像處理、及利用了圖像中之顏色深淺及圖像中之高度之圖像處理中之任一者,獲取每個零件之零件相似度。例如,亦可藉由機器學習模型所進行之圖像處理,而獲取零件之種類之相似度及零件之形狀之相似度這兩者。又,例如,亦可藉由利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取零件之種類之相似度及零件之形狀之相似度這兩者。於此情形時,亦可藉由利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取零件之端子之配置狀態,並基於零件之端子之配置狀態及零件之端子形狀之規則,獲取零件之種類之相似度。關於端子形狀之規則,例如,於SOP之情形時,能夠將鷗翼狀端子存在於零件之本體之相互對向之2邊作為規則。又,例如,於QFP之情形時,能夠將鷗翼狀端子存在於零件之本體之4邊作為規則。
又,於上述實施方式中,示出了進行利用了圖像中之顏色深淺及圖像中之高度之圖像處理之例,但本發明不限於此。於本發明中,亦可進行僅利用了圖像中之顏色深淺及圖像中之高度中之一者之圖像處理。
又,於上述實施方式中,示出了已安裝基板圖像及零件圖像包含二維圖像及三維圖像之例,但本發明不限於此。於本發明中,已安裝基板圖像及零件圖像亦可僅包含二維圖像及三維圖像中之任一者。
又,於上述實施方式中,示出了針對零件庫(零件登錄資訊)中之所有登錄零件,獲取零件之相似度,藉此獲取每個零件之零件相似度之例,但本發明不限於此。於本發明中,亦可針對零件登錄資訊之一部分登錄零件,獲取零件之相似度,藉此獲取每個零件之零件相似度。
又,於上述實施方式中,示出了零件之形狀之相似度包含零件之外形之相似度、零件之本體之相似度、及零件之端子之相似度之例,但本發明不限於此。於本發明中,零件之形狀之相似度亦可僅包含零件之外形之相似度、零件之本體之相似度、及零件之端子之相似度中之任意1個或2個。
又,於上述實施方式中,示出了基於零件圖像,獲取零件之外形之寬度、零件之外形之長度、零件之外形之厚度、零件之本體之寬度、零件之本體之長度、零件之本體之厚度、零件之端子之數量、零件之端子之間距、零件之端子之寬度、及零件之端子之長度之例,但本發明不限於此。於本發明中,無須基於零件圖像獲取零件之外形之寬度、零件之外形之長度、零件之外形之厚度、零件之本體之寬度、零件之本體之長度、零件之本體之厚度、零件之端子之數量、零件之端子之間距、零件之端子之寬度、及零件之端子之長度之全部。
又,於上述實施方式中,示出了使用機器學習模型所進行之圖像處理,獲取每零件種類之零件種類相似度,並使用利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取每零件形狀之零件形狀相似度之例,但本發明不限於此。於本發明中,亦可使用利用了圖像中之顏色深淺及圖像中之高度的其中至少1個之圖像處理,獲取每零件種類之零件種類相似度,並使用機器學習模型所進行之圖像處理,獲取每零件形狀之零件形狀相似度。
又,於上述實施方式中,示出了於使用利用了圖像中之顏色深淺及圖像中之高度之圖像處理,獲取每零件形狀之零件形狀相似度之情形時,考慮與基板之顏色有關之資訊、及與基板之焊料之厚度有關之資訊之例,但本發明不限於此。於本發明中,亦可於使用利用了圖像中之顏色深淺及圖像中之高度的其中至少1個之圖像處理,獲取每零件形狀之零件形狀相似度之情形時,僅考慮與基板之顏色有關之資訊、及與基板之焊料之厚度有關之資訊中之一者。又,亦可於使用利用了圖像中之顏色深淺及圖像中之高度的其中至少1個之圖像處理,獲取每零件種類之零件種類相似度之情形時,考慮與基板之顏色有關之資訊、及與基板之焊料之厚度有關之資訊中的至少1個。
又,於上述實施方式中,為便於說明,使用按照處理流程依序進行處理之流程驅動型流程圖對控制部之處理動作進行說明,但本發明不限於此。於本發明中,亦可藉由以事件為單位執行處理之事件驅動型(event driven型)處理進行控制部之處理動作。於此情形時,可完全藉由事件驅動型進行控制部之處理動作,亦可將事件驅動與流程驅動組合來進行控制部之處理動作。
10:檢查資料製作裝置
11:控制部
12:記憶部
13:輸入部
14:顯示部
15:通信部
20:資料庫
21:零件庫
30:檢查裝置
31:基板搬送輸送器
32:頂部移動機構
33:測定部
33a:拍攝部
33b:投影部
33c:光軸
34:控制裝置
34a:控制部
34b:記憶部
34c:圖像處理部
34d:拍攝控制部
34e:投影控制部
34f:馬達控制部
40:已安裝基板圖像
41:零件圖像
50:檢查資料
60:零件之相似度
61:零件之種類之相似度
62:零件之形狀之相似度
70:機器學習模型
71:視野圖像
72:零件圖像
73:零件圖像
100:零件安裝系統
B:基板
C:零件
L1:長度
L2:長度
L3:長度
P3:間距
T1:厚度
T2:厚度
W1:寬度
W2:寬度
W3:寬度
圖1係表示一實施方式之零件安裝系統之方塊圖。
圖2係表示一實施方式之檢查裝置之方塊圖。
圖3係用以說明一實施方式之檢查資料製作裝置所進行之檢查資料製作處理之流程圖。
圖4係用以說明一實施方式之檢查資料製作裝置所進行之零件之相似度的獲取之流程圖。
圖5係用以說明一實施方式之檢查資料製作裝置所進行之檢查資料製作處理之圖。
圖6係用以說明一實施方式之檢查資料製作裝置所進行之零件之種類之相似度的獲取之圖。
圖7係用以說明一實施方式之檢查資料製作裝置之機器學習模型之製作之圖。
圖8係用以說明一實施方式之檢查資料製作裝置所進行之零件之形狀的獲取之圖。
圖9係用以說明一實施方式之檢查資料製作裝置所進行之零件之形狀之相似度的獲取之圖。
圖10係用以說明一實施方式之檢查資料製作裝置所進行之零件之相似度的獲取之第1圖。
圖11係用以說明一實施方式之檢查資料製作裝置所進行之零件之相似度的獲取之第2圖。
Claims (11)
- 一種檢查資料製作方法,其具備如下步驟:獲取已安裝零件之基板之已安裝基板圖像;擷取上述已安裝基板圖像中之上述零件之零件圖像;基於上述零件圖像,針對預先登錄有零件資訊之零件登錄資訊,獲取登錄於上述零件登錄資訊之每個登錄零件之上述零件相似度;以及基於每個上述登錄零件之上述零件相似度,設定在檢查上述基板之檢查裝置中使用之作為零件資料之檢查資料;獲取每個上述登錄零件之上述零件相似度的步驟包括對於所有上述登錄零件,獲取每個登錄零件種類之上述零件之種類之相似度及每個登錄零件形狀之上述零件之形狀之相似度,且藉由對已獲取之上述零件之種類之相似度及上述零件之形狀之相似度分別乘以加權因數而進行加權,對於所有上述登錄零件,獲取每個上述登錄零件之上述零件之綜合性相似度;設定上述檢查資料之步驟包括根據上述零件登錄資訊之登錄零件資料,對作為上述零件資料之上述檢查資料進行設定。
- 如請求項1之檢查資料製作方法,其中每個上述登錄零件之上述零件相似度包含數值;設定上述檢查資料的步驟包括如下步驟,即,將上述零件相似度之數值最高的上述零件設定成作為上述零件資料之上述檢查資料。
- 如請求項1或2之檢查資料製作方法,其中 獲取每個上述登錄零件之上述零件相似度的步驟包括利用以下圖像處理中之至少1個,獲取每個上述登錄零件之上述零件相似度,上述圖像處理係指已預先學習之機器學習模型所進行之圖像處理、及利用了圖像中之顏色深淺及圖像中之高度中之至少1個之圖像處理。
- 如請求項1或2之檢查資料製作方法,其中上述零件形狀相似度包含上述零件之外形之相似度、上述零件之本體之相似度、及上述零件之端子之相似度中的至少1個。
- 如請求項1或2之檢查資料製作方法,其中獲取每個上述登錄零件之上述零件相似度的步驟包括如下步驟,即,基於上述零件圖像,獲取上述零件之外形之寬度、上述零件之外形之長度、上述零件之外形之厚度、上述零件之本體之寬度、上述零件之本體之長度、上述零件之本體之厚度、上述零件之端子之數量、上述零件之端子之間距、上述零件之端子之寬度、及上述零件之端子之長度中的至少1個。
- 如請求項1或2之檢查資料製作方法,其中獲取每個上述登錄零件之上述零件相似度的步驟包括如下步驟,即,使用已預先學習之機器學習模型所進行之圖像處理,獲取每個上述登錄零件種類之上述零件種類相似度,並使用利用了圖像中之顏色深淺及圖像中之高度中之至少1個之圖像處理,獲取每個上述登錄零件形狀之上述零件形狀相似度。
- 如請求項1或2之檢查資料製作方法,其中獲取每個上述登錄零件之上述零件相似度的步驟包括如下步驟,即,於使用利用了圖像中之顏色深淺及圖像中之高度中之至少1個之圖像處理,獲取每個上述登錄零件種類之上述零件種類相似度、及每個上述登錄零件形狀之上述零件形狀相似度中的至少1個之情形時,考慮與上述基板之顏色有關之資訊、及與上述基板之焊料之厚度有關之資訊中的至少1個。
- 如請求項1或2之檢查資料製作方法,其中擷取上述已安裝基板圖像中之上述零件圖像的步驟包括如下步驟,即,基於在將上述零件安裝於上述基板上之零件安裝裝置中使用且包含上述零件之形狀及上述零件之安裝位置之基板資料、及作為上述基板之圖像資料之基板CAD資料中的至少1個,擷取上述已安裝基板圖像中之上述零件圖像。
- 如請求項1或2之檢查資料製作方法,其中設定上述檢查資料的步驟包括如下步驟,即,於設定作為上述檢查資料之上述零件之端子的資訊與基於上述零件圖像獲取之上述零件之端子的資訊不同之情形時,利用基於上述零件圖像獲取之上述零件之端子的資訊覆寫作為上述檢查資料而設定之上述零件之端子的資訊,藉此製作新的上述檢查資料。
- 一種檢查資料製作裝置,其具備:獲取部,其獲取已安裝零件之基板之已安裝基板圖像;以及控制部,其擷取上述已安裝基板圖像中之上述零件之零件圖像,基於上述零件圖像,針對預先登錄有零件資訊之零件登錄資訊,獲取登錄於上述零件登錄資訊之每個登錄零件之上述零件相似度,基於每個上述登錄零件之上述零件相似度,對作為用於檢查上述基板之檢查裝置中之零件資料之檢查資料進行設定;且上述控制部構成為對於所有上述登錄零件,獲取每個登錄零件種類之上述零件之種類之相似度及每個登錄零件形狀之上述零件之形狀之相似度,且藉由對已獲取之上述零件之種類之相似度及上述零件之形狀之相似度分別乘以加權因數而進行加權,對於所有上述登錄零件,獲取每個上述登錄零件之上述零件之綜合性相似度,並根據上述零件登錄資訊之登錄零件資料,對作為上述零件資料之上述檢查資料進行設定。
- 一種檢查裝置,其具備:拍攝部,其拍攝已安裝零件之基板,獲取已安裝基板圖像;以及控制部,其擷取上述已安裝基板圖像中之上述零件的零件圖像,基於上述零件圖像,針對預先登錄有零件資訊之零件登錄資訊,獲取登錄於上述零件登錄資訊之每個登錄零件之上述零件相似度,基於每個上述登錄零件之上述零件相似度,設定作為零件資料之檢查資料;上述控制部構成為對於所有上述登錄零件,獲取每個登錄零件種類之上述零件之種類之相似度及每個登錄零件形狀之上述零件之形狀之相似度,且藉由對已獲取之上述零件之種類之相似度及上述零件之形狀之相似 度分別乘以加權因數而進行加權,對於所有上述登錄零件,獲取每個上述登錄零件之上述零件之綜合性相似度,並根據上述零件登錄資訊之登錄零件資料,對作為上述零件資料之上述檢查資料進行設定。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2020/026087 WO2022003919A1 (ja) | 2020-07-02 | 2020-07-02 | 検査データ作成方法、検査データ作成装置および検査装置 |
WOPCT/JP2020/026087 | 2020-07-02 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW202220542A TW202220542A (zh) | 2022-05-16 |
TWI841850B true TWI841850B (zh) | 2024-05-11 |
Family
ID=
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019100917A (ja) | 2017-12-05 | 2019-06-24 | パナソニックIpマネジメント株式会社 | 検査プログラム生成システム、検査プログラムの生成方法、及び検査プログラムの生成用プログラム |
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019100917A (ja) | 2017-12-05 | 2019-06-24 | パナソニックIpマネジメント株式会社 | 検査プログラム生成システム、検査プログラムの生成方法、及び検査プログラムの生成用プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101488466B (zh) | 半导体器件的制造方法 | |
US20180049356A1 (en) | Inspection apparatus and quality control system for surface mounting line | |
US6496270B1 (en) | Method and system for automatically generating reference height data for use in a three-dimensional inspection system | |
US20120327215A1 (en) | High speed optical sensor inspection system | |
CN105074439B (zh) | 印刷电路板的印刷检查方法和印刷检查装置 | |
KR102515369B1 (ko) | 3차원 측정 장치 | |
CN111492727A (zh) | 显示基板的检查结果的电子装置及方法 | |
KR101121992B1 (ko) | 실장 검사 데이터 형성방법, 이를 저장한 저장매체 및 이를 이용하는 검사장치 | |
JP7448655B2 (ja) | 検査データ作成方法、検査データ作成装置および検査装置 | |
TWI841850B (zh) | 檢查資料製作方法、檢查資料製作裝置及檢查裝置 | |
US6633663B1 (en) | Method and system for determining component dimensional information | |
JP6387620B2 (ja) | 品質管理システム | |
JP2000013097A (ja) | 部品搭載装置 | |
EP1020702B1 (en) | Judging whether bump height is proper or not | |
JP3225067B2 (ja) | リード測定方法 | |
WO2006132490A1 (en) | In-tray inspection apparatus and method of semiconductor package | |
Hou | Automated vision system for IC lead inspection | |
JPH11132735A (ja) | Icリード浮き検査装置及び検査方法 | |
TWI449119B (zh) | Circuit board placement method | |
JP3282514B2 (ja) | Bgaボールの位置検出方法 | |
TWI784051B (zh) | 半導體材料附接方法 | |
JP2576147B2 (ja) | 実装部品の欠品検査装置 | |
JP2001217599A (ja) | 表面実装部品装着機および表面実装部品装着機における電子部品検出方法 | |
Mahon | Automatic 3-D inspection of solder paste on surface mount printed circuit boards | |
JP2012252003A (ja) | 高速光学センサ検査システム |