TWI828545B - 自動視覺檢測系統之靈活直觀配置系統 - Google Patents
自動視覺檢測系統之靈活直觀配置系統 Download PDFInfo
- Publication number
- TWI828545B TWI828545B TW112106428A TW112106428A TWI828545B TW I828545 B TWI828545 B TW I828545B TW 112106428 A TW112106428 A TW 112106428A TW 112106428 A TW112106428 A TW 112106428A TW I828545 B TWI828545 B TW I828545B
- Authority
- TW
- Taiwan
- Prior art keywords
- camera
- electronic device
- parameters
- flexible
- item
- Prior art date
Links
- 238000011179 visual inspection Methods 0.000 title abstract description 34
- 230000007547 defect Effects 0.000 claims abstract description 78
- 238000000034 method Methods 0.000 claims abstract description 18
- 238000007689 inspection Methods 0.000 claims description 41
- 238000001514 detection method Methods 0.000 claims description 29
- 238000003384 imaging method Methods 0.000 claims description 24
- 238000007599 discharging Methods 0.000 claims description 23
- 238000005259 measurement Methods 0.000 claims description 22
- 230000003287 optical effect Effects 0.000 claims description 13
- 230000006870 function Effects 0.000 claims description 12
- 238000005286 illumination Methods 0.000 claims description 11
- 230000002950 deficient Effects 0.000 claims description 8
- 230000035945 sensitivity Effects 0.000 claims description 8
- 230000032258 transport Effects 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 3
- 239000000047 product Substances 0.000 description 16
- 230000005540 biological transmission Effects 0.000 description 6
- 238000010801 machine learning Methods 0.000 description 6
- 238000004519 manufacturing process Methods 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 239000002537 cosmetic Substances 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000010079 rubber tapping Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000010924 continuous production Methods 0.000 description 1
- 238000002845 discoloration Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000011265 semifinished product Substances 0.000 description 1
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
本發明主要揭示一種彈性及直覺化配置系統,係利用一電子裝置實現,其中該電子裝置係耦接一自動視覺檢測系統的一主控電子裝置,藉以和該自動視覺檢測系統的N個攝像機與N個機械手臂資訊連結。對該自動視覺檢測系統進行一設定程序時,係先對各所述機械手臂進行一手臂設置操作,並對由該機械手臂所持有的攝像機進行一攝像機設置操作,而後控制該攝像機拍攝一指定物品。過程中,此彈性及直覺化設定系統對應記錄了攝像機和機械手臂的配置參數,且將該物品的複數張物品影像上傳至一遠端電子裝置,使該遠端電子裝置利用該複數張物品影像生成一物品瑕疵識別模型。最終,將該物品瑕疵識別模型安裝在該主控電子裝置,以使該自動視覺檢測系統適合應用於對該物品進行自動化瑕疵檢測。
Description
本發明係關於機器視覺的技術領域,尤指一種自動視覺檢測系統之靈活直觀配置系統。
一般而言,利用工業技術生產製造的半成品或成品必須接受品質檢驗以判斷其是否符合工業標準,其中品質檢驗包括外觀(cosmetic)檢測和功能測試。實際經驗指出,品檢員在進行工業製品的外觀檢測時,其經常發生漏檢或誤檢的情事。有鑑於此,利用機器視覺(machine vision)技術的自動視覺檢測(Automated visual inspection)系統於是開發並導入自動化產線,用以取代人力對利用工業半成品或成品執行外觀檢測。舉例而言,台灣新型專利號TWM355371U揭示用以對螺帽、齒輪進行瑕疵檢測的一種自動視覺檢測系統),且該自動視覺檢測系統主要包括:一光源、至少一攝像機以及一處理裝置(或稱電子裝置)。
一般而言,一個工業製品出廠前,在外觀上需涵蓋製品本身眾多角度的異常檢查。同時,工業製品的市場趨勢走向少量多樣且生產週期短。因此,不同型號的工業製品外觀上變化速度快,隨同產線上的自動視覺系統的設置頻率,也需要因製品外觀改變速,而經常變動並由人員介入設置。以對一齒輪(gear)進行瑕疵檢測為例,品檢員會依據相關檢測規定對該齒輪的幾個表面進行檢查,以確認該齒紋是否存在沾黏異物、凹痕、刮傷、異色、無攻牙(即,螺孔內無內螺紋)。因此,為了讓所述自動視覺檢測系統能夠對由輸送帶所運送的一批量齒輪作出正確的瑕疵檢測,系統製造商通常會在該電子裝置內設置一資料庫與一瑕疵識別軟體。值得說明的是,該資料庫預先儲存有複數張標籤化瑕疵齒輪影像以及正常品影像(Golden Sample),且這些預分類的齒輪影像分別被處理為具有沾黏異物、凹痕、刮傷、異色、和無攻牙等複數個參考缺陷特徵圖像。依此設置,在該攝像機自一個齒輪拍攝獲得至少一齒輪影像後,該瑕疵識別軟體會先對該齒輪影像進行一特徵萃取處理以獲得一齒輪特徵圖像。接著,該瑕疵識別軟體對該齒輪特徵圖像和儲存在該資料庫內的至少一個參考缺陷特徵圖像進行一特徵比對,從而確定當前受檢的齒輪是否存在相關檢測規定所定義的瑕疵。
熟悉應用於瑕疵檢測的自動視覺檢測系統之開發製造的工程師都知道,欲使該自動視覺檢測系統能夠對型號A的齒輪作出正確的瑕疵檢測和識別,工程師除了必須調校每個攝像機的設置高度、設置角度、攝像距離、光圈大小等攝像參數之外,同時亦須調校光源的光照範圍和光強度。更複雜的是,齒輪製造商的品檢員,在生產過程上發現新型態瑕疵時,因瑕疵位置或是所需光學條件不同,未必能使用先前工程師已調校完成的視覺系統參數採取影像。因此,品檢員第一時間無法協助提供帶有新類型的缺陷特徵多張齒輪影像,使工程師能夠製作前述之預分類化齒輪影像。假設瑕疵都可以順利地被預先完成參數配置的攝像機所拍攝。接著,工程師便可以利用機器學習(Machine learning)技術建構包含於瑕疵識別軟體之中的一瑕疵識別模型。所述瑕疵識別模型利用以下步驟產生:
步驟a:將複數個樣本圖像輸入一機器學習模型,獲得各所述樣本圖像的一預測類別資訊; 其中,所述複數個樣本圖像包括複數個齒輪圖像以及複數個帶有瑕疵特徵的齒輪圖像,且各所述樣本圖像皆帶有一類別標籤(即,labeled);
步驟b:根據所述樣本圖像的該預測類別資訊與該類別標籤之間的差異,調整所述機器學習模型的模型參數,從而獲得一調整後的機器學習模型;
步驟c:利用調整後的機器學習模型對複數個測試圖像進行分類,獲得一分類準確率;其中,所述複數個測試圖像包含複數個齒輪圖像和複數個帶有瑕疵特徵的齒輪圖像;
步驟d:在該分類準確率未達到一準確率閥值的情況下重複執行前述之所有步驟;以及
步驟e:在該分類準確率達到所述準確率閥值的情況下,以該調整後的機器學習模型作為整合在該瑕疵識別軟體之中的一瑕疵識別模型。
換句話說,若齒輪製造商要求工程師重新調校該自動視覺檢測系統以使其能夠用於對一型號B之齒輪進行正確的瑕疵檢測和識別,此時,工程師除了必須調校每個攝像機的設置高度、設置角度、攝像距離、光圈大小等攝像參數之外,同時亦須調校光源的光照範圍和照明強度。更重要的是,齒輪製造商的品檢員在沒有光學設備專業知識下,無法透過調整光學設備助提供持續生產過程中帶有缺陷特徵的多張齒輪影像,以至於工程師也無法製作對應的標籤化齒輪影像以及瑕疵識別模型。因此,要能支援多個型號的齒輪檢測,前期的光學設置工作並不容易完成,係需要花費相當的專業人力與時間才能夠完成。
有鑑於此,應考慮開發一種新式自動視覺檢測系統,其允許品檢員自行設定光源和攝像機的有關參數,且能夠在品檢員的彈性且直覺得操作下,學習不同型號的齒輪的品檢標準,以訓練瑕疵識別模型能夠正確檢測並識別不同型號的齒輪的外觀缺陷。因此,本發明之創作人係極力加以研究創作,而終於研發完成本發明之一種自動視覺檢測系統之靈活直觀配置系統。
本發明之主要目的提供一種靈活直觀配置系統,係利用一電子裝置實現,其中該電子裝置係耦接一自動視覺檢測系統的一主控電子裝置,藉以和該自動視覺檢測系統的N個攝像機與N個機械手臂資訊連結。對該自動視覺檢測系統進行一設定程序時,係先對各所述機械手臂進行一手臂設置操作,並對由該機械手臂所持有的攝像機進行一攝像機設置操作,而後控制該攝像機拍攝一指定物品。過程中,此靈活直觀配置系統對應記錄了攝像機和機械手臂的配置參數,且將該物品的複數張物品影像上傳至一遠端電子裝置,使該遠端電子裝置利用該複數張物品影像生成一物品瑕疵識別模型。最終,將該物品瑕疵識別模型安裝在該主控電子裝置,以使該自動視覺檢測系統適合應用於對該物品進行自動化瑕疵檢測。
舉例而言,本發明之靈活直觀配置系統可以為安裝在一平板電腦(即,前述電子裝置)的一應用程式,使製造廠的品檢員可以操作該平板電腦來對其廠內的任一自動視覺檢測系統進行如前所述之設定程序,使該自動視覺檢測系統被變更配置之後能夠轉用於對一指定的物品進行自動化瑕疵檢測。特別地,在該自動視覺檢測系統接受所述設定程序的整個過程中,係無須工程師介入攝像機和機械手臂的配置參數的調校,可由品檢員依其平時人工品檢經驗,自行直覺地調整機械手臂的角度,並透過智慧手持裝置的拍照方式,即可完成瑕疵樣品取像。工程師僅須操作該遠端電子裝置,以利用該操作該遠端電子裝置依據品檢員所提供複數張物品影像而生成一物品瑕疵識別模型。
為達成上述目的,本發明提出所述靈活直觀配置系統的一實施例,其係用以對一自動視覺檢測系統進行一設定操作,以使該自動視覺檢測系統適合應用於對一物品進行自動化瑕疵檢測,其中該自動視覺檢測系統包括一傳送設備、N個機械手臂、分別由N個機械手臂所持有的N個攝像機以及一主控電子裝置,且N係至少為1的正整數;所述彈性設定系統包括:
一電子裝置,耦接該主控電子裝置,從而藉由該主控電子裝置而與該N個攝像機與該N個機械手臂資訊連結;其中,該電子裝置包括一第一處理器與一第一記憶體,該第一記憶體內儲存有一第一應用程式,使得該第一處理器透過存取該第一記憶體以執行所述第一應用程式,從而啟用以下功能:
在該機械手臂被操作以移動該攝像機K次從而使該攝像機在每一次移動後皆具有一攝像高度、一攝像角度與一攝像距離的過程中,在該攝像機每一次移動後記錄一個所述攝像高度、一個所述攝像角度以及一個所述攝像距離以作為一組外部攝像參數,從而共獲得K組所述外部攝像參數;其中,K係至少為1的正整數;
在該攝像機每一次移動後又接著接受一攝像機調整操作而具有一光圈(Aperture)、一景深(Depth of field)、一快門速度(Shutter speed)、一感光度(ISO)、與一焦距(Focus)的情況下,記錄一個所述光圈、一個所述景深、一個所述快門速度、一個所述感光度、以及一個所述焦距以作為一組內部攝像參數,從而在該攝像機移動K次之後共獲得K組所述內部攝像參數;
在該攝像機對該傳送設備所運送的一物品(Article)進行拍攝以獲得複數張具有常規特徵的第一物品影像以及複數張具有瑕疵特徵的第二物品影像之後,將該複數張第一物品影像和該複數張第二物品影像上傳至一遠端電子裝置;以及
在該遠端電子裝置利用該複數張第一物品影像和該複數張第二物品影像生成至少一更新模組之後,利用該更新模組對安裝在該主控電子裝置之內的一第一物品瑕疵識別模型進行一模型更新操作,或利用該更新模組在該主控電子裝置之內安裝一第二物品瑕疵識別模型。
在一實施例中,該電子裝置為選自於由智慧型手機、平板電腦、桌上型電腦、一體式(All-in-one)電腦和筆記型電腦所組成群組之中的任一者。
在一可行實施例中,該攝像機包含於一行動電子裝置之中,且該行動電子裝置為選自於由智慧型手機和平板電腦所組成群組之中的任一者。並且,該行動電子裝置包含一慣性測量單元(inertial measurement unit, IMU)以及一雷射探測與測距(Laser imaging detection and ranging, LiDAR)單元,用以在該攝像機在每一次移動之後獲取一三維移動數據與一三維測量數據,並透過該行動電子裝置將將所述三維移動數據和所述三維測量數據傳送至該電子裝置,使該電子裝置將該三維移動數據和該整合至所述外部攝像參數之中。
在另一可行實施例中,該攝像機包含於一行動電子裝置之中,其中該行動電子裝置包含一慣性測量單元(IMU)並設置在連接該機械手臂的一夾具之上,且一雷射探測與測距(LiDAR)單元設置在該夾具之上並電連接該行動電子裝置。在該攝像機在每一次移動之後,該慣性測量單元和該雷射探測與測距單元分別獲得一三維移動數據與一三維測量數據,且該行動電子裝置將所述三維移動數據和所述三維測量數據傳送至該電子裝置,使該電子裝置將該三維移動數據和該整合至所述外部攝像參數之中。
在一實施例中,該第一處理器記錄並儲存對應N個所述機械手臂的N組所述外部攝像參數於該記憶體之中,且記錄並儲存對應N個所述攝像機的N組所述內部攝像參數於該記憶體之中。
在一實施例中,在該第一處理器執行所述第一應用程式之後,該電子裝置的一顯示器係顯示一操作介面,使得一用戶能夠操作該操作介面從而對該複數張第一物品影像和該複數張第二物品影像進行一標籤處理。
在一實施例中,該傳送設備包括一傳送帶機構、用以驅動該傳送帶機構的一馬達以及一距離感測器,且該第一處理器執行所述第一應用程式從而進一步地啟用以下功能:
在該馬達被設定以一轉速運行從而驅動該傳送帶機構的情況下,記錄所述轉速作為一馬達控制參數;
在該傳送帶機構運送該物品從而使其落在第j個所述攝像機的一攝像範圍內的情況下,記錄第j個移動距離作為一物品定位參數;其中,j∈N;以及
依據所述馬達控制參數和N個所述物品定位參數對安裝在該主控電子裝置之內的一裝置控制軟體進行一參數更新操作。
在一實施例中,該自動光學檢測系統更包括N個光源,且該第一處理器執行所述第一應用程式從而啟用以下功能:
在該光源經由一光源調整操作而具有一光照範圍、一光強度、一色溫、以及一光色的情況下,記錄所述光照範圍、所述光強度、所述色溫、以及所述光色以作為一組照明參數;以及
依據所述照明參數對安裝在該主控電子裝置的該裝置控制軟體進行所述參數更新操作。
在一實施例中,該主控電子裝置包括一第二處理器與一第二記憶體,該第二記憶體內儲存有一第二應用程式,使得該第二處理器透過存取該第二記憶體以執行所述第二應用程式,從而啟用以下功能:
控制該機械手臂依據其對應的所述外部攝像參數進行作動,從而對應移動該攝像機;
控制該光源依據其對應的所述照明參數提供一檢測光射向該物品;以及
控制該攝像機依據其對應的所述內部攝像參數以自該物品攝得一物品影像;
利用該物品瑕疵識別模型對該物品影像執行一瑕疵識別操作,從而確定該物品是否具有至少一瑕疵。
在一實施例中,該自動視覺檢測系統更包括設置於鄰近該傳送設備的一出料口的至少一排料裝置,且該第一處理器執行所述第一應用程式從而進一步地啟用以下功能:
在一個所述物品於該傳送帶機構移動N個移動距離並接著移動第N+1個移動距離之後,記錄所述第N+1個移動距離作為一排料參數;
在該排料裝置被操作以將一個所述物品排料至一收集箱的情況下,該物品具有一初始高度、一放置角度與一終點高度,記錄所述初始高度、所述放置角度與所述終點高度以作為一組排料裝置參數;以及
依據所述排料參數和N個所述排料裝置參數對安裝在該主控電子裝置之內的該裝置控制軟體進行所述參數更新操作。
在一實施例中,該自動光學檢測系統更包括設置於鄰近該傳送設備的一進料口的至少一物品擺放裝置,且該第一處理器執行所述第一應用程式從而進一步地啟用以下功能:
在該物品擺放裝置被操作以將一個所述物品擺放至該傳送設備之上的情況下,該物品具有一初始高度、一放置角度與一終點高度,記錄所述初始高度、所述放置角度與所述終點高度以作為一物品擺放裝置參數;以及
依據所述物品擺放裝置參數對安裝在該主控電子裝置之內的該裝置控制軟體進行所述參數更新操作。
為了能夠更清楚地描述本發明所提出之一種自動視覺檢測系統之靈活直觀配置系統,以下將配合圖式,詳盡說明本發明之較佳實施例。
圖1為包含本發明之一種靈活直觀配置系統的一自動視覺檢測系統的方塊圖。並且,圖2A和圖2B為該自動視覺檢測系統的第一、第二立體圖。如圖1、圖2A和圖2B所示,本發明提出一種靈活直觀配置系統1,用以對一自動視覺檢測系統2進行一設定操作,以使該自動光學檢測系統2(下文簡稱“AVI系統2”)適合應用於對一物品進行自動化瑕疵檢測。舉例而言,該AVI系統2包括一傳送設備20、一物品擺放裝置26、N個機械手臂21、N個攝像機22、一主控電子裝置23、N個光源24、以及一排料裝置25,其中,N係至少為1的正整數,且該主控電子裝置23耦接該傳送設備20、該物品擺放裝置26、該N個機械手臂21、該N個攝像機22、該主控電子裝置23、該N個光源24、與該排料裝置25。更詳細地說明,該主控電子裝置23安裝有一裝置控制軟體以及一物品瑕疵識別軟體,且該裝置控制軟體和該物品瑕疵識別軟體整合在一自動視覺檢測應用程式之中。
因此,利用該AVI系統2對一批量物品(例如:齒輪)進行瑕疵檢測時,該主控電子裝置23執行該裝置控制軟體從而控制該傳送設備20、該物品擺放裝置26、該N個機械手臂21、該N個攝像機22、該N個光源24、與該排料裝置25在合適時點進行作動。更進一步地說明,該物品擺放裝置26(即,一具有夾具的機械手臂)被控制以將位於該傳送設備20之上的物品夾起,接著將該物品擺放在該傳送設備20之上,使該物品依一擺放角度位於該傳送設備20之上。繼續地,第1個機械手臂21係持有第1個攝像機22,且其係受控而進行作動,從而移動第1個攝像機22以使該攝像機22具有包含一攝像高度、一攝像角度與一攝像距離的一組外部攝像參數。接著,第1個攝像機22受控而對落在其一攝像範圍內的物品進行拍攝,以獲得一物品影像。補充說明的是,第1個機械手臂21和第1個攝像機22組成第1個檢查站。在第1個檢查站中,第1個攝像機22被配置具有第1組外部攝像參數,接著拍攝該物品以獲得第1張物品影像。實務應用中,在第1個檢查站中,第1個攝像機22還會被配置具有第2組外部攝像參數(即,不同的攝像高度、攝像角度與攝像距離),接著拍攝該物品以獲得第2張物品影像。依此類推,該物品在第1個檢查站還有可能被拍攝第3張、第4張物品影像。
同理,當該物品繼續地由該傳送設備20運送至由第2個機械手臂21和第2個攝像機22所組成的第1個檢查站之時, 第2個機械手臂21受控而進行作動,從而移動第2個攝像機22以使該攝像機22具有包含一攝像高度、一攝像角度與一攝像距離的一組外部攝像參數。接著,第2個攝像機22受控而對落在其一攝像範圍內的物品進行拍攝,以獲得一物品影像。補充說明的是,在第2個檢查站中,第2個攝像機22被配置具有第1組外部攝像參數,接著拍攝該物品以獲得第1張物品影像。實務應用中,在第2個檢查站中,第2個攝像機22還會被配置具有第2組外部攝像參數(即,不同的攝像高度、攝像角度與攝像距離),接著拍攝該物品以獲得第2張物品影像。依此類推,該物品在第2個檢查站還有可能被拍攝第3張、第4張物品影像。
補充說明的是,在第j個檢查站中(j∈N),第j個攝像機22係被配置具有包含光圈(Aperture)、景深(Depth of field)、快門速度(Shutter speed)、感光度(ISO)、以及焦距(Focus)的一組內部攝像參數,使該攝像機22在接受指定參數配置的情況下對該物品的進行拍攝。如此,在該物品經過N個檢查站之後,該主控電子裝置23成功取得複數張物品影像,接著該主控電子裝置23執行該物品瑕疵識別軟體對各所述物品影像執行一瑕疵識別操作,從而確定該物品是否具有至少一瑕疵。具體地,該物品瑕疵識別軟體包括一影像處理處理單元(如:空間濾波處理)、一特徵萃取單元以及一物品瑕疵識別單元,其中該特徵萃取單元用以對該物品影像進行一特徵萃取處理以獲得一物品特徵圖像。另一方面,該物品瑕疵識別單元具有一預訓練(pre-trained)的物品瑕疵識別模型,且利用該物品瑕疵識別模型對該物品特徵圖像和儲存在該資料庫內的至少一個參考缺陷特徵圖像進行一特徵比對,從而確定當前受檢的物品是否存在相關檢測規定所定義的瑕疵。
在該物品完成瑕疵檢測與識別後,該主控電子裝置23控制該排料裝置25(即,一具有夾具的機械手臂)將屬於NG(not good)品的物品夾離該傳送設備20,並放進一NG品收集箱5之中。相反地,通過瑕疵檢測的(即,屬於正常品)的物品會被送進正常品收集箱4之中。
由前述說明可知,在該主控電子裝置23安裝有一裝置控制軟體以及一物品瑕疵識別軟體之後,包含該主控電子裝置23、該傳送設備20、該物品擺放裝置26、該N個機械手臂21、該N個攝像機22、該主控電子裝置23、該N個光源24、以及該排料裝置25的AVI系統2便可以用於對一批量的A物品(例如:型號A之齒輪)進行瑕疵檢測。然而,實務經驗指出,該AVI系統2不一定適用於對一批量的B物品(例如:型號B之齒輪)進行瑕疵檢測。在此情況下,如圖1、圖2A與圖2B所示,製造廠的品檢員可以操作本發明之靈活直觀配置系統1從而對同一台AVI系統2進行一設定程序,使該AVI系統2經過一系列的設定操作之後能夠適用於對一批量的B物品進行瑕疵檢測。
如圖1、圖2A與圖2B所示,本發明之靈活直觀配置系統1主要包括安裝有一電子裝置11以及安裝在該電子裝置11之中的一AVI系統設定軟體(稱為一第一應用程式),使製造廠的品檢員可以操作該平板電腦來對其廠內的任一AVI系統2進行一系列的設定操作。依據本發明之設計,該電子裝置11耦接該主控電子裝置23,從而藉由該主控電子裝置23而與該N個攝像機11與該N個機械手臂21資訊連結。其中,該電子裝置11包括一第一處理器11P與一第一記憶體11M,該第一記憶體11P內儲存有一第一應用程式(即,AVI系統設定軟體),使得該第一處理器11P透過存取該第一記憶體11M以執行所述第一應用程式,從而啟用多個功能已完成AVI系統2的一系列的設定操作。在一實施例中,在該第一處理器11P執行所述第一應用程式之後,該電子裝置11的一顯示器係顯示一操作介面(user interface, UI),使得製造廠的品檢員能夠操作該操作介面從而執行該AVI系統2的設定程序。
首先,品檢員可以用手扳動第j個(如第1個)機械手臂21,使得第j個攝像機22具有一攝像高度、一攝像角度與一攝像距離(即,一組外部攝像參數)。接著,品檢員可以設定第j個攝像機22的光圈、景深、快門速度、感光度、與焦距(即,一組內部攝像參數),並接著控制第j個攝像機22對落在其一攝像範圍內的物品進行拍攝,以獲得一物品影像。應知道,第j個機械手臂21和第j個攝像機22組成第j個檢查站。圖3A、圖3B為第j個機械手臂21和第j個攝像機22的第一、第二立體圖。如圖3A所示,在第j個檢查站中,第j個攝像機22被配置具有第1組外部攝像參數,接著拍攝該物品以獲得第1張物品影像。實務應用中,如圖3B所示,在第j個檢查站中,第1個攝像機22還會被配置具有第2組外部攝像參數(即,不同的攝像高度、攝像角度與攝像距離),接著拍攝該物品以獲得第2張物品影像。依此類推,該物品在第j個檢查站還有可能被拍攝第3張、第4張物品影像。
因此,在該機械手臂21被操作以移動該攝像機22K次從而使該攝像機22在每一次移動後皆具有一攝像高度、一攝像角度與一攝像距離的過程中,該第一處理器11P在該攝像機22每一次移動後記錄一個所述攝像高度、一個所述攝像角度以及一個所述攝像距離以作為一組外部攝像參數,從而共獲得K組所述外部攝像參數儲存在該第一記憶體11M之中,其中K係至少為1的正整數。同樣地,在該攝像機22每一次移動後又接著接受一攝像機調整操作而具有一光圈、一景深、一快門速度、一感光度、與一焦距的情況下,記錄一個所述光圈、一個所述景深、一個所述快門速度、一個所述感光度、以及一個所述焦距以作為一組內部攝像參數,從而在該攝像機22移動K次之後共獲得K組所述內部攝像參數儲存在該第一記憶體11M之中。
當品檢員在每一個檢查點都完成所述內部攝像參數和所述外部攝像參數的設置之後,該第一處理器11P記錄並儲存對應N個所述機械手臂21的複數組所述外部攝像參數於該記憶體11M之中,且記錄並儲存對應N個所述攝像機22的複數組所述內部攝像參數於該記憶體11M之中。應可理解,在第j個檢查站中,第j個攝像機22拍攝該物品的至少一物品影像。因此,經過N個檢查站後,該電子裝置11會取得複數張物品影像,其中該複數張物品影像包含複數張具有常規特徵的第一物品影像以及複數張具有瑕疵特徵的第二物品影像,且品檢員通過操作該操作介面可以對該複數張第一物品影像和該複數張第二物品影像進行一標籤處理(labeled)。接著,利用該電子裝置11可將該複數張第一物品影像和該複數張第二物品影像上傳至一遠端電子裝置3,使該遠端電子裝置3利用該複數張第一物品影像和該複數張第二物品影像生成至少一更新模組。最終,操作該電子裝置11可以該更新模組對安裝在該主控電子裝置23之內的物品瑕疵識別模型進行一模型更新操作,或利用該更新模組在該主控電子裝置23之內安裝另一套物品瑕疵識別模型。
進一步地,圖4A、圖4B為第j個機械手臂21、第j個攝像機22和第j個光源24的第一、第二立體圖。如圖4A與圖4B所示,該攝像機22包含於例如為智慧型手機和平板電腦的一行動電子裝置之中,且該行動電子裝置進一步包含一慣性測量單元(inertial measurement unit, IMU)以及一雷射探測與測距(Laser imaging detection and ranging, LiDAR)單元。舉例而言,iPad Pro以及iPhone 12皆具有內含LiDAR單元與IMU單元。依此設計,在該攝像機在每一次移動之後,該IMU單元和該LiDAR單元會獲取一三維移動數據與一三維測量數據,並接著該行動電子裝置將將所述三維移動數據和所述三維測量數據傳送至該電子裝置11,使該電子裝置11將該三維移動數據和該整合至所述外部攝像參數之中。
然而,並非所有行動電子裝置都會含有LiDAR單元。因此,在另一可行實施例中,該攝像機22包含於一行動電子裝置之中,且該行動電子裝置包含一IMU單元並設置在連接該機械手臂21的一夾具之上,且一LiDAR單元設置在該夾具之上並電連接該行動電子裝置。依此設置,在該機械手臂21的帶動該夾具和攝像機22移動之後,該IMU單元和該LiDAR單元分別獲得一三維移動數據與一三維測量數據,且該行動電子裝置將所述三維移動數據和所述三維測量數據傳送至該電子裝置11,使該電子裝置11將該三維移動數據和該整合至所述外部攝像參數之中。
綜上所述,本發明之靈活直觀配置系統1可以為安裝在一平板電腦(即,前述電子裝置11)的一應用程式,使製造廠的品檢員可以操作該平板電腦來對其廠內的任一AVI系統2進行如前所述之設定程序,使該AVI系統2被變更配置之後能夠轉用於對一指定的物品(如:型號B之齒輪)進行自動化瑕疵檢測。特別地,在該AVI系統2接受所述設定程序的整個過程中,係無須工程師介入N個攝像機22和N個機械手臂22的配置參數的調校,可由品檢員依其經驗自行完成(即,以手扳動機械手臂22和手動調整攝像參數)。相反地,工程師僅須操作該遠端電子裝置3,以利用該操作該遠端電子裝置3依據品檢員所提供複數張物品影像而生成一物品瑕疵識別模型。
補充說明的是,該電子裝置11亦可為智慧型手機、桌上型電腦、一體式(All-in-one)電腦、或筆記型電腦。並且,在一可行實施例中,該攝像機22包含於一行動電子裝置之中,且該行動電子裝置例如為智慧型手機或平板電腦。然而,在另一可行實施例中,該攝像機22具連網功能。換句話說,該攝像機22具有一第一通訊介面用以和該電子裝置11的一第二通訊介面或該主控電子裝置23的一主通訊介面進行資料傳輸。
除了通過一系列的設定實現對安裝在該主控電子裝置23之內的物品瑕疵識別模型進行一模型更新操作之外,本發明之靈活直觀配置系統1亦可通過一系列的設定實現對安裝在該主控電子裝置23之內的裝置控制軟體進行一軟體參數更新操作。如圖1、圖2A與圖2B所示,該傳送設備20包括:一傳送帶機構200、用以驅動該傳送帶機構200的一馬達201以及一距離感測器202。因此,在該第一處理器11P執行所述第一應用程式之後,亦可啟用所述軟體參數更新操作。具體地,為了該傳送帶機構200運送N個物品分別到達第1~N個檢查站,品檢員會操作該主控電子裝置23以設定該馬達201的轉速,使該馬達201以一轉速運行從而驅動該傳送帶機構200。因此,在該馬達201被設定以一轉速運行從而驅動該傳送帶機構200的情況下,該第一處理器11P會記錄所述轉速作為一馬達控制參數並儲存在該第一記憶體11M之中。同時,在該傳送帶機構200運送該物品從而使其落在第j個所述攝像機22的一攝像範圍內的情況下,該第一處理器11P會記錄第j個移動距離作為一物品定位參數並儲存在該第一記憶體11M之中。
如圖4A和圖4B所示,在實際操作中,品檢員還可能設置每一檢查站的光源24進行調整,使各檢查站的光源24經過調整後而具有指定的光照範圍、光強度、色溫、以及光色。因此,在第j個光源24經由一光源調整操作而具有一光照範圍、一光強度、一色溫、以及一光色的情況下,該第一處理器11P會記錄所述光照範圍、所述光強度、所述色溫、以及所述光色以作為一組照明參數並儲存在該第一記憶體11M之中。
在獲得所述馬達控制參數、N個所述物品定位參數以及N組所述照明參數之後,操作該電子裝置11可以依據所述馬達控制參數、N個所述物品定位參數以及N組所述照明參數對安裝在該主控電子裝置23的該裝置控制軟體進行一參數更新操作。如此,經過模型更新操作以及參數更新操作之後,該AVI系統2便可以用於對指定的物品進行自動化瑕疵檢測。具體地,如圖1、圖2A與圖2B所示,該主控電子裝置23包括一第二處理器23P與一第二記憶體23M,該第二記憶體23P內儲存有一第二應用程式(包括一裝置控制軟體以及一物品瑕疵識別軟體),使得該第二處理器23P透過存取該第二記憶體23M以執行所述第二應用程式,從而自動化瑕疵檢測,包括以下步驟:
控制N個機械手臂21依據其對應的所述外部攝像參數進行作動,從而對應移動N個攝像機22;
控制N個光源24依據其對應的所述照明參數提供N個檢測光射向分別落在N個攝像機22的攝像範圍內的N個物品;以及
控制N個攝像機22依據其對應的所述內部攝像參數以對落在其攝像範圍內的該物品進行拍攝,從而獲得複數張物品影像;以及
利用該物品瑕疵識別模型對各所述物品影像執行一瑕疵識別操作,從而確定該物品是否具有至少一瑕疵。
在該物品完成瑕疵檢測與識別後,該主控電子裝置23控制該排料裝置25(即,一具有夾具的機械手臂)將屬於NG(not good)品的物品夾離該傳送設備20,並放進一NG品收集箱5之中。因此,本發明之靈活直觀配置系統1還可執行以下程序。具體地,在一個所述物品於該傳送帶機構200移動N個移動距離並接著移動第N+1個移動距離之後,此時,該物品落在排料裝置25的一夾取範圍內,因此該第一處理器11P記錄所述第N+1個移動距離作為一排料參數並儲存在該第一記憶體11M內。接著,該排料裝置25被操作以將一個物品排料至一NG品收集箱5。應可理解,在物品的排料過程中,其必然具有一初始高度、一放置角度與一終點高度,因此該第一處理器11P記錄所述初始高度、所述放置角度與所述終點高度以作為一組排料裝置參數並儲存在該第一記憶體11M之中。如此,操作該電子裝置11便可依據所述排料參數和N個所述排料裝置參數對安裝在該主控電子裝置23之內的該裝置控制軟體進行所述參數更新操作。
相反地,當一批量物品(例如:齒輪)被放在該傳送設備20之上以待進行瑕疵檢測時,必須先操作該物品擺放裝置26(即,一具有夾具的機械手臂)以將位於該傳送設備20之上的物品夾起,接著將該物品擺放在該傳送設備20之上,使該物品依一擺放角度位於該傳送設備20之上。應可理解,在該物品擺放裝置26被操作以將一個所述物品擺放至該傳送設備20之上的情況下,該物品具有一初始高度、一放置角度與一終點高度,此時該第一處理器11P會記錄所述初始高度、所述放置角度與所述終點高度以作為一物品擺放裝置參數並儲存在該第一記憶體11M之中。最終,操作該電子裝置11可以 依據所述物品擺放裝置參數對安裝在該主控電子裝置23之內的該裝置控制軟體進行所述參數更新操作。
完成該物品擺放裝置26和該排料裝置25的控制參數的更新之後,該AVI系統2便可以對一批量物品進行物品擺放、物品瑕疵檢測和識別、以及NG品排料等全自動作業。
如此,上述已完整且清楚地說明本發明之一種自動視覺檢測系統之靈活直觀配置系統。然而,必須加以強調的是,上述之詳細說明係針對本發明可行實施例之具體說明,惟該實施例並非用以限制本發明之專利範圍,凡未脫離本發明技藝精神所為之等效實施或變更,均應包含於本案之專利範圍中。
1:靈活直觀配置系統
11:電子裝置
11P:第一處理器
11M:第一記憶體
2:自動視覺檢測系統
20:傳送設備
200:傳送帶機構
201:馬達
202:距離感測器
21:機械手臂
22:攝像機
23:主控電子裝置
23P:第二處理器
23M:第二記憶體
24:光源
25:排料裝置
26:物品擺放裝置
3:遠端電子裝置
4:正常品收集箱
5:NG品收集箱
圖1為包含本發明之一種靈活直觀配置系統的一自動視覺檢測系統的方塊圖;
圖2A為自動視覺檢測系統的第一立體圖;
圖2B為自動視覺檢測系統的第二立體圖;
圖3A為第j個機械手臂和第j個攝像機的第一立體圖;
圖3B為第j個機械手臂和第j個攝像機的第二立體圖;
圖4A為第j個機械手臂、第j個攝像機和第j個光源的第一立體圖;以及
圖4B為第j個機械手臂、第j個攝像機和第j個光源的第二立體圖。
1:靈活直觀配置系統
11:電子裝置
11P:第一處理器
11M:第一記憶體
20:傳送設備
200:傳送帶機構
201:馬達
202:距離感測器
21:機械手臂
22:攝像機
23:主控電子裝置
23P:第二處理器
23M:第二記憶體
24:光源
3:遠端電子裝置
Claims (13)
- 一種靈活直觀配置系統,係用以對一自動光學檢測系統進行一設定操作,以使該自動光學檢測系統適合應用於對一物品進行自動化瑕疵檢測,其中該自動光學檢測系統包括一傳送設備、N個機械手臂、分別由N個機械手臂所持有的N個攝像機以及一主控電子裝置,且N係至少為1的正整數;所述靈活直觀配置系統包括:一電子裝置,耦接該主控電子裝置,從而藉由該主控電子裝置而與該N個攝像機與該N個機械手臂資訊連結;其中,該電子裝置包括一第一處理器與一第一記憶體,該第一記憶體內儲存有一第一應用程式,使得該第一處理器透過存取該第一記憶體以執行所述第一應用程式,從而啟用以下功能:在該機械手臂被操作以移動該攝像機K次從而使該攝像機在每一次移動後皆具有一攝像高度、一攝像角度與一攝像距離的過程中,在該攝像機每一次移動後記錄一個所述攝像高度、一個所述攝像角度以及一個所述攝像距離以作為一組外部攝像參數,從而共獲得K組所述外部攝像參數;其中,K係至少為1的正整數;在該攝像機每一次移動後又接著接受一攝像機調整操作而具有一光圈(Aperture)、一景深(Depth of field)、一快門速度(Shutter speed)、一感光度(ISO)、與一焦距(Focus)的情況下,記錄一個所述光圈、一個所述景深、一個所述快門速度、一個所述感光度、以及一個所述焦距以作為一組內部攝像參數,從而在該攝像機移動K次之後共獲得K組所述內部攝像參數; 在該攝像機自該傳送設備所運送的一物品(Article)進行拍攝以獲得複數張具有常規特徵的第一物品影像以及複數張具有瑕疵特徵的第二物品影像之後,將該複數張第一物品影像和該複數張第二物品影像上傳至一遠端電子裝置;以及在該遠端電子裝置利用該複數張第一物品影像和該複數張第二物品影像生成至少一更新模組之後,利用該更新模組在該主控電子裝置內安裝一物品瑕疵識別模型,或對安裝在該主控電子裝置之內的該物品瑕疵識別模型進行一模型更新操作。
- 如請求項1所述之靈活直觀配置系統,其中,該電子裝置為選自於由智慧型手機、平板電腦、桌上型電腦、一體式(All-in-one)電腦和筆記型電腦所組成群組之中的任一者。
- 如請求項1所述之靈活直觀配置系統,其中,該攝像機包含於一行動電子裝置之中,且該行動電子裝置為選自於由智慧型手機和平板電腦所組成群組之中的任一者。
- 如請求項3所述之靈活直觀配置系統,其中,該行動電子裝置包含一慣性測量單元(inertial measurement unit,IMU)以及一雷射探測與測距(Laser imaging detection and ranging,LiDAR)單元,用以在該攝像機在每一次移動之後獲取一三維移動數據與一三維測量數據,並透過該行動電子裝置將將所述三維移動數據和所 述三維測量數據傳送至該電子裝置,使該電子裝置將該三維移動數據和該整合至所述外部攝像參數之中。
- 如請求項3所述之靈活直觀配置系統,其中,該行動電子裝置包含一慣性測量單元(inertial measurement unit,IMU)並設置在連接該機械手臂的一夾具之上,且一雷射探測與測距(Laser imaging detection and ranging,LiDAR)單元設置在該夾具之上並電連接該行動電子裝置。
- 如請求項5所述之靈活直觀配置系統,其中,在該攝像機在每一次移動之後,該慣性測量單元和該雷射探測與測距單元分別獲得一三維移動數據與一三維測量數據,且該行動電子裝置將所述三維移動數據和所述三維測量數據傳送至該電子裝置,使該電子裝置將該三維移動數據和該整合至所述外部攝像參數之中。
- 如請求項1所述之靈活直觀配置系統,其中,該第一處理器記錄並儲存對應N個所述機械手臂的複數組所述外部攝像參數於該第一記憶體之中,且記錄並儲存對應N個所述攝像機的複數組所述內部攝像參數於該第一記憶體之中。
- 如請求項1所述之靈活直觀配置系統,其中,在該第一處理器執行所述第一應用程式之後,該電子裝置的一顯示器係顯示一 操作介面,使得一用戶能夠操作該操作介面從而對該複數張第一物品影像和該複數張第二物品影像進行一標籤處理。
- 如請求項9所述之靈活直觀配置系統,該自動光學檢測系統更包括N個光源,且該第一處理器執行所述第一應用程式從而啟用以下功能:在該光源經由一光源調整操作而具有一光照範圍、一光強度、一色溫、以及一光色的情況下,記錄所述光照範圍、所述光強度、所述色溫、以及所述光色以作為一組照明參數;以及 依據所述照明參數對安裝在該主控電子裝置的該裝置控制軟體進行所述參數更新操作。
- 如請求項10所述之靈活直觀配置系統,其中,該主控電子裝置包括一第二處理器與一第二記憶體,該第二記憶體內儲存有一第二應用程式,使得該第二處理器透過存取該第二記憶體以執行所述第二應用程式,從而啟用以下功能:控制該機械手臂依據其對應的所述外部攝像參數進行作動,從而對應移動該攝像機;控制該光源依據其對應的所述照明參數提供一檢測光射向該物品;以及控制該攝像機依據其對應的所述內部攝像參數以自該物品攝得一物品影像;以及利用該物品瑕疵識別模型對該物品影像執行一瑕疵識別操作,從而確定該物品是否具有至少一瑕疵。
- 如請求項11所述之靈活直觀配置系統,其中,該自動光學檢測系統更包括設置於鄰近該傳送設備的一出料口的至少一排料裝置,且該第一處理器執行所述第一應用程式從而進一步地啟用以下功能: 在一個所述物品於該傳送帶機構移動N個移動距離並接著移動第N+1個移動距離之後,記錄所述第N+1個移動距離作為一排料參數;在該排料裝置被操作以將一個所述物品排料至一收集箱的情況下,該物品具有一初始高度、一放置角度與一終點高度,記錄所述初始高度、所述放置角度與所述終點高度以作為一組排料裝置參數;以及依據所述排料參數和N個所述排料裝置參數對安裝在該主控電子裝置之內的該裝置控制軟體進行所述參數更新操作。
- 如請求項12所述之靈活直觀配置系統,其中,該自動光學檢測系統更包括設置於鄰近該傳送設備的一進料口的至少一物品擺放裝置,且該第一處理器執行所述第一應用程式從而進一步地啟用以下功能:在該物品擺放裝置被操作以將一個所述物品擺放至該傳送設備之上的情況下,該物品具有一初始高度、一放置角度與一終點高度,記錄所述初始高度、所述放置角度與所述終點高度以作為一物品擺放裝置參數;以及依據所述物品擺放裝置參數對安裝在該主控電子裝置之內的該裝置控制軟體進行所述參數更新操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW112106428A TWI828545B (zh) | 2023-02-22 | 2023-02-22 | 自動視覺檢測系統之靈活直觀配置系統 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW112106428A TWI828545B (zh) | 2023-02-22 | 2023-02-22 | 自動視覺檢測系統之靈活直觀配置系統 |
Publications (1)
Publication Number | Publication Date |
---|---|
TWI828545B true TWI828545B (zh) | 2024-01-01 |
Family
ID=90459094
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW112106428A TWI828545B (zh) | 2023-02-22 | 2023-02-22 | 自動視覺檢測系統之靈活直觀配置系統 |
Country Status (1)
Country | Link |
---|---|
TW (1) | TWI828545B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015011782A1 (ja) * | 2013-07-23 | 2015-01-29 | 株式会社安川電機 | 検査装置 |
CN110596128A (zh) * | 2018-05-25 | 2019-12-20 | 上海翌视信息技术有限公司 | 一种基于图像采集的片状玻璃边缘瑕疵检测系统 |
CN113146172A (zh) * | 2021-03-08 | 2021-07-23 | 中国科学院宁波材料技术与工程研究所 | 一种基于多视觉的检测与装配系统及方法 |
CN114689612A (zh) * | 2022-03-29 | 2022-07-01 | 大连工业大学 | 一种3d手机玻璃盖板的缺陷自动检测装置 |
-
2023
- 2023-02-22 TW TW112106428A patent/TWI828545B/zh active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015011782A1 (ja) * | 2013-07-23 | 2015-01-29 | 株式会社安川電機 | 検査装置 |
CN110596128A (zh) * | 2018-05-25 | 2019-12-20 | 上海翌视信息技术有限公司 | 一种基于图像采集的片状玻璃边缘瑕疵检测系统 |
CN113146172A (zh) * | 2021-03-08 | 2021-07-23 | 中国科学院宁波材料技术与工程研究所 | 一种基于多视觉的检测与装配系统及方法 |
CN114689612A (zh) * | 2022-03-29 | 2022-07-01 | 大连工业大学 | 一种3d手机玻璃盖板的缺陷自动检测装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105817430B (zh) | 基于机器视觉的产品检测方法 | |
US11763443B2 (en) | Method for monitoring manufacture of assembly units | |
US11983857B2 (en) | System and method for visual production line inspection of different production items | |
CN103776841B (zh) | 合成革缺陷自动检测装置及检测方法 | |
WO2019114380A1 (zh) | 木板识别及木板识别的机器学习方法、装置及电子设备 | |
EP4202424A1 (en) | Method and system for inspection of welds | |
KR101542562B1 (ko) | 지그 모델 및 캠을 이용한 휴대폰 및 태블릿pc 케이스의 버 검출 장치 | |
US11682113B2 (en) | Multi-camera visual inspection appliance and method of use | |
KR20180092033A (ko) | 부품 등록기 | |
TWI828545B (zh) | 自動視覺檢測系統之靈活直觀配置系統 | |
KR20170039551A (ko) | 머신 비전을 위한 가이드 제공 방법 및 장치 | |
TWI745946B (zh) | 一種高爾夫球電腦檢測系統及自動光學檢測設備 | |
CN116740553A (zh) | 自动视觉检测系统的灵活直观配置系统 | |
Chauhan et al. | Effect of illumination techniques on machine vision inspection for automated assembly machines | |
CN114674830A (zh) | 一种高速生产线上瓶盖瑕疵检测模组 | |
JP2018066628A (ja) | 画像処理システム及び画像処理方法 | |
KR20210058329A (ko) | 다면 비전 검사 알고리즘 및 이를 이용한 시스템 | |
JP2020197983A (ja) | 対象物の計測方法、計測装置、プログラム、およびコンピュータ読取り可能な記録媒体 | |
US20230191634A1 (en) | Multistep Visual Assistance for Automated Inspection | |
Kostal et al. | An Overview of the Practical Use of the CCTV System in a Simple Assembly in a Flexible Manufacturing System. Appl. Syst. Innov. 2022, 5, 52 | |
TWI704630B (zh) | 半導體設備及其檢測方法 | |
KR20110001460U (ko) | 반도체의 아이씨의 트리밍 검사장치 및 그사용법 | |
TW202133114A (zh) | 尺寸量測裝置及尺寸量測方法 | |
TWM651593U (zh) | 鏡片外觀瑕疵檢測系統 | |
CN116337892A (zh) | 工业电子雷管表面缺陷检测用灰度变化视觉检测方法 |