TWI738066B - 基於神經網路之資料處理裝置、方法及電腦可讀取存儲介質 - Google Patents

Abstract

一種基於神經網路之資料處理方法，包括：將樣本資料劃分為訓練集及測試集；利用訓練集訓練預設神經網路得到第一檢測模型；利用測試集對第一檢測模型進行驗證得到第一準確率；根據當前設定之資料清洗方式對對訓練集及測試集進行清洗；利用清洗後之訓練集對經過微調處理之第一檢測模型進行訓練得到第二檢測模型；利用清洗後之測試集對第二檢測模型進行驗證得到第二準確率；若第一準確率大於第二準確率，則選定第一檢測模型為最終模型，否則選定第二檢測模型為最終模型，以藉由該最終模型對待測資料進行檢測。本發明還提供一種資料處理裝置及電腦可讀取存儲介質。

Description

基於神經網路之資料處理裝置、方法及電腦可讀取存儲 介質

本發明涉及人工智慧技術領域，尤其涉及一種基於神經網路之資料處理裝置、方法及電腦可讀取存儲介質。

隨著大資料時代各行業對資料分析需求之持續增加，機器學習技術得到充足之發展，已被廣泛應用於各種生活情境中。於一實際情境中，藉由找到樣本與標籤間之關聯性可設計並訓練出合適之模型，然收集到之樣本可能會因為環境、樣本本身客觀缺陷或是人為等因素影響樣本於訓練時之訓練效果，同時亦會影響模型之精准度。

有鑑於此，有必要提供一種基於神經網路之資料處理裝置、方法及電腦可讀取存儲介質，其可提高模型之準確率，使得資料處理高效、準確。

本發明一實施方式提供一種基於神經網路之資料處理方法，包括：將樣本資料劃分為訓練集及測試集；利用所述訓練集訓練預設神經網路，以訓練得到第一檢測模型；利用所述測試集對所述第一檢測模型進行驗證，並根據驗證結果統計得到第一準確率；根據當前設定之資料清洗方式對所述訓練集及 所述測試集進行清洗；對所述第一檢測模型進行預設方式之微調，並利用清洗後之訓練集對微調後之第一檢測模型進行訓練，以得到第二檢測模型；利用清洗後之測試集對所述第二檢測模型進行驗證，並根據驗證結果統計得到第二準確率；判斷所述第一準確率是否大於所述第二準確率；若所述第一準確率大於所述第二準確率，則選定所述第一檢測模型為最終檢測模型；若所述第一準確率不大於所述第二準確率，則選定所述第二檢測模型為所述最終檢測模型；及將待測資料輸入至所述最終檢測模型，以得到所述待測資料之檢測結果。

本發明一實施方式提供一種基於神經網路之資料處理裝置，所述裝置包括處理器及記憶體，所述記憶體上存儲有複數電腦程式，所述處理器用於執行記憶體中存儲之電腦程式時實現上述基於神經網路之資料處理方法之步驟。

本發明一實施方式還提供一種電腦可讀存儲介質，所述電腦可讀存儲介質存儲有多條指令，多條所述指令可被一個或者多個處理器執行，以實現上述之基於神經網路之資料處理方法之步驟。

與習知技術相比，上述基於神經網路之資料處理裝置、方法及電腦可讀取存儲介質，支援使用者自主選擇資料清洗方式，且可根據樣本資料類型進行資料清洗方式推薦，可降低對專業人員之技術經驗與對應用場景之熟悉度之依賴，且可提高模型之準確率，進而使得資料處理更高效、準確。

10:記憶體

20:處理器

30:資料處理程式

101:劃分模組

102:第一訓練模組

103:第一驗證模組

104:清洗模組

105:推薦模組

106:第二訓練模組

107:第二驗證模組

108:判斷模組

109:選定模組

110:輸入模組

100:資料處理裝置

圖1是本發明一實施方式之資料處理裝置之功能模組圖。

圖2是本發明一實施方式之資料處理程式之功能模組圖。

圖3是本發明一實施方式之資料處理方法之流程圖。

請參閱圖1，為本發明資料處理裝置較佳實施例之示意圖。

資料處理裝置100可包括記憶體10、處理器20以及存儲於所述記憶體10中並可於所述處理器20上運行之資料處理程式30。所述處理器20執行所述資料處理程式30時實現資料處理方法實施例中之步驟，例如圖3所示之步驟S300~S318。或者，所述處理器20執行所述資料處理程式30時實現圖2中各模組之功能，例如模組101~110。

所述資料處理程式30可被分割成一個或多個模組，所述一個或者多個模組被存儲於所述記憶體10中，並由所述處理器20執行，以完成本發明。所述一個或多個模組可是能夠完成特定功能之一系列電腦程式指令段，所述指令段用於描述所述資料處理程式30於所述資料處理裝置100中之執行過程。例如，所述資料處理程式30可被分割成圖2中之劃分模組101、第一訓練模組102、第一驗證模組103、清洗模組104、推薦模組105、第二訓練模組106、第二驗證模組107、判斷模組108、選定模組109及輸入模組110。各模組具體功能參見下圖2中各模組之功能。

本領域技術人員可理解，所述示意圖僅是資料處理裝置100之示例，並不構成對資料處理裝置100之限定，可包括比圖示更多或更少之部件，或者組合某些部件，或者不同之部件，例如所述資料處理裝置100還可包括輸入輸出設備、通信模組、匯流排等。

所稱處理器20可是中央處理單元(Central Processing Unit，CPU)，還可是其他通用處理器、數位訊號處理器(Digital Signal Processor，DSP)、專用積體電路(Application Specific Integrated Circuit，ASIC)、現成可程式設計閘陣列(Field-Programmable Gate Array，FPGA)或者其他可程式設計邏輯器件、分立門或者電晶體邏輯器件、分立硬體元件等。通用處理器可是微處理器或者所述處 理器20亦可是任何常規之處理器等，所述處理器20可利用各種介面與匯流排連接資料處理裝置100之各個部分。

所述記憶體10可用於存儲所述資料處理程式30與/或模組，所述處理器20藉由運行或執行存儲於所述記憶體10內之電腦程式與/或模組，以及調用存儲於記憶體10內之資料，實現所述資料處理裝置100之各種功能。所述記憶體10可包括高速隨機存取記憶體，還可包括非易失性記憶體，例如硬碟機、記憶體、插接式硬碟機，智慧存儲卡(Smart Media Card,SMC)，安全數位(Secure Digital,SD)卡，快閃記憶體卡(Flash Card)、至少一個磁碟記憶體件、快閃記憶體器件、或其他易失性固態記憶體件。

圖2為本發明資料處理程式較佳實施例之功能模組圖。

參閱圖2所示，資料處理程式30可包括劃分模組101、第一訓練模組102、第一驗證模組103、清洗模組104、推薦模組105、第二訓練模組106、第二驗證模組107、判斷模組108、選定模組109及輸入模組110。於一實施方式中，上述模組可為存儲於所述記憶體10中且可被所述處理器20調用執行之可程式化軟體指令。可理解之是，於其他實施方式中，上述模組亦可為固化於所述處理器20中之程式指令或固件(firmware)。

劃分模組101用於將樣本資料劃分為訓練集及測試集。

於一實施方式中，所述樣本資料可根據實際需求進行選定。比如，當模型是進行人臉識別時，所述樣本資料可是多張人臉圖像，當模型是進行目標物檢測時，所述樣本資料可是包含有所述目標物之多張圖片。所述劃分模組101按照預設比例將樣本資料劃分為訓練集及測試集，所述訓練集之資料量優選大於所述測試集之資料量，所述訓練集用於進行模型訓練，所述測試集用於檢驗模型之性能。比如，所述劃分模組101將80%之樣本資料劃分為訓練集，將20%之樣本資料劃分為測試集。所述訓練集與所述測試集之資料均從所述樣本資 料中隨機抽取出來。

第一訓練模組102用於利用所述訓練集訓練預設神經網路，以訓練得到第一檢測模型。

於一實施方式中，所述預設神經網路可是預先建立之卷積神經網路、深度神經網路等。所述第一訓練模組102可利用所述訓練集之資料訓練所述預設神經網路之模型參數，以訓練得到第一檢測模型。所述第一檢測模型為經過訓練集訓練後之神經網路模型。

第一驗證模組103用於利用所述測試集對所述第一檢測模型進行驗證，並根據驗證結果統計得到第一準確率。

於一實施方式中，當第一訓練模組102訓練得到第一檢測模型後，所述第一驗證模組103可利用所述測試集之資料對所述第一檢測模型進行驗證，並根據驗證結果統計得到第一準確率。具體地，每一測試集之資料輸入至所述第一檢測模型可對應得到一輸出結果，第一驗證模組103藉由對所有測試集得到之輸出結果之正確性進行統計，可得到所述第一準確率。

清洗模組104用於根據當前設定之資料清洗方式對所述訓練集及所述測試集進行清洗。

於一實施方式中，所述當前設定之資料清洗方式可是使用者選定或確認之資料清洗方式，所述資料處理裝置100優選包括一資料清洗庫，所述資料清洗庫包含有多種資料清洗方式，所述設定之資料清洗方式優選為一種資料清洗方式或多種資料清洗方式之組合。比如，所述清洗模組104獲取使用者從資料清洗庫中選定之資料清洗方式，再基於使用者選定之資料清洗方式對所述訓練集及所述測試集進行清洗。所述資料清洗可是指對所述樣本資料進行預設方式處理。比如，所述樣本資料為多個圖片樣本，所述資料清洗方式可包括以下之一種或者多種之處理方式組合：圖片特徵提取(邊緣檢測)、去背景處 理、去噪處理、平滑處理等。

於一實施方式中，所述資料清洗庫包括多個資料清洗單元，每一所述資料清洗單元對應一種資料類型，每一所述資料清洗單元包含有對該種資料類型之多種資料清洗方式。所述推薦模組105用於獲取所述樣本資料之資料類型，並根據所述樣本資料之資料類型輸出所述資料清洗單元之選用建議。所述樣本資料可預先添加有類型標籤，所述推薦模組105可藉由獲取樣本資料之類型標籤來輸出對應之資料清洗單元之選用建議，所述選用建議可藉由提示框之形式輸出或者當獲取到樣本資料之資料類型時，為推薦之資料清洗單元添加推薦標籤。舉例而言，某一樣本資料之資料類型為圖片資料，則所述推薦模組105可推薦對圖片進行處理之資料清洗單元，某一樣本資料之資料類型為文本資料，則所述推薦模組105可推薦對文本資料進行處理之資料清洗單元。

於一實施方式中，所述推薦模組105還用於根據所述樣本資料之資料類型獲取歷史清洗記錄中所選用之資料清洗方式，推送歷史清洗記錄中被選用次數排名前預設位之資料清洗方式為建議之資料清洗方式。比如，所述樣本資料為圖片資料，所述推薦模組105獲取歷史清洗記錄中所選用之圖片清洗方式之選用記錄，所述推薦模組105再推送被選用次數排名前五之資料清洗方式為建議之資料清洗方式，供使用者進行選定。

第二訓練模組106用於對所述第一檢測模型進行預設方式之微調，並利用清洗後之訓練集對微調後之第一檢測模型進行訓練，以得到第二檢測模型。

於一實施方式中，第二訓練模組106對所述第一檢測模型進行預設方式之微調可是根據預設調整規則對所述第一檢測模型之模型參數進行調整。所述模型參數優選為隱藏層之層數與/或隱藏層之神經元數。第二訓練模組106利用清洗後之訓練集對微調後之第一檢測模型進行訓練，以得到第二檢測模型。 比如，第二訓練模組106對所述第一檢測模型進行預設方式之微調可是去掉最後一個全連接層。

第二驗證模組107用於利用清洗後之測試集對所述第二檢測模型進行驗證，並根據驗證結果統計得到第二準確率。

於一實施方式中，經過清洗處理後之每一測試集之資料輸入至所述第二檢測模型可對應得到一輸出結果，第二驗證模組107藉由對測試集得到之輸出結果之正確性進行統計，可得到所述第二準確率。

判斷模組108用於判斷所述第一準確率是否大於所述第二準確率。

於一實施方式中，當統計得到所述第一準確率與所述第二準確率後，判斷模組108可藉由比較所述第一準確率與所述第二準確率之大小，來判斷所述第一準確率是否大於所述第二準確率。

選定模組109用在於所述第一準確率大於所述第二準確率時，選定所述第一檢測模型為最終檢測模型，及用在於所述第一準確率不大於所述第二準確率時，選定所述第二檢測模型為所述最終檢測模型。

於一實施方式中，當所述第一準確率大於所述第二準確率時，表明所述第一檢測模型之效果好於所述第二檢測模型，模型訓練適合採用原始資料進行訓練，選定模組109選定所述第一檢測模型為最終檢測模型。當所述第一準確率不大於所述第二準確率時，表明所述第二檢測模型之效果好於所述第一檢測模型，模型訓練適合採用經過當前清洗方式進行清洗之資料進行訓練，選定模組109選定所述第二檢測模型為最終檢測模型。

輸入模組110用於將待測資料輸入至所述最終檢測模型，以得到所述待測資料之檢測結果。

於一實施方式中，當模型訓練完成後，即可利用訓練好之模型對待測資料進行檢測。輸入模組110可將待測資料輸入至所述最終檢測模型，所述 最終檢測模型之輸出為所述待測資料之檢測結果。比如，待測資料為當前拍攝得到之人臉圖像，輸入模組110將當前拍攝得到之人臉圖像輸入至所述最終檢測模型，所述最終檢測模型可輸出當前拍攝得到之人臉圖像之人臉識別結果。

圖3為本發明一實施方式中資料處理方法之流程圖。根據不同之需求，所述流程圖中步驟之順序可改變，某些步驟可省略。

步驟S300，將樣本資料劃分為訓練集及測試集。

於一實施方式中，所述樣本資料可按照預設比例被劃分為訓練集及測試集，所述訓練集之資料量優選大於所述測試集之資料量，所述訓練集用於進行模型訓練，所述測試集用於檢驗模型之性能。比如，80%之樣本資料被劃分為訓練集，20%之樣本資料被劃分為測試集。所述訓練集與所述測試集之資料均從所述樣本資料中隨機抽取出來。所述樣本資料可根據實際需求進行選定。比如，當模型是進行人臉識別時，所述樣本資料可是多張人臉圖像，當模型是進行目標物檢測時，所述樣本資料可是包含有所述目標物之多張圖片。

步驟S302，利用所述訓練集訓練預設神經網路，以訓練得到第一檢測模型。

於一實施方式中，所述預設神經網路可是預先建立之卷積神經網路、深度神經網路等。當劃分得到訓練集後，可利用所述訓練集之資料訓練所述預設神經網路之模型參數，以訓練得到第一檢測模型。所述第一檢測模型為經過訓練集訓練後之神經網路模型。

步驟S304，利用所述測試集對所述第一檢測模型進行驗證，並根據驗證結果統計得到第一準確率。

於一實施方式中，當訓練得到第一檢測模型後，可利用所述測試集之資料對所述第一檢測模型進行驗證，並根據驗證結果統計得到第一準確率。具體地，每一測試集之資料輸入至所述第一檢測模型可對應得到一輸出結果， 藉由對所有測試集得到之輸出結果之正確性進行統計，可得到所述第一準確率。

步驟S306，根據當前設定之資料清洗方式對所述訓練集及所述測試集進行清洗。

於一實施方式中，所述當前設定之資料清洗方式可是使用者選定或確認之資料清洗方式，所述資料處理裝置100優選包括一資料清洗庫，所述資料清洗庫包含有多種資料清洗方式，所述設定之資料清洗方式優選為一種資料清洗方式或多種資料清洗方式之組合。比如，可藉由獲取使用者從資料清洗庫中選定之資料清洗方式，再基於使用者選定之資料清洗方式對所述訓練集及所述測試集進行清洗。所述資料清洗可是指對所述樣本資料進行預設方式處理。比如，所述樣本資料為多個圖片樣本，所述資料清洗方式可包括以下之一種或者多種之處理方式組合：圖片特徵提取(邊緣檢測)、去背景處理、去噪處理、平滑處理等。

於一實施方式中，所述資料清洗庫包括多個資料清洗單元，每一所述資料清洗單元對應一種資料類型，每一所述資料清洗單元包含有對該種資料類型之多種資料清洗方式。於進行資料清洗前，可藉由獲取所述樣本資料之資料類型，再根據所述樣本資料之資料類型輸出所述資料清洗單元之選用建議。所述樣本資料可預先添加有類型標籤，藉由獲取樣本資料之類型標籤來輸出對應之資料清洗單元之選用建議，所述選用建議可藉由提示框之形式輸出或者當獲取到樣本資料之資料類型時，為推薦之資料清洗單元添加推薦標籤。舉例而言，某一樣本資料之資料類型為圖片資料，則可推薦對圖片進行處理之資料清洗單元，某一樣本資料之資料類型為文本資料，則可推薦對文本資料進行處理之資料清洗單元。

於一實施方式中，還可根據所述樣本資料之資料類型獲取歷史清 洗記錄中所選用之資料清洗方式，推送歷史清洗記錄中被選用次數排名前預設位之資料清洗方式為建議之資料清洗方式。比如，所述樣本資料為圖片資料，可藉由獲取歷史清洗記錄中所選用之圖片清洗方式之選用記錄，再推送被選用次數排名前五之資料清洗方式為建議之資料清洗方式，供使用者進行選定。

步驟S308，對所述第一檢測模型進行預設方式之微調，並利用清洗後之訓練集對微調後之第一檢測模型進行訓練，以得到第二檢測模型。

於一實施方式中，對所述第一檢測模型進行預設方式之微調可是根據預設調整規則對所述第一檢測模型之模型參數進行調整。所述模型參數優選為隱藏層之層數與/或隱藏層之神經元數。當模型微調後，可利用清洗後之訓練集對微調後之第一檢測模型進行訓練，以得到第二檢測模型。比如，對所述第一檢測模型進行預設方式之微調可是去掉最後一個全連接層。

步驟S310，利用清洗後之測試集對所述第二檢測模型進行驗證，並根據驗證結果統計得到第二準確率。

於一實施方式中，經過清洗處理後之每一測試集之資料輸入至所述第二檢測模型可對應得到一輸出結果，同樣可藉由對測試集得到之輸出結果之正確性進行統計，得到所述第二準確率。

步驟S312，判斷所述第一準確率是否大於所述第二準確率。

於一實施方式中，當統計得到所述第一準確率與所述第二準確率後，可藉由比較所述第一準確率與所述第二準確率之大小，來判斷所述第一準確率是否大於所述第二準確率。

步驟S314，若所述第一準確率大於所述第二準確率，則選定所述第一檢測模型為最終檢測模型。

於一實施方式中，當所述第一準確率大於所述第二準確率時，表明所述第一檢測模型之效果好於所述第二檢測模型，模型訓練適合採用原始資 料進行訓練，可選定所述第一檢測模型為最終檢測模型。

步驟S316，若所述第一準確率不大於所述第二準確率，則選定所述第二檢測模型為所述最終檢測模型。

於一實施方式中，當所述第一準確率不大於所述第二準確率時，表明所述第二檢測模型之效果好於所述第一檢測模型，模型訓練適合採用經過當前清洗方式進行清洗之資料進行訓練，可選定所述第二檢測模型為最終檢測模型。

步驟S318，將待測資料輸入至所述最終檢測模型，以得到所述待測資料之檢測結果。

於一實施方式中，當模型訓練完成後，即可利用訓練好之模型對待測資料進行檢測。具體地，可將待測資料輸入至所述最終檢測模型，所述最終檢測模型之輸出為所述待測資料之檢測結果。比如，待測資料為當前拍攝得到之人臉圖像，可將當前拍攝得到之人臉圖像輸入至所述最終檢測模型，所述最終檢測模型可輸出當前拍攝得到之人臉圖像之人臉識別結果。

上述基於神經網路之資料處理裝置、方法及電腦可讀取存儲介質，支援使用者自主選擇資料清洗方式，且可根據樣本資料類型進行資料清洗方式推薦，可降低對專業人員之技術經驗與對應用場景之熟悉度之依賴，且可提高模型之準確率，進而使得資料處理更高效、準確。

綜上所述，本發明符合發明專利要件，爰依法提出專利申請。惟，以上所述者僅為本發明之較佳實施方式，本發明之範圍並不以上述實施方式為限，舉凡熟悉本案技藝之人士爰依本發明之精神所作之等效修飾或變化，皆應涵蓋於以下申請專利範圍內。

Claims (7)

1. 一種基於神經網路之資料處理方法，所述方法包括：將樣本資料劃分為訓練集及測試集；利用所述訓練集訓練預設神經網路，以訓練得到第一檢測模型；利用所述測試集對所述第一檢測模型進行驗證，並根據驗證結果統計得到第一準確率；獲取所述樣本資料之資料類型；根據所述樣本資料之資料類型輸出與所述樣本資料匹配之資料清洗方式之選用建議；根據選用之資料清洗方式對所述訓練集及所述測試集進行清洗；調整所述第一檢測模型之模型參數，並利用清洗後之訓練集對調整後之第一檢測模型進行訓練，以得到第二檢測模型，其中所述模型參數包括隱藏層之層數與/或隱藏層之神經元數；利用清洗後之測試集對所述第二檢測模型進行驗證，並根據驗證結果統計得到第二準確率；判斷所述第一準確率是否大於所述第二準確率；若所述第一準確率大於所述第二準確率，則選定所述第一檢測模型為最終檢測模型；若所述第一準確率不大於所述第二準確率，則選定所述第二檢測模型為所述最終檢測模型；及將待測資料輸入至所述最終檢測模型，以得到所述待測資料之檢測結果。
2. 如請求項1所述之方法，其中所述預設神經網路為卷積神經網路，所述訓練集之資料量大於所述測試集之資料量。
3. 如請求項1所述之方法，其中所述選用之資料清洗方式為一種 資料清洗方式或多種資料清洗方式之組合。
4. 如請求項1所述之方法，其中所述根據所述樣本資料之資料類型輸出與所述樣本資料匹配之資料清洗方式之選用建議之步驟包括：根據所述樣本資料之資料類型獲取歷史清洗記錄中所選用之資料清洗方式；及推送歷史清洗記錄中被選用次數排名前預設位之資料清洗方式為建議之資料清洗方式。
5. 如請求項4所述之方法，其中所述樣本資料為多個圖片樣本，所述資料清洗方式包括以下之一種或者多種之組合：圖片特徵提取、去背景處理、去噪處理、平滑處理。
6. 一種基於神經網路之資料處理裝置，所述裝置包括處理器及記憶體，所述記憶體上存儲有複數電腦程式，所述處理器用於執行記憶體中存儲之電腦程式時實現如請求項1至5任一項所述之基於神經網路之資料處理方法之步驟。
7. 一種電腦可讀取存儲介質，所述電腦可讀取存儲介質存儲有多條指令，多條所述指令可被一個或者多個處理器執行，以實現如請求項1至5任一項所述之基於神經網路之資料處理方法之步驟。

Images