TWI834011B - 用於改良人工智慧分類模型之方法、人工智慧系統、電腦化設備及電腦程式產品 - Google Patents

Abstract

本發明提供用於人工智慧分類模型之自動改良之一種人工智慧系統、一種設備以及一種電腦程式產品及一種方法。在每一迭代中，迭代地改良該分類模型之一模型效能量測達至少一預定目標。該迭代改良包括基於一假設清單及其分數產生用於改良該分類模型之一假設圖表。每一假設係關於用於潛在地改良該分類模型之一策略且與指示該假設之一應用改良該模型效能量測之一可能性之一分數相關聯。該假設圖表之每一節點包括該假設清單中之一假設。該迭代改良進一步包括：基於假設圖表之一遍歷自該假設圖表選擇一所選擇假設及執行該所選擇假設，藉此更新該分類模型並改良該模型效能量測達至少該預定目標。

Description

用於改良人工智慧分類模型之方法、人工智慧系統、電腦化設備及電腦程式產品

本發明大體上係關於人工智慧，且特定而言係關於人工智慧分類模型之自動改良。

人工智慧(AI)係用於不同計算系統中之諸多任務之一基本工具。AI藉由機器、電腦系統、學習演算法等等來模擬人類智慧程序。智慧程序可包括學習資訊之獲取及使用資訊之規則，使用規則進行推理以達到近似或確定結論及自校正。AI之特定應用包括專家系統、語音辨識、機器視覺、自主駕駛、內容遞送網路中之智慧路由、軍事模擬等等。

AI之使用在檢驗系統，特定而言，旨在識別及分類物項或物項、產品等等中之缺陷之系統中變得非常流行。AI技術已成為技術產業之一重要部分，有助於解決製造程序中之諸多挑戰性問題。

所揭示標的物之一項例示性實施例係一種方法，其包括：獲得用以改良一分類模型之一指令，其中該分類模型用於一監督式影像分類任務；回應於該獲得，迭代地改良該分類模型之一模型效能量測，其中在每一迭代中，改良該分類模型之該模型效能量測達至少一預定目標，其中該迭代地改良包括：判定一假設清單，其中該假設清單中之每一假設係 關於用以潛在地改良該分類模型之一策略，其中針對每一假設，判定一分數，其中一假設之該分數指示該假設之一應用改良該分類模型之該模型效能量測之一可能性；基於該假設清單及其分數，產生用於改良該分類模型之一假設圖表，其中該假設圖表之每一節點包括該假設清單中之一假設；自該假設圖表選擇一所選擇假設，其中該選擇係基於該假設圖表之一遍歷；及執行該所選擇假設，藉此更新該分類模型並改良該模型效能量測達至少該預定目標。

所揭示標的物之另一例示性實施例係一種AI系統，其包括：一分類模型改良模組，其經組態以獲得用以改良一分類模型之一指令。該分類模型用於一監督式影像分類任務。該分類模型改良模組經組態以迭代地改良該分類模型之一模型效能量測。在每一迭代中，改良該分類模型之該模型效能量測達至少一預定目標。該分類模型改良模組包括一規劃模組，其經組態以：判定一假設清單，其中該假設清單中之每一假設係關於用以潛在地改良該分類模型之一策略，其中針對每一假設，判定一分數，其中一假設之該分數指示該假設之一應用改良該分類模型之該模型效能量測之一可能性；基於該假設清單及其分數，產生用於改良該分類模型之一假設圖表，其中該假設圖表之每一節點包括該假設清單中之一假設；自該假設圖表選擇一所選擇假設，其中該選擇係基於該假設圖表之一遍歷。該分類模型改良模組進一步包括一執行模組，其經組態以執行該所選擇假設，更新該分類模型並改良該模型效能量測達至少該預定目標。

所揭示標的物之仍另一例示性實施例係一種電腦化設備，其具有一處理器，該處理器經調適以執行以下步驟：獲得用以改良一分類模型之一指令，其中該分類模型用於一監督式影像分類任務；回應於該獲 得，迭代地改良該分類模型之一模型效能量測，其中在每一迭代中，改良該分類模型之該模型效能量測達至少一預定目標，其中該迭代地改良包括：判定一假設清單，其中該假設清單中之每一假設係關於用以潛在地改良該分類模型之一策略，其中針對每一假設，判定一分數，其中一假設之該分數指示該假設之一應用改良該分類模型之該模型效能量測之一可能性；基於該假設清單及其分數，產生用於改良該分類模型之一假設圖表，其中該假設圖表之每一節點包括該假設清單中之一假設；自該假設圖表選擇一所選擇假設，其中該選擇係基於該假設圖表之一遍歷；及執行該所選擇假設，藉此更新該分類模型並改良該模型效能量測達至少該預定目標。

所揭示標的物之又一例示性實施例係一種電腦程式產品，其包括保持程式指令之一非暫時性電腦可讀儲存媒體，此等程式指令當由一處理器讀取時致使該處理器執行包括以下各項之一方法：獲得用以改良一分類模型之一指令，其中該分類模型用於一監督式影像分類任務；回應於該獲得，迭代地改良該分類模型之一模型效能量測，其中在每一迭代中，改良該分類模型之該模型效能量測達至少一預定目標，其中該迭代地改良包括：判定一假設清單，其中該假設清單中之每一假設係關於用以潛在地改良該分類模型之一策略，其中針對每一假設，判定一分數，其中一假設之該分數指示該假設之一應用改良該分類模型之該模型效能量測之一可能性；基於該假設清單及其分數，產生用於改良該分類模型之一假設圖表，其中該假設圖表之每一節點包括該假設清單中之一假設；自該假設圖表選擇一所選擇假設，其中該選擇係基於該假設圖表之一遍歷；及執行該所選擇假設，藉此更新該分類模型並改良該模型效能量測達至少該預定目標。

110:步驟

120:步驟

130:步驟

140:步驟

150:步驟

160:步驟

210:步驟

220:步驟

230:步驟

240:步驟

250:步驟

300:設備

302:處理器

305:輸入/輸出模組

307:記憶體

310:假設清單產生器

312:假設產生器/最佳實務假設產生器

314:假設產生器/隨機假設產生器

316:假設產生器/主題內容專家假設產生器

320:假設圖表產生器

330:假設選擇模組

340:強化學習模組

350:執行模組

360:預測追蹤器

380:訓練資料

390:假設圖表資料庫

400:人工智慧系統

410:使用者人工智慧互動性模組

420:大腦模組/大腦

422:資料應用程式化介面

424:模型學習應用程式化介面

426:模型追蹤應用程式化介面

430:分類模組

440:規劃模組

450:執行模組

460:記憶模組

470:報告模組

482:大腦至應用應用程式化介面

484:大腦至大腦應用程式化介面

486:任務執行應用程式化介面

490:任務執行伺服器

500:假設圖表/目標圖表

505:產生

510:根節點

515:假設

520:節點

521:執行

522:節點

523:應用

524:節點

525:應用

526:增強

527:判定

528:增強

529:判定

530:節點

531:執行

532:節點

533:應用/獲得

535:返回

537:發佈

539:執行

540:節點

541:執行

542:節點

543:執行

544:節點

545:執行/獲得

546:節點

550:節點

551:執行

553:獲得

555:獲得

557:判定

559:獲得

600:假設圖表

610:根假設節點

630:節點

640:節點

650:節點

660:節點

670:節點

680:節點

將自結合圖式進行之以下詳細說明更全面地理解及瞭解本發明所揭示標的物，在圖式中，對應或相似編號或字符指示對應或相似組件。除非另有指示，否則圖式提供本發明之例示性實施例或態樣，且不限制本發明之範疇。在圖式中：圖1展示根據所揭示標的物之某些例示性實施例之一方法之一流程圖；圖2展示根據所揭示標的物之某些例示性實施例之一方法之一流程圖；圖3展示根據所揭示標的物之某些例示性實施例之一設備之一方塊圖；圖4展示根據所揭示標的物之某些例示性實施例之一例示性架構之一示意性圖解說明；圖5A展示根據所揭示標的物之某些例示性實施例之一例示性假設目標圖表之一圖解說明；圖5B展示根據所揭示標的物之某些例示性實施例之一例示性假設目標圖表之一執行之一圖解說明；及圖6展示根據所揭示標的物之某些例示性實施例之一假設目標圖表之一圖解說明。

由所揭示標的物處理之一個技術問題係使得基於AI之軟體能夠在與其一開發者分開之一環境中自主表現及行動。在某些例示性實施例中，基於AI之軟體可經組態以監視諸如一工廠、一生產廠等等中之一生 產程序或製造機器之一產品。基於AI之軟體可經組態以諸如基於視覺輸入判定機器是否正常運作。基於AI之軟體可經組態以利用一分類模型來分類產品影像，分類影像內之物項，識別物項或產品內之缺陷等等。

作為一實例，基於AI之軟體可在諸如平板顯示器(FPD)製造、印刷電路板(PCB)製造等等中用於自動光學檢驗(AOI)。AOI可使用基於AI之軟體來執行，但並不將完整資訊提供至基於AI之軟體之開發者。在某些例示性實施例中，同一開發者可將基於AI之軟體提供至不同競爭製造商，且可希望將其揭示之資訊限制於其共用供應商以限制潛在暴露。

在某些例示性實施例中，基於AI之軟體可在諸如一消費者之工廠之一經分開環境中操作，而不具有發送或與其他AI軟體、基於AI之軟體之開發者、基於AI之軟體之研究及開發中心等等共用資訊之能力。另外或另一選擇係，基於AI之軟體可在一經連接環境中操作，但可在轉移以及與包含基於AI之軟體之開發者之第三方共用之資料量上受到限制。

由所揭示標的物處理之另一技術問題係自動增強基於AI之軟體之準確性，而不依賴於資料科學家及人類專家。在某些例示性實施例中，基於AI之軟體可在各種系統中用於監督式影像分類。一使用者可控制基於AI之軟體。基於AI之軟體可經組態以收集影像。每一影像可諸如由人類使用者標記以供訓練。專家可向由基於AI之軟體利用之模型提供超參數，自輸入資料手動移除不相關特徵，檢驗誤差，執行特徵工程等等。雖然基於AI之軟體呈現一系列新功能性，但基於AI之軟體可受在訓練中提供至其之資料之品質以及藉此使用之模型之特定組態限制。

一種技術解決方案係執行迭代地改良分類模型之一準確性 之一自激勵學習。在某些例示性實施例中，可自動地、偶爾、週期性地(諸如每一預定時間訊框)等等執行自激勵學習。另外或另一選擇係，自激勵學習可由來自一人類使用者，來自基於AI之軟體，來自與基於AI之軟體相關聯之一伺服器等等之一指令起始。然而，可瞭解，自激勵學習可自動執行且可在不具有資料科學家及人類專家之參與之情形下操縱。在某些例示性實施例中，基於AI之軟體可利用預界定介面並提供機器學習及AI機制來訓練模型，從而改良模型，追蹤模型之效能等等。在某些例示性實施例中，基於AI之軟體可經由雙向回呼自動與使用者應用互動，從而使得基於AI之軟體能夠調用請求並接收額外訓練資料、經改良資訊等等。在某些例示性實施例中，改良分類模型之準確性可藉由改良分類模型之一準確性量測或任何其他模型效能度量來量測，諸如一F分數(例如，F1分數)、一準確性分數、一精確分數、一重新叫用分數、混淆矩陣、曲線下面積、接收器操作特性(ROC)、訓練集與驗證集之間的準確性差異、GPU與CPU資源之時間、預測所需之電腦記憶體等等。在某些例示性實施例中，用於改良分類模型之準確性之一預定目標可基於分類任務自動設定，可由一使用者(諸如由AI軟體之操作者)手動設定等等。作為一實例，預定目標可係一0.5%改良，例如，在學習之每一迭代中改良分類模型之一準確性量測達至少0.5%。作為另一實例，預定目標可係約0.1%、0.2%、1%等等。

在某些例示性實施例中，可在每一迭代中判定用於改良分類模型之一假設清單。每一假設可係關於用以潛在地改良分類模型之一策略。作為一實例，假設可係關於演算法之一選擇，諸如，分類模型使用哪個神經網路，或演算法之組態，諸如神經網路拓撲(例如，層之數目、層之大小、層之間的連接性)、超參數、數個演算法概念之間的組合等等。 在某些例示性實施例中，可針對每一假設判定一分數。分數可指示假設之一應用改良分類模型之準確性量測之一可能性。在某些例示性實施例中，分數可使用實施機器學習技術之一預測模型來判定。預測模型可實施監督式學習技術並隨時間鑒於實際觀察到的結果進行改良。另外或另一選擇係，每一假設可與指示將假設應用於分類模型之成本之一成本函數相關聯，諸如應用假設所需之時間、應用假設所需之計算資源、應用假設所需之額外資源(例如，用於一額外訓練集之額外手動標記)等等。

在某些例示性實施例中，用於改良分類模型之一假設圖表可基於假設清單及其分數來產生。假設圖表之每一節點可包括假設清單中之一假設。假設圖表可基於假設之分數來排序，從而強加其之一遍歷次序。作為一實例，圖表可經排序使得可首先遍歷具有較高分數之假設。可基於其一遍歷自假設圖表選擇一所選擇假設。所選擇假設可經執行以更新分類模型並改良其準確性量測達至少預定目標。在某些例示性實施例中，可並行執行數個假設並可自其選擇最佳候選。並行執行可使用一相同圖形處理單元(GPU)、一中央處理單元(CPU)、一分佈式執行環境等等來執行。

在某些例示性實施例中，所揭示解決方案之能力可嵌入至製造一產品之內部演算法程序及其品質保證(QA)中。作為一實例，一AOI分類決策子系統可經組態以使用自動產生之分類模型來偵測並歸類缺陷。在某些例示性實施例中，可在製造程序之早期執行缺陷偵測，而不是諸如藉由產生及驗證缺陷預測在掃描程序結束時檢驗缺陷。在某些例示性實施例中，AOI分類決策子系統可操作並偵測缺陷，而不將影像、視訊、原始資料等等提供至一外部方。

作為另一實例，所揭示解決方案可在FPD製造期間用於AOI中。FPD行業發展迅猛且涉及快速及分類創新，不暴露此等快速及分類創新可係重要的。可在FPD製造中之不同階段(諸如檢驗、計量、良率管理解決方案、測試及修復解決方案等等中)中採用所揭示解決方案。所揭示標的物使得FPD製造商能夠偵測臨界缺陷，同時在產能提升階段中及生產期間兩者定位誤差源，並分析來自生產線之資料以便快速診斷及修復程序相關缺陷。另外或另一選擇係，所揭示解決方案可在其製造程序期間用於PCB、觸控感測器或其他電子裝置之AOI中，此等裝置之自動修復系統中，此等裝置之直接成像系統等等中。

在某些例示性實施例中，所揭示標的物可實施與改良自激勵學習之假設執行有關之強化學習。在某些例示性實施例中，強化學習可經執行以在假設之探索與假設之利用之間提供一平衡，此在過去已被證明係有用的。在某些例示性實施例中，學習任務可經分類且一強化學習可用於判定應用哪些假設、假設之間的一應用次序等等。在某些例示性實施例中，所揭示標的物可實施強化學習以基於同一學習任務之一序列先前產生之假設圖表，基於學習任務之分類，基於不同假設之經預測分數等等來預測一有用假設圖表。

在某些例示性實施例中，待由所揭示標的物使用之假設可包含數個不同類別。在某些例示性實施例中，一假設產生器可用於產生用於一既定模型之一假設。可提供不同假設產生器。在某些例示性實施例中，某些假設產生器可係經組態以產生假設之「最佳實務」產生器，根據經驗其可被視為有用的。另外或另一選擇係，某些假設產生器可由諸如對製造程序及其中使用之機器有深入瞭解之專家之主題內容專家(SME)手動 程式化。SME可程式化識別學習任務之性質並以一自動方式產生可改良經訓練模型之效能之假設之指令碼。應注意，SME假設產生器可手動程式化，但可自動調用且可在自激勵學習程序中不需要SME自身之參與。另外或另一選擇係，某些假設產生器可係經組態以提供隨機假設之隨機假設產生器以便能夠探索潛在地無吸引力之假設。

利用所揭示標的物之一種技術效應係提供與外部計算及資料庫斷開連接之用於自激勵學習之一自主解決方案。所揭示標的物使得能夠進行推理、資料清理、新穎性偵測等等，而不需要額外資料或暴露內部資料。所揭示解決方案利用AI機器之開發者之經驗及對所有相關資料之存取，而不將利用AI機器之工廠或生產廠之資料暴露於開發者或任何其他外部方。利用所揭示標的物之另一技術效應係減少自構想一產品直至其可用於銷售所需之上市時間(TTM)。TTM在產品快速過時之行業中，尤其在諸如FPD、PCB等等之微電子領域中係重要的。所揭示標的物改良基於AI之軟體之穩健性及穩定性，達成自動模型效能追蹤。

利用所揭示標的物之又一技術效應係以一迭代方式逐步改良一模型。藉由設定要達成之但相對小目標之增量，所揭示標的物可在不同組合中採用不同假設及次序以提供一經改良模型。在某些情形中，使用經限制資源，諸多小的逐步改良可係可行的，而試圖實現一大改良(其可係小的逐步改良之累積)可係困難的或甚至不可行的。

所揭示標的物可提供對在此項技術中先前已變得常規或習用之任何現存技術及任何技術之一或多種技術改良。鑒於本發明，熟習此項技術者可明瞭額外技術問題、解決方案及效應。

現參考圖1，圖1展示根據所揭示標的物之某些例示性實施 例之一方法之一流程圖。

在步驟110上，可獲得用以改良一分類模型之一指令。在某些例示性實施例中，分類模型可用於一監督式影像分類任務，諸如AOI分類、程序中品質控制(IPCQ)任務、QI任務等等。在某些例示性實施例中，監督式影像分類任務可係一基於AI之檢驗軟體中之一階段，旨在識別及分類物項或物項、產品等等中之缺陷。基於AI之檢驗軟體可經組態以界定AI介面，提供機器學習及AI機制以訓練分類模型，改良分類模型，追蹤，經由雙向回呼自動與一使用者應用互動等等。指令可自利用基於AI之檢驗軟體之一系統、與一外部應用相關之一伺服器獲得，而不自一外部應用獲得。指令可提供為基於AI之檢驗軟體之一自激勵改良步驟。

在步驟120上，可改良分類模型之一模型效能量測(諸如但不限於準確性量測)達至少一預定目標。在某些例示性實施例中，預定目標可係用於改良模型效能量測之一預設目標。另外或另一選擇係，預定目標可由AI檢驗系統或其一使用者基於監督式影像分類任務之性質，基於被分類產品之性質，基於產品之製造程序之性質等等來預定。另外或另一選擇係，預定目標可基於請求分類模型達成之目標模型效能量測來判定。

在某些例示性實施例中，可迭代地(諸如一預定數目之迭代)執行步驟120，直至達成用於改良分類模型之一總體目標，直至無法再達成改良等等。另外或另一選擇係，當在數個連續迭代(諸如高於一預定數目之迭代)中未達到目標時，可判定不應執行額外迭代，此乃因一額外迭代將提供一改良之可能性可為低。步驟120之每一迭代可包括步驟130至160。

在步驟130上，可判定一假設清單。在某些例示性實施例 中，假設清單中之每一假設可係關於用以潛在地改良分類模型之一策略。策略可係關於以下各項之一修改：分類模型之一模型類型、分類模型之一訓練參數、分類模型之一建模參數、監督式影像分類任務之一建模、用於訓練分類模型之一訓練集、用於驗證分類模型之一驗證集、測試分類模型之一測試集等等。

作為一實例，一假設可與分類模型之學習演算法之類型相關，諸如監督式學習、非監督式學習、強化學習、自學習、特徵學習、稀疏字典學習、異常偵測、相關聯規則等等。在某些情形中，假設清單可包括與分類模型之模型類型不相關之至少一個假設，諸如與分類模型之訓練參數相關之一假設，與分類任務之參數相關之一假設等等。

在某些例示性實施例中，假設清單或其一部分可與監督式影像分類任務相關。此等假設可與監督式影像分類任務之分類之數目、監督式影像分類任務之每一分類中之影像之數目、監督式影像分類任務中之影像大小、監督式影像分類任務之一雜訊性資料集元素標籖估計量測等等相關。

另外或另一選擇係，假設清單可包括三種類型之假設：最佳實務假設、基於強化學習之假設及SME假設。一最佳實務假設可係通常被認可為大體上有效於改良一分類模型之一假設。一基於強化學習之假設可係隨機選擇用於額外探索之一假設，或藉由利用基於過去強化學習之假設的一假設。一SME假設可與監督式影像分類任務之一SME相關，諸如已知在改良特定監督式影像分類任務之分類模型中有效的一假設。SME假設可由一人類程式化，可由AI檢驗系統自動獲得等等。

在某些例示性實施例中，可針對每一假設判定一分數。一 假設之分數可指示該假設之一應用改良分類模型之模型效能量測之一可能性。分數可基於先前學習或訓練來判定，可基於假設參數來預測等等。另外或另一選擇係，分數可由假設之一產生器在外部設定，可自假設之一資料庫獲得等等。

在某些例示性實施例中，判定假設清單可藉由應用利用與監督式分類任務相關聯之一先前假設集之一強化學習演算法來執行。強化學習演算法可經組態以基於先前假設集及其經評估分數來改良對假設清單之假設之選擇。

在步驟140上，可產生用於改良分類模型之一假設圖表。在某些例示性實施例中，假設圖表可基於假設清單及其分數產生。假設圖表之每一節點可包括假設清單中之一假設。在某些例示性實施例中，根據假設之分數，假設圖表可係具有一前序集之一定向圖表。

在某些例示性實施例中，假設圖表可包括父節點及子節點。每一父節點可由定向邊緣連接至一或多個子節點。每一父節點可表示一抽象演算法或一假設。一父節點中之子節點中之每一者可表示由父節點表示之抽象假設之一不同具體化。在某些例示性實施例中，某些子節點可具有由定向邊緣連接至其的其子節點。此等子節點中之子節點可表示由子節點表示之具體假設之一額外具體化。在某些例示性實施例中，假設清單可包括抽象假設及其具體化。另外或另一選擇係，假設清單可包括抽象假設且其具體化可在圖表之產生期間獲得。

另外或另一選擇係，假設圖表可藉由應用利用一序列先前產生之假設圖表之一強化學習演算法來產生。

在步驟150上，可自假設圖表選擇一所選擇假設。選擇可基 於假設圖表之一遍歷來執行。假設圖表之遍歷可根據其前序。可首先遍歷具有較高分數之假設。

在某些例示性實施例中，選擇可包括選擇當應用時與由假設圖表中之其他假設得到的改良相比，改良分類任務之模型效能量測達一最高量測之一假設。選擇可在遍歷整個圖表或其一預定部分之後等等執行。另外或另一選擇係，選擇可包括選擇在假設圖表之遍歷期間遇到之一第一假設，該第一假設之一應用改良分類任務之模型效能量測達至少預定目標。

在某些例示性實施例中，回應於一父節點之一遍歷，可執行與父節點之抽象假設相關之一抽象計算。抽象計算可包括判定假設之一應用如何改良分類模型之模型效能量測。回應於遍歷子節點中之一者，可執行一具體計算。具體計算可包括判定抽象假設之特定具體化之一應用對分類模型之模型效能量測有多少影響。在某些例示性實施例中，具體計算可包括執行具體假設及判定因應用假設而引起的模型效能量測之改良。在某些例示性實施例中，假設之分數可基於抽象計算及具體計算來更新。

所選擇假設可基於抽象計算及具體計算來選擇。可注意，在某些情形中，抽象假設之分數及其具體化之分數可未必相關。儘管與其相關聯之抽象假設具有一較低分數，但可在其他具體假設內選擇一具體假設。另外或另一選擇係，可選擇一最佳抽象假設且可應用其一最佳具體化。

在步驟160上，可執行所選擇假設且可更新分類模型及模型效能量測。在某些例示性實施例中，在未改良模型效能量測達至少預定目標之情形中，可重複步驟150。

現參考圖2，圖2展示根據所揭示標的物之某些例示性實施例之一方法之一流程圖。

在步驟210上，可使用強化學習產生一假設圖表。在某些例示性實施例中，圖表產生程序可係基於先前產生之假設圖表執行之一演算法可學習程序。可利用一強化學習演算法以基於一序列先前產生之假設圖表產生假設圖表。作為一實例，強化學習演算法可係基於序列之記憶體演算法，諸如一遞歸NN、一LSTM等等，其可記住並辨識一輸入序列(此等假設圖表及其分數)並作為一輸出產生可被利用之一新序列。輸入序列可包括一序列先前產生之假設圖表。每一假設圖表可標記有一分數度量，其指示假設圖表是否改良相關聯分類模型及應用哪一假設。強化學習演算法可經組態以基於輸入序列產生具有一最佳分數度量之一假設圖表。

另外或另一選擇係，可在判定假設清單之同時應用強化學習。可應用利用與監督式分類任務相關聯之一先前假設集之一強化學習演算法。

在步驟220上，可執行假設圖表。在某些例示性實施例中，可遍歷假設圖表。可在分類模型上完全或部分地模擬圖表之每一節點中之假設之一應用，以便回應於在其上應用假設而判定分類模型之模型效能量測之潛在改良。可類似於圖1之步驟150選擇一假設。

在步驟230上，可執行所選擇假設且可評估一經訓練模型。作為應用來自假設圖表之相關聯假設之一結果，一經評估度量表示分類模型之準確性之改良。一經評估度量可指示應用哪一假設。

在步驟240上，可保存經產生假設圖表及經評估度量。在某些例示性實施例中，可將經產生假設圖表及經評估度量保存在與執行針對 分類模型之自激勵學習之伺服器相關聯之目標圖表之一內部資料庫中。可將經評估訓練模型保存在一相關聯經訓練模型資料庫中以供將來學習。

在步驟250上，可利用經保存資料來改良強化學習。在某些例示性實施例中，強化學習演算法可經組態以基於其過去的決策來改良其解決方案。強化學習演算法可經組態以利用經評估模型及每一假設之度量來應用一正向或一基於獎勵之強化。在正向強化中，當歸因於諸如一特定假設或其特徵之一特定行為而發生諸如準確性之一改良之一事件時，增加行為之強度及頻率，例如導致改良之其特徵之假設。

現參考圖3，圖3展示根據所揭示標的物之某些例示性實施例之一設備之一方塊圖。根據所揭示標的物，一設備300可經組態以支援一主動機器以執行自激勵學習、推理、資料清理、新穎性偵測等等。

在某些例示性實施例中，設備300可包括一或多個處理器302。處理器302可係一GPU、一TensorCore、一CPU、一微處理器、一電子電路、一積體電路(IC)等等。處理器302可用於執行設備300或其子組件中之任一者所需之計算。

在所揭示標的物之某些例示性實施例中，設備300可包括一輸入/輸出(I/O)模組305。I/O模組305可用於將一輸出提供至一使用者及自一使用者接收輸入，諸如，舉例而言，獲得指令、訓練資料、標記函數、輸出假設圖表等等。

在某些例示性實施例中，設備300可包括記憶體307。記憶體307可係一硬碟機、一快閃碟、一隨機存取記憶體(RAM)、一記憶體晶片等等。在某些例示性實施例中，記憶體307可存留可操作以致使處理器302執行與設備300之子組件中之任一者相關聯之動作之程式碼。

在某些例示性實施例中，設備300可經組態以監視一分類模型並自主改良其準確性，而不依賴於外部計算及資料庫。可使用I/O模組305獲得用以改良用於一監督式影像分類任務之一分類模型之一指令。指令可自一使用者，自一製造機器伺服器等等獲得。設備300可經組態以迭代地改良分類模型之一模型效能量測，諸如分類模型之一準確性量測等等。

在某些例示性實施例中，假設清單產生器310可經組態以產生假設清單。假設清單中之每一假設係關於用以潛在地改良分類模型之一策略。每一假設可與一分數相關聯，該分數指示假設之一應用改良分類模型之準確性量測之一可能性。分數可由假設清單產生器310或其一組件計算。

在某些例示性實施例中，假設清單產生器310可經組態以利用諸如312至316之一假設產生器產生假設清單。每一經產生假設可係關於分類模型之一修改，諸如其一模型類型、與其訓練資料相關之一參數、一建模參數、與監督式影像分類任務相關之一參數等等。

在某些例示性實施例中，假設清單產生器310可經組態以應用最佳實務假設產生器312產生假設清單之一或多個假設。最佳實務假設產生器312可經組態以產生經組態以改良分類模型之預界定最佳實務假設。預界定最佳實務假設可通常被證實改良分類模型，且可與分類模型之特定分類任務不直接相關。作為一實例，預界定最佳實務假設可使用額外訓練資料來重新訓練分類模型。

另外或另一選擇係，假設清單產生器310可經組態以應用SME假設產生器316產生假設清單之一或多個假設。SME假設產生器316 可經一電腦程式產品設計且由一SME開發以基於監督式影像分類任務之一或多個參數產生假設。SME假設產生器316可由分類模型之一使用者開發，可基於來自使用者之一輸入，諸如基於監督式影像分類任務之參數，基於被檢驗產品之參數等等來開發。SME假設產生器316可經組態以基於監督式影像分類任務之分類之一數目，監督式影像分類任務之每一分類中之影像之一數目，監督式影像分類任務中之一影像大小，監督式影像分類任務之一雜訊性標籖估計量測等等來產生假設。

另外或另一選擇係，假設清單產生器310可經組態以應用一隨機假設產生器314產生假設清單之一或多個假設。隨機假設產生器314可經組態以產生隨機假設。隨機假設可係用於改良分類模型之一探索機制。隨機假設產生器314可經組態以參考其分數之一經估計概率隨機選擇或產生假設。

在某些例示性實施例中，可由執行模組350基於其執行結果將由隨機假設產生器314產生之隨機假設判定為SME假設。SME假設產生器316可在連續迭代中利用此等假設。

在某些例示性實施例中，假設圖表產生器320可經組態以基於由假設清單產生器310產生之假設清單產生假設圖表。假設圖表產生器320可經組態以基於相關聯假設清單中之假設之分數產生每一圖表。

在某些例示性實施例中，假設圖表產生器320可經組態以利用強化學習模組340產生一假設圖表。強化學習模組340可經組態以學習並判定何為經預測方法以自動產生針對分類模型測試之概然假設之一圖表。強化學習模組340可經組態以使用先前產生之假設圖表來訓練假設圖表產生器320以產生一新假設圖表。強化學習模組340可經組態以利用一 序列先前產生之假設圖表產生假設圖表，作為此序列之一標籖。強化學習模組340可經組態以訓練假設圖表產生器320以在給出一輸入分類任務之情形下產生待執行之一圖表。另外或另一選擇係，假設清單產生器310可利用強化學習模組340來基於與監督式分類任務相關聯之一先前假設集判定一假設清單。

在某些例示性實施例中，由假設圖表產生器320產生之圖表及與其相關聯之經評估度量，諸如改良可能性、經改良分類模型等等，可儲存在假設圖表資料庫390中。儲存在假設圖表資料庫390中之資料可在改良之下一迭代中用於產生其他分類模型之圖表，更新一現有模型等等。

在某些例示性實施例中，假設選擇模組330可經組態以自由假設圖表產生器320產生之假設圖表選擇一所選擇假設。假設選擇模組330可經組態以遍歷假設圖表並選擇當應用時與由假設圖表中之其他假設得到的改良相比，改良分類任務之準確性量測達一最高量測之一假設。另外或另一選擇係，假設選擇模組330可經組態以遍歷假設圖表並選擇在假設圖表之遍歷期間遇到之第一假設，該第一假設之一應用改良分類任務之準確性量測達至少預定目標。

在某些例示性實施例中，執行模組350可經組態以執行所選擇假設，以更新分類模型並改良準確性量測達至少預定目標。在某些例示性實施例中，執行模組350可經組態以利用額外資料以便執行假設，諸如自訓練資料380獲得之額外訓練資料、來自人類專家之額外SME資料，從而由使用者重新標注影像，修改超參數之值，修改學習演算法等等。

在某些例示性實施例中，強化學習模組340可經組態以基於執行所選擇假設之結果更新用於產生假設圖表之強化學習演算法。強化學 習模組340可經組態以基於所選擇假設、經改良分類模型、準確性之改良等等改良強化學習演算法。

在某些例示性實施例中，設備300可包括可經組態以監視及調節預測定量效能之預測追蹤器360。預測追蹤器360可經組態以分析指令從而追蹤一分類模型之預測效能，追蹤及偵測待分類之傳入影像之資料分佈與訓練階段中之影像之資料分佈之間的一概然不匹配，追蹤強化學習，調節強化學習之效能，驗證用於改良準確性之預定目標經達成等等。

現參考圖4，圖4展示根據所揭示標的物之某些例示性實施例之一例示性架構之一示意性圖解說明，可在該例示性架構中利用所揭示標的物。

在某些例示性實施例中，AI系統400可經組態以自動執行一分類模型之自激勵改良。分類模型可用於一監督式影像分類任務。作為一實例，AI系統400可與旨在分類物項，識別產品中之缺陷，檢驗產品之品質等等之一檢驗系統相關聯。分類模型可用於分類物項或產品之影像，偵測其中之異常，偵測產品中之缺陷等等。自激勵改良機制可由先前設定之目標驅動，諸如，由利用AI系統400之製造設定之目標，基於產品之所期望品質界定之目標，基於分類模型之所需最終準確性界定之目標等等。

在某些例示性實施例中，AI系統400可經組態以採用一大腦模組420來執行分類模型之改良。一使用者AI互動模組410可經組態以經由一模型學習應用程式化介面(API)424來向大腦420發佈一指令以改良分類模型。大腦420可經組態以在每一迭代中迭代地改良分類模型之一準確性量測達至少一預定目標。大腦420可經組態以經由資料API 422自外部資源獲得用於改良之額外資料。該額外資料可包括訓練資料、超參數之 值、標記函數、一改良目標等等。

在某些例示性實施例中，大腦420之一分類模組430可經組態以分析學習指令並分類分類模型之學習任務。分類模組430可經組態以分析學習任務之類型，分類模型用來執行分類任務之一AI技術，分類模型之參數，分類任務之參數等等。在某些例示性實施例中，分類模組430可諸如基於標記/分類之數目、訓練集中每一分類中之例項之數目、輸入之一大小、一影像輸入之一寬深比、雜訊性標籖估計量測，以及與其相關之參數、不同分類之例項之性質等等來分類學習任務。

在某些例示性實施例中，大腦420之一規劃模組440可經組態以產生一假設圖表之一執行規劃，以基於由分類模組430判定之分類改良分類模型。假設圖表之每一節點可包括與用以潛在地改良分類模型之一策略相關之一假設。在某些例示性實施例中，規劃模組440可經組態以實施與假設執行有關之強化學習來改良自激勵學習。規劃模組440可經組態以執行強化學習來判定應用哪些假設，假設之間的一應用次序等等。規劃模組440可利用強化學習以基於同一學習任務之一序列先前產生之假設圖表，基於學習任務之分類，基於不同假設之經預測分數等等來預測一有用假設圖表。

另外或另一選擇係，規劃模組440可經組態以採用其他機器學習技術，諸如，使用自動機器學習(自動ML)，深度神經網路(DNN)、捲積神經網路(CNN)、轉移學習、叢集、弱學習等等來產生假設圖表之執行規劃。

大腦420之一執行模組450可經組態以執行假設圖表。執行假設圖表可包括遍歷圖表以迭代地選擇可能改良分類模型之準確性量測達 至少預定目標之一假設，並執行該假設直至達成預定目標。在每一迭代中，執行模組450可經組態以選擇當應用時與由假設圖表或其部分中之其他假設得到的改良相比，改良分類任務之準確性量測達一最高量測之一假設。另外或另一選擇係，在每一迭代中，執行模組450可經組態以選擇在假設圖表之遍歷期間遇到之一第一假設，該第一假設之一應用改良分類任務之準確性量測達至少預定目標。在某些例示性實施例中，可對模型之一獨立複本執行所執行之每一假設，以便基於假設之應用獲得一經更新模型。在某些例示性實施例中，可比較不同替代經更新模型之效能(其中之每一者係執行一不同假設之結果)以選擇待應用之較佳假設。

在某些例示性實施例中，執行模組450可最初小規模地執行假設以判定其適用性。在選擇一假設之後，可完全執行假設以獲得經更新模型。

另外或另一選擇係，執行模組450可經組態以經由一任務執行API 486採用一任務執行伺服器490來在外部執行假設圖表。在某些例示性實施例中，任務執行伺服器490可諸如藉由應用多個GPU而具有大計算資源，可係一分佈式計算環境、一雲端計算服務等等。

在某些例示性實施例中，回應於執行假設圖表，可產生具有改良達至少預定目標之一準確性量測之一經改良分類模型。在某些情形中，經產生假設圖表可無法獲得所期望目標且規劃模組440可經指示以重新產生一新執行規劃假設圖表。

在某些例示性實施例中，大腦420之一記憶模組460可經組態以儲存經產生假設圖表及與其相關聯之經評估度量。在某些例示性實施例中，經產生假設圖表及經評估度量可保存在與AI系統400相關聯之假設 圖表之一內部資料庫中，一外部資料庫中，與其他AI系統相關聯之資料庫中等等。經產生假設圖表及經評估度量可在將來學習中用來諸如改良規劃模組440之強化學習解決方案。

在某些例示性實施例中，大腦420之一報告模組470可經組態以諸如經由大腦至應用API 482向AI系統400報告執行假設圖表之結果。在某些例示性實施例中，使用者AI互動模組410可經組態以評估報告並判定是否調用一額外改良迭代。在某些例示性實施例中，報告可指示目標經達到且因此可執行另一迭代以進一步改良模型。另外或另一選擇係，報告可指示目標未達到，且因此可判定不應執行額外迭代，此乃因一額外迭代將提供一改良之可能性可為低(例如，低於一臨限值)。另外或另一選擇係，在報告指示未達到目標之情形中，可嘗試一額外迭代，在此期間慮及先前假設圖表未能提供所期望改良，可產生一不同假設圖表。

在某些例示性實施例中，大腦420可經組態以經由大腦至大腦API 484與類似於大腦420之其他模組通信，諸如類似於大腦420之其他AI系統之一大腦模組、具有相同類型之大腦420之其他大腦模組等等。大腦至大腦API 484可用於為其他AI系統提供資料以供協作、分佈等等。

在某些例示性實施例中，一模型追蹤API 426可用於獲得與一分類模型有關之效能資訊。在某些例示性實施例中，可監視及追蹤分類模型之準確性量測。與效能有關之資訊，諸如準確性量測、分類模型之應用之數目、分類模型所應用之例項等等，可經由模型追蹤API 426提供至大腦420。在某些例示性實施例中，可關於分類模型、一或多個經更新分類模型等等執行模型追蹤。在某些例示性實施例中，此資訊可由分類模組430、規劃模組440、記憶模組460等等利用。

現參考圖5A，圖5A展示根據所揭示標的物之某些例示性實施例之一例示性假設目標圖表之一圖解說明。

假設圖表500可係回應於用以改良用於一監督式影像分類任務之一分類模型之一指令而產生之一例示性假設目標圖表。作為一實例，分類模型可用於FPD產品之品質控制。假設圖表500可用於改良分類模型之一準確性量測(諸如一F1分數)達至少一預定目標，諸如0.5%。

在某些例示性實施例中，假設圖表500之節點可包括假設。假設圖表500中之每一假設可係關於用以潛在地改良分類模型之一策略，諸如與重新訓練分類模型，修改模型等等相關之策略。在某些例示性實施例中，一葉節點可包括一具體假設。另外或另一選擇係，一內部節點可包括一抽象假設，該抽象假設之子假設可包括抽象假設之具體化。在某些例示性實施例中，一根節點510可表示一經退化假設，其表示改良分類模型之一般性概念。另外或另一選擇係，根節點510可不包括任何假設。在某些例示性實施例中，目標圖表500可包括內部節點，其中之每一者與一或多個子節點相關聯。每一內部、非葉節點可表示一抽象假設，其指示用於改良分類模型準確性之一抽象策略。每一子節點可表示相關聯內部節點之抽象假設之一不同具體化。具體化可與抽象假設之參數相關，諸如為其指配不同值。另外或另一選擇係，具體化可與假設之應用方式、額外資料源、經利用演算法等等相關。在某些例示性實施例中，子節點之間的次序可將一遍歷次序強加於節點上，此可強加不同假設之應用及執行之一次序。

在目標圖表500中，節點520中之假設H1可指示使用一清潔資料集重新訓練分類模型之一策略。節點522中之假設H1a可係假設H1之 一具體化。假設H1a可指示使用包括用於訓練分類模型之初始資料集之25%之一資料集重新訓練分類模型之一策略。節點524中之假設H1b可係假設H1之一不同具體化。假設H1b可指示使用包括用於訓練分類模型之初始資料集之N%之一資料集重新訓練分類模型之一策略。可在目標圖表500之執行期間判定N。

節點530中之假設H2可指示使用較多樣本重新訓練分類模型之一策略。節點532中之假設H2a可係假設H2之一具體化。假設H2a可指示重新訓練經組態以將例項分類至一額外兩個分類(一第一及一第二分類)之分類模型之一策略，其中標記為N1之樣本來自一第一分類且標記為N2之樣本來自一第二分類。在某些例示性實施例中，N1及N2可在執行H2a期間判定。另外或另一選擇係，可預定N1及N2。

節點540中之假設H3可指示以適應性學習速率重新訓練分類模型之一策略。節點542中之假設H3a、節點544中之假設H3b及節點546中之假設H3c可係假設H3之具體化。假設H3a可指示以一適應性學習速率使用用於該適應性學習速率之一第一訓練演算法來重新訓練分類模型。假設H3b可指示以一適應性學習速率使用用於該適應性學習速率之一第二訓練演算法來重新訓練分類模型。假設H3c可指示以一適應性學習速率使用用於該適應性學習速率之一第三訓練演算法來重新訓練分類模型。

節點550中之假設H4可指示重新訓練分類模型以分類使用額外標記函數界定之額外數目之分類之一策略。在某些例示性實施例中，額外標記函數可經由一回呼API獲得。在某些例示性實施例中，額外標記函數可由一人類使用者提供，可自一儲存庫獲得等等。

現參考圖5B，圖5B展示根據所揭示標的物之某些例示性實 施例之一假設目標圖表之一執行之一圖解說明。

可回應於用以改良用於一監督式影像分類任務之一分類模型之一指令產生一假設圖表，諸如假設圖表500(505)。作為一實例，分類模型可用於FPD產品之品質控制。假設圖表500可用於改良分類模型之一準確性量測(諸如一F1分數)達至少一預定目標，諸如0.5%。

在一項例示性實施例中，可自動產生目標圖表500以便改良一既定分類模型之準確性量測達0.5%。目標圖表500可包括可能改良分類模型之F1分數達至少0.5%之不同假設H1至H4。

在某些例示性實施例中，每一假設可被指配一分數及一成本。一假設之分數可指示該假設之一應用改良分類模型之準確性量測達至少目標之一可能性。在某些情形中，假設圖表中可僅包含具有高於一預定臨限值(諸如約90%、95%等等)之一分數之假設。一假設之成本可指示在分類模型上應用假設之成本，諸如應用及執行假設所需之時間、計算資源等等。在某些例示性實施例中，假設目標圖表可根據分數、成本、其一組合等等來排序。假設圖表之排序可強加其一遍歷次序，使得可首先遍歷具有較高分數之假設。因此，遍歷之次序可係H1、H1a、H1b、H2、H2a、H3、H3a、H3b、H3c及H4。

一假設選擇器可經組態以執行目標圖表500，以便選擇改良分類模型達至少0.5%之一假設(515)。在某些例示性實施例中，假設選擇器可經組態以基於假設圖表500之一遍歷選擇一所選擇假設。在遍歷期間，當遍歷父節點時可執行與抽象假設相關之抽象計算，且當遍歷子節點時可執行具體計算。抽象及具體計算可用於判定假設之經更新分數及選擇應用於分類模型上之一假設。可執行所選擇假設，可更新分類模型且可改 良其準確性量測達至少預定目標。

當遍歷節點520時，可執行與假設H1相關之抽象計算(521)。假設H1可係一抽象假設，其指示使用一清潔資料集重新訓練分類模型之一策略。當遍歷節點522及524時可執行額外具體計算。可應用選擇資料集之25%作為一較清潔集合來進行重新訓練之一演算法(523)。演算法可經組態以將前25%影像標籖準確資料選擇為在較清潔資料集中。可應用一離群值移除演算法以便增強假設H1a之演算法(526)。可應用選擇資料集之一預定百分比作為一較清潔標籖式集合來進行重新訓練之一演算法(525)。可判定待在假設H1中利用之預定百分比(527)。可基於成本，基於預定目標，基於分類模型之其他參數等等來執行判定。可應用一離群值移除演算法以便增強訓練資料集(528)。可判定基於假設H1a或H1b進行重新訓練之訓練資料集(529)。

當遍歷節點530時，可執行與假設H2相關之抽象計算(531)。假設H2可係一抽象假設，其指示使用較多標記樣本重新訓練分類模型之一策略。

當遍歷節點532時，可應用使用假設H2之較多樣本進行重新訓練之一訓練器演算法(533)。假設H2a可指示重新訓練經組態以在第一與第二分類之間分類例項之分類模型之一策略，其中N1樣本來自一第一分類且N2樣本來自一第二分類。為了判定N1及N2之數目，可核驗樣本之標注且可返回清潔樣本(535)。可發佈自不同分類請求額外樣本之一回呼(537)。回呼可被發佈至一AI系統、目標圖表之一使用者、一外部源等等。可執行利用每一分類(N1及N2)之多少個樣本之一決策(539)。

當遍歷節點540時，可執行與假設H3相關之抽象計算 (541)。假設H3可係一抽象假設，其指示以一適應性學習速率重新訓練分類模型之一策略。當遍歷節點542、544及546時，可執行具體計算以評估假設H3a、假設H3b及假設H3c(543、545)。用於假設H3a、假設H3b及假設H3c(在543上遍歷)之一訓練演算法可分別選擇為用於適應性學習速率之一第一、一第二或一第三訓練演算法。可獲得一各別訓練資料集(545)。

當遍歷節點550時，可執行與假設H4相關之抽象計算(551)。假設H4可係一抽象假設，其指示重新訓練分類模型以分類使用額外標記函數界定之額外數目之分類之一策略。可獲得待用於假設H4中之額外分類之標記函數(533)。在某些例示性實施例中，額外標記函數可由一人類使用者提供，可自一儲存庫獲得等等(553)。在某些例示性實施例中，額外標記函數可經由一回呼API獲得(555)。回呼請求可被定址至一使用者、一外部資料庫等等。可判定用以請求之標記函數之數目(557)。可獲得用於基於假設H4進行重新訓練之訓練資料集(559)。

在某些例示性實施例中，當選擇一假設時，可終止目標圖表500之遍歷。在某些例示性實施例中，可選擇與由目標圖表500中之其他假設得到的改良相比對分類任務之準確性量測具有最高改良之假設。在此情形中，可完全遍歷目標圖表500。另外或另一選擇係，可選擇在目標圖表500之遍歷期間遇到之一第一假設，該第一假設之一應用改良分類任務之準確性量測達至少預定目標。

現參考圖6，圖6展示根據所揭示標的物之某些例示性實施例之一例示性假設目標圖表之一圖解說明。

假設圖表600可係回應於用以改良用於一監督式影像分類任 務之一分類模型之一指令產生之一例示性假設目標圖表。假設圖表600之節點630至680可包括與用以潛在地改良分類模型之策略相關之假設，諸如與分類模型之一模型類型相關之策略、與分類模型之一訓練參數相關之策略、與分類模型之一建模參數相關之策略、與監督式影像分類任務之一建模相關之策略、與用於訓練分類模型之一訓練集相關之策略、與用於驗證分類模型之一驗證集相關之策略、與用於測試分類模型之一測試集相關之策略等等。在某些例示性實施例中，一根假設節點610可表示一經退化假設，其表示改良分類模型之一般性概念。另外或另一選擇係，根假設節點610可不包括任何假設。

節點630包括用於改良分類模型之一抽象假設H5。假設H5可與分類模型之訓練之一策略相關。假設H5建議使用雜訊性標籖假定進行訓練。根據假設H5，可在假定樣本之標籖之K%為錯誤時執行訓練。參數K可由一使用者在假設圖表600之執行期間基於分類任務要求等等來判定。作為一實例，參數K可係10、20、30等等。

節點640包括用於改良分類模型之一抽象假設H6。假設H6可與一策略相關，該策略與分類模型之一訓練參數相關，諸如什麼類型之訓練。假設H6建議利用經混合監督式與非監督式訓練。可執行使用標注之影像及未標注之影像之一大集合之訓練是否可提供一較好分類模型之一判定。可瞭解，可對抽象假設H6執行數個具體化以便藉此評估改良準確性量測之可能性，諸如待在訓練中利用之未標注影像之量、待執行之非監督式學習之百分比等等。

節點650包括用於改良分類模型之一抽象假設H7。假設H7可與一策略相關，該策略與分類模型之一模型類型相關。假設H7建議利 用分類器之一整體來執行分類任務。經測試假設可係對每一樣本之多裁判投票是否可針對離群值、新穎性、異常等等提供更穩定結果。

節點660包括用於改良分類模型之一抽象假設H8。假設H8可與一策略相關，該策略與分類模型之一建模參數相關。假設H8建議將監督式影像分類任務中之某些分類叢集至數個子分類中。經測試假設可係是否可找到使用者已選擇之分類類別內部之子型樣。

節點670包括用於改良分類模型之一抽象假設H9。假設H9可與一策略相關，該策略與監督式影像分類任務之一建模相關。假設H9建議利用一較低數目之分類。經測試假設可係統合分類之集合是否可獲得較好分類結果。在此假設中，可向使用者提議多個解決方案以對其做出決策。假設H9可將初始學習任務轉換成另一相關學習任務，其形式定義略有不同。

節點680包括用於改良分類模型之一抽象假設H10。假設H10可與一策略相關，該策略與監督式影像分類任務之一建模相關。假設H10建議利用一較大數目之分類。經測試假設可係整合較多分類是否可提供更好混淆矩陣結果。

本發明可係一系統、一方法或一電腦程式產品。電腦程式產品可包含其上具有指令之一電腦可讀儲存媒體，該等指令用於致使一處理器執行本發明之態樣。

電腦可讀儲存媒體可係可存留及儲存指令以供一指令執行裝置使用之一有形裝置。電腦可讀儲存媒體可係舉例而言但不限於電子、磁性光學儲存裝置等等，諸如但不限於一硬碟機、一隨機存取記憶體(RAM)、一唯讀記憶體(ROM)、一可抹除可程式化唯讀記憶體(EPROM或 快閃記憶體)等等。在某些情形中，指令可自一伺服器、一遠端電腦、一遠端儲存裝置等等下載至儲存媒體。

用於執行本發明之操作之電腦可讀程式指令可係組合程式指令、指令集架構(ISA)指令、機器指令、機器相依指令、微碼、韌體指令、狀態設定資料，或者以一或多個程式設計語言(包含諸如Smalltalk、C++等等之一物件導向程式設計語言以及諸如「C」程式設計語言或類似程式設計語言之習用程序程式設計語言)之任何組合編寫之源碼或目的碼。程式指令可完全執行於使用者之電腦上，部分地執行於使用者之電腦上；作為一獨立式軟體包部分地執行於使用者之電腦上及部分地執行於一遠端電腦上或完全執行於遠端電腦或伺服器上。在後一情形中，遠端電腦可經由包含一區域網路(LAN)或一廣域網路(WAN)之任何類型之網路連接至使用者之電腦或可連接至一外部電腦(舉例而言，經由使用一網際網路服務提供商之網際網路)。

本文中參考方法之流程圖及方塊圖、設備、系統及電腦程式產品闡述本發明之態樣。將理解，圖式中之每一方塊及圖式中方塊之組合可由電腦可讀程式指令實施。

可將電腦可讀程式指令加載至一電腦，其他可程式化資料處理設備或其他裝置上以致使將在該電腦、其他可程式化設備或其他裝置上執行之一系列操作步驟以產生一電腦實施之程序，使得在電腦或其他可程式化設備或其他裝置上執行之指令實施圖式之方塊中所規定之功能。

圖中之流程圖及方塊圖圖解說明本發明之各種實施例之可能實施方案。就此而言，流程圖或方塊圖中之每一方塊可表示一模組、分段或指令之部分，其包括用於實施所規定邏輯功能之一或多個可執行指 令。在某些替代實施方案中，方塊中所說明之功能可不以圖中說明之次序發生。舉例而言，事實上，可取決於所涉及之功能性，實質上同時執行連續展示之兩個方塊，或有時可以相反次序執行該等方塊。亦將應注意，圖式之每一方塊及方塊之組合可由基於特殊用途硬體之系統實施。

本文中所使用之術語僅出於闡述特定實施例之目的而並非打算限制本發明。如本文中所使用，單數形式「一(a)」、「一(an)」及「該(the)」亦意欲包含複數形式，除非內容脈絡另外明確指示。將進一步理解，術語「包括(comprises)」及/或「包括(comprising)」在本說明書中使用時規定存在所陳述特徵、整數、步驟、操作、元件及/或組件，但並不排除存在或添加一或多個其他特徵、整數、步驟、操作、元件、組件及/或其群組。

下文在隨附申請專利範圍中之所有構件或步驟加功能元件之對應結構、材料、動作及等效物意欲包含用於結合如具體所主張之其他所主張元件一起執行功能之任一結構、材料或動作。已出於圖解說明及說明之目的呈現對本發明之說明，而非意欲為窮盡性的或將本發明限制於所揭示形式。在不背離本發明之範疇及精神之情形下，熟習此項技術者將明瞭諸多修改及變化形式。選擇及闡述實施例以便最佳地解釋本發明之原理及實際應用，且使其他熟習此項技術者能夠理解本發明之各種實施例，該等實施例具有適於所涵蓋之特定用途之各種修改。

110:步驟

120:步驟

130:步驟

140:步驟

150:步驟

160:步驟

Claims (18)

1. 一種用於改良人工智慧分類模型之方法，其包括：獲得用以改良一分類模型之一指令，其中該分類模型用於一監督式影像分類任務；回應於該獲得，迭代地(iteratively)改良該分類模型之一模型效能量測，其中在每一迭代中改良該分類模型之該模型效能量測達至少一預定目標，其中該迭代地改良包括：判定一假設清單，其中該假設清單中之每一假設係關於用以潛在地改良該分類模型之一策略，其中針對每一假設判定一分數，其中該分數指示該假設之一應用改良該分類模型之該模型效能量測之一可能性；基於該假設清單及該分數，產生用於改良該分類模型之一假設圖表，其中該假設圖表之每一節點包括該假設清單中之一假設，且其中該產生該假設圖表包括應用一強化學習演算法，該強化學習演算法利用先前產生之假設圖表之一序列；自該假設圖表選擇一所選擇假設，其中該選擇係基於該假設圖表之一遍歷(traversal)；執行該所選擇假設，藉此更新該分類模型並改良該模型效能量測達至少該預定目標；及基於該執行更新該強化學習演算法。
2. 如請求項1之方法，其中該假設清單中之每一假設係關於以下各項中 之至少一者之一修改：該分類模型之一模型類型，該分類模型之一訓練參數，該分類模型之一建模參數，該監督式影像分類任務之一建模，用於訓練該分類模型之一訓練集，用於驗證該分類模型之一驗證集，或用於測試該分類模型之一測試集。
3. 如請求項2之方法，其中該假設圖表包括與該分類模型之該模型類型不相關之至少一個假設。
4. 如請求項1之方法，其中該判定該假設清單包括：應用一預界定最佳實務假設產生器，及應用一隨機假設產生器。
5. 如請求項1之方法，其中該判定該假設清單包括應用一主題內容專家(SME，Subject Matter Expert)假設產生器，其中該SME假設產生器係藉由一SME設計以基於該監督式影像分類任務之一或多個參數產生假設之一電腦程式產品。
6. 如請求項1之方法，其中該判定該假設清單係基於以下各項中之至少一者來執行：該監督式影像分類任務之分類之一數目、該監督式影像分類 任務之每一分類中之影像之一數目、該監督式影像分類任務中之一影像大小，或該監督式影像分類任務之一雜訊性標籖估計量測。
7. 如請求項1之方法，其中該選擇該所選擇假設包括選擇當應用時與由該假設圖表中之其他假設得到的改良相比，改良該分類任務之該模型效能量測達一最高量測之一假設。
8. 如請求項1之方法，其中該選擇該所選擇假設包括選擇在該假設圖表之該遍歷期間遇到之一第一假設，該第一假設之一應用改良該分類任務之該模型效能量測達至少該預定目標。
9. 如請求項1之方法，其中該判定該假設清單係基於與該監督式分類任務相關聯之一先前假設集來執行。
10. 如請求項9之方法，其中該判定該假設清單包括應用該強化學習演算法，其中該強化學習演算法利用該先前假設集。
11. 如請求項1之方法，其中該假設圖表包括一父節點，其由一或多個定向邊緣分別連接至一或多個子節點，其中該父節點表示一抽象假設，其中該一或多個子節點中之每一者表示該抽象假設之一不同具體化，其中該自該假設圖表選擇該所選擇假設包括：回應於該父節點之一遍歷，執行與該抽象假設相關之一抽象計算；及 回應於遍歷該一或多個子節點中之一者，執行一具體計算；其中該所選擇假設係基於該抽象計算及該具體計算來選擇。
12. 一種人工智慧(AI)系統，其包括：一分類模型改良模組，其經組態以獲得用以改良一分類模型之一指令，其中該分類模型用於一監督式影像分類任務；其中該分類模型改良模組經組態以迭代地改良該分類模型之一模型效能量測，其中在每一迭代中改良該分類模型之該模型效能量測達至少一預定目標，其中該分類模型改良模組包括：一規劃模組，其經組態以：判定一假設清單，其中該假設清單中之每一假設係關於用以潛在地改良該分類模型之一策略，其中針對每一假設判定一分數，其中一假設之該分數指示該假設之一應用改良該分類模型之該模型效能量測之一可能性；基於該假設清單及其分數，產生用於改良該分類模型之一假設圖表，其中該假設圖表之每一節點包括該假設清單中之一假設，且其中產生該假設圖表包括應用一強化學習演算法，該強化學習演算法利用先前產生之假設圖表之一序列；自該假設圖表選擇一所選擇假設，其中該選擇係基於該假設圖表之一遍歷；及一執行模組，其經組態以執行該所選擇假設，藉此更新該分類模型並改良該模型效能量測達至少該預定目標；及 其中該規劃模組進一步經組態以基於該執行模組之執行結果更新該強化學習演算法。
13. 如請求項12之AI系統，其中該規劃模組經組態以：應用一預界定最佳實務假設產生器以產生該假設清單中之至少一個假設；應用一隨機假設產生器以產生該假設清單中之至少一個假設；及應用一主題內容專家(SME)假設產生器以產生該假設清單中之至少一個假設，其中該SME假設產生器係藉由一SME設計以基於該監督式影像分類任務之一或多個參數產生假設之一電腦程式產品。
14. 如請求項12之AI系統，其中該規劃模組經組態以基於與該監督式分類任務相關聯之一先前假設集判定該假設清單。
15. 如請求項14之AI系統，其中該規劃模組經組態以藉由應用該強化學習演算法判定該假設清單，其中該強化學習演算法利用該先前假設集。
16. 如請求項12之AI系統，其中該假設圖表包括一父節點，其由一或多個定向邊緣分別連接至一或多個子節點，其中該父節點表示一抽象假設，其中該一或多個子節點中之每一者表示該抽象假設之一不同具體化，其中該規劃模組經組態以：回應於該父節點之一遍歷，執行與該抽象假設相關之一抽象計算；及 回應於遍歷該一或多個子節點中之一者，執行一具體計算；其中該所選擇假設係基於該抽象計算及該具體計算來選擇。
17. 一種具有一處理器之電腦化設備，該處理器經調適以執行以下步驟：獲得用以改良一分類模型之一指令，其中該分類模型用於一監督式影像分類任務；回應於該獲得，迭代地改良該分類模型之一模型效能量測，其中在每一迭代中改良該分類模型之該模型效能量測達至少一預定目標，其中該迭代地改良包括：判定一假設清單，其中該假設清單中之每一假設係關於用以潛在地改良該分類模型之一策略，其中針對每一假設判定一分數，其中一假設之該分數指示該假設之一應用改良該分類模型之該模型效能量測之一可能性；基於該假設清單及其分數，產生用於改良該分類模型之一假設圖表，其中該假設圖表之每一節點包括該假設清單中之一假設，且其中該產生該假設圖表包括應用一強化學習演算法，該強化學習演算法利用先前產生之假設圖表之一序列；自該假設圖表選擇一所選擇假設，其中該選擇係基於該假設圖表之一遍歷；執行該所選擇假設，藉此更新該分類模型並改良該模型效能量測達至少該預定目標；及基於該執行更新該強化學習演算法。
18. 一種電腦程式產品，其包括保持程式指令之一非暫時性電腦可讀儲存媒體，此等程式指令當由一處理器讀取時致使該處理器執行包括以下各項之一方法：獲得用以改良一分類模型之一指令，其中該分類模型用於一監督式影像分類任務；回應於該獲得，迭代地改良該分類模型之一模型效能量測，其中在每一迭代中改良該分類模型之該模型效能量測達至少一預定目標，其中該迭代地改良包括：判定一假設清單，其中該假設清單中之每一假設係關於用以潛在地改良該分類模型之一策略，其中針對每一假設判定一分數，其中一假設之該分數指示該假設之一應用改良該分類模型之該模型效能量測之一可能性；基於該假設清單及其分數，產生用於改良該分類模型之一假設圖表，其中該假設圖表之每一節點包括該假設清單中之一假設，其中該產生該假設圖表包括應用一強化學習演算法，該強化學習演算法利用先前產生之假設圖表之一序列；自該假設圖表選擇一所選擇假設，其中該選擇係基於該假設圖表之一遍歷；執行該所選擇假設，藉此更新該分類模型並改良該模型效能量測達至少該預定目標；及基於該執行更新該強化學習演算法。