200529095 九、發明說明： 【發明戶斤屬之技術領域j 發明領域 本發明有關一種使得有關一將輸入搜尋資料與數個參 5考資料比較來選出並輸出最相似參考資料的結合式記憶體 的參考資料辨識學習之參考資料辨識學習方法。另外，本 發明有關一種用以實現利用上述方法之參考資料辨識學習 的圖型辨識系統。 10 發明背景 在一圖型辨識系統中，圖型相配是在一辨識處理中的 一重大要素。一種利用處理器作為一基礎所實現的模型是 最常見於一傳統系統，該模型用連續將輸入圖型資料與數 個儲存於記憶體之參考資料比較以偵測最相似的參考資料 15 之方法。然而，該模型所用之方法具有以下問題。連續比 較係需要的；由於此原因，需要許多處理時間。此外，該 處理時間與比較資料之數量增加成比例地增加。該參考資 料被連續比較；由於此原因，無任何學習概念存在於比較 順序之更換與新參考資料的登錄。因此，並未獲得藉由學 20 習來縮短該處理時間的效果。 圖型辨識與學習是增進一具有相同於人腦能力的人工 智慧系統所必需之功能。由於此原因，利用積體電路來實 現上述功能技術上是非常重要的。神經網路被用於目前爲 了實現圖型辨識與學習功能所提出之方法中最多（例如，見 200529095 , 文件1)。然而，根據利用神經網路的方法，無任何有效儲 存圖型的更好方法。由於此原因，圖型資訊必須被獲得於 該網路結構。爲了使該網路學習在已完成網路學習之後做 到新圖型辨識，重新學習最近被要求於整個網路。於是， 5學習同時做_識處理是困難的。最近，藉由利用神經網 路之硬體來實現辨識功能之方法開發係晚於起出所預期 的。由於這些原因，在實現神經之整合與功率消散之觀點， 一神經網路LSI是困難的。由於此原因，想要提供一種藉由 有效結合記憶體tl件之傑出且新的硬體來實現辨識功能之 10 方法。 考慮到上述環境，一具有完全平行結構之簡潔與高速 的結合式記憶體之研究與開發（例如，文件2至7)近來已完 成，所提出的是，利用上述結合式記憶體來圖型相配。該 結合式記憶體具有最小距離搜尋功能，其是實現辨識功能 15的一重要要素。該結合式記憶體利用類比數位合成及完全 平行處理能做到在搜尋資料與每一參考資料之間的比較。 於疋，遠結合式§己憶體具有吸引的特殊興趣，因為實現高 速圖型相配被期望。 然而，在利用上述結合式記憶體作為基礎之圖型辨識 20系統中，未建立一辨識新參考資料的有效學習方法。由於 此原因，相當多的時間被花費在增加或取代參考資料。 參考資料： [文件 1] Iwata 及 Y· Amemiya， u Neural network LSI ’ Denshi Joho Tsmishin Gakkai，1995。 200529095 [文件 2] Η· J. Mattausch 等，“Compact associative-memory architecture with fully-parallel search capability for the minimum Hamming distance” ，IEEE Journal of Solid-State Circuits，vol. 37 o 5 [文件 3] H. J· Mattausch 等，“Fully-parallel pattern-matching engine with dynamic adaptability to Hamming or Manhattan distance” ，2002 Symposiums on VLSI circuit Dig of Tech. Papers，ρρ·252-255，2002。 [文件 4] H. J· Mattausch 等，“ An architecture for 10 compact Associative Memories with Deca-ns Nearest-Match Capability up to Large Distance” ，ISSCC Dig of Tech· Papers，pp.170-171，2001。 [文件5]曰本專利申請案第2002-008783號（曰本專利 申請案KOAKI公開第2002-288985號）。 15 [文件6]曰本專利申請案第2002-159436號（曰本專利 申請案KOAKI公開第2004-005825號）。 [文件7]日本專利申請案第2002-165769號（曰本專利 申請案KOAKI公開第2004-013054號）。 【名务明内】 20 發明概要 如以上所述，辨識新近增加的夢考資料之學習方法不 被建立於利用該結合式記憶體來完成高速相配的傳統圖型 辨識系統。由於此原因，相當多的時間係花在學習參考資 料辨識。 200529095 本發明的目的係提供—括4 種荃考資料辨識學習方 能自動學習新參考資料辨 - 而在一相對紐時間圖型相 配。本發明的另一目的係裎 竹如供一種圖型辨識系統其能 利用上述方法之圖型辨識所花費的時間。 — 旦 根據本發明的一觀點，想 徒供有_種有關一將輪 資料與數個參考資料比較來、竖山 别入技+ 罕乂來選出並輪出最相似參考 結合式記憶體之實現參考可貝討的 學習方法，包含步驟有： 貝寸+辨識 10 15 排序給予步驟，係將―對應_優先獅序給予儲 於該結合式記憶體的數個參考資料· · 一選擇步驟，係每次當該搜尋資料被輸人則貞測—相 似度時將該搜尋資料與料數個參考資料比較並選擇— 具有最南相似度的參考資料； 一識別決定步驟，係蚊賴尋f料與由該選擇步驟 所選出的蒼考資料從它們的相似度來看是否彼此—致；及 一排序控制步驟，係當在該識別決定步驟中決定出二 者貧料一致時，將該對應的參考資料的排提升一預定數同 時放回其它參考資料的排序、並#在該朗歧步驟中決 定出二者資料不一致時，將該搜尋資料登錄到該參考資料 的一預定排序同時放回等於或低於該排序之其它參考資料 的排序。 ^ 根據本發明的另—觀點，提供有一種用以自數個參考 資料選出一最相似於一輪入圖型之搜尋資料的參考資料以 辨識該輸入圖型的圖型辨識系統，包含有： 20 200529095 一結合式記憶體包含：至少參考資料記憶體裝置用以 儲存辨識該輸入圖型之搜尋資料的數個參考資料；最小距 離搜尋裝置用以自該等數個參考資料中搜尋一具有有關該 搜哥貧料之最小距離的蒼考貢料，及一識別決定裝置用以 5 根據該最小距離是否多於一臨界值的結果來決定該搜尋資 料與具有該表小距離之蒼考貢料的識別， 排序控制裝置，用以管理儲存於該結合式記憶體的數 個參考資料以給予一對應每個參考資料之優先權排序；及 學習控制裝置，用以控制該排序控制裝置以至於當識 10 別決定步驟決定出該搜尋資料與該參考資料一致時，該排 序控制裝置提升該參考資料的排序同時放回其它參考資料 的排序、並控制該結合式記憶體與該排序控制裝置以至於 該結合式記憶體儲存該對應的搜尋資料作為新參考資料且 以至於當判斷出該搜尋資料與該參考資料不一致時，該排 15 序控制裝置將該新參考資料之排序設定到一初始值同時放 回等於或少於目前排序之其它參考資料的排序。 本發明之附加目的與優點將被提出於以下之說明、並 在某種程度上將顯而易見於說明、或可藉由本發明之實施 來學習。本發明之目的與優點可利用在下所特別指出的手 20 段與結合來實現並獲得。 圖式簡單說明 該等附圖，其係包含在並構成說明書的一部分，說明 本發明之實施例、並連同以上所給予之一般說明以及以下 所給予之該等實施例的詳細說明，可以解釋本發明的原理。 200529095 第1圖是一方塊圖顯示如同應用有一根據本發明之方 法以結合式記憶體為主之圖型辨識系統的一個範例所給予 的影像辨識系統之結構； 第2圖是一概念圖顯示根據本發明中短項記憶體與長 5 項記憶體的實現一學習功能之狀態； 第3A、3B及3C圖係說明當應用一最小距離搜尋結合式 記憶體到本發明的一辨識系統時的辨識學習之輪廓圖型辨 識； 第4圖是一流程圖說明根據本發明的一辨識學習演算 10 法1之程序； 第5圖是一圖說明第4圖所示之辨識學習演算法1的短 項記憶體與長項記憶體； 第6A、6B及6C圖係顯示根據第4圖所示之辨識學習演 算法1的排序狀態圖； 15 第7圖是一流程圖說明根據本發明的一辨識學習演算 法2之程序； 第8A、8B、8C及8D圖係顯示根據第7圖所示之辨識學 習演算法2的排序狀態圖； 第9圖是一流程圖說明根據本發明的一辨識學習演算 20 法3之程序； 第10A及10B圖係顯示根據第9圖所示之辨識學習演算 法3的排序狀態圖； 第11圖型辨識是一圖型辨識顯示用以證實該等辨識學 習演算法1至3之功效的模擬估算； 10 200529095 第12A、12B及12C圖係顯示以上模擬結果，即學習圖 型的數量與分別在學習演算法1至3的學習速度之間的關係 圖； 第13圖是一方塊圖概要顯示根據本發明用以實現以結 5 合式記憶體為主的辨識學習演算法之結構規劃； 第14A及14B圖是方塊圖顯示用以實現第13圖所示之 排序電路之結構的硬體規劃； 第15圖是一方塊圖顯示一準備作為一樣品之測試晶片 的詳細結構， 10 第16圖是一圖顯示一僅包含第15圖所示之自動學習控 制電路與排序電路的測試晶片； 第17圖是一圖顯示内建有第15圖所示之所有電路的一 測試晶片之佈局；及 第18圖是一顯示該測試晶片的不同特徵之表。 15 方包方式】 較佳實施例之詳細說明 本發明有關一種參考資料辨識學習方法以及一種根據 上述方法之圖型辨識系統。根據上述方法與系統，一結合 式記憶體被用來搜尋（取回）具有賦予至數個參考資料的每 20 一個之取回資料的最小距離。該結合式記憶體比較有關該 最小距離資料（“勝利者”）之搜尋資料的相似度。之後，該 結合式記憶體決定該搜尋資料是否被視為是一致的。若決 定出該搜尋資料是不同的，則該搜尋資料被辨識並學習為 新參考資料（資料覆寫係有關已存在的參考資料來實行）。另 200529095 一方面，若該參考資料被辨識為一致，則該參考資料完全 不會是搜尋資料學習中的覆寫目標、並然後被儲存達一段 較長期間。如同自上述解釋所了解，該結合式記憶體具有 自動學習新搜尋資料與經常使用的參考資料之功能。 5 所謂“管理的”學習神經網路外部上具有有關學習速 度的獨特問題。然而，根據以結合式記憶體爲主之方法， 要被學習之資料只被寫入記憶體中。換言之，即使人不教 示有關輸入之正確輸出，不像“非管理的學習”，自動學 習經常給予之資料是有可能的。於是，上述“非管理的學 10 習”是可能的。新資料被學習同時任何資料必須自已儲存 的資料刪除。然而，充分學習之資料被優先儲存不會被刪 除(取消）達一長時間。於是，本發明用一種模仿人類記憶體 模型諸如長項記憶體與短項記憶體之演算法。 完成本發明的最好模式係將參考以下該等附圖來說明 15 在下。 第1圖是一方塊圖顯示如同應用有一根據本發明之方 法以結合式記憶體為主之圖型辨識系統的一個範例所給予 的影像辨識系統之結構。 在該影像辨識系統中，一影像輸入部分11捕獲一影 20 像、並且一校正處理部份12除去雜訊成分。之後，一特徵 擷取部分13擷取該輸入影像之特徵圖型，一搜尋部分14從 先前登錄於一資料庫15之數個參考圖型（參考資料)搜尋對 於該特徵圖型（輸入資料）罪相似的圖型。若對應的參考圖型 被搜尋，則一辨識部分16辨識出該輸入影像是一具有參考 12 200529095 圖型之已知影像、並將該結果送至一輸出部分17諸如一顯 示器裝置。 在該上述系統中，搜尋部分14、資料庫15及辨識部份 16係利用一結合式記憶體a來實現。該結合式記憶體a具有 5將資料寫入到給予之位址並讀取該位址資料的一般R A Μ功 能。除了該功能以外，該結合式記憶體Α具有從記憶體搜尋 對於該給予資料最相似的資料（具有最小距離)之功能。 在遠系統結構中，爲了提升辨識效率，用以搜尋之學 習演异法是必不可少的。特別是，該搜尋被完成；因此， 10若存在無任何相似參考圖型，則登錄一新參考資料、並學 習該先參考圖型之辨識是必要的。 由本發明所提出之辨識學習演算法以以下方法實現學 習。更明確地，不存在於該結合式記憶體之參考資料(樣板） 之資料被g時儲存於一短項記憶體區域而經常給予之資料 15被儲存於一長項記憶體區域。簡言之，該辨識學習演算法 係根據人腦的長項與短項記憶體的概念。第2圖 顯示根據短 項記憶體與長項記憶體來實現一學習功能之狀態。在第2圖 中，垂直軸(縱座標）顯示記憶體的等级、並且上側為一長項 。己隱體區域(用來儲存一長項資料)而下側為一短項記憶體 20區域(用於暫時記憶體）。當-新輸入資料被給予時，該輸入 資料被登錄至該短項記憶體區域的最重要排序。然後，該 新輸入貝料係藉由根據與搜尋資料之相配數量之學習效果 來五錄至忒長項記憶體區域。當該新資料被輸入且登錄 1最不重要的排序資料被ifS (被抛棄）。 13 200529095 當一最小距離搜尋結合式記憶體被應用至該辨識系統 時的辨識學習輪廓將參考第3A至第3C圖而在下說明。 第3 A圖顯示當無參考資料存在於記憶體時的辨識及 果、及第3B圖顯示當蒼考資料错由學習新近被登錄時的辨 5 識結果。 該最小距離搜尋結合式記憶體被應用至該辨識系統。 在此情況下，若無對應輸入(搜尋）資料之參考資料存在於記 憶體，則該結合式記憶體偵測具有該最小距離之資料作為 勝利者。例如，如第3A圖所示，“3”作為輸入資料被輸入 10 至該結合式記憶體，其儲存字元資料“A”、“B”、“C” 及“D”作為參考資料。在此情況下，僅簡單地從該最小距 離搜尋結果判斷，該輸入資料“3”被辨識為“B”。然而， “3”與“B”間之距離實際上具有遠關係；由於此原因， “3”與“B”應被看待為不同資料。 15 根據本發明，以下學習被完成。更明確地，該輸入資 料與該勝利者之間的距離(輸入資料_勝利者距離)被計算、 並且之後，該計算的距離係與一臨界值比較。若該距離小 於该g品界值，則被決定為相配。另一方面，若該距離多於 瀘臥界值，則被決定為不相配。優先權係給予儲存於該結 20合式記憶體的每一參考資料、並且被視為不相配之輸入資 料新近被儲存作為代替具有低優先 權之參考資料的參考資 料右4輸入貧料被視為相配，則該對應的參考資料辨識 ,優先權被提升。例如，如自第3B1K學習前)與第3C圖（學 白後)所了解，被視為不相配之輸入資料“3”新近被儲存 14 200529095 作為代替具有低優先權之參考資料“c”的參考資料。每當 該輸入資料“3”被視為相配時，該參考資料的優先權被提 升。以上所述之學習被完成，並因此，當該資料“3”接著 被輸入時，該輸入資料“3”被正確地識別為“3” 。 5 如之前所述，本發明之學習方法(在下，參考為學習演 算法）具有以下特徵。不存在於參考資料（等效於資料庫）之 資料被暫時儲存、並且經常給予之資料被學習。藉由如此 做法’等效於人腦之短項與長項記憶體之處理被實現。藉 由記憶體為主之結構的學習演算法使能夠在該神經網路貧 ίο 乏時一次寫入學習。 /充刀W練的神經網路做到有關僅新資料的一次
寫入學習疋困難的。因为* J〇.L A 口為’教師資料係賦予一用以記住先 前學習之資料的網路，祐 並且之後，有需要從開始做到在學 習上的重新校正。如以上 上所返，上述學習需要教師資料。 15 相反地’根據以記彳咅辦炎+ 、體為主之學習方法，若僅新資料被寫 ^記㈣’則學能的。於是，根據本發明之學習 “法；^有可此自動學習具有高頻率之資料而不需教師 資料。因此’許多聰明的應用是有可能的。此處，三種利 用該結合式記憶體之辨識學習演算法被提出。 2〇 (辨識學習演算法υ 第4圖疋說明根據本發明的—辨識學習演算 法1之程序。 —如W4®所見，在料⑷中，當資料被輸人時，在輸 入資料與每一參考資料夕η 貝7寸又間的一距離（例如，漢明距離、曼 15 200529095 =頓距離、歐基里得距離)被計算。具有該漢明距離之參考 資料被偵測為勝利者。 在程序⑼中，在輪入資料與勝利者之間的_距齡被 評估’並且之後，決定出該距_是否是少於或多於該臨界 5 值。 在程序⑷中，若輸入資料與勝利者之間的距離D少於 該臨界值，則被仙為勝利者之參考資料被視為與該輸入 資料相配。然後，顯示該參考資料優先權的排序被提升。 在此情況中，該排序的上位㈣出現為長項記« 1〇另-方面，該排序的下位置係出現為短項記憶體㈣。债 測為勝利者之參考資料排序的提升寬度在該短項記憶體中 為JS而在該長項記憶體中為JL( Js < ^。 在程序⑷中，若輸入資料與勝利者之間的距離d多於 該臨界值，則被偵測為勝利者之參考資料被視為是異於該 15輸入資料的資料。然後，該輸入資料被作為新參考資料被 寫入至該結合式記憶體。在此情況下，新近被學習作為參 考資料之輸入資料被儲存作為該短項記憶體之排序的最上 · 位置，該短項記憶體之其它參考資料的排序被降低。因此， 學4鈾孩最下位置的參考資料被删除（輸入資料被覆寫至 20 該結合式記憶體中的位址）。 該辨識學習演算法1之短項記憶體與長項記憶體將參 考第5圖在下說明。 第5圖顾示一給予儲存於該結合式記憶體之參考資料 排序的狀態。此處，該結合式記憶體具有參考資料最大記 16 200529095 憶體數字=64。在該結合式記憶體中，上排序1到4〇被館存 作為該長項記憶體的參考資料而下排序41到64被儲存作為 該短項記憶體之參考資料。 该短項記憶體意謂一遺忘每當新資料被學習時已儲存 5 之資料的暫時處理之記憶體。相反地，不像該短項記憶體， 該長項記憶體意謂著當新資料被學習時不會接收該影響， 記憶體係持續用於一相對長項。 第6 A圖與第6 B圖顯示上述辨識學習演算法1中該裎序 (c)的情形。更明確地，第5圖中所排列的參考資料被儲存於 10 5亥結合式s己憶體’並且精由該結合式記憶體之最小距離搜 尋被完成。因此，在輸入(搜尋）資料與勝利者之間的距離D 係少於該臨界值。第6C圖顯示上述辨識學習演算法1中該程 序(d)的情形。更明確地，第5圖中所排列的參考資料被儲存 於該結合式記憶體，並且藉由該結合式記憶體之最小距離 15 搜尋被完成。因此，在輸入(搜尋）資料與勝利者之間的距離 D係多於該臨界值。 如第6A圖所描述，當參考資料39是勝利者時，該排序 39屬於該長項記憶體。該勝利者（參考資料39)之排序被提升 Jl (Jl == 5);因此’它被設為排序34。在此情況中，排列等 2〇 於或低於該舊排序34的參考資料被連續地放回。因此，參 考資料是排序34到39被改變。 如第6B圖所描述，當參考資料63是勝利者時，該排序 63屬於該短項記憶體。該勝利者（參考資料63)之排序被提升 Js (Js= 3);因此，它被設為排序60。在此情況中，排列等 17 200529095 於或低於該舊排序60的參考資料被連續地放回。因此，參 考資料是排序60到63被改變。 如第6C圖所見，當輸入資料與勝利者之間之距離多於 該臨界值時，被偵測為勝利者之參考資料被視為是異於該 5 輸入資料的資料。然後，該輸入資料作為新參考資料被小 入到該結合式記憶體 。在此情況下，新近被學習為參考資料的輸入資料被 儲存於該短項記憶體的最上排序41。於是，該短項記憶體 的其它參考資料之排序被放回。因此，學習前該最下位置 10的參考資料被刪除（輸入資料被覆寫至該結合式記憶體中 的位址）。 根據該辨識學習演算法1，該參考資料之記憶體每當辨 識被完成時（即，排序被提升）變得強大。另一方面，不具任 何辨識之參考資料的記憶體變弱（排序被降低）。因此，以下 15操作被實現；更明確地，經常使用之的資料係難以被遺忘 而幾乎無用之資料被遺忘。因此，是有可能提高辨識效率、 並有效地使用具有有限的記憶體容量之硬體資源。 (辨識學習演算法2) 第7圖是一流程圖說明根據本發明的一辨識學習演曾 20法2之程序。在第7圖中，相同的參考數字被用來指示完全 相同於第4圖的部分、並且重複的說明被省略。 根據該辨識學習演算法2, 一程序(c)包含以下步驟(cl) 至(c4)。更明確地，係決定出勝利者是否是長項或短項記憶 體(cl)。若決定出該勝利者是短項記憶體，則決定該勝利者 200529095 作為短項記憶體之次數是否大到一預定次k被決定(c2)。若 該次數未達該預定次k，則該勝利者被看待為短項記憶體 (c3)。若該次數達到該預定，則該勝利者被儲存域一任 意排序作為長項記憶體。 5 換言之，該辨識學習演算法2具有以下所賦予之特徵。 該預定次k的辨識(搜尋資料=勝利者)被要求於該短項記憶 月且以使得從被決定為短項記憶體之該短項記憶體到該長項 5己憶體之轉移。當k次的辨識被完成時，該勝利者係從該短 項記憶體轉移到該長項記憶體的一任意排序。根據上述辨 · 1〇硪學習演算法1，該勝利者之排序被提升JL或Js。相反地， 根據該辨識學習演算法2，當該辨識少於k次時，該排序被 轉移至該勝利者之記憶體區域的最上位置。於是，當比起 °亥紐項記憶體，儲存於該長項記憶體之資料係難以被遺 忘，像該上述辨識學習演算法i。 第8A圖至第8D圖其每一圖顯示該辨識學習演算法2的 程序。附帶地，排序與參考資料之間的關係是同於第5圖型 辨識。 β 第8Α圖顯示輸入(搜尋）資料與勝利者之間的距離少於 該臨界值的情況；因此，該輸入(搜尋）資料被視為勝利者。 在此情況下，該勝利者為參考資料63、並屬於短項記憶體。 於是，該勝利者之排序被提升至該短項記憶體的最上位置 (即，排序41)。因此，舊排序41至62之參考資料的棑序被連 績地放回。 第8Β圖顯示輪入(搜尋）資料被視為有關一參考資料之 19 200529095 勝利者、及一將該排序提升至該短項記憶體的最上位置 操作係經由該預定次(k次）完成的情況。在此情況 △ 考資料係自該短項記憶體轉移至一出現於該長項 / 被連續地放回。 排序（即’排序20)。同時，舊排序2〇至62之參考資料的排序
第8C圖顯示輸入(搜尋）資料被視為有關一參考資料 勝利者、並且該勝利者屬於該長項記憶體的情況。二此^ ，中，該勝利者是參考資料39、並屬於該長項記憶體。二 是’該勝利者之排序被提升至該長項記,_體的最上位置 10 (即’排序υ。因此，舊排和㈣之參考資料的排序被連續 地放回。 第8D圖顯示輸入(搜尋）資料與勝利者之間的距離係多 於該臨界值的情況；因此，該輸入(搜尋）資料不被視為勝利 者。在此情況下，該搜尋資料被儲存於該短項記憶體之排 15序的最上位置（即，排序41)。另一方面，處理前該最下位置 (即’排序64)的參考資料被刪除。
(辨識學習演算法3) '第9圖是-流程圖說明根據本發明的一辨識學習演算 法3之裎序。在第9圖中，相同的參考數字被用來指示完全 2〇相同於第4圖的部分、並且重複的說明被省略。 該辨識學習演算法3具有以下所賦予之特徵 。更明確 。為排序未被劃分成短項與長項記憶體(無對應第4圖之 轾序(=之步驟）。在程序⑷中，當學習新資料時(輸入轉 利者)日寸，摘貢料被_存於該最下位置之資料位址，並且 20 200529095 該貧料之排序被提升至最上位置。在此情況下，其它資料 之排序被一個一個地降低。在辨識中（輸入=勝利者），該勝 利者被轉移至該排序的最上位置而存在於這些排序之間之 資料的排序被一個一個地降低。在新資料經常出現的環境 5下，所有參考資料立刻被覆寫。 弟10A圖至苐ιοΒ圖其每一圖顯示該辨識學習演算法3 的程序。附帶地，排序與參考資料之間的關係係同於第5圖。 第10A圖顯示輸入(搜尋）資料與勝利者之間的距離〇是 多於該臨界值的情況；因此，該輸入(搜尋）資料不被視為勝 參 10利者。在此情況下，根據該辨識學習演算法3，該輪入(搜 哥）資料被儲存作為排序1而該最低排序之參考資料64被刪 除(程序(d)’）。 第10B圖顯示輸入(搜尋）資料與勝利者之間的距離D是 少於該臨界值的情況；因此，該輸入(搜尋）資料被視為勝利 15者(=參考資料63)。在此情況下，根據該辨識學習演算法3， 被視為勝利者之參考資料63被提升至排序1而不管該勝利 者之排序。另一方面，處理前存在自舊排序丨至63的每一參 · 考資料之排序被一個_個地降低(程序(e))。 爲了證實上述辨識學習演算法1至3的有效性，藉由c 20程式語言之模擬被準備，並且之後，已做出第11圖所示的 一操作位準模擬。所準備的是一結合式記憶體，其能夠儲 存30個圖型每一個具有256位元的參考資料。如第u圖所描 述，該結合式記憶體先前儲存30種的字元位元圖資料作為 荟考資料。3〇個參考資料中的上排序2〇(Nl)被設為長項記 21 200529095 憶體而剩下的排序1〇(Ns)被設為短項記憶體 根據該演算 :於辨 在上述演算法1至3中，給予不同的參數。 法1 ’當勝利者=長項記憶體時該排序提升寬度】 5 10 識被設定到5而當勝利者=短項記憶體時該^提升宽产 Js被設定到3。根據該演算法2，對於從短項
長項記憶料次辨識被設” 2，並且於轉移的排序 變化被蚊幻4。㈣雜算法2，不存在財考資料之搜 尋資料被儲存作為解i。以下Μ圖資料(雜期型)被輸 入至該結合式記憶體。在該位元圖資料(雜訊圖型)中，2〇 種不存在於參考資料_字母位元圖資_用來作為輸入 資料’並且256個位元中的每個位元任意地被設制“〇” 或“Γ。辨解習被完成，並且之後，係證實纖字母是 否最終被學習。
在此情況下，輸入資料係以以下方式來產生。首先， 15決定出所給予之資料是否是字元資料或雜訊資料。若給予 之資料是字元資料，則該字元資料係自2〇個字母中選出。 當雜訊資料被選擇時，雜訊資料在被任意產生後被輸入。 子元資料與雜汛資料之選擇機率是相同的。在此方式下， 輸入資料係根據上述方法給予。第12Α圖至第12C圖顯示被 20學習作為長項記憶體（上排序2〇參考資料）之新字母資料數 量以及對於上述學習所需之搜尋次數的模擬結果。 第12A圖顯示該演算法3之情況。根據該演算法3，該雜 sfl圖型被學習作為排序卜因此，新資料的影響：完整無缺 地給予雜訊資料=1 : 1。 22 200529095 5 10 15 第12B圖顯+ # 、、“馮鼻法2之情況。根據該演算法2,當被 學習的資料數量姆Λ 一 攸 曰ϋ(4>苔資料減少）時，花費於學習的時間 變多:广而’財新資料最後被學習。 ，第、圖’h 4演算法1之情況。根據該演算法1，資料 被學習為短項記憮髀# 、 豆象μ ’幾异法2，由於此原因，該雜訊圖 型係位儲存於該县馆—& M 貝记fe體。比起該演算法2導因於對該長 項減體之轉移條件的差異，所_資料被迅速學習。 、°果根據4演算法3，不存在於參考資料之搜尋資料 被儲存於該派排庠〗。a#、 ^ § 5亥初始茶考資料被刪除以至於該搜 :貝料將^推m排序（包含雜訊資料)時，新資料與雜訊 貝料在1 · 1的比例下被儲存於該參考資料。 5亥寺浪异法1與2不同於該演算法3在於它們具有-在 短項兵長項讀、體之間的轉。崎人資料先被儲存於該 短項。己It體’並且之後經由與該短項記憶體中的搜尋資料 相配被轉移至該長項記憶體。於是，不相配資料諸如雜訊 圖型未被儲存於該長項記憶體。因此，僅新資料被學習為 排序1至2〇。換tn該*考資料未受雜訊影響從該長項記 憶體被刪除。
第13圖是一方塊圖說明用以實現以結合式記憶體為主 20的辨識學習演算法之結構規劃。該結構係由三個方塊所組 成，即，用以完成該最小距離搜尋之結合式記憶體1〇〇、排 列處理電路200以及自動學習控制電路3〇〇。 以下記憶體係可用為該最小距離結合式記憶體1〇〇。根 攄目前由發明者所開發的一數位/類比結合電路，它是一完 23 200529095 全平彳丁的mu曼哈頓_臾尋（見文件⑴）。根㈣ 結構’是需要輸人資料與勝利者之間的距離〇。由於此原 因，該上述結合式記憶體係額外提供—距 1 數位計算該距離D。 5 10 15 該排列處理HI路2轉存該結合式·體中對應节 參考資料之位址、並做出該排序程序用以實現第3圖至第 1 圖所速之短項記憶體與長項記憶體。該排列處理器電路細 具有弟14A圖與第14B圖所示的_結構。
第14A圖顯示用以處理64個參考資料之排列處理哭電 路的結構。該洲纽H1路係讀_輕組做出^級 連結的方式來形成，該排序模組係由D型正反則卿)斑一 用以決定該DFF之輸入-輸出的三態緩衝器（tbuf)所組 成。在此情況下’ 64個DFF被垂直地配置(在該行方向）而六 個D F F對應6 4個參考資料地被水平配置(在該列方向）。每一 DFF的輸入-輸出係連接有該三態緩衝器。
每列的DFF儲存在該結合式記憶體1〇〇的參考資料位 址（6個位元）’並且排序丨至64係連續從上述給予DFp。該三 態緩衝器具有三類： ⑴（TBUF-A)將該DFF之輸出連接至一連接到一匯流 20 排之線； (2) (TBUF-B)利用該匯流排作為輸入、並將一信號輸 出至該DFF的輸入；及 ⑶（TBUF、C)將該DFF之輸出連接至下一個DfF的輸 入0 24 200529095 該TBUF-A與TBUF-B做出在提升該排序時的參考資料 的一位紙路徑；另一方面，該TBUF_C做出一資料路徑用以 放回該排序。例如，爲了實現第6B圖所示之操作，控制信 號a[63] ’ b_ ’ c_ ’ c[61]Ac[62]係轉變到開狀態以控 5制TBUF，並目此，DFF的時脈信號_〇]至啦63]被輸入， 如第14B圖所描述。藉由如此做*，依照第14β圖之箭頭所 是之資料流動被實現。 該排列處理器電路200做出以上所述之操作，該自動學 習控制電路300在所有DFF列當中搜尋一與來自該結合式 修
10記憶體之搜尋結果(勝利者位址）相配之DFF相配列。然後I 該控制電路300獲得勝利者的排序以控制該排列處理器電 路200之排序安排序。在此情況下，第15圖詳細所示之結構 j-完全相配電路⑽獲得勝利者之排序(勝利者之排序°係 藉由搜尋-將儲存於排列處理之參考資料位址與勝利者位 15址相配之列而發現）。該完全相配電路120係包含如主要分 成三個區塊之結構之該自動學習控制電路中的一部分。附 π地’如。异法之域is之值與長項及短項記憶體的數| _ 被任意設定。 該自動學習控制電路3〇〇控制結合式記憶體1〇〇與排列 2〇處理器電路2〇〇，該控制電路3〇〇，根據輸入資料與勝利者 之間的距離D，從該結合式記憶體1〇〇的搜尋結果來產生言亥 排列處理器電路200的控制信號。若該距離D多於該臨界值 (第6C圖的新學智情況則該控制電路，除了該排列處 理器電路2〇〇的控制外，控制該結合式記憶體1〇〇。在此其 25 200529095 況下，該控制電路3〇〇做出控制以至於該結合式記憶體l〇〇 將輸入資料寫入到該最下排序之參考資料。 如上述，該自動學習控制電路300根據所給予之資訊來 控制結合式記憶體1〇〇與排列處理器電路2〇〇。該資訊飾演 5 异法的參數Jl，Js、臨界值、參考資料中的短項記憶體數量、 自該結合式記憶體100的搜尋結果以及搜尋資料與勝利者 之間的距離。 第15圖顯示一實際準備之測試晶片的詳細結構。該結 合式記憶體100包含記憶體區塊1〇1、最小距離搜尋電路 10 1〇2、搜尋資料保留電路103、列解碼器1〇4及RW/行解碼器 /距離計异器電路105。包含SRAM之内部記憶體區塊1〇1儲 存參考資料’並且用於最小距離搜尋之資料被輸入至該搜 尋資料保留電路103。該結合式記憶體具有一内建電路 用以直接計算輸入資料與該記憶體區塊之特定資料之間的 15 距離，該電路1〇5係用來計算演算法所給予之距離d。 該結合式記憶體100係額外設有一優先權編碼器H〇， 該優先權編碼器完成用以在勝利者為數個時選出一個的優 先權編碼、並輸出6位元的勝利者位址。 該排列處理器電路200是第14A圖與第14B圖所述的一 20電路、並完成參考資料的排序操作，其是自動辨識學習演 算法的核心。 該完全相配搜尋電路200搜尋與該排列處理器電路200 之每一參考資料的位址完全相配的優先權變碼器110之輸 出的勝利者位址以獲得勝利者的排序。一第一比較器310將 26 200529095 勝利者之排序與依照外部參數所給予之短項與長項記憶體 之間的邊界排序比較、並且之後決定該勝利者是否屬於短 項°己匕體或長項記憶體，一第二比較器320將該距離計算電 路所叶异之距離〇與外部給予的臨界值⑴^之比較結果送至 5 一控制電路33(3，一第一選擇器130將來自該結合式記憶體 的64個輪出分成八個部分、並之後將它們從一晶片輸出， 一第一選擇器340根據該第一比較器310的輸出結果來決定 在辨識的提升寬度是否應被設定狀或Js。 。亥控制電路33〇根據以下不同的操作模式來控制結合 10式區塊10〇與排列處理器電路2〇〇。一種是一記憶體模式 (RM) ’其是一普通記憶體模式用以讀取與寫入資料到該記 憶體區塊、另一種是一用以完成該最小距離搜尋的CAM模 式(CM)、另一種是一根據該最小距離搜尋操作的學習模式 (LM)。 15 具有上述結構規劃之測試晶片係利用在三層互相連接 之條件下的0.35-//m CMOS技術、4.9-mm正方形封裝及 3.3V的電源供應電壓來製作。能夠處理64個參考資料的一 5-位元X 16-單元曼哈頓距離搜尋結合式記憶體被設計為 根據完全慣例設計的結合式記憶體，該自動學習控制電路 20與該排列處理器電路係以以下方式形成。更明確地，設計/ 模擬係根據由硬體描述語言Verilog_HDL的暫存器轉換層 次(RTL)描述來完成，邏輯合成係利用具有標準晶胞庫再 20MHz的時脈頻率下的自動邏輯合成工具來完成，具有内 建結合式記憶體的整個佈局係利用一自動佈置與路由工具 27 200529095 來製作。 第16圖顯示一僅包含自動學習控制電路與排序處理器 電路的測試晶片、第17圖顯示包含第15圖所示之所有電路 的一測試晶片之佈局、第18圖顯示一說明該測試晶片的不 5同特U之表U吉合式記憶體在25〇nsec内完成該最小距離 搜尋，一自動學習電路操作在最大操作頻率166MHz(邏輯 閘層次模擬），該自動學習電路接收來自該結合式記憶體之 最小距離搜尋結果以及輸入資料與勝利者之間之距離〇以 便一#號用來產生在一個時脈排列處理。當學習輸入資料 10時，該自動學習電路產生一信號用來對該結合式記憶體資 料更新。 以上述方式來製作之晶片被使用，並因此該模擬測試 被完成；因此，所要的自動學習被實現。因此，本發明以 結合式記憶體為主的辨識學習演算法被利用，並因此是有 15可能實現一具有自動學習功能的積體電路。然而，對傳統 辨識學習系統用處理器或神經網路是不可能實現該自動學 習功能。從今以後，所期望的是圖型辨識學習每一圖型係 在數百nsec内獲得。 根據該實施例’該排序被分成兩個階層、並根據長項 20 §己丨思體與短項5己彳思體來管理。本發明並不限於上述實施 例，例如，排序的數量係任意給予，並且該排序係以優先 權的順序分成三個或更多記憶體階層。在初始登錄中，該 排序被設定至該短項記憶體之記憶體階層的一預定排序。 當“身分”係藉由身分決定來取得時，該排序在同一記憶 28 200529095 體階層中被提升。若一預定條件被滿足，則該排序被登錄 至該長項記憶體的上記憶體階層。當然，在上述多階層結 構中，像兩階層結構，僅當按照身分決定之上述“身分” 被預定時間取得時，於記憶體階層間之提升被完成。 5 本發明係可應用至人工智慧系統、自主機器人、認證 系統、侵入偵測系統(IDS)、圖型辨識系統等。 額外的優點與修是將容易地被熟之此技藝者所發現。 因此，本發明在其較廣的觀點下係不限於此所示及所說明 的特定細節與代表性的實施例。於是，在不脫離依照該等 10 依附之申請專利範圍與其等效所定義的總發明概念的精神 與範圍下，不同的修是可以達成的。 【圖式簡單說明】 第1圖是一方塊圖顯示如同應用有一根據本發明之方 法以結合式記憶體為主之圖型辨識系統的一個範例所給予 15 的影像辨識系統之結構； 第2圖是一概念圖顯示根據本發明中短項記憶體與長 項記憶體的實現一學習功能之狀態； 第3A、3B及3C圖係說明當應用一最小距離搜尋結合式 記憶體到本發明的一辨識系統時的辨識學習之輪廓圖型辨 20 識； 第4圖是一流程圖說明根據本發明的一辨識學習演算 法1之程序； 第5圖是一圖說明第4圖所示之辨識學習演算法1的短 項記憶體與長項記憶體； 200529095 第6A、6B及6C圖係顯示根據第4圖所示之辨識學習演 算法1的排序狀態圖； 第7圖是一流程圖說明根據本發明的一辨識學習演算 法2之程序； 5 第8A、8B、8C及8D圖係顯示根據第7圖所示之辨識學 習演算法2的排序狀態圖； 第9圖是一流程圖說明根據本發明的一辨識學習演算 法3之程序； 第10A及10B圖係顯示根據第9圖所示之辨識學習演算 10 法3的排序狀態圖； 第11圖型辨識是一圖型辨識顯示用以證實該等辨識學 習演算法1至3之功效的模擬估算； 第12A、12B及12C圖係顯示以上模擬結果，即學習圖 型的數量與分別在學習演算法1至3的學習速度之間的關係 15 圖； 第13圖是一方塊圖概要顯示根據本發明用以實現以結 合式記憶體為主的辨識學習演算法之結構規劃； 第14A及14B圖是方塊圖顯示用以實現第13圖所示之 排序電路之結構的硬體規劃； 20 第15圖是一方塊圖顯示一準備作為一樣品之測試晶片 的詳細結構； 第16圖是一圖顯示一僅包含第15圖所示之自動學習控 制電路與排序電路的測試晶片， 第17圖是一圖顯示内建有第15圖所示之所有電路的一 30 200529095 測試晶片之佈局；及 第18圖是一顯示該測試晶片的不同特徵之表。 【主要元件符號說明】 11...影像輸入部分 105 ...RW/行解碼器/距離 12·..校正處理部份 計算器電路 13...特徵擷取部分 110...優先權編碼器 14...搜尋部分 120…完全相配搜尋電路 15...貧料庫 130…第一選擇器 16...辨識部分 200…排列處理電路 17...輸出部分 300...自動學習控制電路 100...結合式記憶體 310…第一比較器 101...記憶體區塊 320···第二比較器 102…最小距離搜尋電路 330...控制電路 103.. .搜尋資料保留電路 104.. .列解碼器 340…第二選擇器 31