JP4083469B2

JP4083469B2 - 階層ネットワークを用いたパターン認識方法

Info

Publication number: JP4083469B2
Application number: JP2002152756A
Authority: JP
Inventors: ハイコ・ヴェージンク; エドガー・ケルナー
Original assignee: Honda Research Institute Europe GmbH
Current assignee: Honda Research Institute Europe GmbH
Priority date: 2001-05-28
Filing date: 2002-05-27
Publication date: 2008-04-30
Anticipated expiration: 2022-05-27
Also published as: US7308134B2; DE60130742T2; DE60130742D1; US20030002731A1; EP1262907B1; EP1262907A1; JP2002373333A

Description

【０００１】
【発明の属する技術分野】
本発明は、いくつかの特徴を有するパターンを認識する方法、階層ネットワークを訓練する方法、このような方法を実現するコンピュータ・ソフトウェア・プログラム、階層ネットワークを用いたパターン認識装置、及びパターン認識装置の使用に関する。
【０００２】
本発明は、パターン認識の分野において適用可能であり、この場合パターンは、光学、音響または他のデジタル表現可能な方法で与えることができる。
【０００３】
【従来の技術】
最初に、処理アーキテクチャの背景について説明する。収束的な階層符号化の概念においては、脳における感覚処理が階層的なステージ状に組織化され、各ステージでは上位のステージからの入力に依存した限定的かつ並列的な動作が実行されると仮定する。収束的な階層処理スキームは、恐らくは特定の視覚条件下において特定の物体が認識されているときにのみ発火する、いわゆる「おばあさん細胞（grandmother cell）」に至るまでに、より複雑化する特徴の組合せを保存する神経表現を形成するために用いられる。この種の階層符号化に対する主な批判は、様々な視覚条件の下で特定の物体を構成する特徴の組合せが非常に多数になるために、表現しなければならない可能性の組合せ爆発を起こしてしまうということである(von der Malsburg, C. (1999), “The what and why of binding: The modeler’s perspective”, Neuron, 24, 95-104)。
【０００４】
近年、このような組合せ爆発を回避して不変認識を実現する方法が提案されている。その主な考えは、階層ネットワークにおいて中間ステージを使用して同一の物体に対応する反応に対する高次の不変性を達成し、これによって組合せの複雑性を効率的に削減するというものである。
【０００５】
並進不変認識の初期モデルとしてネオコグニトロンを提案した福島の業績以来、階層における二つの主要な処理モードが強調されてきた。特徴選択的なニューロンは、通常局所的な特定の特徴に対して敏感に反応する。また、プーリング（pooling）ニューロンは、不変変換が刺激に適用される場合、連続して活性化される特徴選択的ニューロンに対し空間統合を実行する。Mel, B. W. & Fiser, J. (2000), “Minimizing binding errors using learned conjunctive features”, Neural computation 12(4), 731-762によって最近強調されたように、局所的特徴検出及び空間プーリングの結合ステージは、安定度と選択性のジレンマと呼ぶことのできるものに直面する。過度の空間プーリングは、画像変換の下で非常に安定した応答を持つ複雑な特徴検出器につながる一方、広範にわたる空間プーリングは多くの微弱な証拠を集め過ぎてしまい、偶然に現れる特徴を用いてしまう可能性が増加するので、検出器の選択性は大きく減少する。
【０００６】
概念的に魅力的であり神経生物学上も妥当と考えられる階層的なフィードフォワード認識概念の妥当性を示すには、十分に困難な現実世界の三次元不変認識問題への適用を成功させる必要がある。中心的な問題は、特徴検出及びプーリングの結合ステージを最適化する実行可能な学習方法の定式化である。人工的なデータについての見込みのある結果や、手書き文字認識の領域での非常に成功した応用例を除くと、三次元認識問題に対する応用例は例外的である(Lawrence, S., Giles, C. L., Tsoi, A. C., & Back, A. D. (1997), “Face recognition: A convolutional neural-network approach”, IEEE Transactions on Neural Networks 8(1), 98-113)。その理由の１つは、現実世界の画像の処理には、誤差逆伝播法のような標準的な教師あり学習方法の適用が通常不可能になるほどのネットワークサイズが必要となることである。階層における処理ステージは、勝者総取り（Winner-Take-All、以下ＷＴＡと呼ぶ）のようなネットワークによる非線形性を含むことができるが、同様の最急降下最適化は不可能である。階層ネットワーク内部の処理で非常に重要なのは、使用する符号化戦略である。重要な原則は、冗長度の低減、すなわち入力ストリームの要素間の統計上の依存性を低減する入力の変換である。Ｖ１細胞の受容野に似たウェーブレットのような特徴は、スパースで過完備な（overcomplete）表現を与えることによって(Olshausen, B. A.及びField, D. J. (1997), “Sparse coding with an overcomplete basis set: A strategy employed in V1”, Vision Research, 37, 3311-3325)、あるいは独立成分分析におけるように統計上の独立性を与えることによって(Bell, A. J.及びSejnowski, T. J. (1997), “The ‘independent components’ of natural scenes are edge filters”, Vision Research, 37, 3327-3338)、導出されてきた。これらの細胞は初期の視覚処理を実行するものであり、階層処理の初期ステージとされる。
【０００７】
生物学的ビジョンの理解から離れても、これらの機能的な原則は、技術的なコンピュータビジョンの分野に非常に適したものである。視覚における特徴検出について独立成分分析（ＩＣＡ）が議論されているにもかかわらず、不変物体認識の適用例において有用なものは、わずかしかない。「Bartlett, M. S. & Sejnowski, T. J. (1997), “Viewpoint invariant face recognition using independent component analysis and attractor networks”, In M. C. Mozer, M. I. Jordan」及び、「T. Petsche (Eds.), “Advances in Neural Information Processing Systems”, Volume 9, pp. 817, The MIT Press」は、姿勢不変及び分類性能の点に関しては、顔認識に対する独立成分分析表現は主成分分析（ＰＣＡ）ベースの表現よりも優位にあることを示した。
【０００８】
次に、パターン認識のための階層ネットワークの使用について説明する。
【０００９】
認識問題への適用における本質的な問題は、階層において情報変換に使用する符号化原理の選択と、不変性という条件下で物体を表現するのに最適な局所的特徴表現の選択である。この両方の特性は独立してはおらず、所望の目標に到達するためには協調させる必要がある。その概念上の魅力にもかかわらず、深い階層ネットワークにおける学習は、依然としていくつかの主要な欠点をもつ。以下では、これまでに考えられた主要な方法の問題点について述べる。
【００１０】
福島による「”Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position”, Biol. Cyb., 39, 139-202」は、ネオコグニトロンとともに不変認識についての階層的処理の原理を導入した。これは、局所的テンプレートマッチング及び空間的プーリングの連続するステージに基づいている。ネオコグニトロンは教師なし競合学習によって訓練することができるが、手書き数字認識のような適用例では教師ありの手動訓練手順を必要とした。明らかに不利な点は、テンプレート・マッチングのための適当な手動による訓練パターンの選択に決定的に依存していることである（Lovell, D., Downs, T., 及びTsoi, A. (1997), “An evaluation of the neocognitron”, IEEE Trans. Neur. Netw., 8, 1090-1105）。学習ステージにおいて教師介入が必要であるために、今日まで三次元物体認識のようなさらに複雑な認識シナリオの訓練は実行不可能であった。
【００１１】
Riesenhuber, M.及びPoggio, T.(1999)による「“Are cortical models really bound by the “binding problem” ?”, Neuron, 24, 87-93」は、適当なプーリング動作を持つ階層ネットワークは組合せ細胞の組合せ爆発を回避できるという点を強調した。彼らは、ネオコグニトロンと同様のマッチングステージ及びプーリングステージを持つ階層モデルを提案した。主な違いは、ネットワークステージ上のフィードフォワード情報の伝送に影響を与える非線形性である。重ね合わせ問題を減らすために、彼らのモデルでは、複雑な細胞は最大の入力を提供するシナプス前細胞の信号のみを入力する。このモデルは、人工的な紙クリップ画像及びコンピュータで描かれた動物や車の物体の認識に適用され（Riesenhuber, M. & Poggio, T. (1999b), “Hierarchical models of object recognition in cortex”, Nature Neuroscience 2(11), 1019-1025）、また中間の組合せ特徴を定義するために局所列挙法を使用する。
【００１２】
Y. Le Cunら（”Hand-written digit recognition with back-propagation network”, 1990, in advances in neural information processing systems 2, pp. 396-404）以来、多層ネットワークが知られている。入力画像は局所受容野を有する単一ニューロンを用いて走査され、このニューロンの状態は特徴マップと呼ばれる層の対応する位置に格納される。この操作は、小型カーネルとの畳み込みと等価である。重みベクトルを等しくしたニューロン集合の平面として特徴マップを実現することによって、プロセスを並列的に実行することができる。すなわち、特徴マップのユニットは、画像の異なる部分において同一の操作を実行するようにする。加えて、シフト中の入力としてシステムに存在するあるレベルのシフト不変性は、特徴マップ上の結果をシフトするが、その他の点では結果を変更しない。さらに、同一の画像から異なる特徴を抽出する複数の特徴マップを持つことが提案されている。この局所的な畳み込み特徴マップという最新の考え方は、後続する隠れ層にも同様に適用可能であり、増大する複雑さと抽象化の特徴を抽出する。多層畳み込みネットワークはパターン認識問題に広く適用されており、特に光学文字認識への応用が多い（包括的な調査のために、例えば「LeCun, Y., Bottou, L., Bengio, Y., & Haffner, P. (1998), “Gradient-based learning applied to document recognition”, Proceedings of the IEEE, 86, 2278-2324 for a conprehensive review」を見よ）。最適な特徴の学習は、誤差逆伝播法を用いて実行され、この場合、並進不変性の制約は重み配分によって明確に与えられる。しかし最急学習では、その深い階層のために、大きな訓練集合（ensemble）及びネットワーク規模についてかなりの訓練時間がかかる。Lawrence, S., Glies, C. L., Tsoi, A. C., 及びBack, A. D. (1997)らによる「“Face recognition: A convolutional neural-network approach”, IEEE Transactions on Neural Networks 8(1), 98-113」は、次元数を低減するために自己組織化マップに基づいた従来のベクトル量子化で強化された方法を適用し、顔分類構成について改善された性能を報告した。
【００１３】
次に、物体の不変認識への階層モデルの適用について簡単に説明する。
【００１４】
米国特許第5,058,179号は、文字認識のための階層制約自動学習ネットワークに関する。これによると、局所化された特徴抽出のための制約付き特徴検出を行う複数の層の後に、次元低減のための全結合された複数の層が後に続く、階層化ネットワークによって、非常に正確でかつ信頼できる光学文字認識が提供される。文字分類は、最後の全結合された層において実行される。並列で制約付きの特徴検出を行う各層は、複数の制約付き特徴マップと対応する複数のカーネルから構成され、予め決められたカーネルは単一の制約付き特徴マップに直接関係付けられる。アンダーサンプリングは、層から層まで実行することができる。
【００１５】
米国特許第5,067,164号もまた制約付き特徴検出を行う複数の層を有する認識のための階層制約自動学習ニューラルネットワークを開示している。制約付き特徴検出の各層は、複数の制約付き特徴マップと対応する複数の特徴低減マップを含む。各特徴低減マップは、その制約付き特徴マップをアンダーサンプリングする層におけるただ１つの制約付き特徴マップにのみ接続される。第１の制約付き特徴検出層の各制約付き特徴マップにおけるユニットは、対応するカーネルの関数として、及びそのユニットに関連する受容野で得られる文字のピクセル画像の異なる部分の関数として応答する。第２の制約付き特徴検出層の各特徴マップにおけるユニットは、対応するカーネルの関数として、及び個々の特徴低減マップの異なる部分の関数として、あるいはユニットの受容野で得られる第１の制約付き特徴検出層における複数の特徴低減マップの組合せとして、応答する。第２の制約付き特徴検出層の特徴低減マップは、最後の文字分類層の各ユニットに全結合される。カーネルは、ネットワーク初期化または訓練の間、誤差逆伝播法によって自動的に学習される。この方法の問題の１つは、階層の全てのカーネルについて同時に学習を行わなければならないということであり、大規模ネットワークに対しては学習が遅くなりすぎてしまう。これによって、三次元不変物体認識というさらに困難な問題へのこの種の畳み込みネットワークの適用が妨げられてきた。
【００１６】
米国特許第6,038,337号は、局所画像サンプリングを示す複合型ニューラルネットワークシステム、次元低減を行う自己組織化マップ・ニューラルネットワーク、及び複合型畳み込みネットワークを使用した物体認識方法及び装置を開示する。複合型畳み込みニューラルネットワークは、並進、回転、拡大縮小及び変形に対して部分的な不変性を提供する。複合型畳み込みネットワークは、階層的な層のセットにおいて連続してより大きな特徴を抽出する。適用例として、正面ビューの顔認識が与えられる。
【００１７】
【発明が解決しようとする課題】
上記従来技術に鑑みて、本発明は、符号化効率を改善し、また大規模な階層畳み込みネットワークにおける学習の制約を低減することを目的とする。
【００１８】
【課題を解決するための手段】
この目的を達成する基本的な考え方は、新たな特徴検出ステージを（増分的に）学習するため統計的手段を用いた階層ネットワークを訓練するというものである。実用性という点から、二次元物体だけでなく、三次元的な回転、大きさ及び照明条件が変化する三次元物体をも認識することができるような改良がなされなければならない。別の利点として、この学習方法は、階層的畳み込みネットワークにおけるステージの間の任意の非線形性に対して実行可能である。これに対して、上記従来技術は、ネットワークの設計に特定の制約を与える微分可能な非線形性を学習する誤差逆伝播法による学習を実行しているにすぎない。
【００１９】
本発明の目的は、独立した請求項により達成される。従属請求項は、本発明の中心概念をさらに発展させる。
【００２０】
本発明によると、いくつかの特徴を有するパターン認識方法が提案される。最初に、複数の固定された特徴検出器（以下、固定特徴検出器と呼ぶ）は、検出されるパターン上を走査する局所ウィンドウと畳み込まれ、複数の特徴マップを生成する。続いて、各特徴マップについて任意の非線形関数が別個に適用される。特徴マップの特徴の局所組合せが検出され、最後に、検出された局所組合せに基づいてパターンが分類される（従って認識される）。（ネットワークの中間層に対応する）特徴の局所組合せのための本発明によると、統計的に独立した特徴は予め設定されている。
【００２１】
統計的に独立した特徴は、訓練パターンの畳込みの独立成分分析（ＩＣＡ）によって予め決定することができる。独立成分分析は、データセットの独立成分である新しい特徴の構築手法に属する。独立成分は、入力特徴の線形和から構築される成分の相互情報量を最小にする確率変数である。このような変数が可能な限り独立していることは、情報理論において証明されている。
【００２２】
代替的にまたは付加的に、統計的に独立した特徴は、訓練パターンの畳込みの主成分分析（ＰＣＡ）によって予め決定することができる。主成分分析は、データ・セットの主成分である新しい特徴の構築手法に属する。主成分は、入力特徴の直交線形和から構築される分散を最大にする確率変数である。これは、得られる特徴の非相関性のみを保証するので、独立成分分析の統計的独立よりも弱い概念である。
【００２３】
特徴マップを生成するために、ＷＴＡ及びさらなる非線形関数を畳み込みの結果に適用することができる。上記の統計的学習方法は、結合されたＷＴＡ及びさらなる非線形性の性質に関わらず適用することができる。
【００２４】
少なくとも一つのプーリングステップを含み、先行するマップの特徴マップを局所的に平均化しサブサンプリングする。プーリングステップは、同一物体に対応する異なるパターンの変換における認識の不変性を付与する。
【００２５】
分類ステップは、最急降下法によって訓練される一層のシグモイド関数を用いて実現することができる。統計的に独立した特徴を予め設定するのに古典的な教師あり学習過程は必要でなく、従ってシステムの設定に必要な手間をかなり削減することに注意されたい。代替的に、ＲＢＦ（radial basis function）ネットワーク、最近傍（Nearest-Neighbor）マッチング法、または多層パーセプトロン・ネットワークによって、分類ステップを実現することもできる。
【００２６】
特徴検出ステップ、任意選択のプーリングステップ及びこれらの組合せは、複数回繰り返すことができる。
【００２７】
本発明のさらに別の態様によると、いくつかの特徴を有するパターンを認識する方法が提案される。複数の固定特徴検出器は、パターン上を走査する局所ウィンドウと畳み込まれ、複数の特徴マップを生成する。特徴マップの特徴の局所組合せが検出され、検出された局所組合せに基づいてパターンが分類される（従って認識される）。特徴マップを生成するために、ＷＴＡが畳込みの結果に適用される。
【００２８】
本発明のさらに別の態様によると、階層ネットワークを訓練する方法が提案される。階層ネットワークは、複数の固定特徴検出器をパターン上を走査する局所ウィンドウと畳み込む手段と、各特徴マップに非線形関数を個別に適用する手段と、特徴マップの単純な特徴の局所組合せを検出する中間手段と、検出された局所組合せに基づいてパターンを分類することによってそのパターンを認識する手段を含む。本発明によると、局所組合せを検出する手段は、特徴の局所組合せの統計的な独立を強化するように増分的に訓練される。
【００２９】
本発明のさらに別の態様によると、計算装置上で実行されるとき上記の方法を実現するコンピュータ・ソフトウェア・プログラムが提案される。
【００３０】
本発明のさらに別の態様によると、階層ネットワークを用いたパターン認識装置が提案される。階層ネットワークは、パターン（すなわち、物体のディジタル写真）を入力する手段を含む。さらに、パターン上を走査する局所ウィンドウを複数の固定特徴検出器と畳み込む手段を備える。中間手段は、特徴マップの特徴の局所組合せを検出する。分類手段は、検出された局所組合せに基づいてパターンを「認識」する。局所組合せを検出する手段は、予め設定した統計的に独立した特徴を使用するよう設計される。
【００３１】
本発明のさらに別の態様によると、階層ネットワークを用いたパターン認識装置が提案される。パターン認識装置は、パターンを入力する手段を含む。さらに、パターン上を走査する局所ウィンドウを複数の固定特徴検出器と畳み込み、複数の特徴マップを生成する手段を備える。中間手段は、特徴マップの特徴の局所組合せを検出する。分類手段は、検出された局所組合せに基づいてパターンを認識する。畳み込み手段は、ＷＴＡを使用して特徴マップを生成するように設計される。
【００３２】
分類手段は、パターンの特定の全体ビューに対して調整される。
【００３３】
階層ネットワークは、畳み込み手段によって生成された特徴マップを局所的に平均化しサブサンプリングするプーリング手段を含むことができる。
【００３４】
分類手段は、最急降下法によって訓練されるシグモイド関数を使用するように設計することができる。
【００３５】
分類手段は、ＲＢＦネットワークを使用するよう設計することができる。分類手段は、最近傍マッチング法または多層パーセプトロン・ネットワークに基づくことができる。
【００３６】
階層ネットワークは、並列計算ネットワークによって実現することができる。
【００３７】
第１の特徴検出手段、任意選択のプーリング手段及び組合せ層のセットは、連鎖状に複数個備えることができる点に注意することが重要である。
【００３８】
本発明の更に別の態様によると、上記で定義したパターン認識装置は、光学文字認識や、あるいは特に三次元物体の光学認識のために使用することができる。
【００３９】
【発明の実施の形態】
最初に、本発明に従ったネットワークの構成を図１に示すが、これは本発明を実現する技術的手段を説明するのにも役立つ。画像は、ディジタルビデオカメラまたは写真カメラ等のサンプリング装置１７によってサンプリングされ、全体を１６で示す階層ネットワーク１６に供給される。階層ネットワーク１６は、単純な特徴検出ステージ１８及び組合せ特徴検出ステージ１９から成るセットを少なくとも一組以上含む。これらのステージ１８、１９は、図では２０として示すように、ネットワーク１６内で複数回繰り返すことができる。ネットワーク１６の最終的な出力は分類手段２１に供給され、ここで出力を分類することによってサンプリングされた画像を認識する。
【００４０】
新規な構成を除くと、本発明は、階層ネットワークを訓練する新しい手法にも関係する。この訓練は、新たな特徴検出ステージ１９を（増分的に）学習する統計手段を使用する。増分的な学習は、処理階層のより高いステージにおける増分的な統計的独立特徴の検出に基づいている。この学習は教師なし学習なので、教師信号は不要であり、特定の認識シナリオのために認識アーキテクチャを予め構成することができる。教師あり学習による訓練を要するのは、最後の分類手段２１のみであり、これにより認識作業への適用においてかなりの手間を削減する。
【００４１】
以下では、図２を参照して本発明による階層モデルのアーキテクチャを詳細に説明する。このモデルは、重み配分（weight-sharing）を持つフィードフォワード・アーキテクチャ、及び一続きの特徴に敏感に反応するマッチングステージ２とプーリングステージ３に基づいている。
【００４２】
モデルは３つのステージを処理階層に含む。第１の特徴マッチングステージ２は、符号の影響を受けない線形の受容野加算、同じ位置にある特徴間のＷＴＡ、及び最後の非線形閾値関数から構成される。以下では、ベクトルの添え字は、特定の層の特定のプレーン内のニューロンのセット上で実行する表記法を採用する。第１の層２における単一のセルの応答ｑ₁ ^l(ｘ,ｙ) を計算するために、位置(x,y)の特徴タイプｌに応答して、第１の画像ベクトルＩが受容野の特性を特徴づける重みベクトルｗ₁ ^l(ｘ,ｙ)と掛け合わせられる。
【００４３】
【数１】

【００４４】
内積は「*」で表され、すなわち１０×１０画素の画像Ｉ及びｗ₁ ^l(ｘ,ｙ)は１００次元のベクトルである。重みｗ₁ ^lは正規化されており、視覚野入力層における局所化された受容野を特徴付けている。特徴プレーンｌにおける全てのセルは、ｗ₁ ^l(ｘ,ｙ)で与えられる同一の受容野構造を有しているが、古典的な重み配分または畳み込みアーキテクチャにおけるように、シフトされた受容野中心を有している（Fukushima, K. (1980), “Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position”, Biol. Cyb., 39, 139-202; LeCun, Y., Bottou, L., Bengio, Y., & Haffner, P. (1998), “Gradient-based learning apprlied to document recognition”, Proceedings of the IEEE, 86, 2278-2324）。
【００４５】
第２のステップでは、ソフトウェア的なＷＴＡが次式に従って実行される。
【００４６】
【数２】

ここで、Ｍ＝max_k ｑ₁ ^k(ｘ,ｙ) であり γ₁ ^l(ｘ,ｙ)は，最大値以外の（sub-maximal）応答を抑制するＷＴＡの後の応答である。パラメータ０＜γ₁＜１は競争の強度を制御する。この非線形性は、高速の側抑制（lateral inhibition）により遅い応答を抑制する、潜時に基づく競合（latency-based competition）が刺激となっている。
【００４７】
活性度は、第１の層２における全てのセルについて共通しきい値θ_lを有する単純なしきい値関数に渡される。
【００４８】
【数３】

ここで、ｘ≧０であればＨ(ｘ)＝１であり、それ以外はＨ(ｘ)＝０である。ｓ₁ ^l(x,y)は、第１の層２の位置(ｘ,ｙ)における特徴ｌに敏感に反応するニューロンの最終的な活性度である。
【００４９】
プーリングセルの層３の活性度は次式によって与えられる。
【００５０】
【数４】

ここで、ｇ₁(ｘ,ｙ)は、σ₁によって特徴付けられる幅を持つ正規化ガウシアン局所化空間プーリングカーネルであり、これは全ての特徴ｌについて同一である。ｔａｎｈは双曲線正接シグモイド変換関数である。任意選択のプーリング層３は、同一の物体に対応する異なるパターンの変換下における認識の不変性を付与する。
【００５１】
中間層４における特徴は、前の層３（プーリング層がない場合は２）のプレーンにおける特徴１２、１３の局所組合せ１０、１１に敏感に反応することであり、従って以下では組合せセルと呼ぶ。前のプレーンに対する組合せ線形加算は、次式によって与えられる。
【００５２】
【数５】

ここで、ｗ₂ ^lk(ｘ,ｙ)は、前のプーリング層３のセルのプレーンｋへの接続を記述する位置(ｘ,ｙ)で特徴ｌのプーリングセルの受容野ベクトルである。
【００５３】
強度パラメータγ₂を有する同じＷＴＡの後、プーリング層３における活性度は、共通のしきい値θ₂を有するしきい値関数の適用後に与えられる。
【００５４】
【数６】

【００５５】
中間組合せ層４から第２のプーリング層５へのステップは式(４)と同一であり、次式によって与えられる。
【００５６】
【数７】

ここで、ｇ₂(ｘ,ｙ)は、範囲σ₂を持つ第２のガウシアン空間プーリングカーネルである。
【００５７】
最後の層１５では、ニューロンは、Riesenhuber, M.及びPoggio, T.らのＲＢＦタイプの「ビューを（像）調整したユニット」（ＶＴＵ：view-tuned-unit）６のように、提示された物体の全体像について敏感に反応する（“Are cortical models really bound by the “binding problem” ?”, Neuron, 24, 87-93 ）。最急ベースの学習を容易にするために、次式のシグモイド非線形関数を選択する。
【００５８】
【数８】

ここで、φ(ｘ)＝１＋exp(-βｘ))^-1はシグモイドフェルミ変換関数であり、ｗ₃ ^lkは、前の層における全体プレーンｋについてのｌでインデックス付けされた、単一のビューを調整したセルの接続ベクトルである。より大きな応答の柔軟性を可能にするために、あらゆるセル６は固有のしきい値θ₃ ^lを有する。各ＶＴＵセル６は物体の特定のビューを表す。従って、未知の入力刺激の分類は、最後の層１５において最も活性しているＶＴＵ６を得ることによってなされる。この活性化が一定のしきい値を上回らないときは、未知またはクラッタとしてパターンを棄却することができる。
【００５９】
第１の特徴検出層２、任意選択のプーリング層３、及び組合せ層４からなる一組の層を数組み備えることができる点に注意することが重要である。
【００６０】
次に、本発明による階層ネットワークの訓練について説明する。訓練は、訓練パターンを有するネットワークを与えることによって実現することができる。一例として、訓練パターンのライブラリは、連続して５度ずつ回転させた７２個のビューを撮られた１００個の物体から構成される。
【００６１】
開始点では、ＷＴＡのプーリング範囲σ₁,σ₂、しきい値θ₁,θ₂、及び強度γ₁,γ₂を適当に調整する。これらのパラメータは、ネットワーク非線形性の全体的な質の特徴を描写する。第２のステップでは、非線形性のパラメータを一定に保ち、階層の中間層及び最終層の重み構造を修正する。この例によれば、周知のＣＯＩＬ−１００データベース（Nayar, S. K., Nene, S. A., & Murase, H. (1996), “Real-time 100 object recognition system”, in Proc. Of ARPA Image Understanding Workshop, Palm Springs）の１００個の物体の分類作業に基づいて評価が行われる。初めにビューを調整したユニットの訓練のための単純なパラダイムがあり、これはRiesenhuber及びPoggioのＲＢＦタイプの設定と同様である。
【００６２】
１００個の物体の各々について７２のビューが利用可能であり、これらは連続して５度ずつ回転している。０度、１２０度、及び２４０度の３つのビューが各物体についての訓練パターン(ビュー)とされ、各ビューについてビューを調整したセルが採用されるので、合計３００個のＶＴＵが与えられる。特定のパラメータ設定のために、最後の層１５の活性化が記録される。この活性度ベクトルは、高次元空間における最近傍分類のために用いられる。これは、最後の層１５のニューラル活性度により拡がる空間におけるテンプレート・マッチングと考えることができる。結果的に、訓練は各々の訓練ビューのためのテンプレートを単に格納することになる。
【００６３】
Riesenhuber及びPoggioの業績から離れて、最初に、組合せ層４のセルの接続パターンが考慮される。これは、プーリング層３内の組合せ（中間）層４のセルの受容野中心の４つの隣接したニューロンの局所近傍におけるプーリング層３のただ２つのニューロンの結合に基づいている。対称置換及び構成を除外した後に、２つのプーリングニューロンが異なる方向プレーンにあり同一の受容野位置を占め、１２０個の異なる組の組合せセルタイプが組合せ層４について求められる。物体当たり３つのＶＴＵという固定された数についてのパラメーター組合せに対する網羅的な格子状の検索において、分類の性能について最適の設定を発見することができる。得られたパラメータは、θ₁＝０．１、θ₂＝０．９５、σ₁＝２．５、σ₂＝２．５、γ₁＝０．９、γ₂＝０．０である。
【００６４】
得られた最近傍分類は、６９％が正しい。この特定のパラメータ設定は、ある符号化戦略を意味している。単純なエッジ検出器１２、１３の第１の層２は、むしろ低いしきい値を方向間の強い局所的競争と結合させる。その結果は、４つの異なる方向カテゴリのうちの１つへの入力の一種の「セグメント化」である。これらの特徴は、ガボール受容野（層２）の大きさに相当する範囲内でプーリングされる。組みになった組合せセルは高いしきい値を有し、これは両方のシナプス前のセルが強く活性する場合にのみ活性化される。γ₂＝０なので、高しきい値により既に強いスパース化（sparsification）を生じるので、組合せセルのレベルにおけるさらなるＷＴＡは不必要であると思われる。
【００６５】
低い初期しきい値及び強い勝者先取りを有する符号化戦略が最適であると仮定すると、入力画像の集合全体についてのプーリング層３のプレーンの活性度ベクトルの集合を生成することができる。そして、この集合から２００００個の５×５のパッチのランダムな選択を考慮することができる。プーリング層３には４つのプレーンがあるので、５×５×４＝１００次元の活性度ベクトルを構成する。続いて、この局所パッチの集合に対して主成分分析（ＰＣＡ）と独立成分分析（ＩＣＡ）の両方を実行することができる。独立成分分析は、例えば高速ＩＣＡアルゴリズムを用いて実行することができる（Hyvarinen, A. & Oja, E. (1997), “A fast fixed-point algorithm for independent component Analysis”; Neural Computation 9(7), 1483-1492）。主成分分析及び独立成分分析の両方について、得られる２０個または５０個の特徴プレーンの接続について重みベクトルとして用いられる２０個または５０個の成分を代替的に考慮することができる。得られる最近傍分類器の性能を評価した後に、後続する層のパラメータをσ₁＝１．５、σ₂＝１．５、θ₂＝０．５、γ₂＝０に調節することができ、これは、組合せ層ニューロンのより拡張された５×５受容野への適用を反映している。最近傍分類に基づいた最適化の後、性能ゲインを調べることができるが、これはビューを調整したユニットの応答をシグモイド変換関数を用いて最適に調整することによって求めることができる。
【００６６】
最後の層のニューロンの分類器出力に対して最急ベースの教師あり学習を実行することができる。ここで、訓練セットにおける特定のビューｉについての目標出力は、次式で与えられている。
【００６７】
【数９】

ここで、ｌは提示されたビューに最も近いＶＴＵ６のインデックスであり、同一物体の他のビューについては次式のようになる。
【００６８】
【数１０】

全ての他のＶＴＵ６は、次式の活性化レベルで沈黙していると想定される。
【００６９】
【数１１】

【００７０】
訓練は、以下に示す二次エネルギー関数Ｅ上の確率的最急降下によって行うことができる（LeCun, Y., Bottou, L., Bengio, Y., & Haffner, P. (1998), “Gradient-based learning apprlied to document recognition”, Proceedings of the IEEE, 86, 2278-2324）。
【００７１】
【数１２】

ここで、ｉは訓練画像に対するカウントである。
【００７２】
任意の不変認識手法において特に関心のある点は、以前は見ることのできなかった物体のビューの汎化能力である。階層アーキテクチャの背後にある主要な考え方の１つは、物体のビューが変化したときに、後のステージにおける神経活性の不変性の段階的な増加を実現することである。本発明は、階層アーキテクチャから得られるかなりの不変性を提供する。
【００７３】
次に、ＶＴＵ６によって実行することができる最近傍分類法について説明する。画像を表す特徴空間におけるユークリッド距離を用いた最近傍検索を使用するテンプレート・マッチングは、画像分類の直接的な手法である。この単純な手法は、訓練ビューを例えば写真メモリに収集し、画像強度ベクトル全体について最近傍検索を実行するＶＴＵ６を使用する。訓練ベクトルの数が増加するにつれて、その性能は明らかに向上すると予想される。主な問題は、物体表現の非効率性であり、物体の数が多くなると膨大な量のデータが必要になる。本発明による階層処理からさらに高次の不変性が予想できるので、層５におけるプールされた組合せセルの活性化に基づいて、テンプレート・マッチングを行うことができる。
【００７４】
画像データにテンプレート・マッチングが直接適用されると、分類速度は、利用可能なビューの数と共にわずかにほぼ線形に増加する。反対に、提案した階層の層５の出力に基づいた最近傍分類器を使用すると、訓練データの適切な数について非常に高速の増加が観察され、完全な分類に向かって飽和する。１２０個の組合せセルの完全なセットを使用すると、分散が最大である５０個のセルを使用したときと同様の性能が得られる。特に関心があるのは、組合せセルの独立成分分析ベースの判定がより良い結果を生み、単純な組みで構築された組合せセルを上回る性能を持つことである。
【００７５】
以下では、ビューを調整したユニット（ＶＴＵ）６について説明する。最近傍マッチングは単純な手法であり、重みの追加の適用を必要としないという利点を有する。しかし、追加の最後の層１５は、前のプーリング層５における高次元活性化パターンからより多くの情報を引き出すことができなければならない。利用可能なＶＴＵ６の数を制限するために、各物体についてわずか３つのＶＴＵ６しか利用できない設定を使用することができる。これらＶＴＵ６の重み及びしきい値は、確率的最急降下によって最適化することができる。少数のわずか３つのＶＴＵ６にもかかわらず、最適化により、利用可能な訓練パターンの数に応じた匹敵する性能が達成される。ここでも、独立成分分析で最適化された特徴が最高の結果を与える。最大分散を有するペア組合せセルの選択よりも一般的な分散ベースの選択方法である主成分分析は、ペア組合せセルを上回る性能を持つが、独立成分分析のレベルには到達しない。
【００７６】
認識についての問題の中心は、あらゆる自然の刺激には、背景から孤立して認識される物体だけでなく、大量のクラッタも含まれるということである。より大きな認識についての変換許容範囲を得るためのプーリング範囲の増大能力を制限するのは、主に環境におけるクラッタの量である（Mel, B. W. & Fiser, J. (2000), “Minimizing binding errors using learned conjunctive features”, Neural computation 12(4), 731-762）。
【００７７】
クラッタの影響は、ランダムにクラッタをばらまいた背景を人工的に生成し、物体の画像を切り取りこれを４画素のランダムな位置分散を有するように変換したクラッタをばらまいた背景画像上に置くことによって、評価される。この手順により、２０個の物体のセットについての画像集合がＣＯＩＬ−２０のデータベースから生成され、これらの画像を用いた訓練及びテストを実行した。集合は、クラッタのみを含む２００個のビューによって拡大され、全てのＶＴＵ６は沈黙した（すなわち、それらの訓練出力が０．１にセットされた）状態を維持すると予想される。最後のＶＴＵに棄却しきい値０．２を設定すると、クラッタ画像の１％のみが誤って物体と分類される。誤棄却率、すなわち提示された物体がしきい値活性化を超えない割合は、１％未満である。物体当たり３つのＶＴＵを用いると、全体的な分類率は、さらに大きなＣＯＩＬ−１００のセットに匹敵する。これは、従来のセグメント化を必要とすることなく、階層ネットワークの能力を強調し、異なる環境を一般化する。わずか３つの訓練ビューを用いた場合でも、８５％を正しく分類することができる。
【００７８】
要約すると、現実世界の三次元不変物体認識を実行する階層的ニューラル・フィードフォワード・アーキテクチャの能力についての議論が進行中である。様々な階層的モデルが存在するが、適切な教師あり学習または教師なし学習方法は依然として研究が盛んである案件である。重み配分、プーリングステージ、及びＷＴＡによる非線形性等の要素については先行する方法と同じだが、階層ネットワークの中間ステージにおける最適特徴検出セルを決定する新しい方法に着目した、認識を行うフィードフォワードモデルを提案した。従来ほとんどの初期特徴検出ステージに適用された独立成分分析（ＩＣＡ）が、中間の複雑な特徴についても優れた認識性能を達成する。独立成分分析により学習された特徴は、以前に提案された発見的な単純特徴の組合せよりも良い結果をもたらす。
【図面の簡単な説明】
【図１】本発明に従ったネットワークの構成を説明する図である。
【図２】本発明に従った階層ネットワークのアーキテクチャを図式的に示す図である。
【符号の説明】
１パターン表現
２固定特徴検出器
３プーリング層、プーリング手段
４局所組合せ層、局所組合せ手段
６分類層、分類手段
７局所ウィンドウ
８パターン
９特徴マップ
１２特徴
１３特徴

Claims

特徴を有するパターンを認識する方法であって、
a).パターン（８）の表現（１）上を走査する局所ウィンドウ（７）と固定された特徴検出器（２）の畳み込みを行って、前記パターン（８）の表現（１）において単純な特徴（１２，１３）を検出する複数の特徴マップ（９）を生成するステップと、
b). 前記特徴マップ（９）のそれぞれに非線形関数を個別に適用するステップと、
c). 前記ステップ b) の結果における特徴マップ（９）の前記単純な特徴（１２，１３）に対応する予め設定された局所組合せ（４）が存在するかどうかを検出するステップであって、
前記予め設定された局所組合せ（４）は、統計的に独立した特徴（１０，１１）を含み、該統計的に独立した特徴（１０，１１）は、訓練パターンの特徴検出器の畳み込みの独立成分分析によって予め決定されるかまたは訓練パターンの特徴検出器の畳み込みの主成分分析によって予め決定されていること、
を特徴をとし、
d).検出した前記局所組合せ（４）に基づいてパターン（８）を分類することによってパターン（８）を認識するステップと、を含む、
パターン認識方法。
前記特徴マップを生成するために、前記畳み込みの結果に勝者総取り戦略（Winner-Take-All、以下ＷＴＡという）が適用されることを特徴とする、請求項１に記載の方法。
微分不可能な非線形関数が各特徴マップに適用されることを特徴とする、請求項１または２に記載の方法。
先行するステップの特徴マップの少なくとも１つのプーリングステップが局所的に平均化されサブサンプリングされることを特徴とする、請求項１乃至３の何れか１項に記載の方法。
前記分類ステップが、最急降下法により訓練された１層のシグモイド関数を用いて実現されることを特徴とする、請求項１乃至４の何れか１項に記載の方法。
前記分類ステップが、ＲＢＦネットワーク、最近傍マッチング法、または多層パーセプトロン・ネットワークのうち何れか１つを使用して実行されることを特徴とする、請求項１乃至４の何れか１項に記載の方法。
ステップ b) の前記特徴マップが、前記特徴マップを生成するステップ及び局所組合せを検出するステップの少なくとも１以上のステージに供給されることを特徴とする、請求項１乃至６の何れか１項に記載の方法。
計算装置上で実行されたときに請求項１乃至７の何れか１項に記載の方法を実現することを特徴とする、コンピュータ・ソフトウェア・プログラム製品。
請求項１乃至７の何れか１項に記載の方法を使用して、ディジタル表現で与えられた文字または物体を光学認識する方法。
請求項１乃至７の何れか１項に記載の方法を使用して、手書き数字を光学認識する方法。