JP2002501637A - 前選択と棄却クラスによる確実な識別 - Google Patents

Abstract

(57)【要約】 サンプルの情報内容が２つの情報領域に分けられ、第１領域が必要情報を含み、第２領域が充分情報を含むような、サンプルの分類方法が提案される。必要情報領域によって、また不正確で多く（の前選択）ではあるが、きわめて限られた数のクラスに関する前選択が行われる。前選択のあと、まだ不正確な前選択を実際の目標クラスについて具体的にするために、充分情報領域で識別が行われる。これによって、新しい分類子により、または分類方式の新しい原則的方式により、分類の質がさらに改善される。

Description

【発明の詳細な説明】 前選択と棄却クラスによる確実な識別 データセット（たとえば、画像データ、音声信号）の分類は、「インテリジェ ント」コンピュータ作動の基礎である。応用分野は多く、たとえば、工業生産、 生物測定学による個人の識別、医学的画像処理などがある。 技術の現水準では多くの分類が含まれている。たとえば、 ― 統計的分類子（正規分布分類子） ― ニューロン網 ― 共同利用アルゴリスム ― 最近傍分類子 がある。 サンプル認識の標準的文献としては、ニーマン著「サンプルの分類」(シュプ リンガー出版社、１９８３年)がある。 本発明は、新しい分類子により、または分類方式の新しい原則的方式により、 分類の質をさらに向上させるという課題から出発する。この課題は、請求項１ま たは１０により解決される。 下記の説明が、各請求項に述べられた技術的構想を理解するのに役立つはずで ある。 ｎ個のクラスの識別（または分類）： 上記の代表的サンプリングによって、いわゆる学習過程でｎ個のクラスを 形成したあと、未知のサンプルを特定のクラスに組入れることを「識別」という 。この場合、棄却限界を導入することによって、サンプルは未知であるとして棄 却される。棄却クラスが、学習された識別の目標クラス、または既知の目標クラ スよりも近いときには、これに分類される。棄却限界および棄却クラスは、交互 に、また累積的に設けることができる。すべての設けられた「棄却」（限界およ び／またはクラス）に対応したときに、（サンプルは）「棄却サンプル」(物ま たは人)となる。有効な「識別」の前提条件は、試験サンプルから、 学習過程のｎ個のクラスのうちの１つに明白に組入れるための充分な情報が得ら れることである。 検証： 目標クラスについての先験的知識によって、識別はｎ＝１で実行される。 すなわち、２値決定法によって（のみ）、試験サンプルは受諾され、または棄却 される（「試験サンプル」は試験中のサンプルの略称）。 ＦＡＲ、ＦＲＲ、品質関数： ＦＡＲ（偽受諾率）は、間違って認知されたサンプルの比率であり、ＦＲ Ｒ（偽棄却率）は、間違って棄却されたサンプルの比率である。 品質関数Ｇ＝Ｇ（ＦＡＲ、ＦＲＲ）は分類方法の質を示す。たとえば、Ｇ＝１− ＦＡＲ−ＦＲＲ。分類が正確であればあるほど、Ｇは”１”に近づく、パラメー タＦＡＲ、ＦＲＲのうちの一方または他方を重視するときには、たとえば重み付 け係数ｇ₁、ｇ₂によって平均値を形成するときには、ＦＡＲおよびＦＲＲの重み 付けは影響を及ぼす。たとえば、（ｇ₁・ＦＡＲ＋ｇ₂・ＦＲＲ）／（ｇ₁＋ｇ₂） 。実際の応用ではＦＲＲの方が重要であり、たとえば、品質Ｇを「測定可能」（ なもの）として識別を比較できるように、ｇ₁＝２およびｇ₁＝１を選ぶことがで きる。 本発明による方法は、分類の質の向上に役立つ。 （ａ） 第１段階では、ｎ個のクラスの識別が行われ、これは与えられた情 報を二重利用することによって、より良く解決される。さらに、試験サンプルの 情報内容を、クラスの所属について必要部分と充分部分に分ける。必要部分によ って、問題となる部分の前選択（前分類）を行うことができる。この場合、明白 ではない（むしろ不正確な）分類が行われるが、実際にサンプルにとって問題と なるクラスの数はきびしく制限される。この段階によって（上記の品質関数Ｇの 意味で）識別を「より良く」解決することができる。 （ｂ） 第２段階では、分類の質は（追加的な）棄却クラスによって 高められる。このクラスは棄却の支援に役立つ。すなわち、たとえば限界決定に よって得られた棄却のほかに、特定の棄却クラスを識別クラス（具体的な目標ク ラス）と「同等に」分類することができる。棄却クラスによって、棄却されるべ き物／人（一般に、サンプル）を考慮に入れて、たとえば棄却されるべき「サン プル」の代表的断面を棄却クラスへ学習によって組入れ、これを分類子に知らせ る。 棄却クラスの構成は「成功指向的」（成功を目ざすもの）である。つまり、分 類問題は、棄却クラスを用いることによって（品質関数の意味で）、より良く解 決されなくてはならない。棄却されるべきサンプルが既知であるときは、それら はすべて棄却クラスに学習により組入れることができる。しかし原則として、そ の一定部分だけが、よりよい棄却クラスにとって必要であり、他の部分はたとえ ば、完全に別問題のデータバンクからのものである可能性がある。 棄却サンプルを選択するための方法として、選択過程が問題となる。たとえば 、あらゆる可能性の検討と、最良の結果へと導くような（サンプルの）データセ ットの利用である。 本発明を、以下にいくつかの実施例を用いて説明し補足する。 図１は、棄却クラスによる分類を図形で示した一例である。 具体的な学習および分類過程は、次の各段階で行われる： 分類問題のディジタルデータセットの準備。 各クラスの代表的サンプリングによる識別クラスＫ１,...,Ｋｎの決定（ 通常の学習過程）。 ｛Ｋ１,...,Ｋｎ｝の各部分量について、この部分量のすべての可能な試 験サンプルの全体を限定する棄却クラスを決定する。このほかに、たとえば他の クラスのデータセット、および／または潜在的棄却候補を用いることができる。 必要な情報内容の計算。これは、クラス選択２０の限定に用いることがで きるような（したがって有意義な）全く異なった特徴であることがある。 必要条件を考慮に入れることによって、ｎ個のクラスの識別を、より低い 等級ｍ（最良の場合にはｍ＝１）の分類３０に帰することができる。 第２段階は識別／検証４０を含んでいて、これは追加的に棄却クラス１０ で実行される。 ｍ個のクラスＫ１...Ｋｍのうちの１つで整合（関係付け）が行われると きは、物または人はそれに対応するものとして認識され、棄却クラス１０への整 合（関係付け）が行われるときには棄却の限界を越え、物または人は棄却される 。 第１段階のきわめて適切な例を、音声認識および話者認識の区別によって 説明することができる。 音声認識： 話された言葉を、特定の話者からできるだけ独立して、信号処理の方法に よって認識する。 話者認識： 音声信号の記録を（内容からできるだけ独立して）話者に関係づける。 努力目標は、立入りまたは接近の管理に役立つような信頼性の高い音声認識で あるべきである。 例１では、話者は識別のためにその姓を発音しなくてはならない。たとえば、 「マイヤー」氏が本人として認識されるために必要な前提条件は、「マイヤー」 という名が発音されるということである。音声認識によって、発音上で「マイヤ ー」と聞こえるクラスだけが問題となる。この例では、ｎ＝１への低減は行われ ない。なぜなら、たとえば認識されるべきマイヤー夫人またはマイヤー氏も、（ 音声上の）下部選択「マイヤー」に該当し、分類上では混同されることがあるか らである。そのあとの話者認識によってはじめて明白な整合が行われる。そこで 例１では、話者認識で、音声上「マイヤー」のように聞こえるすべての非「マイ ヤー」を前もって選りわけるために必要な情報領域を書き換える。 例２では、話者は識別のために、その人特有の明白な符号語（コードワード） 、たとえば一連の数字を挙げなくてはならない。直前の音声認識によって識別問 題はｎ＝１へと低減されている。すなわち、必要な情報内容がすでに確認（評価 ）されているので、充分な情報内容にもとづいて検証を行うだけでよい。 技術の現水準では、話者認識よりも音声認識の方が、より良く解決されるが、 計算容量が限られているために純粋の話者認識はすぐに限界に突き当たる。学習 サンプルを各クラスと比較しなくてはならないからである（例：銀行顧客）。し かし、クラス数が少ないときには、ＦＡＲもＦＲＲも下がる。たとえば、ＤＥ ４４ １３ ７８８．５（または、ＷＯ９５／２５３１６）によるシステム”Ｓ ｅｓａｍ”では、純粋の識別の場合には、６６人のとき、品質関数（Ｇ_sesam＝ １−ＦＲＲ＋ＦＡＲ）は音響領域では８０％以下であるが、検証中は品質関数は ９７．２％となる。 例３を、棄却クラスの結びつきにより説明する。生物測定学による個人認識で は、各有資格者は識別クラスをもっている。棄却クラスは個人データセットの大 きいプールの選択を経て形成される。識別クラスのほかに棄却クラスは「世界の 残り」を示し、画面では「その他」と書き換えられる。これによって、間違って 棄却されなかった無資格者は原則として棄却クラスに組入れられ、これによって 正確に棄却される。 たとえば、１人の検証すべき個人について１０個の記録（サンプル）があり、 集団の代表的サンプリングで２００個の記録（サンプル）のプールがある場合、 生物測定学的データである身振り、容貌、音響が特徴として調べられる。さらに 、検証すべき個人の２０個の記録と未知の個人についての１００個の記録の試験 サンプリングが行われる。試験サンプリングで最適結果となるような記録が「プ ール」から棄却クラスへと学習により組入れられる。つまり、品質関数Ｇは最大 となる。試験では²⁰⁰回のテスト実行が必要となるため、この数字の例では高速 の選択過程が用いられることは明らかである。 無資格者は、これまでは棄却限界を越えたときにのみ棄却することがで きた。この限界に応じて、ＦＡＲまたはＦＲＲが高くなり、品質値Ｇが小さくな る。 本発明は、新しい分類子によって、または分類方式の原則的方式によって、識 別における分類の質をさらに向上させるという課題から出発している。このため に２つの段階を含む分類方法が提案され、この方法ではサンプル（物または人） の情報内容が２つの情報領域で評価され、第１領域は必要情報を含み、第２領域 は充分情報を含んでいる。必要情報領域によって、まだ不正確で多く（の前選択 ）ではあるが、きわめて限られた数のクラスに関する前選択が行われる。まだ不 正確な前選択を、実際の目標クラスに関して具体的にする（的確に示す）ために 、前選択のあと、充分情報領域で識別が行われる。

【手続補正書】 【提出日】平成１２年２月１４日（２０００．２．１４） 【補正内容】 特許請求の範囲 １． 分類すべきサンプルの情報内容を２つの情報領域に分け、第１領域が必 要情報を、第２領域が充分情報を含み、 （ａ） 必要な情報領域によって、まだ不正確ではあるが、きわめて限られた 数のクラスに関する前選択が行われる段階と、 （ｂ） まだ不正確な前選択を、限られた数のクラスからの唯一の目標クラス に関して具体的にするために、前選択のあと、充分情報領域で識別が行われる段 階を含む、物または人のようなサンプルの分類方法。 ２． 棄却クラス（１０）が、サンプルの事前整合のための可能なクラスとし て準備され、サンプルが、棄却クラスで学習された事前の知識にもとづいて、少 なくとも充分な確率で却下されることを特徴とする請求項１に記載の方法。 ３． 棄却クラス（１０）における、前もって存在する知識が、第２段階の開 始前に学習され、とくに、確実に棄却されるべきサンプルにもとづいて、積極的 分類識別のクラスに組入れられるべきサンプルの断面に向けられていることを特 徴とする請求項１に記載の方法。 ４． 棄却クラス（１０）が、各段階の他のクラス、とくに、第２段階の目標 クラスと同等であることを特徴とする前記請求項のいずれかに記載の方法。 ５． 識別のクラスの各部分量について、１つの個別の棄却クラスが学習され 、または前もって決定されることを特徴とする前記請求項のいずれかに記載の方 法。 ６． 部分量がその都度前選択（２０）の不正確領域であり、（後続の）識別 （４０）のための可能なクラスが最終分類としての１つの具体的目標クラスに限 定されることを特徴とする請求項５に記載の方法。 ７． 必要情報によって、分類が、本質的に低い等級の、まだ必要な認識問題 へと下げられることを特徴とする前記請求項のいずれかに記載の方法。 ８． 識別が、不正確な前選択領域の検証であり、充分情報領域だけが評価さ れることを特徴とする請求項７に記載の方法。 ９． 不完全な範囲または限られた範囲で棄却クラスに学習により組入れられ るサンプルの最初の数があり、最初のサンプル数とは異なるサンプル数の最適結 果を含めるために別のサンプル数があり、最初のサンプル数および別のサンプル 数の中に、わずかな数の、棄却に組入れられていないサンプルがあることを特徴 とする前記請求項のいずれかに記載の方法。 １０． 計算装置と入力装置と出力装置を備えた装置であって、計算装置が、 前記請求項のうちの１つによる方法を実行するようにプログラムされていること を特徴とする装置。 １１． 第１分類子（２０）に第１情報領域を提供し、且つ、識別子（４０） に充分情報領域を提供するために、必要情報と充分情報を分離するための情報分 割装置（５０）を備え、両領域が、現在分類すべきサンプル（６０）の全情報よ りも小さいことを特徴とする請求項１０に記載の装置。 １２． 少なくとも１個の具体的目標クラス（４０）のほかに、棄却クラス（ １０）が記憶領域として規定され、少なくとも１つの目標クラスに記録されるべ きサンプル（６０）にすべてが記録されないように、棄却クラスが機能的に目標 クラスと等価であるが、範囲の点ではより大きいことを特徴とする請求項１０に 記載の装置。 １３． 少なくとも１個の具体的目標クラス（４０）のほかに、棄却クラス（ １０）が記憶領域として規定され、少なくとも１つの目標クラスに記録されるべ きサンプル（６０）にすべてが記録されないように、棄却クラスが階層的に目標 クラスと等価であるが、範囲の点ではより大きいことを特徴とする請求項１０に 記載の装置。

───────────────────────────────────────────────────── フロントページの続き (81)指定国 ＥＰ(ＡＴ，ＢＥ，ＣＨ，ＤＥ， ＤＫ，ＥＳ，ＦＩ，ＦＲ，ＧＢ，ＧＲ，ＩＥ，ＩＴ，Ｌ Ｕ，ＭＣ，ＮＬ，ＰＴ，ＳＥ)，ＪＰ，ＵＳ

Claims (1)

1. 【特許請求の範囲】 １． サンプルの情報内容を２つの情報領域に分け、第１領域が必要情報を、 第２領域が充分情報を含み、 （ａ） 必要情報領域によって、まだ不正確で多く（の前選択）ではあるが 、きわめて限られた数のクラスに関する前選択が行われる段階と、 （ｂ） まだ不正確な前選択を、実際の目標クラスに関して具体的にする（ 的確に示す）ために、前選択のあと、充分情報領域で識別が行われる段階 を含むサンプル（物または人）の分類方法。 ２． 棄却クラス（１０）が、サンプルの事前整合のための可能なクラスとし て準備され、サンプルが、棄却クラスで学習された先験的知識にもとづいて、少 なくとも充分な確率で却下されることを特徴とする請求項１に記載の方法。 ３． 棄却クラス（１０）における先験的知識が、第２段階の開始前に学習さ れ、とくに、確実に棄却されるべきサンプルにもとづいて、積極的分類識別のク ラスに組入れられるべきサンプルの断面に向けられていることを特徴とする前記 請求項のいずれかに記載の方法。 ４． 棄却クラス（１０）が、各段階の他のクラス、とくに、第２段階の具体 的目標クラスと同等であることを特徴とする前記請求項のいずれかに記載の方法 。 ５． 識別のクラスの各部分量について、１つの（個別の）棄却クラスが学習 され、または先験的に決定されることを特徴とする前記請求項のいずれかに記載 の方法。 ６． 部分量がその都度、前選択（２０）の不正確領域であり、最終分類とし ての具体的目標クラスで、（後続の）識別（４０）のための可能なクラスがきび しく限定されることを特徴とする請求項５に記載の方法。 ７． 必要情報によって、分類問題が、明らかに低い等級の、（まだ必要な） 認識問題へと下げられることを特徴とする前記請求項のいずれかに記載の方法。 ８． 識別が、不正確な前選択領域の検証であり、充分情報内容（情報領域） （だけ）が評価されることを特徴とする請求項７に記載の方法。 ９． 限られた範囲で棄却クラスに学習により組入れられるサンプルの最初の 数があり、最初のサンプル数とは異なるサンプル数の最適結果を含めるために別 のサンプル数があり、最初のサンプル数および別のサンプル数の中に、わずかな 数の、棄却に組入れられていないサンプルがあることを特徴とする前記請求項の いずれかに記載の方法。 １０． 計算装置と入力装置と出力装置を備えた装置であって、計算装置が、 上記の方法クレイムのうちの１つによる方法を実行するようにプログラムされて いることを特徴とする装置。 １１． 第１分類子（２０）に第１情報領域を提供し、識別子（４０）に充分 情報領域を提供するために、必要情報と充分情報を分離するための情報分割装置 を備え、両領域が、現在分類すべきサンプル（６０）の全情報よりも小さいこと を特徴とする請求項１０に記載の装置。 １２． 少なくとも１個の具体的目標クラス（４０）のほかに、棄却クラス（ １０）が記憶領域として規定され、少なくとも１つの目標クラスに記録されるべ きサンプル（６０）にすべてが記録されないように、棄却クラスが階層的および 機能的に目標クラスと等価であるが、範囲の点ではより大きいことを特徴とする 請求項１０に記載の方法。