JP2010529529A - 特定被写体検出装置及びその学習装置と学習方法 - Google Patents

Abstract

本発明では特定被写体検出装置及びその学習装置と学習方法が公開されている。当該特定被写体検出装置は、検出対象画像を入力するための入力ユニットと、各々が、弱分類テンプレートを使用して画像を弱分類するための１つまたはより多くの弱分類ユニットを含み、画像を強分類するための１つまたはより多くの強分類ユニットと、前記弱分類ユニットが使用するテンプレートを記憶する記憶ユニットと、強分類ユニットの分類結果に基づき、画像が特定被写体を含むか否かを判断する判断ユニットとを含み、当該特定被写体検出装置は、増分学習用のデータ、つまり増分学習サンプル、言い換えると、当該またはその他の特定被写体検出装置が検出漏れまたは誤報したデータを入力するための増分サンプル入力ユニットと、増分サンプル入力ユニットが入力した増分学習サンプルに基づき、記憶ユニットが記憶する弱分類テンプレートを更新する学習ユニットとを更に含む。

Description

本発明は特定被写体検出装置及びその学習装置と学習方法に関するものであり、より具体的には強分類器及び弱分類器に対して学習訓練を実施する学習装置と学習方法並びに前記学習装置及び学習方法を使用する特定被写体検出装置に関するものである。

顔の検出（ｆａｃｅ ｄｅｔｅｃｔｉｏｎ）とは、任意１枚の与えられた画像に対して、一定の戦略を採用してその中に顔が含まれているか否かを検索して確定することを指し、イエスの場合は、顔の位置、大きさ及び姿勢に戻る。通常、顔は非常に豊富な生物学的特徴情報を有しており、マンマシン相互作用、追跡管理、身分識別などの分野に用いることができ、顔関連情報を抽出する最初のステップは顔領域の位置決めである。そのため顔検出技術は尋常ではない意味及び極めて広範な応用の前途を有している。顔検出の実用性は検出精度及び検出速度の両者の向上により決定される。

図１に示されているのは従来技術における検出器の機能階層ブロック図である。図１に示されている通り、従来技術における検出器の階層構造は、上から下に、検出器、強分類器、弱分類器、特徴抽出及び関数マッピングである。言い換えると、従来技術における検出器は互いに直列接続の複数の強分類器を含み、各強分類器は互いに直列接続の複数の弱分類器を含み、各弱分類器は特徴抽出部及びマッピング部を含む。特徴抽出部は粗密粒度特徴などの特徴抽出方式を採用して特徴を抽出し（本特許出願人の第２００６１００７２５７６．４号中国特許出願を参照可能であり、それを引用して本明細書内に組み入れることにより、本明細書内において完全に説明したことと同様となる）、マッピング部はルックアップテーブル法（Ｌｏｏｋ Ｕｐ Ｔａｂｌｅ）に基づく区分線形関数などの方法を採用して弱分類を実施する。

検出器を使用する前に、検出器に対して訓練を実施しなければならない。検出器に対して固定されたオフライン訓練を実施することは本分野では公知である。固定されたオフライン訓練アルゴリズムについて述べると、ひとたび訓練に用いるサンプル集合（つまり顔写真及び背景写真）が確定されると、学習により得られる顔検出器にはあまり大きな変化は発生しない。オフライン訓練サンプル採集過程の局限性により、通常、サンプル集合は一般環境条件下における顔モデル及び非顔モデルの分布状況を描写することができるだけである。しかし、末端ユーザの違い、環境及び目標の変化により、検出器は往々にして一連の特殊な状況に直面しなければならない。一方において、サングラスやマフラーなどの装飾品を着用すると顔の一部が遮蔽され、激烈な光線照射の変化は更に顔の表出モデルを極めて大きく改変する。これら特殊環境条件下における顔モデルは稀であるため、通常はオフライン訓練に用いる顔サンプル集合中にはほとんど出現しない。他方において、本発明者らは数多くの背景写真集合を収集するとともに、その中から大量の走査ウィンドウを非顔訓練サンプルとして抽出することができるが、依然としてすべてをカバーすることができる背景類型を確保することはできない。言い換えると、オフライン訓練サンプル集合（顔及び非顔の両部分を含む）が描写する一般状況とオンライン検出過程で処理すべき実際状況との間には比較的大きな差異が存在する。この種の回避が困難な差異はオフライン訓練で得られる検出器が常にオンライン検出の応用環境にあまり十分には適応できない事態を招き、比較的多くの検出漏れまたは誤報を発生する。

結局のところ、この種の不適応性はオフライン訓練サンプルがオンライン状況を反映することができないためにより引き起こされる。この問題を克服するため、人々はオンライン学習に対して大量の研究を実施している。

オンライン学習とは、訓練データに基づき特徴を収集して専門に設計された持続的な学習アルゴリズムである。オフライン学習過程におけるすべての訓練データは予め収集されている点と異なり、オンライン学習過程では不断に収集されるデータ流を処理しなければならない。全体としてのデータ量が非常に膨大であるため、オンライン学習ではすべての収集済みのデータを保存することができない。言い換えると、各項訓練データは使用された後には破棄されなければならない。オンライン学習はオフライン訓練により得られた結果を基礎とする必要はなく、それは単純な学習の枠組である。

現在まで、大多数のオンライン学習関連の作業は伝統的なマシン学習法、例えば、Ｐ．Ｕｔｇｏｆｆらにより提出されたデシジョンツリーモデルに基づくオンライン学習アルゴリズム、Ｎ．Ｌｉｔｔｌｅｓｔｏｎｅにより提出されたＷｉｎｎｏｗアルゴリズム、Ｎ．Ｌｉｔｔｌｅｓｔｏｎｅ及びＭ．Ｗａｒｍｕｔｈにより採用されたＷＭＡ（Ｗｅｉｇｈｔｅｄ Ｍａｊｏｒｉｔｙ Ａｌｇｏｒｉｔｈｍ）アルゴリズムに基づいている。従来技術において、Ｂｏｏｓｔｉｎｇアルゴリズムは前世紀の９０年代の初頭に誕生し、現在まで僅か１０数年しか経過しておらず、非常に若いマシン学習アルゴリズムであると言うことができる。そのため、それに関連したオンライン学習の研究はあまり多くない。Ｌ．Ｂｒｅｉｍａｎは自身の論文中に「ブロック状」オンラインＢｏｏｓｔｉｎｇアルゴリズムを引用し、オンライン訓練サンプル集合を若干の大きさが同じサブ集合に区分するとともに、順次各弱分類器のオンライン訓練に用いている。Ａ．Ｆｅｒｎ及びＲ．Ｇｉｖａｎは別のＡｒｃ−４ｘ法に基づくオンラインＢｏｏｓｔｉｎｇアルゴリズムを提出しており、分類エラーの訓練サンプルの重みを高めることにより各弱分類器を再学習する。関連作業のうちでもっとも代表的であるのはＮ．Ｏｚａらが離散ＡｄａＢｏｏｓｔ．Ｍ１アルゴリズムに基づき提出したオンラインＢｏｏｓｔｉｎｇアルゴリズムであり、その流れは図２に示されている通りである。

当該アルゴリズムは現在最新の訓練サンプルを利用し、前から後の順に従って順次強分類器中の各弱分類器及びそれに対応する組合せ係数を再訓練する。それはデシジョンツリーモデルを弱分類器構造として採用し、サンプルの現在の重み（つまり分類エラーの程度）に基づきポアソン分布を満足するランダム数ｋを生成し、現在のサンプルを使用して弱分類器を再訓練する回数とする。訓練の結果により弱分類器が現在のサンプルを正確に分類可能となると、現在のサンプルの重みを弱分類器の正確な分類回数λ^ｓｃ _ｍ中に加え、弱分類器のエラー率ｅ_ｍを調整するとともに、当該エラー率に基づき現在のサンプルの重みλを更新する。そうでない場合は、現在のサンプルの重みを弱分類器のエラー分類回数λ^ｓｗ _ｍ中に加え、類似して弱分類器のエラー率ｅ_ｍを調整するとともに、現在のサンプルの重みλを更新することも必要である。Ｎ．ＯｚａらのオンラインＢｏｏｓｔｉｎｇアルゴリズムはフロー構造上において、それが対応するオンラインバージョンであるＡｄａＢｏｏｓｔ．Ｍ１アルゴリズムを遵守していることを見出すことは困難ではない。

Ｎ．Ｏｚａらにより提出されたオンラインＢｏｏｓｔｉｎｇアルゴリズム、Ｏ．Ｊａｖｅｄら及びＨ．Ｇｒａｂｎｅｒらによりそれぞれ提起された各々のオンラインＢｏｏｓｔｉｎｇシステムに基づき、多くの実際におけるコンピュータ視覚問題の解決に用いる。Ｏ．ＪａｖｅｄらはＮ．Ｏｚａらにより提出されたオンラインＢｏｏｓｔｉｎｇアルゴリズムを共訓練の枠組（ｃｏ−ｔｒａｉｎｉｎｇ ｆｒａｍｅｗｏｒｋ）と結合して、通行人及び車両に用いる検出システムの性能を向上させており、Ｈ．Ｇｒａｂｎｅｒらは特徴選択システムを導入することにより、オンラインＢｏｏｓｔｉｎｇアルゴリズムを各種コンピュータの視覚問題中に広範に用いており、それには背景の建築、物体の検出及び追跡が含まれている。

しかし、上記これらのオンラインＢｏｏｓｔｉｎｇアルゴリズムが例外なく採用してい
るのはいずれも二値出力の弱分類器形式であり、伝統的な離散ＡｄａＢｏｏｓｔアルゴリズムに対応している。現在、まだ連続ＡｄａＢｏｏｓｔアルゴリズムについてのオンライン学習Ｂｏｏｓｔｉｎｇアルゴリズムはない。

オンライン学習アルゴリズムは現在の検出器を適当に調整して、例えば上記で言及済みの遮蔽、光線照射の変化などのサンプルに代表される特殊な情景をより良好に処理することが可能である。

しかし、能力及び容量のいずれもが有限である条件下において、検出器が特定の情景をより良好に処理する能力を備えようとする場合、通常は一連の一般的環境を処理する能力を喪失することになる。甚だしい場合には、検出器の調整過程において過度にオンラインサンプルに依存すると、増分学習の効果が大幅に下落し、一般応用条件下における性能が顕著に低下するばかりではなく、場合によっては、直面する特殊環境下においても過訓練現象が出現する可能性もある。そのため、現在、オフライン訓練サンプルの不足問題を補うばかりではなく、検出器の性能も大幅に低下させない検出器訓練方法が必要とされている。また、連続ＡｄａＢｏｏｓｔアルゴリズムについての検出器訓練アルゴリズムも必要とされている。

そのため、本発明の１つの目的は、増分学習の方法を利用してオフライン訓練サンプルの不足問題を補うことができ、検出器の性能も大幅に低下させない特定被写体検出装置及び検出方法を提供することにある。

本発明の一方の面に基づき、本発明では特定被写体検出装置が提供されており、当該特定被写体検出装置は、検出対象画像を入力するための入力ユニットと、各々が、前記画像を弱分類するための１つまたはより多くの弱分類ユニットを含み、前記検出対象画像を強分類するための１つまたはより多くの強分類ユニットと、前記弱分類ユニットが使用するテンプレートを記憶する記憶ユニットと、前記強分類ユニットの分類結果に基づき、前記画像が前記特定被写体を含むか否かを判断する判断ユニットとを含み、その特徴は、前記特定被写体検出装置は、増分学習用のデータ、つまり増分学習サンプル、言い換えると、当該またはその他の特定被写体検出装置が検出漏れまたは誤報したデータを入力するための増分サンプル入力ユニットと、前記増分サンプル入力ユニットが入力した前記増分学習サンプルに基づき、前記記憶ユニットが記憶する前記弱分類テンプレートを更新するための学習ユニットとを更に含む点にある。

本発明の別の面に基づくと、特定被写体検出装置の学習装置が提供されており、前記特定被写体検出装置は、１つまたはより多くの強分類ユニットを含み、前記強分類ユニットは、弱分類テンプレートを利用して入力された画像に対して特定被写体を含むか否かの判断を実施する１つまたはより多くの弱分類ユニットを含み、前記学習装置は、当該またはその他の特定被写体検出装置の運転中に検出漏れまたは誤報されたデータである増分学習サンプルを利用して前記弱分類テンプレートを更新し、前記学習装置は、入力された増分学習サンプルに基づき、最適化パラメータを利用して弱分類テンプレートに対して最適化を実施する最適化度を算出するための最適化度算出部と、前記最適化度算出部の算出結果に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足しているか否かを判断する判断ユニットと、前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していないと判断すると、前記最適化パラメータを更新する最適化パラメータ更新ユニットと、前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していると判断すると、前記弱分類テンプレートを更新するテンプレート更新ユニットとを含む。

本発明の更に別の面に基づくと、本発明では特定被写体検出装置の学習方法が提供されており、前記特定被写体検出装置は、１つまたはより多くの強分類ユニットを含み、前記強分類ユニットは、弱分類テンプレートを利用して入力された画像に対して特定被写体を含むか否かの判断を実施する１つまたはより多くの弱分類ユニットを含み、前記学習方法は、各弱分類器に対する、当該またはその他の特定被写体検出装置の運転中に検出漏れまたは誤報されたデータである増分学習サンプルを入力する入力ステップと、入力された増分学習サンプルに基づき、最適化パラメータを利用して弱分類テンプレートに対して最適化を実施する最適化度を算出するための最適化度取得ステップと、前記最適化度取得ステップの算出結果に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足しているか否かを判断する判断ステップと、前記判断ステップで前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していないと判断されると、前記最適化パラメータを更新する最適化パラメータ更新ステップと、前記判断ステップで前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していると判断されると、前記弱分類テンプレートを更新するテンプレート更新ステップとを含む。

注意すべきは、上記の概要説明及び以下の詳細説明はいずれも例示しているに過ぎず、その主旨は本発明に対して解釈説明を実施することにあり、本発明の保護範囲を制限するものではない点である。

以下においては、添付図を参照して本発明の実施例について詳細に説明する。添付図において、
図１には従来技術における検出器の機能階層ブロック図が示されている。 図２には従来技術におけるオンラインＢｏｏｓｔｉｎｇアルゴリズムの流れが示されている。 図３には増分学習の顔検出の枠組における位置が示されている。 図４には本発明に基づく１つの実施例における特定被写体検出装置１０の機能ブロック図が示されている。 図５には強分類器ユニットのウォーターフォールモード接続及びベクトルツリーモード接続の見取図が示されている。 図６には弱分類ユニットの機能ブロック図が示されている。 図７には本発明に基づく１つの実施例における学習ユニットの機能ブロック図が示されている。 図８には本発明に基づく１つの実施例における最適化度算出部１３１のブロック図が示されている。 図９には本発明に基づく１つの実施例における最適化度算出ユニット１３１４のブロック図が示されている。 図１０には本発明に基づく別の実施例における最適化度算出ユニット１３１４のブロック図が示されている。 図１１にはオンラインサンプルに基づき修正される各類別の尤度関数が示されている。 図１２には領域分割弱分類器からなる強分類器の予測の流れが示されている。 図１３には強分類器の予測過程において関連する３つの空間及び２つの段階が示されている。 図１４には本発明に基づく実施例の増分学習法の流れ図が示されている。 図１５には最適化度を算出する１つの実施例の流れ図が示されている。 図１６は文字記述方式で示された本発明における増分学習法の流れ図である。 図１７には増分学習アルゴリズム及び連合学習アルゴリズムのオフライン測定サンプル及びオンライン測定サンプル上におけるエラー率の変化情況が示されている。 図１８にはオンライン訓練サンプル数がそれぞれ０、１０、１００及び２００である場合における増分学習法及び連合学習法のオフライン測定試験エラー率及びオンライン測定試験エラー率が示されている。 図１９には増分学習法が検出器を支援して特殊環境下における顔検出問題の処理を向上させる効果が示されている。 図２０には増分学習前後における検出器のＣＭＵ＋ＭＩＴ正面顔測定集合上での検出精度の変化情況が示されている。

以下においては、添付図を参照して本発明の実施例について詳細に説明する。本発明では増分学習法が採用されている。図３には増分学習の顔検出の枠組における位置が示されている。図３に示されている通り、顔検出の枠組全体において、増分学習は「オフライン訓練の有益な補充」との役割を果たす。オフライン訓練過程に採用されている訓練サンプル（「顔写真」及び「背景写真」）はすべての応用条件をカバーできないため、実際のオンライン検出過程においては、常に検出漏れ及び誤報が出現する。特に一連の特殊な環境条件下において（例えば光線の照射が非常に劣る、顔部に明らかな遮蔽が出現するなどの場合）、オフライン訓練により得られる検出器は往々にして満足のゆく検出精度に到達することはできない。そのため、本明細書では増分学習法が提出されており、末端ユーザがオンライン検出過程で収集した検出漏れ及び誤報を利用し、現在の顔検出器に対して速やかかつ効果的な調整を実施して、特殊な応用環境により良好に適応させるとともに、検出器本来の良好な拡張性能は保有されるため、依然として一般条件下における顔検出問題に用いることは可能である。時間と労力を費やすオフライン学習過程と異なり、検出器の増分学習過程では末端ユーザの非常に少ない計算資源（計算時間及び記憶空間の両方面を含む）を消費する必要があるだけであるため、各種の顔検出プラットホーム及び設備上に広範に応用可能である。

注意すべきは、本明細書では顔の検出を例として本発明における特定被写体検出方法及び検出装置について説明しているが、本発明で言及される特定被写体には顔以外の事物、例えば自動車、特定の動物などとすることもできる点である。

図４には本発明に基づく１つの実施例における特定被写体検出装置１０の機能ブロック図が示されている。図４に示されている通り、本発明に基づく１つの実施例の特定被写体検出装置（以下においては、理解の便宜を図るため、顔検出装置とも称する）１０には、前記特定被写体検出装置が検出モードと学習モードとの間で互いに切り換わるように、前記特定被写体検出装置のモードのモード状態を切り換えるための切換ユニット（切換装置）１１と、前記切換ユニット１１が前記特定被写体検出装置１０のモード状態を検出モードに切り換える際に検出対象画像を入力し、前記切換ユニット１１が前記特定被写体検出装置１０のモード状態を学習モードに切り換える際に増分学習用のデータ、つまり増分学習サンプルを入力する（その際、当該入力ユニットは増分サンプル入力ユニットとも称される）入力ユニット１２と、各々が、前記画像を弱分類するための１つまたはそれよりも多い弱分類ユニット１８を含み、前記画像を強分類するための１つまたはそれよりも多い強分類ユニット１４と、前記弱分類器１８が使用する弱分類テンプレート及び／または前記強分類器１４が使用する強分類テンプレートを記憶する記憶ユニット１５と、前記強分類ユニットの分類結果に基づき、前記画像が前記特定被写体を含んでいるか否かを判断する判断ユニット１６と、前記切換ユニット１１が前記特定被写体検出装置１０のモード状態を学習モードに切り換える際に、前記増分サンプル入力ユニット１２により入力された増分学習サンプルに基づき、前記記憶ユニットが記憶する前記テンプレートを更新する学
習ユニット１３とが含まれる。簡潔を期するため、図内には強分類器だけが示されている。

注意すべきは、図４で示されているブロック図において、学習ユニットは検出装置（検出器）１０内に、検出装置の１つのモジュールとして組み込まれている点であるが、別の実施例において、学習ユニットは検出装置１０のその他のモジュールと分離することも可能である。この場合には、学習モジュールを検出装置１０と接続する際に、増分学習を実施する。その際には、切換ユニット１１を省略することが可能である。

また、本明細書において、前後の文章に基づき、「検出対象画像」とは、識別対象の画像全体を指すことができ、検出器により前処理（例えばウィンドウ処理など）が施された後の弱分類器により処理すべき画像または画像ブロックを指すこともできる。

本発明において、増分学習サンプルはユーザが収集した少量の検出漏れ及び誤報である。これらの検出漏れ及び誤報は当該検出装置自身からとすることができ、当該検出装置と同一のその他の検出装置からとすることもできる。前記検出漏れ及び誤報が当該検出装置自身からである場合、前記増分サンプル入力ユニットは、当該検出装置の運転中において検出漏れまたは誤報した画像を記録するための記録ユニットを含むことができる。前記検出漏れ及び誤報がその他の検出装置である場合、当該検出装置はネットワーク（例えばインターネット、内部ネットワーク、ローカルエリアネットワークなど）を介してこれらのデータを受信するか、または磁気ディスク、ＣＤ、ＶＣＤ、ＤＶＤ、フラッシュメモリなどのメディアを介してそれらの検出漏れまたは誤報を受信することができ、この場合、前記増分サンプル入力ユニットは、前記その他の検出装置の運転中において検出漏れまたは誤報した画像を受信するための受信ユニットを含むことができる。明らかに、入力ユニットは前記登録ユニット及び受信ユニットの両者とすることができる。

本発明において、前記１つまたはそれよりも多い強分類ユニットはウォーターフォールモードで接続することができ、ベクトルツリーモードで接続することもできる。図５には強分類器ユニットのウォーターフォールモード接続及びベクトルツリーモード接続の見取図が示されている。そのため、前後の文章に基づくと、強分類ユニットに対する更新、訓練は、おそらく当該強分類ユニットを構成する弱分類ユニットに対する更新、訓練でもあることを指す。また、前後の文章に基づくと、強分類ユニットに対する描写は弱分類ユニットに対する描写でもある。このような前後の文章において、このような描写は当業者の混乱または誤解は引き起こさない。

図６には弱分類器ユニット１８の機能ブロック図が示されている。図６に示されている通り、前記弱分類ユニット１８には、入力されたサンプルを実例空間における一連の互いに交わらないサブ区間のうちの１つに区分するためのサブ区間判定ユニット１８１と、前記サブ区間判定ユニットの判定結果に基づき、サブ区間弱分類テンプレートに応じて前記サンプルに対して弱分類を実施する弱分類確定ユニット１８２とが含まれる。前記サブ区間判定ユニット１８１には、特徴抽出ユニット１８１１及び空間マッピング部１８１２が含まれる。好適には、特徴抽出ユニット１８１１は入力された対象の粗密粒度の特徴を抽出し、当然ながらその他の特徴も抽出する。空間マッピング部１８１２は区分線形関数を利用して前記特徴抽出ユニット１８１１により抽出された特徴に基づき前記入力された対象を実例空間に区分された若干の互いに交わらないサブ空間にマッピングする。当然ながら区分線形関数を採用せず、その他の関数を採用することもでき、本実施例においては、領域分割の弱分類器の要求を満足するだけでよい。つまり、本発明において、上記の粗密粒度の特徴を区分線形関数に結合しているのは１つの例に過ぎない。弱分類確定ユニット１８２はサブ区間弱分類テンプレートを利用してサブ区間判定ユニット１８１の判定結果に基づき前記入力された対象を弱分類するために用いる。後ほど、弱分類器の操作につい
てより詳細に記述する。

前記記憶ユニット１５は前記サブ区間弱分類テンプレートを記憶し、前記学習ユニット１３は前記入力ユニット１２により入力された増分学習サンプルに基づき、前記記憶ユニットが記憶する各前記サブ区間弱分類テンプレートを更新する。

本発明において、サブ区間弱分類テンプレートは二次元テーブル（分類表）、関数などとすることができ、当業者が熟知する各種の形式を採用することができ、それを利用して空間マッピング部１８１２のマッピング結果（サブ区間のインデックス、名称などとすることができる）に基づき検出対象を分類することができるだけでよい。

図７には本発明に基づく１つの実施例における学習ユニットの機能ブロック図が示されている。図７に示されている通り、本発明に基づく１つの実施例の学習ユニット１３には、最適化度算出部１３１、判断ユニット１３２、最適化パラメータ更新ユニット１３３、テンプレート更新ユニット１３４、及び増分学習サンプル集合更新ユニット１３５が含まれている。最適化度算出部１３１は入力された増分学習サンプルに基づき最適化パラメータを利用して弱分類テンプレートに対して最適化を実施する最適化度を算出するために用いる。後記の通り、学習ユニットの学習過程は実際には増分学習サンプルに基づき最も適正化された最適化パラメータ（Δｃ）を取得する過程である。この過程では最適化パラメータを不断に取得するとともに、当該最適化パラメータの適合性を判断する過程である。過程を開始する際には、最初の最適化パラメータ（例えば、Δｃを０に設定する）を無作為に設定することができる。当該過程は後述の最速下降法を採用して実現することができ、その他の方法を採用して実現することもできる。最速下降法に代替可能なアルゴリズムは非常に多く、例えばニュートン法、擬似ニュートン法である。最適化度は後述の目標損失関数の傾きとすることができる。最適化パラメータはテンプレートの調整量に対応し、後述のルックアップテーブルの調整量にも対応する。

判断ユニット１３２は前記最適化度算出部の算出結果に基づき、前記最適化パラメータを利用して前記弱分類テンプレート（例えば、サブ区間弱分類テンプレート）に対して実施する最適化は一定の条件（例えば、前記傾きは所定値を下回っているか否か）を満足しているか否かを判断する。前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していないと判断すると、前記最適化パラメータ更新ユニット１３３が前記最適化パラメータを更新する、つまり新たな最適化パラメータを取得する。０．６１８法などにより組合せ係数を取得し、当該組合せ係数を利用して新たな最適化パラメータを取得することができる。ここにおける０．６１８法は例に過ぎず、その他の方法を採用することもできる。０．６１８法は最速下降法と組み合わせて使用する線形探索法として、Ｆｉｂｏｎａｃｃｉ法、補間法により代替可能である。実際に目標損失関数の分析性が非常に良好であるのは、凸関数であるため、多くの最適化法を共に当該目標関数の最適化に用いることができる。前記判断ユニット１３２が前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は前記条件を満足していると判断すると、前記テンプレート更新ユニット１３４が前記弱分類テンプレートを更新する。同時に、前記学習ユニット１３は、前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していると判断すると、前記増分学習サンプルにより構成される集合中の増分学習サンプルを減少させて、新たな前記増分学習サンプルの集合を得て、後記の弱分類器のテンプレートの更新に用いる増分学習サンプル更新ユニット１３５を更に含む。具体的には、前記増分学習サンプルにおける更新された後の弱分類器のサンプルを破棄する。本明細書の前後の文章において、弱分類テンプレートの更新は時には弱分類器の更新とも称される。

前記弱分類器の弱分類テンプレートの更新が完了すると、学習ユニットの役割は終了する。

図８には本発明に基づく１つの実施例における最適化度算出部１３１のブロック図が示されている。図８に示されている通り、本発明に基づく最適化度算出部１３１には、増分学習サンプルの修正係数を確定するための修正係数確定ユニット１３１１と、前記最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して実施する最適化がもたらす第一目標損失を算出するための第一目標損失算出ユニット１３１２と、入力された前記増分学習サンプルに基づき、前記最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して実施する最適化がもたらす第二目標損失を算出するための第二目標損失算出ユニット１３１３と、前記第一目標損失算出ユニット１３１２が算出した第一目標損失、前記第二目標損失算出ユニット１３１３が算出した第二目標損失、及び前記修正係数確定ユニット１３１１が確定した増分サンプルの修正係数に基づき、前記最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して最適化を実施する最適化度を算出する最適化度算出ユニット１３１４とが含まれる。

第一目標損失は最適化の一般環境処理能力に対する影響を示しており、後記における損失関数のオフライン部分に対応している。第二目標損失は最適化の特定情景処理能力に対する影響を示しており、後記における損失関数のオンライン部分に対応している。後ほどこの両部分の計算についてより詳細に記述する。前記第一目標損失算出ユニットはナイーブ・ベイズ法を採用して前記第一目標損失を算出することができる。後ほど前記第一目標損失算出ユニット１３１２の第一目標損失に対する計算及び前記第二目標損失算出ユニット１３１３の第二目標損失に対する計算について詳細に記述する。

図９には本発明に基づく１つの実施例における最適化度算出ユニット１３１４のブロック図が示されている。図９に示されている通り、本発明に基づく最適化度算出ユニット１３１４には、第一乗算部１３１４１、第二乗算部１３１４２、加算部１３１４３、及び導出部１３１４４が含まれ、前記第一乗算部１３１４１は１と前記修正係数確定ユニット１３１１により確定された前記修正係数との差と前記第一目標損失とを互いに乗じるために用い、前記第二乗算部１３１４２は前記修正係数と前記第二目標損失とを互いに乗じるために用い、前記加算部１３１４３は前記第一乗算部の乗算結果と前記第二乗算部の乗算結果とを互いに加算するために用い、前記導出部１３１４４は前記加算部の加算結果に対して導出を実施するために用いる。後ほど式２及び式３０を結合して修正係数について詳細に説明する。

図１０には本発明に基づく別の実施例における最適化度算出ユニット１３１４のブロック図が示されている。図１０に示されている通り、本発明に基づく最適化度算出ユニット１３１３には、第一乗算部１３１４１、第二乗算部１３１４２、第一導出部１３１４６、第二導出部１３１４７及び加算部１３１４３が含まれ、前記第一乗算部１３１４１は１と前記修正係数との差と前記第一目標損失とを互いに乗じるために用い、前記第二乗算部１３１４２は前記修正係数と前記第二目標損失とを互いに乗じるために用い、前記第一導出部１３１４６は前記第一乗算部１３１４１の乗算結果に対して導出を実施するために用い、前記第二導出部１３１４７は前記第二乗算部１３１４２の乗算結果に対して導出を実施するために用い、前記加算部１３１４３は前記第一導出部の導出結果と前記第二導出部の導出結果とを互いに加算するために用いる。

以下においては、領域分割の連続ＡｄａＢｏｏｓｔを例として本発明の実施例についてより詳細な解釈並びに説明を実施する。

先ず、本発明における領域分割の連続ＡｄａＢｏｏｓｔの増分学習アルゴリズムについ
て紹介する。

ＡｄａＢｏｏｓｔアルゴリズムの本質は、加法モデル（ａｄｄｉｔｉｖｅ ｍｏｄｅｌ）を利用して指数損失に基づく目標関数（以下においては、損失関数とも称する）を徐々に最適化し、最終的にｌｏｇｉｓｔｉｃ回帰（ｌｏｇｉｓｔｉｃ ｒｅｇｒｅｓｓｉｏｎ）の目的に到達することにある。その鍵となる目標関数（損失関数）は式（１）に示されている通りである。

数学的期待に基づき表示される損失関数形式において、実例ｘ及び類別ラベルｙは２つのランダム変数（ｙ＝＋１が正例に対応し、ｙ＝−１が反例に対応する）と見なされ、数学的期待はそれらにより構成される結合確率密度ｐ（ｘ，ｙ）に基づく。上記式１において、（ｘ_ｉ，ｙ_ｉ）は第ｉのサンプルを示し、ｘ_ｉは実例、ｙ_ｉは類別ラベルである。Ｌ（Ｆ（ｘ））は強分類器Ｆ（ｘ）が対応する目標損失関数を示し、ｗ^０ _ｉは第ｉのサンプルの初期重みを示し、ｐ（ｘ，ｙ）は実例及び類別ラベルを２つのランダム変数とする結合確率密度関数を示す。

オンラインサンプル（本発明においては増分学習サンプルに対応する）の導入によりこの結合確率密度関数には一定程度の変化が発生する。正反例サンプルの間で相互に干渉しないことを前提とし、式２に示されている通り、当該変化はそれぞれ２つの類別の尤度（ｌｉｋｅｌｉｈｏｏｄ）に対して線形修正を実施することにより体現することができる。

そのうち、Ｐ_ｏｆｆ（ｘ｜ｙ）及びＰ_ｏｎ（ｘ｜ｙ）はそれぞれオフラインサンプル及びオンラインサンプルに対応する類別ｙの尤度関数であり、α_ｙは類別ｙに対する線形修正係数である。この修正過程は図１１により示すことができる。図１１にはオンラインサンプルに基づき修正される各類別の尤度関数が示されている。

当該修正後の尤度関数に基づくと、ＡｄａＢｏｏｓｔアルゴリズムの損失関数（式１）は以下の通りとなる。

そのうち、

は、それぞれ類別ｙのオフラインサンプル及びオンラインサンプル上における損失関数を示す。この場合、４つの部分の損失関数（オフライン／オンライン、正例／反例）は２つの類別の先験確率Ｐ（ｙ）及び修正係数α_ｙにより線形組合せが実施されて、オンラインサンプルに導入された後のＡｄａＢｏｏｓｔアルゴリズムの混合目標損失関数（ｈｙｂｒｉｄ ｏｂｊｅｃｔｉｖｅ ｌｏｓｓ ｆｕｃｔｉｏｎ）が得られる。そのため、ＡｄａＢｏｏｓｔアルゴリズムの枠組下において、増分学習アルゴリズムのテーマは、既存の強分類器^Ｆ（ｘ）に対してどのように適当な調整を実施し、更新後の確率分布状況（式２）下においてできるだけ小さい損失値を取得するかである。言い換えると、ＡｄａＢｏｏｓｔアルゴリズムを基礎とする増分学習過程は式３に示されている損失関数に対して最適化を実施する過程である。

増分学習アルゴリズムの最適化過程には、主に以下の３つの面の問題がある。
先ず、学習機器（ｌｅａｒｎｉｎｇ ｍａｃｈｉｎｅ）として、強分類器Ｆ（ｘ）には大量の調整可能なパラメータが含まれる。そのうちどのパラメータが増分学習過程における調整に適合しているのか、どのパラメータはオフライン学習時に確定されて改変不能であるのか、これは最適化アルゴリズムがまず直面しなければならない問題である。選択を誤った最適化対象はおそらく最適化アルゴリズムの複雑度の程度を大幅に高めることになる。

次に、オンライン訓練サンプルが提供されているため、増分学習アルゴリズムは非常に簡単に式５内の数学的期待値を重み付き和分に転化させて混合目標損失関数（式３）中のオンライン部分を計算することができる。しかし、オンライン学習に類似し、増分学習も使用済みの訓練データは保存していない。従って、オフライン訓練サンプルは増分学習過程について述べると使用不可である。そのため、どのようにして混合目標損失関数中のオフライン部分（つまり式４）に対して有効な計算を実施するのかが増分学習アルゴリズムの鍵を握る問題となり、アルゴリズム全体の主な難点でもある。

最後に、混合目標損失関数はオフライン及びオンラインの２つの部分から線形修正係数α_ｙを組み合わせることにより得られる。実質上、係数α_ｙの採用値の大きさが増分学習アルゴリズムの最適化過程におけるオフラインサンプル及びオンラインサンプルに対する着目の程度を決定する。係数α_ｙを調整することにより、増分学習後に得られる強分類器の一般環境（オフラインサンプルにより描写）及び特殊状況（オンラインサンプルにより描写）に対する着目の程度を評価することができる。従って、どのようにして適当な修正係数を組み合わせるかも増分学習が回避できない問題である。

以下においては、先ず方向性の問題から着手し、領域分割の連続ＡｄａＢｏｏｓｔアルゴリズムの分類予測の流れを分析することにより、増分学習過程における強分類器内の調整可能なパラメータを確定し、次いで、ナイーブ・ベイズ法と同一の戦略を採用して、混合目標損失関数中のオフライン部分に対して合理的な近似を実施し、その後、混合目標損失関数におけるオンライン部分の計算方法、及び増分学習過程の混合目標損失関数をどのようにして最適化するのかについて簡単に紹介し、最後に、線形修正係数α_ｙの自己適応調整方法を提出する。

その他の伝統的なＢｏｏｓｔｉｎｇアルゴリズムはどのようにして適当な弱分類器の組合せ係数を選択するのかに着目しているのとは異なり、弱分類器が任意の大きさの実数を出力して分類予測結果に対する信頼度を示すことが許容されているため、Ｒ．Ｅ．Ｓｃｈａｐｉｒｅ及びＹ．Ｓｉｎｇｅｒにより提出されている領域分割の連続ＡｄａＢｏｏｓｔアルゴリズム中には式として明記されている弱分類器の組合せ係数選択過程はなく、弱分類器の訓練過程に組み入れられている。簡単に述べると、領域分割の弱分類器の設計理念は、弱分類器ｆ（ｘ）に領域分割関数ｒ（ｘ）の助けにより、サンプルが属する実例空間
Ｘ（ｉｎｓｔａｎｃｅ ｓｐａｃｅ）を一連の互いに交わらないサブ区間｛Ｘ_１，…，Ｘｎ｝に区分させるとともに、第ｚのサブ空間に入るすべての実例に対して同一の弱分類予測結果ｃ_ｚを出力するというものであり、つまり以下の通りである。

この弱分類予測過程において、ｚは実例ｘの領域分割関数ｒ（ｘ）下における観測結果（ｏｂｓｅｒｖａｔｉｏｎ）と見なすことができる。ルックアップテーブル関数（ｌｏｏｋ−ｕｐ−ｔａｂｌｅ ｆｕｎｃｔｉｏｎ）を用いると、ｓ（ｚ）は観測量ｚから予測結果ｃ_ｚまでのマッピング関係を示すため、弱分類器ｆ（ｘ）は以下の通り表示することが可能となる。

強分類器

が実例ｘに対して実施する分類予測は、例えば図１２に示されている流れとして表示することができる。

そのうち、観測結果ｚ_１，…，ｚ_Ｔはそれぞれ異なる弱分類器に属する。それらを１つに組み合わせると、当該強分類器の予測過程における実例ｘに対する観測ベクトル

が構成され、そのうちＺはこのベクトルが属するＴ次元観測空間（ｏｂｓｅｒｖａｔｉｏｎ ｓｐａｃｅ）を示している。これらの異なる弱分類器に属する観測量からそれぞれ対応するルックアップテーブルにより算出される弱予測結果が累算されると、強分類器Ｆ（ｘ）の実例ｘに対する予測の最終結果ｙ´∈Ｙ⊆Ｒが得られ、そのうち、Ｙは強分類器の予測空間（ｐｒｅｄｉｃｔｉｏｎ ｓｐａｃｅ）を示している。この最終的な予測結果の符号は強分類器による当該実例が属する類別に対する判定を示しており、その絶対値の大きさは強分類器のこの類別に対する判定結果の信頼の程度を示している。このような方式により、強分類器Ｆ（ｘ）は入力としての実例ｘと出力としての予測結果ｙ´との間にある種の有効なマッピング関係を構築する。観測空間Ｚの導入は、強分類器の予測の流れＦ（ｘ）：Ｘ→Ｙを２つの異なる段階：Ｒ（ｘ）：Ｘ→Ｚ及びＳ（ｚ）：Ｚ→Ｙに分割する。そのうち前者は結合領域分割関数（ｊｏｉｎｔ ｄｏｍａｉｎ−ｐａｒｔｉｔｉｏｎｉｎｇ ｆｕｎｃｔｉｏｎ）であり、

それは実例空間Ｘから観測空間Ｚへの変換を達成している。後者は集約ルックアップテーブル関数（ａｇｇｒｅｇａｔｅｄ ｌｏｏｋ−ｕｐ−ｔａｂｌｅ ｆｕｎｃｔｉｏｎ）であり、

それは観測ベクトルｚに基づき強分類器の予測結果の計算を実施する。そのうち

は、第ｉの弱分類器内のルックアップテーブル関数の第ｚ_ｉのサブ区間に対する定数予測結果である（前記式６参照）。結合領域分割関数Ｒ（ｘ）、集約ルックアップテーブル関数Ｓ（ｚ）と強分類器Ｆ（ｘ）との間の関係、及び実例空間Ｘ、観測空間Ｚと予測空間Ｙとの間の関係は、図１３により明確に表示することができる。

結合領域分割関数Ｒ（ｘ）は強分類器中における各々の弱分類器の実例空間Ｘに対する区分方式を決定する。オフライン学習過程においては、適当な区分方式を確定するため、訓練アルゴリズムはある種の区分性判別準則−例えばＫＬ発散やＢｈａｔｔａｃｈａｒｙｙａ距離など−の助けにより各類別の実例空間Ｘ内における分布状況について細緻な非パラメータ化分析を実施しなければならない。これは大量の訓練サンプルがあってはじめて完成する作業であるが、増分学習過程はこの条件を備えていない。少量のオンライン訓練サンプルを有するだけであるため、増分学習アルゴリズムはＲ（ｘ）を改変して大きな程度で混合目標損失関数に影響を及ぼすオフライン部分（式４）を効果的に予測することができない。これは強分類器Ｆ（ｘ）にとっては、Ｒ（ｘ）中のパラメータに対して一連の微小な調整を実施するだけであれば、オフライン訓練サンプルに代表される一般環境を処理する際に、想定外の重大な結果を招く可能性があることを意味している。そのため、本発明者らが提出する増分学習アルゴリズムではどのようにして少量のオンライン訓練サンプルに基づき集約ルックアップテーブル関数Ｓ（ｚ）を適当に調整することのみに着目しており、結合領域分割関数Ｒ（ｘ）はサンプルが充足するオフライン学習過程において一回性で確定し、かつ、増分学習過程においては改変しない。

本明細書の特定被写体（例えば、顔）の検出アルゴリズムにおいて、弱分類器は粗密粒度特徴により入力としての高次元実例を一次元特徴空間にマッピングした後、区分線形関数に基づきそれを等間隔に区分するとともに、それにより最終的な分類予測結果を算出する。この種の方法は正にＲ．Ｅ．Ｓｃｈａｐｉｒｅ及びＹ．Ｓｉｎｇｅｒにより提出されている領域分割の弱分類器概念の具体的な実現形式である。オフライン訓練過程において、強分類器の結合領域分割関数Ｒ（ｘ）は各々の弱分類器の粗密粒度特徴と区分線形関数の上下境界及びサブ区間の数量により確定され、集約ルックアップテーブル関数Ｓ（ｚ）は各々のサブ区間内に位置する正例及び反例サンプルの重み分布状況に基づく計算により得られる。

Ｓ（ｚ）は各々の弱分類器のルックアップテーブルの出力結果をパラメータとするため（式９参照）、それはＳ（ｚ：ｃ）と表示することもできる。そのうちｃ＝（ｃ_１１，ｃ_１２，…，ｃ_２１，…，ｃ_T１，…）であり、すべてルックアップテーブルの出力結果により構成されるパラメータベクトルである。その場合、増分学習アルゴリズムの役割は、実際上、オフライン訓練により確定される集約ルックアップテーブル関数Ｓ（ｚ：ｃ）を基礎として、適当なパラメータ調整量Δｃを探索し、パラメータ更新後の強分類器Ｆ（ｘ）＝Ｓ（Ｒ（ｘ）：ｃ＋Δｃ）を最適化可能とさせるとともに、オフライン及びオンラインサンプルのＡｄａＢｏｏｓｔアルゴリズムの混合目標損失関数（式３）を考慮することである。

混合目標損失関数におけるオフライン部分の近似計算
以下においては、第一目標損失算出ユニット１３１２の計算に対応するように、混合目標損失関数におけるオフライン部分の近似計算について紹介する。

結合領域分割関数Ｒ（ｘ）は実例空間Ｘから観測空間Ｚへのマッピング関係を唯一確定するため（図１３参照）、Ｒ（ｘ）が与えられることを前提として、増分学習アルゴリズムは混合目標損失関数におけるオフライン部分（式４）の計算を実例空間Ｘから観測空間Ｚ中に、以下の通り変換することができ、

そのうち

は、類別ｙの観測空間Ｚにおける尤度関数である。

定義式９に基づくと、パラメータ更新後の集約ルックアップテーブル関数は実際には以下の通り２つの部分の和である。

そのため、混合目標損失関数におけるオフライン部分（式１１）は以下のようにも表示することができる。

そのうち、Ｌ（Ｐ_ｏｆｆ（ｘ｜ｙ）：ｃ）及びＬ（Ｐ_ｏｆｆ（ｘ｜ｙ）：ｃ＋Δｃ）はそれぞれ更新前後の強分類器の混合目標損失関数におけるオフライン部分に対応する略記形式であり（完全な形式はそれぞれＬ（Ｐ_ｏｆｆ（ｘ｜ｙ），Ｓ（Ｒ（ｘ）：ｃ））及びＬ（Ｐ_ｏｆｆ（ｘ｜ｙ），Ｓ（Ｒ（ｘ）：ｃ＋Δｃ））、

は、更新前の集約ルックアップテーブル関数Ｓ（ｚ：ｃ）に基づく指数損失の重み付け後の、類別ｙの観測空間Ｚにおける尤度関数である。

であるため、それは依然として確率分布である。

明らかに、混合目標損失関数のオフライン部分の計算過程において、どのようにしてこの重み付き尤度関数

を取得するのかが鍵を握る問題となる。しかし、増分学習過程においては何らのオフライン訓練サンプルも保存されないため、当該アルゴリズムはサンプリング和分方式によりこの重み付き尤度関数をシミュレートすることはできない。同時に、オフライン訓練過程において記録されているこの尤度関数の分布状況もおそらくは不利であるため、弱分類器の数量の増加に伴い、記録に必要とされる記憶空間は指数級数的な増加傾向を呈することになる。そのため、本発明者らは増分学習アルゴリズムにおいて、以下の通り、各観測量上の周辺分布の積を採用して当該重み付き尤度関数を近似させるように提起している。

そのうち、

は、重み付き尤度関数

の観測量ｚ_ｉ上における周縁確率密度関数である。

この種の近似方程式は実際上はナイーブ・ベイズ法である。それは増分学習アルゴリズムが記録した結合確率密度関数の各観測量上における周辺分布状況だけを必要としている。そのため、弱分類器の数量（つまり観測量の数量）の増加に伴う重み付き尤度関数を記録する記憶空間の増加速度は、元来の指数級数レベルから線形級数レベルに低下する。この種の近似方法を式１６に示されている混合目標損失関数のオフライン部分（式１４）の計算過程中に応用すると、集約ルックアップテーブル関数Ｓ（ｚ：ｃ）の線形性質に基づき（式９参照）、以下の通りとなる。

そのうち、

は、混合目標損失関数のオフライン部分の近似結果を示しており、

は、観測量ｚ_ｉ上の重み付き周辺尤度関数

がパラメータ調整量Δｃの導入により被った指数損失を示している。このように、求積及び和分の前後順を調整すると、前記で紹介した記憶空間の複雑度と同様に、混合目標損失関数のオフライン部分の計算時間の複雑度も指数級数レベルから線形級数レベルに低下する。

ここで指摘すべきは、Δｃ＝０、つまり集約ルックアップテーブル関数のパラメータに何らの調整も施さないと、Ｍ_ｉ＝１，ｉ＝１，…，Ｔとなる点である。そのため、以下の通りとなる。

このようであるばかりではなく、Δｃのうちのいずれか１つのパラメータΔｃ_ｐｑ（つまり第ｐのルックアップテーブル関数が第ｑのサブ区間に出力する予測結果）に対して偏導関数を計算すると、式６−１４に基づき、以下の通りとなり、

式１８に基づき、以下の通りとなる。

Δｃ＝０の場合は、式２１及び式２２に基づき、更に以下の通りとなる。

従って、この２つの混合目標損失関数はΔｃ＝０の場合には、同一の関数値を有するばかりではなく（式２０）、その傾きも完全に同一である（式２３）。従って、テイラー展開の角度から述べると、周辺分布関数を採用して計算された

は、

があまり大きくないとの条件下において、結合分布関数を採用して計算された

の合理的な近似である。

ここまでですでに証明されている通り、周辺分布関数の積を採用して結合分布関数に近似させるこの種の方法は、混合目標損失関数におけるオフライン部分の計算過程の空間的複雑度及び時間的複雑度を指数級数レベルから線形級数レベルに低下させて、アルゴリズムを実際問題の解決に用いることが可能とさせるばかりではなく、パラメータ調整量Δｃの変化が大きくないとの条件下で、近似計算の結果が十分な精度を有することを確保することも可能である。

この種の近似計算における鍵を握る部分として、式１７に示されているオフライン重み付き周辺分布関数

は、増分学習前−つまりオフライン学習過程において−オフラインサンプルの各観測量上における分布に対して統計を取ることにより得られる。その計算過程は以下に示されている通りである。

そのうち、Ｎ^ｙ _ｏｆｆは類別ｙのオフラインサンプル数であり、

混合目標損失関数におけるオンライン部分の正確な計算
現在、すでにどのようにして増分学習アルゴリズム中にナイーブ・ベイズ法を採用して混合目標損失関数におけるオフライン部分を近似計算するのかについては紹介済みである。そのオンライン部分の計算（式５）、つまり第二目標損失算出ユニット１３１３に対応する計算については、オンライン訓練サンプルによりそれが対応する結合分布関数をシミュレートすることが可能であるため、以下の通りとなる。

そのうち、Ｎ^ｙ _ｏｎは類別ｙのオンライン訓練サンプル数であり、Δｃ_{ｉ，ｒｉ（ｘｋ）}は第ｋのサンプルの第ｉの弱分類器ルックアップテーブル関数における対応するサブ区間予測出力の調整量であり、

は、類別ｙにおける第ｋのオンラインサンプルの増分学習過程における対応する初期重みである。それは実質的にはオフライン学習に基づき得られる強分類器の出力Ｓ（Ｒ（ｘ_ｋ）：ｃ）に対して調整を実施して得られる。この重みの含意は従来からのＢｏｏｓｔｉｎｇアルゴリズムと同様であり、体現しているのはいずれも現在の強分類器の当該サンプルに対する区分エラーの程度である。

この混合目標損失関数のオンライン部分の任意のパラメータ調整量Δｃ_ｐｑに対する偏導関数は以下の通りである。

混合目標損失関数の最適化方法
現在、本発明者らは増分学習過程における混合目標損失関数（式３）のオフライン部分及びオンライン部分に対してそれぞれ近似的及び正確な計算方法を提出済みである。増分学習過程において実際に直面する最適化問題を解決するため、以下に示されている近似形式を採用して異なるパラメータ調整量Δｃに対応する混合目標損失関数値を計算するように提起する。

それと正確な結果Ｌ（ｐ（ｘ，ｙ），ｃ＋Δｃ）との唯一の違いは、オフライン部分がナイーブ・ベイズ法により近似計算されている点である。前記ですでに証明されている通り、テイラー展開の角度から述べると、

が大きくないとの条件下において、この近似方法は十分な精度を有している。従って、式２８は増分学習過程における混合目標損失関数に対する合理的な近似である。

式２８は増分学習過程における混合目標損失関数である。式２５はそのうちオンラインの部分であり、式１８はそのうちオフラインの部分である。注意すべきは、式１８においては、ナイーブ・ベイズ法を採用してオフライン部分の目標損失関数に対して合理的な近似を実施している点である。そのため、式２８において、

は正確な目標損失関数であり、

はこの種のオフライン近似法を採用した近似目標損失関数である。当然ながら前記の通り、オフライン部分の目標損失関数を正確に計算することは可能であるが、その場合には計算負担が増大する。

式２７に示されている近似混合目標損失関数はパラメータΔｃに対しては凸関数であることを証明することは困難ではない。この点については、最速下降法を採用して、式２２及び式２６中の偏導関数に基づき、近似混合目標損失関数の傾きを計算し、更に０．６１８法を結合して傾き方向上の線形探索を実施することが可能である。最終的には若干回数の逐次代入の後にその最適化結果が得られる（式２９参照）。つまり、Δｃはルックアップテーブルのある調整量を代表しており、Δｃ^＊はすべての調整量中で目標損失関数を最適化可能な調整量である。

ここにおいて、ａｒｇｍｉｎが示しているのはすべての引き数（ここではΔｃ）の採用値範囲内で関数

を最小化可能な値であり、つまり

はすべての可能な目標損失関数値における最小の１つである。

増分学習の結果は更新後の強分類器Ｆ（ｘ）＝Ｓ（Ｒ（ｘ），ｃ＋Δｃ^＊）である。特に指摘すべきは、従来のオンラインＢｏｏｓｔｉｎｇアルゴリズムの各々の弱分類器に対する調整過程はシーケンシャルな過程（ｓｅｑｕｅｎｔｉａｌ ｐｒｏｃｅｓｓ）であり、調整後に得られる強分類器は逐次最適化の結果（ｓｔａｇｅ−ｗｉｓｅ ｏｐｔｉｍｉｚａｔｉｏｎ）であるが、本明細書で提出されている増分学習アルゴリズムはすべての弱分類器の調整過程についてパラレルに同期可能であり（ｐａｒａｌｌｅｌ ｐｒｏｃｅｓｓ）、調整後に得られる強分類器は全面的な最適化の結果（ｇｌｏｂａｌ ｏｐｔｉｍｉｚａｔｉｏｎ）である点である。

修正係数α _ｙ の自己適応選択方法
式２に基づくと、各オフラインサンプル及び各オンラインサンプルの修正尤度関数に対する貢献はそれぞれ（１−α_ｙ）／Ｎ^ｙ _ｏｆｆ及びα_ｙ／Ｎ^ｙ _ｏｎであることを発見することは困難ではない。そのうち、Ｎ^ｙ _ｏｆｆ及びＮ^ｙ _ｏｎはそれぞれ類別ｙのオフラインサンプル数及びオンラインサンプル数を示している。ここで以下の通り定義可能な

は、類別ｙのオンラインサンプル増強比率（ｒｅｉｎｆｏｒｃｅ ｒａｔｉｏ ｏｆ ｏｎｌｉｎｅ ｓａｍｐｌｅｓ）であり、各オンラインサンプルの尤度関数に対する貢献は数個のオフラインサンプルに相当していることを示している。

実際の応用において、通常、オンラインサンプルはユーザの手作業の標定により徐々に累積されるため、増分学習過程において、オンラインサンプルの数量は常に非常に大きく変化する。その場合、サンプルの数量状況を考慮せずに修正係数α_ｙの大きさを直接指定すると、式３０に基づく、平均での各オンラインサンプルの尤度関数に対する貢献−つまりオンラインサンプルの増強比率λ_ｙ−には激烈な変動が発生する。より合理的な方式は、増分学習過程において、安定したオンラインサンプル増強比率λ_ｙを保持すべきであるというものである。このような場合には、修正係数α_ｙがオンラインサンプル数Ｎ_ｏｎ ^ｙの変化に基づき相応の調整を施す。オンラインサンプルが多いほど、増分学習の最適化過程の混合目標損失関数におけるオンライン部分に対する着目の程度も高くなり、逆もまた然りである。事実上、この種の自己適応のパラメータ選択方法の中心概念は、各オンラインサンプルが発揮する作用がオンラインサンプル総数の変化の影響を受けない点にある。言い換えると、この種のアルゴリズムでは、各オンラインサンプルの損失の目標損失関数における重み付き係数α_ｙ／Ｎ^ｙ _ｏｎとオフラインサンプルの損失の目標損失関数における重み付き係数（１−α_ｙ）／Ｎ^ｙ _ｏｆｆとの比較値を不変に保持させなければならない（式３０参照）。当該作業は修正係数確定ユニット１３１１により達成可能である。

以上においては連続ＡｄａＢｏｏｓｔに基づくアルゴリズムの増分学習装置及び増分学習法について紹介した。本発明は領域分割のＶｅｃｔｏｒ Ｂｏｏｓｔｉｎｇに基づくアルゴリズムの増分学習装置及び増分学習法にも応用可能である。事実上、連続ＡｄａＢｏｏｓｔに基づくアルゴリズムと領域分割のＶｅｃｔｏｒ Ｂｏｏｓｔｉｎｇに基づくアルゴリズムには本質的な違いはない。前記のＲ（ｘ）、Ｓ（ｚ）の概念は依然として不変であり、Ｓ（ｚ）の出力だけがスカラー量からベクトル量となる。

Ｖｅｃｔｏｒ Ｂｏｏｓｔｉｎｇアルゴリズムは連続ＡｄａＢｏｏｓｔアルゴリズムを基礎とする多類別分類アルゴリズムである。両者は同様に指数損失関数に基づき訓練サンプルが分類エラーされる重大さの程度を計測し、また両者は同様に加法モデルを採用して目標損失関数を最適化する。両者の間の最も主要な違いは、連続ＡｄａＢｏｏｓｔアルゴリズムが処理するのは二分類問題であり、分類器の出力はスカラー量の予測結果Ｆ（ｘ）であり、訓練サンプル（ｘ，ｙ）の分類境界（ｍａｒｇｉｎ）はｙＦ（ｘ）であるが、Ｖｅｃｔｏｒ Ｂｏｏｓｔｉｎｇアルゴリズムが処理すべきはより複雑な多類別分類問題であり、分類器の出力はベクトル化された予測結果Ｆ（ｘ）であり、訓練サンプル

の分類境界は

と定義され、その本質投影ベクトル量

と予測結果Ｆ（ｘ）との同時座標空間内におけるスカラー積である点にある。しかし、領域分割の弱分類器を採用とするとの前提の下、Ｖｅｃｔｏｒ Ｂｏｏｓｔｉｎｇアルゴリズムに対応する増分学習アルゴリズムは連続ＡｄａＢｏｏｓｔアルゴリズムと本質的な差異はない。その理由は以下の通りである。
Ｖｅｃｔｏｒ Ｂｏｏｓｔｉｎｇアルゴリズムの枠組下において、増分学習過程の混合目標損失関数は以下の通りである。

そのうち、

である。
連続ＡｄａＢｏｏｓｔアルゴリズムに対応する式３、式４及び式５と比べ、主な違いは、元の類別属性を示すための二値化ランダムスカラー量ｙが多値化されたランダムベクトル量

となっており、分類境界の表示方式もｙＦ（ｘ）から相応に

となっている点にある。但し、これらの変化は本明細書における強分類器観測空間Ｚに対する分析及び把握には影響を及ぼさない。そのため、Ｖｅｃｔｏｒ Ｂｏｏｓｔｉｎｇアルゴリズムの枠組下においては、同様にオフライン訓練過程により結合分割関数Ｒ（ｘ）が確定され、増分学習過程はどのようにしてベクトル化出力の集約ルックアップテーブル関数Ｓ（ｚ）を調整するのかのみに着目する。

前記の方法と同様に、Ｖｅｃｔｏｒ Ｂｏｏｓｔｉｎｇアルゴリズムの枠組下において、増分学習アルゴリズムは依然としてナイーブ・ベイズ法を採用して混合目標損失関数のオフライン部分を近似計算することができ（式３２）、その結果は以下に示されている通りである。

そのうち、Δｃ_ｉ，ｚｉが示しているのは第ｉの弱分類器における第ｚ_ｉのサブ区間の出力結果の変化量である。注意すべきは、その際のルックアップテーブルにおける要素はベクトル量であり、スカラー量ではない点である。その他、式３４は連続ＡｄａＢｏｏｓｔアルゴリズムの対応する式１８とほぼ完全に同一である。混合目標損失関数のオンライン部分（式３３）も同様に式２５と極めて類似した形式で表示することができる。

ここで、Ｖｅｃｔｏｒ Ｂｏｏｓｔｉｎｇアルゴリズムに対応する増分学習過程には前記と同様の傾き下降法を採用することができ、式３１に示されている混合目標損失関数に対して逐次最適化操作を実施して、最終的にオンラインサンプルの調整に基づき得られる強分類器Ｆ（ｘ）＝Ｓ（Ｒ（ｘ）：ｃ＋Δｃ）を取得する。

以下においては、本発明における検出器の増分学習アルゴリズムについて紹介する。

図１４には本発明に基づく実施例の増分学習法の流れ図が示されている。図１４に示されている通り、それには次のステップが含まれる。先ず、ステップ１０１において、適当な増強比率（当該増強比率は１０〜１００の間とすることができる）、既存検出器の各層強分類器の分類器テンプレート、オンラインサンプルの集合を入力する。ここで、各層強分類器の分類器テンプレート、つまり各強分類器が含む弱分類器のテンプレートは、本発明において具体的には、各弱分類器のサブ区間分類テンプレートである。また、ここでの入力は広義に理解すべきであり、ネットワーク上から受信、記憶媒体から取得、手作業での入力など各種の形式を指すことができる。その後、ステップ１０２において、初期化を実施し、初期最適化パラメータ（テンプレート調整量）を設定する。例えばそれをゼロに設定する。ステップ１０３においては、入力された増分学習サンプルに基づき、前記初期最適化パラメータを利用して実施する最適化の最適化度を取得する。本実施例において、前記最適化度とは混合目標関数の傾きを指している。

図１５には最適化度を算出する１つの実施例の流れ図が示されている。図１５に示されている通り、前記最適化度の算出は、修正係数確定ステップ２０１、第一目標損失算出ステップ２０２、第二目標損失算出ステップ２０３、最適化度算出ステップ２０４を含むことができる。

修正係数確定ステップ２０１は、増分学習サンプルの修正係数を確定するために用い、例えば前記式３０に基づき初期化ステップにおいて取得された増強比率を利用して当該修正係数を算出することができる。

第一目標損失算出ステップ２０２では、前記最適化パラメータを利用して前記サブ区間弱分類器テンプレートに対して実施する最適化によりもたらされる第一目標損失を算出する。

第二目標損失算出ステップ２０３では、入力された前記増分学習サンプルに基づき、前記最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して実施する最適化によりもたらされる第二目標損失を算出する。

最適化度算出ステップ２０４では、前記第一目標損失算出ステップ２０２で算出した第一目標損失、前記第二目標損失算出ステップ２０３で算出した第二目標損失、及び前記修
正係数確定ステップ２０１で確定した増分サンプルの修正係数に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して最適化を実施する最適化度を算出する。当該ステップ２０４は、第一乗算ステップ、第二乗算ステップ、第一導出ステップ、第二導出ステップ及び加算ステップを含むことができ、前記第一乗算ステップでは、１と前記修正係数との差と前記第一目標損失とを互いに乗じ、前記第二乗算ステップでは、前記修正係数と前記第二目標損失とを互いに乗じ、前記第一導出ステップでは、前記第一乗算ステップの乗算結果に対して導出を実施し、前記第二導出ステップでは、前記第二乗算ステップの乗算結果に対して導出を実施し、前記加算ステップでは、前記第一導出ステップの導出結果と前記第二導出ステップの導出結果とを互いに加算する。当該最適化度算出ステップ２０４は第一乗算ステップ、第二乗算ステップ、加算ステップ及び導出ステップを含むこともでき、前記第一乗算ステップでは、１と前記修正係数との差と前記第一目標損失とを互いに乗じ、前記第二乗算ステップでは、前記修正係数と前記第二目標損失とを互いに乗じ、前記加算ステップでは、前記第一乗算ステップの乗算結果と前記第二乗算ステップの乗算結果とを互いに加算し、前記導出ステップでは、前記加算ステップの加算結果に対して導出を実施する。

当業者であれば、本出願の指導の下、上記式を参照すると、上記ステップを完全理解可能であるため、改めて論述はしない。また、当業者であれば、本出願の指導に基づき、上記式に従ってその他の計算方法を創出することも可能であるが、それらはいずれも本発明の範囲内である。

ここで図１４に戻ると、ステップ１０４では、前記最適化度取得ステップ１０３で取得された算出結果に基づき、前記最適化パラメータは前記弱分類テンプレートに対して最適化を実施する受け入れ可能な最適化パラメータであるか否かを判断する。これは前記算出結果は一定の条件を満足しているか否かを判断することにより実施可能であり、例えば前記最適化パラメータは所定の範囲内であるか否かを判断することであり、例えば所定値を下回っているかである。

ステップ１０４の判断が肯定である場合には、ステップ１０５及びステップ１０６に進み、前記最適化パラメータを利用して前記テンプレートを更新するとともに、増分学習サンプルの集合を更新し、その後、当該弱分類テンプレートに対する処理を終了する。

ステップ１０４の判断が否定である場合には、ステップ１０７に進み、最適化パラメータを更新し、その後、ステップ１０４の判断が肯定となるまで、ステップ１０３及び１０４、１０７の処理を繰り返す。

図１６は文字記述方式で示された本発明における増分学習法の流れ図である。図１６の流れ図において、解釈すべきは、増分学習サンプルは検出漏れまたは誤報されたサンプルであるため、最適化増分Δｃを初期に０と設定すると、混合目標損失関数の傾きは所定の閾値よりも大きくなる点である。また、符号||ｇ||_２はｇのモジュールを示している。

以下においては、連合学習法と比較することにより本発明の利点について説明する。

前記の通り、各種のオンラインＢｏｏｓｔｉｎｇアルゴリズムはいずれも離散ＡｄａＢｏｏｓｔを基礎として発展したものであり、それらはいずれも本明細書で採用されている領域分割の弱分類器に基づく連続ＡｄａＢｏｏｓｔアルゴリズム（多類別の分類問題を処理する際にはＶｅｃｔｏｒ Ｂｏｏｓｔｉｎｇアルゴリズム）には適用することができない。顔検出器のオフライン訓練過程において、領域分割の連続ＡｄａＢｏｏｓｔアルゴリズムが示す学習能力は伝統的な離散ＡｄａＢｏｏｓｔアルゴリズムよりも明らかに優れている。本発明の利点をより明らかに説明するため、本明細書では連合学習法を増分学習法
の比較対象として採用する。

連合学習（ｃｏｍｂｉｎｅｄ ｌｅａｒｎｉｎｇ）とは、オフラインサンプルとオンラインサンプルとを直接１つに併合し、ＡｄａＢｏｏｓｔアルゴリズムに基づき強分類器中の各弱分類器に対して順に訓練を再度実施する方法である。本明細書の顔検出アルゴリズムの枠組において、それは増分学習アルゴリズムと同様であり、オンラインサンプルに基づき各類別の尤度関数を修正した後、結合領域子分割関数Ｒ（ｘ）を不変に保持するとの前提の下で、集約ルックアップテーブル関数Ｓ（ｚ）を調整して混合目標損失関数を最適化する（式３）。しかし、連合学習法ではオフライン訓練過程で使用済みの訓練サンプルをすべて留保する必要があるが、増分学習法では各観測量ｚ_ｉ上の重み付き周辺分布が記録されるだけである。この本質的な差異により２種類のアルゴリズムは混合目標損失関数のオフライン部分（式４）の計算過程において明らかに異なる方法を採用しており、連合学習は伝統的なオフライン訓練と同様であり、いずれも大量のオフラインサンプルを採用してオフライン部分に対応する尤度関数をシミュレートするが、増分学習はナイーブ・ベイズ法を採用し、各観測量ｚ_ｉ上の周辺分布の積によりオフライン部分に属する重み付き尤度関数を近似的に推定する。

実験では正面の直立した顔の検出問題を例とし、増分学習アルゴリズム及び連合学習アルゴリズムについて、少量の光線照射条件が非常に劣るオンライン顔訓練サンプルに基づき、オフライン訓練で得られた強分類器の修正状況を検討した。実験に用いたサンプルは下記表１に示されている通りである。本発明者らはＦＥＲＥＴデータベース中から２００００個の光線照射が均一な正面直立顔サンプルを抽出して、一般状況下における顔検出問題を代表させた。そのうち半分は訓練に用い、残り半分は測定試験に用いた。他方、本発明者らはＣＭＵ ＰＩＥデータベース中から１４２５枚の写真を選択するとともに、それらに対して適当な摂動を実施した後に計４２７５個の正面直立顔サンプルを得た。そのうち２００個は訓練用とし、残りの４０７５個は測定試験用とした。それらの顔画像はいずれも各種の極端な光線条件下で撮影されたものであり、特殊条件下における顔検出問題を代表することが可能である。反例としての非顔訓練サンプルはそれぞれ２つの独立した背景写真データベースから取り出し、その数量は顔サンプル数と一対一で対応している。

表１ オフラインサンプル及びオンラインサンプルの例
（括弧内の斜線の前の数字は訓練サンプル数であり、斜線の後の数字は測定試験サンプル数である）

領域分割の連続ＡｄａＢｏｏｓｔアルゴリズムを採用し、オフライン訓練により２５の弱分類器により構成される強分類器を得た。この強分類器のオフライン測定試験エラー率（オフライン測定試験サンプル上でのエラー率）は僅か０．３７％であったが、オフライン訓練中に各種の極端な光線照射の影響を考慮しなかったため、この強分類器のオンライン測定試験エラー率（オンライン測定試験サンプル上でのエラー率）は６．２７％にも達した。各種の特殊な光線照射下における顔検出問題をより効果的に処理するため、増分学習法及び連合学習法をそれぞれ採用し、不断に累積されるオンライン訓練サンプル（０個から徐々に２００個まで増加）に基づき、異なるオンラインサンプル増強比率（λ_ｙ＝１０^ｎ、ｎ＝０，…，８）により、オフライン学習で得られた強分類器に対して相応の調整
を実施するとともに、図１７に示されている通り、そのオフライン測定試験エラー率及びオンライン測定試験エラー率の変化状況を記録した。

図１７において、“ＣＯＭ １ＥＯ”はλ_ｙ＝１０^０の連合学習アルゴリズム（ｃｏｍｂｉｎｅｄ ｌｅａｒｎｉｎｇ）に対応しており、“ＩＮＣ １Ｅ４”はλ_ｙ≒１０^４の増分学習アルゴリズム（ｉｎｃｒｅｍｅｎｔａｌ ｌｅａｒｎｉｎｇ）に対応している。横軸にはアルゴリズムに採用されているオンライン訓練サンプル数が示されており、左側サブ図の縦軸及び右側サブ図の縦軸にはそれぞれ調整後の強分類器のオフライン測定試験エラー率及びオンライン測定試験エラー率が示されている。図１７の全体としての傾向をみると、より多くのオンラインサンプルが訓練に関与すればするほど、増分学習法であるか連合学習法であるかに拘わらずいずれも比較的効果的に元来の強分類器のオンライン測定試験エラー率を低減させているとともに、そのオフライン測定試験エラー率も異なる程度で上昇している。実際上、これは２種類の学習アルゴリズムがオフラインサンプルに代表される“一般状況”及びオンラインサンプルに代表される“特殊状況”の間で再度評価した結果であり、過訓練現象ではない。λ_ｙ＝１０^２の増分学習法を例とすると、それは僅か２００個のオンライン訓練サンプルにより、強分類器のオンライン測定試験エラー率を６．２７％から２．９４％まで低減させるが、そのオフライン測定試験エラー率は僅か０．３７％から０．７７％に上昇する。元来一般問題の処理に用いる検出器により良好に特殊条件下における顔検出問題を処理させるために、この種の程度のエラー率の交換はマイナスではない。

オンラインサンプル増強比率λ_ｙが増分学習法及び連合学習法において果たす作用について更に研究するため、図１７に対して“切片”を実施することにより、同一数量のオンライン訓練サンプルを採用することを前提として、λ_ｙの採用値がオフライン測定試験エラー率及びオンライン測定試験エラー率に対して及ぼす影響について考察した。実験結果は図１８に示されている通りである。

図１８の４つのサブ図は、左上から右下にかけて、それぞれオンライン訓練サンプル数が０、１０、１００及び２００である場合の状況を示している。図中の横軸はオンラインサンプル増強比率λ_ｙを示しており、採用値範囲はλ_ｙ＝１０^ｎ、ｎ＝０，…，８である。“ＣＯＭ ＯＦＦ”は連合学習法のオフライン測定試験エラー率を示しており、“ＩＮＣ ＯＮ”は増分学習法のオンライン測定試験エラー率を示している。これらの“切片”結果を観察した場合、オンラインサンプルの増強比率λ_ｙが増大する−つまりオンラインサンプルの修正係数α_ｙが増大すると、増分学習及び連合学習に対して最適化過程において混合目標損失関数のオンライン部分を更に着目させることができるが、この方法ではオンライン測定試験エラー率の低下を確保することはできず、オフライン測定試験エラー率は終始上昇傾向を保持させることになる。この種の現象は連合学習法に特に突出して現れることが判明した。図１８の右上に示されているオンライン訓練のサンプル数が僅か１０の場合には、λ_ｙが１０^８まで不断に増大する、つまりα_ｙが徐々に１に接近すると（α_ｙとλ_ｙとの間の関係については式３０を参照）、連合学習法のオフライン測定試験エラー率及びオンライン測定試験エラー率は共に顕著な上昇傾向を呈する。これは実際には過訓練現象であり、その原因は、オンライン訓練サンプルの数量は非常に少ないが、オンライン部分は混合目標損失関数において主要な地位を占めているからである。

他方、増分学習法の各種の状況下におけるこの種の過訓練現象に対する抑制能力は明らかに連合学習法よりも優れている。この違いが生まれる根本的な原因は２種類の方法が混合目標損失関数のオフライン部分に対して全く異なる計算方式を採用している点にある。連合学習法では混合目標損失関数のオフライン部分を計算する際に、オフライン訓練サンプルにより観測空間内における尤度関数の連合分布状況をシミュレートしなければならない（式１２）。通常、観測空間の次元数は非常に高いため（弱分類器の個数と同一）、こ
のサンプリング過程は十分ではない。オンライン部分が主要な地位を占めていると、アルゴリズムは強分類器に対して比較的大きな調整を実施しなければ混合目標損失関数を最適化することができない。その際、連合学習法のサンプリングが不十分であるとの問題が突出し、混合目標損失関数のオフライン部分の計算結果と真実の値との間に極めて大きな誤差を発生させる。増分学習法の場合はナイーブ・ベイズ法を採用しており、尤度関数の各測量上における周辺関数の積によりその連合分布を近似する。これにより増分学習法のサンプリング数量に対する依存性は大幅に低下し、連合学習法のような巨大な誤差には至らない。事実上、図１８の実験結果によれば、増分学習法はパラメータλ_ｙに対してあまり敏感ではなく、相当大きな範囲内でλ_ｙを任意に変更しても増分学習の結果に対して非常に大きな影響は及ぼさない。そうであるばかりではなく、オフライン測定試験エラー率であるか、オンライン測定試験エラー率であるかに拘わらず、増分学習法は共に連合学習法に遜色ない性能を示し、前者のエラー率はほぼ常に後者のエラー率も低いかまたは少なくとも同等の水準上に保持される。連合学習法を使用する前提はすべてのオフラインサンプルを保存することであることを考慮すると、増分学習法の方が明らかに優勢である。

図１８左上のサブ図には更に興味深い現象が示されている。オンライン訓練サンプル数が０の場合、増分学習法のオフライン測定試練エラー率は０．３４％であり、オンライン測定試験エラー率は６．１８％であり、結局いずれも１００００のオフラインサンプルを使用して訓練を実施した連合学習法を下回った（それぞれ０．３７％及び６．２７％）。実際上、これは２種類の学習方法が異なる最適化戦略を採用しているからである。知るところでは、ＡｄａＢｏｏｓｔアルゴリズムは実際には加法モデルを採用して目標損失関数を徐々に最適化する過程である。その他、目標損失関数について述べると、オフラインにより得られる強分類器は全面的には最適化されていない。オンライン訓練サンプル数が０の場合、連合学習法は実際にはオフライン訓練時のＡｄａＢｏｏｓｔアルゴリズムであるため、その学習により得られるのは依然として逐次最適化の結果である。しかし増分学習法は若干異なっている。それは並行化された弱分類器調整戦略により目標損失関数の全面的な最適化の結果を得るため、オフライン学習により得られる強分類器は増分学習法により更に最適化されることが可能である。実際にこれも増分学習法がオフライン及びオンライン測定試練エラー率方面で連合学習法よりも優れているもう１つの理由である。

また、当該増分学習アルゴリズムが検出器に対して効果的に適当な調整を実施することができるか否かを検査するため、３種類の特殊環境下における顔検出問題を選択して独立した測定試験を実施した。そのうちサングラス及びマフラーを着用した正面直立顔写真はＡＲデータベースからで、それぞれ７６５枚の異なる顔写真であり、顔が一部遮蔽されている場合に属する。逆光の半側面写真はＣＭＵ ＰＩＥデータベースからで、計３４０枚の異なる顔写真であり、光線照射条件が極端に不良な場合に属する。測定試験方法では一般の末端ユーザの操作方式に倣い、写真中の顔検出漏れが標定されるごとに、それに対応する若干のサンプルを生成して既存のオンライン訓練サンプルの集合に加え、更に増分学習アルゴリズムにより検出器に対して適当な調整を施した。具体的な実験においては、標定された各顔に適度な摂動を加えるとともに１６個のサンプルを生成した。上記の実験ではすでに説明済みである通り、強分類器の増分学習過程はオンラインサンプル増強比率に対して敏感ではない。そのため、直接かつ経験的にλ_＋１＝１６を選択した。λ_−１については、この実験で採用した写真集合（ＡＲデータベース及びＣＭＵ ＰＩＥデータベース）の背景は非常に簡単であり、実験においては終始いずれかの検出器の誤報を反例として収集して増分学習を実施することができなかったため、反例のオンラインサンプル増強比率の多少はあまり大した問題ではない。実験の結果は図１９に示されている通りであり、左サブ図はＡＲデータベースにおける正面直立顔の２種類の状況（サングラス及びマフラー）に対応しており、右サブ図はＣＭＵ ＰＩＥデータベースにおける半側面顔の逆光状況に対応している。

いずれのオンラインサンプルも標定していない場合（図内のｘ軸が０の場合）、オフライン訓練により得られた顔検出器の３つの測定試験集合上における検出率はまったく理想的ではなく、いずれも大量の顔写真が検出漏れとなった。しかし、手作業で１５枚（サングラス）、１９枚（マフラー）及び８枚（半側面逆光）の検出漏れ顔写真に標注すると、上記検出器の増分学習アルゴリズムによりそれぞれ３つの検出率が１００％の顔検出器を得ることができた。これは本発明者らが提出した増分学習アルゴリズムは少量のオンライン訓練サンプルに基づき既存の顔検出器を効果的に調整して、速やかに特殊な応用環境に適応させることができることを意味している。

しかし、これだけでは不十分であり、増分学習後に得られた検出器は依然として一般状況下における顔検出問題を処理する能力を保有していなければならない。そのため、サングラスを着用した正面顔検出問題を例として、増分学習前後における検出器をＣＭＵ＋ＭＩＴ正面顔測定試験集合上で比較し、図２０に示されているＲＯＣ曲線の比較結果を得た。
図２０において、“ＯＦＦ”は当該検出器の増分学習前（つまりオフライン訓練の結果）のＲＯＣ曲線を示しており、“ＩＮＣ”は当該検出器が増分学習によりサングラスを着用した顔の検出率が１００％に達した後に（図１９の左サブ図参照）、訓練集合と無関係なＣＭＵ＋ＭＩＴ正面顔測定試験集合上で取得したＲＯＣ曲線を示している。ＣＭＵ＋ＭＩＴ正面顔測定試験集合のような一般状況下の顔検出問題を処理する際、増分学習により得られた顔検出器はオフライン学習により得られた顔検出器よりも若干劣るが、図１９における増分学習前後の特殊環境処理時の能力の巨大な差異を考慮すれば、このような微小の程度の退歩は受け入れ可能であることは容易に見出すことができる。

分析を進めるうちに、増分学習後における検出器の精度低下の原因は検出率の下降ではないことが判明した。同様の検出条件下において、増分学習前の検出器に比べ、サングラスを着用した顔サンプルの増分学習後の検出器は写真中からより多くの困難な顔（四角枠は増分学習前の結果であり、丸囲いは増分学習後の結果である）を検出可能である。検出器の精度下降を招く本当の原因は誤報率が増分学習後に上昇したことである。問題の根源は、サングラスを着用した顔サンプルの増分学習過程において、非顔訓練サンプルにまったく配慮されていないことにある。これにより増分学習アルゴリズムは検出器の調整においてそれを特殊な顔サンプルに適応させると同時に、一部のこれらのオンライン訓練サンプルに似た非顔モードを誤って通過させることにもなる。実際には、検出器が発生した誤報を収集して、非顔オンライン訓練サンプルとし、その後、更に検出器に対して増分学習を実施するだけで、検出過程においてこれらの誤報を効果的に排除することができる。図２０における“ＩＮＣ＋”曲線は正に再度増分学習を実施した後に得られた結果である。この検出器の誤報数はほぼ一貫して０前後に保持されており、増分学習ではサングラスを着用した顔状況を考慮しているため、その検出率はオフライン訓練の結果よりも一部上昇している。従って、この再度増分学習を実施した後に得られる検出器は検出精度面においてオフライン訓練及び第一次増分学習の結果よりも明らかに優れている。

上記をまとめると、本発明の一方の面に基づき、本発明では特定被写体検出装置が提供されており、当該特定被写体検出装置は、検出対象画像を入力するための入力ユニットと、各々が、弱分類テンプレートを使用して前記検出対象画像を弱分類するための１つまたはより多くの弱分類ユニットを含み、前記画像を強分類するための１つまたはより多くの強分類ユニットと、前記弱分類ユニットが使用するテンプレートを記憶する記憶ユニットと、前記強分類ユニットの分類結果に基づき、前記画像が前記特定被写体を含むか否かを判断する判断ユニットとを含み、その特徴は、前記特定被写体検出装置は、増分学習用のデータ、つまり増分学習サンプル、言い換えると、当該種特定被写体検出装置が検出漏れまたは誤報したデータを入力するための増分サンプル入力ユニットと、前記増分サンプル入力ユニットが入力した前記増分学習サンプルに基づき、前記記憶ユニットが記憶する前
記弱分類テンプレートを更新するための学習ユニットとを更に含む点にある。

本発明の別の面に基づくと、本発明では特定被写体検出装置の学習装置が提供されており、前記特定被写体検出装置は、１つまたはより多くの強分類ユニットを含み、前記強分類ユニットは、弱分類テンプレートを利用して入力された画像に対して特定被写体を含むか否かの判断を実施する１つまたはより多くの弱分類ユニットを含み、前記学習装置は、当該種特定被写体検出装置の運転中に検出漏れまたは誤報されたデータである増分学習サンプルを利用して前記弱分類テンプレートを更新し、前記学習装置は、入力された増分学習サンプルに基づき、最適化パラメータを利用して弱分類テンプレートに対して最適化を実施する最適化度を算出するための最適化度算出部と、前記最適化度算出部の算出結果に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足しているか否かを判断する判断ユニットと、前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していないと判断すると、前記最適化パラメータを更新する最適化パラメータ更新ユニットと、前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していると判断すると、前記弱分類テンプレートを更新するテンプレート更新ユニットとを含む。

好適には、前記弱分類ユニットは、実例空間に対する区分に基づき、入力された前記検出対象画像を互いに交差しない複数のサブ区間中のあるサブ区間に分類するためのサブ区間判定ユニットと、前記サブ区間判定ユニットの判定結果に基づき、サブ区間弱分類テンプレートに応じて、前記検出対象画像が属する分類に対する予測結果を出力する弱分類確定ユニットとを含み、前記記憶ユニットは、前記サブ区間弱分類テンプレートを記憶しており、前記学習ユニットは、前記増分サンプル入力ユニットが入力した増分学習サンプルに基づき、前記記憶ユニットが記憶する各前記サブ区間弱分類テンプレートを更新する。

好適には、前記学習ユニットは、入力された増分学習サンプルに基づき、最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して最適化を実施する最適化度を算出するための最適化度算出部と、前記最適化度算出部の算出結果に基づき、前記最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して実施する最適化は一定の条件を満足しているか否かを判断するための判断ユニットと、前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していないと判断すると、前記最適化パラメータを更新する最適化パラメータ更新ユニットと、前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していると判断すると、前記弱分類テンプレートを更新するテンプレート更新ユニットとを含む。

好適には、前記最適化度算出部は、増分学習サンプルの修正係数を確定するための修正係数確定ユニットと、前記最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して実施する最適化がもたらす第一目標損失を算出するための第一目標損失算出ユニットと、入力された前記増分学習サンプルに基づき、前記最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して実施する最適化がもたらす第二目標損失を算出するための第二目標損失算出ユニットと、前記第一目標損失算出ユニットが算出した第一目標損失、前記第二目標損失算出ユニットが算出した第二目標損失、及び前記修正係数確定ユニットが確定した増分サンプルの修正係数に基づき、前記最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して最適化を実施する最適化度を算出する最適化度算出ユニットとを含む。

好適には、前記最適化度算出ユニットは、１と前記修正係数との差と前記第一目標損失とを互いに乗じるための第一乗算部と、前記修正係数と前記第二目標損失とを互いに乗じ
るための第二乗算部と、前記第一乗算部の乗算結果に対して導出を実施するための第一導出部と、前記第二乗算部の乗算結果に対して導出を実施するための第二導出部と、前記第一導出部の導出結果と前記第二導出部の導出結果とを互いに加算するための加算部とを含む。

好適には、前記最適化度算出ユニットは、１と前記修正係数との差と前記第一目標損失とを互いに乗じるための前記第一乗算部と、前記修正係数と前記第二目標損失とを互いに乗じるための第二乗算部と、前記第一乗算部の乗算結果と前記第二乗算部の乗算結果とを互いに加算するための加算部と、前記加算部の加算結果に対して導出を実施するための導出部とを含む。

好適には、前記修正係数確定ユニットは、増分学習サンプルの作用が増分学習サンプル総数の変化の影響を受けないように、オンラインサンプルの数量に基づき前記修正係数を確定する。

好適には、前記学習ユニットは、前記増分学習サンプルにより構成される集合中の増分学習サンプルを減少させて、新たな前記増分学習サンプルの集合を得るための増分学習サンプル更新ユニットを更に含む。

好適には、前記第一目標損失算出ユニットは、ナイーブ・ベイズアルゴリズムを採用して前記第一目標損失を算出する。

好適には、前記最適化パラメータ更新ユニットは、０．６１８法に基づき前記最適化パラメータを更新する。

好適には、前記サブ区間判定ユニットは、先ず前記検出対象画像の特徴を抽出し、その後、区分関数の等間隔区分方式に基づき、前記検出対象画像を前記実例空間中のあるサブ区間に分類する。

好適には、前記増分学習サンプルは、前記特定被写体検出装置の運転中に検出漏れまたは誤報された画像であり、前記増分サンプル入力ユニットは、前記特定被写体検出装置の運転中に検出漏れまたは誤報された画像を記録するための記録ユニットを含む。

好適には、前記増分学習サンプルは、前記特定被写体検出装置以外の前記特定被写体検出装置と同一のその他の特定被写体検出装置の運転中に検出漏れまたは誤報された画像であり、前記増分サンプル入力ユニットは、前記その他の特定被写体検出装置が運転中に検出漏れまたは誤報した画像を受信するための受信ユニットを含む。

そのうち、前記特定被写体は、人の顔を指す。

そのうち、前記１つまたはそれより多くの強分類ユニットは、ウォーターフォールモードまたはベクトルツリーモードに従って接続される。

好適には、前記特定被写体検出装置が検出モードと学習モードとの間で互いに切り換わるように、前記特定被写体検出装置のモード状態を切り換えるための切換装置を含み、前記増分サンプル入力ユニット及び前記学習ユニットは、前記切換装置が前記特定被写体検出装置を学習モードに切り換えた際に動作する。

本発明の更に別の面に基づくと、本発明では特定被写体検出装置の学習方法が提供されており、前記特定被写体検出装置は、１つまたはより多くの強分類ユニットを含み、前記
強分類ユニットは、弱分類テンプレートを利用して入力された画像に対して特定被写体を含むか否かの判断を実施する１つまたはより多くの弱分類ユニットを含み、前記学習方法は、各弱分類器に対する、当該またはその他の特定被写体検出装置の運転中に検出漏れまたは誤報されたデータである増分学習サンプルを入力する入力ステップと、入力された増分学習サンプルに基づき、最適化パラメータを利用して弱分類テンプレートに対して最適化を実施する最適化度を算出するための最適化度取得ステップと、前記最適化度取得ステップの算出結果に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足しているか否かを判断する判断ステップと、前記判断ステップで前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していないと判断されると、前記最適化パラメータを更新する最適化パラメータ更新ステップと、前記判断ステップで前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していると判断されると、前記弱分類テンプレートを更新するテンプレート更新ステップとを含む。

好適には、前記最適化度取得ステップは、増分学習サンプルの修正係数を確定するための修正係数確定ステップと、前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化がもたらす第一目標損失を算出するための第一目標損失算出ステップと、入力された前記増分学習サンプルに基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化がもたらす第二目標損失を算出するための第二目標損失算出ステップと、前記第一目標損失算出ステップで算出した第一目標損失、前記第二目標損失算出ステップで算出した第二目標損失、及び前記修正係数確定ステップで確定した増分サンプルの修正係数に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して最適化を実施する最適化度を算出する最適化度算出ステップとを含む。

好適には、前記最適化度算出ステップは、１と前記修正係数との差と前記第一目標損失とを互いに乗じるための第一乗算ステップと、前記修正係数と前記第二目標損失とを互いに乗じるための第二乗算ステップと、前記第一乗算ステップの乗算結果に対して導出を実施するための第一導出ステップと、前記第二乗算ステップの乗算結果に対して導出を実施するための第二導出ステップと、前記第一導出ステップの導出結果と前記第二導出ステップの導出結果とを互いに加算するための加算ステップとを含む。

好適には、前記最適化度算出ステップは、１と前記修正係数との差と前記第一目標損失とを互いに乗じるための前記第一乗算ステップと、前記修正係数と前記第二目標損失とを互いに乗じるための第二乗算ステップと、前記第一乗算ステップの乗算結果と前記第二乗算ステップの乗算結果とを互いに加算するための加算ステップと、前記加算ステップの加算結果に対して導出を実施するための導出ステップとを含む。

好適には、前記修正係数確定ステップは、増分学習サンプルの作用が増分学習サンプル総数の変化の影響を受けないように、オンラインサンプルの数量に基づき前記修正係数を確定する。

好適には、前記学習方法は、前記増分学習サンプルにより構成される集合中の増分学習サンプルを減少させて、新たな前記増分学習サンプルの集合を得るための増分学習サンプル更新ステップを更に含む。

好適には、前記第一目標損失算出ステップは、周辺分布関数法またはナイーブ・ベイズアルゴリズムを採用して前記第一目標損失を算出する。

そのうち、前記弱分類ユニットは、実例空間に対する区分に基づき、入力された前記検
出対象画像を互いに交差しない複数のサブ区間中のあるサブ区間に分類するためのサブ区間判定ユニットと、前記サブ区間判定ユニットの判定結果に基づき、サブ区間弱分類テンプレートに応じて、前記検出対象画像が属する分類に対する予測結果を出力する弱分類確定ユニットとを含み、前記学習方法は、前記増分学習サンプルに基づき、各前記サブ区間弱分類テンプレートを更新する。

好適には、前記最適化パラメータ更新ステップは、０．６１８法を利用して前記最適化パラメータを更新する。

そのうち、前記増分学習サンプルは、前記特定被写体検出装置の運転中に検出漏れまたは誤報された画像であるか、または前記特定被写体検出装置以外の前記特定被写体検出装置と同一のその他の特定被写体検出装置の運転中に検出漏れまたは誤報された画像である。

そのうち、前記特定被写体は、人の顔を指す。

また、本発明のもう１つ面に基づき、本発明では、コンピュータより実行されると、コンピュータを上記特定被写体検出装置として動作させることが可能なコンピュータプログラムが提供されている。

また、本発明のもう１つの面に基づき、本発明では、コンピュータより実行されると、コンピュータを上記学習装置として動作させることが可能なコンピュータプログラムが提供されている。

また、本発明のもう１つの面に基づき、本発明では、コンピュータより実行されると、コンピュータに上記学習方法を実現させることが可能なコンピュータプログラムが提供されている。

また、本発明のもう１つの面に基づき、本発明では、上記コンピュータを上記特定被写体検出装置として動作させることが可能なコンピュータプログラムを記憶するコンピュータ読取可能な記録媒体が提供されている。

また、本発明のもう１つの面に基づき、本発明では、上記コンピュータを上記学習装置として動作させることが可能なコンピュータプログラムを記憶するコンピュータ読取可能な記録媒体が提供されている。

また、本発明のもう１つの面に基づき、本発明では、上記コンピュータに上記学習方法を実現させることが可能なコンピュータプログラムを記憶するコンピュータ読取可能な記録媒体が提供されている。

前記コンピュータ読取可能な記録媒体は、ソフトディスク、ＤＶＤ、ＶＣＤ、ＣＤ、磁気ディスク、ハードディスク、Ｆｌｓａｈ、磁気光ディスクなど当業者に公知のいずれかのコンピュータ読取可能な記録媒体である。

以下においては、本発明を理解するために有益な参考文献を列記する。それを引用して本明細書内に組み入れることにより、本明細書内において完全に説明したことと同様となる。
[1] R. E. Schapire and Y. Singer. Improved Boosting Algorithms Using Confidence-rated Predictions. In: MachineLearning, vol. 37, pp. 297-336, 1999.
[2] V. N. Vapnik. The nature of statistical learning theory. Berlin, Germany:
Springer-Verlag, 1995.
[3] J. Friedman, T. Hastie, and R. Tibshirani. Additive logistic regression: A statistical view of boosting. In: Annals of Statistics, vol. 28, pp. 337-374, 2000.
[4] P. Utgoff, N. Berkman, and J. Clouse. Decision tree induction based on efficient tree restructuring. In: Machine Learning, 29(1), 5-44. 1997.
[5] N. Littlestone. Learning quickly when irrelevant attributes abound: A new linear threshold algorithm. In: Machine Learning, 2, 285-318. 1988.
[6] N. Littlestone, and M. Warmuth. The weighted majority algorithm. In: Information and Computation, 108, 212-261. 1994.
[7] L. Breiman. Pasting small votes for classification in large databases and on-line. In: Machine Learning, 36, 85-103. 1999.
[8] A. Fern and R. Givan. Online ensemble learning: An empirical study. In: Proc. ICML, pp. 151279-286, 2000.
[9] N. Oza and S. Russel. Online bagging and boosting. In: Proc. Artificial Intelligence and Statistics, 2001.
[10] N. Oza. Online ensemble learning. Ph.D. thesis, Universityof California, Berkeley, 2001.
[11] O. Javed, S. Ali, and M. Shah. Online detection and classification of moving objects using progressively improving detectors. In: Proc. CVPR, 2005.
[12] H. Grabner and H. Bischof. Online Boosting and Vision. In: Proc. CVPR, 2006.
[13] R. O. Duda, P. E. Hart, and D. G Stork. Pattern Classification, 3S Second Edition. John Wiley & Sons, Inc. pp 62-64, 2001.
[14] T. Sim, S. Baker, and M. Bsat. The CMU pose, illumination, and expression database. IEEE Trans. PAMI, 25(12), 1615-1618, 2003.

Claims (38)

1. 検出対象画像を入力するための入力ユニットと、
   各々が、弱分類テンプレートを使用して前記検出対象画像を弱分類するための１つまたはより多くの弱分類ユニットを含み、前記検出対象画像を強分類するための１つまたはより多くの強分類ユニットと、
   前記弱分類ユニットが使用する弱分類テンプレートを記憶する記憶ユニットと、
   前記強分類ユニットの分類結果に基づき、前記検出対象画像が前記特定被写体を含むか否かを判断する判断ユニットと、を含む特定被写体検出装置であり、
   前記特定被写体検出装置は、
   増分学習用のデータ、つまり増分学習サンプル、言い換えると、当該またはその他の特定被写体検出装置が検出漏れまたは誤報したデータを入力するための増分サンプル入力ユニットと、
   前記増分サンプル入力ユニットが入力した前記増分学習サンプルに基づき、前記記憶ユニットが記憶する前記弱分類テンプレートを更新するための学習ユニットと、を更に含むことを特徴とする特定被写体検出装置。
2. 前記弱分類ユニットは、実例空間に対する区分に基づき、入力された前記検出対象画像を互いに交差しない複数のサブ区間中のあるサブ区間に分類するためのサブ区間判定ユニットと、前記サブ区間判定ユニットの判定結果に基づき、サブ区間弱分類テンプレートに応じて、前記検出対象画像が属する分類に対する予測結果を出力する弱分類確定ユニットとを含み、
   前記記憶ユニットは、前記サブ区間弱分類テンプレートを記憶しており、
   前記学習ユニットは、前記増分サンプル入力ユニットが入力した増分学習サンプルに基づき、前記記憶ユニットが記憶する各前記サブ区間弱分類テンプレートを更新することを特徴とする請求項１記載の特定被写体検出装置。
3. 前記学習ユニットは、
   入力された増分学習サンプルに基づき、最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して最適化を実施する最適化度を算出するための最適化度算出部と、
   前記最適化度算出部の算出結果に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足しているか否かを判断するための判断ユニットと、
   前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していないと判断すると、前記最適化パラメータを更新する最適化パラメータ更新ユニットと、
   前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していると判断すると、前記弱分類テンプレートを更新するテンプレート更新ユニットと、を含むことを特徴とする請求項２記載の特定被写体検出装置。
4. 前記最適化度算出部は、
   増分学習サンプルの修正係数を確定するための修正係数確定ユニットと、
   前記最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して実施する最適化がもたらす第一目標損失を算出するための第一目標損失算出ユニットと、
   入力された前記増分学習サンプルに基づき、前記最適化パラメータを利用して前記サブ区間弱分類テンプレートに対して実施する最適化がもたらす第二目標損失を算出するための第二目標損失算出ユニットと、
   前記第一目標損失算出ユニットが算出した第一目標損失、前記第二目標損失算出ユニットが算出した第二目標損失、及び前記修正係数確定ユニットが確定した増分サンプルの修
   正係数に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して最適化を実施する最適化度を算出する最適化度算出ユニットと、を含むことを特徴とする請求項３記載の特定被写体検出装置。
5. 前記最適化度算出ユニットは、
   １と前記修正係数との差と前記第一目標損失とを互いに乗じるための第一乗算部と、
   前記修正係数と前記第二目標損失とを互いに乗じるための第二乗算部と、
   前記第一乗算部の乗算結果に対して導出を実施するための第一導出部と、
   前記第二乗算部の乗算結果に対して導出を実施するための第二導出部と、
   前記第一導出部の導出結果と前記第二導出部の導出結果とを互いに加算するための加算部と、を含むこととを特徴とする請求項４記載の特定被写体検出装置。
6. 前記最適化度算出ユニットは、
   １と前記修正係数との差と前記第一目標損失とを互いに乗じるための第一乗算部と、
   前記修正係数と前記第二目標損失とを互いに乗じるための第二乗算部と、
   前記第一乗算部の乗算結果と前記第二乗算部の乗算結果とを互いに加算するための加算部と、
   前記加算部の加算結果に対して導出を実施するための導出部と、を含むことを特徴とする請求項４記載の特定被写体検出装置。
7. 前記修正係数確定ユニットは、増分学習サンプルの作用が増分学習サンプル総数の変化の影響を受けないように、オンラインサンプルの数量に基づき前記修正係数を確定することを特徴とする請求項４記載の特定被写体検出装置。
8. 前記学習ユニットは、前記増分学習サンプルにより構成される集合中の増分学習サンプルを減少させて、新たな前記増分学習サンプルの集合を得るための増分学習サンプル更新ユニットを更に含むことを特徴とする請求項３記載の特定被写体検出装置。
9. 前記第一目標損失算出ユニットは、ナイーブ・ベイズアルゴリズムを採用して前記第一目標損失を算出することを特徴とする請求項４記載の特定被写体検出装置。
10. 前記最適化パラメータ更新ユニットは、０．６１８法に基づき前記最適化パラメータを更新することを特徴とする請求項３記載の特定被写体検出装置。
11. 前記サブ区間判定ユニットは、先ず前記検出対象画像の特徴を抽出し、その後、区分関数の等間隔区分方式に基づき、前記検出対象画像を前記実例空間中のあるサブ区間に分類することを特徴とする請求項２記載の特定被写体検出装置。
12. 前記増分学習サンプルは、前記特定被写体検出装置の運転中に検出漏れまたは誤報された画像であり、前記増分サンプル入力ユニットは、前記特定被写体検出装置の運転中に検出漏れまたは誤報された画像を記録するための記録ユニットを含むことを特徴とする請求項１〜１１のいずれか１項に記載の特定被写体検出装置。
13. 前記増分学習サンプルは、前記特定被写体検出装置以外の前記特定被写体検出装置と同一のその他の特定被写体検出装置の運転中に検出漏れまたは誤報された画像であり、前記増分サンプル入力ユニットは、前記その他の特定被写体検出装置が運転中に検出漏れまたは誤報した画像を受信するための受信ユニットを含むことを特徴とする請求項１〜１１のいずれか１項に記載の特定被写体検出装置。
14. 前記特定被写体は、人の顔を指すことを特徴とする請求項１〜１１のいずれか１項に記
    載の特定被写体検出装置。
15. 前記１つまたはそれより多くの強分類ユニットは、ウォーターフォールモードまたはベクトルツリーモードに従って接続されることを特徴とする請求項１〜１１のいずれか１項に記載の特定被写体検出装置。
16. 前記特定被写体検出装置が検出モードと学習モードとの間で互いに切り換わるように、前記特定被写体検出装置のモード状態を切り換えるための切換装置を含み、
    前記増分サンプル入力ユニット及び前記学習ユニットは、前記切換装置が前記特定被写体検出装置を学習モードに切り換えた際に動作することを特徴とする請求項１〜１１のいずれか１項に記載の特定被写体検出装置。
17. １つまたはより多くの強分類ユニットを含み、前記強分類ユニットは、弱分類テンプレートを利用して入力された画像に対して特定被写体を含むか否かの判断を実施する１つまたはより多くの弱分類ユニットを含む特定被写体検出装置の学習装置であり、当該またはその他の特定被写体検出装置の運転中に検出漏れまたは誤報されたデータである増分学習サンプルを利用して前記弱分類テンプレートを更新する特定被写体検出装置の学習装置において、前記学習装置は、
    入力された増分学習サンプルに基づき、最適化パラメータを利用して弱分類テンプレートに対して最適化を実施する最適化度を算出するための最適化度算出部と、
    前記最適化度算出部の算出結果に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足しているか否かを判断する判断ユニットと、
    前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していないと判断すると、前記最適化パラメータを更新する最適化パラメータ更新ユニットと、
    前記判断ユニットが前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していると判断すると、前記弱分類テンプレートを更新するテンプレート更新ユニットと、を含む、特定被写体検出装置の学習装置。
18. 前記最適化度算出部は、
    増分学習サンプルの修正係数を確定するための修正係数確定ユニットと、
    前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化がもたらす第一目標損失を算出するための第一目標損失算出ユニットと、
    入力された前記増分学習サンプルに基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化がもたらす第二目標損失を算出するための第二目標損失算出ユニットと、
    前記第一目標損失算出ユニットが算出した第一目標損失、前記第二目標損失算出ユニットが算出した第二目標損失、及び前記修正係数確定ユニットが確定した増分サンプルの修正係数に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して最適化を実施する最適化度を算出する最適化度算出ユニットと、を含むことを特徴とする請求項１７記載の学習装置。
19. 前記最適化度算出ユニットは、
    １と前記修正係数との差と前記第一目標損失とを互いに乗じるための第一乗算部と、
    前記修正係数と前記第二目標損失とを互いに乗じるための第二乗算部と、
    前記第一乗算部の乗算結果に対して導出を実施するための第一導出部と、
    前記第二乗算部の乗算結果に対して導出を実施するための第二導出部と、
    前記第一導出部の導出結果と前記第二導出部の導出結果とを互いに加算するための加算部と、を含むことを特徴とする請求項１８記載の学習装置。
20. 前記最適化度算出ユニットは、
    １と前記修正係数との差と前記第一目標損失とを互いに乗じるための第一乗算部と、
    前記修正係数と前記第二目標損失とを互いに乗じるための第二乗算部と、
    前記第一乗算部の乗算結果と前記第二乗算部の乗算結果とを互いに加算するための加算部と、
    前記加算部の加算結果に対して導出を実施するための導出部と、を含むことを特徴とする請求項１８記載の学習装置。
21. 前記修正係数確定ユニットは、増分学習サンプルの作用が増分学習サンプル総数の変化の影響を受けないように、オンラインサンプルの数量に基づき前記修正係数を確定することを特徴とする請求項１８記載の学習装置。
22. 前記学習ユニットは、前記増分学習サンプルにより構成される集合中の増分学習サンプルを減少させて、新たな前記増分学習サンプルの集合を得るための増分学習サンプル更新ユニットを更に含むことを特徴とする請求項１７記載の学習装置。
23. 前記第一目標損失算出ユニットは、ナイーブ・ベイズアルゴリズムを採用して前記第一目標損失を算出することを特徴とする請求項１８記載の学習装置。
24. 前記弱分類ユニットは、実例空間に対する区分に基づき、入力された前記検出対象画像をその中のあるサブ区間に分類するためのサブ区間判定ユニットと、前記サブ区間判定ユニットの判定結果に基づき、サブ区間弱分類テンプレートを検索することにより、前記検出対象画像が属する分類に対する予測結果を出力する弱分類確定ユニットとを含み、
    前記学習ユニットは、前記増分学習サンプルに基づき、各前記サブ区間弱分類テンプレートを更新することを特徴とする請求項１７記載の学習装置。
25. 前記増分学習サンプルは、前記特定被写体検出装置の運転中に検出漏れまたは誤報された画像であり、前記特定被写体検出装置は、前記特定被写体検出装置の運転中に検出漏れまたは誤報された画像を記録するための記録ユニットを含むことを特徴とする請求項１７〜２４のいずれか１項に記載の学習装置。
26. 前記増分学習サンプルは、前記特定被写体検出装置以外の前記特定被写体検出装置と同一のその他の特定被写体検出装置の運転中に検出漏れまたは誤報された画像であり、前記特定被写体検出装置は、前記その他の特定被写体検出装置が運転中に検出漏れまたは誤報した画像を受信するための受信ユニットを含むことを特徴とする請求項１７〜２４のいずれか１項に記載の学習装置。
27. 前記特定被写体は、人の顔を指すことを特徴とする請求項１７〜２４のいずれか１項に記載の学習装置。
28. １つまたはより多くの強分類ユニットを含み、前記強分類ユニットは、弱分類テンプレートを利用して入力された画像に対して特定被写体を含むか否かの判断を実施する１つまたはより多くの弱分類ユニットを含む特定被写体検出装置の学習方法であり、前記学習方法は、各弱分類器に対する、
    増分学習サンプルを入力する入力ステップと、
    当該またはその他の特定被写体検出装置の運転中に検出漏れまたは誤報されたデータである入力された増分学習サンプルに基づき、最適化パラメータを利用して弱分類テンプレートに対して最適化を実施する最適化度を算出するための最適化度取得ステップと、
    前記最適化度取得ステップの算出結果に基づき、前記最適化パラメータを利用して前記
    弱分類テンプレートに対して実施する最適化は一定の条件を満足しているか否かを判断する判断ステップと、
    前記判断ステップで前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していないと判断されると、前記最適化パラメータを更新する最適化パラメータ更新ステップと、
    前記判断ステップで前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化は一定の条件を満足していると判断されると、前記弱分類テンプレートを更新するテンプレート更新ステップと、を含む、特定被写体検出装置の学習方法。
29. 前記最適化度取得ステップは、
    増分学習サンプルの修正係数を確定するための修正係数確定ステップと、
    前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化がもたらす第一目標損失を算出するための第一目標損失算出ステップと、
    入力された前記増分学習サンプルに基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して実施する最適化がもたらす第二目標損失を算出するための第二目標損失算出ステップと、
    前記第一目標損失算出ステップで算出した第一目標損失、前記第二目標損失算出ステップで算出した第二目標損失、及び前記修正係数確定ステップで確定した増分学習サンプルの修正係数に基づき、前記最適化パラメータを利用して前記弱分類テンプレートに対して最適化を実施する最適化度を算出する最適化度算出ステップと、を含むことを特徴とする請求項２８記載の学習方法。
30. 前記最適化度算出ステップは、
    １と前記修正係数との差と前記第一目標損失とを互いに乗じるための第一乗算ステップと、
    前記修正係数と前記第二目標損失とを互いに乗じるための第二乗算ステップと、
    前記第一乗算ステップの乗算結果に対して導出を実施するための第一導出ステップと、
    前記第二乗算ステップの乗算結果に対して導出を実施するための第二導出ステップと、
    前記第一導出ステップの導出結果と前記第二導出ステップの導出結果とを互いに加算するための加算ステップと、を含むことを特徴とする請求項２９記載の学習方法。
31. 前記最適化度算出ステップは、
    １と前記修正係数との差と前記第一目標損失とを互いに乗じるための第一乗算ステップと、
    前記修正係数と前記第二目標損失とを互いに乗じるための第二乗算ステップと、
    前記第一乗算ステップの乗算結果と前記第二乗算ステップの乗算結果とを互いに加算するための加算ステップと、
    前記加算ステップの加算結果に対して導出を実施するための導出ステップと、を含むことを特徴とする請求項２９記載の学習方法。
32. 前記修正係数確定ステップは、増分学習サンプルの作用が増分学習サンプル総数の変化の影響を受けないように、オンラインサンプルの数量に基づき前記修正係数を確定することを特徴とする請求項２９記載の学習方法。
33. 前記学習方法は、前記増分学習サンプルにより構成される集合中の増分学習サンプルを減少させて、新たな前記増分学習サンプルの集合を得るための増分学習サンプル更新ステップを更に含むことを特徴とする請求項２８記載の学習方法。
34. 前記第一目標損失算出ステップは、周辺分布関数法またはナイーブ・ベイズアルゴリズムを採用して前記第一目標損失を算出することを特徴とする請求項２９記載の学習方法。
35. 前記弱分類ユニットは、実例空間に対する区分に基づき、入力された前記検出対象画像を互いに交差しない複数のサブ区間中のあるサブ区間に分類するためのサブ区間判定ユニットと、前記サブ区間判定ユニットの判定結果に基づき、サブ区間弱分類テンプレートに応じて、前記検出対象画像が属する分類に対する予測結果を出力する弱分類確定ユニットとを含み、
    前記学習方法は、前記増分学習サンプルに基づき、各前記サブ区間弱分類テンプレートを更新することを特徴とする請求項２８記載の学習方法。
36. 前記最適化パラメータ更新ステップは、０．６１８法を利用して前記最適化パラメータを更新することを特徴とする請求項２８記載の学習方法。
37. 前記増分学習サンプルは、前記特定被写体検出装置の運転中に検出漏れまたは誤報された画像であるか、または前記特定被写体検出装置以外の前記特定被写体検出装置と同一のその他の特定被写体検出装置の運転中に検出漏れまたは誤報された画像であることを特徴とする請求項２８〜３６のいずれか１項に記載の学習方法。
38. 前記特定被写体は、人の顔を指すことを特徴とする請求項２８〜３６のいずれか１項に記載の学習方法。

Images