JP2009259109A - ラベル付与装置、ラベル付与プログラム、ラベル付与プログラムが記録された記録媒体、および、ラベル付与方法 - Google Patents

Abstract

【課題】ラベル付与のための事前学習と高精度なラベル付与を短い計算時間で実現できるラベル付与モデルを生成することを課題とする。
【解決手段】本発明の自動多重ラベル付与装置１では、条件付確率モデル生成部４が、分類モデル５１のパラメータ、偏り補正モデル５２のパラメータ、および、統合パラメータをもとに、分類モデル５１と偏り補正モデル５２とを重み付き統合することで、ラベル付与モデルである条件付確率モデル５３を生成する。
【選択図】図１

Description

本発明は、特徴ベクトルで表現可能なコンテンツ（文字や画像等）に、コンテンツの内容の分類を表すラベルを付与する技術に関する。

近年、データベース等に含まれるコンテンツにラベルを付与する技術の研究や開発が盛んに行われている。ここで、コンテンツとは、論文、特許公報、オンラインニュースデータ、電子メール等のテキスト情報からなるものや、Ｗｅｂデータ、ブログデータ等のテキスト情報とリンク情報からなるもの、さらに、画像データからなるもの等のことを指す。また、この場合、コンテンツは、特徴ベクトルにより表現可能であることを前提とする。

特徴ベクトルとは、コンテンツに含まれる要素（特徴）の出現頻度の比をベクトルで表したものである。例えば、あるコンテンツに「データ」「情報」「処理」という単語（特徴）が、それぞれ「３回」「１回」「２回」出現する（使用されている）とき、そのコンテンツの特徴ベクトルは｛３，１，２｝あるいは｛３／６，１／６，２／６｝等と表現することができる。

また、ラベルとは、前記したようにコンテンツの内容の分類（種別）を表すものであり、「コンピュータ」「スポーツ」「音楽」「数学」といったものが挙げられる。例えば、コンテンツが特許文書である場合、ＩＰＣ（International Patent Classification：国際特許分類）、Ｆターム（File Forming Term：特許の分類体系の１つ）、ＦＩ(File Index：特許の分類体系の１つ)等における分類記号がラベルに相当する。

そして、ラベル付与技術において、使用するラベルは予め決定されていることが一般的である。また、ラベル付与装置（自動多重ラベル付与装置）の学習には、訓練データ（予め蓄積されたコンテンツの集合）が使用される。訓練データは、例えば、付与すべきラベルがすでに決定されているコンテンツ（以下、「ラベルありサンプル」ともいう。）と付与すべきラベルが未定のコンテンツ（以下、「ラベルなしサンプル」ともいう。）との混在構成となっている場合もあれば、ラベルありサンプルのみの構成となっている場合もある。そして、訓練データを用いて学習が行われたラベル付与装置によって、ラベル未付与のコンテンツ（ラベル付与対象コンテンツ）に１つ以上のラベルを付与することができるようになる。

例えば、非特許文献１，２に示すラベル付与装置は、コンテンツに複数のラベルを付与する問題において、個々のラベルごとに、コンテンツの特徴ベクトルを入力してそのコンテンツに付与すべきラベルの組合せを出力する多重分類モデルを設計して実現される。すなわち、これらのラベル付与装置では、ラベルの組合せをクラス（以下、クラス）とみなして、特徴ベクトルからクラスヘの写像を与える多重分類モデルを設計する。多重分類モデルの設計は、ラベルありサンプルから統計情報を学習することにより行われる。

また、非特許文献３，４および特許文献１に示すラベル付与装置では、ラベルありサンプルが少数しかない場合、ラベルなしサンプルを併せて用いてラベル付与装置を学習させることで、ラベル付与の精度を向上させることを基本的な特徴とする。一般的に、ラベルありサンプルの作成は熟練者によるコンテンツヘのラベル付与が必要となるため、多数のラベルありサンプルを用いてラベル付与装置を学習させることは困難である。そこで、少数のラベルありサンプルを用いてラベル付与装置を学習させると、その学習されたラベル付与装置にはラベルありサンプルの与え方に依存する統計的な偏りが生じ、その結果、学習させたラベル付与装置が新規のコンテンツに付与すべきラベルを正確に予測（付与）できないことが多い。このため、非特許文献３，４および特許文献１では、少数のラベルありサンプルに加え、多数のラベルなしサンプルを用いてラベル付与装置の学習の偏りを緩和することで、精度の向上を図っている。
上田修功、斉藤和巳：「多重トピックテキストの確率モデル−パラメトリック混合モデル−」、電子情報通信学会論文誌、Ｊ８７-Ｄ-ＩＩ（３）、872-883頁、２００４年 賀沢秀人、泉谷知範、平博順、前田英作、磯崎秀樹：「最大マージン原理に基づく多重ラベリング学習」、電子情報通信学会論文誌、Ｊ８８-Ｄ-ＩＩ（１１）、2246-2259頁、２００５年 Grandvalet, Y. and Bengio, Y.: Semi-supervised learning by entropy minimization. In Advances in neural information processing systems 17, Cambridge, MA: MIT Press., 529-536, 2005 Druck, G., Pal, C., Zhu, X., and McCallum, A.: Semi-supervised classification with hybrid generative/discriminative methods. In Proceedings of 13th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD'07), 280-289, 2007 特開２００６−３３８２６３号公報

非特許文献１，２の技術では、ラベル付与装置の学習にラベルありサンプルのみを用いる。これらの技術で高性能なラベル付与装置を得るためには、大量のラベルありサンプルを必要とする。しかしながら、ラベルありサンプルの作成には人手を要するため、大量のラベルありサンプルを用意することは困難である。ラベルありサンプルが少数しかない場合、これらの技術で高性能なラベル付与装置を得ることは期待できない。

また、非特許文献３，４の技術では、ロジスティック回帰モデルや最大エントロピーモデル等の対数線形モデルを用いてラベル付与装置を設計する。そして、ラベルありサンプルとラベルなしサンプルの両方に適合するように対数線形モデルのパラメータを学習する。ラベルなしサンプルを対数線形モデルに適合させるために、非特許文献３，４では、それぞれ、対数線形モデルの最小エントロピー正則化、対数線形モデルの周辺分布の尤度最大化の技術を用いている。しかし、コンテンツには文書や画像といった種類ごとにサンプルの分布に特徴があるのにもかかわらず、これらの技術に用いられている対数線形モデルはサンプルの分布の特徴を全く考慮せずに設計される。したがって、これらの対数線形モデルにラベルなしサンプルを適合させても、高精度なラベル付与装置を得られる可能性が低い。

一方、特許文献１の技術では、サンプルの分布の特徴を与える確率モデルを設計する。そして、ラベルありサンプルとラベルなしサンプルを用いて確率モデルを学習し、サンプルが属するある１つのクラスを予測する自動分類装置を構築する。この自動分類装置を個々のラベルごとにラベルを付与するか否かを判定する問題に適用することで、ラベル付与装置を構築することができる。しかし、この方法で構築されるラベル付与装置は、コンテンツにラベルを１つも付与しないと予測する場合がある。その結果、コンテンツに１つ以上のラベルを付与すべき課題に対するラベル付与装置に関しては、高い精度を期待できないという問題がある。

また、特許文献１の技術を、コンテンツからクラスヘの写像を直接学習する場合に適用することも考えられる。しかし、Ｋ個のラベルがある場合に、可能性のあるクラスは２^Ｋ−１個（ラベルゼロのクラスは除外）あり、Ｋが大きくなるとクラス数は膨大になる。したがって、Ｋが大きな多重ラベル付与問題では、ラベル付与装置の学習とコンテンツヘのラベル付与の予測に膨大な計算時間が必要となり、実用的な時間で計算することが極めて困難になる。

そこで、本発明は、前記問題点に鑑みてなされたものであり、ラベル付与のための事前学習と高精度なラベル付与を短い計算時間で実現できるラベル付与モデル（条件付確率モデル）を生成することを課題とする。

前記課題を解決するために、本発明は、特徴ベクトルで表現可能なコンテンツに、前記コンテンツの内容の分類を表すラベルを１つ以上付与するラベル付与装置であって、前記ラベルがすでに付与されている前記コンテンツであるラベルありサンプル、および、前記ラベルがまだ付与されていない前記コンテンツであるラベルなしサンプルを、それぞれ複数格納する記憶部と、前記記憶部に格納された複数のラベルありサンプルをもとに、前記特徴ベクトルで表現されたコンテンツに対して付与すべきラベルを推定するための分類モデルに関するパラメータを計算し、前記記憶部に格納された複数のラベルなしサンプルをもとに、前記コンテンツの種類に応じた確率モデルを与え、前記分類モデルの付与ラベル推定の偏りを補正するため偏り補正モデルに関するパラメータを計算し、前記分類モデルに関するパラメータ、前記偏り補正モデルに関するパラメータ、および、前記分類モデルと前記偏り補正モデルとを統合して前記特徴ベクトルを条件とする付与ラベルの組合せの確率である条件付確率を求めるための条件付確率モデルを生成するときに使用する統合パラメータ、を含んだ所定の目的関数の値を最大化するような前記統合パラメータを計算し、前記分類モデルのパラメータ、前記偏り補正モデルのパラメータ、および、前記統合パラメータをもとに、前記分類モデルと前記偏り補正モデルとを重み付き統合することで、前記条件付確率モデルを生成する条件付確率モデル生成部と、を備え、前記所定の目的関数は、前記記憶部に格納されたラベルありサンプルそれぞれに対応する付与ラベルの組合せに対して前記条件付確率モデルが与える、前記条件付確率の総和または総和に準ずる値を表す関数であり、前記条件付確率モデル生成部は、前記所定の目的関数の値を最大化するような前記統合パラメータを計算するとき、前記所定の目的関数に含まれる項のうち、前記ラベルごとに独立な関数の値を用いて計算することで前記統合パラメータを計算することを特徴とする。

かかる発明によれば、分類モデルと偏り補正モデルとを統合して条件付確率モデルを生成するときに使用する統合パラメータを、所定の目的関数の値を最大化するようにして計算することで、分類モデルと偏り補正モデルとを統合しても、ラベル予測精度を低下させないような条件付確率モデルを得ることができる。つまり、分類モデルと偏り補正モデルとを、単純に統合するのではなく、正解ラベルが判明しているラベルありサンプルの特徴ベクトルを入力したときに高精度でその正解ラベルを予測（付与判定）できるように統合することで、新規のコンテンツに対して高精度なラベル付与を期待できる条件付確率モデルを得ることができる。また、この統合パラメータを計算する際は、所定の目的関数に含まれる項のうち、ラベルごとに独立な関数の値を用いて計算することで、計算時間が短くて済む。つまり、ラベルの数が多くなるにつれて、従来技術では指数関数的に計算時間が増えてしまっていたが、本発明では、一次関数的に（ラベルの数に比例したオーダーで）しか計算時間が増えないので、特にラベルの数が多いときは従来技術に比べて計算時間が非常に短くて済む。

また、本発明は、前記条件付確率モデル生成部が、前記分類モデルと前記偏り補正モデルとを、最大エントロピー原理に基づいて重み付き統合することで、前記条件付確率モデルを生成することを特徴とする。

かかる発明によれば、最大エントロピー原理を使うことで、できるだけ多くのラベルありサンプルのクラスを正確に予測する(精度のよい)条件付確率モデルを与えるような所定の目的関数を得ることができ、その目的関数を使用することで分類モデルと偏り補正モデルを適切に統合することができる。

また、本発明は、前記統合パラメータが、前記分類モデルと前記偏り補正モデルとを重み付き統合するときの統合比と、ラベル付与に対する前記ラベルごとの付与度の不均一さを調整する定数項と、を含んでいることを特徴とする。

かかる発明によれば、統合比と定数項とを算出して使用することで、ラベルありサンプルに付与されているラベルを高精度で予測できるように、分類モデルと偏り補正モデルを統合し、かつ、各ラベルの付与度の調整ができる。その結果、新規のコンテンツに対して高精度なラベル付与を期待できる条件付確率モデルを得ることができる。

また、本発明は、前記分類モデルが、前記ラベルごとに独立し、ラベル付与の有無を２値で扱う２値分類モデルであり、前記偏り補正モデルは、前記ラベルごとに独立した確率モデルであり、前記条件付確率モデル生成部は、前記ラベルごとに独立な関数の値を用いて計算することで、前記統合比、前記定数項、および、前記偏り補正モデルのパラメータを算出することを特徴とする。

かかる発明によれば、分類モデルおよび偏り補正モデルをラベルごとに独立したモデルとすることで、所定の目的関数をラベルごとに独立な関数で分解して表現することが確実にできる。これにより、ラベル数をＫとした場合、従来技術のときのようにラベルの組合せ数（２^Ｋ−１）ではなく、ラベル数（Ｋ）またはその定数倍（２倍など）に比例したオーダーの計算時間（計算量）で、統合比、定数項、および、偏り補正モデルのパラメータを算出することができる。つまり、Ｋが大きいとき、「２^Ｋ−１」よりも「Ｋまたはその定数倍」のほうが圧倒的に小さいので、計算時間が短くて済む。

また、本発明は、ラベル付与対象の新規のコンテンツの入力を受け付ける入力部と、前記入力部が受け付けた新規のコンテンツに関して、前記条件付確率モデルを用いて付与ラベルの組合せの条件付確率の最大化を図ることで、付与する１つ以上のラベルを決定するラベル付与部と、をさらに備えることを特徴とする。

かかる発明によれば、コンテンツの内容の分類を表すラベルを１つ以上付与するように、つまり、ラベルを１つも付与しない事象を除去（排除）して、条件付確率モデルを生成（設計）するので、その条件付確率モデルを用いて、新規のコンテンツに対して１つ以上のラベルを必ず付与することができる。

また、本発明にかかるラベル付与プログラムは、コンピュータを前記ラベル付与装置として機能させることを特徴とする。

かかる発明によれば、コンピュータを前記いずれかのラベル付与装置として機能させることができる。

また、本発明にかかる記録媒体は、前記ラベル付与プログラムが記録されたことを特徴とし、コンピュータに読み取り可能である。

かかる発明によれば、この記録媒体の情報を読み取ったコンピュータは、この記録媒体に記録されたラベル付与プログラムに基づいた各機能を実現することができる。

本発明によれば、ラベル付与のための事前学習と高精度なラベル付与を短い計算時間で実現できるラベル付与モデル（条件付確率モデル）を生成することができる。

以下、本発明を実施するための最良の形態（以下、実施形態という。）について、図面を参照（言及図以外の図も適宜参照）しながら説明する。なお、実施形態について、概要、具体例、アルゴリズム例、実験例の順で説明する。

[概要]
図１は、本実施形態の自動多重ラベル付与装置の構成を示す機能ブロック図の例である。自動多重ラベル付与装置（ラベル付与装置）１は、記憶部１０、処理部２０、入力部７および出力部８を備えて構成される。自動多重ラベル付与装置１は、その設計者（以下、単に「設計者」という。）が予め設定した有限個のラベル｛１，…，ｋ，…，Ｋ｝の中から、コンテンツに付与すべきラベルの組合せ（クラス）を推定する装置である。

自動多重ラベル付与装置１は、具体的にはコンピュータ装置であり、ＣＰＵ（Central Processing Unit）、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）、ＨＤＤ（Hard Disk Drive）、入出力インタフェース、通信インタフェース等を備えている。例えば、訓練データＤＢ（Data Base）２はＨＤＤ内の所定領域に格納され、メモリ５はＲＡＭによって実現される。また、処理部２０は、ＲＯＭやＨＤＤに記憶された各種プログラムをＣＰＵがＲＡＭを作業領域として実行することによって実現される。

訓練データＤＢ２には、ラベル付与対象のコンテンツ（以下、「ラベル付与対象コンテンツ」という。）と同様の形式をもつコンテンツの例を集めて生成された訓練データ（学習用のデータ）として、ラベルありサンプル２１とラベルなしサンプル２２が記憶されている。

ラベルありサンプル２１は、コンテンツ本体（あるいはその特徴ベクトル）とラベルごとのラベル付与の可否を示すラベル付与ベクトルの対から成るデータである。また、ラベルなしサンプル２２は、ラベル付与ベクトルがなく（ラベルが付与されておらず）、コンテンツ本体（あるいはその特徴ベクトル）のみから成るデータである。

ここで、ラベル付与ベクトルとは、すべてのラベル候補に対する付与の可否をベクトルとして表現したもので、自動多重ラベル付与装置１の利用者（以下、単に「利用者」という。）あるいは設計者によって予め付与されている。なお、訓練データに関して、コンテンツ本体の例としては特許文書が挙げられ、その場合のラベルの例としてはＩＰＣやＦターム等の記号が挙げられる。また、使用するラベルの種類や数は予め決定されているものとする。さらに、ラベルありサンプル２１は、ラベル付与の手間があって大量準備が困難であるので、その数は例えば数十程度である。また、ラベルなしサンプル２２は、ラベル付与の手間がなくて大量準備が容易であるので、その数は例えば数千程度である。

メモリ５は、前記したように処理部２０の作業領域であり、必要に応じて、分類モデル５１、偏り補正モデル５２、条件付確率モデル５３等を、それらの各パラメータとともに記憶する。分類モデル５１は、新規のコンテンツの特徴ベクトルを入力すると付与すべきラベルを推定するために用いられるものである。分類モデル５１は、予め設計者によって関数形等で与えられ、ラベルありサンプル２１をもとに分類モデル生成部３によってそのパラメータが決定（更新）される（詳細は後記）。なお、この分類モデル５１のパラメータは、数の少ないラベルありサンプル２１に基づいて決定されるので、分類モデル５１が高精度なラベル付与モデルであるとは限らない。

偏り補正モデル５２は、コンテンツの種類に応じた確率モデルを与え、分類モデル５１の付与ラベル推定の偏りを補正するためのものである。この偏り補正モデル５２は、ラベルなしサンプル２２をもとに条件付確率モデル生成部４によって生成される（詳細は後記）。

条件付確率モデル５３は、分類モデル５１と、偏り補正モデル５２と、ラベルありサンプル２１とをもとに条件付確率モデル生成部４によって生成されるものである（詳細は後記）。この条件付確率モデル５３によって、高精度なラベル付与モデルが実現される。

分類モデル生成部３は、前記したように、ラベルありサンプル２１をもとに分類モデル５１を生成する。条件付確率モデル生成部４は、前記したように、ラベルなしサンプル２２をもとに偏り補正モデル５２を生成し、分類モデル５１と偏り補正モデル５２とラベルありサンプル２１とをもとに条件付確率モデル５３を生成する。

自動多重ラベル付与部６は、条件付確率モデル５３を用いてラベル付与対象コンテンツヘの各ラベルの付与の可否を判定する（詳細は後記）。

入力部７は、ラベル付与対象コンテンツの入力を受け付けるインタフェースであり、例えば、ラベル付与対象コンテンツがネットワークを介して入力される場合は、ネットワークカードにより実現される。

出力部８は、自動多重ラベル付与装置１による多重ラベル付与の結果等を画面表示したり外部装置に出力したりするインタフェースであり、例えば、液晶ディスプレイや通信装置等へのインタフェースにより実現される。

次に、分類モデル生成部３と条件付確率モデル生成部４の処理の手順について説明する。図２は、分類モデル生成部３と条件付確率モデル生成部４の処理の手順の概要を示すフローチャートである。

ラベルの組合せの推定は、分類モデル生成部３と条件付確率モデル生成部４で学習された条件付確率モデル５３を用いて、自動多重ラベル付与部６がコンテンツに対するクラスの条件付確率Ｒ（ｙ｜ｘ）を計算することで行われる。ここで、ｘはコンテンツの特徴ベクトルを表す。また、ｙ＝（ｙ_１，…，ｙ_ｋ，…，ｙ_Ｋ），ｙ_ｋ∈｛１，０｝はラベル付与ベクトルを表し、コンテンツが属するクラスを一意に示す。なお、ｙ_ｋ＝１はラベルｋがコンテンツに付与されることを示し、ｙ_ｋ＝０はラベルｋがコンテンツに付与されないことを示す。

分類モデル生成部３では、設計者によって与えられた分類モデル５１に関する処理を行う。図２に示すように、分類モデル生成部３は、まず、訓練データＤＢ２に保存されているラベルありサンプル２１の集合Ｄ_ｌ＝｛（ｘ^（ｎ），ｙ^（ｎ））｝^Ｎ _ｎ＝１（本明細書において、「^Ｎ _ｎ＝１」は「ｎ」に「１」から「Ｎ」までを代入することを意味する。他の文字についても同様。）（（ｘ^（ｎ），ｙ^（ｎ））はｎ番目のラベルありサンプル２１を示す。）を取り込んでメモリ５に格納し（ステップＳ１０１）、分類モデル５１（Ｐ（ｙ｜ｘ；Ｗ_ｋ））のパラメータＷの推定値Ｗ^（本明細書において、「^」は直前の文字の上部に位置する記号であるものとする。）をラベルありサンプル２１の集合Ｄ_ｌを用いて計算してメモリ５に格納する（ステップＳ１０２）。ここで、ｎはラベルありサンプル２１の集合に含まれるラベルありサンプルのＩＤ番号を表す。

次に、分類モデル生成部３は、分類モデル５１によるラベルありサンプル２１のスコアの予測値Ｓ^を計算してメモリ５に格納する（ステップＳ１０３：詳細は図３で後記）。なお、スコアとは、あるコンテンツにあるクラス（ラベルの組合せ）を与えることの妥当性を示す指標となる数値（得点）のことである。

その後、条件付確率モデル生成部４は、条件付確率モデル５３に含まれる、偏り補正モデル５２と、モデル統合（分類モデル５１と偏り補正モデル５２との統合）とに関するそれぞれ最適なパラメータの推定値Θ^，Γ^を計算してメモリ５に格納する（ステップＳ１０４）。

そして、条件付確率モデル生成部４は、分類モデル５１の関数形等と、メモリ５に格納されている各パラメータ（分類モデル５１のパラメータの推定値Ｗ^と、偏り補正モデル５２のパラメータの推定値Θ^と、モデル統合のパラメータの推定値Γ^）とを用いて条件付確率モデル５３（Ｒ（ｙ｜ｘ；Ｗ^，Θ^，Γ^））を生成して（条件付確率モデル５３のパラメータを学習して）メモリ５に格納する（ステップＳ１０５）。

その後、自動多重ラベル付与部６は、メモリ５に記憶された条件付確率モデル５３（Ｒ（ｙ｜ｘ；Ｗ^，Θ^，Γ^））を用いて、入力部７から受け取ったラベル付与対象コンテンツに付与すべきラベルを推定する。出力部８は、そのラベル付与結果を利用者に提示し、また、必要に応じてそのコンテンツファイル（データ）をラベル付与結果に応じて記憶部１０の適切な箇所に保存する。

次に、図２のステップＳ１０３の処理について詳細に説明する。図３は、図２のステップＳ１０３の処理の詳細を示すフローチャートである。この処理で計算されるスコアの予測値は、後に、条件付確率モデル５３のパラメータを学習するのに用いられる。

分類モデル生成部３は、図３に示すように、メモリ５からラベルありサンプルの集合Ｄ_ｌを読み込み（ステップＳ２０１）、その集合Ｄ_ｌから任意の１つのラベルありサンプル（ｘ^（ｎ），ｙ^（ｎ））を除外して（ステップＳ２０２）、１点除外ラベルありサンプル集合Ｄ_ｌ ^（−ｎ）を作成する。

次に、分類モデル生成部３は、１点除外ラベルありサンプル集合Ｄ_ｌ ^（−ｎ）を用いて分類モデル５１のパラメータの推定値Ｗ^（−ｎ）を算出し（ステップＳ２０３）、除外したデータのスコアの予測値ｓ_ｋ（ｘ^（ｎ））を分類モデルＰ（ｙ｜ｘ；Ｗ^（−ｎ））を用いて計算する（ステップＳ２０４）。さらに、分類モデル生成部３は、ラベルありサンプル集合に含まれる全てのラベルありサンプルのスコアの予測値の計算を終了したか否か判断し（ステップＳ２０５）、計算を終了していない場合（Ｎｏ）、ラベルありサンプルの集合からその前とは別の任意の１つのラベルありサンプルを除外して、そのラベルありサンプルのスコアの予測値を計算する処理（ステップＳ２０２〜ステップＳ２０４）を行う。分類モデル生成部３は、当該計算を終了した場合（ステップＳ２０５でＹｅｓ）、全てのラベルありサンプルに対するスコアの予測値Ｓ^＝｛ｓ^ｙ（ｘ^（ｎ））｝_ｎ，ｙをメモリ５に格納する（ステップＳ２０６）。このように、ラベルありサンプルの集合からラベルありサンプルを１つ除外し、その１点除外ラベルありサンプル集合に対するその除外したラベルありサンプルのスコアを算出する、という処理を繰り返すことで、スコアの予測値Ｓ^を算出することができる。

次に、図２のステップＳ１０４の処理について詳細に説明する。図４は、図２のステップＳ１０４の処理の詳細を示すフローチャートである。この処理で計算される偏り補正モデル５２のパラメータの推定値と、モデル統合のパラメータの推定値は、後に、条件付確率モデル５３のパラメータを学習するのに用いられる。

条件付確率モデル生成部４は、図４に示すように、メモリ５からラベルありサンプル集合Ｄ_ｌとラベルなしサンプル集合Ｄ_ｕ＝｛ｘ^（ｍ）｝^Ｍ _ｍ＝１を読み込み（ステップＳ３０１）、さらに、ラベルありサンプル集合Ｄ_ｌのスコアの予測値Ｓ^と分類モデルのパラメータの推定値Ｗ^を読み込む（ステップＳ３０２）。

次に、条件付確率モデル生成部４は、学習ステップを示す変数ｔに初期値「０」を与え（初期化し）、また、偏り補正モデル５２のパラメータΘ^（ｔ）に初期値Θ^（０）を与え（初期化し）（ステップＳ３０３）、初期値Θ^（０）の下でモデル統合のパラメータの推定値Γ^（ｔ）（Γ^（０））を準ニュートン法の実現法の１つであるＢＦＧＳ（Broyden, Fletcher, Goldfarb, Shanno）アルゴリズム（Liu, D. C. and Nocedel, J.: On the limited memory BFGS method for large scale optimization, Math Programming, Ser. B, Vol. 45, No. 3, 503-528, (1989)参照）を用いて計算する（ステップＳ３０４）。そして、条件付確率モデル生成部４は、推定値Ｗ^と、Θ^（０），Γ^（０）で与えられる条件付確率分布Ｒ（ｙ｜ｘ；Ｗ^，Θ^（ｔ），Γ^（ｔ））（Ｒ（ｙ｜ｘ；Ｗ^，Θ^（０），Γ^（０）））を用いて、ラベルなしサンプルｘ^（ｍ）の関数値を計算し（ステップＳ３０５）、偏り補正モデル５２のパラメータの推定値Θ^{（ｔ+１）}（Θ^（１））を計算する（ステップＳ３０６）。

さらに、条件付確率モデル生成部４は、推定値Θ^{（ｔ+１）}の下でモデル統合のパラメータの推定値Γ^{（ｔ+１）}を計算する（ステップＳ３０７）。条件付確率モデル生成部４は、パラメータΘ、Γの推定値の変化量ｄ（ｔ+１，ｔ）を計算し、収束条件（ｄ（ｔ+１，ｔ）＜ε）を満たすか否か判断する（ステップＳ３０８）。収束条件を、満たす場合（ステップＳ３０８でＹｅｓ）、条件付確率モデル生成部４は、Θ^←Θ^{（ｔ+１）}、Γ^←Γ^{（ｔ+１）}として、偏り補正モデル５２とモデル統合の各パラメータの推定値Θ^，Γ^をメモリ５に格納する（ステップＳ３１０）。

収束条件を満たさない場合（ステップＳ３０８でＮｏ）、条件付確率モデル生成部４は、学習ステップを示す変数ｔを更新（ｔ←ｔ+１）して（ステップＳ３０９）、ステップＳ３０５からステップＳ３０８までの処理を再度実行する。

なお、ステップＳ３０８における収束条件は、前記したもの以外に、設計者が事前に与える最大値ｔ_ｍａｘに学習ステップを示す変数ｔが到達したこと、等であってもよい。

続いて、ラベル付与の可否判定の処理について説明する。図５は、条件付確率モデルを用いたコンテンツヘのラベル付与の可否判定の処理を示すフローチャートである。

図５に示すように、自動多重ラベル付与部６は、利用者が入力部７を介して入力したコンテンツの特徴ベクトルｘ^（ｚ）を読み込み（ステップＳ４０１）、メモリ５に格納されている条件付確率モデル５３を用いて条件付確率Ｒ（ｙ｜ｘ^（ｚ）；Ｗ^，Θ^，Γ^）の値を最大化させるラベル付与ベクトルｙを探索する（ステップＳ４０２）。そして、条件付確率モデル生成部４は、得られたラベル付与ベクトルｙをもとに、入力されたコンテンツに付与すべきラベルを推定（決定）し（ステップＳ４０３）、その推定結果を出力部８に受け渡す（ステップＳ４０４）。

［具体例]
次に、Ｋ個のラベル｛１，…，ｋ，…，Ｋ｝の候補からコンテンツに付与すべきラベルを１個以上選択する多重ラベル付与問題において、既存の２値分類モデルを用いてスコア関数を定義し、偏り補正モデルとして多項分布に基づくナイーブベイズ(Naive Bayes)モデル（以下、ＮＢモデル)を用いる場合の具体例について、詳細に説明する。

コンテンツに含まれる単語等により構成される特徴空間をＴ＝｛ｔ_１，…，ｔ_ｉ，…，ｔ_Ｖ｝とするとき、コンテンツの特徴ベクトルｘは、コンテンツに含まれるｔ_ｉの頻度をもとにｘ＝（ｘ_１，…，ｘ_ｉ，…，ｘ_Ｖ）で表現される。なお、Ｖはコンテンツに含まれる可能性がある特徴の種類の数を表す。例えば、コンテンツがテキストデータである場合、Ｖはコンテンツに出現する可能性がある語彙の総数を表す。

この具体例では、まず、コンテンツの特徴ベクトルｘに対して、ラベルｋの付与を規定する２値変数ｙ_ｋ∈｛１，０｝の確率Ｒ（ｙ_ｋ｜ｘ）を与える２値分類モデルを設計する。２値分類モデルには、ＮＢモデルや、サポートベクトルマシン（以下、ＳＶＭという。）、ロジスティック回帰モデル(以下、ＬＲモデルという。)等の既存の分類モデルを用いることができる。なお、ＳＶＭについては、文献「T. Joachims: Text categorization with support vector machines: Learning with many relevant features, Proceeding of 10th European Conference on Machine Learning(ECML-98), 137-142, (1998)」に記載がある。また、ＬＲモデルについては、文献「Hastie, T., Tibshirani, R., and Friedman, J.: The elements of statistical learning: Data Mining, inference, and prediction, New York Berlin Heidelberg: Springer-Verlag, （2001）」に記載がある。これらの分類モデルが与える２値変数ｙ_ｋの確率Ｐ（ｙ_ｋ｜ｘ）は、スコア関数ｓ_ｋ（ｘ；Ｗ_ｋ）を用いて以下の式（１）で表すことができる。

ここで、Ｗ_ｋは分類モデルのパラメータである。２値分類モデルにＳＶＭを用いる場合は、スコア関数ｓ_ｋ（ｘ；Ｗ_ｋ）をカーネル関数φ（ｘ；Ｗ_ｋ）で与える。線形カーネルを用いる場合には、φ（ｘ；Ｗ_ｋ）＝ｘ・ｗ_ｋ＋ｗ_ｋ０となる。ただし、Ｗ_ｋ＝（ｗ_ｋ，ｗ_ｋ０），ｗ_ｋ＝（ｗ_ｋ１，…，ｗ_ｋｉ，…，ｗ_ＫＶ）であり、ｘ・ｗ_ｋはｘとｗ_ｋの内積を表す。

２値分類モデルにＬＲモデルを用いる場合は、スコア関数を線形カーネルと同様にｓ_ｋ（ｘ；Ｗ_ｋ）＝ｘ・ｗ_ｋ＋ｗ_ｋ０で与える。２値分類モデルにＮＢモデルを用いる場合は、スコア関数ｓ_ｋ（ｘ；Ｗ_ｋ）を確率モデルの対数比ｌｏｇ｛Ｐ（ｘ｜ｙ_ｋ＝１；Ｗ_ｋ）／Ｐ（ｘ｜ｙ_ｋ＝０；Ｗ_ｋ）｝で与える。

確率モデルＰ（ｘ｜ｙ_ｋ；Ｗ_ｋ）の分布型は、後記する偏り補正モデルと同様である（後記する式（３）参照）。２値分類モデルのパラメータの推定値Ｗ^_ｋは、分類モデル生成部３において図２のステップＳ１０１で読み込んだラベルありサンプル２１の集合Ｄ_ｌ＝｛（ｘ^（ｎ），ｙ^（ｎ））｝^Ｎ _ｎ＝１を用いて計算する（図２のステップＳ１０２）ことで得られる。なお、パラメータの推定値の計算とパラメータの推定値を用いたコンテンツｘのラベルｋに対するスコア値ｓ_ｋ（ｘ；Ｗ^_ｋ）の計算は、それぞれの分類モデル用に開発されてきた既存の手法を用いて行うことができる。

次に、分類モデル生成部３は、図２のステップＳ１０３で、ラベルありサンプルのスコアの予測値を計算する。ラベルありサンプルｘ^（ｎ）のスコアの予測値は、そのラベルありサンプルを除外して得られるラベルありサンプル集合Ｄ_ｌ ^（−ｎ）を用いて学習された２値分類モデルのパラメータの推定値Ｗ_ｋ ^（−ｎ）を用いて算出されるスコア値ｓ_ｋ（ｘ^（ｎ）；Ｗ_ｋ ^（−ｎ））とする。

条件付確率モデル生成部４では、２値分類モデルのスコア関数ｓ_ｋ（ｘ；Ｗ_ｋ）と偏り補正モデルｐ_ｂ（ｘ｜ｙ_ｋ；Θ_ｋ）を用いて最大エントロピー原理に基づいて導出する式（２）を、ラベル付与ベクトルｙ＝（ｙ_１，…，ｙ_ｋ，…，ｙ_Ｋ）で表されるクラスの条件付確率モデル（「ｘ；Ｗ^，Θ，Γ」が「条件」に相当）として与える。

なお、Θ＝｛Θ_ｋ｝^Ｋ _ｋ＝１は偏り補正モデルのパラメータであり、Γ＝（γ_１，γ_２，｛μ_ｋ｝^Ｋ _ｋ＝１）はモデル統合のパラメータである。また、Ｗ＝｛Ｗ_ｋ｝^Ｋ _ｋ＝１であり、Ｗ^＝｛Ｗ^_ｋ｝^Ｋ _ｋ＝１は図２のステップＳ１０２でラベルありサンプル集合Ｄ_ｌを用いて計算されるパラメータの推定値の集合を表す。式（２）に示すように、条件付確率モデルは、すべてのラベルｋでｙ_ｋ＝０であるｙ＝０を除くすべてのｙに対する条件付確率を与える。

ここで、最大エントロピー原理におけるエントロピーとは、式（２）の条件付確率Ｒ（ｙ｜ｘ）（Ｒ（ｙ｜ｘ；Ｗ^，Θ，Γ））のエントロピーのことで、式で表すとΣ_ｘ，ｙｐ（ｘ）Ｒ（ｙ｜ｘ）ｌｏｇＲ（ｙ｜ｘ）となる。ここでは、最大エントロピー原理を使うことで、できるだけ多くのラベルありサンプルｘのクラスｙを正確に予測する(精度のよい)条件付確率モデルを与えるように、分類モデルと偏り補正モデルを統合することができる。最大エントロピー原理は、ラベル付与技術において従来から用いられている技術であるが、本実施形態で示すような分類モデルと偏り補正モデルとの統合に用いられたことはこれまでにない。

偏り補正モデルには、多項分布に基づくＮＢモデルを用いる。ＮＢモデルでは、ラベルｋが付与される場合（ｙ_ｋ＝１）と付与されない場合（ｙ_ｋ＝０）のコンテンツｘが生成される確率Ｐ（ｘ｜ｙ_ｋ）を、コンテンツに合まれるそれぞれの特徴ｔ_ｉの出現確率θ_ｋｉ（ｙ_ｋ）が独立であると仮定して、式（３）のｐ_ｂ（ｘ｜ｙ_ｋ；Θ_ｋ）と定義する。

ここで、Θ_ｋ＝｛｛θ_ｋｉ（ｙ_ｋ）｝^Ｖ _ｉ＝１｝_{ｙｋ∈｛１，０｝}を要素とするΘ＝｛Θ_ｋ｝^Ｋ _ｋ＝１が、偏り補正モデルの推定すべきパラメータである。

偏り補正モデルは、前記したように、コンテンツの種類に応じて設計される確率モデルであり、以下、コンテンツが文書の場合を例にとって、さらに詳細に説明する。文書に含まれる単語には、文書に与えられるラベルごとに、出現しやすい単語と、出現しにくい単語がある。例えば、電気関連のＩＰＣが付与される特許文書には「回路」や「電子」といった単語が多く出現し、「エンジン」や「歯車」といった単語はあまり出現しない。

そこで、単語の出現しやすさを確率（出現確率）で表すと、文書の生成確率（その文書を構成する全単語が出現する確率）は、文書に含まれる単語の確率の積で表すことができる。さらに、単語の出現確率をラベルごとに与えると、文書の生成確率をラベルごとに計算することができる。このように文書の生成確率を定義（モデル化）すると、高い文書の生成確率を与えるラベルが文書に付与すべきラベルである、と予測することができる。式（３）は、文書（コンテンツ）の生成確率を表す式であり、文書の確率モデルを定式化したものである。

式（３）で表される確率分布は、前記したように多項分布モデルと呼ばれ、単語の個数で特徴付けられる文書のように、複数の要素の頻度で表すことができるコンテンツの確率モデルを設計するのに用いられる。なお、画像データや信号などの連続値の特徴量をもつコンテンツの場合は、例えば、混合ガウス分布モデルを用いて確率モデルが設計される。

図２に戻って説明を続けると、ステップＳ１０４では、偏り補正モデルのパラメータの推定値Θ^とモデル統合のパラメータの推定値Γ^を、分類モデル生成部３が算出したラベルありサンプルのスコアの予測値｛ｓ_ｋ（ｘ^（ｎ）；Ｗ_ｋ ^（−ｎ））｝_ｎ，ｋと２値分類モデルのパラメータの推定値Ｗ^とを用いて推定する。これらのパラメータの推定は交互に繰り返し計算することによって行う。

図４に示すように、まず、訓練データＤＢ２からラベルありサンプルＤ_ｌ＝｛（ｘ^（ｎ），ｙ^（ｎ））｝^Ｎ _ｎ＝１とラベルなしサンプルＤ_ｕ＝｛ｘ^（ｍ）｝^Ｍ _ｍ＝１を読み込み（ステップＳ３０１）、ラベルありサンプルのスコアの予測値と２値分類モデルのパラメータの推定値とを読み込み（ステップＳ３０２）、学習ステップを示す変数ｔを「０」に初期化し、偏り補正モデルのパラメータの初期値を｛θ_ｋｉ（ｙ_ｋ）｝^（ｔ）＝１／Ｖ，∀ｋ、∀ｙ_ｋ、∀ｉで与える（ステップＳ３０３）。そして、モデル統合のパラメータの推定値Γ^（ｔ）を以下の式（４）に示す目的関数Ｆ（Γ^（ｔ）｜Θ^（ｔ））を最大化させるΓ^（ｔ）として計算する（ステップＳ３０４）。

ここで、式（４）の第一行右辺の第一項（Σ^Ｎ _ｎ＝１ｌｏｇＲ（ｙ^（ｎ）｜ｘ^（ｎ）；Ｗ^（−ｎ），Θ^（ｔ），Γ^（ｔ）））は、条件付確率モデルがラベルありサンプルｘ^（ｎ）の真のクラスｙ^（ｎ）に対して与える条件付確率の対数和（条件付確率の総和に準ずる値）を表す。条件付確率モデルは、真のクラスに対して他のクラスより大きい条件付確率を与えるとき、コンテンツが属する正解クラスを予測することができる。したがって、この第一行右辺の第一項を最大化させるΓ^（ｔ）を求めることで、ラベルありサンプルのクラスを高い精度で予測できる条件付確率モデルを与える分類モデル５１と偏り補正モデル５２との統合比γ_１ ^（ｔ），γ_２ ^（ｔ）と、ラベル間の不均衡（ラベル付与に対するラベルごとの付与度（付与されやすさの度合い）の不均一さ）を調整する定数項｛μ_ｋ ^（ｔ）｝^Ｋ _ｋ＝１と、を得ることができる。なお、式（４）の第二行におけるＨ_ｋ（ｙ_ｋ ^（ｎ）｜ｘ^（ｎ）；Ｗ_ｋ ^（−ｎ），Θ_ｋ ^（ｔ），Γ^（ｔ））は、式（２）をｋごとに分離（分解）して得られる式（式（５）参照）に基づいて与えられる関数である。

つまり、本実施形態では、すべてのラベルに対して単一の目的関数（式（４）の一行目の右辺）を与えている。ただし，式（４）の二、三行目のように、ラベルごとに独立に計算できるＨ_ｋを用いて目的関数を書き換えることができる。このため、すべてのクラス（ラベルの組合せ）に対して計算が必要なＲ（ｙ｜ｘ）の代わりに、ラベルの個数だけあるＨ_ｋを計算すればよくなるので、計算時間が短くて済む。

また、式（４）におけるｐ（Γ^（ｔ））はパラメータΓ^（ｔ）の事前確率分布であり、条件付確率モデルのラベルありサンプルヘの過適合を抑制するために用いられる。本実施形態では、ｐ（Γ^（ｔ））として、式（６）に示すように、ガウス事前確率分布を用いる。

ここで、「過適合」について説明する。一般に、（自動多重）ラベル付与装置は、学習に用いていない新規のコンテンツに付与すべきラベルを予測するためのものであるが、学習に用いるラベルありサンプルに最も都合の良い（適合する）パラメータ値が、新規のコンテンツにラベルを付与する場合にも最も適切とは限らない。特に、ラベルありサンプルが少数の場合、ラベルありサンプルに最も適合するパラメータ値を用いると、新規のコンテンツに対するラベル付与の精度が低いことがある。これは、学習に用いるラベルありサンプルに統計的な偏りがあり、ラベルありサンプルに適合するパラメータ値も統計的な偏りを含むことが多いためである。統計的な偏りを含むパラメータ値は、ラベルありサンプルに似ていない新規のコンテンツには有効ではなく、その場合、高精度なラベル付与を期待できない。この現象を「過適合」という。そこで、この過適合を抑制するために、ガウス事前確率分布などを用いて、パラメータ値がラベルありサンプルに対して適合しすぎないように計算する。

式（６）において、ａ_ｊ，σ_ｊ，ρ_ｋは、パラメータ学習時に設計者が値を与えるハイパーパラメータであり、例えば、ａ_ｊ＝１，σ_ｊ＝１，ρ_ｋ＝ｃ（ｃは正の実数値）のように定数値を設定すればよい。Ｆ（Γ^（ｔ）｜Θ^（ｔ））を最大化させるΓ^（ｔ）の値は、準ニュートン法の一種であるＢＦＧＳアルゴリズムを用いて計算することができる。

ただし、本実施形態では、偏り補正モデルを有用な場合のみに利用するようにモデル統合のパラメータ値を与えることを目的として、Ｆ（Γ^（ｔ）｜Θ^（ｔ））を最大化させるΓ^（ｔ）のγ_２ ^（ｔ）が負の値である場合は、γ_２ ^（ｔ）＝０の下でＦ（Γ^（ｔ）｜Θ^（ｔ））を最大化させるΓ^（ｔ）をモデル統合のパラメータの推定値とする。すなわち、γ_２ ^（ｔ）≧０の範囲内でＦ（Γ^（ｔ）｜Θ^（ｔ））の最大値を与えるΓ^（ｔ）を計算する。式（４）で示したように、Ｆ（Γ^（ｔ）｜Θ^（ｔ））はｋ以外のラベルに依存しない関数Ｈ_ｋ（ｙ_ｋ ^（ｎ）｜ｘ^（ｎ）；Ｗ_ｋ ^（−ｎ），Θ_ｋ，Γ）を用いて計算できるため、クラス数２^Ｋ−１ではなくラベル数Ｋに比例する計算時間でΓ^（ｔ）を求めることができる。

Γ^（ｔ）を計算した後、式（５）を用いて、ラベルなしデータｘ^（ｍ）に対するラベルｋの関数値Ｈ_ｋ（ｙ_ｋ｜ｘ^（ｍ）；Ｗ^_ｋ，Θ_ｋ ^（ｔ），Γ^（ｔ））を計算し（ステップＳ３０５）、偏り補正モデル５２のパラメータの推定値を以下の式（７）に示す目的関数Ｑ（Θ^{（ｔ＋１）}，Θ^（ｔ）｜Γ^（ｔ））を最大化させるΘ^{（ｔ＋１）}として計算する（ステップＳ３０６）。

ただし、Ｈ′（ｙ_ｋ｜ｘ^（ｍ）；Ｗ^，Θ^（ｔ），Γ^（ｔ））は式（８）に示す関数と、Ｈ′（ｙ_ｋ＝０｜ｘ；Ｗ^，Θ，Γ）＝１−Ｈ′（ｙ_ｋ＝１｜ｘ；Ｗ^，Θ，Γ）と、を用いて計算される値である。

また、式（７）の目的関数Ｑ（Θ^{（ｔ＋１）}，Θ^（ｔ）｜Γ^（ｔ））は、式（２）で与えた条件付確率モデルによるラベルなしデータの識別関数値ｇ（ｘ^（ｍ），ｙ；Ｗ^，Θ，Γ）（式（９）参照）の総和と偏り補正モデル５２のパラメータの事前確率分布の対数和をＧ（Θ｜Γ）（式（１０）参照）で表すとき、Ｇ（Θ^{（ｔ＋１）}｜Γ^（ｔ））−Ｇ（Θ^（ｔ）｜Γ^（ｔ））≧Ｑ（Θ^{（ｔ＋１）}，Θ^（ｔ）｜Γ^（ｔ））−Ｑ（Θ^（ｔ），Θ^（ｔ）｜Γ^（ｔ））を満たす関数として導出される。

すなわち、本実施形態では、Ｑ（Θ^{（ｔ＋１）}，Θ^（ｔ）｜Γ^（ｔ））を最大化させるΘ^{（ｔ＋１）}を計算することによって、ラベルなしデータの識別関数値ｇの総和を向上させるパラメータ値を求める。

ここで、識別関数とは、コンテンツが属するクラスを判定（予測）するために用いられる関数のことである。本実施形態では、最大のＲ（ｙ｜ｘ；Ｗ^，Θ，Γ）（式（２）の左辺）を与えるｙをコンテンツに対する予測クラスとしている。そして、Ｒ（ｙ｜ｘ；Ｗ^，Θ，Γ）の分母はｙの値によらず一定の値であり（式（２）参照）、式（２）の右辺の分子で与えられる関数をｇ（ｘ^（ｍ），ｙ；Ｗ^，Θ，Γ）とすると、argmax_ｙ≠０Ｒ（ｙ｜ｘ；Ｗ^，Θ，Γ）＝argmax_ｙ≠０ｇ（ｘ^（ｍ），ｙ；Ｗ^，Θ，Γ）の関係が成立する。なお、「argmaxｆ（ｘ）」は、「ｆ（ｘ）を最大にするｘ」を意味する。このため、本実施形態では、式（９）に示すように、式（２）の右辺の分子が識別関数となる。また、識別関数値とは、識別関数の変数に具体的な値を代入することによって得られる値である。

また、偏り補正モデル５２のパラメータの事前確率分布をディリクレ分布で与えるとき（式（１１）参照）、Ｑ（Θ^{（ｔ＋１）}，Θ^（ｔ）｜Γ^（ｔ））を最大化させるΘ^{（ｔ＋１）}は、以下の式（１２）を用いてΘ^{（ｔ＋１）}の各要素をすべて計算することで得られる。

ここで、ξ_ｋはパラメータ学習時に設計者が値を与えるハイパーパラメータであり、例えばξ_ｋ＝ｃ′（ｃ′は正の実数値）のように定数値を設定すればよい。

偏り補正モデル５２のパラメータの推定値Θ^{（ｔ＋１）}の計算後、式（４）にΘ^{（ｔ＋１）}を代入して与える目的関数Ｆ（Γ^{（ｔ＋１）}｜Θ^{（ｔ＋１）}）を最大化させるΓ^{（ｔ＋１）}を計算し（ステップＳ３０７）、得られたパラメータの推定値を用いて式（１３）に示す収束条件を満たすか否かを確認する（ステップＳ３０８）。

式（１３）中の‖Θ_ｋ ^（ｔ）‖はΘ_ｋ ^（ｔ）のＬ２ノルム（ベクトルの各成分（要素）の二乗の総和の平方根）を表し、εは設計者が与える微小な値である。ステップＳ３０８において収束条件を満たす場合はΘ^{（ｔ＋１）}とΓ^{（ｔ＋１）}を偏り補正モデル５２とモデル統合のパラメータの推定値Θ^，Γ^としてメモリ５に格納する（ステップＳ３１０）、収束条件を満たさない場合はｔ←ｔ＋１として（ステップＳ３０９）、ステップＳ３０５からステップＳ３０８までの処理を繰り返す。

[アルゴリズム例]
（パラメータ学習アルゴリズム例）
以上の実施形態に基づいたパラメータ学習アルゴリズムの例を以下に示す。

＜手順１＞２値分類モデルを指定（ＬＲモデル、ＳＶＭ、ＮＢモデル等から１つ選択）

＜手順２＞ラベルありサンプル集合Ｄ_ｌ＝｛（ｘ^（ｎ），ｙ^（ｎ））｝^Ｎ _ｎ＝１を用いて２値分類モデルのパラメータＷ＝｛Ｗ_ｋ｝^Ｋ _ｋ＝１の推定値Ｗ^を計算（図２のステップＳ１０２）
１．ｋに１を代入。
２．ｋ≦Ｋの場合、以下を実行。
（ａ）選択した２値分類モデルの学習法に従ってＤ_ｋ＝｛（ｘ^（ｎ），ｙ_ｋ ^（ｎ））｝^Ｎ _ｎ＝１を用いてパラメータの推定値Ｗ^_ｋを計算。
（ｂ）ｋにｋ＋１を代入。

＜手順３＞ラベルありサンプルのスコアの予測値を計算（図２のステップＳ１０３）
１．ｋに１を代入。
２．ｋ≦Ｋの場合、以下を実行。
（ａ）ｎに１を代入。
（ｂ）ｎ≦Ｎの場合、以下を実行。
（１）Ｄ_ｋから（ｘ^（ｎ），ｙ_ｋ ^（ｎ））を除外してＤ_ｋ ^（−ｎ）＝｛（ｘ^{（ｎ`）</sup>，ｙ<sub>ｋ</sub> <sup>（ｎ`）}）｝^Ｎ _{ｎ´＝１，ｎ´≠ｎ}を作成（図３のステップＳ２０２）。
（２）選択した２値分類モデルの学習法に従って、Ｄ_ｋ ^（−ｎ）を用いてパラメータの推定値Ｗ_ｋ ^（−ｎ）を計算（図３のステップＳ２０３）。
（３）パラメータの推定値Ｗ_ｋ ^（−ｎ）を用いて、ｘ^（ｎ）のスコアの予測値ｓ_ｋ（ｘ^（ｎ）；Ｗ_ｋ ^（−ｎ））を計算（図３のステップＳ２０４）．
（４）ｎにｎ＋１を代入。
（ｃ）ｋにｋ＋１を代入。

＜手順４＞偏り補正モデルとモデル統合のパラメータの推定値Θ^，Γ^を計算（図２のステップＳ１０４）
１．ハイパーパラメータσ_ｊ，ρ_ｋ，ａ_ｊ，ξ_ｋとε，ｔ_ｍａｘの値を設定。
２．ｔに０を代入、Θ^（ｔ）の要素θ_ｋｉ（ｙ_ｋ）^（０）に１／Ｖを代入（図４のステップＳ３０３）。
３．Θ^（ｔ）を用いてモデル統合のパラメータの推定値Γ^（ｔ）（Γ^（０））を計算（図４のステップＳ３０４）。
（ａ）ｋに１を代入。
（ｂ）ｋ≦Ｋの場合、以下を実行。
（１）ｎに１を代入。
（２）ｎ≦Ｎの場合、以下を実行。
Ａ．式（３）を用いて、ラベルありサンプルｘ^（ｎ）のＰ（ｘ^（ｎ）｜ｙ_ｋ；Θ_ｋ ^（ｔ）），ｙ_ｋ∈｛１，０｝を計算。
Ｂ．ｎにｎ＋１を代入。
（３）ｋにｋ＋１を代入。
（ｃ）γ_２ ^（ｔ）≧０の範囲内で、式（４）と式（５）により得られる目的関数Ｆ（Γ^（ｔ）｜Θ^（ｔ））の最大値を与えるΓ^（ｔ）を、ＢＦＧＳアルゴリズムを用いて計算。

４．Θ^（ｔ）とΓ^（ｔ）を用いてラベルなしサンプル集合Ｄ_ｕ＝｛ｘ^（ｍ）｝^Ｍ _ｍ＝１の各サンプルの関数値を計算（図４のステップＳ３０５）。
（ａ）ｍに１を代入。
（ｂ）ｍ≦Ｍの場合、以下を実行。
（１）ｋに１を代入。
（２）ｋ≦Ｋの場合、以下を実行。
Ａ．式（５）を用いて、Ｈ_ｋ（ｙ_ｋ｜ｘ^（ｍ）；Ｗ^_ｋ，Θ_ｋ ^（ｔ），Γ^（ｔ）），ｙ_ｋ∈｛１，０｝を計算。
Ｂ．ｋにｋ＋１を代入。
（３）ｋに１を代入。
（４）ｋ≦Ｋの場合、以下を実行。
Ａ．式（８）を用いて、Ｈ′（ｙ_ｋ｜ｘ^（ｍ）；Ｗ^_ｋ，Θ_ｋ ^（ｔ），Γ^（ｔ）），ｙ_ｋ∈｛１，０｝を計算。
Ｂ．ｋにｋ＋１を代入。
（５）ｍにｍ＋１を代入。

５．ラベルなしサンプルの関数値Ｈ′（ｙ_ｋ｜ｘ^（ｍ）；Ｗ^_ｋ，Θ_ｋ ^（ｔ），Γ^（ｔ））を用いて偏り補正モデル５２のパラメータの推定値Θ^{（ｔ＋１）}を計算（図４のステップＳ３０７）。
（ａ）ｋに１を代入。
（ｂ）ｋ≦Ｋの場合、以下を実行。
（１）式（１２）を用いて、Θ^{（ｔ＋１）}の要素θ_ｋｉ（ｙ_ｋ）^{（ｔ＋１）}，ｙ_ｋ∈｛１，０｝，∀ｉを計算。
（２）ｋにｋ＋１を代入。

６．手順４の３．と同様の方法で、Θ^{（ｔ＋１）}を用いてモデル統合のパラメータの推定値Γ^{（ｔ＋１）}を計算（図４のステップＳ３０７）。
７．学習終了判定を実行（図４のステップＳ３０８）。
（ａ）式（１３）で与える収束条件ｄ（ｔ＋１，ｔ）＜εを満たさず、かつ、ｔ＜ｔ_ｍａｘのとき
（１）ｔにｔ＋１を代入（図４のステップＳ３０９）。
（２）手順４の４．に戻る。
（ｂ）（ａ）以外のとき、Θ^にΘ^{（ｔ＋１）}を、Γ^にΓ^{（ｔ＋１）}を代入（図４のステップＳ３１０）。

＜手順５＞条件付確率モデルＲ（ｙ｜ｘ；Ｗ^，Θ^，Γ^）を生成（図２のステップＳ１０５）
最後に、自動多重ラベル付与部６による、ユーザにより入力部７から入力されたコンテンツｘ^（ｚ）に付与するラベルを推定する方法を述べる。図５のステップＳ４０１で読み込まれたコンテンツｘ^（ｚ）を、ステップＳ４０２で読み込まれた学習済の条件付確率モデルＲ（ｙ｜ｘ；Ｗ^，Θ^，Γ^）を構成する関数Ｈ_ｋ（ｙ_ｋ｜ｘ；Ｗ^_ｋ，Θ^_ｋ，Γ^）（式（５）参照）に代入して得られる関数値Ｈ_ｋ（ｙ_ｋ｜ｘ^（ｚ）；Ｗ^_ｋ，Θ^_ｋ，Γ^）を用いて、式（１４）を満たすｙ^を、以下に示すラベル付与アルゴリズムを用いて探索する（ステップＳ４０２）。

そして、ｙ^_ｋ＝１となるラベルｋをコンテンツｘ^（ｚ）に付与するラベルとして抽出（推定）して（ステップＳ４０３）、推定結果を出力部８へ受け渡す（ステップＳ４０４）。

（ラベル付与アルゴリズム例）
次に、ラベル付与アルゴリズムの例を以下に示す。
＜手順１＞コンテンツｘ^（ｚ）のラベル付与ベクトルの推定値を探索（図５のステップＳ４０２）
１．ｋに１を、ｋ′に０を、Ｈ_ｍａｘに０を代入。
２．ｋ≦Ｋの場合、以下を実行。
（ａ）式（５）を用いて、Ｈ_ｋ（ｙ_ｋ＝１｜ｘ^（ｚ）；Ｗ^_ｋ，Θ^_ｋ，Γ^）を計算。
（ｂ）Ｈ_ｋ（ｙ_ｋ＝１｜ｘ^（ｚ）；Ｗ^_ｋ，Θ^_ｋ，Γ^）＞０．５のときｙ^_ｋに１を、それ以外のときｙ^_ｋに０を代入。
（ｃ）Ｈ_ｍａｘ＜Ｈ_ｋ（ｙ_ｋ＝１｜ｘ^（ｚ）；Ｗ^_ｋ，Θ^_ｋ，Γ^）であれば、Ｈ_ｍａｘにＨ_ｋ（ｙ_ｋ＝１｜ｘ^（ｚ）；Ｗ^_ｋ，Θ^_ｋ，Γ^）を、ｋ′にｋを代入。
（ｄ）ｋにｋ＋１を代入。
３．ｙ^＝０であれば、ｙ^_ｋ´に１を代入。

＜手順２＞コンテンツに付与するラベルを推定、つまり、ｙ^_ｋ＝１を満たすすべてのラベルｋから構成される部分ラベル集合Ｌ^＝｛ｋ｝^Ｋ _{ｋ＝１，ｙ^ｋ＝１}を作成（図５のステップＳ４０３）

＜手順３＞部分ラベル集合Ｌ^を推定結果として出力部８に受け渡す（図５のステップＳ４０４）

以上、具体例とアルゴリズム例において、２値分類モデルとＮＢモデルとを用いて条件付確率モデル５３を生成する場合について説明したが、本発明の枠組では、非特許文献１，２で示された多重分類モデルを分類モデル５１と偏り補正モデル５２に適用して、条件付確率モデル５３を生成することも可能である。この場合、分類モデル５１として用いる多重分類モデルが与えるスコア関数ｓ_ｙ（ｘ；Ｗ）と、偏り補正モデル５２として用いる確率モデルｐ_ｂ（ｘ｜ｙ；Θ）とを用いて、条件付確率モデル５３を式（１５）で与える。

分類モデル５１のパラメータの推定値Ｗ^は、適用する多重分類モデルのパラメータ学習アルゴリズムに基づいて計算できる。また、偏り補正モデル５２には、例えば、確率モデルの一種である非特許文献１の多重分類モデル（式（１６）参照）を用いることができる。

モデル統合のパラメータΓと偏り補正モデル５２のパラメータΘは、先に示した実施形態と同様にＦ（Γ^（ｔ）｜Θ^（ｔ））（式（４）参照）を最大化させるΓ^（ｔ）とＱ（Θ^{（ｔ＋１）}，Θ^（ｔ）｜Γ^（ｔ））（式（７）参照）を最大化させるΘ^{（ｔ＋１）}とを交互に繰り返して計算することで求める。

このように、本実施形態の自動多重ラベル付与装置１では、分類モデル５１と偏り補正モデル５２とを統合して条件付確率モデル５３を生成するときに使用する統合パラメータを、所定の目的関数の値を最大化するようにして計算することで、分類モデル５１と偏り補正モデル５２とを統合しても、ラベル予測精度を低下させないような条件付確率モデル５３を得ることができる。つまり、分類モデル５１と偏り補正モデル５２とを、単純に統合するのではなく、正解ラベルが判明しているラベルありサンプルの特徴ベクトルを入力したときに高精度でその正解ラベルを予測（付与判定）できるように統合することで、新規のコンテンツに対して高精度なラベル付与を期待できる条件付確率モデル５３を得ることができる。また、この統合パラメータを計算する際は、所定の目的関数に含まれる項のうち、ラベルごとに独立な関数の値を用いて計算することで、計算時間が短くて済む。つまり、ラベルの数が多くなるにつれて、従来技術では指数関数的に計算時間が増えてしまっていたが、本実施形態の自動多重ラベル付与装置１では、一次関数的に（ラベルの数に比例したオーダーで）しか計算時間が増えないので、特にラベルの数が多いときは従来技術に比べて計算時間が非常に短くて済む。

また、最大エントロピー原理を使うことで、できるだけ多くのラベルありサンプルのクラスを正確に予測する(精度のよい)条件付確率モデル５３を与えるような所定の目的関数を得ることができ、その目的関数を使用することで分類モデル５１と偏り補正モデル５２を適切に統合することができる。

さらに、統合比と定数項とを算出して使用することで、ラベルありサンプルに付与されているラベルを高精度で予測できるように、分類モデル５１と偏り補正モデル５２を統合し、かつ、各ラベルの付与度の調整ができる。その結果、新規のコンテンツに対して高精度なラベル付与を期待できる条件付確率モデル５３を得ることができる。

また、分類モデル５１および偏り補正モデル５２をラベルごとに独立したモデルとすることで、所定の目的関数をラベルごとに独立な関数で分解して表現することが確実にできる。これにより、ラベル数をＫとした場合、従来技術のときのようにラベルの組合せ数（２^Ｋ−１）ではなく、ラベル数（Ｋ）またはその定数倍（２倍など）に比例したオーダーの計算時間（計算量）で、統合比、定数項、および、偏り補正モデル５２のパラメータを算出することができる。つまり、Ｋが大きいとき、「２^Ｋ−１」よりも「Ｋまたはその定数倍」のほうが圧倒的に小さいので、計算時間が短くて済む。

さらに、コンテンツの内容の分類を表すラベルを１つ以上付与するように、つまり、ラベルを１つも付与しない事象を除去（排除）して、条件付確率モデル５３を生成（設計）するので、その条件付確率モデル５３を用いて、新規のコンテンツに対して１つ以上のラベルを必ず付与することができる。

なお、自動多重ラベル付与装置１を構成するコンピュータに実行させるラベル付与プログラムを作成し、コンピュータにインストールすることにより、コンピュータは、そのラベル付与プログラムに基づいた各機能を実現することができる。また、そのラベル付与プログラムを、ＣＤ（Compact Disc）、ＤＶＤ（Digital Versatile Disc）等の種々の記録媒体に記録したり、ネットワークを介して遠隔のコンピュータに送信したりすることができる。

［実験例］
次に、本実施形態の自動多重ラベル付与装置１に関する実験例について説明する。図６は、世界知的所有権機関（ＷＩＰＯ：World Intellectual Property Organization）が情報処理技術の研究開発用に提供しているデータベースＷＩＰＯ-alpha(Fa11, C. J., Torcsvari, A., Benzineb, K., and Karetka, G.: Automated categorization in the international Patent classification. ＡＣＭ ＳＩＧＩＲ Forum, 37, 10-25(2003).)に、本実施形態の自動多重ラベル付与装置１を適用した場合の実験結果を示す図である。

データベースＷＩＰＯ−alphaはコンテンツ本体である英文特許文書を含み、各文書にはラベルに相当する国際特許分類（ＩＰＣ）の記号が付与されている。自動多重ラベル付与装置１の性能検査には、ＩＰＣ記号の上位４桁が表すサブクラスを予測すべきラベルとし、付与されている文書が多い上位２０個のラベルを用いた。すなわち、新規の文書に対して２０個のラベル候補から付与すべきラベルを選択する課題に、自動多重ラベル付与装置１を適用して性能検査を行った。

この際、訓練データＤＢ２に含まれる文書と入力部７に入力される新規の文書には、２０個のラベル候補中の１つ以上のラベルが付与されている文書を用いた。５０００個の文書をラベルなしサンプル２２として、それ以外の任意の個数（ここでは、４０，８０，１６０，３２０，６４０，１２８０，２５６０，５１２０個）の文書をラベルありサンプル２１としてデータベースＷＩＰＯ−alphaから選択して、訓練データＤＢ２を構成した。また、新規の文書には、訓練データＤＢ２に含まれていない５０００個の文書を用いた。

本実験では、新規の５０００個の文書に対して本実施形態の自動多重ラベル付与装置１を適用して付与されるラベルの正確性をマイクロ平均Ｆ値を用いて測定した。マイクロ平均Ｆ値Ｆ_μは、多重ラベル付与問題で装置の精度を測定するのによく用いられる指標であり、ｚ番目の新規の文書の正解のラベル付与ベクトルｙ^（ｚ）＝（ｙ_１ ^（ｚ），…，ｙ_ｋ ^（ｚ），…，ｙ_２０ ^（ｚ））と自動多重ラベル付与装置１が推定するラベル付与ベクトルｙ^^（ｚ）＝（ｙ^_１ ^（ｚ），…，ｙ^_ｋ ^（ｚ），…，ｙ^_Ｋ ^（ｚ））とを用いて、以下の式（１７）で計算される。

ここで、Ｚは新規の文書の総数、Ｘはラベルの総数であり、本実験ではＺ＝５０００、Ｋ＝２０である。Ｆ_μの値が大きいほど、文書に付与すべきラベルを正確に推定していることを表す、つまり、ラベル付与の精度が高いことを示す。

図６において、方法１は、データベースＷＩＰＯ−alphaに対して、訓練データＤＢ２内のラベルありサンプル２１の個数を変えて自動多重ラベル付与装置１を適用してラベル付与を行う手法（本手法）である。また、比較対象として、方法２，３，４，５の場合の結果も示している。

方法２は、特許文献１の装置をラベルごとに個別に適用してラベル付与の可否を自動判定する手法である。方法３は、非特許文献４の自動多重ラベル付与方法である。方法４は、非特許文献３の自動分類方法をラベルごとに個別に適用する手法である。方法５は、非特許文献２の自動多重ラベル付与方法であり、訓練データＤＢ２内のラベルありサンプルのみを用いる手法である。

図６に示すように、ラベルありサンプルの個数によらず、方法１が方法２，３，４，５の場合よりも高いマイクロ平均Ｆ値を与えることがわかる。これにより、本実施形態の自動多重ラベル付与装置１が、比較対象（従来技術）に基づく自動多重ラベル付与装置に比べ、精度の面で優位性を有していることがわかる。

以上で本実施形態の説明を終えるが、本発明の態様はこれらに限定されるものではない。例えば、コンテンツは、特許文書でなくても、特徴ベクトルを表現可能なものであれば、論文や小説等の他の文書や、また、画像データ等であってもよい。また、本実施形態において、訓練データＤＢ２を自動多重ラベル付与装置１の内部に含む構成としたが、例えば、ネットワーク等で接続された外部のデータベースサーバ等に訓練データＤＢ２を構成して、このデータベースサーバから訓練データ集合を取得する構成としてもよい。

さらに、ラベル付与対象コンテンツは、自動多重ラベル付与装置１の外部から入力を受け付けるものとしたが、自動多重ラベル付与装置１の記憶部１０に予め記憶されていてもよい。その他、ハードウェアやフローチャート等の具体的な構成について、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。

本実施形態の自動多重ラベル付与装置の構成を示す機能ブロック図の例である。 分類モデル生成部と条件付確率モデル生成部の処理の手順の概要を示すフローチャートである。 図２のステップＳ１０３の処理の詳細を示すフローチャートである。 図２のステップＳ１０４の処理の詳細を示すフローチャートである。 条件付確率モデルを用いたコンテンツヘのラベル付与の可否判定の処理を示すフローチャートである。 世界知的所有権機関のデータベースに、本実施形態の自動多重ラベル付与装置を適用した場合の実験結果を示す図である。

符号の説明

１ 自動多重ラベル付与装置
２ 訓練データＤＢ
３ 分類モデル生成部
４ 条件付確率モデル生成部
５ メモリ
６ 自動多重ラベル付与部
７ 入力部
８ 出力部
１０ 記憶部
２０ 処理部
２１ ラベルありサンプル
２２ ラベルなしサンプル
５１ 分類モデル
５２ 偏り補正モデル
５３ 条件付確率モデル

Claims (13)

1. 特徴ベクトルで表現可能なコンテンツに、前記コンテンツの内容の分類を表すラベルを１つ以上付与するラベル付与装置であって、
   前記ラベルがすでに付与されている前記コンテンツであるラベルありサンプル、および、前記ラベルがまだ付与されていない前記コンテンツであるラベルなしサンプルを、それぞれ複数格納する記憶部と、
   前記記憶部に格納された複数のラベルありサンプルをもとに、前記特徴ベクトルで表現されたコンテンツに対して付与すべきラベルを推定するための分類モデルに関するパラメータを計算し、
   前記記憶部に格納された複数のラベルなしサンプルをもとに、前記コンテンツの種類に応じた確率モデルを与え、前記分類モデルの付与ラベル推定の偏りを補正するため偏り補正モデルに関するパラメータを計算し、
   前記分類モデルに関するパラメータ、前記偏り補正モデルに関するパラメータ、および、前記分類モデルと前記偏り補正モデルとを統合して前記特徴ベクトルを条件とする付与ラベルの組合せの確率である条件付確率を求めるための条件付確率モデルを生成するときに使用する統合パラメータ、を含んだ所定の目的関数の値を最大化するような前記統合パラメータを計算し、
   前記分類モデルのパラメータ、前記偏り補正モデルのパラメータ、および、前記統合パラメータをもとに、前記分類モデルと前記偏り補正モデルとを重み付き統合することで、前記条件付確率モデルを生成する条件付確率モデル生成部と、
   を備え、
   前記所定の目的関数は、前記記憶部に格納されたラベルありサンプルそれぞれに対応する付与ラベルの組合せに対して前記条件付確率モデルが与える、前記条件付確率の総和または総和に準ずる値を表す関数であり、
   前記条件付確率モデル生成部は、
   前記所定の目的関数の値を最大化するような前記統合パラメータを計算するとき、前記所定の目的関数に含まれる項のうち、前記ラベルごとに独立な関数の値を用いて計算することで前記統合パラメータを計算する
   ことを特徴とするラベル付与装置。
2. 前記条件付確率モデル生成部は、
   前記分類モデルと前記偏り補正モデルとを、最大エントロピー原理に基づいて重み付き統合することで、前記条件付確率モデルを生成する
   ことを特徴とする請求項１に記載のラベル付与装置。
3. 前記統合パラメータは、
   前記分類モデルと前記偏り補正モデルとを重み付き統合するときの統合比と、ラベル付与に対する前記ラベルごとの付与度の不均一さを調整する定数項と、
   を含んでいることを特徴とする請求項１に記載のラベル付与装置。
4. 前記分類モデルは、前記ラベルごとに独立し、ラベル付与の有無を２値で扱う２値分類モデルであり、
   前記偏り補正モデルは、前記ラベルごとに独立した確率モデルであり、
   前記条件付確率モデル生成部は、前記ラベルごとに独立な関数の値を用いて計算することで、前記統合比、前記定数項、および、前記偏り補正モデルのパラメータを算出する
   ことを特徴とする請求頂３に記載のラベル付与装置。
5. ラベル付与対象の新規のコンテンツの入力を受け付ける入力部と、
   前記入力部が受け付けた新規のコンテンツに関して、前記条件付確率モデルを用いて付与ラベルの組合せの条件付確率の最大化を図ることで、付与する１つ以上のラベルを決定するラベル付与部と、をさらに備えることを特徴とする請求項１から請求項４のいずれか一項に記載のラベル付与装置。
6. コンピュータを請求項１から請求項４のいずれか一項に記載のラベル付与装置として機能させることを特徴とするラベル付与プログラム。
7. コンピュータを請求項５に記載のラベル付与装置として機能させることを特徴とするラベル付与プログラム。
8. 請求項６または請求項７に記載のラベル付与プログラムが記録されたことを特徴とするコンピュータに読み取り可能な記録媒体。
9. 特徴ベクトルで表現可能なコンテンツに、前記コンテンツの内容の分類を表すラベルを１つ以上付与するラベル付与装置によるラベル付与方法であって、
   前記ラベル付与装置は、前記ラベルがすでに付与されている前記コンテンツであるラベルありサンプル、および、前記ラベルがまだ付与されていない前記コンテンツであるラベルなしサンプルを、それぞれ複数格納する記憶部と、条件付確率モデル生成部と、を備え、
   前記条件付確率モデル生成部は、
   前記記憶部に格納された複数のラベルありサンプルをもとに、前記特徴ベクトルで表現されたコンテンツに対して付与すべきラベルを推定するための分類モデルに関するパラメータを計算し、
   前記記憶部に格納された複数のラベルなしサンプルをもとに、前記コンテンツの種類に応じた確率モデルを与え、前記分類モデルの付与ラベル推定の偏りを補正するため偏り補正モデルに関するパラメータを計算し、
   前記分類モデルに関するパラメータ、前記偏り補正モデルに関するパラメータ、および、前記分類モデルと前記偏り補正モデルとを統合して前記特徴ベクトルを条件とする付与ラベルの組合せの確率である条件付確率を求めるための条件付確率モデルを生成するときに使用する統合パラメータ、を含んだ所定の目的関数の値を最大化するような前記統合パラメータを計算し、
   前記分類モデルのパラメータ、前記偏り補正モデルのパラメータ、および、前記統合パラメータをもとに、前記分類モデルと前記偏り補正モデルとを重み付き統合することで、前記条件付確率モデルを生成し、
   前記所定の目的関数は、前記記憶部に格納されたラベルありサンプルそれぞれに対応する付与ラベルの組合せに対して前記条件付確率モデルが与える、前記条件付確率の総和または総和に準ずる値を表す関数であり、
   前記条件付確率モデル生成部は、
   前記所定の目的関数の値を最大化するような前記統合パラメータを計算するとき、前記所定の目的関数に含まれる項のうち、前記ラベルごとに独立な関数の値を用いて計算することで前記統合パラメータを計算する
   ことを特徴とするラベル付与方法。
10. 前記条件付確率モデル生成部は、
    前記分類モデルと前記偏り補正モデルとを、最大エントロピー原理に基づいて重み付き統合することで、前記条件付確率モデルを生成する
    ことを特徴とする請求項９に記載のラベル付与方法。
11. 前記統合パラメータは、
    前記分類モデルと前記偏り補正モデルとを重み付き統合するときの統合比と、ラベル付与に対する前記ラベルごとの付与度の不均一さを調整する定数項と、
    を含んでいることを特徴とする請求項９に記載のラベル付与方法。
12. 前記分類モデルは、前記ラベルごとに独立し、ラベル付与の有無を２値で扱う２値分類モデルであり、
    前記偏り補正モデルは、前記ラベルごとに独立した確率モデルであり、
    前記条件付確率モデル生成部は、前記ラベルごとに独立な関数の値を用いて計算することで、前記統合比、前記定数項、および、前記偏り補正モデルのパラメータを算出する
    ことを特徴とする請求頂１１に記載のラベル付与方法。
13. 前記ラベル付与装置は、ラベル付与対象の新規のコンテンツの入力を受け付ける入力部と、ラベル付与部と、をさらに備え、
    前記ラベル付与部は、
    前記入力部が受け付けた新規のコンテンツに関して、前記条件付確率モデルを用いて付与ラベルの組合せの条件付確率の最大化を図ることで、付与する１つ以上のラベルを決定する
    ことを特徴とする請求項９から請求項１２のいずれか一項に記載のラベル付与方法。

Images