JP2011204226A - 文の配列に基づく文書感情分類システムおよび方法 - Google Patents

Abstract

【課題】 文書を文の配列として解釈し、かつ文ベースの感情配列を考慮する配列解析を使用して、文書の感情極性を判定するための方法およびシステムを提案する。
【解決手段】 本発明の文書感情分類システムは、入力された文書から特徴語を抽出するための特徴語抽出手段と、特徴語抽出手段によって抽出された特徴語の感情極性と感情強度の少なくとも１つに基づいて、入力された文書に含まれる個々の文の感情極性と感情強度の少なくとも１つを判定するための文感情判定手段と、文感情判定手段によって判定された個々の文の感情極性と感情強度の少なくとも１つに基づいて、文の感情極性の配列を有する文書入力を形成するための文書入力形成手段と、トレーニング済み文書感情判定モデルを使用して、文書入力形成手段によって形成された文書入力を処理することにより、入力された文書の感情極性を判定するための文書感情判定手段とを備える。本発明によれば、文書感情分類の精度を向上させることができる。
【選択図】 図２

Description

本発明は、自然言語処理分野に関し、特に、文の配列に基づく文書感情分類システムおよび方法に関する。

インターネットの普及に伴い、顧客による製品レビュー（感想）や出来事・方針等に関する個人の意見などの情報をインターネット上で発信する人は、増加の一途を辿っている。こうしたレビューや意見の多くはショッピングのウェブサイトやフォーラム、個人のブログなどで公開され、顧客・メーカー・調査機関等の個人や組織にとって大きな価値を持つようになってきている。それは、こうした公開された文書によって顧客やメーカーが製品の長所や短所を把握できるので、製品の改良に役立つほか、調査機関は出来事や方針に関する人々の意見を収集してそれを関連の部署や機関に伝えることができるので、対策の実施や戦略の調整が可能になるからである。こうした情報は膨大な量に上るため、コンピュータを利用して情報を自動的に解析・処理・要約し、その結果をユーザに提示できるのが望ましい。しかし、自然言語は多様で不規則なので、コンピュータによる自動処理を行うには様々な課題を解決することが必須となる。近年では、こうした課題に取り組む技術が必要とされている。

文書の解析は、複数の階層で複数の角度から実行することが可能である。ある種の解析では、その文書が肯定的か、否定的か、中立的かといった、文書の感情極性が判定される。

文書の感情極性の判定方式は、大きく「監視下」と「非監視下」の２つに分類される。監視下方式では、トレーニングサンプルの集合に手動で標識付けする必要がある。この集合は機械学習によるトレーニングに付され、それによってモデルが生成される。そして、この生成されたモデルを使用して、新規サンプルの感情極性が判定される。非監視下方式では、トレーニングサンプルの集合は不要である。代わりに、事前に手動定義された語表を使用していくつかの文書の感情極性が判定され、その後この語表が別の文書の感情極性の判定に使用され、その過程で語表が繰り返し修正される。

特許文献１（ＵＳ２００９／０１２５３７ Ａ１、２００９年５月１４日公開）では、監視下方式と非監視下方式を同時に使用した文書感情の判定方法が開示されている。

文書は１つでも複数でもよいが、ほとんどの場合は複数の文書が存在する。

まず、感情極性を有するいくつかの語に基づいて、文書の感情が判定される。例えば、“ｃｏｎｖｅｎｉｅｎｔ”（便利）、“ｒｉｃｈ”（充実）、“ｅｘｑｕｉｓｉｔｅ”（精巧）は肯定的な語であり、“ｄｉｒｔｙ”（汚い）、“ｒａｓｐｙ”（耳障り）、“ｕｇｌｙ”（醜い）は否定的な語である。語の感情極性は、次の２つのうちいずれかの方法で判定できる。（１）人による判定。例えば、ＨｏｗＮｅｔ感情辞書のような既存の辞書は、人による判定によって構築されている。（２）言語知識による判定。例えば、人は通常、“ｎｏｔ ｃｏｎｖｅｎｉｅｎｔ”（便利ではない）、“ｎｏｔ ｒｉｃｈ ｅｎｏｕｇｈ”（あまり充実していない）のように肯定的な語の前に“ｎｏｔ”等の否定語を用いて否定的な意味を伝えるので、“ｃｏｎｖｅｎｉｅｎｔ”や“ｒｉｃｈ”のような肯定的な語について、これらの語と同時に否定語が出現しているかどうかに基づいて判定することが可能である。

感情辞書によっては、何らかの感情で語を定義すると同時に感情強度が示されていることもある。感情強度は、例えば、“ｇｏｏｄ”（良い）が＋１、“ｎｏｔ ｂａｄ”（悪くない）が＋０．５、“ｂａｄ”（悪い）が−１のような記号付き数値で表される（プラス記号“＋”は肯定的な語を表し、マイナス記号“−”は否定的な語を表わす。このように、感情極性は、感情強度記号で表すことができる）。“ｇｏｏｄ”の強度は“ｎｏｔ ｂａｄ”よりも大きいことから、“ｇｏｏｄ”は“ｎｏｔ ｂａｄ”よりも肯定の度合いが強いことは明らかである。感情辞書に感情強度が示されていない場合には、感情強度は肯定的な語であればすべて＋１に設定し、否定的な語であればすべて−１に設定すればよい。したがって、感情辞書はすべて、何らかの感情で語を定義すると同時に感情強度も示しているとみなすことができる。

感情極性を有する語を使用した文書感情判定の基本原則は、１つの文書に含まれる肯定感情語の総数が否定感情語の総数よりも多い場合、または１つの文書に含まれる感情極性を有するすべての語（すべての肯定感情語とすべての否定感情語）の感情強度の和がプラスの場合には、その文書は肯定的（肯定極性）と判定され、マイナスの場合には否定的（否定極性）と判定され、総数が等しいか感情強度の和が０の場合には、その文書は中立的と判定される、というものである。

文書感情の判定後、事前に設定された選択しきい値を上回る感情値（感情強度の和の絶対値）を有する文書が、比較的信頼できる文書として選択される。その後、選択された文書からいくつかの特徴が抽出される。これらの特徴と感情値の高い文書は、モデルをより有効なものにするためのトレーニングに使用される。

モデルのトレーニングが完了すると、このトレーニング済みモデルを使用して、上記の方法による新規文書の感情（肯定的、否定的、中立的）の自動判定を行うことができる。

ＵＳ２００９／０１２５３７ Ａ１

Ｌａｗｒｅｎｃｅ Ｒ．Ｒａｂｉｎｅｒ，（隠れマルコフモデルおよび音声認識において選択されたアプリケーションに関するチュートリアル）。Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ＩＥＥＥ、７７（２）、ｐ．２５７−２８６、Ｆｅｂｒｕａｒｙ １９８９ Ｊｏｈｎ Ｌａｆｆｅｒｔｙ，Ａｎｄｒｅｗ ＭｃＣａｌｌｕｍ，ａｎｄ Ｆｅｒｎａｎｄｏ Ｐｅｒｅｉｒａ．２００１．Ｃｏｎｄｉｔｉｏｎａｌ ｒａｎｄｏｍ ｆｉｅｌｄｓ：Ｐｒｏｂａｂｉｌｉｓｔｉｃ ｍｏｄｅｌｓ ｆｏｒ ｓｅｇｍｅｎｔｉｎｇ ａｎｄ ｌａｂｅｌｉｎｇ ｓｅｑｕｅｎｃｅ ｄａｔａ（条件付き確率場：配列データのセグメント化および標識付けのための確率的モデル）。Ｉｎ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ＩＣＭＬ２００１，２００１，ｐｐ．２８２−２８９

しかしながら、特許文献１に開示される文書感情分類プロセスでは、感情語の出現順序が無視されるため、文書感情を誤判定する危険がある。ここで、誤判定が生じうる例として、以下の２つの文書について考察する。
１．Ｆｅｅｌ ｇｏｏｄ（良い気持ちだ）。Ｅｘａｍｉｎａｔｉｏｎ ｌｏｃａｔｉｏｎ ｉｓ ｓｏｍｅｗｈａｔ ｄｅｖｉｏｕｓ（試験会場はやや辺鄙な場所にある）。Ｑｕｅｓｔｉｏｎｓ ａｒｅ ｄｉｆｆｉｃｕｌｔ（設問が難しい）。Ｔｈｅ ｅｘａｍｉｎａｔｉｏｎ ｉｓ ｒｅｌａｔｉｖｅｌｙ ｓｕｃｃｅｓｓｆｕｌｌｙ ｔａｋｅｎ．（試験はまずまずの出来だ）。
２．Ｆａｉｌｅｄ（失敗した）。Ｇｏｏｄ ｐｒｅｐａｒａｔｉｏｎ（しっかり準備した）。Ｈｉｇｈ−ｓｐｉｒｉｔｅｄ（気合いが入っている）。Ｄｅｐｒｅｓｓｅｄ， ｂｅｃａｕｓｅ Ｉ ｆｏｕｎｄ ａｔ ｔｈｅ ａｒｒｉｖａｌ ｏｆ ｅｘａｍｉｎａｔｉｏｎ ｌｏｃａｔｉｏｎ ｔｈａｔ ｔｈｅ ｅｘａｍｉｎａｔｉｏｎ ｌｉｃｅｎｓｅ ｗａｓ ｆｏｒｇｏｔｔｅｎ（試験会場に着いた途端に受験票を忘れたことに気がついて、落ち込んだ）。

上記の２つの文書は、肯定的な語と否定的な語を２つずつ含んでいる（下線太字の語）。これらの肯定的な語と否定的な語は、２つの文書では異なる順序で出現している。これらの文書が特許文献１の方法で処理された場合、語の出現回数のみが考慮され、出現順序は無視されるため、２つとも同じ感情極性を持つという結果となる。しかし実際は、これら２つの文書は明らかに異なる感情極性を有しており、前者は全体としては肯定的、後者は否定的である。そのため、感情極性の判定においては、語の出現順序と感情極性を有する文とを考慮する必要がある。

（発明の目的）
本発明は、上記の誤判定を回避することを目的として、文書を文の配列として解釈し、かつ文ベースの感情配列を考慮する配列解析を使用して、文書の全体的な感情極性を判定するための方法を提案する。

本発明の第１の態様による文書感情分類システムは、入力された文書から特徴語を抽出するための特徴語抽出手段と、特徴語抽出手段によって抽出された特徴語の感情極性と感情強度の少なくとも１つに基づいて、入力された文書に含まれる個々の文の感情極性または感情強度（もしくはその両方）を判定する文感情判定手段と、文感情判定手段によって判定された個々の文の感情極性または感情強度の少なくとも１つに基づいて、文の感情極性の配列を有する文書入力を形成する文書入力形成手段と、トレーニング済み文書感情判定モデルを使用して、文書入力形成手段によって形成された文書入力を処理することにより、入力された文書の感情極性を判定する文書感情判定手段とを含む。

文書感情分類システムは、トレーニング済み文書感情判定モデルを取得するために、トレーニング文書サンプルを用いて文書感情判定モデルをトレーニングするモデルトレーニング手段をさらに備えるのが望ましい。

文書感情分類システムは、トレーニング文書の感情極性を判定してトレーニング文書サンプルを形成するための文書サンプル形成手段をさらに備えるのが望ましい。ここで、特徴語抽出手段はトレーニング文書から特徴語を抽出する機能をさらに備え、文感情判定手段は、特徴語抽出手段によって抽出された特徴語の感情極性と感情強度の少なくとも１つに基づいて、トレーニング文書に含まれる個々の文の感情極性と感情強度の少なくとも１つを判定する機能をさらに備え、文書サンプル形成手段は、文感情判定手段によって判定された個々の文の感情極性と感情強度の少なくとも１つに基づいてトレーニング文書の感情極性を判定し、文配列の感情極性と文書感情極性とを有するトレーニング文書サンプルを形成する。

文書感情分類システムは、文書感情判定手段によって出力された結果に基づくか、文書感情判定手段によって出力された結果を新規トレーニング文書サンプルとして使用するか、もしくはこの両方を行って、特徴語抽出手段によって抽出された特徴語の感情極性と感情強度の少なくとも１つを更新するための更新手段をさらに備えるのが望ましい。

文書感情分類システムは、特徴語を格納するための特徴語データベースと、トレーニング文書サンプルを格納するための文書サンプルデータベースとをさらに備えるのが望ましい。

本発明の第２の態様による文書感情分類方法は、入力された文書から特徴語を抽出するステップと、抽出された特徴語の感情極性と感情強度の少なくとも１つに基づいて、入力された文書に含まれる個々の文の感情極性と感情強度の少なくとも１つを判定するステップと、文の感情極性の配列を有する文書入力を形成するステップと、トレーニング済み文書感情判定モデルを使用して、形成された文書入力を処理することにより、入力された文書の感情極性を判定するステップとを含む。

文書感情分類方法は、トレーニング済み文書感情判定モデルを取得するために、トレーニング文書サンプルを用いて文書感情判定モデルをトレーニングするステップをさらに備えるのが望ましい。

文書感情分類方法は、トレーニング文書から特徴語を抽出するステップと、抽出された特徴語の感情極性と感情強度の少なくとも１つに基づいて、トレーニング文書に含まれる個々の文の感情極性と感情強度の少なくとも１つを判定するステップと、判定された個々の文の感情極性と感情強度の少なくとも１つに基づいてトレーニング文書の感情極性を判定するステップと、文配列の感情極性と文書感情極性とを有するトレーニング文書サンプルを形成するステップとをさらに備えるのが望ましい。

文書感情分類方法は、入力された文書に関して判定された感情極性に基づいて、抽出された特徴語の感情極性と感情強度の少なくとも１つを更新するステップと、文配列の感情極性および文書感情極性を有する出力結果を新規トレーニング文書サンプルとして使用するステップとをさらに備えるのが望ましい。

本発明によれば、文書感情分類の精度を向上させることができる。

本発明の上記および他の目的、特徴、並びに利点は、図面を参照して説明された下記の好適な実施例からさらに明らかになるであろう。

本発明による文書感情分類方法の概略フローチャートを示す。 本発明による文書感情分類方法の概略フローチャートを示す。 本発明による文書感情分類システム２０００の概略ブロック図を示す。

これらの図では、同一もしくは類似の構造およびステップは同一もしくは類似の参照番号によって示している。

次に、添付図面を参照して、本発明の好適な実施例を説明する。以下の説明では、本発明の概念が曖昧になるのを回避するため、本発明に必須ではない詳細および機能を省略する。

図１Ａおよび図１Ｂは、本発明による文書感情分類方法の概略フローチャートである。うち図１Ａは文書感情分類方法のモデルトレーニング段階に関する概略フローチャートを示し、図１Ｂは文書感情分類方法の実行段階に関する概略フローチャートを示す。

まず、図１Ａを参照して、文書感情分類方法のモデルトレーニング段階について詳細に説明する。

ステップＳ１００において、文書内の個々の文の感情極性または感情強度（もしくはその両方）を判定するために、文書から特徴語が抽出される。ここでの特徴語は、“ｄｅｖｉｏｕｓ”（辺鄙な）、“ｓｕｃｃｅｓｓｆｕｌ”（上出来の）のような通常の意味での語または句（例えば、広く一般に使用される語や句）であってもよいし、“Ｅｘａｍｉｎａｔｉｏｎ ｌｏｃａｔｉｏｎ ｉｓ ｓｏｍｅｗｈａｔ ｄｅｖｉｏｕｓ”（試験会場はやや辺鄙な場所にある）という文の一部である“ｌｏｃａｔｉｏｎ ｉｓ ｓｏｍｅｗｈａｔ ｄｅｖｉｏｕｓ”（やや辺鄙な場所）のような、語または句（もしくはその両方）から成る部分列であってもよい。

特徴語の抽出は、例えば、以下の２つの方法のうちいずれかを使用して実行することができる。
１．感情辞書内の語または部分列を特徴語として選択する。その語または部分列が感情辞書に記録されている限り、文書内の任意の語または部分列を特徴語として選択することができる。
２．出現頻度に基づいて、文書内の語または部分列を特徴語として選択する。基本的には、文書の肯定的な部分と否定的な部分における語または部分列の出現頻度の差が大きいほど、その語または部分列が特徴語として選択される可能性が高くなる。

一例を挙げれば、語または部分列の感情強度（ｗ）は式（１）によって計算することができる。
ｓ（ｗ）＝（Ｆ_ｐ−Ｆ_ｎ）／（Ｆ_ｐ＋Ｆ_ｎ） （１）
ここで、Ｆ_ｐとＦ_ｎはそれぞれ、肯定的文書内および否定的文書内での語または部分列の出現頻度ｗを表す。文書内の各語または部分列の感情強度（ｗ）は、式（１）に従って計算される。その後、感情強度ｓ（ｗ）の絶対値｜ｓ（ｗ）｜の降順リストに基づいて、絶対値｜ｓ（ｗ）｜がリストの前の部分（例えば、前半）にランクされている語または部分列ｗが特徴語として選択される。

ここで、いくつかの文書を肯定的または否定感情極性で指標付けしておく必要があることに留意されたい。この指標付けは、手作業で行うことも、あるいは従来技術で開示された適切な方法を用いて自動的に実行することもできる。

ステップＳ１０５において、ステップＳ１００で抽出された特徴語の感情極性または感情強度（もしくはその両方）に基づいて、文書内の個々の文の感情極性または感情強度（もしくはその両方）が判定される。ここでは、例えば、まず各文の感情強度を計算し、その後、感情強度が肯定的な場合はその文の感情極性を肯定的と判定し、感情強度が否定的な場合はその文の感情極性は否定的と判定し、感情強度がゼロの場合はその文の感情極性は中立的と判定する、といった方法で、その文の感情極性を判定することができる。あるいは、文に含まれる特徴語の感情極性から直接、文全体の感情極性を判定してもよい。具体的には、肯定極性を有する特徴語の数が否定極性を有する特徴語の数を上回る場合には、その文の感情極性は肯定的と判定される。そして、肯定極性を有する特徴語の数が否定極性を有する特徴語の数を下回る場合には、その文の感情極性は否定的と判定される。さらに、肯定極性を有する特徴語の数が否定極性を有する特徴語の数と等しい場合には、その文の感情極性は中立的と判定される。

文全体の感情極性または感情強度（もしくはその両方）は、例えば以下の４つの方法で判定することができる。

ｉ．特徴語ｗの感情強度ｓ（ｗ）に基づいて、文ｓｅの感情強度ｓ（ｓｅ）を計算する。

・文ｓｅの感情強度ｓ（ｓｅ）は、式（２）によって計算することができる。

・換言すれば、ｓ（ｓｅ）は文ｓｅに含まれるすべての特徴語の感情強度ｓ（ｗ）の加重和に等しく、ここでλ（ｗ）は特徴語ｗの重みである。λ（ｗ）の値を設定する際の最も単純な方法は、λ（ｗ）＝１とする（すなわち、加重を行わない）ことである。しかし、より複雑な方法を使用して、λ（ｗ）の値を設定することもできる。例えば、各特徴語ｗについて、特徴語ｗの長さＬ_ｗと文ｓｅの長さＬ_ｓｅとに基づいてλ（ｗ）の値を設定する。この場合の基本原則は以下のとおりである。すなわち、（１）特徴語ｗの長さＬ_ｗが長いほど、重みλ（ｗ）は大きくなる（長い特徴語ｗは情報量が多いため、意味がより明確になり、信頼性も高まる。例えば、“ｄｅｌｉｇｈｔｆｕｌ ａｎｄ ｃｏｎｇｒａｔｕｌａｔｏｒｙ”（喜ばしく目出度い）という句は、“ｄｅｌｉｇｈｔｆｕｌ”（喜ばしい）という語よりも信頼性が高いため、重みλ（ｗ）を大きくする必要がある）。そして、（２）文ｓｅの長さＬ_ｓｅが短いほど、重みλ（ｗ）は大きくなる（文ｓｅが長くなると、特定の特徴語ｗに影響する語または部分列が増えるため、感情の安定度が低くなる。よって、短い文ｓｅは信頼性が高いということができる）。

・特徴語ｗの重みλ（ｗ）は、式（３）によって決定することができる。
λ（ｗ）＝Ｌ^２ _ｗ／Ｌ_ｓｅ （３）

ｉｉ．従来の依存関係解析法を用いて文を解析し、これにより文書内の個々の文の感情極性または感情強度（もしくはその両方）を判定する。依存関係解析法においては、各文について、各ノードが１つの語を表し、かつ２つのノード間の各リンクが２つの特徴語間の関係を表すツリー構造がまず取得される。例えば、“Ｉ”（私は）→“ｌｉｋｅ”（好きだ）は、主語と述語の関係を表す。その後、個々の文の感情極性または感情強度（もしくはその両方）が上から下の順に計算される。例えば、上記ｉの方法用いて、各層の特徴語について、感情強度の和を計算することができる。感情強度の和がゼロではない層に到達したら、計算は停止され、その層の感情強度の和が文全体の感情強度として採用される。

ｉｉｉ．各文に含まれる下位文とこれらの下位文間の関係とに基づいて、文書内の個々の文の感情極性または感情強度（もしくはその両方）を判定する。最初に、カンマやセミコロンなどの句読記号に基づいて、文をいくつかの下位文に分割する。続いて、これらの下位文の関係を考慮に入れて、文の感情を調整する。最後に、すべての下位文を合計することにより、文の感情を計算する。詳細については、例えば、ＣＮ発明特許出願Ｎｏ．２００９１０１７５１７０．２を参照のこと。

ｉｖ．手動または自動でいくつかの文サンプルを（肯定的または否定的として）標識付けし、その標識サンプルを使用して文感情判定モデルのトレーニングを行い、このトレーニング済みモデルを使用して文書内の個々の文の感情極性または感情強度（もしくはその両方）を判定する。

文の感情極性または感情強度（もしくはその両方）の判定が完了したら、各文書（ｄ_１，ｄ_２，…）に対して以下の形式で標識付けを行う。
ｄ_１：＜＋，−，−，…＞
ｄ_２：＜−，＋，＋，…＞
……
または
ｄ_１：＜＋１９．５，−３．３，−２．５，…＞
ｄ_２：＜−３９，＋１２，＋３．２，…＞
……
ここで、ｄ_１とｄ_２は２つの文書を表わす。ｄ_１内の１番目の文は＋１９．５の感情強度を有し、２番目の文は−３．３の感情強度を有し、以下同様に続く。

ステップＳ１１０Ａにおいて、各文書からトレーニング文書サンプルを形成するため、個々の文の感情極性または感情強度（もしくはその両方）に基づいて各文書の感情極性が判定される。各文書の感情極性は手動で標識付けしても、あるいは文の感情極性または感情強度（もしくはその両方）の和によって判定してもよい（例えば、すべての文の感情強度がプラス記号付き、マイナス記号付き、またはゼロであれば、文書の感情極性はそれぞれ、肯定的、否定的、または中立的として判定することができる）。

以下のステップＳ１１０Ａの説明においては、ステップＳ１０５で出力された下記の結果を使用する。
ｄ_１：＜＋１９．５，−３．３，−２．５，…＞
ｄ_２：＜−３９，＋１２，＋３．２，…＞
……
トレーニングで使用する文書サンプルは、例えば、以下の５つの方法で形成することができる。

Ａ．トレーニングで使用する文書サンプルを得るために、以下の規則に従ってトレーニング文書サンプル内の各文に関する特徴表現＜＊＞を形成する。
文の感情極性が肯定的な場合は、文をプラス記号“＋”に置換する。
文の感情極性が否定的な場合は、文をマイナス記号“−”に置換する。
文の感情極性が中立的な場合は、文をゼロ“０”に置換する。
文の感情極性が肯定的な場合は、文を“Ｐ”で標識付けする。
文の感情極性が否定的な場合は、文を“Ｎ”で標識付けする。
文の感情極性が中立的な場合は、文を“Ｚ”で標識付けする。
以下にその例を示す。
ｄ_１：＜＜＋，Ｐ＞，＜−，Ｐ＞，＜−，Ｐ＞，…＞
ｄ_２：＜＜−，Ｎ＞，＜＋，Ｎ＞，＜＋，Ｎ＞，…＞
…
備考：ｄ_１は肯定的文書（Ｐ）、ｄ_２は否定的文書（Ｎ）である。また、ｄ_１内の１番目、２番目、３番目の文は、それぞれ、肯定、否定、否定の感情極性を有する。

Ｂ．上記Ａの方法を踏まえると、トレーニング文書サンプル内の各文の特徴表現＜＊＞は、その文自体の感情極性に加えて、左隣および右隣の文の感情極性も含むことができる。

以下にその例を示す。
ｄ_１：＜＜ｎｏｎｅ，＋，−，Ｐ＞，＜＋，−，−，Ｐ＞，＜−，−，＋，Ｐ＞，…＞
ｄ_２：＜＜ｎｏｎｅ，−，＋，Ｎ＞，＜−，＋，＋，Ｎ＞，＜＋，＋，−，Ｎ＞，…＞
…
備考：ｄ_１は肯定的文書（Ｐ）である。１番目の文の特徴表現＜ｎｏｎｅ，＋，−，Ｐ＞は、文書ｄ_１内の１番目の文（感情強度は＋１９．５）に関しては、左隣に文はない（ｎｏｎｅ）が、右隣には否定的（−）な文があり、この文自体は肯定的（＋）であることを示す。

Ｃ．上記ＡまたはＢの方法を踏まえると、トレーニング文書サンプル内の各文の特徴表現＜＊＞は、その文の文書内における位置に関する情報を含むことができる。
以下にその例を示す。
ｄ_１：＜＜＋，Ｐ_Ｂ＞，＜−，Ｐ_Ｂ＞，＜−，Ｐ_Ｍ＞，…，＜−，Ｐ_Ｅ＞＞，ｏｒ
ｄ_１：＜＜ｎｏｎｅ，＋，−，Ｐ_Ｂ＞，＜＋，−，−，Ｐ_Ｂ＞，＜−，−，＋，Ｐ_Ｍ＞…，＜＋，−，ｎｏｎｅ，Ｐ_Ｅ＞＞
備考：Ｐ_Ｂ、Ｐ_Ｍ、およびＰ_Ｅは、それぞれ、その文が文書の始め、中央、および最後の部分に位置することを表わす。文の位置は、例えば、以下の方法で決定することができる。
（１）対称分割法：文書内の最初の１／３、中央の１／３、最後の１／３の文が、それぞれ、文書の冒頭部、中央部、末尾部として分割される。
（２）非対称分割法：文書内の最初と最後の文がそれぞれ文書の冒頭部および末尾部として分割され、残りの文は文書の中央部として分割される。言うまでもなく、冒頭部や末尾部に属する文の数は必要に応じて調整することができる。

Ｄ．上記Ａ、Ｂ、またはＣの方法を踏まえると、トレーニング文書サンプル内の各文の特徴表現＜＊＞は、その文の強度ランクを含むことができる。
以下にその例を示す。
ｄ_１：＜＜＋，ｒ_１，Ｐ＞，＜−，ｒ_３，Ｐ＞，＜−，ｒ_２，Ｐ＞，…＞，ｏｒ
ｄ_１：＜＜＋，ｒ_１，Ｐ_Ｂ＞，＜−，ｒ_３，Ｐ_Ｂ＞，＜−，ｒ_２，Ｐ_Ｂ＞，…＞，ｏｒ
ｄ_１：＜＜ｎｏｎｅ，＋，−，ｒ_１，Ｐ_Ｂ＞，＜＋，−，−，ｒ_３，Ｐ_Ｂ＞，＜−，−，＋，ｒ_２，Ｐ_Ｍ＞…＞
ここで、ｒ_１、ｒ_２、ｒ_３はそれぞれ、第１位、第２位、第３位の文強度ランクを表す。ランクは、以下のようにして決定できる。
ｒ_１ 文の感情強度は［２＊（ＭａｘＳｔｒ−ＭｉｎＳｔｒ）／３，ＭａｘＳｔｒ］の範囲内であることを示す。
ｒ_２ 文の感情強度は［１＊（ＭａｘＳｔｒ−ＭｉｎＳｔｒ）／３，２＊（ＭａｘＳｔｒ−ＭｉｎＳｔｒ）／３］］の範囲内であることを示す。
ｒ_３ 文の感情強度は［ＭｉｎＳｔｒ，１＊（ＭａｘＳｔｒ−ＭｉｎＳｔｒ）／３）］の範囲内であることを示す。
ここで、ＭａｘＳｔｒとＭｉｎＳｔｒはそれぞれ、文書内のすべての文の中の最大および最小感情強度を表す。

Ｅ．上記Ａ〜Ｄの方法に代えて、各文について４つの特徴＜Ｆ_１，Ｆ_２，Ｆ_３，Ｆ_４＞を有するベクトルを作成することもできる。ここで、特徴Ｆ_１、Ｆ_２、Ｆ_３はそれぞれ、文書の冒頭部分、中央部分、および末尾部分にある文の感情を表す。各特徴の値は、文書の対応する部分に属するすべての文の感情強度の和とすることができる。文書の冒頭部分、中央部分、および末尾部分は、上記Ｃの方法で文書を分割して決定する。特徴Ｆ_４は文書の感情（Ｐ、Ｎ、またはＺ）を表す。

ステップＳ１１０を上記のように実行すると、以下のようなトレーニング文書サンプルが形成される。
Ａ： ｄ_１：＜＜＋，Ｐ＞，＜−，Ｐ＞，＜−，Ｐ＞…＞；ｏｒ
Ｂ： ｄ_１：＜＜ｎｏｎｅ，＋，−，Ｐ＞，＜＋，−，−，Ｐ＞，＜−，−，＋，Ｐ＞，…＞；ｏｒ
Ｃ： ＜＜＋，Ｐ_Ｂ＞，＜−，Ｐ_Ｂ＞，＜−，Ｐ_Ｍ＞，…，＜−，Ｐ_Ｅ＞＞；ｏｒ
Ｄ： ｄ_１：＜＜＋，ｒ_１，Ｐ＞，＜−，ｒ_３，Ｐ＞，＜−，ｒ_２，Ｐ＞…＞；ｏｒ
Ｅ： ＜Ｆ_１，Ｆ_２，Ｆ_３，Ｆ_４＞．

ステップＳ１１５において、ステップＳ１１０Ａで形成されたトレーニング文書サンプルを用いて文書感情判定モデルがトレーニングされ、後の実行段階において、新規に入力された文書の感情極性の判定で使用する、トレーニング済み文書感情判定モデルが生成される。

文書感情判定モデルをトレーニングする方法には、様々なものがある。例えば、隠れマルコフモデル（非特許文献１：Ｌａｗｒｅｎｃｅ Ｒ．Ｒａｂｉｎｅｒ，（隠れマルコフモデルおよび音声認識において選択されたアプリケーションに関するチュートリアル）。Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ＩＥＥＥ、７７（２）、ｐ．２５７−２８６、Ｆｅｂｒｕａｒｙ １９８９）、または条件付き確率場（非特許文献２：Ｊｏｈｎ Ｌａｆｆｅｒｔｙ，Ａｎｄｒｅｗ ＭｃＣａｌｌｕｍ，ａｎｄ Ｆｅｒｎａｎｄｏ Ｐｅｒｅｉｒａ．２００１．Ｃｏｎｄｉｔｉｏｎａｌ ｒａｎｄｏｍ ｆｉｅｌｄｓ：Ｐｒｏｂａｂｉｌｉｓｔｉｃ ｍｏｄｅｌｓ ｆｏｒ ｓｅｇｍｅｎｔｉｎｇ ａｎｄ ｌａｂｅｌｉｎｇ ｓｅｑｕｅｎｃｅ ｄａｔａ（条件付き確率場：配列データのセグメント化および標識付けのための確率的モデル）。Ｉｎ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ＩＣＭＬ２００１，２００１，ｐｐ．２８２−２８９）などのような配列トレーニングモードを、Ａ〜Ｄの方法で形成したトレーニング文書サンプルを使用したモデルトレーニングにおいて採用することができる。また、Ｅの方法で形成したトレーニング文書サンプルを使用したモデルトレーニングにおいては、サポートベクトルマシンのような非配列トレーニングモードモードを採用することができる。

次に、文書感情分類方法の実行段階について、図１Ｂを参照しながら詳述する。この図では、図１Ａと同じ要素には同じ参照番号を付している。

ステップＳ１００において、新規に入力された文書から特徴語が抽出される。これらの特徴語は、入力された文書内の個々の文の感情極性または感情強度（もしくはその両方）の判定に使用される。

ステップＳ１０５において、ステップＳ１００で抽出された特徴語の感情極性または感情強度（もしくはその両方）に基づいて、文書内の個々の文の感情極性または感情強度（もしくはその両方）が判定される。

上記のステップＳ１１０Ａとは別に、ステップＳ１１０Ｂにおいて、文配列の感情極性を明記した文書入力が形成される。ここでは、文への感情極性または感情強度（もしくはその両方）の標識付けのみが行われ、文自体には感情極性の標識はまだ付けられない。実のところ、文書の感情極性は当該方法の最後に予定される出力である。実行段階のステップＳ１１０Ｂにおいては、文書入力はモデルトレーニング段階のステップＳ１１０Ａにおいて行われたトレーニング文書サンプルの形成と同じ方法で形成される必要がある。すなわち、Ａ〜Ｅの中の１つの方法がステップＳ１１０ＡおよびＳ１１０Ｂでも使用されなければならない。

新規に入力された文書は、例えば、“Ｆｅｅｌ ｇｏｏｄ（良い気持ちだ）。Ｅｘａｍｉｎａｔｉｏｎ ｌｏｃａｔｉｏｎ ｉｓ ｓｏｍｅｗｈａｔ ｄｅｖｉｏｕｓ（試験会場がやや辺鄙な場所にある）。Ｑｕｅｓｔｉｏｎｓ ａｒｅ ｄｉｆｆｉｃｕｌｔ（設問が難しい）。Ｔｈｅ ｅｘａｍｉｎａｔｉｏｎ ｉｓ ｒｅｌａｔｉｖｅｌｙ ｓｕｃｃｅｓｓｆｕｌｌｙ ｔａｋｅｎ．（試験はまずまずの出来だ）」であるとする。

最終的な文書入力は、ステップＳ１１０Ｂ（方法Ａ）によって“＜＋，−，−，＋＞”か、ステップＳ１１０Ｂ（方法Ｂ）によって“＜＜ｎｏｎｅ，＋，−＞，＜＋，−，−＞，＜−，−，＋＞，＜−，＋，ｎｏｎｅ＞＞”か、またはステップＳ１１０Ｂ（方法Ｃ）によって“＜＋，−，−，＋＞”または“＜＜ｎｏｎｅ，＋，−＞，＜＋，−，−＞，＜−，−，＋＞，＜−，＋，ｎｏｎｅ＞＞”（以下続く）の形式となる。

ステップＳ１２０において、ステップＳ１１０Ｂで形成された文書入力が、ステップＳ１１５でトレーニングされた文書感情判定モデルに供給され、新規に入力された文書の感情極性が判定される。

引き続きステップＳ１１０Ｂで新規に入力された文書を例にとると、以下のような出力が得られる。
方法Ａの場合は“＜＜＋，Ｐ＞，＜−，Ｐ＞，＜−，Ｐ＞，＜＋，Ｐ＞＞”、
方法Ｂの場合は“＜＜ｎｏｎｅ，＋，−，Ｐ＞，＜＋，−，−，Ｐ＞，＜−，−，＋，Ｐ＞，＜−，＋，ｎｏｎｅ，Ｐ＞＞”、または
方法Ｃの場合は“＜＜＋，Ｐ_Ｂ＞，＜−，Ｐ_Ｍ＞，＜−，Ｐ_Ｍ＞，＜＋，Ｐ_Ｅ＞＞”

文書の感情極性はＰ、Ｎ、またはＺという単一の記号で表されるため、１番目の文の最初の記号がユーザに提示される最終出力結果となる。

さらに、ステップＳ１００で抽出された特徴語の感情極性または感情強度（もしくはその両方）は、ステップＳ１２０の出力結果に基づいて更新することができる。また、出力結果は手動でもしくは自動的に、新規トレーニング文書サンプルとして使用することも可能である。

図２に、本発明による文書感情分類システム２０００の概略ブロック図を示す。

図２に示すように、文書感情分類システム２０００は、特徴語抽出手段２００と、文感情判定手段２０５と、文書サンプル形成手段２１０Ａと、モデルトレーニング手段２１５と、文書入力形成手段２１０Ｂと、文書感情判定手段２２０とを主に備える。このうち、図１Ａのモデルトレーニング段階では、特徴語抽出手段２００と文感情判定手段２０５と文書サンプル形成手段２１０Ａとモデルトレーニング手段２１５とが使用され、図１Ｂの実行段階では、特徴語抽出手段２００と文感情判定手段２０５と文書入力形成手段２１０Ｂと文書感情判定手段２２０とが使用される。文書感情分類システム２０００は、特徴語データベース２３０と文書サンプルデータベース２３５と更新手段２２５とをさらに備えることができる。図２には、モデルトレーニング手段２１５によってトレーニングされ、文書感情判定手段２２０によって使用される、文書感情判定モデル２４０も示されている。

図１Ａのモデルトレーニング段階においては、特徴語抽出手段２００が（ステップＳ１００の方法１もしくは２、または他の既知の方法を用いて）、特徴語データベース２３０に従って文書から特徴語を抽出する。文感情判定手段２０５が（ステップＳ１０５の方法ｉ〜ｉｖ、または他の既知の方法を用いて）、特徴語抽出手段２００によって抽出された特徴語の感情極性または感情強度（もしくはその両方）に基づいて、文書内の個々の文の感情極性または感情強度（もしくはその両方）を判定する。文書サンプル形成手段２１０Ａが（ステップＳ１１０Ａの方法Ａ〜Ｅ、または他の既知の方法を用いて）、文感情判定手段２０５によって判定された個々の文の感情極性または感情強度（もしくはその両方）に基づいて、文書の感情極性を判定し、トレーニング文書サンプルを生成する。文書サンプル形成手段２１０Ａは、形成されたトレーニング文書サンプルを、後の使用のために文書サンプルデータベース２３５に格納することができる。モデルトレーニング手段２１５が（ステップＳ１１５で説明したトレーニング文書感情判定モデルのトレーニング方法のいずれか、または他の既知の方法を用いて）、文書サンプル形成手段２１０Ａによって形成されたトレーニング文書サンプルを用いて文書感情判定モデル２４０をトレーニングし、トレーニング済み文書感情判定モデル２４０を取得する。あるいは、モデルトレーニング手段２１５が文書サンプルデータベース２３５から直接トレーニング文書サンプルを読み出して文書感情判定モデル２４０をトレーニングすることにより、トレーニング済み文書感情判定モデル２４０を取得することもできる。トレーニング済み文書感情判定モデル２４０は、実行段階で文書感情判定手段２２０によって、新規入力文書の感情極性を判定するために使用される。

図１Ｂの実行段階においては、特徴語抽出手段２００が（ステップＳ１００の方法１もしくは２、または他の既知の方法を用いて）、新規入力文書から特徴語を抽出する。文感情判定手段２０５が（ステップＳ１０５の方法ｉ〜ｉｖ、または他の既知の方法を用いて）、特徴語抽出手段２００によって抽出された特徴語の感情極性または感情強度（もしくはその両方）に基づいて、文書内の個々の文の感情極性または感情強度（もしくはその両方）を判定する。文書入力形成手段２１０Ｂが（文書サンプル形成手段２１０Ａによって採用されたのと同じ方法を用いて）、文感情判定手段２０５によって判定された個々の文の感情極性または感情強度（もしくはその両方）に基づいて、文配列の感情極性を明記した文書入力を形成する。形成された文書入力においては、個々の文の感情極性または感情強度（もしくはその両方）のみが標識付けされ、文書自体の感情極性の標識付けは行われない。事実、文書の感情極性は後に出力される。文書感情判定手段２２０は、文書入力形成手段２１０によって形成された文書入力を、モデルトレーニング手段２１５によってトレーニングされた文書感情判定モデル２４０に送る（すなわち、この新規入力文書の感情極性の判定を、結果の出力として供給する）。

そして、更新手段２２５が、文書感情判定手段２２０の結果の出力に基づいて、特徴語抽出手段２００によって抽出された特徴語の感情極性または感情強度（もしくはその両方）を更新する（すなわち、特徴語データベース２３０を更新する）。また、更新手段２２５はさらに、ユーザの指示および選択に従って（または自動的に）、文書感情判定手段２２０からの結果の出力を新たなトレーニング文書サンプルとして文書サンプルデータベース２３５に格納する（すなわち、文書サンプルデータベース２３５を更新する）。

上記の説明では、各ステップに関連していくつかの具体例を示した。発明者はこれらの具体例を相互に関連して列記するよう努めたが、列記された具体例が、参照番号によって示唆される対応関係を有する必要があるわけではない。異なるステップにおいて参照番号の面で対応関係にない具体例を選択したとしても、選択した具体例の基礎を成す条件が相互に対立しない限り、これらの具体例によって複数の解決法を達成することが可能である。本発明の範囲にはこうした解決策がすべて内包される。

上記の説明では、本発明の解決法は例として示したに過ぎないことに留意されたい。本発明は上記のステップおよび要素構造に限定されるものではなく、実際の使用条件に合わせてこれらのステップや要素構造を変更および修正することが可能である。また、ステップおよび要素の中には、本発明の全体概念の実装において必須ではないものもある。したがって、本発明の重要な技術的特徴は、上記の特定の具体例にではなく、本発明の全体概念の実装における最低限の要件に限定される。

本発明において開示された実施例のさらに他の構成は、最初に簡単に説明し、その後方法の実施例において詳述したステップおよび動作のためのソフトウェアプログラムから成る。具体的には、このコンピュータプログラム製品は、計算装置上で稼働する間に関連の動作を提供するコンピュータプログラム論理が符号化された、コンピュータ可読媒体を備える実施例である。コンピュータプログラム論理が計算システムの少なくとも１つのプロセッサ上で実行されると、当該プロセッサを介して実施例の動作（ステップ）が実行される。本発明のこうした構成は、典型的には、光媒体（例：ＣＤ−ＲＯＭ）などのコンピュータ可読媒体、フロッピーディスクもしくはハードディスク等の各種タイプの媒体上で提供されるか、または符号化されたソフトウェア、コード、またはその他のデータ構造体、１つ以上のＲＯＭ、ＲＡＭ、もしくはＰＲＯＭチップ上のファームウェアもしくはマイクロコード、特定用途向け集積回路（ＡＳＩＣ）、ダウンロード可能なソフトウェアイメージ、または単一もしくは複数モジュール上の共有データベースとして提供される。ソフトウェアまたはファームウェアの形態をとる構成は、計算装置上にインストールし、当該計算装置内の１つ以上のプロセッサを介して本発明の実施例を実装することができる。ソフトウェアプロセスを、例えば他のエンティティ内のデータ通信装置や計算装置と共に稼働させると、本発明のシステムが提供される。本発明のシステムは、いくつかのソフトウェアプロセスを複数のデータ通信装置間に分散させたり、一連の小型専用コンピュータ上ですべてのソフトウェアプロセスを稼働させたり、あるいは単一のコンピュータ上ですべてのソフトウェアプロセスを稼働させたりすることにより実現することも可能である。

本発明の実施例は、厳密には、ソフトウェアプログラム、１台のデータ通信装置上のソフトウェアおよびハードウェア、独立したソフトウェア、または独立した回路として実装できることに留意されたい。

以上、本発明についてその好適な実施例を参照して説明してきたが、当該技術に精通した当業者には、本発明の精神と範囲から逸脱することなく様々な修正、変更、追加を行うことが可能なことは明らかであろう。したがって、本発明の範囲は上記の特定の実施例に限定されず、付記した請求項によってのみ限定される。

２０００：文書感情分類システム
２３０：特徴語データベース
２３５：文書サンプルデータベース
２２５：更新手段
２００：特徴語抽出手段
２０５：文感情判定手段
２１０Ａ：文書サンプル形成手段
２１５：モデルトレーニング手段
２４０：文書感情判定モデル
２１０Ｂ：文書入力形成手段
２２０：文書感情判定手段

Claims (9)

1. 入力された文書から特徴語を抽出するための特徴語抽出手段と、
   前記特徴語抽出手段によって抽出された特徴語の感情極性と感情強度の少なくとも１つに基づいて、入力された文書に含まれる個々の文の感情極性または感情強度（もしくはその両方）を判定する文感情判定手段と、
   前記文感情判定手段によって判定された個々の文の感情極性または感情強度の少なくとも１つに基づいて、文の感情極性の配列を有する文書入力を形成する文書入力形成手段と、
   トレーニング済み文書感情判定モデルを使用して、前記文書入力形成手段によって形成された文書入力を処理することにより、入力された文書の感情極性を判定する文書感情判定手段と
   を備えることを特徴とする文書感情分類システム。
2. 前記トレーニング済み文書感情判定モデルを取得するために、トレーニング文書サンプルを用いて文書感情判定モデルをトレーニングするモデルトレーニング手段をさらに備えることを特徴とする請求項１に記載の文書感情分類システム。
3. トレーニング文書の感情極性を判定してトレーニング文書サンプルを形成する文書サンプル形成手段をさらに備え、
   前記特徴語抽出手段は、トレーニング文書から特徴語を抽出し、
   前記文感情判定手段は、前記特徴語抽出手段によって抽出された特徴語の感情極性と感情強度の少なくとも１つに基づいて、トレーニング文書に含まれる個々の文の感情極性と感情強度の少なくとも１つを判定し、
   前記文書サンプル形成手段は、前記文感情判定手段によって判定された個々の文の感情極性と感情強度の少なくとも１つに基づいてトレーニング文書の感情極性を判定し、文配列の感情極性と文書感情極性とを有するトレーニング文書サンプルを形成することを特徴とする請求項１又は請求項２に記載の文書感情分類システム。
4. 前記文書感情判定手段によって出力された結果に基づくか、前記文書感情判定手段によって出力された結果を新規トレーニング文書サンプルとして使用するかの少なくとも１つによって、前記特徴語抽出手段によって抽出された特徴語の感情極性と感情強度の少なくとも１つを更新する更新手段をさらに備えることを特徴とする請求項１から請求項３の何れか１項に記載の文書感情分類システム。
5. 特徴語を格納するための特徴語データベースと、
   トレーニング文書サンプルを格納する文書サンプルデータベースとをさらに備えることを特徴とする請求項１から請求項４の何れか１項に記載の文書感情分類システム。
6. 入力された文書から特徴語を抽出するステップと、
   抽出された特徴語の感情極性と感情強度の少なくとも１つに基づいて、入力された文書に含まれる個々の文の感情極性と感情強度の少なくとも１つを判定するステップと、
   文の感情極性の配列を有する文書入力を形成するステップと、
   トレーニング済み文書感情判定モデルを使用して、形成された文書入力を処理することにより、入力された文書の感情極性を判定するステップと
   を有することを特徴とする文書感情分類方法。
7. トレーニング済み文書感情判定モデルを取得するために、トレーニング文書サンプルを用いて文書感情判定モデルをトレーニングするステップをさらに有することを特徴とする請求項６に記載の文書感情分類方法。
8. トレーニング文書から特徴語を抽出するステップと、
   抽出された特徴語の感情極性または感情強度（もしくはその両方）に基づいて、トレーニング文書に含まれる個々の文の感情極性または感情強度（もしくはその両方）を判定するステップと、
   判定された個々の文の感情極性または感情強度（もしくはその両方）に基づいてトレーニング文書の感情極性を判定するステップと、
   文配列の感情極性と文書感情極性とを有するトレーニング文書サンプルを形成するステップと
   をさらに有することを特徴とする請求項６又は請求項７に記載の文書感情分類方法。
9. 入力された文書に関して判定された感情極性に基づいて、抽出された特徴語の感情極性と感情強度の少なくとも１つを更新するステップと、
   文配列の感情極性および文書感情極性を有する出力結果を新規トレーニング文書サンプルとして使用するステップとをさらに有することを特徴とする請求項６から請求項８の何れか１項に記載の文書感情分類方法。
   

Images