JP2019021254A - 文書処理システム、文書処理方法、及びプログラム - Google Patents

Abstract

【課題】文書の極性を好適に評価することのできる文書処理システム等を提供する。
【解決手段】第１傾向又は第２傾向のいずれの傾向を持つ文書であるかが各々ラベル付けされた複数の文書のそれぞれについて、分散意味表現により表現された加法構成性を有する文書ベクトルを生成する第１ベクトル生成部と、第１傾向のラベルが付与された文書に係る文書ベクトルの平均である第１平均ベクトル、及び／又は、第２傾向のラベルが付与された文書に係る文書ベクトルの平均である第２平均ベクトルを算出する平均ベクトル生成部と、入力文書に対して、入力文書ベクトルを生成する第２ベクトル生成部と、第１平均ベクトル及び／又は第２平均ベクトルと、入力文書ベクトルとのベクトル加減算により、入力文書の第１傾向成分ベクトル、及び／又は第２傾向成分ベクトルを求める演算部とを備える。
【選択図】図５

Description

本発明は、文書処理システム、文書処理方法、及びプログラムに関する。

近年、自然言語で作成された各種文書に対して文書ベクトルを生成した上で、当該文書ベクトルを用いた様々な文書処理が考えられている。例えば特許文献１には、検索対象文書に対してベクトルを生成した上で、検索文章ベクトルとの内積を演算することにより、関連度の高い文書を検索することが開示されている。

特開２００２−０１５００１号公報

ここで、文書に対し、相対する２つの方向性のうちどちらを向いた内容なのかの極性を評価したい場合がある。より具体的には、例えば、特定のキーワード等に関連の高い文書か、低い文書かを評価する場合や、或いは、株式等の金融商品の特定銘柄に関するアナリストレポート等が、肯定的（ポジティブ）な評価を行う文書なのか、否定的（ネガティブ）な評価を行う文書なのかを評価する場合等である。例えばアナリストレポートの例であれば、通常、対象とする銘柄についての投資判断を変更する情報を含む文書である。一部のアナリストレポートには、肯定的な意見である「買いに引上げ」、「中立に引上げ」や、否定的な意見である「中立に引下げ」、「売りに引下げ」等の意見が明示的に表明されるが、このような意見表明が明示的には記載されていないものもある。しかしながら明示的な投資判断については示されていなくとも、投資判断の材料となる、特定銘柄に対する何らかの分析が記載されている。このような定性的に記載された文書を、定量的に評価することが可能となれば、投資判断等の意思決定に活かすことができる。

文書の評価方法としては、例えば、統計的学習手法により、予めいずれの極性を示すものか（例えば肯定的評価か否定的評価か）をラベル付けした文書を教師データとして、例えばディープラーニング（深層学習）により評価予測モデルを生成した上で、当該評価予測モデルに対して文書を入力することで、当該入力文書の極性を予測することも考えられる。しかしながら、このような手法では大量の教師データが用意できない場合には、十分な精度の予測結果を得られない。
また、文書が対象とする分野や作成者等により表現や文体の相違などもあるため、このようなノイズの影響で十分な評価精度が得られないこともある。

本発明のいくつかの態様は前述の課題に鑑みてなされたものであり、文書の極性を好適に評価することのできる文書処理システム、文書処理方法、及びプログラムを提供することを目的の１つとする。

本発明の一態様に係る文書処理システムは、第１傾向、又は前記第１傾向と相反する第２傾向のいずれの傾向を持つ文書であるかが各々ラベル付けされた複数の文書のそれぞれについて、分散意味表現により表現された加法構成性を有する文書ベクトルを生成する第１ベクトル生成部と、前記複数の文書のうち、前記第１傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第１平均ベクトル、及び／又は、前記第２傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第２平均ベクトルを算出する平均ベクトル生成部と、入力文書の入力を受ける入力部と、前記入力文書に対して、前記第１ベクトル生成部と同じ手法により入力文書ベクトルを生成する第２ベクトル生成部と、前記第１平均ベクトル及び／又は前記第２平均ベクトルと、前記入力文書ベクトルとのベクトル加減算により、前記入力文書の前記第１傾向に関するベクトル成分を示す第１傾向成分ベクトル、及び／又は前記第２傾向に関するベクトル成分を示す第２傾向成分ベクトルを求める演算部とを備える。

本発明の一態様に係る文書処理方法は、第１傾向、又は前記第１傾向と相反する第２傾向のいずれの傾向を持つ文書であるかが各々ラベル付けされた複数の文書のそれぞれについて、分散意味表現により表現された加法構成性を有する文書ベクトルを生成するステップと、前記複数の文書のうち、前記第１傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第１平均ベクトル、及び／又は、前記第２傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第２平均ベクトルを算出するステップと、入力文書の入力を受けるステップと、前記入力文書に対して、前記文書ベクトルと同じ手法により入力文書ベクトルを生成するステップと、前記第１平均ベクトル及び／又は前記第２平均ベクトルと、前記入力文書ベクトルとのベクトル加減算により、前記入力文書の前記第１傾向に関するベクトル成分を示す第１傾向成分ベクトル、及び／又は前記第２傾向に関するベクトル成分を示す第２傾向成分ベクトルを求めるステップとを文書処理システムが行う。

本発明の一態様に係るプログラムは、第１傾向、又は前記第１傾向と相反する第２傾向のいずれの傾向を持つ文書であるかが各々ラベル付けされた複数の文書のそれぞれについて、分散意味表現により表現された加法構成性を有する文書ベクトルを生成する処理と、前記複数の文書のうち、前記第１傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第１平均ベクトル、及び／又は、前記第２傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第２平均ベクトルを算出する処理と、入力文書の入力を受ける処理と、前記入力文書に対して、前記文書ベクトルと同じ手法により入力文書ベクトルを生成する処理と、前記第１平均ベクトル及び／又は前記第２平均ベクトルと、前記入力文書ベクトルとのベクトル加減算により、前記入力文書の前記第１傾向に関するベクトル成分を示す第１傾向成分ベクトル、及び／又は前記第２傾向に関するベクトル成分を示す第２傾向成分ベクトルを求める処理とをコンピュータに実行させる。

なお、本発明において、「部」や「手段」、「装置」、「システム」とは、単に物理的手段を意味するものではなく、その「部」や「手段」、「装置」、「システム」が有する機能をソフトウェアによって実現する場合も含む。また、１つの「部」や「手段」、「装置」、「システム」が有する機能が２つ以上の物理的手段や装置により実現されても、２つ以上の「部」や「手段」、「装置」、「システム」の機能が１つの物理的手段や装置により実現されても良い。

実施形態に係る文書処理システムの処理の概要を説明するための図である。 実施形態に係る文書処理システムの処理の概要を説明するための図である。 実施形態に係る文書処理システムの概略構成を示す図である。 図３に係る文書処理装置の機能構成を示す図である。 図３に係る文書処理装置の機能構成を示す図である。 図４及び図５に係る文書処理装置のハードウェア構成の具体例を示す図である。

以下、図面を参照して本発明の実施形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、以下に明示しない種々の変形や技術の適用を排除する意図はない。即ち、本発明は、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を付して表している。図面は模式的なものであり、必ずしも実際の寸法や比率等とは一致しない。図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることがある。

［実施形態］
［１ 概要］
文書に対して、ある評価軸に沿った相反する２つの事象のうち、いずれを向いたものなのかを評価したい場合がある。たとえば、株式に関連する文書なのか違うのか、読む必要性の高い文書なのか読む必要性の低い文書なのか、肯定的な評価を行っている文書なのか否定的な評価を行っている文書なのか、等である。例えば、株式銘柄等の金融商品に対して、投資判断の変更を伝えるためのアナリストレポートの多くは、肯定的な意見である「買いに引上げ」、「中立に引上げ」や、否定的な意見である「中立に引下げ」、「売りに引下げ」等の評価（レイティングの変更）が、その評価変更に至る根拠とともに文書において示される。またアナリストレポートの中には、レイティングやレイティング変更が明示的には示されないものもある。このようなテキスト情報である文書として記載された個別企業に関する定性情報に対し、その有用性や企業価値の推計に与える影響を自動で定量的に評価可能になれば、当該評価を意思決定に活用することができる。

文書に対する評価方法としては、例えば、予めいずれの極性を示すものか（例えば肯定的評価か否定的評価か）をラベル付けした文書を教師データとして、深層学習（ディープラーニング）等の統計的学習手法により評価予測モデルを生成した上で、当該評価予測モデルに文書を入力することで、当該入力文書の極性を予測することが考えられる。しかしながら、このような手法は、通常、数万〜数十万規模の大量の教師データを必要とするため、十分な数の教師データが用意できない場合には、十分な精度の結果を得ることができない。

そこで本実施形態に係る文書処理システムでは、例えば数千程度の比較的少ない教師データを用いて好適に文書を評価する。具体的には、まず、各々のテキスト文書を、既存の手法であるＤｏｃ２Ｖｅｃ（Ｐａｒａｇｒａｐｈ２Ｖｅｃ）やＧｌｏＶｅ等を用いて、加法構成性を持つベクトル化した特徴量として扱う。Ｄｏｃ２Ｖｅｃ等の手法では、文書に含まれる単語に基づいて、加法構成性のある分散意味表現として抽象化した要素からなるベクトル（文書特徴量ベクトル）が生成される。本実施形態に係る文書処理システムはこのような文書特徴量ベクトルに対する処理を行うことで、最終的に、文書の肯定的な度合いや否定的な度合いを推測する。

以下、図１及び図２を参照しながら、本実施形態に係る文書処理システムの処理方法の概要を説明する。この処理方法は、（１）教師データに基づくノイズ除去用の基準ベクトルの生成と、（２）生成された基準ベクトルに基づく、極性（肯定的／否定的）を予測する処理と、の大きく２つの処理からなる。

［１．１ 教師データに基づくノイズ除去用の基準ベクトルの生成］
まず、図１を参照しながら、本実施形態に係る文書処理システムが基準ベクトルを生成する際の処理について説明する。まず、既存の手法で生成された加法構成性を持つ文書ベクトル（以下、文書ベクトルｘともいう。）は、一般的に以下の式により表現されると考えられる。

この式において、
は肯定的成分（以下、ポジティブ成分ｐともいう。）、
は否定的成分（以下、ネガティブ成分ｎともいう。）、
は肯定的成分及び否定的成分以外の、例えば、分野や文体等に依存するその他の成分（以下、その他成分ｃともいう）である。文書の肯定的な度合い／否定的な度合いを評価する場合には、その他成分ｃはノイズに相当するため、除去することが望ましいと考えられる。そこで図１に係る処理では、このノイズに相当するその他成分ｃを除去するための基準ベクトルを生成する。

まず、教師データとして、文書のクラスタＣ（例えば、文書の作成者／作成会社、文書のソースの種類（ニュース、ＳＮＳ等）、文書が対象とする対象銘柄、対象銘柄の業界や、それらの組み合わせ等に対応。またはｋ−ｍｅａｎｓ法等の機械学習アルゴリズムによるクラスタリングでも良い）と、ポジティブ／ネガティブのいずれかのラベルが付与された文書Ｄ１〜Ｄｍが与えられる。ここでは、Ｄ１〜Ｄｋがポジティブのラベルが付与されたクラスタＣに属する文書、Ｄｋ＋１〜Ｄｍがネガティブのラベルが付与されたクラスタＣに属する文書であるものとする。教師データの文書数に相当するｍは例えば数千〜１万程度とすることができる。各々の文書ベクトルｘは、ｎ（例えば約３００程度）個の要素を持つベクトルであり、これにより各々の文書の特徴が表現される。よって、クラスタＣのポジティブ文書（例えば同一の会社が作成したポジティブ文書、同一の業界に対して作成されたポジティブ文書等）が平均的に有している平均ベクトル（以下、ポジティブ基準ベクトルＸｐともいう）は、以下のようになる。

ここではポジティブ文書のみを対象にしていることから、各文書のネガティブ成分は十分に小さく、したがってネガティブ成分の平均である第２項は０ベクトルに近似されると仮定すると、クラスタＣのポジティブ基準ベクトルは以下のように表現できる。

同様に、ネガティブ文書の平均ベクトル（以下、ネガティブ基準ベクトルＸｎともいう）は、以下の式により表現される。

クラスタＣのネガティブ基準ベクトルＸｎは、クラスタＣのネガティブ文書（例えば同一の会社が作成したネガティブ文書、同一の業界に対して作成されたネガティブ文書等）が平均的に有しているベクトル成分である。

更に、肯定的（ポジティブ）な意味合いと否定的（ネガティブ）な意味合いは意味的に排反と考えられる。よって、加法構成性を持つ空間では、ネガティブ成分の逆ベクトルがポジティブ成分を意味すると捉えることが可能である。よって、ポジティブ基準ベクトルと、ポジティブ成分を意味するネガティブ基準ベクトルの逆ベクトルを足し合わせることで、クラスタＣに含まれる文書Ｄ全体のポジティブ成分（以下、クラスタ平均ベクトルＸａｖｅともいう。）は、以下の式のように表現される。

各々の文書のポジティブ度合い（ポジティブスコア）、ネガティブ度合い（ネガティブスコア）は、このクラスタ平均ベクトルＸａｖｅを基準としてスコアリングすることができる。

もし多数のクラスタが存在する場合には、各々のクラスタについて同様の処理により、それぞれのポジティブ文書の平均ベクトルであるポジティブ基準ベクトルＸｐ、ネガティブ文書の平均ベクトルであるネガティブ基準ベクトルＸｎ、クラスタ平均ベクトルＸａｖｅが求められる。

［１．２ 文書の極性（ポジティブスコア／ネガティブスコア）の予測］
次に、図２を参照しながら、生成された基準ベクトルを用いてノイズを除去した上で、入力文書Ｄの極性を予測する処理を説明する。

まず文書処理システムは、Ｄｏｃ２Ｖｅｃ等の手法を用いて、クラスタが既知の入力文書Ｄに対し、文書特徴量ベクトル（文書ベクトルｘ）を生成する。このとき、文書Ｄの文書ベクトルｘから、ネガティブ基準ベクトルＸｎを減算することで、文書Ｄのポジティブ成分（以下、ポジティブ成分ｘｐともいう。）が求められることを以下説明する。

ここで、
と近似すると、ポジティブ成分ｘｐは以下のとおりとなる。

同様に文書Ｄのネガティブ成分（以下、ネガティブ成分ｘｎともいう。）についても、以下の式により求められる。

このようにして求められた入力文書Ｄのポジティブ成分ｘｐ、ネガティブ成分ｘｎと、クラスタ平均ベクトルＸａｖｅとのコサイン類似度を以下のように求める（ベクトルの内積を求める）ことで、入力文書Ｄのポジティブスコア（ポジティブ度）、ネガティブスコア（ネガティブ度）が、−１〜＋１の間の値として求めることができる。

［２ 機能構成］
以下、本実施形態に係る文書処理システム１の機能構成を図３乃至図５を参照しながら説明する。

［２．１ 文書処理システム１］
図３に示すとおり、文書処理システム１は、教師データとなる文書の入力を受けて、ノイズ除去用の基準ベクトルを生成して基準ベクトルＤＢ１１０に格納する文書処理装置１００と、基準ベクトルＤＢに格納された基準ベクトルに基づいて、入力文書Ｄに対する評価を行う文書処理装置２００とから構成される。なお、文書処理装置１００及び文書処理装置２００は、同一の装置やプログラムとして実装することも可能である。

［２．２ 基準ベクトル生成のための文書処理装置１００］
図４を参照しながら、ノイズ除去用の基準ベクトル生成のための文書処理装置１００の機能構成を説明する。図３に示すとおり、文書処理装置１００は、文書入力部１０１、文書特徴量ベクトル生成部１０３、クラスタ特定部１０５、基準ベクトル生成部１０７、及び基準ベクトルデータベース（ＤＢ）１１０を含む。

文書入力部１０１は、各々のクラスタ１乃至Ｃのポジティブ基準ベクトル１１１ａ乃至１１１Ｃ（以下、総称してポジティブ基準ベクトル１１１ともいう）、及びネガティブ基準ベクトル１１３ａ乃至１１３Ｃ（以下、総称してネガティブ基準ベクトル１１３ともいう。）を求めるための教師文書の入力を受ける。ここで、各々の文書には、ポジティブ／ネガティブのいずれの文書であるのかを示すラベルが付与される。また合わせて、例えば、文書の著者や出版社、文書のソースの種類（ニュース、ＳＮＳ等）、文書の対象（例えばアナリストレポートであれば対象銘柄や対象とする業界）等、或いはそれらの組み合わせに関するクラスタ情報が付与されていても良い。

文書特徴量ベクトル生成部１０３は、文書入力部１０１から入力された文書のそれぞれに対し、例えばＤｏｃ２Ｖｅｃ等の手法を用いて、文書ベクトルｘを生成する。

クラスタ特定部１０５は、文書入力部１０１から入力された各文書のクラスタを特定する。先述の通り、クラスタの情報は予め文書に対して与えられていても良いし、或いは、ｋ−ｍｅａｎｓ法等の統計的機械学習等の手法により、クラスタ特定部１０５が特定しても良い。

基準ベクトル生成部１０７は、文書特徴量ベクトル生成部１０３が生成した各々の文書ベクトルのうち、ポジティブのラベルが付与された、同一クラスタに属する文書に係るもの平均ベクトルを求めることにより、ポジティブ基準ベクトル１１１（Ｘｐ）を生成する。同様に、基準ベクトル生成部１０７は、文書特徴量ベクトル生成部１０３が生成した各々の文書ベクトルのうち、ネガティブのラベルが付与された、同一クラスタに属する文書に係るもの平均ベクトルを求めることにより、ネガティブ基準ベクトル１１３（Ｘｎ）を生成する。

生成されたポジティブ基準ベクトル１１１及びネガティブ基準ベクトル１１３は、クラスタ毎に、基準ベクトルＤＢ１１０に格納される。なお図４には示していないが、ポジティブ基準ベクトル１１１からネガティブ基準ベクトル１１３を減算するベクトル演算により求められるクラスタ平均ベクトルＸａｖｅ（上記数８）をクラスタ毎に基準ベクトルＤＢ１１０に格納しても良い。

［２．３ 極性（ポジティブ度／ネガティブ度）を評価する文書処理装置２００］
続いて、図５を参照しながら、入力文書のポジティブ度／ネガティブ度を評価する文書処理装置２００の機能構成を説明する。図５に示すとおり、文書処理装置２００は、文書入力部２０１、文書特徴量ベクトル生成部２０３、クラスタ特定部２０５、基準ベクトルＤＢ１１０、基準ベクトル入力部２０７、ベクトル演算部２０９、平均ベクトル入力部２１１、類似度演算部２１３、及び出力部２１５を含む。

文書入力部２０１は、極性が未知のテキスト文書Ｄの入力を受ける。この時、文書Ｄには、文書Ｄの著者や出版社、文書Ｄの種類（ニュース、ＳＮＳ等）、文書Ｄの対象等、或いはそれらの組み合わせに関するクラスタ情報が与えられていても良い。

文書特徴量ベクトル生成部２０３は、文書入力部２０１から入力された文書Ｄに対し、例えばＤｏｃ２Ｖｅｃ等の手法を用いて、文書ベクトルｘを生成する。なおこの際のアルゴリズムは、文書処理装置１００の文書特徴量ベクトル生成部１０３が用いるものと同一である。

クラスタ特定部２０５は、文書入力部２０１から入力された文書Ｄのクラスタを特定する。例えば、文書処理装置１００がクラスタ（基準ベクトルＤＢ１１０にポジティブ基準ベクトル１１１やネガティブ基準ベクトル１１３が用意されるクラスタに対応）をｋ−ｍｅａｎｓ法等の統計的機械学習により生成している場合には、クラスタ特定部２０５は、文書Ｄがいずれのクラスタに属するかを、例えば文書ベクトルｘに基づいて特定することができる。或いは先述の通り、クラスタの情報は、予め文書Ｄに与えられていても良い。

基準ベクトルＤＢ１１０には、文書処理装置１００が生成したポジティブ基準ベクトル１１１及びネガティブ基準ベクトル１１３がクラスタ毎に格納される。

基準ベクトル入力部２０７は、基準ベクトルＤＢ１１０から、文書Ｄに対応するクラスタのポジティブ基準ベクトル１１１（Ｘｐ）及びネガティブ基準ベクトル１１３（Ｘｎ）を読み込む。

ベクトル演算部２０９は、文書特徴量ベクトル生成部２０３が生成した文書ベクトルｘからネガティブ基準ベクトル１１３（Ｘｎ）を減算するベクトル演算により文書Ｄのポジティブ成分ｘｐを、文書ベクトルｘからポジティブ基準ベクトル１１１（Ｘｐ）を減算するベクトル演算により文書Ｄのネガティブ成分ｘｎを、それぞれ求める（上記数１１、数１２）。

平均ベクトル入力部２１１は、基準ベクトルＤＢ１１０に格納されたポジティブ基準ベクトル１１１（Ｘｐ）及びネガティブ基準ベクトル１１３（Ｘｎ）から、クラスタ平均ベクトルＸａｖｅをベクトル演算により求める（上記数８）。或いは、クラスタ平均ベクトルＸａｖｅは予め基準ベクトルＤＢ１１０に格納されていても良い。

類似度演算部２１３は、クラスタ平均ベクトルＸａｖｅと、文書Ｄのポジティブ成分ｘｐとのコサイン類似度（内積）を求めることにより、文書Ｄのポジティブスコア（ポジティブ度）を算出する（上記数１３）。同様に類似度演算部２１３は、クラスタ平均ベクトルＸａｖｅの逆ベクトルと、文書Ｄのネガティブ成分ｘｎとのコサイン類似度を求めることにより、文書Ｄのネガティブスコア（ネガティブ度）を算出する（上記数１４）。

出力部２１５は、類似度演算部２１３により算出された文書Ｄのポジティブスコア、ネガティブスコアを記憶媒体や外部装置等に出力する。この際、例えばポジティブスコアとネガティブスコアを加算した値を文書Ｄの極性として出力することも考えられる。

［３ ハードウェア構成］
図６を参照しながら、文書処理装置１００及び２００を実現可能な情報処理装置５００のハードウェア構成について説明する。なお先述の通り、文書処理装置１００及び２００は同一の装置やプログラムとして実現可能である。情報処理装置５００は、制御部５０１と、記憶部５０５と、通信Ｉ／Ｆ（インタフェース）部５１１と、入力部５１３と、表示部５１５とを含み、各部はバスライン５１７を介して接続される。

制御部５０１は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ。図示せず）、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ。図示せず）、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）５０３等を含む。制御部５０１は

記憶部５０５に記憶される制御プログラム５０７を実行することにより、一般的なコンピュータとしての機能に加え、図４に示した文書処理装置１００や図５に示した文書処理装置２００の各構成に関する処理を実行可能に構成される。例えば、情報処理装置５００が文書処理装置２００を実現する場合には、文書入力部１０１、文書特徴量ベクトル生成部１０３、クラスタ特定部１０５、基準ベクトル生成部１０７は、ＲＡＭ５０３に一時記憶された上で、ＣＰＵ上で動作する制御プログラム５０７として実現可能である。また、情報処理装置５００が文書処理装置２００を実現する場合には、文書入力部２０１、文書特徴量ベクトル生成部２０３、クラスタ特定部２０５、基準ベクトル入力部２０７、ベクトル演算部２０９、平均ベクトル入力部２１１、類似度演算部２１３、及び出力部２１５は、ＲＡＭ５０３に一時記憶された上で、ＣＰＵ上で動作する制御プログラム５０７として実現可能である。

また、ＲＡＭ５０３は、制御プログラム５０７に含まれるコードの他、入力される文書や、基準ベクトルＤＢ１１０に格納されるポジティブ基準ベクトル１１１やネガティブ基準ベクトル１１３等の一部又は全部を一時的に記憶する。更にＲＡＭ５０３は、ＣＰＵが各種処理を実行する際のワークエリアとしても使用される。

記憶部５０５は、例えばＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）やフラッシュメモリ等の不揮発性の記憶媒体である。記憶部５０５は、一般的なコンピュータとしての機能を実現するためのオペレーティングシステム（ＯＳ）やアプリケーションプログラム及びデータ（いずれも図示せず）を記憶する。また記憶部５０５は、基準ベクトルＤＢ１１０も記憶する。

通信Ｉ／Ｆ部５１１は、必要に応じて、外部の装置とデータ通信するためのデバイスである。例えば文書データの外部装置からの入力は、通信Ｉ／Ｆ部５１１を介して行うことが考えられる。また、基準ベクトルＤＢ１１０を通信Ｉ／Ｆ部５１１を介して出力することなども考えられる。なお、通信Ｉ／Ｆ部５１１は、可搬性の記憶媒体への書き込み及び読込みを行う装置とのインタフェースを含んでも良い。

入力部５１３は、情報処理装置５００を操作するユーザから入力操作を受け付けるためのデバイスである。入力部５１３の具体例としては、キーボードやマウス、タッチパネル等を挙げることができる。

表示部５１５は、情報処理装置５００を操作するユーザに各種情報を提示するためのディスプレイ装置である。表示部５１５の具体例としては、例えば液晶ディスプレイや有機ＥＬ（Ｅｌｅｃｔｒｏ−Ｌｕｍｉｎｅｓｃｅｎｃｅ）ディスプレイ等があげられる。例えば、文書処理装置２００の出力部２１５が文書Ｄのポジティブスコアやネガティブスコアを表示部５１５に表示させること等が考えられる。

［４ 本実施形態の効果］
以上説明したように、本実施形態に係る文書処理システム１の手法では、クラスタ毎に、ノイズ除去用のポジティブ基準ベクトル１１１及びネガティブ基準ベクトル１１３が生成される。このポジティブ基準ベクトル１１１及びネガティブ基準ベクトル１１３は、クラスタ内の文書ベクトルの平均として求められるため、例えばディープラーニング（深層学習）によりモデルを生成する手法に比べ、必要となる教師データの数を少なく抑えることができる。

また、本実施形態に係る手法では、ポジティブ基準ベクトル１１１及びネガティブ基準ベクトル１１３をクラスタ毎に用意し、入力文書のクラスタに応じて、適当なポジティブ基準ベクトル１１１及びネガティブ基準ベクトル１１３を適用してノイズ除去を行う。処理対象の文書の分野や文体、対象物等により応じて、文書は異なる特徴を持つことが多いため、このようにクラスタ毎にノイズ除去用の基準ベクトルを用意することで、好適にノイズ除去を図ることができる。

更にこのようにして好適にノイズ除去を行った上で、入力文書のポジティブ度合い（ポジティブスコア）／ネガティブ度合い（ネガティブスコア）を算出することができるため、その度合いに応じた意思決定を行うことが可能である。例えば、アナリストレポートであれば、入力文書のポジティブスコアが高ければ当該文書が対象とする銘柄を購入する動機づけとすることができるし、ネガティブスコアが高ければ、当該文書が対象とする銘柄を売却する動機づけとすることができる。なおこの時、ポジティブスコア／ネガティブスコアのみを出力／考慮することも考えられる。

［５ 付記］
以上説明した実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。実施形態が備える各要素並びにその配置、材料、条件、形状及びサイズ等は、例示したものに限定されるわけではなく適宜変更することができる。また、異なる実施形態で示した構成同士を部分的に置換し又は組み合わせることが可能である。

１…文書処理システム、１００…文書処理装置、１０１…文書入力部、１０３…文書特徴量ベクトル生成部、１０５…クラスタ特定部、１０７…基準ベクトル生成部、１１０…基準ベクトルデータベース（ＤＢ）、２００…文書処理装置、２０１…文書入力部、２０３…文書特徴量ベクトル生成部、２０５…クラスタ特定部、２０７…基準ベクトル入力部、２０９…ベクトル演算部、２１１…平均ベクトル入力部、２１３…類似度演算部、２１５…出力部、５００…情報処理装置、５０１…制御部、５０３…ＲＡＭ、５０５…記憶部、５０７…制御プログラム、５１１…通信インタフェース（Ｉ／Ｆ）部、５１３…入力部、５１５…表示部、５１７…バスライン

Claims (8)

1. 第１傾向、又は前記第１傾向と相反する第２傾向のいずれの傾向を持つ文書であるかが各々ラベル付けされた複数の文書のそれぞれについて、分散意味表現により表現された加法構成性を有する文書ベクトルを生成する第１ベクトル生成部と、
   前記複数の文書のうち、前記第１傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第１平均ベクトル、及び／又は、前記第２傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第２平均ベクトルを算出する平均ベクトル生成部と、
   入力文書の入力を受ける入力部と、
   前記入力文書に対して、前記第１ベクトル生成部と同じ手法により入力文書ベクトルを生成する第２ベクトル生成部と、
   前記第１平均ベクトル及び／又は前記第２平均ベクトルと、前記入力文書ベクトルとのベクトル加減算により、前記入力文書の前記第１傾向に関するベクトル成分を示す第１傾向成分ベクトル、及び／又は前記第２傾向に関するベクトル成分を示す第２傾向成分ベクトルを求める演算部と
   を備える文書処理システム。
2. 前記第１平均ベクトルから前記第２平均ベクトルをベクトル減算することにより得られるクラスタ平均ベクトルと、前記第１傾向成分ベクトル及び／又は前記第２傾向成分ベクトルとの類似度により、前記第１傾向及び／又は前記第２傾向のスコアを算出する類似度算出部
   を更に備える請求項１記載の文書処理システム。
3. 前記平均ベクトル生成部は、前記複数の文書が属する各々クラスタ毎に算出し、
   前記演算部は、前記入力文書のクラスタに係る前記第１平均ベクトル及び／又は前記第２平均ベクトルと、前記入力文書ベクトルとのベクトル加減算により、前記第１傾向成分ベクトル及び／又は前記第２傾向成分ベクトルを求める、
   請求項１又は請求項２記載の文書処理システム。
4. 前記複数の文書のそれぞれについて、属するクラスタを特定するクラスタ特定部
   を更に備える請求項３記載の文書処理システム。
5. 前記クラスタは、前記文書の作成者、前記文書のソースの種類、前記文書の記載対象、前記文書の記載対象の分野、の少なくとも一部に応じたものである、
   請求項３又は請求項４記載の文書処理システム。
6. 前記複数の文書及び前記入力文書は金融商品を評価するためのものであり、
   前記第１傾向及び前記第２傾向は、前記金融商品の評価が肯定的であるか否定的であるかを示すものである、
   請求項１乃至請求項５のいずれか１項記載の文書処理システム。
7. 第１傾向、又は前記第１傾向と相反する第２傾向のいずれの傾向を持つ文書であるかが各々ラベル付けされた複数の文書のそれぞれについて、分散意味表現により表現された加法構成性を有する文書ベクトルを生成するステップと、
   前記複数の文書のうち、前記第１傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第１平均ベクトル、及び／又は、前記第２傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第２平均ベクトルを算出するステップと、
   入力文書の入力を受けるステップと、
   前記入力文書に対して、前記文書ベクトルと同じ手法により入力文書ベクトルを生成するステップと、
   前記第１平均ベクトル及び／又は前記第２平均ベクトルと、前記入力文書ベクトルとのベクトル加減算により、前記入力文書の前記第１傾向に関するベクトル成分を示す第１傾向成分ベクトル、及び／又は前記第２傾向に関するベクトル成分を示す第２傾向成分ベクトルを求めるステップと
   を文書処理システムが行う文書処理方法。
8. 第１傾向、又は前記第１傾向と相反する第２傾向のいずれの傾向を持つ文書であるかが各々ラベル付けされた複数の文書のそれぞれについて、分散意味表現により表現された加法構成性を有する文書ベクトルを生成する処理と、
   前記複数の文書のうち、前記第１傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第１平均ベクトル、及び／又は、前記第２傾向のラベルが付与された文書に係る前記文書ベクトルの平均である第２平均ベクトルを算出する処理と、
   入力文書の入力を受ける処理と、
   前記入力文書に対して、前記文書ベクトルと同じ手法により入力文書ベクトルを生成する処理と、
   前記第１平均ベクトル及び／又は前記第２平均ベクトルと、前記入力文書ベクトルとのベクトル加減算により、前記入力文書の前記第１傾向に関するベクトル成分を示す第１傾向成分ベクトル、及び／又は前記第２傾向に関するベクトル成分を示す第２傾向成分ベクトルを求める処理と
   をコンピュータに実行させるためのプログラム。