JP7131130B2 - 分類方法、装置、及びプログラム - Google Patents

分類方法、装置、及びプログラム Download PDF

Info

Publication number
JP7131130B2
JP7131130B2 JP2018123998A JP2018123998A JP7131130B2 JP 7131130 B2 JP7131130 B2 JP 7131130B2 JP 2018123998 A JP2018123998 A JP 2018123998A JP 2018123998 A JP2018123998 A JP 2018123998A JP 7131130 B2 JP7131130 B2 JP 7131130B2
Authority
JP
Japan
Prior art keywords
texts
morpheme
information
text
clusters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018123998A
Other languages
English (en)
Other versions
JP2020004157A (ja
Inventor
淳真 工藤
大紀 塙
俊秀 宮城
幸太 山越
佳祐 廣田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2018123998A priority Critical patent/JP7131130B2/ja
Publication of JP2020004157A publication Critical patent/JP2020004157A/ja
Application granted granted Critical
Publication of JP7131130B2 publication Critical patent/JP7131130B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Document Processing Apparatus (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

開示の技術は、分類方法、分類装置、及び分類プログラムに関する。
従来、自然言語で記述された文書(テキストデータ)を、記述されている内容に基づいて分類することが行われている。
例えば、互いに対応付けられた質問と回答とを文書記憶部に記憶しておき、文書記憶部中の各回答の特徴ベクトルに基づいて回答をクラスタ分類しておく情報検索システムが提案されている。
また、談話データ及び談話セマンティクスを入力とし、談話データからFAQ候補となる質問文を抽出して出力するFAQ候補抽出システムが提案されている。このシステムでは、談話セマンティクスは各ステートメントのフロー情報を含み、談話データから、顧客によって発話され、質問文若しくは要求文であることを示すフローが設定された質問・要求ステートメントを抽出する。そして、質問・要求ステートメントから指定されたキーワードを含むものを抽出し、質問・要求ステートメントについてクラスタリングし、各クラスタの代表となる質問・要求ステートメントをFAQ候補として出力する。
また、ツリー状の観点及び属性単語を含む観点リストを記憶した観点リスト記憶手段と、各属性単語に関連する多数の学習文章情報を記憶した学習文章情報記憶手段とを有する装置が提案されている。この装置は、共有コンテンツから複数のキーワードを抽出し、キーワードを要素とし且つその出現頻度を値とする第1のベクトルを導出する。そして、キーワード毎に、当該キーワードと一致する属性単語における学習文章情報について、当該学習文章情報に含まれる単語を要素とし且つその出現頻度を値とする第2のベクトルを導出する。さらに、両ベクトルの類似度を算出し、類似度を対応付けた類似度付き観点リストを生成し、観点リストのレイヤ毎に、類似度の分散が最も大きい観点及び属性単語を導出する。
特開2002-41573号公報 特開2012-3704号公報 特開2012-70036号公報
しかしながら、例えば、各テキストに定型的な表現が含まれている場合には、その定型的な表現が影響して、各文書から適切な特徴を抽出することができず、文書の分類を適切に行うことができない場合がある。
一つの側面として、開示の技術は、テキストの分類精度を向上させることを目的とする。
一つの態様として、開示の技術は、複数のテキストを受け付け、受け付けた前記複数のテキストのうちの何れかのテキストについて、該テキストに含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を取得する。また、開示の技術は、特定の形態素と、該特定の形態素の属性情報とを含む形態素情報を記憶する記憶部を参照する。そして、取得した前記複数の解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれるか否かの判定を行う。また、開示の技術は、判定結果が肯定的である場合、前記何れかのテキストを、該何れかのテキストにおける、前記何れかの解析結果情報に含まれる形態素の出現位置に応じた位置で分割して、複数のテキストを生成する。さらに、開示の技術は、受け付けた前記複数のテキストのうちの他のテキストと、生成した前記複数のテキストと、を複数のクラスタに分類する。
一つの側面として、テキストの分類精度を向上させることができる、という効果を有する。
文書の分類を説明するための図である。 定型表現が文書の分類に与える影響を説明するための図である。 定型表現が文書の分類に与える影響を説明するための図である。 定型表現を抽出するためのテキストの分類を説明するための図である。 定型表現を抽出するためのテキストの分類の問題点を説明するための図である。 本実施形態に係る分類装置の機能ブロック図である。 受付解析部による解析結果の一例を示す図である。 分割用辞書の一例を示す図である。 テキストの分割を説明するための図である。 単語モデルの一例を示す図である。 分類結果画面の一例を示す図である。 本実施形態に係る分類装置として機能するコンピュータの概略構成を示すブロック図である。 本実施形態における分類処理の一例を示すフローチャートである。 分割処理の一例を示すフローチャートである。 クラスタリング処理の一例を示すフローチャートである。 表示制御処理の一例を示すフローチャートである。
以下、図面を参照して、開示の技術に係る実施形態の一例を説明する。
本実施形態に係る分類装置では、定型表現を抽出するために、テキスト集合に含まれる各テキストを複数のクラスタに分類する。
ここで、実施形態の詳細を説明する前に、定型表現を抽出するために、テキストを分類する理由について説明する。例えば、システムに関するインシデント対応時のメールなどの文書を分類し、各文書が表すインシデントが何の事案に関するインシデントかを特定する場合を考える。
例えば、図1に示すように、インシデント1件における文章の集合を1つの文書とし、複数のインシデントに関する文書集合に含まれる各文書を、BoW(Bag of Words)などの手法により、文書に含まれる単語の出現頻度でベクトル化する。そして、ベクトルのコサイン類似度(図1中の「0.7」、「0.0」、「0.4」)が高い文書同士をクラスタにまとめることにより、文書を分類する。
そして、TF(Term Frequency)-IDF(Inverse Document Frequency)などにより、各クラスタに属する文書に含まれる特徴語を抽出し(図1中の下線で示す単語)、各クラスタに対応付けることで、各クラスタに含まれる文書が何の事案のインシデントかを把握可能にする。なお、TF値及びIDF値は、以下のように定義される。
単語wのTF値
=文書中の単語wの出現数/文書中の全ての単語の出現数
単語wのIDF値
=log(文書の総数/単語wを含む文書の数)
しかし、上記のベクトル化の際には、各文書に含まれる定型表現もベクトル化されてしまい、定型表現がノイズとなってコサイン類似度に影響を及ぼしてしまう。例えば、図2に示すように、質問文1は、サーバに関する問い合わせであり、質問文2は、ネットワークに関する問い合わせであり、それぞれ質問内容が異なる。しかし、両質問文とも、「お疲れさまです、サービス第一開発部の工藤です。」のような定型表現を含むため、コサイン類似度が高くなってしまう。
また、図3に示すように、文書が定型表現を含む場合には、文書に出現する単語数が多くなるため、特徴語となるべき単語のTF値が下がってしまう。
特に、システムに関するインシデント対応の分野では、顧客からのメールなどでの問合せの文章に、挨拶や結びの言葉などの定型表現が現れ易い。そこで、定型表現が文書の分類に与える影響を低減するために、各文書から定型表現を削除することが考えられる。しかし、定型表現の中には、「サービス第一開発部の工藤です。」などの固有名詞や、顧客毎の固有の表現等が含まれるため、定型表現を事前に定義しておくことは困難である。
そこで、例えば、図4に示すように、文書集合に含まれる各文書を、文書中に含まれる「。(句点)」や「¥n(改行コード)」といった一文の区切りを表す箇所で分割することによって一文のテキスト集合を作成する。そして、各文をベクトル化してクラスタリングし、各クラスタに含まれるテキストを確認することで、定型表現が分類されたクラスタを特定し、定型表現を抽出することが考えられる。そして、抽出した定型表現を各文書から削除する。
このように、テキストを分類して定型表現を抽出することで、固有の表現等を含む定型表現も抽出することができる。したがって、本実施形態では、定型表現を抽出するために、テキストを分類する。
しかし、各文書から作成された1文が複文の場合、定型表現を一部に含むにも関わらず、全体としては定型表現とは見做されず、定型表現が分類されるクラスタに分類されない場合がある。例えば、図5に示すように、クラスタ2に分類されている一文は、クラスタ1に分類されている定型表現と同様の「対処方法を教えて下さい」という定型表現を含むが、「予想外のメッセージが出力されている為、」の部分の影響で、クラスタ1に分類されない。
そこで、本実施形態では、複文に含まれる定型表現も抽出可能に、テキストを分類する。以下、本実施形態の詳細について説明する。
図6に示すように、本実施形態に係る分類装置10は、機能的には、受付解析部12と、分割部14と、分類部16と、表示制御部18とを含む。また、分類装置10の所定の記憶領域には、分割用辞書22と、単語モデル24とが記憶される。なお、受付解析部12は、開示の技術の受付部及び取得部の一例であり、分割部14は、開示の技術の判定部及び生成部の一例である。
受付解析部12は、分類装置10に入力されるテキスト集合を受け付ける。例えば、受付解析部12は、システムに関するインシデント対応時のメールなどの文章を含み、インシデント1件における文章の集合を1つの文書とし、文書集合に含まれる各文書を一文のテキストに整形したテキスト集合を受け付ける。一文のテキストの整形は、例えば、文書中に含まれる「。(句点)」や「¥n(改行コード)」といった一文の区切りを表す箇所で文書を分割するなどされたものである。
受付解析部12は、受け付けたテキスト集合に含まれる各テキストに対して形態素解析を行い、テキストを形態素に分割すると共に、各形態素に品詞、形態素情報等の属性情報を付与する。また、受付解析部12は、形態素解析の結果を用いて、各テキストに対して係り受け解析を行い、文節毎の係り受け関係を解析する。
図7に、「予想外のメッセージが出力されている為、対処方法を教えて下さい」というテキストに対する、受付解析部12による形態素解析結果及び係り受け解析結果の一例を示す。図7中のAが形態素解析結果である。図7の例では、テキストに含まれる形態素毎に、テキストの先頭から順に番号を付すと共に、形態素解析の結果得られた属性情報が各形態素に対応付けられている。すなわち、形態素解析の解析結果は、テキストに含まれる各形態素とその形態素の属性情報とを含む形態素情報のリストである。また、図7中のBが係り受け解析結果である。図7の例では、形態素解析結果に基づいて、テキストを各文節に区切り、各文節間の係り受け関係を解析した例であり、各文節をボックスで、文節間の係り受け関係を矢印で表している。
分割用辞書22は、図8に示すように、テキストを分割する際に、区切り箇所となる文節に含まれる特定の形態素と、その特定の形態素の属性情報とを含む形態素情報が記憶された辞書である。例えば、所定の副詞節を構成する文節に含まれる形態素情報を予め分割用辞書22に定義しておくことができる。
分割部14は、分割用辞書22を参照して、各テキストについて、受付解析部12による形態素解析結果に含まれる形態素情報に、分割用辞書22に含まれる特定の形態素と、その特定の形態素の属性情報との組が含まれるか否かの判定を行う。分割部14は、判定結果が肯定的である場合、各テキストを、そのテキストにおいて特定の形態素の出現位置に応じた位置で分割する。
より具体的には、分割部14は、図9に示すように、テキストの末尾の文節から順に、その文節に係る文節を特定し、特定した文節に、分割用辞書22に定義された形態素と属性情報との組と合致する特定の形態素と属性情報との組が含まれるか否かを判定する。図9の例では、末尾の文節に係る文節内に(図9中のA)、分割用辞書22に定義された「形態素:為、品詞:名詞、形態素情報:副詞可能」が含まれるため(図9中の破線の丸で示す箇所)、この文節の直後でテキストを分割する。例えば副詞節などがテキストに含まれる場合、そのテキストは複文である可能性が高く、副詞節を表す形態素を含む文節の直後で分割することで、テキストを単文に分割することができる。
また、分割部14は、分割後のテキストの前半部分を新たなテキストとし、図9中のBに示すように、新たなテキストの末尾の文節から上記の処理を繰り返す。これにより、3つ以上の内容を含む複文であっても、それぞれを単文に分割することができる。
また、分割部14は、処理対象の文節に係る文節に、分割用辞書22に定義された形態素情報と合致する形態素情報が含まれない場合は、テキストを分割することなく、処理対象の文節に係る文節から処理を継続する。また、分割部14は、処理対象の文節に係る文節が存在しない場合は、テキストを分割することなく、処理対象の文節を先頭側に1つ進める。
なお、末尾から処理することにより、副詞節などの述部に係る文節を効率良く特定することができる。
分割部14は、分割したテキストについては、分割後のテキストを、分割していないテキストについては、元のテキストをそれぞれ単文として、単文集合に入れる。
ここで、図10に、単語モデル24の一例を示す。単語モデル24は、単語ベクトルテーブル24Aと、IDF値テーブル24Bとを含む。単語ベクトルテーブル24Aは、単語と、その単語をTF-IDFやword2vec等によりベクトル表現した単語ベクトルとを対応付けて記憶したテーブルである。IDF値テーブル24Bは、単語とその単語のIDF値とを対応付けて記憶したテーブルである。IDF値は、予め任意の文書集合から生成しておいてもよいし、入力されたテキスト集合の元になった文書集合から生成してもよい。
分類部16は、テキスト集合に含まれる他のテキストと、生成した新たな複数のテキスト、すなわち、単文集合に含まれる単文の各々を、複数のクラスタに分類する。
具体的には、分類部16は、単語モデル24に含まれる単語ベクトルテーブル24Aを参照して、単文集合に含まれる各単文をベクトル化する。また、分類部16は、各単文の単語ベクトルのコサイン類似度などを用いて、k-meansやsimple linkageなどの従来既知のクラスタリング手法により、各単文をクラスタリングする。
また、分類部16は、複数のクラスタの各々に分類された単文に含まれる単語の出現状況に基づいて、複数のクラスタの各々から特徴語を抽出し、抽出した特徴語を、各クラスタに対応付ける。なお、単語の出現状況としては、TF-IDFなどを用いることができる。また、特徴語は、開示の技術の特徴情報及び代表形態素の一例である。
表示制御部18は、テキスト集合における各単文の出現状況に関する指標に基づいて、複数のクラスタの各々に含まれる単文についての指標が、出現頻度が高いことを示す順にクラスタを並べて、表示装置(図示省略)に表示する。
例えば、表示制御部18は、単語モデル24に含まれるIDF値テーブル24Bを参照して、各単文に含まれる各単語のIDF値を取得し、各単文のIDF値ベクトルのノルムを算出する。また、表示制御部18は、クラスタ毎に、そのクラスタに含まれる単文の各々のIDF値ベクトルのノルムの平均を算出する。そして、表示制御部18は、IDF値ベクトルのノルムの平均が小さい順にクラスタをソートし、表示装置に表示する。IDF値ベクトルのノルムの平均が小さいクラスタは、そのクラスタに含まれる単文が、テキスト集合において横断的に出現していることを表しているため、定型表現が分類されたクラスタであると見做すものである。
図11に、表示装置に表示される分類結果画面30の一例を示す。図11の例では、各クラスタを1つの枠で囲み、枠内に、そのクラスタに含まれる単文を表示している。また、各クラスタには、分類部16により、そのクラスタに対応付けられた特徴語を対応付けて表示している。図11では、サーバやネットワークなどのインシデントに関する具体的な内容を示す単文が分類されたクラスタよりも上位に、定型表現が分類されたクラスタが表示されている例を示している。
なお、分類結果画面30は、図11の例に限定されない。例えば、クラスタに対応付けられた特徴語のみをソート順に表示装置に表示し、画面からその特徴語を選択することで、その特徴語が表すクラスタに含まれる単文を表示するような表示形態としてもよい。
分類装置10は、例えば図12に示すコンピュータ40で実現することができる。コンピュータ40は、CPU(Central Processing Unit)41と、一時記憶領域としてのメモリ42と、不揮発性の記憶部43とを備える。また、コンピュータ40は、入力装置、表示装置等の入出力装置44と、記憶媒体49に対するデータの読み込み及び書き込みを制御するR/W(Read/Write)部45とを備える。また、コンピュータ40は、インターネット等のネットワークに接続される通信I/F46を備える。CPU41、メモリ42、記憶部43、入出力装置44、R/W部45、及び通信I/F46は、バス47を介して互いに接続される。
記憶部43は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、フラッシュメモリ等によって実現できる。記憶媒体としての記憶部43には、コンピュータ40を、分類装置10として機能させるための分類プログラム50が記憶される。分類プログラム50は、受付解析プロセス52と、分割プロセス54と、分類プロセス56と、表示制御プロセス58とを有する。また、記憶部43は、分割用辞書22及び単語モデル24を構成する情報が記憶される情報記憶領域60を有する。
CPU41は、分類プログラム50を記憶部43から読み出してメモリ42に展開し、分類プログラム50が有するプロセスを順次実行する。CPU41は、受付解析プロセス52を実行することで、図6に示す受付解析部12として動作する。また、CPU41は、分割プロセス54を実行することで、図6に示す分割部14として動作する。また、CPU41は、分類プロセス56を実行することで、図6に示す分類部16として動作する。また、CPU41は、表示制御プロセス58を実行することで、図6に示す表示制御部18として動作する。また、CPU41は、情報記憶領域60から情報を読み出して、分割用辞書22及び単語モデル24をメモリ42に展開する。これにより、分類プログラム50を実行したコンピュータ40が、分類装置10として機能することになる。なお、プログラムを実行するCPU41はハードウェアである。
なお、分類プログラム50により実現される機能は、例えば半導体集積回路、より詳しくはASIC(Application Specific Integrated Circuit)等で実現することも可能である。
次に、本実施形態に係る分類装置10の作用について説明する。
例えば、システムに関するインシデント対応時のメールなどの文章を含み、インシデント1件における文章の集合を1つの文書とし、文書集合に含まれる各文書を一文のテキストに整形したテキスト集合が、分類装置10へ入力される。そして、分類装置10において、図13に示す分類処理が実行される。なお、分類処理は、開示の技術の分類方法の一例である。
図13に示す分類処理のステップS10で、受付解析部12が、分類装置10に入力されたテキスト集合Sを受け付ける。テキスト集合Sは、テキスト1、テキスト2、・・・、テキストN(Nはテキスト集合Sに含まれるテキストの数)を含む。
次に、ステップS20で、図14に示す分割処理が実行される。
図14に示す分割処理のステップS22で、単文集合Pとして空集合を用意し、次のステップS24で、テキストを識別するための変数sに1を設定する。
次に、ステップS26で、受付解析部12が、テキストsに対して形態素解析を行い、テキストを形態素に分割すると共に、各形態素に属性情報を付与して、テキストsに含まれる各形態素の形態素情報を得る。また、受付解析部12が、形態素解析の結果を用いて、テキストsに対して係り受け解析を行い、文節毎の係り受け関係を解析する。なお、テキストsの文節には、テキストsの先頭から順に、0、1、・・・、mの番号を付与するものとする(mはテキストsの末尾の文節に付与される番号)。
次に、ステップS28で、分割部14が、テキストsの文節を識別するための変数iにmを設定する。
次に、ステップS30で、分割部14が、上記ステップS26で得られた係り受け解析結果に基づいて、文節iに係る文節jが存在するか否かを判定する。文節jが存在する場合には、処理はステップS34へ移行する。文節jが存在しない場合には、処理はステップS32へ移行し、分割部14が、文節i-1、すなわち、文節iの1つ前の文節を新たな文節iに設定し、処理はステップS42へ移行する。
ステップS34では、分割部14が、文節iに係る文節jに、分割用辞書22に定義された形態素情報と合致する形態素情報が含まれるか否かを判定する。含まれる場合には、処理はステップS36へ移行し、含まれない場合には、処理はステップS40へ移行する。
ステップS36では、分割部14が、テキストsを、文節jより後の部分s_1と、文節j以前の部分s_2とに分割する。次に、ステップS38で、分割部14が、部分s_1を単文集合Pに追加すると共に、部分s_2を新たなテキストsに設定する。次に、ステップS40で、分割部14が、文節jを新たな文節iに設定する。
次に、ステップS42で、分割部が、iが0か否かを判定することで、テキストsの先頭まで処理が終了したか否かを判定する。i=0の場合は、処理はステップS44へ移行し、iがまだ0に達していない場合には、処理はステップS30に戻る。
ステップS44では、分割部14が、テキストsを単文集合Pに追加する。これにより、分割が行われたテキストについては、分割後の前半部分が単文集合Pに追加され、分割が行われていないテキストについては、元のテキストがそのまま単文集合Pに追加される。
次に、ステップS46で、受付解析部12が、sがNか否かを判定することにより、受け付けたテキスト集合Sに含まれるテキストの全てについて、上記ステップS26~S44の処理が終了したか否かを判定する。sがまだNに達していない場合には、処理はステップS48へ移行し、受付解析部12がsを1インクリメントして、処理はステップS26に戻る。s=Nの場合には、分割処理は終了して、分類処理に戻る。
次に、図13に示す分類処理のステップS50で、図15に示すクラスタリング処理が実行される。
図15に示すクラスタリング処理のステップS52で、分類部16が、単文集合Pに含まれる各単文を、単語モデル24の単語ベクトルテーブル24Aを用いてベクトル化する。
次に、ステップS54で、分類部16が、各単文の単語ベクトルのコサイン類似度などを用いて、k-meansやsimple linkageなどの従来既知のクラスタリング手法により、各単文をクラスタリングする。
次に、ステップS56で、分類部16が、複数のクラスタの各々に分類された単文に含まれる単語のTF-IDFなどの出現状況を示す指標に基づいて、複数のクラスタの各々から特徴語を抽出し、抽出した特徴語を各クラスタに対応付ける。そして、クラスタリング処理は終了して、分類処理に戻る。
次に、図13に示す分類処理のステップS60で、図16に示す表示制御処理が実行される。
図16に示す表示制御処理のステップS62で、表示制御部18が、単語モデル24に含まれるIDF値テーブル24Bを参照して、各単文に含まれる各単語のIDF値を取得し、各単文のIDF値ベクトルのノルムを算出する。
次に、ステップS64で、表示制御部18が、クラスタ毎に、そのクラスタに含まれる単文の各々のIDF値ベクトルのノルムの平均を算出する。
次に、ステップS66で、表示制御部18が、IDF値ベクトルのノルムの平均が小さい順にクラスタをソートし、例えば、図11に示すような分類結果画面30を表示装置に表示する。そして、表示制御処理は終了し、分類処理も終了する。
以上説明したように、本実施形態に係る分類装置によれば、テキスト集合に含まれる各テキストを、副詞節などの予め定めた形態素情報を含む文節の直後で分割した上で、単語ベクトルのコサイン類似度などに基づいてクラスタリングして分類する。これにより、テキストが複文で、その一部に定型表現を含む場合でも、定型表現を抽出するためのテキストの分類精度を向上させることができる。
また、テキストに含まれる末尾の文節から順に係り受け関係を辿って上記の副詞節などの予め定めた形態素情報を含む文節を特定するため、効率良く分割箇所を特定することができる。
なお、上記実施形態では、クラスタに含まれる単文の各々のIDF値ベクトルのノルムの平均が小さい順にクラスタをソートする場合について説明したが、これに限定されない。例えば、各クラスタに分類された単文の数が多い順にクラスタをソートしてもよい。定型表現は、テキスト集合での出現頻度が高いことが想定されるため、多くの単文が含まれるクラスタは、定型表現が分類されたクラスタであると見做すものである。
また、上記実施形態において、1つのテキストに、分割用辞書に定義された同一の形態素が複数回出現する場合も想定される(例えば、「~の為、~の為、~下さい。」)。このような場合でも、形態素解析時に各形態素に付与した番号により、どの文節にどの番号の形態素が含まれるかを特定可能である。したがって、例えば、1つのテキストに、同一の形態素が含まれる場合であっても、分割用辞書に定義された形態素情報との合致を判定する際に、それらの形態素を識別可能である。
また、上記実施形態では、システムのインシデント対応に関する文書を整形したテキスト集合を入力する場合について説明したが、これに限定されず、開示の技術は、様々な文書に適用可能である。特に、文書内に定型的な表現が多く含まれる文書に対して、開示の技術は有効である。
また、上記実施形態では、分類プログラムが記憶部に予め記憶(インストール)されている態様を説明したが、これに限定されない。開示の技術に係るプログラムは、CD-ROM、DVD-ROM、USBメモリ等の記憶媒体に記憶された形態で提供することも可能である。
以上の実施形態に関し、更に以下の付記を開示する。
(付記1)
複数のテキストを受け付け、
受け付けた前記複数のテキストのうちの何れかのテキストについて、該テキストに含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を取得し、
特定の形態素と、該特定の形態素の属性情報とを含む形態素情報を記憶する記憶部を参照して、取得した前記複数の解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれるか否かの判定を行い、
判定結果が肯定的である場合、前記何れかのテキストを、該何れかのテキストにおける、前記何れかの解析結果情報に含まれる形態素の出現位置に応じた位置で分割して、複数のテキストを生成し、
受け付けた前記複数のテキストのうちの他のテキストと、生成した前記複数のテキストと、を複数のクラスタに分類する、
処理をコンピュータが実行することを特徴とする分類方法。
(付記2)
前記何れかのテキストを係り受け解析して、該何れかのテキストに含まれる複数の文節間の係り受け関係を示す係り受け情報を生成し、
生成した前記係り受け情報に基づき、前記複数の文節のうち、何れかの文節との間に特定の係り受け関係を有する文節を特定し、
取得した前記複数の解析結果情報のうち、特定した前記文節に含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を特定し、
特定した前記解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれる場合、前記何れかのテキストを分割して、前記複数のテキストを生成する、
ことを特徴とする付記1に記載の分類方法。
(付記3)
前記複数のクラスタそれぞれに分類されたテキストに基づき、前記複数のクラスタそれぞれの特徴情報を生成し、
生成した前記特徴情報を、前記複数のクラスタそれぞれに対応付けて表示部に表示する、
ことを特徴とする付記1又は付記2に記載の分類方法。
(付記4)
前記複数のクラスタについて、前記複数のクラスタそれぞれに分類されたテキストと、該テキストに含まれる複数の形態素の、受け付けた前記複数のテキストでの出現状況とに基づき、前記複数のクラスタをそれぞれ代表する複数の代表形態素を決定し、
決定した前記複数の代表形態素それぞれを、前記複数の代表形態素それぞれが代表する複数のクラスタそれぞれに対応付けて前記表示部に表示する、
ことを特徴とする付記3に記載の分類方法。
(付記5)
決定した前記複数の代表形態素それぞれを、前記複数のクラスタそれぞれに分類された前記テキストの数に応じた順序で並べて前記表示部に表示する、
ことを特徴とする付記4に記載の分類方法。
(付記6)
前記複数のテキストにおける各テキストの出現状況に関する指標に基づいて、前記複数のクラスタの各々に含まれるテキストについての前記指標が、出現頻度が高いことを示す順に前記クラスタを並べて前記表示部に表示する
ことを特徴とする付記3~付記5のいずれか1項に記載の分類方法。
(付記7)
複数のテキストを受け付ける受付部と、
前記受付部により受け付けられた前記複数のテキストのうちの何れかのテキストについて、該テキストに含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を取得する取得部と、
特定の形態素と、該特定の形態素の属性情報とを含む形態素情報を記憶する記憶部を参照して、前記取得部により取得された前記複数の解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれるか否かを判定する判定部と、
前記判定部による判定結果が肯定的である場合、前記何れかのテキストを、該何れかのテキストにおける、前記何れかの解析結果情報に含まれる形態素の出現位置に応じた位置で分割して、複数のテキストを生成する生成部と、
前記受付部により受け付けられた前記複数のテキストのうちの他のテキストと、前記生成部により生成された前記複数のテキストと、を複数のクラスタに分類する分類部と、
を含むことを特徴とする分類装置。
(付記8)
前記取得部は、前記何れかのテキストを係り受け解析して、該何れかのテキストに含まれる複数の文節間の係り受け関係を示す係り受け情報を取得し、
前記判定部は、前記取得部により取得された前記係り受け情報に基づき、前記複数の文節のうち、何れかの文節との間に特定の係り受け関係を有する文節を特定し、前記取得部により取得された前記複数の解析結果情報のうち、特定した前記文節に含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を特定し、
前記生成部は、前記判定部により特定された前記解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれる場合、前記何れかのテキストを分割して、前記複数のテキストを生成する、
ことを特徴とする付記7に記載の分類装置。
(付記9)
前記分類部は、前記複数のクラスタそれぞれに分類されたテキストに基づき、前記複数のクラスタそれぞれの特徴情報を生成し、
前記分類部により生成された前記特徴情報を、前記複数のクラスタそれぞれに対応付けて表示部に表示する表示制御部を更に含む、
ことを特徴とする付記7又は付記8に記載の分類装置。
(付記10)
前記分類部は、前記複数のクラスタについて、前記複数のクラスタそれぞれに分類されたテキストと、該テキストに含まれる複数の形態素の、受け付けた前記複数のテキストでの出現状況とに基づき、前記複数のクラスタをそれぞれ代表する複数の代表形態素を決定し、
前記表示制御部は、前記分類部により決定された前記複数の代表形態素それぞれを、前記複数の代表形態素それぞれが代表する複数のクラスタそれぞれに対応付けて前記表示部に表示する、
ことを特徴とする付記9に記載の分類装置。
(付記11)
前記表示制御部は、前記分類部により決定された前記複数の代表形態素それぞれを、前記複数のクラスタそれぞれに分類された前記テキストの数に応じた順序で並べて前記表示部に表示する、
ことを特徴とする付記10に記載の分類装置。
(付記12)
前記表示制御部は、前記複数のテキストにおける各テキストの出現状況に関する指標に基づいて、前記複数のクラスタの各々に含まれるテキストについての前記指標が、出現頻度が高いことを示す順に前記クラスタを並べて前記表示部に表示する
ことを特徴とする付記9~付記11のいずれか1項に記載の分類装置。
(付記13)
複数のテキストを受け付け、
受け付けた前記複数のテキストのうちの何れかのテキストについて、該テキストに含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を取得し、
特定の形態素と、該特定の形態素の属性情報とを含む形態素情報を記憶する記憶部を参照して、取得した前記複数の解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれるか否かの判定を行い、
判定結果が肯定的である場合、前記何れかのテキストを、該何れかのテキストにおける、前記何れかの解析結果情報に含まれる形態素の出現位置に応じた位置で分割して、複数のテキストを生成し、
受け付けた前記複数のテキストのうちの他のテキストと、生成した前記複数のテキストと、を複数のクラスタに分類する、
処理をコンピュータに実行させることを特徴とする分類プログラム。
(付記14)
前記何れかのテキストを係り受け解析して、該何れかのテキストに含まれる複数の文節間の係り受け関係を示す係り受け情報を生成し、
生成した前記係り受け情報に基づき、前記複数の文節のうち、何れかの文節との間に特定の係り受け関係を有する文節を特定し、
取得した前記複数の解析結果情報のうち、特定した前記文節に含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を特定し、
特定した前記解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれる場合、前記何れかのテキストを分割して、前記複数のテキストを生成する、
ことを特徴とする付記13に記載の分類プログラム。
(付記15)
前記複数のクラスタそれぞれに分類されたテキストに基づき、前記複数のクラスタそれぞれの特徴情報を生成し、
生成した前記特徴情報を、前記複数のクラスタそれぞれに対応付けて表示部に表示する、
ことを特徴とする付記13又は付記14に記載の分類プログラム。
(付記16)
前記複数のクラスタについて、前記複数のクラスタそれぞれに分類されたテキストと、該テキストに含まれる複数の形態素の、受け付けた前記複数のテキストでの出現状況とに基づき、前記複数のクラスタをそれぞれ代表する複数の代表形態素を決定し、
決定した前記複数の代表形態素それぞれを、前記複数の代表形態素それぞれが代表する複数のクラスタそれぞれに対応付けて前記表示部に表示する、
ことを特徴とする付記15に記載の分類プログラム。
(付記17)
決定した前記複数の代表形態素それぞれを、前記複数のクラスタそれぞれに分類された前記テキストの数に応じた順序で並べて前記表示部に表示する、
ことを特徴とする付記16に記載の分類プログラム。
(付記18)
前記複数のテキストにおける各テキストの出現状況に関する指標に基づいて、前記複数のクラスタの各々に含まれるテキストについての前記指標が、出現頻度が高いことを示す順に前記クラスタを並べて前記表示部に表示する
ことを特徴とする付記15~付記17のいずれか1項に記載の分類プログラム。
(付記19)
複数のテキストを受け付け、
受け付けた前記複数のテキストのうちの何れかのテキストについて、該テキストに含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を取得し、
特定の形態素と、該特定の形態素の属性情報とを含む形態素情報を記憶する記憶部を参照して、取得した前記複数の解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれるか否かの判定を行い、
判定結果が肯定的である場合、前記何れかのテキストを、該何れかのテキストにおける、前記何れかの解析結果情報に含まれる形態素の出現位置に応じた位置で分割して、複数のテキストを生成し、
受け付けた前記複数のテキストのうちの他のテキストと、生成した前記複数のテキストと、を複数のクラスタに分類する、
処理をコンピュータに実行させることを特徴とする分類プログラムを記憶した記憶媒体。
10 分類装置
12 受付解析部
14 分割部
16 分類部
18 表示制御部
24 単語モデル
24A 単語ベクトルテーブル
24B IDF値テーブル
30 分類結果画面
40 コンピュータ
41 CPU
42 メモリ
43 記憶部
49 記憶媒体
50 分類プログラム

Claims (8)

  1. 複数のテキストを受け付け、
    受け付けた前記複数のテキストのうちの何れかのテキストについて、該テキストに含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を取得し、
    特定の形態素と、該特定の形態素の属性情報とを含む形態素情報を記憶する記憶部を参照して、取得した前記複数の解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれるか否かの判定を行い、
    判定結果が肯定的である場合、前記何れかのテキストを、該何れかのテキストにおける、前記何れかの解析結果情報に含まれる形態素の出現位置に応じた位置で分割して、複数のテキストを生成し、
    受け付けた前記複数のテキストのうちの他のテキストと、生成した前記複数のテキストと、を複数のクラスタに分類する、
    処理をコンピュータが実行することを特徴とする分類方法。
  2. 前記何れかのテキストを係り受け解析して、該何れかのテキストに含まれる複数の文節間の係り受け関係を示す係り受け情報を生成し、
    生成した前記係り受け情報に基づき、前記複数の文節のうち、何れかの文節との間に特定の係り受け関係を有する文節を特定し、
    取得した前記複数の解析結果情報のうち、特定した前記文節に含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を特定し、
    特定した前記解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれる場合、前記何れかのテキストを分割して、前記複数のテキストを生成する、
    ことを特徴とする請求項1に記載の分類方法。
  3. 前記複数のクラスタそれぞれに分類されたテキストに基づき、前記複数のクラスタそれぞれの特徴情報を生成し、
    生成した前記特徴情報を、前記複数のクラスタそれぞれに対応付けて表示部に表示する、
    ことを特徴とする請求項1又は請求項2に記載の分類方法。
  4. 前記複数のクラスタについて、前記複数のクラスタそれぞれに分類されたテキストと、該テキストに含まれる複数の形態素の、受け付けた前記複数のテキストでの出現状況とに基づき、前記複数のクラスタをそれぞれ代表する複数の代表形態素を決定し、
    前記特徴情報として、決定した前記複数の代表形態素それぞれを、前記複数の代表形態素それぞれが代表する複数のクラスタそれぞれに対応付けて前記表示部に表示する、
    ことを特徴とする請求項3に記載の分類方法。
  5. 決定した前記複数の代表形態素それぞれを、前記複数のクラスタそれぞれに分類された前記テキストの数に応じた順序で並べて前記表示部に表示する、
    ことを特徴とする請求項4に記載の分類方法。
  6. 記複数のクラスタの各々に含まれるテキストについての前記複数のテキストにおける出現状況に関する指標の平均が、出現頻度が高いことを示す順に前記クラスタを並べて前記表示部に表示する
    ことを特徴とする請求項3~請求項5のいずれか1項に記載の分類方法。
  7. 複数のテキストを受け付ける受付部と、
    前記受付部により受け付けられた前記複数のテキストのうちの何れかのテキストについて、該テキストに含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を取得する取得部と、
    特定の形態素と、該特定の形態素の属性情報とを含む形態素情報を記憶する記憶部を参照して、前記取得部により取得された前記複数の解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれるか否かを判定する判定部と、
    前記判定部による判定結果が肯定的である場合、前記何れかのテキストを、該何れかのテキストにおける、前記何れかの解析結果情報に含まれる形態素の出現位置に応じた位置で分割して、複数のテキストを生成する生成部と、
    前記受付部により受け付けられた前記複数のテキストのうちの他のテキストと、前記生成部により生成された前記複数のテキストと、を複数のクラスタに分類する分類部と、
    を含むことを特徴とする分類装置。
  8. 複数のテキストを受け付け、
    受け付けた前記複数のテキストのうちの何れかのテキストについて、該テキストに含まれる形態素と、該形態素の属性情報との組をそれぞれが含む複数の解析結果情報を取得し、
    特定の形態素と、該特定の形態素の属性情報とを含む形態素情報を記憶する記憶部を参照して、取得した前記複数の解析結果情報のうちの何れかの解析結果情報に、前記形態素情報に含まれる前記特定の形態素と、該特定の形態素の属性情報との組が含まれるか否かの判定を行い、
    判定結果が肯定的である場合、前記何れかのテキストを、該何れかのテキストにおける、前記何れかの解析結果情報に含まれる形態素の出現位置に応じた位置で分割して、複数のテキストを生成し、
    受け付けた前記複数のテキストのうちの他のテキストと、生成した前記複数のテキストと、を複数のクラスタに分類する、
    処理をコンピュータに実行させることを特徴とする分類プログラム。
JP2018123998A 2018-06-29 2018-06-29 分類方法、装置、及びプログラム Active JP7131130B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018123998A JP7131130B2 (ja) 2018-06-29 2018-06-29 分類方法、装置、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018123998A JP7131130B2 (ja) 2018-06-29 2018-06-29 分類方法、装置、及びプログラム

Publications (2)

Publication Number Publication Date
JP2020004157A JP2020004157A (ja) 2020-01-09
JP7131130B2 true JP7131130B2 (ja) 2022-09-06

Family

ID=69100013

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018123998A Active JP7131130B2 (ja) 2018-06-29 2018-06-29 分類方法、装置、及びプログラム

Country Status (1)

Country Link
JP (1) JP7131130B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114510923B (zh) * 2022-01-12 2023-08-15 平安科技(深圳)有限公司 基于人工智能的文本主题生成方法、装置、设备及介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001229177A (ja) 2000-02-16 2001-08-24 Mitsubishi Electric Corp 事例ベース構築方法、事例ベース構築装置及び事例ベース構築プログラムを記録した記録媒体
JP2007241901A (ja) 2006-03-10 2007-09-20 Univ Of Tsukuba 意思決定支援システム及び意思決定支援方法
JP2007304642A (ja) 2006-05-08 2007-11-22 Nippon Hoso Kyokai <Nhk> 文書データ分類装置及び文書データ分類プログラム
JP2008234670A (ja) 1998-12-24 2008-10-02 Ricoh Co Ltd 文書分類装置、文書分類方法およびそれらの方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
WO2008146456A1 (ja) 2007-05-28 2008-12-04 Panasonic Corporation 情報探索支援方法および情報探索支援装置
JP2011248491A (ja) 2010-05-25 2011-12-08 Nec Corp 情報分類装置、情報分類方法および情報分類プログラム
JP2012073804A (ja) 2010-09-28 2012-04-12 Toshiba Corp キーワード提示装置、方法及びプログラム
US20120246100A1 (en) 2009-09-25 2012-09-27 Shady Shehata Methods and systems for extracting keyphrases from natural text for search engine indexing
JP2015135637A (ja) 2014-01-17 2015-07-27 Kddi株式会社 ストーリーを持つ文章間の類似度を導出する類似検索プログラム、装置及び方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10240536A (ja) * 1997-02-27 1998-09-11 Mitsubishi Electric Corp 事例検索装置及び事例検索方法並びに事例ベース構築装置及び事例ベース構築方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008234670A (ja) 1998-12-24 2008-10-02 Ricoh Co Ltd 文書分類装置、文書分類方法およびそれらの方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2001229177A (ja) 2000-02-16 2001-08-24 Mitsubishi Electric Corp 事例ベース構築方法、事例ベース構築装置及び事例ベース構築プログラムを記録した記録媒体
JP2007241901A (ja) 2006-03-10 2007-09-20 Univ Of Tsukuba 意思決定支援システム及び意思決定支援方法
JP2007304642A (ja) 2006-05-08 2007-11-22 Nippon Hoso Kyokai <Nhk> 文書データ分類装置及び文書データ分類プログラム
WO2008146456A1 (ja) 2007-05-28 2008-12-04 Panasonic Corporation 情報探索支援方法および情報探索支援装置
US20120246100A1 (en) 2009-09-25 2012-09-27 Shady Shehata Methods and systems for extracting keyphrases from natural text for search engine indexing
JP2011248491A (ja) 2010-05-25 2011-12-08 Nec Corp 情報分類装置、情報分類方法および情報分類プログラム
JP2012073804A (ja) 2010-09-28 2012-04-12 Toshiba Corp キーワード提示装置、方法及びプログラム
JP2015135637A (ja) 2014-01-17 2015-07-27 Kddi株式会社 ストーリーを持つ文章間の類似度を導出する類似検索プログラム、装置及び方法

Also Published As

Publication number Publication date
JP2020004157A (ja) 2020-01-09

Similar Documents

Publication Publication Date Title
JP7139728B2 (ja) 分類方法、装置、及びプログラム
JP7100747B2 (ja) 学習データ生成方法および装置
CN102576358B (zh) 单词对取得装置、单词对取得方法及其程序
KR101136007B1 (ko) 문서 감성 분석 시스템 및 그 방법
US20060241936A1 (en) Pronunciation specifying apparatus, pronunciation specifying method and recording medium
JP2011118689A (ja) 検索方法及びシステム
JP3765799B2 (ja) 自然言語処理装置、自然言語処理方法及び自然言語処理プログラム
JP2019082931A (ja) 検索装置、類似度算出方法、およびプログラム
JP4534666B2 (ja) テキスト文検索装置及びテキスト文検索プログラム
US20050273316A1 (en) Apparatus and method for translating Japanese into Chinese and computer program product
JP2020113129A (ja) 文書評価装置、文書評価方法及びプログラム
JP2005301856A (ja) 文書検索方法、文書検索プログラムおよびこれを実行する文書検索装置
JP2005122510A (ja) 話題構造抽出方法及び装置及び話題構造抽出プログラム及び話題構造抽出プログラムを記録したコンピュータ読み取り可能な記憶媒体
JP4325370B2 (ja) 文書関連語彙獲得装置及びプログラム
JP7131130B2 (ja) 分類方法、装置、及びプログラム
JP5447368B2 (ja) 新規事例生成装置、新規事例生成方法及び新規事例生成用プログラム
KR20050033852A (ko) 문서 분류 장치, 스타일 지정적 고정 패턴 생성 장치,입력 문서 분류 방법, 메모리 장치 또는 매체
JP3471253B2 (ja) 文書分類方法、文書分類装置、および文書分類プログラムを記録した記録媒体
JP7227705B2 (ja) 自然言語処理装置、検索装置、自然言語処理方法、検索方法およびプログラム
KR20220041336A (ko) 중요 키워드 추천 및 핵심 문서를 추출하기 위한 그래프 생성 시스템 및 이를 이용한 그래프 생성 방법
KR20220041337A (ko) 유사어로 검색어 갱신 및 핵심 문서를 추출하기 위한 그래프 생성 시스템 및 이를 이용한 그래프 생성 방법
JP4314271B2 (ja) 単語間関連度算出装置、単語間関連度算出方法及び単語間関連度算出プログラム並びにそのプログラムを記録した記録媒体
JP2001101184A (ja) 構造化文書生成方法及び装置及び構造化文書生成プログラムを格納した記憶媒体
CN113330430A (zh) 语句结构向量化装置、语句结构向量化方法及语句结构向量化程序
JP6309852B2 (ja) 強調位置予測装置、強調位置予測方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210310

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220808

R150 Certificate of patent or registration of utility model

Ref document number: 7131130

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150