JP7034015B2 - 選択装置、学習装置、抽出装置、選択方法、学習方法、抽出方法、選択プログラム、学習プログラム、および抽出プログラム - Google Patents

選択装置、学習装置、抽出装置、選択方法、学習方法、抽出方法、選択プログラム、学習プログラム、および抽出プログラム Download PDF

Info

Publication number
JP7034015B2
JP7034015B2 JP2018117093A JP2018117093A JP7034015B2 JP 7034015 B2 JP7034015 B2 JP 7034015B2 JP 2018117093 A JP2018117093 A JP 2018117093A JP 2018117093 A JP2018117093 A JP 2018117093A JP 7034015 B2 JP7034015 B2 JP 7034015B2
Authority
JP
Japan
Prior art keywords
text
importance
learning
sentence
partial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018117093A
Other languages
English (en)
Other versions
JP2019219932A (ja
Inventor
隼人 小林
立 日暮
一真 村尾
毅司 増山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yahoo Japan Corp
Original Assignee
Yahoo Japan Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yahoo Japan Corp filed Critical Yahoo Japan Corp
Priority to JP2018117093A priority Critical patent/JP7034015B2/ja
Publication of JP2019219932A publication Critical patent/JP2019219932A/ja
Application granted granted Critical
Publication of JP7034015B2 publication Critical patent/JP7034015B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

特許法第３０条第２項適用 平成３０年５月２２日発行の２０１８年度人工知能学会全国大会（第３２回）大会論文集（ｈｔｔｐｓ：／／ｗｗｗ．ａｉ－ｇａｋｋａｉ．ｏｒ．ｊｐ／ｊｓａｉ２０１８／ｐｒｏｃｅｅｄｉｎｇｓ）に発表
本発明は選択装置、学習装置、抽出装置、選択方法、学習方法、抽出方法、選択プログラム、学習プログラム、および抽出プログラムに関する。
従来、テキストの解析を行う技術が知られている。このような解析技術の一例として、複数のテキストの中から、特徴が各テキストの特徴に最も近いテキストを代表のテキストとして抽出し、抽出したテキストの理解を容易にするため、抽出したテキストの補完を行う技術が知られている。
特開２０１３－２３２０９８号公報
しかしながら、従来技術では、複数のテキストを有する文章の中から、見出しとなるテキストを適切に抽出することができない恐れがある。
例えば、複数のテキストを含む文章のサムネイルやタイトルといった見出しとして、文章に含まれるテキストのうち代表的なテキストを抽出したいという要望が考えられる。しかしながら、文章に含まれる各テキストは、挨拶となるテキストや主文となるテキストが混在すると考えられる。このため、従来技術のように、特徴が各テキストの特徴に最も近いテキストを代表のテキストとして抽出した場合は、文章に含まれるテキストのうち、見出しとして適切なテキストを抽出することができない場合がある。
本願は、上記に鑑みてなされたものであって、見出しとなるテキストの抽出精度を改善することを目的とする。
本願に係る選択装置は、処理対象となる対象文章から抽出された複数の部分テキストを取得する取得部と、学習データとなる学習文章から抽出された複数の部分テキストのそれぞれについて当該学習文章における重要性を学習したモデルを用いて、前記取得部により取得された複数の部分テキストのうち、前記対象文章における重要性がより高い部分テキストを選択する選択部とを有することを特徴とする。
実施形態の一態様によれば、見出しとなるテキストの抽出精度を改善する。
図１は、実施形態に係る情報提供装置が実行する処理の一例を示す図である。 図２は、実施形態に係る情報提供装置がテキスト範囲を拡張する処理の一例を示す図である。 図３は、実施形態に係る情報提供装置がテキスト領域に含まれるテキストを部分テキストとする処理の一例を示す図である。 図４は、実施形態に係る情報提供装置の構成例を示す図である。 図５は、実施形態に係る学習データデータベースに登録される情報の一例を示す図である。 図６は、実施形態に係る情報提供装置が実行する抽出処理の流れの一例を示すフローチャートである。 図７は、実施形態に係る情報提供装置が実行する学習処理の流れの一例を示すフローチャートである。 図８は、実施形態に係る情報提供装置が実行する選択処理の流れの一例を示すフローチャートである。 図９は、ハードウェア構成の一例を示す図である。
以下に、本願に係る選択装置、学習装置、抽出装置、選択方法、学習方法、抽出方法、選択プログラム、学習プログラム、および抽出プログラムを実施するための形態（以下、「実施形態」と呼ぶ）について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る選択装置、学習装置、抽出装置、選択方法、学習方法、抽出方法、選択プログラム、学習プログラム、および抽出プログラムが限定されるものではない。また、各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
［実施形態］
〔１．情報提供装置の概要について〕
まず、図１を用いて、選択装置、学習装置および抽出装置の一例である情報提供装置が実行する処理の一例について説明する。図１は、実施形態に係る情報提供装置が実行する処理の一例を示す図である。図１では、情報提供装置１０は、以下に説明する選択処理、学習処理および抽出処理を実行する情報処理装置であり、例えば、サーバ装置やクラウドシステム等により実現される。
例えば、情報提供装置１０は、インターネット等の所定のネットワークＮ（例えば、図２参照）を介して、端末装置１００、配信装置２００、および生成装置３００と通信可能である。なお、情報提供装置１０は、任意の数の端末装置１００、配信装置２００、および生成装置３００と通信可能であってよい。
端末装置１００は、スマートフォンやタブレット等のスマートデバイス、ＰＣ（Personal Computer）等、各種の情報処理装置により実現される。例えば、端末装置１００は、各種の情報の投稿若しくは投稿された情報の表示を行う機能を有する。
配信装置２００は、端末装置１００を介して投稿された各種の情報を配信する機能を有する情報処理装置であり、サーバ装置やクラウドシステムにより実現される。例えば、配信装置２００は、利用者から質問に関する投稿を受付けると、受付けた投稿を他の利用者に提供し、他の利用者から質問に対する回答を受付けると、受付けた回答を質問を行った利用者に対して提供するサービス、すなわち、Ｑ＆Ａ（Question And Answer）サービスを提供する。なお、配信装置２００が提供するサービスは、Ｑ＆Ａサービスに限定されるものではなく、利用者から受付けた投稿を他の利用者に対して提供するものであれば、任意のサービスが適用可能である。
生成装置３００は、後述する学習処理において用いられる学習データを生成する装置であり、サーバ装置やクラウドシステムにより実現される。例えば、生成装置３００は、情報提供装置１０から情報を受付けると、クラウドソージングにより情報に対するラベルの付与を行い、ラベルが付与された情報を学習データとして情報提供装置１０へと提供する機能を有する。すなわち、生成装置３００は、クラウドソージングに関するサービスを提供する提供者が使用する端末装置である。
〔１－１．投稿の提供について〕
ここで、配信装置２００は、Ｑ＆Ａサービス等、利用者から投稿された情報を他の利用者に配信するサービスを提供する。このようなサービスにおいては、タイトルやサムネイル等、本文の内容を示唆する情報（すなわち、見出し）の登録を受付けるものと、投稿の手間を省くため、本文の登録のみを受付けるものとが存在する。
ここで、本文の登録のみを受付けるサービスにおいては、本文から抽出された所定の文字列（すなわち、テキスト）が、本文の内容を示唆する見出しとして抽出され、抽出した情報を見出しとして表示される場合がある。例えば、従来技術では、本文の先頭２０文字が見出しとして抽出し、利用者に対して抽出された見出しを送信する。そして、従来技術では、見出しのうち利用者が選択した見出しと対応する本文を利用者に対して配信する。
〔１－２．情報提供装置が実行する処理について〕
しかしながら、複数のテキストを有する文章の中から、見出しとなるテキストを適切に抽出するのは困難である。例えば、従来技術のように、文章の先頭から所定の文字数のテキストを見出しとして抽出された場合、挨拶等、文章の内容とはあまり関係が無いテキストを抽出する恐れがある。
そこで、情報提供装置１０は、以下の抽出処理を実行する。まず、情報提供装置１０は、文章から所定の条件を満たす複数の単語を選択する。また、情報提供装置１０は、選択された単語を含む範囲を設定し、範囲に含まれるテキストの重要性であって、文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、設定された範囲を拡張する。そして、情報提供装置１０は、拡張された範囲に含まれるテキストのうち、重要性が所定の条件を満たすテキストを、文章の内容を示すテキストの候補、すなわち、見出しの候補として抽出する。
また、情報提供装置１０は、以下の学習処理を実行する。まず、情報提供装置１０は、学習データとなる学習文章から抽出された複数の部分テキスト（すなわち、スニペット）を取得する。例えば、情報提供装置１０は、上述した抽出処理により学習文章から抽出されたテキストの候補を部分テキストとして取得する。そして、情報提供装置１０は、複数の部分テキストのそれぞれについて学習文章における重要性をモデルに学習させる。
また、情報提供装置１０は、以下の選択処理を実行する。まず、情報提供装置１０は、処理対象となる対象文章から抽出された複数の部分テキストを取得する。例えば、情報提供装置１０は、上述した抽出処理により対象文章から抽出されたテキストを見出しの候補である部分テキストとして取得する。そして、情報提供装置１０は、学習データとなる学習文章から抽出された複数の部分テキストのそれぞれについて学習文章における重要性を学習したモデル、すなわち、上述した学習処理により学習が行われたモデルを用いて、取得された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを見出しとして選択する。
〔１－３．処理の一例について〕
以下、図１を用いて、情報提供装置１０が実行する各処理の一例について説明する。まず、配信装置２００は、端末装置１００から利用者が入力した文章を投稿情報として受付ける（ステップＳ１）。このような場合、配信装置２００は、投稿情報を学習文章として情報提供装置１０に提供する（ステップＳ２）。なお、配信装置２００は、投稿情報を他の利用者に対して提供する処理を並行して実行してもよい。
このような場合、情報提供装置１０は、学習文章から部分テキストの抽出を行う（ステップＳ３）。より具体的には、情報提供装置１０は、学習文章から、学習文章の内容を示すテキストの候補、すなわち、学習文章の見出しの候補である部分テキストの抽出を行う。
〔１－３－１．抽出処理の一例について〕
ここで、情報提供装置１０は、任意の手法を用いて、学習文章から部分テキストの抽出を行ってもよい。例えば、情報提供装置１０は、句読点、クエスチョンマーク、エクスクラメーションマーク等といった分の末尾に配置される文末表現で学習文章を分割し、分割された各文章を部分テキストとして採用してもよい。また、情報提供装置１０は、分割された各文章のうち先頭から所定の数の文字（例えば、２０文字）を含む文字列を抽出し、抽出した文字列を部分テキストとしてもよい。また、情報提供装置１０は、各種の文章解析技術を用いて、文章の区切りを特定し、特定した区切りで学習文章を分割することで、部分テキストの抽出を行ってもよい。
さらに、情報提供装置１０は、上述した抽出処理を実行することで、学習文章から部分テキストの抽出を行ってもよい。例えば、情報提供装置１０は、ＣＲＦ（Conditional Random Fields）等の技術を用いて形態素解析を行い、学習文章に含まれる各単語を特定する。続いて、情報提供装置１０は、特定した各単語から、所定の条件を満たす複数の単語を選択する。例えば、情報提供装置１０は、名詞、動詞、形容詞、感動詞、接続詞、副詞等、所定の品詞を選択してもよい。また、例えば、情報提供装置１０は、ＴＦ－ＩＤＦ（Term Frequency-Inverse Document Frequency）のスコアを単語ごとに算出し、算出したスコアが所定の閾値を超える単語、すなわち、学習文章において統計的な重要性が所定の閾値を超える単語を選択してもよい。
続いて、情報提供装置１０は、学習文章のうち、選択された単語を含む範囲をテキスト範囲ＴＡとして設定する。そして、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストの重要性が高くなるように、設定されたテキスト範囲ＴＡを徐々に拡張する。例えば、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストの統計的な重要性が高くなるように、テキスト範囲ＴＡを拡張する。また、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストが所定の文章構造を有するように、テキスト範囲ＴＡを拡張する。
ここで、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストの重要性として、学習文章に含まれるテキストの統計的な解析結果に基づく重要性を特定し、特定した重要性が高くなるように、テキスト範囲ＴＡを徐々に拡張する。ここで、学習文章に含まれるテキストの統計的な解析結果に基づく重要性とは、例えば、同一若しくは類似する文字列の出現回数や出現頻度等、部分テキストの抽出対象となる文章における統計的な数値に基づいて特定される重要性である。なお、情報提供装置１０は、例えば、テキストの分散表現に基づいて、テキストの重要性を推定し、推定した重要性が高くなるように、テキスト範囲ＴＡを徐々に拡張してもよい。すなわち、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストが元の文章の一部若しくは全体と類似しているか否かを示す各種の指標に基づいて、テキスト範囲ＴＡに含まれるテキストの重要性を特定するのであれば、任意の指標を用いて、重要性を特定して良い。例えば、情報提供装置１０は、文字列の類似性や意味の類似性等を示す各種の指標であって、統計的に抽出可能な指標であれば任意の指標に基づいて、テキスト範囲ＴＡに含まれるテキストの重要性を特定して良い。
例えば、情報提供装置１０は、学習文章に含まれるテキストの出現頻度に基づく重要性が高くなるように、テキスト範囲ＴＡを拡張する。また、情報提供装置１０は、キーワード抽出に基づくスコア又はＴＦ－ＩＤＦに基づくスコアに基づいて、テキスト範囲ＴＡに含まれるテキストの重要性を特定し、特定した重要性が高くなるように、テキスト範囲ＴＡを拡張する。
例えば、図２は、実施形態に係る情報提供装置がテキスト範囲を拡張する処理の一例を示す図である。例えば、情報提供装置１０は、学習文章から単語＃１－１を選択した場合、単語＃１－１を含むテキスト範囲ＴＡ１を設定する。そして、情報提供装置１０は、テキスト範囲ＴＡ１の学習文章における重要度を算出する。
例えば、情報提供装置１０は、テキスト範囲ＴＡ１に含まれるテキストと同一または類似するテキストの出現回数、出現頻度、テキスト範囲ＴＡ１に含まれるテキストの文字数、文章全体の文字数に対するテキスト範囲ＴＡ１に含まれるテキストの文字数の割合等に基づいて、テキスト範囲ＴＡ１に含まれるテキストの重要度を示すスコアを算出する。例えば、情報提供装置１０は、ＴＦ－ＩＤＦスコアを算出する。
また、情報提供装置１０は、キーワード抽出の技術を用いて、テキスト範囲ＴＡ１が学習文章におけるキーワードを含んでいるかを推定する。そして、情報提供装置１０は、キーワードを含んでいるか否か、含まれるキーワードの学習文章における重要性等に基づいて、テキスト範囲ＴＡ１に含まれるテキストの重要度を示すキーワードスコアを算出する。例えば、情報提供装置１０は、キーワードが含まれている場合や、より重要なキーワードが含まれている場合に、より高い値のキーワードスコアを算出する。
そして、情報提供装置１０は、ＴＦ－ＩＤＦスコアとキーワードスコアとに基づいて、統計スコアを算出する。例えば、情報提供装置１０は、ＴＦ－ＩＤＦスコアとキーワードスコアとの和を統計スコアとして算出する。なお、情報提供装置１０は、学習文章における重要度であって、統計的な情報に基づく重要度を示すスコアであれば、上述したＴＦ－ＩＤＦスコアやキーワードスコア以外にも、任意のスコアに基づいて統計スコアを算出してよい。
また、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストが所定の文章構造を有するか否かを判定する。例えば、情報提供装置１０は、テキスト範囲ＴＡ１に所定の品詞が所定の順番で含まれているか否かを判定する。より具体的な例を挙げると、情報提供装置１０は、名詞と品詞とが所定の順番で含まれているか否かを判定する。そして、情報提供装置１０は、テキスト範囲ＴＡ１に含まれるテキストの文章構造に応じた文章構造スコアをテキスト範囲ＴＡ１に付与する。例えば、情報提供装置１０は、所定の文章構造により近い構造を有するテキスト範囲ＴＡ１に対し、より高い値の文章構造スコアを付与する。
そして、情報提供装置１０は、統計スコアや文章構造スコアに基づく重要度を算出し、算出した重要度がより高い値となるように、テキスト範囲ＴＡを拡張する。例えば、情報提供装置１０は、テキスト範囲ＴＡ１に対し、テキスト範囲ＴＡ１と隣接するテキストを加えることで、テキスト範囲ＴＡ１を拡張する。そして、情報提供装置１０は、拡張後のテキスト範囲ＴＡ１についても重要度を算出し、拡張前の重要度よりも拡張後の重要度の方が高くなる場合には、拡張後のテキスト範囲ＴＡを新たなテキスト範囲ＴＡとする。
例えば、情報提供装置１０は、図２のステップＳ２１に示すように、単語＃１－１のみを含むテキスト範囲ＴＡ１の文章構造スコアおよび統計スコアを算出する。そして、例えば、情報提供装置１０は、テキスト範囲ＴＡ１に対し、文章構造スコア「１０」、および統計スコア「１０」を付与する。このような場合、情報提供装置１０は、文章構造スコアと統計スコアとの和である「２０」を重要度としてテキスト範囲ＴＡ１に付与する。
続いて、情報提供装置１０は、図２のステップＳ２２に示すように、テキスト範囲ＴＡ１の範囲を拡張し、拡張したテキスト範囲ＴＡ１に含まれるテキストについて、文章構造スコアと統計スコアとを算出する。例えば、図２に示す例では、情報提供装置１０は、拡張したテキスト範囲ＴＡ１に対し、文章構造スコア「３０」と統計スコア「４０」とを付与する。この結果、情報提供装置１０は、テキスト範囲ＴＡ１に対し重要度「７０」を付与することとなる。
ここで、図２に示す例では、拡張前のテキスト範囲ＴＡ１よりも拡張後のテキスト範囲ＴＡ１の重要度の方が高い。このような場合、情報提供装置１０は、拡張後のテキスト範囲ＴＡ１を新たなテキスト範囲ＴＡ１として採用する。そして、情報提供装置１０は、新たなテキスト範囲ＴＡ１をさらに拡張し、重要度が向上するか否かを判定する。このような処理を繰り返し実行することで、情報提供装置１０は、テキスト範囲ＴＡ１に含まれるテキストの、学習文章における重要性が向上するように、テキスト範囲ＴＡ１を拡張することができる。
また、情報提供装置１０は、新たなテキスト範囲ＴＡ１の重要度が所定の条件を満たした場合には、図２のステップＳ２３に示すように、テキスト範囲ＴＡ１に含まれるテキストを部分テキスト＃１として抽出する。例えば、情報提供装置１０は、単語＃１－１以外にも、所定の条件を満たす単語について上述した処理を行い、複数のテキスト範囲ＴＡを設定する。また、情報提供装置１０は、テキスト範囲ＴＡごとに重要度を算出し、算出した重要度が高くなるように、各テキスト範囲ＴＡを拡張する。そして、情報提供装置１０は、各テキスト範囲ＴＡのうち、重要度が高い方から順に所定の数のテキスト範囲ＴＡを選択し、選択したテキスト範囲ＴＡに含まれるテキストをそれぞれ部分テキストとして抽出する。
なお、情報提供装置１０は、学習文章内において連続しないテキストを含む部分テキストを生成してもよい。例えば、情報提供装置１０は、複数のテキスト範囲ＴＡを含むテキスト領域ＴＲを設定し、テキスト領域ＴＲのうち、テキスト領域ＴＲに含まれる複数のテキスト範囲ＴＡの重要性が所定の条件を満たすテキスト領域ＴＲを特定する。そして、情報提供装置１０は、特定したテキスト領域ＴＲに含まれるテキストを、学習文章の内容を示すテキストの候補として抽出してもよい。また、情報提供装置１０は、テキスト領域ＴＲに含まれるテキストのうち、テキスト範囲ＴＡに含まれるテキスト以外のテキストを、テキストの省略を示す所定のテキストやタイポグラフィに置き換えたテキストを生成し、生成したテキストを部分テキストとして抽出してもよい。
例えば、図３は、実施形態に係る情報提供装置がテキスト領域に含まれるテキストを部分テキストとする処理の一例を示す図である。例えば、情報提供装置１０は、図３のステップＳ３１に示すように、単語＃２－１を含むテキスト範囲ＴＡ２－１を設定し、単語＃２－２を含むテキスト範囲ＴＡ２－２を設定する。そして、情報提供装置１０は、テキスト範囲ＴＡ２－１とテキスト範囲ＴＡ２－２とが所定の条件を満たす場合は、図３のステップＳ３２に示すように、テキスト範囲ＴＡ２－１とテキスト範囲ＴＡ２－２とを含むテキスト領域ＴＲを設定する。
例えば、情報提供装置１０は、テキスト範囲ＴＡ２－１とテキスト範囲ＴＡ２－２との距離を算出する。例えば、情報提供装置１０は、テキスト範囲ＴＡ２－１の先頭となる文字からテキスト範囲ＴＡ２－２の先頭となる文字までの間に存在する文字数を算出する。そして、情報提供装置１０は、算出した文字数が所定の閾値を下回る場合は、テキスト範囲ＴＡ２－１とテキスト範囲ＴＡ２－２とを含むテキスト領域ＴＲを設定する。なお、情報提供装置１０は、テキスト範囲ＴＡ２－１に含まれるテキストと、テキスト範囲ＴＡ２０２に含まれるテキストとの学習文章内における関連度を算出し、算出される関連度が所定の閾値を超える場合に、テキスト領域ＴＲを設定してもよい。また、情報提供装置１０は、テキスト範囲ＴＡ２－１に含まれるテキストと、テキスト範囲ＴＡ２－２に含まれるテキストとの文字の一致度が所定の閾値を下回る場合に、テキスト領域ＴＲを設定してもよい。
続いて、情報提供装置１０は、図３のステップＳ３３に示すように、各テキスト範囲ＴＡ２－１、ＴＡ２－２ごとに、各テキスト範囲ＴＡ２－１、ＴＡ２－２に含まれるテキストの統計的な重要性が高くなるように、各テキスト範囲ＴＡ２－１、ＴＡ２－２を拡張する。例えば、情報提供装置１０は、図２に示す処理をテキスト範囲ごとに実行することで、各テキスト範囲ＴＡ２－１、ＴＡ２－２を拡張してもよい。また、情報提供装置１０は、各テキスト範囲ＴＡ２－１、ＴＡ２－２の重要度の和をテキスト領域ＴＲの重要度として算出し、テキスト領域ＴＲの重要度が高くなるように、各テキスト範囲ＴＡ２－１、ＴＡ２－２を拡張してもよい。
そして、情報提供装置１０は、テキスト領域ＴＲの重要度が所定の閾値を超える場合は、図３のステップＳ３４に示すように、テキスト領域ＴＲに含まれるテキストを部分テキストとして抽出する。例えば、情報提供装置１０は、テキスト範囲ＴＡ２－１に含まれる部分テキスト＃２－１と、テキスト範囲ＴＡ２－２に含まれる部分テキスト＃２－２との間に、テキストの省略を示す三点リーダを挿入した部分テキスト＃２を生成する。なお、情報提供装置１０は、部分テキスト＃２－１の前や、部分テキスト＃２－２の後に三点リーダを挿入してもよい。
なお、後述する説明で明らかとなるように、抽出された部分テキストの中から、抽出元となる学習文章の見出しが選択される。このため、情報提供装置１０は、部分テキストを学習文章の見出しの候補として抽出することとなる。
ここで、情報提供装置１０は、上述した処理を組み合わせて実行してもよい。例えば、情報提供装置１０は、学習文章から複数の単語を選択し、選択した単語ごとにテキスト範囲ＴＡを設定するとともに、複数のテキスト範囲ＴＡを含むテキスト領域ＴＲを設定する。ここで、情報提供装置１０は、重複するテキスト領域ＴＲを設定してもよい。例えば、情報提供装置１０は、単語＃２－１および単語＃２－２を含むテキスト領域ＴＲと、単語＃２－２および単語＃２－３を含むテキスト領域ＴＲとを設定してもよい。
そして、情報提供装置１０は、各テキスト範囲ＴＡの重要度と各テキスト領域ＴＲの重要度とが最大化するように、各テキスト領域ＴＡを拡張してもよい。すなわち、情報提供装置１０は、テキスト範囲ＴＡおよびテキスト領域ＴＲの最適化を行ってもよい。その後、情報提供装置１０は、テキスト範囲ＴＡおよびテキスト領域ＴＲのうち、重要度が高い方から順に所定の数のテキスト範囲ＴＡ若しくはテキスト領域ＴＲを選択し、選択したテキスト範囲ＴＡ若しくはテキスト領域ＴＲに含まれるテキストを部分テキストとして抽出してもよい。
また、情報提供装置１０は、各テキスト範囲ＴＡの近さに応じた重みを考慮してもよい。例えば、情報提供装置１０は、テキスト範囲ＴＡ２－１とテキスト範囲ＴＡ２－２との距離が所定の閾値を下回る場合は、テキスト範囲ＴＡ２－１とテキスト範囲ＴＡ２－２との重要度を低下させてもよい。すなわち、情報提供装置１０は、テキスト範囲ＴＡが近すぎる場合には、重要度に対するペナルティを設定してもよい。また、情報提供装置１０は、文末表現により分割された各文章から１つのテキスト範囲ＴＡのみ、若しくは、１つのテキスト領域ＴＲを設定してもよい。
なお、情報提供装置１０は、任意の文章について上述した抽出処理を実行して良い。例えば、後述する説明で明らかとなるように、情報提供装置１０は、見出しの選択対象となる対象文章について、上述した抽出処理を実行することで、見出しの候補となる部分テキストを抽出する。
〔１－３－２．学習処理の一例について〕
図１に戻り、説明を続ける。情報提供装置１０は、部分テキストの抽出を行った場合、学習文章と学習文章から抽出した部分テキストとを生成装置３００へと提供する（ステップＳ４）。このような場合、生成装置３００は、部分テキストのうち学習文章の見出しとして適切な部分テキストを特定する。より具体的には、生成装置３００は、クラウドソージングを用いて、学習文章における部分テキストの重要性を特定する（ステップＳ５）。
例えば、生成装置３００は、学習文章と、その学習文章から抽出された複数の部分テキストとを複数の利用者に提供し、複数の部分テキストのうち、学習文章の見出しとして適切な部分テキストの選択を受付ける。そして、生成装置３００は、選択結果に応じて、各部分テキストが見出しとして適切であるか否かを示す見出しスコアを付与する。例えば、生成装置３００は、見出しとして適切であると選択された回数を見出しスコアとして各部分テキストに付与する。そして、生成装置３００は、各見出しスコアを情報提供装置１０に提供する。この結果、情報提供装置１０は、見出しスコアを取得することとなる（ステップＳ６）。
続いて、情報提供装置１０は、取得した見出しスコアを用いて、学習処理を実行する。例えば、情報提供装置１０は、学習データとなる学習文章から抽出された複数の部分テキストを取得する。そして、情報提供装置１０は、複数の部分テキストのそれぞれについて学習文章における重要性をモデルに学習させる。すなわち、情報提供装置１０は、学習文章における各部分テキストの相対的な重要性をモデルに学習させる（ステップＳ７）。例えば、情報提供装置１０は、学習文章から抽出された部分テキストのペアを複数生成し、生成したペアに含まれる部分テキストのうちどちらの重要性がより高いかをモデルに学習させる。
以下、学習処理の具体例について説明する。例えば、情報提供装置１０は、複数の学習文章について、上述した抽出処理を実行し、部分テキストの抽出を行う。そして、情報提供装置１０は、学習文章とその学習文章から抽出された部分テキストとの組を生成装置３００に送信し、各部分テキストについて、その部分テキストの抽出元となる学習文章における重要性を示す見出しスコアを取得する。
続いて、情報提供装置１０は、ランク学習により、各部分テキストの相対的な重要性をモデルに学習させる。例えば、情報提供装置１０は、ＳＶＭ（Support Vector Machine）やＤＮＮ（Deep Neural Network）等といった任意の分類器をモデルとして生成する。ここで、ＤＮＮは、ＣＮＮ（Convolutional Neural Network）やＲＮＮ（Recurrent Neural Network）であってもよい。また、ＲＮＮは、ＬＳＴＭ（Long short-term memory）等であってもよい。
すなわち、情報提供装置１０は、任意の形式のモデルの学習を行ってよい。また、情報提供装置１０は、例えば、ＣＮＮとＲＮＮとを組み合わせたモデル等、複数のモデルを組み合わせることで実現されるモデルの学習を行ってもよい。また、情報提供装置１０は、プレトレーニングとして、利用者が投稿するテキストの特徴等、任意の特徴を学習したモデルを用いてもよい。
続いて、情報提供装置１０は、同一の学習文章から抽出された部分テキストのペアを複数生成し、生成したペアに含まれる部分テキストのうちどちらの重要性がより高いかをモデルに学習させる。すなわち、情報提供装置１０は、ペアワイズ法を用いて、同一の学習文章から抽出された複数の部分テキストの重要性の順位をモデルに学習させるランク学習を実行する。
ここで、情報提供装置１０が実行するランク学習について説明する。例えば、ランク学習は、検索ランキングの最適化に用いられる手法であり、検索クエリをｑ、検索対象となる文章をｘ、検索クエリｑに対する文章ｘの適合度をｙとし、ｑ、ｘ、ｙの三つ組みの集合が与えられた場合に、検索結果を提示するための最適なランキングを学習する手法である。情報提供装置１０は、このようなランク学習において、学習文章をｑ、その学習文章の見出し候補の選択肢、すなわち、その学習文章から抽出された部分テキストをｘ、各部分テキストに対して付与された見出しスコアをｙとして、ランク学習を行う。
例えば、情報提供装置１０は、複数の三つ組みのデータ（ｘ，ｙ，ｑ）をデータＤとして生成する。そして、情報提供装置１０は、データＤに含まれる三つ組みのペア（（ｘｉ，ｙｉ，ｑｉ），（ｘｊ，ｙｊ，ｑｊ））を生成し、生成したペアから、ｑｉ＝ｑｊかつｙｉ＞ｙｊとなる三つ組みのペアを抽出する。このようなペアは、以下の式（１）で定義される。
Figure 0007034015000001
そして、情報提供装置１０は、抽出した三つ組みのペアが有する特徴をモデルに学習させる。より具体的には、情報提供装置１０は、式（１）におけるＰを用いて、以下の式（２）で定義される最適化問題を解くことで、ランク学習を実現する。ここで、式（２）におけるｗは、学習させるモデルの重みベクトルである。また、式（２）におけるチルダ付のｘｉは、部分テキストｘｉから抽出された特徴量である。なお、情報提供装置１０は、ＴＦ－ＩＤＦや分散表現に基づくベクトル、任意の手法により抽出された特徴量を採用してよい。また、式（２）における、Ｃは、正則化パラメータである。また、式（２）におけるｌは、二重ヒンジ損失であり、式（３）で定義される。
Figure 0007034015000002
Figure 0007034015000003
なお、例えば、情報提供装置１０は、モデルに対して部分テキストｘｉと部分テキストｘｊとを入力した際に、部分テキストｘｉの方が見出しスコアが高い旨の情報を出力するように、バックプロパゲーション等の学習手法を用いて、モデルの学習を行ってもよい。また、情報提供装置１０は、３つ以上の部分テキストが入力された場合に、各部分テキストの重要性の順位、すなわち見出しスコアの順位を示す情報を出力するように、モデルの学習を行ってもよい。このような処理の結果、情報提供装置１０は、同一の文章に含まれる複数の部分テキストが入力された場合に、各部分テキストの重要性の順位を出力するモデルを生成することができる。
〔１－３－３．選択処理の一例について〕
続いて、情報提供装置１０が実行する選択処理について説明する。例えば、配信装置２００は、端末装置１００から投稿情報を受付ける（ステップＳ８）。一方、配信装置２００は、投稿情報を選択処理の対象となる対象文章として情報提供装置１０に提供する（ステップＳ９）。このような場合、情報提供装置１０は、対象文章から部分テキストの抽出を行う（ステップＳ１０）。例えば、情報提供装置１０は、対象文章に対して上述した抽出処理を実行することで、対象文章から抽出された部分テキストであって、統計的な解析結果に基づく重要性が所定の条件を満たすと判断された部分テキストを抽出する。
例えば、情報提供装置１０は、対象文章から所定の条件を満たす複数の単語を選択し、選択された単語を含むテキスト範囲ＴＡを設定し、テキスト範囲ＴＡに含まれるテキストの重要性であって、対象文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、テキスト範囲ＴＡを拡張する。また、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストが所定の文章構造を有するように、テキスト範囲ＴＡを拡張する。
また、情報提供装置１０は、対象文章に含まれるテキストの出現頻度に基づく重要性が高くなるように、テキスト範囲ＴＡを拡張する。また、例えば、情報提供装置１０は、キーワード抽出に基づくスコア又はＴＦ－ＩＤＦに基づく統計スコアに基づいて、テキスト範囲ＴＡに含まれるテキストの重要性を特定し、特定した重要性が高くなるように、各テキスト範囲ＴＡを拡張する。そして、情報提供装置１０は、拡張されたテキスト範囲ＴＡに含まれるテキストのうち、重要性が所定の条件を満たすテキストを、部分テキストとして取得する。
なお、情報提供装置１０は、複数のテキスト範囲ＴＡを含むテキスト領域ＴＲを設定し、テキスト領域ＴＲのうち、テキスト領域ＴＲに含まれる複数のテキスト範囲ＴＡの重要性が所定の条件を満たすテキスト領域ＴＲを特定し、特定したテキスト領域ＴＲに含まれるテキストを、部分テキストとして取得してもよい。また、情報提供装置１０は、テキスト領域ＴＲに含まれるテキストのうち、複数のテキスト範囲ＴＡに含まれるテキスト以外のテキストを、テキストの省略を示す所定のテキストやタイポグラフィに置き換えたテキストを、部分テキストとして取得してもよい。ここで、情報提供装置１０は、部分テキストを、対象文章の見出しの候補として取得する。
そして、情報提供装置１０は、対象文章から抽出された部分テキストを取得した場合は、学習データとなる学習文章から抽出された複数の部分テキストのそれぞれについて学習文章における重要性を学習したモデル、すなわち、上述した学習処理により学習が行われたモデルを用いて、取得された複数の部分テキストのうち、対象文章における重要性が最も高い部分テキストを選択する（ステップＳ１１）。
例えば、情報提供装置１０は、学習処理によって学習が行われたモデルに対し、対象文章から抽出された各部分テキストの特徴量を入力する。そして、情報提供装置１０は、モデルの出力に基づいて、対象文章における各部分テキストの相対的な重要性の順位を特定する。例えば、情報提供装置１０は、部分テキストの組を生成し、生成した組ごとに特徴量をモデルに入力することで、各組に含まれる部分テキストの重要性の順位を組ごとに特定する。そして、情報提供装置１０は、組ごとに特定した重要性の順位に基づいて、対象文章における各部分テキストの相対的な重要性の順位を特定する。そして、情報提供装置１０は、部分テキストのうち最も重要性が高い部分テキストを見出しとして選択する。
すなわち、情報提供装置１０は、モデルとして、同一の学習文章から抽出された複数の部分テキストの重要性の順位を学習したモデルを用いて、取得された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。また、情報提供装置１０は、モデルとして、同一の学習文章から抽出された部分テキストの相対的な重要性を学習したモデルを用いて、対象文章から取得された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。
また、情報提供装置１０は、モデルとして、同一の学習文章から抽出された部分テキストのペアのうちどちらの重要性がより高いかを学習したモデルを用いて、対象文章から取得された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。また、情報提供装置１０は、モデルとして、複数の学習文章について、同一の学習文章から抽出された部分テキストのペアのうちどちらの重要性がより高いかを学習したモデルを用いて、対象文章から取得された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。
そして、情報提供装置１０は、選択した部分テキストを対象文章の見出しとして配信装置２００に登録する（ステップＳ１２）。このような処理の結果、情報提供装置１０は、適切なテキストを対象文章の見出し、すなわち、代表となるテキストとして選択することができる。
例えば、上述した選択処理を実行した場合、情報提供装置１０は、対象文章に含まれるテキストから見出しとなるテキストを抽出することとなる。このように、利用者が投稿したテキストから見出しとなるテキストを抽出した場合、不明瞭なテキストを抽出する可能性を低下させることができる。例えば、ＤＮＮ等を用いて、利用者が投稿したテキストの特徴量から見出しとなるテキストを生成した場合、意味が不明瞭なテキストが生成される可能性がある。しかしながら、情報提供装置１０は、対象文章に含まれる文字列から見出しとなる文字列を抽出するので、文字列が示す意味が不明瞭となる可能性を低下させることができる。
また、情報提供装置１０は、単に学習文章や対象文章（以下、単に「文章」と総称する場合がある。）を文末表現で分割するのではなく、ボトムアップ形式で文章に含まれるテキストから見出しの候補となる部分テキストを抽出する。例えば、情報提供装置１０は、単語から所定の単語を選択し、選択した単語を含むテキスト範囲ＴＡを設定し、設定したテキスト範囲ＴＡに含まれるテキストの重要性であって、抽出元となる文章における相対的な重要性を、抽出元となる文章における統計的な解析結果に基づく重要性を特定する。そして、情報提供装置１０は、特定された重要性がより高くなるように、テキスト範囲ＴＡを徐々に拡張し、テキスト範囲ＴＡのうち、重要性が所定の要件を満たすテキスト範囲ＴＡに含まれるテキストを部分テキストとして抽出する。
この結果、情報提供装置１０は、挨拶や定型文等といったテキストではなく、文章におけるキーワードを含むテキスト等、見出しとして適切である可能性が高いテキストを見出しの候補である部分テキストとして抽出することができる。このため、情報提供装置１０は、見出しが有する特徴をモデルに学習させる精度を向上させるとともに、対象文章から抽出される見出しの精度を向上させることができる。
また、情報提供装置１０は、複数のテキスト範囲ＴＡを含むテキスト領域ＴＲを設定し、テキスト領域ＴＲに含まれるテキストを部分テキストとして抽出する。この結果、例えば、情報提供装置１０は、見出しとして適切な部分が長い場合であっても、その部分を部分テキストとして抽出することができる。また、例えば、情報提供装置１０は、テキスト領域ＴＲに含まれるテキストのうち、テキスト範囲ＴＡに含まれるテキストを、三点リーダ等、文章の省略を示すテキストやタイポグラフィで接続した部分テキストを抽出する。すなわち、情報提供装置１０は、テキスト領域ＴＲに含まれるテキストのうち、重要性が高いテキストを示す部分テキストを抽出する。このため、情報提供装置１０は、見出しとして適切な部分が長い場合であっても、利用者が認識しやすい形式で見出しの抽出を行うことができる。
また、情報提供装置１０は、学習文章が有する特徴をモデルに学習させるのではなく、学習文章から抽出された部分テキストの学習文章における重要性をモデルに学習させる。このような結果、情報提供装置１０は、対象文章から抽出された部分テキストのうち見出しとして適切な部分テキストを選択するためのモデルを適切に学習することができる。
例えば、同一のテキスト若しくは類似のテキストであっても、そのテキストが含まれる文章の内容によっては、重要度が変化することが考えられる。しかしながら、情報提供装置１０は、部分テキストそのものの重要性（すなわち、一般的な重要性）をモデルに学習させるのではなく、同一の学習文章から抽出された複数の部分テキストの重要性であって、その学習文章における重要性をモデルに学習させる。すなわち、情報提供装置１０は、同一の文章から抽出された複数の部分テキストについて、その文章における相対的な重要性をモデルに学習させる。このような処理の結果、情報提供装置１０は、文章から抽出された部分テキストのうちどの部分テキストがその文章における代表的なテキストであるか、すなわち、その文章の見出しとして相応しいかをモデルに学習させることができるので、適切な見出しを抽出するためのモデルを適切に学習させることができる。
〔１－４．抽出処理について〕
上述した情報提供装置１０は、文章から部分テキストの抽出を行った。ここで、情報提供装置１０は、上述した抽出手法を組み合わせてもよい。例えば、情報提供装置１０は、文章を複数のエリアに分割し、分割したエリアごとに異なる手法で部分テキストの抽出を行ってもよい。例えば、情報提供装置１０は、文章のうち先頭の数文については、テキスト範囲ＴＡを徐々に拡張することで部分テキストを抽出し、文章の中央部分の数分については、文末表現で分割した部分テキストを抽出してもよい。
また、情報提供装置１０は、三点リーダ以外にも、アンダーバーやハイフン等、任意のテキストやタイポグラフィを省略を示すテキストとして抽出してもよい。また、情報提供装置１０は、省略を示すテキストを含めず、テキスト領域ＴＲに含まれる全てのテキストを部分テキストとしてもよい。
また、情報提供装置１０は、テキスト範囲ＴＡやテキスト領域ＴＲに含まれる文字数に制限を設定してもよい。例えば、情報提供装置１０は、２０文字以内となるように、テキスト範囲ＴＡを設定してもよい。また、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストの数が所定の閾値以下となる場合や所定の閾値以上となる場合（例えば、５文字以下もしくは１５文字以上となる場合）は、重要度にペナルティを付してもよい。
また、情報提供装置１０は、重複が現れるように部分テキストの抽出を行ってもよい。例えば、情報提供装置１０は、ある部分テキストと異なる部分テキストとが重複するように、部分テキストの抽出を行ってもよい。
〔１－５．学習処理について〕
上述した情報提供装置１０は、同じ学習文章から抽出された部分テキストの重要性の順序をモデルに学習させた。ここで、情報提供装置１０は、同じ学習文章における部分テキストの重要性の順序を学習させるのであれば、任意の形式で、重要性の順序を学習させてよい。例えば、情報提供装置１０は、部分テキストのペアを生成し、各ペアにおいてどちらの部分テキストの重要性が高いかを学習させてもよい。また、情報提供装置１０は、複数の部分テキストの組を生成し、各組における部分テキストの重要性の順位をモデルに学習させてもよい。また、情報提供装置１０は、全ての部分テキストを入力した際に、各部分テキストの重要性の順位を出力するように、モデルの学習を行わせてもよい。
〔１－６．処理の適用対象について〕
上述した情報提供装置１０は、利用者が投稿した投稿情報について、上述した抽出処理、学習処理、および選択処理を実行した。ここで、情報提供装置１０は、投稿情報以外にも、任意の文章について、各処理を実行してもよい。
例えば、情報提供装置１０は、歌詞に対して上述した各種の処理を実行し、新たな楽曲の歌詞の見出し（すなわち、歌詞の抜粋）を選択してもよい。すなわち、情報提供装置１０は、文章に予め付与された標題とは異なり、文章中から一部のテキストを「見出し」として選択するのであれば、任意のテキストデータについて上述した処理を実行して良い。
〔１－７．装置構成について〕
なお、情報提供装置１０は、複数の装置が連携して動作することで、実現されてもよい。例えば、情報提供装置１０は、上述した抽出処理を実行する抽出装置と、上述した学習処理を実行する学習装置と、上述した選択処理を実行する選択装置により実現されてもよい。すなわち、上述した抽出処理、学習処理および選択処理は、それぞれ独立に実行されてもよく、連携した状態で実行されてもよい。
なお、情報提供装置１０は、抽出処理により対象文章から抽出された複数の部分テキストを見出しの候補とし、クラウドソージングの技術等を用いて、見出しの候補から見出しとするテキストを選択してもよい。このような処理を行う場合であっても、情報提供装置１０は、見出しとして適切な可能性が高いテキストを部分テキストとして抽出することができるので、見出しの精度を向上させることができる。
〔２．情報提供装置が有する機能構成の一例について〕
以下、上記した検出処理および配信処理を実現する情報提供装置１０が有する機能構成の一例について説明する。図４は、実施形態に係る情報提供装置の構成例を示す図である。図４に示すように、情報提供装置１０は、通信部２０、記憶部３０、および制御部４０を有する。
通信部２０は、例えば、ＮＩＣ（Network Interface Card）等によって実現される。そして、通信部２０は、ネットワークＮと有線または無線で接続され、任意の装置との間での情報の送受信を行う。
記憶部３０は、例えば、ＲＡＭ（Random Access Memory)、フラッシュメモリ（Flash Memory）等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現されてる。また、記憶部３０は、学習データデータベース３１およびモデルデータベース３２を記憶する。
学習データデータベース３１には、モデルの学習に用いる学習データが登録される。例えば、図５は、実施形態に係る学習データデータベースに登録される情報の一例を示す図である。図５に示すように、学習データデータベースには、「テキストＩＤ（Identifier）」、「テキストデータ」、「部分テキストＩＤ」、「シード単語」、「部分テキストデータ」、および「重要度」といった項目を有する情報が登録される。
ここで、「テキストＩＤ」、学習データとなる文章の識別子、すなわち、学習文章の識別子である。また、「テキストデータ」、とは、学習文章のテキストデータである。また、「部分テキストＩＤ」、とは、対応付けられた学習文章から抽出された部分テキストを識別する識別子である。また、「シード単語」とは、部分テキストを抽出する際に選択された単語、すなわち、拡張前のテキスト範囲ＴＡに含まれる単語である。また、「部分テキストデータ」とは、部分テキストのテキストデータである。また、「重要度」とは、対応付けられた部分テキストの、対応付けられた学習文章における重要度であり、例えば、見出しスコアである。
なお、図５に示す例では、「テキストデータ＃Ｔ１」、「単語＃１－１」、「部分テキストデータ＃ＴＡ１」といった概念的な値を記載したが、実際には、学習文章のテキストのデータや単語のテキスト等が登録されることとなる。また、図５に示す例では、「重要度＃ＴＡ１」といった概念的な値を記載したが、実際には、重要度の数値が登録されることとなる。また、図５に示す情報以外にも、学習データデータベース３１には、学習データに関する任意の情報が登録されていてよい。
例えば、図５に示す例では、テキストＩＤ「Ｔ１」、テキストデータ「テキストデータ＃Ｔ１」、部分テキストＩＤ「ＴＡ１」、シード単語「単語＃１」、部分テキストデータ「部分テキストデータ＃ＴＡ１」、および重要度「重要度ＴＡ＃１」が対応付けて登録されている。このような情報は、テキストＩＤ「Ｔ１」が示す学習文章のテキストデータが「テキストデータ＃Ｔ１」、である旨を示す。また、このような情報は、「テキストデータ＃Ｔ１」から、部分テキストＩＤ「ＴＡ１」が示す部分テキストが選択されており、この部分テキストが、シード単語「単語＃１」からテキスト範囲ＴＡを徐々に拡張することで選択されたテキストである旨を示す。また、このような情報は、部分テキストＩＤ「ＴＡ１」が示す部分テキストのテキストデータが「部分テキストデータ＃ＴＡ１」であり、重要度が「重要度ＴＡ＃１」である旨を示す。
図４に戻り、説明を続ける。モデルデータベース３２には、文章から抽出された複数の部分テキストの重要性であって、抽出元となる文章における重要性の順序を学習したモデルが登録される。例えば、モデルデータベース３２には、上述した学習処理により学習が行われたモデルが登録される。
制御部４０は、コントローラ（controller）であり、例えば、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processing Unit）等のプロセッサによって、情報提供装置１０内部の記憶装置に記憶されている各種プログラムがＲＡＭ等を作業領域として実行されることにより実現される。また、制御部４０は、コントローラ（controller）であり、例えば、ＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等の集積回路により実現されてもよい。
図４に示すように、制御部４０は、学習ユニット５０、抽出ユニット６０、および選択ユニット７０を有する。学習ユニット５０は、上述した学習処理を実行する。また、抽出ユニット６０は、上述した抽出処理を実行する。また、選択ユニット７０は、上述した選択処理を実行する。
例えば、学習ユニット５０は、第１取得部５１、および学習部５２を有する。また、抽出ユニット６０は、第１選択部６１、設定部６２、拡張部６３、および抽出部６４を有する。また、選択ユニット７０は、第２取得部７１、第２選択部７２、および提供部７３を有する。
第１取得部５１は、学習データとなる学習文章から抽出された複数の部分テキストを取得する。より具体的には、第１取得部５１は、複数の学習文章から抽出された複数の部分テキストを取得する。例えば、第１取得部５１は、配信装置２００から学習文章を取得する。そして、第１取得部５１は、抽出ユニット６０に学習文章を提供する。このような場合、抽出ユニット６０は、上述した抽出処理を実行することで学習文章から部分テキストを通出する。
続いて、第１取得部５１は、抽出ユニット６０によって抽出された部分テキストと、学習文章とを対応付けて生成装置３００に送信する。この結果、生成装置３００は、各部分テキストに対して見出しスコアを付与し、情報提供装置１０に対して提供する。その後、第１取得部５１は、抽出ユニット６０によって抽出された部分テキストと、学習文章と、見出しスコアとを対応付けて学習データデータベース３１に登録する。また、第１取得部５１は、たの学習文章についても同様の処理を行い、部分テキストを取得する。
学習部５２は、複数の部分テキストのそれぞれについて学習文章における重要性をモデルに学習させる。より具体的には、学習部５２は、同一の学習文章から抽出された複数の部分テキストの重要性の順位をモデルに学習させる。また、学習部５２は、部分テキストの相対的な重要性をモデルに学習させる。
例えば、学習部５２は、ペアワイズ法を用いて、学習データデータベース３１に登録されている部分テキストのペアを生成する。より具体的には、学習部５２は、同一の学習文章から抽出された部分テキストのペアを全ての組み合わせについて生成する。そして、学習部５２は、各組み合わせについて、どちらの部分テキストの重要性がより高いかをモデルに学習させる。
例えば、学習部５２は、部分テキスト＃１の見出しスコアよりも部分テキスト＃２の見出しスコアの方が大きい場合、部分テキスト＃１の特徴量と部分テキスト＃２の特徴量とをモデルに入力した際に、部分テキスト＃１よりも部分テキスト＃２の重要性の方が高い旨を示す値を出力ようモデルの学習を行う。なお、学習部５２は、部分テキストのペアではなく、例えば、３つ以上の部分テキストの組について、学習文章における重要性の順序をモデルに学習させてもよい。
また、学習部５２は、生成した各ペアについても同様の処理を実行することで、同一の学習文章から抽出された複数の部分テキストの重要性であって、その学習文章における重要性の順序をモデルに学習させることができる。その後、学習部５２は、学習したモデルをモデルデータベース３２に登録する。
第１選択部６１は、対象文章や学習文章から所定の条件を満たす複数の単語を選択する単語選択部である。例えば、第１選択部６１は、選択ユニット７０から対象文章を取得した場合や、学習ユニット５０から学習文章を取得した場合は、以下の処理を実行する。まず、第１選択部６１は、取得した文章の形態素解析等を実行し、文章に含まれる各単語を特定する。そして、第１選択部６１は、特定した単語の中から所定の条件を満たす単語をシード単語として特定する。
例えば、第１選択部６１は、ＴＦ－ＩＤＦスコアが所定の閾値を超える単語、所定の品位の単語等、文章における統計的な解析結果に基づく重要度が所定の閾値を超える単語を選択する。なお、第１選択部６１は、各単語の距離、文末表現により分割される各文章に含まれる単語の数等に基づいて、単語の選択を行ってもよい。
設定部６２は、選択された単語を含む範囲を設定する。例えば、設定部６２は、文章のうち第１選択部６１によって選択されたシード単語を含むテキスト範囲ＴＡを設定する。また、設定部６２は、複数のテキスト範囲ＴＡを含むテキスト領域ＴＲを設定する。例えば、設定部６２は、距離が所定の閾値以下となる複数のテキスト範囲ＴＡを含むテキスト領域ＴＲを設定してもよい。
拡張部６３は、テキスト範囲ＴＡに含まれるテキストの重要性であって、文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、テキスト範囲ＴＡを拡張する。また、拡張部６３は、テキスト範囲ＴＡに含まれるテキストが所定の文章構造を有するように、テキスト範囲ＴＡを拡張する。また、拡張部６３は、文章に含まれるテキストの出現頻度に基づく重要性が高くなるように、テキスト範囲ＴＡを拡張する。例えば、拡張部６３は、キーワード抽出に基づくスコア又はＴＦ－ＩＤＦに基づくスコアに基づいて、テキスト範囲ＴＡに含まれるテキストの重要性を特定し、特定した重要性が高くなるように、各範囲を拡張する。
例えば、拡張部６３は、テキスト範囲ＴＡに含まれるテキストについて、ＴＦ－ＩＤＦスコアやキーワード抽出に基づくスコア等に基づいて、統計スコアを算出する。また、拡張部６３は、テキスト範囲ＴＡに含まれているテキストが有する文章構造に基づいて、文章構造スコアを算出する。そして、拡張部６３は、統計スコアと文章構造スコアとから重要度を算出する。なお、拡張部６３は、テキスト範囲ＴＡ同士の距離に基づくペナルティ等をさらに考慮した重要度を算出してもよい。
また、拡張部６３は、テキスト範囲ＴＡを所定の条件に基づいて拡張し、拡張後のテキスト範囲ＴＡの重要度を算出する。そして、拡張部６３は、拡張後のテキスト範囲ＴＡの重要度が、拡張前のテキスト範囲ＴＡの重要度を超えている場合は、拡張後のテキスト範囲ＴＡを新たなテキスト範囲ＴＡとして採用する。また、拡張部６３は、上述した処理を繰り返し実行する。
抽出部６４は、拡張されたテキスト範囲ＴＡに含まれるテキストのうち、重要性が所定の条件を満たすテキストを、文章の内容を示すテキストの候補、すなわち、見出しの候補である部分テキストとして抽出する。また、抽出部６４は、テキスト領域ＴＲのうち、内包される複数のテキスト範囲ＴＡの重要性が所定の条件を満たすテキスト領域ＴＲを特定し、特定したテキスト領域ＴＲに含まれるテキストを、文章の内容を示すテキストの候補、すなわち部分テキストとして抽出する。また、抽出部６４は、テキスト領域Ｔｒに含まれるテキストのうち、複数のテキスト範囲ＴＡに含まれるテキスト以外のテキストを、テキストの省略を示す所定のテキストやタイポグラフィに置き換えたテキストを、文章の内容を示すテキストの候補として抽出する。
例えば、抽出部６４は、テキスト範囲ＴＡ若しくはテキスト領域ＴＲから、重要度が高い方から順に所定の数のテキスト範囲ＴＡ若しくはテキスト領域ＴＲを選択する。そして、抽出部６４は、文章のうち、選択されたテキスト範囲ＴＡ若しくはテキスト領域ＴＲに含まれるテキストを部分テキストとして抽出する。ここで、抽出部６４は、テキスト領域ＴＲに含まれるテキストを抽出する場合、テキスト領域ＴＲに含まれるテキスト範囲ＴＡを特定し、特定したテキスト範囲ＴＡに含まれるテキストを抽出する。そして、抽出部６４は、抽出したテキストの前後に三点リーダ等、テキストの省略を示すテキストやタイポグラフィを付加したテキストを生成し、生成したテキストをテキスト領域ＴＲに含まれるテキストとする。
第２取得部７１は、対象文章から抽出された複数の部分テキストを取得する。例えば、第２取得部７１は、配信装置２００から対象文章を取得すると、取得した対象文章を抽出ユニット６０に提供し、対象文章から部分テキストを抽出させる。すなわち、第２取得部７１は、拡張されたテキスト範囲ＴＡに含まれるテキストのうち、重要性が所定の条件を満たすテキストを、部分テキストとして取得する。
また、第２取得部７２は、テキスト領域ＴＲのうち、内包される複数のテキスト範囲ＴＡの重要性が所定の条件を満たすテキスト領域ＴＲに含まれるテキストを、部分テキストとして取得する。例えば、第２取得部７２は、テキスト領域ＴＲに含まれるテキストのうち、複数のテキストＴＡ範囲に含まれるテキスト以外のテキストを、テキストの省略を示す所定のテキストやタイポグラフィに置き換えたテキストを、部分テキストとして取得する。
第２選択部７２は、学習文章から抽出された複数の部分テキストのそれぞれについて学習文章における重要性を学習したモデルを用いて、対象文章から抽出された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する選択部である。より具体的には、第２選択部７２は、対象文章の見出しとして、部分テキストの中から重要性がより高い部分テキストを選択する。例えば、第２選択部７２は、同一の学習文章から抽出された複数の部分テキストの重要性の順位を学習したモデルを用いて、対象文章から抽出された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。
また、第２選択部７２は、同一の学習文章から抽出された部分テキストの相対的な重要性を学習したモデルを用いて、対象文章から抽出された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。また、第２選択部７２は、同一の学習文章から抽出された部分テキストのペアのうちどちらの重要性がより高いかを学習したモデルを用いて、対象文章から抽出された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。また、第２選択部７２は、複数の学習文章について、同一の学習文章から抽出された部分テキストのペアのうちどちらの重要性がより高いかを学習したモデルを用いて、対象文章から抽出された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。
例えば、第２選択部７２は、モデルデータベース３２から学習ユニット５０により学習が行われたモデルを読み出す。また、第２選択部７２は、対象文章から抽出された部分テキストの特徴量を生成し、生成した特徴量をモデルに入力することで、各部分テキストの重要性の順序を推定する。例えば、部分テキストの特徴量のペアを入力された際にいずれの部分テキストの重要性がより高いかを出力するようにモデルが学習されている場合、第２選択部７２は、対象文章から抽出された部分テキストのペアを生成し、生成したペアごとに部分テキストの特徴量をモデルに入力することで、各ペアごとに、部分テキストの相対的な重要性の関係を特定する。そして、第２選択部７２は、特定した重要性の関係に基づいて、最も重要性が高い部分テキストを選択する。
提供部７３は、選択された部分テキストを対象文章の見出しとして提供する。例えば、提供部７３は、配信装置２００に対し、第２選択部７２が選択した部分テキストを見出しとして提供する。
〔３．情報提供装置が実行する処理の流れについて〕
次に、図６～８を用いて、情報提供装置１０が実行する処理の流れの一例について説明する。まず、図６を用いて、情報提供装置１０が実行する抽出処理の流れの一例を説明する。図６は、実施形態に係る情報提供装置が実行する抽出処理の流れの一例を示すフローチャートである。
まず、情報提供装置１０は、文章を受付けると（ステップＳ１０１）、文章に含まれる単語を特定する（ステップＳ１０２）。そして、情報提供装置１０は、特定した各単語を含むテキスト範囲ＴＡを設定し（ステップＳ１０３）、各テキスト範囲ＴＡに含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、テキスト範囲ＴＡの拡張を行う（ステップＳ１０４）。そして、情報提供装置１０は、重要性が所定の条件を満たすテキスト範囲ＴＡに含まれるテキストを部分テキストとして出力し（ステップＳ１０５）、処理を終了する。
続いて、図７を用いて、情報提供装置１０が実行する学習処理の流れの一例を説明する。図７は、実施形態に係る情報提供装置が実行する学習処理の流れの一例を示すフローチャートである。
まず、情報提供装置１０は、学習文章の部分テキストを取得する（ステップＳ２０１）。例えば、情報提供装置１０は、図６に示した抽出処理を実行することで、学習文章から部分テキストを抽出する。例えば、情報提供装置１０は、各部分テキストが見出しとして相応しいかを示す見出しスコアを取得する（ステップＳ２０２）。例えば、情報提供装置１０は、クラウドソージング等の手法を用いて、各部分テキストの見出しスコアを取得する。そして、情報提供装置１０は、ランク学習により、学習文章における各部分テキストの相対的な重要性をモデルに学習させ（ステップＳ２０３）、処理を終了する。
続いて、図８を用いて、情報提供装置１０が実行する選択処理の流れの一例を説明する。図８は、実施形態に係る情報提供装置が実行する選択処理の流れの一例を示すフローチャートである。
まず、情報提供装置１０は、対象文章の部分テキストを取得する（ステップＳ３０１）。例えば、情報提供装置１０は、図６に示した抽出処理を実行することで、対象文章から部分テキストを抽出する。例えば、情報提供装置１０は、学習文章から抽出された各部分テキストの学習文章における重要性を学習したモデルを用いて、対象文章の部分テキストのうち重要性が高いものを選択する（ステップＳ３０２）。例えば、情報提供装置１０は、図７に示した学習処理により学習が行われたモデルを用いて、対象文章の部分テキストのうち相対的な重要性が最も高い部分テキストを選択する。そして、情報提供装置１０は、選択した部分テキストを見出しとなる部分テキストとして出力し（ステップＳ３０３）、処理を終了する。
〔４．変形例〕
上記では、情報提供装置１０による抽出処理、学習処理および選択処理の一例について説明した。しかしながら、実施形態は、これに限定されるものではない。以下、情報提供装置１０が実行する処理のバリエーションについて説明する。
〔４－１．各処理の連携について〕
情報提供装置１０は、上述した各処理を単独で実行してもよく、それぞれ連携させてもよい。例えば、情報提供装置１０は、抽出処理において単語を選択する際や、テキスト範囲ＴＡを拡張させる際の指標として、クラウドソージングにより付与された見出しスコアの傾向を考慮してもよい。例えば、情報提供装置１０は、見出しスコアが高くなる傾向を有する文字数の範囲を特定し、特定した範囲に収まるように、テキスト範囲ＴＡを拡張させてもよい。また、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストの特徴量が、見出しスコアが高い部分テキストの特徴量に近づくように、テキスト範囲ＴＡの拡張を行ってもよい。
〔４－２．装置構成〕
記憶部３０に登録された各データベース３１、３２は、外部のストレージサーバに保持されていてもよい。また、情報提供装置１０は、抽出処理を実行する抽出サーバ、学習処理を実行する学習サーバ、および選択処理を実行する選択サーバとが連携して動作することにより、実現されてもよい。このような場合、学習サーバには図２に示す学習ユニット５０が配置され、抽出サーバには抽出ユニット６０が配置され、選択サーバには選択ユニット７０が配置されていればよい。
〔４－３．その他〕
また、上記実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、逆に、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
また、上記してきた各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
〔４－４．プログラム〕
また、上述した実施形態に係る情報提供装置１０は、例えば図９に示すような構成のコンピュータ１０００によって実現される。図９は、ハードウェア構成の一例を示す図である。コンピュータ１０００は、出力装置１０１０、入力装置１０２０と接続され、演算装置１０３０、一次記憶装置１０４０、二次記憶装置１０５０、出力ＩＦ（Interface）１０６０、入力ＩＦ１０７０、ネットワークＩＦ１０８０がバス１０９０により接続された形態を有する。
演算装置１０３０は、一次記憶装置１０４０や二次記憶装置１０５０に格納されたプログラムや入力装置１０２０から読み出したプログラム等に基づいて動作し、各種の処理を実行する。一次記憶装置１０４０は、ＲＡＭ等、演算装置１０３０が各種の演算に用いるデータを一次的に記憶するメモリ装置である。また、二次記憶装置１０５０は、演算装置１０３０が各種の演算に用いるデータや、各種のデータベースが登録される記憶装置であり、ＲＯＭ(Read Only Memory)、ＨＤＤ（Hard Disk Drive）、フラッシュメモリ等により実現される。
出力ＩＦ１０６０は、モニタやプリンタといった各種の情報を出力する出力装置１０１０に対し、出力対象となる情報を送信するためのインタフェースであり、例えば、ＵＳＢ（Universal Serial Bus）やＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High Definition Multimedia Interface）といった規格のコネクタにより実現される。また、入力ＩＦ１０７０は、マウス、キーボード、およびスキャナ等といった各種の入力装置１０２０から情報を受信するためのインタフェースであり、例えば、ＵＳＢ等により実現される。
なお、入力装置１０２０は、例えば、ＣＤ（Compact Disc）、ＤＶＤ（Digital Versatile Disc）、ＰＤ（Phase change rewritable Disk）等の光学記録媒体、ＭＯ（Magneto-Optical disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等から情報を読み出す装置であってもよい。また、入力装置１０２０は、ＵＳＢメモリ等の外付け記憶媒体であってもよい。
ネットワークＩＦ１０８０は、ネットワークＮを介して他の機器からデータを受信して演算装置１０３０へ送り、また、ネットワークＮを介して演算装置１０３０が生成したデータを他の機器へ送信する。
演算装置１０３０は、出力ＩＦ１０６０や入力ＩＦ１０７０を介して、出力装置１０１０や入力装置１０２０の制御を行う。例えば、演算装置１０３０は、入力装置１０２０や二次記憶装置１０５０からプログラムを一次記憶装置１０４０上にロードし、ロードしたプログラムを実行する。
例えば、コンピュータ１０００が情報提供装置１０として機能する場合、コンピュータ１０００の演算装置１０３０は、一次記憶装置１０４０上にロードされたプログラムまたはデータ（例えば、モデルＭ１）を実行することにより、制御部４０の機能を実現する。コンピュータ１０００の演算装置１０３０は、これらのプログラムまたはデータ（例えば、モデルＭ１）を一次記憶装置１０４０から読み取って実行するが、他の例として、他の装置からネットワークＮを介してこれらのプログラムを取得してもよい。
〔５．効果〕
上述したように、情報提供装置１０は、処理対象となる対象文章から抽出された複数の部分テキストを取得する。そして、情報提供装置１０は、学習データとなる学習文章から抽出された複数の部分テキストのそれぞれについてその学習文章における重要性を学習したモデルを用いて、対象文章から取得された複数の部分テキストのうち対象文章における重要性がより高い部分テキストを選択する。また、情報提供装置１０は、部分テキストを、対象文章の見出しとして選択する。このような処理の結果、情報提供装置１０は、対象文章における重要性が高い部分テキストを見出しとして選択できるので、適切な見出しを選択することができる。
また、情報提供装置１０は、モデルとして、同一の学習文章から抽出された複数の部分テキストの重要性の順位を学習したモデルを用いて、取得部により取得された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。また、情報提供装置１０は、モデルとして、同一の学習文章から抽出された部分テキストの相対的な重要性を学習したモデルを用いて、対象文章から抽出された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。また、情報提供装置１０は、モデルとして、同一の学習文章から抽出された部分テキストのペアのうちどちらの重要性がより高いかを学習したモデルを用いて、対象文章から抽出された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。
また、情報提供装置１０は、モデルとして、複数の学習文章について、同一の学習文章から抽出された部分テキストのペアのうちどちらの重要性がより高いかを学習したモデルを用いて、取得された複数の部分テキストのうち、対象文章における重要性がより高い部分テキストを選択する。このように、情報提供装置１０は、文章内における部分テキストの相対的な重要度であって、抽出元となる文章における重要度の順序を学習したモデルを用いて、見出しとなる部分テキストを選択するので、適切な部分テキストを見出しとして選択できる。
また、情報提供装置１０は、対象文章から所定の条件を満たす複数の単語を選択し、選択された単語を含むテキスト範囲ＴＡを設定する。また、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストの重要性であって、対象文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、設定されたテキスト範囲ＴＡを拡張する。そして、情報提供装置１０は、拡張されたテキスト範囲ＴＡに含まれるテキストのうち、重要性が所定の条件を満たすテキストを、部分テキストとして取得する。
また、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストが所定の文章構造を有するように、そのテキスト範囲ＴＡを拡張する。また、情報提供装置１０は、対象文章に含まれるテキストの出現頻度に基づく重要性が高くなるように、テキスト範囲ＴＡを拡張する。また、情報提供装置１０は、キーワード抽出に基づくスコア又はＴＦ－ＩＤＦに基づくスコアに基づいて、テキスト範囲ＴＡに含まれるテキストの重要性を特定し、特定した重要性が高くなるように、各テキスト範囲ＴＡを拡張する。このように、情報提供装置１０は、対象文章のうち見出しとして適切な部分を見出しの候補として抽出するので、適切な部分テキストを見出しとして選択できる。
また、情報提供装置１０は、複数のテキスト範囲ＴＡを含むテキスト領域ＴＲを設定し、テキスト領域ＴＲのうち、そのテキスト領域ＴＲに含まれる複数のテキスト範囲ＴＡの重要性が所定の条件を満たすテキスト領域ＴＲを特定し、特定したテキスト領域ＴＲに含まれるテキストを、部分テキストとして取得する。また、情報提供装置１０は、テキスト領域ＴＲに含まれるテキストのうち、複数のテキスト範囲ＴＡに含まれるテキスト以外のテキストを、テキストの省略を示す所定のテキストやタイポグラフィに置き換えたテキストを、部分テキストとして取得する。これらの処理の結果、情報提供装置１０は、複数のテキスト範囲を含む部分テキストを抽出することができるので、文章の内容をより明確に示すテキストを見出しとして選択することができる。
また、情報提供装置１０は、学習データとなる学習文章から抽出された複数の部分テキストを取得し、複数の部分テキストのそれぞれについてその学習文章における重要性をモデルに学習させる。この結果、情報提供装置１０は、文章に含まれる部分テキストの相対的な重要性であって、その文章における重要性の順序を学習したモデルを実現するので、文章に含まれるテキストのうち、他のテキストよりもその文章における相対的な重要性が高いテキスト、すなわち、見出しとして適切なテキストの選択を実現することができる。
また、情報提供装置１０は、同一の学習文章から抽出された複数の部分テキストの重要性の順位をモデルに学習させる。また、情報提供装置１０は、部分テキストの相対的な重要性をモデルに学習させる。また、情報提供装置１０は、部分テキストのペアを複数生成し、生成したペアに含まれる部分テキストのうちどちらの重要性がより高いかをモデルに学習させる。また、情報提供装置１０は、複数の学習文章から抽出された複数の部分テキストを取得し、同一の学習文章から抽出された部分テキストのペアを複数生成し、生成したペアに含まれる部分テキストのうちどちらの重要性がより高いかをモデルに学習させる。このような処理の結果、情報提供装置１０は、モデルに対し、ある文章に含まれるテキストの重要性の順序であって、その文章における重要性の順序を学習させることができるので、例えば、対象文章に含まれるテキストのうち見出しとして適切なテキストを選択するためのモデルを精度良く学習させることができる。
また、情報提供装置１０は、文章から所定の条件を満たす複数の単語を選択し、選択された単語を含むテキスト範囲ＴＡを設定する。また、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストの重要性であって、文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、テキスト範囲ＴＡを拡張する。そして、情報提供装置１０は、拡張されたテキスト範囲ＴＡに含まれるテキストのうち、重要性が所定の条件を満たすテキストを、文章の内容を示すテキストの候補として抽出する。このため、情報提供装置１０は、文章の見出しとして適切である可能性が高い部分テキストを抽出することができるので、適切な見出しの選択を補助することができる。
また、情報提供装置１０は、テキスト範囲ＴＡに含まれるテキストが所定の文章構造を有するように、テキスト範囲ＴＡを拡張する。また、情報提供装置１０は、文章に含まれるテキストの出現頻度に基づく重要性が高くなるように、テキスト範囲ＴＡを拡張する。また、情報提供装置１０は、キーワード抽出に基づくスコア又はＴＦ－ＩＤＦに基づくスコアに基づいて、テキスト範囲ＴＡに含まれるテキストの重要性を特定し、特定した重要性が高くなるように、各テキスト範囲ＴＡを拡張する。
また、情報提供装置１０は、複数のテキスト範囲ＴＡを含むテキスト領域ＴＲを設定し、テキスト領域ＴＲのうち、そのテキスト領域ＴＲに含まれる複数のテキスト範囲ＴＡの重要性が所定の条件を満たすテキスト領域ＴＲを特定し、特定したテキスト領域ＴＲに含まれるテキストを、文章の内容を示すテキストの候補として抽出する。また、情報提供装置１０は、テキスト領域ＴＲに含まれるテキストのうち、複数のテキスト範囲ＴＡに含まれるテキスト以外のテキストを、テキストの省略を示す所定のテキストやタイポグラフィに置き換えたテキストを、文章の内容を示すテキストの候補として抽出する。また、情報提供装置１０は、テキストを、文章の見出しの候補として抽出する。このような処理の結果、情報提供装置１０は、適切な見出しの選択を補助することができる。
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
また、上記してきた「部（section、module、unit）」は、「手段」や「回路」などに読み替えることができる。例えば、検出部は、検出手段や検出回路に読み替えることができる。
１０ 情報提供装置
２０ 通信部
３０ 記憶部
３１ 学習データデータベース
３２ モデルデータベース
４０ 制御部
５０ 学習ユニット
５１ 第１取得部
５２ 学習部
６０ 抽出ユニット
６１ 第１選択部
６２ 設定部
６３ 拡張部
６４ 抽出部
７０ 選択ユニット
７１ 第２取得部
７２ 第２選択部
７３ 提供部
１００ 端末装置
２００ 配信装置
３００ 生成装置

Claims (27)

  1. 対象文章から所定の条件を満たす複数の単語を選択する単語選択部と、
    それぞれ前記単語選択部により選択された単語を含む複数の範囲を含むテキスト領域を設定する設定部と、
    前記範囲に含まれるテキストの重要性であって、前記対象文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、前記設定部により設定された範囲を拡張する拡張部と、
    前記拡張部により拡張された領域を含むテキスト領域のうち、当該テキスト領域に含まれる複数の範囲の重要性が所定の条件を満たすテキスト領域を特定し、特定したテキスト領域に含まれるテキストを、部分テキストとして取得する取得部と、
    前記取得部により学習データとなる学習文章から抽出された複数の部分テキストのそれぞれについて当該学習文章における重要性を学習したモデルを用いて、前記取得部により取得された複数の部分テキストのうち、前記対象文章における重要性がより高い部分テキストを選択する選択部と
    を有することを特徴とする選択装置。
  2. 前記選択部は、前記モデルとして、同一の学習文章から抽出された複数の部分テキストの重要性の順位を学習したモデルを用いて、前記取得部により取得された複数の部分テキストのうち、前記対象文章における重要性がより高い部分テキストを選択する
    ことを特徴とする請求項１に記載の選択装置。
  3. 前記選択部は、前記モデルとして、同一の学習文章から抽出された前記部分テキストの相対的な重要性を学習したモデルを用いて、前記取得部により取得された複数の部分テキストのうち、前記対象文章における重要性がより高い部分テキストを選択する
    ことを特徴とする請求項１または２に記載の選択装置。
  4. 前記選択部は、前記モデルとして、同一の学習文章から抽出された前記部分テキストのペアのうちどちらの重要性がより高いかを学習したモデルを用いて、前記取得部により取得された複数の部分テキストのうち、前記対象文章における重要性がより高い部分テキストを選択する
    ことを特徴とする請求項１～３のうちいずれか１つに記載の選択装置。
  5. 前記選択部は、前記モデルとして、複数の学習文章について、同一の学習文章から抽出された前記部分テキストのペアのうちどちらの重要性がより高いかを学習したモデルを用いて、前記取得部により取得された複数の部分テキストのうち、前記対象文章における重要性がより高い部分テキストを選択する
    ことを特徴とする請求項１～４のうちいずれか１つに記載の選択装置。
  6. 前記拡張部は、前記範囲に含まれるテキストが所定の文章構造を有するように、当該範囲を拡張する
    ことを特徴とする請求項１～５のうちいずれか１つに記載の選択装置。
  7. 前記拡張部は、前記対象文章に含まれるテキストの出現頻度に基づく重要性が高くなるように、前記設定部により設定された範囲を拡張する
    ことを特徴とする請求項１～６のうちいずれか１つに記載の選択装置。
  8. 前記拡張部は、キーワード抽出に基づくスコア又はＴＦ－ＩＤＦ（Term Frequency-Inverse Document Frequency）に基づくスコアに基づいて、前記範囲に含まれるテキストの前記重要性を特定し、特定した重要性が高くなるように、各範囲を拡張する
    ことを特徴とする請求項１～７のうちいずれか１つに記載の選択装置。
  9. 前記取得部は、前記テキスト領域に含まれるテキストのうち、前記複数の範囲に含まれるテキスト以外のテキストを、テキストの省略を示す所定のテキスト若しくはタイポグラフィに置き換えたテキストを、前記部分テキストとして取得する
    ことを特徴とする請求項１～８のうちいずれか１つに記載の選択装置。
  10. 前記選択部は、前記部分テキストを、前記対象文章の見出しとして選択する
    ことを特徴とする請求項１～９のうちいずれか１つに記載の選択装置。
  11. 対象文章から所定の条件を満たす複数の単語を選択する単語選択部と、
    それぞれ前記単語選択部により選択された単語を含む複数の範囲を含むテキスト領域を設定する設定部と、
    前記範囲に含まれるテキストの重要性であって、前記対象文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、前記設定部により設定された範囲を拡張する拡張部と、
    前記拡張部により拡張された領域を含むテキスト領域のうち、当該テキスト領域に含まれる複数の範囲の重要性が所定の条件を満たすテキスト領域を特定し、特定したテキスト領域に含まれるテキストを、部分テキストとして取得する取得部と、
    前記取得部により学習データとなる学習文章から抽出された複数の部分テキストのそれぞれについて当該学習文章における重要性をモデルに学習させる学習部と
    を有することを特徴とする学習装置。
  12. 前記学習部は、同一の学習文章から抽出された複数の部分テキストの重要性の順位を前記モデルに学習させる
    ことを特徴とする請求項１１に記載の学習装置。
  13. 前記学習部は、前記部分テキストの相対的な重要性をモデルに学習させる
    ことを特徴とする請求項１１または１２に記載の学習装置。
  14. 前記学習部は、前記部分テキストのペアを複数生成し、生成したペアに含まれる部分テキストのうちどちらの重要性がより高いかを前記モデルに学習させる
    ことを特徴とする請求項１１～１３のうちいずれか１つに記載の学習装置。
  15. 前記取得部は、複数の学習文章から抽出された複数の部分テキストを取得し、
    前記学習部は、同一の学習文章から抽出された部分テキストのペアを複数生成し、生成したペアに含まれる部分テキストのうちどちらの重要性がより高いかを前記モデルに学習させる
    ことを特徴とする請求項１１～１４のうちいずれか１つに記載の学習装置。
  16. 文章から所定の条件を満たす複数の単語を選択する単語選択部と、
    前記単語選択部により選択された単語を含む範囲を設定する設定部と、
    前記範囲に含まれるテキストの重要性であって、前記文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、前記設定部により設定された範囲を拡張する拡張部と、
    前記拡張部により拡張された範囲に含まれるテキストのうち、前記重要性が所定の条件を満たすテキストを、前記文章の内容を示すテキストの候補として抽出する抽出部と
    を有し、
    前記設定部は、複数の範囲を含むテキスト領域を設定し、
    前記抽出部は、前記テキスト領域のうち、当該テキスト領域に含まれる複数の範囲の重要性が所定の条件を満たすテキスト領域を特定し、特定したテキスト領域に含まれるテキストを、前記文章の内容を示すテキストの候補として抽出する
    ことを特徴とする抽出装置。
  17. 前記拡張部は、前記範囲に含まれるテキストが所定の文章構造を有するように、当該範囲を拡張する
    ことを特徴とする請求項１６に記載の抽出装置。
  18. 前記拡張部は、前記文章に含まれるテキストの出現頻度に基づく重要性が高くなるように、前記設定部により設定された範囲を拡張する拡張部と、
    ことを特徴とする請求項１６または１７に記載の抽出装置。
  19. 前記拡張部は、キーワード抽出に基づくスコア又はＴＦ－ＩＤＦ（Term Frequency-Inverse Document Frequency）に基づくスコアに基づいて、前記範囲に含まれるテキストの前記重要性を特定し、特定した重要性が高くなるように、各範囲を拡張する
    ことを特徴とする請求項１８に記載の抽出装置。
  20. 前記抽出部は、前記テキスト領域に含まれるテキストのうち、前記複数の範囲に含まれるテキスト以外のテキストを、テキストの省略を示す所定のテキスト若しくはタイポグラフィに置き換えたテキストを、前記文章の内容を示すテキストの候補として抽出する
    ことを特徴とする請求項１６～１９のうちいずれか１つに記載の抽出装置。
  21. 前記抽出部は、前記テキストを、前記文章の見出しの候補として抽出する
    ことを特徴とする請求項１６～２０のうちいずれか１つに記載の抽出装置。
  22. 選択装置が実行する選択方法であって、
    対象文章から所定の条件を満たす複数の単語を選択する単語選択工程と、
    それぞれ前記単語選択工程により選択された単語を含む複数の範囲を含むテキスト領域を設定する設定工程と、
    前記範囲に含まれるテキストの重要性であって、前記対象文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、前記設定工程により設定された範囲を拡張する拡張工程と、
    前記拡張工程により拡張された領域を含むテキスト領域のうち、当該テキスト領域に含まれる複数の範囲の重要性が所定の条件を満たすテキスト領域を特定し、特定したテキスト領域に含まれるテキストを、部分テキストとして取得する取得工程と、
    前記取得工程により学習データとなる学習文章から抽出された複数の部分テキストのそれぞれについて当該学習文章における重要性を学習したモデルを用いて、前記取得工程により取得された複数の部分テキストのうち、前記対象文章における重要性がより高い部分テキストを選択するテキスト選択工程と
    を含むことを特徴とする選択方法。
  23. 対象文章から所定の条件を満たす複数の単語を選択する単語選択手順と、
    それぞれ前記単語選択手順により選択された単語を含む複数の範囲を含むテキスト領域を設定する設定手順と、
    前記範囲に含まれるテキストの重要性であって、前記対象文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、前記設定手順により設定された範囲を拡張する拡張手順と、
    前記拡張手順により拡張された領域を含むテキスト領域のうち、当該テキスト領域に含まれる複数の範囲の重要性が所定の条件を満たすテキスト領域を特定し、特定したテキスト領域に含まれるテキストを、部分テキストとして取得する取得手順と、
    前記取得手順により学習データとなる学習文章から抽出された複数の部分テキストのそれぞれについて当該学習文章における重要性を学習したモデルを用いて、前記取得手順により取得された複数の部分テキストのうち、前記対象文章における重要性がより高い部分テキストを選択するテキスト選択手順と
    をコンピュータに実行させるための選択プログラム。
  24. 学習装置が実行する学習方法であって、
    対象文章から所定の条件を満たす複数の単語を選択する単語選択工程と、
    それぞれ前記単語選択工程により選択された単語を含む複数の範囲を含むテキスト領域を設定する設定工程と、
    前記範囲に含まれるテキストの重要性であって、前記対象文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、前記設定工程により設定された範囲を拡張する拡張工程と、
    前記拡張工程により拡張された領域を含むテキスト領域のうち、当該テキスト領域に含まれる複数の範囲の重要性が所定の条件を満たすテキスト領域を特定し、特定したテキスト領域に含まれるテキストを、部分テキストとして取得する取得工程と、
    前記取得工程により学習データとなる学習文章から抽出された複数の部分テキストのそれぞれについて当該学習文章における重要性をモデルに学習させる学習工程と
    を含むことを特徴とする学習方法。
  25. 対象文章から所定の条件を満たす複数の単語を選択する単語選択手順と、
    それぞれ前記単語選択手順により選択された単語を含む複数の範囲を含むテキスト領域を設定する設定手順と、
    前記範囲に含まれるテキストの重要性であって、前記対象文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、前記設定手順により設定された範囲を拡張する拡張手順と、
    前記拡張手順により拡張された領域を含むテキスト領域のうち、当該テキスト領域に含まれる複数の範囲の重要性が所定の条件を満たすテキスト領域を特定し、特定したテキスト領域に含まれるテキストを、部分テキストとして取得する取得手順と、
    前記取得手順により学習データとなる学習文章から抽出された複数の部分テキストのそれぞれについて当該学習文章における重要性をモデルに学習させる学習手順と
    をコンピュータに実行させるための学習プログラム。
  26. 抽出装置が実行する抽出方法であって、
    文章から所定の条件を満たす複数の単語を選択する単語選択工程と、
    前記単語選択工程により選択された単語を含む範囲を設定する設定工程と、
    前記範囲に含まれるテキストの重要性であって、前記文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、前記設定工程により設定された範囲を拡張する拡張工程と、
    前記拡張工程により拡張された範囲に含まれるテキストのうち、前記重要性が所定の条件を満たすテキストを、前記文章の内容を示すテキストの候補として抽出する抽出工程と
    を含み、
    前記設定工程は、複数の範囲を含むテキスト領域を設定し、
    前記抽出工程は、前記テキスト領域のうち、当該テキスト領域に含まれる複数の範囲の重要性が所定の条件を満たすテキスト領域を特定し、特定したテキスト領域に含まれるテキストを、前記文章の内容を示すテキストの候補として抽出する
    ことを特徴とする抽出方法。
  27. 文章から所定の条件を満たす複数の単語を選択する単語選択手順と、
    前記単語選択手順により選択された単語を含む範囲を設定する設定手順と、
    前記範囲に含まれるテキストの重要性であって、前記文章に含まれるテキストの統計的な解析結果に基づく重要性が高くなるように、前記設定手順により設定された範囲を拡張する拡張手順と、
    前記拡張手順により拡張された範囲に含まれるテキストのうち、前記重要性が所定の条件を満たすテキストを、前記文章の内容を示すテキストの候補として抽出する抽出手順と
    をコンピュータに実行させるための抽出プログラムであって、
    前記設定手順は、複数の範囲を含むテキスト領域を設定し、
    前記抽出手順は、前記テキスト領域のうち、当該テキスト領域に含まれる複数の範囲の重要性が所定の条件を満たすテキスト領域を特定し、特定したテキスト領域に含まれるテキストを、前記文章の内容を示すテキストの候補として抽出する
    ことを特徴とする抽出プログラム。
JP2018117093A 2018-06-20 2018-06-20 選択装置、学習装置、抽出装置、選択方法、学習方法、抽出方法、選択プログラム、学習プログラム、および抽出プログラム Active JP7034015B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018117093A JP7034015B2 (ja) 2018-06-20 2018-06-20 選択装置、学習装置、抽出装置、選択方法、学習方法、抽出方法、選択プログラム、学習プログラム、および抽出プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018117093A JP7034015B2 (ja) 2018-06-20 2018-06-20 選択装置、学習装置、抽出装置、選択方法、学習方法、抽出方法、選択プログラム、学習プログラム、および抽出プログラム

Publications (2)

Publication Number Publication Date
JP2019219932A JP2019219932A (ja) 2019-12-26
JP7034015B2 true JP7034015B2 (ja) 2022-03-11

Family

ID=69096614

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018117093A Active JP7034015B2 (ja) 2018-06-20 2018-06-20 選択装置、学習装置、抽出装置、選択方法、学習方法、抽出方法、選択プログラム、学習プログラム、および抽出プログラム

Country Status (1)

Country Link
JP (1) JP7034015B2 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009122807A (ja) 2007-11-13 2009-06-04 Nomura Securities Co Ltd 連想検索システム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009122807A (ja) 2007-11-13 2009-06-04 Nomura Securities Co Ltd 連想検索システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
川場 真理子 外３名，文脈的特徴を用いたランキング学習によるブログからの主題抽出，第３回データ工学と情報マネジメントに関するフォーラム 論文集 ［ｏｎｌｉｎｅ］，日本，電子情報通信学会データ工学専門委員会，2011年07月27日，pp.1-6

Also Published As

Publication number Publication date
JP2019219932A (ja) 2019-12-26

Similar Documents

Publication Publication Date Title
JP6381775B2 (ja) 情報処理システム及び情報処理方法
US20200074013A1 (en) System and method for automatically generating articles of a product
CN110325986A (zh) 文章处理方法、装置、服务器及存储介质
JP2012027845A (ja) 情報処理装置、関連文提供方法、及びプログラム
US11023503B2 (en) Suggesting text in an electronic document
CN110717038B (zh) 对象分类方法及装置
JP6767342B2 (ja) 検索装置、検索方法および検索プログラム
US20210103622A1 (en) Information search method, device, apparatus and computer-readable medium
US20150205860A1 (en) Information retrieval device, information retrieval method, and information retrieval program
JP6605410B2 (ja) 感情要因推定支援装置、感情要因推定支援方法及び感情要因推定支援用プログラム
CN112541349A (zh) 输出装置以及记录媒体
US9058328B2 (en) Search device, search method, search program, and computer-readable memory medium for recording search program
JP2019053558A (ja) 学習装置、学習方法、学習プログラム、第１のモデルおよび第２のモデル
JP2024007348A (ja) データ拡張システム、データ拡張方法、及びプログラム
JP6746472B2 (ja) 生成装置、生成方法および生成プログラム
JP7034015B2 (ja) 選択装置、学習装置、抽出装置、選択方法、学習方法、抽出方法、選択プログラム、学習プログラム、および抽出プログラム
JP7212642B2 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
JP6310529B1 (ja) 検索装置、検索方法および検索プログラム
JP6178480B1 (ja) データ分析システム、その制御方法、プログラム、及び、記録媒体
KR20200109515A (ko) 빅데이터를 이용한 교육 콘텐츠 생성 방법
EP3731108A1 (en) Search system, search method, and program
Sariki et al. A book recommendation system based on named entities
KR20070118154A (ko) 정보 처리 장치 및 방법, 및 프로그램 기록 매체
JP7057229B2 (ja) 評価装置、評価方法および評価プログラム
JP6723897B2 (ja) 抽出装置、学習装置、抽出方法、抽出プログラム、学習方法および学習プログラム

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20180720

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20191101

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20191108

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200819

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210830

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220301

R150 Certificate of patent or registration of utility model

Ref document number: 7034015

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350