JP6982444B2 - 学習装置、生成装置、学習方法、生成方法、学習プログラム、及び生成プログラム - Google Patents

Description

本発明は、学習装置、生成装置、学習方法、生成方法、学習プログラム、生成プログラム、及びモデルに関する。

テキストを装置に生成させる技術が知られている。例えば、装置に文書の要約文を生成させる技術が知られている。装置にテキストを生成させることで、人がテキストを生成する手間を省くことができる。

特開２００５−９２６１６号公報

近年、機械学習が注目されている。テキストの生成は、例えば、複数組のテキストを学習データとして学習した学習モデル（以下、単にモデルという。）を使用することで実現可能である。しかしながら、モデルを使用して生成されたテキストは精度（例えば、正確性）が低いことがある。例えば、モデルを使用して生成されたテキストは、元の文書が「警察が犯人を逮捕」を意味する文書であったにも関わらず、出力される文書が「警察を犯人が逮捕」となる等、明らかに不自然な場合がある。

本願は、上記に鑑みてなされたものであって、精度が高いテキストを生成できるようにすることを目的とする。

本願に係る学習装置は、第１のテキストに関する情報と、第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得部と、第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と第２のテキストとに基づいて、入力テキストに関する情報から所定の条件を満たす出力テキストを生成する第１のモデルの学習を行う学習部と、を備える。

実施形態の一態様によれば、精度が高いテキストを生成できるようにすることができる。

図１は、実施形態に係る情報処理装置が実行する処理の一例を示す図である。 図２は、コンテンツが表示された端末装置を示す図である。 図３は、学習データデータベースに登録される学習データの一例を示す図である。 図４は、情報処理装置が関係情報を生成する様子を示す図である。 図５は、モデルの一例を示す図である。 図６は、実施形態に係る情報処理装置が実行する処理の他の例を示す図である。 図７は、モデルの一例を示す図である。 図８は、モデルの一例を示す図である。 図９は、実施形態に係る情報処理装置が実行する処理の他の例を示す図である。 図１０は、モデルの一例を示す図である。 図１１は、実施形態に係る情報処理装置の構成例を示す図である。 図１２は、学習データデータベースに登録される情報の一例を示す図である。 図１３は、モデルデータベースに登録される情報の一例を示す図である。 図１４は、コンテンツ情報データベースに登録される情報の一例を示す図である。 図１５は、学習処理の一例を示すフローチャートである。 図１６は、生成処理の一例を示すフローチャートである。 図１７は、情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。

以下に、本願に係る学習装置、生成装置、学習方法、生成方法、学習プログラム、生成プログラム、及びモデルを実施するための形態（以下、「実施形態」と呼ぶ）について図面を参照しつつ詳細に説明する。なお、以下の実施形態により本願に係る学習装置、生成装置、学習方法、生成方法、学習プログラム、生成プログラム、及びモデルが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。

〔１−１．情報処理装置の一例〕
最初に、生成装置および学習装置の一例である情報処理装置が実行する学習処理および生成処理の一例について説明する。図１は、実施形態に係る情報処理装置が実行する処理の一例を示す図である。情報処理装置１０は、インターネット等の所定のネットワークを介して、所定のクライアントが使用するデータサーバ２０および端末装置３０と通信可能である。

情報処理装置１０は、後述の学習処理及び生成処理を実行する装置である。情報処理装置１０は、サーバ装置やクラウドシステム等により実現される。

データサーバ２０は、情報処理装置１０が後述する学習処理を実行する際に用いる学習データや、情報処理装置１０が後述する生成処理を実行する際に出力する配信コンテンツを管理する情報処理装置である。データサーバ２０は、サーバ装置やクラウドシステム等により実現される。データサーバ２０は、例えば、端末装置３０に対してニュースや、利用者によって投稿された各種のコンテンツを配信する配信サービスを実行する。このような配信サービスは、例えば、各種ニュースの配信サイトやＳＮＳ（Social Networking Service）等により実現される。

端末装置３０は、スマートフォンやタブレット等のスマートデバイスであり、３Ｇ（3rd Generation）やＬＴＥ（Long Term Evolution）等の無線通信網を介して任意のサーバ装置と通信を行うことができる携帯端末装置である。なお、端末装置３０は、スマートデバイスのみならず、デスクトップＰＣ（Personal Computer）やノートＰＣ等の情報処理装置であってもよい。

〔１−２．要約コンテンツの配信について〕
ここで、データサーバ２０は、配信対象となる配信コンテンツが複数存在する場合には、各コンテンツを全て配信するのではなく、各コンテンツの要約となるテキストが含まれる要約コンテンツを端末装置３０へと配信することがある。配信コンテンツは、例えば、情報媒体或いは情報の配信主体から取得したニュース記事である。一例として、要約コンテンツは、配信コンテンツへのリンクが張られたポータルサイトのトップページである。

なお、情報媒体とは、情報の配信媒体或いは掲載媒体を示す情報であり、例えば、“新聞”、“雑誌”等を示す情報である。また、配信主体とは、ニュース記事等の情報を配信する組織或いは個人である。例えば、配信主体は、新聞社、出版社、放送局（テレビ局、ラジオ局）等のマスメディアである。勿論、配信主体はマスメディアに限定されない。配信主体は、ポータルサイトの運営者であってもよいし、携帯電話会社であってもよい。配信主体は、情報処理装置１０の運営者自身であってもよい。

図２は、コンテンツが表示された端末装置３０を示す図である。図２の状態Ｊ１は、ポータルサイトのトップページが表示された様子を示す図であり、図２の状態Ｊ２は、配信コンテンツＣ１１を含むページが表示された様子を示す図である。配信コンテンツＣ１１は、例えば、所定の配信主体から情報処理装置１０の運営者（例えば、ポータルサイトの運営者）が取得したニュース記事である。状態Ｊ１に示す端末装置３０には、記事へのリンクが張られたタイルが複数配置されたページが表示されている。各タイルには、配信コンテンツの内容を示すテキスト（以下、見出しという。）が表示されている。例えば、縦一列に並ぶ複数のタイルの一番上のタイルには、見出しＵ１１が表示されている。見出しＵ１１は配信コンテンツＣ１１の内容に対応するテキストである。ユーザが見出しＵ１１が表示されたタイルをタップすると、端末装置３０には、配信コンテンツＣ１１を含む画面が表示される。配信コンテンツＣ１１には、記事の本文Ｋ１１と、記事のタイトルＴ１１が含まれている。

配信コンテンツに対応付けられるテキスト（例えば、ポータルサイトのトップページに掲載される見出し）は、配信コンテンツの内容に基づいて人が作成する。例えば、見出しＵ１１は、配信コンテンツＣ１１に含まれるタイトルＴ１１をポータルサイトの運営者の従業員が読んで要約することにより作成される。しかしながら、配信コンテンツごとに、人手で見出しを生成するのは、手間がかかる。

そこで、各種情報が有する特徴を学習した学習モデル（以下、単にモデルという。）を用いて、配信コンテンツから見出しを自動的に生成することが考えらえる。例えば、配信コンテンツに含まれるテキスト（例えば、タイトル）から、見出しとなるタイトルを自動的に生成することが考えられる。しかしながら、モデルを使用して生成されたテキストは精度（例えば、正確性）が低いことがある。例えば、モデルを使用して生成されたテキストは、文章としては正しいが、元文書の内容を正しく表していないテキストとなる場合がある。例えば、モデルを使用して生成されたテキストは、元の文書が「警察が犯人を逮捕」を意味する文書であったにも関わらず、出力される文書が「警察を犯人が逮捕」となる等、明らかに不自然な場合がある。

〔１−３．関係情報を使った処理の一例〕
〔１−３−１．学習処理について〕
そこで、情報処理装置１０は、以下の学習処理を実行することで、配信コンテンツに含まれるテキスト（例えば、タイトル）から見出しとなるテキストを生成するためのモデルの学習を行う。以下、図１を参照しながら情報処理装置１０が実行する学習処理の一例について説明する。

まず、情報処理装置１０は、データサーバ２０から学習データとなる情報を取得する（ステップＳ１１）。例えば、情報処理装置１０は、データサーバ２０から、過去、ユーザに配信された配信コンテンツを取得する。そして、情報処理装置１０は、データサーバ２０から取得した情報を学習データデータベースに登録する。

図３は、学習データデータベースに登録される学習データの一例を示す図である。学習データデータベースには、学習データとして、本文、タイトル、および見出しを関連付けた情報が登録される。本文、タイトル、および見出しの組には、それぞれ、学習データＩＤ（Identifier）が付されている。「本文」及び「タイトル」は、配信コンテンツに含まれるテキストである。

「見出し」は、配信コンテンツの内容をユーザが容易に把握するためのテキストである。見出しは、配信コンテンツに含まれるテキスト（例えば、本文或いはタイトル）に対応するテキストである。学習データとなる見出しは、配信コンテンツに含まれるテキストを所定の者（例えば、ポータルサイトの運営者の従業員）が読んで要約することにより作成される。なお、見出しは、所定の条件を満たすよう生成される。例えば、見出しは、所定の文字数以下となるよう生成される。一例として、見出しは、１３．５文字以下となるよう生成される。このとき、１３．５文字は、全角文字１個を１文字とした文字数である。半角文字１文字は０．５文字である。以下の説明では、所定の条件のことを「生成条件」という。生成条件は、１３．５文字以下に限定されない。生成条件となる文字数は、１３．５文字より多くてもよいし少なくてもよい。勿論、生成条件は文字数に限定されない。

なお、「見出し」は、要約、タイトル、短縮タイトル、トピック、トピック見出し等と言い換えることができる。同様に、配信コンテンツに含まれる「タイトル」も、要約等と言い換えることができる。本実施形態では、「見出し」は、配信コンテンツに含まれる「タイトル」に基づき作成される短縮テキストであるものとする。勿論、「見出し」は本文に基づき作成された短縮テキストであってもよい。なお、構文上は文が短縮されていても、「見出し」の文字数が「タイトル」の文字数より多くなることがあり得る。例えば、「タイトル」に含まれる略語を正式名称に置き換えた場合は、構文上は文が短縮されていても、結果として文字数が増えることがある。このような場合も、「見出し」は「タイトル」の短縮テキストである。

図１に戻り、情報処理装置１０は、学習データデータベースに登録されたデータの中から、タイトルと見出しとの組を複数組取得する。そして、情報処理装置１０は、タイトルと見出しとに基づいて、モデルＭ１（第１のモデル）の学習を行う。モデルＭ１は、モデルに入力されるデータから生成条件を満たすテキストを生成するモデルである。

上述したように、モデルを使用して生成されたテキストは精度（例えば、正確性）が低いことがある。例えば、モデルを使用して生成されたテキストは、元の文書が「警察が犯人を逮捕」を意味する文書であったにも関わらず、出力される文書が「警察を犯人が逮捕」となる等、明らかに不自然な場合がある。そこで、本実施形態では、情報処理装置１０は、タイトルを入力データとするのではなく、第１のテキストに関する情報を入力データとしてモデルＭの学習を行う。より具体的には、情報処理装置１０は、第１のテキストの関係情報を入力データとしてモデルＭの学習を行う。関係情報は、テキストに含まれる複数のワードのワード間の関係を示す情報である。例えば、関係情報は、テキストに含まれる複数のワードの係り受け構造を示す情報（以下、係り受け情報）である。なお、以下の説明では、学習時、関係情報の生成対象となるテキストのことを「第１のテキスト」と呼ぶことがある。第１のテキストはタイトルに限られない。第１のテキストは本文であってもよい。

情報処理装置１０は、第１のテキストの関係情報を生成する（ステップＳ１２）。図４は、情報処理装置１０が関係情報を生成する様子を示す図である。例えば、第１のテキストであるタイトルが“俳優Ａが妻が妊娠中であることを発表した”であるとする。この場合、情報処理装置１０は、第１のテキストを構文解析（例えば、係り受け解析）し、例えば、図４の中段に示すような係り受け情報を生成する。情報処理装置１０は、第１のテキストを形態素解析して係り受け情報を生成してもよい。そして、情報処理装置１０は解析結果（例えば、係り受け情報）を関係情報として取得する。図４の中段の関係情報は、ワードとワードの係り受け構造を木構造にして視認可能にしたものである。

なお、情報処理装置１０は、第１のテキストに含まれるワードの述語構造を示す情報（以下、述語構造情報という。）を関係情報として取得してもよい。第１のテキストに含まれるワードの格解析結果等を含む情報である。例えば、図４の例で、第１のテキストに含まれる“発表した”の述語構造情報は例えば“＜用言：動＞＜格解析結果：ガ／Ａ；ヲ／事；二／−；ト／−；デ／−；時間／―＞”である。この例では、“発表した”は用言（動詞）であり、格助詞の“ガ”を有する“Ａ”と、格助詞の“ヲ”を有する“事”とが係っていることを示している。

また、情報処理装置１０は、第１のテキスト（例えば、タイトル）の関係情報を短縮したものを関係情報としてもよい。例えば、図４の例であれば、情報処理装置１０は、木構造で示される関係情報の枝の一部を取り除いた図４の下段に示される木構造の情報を新たな関係情報としてもよい。以下の説明では、関係情報を短縮して得られる関係情報のことを短縮関係情報と呼ぶことがある。情報処理装置１０は、短縮関係情報が生成予定の短縮テキスト（例えば、見出し）に相当するよう関係情報を短縮してもよい。

情報処理装置１０は、第１のテキスト（本実施形態の場合、タイトル）の関係情報を入力データ、見出しを正解データとしてモデルＭ１の学習（例えば、教師あり学習）を行う（ステップＳ１３）。なお、以下の説明では、学習の際、正解データとなるテキスト（本実施形態の場合、見出し）のことを「第２のテキスト」ということがある。また、テキストの生成の際、モデルから出力されるテキスト（すなわち生成条件を満たすテキスト）のことを「出力テキスト」、第２のテキストの生成元となるべきテキストのことを「入力テキスト」と呼ぶことがある。また、以下の説明では、正解データのことを教師ラベルということもある。なお、入力テキストはモデルに直接的或いは間接的に入力されるテキストのことである。入力テキストはモデルに直接入力されなくてもよい。例えば、入力テキストは関係情報に変換されてモデルに入力されてもよい。

図５は、モデルＭ１の一例を示す図である。モデルＭ１は、例えば、ＲＮＮ（Recurrent Neural Network）の一例であるＬＳＴＭ（Long Short Term Memory）を用いたSequence to Sequence Model（以下、Ｓｅｑ２Ｓｅｑともいう。)である。モデルＭ１は、アテンションモデル（Attention Model）を追加したＳｅｑ２Ｓｅｑ（Sequence to Sequence with Attention Model）であってもよい。Ｓｅｑ２Ｓｅｑは、エンコーダ−デコーダモデルの一種であり、異なる長さのデータ列（Sequence）を入力とし、異なる長さのワード列（Sequence）を出力とすることを可能とする。

図５に示すモデルＭ１は、入力テキスト（例えば、タイトル）の関係情報に基づいて特徴情報を生成するエンコーダＥ１と、エンコーダＥ１が出力した特徴情報に基づいて出力
テキスト（例えば、見出し）を生成するデコーダＤ１と、を備える。

エンコーダＥ１は、入力テキストが有する特徴を抽出する。エンコーダＥ１は、入力層と中間層（隠れ層）とを有する。エンコーダＥ１には、第１のテキストの関係情報が入力される。エンコーダＥ１は、入力されたデータの特徴を示す多次元量（例えば、ベクトル）である特徴情報を出力する。特徴情報は、モデルＭ１がアテンションモデルの場合、特徴情報はアテンションベクトルと呼ばれることもある。

デコーダＤ１は、入力テキストが短縮されたテキスト（すなわち、見出し）を出力する。デコーダＤ１は、中間層（隠れ層）と出力層とを有する。デコーダＤ１には、エンコーダＥ１から出力された特徴情報が入力される。特徴情報が入力されると、デコーダＤ１は、出力層から短縮テキストとなるワードを順次出力する。

情報処理装置１０は、エンコーダＥ１に第１のテキストの関係情報を入力した際に、デコーダＤ１から第１のテキストに対応する第２のテキストが出力されるよう、モデルＭ１の学習を行う。例えば、情報処理装置１０は、デコーダＤ１が出力した短縮テキストが、第２のテキストに近づくように、バックプロパゲーション等の手法により、各ノード間で値が伝達する際に考慮される重み（すなわち、接続係数）の値を修正する。これにより、情報処理装置１０は、モデルＭ１に第１のテキストの関係情報が有する特徴を学習させる。なお、情報処理装置１０は、短縮テキストの分散表現となるベクトルと第２の学習用テキストの分散表現となるベクトルとのコサイン類似度に基づいて重みの値を修正してもよい。

なお、情報処理装置１０は、エンコーダＥ１に第１のテキストの関係情報を短縮した短縮関係情報を入力した際に、デコーダＤ１から第１のテキストに対応する第２のテキストが出力されるよう、モデルＭ１の学習を行ってもよい。この場合も、情報処理装置１０は、デコーダＤ１が出力した短縮テキストが、第２のテキストに近づくように、バックプロパゲーション等の手法により、各ノード間で値が伝達する際に考慮される重み（すなわち、接続係数）の値を修正してもよい。

〔１−３−２．生成処理について〕
次に、上述した学習処理によって学習が行われたモデルＭ１を用いて、入力テキストに対応するテキストであって生成条件を満たす出力テキストを生成する生成処理の一例について説明する。このとき、出力テキストは、例えば、入力テキストの短縮テキストである。

まず、情報処理装置１０は、データサーバ２０からモデルＭ１に入力される関係情報を生成するための情報を取得する（ステップＳ１４）。例えば、情報処理装置１０は、データサーバ２０から、配信予定の配信コンテンツ（本文及びタイトル）を取得する。そして、情報処理装置１０は、取得した配信コンテンツに含まれるタイトルを出力テキスト生成のための入力テキストとして取得する。

その後、情報処理装置１０は、入力テキストに関する情報として、入力テキストの関係情報を取得する（ステップＳ１５）。このとき、情報処理装置１０は、出力テキスト（例えば、見出し）に相当する関係情報（短縮関係情報）を入力テキストの関係情報を短縮することにより生成してもよい。

そして、情報処理装置１０は、内部の記憶装置からモデルＭ１を取得する。上述したように、モデルＭ１は、第１のテキストの関係情報を入力データ、見出しを正解データ（教師ラベル）として学習したモデルである。そして、情報処理装置１０は、モデルＭ１に入力テキストの関係情報を入力することにより、出力テキストを生成する（ステップＳ１６）。情報処理装置１０は、出力テキストとして、所定の文字数以下のテキストを生成してもよい。

なお、モデルＭ１は、第１のテキストの短縮関係情報を入力データ、第２のテキストを正解データ（教師ラベル）として学習したモデルであってもよい。この場合、情報処理装置１０は、第１のモデルに入力テキストの短縮関係情報を入力することにより、出力テキストを生成する。

出力テキストが生成されたら、情報処理装置１０は、出力テキストを用いて、要約コンテンツを生成する。そして、情報処理装置１０は、要約コンテンツを端末装置３０に配信する（ステップＳ１７）。

本実施形態によれば、モデルＭ１はタイトルそのものを入力データとするのではなく、タイトルの関係情報を入力データとするよう構成されている。関係情報は、文を単純な文字列として表現したデータではなく、文の構文を示すデータである。このため、情報処理装置１０は、元文書と意味が異なる「警察を犯人が逮捕」等の構文が不自然な見出しの生成を少なくすることができる。結果として、情報処理装置１０は、精度が高い見出しを生成できる。

〔１−４．関係情報を使った処理の他の例〕
〔１−４−１．学習処理について〕
なお、出力テキストの生成に使用されるモデルは関係情報に加えて入力テキストが入力できるよう構成されていてもよい。図６は、実施形態に係る情報処理装置１０が実行する処理の他の例を示す図である。最初に、学習処理について説明する。

まず、情報処理装置１０は、データサーバ２０から学習データとなる情報を取得する（ステップＳ２１）。例えば、情報処理装置１０は、データサーバ２０から、過去、ユーザに配信された配信コンテンツを取得する。そして、情報処理装置１０は、学習データに含まれるタイトルを第１のテキストとして取得するとともに、第１のテキストの関係情報を生成する（ステップＳ２２）。

情報処理装置１０は、生成した関係情報を正解データ（教師ラベル）として、モデルＭ２（第２のモデル）の学習を行う（ステップＳ２３）。モデルＭ２は、入力テキストから入力テキストの関係情報を生成するモデルである。

図７は、モデルＭ２の一例を示す図である。モデルＭ２は、例えば、ＲＮＮの一例であるＬＳＴＭを用いたＳｅｑ２Ｓｅｑである。モデルＭ２は、アテンションモデルを追加したＳｅｑ２Ｓｅｑであってもよい。図７に示すモデルＭ２は、入力テキスト（例えば、タイトル）に基づいて特徴情報を生成するエンコーダＥ２と、エンコーダＥ２が出力した特徴情報に基づいて入力テキストの関係情報を生成するデコーダＤ２と、を備える。エンコーダＥ２は、入力テキストが有する特徴を抽出する。

エンコーダＥ２は、入力テキストが有する特徴を抽出する。エンコーダＥ２は、入力層と中間層（隠れ層）とを有する。エンコーダＥ２には、第１のテキストが入力される。エンコーダＥ２は、入力されたテキストの特徴を示す多次元量（例えば、ベクトル）である特徴情報を出力する。

デコーダＤ２は、入力テキストの関係情報を出力する。デコーダＤ２は、中間層（隠れ層）と出力層とを有する。デコーダＤ２には、エンコーダＥ２から出力された特徴情報が入力される。特徴情報が入力されると、デコーダＤ２は、出力層から関係情報となるデータを出力する。

情報処理装置１０は、エンコーダＥ２に第１のテキストを入力した際に、デコーダＤ２から第１のテキストの関係情報が出力されるよう、モデルＭ２の学習を行う。例えば、情報処理装置１０は、デコーダＤ２が出力したデータが、第１のテキストの関係情報に近づくように、バックプロパゲーション等の手法により、各ノード間で値が伝達する際に考慮される重み（すなわち、接続係数）の値を修正する。これにより、情報処理装置１０は、モデルＭ２に第１のテキストが有する特徴を学習させる。

続いて、情報処理装置１０は、第１のテキスト（本実施形態の場合、タイトル）と第１のテキストの関係情報を入力データ、第２のテキスト（本実施形態の場合、見出し）を正解データとしてモデルＭ３（第１のモデル）の学習を行う（ステップＳ２４）。

図８は、モデルＭ３の一例を示す図である。モデルＭ３は、例えば、ＲＮＮの一例であるＬＳＴＭを用いたＳｅｑ２Ｓｅｑである。モデルＭ３は、アテンションモデルを追加したＳｅｑ２Ｓｅｑであってもよい。図８に示すモデルＭ３は、入力テキスト（例えば、タイトル）に基づいて第１の特徴情報を生成するエンコーダＥ３１と、入力テキストの関係情報に基づいて第２の特徴情報を生成するエンコーダＥ３２と、第１の特徴情報と第２の特徴情報とを合成して合成情報を生成する合成モデルＳＭ１と、合成情報に基づいて出力テキスト（見出し）を生成するデコーダＤ３と、を備える。

エンコーダＥ３１は、入力テキストが有する特徴を抽出する。エンコーダＥ３１は、入力層と中間層（隠れ層）とを有する。エンコーダＥ３１には、第１のテキスト（本実施形態の場合、タイトル）に含まれるワードが順次入力される。エンコーダＥ３１は、入力されたテキストの特徴を示す多次元量（例えば、ベクトル）である第１の特徴情報を出力する。

エンコーダＥ３２は、関係情報が有する特徴を抽出する。エンコーダＥ３２は、入力層と中間層（隠れ層）とを有する。エンコーダＥ３２には、第１のテキストの関係情報が入力される。エンコーダＥ３２は、入力された関係情報の特徴を示す多次元量（例えば、ベクトル）である第２の特徴情報を出力する。

合成モデルＳＭ１は、エンコーダＥ３１が出力する第１の特徴情報と、エンコーダＥ３２が出力する第２の特徴情報との線形結合を合成情報として出力する。なお、合成モデルＳＭ１は、各特徴情報に対して所定の重みを適用した合成情報を生成してもよい。なお、モデルＭ３は、合成モデルＳＭ１が出力する合成情報をデコーダＤ３の入力層に対応する次元数まで畳み込むよう構成されていてもよい。

デコーダＤ３は、入力テキストが短縮されたテキスト（すなわち、見出し）を出力する。デコーダＤ３は、中間層（隠れ層）と出力層とを有する。デコーダＤ３には、合成モデルＳＭ１から出力された合成情報（すなわち、第１の特徴情報及び第２の特徴情報）が入力される。合成情報が入力されると、デコーダＤ３は、出力層から短縮テキストとなるワードを順次出力する。

情報処理装置１０は、エンコーダＥ３１に第１のテキスト、エンコーダＥ３２に第１のテキストの関係情報を入力した際に、デコーダＤ３から第１のテキストに対応する第２のテキストが出力されるよう、モデルＭ３の学習を行う。例えば、情報処理装置１０は、デコーダＤ３が出力した短縮テキストが、第２のテキストに近づくように、バックプロパゲーション等の手法により、各ノード間で値が伝達する際に考慮される重み（すなわち、接続係数）の値を修正する。これにより、情報処理装置１０は、モデルＭ３に第１のテキストが有する特徴を学習させる。

〔１−４−２．生成処理について〕
次に、上述した学習処理によって学習が行われたモデルＭ２及びモデルＭ３を用いて出力テキストを生成する生成処理の一例について説明する。

まず、情報処理装置１０は、データサーバ２０からモデルＭ２及びモデルＭ３に入力される情報を取得する（ステップＳ２５）。例えば、情報処理装置１０は、データサーバ２０から、配信予定の配信コンテンツ（本文及びタイトル）を取得する。そして、情報処理装置１０は、取得した配信コンテンツに含まれるタイトルを入力テキストとして取得する。

その後、情報処理装置１０は、内部の記憶装置からモデルＭ２を取得する。上述したように、モデルＭ１は、第１のテキストを入力データ、第１のテキストの関係情報を正解データ（教師ラベル）として学習したモデルである。そして、情報処理装置１０は、モデルＭ２に入力テキストを入力することにより、入力テキストの関係情報を生成する（ステップＳ２６）。

そして、情報処理装置１０は、内部の記憶装置からモデルＭ３を取得する。上述したように、モデルＭ３は、第１のテキストと第１のテキストの関係情報を入力データ、第２のテキストを正解データ（教師ラベル）として学習したモデルである。そして、情報処理装置１０は、モデルＭ３に入力テキストの関係情報を入力することにより、出力テキストを生成する（ステップＳ２７）。

出力テキストが生成されたら、情報処理装置１０は、出力テキストを用いて、要約コンテンツを生成する。そして、情報処理装置１０は、要約コンテンツを端末装置３０に配信する（ステップＳ２８）。

本実施形態によれば、情報処理装置１０は、タイトルに加えて、タイトルの関係情報に基づいて見出しを生成するよう構成されている。関係情報は、文を単純な文字列として表現したデータではなく、文の構文を示すデータである。このため、情報処理装置１０は、元の文書と意味が異なる「警察を犯人が逮捕」等の構文が不自然な見出しの生成を少なくすることができる。結果として、情報処理装置１０は、精度が高い見出しを生成できる。

〔１−５．関係情報を使った比較〕
〔１−５−１．学習処理について〕
なお、上述の実施形態では関係情報はモデルへの入力データと使用した。しかし、関係情報は必ずしもモデルへの入力として使用されなくてもよい。図９は、実施形態に係る情報処理装置１０が実行する処理の他の例を示す図である。最初に、学習処理について説明する。

まず、情報処理装置１０は、データサーバ２０から学習データとなる情報を取得する（ステップＳ３１）。例えば、情報処理装置１０は、データサーバ２０から、過去、ユーザに配信された配信コンテンツを取得する。そして、情報処理装置１０は、学習データに含まれるタイトルを第１のテキストとして取得する。

情報処理装置１０は、第１のテキスト（本実施形態の場合、タイトル）を入力データ、第２のテキスト（本実施形態の場合、見出し）を正解データ（教師ラベル）としてモデルＭ４の学習を行う（ステップＳ３２）。

図１０は、モデルＭ４の一例を示す図である。モデルＭ４は、例えば、ＲＮＮの一例であるＬＳＴＭを用いたＳｅｑ２Ｓｅｑである。モデルＭ４は、アテンションモデルを追加したＳｅｑ２Ｓｅｑであってもよい。図１０に示すモデルＭ４は、入力テキスト（例えば、タイトル）に基づいて特徴情報を生成するエンコーダＥ４と、エンコーダＥ４から出力された特徴情報に基づいて出力テキスト（見出し）を生成するデコーダＤ４と、を備える。

エンコーダＥ４は、入力テキストが有する特徴を抽出する。エンコーダＥ４は、入力層と中間層（隠れ層）とを有する。エンコーダＥ４には、第１のテキスト（本実施形態の場合、タイトル）に含まれるワードが順次入力される。エンコーダＥ４は、入力されたテキストの特徴を示す多次元量（例えば、ベクトル）である特徴情報を出力する。

デコーダＤ４は、入力テキストが短縮されたテキスト（すなわち、見出し）を出力する。デコーダＤ４は、中間層（隠れ層）と出力層とを有する。デコーダＤ４には、エンコーダＥ４から出力された特徴情報が入力される。特徴情報が入力されると、デコーダＤ４は、出力層から短縮テキストとなるワードを順次出力する。

情報処理装置１０は、エンコーダＥ４に第１のテキストを入力した際に、デコーダＤ４から第１のテキストに対応する第２のテキストが出力されるよう、モデルＭ４の学習を行う。例えば、情報処理装置１０は、デコーダＤ４が出力した短縮テキストが、第２のテキストに近づくように、バックプロパゲーション等の手法により、各ノード間で値が伝達する際に考慮される重み（すなわち、接続係数）の値を修正する。これにより、情報処理装置１０は、モデルＭ４に第１のテキストが有する特徴を学習させる。

なお、情報処理装置１０は、重みの値の修正には、関係情報を使用することも可能である。例えば、情報処理装置１０は、第１のテキストの関係情報を予め作成しておく。そして、情報処理装置１０は、デコーダＤ４から短縮テキスト（見出しとなるテキスト）が出力される度に、短縮テキストの関係情報を作成する。そして、情報処理装置１０は、第１のテキストの関係情報と短縮テキストの関係情報との類似度を算出する。このとき、情報処理装置１０は、第１のテキストの関係情報の分散表現となるベクトルと、短縮テキストの関係情報の分散表現となるベクトルと、のコサイン類似度を算出してもよい。勿論、類似度はコサイン類似度に限定されない。

関係情報は、文を単純な文字列として表現したデータではなく、文の構文を示すデータである。このため、文の構文が異なるとその類似度は低くなる。例えば、第１のテキストが“警察が１０月１日に犯人を逮捕した。”であるとする。そして、モデルＭ４から“警察を犯人が逮捕”が短縮テキストとして出力されたとする。この例では、第１のテキストでは“逮捕”に係る主語は“警察”なのに対し、短縮テキストでは“逮捕”に係る主語は“犯人”となっている。両者は係り受け構造が大きく異なる。そのため、この例では、第１のテキストの関係情報と短縮テキストの関係情報の類似度は低くなる。情報処理装置１０は、類似度が高くなるようモデルＭ４の重みの値を修正していく。

また、情報処理装置１０は、第２のテキストの関係情報と短縮テキストの関係情報との類似度に基づいてモデルＭ４の重みの値を修正してもよい。例えば、情報処理装置１０は、第２のテキストの関係情報を予め作成しておく。そして、情報処理装置１０は、デコーダＤ４から短縮テキスト（見出しとなるテキスト）が出力される度に、短縮テキストの関係情報を作成する。そして、情報処理装置１０は、第２のテキストの関係情報と短縮テキストの関係情報との類似度を算出する。例えば、第２のテキストが“警察が犯人を逮捕”であるとする。そして、モデルＭ４から“警察を犯人が逮捕”が短縮テキストとして出力されたとする。この例でも、第２のテキストでは“逮捕”に係る主語は“警察”なのに対し、短縮テキストでは“逮捕”に係る主語は“犯人”となっている。両者は係り受け構造が大きく異なるので、第２のテキストの関係情報と短縮テキストの関係情報の類似度は低くなる。情報処理装置１０は、類似度が高くなるようモデルＭ４の重みの値を修正していく。

〔１−５−２．生成処理について〕
次に、上述した学習処理によって学習が行われたモデルＭ４を用いて出力テキストを生成する生成処理の一例について説明する。

まず、情報処理装置１０は、データサーバ２０からモデルＭ４に入力される情報を取得する（ステップＳ３３）。例えば、情報処理装置１０は、データサーバ２０から、配信予定の配信コンテンツ（本文及びタイトル）を取得する。そして、情報処理装置１０は、取得した配信コンテンツに含まれるタイトルを入力テキストとして取得する。

そして、情報処理装置１０は、内部の記憶装置からモデルＭ４を取得する。上述したように、モデルＭ４は、第１のテキストを入力データ、第２のテキストを正解データ（教師ラベル）として学習したモデルである。そして、情報処理装置１０は、モデルＭ４に入力テキストの関係情報を入力することにより、出力テキストを生成する（ステップＳ３４）。

その後、情報処理装置１０は、入力テキストの関係情報と出力テキストの関係情報を作成する。そして、情報処理装置１０は、入力テキストの関係情報と出力テキストの関係情報とを比較する（ステップＳ３５）。

例えば、関係情報が係り受け情報であるとする。情報処理装置１０は、入力テキストの関係情報から出力テキストに出てこないワードを取り除くことにより、入力テキストの関係情報を短縮する。そして、情報処理装置１０は、入力テキストの短縮関係情報と出力テキストの関係情報の係り受け構造（木構造）が類似するか否か判別する。このとき、情報処理装置１０は、入力テキストの短縮関係情報と出力テキストの関係情報の類似度を算出し、類似度が所定の閾値以上か否かを以って類似するか否かを判別してもよい。関係情報が述語構造情報なのであれば、情報処理装置１０は、述語となっているワードの格解析結果が類似するか否かを判別してもよい。

情報処理装置１０は、入力テキストの関係情報と出力テキストの関係情報との比較結果（例えば、類似度や類似度に基づく判別結果）を記憶装置或いは外部の装置（例えば、データサーバ２０や端末装置３０）に出力する。

入力テキストの関係情報と出力テキストの関係情報とが類似する場合、情報処理装置１０は、情報処理装置１０は、出力テキストを用いて、要約コンテンツを生成する。そして、情報処理装置１０は、要約コンテンツを端末装置３０に配信する（ステップＳ３６）。

本実施形態によれば、情報処理装置１０は、入力テキストの関係情報と出力テキストの関係情報を比較するよう構成されている。そのため、情報処理装置１０のユーザは、不自然な出力テキストを即座に発見できる。

〔２．情報処理装置の構成例〕
以上、本実施形態の情報処理装置１０の動作を述べたが、以下、情報処理装置１０の構成を説明する。

情報処理装置１０は、端末装置３０等のクライアントコンピュータからの要求を処理するサーバ用ホストコンピュータ（以下、単に「サーバ」という。）である。情報処理装置１０は、ＰＣサーバであってもよいし、ミッドレンジサーバであってもよいし、メインフレームサーバであってもよい。また、情報処理装置１０は、１つのサーバにより構成されていてもよいし、協働して処理を実行する複数のサーバにより構成されていてもよい。情報処理装置１０が複数のサーバで構成される場合、これらサーバの設置場所は離れていてもよい。設置場所が離れていたとしても、協働して処理を実行するのであれば、これらサーバは１つの情報処理装置とみなすことができる。情報処理装置１０は、生成装置および学習装置として機能する。

上述したように、情報処理装置１０は、データサーバ２０及び端末装置３０とネットワークを介して接続されている。ネットワークは、ＬＡＮ（Local Area Network）、ＷＡＮ（Wide Area Network）、電話網（携帯電話網、固定電話網等）、地域ＩＰ（Internet Protocol）網、インターネット等の通信ネットワークである。ネットワークには、有線ネットワークが含まれていてもよいし、無線ネットワークが含まれていてもよい。

図１１は、実施形態に係る情報処理装置１０の構成例を示す図である。情報処理装置１０は、通信部１１と、記憶部１２と、制御部１３と、を備える。なお、図１１に示した構成は機能的な構成であり、ハードウェア構成はこれとは異なっていてもよい。

通信部１１は、外部の装置と通信する通信インタフェースである。通信部１１は、ネットワークインタフェースであってもよいし、機器接続インタフェースであってもよい。例えば、通信部１１は、ＮＩＣ（Network Interface Card）等のＬＡＮインタフェースであってもよいし、ＵＳＢ（Universal Serial Bus）ホストコントローラ、ＵＳＢポート等により構成されるＵＳＢインタフェースであってもよい。また、通信部１１は、有線インタフェースであってもよいし、無線インタフェースであってもよい。通信部１１は、情報処理装置１０の通信手段として機能する。通信部１１は、制御部１３の制御に従ってデータサーバ２０及び端末装置３０と通信する。

記憶部１２は、ＤＲＡＭ（Dynamic Random Access Memory）、ＳＲＡＭ（Static Random Access Memory）、フラッシュメモリ、ハードディスク等のデータ読み書き可能な記憶装置である。記憶部１２は、情報処理装置１０の記憶手段として機能する。記憶部１２は、学習データデータベース１２１、モデルデータベース１２２、及びコンテンツ情報データベース１２３を記憶する。

学習データデータベース１２１には、学習データが登録される。図１２は、学習データデータベース１２１に登録される情報の一例を示す図である。学習データデータベース１２１には、「学習データＩＤ（Identifier）」、「本文」、「タイトル」、および「見出し」といった項目を有する情報が登録される。

なお、図１２に示す情報のうち「本文」、「タイトル」、および「見出し」は、図３に示す「本文」、「タイトル」、および「見出し」に対応する。なお、学習データデータベース１２１には、図１２に示す情報以外にも、学習データや要約データを閲覧した利用者に関する各種の情報が登録されていてもよい。なお、図１２に示す例では、学習データデータベース１２１に登録される情報として、「Ｋ１１〜Ｋ１３」、「Ｔ１１〜Ｔ１３」、「Ｕ１１〜Ｕ１３」といった概念的な情報を示したが、実際には、テキストデータやバイナリデータが登録されることとなる。

ここで、「学習データＩＤ」とは、学習データを識別するための識別子である。また、「本文」とは、ユーザに配信されたコンテンツ（例えば、記事）に含まれる本文となるテキストである。また「タイトル」とは、コンテンツ或いは当該コンテンツに含まれる本文に付されたタイトルである。また、「見出し」とは、コンテンツ（本文或いはタイトル）に付された見出しである。

例えば、図１２に示す例では、学習データＩＤ「１００１」、本文「Ｋ１１」、タイトル「Ｔ１１」、及び見出し「Ｕ１１」といった情報が対応付けて登録されている。このような情報は、例えば、学習データＩＤ「１００１」が示す学習データに、「Ｋ１１」が示す本文と、「Ｔ１１」が示すタイトルと、「Ｕ１１」が示す見出しと、が含まれる旨を示す。

図１１に戻り、モデルデータベース１２２には、情報処理装置１０が有するモデルのデータが登録される。図１３は、モデルデータベース１２２に登録される情報の一例を示す図である。図１３に示す例では、モデルデータベース１２２には、「モデルＩＤ」、および「モデルデータ」といった情報が登録されている。

ここで、「モデルＩＤ」とは、各モデルを識別するための情報である。また、「モデルデータ」とは、対応付けられた「モデルＩＤ」が示すモデルのデータであり、例えば、各層におけるノードと、各ノードが採用する関数と、ノードの接続関係と、ノード間の接続に対して設定される接続係数とを含む情報である。

例えば、図１３に示す例では、モデルＩＤ「２００１」およびモデルデータ「Ｍ１」といった情報が対応付けて登録されている。このような情報は、例えば、「２００１」が示すモデルのデータが「Ｍ１」である旨を示す。なお、図１３に示す例では、モデルデータベース１２２に登録される情報として、「Ｍ１〜Ｍ４」といった概念的な情報を記載したが、実際には、モデルの構造や接続係数を示す文字列や数値等が登録されることとなる。以下、Ｍ１〜Ｍ４等を総称してモデルＭという。

モデルＭは、第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と第１のテキストに対応するテキストであって生成条件を満たす第２のテキストとに基づいて学習したモデルである。モデルＭは、入力テキストに関する情報から入力テキストに対応するテキストであって生成条件を満たすテキストを生成する。このようなモデルＭは、入力テキストに関する情報を入力する入力層と、入力テキストに対応するテキストであって生成条件を満たすテキストを出力する出力層と、入力層から出力層までのいずれかの層であって出力層以外の層に属する第１要素と、第１要素と第１要素の重みとに基づいて値が算出される第２要素と、を含み、入力層に入力された情報に対し、出力層以外の各層に属する各要素を第１要素として、第１要素と第１要素の重み（すなわち、接続係数）とに基づく演算を行うことにより、入力層に入力された入力テキストに関する情報に応じて、入力テキストに対応するテキストであって生成条件を満たすテキストを出力層から出力するよう、コンピュータを機能させるためのモデルである。

また、モデルＭは、第１のテキストを入力データ、第２のテキストを正解データとし、第２のテキストの関係情報と、第１のテキストをモデルに入力して得られるテキストの関係情報と、の類似度に基づいて学習したモデルであってもよい。このとき、モデルＭは、入力テキストから入力テキストに対応するテキストであって生成条件を満たすテキストを生成する。このようなモデルＭは、入力テキストを入力する入力層と、入力テキストに対応するテキストであって生成条件を満たすテキストを出力する出力層と、入力層から出力層までのいずれかの層であって出力層以外の層に属する第１要素と、第１要素と第１要素の重みとに基づいて値が算出される第２要素と、を含み、入力層に入力された情報に対し、出力層以外の各層に属する各要素を第１要素として、第１要素と第１要素の重み（すなわち、接続係数）とに基づく演算を行うことにより、入力層に入力された入力テキストに応じて、入力テキストに対応するテキストであって生成条件を満たすテキストを出力層から出力するよう、コンピュータを機能させるためのモデルである。

また、モデルＭは、第１のテキストを入力データ、第１の関係情報を正解データとして学習したモデルであってもよい。このとき、モデルＭは、入力テキストから入力テキストの関係情報を生成する。このようなモデルＭは、入力テキストを入力する入力層と、入力テキストの関係情報を出力する出力層と、入力層から出力層までのいずれかの層であって出力層以外の層に属する第１要素と、第１要素と第１要素の重みとに基づいて値が算出される第２要素と、を含み、入力層に入力された情報に対し、出力層以外の各層に属する各要素を第１要素として、第１要素と第１要素の重み（すなわち、接続係数）とに基づく演算を行うことにより、入力層に入力された入力テキストに応じて、入力テキストの関係情報を出力層から出力するよう、コンピュータを機能させるためのモデルである。

ここで、モデルＭが「y=a1*x1+a2*x2+・・・+ai*xi」で示す回帰モデルで実現されるとする。この場合、モデルＭが含む第１要素は、x1やx2等といった入力データ（xi）に対応する。また、第１要素の重みは、xiに対応する係数aiに対応する。ここで、回帰モデルは、入力層と出力層とを有する単純パーセプトロンと見做すことができる。各モデルを単純パーセプトロンと見做した場合、第１要素は、入力層が有するいずれかのノードに対応し、第２要素は、出力層が有するノードと見做すことができる。

また、モデルＭがＤＮＮ（Deep Neural Network）等、１つまたは複数の中間層を有するニューラルネットワークで実現されるとする。この場合、モデルＭが含む第１要素は、入力層または中間層が有するいずれかのノードに対応する。また、第２要素は、第１要素と対応するノードから値が伝達されるノードである次段のノードに対応する。また、第１要素の重みは、第１要素と対応するノードから第２要素と対応するノードに伝達される値に対して考慮される重みである接続係数に対応する。

情報処理装置１０は、上述した回帰モデルやニューラルネットワーク等、任意の構造を有するモデルを用いて、出力テキストの算出を行う。具体的には、モデルＭは、入力テキストに関する情報が入力された場合に、入力テキストに対応するテキストであって生成条件を満たすテキストを出力するように係数が設定される。或いは、モデルＭは、入力テキストを入力するが入力された場合に、入力テキストに対応するテキストであって所定の条件を満たすテキストを出力するように係数が設定される。例えば、情報処理装置１０は、第２のテキストの関係情報と、第１のテキストをモデルＭに入力して得られるテキストの関係情報と、の類似度に基づいて係数を設定する。情報処理装置１０は、このようなモデルＭを用いて、生成条件を満たすテキスト（例えば、見出し）を生成する。なお、モデルＭは、入力テキストが入力された場合に、入力テキストの関係情報を出力するように係数が設定されてもよい。

なお、上記例では、モデルＭが、入力テキスト或いは入力テキストに関する情報が入力された場合に、入力テキストに対応するテキストであって生成条件を満たすテキスト（例えば、見出し）を出力するモデル（以下、モデルＶという。）である例を示した。しかし、実施形態に係るモデルＭは、モデルＶにデータの入出力を繰り返すことで得られる結果に基づいて生成されるモデルであってもよい。例えば、モデルＶは、「入力テキスト或いは入力テキストに関する情報」を入力とし、モデルＶが出力する「入力テキストに対応するテキストであって生成条件を満たすテキスト」を出力とするよう学習されたモデルであってもよい。

また、情報処理装置１０がＧＡＮ（Generative Adversarial Networks）を用いた学習処理或いは生成処理を行う場合、モデルＭは、ＧＡＮの一部を構成するモデルであってもよい。

図１１に戻り、コンテンツ情報データベース１２３には、ユーザに配信されるコンテンツの情報が登録される。例えば、コンテンツ情報データベース１２３には、コンテンツパートナーから取得した記事等が登録される。図１４は、コンテンツ情報データベース１２３に登録される情報の一例を示す図である。コンテンツ情報データベース１２３には、「コンテンツＩＤ」、「本文」、及び「タイトル」といった項目を有する情報が登録される。なお、「コンテンツＩＤ」とは、コンテンツのデータを識別するための識別子である。「本文」、及び「タイトル」は、図１２に示す「本文」、及び「タイトル」と同様である。

図１１に戻り、制御部１３は、コントローラ（controller）であり、例えば、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processing Unit）等のプロセッサによって、情報処理装置１０内部の記憶装置に記憶されている各種プログラムがＲＡＭ等を作業領域として実行されることにより実現される。また、制御部１３は、コントローラであり、例えば、ＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等の集積回路により実現されてもよい。

また、制御部１３は、記憶部１２に記憶されるモデルＭ（モデルＭ１〜Ｍ４等）に従った情報処理により、モデルＭの入力層に入力されたデータ（例えば、関係情報、タイトル）に対し、モデルＭが有する係数（すなわち、モデルＭが学習した各種の特徴に対応する係数）に基づく演算を行い、モデルＭの出力層から出力テキスト（例えば、見出し）を出力する。

制御部１３は、図１１に示すように、学習データ取得部１３１と、関係情報取得部１３２と、学習部１３３と、出力情報取得部１３４と、生成部１３５と、比較部１３６と、出力制御部１３７と、を備える。制御部１３を構成するブロック（学習データ取得部１３１〜出力制御部１３７）はそれぞれ制御部１３の機能を示す機能ブロックである。これら機能ブロックはソフトウェアブロックであってもよいし、ハードウェアブロックであってもよい。例えば、上述の機能ブロックが、それぞれ、ソフトウェア（マイクロプログラムを含む。）で実現される１つのソフトウェアモジュールであってもよいし、半導体チップ（ダイ）上の１つの回路ブロックであってもよい。勿論、各機能ブロックがそれぞれ１つのプロセッサ或いは１つの集積回路であってもよい。機能ブロックの構成方法は任意である。なお、制御部１３は上述の機能ブロックとは異なる機能単位で構成されていてもよい。

学習データ取得部１３１は、学習データとして、第１のテキストに関する情報と、第１のテキストに対応するテキストであって生成条件を満たす第２のテキストと、を取得する。例えば、学習データ取得部１３１は、第１のテキストに関する情報として、第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報を取得する。例えば、学習データ取得部１３１は、第１のテキストに関する情報として、第１の関係情報を取得する。或いは、学習データ取得部１３１は、第１のテキストに関する情報として、第１の関係情報を短縮した第２の関係情報を取得する。或いは、学習データ取得部１３１は、第１のテキストに関する情報として、第１のテキストと第１の関係情報を取得する。学習データ取得部１３１は、第１のテキストと、第１のテキストに対応するテキストであって生成条件を満たす第２のテキストと、を取得する。

関係情報取得部１３２は、第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報を取得する。また、関係情報取得部１３２は、第１の関係情報を短縮した第２の関係情報を取得する。

学習部１３３は、モデルＭの学習を行い、学習したモデルＭをモデルデータベース１２２に格納する。より具体的には、学習部１３３は、第１のテキストに関する情報をモデルＭに入力した際に、モデルＭが第２のテキスト（例えば、入力したタイトルに対応する見出し）を出力するように、モデルＭの接続係数の設定を行う。すなわち、学習部１３３は、入力テキストに関する情報を入力した際に、モデルＭが、入力テキストに対応するテキストであって生成条件を満たす出力テキストを出力するように、モデルＭの学習を行う。また、学習部１３３は、第１のテキストをモデルＭに入力した際に、モデルＭが第２のテキストを出力するように、モデルＭの接続係数の設定を行う。例えば、モデルＭは、第２のテキストの関係情報と、第１のテキストをモデルに入力して得られるテキストの関係情報と、の類似度に基づいてモデルＭの接続係数の設定を行う。

例えば、学習部１３３は、モデルＭが有する入力層のノードであって、入力層に入力される情報と対応する特徴を学習したエンコーダの入力層と対応するノードに第１のテキスト或いは第１のテキストに関する情報を入力し、各中間層を辿ってモデルＭの出力層までデータを伝播させることで、第１のテキストに対応するテキストであって生成条件を満たすテキストを出力させる。そして、学習部１３３は、モデルＭが実際に出力したテキストと、学習データに含まれる第２のテキスト（例えば、見出し）との差に基づいて、モデルＭの接続係数を修正する。例えば、学習部１３３は、バックプロパゲーション等の手法を用いて、接続係数の修正を行ってもよい。モデルＭは、第２のテキストの関係情報と、第１のテキストをモデルに入力して得られるテキストの関係情報と、の類似度に基づいて接続係数の修正を行ってもよい。また、学習部１３３は、第２のテキストの分散表現となるベクトルと、モデルＭが実際に出力したテキストの分散表現となるベクトルとのコサイン類似度に基づいて、接続係数の修正を行ってもよい。

なお、学習部１３３は、いかなる学習アルゴリズムを用いてモデルＭを学習してもよい。例えば、学習部１３３は、ニューラルネットワーク、サポートベクターマシン（support vector machine）、クラスタリング、強化学習等の学習アルゴリズムを用いて、モデルＭを学習してよい。

ここで、学習部１３３は、第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と第２のテキストとに基づいて、入力テキストに関する情報から所定の条件を満たす出力テキストを生成する第１のモデルの学習を行う。このとき、第１のモデルは、出力テキストとして、所定の文字数以下のテキストを生成するモデルであってもよい。

また、学習部１３３は、第１の関係情報を入力データ、第２のテキストを正解データとして第１のモデルの学習を行う。

また、学習部１３３は、第１の関係情報を短縮した第２の関係情報を入力データ、第２のテキストを正解データとして第１のモデルの学習を行う。

また、学習部１３３は、第１のテキストと第１の関係情報とを入力データ、第２のテキストを正解データとして第１のモデルの学習を行う。

また、学習部１３３は、第１のテキストを入力データ、第１の関係情報を正解データとして、入力テキストから入力テキストの関係情報を生成する第２のモデルの学習を行う。

また、学習部１３３は、第１のテキストを入力データ、第２のテキストを正解データとして、入力テキストから所定の条件を満たす出力テキストを生成するモデルの学習を行う。このとき、学習部１３３は、第１のテキストの関係情報或いは第２のテキストの関係情報と、第１のテキストをモデルに入力して得られるテキストの関係情報と、の類似度に基づいて、モデルの学習を行う。

出力情報取得部１３４は、第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習した第１のモデルに入力される入力テキストに関する情報を取得する。出力情報取得部１３４は、第１のテキストを入力データ、第２のテキストを正解データとして学習したモデルに入力される入力テキストを取得する。

生成部１３５は、入力テキストに関する情報を第１のモデルに入力することにより、入力テキストに対応するテキストであって所定の条件を満たす出力テキストを生成する。

第１のモデルは、第１の関係情報を入力データ、第２のテキストを正解データとして学習したモデルである。生成部１３５は、第１のモデルに入力テキストの関係情報を入力することにより、出力テキストを生成する。

第１のモデルは、第１の関係情報を短縮した第２の関係情報を入力データ、第２のテキストを正解データとして学習したモデルである。生成部１３５は、第１のモデルに入力テキストの関係情報を短縮した関係情報を入力することにより、出力テキストを生成する。

第１のモデルは、第１のテキストと第１の関係情報とを入力データ、第２のテキストを正解データとして学習したモデルである。生成部１３５は、第１のモデルに入力テキストと入力テキストの関係情報とを入力することにより、出力テキストを生成する。

第１のモデルは、第１のテキストと第１の関係情報とを入力データ、第２のテキストを正解データとして学習したモデルである。生成部１３５は、第１のテキストを入力データ、第１の関係情報を正解データとして学習した第２のモデルに入力テキストを入力することにより、入力テキストの関係情報を生成する。

また、生成部１３５は、出力テキストとして、所定の文字数以下のテキストを生成する。

また、生成部１３５は、入力テキストをモデルに入力することにより、入力テキストに対応するテキストであって所定の条件を満たす出力テキストを生成する。

比較部１３６は、入力テキストの関係情報と出力テキストの関係情報とを比較する。

出力制御部１３７は、生成部１３５が生成したテキストを利用者に対して出力する。例えば、出力制御部１３７は、端末装置３０からの要求に応じて、生成部１３５が生成したテキストが含まれるコンテンツを配信する。なお、出力制御部１３７は、生成部１３５が生成したテキストが含まれるコンテンツをデータサーバ２０に提供し、データサーバ２０から配信させてもよい。

〔３．情報処理装置の処理フロー〕
次に、情報処理装置１０が実行する処理の手順について説明する。情報処理装置１０は学習処理と生成処理とを実行する。情報処理装置１０はマルチタスクＯＳを備え、これらの処理を並行して実行可能である。

〔３−１．学習処理〕
最初に学習処理を説明する。図１５は、学習処理の一例を示すフローチャートである。学習処理は、入力テキストに関する情報から出力テキストを生成するモデルＭを学習する処理である。情報処理装置１０は、ユーザから処理開始命令を受信すると、学習処理を実行する。

まず、情報処理装置１０は、学習データを取得する（ステップＳ１０１）。例えば、情報処理装置１０は、データサーバ２０から配信コンテンツ（本文及びタイトル）の情報を取得するとともに、配信コンテンツに対応する見出しを取得する。このとき、情報処理装置１０は、タイトルを第１のテキスト、見出しを第２のテキストとして取得する。

続いて、情報処理装置１０は、第１のテキストの関係情報を取得する（ステップＳ１０２）。

続いて、情報処理装置１０は、第１のテキストを入力データ、第１のテキストの関係情報を正解データとして、関係情報生成のためのモデル（例えば、図６に示すモデルＭ２）の学習を実行する（ステップＳ１０３）。

続いて、情報処理装置１０は、第１のテキストの関係情報を入力データ、第２のテキストを正解データとして、第２のテキスト（見出し）生成のためのモデル（例えば、図１に示すモデルＭ１）の学習を実行する（ステップＳ１０４）。情報処理装置１０は、第１のテキストと第１のテキストの関係情報を入力データ、第２のテキストを正解データとして、第２のテキスト（見出し）生成のためのモデル（例えば、図６に示すモデルＭ３）の学習を実行してもよい。

或いは、情報処理装置１０は、第１のテキストと入力データ、第２のテキストを正解データとして、第２のテキスト（見出し）生成のためのモデル（例えば、図９に示すモデルＭ４）の学習を実行してもよい。このとき、情報処理装置１０は、第１のテキストの関係情報或いは第２のテキストの関係情報と、第１のテキストをモデルに入力して得られるテキストの関係情報と、の類似度に基づいて、モデルの学習を行ってもよい。

学習の実行が終了したら、情報処理装置１０は、学習処理を終了する。

〔３−２．生成処理〕
次に生成処理を説明する。図１６は、生成処理の一例を示すフローチャートである。生成処理は、入力テキストに関する情報から出力テキスト（入力テキストの短縮テキスト）を生成する処理である。「入力テキスト」はモデルに直接的或いは間接的に入力されるテキストであり、出力テキストはモデルから出力されるテキストである。また、「入力テキストに関する情報」は、入力テキストの関係情報であってもよいし、入力テキストと入力テキストの関係情報であってもよい。「入力テキストに関する情報」は、入力テキストそのものであってもよい。情報処理装置１０は、ユーザから処理開始命令を受信すると、生成処理を実行する。

まず、情報処理装置１０は、コンテンツ情報を取得する（ステップＳ２０１）。例えば、情報処理装置１０は、データサーバ２０から配信コンテンツ（本文及びタイトル）の情報を取得する。このとき、情報処理装置１０は、タイトルを入力テキストとして取得してもよい。

続いて、情報処理装置１０は、入力テキストの関係情報を取得する（ステップＳ２０２）。このとき、情報処理装置１０は、入力テキストを図６に示すモデルＭ２に入力することにより関係情報を取得してもよい。

続いて、情報処理装置１０は、ステップＳ２０１及び／又はステップＳ２０２で取得した情報をモデルに入力して出力テキストを生成する（ステップＳ２０３）。例えば、情報処理装置１０は、ステップＳ２０２で取得した関係情報を図１に示すモデルＭ１に入力することにより出力テキストを生成する。或いは、情報処理装置１０は、ステップＳ２０１で取得した入力テキストとステップＳ２０２で取得した関係情報を図６に示すモデルＭ３に入力することにより出力テキストを生成する。或いは、情報処理装置１０は、ステップＳ２０１で取得した入力テキストを図９に示すモデルＭ４に入力することにより出力テキストを生成する。

続いて、情報処理装置１０は、入力テキストの関係情報と出力テキストの関係情報との比較を実行する（ステップＳ２０４）。なお、比較の結果、両者が類似しない場合（例えば、類似度が所定の閾値以下の場合）、情報処理装置１０は、両者が類似しない旨をユーザに出力してもよい。

続いて、情報処理装置１０は、ステップＳ２０３で生成した出力テキスト（見出し）をユーザに出力する（ステップＳ２０５）。出力が完了したら、情報処理装置１０は、生成処理を終了する。

〔４．変形例〕
上述の実施形態は一例を示したものであり、種々の変更及び応用が可能である。

例えば、上述の実施形態では、情報処理装置１０は、第１のテキストをタイトル、第２のテキストを見出しとしてモデルＭ１〜Ｍ４の学習を行った。しかし、第１のテキスト、及び第２のテキストは上記の例に限定されない。例えば、情報処理装置１０は、第１のテキストを本文、第２のテキストを見出しとしてモデルＭ１〜Ｍ４の学習を行ってもよい。その他、第１のテキスト、及び第２のテキストとするテキストは任意に変更可能である。同様に、テキストの生成時、入力テキストとするテキストも任意に変更可能である。

また、上述の実施形態では、情報処理装置１０は、第１のテキストを入力データ、第１のテキストの関係情報を正解データとしてモデルＭ２の学習を行った。しかし、情報処理装置１０は、第１のテキストを入力データ、第１のテキストの関係情報を短縮した短縮関係情報を正解データとしてモデルＭ２の学習を行ってもよい。そして、情報処理装置１０は、このように学習したモデルＭ２に第１のテキストを入力することにより、短縮関係情報を生成してもよい。

また、上述の実施形態では、モデルＭを構成するエンコーダおよびデコーダは、ＬＳＴＭにより構成されるものとしたが、ＬＳＴＭ以外のＲＮＮにより構成されていてもよい。モデルＭを構成するエンコーダおよびデコーダは、ＣＮＮ（Convolution Neural Network）等、ＲＮＮ以外のニューラルネットワークであってもよい。その他、モデルＭを構成するエンコーダおよびデコーダは、単純に入力された情報量の次元数を変化させるニューラルネットワークであってもよい。このとき、モデルＭを構成するエンコーダは、入力された情報の次元量を圧縮することで入力された情報が有する特徴を抽出するよう構成されていてもよい。また、モデルＭを構成するデコーダは、エンコーダによって抽出された特徴の次元量を増大させ、エンコーダに入力された情報よりも次元数が少ない情報を出力するよう構成されていてもよい。

本実施形態の情報処理装置１０を制御する制御装置は、専用のコンピュータシステムによって実現してもよいし、通常のコンピュータシステムにより実現してもよい。例えば、上述の動作を実行するためのプログラムまたはデータ（例えば、モデルＭ）を、光ディスク、半導体メモリ、磁気テープ、フレキシブルディスク等のコンピュータ読み取り可能な記録媒体に格納して配布し、該プログラムをコンピュータにインストールし、上述の処理を実行することによって制御装置を構成してもよい。制御装置は、情報処理装置１０の外部の装置（例えば、パーソナルコンピュータ）であってもよいし、内部の装置（例えば、制御部１３）であってもよい。また、上記プログラムをインターネット等のネットワーク上のサーバ装置が備えるディスク装置に格納しておき、コンピュータにダウンロード等できるようにしてもよい。また、上述の機能を、ＯＳ（Operating System）とアプリケーションソフトとの協働により実現してもよい。この場合には、ＯＳ以外の部分を媒体に格納して配布してもよいし、ＯＳ以外の部分をサーバ装置に格納しておき、コンピュータにダウンロード等できるようにしてもよい。

また、上記各実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。

また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。

また、上述してきた各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。

〔５．ハードウェア構成〕
実施形態及び変形例に係る情報処理装置１０は、例えば図１７に示すような構成のコンピュータ１０００によっても実現可能である。図１７は、情報処理装置１０の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ１０００は、ＣＰＵ（Central Processing Unit）１１００、ＲＡＭ１２００、ＲＯＭ１３００、ＨＤＤ（Hard Disk Drive）１４００、通信インタフェース（Ｉ／Ｆ）１５００、入出力インタフェース（Ｉ／Ｆ）１６００、及びメディアインタフェース（Ｉ／Ｆ）１７００を有する。

ＣＰＵ１１００は、ＲＯＭ１３００またはＨＤＤ１４００に格納されたプログラムに基づいて動作し、各部の制御を行う。ＲＯＭ１３００は、コンピュータ１０００の起動時にＣＰＵ１１００によって実行されるブートプログラムや、コンピュータ１０００のハードウェアに依存するプログラム等を格納する。

ＨＤＤ１４００は、ＣＰＵ１１００によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インタフェース１５００は、ネットワークＮを介して他の機器からデータを受信してＣＰＵ１１００へ送り、ＣＰＵ１１００が生成したデータをネットワークＮを介して他の機器へ送信する。

ＣＰＵ１１００は、入出力インタフェース１６００を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。ＣＰＵ１１００は、入出力インタフェース１６００を介して、入力装置からデータを取得する。また、ＣＰＵ１１００は、生成したデータを入出力インタフェース１６００を介して出力装置へ出力する。

メディアインタフェース１７００は、記録媒体１８００に格納されたプログラムまたはデータを読み取り、ＲＡＭ１２００を介してＣＰＵ１１００に提供する。ＣＰＵ１１００は、かかるプログラムを、メディアインタフェース１７００を介して記録媒体１８００からＲＡＭ１２００上にロードし、ロードしたプログラムを実行する。記録媒体１８００は、例えばＤＶＤ（Digital Versatile Disc）、ＰＤ（Phase change rewritable Disk）等の光学記録媒体、ＭＯ（Magneto-Optical disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。

例えば、コンピュータ１０００が実施形態に係る情報処理装置１０として機能する場合、コンピュータ１０００のＣＰＵ１１００は、ＲＡＭ１２００上にロードされたプログラムまたはデータ（例えば、モデルＭ）を実行することにより、制御部１３を実現する。コンピュータ１０００のＣＰＵ１１００は、これらのプログラムまたはデータ（例えば、モデルＭ）を記録媒体１８００から読み取って実行するが、他の例として、他の装置からネットワークＮを介してこれらのプログラムまたはデータ（例えば、モデルＭ）を取得してもよい。

以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の行に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。

〔６．効果〕
本実施形態によれば、情報処理装置１０は、第１のテキストに関する情報と、第１のテキストに対応するテキストであって生成条件を満たす第２のテキストと、を取得する。そして、情報処理装置１０は、第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と第２のテキストとに基づいて、入力テキストに関する情報から生成条件を満たす出力テキストを生成する第１のモデルの学習を行う。このとき、第１のモデルは、出力テキストとして、所定の文字数以下のテキストを生成するモデルであってもよい。第１のモデルは、関係情報に基づき学習しているので不自然な構文のテキストの生成が少ない。第１のモデルを使うことにより、情報処理装置１０は、精度が高いテキストを生成できる。

情報処理装置１０は、第１の関係情報を入力データ、第２のテキストを正解データとして第１のモデルの学習を行う。これにより、情報処理装置１０は、精度が高いモデルを生成できる。結果として、情報処理装置１０は、精度が高いテキストを生成できる。

情報処理装置１０は、第１の関係情報を短縮した第２の関係情報を入力データ、第２のテキストを正解データとして第１のモデルの学習を行う。第１のモデルは、より第２のテキストに近い第２の関係情報（短縮関係情報）に基づき学習している。第１のモデルの精度が高いので、情報処理装置１０は、精度が高いテキストを生成できる。

情報処理装置１０は、第１のテキストと第１の関係情報とを入力データ、第２のテキストを正解データとして第１のモデルの学習を行う。これにより、情報処理装置１０は、精度が高いモデルを生成できる、結果として、情報処理装置１０は、精度が高いテキストを生成できる。

情報処理装置１０は、第１のテキストを入力データ、第１の関係情報を正解データとして、入力テキストから入力テキストの関係情報を生成する第２のモデルの学習を行う。これにより、情報処理装置１０は、関係情報生成のための精度の高いモデルを生成できる。

情報処理装置１０は、第１のテキストと、第１のテキストに対応するテキストであって生成条件を満たす第２のテキストと、を取得する。また、情報処理装置１０は、第１のテキストを入力データ、第２のテキストを正解データとして、入力テキストから生成条件を満たす出力テキストを生成するモデルの学習を行う。そして、情報処理装置１０は、第１のテキストの関係情報或いは第２のテキストの関係情報と、第１のテキストをモデルに入力して得られるテキストの関係情報と、の類似度に基づいて、モデルの学習を行う。情報処理装置１０が生成するモデルは、関係情報の類似度に基づき学習しているので不自然な構文のテキストの生成が少ない。第１のモデルを使うことにより、情報処理装置１０は、精度が高いテキストを生成できる。

情報処理装置１０は、第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と第１のテキストに対応するテキストであって生成条件を満たす第２のテキストとに基づいて学習した第１のモデルに入力される入力テキストに関する情報を取得する。そして、情報処理装置１０は、入力テキストに関する情報を第１のモデルに入力することにより、入力テキストに対応するテキストであって生成条件を満たす出力テキストを生成する。このとき、情報処理装置１０は、出力テキストとして、所定の文字数以下のテキストを生成してもよい。第１のモデルは、関係情報に基づき学習しているので不自然な構文のテキストの生成が少ない。結果として、情報処理装置１０は、精度が高いテキストを生成できる。

情報処理装置１０は、第１のモデルは、第１の関係情報を入力データ、第２のテキストを正解データとして学習したモデルである。そして、情報処理装置１０は、第１のモデルに入力テキストの関係情報を入力することにより、出力テキストを生成する。これにより、情報処理装置１０は、精度が高いテキストを生成できる。

第１のモデルは、第１の関係情報を短縮した第２の関係情報を入力データ、第２のテキストを正解データとして学習したモデルである。情報処理装置１０は、第１のモデルに入力テキストの関係情報を短縮した関係情報を入力することにより、出力テキストを生成する。これにより、情報処理装置１０は、精度が高いテキストを生成できる。第１のモデルは、より第２のテキストに近い第２の関係情報（短縮関係情報）に基づき学習している。第１のモデルの精度が高いので、情報処理装置１０は、精度が高いテキストを生成できる。

第１のモデルは、第１のテキストと第１の関係情報とを入力データ、第２のテキストを正解データとして学習したモデルである。情報処理装置１０は、第１のモデルに入力テキストと入力テキストの関係情報とを入力することにより、出力テキストを生成する。これにより、情報処理装置１０は、精度が高いテキストを生成できる。

情報処理装置１０は、第１のテキストを入力データ、第１の関係情報を正解データとして学習した第２のモデルに入力テキストを入力することにより、入力テキストの関係情報を生成する。これにより、情報処理装置１０は、精度が高いテキストを生成できる。

情報処理装置１０は、第１のテキストを入力データ、第２のテキストを正解データとして学習したモデルに入力される入力テキストを取得する。そして、情報処理装置１０は、入力テキストをモデルに入力することにより、入力テキストに対応するテキストであって生成条件を満たす出力テキストを生成する。そして、情報処理装置１０は、入力テキストの関係情報と出力テキストの関係情報とを比較する。これにより、情報処理装置１０のユーザは、不自然な出力テキストを即座に発見できる。

以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。

また、上述してきた「部（section、module、unit）」は、「手段」や「回路」などに読み替えることができる。例えば、学習部は、学習手段や学習回路に読み替えることができる。

１０…情報処理装置
１１…通信部
１２…記憶部
１２１…学習データデータベース
１２２…モデルデータベース
１２３…コンテンツ情報データベース
１３…制御部
１３１…学習データ取得部
１３２…関係情報取得部
１３３…学習部
１３４…出力情報取得部
１３５…生成部
１３６…比較部
１３７…出力制御部
２０…データサーバ
３０…端末装置
Ｍ１、Ｍ２、Ｍ３、Ｍ４…モデル
Ｅ１、Ｅ２、Ｅ３１、Ｅ３２、Ｅ４…エンコーダ
ＳＭ１…合成モデル
Ｄ１、Ｄ２、Ｄ３、Ｄ４…デコーダ

Claims (20)

1. 第１のテキストに関する情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得部と、
   第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第２のテキストとに基づいて、入力テキストに関する情報から前記所定の条件を満たす出力テキストを生成する第１のモデルの学習を行う学習部と、を備え、
   前記学習部は、前記第１の関係情報を短縮した第２の関係情報を入力データ、前記第２のテキストを正解データとして前記第１のモデルの学習を行う、
   ことを特徴とする学習装置。
2. 第１のテキストに関する情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得部と、
   第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第２のテキストとに基づいて、入力テキストに関する情報から前記所定の条件を満たす出力テキストを生成する第１のモデルの学習を行う学習部と、を備え、
   前記学習部は、前記第１のテキストを入力データ、前記第１の関係情報を正解データとして、前記入力テキストから前記入力テキストの関係情報を生成する第２のモデルの学習を行う、
   ことを特徴とする学習装置。
3. 前記第１のモデルは、前記出力テキストとして、所定の文字数以下のテキストを生成するモデルである、
   ことを特徴とする請求項１又は２に記載の学習装置。
4. 第１のテキストと、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得部と、
   前記第１のテキストを入力データ、前記第２のテキストを正解データとして、入力テキストから前記所定の条件を満たす出力テキストを生成するモデルの学習を行う学習部と、を備え、
   前記学習部は、前記第１のテキストの関係情報或いは前記第２のテキストの関係情報と、前記第１のテキストを前記モデルに入力して得られるテキストの関係情報と、の類似度に基づいて、前記モデルの学習を行う、
   ことを特徴とする学習装置。
5. 第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習した第１のモデルに入力される入力テキストに関する情報を取得する取得部と、
   前記入力テキストに関する情報を前記第１のモデルに入力することにより、前記入力テキストに対応するテキストであって前記所定の条件を満たす出力テキストを生成する生成部と、を備え、
   前記第１のモデルは、前記第１の関係情報を短縮した第２の関係情報を入力データ、前記第２のテキストを正解データとして学習したモデルであり、
   前記生成部は、前記第１のモデルに前記入力テキストの関係情報を短縮した関係情報を入力することにより、前記出力テキストを生成する、
   ことを特徴とする生成装置。
6. 第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習した第１のモデルに入力される入力テキストに関する情報を取得する取得部と、
   前記入力テキストに関する情報を前記第１のモデルに入力することにより、前記入力テキストに対応するテキストであって前記所定の条件を満たす出力テキストを生成する生成部と、を備え、
   前記第１のモデルは、前記第１のテキストと前記第１の関係情報とを入力データ、前記第２のテキストを正解データとして学習したモデルであり、
   前記生成部は、
   前記第１のモデルに前記入力テキストと前記入力テキストの関係情報とを入力することにより、前記出力テキストを生成し、
   前記第１のテキストを入力データ、前記第１の関係情報を正解データとして学習した第２のモデルに前記入力テキストを入力することにより、前記入力テキストの関係情報を生成する、
   ことを特徴とする生成装置。
7. 前記生成部は、前記出力テキストとして、所定の文字数以下のテキストを生成する、
   ことを特徴とする請求項５又は６に記載の生成装置。
8. 第１のテキストを入力データ、第２のテキストを正解データとして学習したモデルに入力される入力テキストを取得する取得部と、
   前記入力テキストを前記モデルに入力することにより、前記入力テキストに対応するテキストであって所定の条件を満たす出力テキストを生成する生成部と、
   前記入力テキストの関係情報と前記出力テキストの関係情報とを比較する比較部と、
   を備えることを特徴とする生成装置。
9. 学習装置が実行する学習方法であって、
   第１のテキストに関する情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得工程と、
   第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第２のテキストとに基づいて、入力テキストに関する情報から前記所定の条件を満たす出力テキストを生成する第１のモデルの学習を行う学習工程と、を含み、
   前記学習工程では、前記第１の関係情報を短縮した第２の関係情報を入力データ、前記第２のテキストを正解データとして前記第１のモデルの学習を行う、
   ことを特徴とする学習方法。
10. 学習装置が実行する学習方法であって、
    第１のテキストに関する情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得工程と、
    第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第２のテキストとに基づいて、入力テキストに関する情報から前記所定の条件を満たす出力テキストを生成する第１のモデルの学習を行う学習工程と、を含み、
    前記学習工程では、前記第１のテキストを入力データ、前記第１の関係情報を正解データとして、前記入力テキストから前記入力テキストの関係情報を生成する第２のモデルの学習を行う、
    ことを特徴とする学習方法。
11. 学習装置が実行する学習方法であって、
    第１のテキストと、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得工程と、
    前記第１のテキストを入力データ、前記第２のテキストを正解データとして、入力テキストから前記所定の条件を満たす出力テキストを生成するモデルの学習を行う学習工程と、を含み、
    前記学習工程では、前記第２のテキストの関係情報と、前記第１のテキストを前記モデルに入力して得られるテキストの関係情報と、の類似度に基づいて、前記モデルの学習を行う、
    ことを特徴とする学習方法。
12. 生成装置が実行する生成方法であって、
    第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習した第１のモデルに入力される入力テキストに関する情報を取得する取得工程と、
    前記入力テキストに関する情報を前記第１のモデルに入力することにより、前記入力テキストに対応するテキストであって前記所定の条件を満たす出力テキストを生成する生成工程と、を含み、
    前記第１のモデルは、前記第１の関係情報を短縮した第２の関係情報を入力データ、前記第２のテキストを正解データとして学習したモデルであり、
    前記生成工程では、前記第１のモデルに前記入力テキストの関係情報を短縮した関係情報を入力することにより、前記出力テキストを生成する、
    ことを特徴とする生成方法。
13. 生成装置が実行する生成方法であって、
    第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習した第１のモデルに入力される入力テキストに関する情報を取得する取得工程と、
    前記入力テキストに関する情報を前記第１のモデルに入力することにより、前記入力テキストに対応するテキストであって前記所定の条件を満たす出力テキストを生成する生成工程と、を含み、
    前記第１のモデルは、前記第１のテキストと前記第１の関係情報とを入力データ、前記第２のテキストを正解データとして学習したモデルであり、
    前記生成工程では、
    前記第１のモデルに前記入力テキストと前記入力テキストの関係情報とを入力することにより、前記出力テキストを生成し、
    前記第１のテキストを入力データ、前記第１の関係情報を正解データとして学習した第２のモデルに前記入力テキストを入力することにより、前記入力テキストの関係情報を生成する、
    ことを特徴とする生成方法。
14. 生成装置が実行する生成方法であって、
    第１のテキストを入力データ、第２のテキストを正解データとして学習したモデルに入力される入力テキストを取得する取得工程と、
    前記入力テキストを前記モデルに入力することにより、前記入力テキストに対応するテキストであって所定の条件を満たす出力テキストを生成する生成工程と、
    前記入力テキストの関係情報と前記出力テキストの関係情報とを比較する比較工程と、
    を含むことを特徴とする生成方法。
15. 第１のテキストに関する情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得手順と、
    第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第２のテキストとに基づいて、入力テキストに関する情報から前記所定の条件を満たす出力テキストを生成する第１のモデルの学習を行う学習手順と、をコンピュータに実行させ、
    前記学習手順では、前記第１の関係情報を短縮した第２の関係情報を入力データ、前記第２のテキストを正解データとして前記第１のモデルの学習を行う、
    ことを特徴とする学習プログラム。
16. 第１のテキストに関する情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得手順と、
    第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第２のテキストとに基づいて、入力テキストに関する情報から前記所定の条件を満たす出力テキストを生成する第１のモデルの学習を行う学習手順と、をコンピュータに実行させ、
    前記学習手順では、前記第１のテキストを入力データ、前記第１の関係情報を正解データとして、前記入力テキストから前記入力テキストの関係情報を生成する第２のモデルの学習を行う、
    ことを特徴とする学習プログラム。
17. 第１のテキストと、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得手順と、
    前記第１のテキストを入力データ、前記第２のテキストを正解データとして、入力テキストから前記所定の条件を満たす出力テキストを生成するモデルの学習を行う学習手順と、をコンピュータに実行させ、
    前記学習手順では、前記第２のテキストの関係情報と、前記第１のテキストを前記モデルに入力して得られるテキストの関係情報と、の類似度に基づいて、前記モデルの学習を行う、
    ことを特徴とする学習プログラム。
18. 第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習した第１のモデルに入力される入力テキストに関する情報を取得する取得手順と、
    前記入力テキストに関する情報を前記第１のモデルに入力することにより、前記入力テキストに対応するテキストであって前記所定の条件を満たす出力テキストを生成する生成手順と、をコンピュータに実行させ、
    前記第１のモデルは、前記第１の関係情報を短縮した第２の関係情報を入力データ、前記第２のテキストを正解データとして学習したモデルであり、
    前記生成手順では、前記第１のモデルに前記入力テキストの関係情報を短縮した関係情報を入力することにより、前記出力テキストを生成する、
    ことを特徴とする生成プログラム。
19. 第１のテキストに含まれる複数のワードのワード間の関係を示す第１の関係情報に関する情報と前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習した第１のモデルに入力される入力テキストに関する情報を取得する取得手順と、
    前記入力テキストに関する情報を前記第１のモデルに入力することにより、前記入力テキストに対応するテキストであって前記所定の条件を満たす出力テキストを生成する生成手順と、をコンピュータに実行させ、
    前記第１のモデルは、前記第１のテキストと前記第１の関係情報とを入力データ、前記第２のテキストを正解データとして学習したモデルであり、
    前記生成手順では、
    前記第１のモデルに前記入力テキストと前記入力テキストの関係情報とを入力することにより、前記出力テキストを生成し、
    前記第１のテキストを入力データ、前記第１の関係情報を正解データとして学習した第２のモデルに前記入力テキストを入力することにより、前記入力テキストの関係情報を生成する、
    ことを特徴とする生成プログラム。
20. 第１のテキストを入力データ、第２のテキストを正解データとして学習したモデルに入力される入力テキストを取得する取得手順と、
    前記入力テキストを前記モデルに入力することにより、前記入力テキストに対応するテキストであって所定の条件を満たす出力テキストを生成する生成手順と、
    前記入力テキストの関係情報と前記出力テキストの関係情報とを比較する比較手順と、
    をコンピュータに実行させるための生成プログラム。

Images