JP6205039B1 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

Abstract

【課題】応答メッセージに対するユーザの満足度を向上させる情報処理装置、情報処理方法、およびプログラムを提供すること。【解決手段】本願にかかる情報処理装置は、受信部と、第１処理部と、第２処理部と、生成部とを備える。受信部は、ユーザのメッセージを受信する。第１処理部は、メッセージに対する応答メッセージ候補を応答メッセージ候補群から選択する選択処理を行う。第２処理部は、単語が出現する順番の確率値に基づいてメッセージに続く単語を評価する評価処理を行う。生成部は、選択処理と評価処理とに基づいて、メッセージに対する応答メッセージを生成する。【選択図】図１

Description

本発明は、情報処理装置、情報処理方法、およびプログラムに関する。

従来、質問文と、正解文、および不正解文を含む文とのペアについて得られる特徴量に基づいて機械学習したランキングモデルを用いて、質問文などのメッセージに対する応答メッセージ候補を生成する情報処理装置が知られている（特許文献１参照）。

特開２０１３−２５４４２０号公報

しかし、上記のようなモデルのみを用いて生成された応答メッセージ候補から生成した応答メッセージは、ユーザのメッセージに対する応答メッセージとしての精度が低く、ユーザの満足度を十分に満たさない場合があり、改善の余地がある。

本願は、上記に鑑みてなされたものであって、応答メッセージに対するユーザの満足度を向上させる情報処理装置、情報処理方法、およびプログラムを提供することを目的とする。

本願にかかる情報処理装置は、受信部と、第１処理部と、第２処理部と、生成部とを備える。受信部は、ユーザのメッセージを受信する。第１処理部は、メッセージに対する応答メッセージ候補を応答メッセージ候補群から選択する選択処理を行う。第２処理部は、単語が出現する順番の確率値に基づいて前記メッセージに続く単語を評価する評価処理を行う。生成部は、選択処理と評価処理とに基づいて、メッセージに対する応答メッセージを生成する。

実施形態の一態様によれば、応答メッセージに対するユーザの満足度を向上させる情報処理装置、情報処理方法、およびプログラムを提供することができる。

図１は、第１実施形態に係る情報処理の説明図である。 図２は、情報処理システムの構成例を示す図である。 図３は、第１実施形態に係る情報処理装置の構成例を示す図である。 図４は、応答メッセージ候補に対するスコアの一例を示す図である。 図５は、実施形態に係る応答メッセージ生成処理の一例を示すフローチャートである。 図６は、第２実施形態に係る情報処理装置の構成例を示す図である。 図７は、第２実施形態に係る応答メッセージ生成処理の一例を示すフローチャートである。 図８は、変形例における応答メッセージ候補に対するスコアの一例を示す図である。 図９は、情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。

以下に、本願にかかる情報処理装置、情報処理方法、およびプログラムを実施するための形態（以下、「実施形態」と呼ぶ）について図面を参照しつつ詳細に説明する。なお、この実施形態により本願にかかる情報処理装置、情報処理方法、およびプログラムが限定されるものではない。

（第１実施形態）
[１．情報処理]
第１実施形態に係る情報処理の一例について説明する。図１は、第１実施形態に係る情報処理の説明図である。

情報処理装置１は、ユーザの端末装置２からユーザの発話に基づくメッセージを受信する（ステップＳ１）。例えば、情報処理装置１は、ユーザから「今日の天気は？」とする発話に基づくメッセージを受信する。

情報処理装置１は、メッセージに対して、マッチングモデルを用いて、メッセージに対する応答メッセージ候補を選択する（ステップＳ２）。

マッチングモデルは、入力されたメッセージを複数次元のベクトルで示す分散表現を用いて、入力されたメッセージに対応する応答メッセージ候補を選択するためのモデルである。

マッチングモデルは、ウェブや、ツイッター（登録商標）などから得られる対話文を学習データとして用い、入力されたメッセージにおける分散表現と、入力されたメッセージに対して相応しい対となる対応メッセージにおける分散表現とが、分散表現空間上で近くに存在するように学習される。マッチングモデルは、例えば、ＬＳＴＭ（Long Short-Term Memory）などのＲＮＮ（Recurrent Neural Network）を分散表現生成に用いたＤＳＳＭ（Deep Structured Sematic Model）の技術を用いて学習され、生成される。

例えば、入力されたメッセージが「今日の天気は？」である場合に、このメッセージに対して「晴れでしょう」、「そうですね」、「おはよう」などの対となる対応メッセージがあった場合には、「晴れでしょう」、「曇りです」、「分かりません」などの分散表現が、分散表現空間上でメッセージ「今日の天気は？」の分散表現の近くに存在するように、マッチングモデルは学習される。また、「今日の天気は？」に対する応答として相応しくない「お帰りなさい」などの分散表現は、分散表現空間上で「今日の天気は？」の分散表現に対して遠くに存在するように、マッチングモデルは学習される。

情報処理装置１は、入力されたメッセージにおける分散表現と、分散表現空間上の対応メッセージの分散表現とのマッチングを行う。

情報処理装置１は、例えば、入力されたメッセージにおける分散表現と、分散表現空間上の対応メッセージ（以下、応答メッセージ候補群と記載する場合がある。）の分散表現とのコサイン類似度を算出し、コサイン類似度が高い分散表現の対応メッセージの中から、所定数の対応メッセージを応答メッセージ候補として選択する。なお、情報処理装置１は、コサイン類似度の代わりに、ユークリッド距離の逆数など、他の尺度を用いて応答メッセージ候補を選択してもよい。

すなわち、情報処理装置１は、応答メッセージ候補群から、メッセージに対する応答メッセージ候補を選択する選択処理を行う。所定数は、予め設定された値である。情報処理装置１は、コサイン類似度が高い順に所定数の対応メッセージを応答メッセージ候補として選択する。

情報処理装置１は、選択された応答メッセージ候補に対し、翻訳モデルを用いて、メッセージに対する応答メッセージ候補の尤もらしさを示すスコアを算出する（ステップＳ３）。

翻訳モデルは、入力されたメッセージを複数次元のベクトルで示す分散表現を用いて、入力されたメッセージに続く単語（メッセージ）を評価し、生成するためのモデルである。翻訳モデルを用いて評価され、生成された応答メッセージは、入力されたメッセージに相応しい応答メッセージである。

翻訳モデルは、ウェブなどから得られる対話文を学習データとして用い、或る入力されたメッセージに対応する対応メッセージの単語がどのような確率で連鎖するかについて学習されたモデルである。

入力されたメッセージを翻訳モデルに与えると、対応する対応メッセージの最初の１単語についての確率表（語彙中の各単語の出現確率）が得られ、さらに、１単語目にどの単語が来るかを決めるとそれに続く２単語目の確率表が得られる。これを繰り返すことで、対向メッセージの単語の系列について順々に確率表を得ることができる。

情報処理装置１は、確率表に基いて１単語目から順番に単語のサンプリングを行うことで応答メッセージ候補の生成を行うことができる。また、情報処理装置１は、応答メッセージ候補があれば、応答メッセージ候補に含まれる単語がどのような確率を持つかを、翻訳モデルで得られる確率表で測ることで、入力されたメッセージに対するその応答メッセージ候補の尤もらしさが評価できる。

翻訳モデルは、例えば、ＬＳＴＭ（Long Short-Term Memory）などの、ＲＮＮ（Recurrent Neural Network）の技術を用いて学習され、生成される。

例えば、翻訳モデルを用いることで、メッセージが「今日の天気は？」であり、その次に「晴れでしょう」とするメッセージが続く場合、「今日の天気は？」に対して、「晴れ」が続く確率値、また「晴れ」の後に「でしょ」が続く確率値などを算出することができる。

情報処理装置１は、翻訳モデルを用いて、メッセージに対し、応答メッセージ候補に含まれる単語が出現する順番の確率値を算出し、メッセージに続く単語を評価する評価処理を行う。

情報処理装置１は、入力されたメッセージに対し、翻訳モデルを用いて各応答メッセージ候補の１単語目が出現する確率値を算出する。そして、情報処理装置１は、各応答メッセージ候補の１単語目に対し、翻訳モデルを用いて２単語目が出現する確率値を算出する。このように、情報処理装置１は、各応答メッセージ候補に含まれる各単語に対し、出現する順番にそれぞれ確率値を算出し、各確率値を総合したスコア、例えば、各確率値の積を取ったスコアを算出する。

入力されたメッセージに対し、応答メッセージ候補において各単語が出現する順番に算出された確率値が大きく、スコアが大きい場合には、その応答メッセージ候補は、応答メッセージとして尤もらしいと評価することができる。

情報処理装置１は、翻訳モデルを用いて算出したスコアが最も大きい応答メッセージ候補を応答メッセージとして選択し、応答メッセージを生成する（ステップＳ４）。

情報処理装置１は、生成した応答メッセージを、ユーザの端末装置２へ送信する（ステップＳ５）。

情報処理装置１は、メッセージに対して、マッチングモデルを用いて応答メッセージ候補を選択した後に、翻訳モデルを用いて応答メッセージを選択する。

マッチングモデルを用いた評価では、どのようなメッセージが入力されるか分からない状態で応答メッセージ候補の分散表現を生成しなければならず、応答メッセージ候補の精緻な評価を行うことが難しい場合がある。これに対し、翻訳モデルを用いた評価では、入力されたメッセージを把握した上で、メッセージに対応した内容が応答メッセージ候補に含まれているかを評価できるので、より適切な評価を行うことができる。

一方、マッチングモデルでは、応答メッセージ候補はすでに分散表現とされており、メッセージの分散表現を生成すると、分散表現同士のマッチングにより、評価を行うことができ、処理時の負荷が小さい。これに対し、翻訳モデルでは、多数の応答メッセージ候補の各単語の確率を評価すると、処理時の負荷が大きい。

このように、マッチングモデルと翻訳モデルとの間では、評価の精緻と、処理時の負荷とがトレードオフの関係にある。

そこで、情報処理装置１は、処理時の負荷が小さいマッチングモデルを用いて、多数の対応メッセージから所定数の応答メッセージ候補まで絞り込みを行い、絞り込まれた応答メッセージ候補についてだけ翻訳モデルを用いて精緻な評価を行う。これにより、システム全体としての精度を高めることができ、メッセージに対する応答メッセージの精度を向上させることができ、ユーザの満足度を向上させることができる。

[２．情報処理システム５の構成]
図２は、情報処理システム５の構成例を示す図である。図２に示すように、第１実施形態に係る情報処理システム５は、情報処理装置１と、端末装置２と、音声認識サーバ３と、音声合成サーバ４とを備える。

端末装置２、音声認識サーバ３、音声合成サーバ４、および情報処理装置１は、ネットワークＮを介して無線または有線で互いに通信可能に接続される。ネットワークＮは、例えば、ＬＡＮ（Local Area Network）や、インターネットなどのＷＡＮ（Wide Area Network）である。

端末装置２は、スマートフォンや、タブレット型端末や、デスクトップ型ＰＣ（Personal Computer）や、ノート型ＰＣや、ＰＤＡ（Personal Digital Assistant）等により実現される。

音声認識サーバ３は、音声情報に対して自然言語処理を実行し、音声データをテキストデータに変換する装置である。音声認識サーバ３は、端末装置２から発話の音声データを受信すると、音声データをテキストデータに変換する。音声認識サーバ３は、音声データを変換したテキストデータを情報処理装置１に送信する。

音声合成サーバ４は、情報処理装置１によって生成された応答メッセージのテキストデータを音声データに変換する。音声合成サーバ４は、テキストデータを変換した音声データを、端末装置２に送信する。

情報処理装置１は、端末装置２から送信されたテキストデータ、または音声認識サーバ３を介して音声データが変換されたテキストデータに基づいて、応答メッセージのテキストデータを生成する。情報処理装置１は、生成した応答メッセージのテキストデータを、音声合成サーバ４、および端末装置２に送信する。

なお、音声認識サーバ３や音声合成サーバ４を、情報処理装置１と一体的に構成してもよい。また、端末装置２が、音声認識機能や、音声合成機能を有する場合には、これらの機能を用いて、音声データとテキストデータとを変換してもよい。

[３．第１実施形態に係る情報処理装置１の構成]
次に、第１実施形態に係る情報処理装置１について、図３を参照し説明する。図３は、第１実施形態に係る情報処理装置１の構成例を示す図である。

ここでは、端末装置２から、ユーザの発話による音声データが送信され、音声データを端末装置２へ送信する例、すなわち、音声による対話を一例として説明するが、テキストデータによる対話であってもよい。

情報処理装置１は、ユーザによる発話があった場合に、端末装置２（図２参照）から音声認識サーバ３（図２参照）を介して送信されたメッセージに対する応答メッセージを生成する応答生成装置である。情報処理装置１は、受信部１０と、送信部２０と、記憶部３０と、制御部４０とを備える。

受信部１０は、ネットワークＮを介して、ユーザによるメッセージを受信する。受信部１０は、ユーザによる発話があった場合には、音声認識データ（図２参照）によって変換された、メッセージに対応するテキストデータを受信する。また、受信部１０は、ネットワークＮを介して外部に設置されたサーバなどからデータを受信する。

記憶部３０は、マッチングモデル記憶部３１と、翻訳モデル記憶部３２とを備える。記憶部３０は、例えば、ＲＡＭ、フラッシュメモリ等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。記憶部３０は、メッセージに対する応答メッセージ候補を選択するために必要な情報を記憶するデータベースを備えてもよい。

マッチングモデル記憶部３１は、マッチングモデルを記憶する。マッチングモデルは、ネットワークＮを介して新たに取得され、更新されてもよい。マッチングモデル記憶部３１は、入力されるメッセージの分散表現に対する応答メッセージ候補の分散表現と、応答メッセージ候補とを一組のリストとして記憶する。

翻訳モデル記憶部３２は、翻訳モデルを記憶する。翻訳モデルは、ネットワークＮを介して新たに取得され、更新されてもよい。

制御部４０は、解析部４１と、第１処理部４２と、第２処理部４３と、生成部４４とを備える。

解析部４１は、受信部１０によって受信したメッセージを解析する。解析部４１は、例えば、受信部１０によってテキストデータが受信されると、形態素解析等を用いてテキストデータを解析し、テキストデータに含まれる単語群を抽出する。

解析部４１は、ユーザの発話により、受信部１０によってメッセージとして、例えば、「今日の天気は？」とするテキストデータが受信された場合、「今日」、「の」、「天気」、「は」の単語を抽出し、テキストデータの内容を特定する。

第１処理部４２は、メッセージの分散表現を生成する。第１処理部４２は、メッセージを分散表現とすることで、類似する内容のメッセージを同じ分散表現として扱うことができる。第１処理部４２は、例えば、「今日の天気は？」や「今日の天気はどうでしょう？」など類似する内容のメッセージを同じ分散表現として扱う。

そして、第１処理部４２は、マッチングモデルを用いて、メッセージの分散表現に対する類似度が高い応答メッセージ候補の分散表現に基づいて、応答メッセージ候補を応答メッセージ候補群から選択する選択処理を行う。具体的には、第１処理部４２は、メッセージの分散表現に対し、コサイン類似度が高い分散表現の対応メッセージを応答メッセージ候補として選択する。例えば、第１処理部４２は、メッセージの分散表現に対し、コサイン類似度が高い分散表現の対応メッセージの中から、所定数の対応メッセージを、応答メッセージ候補として選択する。

例えば、メッセージが「今日の天気は？」であった場合、分散表現空間上で「今日の天気は？」とコサイン類似度が高い「晴れでしょう」や、「曇りです」や、「分かりません」といった対応メッセージが応答メッセージ候補として選択される。なお、ここでは、天気が「晴れ」であることを一例として説明する。

第２処理部４３は、翻訳モデルを用いて、メッセージに対し、応答メッセージ候補に含まれる単語が出現する順番の確率値を算出し、メッセージに続く単語を評価する評価処理を行う。

具体的には、第２処理部４３は、翻訳モデルを用いて、メッセージに対して、応答メッセージ候補に含まれる単語が出現する順番の確率値を算出し、各確率値を総合したスコアを算出する。すなわち、第２処理部４３は、第１処理部４２によって選択された応答メッセージ候補に対して、メッセージに対する尤もらしさを示す評価値としてスコアを算出する。具体的には、第２処理部４３は、各確率値の積をとって応答メッセージ候補の出現確率を算出する。

例えば、メッセージが「今日の天気は？」であった場合、応答メッセージ候補として「晴れでしょう」、「曇りです」、および「分かりません」が選択されたとする。

この場合、第２処理部４３は、翻訳モデルを用いて、「今日の天気は？」に続く単語の確率値を、各応答メッセージ候補に含まれる単語の出現順に算出する。

第２処理部４３は、「今日の天気は？」に対し、その次に「晴れ」が出現する確率値を、翻訳モデルを用いて算出し、さらに、「今日の天気は？晴れ」の次に「でしょ」が出現する確率値を、翻訳モデルを用いて算出する。第２処理部４３は、同様にして応答メッセージ候補「晴れでしょう」について、翻訳モデルを用いて単語が出現する順番の確率値を算出する。そして、第２処理部４３は、各確率値の積を応答メッセージ候補「晴れでしょう」に対するスコアとして算出する。

例えば、「今日の天気は？」に続く単語「晴れ」の確率値が「０．２」、「今日の天気は？晴れ」の次に続く単語「でしょ」の確率値が「０．４」、「今日の天気は？晴れでしょ」の次に続く単語「う」の確率値が「０．５」、「今日の天気は？晴れでしょう」で終わる確率値が「０．６」であった場合、各確率値の積であるスコアは図４に示すように、「２．８８×１０^−２」になる。図４は、応答メッセージ候補に対するスコアの一例を示す図である。なお、図４では、文章の終わりを「ＥＯＳ（End Of Sentence）」として示している。

メッセージ「今日の天気は？」に対し、応答メッセージ候補「晴れでしょう」が尤もらしい場合には、スコアが大きくなる。

また、第２処理部４３は、「曇りです」、および「分かりません」の応答メッセージ候補についても、同様に確率値を算出し、各応答メッセージ候補に対するスコアを算出する。

例えば、「今日の天気は？」に続く単語「曇り」の確率値が「０．０５」、「今日の天気は？曇り」の次に続く単語「です」の確率値が「０．４」、「今日の天気は？曇りです」で終わる確率値が「０．７」であった場合、スコアは図４に示すように、「１．４０×１０^−２」になる。

また、例えば、「今日の天気は？」に続く単語「分かり」の確率値が「０．０１」、「今日の天気は？分かり」の次に続く単語「ませ」の確率値が「０．２」、「今日の天気は？分かりませ」の次に続く単語「ん」の確率値が「０．５」、「今日の天気は？分かりません」で終わる確率値が「０．６」であった場合、スコアは図４に示すように、「６．００×１０^−４」になる。

生成部４４は、第２処理部４３によって算出されたスコアが最も大きい応答メッセージ候補を応答メッセージとして選択し、応答メッセージを生成する。

例えば、第２処理部４３によって算出された、上記３つの応答メッセージ候補におけるスコアが図４に示すようになった場合、生成部４４は、スコアが最も大きい「晴れでしょう」の応答メッセージ候補を応答メッセージとして選択し、応答メッセージを生成する。

送信部２０は、ネットワークＮを介して、端末装置２や、音声合成サーバ４（図２参照）に、生成部４４によって作成された応答メッセージを送信する。

[４．第１実施形態に係る応答メッセージ生成処理]
次に、第１実施形態に係る応答メッセージ生成処理について図５を参照し説明する。図５は、第１実施形態に係る応答メッセージ生成処理の一例を示すフローチャートである。

第１処理部４２は、受信部１０によってメッセージが受信されると（ステップＳ１０）、マッチングモデルを用いて選択処理を行い、メッセージに対する応答メッセージ候補を選択する（ステップＳ１１）。

第２処理部４３は、選択された応答メッセージ候補に対して、翻訳モデルを用いて評価処理を行い、各応答メッセージ候補に対する尤もらしさを示すスコアを算出する（ステップＳ１２）。

生成部４４は、スコアが最も大きい応答メッセージ候補を応答メッセージとして選択し、応答メッセージを生成する（ステップＳ１３）。

送信部２０は、生成された応答メッセージをユーザの端末装置２へ送信する（ステップＳ１４）。

（第２実施形態）
[５．第２実施形態に係る情報処理装置１の構成]
次に第２実施形態に係る情報処理装置１について、図６を参照し説明する。図６は、第２実施形態に係る情報処理装置１の構成例を示す図である。

ここでは第１実施形態と異なる箇所を中心に説明し、第１実施形態と同じ構成については説明を省略する。

第２実施形態に係る情報処理装置１の記憶部３０は、言語モデル記憶部３３を備える。また、第２実施形態に係る情報処理装置１の制御部４０は、第３処理部４５を備える。

言語モデル記憶部３３は、言語モデルを記憶する。言語モデルは、ネットワークＮを介して新たに取得され、更新されてもよい。

言語モデルは、ウェブなどから得られる文章を学習データとして用い、一般的な応答で使用される応答メッセージ候補の出現率を統計的にまとめたモデルである。言語モデルは、例えば、ＬＳＴＭ（Long Short-Term Memory）などの、ＲＮＮ（Recurrent Neural Network）の技術を用いて学習され、生成される。

言語モデルでは、応答メッセージ候補の出現率に応じて重み付けされたスコアが付されている。例えば、「いいね」、「そうだね」など、出現率が所定率よりも高い高頻度の応答メッセージ候補に対して大きいスコアが付される。

第３処理部４５は、言語モデルを用いて、高頻度の応答メッセージ候補が応答メッセージとして生成される確率値を低くする調整処理を行う。具体的には、第３処理部４５は、言語モデルを用いて、第１処理部４２によって選択された各応答メッセージ候補に対するスコアを算出する。

生成部４４は、第２処理部４３によって算出された応答メッセージ候補のスコアから、第３処理部４５によって言語モデルを用いて算出されたスコアを減算し、減算したスコア中でスコアが最も大きい応答メッセージ候補を応答メッセージとして選択する。

第２処理部４３によって算出された応答メッセージ候補のスコアから、第３処理部４５によって算出したスコアを減算することで、一般的な応答として、高頻度で使用される応答メッセージ候補が応答メッセージとして選択されることを抑制することができる。

なお、第３処理部４５は、各応答メッセージ候補に対し、言語モデルの与えるスコアが大きくなるほど値が小さくなるような係数を算出し、第２処理部４３によって算出された応答メッセージ候補のスコアに、算出した係数を乗算してもよい。

[６．第２実施形態に係る応答メッセージ生成処理]
次に、第２実施形態に係る応答メッセージ生成処理について図７を参照し説明する。図７は、第２実施形態に係る応答メッセージ生成処理の一例を示すフローチャートである。

第１処理部４２は、受信部１０によってメッセージが受信されると（ステップＳ２０）、マッチングモデルを用いて選択処理を行い、メッセージに対する応答メッセージ候補を選択する（ステップＳ２１）。

第２処理部４３は、選択された応答メッセージ候補に対して、翻訳モデルを用いて評価処理を行い、各応答メッセージ候補に対する尤もらしさを示すスコアを算出する（ステップＳ２２）。

第３処理部４５は、言語モデルを用いて調整処理を行い、各応答メッセージ候補に対するスコアを算出する（ステップＳ２３）。

生成部４４は、第２処理部４３によって翻訳モデルを用いて算出したスコアから、第３処理部４５によって言語モデルを用いて算出したスコアを減算し、減算したスコアの中でスコアが最も大きい応答メッセージ候補を応答メッセージとして選択し、応答メッセージを生成する（ステップＳ２４）。

送信部２０は、生成された応答メッセージをユーザの端末装置２へ送信する（ステップＳ２５）。

[７．変形例]
上記実施形態に加えて、以下の変形例を適用することも可能である。

変形例に係る情報処理装置１は、第１処理部４２と、第２処理部４３とにおける処理の順番を入れ替えて応答メッセージを生成する。

第２処理部４３は、翻訳モデルを用いて、単語が出現する順番の確率値に基づいてメッセージに続く単語を評価する評価処理を行い、評価結果に基づいて応答メッセージ候補を生成する。

具体的には、第２処理部４３は、メッセージを前提としたときの応答メッセージ候補の１単語目として、語彙中の各単語がどれだけの確率で現れうるかの確率表を生成し、それをもとに最も確率の高いＮ個（Ｎは予め設定された値）の単語を選ぶか、もしくは確率表をもとにしたランダムサンプリングを行うことにより、１単語目を決定する。続いてメッセージおよび１単語目を前提とした次の単語の確率表を生成し、それをもとに同様に２単語目を決定する。このような処理を繰り返し、第２処理部４３は、メッセージに対する応答メッセージ候補を自動的に生成し、複数の応答メッセージ候補からなる応答メッセージ候補群を生成する。

第１処理部４２は、第２処理部４３によって生成された応答メッセージ候補群の中から、メッセージに対して尤もらしい応答メッセージ候補を選択する選択処理を行う。具体的には、第１処理部４２は、応答メッセージ候補群の中から、メッセージの分散表現に対しコサイン類似度が最も大きい分散表現となる応答メッセージ候補を選択し、応答メッセージ候補をさらに絞り込む。

生成部４４は、第１処理部４２によって絞りこまれた応答メッセージ候補を、応答メッセージとして選択し、応答メッセージを生成する。

例えば、第２処理部４３によって応答メッセージとして相応しくない応答メッセージ候補が生成された場合であっても、そのような応答メッセージ候補の分散表現は、分散表現空間上、メッセージの分散表現に対して遠くに存在する。

そのため、第１処理部４２は、マッチングモデルを用いて応答メッセージ候補をさらに絞り込むことで、応答メッセージとして相応しくない応答メッセージ候補が応答メッセージとして選択されることを抑制することができる。

変形例の情報処理装置１は、第２処理部４３により応答メッセージ候補を生成することで、メッセージに対する応答メッセージ候補を多様化させることができる。

また、変形例の情報処理装置１は、例えば、第２処理部４３によって応答メッセージ候補として「晴れだよ」が生成された場合に、別の翻訳モデルを用いて、より自然な文に置き換えて「晴れです」といった応答メッセージを生成してもよい。別の翻訳モデルは、不適切な文と、適切な文のペアの例を大量に学習データとして用い、不適切な文が与えられた場合に、適切な文を生成するモデルである。そして、情報処理装置１は、第１処理部４２によって、適切な文として生成された応答メッセージ候補の中から応答メッセージを選択する。

また、翻訳モデルにおいて、例えば、「いいね」、「そうだね」といった一般的な応答となる応答メッセージ候補が作成され難いように、翻訳モデルを学習する際に、一般的な応答となる対応メッセージにおいて、出現する単語の順番の確率値が小さくなるように学習してもよい。例えば、学習データ中の入力されたメッセージと対応メッセージの組において、「明日は晴れるらしいよ」に対して一般的な応答となる「そうだね」と回答しているようなものを間引く前処理を行った上で翻訳モデルを学習させる。これにより、第２処理部４３によって、一般的な応答となる応答メッセージ候補が生成されることを抑制することができる。そのため、変形例の情報処理装置１は、ユーザの満足度を向上させることができる。

また、上記変形例に加えて、以下の変形例を適用することが可能である。

第２処理部４３は、各確率値の対数の和をスコアとして算出してもよい。

第２処理部４３は、確率値の相乗平均（あるいは確率値の対数の相加平均）をスコアとして算出してもよい。相乗平均をスコアとして算出した一例を図８に示す。この場合、応答メッセージ候補「晴れでしょう」のスコアが「０．４１２」となり、「曇りです」のスコアが「０．２４１」となり、「分かりません」のスコアが「０．１５７」となる。したがって、応答メッセージ候補「晴れでしょう」が応答メッセージとして選択される。

また、第２処理部４３は、各確率値の積と、各確率値の相乗平均とを総合したスコア、あるいは確率値の対数の和と、各確率値の対数の相加平均とを総合したスコアを算出してもよい。なお、例えば、確率値の対数をとった場合に、第２処理部４３は、対数にマイナスの符号を付けて、コスト値としてもよい。この場合、コスト値が小さくなると、尤もらしいと評価される。

これにより、短い文の応答メッセージ候補のスコアが高くなることを抑制し、応答メッセージ候補の長さに左右されない評価を行うことができ、適切な応答メッセージ候補を応答メッセージとして選択することができる。

第２処理部４３は、ユーザのコンテキストを考慮して、応答メッセージ候補のスコアを算出してもよい。コンテキストは、例えば、ユーザの発話時間や、ユーザの現在位置などである。第２処理部４３は、例えば、単語が出現する確率値をコンテキストに応じて変更する。

例えば、翻訳モデルは、学習時に、入力されたメッセージを前提として対応メッセージとして何が来るか学習させる形だったところを、発話時間と入力されたメッセージとの組に対して対応メッセージに何が来るか学習させる形に変更され学習される。第２処理部４３は、例えば、応答メッセージ候補を生成する際に、同様に発話時間を入力情報として用いる。学習データ中では発話時間が夕方や夜である場合に「おはよう」という対応メッセージが現れるケースが非常に少ないので、翻訳モデルではそれが学習され、そのような時間帯に「おはよう」が出現する確率値を低くする。

これにより、生成部４４は、ユーザのコンテキストに合わせて、応答メッセージを選択することができる。そのため、情報処理装置１は、応答メッセージに対するユーザの満足度を向上させることができる。

第２処理部４３は、単語が出現する確率値を、「attention mechanism」を用いて算出してもよい。第２処理部４３は、「attention mechanism」を用いることで、メッセージ中の情報を一律に用いるのではなく、生成しようとしている単語に対して関連の強い箇所に、より強く重み付けをする形でメッセージの情報を再解釈しながら、確率値を算出する。

これにより、第２処理部４３は、メッセージに対する応答メッセージ候補の尤もらしさを正確に評価することができる。そのため、情報処理装置１は、より正確な応答メッセージをユーザに提供することができ、応答メッセージに対するユーザの満足度を向上させることができる。

また、マッチングモデルを学習する際に、応答メッセージとして相応しくないメッセージ、例えば、罵倒語や、卑猥語などを含む文例を除いて、マッチングモデルを学習させてもよい。

これにより、そのような単語を含む応答メッセージ候補が選択されることを防ぐことができる。

また、解析部４１は、文字単位で解析を行ってもよく、単語群を抽出せずに解析を行ってもよい。

[８．効果]
情報処理装置１は、受信部１０と、第１処理部４２と、第２処理部４３と、生成部４４とを備える。受信部１０は、ユーザのメッセージを受信する。第１処理部４２は、メッセージに対する応答メッセージ候補を応答メッセージ候補群から選択する選択処理を行う。第２処理部４３は、単語が出現する順番の確率値に基づいてメッセージに続く単語を評価する評価処理を行う。生成部４４は、選択処理と評価処理とに基づいて、メッセージに対する応答メッセージを生成する。

これにより、情報処理装置１は、応答メッセージの精度を向上させることができ、応答メッセージに対するユーザの満足度を向上させることができる。

第２処理部４３は、第１処理部４２によって選択された応答メッセージ候補に対して、評価処理を行い、メッセージに対する応答メッセージ候補の尤もらしさを示すスコアを算出する。生成部４４は、スコアに基づいて、メッセージに対する応答メッセージを生成する。

これにより、情報処理装置１は、第１処理部４２によって選択された応答メッセージ候補に対して、評価処理を行うので評価処理における負荷を小さくし、必要な時間を短くし、応答メッセージをユーザの端末装置２に素早く送信することができる。また、情報処理装置１は、評価処理によって精緻な評価を行うことができ、メッセージに対する応答メッセージの精度を向上させることができ、ユーザの満足度を向上させることができる。

また、情報処理装置１は、第１処理部４２によってマッチングモデルを用いて応答メッセージ候補を選択するので、相応しくない応答メッセージ候補が選択（生成）されることを抑制することができる。

第２処理部４３は、評価処理に基づいて、メッセージに対する応答メッセージ候補を生成する。第１処理部４２は、第２処理部４３によって生成された応答メッセージ候補から、さらに応答メッセージ候補を絞り込む。そして、生成部４４は、第１処理部４２によって絞り込んだ応答メッセージ候補に基づいて、応答メッセージを生成する。

これにより、情報処理装置１は、第２処理部４３によって応答メッセージ候補を自動的に生成することで、応答メッセージ候補を多様化させることができる。

また、情報処理装置１は、第１処理部４２によって応答メッセージ候補を、より自然な文に置き換えることができる。そのため、ユーザの満足度を向上させることができる。

第１処理部４２は、メッセージの分散表現と、応答メッセージ候補の分散表現との間の類似度に基づいて応答メッセージ候補を選択する選択処理を行う。

これにより、情報処理装置１は、類似するメッセージに対して、応答メッセージ候補を選択することができ、類似するメッセージに対しても適切な応答メッセージを生成することができ、応答メッセージに対するユーザの満足度を向上させることができる。

第２処理部４３は、ユーザのコンテキスト、および単語が出現する順番の確率値に基づいて評価処理を行う。

これにより、情報処理装置１は、ユーザのコンテキストに応じて応答メッセージを生成することができ、ユーザの満足度を向上させることができる。

情報処理装置１は、出現率が所定率よりも高い高頻度の応答メッセージ候補に対し、高頻度の応答メッセージ候補が応答メッセージとして生成される確率値を低くする調整処理を行う第３処理部４５を備える。生成部４４は、選択処理と探索処理と調整処理とに基づいて、メッセージに対する応答メッセージを生成する。

これにより、情報処理装置１は、高頻度の応答メッセージ候補が応答メッセージとして生成される確率値を低くすることができ、ユーザの満足度を向上させることができる。

[９．ハードウェアの構成]
上記してきた実施形態に係る情報処理装置１は、例えば図９に示すような構成のコンピュータ１０００によって実現される。図９は、情報処理装置１の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ１０００は、ＣＰＵ１１００、ＲＡＭ１２００、ＲＯＭ１３００、ＨＤＤ１４００、通信インターフェイス（Ｉ／Ｆ）１５００、入出力インターフェイス（Ｉ／Ｆ）１６００、及びメディアインターフェイス（Ｉ／Ｆ）１７００を有する。

ＣＰＵ１１００は、ＲＯＭ１３００またはＨＤＤ１４００に格納されたプログラムに基づいて動作し、各部の制御を行う。ＲＯＭ１３００は、コンピュータ１０００の起動時にＣＰＵ１１００によって実行されるブートプログラムや、コンピュータ１０００のハードウェアに依存するプログラム等を格納する。

ＨＤＤ１４００は、ＣＰＵ１１００によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス１５００は、ネットワークＮを介して他の機器からデータを受信してＣＰＵ１１００へ送り、ＣＰＵ１１００が決定したデータをネットワークＮを介して他の機器へ送信する。

ＣＰＵ１１００は、入出力インターフェイス１６００を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。ＣＰＵ１１００は、入出力インターフェイス１６００を介して、入力装置からデータを取得する。また、ＣＰＵ１１００は、決定したデータを入出力インターフェイス１６００を介して出力装置へ出力する。

メディアインターフェイス１７００は、記録媒体１８００に格納されたプログラムまたはデータを読み取り、ＲＡＭ１２００を介してＣＰＵ１１００に提供する。ＣＰＵ１１００は、かかるプログラムを、メディアインターフェイス１７００を介して記録媒体１８００からＲＡＭ１２００上にロードし、ロードしたプログラムを実行する。記録媒体１８００は、例えばＤＶＤ（Digital Versatile Disc）、ＰＤ（Phase change rewritable Disk）等の光学記録媒体、ＭＯ（Magneto-Optical disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。

例えば、コンピュータ１０００が実施形態に係る情報処理装置１として機能する場合、コンピュータ１０００のＣＰＵ１１００は、ＲＡＭ１２００上にロードされたプログラムを実行することにより、制御部４０の機能を実現する。コンピュータ１０００のＣＰＵ１１００は、これらのプログラムを記録媒体１８００から読み取って実行するが、他の例として、他の装置からネットワークＮを介してこれらのプログラムを取得してもよい。

以上、本願の実施形態及び変形例のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の行に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。

[１０．その他]
また、上記実施形態及び変形例において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。

また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。

また、上述してきた実施形態及び変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。

また、上述してきた「部（section、module、unit）」は、「手段」や「回路」などに読み替えることができる。例えば、受信部１０は、受信手段や受信回路に読み替えることができる。

１ 情報処理装置
２ 端末装置
１０ 受信部
２０ 送信部
３０ 記憶部
４０ 制御部
４１ 解析部
４２ 第１処理部
４３ 第２処理部
４４ 生成部
４５ 第３処理部

Claims (10)

1. ユーザのメッセージを受信する受信部と、
   前記メッセージに対する応答メッセージ候補を応答メッセージ候補群から選択する選択処理を行う第１処理部と、
   単語が出現する直前までの、前記メッセージおよび前記メッセージに続いて出現した単語に対して単語が出現する確率値を算出し、算出した各確率値の積を用いて、前記メッセージに続く単語を評価する評価処理を行う第２処理部と、
   前記選択処理と前記評価処理とに基づいて、前記メッセージに対する応答メッセージを生成する生成部と
   を備えることを特徴とする情報処理装置。
2. 前記第２処理部は、
   前記各確率値の積と、前記各確率値の相乗平均とに基づいて、前記メッセージに続く単語を評価する前記評価処理を行う
   ことを特徴とする請求項１に記載の情報処理装置。
3. 前記第２処理部は、
   前記第１処理部によって選択された前記応答メッセージ候補に対して、前記評価処理を行い、前記メッセージに対する前記応答メッセージ候補の尤もらしさを示すスコアを算出し、
   前記生成部は、
   前記スコアに基づいて、前記メッセージに対する前記応答メッセージを生成する
   ことを特徴とする請求項１または２に記載の情報処理装置。
4. ユーザのメッセージを受信する受信部と、
   前記メッセージに対する応答メッセージ候補を応答メッセージ候補群から選択する選択処理を行う第１処理部と、
   単語が出現する直前までの、前記メッセージおよび前記メッセージに続いて出現した単語に対して単語が出現する確率値に基づいて、前記メッセージに続く単語を評価する評価処理を行う第２処理部と、
   前記第１処理部によって絞り込んだ前記応答メッセージ候補を応答メッセージとして生成する生成部と
   を備え、
   前記第２処理部は、
   前記評価処理に基づいて、前記メッセージに対する前記応答メッセージ候補を含む前記応答メッセージ候補群を生成し、
   前記第１処理部は、
   前記第２処理部によって生成された前記応答メッセージ候補群から、前記メッセージの分散表現と、前記応答メッセージ候補の分散表現との間の類似度に基づいて前記応答メッセージ候補を選択する前記選択処理を行う、
   ことを特徴とする情報処理装置。
5. 前記第２処理部は、
   前記ユーザのコンテキスト、および前記単語が出現する順番の前記確率値に基づいて前記評価処理を行う
   ことを特徴とする請求項１から４のいずれか一つに記載の情報処理装置。
6. 出現率が所定率よりも高い高頻度の応答メッセージ候補に対し、前記高頻度の応答メッセージ候補が前記応答メッセージとして生成される確率値を低くする調整処理を行う第３処理部
   を備え、
   前記生成部は、
   前記選択処理と前記評価処理と前記調整処理とに基づいて、前記メッセージに対する前記応答メッセージを生成する
   ことを特徴とする請求項１から５のいずれか一つに記載の情報処理装置。
7. 情報処理装置が実行する情報処理方法であって、
   ユーザのメッセージを受信する受信工程と、
   前記メッセージに対する応答メッセージ候補を応答メッセージ候補群から選択する選択処理を行う第１処理工程と、
   単語が出現する直前までの、前記メッセージおよび前記メッセージに続いて出現した単語に対して単語が出現する確率値を算出し、算出した各確率値の積を用いて、前記メッセージに続く単語を評価する評価処理を行う第２処理工程と、
   前記選択処理と前記評価処理とに基づいて、前記メッセージに対する応答メッセージを生成する生成工程と
   を含むことを特徴とする情報処理方法。
8. 情報処理装置が実行する情報処理方法であって、
   ユーザのメッセージを受信する受信工程と、
   前記メッセージに対する応答メッセージ候補を応答メッセージ候補群から選択する選択処理を行う第１処理工程と、
   単語が出現する直前までの、前記メッセージおよび前記メッセージに続いて出現した単語に対して単語が出現する確率値に基づいて、前記メッセージに続く単語を評価する評価処理を行う第２処理工程と、
   前記第１処理部によって絞り込んだ前記応答メッセージ候補を応答メッセージとして生成する生成工程と
   を含み、
   前記第２処理工程では、
   前記評価処理に基づいて、前記メッセージに対する前記応答メッセージ候補を含む前記応答メッセージ候補群が生成され、
   前記第１処理工程では、
   前記第２処理工程によって生成された前記応答メッセージ候補群から、前記メッセージの分散表現と、前記応答メッセージ候補の分散表現との間の類似度に基づいて前記応答メッセージ候補を選択する前記選択処理が行われる、
   ことを特徴とする情報処理方法。
9. ユーザのメッセージを受信する受信手順と、
   前記メッセージに対する応答メッセージ候補を応答メッセージ候補群から選択する選択処理を行う第１処理手順と、
   単語が出現する直前までの、前記メッセージおよび前記メッセージに続いて出現した単語に対して単語が出現する確率値を算出し、算出した各確率値の積を用いて、前記メッセージに続く単語を評価する評価処理を行う第２処理手順と、
   前記選択処理と前記評価処理とに基づいて、前記メッセージに対する応答メッセージを生成する生成手順と
   をコンピュータに実行させることを特徴とするプログラム。
10. ユーザのメッセージを受信する受信手順と、
    前記メッセージに対する応答メッセージ候補を応答メッセージ候補群から選択する選択処理を行う第１処理手順と、
    単語が出現する直前までの、前記メッセージおよび前記メッセージに続いて出現した単語に対して単語が出現する確率値に基づいて、前記メッセージに続く単語を評価する評価処理を行う第２処理手順と、
    前記第１処理手順によって絞り込んだ前記応答メッセージ候補を応答メッセージとして生成する生成手順と
    をコンピュータに実行させ、
    前記第２処理手順では、
    前記評価処理に基づいて、前記メッセージに対する前記応答メッセージ候補を含む前記応答メッセージ候補群が生成され、
    前記第１処理手順では、
    前記第２処理手順によって生成された前記応答メッセージ候補群から、前記メッセージの分散表現と、前記応答メッセージ候補の分散表現との間の類似度に基づいて前記応答メッセージ候補を選択する前記選択処理が行われる、
    ことを特徴とするプログラム。
    

Images