JP2021096847A - ユーザの発言に基づくマルチメディア推奨 - Google Patents

Abstract

【課題】ユーザの発言に基づくマルチメディア推奨のための方法及びシステムを提供する。【解決手段】方法は、ユーザの対話及び予めトレーニングされた言語モデルを取得するステップと、対話コーパス及び応答素材コーパスを取得するステップと、予めトレーニングされた言語モデルを変更するステップと、ユーザの対話の対話トピックを識別するステップと、応答トピックセットを識別するステップと、応答素材コーパスから応答素材セットを選択するステップと、第１の複数の確率と、応答素材セットの各応答素材についてそれぞれの第２の複数の確率と、を決定するステップと、第１の複数の単語を、応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語と比較するステップと、比較に基づき応答素材セットの応答素材を選択するステップと、を含む。【選択図】図３

Description

本開示において議論される実施形態は、ユーザの発言に基づくマルチメディアの推奨に関連する。

ユーザの発言に対する適切な応答を識別することは、ラベルのトレーニング無しでは困難である可能性がある。種々のマルチメディアは、ユーザの発言に対して応答するために使用されてよく、ユーザの発言の中で記録された関心事を解決することに関連してよい。種々の方法及びシステムは、ユーザの発言の感情的及び／又はトピック特性に適切に応答するために、ユーザの発言に対する可能な応答を識別しようとする試みにおいて使用されてよい。

本開示で請求される主題は、任意の欠点を解決する実施形態又は上述のような環境でのみ動作する実施形態に限定されない。むしろ、この背景技術は、本開示に記載の幾つかの実施形態が実施され得る一例である技術領域を説明するためにのみ提供される。

方法は、ユーザの対話を取得するステップを含んでよい。前記対話は第１の複数の単語を含んでよい。前記方法は、予めトレーニングされた言語モデルを変更するステップを更に含んでよい。前記方法は、対話コーパスを取得するステップを更に含んでよい。前記対話コーパスは、個人間の複数の通信を含んでよい。前記対話コーパスは、トレーニングラベルを含まなくてよい。前記方法は、応答素材コーパスを取得するステップを含んでよい。前記応答素材コーパスは、個人の通信に対する可能な応答を含んでよい。前記応答素材コーパスの各応答素材は、それぞれの第２の複数の単語に関連付けられてよい。前記応答素材コーパスは、トレーニングラベルを含まなくてよい。前記方法は、前記対話コーパス及び前記応答素材コーパスを用いて、前記予めトレーニングされた言語モデルを変更して、前記対話コーパスに基づき対話トピックを識別し、前記応答素材コーパスに基づき対話に対する応答を識別するステップを更に含んでよい。前記方法は、前記変更された言語モデルを用いて、前記ユーザの前記対話の対話トピックを識別するステップを更に含んでよい。前記方法は、前記変更された言語モデルを用いて、応答トピックセットを識別するステップを更に含んでよい。前記応答トピックセットの各応答トピックは、前記応答素材コーパスのそれぞれの応答素材に対応してよい。前記方法は、前記応答素材コーパスから応答素材セットを選択するステップを更に含んでよい。前記応答素材セットの各応答素材は、前記対話トピックに一致する前記それぞれの応答素材に対応するそれぞれの応答トピックに基づき選択されてよい。前記方法は、第１の複数の確率を決定するステップを更に含んでよい。前記第１の複数の確率のうちの各確率は、前記変更された言語モデルに基づき、前記第１の複数の単語の中の各単語の発生確率に対応してよい。前記方法は、前記応答素材セットの各応答素材について、それぞれの第２の複数の確率を決定するステップを更に含んでよい。前記それぞれの第２の複数の確率のうちの各確率は、前記変更された言語モデルに基づき、前記応答素材セットの各応答素材に関連付けられたそれぞれの第２の複数の単語の中の各単語の発生確率に対応してよい。前記方法は、前記第１の複数の単語を、前記応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語と比較して、前記第１の複数の単語とそれぞれの複数の第２の単語との間の類似度を決定するステップを含んでよい。前記方法は、前記比較に基づき、及び前記第１の複数の確率及び前記それぞれの第２の複数の確率が前記応答素材に対応することに基づき、前記応答素材セットの応答素材を選択するステップを更に含んでよい。

実施形態の目的及び利点は、請求項において特に指摘される要素、特徴、及び組み合わせにより少なくとも実現され達成される。

前述の一般的説明及び以下の詳細な説明は両方とも例として与えられ、説明のためであり、請求される本発明の限定ではない。

例示的な実施形態は、以下の添付の図面の使用を通じて更なる特殊性及び詳細事項により記載され説明される。

ユーザの発言に基づきマルチメディアを推奨することに関連する例示的な環境を示す図である。

ユーザの発言に基づきマルチメディアを推奨することに関連する例示的な選択モジュールを示す。

ユーザの発言に基づきマルチメディアを推奨する例示的な方法のフローチャートである。

ユーザの発言に基づきマルチメディアを推奨するよう構成され得る例示的なコンピューティングシステムを示す。

本開示に記載される幾つかの実施形態は、ユーザの発言に基づきマルチメディアを推奨する方法及びシステムに関連する。メンタルヘルスは世界中に広がる問題である。多くの個人は憂鬱に苦しんでおり、それは自殺へと導いてしまうことがある。伝統的に、個人は、メンタルヘルス問題に取り組もうとしてカウンセラと面会している。しかしながら、メンタルヘルス専門家へのアクセスを求める個人の数の増大に伴い、及びメンタルヘルスサービスを使用することに関連付けられる社会的烙印のために、世界中で増加するメンタルヘルス問題を解決する他の方法が有利であろう。

ユーザがメンタルヘルス問題に関する助けを求めるとき、本開示の１つ以上の実施形態は、ユーザに提示されるべきマルチメディアを識別し得る。幾つかの実施形態では、識別されたマルチメディアは、冗談、画像、ビデオ、音声クリップ、及び／又は他のメディアを含んでよい。識別されたマルチメディアは、ユーザの気分を良くするのに役立ち得る。識別されたマルチメディアは、ユーザの注意を他の物事に向けるのに役立ち得る。代替又は追加で、幾つかの実施形態では、識別されたマルチメディアは、カウンセラがユーザに応答するのを助けるために、人間のオペレータ（例えばカウンセラ）に提示されてよい。これら及び他の実施形態では、カウンセラはより多くのユーザに応答可能であってよい。

本開示の種々の実施形態は、ラベル付けされていないトレーニングデータの使用を含んでよい。ラベル付けされていないトレーニングデータの使用は、機械学習モデルを開発するのに必要なコスト及び／又は時間を削減し得る。代替又は追加で、ラベル付けされていないトレーニングデータの使用は、実際の人間の学習を一層近似的にシミュレートし得る。

本開示の実施形態は、添付の図面を参照して説明される。

図１は、本開示に記載される少なくとも１つの実施形態に従い構成される、ユーザの発言に基づきマルチメディアを推奨することに関連する例示的な環境１００を示す図である。環境１００は、変更モジュール１１０、及び選択モジュール１２０を含んでよい。

変更モジュール１１０は、変更された言語モデル１１８を取得するために予めトレーニングされた言語モデル１１２に関してコンピューティング装置に１つ以上の動作を実行させるよう構成されるコード及びルーチンを含んでよい。追加又は代替として、変更モジュール１１０は、プロセッサ、（例えば、１つ以上の動作を実行する又は実行を制御する）マイクロプロセッサ、ＦＰＧＡ（field−programmable gate array）、又はＡＳＩＣ（application−specific integrated circuit）を含むハードウェアを用いて実装されてよい。幾つかの他の例では、変更モジュール１１０は、ハードウェア及びソフトウェアの組み合わせを用いて実装されてよい。本開示では、変更モジュール１１０により実行されるとして記載される動作は、変更モジュール１１０が対応するシステムに実行するよう指示し得る動作を含んでよい。

幾つかの実施形態では、変更モジュール１１０は、予めトレーニングされた言語モデル１１２を取得してよい。幾つかの実施形態では、変更モジュール１１０は、１つ以上のネットワークを介して、予めトレーニングされた言語モデル１１２を取得してよい。幾つかの実施形態では、予めトレーニングされた言語モデル１１２は、膨大なテキストに基づきトレーニングされたモデルであってよい。予めトレーニングされた言語モデル１１２の例は、ＢＥＲＴ（Bidirectional Encoder Representations from Transformers）及びＸＬＮｅｔを含んでよい。ＢＥＲＴは、特定のトークンが「マスク」トークンによりランダムに置き換えられる場合に、入力から元のデータを再構成することにより、テキストを理解しようとし得る。ＸＬＮｅｔは、次の単語を予測するためにコンテキスト単語を使用してよい。幾つかの実施形態では、順列に基づく目的語（permutation−based objective）を使用してよく、全部又は多くの可能な順列を探してよい。幾つかの実施形態では、現在のトークンを予測するコンテキストは、その前の順列の中に現れる全部の単語であってよい。従って、幾つかの実施形態では、事前トレーニングは、膨大なテキストを用いる一般的トレーニングを含んでよい。変更モジュール１１０は、次に、特定の、より小さな言語データセットを用いて、対話コーパス１１４及び応答素材コーパス１１６のような予めトレーニングされた言語モデル１１２を変更してよい（例えば、機械学習処理で使用されるような微調整）。

幾つかの実施形態では、予めトレーニングされた言語モデル１１２は、英語テキストの大きなデータグループに基づきトレーニングされてよい。例えば、予めトレーニングされた言語モデル１１２は、１つ以上のウェブサイト及び１つ以上の書籍を用いてトレーニングされてよい。これら及び他の実施形態では、例えばＸＬＮｅｔでは、モデルが前の単語が与えられた場合に文の現在の単語を予測することを学習するために、ラベル付けデータは必要なくてよい。

幾つかの実施形態では、ラベル付けトレーニングデータの使用は、機械学習モデルの精度及びロバストネスを向上し得る。しかしながら、ラベル付けされたトレーニングデータの取得は困難であり、高価であり、時間がかかり、又は現実的ではないことがある。更に、幾つかの状況では、トレーニングデータの手動ラベル付けは、人間の注釈者の主観及び偏見を導入することがあり、これは結果として生じるラベルを信頼できないものにしてしまう。トレーニングラベルが無い場合、ラベル無しのトレーニングはロバストではない可能性があるので、機械学習モデルのトレーニングに問題を生じ得る。ラベル無しのトレーニングデータを使用することにより、高価なラベル付きトレーニングデータの必要の無い、機械学習モデルが生成され得る。追加で、ラベル無しのトレーニングデータの使用は、人間の学習を一層近似的にシミュレートし得る。

幾つかの実施形態では、変更モジュール１１０は、更に、対話コーパス１１４を取得してよい。通常、対話コーパス１１４は、個人間の対話に関連するテキストの集合であってよい。対話コーパス１１４は、通信１ １１５Ａ、通信２ １１５Ｂ、通信３ １１５Ｃのような複数の通信１１５を含んでよい。３つの通信１１５が示されるが、対話コーパス１１４は、任意の数の通信１１５を含んでよい。対話コーパス１１４は、個人間の対話及び／又は通信に関連するテキストの集合であってよい。例えば、通信１ １１５Ａはテレビ番組のスクリプトであってよく、通信２ １１５Ｂは２人以上の人々の間の会話のトランスクリプトであってよく、通信３ １１５Ｃは電話会話のトランスクリプトであってよい。代替又は追加で、通信１１５は他の対話ソースを含んでよい。例えば、通信１ １１５Ａはテレビ番組のスクリプトであってよく、通信２ １１５Ｂは第２のテレビ番組のスクリプトであってよく、通信３ １１５Ｃは映画のスクリプトであってよい。

幾つかの実施形態では、変更モジュール１１０は、更に、応答素材コーパス１１６を取得してよい。通常、応答素材コーパス１１６は、個人からの対話に対して応答するために使用されてよいマルチメディアの集合であってよい。応答素材コーパス１１６は、応答素材１ １１７Ａ、応答素材２ １１７Ｂ、及び応答素材３ １１７Ｃのような複数の応答素材１１７を含んでよい。３つの応答素材１１７が示されるが、応答素材コーパス１１６は、任意の数の応答素材１１７を含んでよい。応答素材１１７は、ユーザの対話に応答するために使用され得る、冗談、画像、ビデオ、音声、いい思いつきの手がかり、諺、助言、逸話、等を含んでよい。例えば、幾つかの実施形態では、応答素材１１６は、異なる冗談であってよく、従って、応答素材１ １１７Ａは第１の冗談であり、応答素材２ １１７Ｂは第２の冗談であり、応答素材３ １１７Ｃは第３の冗談である。幾つかの実施形態では、応答素材１１７の各々は、応答素材１１７の評価を含んでよい。例えば、応答素材１１７Ａが冗談である場合、応答素材１１７Ａの評価は、冗談の「おかしさ」の評価であってよい。幾つかの実施形態では、代替又は追加で、応答素材１１７Ｂがいい思いつきの手がかり（inspirational quote）である場合、応答素材１１７Ｂの評価は、いい思いつきの手がかりの「いい思いつきレベル」の評価であってよい。評価は、応答素材１１７の定量的及び／又は質的指標であってよい。

幾つかの実施形態では、対話コーパス１１４は、応答素材コーパス１１６と無関係及び／又は異なってよい。つまり、応答素材コーパス１１６の応答素材１１７は、対話コーパス１１４の通信１１５に応答するために特別に意図され及び／又は記述されなくてよい。

幾つかの実施形態では、変更モジュール１１０は、対話コーパス１１４及び応答素材コーパス１１６を用いて、予めトレーニングされた言語モデル１１２を変更する（例えば、微調整する）よう構成されてよい。幾つかの実施形態では、変更モジュール１１０は、特定数のステップ、例えば５０００ステップの間、予めトレーニングされた言語モデル１１２を微調整することにより、予めトレーニングされた言語モデル１１２を変更してよい。上述の及び他の実施形態では、予めトレーニングされた言語モデル１１２を変更するステップは、言語モデルの初期トレーニングと同じ又は同様の方法であるが、異なるデータセットを用いて実行されてよい。例えば、言語モデルをトレーニングするステップは、任意の用途に特化しない大きなデータセットを使用してよいが、予めトレーニングされた言語モデルを微調整することにより、予めトレーニングされた言語モデルを変更するステップは、特定の用途に合わせられたより小さなデータセットを使用してよい。例えば、上述のように、予めトレーニングされた言語モデル１１２は、コンテキスト単語に基づき、所与の単語の後にどんな単語が続くかを予測してよい。予測及びモデルは、言語データの大きなグループに基づいてよく、特定種類の言語に専用でなくてよい。従って、対話のような、特定種類の言語のより小さなサンプルが、特定種類の言語を用いるコンテキストで利用されるとき、予めトレーニングされた言語モデル１１２の予測的動作を向上するために使用されてよい。従って、変更モジュール１１０は、予めトレーニングされた言語モデル１１２を生成する際に実行されるトレーニングモジュールと同様のステップを実行してよいが、異なるトレーニングデータセットを使用してよい。

予めトレーニングされた言語モデル１１２を変更することにより、予めトレーニングされた言語モデル１１２は、対話及び応答素材に一層良好に適するように、その予測的動作を調整してよい。変更モジュール１１０は、予めトレーニングされた言語モデル１１２を変更（例えば微調整）することにより、変更された言語モデル１１８を取得してよい。

選択モジュール１２０は、選択された応答素材１２４を取得するために、変更された言語モデル１１８に関してコンピューティング装置に１つ以上の動作を実行させるよう構成されるコード及びルーチンを含んでよい。追加又は代替として、選択モジュール１２０は、プロセッサ、（例えば、１つ以上の動作を実行する又は実行を制御する）マイクロプロセッサ、ＦＰＧＡ（field−programmable gate array）、又はＡＳＩＣ（application−specific integrated circuit）を含むハードウェアを用いて実装されてよい。幾つかの他の例では、選択モジュール１２０は、ハードウェア及びソフトウェアの組み合わせを用いて実装されてよい。本開示では、選択モジュール１２０により実行されるとして記載される動作は、選択モジュール１２０が対応するシステムに実行するよう指示し得る動作を含んでよい。

幾つかの実施形態では、変更モジュール１１０及び選択モジュール１２０は、単一の装置の部分であってよい。代替又は追加で、幾つかの実施形態では、変更モジュール１１０及び選択モジュール１２０は、ソフトウェアとして実装されてよい。例えば、変更モジュール１１０及び選択モジュール１２０は、ソフトウェアプログラムの中の異なるモジュールとしてプログラムされてよい。

選択モジュール１２０は、応答素材コーパス１１６の応答素材１１７を選択するよう構成されてよい。幾つかの実施形態では、選択モジュール１２０は、変更モジュール１１０から変更された言語モデル１１８を取得してよい。幾つかの実施形態では、選択モジュール１２０は、更に、ユーザの対話１２２を取得してよい。幾つかの実施形態では、ユーザの対話１２２は、インターネットのようなネットワークを介してユーザから受信されたテキストを含んでよい。例えば、ユーザの対話は、ユーザが、ウェブサイト又はアプリケーションを通じてチャットのようなチャットボックスに入力したテキストに対応してよい。代替又は追加で、幾つかの実施形態では、ユーザの対話は、ユーザにより発信された又はユーザに向けられた電話呼のトランスクリプトであってよい。

幾つかの実施形態では、選択モジュール１２０は、変更された言語モデル１１８、応答素材コーパス１１６、及びユーザの対話１２２に基づき、選択された応答素材１２４を取得してよい。これら及び他の実施形態では、選択された応答素材１２４は、応答素材１１７のうちの１つであってよい。選択モジュール１２０の動作の更なる詳細は、図２に関して以下に説明される。

環境１００の動作の説明は以下の通りである。変更モジュール１１０は、予めトレーニングされた言語モデル１１２、対話コーパス１１４、及び応答素材コーパス１１６を取得してよい。次に、変更モジュール１１０は、対話コーパス１１４及び応答素材コーパス１１６を用いて、予めトレーニングされた言語モデル１１２を変更する（例えば、微調整する）ことにより、変更された言語モデル１１８を生成してよい。幾つかの実施形態では、変更モジュール１１０は、変更された言語モデル１１８を周期的に、例えば予めトレーニングされた言語モデル１１２が更新されるとき、及び／又は新しい応答素材コーパス１１６の取得に応答して、生成してよい。

ユーザは、対話に従事してよい。例えば、ユーザは、チャットウインドウにテキストを入力し、及び／又はメンタルヘルス専門家との音声又はビデオ呼に三回してよい。選択モジュール１２０は、ユーザの対話１２２を取得してよい。選択モジュール１２０は、次に、ユーザの対話１２２、変更された言語モデル１１８、及び応答素材コーパス１１６に基づき、応答素材コーパス１１６のうちの特定の応答素材を選択してよい。幾つかの実施形態では、選択モジュール１２０は、ユーザの対話１２２を受信する過程で、複数回、応答素材を選択してよい。例えば、選択モジュール１２０は、ユーザの第１対話１２２に応答して、第１時点の第１応答素材を選択してよく、ユーザの第２対話１２２に応答して、第２時点の第２応答素材を選択してよい。つまり、選択モジュール１２０は、ユーザとの単一の会話の過程の間に、複数の応答素材を識別してよい。代替又は追加で、選択モジュール１２０は、第１ユーザからの対話１２２を取得することに応答して、第１応答素材を選択してよく、第２ユーザからの対話１２２を取得することに応答して、第２応答素材を取得してよい。

幾つかの実施形態では、環境１００の幾つかの要素は時間と共に変化してよい。例えば、応答素材コーパス１１６、変更された言語モデル１１８、及び／又はユーザの対話１２２は、時間と共に変化してよい。例えば、変更モジュール１１０は、複数の応答素材コーパス１１６を取得してよく、従って複数の変更された言語モデル１１８を生成してよい。例えば、ある応答素材コーパス１１６は冗談を含んでよく、別の応答素材コーパス１１６は諺を含んでよく、他の応答素材コーパス１１６は画像を含んでよい。変更モジュール１１０は、冗談応答素材コーパス１１６に関連付けられた変更された言語モデル１１８、諺応答素材コーパス１１６に関連付けられた変更された言語モデル１１８、及び画像応答素材コーパス１１６に関連付けられた変更された言語モデル１１８を生成してよい。

選択モジュール１２０は、ユーザの異なる特性及び／又はユーザの対話１２２に依存して、応答素材を選択するよう構成されてよい。例えば、幾つかの実施形態では、ユーザは、ユーザが冗談よりも諺を好むと示してよい。識別されたユーザ選好に基づき、選択モジュール１２０は、諺を含む応答素材コーパス１１６に関連付けられた変更された言語モデル１１８に基づき、応答素材として諺を選択してよい。追加又は代替として、幾つかの実施形態では、選択モジュール１２０は、ユーザの対話１２２に基づき及び／又はユーザの他の特性に基づき、ユーザの選好を推定してよい。

変更、追加、又は省略が、本開示の範囲から逸脱することなく図１に対して行われてよい。例えば、環境１００は、図示され本開示で説明されるよりも多数又は少数の要素を含んでよい。更に、幾つかの実施形態では、変更モジュール１１０及び選択モジュール１２０は、１つのモジュールであってよい。代替又は追加で、幾つかの実施形態では、変更モジュール１１０及び選択モジュール１２０、並びに変更モジュール１１０及び選択モジュール１２０に関連して議論された動作は、異なるシステムに渡り分散されてよい。

図２は、ユーザの発言に基づきマルチメディアを推奨することに関連する例示的な選択モジュール２００を示す。幾つかの実施形態では、選択モジュール１２０は、図１の選択モジュール１２０に対応してよい。図２に示すように、選択モジュールは、トピックモジュール２１０、基準ランク付けモジュール２２０、及び類似度モジュール２３０を含んでよい。

選択モジュール２１０は、応答素材セット２１８を取得するために、ユーザの対話２１２、応答素材コーパス２１４、及び変更された言語モデル２１６に関してコンピューティング装置に１つ以上の動作を実行させるよう構成されるコード及びルーチンを含んでよい。追加又は代替として、トピックモジュール２１０は、プロセッサ、（例えば、１つ以上の動作を実行する又は実行を制御する）マイクロプロセッサ、ＦＰＧＡ（field−programmable gate array）、又はＡＳＩＣ（application−specific integrated circuit）を含むハードウェアを用いて実装されてよい。幾つかの他の例では、トピックモジュール２１０は、ハードウェア及びソフトウェアの組み合わせを用いて実装されてよい。本開示では、トピックモジュール２１０により実行されるとして記載される動作は、トピックモジュール２１０が対応するシステムに実行するよう指示し得る動作を含んでよい。

幾つかの実施形態では、トピックモジュール２１０は、ユーザの対話２１２を取得するよう構成されてよい。ユーザの対話２１２は、図１のユーザの対話１２２と同様であってよい。幾つかの実施形態では、トピックモジュール２１０は、１つ以上のネットワークを介して、ユーザの対話２１２を取得してよい。幾つかの実施形態では、トピックモジュール２１０は、応答素材コーパス２１４を取得するよう構成されてよい。応答素材コーパスは、図１の応答素材コーパス１１６と同様であってよい。幾つかの実施形態では、トピックモジュール２１０は、１つ以上のネットワークを介して、応答素材コーパス２１４を取得してよい。幾つかの実施形態では、トピックモジュール２１０は、変更された言語モデル２１６を取得してよい。変更された言語モデル２１６は、図１の変更された言語モデル１１８と同様であってよく、微調整された言語モデルを含んでよい。幾つかの実施形態では、応答素材コーパス２１４及び変更された言語モデル２１６は結合されてよく、及び／又は応答素材コーパス２１４は変更された言語モデル２１６の部分であってよい。幾つかの実施形態では、トピックモジュール２１０は、図１の変更モジュール１１０のような変更モジュールから、変更された言語モデル２１６を取得してよい。

幾つかの実施形態では、トピックモジュール２１０は、応答素材セット２１８を識別するよう構成されてよい。応答素材セット２１８の各応答素材は、応答素材コーパスに含まれる応答素材であってよい。幾つかの実施形態では、トピックモジュール２１０は、応答素材コーパスの各応答素材に関連付けられたトピック、及びユーザの対話２１２に関連付けられたトピックを識別してよい。これら及び他の実施形態では、トピックモジュール２１０は、変更された言語モデル２１６に基づくテキストに関連付けられたトピックを識別してよい。

例えば、変更された言語モデル２１６が微調整されたＸＬＮｅｔモデルである例では、トピックモジュール２１０は、ユーザの対話２１２のＸＬＮｅｔテキスト埋め込み、及び応答素材コーパス２１４の各応答素材のＸＬＮｅｔテキスト埋め込みを取得してよい。テキスト埋め込みは、ユーザの対話２１２及び応答素材コーパス２１４の各応答素材の主な思想をキャプチャしてよい。幾つかの実施形態では、トピックモジュール２１０は、応答素材コーパスの各応答素材のトピックを、ユーザの対話２１２のトピックと比較することにより、応答素材セット２１８を識別してよい。これら及び他の実施形態では、トピックモジュール２１０は、ユーザ２１２の対話の埋め込み及び応答素材コーパス２１４の各応答素材に基づく最近傍（nearest neighbor）アプローチを実行してよい。例えば、トピックモジュール２１０は、ユーザの対話２１２に最も近い埋め込みを有する応答素材コーパス２１４の応答素材を識別するために、ＦＡＩＳＳ（Facebook AI Similarity Search）を実行してよい。幾つかの実施形態では、トピックモジュール２１０は、最も近い１０個の応答素材、最も近い２０個の応答素材、最も近い３０個の応答素材、最も近い５０個の応答素材、最も近い１００個の応答素材、又は任意の数の応答素材を、応答素材セット２１８として選択してよい。

基準ランク付けモジュール２２０は、応答素材サブセット２２２を取得するために、応答素材セット２１８に関してコンピューティング装置に１つ以上の動作を実行させるよう構成されるコード及びルーチンを含んでよい。追加又は代替として、基準ランク付けモジュール２２０は、プロセッサ、（例えば、１つ以上の動作を実行する又は実行を制御する）マイクロプロセッサ、ＦＰＧＡ（field−programmable gate array）、又はＡＳＩＣ（application−specific integrated circuit）を含むハードウェアを用いて実装されてよい。幾つかの他の例では、基準ランク付けモジュール２２０は、ハードウェア及びソフトウェアの組み合わせを用いて実装されてよい。本開示では、基準ランク付けモジュール２２０により実行されるとして記載される動作は、基準ランク付けモジュール２２０が対応するシステムに実行するよう指示し得る動作を含んでよい。

幾つかの実施形態では、基準ランク付けモジュール２２０は、トピックモジュール２１０から応答素材セット２１８を取得するよう構成されてよい。これら及び他の実施形態では、基準ランク付けモジュール２２０は、応答素材に関連付けられた１つ以上の基準に基づき、応答素材セット２１８の応答素材を順序付けするよう構成されてよい。幾つかの実施形態では、１つ以上の基準は、応答素材のランク付け又は評価を含んでよい。例えば、応答素材コーパス２１６の応答素材が冗談である場合、第１基準は各冗談の「おかしさ」を含んでよい。代替又は追加で、第２基準は、各冗談の「年代的妥当性」を含んでよい。応答素材コーパス２１６の応答素材が諺又はいい思いつきの手がかりである場合、第１基準は、各諺の「洞察に満ちている程度（insightfulness）」、又は各いい思いつきの手がかりの「いい思いつきの程度（inspiration level）」であってよい。幾つかの実施形態では、１つ以上の基準が、例えばウェブサイト上のレビューのようなユーザレビューから取得されてよい。幾つかの実施形態では、応答素材に関連付けられた基準は、ウェブサイト上のレビューのようなユーザレビューを通じて決定されてよい。

幾つかの実施形態では、基準ランク付けモジュール２２０は、１つ以上の基準に基づき、応答素材セットの各応答素材をソートしてよい。幾つかの実施形態では、応答素材は、基準に関連付けられた閾値を満たす又は満たさない応答素材に基づき、グループにソートされてよい。応答素材が冗談である例に戻ると、応答素材は、ユーザにより１〜５の「おかしさ」の尺度で評価されてよい。「おかしさ」の閾値は、尺度上で３の評価であってよい。３以上の評価を有する応答素材は、「面白い」と考えられてよく、３未満の評価を有する応答素材は「面白くない」と考えられてよい。幾つかの実施形態では、基準ランク付けモジュール２２０は、応答素材サブセット２２２として、「面白い」と決定された応答素材セットの応答素材を選択してよい。追加又は代替で、幾つかの実施形態では、基準ランク付けモジュール２２０は、１つ以上の基準に基づき、応答素材サブセット２２２として、特定数の応答素材を選択してよい。例えば、応答素材セット２１８は、３０個の応答素材を含んでよく、基準ランク付けモジュール２２０は、１つ以上の基準に基づき、３０個のうちの２０個の応答素材を応答素材サブセット２２２として選択してよい。

幾つかの実施形態では、基準ランク付けモジュール２２０は、１つ以上の基準に基づき、応答素材をランク付けするよう又は分類するようトレーニングされてよい機械学習分類器を含んでよい。例えば、機械学習分類器は、ラベル付けされた基準を有しない応答素材について基準を推定するために、ラベル付けされた基準を含まない応答素材を、ラベル付けされた基準を含む応答素材と比較してよい。幾つかの実施形態では、基準ランク付けモジュール２２０は、ユーザ対話に基づき、最も近い冗談を識別するために、最近傍検索分類器を使用してよい。幾つかの実施形態では、基準ランク付けモジュール２２０は、ＦＡＩＳＳを用いて、大きなデータセットへと拡張可能な最近傍検索を実行してよい。

類似度モジュール２３０は、選択された応答素材２３２を取得するために、応答素材サブセット２２２に関してコンピューティング装置に１つ以上の動作を実行させるよう構成されるコード及びルーチンを含んでよい。追加又は代替として、類似度モジュール２３０は、プロセッサ、（例えば、１つ以上の動作を実行する又は実行を制御する）マイクロプロセッサ、ＦＰＧＡ（field−programmable gate array）、又はＡＳＩＣ（application−specific integrated circuit）を含むハードウェアを用いて実装されてよい。幾つかの他の例では、類似度モジュール２３０は、ハードウェア及びソフトウェアの組み合わせを用いて実装されてよい。本開示では、類似度モジュール２３０により実行されるとして記載される動作は、類似度モジュール２３０が対応するシステムに実行するよう指示し得る動作を含んでよい。

幾つかの実施形態では、類似度モジュール２３０は、基準ランク付けモジュール２２０から応答素材サブセット２２２を取得するよう構成されてよい。幾つかの実施形態では、類似度モジュール２３０は、ユーザの対話２１２を取得するよう構成されてよい。これら及び他の実施形態では、類似度モジュール２３０は、応答素材サブセット２２２の特定の応答素材を、選択された応答素材２３２として選択するよう構成されてよい。これら及び他の実施形態では、類似度モジュール２３０は、応答素材サブセット２２２の各応答素材が、ユーザの対話２１２にどれくらい近く関連付けられるかを識別するよう構成されてよい。

幾つかの実施形態では、類似度モジュール２３０は、ユーザの対話２１２を、応答素材サブセット２２２の応答素材の各々と比較するよう構成されてよい。幾つかの実施形態では、類似度モジュール２３０は、ユーザの対話２１２の中の各単語に関連付けられた注目スコアを決定してよい。これら及び他の実施形態では、注目スコアは、単語の発生確率であってよい。例えば、ユーザの対話の中の各単語は、該単語の発生確率に対応する注目スコアを有してよい。同様に、応答素材サブセット２２２の各応答素材の中の各単語は、該単語の発生確率に対応する注目スコアを有してよい。

類似度モジュール２３０は、ユーザの対話２１２と応答素材サブセット２２２との間の単語の各組み合わせの間のコサイン類似度を計算するよう構成されてよい。例えば、類似度モジュール２３０は、単語の各組み合わせの類似度を決定するために、ｗｏｒｄ２Ｖｅｃ埋め込み（embeddings）からコサイン類似度を決定するよう構成されてよい。代替又は追加で、幾つかの実施形態では、類似度モジュール２３０は、ユーザの対話２１２の単語のサブセットと応答素材サブセット２２２の各応答素材の単語のサブセットとの間のコサイン類似度を計算するよう構成されてよい。例えば、類似度モジュール２３０は、各単語の注目スコアを識別してよく、ユーザの対話２１２の各々及び応答素材サブセット２２２の各応答素材の中で最高の注目スコアを有する１０個の単語を選択してよい。類似度モジュール２３０は、次に、選択された１０個の単語から、単語の各組み合わせの間のコサイン類似度を計算してよい。

応答素材サブセットの各応答素材について、類似度モジュール２３０は、ユーザの対話２１２の単語の対応する注目スコア及び特定の応答素材の単語の対応する注目スコアにより、各コサイン類似度を重み付けしてよい。幾つかの実施形態では、コサイン類似度は、各単語の埋め込みの間の距離であってよい。類似度モジュールは、重み付けされたコサイン類似度を結合してよい。幾つかの実施形態では、類似度モジュール２３０は、結合された重み付けされたコサイン類似度を正規化してよい。これら及び他の実施形態では、類似度モジュール２３０は、選択された応答素材２３２として、最高の結合された重み付けされたコサイン類似度を有する応答素材のサブセットの応答素材を選択してよい。

一例として、ユーザの対話２１２は、２つの単語Ａ及びＢを有してよい。応答素材サブセット２２２の第１応答素材は、２つの単語Ｃ及びＤを有してよい。応答素材サブセット２２２の第２応答素材は、３つの単語Ｅ、Ｆ、及びＧを有してよい。類似度モジュール２３０は、ユーザの対話２１２の中の各単語について、及び応答素材サブセット２２２の各応答素材の中の各単語について、注目スコア：ＡＳ_Ａ、ＡＳ_Ｂ、ＡＳ_Ｃ、ＡＳ_Ｄ、ＡＳ_Ｅ、ＡＳ_Ｆ、ＡＳ_Ｇを決定してよい。ここで、ＡＳは特定の単語の注目スコアを表す。幾つかの実施形態では、ＡＳは、特定の単語が生じる確率であってよい。類似度モジュール２３０は、ユーザの対話２１２と応答素材サブセットの応答素材の各々との間の類似度も決定してよい。つまり、第１応答素材についてＳ_ＡＣ、Ｓ_ＡＤ、Ｓ_ＢＣ、Ｓ_ＢＤであり、第２応答素材についてＳ_ＡＥ、Ｓ_ＡＦ、Ｓ_ＡＧ、Ｓ_ＢＥ、Ｓ_ＢＦ、Ｓ_ＢＧである。ここで、Ｓは２つの単語の間の類似度を表す。類似度モジュール２３０は、次に、ユーザの対話２１２の中の単語の対応する注目スコア及び応答素材サブセットの応答素材の各々の中の単語の対応する注目スコアにより、各類似度を重み付けしてよい。例えば、ユーザの対話の単語Ａと第１応答素材の単語Ｃとの間の類似度は、ＡＳ_Ａ×ＡＳ_Ｃ×Ｓ_ＡＣである。類似度モジュール２３０は、次に、特定の応答素材の重み付けされた類似度を結合してよく、結合された重み付けされた類似度を正規化してよい：

類似度モジュール２３０は、次に、最高の正規化された結合された重み付けされた類似度を有する応答素材を選択してよい。

変更、追加、又は省略が、本開示の範囲から逸脱することなく図２に対して行われてよい。例えば、選択モジュール２００は、図示され本開示で説明されるよりも多数又は少数の要素を含んでよい。例えば、幾つかの実施形態では、選択モジュール２００は、基準ランク付けモジュール２２０を含まなくてよい。これら及び他の実施形態では、類似度モジュール２３０は、トピックモジュール２１０から応答素材セット２１８を取得してよく、応答素材サブセット２２２に関連して上述したのと同様の方法で、応答素材セット２１８の各応答素材の中の単語について、注目スコア及びコサイン類似度を決定してよい。代替又は追加で、幾つかの実施形態では、選択モジュール２００は、更に、提示モジュールを含んでよい。これら及び他の実施形態では、提示モジュールは、ユーザに及び／又はユーザと通信する個人に、選択された応答素材２３２を提示するよう構成されてよい。更に、幾つかの実施形態では、トピックモジュール２１０、基準ランク付けモジュール２２０及び類似度モジュール２３０は、１つのモジュールであってよい。代替又は追加で、幾つかの実施形態では、トピックモジュール２１０、基準ランク付けモジュール２２０、及び類似度モジュール２３０、並びにトピックモジュール２１０、基準ランク付けモジュール２２０、及び類似度モジュール２３０に関連して議論された動作は、異なるシステムに渡り分散されてよい。

図３は、ユーザの発言に基づきマルチメディアを推奨する例示的な方法のフローチャートである。方法３００は、本開示に記載された少なくとも１つの実施形態に従い構成されてよい。方法３００は、全体又は部分的に、幾つかの実施形態では、それぞれ図１及び４の環境１００及び／又はコンピュータシステム４０２のようなシステム及び／又は環境により実行されてよい。これら及び他の実施形態では、方法３００は、１つ以上の非一時的コンピュータ可読媒体に格納された命令の実行に基づき実行されてよい。別個のブロックを示したが、種々のブロックは、所望の実装に依存して、追加ブロックに分けられ、少ないブロックに結合され、又は削除されてよい。

方法３００は、ブロック３１０で開始してよく、ユーザの対話が取得されてよい。対話は第１の複数の単語を含んでよい。幾つかの実施形態では、ユーザの対話は、相談会合の対話であってよい。ブロック３２０で、応答素材コーパスが取得されてよい。応答素材コーパスは、個人の通信に対する可能な応答を含んでよい。応答素材コーパスの各応答素材は、それぞれの第２の複数の単語に関連付けられてよい。幾つかの実施形態では、応答素材コーパスの応答素材は冗談であってよい。

ブロック３３０で、ユーザの対話の対話トピックが識別されてよい。ブロック３４０で、応答トピックセットが識別されてよい。応答トピックセットの各応答トピックは、応答素材コーパスのそれぞれの応答素材に対応してよい。

ブロック３５０で、応答素材セットは、応答素材コーパスから選択されてよい。応答素材セットの各応答素材は、対話トピックに一致するそれぞれの応答素材に対応するそれぞれの応答トピックに基づき選択されてよい。幾つかの実施形態では、応答素材セットを選択するステップは、距離セットを識別するステップを含んでよい。距離セットの各距離は、応答トピックセットのそれぞれの応答トピックに対応してよく、それぞれの応答トピックと対話トピックとの間の距離であってよい。距離は、それぞれの応答トピックと対話トピックとの間の類似度を示してよい。距離セットの距離は、ランク付けされてよい。距離グループは、距離のランク付けに基づき選択されてよい。応答素材セットの各応答素材は、距離グループの中にあるそれぞれの応答素材に対応するそれぞれの応答トピックに対応するそれぞれの距離に基づき選択されてよい。

ブロック３６０で、第１の複数の確率が決定されてよい。第１の複数の確率のうちの各確率は、第１の複数の単語の中の各単語の発生確率に対応してよい。

ブロック３７０で、それぞれの第２の複数の確率が、応答素材セットの各応答素材について決定されてよい。それぞれの第２の複数の確率のうちの各確率は、応答素材セットの各応答素材に関連付けられたそれぞれの第２の複数の単語の中の各単語の発生確率に対応してよい。

ブロック３８０で、第１の複数の単語を、応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語と比較して、第１の複数の単語とそれぞれの複数の第２の単語との間の類似度を決定してよい。

ブロック３９０で、比較に基づき、及び第１の複数の確率及びそれぞれの第２の複数の確率が応答素材に対応することに基づき、応答素材セットの応答素材が選択されてよい。幾つかの実施形態では、応答素材セットの応答素材が選択するステップは、応答素材セットの応答素材毎に、第１の複数の単語のうちの第１単語と該応答素材に関連付けられたそれぞれの第２の複数の単語のうちの第２単語との各組み合わせについて、類似度スコア及び重みを取得するステップを含んでよい。重みは、複数の第１の確率のうちの第１単語に対応する確率とそれぞれの第２の複数の確率のうちの第２単語に対応する確率とに基づき決定されてよい。各類似度スコアは、それ自体のそれぞれの重みにより重み付けされてよい。重み付けされた類似度スコアは、それぞれの応答素材について、全体類似度スコアを取得するために結合されてよい。各素材は、応答素材のそれぞれの全体類似度スコアに基づき、応答素材セットから選択されてよい。

当業者は、この及び本願明細書に開示される他の処理、動作及び方法について、実行される機能及び／又は動作が異なる順序で実行されてよいことを理解する。さらに、概説された機能及び動作は例として提供されたものであり、機能及び動作の幾つかは、開示した実施形態の本質を減じることなく、任意であり、少ない機能及び動作に結合され、又は追加の機能及び動作に拡張されてよい。幾つかの実施形態では、方法３００は、追加のブロック又はより少ないブロックを含んでよい。

例えば、幾つかの実施形態では、方法３００は、予めトレーニングされた言語モデルを取得するステップを含んでよい。これら及び他の実施形態では、方法３００は、対話コーパスを取得するステップを更に含んでよい。対話コーパスは、個人間の複数の通信を含んでよい。対話コーパスは、トレーニングラベルを含まなくてよい。これら及び他の実施形態では、応答素材コーパスは、トレーニングラベルを含まなくてよい。これら及び他の実施形態では、方法３００は、対話コーパス及び応答素材コーパスを用いて、予めトレーニングされた言語モデルを変更して（例えば、微調整して）、対話コーパスに基づき対話トピックを識別し、応答素材コーパスに基づき対話に対する応答を識別するステップを更に含んでよい。これら及び他の実施形態では、ユーザの対話の対話トピックは、変更された言語モデルを用いて識別されてよい。これら及び他の実施形態では、応答トピックセットは、変更された言語モデルを用いて識別されてよい。これら及び他の実施形態では、第１の複数の確率は、変更された言語モデルに基づき決定されてよい。これら及び他の実施形態では、それぞれ第２の複数の確率は、変更された言語モデルに基づき各応答素材について決定されてよい。

代替又は追加で、幾つかの実施形態では、方法３００は、選択された応答素材をユーザに提示するステップを含んでよい。

代替又は追加で、幾つかの実施形態では、方法３００は、応答素材コーパスに関連付けられた評価に基づき、応答素材セットをランク付けするステップを含んでよい。応答素材サブセットは、応答素材セットのランク付けに基づき選択されてよい。

図４は、本開示の少なくとも１つの実施形態による、例示的なコンピューティングシステム４０２のブロック図を示す。コンピューティングシステム４０２は、ユーザの発言に基づくマルチメディア推奨関連付けられる１つ以上の動作を実施する又は支持するよう構成されてよい。コンピューティングシステム４０２は、プロセッサ４５０、メモリ４５２、及びデータ記憶装置４５４を含んでよい。プロセッサ４５０、メモリ４５２、及びデータ記憶装置４５４は、通信可能に結合されてよい。

通常、プロセッサ４５０は、種々のコンピュータハードウェア又はソフトウェアモジュールを含む、任意の適切な専用又は汎用コンピュータ、コンピューティングエンティティ、又は処理装置を含んでよく、任意の適切なコンピュータ可読記憶媒体に格納された命令を実行するよう構成されてよい。例えば、プロセッサ４５０は、マイクロプロセッサ、マイクロコントローラ、デジタル信号プロセッサ（ＤＳＰ）、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、又はプログラム命令を解釈し及び／又は実行し及び／又はデータを処理するよう構成される任意の他のデジタル若しくはアナログ回路を含んでよい。図４には単一のプロセッサとして示されるが、プロセッサ４５０は、個々に又は集合的に本開示に記載の任意の数の動作を実行する又は実行を指示するよう構成される任意の数のプロセッサを含んでよい。さらに、プロセッサのうちの１つ以上は、異なるサーバのような１つ以上の異なる電子装置上に存在してよい。

幾つかの実施形態では、プロセッサ４５０は、プログラム命令を解釈し及び／又は実行し、及び／又はメモリ８２０、データ記憶装置４５４、又はメモリ４５２及びデータ記憶装置４５４に格納されたデータを処理するよう構成されてよい。幾つかの実施形態では、プロセッサ４５０は、プログラム命令をデータ記憶装置４５４からフェッチし、プログラム命令をメモリ４５２にロードしてよい。プログラム命令がメモリ４５２にロードされた後に、プロセッサ４５０は、プログラム命令を実行してよい。

例えば、幾つかの実施形態では、図３の方法３００は、プログラム命令として、データ記憶装置４５４に含まれてよい。プロセッサ４５０は、データ記憶装置４５４から方法のプログラム命令をフェッチしてよく、方法のプログラム命令をメモリ４５２にロードしてよい。方法のプログラム命令がメモリ４５２にロードされた後に、プロセッサ４５０はプログラム命令を実行し、その結果、コンピューティングシステムは、命令により指示されるように、方法に関連付けられた動作を実施してよい。

メモリ及びデータ記憶装置４５４は、格納されたコンピュータ実行可能命令又はデータ構造を運ぶ又は有するコンピュータ可読記憶媒体を含んでよい。このようなコンピュータ可読記憶媒体は、プロセッサ４５０のような汎用又は専用コンピュータによりアクセスされ得る任意の市販の媒体を含んでよい。例として、限定ではなく、このようなコンピュータ可読記憶媒体は、ランダムアクセスメモリ（ＲＡＭ）、読み出し専用メモリ（ＲＯＭ）、電気的消去可能なプログラマブル読み出し専用メモリ（ＥＥＰＲＯＭ）、コンパクトディスク読み出し専用メモリ（ＣＤ−ＲＯＭ）、又は他の光ディスク記憶装置、磁気ディスク記憶装置、又は他の磁気記憶装置、フラッシュメモリ素子（例えば、個体メモリ装置）、又はコンピュータ実行可能命令若しくはデータ構造の形式で特定のプログラムコードを運ぶ又は格納するために使用され得る且つ汎用又は専用コンピュータによりアクセスされ得る任意の他の記憶媒体、を含む有形又は非一時的コンピュータ可読媒体を含んでよい。上記の組み合わせも、コンピュータ可読記憶媒体の範囲に含まれてよい。コンピュータ実行可能命令は、例えば、プロセッサ４５０に特定動作または一群の動作を実行させるよう構成される命令及びデータを含んでよい。

変更、追加、又は省略が、本開示の範囲から逸脱することなくコンピューティングシステム４０２に対して行われてよい。例えば、幾つかの実施形態では、コンピューティングシステム４０２は、明示され又は記載されないことのある任意の数の他のコンポーネントを含んでよい。

上述のように、本願明細書に記載の実施形態は、以下に更に詳細に議論されるように、種々のコンピュータハードウェア又はソフトウェアモジュールを含む特定用途向け又は汎用コンピュータ（例えば、図４のプロセッサ４５０）の使用を含んでよい。更に、上述のように、本開示に記載の実施形態は、格納されたコンピュータ実行可能命令又はデータ構造を有するコンピュータ可読媒体（例えば、図４のメモリ４５２又はデータ記憶装置４５４）を用いて実装されてよい。

本開示で使用されるとき、用語「モジュール」又は「コンポーネント」は、モジュール又はコンポーネントの動作を実行するよう構成される特定ハードウェア実装、及び／又は、コンピューティングシステムの汎用ハードウェア（例えば、コンピュータ可読媒体、処理装置、等）により格納され及び／又は実行され得るソフトウェアオブジェクト又はソフトウェアルーチンを表してよい。幾つかの実施形態では、本開示に記載されたものと異なるコンポーネント、モジュール、エンジン、及びサービスが、コンピューティングシステム上で実行するオブジェクト又はプロセス（例えば、別個のスレッド）として実装されてよい。本開示に記載されたシステム及び方法のうちの一部は、概して（汎用ハードウェアに格納される及び／又はそれにより実行される）ソフトウェアで実装されるとして記載されたが、専用ハードウェア実装又はソフトウェア及び専用ハードウェア実装の組み合わせも、可能であり想定される。この記載において、「コンピューティングエンティティ」は、本開示において前述した任意のコンピューティングシステム、又はコンピューティングシステム上で実行する任意のモジュール若しくはモジュールの組み合わせであってよい。

本開示で及び特に添付の特許請求の範囲（例えば、添付の請求項本体）で使用される用語は、通常、「広義」の用語として意図される（例えば、用語「含む」は「含むが、これに限定されない」と解釈されるべきであり、用語「有する」は「有するが、これに限定されない」と解釈されるべきである、等）。

さらに、特定数の導入された請求項の列挙が意図される場合、このような意図は、請求項中に明示的に示され、このような列挙のない場合、このような意図は存在しない。例えば、理解の支援として、以下の添付の請求項は、請求項の列挙を導入するために、導入フレーズ「少なくとも１つ」及び「１つ以上」の使用を含み得る。しかしながら、このようなフレーズの使用は、同じ請求項が導入フレーズ「１つ以上」又は「少なくとも１つ」及び不定冠詞「ａ」又は「ａｎ」を含むときでも（例えば、「ａ」及び／又は「ａｎ」は「少なくとも１つ」又は「１つ以上」を意味すると解釈されるべきである）、不定冠詞「ａ」又は「ａｎ」による請求項の列挙の導入が、このような導入された請求項の列挙を含む任意の特定の請求項を、１つのこのような列挙のみを含む実施形態に限定することを意味すると考えられるべきではない。つまり、同じことが、請求項の列挙を導入するために使用される定冠詞の使用にも当てはまる。

さらに、特定数の導入された請求項の列挙が明示的に記載される場合、当業者は、このような列挙が、少なくとも列挙された数を意味すると解釈されるべきであることを理解する（例えば、他の修飾のない「２つの列挙」の記載は、少なくとも２つの列挙、又は２以上の列挙を意味する）。さらに、「Ａ、Ｂ、及びＣ等のうちの少なくとも１つ」又は「Ａ、Ｂ、及びＣ等のうちの１つ以上」と同様の記載が使用される例では、通常、このような構成は、Ａ単独で、Ｂ単独で、Ｃ単独で、Ａ及びＢを一緒に、Ａ及びＣを一緒に、Ｂ及びＣを一緒に、又はＡ、Ｂ、及びＣを一緒に、等を含むことを意図する。

さらに、２以上の選択的な用語を表す任意の離接的な語又はフレーズは、説明、請求項、又は図面にあるかにかかわらず、用語のうちの１つ、用語のうちのいずれか、又は両方の用語を含む可能性を想定すると理解されるべきである。例えば、フレーズ「Ａ又はＢ」は、「Ａ」又は「Ｂ」又は「Ａ及びＢ」の可能性を含むと理解されるべきである。

本開示に記載された全ての例及び条件付き言語は、読者が本開示及び本開示が技術を更に発展させることに貢献する概念を理解するのを支援する教示目的を意図しており、そのような具体的に列挙された例及び条件に限定されないと解釈されるべきである。本開示の実施形態は詳細に記載されたが、本開示の精神及び範囲から逸脱することなく、これらに種々の変更、代替、及び選択が行われ得る。

以上の実施形態に加えて、更に以下の付記を開示する。
（付記１） 方法であって、
ユーザの対話を取得するステップであって、前記対話は複数の単語を含む、ステップと、
予めトレーニングされた言語モデルを取得するステップと、
対話コーパスを取得するステップであって、前記対話コーパスは個人間の複数の通信を含み、前記対話コーパスはトレーニングラベルを含まない、ステップと、
応答素材コーパスを取得するステップであって、前記応答素材コーパスは、個人の通信に対する可能な応答を含み、前記応答素材コーパスの各応答素材は、それぞれの第２の複数の単語に関連付けられ、前記応答素材コーパスはトレーニングラベルを含まない、ステップと、
前記対話コーパス及び前記応答素材コーパスを用いて、前記予めトレーニングされた言語モデルを変更して、前記対話コーパスに基づき対話トピックを識別し、前記応答素材コーパスに基づき対話に対する応答を識別するステップと、
前記変更された言語モデルを用いて前記ユーザの前記対話の対話トピックを識別するステップと、
前記変更された言語モデルを用いて、応答トピックセットを識別するステップであって、前記応答トピックセットの各応答トピックは、前記応答素材コーパスのそれぞれの応答素材に対応する、ステップと、
前記応答素材コーパスから応答素材セットを選択するステップであって、前記応答素材セットのそれぞれの応答素材は、前記対話トピックに一致する前記それぞれの応答素材に対応するそれぞれの応答トピックに基づき選択される、ステップと、
第１の複数の確率を決定するステップであって、前記第１の複数の確率のうちのそれぞれの確率は、前記変更された言語モデルに基づき、前記第１の複数の単語の中のそれぞれの単語の発生確率に対応する、ステップと、
前記応答素材セットの各応答素材について、それぞれの第２の複数の確率を決定するステップであって、前記それぞれの第２の複数の確率のうちのそれぞれの確率は、前記変更された言語モデルに基づき、前記応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語の中の各単語の発生確率に対応する、ステップと、
前記第１の複数の単語を、前記応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語と比較して、前記第１の複数の単語とそれぞれの第２の複数の単語との間の類似度を決定するステップと、
前記比較に基づき、及び前記第１の複数の確率及び前記それぞれの第２の複数の確率が前記応答素材に対応することに基づき、前記応答素材セットの応答素材を選択するステップと、
を含む方法。
（付記２） 前記応答素材コーパスの前記応答素材は冗談である、請求項１に記載の方法。
（付記３） 前記ユーザの前記対話は相談会合である、請求項１に記載の方法。
（付記４） 前記応答素材コーパスから応答素材セットを選択する前記ステップは、
距離セットを識別するステップであって、前記距離セットの各距離は、前記応答トピックセットのそれぞれの応答トピックに対応し、前記それぞれの応答トピックと前記対話トピックとの間の距離であり、前記距離は前記それぞれの応答トピックと前記対話トピックとの間の類似度を示す、ステップと、
前記距離セットの前記距離をランク付けするステップと、
前記距離の前記ランク付けに基づき、距離グループを選択するステップと、
前記応答素材セットを選択するステップであって、それぞれの応答素材は、前記距離グループの中にある前記それぞれの応答素材に対応する前記それぞれの応答トピックに対応するそれぞれの距離に基づき選択される、ステップと、
を含む、請求項１に記載の方法。
（付記５） 前記応答素材セットのそれぞれの素材を選択する前記ステップは、
前記応答素材セットの各応答素材について、
前記第１の複数の単語のうちの第１単語と前記応答素材に関連付けられたそれぞれの第２の複数の単語の中の第２単語との組み合わせ毎に、類似度スコア及び重みを取得するステップであって、前記重みは、前記第１の複数の確率が前記第１単語に対応する確率とそれぞれの第２の複数の確率が前記第２単語に対応する確率とに基づき決定される、ステップと、
類似度スコアのそれぞれの重みにより該類似度スコアを重み付けするステップと、
前記重み付けされた類似度スコアを結合して、前記それぞれの応答素材の全体類似度スコアを取得するステップと、
前記応答素材のそれぞれの全体類似度スコアに基づき、前記応答素材セットの応答素材を選択するステップと、
を含む、請求項１に記載の方法。
（付記６） 前記選択された応答素材を前記ユーザに提示するステップ、を更に含む請求項１に記載の方法。
（付記７） 非一時的コンピュータ可読媒体であって、動作を実行するためにプロセッサにより実行可能な符号化されたプログラミングコードを有し、前記動作は、
ユーザの対話を取得するステップであって、前記対話は複数の単語を含む、ステップと、
応答素材コーパスを取得するステップであって、前記応答素材コーパスは、個人の通信に対する可能な応答を含み、前記応答素材コーパスの各応答素材は、それぞれの第２の複数の単語に関連付けられる、ステップと、
前記ユーザの前記対話の対話トピックを識別するステップと、
応答トピックセットを識別するステップであって、前記応答トピックセットの各応答トピックは、前記応答素材コーパスのそれぞれの応答素材に対応する、ステップと、
前記応答素材コーパスから応答素材セットを選択するステップであって、前記応答素材セットのそれぞれの応答素材は、前記対話トピックに一致する前記それぞれの応答素材に対応するそれぞれの応答トピックに基づき選択される、ステップと、
第１の複数の確率を決定するステップであって、前記第１の複数の確率のうちのそれぞれの確率は、前記第１の複数の単語の中のそれぞれの単語の発生確率に対応する、ステップと、
前記応答素材セットの各応答素材について、それぞれの第２の複数の確率を決定するステップであって、前記それぞれの第２の複数の確率のうちのそれぞれの確率は、前記応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語の中の各単語の発生確率に対応する、ステップと、
前記第１の複数の単語を、前記応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語と比較して、前記第１の複数の単語とそれぞれの第２の複数の単語との間の類似度を決定するステップと、
前記比較に基づき、及び前記第１の複数の確率及び前記それぞれの第２の複数の確率が前記応答素材に対応することに基づき、前記応答素材セットの応答素材を選択するステップと、
を含む、非一時的コンピュータ可読媒体。
（付記８） 前記応答素材コーパスの前記応答素材は冗談である、請求項７に記載の非一時的コンピュータ可読媒体。
（付記９） 前記ユーザの前記対話は相談会合の対話である、請求項７に記載の非一時的コンピュータ可読媒体。
（付記１０） 前記応答素材コーパスから応答素材セットを選択する前記ステップは、
距離セットを識別するステップであって、前記距離セットの各距離は、前記応答トピックセットのそれぞれの応答トピックに対応し、前記それぞれの応答トピックと前記対話トピックとの間の距離であり、前記距離は前記それぞれの応答トピックと前記対話トピックとの間の類似度を示す、ステップと、
前記距離セットの前記距離をランク付けするステップと、
前記距離の前記ランク付けに基づき、距離グループを選択するステップと、
前記応答素材セットを選択するステップであって、それぞれの応答素材は、前記距離グループの中にある前記それぞれの応答素材に対応する前記それぞれの応答トピックに対応するそれぞれの距離に基づき選択される、ステップと、
を含む、請求項７に記載の非一時的コンピュータ可読媒体。
（付記１１） 前記応答素材セットのそれぞれの素材を選択する前記ステップは、
前記応答素材セットの各応答素材について、
前記第１の複数の単語のうちの第１単語と前記応答素材に関連付けられたそれぞれの第２の複数の単語の中の第２単語との組み合わせ毎に、類似度スコア及び重みを取得するステップであって、前記重みは、前記第１の複数の確率が前記第１単語に対応する確率とそれぞれの第２の複数の確率が前記第２単語に対応する確率とに基づき決定される、ステップと、
類似度スコアのそれぞれの重みにより該類似度スコアを重み付けするステップと、
前記重み付けされた類似度スコアを結合して、前記それぞれの応答素材の全体類似度スコアを取得するステップと、
前記応答素材のそれぞれの全体類似度スコアに基づき、前記応答素材セットの応答素材を選択するステップと、
を含む、請求項７に記載の非一時的コンピュータ可読媒体。
（付記１２） 前記動作は、前記選択された応答素材を前記ユーザに提示するステップを更に含む、請求項７に記載の非一時的コンピュータ可読媒体。
（付記１３） 前記動作は、予めトレーニングされた言語モデルを取得するステップを更に含み、
前記ユーザの前記対話の前記対話トピックを識別する前記ステップは、前記予めトレーニングされた言語モデルに基づき、前記ユーザの前記対話の前記対話トピックを識別するステップを含む、請求項７に記載の非一時的コンピュータ可読媒体。
（付記１４） システムであって、
１つ以上のプロセッサと、
１つ以上のコンピュータ可読媒体であって、前記１つ以上のプロセッサにより実行されることに応答して、前記システムに動作を実行させる命令を格納するよう構成される１つ以上のコンピュータ可読媒体と、
を含み、前記動作は、
ユーザの対話を取得するステップであって、前記対話は複数の単語を含む、ステップと、
応答素材コーパスを取得するステップであって、前記応答素材コーパスは、個人の通信に対する可能な応答を含み、前記応答素材コーパスの各応答素材は、それぞれの第２の複数の単語に関連付けられる、ステップと、
前記ユーザの前記対話の対話トピックを識別するステップと、
応答トピックセットを識別するステップであって、前記応答トピックセットの各応答トピックは、前記応答素材コーパスのそれぞれの応答素材に対応する、ステップと、
前記応答素材コーパスから応答素材セットを選択するステップであって、前記応答素材セットのそれぞれの応答素材は、前記対話トピックに一致する前記それぞれの応答素材に対応するそれぞれの応答トピックに基づき選択される、ステップと、
前記応答素材コーパスに関連付けられた評価に基づき、前記応答素材セットをランク付けするステップと、
前記応答素材セットの前記ランク付けに基づき、応答素材サブセットを選択するステップと、
第１の複数の確率を決定するステップであって、前記第１の複数の確率のうちのそれぞれの確率は、前記第１の複数の単語の中のそれぞれの単語の発生確率に対応する、ステップと、
前記応答素材サブセットの各応答素材について、それぞれの第２の複数の確率を決定するステップであって、前記それぞれの第２の複数の確率のうちのそれぞれの確率は、前記応答素材サブセットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語の中の各単語の発生確率に対応する、ステップと、
前記第１の複数の単語を、前記応答素材サブセットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語と比較して、前記第１の複数の単語とそれぞれの第２の複数の単語との間の類似度を決定するステップと、
前記比較に基づき、及び前記第１の複数の確率及び前記それぞれの第２の複数の確率が前記応答素材に対応することに基づき、前記応答素材サブセットの応答素材を選択するステップと、
を含む、システム。
（付記１５） 前記応答素材コーパスの前記応答素材は冗談である、請求項１４に記載のシステム。
（付記１６） 前記応答素材コーパスに関連付けられた前記評価は、前記応答素材セットの各応答素材のおかしさを含む、請求項１５に記載のシステム。
（付記１７） 前記ユーザの前記対話は相談会合の対話である、請求項１４に記載のシステム。
（付記１８） 前記応答素材コーパスから応答素材セットを選択する前記ステップは、
距離セットを識別するステップであって、前記距離セットの各距離は、前記応答トピックセットのそれぞれの応答トピックに対応し、前記それぞれの応答トピックと前記対話トピックとの間の距離であり、前記距離は前記それぞれの応答トピックと前記対話トピックとの間の類似度を示す、ステップと、
前記距離セットの前記距離をランク付けするステップと、
前記距離の前記ランク付けに基づき、距離グループを選択するステップと、
前記応答素材セットを選択するステップであって、それぞれの応答素材は、前記距離グループの中にある前記それぞれの応答素材に対応する前記それぞれの応答トピックに対応するそれぞれの距離に基づき選択される、ステップと、
を含む、請求項１４に記載のシステム。
（付記１９） 前記応答素材セットのそれぞれの素材を選択する前記ステップは、
前記応答素材サブセットの各応答素材について、
前記第１の複数の単語のうちの第１単語と前記応答素材に関連付けられたそれぞれの第２の複数の単語の中の第２単語との組み合わせ毎に、類似度スコア及び重みを取得するステップであって、前記重みは、前記第１の複数の確率が前記第１単語に対応する確率とそれぞれの第２の複数の確率が前記第２単語に対応する確率とに基づき決定される、ステップと、
類似度スコアのそれぞれの重みにより該類似度スコアを重み付けするステップと、
前記重み付けされた類似度スコアを結合して、前記それぞれの応答素材の全体類似度スコアを取得するステップと、
前記応答素材のそれぞれの全体類似度スコアに基づき、前記応答素材サブセットの応答素材を選択するステップと、
を含む、請求項１４に記載のシステム。
（付記２０） 前記動作は、予めトレーニングされた言語モデルを取得するステップを更に含み、
前記ユーザの前記対話の前記対話トピックを識別する前記ステップは、前記予めトレーニングされた言語モデルに基づき、前記ユーザの前記対話の前記対話トピックを識別するステップを含む、請求項１４に記載のシステム。

１００ 環境
１１０ 変更モジュール
１１２ 予めトレーニングされた言語モデル
１１４ 対話コーパス
１１５ 通信
１１６ 応答素材コーパス
１１７ 応答素材
１１８ 変更された言語モデル
１２０ 選択モジュール
１２２ ユーザの対話
１２４ 選択された応答素材

Claims (20)

1. 方法であって、
   ユーザの対話を取得するステップであって、前記対話は複数の単語を含む、ステップと、
   予めトレーニングされた言語モデルを取得するステップと、
   対話コーパスを取得するステップであって、前記対話コーパスは個人間の複数の通信を含み、前記対話コーパスはトレーニングラベルを含まない、ステップと、
   応答素材コーパスを取得するステップであって、前記応答素材コーパスは、個人の通信に対する可能な応答を含み、前記応答素材コーパスの各応答素材は、それぞれの第２の複数の単語に関連付けられ、前記応答素材コーパスはトレーニングラベルを含まない、ステップと、
   前記対話コーパス及び前記応答素材コーパスを用いて、前記予めトレーニングされた言語モデルを変更して、前記対話コーパスに基づき対話トピックを識別し、前記応答素材コーパスに基づき対話に対する応答を識別するステップと、
   前記変更された言語モデルを用いて前記ユーザの前記対話の対話トピックを識別するステップと、
   前記変更された言語モデルを用いて、応答トピックセットを識別するステップであって、前記応答トピックセットの各応答トピックは、前記応答素材コーパスのそれぞれの応答素材に対応する、ステップと、
   前記応答素材コーパスから応答素材セットを選択するステップであって、前記応答素材セットのそれぞれの応答素材は、前記対話トピックに一致する前記それぞれの応答素材に対応するそれぞれの応答トピックに基づき選択される、ステップと、
   第１の複数の確率を決定するステップであって、前記第１の複数の確率のうちのそれぞれの確率は、前記変更された言語モデルに基づき、前記第１の複数の単語の中のそれぞれの単語の発生確率に対応する、ステップと、
   前記応答素材セットの各応答素材について、それぞれの第２の複数の確率を決定するステップであって、前記それぞれの第２の複数の確率のうちのそれぞれの確率は、前記変更された言語モデルに基づき、前記応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語の中の各単語の発生確率に対応する、ステップと、
   前記第１の複数の単語を、前記応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語と比較して、前記第１の複数の単語とそれぞれの第２の複数の単語との間の類似度を決定するステップと、
   前記比較に基づき、及び前記第１の複数の確率及び前記それぞれの第２の複数の確率が前記応答素材に対応することに基づき、前記応答素材セットの応答素材を選択するステップと、
   を含む方法。
2. 前記応答素材コーパスの前記応答素材は冗談である、請求項１に記載の方法。
3. 前記ユーザの前記対話は相談会合である、請求項１に記載の方法。
4. 前記応答素材コーパスから応答素材セットを選択する前記ステップは、
   距離セットを識別するステップであって、前記距離セットの各距離は、前記応答トピックセットのそれぞれの応答トピックに対応し、前記それぞれの応答トピックと前記対話トピックとの間の距離であり、前記距離は前記それぞれの応答トピックと前記対話トピックとの間の類似度を示す、ステップと、
   前記距離セットの前記距離をランク付けするステップと、
   前記距離の前記ランク付けに基づき、距離グループを選択するステップと、
   前記応答素材セットを選択するステップであって、それぞれの応答素材は、前記距離グループの中にある前記それぞれの応答素材に対応する前記それぞれの応答トピックに対応するそれぞれの距離に基づき選択される、ステップと、
   を含む、請求項１に記載の方法。
5. 前記応答素材セットのそれぞれの素材を選択する前記ステップは、
   前記応答素材セットの各応答素材について、
   前記第１の複数の単語のうちの第１単語と前記応答素材に関連付けられたそれぞれの第２の複数の単語の中の第２単語との組み合わせ毎に、類似度スコア及び重みを取得するステップであって、前記重みは、前記第１の複数の確率が前記第１単語に対応する確率とそれぞれの第２の複数の確率が前記第２単語に対応する確率とに基づき決定される、ステップと、
   類似度スコアのそれぞれの重みにより該類似度スコアを重み付けするステップと、
   前記重み付けされた類似度スコアを結合して、前記それぞれの応答素材の全体類似度スコアを取得するステップと、
   前記応答素材のそれぞれの全体類似度スコアに基づき、前記応答素材セットの応答素材を選択するステップと、
   を含む、請求項１に記載の方法。
6. 前記選択された応答素材を前記ユーザに提示するステップ、を更に含む請求項１に記載の方法。
7. 非一時的コンピュータ可読媒体であって、動作を実行するためにプロセッサにより実行可能な符号化されたプログラミングコードを有し、前記動作は、
   ユーザの対話を取得するステップであって、前記対話は複数の単語を含む、ステップと、
   応答素材コーパスを取得するステップであって、前記応答素材コーパスは、個人の通信に対する可能な応答を含み、前記応答素材コーパスの各応答素材は、それぞれの第２の複数の単語に関連付けられる、ステップと、
   前記ユーザの前記対話の対話トピックを識別するステップと、
   応答トピックセットを識別するステップであって、前記応答トピックセットの各応答トピックは、前記応答素材コーパスのそれぞれの応答素材に対応する、ステップと、
   前記応答素材コーパスから応答素材セットを選択するステップであって、前記応答素材セットのそれぞれの応答素材は、前記対話トピックに一致する前記それぞれの応答素材に対応するそれぞれの応答トピックに基づき選択される、ステップと、
   第１の複数の確率を決定するステップであって、前記第１の複数の確率のうちのそれぞれの確率は、前記第１の複数の単語の中のそれぞれの単語の発生確率に対応する、ステップと、
   前記応答素材セットの各応答素材について、それぞれの第２の複数の確率を決定するステップであって、前記それぞれの第２の複数の確率のうちのそれぞれの確率は、前記応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語の中の各単語の発生確率に対応する、ステップと、
   前記第１の複数の単語を、前記応答素材セットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語と比較して、前記第１の複数の単語とそれぞれの第２の複数の単語との間の類似度を決定するステップと、
   前記比較に基づき、及び前記第１の複数の確率及び前記それぞれの第２の複数の確率が前記応答素材に対応することに基づき、前記応答素材セットの応答素材を選択するステップと、
   を含む、非一時的コンピュータ可読媒体。
8. 前記応答素材コーパスの前記応答素材は冗談である、請求項７に記載の非一時的コンピュータ可読媒体。
9. 前記ユーザの前記対話は相談会合の対話である、請求項７に記載の非一時的コンピュータ可読媒体。
10. 前記応答素材コーパスから応答素材セットを選択する前記ステップは、
    距離セットを識別するステップであって、前記距離セットの各距離は、前記応答トピックセットのそれぞれの応答トピックに対応し、前記それぞれの応答トピックと前記対話トピックとの間の距離であり、前記距離は前記それぞれの応答トピックと前記対話トピックとの間の類似度を示す、ステップと、
    前記距離セットの前記距離をランク付けするステップと、
    前記距離の前記ランク付けに基づき、距離グループを選択するステップと、
    前記応答素材セットを選択するステップであって、それぞれの応答素材は、前記距離グループの中にある前記それぞれの応答素材に対応する前記それぞれの応答トピックに対応するそれぞれの距離に基づき選択される、ステップと、
    を含む、請求項７に記載の非一時的コンピュータ可読媒体。
11. 前記応答素材セットのそれぞれの素材を選択する前記ステップは、
    前記応答素材セットの各応答素材について、
    前記第１の複数の単語のうちの第１単語と前記応答素材に関連付けられたそれぞれの第２の複数の単語の中の第２単語との組み合わせ毎に、類似度スコア及び重みを取得するステップであって、前記重みは、前記第１の複数の確率が前記第１単語に対応する確率とそれぞれの第２の複数の確率が前記第２単語に対応する確率とに基づき決定される、ステップと、
    類似度スコアのそれぞれの重みにより該類似度スコアを重み付けするステップと、
    前記重み付けされた類似度スコアを結合して、前記それぞれの応答素材の全体類似度スコアを取得するステップと、
    前記応答素材のそれぞれの全体類似度スコアに基づき、前記応答素材セットの応答素材を選択するステップと、
    を含む、請求項７に記載の非一時的コンピュータ可読媒体。
12. 前記動作は、前記選択された応答素材を前記ユーザに提示するステップを更に含む、請求項７に記載の非一時的コンピュータ可読媒体。
13. 前記動作は、予めトレーニングされた言語モデルを取得するステップを更に含み、
    前記ユーザの前記対話の前記対話トピックを識別する前記ステップは、前記予めトレーニングされた言語モデルに基づき、前記ユーザの前記対話の前記対話トピックを識別するステップを含む、請求項７に記載の非一時的コンピュータ可読媒体。
14. システムであって、
    １つ以上のプロセッサと、
    １つ以上のコンピュータ可読媒体であって、前記１つ以上のプロセッサにより実行されることに応答して、前記システムに動作を実行させる命令を格納するよう構成される１つ以上のコンピュータ可読媒体と、
    を含み、前記動作は、
    ユーザの対話を取得するステップであって、前記対話は複数の単語を含む、ステップと、
    応答素材コーパスを取得するステップであって、前記応答素材コーパスは、個人の通信に対する可能な応答を含み、前記応答素材コーパスの各応答素材は、それぞれの第２の複数の単語に関連付けられる、ステップと、
    前記ユーザの前記対話の対話トピックを識別するステップと、
    応答トピックセットを識別するステップであって、前記応答トピックセットの各応答トピックは、前記応答素材コーパスのそれぞれの応答素材に対応する、ステップと、
    前記応答素材コーパスから応答素材セットを選択するステップであって、前記応答素材セットのそれぞれの応答素材は、前記対話トピックに一致する前記それぞれの応答素材に対応するそれぞれの応答トピックに基づき選択される、ステップと、
    前記応答素材コーパスに関連付けられた評価に基づき、前記応答素材セットをランク付けするステップと、
    前記応答素材セットの前記ランク付けに基づき、応答素材サブセットを選択するステップと、
    第１の複数の確率を決定するステップであって、前記第１の複数の確率のうちのそれぞれの確率は、前記第１の複数の単語の中のそれぞれの単語の発生確率に対応する、ステップと、
    前記応答素材サブセットの各応答素材について、それぞれの第２の複数の確率を決定するステップであって、前記それぞれの第２の複数の確率のうちのそれぞれの確率は、前記応答素材サブセットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語の中の各単語の発生確率に対応する、ステップと、
    前記第１の複数の単語を、前記応答素材サブセットのそれぞれの応答素材に関連付けられたそれぞれの第２の複数の単語と比較して、前記第１の複数の単語とそれぞれの第２の複数の単語との間の類似度を決定するステップと、
    前記比較に基づき、及び前記第１の複数の確率及び前記それぞれの第２の複数の確率が前記応答素材に対応することに基づき、前記応答素材サブセットの応答素材を選択するステップと、
    を含む、システム。
15. 前記応答素材コーパスの前記応答素材は冗談である、請求項１４に記載のシステム。
16. 前記応答素材コーパスに関連付けられた前記評価は、前記応答素材セットの各応答素材のおかしさを含む、請求項１５に記載のシステム。
17. 前記ユーザの前記対話は相談会合の対話である、請求項１４に記載のシステム。
18. 前記応答素材コーパスから応答素材セットを選択する前記ステップは、
    距離セットを識別するステップであって、前記距離セットの各距離は、前記応答トピックセットのそれぞれの応答トピックに対応し、前記それぞれの応答トピックと前記対話トピックとの間の距離であり、前記距離は前記それぞれの応答トピックと前記対話トピックとの間の類似度を示す、ステップと、
    前記距離セットの前記距離をランク付けするステップと、
    前記距離の前記ランク付けに基づき、距離グループを選択するステップと、
    前記応答素材セットを選択するステップであって、それぞれの応答素材は、前記距離グループの中にある前記それぞれの応答素材に対応する前記それぞれの応答トピックに対応するそれぞれの距離に基づき選択される、ステップと、
    を含む、請求項１４に記載のシステム。
19. 前記応答素材セットのそれぞれの素材を選択する前記ステップは、
    前記応答素材サブセットの各応答素材について、
    前記第１の複数の単語のうちの第１単語と前記応答素材に関連付けられたそれぞれの第２の複数の単語の中の第２単語との組み合わせ毎に、類似度スコア及び重みを取得するステップであって、前記重みは、前記第１の複数の確率が前記第１単語に対応する確率とそれぞれの第２の複数の確率が前記第２単語に対応する確率とに基づき決定される、ステップと、
    類似度スコアのそれぞれの重みにより該類似度スコアを重み付けするステップと、
    前記重み付けされた類似度スコアを結合して、前記それぞれの応答素材の全体類似度スコアを取得するステップと、
    前記応答素材のそれぞれの全体類似度スコアに基づき、前記応答素材サブセットの応答素材を選択するステップと、
    を含む、請求項１４に記載のシステム。
20. 前記動作は、予めトレーニングされた言語モデルを取得するステップを更に含み、
    前記ユーザの前記対話の前記対話トピックを識別する前記ステップは、前記予めトレーニングされた言語モデルに基づき、前記ユーザの前記対話の前記対話トピックを識別するステップを含む、請求項１４に記載のシステム。

Images