JP2023508062A - 対話モデルの訓練方法、装置、コンピュータ機器及びプログラム - Google Patents

対話モデルの訓練方法、装置、コンピュータ機器及びプログラム Download PDF

Info

Publication number
JP2023508062A
JP2023508062A JP2022538829A JP2022538829A JP2023508062A JP 2023508062 A JP2023508062 A JP 2023508062A JP 2022538829 A JP2022538829 A JP 2022538829A JP 2022538829 A JP2022538829 A JP 2022538829A JP 2023508062 A JP2023508062 A JP 2023508062A
Authority
JP
Japan
Prior art keywords
dialogue
interaction
features
feature
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022538829A
Other languages
English (en)
Other versions
JP7431977B2 (ja
Inventor
蛟 欧
金超 ▲張▼
洋 ▲馮▼
凡▲東▼ 孟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Publication of JP2023508062A publication Critical patent/JP2023508062A/ja
Application granted granted Critical
Publication of JP7431977B2 publication Critical patent/JP7431977B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3344—Query execution using natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/12—Use of codes for handling textual entities
    • G06F40/126—Character encoding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/098—Distributed learning, e.g. federated learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00—Computing arrangements based on specific mathematical models
    • G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

対話モデルの訓練方法、対話返答生成方法、装置、コンピュータ機器及び記憶媒体であって、人工知能の技術分野に属する。前記方法は、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得するステップと、前記第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、対話モデルを更新するステップと、前記第１対話の少なくとも２つの第１対話特徴に基づいて、前記事後的ネットワークを更新するステップと、第２対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、前記対話モデルにおける判別器を更新するステップと、訓練終了条件を満たすことに応答して、訓練により得られたモデルを対話モデルとするステップと、を含む。上記技術的解決手段において、対話の異なるセマンティックを考慮し、対話の返答に複数種のセマンティックを含ませ、対話モデルによって生成される対話返答の多様性を向上させる。

Description

（関連出願の相互参照）
本願は、２０２０年０５月２５日に提出された、出願番号が２０２０１０４５０１９４．０であり、発明の名称が「対話モデルの訓練方法、装置、コンピュータ機器及び記憶媒体」である中国特許出願に基づく優先権を主張し、該中国特許出願の全内容が参照として本願に組み込まれる。
本願は、人工知能の技術分野に関し、特に対話モデルの訓練方法、対話返答生成方法、装置、コンピュータ機器及び記憶媒体に関する。
人工知能技術が継続的に成長することに伴い、自然言語処理は、より広い範囲に適用することができる。例えば、チャットボット、対話システム及び端末スマートアシスタントなどのヒューマンマシンインタラクションシーンに用いることができる。コンピュータ機器は、対話中においてユーザによって入力された対話発話文に基づいて、対応する対話返答を出力することができる。コンピュータ機器からの対話返答があまりに単調であることを如何に回避するかは、解決されるべき問題である。
本願の実施例は、対話の対話特徴に基づいて、対話モデルのパラメータを複数回更新し、対話の異なるセマンティックを考慮し、対話の返答に複数種のセマンティックを含ませることで、対話モデルによって生成される対話返答の多様性を向上させる対話モデルの訓練方法、対話返答生成方法、装置、コンピュータ機器及び記憶媒体を提供する。前記技術的解決手段は、以下の通りである。
一方面によれば、対話モデルの訓練方法を提供する。前記方法は、
対話モデルにおける先験的ネットワークと事後的ネットワークによって、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得するステップであって、前記先験的ネットワークは、対話特徴の確率分布を出力するためのものであり、前記事後的ネットワークは、前記先験的ネットワークから出力された対話特徴の確率分布を推定するためのものであり、前記第１対話特徴は、１つの対話における対話発話文と１つの対話返答の事後的特徴を表すためのものであり、前記第２対話特徴は、１つの対話における前記対話発話文と１つの対話返答の先験的特徴を表すためのものであり、前記第１対話は、１つの第１対話発話文と少なくとも２つの第１対話返答とを含む、ステップと、
前記第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、前記対話モデルを更新するステップと、
前記第１対話の少なくとも２つの第１対話特徴に基づいて、前記事後的ネットワークを更新するステップと、
第２対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、前記対話モデルの判別器を更新するステップと、
訓練終了条件を満たすことに応答して、訓練により得られたモデルを対話モデルとするステップと、を含む。
別の方面によれば、対話返答生成方法を提供する。前記方法は、
対話発話文を取得するステップと、
前記対話発話文を対話モデルに入力し、前記対話モデルにおける先験的ネットワークによって、複数の対話返答に対応する第２対話特徴から、１つの目標対話特徴をランダムに抽出するステップと、
前記対話モデルにおけるデコーダによって、前記目標対話特徴に対して復号を行い、目標対話返答を出力するステップと、
前記目標対話返答を展示するステップと、を含む。
別の方面によれば、対話モデルの訓練装置を提供する。前記装置は、
対話モデルにおける先験的ネットワークと事後的ネットワークによって、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得するように構成される特徴取得モジュールであって、前記先験的ネットワークは、対話特徴の確率分布を出力するためのものであり、前記事後的ネットワークは、前記先験的ネットワークから出力された対話特徴の確率分布を推定するためのものであり、前記第１対話特徴は、１つの対話における対話発話文と１つの対話返答の事後的特徴を表すためのものであり、前記第２対話特徴は、１つの対話における前記対話発話文と１つの対話返答の先験的特徴を表すためのものであり、前記第１対話は、１つの第１対話発話文と少なくとも２つの第１対話返答とを含む、特徴取得モジュールと、
前記第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、前記対話モデルを更新するように構成されるモデル更新モジュールであって、
前記モデル更新モジュールは更に、前記第１対話の少なくとも２つの第１対話特徴に基づいて、前記事後的ネットワークを更新するように構成され、
前記モデル更新モジュールは更に、第２対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、前記対話モデルの判別器を更新するように構成される、モデル更新モジュールと、
訓練終了条件を満たすことに応答して、訓練により得られたモデルを対話モデルとするように構成されるモデル取得モジュールと、を備える。
別の方面によれば、対話返答生成装置を提供する。前記装置は、
対話発話文を取得するように構成される対話取得モジュールと、
前記対話発話文を対話モデルに入力し、前記対話モデルにおける先験的ネットワークによって、複数の対話返答に対応する第１対話特徴から、１つの目標対話特徴をランダムに抽出するように構成される特徴抽出モジュールと、
前記対話モデルにおけるデコーダによって、前記目標対話特徴に対して復号を行い、目標対話返答を出力するように構成される返答出力モジュールと、
前記目標対話返答を展示するように構成される返答展示モジュールと、を備える。
別の方面によれば、コンピュータ機器を提供する。前記コンピュータ機器は、プロセッサと、メモリと、を備え、前記メモリは、少なくとも１つのプログラムコードを記憶するように構成され、前記少なくとも１つのプログラムコードは、前記プロセッサによりロードされて実行され、本願の実施例における対話モデルの訓練方法において実行される操作を実現させ、又は本願の実施例における対話返答生成方法において実行される操作を実現させる。
別の方面によれば、記憶媒体を提供する。前記記憶媒体に少なくとも１つのプログラムコードが記憶されており、前記少なくとも１つのプログラムコードは、本願の実施例における対話モデルの訓練方法を実行するか又は本願の実施例における対話返答生成方法を実行するように構成される。
本願の実施例による対話モデルの訓練方法の実施環境を示す概略図である。 本願の実施例による対話モデルの訓練方法を示すフローチャートである。 本願の実施例による対話返答生成方法を示すフローチャートである。 本願の実施例による対話モデルの訓練方法を示すフローチャートである。 本願の実施例による対話モデルの構造を示す概略図である。 本願の実施例によるマルチセマンティックＷＡＥアルゴリズムを示すフローチャート概略図である。 本願の実施例による対話モデルの訓練装置を示すブロック図である。 本願の実施例による対話返答生成装置を示すブロック図である。 本願の実施例による端末の構造を示すブロック図である。 本願の実施例によるサーバの構造を示す概略図である。
本願の実施例における技術的解決手段をより明確に説明するために、以下、実施例の説明に必要な図面を簡単に説明する。勿論、上記の図面は本願の一部の実施例に過ぎず、当業者は創造的な労力を要することなく、これらの図面に基づいて他の図面を得ることもできる。
本願の目的、技術的解決手段及びメリットをより明確にするために、以下、図面を参照しながら、本願の実施形態を更に詳しく説明する。
ここで、例示的な実施例を詳しく説明し、その例を図面に示す。以下の記載が図面に関わる場合、他に明記されない限り、異なる図面における同じ数字は、同じまたは類似する要素を示す。以下の例示的な実施例に記載の実施形態は、本願と一致する全ての実施形態ではない。むしろそれらは、単に特許請求の範囲において詳しく記載されているように、本願のいくつかの方面と一致する装置及び方法の例である。
以下では、本願の実施例に使用し得る技術を簡単に説明する。
人工知能（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ：ＡＩ）は、デジタルコンピュータ又はデジタルコンピュータにより制御された、機器で人間の知能をシミュレーション、延長、拡張し、環境を感知して知識を取得し、知識を利用して最適な結果を得る理論、方法、技術及びアプリケーションシステムである。換言すれば、人工知能は、コンピュータサイエンスにおける１つの総合技術であり、知能の本質を理解し、人間知能と同様な方式で反応可能な新たな知能機器を生み出すことを意図する。人工知能は、種々の知能機器の設計原理及び実現方法を検討し、機器に、感知、推理及び意思決定機能を持たせるためのものである。
人工知能クラウドサービスは、一般的には、ＡＩａａＳ（ＡＩ ａｓ ａ Ｓｅｒｖｉｃｅ：日本語で「サービスとしてのＡＩ」）とも呼ばれる。これは、現在では、主流となる人工知能プラットフォームのサービス方式である。具体的には、ＡＩａａＳプラットフォームは、複数のよく使用されるＡＩサービスを分割し、クラウド側で独立又はパッケージングしたサービスを提供する。このようなサービスモードは、ＡＩテーマのストアに類似する。全ての開発者はいずれも、ＡＰＩインタフェースの方式で、プラットフォームによって提供される１つ又は複数種の人工知能サービスにアクセスしてそれを使用することができ、一部のベテラン開発者は、プラットフォームによって提供されるＡＩフレームワークとＡＩインフラストラクチャを使用して、自己専用のクラウド人工知能サービスを配置してメンテナンスすることもできる。
自然言語処理（Ｎａｔｕｒｅ Ｌａｎｇｕａｇｅ ｐｒｏｃｅｓｓｉｎｇ：ＮＬＰ）は、コンピュータ科学分野と人工知能分野における１つの重要な方向である。それは、人間とコンピュータとの間で自然言語を用いて有効な通信を行うことを実現できる種々の理論及び方法を検討する。自然言語処理は、言語学、コンピュータサイエンス、数学を一体化に融合する科学である。従って、この分野に関する検討は、自然言語、即ち、人間が日常生活で使用する言語に係る。そのため、これは、言語学の検討に密接に関連付けられている。自然言語処理技術は、一般的には、テキスト処理、セマンティック理解、機械翻訳、ロボット問答、知識グラフなどの技術を含む。
機械学習（Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ：ＭＬ）は、多数の分野に関わる学科であり、確率論、統計学、近似論、凸解析、アルゴリズム複雑度理論などの複数の学科に関わる。それは、コンピュータが人間の学習挙動を如何に模擬又は実現するかを鋭意検討し、新たな知識又はスキルを取得し、既存の知識構造を再構成し、自体の性能を絶え間なく改良する。機械学習は、人工知能のキーポイントであり、コンピュータに知能を持たせる根本的な手段であり、その適用は、人工知能の各分野にわたる。機械学習及び深層学習は一般的には、人工ニューラルネットワーク、信念ネットワーク、強化学習、転移学習、帰納的学習、教師あり学習などの技術を含む。
本願の実施例は、人工知能技術に基づいて実現できる対話モデルの訓練方法を提供する。該方法で訓練された対話モデルは、ヒューマンマシンインタラクションシーンに適用することができる。例えば、チャットボット、対話システム及び端末スマートアシスタントなどに適用することができる。ユーザとチャットボットがチャットする時、チャットボットは、ユーザによって入力された内容を対話発話文として対話モデルに入力することができ、対話モデルから複数の対話返答を出力し、続いて、ユーザに対してそのうちの１つの対話返答を展示する。同様に、対話システムと端末スマートアシスタントは、ユーザによって入力された内容に基づいて、ユーザの需要に合致する対話返答を出力することもできる。
以下では、対話モデルの訓練方法の実施環境を説明する。図１は、本願の実施例による対話モデルの訓練方法の実施環境を示す概略図である。該実施環境は、端末１１０と、サーバ１２０と、を含んでもよい。
端末１１０及びサーバ１２０は、有線又は無線通信方式で直接的又は間接的に接続されてもよく、本願は、ここでは限定しない。端末１１０は、スマートフォン、タブレット、ノートパソコン、デスクトップコンピュータ、スマートスピーカ、スマートウォッチなどであってもよいが、これらに限定されない。端末１１０に、ヒューマンマシンインタラクションをサポートするアプリケーションプログラムがインストールされて実行されてもよい。該アプリケーションプログラムは、チャットボット型アプリケーションプログラム、ソーシャル型アプリケーションプログラム及び端末スマートアシスタント型アプリケーションプログラムなどであってもよい。模式的に、端末１１０は、ユーザが使用する端末であり、端末１１０において実行されているアプリケーションプログラムにユーザアカウントがログインされている。
サーバ１２０は、独立した物理サーバであってもよく、複数の物理サーバからなるサーバクラスタ又は分散型システムであってもよく、更に、クラウドサービス、クラウドデータベース、クラウドコンピューティング、クラウド関数、クラウドストレージ、ネットワークサービス、クラウド通信、ミドルウェアサービス、ドメイン名サービス、セキュリティサービス、ＣＤＮ、及びビッグデータと人工知能プラットフォームなどの基礎クラウドコンピューティングサービスを提供するクラウドサーバであってもよい。サーバ１２０は、ヒューマンマシンインタラクションをサポートするアプリケーションプログラムにバックグラウンドサービスを提供するためのものである。選択的に、サーバ１２０は、主なモデル訓練動作を担い、端末１１０は、副次的なモデル訓練動作を担う。又は、サーバ１２０は、副次的なモデル訓練動作を担い、端末１１０は、主なモデル訓練動作を担う。又は、サーバ１２０又は端末１１０は、それぞれ、単独でモデル訓練動作を担ってもよい。
選択的に、サーバ１２０は、アクセスサーバ、モデル訓練サーバ及びデータベースサーバから構成されてもよい。アクセスサーバは、端末１１０によって提供されるアクセスサービスを提供するためのものである。モデル訓練サーバは、端末によって提供される、許可されている対話データに基づいて、モデル訓練を行うためのものである。モデル訓練サーバは、１台又は複数台であってもよい。モデル訓練サーバが複数台である時、少なくとも２台のモデル訓練サーバは、異なるサービスを提供するために用いられ、及び／又は、少なくとも２台のモデル訓練サーバは、同じサービスを提供するために用いられ、例えば、負荷分散の方式で同一のサービスを提供するために用いられ、本願の実施例は、これを限定しない。
端末１１０は、広く言えば、複数の端末のうちの１つを指してもよく、本実施例では、端末１１０のみを例として説明する。
上記端末の数は、より多くても少なくてもよいことは、当業者には明らかであろう。例えば、上記端末は、１つのみであってもよく、又は、上記端末は、数十個又は数百個であり、又はより多くてもよく、この場合、上記対話モデルの訓練方法の実施例において、他の端末を更に含む。本願の実施例は、端末の数及び機器タイプを限定するものではない。
本願の実施例において、サーバ又は端末を実行主体として本願の実施例による技術的解決手段を実施してもよく、端末とサーバとのインタラクションによって本願による技術的方法を実施してもよく、本願の実施例は、これを限定しない。図２は、本願の実施例による対話モデルの訓練方法を示すフローチャートである。該実施例は、実行主体がサーバであることを例として説明する。図２を参照すると、該実施例は、以下を含む。
２０１において、サーバは、対話モデルにおける先験的ネットワークと事後的ネットワークによって、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得し、該先験的ネットワークは、対話特徴の確率分布を出力するためのものであり、該事後的ネットワークは、該先験的ネットワークから出力された対話特徴の確率分布を推定するためのものであり、該第１対話特徴は、１つの対話における対話発話文と１つの対話返答の事後的特徴を表すためのものであり、該第２対話特徴は、１つの対話における該対話発話文と１つの対話返答の先験的特徴を表すためのものであり、該第１対話は、１つの第１対話発話文と少なくとも２つの第１対話返答とを含む。ステップ２０１において、サーバは、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得し、該第１対話特徴と該第２対話特徴はそれぞれ、第１対話発話文と１つの第１対話返答の事後的特徴と先験的特徴を表すためのものであり、１つの対話発話文は、少なくとも２つの対話返答に対応する。
本願の実施例において、サーバは、複数の対話から、１つの対話を第１対話として選択してもよく、該第１対話は、１つの第１対話発話文と、該第１対話発話文に対応する少なくとも２つの第１対話返答と、を含む。いずれか１組の第１対話発話文と第１対話返答に対して、サーバは、先験的ネットワークと事後的ネットワークによって、対応する先験的特徴と事後的特徴をそれぞれ取得することができる。
２０２において、サーバは、該第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、対話モデルを更新する。
本願の実施例において、サーバは、第１対話の少なくとも２つの対話特徴と少なくとも２つの第２対話特徴を取得することができ、第１対話における第１対話発話文と１つの第１対話返答によって、１つの第１対話特徴と１つの第２対話特徴を得ることができ、該第１対話特徴と第２対話特徴に基づいて、対話モデルを一回更新し、対話モデルにおける先験的ネットワークと事後的ネットワークのパラメータを更新する。更に、第１対話における第１対話発話文と他の１つの第１対話返答によって、他の１つの第１対話特徴と他の１つの第２対話特徴を得て、対話モデルを更に一回更新する。対話モデルの更新回数は、第１対話に含まれる第１対話返答の数と同じである。
説明すべきこととして、該対話モデルは、エンコーダ、デコーダ及び判別器を更に含んでもよく、サーバは、上記先験的ネットワークと事後的ネットワークのパラメータを更新すると同時に、上記エンコーダ、デコーダ及び判別器のパラメータを更に更新する。
２０３において、サーバは、該第１対話の少なくとも２つの第１対話特徴に基づいて、該事後的ネットワークを更新する。
本願の実施例において、サーバは、上記第１対話の少なくとも２つの第２対話特徴を取得し、続いて、各第２対話特徴に基づいて、事後的ネットワークのパラメータを一回更新することができる。
２０４において、サーバは、第２対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、該対話モデルの判別器を更新する。
ここで、第２対話は、１つの第２対話発話文と、少なくとも２つの第２対話返答と、を含む。
本願の実施例において、サーバは、複数の対話から、少なくとも１つの対話を第２対話として選択し、いずれか１つの第２対話に対して、サーバは、ステップ２０１に記載の方式で、該第２対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得することができる。いずれか１つの第２対話の第２対話発話文と１つの第２対話返答によって、１つの第１対話特徴と１つの第２対話特徴を得ることができ、該第１対話特徴と第２対話特徴に基づいて、判別器のパラメータを一回更新する。この時、判別器の更新回数は、第２対話に含まれる第２対話返答の数である。
説明すべきこととして、上記プロセスは、判別器に対する一回の反復プロセスだけであり、サーバは、判別器の反復回数閾値を取得し、続いて、該反復回数閾値に基づいて複数回の反復を行い、反復回数閾値に達すると、訓練を終了する。
２０５において、サーバが訓練終了条件を満たすことに応答して、訓練により得られたモデルを対話モデルとする。
本願の実施例において、訓練終了条件は、所定の反復回数に達すること、又は、モデルが収束されること、又は、モデルから出力された結果が目標条件を満たすこと、又は、他の訓練終了条件に合致することであってもよく、本願の実施例は、これを限定しない。
本願の実施例において、第１対話の複数の対話特徴によって、対話モデルを複数回更新し、事後的ネットワークを更新し、更に、第２対話の複数の対話特徴に基づいて、対話モデルの判別器を更新することで、対話の異なるセマンティックを考慮し、対話の返答に複数種のセマンティックを含ませることができ、対話モデルの性能を向上させ、対話モデルによって生成される対話返答の多様性も向上させる。
本願の実施例において、サーバ又は端末を実行主体として本願の実施例による技術的解決手段を実施してもよく、端末とサーバとのインタラクションによって本願による技術的方法を実施してもよく、本願の実施例は、これを限定しない。図３は、本願の実施例による対話返答生成方法を示すフローチャートである。該実施例は、実行主体が端末であることを例として説明する。図３を参照すると、該実施例は、以下を含む。
３０１において、端末は、対話発話文を取得する。
本願の実施例において、該対話発話文は、端末ユーザによって入力された内容、例えば、文字、音声又はエモーティコンなどであってもよい。
３０２において、端末は、該対話発話文を対話モデルに入力し、該対話モデルにおける先験的ネットワークによって、複数の対話返答に対応する第２対話特徴から、１つの目標対話特徴をランダムに抽出する。
本願の実施例において、端末に対話モデルが設けられてもよく、ユーザによって入力された内容を対話発話文として対話モデルに入力し、該対話モデルにより、入力された対話発話文に対して符号化を行い、符号化によって得られた特徴を対話モデルにおける先験的ネットワークに入力し、該先験的ネットワークによって、複数の第１対話特徴から、１つの目標対話特徴をランダムに抽出する。ランダムに抽出しているため、端末が該対話発話文を再び入力する時、先験的ネットワークによって抽出された対話特徴は、前回抽出された対話特徴と異なる可能性があり、それにより対話モデルから出力された対話返答も異なる。
３０３において、端末は、該対話モデルにおけるデコーダによって、該目標対話特徴に対して復号を行い、目標対話返答を出力する。
本願の実施例において、対話モデルにおけるデコーダは、ランダムな抽出によって得られた目標対話特徴に対して復号を行い、目標対話返答を得ることができる。先験的ネットワークによるランダムな抽出によって得られた対話特徴が異なると、デコーダによる復号によって得られた対話返答は異なる。
３０４において、端末は、該目標対話返答を展示する。
本願の実施例において、端末は、音声再生、文字表示又は対応するエモーティコンの展示などの方式で、上記目標対話返答を展示することができる。
本願の実施例において、ランダムな抽出の方式で、対話発話文に対応する対話返答を取得しており、それにより、同一の対話発話文を対話モデルに複数回入力すれば、異なる対話返答を得ることができ、それにより対話返答の多様性を向上させる。
説明すべきこととして、上述した、対話モデルによってインタラクションを行うプロセスにおいて、端末は、自体に配置されている対話モデルによって対話返答の取得と出力を行うが、いくつかの実施例において、端末は、サーバに配置されている対話モデルによって対話返答の取得を行い、取得された対話返答に基づいて出力を行い、ヒューマンマシン対話の効果を達成することができる。
本願の実施例において、サーバ又は端末を実行主体として本願の実施例による技術的解決手段を実施してもよく、端末とサーバとのインタラクションによって本願による技術的方法を実施してもよく、本願の実施例は、これを限定しない。図４は、本願の実施例による対話モデルの訓練方法を示すフローチャートである。該実施例は、サーバによる一回の反復を例として説明する。図４を参照すると、該実施例は、以下を含む。
４０１において、サーバは、複数の対話から、第１対話を取得する。
本願の実施例において、サーバは、複数の対話から、Ｎ個の対話を第１対話としてランダムに選択することができ、ここで、Ｎは、正の整数である。いずれか１つの第１対話について、該第１対話は、１つの第１対話発話文と、該第１対話発話文に対応するＫ個の第１対話返答と、を含み、ここで、Ｋは、２以上の正の整数である。異なる第１対話に含まれる第１対話返答の数は、同じであっても異なってもよい。
例えば、データセットに１０００個の対話が含まれ、サーバは、そのうちから、１０個の対話を第１対話としてランダムに選択し、第１対話Ａ、Ｂ、Ｃ、Ｄ、Ｅ、Ｆ、Ｇ、Ｈ、Ｉ及びＪを得て、ここで、第１対話Ａは、５個の第１対話返答ａ１、ａ２、ａ３、ａ４及びａ５に対応し、第１対話Ｂは、６個の第１対話返答ｂ１、ｂ２、ｂ３、ｂ４、ｂ５及びｂ６に対応し、第１対話Ｃは、５個の第１対話返答ｃ１、ｃ２、ｃ３、ｃ４、ｃ５及びｃ６に対応する。ここで、一々列挙しない。
４０２において、サーバが対話モデルにおける先験的ネットワークと事後的ネットワークによって、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得し、該第１対話特徴は、１つの対話における対話発話文と１つの対話返答の事後的特徴を表すためのものであり、該第２対話特徴は、１つの対話における該対話発話文と１つの対話返答の先験的特徴を表すためのものであり、該第１対話は、１つの第１対話発話文と少なくとも２つの第１対話返答とを含む。
本願の実施例において、１つの第１対話に少なくとも２つの第１対話返答が含まれ、その場合、Ｎ個の第１対話に少なくとも２Ｎ個の第１対話返答が含まれる。いずれか１つの第１対話返答に対して、サーバは、該第１対話返答及び対応する第１対話発話文に対して符号化を行い、続いて、符号化によって得られたベクトルを先験的ネットワークと事後的ネットワークにそれぞれ入力し、先験的特徴と事後的特徴、即ち第２対話特徴と第１対話特徴を得ることができる。
１つの第１対話を例として、該第１対話に含まれる各第１対話返答に対して、サーバは、事後的ネットワークと先験的ネットワークによって、一対の第１対話特徴と第２対話特徴を取得し、即ち、１つの第１対話特徴と１つの第２対話特徴を取得することができる。これに対応して、サーバが１つの第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得するステップは、下記サブステップ４０２１～サブステップ４０２３によって実現してもよい。
４０２１において、第１対話のいずれか１つの第１対話返答に対して、サーバは、該対話モデルのエンコーダによって、第１対話発話文と該第１対話返答に対してそれぞれ符号化を行い、該第１対話発話文の第１ベクトルと第１対話返答の第２ベクトルを得る。
本願の実施例において、サーバは、第１対話発話文と該第１対話返答をそれぞれ対話モデルのエンコーダに入力し、該エンコーダは、双方向ゲート付き回帰型ユニットニューラルネットワークによって構築されたものである。サーバは、該エンコーダによって、上記第１対話発話文と該第１対話返答に対してそれぞれ符号化を行い、該第１対話発話文の第１ベクトルと該第１対話返答の第２ベクトルを得る。
説明すべきこととして、エンコーダは、双方向ゲート付き回帰型ユニットニューラルネットワークによって、全ての入力、例えば第１対話発話文と第１対話返答に対して、符号化を行い、符号化によって得られたベクトルは、固定長のベクトルである。例えば、第１対話発話文Cを符号化して第１ベクトルcを得ることを例として説明する。第１ベクトルcは、下記式（１）～式（４）によって算出される。
Figure 2023508062000002
 ここで、
Figure 2023508062000003
 は、第１対話発話文Cにおける左からｔ番目の単語のベクトルを表し、GRU()は、ゲート付き回帰型ユニットを表し、
Figure 2023508062000004
 は、第１対話発話文Cにおける左からｔ－１番目の単語のベクトルを表し、e（Ct）は、第１対話発話文Cにおける左からｔ番目の単語に対応するコードを表す。
Figure 2023508062000005
 ここで、
Figure 2023508062000006
 は、第１対話発話文Cにおける右からｔ番目の単語のベクトルを表し、GRU()は、ゲート付き回帰型ユニットを表し、
Figure 2023508062000007
 は、第１対話発話文Cにおける右からｔ＋１番目の単語のベクトル表現を表し、e（Ct）は、第１対話発話文Cにおける右からｔ番目の単語に対応するコードを表す。
Figure 2023508062000008
 ここで、htは、第１対話発話文Cにおける左からｔ番目の単語のベクトル表現と第１対話発話文Cにおける右からｔ番目の単語のベクトルの結合ベクトルを表す。
Figure 2023508062000009
 ここで、cは、第１対話発話文Cにおける左からＴ番目の単語のベクトルと第１対話発話文Cにおける右から１番目の単語のベクトルの結合ベクトルを表し、Ｔは、第１対話発話文Cに含まれる単語の数を表す。
４０２２において、サーバは、該第１対話の少なくとも２つの第１対話特徴を取得し、該第１対話の該第１対話特徴は、該事後的ネットワークによって該第１対話発話文の第１ベクトルと該第１対話返答の第２ベクトルとを処理することで得られたものである。
該ステップ４０２２において、サーバは、事後的ネットワークによって、該第１対話発話文の第１ベクトルと該第１対話返答の第２ベクトルに基づいて、第１対話特徴を取得する。
本願の実施例において、事後的ネットワークは、対話発話文と対話返答に基づいて、対話の対話特徴の分布を学習するためのものであり、返答情報によれば、訓練によって得られた対話モデルにおける対話特徴の分布をより正確にすることができる。事後的ネットワークから出力された対話特徴の確率分布は、事後的分布と呼ばれ、該事後的分布は、先験的分布、即ち、先験的ネットワークから出力された対話特徴の確率分布を推定するためのものである。
選択的な実現形態において、現在では、再構築されるべき対話返答が第１対話返答であり、事後的分布が正規分布に従うとする。これに対応して、サーバが、事後的ネットワークによって、該第１ベクトルと第２ベクトルに基づいて、第１対話特徴を取得するステップは、以下の通りであってもよい。サーバは、事後的ネットワークによって、第１対話発話文の第１ベクトルと第１対話返答の第２ベクトルに基づいて、事後的分布の第１パラメータ平均値と第１パラメータ分散を取得することができる。サーバは、該第１パラメータ平均値、第１パラメータ分散及び第１サンプリング値に基づいて、第１対話特徴を取得することができる。ここで、第１サンプリング値は、標準正規分布からサンプリングされた値であり、即ち、サンプリング点の値である。標準正規分布からサンプリングされた値によって、第１対話特徴を取得することで、訓練プロセスにおいて、該第１対話特徴に基づいて、デコーダによって対話返答を再構築し、再構築された対話返答と第１対話返答との差に基づいて、対話モデルのパラメータを調整し、該第１対話特徴と第１対話返答との差が小さくなり、そのため、第１対話特徴で第１対話返答を表すことができる。
説明すべきこととして、サーバは、事後的ネットワークによって、第１対話特徴を取得する時、下記式（５）と式（６）で算出する。
Figure 2023508062000010
 ここで、μkは、第１パラメータ平均値を表し、σkは、第１パラメータ分散を表し、Wは、可変パラメータを表し、
Figure 2023508062000011
 は、事後的ネットワークを表し、Xkは、第１対話返答の第２ベクトルを表し、cは、第１対話発話文の第１ベクトルを表し、bは、偏りパラメータを表す。
Figure 2023508062000012
 ここで、zkは、第１対話特徴を表し、μkは、第１パラメータ平均値を表し、σkは、第１パラメータ分散を表し、εは、第１サンプリング値を表し、ε～N(0,I)は、εが標準正規分布に従うことを表す。
４０２３において、サーバは、先験的ネットワークによって、該第１ベクトルと該第１対話返答の属する返答種別に基づいて、第２対話特徴を取得し、該返答種別は、該第１対話返答と同一の種別に属する少なくとも１つの他の対話返答を含む。
本願の実施例において、先験的ネットワークは、実の対話特徴の確率分布を表すためのものであり、この確率分布は、事後的分布から推定されるものである。事後的分布によって先験的分布を推定する時、先験的分布から、１つのサブ分布を選択し、事後的分布とマッチングする。事後的分布と先験的分布を正確にマッチングするために、１つの対話発話文に対応する少なくとも２つの対話返答に対してクラスタリングを行い、複数の返答種別を得ることができる。続いて、第２対話特徴を取得する時、第１対話返答の属する返答種別に基づいて、先験的分布におけるサブ分布を選択する。
選択的な実現形態において、先験的分布が混合ガウスに従うとすると、サーバが第１対話返答の属する返答種別に基づいて、サブ分布を選択し、続いて、該サブ分布からサンプリングを行い、第２対話特徴を得る。これに対応して、サーバが先験的ネットワークによって、該第１ベクトルと該第１対話返答の属する返答種別に基づいて、第２対話特徴を取得するステップは、以下の通りであってもよい。サーバは、第１ベクトルと第１対話返答の属する返答種別に基づいて、目標確率分布を決定することができ、該目標確率分布は、先験的ネットワークから出力された対話特徴の確率分布のうちの該返答種別に対応する確率分布、即ち、事後的分布とマッチングするためのサブ分布である。サーバは、先験的ネットワークによって、第１ベクトルに基づいて、第２パラメータ平均値と第２パラメータ分散を取得することができる。サーバは、第２パラメータ平均値、第２パラメータ分散及び第２サンプリング値に基づいて、第２対話特徴を取得することができる。ここで、該第２サンプリング値は、目標確率分布からサンプリングされた値であり、即ち、サンプリング点の値である。混合ガウス分布におけるサブ分布上のサンプリング値によって第２対話特徴を取得するため、訓練プロセスにおいて、エンコーダによって、該第２対話特徴と第１対話特徴に基づいて、先験的分布と事後的分布とのＷａｓｓｅｒｓｔｅｉｎ（ワッサースタイン）距離を取得することができ、それにより先験的分布と事後的分布を正確にマッチングする。
説明すべきこととして、サーバは、先験的ネットワークによって、第２対話特徴を取得する時、下記式（７）～式（９）で算出することができる。
Figure 2023508062000013
 ここで、
Figure 2023508062000014
 は、第２対話特徴を表し、
Figure 2023508062000015
 は、第２対話特徴が先験的分布に従うことを表し、ｊは、返答種別の識別子を表し、Jは、返答種別の総数を表し、πｊは、サブ分布選択パラメータを表し、γkは、ｋ番目の対話返答を表し、
Figure 2023508062000016
 は、先験的分布を表す。
Figure 2023508062000017
 ここで、
Figure 2023508062000018
 は、返答種別ｊに対応する目標確率分布の第２パラメータ平均値を表し、
Figure 2023508062000019
 は、返答種別ｊに対応する目標確率分布の第２パラメータ分散を表し、
Figure 2023508062000020
 は、返答種別ｊに対応する目標確率分布の可変パラメータを表し、fθ( )は、先験的ネットワークを表し、cは、第１対話発話文の第１ベクトルを表し、
Figure 2023508062000021
 は、返答種別ｊに対応する目標確率分布の偏りパラメータを表す。
Figure 2023508062000022
 ここで、
Figure 2023508062000023
 は、第２対話特徴を表し、
Figure 2023508062000024
 は、返答種別ｊに対応する目標確率分布の第２パラメータ平均値を表し、
Figure 2023508062000025
 は、返答種別jに対応する目標確率分布の第２パラメータ分散を表し、
Figure 2023508062000026
 は、第２サンプリング値を表し、
Figure 2023508062000027
 は、
Figure 2023508062000028
 が標準正規分布に従うことを表す。
説明すべきこととして、いずれか１つの第１対話に対して、該第１対話に含まれる少なくとも２つの対話返答に基づいて、少なくとも２つの事後的分布を得ることができ、各事後的分布から、１つの第１対話特徴zkをサンプリングによって得ることができる。該第１対話に含まれる対話発話文に基づいて、１つの先験的分布を得ることができ、該先験的分布は、少なくとも２つのサブ分布を含み、各サブ分布から、１つの第２対話特徴
Figure 2023508062000029
 をサンプリングによって得ることができる。即ち、同一の第１対話に対して、得られた少なくとも２つの第２対話特徴
Figure 2023508062000030
 は、同一の先験的分布からのものである。
４０３において、サーバは、該第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、対話モデルを更新する。
本願の実施例において、いずれか１つの第１対話返答に対して、サーバは、該第１対話返答に対応する第１対話特徴と第２対話特徴を取得することができる。サーバは、第１対話発話文を符号化することで得られた第１ベクトルと、該第１対話返答に対応する第１対話特徴と第２対話特徴に基づいて、判別器損失と再構築損失を取得することができる。続いて、サーバは、該判別器損失に基づいて、対話モデルにおける事後的ネットワークと先験的ネットワークのパラメータを更新し、該再構築損失に基づいて、対話モデルにおけるエンコーダ、事後的ネットワーク、先験的ネットワーク及びデコーダのパラメータを更新することができる。最後に、サーバは、判別器損失に基づいて、対話モデルの判別器のパラメータを更新することができる。
説明すべきこととして、判別器の損失は、敵対的ネットワークによって事後的分布と先験的分布とのＷａｓｓｅｒｓｔｅｉｎ（ワッサースタイン）距離を最適化することで得られる。サーバは、対話モデルの判別器によって、第１対話発話文の第１ベクトル、該第１対話返答に対応する第１対話特徴と第２対話特徴に基づいて、第１対話特徴と第２対話特徴との第１ワッサースタイン距離を取得し、該第１ワッサースタイン距離を判別器損失とする。これに対応して、判別器損失は、式（１０）で算出されてもよい。
Figure 2023508062000031
 ここで、
Figure 2023508062000032
 は、判別器損失を表し、
Figure 2023508062000033
 は、第１対話特徴zkの数学的期待値を表し、Ｄ( )は、判別器を表し、zkは、第１対話特徴を表し、cは、第１対話発話文の第１ベクトルを表し、
Figure 2023508062000034
 は、第２対話特徴
Figure 2023508062000035
 の数学的期待値を表し、
Figure 2023508062000036
 は、第２対話特徴を表す。
これに対応して、サーバは、判別器損失に基づいて、対話モデルにおける先験的ネットワークのパラメータを更新する時、式（１１）で算出することができる。
Figure 2023508062000037
 ここで、θp-netは、先験的ネットワークのパラメータを表し、lrは、対話モデルの学習率を表し、∂は、微分演算を表し、
Figure 2023508062000038
 は、判別器損失を表す。
これに対応して、サーバは、判別器損失に基づいて、対話モデルにおける事後的ネットワークのパラメータを更新し、該事後的モデルのパラメータは、式（１２）で算出される。
Figure 2023508062000039
 ここで、θR-netは、事後的ネットワークのパラメータを表し、lrは、対話モデルの学習率を表し、∂は、微分演算を表し、
Figure 2023508062000040
 は、判別器損失を表す。
説明すべきこととして、再構築損失について、事後的分布からサンプリングされた第１対話特徴に基づいて、デコーダに基づいて該第１対話特徴に対して復号を行い、対話返答を再構築し、再構築された対話返答と第１対話返答との誤差に基づいて、再構築損失を決定することができる。サーバは、対話モデルにおけるデコーダによって、第１対話特徴に対して復号を行い、復号によって得られた目標対話返答に対応する目標対話特徴を取得することができる。サーバは、第１ベクトル、第１対話特徴、第２対話特徴及び目標対話特徴に基づいて、再構築損失を取得することができる。これに対応して、再構築損失は、式（１３）で算出されてもよい。
Figure 2023508062000041
 ここで、
Figure 2023508062000042
 は、再構築損失を表し、
Figure 2023508062000043
 は、事後的分布から無限回サンプリングすることで第１対話特徴zkを得ることで、再構築された目標対話特徴の確率全体を十分に大きくする数学的期待値を表し、
Figure 2023508062000044
 は、デコーダを表し、xkは、目標対話特徴を表す。
これに対応して、サーバは、対話モデルにおけるエンコーダ、事後的ネットワーク、先験的ネットワーク及びデコーダのパラメータを更新する時、式（１４）で算出することができる。
Figure 2023508062000045
 ここで、θnetは、netのパラメータを表し、lrは、対話モデルの学習率を表し、
Figure 2023508062000046
 は、再構築損失を表し、
Figure 2023508062000047
 は、netがEnc、P-net、R-net及びDecのうちの１つであることを表し、Encは、エンコーダを表し、P-netは、先験的ネットワークを表し、R-netは、事後的ネットワークを表し、Decは、デコーダを表す。
これに対応して、サーバは、判別器損失に基づいて、対話モデルにおける判別器のパラメータを更新する時、判別器のパラメータは、式（１５）で算出されてもよい。
Figure 2023508062000048
 ここで、θDiscは、判別器のパラメータを表し、lrは、対話モデルの学習率を表し、∂は、微分演算を表し、
Figure 2023508062000049
 は、判別器損失を表す。
４０４において、サーバは、該第１対話の少なくとも２つの第１対話特徴に基づいて、該事後的ネットワークを更新する。
本願の実施例において、サーバは、上記ステップによって少なくとも２つの第１対話特徴、即ち、事後的特徴を得ることができる。対話モデルによって最終的に学習された先験的分布を分割可能なマルチセマンティック分布にするために、サーバは、セマンティック距離の最適化目標に基づいて、対話発話文に対応する事後的分布の間のセマンティック距離を制御してもよい。
選択的な実現形態において、サーバは、最大平均値差異を使用して、１つの第１対話特徴と他の第１対話特徴の平均値の間のＷａｓｓｅｒｓｔｅｉｎ距離を最大化することができる。これに対応して、サーバが該第１対話の少なくとも２つの第１対話特徴に基づいて、該事後的ネットワークを更新するステップは、以下の通りであってもよい。いずれか１つの第１対話特徴に対して、サーバは、該少なくとも２つの第１対話特徴のうちの該第１対話特徴以外の他の第１対話特徴の平均値を取得し、該平均値を平均対話特徴とすることができる。サーバは、該第１対話特徴と平均対話特徴との第２ワッサースタイン距離を取得し、該第２ワッサースタイン距離をセマンティック損失とすることができる。サーバは、該セマンティック損失に基づいて、事後的ネットワークのパラメータを更新することができる。事後的分布の間のセマンティック距離を制御しているため、先験的分布は、分割可能なマルチセマンティック分布である。
説明すべきこととして、サーバは、該少なくとも２つの第１対話特徴のうちの該第１対話特徴以外の他の第１対話特徴の平均値を取得する時、下記式（１６）で算出することができる。
Figure 2023508062000050
 ここで、
Figure 2023508062000051
 は、平均対話特徴を表し、Kは、第１対話特徴の数を表し、ziは、i番目の第１対話特徴を表し、
Figure 2023508062000052
 は、iがセット
Figure 2023508062000053
 に属することを表し、
Figure 2023508062000054
 であり、セット
Figure 2023508062000055
 にK個の第１対話特徴におけるzkが含まれない。
これに対応して、サーバは、下記式（１７）でセマンティック損失を算出する。
Figure 2023508062000056
 ここで、
Figure 2023508062000057
 は、セマンティック損失を表し、zkは、第１対話特徴を表し、
Figure 2023508062000058
 は、平均対話特徴を表し、ＧＫＦ( )は、ガウスカーネル関数を表し、
Figure 2023508062000059
 は、事後的分布からサンプリングされた異なる第１対話特徴zkの間の距離が十分に小さい数学的期待値を表し、
Figure 2023508062000060
 は、事後的分布からサンプリングされた第１対話特徴zkと他の事後的分布の平均対話特徴
Figure 2023508062000061
 との距離が十分に大きい数学的期待値を表し、
Figure 2023508062000062
 は、他の事後的分布の平均対話特徴
Figure 2023508062000063
 の間の距離が十分に小さい数学的期待値を表す。
これに対応して、サーバは、該セマンティック損失に基づいて、事後的ネットワークのパラメータを更新する時、事後的ネットワークのパラメータは、下記式（１８）で算出される。
Figure 2023508062000064
 ここで、θR-netは、事後的ネットワークのパラメータを表し、lrは、対話モデルの学習率を表し、∂は、微分演算を表し、
Figure 2023508062000065
 は、セマンティック損失を表す。
４０５において、サーバは、第２対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、該対話モデルの判別器を更新し、第２対話は、１つの第２対話発話文と、少なくとも２つの第２対話返答と、を含む。
本願の実施例において、サーバは、判別器の更新回数を設定してもよい。判別器を更新するたびに、サーバは、複数の対話から、少なくとも１つの対話を第２対話として選択し、続いて、第２対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得し、これは、ステップ４０２を参照してもよく、ここでは説明を省略する。いずれか１つの第２対話の第２対話返答に対して、サーバは、該第２対話返答に対応する第１対話特徴と第２対話特徴に基づいて、判別器損失を取得することができ、具体的には、ステップ４０３を参照してもよく、ここでは説明を省略する。サーバは、該判別器損失に基づいて、対話モデルにおける判別器を更新することができる。サーバは、対話モデルにおける判別器のパラメータを更新する時、上記式（１５）を参照してもよく、ここでは説明を省略する。
説明すべきこととして、上記ステップ４０１～ステップ４０５は、本願の実施例による対話モデルの訓練方法の一回の反復プロセスであり、サーバは、上記ステップを繰り返し、訓練終了条件を満たすまで継続する。
本願の実施例において、第１対話の複数の対話特徴によって、対話モデルを複数回更新し、事後的ネットワークを更新し、更に、第２対話の複数の対話特徴に基づいて、対話モデルにおける判別器を更新することで、訓練プロセスにおいて、対話の異なるセマンティックを考慮し、対話の返答に複数種のセマンティックを含ませることができ、対話モデルによって生成される対話返答の多様性を向上させる。
図５は、本願の実施例による対話モデルの構造を示す概略図である。図５に示すように、左側には、１つの第１対話を例示的に示し、該第１対話は、１つの第１対話発話文と、Ｋ個の第１対話返答と、を含む。該第１対話をエンコーダに入力することで、第１対話発話文の第１ベクトルと第１対話返答の第２ベクトルを得ることができる。第１ベクトルを先験的ネットワークに入力することで、先験的分布を得ることができ、先験的分布の各サブ分布からサンプリングすることで、複数の第２対話特徴を得ることができる。第２ベクトルをそれぞれ事後的ネットワークに入力することで、事後的分布を得ることができ、１つの事後的分布からサンプリングすることで、１つの第１対話特徴を得ることができ、ｋ番目の第１対話返答に対応する第１対話特徴は、zkであり、他の第１対話特徴の平均値は、
Figure 2023508062000066
 である。デコーダは、第１対話特徴zkを復号し、再構築された対話返答を得て、再構築された対話返答は、第１対話返答に類似していれば類似しているほどよい。
以下では、本願の実施例において上記対話モデルを訓練する時に使用されるマルチセマンティックＷＡＥ（ＷａｓｓｅｒｓｔｅｉｎＡｕｔｏ－Ｅｎｃｏｄｅｒ：Ｗａｓｓｅｒｓｔｅｉｎ自動エンコーダ）アルゴリズムを説明する。
Figure 2023508062000067
Figure 2023508062000068
上記マルチセマンティックＷＡＥアルゴリズムに記載のステップをより明瞭にするために、図６を参照すると、図６は、本願の実施例によるマルチセマンティックＷＡＥアルゴリズムを示すフローチャート概略図である。該ＷＡＥアルゴリズムの入力は、複数の対話であり、ステップ１は、エンコーダのパラメータを初期化することであり、ステップ２は、モデルの反復条件を判定することであり、ステップ３は、少なくとも１つの第１対話を取得することであり、ステップ４は、第１対話における第１対話返答に基づいて、反復判定を行うことであり、ステップ５は、第１対話発話文と第１対話返答に対して符号化を行うことであり、ステップ６は、事後的ネットワークによって、第１対話特徴を得ることであり、ステップ７は、先験的ネットワークによって、第２対話特徴を得ることであり、ステップ８は、判別器損失に基づいて、先験的ネットワークを更新することであり、ステップ９は、判別器損失に基づいて、事後的ネットワークを更新することであり、ステップ１０は、再構築損失に基づいて、エンコーダ、事後的ネットワーク、先験的ネットワーク及びデコーダを更新することであり、ステップ１１は、判別器損失に基づいて、判別器を更新することであり、ステップ１２は、第１対話返答に基づく反復を終了することであり、ステップ１３は、第１対話特徴に基づいて、反復判定を行うことであり、ステップ１４は、セマンティック損失に基づいて、事後的ネットワークを更新することである。ステップ１５は、第１対話特徴に基づく反復を終了することであり、ステップ１６は、判別器更新回数に基づいて、反復判定を行うことであり、ステップ１７は、少なくとも１つの第２対話を取得することであり、ステップ１８は、第２対話における第２対話返答に基づいて、反復判定を行うことであり、ステップ１９は、上記ステップ５～ステップ７を繰り返すことであり、ステップ２０は、判別器損失に基づいて、判別器を更新することであり、ステップ２１は、第２対話返答に基づく反復を終了することであり、ステップ２２は、判別器更新回数に１を加算することであり、ステップ２３は、判別器更新回数に基づく反復を終了することであり、ステップ２４は、モデル反復回数に１を加算することであり、ステップ２５は、モデル反復を終了することである。
説明すべきこととして、上記ＷＡＥアルゴリズムにおける入力可能なコーパス
Figure 2023508062000069
 は、下記アルゴリズムで算出されてもよい。
Figure 2023508062000070
説明すべきこととして、本願の実施例による対話モデルの訓練方法で訓練された対話モデルが良好な効果を奏していることを検証するために、本願の実施例は、検証実験を更に設計する。実験において、２つの共通対話データセットによって評価を行う。１つのデータセットは、Ｄｏｕｂａｎ（Ｙｕ Ｗｕ、Ｆｕｒｕ Ｗｅｉ、Ｓｈａｏｈａｎ Ｈｕａｎｇ、Ｙｕｎｌｉ Ｗａｎｇ、Ｚｈｏｕｊｕｎ Ｌｉ、ａｎｄ Ｍｉｎｇ Ｚｈｏｕにより２０１９年に発表された《Ｒｅｓｐｏｎｓｅ ｇｅｎｅｒａｔｉｏｎｂｙ ｃｏｎｔｅｘｔ－ａｗａｒｅ ｐｒｏｔｏｔｙｐｅ ｅｄｉｔｉｎｇ》からのものであり、これは、Ｐｒｏｃｅｅｄｉｎｇｓｏｆ ｔｈｅ ＡＡＡＩ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ、第３３巻、ページ２８１－７２８８に発表されている）である。もう１つは、ＤａｉｌｙＤｉａｌｇ（Ｙａｎｒａｎ Ｌｉ、Ｈｕｉ Ｓｕ、Ｘｉａｏｙｕ Ｓｈｅｎ、Ｗｅｎｊｉｅ Ｌｉ、ＺｉｑｉａｎｇＣａｏ、ａｎｄ ＳｈｕｚｉＮｉｕにより２０１７年に発表された《ＤａｉｌｙＤｉａｌｏｇ：Ａ ｍａｎｕａｌｌｙ ｌａｂｅｌｌｅｄ ｍｕｌｔｉ－ｔｕｒｎ ｄｉａｌｏｇｕｅ ｄａｔａｓｅｔ》からのものであり、これは、Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ｅｉｇｈｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｊｏｉｎｔ Ｃｏｎｆｅｒｅｎｃｅ ｏｎＮａｔｕｒａｌ Ｌａｎｇｕａｇｅ Ｐｒｏｃｅｓｓｉｎｇ （Ｖｏｌｕｍｅ １： Ｌｏｎｇ Ｐａｐｅｒｓ）、ページ９８６－９９５に発表されている）である。データセットにおけるサンプル数の統計は、表１に示す通りである。説明すべきこととして、ＤｏｕｂａｎとＤａｉｌｙＤｉａｌｏｇ対話データセットにおける単語数は、それぞれ２０，０００と１０，０００である。
Figure 2023508062000071
以下では、実験において、比較に用いられる他の方法を説明する。実験時、本願の実施例によるＭＳ－ＷＡＥ（Ｍｕｌｔｉ－Ｓｅｍａｎｔｉｃｗａｓｓｅｒｓｔｅｉｎ ａｕｔｏｅｎｃｏｄｅｒ：マルチセマンティックワッサースタイン自動エンコーダ）方法を、Ｂａｈｄａｎａｕらが２０１５年に提出したＳｅｑ２Ｓｅｑ－ａｔｔｎ（Ｔｈｅ ｓｔａｎｄａｒｄ Ｓｅｑ２Ｓｅｑ ａｒｃｈｉｔｅｃｔｕｒｅ ｗｉｔｈ ａｔｔｅｎｔｉｏｎ ｍｅｃｈａｎｉｓｍ：アテンションメカニズムを有する標準Ｓｅｑ２Ｓｅｑアーキテクチャ）方法、Ｇａｏらが２０１９年に提出されたＤＣＶＡＥ（Ａ ｄｉｓｃｒｅｔｅ ＣＶＡＥ ｆｏｒｒｅｓｐｏｎｓｅ ｇｅｎｅｒａｔｉｏｎ ｏｎ ｓｈｏｒｔ－ｔｅｘｔ ｃｏｎｖｅｒｓａｔｉｏｎ：ショートテキストに対して応答を発生するための離散ＣＶＡＥ（Ｃｏｎｄｉｔｉｏｎａｌ ＡｕｔｏＥｎｃｏｄｅｒ：条件付き自動エンコーダ））方法、Ｃｈｅｎらが２０１９年に提出したＭＭＰＭＳ（Ｇｅｎｅｒａｔｉｎｇ ｍｕｌｔｉｐｌｅ ｄｉｖｅｒｓｅ ｒｅｓｐｏｎｓｅｓ ｗｉｔｈ ｍｕｌｔｉ－ｍａｐｐｉｎｇ ａｎｄ ｐｏｓｔｅｒｉｏｒ ｍａｐｐｉｎｇｓｅｌｅｃｔｉｏｎ：マルチマッピングと事後的マッピング選択によって様々な応答を生成する）方法、及びＧｕらが２０１８年に提出したＤｉａｌｏｇＷＡＥ（Ｍｕｌｔｉｍｏｄａｌ ｒｅｓｐｏｎｓｅ ｇｅｎｅｒａｔｉｏｎ ｗｉｔｈ ｃｏｎｄｉｔｉｏｎａｌ ｗａｓｓｅｒｓｔｅｉｎ ａｕｔｏｅｎｃｏｄｅｒ：条件付きワッサースタイン自動エンコーダを用いてマルチモーダル応答を生成する）方法と比較する。
以下では、実験の評価標準を説明する。実験時、ＢＬＵＥ（機械翻訳の自動評価方法）、ＢＯＷＥｍｂｅｄｄｉｎｇ（ｂａｇｏｆｗｏｒｄｓＥｍｂｅｄｄｉｎｇ：単語バッグモデル埋め込み）、ｉｎｔｒａ－ｄｉｓｔ（内因的差異）、及びｉｎｔｅｒ－ｄｉｓｔ（外因的差異）の４つの大きな方面から評価する。ここで、ＢＬＵＥは、Ｒｅｃａｌｌ（リコール率）、Ｐｒｅｃｉｓｉｏｎ（精度）及びＦ１（Ｆ１－Ｓｃｏｒｅ：Ｆ１スコア）を含む。ＢＯＷＥｍｂｅｄｄｉｎｇは、Ａｖｅｒａｇｅ（平均値）、Ｅｘｔｒｅｍａ（極値）及びＧｒｅｅｄｙ（グリーディ）を含む。ｉｎｔｒａ－ｄｉｓｔは、ｄｉｓｔ－１及びｄｉｓｔ－２を含み、ｉｎｔｅｒ－ｄｉｓｔは、ｄｉｓｔ－１及びｄｉｓｔ－２を含む。
実験結果は、表２に示す通りである。
Figure 2023508062000072
表２において、符号＋を有する数字は、最適な基本閾値を超える数値を表し、統計学的意味を有する。表２におけるデータによれば、本願によるＭＡ－ＷＡＥ方法が多様性を著しく向上させて関連性を保持することが明らかになる。
なお、本願は、手動による評価実験を更に設計する。実験プロセスにおいて、参加者５名を募集しており、それぞれ、Ｉｎｆｏｒｍａｔｉｖｅｎｅｓｓ（情報性：１つの対話返答が意義のある情報を提供するものであるかどうかを評価する）、Ａｐｐｒｏｐｒｉａｔｅｎｅｓｓ（適当性：１つの対話返答がロジックに合致するかどうかを評価する）及びＳｅｍａｎｔｉｃ Ｄｉｖｅｒｓｉｔｙ（セマンティック多様性）の点から評価する。評価スコアは、０－２であり、０は、最も悪いものを表し、２は、最も良いものを表す。
手動による評価の実験結果は、表３に示す通りである。
Figure 2023508062000073
表３には、全ての方法の平均値±標準差を示す。結果によれば、セマンティック多様性の方面では、ＭＳ－ＷＡＥは、２つのデータセットにおいて、他のデータセットよりも遥かに好ましく、ベースラインを超えた。
図７は、本願の実施例による対話モデルの訓練装置を示すブロック図である。該装置は、上記対話モデルの訓練方法を実行する時のステップを実行するためのものである。図７を参照すると、装置は、特徴取得モジュール７０１と、モデル更新モジュール７０２と、モデル取得モジュール７０３と、を備える。
特徴取得モジュール７０１は、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得するように構成され、該第１対話特徴と該第２対話特徴はそれぞれ、第１対話発話文と１つの第１対話返答の事後的特徴と先験的特徴を表すためのものであり、１つの対話発話文は、少なくとも２つの対話返答に対応する。選択的に、特徴取得モジュール７０１は、対話モデルにおける先験的ネットワークと事後的ネットワークによって、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得するように構成され、該先験的ネットワークは、対話特徴の確率分布を出力するためのものであり、該事後的ネットワークは、該先験的ネットワークから出力された対話特徴の確率分布を推定するためのものであり、該第１対話特徴は、１つの対話における対話発話文と１つの対話返答の事後的特徴を表すためのものであり、該第２対話特徴は、１つの対話における該対話発話文と１つの対話返答の先験的特徴を表すためのものであり、該第１対話は、１つの第１対話発話文と少なくとも２つの第１対話返答とを含む。
モデル更新モジュール７０２は、該第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、対話モデルを更新するように構成され、該対話モデルに、先験的ネットワークと、事後的ネットワークとが含まれ、該事後的ネットワークは、該先験的ネットワークから出力された対話特徴の確率分布を推定するためのものであり、
該モデル更新モジュール７０２は更に、該第１対話の少なくとも２つの第１対話特徴に基づいて、該事後的ネットワークを更新するように構成され、
該モデル更新モジュール７０２は更に、第２対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、該対話モデルの判別器を更新するように構成され、該第２対話は、第２対話発話文と、少なくとも２つの第２対話返答と、を含む。
モデル取得モジュール７０３は、訓練終了条件を満たすことに応答して、訓練により得られたモデルを対話モデルとするように構成される。
選択可能な実現形態において、該特徴取得モジュール７０１は、いずれか１つの第１対話返答に対して、該対話モデルに基づいて、該第１対話発話文と該第１対話返答に対してそれぞれ符号化を行い、該第１対話発話文の第１ベクトルと第１対話返答の第２ベクトルを得て、該事後的ネットワークによって、該第１ベクトルと第２ベクトルに基づいて、第１対話特徴を取得し、該先験的ネットワークによって、該第１ベクトルと該第１対話返答の属する返答種別に基づいて、第２対話特徴を取得するように構成され、該返答種別は、該第１対話返答と同一の種別に属する少なくとも１つの他の対話返答を含む。
選択的な実現形態において、該特徴取得モジュール７０１は、該第１対話のいずれか１つの該第１対話返答に対して、該対話モデルのエンコーダによって、該第１対話発話文と該第１対話返答に対してそれぞれ符号化を行い、該第１対話発話文の第１ベクトルと該第１対話返答の第２ベクトルを得て、該第１対話の少なくとも２つの第１対話特徴を取得し、該第１対話の該第１対話特徴は、該事後的ネットワークによって該第１対話発話文の第１ベクトルと該第１対話返答の第２ベクトルとを処理することで得られたものであり、該第１対話の少なくとも２つの第２対話特徴を取得し、該第１対話の該第２対話特徴は、該先験的ネットワークによって該第１対話発話文の第１ベクトルと該第１対話返答の属する返答種別を処理することで得られたものであるように構成される。
選択的な実現形態において、該特徴取得モジュール７０１は、該第１対話発話文と該第１対話返答をそれぞれ対話モデルのエンコーダに入力し、該エンコーダは、双方向ゲート付き回帰型ユニットニューラルネットワークによって構築されたものであり、該エンコーダによって、該第１対話発話文と該第１対話返答に対してそれぞれ符号化を行い、該第１対話発話文の第１ベクトルと該第１対話返答の第２ベクトルを得るように構成される。
選択的な実現形態において、該特徴取得モジュール７０１は更に、該事後的ネットワークによって、該第１ベクトルと該第２ベクトルに基づいて、第１パラメータ平均値と第１パラメータ分散を取得し、該第１パラメータ平均値、該第１パラメータ分散及び第１サンプリング値に基づいて、第１対話特徴を取得するように構成され、該第１サンプリング値は、標準正規分布から取得されたサンプリング点の値である。
選択的な実現形態において、該特徴取得モジュール７０１は、該第１ベクトルと該第２ベクトルを該事後的ネットワークに入力し、第１パラメータ平均値と第１パラメータ分散を出力し、該第１パラメータ平均値、該第１パラメータ分散及び第１サンプリング値に基づいて、第１対話特徴を取得するように構成され、該第１サンプリング値は、標準正規分布からサンプリングを行うことで得られたものである。
選択的な実施形態において、該特徴取得モジュール７０１は、該第１ベクトルと該第１対話返答の属する返答種別に基づいて、目標確率分布を決定し、該目標確率分布は、該先験的ネットワークから出力された対話特徴の確率分布のうちの該返答種別に対応する確率分布であり、該先験的ネットワークによって、該第１ベクトルに基づいて、第２パラメータ平均値と第２パラメータ分散を取得し、該第２パラメータ平均値、該第２パラメータ分散及び第２サンプリング値に基づいて、第２対話特徴を取得し、該第２サンプリング値は、該目標確率分布から取得されたサンプリング点の値であるように構成される。
選択的な実施形態において、該特徴取得モジュール７０１は、該第１ベクトルと該第１対話返答の属する返答種別に基づいて、目標確率分布を決定し、該目標確率分布は、該先験的ネットワークから出力された確率分布のうち、該返答種別に対応する確率分布であり、該第１ベクトルを該先験的ネットワークに入力し、第２パラメータ平均値と第２パラメータ分散を得て、該第２パラメータ平均値、該第２パラメータ分散及び第２サンプリング値に基づいて、第２対話特徴を取得し、該第２サンプリング値は、該目標確率分布に対してサンプリングを行うことで得られたものであるように構成される。
選択的な実施形態において、該モデル更新モジュール７０２は、該第１対話のいずれか１つの第１対話返答に対して、該第１対話返答に対応する第１対話特徴と第２対話特徴を取得し、第１ベクトル、該第１対話返答に対応する第１対話特徴と第２対話特徴に基づいて、判別器損失を取得し、該第１ベクトルは、該第１対話発話文を符号化することで得られたものであり、該第１ベクトル、該第１対話返答に対応する第１対話特徴と第２対話特徴に基づいて、再構築損失を取得し、該判別器損失に基づいて、該対話モデルにおける事後的ネットワークと先験的ネットワークのパラメータを更新し、該再構築損失に基づいて、対話モデルにおけるエンコーダ、該事後的ネットワーク、該先験的ネットワーク及びデコーダのパラメータを更新し、該判別器損失に基づいて、該対話モデルにおける判別器のパラメータを更新するように構成される。
選択的な実施形態において、該モデル更新モジュール７０２は、該対話モデルの判別器によって、該第１対話発話文の第１ベクトル、該第１対話返答に対応する第１対話特徴と第２対話特徴に基づいて、該第１対話返答に対応する第１対話特徴と第２対話特徴との第１ワッサースタイン距離を取得し、該第１ワッサースタイン距離を判別器損失とするように構成される。
選択的な実施形態において、該モデル更新モジュール７０２は、該対話モデルにおけるデコーダによって、該第１対話特徴に対して復号を行い、目標対話特徴を取得し、該第１ベクトル、該第１対話返答に対応する第１対話特徴と第２対話特徴、該目標対話特徴に基づいて、再構築損失を取得するように構成される。
選択的な実施形態において、該モデル更新モジュール７０２は更に、第１対話のいずれか１つの第１対話特徴に対して、該少なくとも２つの第１対話特徴のうちの該第１対話特徴以外の他の第１対話特徴の平均値を取得し、該平均値を平均対話特徴とし、該第１対話特徴と該平均対話特徴との第２ワッサースタイン距離を取得し、該第２ワッサースタイン距離をセマンティック損失とし、該セマンティック損失に基づいて、該事後的ネットワークのパラメータを更新するように構成される。
本願の実施例において、第１対話の複数の対話特徴によって、対話モデルを複数回更新し、事後的ネットワークを更新し、更に、第２対話の複数の対話特徴に基づいて、対話モデルにおける判別器を更新する。対話の対話特徴に基づいて、対話モデルのパラメータを複数回更新し、対話の異なるセマンティックを考慮し、対話の返答に複数種のセマンティックを含ませることができ、対話モデルによって生成される対話返答の多様性を向上させる。
上記実施例で提供される対話モデルの訓練装置がアプリケーションプログラムを実行する時、上記各機能モジュールの分割のみを例として説明することに留意されたい。実際の適用において、必要に応じて、様々な機能モジュールにより上記機能を実現させることができる。つまり、装置の内部構造を様々な機能モジュールに分割して、上記全て又は一部の機能を完了する。なお、上記実施例で提供される対話モデルの訓練装置の構想は、対話モデルの訓練方法の実施例の構想と同じであり、具体的な実現プロセスは、方法の実施例を参照されたい。ここでは説明を省略する。
図８は、本願の実施例による対話返答生成装置を示すブロック図である。該装置は、上記対話返答生成方法を実行する時のステップを実行するためのものである。図８を参照すると、装置は、対話取得モジュール８０１と、特徴抽出モジュール８０２と、返答出力モジュール８０３と、返答展示モジュール８０４と、を備える。
対話取得モジュール８０１は、対話発話文を取得するように構成され、
特徴抽出モジュール８０２は、該対話発話文を対話モデルに入力し、該対話モデルにおける先験的ネットワークによって、複数の対話返答に対応する第１対話特徴から、１つの目標対話特徴をランダムに抽出するように構成され、
返答出力モジュール８０３は、該対話モデルにおけるデコーダによって、該目標対話特徴に対して復号を行い、目標対話返答を出力するように構成され、
返答展示モジュール８０４は、該目標対話返答を展示するように構成される。
本願の実施例において、ランダムな抽出の方式で、対話発話文に対応する対話返答を取得し、同一の対話発話文を複数回入力する時、異なる対話返答を得ることができ、それにより対話返答の多様性を向上させる。
上記実施例で提供される対話返答生成装置がアプリケーションプログラムを実行する時、上記各機能モジュールの分割のみを例として説明することに留意されたい。実際の適用において、必要に応じて、様々な機能モジュールにより上記機能を実現させることができる。つまり、装置の内部構造を様々な機能モジュールに分割して、上記全て又は一部の機能を完了する。なお、上記実施例で提供される対話返答生成装置の構想は、対話返答生成方法の実施例の構想と同じであり、具体的な実現プロセスは、方法の実施例を参照されたい。ここでは説明を省略する。
本願の実施例において、コンピュータ機器は、端末又はサーバとして配置されてもよく、コンピュータ機器が端末として配置される時、端末を実行主体として本願の実施例による技術的解決手段を実施してもよく、コンピュータ機器がサーバとして配置される時、サーバを実行主体として本願の実施例による技術的解決手段を実施してもよく、端末とサーバとのインタラクションによって、本願の実施例による技術的方法を実施してもよく、本願の実施例は、これを限定しない。
コンピュータ機器が端末として配置される時、図９は、本願の実施例による端末９００の構造を示すブロック図である。該端末９００は、スマートフォン、タブレット、ＭＰ３プレーヤー（Ｍｏｖｉｎｇ Ｐｉｃｔｕｒｅ Ｅｘｐｅｒｔｓ Ｇｒｏｕｐ Ａｕｄｉｏ Ｌａｙｅｒ ＩＩＩ：動画専門家集団オーディオ規格のレイヤ３）、ＭＰ４（Ｍｏｖｉｎｇ Ｐｉｃｔｕｒｅ Ｅｘｐｅｒｔｓ Ｇｒｏｕｐ Ａｕｄｉｏ Ｌａｙｅｒ ＩＶ：：動画専門家集団オーディオ規格のレイヤ４）プレーヤー、ノートパソコン又はデスクトップパソコンであってもよい。端末９００は、ユーザ機器、携帯端末、ラップトップ端末、デスクトップ端末などの他の名称と呼ばれてもよい。
一般的には、端末９００は、プロセッサ９０１と、メモリ９０２とを備える。
プロセッサ９０１は、１つ又は複数のプロセッシングコアを含んでもよい。例えば、４コアプロセッサ、８コアプロセッサ等である。プロセッサ９０１は、ＤＳＰ（Ｄｉｇｉｔａｌ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｉｎｇ：デジタル信号処理）、ＦＰＧＡ（Ｆｉｅｌｄ－Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ：フィールドプログラマブルゲートアレイ）、ＰＬＡ（Ｐｒｏｇｒａｍｍａｂｌｅ Ｌｏｇｉｃ Ａｒｒａｙ：プログラマブルロジックアレイ）のうちの少なくとも１つのハードウェア形態により実現してもよい。プロセッサ９０１は、ホストプロセッサ及びコプロセッサを含んでもよい。ホストプロセッサは、アウェイク状態であるデータを処理するためのプロセッサであり、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ：中央プロセッサ）とも呼ばれる。コプロセッサは、待機状態であるデータを処理するための低電力プロセッサである。幾つかの実施例において、プロセッサ９０１に、ＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ：画像プロセッサ）が集積されてもよい。ＧＰＵは、ディスプレイが表示すべきコンテンツのレンダリング及び描画に用いられる。幾つかの実施例において、プロセッサ９０１は、ＡＩ（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ：人工知能）プロセッサを含んでもよい。該ＡＩプロセッサは、機器学習に関わる演算操作を処理するためのものである。
メモリ９０２は、１つ又は複数のコンピュータ可読記憶媒体を含んでもよい。該コンピュータ可読記憶媒体は、非一時的なものであってもよい。メモリ９０２は、高速ランダムアクセスメモリ、及び不揮発性メモリを含んでもよい。例えば、１つ又は複数の磁気ディスク記憶機器、フラッシュ記憶機器を含む。幾つかの実施例において、メモリ９０２における非一時的なコンピュータ可読記憶媒体は、少なくとも１つの命令を記憶するためのものである。該少なくとも１つの命令は、プロセッサ９０１により実行され、本願の方法の実施例で提供される対話モデルの訓練方法、又は対話返答生成方法を実現させる。
幾つかの実施例において、端末９００は、選択的に、外部機器インタフェース９０３と、少なくとも１つの外部機器とを備えてもよい。プロセッサ９０１、メモリ９０２及び外部機器インタフェース９０３は、バス又は信号線を介して接続されてもよい。各外部機器は、バス、信号線又は回路基板を介して外部機器インタフェース９０３に接続されてもよい。具体的には、外部機器は、無線周波数回路９０４、ディスプレイ９０５、カメラユニット９０６、オーディオ回路９０７、位置決めユニット９０８及び電源９０９のうちの少なくとも１つを含む。
外部機器インタフェース９０３は、Ｉ／Ｏ（Ｉｎｐｕｔ ／Ｏｕｔｐｕｔ：入力／出力）に関わる少なくとも１つの外部機器をプロセッサ９０１及びメモリ９０２に接続するためのものであってもよい。幾つかの実施例において、プロセッサ９０１、メモリ９０２及び外部機器インタフェース９０３は、同一のチップ又は回路基板に集積され、幾つかの他の実施例において、プロセッサ９０１、メモリ９０２及び外部機器インタフェース９０３のうちのいずれか１つ又は２つは、単独のチップ又は回路基板上で実現されてもよく、本実施例はこれを限定するものではない。
無線周波数回路９０４は、電磁信号とも呼ばれるＲＦ（Ｒａｄｉｏ Ｆｒｅｑｕｅｎｃｙ：無線周波数）信号の受信及び送信に用いられる。無線周波数回路９０４は電磁信号を経由して通信ネットワーク及び他の通信機器と通信する。無線周波数回路９０４は、電気信号を電磁信号に変換して送信するか又は受信した電磁信号を電気信号に変換する。選択的に、無線周波数回路９０４は、アンテナシステム、ＲＦ送受信機、１つ又は複数の増幅器、チューナ、発振器、デジタル信号プロセッサ、コーデックチップセット、加入者識別モジュールカードなどを含む。無線周波数回路９０４は、少なくとも１つの無線通信プロトコルにより、他の端末と通信することができる。該無線通信プロトコルは、メトロエリアネットワーク、各世代の移動体通信ネットワーク（２Ｇ、３Ｇ、４Ｇ及び５Ｇ）、無線ローカルエリアネットワーク及び／又はＷｉＦｉ（Ｗｉｒｅｌｅｓｓ Ｆｉｄｅｌｉｔｙ：ワイヤレスフィデリティ）ネットワークを含むが、これらに限定されない。幾つかの実施例において、無線周波数回路９０４は、ＮＦＣ（Ｎｅａｒ Ｆｉｅｌｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎ：近接場通信）に関わる回路を含んでもよく、本願は、これを限定するものではない。
ディスプレイ９０５は、ＵＩ（Ｕｓｅｒ Ｉｎｔｅｒｆａｃｅ：ユーザインタフェース）を表示するためのものである。該ＵＩは、図形、テキスト、アイコン、ビデオ及びそれらの任意の組み合わせを含んでもよい。ディスプレイ９０５がタッチディスプレイである場合、ディスプレイ９０５は、ディスプレイ９０５の表面又は表面の上方のタッチ信号を収集する能力を有する。該タッチ信号は、制御信号としてプロセッサ９０１に入力されて処理されてもよい。この場合、ディスプレイ９０５は、ソフトボタン及び／又はソフトキーボードとも呼ばれる仮想ボタン及び／又は仮想キーボードを提供するためのものであってもよい。幾つかの実施例において、ディスプレイ９０５は１つであってもよく、端末９００のフロントパネルに設けられる。別の幾つかの実施例において、ディスプレイ９０５は少なくとも２つであってもよく、それぞれ端末９００の様々な表面に設けられるか又は折り畳むように設けられる。また幾つかの実施例において、ディスプレイ９０５は、フレキシブルディスプレイであってもよく、端末９００の湾曲表面又は折り畳み面に設けられる。なお、ディスプレイ９０５は、非矩形の不規則状に設けられてもよく、つまり、異形ディスプレイであってもよい。ディスプレイ９０５として、ＬＣＤ（Ｌｉｑｕｉｄ Ｃｒｙｓｔａｌ Ｄｉｓｐｌａｙ：液晶ディスプレイ）、ＯＬＥＤ（Ｏｒｇａｎｉｃ Ｌｉｇｈｔ－Ｅｍｉｔｔｉｎｇ Ｄｉｏｄｅ：有機発光ダイオード）などの材質からなるものであってもよい。
カメラユニット９０６は、画像又はビデオの収集に用いられる。選択的に、カメラユニット９０６は、フロントカメラ及びリアカメラを備える。一般的には、フロントカメラは、端末のフロントパネルに設けられ、リアカメラは、端末の背面に設けられる。幾つかの実施例において、リアカメラは少なくとも２つであり、それぞれメインカメラ、デプスカメラ、広角カメラ、長焦点カメラのうちのいずれか１つである。これにより、メインカメラとデプスカメラを組み合わせて背景ぼかし機能を実現させる。メインカメラと広角カメラを組み合わせてパノラマ撮影及びＶＲ（Ｖｉｒｔｕａｌ Ｒｅａｌｉｔｙ：仮想現実）撮影機能又は他の組み合わせによる撮影機能を実現させる。幾つかの実施例において、カメラユニット９０６は、フラッシュを含んでもよい。フラッシュは、単色フラッシュであってもよいし、二色フラッシュであってもよい。二色フラッシュは、暖色光フラッシュと冷色光フラッシュとの組み合わせを指し、様々な色温度での光線補償に用いられる。
オーディオ回路９０７は、マイクロホン及びスピーカーを含んでもよい。マイクロホンは、ユーザ及び環境の音波を収集し、音波を電気信号に変換してプロセッサ９０１に入力して処理するか、又は無線周波数回路９０４に入力して音声通信を実現させる。ステレオ音響の収集又はノイズ低減を実現させるために、マイクロホンは、複数であってもよく、それぞれ端末９００の様々な部位に設けられる。マイクロホンは、アレイマイクロホン又は全方向収集型マイクロホンであってもよい。スピーカーは、プロセッサ９０１又は無線周波数回路９０４からの電気信号を音波に変換するためのものである。スピーカーは、従来のフィルムスピーカーであってもよいし、圧電セラミックススピーカーであってもよい。スピーカーは、圧電セラミックススピーカーである場合、電気信号を、人間にとって可聴な音波に変換することができるだけでなく、電気信号を、人間にとって不可聴な音波に変換して距離測定などの用途に適用することもできる。幾つかの実施例において、オーディオ回路９０７は、イヤホンジャックを含んでもよい。
位置決めユニット９０８は、端末９００の現在の地理的位置を位置決めし、ナビゲーション又はＬＢＳ（Ｌｏｃａｔｉｏｎ Ｂａｓｅｄ Ｓｅｒｖｉｃｅ：ロケーションベースサービス）を実現させるためのものである。位置決めユニット９０８は、米国のＧＰＳ（Ｇｌｏｂａｌ Ｐｏｓｉｔｉｏｎｉｎｇ Ｓｙｓｔｅｍ：全地球測位システム）、中国の北斗システム、ロシアのガリレオシステム又は欧州連合のガリレオシステムに基づく位置決めユニットであってもよい。
電源９０９は、端末９００における各ユニットに給電するためのものである。電源９０９は、交流電、直流電、使い捨て電池又は充電可能な電池であってもよい。電源９０９が充電可能な電池を含む場合、該充電可能な電池は、有線充電又は無線充電をサポートすることができる。該充電可能な電池は、急速充電技術をサポートするものであってもよい。
幾つかの実施例において、端末９００は、１つ又は複数のセンサ９１０を更に備える。該１つ又は複数のセンサ９１０は、加速度センサ９１１、ジャイロセンサ９１２、圧力センサ９１３、指紋センサ９１４、光学センサ９１５及び近接センサ９１６を含むが、これらに限定されない。
加速センサ９１１は、端末９００により確立された座標系の３つの座標軸における加速度の大きさを検出することができる。例えば、加速度センサ９１１は、３つの座標軸における重力加速度の成分を検出することができる。プロセッサ９０１は、加速度センサ９１１により収集された重力加速度信号に基づいて、ディスプレイ９０５を、横ビュー又は縦ビューによりユーザインタフェースの表示を行うように制御することができる。加速度センサ９１１は、ゲーム又はユーザの動きデータの収集にも用いられる。
ジャイロセンサ９１２は、端末９００の本体方向及び回転角度を検出することができる。ジャイロセンサ９１２は、ユーザによる端末９００に対する３Ｄ動作を加速度センサ９１１と協力して収集することができる。プロセッサ９０１は、ジャイロセンサ９１２により収集されたデータに基づいて、動作検知（例えば、ユーザによる傾斜操作に基づいてＵＩを変える）、撮影時の画像安定化、ゲーム制御及び慣性航法機能を実現させることができる。
圧力センサ９１３は、端末９００の側枠及び／又はディスプレイ９０５の下層に設けられてもよい。圧力センサ９１３が端末９００の側枠に設けられる時、ユーザによる端末９００に対する把持信号を検出することができる。プロセッサ９０１は、圧力センサ９１３により収集された把持信号に基づいて、左右手識別又はショートカット操作を行う。圧力センサ９１３がディスプレイ９０５の下層に設けられる時、プロセッサ９０１は、ユーザによるディスプレイ９０５に対する加圧操作に基づいて、ＵＩインタフェースにおける操作可能なコントロールの制御を実現させる。操作可能なコントロールは、ボタンコントロール、スクロールバーコントロール、アイコンコントロール、メニューコントロールのうちの少なくとも１つを含む。
指紋センサ９１４は、ユーザの指紋の収集に用いられる。プロセッサ９０１は、指紋センサ９１４により収集された指紋に基づいて、ユーザの身分認証を行う。又は、指紋センサ９１４は、収集された指紋に基づいて、ユーザの身分認証を行う。ユーザの身分が信頼できる身分であると判定した時、プロセッサ９０１は、該ユーザによる関連機密操作の実行を許可する。該機密操作は、スクリーンアンロック、暗号化情報の確認、ソフトウェアダウンロード、支払い及び設定変更などを含む。指紋センサ９１４は、端末９００の正面、背面又は側面に設けられてもよい。端末９００に物理的ボタン又はメーカーＬｏｇｏが設けられた場合、指紋センサ９１４は、物理的ボタン又はメーカーＬｏｇｏと一体化されてもよい。
光学センサ９１５は、環境光の強度の収集に用いられる。一実施例において、プロセッサ９０１は、光学センサ９１５により収集された環境光の強度に基づいて、ディスプレイ９０５の表示輝度を制御することができる。具体的には、環境光の強度が高い時、ディスプレイ９０５の表示輝度を高くする。環境光の強度が低い時、ディスプレイ９０５の表示輝度を低くする。別の実施例において、プロセッサ９０１は、光学センサ９１５により収集された環境光の強度に基づいて、カメラユニット９０６の撮影パラメータを動的に調整することもできる。
近接センサ９１６は、距離センサとも呼ばれ、一般的には、端末９００のフロントパネルに設けられる。近接センサ９１６は、ユーザと端末９００の正面との距離の収集に用いられる。一実施例において、近接センサ９１６は、ユーザと端末９００の正面との距離が次第に小さくなることを検出した時、プロセッサ９０１により、ディスプレイ９０５をスクリーン点灯状態からスクリーン消灯状態に切り替えるように制御する。近接センサ９１６は、ユーザと端末９００の正面との距離が次第に大きくなることを検出した時、プロセッサ９０１により、ディスプレイ９０５をスクリーン消灯状態からスクリーン点灯状態に切り替えるように制御する。
図９に示した構造は、端末９００を限定するものではなく、図示したものより多く又は少ないユニットを含んでもよいし、幾つかのユニットを組み合わせてもよいし、様々なユニット配置を利用してもよいことは、当業者であれば理解されるべきである。
コンピュータ機器がサーバとして配置される時、図１０は、本願の実施例によるサーバの構造を示す概略図である。該サーバ１０００は、配置又は性能によって大きく相違してもよく、１つ又は１つ以上のプロセッサ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔｓ：ＣＰＵ）１００１と１つ又は１つ以上のメモリ１００２とを含んでもよく、ここで、該メモリ１００２に少なくとも１つの命令が記憶されており、該少なくとも１つの命令は、該プロセッサ１００１によってロードされて実行され、上記各方法の実施例による対話モデルの訓練方法又は対話返答生成方法を実現させる。無論、該サーバは、入力と出力を行うために、有線又は無線ネットワークインタフェース、キーボード及び入力出力インタフェースなどの部材を有してもよく、該サーバ１０００は、機器の機能を実現させるための他の部材を更に含んでもよく、ここでは説明を省略する。
本願の実施例は、コンピュータ可読記憶媒体を提供する。該コンピュータ可読記憶媒体は、コンピュータ機器に用いられ、該コンピュータ可読記憶媒体に少なくとも１つのプログラムコードが記憶されており、該少なくとも１つのプログラムコードは、プロセッサによって実行されて本願の実施例における対話モデルの訓練方法を実現させるか又は対話返答生成方法におけるコンピュータ機器により実行される操作を実現させるように構成される。
上記実施例の全て又は一部のステップはハードウェアにより実行されてもよいし、プログラム命令に係るハードウェアにより実行されてもよく、前記プログラムは、コンピュータ可読記憶媒体に記憶されてもよく、上記言及した記憶媒体は、読み出し専用メモリ、磁気ディスク又は光ディスクなどであってもよいことは当業者であれば理解されるべきである。
以上は、本願の選択的な実施例に過ぎず、本願を限定するものではない。本願の精神や原則を逸脱することなく行われるあらゆる修正、同等置換、改良などはすべて本願の保護範囲内に含まれるものとする。
１１０ 端末
１２０ サーバ
７０１ 特徴取得モジュール
７０２ モデル更新モジュール
７０３ モデル取得モジュール
８０１ 対話取得モジュール
８０２ 特徴抽出モジュール
８０３ 返答出力モジュール
８０４ 返答展示モジュール
９００ 端末
９０１ プロセッサ
９０２ メモリ
９０３ 外部機器インタフェース
９０４ 無線周波数回路
９０５ ディスプレイ
９０６ カメラユニット
９０７ オーディオ回路
９０８ 位置決めユニット
９０９ 電源
９１０ センサ
９１１ 加速度センサ
９１２ ジャイロセンサ
９１３ 圧力センサ
９１４ 指紋センサ
９１５ 光学センサ
９１６ 近接センサ
１０００ サーバ
１００１ プロセッサ
１００２ メモリ

Claims (14)

  1. 対話モデルの訓練方法であって、
    対話モデルにおける先験的ネットワークと事後的ネットワークによって、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得するステップであって、前記先験的ネットワークは、対話特徴の確率分布を出力するためのものであり、前記事後的ネットワークは、前記先験的ネットワークから出力された対話特徴の確率分布を推定するためのものであり、前記第１対話特徴は、１つの対話における対話発話文と１つの対話返答の事後的特徴を表すためのものであり、前記第２対話特徴は、１つの対話における前記対話発話文と１つの対話返答の先験的特徴を表すためのものであり、前記第１対話は、１つの第１対話発話文と少なくとも２つの第１対話返答とを含む、ステップと、
    前記第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、前記対話モデルを更新するステップと、
    前記第１対話の少なくとも２つの第１対話特徴に基づいて、前記事後的ネットワークを更新するステップと、
    第２対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、前記対話モデルの判別器を更新するステップと、
    訓練終了条件を満たすことに応答して、訓練により得られたモデルを対話モデルとするステップと、を含むことを特徴とする、対話モデルの訓練方法。
  2. 対話モデルにおける先験的ネットワークと事後的ネットワークによって、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得するステップは、
    前記第１対話のいずれか１つの前記第１対話返答に対して、前記対話モデルのエンコーダによって、前記第１対話発話文と前記第１対話返答に対してそれぞれ符号化を行い、前記第１対話発話文の第１ベクトルと前記第１対話返答の第２ベクトルを得るステップと、
    前記第１対話の少なくとも２つの第１対話特徴を取得するステップであって、前記第１対話の前記第１対話特徴は、前記事後的ネットワークによって前記第１対話発話文の第１ベクトルと前記第１対話返答の第２ベクトルとを処理することで得られたものである、ステップと、
    前記第１対話の少なくとも２つの第２対話特徴を取得するステップであって、前記第１対話の前記第２対話特徴は、前記先験的ネットワークによって前記第１対話発話文の第１ベクトルと前記第１対話返答の属する返答種別とを処理することで得られたものである、ステップと、を含むことを特徴とする
    請求項１に記載の方法。
  3. 前記第１対話の少なくとも２つの第１対話特徴を取得するステップは、
    前記第１ベクトルと前記第２ベクトルを前記事後的ネットワークに入力し、第１パラメータ平均値と第１パラメータ分散を出力するステップと、
    前記第１パラメータ平均値、前記第１パラメータ分散及び第１サンプリング値に基づいて、第１対話特徴を取得するステップであって、前記第１サンプリング値は、標準正規分布からサンプリングを行うことで得られたものである、ステップと、を含むことを特徴とする
    請求項２に記載の方法。
  4. 前記第１対話の少なくとも２つの第２対話特徴を取得するステップは、
    前記第１ベクトルと前記第１対話返答の属する返答種別に基づいて、目標確率分布を決定するステップであって、前記目標確率分布は、前記先験的ネットワークから出力された確率分布のうちの前記返答種別に対応する確率分布である、ステップと、
    前記第１ベクトルを前記先験的ネットワークに入力し、第２パラメータ平均値と第２パラメータ分散を得るステップと、
    前記第２パラメータ平均値、前記第２パラメータ分散及び第２サンプリング値に基づいて、第２対話特徴を取得するステップであって、前記第２サンプリング値は、前記目標確率分布に対してサンプリングを行うことで得られたものである、ステップと、を含むことを特徴とする
    請求項２に記載の方法。
  5. 前記第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、前記対話モデルを更新するステップは、
    前記第１対話のいずれか１つの前記第１対話返答に対して、前記第１対話返答に対応する第１対話特徴と第２対話特徴を取得するステップと、
    第１ベクトル、前記第１対話返答に対応する第１対話特徴と第２対話特徴に基づいて、判別器損失を取得するステップであって、前記第１ベクトルは、前記第１対話発話文を符号化することで得られたものである、ステップと、
    前記第１ベクトル、前記第１対話返答に対応する第１対話特徴と第２対話特徴に基づいて、再構築損失を取得するステップと、
    前記判別器損失に基づいて、前記対話モデルにおける事後的ネットワークと先験的ネットワークのパラメータを更新するステップと、
    前記再構築損失に基づいて、前記対話モデルにおけるエンコーダ、前記事後的ネットワーク、前記先験的ネットワーク及びデコーダのパラメータを更新するステップと、
    前記判別器損失に基づいて、前記対話モデルの判別器のパラメータを更新するステップと、を含むことを特徴とする
    請求項１に記載の方法。
  6. 第１ベクトル、前記第１対話返答に対応する第１対話特徴と第２対話特徴に基づいて、判別器損失を取得するステップは、
    前記対話モデルの判別器によって、前記第１対話発話文の第１ベクトル、前記第１対話返答に対応する第１対話特徴と第２対話特徴に基づいて、前記第１対話返答に対応する第１対話特徴と第２対話特徴との第１ワッサースタイン距離を取得し、前記第１ワッサースタイン距離を判別器損失とするステップを含むことを特徴とする
    請求項５に記載の方法。
  7. 第１ベクトル、前記第１対話返答に対応する第１対話特徴と第２対話特徴に基づいて、再構築損失を取得するステップは、
    前記対話モデルにおけるデコーダによって、前記第１対話特徴に対して復号を行い、目標対話特徴を取得するステップと、
    前記第１ベクトル、前記第１対話返答に対応する前記第１対話特徴と第２対話特徴、前記目標対話特徴に基づいて、再構築損失を取得するステップと、を含むことを特徴とする
    請求項５に記載の方法。
  8. 前記第１対話の少なくとも２つの第１対話特徴に基づいて、前記事後的ネットワークを更新するステップは、
    前記第１対話のいずれか１つの第１対話特徴に対して、前記少なくとも２つの第１対話特徴のうちの前記第１対話特徴以外の他の第１対話特徴の平均値を取得し、前記平均値を平均対話特徴とするステップと、
    前記第１対話特徴と前記平均対話特徴との第２ワッサースタイン距離を取得し、前記第２ワッサースタイン距離をセマンティック損失とするステップと、
    前記セマンティック損失に基づいて、前記事後的ネットワークのパラメータを更新するステップと、を含むことを特徴とする
    請求項１に記載の方法。
  9. 対話返答生成方法であって、
    対話発話文を取得するステップと、
    前記対話発話文を対話モデルに入力し、前記対話モデルにおける先験的ネットワークによって、複数の対話返答に対応する第２対話特徴から、１つの目標対話特徴をランダムに抽出するステップと、
    前記対話モデルにおけるデコーダによって、前記目標対話特徴に対して復号を行い、目標対話返答を出力するステップと、
    前記目標対話返答を展示するステップと、を含むことを特徴とする、対話返答生成方法。
  10. 対話モデルの訓練装置であって、
    対話モデルにおける先験的ネットワークと事後的ネットワークによって、第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴を取得するように構成される特徴取得モジュールであって、前記先験的ネットワークは、対話特徴の確率分布を出力するためのものであり、前記事後的ネットワークは、前記先験的ネットワークから出力された対話特徴の確率分布を推定するためのものであり、前記第１対話特徴は、１つの対話における対話発話文と１つの対話返答の事後的特徴を表すためのものであり、前記第２対話特徴は、１つの対話における前記対話発話文と１つの対話返答の先験的特徴を表すためのものであり、前記第１対話は、１つの第１対話発話文と少なくとも２つの第１対話返答とを含む、特徴取得モジュールと、
    前記第１対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、前記対話モデルを更新するように構成されるモデル更新モジュールであって、
    前記モデル更新モジュールは更に、前記第１対話の少なくとも２つの第１対話特徴に基づいて、前記事後的ネットワークを更新するように構成され、
    前記モデル更新モジュールは更に、第２対話の少なくとも２つの第１対話特徴と少なくとも２つの第２対話特徴に基づいて、前記対話モデルの判別器を更新するように構成される、モデル更新モジュールと、
    訓練終了条件を満たすことに応答して、訓練により得られたモデルを対話モデルとするように構成されるモデル取得モジュールと、を備えることを特徴とする、対話モデルの訓練装置。
  11. 前記特徴取得モジュールは、前記第１対話のいずれか１つの前記第１対話返答に対して、前記対話モデルのエンコーダによって、前記第１対話発話文と前記第１対話返答に対してそれぞれ符号化を行い、前記第１対話発話文の第１ベクトルと前記第１対話返答の第２ベクトルを得て、
    前記第１対話の少なくとも２つの第１対話特徴を取得し、前記第１対話の前記第１対話特徴は、前記事後的ネットワークによって前記第１ベクトルと前記第２ベクトルを処理することで得られたものであり、
    前記第１対話の少なくとも２つの第２対話特徴を取得し、前記第１対話の前記第２対話特徴は、前記先験的ネットワークによって前記第１ベクトルと前記第１対話返答の属する返答種別を処理することで得られたものであるように構成されることを特徴とする
    請求項１０に記載の装置。
  12. 対話返答生成装置であって、
    対話発話文を取得するように構成される対話取得モジュールと、
    前記対話発話文を対話モデルに入力し、前記対話モデルにおける先験的ネットワークによって、複数の対話返答に対応する第１対話特徴から、１つの目標対話特徴をランダムに抽出するように構成される特徴抽出モジュールと、
    前記対話モデルにおけるデコーダによって、前記目標対話特徴に対して復号を行い、目標対話返答を出力するように構成される返答出力モジュールと、
    前記目標対話返答を展示するように構成される返答展示モジュールと、を備えることを特徴とする、対話返答生成装置。
  13. コンピュータ機器であって、前記コンピュータ機器は、プロセッサと、メモリと、を備え、前記メモリは、少なくとも１つのプログラムコードを記憶するように構成され、前記少なくとも１つのプログラムコードは、前記プロセッサによりロードされ、請求項１～８に記載の対話モデルの訓練方法を実行し、又は、請求項９に記載の対話返答生成方法を実行することを特徴とする、コンピュータ機器。
  14. コンピュータに、請求項１～８のうちいずれか一項に記載の対話モデルの訓練方法を実行させるか又は請求項９に記載の対話返答生成方法を実行させる少なくとも１つのプログラムを記憶した、記憶媒体。
JP2022538829A 2020-05-25 2021-05-06 対話モデルの訓練方法、装置、コンピュータ機器及びプログラム Active JP7431977B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN202010450194.0 2020-05-25
CN202010450194.0A CN111680123B (zh) 2020-05-25 2020-05-25 对话模型的训练方法、装置、计算机设备及存储介质
PCT/CN2021/091954 WO2021238599A1 (zh) 2020-05-25 2021-05-06 对话模型的训练方法、装置、计算机设备及存储介质

Publications (2)

Publication Number Publication Date
JP2023508062A true JP2023508062A (ja) 2023-02-28
JP7431977B2 JP7431977B2 (ja) 2024-02-15

Family

ID=72434775

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022538829A Active JP7431977B2 (ja) 2020-05-25 2021-05-06 対話モデルの訓練方法、装置、コンピュータ機器及びプログラム

Country Status (4)

Country Link
US (1) US20220309088A1 (ja)
JP (1) JP7431977B2 (ja)
CN (1) CN111680123B (ja)
WO (1) WO2021238599A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111680123B (zh) * 2020-05-25 2024-01-26 腾讯科技（深圳）有限公司 对话模型的训练方法、装置、计算机设备及存储介质
CN112702329B (zh) * 2020-12-21 2023-04-07 四川虹微技术有限公司 一种流量数据异常检测方法、装置和存储介质
CN113254597B (zh) * 2021-06-23 2021-09-28 腾讯科技（深圳）有限公司 模型训练方法、查询处理方法及相关设备
CN113569212B (zh) * 2021-07-30 2024-04-26 上海交通大学 基于自动编码器的击键动力学身份认证与识别方法及系统
CN117785964A (zh) * 2024-02-28 2024-03-29 宜宾市万事通网络信息服务有限公司 应用于网络服务的数据处理方法及系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3454260A1 (en) 2017-09-11 2019-03-13 Tata Consultancy Services Limited Bilstm-siamese network based classifier for identifying target class of queries and providing responses thereof
US10303978B1 (en) * 2018-03-26 2019-05-28 Clinc, Inc. Systems and methods for intelligently curating machine learning training data and improving machine learning model performance
CN108897797A (zh) * 2018-06-12 2018-11-27 腾讯科技（深圳）有限公司 对话模型的更新训练方法、装置、存储介质及电子设备
KR102204979B1 (ko) 2018-08-24 2021-01-19 네이버 주식회사 딥러닝 생성모델과 다중모달 분포를 이용하여 멀티턴 대화 응답을 생성하는 방법 및 시스템
US11544524B2 (en) * 2018-09-28 2023-01-03 Samsung Electronics Co., Ltd. Electronic device and method of obtaining emotion information
CN110222164B (zh) * 2019-06-13 2022-11-29 腾讯科技（深圳）有限公司 一种问答模型训练方法、问题语句处理方法、装置及存储介质
CN110457457B (zh) * 2019-08-02 2023-09-22 腾讯科技（深圳）有限公司 对话生成模型的训练方法、对话生成方法及装置
CN111143509B (zh) * 2019-12-09 2023-06-30 天津大学 一种基于静态-动态注意力变分网络的对话生成方法
CN111680123B (zh) * 2020-05-25 2024-01-26 腾讯科技（深圳）有限公司 对话模型的训练方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
CN111680123B (zh) 2024-01-26
CN111680123A (zh) 2020-09-18
JP7431977B2 (ja) 2024-02-15
US20220309088A1 (en) 2022-09-29
WO2021238599A1 (zh) 2021-12-02

Similar Documents

Publication Publication Date Title
JP7431977B2 (ja) 対話モデルの訓練方法、装置、コンピュータ機器及びプログラム
US20220165288A1 (en) Audio signal processing method and apparatus, electronic device, and storage medium
US20220172737A1 (en) Speech signal processing method and speech separation method
CN110490213A (zh) 图像识别方法、装置及存储介质
CN112069309B (zh) 信息获取方法、装置、计算机设备及存储介质
CN110147533B (zh) 编码方法、装置、设备及存储介质
CN111985240A (zh) 命名实体识别模型的训练方法、命名实体识别方法及装置
CN110162604B (zh) 语句生成方法、装置、设备及存储介质
WO2020151685A1 (zh) 编码方法、装置、设备及存储介质
CN111368525A (zh) 信息搜索方法、装置、设备及存储介质
CN111324699A (zh) 语义匹配的方法、装置、电子设备及存储介质
CN111753498A (zh) 文本处理方法、装置、设备及存储介质
CN114281956A (zh) 文本处理方法、装置、计算机设备及存储介质
CN113822076A (zh) 文本生成方法、装置、计算机设备及存储介质
CN114282587A (zh) 数据处理方法、装置、计算机设备及存储介质
CN110990549B (zh) 获取答案的方法、装置、电子设备及存储介质
CN112988984B (zh) 特征获取方法、装置、计算机设备及存储介质
CN113486260B (zh) 互动信息的生成方法、装置、计算机设备及存储介质
CN113762585B (zh) 数据的处理方法、账号类型的识别方法及装置
CN114328815A (zh) 文本映射模型的处理方法、装置、计算机设备及存储介质
CN111310701B (zh) 手势识别方法、装置、设备及存储介质
CN111737415A (zh) 实体关系抽取方法、实体关系学习模型的获取方法及设备
CN113822084A (zh) 语句翻译方法、装置、计算机设备及存储介质
CN113761195A (zh) 文本分类方法、装置、计算机设备及计算机可读存储介质
CN112035649A (zh) 问答模型处理方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220622

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231010

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240202

R150 Certificate of patent or registration of utility model

Ref document number: 7431977

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150