JP7276712B2 - 意味分析方法、装置、および記憶媒体 - Google Patents
意味分析方法、装置、および記憶媒体 Download PDFInfo
- Publication number
- JP7276712B2 JP7276712B2 JP2019567303A JP2019567303A JP7276712B2 JP 7276712 B2 JP7276712 B2 JP 7276712B2 JP 2019567303 A JP2019567303 A JP 2019567303A JP 2019567303 A JP2019567303 A JP 2019567303A JP 7276712 B2 JP7276712 B2 JP 7276712B2
- Authority
- JP
- Japan
- Prior art keywords
- sentence
- model
- word
- identifier
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2148—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
- G06F18/2193—Validation; Performance evaluation; Active pattern learning techniques based on specific statistical tests
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Machine Translation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
対話フローにおける各サンプル文に対して、前記サンプル文における各単語の単語ベクトルをエンコーダモデルに入力し、前記サンプル文の意味を表す文ベクトルを得ることと、
前記サンプル文の文ベクトルを、前記サンプル文の各文脈文に対応する第1のデコーダモデルにそれぞれ入力し、文脈文に対応する第1の識別子を得、前記サンプル文の文ベクトルを、前記サンプル文の各単語に対応する第2のデコーダモデルにそれぞれ入力し、単語に対応する第2の識別子を得ることと、
各第1のデコーダモデルに基づいて、第1の識別子に対応する確率を得、および、各第2のデコーダモデルに基づいて、第2の識別子に対応する確率を得て、ターゲット関数の値を決定することであって、ここで、前記ターゲット関数の値は、前記サンプル文の文ベクトルが意味を示す正確さを指示するために使用されるものであるここと、
前記ターゲット関数の値に基づいて、前記エンコーダモデルに対してパラメータトレーニングを行うことと、
テスト文における各単語の単語ベクトルを、トレーニングされたエンコーダモデルに入力して、前記テスト文の意味を表す文ベクトルを得ることと、を含む。
サンプル文と、前記サンプル文の複数の文脈文とを含む対話フローにおける各サンプル文に対して、前記サンプル文における各単語の単語ベクトルをエンコーダモデルに入力し、前記サンプル文の意味を表す文ベクトルを得る符号化モジュールと、
前記サンプル文の文ベクトルを、前記サンプル文の各文脈文に対応する第1のデコーダモデルにそれぞれ入力し、文脈文に対応する第1の識別子を得、前記サンプル文の文ベクトルを、前記サンプル文の各単語に対応する第2のデコーダモデルにそれぞれ入力し、単語に対応する第2の識別子を得る復号化モジュールと、
各第1のデコーダモデルに基づいて、第1の識別子に対応する確率を得、および、各第2のデコーダモデルに基づいて、第2の識別子に対応する確率を得て、ターゲット関数の値を決定する生成モジュールであって、ここで、前記ターゲット関数の値は、前記サンプル文の文ベクトルが意味を示す正確さを指示するために使用されるものである生成モジュールと、
前記ターゲット関数の値に基づいて、前記エンコーダモデルに対してパラメータトレーニングを行うトレーニングモジュールと、
テスト文における各単語の単語ベクトルを、トレーニングされたエンコーダモデルに入力して、前記テスト文の意味を表す文ベクトルを得るテストモジュールと、を含む。
ステップ101で、対話フローにおける各サンプル文に対して、サンプル文における各単語の単語ベクトルをエンコーダモデルに入力し、サンプル文の意味を表す文ベクトルを得る。
ステップ301で、対話フローにおける各サンプル文に対して、サンプル文における各単語の単語ベクトルをエンコーダモデルに入力し、サンプル文の意味を表す文ベクトルを得る。
符号化モジュール610は、対話フローにおける各サンプル文に対して、サンプル文における各単語の単語ベクトルをエンコーダモデルに入力し、サンプル文の意味を表す文ベクトルを得る。
サンプル文がi番目のグループの対話フローにおけるj番目の文である場合、サンプル文の文ベクトルvj (i)が入力された条件で、各第1のデコーダモデルによって出力された文脈文に対する第1の識別子sj±q (i)の確率に基づいて、ターゲット関数の第1の項目
サンプル文の文ベクトルvj (i)が入力された条件で、各第2のデコーダモデルによって出力されたサンプル文における単語に対応する第2の識別子wjk (i)の確率に基づいて、ターゲット関数の第2の項目
第1の項目の値と第2の項目の値との合計を求め、ターゲット関数の値を得る合計ユニット633と、を含む。
11 意味分析装置
20 ユーザ端末
30 ネットワーク
90 コンピュータデバイス
610 符号化モジュール
620 復号化モジュール
630 生成モジュール
631 第1の生成ユニット
632 第2の生成ユニット
633 合計ユニット
640 トレーニングモジュール
650 テストモジュール
660 入力モジュール
670 クエリモジュール
680 送信モジュール
901 メモリ
902 プロセッサ
903 コンピュータプログラム
Claims (10)
- メモリとプロセッサとを含むコンピュータデバイスに適用されるリカレントニューラルネットワークを使用した意味分析方法であって、
対話フローにおける各サンプル文に対して、前記サンプル文における各単語の単語ベクトルをエンコーダモデルに入力し、前記サンプル文の意味を表す文ベクトルを得ることと、
前記サンプル文の文ベクトルを、前記サンプル文の各文脈文に対応する第1のデコーダモデルにそれぞれ入力し、文脈文に対応する第1の識別子を得ることと、
前記サンプル文の文ベクトルを、前記サンプル文の各単語に対応する第2のデコーダモデルにそれぞれ入力し、単語に対応する第2の識別子を得ることと、
各第1のデコーダモデルに基づいて、第1の識別子に対応する確率を得、および、各第2のデコーダモデルに基づいて、第2の識別子に対応する確率を得て、ターゲット関数の値を決定することであって、ここで、前記ターゲット関数の値は、前記第1の識別子に対応する確率と前記第2の識別子に対応する確率とを利用して決定され、前記ターゲット関数の値は、前記サンプル文の文ベクトルが意味を示す正確さを指示するために使用されるものであることと、
前記ターゲット関数の値に基づいて、前記エンコーダモデルに対してパラメータトレーニングを行うことと、
テスト文における各単語の単語ベクトルを、トレーニングされたエンコーダモデルに入力して、前記テスト文の意味を表す文ベクトルを得ることと、
を含み、
前記エンコーダモデルに対してパラメータトレーニングを行うことは、前記ターゲット関数の値が最大化に達していない場合、前記エンコーダモデルのパラメータを調整して、再計算された第1の識別子の確率と再計算された第2の識別子の確率とに基づいてターゲット関数の値を再計算し、再計算されたターゲット関数の値が最大化に達するかどうかを判断することを含むことを特徴とする意味分析方法。 - 前記エンコーダモデルが畳み込みニューラルネットワークモデルを用いて、
前記対話フローにおける各サンプル文に対して、前記サンプル文における各単語の単語ベクトルをエンコーダモデルに入力し、前記サンプル文の意味を表す文ベクトルを得ることは、
前記サンプル文における各単語の単語ベクトルを、前記畳み込みニューラルネットワークモデルに入力して、前記畳み込みニューラルネットワークモデルにおける最後の層によって出力された前記サンプル文の文ベクトルを得ることを含む、
ことを特徴とする請求項1に記載の意味分析方法。 - 前記第1のデコーダモデルと前記第2のデコーダモデルがいずれもディープニューラルネットワークモデルを用いて、
前記ターゲット関数の値に基づいて、前記エンコーダモデルに対してパラメータトレーニングを行うことは、
前記ターゲット関数の値に基づいて、前記エンコーダモデルにおける畳み込みニューラルネットワークモデルの単語ベクトル行列、畳み込みニューラルネットワークモデルの重み行列、畳み込みニューラルネットワークモデルのバイアスベクトルに対してパラメータトレーニングを行うことを含み、
前記方法は、
前記ターゲット関数の値に基づいて、前記第1のデコーダモデルと前記第2のデコーダモデルにおけるディープニューラルネットワークモデルの重み行列とディープニューラルネットワークモデルのバイアスベクトルに対してパラメータトレーニングを行うことをさらに含む、
ことを特徴とする請求項2に記載の意味分析方法。 - 前記各第1のデコーダモデルに基づいて、第1の識別子に対応する確率を得、および、各第2のデコーダモデルに基づいて、第2の識別子に対応する確率を得て、ターゲット関数の値を決定することは、
前記サンプル文がi番目のグループの対話フローにおけるj番目の文である場合、前記サンプル文の文ベクトルvj (i)が入力された条件で、各第1のデコーダモデルによって出力された文脈文に対する第1の識別子sj±q (i)の確率に基づいて、前記ターゲット関数の第1の項目
前記サンプル文の文ベクトルvj (i)が入力された条件で、各第2のデコーダモデルによって出力された前記サンプル文における単語に対応する第2の識別子wjk (i)の確率に基づいて、前記ターゲット関数の第2の項目
前記第1の項目の値と前記第2の項目の値との合計を求め、前記ターゲット関数の値を得ることとを含む、
ことを特徴とする請求項1に記載の意味分析方法。 - 前記テスト文における各単語の単語ベクトルを、トレーニングされたエンコーダモデルに入力して、前記テスト文の意味を表す文ベクトルを得る前に、さらに
ユーザ側で入力された質問を前記テスト文とすることを含み、
前記テスト文の意味を表す文ベクトルを得る後に、さらに、
前記テスト文の文ベクトルに基づいて、質問ライブラリから予め記憶された質問をクエリし得ることと、
前記予め記憶された質問に対応する回答を前記ユーザ側に送信することと、を含む、
ことを特徴とする請求項1~5のいずれか1項に記載の意味分析方法。 - リカレントニューラルネットワークを使用した意味分析装置であって、
対話フローにおける各サンプル文に対して、前記サンプル文における各単語の単語ベクトルをエンコーダモデルに入力し、前記サンプル文の意味を表す文ベクトルを得る符号化モジュールと、
前記サンプル文の文ベクトルを、前記サンプル文の各文脈文に対応する第1のデコーダモデルにそれぞれ入力し、文脈文に対応する第1の識別子を得、前記サンプル文の文ベクトルを、前記サンプル文の各単語に対応する第2のデコーダモデルにそれぞれ入力し、単語に対応する第2の識別子を得る復号化モジュールと、
各第1のデコーダモデルに基づいて、第1の識別子に対応する確率を得、および、各第2のデコーダモデルに基づいて、第2の識別子に対応する確率を得て、ターゲット関数の値を決定する生成モジュールであって、ここで、前記ターゲット関数の値は、前記第1の識別子に対応する確率と前記第2の識別子に対応する確率とを利用して決定され、前記ターゲット関数の値は、前記サンプル文の文ベクトルが意味を示す正確さを指示するために使用されるものである生成モジュールと、
前記ターゲット関数の値に基づいて、前記エンコーダモデルに対してパラメータトレーニングを行うトレーニングモジュールと、
テスト文における各単語の単語ベクトルを、トレーニングされたエンコーダモデルに入力して、前記テスト文の意味を表す文ベクトルを得るテストモジュールと、
を含み、
前記エンコーダモデルに対してパラメータトレーニングを行うことは、前記ターゲット関数の値が最大化に達していない場合、前記エンコーダモデルのパラメータを調整して、再計算された第1の識別子の確率と再計算された第2の識別子の確率とに基づいてターゲット関数の値を再計算し、再計算されたターゲット関数の値が最大化に達するかどうかを判断することを含むことを特徴とする意味分析装置。 - 前記エンコーダモデルが畳み込みニューラルネットワークモデルを用いて、
前記符号化モジュールは、前記サンプル文における各単語の単語ベクトルを、前記畳み込みニューラルネットワークモデルに入力して、前記畳み込みニューラルネットワークモデルにおける最後の層によって出力された前記サンプル文の文ベクトルを得る、
ことを特徴とする請求項7に記載の意味分析装置。 - メモリと、プロセッサと、メモリに記憶され、プロセッサで実行可能なコンピュータプログラムとを含むコンピュータデバイスであって、
前記プロセッサが前記プログラムを実行する場合、請求項1~6のいずれか1項に記載の意味分析方法が実現される、
ことを特徴とするコンピュータデバイス。 - コンピュータプログラムが記憶されている非一時的なコンピュータ読み取り可能な記憶媒体であって、
前記プログラムがプロセッサによって実行される場合、請求項1~6のいずれか1項に記載の意味分析方法が実現される、
ことを特徴とする非一時的なコンピュータ読み取り可能な記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710936211.X | 2017-10-10 | ||
CN201710936211.XA CN108509411B (zh) | 2017-10-10 | 2017-10-10 | 语义分析方法和装置 |
PCT/CN2018/109471 WO2019072166A1 (zh) | 2017-10-10 | 2018-10-09 | 语义分析方法、装置和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020522817A JP2020522817A (ja) | 2020-07-30 |
JP7276712B2 true JP7276712B2 (ja) | 2023-05-18 |
Family
ID=63375263
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019567303A Active JP7276712B2 (ja) | 2017-10-10 | 2018-10-09 | 意味分析方法、装置、および記憶媒体 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11366970B2 (ja) |
JP (1) | JP7276712B2 (ja) |
CN (1) | CN108509411B (ja) |
WO (1) | WO2019072166A1 (ja) |
Families Citing this family (75)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108509411B (zh) * | 2017-10-10 | 2021-05-11 | 腾讯科技(深圳)有限公司 | 语义分析方法和装置 |
GB2568233A (en) * | 2017-10-27 | 2019-05-15 | Babylon Partners Ltd | A computer implemented determination method and system |
CN110895559B (zh) * | 2018-09-12 | 2023-06-20 | 阿里巴巴集团控股有限公司 | 模型训练、文本处理方法、装置以及设备 |
CN109460549A (zh) * | 2018-10-12 | 2019-03-12 | 北京奔影网络科技有限公司 | 语义向量的处理方法及装置 |
CN109493931B (zh) * | 2018-10-25 | 2024-06-04 | 平安科技(深圳)有限公司 | 一种病历文件的编码方法、服务器及计算机可读存储介质 |
CN111177328B (zh) * | 2018-11-12 | 2023-04-28 | 阿里巴巴集团控股有限公司 | 问答匹配系统和方法及问答处理设备和介质 |
US10929392B1 (en) * | 2018-11-16 | 2021-02-23 | Amazon Technologies, Inc. | Artificial intelligence system for automated generation of realistic question and answer pairs |
CN109582970B (zh) * | 2018-12-12 | 2023-05-30 | 科大讯飞华南人工智能研究院(广州)有限公司 | 一种语义度量方法、装置、设备及可读存储介质 |
CN111435449B (zh) * | 2018-12-26 | 2024-04-02 | 深圳市优必选科技有限公司 | 模型的自训练方法、装置、计算机设备及存储介质 |
CN109874029B (zh) * | 2019-04-22 | 2021-02-12 | 腾讯科技(深圳)有限公司 | 视频描述生成方法、装置、设备及存储介质 |
CN110162613B (zh) * | 2019-05-27 | 2023-12-01 | 腾讯科技(深圳)有限公司 | 一种问题生成方法、装置、设备及存储介质 |
CN110197279B (zh) * | 2019-06-10 | 2021-01-29 | 北京百度网讯科技有限公司 | 变换模型训练方法、装置、设备和存储介质 |
CN110223675B (zh) * | 2019-06-13 | 2022-04-19 | 思必驰科技股份有限公司 | 用于语音识别的训练文本数据的筛选方法及系统 |
CN110222164B (zh) * | 2019-06-13 | 2022-11-29 | 腾讯科技(深圳)有限公司 | 一种问答模型训练方法、问题语句处理方法、装置及存储介质 |
CN110502620B (zh) * | 2019-07-02 | 2023-05-30 | 平安科技(深圳)有限公司 | 导诊相似问题对生成方法、系统及计算机设备 |
CN110377740B (zh) * | 2019-07-22 | 2022-05-20 | 腾讯科技(深圳)有限公司 | 情感极性分析方法、装置、电子设备及存储介质 |
KR20190096853A (ko) * | 2019-07-30 | 2019-08-20 | 엘지전자 주식회사 | 음성 처리 방법 및 음성 처리 장치 |
CN110597086B (zh) * | 2019-08-19 | 2023-01-13 | 深圳元戎启行科技有限公司 | 仿真场景生成方法、无人驾驶系统测试方法以及装置 |
CN110633360B (zh) * | 2019-09-16 | 2023-06-20 | 腾讯科技(上海)有限公司 | 一种语义匹配的方法以及相关装置 |
CN110674260B (zh) * | 2019-09-27 | 2022-05-24 | 北京百度网讯科技有限公司 | 语义相似模型的训练方法、装置、电子设备和存储介质 |
CN110795913B (zh) * | 2019-09-30 | 2024-04-12 | 北京大米科技有限公司 | 一种文本编码方法、装置、存储介质及终端 |
CN111104799B (zh) * | 2019-10-16 | 2023-07-21 | 中国平安人寿保险股份有限公司 | 文本信息表征方法、系统及计算机设备、存储介质 |
US11620343B2 (en) * | 2019-11-29 | 2023-04-04 | 42Maru Inc. | Method and apparatus for question-answering using a database consist of query vectors |
CN111178082A (zh) * | 2019-12-05 | 2020-05-19 | 北京葡萄智学科技有限公司 | 一种句向量生成方法、装置及电子设备 |
CN111274389B (zh) * | 2020-01-14 | 2023-10-24 | 北京小米松果电子有限公司 | 一种信息处理方法、装置、计算机设备及存储介质 |
CN111368554B (zh) * | 2020-03-13 | 2023-07-28 | 深圳追一科技有限公司 | 语句处理方法、装置、计算机设备和存储介质 |
CN111382563B (zh) * | 2020-03-20 | 2023-09-08 | 腾讯科技(深圳)有限公司 | 文本相关性的确定方法及装置 |
CN111460832B (zh) * | 2020-03-27 | 2023-11-24 | 北京百度网讯科技有限公司 | 对象编码的方法、装置、系统、设备及计算机存储介质 |
CN111858911A (zh) * | 2020-04-21 | 2020-10-30 | 北京嘀嘀无限科技发展有限公司 | 工单描述信息的生成方法、装置、电子设备及存储介质 |
CN111581361B (zh) * | 2020-04-22 | 2023-09-15 | 腾讯科技(深圳)有限公司 | 一种意图识别方法及装置 |
JP7276752B2 (ja) * | 2020-04-28 | 2023-05-18 | 株式会社Askプロジェクト | 自然言語処理装置及び自然言語処理方法 |
CN111626059B (zh) * | 2020-04-30 | 2022-07-26 | 联想(北京)有限公司 | 一种信息处理方法及装置 |
JPWO2021235225A1 (ja) * | 2020-05-21 | 2021-11-25 | ||
CN111523301B (zh) * | 2020-06-05 | 2023-05-05 | 泰康保险集团股份有限公司 | 合同文档合规性检查方法及装置 |
CN111723185B (zh) * | 2020-06-19 | 2022-07-08 | 思必驰科技股份有限公司 | 问题生成方法 |
CN111737989A (zh) * | 2020-06-24 | 2020-10-02 | 深圳前海微众银行股份有限公司 | 一种意图识别方法、装置、设备及存储介质 |
CN111738017A (zh) * | 2020-06-24 | 2020-10-02 | 深圳前海微众银行股份有限公司 | 一种意图识别方法、装置、设备及存储介质 |
CN111737999A (zh) * | 2020-06-24 | 2020-10-02 | 深圳前海微众银行股份有限公司 | 一种序列标注方法、装置、设备及可读存储介质 |
CN111539225B (zh) * | 2020-06-25 | 2023-07-21 | 北京百度网讯科技有限公司 | 语义理解框架结构的搜索方法和装置 |
CN111783423A (zh) * | 2020-07-09 | 2020-10-16 | 北京猿力未来科技有限公司 | 解题模型的训练方法及装置、解题方法及装置 |
CN111832282B (zh) * | 2020-07-16 | 2023-04-14 | 平安科技(深圳)有限公司 | 融合外部知识的bert模型的微调方法、装置及计算机设备 |
CN111858899B (zh) * | 2020-07-31 | 2023-09-15 | 中国工商银行股份有限公司 | 语句处理方法、装置、系统和介质 |
CN111783429B (zh) * | 2020-07-31 | 2024-06-07 | 腾讯科技(深圳)有限公司 | 信息处理方法、装置、电子设备以及存储介质 |
CN111897929B (zh) * | 2020-08-04 | 2021-05-14 | 腾讯科技(深圳)有限公司 | 多轮问句的处理方法和装置、存储介质及电子设备 |
CN111914067B (zh) * | 2020-08-19 | 2022-07-08 | 思必驰科技股份有限公司 | 中文文本匹配方法及系统 |
CN112214993B (zh) * | 2020-09-03 | 2024-02-06 | 拓尔思信息技术股份有限公司 | 基于图神经网络的文档处理方法、装置和存储介质 |
CN112131368B (zh) * | 2020-09-27 | 2024-02-09 | 深圳平安智慧医健科技有限公司 | 对话生成方法、装置、电子设备及存储介质 |
CN112380874B (zh) * | 2020-10-10 | 2023-07-18 | 华南理工大学 | 一种基于图卷积网络的多人对话语篇分析方法 |
CN112232084A (zh) * | 2020-10-15 | 2021-01-15 | 中国科学院自动化研究所 | 神经语义编解码分析方法及系统 |
CN112395857A (zh) * | 2020-11-13 | 2021-02-23 | 平安科技(深圳)有限公司 | 基于对话系统的语音文本处理方法、装置、设备及介质 |
CN112434514B (zh) * | 2020-11-25 | 2022-06-21 | 重庆邮电大学 | 基于多粒度多通道的神经网络的语义匹配方法、装置及计算机设备 |
CN112597759B (zh) * | 2020-11-30 | 2024-04-09 | 深延科技(北京)有限公司 | 一种基于文本的情绪检测方法和装置、计算机设备和介质 |
CN113761145A (zh) * | 2020-12-11 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 语言模型训练方法、语言处理方法和电子设备 |
CN112507081B (zh) * | 2020-12-16 | 2023-05-23 | 平安科技(深圳)有限公司 | 相似句匹配方法、装置、计算机设备及存储介质 |
CN112612890A (zh) * | 2020-12-28 | 2021-04-06 | 交控科技股份有限公司 | 轨道车辆的故障识别方法及装置 |
CN112906398B (zh) * | 2021-01-14 | 2024-05-14 | 合肥工业大学 | 句子语义匹配方法、系统、存储介质和电子设备 |
CN113051930B (zh) * | 2021-03-25 | 2023-04-14 | 华润数字科技有限公司 | 基于Bert模型的意图识别方法、装置及相关设备 |
CN113158691B (zh) * | 2021-04-15 | 2023-02-28 | 清华大学 | 基于混合知识管理的对话方法、装置和电子设备 |
CN113255372B (zh) * | 2021-05-17 | 2024-06-14 | 北京小米移动软件有限公司 | 信息生成方法及装置、电子设备及存储介质 |
CN113254616B (zh) * | 2021-06-07 | 2021-10-19 | 佰聆数据股份有限公司 | 面向智能问答系统的句向量生成方法及系统 |
CN113268578B (zh) * | 2021-06-24 | 2023-08-29 | 中国平安人寿保险股份有限公司 | 文本语义的识别方法、装置、计算机设备及存储介质 |
CN113505206B (zh) * | 2021-07-01 | 2023-04-18 | 北京有竹居网络技术有限公司 | 基于自然语言推理的信息处理方法、装置和电子设备 |
CN113609280B (zh) * | 2021-08-05 | 2023-10-13 | 云南大学 | 基于元学习的多领域对话生成方法、装置、设备及介质 |
CN113590798B (zh) * | 2021-08-09 | 2024-03-26 | 北京达佳互联信息技术有限公司 | 对话意图识别、用于识别对话意图的模型的训练方法 |
CN113806480A (zh) * | 2021-09-16 | 2021-12-17 | 浙江核新同花顺网络信息股份有限公司 | 一种文本分类方法、装置、计算机设备及存储介质 |
US11823666B2 (en) * | 2021-10-04 | 2023-11-21 | International Business Machines Corporation | Automatic measurement of semantic similarity of conversations |
CN114036272A (zh) * | 2021-10-29 | 2022-02-11 | 厦门快商通科技股份有限公司 | 一种对话系统语义分析方法、系统、电子装置及存储介质 |
CN114564562B (zh) * | 2022-02-22 | 2024-05-14 | 平安科技(深圳)有限公司 | 基于答案指导的题目生成方法、装置、设备及存储介质 |
CN114817502B (zh) * | 2022-04-24 | 2023-04-21 | 山东翰林科技有限公司 | 一种基于异质信息融合的智能运维机器人构建方法及装置 |
US20240118993A1 (en) | 2022-10-11 | 2024-04-11 | Wevo, Inc. | Scalable systems and methods for curating user experience test results |
US20240144107A1 (en) | 2022-11-02 | 2024-05-02 | Wevo, Inc. | Scalable systems and methods for discovering and documenting user expectations |
US20240144297A1 (en) * | 2022-11-02 | 2024-05-02 | Wevo, Inc. | Artificial intelligence based theme builder for processing user expectations |
CN115438674B (zh) * | 2022-11-08 | 2023-03-24 | 腾讯科技(深圳)有限公司 | 实体数据处理、实体链接方法、装置和计算机设备 |
CN116488748B (zh) * | 2023-05-04 | 2024-02-27 | 山东大学 | 一种对抗不匹配背景知识库的收发机协同学习的语义通信方法、系统、设备及存储介质 |
CN117473879B (zh) * | 2023-12-27 | 2024-04-02 | 万物镜像(北京)计算机系统有限公司 | 一种自动驾驶仿真场景的生成方法、装置及设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017094911A1 (en) | 2015-12-04 | 2017-06-08 | Mitsubishi Electric Corporation | Method for processing utterances |
CN106980683A (zh) | 2017-03-30 | 2017-07-25 | 中国科学技术大学苏州研究院 | 基于深度学习的博客文本摘要生成方法 |
Family Cites Families (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10387430B2 (en) * | 2015-02-26 | 2019-08-20 | International Business Machines Corporation | Geometry-directed active question selection for question answering systems |
CN106484681B (zh) * | 2015-08-25 | 2019-07-09 | 阿里巴巴集团控股有限公司 | 一种生成候选译文的方法、装置及电子设备 |
US10504010B2 (en) * | 2015-10-02 | 2019-12-10 | Baidu Usa Llc | Systems and methods for fast novel visual concept learning from sentence descriptions of images |
CN106815252B (zh) * | 2015-12-01 | 2020-08-25 | 阿里巴巴集团控股有限公司 | 一种搜索方法和设备 |
US10157203B2 (en) * | 2016-03-15 | 2018-12-18 | International Business Machines Corporation | Question transformation in question answer systems |
CN107220231A (zh) * | 2016-03-22 | 2017-09-29 | 索尼公司 | 用于自然语言处理的电子设备和方法以及训练方法 |
US20170286376A1 (en) * | 2016-03-31 | 2017-10-05 | Jonathan Mugan | Checking Grammar Using an Encoder and Decoder |
US10388274B1 (en) * | 2016-03-31 | 2019-08-20 | Amazon Technologies, Inc. | Confidence checking for speech processing and query answering |
CN106126507B (zh) * | 2016-06-22 | 2019-08-09 | 哈尔滨工业大学深圳研究生院 | 一种基于字符编码的深度神经翻译方法及系统 |
KR102565274B1 (ko) * | 2016-07-07 | 2023-08-09 | 삼성전자주식회사 | 자동 통역 방법 및 장치, 및 기계 번역 방법 및 장치 |
KR102565275B1 (ko) * | 2016-08-10 | 2023-08-09 | 삼성전자주식회사 | 병렬 처리에 기초한 번역 방법 및 장치 |
CN106326212B (zh) * | 2016-08-26 | 2019-04-16 | 北京理工大学 | 一种基于层次深度语义的隐式篇章关系分析方法 |
CN106649786B (zh) | 2016-12-28 | 2020-04-07 | 北京百度网讯科技有限公司 | 基于深度问答的答案检索方法及装置 |
CN106897263A (zh) * | 2016-12-29 | 2017-06-27 | 北京光年无限科技有限公司 | 基于深度学习的机器人对话交互方法及装置 |
CN108509463B (zh) * | 2017-02-28 | 2022-03-29 | 华为技术有限公司 | 一种问题的应答方法及装置 |
US20200193317A1 (en) * | 2017-05-19 | 2020-06-18 | Riiid Inc. | Method, device and computer program for estimating test score |
KR101853091B1 (ko) * | 2017-05-19 | 2018-04-27 | (주)뤼이드 | 기계학습이 적용된 사용자 답변 예측 프레임워크를 통한 개인 맞춤형 교육 컨텐츠 제공 방법, 장치 및 컴퓨터 프로그램 |
CN107402954B (zh) * | 2017-05-26 | 2020-07-10 | 百度在线网络技术(北京)有限公司 | 建立排序模型的方法、基于该模型的应用方法和装置 |
US10255273B2 (en) * | 2017-06-15 | 2019-04-09 | Microsoft Technology Licensing, Llc | Method and system for ranking and summarizing natural language passages |
US11243944B2 (en) * | 2017-06-29 | 2022-02-08 | Futurewei Technologies, Inc. | Dynamic semantic networks for language understanding and question answering |
KR20190019748A (ko) * | 2017-08-18 | 2019-02-27 | 삼성전자주식회사 | 자연어 생성 방법 및 장치 |
CN108509411B (zh) * | 2017-10-10 | 2021-05-11 | 腾讯科技(深圳)有限公司 | 语义分析方法和装置 |
US11809602B2 (en) * | 2020-09-02 | 2023-11-07 | International Business Machines Corporation | Privacy verification for electronic communications |
-
2017
- 2017-10-10 CN CN201710936211.XA patent/CN108509411B/zh active Active
-
2018
- 2018-10-09 JP JP2019567303A patent/JP7276712B2/ja active Active
- 2018-10-09 WO PCT/CN2018/109471 patent/WO2019072166A1/zh active Application Filing
-
2019
- 2019-11-01 US US16/672,121 patent/US11366970B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017094911A1 (en) | 2015-12-04 | 2017-06-08 | Mitsubishi Electric Corporation | Method for processing utterances |
CN106980683A (zh) | 2017-03-30 | 2017-07-25 | 中国科学技术大学苏州研究院 | 基于深度学习的博客文本摘要生成方法 |
Also Published As
Publication number | Publication date |
---|---|
US20200065389A1 (en) | 2020-02-27 |
CN108509411A (zh) | 2018-09-07 |
WO2019072166A1 (zh) | 2019-04-18 |
CN108509411B (zh) | 2021-05-11 |
JP2020522817A (ja) | 2020-07-30 |
US11366970B2 (en) | 2022-06-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7276712B2 (ja) | 意味分析方法、装置、および記憶媒体 | |
US11829874B2 (en) | Neural architecture search | |
KR102589303B1 (ko) | 고정 소수점 타입의 뉴럴 네트워크를 생성하는 방법 및 장치 | |
KR102071582B1 (ko) | 딥 뉴럴 네트워크(Deep Neural Network)를 이용하여 문장이 속하는 클래스(class)를 분류하는 방법 및 장치 | |
US11138385B2 (en) | Method and apparatus for determining semantic matching degree | |
US10726325B2 (en) | Facilitating machine-learning and data analysis by computing user-session representation vectors | |
US10373047B2 (en) | Deep convolutional neural networks for automated scoring of constructed responses | |
KR20190125141A (ko) | 뉴럴 네트워크의 파라미터들을 양자화하는 방법 및 장치 | |
CN110287337A (zh) | 基于深度学习和知识图谱获取医学同义词的系统及方法 | |
CN111382573A (zh) | 用于答案质量评估的方法、装置、设备和存储介质 | |
US20190295688A1 (en) | Processing biological sequences using neural networks | |
KR20210091671A (ko) | 의료 사실의 검증 방법 및 장치 | |
CN112115246A (zh) | 基于对话的内容推荐方法、装置、计算机设备及存储介质 | |
JP2023518220A (ja) | 多様なテキストを自動的に生成する方法 | |
KR20210113336A (ko) | 머신 러닝에 기반한 타깃 객체 속성 예측 방법 및 관련 디바이스 | |
JP2018022496A (ja) | 自然言語処理装置に用いられるトレーニングデータを作成する方法と機器 | |
EP3726435A1 (en) | Deep neural network training method and apparatus, and computer device | |
WO2021176337A1 (en) | Deterministic decoder variational autoencoder | |
CN110046279A (zh) | 视频文件特征的预测方法、介质、装置和计算设备 | |
Best et al. | Deep audio embeddings for vocalisation clustering | |
CN113129908B (zh) | 基于循环帧级特征融合的端到端猕猴声纹验证方法及系统 | |
US20220180206A1 (en) | Knowledge distillation using deep clustering | |
US10810994B2 (en) | Conversational optimization of cognitive models | |
KR102117908B1 (ko) | 기계학습 모델링을 위한 신규 학습 콘텐츠 분석 방법, 장치 및 컴퓨터 프로그램 | |
US20200027007A1 (en) | Conversational optimization of cognitive models |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191205 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210222 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20210921 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220121 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20220121 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20220128 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20220131 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20220325 |
|
C211 | Notice of termination of reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C211 Effective date: 20220404 |
|
C22 | Notice of designation (change) of administrative judge |
Free format text: JAPANESE INTERMEDIATE CODE: C22 Effective date: 20220606 |
|
C23 | Notice of termination of proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C23 Effective date: 20230306 |
|
C03 | Trial/appeal decision taken |
Free format text: JAPANESE INTERMEDIATE CODE: C03 Effective date: 20230403 |
|
C30A | Notification sent |
Free format text: JAPANESE INTERMEDIATE CODE: C3012 Effective date: 20230403 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230420 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7276712 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |