JP2021039220A - 音声認識装置、学習装置、音声認識方法、学習方法、音声認識プログラムおよび学習プログラム - Google Patents
音声認識装置、学習装置、音声認識方法、学習方法、音声認識プログラムおよび学習プログラム Download PDFInfo
- Publication number
- JP2021039220A JP2021039220A JP2019159955A JP2019159955A JP2021039220A JP 2021039220 A JP2021039220 A JP 2021039220A JP 2019159955 A JP2019159955 A JP 2019159955A JP 2019159955 A JP2019159955 A JP 2019159955A JP 2021039220 A JP2021039220 A JP 2021039220A
- Authority
- JP
- Japan
- Prior art keywords
- symbol string
- neural network
- predicted
- posterior probability
- probability based
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Telephonic Communication Services (AREA)
- Image Analysis (AREA)
Abstract
Description
図1は、本実施形態の音声認識装置の概略構成を例示する模式図である。図1に例示するように、本実施形態の音声認識装置10は、パソコン等の汎用コンピュータで実現され、記憶部11、および制御部12を備える。
図2は、本実施形態の学習装置の概略構成を例示する模式図である。図2に例示するように、本実施形態の学習装置20は、パソコン等の汎用コンピュータで実現され、記憶部21、および制御部22を備える。
次に、図3を参照して、本実施形態に係る音声認識装置10による音声認識処理について説明する。図3は、音声認識処理手順を示すフローチャートである。図3のフローチャートは、例えば、ユーザが開始を指示する操作入力を行ったタイミングで開始される。
次に、図4を参照して、本実施形態に係る学習装置20による学習処理について説明する。図4は、学習処理手順を示すフローチャートである。図4のフローチャートは、例えば、ユーザが開始を指示する操作入力を行ったタイミングで開始される。
上記実施形態に係る音声認識装置10および学習装置20が実行する処理をコンピュータが実行可能な言語で記述したプログラムを作成することもできる。一実施形態として、音声認識装置10は、パッケージソフトウェアやオンラインソフトウェアとして上記の音声認識処理を実行する音声認識プログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、上記の音声認識プログラムを情報処理装置に実行させることにより、情報処理装置を音声認識装置10として機能させることができる。また、学習装置20は、パッケージソフトウェアやオンラインソフトウェアとして上記の学習処理を実行する学習プログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、上記の学習プログラムを情報処理装置に実行させることにより、情報処理装置を学習装置20として機能させることができる。
11 記憶部
11a パラメータ
12 制御部
12a Transformerエンコーダ
12b Transformerデコーダ
12c CTCデコーダ
12d 言語評価部
12e 探索部
20 学習装置
21 記憶部
22 制御部
22d パラメータ更新部
22e 終了判定部
N end−to−endニューラルネットワーク
Claims (8)
- 第1のニューラルネットワークを用いて、入力された音声信号の特徴量を符号化した中間特徴量に変換する変換部と、
第2のニューラルネットワークを用いて、予測済みの記号列と前記中間特徴量とから、前記予測済みの記号列に後続する記号を含む記号列である予測される記号列と該記号列のTransformerに基づく事後確率とを算出する第1の算出部と、
第3のニューラルネットワークを用いて、前記中間特徴量から、予測される記号列と該記号列のCTC(Connectionist Temporal Classification)に基づく事後確率を算出する第2の算出部と、
言語モデルを用いて、前記第2のニューラルネットワークを用いて予測された記号列および前記第3のニューラルネットワークを用いて予測された記号列の尤度を算出する第3の算出部と、
前記Transformerに基づく事後確率と、前記CTCに基づく事後確率と、前記尤度とを用いて、予測される記号列を探索する探索部と、
を有することを特徴とする音声認識装置。 - 前記第1のニューラルネットワーク、前記第2のニューラルネットワークおよび前記第3のニューラルネットワークは、全体として1つのend−to−endのニューラルネットワークとみなして学習されたものであることを特徴とする請求項1に記載の音声認識装置。
- 第1のニューラルネットワークを用いて、入力された学習用の音声信号の特徴量を符号化した中間特徴量に変換する変換部と、
第2のニューラルネットワークを用いて、正解記号列と前記中間特徴量とから、予測される記号列と該記号列のTransformerに基づく事後確率とを算出する第1の算出部と、
第3のニューラルネットワークを用いて、前記中間特徴量から、予測される記号列と該記号列のCTC(Connectionist Temporal Classification)に基づく事後確率を算出する第2の算出部と、
前記Transformerに基づく事後確率と、前記CTCに基づく事後確率とから算出した損失関数値を用いて、前記第1のニューラルネットワーク、前記第2のニューラルネットワークおよび前記第3のニューラルネットワークのパラメータを更新するパラメータ更新部と、
を有することを特徴とする学習装置。 - 前記損失関数値が所定の閾値以下となった場合、前記パラメータの更新回数が所定の回数に到達した場合、または前記パラメータの更新量が所定の閾値以下となった場合に、前記パラメータの更新を終了する終了判定部をさらに有することを特徴とする請求項3に記載の学習装置。
- 音声認識装置で実行される音声認識方法であって、
第1のニューラルネットワークを用いて、入力された音声信号の特徴量を符号化した中間特徴量に変換する変換工程と、
第2のニューラルネットワークを用いて、予測済みの記号列と前記中間特徴量とから、前記予測済みの記号列に後続する記号を含む記号列である予測される記号列と該記号列のTransformerに基づく事後確率とを算出する第1の算出工程と、
第3のニューラルネットワークを用いて、前記中間特徴量から、予測される記号列と該記号列のCTC(Connectionist Temporal Classification)に基づく事後確率を算出する第2の算出工程と、
言語モデルを用いて、前記第2のニューラルネットワークを用いて予測された記号列および前記第3のニューラルネットワークを用いて予測された記号列の尤度を算出する第3の算出工程と、
前記Transformerに基づく事後確率と、前記CTCに基づく事後確率と、前記尤度とを用いて、予測される記号列を探索する探索工程と、
を含んだことを特徴とする音声認識方法。 - 学習装置で実行される学習方法であって、
第1のニューラルネットワークを用いて、入力された学習用の音声信号の特徴量を符号化した中間特徴量に変換する変換工程と、
第2のニューラルネットワークを用いて、正解記号列と前記中間特徴量とから、予測される記号列と該記号列のTransformerに基づく事後確率とを算出する第1の算出工程と、
第3のニューラルネットワークを用いて、前記中間特徴量から、予測される記号列と該記号列のCTC(Connectionist Temporal Classification)に基づく事後確率を算出する第2の算出工程と、
前記Transformerに基づく事後確率と、前記CTCに基づく事後確率とから算出した損失関数値を用いて、前記第1のニューラルネットワーク、前記第2のニューラルネットワークおよび前記第3のニューラルネットワークのパラメータを更新するパラメータ更新工程と、
を含んだことを特徴とする学習方法。 - 第1のニューラルネットワークを用いて、入力された音声信号の特徴量を符号化した中間特徴量に変換する変換ステップと、
第2のニューラルネットワークを用いて、予測済みの記号列と前記中間特徴量とから、前記予測済みの記号列に後続する記号を含む記号列である予測される記号列と該記号列のTransformerに基づく事後確率とを算出する第1の算出ステップと、
第3のニューラルネットワークを用いて、前記中間特徴量から、予測される記号列と該記号列のCTC(Connectionist Temporal Classification)に基づく事後確率を算出する第2の算出ステップと、
言語モデルを用いて、前記第2のニューラルネットワークを用いて予測された記号列および前記第3のニューラルネットワークを用いて予測された記号列の尤度を算出する第3の算出ステップと、
前記Transformerに基づく事後確率と、前記CTCに基づく事後確率と、前記尤度とを用いて、予測される記号列を探索する探索ステップと、
をコンピュータに実行させるための音声認識プログラム。 - 第1のニューラルネットワークを用いて、入力された学習用の音声信号の特徴量を符号化した中間特徴量に変換する変換ステップと、
第2のニューラルネットワークを用いて、正解記号列と前記中間特徴量とから、予測される記号列と該記号列のTransformerに基づく事後確率とを算出する第1の算出ステップと、
第3のニューラルネットワークを用いて、前記中間特徴量から、予測される記号列と該記号列のCTC(Connectionist Temporal Classification)に基づく事後確率を算出する第2の算出ステップと、
前記Transformerに基づく事後確率と、前記CTCに基づく事後確率とから算出した損失関数値を用いて、前記第1のニューラルネットワーク、前記第2のニューラルネットワークおよび前記第3のニューラルネットワークのパラメータを更新するパラメータ更新ステップと、
をコンピュータに実行させるための学習プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019159955A JP7212596B2 (ja) | 2019-09-02 | 2019-09-02 | 学習装置、学習方法および学習プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019159955A JP7212596B2 (ja) | 2019-09-02 | 2019-09-02 | 学習装置、学習方法および学習プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021039220A true JP2021039220A (ja) | 2021-03-11 |
JP7212596B2 JP7212596B2 (ja) | 2023-01-25 |
Family
ID=74849209
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019159955A Active JP7212596B2 (ja) | 2019-09-02 | 2019-09-02 | 学習装置、学習方法および学習プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7212596B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113674764A (zh) * | 2021-08-20 | 2021-11-19 | 广东外语外贸大学 | 基于双向循环神经网络的口译评测方法、系统及设备 |
JP2022151649A (ja) * | 2021-03-23 | 2022-10-07 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | 音声認識モデルのトレーニング方法、装置、機器、および記憶媒体 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05334276A (ja) * | 1990-12-27 | 1993-12-17 | Toshiba Corp | 学習機械の学習法 |
US20190189115A1 (en) * | 2017-12-15 | 2019-06-20 | Mitsubishi Electric Research Laboratories, Inc. | Method and Apparatus for Open-Vocabulary End-to-End Speech Recognition |
-
2019
- 2019-09-02 JP JP2019159955A patent/JP7212596B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05334276A (ja) * | 1990-12-27 | 1993-12-17 | Toshiba Corp | 学習機械の学習法 |
US20190189115A1 (en) * | 2017-12-15 | 2019-06-20 | Mitsubishi Electric Research Laboratories, Inc. | Method and Apparatus for Open-Vocabulary End-to-End Speech Recognition |
Non-Patent Citations (1)
Title |
---|
DONG, LINHAO ET AL.: ""SPEECH-TRANSFORMER: A NO-RECURRENCE SEQUENCE-TO-SEQUENCE MODEL FOR SPEECH RECOGNITION"", PROC. OF THE 2018 IEEE ICASSP, JPN6022030503, 15 April 2018 (2018-04-15), pages 5884 - 5888, XP033401817, ISSN: 0004833975, DOI: 10.1109/ICASSP.2018.8462506 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022151649A (ja) * | 2021-03-23 | 2022-10-07 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | 音声認識モデルのトレーニング方法、装置、機器、および記憶媒体 |
JP7346788B2 (ja) | 2021-03-23 | 2023-09-20 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | 音声認識モデルのトレーニング方法、装置、機器、および記憶媒体 |
CN113674764A (zh) * | 2021-08-20 | 2021-11-19 | 广东外语外贸大学 | 基于双向循环神经网络的口译评测方法、系统及设备 |
Also Published As
Publication number | Publication date |
---|---|
JP7212596B2 (ja) | 2023-01-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6712642B2 (ja) | モデル学習装置、その方法、及びプログラム | |
US20200365142A1 (en) | Encoder-decoder models for sequence to sequence mapping | |
US11113479B2 (en) | Utilizing a gated self-attention memory network model for predicting a candidate answer match to a query | |
JP6222821B2 (ja) | 誤り修正モデル学習装置、及びプログラム | |
US20210193161A1 (en) | Acoustic model training method, speech recognition method, acoustic model training apparatus, speech recognition apparatus, acoustic model training program, and speech recognition program | |
WO2022121251A1 (zh) | 文本处理模型训练方法、装置、计算机设备和存储介质 | |
JP2019159654A (ja) | 時系列情報の学習システム、方法およびニューラルネットワークモデル | |
JP6712644B2 (ja) | 音響モデル学習装置、その方法、及びプログラム | |
CN110275928B (zh) | 迭代式实体关系抽取方法 | |
JP2020042257A (ja) | 音声認識方法及び装置 | |
US20230237993A1 (en) | Systems and Methods for Training Dual-Mode Machine-Learned Speech Recognition Models | |
US20210073645A1 (en) | Learning apparatus and method, and program | |
KR20190136578A (ko) | 음성 인식 방법 및 장치 | |
JP2021039220A (ja) | 音声認識装置、学習装置、音声認識方法、学習方法、音声認識プログラムおよび学習プログラム | |
WO2019171925A1 (ja) | 言語モデルを利用する装置、方法及びプログラム | |
CN114528387A (zh) | 基于对话流自举的深度学习对话策略模型构建方法和系统 | |
JP6633556B2 (ja) | 音響モデル学習装置、音声認識装置、音響モデル学習方法、音声認識方法、およびプログラム | |
KR102292921B1 (ko) | 언어 모델 학습 방법 및 장치, 음성 인식 방법 및 장치 | |
JP7274441B2 (ja) | 学習装置、学習方法および学習プログラム | |
JP2018031812A (ja) | 音声データ処理装置、音声データ処理方法および音声データ処理プログラム | |
JP6612796B2 (ja) | 音響モデル学習装置、音声認識装置、音響モデル学習方法、音声認識方法、音響モデル学習プログラム及び音声認識プログラム | |
Wang et al. | Sequence adversarial training and minimum bayes risk decoding for end-to-end neural conversation models | |
JP2021039218A (ja) | 学習装置、学習方法及び学習プログラム | |
JP7505582B2 (ja) | 話者ダイアライゼーション方法、話者ダイアライゼーション装置および話者ダイアライゼーションプログラム | |
WO2022123742A1 (ja) | 話者ダイアライゼーション方法、話者ダイアライゼーション装置および話者ダイアライゼーションプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20190917 |
|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20190924 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211021 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220714 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220726 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220902 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230104 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230113 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7212596 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |