JP2020086434A - 音声検出のための雑音除去変分オートエンコーダ基盤の統合トレーニング方法および装置 - Google Patents
音声検出のための雑音除去変分オートエンコーダ基盤の統合トレーニング方法および装置 Download PDFInfo
- Publication number
- JP2020086434A JP2020086434A JP2019158891A JP2019158891A JP2020086434A JP 2020086434 A JP2020086434 A JP 2020086434A JP 2019158891 A JP2019158891 A JP 2019158891A JP 2019158891 A JP2019158891 A JP 2019158891A JP 2020086434 A JP2020086434 A JP 2020086434A
- Authority
- JP
- Japan
- Prior art keywords
- dnn
- voice
- voice detection
- sound quality
- integrated training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 100
- 238000000034 method Methods 0.000 title claims abstract description 80
- 238000012549 training Methods 0.000 title claims abstract description 79
- 230000006872 improvement Effects 0.000 claims abstract description 62
- 238000010606 normalization Methods 0.000 claims abstract description 34
- 238000009826 distribution Methods 0.000 claims description 67
- 230000006870 function Effects 0.000 claims description 35
- 238000012545 processing Methods 0.000 claims description 14
- 238000013528 artificial neural network Methods 0.000 claims description 10
- 230000009467 reduction Effects 0.000 claims description 6
- 230000001788 irregular Effects 0.000 claims description 4
- 230000008569 process Effects 0.000 description 11
- 238000013459 approach Methods 0.000 description 5
- 230000008030 elimination Effects 0.000 description 5
- 238000003379 elimination reaction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000015654 memory Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000005067 remediation Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000013179 statistical model Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0272—Voice signal separating
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Electrically Operated Instructional Devices (AREA)
- Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
- Soundproofing, Sound Blocking, And Sound Damping (AREA)
Abstract
Description
2.逆伝播を利用して損失Gradientを計算する。
3.SE−DVAEおよびVADDNNの媒介変数をアップデートする。
420:加重値部
430:符号化部
Claims (10)
- 音声検出のための統合トレーニング方法であって、
トレーニング時に発生する内部共変量シフト(internal covariate shift)現象を減少させるためにバッチ正規化(batch normalization)を利用する段階、
音質改善DNN(Deep neural network)が音声検出に必要な音声特徴を出力するようにGradient weighting技法を利用する段階、および
音質改善DNNで雑音除去変分オートエンコーダ(denoising variational autoencoder)を利用する段階
を含み、
前記音声検出のための統合トレーニング方法は、音質改善DNNによって音声特徴から雑音を除去するように音声特徴を変換し、雑音が除去された音声特徴を利用して音声検出DNNによって音声検出を実行することを含む、
音声検出のための統合トレーニング方法。 - 前記トレーニング時に発生する前記内部共変量シフト現象を減少させるために前記バッチ正規化を利用する前記段階は、
2つのネットワークを結合して前記統合トレーニングを実行する場合に発生する前記音質改善DNNの出力分布の変分を減少させるために、前記2つのネットワーク間にバッチ正規化レイヤを追加して不正規的な入力分布を処理することによって前記内部共変量シフト現象を減少させることを含む、
請求項1に記載の音声検出のための統合トレーニング方法。 - 前記音質改善DNNが前記音声検出に必要な前記音声特徴を出力するように前記Gradient weighting技法を利用する前記段階は、
前記音質改善DNNと前記音声検出DNNの損失関数を計算し、逆伝播法を利用して各前記損失関数に対する勾配を求めた後、計算された前記勾配を利用して2つのネットワークのパラメータをアップデートすることを含む、
請求項1に記載の音声検出のための統合トレーニング方法。 - 前記音質改善DNNの前記パラメータアップデートによって前記音声検出DNNの前記損失関数を減らすように前記トレーニングを実行し、前記音質改善DNNによる前記音声検出に必要な特徴を出力することを含む、
請求項3に記載の音声検出のための統合トレーニング方法。 - 前記音質改善DNNで前記雑音除去変分オートエンコーダを利用する前記段階は、
エンコーダ確率分布とデコーダ確率分布の両方を対角ガウス分布として仮定し、エンコーダDNNとデコーダDNNによってそれぞれ対応する確率分布の平均およびログ分散を推定し、事前確率を等方的なガウス分布として仮定し、前記エンコーダ確率分布と前記デコーダ確率分布から潜在変数と観測変数を決定的に求め、変分下限を最大化するようにネットワークパラメータをアップデートすることを含む、
請求項1に記載の音声検出のための統合トレーニング方法。 - 音声検出のための統合トレーニング装置であって、
トレーニング時に発生する内部共変量シフト(internal covariate shift)現象を減少させるためにバッチ正規化(batch normalization)を利用する正規化部、
音質改善DNN(Deep neural network)が音声検出に必要な音声特徴を出力するようにGradient weighting技法を利用する加重値部、および
前記音質改善DNNで雑音除去変分オートエンコーダ(denoising variational autoencoder)を利用する符号化部
を備え、
前記音声検出のための統合トレーニング方法は、前記音質改善DNNによって前記音声特徴から雑音を除去するように前記音声特徴を変換し、前記雑音が除去された前記音声特徴を利用して音声検出DNNによって前記音声検出を実行することを含む、
音声検出のための統合トレーニング装置。 - 前記正規化部は、
2つのネットワークを結合して統合トレーニングを実行する場合に発生する前記音質改善DNNの出力分布の変分を減少させるために、前記2つのネットワーク間にバッチ正規化レイヤを追加して不正規的な入力分布を処理することによって前記内部共変量シフト現象を減少させる、
請求項6に記載の音声検出のための統合トレーニング装置。 - 前記加重値部は、
前記音質改善DNNと前記音声検出DNNの損失関数を計算し、逆伝播法を利用して各前記損失関数に対する勾配を求めた後、計算された前記勾配を利用して2つのネットワークのパラメータをアップデートする、
請求項6に記載の音声検出のための統合トレーニング装置。 - 前記音質改善DNNの前記パラメータアップデートによって前記音声検出DNNの前記損失関数を減らすように前記トレーニングを実行し、前記音質改善DNNによる前記音声検出に必要な特徴を出力する、
請求項8に記載の音声検出のための統合トレーニング装置。 - 前記符号化部は、
エンコーダ確率分布とデコーダ確率分布の両方を対角ガウス分布として仮定し、エンコーダDNNとデコーダDNNによってそれぞれ対応する確率分布の平均およびログ分散を推定し、事前確率を等方的なガウス分布として仮定し、前記エンコーダ確率分布と前記デコーダ確率分布から潜在変数と観測変数を決定的に求め、変分下限を最大化するようにネットワークパラメータをアップデートする、
請求項6に記載の音声検出のための統合トレーニング装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2018-0150690 | 2018-11-29 | ||
KR1020180150690A KR102095132B1 (ko) | 2018-11-29 | 2018-11-29 | 음성 검출을 위한 잡음제거 변분 오토인코더 기반의 통합 훈련 방법 및 장치 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020086434A true JP2020086434A (ja) | 2020-06-04 |
JP6818372B2 JP6818372B2 (ja) | 2021-01-20 |
Family
ID=70003251
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019158891A Active JP6818372B2 (ja) | 2018-11-29 | 2019-08-30 | 音声検出のための雑音除去変分オートエンコーダ基盤の統合トレーニング方法および装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6818372B2 (ja) |
KR (1) | KR102095132B1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113345423A (zh) * | 2021-06-24 | 2021-09-03 | 科大讯飞股份有限公司 | 语音端点检测方法、装置、电子设备和存储介质 |
CN116499607A (zh) * | 2023-06-27 | 2023-07-28 | 之江实验室 | 一种光纤传感信号降噪方法、装置和存储介质 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113077810A (zh) * | 2021-03-19 | 2021-07-06 | 杨予诺 | 一种基于β-VAE算法的声源分离方法 |
KR102358151B1 (ko) * | 2021-06-11 | 2022-02-08 | 주식회사 위스타 | 컨볼루션 순환신경망을 이용한 잡음 제거 방법 |
CN115588436A (zh) * | 2022-09-29 | 2023-01-10 | 沈阳新松机器人自动化股份有限公司 | 基于变分自编码器生成对抗网络的语音增强方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20160073874A (ko) * | 2014-12-17 | 2016-06-27 | 서울대학교산학협력단 | 심화 신경망을 이용한 통계모델 기반의 음성 검출 방법 및 이를 수행하는 음성 검출 장치 |
WO2018071389A1 (en) * | 2016-10-10 | 2018-04-19 | Google Llc | Very deep convolutional neural networks for end-to-end speech recognition |
JP2018517928A (ja) * | 2015-09-24 | 2018-07-05 | グーグル エルエルシー | 音声活動検出 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150324689A1 (en) * | 2014-05-12 | 2015-11-12 | Qualcomm Incorporated | Customized classifier over common features |
US10685285B2 (en) * | 2016-11-23 | 2020-06-16 | Microsoft Technology Licensing, Llc | Mirror deep neural networks that regularize to linear networks |
JP6922284B2 (ja) * | 2017-03-15 | 2021-08-18 | 富士フイルムビジネスイノベーション株式会社 | 情報処理装置及びプログラム |
-
2018
- 2018-11-29 KR KR1020180150690A patent/KR102095132B1/ko active IP Right Grant
-
2019
- 2019-08-30 JP JP2019158891A patent/JP6818372B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20160073874A (ko) * | 2014-12-17 | 2016-06-27 | 서울대학교산학협력단 | 심화 신경망을 이용한 통계모델 기반의 음성 검출 방법 및 이를 수행하는 음성 검출 장치 |
JP2018517928A (ja) * | 2015-09-24 | 2018-07-05 | グーグル エルエルシー | 音声活動検出 |
WO2018071389A1 (en) * | 2016-10-10 | 2018-04-19 | Google Llc | Very deep convolutional neural networks for end-to-end speech recognition |
Non-Patent Citations (5)
Title |
---|
NAHAR, S M RAUFUN ET AL.: ""Robust Voice Activity Detector by Combining Sequentially Trained Deep Neural Networks"", PROC. OF 2016 INTERNATIONAL CONFERENCE ON ADVANCED INFORMATICS: CONCEPTS, THEORY AND APPLICATION (IC, JPN6020042735, 16 August 2016 (2016-08-16), ISSN: 0004382920 * |
太田陸斗 他: ""調波構造に基づくDeep Auto Encoderを用いた残響下音声強調"", 電子情報通信学会技術研究報告, vol. 116, no. 477, JPN6020042732, 22 February 2017 (2017-02-22), pages 141 - 146, ISSN: 0004382917 * |
山下隆義 他: ""畳み込みニューラルネットワークの研究動向"", 画像ラボ, vol. 29, no. 10, JPN6020042731, 10 October 2018 (2018-10-10), pages 27 - 35, ISSN: 0004382916 * |
杉山普 他: ""Variational Autoencoderによる話者ベクトル空間の構築とそれに基づくパラレルデータフリー話者変換"", 情報処理学会研究報告, vol. Vol.2018-SLP-122, No.28, JPN6020042734, 9 June 2018 (2018-06-09), pages 1 - 6, ISSN: 0004382919 * |
森口寛生 他: ""変分オートエンコーダを用いた多重音解析システムの性能評価"", 第80回(平成30年)全国大会講演論文集(2) 人工知能と認知科学, JPN6020042733, 13 March 2018 (2018-03-13), pages 2 - 167, ISSN: 0004382918 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113345423A (zh) * | 2021-06-24 | 2021-09-03 | 科大讯飞股份有限公司 | 语音端点检测方法、装置、电子设备和存储介质 |
CN113345423B (zh) * | 2021-06-24 | 2024-02-13 | 中国科学技术大学 | 语音端点检测方法、装置、电子设备和存储介质 |
CN116499607A (zh) * | 2023-06-27 | 2023-07-28 | 之江实验室 | 一种光纤传感信号降噪方法、装置和存储介质 |
CN116499607B (zh) * | 2023-06-27 | 2023-09-08 | 之江实验室 | 一种光纤传感信号降噪方法、装置和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
JP6818372B2 (ja) | 2021-01-20 |
KR102095132B1 (ko) | 2020-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Drude et al. | NARA-WPE: A Python package for weighted prediction error dereverberation in Numpy and Tensorflow for online and offline processing | |
JP2020086434A (ja) | 音声検出のための雑音除去変分オートエンコーダ基盤の統合トレーニング方法および装置 | |
US9824683B2 (en) | Data augmentation method based on stochastic feature mapping for automatic speech recognition | |
JP6751322B2 (ja) | 音響モデル生成装置及び方法、音声認識装置及び方法 | |
EP3166105B1 (en) | Neural network training apparatus and method | |
CN107077860B (zh) | 用于将有噪音频信号转换为增强音频信号的方法 | |
WO2018223727A1 (zh) | 识别声纹的方法、装置、设备及介质 | |
JP7517601B2 (ja) | ハイパーパラメータ最適化システム、方法およびプログラム | |
Sørensen et al. | A depthwise separable convolutional neural network for keyword spotting on an embedded system | |
Hasannezhad et al. | PACDNN: A phase-aware composite deep neural network for speech enhancement | |
Coto-Jiménez et al. | Improving automatic speech recognition containing additive noise using deep denoising autoencoders of LSTM networks | |
KR20220018271A (ko) | 딥러닝을 이용한 시간 및 주파수 분석 기반의 노이즈 제거 방법 및 장치 | |
CN112767959A (zh) | 语音增强方法、装置、设备及介质 | |
Sivasankaran et al. | Discriminative importance weighting of augmented training data for acoustic model training | |
KR20220022286A (ko) | 잔향 제거 오토 인코더를 이용한 잔향 환경 임베딩 추출 방법 및 장치 | |
Nguyen et al. | Feature adaptation using linear spectro-temporal transform for robust speech recognition | |
JP5994639B2 (ja) | 有音区間検出装置、有音区間検出方法、及び有音区間検出プログラム | |
Li et al. | Single channel speech enhancement using temporal convolutional recurrent neural networks | |
Garg et al. | Enhancement of speech signal using diminished empirical mean curve decomposition-based adaptive Wiener filtering | |
Do et al. | Weighting Time-Frequency Representation of Speech Using Auditory Saliency for Automatic Speech Recognition. | |
Coto-Jiménez | Robustness of LSTM neural networks for the enhancement of spectral parameters in noisy speech signals | |
Nicolson et al. | Sum-product networks for robust automatic speaker identification | |
JP7231181B2 (ja) | 耐雑音音声認識装置及び方法、並びにコンピュータプログラム | |
Chidhambararajan et al. | EfficientWord-Net: An Open Source Hotword Detection Engine Based on Few-Shot Learning | |
Alameri et al. | Convolutional Deep Neural Network and Full Connectivity for Speech Enhancement. |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191003 |
|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20190926 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201030 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201110 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201120 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201208 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201221 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6818372 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |