JP7336135B2 - 音声合成装置 - Google Patents
音声合成装置 Download PDFInfo
- Publication number
- JP7336135B2 JP7336135B2 JP2019149823A JP2019149823A JP7336135B2 JP 7336135 B2 JP7336135 B2 JP 7336135B2 JP 2019149823 A JP2019149823 A JP 2019149823A JP 2019149823 A JP2019149823 A JP 2019149823A JP 7336135 B2 JP7336135 B2 JP 7336135B2
- Authority
- JP
- Japan
- Prior art keywords
- neural network
- speech
- decoder
- transition
- probability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Machine Translation (AREA)
Description
[概略]
本発明の実施例による音声合成装置は、テキスト入力を言語特徴量に変換するエンコーダと、言語特徴量から音声出力を生成するデコーダとを備えることによって、End-to-Endタイプのエンコーダ-デコーダ型音声合成を実現する。ここで、エンコーダ及びデコーダはニューラルネットワークとして実現され、デコーダは、エンコーダから取得した言語特徴量から音声の出力確率を予測するニューラルネットワークと、言語特徴量からテキスト入力の各文字又は音素と音声又は周波数スペクトルとの間のアライメントに関する遷移確率を予測するニューラルネットワークとから構成される。
[音声合成装置]
まず、図5~12を参照して、本発明の一実施例による音声合成装置を説明する。図5は、本発明の一実施例による音声合成装置の機能構成を示すブロック図である。
[適用例]
次に、図13~18を参照して、音声合成装置100の落語音声への適用例を説明する。具体的には、音声合成装置100への入力として、真打の落語家に古典落語25演目を演じてもらい、演じられた音声をスタジオにて録音し、音素表記によるテキスト入力と録音された音声系列とによって、音声合成装置100のニューラルネットワークを学習した。落語では、ひとりで何役も演じ、通常の発話とは異なる調子で発話が行われるなどの独自の特徴がある。
110 エンコーダ
120 デコーダ
121 遷移確率予測部
122 出力確率予測部
123 音声系列生成部
Claims (4)
- エンコーダニューラルネットワークによってテキスト系列から言語特徴量を生成するエンコーダと、
デコーダニューラルネットワークによって前記言語特徴量から音声系列を生成するデコーダと、
を有し、
前記デコーダは、
第1のデコーダニューラルネットワークによって前記言語特徴量から現在の状態に留まるか又は次の状態に遷移するかに関する遷移確率を予測する遷移確率予測部と、
第2のデコーダニューラルネットワークによって前記言語特徴量から音響特徴量の出力確率を予測する出力確率予測部と、
前記遷移確率と前記出力確率とを掛け合わせた同時確率に基づき前記音声系列を連続時系列として生成する音声系列生成部と、
を有し、
前記第2のデコーダニューラルネットワークは、ジャコビアンが存在する可逆なニューラルネットワークであり、
前記出力確率予測部は、前記第2のデコーダニューラルネットワークによって周波数スペクトルを低次元化し、周波数スペクトルの次元間の相関を無相関化する音声合成装置。 - 前記第2のデコーダニューラルネットワークは、Glow(Generative Flow)構造を有する、請求項1記載の音声合成装置。
- 前記第1のデコーダニューラルネットワークは、SSNT(Segment to Segment Neural Transduction)ベースアライメント機構を有し、
前記遷移確率予測部は、前記第1のデコーダニューラルネットワークによって、現在の状態に留まるか、又は次の状態に遷移するかに関する前記遷移確率を予測する、請求項1又は2記載の音声合成装置。 - 前記デコーダニューラルネットワークは、再帰構造を有し、前記言語特徴量と過去の音声系列とから生成された中間表現を前記遷移確率予測部と前記出力確率予測部とに入力し、
前記第1のデコーダニューラルネットワークは、前記中間表現から前記遷移確率を予測し、
前記第2のデコーダニューラルネットワークは、前記中間表現から前記音響特徴量の出力確率を予測する、請求項1乃至3何れか一項記載の音声合成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019149823A JP7336135B2 (ja) | 2019-08-19 | 2019-08-19 | 音声合成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019149823A JP7336135B2 (ja) | 2019-08-19 | 2019-08-19 | 音声合成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021032937A JP2021032937A (ja) | 2021-03-01 |
JP7336135B2 true JP7336135B2 (ja) | 2023-08-31 |
Family
ID=74677584
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019149823A Active JP7336135B2 (ja) | 2019-08-19 | 2019-08-19 | 音声合成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7336135B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110473516B (zh) * | 2019-09-19 | 2020-11-27 | 百度在线网络技术(北京)有限公司 | 语音合成方法、装置以及电子设备 |
WO2023281555A1 (ja) * | 2021-07-05 | 2023-01-12 | 日本電信電話株式会社 | 生成方法、生成プログラム及び生成装置 |
WO2023112095A1 (ja) * | 2021-12-13 | 2023-06-22 | 日本電信電話株式会社 | 音声合成装置、音声合成方法、及びプログラム |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019120841A (ja) | 2018-01-09 | 2019-07-22 | 国立大学法人 奈良先端科学技術大学院大学 | スピーチチェイン装置、コンピュータプログラムおよびdnn音声認識・合成相互学習方法 |
JP2021511533A (ja) | 2018-01-11 | 2021-05-06 | ネオサピエンス株式会社Neosapience, Inc. | 機械学習を利用したテキスト音声合成方法、装置およびコンピュータ読み取り可能な記憶媒体 |
-
2019
- 2019-08-19 JP JP2019149823A patent/JP7336135B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019120841A (ja) | 2018-01-09 | 2019-07-22 | 国立大学法人 奈良先端科学技術大学院大学 | スピーチチェイン装置、コンピュータプログラムおよびdnn音声認識・合成相互学習方法 |
JP2021511533A (ja) | 2018-01-11 | 2021-05-06 | ネオサピエンス株式会社Neosapience, Inc. | 機械学習を利用したテキスト音声合成方法、装置およびコンピュータ読み取り可能な記憶媒体 |
Non-Patent Citations (2)
Title |
---|
Xiaolian ZHU et al.,"Pre-Alignment Guided Attention for Improving Training Efficiency and Model Stability in End-to-End Speech Synthesis",IEEE Access,2019年04月,Vol. 7,p.65955-65964 |
岡本拓磨ほか,"基本周波波とメルケプストラムを用いたリアルタイムニューラルボコーダに関する検討",日本音響学会講演論文集,2019年03月,p.1057-1060 |
Also Published As
Publication number | Publication date |
---|---|
JP2021032937A (ja) | 2021-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6989951B2 (ja) | スピーチチェイン装置、コンピュータプログラムおよびdnn音声認識・合成相互学習方法 | |
Zen et al. | Statistical parametric speech synthesis using deep neural networks | |
JP7336135B2 (ja) | 音声合成装置 | |
Shechtman et al. | Sequence to sequence neural speech synthesis with prosody modification capabilities | |
Yin et al. | Modeling F0 trajectories in hierarchically structured deep neural networks | |
Yeh et al. | Rhythm-flexible voice conversion without parallel data using cycle-gan over phoneme posteriorgram sequences | |
Zhao et al. | Using phonetic posteriorgram based frame pairing for segmental accent conversion | |
EP4266306A1 (en) | A speech processing system and a method of processing a speech signal | |
Kameoka et al. | Fasts2s-vc: Streaming non-autoregressive sequence-to-sequence voice conversion | |
Shin et al. | Text-driven emotional style control and cross-speaker style transfer in neural tts | |
CN115410550A (zh) | 一种细粒度韵律可控的情感语音合成方法、系统及存储介质 | |
CN113539268A (zh) | 一种端到端语音转文本罕见词优化方法 | |
Fu et al. | Focusing on attention: prosody transfer and adaptative optimization strategy for multi-speaker end-to-end speech synthesis | |
Oh et al. | Diffprosody: Diffusion-based latent prosody generation for expressive speech synthesis with prosody conditional adversarial training | |
Ramos | Voice conversion with deep learning | |
Zhao et al. | Research on voice cloning with a few samples | |
JP6594251B2 (ja) | 音響モデル学習装置、音声合成装置、これらの方法及びプログラム | |
Bonada et al. | Semi-supervised learning for singing synthesis timbre | |
JP5574344B2 (ja) | 1モデル音声認識合成に基づく音声合成装置、音声合成方法および音声合成プログラム | |
Alvarez et al. | CAMNet: A controllable acoustic model for efficient, expressive, high-quality text-to-speech | |
CN117012177A (zh) | 语音合成方法、电子设备和存储介质 | |
Zhang et al. | Learning singing from speech | |
Paul et al. | A Universal Multi-Speaker Multi-Style Text-to-Speech via Disentangled Representation Learning Based on Rényi Divergence Minimization. | |
JP5268731B2 (ja) | 音声合成装置、方法およびプログラム | |
Ngoc et al. | Adapt-Tts: High-Quality Zero-Shot Multi-Speaker Text-to-Speech Adaptive-Based for Vietnamese |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220601 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230310 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230322 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230517 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230808 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230814 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7336135 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |