JP2001109500A - 音声合成装置および方法 - Google Patents

音声合成装置および方法

Info

Publication number
JP2001109500A
JP2001109500A JP28512599A JP28512599A JP2001109500A JP 2001109500 A JP2001109500 A JP 2001109500A JP 28512599 A JP28512599 A JP 28512599A JP 28512599 A JP28512599 A JP 28512599A JP 2001109500 A JP2001109500 A JP 2001109500A
Authority
JP
Japan
Prior art keywords
waveform
audio
pitch
voice
waveform data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP28512599A
Other languages
English (en)
Other versions
JP3450237B2 (ja
Inventor
Seiichi Amashiro
成一 天白
Toshio Hirai
俊男 平井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Arcadia Co Ltd
Original Assignee
Arcadia Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Arcadia Co Ltd filed Critical Arcadia Co Ltd
Priority to JP28512599A priority Critical patent/JP3450237B2/ja
Priority to US09/678,544 priority patent/US6975987B1/en
Publication of JP2001109500A publication Critical patent/JP2001109500A/ja
Application granted granted Critical
Publication of JP3450237B2 publication Critical patent/JP3450237B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/02Methods for producing synthetic speech; Speech synthesisers
    • G10L13/033Voice editing, e.g. manipulating the voice of the synthesiser

Landscapes

  • Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Electrophonic Musical Instruments (AREA)

Abstract

(57)【要約】 【課題】 音声の自然性を損なうことの少ないピッチ変
更処理技術を提供する。 【解決手段】音声波形の各ピッチにおける波形は、図1
に示すように、1)声帯の閉鎖に伴うマイナスピークが出
現する時点α、2)マイナスピークを起点とした声道の形
状に基づく波形が現れる区間β、3)声道形状に基づく音
声波形が減衰しながら次のマイナスピークに向かって収
束する区間γに分けられる。発明者らは、上記の音声波
形の特性に基づいて、声帯の閉鎖に伴うマイナスピーク
による影響が小さい部分(つまり次のマイナスピークの
直前である区間γ)において、ピッチ変更のための波形
加工を行うことを着想した。これによれば、ピーク付近
での波形形状を完全に維持しつつ、かつ、ピッチ変更の
影響を最小限に抑えつつ、加工を行うことができる。

Description

【発明の詳細な説明】
【0001】
【発明の技術分野】この発明は音声合成等の音声処理に
関するものであり、特にピッチ変更処理に関するもので
ある。
【0002】
【従来の技術および発明が解決しようとする課題】音声
合成方式の一つとして、「波形接続型」と呼ばれるもの
がある。これは、予め用意した波形を接続して、目的と
する音声を合成するものである。しかし、波形を接続す
るだけでは、音声のイントネーションが制御できず、自
然な合成音声が得られないという問題があった。
【0003】これを解決する方法として、音声のピッチ
2つ分をハニング窓などで切り出し、それを少しずらせ
て重ね合わせ、ピッチ長の異なった音声を得るPSOLA(P
itchSynchoronous OverLap Add)法が提案されている
(E. Moulines et. al, "Pitch-Synchronous waveform
processing techniques for text-to-speech synthesis
using diphones" Speech Communication, 1990.9)。
【0004】図22、図23を用いて、PSOLA法を説明
する。図22は、音声波形の一部を示したものである。
図に示すように、ほぼ周期的な波形が繰り返されてい
る。この繰り返し部分をピッチといい、ピッチの長さに
より、音声の高さが変わる。
【0005】PSOLA法は、図23に示すように、まず、
ピーク位置Mを中心として、ハニング窓で切り出しを行
う。次に、切り出したそれぞれの波形を目的のピッチ長
となるように重ね合わせる。なお、切り出しに用いるハ
ニング窓の幅は、重ね合わせの際に、1/2オーバラッ
プする幅とする。このようにすれば、余分な周波数成分
をもたらすことを抑えつつ、ピッチの変更を行うことが
できる。上記のようにPSOLA法によって、ピッチを加工
(つまり基本周波数を加工)すれば、イントネーション
を制御することができる。
【0006】しかしながら、このようなPSOLA法には、
次のような問題があった。
【0007】第一に、図24〜図27に示すように、ハ
ニング窓での重ね合わせ部分において、不自然な振幅の
低減がもたらされてしまうおそれがある。図24は原波
形(理解を容易にするため、減衰正弦波にて示した)、
図25はハニング窓の左側成分によって切り出された波
形、図26はハニング窓の右側成分によって切り出され
た波形、図27は合成された波形である。図27に示す
ように、中央部分において、不自然な振幅の低減がもた
らされている。これにより、ホルマントで表現される音
声波形の微細構造が破壊されてしまう。
【0008】第二に、図28に示すように、隣接するピ
ッチのピークによって、エコーが生じてしまうという問
題である。これは、河井恒他「波形素片接続型音声合成
システムの検討」(電子情報通信学会、音声研究会(技
術資料)、1993年5月)において、指摘されてい
る。同文献では、これを解決するため、窓の裾を短かく
した台形型の窓を用いることが提案されている。しかし
ながら、かかる台形型の窓では、重ね合わせにより、余
分な周波数成分がもたらされ、合成音が不自然になるお
それがある。
【0009】この発明では、上記のような問題点を解決
して、音声の自然性を損なうことの少ないピッチ変更処
理技術を提供することを目的とする。
【0010】
【課題を解決するための手段】音声波形の各ピッチにお
ける波形は、図1に示すように、1)声帯の閉鎖に伴うマ
イナスピークが出現する時点α、2)マイナスピークを起
点とした声道の形状に基づく波形が現れる区間β、3)声
道形状に基づく音声波形が減衰しながら次のマイナスピ
ークに向かって収束する区間γに分けられる。上記のPS
OLA法では、ピークM付近の波形形状を維持することに
着目して、ピークM付近にハニング窓の中心を持ってき
ている。しかし、ピーク付近での波形形状の維持に着目
するあまり、上記のような問題点が生じている。
【0011】これに対し、発明者らは、上記の音声波形
の特性に基づいて、声帯の閉鎖に伴うマイナスピークに
よる影響が小さい部分(つまり次のマイナスピークの直
前である区間γ)において、ピッチ変更のための波形加
工を行うことを着想した。これによれば、ピーク付近で
の波形形状を完全に維持しつつ、かつ、ピッチ変更の影
響を最小限に抑えつつ、加工を行うことができる。
【0012】また、発明者らは、音声波形のピッチにつ
いて、どの部分が共通しているのか、あるいはどの部分
が異なっているのかを、採取した音声に基づいて検討し
た。図2に、いくつかの「あ」の波形の1ピッチ分を示
す。この図から明らかなように、2.5msまではほぼ似て
いて、それ以降ほぼゼロ値が続き、ある時点からは単調
減少してマイナスのピーク値に向かっている。つまり、
実際の発話においてピッチのことなる波形は、ゼロ値部
分の長さの違い(単調減少区間の位置の違い)として特
徴付けられることが分かった。したがって、図1の区間
γのうち、特に、ゼロ値の部分を加工することにより、
適切なピッチ加工を行い得ることを見いだした。
【0013】請求項1、3の音声合成装置は、音声波形
データの周期的単位区間について、マイナスピークに向
かって変化する区間の波形を加工することにより、ピッ
チを変更するピッチ変更手段を備えている。
【0014】したがって、声帯の閉鎖に伴うマイナスピ
ークによる影響が小さい部分において波形を加工するこ
とができ、自然性を保持したピッチ変更を行うことがで
きる。
【0015】請求項6の音声合成装置は、マイナスピー
クに向かって変化する区間のうち、ゼロクロス近傍にお
ける加工値を最大にし、ゼロクロスより離れるほど加工
値を小さくするようにしたことを特徴としている。
【0016】したがって、ゼロ値部分の長さが異なると
いう実際の音声の傾向に沿った波形加工を行ってピッチ
を調整することができ、自然性を損なわないピッチ変更
を行うことができる。
【0017】請求項7の音声合成装置は、前記マイナス
ピークに向かって変化する区間において、波形を時間的
に圧縮または伸長するよう加工することにより、ピッチ
を短くまたは長くすることを特徴としている。
【0018】したがって、声帯の閉鎖に伴うマイナスピ
ークによる影響が小さい部分において波形を時間的に加
工することができ、自然性を保持したピッチ変更を行う
ことができる。
【0019】請求項8の音声合成装置は、マイナスピー
クに向かって変化する区間のうち、ゼロクロス近傍にお
いて加工を行うことを特徴としている。したがって、振
幅が小さく、より影響の少ない部分において、加工を行
うことができる。
【0020】請求項9の音声合成装置は、ゼロクロス近
傍において、実質的なゼロ値を挿入することにより、ピ
ッチを長くする処理、または実質的なゼロ値部分を削除
することにより、ピッチを短くする処理の、少なくとも
一方の処理を行うことを特徴としている。
【0021】したがって、スペクトルに与える影響を最
小限に抑えつつ、ピッチ変更を行うことができる。ま
た、ゼロ値の挿入、ゼロ値の削除という極めて簡易な処
理であるため、処理が迅速である。
【0022】請求項11の音声波形に対するピッチ変更
方法は、音声波形の周期的単位区間について、マイナス
ピークに向かって変化する区間の波形を加工することに
よりピッチ変更を施すことを特徴としている。
【0023】したがって、声帯の閉鎖に伴うマイナスピ
ークによる影響が小さい部分において波形を加工するこ
とができ、自然性を保持したピッチ変更を行うことがで
きる。
【0024】請求項12の音声処理装置は、上方向矢
印、下方向矢印、右方向矢印、左方向矢印を示すアイコ
ンまたはスイッチに対応付けて、少なくとも、音声の強
度、ピッチ周波数または発話時間長のいずれか一つを変
更する処理を行うことを特徴としている。
【0025】したがって、音声の強度、ピッチ周波数ま
たは発話時間長の変更を簡単な操作で行うことができ
る。
【0026】請求項14の音声処理装置は、上方向矢印
に対応づけて、少なくともピッチ周波数を高くする処理
を行い、下方向矢印に対応づけて、少なくともピッチ周
波数を低くする処理を行うことを特徴としている。
【0027】したがって、ピッチ変更処理について、直
感的に処理内容を理解しやすい操作インターフェイスを
提供することができる。
【0028】この発明において、「音声単位」とは、音
声合成または解析の際に音声波形をひとかたまりとして
扱う単位をいう。
【0029】「音声データベース」とは、少なくとも音
声波形とこれに対応する音韻情報を記録したデータベー
スをいう。
【0030】「音声波形合成手段」とは、規則もしくは
サンプル波形に基づいて、与えられた音韻情報に対応す
る音声波形を生成する手段をいう。実施形態において
は、たとえば、図5、図6のステップS4〜S12がこ
れに対応する。
【0031】「周期的単位区間」とは、音声波形におい
て周期的に繰り返される1つの区間をいう。実施形態に
おいては、ピッチがこれに該当する。
【0032】「矢印」とは、方向性を明示もしくは示唆
する記号をいうものであり、三角形によって方向を示し
たもの等も含む概念である。
【0033】「プログラム(データ)を記録した記録媒
体」とは、プログラム(データ)を記録したROM、R
AM、フレキシブルディスク、CD−ROM、メモリカ
ード、ハードディスク等の記録媒体をいう。また、電話
回線、搬送路等の通信媒体も含む概念である。CPUに
接続されて、記録されたプログラムが直接実行されるハ
ードディスクのような記録媒体だけでなく、一旦ハード
ディスク等にインストールした後に実行されるプログラ
ムを記録したCD−ROM等の記録媒体を含む概念であ
る。さらに、ここでいうプログラム(データ)には、直
接実行可能なプログラムだけでなく、ソース形式のプロ
グラム、圧縮処理がされたプログラム(データ)、暗号
化されたプログラム(データ)等を含む。
【0034】
【発明の実施の形態】1.第1の実施形態 (1)全体構成 図3に、この発明の一実施形態による音声合成装置の全
体構成を示す。この実施形態では、音声波形合成手段1
6は、文字列解析手段2、音声単位取得手段4、波形変
更手段12、波形結合手段22を備えている。また、波
形変更手段12は、継続長変更手段6、強度変更手段
8、ピッチ変更手段10を備えている。
【0035】入力された文字列は、解析用辞書20を参
照して、文字列解析手段2によって形態素解析がなさ
れ、音声単位に分離される。さらに、解析用辞書20を
参照し、前後の音の環境等を考慮して、各音声単位ごと
に、無声音/有声音の区別、継続時間長、強度の時間的
変化、基本周波数の時間的変化を算出する。
【0036】音声単位取得手段4は、文字列解析手段2
の形態素解析の結果を受けて、音声データベース18か
ら、各音声単位のサンプル音声波形を取得する。継続長
変更手段6は、文字列解析手段2から与えられた継続時
間長に基づいて、取得したサンプル音声波形の継続時間
長を変更する。強度変更手段8は、文字列解析手段2か
ら与えられた強度の時間的変化に基づいて、取得したサ
ンプル音声波形の強度を変更する。ピッチ変更手段10
は、文字列解析手段2から与えられた基本周波数の時間
的変化に基づいて、取得したサンプル音声波形のピッチ
を変更する。上記のようにして所望の変更を受けた各音
声単位のサンプル音声波形は、波形結合手段22によっ
て接続され、音声波形データとして出力される。
【0037】アナログ変換手段14は、この音声波形デ
ータをアナログ変換して音声信号として出力する。
【0038】(2)ハードウエア構成 図4に、図3の音声合成装置をCPUを用いて実現した
場合のハードウエア構成例を示す。CPU30には、メ
モリ32、キーボード/マウス34、フロッピーディス
クドライブ(FDD)36、CD−ROMドライブ4
0、ハードディスク44、アナログ変換手段であるサウ
ンドカード54、ディスプレイ58が接続されている。
ハードディスク44には、オペレーシングシステム(O
S)52(たとえば、マイクロソフト社のWINDOWS98な
ど)、音声合成プログラム46が格納されている。ま
た、音声データベース48、解析用辞書50も格納され
ている。これらプログラムは、CD−ROMドライブ4
0を介して、CD−ROM42からインストールされた
ものである。
【0039】この実施形態では、音声合成プログラム4
6は、OS52と共同してその各機能を実現している。
しかし、その一部または全部を、音声合成プログラム4
6が単独で実現するようにしてもよい。
【0040】(3)音声合成処理 図5に、ハードディスク44に記録された音声合成プロ
グラムのフローチャートを示す。まず、操作者からキー
ボード34により、出力すべき音声に対応する文字列が
入力される(ステップS1)。なお、この文字列は、フ
ロッピーディスク38に記録されたものやネットワーク
を介して他のコンピュータから送られたものであっても
よい。
【0041】次に、CPU30は、この文字列につい
て、解析用辞書50の単語辞書を参照して、形態素解析
を行う(ステップS2)。この単語辞書の構成例を図8
に示す。CPU30は、この単語辞書を参照し、文字列
を単語に分解しつつ、その読みを得る。たとえば、「こ
んにちは」という文字列が入力された場合には、「koNn
ichiwa」という読みを得る。
【0042】さらに、各単語について、単語を構成する
音節のアクセント値を取得する(ステップS3)。した
がって、「ko」「N」「ni」「chi」「wa」という音節が
得られ、それぞれの音節について、図8に示すアクセン
ト値が得られる。アクセント値は、前後の音の環境によ
って変化するものである。よって、CPU30は、この
アクセント値を、前後の音素や前後の音節との関係に基
づくルール等によって修正する。
【0043】ハードディスク44の解析用辞書50中の
音節の継続時間長の辞書には、図9に示すように、全て
の音節とその継続時間長との関係が記述されている。C
PU30は、この継続時間長の辞書を参照して、各音節
の継続時間を取得する。さらに、この継続時間を、前後
の音素や前後の音節との関係に基づくルール等によって
修正する(ステップS4)。以上に基づいて、図10に
示すような、音節ごとのテーブルを生成する。
【0044】解析辞書50中の子音/母音の有声/無声
辞書には、図12に示すように、全ての音素とその有声
/無声の区別が記録されている。なお、図において、音
素に付されたインデックスは、「V」が母音(有声
音)、「CU」が子音の無声音、「CV」が子音の有声
音を示している。CPU30は、この辞書を参照して、
各音素「k」「o」「N」「n」「i」「c」「h」「i」
「w」「a」のそれぞれについて、有声無声の区別を行
う。さらに、有声音が無声化するルールに基づいて、無
声化する部分を決定する。このようにして、各音素につ
き、有声無声の判断を行う(ステップS5)。
【0045】次に、CPU30は、図10のテーブル
(特にアクセント値)に基づいて、図11に示すよう
な、基本周波数F0の時間的変化を生成する(ステップS
6)。なお、基本周波数が示されていない部分は、無声
音の部分である。
【0046】このようにして、基本周波数F0の時間的変
化を決定すると、次に、有声音源強度Av、無声音源強度
Afの時間的変化を決定する(ステップS7)。解析辞書
50の音源強度辞書には、図13に示すように、全ての
音節に対応づけて音源強度の時間的変化が記録されてい
る。CPU30は、これを参照して「ko」「N」「ni」
「chi」「wa」の各音節について、有声音源強度Av、無
声音源強度Afを得る。さらに、アクセント値や前後の音
の環境等に基づいて、取得した音源強度を修正する。ま
た、ステップS4で決定した継続時間長に合致するよう
に、音源強度の時間的変化を修正する。
【0047】CPU30は、各音節について、音声デー
タベース48から、サンプル音声波形を取得する。音声
データベース48には、図14に示すように、実際に発
話されたサンプル音声波形が、音節ごとに区切られて音
韻情報が付与されて記録されている。また、それぞれの
音節について、音源強度の時間的変化、基本周波数の時
間的変化、継続時間長、ピッチマーク、ゼロクロスマー
クが、併せて記録されている。ここで、ピッチマークと
は、各ピッチにおけるピーク値(図1のM参照)の位置
に付されたマークである。また、ゼロクロスマークと
は、各ピッチのマイナスピーク(図1のα参照)の直前
のゼロクロス点に付されたマークである。この実施形態
では、ピッチマーク、ゼロクロスマークを時刻によって
示している。
【0048】なお、多くのサンプル波形が記録されてい
るので、同じ音節「ko」に対しても、複数のサンプル波
形が存在することとなる。CPU30は、前後のつなが
り等から、各音節に対してもっとも好ましいサンプル波
形を取得する(ステップS8)。
【0049】次に、CPU30は、各音節のそれぞれに
ついて、音声データベース48から取得したサンプル音
声波形の継続時間長が、ステップS4において決定した
継続時間長に等しくなるように、サンプル音声波形を修
正する(ステップS9)。これは、数ピッチの波形を重
複させたり(同じ波形を挿入したり)、削除したりする
ことによって行う。
【0050】つづいて、CPU30は、各音節のそれぞ
れについて、音声データベース48から取得したサンプ
ル音声波形の音源強度の時間的変化が、ステップS7に
おいて決定した強度の時間的変化に等しくなるように、
サンプル音声波形を修正する(ステップS10)。
【0051】さらに、CPU30は、各音節のそれぞれ
について、音声データベース48から取得したサンプル
音声波形の基本周波数F0の時間的変化が、ステップS6
において決定した基本周波数F0の時間的変化に等しくな
るように、サンプル音声波形を修正する(ステップS1
1)。
【0052】図7に、ピッチ変更処理プログラムのフロ
ーチャートを示す。なお、ピッチ変更処理は、有声音の
波形についてのみ行う。無声音の波形には、規則的な繰
り返し波形がないためである。
【0053】まず、CPU30は、サンプル音声波形に
おける(対象とする音節の)最初のピッチの基本周波数
を、音声データベース48の基本周波数の変化のデータ
から取得する。次に、ステップS6において決定した基
本周波数の変化に基づいて、対応する部分の基本周波数
を取得する。CPU30は、両者が合致しているか否か
を判断する(ステップS22)。合致していれば、当該
ピッチについてピッチ変更をおこなう必要がないので、
ステップS26に進む。
【0054】合致していなければ、サンプル音声波形の
ピッチを長くすべきか(基本周波数を下げるべきか)、
短くすべきか(基本周波数を上げるべきか)を判断する
(ステップS23)。その判断結果に基づいて、ピッチ
を長くするか(ステップS25)、または短くするか
(ステップS24)の処理を行う。
【0055】CPU30は、対象となっているピッチに
おけるマイナスピーク直前のゼロクロスを見いだす。ゼ
ロクロス点は、図14に示すように音声データベースに
記録されているので、容易に得ることができる。
【0056】ピッチを長くする場合には、図15に示す
ように、このゼロクロス点にゼロ値を挿入する。
【0057】また、ピッチを短くする場合には、ゼロク
ロスの前後にほぼゼロ値に近い値の部分があれば、当該
部分を必要なだけ削除する。ゼロクロスの前後にほぼゼ
ロ値に近い値の部分がなければ、図16に示すような操
作を行って、ピッチを短くする。まず、マイナスピーク
の前、2N-1〜Nのフレームに、2N-1前で窓値1、N前で窓
値0となるハニング窓をかける。同様に、マイナスピー
クの前N-1〜マイナスピークのフレームに、マイナスピ
ークで窓値1、マイナスピークの前N-1で窓値0となる
ハニング窓をかける。これら2つの窓処理後の成分を加
算したものを、修正後の波形として用いる。これによ
り、2NフレームをNフレームに短くすることができ
る。
【0058】なお、上記窓処理において、ゼロクロス近
傍に窓値0の部分がくるようにし、ゼロクロスより離れ
るほど窓値が1に近づくようにしてもよい。これによ
り、ゼロクロスより離れた地点では、窓値を「1」、つ
まり波形をそのまま保存するようにし、ゼロクロスで
は、窓値を「0」、つまり実質的に波形を削除するよう
にすることができる。つまり、影響の少ないと思われる
ゼロクロス付近での加工値を大きくし、自然性を保持す
ることができる。
【0059】上記のようにしてピッチ変更処理を行う
と、CPU30は、全てのピッチについて以上の処理を
行ったかどうかを判断する(ステップS26)。当該音
節について未処理のピッチがあれば、次のピッチを対象
として(ステップS27)、ステップS22以下の処理
を繰り返す。全てのピッチについて処理が終了すれば、
当該音節についての処理を終了する。なお、ピッチ変更
によって継続時間長に微調整が必要となれば、これも行
う。また、ピッチ変更処理は、サンプル波形として選択
された全ての音節に対して行われる。
【0060】上記のようにしてピッチ変更処理が終了す
ると、図6のステップS12を実行する。ステップS1
2においては、音節ごとにサンプル波形を修正して得ら
れた波形を接続し、合成音声波形を得る。最後に、CP
U30は、この音声合成波形を、サウンドカード54に
出力する。サウンドカード54は、これをアナログ信号
に変換し、スピーカ56から音声として出力する。
【0061】(4)音声データベースに関する他の実施形
態 上記実施形態においては、多くのサンプル波形を音節を
音声単位として記録した音声データベース(音声コーパ
ス)を用いている。しかしながら、音素を音生単位とし
て記録したものを用いてもよい。また、音節に加えて、
複数の音節が明瞭な区分に乏しく連続している場合には
これら音節を1かたまりとしてあつかうようにしてもよ
い(拡張音節)。その定義表を図17に示す。軽音節よ
りも重音節が優先して切り出され、重音節よりも超重音
節が優先して切り出される。つまり、超重音節に該当す
る場合には、その一部が重音節として切り離されること
はない。同様に、重音節に該当する場合には、その一部
が音節として切り離されることはない。このように、
「複数の音節が明瞭な区分に乏しく連続している場合に
はこれら音節を1かたまりとしてあつかう」ことによ
り、接続による不自然さを排除することができる。な
お、少なくとも、軽音節と重音節を用いることが好まし
い。
【0062】また、上記実施形態では、音声コーパスを
用いているが、各音節(または音素、拡張音節)につき
1つの音声波形データを記録した音声データベースを用
いてもよい。さらには、各音節(または音素、拡張音
節)ごとに、1つのピッチだけの音声波形データを記録
した音声データベースを用いてもよい。
【0063】また、上記実施形態では、音声データベー
スにゼロクロスマークを記録している。しかしながら、
ゼロクロスマークを記録せず、ピッチマーク等に基づい
て、処理の都度、探し出すようにしてもよい。
【0064】(5)ピッチ変更処理に関する他の実施形態 上記実施形態では、ゼロクロスにおいて、実質的なゼロ
値を挿入、削除することにより、ピッチ変更を行ってい
る。しかしながら、マイナスピークに向かう減少部分
(図1のγ参照)において、時間的圧縮、時間的伸長を
行って、ピッチ変更をしてもよい。一般的には、時間的
圧縮や、時間的伸長により、ピッチ変更に関係しない余
分な周波数成分がもたらされる可能性がある。しかし、
このマイナスピークに向かう減少部分は、単調減少であ
り、多くの周波数成分を含んでいないので、加工による
音声品質への影響が少ないと考えられる。
【0065】なお、上記において、マイナスピークに向
かう減少部分において、全体的に一様に時間的圧縮、時
間的伸長を行うのではなく、ゼロクロス付近において集
中的に時間的圧縮、時間的伸長を行い、ゼロクロスから
離れるにしたがって、その程度を小さくするようにして
もよい。
【0066】2.第2の実施形態 図18に、この発明の第2の実施形態による音声合成装
置の全体構成を示す。この実施形態では、音声波形合成
手段16は、文字列解析手段2、音声単位波形生成手段
90、波形結合手段22を備えている。音声データベー
ス18には、音声単位(たとえば音節)を生成するため
の1ピッチ分の音声波形が、ピッチを少しずつ変えて記
録されている。たとえば、「あ」という音節を生成する
ために必要な1ピッチ分の波形が、1ms程度、ピッチ長
を順次違えて多数記録されている。他の全ての音節(有
声音)についても同様に記録されている。なお、無声音
のためには、雑音波形が記録されている。
【0067】入力された文字列は、解析用辞書20を参
照して、文字列解析手段2によって形態素解析がなさ
れ、音声単位に分離される。さらに、解析用辞書20を
参照し、前後の音の環境等を考慮して、各音声単位ごと
に、無声音/有声音の区別、継続時間長、強度の時間的
変化、基本周波数の時間的変化を算出する。
【0068】音声単位波形生成手段90は、各音声単位
を生成するために必要な1ピッチ分の波形を音声データ
ベースから取得する。この際、文字列解析手段2からの
基本周波数の時間的変化に基づいて、各時間ごとに適切
なピッチ長を持つ波形を選択して取得する。さらに、音
声単位波形生成手段90は、これら複数個のピッチの波
形を、継続時間長、強度の時間的変化を参照して、変形
して接続し、音声単位の波形を生成する。なお、無声音
については、雑音波形に基づいて、波形を生成する。
【0069】上記のようにして生成された各音声単位の
音声波形は、波形結合手段22によって接続され、音声
波形データとして出力される。
【0070】アナログ変換手段14は、この音声波形デ
ータをアナログ変換して音声信号として出力する。
【0071】図18の音声合成装置を、CPUを用いて
実現した場合のハードウエア構成例は、図4と同様であ
る。この実施形態では、音声単位(音節など)の波形
を、1ピッチ分の波形を接続して合成するようにしてい
る。また、そのため、音声データベース18には、図1
9に示すように、各音声単位について、当該音声単位を
生成するために必要な1ピッチ分の音声波形データを、
種々のピッチで用意している。また、ピッチ長を異なら
せるために、マイナスピーク直前のゼロクロス点におい
て、ゼロ値が挿入されたものとなっている。
【0072】なお、この実施形態においても、第1の実
施形態のようにして、処理の都度、ピッチを変更する処
理を行うようにしてもよい。このようにすれば、音声デ
ータベースには、1種類のピッチ長のデータを記録して
おくだけでよい。
【0073】また、第1の実施形態において述べた他の
形態は、この第2の実施形態においても適用することが
できる。
【0074】3.その他の実施形態 上記実施形態では、文字列解析手段2の解析結果に従っ
て、ピッチの変更を行うようにしている。しかしなが
ら、操作者の入力した指令にしたがってピッチ変更を行
うようにしてもよい。
【0075】図20に、このような指令を入力するため
の画面表示例を示す。図21に、ハードディスク44に
記録された指令入力判断のためのプログラムをフローチ
ャートにて示す。
【0076】操作アイコン200(上向きの矢印)を、
マウス34によってクリックすると、音声の強度および
ピッチ周波数が全体的に上がるように修正が行われる
(ステップS50、S53)。同様に、操作アイコン2
04(下向きの矢印)をクリックすると、音声の強度お
よびピッチ周波数が全体的に下がるように修正が行われ
る(ステップS50、S52)。また、操作アイコン2
06(左向きの矢印)をクリックすると、例えば、数個
のピッチを削除するなどして発話音声長が短くなるよう
に修正が行われ(ステップS50、S51)、操作アイ
コン202(右向きの矢印)をクリックすると、例え
ば、数個のピッチを重複させるなどして発話音声長が長
くなるように修正が行われる(ステップS50、S5
4)。
【0077】なお、ピッチの修正は、上記の実施形態に
示した方法によって行うことが好ましいが、他の方法で
あってもよい。
【0078】このように、一対の矢印(上方向と下方向
または左方向と右方向)に、それぞれ、変更方向が逆の
処理を対応づけるようにしている。したがって、処理内
容が、直感的に理解しやすく、音声に対する処理指令の
入力が容易となる。
【0079】なお、上記実施形態では、画面上のアイコ
ンを用いているが、これに代えて、矢印形状を表した
(外形が矢印形状または矢印形状が表示された)入力ス
イッチ等を用いてもよい。
【0080】また、上記実施形態では、上向きの矢印、
下向きの矢印のそれぞれに、音声強度、ピッチ周波数の
2つの処理を対応づけているが、音声強度、ピッチ周波
数、発話継続時間のいずれか1つ、または、いずれか2
つ、さらには、3つを対応づけるようにしてもよい。左
向き矢印、右向き矢印についても同様である。加えて、
斜め向きの矢印を設け、これをクリックすることによ
り、縦方向の矢印と横方向に矢印に対応づけられた処理
の双方を実行するようにしてもよい。
【0081】4.その他 上記実施形態では、図3、図18の各機能をCPUを用
いて実現した場合について説明したが、その一部又は全
部をハードウエアロジックによって構成してもよい。
【図面の簡単な説明】
【図1】「あ」の音声波形の一部を示す図である。
【図2】多数の「あ」の音声波形を重ねて示す図であ
る。
【図3】本発明の一実施形態による音声合成装置の全体
構成を示す図である。
【図4】図3の装置のハードウエア構成を示す図であ
る。
【図5】音声合成処理プログラムのフローチャートであ
る。
【図6】音声合成処理プログラムのフローチャートであ
る。
【図7】ピッチ変更処理プログラムのフローチャートで
ある。
【図8】単語辞書を示す図である。
【図9】音節の継続時間長の辞書を示す図である。
【図10】解析テーブルを示す図である。
【図11】決定した基本周波数の時間的変化を示す図で
ある。
【図12】子音/母音の有声/無声辞書を示す図であ
る。
【図13】音源強度辞書を示す図である。
【図14】音声データベースを示す図である。
【図15】ゼロ値の挿入によるピッチ変更を示す図であ
る。
【図16】ゼロ値の削除によらないピッチ短縮を示す図
である。
【図17】拡張音節の定義を示す図である。
【図18】第2の実施形態の全体構成を示す図である。
【図19】音声データベースの内容を示す図である。
【図20】操作のためのアイコンを示す図である。
【図21】指令入力判断のためのプログラムのフローチ
ャートである。
【図22】音声のピッチを示す図である。
【図23】PSOLA法によるピッチ変更処理を説明するた
めの図である。
【図24】PSOLA法による処理の影響を示すための図で
ある(原波形)。
【図25】PSOLA法による処理の影響を示すための図で
ある(ハニング窓左側)。
【図26】PSOLA法による処理の影響を示すための図で
ある(ハニング窓右側)。
【図27】PSOLA法による処理の影響を示すための図で
ある(合成波形)。
【図28】PSOLA法によって生じるエコーを説明するた
めの図である。
【符号の説明】
14・・・アナログ変換手段 16・・・音声合成手段 18・・・音声データベース 20・・・解析用辞書

Claims (15)

    【特許請求の範囲】
  1. 【請求項1】音声単位のサンプル波形データと、これに
    音韻情報を関連づけて形成した音声データベースを記録
    した音声データベース記録手段と、 出力すべき音声の音韻情報を受けて、この音韻情報を音
    声単位に区分するとともに、前記音声データベースか
    ら、音声単位に区分したそれぞれの音韻情報について対
    応するサンプル音声波形データを取得し、取得した音声
    単位のサンプル音声波形データを結合して出力すべき音
    声波形データを得る音声波形合成手段と、 音声波形合成手段によって得られた音声波形データを受
    けて、アナログ音声信号に変換するアナログ変換手段
    と、 を備えた音声合成装置であって、 前記音声波形合成手段は、音声波形データの周期的単位
    区間について、マイナスピークに向かって変化する区間
    の波形を加工することにより、ピッチを変更するピッチ
    変更手段を備えている音声合成装置。
  2. 【請求項2】ピッチ変更処理をコンピュータに行わせる
    ためのプログラムを記録した記録媒体であって、 ピッチ変更すべき音声波形データを受け取り、当該音声
    波形データの周期的単位区間について、マイナスピーク
    に向かって変化する区間の波形を加工することにより、
    ピッチ変更を施す処理をコンピュータに行わせるための
    プログラムを記録した記録媒体。
  3. 【請求項3】各音声単位毎にピッチの異なるサンプル音
    声波形データを保持し、当該音声波形データに対応付け
    て音韻情報を保持した音声データベースを記録した音声
    データベース記録手段と、 出力すべき音声の音韻情報を受けて、この音韻情報を音
    声単位に区分するとともに、音韻情報に基づいて、前記
    音声データベースから、区分された音韻情報に対応する
    サンプル音声波形データのうち、好ましいピッチのサン
    プル音声波形データを取得し、取得した音声単位のサン
    プル音声波形データを結合して出力すべき音声波形デー
    タを得る音声波形合成手段と、 音声波形合成手段によって得られた音声波形データを受
    けて、アナログ音声信号に変換するアナログ変換手段
    と、 を備えた音声合成装置であって、 前記音声データベースは、各音声単位毎に、音声波形デ
    ータの周期的単位区間について、マイナスピークに向か
    って変化する区間の波形を異ならせるように加工してピ
    ッチを異ならせた複数のサンプル音声波形データを有す
    るよう構成された音声合成装置。
  4. 【請求項4】音声データベースを用いて音声波形合成処
    理をコンピュータに行わせるためのプログラムを記録し
    た記録媒体であって、 出力すべき音声の音韻情報を受けて、この音韻情報を音
    声単位に区分するとともに、音韻情報に基づいて、前記
    音声データベースから、区分された音韻情報に対応する
    サンプル音声波形データのうち、好ましいピッチのサン
    プル音声波形データを取得し、取得した音声単位のサン
    プル音声波形データを結合して出力すべき音声波形デー
    タを得る音声波形合成処理をコンピュータに行わせるた
    めのプログラムを記録した記録媒体。ここで、前記音声
    データベースは、各音声単位毎に、音声波形データの周
    期的単位区間について、マイナスピークに向かって変化
    する区間の波形を異ならせるように加工してピッチを異
    ならせた複数のサンプル音声波形データを有するよう構
    成されている。
  5. 【請求項5】各音声単位毎にピッチの異なる複数のサン
    プル音声波形データを記録した記録媒体であって、 前記複数のサンプル音声波形データは、音声波形データ
    の周期的単位区間について、マイナスピークに向かって
    変化する区間の波形を異ならせるように加工することに
    より、ピッチを異ならせていることを特徴とするもの。
  6. 【請求項6】請求項1〜5のいずれか音声合成装置また
    は記録媒体において、 前記マイナスピークに向かって変化する区間のうち、ゼ
    ロクロス近傍における加工値を最大にし、ゼロクロスよ
    り離れるほど加工値を小さくするようにしたことを特徴
    とするもの。
  7. 【請求項7】請求項1〜6のいずれかの音声合成装置ま
    たは記録媒体において、 前記マイナスピークに向かって変化する区間において、
    波形を時間的に圧縮または伸長するよう加工することに
    より、ピッチを短くまたは長くすることを特徴とするも
    の。
  8. 【請求項8】請求項1〜5のいずれか音声合成装置また
    は記録媒体において、 前記マイナスピークに向かって変化する区間のうち、ゼ
    ロクロス近傍において加工を行うことを特徴とするも
    の。
  9. 【請求項9】請求項8の音声合成装置または記録媒体に
    おいて、 前記ゼロクロス近傍において、実質的なゼロ値を挿入す
    ることにより、ピッチを長くする処理、または実質的な
    ゼロ値部分を削除することにより、ピッチを短くする処
    理の、少なくとも一方の処理を行うことを特徴とするも
    の。
  10. 【請求項10】人間の発話に基づく音声単位のサンプル
    波形データを記録するサンプル波形データ記録領域と、 各音声単位のサンプル波形データに対応付けて音韻情報
    を記録する音韻情報記録領域と、 サンプル波形データのマイナスピークの直前のゼロクロ
    スを示すゼロクロス指示情報を記録する指示情報記録領
    域と、 を備えた音声データベースを記録した記録媒体。
  11. 【請求項11】音声波形に対するピッチ変更方法であっ
    て、 音声波形の周期的単位区間について、マイナスピークに
    向かって変化する区間の波形を加工することによりピッ
    チ変更を施すこと、 を特徴とするピッチ変更方法。
  12. 【請求項12】入力された指令に応じて音声波形に対す
    る処理を行う音声処理装置であって、 上方向矢印、下方向矢印、右方向矢印、左方向矢印を示
    すアイコンまたはスイッチに対応付けて、少なくとも、
    音声の強度、ピッチ周波数または発話時間長のいずれか
    一つを変更する処理を行うことを特徴とする音声処理装
    置。
  13. 【請求項13】入力された指令に応じて音声波形に対す
    る処理を行う音声処理装置をコンピュータによって実現
    するためのプログラムを記録した記録媒体であって、 上方向矢印、下方向矢印、右方向矢印、左方向矢印を示
    すアイコンまたはスイッチに対応付けて、少なくとも、
    波形の強度、ピッチ周波数または発話時間長のいずれか
    一つを変更する処理を、コンピュータに行わせるための
    プログラムを記録した記録媒体。
  14. 【請求項14】入力された指令に応じて音声波形に対す
    る処理を行う音声処理装置であって、 上方向矢印に対応づけて、少なくともピッチ周波数を高
    くする処理を行い、下方向矢印に対応づけて、少なくと
    もピッチ周波数を低くする処理を行うことを特徴とする
    音声処理装置。
  15. 【請求項15】入力された指令に応じて音声波形に対す
    る処理を行う音声処理装置をコンピュータによって実現
    するためのプログラムを記録した記録媒体であって、 上方向矢印に対応づけて、少なくともピッチ周波数を高
    くする処理を行い、下方向矢印に対応づけて、少なくと
    もピッチ周波数を低くする処理を、コンピュータに行わ
    せるためのプログラムを記録した記録媒体。
JP28512599A 1999-10-06 1999-10-06 音声合成装置および方法 Expired - Fee Related JP3450237B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP28512599A JP3450237B2 (ja) 1999-10-06 1999-10-06 音声合成装置および方法
US09/678,544 US6975987B1 (en) 1999-10-06 2000-10-04 Device and method for synthesizing speech

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP28512599A JP3450237B2 (ja) 1999-10-06 1999-10-06 音声合成装置および方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2002335330A Division JP2003177773A (ja) 2002-11-19 2002-11-19 音声合成装置および方法

Publications (2)

Publication Number Publication Date
JP2001109500A true JP2001109500A (ja) 2001-04-20
JP3450237B2 JP3450237B2 (ja) 2003-09-22

Family

ID=17687448

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28512599A Expired - Fee Related JP3450237B2 (ja) 1999-10-06 1999-10-06 音声合成装置および方法

Country Status (2)

Country Link
US (1) US6975987B1 (ja)
JP (1) JP3450237B2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6804650B2 (en) * 2000-12-20 2004-10-12 Bellsouth Intellectual Property Corporation Apparatus and method for phonetically screening predetermined character strings
WO2003019528A1 (fr) * 2001-08-22 2003-03-06 International Business Machines Corporation Procede de production d'intonation, dispositif de synthese de signaux vocaux fonctionnant selon ledit procede et serveur vocal
US20030182106A1 (en) * 2002-03-13 2003-09-25 Spectral Design Method and device for changing the temporal length and/or the tone pitch of a discrete audio signal
US8145491B2 (en) * 2002-07-30 2012-03-27 Nuance Communications, Inc. Techniques for enhancing the performance of concatenative speech synthesis
US20070203703A1 (en) * 2004-03-29 2007-08-30 Ai, Inc. Speech Synthesizing Apparatus
US20070106513A1 (en) * 2005-11-10 2007-05-10 Boillot Marc A Method for facilitating text to speech synthesis using a differential vocoder
US8510113B1 (en) 2006-08-31 2013-08-13 At&T Intellectual Property Ii, L.P. Method and system for enhancing a speech database
JP4455633B2 (ja) * 2007-09-10 2010-04-21 株式会社東芝 基本周波数パターン生成装置、基本周波数パターン生成方法及びプログラム
US8321225B1 (en) 2008-11-14 2012-11-27 Google Inc. Generating prosodic contours for synthesized speech
KR20110028095A (ko) * 2009-09-11 2011-03-17 삼성전자주식회사 실시간 화자 적응을 통한 음성 인식 시스템 및 방법
US8401856B2 (en) 2010-05-17 2013-03-19 Avaya Inc. Automatic normalization of spoken syllable duration
JP2012194417A (ja) * 2011-03-17 2012-10-11 Sony Corp 音声処理装置および方法、並びにプログラム
US11227579B2 (en) * 2019-08-08 2022-01-18 International Business Machines Corporation Data augmentation by frame insertion for speech data

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4586191A (en) * 1981-08-19 1986-04-29 Sanyo Electric Co., Ltd. Sound signal processing apparatus
US4468804A (en) * 1982-02-26 1984-08-28 Signatron, Inc. Speech enhancement techniques
WO1985001377A1 (en) * 1983-09-09 1985-03-28 Sony Corporation Apparatus for reproducing audio signal
GB2230132B (en) * 1988-11-19 1993-06-23 Sony Corp Signal recording method
US5086475A (en) * 1988-11-19 1992-02-04 Sony Corporation Apparatus for generating, recording or reproducing sound source data
DE69228211T2 (de) * 1991-08-09 1999-07-08 Koninkl Philips Electronics Nv Verfahren und Apparat zur Handhabung von Höhe und Dauer eines physikalischen Audiosignals
US5884253A (en) * 1992-04-09 1999-03-16 Lucent Technologies, Inc. Prototype waveform speech coding with interpolation of pitch, pitch-period waveforms, and synthesis filter
US5384893A (en) * 1992-09-23 1995-01-24 Emerson & Stern Associates, Inc. Method and apparatus for speech synthesis based on prosodic analysis
US5787398A (en) * 1994-03-18 1998-07-28 British Telecommunications Plc Apparatus for synthesizing speech by varying pitch
JPH086591A (ja) * 1994-06-15 1996-01-12 Sony Corp 音声出力装置
JP3528258B2 (ja) * 1994-08-23 2004-05-17 ソニー株式会社 符号化音声信号の復号化方法及び装置
JP3093113B2 (ja) * 1994-09-21 2000-10-03 日本アイ・ビー・エム株式会社 音声合成方法及びシステム
US5920842A (en) * 1994-10-12 1999-07-06 Pixel Instruments Signal synchronization
US5864812A (en) * 1994-12-06 1999-01-26 Matsushita Electric Industrial Co., Ltd. Speech synthesizing method and apparatus for combining natural speech segments and synthesized speech segments
JP4132109B2 (ja) * 1995-10-26 2008-08-13 ソニー株式会社 音声信号の再生方法及び装置、並びに音声復号化方法及び装置、並びに音声合成方法及び装置
JP3674808B2 (ja) 1996-07-12 2005-07-27 コナミ株式会社 音声加工方法、ゲームシステム及び記録媒体
US5905972A (en) * 1996-09-30 1999-05-18 Microsoft Corporation Prosodic databases holding fundamental frequency templates for use in speech synthesis
US6101470A (en) * 1998-05-26 2000-08-08 International Business Machines Corporation Methods for generating pitch and duration contours in a text to speech system
US6253182B1 (en) * 1998-11-24 2001-06-26 Microsoft Corporation Method and apparatus for speech synthesis with efficient spectral smoothing
JP3361066B2 (ja) * 1998-11-30 2003-01-07 松下電器産業株式会社 音声合成方法および装置

Also Published As

Publication number Publication date
US6975987B1 (en) 2005-12-13
JP3450237B2 (ja) 2003-09-22

Similar Documents

Publication Publication Date Title
US10347238B2 (en) Text-based insertion and replacement in audio narration
JP3408477B2 (ja) フィルタパラメータとソース領域において独立にクロスフェードを行う半音節結合型のフォルマントベースのスピーチシンセサイザ
US7953600B2 (en) System and method for hybrid speech synthesis
WO2004097792A1 (ja) 音声合成システム
JPWO2006134736A1 (ja) 音声合成装置、音声合成方法およびプログラム
JP3450237B2 (ja) 音声合成装置および方法
JP2002358090A (ja) 音声合成方法、音声合成装置及び記録媒体
JP3728173B2 (ja) 音声合成方法、装置および記憶媒体
US20020072909A1 (en) Method and apparatus for producing natural sounding pitch contours in a speech synthesizer
JP2005004104A (ja) 規則音声合成装置及び規則音声合成方法
JP5075865B2 (ja) 音声処理装置、方法、及びプログラム
JPH07140996A (ja) 音声規則合成装置
JP2013195928A (ja) 音声素片切出装置
JP3727885B2 (ja) 音声素片生成方法と装置及びプログラム、並びに音声合成方法と装置
JPH1195796A (ja) 音声合成方法
JP2008058379A (ja) 音声合成システム及びフィルタ装置
JPH0580791A (ja) 音声規則合成装置および方法
JP2001100776A (ja) 音声合成装置
JP4468506B2 (ja) 音声データ作成装置および声質変換方法
JPH11249676A (ja) 音声合成装置
JP2003177773A (ja) 音声合成装置および方法
JP6191094B2 (ja) 音声素片切出装置
JP2003330482A (ja) 基本周波数パターン生成方法、基本周波数パターン生成装置、音声合成方法、音声合成装置、基本周波数パターン生成プログラムおよび音声合成プログラム
WO2023182291A1 (ja) 音声合成装置、音声合成方法及びプログラム
JP2577372B2 (ja) 音声合成装置および方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
R150 Certificate of patent or registration of utility model

Ref document number: 3450237

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090711

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090711

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100711

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110711

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120711

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130711

Year of fee payment: 10

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees