JP3821131B2 - 音声合成装置および音声合成方法 - Google Patents

音声合成装置および音声合成方法 Download PDF

Info

Publication number
JP3821131B2
JP3821131B2 JP2004021403A JP2004021403A JP3821131B2 JP 3821131 B2 JP3821131 B2 JP 3821131B2 JP 2004021403 A JP2004021403 A JP 2004021403A JP 2004021403 A JP2004021403 A JP 2004021403A JP 3821131 B2 JP3821131 B2 JP 3821131B2
Authority
JP
Japan
Prior art keywords
accent
data
type
voice
voice data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004021403A
Other languages
English (en)
Other versions
JP2005215287A (ja
Inventor
洋一 野本
智氣 窪田
英明 森田
英文 岡部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Equos Research Co Ltd
Original Assignee
Equos Research Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Equos Research Co Ltd filed Critical Equos Research Co Ltd
Priority to JP2004021403A priority Critical patent/JP3821131B2/ja
Publication of JP2005215287A publication Critical patent/JP2005215287A/ja
Application granted granted Critical
Publication of JP3821131B2 publication Critical patent/JP3821131B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

本発明は、音声合成装置および音声合成方法に関するものである。
従来の音声合成装置として、例えば、下記、特許文献1に開示される「音声合成方法および装置」がある。この開示技術では、単語や文節や文を想起して単音節を連続的に発声した音声から韻律成分を抽出してテンプレートとして事前に格納しておき、合成しようとする音声中の単語とモーラ数およびアクセント型が同じテンプレートを選択し、このテンプレートのリズムパターン、ピッチ周波数パターン、パワーパターンに合わせて合成音声を作成するように構成している。これによりテンプレートの韻律に合うように音声素片を修正し接続して音声合成をするので、より自然な韻律の音声を合成できるとしている。
このように従来の音声合成装置では、入力テキストに対してテキスト解析およびアクセント解析を行ったうえで、音声素片(以下「音素」という。)単位で音声データを割り当てたり、音声波形単位で音声波形データを割り当てて音声合成を行っている。
特開平11−85192号公報(第2頁〜第7頁、図1〜5)
しかしながら、上述したような従来の音声合成装置によると、音声合成を行う単位を音素単位や音声波形単位としている。そのため、人の発話音声と比較すると、出力された合成音声には不自然さが残ってしまうことから、これにより作成させた台詞(例えば、ナビゲーション装置の音声ガイダンス)の聴き心地も悪化するという技術的な課題がある。
このような課題は、多様化したあらゆる台詞のバリエーションに対して、その全ての単語を録音し音声データとして蓄えたデータベースを用意すれば、解決することも可能となるようにも考えられる。ところが、このような膨大な音声データを蓄積するためには、大容量のデータベースが必要となることから、装置やシステムのコストおよび規模を考慮すると、一般的には実現することが困難となる。
本発明は、上述した課題を解決するためになされたものであり、その目的とするところは、膨大な音声データを要することなく、聴き心地の良好な音声を合成し得る音声合成装置および音声合成方法を提供することにある。
上記目的を達成するため、特許請求の範囲に記載された請求項1の音声合成装置では、人が発声した単語の音声データを記憶する音声データ記憶手段と、入力されたテキストデータを1以上の単語で構成される所定の文節に分割するテキストデータ分割手段と、前記所定の文節のアクセント型を解析するアクセント解析手段と、前記所定の文節中の単語に対応する前記音声データのアクセント型と前記所定の文節のアクセント型を構成する当該単語部分のアクセント型とが一致するか否かを比較するアクセント型比較手段と、前記比較により両者のアクセント型が一致しない場合、前記解析したアクセント型と同一のアクセント型をもつ変換用の音声データを前記音声データ記憶手段から検索する変換用音声データ検索手段と、前記検索された変換用の音声データから、前記解析したアクセント型を構成する音素と同一の音素部分に相当する音素データを抽出する音素データ抽出手段と、前記アクセント型が一致しない単語を、前記抽出された音素データに基づいて、前記解析したアクセント型に一致するようにアクセント変換を行うアクセント変換手段と、前記アクセント変換された音声データを含む前記テキストデータに対応する音声データを構成し出力する音声データ出力手段と、を備えることを技術的特徴とする。
さらに、特許請求の範囲に記載された請求項の音声合成装置では、請求項において、前記アクセント変換手段により変換する前記音素データは、母音データであることを技術的特徴とする。
上記目的を達成するため、特許請求の範囲に記載された請求項の音声合成方法では、入力されたテキストデータを1以上の単語で構成される所定の文節に分割するテキストデータ分割ステップと、前記所定の文節のアクセント型を解析するアクセント解析ステップと、前記所定の文節中の単語に対応する自然発声の音声データのアクセント型と前記所定の文節のアクセント型を構成する当該単語部分のアクセント型とが一致するか否かを比較するアクセント型比較ステップと、前記比較により両者のアクセント型が一致しない場合、前記解析したアクセント型と同一のアクセント型をもつ変換用の音声データを、人が発声した単語の音声データを記憶する音声データ記憶手段から検索する変換用音声データ検索ステップと、前記検索された変換用の音声データから、前記解析したアクセント型を構成する音素と同一の音素部分に相当する音素データを抽出する音素データ抽出ステップと、前記アクセント型が一致しない単語を、前記抽出された音素データに基づいて、前記解析したアクセント型に一致するようにアクセント変換を行うアクセント変換ステップと、前記アクセント変換された音声データを含んで前記テキストデータに対応する音声データを構成し出力する音声データ出力ステップと、を含むことを技術的特徴とする。
請求項1の発明では、人が発声した単語の音声データを音声データ記憶手段により記憶しておく。そして、入力されたテキストデータをテキストデータ分割手段により1以上の単語で構成される所定の文節に分割し、この所定の文節のアクセント型をアクセント解析手段により解析し、アクセント型比較手段により、所定の文節中の単語に対応する音声データのアクセント型と所定の文節のアクセント型を構成する当該単語部分のアクセント型とが一致するか否かを比較する。この比較により両者のアクセント型が一致しない場合、変換用音声データ検索手段により、解析したアクセント型と同一のアクセント型をもつ変換用の音声データを音声データ記憶手段から検索し、検索された変換用の音声データから、音素データ抽出手段により解析したアクセント型を構成する音素と同一の音素部分に相当する音素データを抽出する。そして、アクセント変換手段は、アクセント型が一致しない単語を、抽出された音素データに基づいて、解析したアクセント型に一致するようにアクセント変換を行い、音声データ出力手段により、このアクセント変換された音声データを含むテキストデータに対応する音声データを構成し出力する。
また、請求項の発明では、入力されたテキストデータをテキストデータ分割ステップにより1以上の単語で構成される所定の文節に分割し、この所定の文節のアクセント型をアクセント解析ステップにより解析し、アクセント型比較ステップにより、所定の文節中の単語に対応する自然発声の音声データのアクセント型と所定の文節のアクセント型を構成する当該単語部分のアクセント型とが一致するか否かを比較する。そして、この比較により両者のアクセント型が一致しない場合、変換用音声データ検索ステップにより、解析したアクセント型と同一のアクセント型をもつ変換用の音声データを音声データ記憶手段から検索し、検索された変換用の音声データから、音素データ抽出ステップにより解析したアクセント型を構成する音素と同一の音素部分に相当する音素データを抽出する。そして、アクセント変換ステップは、アクセント型が一致しない単語を、抽出された音素データに基づいて、解析したアクセント型に一致するようにアクセント変換を行い、音声データ出力ステップにより、アクセント変換された音声データを含んでテキストデータに対応する音声データを構成し出力する。
これにより、請求項1および請求項の発明では、「所定の文節中の単語に対応する音声データのアクセント型」と「所定の文節のアクセント型を構成する当該単語部分のアクセント型」とが一致しない場合には、解析したアクセント型に一致するように音声データに対してアクセント変換を行うので、このように変換された音声データを含むことで、聴き心地の良好な音声を合成することができる。また「所定の文節のアクセント型を構成する当該単語部分のアクセント型」の音声データを音声データ記憶手段に記憶する必要がないので、膨大な音声データを要しない。したがって、膨大な音声データを要することなく、聴き心地の良好な音声を合成することができる。また、音声データ記憶手段に記憶された単語の音声データを変換用の音声データとして検索してそれを変換に用いるので、変換用の音声データとして別途記憶手段等に記憶しておく必要がない。さらに、変換用の音声データからは、音素データを音素単位で抽出することもできるので、変換の自由度を高めることができる。さらにまた、1つの変換対象の単語に対して複数の変換用の音声データからそれぞれ異なった位置の音素データを抽出しそれらを変換に用いることもできる。したがって、音声データ記憶手段に記憶された単語の音声データを効率よく利用することができるので、殊更に膨大な音声データを要することなく、聴き心地の良好な音声を合成することができる。
なお、「所定の文節中の単語に対応する音声データのアクセント型」と「所定の文節のアクセント型を構成する当該単語部分のアクセント型」とが一致しない場合として、次のような例が挙げられる。例えば、入力されたテキストが『今日は、六ヶ月点検です』である場合において、所定の文節が、『六ヶ月』と『点検』との2つの単語により構成される複合語の『六ヶ月点検』であるとき、当該文節『六ヶ月点検』(ロ↑ッカゲツテ↓ンケン)のアクセント型は9モーラ6型となる。なお、以下、○モーラ△型を「○M△型」と、またアクセントが低から高に変わる部分を「↑」、高から低に変わる部分を「↓」とそれぞれ表記する。一方、当該文節中の単語『点検』(テ↑ンケン)に対応する音声データのアクセント型は4M0型となり、また当該文節のアクセント型である9M6型を構成する当該単語『点検』(テ↓ンケン)部分のアクセント型は、4M1型となる。つまり、このような『六ヶ月点検』では、「所定の文節中の単語に対応する音声データのアクセント型」が4M0型になり、「所定の文節のアクセント型を構成する当該単語部分のアクセント型」が4M1型となるため、両アクセント型は一致しない。そこで、当該文節を解析したアクセント型4M1型に一致するように音声データに対してアクセント変換を行うことにより、4M0型の『点検』(テ↑ンケン)の音声データを4M1型の『点検』(テ↓ンケン)の音声データに変換する。これにより、4M1型の『点検』(テ↓ンケン)の音声データを音声データ記憶手段に記憶していなくても、4M1型の『点検』(テ↓ンケン)を含む音声データを合成することが可能となる。
請求項の発明では、アクセント変換手段により変換する音素データは母音データであることから、子音を含めた音素データの変換に比べ、変換に要するデータ量および処理時間の面において効率よくアクセントを変換することができる。したがって、高速な変換が可能になるので、流暢でより聴き心地の良好な音声を合成することができる。
以下、本発明の音声合成装置および音声合成方法の実施形態について図を参照して説明する。まず、本実施形態に係る音声合成装置20の構成を図1に基づいて説明する。
図1に示すように、音声合成装置20は、主に、CPU21、メモリ22、辞書データベース23、台詞データベース24、音声データベース25、入出力インタフェース26、入力装置27、表示装置28、音声入力装置31、音声出力装置33、通信装置35等から構成されており、例えば、パーソナルコンピュータをベースにしている。
CPU21は、音声合成装置20を制御する中央演算処理装置で、システムバスを介してメモリ22、辞書データベース23、台詞データベース24、音声データベース25、入出力インタフェース26等と接続されている。CPU21を制御するシステムプログラム22aはメモリ22に格納されており、CPU21がこれを実行することによりメモリ22の管理や辞書データベース23等へのアクセス制御等といった基本システムの制御が行われている。また、このメモリ22には、このほかに後述する音声合成処理を可能にする各種制御プログラム22b、22c、22d、22e、22f、22g、22h等も格納されている。CPU21はこれらのプログラムをメモリ22から読み出して逐次実行することにより、後述する音声合成処理を可能にしている。なお、このCPU21は、特許請求の範囲に記載の「テキストデータ分割手段」、「アクセント解析手段」、「アクセント型比較手段」、「アクセント変換手段」、「音声データ出力手段」、「変換用音声データ検索手段」および「音素データ抽出手段」に相当し得るものである。
メモリ22は、システムバスに接続されている記憶装置であり、CPU21が使用する主記憶空間を構成するものである。このメモリ22には、システムプログラム22aを始めとして入力制御プログラム22b、テキスト解析プログラム22c、アクセント解析プログラム22d、音声データ取得プログラム22e、アクセント型比較プログラム22f、アクセント変換プログラム22g、出力制御プログラム22h等が予め書き込まれている。
辞書データベース23は、CPU21が使用する補助記憶空間を構成するハードディスク、DVD(Digital Versatile Disc)、CD−ROM、不揮発性半導体メモリ(EEPROM等)等で、システムバスを介してCPU21に接続されている。この辞書データベース23には、テキスト解析辞書23aやアクセント解析辞書23bが格納されている。
テキスト解析辞書23aは、入力装置27等から入力されたテキスト(文字列のこと)データを形態素解析したり構文解析するときに参照される辞書で、単語や文法に関する情報によって構成されている。なお、このテキスト解析辞書23aは、後述のテキスト解析プログラム22cとともに特許請求の範囲に記載の「テキストデータ分割手段」に相当し得るものである。
一方、アクセント解析辞書23bは、後述するように、構文解析されて所定の文節ごとに分割されたものについてアクセント解析するときに参照される辞書で、テキスト単語アクセント辞書とテキスト構文アクセント辞書とからなる。これらは単語のアクセントや構文(文節)のアクセントに関する情報によって構成されている。なお、このアクセント解析辞書23bは、後述するアクセント解析プログラム22dとともに特許請求の範囲に記載の「アクセント解析手段」に相当し得るものである。
台詞データベース24も、辞書データベース23と同様に、ハードディスク、DVD等からなり、システムバスを介してCPU21に接続され、CPU21が使用する補助記憶空間を構成している。この台詞データベース24には、台詞データ24aが格納されており、その構成例が図2(A) に示されているので、ここでは図2を参照して説明する。なお、この台詞データベース24は、音声データベース25とともに特許請求の範囲に記載の「音声データ記憶手段」に相当し得るもので、また音声データ25aは特許請求の範囲に記載の「単語の音声データ」に相当し得るものである。
図2(A) に示すように、台詞データ24aは、アクセント解析された所定の文節について音声データ25aを検索する際等に参照されるもので、例えば、表記文字、読み、音声コード、種別、アクセント型(モーラ数およびアクセント型)、子音母音、子音母音位置情報により分類された項目をもっている。例えば『今日』という漢字2文字を表すテキストデータに対応するものとして、表記文字「今日」、読み「キョウ」、音声コード「10」、種別「名詞」、アクセント型「2M1」、子音母音「KY_O_U」、子音母音位置情報「0,80,250,320」のものと、表記文字「今日」、読み「コンニチ」、音声コード「11」、種別「名詞」、アクセント型「4M1」、子音母音「K_O_N_N_I_CH_I」、子音母音位置情報「0,50,180,280,340,420,480,530」のものとが登録されている。なお、子音母音位置情報は、音声データベース25に格納されている音声データ25aを構成する音素データの存在位置を表している。これにより、音声データ25aから音素単位で音素データを抽出することが可能となる。
音声データベース25も、辞書データベース23と同様に、ハードディスク、DVD等からなり、システムバスを介してCPU21に接続され、CPU21が使用する補助記憶空間を構成している。この音声データベース25には、音声データ25aが格納されており、その構成例が図2(B) に示されているので、引き続き図2を参照して説明する。なお、この音声データベース25は、前述の台詞データベース24とともに特許請求の範囲に記載の「音声データ記憶手段」に相当し得るもので、また音声データ25aは特許請求の範囲に記載の「単語の音声データ」に相当し得るものである。
図2(B) に示すように、音声データ25aは、人の発話音声(人が発声した単語の音声)を録音したもので、実際の音声波形に対応して量子化等された波形データが格納されている。この音声データ25aは、アクセント解析された所定の文節について音声データ25aを検索する際等に参照されるため、音声コードをキーとして前述した台詞データベース24の台詞データ24aに関連付けられている。そのため、各音声データ25aには、音声コードが付与されており、例えば、前述の『今日』に対応するものとしては、音声コード「10」、「11」が付けられている。なお、この音声データ25aは、音素単位で抽出可能に構成されていることから、例えば、図2(B) に示す音声コード「10」の波形例のように、「キョウ」の音声データ25aからは3つの音素データ「KY」,「O」,「U」を取り出すことができる。
図1に戻って、入出力インタフェース26は、入力装置27、表示装置28、音声入力装置31、音声出力装置33、通信装置35等の入出力装置とCPU21等とのデータのやり取りを仲介する装置で、システムバスに接続されている。
入力装置27は、音声合成装置20に対する操作コマンドや前述したテキストデータ等を入力し得るもので、例えば、キーボードやペン入力デバイスあるはマウス等のポインティングデバイス等がこれに相当する。表示装置28は、音声合成装置20に入力した操作コマンドに対する応答表示や前述したテキストデータのエコーバック表示等を出力し得るもので、例えば、CRT表示装置、液晶ディスプレィ装置等がこれに相当する。
音声入力装置31は、音声合成装置20の利用者の発話音声を集音しアナログデータとして音声合成装置20に入力し得るもので、例えば、マイクロフォンがこれに相当する。また集音したアナログデータをAD変換してディジタル化された音声データを出力するものや、ディジタル化された音声データと併せて、発話音声に対応したテキストデータを音声認識処理を介して出力するものもある。なお、音声入力装置31により音声認識処理を行う場合や、音声入力装置31から入力された音声データに基づいて別途用意された音声認識プログラム等によりCPU21による音声認識処理を行う場合には、入力装置27によりテキストデータの入力は不要となる。
音声出力装置33は、後述する音声合成処理により合成された音声を出力し得るもので、例えば、DA変換器を備えたオーディオアンプとスピーカとを組み合わせた音響装置がこれに相当する。なお、この音声出力装置33は特許請求の範囲に記載の「音声データ出力手段」に相当し得るものである。
通信装置35は、他の情報端末装置(例えばパーソナルコンピュータ)との間で有線通信回線によるデータの送受信を行うための有線データ通信機器で、例えば、公衆回線に対応した公衆回線モデムや所定のネットワーク形態に対応したLANアダプタ等がこれに相当する。なお、通信装置35は、有線通信に限られず、無線通信回線に対応した無線データ通信機器(携帯電話、PHSや無線LAN等)であっても良い。
ここで、メモリ22に格納されている、入力制御プログラム22b、テキスト解析プログラム22c、アクセント解析プログラム22d、音声データ取得プログラム22e、アクセント型比較プログラム22f、アクセント変換プログラム22g、出力制御プログラム22hの概要を説明する。
入力制御プログラム22bは、入力装置27や音声入力装置31を介して利用者により入力されたテキストデータや音声データをテキスト解析プログラム22c等に受け渡す処理等を行うプログラムで、主に、入力装置27、音声入力装置31や通信装置35等の低速データ入力装置とCPU21との間のデータの受渡機能を有する。
テキスト解析プログラム22cは、入力装置27等により入力されたテキストデータの形態素解析や構文解析等を行うプログラムで、具体的には、入力されたテキストデータを辞書データベース23のテキスト解析辞書23aに基づいて形態素解析し、解析された形態素(単語)について、さらに構文解析することによって1以上の単語で構成される所定の文節に分割する機能や、単語ごとに読み、モーラ数や文法情報等を与える機能を有する。このテキスト解析プログラム22cは、特許請求の範囲に記載の「テキストデータ分割手段」に相当し得るものである。なお、助詞や助動詞は、単語とは区別して「接辞」として分類されることもあるが、本実施形態では、助詞や助動詞も「単語」の概念に含めている。
アクセント解析プログラム22dは、テキスト解析プログラム22cにより分割された所定の文節に対しアクセント解析等を行うプログラムで、具体的には、当該所定の文節を構成する単語を、アクセント解析辞書23bのテキスト単語アクセント辞書に基づいてアクセント解析して単語単位のアクセント型を求め、さらにこれをテキスト構文アクセント辞書に基づいてアクセント解析することによって、当該所定の文節のアクセント型を解析するといった機能を有する。このアクセント解析プログラム22dは、特許請求の範囲に記載の「アクセント解析手段」に相当し得るものである。
音声データ取得プログラム22eは、テキスト解析プログラム22cにより形態素解析された形態素(単語)に対応する音声データ25aを音声データベース25から検索して取得するプログラムで、具体的には、形態素(単語)に該当する表記文字とその読みを台詞データベース24の台詞データ24aから検索し、ヒットした台詞データ24aの音声コードに基づいて音声データベース25の音声データ25aを取得する。例えば、前述の『今日』に対応するもので、その読みが「キョウ」の場合、その音声コードは「10」になるので、当該音声コード「10」に該当する音声データ25aを音声データベース25から取得する。
アクセント型比較プログラム22fは、テキスト解析プログラム22cにより解析した当該所定の文節中の単語のアクセント型と当該所定の文節のアクセント型を構成する当該単語部分のアクセント型とが一致するか否かを比較するプログラムで、このプログラムの詳細については図3に図示される音声合成処理の流れを説明するときに詳述する。なお、このアクセント型比較プログラム22fは、特許請求の範囲に記載の「アクセント型比較手段」に相当し得るものである。
アクセント変換プログラム22gは、アクセント型比較プログラム22fによる比較によりアクセント型が一致しないときに実行されるもので、当該所定の文節のアクセント型を構成する当該単語部分のアクセント型に当該所定の文節中の単語のアクセント型が一致するように音声データベース25の音声データ25aに対してアクセント変換を行う機能を有するプログラムである。このプログラムの詳細についても図3に図示される音声合成処理の流れを説明するときに詳述する。なお、アクセント変換プログラム22gは、特許請求の範囲に記載の「アクセント変換手段」、「変換用音声データ検索手段」および「音素データ抽出手段」に相当し得るものである。
出力制御プログラム22hは、CPU21により実行された音声合成処理等により出力された音声データ25a等を表示装置28や音声出力装置33等に受け渡す処理等を行うプログラムで、主に、表示装置28、音声出力装置33や通信装置35等の低速データ出力装置とCPU21との間のデータの受渡機能を有する。なお、この出力制御プログラム22hは、特許請求の範囲に記載の「音声データ出力手段」に相当し得るものである。
続いて、音声合成装置20による音声合成処理の流れ等を図3〜図6に基づいて説明する。なお、この音声合成処理は、例えば、所定の起動条件が整った場合に、図略のメインプログラムにより起動されるもので、また以下説明する各処理は、前述した入力制御プログラム22b、テキスト解析プログラム22c、アクセント解析プログラム22d、音声データ取得プログラム22e、アクセント型比較プログラム22f、アクセント変換プログラム22g、出力制御プログラム22hをそれぞれCPU21が実行することによって処理されるものである。
即ち、ステップS101のテキストデータ解析処理はテキスト解析プログラム22cにより、ステップS103のアクセント解析処理はアクセント解析プログラム22dにより、ステップS105の音声データ取得処理は音声データ取得プログラム22eにより、ステップS107のアクセント型一致判断処理はアクセント型比較プログラム22fにより、ステップS109〜S113はアクセント変換プログラム22gにより、ステップS117は出力制御プログラム22hにより、それぞれ実行される。
図3に示すように、音声合成装置20では、所定の初期化処理等を実行した後、まずステップS101によりテキスト解析処理が行われる。この処理は、入力装置27や音声入力装置31等によって入力されたテキストデータを1以上の単語で構成される所定の文節に分割するもので、特許請求の範囲に記載の「テキストデータ分割ステップ」に相当し得るものである。具体的には、『今日は、六ヶ月点検です』というテキストデータが入力された場合の処理例の説明図(図4)を参照した方がわかり易いので、ここからは、図4も参照しながら当該音声合成処理の流れを説明する。
図4(A) に示すように、『今日は、六ヶ月点検です』というテキストデータが入力されると、ステップS101により辞書データベース23のテキスト解析辞書23aに基づいて形態素を解析する処理が行われる。これにより、『今日は、六ヶ月点検です』というテキストデータは、図4(B) に示すように、『今日』、『は』、『六ヶ月点検』、『です』という4つの単語の集まりとして解析される。
ステップS101では、このように形態素解析した単語に対して、さらにテキスト解析辞書23aに基づいて構文を解析する処理が行われる。これにより、例えば、図4(C) に示すように、主語部は『今日』と『は』の組み合わせにより、また補語部は『六ヶ月点検』により、述語部は『です』により、それぞれ構成されていることが解析される。なお、この構文解析により得られた主語部、補語部、述語部等は、特許請求の範囲に記載の「1以上の単語で構成される所定の文節」に相当し得るものである。
次のステップS103では、アクセント解析処理が行われる。この処理は、ステップS101により分割された所定の文節のアクセント型を解析するもので、特許請求の範囲に記載の「アクセント解析ステップ」に相当し得るものである。具体的には、アクセント解析辞書23bのテキスト単語アクセント辞書に基づいて当該所定の文節を構成する単語に対応する音声データ25aのアクセント型を解析し、その解析結果から、テキスト構文アクセント辞書に基づいて当該所定の文節のアクセント型を解析する。
例えば、図4(D) に示すように、『今日』という名詞は2M1型、また『は』という助詞には1Mであるためアクセント型がなく、『六ヶ月点検』という名詞は9M6型、さらに『です』という助動詞は2M1型であることがそれぞれ解析され、その後、図4(E) に示すように、『今日は』という文節は3M1型、『六ヶ月点検』という文節は9M6型、『です』という文節は2M1型であることが解析される。なお、図4においては、アクセント型の○M△型を、単に「○M△」と略記していることに留意されたい。
続くステップS105では、音声データ取得処理が行われる。この処理は、ステップS101により形態素解析された単語に対応する音声データ25aを音声データベース25から検索して取得するもので、例えば、図4(F) に示すように、『今日』、『は』、『六ヶ月点検』、『です』というそれぞれ単語に対して、図2を参照し前述したように、その表記文字とその読みを台詞データベース24の台詞データ24aから検索し、該当する音声データ25aを音声データベース25から取得する。これにより、『今日』に対しては2M1型の「キョ↓ウ」、また『は』に対してはアクセント型のない「ワ」、さらに『です』に対しては2M1型の「デ↓ス」という音声データ25aがそれぞれ取得される。
ここで、『六ヶ月点検』に対してはそれに該当する台詞データ24aが台詞データベース24には存在しない(図2参照)。そのため、このように検索する単語が2以上の単語を合成した複合語である場合には、それぞれの単語に分解し、その表記文字とその読みを台詞データベース24の台詞データ24aから検索する。すると、この『六ヶ月点検』の例では、『六ヶ月』と『点検』との2単語に分解でき、それぞれに対応する表記文字等が台詞データベース24に存在するので、該当する音声コードに基づいて音声データ25aを音声データベース25から取得する。これにより、『六ヶ月』に対しては5M0型の「ロ↑ッカゲツ」、また『点検』に対しては4M0型の「テ↑ンケン」という音声データ25aがそれぞれ取得される。
このステップS105によって、『今日』、『は』、『六ヶ月』、『点検』、『です』の音声データ25aがそれぞれ取得されると、次のステップS107では、アクセント型が一致しているか否かを判断する処理が行われる。即ち、ステップS105により取得された当該所定の文節中の単語に対応する音声データ25aのアクセント型と、ステップS103により解析された当該所定の文節のアクセント型を構成する当該単語部分のアクセント型とが一致しているか否かが判断される。なお、この処理は、特許請求の範囲に記載の「アクセント型比較ステップ」に相当し得るものである。
例えば、図4(F) に示すように、ステップS105により取得された『六ヶ月』の音声データ25aは、5M0型の「ロ↑ッカゲツ」であるのに対し、ステップS103で解析された『六ヶ月点検』は9M6型の「ロ↑ッカゲツテ↓ンケン」であることから、図4(G) に示すように、『六ヶ月点検』中の『六ヶ月』は5M0型の「ロ↑ッカゲツ」となる。そのため、両アクセント型は5M0型同士で一致することとなり、このような場合には、アクセントを変換する必要がないので、5M0型の『六ヶ月』についてはステップS109〜S113の各処理は行われない(S107でYes)。
一方、図4(F) に示すように、ステップS105により取得された『点検』の音声データ25aは、4M0型の「テ↑ンケン」であるのに対し、ステップS103で解析された『六ヶ月点検』は9M6型の「ロ↑ッカゲツテ↓ンケン」であることから、図4(G) に示すように、『六ヶ月点検』中の『点検』は4M1型の「テ↓ンケン」となる。そのため、両アクセント型は4M0型と4M1型とで一致しないことになる(同図に示す網掛け部分)。
したがって、このような場合には、5M0型の「ロ↑ッカゲツ」の音声データ25aと4M0型の「テ↑ンケン」の音声データ25aとを単純に組み合わせただけでは、9M0型の「ロ↑ッカゲツテ↑ンケン」の音声データ25aが合成されてしまうので、自然な9M6型の「ロ↑ッカゲツテ↓ンケン」に比べて不自然で聴き心地の悪い音声が合成される。そこで、本実施形態では、続くステップS109〜S113により、図5および図6に示すような母音変換を行うこととし(S107でYes)、これにより聴き心地の良好な音声の合成を可能にしている。なおここからは、図5、6も参照しながら各処理の流れを説明する。
ステップS109では、アクセント変換用の音声データ検索処理が行われる。この処理は、アクセント変換の対象となる単語のアクセント型と同一のアクセント型をもつ単語を台詞データベース24から検索し、それに該当する変換用の音声データ25a’を音声データベース25から取得するものである。例えば、図5に示す母音変換の例では、アクセント変換の対象となる単語『点検』の4M1型と同一のアクセント型(4M1型)をもつ単語を台詞データベース24の台詞データ24aから検索し、ヒットした単語『てきぱき』、『インチキ』、『神経』、『一本』の音声コードに基づいて音声データベース25の音声データ25a、つまり変換用の音声データ25’を取得する。
続くステップS111では、音素データ抽出処理が行われる。この処理は、ステップS109により検索された変換用の音声データ25’から、変換対象の単語を構成する音素と同一の音素部分に相当する音素データを抽出するものである。例えば、図5に示す母音変換の例では、アクセント変換の対象となる単語『点検』の「テンケン」の各音素データ「T」,「E」,「N」,「K」,「E」,「N」 と同一の音素部分に相当する音素データを『てきぱき』の音素データ「T」,「E」,「K」,「I」,「P」,「A」,「K」,「I」 、『インチキ』の各音素データ「I」,「N」,「CH」,「I」,「K」,「I」、『神経』の各音素データ「S」,「I」,「N」,「K」,「E」,「I」、『一本』の各音素データ「I」,「TSU」 ,「P」,「O」,「N」から抽出する。これにより、図5に示す網掛け部分のように、『てきぱき』からは 「テ」の母音部分の音素データ「E」 、『インチキ』からは「ン」の撥音部分の音素データ「N」 、『神経』からは「ケ」の母音部分の音素データ「E」 、『一本』からは「ン」の撥音部分の音素データ「N」 がそれぞれ抽出される。なお、本実施形態では、撥音も母音に含めた概念としているので、ステップS109による音素データの抽出は母音について行っているといえ、この意から、次のステップS113による音素データ置換処理(アクセント変換)を含めたステップS109〜113までを本実施形態では母音変換と称している。
続くステップS113では、音素データ置換処理が行われる。この処理は、変換対象の単語に対応する音声データ25aの該当音素部分をステップS109により抽出された音素データに置き換えることによりアクセント変換を行うものである。なお、音素データの抽出は、既に図2を参照して説明したように、台詞データベース24の台詞データ24aの子音母音位置情報に基づいて、音声データベース25の音声データ25aから必要な音素データを切り出すことによって行われる(図2(A) 、(B) 参照)。
例えば、図5に示す母音変換の例では、アクセント変換の対象となる単語『点検』の「テ」の母音部分の音素データを『てきぱき』の「テ」の母音部分の音素データ「E」 に置き換える。同様に、『点検』の「(2番目の)ン」の母音部分の音素データを『インチキ』の「ン」の撥音部分の音素データ「N」 に、また『点検』の「ケ」の母音部分の音素データを『神経』の「ケ」の母音部分の音素データ「E」 に、さらに『点検』の「(4番目の)ン」の母音部分の音素データを『一本』の「ン」の撥音部分の音素データ「N」 に、それぞれ置き換える。これにより、4M1型の『点検』、つまり「テ↓ンケン」が合成されるので、解析したアクセント型の4M1型の「テ↓ンケン」に一致するように4M0型の「テンケン」の音声データ25aに対して母音変換が行われたことになる。なお、この例では、『点検』の「テ」の母音部分の音素データを『てきぱき』の「テ」の母音部分の音素データ「E」 に置き換えるようにしているが、他の場合において、『てきぱき』の「テ」と「キ」の両方の母音部分の音素データについて置き換える必要がある場合には、一時期に、「テ」の母音部分の音素データ「E」 と「キ」の母音部分の音素データ「I」 とを置換する。これにより置換効率が向上する。
なお、図4(F) に示すように、『今日は』のように、所定の文節中の単語に助詞が含まれる場合には、ステップS107によりアクセント型が一致しないと判断されて(S107でNo)、図6に示すような母音変換が行われる。即ち、助詞は1モーラであり、助詞単独では音の高さが決定されていないことから、2M1型の『今日』とアクセント型が不定の『は』とを組み合わせても、3M1型の『今日は』を合成できるとは限らない。そこで、前述したステップS109〜S113の各処理によって、『点検』の場合とほぼ同様の母音変換を行う。
例えば、図6に示すように、ステップS109によりアクセント変換の対象となる単語『今日は』の3M1型と同一のアクセント型(3M1型)をもつ単語を台詞データベース24の台詞データ24aから検索し、ヒットした単語『間際』の音声コードに基づいて音声データベース25の変換用の音声データ25’を取得する。そして、ステップS111により『今日は』の「キョウハ」の各音素データ「KY」,「O」,「U」,「W」,「A」と同一の音素部分に相当する音素データを『間際』の音素データ「M」,「A」,「G」,「I」,「W」,「A」 から抽出する。これにより、図6に示す網掛け部分のように、『間際』からは「ワ」の母音部分の音素データ「A」 が抽出されるので、次のステップS113により『今日は』の「は」の母音部分の音素データを『間際』の「ワ」の母音部分の音素データ「A」 に置き換える。これにより母音変換が行われ、3M1型の『今日は』、つまり「キョ↓ウハ」が合成される。
このように、入力されたテキストデータのうち、アクセント型の一致しない単語(S107でNo)に対しては、その全てについてステップS109〜S113の各処理を行う必要から、全ての単語についてステップS107の判断が行われ、不一致の単語についてはステップS109〜S113の各処理が終了したか否かの判断がステップS115により行われる。そして、まだ未処理の単語が残っている場合には(S115でNo)、ステップS107に処理を移行して再度、ステップS107以下による各処理が行われる。
一方、ステップS115により入力テキストの全ての単語についてステップS107以下による各処理が終了していると判断された場合には(S115でYes)、続くステップS117による音声データ出力処理が行われる。この処理では、ステップS109〜S113の各処理によって母音変換された音声データ25αを含んで、入力テキストデータに対応する音声データを構成し音声出力装置33により出力する。
例えば、図4に示す例では、ステップS109〜S113の各処理によって母音変換が行われ、図4(G) に示すように、所定の文節として、3M1型の『今日は』の音声データ25a、また4M1型の『点検』の音声データ25aがそれぞれ合成されるので、母音変換することのなかった5M0型の『六ヶ月』および2M1型の『です』の音声データ25aとともに『今日は、六ヶ月点検です』というテキストデータに対応する音声データを構成し音声出力装置33から合成音声を出力する。これにより、『今日は、六ヶ月点検です』というテキストデータに対して、3M1型の「キョ↓ウハ」、5M0型の「ロ↑ッカゲツ」、4M1型の「テ↓ンケン」、2M1型の「デ↓ス」という合成音声が音声出力装置33から出力されるため、このような母音変換を施さない場合に比べ、聴き心地の良好な音声を合成することができる。また当該母音変換には、所定の文節のアクセント型を構成する当該単語部分のアクセント型の音声データを台詞データ24aや音声データベース25に記憶する必要がないので、変換用の膨大な音声データを予め用意する必要もない。したがって、膨大な音声データを要することなく、聴き心地の良好な音声を合成することができる。なお、ステップS117による音声データ出力処理が終了すると、一連の本音声合成処理が終了するので、次回の起動に備えてメインプログラムに処理を移す。
なお、図4〜6に示した例では、ステップS109〜S113による母音変換において、変換対象の単語に対応する音声データの該当音素部分をステップS111により抽出された音素データに置き換える際、ステップS113では、例えば、『点検』の「テ」について『てきぱき』の「テ」の母音部分の音素データ「E」 だけを抽出して置換を行っていたが、「テ」の母音とともに子音部分の音素データ「T」 についても置換を行うように処理の流れを構成しても良い。
上述したように、本実施形態に係る音声合成装置20によると、入力されたテキストデータをテキスト解析プログラム22c(S101)により1以上の単語で構成される所定の文節に分割し、この所定の文節のアクセント型をアクセント解析プログラム22d(S103)により解析し、アクセント型比較プログラム22f(S107)により、所定の文節中の単語に対応する音声データ25aのアクセント型と所定の文節のアクセント型を構成する当該単語部分のアクセント型とが一致するか否かを比較する。この比較により両者のアクセント型が一致しない場合(S107でNo)、解析したアクセント型に一致するようにアクセント変換プログラム22g(S113)により音声データ25aに対してアクセント変換を行い、出力制御プログラム22h(S117)により、このアクセント変換された音声データ25αを含むテキストデータに対応する音声データを構成し音声出力装置33により出力する。これにより、「所定の文節中の単語に対応する音声データ25aのアクセント型」と「所定の文節のアクセント型を構成する当該単語部分のアクセント型」とが一致しない場合には(S107でNo)、解析したアクセント型に一致するように音声データ25aに対してアクセント変換を行うので、このように変換された音声データ25αを含むことで、聴き心地の良好な音声を合成することができる。また「所定の文節のアクセント型を構成する当該単語部分のアクセント型」の音声データを台詞データベース24や音声データベース25に記憶する必要がないので、膨大な音声データを要しない。したがって、膨大な音声データを要することなく、聴き心地の良好な音声を合成することができる。
また、本実施形態に係る音声合成装置20によると、アクセント変換プログラム22g(S109)により、アクセント変換の対象となる単語のアクセント型と同一のアクセント型をもつ変換用の音声データ25a’を台詞データベース24や音声データベース25から検索し、検索された変換用の音声データ25a’から、アクセント変換プログラム22g(S111)により変換対象の単語を構成する音素と同一の音素部分に相当する音素データを抽出する。そして、アクセント変換プログラム22g(S113)は、変換対象の単語に対応する音声データ25aの該当音素部分を抽出された音素データに置き換えることによりアクセント変換を行う。これにより、台詞データベース24や音声データベース25に記憶された単語の音声データを変換用の音声データ25a’として検索してそれを音素データの置き換えに用いるので、変換用の音声データ25a’として別途データベース等に記憶しておく必要がない。また、変換用の音声データ25a’からは、置き換える音素データを音素単位で抽出することもできるので、置き換えの自由度を高めることができる。さらに、1つの変換対象の単語に対して複数の変換用の音声データ25a’からそれぞれ異なった位置の音素データを抽出しそれらを置き換えることもできる。したがって、台詞データベース24や音声データベース25に記憶された単語の音声データ25aを効率よく利用することができるので、殊更に膨大な音声データを要することなく、聴き心地の良好な音声を合成することができる。
さらに、本実施形態に係る音声合成装置20によると、アクセント変換プログラム22g(S109〜S113)により変換する音素データは母音データであることから(図4〜図6)、子音を含めた音素データの変換に比べ、変換に要するデータ量および処理時間の面において効率よくアクセントを変換することができる。したがって、高速な変換が可能になるので、流暢でより聴き心地の良好な音声を合成することができる。
本発明の一実施形態に係る音声合成装置の構成例を示すブロック図である。 図2(A) は、図1に示す台詞データベースの台詞データの構成例、図2(B) は、図1に示す音声データベースの音声データの構成例をそれぞれ示す説明図である。 本実施形態に係る音声合成装置による音声合成処理の流れを示すフローチャートである。 『今日は、六ヶ月点検です』というテキストデータが入力された場合の音声合成処理の例を示す説明図である。 図3に示すステップS109〜S111の処理により「点検(テ↑ンケン)」を「点検(テ↓ンケン)」に母音変換する例を示す説明図である。 図3に示すステップS109〜S111の処理により「今日は(キョ↓ウ↑ハ)」を「今日は(キョ↓ウハ)」に母音変換する例を示す説明図である。
符号の説明
20…音声合成装置
21…CPU(テキストデータ分割手段、アクセント解析手段、アクセント型比較手段、アクセント変換手段、音声データ出力手段、変換用音声データ検索手段、音素データ抽出手段)
22…メモリ
22a…システムプログラム
22b…入力制御プログラム
22c…テキスト解析プログラム(テキストデータ分割手段)
22d…アクセント解析プログラム(アクセント解析手段)
22e…音声データ取得プログラム
22f…アクセント型比較プログラム(アクセント型比較手段)
22g…アクセント変換プログラム(アクセント変換手段、変換用音声データ検索手段、音素データ抽出手段)
22h…出力制御プログラム(音声データ出力手段)
23…辞書データベース(テキストデータ分割手段、アクセント解析手段)
23a…テキスト解析辞書(テキストデータ分割手段)
23b…アクセント解析辞書(アクセント解析手段)
24…台詞データベース(音声データ記憶手段)
24a…台詞データ(単語の音声データ)
25…音声データベース(音声データ記憶手段)
25a…音声データ(単語の音声データ)
25a’…変換用の音声データ
25α…変換された音声データ
27…入力装置
28…表示装置
31…音声入力装置
33…音声出力装置(音声データ出力手段)
S101(テキストデータ分割ステップ)
S103(アクセント解析ステップ)
S107(アクセント型比較ステップ)
S113(アクセント変換ステップ)
S117(音声データ出力ステップ)

Claims (3)

  1. 人が発声した単語の音声データを記憶する音声データ記憶手段と、
    入力されたテキストデータを1以上の単語で構成される所定の文節に分割するテキストデータ分割手段と、
    前記所定の文節のアクセント型を解析するアクセント解析手段と、
    前記所定の文節中の単語に対応する前記音声データのアクセント型と前記所定の文節のアクセント型を構成する当該単語部分のアクセント型とが一致するか否かを比較するアクセント型比較手段と、
    前記比較により両者のアクセント型が一致しない場合、前記解析したアクセント型と同一のアクセント型をもつ変換用の音声データを前記音声データ記憶手段から検索する変換用音声データ検索手段と、
    前記検索された変換用の音声データから、前記解析したアクセント型を構成する音素と同一の音素部分に相当する音素データを抽出する音素データ抽出手段と、
    前記アクセント型が一致しない単語を、前記抽出された音素データに基づいて、前記解析したアクセント型に一致するようにアクセント変換を行うアクセント変換手段と、
    前記アクセント変換された音声データを含む前記テキストデータに対応する音声データを構成し出力する音声データ出力手段と、
    を備えることを特徴とする音声合成装置。
  2. 前記アクセント変換手段により変換する前記音素データは、母音データであることを特徴とする請求項記載の音声合成装置。
  3. 入力されたテキストデータを1以上の単語で構成される所定の文節に分割するテキストデータ分割ステップと、
    前記所定の文節のアクセント型を解析するアクセント解析ステップと、
    前記所定の文節中の単語に対応する自然発声の音声データのアクセント型と前記所定の文節のアクセント型を構成する当該単語部分のアクセント型とが一致するか否かを比較するアクセント型比較ステップと、
    前記比較により両者のアクセント型が一致しない場合、前記解析したアクセント型と同一のアクセント型をもつ変換用の音声データを、人が発声した単語の音声データを記憶する音声データ記憶手段から検索する変換用音声データ検索ステップと、
    前記検索された変換用の音声データから、前記解析したアクセント型を構成する音素と同一の音素部分に相当する音素データを抽出する音素データ抽出ステップと、
    前記アクセント型が一致しない単語を、前記抽出された音素データに基づいて、前記解析したアクセント型に一致するようにアクセント変換を行うアクセント変換ステップと、
    前記アクセント変換された音声データを含んで前記テキストデータに対応する音声データを構成し出力する音声データ出力ステップと、
    を含むことを特徴とする音声合成方法。
JP2004021403A 2004-01-29 2004-01-29 音声合成装置および音声合成方法 Expired - Fee Related JP3821131B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004021403A JP3821131B2 (ja) 2004-01-29 2004-01-29 音声合成装置および音声合成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004021403A JP3821131B2 (ja) 2004-01-29 2004-01-29 音声合成装置および音声合成方法

Publications (2)

Publication Number Publication Date
JP2005215287A JP2005215287A (ja) 2005-08-11
JP3821131B2 true JP3821131B2 (ja) 2006-09-13

Family

ID=34905059

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004021403A Expired - Fee Related JP3821131B2 (ja) 2004-01-29 2004-01-29 音声合成装置および音声合成方法

Country Status (1)

Country Link
JP (1) JP3821131B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007212884A (ja) * 2006-02-10 2007-08-23 Fujitsu Ltd 音声合成装置、音声合成方法、及びコンピュータプログラム
JP2008268477A (ja) * 2007-04-19 2008-11-06 Hitachi Business Solution Kk 韻律調整可能な音声合成装置

Also Published As

Publication number Publication date
JP2005215287A (ja) 2005-08-11

Similar Documents

Publication Publication Date Title
JP4247564B2 (ja) システム、プログラムおよび制御方法
US7496498B2 (en) Front-end architecture for a multi-lingual text-to-speech system
JP5269668B2 (ja) 音声合成装置、プログラム、及び方法
US20080120093A1 (en) System for creating dictionary for speech synthesis, semiconductor integrated circuit device, and method for manufacturing semiconductor integrated circuit device
MXPA01006594A (es) Metodo y sistema para la preseleccion de unidades adecuadas para habla por concatenacion.
JP2006251538A (ja) 音声合成装置、音声合成方法及びプログラム
JPWO2006134736A1 (ja) 音声合成装置、音声合成方法およびプログラム
JPH11249677A (ja) 音声合成装置の韻律制御方法
JP2009139677A (ja) 音声処理装置及びそのプログラム
JP4811557B2 (ja) 音声再生装置及び発話支援装置
JP4287785B2 (ja) 音声合成装置、音声合成方法及びプログラム
JP3821131B2 (ja) 音声合成装置および音声合成方法
JP4829605B2 (ja) 音声合成装置および音声合成プログラム
JP2008146019A (ja) 音声合成用辞書作成システム、半導体集積回路装置及び半導体集積回路装置の製造方法
JP4542400B2 (ja) 韻律生成装置及び韻律生成プログラム
JP2005018036A (ja) 音声合成装置、音声合成方法及びプログラム
JPH06318094A (ja) 音声規則合成装置
Bettayeb et al. A Study to Build a Holy Quran Text-To-Speech System
Sarma et al. Syllable based approach for text to speech synthesis of Assamese language: A review
JP4575798B2 (ja) 音声合成装置及び音声合成プログラム
JP3414326B2 (ja) 音声合成用辞書登録装置及び方法
JP3279261B2 (ja) 定型文コーパス作成装置、方法及び記録媒体
JPH0229797A (ja) テキスト音声変換装置
JP5012444B2 (ja) 韻律生成装置、韻律生成方法、および、韻律生成プログラム
JP2000056788A (ja) 音声合成装置の韻律制御方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20050908

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060509

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060530

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060612

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100630

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100630

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110630

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110630

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120630

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120630

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130630

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140630

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees