JPH0451099A - テキスト音声合成装置 - Google Patents

テキスト音声合成装置

Info

Publication number
JPH0451099A
JPH0451099A JP2158905A JP15890590A JPH0451099A JP H0451099 A JPH0451099 A JP H0451099A JP 2158905 A JP2158905 A JP 2158905A JP 15890590 A JP15890590 A JP 15890590A JP H0451099 A JPH0451099 A JP H0451099A
Authority
JP
Japan
Prior art keywords
word
words
degree
clauses
clause
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2158905A
Other languages
English (en)
Other versions
JP3034911B2 (ja
Inventor
Osamu Kimura
治 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2158905A priority Critical patent/JP3034911B2/ja
Publication of JPH0451099A publication Critical patent/JPH0451099A/ja
Application granted granted Critical
Publication of JP3034911B2 publication Critical patent/JP3034911B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 [産業上の利用分野] 本発明は、入力された文から韻律的情報を抽出してパラ
メータ時系列を生成し音声を合成するテキスト音声合成
装置に関する。
[従来の技術] 一般にテキスト音声合成装置における韻律の制御は、生
成される合成音声の自然性に大きな影響を与える。
従来のテキスト音声合成装置における韻律制御方法は、
文節間結合度を定義してその文節間結合度からフレーズ
指令及びポーズ長の大きさを決定する。
以下、文節間結合度に応じてフレーズ指令及びポーズ長
の大きさを決定する韻律制御方法の概略を説明する。
第6図は文節間結合度の大きさとピッチパターンとの関
係を示す。
図中、ケース1は、両文節の結合が最も弱い場合を示す
。この場合には明確なポーズが文節間に入り、それぞれ
の文節が独立に句を構成する。
ケース2は、文節結合度が強まるにつれ、ポーズ長が短
くなると共に、それぞれのフレーズ成分が−本のフレー
ズ成分に近づくことを示す。
ケース3は、−本のフレーズ成分上に2つの文節がのっ
ており、後続文節には単独のフレーズ指令が無いことを
示す。
ケース4は、上記のケース3よりも文節間の結合が進み
、後続文節のアクセント指令が小さな値になることを示
す。
ケース5は、文節間結合度が最も大きい場合であり、最
終的に一つの複合語のピッチパタンになることを示して
いる。
上述の文節結合度の大きさとピッチパタンとの関係で問
題になるのは、文節間結合度の算出方法である。その1
つとして、構文解析による係受は距離を用いる方法が以
前から提案されている。しかし、この方法は比較的短い
単文の解析結果に基づいており、現状のテキスト解析技
術では実用的な文章を精度良く構文解析することが難し
く、また、そのままでは韻律制御に導入することができ
ない。
そこで韻律制御に導入できる方法の1つとして、1つの
文をいくつかのフレーズに分割して局所的な係受解析を
行う方法が用いられている。また、文節の文法的役割(
以後、係受は関係と称する)、句読点、文章の位置情報
等のテキスト情報と音調結合型(以後、文節間結合度と
称する)との関係を定式化するための線形モデルによる
方法も同様に用いられている。
[発明が解決しようとする課題] しかし、上述の韻律制御方法を用いた従来のテキスト音
声合成装置では、1つの文全体の構文を解析しないで、
係受は関係にある文節のみに着目して文節間結合度を算
出するので、係受は関係の強い文節が連鎖した場合、長
いモーラに渡って文節間結合度が小さくならず、呼気の
関係で一息に発声出来る文章(以後、呼気段落と称する
)が非常に長くなり、生成された合成音声が不自然な音
声になるという問題点がある。
また、自然音声では呼気段落に制限があり、その呼気段
落は発声スピードにより変化するが、上述の韻律制御方
法を用いた従来のテキスト音声合成装置では、発声スピ
ードが考慮されないので、実用的な文章及び多様な発声
スピードを有する音声を合成することが難しく、生成さ
れた合成音声が不自然な音声になるという問題点がある
本発明の目的は、上述の従来の音声合成装置の問題点に
鑑みて、実用的な文章及び多様な発声スピードを有する
音声を合成することができるテキスト音声合成装置を提
供することにある。
[課題を解決するための手段] 本発明の上述の目的は、入力された文を各単語に分割す
る分割手段と、分割された各単語に対してアクセントの
型及び読みを設定する設定手段と、各単語のアクセント
の型に基づいて韻律を制御する韻律制御手段と、各単語
の読みに対応する合成単位を検索して音声パラメータの
時系列を出力するパラメータ生成手段とを備えており、
韻律制御手段は、隣接する単語間の係受は強度の順に文
全体の単語を結合して階層構造を形成し、階層構造によ
り隣接する文節間の結合度を算出し、算出された文節間
の結合度によりピッチパタン及び呼気段落間のポーズ長
を設定するように構成されているテキスト音声合成装置
によって達成される。
[作用] 分割手段が入力された文を特定の方法により各単語に分
割し、設定手段が単語分割処理部で分割され各単語を入
力して分割された各単語に対してアクセントの型及び読
みを設定し、韻律制御手段が単語列の隣接する単語間の
係受は強度の順に文全体の単語を結合して階層構造を形
成し、階層構造により隣接する文節間の結合度を算出し
、算出された文節間の結合度により設定手段により与え
られた各単語のアクセントの型に基づいてピッチパタン
及び呼気段落間のポーズ長を設定して韻律を制御し、パ
ラメータ生成手段が単語読みアクセント処理部により与
えられた各単語の読みに対応する合成単位を検索して音
声パラメータの時系列を出力する。
[実施例コ 以下、本発明のテキスト音声合成装置における一実施例
を図面を参照して説明する。
第1図は、本実施例のテキスト音声合成装置の構成を概
略的に示したブロック図である。
第1図のテキスト音声合成装置は、入力部10゜制御部
11、音声合成部12、出力部13、日本語辞書用メモ
リ14、韻律制御用メモリ15、音声データ辞書用メモ
リ16により構成されている。なお、入力部10、制御
部IL音声合成部12、日本語辞書用メモリ14、韻律
制御用メモリ15及び音声データ辞書用メモリ16は、
バス17を介して互いに接続されている。
また、制御部11は、プログラムされたコンピュータで
主として構成されており、後述するごとく、入力部IO
から入力させたデータから日本語辞書用メモリ目、韻律
制御用メモ1月5及び音声データ辞書用メモリ16を用
いて音声パラメータを生成する。
次に、第1図の制御部11の詳細な構成を第2図に示す
第2図に示すように、制御部11は、入力部10及び日
本語辞書用メモ1月4に接続された分割手段としての単
語分割処理部2L単語分割処理部21に接続された設定
手段としての単語読みアクセント処理部22を含む文字
列解析部20、文字列解析部20及び韻律制御用メモ1
月5に接続された韻律制御手段としての韻律処理部23
、韻律処理部23及び合成用単位の音声データ辞書用メ
モリ16に接続されたパラメータ生成手段としての音声
パラメータ生成部24により構成されている。
以下、上述の各構成部分の動作を説明する。
まず、入力部10は漢字仮名交じり文を入力して、単語
分割処理部21に出力する。
単語分割処理部21は、入力部10から出力された漢字
仮名交じり文を入力し、入力された漢字仮名交じり文を
、日本語辞書用メモ1月4を参照して最長−散性又は文
中の文節数が最少となるように単語を選択する文節最小
法等を用いて各単語に分割する。ここで、日本語辞書用
メモ1月4には、単語毎に品詞、読み、モーラ数、及び
アクセント等があらかじめ格納されている。
単語分割処理部21で分割された単語は、単語読みアク
セント処理部22により単語毎にアクセントの型及び読
みが設定されて韻律処理部23に出力される。
韻律処理部23は、単語読みアクセント処理部22で得
られた各単語のアクセントの型から、単語が連鎖した際
の文節のアクセントの設定を特定の方法により行い、後
述する方法によりピッチパタン及び呼気段落間のポーズ
長の設定を行って韻律を制御する。
音声パラメータ生成部24は、合成用単位の音声データ
辞書用メモリ16を参照して各単語の読みに対応する合
成単位を検索し、最終的に音声合成用の音声パラメータ
の時系列を音声合成部I2を介して出力部13から出力
する。
次に、上記の韻律処理部23におけるピッチパタン及び
呼気段落間のポーズ長の設定の方法について詳述する。
第3図は、ピッチパタン及び呼気段落間のポーズ長の設
定に用いるための文節間結合度の算出過程を示すフロー
チャートである。
まず、単語分割処理部21により漢字仮名交じり文から
単語列T(i)(1≦i≦n)がすでに算出されている
ものとする。ただし、iは入力文章の文頭からの単語番
号、nは単語数を表わす正の整数とする。また、単語間
の結合度を表わす配列COT  (i)  (1≦i≦
n)をクリアして“0″に設定する。
入力文章の単語列T(i)(1≦i≦n)から文節列B
(j)(1≦j≦m、但しmを文節の数とする)を算出
する。この文節列B (j)は、文節の先頭の単語T(
B、(1))、末尾の単語(Bl  (2))を示すポ
インタ及び次式■MO(B  (D )  =   Σ
MO(T  (k) )  ・・・■(但し7、jl、
j2はkの取り得る範囲の両端を表す)で算出した文節
モーラ長MO(B (j) )をそれぞれ格納している
(ステップ1)。
上述のステップ1に続いて、各文節の先頭の単語T(B
l(1))及び末尾の単語(Bl  (2))のラベル
を、第1表及び第2表を用いて求める。
例えば「私は」という文節の場合、先頭の単語「私」と
いう名詞と、末尾の単語「は」という付属語の格助詞か
ら構成されており、第1表から「私」のラベルとしてN
を選択し、第2表から「は」のラベルとしてlを選択し
するので「私は」という文節のラベルとして(N、j’
)を得る(ステップ2)。
次に、先行文節B (Dの末尾の単語T (B(2))
と後続文節B(j+1)の先頭の単語T(Bl。+(i
)) との結合の強さ(以後、係受は結合度と称する)
を、ステップ2で算出したラベルと第3表とを用いて算
出する。そして、この係受は結合度と各文節のモーラ数
MO(B (j) ) とから次式■ 文節間結合度Co(j)”係受は結合度 ×CMIN 
[MO(B (j) ) 、 MO(B (j+1) 
) ]+C)  +  MAX [MO(B (j))
、MO(B (j +1))  コ         
                  ・・・■により
文節間結合度Co(j)を算出する。ただし、この文節
間結合度C0(Dは結合の強さを逆数で表している。ま
た、Cは定数でMIN、MAXは因数の最小値及び最大
値を表す。
ステップ2で得られた結合度は文節B (j)の末尾の
単語T(Bl(2))と後続文節B (j+1)の先頭
の単語T (B、、+  (i) ) との結合度とも
考えられるので、単語間結合度COT  (B+  (
2))に文節間結合度co(Dの値を代入する(ステッ
プ3)。
次に、平均文節間結合度を表すMEAN [CO3を次
式■ MEAN [CO3=       ΣCo (k) 
・・・0m   1   k−1 により算出する(ステップ4)。
上記のステップ4で算出した平均文節間結合度MEAN
 [CO3と、文節毎に文節間結合度Co(x)、Co
(X+1)とを比較し、文節B(X)(1≦X≦m1但
しmは文節数を表す正の整数)を少し大きくした句MB
(y)(1≦y≦n1但しnは句数を表す正の整数)を
第4図に示す手順に従って作成する(ステップ5)。
以下、第4図を参照して句MB(y)の作成手順を詳細
に説明する。
まず、X = 1 、  y = 1に設定する(ステ
ップ5−1)。
次に、平均文節間結合度MEAN [CO3が文節間結
合度Co(x)よりも大きいと共に文節間結合度C0(
X+1)が文節間結合度Co(x)よりも大きい場合に
はステップ5−3に進み、そうでなければステップ5−
5に進む(ステップ5−2)。
平均文節間結合度MEAN [CO3が文節間結合度C
0(X)よりも大きいと共に文節間結合度C0(X+1
)が文節間結合度Co(x)よりも大きい場合には、先
行の文節B (x)と次の文節B (X+1)との文節
間結合が大きいので、句MB(y)の先頭単語ポインタ
、末尾の単語ポインタ及びモーラ数を次式■、■及び■ B (x)の先頭の単語ポインタ MB(V)の先頭の単語ポインタ  ・・・■B (X
+1)の末尾の単語ポインターMB(Y)の末尾の単語
ポインタ  ・・・■MO(B (x) ) +MO(
B (X+1) ) −MB(y)の末尾の単語ポイン
タMO(MB (y) )・・・■ に従って算出する(ステップ5−3)。
上記のステップ5−3が終了したら変数i、jをx=x
+2.y=y+1に夫々インクリメントしてステップ5
−7に行く (ステップ5−4)。
ステップ5−2において、平均文節間結合度MEAN 
[CO3が文節間結合度Co(x)よりも小さい場合、
又は平均文節間結合度MEAN [cO]が文節間結合
度Co(x)よりも大きいが、文節間結合度CO(X+
1)が文節間結合度Co(x)よりも小さい場合には、
句MB(y)の先頭単語ポインタ、末尾の単語ポインタ
及びモーラ数を次式■、■及び■B (x)の先頭の単
語ポインタ= MB(y)の先頭の単語ポインタ  ・・・■B (x
)の末尾の単語ポインター MB(V)の末尾の単語ポインタ  ・・・■MO(B
  (x) )  =MO(MB (y) )    
  ・・・■に従って算出する(ステップ5−5)。
上記のステップ5−5に続いて、変数i、jをx=x+
1.y=y+1にそれぞえインクリメントする(ステッ
プ5−6)。
ステップ5−4又はステップ5−6に続いて、Xがm−
1よりも小さいか否の判定を行って、Xがm−1よりも
小さい場合にはステップ5−2に進む(ステップ5−7
)。
旬刊MB(z)を、B (z) =MB (z)  (
但し、z=1〜7)として文節の配列B (z)に代入
する(ステップ5−8)。
全ての操作が終了したらメインルートにリターンする(
ステップ5−9)。
上記のステップ5の処理で、まとめる文節が無くなるま
で、即ち、x=yとなるまでステップ2からステップ5
の処理を繰り返す(ステップ6)。
上記ステップ6が終了したならば、入力文章の単語列T
(i)(1≦i≦n)を各文節に区切り、文節間結合度
を文節の境界となる単語の単語間結合度COT  (i
)  (1≦i≦n1但しnは単語数)から算出する(
ステップ7)。
ステップ7で算出された文節間結合度を、第4表のテー
ブルと照らし合わせてフレーズ指令の大きさ及びポーズ
の長さを算出する(ステップ8)。
上記のステップ8に続いて、ピッチパタンF(t)を下
記の式0により算出する。
in (F (t) ) =  i n (Faun 
) +A。
G、(t  To)+A、  ・Fo   (G、(t
  T1) ’−cy、  (t −T2 ) )  
        ・・・0上記の式[相]においてGD
  (t)及びG、(t)は、 Gll (t)=a11tmeXp(−a−t)、G、
(t)= 1−(1+b−a)exp (−b−t)によりそれぞ
れ示される。
但し、1. nはInの次に記載されている関数の自然
対数、A、・G、(t  TO)はフレーズ成分、A、
・Fo ・ (G−(t  T+ )  G−(t−’
r2))はアクセント成分、Fa+laは下限臨界値、
A1はアクセント成分の振幅、A pはフレーズ成分の
振幅、T、フレーズ成分の開始指令時点、T1はアクセ
ント成分の開始指令時点、T2はアクセント成分の終了
指令時点、aはフレーズ成分の下降時係数、bはアクセ
ント成分の下降時係数、tは時間をそれぞれ表す。
なお、フレーズ成分の振幅A、は、ステップ8で算出し
たフレーズ成分の大きさに比例した値、例えばフレーズ
成分の大きさを0.04倍した値を用いる。合成される
音声の自然性は、フレーズ成分の振幅A、の値を発声様
式に対応して変化させることにより向上する(ステップ
9)。
韻律処理部23においては、上述したステップ1〜9に
基づいて韻律の制御を行う。従って韻律処理部23では
、このように文節間の接合度を階層的な構造に基づいて
算出するため、例えばポーズを多く入れたい場合には、
第4表を第5表に変えるだけで、文全体の中でバランス
良くポーズを多くすることが出来る。また、修飾語が連
鎖するような場合でも、階層的に文節をまとめてモーラ
長の大きな文節とみなして処理をするため、極端に長い
呼気段落は生じにくい。
次に上述のテキスト音声合成装置による発声文章の解析
方法を概念的に第5図に示す。
第5図では、まず、最も結合度の大きい文節間を結合し
た結果、文節A、(文節B−C)、文節D1文節Eの4
セグメントになる(レベル2)。更に結合すると、文節
A−B−Cと文節D−Eの2つのセグメントになる(レ
ベル3)、最終的に1つのセグメントになる(レベル4
)。この結果、文節Cと文節りの境界に最もポーズが入
りやすく、次に文節Aと文節B1文節りと文節Eの境界
がポーズの候補になることが分かる。
文節間の結合度を階層的な構造に基づいで算出するため
、発声スピードに応じてポーズを入れる頻度を変える場
合にも、文全体の中でランス良くポーズを与えることが
出来る。また、修飾語が連鎖するような場合でも、階層
的に文節をまとめてモーラ長の大きな文節とみなして処
理をするため、極端に長い呼気段落は生じにくい。
[発明の効果コ 入力された文を各単語に分割する分割手段と、分割され
た各単語に対してアクセントの型及び読みを設定する設
定手段と、各単語のアクセントの型に基づいて韻律を制
御する韻律制御手段と、各単語の読みに対応する合成単
位を検索して音声パラメータの時系列を出力するパラメ
ータ生成手段とを備えており、韻律制御手段は、隣接す
る単語間の係受は強度の順に文全体の単語を結合して階
層構造を形成し、階層構造により隣接する文節間の結合
度を算出し、算出された文節間の結合度によりピッチパ
タン及び呼気段落間のポーズ長を設定するように構成さ
れているので自然性の高い音声を合成することができる
と共に、計算速度等の制約を考慮して音声を合成できる
。その結果、実用的な文章及び多様な発声スピードを有
する音声合成を生成することができる。
第 表 第 表
【図面の簡単な説明】
第1図は本発明のテキスト音声合成装置の一実施例の構
成を示すブロック図、第2図は第1図中の制御部の構成
を示すブロック図、第3図は文節間結合度算出処理の動
作のを示すフローチャート、第4図は第3図中の1ステ
ツプを詳細に説明するためのフローチャート、第5図は
第1図に示すテキスト音声合成装置で文節間結合度を算
出するときの入力文章の解析を概念的に説明する図、第
6図は従来のテキスト音声合成装置の文節間結合度及び
韻律の関係を示す図である。 10・・・入力部、11・・・制御部、12・・・音声
合成部、13・・・出力部、14・・・日本語辞書用メ
モリ、15・・・韻律制御用メモリ、I6・・・音声デ
ータ辞書用メモリ、17・・・バス、20・・・文字列
解析部、21・・・単語分割処理部、22・・・単語読
みアクセント処理部、23・・・韻律処理部、24・・
・音声パラメータ生成蔀。 第1 第2 第5図 第4図 第6図

Claims (1)

    【特許請求の範囲】
  1. 入力された文を各単語に分割する分割手段と、前記分割
    された各単語に対してアクセントの型及び読みを設定す
    る設定手段と、前記各単語のアクセントの型に基づいて
    韻律を制御する韻律制御手段と、前記各単語の読みに対
    応する合成単位を検索して音声パラメータの時系列を出
    力するパラメータ生成手段とを備えており、前記韻律制
    御手段は、隣接する単語間の係受け強度の順に文全体の
    単語を結合して階層構造を形成し、該階層構造により隣
    接する文節間の結合度を算出し、該算出された文節間の
    結合度によりピッチパタン及び呼気段落間のポーズ長を
    設定するように構成されていることを特徴とするテキス
    ト音声合成装置。
JP2158905A 1990-06-18 1990-06-18 テキスト音声合成装置 Expired - Lifetime JP3034911B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2158905A JP3034911B2 (ja) 1990-06-18 1990-06-18 テキスト音声合成装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2158905A JP3034911B2 (ja) 1990-06-18 1990-06-18 テキスト音声合成装置

Publications (2)

Publication Number Publication Date
JPH0451099A true JPH0451099A (ja) 1992-02-19
JP3034911B2 JP3034911B2 (ja) 2000-04-17

Family

ID=15681922

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2158905A Expired - Lifetime JP3034911B2 (ja) 1990-06-18 1990-06-18 テキスト音声合成装置

Country Status (1)

Country Link
JP (1) JP3034911B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001331191A (ja) * 2000-05-23 2001-11-30 Sharp Corp 音声合成装置および音声合成方法、携帯端末器、並びに、プログラム記録媒体

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60195596A (ja) * 1984-03-19 1985-10-04 三洋電機株式会社 音声合成装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60195596A (ja) * 1984-03-19 1985-10-04 三洋電機株式会社 音声合成装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001331191A (ja) * 2000-05-23 2001-11-30 Sharp Corp 音声合成装置および音声合成方法、携帯端末器、並びに、プログラム記録媒体

Also Published As

Publication number Publication date
JP3034911B2 (ja) 2000-04-17

Similar Documents

Publication Publication Date Title
US8219398B2 (en) Computerized speech synthesizer for synthesizing speech from text
US6470316B1 (en) Speech synthesis apparatus having prosody generator with user-set speech-rate- or adjusted phoneme-duration-dependent selective vowel devoicing
JP3587048B2 (ja) 韻律制御方法及び音声合成装置
JPH086591A (ja) 音声出力装置
Mittrapiyanuruk et al. Issues in Thai text-to-speech synthesis: the NECTEC approach
KR0146549B1 (ko) 한국어 텍스트/음성 변환 방법
US6829577B1 (en) Generating non-stationary additive noise for addition to synthesized speech
JP3109778B2 (ja) 音声規則合成装置
JPH0451099A (ja) テキスト音声合成装置
Chen et al. A Mandarin Text-to-Speech System
JPH05134691A (ja) 音声合成方法および装置
JP3314106B2 (ja) 音声規則合成装置
JP3314116B2 (ja) 音声規則合成装置
JP2003005776A (ja) 音声合成装置
Gu et al. Model spectrum-progression with DTW and ANN for speech synthesis
JPH09292897A (ja) 音声合成装置
JPH06167989A (ja) 音声合成装置
JP3318290B2 (ja) 音声合成方法および装置
JPH09198073A (ja) 音声合成装置
JPH06138894A (ja) 音声合成装置及び音声合成方法
JPH056191A (ja) 音声合成装置
JP3313310B2 (ja) 音声合成装置及び合成方法
JP2003308084A (ja) 音声合成方法および音声合成装置
JPH08160990A (ja) 音声合成装置
JPH11265194A (ja) 音声情報処理方法

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080218

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090218

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100218

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100218

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110218

Year of fee payment: 11

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110218

Year of fee payment: 11