JP4208312B2 - 音声処理装置 - Google Patents

音声処理装置 Download PDF

Info

Publication number
JP4208312B2
JP4208312B2 JP34850198A JP34850198A JP4208312B2 JP 4208312 B2 JP4208312 B2 JP 4208312B2 JP 34850198 A JP34850198 A JP 34850198A JP 34850198 A JP34850198 A JP 34850198A JP 4208312 B2 JP4208312 B2 JP 4208312B2
Authority
JP
Japan
Prior art keywords
sound
section
frame
value
cnt
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP34850198A
Other languages
English (en)
Other versions
JP2000174575A (ja
Inventor
秀享 ▲高▼橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP34850198A priority Critical patent/JP4208312B2/ja
Publication of JP2000174575A publication Critical patent/JP2000174575A/ja
Application granted granted Critical
Publication of JP4208312B2 publication Critical patent/JP4208312B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Control Of Amplification And Gain Control (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、音声処理装置に関する。
【0002】
【従来の技術】
音声録音再生装置等の音声処理装置には、通常、ボリューム手段が設けられており、使用者はそのボリューム手段を操作することにより所望の音量で音声を聞くことができる。
【0003】
しかし、音声はダイナミックレンジが広く、同じボリュームレベルであっても音量が小さい場合も大きい場合もあり、そのような音量の変動が原因で聞きづらい場合には、使用者がそのつどボリュームを調整する必要があった。特に、対談の録音のように、録音装置と発言者との距離が発言者によって異なる場合にあっては、録音装置から近い位置にいる発言者の音声だけが大きく聞こえて、録音装置から遠い位置にいる発言者の声は小さくて聞き取りにくいという場合がある。
【0004】
特開平9−232892号公報はこのような問題を克服すべく、入力された直前の音声のレベルに基づいて音量を調節する音量制御装置を開示している。
【0005】
【発明が解決しようとする課題】
ところで音量は重要な情報量のひとつであり、頻繁にその音量が変更されると自然さが失われ、かえって音質を低下させることになりかねない。音量の調節は自然さを保ったまま行われることが望ましく、このためには、処理すべき音声の全体との関係において音量を調整することが必要である。
【0006】
しかしながら、上記した特開平9−232892号公報では、直前の音声のレベルのみに基づいて音量を調節するので、音量が一定に保持されるという効果は有するが、かえって音質を低下させてしまう場合があった。
【0007】
本発明はこのような課題に着目してなされたものであり、聞く人に応じて音量をより適切な大きさに自動的に調節することができる音声処理装置を提供することにある。
【0008】
【課題を解決するための手段】
上記の目的を達成するために、本発明の第1の態様に係る音声処理装置は、1つのファイルで構成され、複数のフレームからなる音声データ全体について、フレーム毎にその有音区間と無音区間とを判定する音声判定手段と、前記音声判定手段で判定された有音区間について、フレーム毎に各有音区間の平均フレームエネルギーを計算する平均フレームエネルギー計算手段と、前記平均フレームエネルギー計算手段により計算された各有音区間の平均フレームエネルギーの、全有音区間での全フレームに関する平均値に基づいて各有音区間の音声レベルを調整するための音声レベル調整ゲインを計算する音声レベル調整ゲイン計算手段と、前記音声レベル調整ゲイン計算手段により計算された各有音区間における音声レベル調整ゲインに基づいて、音声レベルを調整する音声レベル調整手段と、を具備する。
【0011】
【発明の実施の形態】
以下、図面を参照して本発明の実施形態を詳細に説明する。
【0012】
図1(A)は本実施形態に係る音声処理の一形態を説明するための図である。図1(A)において、音声録音装置としてのディジタルレコーダ10によって録音された音声データは当該ディジタルレコーダ10に着脱自在に装着されたミニチュアカード11に記憶される。ミニチュアカード11はディジタルレコーダ10から取り外されてPCカードアダプタ12に装着した状態で、パーソナルコンピュータ13に装填される。パーソナルコンピュータ13には音声再生、情報表示などの処理を行なう制御プログラム14がインストールされている。
【0013】
図1(B)は、パーソナルコンピュータ13の制御部の構成を示す図であり、本実施形態に係る音声処理を行なうために各種の機能を備えている。すなわち、音声判定部30Aは処理すべき音声データ全体についてその有音区間と無音区間とを判定する。平均フレームエネルギー計算部30Bは音声判定部30Aで判定された有音区間について、各有音区間の平均フレームエネルギーを計算する。音声レベル調整ゲイン計算部30Cは平均フレームエネルギー計算部30Bにより計算された各有音区間の平均フレームエネルギーに基づいて、各有音区間の音声レベルを調整するための音声レベル調整ゲインを計算する。音声レベル調整部30Bは音声レベル調整ゲイン計算部30Cにより計算された各有音区間における音声レベル調整ゲインに基づいて、音声レベルを調整する。
【0014】
図2は音声データのデータ構造を示す図である。図2において、音声データは、1のファイルとして構成されており、ファイルヘッダ領域20−1とフレームデータ領域20−2とからなる。ファイルヘッダ領域20−1には例えば、記録された日時や録音時間長等の情報が記録されている。また、フレームデータ領域20−2は複数のフレーム(フレーム1,2,3,…n)から構成され、各フレームは、フレームヘッダ領域20−3と音声データ領域20−4とからなる。
【0015】
ここでパーソナルコンピュータ13内に取り込まれた音声データは、再生に先だって、本実施形態に係る音声レベルの調整が行われる。以下、フローチャートを参照して説明する。
【0016】
図3は、本実施形態に係る音声レベルの調整処理の概要を示すフローチャートである。本調整処理はここではパーソナルコンピュータ13の制御部で行われる。
【0017】
図3において、まず処理対象の音声データについて、有音/無音区間判定処理のためのしきい値計算処理を行い(ステップS1)、そのしきい値に基づいて有音/無音区間判定処理を行う(ステップS2)。続いて、ステップS2において判定された各有音区間における平均フレームエネルギーを計算し(ステップS3)、求めた各有音区間の平均フレームエネルギーに基づいて、各有音区間における各サンプルの音声レベル調整ゲインを計算する(ステップS4)。この音声レベル調整ゲインは各有音区間の平均フレームエネルギーの、全有音区間での平均値に基づいて計算される。そしてこの計算された各有音区間における各サンプルの有音レベル調整ゲインを、各サンプルに乗じて音声レベルを調整する(ステップS5)。
【0018】
以下、上記ステップS1からステップS5までの各ステップの処理について、詳細に説明する。
【0019】
図4は、ステップS1の有音/無音区間の判定時のしきい値計算処理の内容を示すフローチャートである。この処理が始まると、まず、フレーム番号のカウント値を示す変数fを0に初期化しておく(ステップS6)。
【0020】
次に、以下の式を用いてフレームfにおけるフレームエネルギーe(f)を計算する(ステップS7)。
【0021】
【数1】
Figure 0004208312
【0022】
なお、数式中、s(i)は1フレーム中のサンプル位置iにおけるサンプル、Nは1フレームを構成するサンプル数を示している。
【0023】
次に、変数fの値が0であるか否か、すなわち、初期のフレームであるか否かを判定し(ステップS8)、fが0である場合には、最小フレームエネルギーを示す変数minの値をe(f)(=e(0))にセットする(ステップS9)。
【0024】
また、上記ステップS8においてfが0でない場合には、フレームエネルギーe(f)が変数minより小さいか否かを判定し(ステップS10)、小さい場合には変数minにフレームエネルギーe(f)をセットし(ステップS9)、一方、小さくない場合にはそのまま何もせずにステップS11に行く。
【0025】
ステップS11ではファイルが終端に達したか否かを判定し、まだ終端ではない場合には、変数fをインクリメントして(ステップS12)、次のフレームデータを読み出して上記ステップS7に戻って上述した処理を繰返す。
【0026】
また、このステップS11においてファイルの終端に達したと判断された場合は、しきい値trsに、上記変数minに所定の値α(例えば1.2)を積算した値をセットして(ステップS13)、この処理を抜ける。
【0027】
このようなしきい値設定の処理方法は、すでに音声データが記録されていることを有効に利用したものであり、ファイル全体の最小エネルギーに基づいてしきい値を決定することができるために、誤りの少ない有音/無音区間判定処理を行なうことが可能である
なお、上述では、読み込んだ全区間(つまり、音声ファイルを構成する全フレーム)の最小値を求めているが、本発明はこれに限定されるものではなく、例えばパーソナルコンピュータのメモリ容量を勘案して、全区間の最小値でなく、ある程度の長さの区間に区切って処理するようにしても良い。
【0028】
続いて、図5は、上記図3のステップS2における有音/無音区間判定処理の内容を示すフローチャートである。
【0029】
この処理が始まると、フレーム番号のカウント値を示す変数f、直前のフレームの有音/無音の状態を示す変数Prev、音声データ中の有音区間のカウント値を示す変数VsCntを、各々0に初期化しておき、有音区間から無音区間への遷移を猶予するための制御変数HangCntを、例えば10にセットしておく(ステップS14)。
【0030】
次に、上述した図4において計算したフレームエネルギーe(f)が、しきい値trsより大きいか否かを判定する(ステップS15)。ここでe(f)がtrsより大きい場合には、HangCntの値を0にセットし(ステップS16)、続いて直前のフレームの有音/無音の状態を示す変数Prevの値が0か否かを判定する(ステップS17)。このPrevの値が0であれば、直前のフレームは無音フレームであったことを示し、Prevの値が1であれば、直前のフレームは有音フレームであったことを示すものである。ここでPrevが0であれば、有音区間の開始フレームを示す変数vb(VsCnt)に現在のフレームfの値をセットし、Prevに1をセットし、有音区間のカウント値を示す変数VsCntをインクリメントする(ステップS18)。一方、Prevが0でなければ何もせずにステップS19に行く。
【0031】
そして、ファイルが終端に達したか否かを判定し(ステップS19)、まだ終端でない場合には、変数fをインクリメントして(ステップS20)、次のフレームを読み出して上記ステップS15に戻って処理を繰返す。
【0032】
また、ステップS19においてファイルの終端に達したと判断された場合は、この処理を抜ける。
【0033】
また、上記ステップS15において、e(f)がしきい値trsより小さいと判定された場合には、HangCntの値が、例えば9より大きいか否かを判定し(ステップS21)、HangCntの値が9より小さいと判定されたときは、HangCntの値をインクリメントして(ステップS22)、上記ステップS17に行く。一方、HangCntの値が9より大きいと判定されたときは、Prevの値が1であるか否か、すなわち、直前のフレームが有音であったか否かを判定する(ステップS23)。ここで、Prevが1であれば、有音区間の終了フレームを示す変数ve(VsCnt)に現在のフレームfの値をセットし、Prevに0をセットし(ステップS24)、上記ステップS19に行く。一方、Prevが0であれば、何もしないで上記ステップS19に行く。
【0034】
この処理の結果、ファイル中の有音区間、無音区間の判定がされ、各有音区間が始まるフレームの値と、各有音区間が終了するフレームの値が、各々変数vb(VsCnt)、ve(VsCnt)に記憶される。ここで、変数VsCntは、有音区間の区間数をカウントする変数であり、この処理を抜けた時点で、ファイル中の有音区間の総区間数を示している。
【0035】
また、この処理のように変数HangCntを設定することにより有音区間から無音区間への遷移が所定フレーム分猶予されることになるため、語尾の部分を誤って無音と判定してしまうようなことを回避することができるという効果を奏する。
【0036】
続いて、図6は、上記図3のステップS3における有音区間毎の平均フレームエネルギー計算処理の内容を示すフローチャートである。
【0037】
この処理が始まると、まず、有音区間のカウント値を示す変数Cntの値を0に初期化しておく(ステップS25)。
【0038】
次に、図5の処理によって求められた有音区間の総区間数VsCntが0より大きいか否かを判定する(ステップS26)。ここでVsCntが0以下であれば、ファイル中に有音区間は存在しないと判断して、何もしないでこの処理を抜ける。一方、ここでVsCntが0より大きければ、以下の式を用いて有音区間Cntにおけるフレーム数vnを計算する(ステップS27)。
【0039】
【数2】
Figure 0004208312
【0040】
次に、この数式により有音区間Cntにおける平均フレームエネルギーEsec(Cnt)を計算する(ステップS28)。
【0041】
そして、CntがVsCnt−1に満たないか否か、すなわち、全ての有音区間に対して平均フレームエネルギーEsec(Cnt)の計算を終えていないか否かを判定し(ステップS29)、CntがVsCnt−1に満たないのであれば、Cntの値をインクリメントして(ステップS30)、上記ステップS27に戻って次の有音区間の平均フレームエネルギーEsec(Cnt)の計算処理を行う。一方、ステップS29においてCntの値がVsCnt−1以上であると判定されれば、この処理を抜ける。
【0042】
続いて、図7は、上記図3のステップS4における有音区間毎のゲイン計算処理の内容を示すフローチャートである。
【0043】
この処理が始まると、まず、有音区間のカウント値を示す変数Cntの値を0に初期化しておく(ステップS31)。次に、図5の処理によって求められた有音区間の総区間数VsCntが0より大きいか否かを判定する(ステップS32)。ここでVsCntが0以下であれば、ファイル中に有音区間は存在しないと判断して、何もしないでこの処理を抜ける。一方、ここでVsCntが0より大きければ、図6のステップS27と同様の方法により有音区間Cntにおけるフレーム数vnを計算する。
【0044】
次に、以下の式により、図6のステップS28で求めた、有音区間Cntにおける平均フレームエネルギーEsec(Cnt)の、ファイル中の全有音区間の平均値Eavrを計算する(ステップS33)。
【0045】
【数3】
Figure 0004208312
【0046】
次に、有音区間CntにおけるゲインG(Cnt)を、以下の式を用いて計算する(ステップS34)。
【0047】
【数4】
Figure 0004208312
【0048】
ここで、数式中、sqrt( )は、カッコ内の式の平方根を示している。そして、CntがVsCnt−1に満たないか否か、すなわち、全ての有音区間に対してゲインG(Cnt)の計算を終えていないか否かを判定し(ステップS35)、CntがVsCnt−1に満たないのであれば、Cntの値をインクリメントして(ステップS36)、上記ステップS34に戻って次の有音区間のゲインG(Cnt)の計算処理を行う。一方、ステップS35においてCntの値がVsCnt−1以上であると判定されれば、この処理を抜ける。
【0049】
続いて、図8は、上記図3のステップS5における音声レベルの調整処理の内容を示すフローチャートである。
【0050】
この処理が始まると、まず、フレーム番号のカウント値を示す変数fと、有音区間のカウント値を示す変数Cntの値を0に初期化しておく(ステップS37)。
【0051】
次に、図5の処理によって求められた有音区間の総区間数VsCntが0より大きいか否かを判定する(ステップS38)。ここでVsCntが0以下であれば、ファイル中に有音区間は存在しないと判断して、何もしないでこの処理を抜ける。
【0052】
一方、上記ステップS38において、VsCntが0より大きければ、fがvb(Cnt)の値以上であるか否かを判定する(ステップS39)。ここで、fがvb(Cnt)の値に満たないと判定すると、ファイルが終端に達したか否かを判定し(ステップS47)、まだ終端でない場合にはfをインクリメントして(ステップS48)、次のフレームデータを読み出して、ステップS39に戻る。このステップS47においてファイルの終端に達したと判断した場合は、この処理を抜ける。
【0053】
ステップS39においてfがvb(Cnt)の値以上であると判定すると、fはve(Cnt)の値以下であるか否かを判定する(ステップS40)。このとき、ステップS39、S40ともに判定がyesであれば、現在のfは有音区間内にあることを示している。
【0054】
ここで、fはve(Cnt)の値以下であると判定すると、ステップS41、S42、S43、S44の処理により、当該fにおけるサンプル値をゲインに基づいて調整する。すなわち、当該fにおけるサンプル位置iを0にセットしておき(ステップS41)、以下の式に示すようにサンプル値s(i)にゲインG(Cnt)を乗じてサンプル値s(i)を調整する(ステップS42)。
【0055】
【数5】
Figure 0004208312
【0056】
次に、iがN−1に満たないか否かを判定し(ステップS43)、iはN−1に満たないと判定すると、iをインクリメントして(ステップS44)、ステップS42に戻って処理を繰返す。
【0057】
一方、ステップS40においてfはve(Cnt)より大きいと判断すると、Cntをインクリメントする(ステップS45)。次に、CntがVsCnt−1に満たないか否か、すなわち、全ての有音区間に対して音声レベルの調整を終えていないか否かを判定し(ステップS46)、CntがVsCnt−1に満たなければ、ファイル終端に達したか否かを判定する(ステップS47)。一方、CntがVsCnt−1以上であれば、この処理を抜ける。
【0058】
上記した実施形態によれば、すでに記録されている音声データに対して、音声データ全体との関係において各有音区間の音声レベルを自動的に調整することで音声データ中の音量のばらつきをなくすことが可能となり、これによってユーザはボリュームを調整することなく音声を一定の音量で聞くことができるという効果を奏する。
【0059】
また、すでに記録されている音声データに対して音声認識をさせる場合にも、音声認識処理に先立って、本実施形態により音声レベルの調整処理を行えば、音声レベルが一定に保たれるために安定した音声認識を行うことが可能となるという効果を奏する。
【0060】
なお、本実施形態においては、パーソナルコンピュータ13により音声レベルの調整処理を行うようにしたが、音声録音装置としてのディジタルレコーダ10内において、音声レベルの調整処理を実現するようにしてもよい。
【0061】
なお、本発明は上述した実施形態に限定されるものではなく、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることはもちろんである。
【0062】
【発明の効果】
本発明によれば、聞く人に応じて音量をより適切な大きさに自動的に調節することができる音声処理装置を提供することができるという効果を奏する。
【図面の簡単な説明】
【図1】(A)は本実施形態に係る音声処理の一形態を説明するための図であり、(B)は制御部の構成を示す図である。
【図2】フレームの構成を示す図である。
【図3】本発明に係る音声レベルの調整処理の概要を示すフローチャートである。
【図4】図3に示すステップS1の有音/無音区間の判定時のしきい値計算処理の内容を示すフローチャートである。
【図5】図3のステップS2における有音/無音区間判定処理の内容を示すフローチャートである。
【図6】図3のステップS3における有音区間毎の平均フレームエネルギー計算処理の内容を示すフローチャートである。
【図7】図3のステップS4における有音区間毎のゲイン計算処理の内容を示すフローチャートである。
【図8】図3のステップS5における音声レベルの調整処理の内容を示すフローチャートである。
【符号の説明】
10…ディジタルレコーダ、
11…ミニチュアカード、
12…PCカードアダプタ、
13…パーソナルコンピュータ、
14…制御プログラム、
30A…音声判定部、
30B…平均フレームエネルギー計算部、
30C…音声レベル調整ゲイン計算部、
30D…音声レベル調整部。

Claims (1)

  1. 1つのファイルで構成され、複数のフレームからなる音声データ全体について、フレーム毎にその有音区間と無音区間とを判定する音声判定手段と、
    前記音声判定手段で判定された有音区間について、フレーム毎に各有音区間の平均フレームエネルギーを計算する平均フレームエネルギー計算手段と、
    前記平均フレームエネルギー計算手段により計算された各有音区間の平均フレームエネルギーの、全有音区間での全フレームに関する平均値に基づいて各有音区間の音声レベルを調整するための音声レベル調整ゲインを計算する音声レベル調整ゲイン計算手段と、
    前記音声レベル調整ゲイン計算手段により計算された各有音区間における音声レベル調整ゲインに基づいて、音声レベルを調整する音声レベル調整手段と、を具備することを特徴とする音声処理装置。
JP34850198A 1998-12-08 1998-12-08 音声処理装置 Expired - Fee Related JP4208312B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP34850198A JP4208312B2 (ja) 1998-12-08 1998-12-08 音声処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP34850198A JP4208312B2 (ja) 1998-12-08 1998-12-08 音声処理装置

Publications (2)

Publication Number Publication Date
JP2000174575A JP2000174575A (ja) 2000-06-23
JP4208312B2 true JP4208312B2 (ja) 2009-01-14

Family

ID=18397444

Family Applications (1)

Application Number Title Priority Date Filing Date
JP34850198A Expired - Fee Related JP4208312B2 (ja) 1998-12-08 1998-12-08 音声処理装置

Country Status (1)

Country Link
JP (1) JP4208312B2 (ja)

Also Published As

Publication number Publication date
JP2000174575A (ja) 2000-06-23

Similar Documents

Publication Publication Date Title
JP2955247B2 (ja) 話速変換方法およびその装置
AU719955B2 (en) Non-uniform time scale modification of recorded audio
JP4523257B2 (ja) 音声データ処理方法、プログラム及び音声信号処理システム
JP2010054991A (ja) 録音装置
US7283879B2 (en) Dynamic normalization of sound reproduction
US7143029B2 (en) Apparatus and method for changing the playback rate of recorded speech
JPH10260694A (ja) 話速変換装置、話速変換方法及び記録媒体
JP4208312B2 (ja) 音声処理装置
EP0817168A1 (en) Reproducing speed changer
JP2001184100A (ja) 話速変換装置
CN112885318A (zh) 多媒体数据生成方法、装置、电子设备及计算机存储介质
JP2000181477A (ja) 音声処理装置
US8457955B2 (en) Voice reproduction with playback time delay and speed based on background noise and speech characteristics
JP3393532B2 (ja) 録音音声の音量正規化方法およびこの方法を実施する装置
JP2734028B2 (ja) 音声収録装置
JP3223552B2 (ja) メッセージ出力装置
JP3365113B2 (ja) 音声レベル制御装置
JP2007256815A (ja) 音声再生装置、音声再生方法、音声再生プログラム
KR100359988B1 (ko) 실시간 화속 변환 장치
JPH11212595A (ja) 音声処理装置、音声認識プログラムを記録した記録媒体、処理プログラムを記録した記録媒体
JP2000132179A (ja) 録音音声データベース話速均一化方法及び装置及び話速均一化プログラムを格納した記憶媒体
JPH0883096A (ja) 音声時間軸変換装置
JP3267193B2 (ja) 音声読み上げ装置
WO2020066660A1 (ja) 情報処理方法、情報処理装置およびプログラム
JP2003076399A (ja) 多様な形態の音に音声を変調する装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080311

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080624

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080825

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080930

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081021

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121031

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131031

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees