JP3507090B2 - 音声処理装置及びその方法 - Google Patents

音声処理装置及びその方法

Info

Publication number
JP3507090B2
JP3507090B2 JP34586592A JP34586592A JP3507090B2 JP 3507090 B2 JP3507090 B2 JP 3507090B2 JP 34586592 A JP34586592 A JP 34586592A JP 34586592 A JP34586592 A JP 34586592A JP 3507090 B2 JP3507090 B2 JP 3507090B2
Authority
JP
Japan
Prior art keywords
note
reading
information
lyrics
pitch
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP34586592A
Other languages
English (en)
Other versions
JPH06195953A (ja
Inventor
俊明 深田
充 大塚
恭則 大洞
隆 麻生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP34586592A priority Critical patent/JP3507090B2/ja
Publication of JPH06195953A publication Critical patent/JPH06195953A/ja
Priority to US08/859,092 priority patent/US5806039A/en
Application granted granted Critical
Publication of JP3507090B2 publication Critical patent/JP3507090B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0008Associated control or indicating means
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0033Recording/reproducing or transmission of music for electrophonic musical instruments
    • G10H1/0041Recording/reproducing or transmission of music for electrophonic musical instruments in coded form
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/02Methods for producing synthetic speech; Speech synthesisers
    • G10L13/04Details of speech synthesis systems, e.g. synthesiser structure or memory management
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/08Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、マルチメディア機器等
において楽音・音声等のサウンド信号を生成するデータ
処理装置に関するものである。
【0002】
【従来の技術】従来、マルチメディア機器において、ス
ピーカ等により再生出力される楽音や音声等の信号(以
下「サウンド」と呼ぶ)と、ディスプレイ等により出力
される文字・画像等とを同期させて出力させる場合に
は、これらを同期させるための同期信号を別に生成し、
これを用いて同期をとっている。
【0003】また、楽音に歌詞を付ける場合には、人間
が認識できる程度につけておけばよいため、音符の下に
対応する歌詞を漢字仮名混じり、カタカナ、アルファベ
ット等で表記している。
【0004】
【発明が解決しようとする課題】しかしながら、上記従
来例では同期信号を新たに生成する必要があるため、機
器が扱うデータ量が増えるという問題がある。更に、機
械によって歌を歌わせようとした場合、上記の表記方法
では、読み方や音符の長さに関する情報が曖昧なため、
解析が不正確、且つ複雑となり、機械に正しく歌わせる
ことが困難である。
【0005】本発明は上記の問題に鑑みてなされたもの
であり、その目的とするところは、電子的な楽譜情報
基づいて、歌詞が付与された楽音を音声合成することを
簡単かつ正確に実現可能とすることにある。
【0006】
【0007】
【課題を解決するための手段】上記の目的を達成するた
めの本発明による音声処理装置は以下の構成を備える。
即ち、 電子的な楽譜情報に基づいて音声を合成する音声
処理装置であって、電子的な楽譜情報に従って表示され
た楽譜の各音符の玉の内部に読みを付与することによっ
て、各音符に読みを付与する読み付与手段と、 前記読み
付与手段によって読みが付与された楽譜情報から各音符
に付与された読みを歌詞情報として抽出する歌詞情報抽
出手段と、前記各音符の位置に基づいて当該音符の音程
を判断し、音程情報として抽出する音程情報抽出手段
と、前記各音符の形状に基づいて当該音符の音の長さを
判断し、音長情報として抽出する音長情報抽出手段と、
前記各音符について、音符に付与された前記歌詞情報
その音符から得られた前記音程情報及び前記音長情
とを関連づけたサウンドデータを生成し、該サウンド
データに基づいて歌詞が付与された楽音を音声合成する
音声合成手段とを備える。
【0008】また、上記の目的を達成する本発明の音声
処理方法は、 電子的な楽譜情報に基づいて音声を合成す
る音声処理方法であって、電子的な楽譜情報に従って表
示された楽譜の各音符の玉の内部に読みを付与すること
によって、各音符に読みを付与する読み付与工程と、
記読み付与工程によって読みが付与された楽譜情報から
各音符に付与された読みを歌詞情報として抽出する歌詞
情報抽出工程と、前記各音符の位置に基づいて当該音符
の音程を判断し、音程情報として抽出する音程情報抽出
工程と、前記各音符の形状に基づいて当該音符の音の長
さを判断し、音長情報として抽出する音長情報抽出工程
と、前記各音符について、音符に付与された前記歌詞情
その音符から得られた前記音程情報及び前記音長
情報とを関連づけたサウンドデータを生成し、該サウン
ドデータに基づいて歌詞が付与された楽音を音声合成す
る音声合成工程とを備える。
【0009】
【0010】
【作用】 上記 構成によれば、電子的な楽譜情報中の音符
の玉の中に読みが付与され、音符で表記された楽音(音
程、長さ)とこれに対応する読み(歌詞)が明瞭に関連
づけられる。音声合成に際しては、各音符の玉の中に付
された読みと、その音符が表す音程と長さの各情報を
抽出して関連づけることによりサウンドデータを生成
し、これに基づいて音声合成が行われる。
【0011】
【実施例】以下に添付の図面を参照して、本発明の好適
な実施例を説明する。
【0012】<実施例1>図1は本実施例1の音声/画
像出力装置の概略構成を表すブロック図である。図1に
おいて、1はCPUであり、本音声/画像出力装置にお
ける各種の制御を実行する。2はROMであり、CPU
1が実行する各種制御プログラムが格納されており、後
述の図4のフローチャートで表される制御プログラムも
ここに格納されている。3はRAMであり、CPU1が
各種の制御を実行する際に使用するデータ等を一時的に
保存する。4は入力部であり、キーボードにより構成さ
れる。ユーザは入力部4より各種データ、制御コマンド
等の入力を行う。5は外部記憶部であり、例えば磁気デ
ィスク等により構成される。外部記憶部5には、音声出
力のためのサウンドデータ5aや、画像データ5bが格
納されている。
【0013】6はサウンド合成部であり、外部記憶部5
より読み出したサウンドデータ5aよりサウンドの合成
を行い、サウンド信号としてスピーカ7へ出力する。7
はスピーカであり、サウンド合成部6より出力されたサ
ウンド信号を再生出力する。8は画像合成部であり、外
部記憶部5より読み出した画像データ5bをイメージデ
ータに展開してVRAM9に格納する。そして、VRA
M9に格納されたがイメージデータはディスプレイ10
に表示出力される。
【0014】次に、上記サウンドデータ5aについて説
明する。尚、本例では16bitPCMのサウンドデー
タを用いる。図2は従来のサウンドデータのデータ構造
を示す図であり、また、図3はサウンドデータ5aとし
て外部記憶部5に格納されるサウンドデータのデータ構
造を表す図である。
【0015】図2はもとのサウンドデータ、すなわち同
期信号挿入前のサウンドデータのデータ構造を表してお
り、図3は同期信号挿入後のサウンドデータのデータ構
造を表す。ここで、同期信号を挿入するビット位置(同
期信号ビット)は、人間の聴覚に最も影響を与えない部
分であり、本実施例では、図3の斜線部分がこれに相当
するビットである。そして、このサウンドデータの同期
信号ビットを抽出することにより、画像データ出力との
同期信号を得て、音声出力と画像出力との同期をとる。
【0016】次に、上記の16bitPCMのサウンド
データに同期信号を挿入する手順を図4のフローチャー
トに従って説明する。
【0017】まず、ステップS21においてオリジナル
のサウンドデータをロードする。オリジナルのサウンド
データは例えば外部記憶部5に予め格納されている。次
にステップS22において、同期信号を挿入するための
ビット(同期信号ビット)をクリアする。そして、ステ
ップS23において、文字、画像等のデータと同期させ
るべき同期点を選択する。次にステップS24におい
て、ステップS23で選択された同期点におけるサウン
ドデータの同期信号ビットをセットする。この処理の結
果、図3のサウンドデータの「時間3」及び時間「N−
1」の如く同期信号ビットがセットされる。そして、ス
テップS25において、他に同期させるべきサウンドデ
ータがあるか否かをチェックし、有ればステップS23
に戻り上述の処理を繰り返す。一方、同期すべきデータ
がなければ、ステップS26へ進み、同期信号付のサウ
ンドデータ(サウンドデータ5a)を外部記憶部5にセ
ーブして本処理を終了する。
【0018】以上説明した様に、本実施例の音声/画像
出力装置によれば、サウンドデータの1部のビットを同
期信号に用いるので、データ量を増やすことなく同期信
号を生成することができる。更に、同期信号に用いられ
る部分のビットは人間の聴覚に最も影響のないビットを
利用するので、同期信号付のサウンドデータを再生して
も、聴覚上ほとんど影響がない。
【0019】<実施例2>実施例2においては、機械に
歌を歌わせるために必要な解析を正確、且つ容易にする
ことが可能とする歌詞付き楽譜表示方式を用いた音声出
力装置を説明する。本実施例2の音声出力装置では、楽
音に歌詞を付ける際に、人間からも解析装置からも曖昧
さがなく、且つ分かりやすい表示方式を提供する。
【0020】図5は、実施例2の音声出力装置の概略構
成を表すブロック図である。同図において、21はCP
Uであり、本音声出力装置における各種の制御を行う。
22はROMであり、CPU21が実行する各種制御プ
ログラムが格納されている。後述の図7のフローチャー
トで表される制御プログラムもここに格納されている。
23はRAMであり、CPU21が制御を実行するに際
して、必要に応じて各種データを一時的に格納する。2
4は入力部であり、ユーザが各種データや制御コマンド
を入力する。25は外部記憶部であり、磁気ディスク等
で構成され、後述のサウンドデータ25aを格納する。
26はサウンド合成部であり、外部記憶部25より読み
出したサウンドデータ25aよりサウンド信号を生成
し、スピーカ28へ出力する。スピーカ27は、サウン
ド合成部26で生成されたサウンド信号を再生出力す
る。28はディスプレイであり、各種の表示を行う。
【0021】図6は、本実施例2による音符表示方法を
示し、ディスプレイ28上に表示された状態を表す図で
ある。MIDIデータ入力やステップ入力等により楽譜
を生成する。次に、この楽譜中の音符に応じた歌詞の読
みを各音符に対して平仮名で与え、これを図6に示す如
く該当する音符の中に表示する。このとき、全音符や2
分音符等の白玉の音符に対応する読みは黒字で示し、4
分音符や8分音符等の黒玉の音符の読みは白字で反転表
示する。個のような表示方法により、音程、長さ、読み
が1つの音符として正確に表記される。
【0022】図6の如く入力されたデータは図7に示さ
れるフローチャートに従って、解析される。先ず、ステ
ップS31において、解析すべき音符を1つ抽出し、ス
テップS32で、音符内に表記された文字(歌詞情報)
を読み出す。続いて、ステップS33において、抽出さ
れた音符の「玉」の5線譜上の位置を判断して、音程を
検出し、これを音程情報とする。更に、ステップS34
で音符の形状を識別して、その音の長さ情報を得る。そ
して、ステップS35で全ての音符に対して処理を完了
したかどうかを判断し、完了していなければステップS
31へ戻り、次の音符に対して上述の処理を行う。一
方、ステップS35で全ての処理が完了していれば、本
処理を終了する。
【0023】上述のフローチャートにより図6に示され
た音符は図8に示されるようなサウンドデータとして外
部記憶部25に格納される。図8はサウンドデータ25
aのデータ構成の1例を表す図である。歌詞情報25b
には歌詞の読みの情報が格納される。また、音程情報2
5cには、歌詞情報の各読みに対応した音程を表す情報
が格納される。更に、長さ情報25dには、例えば全音
符の長さを1とした場合の各音符の長さが格納される。
【0024】以上のようなサウンドデータより、サウン
ド合成部26は規則合成などの手法を用いて歌の合成を
行う。
【0025】以上説明したように本実施例2の音声出力
装置によれば、楽譜の音符の中にかしの読みを表記する
ことにより、機械に歌を歌わせるための解析を容易、且
つ正確に行うことができる。
【0026】尚、上記実施例2における表記方法では、
リズムや歌詞が異なる和声に対しても明確に表現を行う
ことが可能である。このような和声の一例を図9に示
す。そして、和声の場合、上側のパートのサウンドデー
タと下側のパートのサウンドデータを図8に示すような
データ構成で別々に生成する。そして、生成された2つ
のサウンドデータを同期して再生する。
【0027】尚、本発明は、複数の機器から構成される
システムに適用しても1つの機器から成る装置に適用し
ても良い。また、本発明は、システム或は装置にプログ
ラムを供給することによって達成される場合にも適用で
きることはいうまでもない。
【0028】以上説明したように、本実施形態のデータ
処理装置によれば、サウンドデータの一部を同期信号に
割り当てることにより、データ量を増やすことなく同期
信号を生成することが可能となる。また、本実施形態の
データ処理装置によれば、機械に歌を歌わせるための解
析を容易、且つ正確に行う楽譜表示方式が提供される。
【0029】
【発明の効果】以上説明したように、本発明の音声処理
装置及びその方法によれば、電子的な楽譜情報に基づい
て、歌詞が付与された楽音を音声合成することが簡単か
つ正確に実現できる。
【0030】
【図面の簡単な説明】
【図1】本実施例1の音声/画像出力装置の概略構成を
表すブロック図である。
【図2】同期信号挿入前のサウンドデータのデータ構造
を表す図である。
【図3】同期信号挿入後のサウンドデータのデータ構造
を表す図である。
【図4】サウンドデータに同期信号を挿入する手順を表
すフローチャートである。
【図5】実施例2の音声出力装置の概略構成を表すブロ
ック図である。
【図6】実施例2による音符表示方法を示す図である。
【図7】実施例2の音符表示内容を解析する手順を表す
フローチャートである。
【図8】実施例2のサウンドデータのデータ構造の1例
を表す図である。
【図9】和声における音符表示方法を示す図である。
【符号の説明】
1 CPU 2 ROM 3 RAM 4 入力部 5 外部記憶部 6 サウンド合成部 7 スピーカ 8 画像合成部 9 VRAM 10 ディスプレイ
───────────────────────────────────────────────────── フロントページの続き (72)発明者 麻生 隆 東京都大田区下丸子3丁目30番2号 キ ヤノン株式会社内 (56)参考文献 特開 平2−27397(JP,A) 特開 平4−205987(JP,A) 特開 昭59−167887(JP,A) 特開 昭54−140520(JP,A) 実開 平4−87878(JP,U) 特公 平3−53640(JP,B2) (58)調査した分野(Int.Cl.7,DB名) G11B 27/34 G10K 15/04 G10L 3/00

Claims (6)

    (57)【特許請求の範囲】
  1. 【請求項1】 電子的な楽譜情報に基づいて音声を合成
    する音声処理装置であって、電子的な楽譜情報に従って表示された楽譜の各音符の玉
    の内部に読みを付与することによって、各音符に読みを
    付与する読み付与手段と、 前記読み付与手段によって 読みが付与された楽譜情報
    各音符に付与された読みを歌詞情報として抽出する歌
    詞情報抽出手段と、 前記各音符の位置に基づいて当該音符の音程を判断し、
    音程情報として抽出する音程情報抽出手段と、 前記各音符の形状に基づいて当該音符の音の長さを判断
    し、音長情報として抽出する音長情報抽出手段と、前記各音符について、音符に付与された 前記歌詞情報
    その音符から得られた前記音程情報及び前記音長情
    とを関連づけたサウンドデータを生成し、該サウンド
    データに基づいて歌詞が付与された楽音を音声合成する
    音声合成手段とを備えることを特徴とする音声処理装
    置。
  2. 【請求項2】 前記読み付与手段は、各音符の玉の内部
    が白である場合には黒色文字で、黒である場合には白色
    文字で読みを付与することを特徴とする請求項に記載
    の音声処理装置。
  3. 【請求項3】 前記楽譜がそれぞれ歌詞の異なる和声を
    含み、前記読み付与手段は、当該和声の各音符の玉の内
    部に読みを付与することを特徴とする請求項に記載の
    音声処理装置。
  4. 【請求項4】 電子的な楽譜情報に基づいて音声を合成
    する音声処理方法であって、電子的な楽譜情報に従って表示された楽譜の各音符の玉
    の内部に読みを付与することによって、各音符に読みを
    付与する読み付与工程と、 前記読み付与工程によって 読みが付与された楽譜情報
    各音符に付与された読みを歌詞情報として抽出する歌
    詞情報抽出工程と、 前記各音符の位置に基づいて当該音符の音程を判断し、
    音程情報として抽出する音程情報抽出工程と、 前記各音符の形状に基づいて当該音符の音の長さを判断
    し、音長情報として抽出する音長情報抽出工程と、前記各音符について、音符に付与された 前記歌詞情報
    その音符から得られた前記音程情報及び前記音長情
    とを関連づけたサウンドデータを生成し、該サウンド
    データに基づいて歌詞が付与された楽音を音声合成する
    音声合成工程とを備えることを特徴とする音声処理方
    法。
  5. 【請求項5】 前記読み付与工程では、各音符の玉の内
    が白である場合には黒色文字で、黒である場合には白
    色文字で読み付与されることを特徴とする請求項
    記載の音声処理方法。
  6. 【請求項6】 前記楽譜がそれぞれ歌詞の異なる和声を
    含み、前記読み付与工程では、当該和声の各音符の玉の
    内部に読みを付与することを特徴とする請求項に記載
    の音声処理方法。
JP34586592A 1992-12-25 1992-12-25 音声処理装置及びその方法 Expired - Fee Related JP3507090B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP34586592A JP3507090B2 (ja) 1992-12-25 1992-12-25 音声処理装置及びその方法
US08/859,092 US5806039A (en) 1992-12-25 1997-05-20 Data processing method and apparatus for generating sound signals representing music and speech in a multimedia apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP34586592A JP3507090B2 (ja) 1992-12-25 1992-12-25 音声処理装置及びその方法

Publications (2)

Publication Number Publication Date
JPH06195953A JPH06195953A (ja) 1994-07-15
JP3507090B2 true JP3507090B2 (ja) 2004-03-15

Family

ID=18379523

Family Applications (1)

Application Number Title Priority Date Filing Date
JP34586592A Expired - Fee Related JP3507090B2 (ja) 1992-12-25 1992-12-25 音声処理装置及びその方法

Country Status (2)

Country Link
US (1) US5806039A (ja)
JP (1) JP3507090B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3319211B2 (ja) * 1995-03-23 2002-08-26 ヤマハ株式会社 音声変換機能付カラオケ装置
JP4059410B2 (ja) 1998-10-07 2008-03-12 株式会社バンダイナムコゲームス ゲーム装置及び情報記憶媒体
JP2004205605A (ja) * 2002-12-24 2004-07-22 Yamaha Corp 音声および楽曲再生装置およびシーケンスデータフォーマット
EP1831859A1 (en) * 2004-12-15 2007-09-12 Museami, Inc. System and method for music score capture and synthesized audio performance with synchronized presentation
WO2008095190A2 (en) * 2007-02-01 2008-08-07 Museami, Inc. Music transcription
JP2010518459A (ja) * 2007-02-14 2010-05-27 ミューズアミ, インコーポレイテッド 配布オーディオファイル編集用ウェブポータル
WO2009103023A2 (en) 2008-02-13 2009-08-20 Museami, Inc. Music score deconstruction
US8626497B2 (en) * 2009-04-07 2014-01-07 Wen-Hsin Lin Automatic marking method for karaoke vocal accompaniment
JP6305275B2 (ja) * 2014-08-21 2018-04-04 株式会社河合楽器製作所 電子楽器における音声アシスト装置及びプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3575555A (en) * 1968-02-26 1971-04-20 Rca Corp Speech synthesizer providing smooth transistion between adjacent phonemes
JPS5681900A (en) * 1979-12-10 1981-07-04 Nippon Electric Co Voice synthesizer
US4731847A (en) * 1982-04-26 1988-03-15 Texas Instruments Incorporated Electronic apparatus for simulating singing of song

Also Published As

Publication number Publication date
US5806039A (en) 1998-09-08
JPH06195953A (ja) 1994-07-15

Similar Documents

Publication Publication Date Title
JP3102335B2 (ja) フォルマント変換装置およびカラオケ装置
CN106898340B (zh) 一种歌曲的合成方法及终端
US5889224A (en) Karaoke scoring apparatus analyzing singing voice relative to melody data
JP2921428B2 (ja) カラオケ装置
JP2003509729A (ja) ディジタル音楽ファイルに基づいて楽器を演奏するための方法及び装置
JP2838977B2 (ja) カラオケ装置
JP3507090B2 (ja) 音声処理装置及びその方法
JPH0784587A (ja) 表示制御装置
JP4748568B2 (ja) 歌唱練習システムおよび歌唱練習システム用プログラム
JP5014073B2 (ja) メロディ表示制御装置及びカラオケ装置
JP3116937B2 (ja) カラオケ装置
JP3307283B2 (ja) 歌唱音合成装置
JP2002041074A (ja) ボーカルデータ生成装置および歌唱装置
CN115619897A (zh) 图像处理方法、装置、电子设备及存储介质
JPH07152369A (ja) マルチメディア制御装置
JP5969421B2 (ja) 楽器音出力装置及び楽器音出力プログラム
JP2001042879A (ja) カラオケ装置
JPH1039739A (ja) 演奏再現装置
JP4154758B2 (ja) カラオケ装置
JP2936619B2 (ja) カラオケ装置
JP2002221978A (ja) ボーカルデータ生成装置、ボーカルデータ生成方法および歌唱音合成装置
JP3265995B2 (ja) 歌唱音声合成装置及び方法
JP2904045B2 (ja) カラオケ装置
JP2002182675A (ja) 音声合成装置、ボーカルデータ生成装置および歌唱装置
JP2002268637A (ja) 拍子判定装置、及びプログラム

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20031201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20031218

LAPS Cancellation because of no payment of annual fees