JP3966112B2 - 歌唱力評価機能付カラオケ機能を有する携帯端末装置 - Google Patents

歌唱力評価機能付カラオケ機能を有する携帯端末装置 Download PDF

Info

Publication number
JP3966112B2
JP3966112B2 JP2002221866A JP2002221866A JP3966112B2 JP 3966112 B2 JP3966112 B2 JP 3966112B2 JP 2002221866 A JP2002221866 A JP 2002221866A JP 2002221866 A JP2002221866 A JP 2002221866A JP 3966112 B2 JP3966112 B2 JP 3966112B2
Authority
JP
Japan
Prior art keywords
evaluation
function
singing
karaoke
music
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002221866A
Other languages
English (en)
Other versions
JP2004061968A (ja
Inventor
保之 村木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2002221866A priority Critical patent/JP3966112B2/ja
Publication of JP2004061968A publication Critical patent/JP2004061968A/ja
Application granted granted Critical
Publication of JP3966112B2 publication Critical patent/JP3966112B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Reverberation, Karaoke And Other Acoustics (AREA)
  • Telephone Function (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、歌唱力評価機能付カラオケ機能を有する携帯端末装置に関する。
【0002】
【従来の技術】
従来より、カラオケ装置は飲食店や家庭等において広く用いられ、近年では、携帯電話機のような携帯端末装置においても、カラオケ機能を付加した機種が開発されている。このカラオケ機能を有する携帯電話機には、楽曲の再生と歌詞の表示だけではなく、マイクとスピーカを利用して、スピーカからカラオケ楽曲を放音するとともに、マイクから利用者の歌声の入力を受け、さらに入力された利用者の歌声とカラオケ楽曲をミキシングしてスピーカから放音し、専用のカラオケ装置と同様の機能をもたせているものもある。
一方、専用のカラオケ装置では、歌唱力を評価する機能として歌唱力の採点機能をもつものが一般的になってきている。また、携帯電話機においても、例えば、特開2001−197168号公報等には、カラオケ機能と歌唱力の採点機能を有する携帯電話機の発明が開示されている。
しかしながら、従来のこの種の採点機能付きカラオケ装置はその採点結果を単に表示するのみであった。
【0003】
また、従来の一般的なカラオケ装置においては、演奏終了後に採点結果が表示されるのみであるため、具体的に楽曲中のどの個所の歌唱が悪かったのかを歌唱者が把握できないといった問題があった。
このような問題を解決する技術として、特開平4−13176号公報に「音高差表示機能付きカラオケ装置」が開示されている。これは、基準となる歌唱旋律の音高と、マイクロフォンから入力される歌唱音声の音高との差を、楽曲演奏中に随時、グラフ等の形式によってディスプレイ装置に表示する機能を備えたカラオケ装置である。
しかしながら、上記音高差表示機能付きカラオケ装置においては、楽曲演奏中に歌詞表示と上記音高差を示すグラフ等とが同時に表示されるため、歌詞表示が見にくくなるといった問題があった。
特に、携帯電話機のような、その利用形態から小型である携帯端末装置にカラオケ機能と歌唱力の採点機能をもたせた場合では、上記問題は一層深刻なものとなる。
【0004】
【発明が解決しようとする課題】
本発明は、上記の点に鑑みてなされたもので、歌唱力の評価結果をリアルタイムに歌唱者に分かりやすい方法で伝えることができる歌唱力評価機能付カラオケ機能を有する携帯端末装置を提供するものである。
【0005】
【課題を解決するための手段】
上記の課題を解決するために、請求項1に記載の発明は、基地局と無線により送受信を行う通信部と、前記通信部による通話時の音声およびカラオケモード時の音声を入力するマイクロフォンと、前記通信部による着信を点滅で知らせる発光素子と、表示部と、楽曲データを再生して楽曲を生成する楽曲再生手段と、前記マイクロフォンから入力した音声信号に基づいて歌唱力を評価する評価手段と、を具備する歌唱力評価機能付カラオケ機能を有する携帯端末装置において、前記表示部は、前記評価手段による評価結果を表示し、前記発光素子は、前記評価手段により評価された歌唱力の程度に応じた周期で点滅することを特徴とする。
【0006】
また、請求項2に記載の発明は、基地局と無線により送受信を行う通信部と、前記通信部による通話時の音声およびカラオケモード時の音声を入力するマイクロフォンと、前記通信部による着信を振動で知らせるバイブレータと、表示部と、楽曲データを再生して楽曲を生成する楽曲再生手段と、前記マイクロフォンから入力した音声信号に基づいて歌唱力を評価する評価手段と、を具備する歌唱力評価機能付カラオケ機能を有する携帯端末装置において、前記表示部は、前記評価手段による評価結果を表示し、前記バイブレータは、前記評価手段により評価された歌唱力の程度に応じた周期で振動することを特徴とする。
【0007】
前記歌唱力評価機能付カラオケ機能を有する携帯端末装置は、歌唱者の歌唱力を評価するが、その評価結果に応じて、すなわち、歌唱者の歌唱力の程度に応じて、発光素子の点滅パターンを変え、または、バイブレータの振動パターンを変える。この点滅パターンまたは振動パターンの変更は、その点滅または振動の周期を変えることで行うことが望ましい。例えば、歌唱者の歌声がお手本の音声に近い場合は、点滅の周期または振動の周期を長くし、お手本の音声からのずれが大きい場合は、点滅の周期または振動の周期を短くする。このように発光素子の点滅やバイブレータの振動のパターンを変化させることにより、歌唱者は、携帯端末装置のような小型の機器であっても、リアルタイムに、自身の歌唱力の程度を容易に認識することができる。
【0008】
【発明の実施の形態】
以下、本発明の一実施の形態である携帯電話機について図面を参照して説明する。図1は、本実施の形態の携帯電話機の概略構成を示すブロック図である。
【0009】
同図において、携帯電話機1は、アンテナ11と、アンテナ11を介して基地局(図示せず)と無線送信/受信を行う通信部12と、マイク13から入力した音声を符号化し、あるいは入力したデジタル信号を復号化する音声処理部14と、楽曲データの再生と再生した楽曲信号およびマイク13から入力された音声信号のミキシングと着信音の形成をする楽曲再生部15と、着信音の放音ならびに楽曲再生部15においてミキシングされた楽曲と音声(歌声)の放音をするスピーカ16と、歌唱者の歌唱力を評価し、その評価結果を出力する評価パラメータ抽出部17と、液晶表示パネル(LCD)18と、電話番号や機能選択を入力する入力部19と、データ記憶用のRAM(ランダム・アクセス・メモリ)20と、通信プログラムなどを格納するROM(リード・オンリ・メモリ)21と、着信を点滅により知らせると供に、歌唱力の評価結果も知らせるLED(Light Emitting Diode)22と、着信を振動で知らせると供に、歌唱力の評価結果も知らせるバイブレータ23と、通信プログラム等を実行し各部の動作を制御するCPU(中央処理装置)24とから構成される。各部はバス10によりCPU・24へ接続されている。
【0010】
上記の構成をさらに説明すると、通信部12は、音声処理部14から入力したデジタル信号により変調した信号をアンテナ11を介して基地局へ送信する。また、アンテナ11を介して、受信した無線信号を復調してそのデジタル信号を出力する。変復調方式には、無線周波数の利用率を良くするため、QPSK(4相位相変調)などが用いられる。また、TDD(時分割双方向通信)方式が用いられている場合は、送受信に同一周波数を用いて、送信と受信は時分割で行われる。その他、CDMA(符合分割多重接続)方式やPDC(Personal Digital Cellular System)方式などを用いてもよい。
【0011】
また、RAM・20にはユーザ設定データ格納エリア、CPU・24のワークエリア、無線通信回線を介してダウンロードした楽曲データの格納エリアなどが設定される。また、ROM・21は、CPU・24が実行する発信/着信処理の通信プログラムや楽曲再生処理を補助する処理などのプログラムを格納する。入力部19は、数値キーおよびコードキーからなるテンキーやジョグダイヤルなどから構成される入力手段である。通常の通話のための操作のほかに楽曲データの配信要求、カラオケモードON/OFF、楽曲番号選択、楽曲再生スタート/ストップなどの操作入力ができる。LCD・18は、電話機能のメニュー、テンキーやジョグダイヤルなどのボタン操作に応じた表示、楽曲の歌詞、グラフィックス、評価結果(評価値)などを表示する。
【0012】
ここで、楽曲データについて説明する。
本実施の形態で用いる楽曲データには、楽曲として再生する音色データとテンポデータとお手本ボーカル音声データ(お手本ボーカル音程データ及びお手本ボーカル音量データ)と、LCD・18に表示する歌詞データとグラフィクスデータを含んでいる。楽曲データ中の音色データは、波形パラメータ、エンベロープパラメータ、変調パラメータ、エフェクトパラメータ、その他のパラメータからなり、それぞれのパラメータは各音色に特有のパラメータとされている。各音色データにおける波形パラメータは、音色に対応する楽音波形を指示しており、例えば楽曲再生部15に備わる音源部(図示せず)が波形テーブルを有するPCM音源とされている場合は、波形テーブルの何れかの波形を指示するパラメータとされ、音源部がFM音源とされている場合は、FM演算のアルゴリズムを指示するパラメータとされる。上記エンベロープパラメータは、アタックレート、ディケイレート、サスティンレベル、リリースレートなどのパラメータであり、上記変調パラメータはビブラートやトレモロの深さや早さのパラメータであり、また、上記エフェクトパラメータはリバーブ、コーラス、バリエーションなどのパラメータである。
【0013】
次に、図2を参照して評価パラメータ抽出部17の説明を行う。
先ず、マイク13(図1)から出力される歌唱者の音声信号と、再生された楽音信号(楽曲再生部15の出力)は前処理部17aに入力される。前処理部17aでは入力された音声信号を音声帯域のフィルタを通し、高域および低域の雑音を除去し、歌唱者音声信号として出力する。また、この前処理部17aは、入力された楽音信号からお手本ボーカル音声信号を抽出する。すなわち、音声多重方式の場合、左側チャネル信号には伴奏が記録されており、右側チャネル信号には伴奏および音声が記録されている。そこで、前処理部17aは、右側チャネル信号から左側チャネル信号を減算することにより、音声信号を抽出する。次いで、抽出した音声信号を音声帯域のフィルタを通過させて高域および低域の雑音を除去し、お手本ボーカル音声信号として出力する。
【0014】
音程抽出部17bは、まず、前処理部17aから供給された歌唱者音声信号およびお手本ボーカル音声信号の各々からピッチを抽出する。ピッチ抽出の手法としては、周知のゼロクロス間隔検出法、自己相関法またはそれらの組み合わせ法などを用いることができる。ピッチ抽出された各音声信号はそれぞれ、低域通過フィルタでビブラート成分が除去された後、音程データに変換される。
【0015】
即ち、抽出されたピッチの逆数である周波数fは、基本周波数32.7032Hzからのずれとして次式のように表される。
f=32.7032×2(P+Q/12) [Hz]…(1)
ここで、Pはオクターブデータであり、Qは半音階データである。従って、音程データは、次式に基づいて算出される。
P+(Q/12)=log2(f/32.7032)…(2)
なお、オクターブデータPは整数で、Qの絶対値が最小となるように決められる。このように音程データに変換するのは、聴覚特性にマッチングした比較をすることができるからである。そして、上述した処理によって得られた歌唱者音程データおよびお手本ボーカル音程データが各々評価部17dへ出力される。
【0016】
また、音量抽出部17cは、入力された歌唱者音声信号とお手本ボーカル音声信号の各々の振幅値を絶対値化し、さらに、平滑化して音量データを生成し、歌唱者音量データおよびお手本ボーカル音量データとして評価部17dへ出力する。評価部17dは、入力された歌唱者音程データとお手本ボーカル音程データとを一定周期または再生音声信号から抽出したピッチに基づく比較タイミング信号に基づいて比較する。そして、両者が概ね一致していればカウンタがカウントアップし、このカウント値から音程データの一致度を算出する。同様にして、歌唱者音量データとお手本ボーカル音量データを上述した比較タイミング信号に同期して比較し、両者が概ね一致していればカウンタがカウントアップし、このカウント値から音量データの一致度を算出する。
【0017】
更に、再現性のある機械的な比較処理だけではなく、主観的評価に近づけるように乱数が生成される。そして、音程データの一致度、音量データの一致度および乱数は、音程重視パラメータα、音量重視パラメータβおよび乱数重視パラメータγを乗算した後、加算される。各パラメータα、β、γは、パラメータ設定部17eによってα+β+γ=1を満たすように任意の割合で調整可能になっている。この加算値を評価値に変換し、この評価値に応じた周期で、バイブレータ23を振動させるか、または、LED・22を点滅させる。もちろんバイブレータ23の振動とLED・22の点滅を同時にさせてもよい。
なお、この周期は、歌唱者(人)が振動や点滅の変化を認識できる範囲で、評価値と対応づけられている。また、上記評価値またはこの評価値をグラフ化した図あるいはこの評価値の変化に応じて変化する所定のキャラクタ図を、LCD・18に表示させるようにしてもよい。
【0018】
また、評価パラメータ抽出部17について、楽曲データからお手本ボーカル音声信号を抽出して評価する方法を説明したが、一般的には、楽曲データが音声信号を含まず伴奏データのみの場合がある。この場合、楽曲データに時系列に並んだ音程データと音量データからなる評価基準用パラメータが付加されているものとする。この場合、評価パラメータ抽出部17は歌唱者音声信号から音程データと音量データを抽出してCPU・24へ出力する。CPU・24は入力したデータと前記評価基準用パラメータを比較して歌唱力の評価を行う。
【0019】
次に、上述した本実施の形態の携帯電話機1において、楽曲を再生しこの楽曲を歌唱者の歌声とミキシングして放音するとともに、歌唱者の歌唱力を評価するカラオケモードについてその動作を説明する。なお、以下では、楽曲データは予めRAM・20に格納されているものとする。
【0020】
先ず、ユーザが入力部19のカラオケモードを選択するキー操作を行い(ステップS01)、次いで、入力部19から所望の楽曲番号を入力し(ステップS02)、演奏スタートを指示するキー操作を行うと(ステップS03)、入力部19から入力された楽曲番号により、CPU・24は、RAM・20に格納されている楽曲データを読み出す(ステップS04)。RAM・20から読み出された楽曲データは、バス10を介して楽曲再生部15に設定される(ステップS05)。そして、楽曲再生部15により楽曲データの再生がスタートする(ステップS06)。
【0021】
一方、歌唱者はマイク13から音声信号を入力する。入力された音声信号は、再生された上記楽音信号とミキシングされる。ミキシングされた一方の出力は、所定のレベルに調整されてスピーカ16から放音される(ステップS06)。このとき、CPU・24は、楽曲データ中の歌詞データおよびグラフィックスデータを楽曲の再生処理と同期させてLCD・18へ送り、表示させる(ステップS06’)。
【0022】
他方、評価パラメータ抽出部17は、音声処理部14を介してマイク13から入力した歌唱者の音声信号と楽曲再生部15で再生された楽音信号を受ける。評価パラメータ抽出部17は、入力された音声信号から歌唱者音程データと歌唱者音量データを抽出し、また、楽音信号からお手本ボーカル音程データ、お手本ボーカル音量データとを抽出する。そして、両音声の音程データと音量データを比較し、その一致度から歌唱者の評価値を算出する(ステップS07)。CPU・24は、楽曲再生のタイミングと合わせて、評価パラメータ抽出部17により算出された評価値に応じたパターンで、バイブレータ23を振動させるか、または、LED・22を点滅させる(ステップS08)。ここで、歌唱者の歌声がお手本の音声に近い場合に評価結果の評価値が高いものとすると、例えば、歌唱者の評価値が高い場合には、点滅の周期または振動の周期を長くし、評価値が低い場合は、点滅の周期または振動の周期を短くして、歌唱者の歌唱力の程度をリアルタイムに知らせる。
【0023】
以上、この発明の実施形態を、図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の構成等も含まれる。上記実施の形態では、携帯電話機を例として説明したが、本発明は、例えば、歌唱力評価機能付カラオケ機能を有する、PHS(登録商標)(Personal Handyphone System)端末や、携帯情報端末(PDA)等にも適用できる。
【0024】
【発明の効果】
以上説明したように、本発明によれば、歌唱力評価機能付カラオケ機能を有する携帯端末装置において、評価手段により評価された歌唱力の程度に応じて、前記携帯端末装置に備わる発光素子の点滅パターンまたは前記携帯端末装置に備わるバイブレータの振動パターンを変えるので、携帯端末装置のような小型の機器であっても、歌唱者は、発光素子の点滅やバイブレータの振動の変化によって、リアルタイムに、自身の歌唱力の程度を容易に認識することができ、そのカラオケ機能と歌唱力評価機能とを利用し楽しむことができる。
【図面の簡単な説明】
【図1】 本発明の一実施の形態である携帯電話機の構成を示すブロック図である。
【図2】 図1における評価パラメータ抽出部17の構成を示すブロック図である。
【図3】 同実施の形態の携帯電話機のカラオケモードについてその動作を説明するシーケンス図である。
【符号の説明】
1…携帯電話機(携帯端末装置)、10…バス、11…アンテナ、12…通信部、13…マイク(マイクロフォン)、14…音声処理部、15…楽曲再生部(楽曲再生手段、合成手段)、16…スピーカ(発音手段)、17…評価パラメータ抽出部(評価手段)、18…LCD、19…入力部、20…RAM、21…ROM、22…LED(発光素子)、23…バイブレータ(バイブ)、24…CPU(中央処理装置)、17a…前処理部、17b…音程抽出部、17c…音量抽出部、17d…評価部、17e…パラメータ設定部

Claims (2)

  1. 基地局と無線により送受信を行う通信部と、前記通信部による通話時の音声およびカラオケモード時の音声を入力するマイクロフォンと、前記通信部による着信を点滅で知らせる発光素子と、表示部と、楽曲データを再生して楽曲を生成する楽曲再生手段と、前記マイクロフォンから入力した音声信号に基づいて歌唱力を評価する評価手段と、を具備する歌唱力評価機能付カラオケ機能を有する携帯端末装置において、
    前記表示部は、前記評価手段による評価結果を表示し、
    前記発光素子は、前記評価手段により評価された歌唱力の程度に応じた周期で点滅する
    ことを特徴とする歌唱力評価機能付カラオケ機能を有する携帯端末装置。
  2. 基地局と無線により送受信を行う通信部と、前記通信部による通話時の音声およびカラオケモード時の音声を入力するマイクロフォンと、前記通信部による着信を振動で知らせるバイブレータと、表示部と、楽曲データを再生して楽曲を生成する楽曲再生手段と、前記マイクロフォンから入力した音声信号に基づいて歌唱力を評価する評価手段と、を具備する歌唱力評価機能付カラオケ機能を有する携帯端末装置において、
    前記表示部は、前記評価手段による評価結果を表示し、
    前記バイブレータは、前記評価手段により評価された歌唱力の程度に応じた周期で振動する
    ことを特徴とする歌唱力評価機能付カラオケ機能を有する携帯端末装置。
JP2002221866A 2002-07-30 2002-07-30 歌唱力評価機能付カラオケ機能を有する携帯端末装置 Expired - Fee Related JP3966112B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002221866A JP3966112B2 (ja) 2002-07-30 2002-07-30 歌唱力評価機能付カラオケ機能を有する携帯端末装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002221866A JP3966112B2 (ja) 2002-07-30 2002-07-30 歌唱力評価機能付カラオケ機能を有する携帯端末装置

Publications (2)

Publication Number Publication Date
JP2004061968A JP2004061968A (ja) 2004-02-26
JP3966112B2 true JP3966112B2 (ja) 2007-08-29

Family

ID=31942059

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002221866A Expired - Fee Related JP3966112B2 (ja) 2002-07-30 2002-07-30 歌唱力評価機能付カラオケ機能を有する携帯端末装置

Country Status (1)

Country Link
JP (1) JP3966112B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006037198A1 (en) * 2004-10-01 2006-04-13 Audiobrax Indústria E Comércio De Produtos Eletrônicos S.A. Portable electronic device for instrumental accompaniment and evaluation of sounds
EP1803114A2 (en) * 2004-10-01 2007-07-04 Audiobrax Indústria E Comércio De Produtos Eletrônicos S.A. Rhythmic device for the production, playing, accompaniment and evaluation of sounds
JP2007156330A (ja) * 2005-12-08 2007-06-21 Taito Corp 相性判断機能付きカラオケ装置
US8098831B2 (en) * 2008-05-15 2012-01-17 Microsoft Corporation Visual feedback in electronic entertainment system
US8380119B2 (en) 2008-05-15 2013-02-19 Microsoft Corporation Gesture-related feedback in eletronic entertainment system
JP5724849B2 (ja) * 2011-11-29 2015-05-27 ブラザー工業株式会社 携帯端末装置用プログラム、携帯端末装置、及び表示方法
CN109714659A (zh) * 2018-12-27 2019-05-03 深圳市好兄弟电子有限公司 一种无线麦克风、无线麦克风系统及控制方法
CN109862454B (zh) * 2018-12-27 2024-01-09 深圳市好兄弟电子有限公司 无线麦克风、无线麦克风系统及控制方法

Also Published As

Publication number Publication date
JP2004061968A (ja) 2004-02-26

Similar Documents

Publication Publication Date Title
KR100517536B1 (ko) 작곡 기능을 구비한 휴대 전화기, 악곡 작곡 방법, 및 악곡 작곡 프로그램을 기록한 기록매체
KR100469215B1 (ko) 전화단말장치
US6963761B2 (en) System and method for sounding a music accompanied by light or vibration
CN100452808C (zh) 电话终端装置和通信方法
JP3690224B2 (ja) 携帯電話機および携帯電話システム
JP3966112B2 (ja) 歌唱力評価機能付カラオケ機能を有する携帯端末装置
JP3775156B2 (ja) 携帯電話機
US6859530B1 (en) Communications apparatus, control method therefor and storage medium storing program for executing the method
KR100578588B1 (ko) 악곡 재생장치
JPH11242490A (ja) 鳴動メロディ用の音楽生成データを供給するカラオケ演奏装置
KR100566460B1 (ko) 전화 단말 장치
JP3956263B2 (ja) 電話装置
KR100555092B1 (ko) 휴대 통신 단말
JP3539328B2 (ja) 電話端末装置
JP2002049368A (ja) 音楽基準確認機能付きの携帯電話
JP3279298B2 (ja) 楽曲再生装置、楽曲再生機能を備える携帯電話装置、および楽曲再生方法
GB2380908A (en) Sounding music accompanied by vibration, for eg a phone terminal
JP2001339487A (ja) 携帯通信端末装置
JP3821352B2 (ja) 電話端末装置
JP2002135366A (ja) バイブレータ制御装置
KR100775285B1 (ko) 멜로디 제작 시스템 및 방법
KR20050050689A (ko) 이동통신단말기에서의 메트로놈 기능의 작동방법
JP2004085821A (ja) 音量制御装置及びプログラム
JP2001148882A (ja) 移動無線端末装置
JP2006230004A (ja) メロディ音再生装置および再生方法およびそれを用いた携帯電話器

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070521

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100608

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110608

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120608

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120608

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130608

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees