JP3937937B2 - 音声認識装置及びその方法 - Google Patents

音声認識装置及びその方法 Download PDF

Info

Publication number
JP3937937B2
JP3937937B2 JP2002174071A JP2002174071A JP3937937B2 JP 3937937 B2 JP3937937 B2 JP 3937937B2 JP 2002174071 A JP2002174071 A JP 2002174071A JP 2002174071 A JP2002174071 A JP 2002174071A JP 3937937 B2 JP3937937 B2 JP 3937937B2
Authority
JP
Japan
Prior art keywords
voice
feature data
speaker
voice feature
voice recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002174071A
Other languages
English (en)
Other versions
JP2004020797A (ja
Inventor
利文 加藤
英夫 宮内
一郎 赤堀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2002174071A priority Critical patent/JP3937937B2/ja
Publication of JP2004020797A publication Critical patent/JP2004020797A/ja
Application granted granted Critical
Publication of JP3937937B2 publication Critical patent/JP3937937B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、音声認識手段を備えた音声認識装置およびその方法に関するものである。
【0002】
【従来の技術】
従来、話者の音声の特徴を抽出し、それを利用する音声認識手段を備えた音声認識装置としては車載ナビゲーション装置の他、多数に利用されている。
【0003】
【発明が解決しようとする課題】
しかし、1つの音声認識装置に備わる音声特徴データ抽出手段が抽出した音声特徴データは他の音声認識装置が備える音声認識手段に利用する事が出来ない。
【0004】
よって、話者は複数の音声認識装置を利用する際は、個々の装置で発話音声の特徴を抽出し、音声認識手段がその音声特徴データを利用出来る環境を整える作業、すなわち話者適応を行わなければならず不便である。
【0005】
上述の話者適応とは、話者固有の音声の特徴を学習するもので、音声認識手段を利用する前に話者が複数の単語を発声し、その発声を用いて話者専用の音響モデルを作成する事を言う。前述の音声認識手段は話者専用の音響モデルを用いて音声認識を行う事になる。
【0006】
以前の話者適応は声道長正規化や話者クラスタ選択など、1文程度の文章を話者に発話させる事で適応音声を取得するものが多かったが、現在では不特定話者と特定話者の音響特徴の違いを統計的に演算する為、数文から数十文の適応音声を取得するのが一般的である。
【0007】
また、人間の音声は日々の体調その他の要件、または成長期による変声期等でその特徴は異なる性質があり常に一定ではない。音声認識手段は話者が当該手段を利用する直前に前述の話者適応を行い、音声認識手段が最新の音声特徴データを利用出来る環境を整える事が最も高い音声認識率の実現を期待出来る事が知られている。
【0008】
しかし音声認識手段を利用する直前にいちいち前述の話者適応を行わなければならないのは不便である。
【0009】
本発明は上記の点を鑑みてなされたものである。すなわち音声認識手段への話者適応をスムーズにし、話者が変更したり話者の声の特徴に変化等が生じた場合でも音声認識性能の維持、向上が可能な音声認識装置及びその方法を提供する事を目的とする。
【0010】
【課題を解決するための手段】
請求項1記載の発明では、第一の音声特徴データを保持する第一の音声特徴データ保持手段を有し、前記第一の音声特徴データを利用して音声認識を行う音声認識手段と、前記音声認識手段と通信可能な携帯型の電話手段とを備え、前記電話手段は、話者の音声を入力する音声入力手段と、前記音声入力手段で入力した話者の発話音声の特徴を抽出する音声特徴データ抽出手段と、前記音声特徴データ抽出手段で抽出した音声特徴データを保持する第二の音声特徴データ保持手段とを有し、前記電話手段が前記音声認識手段と通信可能な状態に置かれた時、前記第二の音声特徴保持手段内に保持された前記音声特徴データが前記第一の音声特徴保持手段内に送信、保持され、音声認識手段は、第一の音声特徴データ保持手段内に保持されたより最新の音声特徴データを利用して音声認識を行う事を特徴とする。
【0011】
この発明により、電話手段は話者が携帯して利用するため比較的頻度が高く、電話手段内の第二の音声特徴データ保持手段には話者のより最新の音声特徴データが抽出、保持される。そのため音声認識手段を利用したい時、より最新の音声特徴データが電話手段により音声認識手段内に送信、保持される事になり、話者が変更したり、もしくは話者が風邪等により声の特徴が変わった場合でも音声認識性能を維持する事が可能になる。
【0012】
請求項2記載の発明では、
前記第一の音声特徴保持手段は、複数の話者の音声特徴データを個別に保持するように構成され話者識別情報に応じてこれらの音声特徴データの中から前記音声認識手段が使用する音声特徴データが選択される事を特徴とする。
【0013】
この発明により、音声認識手段を複数の話者に対して共用可能となり、しかも複数の話者が利用する場合でも、それぞれ話者の音声特徴データを用いて音声認識出来るため、音声認識性能を高める事が可能になる。
【0014】
請求項3記載の発明では、
携帯型の電話手段を用いて話者の発話音声の特徴を抽出し、この抽出した音声特徴データを、前記電話手段に内蔵する第二の音声特徴保持手段に保持するようにし、前記電話手段が音声認識手段と通信可能な状態に置かれた時、前記第二の音声特徴保持手段内に保持された前記音声特徴データを前記音声認識手段内の第一の音声特徴保持手段内に送信、保持するようにし、前記音声認識手段は前記第一の音声特徴保持手段に保持されたより最新の前記音声特徴データを使用して前記話者の音声認識を行う事を特徴とする。
【0015】
この発明により請求項1記載の発明と同様の効果を奏する。また仮に複数の音声認識手段が異なる場所に設けられている場合でも、携帯型の電話手段は話者に携帯して移動可能なため、それぞれの音声認識手段に対し、より最新の音声特徴データを送信、保持させる事が出来、音声認識性能を高める事が可能になる。
【0016】
【発明の実施の形態】
以下、本発明の実施の形態を説明する。
【0017】
(第一実施形態)
本発明の第一実施形態を図1ならびに図2を用いて説明する。
【0018】
図1は本発明の第一実施形態にかかる携帯電話200と車載ナビゲーション装置300との関係を示すブロック図である。
【0019】
携帯電話200は請求項1ならびに3に示す、携帯型の電話手段の一例示であり、同様に車載ナビゲーション装置300は請求項1ならびに3に示す音声認識手段の一例示である。
【0020】
このため本発明が示す所の音声認識装置とは車載ナビゲーション装置に限定されるものではなく、ひろく音声認識機能を備えた装置全般に適用され得る。
【0021】
また携帯電話200についても話者の発話音声が入力される機会が多い携帯型の音声入力手段を備えた装置、例えばPDA(PersonalDigitalAssistants)と呼ばれる携帯情報端末に音声入力手段が搭載された装置にも適応され得る。
【0022】
また、図2は図1に示した携帯電話200と車載ナビゲーション装置300の要部におけるブロック図である。
【0023】
図1に示す車載ナビゲーション装置300は、周知の地図データ部1、表示部2、操作スイッチ群3、位置検出部10、リモートコントロールセンサー20、音声入力装置310、受信部320、音声出力装置330とこれらが接続する制御部100を備えている。
【0024】
また、制御部100は通常のコンピューターとして構成されており、その内部には周知のCPU、ROM、RAM、I/O、およびこれらの構成を接続するバスラインを備えている前述の地図データ部1は、位置検出の精度向上の為のマップマッチング情報ならびに地形情報を含んだ地理データおよび施設情報ならびに道路情報を含んだ地図データを保持するための装置である。
【0025】
媒体としては、そのデータ量からCD−ROM、またはDVD−ROMを用いるのが一般的であるが、メモリカード等の媒体を用いても良い。
【0026】
表示部2はカラー表示装置であり、表示部2の画面上には後述する位置検出部10から入力された車両現在位置マークと、前述の地図データ部1より入力された地図データならびに地図上に表示する誘導経路等の付加データとを重ねて表示する事が出来る。
【0027】
前述の操作スイッチ群3は、例えば前述の表示部2と一体になったタッチスイッチ、もしくはメカニカルなスイッチ等が用いられ、各種入力に使用される。
【0028】
前記位置検出部10は、いずれも周知の地磁気センサ11、ジャイロスコープ12、距離センサ13、およびGPS(GlobalPositioningSystem)衛星からの電波に基づいて車両の位置を検出するGPS受信機14を備えている。
【0029】
これら位置検出部10内の各センサは、各々が性質の異なる誤差を持っているため複数のセンサにより互いに補完しながら使用するように構成されている。なお精度によっては、上述したうちの一部で構成してもよく、更にステアリングの回転センサ、各転動輪の車輪センサ等を用いても良い。
【0030】
更に、前述の操作スイッチ群3で行える様々な入力操作と同等のそれを行う事が出来る、リモートコントロールセンサー20とリモートコンとーラー21が備えられ、入力の簡便化が図られている。
【0031】
また、音声で乗員に操作方法や各種情報を案内する音声案内機能の為の音声出力装置330も併せて装備されている。
【0032】
また、音声入力装置310が装備されており、これにより音声認識技術を用いた音声での車載ナビゲーション装置300の機能操作や運転中の携帯電話200での通話を可能にするハンズフリー機能を搭載している。
【0033】
また、制御部100は内部に経路演算部110を備え、前述の地図データ部1からの道路情報と、前述の位置検出部10からの現在自車位置情報と、乗員が前述の操作スイッチ群3または前述のリモートコントロールセンサー20で入力した目的地までの経路を演算し、経路情報として表示部4から出力する。
【0034】
また、前述した音声案内機能で提供される各種情報には、この経路情報も含まれる。
【0035】
図2は請求項1ならびに3に示す携帯型の電話手段の一例示である携帯電話200と音声認識手段の一例示である音声認識手段を備えた車載ナビゲーション装置300の要部を示すブロック図である。
【0036】
図中は上段に携帯電話200が、下段に車載ナビゲーション装置300が示されており、この車載ナビゲーション装置300は公知の音声認識部103を備える。
【0037】
すなわち、音声入力装置310が備えるマイク311からの話者の音声を音声入力部312でゲインや特性を調整された後A/D変換し、デジタル信号S312として音声認識部103に伝達し音声認識制御に利用する。
【0038】
前述の音声認識機能が正常に終了すると例えば表示部2もしくは音声出力装置330に対して認識された制御内容に対応した出力がなされる。
【0039】
前述した公知の音声認識機能を備えた車載ナビゲーション装置300の音声認識部103と、この処理部が音声認識を行うのに不可欠な音声特徴データを参照するまでの仕組みに対してなされた本発明の第一実施形態をいかに示す。
【0040】
携帯電話200のマイク211に入力された話者の音声S211を、音声入力部212によってゲインや特性を調整した後、A/D変換しデジタル信号S212として音声特徴データ抽出部221に伝達する。
【0041】
音声特徴データ抽出部202は、音声入力部212から入力されたデジタル信号S212の音声の特徴抽出を行う。
【0042】
この特徴抽出方法には帯域フィルタ群による方法、FFT(高速フーリエ変換)による方法、相関関数による方法、またはLPC(線形予測分析)による方法などがあり、特にFFT(高速フーリエ変換)による特徴抽出方法が最も一般的である。
【0043】
上述の方法で抽出した音声特徴データは、音声認識部103が内部に保持する不特定話者モデルの傾きを決定するパラーメーターとして参照され、話者固有の話者適応モデルすなわち特定話者モデルを生成する。
【0044】
抽出した音声特徴データD202は、一意的な識別データ例えば携帯電話200の使用者の氏名、または携帯電話200の携帯電話番号文字列と現在日時情報からなる抽出日時データを添付し、音声特徴データD201とし音声特徴データ保持部201に保存する。
【0045】
前述した複数の特徴データ抽出方法はいずれも、話者からのある程度の長さの発話を事前にサンプリングする必要があり、話者固有の特定話者モデルの生成に不適当な発話内容(「えー」または「〜です」などの不要語の含有)や、不向きな発話環境(屋外で悪天候または交通騒音等)、または困難な携帯電話200の電波の受信環境(エコーまたはノイズの混入)等が原因となり、望ましい発話サンプリングが行われない事も想定される。
【0046】
このような場合には、携帯電話200は図示しない表示装置上で話者に対して、直近の話者の携帯電話200への発話は望ましいサンプリングであったか否か、表示出来る事が望ましい。
【0047】
また、話者は所望した時にいつでも携帯電話200の図示しない操作キーの操作によって、前述の音声特徴データD201内にある抽出日時データを図示しない携帯電話200の表示装置上で表示出来、当該音声特徴データD202がいつ生成されたデータなのか知る事が出来る事も望ましい。
【0048】
前述の音声特徴データD202を車載ナビゲーション装置300の音声特徴データ保持部101に移動するには送信部230を介して受信部320に向けて送信する必要がある。
【0049】
この際、話者は図示しない携帯電話200の操作キーで送信操作を行っても良いし、送信部230が受信部320との間の直線距離での長短や遮蔽物の有無、その他、音声特徴データの送受信(通信)を行うのに可能かつ適正な環境である事を検知した場合、自動的に音声特徴データ保持部201内の音声特徴データD201を車載ナビゲーション装置300の受信部320へ送信するようにしても良い。
【0050】
音声特徴データ保持部201に保持する音声特徴データD201は、送信部230に伝送され予め定められたプロトコルで受信部320に送信するこの送受信(通信)は赤外線を利用したデータ転送手段が一般的であり、送信部230の図示しない発信部は携帯電話200の本体上端部付近に配設される事で話者の握り感が良い状態で送受信(通信)作業が行える事が望ましい。
【0051】
送信部230から送信された音声特徴データD201を受信した受信部320は当該データを音声特徴データ保持部101に保存する。
【0052】
前述の送受信(通信)が正常に終了し、音声特徴データ保持部101に保存した音声特徴データD101は話者が車載ナビゲーション装置300の音声認識機能を利用する際に音声認識部103が利用する事が出来る。
【0053】
この時、音声特徴データ保持部101は受信部320から当該データを受け取ると、そのデータの複製を作成し、作成した複製データを音声特徴データ抽出部102に格納しても良いし、話者が車載ナビゲーション装置300の音声認識機能を利用するに際して音声認識部103が音声特徴データを必要とする事を検知し、それに対応して音声特徴データ抽出部102に当該データを格納しても良い。
【0054】
音声特徴データD101と音声認識部103内に格納する図示しない不特定話者モデルとから話者に適応した特定話者適応モデルを求め、これを用いて前述の音声入力装置310からのデジタル信号S312がどの単語に対応するのかを音声認識辞書104を参照しつつ認識する。
【0055】
この方法としてはDP(動的計画法)マッチングを用いる方法、HMM(隠れマルコフモデル)を用いる方法などが一般的であり、ここではHMMによる方法を採用している。
【0056】
本実施形態によれば、携帯電話200は話者が携帯して利用されるため比較的利用頻度が高く、携帯電話200内の音声特徴データ保持部201には話者のより最新の音声特徴データD201が抽出、保持される。
【0057】
そのため音声認識部103を利用したい時、より最新の音声特徴データが携帯電話200より音声特徴データ保持部101内に送信、保持される事になり話者が変わったり風邪等による声の特徴が変わった場合でも、そのデータを特徴として取り込む事によって、音声認識性能を高め、また認識開始時より話者適応をスムーズに出来、認識応答性を向上出来る。
【0058】
(第二実施形態)
本発明の第二実施形態を図3を用いて説明する。
【0059】
図3は本発明の第二実施形態にかかる携帯電話200と車載ナビゲーション装置300の要部を示すブロック図である。
【0060】
車載ナビゲーション装置300の音声特徴データ保持部101には話者A、B、Cの音声特徴データD101a〜D101cが別々に保持されている。
【0061】
今、話者Bが車載ナビゲーション装置300の音声認識機能を利用しようとする時、話者Bは操作スイッチ群3またはリモートコントローラ21の操作により、音声認識部103が参照する音声特徴データはD101bである事を指定する事が出来る。
【0062】
この時表示部2には前述の音声特徴データD101a〜D101cが識別可能に表示される事が望ましい。
【0063】
すなわち現在音声認識部103が特定話者モデル生成の為に参照した音声特徴データは誰の音声特徴でいつ生成されたのか利用時に表示部2にて表示されている事で、話者と音声特徴データとのマッチングミスを未然に防ぐ事が出来る。
【0064】
これにより音声認識部103内に格納される図示しない不特定話者モデルと話者Bの音声特徴データS101bから求められる話者B固有の特定話者適応モデルが音声入力装置310から入力されるデジタル信号S312bがどの単語に対応するのかを音声認識辞書104を参照しつつ認識する事になる。
【0065】
これにより、車載ナビゲーション装置300を搭載した車両が、運転者が頻繁に変更する、例えば業務用車両であった場合、運転者の変更時ごとに運転者が車載ナビゲーション装置300に対して話者適応を行う必要が無くなるだけでなく、話者Bの車両使用後、再度話者Aの車両使用予定があった場合、再度話者Aの音声特徴データD101aを音声特徴データ保持部101に格納する必要がなく、話者Bの車両使用前に使用していた話者Aの音声特徴データD101aを利用する事が出来る。
【0066】
なお、上記実施形態では利用する複数の話者の話者識別情報として話者が操作スイッチ群3やリモートコントローラ21の操作で乗じる操作信号を用いているが、操作の煩わしさや操作ミスの恐れもある。
【0067】
それに対しては、携帯電話200側に電話毎に異なる識別コードを付与し、音声特徴データD201の送信時にその先頭に前述の識別コードを常に付与し、音声特徴データ保持部101が前述の先頭に付与した識別コードに対応して、音声特徴データD101a〜D101cを分類、記憶する事で、携帯電話(話者)に対応して自動的に音声特徴データが選択するようにする事での解決を図る事が出来る。
【図面の簡単な説明】
【図1】本発明の第一実施形態にかかる携帯電話200と車載ナビゲーション装置300の概略構成を示す構成図である。
【図2】本発明の第一実施形態における携帯電話200ならびに車載ナビゲーション装置300の要部におけるブロック図である。
【図3】本発明の第二実施形態における携帯電話200ならびに車載ナビゲーション装置300の要部におけるブロック図である。
【符号の説明】
1 地図データ部
2 表示部
3 操作スイッチ群
10 位置検出部
20 リモートコントールセンサー
21 リモートコントローラ
100 音声認識部
101 音声特徴データ保持部(第一の音声特徴データ保持手段)
102 音声特徴データ抽出部
103 音声認識部
104 音声認識辞書
110 経路演算部
200 携帯電話(電話手段)
210 音声入力装置(音声入力手段)
202 音声特徴データ抽出部(音声特徴データ抽出手段)
201 音声特徴データ保持部(第二の音声特徴データ保持手段)
230 送信部
300 車載ナビゲーション装置
310 音声入力装置
320 受信部
330 音声出力装置

Claims (3)

  1. 第一の音声特徴データを保持する第一の音声特徴データ保持手段を有し、
    前記第一の音声特徴データを利用して音声認識を行う音声認識手段と、
    前記音声認識手段と通信可能な携帯型の電話手段とを備え、
    前記電話手段は、
    話者の音声を入力する音声入力手段と、
    前記音声入力手段で入力した話者の発話音声の特徴を抽出する音声特徴データ抽出手段と、
    前記音声特徴データ抽出手段で抽出した音声特徴データを保持する第二の音声特徴データ保持手段とを有し、
    前記電話手段が前記音声認識手段と通信可能な状態に置かれた時、前記第二の音声特徴保持手段内に保持された前記音声特徴データが前記第一の音声特徴保持手段内に送信、保持され、前記音声認識手段は、前記第一の音声特徴データ保持手段内に保持されたより最新の前記音声特徴データを利用して音声認識を行う事を特徴とする音声認識装置。
  2. 前記第一の音声特徴保持手段は、複数の話者の音声特徴データを個別に保持するように構成され、話者識別情報に応じてこれらの音声特徴データの中から前記音声認識手段が使用する音声特徴データが選択される事を特徴とする請求項1記載の音声認識装置。
  3. 携帯型の電話手段を用いて話者の発話音声の特徴を抽出し、この抽出した音声特徴データを、前記電話手段に内蔵する第二の音声特徴保持手段に保持するようにし、前記電話手段が音声認識手段と通信可能な状態に置かれた時、前記第二の音声特徴保持手段内に保持された前記音声特徴データを前記音声認識手段内の第一の音声特徴保持手段内に送信、保持するようにし、前記音声認識手段は前記第一の音声特徴保持手段に保持されたより最新の前記音声特徴データを使用して前記話者の音声認識を行う事を特徴とする音声認識方法。
JP2002174071A 2002-06-14 2002-06-14 音声認識装置及びその方法 Expired - Fee Related JP3937937B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002174071A JP3937937B2 (ja) 2002-06-14 2002-06-14 音声認識装置及びその方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002174071A JP3937937B2 (ja) 2002-06-14 2002-06-14 音声認識装置及びその方法

Publications (2)

Publication Number Publication Date
JP2004020797A JP2004020797A (ja) 2004-01-22
JP3937937B2 true JP3937937B2 (ja) 2007-06-27

Family

ID=31173135

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002174071A Expired - Fee Related JP3937937B2 (ja) 2002-06-14 2002-06-14 音声認識装置及びその方法

Country Status (1)

Country Link
JP (1) JP3937937B2 (ja)

Also Published As

Publication number Publication date
JP2004020797A (ja) 2004-01-22

Similar Documents

Publication Publication Date Title
US10818286B2 (en) Communication system and method between an on-vehicle voice recognition system and an off-vehicle voice recognition system
CN107851437B (zh) 语音操作系统、服务器装置、车载设备和语音操作方法
US10490207B1 (en) Automated speech recognition using a dynamically adjustable listening timeout
US20070219786A1 (en) Method for providing external user automatic speech recognition dictation recording and playback
JP2013068532A (ja) 情報端末、サーバー装置、検索システムおよびその検索方法
EP1879000A1 (en) Transmission of text messages by navigation systems
US6064323A (en) Navigation apparatus, navigation method and automotive vehicles
US20090271200A1 (en) Speech recognition assembly for acoustically controlling a function of a motor vehicle
US20110288871A1 (en) Information presentation system
US8452533B2 (en) System and method for extracting a destination from voice data originating over a communication network
EP1471501A2 (en) Speech recognition apparatus, speech recognition method, and recording medium on which speech recognition program is computer-readable recorded
JP4705444B2 (ja) ナビゲーション装置、その制御方法及び制御用プログラム
JP2003032388A (ja) 通信端末装置及び処理システム
JP3897946B2 (ja) 緊急情報送信システム
JP3937937B2 (ja) 音声認識装置及びその方法
US20050144011A1 (en) Vehicle mounted unit, voiced conversation document production server, and navigation system utilizing the same
JP4300596B2 (ja) 車載用ナビゲーションシステム
WO2006028171A1 (ja) データ提示装置、データ提示方法、データ提示プログラムおよびそのプログラムを記録した記録媒体
JP2009086132A (ja) 音声認識装置、音声認識装置を備えたナビゲーション装置、音声認識装置を備えた電子機器、音声認識方法、音声認識プログラム、および記録媒体
JP6109373B2 (ja) サーバー装置および検索方法
JP3948357B2 (ja) ナビゲーション支援システム、移動装置、ナビゲーション支援サーバおよびコンピュータプログラム
JP2877045B2 (ja) 音声認識装置,音声認識方法,ナビゲーション装置,ナビゲート方法及び自動車
JPH1011084A (ja) 車載用ナビゲーションシステムの音声入力装置
JPH10133683A (ja) 音声認識・合成方法及び音声認識・合成装置
JP2020079865A (ja) 情報処理装置、エージェントシステム、情報処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060901

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070306

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070319

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100406

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110406

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120406

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120406

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130406

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130406

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140406

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees