JP4313294B2 - 音声出力装置 - Google Patents

音声出力装置 Download PDF

Info

Publication number
JP4313294B2
JP4313294B2 JP2004360903A JP2004360903A JP4313294B2 JP 4313294 B2 JP4313294 B2 JP 4313294B2 JP 2004360903 A JP2004360903 A JP 2004360903A JP 2004360903 A JP2004360903 A JP 2004360903A JP 4313294 B2 JP4313294 B2 JP 4313294B2
Authority
JP
Japan
Prior art keywords
output
power
audio
component
calculated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004360903A
Other languages
English (en)
Other versions
JP2006173839A (ja
Inventor
徹 丸本
望 齊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2004360903A priority Critical patent/JP4313294B2/ja
Publication of JP2006173839A publication Critical patent/JP2006173839A/ja
Application granted granted Critical
Publication of JP4313294B2 publication Critical patent/JP4313294B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Circuit For Audible Band Transducer (AREA)
  • Control Of Amplification And Gain Control (AREA)

Description

本発明は、音声を出力する音声出力装置において、ユーザに聞こえる音声の明瞭度を改善する技術に関するものである。
音声を出力する音声出力装置において、ユーザに聞こえる音声の明瞭度を改善する技術としては、音声出力装置のスピーカから出力された音声と周辺騒音とをマイクを用いてピックアップし、マイクから出力される信号に含まれる周囲騒音成分のパワーと、マイクから出力される信号に含まれる音声出力装置から出力された音声成分のパワーとに応じて、音声出力装置から出力する音声のゲインを、人間のラウドネス特性に従って周波数帯域毎に調整するラウドネス補償の技術が知られている(たとえば、特許文献1)。
なお、この技術では、音声出力装置がスピーカに出力する音声信号と、マイクから出力される信号とより、音声出力装置がスピーカに出力した音声信号を入力としマイクの出力を出力とする系の伝達関数を学習する適応フィルタを設けている。そして、この適応フィルタと音声出力装置がスピーカに出力する音声信号とを用いて、マイクから出力される信号中に含まれるスピーカから出力された音声成分を推定する。そして、推定した音声成分を、マイクから出力される音声信号から除いた成分を、マイクから出力される信号中に含まれる周囲騒音成分として推定している。
特開2001-236090号公報
前述した音声出力装置において、ユーザに聞こえる音声の明瞭度を改善する技術によれば以下の問題がある。
すなわち、適応フィルタによって、音声出力装置がスピーカに出力する音声信号を入力としマイクの出力を出力とする系の伝達関数の学習を開始した後、当該学習が安定的に収束するまでの間は、マイクから出力される信号中に含まれるスピーカから出力された音声成分の適応フィルタによる推定の精度が低く安定しないために、音声出力装置が音声信号をスピーカに出力している期間中、マイクから出力される信号に含まれるスピーカから出力された音声成分と周囲騒音成分の推定が適当に行われず、スピーカからユーザに対して不安定な音声出力が行われてしまう。
そこで、本発明は、音声を出力する音声出力装置において、より安定的に、ユーザに聞こえる音声の明瞭度を改善することを課題とする。
前記課題達成のために、本発明は、ラウドネス補償を施した音声を出力する音声出力装置を、前記出力する音声を表す音声信号である出力音声信号を生成する音声信号生成手段と、音声信号生成手段が生成した出力音声信号のラウドネス補償を行うラウドネス補償手段と、前記ラウドネス補償手段がラウドネス補償を行った前記出力音声信号に基づき音声を出力するスピーカと、周辺音をピックアップするマイクと、前記マイクが出力する信号であるマイク出力信号と前記出力音声信号とに基づき、前記出力音声信号を入力としマイク出力信号を出力とする系の伝達関数を学習し、前記出力音声信号と学習した伝達関数とに基づいて前記マイク出力信号中の前記出力音声の成分を出力音声成分として推定する出力音声成分推定手段と、前記出力音声成分推定手段が推定した出力音声成分のパワーを算出する出力音声成分パワー算出手段と、前記マイク出力信号のパワーから前記出力音声成分パワー算出手段が算出した前記出力音声成分のパワーをキャンセルすることにより、前記マイク出力信号中の周囲騒音成分のパワーを算出する周囲騒音成分パワー算出手段と、前記出力音声成分パワー算出手段が算出した出力音声成分のパワーが所定レベル以下のときに、前記周囲騒音成分パワー算出手段が算出した前記周囲騒音成分のパワーを騒音パワーとして算出し、前記出力音声成分パワー算出手段が算出した出力音声成分のパワーが所定レベルを超えるときに、前記出力音声成分パワー算出手段が算出した出力音声成分のパワーが所定レベル以下であった期間の前記周囲騒音成分のパワーの平均値を騒音パワーとして算出する騒音パワー算出手段とを含めて構成し、前記ラウドネス補償手段において、前記出力音声成分パワー算出手段が算出した前記出力音声成分のパワーと、前記騒音パワー算出手段が算出した前記騒音パワーとに基づいて、スピーカに出力する出力音声信号のゲインの調整を、所定のラウドネス補償関数に従って行うようにしたものである。
このような音声出力装置によれば、マイク出力信号中の前記出力音声成分のパワーが大きい場合には、周囲騒音の騒音パワーとして、前記出力音声の成分のパワーが小さいときに算出した周囲騒音成分のパワーの平均値を、当該時点で推定される周囲騒音成分のパワーの代わりに用いてラウドネス補償を行う。ここで、前記出力音声成分のパワーが小さいときには、出力音声信号の伝達関数の学習が充分に適正に行われていなくとも、周囲騒音のパワーの算出に与える悪影響は小さい。したがって、このようにすることにより、伝達関数の学習が安定的に収束していない場合でも、前記出力音声成分のパワーが大きい期間に算出される騒音のパワーを安定化させることができると共に、前記出力音声成分のパワーが大きい期間に算出される騒音のパワーの値を近似的に適正化させることができる。よって、この騒音パワーを用いてラウドネス補償を行うことにより、スピーカからユーザに対して不安定な音声出力が行われてしまうことを抑制しつつ、スピーカから出力される音声のユーザにとっての明瞭化を図ることができる。
なお、このような音声出力装置は、前記騒音パワー算出手段において、音声出力装置の起動後、所定の期間が経過している場合には、前記出力音声成分パワー算出手段が算出した出力音声成分のパワーが所定レベル以下であるか否かに関わらず、前記周囲騒音成分パワー算出手段が算出した前記周囲騒音成分のパワーを騒音パワーとして算出するようにしてもよい。または、前記騒音パワー算出手段において、音声出力装置の起動後、所定の回数以上スピーカから音声が出力された後には、前記出力音声成分パワー算出手段が算出した出力音声成分のパワーが所定レベル以下であるか否かに関わらず、前記周囲騒音成分パワー算出手段が算出した前記周囲騒音成分のパワーを騒音パワーとして算出するようにしてもよい。
このようにすることにより、伝達関数の学習が安定的に収束した後は、より適正な騒音パワーの算出と、これに基づくラウドネス補償を行うことができるようになる。
以上のように、本発明によれば、音声を出力する音声出力装置において、より安定的に、ユーザに聞こえる音声の明瞭度を改善することができる。
以下、本発明に係る音声出力装置の実施形態について、自動車に搭載される車載装置への適用を例にとり説明する。
図1に、車載装置の構成を示す。
図示するように車載装置は、ユーザに対して現在位置や目的地までの経路案内を行うナビゲーション装置1、ラジオ受信機やCDプレイヤなどであるオーディオ機器2、音量調整アンプ3、イコライザ4、出力音声加算器5、出力アンプ6、スピーカ7、マイク8、入力音声パワー算出部9、加算器10、ラウドネス補償制御部11、適応フィルタ12、係数更新部13、出力音声パワー算出部14、騒音パワー算出制御部15、騒音パワー算出部16とを備えている。ここで、ナビゲーション装置1は、ユーザに対して経路や操作を案内する案内音声を表す案内音声信号を音量調整アンプ3に出力する。
このような構成において、ナビゲーション装置1から出力された案内音声信号は、音量調整アンプ3で全体のゲインが調整された後に、イコライザ4で周波数帯域毎のゲインが調整され、出力音声加算器5に入力する。出力音声加算器5は、イコライザ4から入力する案内音声信号とオーディオ機器2から入力するオーディオ信号を加算し、出力音声信号として出力アンプ6に出力する。そして、出力アンプ6は、入力する出力音声信号を増幅し、スピーカ7から出力する。そして、スピーカ7から出力された出力音声(案内音声Sとオーディオ音Aの合成音)と、カーノイズなどの周囲のノイズNは、マイク8によってピックアップされ、電気信号として入力音声パワー算出部9に入力する。ここで、以下では説明の便宜上、このマイク8が出力する信号を「マイク出力信号」と称す。さて、入力音声パワー算出部9はマイク出力信号の単位時間当たりの周波数帯域毎のパワーを算出し、加算器10に入力する。
一方、フィルタ12は、ナビゲーション装置1の出力からマイク8の出力までの案内音声信号の伝達系のインパルス応答(伝達関数)を模擬するフィルタであり、このフィルタ12のインパルス応答を算出、更新するのが係数更新部13であり、このフィルタ12と係数更新部13とで適応フィルタを構成している。そして、出力音声パワー算出部14は、フィルタ12の出力する音声信号の単位時間当たりのパワーを周波数帯域毎に算出し、係数更新部13は、LMS(平均二乗誤差)アルゴリズムやNLMS(正規化平均二乗誤差)アルゴリズムなどにより、加算器10が出力する入力音声パワー算出部9の出力と、出力音声パワー算出部14の出力との差分が最小となるようにフィルタ12のフィルタ係数を算出し、フィルタ12に設定する処理を繰り返し行う。
ここで、フィルタ12のインパルス応答が、ナビゲーション装置1の出力からマイク8の出力までの案内音声信号の伝達系のインパルス応答を正確に模擬している場合、フィルタ12の出力は、マイク8が出力する信号中の案内音声信号成分を表し、出力音声パワー算出部14の出力は、マイク8が出力する信号中の案内音声信号成分の単位時間当たりの周波数帯域毎のパワーとなる。また、加算器10の出力は、マイク8が出力する信号中の周囲騒音成分の周波数帯域毎のパワーとなる。ここで、周囲騒音成分とは、オーディオ音とカーノイズなどの周囲のノイズとを加算した、案内音声を聞くユーザにとっての周囲騒音となる音の、マイク8が出力する信号中の成分である。
さて、出力音声パワー算出部14は、算出した案内音声信号成分の単位時間当たりの周波数帯域毎のパワーを、ラウドネス補償制御部11にも出力する。一方、騒音パワー算出部16は、加算器10の出力する周囲騒音成分の単位時間当たりの周波数帯域毎パワーを、騒音パワーとしてラウドネス補償制御部11に出力する。
そして、ラウドネス補償制御部11は、入力する案内音声信号成分の周波数帯域毎のパワーと、周波数帯域毎の騒音パワーとに基づいて、音量調整アンプ3のゲインと、イコライザ4の周波数帯域毎のゲインを、所定のラウドネス補償関数に従って、案内音声がユーザに明瞭に聞こえるように調整する。
そして、騒音パワー算出制御部15は、上述した騒音パワー算出部16の、騒音パワー算出動作を制御する。
以下、騒音パワー算出制御部15の動作について説明する。
図2aに、騒音パワー算出制御部15が行う騒音パワー算出制御処理の手順を示す。
図示するように、この処理では、まず、出力音声パワー算出部14が算出している案内音声信号成分の単位時間当たりの周波数帯域毎のパワーの合計が、所定のしきい値Th以上であるかどうかを調べる(ステップ202)。このしきい値Thは、たとえば、ナビゲーション装置1が案内音声を出力しているときに、フィルタ12から出力されることになる案内音声信号成分の周波数帯域毎の単位時間当たりのパワーの合計が取り得る値の最小値とする。
そして、しきい値Th未満であれば、騒音パワー算出部16に、周囲騒音成分の単位時間当たりの周波数帯域毎のパワーの算出と、算出した周囲騒音成分の単位時間当たりの周波数帯域毎のパワーのラウドネス補償制御部11への出力と、算出した周囲騒音成分の単位時間当たりの周波数帯域毎のパワーの保存を指示する(ステップ204)。そして、ステップ202からの処理に戻る。
一方、ステップ202において、案内音声信号成分の単位時間当たりの周波数帯域毎のパワーの合計がしきい値Th以上であると判定された場合には、騒音パワー算出部16に、周囲騒音成分の単位時間当たりの周波数帯域毎のパワーの算出の停止と、保存されている周囲騒音成分の単位時間当たりの周波数帯域毎のパワーの、過去一定期間分の平均値のラウドネス補償制御部11の出力を指示する(ステップ206)。そして、ステップ202からの処理に戻る。
なお、騒音パワー算出部16は、以上の騒音パワー算出制御部15からの指示に従って、指示された動作を行う。
以上の騒音パワー算出制御処理の結果、マイク出力信号中の案内音声信号成分のパワーが大きい場合には、周囲騒音の騒音パワーとして、従来の周囲騒音のパワーに代えて、前記案内音声信号成分のパワーが小さいときに算出した周囲騒音のパワーの平均値を用いてラウドネス補償が行われる。ここで、前記案内音声信号成分のパワーが小さいときには、案内音声信号の伝達関数の学習が充分に行われていなくとも、周囲騒音のパワーの算出に与える悪影響は小さい。したがって、このようにすることにより、伝達関数の学習が充分に行われていない場合でも、案内音声信号成分のパワーが大きい期間に算出される騒音のパワーを安定化させることができると共に、前記案内音声信号成分のパワーが大きい期間に算出される騒音のパワーの値を近似的に適正化させることができ、スピーカ7からユーザに対して不安定な音声出力が行われてしまうことを抑制することができる。
ところで、以上の騒音パワー算出制御処理は、図2bに示すように行うようにしてもよい。
すなわち、この処理では、まず、車載システムが起動されてから所定時間TM(たとえば、30秒)が経過しているかどうかを調べる(ステップ252)。そして、所定時間TMが経過していれば、無条件に騒音パワー算出部16に、周囲騒音成分の単位時間当たりの周波数帯域毎のパワーの算出と、算出した周囲騒音成分の単位時間当たりの周波数帯域毎のパワーのラウドネス補償制御部11への出力と、算出した周囲騒音成分の単位時間当たりの周波数帯域毎のパワーの保存を指示する(ステップ256)。
一方、所定時間TMが経過していなければ、図2aに示した騒音パワー算出制御処理と同様に、出力音声パワー算出部14が算出している案内音声信号成分の単位時間当たりの周波数帯域毎のパワーの合計が、所定のしきい値Th以上であるかどうかを調べ(ステップ254)、しきい値Th未満であれば、騒音パワー算出部16に、周囲騒音成分の単位時間当たりの周波数帯域毎のパワーの算出と、算出した周囲騒音成分の単位時間当たりの周波数帯域毎のパワーのラウドネス補償制御部11への出力と、算出した周囲騒音成分の単位時間当たりの周波数帯域毎のパワーの保存を指示し(ステップ256)、しきい値Th以上であれば、騒音パワー算出部16に、周囲騒音成分の単位時間当たりの周波数帯域毎のパワーの算出の停止と、保存されている周囲騒音成分の単位時間当たりの周波数帯域毎のパワーの過去一定期間分の平均のラウドネス補償制御部11の出力を指示する(ステップ258)。
このようにすることにより、フィルタ12の学習が充分に適正に行われたことが期待できるに充分な期間が経過した後は、より適正な騒音パワーの算出と、これに基づくラウドネス補償を行うことができるようになる。
なお、この騒音パワー算出制御処理は、ステップ252において、ナビゲーション装置1からの案内音声の出力が所定回数(たとえば、10回)以上行われたかどうかを調べ、所定回数以上行われた場合にステップ256に進み、所定回数未満しか行われていない場合にはステップ254に進む処理としてもよい。なお、この場合には、案内音声を出力するときにナビゲーション装置1から当該出力の旨の通知を騒音パワー算出制御部15に対して行うようにし、騒音パワー算出制御部15においてこの通知に基づいて案内音声の出力回数を算出するようにする。または、騒音パワー算出制御部15において、出力音声パワー算出部14が算出している案内音声信号成分の単位時間当たりの周波数帯域毎のパワーの合計から案内音声の出力の有無を判定することにより、案内音声の出力回数を算出するようにしてもよい。
このようにすることにより、フィルタ12の学習が充分に適正に行われたことが期待できるに充分な量の案内音声が発生した後は、より適正な騒音パワーの算出と、これに基づくラウドネス補償を行うことができるようになる。
なお、以上の実施形態では、ナビゲーション装置1が出力する案内音声に対してラウドネス補償を行う場合について説明したが、本実施形態に係る音声明瞭化の技術は、任意の装置が出力する音声の明瞭化のために適用可能である。
また、以上では、イコライザ4を設け、周波数帯域毎にゲイン調整を行うことにより案内音声のラウドネス補償を行ったが、これはイコライザ4を廃して、音量調整アンプ3で案内音声の全体的なゲイン調整のみのラウドネス補償を行うようにしてもよい。なお、この場合には、入力音声パワー算出部9や出力音声パワー算出部14では、周波数帯域毎のパワーを算出する必要はなく、案内音声信号成分や周囲騒音成分の全体としてのパワーを算出すれば足りる。
本発明の実施形態に係る車載装置の構成を示すブロック図である。 本発明の実施形態に係る騒音パワー算出制御処理を示すフローチャートである。
符号の説明
1…ナビゲーション装置、2…オーディオ機器、3…音量調整アンプ、4…イコライザ、5…出力音声加算器、6…出力アンプ、7…スピーカ、8…マイク、9…入力音声パワー算出部、10…加算器、11…ラウドネス補償制御部、12…フィルタ、13…係数更新部、14…出力音声パワー算出部、15…騒音パワー算出制御部、16…騒音パワー算出部。

Claims (3)

  1. ラウドネス補償を施した音声を出力する音声出力装置であって、
    前記出力する音声を表す音声信号である出力音声信号を生成する音声信号生成手段と、
    音声信号生成手段が生成した出力音声信号のラウドネス補償を行うラウドネス補償手段と
    前記ラウドネス補償手段がラウドネス補償を行った前記出力音声信号に基づき音声を出力するスピーカと、
    周辺音をピックアップするマイクと、
    前記マイクが出力する信号であるマイク出力信号と前記出力音声信号とに基づき、前記出力音声信号を入力とし前記マイク出力信号を出力とする系の伝達関数を学習し、前記出力音声信号と学習した伝達関数とに基づいて前記マイク出力信号中の前記出力音声の成分を出力音声成分として推定する出力音声成分推定手段と、
    前記出力音声成分推定手段が推定した出力音声成分のパワーを算出する出力音声成分パワー算出手段と、
    前記マイク出力信号のパワーから前記出力音声成分パワー算出手段が算出した前記出力音声成分のパワーをキャンセルすることにより、前記マイク出力信号中の周囲騒音成分のパワーを算出する周囲騒音成分パワー算出手段と、
    前記出力音声成分パワー算出手段が算出した出力音声成分のパワーが所定レベル以下のときに、前記周囲騒音成分パワー算出手段が算出した前記周囲騒音成分のパワーを騒音パワーとして算出し、前記出力音声成分パワー算出手段が算出した出力音声成分のパワーが所定レベルを超えるときに、前記出力音声成分パワー算出手段が算出した出力音声成分のパワーが所定レベル以下であった期間の前記周囲騒音成分のパワーの平均値を騒音パワーとして算出する騒音パワー算出手段とを有し、
    前記ラウドネス補償手段は、前記出力音声成分パワー算出手段が算出した前記出力音声成分のパワーと、前記騒音パワー算出手段が算出した前記騒音パワーとに基づいて、スピーカに出力する出力音声信号のゲインの調整を、所定のラウドネス補償関数に従って行うことを特徴とする音声出力装置。
  2. 請求項1記載の音声出力装置であって、
    前記騒音パワー算出手段は、音声出力装置の起動後、所定の期間が経過している場合には、前記出力音声成分パワー算出手段が算出した出力音声成分のパワーが所定レベル以下であるか否かに関わらず、前記周囲騒音成分パワー算出手段が算出した前記周囲騒音成分のパワーを騒音パワーとして算出することを特徴とする音声出力装置。
  3. 請求項1記載の音声出力装置であって、
    前記騒音パワー算出手段は、音声出力装置の起動後、所定の回数以上スピーカから音声が出力された後には、前記出力音声成分パワー算出手段が算出した出力音声成分のパワーが所定レベル以下であるか否かに関わらず、前記周囲騒音成分パワー算出手段が算出した前記周囲騒音成分のパワーを騒音パワーとして算出することを特徴とする音声出力装置。
JP2004360903A 2004-12-14 2004-12-14 音声出力装置 Expired - Fee Related JP4313294B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004360903A JP4313294B2 (ja) 2004-12-14 2004-12-14 音声出力装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004360903A JP4313294B2 (ja) 2004-12-14 2004-12-14 音声出力装置

Publications (2)

Publication Number Publication Date
JP2006173839A JP2006173839A (ja) 2006-06-29
JP4313294B2 true JP4313294B2 (ja) 2009-08-12

Family

ID=36674139

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004360903A Expired - Fee Related JP4313294B2 (ja) 2004-12-14 2004-12-14 音声出力装置

Country Status (1)

Country Link
JP (1) JP4313294B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5339849B2 (ja) * 2008-10-27 2013-11-13 アルパイン株式会社 音声明瞭度改善方法および音声明瞭度改善システム
TWI562137B (en) * 2010-04-09 2016-12-11 Dts Inc Adaptive environmental noise compensation for audio playback
US11171621B2 (en) * 2020-03-04 2021-11-09 Facebook Technologies, Llc Personalized equalization of audio output based on ambient noise detection

Also Published As

Publication number Publication date
JP2006173839A (ja) 2006-06-29

Similar Documents

Publication Publication Date Title
US8442251B2 (en) Adaptive feedback cancellation based on inserted and/or intrinsic characteristics and matched retrieval
US8565415B2 (en) Gain and spectral shape adjustment in audio signal processing
JP5166777B2 (ja) 車両通信システムにおけるオーディオ信号コンポーネントを補償するための方法およびそのためのシステム
US20130039518A1 (en) Method and device for acoustic management contorl of multiple microphones
WO2016013667A1 (ja) エコーキャンセラ装置
JP2002217793A (ja) エコー抑圧装置
CN102740189A (zh) 一种基于时间反转的声反馈抑制方法
JP4313294B2 (ja) 音声出力装置
JP2006261967A (ja) ハウリング抑制装置および拡声装置
JP4460256B2 (ja) 雑音低減処理方法、この方法を実施する装置、プログラム、記録媒体
JP5188558B2 (ja) 音声処理装置
JP5105912B2 (ja) 音声明瞭度改善装置およびその騒音レベル推定方法
JP2001005463A (ja) 音響装置
JP4495581B2 (ja) 音声出力装置
US20210281945A1 (en) Method and device for in-ear echo suppression
JP5383008B2 (ja) 音声明瞭度改善システム及び音声明瞭度改善方法
JP4999267B2 (ja) 音声入力装置
JP4722607B2 (ja) 音声処理装置
JP2005086284A (ja) 出力音補正装置
EP3933837B1 (en) In-vehicle communication support system
JP2010263567A (ja) 音声抽出装置
EP3933833A1 (en) In-vehicle communication support system
JP2004085963A (ja) ナビゲーション音声補正装置
JP2000252883A (ja) エコーキャンセラの制御装置
JP3278180B2 (ja) 車両用騒音制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090512

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090514

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120522

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4313294

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120522

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130522

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130522

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140522

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees