JP2006195411A - 音声処理装置 - Google Patents
音声処理装置 Download PDFInfo
- Publication number
- JP2006195411A JP2006195411A JP2005211469A JP2005211469A JP2006195411A JP 2006195411 A JP2006195411 A JP 2006195411A JP 2005211469 A JP2005211469 A JP 2005211469A JP 2005211469 A JP2005211469 A JP 2005211469A JP 2006195411 A JP2006195411 A JP 2006195411A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- speech
- component
- output
- audio
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Circuit For Audible Band Transducer (AREA)
Abstract
【解決手段】スピーカ3から出力されたオーディオ音A1とユーザの発話音声信号Sとその他のノイズ音Nは、マイク4から入力しマイク出力信号となる。マイク出力信号は入力アンプ5で増幅された後、A/D変換器6でデジタル信号に変換され、発話音声抽出部7に入力する。発話音声抽出部7は、入力したデジタル信号中から発話音声信号成分を抽出し音声認識装置8に入力する。ゲイン制御部10は、A/D変換器6が出力するデジタル信号の発話音声信号成分を除く成分である環境音信号が示す環境音下で、発話音声信号成分が表す発話音声が明瞭に聞こえるように、スピーカ3の出力音量を調整する出力調整アンプ22のゲインを制御する。
【選択図】図1
Description
図6に、このような音声入力装置の構成を示す。
図中において、オーディオソース機器612から出力されたオーディオ信号は、オーディオアンプ613の出力調整アンプ6131で増幅されスピーカ614から出力される。
スピーカ614から出力されたオーディオ音A及びユーザの発話音声Sは、マイク615から入力しマイク出力信号となる。マイク出力信号は入力アンプ616で増幅された後A/D変換器617でデジタル信号に変換されて発話音声抽出部618に入力する。発話音声抽出部618は、オーディオソース機器612の出力オーディオ信号を参照して、A/D変換器617の出力するデジタル信号中からオーディオ信号成分をキャンセルし、オーディオ信号成分をキャンセル後のデジタル信号を音声認識装置619に入力する。音声認識装置619は、入力するデジタル信号に対して音声認識処理を行ってユーザの発話の内容を認識し、認識結果を情報処理装置620に入力する。情報処理装置620は、入力する音声認識装置の認識結果に応じた処理を行う。
すなわち、オーディオ信号の出力レベルが同じであっても、小さな声で発話する人と、大きな声で発話する人とでは、オーディオ信号が発話の妨げになる度合いは異なる。より具体的には、大きな声で発話する人にとっては気にならないレベルのオーディオ信号であっても、小さな声で発話する人にとっては、発話の邪魔になると感じることもある。また、同様に、同じ出力レベルでオーディオ信号が出力されているときの、小さな声で発話された発話音声の音声認識精度と、大きな声で発話された発話音声の音声認識の精度は、小さな声で発話された発話音声の方が、マイクに入力する発話音声レベルに対するオーディオ信号レベルが大きくなるために低くなる。
そこで、本発明は、オーディオ装置と併用される音声処理装置において、ユーザの音声入力時の音響環境を向上することを課題とする。
また、以上の各音声処理装置は、前記ケイン制御手段が、前記発話音声信号抽出手段が抽出した発話音声信号が表す発話音声が、ユーザに等しいラウドネスで聞こえるように、前記出力調整アンプのゲインを調整することが好ましい。
図1に、音声入力装置の構成を示す。
図示するように音声入力装置は、ラジオ受信機やCDプレイヤなどであるオーディオソース機器1、オーディオアンプ2、スピーカ3、マイク4、入力アンプ5、A/D変換器6、発話音声抽出部7、音声認識装置8、樹方処理装置9、ゲイン制御部10、トークスイッチ11、オーディオ操作部12を備えている。
このような構成において、オーディオソース機器1から出力されたオーディオ信号は、オーディオアンプ2で増幅され、スピーカ3から出力される。
スピーカ3から出力されたオーディオ音A1とユーザの発話音声Sとその他のノイズ音Nは、マイク4から入力し電気信号として出力される。ここで、以下では説明の便宜上、このマイク4が出力する信号を「マイク出力信号」と称す。さて、マイク出力信号は入力アンプ5で増幅された後A/D変換器6でデジタル信号に変換され、発話音声抽出部7に入力する。発話音声抽出部7は、オーディオソース機器1の出力オーディオ信号を参照して、A/D変換器6の出力するデジタル信号中からオーディオ信号成分とノイズ音信号成分をキャンセルし、キャンセル後のデジタル信号を音声認識装置8に入力する。音声認識装置8は、入力するデジタル信号に対して音声認識処理を行ってユーザの発話の内容を認識し、認識結果を情報処理装置に入力する。情報処理装置は、入力する音声認識装置8の認識結果に応じた処理を行う。
また、以上の動作中において、オーディオアンプ2の、ボリューム調整アンプ21は、オーディオ操作部12を介してユーザから指定されたゲインで、オーディオソース機器1から出力されるオーディオ信号を増幅し、出力調整アンプ22に出力する。
また、オーディオアンプ2の、出力調整アンプ22は、ゲイン制御部10から指定されたゲインで、ボリューム調整アンプ21から入力するオーディオ信号を増幅し、スピーカ3に出力する。なお、ゲイン制御部10の、出力調整アンプ22のゲイン制御の動作については後述する。
図示するように、発話音声抽出部7は、学習制御部71、係数更新部72、フィルタ73、第1加算器74、ノイズ音推定部75、第2加算器76より構成される。
フィルタ73は、オーディオソース機器1の出力からA/D変換器6の出力までの伝達系のインパルス応答を模擬するフィルタであり、このフィルタ73のインパルス応答を算出、更新するのが係数更新部72であり、フィルタ73と係数更新部72とで適応フィルタを構成している。係数更新部72は、LMS(平均二乗誤差)アルゴリズムやNLMS(正規化平均二乗誤差)アルゴリズムなどにより、第1加算器74が出力するA/D変換器6の出力とフィルタ73の出力の差分信号のパワーが最小となるようにフィルタ73のフィルタ係数xjを算出し、フィルタ73に設定する処理を繰り返す。
そして、この発話音声成分のみを表す差分信号SLが、前述したオーディオ信号成分とノイズ音成分をキャンセル後のデジタル信号として音声認識装置8に送られ、音声認識装置8において、このデジタル信号を対象として音声認識が行われることになる。
また、図示するように、フィルタ73の出力ALと第2加算器76の出力SLとノイズ音推定部75の出力NLとはゲイン制御部10にも送られる。そして、上述のようにフィルタ73の出力ALは、A/D変換器6の出力中のオーディオ信号成分の推定値を表し、第2加算器76の出力SLはA/D変換器6の出力中の発話音声信号成分の推定値を表し、ノイズ音推定部75の出力NLは、A/D変換器6の出力中のノイズ音信号成分の推定値を表す。以下、このフィルタ73の出力を「推定オーディオ信号AL」と、第2加算器76の出力を「推定発話音声信号SL」と、ノイズ音推定部75の出力を「推定ノイズ音信号NL」と呼ぶ。
ゲイン制御部10は、まず、推定オーディオ信号ALと推定ノイズ音信号NLを加算し推定環境音信号ELとする。そして、推定環境音信号ELと推定発話音声信号SLとの関係が、所定の関係となるように出力調整アンプ22のゲインを制御する。
ここで、所定の関係とは、推定環境音信号ELが示す環境音下で、推定発話音声信号SLが表す発話音声が明瞭に聞こえるようになる関係である。
ここで、図3は、物理的な音圧レベルと、その音を人間が聞いているときに感じるラウドネスとの対応関係を示したものである。図3の曲線において、横軸は物理的な音圧レベル(単位はSound Pressure Level SPL(dB))であり、縦軸は人の感じる音の大きさを数値化したラウドネス(単位はsone) である。図3において(a) は静かな環境におけるものであり、(b) は騒音環境下におけるものである。なお、(b) は、人の最小可聴値が約35dB上昇するような環境音の中での曲線であって、環境音が変化することによりこの曲線も様々に変化する。
したがって、37dB SPLの物理的音圧レベルの音を(b) の騒音環境下で聞く場合と同様に、0.1soneの大きさで、12dB SPLの物理的音圧レベルの音を聞こえるようにするためには、(a) の静かな環境が必要となる。
そこで、ゲイン制御部10は、このような人間の聴覚特性に従って、推定オーディオ信号ALと推定ノイズ音信号NLを加算した環境音信号ELが示す環境音下で、推定発話音声信号SLが表す発話音声が常に、一定のラウドネスでユーザに聞こえるように、出力調整アンプ22のゲインを制御する。すなわち、推定発話音声信号SLのレベルの大きさに応じて、出力調整アンプ22のゲインを変化させることにより環境音量を変化させる。なお、このようなゲインの制御のために、推定発話音声信号SLのレベルの各値と、その値のレベルの推定発話音声信号SLが表す発話音声が、所定のラウドネスでユーザに聞こえるようになる環境音信号ELのレベルの値の対応を示すテーブルを、あらかじめゲイン制御部10に設定しておく。そして、ゲイン制御部10は、トークスイッチ11がオンである期間、入力する推定発話音声信号SLのレベルにテーブルにおいて対応づけられている環境音信号ELのレベルの値から、入力する推定ノイズ音信号NLのレベルの値を減算した値に、入力する推定オーディオ信号ALのレベルの値が変化するように、出力調整アンプ22のゲインを制御する。
ところで、以上の実施形態におけるゲイン制御は、人間のラウドネス特性を考慮せずに、単純に、推定オーディオ信号ALと推定ノイズ音信号NLを加算した環境音信号ELと、推定発話音声信号SLの比が予め定めた比率となるように出力調整アンプ22のゲインを制御することにより行うようにしてもよい。または、推定オーディオ信号ALと推定ノイズ音信号NLを加算した環境音信号ELと、推定発話音声信号SLの差が予め定めた値以上となるように出力調整アンプ22のゲインを制御することにより行うようにしてもよい。また、以上の実施形態におけるゲイン制御では、発話音声抽出部7から入力する推定オーディオ信号AL、推定ノイズ音信号NL、推定発話音声信号SLに代えて、推定オーディオ信号AL、推定ノイズ音信号NL、推定発話音声信号SLにそれぞれ適当な重み付けを与えた値であるa×推定オーディオ信号AL、b×推定ノイズ音信号NL、c×推定発話音声信号SLを用いるようにしてもよい。
また、以上の実施形態は、ゲイン制御部10におけるゲイン制御において、推定ノイズ音信号NLに代えて、あらかじめ設定した固定値を用いるようにしてもよい。すなわち、その車両でおおよそ生じ得る平均または最大ノイズが発生したときに、A/D変換器6の出力に含まれることになるノイズ音信号成分のレベルを、固定的に、推定ノイズ音信号NLのレベルに代えて用いて、以上のゲイン制御を行うようにしてもよい。
図示するように、この処理では、ユーザによる音声入力の開始を監視する(ステップ402)。音声入力の開始判定は、トークスイッチ11がオン状態に操作されたときに音声入力が開始されたと判定することにより行う。
そして、ユーザによる音声入力が開始されたならば、推定ノイズ音信号NLの大きさが65dBA未満であるかどうかを調べる(ステップ404)。そして、推定ノイズ音信号NLの大きさが65dBA以上であれば、推定オーディオ信号ALの大きさが45dBAとなるように、出力調整アンプ22のゲインを制御し(ステップ412)、ステップ408に進む。
以上説明したゲイン制御処理によれば、ノイズ音とオーディオソース機器1の出力音よりなる環境音(背景騒音)のレベルを所望のレベルとすることができる。したがって、周辺のノイズ音のレベルによらずに、環境音を、発話の妨げにならないレベルに抑制することができると共に、ユーザの発話の妨げにならない程度に、大きな音量でオーディオ信号をユーザに聞かせることができる。また、ノイズ音のレベルによらずに、良好な音声処理の精度を確保することができるようになる。よって、ユーザの音声入力時の音響環境を向上することができるようになる。
Claims (10)
- オーディオ信号を出力するオーディオ機器と、オーディオ機器が出力するオーディオ信号に基づいてオーディオ音声を出力するスピーカと併用される音声処理装置であって、
オーディオ機器がスピーカに出力するオーディオ信号を増幅する出力調整アンプと、
周辺音をピックアップするマイクと、
前記マイクが出力する信号であるマイク出力信号から当該マイク出力信号に一成分として含まれるユーザの発話音声信号を抽出する発話音声信号抽出手段と、
前記発話音声信号抽出手段が抽出した発話音声信号を対象として所定の音声処理を行う音声処理手段と、
前記発話音声信号抽出手段が抽出した発話音声信号のレベルの大きさに基づいて、前記出力調整アンプのゲインを調整するゲイン制御手段とを有することを特徴とする音声処理装置。 - 請求項1記載の音声処理装置であって、
前記発話音声抽出部は、オーディオ機器が出力するオーディオ信号と、前記マイク出力信号とに基づいて、前記マイク出力信号中の、当該入力音声に一成分として含まれるオーディオ信号成分を推定し、推定したオーディオ信号成分を、当該マイク出力信号よりキャンセルすることにより、当該マイク出力信号に一成分として含まれるユーザの発話音声信号を抽出し、
前記ゲイン制御手段は、前記発話音声信号抽出手段が抽出した発話音声信号のレベルの大きさと、前記発話音声信号抽出手段が推定したオーディオ信号成分のレベルの大きさとが所定の関係となるように、前記出力調整アンプのゲインを調整することを特徴とする音声処理装置。 - 請求項1記載の音声処理装置であって、
前記発話音声抽出部は、オーディオ機器が出力するオーディオ信号と、前記マイク出力信号とに基づいて、前記マイク出力信号中の、当該マイク出力信号に一成分として含まれるオーディオ信号成分を推定すると共に、前記マイク出力信号中の、当該マイク出力信号に一成分として含まれるノイズ音成分を推定し、推定したオーディオ信号成分とノイズ成分を、当該マイク出力信号よりキャンセルすることにより、当該マイク出力信号に一成分として含まれるユーザの発話音声信号を抽出し、
前記ゲイン制御手段は、前記発話音声信号抽出手段が抽出した発話音声信号のレベルの大きさと、前記発話音声信号抽出手段が推定したオーディオ信号成分のレベルとノイズ成分のレベルとを加算したレベルの大きさとの関係が所定の関係となるように、前記出力調整アンプのゲインを調整することを特徴とする音声処理装置。 - 請求項1、2または3記載の音声処理装置であって、
前記所定の関係は、少なくとも発話音声信号のレベルが小さい程オーディオ信号成分のレベルが小さくなる関係であることを特徴とする音声処理装置。 - 請求項1、2または3記載の音声処理装置であって、
前記ゲイン制御手段は、前記発話音声信号抽出手段が抽出した発話音声信号が表す発話音声が、ユーザに等しいラウドネスで聞こえるように、前記出力調整アンプのゲインを調整することを特徴とする音声処理装置。 - オーディオ信号を出力するオーディオ機器と、オーディオ機器が出力するオーディオ信号に基づいてオーディオ音声を出力するスピーカと併用される音声処理装置であって、
オーディオ機器がスピーカに出力するオーディオ信号を増幅する出力調整アンプと、
周辺音をピックアップするマイクと、
前記マイクが出力する信号であるマイク出力信号から当該マイク出力信号に一成分として含まれるユーザの発話音声信号を抽出する発話音声信号抽出手段と、
前記発話音声信号抽出手段が抽出した発話音声信号を対象として所定の音声処理を行う音声処理手段と、
前記出力調整アンプのゲインを調整するゲイン制御手段とを有し、
前記発話音声抽出部は、オーディオ機器が出力するオーディオ信号と、前記マイク出力信号とに基づいて、前記マイク出力信号中の、当該マイク出力信号に一成分として含まれるオーディオ信号成分を推定すると共に、前記マイク出力信号中の、当該マイク出力信号に一成分として含まれるノイズ音成分を推定し、推定したオーディオ信号成分とノイズ成分を、当該マイク出力信号よりキャンセルすることにより、当該マイク出力信号に一成分として含まれるユーザの発話音声信号を抽出し、
前記ゲイン制御手段は、前記発話音声信号抽出手段が推定したオーディオ信号成分のレベルとノイズ成分のレベルとを加算したレベルが所定のレベルとなるように、前記出力調整アンプのゲインを調整することを特徴とする音声処理装置。 - 請求項6記載の音声処理装置であって、
前記ゲイン制御手段は、前記発話音声信号抽出手段が推定したオーディオ信号成分のレベルとノイズ成分のレベルとを加算したレベルが所定のしきい値未満のレベルである場合に、前記発話音声信号抽出手段が推定したオーディオ信号成分のレベルとノイズ成分のレベルとを加算したレベルが前記しきい値と等しいレベルとなるように、前記出力調整アンプのゲインを調整し、前記発話音声信号抽出手段が推定したオーディオ信号成分のレベルとノイズ成分のレベルとを加算したレベルが前記しきい値以上のレベルである場合に、前記発話音声信号抽出手段が推定したオーディオ信号成分のレベルが前記しきい値よりも小さい所定のレベルとなるように、前記出力調整アンプのゲインを調整することを特徴とする音声処理装置。 - 請求項7記載の音声処理装置であって、
前記しきい値の値は、55dBA以上70dBA以下の値であることを特徴とする音声処理装置。 - 請求項8記載の音声処理装置であって、
前記しきい値の値は、65dBA以上69dBA以下の値であることを特徴とする音声処理装置。 - 請求項1、2、3、4、5、6、7、8または9記載の音声処理装置であって、
前記音声処理手段は、前記所定の音声処理として、前記発話音声信号抽出手段が抽出した発話音声信号を対象とする音声認識処理を行うことを特徴とする音声処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005211469A JP4722607B2 (ja) | 2004-12-14 | 2005-07-21 | 音声処理装置 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004360902 | 2004-12-14 | ||
JP2004360902 | 2004-12-14 | ||
JP2005211469A JP4722607B2 (ja) | 2004-12-14 | 2005-07-21 | 音声処理装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010232649A Division JP5188558B2 (ja) | 2004-12-14 | 2010-10-15 | 音声処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006195411A true JP2006195411A (ja) | 2006-07-27 |
JP4722607B2 JP4722607B2 (ja) | 2011-07-13 |
Family
ID=36801520
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005211469A Active JP4722607B2 (ja) | 2004-12-14 | 2005-07-21 | 音声処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4722607B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011152920A1 (en) * | 2010-06-03 | 2011-12-08 | Johnson Controls Technology Company | Method for adjusting a voice recognition system comprising a speaker and a microphone, and voice recognition system |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6180997A (ja) * | 1984-09-27 | 1986-04-24 | Nec Corp | 音量調節器付き拡声装置 |
JP2000059881A (ja) * | 1998-08-05 | 2000-02-25 | Yamaha Corp | 音声再生装置および通信会議装置 |
JP2001236090A (ja) * | 2000-02-22 | 2001-08-31 | Alpine Electronics Inc | 音声入力装置 |
JP2003202896A (ja) * | 2002-01-07 | 2003-07-18 | Denso Corp | 車両用空調装置および車両用オーディオ装置 |
JP2003249996A (ja) * | 2002-02-25 | 2003-09-05 | Kobe Steel Ltd | 音声信号入出力装置 |
JP2003264627A (ja) * | 2002-03-11 | 2003-09-19 | Alpine Electronics Inc | 通話音声処理装置 |
JP2004187165A (ja) * | 2002-12-05 | 2004-07-02 | Alpine Electronics Inc | 音声通信装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0536500U (ja) * | 1991-10-18 | 1993-05-18 | 株式会社ケンウツド | 車載用音響機器の音声認識装置 |
-
2005
- 2005-07-21 JP JP2005211469A patent/JP4722607B2/ja active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6180997A (ja) * | 1984-09-27 | 1986-04-24 | Nec Corp | 音量調節器付き拡声装置 |
JP2000059881A (ja) * | 1998-08-05 | 2000-02-25 | Yamaha Corp | 音声再生装置および通信会議装置 |
JP2001236090A (ja) * | 2000-02-22 | 2001-08-31 | Alpine Electronics Inc | 音声入力装置 |
JP2003202896A (ja) * | 2002-01-07 | 2003-07-18 | Denso Corp | 車両用空調装置および車両用オーディオ装置 |
JP2003249996A (ja) * | 2002-02-25 | 2003-09-05 | Kobe Steel Ltd | 音声信号入出力装置 |
JP2003264627A (ja) * | 2002-03-11 | 2003-09-19 | Alpine Electronics Inc | 通話音声処理装置 |
JP2004187165A (ja) * | 2002-12-05 | 2004-07-02 | Alpine Electronics Inc | 音声通信装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011152920A1 (en) * | 2010-06-03 | 2011-12-08 | Johnson Controls Technology Company | Method for adjusting a voice recognition system comprising a speaker and a microphone, and voice recognition system |
CN102906811A (zh) * | 2010-06-03 | 2013-01-30 | 约翰逊控制技术公司 | 用于调节包括扬声器和麦克风的语音识别系统的方法及语音识别系统 |
CN102906811B (zh) * | 2010-06-03 | 2014-08-20 | 约翰逊控制技术公司 | 用于调节包括扬声器和麦克风的语音识别系统的方法及语音识别系统 |
US10115392B2 (en) | 2010-06-03 | 2018-10-30 | Visteon Global Technologies, Inc. | Method for adjusting a voice recognition system comprising a speaker and a microphone, and voice recognition system |
Also Published As
Publication number | Publication date |
---|---|
JP4722607B2 (ja) | 2011-07-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106664473B (zh) | 信息处理装置、信息处理方法和程序 | |
US10726859B2 (en) | Method of and system for noise suppression | |
JP6374529B2 (ja) | ヘッドセットと音源との間のオーディオの協調的処理 | |
US8897457B2 (en) | Method and device for acoustic management control of multiple microphones | |
EP2081405B1 (en) | A hearing aid adapted to a specific type of voice in an acoustical environment, a method and use | |
JP6325686B2 (ja) | ヘッドセットと音源との間のオーディオの協調的処理 | |
JP3329519B2 (ja) | ユーザ制御フィードバック除去機能を備えた視覚補助装置 | |
JP2016051038A (ja) | ノイズゲート装置 | |
EP3777114B1 (en) | Dynamically adjustable sidetone generation | |
JP5188558B2 (ja) | 音声処理装置 | |
JPH0968997A (ja) | 音声処理方法及び装置 | |
JP4722607B2 (ja) | 音声処理装置 | |
JP2006333396A (ja) | 音声信号拡声装置 | |
CN113473345B (zh) | 一种穿戴设备辅听控制方法、装置、系统及可读存储介质 | |
JP3822397B2 (ja) | 音声入出力方式 | |
KR101602298B1 (ko) | 음량측정기를 이용한 오디오시스템 | |
JP2008102551A (ja) | 音声信号の処理装置およびその処理方法 | |
JP4999267B2 (ja) | 音声入力装置 | |
JP4527654B2 (ja) | 音声通信装置 | |
JP5105912B2 (ja) | 音声明瞭度改善装置およびその騒音レベル推定方法 | |
JP2001236090A (ja) | 音声入力装置 | |
JP4313294B2 (ja) | 音声出力装置 | |
JP4495581B2 (ja) | 音声出力装置 | |
JP3596580B2 (ja) | 音声信号の処理回路 | |
JP4079478B2 (ja) | 音声信号の処理回路および処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080218 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100812 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100818 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20101015 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20101221 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110209 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110405 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110406 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140415 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4722607 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |