JP4784366B2 - 音声操作装置 - Google Patents

音声操作装置 Download PDF

Info

Publication number
JP4784366B2
JP4784366B2 JP2006089560A JP2006089560A JP4784366B2 JP 4784366 B2 JP4784366 B2 JP 4784366B2 JP 2006089560 A JP2006089560 A JP 2006089560A JP 2006089560 A JP2006089560 A JP 2006089560A JP 4784366 B2 JP4784366 B2 JP 4784366B2
Authority
JP
Japan
Prior art keywords
bathroom
voice
speaker
acoustic model
detection unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006089560A
Other languages
English (en)
Other versions
JP2007264328A (ja
Inventor
朗 馬場
清隆 竹原
健治 奥野
新平 日比谷
賢二 中北
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Electric Works Co Ltd
Original Assignee
Panasonic Corp
Matsushita Electric Works Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Works Ltd filed Critical Panasonic Corp
Priority to JP2006089560A priority Critical patent/JP4784366B2/ja
Publication of JP2007264328A publication Critical patent/JP2007264328A/ja
Application granted granted Critical
Publication of JP4784366B2 publication Critical patent/JP4784366B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Bathtubs, Showers, And Their Attachments (AREA)

Description

本発明は、音声操作装置に関するものである。
従来より、給湯器の給湯温度や浴槽に溜める湯の温度や量を設定したり、追い炊きや湯はりなどの操作を行うための給湯コントローラが浴室内に設置されている。
また近年、快適な入浴を実現するために、浴槽内に気泡を含んだジェット噴流を発生させるジェット噴流設備や、浴室内の暖房、換気、浴室乾燥を行う換気暖房乾燥設備や、映像あるいは音楽などを視聴するための映像音響設備が浴室内に設置されており、これらの設備を操作するためのコントローラも浴室装置として設置されていた。そのため浴室内には給湯コントローラとは別に、ジェット噴流設備、換気暖房乾燥設備、映像音響設備などの浴室機器をそれぞれ制御するための複数のコントローラが設置されることになり、コントローラの数が増えて、広い設置スペースを必要とするという問題があった。またコントローラの数が増えると、それぞれのコントローラの使用方法を覚えなければならず、使用方法の習熟に時間を要し、また複数のコントローラを操作するため使い勝手が悪かった。
そこで、例えば特許文献1に示されるような音声認識装置を用い、各種の浴室機器を制御するために使用者が音声で命令を発すると、その音声を認識して、操作対象の浴室機器を操作するようにした浴室装置および音声操作装置が提案されている。
特開2004−117724号公報(段落番号[0025]〜[0032]、及び、図1)
上述の浴室装置および音声操作装置は、浴室内の話者が発した音声を認識して制御対象の浴室機器を制御するのであるが、浴室は反射の強い環境であるため、音声が残響音の影響を受けて変形し、音声認識の認識率が低下するという問題があった。
このような問題に対して、上述の特許文献1に示される音声認識装置では、音声認識に用いる音響モデルとして、残響時間の異なる複数の音響モデルを用意し、話者が入力した音声に対して最も類似度の高い音響モデルを用いて音声認識を行うようにしているが、浴室内で話者が移動すると、話者と話者の話す声を集音するマイクの位置が変化して反射特性が変化するため、音響モデルが一致しなくなる。したがって話者が移動した後に話した最初の音声は、音響モデルが正しく選択されていないため、認識率が低下してしまうという問題があった。また残響時間をもとに音響モデルを選択する場合に、音響モデルの選択を誤ると、音声認識の認識率が低下するという問題もあった。
本発明は上記問題点に鑑みて為されたものであり、その目的とするところは、反響音の影響によって音声認識の認識率が低下するのを抑制した音声操作装置を提供することにある。
上記目的を達成するために、請求項1の発明は、浴室に設けられた浴室機器を操作するための音声操作装置であって、浴室に設けられた音声検出部と、浴室内で話者がいる領域を検出する領域検出部と、浴室内で話者がいる領域に応じて話者の音声の反響状態が異なることを想定して複数用意され、異なる反響状態をそれぞれ想定した複数の音響モデルを記憶する音響モデル記憶部と、領域検出部による検出領域をもとに、話者がいる領域での音声の反響状態に近い音響モデルを、音響モデル記憶部に記憶された複数の音響モデルから選択する音響モデル選択部と、音響モデル選択部により選択された音響モデルを用いて音声検出部が検出した音声の内容を認識する音声認識部と、音声認識部により認識された音声の内容にしたがって対応する浴室機器を操作する音声操作部とを備えることを特徴とする。
請求項2の発明は、請求項1の発明において、話者の顔が向いている方向を検出する方向検出部を設け、音響モデル選択部は、領域検出部による検出領域と、方向検出部による検出方向とをもとに、話者が発する声の残響状態に対応する音響モデルを選択することを特徴とする。
請求項3の発明は、請求項1又は2の発明において、浴室機器を複数備えるとともに、各浴室機器の稼働状態を検出する稼働状態検出部を設け、領域検出部が、稼働状態検出部により検出された稼働中の浴室機器を使用する場合の予想位置を話者の居る領域として検出することを特徴とする。
請求項1の発明によれば、異なる反響状態を想定した複数の音響モデルを音響モデル記憶部に予め記憶させておき、音響モデル選択部が、領域検出部により検出された話者の領域の反響状態に対応する音響モデルを選択し、選択された音響モデルを用いて音声認識を行っているので、浴室内を話者が移動した場合でも、話者が居る領域の反響状態に対応した音響モデルを選択することで、反響音の影響によって音声認識の認識精度が低下するのを抑制することができるという効果がある。
ところで、話者の居る領域が同じ場合でも、話者の顔が向いている方向(つまり話者が発した音声の進行方向)によって反響状態が変化する可能性があるが、請求項2の発明によれば、領域検出部により検出された話者の居る領域と、方向検出部により検出された話者の顔の向きとに基づいて、音響モデル選択部が話者の発する声の残響状態に対応する音響モデルを選択しているので、反響音の影響による認識精度の低下をさらに抑制できるという効果がある。
請求項3の発明によれば、稼働中の浴室機器を使用する場合の予想位置を話者の居る領域として検出しているので、人体を検出するセンサなどを別途設置することなく、話者の位置を検出できるという効果がある。ここに、浴室機器を使用する場合の予想位置とは、稼働中の浴室機器を話者が使用する場合に、その話者が存在すると予想される位置を意味しており、例えばジェット噴流発生装置が稼働中であれば予想位置は浴槽であり、シャワー設備が稼働中であれば予想位置は洗い場となる。
以下に本発明の実施の形態を図面に基づいて説明する。
(実施形態1)
本発明の実施形態1を図1〜図3に基づいて説明する。図2は浴室装置Aを適用した浴室1の構成を模式的に示した図であり、浴室1の内部には出入り口2に近い側に洗い場3が設けられ、出入り口2から遠い側に浴槽4が設置されている。浴槽4には、浴槽4に湯を張った状態で気泡を含むジェット噴流を発生させるジェット噴流発生装置(図示せず)が設けられている。また浴室1の天井5には、浴室1内の換気、暖房或いは浴室乾燥を行うための換気乾燥暖房機6と、浴室1内の照明を行う照明器具7とがそれぞれ設置されている。また浴室1の横壁8aには、洗い場3側にシャワー設備9が設けられ、浴槽4側にテレビやビデオを視聴するための浴室テレビ10が設置されている。また浴室1内の浴槽4に沿った横壁8bには、本発明の音声認識機能を有するコントローラ11が設置されている。また浴室1の室外には、浴槽4内に溜める湯やシャワー設備9から出湯する湯を供給するための給湯器(図示せず)が設置されている。
図3はコントローラ11の外観図であり、前面の形状が矩形状に形成されたボディ20を有し、ボディ20の前面を横壁8bの表面に露出させた状態で横壁8bに配設されている。ボディ20の前面には、給湯器の動作状態や給湯温度の設定値などを示す液晶モニタ21と、動作表示のための発光ダイオードLEDと、マイクMCと、スピーカSPとが配置されている。またボディ20の前面において、液晶モニタ21の右側には、動作モードを設定モードに切り替えるためのメニュー釦22aと、設定項目や設定値を決定するための確定釦22bと、1つ前の操作状態に戻すために操作する復帰釦22cとが上下に並べて配置されており、各操作釦22a〜22cの前面には例えば「メニュー」「確定」「戻る」などの操作内容を示す文字が表示されている。さらに操作釦22a〜22cの下側には、設定モードにおいて設定項目を選択したり、設定値を変更したりするための上下左右のカーソル釦23a〜23dが配置されている。またボディ20の前面において、液晶モニタ21の左側には、例えば台所などに別置されたコントローラ(図示せず)からの操作に対して浴室側のコントローラ11による操作を優先させるために操作する優先釦22dと、浴槽4内に溜められている湯を温める際に押操作する追いだき釦22eと、浴槽4内に所定温度の湯を所定量溜める際に押操作するふろ自動釦22fと、台所に別置されたコントローラとの間でインターホン通話を行う際に操作する通話釦22dとが上下に並べて配置されており、各操作釦22d〜22gの前面には例えば「優先」「追いだき」「ふろ自動」「通話」といった操作内容を示す文字がそれぞれ表示されている。
また図1はコントローラ11の要部のブロック図であり、音声命令の認識処理を行って浴室機器の操作を行う構成のみを図示してある。すなわち図1は浴室装置Aに適用される音声操作装置Bの概略構成を示しており、音声操作装置Bは、浴室1内に設けられて入力された音声を電気信号に変換するマイクMCと、マイクMCから入力される電気信号(アナログ信号)をデジタル信号に変換するA/D変換部12と、浴室1に設置された複数の浴室機器C(換気乾燥暖房機6、照明器具7、浴室テレビ10、給湯機18、ジェット噴流発生装置19からなる)から現在稼働中の機器を検出する稼働状態検出部24と、稼働状態検出部24の検出結果に基づいて話者が居る領域を検出する領域検出部13と、異なる反響状態をそれぞれ想定した複数の音響モデルM1,M2…Mnを記憶する音響モデル記憶部14と、音響モデル記憶部14に記憶された複数の音響モデルM1,M2…Mnから、領域検出部13による検出領域の反響状態に対応した音響モデルを選択する音響モデル選択部15と、A/D変換部12によりA/D変換された音声信号と音響モデル選択部15により選択された音響モデルとをパターンマッチングすることによって音声命令の内容を認識する音声認識部16と、音声認識部16の認識結果に基づいて対応する浴室機器Cを操作する音声操作部17とを備えている。
マイクMCは、使用者の発した音声を電気信号に変換してA/D変換部12に出力するために用いられ、このようなマイクMCとしてはコンデンサマイクや圧電マイクなど使用状態や使用環境に応じて適宜のものを使用することができる。
音響モデル記憶部14には、浴室機器を操作するために用いる音声命令の認識処理に必要な音響モデルM1〜Mnが格納されている。複数の音響モデルM1〜Mnは、それぞれ異なる反響状態(例えば残響時間など)を想定して用意されており、個々の音響モデルとしては、例えば人間の発声の小さな単位(音素)の音響的特徴を表す隠れマルコフモデル(HMM)などが用いられる。
領域検出部13は、稼働状態検出部24により検出された稼働中の浴室機器を使用する場合の予想位置を話者の居る領域として検出する。浴室機器を使用する場合の予想位置とは、稼働中の機器を話者が使用する場合に話者が存在すると予想される位置のことを意味し、例えば稼働中の浴室機器がシャワー設備であれば、話者が洗い場3にいると予想され、ジェット噴流発生装置19や浴室テレビ10であれば浴槽4内にいると予想される。
ここで、浴室1は狭く閉じた空間であり、反射の強い環境であるため、浴室1内で話者が発した音声は残響音の影響を大きく受けて、音声に歪みが生じる。しかも浴室1内では話者が居る場所に応じて反響状態が大きく異なるため、反響音が音声に与える影響も異なることが予想される。そこで本実施形態では、音響モデル記憶部14に、異なる反響状態をそれぞれ想定した複数の音響モデルM1〜Mnを予め用意しておき、音響モデル選択部15が、領域検出部13により検出された領域をもとに、話者がいる領域の反響状態に近い音響モデルを音響モデル記憶部14に登録された音響モデルの中から選択している。したがって、浴室1内で話者が移動したとしても、話者が居る領域の反響状態に対応した音響モデルを選択して使用することができ、音声認識部16が、音響モデル選択部15により選択された音響モデルを用いて音声認識を行うことで、反響音の影響による音声認識率の低下を抑制することができる。そして、音声操作部17は、音声認識部16の認識結果に基づいて対応する浴室機器Cを操作しているので、音声の誤認識によって意図した操作が行われるのを防止し、意図した操作を行わせることができる。また、領域検出部24は、稼働中の浴室機器を使用する場合の予想位置を話者の居る領域として検出しており、コントローラ11では音声操作部17の操作対象である浴室機器Cの稼働状態を把握できるので、人体を検出するセンサなどを別途設置することなく、話者の位置を検出することができる。
(実施形態2)
本発明の実施形態2を図4及び図5に基づいて説明する。尚、領域検出部13による話者の検知方法が異なる点を除いては上述の実施形態1と同様であるので、共通する構成要素には同一の符号を付して、その説明は省略する。
上述の実施形態1では、領域検出部13が稼働状態検出部24の検出結果に基づいて話者の居る領域を検出しているのに対して、本実施形態では図4に示すように浴室1に複数の人感センサ13aと、ドアセンサ13bを設置し、両センサ13a,13bの検出結果に基づいて領域検出部13が話者の居る領域を検出するようにしている。
人感センサ13aは、例えば焦電型赤外線検出素子を備え、人体から放射される熱線を検出することによって検知領域における人の存否を検出する。ここで浴室1の天井5に複数個(例えば3個)の人感センサ13aを設置し、それぞれ浴室1内に設定された検知領域D1〜D3(図5参照)における人の存否を検出するようになっており、領域検出部13では、検知信号を発した人感センサ13aの検知領域を話者のいる領域として検出する。
またドアセンサ13bは、浴室1の出入り口2の開閉状態を検出するマグネットセンサなどからなり、領域検出部13ではドアセンサ13bから検知信号が入力されると、出入り口2の近傍を話者がいる領域と判断する。
このように本実施形態では領域検出部13が、人感センサ13aやドアセンサ13bからの検知入力に基づいて、浴室1内で話者が居る領域を検出しており、実施形態1で説明したように音響モデル選択部15が領域検出部13の検出結果を用いて話者の居る領域に対応した音響モデルを選択しているので、話者の居る領域の反響状態に対応した音響モデルが選択でき、反響音の影響によって音声認識の認識率が低下するのを抑制することができる。
なお本実施形態では人感センサ13aとして焦電型の赤外線検出素子を用いたセンサを用いているが、人感センサ13aをPIRセンサに限定する趣旨のものではなく、例えば超音波を用いて検出領域における物体(すなわち人体)の存否を検出する超音波センサや、LED距離計測方式により検知領域における物体の位置や形状を検出する距離画像センサや、浴室1の床面に設置されて圧力変化を検出することにより人の存否を検出する圧力センサなどを用いても良い。
(実施形態3)
本発明の実施形態3を図6に基づいて説明する。尚、領域検出部13の代わりに領域・方向検出部25を設けた点を除いては上述の実施形態1と同様であるので、共通する構成要素には同一の符号を付して、その説明は省略する。
上述の実施形態1では、領域検出部13が稼働状態検出部24の検出結果に基づいて話者の居る領域を検出しているのに対して、本実施形態では浴室1に内部を撮影するカメラ26a,26bを設置し、領域・方向検出部25が、カメラ26a,26bにより撮影された画像をもとに話者の居る領域と、話者の顔が向いている方向とを検出するようになっている。
2台のカメラ26a,26bは例えばCCD撮像素子を用いたテレビカメラからなり、浴室1の天井5付近において出入り口2側と反対側とにそれぞれ設置されており、浴室1の内部を2方向から撮影できるようになっている。なおカメラ26a,26bの台数や設置位置は上記の形態に限定されるものではなく、浴室1内の任意の場所を複数の方向から撮影できるのであれば、その台数や配置は問わない。
領域・方向検出部25は、カメラ26a,26bから入力される画像信号に2値化処理を施し、話者が居ないときの画像との差分画像を求めた後、人体の頭部を表すテンプレート画像とのマッチング処理を行って、話者がいる領域を求めるとともに、頭部(すなわち顔)の向きを検出して、検出結果を音響モデル選択部15に出力する。
ところで、話者の居る領域が同じ場合でも、話者の顔が向いている方向(つまり話者が発した音声の進行方向)によって反響状態が変化する可能性があるが、本実施形態では音響モデル選択部15が、領域・方向検出部により検出された話者の居る領域と、話者の顔が向いている方向(つまり話者の音声の進行方向)とをもとに、話者が発する音声の反響状態に近い音響モデルを選択しているので、反響音の影響による認識精度の低下をさらに抑制することができる。
実施形態1の浴室装置のシステム構成を示すブロック図である。 同上の浴室装置の設置例を示す外観図である。 同上に用いるコントローラの正面図である。 実施形態2の浴室装置のシステム構成を示すブロック図である。 同上に用いる人感センサの検知領域を説明する説明図である。 実施形態3の浴室装置のシステム構成を示すブロック図である。
符号の説明
A 浴室装置
B 音声操作装置
C 浴室機器
M1〜Mn 音響モデル
MC マイク
13 領域検出部
14 音響モデル記憶部
15 音響モデル選択部
16 音声認識部
17 音声操作部
24 稼働状態検出部

Claims (3)

  1. 浴室に設けられた浴室機器を操作するための音声操作装置であって、
    前記浴室に設けられた音声検出部と、
    前記浴室内で話者がいる領域を検出する領域検出部と、
    前記浴室内で話者がいる領域に応じて話者の音声の反響状態が異なることを想定して複数用意され、異なる反響状態をそれぞれ想定した複数の音響モデルを記憶する音響モデル記憶部と、
    前記領域検出部による検出領域をもとに、前記話者がいる領域での音声の反響状態に近い音響モデルを、前記音響モデル記憶部に記憶された複数の音響モデルから選択する音響モデル選択部と、
    前記音響モデル選択部により選択された音響モデルを用いて前記音声検出部が検出した音声の内容を認識する音声認識部と、
    前記音声認識部により認識された音声の内容にしたがって対応する前記浴室機器を操作する音声操作部とを備えることを特徴とする音声操作装置。
  2. 前記話者の顔が向いている方向を検出する方向検出部を設け、前記音響モデル選択部は、前記領域検出部による検出領域と、前記方向検出部による検出方向とをもとに、前記話者が発する声の残響状態に対応する音響モデルを選択することを特徴とする請求項1記載の音声操作装置。
  3. 前記浴室機器を複数備えるとともに、前記各浴室機器の稼働状態を検出する稼働状態検出部を設け、前記領域検出部は、前記稼働状態検出部により検出された稼働中の前記浴室機器を使用する場合の予想位置を話者の居る領域として検出することを特徴とする請求項1又は2記載の音声操作装置。
JP2006089560A 2006-03-28 2006-03-28 音声操作装置 Expired - Fee Related JP4784366B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006089560A JP4784366B2 (ja) 2006-03-28 2006-03-28 音声操作装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006089560A JP4784366B2 (ja) 2006-03-28 2006-03-28 音声操作装置

Publications (2)

Publication Number Publication Date
JP2007264328A JP2007264328A (ja) 2007-10-11
JP4784366B2 true JP4784366B2 (ja) 2011-10-05

Family

ID=38637375

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006089560A Expired - Fee Related JP4784366B2 (ja) 2006-03-28 2006-03-28 音声操作装置

Country Status (1)

Country Link
JP (1) JP4784366B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009223170A (ja) * 2008-03-18 2009-10-01 Advanced Telecommunication Research Institute International 音声認識システム
WO2019013349A1 (ja) * 2017-07-14 2019-01-17 ダイキン工業株式会社 空調機、空調システム、通信システム、制御システム、機器制御システム、機器管理システム及び音情報解析システム
KR102550598B1 (ko) * 2018-03-21 2023-07-04 현대모비스 주식회사 음성 화자 인식 장치 및 그 방법
KR20210017392A (ko) * 2019-08-08 2021-02-17 삼성전자주식회사 전자 장치 및 이의 음성 인식 방법

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3530035B2 (ja) * 1998-08-19 2004-05-24 日本電信電話株式会社 音認識装置
JP2003345389A (ja) * 2002-05-22 2003-12-03 Nissan Motor Co Ltd 音声認識装置
JP4221986B2 (ja) * 2002-09-25 2009-02-12 パナソニック電工株式会社 音声認識装置
JP4352790B2 (ja) * 2002-10-31 2009-10-28 セイコーエプソン株式会社 音響モデル作成方法および音声認識装置ならびに音声認識装置を有する乗り物
JP3632099B2 (ja) * 2002-12-17 2005-03-23 独立行政法人科学技術振興機構 ロボット視聴覚システム
JP4100308B2 (ja) * 2003-09-17 2008-06-11 株式会社ノーリツ 温水システム
DE602004021716D1 (de) * 2003-11-12 2009-08-06 Honda Motor Co Ltd Spracherkennungssystem

Also Published As

Publication number Publication date
JP2007264328A (ja) 2007-10-11

Similar Documents

Publication Publication Date Title
JP6887031B2 (ja) 方法、電子装置、家庭用機器ネットワークおよび記憶媒体
US10056081B2 (en) Control method, controller, and non-transitory recording medium
US11217240B2 (en) Context-aware control for smart devices
KR101556173B1 (ko) 음성인식을 이용한 전자 기기 구동 장치 및 방법
EP3602241B1 (en) Method and apparatus for interaction with an intelligent personal assistant
EP3301948A1 (en) System and method for localization and acoustic voice interface
JP2005284492A (ja) 音声利用操作装置
CN112771453A (zh) 用于使用运动姿势控制电器的系统和方法
JP6433903B2 (ja) 音声認識方法及び音声認識装置
KR102409303B1 (ko) 음성 인식 방법 및 장치
JPWO2016157662A1 (ja) 情報処理装置、制御方法、およびプログラム
JP4784366B2 (ja) 音声操作装置
KR20220031610A (ko) 멀티-모달 사용자 인터페이스
JP2011081541A (ja) 入力装置及びその制御方法
CN106537490A (zh) 具有语音识别装置的电气运行的家用设备
JP2009192942A (ja) 音声対話装置及び支援方法
JP2000347692A (ja) 人物検出方法、人物検出装置及びそれを用いた制御システム
WO2017141530A1 (ja) 情報処理装置、情報処理方法、及びプログラム
KR100556365B1 (ko) 음성 인식장치 및 방법
TW202044058A (zh) 瀏覽建築物之占有者狀態及管理裝置之系統及方法
US11657821B2 (en) Information processing apparatus, information processing system, and information processing method to execute voice response corresponding to a situation of a user
JP4760477B2 (ja) 浴室装置及びそれに用いる音声操作システム
CN114175145A (zh) 多模态智能音频设备系统注意力表达
JP2006302009A (ja) ユーザインタフェース装置、家電・住設機器およびユーザインタフェース提示方法
JP2007264327A (ja) 浴室装置及びそれに用いる音声操作装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081210

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100802

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101029

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110111

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110509

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20110518

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110614

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110627

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140722

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees