JP4749756B2 - 音声認識装置及びそのプログラム - Google Patents

音声認識装置及びそのプログラム Download PDF

Info

Publication number
JP4749756B2
JP4749756B2 JP2005119881A JP2005119881A JP4749756B2 JP 4749756 B2 JP4749756 B2 JP 4749756B2 JP 2005119881 A JP2005119881 A JP 2005119881A JP 2005119881 A JP2005119881 A JP 2005119881A JP 4749756 B2 JP4749756 B2 JP 4749756B2
Authority
JP
Japan
Prior art keywords
adaptation
information
noise
description language
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005119881A
Other languages
English (en)
Other versions
JP2006301102A (ja
Inventor
貴志 須藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2005119881A priority Critical patent/JP4749756B2/ja
Publication of JP2006301102A publication Critical patent/JP2006301102A/ja
Application granted granted Critical
Publication of JP4749756B2 publication Critical patent/JP4749756B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

この発明は、画面中の入力項目に対する入力を音声で操作する音声認識装置及びそのプログラムに関するものである。
近年は携帯端末を持つ人が急増し、キーボードによる入力以外の端末への情報入力方法に対する需要が高まってきている。その手法の一つが音声による入力である。音声認識において、ユーザや使用環境に応じてシステムを適応させる方法については様々な技術が提案されている。
例えば、ユーザの顧客番号や電話番号を使用してユーザを特定し、そのユーザに応じて、性別、年齢別、地域別に予め複数用意された音響モデルを変更するようにしたものがあった(例えば、特許文献1参照)。
特開2000−347684号公報
しかしながら、従来の音声認識装置では、ユーザに関する情報を予め保持しておく必要がある。そのため、不特定多数の人が使用するシステムでは、音響モデルの変更を行うことが出来ない、という問題点があった。
この発明は上記のような課題を解決するためになされたもので、ユーザに関する情報を予め保持しておくことなく、音響モデルなど様々なシステムに関する適応を可能にする音声認識装置を得ることを目的とする。
この発明に係る音声認識装置は、画面制御用記述言語に含まれる特定の情報を解析する画面制御用記述言語解析部と、画面制御用記述言語解析部の解析結果に基づいて、特定の情報に対応した騒音除去処理の有無を適応化情報として決定する適応化情報決定部と、適応化情報決定部で決定した適応化情報に基づいて、画面制御用記述言語に基づいて表示された画面に対して入力された音声の音声認識を行う音声認識部とを備えたものである。
この発明の音声認識装置は、画面制御用記述言語に含まれる特定の情報に対応した適応化情報に基づいて音声認識を行うようにしたので、ユーザに関する情報を予め保持しておくことなく、音響モデルなど様々なシステムに関する適応を可能にする音声認識装置を得ることができる。
実施の形態1.
図1は、この発明の実施の形態1による音声認識装置を示す構成図である。
図において、音声認識装置は、画面制御用記述言語取得部1、画面表示部2、画面制御用記述言語解析部3、システム適応化情報保持部4、システムデータ保持部5、システム適応部6、音声取得部7、音声認識部8からなる。
画面制御用記述言語取得部1は、複数の入力項目を画面に表示するための画面制御用記述言語を取得する機能部である。画面表示部2は、画面制御用記述言語取得部1で取得した画面制御用記述言語に基づいて画面表示を行う機能部であり、画面制御のための制御部とディスプレイ等の表示部からなるものである。画面制御用記述言語解析部3は、画面制御用記述言語取得部1で取得した画面制御用記述言語に基づいて、その画面データに含まれる特定の情報を解析する機能部である。
システム適応化情報保持部4は、画面制御用記述言語解析部3で解析された特定の情報と、予め設けられた適応化情報としての騒音モデルとの対応関係を示す適応化対応表を有し、この適応化対応表から特定の情報に対応した騒音モデルの情報を選択し、これを適応化対応情報としてシステムデータ保持部5に出力する機能部である。システムデータ保持部5は、適応化モデルとして実際の騒音モデルを保持しており、システム適応化情報保持部4からの適応化対応情報に基づいて選択した騒音モデルを出力するよう構成されている。システム適応部6は、その画面に対応した騒音モデルを決定し、これを適応化情報として音声認識部8に出力する機能部である。また、これら、システム適応化情報保持部4〜システム適応部6によって、画面制御用記述言語解析部3で解析された特定の情報に対応した適応化情報を決定する適応化情報決定部9を構成している。
音声取得部7は、ユーザの音声を取得する機能部であり、音声入力回路等からなるものである。音声認識部8は、システム適応部6からの適応化情報としての騒音モデルと音声取得部7からの音声情報に基づいて、音声認識を行い、その認識結果を画面表示部2に出力する機能部である。
また、以降の実施の形態も含めて、本発明の音声認識装置はコンピュータを用いて実現され、上記の画面制御用記述言語取得部1〜音声認識部8の構成(画面表示部2は制御部分の構成)は、それぞれの機能に対応したプログラムと、これらのプログラムを実行するためのCPUやメモリといったハードウェアから実現されている。
次に、実施の形態1の動作について説明する。
本実施の形態では、画面制御用記述言語として、代表的なWebブラウザが対応しているマークアップ言語であるHTML(HyperText Markup Language)として説明する。また、本実施の形態では、施設の点検作業のため複数の入力項目を持つページにおいて音声入力を行う場合を例にとって説明する。更に、本実施の形態では、HTML文書のURL(Uniform Resource Locator)を画面制御用記述言語に含まれる特定の情報として使用し、騒音モデルを選択及び設定する方法について説明する。
先ず、例に挙げるサイトについて説明する。
図2に施設1における点検用ページのHTML文書を示す。
ここで、施設1における点検用ページのURLは「http://www.tenken.ne.jp/place1.html」とする。
また、図3に施設1における点検用ページの画面表示内容を示す。施設1における点検用ページでは施設1の施設中央の温度の入力を入力項目101で、施設1の施設出口の温度の入力を入力項目102で行う。施設1における点検用ページにおける入力項目101と102への入力を行った後、入力決定ボタン103を押下すると、点検したデータがシステムに入力される。
また、図4に施設2における点検用ページのHTML文書を示す。
ここで、施設2における点検用ページのURLは、「http://www.tenken.ne.jp/place2.html」とする。また、図5に施設2における点検用ページの画面表示内容を示す。施設2における点検用ページでは施設2の施設中央の温度の入力を入力項目201で、施設2の施設出口の温度の入力を入力項目202で行う。施設2における点検用ページにおける入力項目201と202への入力を行った後、入力決定ボタン203を押下すると、点検したデータがシステムに入力される。
ここで、各施設についての情報を図6に示す。
上記のような点検の場合、図6に示すように点検場所によって騒音環境が大きく異なる可能性がある。そのような異なる騒音環境下で同一の騒音モデルを使用して音声認識を行った場合、データのミスマッチを引き起こし、高い認識性能が得られない可能性がある。このような問題に対応するため、本実施の形態では、適応化情報決定部9において、表示画面に応じて、使用するシステムデータ(適応化情報)を切り替える。即ち、システム適応化情報保持部4で、画面制御用記述言語解析部3で解析した情報に対応した騒音モデルを選択し、この騒音モデルをシステムデータ保持部5から取り出して、システム適応部6で、適応化情報として出力する。
ここで、騒音モデルとは、音声認識使用環境下の騒音を集め、その特徴を情報化したものである。この騒音モデルは音響モデルの一部として、入力データの無音部分に対する確率演算に使用される情報である。本実施の形態では音響モデルは、既定の音響モデルを使用するものとする。
次に、具体的な例を用いて本実施の形態の動作について説明する。
以下、図2の点検用ページが画面表示された場合のシステム適応の動作について、図7のフローチャートを使用して説明する。
先ず、ステップST101において、画面制御用記述言語取得部1は、URLが「http://www.tenken.ne.jp/place1.html」であるネットワークアクセス先から画面制御用記述言語取得部1は、表示画面情報を取得する。ここで、表示画面構成を記述している図2に示すHTML文書を取得する。
ステップST102において、画面制御用記述言語取得部1で取得した図2に示すHTML文書に基づいて、画面表示部2は、図3に示すページを表示する。
ステップST103において、画面制御用記述言語取得部1で取得したHTML文書などのページ情報を画面制御用記述言語解析部3で解析する。解析した結果、HTML文書のURL「http://www.tenken.ne.jp/place1.html」が得られる。
URLとシステムデータ保持部5で保持している騒音モデルとの関連付け情報は、システム適応化情報保持部4において、適応化対応表としてとして保持されており、例えば図8に示すような形式で格納される。図8から分かるように、URLに文字列「place1」が含まれている場合、施設1が本システムの使用場所であることを特定できる。
システムデータ保持部5は、例えば、図9に示す騒音モデルを適応化モデルとして保持しているものとする。ここで、施設1用騒音モデルは、施設1の環境騒音、即ち電話のベル音や話し声などの騒音を学習することによって得られる騒音モデルであるものとする。また、施設2用騒音モデル及び施設3用騒音モデルも同様に、施設2、施設3それぞれの環境騒音を学習することによって得られる騒音モデルであるものとする。また、既定騒音モデルは、画面制御用記述言語解析部3での解析結果と、システム適応化情報保持部4で保持している情報との関連付けがなされなかった場合に設定するための騒音モデルである。
ステップST104において、画面制御用記述言語解析部3で解析した結果得られたURLと、システム適応化情報保持部4において保持している図8に示す適応化対応表を照合する。その結果、URLには「place1」という文字列が含まれているので、「施設1用騒音モデル」を適応化対応情報としてシステムデータ保持部5に出力する。これにより、システムデータ保持部5は、図3に示すページにおいて使用する騒音モデルとして「施設1用騒音モデル」を選択する。ステップST105において、システム適応部6では、選択された騒音モデルに切り替える。
設定された騒音モデルは、図10に示すように音声認識部8における確率演算処理において、既定の音響モデルの一部として、入力データの無音部分に対する演算処理で使用される。尚、音声認識部8における音声区間検出処理、音響特徴抽出処理、確率演算処理および認識辞書を用いた認識候補探索処理は、公知の処理であるため、ここでの説明は省略する。
このような動作により、騒音環境下においても適切な騒音モデルが設定されるため、認識性能が向上する。また、もし、画面制御用記述言語解析部3で解析して得られた表示画面のURLが、システム適応化情報保持部4において保持している適応化対応表にない場合は、これを示す情報が適応化対応情報としてシステムデータ保持部5に出力されて、システムデータ保持部5からは既定騒音モデルがシステム適応部6に出力され、ステップST106において、この既定騒音モデルが適応化情報としてシステム適応部6で設定される。
URLが「http://www.tenken.ne.jp/place2.html」であるネットワークアクセス先から画面制御用記述言語取得部1において、表示画面情報を取得した場合も上記と同様の処理を行う。表示画面のURLには「place2」という文字列が含まれているので、システム適応化情報保持部4において保持している適応化対応表から、図5に示すページにおいて使用する騒音モデルとして「施設2用騒音モデル」が選択されて適応化対応情報として出力され、システムデータ保持部5では、この適応化対応情報に基づいて、保持している騒音モデルの中からこの「施設2用騒音モデル」を選択し、システム適応部6では選択された騒音モデルに切り替える。
上記のように、表示画面のURLを使用して使用場所を特定することにより、使用場所によって騒音環境が大きく異なる場合でも適切に騒音モデルを設定することが可能となる。
また、本実施形態を説明する上で、画面制御用記述言語解析部3で取得した情報としてHTML文書のURLのみとしているが、任意の表示画面解析情報を使用することが可能である。例えば、表示画面に記載されている文字列を使用することも可能である。更に、本実施の形態を説明する上で、画面制御用記述言語としてHTML文書を使用したが、これに限定されるものではなく、任意の記述言語を使用することが可能である。
以上のように、実施の形態1の音声認識装置によれば、画面制御用記述言語に含まれる特定の情報を解析する画面制御用記述言語解析部と、特定の情報に対応した適応化情報を有し、画面制御用記述言語解析部における解析結果に基づいて、適応化情報を決定する適応化情報決定部と、画面制御用記述言語に基づいて表示された画面に対して入力された音声を取得する音声取得部と、適応化情報決定部で決定した適応化情報に基づいて、音声取得部で取得された音声の音声認識を行う音声認識部とを備えたので、ユーザに関する情報を予め保持しておくことなく、音響モデルなど様々なシステムに関する適応を可能にする音声認識装置を得ることができる。
また、実施の形態1の音声認識装置によれば、適応化情報決定部は、表示画面に応じた騒音モデルを適応化情報として決定するようにしたので、更に、使用場所によって騒音環境が大きく異なる場合でも適切に騒音モデルを設定することが可能となるという効果が得られる。
また、実施の形態1の音声認識装置の制御用プログラムによれば、コンピュータを、画面制御用記述言語に含まれる特定の情報を解析する画面制御用記述言語解析部と、画面制御用記述言語解析部における解析結果に基づいて、特定の情報に対応した適応化情報を決定する適応化情報決定部と、適応化情報決定部で決定した適応化情報に基づいて、画面制御用記述言語に基づいて表示された画面に対して入力された音声の音声認識を行う音声認識部とを備えた音声認識装置として機能させるようにしたので、ユーザに関する情報を予め保持しておくことなく、音響モデルなど様々なシステムに関する適応を可能にする音声認識装置をコンピュータ上に実現することができる効果がある。
実施の形態2.
実施の形態2は、適応化モデルとして、使用環境毎の騒音重畳音響モデルを用意し、表示画面に応じて騒音重畳音響モデルの切り替えを行うようにしたものである。
実施の形態2の音声認識装置において、図面上の構成は実施の形態1と同様であるため、図1を援用して説明する。実施の形態2では、システム適応化情報保持部4で保持する適応化対応表は、画面制御用記述言語解析部3で取得した特定の情報と、騒音重畳音響モデルとの対応関係を示すよう構成され、システム適応化情報保持部4では、特定の情報が与えられた場合は、この適応化対応表に基づいて、騒音重畳音響モデルの情報を適応化対応情報として出力するよう構成されている。また、システムデータ保持部5では、適応化モデルとして騒音重畳音響モデルを有しており、システム適応化情報保持部4から適応化対応情報が与えられた場合は、これに対応した騒音重畳音響モデルを選択して出力するよう構成されている。
図11は、システム適応化情報保持部4で保持する適応化情報表の説明図である。
図12は、システムデータ保持部5で保持する騒音重畳音響モデルの説明図である。
これらの図に示す騒音重畳音響モデルとは、予め騒音が重畳された音声データにより学習した、音声認識に用いる基本的な音の単位(子音や母音など)の情報が記述されたものである。
また、システム適応部6は、システムデータ保持部5から出力された騒音重畳音響モデルを適応化情報として出力するよう構成されている。これ以外の構成は図1に示した実施の形態1と同様である。
次に、実施の形態2の動作について説明する。尚、本実施の形態の動作を説明する上で使用するページ及び使用環境は実施の形態1と同様であるとする。
図13は、実施の形態2における適応化モデル決定の動作を示すフローチャートである。
本実施の形態では、実施の形態1と同様に、図2の点検用ページが画面表示された場合のシステム適応の動作について説明する。
先ず、ステップST201において、URLが「http://www.tenken.ne.jp/place1.html」であるネットワークアクセス先から画面制御用記述言語取得部1は、表示画面情報を取得する。ここで、表示画面構成を記述している図2に示すHTML文書を取得する。
ステップST202において、画面表示部2は、画面制御用記述言語取得部1で取得した図2に示すHTML文書に基づいて、図3に示すページを表示する。ステップST203において、画面制御用記述言語取得部1で取得したHTML文書などのページ情報を画面制御用記述言語解析部3で解析する。解析した結果、HTML文書のURL「http://www.tenken.ne.jp/place1.html」が得られる。URLとシステムデータ保持部5で保持している騒音重畳音響モデルとの関連付け情報は、システム適応化情報保持部4において、図11に示すように適応化対応情報として保持されている。図11から分かるように、URLに文字列「place1」が含まれている場合、施設1が本システムの使用場所であることが特定できる。
システムデータ保持部5は、例えば、図12に示す騒音重畳音響モデルを保持している。ここで、施設1用騒音重畳音響モデルは、施設1の環境騒音を重畳した音声データを用いて学習することによって得られる音響モデルであるものとする。施設2用騒音重畳音響モデル及び施設3用騒音重畳音響モデルも同様に、施設2、施設3それぞれの環境騒音を重畳した音声データを用いて学習することによって得られる音響モデルであるものとする。また、既定騒音重畳音響モデルは画面制御用記述言語解析部3での解析結果とシステム適応化情報保持部4で保持している情報との関連付けがなされなかった場合に設定するための騒音重畳音響モデルである。
ステップST204において、画面制御用記述言語解析部3で解析した結果得られたURLとシステム適応化情報保持部4において保持している図11に示す適応化対応表を照合する。その結果、URLには「place1」という文字列が含まれているので、図3に示すページにおいて使用する騒音重畳音響モデルとして「施設1用騒音重畳音響モデル」が選択されてこの情報が適応化対応情報として出力される。システムデータ保持部5では、適応化対応情報に基づいて、保持している騒音重畳音響モデルの中から対応するモデルを選択し、これを出力する。ステップST205において、システム適応部6では、与えられた騒音重畳音響モデルに切り替える。設定された騒音重畳音響モデルは、図14に示すように音声認識部における確率演算処理に使用される。これにより、騒音環境下においても適切な騒音重畳音響モデルが設定されるため、認識性能が向上する。
もし、画面制御用記述言語解析部3で解析して得られた表示画面のURLが、システム適応化情報保持部4において保持している図11に示す適応化対応表にない場合は、ステップST206において、既定騒音重畳音響モデルがシステム適応部6で設定される。
上記のように、表示画面のURLを使用して使用場所を特定することにより、使用場所によって騒音環境が大きく異なる場合でも適切に騒音重畳音響モデルを設定することが可能となる。
また、本実施の形態を説明する上で、画面制御用記述言語解析部3で取得した情報としてHTML文書のURLのみとしているが、任意の表示画面解析情報を使用することが可能である。例えば、表示画面に記載されている文字列を使用することも可能である。更に、本実施の形態を説明する上で、画面制御用記述言語としてHTML文書を使用したが、任意の記述言語を使用することが可能である。
以上のように、実施の形態2の音声認識装置によれば、適応化情報決定部は、表示画面に応じた騒音重畳音響モデルを適応化情報として決定するようにしたので、使用場所によって騒音環境が大きく異なる場合でも適切に騒音重畳音響モデルを設定することが可能となる。即ち、騒音モデルの設定だけでは、使用環境に十分に適応しているとは言えないような場合でも、音声認識性能を改善できる効果がある。
実施の形態3.
実施の形態3は、画面制御用記述言語解析部3で解析した特定の情報に基づいて、騒音除去処理の有無を設定するようにしたものである。即ち、環境騒音が想定できる場合は、騒音除去処理を行った方が認識性能改善において効果的なことがある。そこで、本実施の形態では、画面制御用記述言語解析部3で取得した情報を使用して騒音除去処理の有無を設定するようにしている。
実施の形態3における音声認識装置の図面上の構成は、システムデータ保持部5が設けられていないだけで、図1の構成と同様であるため、この図1を援用して説明する。
実施の形態3のシステム適応化情報保持部4は、画面制御用記述言語解析部3で解析した特定の情報に対応して騒音除去処理の有無を示す適応化対応表を備えている。
図15は、システム適応化情報保持部4が保持する適応化対応表の説明図である。
図示のように、特定の情報としてのURLに対応して使用場所と騒音除去処理の有無が対応付けられている
また、実施の形態3のシステム適応部6は、システム適応化情報保持部4で決定された騒音除去処理の有無を示す情報に基づき、騒音除去処理の有無を適応化情報として出力するよう構成されている。これ以外の構成は、実施の形態1と同様であるため、その他の構成に関する説明は省略する。
次に、実施の形態3の動作について説明する。
図16は、実施の形態3の騒音除去処理の設定動作を示すフローチャートである。
本実施の形態では、実施の形態1と同様に、図2の点検用ページが画面表示された場合のシステム適応の動作について説明する。
先ず、ステップST301において、URLが「http://www.tenken.ne.jp/place1.html」であるネットワークアクセス先から画面制御用記述言語取得部1は、表示画面情報を取得する。ここで、表示画面構成を記述している図2に示すHTML文書を取得する。
次に、ステップST302において、画面表示部2は、画面制御用記述言語取得部1で取得した図2に示すHTML文書に基づいて、図3に示すページを表示する。ステップST303において、画面制御用記述言語取得部1で取得したHTML文書などのページ情報を画面制御用記述言語解析部3で解析する。解析した結果、HTML文書のURL「http://www.tenken.ne.jp/place1.html」が得られる。URLと騒音除去処理との関連付け情報は、図15に示したように、システム適応化情報保持部4において、適応化対応情報として保持されている。図15から分かるように、URLに文字列「place1」が含まれている場合、施設1が本システムの使用場所であることが特定できる。また、図6及び図15から明らかなように、本実施の形態においては、環境騒音が定常騒音である場合は、騒音除去処理を行い、非定常騒音である場合は騒音除去処理を行わないものとする。
ステップST304において、画面制御用記述言語解析部3で解析した結果得られたURLとシステム適応化情報保持部4において保持している図15に示す適応化対応表を照合する。その結果、URLには「place1」という文字列が含まれているので、図3に示すページでは、騒音除去処理は「無し」が選択され、これが適応化対応情報としてシステム適応部6に出力される。これにより、ステップST305において、システム適応部6は、騒音除去処理を行わないよう設定する。設定された騒音除去処理の有無は、図17に示すように音声認識部8における音響特徴抽出前に適用される。即ち、騒音除去処理が「無し」であった場合は、そのまま音響特徴抽出処理が行われ、騒音除去処理が「有り」であった場合は、所定の騒音除去処理を行った後、音響特徴処理を行う。
このような動作により、騒音環境下においても適切に騒音除去処理の有無を設定できるため、認識性能が向上する。
もし、画面制御用記述言語解析部3で解析して得られた表示画面のURLが、システム適応化情報保持部4において保持している図15に示す適応化対応表にない場合は、ステップST306において、既定の騒音除去処理に関する設定がシステム適応部6で設定される。
上記のように、表示画面のURLを使用して使用場所を特定することにより、使用場所によって騒音環境が大きく異なる場合でも適切に騒音除去処理の有無を設定することが可能となる。
また、本実施の形態を説明する上で、画面制御用記述言語解析部3で取得した情報としてHTML文書のURLのみとしているが、任意の表示画面解析情報を使用することが可能である。例えば、表示画面に記載されている文字列を使用することも可能である。更に、本実施の形態を説明する上で、画面制御用記述言語としてHTML文書を使用したが、任意の記述言語を使用することが可能である。
以上のように、実施の形態3の音声認識装置によれば、適応化情報決定部は、表示画面に応じた騒音除去処理の有無を適応化情報として決定するようにしたので、使用場所によって騒音環境が大きく異なる場合でも適切に騒音除去処理の有無を設定することが可能となる。
実施の形態4.
実施の形態4は、表示画面に応じて年代及び性別毎の音響モデルへの変更を行うようにしたものである。即ち、音声は、年代及び性別によって、その音響的特徴が大きく異なるため、使用環境への適応のみでは、認識性能改善において高い効果が得られない可能性がある。これに対処するため、実施の形態4では、表示画面によって年代や性別が限定されるページである場合、表示画面に応じて年代及び性別毎の音響モデルへの変更を行うようにしている。
実施の形態4における音声認識装置の図面上の構成は、図1の構成と同様であるため、この図1を援用して説明する。
実施の形態4のシステム適応化情報保持部4は、画面制御用記述言語解析部3で解析した特定の情報に対応した年代及び性別毎の音響モデルを示す適応化対応表を備えている。
図18は、システム適応化情報保持部4が保持する適応化対応表の説明図である。
図示のように、特定の情報としてのURLに対応して使用場所と年代及び性別毎の音響モデルの情報が対応付けられている。このような適応化対応表を有するシステム適応化情報保持部4は、特定の情報としてのURLが与えられた場合、そのURLに対応した音響モデルを選択し、これを適応化対応情報として出力するよう構成されている。
また、システムデータ保持部5には、適応化モデルとして、年代及び性別毎の音響モデルが保持されている。
図19は、年代及び性別毎の音響モデルの説明図である。
ここで、成人男性向け音響モデルは、成人男性の音声データを用いて学習することによって得られる音響モデルであるものとする。成人女性向け音響モデル、高齢者男性向け音響モデル及び高齢者女性向け音響モデルも同様に、成人女性、高齢者男性、高齢者女性それぞれの音声データを用いて学習することによって得られる音響モデルであるものとする。また、既定年代・性別毎音響モデルは画面制御用記述言語解析部3での解析結果とシステム適応化情報保持部4で保持している適応化対応表の情報との関連付けがなされなかった場合に設定するための音響モデルである。
このような適応化モデルを有するシステムデータ保持部5は、システム適応化情報保持部4から適応化対応情報が与えられた場合、その適応化対応情報に対応した音響モデルを選択し、これを適応化モデルとしてシステム適応部6に出力するよう構成されている。
また、実施の形態4のシステム適応部6は、システムデータ保持部5から出力された音響モデルの情報に基づいて、適応化情報を出力するよう構成されている。これ以外の構成は、実施の形態1と同様であるため、ここでの説明は省略する。
次に、実施の形態4の動作について説明する。
図20は、実施の形態4における音響モデルの設定動作を示すフローチャートである。
本実施の形態では、実施の形態1と同様に、図2の点検用ページが画面表示された場合のシステム適応の動作について説明する。
先ず、ステップST401において、URLが「http://www.tenken.ne.jp/place1.html」であるネットワークアクセス先から画面制御用記述言語取得部1は、表示画面情報を取得する。次に、画面表示部2は、ステップST402において、画面制御用記述言語取得部1で取得した図2に示すHTML文書に基づいて、図3に示すページを表示する。
ステップST403において、画面制御用記述言語取得部1で取得したHTML文書などのページ情報を画面制御用記述言語解析部3で解析する。解析した結果、HTML文書のURL「http://www.tenken.ne.jp/ place1.html」が得られる。URLとシステムデータ保持部3で保持している情報との関連付け情報はシステム適応化情報保持部4において、図18に示すように、表示画面に対して適切な年代及び性別毎の音響モデルの設定を行うための情報として保持されている。図18から分かるように、URLに文字列「place1」が含まれている場合、施設1が本システムの使用場所であることが特定できる。
ステップST404において、画面制御用記述言語解析部3で解析した結果得られたURLとシステム適応化情報保持部4において保持している適応化対応表を照合する。その結果、URLには「place1」という文字列が含まれているので、ステップST405において、図3に示すページにおいて使用する年代及び性別毎の音響モデルとして、「成人男性向け音響モデル」がシステムデータ保持部5に保持されている音響モデルの中から選択され、これが、システム適応部6から適応化情報として音声認識部8に出力される。
設定された年代・性別毎音響モデルは、図21に示すように音声認識部8における確率演算処理に使用される。これにより、表示画面により入力対象者の年代及び性別が異なる場合においても適切に年代・性別毎音響モデルが設定されるため、認識性能が向上する。
もし、画面制御用記述言語解析部3で解析して得られた表示画面のURLが、システム適応化情報保持部4において保持している適応化対応表にない場合は、ステップST406において、既定年代・性別毎音響モデルがシステム適応部6で設定される。
上記のように、表示画面のURLを使用して年代及び性別毎の音響モデルの設定を行うことにより、点検場所によってユーザの年代及び性別が限定できる場合に適切に音響モデルを選択することが可能となる。
尚、本実施の形態を説明する上で、画面制御用記述言語解析部3で取得した情報としてHTML文書のURLのみとしているが、任意の表示画面解析情報を使用することが可能である。例えば、表示画面に記載されている文字列を使用することも可能である。更に、本実施の形態を説明する上で、画面制御用記述言語としてHTML文書を使用したが、任意の記述言語を使用することが可能である。
以上のように、実施の形態4の音声認識装置によれば、適応化情報決定部は、表示画面に応じた年代毎、性別毎の音響モデルを適応化情報として決定するようにしたので、表示画面により入力対象者の年代及び性別が異なる場合においても適切に年代・性別毎音響モデルが設定されるため、音声認識性能を向上させることができる。
尚、保持する適応化モデルとして、実施の形態1では騒音モデル、実施の形態2では騒音重畳音響モデル、実施の形態4では年代・性別毎音響モデルとしたが、これらの適応化モデルを複数あるいは全て保持しておき、これらの中から適宜選択して用いるようにしてもよい。このようにすれば、条件等に応じてより適切な適応化モデルを設定することができ、更に音声認識性能を向上させることができる。
実施の形態5.
実施の形態1〜3では、表示画面に対して、騒音モデル、騒音重畳音響モデル及び騒音除去処理の有無を設定する方法について述べた。ここで、各施設についての詳細な位置に応じて適応化モデルを設定すれば、更に高い音声認識性能を実現することができる。そのため、実施の形態5では、施設内の位置に応じて騒音モデルや騒音重畳モデルを設定するようにしている。
図22は、施設内の位置と騒音環境との関係を示す説明図である。
図示のように、同一施設内でも入力項目によって点検場所が異なり、また、騒音環境が大きく異なる場合がある。そのような異なる騒音環境下で同一のシステムデータ(騒音モデル、騒音重畳音響モデル及び騒音除去処理の有無)を使用して音声認識を行った場合、データのミスマッチを引き起こし、高い認識性能が得られない可能性がある。
このような問題に対応するため、実施の形態5では、表示画面の入力項目毎に、使用するシステムデータを切り替える。尚、実施の形態5における音声認識装置の図面上の構成は、図1の構成と同様であるため、図1を援用して説明する。
実施の形態5の画面制御用記述言語解析部3は、特定の情報として、画面のURLを解析すると共に、項目毎の位置を表すname属性に含まれる文字を解析するよう構成されている。また、システム適応化情報保持部4は、name属性に含まれる文字に対応した騒音モデル、騒音重畳音響モデル及び騒音除去処理の有無を示す適応化対応表を備え、この適応化対応表に基づいて騒音モデルや騒音重畳音響モデルあるいは騒音除去処理といった適応化モデルの選択を行うよう構成されている。
図23は、システム適応化情報保持部4が保持する適応化対応表の説明図である。
図示のように、特定の情報としてのURLに含まれる文字と更に位置を示す文字に対応して、騒音モデル、騒音重畳音響モデル及び騒音除去処理の有無を示す情報が対応付けられている。
システムデータ保持部5は、騒音モデル及び騒音重畳音響モデルを保持しており、システム適応化情報保持部4から与えられた適応化対応情報に基づいて対応したモデルをシステム適応部6に出力するよう構成されている。
図24は、システムデータ保持部5が保持する適応化モデルの説明図である。
図示のように、システムデータ保持部5は、各施設の位置に対応した騒音モデルや騒音重畳音響モデルのデータを有している。
また、実施の形態5のシステム適応部6は、システムデータ保持部5から出力された騒音モデルや騒音重畳音響モデルといった適応化モデルの情報を、適応化情報として決定するよう構成されている。これ以外の構成は、実施の形態1と同様であるため、ここでの説明は省略する。
次に、実施の形態5の動作について説明する。
図25は、実施の形態5におけるシステムの設定動作を示すフローチャートである。
本実施の形態では、実施の形態1と同様に、図2の点検用ページが画面表示された場合のシステム適応の動作について説明する。
先ず、ステップST501において、URLが「http://www.tenken.ne.jp/place1.html」であるネットワークアクセス先から画面制御用記述言語取得部1は、表示画面情報を取得する。次に、ステップST502において、画面表示部2は、画面制御用記述言語取得部1で取得した図2に示すHTML文書に基づいて、図3に示すページを表示する。
ステップST503において、画面制御用記述言語取得部1で取得したHTML文書などのページ情報を画面制御用記述言語解析部3で解析する。解析した結果、HTML文書のURLと入力項目毎のname属性が得られる。
ステップST504において、システム適応化情報保持部4では、画面制御用記述言語解析部3で解析した結果得られたURL及び入力項目毎のname属性の文字と、保持している適応化対応表の情報とを照合する。その結果、URLには「place1」という文字列が含まれており、また、入力項目101のname属性には「centertemp」という文字列が含まれているので、図3に示すページの入力項目101への音声入力において使用する騒音モデルとして「施設1−施設中央用騒音モデル」が、騒音重畳音響モデルとして「施設1−施設中央用騒音重畳音響モデル」が選択され、これらの適応化対応情報がシステムデータ保持部5に送出される。
システムデータ保持部5では、これらの情報に基づいて、保持されている適応化モデルの中から対応するモデルを選択し、これをシステム適応部6に出力する。ステップST505において、システム適応部6では選択された騒音モデル及び騒音重畳音響モデルに切り替える。また、騒音除去処理は「無し」が選択され、システム適応部6で設定される。
また、入力項目102のname属性には「exittemp」という文字列が含まれているので、ステップST504において、システム適応化情報保持部4は、図3に示すページの入力項目102への音声入力において使用する騒音モデルとして「施設1−施設出口用騒音モデル」を、また、騒音重畳音響モデルとして「施設1−施設出口用騒音重畳音響モデル」を選択して出力し、システムデータ保持部5は、保持しているデータの中からそれぞれ対応したモデルを選択して出力する。ステップST505において、システム適応部6では選択された騒音モデル及び騒音重畳音響モデルに切り替える。また、騒音除去処理は「有り」が選択され、システム適応部6で設定される。
もし、画面制御用記述言語解析部3で解析して得られた表示画面のURLまたはname属性が、システム適応化情報保持部4において保持している適応化対応表にない場合は、ステップST506において、既定のシステムデータがシステム適応部6で設定される。
上記のように、表示画面のURLと入力項目のname属性を使用してシステムデータの設定を行うことにより、表示画面中の入力項目毎に使用環境が異なり、その騒音環境が大きく異なる場合に適切にシステムデータを選択及び設定することが可能となる。
本実施の形態を説明する上で、画面制御用記述言語解析部3で取得した情報としてHTML文書のURLと入力項目のname属性を使用しているが、任意の表示画面解析情報を使用することが可能である。例えば、表示画面に記載されている文字列を使用することも可能である。更に、本実施の形態を説明する上で、画面制御用記述言語としてHTML文書を使用したが、任意の記述言語を使用することが可能である。
以上のように、実施の形態5の音声認識装置によれば、適応化情報決定部は、表示画面中の入力項目毎の騒音モデルを適応化情報として決定するようにしたので、表示画面中の入力項目毎に使用環境が異なり、その騒音環境が大きく異なる場合でも適切に騒音モデルを選択及び設定することが可能となる。
また、実施の形態5の音声認識装置によれば、適応化情報決定部は、表示画面中の入力項目毎の騒音重畳音響モデルを適応化情報として決定するようにしたので、表示画面中の入力項目毎に使用環境が異なり、その騒音環境が大きく異なる場合でも適切に騒音重畳音響モデルを選択及び設定することが可能となる。
また、実施の形態5の音声認識装置によれば、適応化情報決定部は、表示画面中の入力項目毎の騒音除去処理の有無を適応化情報として決定するようにしたので、表示画面中の入力項目毎に使用環境が異なり、その騒音環境が大きく異なる場合でも適切に騒音除去処理の有無を設定することが可能となる。
実施の形態6.
実施の形態6は、表示画面の入力項目に応じて年代及び性別毎の音響モデルへの変更を行うようにしたものである。即ち、表示画面の入力項目毎に年代や性別が限定される場合、表示画面の入力項目毎に年代及び性別毎の音響モデルへの変更を行うことにより、それらのユーザにおいて、より高い認識性能を得ることができる。本実施の形態では、画面制御用記述言語解析部3で取得した情報を使用して年代及び性別毎の音響モデルを変更する方法について説明する。
実施の形態6における音声認識装置の図面上の構成は、図1の構成と同様であるため、この図1を援用して説明する。また、本実施の形態の動作を説明する上で使用するページ及び使用環境は実施の形態5と同様であるとする。
実施の形態6のシステム適応化情報保持部4は、画面制御用記述言語解析部3で解析した特定の情報としてURLに含まれる文字とname属性に含まれる文字に対応した年代及び性別毎の音響モデルを示す適応化対応表を備えている。
図26は、システム適応化情報保持部4が保持する適応化対応表の説明図である。
図示のように、特定の情報としてのURLに含まれる文字とname属性に含まれる文字とに対応して年代及び性別毎の音響モデルの情報が対応付けられている。
また、システムデータ保持部5には、適応化モデルとして、年代及び性別毎の音響モデルが保持されている。この年代及び性別毎の音響モデルは、図19に示した実施の形態4における音響モデルと同様であるため、ここでの説明は省略する。
また、実施の形態6のシステム適応部6は、システムデータ保持部5から出力された音響モデルの情報に基づいて、適応化情報を決定するよう構成されている。これ以外の構成は、実施の形態5と同様であるため、その他の構成に関する説明は省略する。
次に、実施の形態6の動作について説明する。
図27は、実施の形態6における音響モデルの設定動作を示すフローチャートである。
本実施の形態では、実施の形態1と同様に、図2の点検用ページが画面表示された場合のシステム適応の動作について説明する。
先ず、ステップST601において、URLが「http://www.tenken.ne.jp/place1.html」であるネットワークアクセス先から画面制御用記述言語取得部1は、表示画面情報を取得する。次に、ステップST602において、画面表示部2は、画面制御用記述言語取得部1で取得した図2に示すHTML文書に基づいて、図3に示すページを表示する。
ステップST603において、画面制御用記述言語取得部1で取得したHTML文書などのページ情報を画面制御用記述言語解析部3で解析する。解析した結果、HTML文書のURLと入力項目毎のname属性が得られる。
ステップST604において、画面制御用記述言語解析部3で解析した結果得られたURL及び入力項目毎のname属性とシステム適応化情報保持部4において保持している適応化対応表を照合する。URLには「place1」という文字列が含まれており、また、入力項目101のname属性には「centertemp」という文字列が含まれているので、図3に示すページの入力項目101への音声入力において使用する騒音モデルとして「成人男性音響モデル」が選択され、この適応化対応情報がシステムデータ保持部5に送出される。
システムデータ保持部5では、これらの情報に基づいて、保持されている音響モデルの中から対応する「成人男性音響モデル」を選択し、これをシステム適応部6に出力する。ステップST605において、システム適応部6では選択された成人男性音響モデルに切り替える。
また、入力項目102のname属性には「exittemp」という文字列が含まれているので、ステップST604において、システム適応化情報保持部4は、図3に示すページの入力項目102への音声入力において使用する音響モデルとして「高齢者男性向け音響モデル」を選択して出力し、システムデータ保持部5は、保持しているデータの中から対応したモデルを選択して出力する。ステップST605において、システム適応部6では選択された音響モデルに切り替える。
上記のように、表示画面のURLと入力項目のname属性を使用して年代及び性別毎の音響モデルの設定を行うことにより、点検場所によってユーザの年代及び性別が限定できる場合に適切に音響モデルを選択することが可能となる。
また、本実施の形態を説明する上で、画面制御用記述言語解析部3で取得した情報としてHTML文書のURLと入力項目のname属性を使用しているが、任意の表示画面解析情報を使用することが可能である。例えば、表示画面に記載されている文字列を使用することも可能である。更に、本実施の形態を説明する上で、画面制御用記述言語としてHTML文書を使用したが、任意の記述言語を使用することが可能である。
以上のように、実施の形態6の音声認識装置によれば、適応化情報決定部は、表示画面中の入力項目毎の年代毎、性別毎の音響モデルを適応化情報として決定するようにしたので、表示画面中の入力項目毎にユーザの年代や性別が異なる場合でも適切に音響モデルを選択及び設定することが可能となる。
尚、上記各実施の形態の機能を実現するプログラムを記録した記録媒体をコンピュータに読み取らせ、実行することで各実施の形態を実施することが出来る。プログラムを供給するための記録媒体としてはROM、CD−ROM、DVD−ROM、フロッピー(登録商標)ディスク、ハードディスク、メモリカード等、種々の記録媒体を用いることができる。
この発明の実施の形態1による音声認識装置を示す構成図である。 施設1における点検用ページのHTML文書を示す説明図である。 施設1における点検用ページの表示内容を示す説明図である。 施設2における点検用ページのHTML文書を示す説明図である。 施設2における点検用ページの表示内容を示す説明図である。 実施の形態1における点検対象施設の情報を示す説明図である。 実施の形態1における騒音モデル設定動作のフローチャートである。 実施の形態1における適応化対照表を示す説明図である。 実施の形態1における適応化モデルを示す説明図である。 実施の形態1における適応化情報の設定処理を示す説明図である。 実施の形態2における適応化対照表を示す説明図である。 実施の形態2における騒音重畳音響モデルを示す説明図である。 実施の形態2における騒音重畳音響モデル設定動作のフローチャートである。 実施の形態2における適応化情報の設定処理を示す説明図である。 実施の形態3における適応化対応表を示す説明図である。 実施の形態3における騒音除去処理の有無を設定する場合の動作を示すフローチャートである。 実施の形態3における適応化情報の設定処理を示す説明図である。 実施の形態4における適応化対照表を示す説明図である。 実施の形態4における適応化モデルを示す説明図である。 実施の形態4における年代・性別毎音響モデル設定動作のフローチャートである。 実施の形態4における適応化情報の設定処理を示す説明図である。 実施の形態5における施設内の位置と騒音環境との関係を示す説明図である。 実施の形態5における適応化対応表を示す説明図である。 実施の形態5における適応化モデルを示す説明図である。 実施の形態5におけるシステム設定動作を示すフローチャートである。 実施の形態6における適応化対応表を示す説明図である。 実施の形態6における年代・性別毎音響モデル設定処理のフローチャートである。
符号の説明
2 画面表示部、3 画面制御用記述言語解析部、7 音声取得部、8 音声認識部、9 適応化情報決定部。

Claims (9)

  1. 画面制御用記述言語に含まれる特定の情報を解析する画面制御用記述言語解析部と、
    前記画面制御用記述言語解析部で解析された特定の情報に対応した騒音除去処理の有無を適応化情報として決定する適応化情報決定部と、
    前記画面制御用記述言語に基づいて表示された画面に対して入力された音声を取得する音声取得部と、
    前記適応化情報決定部で決定した適応化情報に基づいて、前記音声取得部で取得された音声の音声認識を行う音声認識部とを備えた音声認識装置。
  2. 適応化情報は、騒音環境の特徴を示す騒音モデル、音声の音響的な特徴を示す音響モデルまたは騒音環境下での音声の音響的な特徴を示す騒音重畳音響モデルのうち少なくともいずれか一つを、前記騒音除去処理の有無に加えて含むことを特徴とする請求項1記載の音声認識装置。
  3. 音響モデルは、年代毎、性別毎の音響モデルであることを特徴とする請求項2記載の音声認識装置。
  4. 特定の情報は、音声入力の場所を示す情報であることを特徴とする請求項1から請求項3のうちのいずれか1項記載の音声認識装置。
  5. 適応化情報決定部は、表示画面中の入力項目毎の騒音モデルを適応化情報として決定することを特徴とする請求項記載の音声認識装置。
  6. 適応化情報決定部は、表示画面中の入力項目毎の騒音重畳音響モデルを適応化情報として決定することを特徴とする請求項記載の音声認識装置。
  7. 適応化情報決定部は、表示画面中の入力項目毎の騒音除去処理の有無を適応化情報として決定することを特徴とする請求項1記載の音声認識装置。
  8. 適応化情報決定部は、表示画面中の入力項目毎の年代毎、性別毎の音響モデルを適応化情報として決定することを特徴とする請求項記載の音声認識装置。
  9. コンピュータを、
    画面制御用記述言語に含まれる特定の情報を解析する画面制御用記述言語解析部と、
    前記画面制御用記述言語解析部における解析結果に基づいて、前記特定の情報に対応した騒音除去処理の有無を適応化情報として決定する適応化情報決定部と、
    前記適応化情報決定部で決定した適応化情報に基づいて、前記画面制御用記述言語に基づいて表示された画面に対して入力された音声の音声認識を行う音声認識部とを備えた音声認識装置として機能させるためのプログラム。
JP2005119881A 2005-04-18 2005-04-18 音声認識装置及びそのプログラム Expired - Fee Related JP4749756B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005119881A JP4749756B2 (ja) 2005-04-18 2005-04-18 音声認識装置及びそのプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005119881A JP4749756B2 (ja) 2005-04-18 2005-04-18 音声認識装置及びそのプログラム

Publications (2)

Publication Number Publication Date
JP2006301102A JP2006301102A (ja) 2006-11-02
JP4749756B2 true JP4749756B2 (ja) 2011-08-17

Family

ID=37469491

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005119881A Expired - Fee Related JP4749756B2 (ja) 2005-04-18 2005-04-18 音声認識装置及びそのプログラム

Country Status (1)

Country Link
JP (1) JP4749756B2 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06214590A (ja) * 1993-01-20 1994-08-05 Asahi Chem Ind Co Ltd 電話交換機の接続方法および音声認識方法
JP2000347684A (ja) * 1999-06-02 2000-12-15 Internatl Business Mach Corp <Ibm> 音声認識システム
JP4244514B2 (ja) * 2000-10-23 2009-03-25 セイコーエプソン株式会社 音声認識方法および音声認識装置
JP2002328696A (ja) * 2001-04-26 2002-11-15 Canon Inc 音声認識装置および音声認識装置における処理条件設定方法
JP3916947B2 (ja) * 2001-12-20 2007-05-23 松下電器産業株式会社 音声認識機能付き表示装置
JP2003248499A (ja) * 2002-02-26 2003-09-05 Canon Inc 音声認識システム、音声認識装置およびその制御方法
JP2004212641A (ja) * 2002-12-27 2004-07-29 Toshiba Corp 音声入力システム及び音声入力システムを備えた端末装置

Also Published As

Publication number Publication date
JP2006301102A (ja) 2006-11-02

Similar Documents

Publication Publication Date Title
JP5653392B2 (ja) 音声翻訳装置、方法およびプログラム
JP2007127813A5 (ja)
JP2006244296A (ja) 読み上げ用ファイル作成装置、リンク読み上げ装置、及びプログラム
JP4930379B2 (ja) 類似文検索方法、類似文検索システム及び類似文検索用プログラム
WO2005116865A2 (ja) 言語判別装置、翻訳装置、翻訳サーバ、言語判別方法並びに翻訳処理方法
AU2004200684A1 (en) Presentation of data based on user input
JP6064629B2 (ja) 音声入出力データベース検索方法、プログラム、及び装置
JP4724051B2 (ja) キーワード生成方法、文書検索方法、話題範囲推定方法、話題境界推定方法、及びこれらの装置とそのプログラム、その記録媒体
JP5754177B2 (ja) 音声認識装置、音声認識システム、音声認識方法及びプログラム
JP2011165092A (ja) 文書画像関連情報提供装置、及び文書画像関連情報取得システム
JP4749756B2 (ja) 音声認識装置及びそのプログラム
JP4565585B2 (ja) データ処理装置、データ処理方法、記録媒体
JP2005215726A (ja) 話者に対する情報提示システム及びプログラム
JP6486789B2 (ja) 音声認識装置、音声認識方法、プログラム
JP2009157620A (ja) 情報検索支援装置
JPWO2014147922A1 (ja) 入力支援システム、入力支援方法および入力支援プログラム
JP4756764B2 (ja) プログラム及び情報処理装置並びに情報処理方法
JP2021162917A (ja) 情報処理装置及び情報処理方法
JP6441177B2 (ja) ポーズ長決定装置、ポーズ長決定方法、およびプログラム
JPH11252281A (ja) 電話端末装置
JP7367839B2 (ja) 音声認識装置、制御方法、及びプログラム
JP7257010B2 (ja) 検索支援サーバ、検索支援方法及びコンピュータプログラム
JP7409475B2 (ja) 発話終端検出装置、制御方法、及びプログラム
JP7501610B2 (ja) 音声認識装置、制御方法、及びプログラム
JP2007171275A (ja) 言語処理装置及び現後処理方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071009

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080220

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080723

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100721

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101001

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110510

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110518

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140527

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees