JP4270943B2 - 音声認識装置 - Google Patents
音声認識装置 Download PDFInfo
- Publication number
- JP4270943B2 JP4270943B2 JP2003153121A JP2003153121A JP4270943B2 JP 4270943 B2 JP4270943 B2 JP 4270943B2 JP 2003153121 A JP2003153121 A JP 2003153121A JP 2003153121 A JP2003153121 A JP 2003153121A JP 4270943 B2 JP4270943 B2 JP 4270943B2
- Authority
- JP
- Japan
- Prior art keywords
- language model
- speaker
- speech recognition
- language
- word
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Description
【発明の属する技術分野】
この発明は話者間で対話を行う場合に各話者の発話をそれぞれの言語モデルを使用して音声認識を行う音声認識装置に関するものである。
【0002】
【従来の技術】
従来の音声認識装置において、使用者の発話しようとする内容(話題)や相手に応じて、データ選択部において音声認識に用いる言語モデルまたはコーパス(Corpus:テキストファイルされた大規模な言語の資料で、言語の記述や分析の便宜に供されるもの)をデータ記憶部から選択してデータ変換部において音声認識で利用するフォーマットに変換した後、音声認識部で発話内容や相手に適した言語モデルを使用して音声認識を行うことにより、音声認識精度を向上させるようにしたものがある(例えば、特許文献1参照)。
【0003】
【特許文献1】
特開2001−134285号公報(第1図)
【0004】
【発明が解決しようとする課題】
従来の音声認識装置は、以上のような構成からなるので、次のような問題があった。例えば顧客とオペレータからなるコールセンター業務において、双方の会話を記録するために、各話者に対応して音声認識手段と言語モデルを構成する装置が各々1台ずつ設置される場合を想定すると、このようなケースでは、ある話者で話題が変化した際に、その話者の音声認識装置では言語モデルを切り替えることが可能となるが、他の話者はそれを知ることができず、言語モデルの迅速な切り替えに対応できない。また、ある話者で新しい単語を登録しても、他の話者の言語モデルにはそれが自動的に反映されないので他の話者側でもその単語を新規に登録する必要がある。さらに、コーパスから言語モデルを作成する場合、話者による特定の傾向を反映できるような言語モデルを作成できない。
【0005】
この発明は上記のような問題を解決するためになされたもので、複数話者にそれぞれの言語モデルを設けた場合に、ある話者の発話の音声認識に対して、他の話者の音声認識がそれに迅速に追従できるように、使用する各話者の言語モデルを共通化する音声認識装置を得ることを目的とする。
【0006】
【課題を解決するための手段】
この発明に係る音声認識装置は、少なくとも一対の話者間で対話を行う場合に話者の発話を言語モデルを使用して音声認識処理する音声認識装置において、話者ごとに設けられ、用途に応じて分けられた複数の言語モデルと、話者による発話をその話者側の複数の言語モデルからそれぞれ認識し、それぞれの認識結果を比較して最も尤もらしい認識結果を与える言語モデルを当該発話に対して最適な言語モデルであると判定して最終的な認識結果として出力する音声認識手段と、話者ごとに設けられ、判定された最適な言語モデルを選定し、通知手段を介して選定した言語モデルを示す選定情報を他の話者側に通知し、他の話者側からの選定情報の通知を受けたときには当該選定情報で示される他の話者側で選定された言語モデルの用途に対応させて自話者側の言語モデルを設定する言語モデル選定手段を備えたものである。
【0007】
【発明の実施の形態】
以下、この発明の各実施の形態を説明する。
実施の形態1.
図1はこの発明の実施の形態1による音声認識装置の構成を示すブロック図で、顧客とオペレータがそれぞれ音声認識処理を行って、苦情などの応対をテキスト化して記録するような場合を想定した例について示している。図において、左が顧客側、右がオペレータ側を示す。顧客側は、音声認識手段101、言語モデル選定手段102および顧客言語モデル103,104,105で構成され、オペレータ側は、音声認識手段111、言語モデル選定手段112およびオペレータ言語モデル113,114,115で構成されている。顧客側の言語モデル選定手段102とオペレータ側の言語モデル選定手段112の間には電話回線やインターネットなどによる選定言語モデル通知手段(通知手段)120が設けられている。ここで、顧客側の言語モデル103〜105は用途に応じて分けられており、例えばテレビに関する言語モデル、コンピュータに関する言語モデル、エアコンに関する言語モデルとし、他方のオペレータ側の言語モデル113〜115は、顧客側の言語モデル103〜105に対応して、それぞれテレビに関する言語モデル、コンピュータに関する言語モデル、エアコンに関する言語モデルとする。顧客の言い回しとオペレータの言い回しは異なるので、顧客言語モデル103とオペレータ言語モデル113は必ずしも同一ではない。
【0008】
次に動作について説明する。図2は実施の形態1に係る動作を説明するフローチャートである。
顧客がオペレータに対して発話すると、その音声は顧客側の音声認識手段101に入力される(ステップST101)。顧客側の音声認識手段101は、予め用意されている複数の言語モデル103〜105をそれぞれ使って音声認識処理を行い(ステップST102)、各言語モデルに対応した認識結果を出力する(ステップST103)。言語モデルが与えられた下で音声認識処理を行うことは、例えば特開2002−91477号公報に記載された技術などを用いればよい。
【0009】
次に、各言語モデルに対応した認識結果を比較し、最も尤もらしい認識結果を与える言語モデル(すなわち、認識結果に付随する認識尤度が最も高い値を与える言語モデル)を、この発話に対して最適な言語モデルであると判定し、最終的な認識結果として出力する(ステップST104)。判定された言語モデルがどれであるかが決まると、言語モデル選定手段102は、その言語モデルを自音声認識装置の言語モデルとして選定し、また、その選定情報を選定言語モデル通知手段120がオペレータ側の音声認識装置の言語モデル選定手段112に通知する(ステップST105)。以降に行われる顧客の発話に対応するためステップST101に戻る。
【0010】
一方、オペレータ側では、言語モデル選定手段112は、最初に使用する言語モデルを初期設定している。初期設定する言語モデルとしては、苦情で最も多い製品の言語モデルでも、すべての言語モデルを統合したものでもよい(ステップST111)。次にオペレータの発声があった時(ステップST112)、選定言語モデル通知手段120から通知があった場合には、言語モデル設定手段112は通知された言語モデルに対応した言語モデルを設定する(ステップST114)。次に音声認識手段111はその言語モデルを用いて、オペレータ発声を認識し、その認識結果を出力する(ステップST115)。以降は次のオペレータ発声に対応するためステップST112に戻る。
【0011】
具体的な発話例をあげて説明する。
まず、顧客が「テレビの画面が暗いのですが」と発声したとする。各言語モデルで認識した後、顧客言語モデル(テレビ関連)103で認識した結果はテレビ関連の語彙が用意されているので、認識結果は正しく「テレビの画面が暗いのですが」と認識され、その尤度も高いことが予想される。一方、顧客言語モデル(コンピュータ関連)104では、テレビ関連の語彙が十分でないので、例えば「ケーブルの画面が暗いのですが」などと誤認識する。この場合、一般に尤度は顧客言語モデル103で認識した正解の場合より低くなる。同様に顧客言語モデル(エアコン関連)105では、例えば「リモコンの断面がフラップなのですが」というように誤認識し、その尤度は顧客言語モデル103で認識した正解の場合より低くなる。次に顧客側の音声認識手段101は、それらの認識結果を比較し、もっとも高い尤度を与える顧客言語モデル103を選択言語モデルとする。
【0012】
次に、選定言語モデル通知手段120は、選択された「顧客言語モデル1」をオペレータ側の言語モデル選定手段112に通知する。その後、オペレータが発声した際にオペレータ側の言語モデル選定手段112は、通知された顧客言語モデルに対応したオペレータ言語モデル113を設定する。オペレータが「液晶テレビでしょうか」というようなテレビ関連に特有な語彙を含むような発声をした場合に高い認識精度で認識することが可能になる。また、次に話題が替わって「エアコンのフィルタも目詰まりしているのですが」と顧客が発声した場合、同様な手続きによって、顧客言語モデル(エアコン関連)105が選択され、オペレータ発声の認識もオペレータ側の言語モデル(エアコン関連)115に変更される。そのため、話題がエアコンに話題が替わった後のオペレータの応答も高精度で認識することが可能となる。なお、上記説明では、通知される言語モデルの情報が顧客側からオペレータ側への通行のみについて説明したが、双方向に言語モデルの情報を通知する構成としてもよい。
【0013】
以上のようにこの実施の形態1によれば、用途に応じて分けられた複数の言語モデルを話者ごとに設け、音声認識手段が、話者による発話をその話者側の複数の言語モデルからそれぞれ認識し、それぞれの認識結果を比較して最も尤もらしい認識結果を与える言語モデルを当該発話に対して最適な言語モデルであると判定して最終的な認識結果として出力し、言語モデル選定手段を話者ごとに設け、判定された最適な言語モデルを選定し、通知手段を介して選定した言語モデルの選定情報を他の話者側の言語モデル選定手段に通知し、他の話者側の言語モデル選定手段からの選定情報の通知を受けたときには他の話者側で選定され言語モデルに対応する自話者側の言語モデルを自話者の音声認識処理用に設定するようにしている。したがって、一方の話者の話題の変更などにより最適な言語モデルが変更になった場合、他方の話者の言語モデルも迅速にその話題に追随できるように設定可能となり、使用する各話者の言語モデルを自動的に共通化して全体の認識性能を向上させる効果が得られる。
【0014】
実施の形態2.
図3はこの発明の実施の形態2による音声認識装置の構成を示すブロック図である。この実施の形態2も顧客とオペレータがそれぞれ音声認識処理を行って、苦情などの応対をテキスト化して記録するような場合を想定した例である。図において、オペレータ側は、音声認識手段201、音声認識手段201が認識の際に用いる言語モデル202、言語モデルに対して新語を登録する単語登録手段203の構成を備え、一方の顧客側も同様に音声認識手段211、言語モデル212、単語登録手段213を備えている。そして、両単語登録手段203,213間には電話回線やインターネットなどを用いた登録単語通知手段(通知手段)204を備える。
【0015】
次に動作について説明する。図4は実施の形態2に係る動作を説明するフローチャートである。
オペレータ側は、新製品を発売した場合などに、その製品名を新語または文を単語登録手段203により登録する(ステップST201)。単語登録の具体的な方法については、例えば特開2002−91477号公報に開示されているような技術を用いて行う。単語登録手段203は、言語モデル202に対して単語または文の登録を行って言語モデルを更新した(ステップST202)後、単語登録通知手段204に、登録された単語情報(単語表記、単語読みなど)または文などの更新情報を、単語登録通知手段204を介して通知する(ステップST203)。
【0016】
単語登録通知手段204はこの更新情報を顧客側の単語登録手段に通知する(ステップST204)。通知を受けた顧客側の単語登録手段213は更新情報を用いて言語モデル212に対して単語または文の登録を行う(ステップST205)。
【0017】
以上のように、この実施の形態2によれば、各話者側に単語登録手段を設け、各話者の言語モデルに単語または文を登録し、通知手段を介して他の話者側に登録の更新情報を通知し、前記他の話者側からの更新情報の通知を受けたときには自話者側の言語モデルに前記他の話者側の言語モデルに登録されたと同じ単語または文を登録するようにしている。したがって、一方の話者の言語モデルに登録された単語または文が他の話者側でも速やかに反映され、使用する各話者の言語モデルを自動的に共通化するため、それぞれの話者が個別に言語モデルに個別に登録する手間がなくなり、利便性が向上する効果が得られる。
なお、実施の形態2は、実施の形態1の各言語モデルに対しても適用できるものである。
【0018】
実施の形態3.
図5はこの発明の実施の形態3による音声認識装置の構成を示すブロック図である。この実施の形態3も顧客とオペレータがそれぞれ音声認識処理を行って、苦情などの応対をテキスト化して記録するような場合を想定した例である。図において、オペレータ側は音声認識手段301、音声認識手段301が認識の際に用いる言語モデル302を備え、一方の顧客側も音声認識手段311、言語モデル312を同様に備えている。オペレータ側と顧客側の言語モデル302,312間には話者対応文作成装置300が各話者側と共用できるように設置され、それぞれの話者に適した文を作成し出力するようになっている。この話者対応文作成装置300において、言語モデル作成手段303が言語モデル302,312に接続され、これにオペレータ用会話調コーパス304と顧客用会話調コーパス314が接続されている。これら会話調コーパス304,314には会話調変換手段306が接続され、会話調変換手段306にはオペレータ用変換情報記憶手段305、顧客用変換情報記憶手段315、会話調変換手段306、形態素解析手段307が接続されている。また、形態素解析手段307にはコーパス308が接続されている。
【0019】
次に動作を説明する。図6は実施の形態3に係る動作を説明するフローチャート、図7は動作に使用する会話調文を例示する説明図である。
まず形態素解析手段307はコーパス308内の文を読み込み、形態素に分割して出力する(ステップST301)。次に、会話調変換手段306は、分割された形態素と各話者に適した変換情報を参照して、会話調コーパスを作成する。例えば、「モニタは緑色か」という文がコーパスにあった場合、形態素解析手段307の出力結果は、「モニタ(名詞)」、「は(格助詞)」、「緑色(名詞)」、「か(終助詞)」となる。次に会話調変換手段306は、オペレータ用変換情報記憶手段305に記憶されているオペレータ用の会話調の変換情報を参照して、終助詞の「か」を「でございますか」と変換して、各形態素をつなぎ合わせて文を再構成し、「モニタは緑色でございますか」をいう文を作成し、オペレータ用会話調コーパス304に蓄積する。同様に、顧客用変換情報記憶手段315に記憶されている顧客用の変換情報を参照して、「モニタは緑色ですか」という文を作成し、顧客用会話調コーパス314に蓄積する(ステップST302)。
【0020】
次に言語モデル作成手段303は、各話者に対応する会話調コーパス304,314からそれぞれの言語モデル302,312を作成する(ステップST303)。コーパスから言語モデルを作成することについては、例えば特開2002−229588号公報に開示されている技術によって行うことができる。このように、話者ごとの特徴ある会話調コーパスから作成した言語モデル302,312を使って、音声認識手段301,311は、話者の発話を認識するようにしている。
【0021】
以上のように、この実施の形態3によれば、各話者が共用できるように設置され、それぞれの話者に適した文を作成し出力する話者対応文作成装置を備え、この話者対応文作成装置において、形態素解析手段がコーパス内の文を読み込み、当該文を形態素に分割し、会話調変換手段が、分割された形態素に対して各話者ごとに設けられた変換情報記憶手段から各話者に適した会話調の変換情報を適用して各形態素をつなぎ合わせて各話者用の文を再構成し、再構成された各話者用の文を話者ごとの会話調コーパスに蓄積し、言語モデル作成手段により、これら会話調コーパスから再構成された話者用の文をそれぞれ抽出し、それぞれの話者の言語モデルに登録するようにしている。したがって、同じコーパスから、話者ごとの特定の傾向を反映した文を作成して各言語モデルを共通化し、全体として認識性能を向上させる効果が得られる。
【0022】
以上述べてきた各実施の形態においては、音声認識手段は、顧客とオペレータで別々に備えていたが、これを1つの音声認識手段で共通化させても同様な効果が得られる。また、各実施の形態では、話者が2名の例で示してきたが、話者が多数であっても同様に構成し、同様な効果を奏することができる。また、各手段はハードウエア、ソフトウエアのいずれでも構成できることはいうまでもない。また、ソフトウエアによって構成する場合には、そのソフトウエアプログラムを記録した記録媒体が必要となる。また、このプログラムが通信媒体を介してダウンロードされるようにしてもよい。
【0023】
【発明の効果】
以上のように、この発明によれば、少なくとも一対の話者間で対話を行う場合に話者の発話を言語モデルを使用して音声認識処理する音声認識装置において、話者ごとに設けられ、用途に応じて分けられた複数の言語モデルと、話者による発話をその話者側の複数の言語モデルからそれぞれ認識し、それぞれの認識結果を比較して最も尤もらしい認識結果を与える言語モデルを当該発話に対して最適な言語モデルであると判定して最終的な認識結果として出力する音声認識手段と、話者ごとに設けられ、判定された最適な言語モデルを選定し、通知手段を介して選定した言語モデルの選定情報を他の話者側に通知し、他の話者側からの選定情報の通知を受けたときには他の話者側で選定され言語モデルに対応させて自話者側の言語モデルを設定する言語モデル選定手段を備えるように構成したので、一方の話者の話題の変更などにより最適な言語モデルが変更になった場合、他方の話者の言語モデルも迅速にその話題に追随できるように設定可能となり、使用する各話者の言語モデルを共通化して全体の認識性能を向上させる効果がある。
【図面の簡単な説明】
【図1】 この発明の実施の形態1による音声認識装置の構成を示すブロック図である。
【図2】 この発明の実施の形態1に係る動作を説明するフローチャートである。
【図3】 この発明の実施の形態2による音声認識装置の構成を示すブロック図である。
【図4】 この発明の実施の形態2に係る動作を説明するフローチャートである。
【図5】 この発明の実施の形態3による音声認識装置の構成を示すブロック図である。
【図6】 この発明の実施の形態3に係る動作を説明するフローチャートである。
【図7】 この発明の実施の形態3に係る動作に使用する会話調文を例示する説明図である。
【符号の説明】
101,111,201,211,301,311 音声認識手段、102,112 言語モデル選定手段、103,104,105 顧客言語モデル、113,114,115 オペレータ言語モデル、120 選定言語モデル通知手段(通知手段)、202,212,302,312 言語モデル、203,213単語登録手段、204 登録単語通知手段(通知手段)、300 話者対応文作成装置、303 言語モデル作成手段、304 オペレータ用会話調コーパス、305 オペレータ用変換情報記憶手段、306 会話調変換手段、307 形態素解析手段、308 コーパス、314 顧客用会話調コーパス、315 顧客用変換情報記憶手段。
Claims (3)
- 少なくとも一対の話者間で対話を行う場合に話者の発話を言語モデルを使用して音声認識処理する音声認識装置において、
話者ごとに設けられ、用途に応じて分けられた複数の言語モデルと、
話者による発話をその話者側の複数の言語モデルからそれぞれ認識し、それぞれの認識結果を比較して最も尤もらしい認識結果を与える言語モデルを当該発話に対して最適な言語モデルであると判定して最終的な認識結果として出力する音声認識手段と、
話者ごとに設けられ、判定された前記最適な言語モデルを選定し、通知手段を介して選定した言語モデルを示す選定情報を他の話者側に通知し、前記他の話者側からの選定情報の通知を受けたときには当該選定情報で示される前記他の話者側で選定された言語モデルの用途に対応させて自話者側の言語モデルを設定する言語モデル選定手段を備えたことを特徴とする音声認識装置。 - 少なくとも一対の話者間で対話を行う場合に話者の発話を言語モデルを使用して音声認識処理する音声認識装置において、
話者ごとに設けられた言語モデルと、
話者による発話をその話者側の言語モデルを用いて認識し、認識結果を出力する音声認識手段と、
前記言語モデルに単語または文を登録し、通知手段を介して他の話者側に登録の更新情報を通知し、前記他の話者側からの更新情報の通知を受けたときには自話者側の言語モデルに前記他の話者側の言語モデルに登録されたと同じ単語または文を登録する単語登録手段を備えたことを特徴とする音声認識装置。 - 言語モデルに対して単語または文を登録し、この登録の更新情報を他の話者側に通知手段を介して通知し、前記他の話者側からの更新情報の通知を受けたときには自話者側の言語モデルに前記他の話者側の言語モデルに登録されたと同じ単語または文を登録する単語登録手段を備えたことを特徴とする請求項1記載の音声認識装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003153121A JP4270943B2 (ja) | 2003-05-29 | 2003-05-29 | 音声認識装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003153121A JP4270943B2 (ja) | 2003-05-29 | 2003-05-29 | 音声認識装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004354760A JP2004354760A (ja) | 2004-12-16 |
JP4270943B2 true JP4270943B2 (ja) | 2009-06-03 |
Family
ID=34048164
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003153121A Expired - Lifetime JP4270943B2 (ja) | 2003-05-29 | 2003-05-29 | 音声認識装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4270943B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8463611B2 (en) | 2004-10-13 | 2013-06-11 | Hewlett-Packard Development Company, L.P. | Method and system for improving the fidelity of a dialog system |
JP4758931B2 (ja) * | 2007-03-26 | 2011-08-31 | 日本電信電話株式会社 | 音声合成装置、方法、プログラム及びその記録媒体 |
JP6179509B2 (ja) * | 2012-05-17 | 2017-08-16 | 日本電気株式会社 | 言語モデル生成装置、音声認識装置、言語モデル生成方法およびプログラム記憶媒体 |
JP5762365B2 (ja) * | 2012-07-24 | 2015-08-12 | 日本電信電話株式会社 | 音声認識装置、音声認識方法、およびプログラム |
-
2003
- 2003-05-29 JP JP2003153121A patent/JP4270943B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2004354760A (ja) | 2004-12-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11636430B2 (en) | Device, system and method for summarizing agreements | |
US8457964B2 (en) | Detecting and communicating biometrics of recorded voice during transcription process | |
US7346151B2 (en) | Method and apparatus for validating agreement between textual and spoken representations of words | |
US9083801B2 (en) | Methods and system for analyzing multichannel electronic communication data | |
US8718262B2 (en) | Method and system for automatically routing a telephonic communication base on analytic attributes associated with prior telephonic communication | |
US9349367B2 (en) | Records disambiguation in a multimodal application operating on a multimodal device | |
US8358753B2 (en) | Interactive voice response (IVR) cloud user interface | |
US20060282265A1 (en) | Methods and apparatus to perform enhanced speech to text processing | |
JP2020071675A (ja) | 対話要約生成装置、対話要約生成方法およびプログラム | |
US20100114564A1 (en) | Dynamic update of grammar for interactive voice response | |
JP2020071676A (ja) | 対話要約生成装置、対話要約生成方法およびプログラム | |
CN110460798B (zh) | 视频访谈服务处理方法、装置、终端与存储介质 | |
JP4270943B2 (ja) | 音声認識装置 | |
US20090103711A1 (en) | Methods and systems for determining inappropriate threats during a telephonic communication between a customer and a contact center | |
WO2015019662A1 (ja) | 分析対象決定装置及び分析対象決定方法 | |
US6501751B1 (en) | Voice communication with simulated speech data | |
US20190199858A1 (en) | Voice recognition system and call evaluation setting method | |
US10147417B2 (en) | Electronic speech recognition name directory prognostication system by comparing a spoken name's packetized voice to stored phonemes | |
US8111821B2 (en) | Automated follow-up call in a telephone interaction system | |
JP2006127148A (ja) | 音声自動対話システムにおける情報処理方法 | |
JP2005025571A (ja) | 業務支援装置、業務支援方法およびそのプログラム | |
KR102610360B1 (ko) | 발화 보이스에 대한 레이블링 방법, 그리고 이를 구현하기 위한 장치 | |
JP7370521B2 (ja) | 音声分析装置、音声分析方法、オンラインコミュニケーションシステム、およびコンピュータプログラム | |
CA2375589A1 (en) | Method and apparatus for determining user satisfaction with automated speech recognition (asr) system and quality control of the asr system | |
JP2010008765A (ja) | 音声認識方法、音声認識システム、および音声認識装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20071022 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20071022 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20071022 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080709 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080929 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081104 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081226 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090203 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090224 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130306 Year of fee payment: 4 |