JP2004302196A - 音声認識装置、音声認識方法及び音声認識プログラム - Google Patents
音声認識装置、音声認識方法及び音声認識プログラム Download PDFInfo
- Publication number
- JP2004302196A JP2004302196A JP2003095772A JP2003095772A JP2004302196A JP 2004302196 A JP2004302196 A JP 2004302196A JP 2003095772 A JP2003095772 A JP 2003095772A JP 2003095772 A JP2003095772 A JP 2003095772A JP 2004302196 A JP2004302196 A JP 2004302196A
- Authority
- JP
- Japan
- Prior art keywords
- voice
- recognition
- time
- speech
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
【解決手段】入力された音声を認識する音声認識装置であって、入力音声から利用者が発声した音声部分を検出して、入力音声を音声部分と非音声部分に分割する音声検出部11と、音声部分に対して認識処理を行う音声認識部15と、入力されている音声に対して音声認識部15により認識処理が行われているかどうかの状態を随時表示して利用者に伝える認識状態表示部14とを備えている。このとき、ユーザは、発声した音声を音声認識装置が音声認識しているかどうかを確認することができる。
【選択図】図2
Description
【発明の属する技術分野】
本発明は、音声認識装置及びそれに用いる音声認識方法並びに音声認識プログラムに関し、特に、入力される音声を認識する音声認識装置における認識対象となる音声の特定方法に関する。
【0002】
【従来の技術】
入力された音声を音声認識する音声認識装置が知られている。このような音声認識装置では、入力音声のパワー値等を用いてユーザが発声した音声を検出し、音声認識を行うが、ユーザが実際に発声した音声以外にも、周囲で生じたノイズ等が検出され音声認識されてしまい、誤入力されてしまうことがある。そのため、音声認識装置では、認識対象となる音声を特定するために、ユーザが発声の直前にボタンを押す等、ユーザがボタン等で入力操作を行う方式がよく用いられる。その代表的な方法としては、その決定の仕方として、PTT(Push−To−Talk)方式と、PTA(Push−To−Activate)方式とが知られている。
【0003】
PTT方式では、ボタンが押された時刻からボタンが放された時刻までに入力された音声が音声認識の対象になる。PTA方式では、ボタンが押された時刻から所定の時間以上に音声が途切れるまでに入力された音声が音声認識の対象になる。しかしながら、このような音声認識では、ユーザが音声の発声に後れてボタンを押したときに、音声の先頭部分が欠落されて音声認識される。そのため、ユーザが音声の発声に後れてボタンを押したときにも、先頭部分を欠落しないで音声認識する音声認識装置が望まれている。
【0004】
特開平2−184915号公報には、認識処理動作の開始コマンドが与えられる直前までの入力音声データを順次リングバッファに格納しておき、このリングバッファに格納された入力音声データを適宜用いて音声区間検出と、その音声データの抽出処理を行う音声認識装置が開示されている。このような音声認識装置は、非常に簡易にして効果的に先頭部分の欠落のない音声データによる音声認識処理を実行することができる。
【0005】
特開平4−24694号公報には、発声された音声を電気信号に変換するマイクロフォンと、電気信号に変換された音声信号から音声が入力されていることを検出する音声検出部と、音声信号を所定時間遅延させて出力する遅延回路とを設けるように構成され、音声検出部の検出結果を基準にして、遅延回路で遅延された音声信号の認識を開始する音声入力回路が開示されている。このような音声入力回路は、音声の先頭部分を欠落することなく、操作者が自由なタイミングで音声を発声すれば音声認識ができる。
【0006】
特開平8−185196号公報には、音声信号が入力され、検出範囲を指定するスイッチ操作に応じて音声区間を抽出して出力する音声区間検出装置において、上記入力音声信号を一定時間記憶する記憶手段と、上記スイッチ操作で指定される検出範囲よりも広い範囲で上記記憶手段に記憶されている上記入力音声信号から一つだけ音声区間を抽出し、出力する制御手段とを有する音声区間検出装置が開示されている。
【0007】
このような音声区間検出装置は、有声音と無声音の判別による音声区間判定を常に行いながら、その判定結果と一定時間までの入力信号を記憶しておくことで、スイッチが押されるより早いタイミングで発声が行われた場合でも、語頭を欠くことなく音声区間を検出することが可能となる。又、一つのスイッチ指定区間に対して一つの音声区間だけを検出し送信するようにしたことで、話者が発声の少し前や、少し後に関係のない言葉を発声したとしても、これを音声区間として検出することが無くなるため、例えば音声認識装置に適用した場合等に誤動作を起こし難くなる。
【0008】
特開2001−67091号公報には、音声認識を行う発話区間の特定方法としてキーワード方式、トリガ方式、PTT方式のうち少なくとも2方式を兼用して利便性を向上する音声認識装置が開示されている。このような音声認識装置は、音声認識動作が開始されると、キーワードが発話されたか、トークボタンを操作されたかを判定する。ここで、キーワードが発話された場合には、キーワード方式の音声認識処理に分岐し、音声区間検出部による発話区間の開始点の推定と、発話区間の終了点の推定を行う。また、トークボタンが操作された場合には、その時点で発話区間の回視点を特定する。そしてその操作が瞬間的なものか否かを判断し、瞬間的なものであれば、トリガ方式の音声認識処理に分岐し、音声検出部による発話区間の終了点の推定を行う。またトークボタンの操作が継続的なものであれば、PTT方式の音声認識に分岐し、トークボタンの操作解除時点で発話区間の終了点を特定する。
【0009】
【特許文献1】
特開平2−184915号公報
【特許文献2】
特開平4−24694号公報
【特許文献3】
特開平8−185196号公報
【特許文献4】
特開2001−67091号公報
【0010】
【発明が解決しようとする課題】
ところで、上記の音声認識装置では、以下のような問題点がある。
第一に、ユーザが発声した音声の開始位置や終了位置が正しく判定されない場合があるということである。その理由は、マイクボタンを押すのが発声よりも遅れた場合、リングバッファや遅延回路等を用いて発声の先頭の欠落を防止する方法では、そのリングバッファや遅延回路の処理する長さ以上に遅れた場合、先頭の欠落を完全に防止することはできないためである。
第二に、発声に間が空いたために装置により発声が途中で区切られても、認識結果を見るまでユーザにそれが伝わらないということである。その理由は、現在入力中の音声に対して音声認識処理が行われているかどうかをユーザに伝える手段がなく、ユーザは認識結果が表示されてからその文字列を見て判断することしかできないためである。
第三に、発声に間が空き音声認識が途中で途切れたときに、そのまま発声しても認識されず、再度発声のし直しが必要となることである。その理由は、装置により発声が途中で区切られても、その時点ではユーザには伝わらず、また、それを訂正する手段もないため、ユーザは認識結果が表示されてから途中で途切れたことを知り、その後で再度発声する必要があるためである。
第四に、ノイズ等余計な音声が認識されたり、音声認識が途中で途切れて認識されない部分があったりしたときに、容易に修正することができないということである。その理由は、認識結果の文字列を修正する場合、余計な音声が認識された場合は対応する文字列を選択して削除するという一連の操作を行う必要があり、また、音声認識が途中で途切れて認識されなかった部分については、再度発声して入力する必要があるためである。
本発明の目的は、認識対象の開始位置および終了位置をより適切に決定する音声認識装置を提供することである。
本発明の他の目的は、ユーザが現在発声している音声が認識されているかどうかを、ユーザに分かりやすく伝える音声認識装置を提供することである。
本発明の他の目的は、発声に間が空いたために音声認識が途中で途切れた場合でも、簡単な操作でそのまま発声を続けることができる音声認識装置を提供することである。
本発明の他の目的は、ノイズ等余計な音声が認識されたり、音声認識が途中で途切れて認識されない部分があったりしたときでも、ユーザが容易に修正することができる音声認識装置を提供することである。
本発明の他の目的は、自動翻訳装置に好適である音声認識装置を提供することである。
【0011】
【課題を解決するための手段】
以下に、[発明の実施の形態]で使用される番号・符号を括弧付きで用いて、課題を解決するための手段を説明する。これらの番号・符号は、[特許請求の範囲]の記載と[発明の実施の形態]の記載との対応を明らかにするために付加されたものであり、[特許請求の範囲]に記載されている発明の技術的範囲の解釈に用いてはならない。
【0012】
本発明による音声認識装置(1)は、入力された音声を認識する音声認識装置であって、入力音声から利用者が発声した音声部分を検出して、入力音声を音声部分と非音声部分に分割する音声検出部(11)と、音声部分に対して認識処理を行う音声認識部(15)と、入力されている音声に対して音声認識部(15)により認識処理が行われているかどうかの状態を随時表示して利用者に伝える認識状態表示部(14)とを備えている。
【0013】
このとき、ユーザは、発声した音声を音声認識装置(1)が音声認識しているかどうかを確認することができる。たとえば、認識状態表示部(14)は、オン時刻の後で音声部分が入力される時刻に、すなわち、認識処理の開始時刻(t1、t8、t12)にランプを点灯し、終了時刻にランプを消灯する。また、認識状態表示部(14)は、認識処理の開始時刻(t1、t8、t12)から終了時刻までレベルメータ(22)に第1表示形態で音声の音量を表示し、終了時刻より後にレベルメータ(22)に第1表示形態と異なる第2表示形態で音量を表示する。
【0014】
レベルメータ(22)は、音量が音声認識部(15)により音声認識するために必要である必要音量より大きいか小さいかを識別可能に表示することが好ましい。このとき、ユーザは、発音すべき音声の音量がよくわかり、音量が適正な音声を音声認識装置(1)に入力することができる。この結果、音声認識装置(1)は、音量が適正な音声が入力されて、より正確に音声認識することができる。
【0015】
本発明による音声認識装置(1)は、利用者が発声を行う際に操作するマイクボタン(4)のオン操作またはオン操作とオフ操作の両方を検出するマイクボタン検出部(13)を更に備えている。音声認識部(12)は、マイクボタン検出部(13)により検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき、音声検出部(11)により検出された音声部分から認識対象とする音声部分を選択して音声認識を行い、また、音声部分の認識処理が終了し、認識状態表示部が認識処理の終了を表示した後、所定時間内に再度マイクボタン検出部(13)によりオン操作が検出された場合に、音声認識部(15)は、再度検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき認識対象とする音声部分を更に選択し、先のオン操作時の認識結果と後のオン操作の認識結果との両方を表示する。
【0016】
すなわち、ユーザはマイクボタン(4)の操作を2通りの方法で行うことができる。なお、第1の操作方法と第2の操作方法を区別する手段としては、押下時間と設定時間との比較だけでなく、例えば以下のような手段でもよい。
・マイクボタンを2つ用意し、一方のマイクボタンの押下を第1の操作方法、他方のマイクボタンの押下を第2の操作方法とする。
・マイクボタンの押下が2段階の深さで行え、深く押下する操作を第1の操作方法、浅く押下する方法を第2の操作方法とする。
・マイクボタンは押し込む操作と回転させて上下に倒す操作を行うことができ、押し込む操作を第1の操作方法、回転させて上下に倒す操作を第2の操作方法とする。
・マイクボタンは、回転させて上下に倒す、もしくは上下にスライドさせる操作を行うことができ、上に倒すもしくはスライドさせる操作を第1の操作方法、下に倒すもしくはスライドさせる操作を第2の操作方法とする。
【0017】
本発明による音声認識装置(1)は、非音声部分(51〜55、91〜94)を記録しないで音声部分(41〜45、81〜84)を記録する音声記録部(12)を更に備えていることが好ましい。このとき、認識対象部分(61〜64、101〜104、111〜114)は、音声部分(41〜45、81〜84)のうちオン時刻(t1、t8、t12)より前に入力され音声記録部(12)により記録される部分を含んでいる。
【0018】
音声認識部(15)は、認識状態表示部(14)が認識処理が行われていることを表示している際に入力された音声部分の認識結果を第1の表示形態で表示し、また、認識状態表示部(14)が終了を伝えた後の所定時間内に再度音声部分が検出された場合に、所定時間内に検出された音声部分に対しても音声認識を行い、認識結果を第1の表示形態とは異なる第2の表示形態で表示することが好ましい。
【0019】
すなわち、認識対象部分(61〜64、101〜104、111〜114)は、終了時刻から追加可能時間だけ経過するより前にマイクボタン(4)が押されるときに、音声部分(41〜45、81〜84)のうちの最初の終了時刻までの音声部分に加えて、後にマイクボタン(4)が押されたオン時刻(t12)により認識対象として選択される音声部分を含んでいることが好ましい。このとき、ユーザは、発声している途中で音声認識装置(1)が音声認識を終了したときに、再度マイクボタン(4)を押すことにより、音声を追加して入力することができる。
【0020】
本発明による音声認識装置(1)は、利用者の操作により指示されたときに、第1の表示形態の認識結果を第2の表示形態に変換し、また、第2の表示形態の認識結果を第1の表示形態に変換する文節選択部(16)と、第1の表示形態にて表示されている認識結果に対して処理を行う処理部(17)とを備えている。この処理部(17)としては、認識結果を翻訳する翻訳部が例示される。
【0021】
すなわち、文節選択部(16)は、表示装置(5)に認識文字列を表示し、認識文字列のうちの操作により選択される選択文字列が表示される表示形式を変換することにより、対象文に対応する文字列を対象表示形式により表示し、対象外文に対応する文字列を対象表示形式と異なる対象外表示形式により表示する。音声認識装置(1)は、不必要である音声も音声認識したり、逆に必要な音声を認識しなかったりすることがある。このような音声認識装置(1)は、認識された文字列のうち、ユーザが必要な発声部分を選択して使用することができる。
【0022】
マイクボタン検出部(13)は、マイクボタン(4)のオン操作とオフ操作を検出し、さらに、これらの操作が第1の操作と第2の操作のどちらで行われたかを検出し、音声認識部(12)は、第1の操作が行われた場合には、オフ操作のが行われた時刻を基準に決定した時刻までに検出された音声部分に対して認識処理を行い、第2の操作が行われた場合には、オン時刻より後に音声検出部(11)により所定以上の非音声部分が検出されるまでに検出された音声部分に対して認識処理を行うことが好ましい。
【0023】
例えば、認識対象部分(61〜65、71〜75、101〜103、111〜114)は、マイクボタン(4)を操作される状態により決定する終了時刻より前に入力された音声部分(41〜45、81〜84)である。その終了時刻は、マイクボタン(4)が押されるオン時刻(t1、t5、t8)からマイクボタン(4)が放されるオフ時刻(t2、t6、t9)までの押下時間(Δt1、Δt3、Δt5)が設定時間より長いときに、オフ時刻から予め設定された認識延長時間だけ経過した時刻(t7)であり、押下時間(Δt1、Δt3、Δt5)が設定時間より短いときに、非音声部分(51〜55、91〜94)のうちの予め設定された空白判別時間より長い部分(55、93、94)がオフ時刻より後に入力される時刻(t4、t11、t15)である。
【0024】
マイクボタン(4)が押されるオン時刻(t1、t8、t12)から放されるオフ時刻(t2、t9、t13)までの押下時間(Δt1、Δt5、Δt7)が設定時間より長い操作を第1の操作方法とし、押下時間(Δt1、Δt5、Δt7)が設定時間より短い操作を第2の操作方法とする。そして、第1の操作方法が行われたときは、マイクボタン(4)のオフ時刻から認識延長時間だけ経過した時刻、もしくは、オフ時刻より後に空白判別時間より長い非音声部分が入力される時刻を音声認識の終了時刻とし、第2の操作方法が行われたときは、マイクボタン(4)のオン時刻より後に空白判別時間より長い非音声部分が入力される時刻を音声認識の終了時刻とする。音声認識部(15)は、終了時刻までに入力された音声に対して認識処理を行う。
【0025】
このとき、ユーザは、マイクボタン(4)を適正に操作することにより音声認識する認識対象の終了位置をより適切に決定することができる。すなわち、ユーザは、マイクボタン(4)を押し続けることにより、押している間に発声された音声をより確実に音声認識させ、マイクボタン(4)を押し続けた後に放すことにより、認識対象の終了位置をより適切に決定させることができる。ユーザは、音声認識装置(1)の取り扱い方法をよく理解していないときに、マイクボタン(4)を瞬間的に押したり、音声の発声が終了する前にマイクボタン(4)を放したりすることが多い。音声認識装置(1)は、さらに、このような操作がされたときに、ユーザが発声した音声をより確実に音声認識することができる。
【0026】
本発明による音声認識方法は、入力された音声を認識する音声認識方法であって、入力音声から利用者が発声した音声部分を検出して、入力音声を音声部分と非音声部分に分割するステップ(S1)と、音声部分に対して認識処理を行うステップ(S13、15、16)と、入力されている音声に対して認識処理が行われているかどうかの状態を随時表示して利用者に伝えるステップ(S11、17)とを備えている。
【0027】
このとき、ユーザは、発声した音声を音声認識装置(1)が音声認識しているかどうかを確認することができる。たとえば、認識状態表示部(14)は、オン時刻の後で音声部分が入力される時刻に、すなわち、認識処理の開始時刻(t1、t8、t12)にランプを点灯し、終了時刻にランプを消灯する。また、認識状態表示部(14)は、認識処理の開始時刻(t1、t8、t12)から終了時刻までレベルメータ(22)に第1表示形態で音声の音量を表示し、終了時刻より後にレベルメータ(22)に第1表示形態と異なる第2表示形態で音量を表示する。
【0028】
レベルメータ(22)は、音量が音声認識部(15)により音声認識するために必要である必要音量より大きいか小さいかを識別可能に表示することが好ましい。このとき、ユーザは、発音すべき音声の音量がよくわかり、音量が適正な音声を音声認識装置(1)に入力することができる。この結果、音声認識装置(1)は、音量が適正な音声が入力されて、より正確に音声認識することができる。
【0029】
本発明による音声認識方法は、利用者が発声を行う際に操作するマイクボタンのオン操作またはオン操作とオフ操作の両方を検出するステップ(S9、14、19)と、検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき、音声検出部により検出された音声部分から認識対象とする音声部分を選択して音声認識を行うステップ(S13、15、16)と、また、音声部分の認識処理が終了し、認識処理の終了が表示された後、所定時間内に再度オン操作が検出された場合に、再度検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき認識対象とする音声部分を更に選択し、先のオン操作時の認識結果と後のオン操作の認識結果との両方を表示するステップとを更に備えていることが好ましい。
【0030】
本発明による音声認識方法は、認識処理が行われていることを表示している際に入力された音声部分の認識結果を第1の表示形態で表示するステップと、また、認識状態表示部が終了を伝えた後の所定時間内に再度音声部分が検出された場合に、所定時間内に検出された音声部分に対しても音声認識を行い、認識結果を第1の表示形態とは異なる第2の表示形態で表示するステップとを更に備えている。
【0031】
すなわち、認識対象部分(61〜64、101〜104、111〜114)は、終了時刻から追加可能時間だけ経過するより前にマイクボタン(4)が押されるときに、音声部分(41〜45、81〜84)のうちの最初の終了時刻までの音声部分に加えて、後にマイクボタン(4)が押されたオン時刻(t12)により認識対象として選択される音声部分を含んでいることが好ましい。このとき、ユーザは、発声している途中で音声認識装置(1)が音声認識を終了したときに、再度マイクボタン(4)を押すことにより、音声を追加して入力することができる。
【0032】
本発明による音声認識方法は、利用者の操作により指示されたときに、第1の表示形態の認識結果を第2の表示形態に変換し、また、第2の表示形態の認識結果を第1の表示形態に変換するステップ(S32)と、第1の表示形態にて表示されている認識結果に対して処理を行うステップ(S34)とを備えている。この処理としては、認識結果の翻訳が例示される。
【0033】
すなわち、文節選択部(16)は、表示装置(5)に認識文字列を表示し、認識文字列のうちの操作により選択される選択文字列が表示される表示形式を変換することにより、対象文に対応する文字列を対象表示形式により表示し、対象外文に対応する文字列を対象表示形式と異なる対象外表示形式により表示する。音声認識装置(1)は、不必要である音声も音声認識したり、逆に必要な音声を認識しなかったりすることがある。このような音声認識装置(1)は、認識された文字列のうち、ユーザが必要な発声部分を選択して使用することができる。
【0034】
本発明による音声認識方法は、マイクボタンのオン操作とオフ操作を検出するステップ(S9)と、さらに、これらの操作が第1の操作と第2の操作のどちらで行われたかを検出するステップ(S14)と、第1の操作が行われた場合には、オフ操作が行われた時刻を基準に決定した時刻までに検出された音声部分に対して認識処理を行い、第2の操作が行われた場合には、オン時刻より後に音声検出部により所定以上の非音声部分が検出されるまでに検出された音声部分に対して認識処理を行うステップ(S15、16)とを更に備えていることが好ましい。
【0035】
例えば、認識対象部分(61〜65、71〜75、101〜103、111〜114)は、マイクボタン(4)を操作される状態により決定する終了時刻より前に入力された音声部分(41〜45、81〜84)である。その終了時刻は、マイクボタン(4)が押されるオン時刻(t1、t5、t8)からマイクボタン(4)が放されるオフ時刻(t2、t6、t9)までの押下時間(Δt1、Δt3、Δt5)が設定時間より長いときに、オフ時刻から予め設定された認識延長時間だけ経過した時刻(t7)であり、押下時間(Δt1、Δt3、Δt5)が設定時間より短いときに、非音声部分(51〜55、91〜94)のうちの予め設定された空白判別時間より長い部分(55、93、94)がオフ時刻より後に入力される時刻(t4、t11、t15)である。
【0036】
マイクボタン(4)が押されるオン時刻(t1、t8、t12)から放されるオフ時刻(t2、t9、t13)までの押下時間(Δt1、Δt5、Δt7)が設定時間より長い操作を第1の操作方法とし、押下時間(Δt1、Δt5、Δt7)が設定時間より短い操作を第2の操作方法とする。そして、第1の操作方法が行われたときは、マイクボタン(4)のオフ時刻から認識延長時間だけ経過した時刻、もしくは、オフ時刻より後に空白判別時間より長い非音声部分が入力される時刻を音声認識の終了時刻とし、第2の操作方法が行われたときは、マイクボタン(4)のオン時刻より後に空白判別時間より長い非音声部分が入力される時刻を音声認識の終了時刻とする。音声認識部(15)は、終了時刻までに入力された音声に対して認識処理を行う。
【0037】
このとき、ユーザは、マイクボタン(4)を適正に操作することにより音声認識する認識対象の終了位置をより適切に決定することができる。すなわち、ユーザは、マイクボタン(4)を押し続けることにより、押している間に発声された音声をより確実に音声認識させ、マイクボタン(4)を押し続けた後に放すことにより、認識対象の終了位置をより適切に決定させることができる。ユーザは、音声認識装置(1)の取り扱い方法をよく理解していないときに、マイクボタン(4)を瞬間的に押したり、音声の発声が終了する前にマイクボタン(4)を放したりすることが多い。音声認識装置(1)は、さらに、このような操作がされたときに、ユーザが発声した音声をより確実に音声認識することができる。
【0038】
本発明による音声認識プログラムは、入力された音声を認識する音声認識方法をコンピュータに実行させるコンピュータプログラムであって、入力音声から利用者が発声した音声部分を検出して、入力音声を音声部分と非音声部分に分割するステップ(S1)と、音声部分に対して認識処理を行うステップ(S13、15、16)と、入力されている音声に対して認識処理が行われているかどうかの状態を随時表示して利用者に伝えるステップ(S11、17)とを備えている。
【0039】
このとき、ユーザは、発声した音声を音声認識装置(1)が音声認識しているかどうかを確認することができる。たとえば、認識状態表示部(14)は、オン時刻の後で音声部分が入力される時刻に、すなわち、認識処理の開始時刻(t1、t8、t12)にランプを点灯し、終了時刻にランプを消灯する。また、認識状態表示部(14)は、認識処理の開始時刻(t1、t8、t12)から終了時刻までレベルメータ(22)に第1表示形態で音声の音量を表示し、終了時刻より後にレベルメータ(22)に第1表示形態と異なる第2表示形態で音量を表示する。
【0040】
レベルメータ(22)は、音量が音声認識部(15)により音声認識するために必要である必要音量より大きいか小さいかを識別可能に表示することが好ましい。このとき、ユーザは、発音すべき音声の音量がよくわかり、音量が適正な音声を音声認識装置(1)に入力することができる。この結果、音声認識装置(1)は、音量が適正な音声が入力されて、より正確に音声認識することができる。
【0041】
本発明による音声認識プログラムは、利用者が発声を行う際に操作するマイクボタンのオン操作またはオン操作とオフ操作の両方を検出するステップ(S9、14、19)と、検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき、音声検出部により検出された音声部分から認識対象とする音声部分を選択して音声認識を行うステップ(S13、15、16)と、また、音声部分の認識処理が終了し、認識処理の終了が表示された後、所定時間内に再度オン操作が検出された場合に、再度検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき認識対象とする音声部分を更に選択し、先のオン操作時の認識結果と後のオン操作の認識結果との両方を表示するステップとを更に備えていることが好ましい。
【0042】
本発明による音声認識プログラムは、認識処理が行われていることを表示している際に入力された音声部分の認識結果を第1の表示形態で表示するステップと、また、認識状態表示部が終了を伝えた後の所定時間内に再度音声部分が検出された場合に、所定時間内に検出された音声部分に対しても音声認識を行い、認識結果を第1の表示形態とは異なる第2の表示形態で表示するステップとを更に備えている。
【0043】
すなわち、認識対象部分(61〜64、101〜104、111〜114)は、終了時刻から追加可能時間だけ経過するより前にマイクボタン(4)が押されるときに、音声部分(41〜45、81〜84)のうちの最初の終了時刻までの音声部分に加えて、後にマイクボタン(4)が押されたオン時刻(t12)により認識対象として選択される音声部分を含んでいることが好ましい。このとき、ユーザは、発声している途中で音声認識装置(1)が音声認識を終了したときに、再度マイクボタン(4)を押すことにより、音声を追加して入力することができる。
【0044】
本発明による音声認識プログラムは、利用者の操作により指示されたときに、第1の表示形態の認識結果を第2の表示形態に変換し、また、第2の表示形態の認識結果を第1の表示形態に変換するステップ(S32)と、第1の表示形態にて表示されている認識結果に対して処理を行うステップ(S34)とを備えている。この処理としては、認識結果の翻訳が例示される。
【0045】
すなわち、文節選択部(16)は、表示装置(5)に認識文字列を表示し、認識文字列のうちの操作により選択される選択文字列が表示される表示形式を変換することにより、対象文に対応する文字列を対象表示形式により表示し、対象外文に対応する文字列を対象表示形式と異なる対象外表示形式により表示する。音声認識装置(1)は、不必要である音声も音声認識したり、逆に必要な音声を認識しなかったりすることがある。このような音声認識装置(1)は、認識された文字列のうち、ユーザが必要な発声部分を選択して使用することができる。
【0046】
本発明による音声認識プログラムは、マイクボタンのオン操作とオフ操作を検出するステップ(S9)と、さらに、これらの操作が第1の操作と第2の操作のどちらで行われたかを検出するステップ(S14)と、第1の操作が行われた場合には、オフ操作が行われた時刻を基準に決定した時刻までに検出された音声部分に対して認識処理を行い、第2の操作が行われた場合には、オン時刻より後に音声検出部により所定以上の非音声部分が検出されるまでに検出された音声部分に対して認識処理を行うステップ(S15、16)とを更に備えていることが好ましい。
【0047】
例えば、認識対象部分(61〜65、71〜75、101〜103、111〜114)は、マイクボタン(4)を操作される状態により決定する終了時刻より前に入力された音声部分(41〜45、81〜84)である。その終了時刻は、マイクボタン(4)が押されるオン時刻(t1、t5、t8)からマイクボタン(4)が放されるオフ時刻(t2、t6、t9)までの押下時間(Δt1、Δt3、Δt5)が設定時間より長いときに、オフ時刻から予め設定された認識延長時間だけ経過した時刻(t7)であり、押下時間(Δt1、Δt3、Δt5)が設定時間より短いときに、非音声部分(51〜55、91〜94)のうちの予め設定された空白判別時間より長い部分(55、93、94)がオフ時刻より後に入力される時刻(t4、t11、t15)である。
【0048】
マイクボタン(4)が押されるオン時刻(t1、t8、t12)から放されるオフ時刻(t2、t9、t13)までの押下時間(Δt1、Δt5、Δt7)が設定時間より長い操作を第1の操作方法とし、押下時間(Δt1、Δt5、Δt7)が設定時間より短い操作を第2の操作方法とする。そして、第1の操作方法が行われたときは、マイクボタン(4)のオフ時刻から認識延長時間だけ経過した時刻、もしくは、オフ時刻より後に空白判別時間より長い非音声部分が入力される時刻を音声認識の終了時刻とし、第2の操作方法が行われたときは、マイクボタン(4)のオン時刻より後に空白判別時間より長い非音声部分が入力される時刻を音声認識の終了時刻とする。音声認識部(15)は、終了時刻までに入力された音声に対して認識処理を行う。
【0049】
このとき、ユーザは、マイクボタン(4)を適正に操作することにより音声認識する認識対象の終了位置をより適切に決定することができる。すなわち、ユーザは、マイクボタン(4)を押し続けることにより、押している間に発声された音声をより確実に音声認識させ、マイクボタン(4)を押し続けた後に放すことにより、認識対象の終了位置をより適切に決定させることができる。ユーザは、音声認識装置(1)の取り扱い方法をよく理解していないときに、マイクボタン(4)を瞬間的に押したり、音声の発声が終了する前にマイクボタン(4)を放したりすることが多い。音声認識装置(1)は、さらに、このような操作がされたときに、ユーザが発声した音声をより確実に音声認識することができる。
【0050】
【発明の実施の形態】
図面を参照して、本発明による音声認識装置の実施の形態を説明する。ここでは例として、本発明による音声認識装置を、入力された音声を音声認識して別の言語に翻訳して読み上げる自動翻訳装置に適用して説明する。その音声認識装置が適用される自動翻訳装置1は、図1に示されているように、自動翻訳装置本体2とマイク3とマイクボタン4とタッチパネルディスプレイ5とLED6とスピーカ7とを備えている。自動翻訳装置本体2は、情報処理装置(コンピュータ)であり、記録されるコンピュータプログラムを実行して、マイク3とマイクボタン4とタッチパネルディスプレイ5とLED6とスピーカ7とを制御する。
【0051】
マイク3は、入力される音声を電気信号に変換して自動翻訳装置本体2に入力する。マイクボタン4は、ユーザにより押され、または、放されて、その状態を示す電位信号を自動翻訳装置本体2に入力する。タッチパネルディスプレイ5は、自動翻訳装置本体2から出力される電気信号に示される画面を表示する。タッチパネルディスプレイ5は、さらに、ユーザによりペンまたは指でタップされた(触れられた)位置を示す電気信号を自動翻訳装置本体2に入力する。LED6は、自動翻訳装置本体2から出力される電気信号に応答して点灯し、または、消灯する。スピーカ7は、自動翻訳装置本体2から出力される電気信号に応答して音声を出力する。
【0052】
図2は、自動翻訳装置本体2を詳細に示している。自動翻訳装置本体2は、コンピュータプログラムである音声検出部11と音声記録部12とマイクボタン検出部13と認識状態表示部14と音声認識部15と文節選択部16と翻訳部17とお手本部18とガイド表示部19とを備えている。
【0053】
音声検出部11は、マイク3から入力される音声を音声部分と非音声部分とに分離する。その音声部分は、人が発声した音声を示している。その非音声部分は、音声がない状態、または、人が発声した音声以外の音声、すなわち、ノイズを示している。音声検出部11は、さらに、特定のユーザの声紋を記録し、マイク3から入力される音声を、そのユーザが発声した音声である音声部分と、それ以外の非音声部分とに分離することもできる。
【0054】
音声記録部12は、図示されていないバッファに音声検出部11により分離された音声部分を常時に記録する。音声記録部12は、さらに、そのバッファに新規に記録する領域が不足したとき、バッファのサイズを拡張して音声を記録する。また、過去に記録された音声のうち、利用されずに残っている充分古い音声があった場合、その音声を削除してバッファの空き領域を増やす。マイクボタン検出部13は、マイクボタン4がユーザにより押されているか放されているかを判別する。音声認識部15は、マイクボタン4の状態に基づいてマイク3から入力され音声記録部12に記録された音声から認識対象となる部分を判別し、その認識対象を音声認識して文字言語を生成する。
【0055】
認識状態表示部14は、マイクボタン4の状態に基づいてそのときに入力されている音声が音声認識する認識対象になっているかどうかをタッチパネルディスプレイ5またはLED6を用いてユーザに通知する。すなわち、認識状態表示部14は、初期的に、入力されている音声の音量をタッチパネルディスプレイ5に常時に表示し、LED6を消灯している。認識状態表示部14は、マイクボタン4が押され、その音声に対して音声認識部15により音声認識が行われていると、入力されている音声の音量をタッチパネルディスプレイ5に色を変えて表示し、LED6を点灯する。認識状態表示部14は、音声認識部15により入力されている音声が認識対象ではないと判別されたときに、入力されている音声の音量をタッチパネルディスプレイ5に初期の色に変えて表示し、LED6を消灯する。
【0056】
文節選択部16は、音声認識部15により生成された文字言語をタッチパネルディスプレイ5に表示する。その文字言語は、黒字で表示される黒文字列と濃い灰色で表示される濃文字列と淡い灰色で表示される淡文字列とから形成されている。すなわち、文字列は、その音声がユーザが入力したかったものであるかどうかの推定により色分けされて表示される。黒文字列はユーザの入力したかった発声である可能性が非常に高いと思われる音声部分の文字列、濃文字列はユーザの入力したかった発声である可能性が高いと思われる音声部分の文字列、淡文字列は、音声認識処理を行ったがユーザの入力したかった発声である可能性が低いと思われる音声部分の文字列である。これらの推定は、例えば次のように行う。マイクボタン4を押している間あるいは押した直後の音声部分はユーザの入力したかった発声である可能性が非常に高いと推定して黒文字列とする。それらの黒文字列とした音声部分に短い時間隔で連続している音声部分は、ユーザが黒文字列の部分に連続して入力した発声と推定して濃文字列とする。一方、それらの黒文字列・濃文字列とした音声部分から間隔を置いて入力された音声部分は、周囲のノイズや、装置への入力を意図していないユーザの発声の可能性が高いと推定して淡文字列とする。
【0057】
文節選択部16は、さらに、文字列の元となる音声部分の単位で、ユーザが文字列の一部をタップすることにより、その文字列の色を切り替えて表示する。すなわち、文節選択部16は、黒文字列がタップされると、その黒文字列を淡い灰色で表示する。文節選択部16は、濃文字列がタップされると、その濃文字列を淡い灰色で表示する。文節選択部16は、淡文字列がタップされると、その淡文字列を濃い灰色で表示する。
【0058】
翻訳部17は、タッチパネルディスプレイ5に黒字で表示され、または、濃い灰色で表示されている文字列を他の言語に翻訳して翻訳文を生成する。翻訳部17は、さらに、その翻訳文をタッチパネルディスプレイ5に表示し、その翻訳文をスピーカ7から出力する。
【0059】
お手本部18は、タッチパネルディスプレイ5にお手本ボタンを表示して、そのお手本ボタンがタップされたときに、スピーカ7から所定の音量の音声を出力して、ユーザにマイク3から入力する音声の音量のお手本を示す。
【0060】
ガイド表示部19は、ユーザに対して発声の間を空けずに入力してもらうよう促す等の注意点を表示する。
【0061】
図3は、タッチパネルディスプレイ5に表示される画面を示している。その画面21は、レベルメータ22と認識結果表示欄23と翻訳結果表示欄24と翻訳ボタン25とお手本ボタン26とを備えている。レベルメータ22は、指示棒27と目盛り28とから形成されている。
【0062】
指示棒27は、左端が固定されて、入力される音声の音量が大きいときに、左右に伸びて表示され、入力される音声の音量が小さいときに、左右に縮んで表示される。目盛り28は、音声認識部15が十分に認識することができる音声の音量を示している。すなわち、マイク3に入力される音声は、指示棒27の右端が目盛り28より右に表示されるときに、音声認識部15により十分に認識され、指示棒27の右端が目盛り28より左に表示されるときに、音声認識部15により十分に認識されないことがある。
【0063】
認識結果表示欄23には、音声認識部15により生成された認識結果が表示される。その認識結果は、文字列31〜34から形成されている。文字列31〜34は、黒字、濃い灰色または淡い灰色により表示されている。文字列31〜34のうちの黒字の文字列は、タップされると、淡い灰色で表示される。文字列31〜34のうちの濃い灰色の文字列は、タップされると、淡い灰色で表示される。文字列31〜34のうちの淡い灰色の文字列は、タップされると、濃い灰色で表示される。
【0064】
翻訳ボタン25がタップされると、認識結果表示欄23に表示される認識結果のうちの黒字または濃い灰色で表示されている文字列が翻訳部17により翻訳されて、その翻訳文が翻訳結果表示欄24に表示され、その翻訳文がスピーカ7から発声される。お手本ボタン26がタップされると、スピーカ7から所定の音量の音声を出力して、自動翻訳装置1は、ユーザにマイク3から入力する音声の音量のお手本を示す。
【0065】
自動翻訳装置1の動作の実施の形態は、入力される音声を監視する動作と、マイクボタン4が押されたときの動作と、自動翻訳する動作と、ユーザにお手本を示す動作とを備えている。
【0066】
図4は、入力される音声を監視する動作を示している。その入力される音声を監視する動作は、自動翻訳装置1により常時に実行され、入力される音声を監視する動作、マイクボタン4が押されたときの動作、自動翻訳する動作またはユーザにお手本を示す動作と並行して実行されることができる。自動翻訳装置1は、まず、マイク3から入力される音声が人により発声された音声かどうかを判別する(ステップS1)。自動翻訳装置1は、人により発声された音声が入力されたときに(ステップS1;YES)、その音声を認識対象としてバッファに記録する(ステップS2、S3)。このとき、自動翻訳装置1は、その音声が開始されてから中断されるまでのひとかたまりとして記録する。その際に、バッファに新規に記録する領域が不足したとき、バッファのサイズを拡張して領域を増やし、音声を記録する。また、過去にバッファに記録され、利用されずにバッファに残っている音声のうち、充分古い音声があった場合、その音声を削除してバッファの空き領域を増やす(ステップS4、S5)。
【0067】
自動翻訳装置1は、人により発声された音声が入力されないときに(ステップS1;NO)、その音声が入力されることを待機する。自動翻訳装置1は、さらに、入力された音声の音量を灰色でレベルメータ22に表示する。
【0068】
図5は、マイクボタン4が押されたときの動作を示している。自動翻訳装置1は、マイクボタン4が押されたときに(ステップS9;YES)、まず、バッファに音声が記録されているかを調べ(ステップS10)、記録されていなければ、その入力される音声を監視する動作により、バッファに音声が記録されるまで待機する。自動翻訳装置1は、音声が記録されている場合、LED6を点灯し、入力された音声の音量を黄色でレベルメータ22に表示する(ステップS11)。自動翻訳装置1は、次いで、マイクボタン4が押される前に入力されバッファに記録されている音声も含めて認識対象となる音声を選択する(ステップS12)。自動翻訳装置1は、バッファより認識対象となる音声を、これから入力されてバッファに記録される音声も含めて順次読み込み、文字言語に音声認識し、その認識結果をタッチパネルディスプレイ5に表示する(ステップS13)。
【0069】
自動翻訳装置1において、マイクボタン4は、1秒以上押す第1の操作方法と、1秒以下だけ押す第2の操作方法を行うことができる。
自動翻訳装置1は、マイクボタン4が1秒以上押されたかどうかを判別する(ステップS14)。自動翻訳装置1は、マイクボタン4が1秒以上たかどうかを判別する(ステップS14)。自動翻訳装置1は、マイクボタン4が1秒以上押される第1の操作方法が行われたときに(ステップS14;YES)、マイクボタン4が放された時刻を元に終了時刻を決めて音声認識を終了させる。例えば、自動翻訳装置1は、マイクボタン4が放されてから1秒後までに入力された音声までを音声認識する(ステップS15)。
【0070】
なお、ステップS15では、自動翻訳装置1は、マイクボタンが放されてから2秒以上続く非音声部分より前に入力された音声までを音声認識してもよい。
【0071】
自動翻訳装置1は、マイクボタン4が1秒以下だけ押されていたときに(ステップS14;NO)、マイクボタン4が放された後に3秒以上続く非音声部分より前に入力された音声を音声認識する(ステップS16)。自動翻訳装置1は、音声認識を終了すると、LED6を消灯し、入力された音声の音量を灰色でレベルメータ22に表示する(ステップS17)。
【0072】
なお、第1の操作方法と第2の操作方法を区別する手段としては、マイクボタン4を押す時間による区別だけでなく、例えば以下のような手段でもよい。
・マイクボタンを2つ用意し、一方のマイクボタンの押下を第1の操作方法、他方のマイクボタンの押下を第2の操作方法とする。
・マイクボタンの押下が2段階の深さで行え、深く押下する操作を第1の操作方法、浅く押下する方法を第2の操作方法とする。
・マイクボタンは押し込む操作と回転させて上下に倒す操作を行うことができ、押し込む操作を第1の操作方法、回転させて上下に倒す操作を第2の操作方法とする。
・マイクボタンは、回転させて上下に倒す、もしくは上下にスライドさせる操作を行うことができ、上に倒すもしくはスライドさせる操作を第1の操作方法、下に倒すもしくはスライドさせる操作を第2の操作方法とする。
【0073】
自動翻訳装置1は、次いで、ステップS13、ステップS15またはステップS16で音声認識された認識結果をタッチパネルディスプレイ5に表示する(ステップS18)。自動翻訳装置1は、音声認識が終了してLED6が消灯してから3秒後までに、再度マイクボタン4が押されるかどうかを判別する(ステップS19)。
【0074】
自動翻訳装置1は、再度マイクボタン4が押されたときに(ステップS19;YES)、ステップS10〜ステップS17を実行してさらに入力される音声を音声認識して、その認識結果を先に音声認識された認識結果とともにタッチパネルディスプレイ5に表示する(ステップS18)。
【0075】
あるいは、自動翻訳装置1は、LED6をステップS11、S17に示される形態で点灯させる動作に限らないで、他の形態で点灯してもよい。LED6は、発光する色を変えて点灯してもよく、たとえば、ステップS11で緑色に点灯し、ステップS17で黄色に点灯してもよい。LED6は、発光する明るさを変えて点灯してもよく、たとえば、ステップS11で明るく点灯し、ステップS17で暗く点灯してもよい。LED6は、ステップS11で点滅し、ステップS17で点灯してもよい。
【0076】
このとき、ユーザは、マイクボタン4を適正に操作することにより音声認識する認識対象の終了位置をより適切に決定することができる。
【0077】
図6は、自動翻訳する動作を示している。自動翻訳する動作は、タッチパネルディスプレイ5に認識結果が表示されているときに、自動翻訳装置1により実行される。自動翻訳装置1は、淡い灰色の文字列がタップされると(ステップS31;YES)、その文字列の元となる音声部分を単位としてその淡い灰色の文字列を濃い灰色に変えて表示する(ステップS32)。自動翻訳装置1は、黒色または濃い灰色の文字列がタップされると(ステップS33;YES)、その黒色または濃い灰色の文字列を淡い灰色に変えて表示する(ステップS34)。ステップS31〜ステップS34の動作は、翻訳ボタン25がタップされるまで繰り返される。
【0078】
自動翻訳装置1は、翻訳ボタン25がタップされると(ステップS35;YES)、まず、最初に淡い灰色であった文字列をタップして濃い灰色に変えたかどうかを調べ(ステップS36)、変えていた場合は、ガイドメッセージを表示する(ステップS37)。このガイドメッセージは、ユーザに対して、その後の入力で正しく入力するように注意点を示すもので、例えば、発声中に間を空けすぎないように促す内容などである。自動翻訳装置1はその後、タッチパネルディスプレイ5に黒色または濃い灰色で表示されている文字列を他の言語たとえば、英語の翻訳文に翻訳する(ステップS38)。自動翻訳装置1は、その翻訳文をタッチパネルディスプレイ5に表示して、その翻訳文をスピーカ7から発声する(ステップS39)。
【0079】
ユーザにお手本を示す動作は、お手本ボタン26がタップされたときに、実行される。すなわち、自動翻訳装置1は、お手本ボタン26がタップされたときに、スピーカ7から所定の音量の音声を出力して、ユーザにマイク3から入力する音声の音量のお手本を示す。このような動作によれば、ユーザは、発音すべき音声の音量がよくわかり、音量が適正な音声を自動翻訳装置1に入力することができる。この結果、自動翻訳装置1は、音量が適正な音声が入力されて、より正確に音声認識することができる。
【0080】
次に、図面を参照して、自動翻訳装置1にて実際に音声が入力されるときの動作について説明する。
図7は、ある場面でのマイクボタン4が押される状態と認識対象との関係を示している。その場面では、ユーザにより「ええと」、「いちばん近い」、「駅は」、「どこですか?」と区切りながらノイズがある環境で発音されている。さらに、自動翻訳装置1は、「ええと」を音声部分41として検出し、「いちばん近い」を音声部分42として検出し、「駅は」を音声部分43として検出し、「どこですか?」を音声部分44として検出し、ノイズを音声部分45として検出している。さらに、自動翻訳装置1は、音声部分41の後に非音声部分51を検出し、音声部分42の後に非音声部分52を検出し、音声部分43の後に非音声部分53を検出し、音声部分44の後に非音声部分54を検出し、音声部分45の後に非音声部分55を検出する。ここで、非音声部分51〜55は、それぞれ1秒以内だけ続き、非音声部分54、55は、1秒以上続いているとする。
【0081】
自動翻訳装置1は、その場面で、ユーザが「いちばん近い」と発声している途中の時刻t1から時刻t2までマイクボタン4を1秒以内の時間Δt1だけ押したときに、LED6を時刻t1から音声部分44が終了した時刻t3から所定時間Δt2だけ経過した時刻t4まで点灯する。このとき、自動翻訳装置1は、音声部分41〜44をそれぞれ認識対象61〜64として音声認識し、音声部分45に対しては音声認識を行わない。また、仮に非音声部分54が1秒以内であったため、ノイズである音声部分45が認識対象となってしまった場合でも、翻訳を行う前に、ユーザが音声部分45の認識結果の文字列をタップして淡文字列に変更することで、ノイズが認識された文字列部分を容易に除外することができる。
【0082】
次に、自動翻訳装置1に音声が入力される他の場合の動作ついて説明する。
図8は、ある場面でのマイクボタン4が押される状態と認識対象との関係を示している。その場面では、ユーザにより「ええと」、「いちばん近い」、「駅は」、「どこですか?」と区切りながら発音され、さらに「駅は」と「どこですか?」との間に間をおいて発音されている。さらに、自動翻訳装置1が、「ええと」を音声部分81として検出し、「いちばん近い」を音声部分82として検出し、「駅は」を音声部分83として検出し、「どこですか?」を音声部分84として検出している。このとき、自動翻訳装置1は、さらに、音声部分81の後に非音声部分91を検出し、音声部分82の後に非音声部分92を検出し、音声部分83の後に非音声部分93を検出し、音声部分84の後に非音声部分94を検出する。非音声部分91、92は、それぞれ1秒以内だけ続き、非音声部分93、94は、1秒以上続いている。
【0083】
自動翻訳装置1は、その場面で、ユーザが「いちばん近い」と発声している途中の時刻t8から時刻t9までマイクボタン4を1秒以内の時間Δt5だけ押したときに、LED6を時刻t8から時刻t11まで点灯する。時刻t11は、音声部分83が終了した時刻t10から所定時間Δt6(1秒)だけ経過した時刻である。このとき、自動翻訳装置1は、音声部分81〜83をそれぞれ認識対象101〜103として音声認識する。
【0084】
その後、ユーザがLED6が消灯していることで、音声認識が終了していることに気付き、「どこですか?」と発声している途中の時刻t12から時刻t13までマイクボタン4を1秒以内の時間Δt7だけ押したとする。このとき、LED6は時刻t12から時刻15まで再度点灯する。時刻t15は、音声部分84が終了した時刻t14から所定時間Δt8(1秒)だけ経過した時刻である。このとき、自動翻訳装置1は、音声部分81〜83に加えて音声部分84もそれぞれ認識対象111〜114として音声認識する。その結果、音声部分81〜84までが音声認識される。
【0085】
すなわち、ユーザは、発声の途中でLED6が消灯したときに、再度マイクボタン4を押すことにより、自動翻訳装置1により1つの文として音声認識される。ユーザは、発声している途中で音声認識が終了したときに、再度マイクボタン4を押すことにより、音声を追加して入力することができ好ましい。
【0086】
次に、本発明による自動翻訳装置の他の実施の形態について説明する。図9に、マイクボタン4が押されたときの動作を示す。マイクボタン4が押されたとき、まず、図5に示した動作に基づき、音声認識が行われ、結果が表示される(ステップS21)。その後、3秒以内に音声検出により音声部分が検出された場合、その音声部分に対して認識処理を行い、結果の文字列を淡文字列として、それまでの文字列の後に追加して表示する。このとき、後から追加された文字列がノイズ等のユーザが意図しないものであれば、そのまま翻訳ボタン25をタップすることで、後から追加された文字列は除外して翻訳を行わせることができ、また、後から追加された文字列がユーザの意図した発声であれば、その文字列をタップして濃文字列としてから翻訳させることで、後から発声した音声部分を含めて翻訳を行わせることができる。
【0087】
図10は、マイクボタン4が押される状態と認識対象との関係を示している。マイクボタンが押され、音声部分81〜83が音声認識されるのは図8の場合と同様である。「ええと」「いちばん近い」「駅は」の発声が音声認識され、表示される。このとき、認識結果として「ええと」「いちばん近い」「駅は」までが一旦表示されているが、この後、ユーザが「どこですか」と続けて発声すると、音声部分84が入力される。このとき、自動翻訳装置1は、音声部分84を認識対象104として音声認識する。音声認識された結果「どこですか」は、淡い灰色で画面に追加する。
【0088】
このときユーザは、「どこですか」の文字列をタップして濃文字列にすることで、その部分も含めて翻訳させることができる。また、仮に、後から入力された部分が、ノイズ等のユーザが意図しない音声であっても、淡文字列の状態のままで翻訳ボタン25をタップすれば、後から入力された部分を除外して翻訳させることができる。
【0089】
【発明の効果】
以上説明したように、本発明においては、次のような効果を奏する。
第一の効果は、ユーザがマイクボタンを押すタイミングが適切でない場合でも、音声認識の開始位置と終了位置をより適切に決定することができることである。第二の効果は、ユーザが現在発声している音声が認識されているかどうかや、発声に間が空いたときに音声認識が終了したかどうかが、ユーザに伝わるということである。
第三の効果は、仮に発声に間が空き音声認識が終了した場合でも、ユーザがそれを知り、続けてマイクボタンを押すことで、そのまま音声認識を続けることができるということである。
第四の効果は、仮にノイズ等の余計な音声が認識されたり、前の発声から間を空けて発声したりした場合でも、認識結果の採用・不採用を切り替えて、意図して発声した部分のみを容易に選択することができるということである。
本発明の音声認識装置では、音声認識する認識対象をより適切に決定することができる。
また、現在発声中の内容が認識されているかどうかをユーザが容易に知ることができ、発声の途中で間が空き認識処理が途切れてしまった場合でも、ボタンを押すことで認識を継続させることができる。
本発明の音声認識装置は、さらに、自動翻訳装置に適用されることが好適である。
【図面の簡単な説明】
【図1】図1は、本発明による自動翻訳装置の実施の形態を示す斜視図である。
【図2】図2は、自動翻訳装置本体の実施の形態を示すブロック図である。
【図3】図3は、タッチパネルディスプレイに表示される画面の実施の形態を示す図である。
【図4】図4は、音声を監視する動作の実施の形態を示すフローチャートである。
【図5】図5は、マイクボタンが押されたときの動作の実施の形態を示すフローチャートである。
【図6】図6は、自動翻訳する動作の実施の形態を示すフローチャートである。
【図7】図7は、認識対象の位置を示すタイムチャートである。
【図8】図8は、認識対象の位置を示すタイムチャートである。
【図9】図9は、マイクボタンが押されたときの動作の実施の他の形態を示すフローチャートである。
【図10】図10は、認識対象の位置を示すタイムチャートである。
【符号の説明】1 :自動翻訳装置
2 :自動翻訳装置本体
3 :マイク
4 :マイクボタン
5 :タッチパネルディスプレイ
6 :LED
7 :スピーカ
11:音声検出部
12:音声記録部
13:マイクボタン検出部
14:認識状態表示部
15:音声認識部
16:文節選択部
17:翻訳部
18:お手本部
19:ガイド表示部
21:画面
22:レベルメータ
23:認識結果表示欄
24:翻訳結果表示欄
25:翻訳ボタン
26:お手本ボタン
27:指示棒
28:目盛り
31〜34:文字列
41〜45:音声部分
51〜55:非音声部分
61〜65:認識対象
71〜64:認識対象
81〜84:音声部分
91〜94:非音声部分
101〜103:認識対象
111〜114:認識対象
Claims (15)
- 入力された音声を認識する音声認識装置であって、
前記入力音声から利用者が発声した音声部分を検出して、前記入力音声を音声部分と非音声部分に分割する音声検出部と、
前記音声部分に対して認識処理を行う音声認識部と、
入力されている音声に対して前記音声認識部により認識処理が行われているかどうかの状態を随時表示して利用者に伝える認識状態表示部とを備えた
ことを特徴とする音声認識装置。 - 利用者が発声を行う際に操作するマイクボタンのオン操作またはオン操作とオフ操作の両方を検出するマイクボタン検出部を更に備え、
前記音声認識部は、前記マイクボタン検出部により検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき、前記音声検出部により検出された音声部分から認識対象とする音声部分を選択して音声認識を行い、
また、前記音声部分の認識処理が終了し、前記認識状態表示部が認識処理の終了を表示した後、所定時間内に再度マイクボタン検出部によりオン操作が検出された場合に、前記音声認識部は、前記再度検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき認識対象とする音声部分を更に選択し、先のオン操作時の認識結果と後のオン操作の認識結果との両方を表示する
ことを特徴とする請求項1記載の音声認識装置。 - 前記音声認識部は、前記認識状態表示部が前記認識処理が行われていることを表示している際に入力された前記音声部分の認識結果を第1の表示形態で表示し、また、前記認識状態表示部が終了を伝えた後の所定時間内に再度音声部分が検出された場合に、前記所定時間内に検出された音声部分に対しても音声認識を行い、認識結果を前記第1の表示形態とは異なる第2の表示形態で表示する
ことを特徴とする請求項1記載の音声認識装置。 - 利用者の操作により指示されたときに、前記第1の表示形態の認識結果を第2の表示形態に変換し、また、第2の表示形態の認識結果を第1の表示形態に変換する文節選択部と、
前記第1の表示形態にて表示されている認識結果に対して処理を行う処理部とを備えた
ことを特徴とする請求項3記載の音声認識装置。 - 前記マイクボタン検出部は、マイクボタンのオン操作とオフ操作を検出し、さらに、これらの操作が第1の操作と第2の操作のどちらで行われたかを検出し、前記音声認識部は、前記第1の操作が行われた場合には、前記オフ操作が行われた時刻を基準に決定した時刻までに検出された音声部分に対して認識処理を行い、前記第2の操作が行われた場合には、前記オン時刻より後に音声検出部により所定以上の非音声部分が検出されるまでに検出された音声部分に対して認識処理を行うことを特徴とする請求項1記載の音声認識装置。
- 入力された音声を認識する音声認識方法であって、
前記入力音声から利用者が発声した音声部分を検出して、前記入力音声を音声部分と非音声部分に分割するステップと、
前記音声部分に対して認識処理を行うステップと、
入力されている音声に対して認識処理が行われているかどうかの状態を随時表示して利用者に伝えるステップとを備えた
ことを特徴とする音声認識方法。 - 利用者が発声を行う際に操作するマイクボタンのオン操作またはオン操作とオフ操作の両方を検出するステップと、
検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき、検出された音声部分から認識対象とする音声部分を選択して音声認識を行うステップと、
また、前記音声部分の認識処理が終了し、認識処理の終了が表示された後、所定時間内に再度オン操作が検出された場合に、前記再度検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき認識対象とする音声部分を更に選択し、先のオン操作時の認識結果と後のオン操作の認識結果との両方を表示するステップとを更に具備する
ことを特徴とする請求項6記載の音声認識方法。 - 前記認識処理が行われていることを表示している際に入力された前記音声部分の認識結果を第1の表示形態で表示するステップと、
また、終了を伝えた後の所定時間内に再度音声部分が検出された場合に、前記所定時間内に検出された音声部分に対しても音声認識を行い、認識結果を前記第1の表示形態とは異なる第2の表示形態で表示するステップとを更に具備する
ことを特徴とする請求項6記載の音声認識方法。 - 利用者の操作により指示されたときに、前記第1の表示形態の認識結果を第2の表示形態に変換し、また、第2の表示形態の認識結果を第1の表示形態に変換するステップと、
前記第1の表示形態にて表示されている認識結果に対して処理を行うステップとを備えた
ことを特徴とする請求項8記載の音声認識方法。 - マイクボタンのオン操作とオフ操作を検出するステップと、
さらに、これらの操作が第1の操作と第2の操作のどちらで行われたかを検出するステップと、
前記第1の操作が行われた場合には、前記オフ操作が行われた時刻を基準に決定した時刻までに検出された音声部分に対して認識処理を行い、前記第2の操作が行われた場合には、前記オン時刻より後に所定以上の非音声部分が検出されるまでに検出された音声部分に対して認識処理を行うステップとを更に具備する
ことを特徴とする請求項6記載の音声認識方法。 - 入力された音声を認識する音声認識方法をコンピュータに実行させるコンピュータプログラムであって、
前記入力音声から利用者が発声した音声部分を検出して、前記入力音声を音声部分と非音声部分に分割するステップと、
前記音声部分に対して認識処理を行うステップと、
入力されている音声に対して認識処理が行われているかどうかの状態を随時表示して利用者に伝えるステップとを備えた
ことを特徴とする音声認識方法。 - 利用者が発声を行う際に操作するマイクボタンのオン操作またはオン操作とオフ操作の両方を検出するステップと、
検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき、検出された音声部分から認識対象とする音声部分を選択して音声認識を行うステップと、
また、前記音声部分の認識処理が終了し、認識処理の終了が表示された後、所定時間内に再度オン操作が検出された場合に、前記再度検出されたオン操作またはオン操作とオフ操作の両方の時刻に基づき認識対象とする音声部分を更に選択し、先のオン操作時の認識結果と後のオン操作の認識結果との両方を表示するステップとを更に具備する
ことを特徴とする請求項11記載の音声認識方法。 - 前記認識処理が行われていることを表示している際に入力された前記音声部分の認識結果を第1の表示形態で表示するステップと、
また、終了を伝えた後の所定時間内に再度音声部分が検出された場合に、前記所定時間内に検出された音声部分に対しても音声認識を行い、認識結果を前記第1の表示形態とは異なる第2の表示形態で表示するステップとを更に具備する
ことを特徴とする請求項11記載の音声認識方法。 - 利用者の操作により指示されたときに、前記第1の表示形態の認識結果を第2の表示形態に変換し、また、第2の表示形態の認識結果を第1の表示形態に変換するステップと、
前記第1の表示形態にて表示されている認識結果に対して処理を行うステップとを備えた
ことを特徴とする請求項13記載の音声認識方法。 - マイクボタンのオン操作とオフ操作を検出するステップと、
さらに、これらの操作が第1の操作と第2の操作のどちらで行われたかを検出するステップと、
前記第1の操作が行われた場合には、前記オフ操作が行われた時刻を基準に決定した時刻までに検出された音声部分に対して認識処理を行い、前記第2の操作が行われた場合には、前記オン時刻より後に所定以上の非音声部分が検出されるまでに検出された音声部分に対して認識処理を行うステップとを更に具備する
ことを特徴とする請求項11記載の音声認識方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003095772A JP3888584B2 (ja) | 2003-03-31 | 2003-03-31 | 音声認識装置、音声認識方法及び音声認識プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003095772A JP3888584B2 (ja) | 2003-03-31 | 2003-03-31 | 音声認識装置、音声認識方法及び音声認識プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004302196A true JP2004302196A (ja) | 2004-10-28 |
JP3888584B2 JP3888584B2 (ja) | 2007-03-07 |
Family
ID=33408013
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003095772A Expired - Fee Related JP3888584B2 (ja) | 2003-03-31 | 2003-03-31 | 音声認識装置、音声認識方法及び音声認識プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3888584B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007264473A (ja) * | 2006-03-29 | 2007-10-11 | Toshiba Corp | 音声処理装置、音声処理方法および音声処理プログラム |
JP2009175178A (ja) * | 2008-01-21 | 2009-08-06 | Denso Corp | 音声認識装置、プログラム、及び発話信号抽出方法 |
WO2016103988A1 (ja) * | 2014-12-26 | 2016-06-30 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
JP2019164232A (ja) * | 2018-03-19 | 2019-09-26 | 株式会社リコー | 共有端末、方法、プログラム、共有システム及び方法 |
JP2020529032A (ja) * | 2018-06-12 | 2020-10-01 | 深▲せん▼市合言信息科技有限公司Langogo Technology Co.,Ltd. | 音声認識翻訳方法及び翻訳装置 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8996059B2 (en) | 2012-07-19 | 2015-03-31 | Kirusa, Inc. | Adaptive communication mode for recording a media message |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS62245296A (ja) * | 1986-04-18 | 1987-10-26 | シチズン時計株式会社 | 音声認識装置 |
JPH01112299A (ja) * | 1987-07-16 | 1989-04-28 | Fujitsu Ltd | 音声認識装置 |
JPH02184915A (ja) * | 1989-01-12 | 1990-07-19 | Toshiba Corp | 音声認識装置及び方法 |
JPH03202899A (ja) * | 1989-12-29 | 1991-09-04 | Pioneer Electron Corp | 音声リモートコントロール装置 |
JPH08115096A (ja) * | 1994-10-14 | 1996-05-07 | Sanyo Electric Co Ltd | 音声処理装置 |
JPH08185196A (ja) * | 1994-12-28 | 1996-07-16 | Sony Corp | 音声区間検出装置 |
JP2000089789A (ja) * | 1998-09-08 | 2000-03-31 | Fujitsu Ltd | 音声認識装置及び記録媒体 |
JP2000322077A (ja) * | 1999-05-12 | 2000-11-24 | Sony Corp | テレビジョン装置 |
JP2001067091A (ja) * | 1999-08-25 | 2001-03-16 | Sony Corp | 音声認識装置 |
JP2002073061A (ja) * | 2000-09-05 | 2002-03-12 | Matsushita Electric Ind Co Ltd | 音声認識装置及びその方法 |
JP2002182690A (ja) * | 2000-12-14 | 2002-06-26 | Sharp Corp | 音声操作装置及び該音声操作装置の音声命令判定方法 |
JP2002344915A (ja) * | 2001-05-14 | 2002-11-29 | Nippon Telegr & Teleph Corp <Ntt> | コミュニケーション把握装置、および、その方法 |
JP3446857B2 (ja) * | 1996-02-07 | 2003-09-16 | 株式会社リコー | 音声認識装置 |
-
2003
- 2003-03-31 JP JP2003095772A patent/JP3888584B2/ja not_active Expired - Fee Related
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS62245296A (ja) * | 1986-04-18 | 1987-10-26 | シチズン時計株式会社 | 音声認識装置 |
JPH01112299A (ja) * | 1987-07-16 | 1989-04-28 | Fujitsu Ltd | 音声認識装置 |
JPH02184915A (ja) * | 1989-01-12 | 1990-07-19 | Toshiba Corp | 音声認識装置及び方法 |
JPH03202899A (ja) * | 1989-12-29 | 1991-09-04 | Pioneer Electron Corp | 音声リモートコントロール装置 |
JPH08115096A (ja) * | 1994-10-14 | 1996-05-07 | Sanyo Electric Co Ltd | 音声処理装置 |
JPH08185196A (ja) * | 1994-12-28 | 1996-07-16 | Sony Corp | 音声区間検出装置 |
JP3446857B2 (ja) * | 1996-02-07 | 2003-09-16 | 株式会社リコー | 音声認識装置 |
JP2000089789A (ja) * | 1998-09-08 | 2000-03-31 | Fujitsu Ltd | 音声認識装置及び記録媒体 |
JP2000322077A (ja) * | 1999-05-12 | 2000-11-24 | Sony Corp | テレビジョン装置 |
JP2001067091A (ja) * | 1999-08-25 | 2001-03-16 | Sony Corp | 音声認識装置 |
JP2002073061A (ja) * | 2000-09-05 | 2002-03-12 | Matsushita Electric Ind Co Ltd | 音声認識装置及びその方法 |
JP2002182690A (ja) * | 2000-12-14 | 2002-06-26 | Sharp Corp | 音声操作装置及び該音声操作装置の音声命令判定方法 |
JP2002344915A (ja) * | 2001-05-14 | 2002-11-29 | Nippon Telegr & Teleph Corp <Ntt> | コミュニケーション把握装置、および、その方法 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007264473A (ja) * | 2006-03-29 | 2007-10-11 | Toshiba Corp | 音声処理装置、音声処理方法および音声処理プログラム |
US7801726B2 (en) | 2006-03-29 | 2010-09-21 | Kabushiki Kaisha Toshiba | Apparatus, method and computer program product for speech processing |
JP4557919B2 (ja) * | 2006-03-29 | 2010-10-06 | 株式会社東芝 | 音声処理装置、音声処理方法および音声処理プログラム |
JP2009175178A (ja) * | 2008-01-21 | 2009-08-06 | Denso Corp | 音声認識装置、プログラム、及び発話信号抽出方法 |
WO2016103988A1 (ja) * | 2014-12-26 | 2016-06-30 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
JPWO2016103988A1 (ja) * | 2014-12-26 | 2017-10-05 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
JP2019164232A (ja) * | 2018-03-19 | 2019-09-26 | 株式会社リコー | 共有端末、方法、プログラム、共有システム及び方法 |
JP7091745B2 (ja) | 2018-03-19 | 2022-06-28 | 株式会社リコー | 表示端末、プログラム、情報処理システム及び方法 |
JP2020529032A (ja) * | 2018-06-12 | 2020-10-01 | 深▲せん▼市合言信息科技有限公司Langogo Technology Co.,Ltd. | 音声認識翻訳方法及び翻訳装置 |
Also Published As
Publication number | Publication date |
---|---|
JP3888584B2 (ja) | 2007-03-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7822613B2 (en) | Vehicle-mounted control apparatus and program that causes computer to execute method of providing guidance on the operation of the vehicle-mounted control apparatus | |
KR100586286B1 (ko) | 구술 및 명령 구별을 향상하는 방법 | |
US20050114132A1 (en) | Voice interactive method and system | |
US8041576B2 (en) | Information processing apparatus and information processing method | |
JP2011059659A (ja) | 第1の機能及び第2の機能を含む複数の機能を有効にするためのシステムおよび方法 | |
JP2004086150A (ja) | 音声制御装置 | |
JP3702867B2 (ja) | 音声制御装置 | |
JP2011504624A (ja) | 自動同時通訳システム | |
JP3888584B2 (ja) | 音声認識装置、音声認識方法及び音声認識プログラム | |
CN107430848B (zh) | 声音控制装置、声音控制方法以及计算机可读记录介质 | |
US6879953B1 (en) | Speech recognition with request level determination | |
JP2012032817A (ja) | マーカー設定方法およびマーカー設定装置 | |
JP2006208486A (ja) | 音声入力装置 | |
JP2617527B2 (ja) | 音声認識装置 | |
EP1316944B1 (en) | Sound signal recognition system and method, and dialog control system and method using it | |
JP2005513560A (ja) | 電気機器を音声制御する方法及び制御システム | |
JP3903841B2 (ja) | 自動通訳装置及び自動通訳用プログラム | |
JPH09282137A (ja) | 文章読み上げ装置 | |
JP2005258235A (ja) | 感情発話検知による対話修正機能を備えた対話制御装置 | |
JP7312639B2 (ja) | カラオケ用入力装置 | |
JP4060237B2 (ja) | 音声対話システム、音声対話方法及び音声対話プログラム | |
JPH10326175A (ja) | 音声指示装置および音声指示情報記憶媒体 | |
JP2008176221A (ja) | 車載音声認識システム | |
JP2002268683A (ja) | 情報処理方法及び装置 | |
WO2021223232A1 (zh) | 一种基于Gaia AI语音控制的智能电视多语种识别系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060530 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060601 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060728 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060822 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061019 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20061110 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20061123 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 3888584 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091208 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101208 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101208 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111208 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111208 Year of fee payment: 5 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111208 Year of fee payment: 5 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111208 Year of fee payment: 5 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121208 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121208 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121208 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121208 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131208 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |