JP4587009B2 - Robot control apparatus, robot control method, and recording medium - Google Patents
Robot control apparatus, robot control method, and recording medium Download PDFInfo
- Publication number
- JP4587009B2 JP4587009B2 JP2000310492A JP2000310492A JP4587009B2 JP 4587009 B2 JP4587009 B2 JP 4587009B2 JP 2000310492 A JP2000310492 A JP 2000310492A JP 2000310492 A JP2000310492 A JP 2000310492A JP 4587009 B2 JP4587009 B2 JP 4587009B2
- Authority
- JP
- Japan
- Prior art keywords
- recognition
- robot
- voice
- state
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【0001】
【発明の属する技術分野】
本発明は、ロボット制御装置およびロボット制御方法、並びに記録媒体に関し、特に、音声認識装置による音声認識結果に基づいて行動するロボットに用いて好適なロボット制御装置およびロボット制御方法、並びに記録媒体に関する。
【0002】
【従来の技術】
近年においては、例えば、玩具等として、ユーザが発した音声を音声認識し、その音声認識結果に基づいて、ある仕草をしたり、合成音を出力する等の行動を行うロボット(本明細書においては、ぬいぐるみ状のものを含む)が製品化されている。
【0003】
【発明が解決しようとする課題】
このようなロボットは、常時、音声入力を受け付けるようになされている。しかしながら、ロボットの動作中に発生するアクチュエータのノイズ、ロボットの歩行時に発生する接地パルス音、あるいは、ユーザがロボットに触れることにより発生するタッチノイズなどが、ユーザの発話した音声であると誤検知されてしまう場合があった。
【0004】
本発明はこのような状況に鑑みてなされたものであり、ロボットの状態や行動に基づいた音声認識を行うことにより、ユーザの発話した音声と、ロボットの動作などにより発生するノイズとを区別して、誤認識を防ぐようにするものである。
【0005】
【課題を解決するための手段】
本発明のロボット制御装置は、音声データの入力を受ける音声入力手段と、ロボットの状態の認識結果を示す状態認識情報を生成する状態認識情報生成手段と、ロボットの姿勢の遷移を示す姿勢遷移情報を生成する姿勢遷移情報生成手段と、ロボットが歩行動作を行っている場合に発生するノイズ成分に対応するデータを記憶する記憶手段と、状態認識情報生成手段により生成された状態認識情報、もしくは、姿勢遷移情報生成手段により生成された姿勢遷移情報を基に、音声入力手段により入力された音声データにおける音声認識を行う区間を判別し、判別した音声認識を行う区間の音声データを認識する認識する認識手段とを備え認識手段は、姿勢遷移情報を基にロボットが歩行動作を行っていることを判別した場合、記憶手段により記憶されているノイズ成分に対応するデータを用いて、音声データをフィルタリングした後の音声データを認識することを特徴とする。
【0006】
姿勢遷移情報には、ロボットが有する複数の駆動部のうちのいずれの駆動部が駆動動作をするかを示す情報を含ませることができ、認識手段には、駆動する駆動部の位置が、音声入力手段に近い場合、音声データの認識を行わせないようにすることができる。
【0007】
認識手段には、ロボットが歩行動作を行っている場合、歩行動作のために発生したノイズ成分を含むフレームを除いた音声データを認識させることができる。
【0009】
姿勢遷移情報には、ロボットが有する複数の駆動部のうちのいずれの駆動部が駆動動作をするかを示す情報を含ませることができ、認識手段には、姿勢遷移情報を基に、駆動部が駆動することにより発生するノイズを考慮して音声認識を行わせることができる。
【0010】
状態認識情報には、ロボットがユーザに触れられているか否かを示す情報を含ませることができ、認識手段には、状態認識情報を基に、ユーザがロボットに触れているために発生するノイズを考慮して音声認識を行わせることができる。
【0011】
ロボットの状態もしくは姿勢の遷移により発生するノイズに対応した所定の閾値を記憶する記憶手段と、認識手段が音声認識を行っていない場合の環境音を推定する推定手段とを更に備えさせることができ、認識手段には、状態認識情報生成手段により生成された状態認識情報、もしくは、姿勢遷移情報生成手段により生成された姿勢遷移情報を基に、記憶手段に記憶されている閾値および推定手段により推定された環境音を用いて、音声認識を行う区間の開始を判別させることができる。
【0012】
ロボットの状態もしくは姿勢の遷移により発生するノイズに対応した所定の閾値を記憶する記憶手段を更に備えさせることができ、認識手段には、状態認識情報生成手段により生成された状態認識情報、もしくは、姿勢遷移情報生成手段により生成された姿勢遷移情報を基に、記憶手段に記憶されている閾値を用いて、音声認識を行う区間の開始を判別させることができる。
【0013】
音声入力手段により入力された音声データを基に、ロボットの状態もしくは姿勢の遷移により発生するノイズに対応した閾値を設定する設定手段を更に備えさせることができ、認識手段には、設定手段により設定された閾値を用いて、音声入力手段により入力された音声データにおける音声認識を行う区間の開始を判別させることができる。
【0014】
本発明のロボット制御方法は、音声データの入力を受ける音声入力ステップと、ロボットの状態の認識結果を示す状態認識情報を生成する状態認識情報生成ステップと、ロボットの姿勢の遷移を示す姿勢遷移情報を生成する姿勢遷移情報生成ステップと、状態認識情報生成ステップの処理により生成された状態認識情報、もしくは、姿勢遷移情報生成ステップの処理により生成された姿勢遷移情報を基に、音声入力ステップの処理により入力された音声データにおける音声認識を行う区間を判別し、判別した音声認識を行う区間の音声データを認識する認識ステップとを含み、認識ステップの処理によって、姿勢遷移情報を基にロボットが歩行動作を行っていることを判別した場合、記憶手段により記憶されているロボットが歩行動作を行っている場合に発生するノイズ成分に対応するデータを用いて、音声データをフィルタリングした後の音声データを認識することを特徴とする。
【0015】
本発明の記録媒体に記録されているプログラムは、音声データの入力を受ける音声入力ステップと、ロボットの状態の認識結果を示す状態認識情報を生成する状態認識情報生成ステップと、ロボットの姿勢の遷移を示す姿勢遷移情報を生成する姿勢遷移情報生成ステップと、状態認識情報生成ステップの処理により生成された状態認識情報、もしくは、姿勢遷移情報生成ステップの処理により生成された姿勢遷移情報を基に、音声入力ステップの処理により入力された音声データにおける音声認識を行う区間を判別し、判別した音声認識を行う区間の音声データを認識する認識ステップとを含み、認識ステップの処理によって、姿勢遷移情報を基にロボットが歩行動作を行っていることを判別した場合、記憶手段により記憶されているロボットが歩行動作を行っている場合に発生するノイズ成分に対応するデータを用いて、音声データをフィルタリングした後の音声データを認識することを特徴とする。
【0016】
本発明のロボット制御装置、ロボット制御方法、および記録媒体に記録されているプログラムにおいては、音声データが入力され、ロボットの状態の認識結果を示す状態認識情報が生成され、ロボットの姿勢の遷移を示す姿勢遷移情報が生成され、ロボットが歩行動作を行っている場合に発生するノイズ成分に対応するデータが記憶され、生成された状態認識情報、もしくは生成された姿勢遷移情報を基に、入力された音声データにおける音声認識を行う区間を判別し、判別した音声認識を行う区間の音声データが認識され、姿勢遷移情報を基にロボットが歩行動作を行っていることが判別された場合、記憶されているノイズ成分に対応するデータを用いて、音声データがフィルタリングされた後の音声データが認識される。
【0017】
【発明の実施の形態】
以下、図を参照して、本発明の実施の形態について説明する。
【0018】
図1は、本発明を適用したロボットの一実施の形態の外観構成例を示しており、図2は、その電気的構成例を示している。
【0019】
本実施の形態では、ロボットは、例えば、犬等の四つ足の動物の形状のものとなっており、胴体部ユニット2の前後左右に、それぞれ脚部ユニット3A,3B,3C,3Dが連結されるとともに、胴体部ユニット2の前端部と後端部に、それぞれ頭部ユニット4と尻尾部ユニット5が連結されることにより構成されている。
【0020】
尻尾部ユニット5は、胴体部ユニット2の上面に設けられたベース部5Bから、2自由度をもって湾曲または揺動自在に引き出されている。
【0021】
胴体部ユニット2には、ロボット全体の制御を行うコントローラ10、ロボットの動力源となるバッテリ11、並びにバッテリセンサ12および熱センサ13からなる内部センサ部14などが収納されている。
【0022】
頭部ユニット4には、「耳」に相当するマイク(マイクロフォン)15、「目」に相当するCCD(Charge Coupled Device)カメラ16、触覚に相当するタッチセンサ17、「口」に相当するスピーカ18などが、それぞれ所定位置に配設されている。また、頭部ユニット4には、口の下顎に相当する下顎部4Aが1自由度をもって可動に取り付けられており、この下顎部4Aが動くことにより、ロボットの口の開閉動作が実現されるようになっている。
【0023】
脚部ユニット3A乃至3Dそれぞれの関節部分や、脚部ユニット3A乃至3Dそれぞれと胴体部ユニット2の連結部分、頭部ユニット4と胴体部ユニット2の連結部分、頭部ユニット4と下顎部4Aの連結部分、並びに尻尾部ユニット5と胴体部ユニット2の連結部分などには、図2に示すように、それぞれアクチュエータ3AA1乃至3AAK、3BA1乃至3BAK、3CA1乃至3CAK、3DA1乃至3DAK、4A1乃至4AL、5A1および5A2が配設されている。
【0024】
また、脚部ユニット3A乃至3Dそれぞれの接地部分(足の裏にあたる部分)には、センサ3A1乃至センサ3D1が設けられ、脚部ユニット3A乃至3Dのそれぞれが、接地しているか否か(例えば、床などに触れているか否か)を検知して、コントローラ10に出力する。
【0025】
頭部ユニット4におけるマイク15は、ユーザからの発話を含む周囲の音声(音)を集音し、得られた音声信号を、コントローラ10に送出する。CCDカメラ16は、周囲の状況を撮像し、得られた画像信号を、コントローラ10に送出する。
【0026】
タッチセンサ17は、例えば、頭部ユニット4の上部に設けられており、ユーザからの「撫でる」や「たたく」といった物理的な働きかけにより受けた圧力を検出し、その検出結果を圧力検出信号としてコントローラ10に送出する。
【0027】
胴体部ユニット2におけるバッテリセンサ12は、バッテリ11の残量を検出し、その検出結果を、バッテリ残量検出信号としてコントローラ10に送出する。熱センサ13は、ロボット内部の熱を検出し、その検出結果を、熱検出信号としてコントローラ10に送出する。
【0028】
コントローラ10は、CPU(Central Processing Unit)10Aやメモリ10B等を内蔵しており、CPU10Aにおいて、メモリ10Bに記憶された制御プログラムが実行されることにより、各種の処理を行う。
【0029】
すなわち、コントローラ10は、マイク15、CCDカメラ16、タッチセンサ17、センサ3A1乃至センサ3D1、バッテリセンサ12、および熱センサ13から与えられる音声信号、画像信号、圧力検出信号、バッテリ残量検出信号、および熱検出信号に基づいて、周囲の状況や、ユーザからの指令、ユーザからの働きかけなどの有無を判断する。
【0030】
更に、コントローラ10は、この判断結果等に基づいて、続く行動を決定し、その決定結果に基づいて、アクチュエータ3AA1乃至3AAK、3BA1乃至3BAK、3CA1乃至3CAK、3DA1乃至3DAK、4A1乃至4AL、5A1、および5A2のうちの必要なものを駆動させる。これにより、頭部ユニット4を上下左右に振らせたり、下顎部4Aを開閉させる。さらには、尻尾部ユニット5を動かせたり、各脚部ユニット3A乃至3Dを駆動して、ロボットを歩行させるなどの行動を行わせる。
【0031】
また、コントローラ10は、必要に応じて、合成音を生成し、スピーカ18に供給して出力させたり、ロボットの「目」の位置に設けられた図示しないLED(Light Emitting Diode)を点灯、消灯または点滅させる。
【0032】
以上のようにして、ロボットは、周囲の状況等に基づいて自律的に行動をとるようになっている。
【0033】
次に、図3は、図2のコントローラ10の機能的構成例を示している。なお、図3に示す機能的構成は、CPU10Aが、メモリ10Bに記憶された制御プログラムを実行することで実現されるようになっている。
【0034】
コントローラ10は、特定の外部状態を認識するセンサ入力処理部31、センサ入力処理部31の認識結果を累積して、感情や、本能、成長の状態を表現するモデル記憶部32、センサ入力処理部31の認識結果等に基づいて、続く行動を決定する行動決定機構部33、行動決定機構部33の決定結果に基づいて、実際にロボットに行動を起こさせる姿勢遷移機構部34、アクチュエータ3AA1乃至アクチュエータ5A2を駆動制御する制御機構部35、合成音を生成する音声合成部36、並びに、音声合成部36において合成された合成音の出力を制御する出力制御部37から構成されている。
【0035】
センサ入力処理部31は、マイク15、CCDカメラ16、タッチセンサ17、もしくは、センサ3A1乃至センサ3D1等から与えられる音声信号、画像信号、圧力検出信号等に基づいて、特定の外部状態や、ユーザからの特定の働きかけ、ユーザからの指示等を認識し、その認識結果を表す状態認識情報を、モデル記憶部32および行動決定機構部33に通知する。
【0036】
すなわち、センサ入力処理部31は、音声認識部31Aを有しており、音声認識部31Aは、マイク15から与えられる音声信号について音声認識を行う。そして、音声認識部31Aは、その音声認識結果としての、例えば、「歩け」、「伏せ」、「ボールを追いかけろ」等の指令その他を、状態認識情報として、モデル記憶部32および行動決定機構部33に通知する。
【0037】
また、音声認識部31Aは、圧力処理部31Cから入力される状態認識情報、および姿勢遷移機構部34から入力されるロボットの姿勢遷移情報を基に、ロボットの状態を監視しながら、その音声認識処理を実行するようになされている。
【0038】
また、センサ入力処理部31は、画像認識部31Bを有しており、画像認識部31Bは、CCDカメラ16から与えられる画像信号を用いて、画像認識処理を行う。そして、画像認識部31Bは、その処理の結果、例えば、「赤い丸いもの」や、「地面に対して垂直なかつ所定高さ以上の平面」等を検出したときには、「ボールがある」や、「壁がある」等の画像認識結果を、状態認識情報として、モデル記憶部32および行動決定機構部33に通知する。
【0039】
さらに、センサ入力処理部31は、圧力処理部31Cを有しており、圧力処理部31Cは、タッチセンサ17、および、センサ3A1乃至センサ3D1から与えられる圧力検出信号を処理する。
【0040】
圧力処理部31Cは、その処理の結果、タッチセンサ17から、所定の閾値以上で、かつ短時間の圧力を検出したときには、「たたかれた(しかられた)」と認識し、所定の閾値未満で、かつ長時間の圧力を検出したときには、「撫でられた(ほめられた)」と認識して、その認識結果を、状態認識情報として、モデル記憶部32、行動決定機構部33および音声認識部31Aに通知する。さらに、圧力処理部31Cは、センサ3A1乃至センサ3D1から入力される信号を基に、脚部ユニット3A乃至3Dが、いずれも床などに接地していないことを検出したときには、ユーザによって抱き上げられていると認識して、その認識結果を、状態認識情報として、モデル記憶部32、行動決定機構部33および音声認識部31Aに通知する。
【0041】
モデル記憶部32は、ロボットの感情、本能、成長の状態を表現する感情モデル、本能モデル、成長モデルをそれぞれ記憶、管理している。
【0042】
ここで、感情モデルは、例えば、「うれしさ」、「悲しさ」、「怒り」、「楽しさ」等の感情の状態(度合い)を、所定の範囲の値によってそれぞれ表し、センサ入力処理部31からの状態認識情報や時間経過等に基づいて、その値を変化させる。本能モデルは、例えば、「食欲」、「睡眠欲」、「運動欲」等の本能による欲求の状態(度合い)を、所定の範囲の値によってそれぞれ表し、センサ入力処理部31からの状態認識情報や時間経過等に基づいて、その値を変化させる。成長モデルは、例えば、「幼年期」、「青年期」、「熟年期」、「老年期」等の成長の状態(度合い)を、所定の範囲の値によってそれぞれ表し、センサ入力処理部31からの状態認識情報や時間経過等に基づいて、その値を変化させる。
【0043】
モデル記憶部32は、上述のようにして感情モデル、本能モデル、成長モデルの値で表される感情、本能、成長の状態を、状態情報として、行動決定機構部33に送出する。
【0044】
なお、モデル記憶部32には、センサ入力処理部31から状態認識情報が供給される他、行動決定機構部33から、ロボットの現在または過去の行動、具体的には、例えば、「長時間歩いた」などの行動の内容を示す行動情報が供給されるようになっており、同一の状態認識情報が与えられても、行動情報が示すロボットの行動に応じて、異なる状態情報を生成するようになっている。
【0045】
すなわち、例えば、ロボットが、ユーザに挨拶をし、ユーザに頭を撫でられた場合には、ユーザに挨拶をしたという行動情報と、頭を撫でられたという状態認識情報とが、モデル記憶部32に与えられ、この場合、モデル記憶部32では、「うれしさ」を表す感情モデルの値が増加される。
【0046】
一方、ロボットが、何らかの仕事を実行中に頭を撫でられた場合には、仕事を実行中であるという行動情報と、頭を撫でられたという状態認識情報とが、モデル記憶部32に与えられ、この場合、モデル記憶部32では、「うれしさ」を表す感情モデルの値は変化されない。
【0047】
このように、モデル記憶部32は、状態認識情報だけでなく、現在または過去のロボットの行動を示す行動情報も参照しながら、感情モデルの値を設定する。
これにより、例えば、何らかのタスクを実行中に、ユーザが、いたずらするつもりで頭を撫でたときに、「うれしさ」を表す感情モデルの値を増加させるような、不自然な感情の変化が生じることを回避することができる。
【0048】
なお、モデル記憶部32は、本能モデルおよび成長モデルについても、感情モデルにおける場合と同様に、状態認識情報および行動情報の両方に基づいて、その値を増減させるようになっている。また、モデル記憶部32は、感情モデル、本能モデル、成長モデルそれぞれの値を、他のモデルの値にも基づいて増減させるようになっている。
【0049】
行動決定機構部33は、センサ入力処理部31からの状態認識情報や、モデル記憶部32からの状態情報、時間経過等に基づいて、次の行動を決定し、決定された行動の内容を、行動指令情報として、姿勢遷移機構部34に送出する。
【0050】
即ち、行動決定機構部33は、ロボットがとり得る行動をステート(状態)(state)に対応させた有限オートマトンを、ロボットの行動を規定する行動モデルとして管理しており、この行動モデルとしての有限オートマトンにおけるステートを、センサ入力処理部31からの状態認識情報や、モデル記憶部32における感情モデル、本能モデル、または成長モデルの値、時間経過等に基づいて遷移させ、遷移後のステートに対応する行動を、次にとるべき行動として決定する。
【0051】
ここで、行動決定機構部33は、所定のトリガ(trigger)があったことを検出すると、ステートを遷移させる。すなわち、行動決定機構部33は、例えば、現在のステートに対応する行動を実行している時間が所定時間に達したときや、特定の状態認識情報を受信したとき、モデル記憶部32から供給される状態情報が示す感情や、本能、成長の状態の値が所定の閾値以下または以上になったとき等に、ステートを遷移させる。
【0052】
なお、行動決定機構部33は、上述したように、センサ入力処理部31からの状態認識情報だけでなく、モデル記憶部32における感情モデルや、本能モデル、成長モデルの値等にも基づいて、行動モデルにおけるステートを遷移させることから、同一の状態認識情報が入力されても、感情モデルや、本能モデル、成長モデルの値(状態情報)によっては、ステートの遷移先は異なるものとなる。
【0053】
その結果、行動決定機構部33は、例えば、状態情報が、「怒っていない」こと、および「お腹がすいていない」ことを表している場合において、状態認識情報が、「目の前に手のひらが差し出された」ことを表しているときには、目の前に手のひらが差し出されたことに応じて、「お手」という行動をとらせる行動指令情報を生成し、これを、姿勢遷移機構部34に送出する。
【0054】
また、行動決定機構部33は、例えば、状態情報が、「怒っていない」こと、および「お腹がすいている」ことを表している場合において、状態認識情報が、「目の前に手のひらが差し出された」ことを表しているときには、目の前に手のひらが差し出されたことに応じて、「手のひらをぺろぺろなめる」ような行動を行わせるための行動指令情報を生成し、これを、姿勢遷移機構部34に送出する。
【0055】
また、行動決定機構部33は、例えば、状態情報が、「怒っている」ことを表している場合において、状態認識情報が、「目の前に手のひらが差し出された」ことを表しているときには、状態情報が、「お腹がすいている」ことを表していても、また、「お腹がすいていない」ことを表していても、「ぷいと横を向く」ような行動を行わせるための行動指令情報を生成し、これを、姿勢遷移機構部34に送出する。
【0056】
なお、行動決定機構部33には、モデル記憶部32から供給される状態情報が示す感情や、本能、成長の状態に基づいて、遷移先のステートに対応する行動のパラメータとしての、例えば、歩行の速度や、手足を動かす際の動きの大きさおよび速度などを決定させることができ、この場合、それらのパラメータを含む行動指令情報が、姿勢遷移機構部34に送出される。
【0057】
また、行動決定機構部33では、上述したように、ロボットの頭部や手足等を動作させる行動指令情報の他、ロボットに発話を行わせる行動指令情報も生成される。ロボットに発話を行わせる行動指令情報は、音声合成部36に供給されるようになっており、音声合成部36に供給される行動指令情報には、音声合成部36に生成させる合成音に対応するテキスト等が含まれる。そして、音声合成部36は、行動決定部32から行動指令情報を受信すると、その行動指令情報に含まれるテキストに基づき、合成音を生成し、出力制御部37を介して、スピーカ18に供給して出力させる。これにより、スピーカ18からは、例えば、ロボットの鳴き声、さらには、「お腹がすいた」等のユーザへの各種の要求、「何?」等のユーザの呼びかけに対する応答その他の音声出力が行われる。
【0058】
姿勢遷移機構部34は、行動決定機構部33から供給される行動指令情報に基づいて、ロボットの姿勢を、現在の姿勢から次の姿勢に遷移させるための姿勢遷移情報を生成し、これを制御機構部35および音声認識部31Aに送出する。
【0059】
ここで、現在の姿勢から次に遷移可能な姿勢は、例えば、胴体や手や足の形状、重さ、各部の結合状態のようなロボットの物理的形状と、関節が曲がる方向や角度のようなアクチュエータ3AA1乃至5A1および5A2の機構とによって決定される。
【0060】
また、次の姿勢としては、現在の姿勢から直接遷移可能な姿勢と、直接には遷移できない姿勢とがある。例えば、4本足のロボットは、手足を大きく投げ出して寝転んでいる状態から、伏せた状態へ直接遷移することはできるが、立った状態へ直接遷移することはできず、一旦、手足を胴体近くに引き寄せて伏せた姿勢になり、それから立ち上がるという2段階の動作が必要である。また、安全に実行できない姿勢も存在する。例えば、4本足のロボットは、その4本足で立っている姿勢から、両前足を挙げてバンザイをしようとすると、簡単に転倒してしまう。
【0061】
このため、姿勢遷移機構部34は、直接遷移可能な姿勢をあらかじめ登録しておき、行動決定機構部33から供給される行動指令情報が、直接遷移可能な姿勢を示す場合には、その行動指令情報を、そのまま姿勢遷移情報として、制御機構部35に送出する。一方、行動指令情報が、直接遷移不可能な姿勢を示す場合には、姿勢遷移機構部34は、遷移可能な他の姿勢に一旦遷移した後に、目的の姿勢まで遷移させるような姿勢遷移情報を生成し、制御機構部35に送出する。これによりロボットが、遷移不可能な姿勢を無理に実行しようとする事態や、転倒するような事態を回避することができるようになっている。
【0062】
姿勢遷移情報は、音声認識部31Aにも出力される。ロボットが、その姿勢を遷移させる場合、アクチュエータ3AA1乃至アクチュエータ5A2のうちの、いずれかのアクチュエータが動作する。そこで、姿勢遷移機構部34は、音声認識部31Aが、これらのアクチュエータの動作音を、ユーザの音声と認識してしまわないように、姿勢遷移情報を、音声認識部31Aに出力する。
【0063】
制御機構部35は、姿勢遷移機構部34からの姿勢遷移情報にしたがって、アクチュエータ3AA1乃至アクチュエータ5A2を駆動するための制御信号を生成し、これを、アクチュエータ3AA1乃至アクチュエータ5A2に送出する。これにより、アクチュエータ3AA1乃至アクチュエータ5A2は、制御信号にしたがって駆動し、ロボットは、自律的に行動を起こす。
【0064】
出力制御部37には、音声合成部36からの合成音のディジタルデータが供給されるようになっており、出力制御部37は、それらのディジタルデータを、アナログの音声信号にD/A変換し、スピーカ18に供給して出力させる。
【0065】
次に、図4は、図3の音声認識部31Aの構成例を示している。
【0066】
マイク15からの音声信号は、AD(Analog Digital)変換部41に供給される。AD変換部41では、マイク15からのアナログ信号である音声信号がサンプリング、量子化され、ディジタル信号である音声データにAD変換される。この音声データは、特徴抽出部42および音声区間検出部47に供給される。
【0067】
特徴抽出部42は、入力される音声データについて、適当なフレームごとに、状態認識情報、および姿勢遷移情報の入力を受け、ロボットの状態に対応させて、例えば、MFCC(Mel Frequency Cepstrum Coefficient)分析を行い、その分析結果を、特徴パラメータ(特徴ベクトル)として、マッチング部43に出力する。なお、特徴抽出部42では、その他、例えば、線形予測係数、ケプストラム係数、線スペクトル対、所定の周波数帯域ごとのパワー(フィルタバンクの出力)等を、特徴パラメータとして抽出することが可能である。
【0068】
マッチング部43は、特徴抽出部42からの特徴パラメータを用いて、音響モデル記憶部44、辞書記憶部45、および文法記憶部46を必要に応じて参照しながら、マイク15に入力された音声(入力音声)を、例えば、連続分布HMM(Hidden Markov Model)法に基づいて音声認識する。
【0069】
即ち、音響モデル記憶部44は、音声認識する音声の言語における個々の音素や音節などの音響的な特徴を表す音響モデルを記憶している。ここでは、連続分布HMM法に基づいて音声認識を行うので、音響モデルとしては、HMM(Hidden Markov Model)が用いられる。辞書記憶部45は、認識対象の各単語について、その発音に関する情報(音韻情報)が記述された単語辞書を記憶している。文法記憶部46は、辞書記憶部45の単語辞書に登録されている各単語が、どのように連鎖する(つながる)かを記述した文法規則を記憶している。ここで、文法規則としては、例えば、文脈自由文法(CFG)や、統計的な単語連鎖確率(N−gram)などに基づく規則を用いることができる。
【0070】
マッチング部43は、辞書記憶部45の単語辞書を参照することにより、音響モデル記憶部44に記憶されている音響モデルを接続することで、単語の音響モデル(単語モデル)を構成する。さらに、マッチング部43は、幾つかの単語モデルを、文法記憶部46に記憶された文法規則を参照することにより接続し、そのようにして接続された単語モデルを用いて、特徴パラメータに基づき、連続分布HMM法によって、マイク15に入力された音声を認識する。即ち、マッチング部43は、特徴抽出部42が出力する時系列の特徴パラメータが観測されるスコア(尤度)が最も高い単語モデルの系列を検出し、その単語モデルの系列に対応する単語列の音韻情報(読み)を、音声の認識結果として出力する。
【0071】
より具体的には、マッチング部43は、接続された単語モデルに対応する単語列について、各特徴パラメータの出現確率を累積し、その累積値をスコアとして、そのスコアを最も高くする単語列の音韻情報を、音声認識結果として出力する。
【0072】
以上のようにして出力される、マイク15に入力された音声の認識結果は、状態認識情報として、モデル記憶部32および行動決定機構部33に出力される。
【0073】
なお、音声区間検出部47は、AD変換部41からの音声データについて、特徴抽出部42がMFCC分析を行うのと同様のフレームごとに、音声入力レベル(パワー)を算出している。さらに、音声区間検出部47は、状態認識情報、および姿勢遷移情報の入力を受け、各フレームの音声入力レベルを所定の閾値と比較することにより、ユーザの音声が入力されている音声区間を検出する。すなわち、音声区間とは、ノイズ源となる所定の動作(例えば、頭部ユニット4を動かす)が行われていない区間であり、かつ、所定の閾値以上の音声入力レベルを有するフレームで構成される区間を示す。そして、音声区間検出部47は、検出した音声区間を、特徴抽出部42とマッチング部43に供給しており、特徴抽出部42とマッチング部43は、音声区間のみを対象に処理を行う。
【0074】
次に、図5および図6のフローチャートを参照して、音声認識処理について説明する。
【0075】
ステップS1において、音声区間検出部47は、AD変換部41を介して入力された音声データを基に、環境音レベルを推定する。
【0076】
マイク15には、ユーザがロボットに対して発話していない場合においても、様々なノイズが音声入力されるが、そのノイズをユーザの発話として音声認識することは誤動作の原因になる。従って、ユーザの発話を音声認識していない状態(音声認識OFF状態)において、環境音レベルを推定する必要がある。
【0077】
図7に示されるように、マイク15およびAD変換部41を介して入力される音声データの音声入力レベルは、音声認識OFF状態においても一定ではない。そこで、環境音レベルをENV、現在の音声入力レベルをPとして、次の式(1)および式(2)により、所定の短い時間毎に、環境音レベルを算出する。
ENV=a×ENV+b×P ・・・(1)
a+b=1.0 ・・・(2)
【0078】
ここで、aは、0.9など、1に比較的近い数字に設定され、bは、0.1などに設定されることにより、瞬間的にパワーの大きなノイズ(例えば、ドアがばたんと閉まる音など)が、環境音全体に大きな影響を与えないようになされている。
【0079】
環境音レベルの推定は、予め決められた閾値T1を基に、音声入力レベルが、ENV+T1を越えるまで(後述するステップS8、もしくはステップS13において、音声入力レベルがENV+T1を越えたと判断されるまで)継続される。
【0080】
ステップS2において、音声区間検出部47は、姿勢遷移機構部34、もしくは、圧力処理部31−Cから、姿勢遷移情報もしくは状態認識情報の入力を受けたか否かを判断する。ステップS2において、姿勢遷移情報もしくは状態認識情報の入力を受けていないと判断された場合、処理は、ステップS8に進む。
【0081】
ステップS2において、姿勢遷移情報もしくは状態認識情報の入力を受けたと判断された場合、ステップS3において、音声区間検出部47は、入力された情報に基づいて、動作を行うアクチュエータは、マイク15に近いか否かを判断する。ステップS3において、動作を行うアクチュエータは、マイク15に近くないと判断された場合、処理は、ステップS6に進む。
【0082】
ステップS3において、動作を行うアクチュエータは、マイク15に近いと判断された場合、ステップS4において、音声区間検出部47は、音声認識処理をキャンセルする。すなわち、マイク15に近いアクチュエータの動作中は、音声区間としないようにする。
【0083】
図1および図2を用いて説明したロボットにおいては、マイク15が頭部ユニット4に設けられている。すなわち、頭部ユニット4に設けられているアクチュエータ4A1乃至4AL(例えば、頭部ユニット4と胴体部ユニット2の連結部分、あるいは下顎部4A)の動作に伴って発生するノイズの音声入力パワーは、比較的大きいものであるため、動作中の音声認識結果の信頼性は著しく低いものとなる。従って、マイク15に近いアクチュエータの動作中は、音声区間としないことにより、誤動作を防ぐことが可能となる。
【0084】
ステップS5において、音声区間検出部47は、入力された情報に基づいて、動作が終了されたか否かを判断する。ステップS5において、動作が終了されていないと判断された場合、処理は、ステップS4に戻り、それ以降の処理が繰り返される。ステップS5において、動作が終了されたと判断された場合、処理は、ステップS1に戻り、それ以降の処理が繰り返される。
【0085】
ステップS3において、動作を行うアクチュエータは、マイク15に近くないと判断された場合、ステップS6において、音声区間検出部47は、入力された情報に基づいて、姿勢遷移情報は、歩行動作の開始を示しているか否かを判断する。ステップS6において、歩行動作の開始を示していると判断された場合、処理は、ステップS13に進む。
【0086】
ステップS6において、姿勢遷移情報は、歩行動作の開始を示していないと判断された場合、ロボットは、マイク15付近のアクチュエータは動作せず、かつ、歩行動作以外の動作が行われている、もしくは、ユーザに抱き上げられていたり、撫でられているという状態である。ステップS7において、音声区間検出部47は、環境音(ノイズ)ではない、ユーザの発話などが音声入力されていることを判断するための閾値T1(図7)を、姿勢遷移情報、もしくは、状態認識情報に応じた値に変更する。
【0087】
例えば、圧力処理部31Cから入力される状態認識情報が、ロボットがユーザに抱き上げられていることを示している場合、マイク15から入力される音声データには、ユーザがロボットの筐体表面に触れているために生じるタッチノイズやこすれ音が含まれる。また、状態遷移機構部34から入力される姿勢遷移情報が、マイク15に比較的遠い位置に設けられているアクチュエータ(例えば、尻尾部ユニット5のアクチュエータ5A1など)が動作していることを示している場合、マイク15から入力される音声データには、それらのアクチュエータの動作音が含まれる。音声データに含まれる動作音は、そのアクチュエータの種類、およびマイク15との距離によって異なる。
【0088】
音声区間検出部47は、例えば、ロボットがユーザに抱き上げられている場合の閾値T1a、脚部ユニット3Aもしくは3Bが動作している場合の閾値T1b、脚部ユニット3Cもしくは3Dが動作している場合の閾値T1c、あるいは、尻尾部ユニット5が動作している場合の閾値T1dを予め用意しておき、入力された姿勢遷移情報、もしくは、状態認識情報に応じて、適切な閾値を利用した音声区間の検出を行うように設定する。
【0089】
ステップS2において、姿勢遷移情報もしくは状態認識情報の入力を受けていないと判断された場合、もしくは、ステップS7の処理の終了後、ステップS8において、音声区間検出部47は、音声入力レベルが、閾値(T1+ENV)を越えたか否かを判断する。ステップS8において、音声入力レベルが、閾値(T1+ENV)を越えていないと判断された場合、処理は、ステップS1に戻り、それ以降の処理が繰り返される。
【0090】
ステップS8において、音声入力レベルが、閾値(T1+ENV)を越えていると判断された場合、ステップS9において、音声区間検出部47は、環境音レベルの推定を止め、その内部に有する図示しないカウンタ(タイマ)を用いて、音声認識開始カウントを開始する。
【0091】
ステップS10において、音声区間検出部47は、音声認識開始カウントが所定の値(例えば、図7のCNT_ONで示される値)を超えたか否かを判断する。ステップS10において、音声認識開始カウントが所定の値を超えていないと判断された場合、音声認識開始カウントが所定の値を超えたと判断されるまで、ステップS10の処理が繰り返される。
【0092】
ステップS10において、音声認識開始カウントが所定の値を超えたと判断された場合、ステップS11において、音声区間検出部47は、音声区間の開始を特徴抽出部42およびマッチング部43に出力する。特徴抽出部42およびマッチング部43は、図4を用いて説明した音声認識処理を実行する。
【0093】
ステップS12において、音声区間検出部47は、音声入力レベルが、閾値(T2+ENV)以下になったか否かを判断する。
【0094】
マイク15には、ユーザがロボットに対する発話を終了した後も、様々なノイズが音声入力されるが、そのノイズをユーザの発話として音声認識することは誤動作の原因になる。従って、音声入力レベルが、一定の値を下回った場合、音声認識処理を行わないように(音声認識OFF状態に)する必要がある。
【0095】
図8に示されるように、マイク15およびAD変換部41を介して入力される音声データの音声入力レベルが、所定の閾値T2と、音声認識処理が開始された時点においての環境音レベルENVとの和(T2+ENV)を下回るか否かを判断することにより、音声区間検出部47は、ユーザの発話が終了したか否かを判断することができる。
【0096】
ステップS12において、音声入力レベルが、閾値(T2+ENV)以下になっていないと判断された場合、処理は、ステップS11に戻り、それ以降の処理が繰り返される。ステップS12において、音声入力レベルが、閾値(T2+ENV)以下になったと判断された場合、処理は、ステップS18に進む。
【0097】
ステップS6において、姿勢遷移情報は歩行動作の開始を示していると判断された場合、ステップS13において、音声区間検出部47は、音声入力レベルが、閾値(T1+ENV)を越えたか否かを判断する。ステップS13において、音声入力レベルが、閾値(T1+ENV)を越えていないと判断された場合、処理は、ステップS1に戻り、それ以降の処理が繰り返される。
【0098】
ステップS13において、音声入力レベルが、閾値(T1+ENV)を越えていると判断された場合、ステップS14において、音声区間検出部47は、環境音レベルの推定を止め、その内部に有する図示しないカウンタ(タイマ)を用いて、音声認識開始カウントを開始する。
【0099】
ステップS15において、音声区間検出部47は、音声認識開始カウントが所定の値(例えば、図7のCNT_ONで示される値)を超えたか否かを判断する。ステップS15において、音声認識開始カウントが所定の値を超えていないと判断された場合、音声認識開始カウントが所定の値を超えたと判断されるまで、ステップS15の処理が繰り返される。
【0100】
ステップS15において、音声認識開始カウントが所定の値を超えたと判断された場合、ステップS16において、音声区間検出部47は、音声区間の開始を特徴抽出部42およびマッチング部43に出力する。特徴抽出部42およびマッチング部43は、歩行動作専用の音声認識処理を実行する。
【0101】
図9に示されるように、ロボットの歩行動作中は、ユーザの発話に加えて、脚部ユニット3A乃至3Dが、例えば床などに接地する際の接地ノイズが、入力される音声データに含まれてしまう。姿勢遷移情報として、歩行動作中であることを通知された特徴抽出部42は、この接地ノイズを音声データから取り除くために、例えば、音声入力レベルの増減(ΔP)を監視し、ΔPの大きさを基にパルス性のノイズを検出する(パルス性の音声データは、図9に示されるように、その音声レベルが急激に上昇し、ピーク後、急激に減少するという特徴を有する)。そして、特徴抽出部42は、そのフレームに関して、特徴抽出処理を行わないようにする。接地ノイズは、非常に短い時間において発生するため、接地ノイズであると検出されたフレームを、音声認識処理から外したとしても、ユーザの発話の認識には支障がない。
【0102】
また、特徴抽出部42に、歩行動作時の接地ノイズの標準的な音声成分を予め記憶させておき、歩行動作時は、その音声成分を用いて、入力された音声データをフィルタリングさせて、接地ノイズを除去した後の音声データを用いて、特徴抽出処理を行わせるようにしても良い。
【0103】
ステップS17において、音声区間検出部47は、ステップS12と同様の処理により、音声入力レベルが、閾値(T2+ENV)以下になったか否かを判断する。ステップS17において、音声入力レベルが、閾値(T2+ENV)以下になっていないと判断された場合、処理は、ステップS16に戻り、それ以降の処理が繰り返される。
【0104】
ステップS12において、音声入力レベルが、閾値(T2+ENV)以下になったと判断された場合、もしくは、ステップS17において、音声入力レベルが、閾値(T2+ENV)以下になったと判断された場合、ステップS18において、音声区間検出部47は、その内部に有する図示しないカウンタ(タイマ)を用いて、音声認識終了カウントを開始する。
【0105】
ステップS19において、音声区間検出部47は、音声認識終了カウントが所定の値(例えば、図8のCNT_OFFで示される値)を超えたか否かを判断する。ステップS19において、音声認識終了カウントが所定の値を超えていないと判断された場合、音声認識終了カウントが所定の値を超えたと判断されるまで、ステップS19の処理が繰り返される。
【0106】
ステップS19において、音声認識終了カウントが所定の値を超えたと判断された場合、ステップS20において、音声区間検出部47は、音声区間が終了したことを示す信号を、特徴抽出部42およびマッチング部43に出力する。特徴抽出部42およびマッチング部43は、音声認識処理を終了し、処理は、ステップS1に戻り、それ以降の処理が繰り返される。
【0107】
なお、図5のステップS7においては、音声区間検出部47が、環境音(ノイズ)ではない、ユーザの発話などが音声入力されていることを判断するための閾値T1を、姿勢遷移情報、もしくは、状態認識情報に応じた値に変更するものとして説明したが、音声区分の検出のための閾値として、環境音レベルに左右されない閾値T3を用いるようにしても良い。すなわち、ステップS8においては、音声入力レベルが、閾値(T1+ENV)を越えたか否かが判断されるのではなく、環境音レベルENVに関わらない閾値T3を超えたか否かが判断される。
【0108】
また、閾値T3は、姿勢遷移情報、もしくは、状態認識情報に応じて、予め用意されるようにしても良いし、動作開始、もしくは状態変更時に、所定の学習区間を設けて、平均的なノイズ成分を取得することによって、その都度、設定されるようにしても良い。
【0109】
以上、本発明を、エンターテイメント用のロボット(疑似ペットとしてのロボット)に適用した場合について説明したが、本発明は、これに限らず、例えば、産業用のロボット等の各種のロボットに広く適用することが可能である。また、本発明は、現実世界のロボットだけでなく、例えば、液晶ディスプレイ等の表示装置に表示される仮想的なロボットにも適用可能である。
【0110】
さらに、本実施の形態においては、上述した一連の処理を、CPU10A(図2)にプログラムを実行させることにより行うようにしたが、一連の処理は、それ専用のハードウェアによって行うことも可能である。
【0111】
なお、プログラムは、あらかじめメモリ10B(図2)に記憶させておく他、フロッピーディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。そして、このようなリムーバブル記録媒体を、いわゆるパッケージソフトウエアとして提供し、ロボット(メモリ10B)にインストールするようにすることができる。
【0112】
また、プログラムは、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、有線で転送し、メモリ10Bにインストールすることができる。
【0113】
この場合、プログラムがバージョンアップされたとき等に、そのバージョンアップされたプログラムを、メモリ10Bに、容易にインストールすることができる。
【0114】
ここで、本明細書において、CPU10Aに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含むものである。
【0115】
また、プログラムは、唯1つのCPUにより処理されるものであっても良いし、複数のCPUによって分散処理されるものであっても良い。
【0116】
【発明の効果】
本発明のロボット制御装置、ロボット制御方法、および記録媒体に記録されているプログラムによれば、ロボットの状態や行動に基づいた音声認識を行うことにより、ユーザの発話した音声と、ロボットの動作などにより発生するノイズとを区別して、誤認識を防ぐようにすることができる。
【図面の簡単な説明】
【図1】本発明を適用したロボットの一実施の形態の外観構成例を示す斜視図である。
【図2】ロボットの内部構成例を示すブロック図である。
【図3】コントローラの機能的構成例を示すブロック図である。
【図4】音声認識部の構成例を示すブロック図である。
【図5】音声認識処理を説明するためのフローチャートである。
【図6】音声認識処理を説明するためのフローチャートである。
【図7】音声認識区間の開始について説明するための図である。
【図8】音声認識区間の終了について説明するための図である。
【図9】歩行動作中の脚部ユニットの接地ノイズについて説明するための図である。
【符号の説明】
4 頭部ユニット, 4A 下顎部, 10 コントローラ, 10A CPU, 10B メモリ, 15 マイク, 16 CCDカメラ, 17 タッチセンサ, 18 スピーカ, 31 センサ入力処理部, 31A 音声認識部, 31B 画像認識部, 31C 圧力処理部, 32 モデル記憶部, 33 行動決定機構部, 34 姿勢遷移機構部, 35 制御機構部, 36音声合成部, 37 出力制御部, 41 AD変換部, 42 特徴抽出部, 43 マッチング部, 44 音響モデル記憶部, 45 辞書記憶部, 46 文法記憶部, 47 音声区間検出部[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a robot control device, a robot control method, and a recording medium, and more particularly to a robot control device, a robot control method, and a recording medium that are suitable for a robot that acts based on a voice recognition result by a voice recognition device.
[0002]
[Prior art]
In recent years, for example, as a toy or the like, a robot that recognizes a voice uttered by a user and performs a behavior such as performing a certain gesture or outputting a synthesized sound based on the voice recognition result (in this specification, (Including stuffed animals) has been commercialized.
[0003]
[Problems to be solved by the invention]
Such robots are always adapted to accept voice input. However, actuator noise that occurs during robot operation, ground pulse noise that occurs when the robot walks, or touch noise that occurs when the user touches the robot are falsely detected as the voice spoken by the user. There was a case.
[0004]
The present invention has been made in view of such a situation, and by performing speech recognition based on the state and behavior of the robot, the speech uttered by the user is distinguished from noise generated by the operation of the robot. This is to prevent misrecognition.
[0005]
[Means for Solving the Problems]
The robot control apparatus according to the present invention includes voice input means for receiving voice data input, Recognition results Indicate State recognition information Generate State recognition information Generation means and robot Posture transition Indicate Posture transition information Generate Posture transition information Generating means; Storage means for storing data corresponding to noise components generated when the robot is walking, and state recognition information Generated by the generating means State recognition Information or Posture transition information Generated by the generating means Posture transition Based on the information voice Input by input means Determine the section for speech recognition in the speech data, and select the section for speech recognition A recognition means for recognizing voice data When the recognizing unit determines that the robot is walking based on the posture transition information, the voice data after filtering the voice data using the data corresponding to the noise component stored in the storage unit Recognize It is characterized by that.
[0006]
Posture transition information Can include information indicating which one of the plurality of driving units of the robot performs the driving operation, The recognition means include When the position of the drive unit to drive is close to the voice input means , It is possible to prevent voice data from being recognized.
[0007]
The recognition means include When the robot is walking , It is possible to recognize audio data excluding a frame including a noise component generated due to walking motion.
[0009]
Posture transition information Can include information indicating which of the plurality of driving units of the robot has a driving operation. Posture transition information Based on the above, it is possible to perform speech recognition in consideration of noise generated by driving the driving unit.
[0010]
State recognition information Can include information indicating whether or not the robot is touched by the user. State recognition information Based on the above, it is possible to perform speech recognition in consideration of noise generated when the user touches the robot.
[0011]
The state of the robot or Posture transition Storage means for storing a predetermined threshold corresponding to the noise generated by, and estimation means for estimating environmental sound when the recognition means is not performing speech recognition, State recognition information Generated by the generating means State recognition information Or Posture transition information Generated by the generating means Posture transition information Based on the above, it is possible to determine the start of the section in which speech recognition is performed using the threshold value stored in the storage unit and the environmental sound estimated by the estimation unit.
[0012]
The state of the robot or Posture transition Storage means for storing a predetermined threshold corresponding to the noise generated by the State recognition information Generated by the generating means State recognition information Or Posture transition information Generated by the generating means Posture transition information Based on the above, it is possible to determine the start of the section for performing speech recognition using the threshold value stored in the storage means.
[0013]
Based on the voice data input by the voice input means, the robot status or Posture transition Can further comprise a setting means for setting a threshold corresponding to the noise generated by using the threshold set by the setting means, In voice data input by voice input means It is possible to determine the start of a section where speech recognition is performed.
[0014]
The robot control method of the present invention includes a voice input step for receiving voice data input, and a state of the robot Recognition results Indicate State recognition information Generate State recognition information Generation step and robot Posture transition Indicate Posture transition information Generate Posture transition information Generation step; State recognition information Generated by the processing of the generation step State recognition information Or Posture transition information Generated by the processing of the generation step Posture transition information Based on voice Entered by input step processing Determine the section for speech recognition in the speech data, and select the section for speech recognition A recognition step for recognizing audio data. In the recognition step processing, when it is determined that the robot is walking based on the posture transition information, the noise component generated when the robot stored in the storage means is walking Recognize the voice data after filtering the voice data using the corresponding data It is characterized by that.
[0015]
The program recorded on the recording medium of the present invention includes a voice input step for receiving voice data input, and a state of the robot. Recognition results Indicate State recognition information Generate State recognition information Generation step and robot Posture transition Indicate Posture transition information Generate Posture transition information Generation step; State recognition information Generated by the processing of the generation step State recognition information Or Posture transition information Generated by the processing of the generation step Posture transition information Based on voice Entered by input step processing Determine the section for speech recognition in the speech data, and select the section for speech recognition A recognition step for recognizing audio data. In the recognition step processing, when it is determined that the robot is walking based on the posture transition information, the noise component generated when the robot stored in the storage means is walking Recognize the voice data after filtering the voice data using the corresponding data It is characterized by that.
[0016]
In the robot control device, the robot control method, and the program recorded on the recording medium of the present invention, voice data is input, and the robot state Recognition results Indicate State recognition information Is generated for the robot Posture transition Indicate Posture transition information Is generated, Data corresponding to noise components generated when the robot is walking is stored, Generated State recognition information Or generated Posture transition information Entered based on Determine the section for speech recognition in the speech data, and select the section for speech recognition Audio data is recognized When it is determined that the robot is walking based on the posture transition information, the voice data after the voice data is filtered is recognized using the data corresponding to the stored noise component. .
[0017]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[0018]
FIG. 1 shows an external configuration example of an embodiment of a robot to which the present invention is applied, and FIG. 2 shows an electrical configuration example thereof.
[0019]
In the present embodiment, the robot has a shape of a four-legged animal such as a dog, for example, and
[0020]
The
[0021]
The
[0022]
The head unit 4 includes a microphone (microphone) 15 corresponding to “ear”, a CCD (Charge Coupled Device)
[0023]
The joint parts of the
[0024]
Further, each of the
[0025]
The
[0026]
The
[0027]
The
[0028]
The
[0029]
That is, the
[0030]
Further, the
[0031]
Further, the
[0032]
As described above, the robot takes an autonomous action based on the surrounding situation and the like.
[0033]
Next, FIG. 3 shows a functional configuration example of the
[0034]
The
[0035]
The sensor
[0036]
That is, the sensor
[0037]
The
[0038]
Further, the sensor
[0039]
Further, the sensor
[0040]
When the
[0041]
The
[0042]
Here, the emotion model represents, for example, emotional states (degrees) such as “joyfulness”, “sadness”, “anger”, “joyfulness”, etc., by values in a predetermined range, and sensor input processing units The value is changed on the basis of the state recognition information from 31 or the passage of time. The instinct model represents, for example, the state (degree) of desire by instinct such as “appetite”, “sleep desire”, “exercise desire”, etc., by a predetermined range of values. The value is changed based on the passage of time or the like. The growth model represents, for example, growth states (degrees) such as “childhood”, “adolescence”, “mature age”, “old age”, and the like by values in a predetermined range. The value is changed based on the state recognition information and the passage of time.
[0043]
The
[0044]
In addition to the state recognition information supplied from the sensor
[0045]
That is, for example, when the robot greets the user and strokes the head, the behavior information indicating that the user is greeted and the state recognition information that the head is stroked are
[0046]
On the other hand, when the robot is stroked while performing some work, behavior information indicating that the work is being performed and state recognition information indicating that the head has been stroked are provided to the
[0047]
As described above, the
This causes an unnatural emotional change that increases the value of the emotion model that expresses “joyfulness” when, for example, the user is stroking his / her head while performing some task. You can avoid that.
[0048]
Note that the
[0049]
The action
[0050]
That is, the behavior
[0051]
Here, the behavior
[0052]
Note that, as described above, the behavior
[0053]
As a result, for example, when the state information indicates “not angry” and “not hungry”, the behavior
[0054]
In addition, for example, when the state information indicates “not angry” and “hungry”, the behavior
[0055]
In addition, for example, in the case where the state information indicates “angry”, the behavior
[0056]
Note that the behavior
[0057]
In addition, as described above, the behavior
[0058]
The posture
[0059]
Here, the postures that can be transitioned from the current posture to the next are, for example, the physical shape of the robot, such as the shape and weight of the torso, hands and feet, and the connected state of each part, and the direction and angle at which the joint bends. Actuator 3AA 1 To 5A 1 And 5A 2 Determined by the mechanism.
[0060]
Further, as the next posture, there are a posture that can be directly changed from the current posture and a posture that cannot be directly changed. For example, a four-legged robot can make a direct transition from a lying position with its limbs thrown down to a lying position, but cannot make a direct transition to a standing state. A two-step movement is required, that is, a posture that is pulled down and then lies down and then stands up. There are also postures that cannot be executed safely. For example, a four-legged robot can easily fall if it tries to banzai with both front legs raised from its four-legged posture.
[0061]
Therefore, the posture
[0062]
The posture transition information is also output to the
[0063]
The control mechanism unit 35 controls the actuator 3AA according to the posture transition information from the posture
[0064]
The
[0065]
Next, FIG. 4 shows a configuration example of the
[0066]
The audio signal from the
[0067]
The
[0068]
The matching
[0069]
That is, the acoustic
[0070]
The matching
[0071]
More specifically, the matching
[0072]
The speech recognition result input to the
[0073]
Note that the speech
[0074]
Next, the speech recognition process will be described with reference to the flowcharts of FIGS.
[0075]
In step S <b> 1, the voice
[0076]
Various noises are input to the
[0077]
As shown in FIG. 7, the voice input level of the voice data input via the
ENV = a × ENV + b × P (1)
a + b = 1.0 (2)
[0078]
Here, a is set to a number relatively close to 1, such as 0.9, and b is set to 0.1 or the like, so that noise with a large power (for example, when the door is fluttered) (Such as a closing sound) does not significantly affect the overall environmental sound.
[0079]
The environmental sound level is estimated based on a predetermined threshold T1 until the audio input level exceeds ENV + T1 (until it is determined in step S8 described later or step S13 that the audio input level exceeds ENV + T1). Will continue.
[0080]
In step S2, the speech
[0081]
If it is determined in step S2 that the posture transition information or the state recognition information has been input, in step S3, the voice
[0082]
In step S3, when it is determined that the actuator that performs the operation is close to the
[0083]
In the robot described with reference to FIGS. 1 and 2, the
[0084]
In step S5, the voice
[0085]
If it is determined in step S3 that the actuator that performs the operation is not close to the
[0086]
If it is determined in step S6 that the posture transition information does not indicate the start of the walking motion, the robot does not operate the actuator near the
[0087]
For example, when the state recognition information input from the
[0088]
The voice
[0089]
If it is determined in step S2 that the posture transition information or the state recognition information has not been input, or after the process of step S7 is completed, in step S8, the voice
[0090]
If it is determined in step S8 that the sound input level exceeds the threshold value (T1 + ENV), in step S9, the sound
[0091]
In step S10, the voice
[0092]
If it is determined in step S10 that the speech recognition start count has exceeded a predetermined value, the speech
[0093]
In step S12, the voice
[0094]
Various noises are input to the
[0095]
As shown in FIG. 8, the voice input level of the voice data input via the
[0096]
If it is determined in step S12 that the audio input level is not less than or equal to the threshold value (T2 + ENV), the process returns to step S11, and the subsequent processes are repeated. If it is determined in step S12 that the audio input level has become equal to or less than the threshold value (T2 + ENV), the process proceeds to step S18.
[0097]
If it is determined in step S6 that the posture transition information indicates the start of a walking motion, in step S13, the speech
[0098]
If it is determined in step S13 that the audio input level exceeds the threshold value (T1 + ENV), in step S14, the audio
[0099]
In step S15, the speech
[0100]
If it is determined in step S15 that the speech recognition start count has exceeded a predetermined value, the speech
[0101]
As shown in FIG. 9, during the walking motion of the robot, in addition to the user's utterance, ground noise when the
[0102]
In addition, the
[0103]
In step S <b> 17, the speech
[0104]
If it is determined in step S12 that the audio input level is equal to or lower than the threshold (T2 + ENV), or if it is determined in step S17 that the audio input level is equal to or lower than the threshold (T2 + ENV), in step S18. The voice
[0105]
In step S19, the speech
[0106]
If it is determined in step S19 that the voice recognition end count has exceeded a predetermined value, in step S20, the voice
[0107]
Note that in step S7 in FIG. 5, the voice
[0108]
Further, the threshold T3 may be prepared in advance according to the posture transition information or the state recognition information, or a predetermined learning section is provided at the start of operation or state change, and an average noise is set. You may make it set each time by acquiring a component.
[0109]
As described above, the case where the present invention is applied to an entertainment robot (a robot as a pseudo pet) has been described. However, the present invention is not limited thereto, and is widely applied to various robots such as industrial robots. It is possible. Further, the present invention can be applied not only to a real world robot but also to a virtual robot displayed on a display device such as a liquid crystal display.
[0110]
Furthermore, in the present embodiment, the series of processes described above is performed by causing the
[0111]
The program is stored in advance in the memory 10B (FIG. 2), a floppy disk, a CD-ROM (Compact Disc Read Only Memory), an MO (Magneto optical) disk, a DVD (Digital Versatile Disc), a magnetic disk, It can be stored (recorded) temporarily or permanently in a removable recording medium such as a semiconductor memory. Such a removable recording medium can be provided as so-called package software and installed in the robot (memory 10B).
[0112]
The program is transferred from a download site wirelessly via an artificial satellite for digital satellite broadcasting, or wired via a network such as a LAN (Local Area Network) or the Internet, and installed in the memory 10B. be able to.
[0113]
In this case, when the program is upgraded, the upgraded program can be easily installed in the memory 10B.
[0114]
Here, in the present specification, the processing steps for describing a program for causing the
[0115]
The program may be processed by only one CPU, or may be distributedly processed by a plurality of CPUs.
[0116]
【The invention's effect】
According to the robot control device, the robot control method, and the program recorded on the recording medium of the present invention , By performing voice recognition based on the state and action of the robot, it is possible to distinguish between the voice uttered by the user and the noise generated by the operation of the robot and prevent erroneous recognition.
[Brief description of the drawings]
FIG. 1 is a perspective view showing an external configuration example of an embodiment of a robot to which the present invention is applied.
FIG. 2 is a block diagram illustrating an internal configuration example of a robot.
FIG. 3 is a block diagram illustrating a functional configuration example of a controller.
FIG. 4 is a block diagram illustrating a configuration example of a voice recognition unit.
FIG. 5 is a flowchart for explaining voice recognition processing;
FIG. 6 is a flowchart for explaining voice recognition processing;
FIG. 7 is a diagram for explaining the start of a speech recognition section.
FIG. 8 is a diagram for explaining the end of a voice recognition section.
FIG. 9 is a diagram for explaining ground noise of a leg unit during a walking motion.
[Explanation of symbols]
4 head unit, 4A lower jaw, 10 controller, 10A CPU, 10B memory, 15 microphone, 16 CCD camera, 17 touch sensor, 18 speaker, 31 sensor input processing unit, 31A voice recognition unit, 31B image recognition unit, 31C pressure Processing unit, 32 model storage unit, 33 action determination mechanism unit, 34 posture transition mechanism unit, 35 control mechanism unit, 36 speech synthesis unit, 37 output control unit, 41 AD conversion unit, 42 feature extraction unit, 43 matching unit, 44 Acoustic model storage unit, 45 dictionary storage unit, 46 grammar storage unit, 47 speech segment detection unit
Claims (10)
音声データの入力を受ける音声入力手段と、
前記ロボットの状態の認識結果を示す状態認識情報を生成する状態認識情報生成手段と、
前記ロボットの姿勢の遷移を示す姿勢遷移情報を生成する姿勢遷移情報生成手段と、
前記ロボットが歩行動作を行っている場合に発生するノイズ成分に対応するデータを記憶する記憶手段と、
前記状態認識情報生成手段により生成された前記状態認識情報、もしくは、前記姿勢遷移情報生成手段により生成された前記姿勢遷移情報を基に、前記音声入力手段により入力された前記音声データにおける音声認識を行う区間を判別し、判別した音声認識を行う区間の前記音声データを認識する認識する認識手段と
を備え、
前記認識手段は、前記姿勢遷移情報を基に前記ロボットが前記歩行動作を行っていることを判別した場合、前記記憶手段により記憶されている前記ノイズ成分に対応するデータを用いて、前記音声データをフィルタリングした後の前記音声データを認識する
ことを特徴とするロボット制御装置。A robot control device that controls a robot that acts based on at least a voice recognition result,
A voice input means for receiving voice data;
State recognition information generating means for generating state recognition information indicating a recognition result of the state of the robot;
Posture transition information generating means for generating posture transition information indicating the posture transition of the robot;
Storage means for storing data corresponding to a noise component generated when the robot is walking.
The state recognition information generated by the state recognition information generating unit, or on the basis of the posture transition information generated by the posture transition information generation means, the voice recognition in the voice data input by the voice input means Recognizing means for recognizing the voice data of the section for performing the recognized voice recognition ,
When the recognizing unit determines that the robot is performing the walking motion based on the posture transition information, the recognition unit uses the data corresponding to the noise component stored in the storage unit, The voice data after filtering
A robot controller characterized by that.
前記認識手段は、駆動する前記駆動部の位置が、前記音声入力手段に近い場合、前記音声データの認識を行わない
ことを特徴とする請求項1に記載のロボット制御装置。The posture transition information includes information indicating which of the plurality of driving units included in the robot performs the driving operation.
It said recognition means, the position of the driving portion to be driven, is close to the audio input means, the robot control apparatus according to claim 1, characterized in that does not perform recognition of the speech data.
ことを特徴とする請求項1に記載のロボット制御装置。 The said recognition means recognizes the said audio | voice data except the flame | frame containing the noise component which generate | occur | produced for the said walking motion, when the said robot is performing the said walking motion. Robot control device.
前記認識手段は、前記姿勢遷移情報を基に、前記駆動部が駆動することにより発生するノイズを考慮して音声認識を行う
ことを特徴とする請求項1に記載のロボット制御装置。The posture transition information includes information indicating which of the plurality of driving units included in the robot performs the driving operation.
The robot control apparatus according to claim 1, wherein the recognizing unit performs speech recognition in consideration of noise generated when the driving unit is driven based on the posture transition information .
前記認識手段は、前記状態認識情報を基に、前記ユーザが前記ロボットに触れているために発生するノイズを考慮して音声認識を行う
ことを特徴とする請求項1に記載のロボット制御装置。The state recognition information includes information indicating whether the robot is touched by a user,
The robot control apparatus according to claim 1, wherein the recognition unit performs voice recognition based on the state recognition information in consideration of noise generated when the user touches the robot.
前記認識手段が音声認識を行っていない場合の環境音を推定する推定手段と
を更に備え、
前記認識手段は、前記状態認識情報生成手段により生成された前記状態認識情報、もしくは、前記姿勢遷移情報生成手段により生成された前記姿勢遷移情報を基に、前記記憶手段に記憶されている前記閾値および前記推定手段により推定された前記環境音を用いて、音声認識を行う区間の開始を判別する
ことを特徴とする請求項1に記載のロボット制御装置。Storage means for storing a predetermined threshold value corresponding to noise generated by transition of the state or posture of the robot;
An estimation means for estimating an environmental sound when the recognition means is not performing voice recognition, and
Said recognition means, said state recognition information generated by the state recognition information generating means or, on the basis of the posture transition information generated by the posture transition information generation means, the threshold value stored in the storage means The robot control apparatus according to claim 1, wherein the start of a section in which speech recognition is performed is determined using the environmental sound estimated by the estimation unit.
前記認識手段は、前記状態認識情報生成手段により生成された前記状態認識情報、もしくは、前記姿勢遷移情報生成手段により生成された前記姿勢遷移情報を基に、前記記憶手段に記憶されている前記閾値を用いて、音声認識を行う区間の開始を判別する
ことを特徴とする請求項1に記載のロボット制御装置。Storage means for storing a predetermined threshold value corresponding to noise generated by the state or posture transition of the robot;
Said recognition means, said state recognition information generated by the state recognition information generating means or, on the basis of the posture transition information generated by the posture transition information generation means, the threshold value stored in the storage means The robot control apparatus according to claim 1, wherein the start of a section in which voice recognition is performed is determined using.
前記認識手段は、前記設定手段により設定された前記閾値を用いて、前記音声入力手段により入力された前記音声データにおける音声認識を行う区間の開始を判別する
ことを特徴とする請求項1に記載のロボット制御装置。Based on the voice data input by the voice input means, further comprising a setting means for setting a threshold corresponding to noise generated by the state or posture transition of the robot,
The said recognition means discriminate | determines the start of the area which performs the speech recognition in the said audio | voice data input by the said voice input means using the said threshold value set by the said setting means. Robot controller.
音声データの入力を受ける音声入力ステップと、
前記ロボットの状態の認識結果を示す状態認識情報を生成する状態認識情報生成ステップと、
前記ロボットの姿勢の遷移を示す姿勢遷移情報を生成する姿勢遷移情報生成ステップと、
前記状態認識情報生成ステップの処理により生成された前記状態認識情報、もしくは、前記姿勢遷移情報生成ステップの処理により生成された前記姿勢遷移情報を基に、前記音声入力ステップの処理により入力された前記音声データにおける音声認識を行う区間を判別し、判別した音声認識を行う区間の前記音声データを認識する認識ステップと
を含み、
前記認識ステップの処理によって、前記姿勢遷移情報を基に前記ロボットが歩行動作を行っていることを判別した場合、記憶手段により記憶されている前記ロボットが前記歩行動作を行っている場合に発生するノイズ成分に対応するデータを用いて、前記音声データをフィルタリングした後の前記音声データを認識する
ことを特徴とするロボット制御方法。In a robot control method of a robot control apparatus for controlling a robot that acts based on at least a voice recognition result,
A voice input step for receiving voice data;
A state recognition information generating step for generating state recognition information indicating a recognition result of the state of the robot;
A posture transition information generating step for generating posture transition information indicating a transition of the posture of the robot;
The state recognition information generated by the processing of the state recognition information generating step, or on the basis of the posture transition information generated by the processing of the posture transition information generation step, input by the processing of the speech input step wherein determine a section for performing speech recognition in the speech data, look-containing and said recognition step of recognizing the speech data of the section to perform speech recognition is determined,
Occurs when the recognition step determines that the robot is walking based on the posture transition information, and the robot stored in the storage means is performing the walking motion. Recognizing the audio data after filtering the audio data using data corresponding to a noise component
A robot control method characterized by the above.
音声データの入力を受ける音声入力ステップと、
前記ロボットの状態の認識結果を示す状態認識情報を生成する状態認識情報生成ステップと、
前記ロボットの姿勢の遷移を示す姿勢遷移情報を生成する姿勢遷移情報生成ステップと、
前記状態認識情報生成ステップの処理により生成された前記状態認識情報、もしくは、前記姿勢遷移情報生成ステップの処理により生成された前記姿勢遷移情報を基に、前記音声入力ステップの処理により入力された前記音声データにおける音声認識を行う区間を判別し、判別した音声認識を行う区間の前記音声データを認識する認識ステップと
を含み、
前記認識ステップの処理によって、前記姿勢遷移情報を基に前記ロボットが歩行動作を行っていることを判別した場合、記憶手段により記憶されている前記ロボットが前記歩行動作を行っている場合に発生するノイズ成分に対応するデータを用いて、前記音声データをフィルタリングした後の前記音声データを認識する
ことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。A program for a robot controller that controls a robot that acts based on at least a voice recognition result,
A voice input step for receiving voice data;
A state recognition information generating step for generating state recognition information indicating a recognition result of the state of the robot;
A posture transition information generating step for generating posture transition information indicating a transition of the posture of the robot;
The state recognition information generated by the processing of the state recognition information generating step, or on the basis of the posture transition information generated by the processing of the posture transition information generation step, input by the processing of the speech input step wherein Recognizing a section for performing speech recognition in speech data, and recognizing the speech data of the section for performing recognized speech recognition ,
Occurs when the recognition step determines that the robot is walking based on the posture transition information, and the robot stored in the storage means is performing the walking motion. Recognizing the audio data after filtering the audio data using data corresponding to a noise component
A recording medium on which a computer-readable program is recorded.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000310492A JP4587009B2 (en) | 2000-10-11 | 2000-10-11 | Robot control apparatus, robot control method, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000310492A JP4587009B2 (en) | 2000-10-11 | 2000-10-11 | Robot control apparatus, robot control method, and recording medium |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002116794A JP2002116794A (en) | 2002-04-19 |
JP4587009B2 true JP4587009B2 (en) | 2010-11-24 |
Family
ID=18790445
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000310492A Expired - Fee Related JP4587009B2 (en) | 2000-10-11 | 2000-10-11 | Robot control apparatus, robot control method, and recording medium |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4587009B2 (en) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4706893B2 (en) * | 2004-01-07 | 2011-06-22 | ソニー株式会社 | Voice recognition apparatus and method, program, and recording medium |
JP4868999B2 (en) | 2006-09-22 | 2012-02-01 | 富士通株式会社 | Speech recognition method, speech recognition apparatus, and computer program |
WO2008146565A1 (en) * | 2007-05-30 | 2008-12-04 | Nec Corporation | Sound source direction detecting method, device, and program |
JP5646969B2 (en) * | 2010-11-24 | 2014-12-24 | 日立アプライアンス株式会社 | Air conditioner |
JP6648377B2 (en) * | 2015-09-28 | 2020-02-14 | 本田技研工業株式会社 | Audio processing device and audio processing method |
JP6768613B2 (en) * | 2017-09-14 | 2020-10-14 | 日本電信電話株式会社 | Speech processing equipment, methods and programs |
JP2019110734A (en) * | 2017-12-20 | 2019-07-04 | 日本電産株式会社 | Motor device and motor system |
JP2021049618A (en) * | 2019-09-26 | 2021-04-01 | ソニー株式会社 | Control device, movable body and control method |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0455100U (en) * | 1990-09-17 | 1992-05-12 |
-
2000
- 2000-10-11 JP JP2000310492A patent/JP4587009B2/en not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0455100U (en) * | 1990-09-17 | 1992-05-12 |
Also Published As
Publication number | Publication date |
---|---|
JP2002116794A (en) | 2002-04-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4296714B2 (en) | Robot control apparatus, robot control method, recording medium, and program | |
US7065490B1 (en) | Voice processing method based on the emotion and instinct states of a robot | |
US7228276B2 (en) | Sound processing registering a word in a dictionary | |
JP2002268699A (en) | Device and method for voice synthesis, program, and recording medium | |
JP2003131683A (en) | Device and method for voice recognition, and program and recording medium | |
JP2001157976A (en) | Robot control device, robot control method, and recording medium | |
WO2002077970A1 (en) | Speech output apparatus | |
JP2002116792A (en) | Robot controller and method for robot control and recording medium | |
JP4587009B2 (en) | Robot control apparatus, robot control method, and recording medium | |
JP2001154685A (en) | Device and method for voice recognition and recording medium | |
EP1376535A1 (en) | Word sequence output device | |
JP4600736B2 (en) | Robot control apparatus and method, recording medium, and program | |
JP2001154693A (en) | Robot controller and robot control method and recording medium | |
JP2001212780A (en) | Behavior controller, behavior control method, and recording medium | |
JP2002268663A (en) | Voice synthesizer, voice synthesis method, program and recording medium | |
JP2004283927A (en) | Robot control device, and method, recording medium and program | |
JP4656354B2 (en) | Audio processing apparatus, audio processing method, and recording medium | |
JP2002258886A (en) | Device and method for combining voices, program and recording medium | |
JP2004286805A (en) | Method, apparatus, and program for identifying speaker | |
JP4016316B2 (en) | Robot apparatus, robot control method, recording medium, and program | |
JP2007241304A (en) | Device and method for recognizing voice, and program and recording medium therefor | |
JP2005335001A (en) | Robot control device and method, recording medium, and program | |
JP4742415B2 (en) | Robot control apparatus, robot control method, and recording medium | |
JP2004170756A (en) | Unit and method for robot control, recording medium, and program | |
JP2004309523A (en) | System and method for sharing operation pattern of robot device, and robot device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070305 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091211 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091222 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100210 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100812 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100825 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130917 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |