JP2009248193A - 接客システム及び接客方法 - Google Patents

接客システム及び接客方法 Download PDF

Info

Publication number
JP2009248193A
JP2009248193A JP2008094786A JP2008094786A JP2009248193A JP 2009248193 A JP2009248193 A JP 2009248193A JP 2008094786 A JP2008094786 A JP 2008094786A JP 2008094786 A JP2008094786 A JP 2008094786A JP 2009248193 A JP2009248193 A JP 2009248193A
Authority
JP
Japan
Prior art keywords
person
interest
customer service
information
robot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008094786A
Other languages
English (en)
Other versions
JP5157595B2 (ja
Inventor
Makoto Kawarada
誠 河原田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2008094786A priority Critical patent/JP5157595B2/ja
Publication of JP2009248193A publication Critical patent/JP2009248193A/ja
Application granted granted Critical
Publication of JP5157595B2 publication Critical patent/JP5157595B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Manipulator (AREA)

Abstract

【課題】ロボットを利用した接客システム又は方法において、接客すべき人物が複数存在する場合に、各人物のロボットに対する関心度を考慮して、接客順を決定できるようにする。
【解決手段】所定の領域内を自律的に移動可能なロボットにより、該領域内に存在する人物に接客を行う接客システム1であって、前記領域内の画像情報を収集する撮像手段20と、前記撮像手段20により収集された画像情報に基づいて、前記領域内に存在する人物の前記ロボットに対する関心度を判定する関心度判定手段23と、前記関心度判定手段23により判定された関心度に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定する接客スケジューリング手段25とを備える。
【選択図】 図2

Description

本発明は、ロボットを利用した接客システム及び方法に関し、特に接客すべき人物が複数存在する場合において、接客順を適切に決定するための制御に関するものである。
近年、展示施設、企業ビル等において、来訪者に対し挨拶、誘導、案内情報の発話等の接客行為を行うロボットが開発されている。このようなロボットを利用した接客システムにおいては、ロボットが遭遇する様々な事態を想定し、これに対処し得る制御を構築しなければならない。例えば、施設内に接客すべき人物が複数存在する場合に、ロボットがこれらの人物に対してどのような順番で接客を行うかを決定しなければならない。
上記のようなロボットを利用した接客システムにおいて接客順を決定するための処理に関して、次のような従来発明が開示されている。この従来発明に係るシステムは、自律的に移動するロボットと前記ロボットの案内動作を制御する案内動作制御手段とからなる受付案内システムであって、前記案内動作制御手段は、前記ロボットが移動する環境の地図情報を保持する地図情報データベースと、前記ロボットの位置を特定するロボット位置情報を取得するロボット位置取得手段と、来訪者の位置を特定して来訪者位置情報を取得する来訪者検出手段と、前記地図情報、前記ロボット位置情報及び前記来訪者位置情報に基づいて、前記来訪者の案内情報を作成し管理する案内情報管理手段と、前記案内情報に基づいて、前記ロボットに案内動作を指示する案内動作指示手段を備えるものであり、これによりロボットが来訪者を案内中に別の来訪者が訪れた場合や、未案内の来訪者が複数いる場合であっても、ロボットに効率のよい案内動作を指示することができるとされている(特許文献1参照)。
また、他の従来発明として、伝達された販売推進情報セグメントに対する人物の関心度を特定する段階を具備する対話型販売促進情報通信システム(特許文献2参照)、複数の視聴者の興味が集まる映像を視聴者の視線情報と顔画像の位置情報とに基づいて検出する映像表示装置(特許文献3参照)、被撮影者のモニタに表示されている映像コンテンツへの集中度を判定してモニタに表示させる映像コンテンツを選択する映像表示システム(特許文献4参照)、作業と作業に対する実行順位の優先度とを対応付けた対応関係を記憶し、作業を実行する順番を優先度テーブルから得られた作業の優先度に基づいて決める対人サービスロボット(特許文献5参照)が開示されている。
特開2004−299026号公報 特表2003−517642号公報 特開2006−119408号公報 特開2006−277192号公報 特開2004−216528号公報
しかしながら、上記特許文献1に開示されるシステムにおいては、複数の人物に対する接客順は、主にロボットが移動する環境(領域)の地図情報と、ロボットの位置情報と、来訪者の位置情報とに基づいて決定されるため、単にロボットから近い来訪者から順に接客するといった順番付けがなされる場合が多く、関心の高い人物が、関心の低い人物よりも後に接客されるといった不具合があった。また、この従来システムにおいては、来訪者の位置情報等を検出するために、ロボット以外の場所に複数のカメラを設置しなければならず、設置費用が過大となるといった問題があった。
そこで、本発明は、ロボットを利用した接客システム又は方法において、接客すべき人物が複数存在する場合に、各人物のロボットに対する関心度を考慮して接客順を決定できるようにすることを目的とする。
上記課題の解決を図る本発明は、所定の領域内を自律的に移動可能なロボットにより、該領域内に存在する人物に接客を行う接客システムであって、前記領域内の画像情報を収集する撮像手段と、前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の前記ロボットに対する関心度を判定する関心度判定手段と、前記関心度判定手段により判定された関心度に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定する接客スケジューリング手段とを備えるものである。
このように、本発明においては、複数の人物に対する接客順を決定する際に、各人物の関心度が考慮されるので、関心度の高い人物が、関心度の低い人物より後に接客されるといった不具合をふせぐことができ、来訪者にとって満足度の高いサービスを提供することが可能となる。
また、前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の顔に関する情報を検出する顔検出手段を備え、前記関心度判定手段は、前記顔検出手段により検出された情報に基づいて、前記関心度を判定するものであることが好ましい。
また、前記関心度判定手段は、前記顔検出手段により検出された前記人物の顔向き又は視線向きに基づいて、前記関心度を判定するものであることが好ましい。
また、前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の動作を認識する動作認識手段を備え、前記関心度判定手段は、前記動作認識手段により認識された情報に基づいて、前記関心度を判定するものであることが好ましい。
ここで認識の対象となる動作としては、例えば手を挙げる動作、手を振る動作等が考えられる。
また、前記領域内の音声情報を収集する集音手段と、前記集音手段により収集された音声情報に基づいて、該領域内に存在する人物の発する音声を認識する音声認識手段とを備え、前記関心度判定手段は、前記音声認識手段により認識された情報に基づいて、前記関心度を判定するものであることが好ましい。
ここで認識の対象となる音声としては、例えば「すみません」等の言葉が考えられる。
また、前記顔検出手段により検出された情報に基づいて、前記領域内に存在する人物が特定の人物であるか否かを判定する顔認証手段を備え、前記接客スケジューリング手段は、前記顔認証手段により認証された情報に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定するものであることが好ましい。
これにより、重要な顧客に対しては特別な対応をとる等の対処が可能となる。例えば、重要な顧客の顔情報をデータベースに記録しておき、前記領域内の人物の顔情報と比較することにより、領域内の人物が重要な顧客であるか否かを判定することができる。また、前記領域内に存在する人物は、時々刻々変化するものであるが、このような人物の流動的な変化も、前記顔認証手段及び前記領域内の人物の顔情報を一時的に蓄積するデータベースを利用することにより、領域内の人物の入れ替わりを把握することができる。
また、本発明は、所定の領域内を自律的に移動可能なロボットにより、該領域内に存在する人物に接客を行う接客方法であって、撮像手段により前記領域内の画像情報を収集するステップと、前記撮像手段により収集された画像情報に基づいて、関心度判定手段により、前記領域内に存在する人物の前記ロボットに対する関心度を判定するステップと、前記関心度判定手段により判定された関心度に基づいて、接客スケジューリング手段により、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定するステップとを有するものである。
このように、本発明においては、複数の人物に対する接客順を決定する際に、各人物の関心度が考慮されるので、関心度の高い人物が、関心度の低い人物より後に接客されるといった不具合をふせぐことができ、来訪者にとって満足度の高いサービスを提供することが可能となる。
また、前記撮像手段により収集された画像情報に基づいて、顔検出手段により、前記領域内に存在する人物の顔に関する情報を検出するステップを有し、前記関心度判定手段は、前記顔検出手段により検出された情報に基づいて、前記関心度を判定するものであることが好ましい。
また、前記関心度判定手段は、前記顔検出手段により検出された前記人物の顔向き又は視線向きに基づいて、前記関心度を判定するものであることが好ましい。
また、前記撮像手段により収集された画像情報に基づいて、動作認識手段により、前記領域内に存在する人物の動作を認識するステップを有し、前記関心度判定手段は、前記動作認識手段により認識された情報に基づいて、前記関心度を判定するものであることが好ましい。
ここで認識の対象となる動作としては、例えば手を挙げる動作、手を振る動作等が考えられる。
また、集音手段により、前記領域内の音声情報を収集するステップと、前記集音手段により収集された音声情報に基づいて、音声認識手段により、前記領域内に存在する人物の発する音声を認識するステップとを有し、前記関心度判定手段は、前記音声認識手段により認識された情報に基づいて、前記関心度を判定するものであることが好ましい。
ここで認識の対象となる音声としては、例えば「すみません」等の言葉が考えられる。
また、前記顔検出手段により検出された情報に基づいて、顔認証手段により、前記領域内に存在する人物が特定の人物であるか否かを判定するステップを有し、前記接客スケジューリング手段は、前記顔認証手段により認証された情報に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定するものであることが好ましい。
これにより、重要な顧客に対しては特別な対応をとる等の対処が可能となる。例えば、重要な顧客の顔情報をデータベースに記録しておき、前記領域内の人物の顔情報と比較することにより、領域内の人物が重要な顧客であるか否かを判定することができる。また、前記領域内に存在する人物は、時々刻々変化するものであるが、このような人物の流動的な変化も、前記顔認証手段及び前記領域内の人物の顔情報を一時的に蓄積するデータベースを利用することにより、領域内の人物の入れ替わりを把握することができる。
尚、前記関心度判定手段、前記接客スケジューリング手段、前記顔検出手段、前記動作認識手段、前記音声認識手段、前記顔認証手段は、中央演算処理装置(CPU)、記憶手段(ROM、RAM、HDD等)、入出力ポート(I/O)等から構成され、各手段の上述した特有の作用を実現させるべく所定のプログラムを前記記憶手段に記憶させたコンピュータ、又はこれと同様の装置からなるものである。また、撮像手段とは、動画を含む画像情報を収集可能な周知のビデオカメラ等の装置であり、集音手段とは、音圧変化等を検出し音声情報として収集する周知のマイクロホン等の装置である。
以上のように、本発明によれば、接客すべき人物が複数存在する場合に、各人物のロボットに対する関心度が考慮された接客順が決定されるので、来訪者にとって満足度の高いサービスを提供することが可能となる。また、本発明は、複数の撮像手段(カメラ)を設置しなくても実現することができるので、コストの面に関して有利である。
以下に、添付した図面を参照して、本発明の実施の形態を説明する。図1において、本発明に係る接客システム1の使用状態例が示されている。本接客システム1は、ロボット2、コントロールサーバ3、オペレータ端末4等を有して構成されている。
ロボット2は、展示施設、企業ビル等において、本システム1が接客サービスを実施する領域である接客領域内にいる人物a,b,c,d,e,fに対し、各種の接客行為を実施するものであり、本実施の形態においては、自律動作機構10、カメラ11、マイク12、スピーカ13、ECU14等を備えて構成される。自律動作機構10は、車輪駆動、二足歩行等の形式によりロボット2本体を移動可能にする手段や、手腕部、胴部、頸部等に設けられた関節部、アクチュエータ等により様々な人間らしい所作を可能にする手段等を含んで構成され、現在周知となっている様々な技術を適宜利用して構成することができる。カメラ11は、画像情報を収集するための周知の装置であり、ロボット2本体に設置される。尚、カメラ11の設置位置はロボット2の目に相当する部分に限られる必要はなく、例えば胴部等であってもよい。マイク12は、音声情報を収集するための周知の装置であり、ロボット2本体に設置される。スピーカ13は、合成された所定の音声を外部へ向けて発信する周知の装置であり、ロボット2本体に設置されている。ECU14は、中央演算処理装置(CPU)、記憶手段(ROM、RAM、HDD等)、入出力ポート(I/O)等を有して構成され、記憶手段に記憶された各種プログラムに従って、前記自律動作機構10、カメラ11、マイク12、スピーカ13、その他の必要なデバイスを制御するものである。
コントロールサーバ3は、中央演算処理装置(CPU)、記憶手段(ROM、RAM、HDD等)、入出力ポート(I/O)等から構成されるコンピュータシステムであって、例えば無線又は有線LANによって前記ロボット2のECU14及びオペレータ端末4と信号の送受が可能な状態となっている。このコントロールサーバ3には、ロボット2を制御するための各種プログラム及びデータベースが記録されており、このコントロールサーバ3からロボット2のECU14に対してロボット2の制御に必要な各種信号が送信されると共に、オペレータ端末4になされる操作によって、コントロールサーバ3内のプログラム及びデータベースに適宜な変更を加えることが可能となっている。
図2において、本実施の形態に係る接客システム1の構成が機能的な単位によって示されている。本接客システム1は、撮像手段20、集音手段21、関心度判定手段23、顔認証手段24、接客スケジューリング手段25、ロボット動作制御手段26、データベース27を備えて構成されている。
撮像手段20は、前記カメラ11を含んで構成され、ロボット2の周囲の状況を画像情報として収集するものであり、ここで収集した画像情報は、後述する関心度判定手段23に送信される。
集音手段21は、前記マイクを含んで構成され、ロボット2の周囲の状況を音声情報として収集するものであり、ここで収集した音声情報は、後述する関心度判定手段23に送信される。
関心度判定手段23は、前記撮像手段20及び集音手段21により収集された情報に基づいて、接客領域内にいる各人物a,b,c,d,e,fのロボット2(又は接客サービスそのもの)に対する関心度を判定するものである(関心度の具体的な判定方法については後述する)。この関心度判定手段23は、顔検出手段30、動作認識手段31、音声認識手段32を有して構成されている。
顔検出手段30は、前記撮像手段20により収集された画像情報の中に、人間の顔が存在するか否かを判定するものである。この顔検出手段30によって顔と認識された情報(顔情報)は、後述する関心度判定手段23による関心度判定処理に利用されると共に、後述する顔認証手段24に送信される。顔検出処理は、現在周知のものとなっており、その詳細な説明は省略するが、例えば人の顔の二次元的、三次元的、色彩的等の特徴を予め設定しておき、この設定値と実際の検出値とを比較する等の方法があり、本発明においてもこのような周知技術を適宜利用することができる。また、この顔検出処理により、各人物の視線や顔向きの検出も可能であり、その検出結果は、後述する関心度判定手段23による関心度判定処理に利用される。尚、視線や顔向きの検出方法についても、現在周知となっており、例えば上記特許文献3に開示された技術を利用することができる。
動作認識手段31は、前記撮像手段20により収集された画像情報に基づいて、前記人物a,b,c,d,e,fがどのような動作(ジェスチャ)をしているかを認識するものである。この動作認識手段31によって認識された動作は、後述する関心度判定手段23による関心度判定処理に利用される。動作認識処理は、現在周知のものとなっており、その詳細な説明は省略するが、例えば人が手を挙げたり振ったりする動作に特有の信号変化を予め設定しておき、この設定値と実際の検出値とを比較する等の方法があり、本発明においてもこのような周知技術を適宜利用することができる。
音声認識手段32は、前記集音手段21により収集された音声情報に基づいて、前記人物a,b,c,d,e,fが音声を発しているか、又発している場合はその音声はどのような内容か等を判定するものである。この音声認識手段32によって検出された音声及びその内容は、後述する関心度判定手段23による関心度判定処理に利用される。音声認識処理は、現在周知のものとなっており、その詳細な説明は省略するが、例えば、「すみません」等の特定の言葉の発音の音圧変化等を予め設定しておき、この設定値と実際の検出値とを比較する等の方法があり、本発明においてもこのような周知技術を適宜利用することができる。
顔認証手段24は、前記顔検出手段30によって検出された個々の顔情報をデータベース27に記録された情報と比較して、接客領域内の人物の入れ替わりを把握したり、特定の人物を発見したりするものである。顔認証処理は、現在周知のものとなっており、その詳細な説明は省略するが、例えばデータベースに記録された顔情報と実際に検出された顔情報の二次元的、三次元的、色彩的等の特徴を比較することによってそれらの異同を判断する等の方法があり、本発明においてはこのような周知技術を適宜利用することができる。
接客スケジューリング手段25は、前記関心度判定手段23及び前記顔認証手段24の判定結果に基づいて、各人物a,b,c,d,e,fに対する接客の順番を決定するものである。この具体的処理についても後述する。
ロボット動作制御手段26は、前記接客スケジューリング手段25による処理結果を含む様々な条件に基づいて、ロボット2の最終的な動作を決定し実行させるものであり、例えばロボット2の自立動作機構10やスピーカ13に対し制御信号を出力し、ある人物a,b,c,d,e,fへの接近、身振り手振り、案内の発話、所定場所への誘導等の動作を実行させる。
データベース27は、本システム1の稼動に必要な様々な情報を蓄積するものであり、特に本発明の特徴部分に関わるものとして、一時データベース35及び固定データベース36を有している。一時データベース35は、本システム1の接客領域内に関する流動的な情報を記憶するものであり、後述するが、この接客領域内に存在する接客対象としての人物a,b,c,d,e,fに関する情報を一時的に記憶するものである。固定データベース36は、例えば重要な顧客の顔情報、個人情報、接客方法等に関する情報を記憶するものである。
図3において、上記構成の接客システム1全体の処理がフローチャートにより示されている。先ず、前記撮像手段20(カメラ11)により収集された画像情報に基づいて、前記顔検出手段30により顔検出処理が行われる(S101)。この顔検出処理において、検出された画像情報の中に顔画像が存在するか否かが判定され、存在する場合にはそれらの顔画像を個別に収集する。
次いで、前記ステップS101において検出された顔画像が、前記一時データベース35にない場合、この顔画像を一時データベース35に新規に記憶させる(S102)。また、この一時データベース35に記憶された顔画像のうち、前記ステップS101において検出された顔画像にないものを、一時データベース35から削除する(S103)。
次いで、後述する関心度判定処理(S104)において、各顔情報に対応する人物a,b,c,d,e,fについて個別に関心度が判定される。そして、後述する接客スケジューリング処理(S105)において、前記関心度に基づいて接客領域内の人物a,b,c,d,e,fに対する接客順が決定される。そして、前記接客スケジューリング処理(S105)において決定された接客順、及びここでは記載しない所定の処理により決定された条件に基づいて、ロボット2の動作を決定する処理が実行される(S106)。更に、上記のようにして接客行為が終了した人物の顔情報を、前記一時データベース35から削除し(S107)、このルーチンから出る(S101に戻る)。
図4において、前記関心度判定処理S104が示されている。先ず、前記一時データベース35に登録された、即ち接客領域内に存在する顔画像(人物1,2,・・,n)について、それぞれ関心度C1,C2,・・,Cnを割り当てる(S201)。
次いで、各人物1,2,・・,nについてそれぞれ関心度C1,C2,・・,Cnを決定するための関心度判定ループ(S202)が実行される。このループはすべての人物1,2,・・,nについて完了するまで実行される。先ず、ある人物nが一定領域S(図1参照)内にいるか否かが判定され(S203)、一定領域S内にいないと判定された場合(N)には、この人物n(図1中fに示す状態にある者)の関心度Cnを0とし(S204)、一定領域S内にいると判定された場合(Y)には、次いでこの人物nの顔がロボット2へ向いているか否かが判定される(S205)。
前記ステップS205において、顔がロボット2を向いていないと判定された場合(N)には、この人物n(図1中dに示す状態にある者)の関心度Cnを1とし(S206)、顔がロボット2を向いていると判定された場合(Y)には、次いでこの人物nの視線がロボット2へ向いているか否かが判定される(S207)。
前記ステップS207において、視線がロボット2を向いていないと判定された場合(N)には、この人物n(図1中eに示す状態にある者)の関心度Cnを2とし(S208)、視線がロボット2を向いていると判定された場合(Y)には、次いでこの人物nが所定のジェスチャ(例えば手を挙げる、手を振る等の動作)又は発話(例えば「すみません」等の発声)を行っているか否かが判定される(S209)。
前記ステップS209において、所定のジェスチャ又は発話が行われていないと判定された場合(N)には、この人物n(図1中b及びcに示す状態にある者)の関心度Cnを3とする(S210)と共に、この時(視線がロボット2に向いていると判定された時)の時刻を登録し(S211)、所定のジェスチャ又は発話が行われていると判定された場合(Y)には、この人物n(図1中aに示す状態にある者)の関心度Cnを4とする(S212)。
上記関心度判定処理S104によれば、人物nがロボット2(接客サービス)に対する関心が高いと思われる行動をとる程、高い関心度Cnが設定される。即ち、人物nが一定領域S内にいない場合は関心度Cn=0、一定領域S内にいて且つ顔がロボット2へ向いていない場合は関心度Cn=1、一定領域S内にいて且つ顔がロボット2へ向いていて且つ視線がロボット2へ向いていない場合は関心度Cn=2、一定領域S内にいて且つ顔がロボット2へ向いていて且つ視線がロボット2へ向いていて且つ所定のジェスチャ又は発話をしていない場合は関心度Cn=3、一定領域S内にいて且つ顔がロボット2へ向いていて且つ視線がロボット2へ向いていて且つ所定のジェスチャ又は発話をしている場合は場合は関心度Cn=4となる。そして、この関心度Cnは後述する接客スケジューリング処理(S105)に影響を与える。
図5において、前記接客スケジューリング処理(S105)が示されている。このルーチンにおいては全ての人物1,2,・・,nについて完了するまで、次のような接客スケジューリングループ(S301)が実行される。先ず、人物nが前記固定データベース36に登録された特別な人物であるか否かを判定する(S302)。この判定は、この人物nの顔情報が固定データベース36に記録された特別な人物の顔情報と一致するか否かを判定することによりなすことができる。
前記ステップS302において、人物nが特別な人物であると判定された場合(Y)には、固定データベース36に記録された所定の登録事項に基づいて、この人物nの接客順及び接客方法を決定する(S303)。例えば、この人物nが重要な顧客である場合には、接客順を第1番目とし、特別な部屋へ誘導する等の処理を行うようにする。一方、前記ステップS302において、人物nが特別な人物ではないと判定された場合(N)には、前記関心度判定処理S104において設定された関心度Cnが大きい順(降順)にソートされ、この人物nの接客順が決定される(S304)。
次いで、この人物nに設定された関心度Cnが3であるか否かが判定され(S305)、関心度Cnが3であると判定された場合(Y)には、前記関心度判定処理S104のステップS211において設定された時刻Tnが早い順(昇順)にソートされる(S306)。関心度Cn=3である場合には、時刻Tn、即ち人物nがロボット2へ視線を向けた時刻が早い順に接客順が決定される。
上記接客スケジューリング処理S105によれば、関心度Cnが高い人物nから先に接客を受けることができるようになる。
図6に示す接客順テーブル50は、上記処理により各人物a,b,c,d,e,f(図1参照)に付けられる接客順を示すものである。この接客順テーブル50において、顔位置欄51は、前記顔検出手段30(図2参照)により検出される顔情報の位置を、接客領域に設定した三次元座標軸の座標点として示すものである。距離欄52は、各人物a,b,c,d,e,fがロボット2から一定領域S内にいるか否かを示すものであり、前記顔位置欄51に示される情報及びロボット2の位置情報に基づいて判定される。この例では、人物fが一定領域S外にいることが示されている(図1参照)。顔向き欄53は、一定領域S内にいる人物a,b,c,d,eのうちロボット2の方向に(おおよそ)顔が向いている者を示すものであり、前記顔検出手段30により検出される各人物a,b,c,d,eの顔情報に基づいて判定される。この例では、人物dがロボット2の方向に顔を向けていないと判定されている。視線向き欄54は、ロボット2の方向に(おおよそ)顔が向いていると判定された人物a,b,c,eのうちロボット2に視線を向けている者を示すものであり、前記顔検出手段30により検出される各人物a,b,c,eの顔情報に基づいて判定される。この例では、人物eがロボット2に視線を向けていないと判定されている。時刻欄55は、ロボット2に視線を向けている各人物a,b,cの、ロボット2に視線を向け始めた時刻を示すものであり、前記顔検出手段30により検出される各人物a,b,cの顔情報及び所定の時計手段に基づいて決定される。この例では、人物bが人物a,cよりも視線を向け始めた時間が1分遅いことが示されている。ジェスチャ欄56は、ロボット2に視線を向けている各人物a,b,cのうち所定のジェスチャ、即ち手を挙げる動作や手を振る動作をしているか否かを示すものであり、前記動作認識手段31により判定される。この例では、人物aのみが手を挙げる動作をしていることが示されている。そして、接客順欄57は、上記各欄51〜56に示された情報に基づいて決定された各人物a,b,c,d,e,fの接客順を示すものであり、前記接客スケジューリング手段25により決定される。この例では、人物a→c→b→e→d→fの順番で接客が行われることが示されている。
以上のように、本実施の形態に示す接客システム1によれば、接客領域に複数の人物が存在しても、各人物の関心度に応じて接客順が決定される。これにより、関心度の高い人物から優先的に接客を受けることができるようになる。また、本システム1においては、環境に複数のカメラを設置する必要がないので、設置費用等を低く抑えることができる。
本発明に係る接客システムの設置状態の例を示す概略図である。 本発明に係る接客システムの機能的な構造を示すブロック図である。 本発明に係る接客システムの全体的な制御の流れを示すフローチャートである。 関心度判定処理の流れを示すフローチャートである。 接客スケジューリング処理の流れを示すフローチャートである。 本発明に係る接客システムによって決定された複数の人物に対する接客順の例を示す図である。
符号の説明
1 接客システム
2 ロボット
3 コントロールサーバ
4 オペレータ端末
20 撮像手段
21 集音手段
23 関心度判定手段
24 顔認証手段
25 接客スケジューリング手段
26 ロボット動作制御手段
27 データベース
30 顔検出手段
31 動作認識手段
32 音声認識手段
35 一時データベース
36 固定データベース

Claims (12)

  1. 所定の領域内を自律的に移動可能なロボットにより、該領域内に存在する人物に接客を行う接客システムであって、
    前記領域内の画像情報を収集する撮像手段と、
    前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の前記ロボットに対する関心度を判定する関心度判定手段と、
    前記関心度判定手段により判定された関心度に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定する接客スケジューリング手段と、
    を備える接客システム。
  2. 前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の顔に関する情報を検出する顔検出手段を備え、
    前記関心度判定手段は、前記顔検出手段により検出された情報に基づいて、前記関心度を判定するものである、
    請求項1記載の接客システム。
  3. 前記関心度判定手段は、前記顔検出手段により検出された前記人物の顔向き又は視線向きに基づいて、前記関心度を判定するものである、
    請求項2記載の接客システム。
  4. 前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の動作を認識する動作認識手段を備え、
    前記関心度判定手段は、前記動作認識手段により認識された情報に基づいて、前記関心度を判定するものである、
    請求項2又は3記載の接客システム。
  5. 前記領域内の音声情報を収集する集音手段と、
    前記集音手段により収集された音声情報に基づいて、該領域内に存在する人物の発する音声を認識する音声認識手段と、
    を備え、
    前記関心度判定手段は、前記音声認識手段により認識された情報に基づいて、前記関心度を判定するものである、
    請求項2〜4のいずれか1つに記載の接客システム。
  6. 前記顔検出手段により検出された情報に基づいて、前記領域内に存在する人物が特定の人物であるか否かを判定する顔認証手段を備え、
    前記接客スケジューリング手段は、前記顔認証手段により認証された情報に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定する、
    請求項2〜5のいずれか1つに記載の接客システム。
  7. 所定の領域内を自律的に移動可能なロボットにより、該領域内に存在する人物に接客を行う接客方法であって、
    撮像手段により前記領域内の画像情報を収集するステップと、
    前記撮像手段により収集された画像情報に基づいて、関心度判定手段により、前記領域内に存在する人物の前記ロボットに対する関心度を判定するステップと、
    前記関心度判定手段により判定された関心度に基づいて、接客スケジューリング手段により、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定するステップと、
    を有する接客方法。
  8. 前記撮像手段により収集された画像情報に基づいて、顔検出手段により、前記領域内に存在する人物の顔に関する情報を検出するステップを有し、
    前記関心度判定手段は、前記顔検出手段により検出された情報に基づいて、前記関心度を判定するものである、
    請求項7記載の接客方法。
  9. 前記関心度判定手段は、前記顔検出手段により検出された前記人物の顔向き又は視線向きに基づいて、前記関心度を判定するものである、
    請求項8記載の接客方法。
  10. 前記撮像手段により収集された画像情報に基づいて、動作認識手段により、前記領域内に存在する人物の動作を認識するステップを有し、
    前記関心度判定手段は、前記動作認識手段により認識された情報に基づいて、前記関心度を判定するものである、
    請求項8又は9記載の接客方法。
  11. 集音手段により、前記領域内の音声情報を収集するステップと、
    前記集音手段により収集された音声情報に基づいて、音声認識手段により、前記領域内に存在する人物の発する音声を認識するステップと、
    を有し、
    前記関心度判定手段は、前記音声認識手段により認識された情報に基づいて、前記関心度を判定するものである、
    請求項8〜10のいずれか1つに記載の接客方法。
  12. 前記顔検出手段により検出された情報に基づいて、顔認証手段により、前記領域内に存在する人物が特定の人物であるか否かを判定するステップを有し、
    前記接客スケジューリング手段は、前記顔認証手段により認証された情報に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定する、
    請求項8〜11のいずれか1つに記載の接客方法。
JP2008094786A 2008-04-01 2008-04-01 接客システム及び接客方法 Active JP5157595B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008094786A JP5157595B2 (ja) 2008-04-01 2008-04-01 接客システム及び接客方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008094786A JP5157595B2 (ja) 2008-04-01 2008-04-01 接客システム及び接客方法

Publications (2)

Publication Number Publication Date
JP2009248193A true JP2009248193A (ja) 2009-10-29
JP5157595B2 JP5157595B2 (ja) 2013-03-06

Family

ID=41309364

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008094786A Active JP5157595B2 (ja) 2008-04-01 2008-04-01 接客システム及び接客方法

Country Status (1)

Country Link
JP (1) JP5157595B2 (ja)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011194507A (ja) * 2010-03-18 2011-10-06 Fujitsu Ltd サービス提供装置、サービス提供プログラム及びサービスロボット
JP2012161851A (ja) * 2011-02-03 2012-08-30 Advanced Telecommunication Research Institute International ロボットシステムおよびそれに用いる空間陣形認識装置
JP2015066621A (ja) * 2013-09-27 2015-04-13 株式会社国際電気通信基礎技術研究所 ロボット制御システム、ロボット、出力制御プログラムおよび出力制御方法
JP2016068197A (ja) * 2014-09-30 2016-05-09 富士ソフト株式会社 ロボット
JP2016115257A (ja) * 2014-12-17 2016-06-23 シャープ株式会社 通信システム、サーバ装置、ロボット、情報処理方法、およびプログラム
US9682482B2 (en) 2015-04-09 2017-06-20 Honda Motor Co., Ltd. Autonomous moving device and control method of autonomous moving device
JP2017159410A (ja) * 2016-03-10 2017-09-14 大日本印刷株式会社 案内ロボット制御システム、プログラム及び案内ロボット
JP2017159396A (ja) * 2016-03-09 2017-09-14 大日本印刷株式会社 案内ロボット制御システム、プログラム及び案内ロボット
WO2017187614A1 (ja) * 2016-04-28 2017-11-02 富士通株式会社 通信制御装置、方法、及びシステム
JP2017222021A (ja) * 2016-06-14 2017-12-21 グローリー株式会社 店舗受付システム
JP2019087047A (ja) * 2017-11-07 2019-06-06 富士通株式会社 制御プログラム、制御方法および制御装置
JP2019118991A (ja) * 2017-12-28 2019-07-22 富士通株式会社 制御プログラム、制御方法及び情報処理装置
KR20190100348A (ko) * 2016-12-31 2019-08-28 후아웨이 테크놀러지 컴퍼니 리미티드 로봇, 서버 및 인간-기계 상호 작용 방법
JP2019191968A (ja) * 2018-04-25 2019-10-31 株式会社日立製作所 サービス提供システム、情報処理装置、及びサービス提供システムの制御方法
JP2020004058A (ja) * 2018-06-27 2020-01-09 Zホールディングス株式会社 情報処理装置、情報処理方法、及び情報処理プログラム
EP3832421A4 (en) * 2018-07-27 2021-10-06 Sony Group Corporation INFORMATION PROCESSING DEVICE, ACTION DETERMINATION PROCEDURE AND PROGRAM
WO2023218244A1 (ja) * 2022-05-11 2023-11-16 日産自動車株式会社 情報提供方法及び情報提供システム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102412555B1 (ko) * 2019-10-18 2022-06-23 네이버랩스 주식회사 로봇과 사용자간의 인터랙션을 위한 방법 및 시스템

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004298988A (ja) * 2003-03-31 2004-10-28 Honda Motor Co Ltd 移動ロボットの画像送信装置
JP2004299026A (ja) * 2003-04-01 2004-10-28 Honda Motor Co Ltd 受付案内システム
JP2007050461A (ja) * 2005-08-17 2007-03-01 Nec Corp ロボット制御システム、ロボット装置、およびロボット制御方法
JP2007050490A (ja) * 2005-08-19 2007-03-01 Hitachi Ltd 遠隔操作ロボットシステム
JP2007118129A (ja) * 2005-10-27 2007-05-17 Advanced Telecommunication Research Institute International コミュニケーションロボットおよびそれを用いた注意制御システム
JP2007268696A (ja) * 2006-03-31 2007-10-18 Fujitsu Ltd 対話ロボットシステム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004298988A (ja) * 2003-03-31 2004-10-28 Honda Motor Co Ltd 移動ロボットの画像送信装置
JP2004299026A (ja) * 2003-04-01 2004-10-28 Honda Motor Co Ltd 受付案内システム
JP2007050461A (ja) * 2005-08-17 2007-03-01 Nec Corp ロボット制御システム、ロボット装置、およびロボット制御方法
JP2007050490A (ja) * 2005-08-19 2007-03-01 Hitachi Ltd 遠隔操作ロボットシステム
JP2007118129A (ja) * 2005-10-27 2007-05-17 Advanced Telecommunication Research Institute International コミュニケーションロボットおよびそれを用いた注意制御システム
JP2007268696A (ja) * 2006-03-31 2007-10-18 Fujitsu Ltd 対話ロボットシステム

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011194507A (ja) * 2010-03-18 2011-10-06 Fujitsu Ltd サービス提供装置、サービス提供プログラム及びサービスロボット
JP2012161851A (ja) * 2011-02-03 2012-08-30 Advanced Telecommunication Research Institute International ロボットシステムおよびそれに用いる空間陣形認識装置
JP2015066621A (ja) * 2013-09-27 2015-04-13 株式会社国際電気通信基礎技術研究所 ロボット制御システム、ロボット、出力制御プログラムおよび出力制御方法
JP2016068197A (ja) * 2014-09-30 2016-05-09 富士ソフト株式会社 ロボット
JP2016115257A (ja) * 2014-12-17 2016-06-23 シャープ株式会社 通信システム、サーバ装置、ロボット、情報処理方法、およびプログラム
US9682482B2 (en) 2015-04-09 2017-06-20 Honda Motor Co., Ltd. Autonomous moving device and control method of autonomous moving device
JP2017159396A (ja) * 2016-03-09 2017-09-14 大日本印刷株式会社 案内ロボット制御システム、プログラム及び案内ロボット
JP2017159410A (ja) * 2016-03-10 2017-09-14 大日本印刷株式会社 案内ロボット制御システム、プログラム及び案内ロボット
US10885600B2 (en) 2016-04-28 2021-01-05 Fujitsu Limited Communication control apparatus, communication control apparatus method, and system
WO2017187614A1 (ja) * 2016-04-28 2017-11-02 富士通株式会社 通信制御装置、方法、及びシステム
JPWO2017187614A1 (ja) * 2016-04-28 2018-11-15 富士通株式会社 通信制御装置、方法、及びシステム
JP2017222021A (ja) * 2016-06-14 2017-12-21 グローリー株式会社 店舗受付システム
KR102328959B1 (ko) * 2016-12-31 2021-11-18 후아웨이 테크놀러지 컴퍼니 리미티드 로봇, 서버 및 인간-기계 상호 작용 방법
KR20190100348A (ko) * 2016-12-31 2019-08-28 후아웨이 테크놀러지 컴퍼니 리미티드 로봇, 서버 및 인간-기계 상호 작용 방법
US11858118B2 (en) 2016-12-31 2024-01-02 Huawei Technologies Co., Ltd. Robot, server, and human-machine interaction method
JP2019087047A (ja) * 2017-11-07 2019-06-06 富士通株式会社 制御プログラム、制御方法および制御装置
JP7009939B2 (ja) 2017-11-07 2022-02-10 富士通株式会社 制御プログラム、制御方法および制御装置
JP2019118991A (ja) * 2017-12-28 2019-07-22 富士通株式会社 制御プログラム、制御方法及び情報処理装置
JP7147167B2 (ja) 2017-12-28 2022-10-05 富士通株式会社 制御プログラム、制御方法及び情報処理装置
JP2019191968A (ja) * 2018-04-25 2019-10-31 株式会社日立製作所 サービス提供システム、情報処理装置、及びサービス提供システムの制御方法
JP7051556B2 (ja) 2018-04-25 2022-04-11 株式会社日立製作所 サービス提供システム、情報処理装置、及びサービス提供システムの制御方法
JP2020004058A (ja) * 2018-06-27 2020-01-09 Zホールディングス株式会社 情報処理装置、情報処理方法、及び情報処理プログラム
EP3832421A4 (en) * 2018-07-27 2021-10-06 Sony Group Corporation INFORMATION PROCESSING DEVICE, ACTION DETERMINATION PROCEDURE AND PROGRAM
US11986959B2 (en) 2018-07-27 2024-05-21 Sony Corporation Information processing device, action decision method and program
WO2023218244A1 (ja) * 2022-05-11 2023-11-16 日産自動車株式会社 情報提供方法及び情報提供システム

Also Published As

Publication number Publication date
JP5157595B2 (ja) 2013-03-06

Similar Documents

Publication Publication Date Title
JP5157595B2 (ja) 接客システム及び接客方法
JP6962413B2 (ja) 誘導システム、誘導方法及びプログラム
CN107850443B (zh) 信息处理装置、信息处理方法以及程序
JP6898165B2 (ja) 人流分析方法、人流分析装置及び人流分析システム
EP3491493B1 (en) Gesture based control of autonomous vehicles
JP4718987B2 (ja) インターフェース装置およびそれを備えた移動ロボット
KR102420118B1 (ko) 어시스턴트 애플리케이션을 위한 이미지 바로가기를 제공하기 위한 시스템, 방법 및 장치
US10457521B2 (en) System and method for alternatively interacting with elevators
US20190383620A1 (en) Information processing apparatus, information processing method, and program
JP5779641B2 (ja) 情報処理装置、方法およびプログラム
US20180182375A1 (en) Method, system, and apparatus for voice and video digital travel companion
JP6440483B2 (ja) 通信システム、サーバ装置、ロボット、情報処理方法、およびプログラム
US10540015B2 (en) Presenting location related information and implementing a task based on gaze and voice detection
CN107430856B (zh) 信息处理系统和信息处理方法
US20190360717A1 (en) Artificial intelligence device capable of automatically checking ventilation situation and method of operating the same
JP2009166184A (ja) ガイドロボット
US11074040B2 (en) Presenting location related information and implementing a task based on gaze, gesture, and voice detection
US10847159B1 (en) Presenting location related information and implementing a task based on gaze, gesture, and voice detection
US20120242860A1 (en) Arrangement and method relating to audio recognition
US11875571B2 (en) Smart hearing assistance in monitored property
JP7095220B2 (ja) ロボット制御システム
JP6886663B2 (ja) 動作指示生成システム、方法およびプログラム
CN111089581A (zh) 交通引导方法、终端及机器人
JP2007125621A (ja) 行動計画装置、行動計画方法および行動計画プログラム
WO2021192794A1 (ja) 情報処理装置及び情報処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100908

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120508

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121126

R151 Written notification of patent or utility model registration

Ref document number: 5157595

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151221

Year of fee payment: 3