JP5157595B2 - Customer service system and customer service method - Google Patents

Customer service system and customer service method Download PDF

Info

Publication number
JP5157595B2
JP5157595B2 JP2008094786A JP2008094786A JP5157595B2 JP 5157595 B2 JP5157595 B2 JP 5157595B2 JP 2008094786 A JP2008094786 A JP 2008094786A JP 2008094786 A JP2008094786 A JP 2008094786A JP 5157595 B2 JP5157595 B2 JP 5157595B2
Authority
JP
Japan
Prior art keywords
person
interest level
customer service
area
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008094786A
Other languages
Japanese (ja)
Other versions
JP2009248193A (en
Inventor
誠 河原田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2008094786A priority Critical patent/JP5157595B2/en
Publication of JP2009248193A publication Critical patent/JP2009248193A/en
Application granted granted Critical
Publication of JP5157595B2 publication Critical patent/JP5157595B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、ロボットを利用した接客システム及び方法に関し、特に接客すべき人物が複数存在する場合において、接客順を適切に決定するための制御に関するものである。   The present invention relates to a service system and method using a robot, and more particularly to control for appropriately determining the order of service when there are a plurality of persons to be serviced.

近年、展示施設、企業ビル等において、来訪者に対し挨拶、誘導、案内情報の発話等の接客行為を行うロボットが開発されている。このようなロボットを利用した接客システムにおいては、ロボットが遭遇する様々な事態を想定し、これに対処し得る制御を構築しなければならない。例えば、施設内に接客すべき人物が複数存在する場合に、ロボットがこれらの人物に対してどのような順番で接客を行うかを決定しなければならない。   In recent years, robots that perform customer service such as greetings, guidance, and utterance of guidance information have been developed in exhibition facilities and corporate buildings. In such a customer service system using a robot, various situations encountered by the robot must be assumed and control capable of coping with this must be constructed. For example, when there are a plurality of persons to be served in the facility, it is necessary to determine the order in which the robot is to serve customers for these persons.

上記のようなロボットを利用した接客システムにおいて接客順を決定するための処理に関して、次のような従来発明が開示されている。この従来発明に係るシステムは、自律的に移動するロボットと前記ロボットの案内動作を制御する案内動作制御手段とからなる受付案内システムであって、前記案内動作制御手段は、前記ロボットが移動する環境の地図情報を保持する地図情報データベースと、前記ロボットの位置を特定するロボット位置情報を取得するロボット位置取得手段と、来訪者の位置を特定して来訪者位置情報を取得する来訪者検出手段と、前記地図情報、前記ロボット位置情報及び前記来訪者位置情報に基づいて、前記来訪者の案内情報を作成し管理する案内情報管理手段と、前記案内情報に基づいて、前記ロボットに案内動作を指示する案内動作指示手段を備えるものであり、これによりロボットが来訪者を案内中に別の来訪者が訪れた場合や、未案内の来訪者が複数いる場合であっても、ロボットに効率のよい案内動作を指示することができるとされている(特許文献1参照)。   The following conventional invention is disclosed regarding the process for determining the order of customer service in the customer service system using the robot as described above. The system according to the conventional invention is an acceptance guidance system including a robot that moves autonomously and a guidance operation control unit that controls a guidance operation of the robot, and the guidance operation control unit includes an environment in which the robot moves. A map information database that holds the map information, robot position acquisition means for acquiring robot position information for specifying the position of the robot, and visitor detection means for specifying the position of the visitor and acquiring visitor position information; Guidance information management means for creating and managing the visitor guidance information based on the map information, the robot position information and the visitor position information, and instructing the robot to perform a guidance operation based on the guidance information Guidance operation instruction means to enable the visitor to visit the visitor while the robot is guiding the visitor. There even if a plurality are, are to be able to direct efficient guidance operation to the robot (see Patent Document 1).

また、他の従来発明として、伝達された販売推進情報セグメントに対する人物の関心度を特定する段階を具備する対話型販売促進情報通信システム(特許文献2参照)、複数の視聴者の興味が集まる映像を視聴者の視線情報と顔画像の位置情報とに基づいて検出する映像表示装置(特許文献3参照)、被撮影者のモニタに表示されている映像コンテンツへの集中度を判定してモニタに表示させる映像コンテンツを選択する映像表示システム(特許文献4参照)、作業と作業に対する実行順位の優先度とを対応付けた対応関係を記憶し、作業を実行する順番を優先度テーブルから得られた作業の優先度に基づいて決める対人サービスロボット(特許文献5参照)が開示されている。
特開2004−299026号公報 特表2003−517642号公報 特開2006−119408号公報 特開2006−277192号公報 特開2004−216528号公報
In addition, as another conventional invention, an interactive sales promotion information communication system (see Patent Document 2) including a step of specifying a person's interest in the transmitted sales promotion information segment, a video in which the interests of a plurality of viewers gather. A video display device (see Patent Document 3) that detects the image content based on the viewer's line-of-sight information and face image position information, and determines the degree of concentration on the video content displayed on the subject's monitor. A video display system for selecting video content to be displayed (see Patent Document 4), a correspondence relationship that associates work and priority of execution order with respect to work is stored, and the order of execution of work is obtained from the priority table An interpersonal service robot (see Patent Document 5) determined based on the priority of work is disclosed.
JP 2004-299026 A Special table 2003-517642 gazette JP 2006-119408 A JP 2006-277192 A JP 2004-216528 A

しかしながら、上記特許文献1に開示されるシステムにおいては、複数の人物に対する接客順は、主にロボットが移動する環境(領域)の地図情報と、ロボットの位置情報と、来訪者の位置情報とに基づいて決定されるため、単にロボットから近い来訪者から順に接客するといった順番付けがなされる場合が多く、関心の高い人物が、関心の低い人物よりも後に接客されるといった不具合があった。また、この従来システムにおいては、来訪者の位置情報等を検出するために、ロボット以外の場所に複数のカメラを設置しなければならず、設置費用が過大となるといった問題があった。   However, in the system disclosed in Patent Document 1, the order of service for a plurality of persons is mainly based on the map information of the environment (area) in which the robot moves, the position information of the robot, and the position information of the visitors. Since the order is determined on the basis of the order, it is often the case that customers are ordered in order from the visitors closest to the robot, and there is a problem that a person with high interest is served after a person with low interest. In addition, in this conventional system, in order to detect the location information of visitors, etc., a plurality of cameras must be installed in places other than the robot, and there is a problem that the installation cost becomes excessive.

そこで、本発明は、ロボットを利用した接客システム又は方法において、接客すべき人物が複数存在する場合に、各人物のロボットに対する関心度を考慮して接客順を決定できるようにすることを目的とする。   SUMMARY OF THE INVENTION Accordingly, an object of the present invention is to make it possible for a customer service system or method using a robot to determine a customer service order in consideration of each person's interest in a robot when there are a plurality of persons to be serviced. To do.

上記課題の解決を図る本発明は、所定の領域内を自律的に移動可能なロボットにより、該領域内に存在する人物に接客を行う接客システムであって、前記領域内の画像情報を収集する撮像手段と、前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の前記ロボットに対する関心度を判定する関心度判定手段と、前記関心度判定手段により判定された関心度に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定する接客スケジューリング手段とを備えるものである。   The present invention for solving the above-described problems is a customer service system for serving a person in a region by a robot that can move autonomously in a predetermined region, and collecting image information in the region. An interest level determination unit that determines an interest level of the person existing in the region with respect to the robot based on image information collected by the imaging unit, and an interest level determined by the interest level determination unit And a service scheduling means for determining the order in which the robot performs service with a person existing in the area.

このように、本発明においては、複数の人物に対する接客順を決定する際に、各人物の関心度が考慮されるので、関心度の高い人物が、関心度の低い人物より後に接客されるといった不具合をふせぐことができ、来訪者にとって満足度の高いサービスを提供することが可能となる。   In this way, in the present invention, when determining the order of service for a plurality of persons, the interest level of each person is taken into account, so that a person with a high degree of interest is served after a person with a low level of interest. It is possible to prevent problems and provide a service with high satisfaction for visitors.

また、前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の顔に関する情報を検出する顔検出手段を備え、前記関心度判定手段は、前記顔検出手段により検出された情報に基づいて、前記関心度を判定するものであることが好ましい。   Further, the image processing apparatus includes a face detection unit that detects information related to a human face existing in the region based on the image information collected by the imaging unit, and the interest level determination unit is detected by the face detection unit. It is preferable that the degree of interest is determined based on information.

また、前記関心度判定手段は、前記顔検出手段により検出された前記人物の顔向き又は視線向きに基づいて、前記関心度を判定するものであることが好ましい。   Moreover, it is preferable that the said interest level determination means determines the said interest level based on the face direction or gaze direction of the said person detected by the said face detection means.

また、前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の動作を認識する動作認識手段を備え、前記関心度判定手段は、前記動作認識手段により認識された情報に基づいて、前記関心度を判定するものであることが好ましい。   Further, the image processing apparatus includes operation recognition means for recognizing the movement of a person existing in the area based on the image information collected by the imaging means, and the interest level determination means includes the information recognized by the action recognition means. It is preferable that the degree of interest is determined based on this.

ここで認識の対象となる動作としては、例えば手を挙げる動作、手を振る動作等が考えられる。   Here, as an operation to be recognized, for example, an operation of raising a hand, an operation of waving a hand, and the like can be considered.

また、前記領域内の音声情報を収集する集音手段と、前記集音手段により収集された音声情報に基づいて、該領域内に存在する人物の発する音声を認識する音声認識手段とを備え、前記関心度判定手段は、前記音声認識手段により認識された情報に基づいて、前記関心度を判定するものであることが好ましい。   And a sound collecting means for collecting sound information in the area, and a sound recognition means for recognizing a sound emitted by a person existing in the area based on the sound information collected by the sound collecting means, It is preferable that the interest level determination means determines the interest level based on information recognized by the voice recognition means.

ここで認識の対象となる音声としては、例えば「すみません」等の言葉が考えられる。   Here, for example, words such as “I'm sorry” can be considered as the speech to be recognized.

また、前記顔検出手段により検出された情報に基づいて、前記領域内に存在する人物が特定の人物であるか否かを判定する顔認証手段を備え、前記接客スケジューリング手段は、前記顔認証手段により認証された情報に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定するものであることが好ましい。   In addition, it comprises face authentication means for determining whether or not a person existing in the region is a specific person based on information detected by the face detection means, and the service scheduling means includes the face authentication means It is preferable that the order in which the robot is to serve customers on the person existing in the area is determined based on the information authenticated by.

これにより、重要な顧客に対しては特別な対応をとる等の対処が可能となる。例えば、重要な顧客の顔情報をデータベースに記録しておき、前記領域内の人物の顔情報と比較することにより、領域内の人物が重要な顧客であるか否かを判定することができる。また、前記領域内に存在する人物は、時々刻々変化するものであるが、このような人物の流動的な変化も、前記顔認証手段及び前記領域内の人物の顔情報を一時的に蓄積するデータベースを利用することにより、領域内の人物の入れ替わりを把握することができる。   As a result, it is possible to deal with important customers by taking special measures. For example, it is possible to determine whether or not the person in the area is an important customer by recording the face information of the important customer in the database and comparing it with the face information of the person in the area. In addition, the person existing in the area changes from moment to moment, but such a fluid change of the person also temporarily accumulates the face authentication means and the face information of the person in the area. By using the database, it is possible to grasp the change of persons in the area.

また、本発明は、所定の領域内を自律的に移動可能なロボットにより、該領域内に存在する人物に接客を行う接客方法であって、撮像手段により前記領域内の画像情報を収集するステップと、前記撮像手段により収集された画像情報に基づいて、関心度判定手段により、前記領域内に存在する人物の前記ロボットに対する関心度を判定するステップと、前記関心度判定手段により判定された関心度に基づいて、接客スケジューリング手段により、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定するステップとを有するものである。   The present invention is also a customer service method for serving a person existing in a region by a robot that can move autonomously in a predetermined region, and collecting image information in the region by an imaging unit And, based on the image information collected by the imaging means, a step of determining the interest level of the person existing in the region by the interest level determination means, and the interest determined by the interest level determination means And a step of determining the order in which the robot contacts the person existing in the area by the service scheduling means based on the degree.

このように、本発明においては、複数の人物に対する接客順を決定する際に、各人物の関心度が考慮されるので、関心度の高い人物が、関心度の低い人物より後に接客されるといった不具合をふせぐことができ、来訪者にとって満足度の高いサービスを提供することが可能となる。   In this way, in the present invention, when determining the order of service for a plurality of persons, the interest level of each person is taken into account, so that a person with a high degree of interest is served after a person with a low level of interest. It is possible to prevent problems and provide a service with high satisfaction for visitors.

また、前記撮像手段により収集された画像情報に基づいて、顔検出手段により、前記領域内に存在する人物の顔に関する情報を検出するステップを有し、前記関心度判定手段は、前記顔検出手段により検出された情報に基づいて、前記関心度を判定するものであることが好ましい。   And a step of detecting information related to a person's face existing in the region by a face detection unit based on the image information collected by the imaging unit, wherein the interest level determination unit includes the face detection unit. Preferably, the degree of interest is determined based on the information detected by.

また、前記関心度判定手段は、前記顔検出手段により検出された前記人物の顔向き又は視線向きに基づいて、前記関心度を判定するものであることが好ましい。   Moreover, it is preferable that the said interest level determination means determines the said interest level based on the face direction or gaze direction of the said person detected by the said face detection means.

また、前記撮像手段により収集された画像情報に基づいて、動作認識手段により、前記領域内に存在する人物の動作を認識するステップを有し、前記関心度判定手段は、前記動作認識手段により認識された情報に基づいて、前記関心度を判定するものであることが好ましい。   And a step of recognizing the motion of a person existing in the region by the motion recognition unit based on the image information collected by the imaging unit, wherein the interest level determination unit is recognized by the motion recognition unit. Preferably, the degree of interest is determined based on the information obtained.

ここで認識の対象となる動作としては、例えば手を挙げる動作、手を振る動作等が考えられる。   Here, as an operation to be recognized, for example, an operation of raising a hand, an operation of waving a hand, and the like can be considered.

また、集音手段により、前記領域内の音声情報を収集するステップと、前記集音手段により収集された音声情報に基づいて、音声認識手段により、前記領域内に存在する人物の発する音声を認識するステップとを有し、前記関心度判定手段は、前記音声認識手段により認識された情報に基づいて、前記関心度を判定するものであることが好ましい。   Further, the step of collecting the sound information in the area by the sound collecting means and the sound emitted by the person existing in the area is recognized by the sound recognition means based on the sound information collected by the sound collecting means. It is preferable that the interest level determination unit determines the level of interest based on information recognized by the voice recognition unit.

ここで認識の対象となる音声としては、例えば「すみません」等の言葉が考えられる。   Here, for example, words such as “I'm sorry” can be considered as the speech to be recognized.

また、前記顔検出手段により検出された情報に基づいて、顔認証手段により、前記領域内に存在する人物が特定の人物であるか否かを判定するステップを有し、前記接客スケジューリング手段は、前記顔認証手段により認証された情報に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定するものであることが好ましい。   Further, based on the information detected by the face detection means, the face authentication means determines whether or not a person existing in the area is a specific person, the service scheduling means It is preferable that the order in which the robot is to serve a person existing in the area is determined based on the information authenticated by the face authentication means.

これにより、重要な顧客に対しては特別な対応をとる等の対処が可能となる。例えば、重要な顧客の顔情報をデータベースに記録しておき、前記領域内の人物の顔情報と比較することにより、領域内の人物が重要な顧客であるか否かを判定することができる。また、前記領域内に存在する人物は、時々刻々変化するものであるが、このような人物の流動的な変化も、前記顔認証手段及び前記領域内の人物の顔情報を一時的に蓄積するデータベースを利用することにより、領域内の人物の入れ替わりを把握することができる。   As a result, it is possible to deal with important customers by taking special measures. For example, it is possible to determine whether or not the person in the area is an important customer by recording the face information of the important customer in the database and comparing it with the face information of the person in the area. In addition, the person existing in the area changes from moment to moment, but such a fluid change of the person also temporarily accumulates the face authentication means and the face information of the person in the area. By using the database, it is possible to grasp the change of persons in the area.

尚、前記関心度判定手段、前記接客スケジューリング手段、前記顔検出手段、前記動作認識手段、前記音声認識手段、前記顔認証手段は、中央演算処理装置(CPU)、記憶手段(ROM、RAM、HDD等)、入出力ポート(I/O)等から構成され、各手段の上述した特有の作用を実現させるべく所定のプログラムを前記記憶手段に記憶させたコンピュータ、又はこれと同様の装置からなるものである。また、撮像手段とは、動画を含む画像情報を収集可能な周知のビデオカメラ等の装置であり、集音手段とは、音圧変化等を検出し音声情報として収集する周知のマイクロホン等の装置である。   The interest level determination means, the customer service scheduling means, the face detection means, the motion recognition means, the voice recognition means, and the face authentication means are a central processing unit (CPU), storage means (ROM, RAM, HDD). Etc.), an input / output port (I / O), etc., and comprising a computer or a similar device in which a predetermined program is stored in the storage means in order to realize the above-mentioned specific action of each means It is. The imaging means is a known video camera or the like that can collect image information including a moving image, and the sound collecting means is a known microphone or the like that detects a change in sound pressure and collects it as audio information. It is.

以上のように、本発明によれば、接客すべき人物が複数存在する場合に、各人物のロボットに対する関心度が考慮された接客順が決定されるので、来訪者にとって満足度の高いサービスを提供することが可能となる。また、本発明は、複数の撮像手段(カメラ)を設置しなくても実現することができるので、コストの面に関して有利である。   As described above, according to the present invention, when there are a plurality of persons to be serviced, the order of service is determined in consideration of each person's interest in the robot. It becomes possible to provide. Further, the present invention can be realized without installing a plurality of image pickup means (cameras), which is advantageous in terms of cost.

以下に、添付した図面を参照して、本発明の実施の形態を説明する。図1において、本発明に係る接客システム1の使用状態例が示されている。本接客システム1は、ロボット2、コントロールサーバ3、オペレータ端末4等を有して構成されている。   Embodiments of the present invention will be described below with reference to the accompanying drawings. In FIG. 1, the example of the use condition of the customer service system 1 which concerns on this invention is shown. The customer service system 1 includes a robot 2, a control server 3, an operator terminal 4, and the like.

ロボット2は、展示施設、企業ビル等において、本システム1が接客サービスを実施する領域である接客領域内にいる人物a,b,c,d,e,fに対し、各種の接客行為を実施するものであり、本実施の形態においては、自律動作機構10、カメラ11、マイク12、スピーカ13、ECU14等を備えて構成される。自律動作機構10は、車輪駆動、二足歩行等の形式によりロボット2本体を移動可能にする手段や、手腕部、胴部、頸部等に設けられた関節部、アクチュエータ等により様々な人間らしい所作を可能にする手段等を含んで構成され、現在周知となっている様々な技術を適宜利用して構成することができる。カメラ11は、画像情報を収集するための周知の装置であり、ロボット2本体に設置される。尚、カメラ11の設置位置はロボット2の目に相当する部分に限られる必要はなく、例えば胴部等であってもよい。マイク12は、音声情報を収集するための周知の装置であり、ロボット2本体に設置される。スピーカ13は、合成された所定の音声を外部へ向けて発信する周知の装置であり、ロボット2本体に設置されている。ECU14は、中央演算処理装置(CPU)、記憶手段(ROM、RAM、HDD等)、入出力ポート(I/O)等を有して構成され、記憶手段に記憶された各種プログラムに従って、前記自律動作機構10、カメラ11、マイク12、スピーカ13、その他の必要なデバイスを制御するものである。   The robot 2 performs various customer service acts on persons a, b, c, d, e, and f in the customer service area where the system 1 performs customer service in exhibition facilities, corporate buildings, and the like. In this embodiment, the autonomous operation mechanism 10, the camera 11, the microphone 12, the speaker 13, the ECU 14, and the like are provided. Autonomous operation mechanism 10 has various human-like works by means of moving the robot 2 main body in the form of wheel drive, bipedal walking, etc., joints provided in the hands, arms, torso, neck, etc., actuators, etc. It can be configured by appropriately using various techniques that are well-known and include means for enabling the above. The camera 11 is a well-known device for collecting image information, and is installed in the main body of the robot 2. Note that the installation position of the camera 11 is not limited to the portion corresponding to the eyes of the robot 2, and may be, for example, the trunk. The microphone 12 is a well-known device for collecting audio information, and is installed in the main body of the robot 2. The speaker 13 is a known device that transmits a synthesized predetermined sound to the outside, and is installed in the robot 2 body. The ECU 14 includes a central processing unit (CPU), storage means (ROM, RAM, HDD, etc.), an input / output port (I / O), and the like. The ECU 14 operates according to various programs stored in the storage means. The operation mechanism 10, the camera 11, the microphone 12, the speaker 13, and other necessary devices are controlled.

コントロールサーバ3は、中央演算処理装置(CPU)、記憶手段(ROM、RAM、HDD等)、入出力ポート(I/O)等から構成されるコンピュータシステムであって、例えば無線又は有線LANによって前記ロボット2のECU14及びオペレータ端末4と信号の送受が可能な状態となっている。このコントロールサーバ3には、ロボット2を制御するための各種プログラム及びデータベースが記録されており、このコントロールサーバ3からロボット2のECU14に対してロボット2の制御に必要な各種信号が送信されると共に、オペレータ端末4になされる操作によって、コントロールサーバ3内のプログラム及びデータベースに適宜な変更を加えることが可能となっている。   The control server 3 is a computer system comprising a central processing unit (CPU), storage means (ROM, RAM, HDD, etc.), input / output ports (I / O), etc. Signals can be transmitted to and received from the ECU 14 and the operator terminal 4 of the robot 2. Various programs and databases for controlling the robot 2 are recorded in the control server 3, and various signals necessary for controlling the robot 2 are transmitted from the control server 3 to the ECU 14 of the robot 2. By the operation performed on the operator terminal 4, it is possible to make appropriate changes to the program and database in the control server 3.

図2において、本実施の形態に係る接客システム1の構成が機能的な単位によって示されている。本接客システム1は、撮像手段20、集音手段21、関心度判定手段23、顔認証手段24、接客スケジューリング手段25、ロボット動作制御手段26、データベース27を備えて構成されている。   In FIG. 2, the structure of the customer service system 1 which concerns on this Embodiment is shown by the functional unit. The customer service system 1 includes an imaging unit 20, a sound collection unit 21, an interest level determination unit 23, a face authentication unit 24, a service scheduling unit 25, a robot operation control unit 26, and a database 27.

撮像手段20は、前記カメラ11を含んで構成され、ロボット2の周囲の状況を画像情報として収集するものであり、ここで収集した画像情報は、後述する関心度判定手段23に送信される。   The imaging unit 20 includes the camera 11 and collects the situation around the robot 2 as image information, and the collected image information is transmitted to an interest level determination unit 23 described later.

集音手段21は、前記マイクを含んで構成され、ロボット2の周囲の状況を音声情報として収集するものであり、ここで収集した音声情報は、後述する関心度判定手段23に送信される。   The sound collecting means 21 is configured to include the microphone, and collects the situation around the robot 2 as sound information. The sound information collected here is transmitted to the interest level determining means 23 described later.

関心度判定手段23は、前記撮像手段20及び集音手段21により収集された情報に基づいて、接客領域内にいる各人物a,b,c,d,e,fのロボット2(又は接客サービスそのもの)に対する関心度を判定するものである(関心度の具体的な判定方法については後述する)。この関心度判定手段23は、顔検出手段30、動作認識手段31、音声認識手段32を有して構成されている。   The interest level determination means 23 is based on the information collected by the imaging means 20 and the sound collection means 21, and the robot 2 (or customer service) of each person a, b, c, d, e, f in the customer service area. (A specific method for determining the interest level will be described later). The interest level determination unit 23 includes a face detection unit 30, a motion recognition unit 31, and a voice recognition unit 32.

顔検出手段30は、前記撮像手段20により収集された画像情報の中に、人間の顔が存在するか否かを判定するものである。この顔検出手段30によって顔と認識された情報(顔情報)は、後述する関心度判定手段23による関心度判定処理に利用されると共に、後述する顔認証手段24に送信される。顔検出処理は、現在周知のものとなっており、その詳細な説明は省略するが、例えば人の顔の二次元的、三次元的、色彩的等の特徴を予め設定しておき、この設定値と実際の検出値とを比較する等の方法があり、本発明においてもこのような周知技術を適宜利用することができる。また、この顔検出処理により、各人物の視線や顔向きの検出も可能であり、その検出結果は、後述する関心度判定手段23による関心度判定処理に利用される。尚、視線や顔向きの検出方法についても、現在周知となっており、例えば上記特許文献3に開示された技術を利用することができる。   The face detection unit 30 determines whether or not a human face exists in the image information collected by the imaging unit 20. Information (face information) recognized as a face by the face detection means 30 is used for interest level determination processing by the interest level determination means 23 described later, and is transmitted to the face authentication means 24 described later. The face detection process is now well known and will not be described in detail. For example, features such as two-dimensional, three-dimensional, and color features of a human face are set in advance, and this setting is performed. There is a method of comparing a value with an actual detection value, and such a well-known technique can be used as appropriate in the present invention. Further, this face detection process can also detect the gaze and face orientation of each person, and the detection result is used in the interest level determination process by the interest level determination means 23 described later. Note that the method of detecting the line of sight and the face orientation is now well known, and for example, the technique disclosed in Patent Document 3 can be used.

動作認識手段31は、前記撮像手段20により収集された画像情報に基づいて、前記人物a,b,c,d,e,fがどのような動作(ジェスチャ)をしているかを認識するものである。この動作認識手段31によって認識された動作は、後述する関心度判定手段23による関心度判定処理に利用される。動作認識処理は、現在周知のものとなっており、その詳細な説明は省略するが、例えば人が手を挙げたり振ったりする動作に特有の信号変化を予め設定しておき、この設定値と実際の検出値とを比較する等の方法があり、本発明においてもこのような周知技術を適宜利用することができる。   The action recognition means 31 recognizes what action (gesture) the person a, b, c, d, e, f is performing based on the image information collected by the imaging means 20. is there. The motion recognized by the motion recognition means 31 is used for interest level determination processing by the interest level determination means 23 described later. The motion recognition process is currently well known and will not be described in detail. For example, a signal change peculiar to the motion of a person raising or shaking a hand is set in advance. There are methods such as comparison with actual detection values, and such known techniques can be used as appropriate in the present invention.

音声認識手段32は、前記集音手段21により収集された音声情報に基づいて、前記人物a,b,c,d,e,fが音声を発しているか、又発している場合はその音声はどのような内容か等を判定するものである。この音声認識手段32によって検出された音声及びその内容は、後述する関心度判定手段23による関心度判定処理に利用される。音声認識処理は、現在周知のものとなっており、その詳細な説明は省略するが、例えば、「すみません」等の特定の言葉の発音の音圧変化等を予め設定しておき、この設定値と実際の検出値とを比較する等の方法があり、本発明においてもこのような周知技術を適宜利用することができる。   The voice recognition means 32 is based on the voice information collected by the sound collection means 21, and if the person a, b, c, d, e, f is uttering, What kind of contents are determined. The voice detected by the voice recognition unit 32 and its contents are used for interest level determination processing by the interest level determination unit 23 described later. The voice recognition process is now well known and will not be described in detail. For example, the sound pressure change of pronunciation of a specific word such as “I'm sorry” is set in advance, and this set value There is a method of comparing the actual detection value and the actual detection value, and such a well-known technique can be used as appropriate in the present invention.

顔認証手段24は、前記顔検出手段30によって検出された個々の顔情報をデータベース27に記録された情報と比較して、接客領域内の人物の入れ替わりを把握したり、特定の人物を発見したりするものである。顔認証処理は、現在周知のものとなっており、その詳細な説明は省略するが、例えばデータベースに記録された顔情報と実際に検出された顔情報の二次元的、三次元的、色彩的等の特徴を比較することによってそれらの異同を判断する等の方法があり、本発明においてはこのような周知技術を適宜利用することができる。   The face authentication means 24 compares the individual face information detected by the face detection means 30 with the information recorded in the database 27 to grasp the replacement of persons in the customer service area or find a specific person. It is something to do. The face authentication process is now well known and will not be described in detail. For example, the face information recorded in the database and the face information actually detected are two-dimensional, three-dimensional, and color. There is a method of judging the difference between them by comparing features such as these, and in the present invention, such well-known techniques can be used as appropriate.

接客スケジューリング手段25は、前記関心度判定手段23及び前記顔認証手段24の判定結果に基づいて、各人物a,b,c,d,e,fに対する接客の順番を決定するものである。この具体的処理についても後述する。   The customer service scheduling unit 25 determines the order of customer service for each person a, b, c, d, e, f based on the determination results of the interest level determination unit 23 and the face authentication unit 24. This specific process will also be described later.

ロボット動作制御手段26は、前記接客スケジューリング手段25による処理結果を含む様々な条件に基づいて、ロボット2の最終的な動作を決定し実行させるものであり、例えばロボット2の自立動作機構10やスピーカ13に対し制御信号を出力し、ある人物a,b,c,d,e,fへの接近、身振り手振り、案内の発話、所定場所への誘導等の動作を実行させる。   The robot operation control unit 26 determines and executes the final operation of the robot 2 based on various conditions including the processing result by the customer scheduling unit 25. For example, the robot operation control unit 26 and the speaker of the robot 2 are determined. A control signal is output to 13, and operations such as approach to a person a, b, c, d, e, f, gesture gesture, utterance of guidance, and guidance to a predetermined place are executed.

データベース27は、本システム1の稼動に必要な様々な情報を蓄積するものであり、特に本発明の特徴部分に関わるものとして、一時データベース35及び固定データベース36を有している。一時データベース35は、本システム1の接客領域内に関する流動的な情報を記憶するものであり、後述するが、この接客領域内に存在する接客対象としての人物a,b,c,d,e,fに関する情報を一時的に記憶するものである。固定データベース36は、例えば重要な顧客の顔情報、個人情報、接客方法等に関する情報を記憶するものである。   The database 27 stores various information necessary for the operation of the system 1, and has a temporary database 35 and a fixed database 36 as particularly related to the characteristic part of the present invention. The temporary database 35 stores fluid information relating to the customer service area of the system 1 and will be described later. As will be described later, the persons a, b, c, d, e, serving as customer service objects existing in the customer service area. Information about f is temporarily stored. The fixed database 36 stores information related to, for example, important customer face information, personal information, and customer service methods.

図3において、上記構成の接客システム1全体の処理がフローチャートにより示されている。先ず、前記撮像手段20(カメラ11)により収集された画像情報に基づいて、前記顔検出手段30により顔検出処理が行われる(S101)。この顔検出処理において、検出された画像情報の中に顔画像が存在するか否かが判定され、存在する場合にはそれらの顔画像を個別に収集する。   In FIG. 3, the process of the entire customer service system 1 having the above-described configuration is shown by a flowchart. First, based on the image information collected by the imaging means 20 (camera 11), face detection processing is performed by the face detection means 30 (S101). In this face detection process, it is determined whether or not a face image exists in the detected image information, and if it exists, those face images are collected individually.

次いで、前記ステップS101において検出された顔画像が、前記一時データベース35にない場合、この顔画像を一時データベース35に新規に記憶させる(S102)。また、この一時データベース35に記憶された顔画像のうち、前記ステップS101において検出された顔画像にないものを、一時データベース35から削除する(S103)。   Next, when the face image detected in step S101 is not in the temporary database 35, the face image is newly stored in the temporary database 35 (S102). Further, among the face images stored in the temporary database 35, those not included in the face image detected in step S101 are deleted from the temporary database 35 (S103).

次いで、後述する関心度判定処理(S104)において、各顔情報に対応する人物a,b,c,d,e,fについて個別に関心度が判定される。そして、後述する接客スケジューリング処理(S105)において、前記関心度に基づいて接客領域内の人物a,b,c,d,e,fに対する接客順が決定される。そして、前記接客スケジューリング処理(S105)において決定された接客順、及びここでは記載しない所定の処理により決定された条件に基づいて、ロボット2の動作を決定する処理が実行される(S106)。更に、上記のようにして接客行為が終了した人物の顔情報を、前記一時データベース35から削除し(S107)、このルーチンから出る(S101に戻る)。   Next, in the degree-of-interest determination process (S104) described later, the degree of interest is individually determined for the persons a, b, c, d, e, and f corresponding to each face information. In the customer service scheduling process (S105), which will be described later, the customer service order for the persons a, b, c, d, e, and f in the customer service area is determined based on the degree of interest. Then, based on the order of service determined in the service scheduling process (S105) and the condition determined by the predetermined process not described here, a process of determining the operation of the robot 2 is executed (S106). Further, the face information of the person who has finished the customer service as described above is deleted from the temporary database 35 (S107), and the routine exits (returns to S101).

図4において、前記関心度判定処理S104が示されている。先ず、前記一時データベース35に登録された、即ち接客領域内に存在する顔画像(人物1,2,・・,n)について、それぞれ関心度C1,C2,・・,Cnを割り当てる(S201)。   FIG. 4 shows the interest level determination process S104. First, interest levels C1, C2,..., Cn are assigned to face images (persons 1, 2,..., N) registered in the temporary database 35, that is, present in the customer service area (S201).

次いで、各人物1,2,・・,nについてそれぞれ関心度C1,C2,・・,Cnを決定するための関心度判定ループ(S202)が実行される。このループはすべての人物1,2,・・,nについて完了するまで実行される。先ず、ある人物nが一定領域S(図1参照)内にいるか否かが判定され(S203)、一定領域S内にいないと判定された場合(N)には、この人物n(図1中fに示す状態にある者)の関心度Cnを0とし(S204)、一定領域S内にいると判定された場合(Y)には、次いでこの人物nの顔がロボット2へ向いているか否かが判定される(S205)。   Next, an interest level determination loop (S202) for determining the interest levels C1, C2,..., Cn for each person 1, 2,. This loop is executed until completion for all persons 1, 2,. First, it is determined whether or not a certain person n is in the certain area S (see FIG. 1) (S203). If it is determined that the person n is not in the certain area S (N), this person n (in FIG. 1) is determined. If the interest level Cn of the person in the state shown by f) is set to 0 (S204), and it is determined that the person is in the certain area S (Y), then whether or not the face of the person n faces the robot 2 Is determined (S205).

前記ステップS205において、顔がロボット2を向いていないと判定された場合(N)には、この人物n(図1中dに示す状態にある者)の関心度Cnを1とし(S206)、顔がロボット2を向いていると判定された場合(Y)には、次いでこの人物nの視線がロボット2へ向いているか否かが判定される(S207)。   If it is determined in step S205 that the face does not face the robot 2 (N), the interest level Cn of this person n (the person shown in d in FIG. 1) is set to 1 (S206), When it is determined that the face is facing the robot 2 (Y), it is then determined whether or not the line of sight of the person n is facing the robot 2 (S207).

前記ステップS207において、視線がロボット2を向いていないと判定された場合(N)には、この人物n(図1中eに示す状態にある者)の関心度Cnを2とし(S208)、視線がロボット2を向いていると判定された場合(Y)には、次いでこの人物nが所定のジェスチャ(例えば手を挙げる、手を振る等の動作)又は発話(例えば「すみません」等の発声)を行っているか否かが判定される(S209)。   If it is determined in step S207 that the line of sight is not facing the robot 2 (N), the interest level Cn of this person n (the person shown in e in FIG. 1) is set to 2 (S208). If it is determined that the line of sight is facing the robot 2 (Y), then this person n utters a predetermined gesture (for example, raising a hand, waving his hand) or utterance (for example, "I'm sorry"). ) Is determined (S209).

前記ステップS209において、所定のジェスチャ又は発話が行われていないと判定された場合(N)には、この人物n(図1中b及びcに示す状態にある者)の関心度Cnを3とする(S210)と共に、この時(視線がロボット2に向いていると判定された時)の時刻を登録し(S211)、所定のジェスチャ又は発話が行われていると判定された場合(Y)には、この人物n(図1中aに示す状態にある者)の関心度Cnを4とする(S212)。   If it is determined in step S209 that a predetermined gesture or utterance has not been made (N), the interest level Cn of this person n (the person shown in b and c in FIG. 1) is set to 3. (S210) and the time at this time (when it is determined that the line of sight is facing the robot 2) is registered (S211), and when it is determined that a predetermined gesture or utterance is being performed (Y) The interest level Cn of this person n (the person in the state shown in FIG. 1a) is set to 4 (S212).

上記関心度判定処理S104によれば、人物nがロボット2(接客サービス)に対する関心が高いと思われる行動をとる程、高い関心度Cnが設定される。即ち、人物nが一定領域S内にいない場合は関心度Cn=0、一定領域S内にいて且つ顔がロボット2へ向いていない場合は関心度Cn=1、一定領域S内にいて且つ顔がロボット2へ向いていて且つ視線がロボット2へ向いていない場合は関心度Cn=2、一定領域S内にいて且つ顔がロボット2へ向いていて且つ視線がロボット2へ向いていて且つ所定のジェスチャ又は発話をしていない場合は関心度Cn=3、一定領域S内にいて且つ顔がロボット2へ向いていて且つ視線がロボット2へ向いていて且つ所定のジェスチャ又は発話をしている場合は場合は関心度Cn=4となる。そして、この関心度Cnは後述する接客スケジューリング処理(S105)に影響を与える。   According to the degree-of-interest determination process S104, the higher the degree of interest Cn is set as the person n takes an action that seems to be more interested in the robot 2 (customer service). That is, when the person n is not in the fixed region S, the interest level Cn = 0, and when the person n is in the fixed region S and the face is not facing the robot 2, the interest level Cn = 1, Is directed to the robot 2 and the line of sight is not directed to the robot 2, the degree of interest Cn = 2, the face is in the fixed area S, the face is directed to the robot 2, and the line of sight is directed to the robot 2. If the gesture or utterance is not made, the degree of interest Cn = 3, the face is facing the robot 2, the line of sight is facing the robot 2, and the predetermined gesture or utterance is made. In this case, the degree of interest Cn = 4. The degree of interest Cn affects the customer service scheduling process (S105) described later.

図5において、前記接客スケジューリング処理(S105)が示されている。このルーチンにおいては全ての人物1,2,・・,nについて完了するまで、次のような接客スケジューリングループ(S301)が実行される。先ず、人物nが前記固定データベース36に登録された特別な人物であるか否かを判定する(S302)。この判定は、この人物nの顔情報が固定データベース36に記録された特別な人物の顔情報と一致するか否かを判定することによりなすことができる。   FIG. 5 shows the customer service scheduling process (S105). In this routine, the following service scheduling loop (S301) is executed until all the persons 1, 2,..., N are completed. First, it is determined whether the person n is a special person registered in the fixed database 36 (S302). This determination can be made by determining whether the face information of the person n matches the face information of a special person recorded in the fixed database 36.

前記ステップS302において、人物nが特別な人物であると判定された場合(Y)には、固定データベース36に記録された所定の登録事項に基づいて、この人物nの接客順及び接客方法を決定する(S303)。例えば、この人物nが重要な顧客である場合には、接客順を第1番目とし、特別な部屋へ誘導する等の処理を行うようにする。一方、前記ステップS302において、人物nが特別な人物ではないと判定された場合(N)には、前記関心度判定処理S104において設定された関心度Cnが大きい順(降順)にソートされ、この人物nの接客順が決定される(S304)。   If it is determined in step S302 that the person n is a special person (Y), the order of customer service and the customer service method are determined based on predetermined registration items recorded in the fixed database 36. (S303). For example, when the person n is an important customer, the order of customer service is the first, and processing such as guiding to a special room is performed. On the other hand, if it is determined in step S302 that the person n is not a special person (N), the interest level Cn set in the interest level determination process S104 is sorted in descending order (descending order). The order of waiting for the person n is determined (S304).

次いで、この人物nに設定された関心度Cnが3であるか否かが判定され(S305)、関心度Cnが3であると判定された場合(Y)には、前記関心度判定処理S104のステップS211において設定された時刻Tnが早い順(昇順)にソートされる(S306)。関心度Cn=3である場合には、時刻Tn、即ち人物nがロボット2へ視線を向けた時刻が早い順に接客順が決定される。   Next, it is determined whether or not the interest level Cn set for the person n is 3 (S305). If it is determined that the interest level Cn is 3 (Y), the interest level determination process S104 is performed. The time Tn set in step S211 is sorted in ascending order (ascending order) (S306). When the degree of interest Cn = 3, the order of customer service is determined in the order of the time Tn, that is, the time when the person n turns the line of sight toward the robot 2 in the earliest order.

上記接客スケジューリング処理S105によれば、関心度Cnが高い人物nから先に接客を受けることができるようになる。   According to the service scheduling process S105, it is possible to receive a service first from a person n who has a high degree of interest Cn.

図6に示す接客順テーブル50は、上記処理により各人物a,b,c,d,e,f(図1参照)に付けられる接客順を示すものである。この接客順テーブル50において、顔位置欄51は、前記顔検出手段30(図2参照)により検出される顔情報の位置を、接客領域に設定した三次元座標軸の座標点として示すものである。距離欄52は、各人物a,b,c,d,e,fがロボット2から一定領域S内にいるか否かを示すものであり、前記顔位置欄51に示される情報及びロボット2の位置情報に基づいて判定される。この例では、人物fが一定領域S外にいることが示されている(図1参照)。顔向き欄53は、一定領域S内にいる人物a,b,c,d,eのうちロボット2の方向に(おおよそ)顔が向いている者を示すものであり、前記顔検出手段30により検出される各人物a,b,c,d,eの顔情報に基づいて判定される。この例では、人物dがロボット2の方向に顔を向けていないと判定されている。視線向き欄54は、ロボット2の方向に(おおよそ)顔が向いていると判定された人物a,b,c,eのうちロボット2に視線を向けている者を示すものであり、前記顔検出手段30により検出される各人物a,b,c,eの顔情報に基づいて判定される。この例では、人物eがロボット2に視線を向けていないと判定されている。時刻欄55は、ロボット2に視線を向けている各人物a,b,cの、ロボット2に視線を向け始めた時刻を示すものであり、前記顔検出手段30により検出される各人物a,b,cの顔情報及び所定の時計手段に基づいて決定される。この例では、人物bが人物a,cよりも視線を向け始めた時間が1分遅いことが示されている。ジェスチャ欄56は、ロボット2に視線を向けている各人物a,b,cのうち所定のジェスチャ、即ち手を挙げる動作や手を振る動作をしているか否かを示すものであり、前記動作認識手段31により判定される。この例では、人物aのみが手を挙げる動作をしていることが示されている。そして、接客順欄57は、上記各欄51〜56に示された情報に基づいて決定された各人物a,b,c,d,e,fの接客順を示すものであり、前記接客スケジューリング手段25により決定される。この例では、人物a→c→b→e→d→fの順番で接客が行われることが示されている。   The service order table 50 shown in FIG. 6 shows the service order assigned to each person a, b, c, d, e, f (see FIG. 1) by the above processing. In the customer service order table 50, the face position column 51 indicates the position of the face information detected by the face detection means 30 (see FIG. 2) as a coordinate point of a three-dimensional coordinate axis set in the service area. The distance column 52 indicates whether or not each person a, b, c, d, e, f is within a certain area S from the robot 2. Information shown in the face position column 51 and the position of the robot 2 Determined based on information. In this example, it is shown that the person f is outside the fixed region S (see FIG. 1). The face orientation field 53 indicates a person whose face is facing (approximately) in the direction of the robot 2 among the persons a, b, c, d, and e in the fixed area S. The determination is made based on the face information of each person a, b, c, d, e detected. In this example, it is determined that the person d does not face the robot 2 in the direction. The line-of-sight column 54 indicates a person who is looking toward the robot 2 among the persons a, b, c, and e determined that the face is facing in the direction of the robot 2 (approximately). The determination is made based on the face information of each person a, b, c, e detected by the detection means 30. In this example, it is determined that the person e does not look at the robot 2. The time column 55 indicates the time at which each person a, b, c pointing the line of sight toward the robot 2 starts to point the line of sight at the robot 2, and each person a, It is determined based on the face information of b and c and predetermined clock means. In this example, it is shown that the time when the person b started to turn his gaze more than the persons a and c is 1 minute later. The gesture column 56 indicates whether or not a predetermined gesture among the persons a, b, and c who are looking at the robot 2, that is, an action of raising a hand or an action of waving a hand. It is determined by the recognition means 31. In this example, it is shown that only the person “a” is raising his / her hand. The customer service order column 57 indicates the customer service order of the persons a, b, c, d, e, and f determined based on the information shown in the columns 51 to 56, and the service scheduling. Determined by means 25. In this example, it is shown that customer service is performed in the order of person a → c → b → e → d → f.

以上のように、本実施の形態に示す接客システム1によれば、接客領域に複数の人物が存在しても、各人物の関心度に応じて接客順が決定される。これにより、関心度の高い人物から優先的に接客を受けることができるようになる。また、本システム1においては、環境に複数のカメラを設置する必要がないので、設置費用等を低く抑えることができる。   As described above, according to the customer service system 1 shown in the present embodiment, even when there are a plurality of people in the customer service area, the customer service order is determined according to the interest level of each person. Thereby, it becomes possible to receive a preferential service from a person with a high degree of interest. Further, in the present system 1, it is not necessary to install a plurality of cameras in the environment, so that installation costs and the like can be kept low.

本発明に係る接客システムの設置状態の例を示す概略図である。It is the schematic which shows the example of the installation state of the customer service system which concerns on this invention. 本発明に係る接客システムの機能的な構造を示すブロック図である。It is a block diagram which shows the functional structure of the customer service system which concerns on this invention. 本発明に係る接客システムの全体的な制御の流れを示すフローチャートである。It is a flowchart which shows the flow of the whole control of the customer service system which concerns on this invention. 関心度判定処理の流れを示すフローチャートである。It is a flowchart which shows the flow of an interest degree determination process. 接客スケジューリング処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a customer service scheduling process. 本発明に係る接客システムによって決定された複数の人物に対する接客順の例を示す図である。It is a figure which shows the example of the customer service order with respect to the several person determined by the customer service system which concerns on this invention.

符号の説明Explanation of symbols

1 接客システム
2 ロボット
3 コントロールサーバ
4 オペレータ端末
20 撮像手段
21 集音手段
23 関心度判定手段
24 顔認証手段
25 接客スケジューリング手段
26 ロボット動作制御手段
27 データベース
30 顔検出手段
31 動作認識手段
32 音声認識手段
35 一時データベース
36 固定データベース
DESCRIPTION OF SYMBOLS 1 Customer service system 2 Robot 3 Control server 4 Operator terminal 20 Imaging means 21 Sound collection means 23 Interest degree determination means 24 Face authentication means 25 Service scheduling means 26 Robot motion control means 27 Database 30 Face detection means 31 Motion recognition means 32 Voice recognition means 35 Temporary database 36 Fixed database

Claims (8)

所定の領域内を自律的に移動可能なロボットにより、該領域内に存在する人物に接客を行う接客システムであって、
前記領域内の画像情報を収集する撮像手段と、
前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の前記ロボットに対する関心度を判定する関心度判定手段と、
前記関心度判定手段により判定された関心度に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定する接客スケジューリング手段と、
前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の顔に関する情報を検出する顔検出手段と、
を備え、
前記関心度判定手段は、前記顔検出手段により検出された情報に基づいて、前記関心度を判定するものであり、
前記関心度判定手段は、前記顔検出手段により検出された前記人物の顔向き又は視線向きに基づいて、前記関心度を判定するものであり
前記接客スケジューリング手段は、前記領域内に存在する人物が前記ロボットへ視線を向けた時刻が早い順に、前記領域内に存在する人物に対して接客を行う順番を決定する、
接客システム。
A customer service system that uses a robot that can move autonomously within a predetermined area to serve a person in the area,
Imaging means for collecting image information in the region;
Interest level determination means for determining the level of interest of the person existing in the region based on the image information collected by the imaging unit,
Based on the interest level determined by the interest level determination unit, a service scheduling unit that determines an order in which the robot performs service to a person existing in the area;
Face detection means for detecting information related to the face of a person existing in the region based on image information collected by the imaging means;
With
The interest level determination means determines the interest level based on the information detected by the face detection means,
The degree-of-interest determination means determines the degree of interest based on the face direction or line-of-sight direction of the person detected by the face detection means ,
The customer service scheduling means determines the order in which the customer who exists in the area performs customer service in the order from the earliest time when the person existing in the area turns his / her line of sight toward the robot,
Hospitality system.
前記撮像手段により収集された画像情報に基づいて、前記領域内に存在する人物の動作を認識する動作認識手段を備え、
前記関心度判定手段は、前記動作認識手段により認識された情報に基づいて、前記関心度を判定するものである、
請求項記載の接客システム。
Based on the image information collected by the imaging means, comprising an action recognition means for recognizing the action of a person existing in the area;
The interest level determination means determines the interest level based on information recognized by the motion recognition means.
The customer service system according to claim 1 .
前記領域内の音声情報を収集する集音手段と、
前記集音手段により収集された音声情報に基づいて、該領域内に存在する人物の発する音声を認識する音声認識手段と、
を備え、
前記関心度判定手段は、前記音声認識手段により認識された情報に基づいて、前記関心度を判定するものである、
請求項1又は2に記載の接客システム。
Sound collecting means for collecting audio information in the area;
A voice recognition means for recognizing a voice emitted by a person existing in the area based on the voice information collected by the sound collection means;
With
The interest level determination means determines the interest level based on information recognized by the voice recognition means.
The customer service system according to claim 1 or 2 .
前記顔検出手段により検出された情報に基づいて、前記領域内に存在する人物が特定の人物であるか否かを判定する顔認証手段を備え、
前記接客スケジューリング手段は、前記顔認証手段により認証された情報に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定する、
請求項1〜3のいずれか1つに記載の接客システム。
A face authentication unit for determining whether a person existing in the region is a specific person based on information detected by the face detection unit;
The service scheduling means determines an order in which the robot performs service to a person existing in the area based on the information authenticated by the face authentication means.
The customer service system according to any one of claims 1 to 3 .
所定の領域内を自律的に移動可能なロボットにより、該領域内に存在する人物に接客を行う接客方法であって、
撮像手段により前記領域内の画像情報を収集するステップと、
前記撮像手段により収集された画像情報に基づいて、関心度判定手段により、前記領域内に存在する人物の前記ロボットに対する関心度を判定するステップと、
前記関心度判定手段により判定された関心度に基づいて、接客スケジューリング手段により、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定するステップと、
前記撮像手段により収集された画像情報に基づいて、顔検出手段により、前記領域内に存在する人物の顔に関する情報を検出するステップと、
を有し、
前記関心度判定手段は、前記顔検出手段により検出された情報に基づいて、前記関心度を判定するものであり、
前記関心度判定手段は、前記顔検出手段により検出された前記人物の顔向き又は視線向きに基づいて、前記関心度を判定するものであり、
前記接客スケジューリング手段は、前記領域内に存在する人物が前記ロボットへ視線を向けた時刻が早い順に、前記領域内に存在する人物に対して接客を行う順番を決定する、
接客方法。
A customer service method for serving a person existing in a region by a robot that can move autonomously in a predetermined region,
Collecting image information in the region by an imaging means;
Determining an interest level of the person existing in the region by the interest level determination means based on the image information collected by the imaging means;
Determining, based on the interest level determined by the interest level determination means, a service scheduling means by which the robot performs customer service for a person existing in the area; and
Detecting information related to a person's face existing in the region by a face detection unit based on the image information collected by the imaging unit;
Have
The interest level determination means determines the interest level based on the information detected by the face detection means,
The degree-of-interest determination means determines the degree of interest based on the face direction or line-of-sight direction of the person detected by the face detection means,
The customer service scheduling means determines the order in which the customer who exists in the area performs customer service in the order from the earliest time when the person existing in the area turns his / her line of sight toward the robot,
Customer service method.
前記撮像手段により収集された画像情報に基づいて、動作認識手段により、前記領域内に存在する人物の動作を認識するステップを有し、
前記関心度判定手段は、前記動作認識手段により認識された情報に基づいて、前記関心度を判定するものである、
請求項記載の接客方法。
Recognizing the motion of a person existing in the region by the motion recognition means based on the image information collected by the imaging means;
The interest level determination means determines the interest level based on information recognized by the motion recognition means.
The customer service method according to claim 5 .
集音手段により、前記領域内の音声情報を収集するステップと、
前記集音手段により収集された音声情報に基づいて、音声認識手段により、前記領域内に存在する人物の発する音声を認識するステップと、
を有し、
前記関心度判定手段は、前記音声認識手段により認識された情報に基づいて、前記関心度を判定するものである、
請求項5又は6に記載の接客方法。
Collecting voice information in the area by sound collecting means;
Recognizing a voice emitted by a person existing in the area by a voice recognition means based on the voice information collected by the sound collection means;
Have
The interest level determination means determines the interest level based on information recognized by the voice recognition means.
The customer service method according to claim 5 or 6 .
前記顔検出手段により検出された情報に基づいて、顔認証手段により、前記領域内に存在する人物が特定の人物であるか否かを判定するステップを有し、
前記接客スケジューリング手段は、前記顔認証手段により認証された情報に基づいて、前記ロボットが前記領域内に存在する人物に対して接客を行う順番を決定する、
請求項5〜7のいずれか1つに記載の接客方法。
Based on the information detected by the face detection means, the face authentication means determines whether or not a person existing in the region is a specific person,
The service scheduling means determines an order in which the robot performs service to a person existing in the area based on the information authenticated by the face authentication means.
The customer service method according to any one of claims 5 to 7 .
JP2008094786A 2008-04-01 2008-04-01 Customer service system and customer service method Active JP5157595B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008094786A JP5157595B2 (en) 2008-04-01 2008-04-01 Customer service system and customer service method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008094786A JP5157595B2 (en) 2008-04-01 2008-04-01 Customer service system and customer service method

Publications (2)

Publication Number Publication Date
JP2009248193A JP2009248193A (en) 2009-10-29
JP5157595B2 true JP5157595B2 (en) 2013-03-06

Family

ID=41309364

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008094786A Active JP5157595B2 (en) 2008-04-01 2008-04-01 Customer service system and customer service method

Country Status (1)

Country Link
JP (1) JP5157595B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210046451A (en) * 2019-10-18 2021-04-28 네이버랩스 주식회사 Method and system for interaction between robot and user

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5569073B2 (en) * 2010-03-18 2014-08-13 富士通株式会社 Service providing apparatus, service providing program, and service robot
JP5732632B2 (en) * 2011-02-03 2015-06-10 株式会社国際電気通信基礎技術研究所 Robot system and space formation recognition device used therefor
JP6150429B2 (en) * 2013-09-27 2017-06-21 株式会社国際電気通信基礎技術研究所 Robot control system, robot, output control program, and output control method
JP6203696B2 (en) * 2014-09-30 2017-09-27 富士ソフト株式会社 robot
JP6440483B2 (en) * 2014-12-17 2018-12-19 シャープ株式会社 COMMUNICATION SYSTEM, SERVER DEVICE, ROBOT, INFORMATION PROCESSING METHOD, AND PROGRAM
JP6497185B2 (en) 2015-04-09 2019-04-10 本田技研工業株式会社 Autonomous mobile device and control method of autonomous mobile device
JP6607092B2 (en) * 2016-03-09 2019-11-20 大日本印刷株式会社 Guide robot control system, program, and guide robot
JP6610349B2 (en) * 2016-03-10 2019-11-27 大日本印刷株式会社 Guide robot control system, program, and guide robot
WO2017187614A1 (en) 2016-04-28 2017-11-02 富士通株式会社 Communication control device, method, and system
JP6905812B2 (en) * 2016-06-14 2021-07-21 グローリー株式会社 Store reception system
CN107053191B (en) 2016-12-31 2020-05-08 华为技术有限公司 Robot, server and man-machine interaction method
JP7009939B2 (en) * 2017-11-07 2022-02-10 富士通株式会社 Control programs, control methods and controls
JP7147167B2 (en) * 2017-12-28 2022-10-05 富士通株式会社 Control program, control method and information processing device
JP7051556B2 (en) * 2018-04-25 2022-04-11 株式会社日立製作所 Service provision system, information processing device, and control method of service provision system
JP6918748B2 (en) * 2018-06-27 2021-08-11 ヤフー株式会社 Information processing equipment, information processing methods, and information processing programs
JP2020017206A (en) * 2018-07-27 2020-01-30 ソニー株式会社 Information processing apparatus, action determination method, and program
WO2023218244A1 (en) * 2022-05-11 2023-11-16 日産自動車株式会社 Information provision method and information provision system

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004298988A (en) * 2003-03-31 2004-10-28 Honda Motor Co Ltd Picture image transmission device of mobile robot
JP4355158B2 (en) * 2003-04-01 2009-10-28 本田技研工業株式会社 Reception information system
JP4815940B2 (en) * 2005-08-17 2011-11-16 日本電気株式会社 Robot control system, robot apparatus, and robot control method
JP2007050490A (en) * 2005-08-19 2007-03-01 Hitachi Ltd Remote operation robot system
JP4822319B2 (en) * 2005-10-27 2011-11-24 株式会社国際電気通信基礎技術研究所 Communication robot and attention control system using the same
JP4800819B2 (en) * 2006-03-31 2011-10-26 富士通株式会社 Dialogue robot system

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210046451A (en) * 2019-10-18 2021-04-28 네이버랩스 주식회사 Method and system for interaction between robot and user
KR102412555B1 (en) * 2019-10-18 2022-06-23 네이버랩스 주식회사 Method and system for interaction between robot and user

Also Published As

Publication number Publication date
JP2009248193A (en) 2009-10-29

Similar Documents

Publication Publication Date Title
JP5157595B2 (en) Customer service system and customer service method
JP6962413B2 (en) Guidance system, guidance method and program
CN107850443B (en) Information processing apparatus, information processing method, and program
JP6898165B2 (en) People flow analysis method, people flow analyzer and people flow analysis system
JP4976903B2 (en) robot
US10457521B2 (en) System and method for alternatively interacting with elevators
JP4718987B2 (en) Interface device and mobile robot equipped with the same
KR102420118B1 (en) Systems, methods, and apparatus for providing image shortcuts for an assistant application
US20180043542A1 (en) Customer service robot and related systems and methods
US7720685B2 (en) Receptionist robot system
US20180079427A1 (en) Gesture based control of autonomous vehicles
US10408626B2 (en) Information processing apparatus, information processing method, and program
JP4838499B2 (en) User support device
US11466886B2 (en) Artificial intelligence device and artificial intelligence system for managing indoor air condition
US20190360717A1 (en) Artificial intelligence device capable of automatically checking ventilation situation and method of operating the same
JP2005103722A (en) Cooperative robot device and system, and navigation robot device
US11074040B2 (en) Presenting location related information and implementing a task based on gaze, gesture, and voice detection
US10847159B1 (en) Presenting location related information and implementing a task based on gaze, gesture, and voice detection
CN114153310A (en) Robot guest greeting method, device, equipment and medium
JP6906484B2 (en) Guidance robot system and its control method
CN111089581A (en) Traffic guidance method, terminal and robot
JP2007125621A (en) Motion planning device, motion planning method and motion planning program
WO2021192794A1 (en) Information processing device and information processing method
JP6739017B1 (en) Tourism support device, robot equipped with the device, tourism support system, and tourism support method
US20230341229A1 (en) Vehicle-based multi-modal trip planning and event coordination

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100908

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120508

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121126

R151 Written notification of patent or utility model registration

Ref document number: 5157595

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151221

Year of fee payment: 3