JP2009183538A - Wheelchair with autonomous traveling ability - Google Patents

Wheelchair with autonomous traveling ability Download PDF

Info

Publication number
JP2009183538A
JP2009183538A JP2008027708A JP2008027708A JP2009183538A JP 2009183538 A JP2009183538 A JP 2009183538A JP 2008027708 A JP2008027708 A JP 2008027708A JP 2008027708 A JP2008027708 A JP 2008027708A JP 2009183538 A JP2009183538 A JP 2009183538A
Authority
JP
Japan
Prior art keywords
caregiver
wheelchair
movement
autonomous mobile
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008027708A
Other languages
Japanese (ja)
Other versions
JP5219535B2 (en
Inventor
Yoshinori Kuno
義徳 久野
Takakuni Kobayashi
貴訓 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Saitama University NUC
Original Assignee
Saitama University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Saitama University NUC filed Critical Saitama University NUC
Priority to JP2008027708A priority Critical patent/JP5219535B2/en
Publication of JP2009183538A publication Critical patent/JP2009183538A/en
Application granted granted Critical
Publication of JP5219535B2 publication Critical patent/JP5219535B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

<P>PROBLEM TO BE SOLVED: To provide a wheelchair with autonomous traveling ability which allows reduction in a burden on a caregiver and allows movement which seems to others that a wheelchair user is an autonomous existence. <P>SOLUTION: The wheelchair traveling autonomously according to the operation of the caregiver is provided with a caregiver position detection means 22 which detects the position of the caregiver and the variation of the position, a caregiver face direction detection means 23 which continuously detects the face direction of the caregiver, a caregiver watching object detection means 24 which detects the watching object of the caregiver, and a travel control means 25 which controls the travel of the wheelchair on the basis of results detected by at least the caregiver face direction detection means 23 and the caregiver watching object detection means 24. The behavior of the wheelchair is not a simple copy of the movement of the caregiver, so that the movement seems to the other that the wheelchair user has selected the behavior. This allows the wheelchair user to appear to the surrounding as an independent individual. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、高齢者や障害者等が利用する車椅子に関し、利用者の介護に携わる人達の負担を軽減し、且つ、第三者に利用者の独立性を印象付ける自律的な動きを可能にしたものである。   The present invention relates to a wheelchair used by an elderly person, a disabled person, etc., and reduces the burden on people who are engaged in care for the user, and enables an autonomous movement that impresses the independence of the user to a third party. It is a thing.

近年、高齢化が進み、車椅子の必要性は高まりつつある。車椅子の種類は多岐に及んでおり、介護者が押して進む旧来の機種だけで無く、利用者が自らジョイスティックを操作して移動する電動型車椅子なども市販されている。しかし、電動型車椅子の操作は、多くの高齢者や身体障害者にとって、容易とは言い難い。また、少子高齢化に伴い、車椅子利用者を介護、支援する人材も不足する傾向にある。
こうした事情から、少ない人材でも効率的に介護や支援が行えるように、ある程度の自律移動が可能な知的車椅子の開発が求められている。
In recent years, the need for a wheelchair is increasing as the population ages. There are a wide variety of wheelchairs, and not only traditional models that are pushed by caregivers but also electric wheelchairs that users can move by operating their own joysticks. However, the operation of the electric wheelchair is not easy for many elderly people and disabled people. In addition, with the declining birthrate and aging population, there is also a tendency for human resources to care and support wheelchair users.
Under these circumstances, the development of intelligent wheelchairs that can move to some extent is required so that even small human resources can efficiently provide care and support.

下記非特許文献1には、車椅子に測域センサを搭載し、介護者に追従して自律移動するロボット車椅子が開示されている。
この車椅子は、測域センサを用いて介護者の位置を常に把握し、介護者との距離がLより大きくなれば速度を落とし、逆に小さくなれば速度を上げる速度制御を実施して、介護者に同行している。
また、車椅子近辺の一定範囲が“不感領域”に設定されており、介護者が不感領域にいるときは、介護者への追従が停止される。そのため、介護者は、車椅子の後方から、車椅子の脇を通って、前方に進出したり、車椅子の脇に寄り添って車椅子利用者とおしゃべりしながら歩いたりすることができる。
岩瀬、 中村、 久野“介護者の意図に沿って動くロボット車椅子”画像センシングシンポジウム公演論文集、 pp.493-496, 2005
Non-Patent Document 1 below discloses a robot wheelchair in which a range sensor is mounted on a wheelchair and moves autonomously following a caregiver.
This wheelchair always uses the range sensor to grasp the position of the caregiver, and when the distance to the caregiver is greater than L, the speed is reduced, and conversely, the speed is increased to decrease the speed. Accompany them.
In addition, a certain range in the vicinity of the wheelchair is set as the “insensitive area”, and when the caregiver is in the insensitive area, the follow-up to the caregiver is stopped. Therefore, the caregiver can advance from the rear of the wheelchair through the side of the wheelchair, or walk close to the side of the wheelchair and chat with the wheelchair user.
Iwase, Nakamura, Kuno “Robot Wheelchair that Moves According to Caregiver's Intent” Image Sensing Symposium Proceedings, pp.493-496, 2005

しかし、介護者に同行するだけの車椅子の場合は、種々の場面で介護者が車椅子を押したり引いたりして車椅子の位置や向きを調整する必要が生じる。介護者は、そのための気配りを絶えず続けなければならない。
例えば、車椅子利用者が美術館で絵を鑑賞する場合には、介護者は、他の鑑賞者の妨げにならないように、鑑賞に適する位置まで車椅子を押し進め、絵の方に車椅子の向きを変える必要があり、この操作を会場の各絵について行わなければならない。そのため、介護者は、かなりの負担が強いられる。
However, in the case of a wheelchair that only accompanies a caregiver, it is necessary for the caregiver to adjust the position and orientation of the wheelchair by pushing and pulling the wheelchair in various situations. The caregiver must continue to be attentive for that.
For example, when a wheelchair user appreciates a picture at a museum, the caregiver needs to push the wheelchair to a position suitable for viewing so as not to disturb other viewers and change the direction of the wheelchair toward the picture. This operation must be performed for each picture in the venue. Therefore, caregivers are forced to bear a considerable burden.

また、車椅子が介護者に従って動くだけの場合は、周りから車椅子利用者が自律した主体として見られにくいという問題がある。車椅子利用者は、移動に関しては介護者の支援を必要としているが、それ以外は自律した存在であり、そうした自律意識は、車椅子利用者自身も有している。そのため、車椅子利用者の意図に基づいて動いていると周囲から見られるように車椅子の振舞いを演出することも必要である。   In addition, when the wheelchair only moves according to the caregiver, there is a problem that the wheelchair user is difficult to be seen as an autonomous subject from around. The wheelchair user needs the support of the caregiver regarding the movement, but other than that, the wheelchair user is autonomous, and such a sense of autonomy is also possessed by the wheelchair user. Therefore, it is necessary to produce the behavior of the wheelchair so that it can be seen from the surroundings when moving based on the intention of the wheelchair user.

本発明は、こうした事情を考慮して創案したものであり、介護者の負担を軽減すると共に、車椅子利用者が自律した存在として他人の目に映る動きが可能な自律移動車椅子を提供することを目的としている。   The present invention was devised in view of such circumstances, and provides an autonomous mobile wheelchair that reduces the burden on a caregiver and allows the wheelchair user to move as seen by others as an autonomous entity. It is aimed.

本発明は、介護者の動作に応じて自律的に移動する車椅子であって、前記介護者の位置及び当該位置の変化を検出する介護者位置検出手段と、前記介護者の顔向きを継続的に検出する介護者顔向き検出手段と、前記介護者の注視対象物を検出する介護者注視対象検出手段と、少なくとも前記介護者顔向き検出手段または介護者注視対象検出手段の検出結果に基づいて前記車椅子の移動を制御する移動制御手段と、を備えることを特徴する。
この車椅子は、介護者の顔向きや注視対象物を識別し、その識別結果に基づいて自律的な動きを行う。
The present invention is a wheelchair that moves autonomously according to a caregiver's operation, and continuously provides caregiver position detection means for detecting the position of the caregiver and a change in the position, and the face orientation of the caregiver. Based on the detection results of the caregiver face direction detection means for detecting the caregiver gaze target detection means for detecting the caregiver's gaze target, and at least the caregiver face orientation detection means or the caregiver gaze target detection means. And a movement control means for controlling movement of the wheelchair.
This wheelchair identifies the face of the caregiver and the object to be watched, and performs autonomous movement based on the identification result.

また、本発明の自律移動車椅子では、さらに、前記介護者の位置の変化を予測する介護者移動予測手段を設け、前記移動制御手段が、前記介護者移動予測手段の予測結果を加味して前記車椅子の移動を制御するように構成することもできる。
介護者の現在時刻の位置に基づいて車椅子の移動を制御すると、車椅子の移動が遅れて介護者の動きを妨げる場合が生じるが、介護者の位置の変化を予測して車椅子の移動制御に生かすことで、こうした不都合が避けられる。
The autonomous mobile wheelchair of the present invention further includes a caregiver movement prediction unit that predicts a change in the position of the caregiver, and the movement control unit includes the prediction result of the caregiver movement prediction unit. It can also be configured to control the movement of the wheelchair.
If wheelchair movement is controlled based on the position of the caregiver's current time, the movement of the wheelchair may be delayed and the caregiver's movement may be hindered, but changes in the position of the caregiver can be predicted and utilized for wheelchair movement control. This avoids these inconveniences.

また、本発明の自律移動車椅子では、前記介護者位置検出手段が前記介護者の停止を検出し、前記介護者顔向き検出手段が、前記停止した介護者の顔向きが一定方向を所定時間以上向いている状態を検出し、前記介護者注視対象検出手段が前記注視対象物として展示物を検出したとき、前記移動制御手段が、展示物の鑑賞に適した位置へ移動するように前記車椅子の移動を制御する構成とすることができる。   In the autonomous mobile wheelchair according to the present invention, the caregiver position detecting means detects the stop of the caregiver, and the caregiver face direction detecting means determines that the face direction of the stopped caregiver is a predetermined direction for a predetermined time or more. When the caregiver gaze target detection means detects an exhibit as the gaze object, the movement control means moves to a position suitable for viewing the exhibit. It can be set as the structure which controls a movement.

また、本発明の自律移動車椅子では、前記移動制御手段が、前記展示物を鑑賞する介護者と並ぶ位置へ移動するように前記車椅子の移動を制御し、当該位置が塞がっているとき、前記介護者に最も近い移動可能な位置へ移動するように前記車椅子の移動を制御する構成としても良い。   Further, in the autonomous mobile wheelchair according to the present invention, the movement control means controls the movement of the wheelchair so as to move to a position alongside the caregiver who appreciates the exhibit, and when the position is blocked, It is good also as a structure which controls the movement of the said wheelchair so that it may move to the movable position nearest to a person.

また、本発明の自律移動車椅子では、前記介護者位置検出手段が前記展示物にさらに接近する前記介護者を検出したとき、前記移動制御手段が、前記展示物までの距離が前記展示物から前記介護者までの距離と同じになるように前記車椅子を前記展示物に近付ける構成としても良い。
この車椅子は、美術館等において、介護者が展示物の方を向けば、その展示物の鑑賞に適する位置に自動的に移動することができる。
In the autonomous mobile wheelchair of the present invention, when the caregiver position detecting means detects the caregiver further approaching the exhibit, the movement control means determines that the distance to the exhibit is from the exhibit. It is good also as a structure which brings the said wheelchair close to the said exhibit so that it may become the same as the distance to a caregiver.
This wheelchair can be automatically moved to a position suitable for appreciating the exhibit when a caregiver points the exhibit at a museum or the like.

また、本発明の自律移動車椅子では、前記介護者位置検出手段が移動する前記介護者を検出したとき、前記移動制御手段が、前記介護者の移動距離が所定距離を超えた場合に、前記介護者に追随するように前記車椅子の移動を制御する構成とすることができる。
こうした移動制御により、車椅子は鑑賞中の介護者の些細な動きに追従しなくなる。そのため、車椅子の不安定な動きが抑制できる。
Moreover, in the autonomous mobile wheelchair of the present invention, when the caregiver position detecting means detects the caregiver moving, the movement control means determines that the caregiver is moved when the movement distance of the caregiver exceeds a predetermined distance. It can be set as the structure which controls the movement of the said wheelchair so that a person may be followed.
Such movement control prevents the wheelchair from following the slight movement of the caregiver who is watching. Therefore, the unstable movement of the wheelchair can be suppressed.

また、本発明の自律移動車椅子では、前記介護者位置検出手段が複数の介護者の位置及び当該位置の変化を検出し、前記介護者顔向き検出手段が前記複数の介護者の顔向きを検出し、前記介護者注視対象検出手段が車椅子に最も近い介護者の注視対象物を検出し、前記移動制御手段が前記車椅子に最も近い介護者に追随するように前記車椅子の移動を制御する構成とすることができる。
この車椅子は、介護者が複数である場合に、介護者をグループとして認識し、車椅子に最も近い介護者の動きに追随する。
In the autonomous mobile wheelchair according to the present invention, the caregiver position detecting means detects the positions of the plurality of caregivers and changes in the positions, and the caregiver face direction detecting means detects the face directions of the plurality of caregivers. The caregiver gaze target detection means detects the gaze object of the caregiver closest to the wheelchair, and the movement control means controls the movement of the wheelchair so as to follow the caregiver closest to the wheelchair. can do.
When there are a plurality of caregivers, the wheelchair recognizes the caregivers as a group and follows the movement of the caregiver closest to the wheelchair.

また、本発明の自律移動車椅子では、前記介護者位置検出手段が介護者の停止を検出し、前記介護者顔向き検出手段が、前記停止した介護者の顔向きが前記車椅子の利用者の方向を所定時間以上向いている状態を検出したとき、前記移動制御手段が、前記停止した介護者の方向を向くように前記車椅子の回転を制御する構成とすることができる。
この車椅子は、介護者が車椅子利用者の方に所定時間以上顔を向けているとき、介護者が車椅子利用者と会話していると判断し、介護者の方向に向きを変える。
Moreover, in the autonomous mobile wheelchair of the present invention, the caregiver position detection means detects the caregiver's stop, and the caregiver face direction detection means determines that the face direction of the stopped caregiver is the direction of the user of the wheelchair. The movement control means can control the rotation of the wheelchair so as to face the stopped caregiver when the state of facing a predetermined time or more is detected.
When the caregiver faces the wheelchair user for a predetermined time or more, the wheelchair determines that the caregiver is talking to the wheelchair user and changes the direction toward the caregiver.

また、本発明の自律移動車椅子では、前記介護者位置検出手段が複数の介護者の中から停止した介護者を検出し、前記介護者顔向き検出手段が、前記停止した介護者の顔向きが前記車椅子の方向を所定時間以上向いている状態を検出したとき、前記移動制御手段が、前記停止した介護者の方向を向くように前記車椅子の回転を制御する構成とすることができる。
この車椅子は、介護者が複数である場合に、介護者をグループとして認識し、そのグループの一員が車椅子利用者の方に所定時間以上顔を向けていれば、その介護者の方向に向きを変える。
Moreover, in the autonomous mobile wheelchair of the present invention, the caregiver position detection means detects a caregiver who has stopped from a plurality of caregivers, and the caregiver face direction detection means determines the face orientation of the stopped caregiver. When the state in which the direction of the wheelchair is facing for a predetermined time or more is detected, the movement control unit can control the rotation of the wheelchair so as to face the direction of the stopped caregiver.
This wheelchair recognizes a caregiver as a group when there are multiple caregivers, and if a member of the group has faced the wheelchair user for a predetermined time or more, turn to the caregiver. Change.

また、本発明の自律移動車椅子では、前記介護者位置検出手段が前記介護者の停止を検出し、前記介護者顔向き検出手段が、前記停止した介護者の顔向きが一定方向を所定時間以上向いている状態を検出し、前記介護者注視対象検出手段が介護者の注視対象物として他の人物を検出したとき、前記移動制御手段が、前記他の人物と前記介護者と前記車椅子の利用者とが会話し易い位置へ移動するように前記車椅子の移動を制御する構成とすることができる。
この車椅子は、介護者が他の人物と会話している状態を検出すると、その会話に車椅子利用者も加わることができる位置に移動する。
In the autonomous mobile wheelchair according to the present invention, the caregiver position detecting means detects the stop of the caregiver, and the caregiver face direction detecting means determines that the face direction of the stopped caregiver is a predetermined direction for a predetermined time or more. When the caretaker gaze target detection means detects another person as a caregiver's gaze object, the movement control means uses the other person, the caregiver, and the wheelchair. It can be set as the structure which controls the movement of the said wheelchair so that it may move to the position where a person can talk easily.
When the caregiver detects a state in which the caregiver is talking with another person, the wheelchair moves to a position where the wheelchair user can participate in the conversation.

本発明の自律移動車椅子は、介護者の顔向きや注視対象物に基づいて行動を決定し、実行するため、介護者の負担が軽減される。また、その行動は、介護者の動きの単純なコピーではないため、他人の目に、車椅子利用者が選択した行動として映り、車椅子利用者が独立した個人として周囲から見られるようになる。   Since the autonomous mobile wheelchair according to the present invention determines and executes an action based on the face orientation of the caregiver and the gaze target, the burden on the caregiver is reduced. Moreover, since the action is not a simple copy of the caregiver's movement, it appears as an action selected by the wheelchair user to others, and the wheelchair user can be seen as an independent individual from the surroundings.

本発明の実施形態の自律移動車椅子について、図面を基に説明する。
図1は、この自律移動車椅子の機能を表すブロック図、図2、図17、図20は、この自律移動車椅子の構成及び動作を模式的に示す図、図4は、自律移動車椅子の構成を示すブロック図、図16、図18、図19、図21は、この自律移動車椅子の動作を示すフロー図、また、図22は、他の実施形態に係る自律移動車椅子の機能を表すブロック図である。
An autonomous mobile wheelchair according to an embodiment of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram showing the function of this autonomous mobile wheelchair, FIGS. 2, 17, and 20 are diagrams schematically showing the configuration and operation of this autonomous mobile wheelchair, and FIG. 4 shows the configuration of the autonomous mobile wheelchair. FIG. 16, FIG. 18, FIG. 19, FIG. 21 are flowcharts showing the operation of this autonomous mobile wheelchair, and FIG. 22 is a block diagram showing functions of the autonomous mobile wheelchair according to another embodiment. is there.

図2に示すように、車椅子利用者40が自律移動車椅子10に乗り、介護者50が、移動する自律移動車椅子10に一定距離52を保って付き添う。自律移動車椅子10は、レーザを照射して周囲との距離を計測するレーザ測域センサ15と、介護者50の顔の向き51や介護者50が注視する物体を映し出すビデオカメラ16とを有している。ここでは、ビデオカメラ16として、介護者50の顔と介護者50の視線方向とを映し出す二台のカメラを図示しているが、介護者50の顔及び視線方向が常時撮影できるものであれば、どのようなカメラであっても良い。
図3は、実験に使用した自律移動車椅子の外観を示している。ビデオカメラ16は、車椅子利用者や車椅子本体によって視界が遮られないように、車椅子の後部に支柱を立てて配置している。また、レーザ測域センサ15は、この支柱に一台と、車椅子の前方に一台の合計二台を設置している。
なお、この車椅子では、介護者が車椅子の右側または後方に付くことを想定して、ビデオカメラ16及びレーザ測域センサ15を車椅子の右側に配置している。
As shown in FIG. 2, the wheelchair user 40 rides on the autonomous mobile wheelchair 10, and the caregiver 50 attends the moving autonomous mobile wheelchair 10 while maintaining a certain distance 52. The autonomous mobile wheelchair 10 has a laser range sensor 15 that measures the distance from the surroundings by irradiating a laser, and a video camera 16 that projects the face direction 51 of the caregiver 50 and an object that the caregiver 50 gazes at. ing. Here, as the video camera 16, two cameras that project the face of the caregiver 50 and the direction of the line of sight of the caregiver 50 are illustrated. However, as long as the face of the caregiver 50 and the direction of the line of sight can be photographed at all times. Any camera can be used.
FIG. 3 shows the appearance of the autonomous mobile wheelchair used in the experiment. The video camera 16 is arranged with a support column at the rear of the wheelchair so that the field of view is not obstructed by the wheelchair user or the wheelchair body. Further, two laser range sensors 15 are installed, one on this column and one on the front of the wheelchair.
In this wheelchair, the video camera 16 and the laser range sensor 15 are arranged on the right side of the wheelchair on the assumption that the caregiver is attached to the right side or the rear side of the wheelchair.

この自律移動車椅子10は、図4に示すように、駆動系として、車椅子の移動や車椅子の向きを変えるために車輪を回転する車輪モータ13と、車輪モータ13を制御するモータ制御ボード12とを備え、センサ系として、レーザ測域センサ15と、ビデオカメラ16と、これらへの信号の入出力を中継するセンサ入力/出力ボード14とを備え、また、制御系として、自律移動車椅子10を制御するCPU17と、制御プログラムや各種データが記憶されるメモリ11と、ビデオカメラ16の画像を解析するDSP(digital signal processor)から成る画像処理装置18とを備えている。
なお、自律移動車椅子10は、この他に、運転操作用のジョイスティックや電源なども有しているが、本発明と直接関係しないこれらの構成は、ここでは省略している。
As shown in FIG. 4, the autonomous mobile wheelchair 10 includes, as a drive system, a wheel motor 13 that rotates a wheel to move the wheelchair and change the direction of the wheelchair, and a motor control board 12 that controls the wheel motor 13. Equipped with a laser range sensor 15, a video camera 16, and a sensor input / output board 14 that relays input and output of signals to and from the sensor system, and controls the autonomous mobile wheelchair 10 as a control system CPU 17, a memory 11 in which a control program and various data are stored, and an image processing device 18 including a digital signal processor (DSP) that analyzes an image of the video camera 16.
In addition, the autonomous mobile wheelchair 10 also has a joystick for driving operation, a power source, and the like, but these configurations not directly related to the present invention are omitted here.

この自律移動車椅子10は、介護者50の顔向きや注視対象物を識別し、その識別結果に基づいて自律的な動きを行う。
この動作を行うために、自律移動車椅子10は、図1に示すように、車椅子の周辺の状況を検出する周辺環境検出手段21と、介護者50の位置を検出する介護者位置検出手段22と、介護者50の顔の向きを検出する介護者顔向き検出手段23と、介護者50が注視している対象物を検出する介護者注視対象検出手段24と、車椅子の移動を制御する移動制御手段25とを備えている。
The autonomous mobile wheelchair 10 identifies the face direction of the caregiver 50 and the gaze target, and performs autonomous movement based on the identification result.
In order to perform this operation, as shown in FIG. 1, the autonomous mobile wheelchair 10 includes a surrounding environment detection unit 21 that detects a situation around the wheelchair, and a caregiver position detection unit 22 that detects the position of the caregiver 50. The caregiver face direction detecting means 23 for detecting the face direction of the caregiver 50, the caregiver gaze target detecting means 24 for detecting the object being watched by the caregiver 50, and the movement control for controlling the movement of the wheelchair. Means 25.

周辺環境検出手段21は、レーザ測域センサ15により実現される。レーザ測域センサ15は、ここでは図5に示すセンサ(北陽電機製)を用いている。このセンサは、赤外レーザ(波長785nm)光により、半円状のフィールドを0.36度ピッチで(最大683ステップ)240度スキャンし、その反射光が観察されるまでの時間に基づいて周囲の物体までの距離を検出する。図6は、一個のレーザ測域センサ15の検出領域211を示し、図7は、レーザ測域センサ15の検出結果(二個のレーザ測域センサ15の検出結果を合成したもの)を示している。図7において、縦軸はレーザ測域センサ15からの距離(単位:m)、横軸は角度を表している。また、図7の検出結果から、自律移動車椅子10を取り囲む周辺環境を、図8のように二次元的に表すこともできる。   The surrounding environment detection means 21 is realized by the laser range sensor 15. Here, the laser range sensor 15 uses a sensor (manufactured by Hokuyo Electric) shown in FIG. This sensor scans a semicircular field with an infrared laser (wavelength 785 nm) at a pitch of 0.36 degrees (maximum 683 steps) 240 degrees, and based on the time until the reflected light is observed. The distance to the object is detected. FIG. 6 shows the detection region 211 of one laser range sensor 15, and FIG. 7 shows the detection result of the laser range sensor 15 (a combination of the detection results of the two laser range sensors 15). Yes. In FIG. 7, the vertical axis represents the distance (unit: m) from the laser range sensor 15, and the horizontal axis represents the angle. Moreover, the surrounding environment surrounding the autonomous mobile wheelchair 10 can also be represented two-dimensionally as shown in FIG. 8 from the detection result of FIG.

介護者位置検出手段22は、レーザ測域センサ15の検出結果や画像処理装置18のビデオ画像解析結果を用いて介護者の位置を検出するCPU17の処理により実現される。画像処理装置18は、後述するように、ビデオカメラ16の画像から人物の顔を検出する。CPU17は、レーザ測域センサ15により検出された距離が最も近い位置(図7参照)に人物がいる場合、その人物を介護者50として検出し、以後、その人物を介護者50として追跡する。   The caregiver position detection means 22 is realized by the processing of the CPU 17 that detects the position of the caregiver using the detection result of the laser range sensor 15 and the video image analysis result of the image processing device 18. As will be described later, the image processing device 18 detects the face of a person from the image of the video camera 16. When there is a person at a position where the distance detected by the laser range sensor 15 is the closest (see FIG. 7), the CPU 17 detects the person as the caregiver 50, and thereafter tracks the person as the caregiver 50.

介護者顔向き検出手段23は、介護者50の顔を撮影するビデオカメラ16と、その映像を解析する画像処理装置18により実現される。画像処理装置18は、ビデオカメラ16の映像から顔画像を検出し、その顔の向きを検出する。
顔画像の検出には、幾つかの方法が知られている。例えば、図9のフロー図に示すように、ビデオカメラ16の映像から、矩形特徴を利用した識別器を用いて顔に相当する顔矩形を検出し(ステップ1)、また、ビデオカメラ16の映像から、肌色領域を検出し(ステップ2)、顔矩形と肌色領域とが少なくとも一部で重なる場合に(ステップ3)、それを顔画像として検出することができる(ステップ4)。
肌色領域の検出(ステップ2)は、図10に示すように、ビデオカメラ16の映像から、RGBカラースペース(R、G、B各8ビット)での値が、
R>95、G>40、B>20
Max{R.G.B}−Min{R.G.B}>15
|R−G|>15
R>G、R>B
の条件を満たす肌色の画素の範囲を抽出し(ステップ21)、この肌色部分のフレーム間差分を算出して、フレーム間差分の絶対値の総和が閾値を超えるか否かを識別し(ステップ22)、フレーム間差分が閾値以下の肌色部分は、肌色の壁や机等が抽出されたものとして排除し(ステップ24)、フレーム間差分の絶対値の総和が閾値を超える肌色部分を人物の顔の可能性がある肌色領域として検出する(ステップ23)。
図11(a)には、画像から検出された顔矩形711を示している。図11(b)(c)(d)に示すように、この顔矩形711の水平方向の中心線712は、鼻の位置に一致している。また、図11(b)(c)(d)には、肌色領域の水平方向の境界線を713として示している。
The caregiver face direction detection means 23 is realized by the video camera 16 that captures the face of the caregiver 50 and the image processing device 18 that analyzes the video. The image processing device 18 detects a face image from the video of the video camera 16 and detects the face direction.
Several methods are known for detecting a face image. For example, as shown in the flowchart of FIG. 9, a face rectangle corresponding to a face is detected from a video camera 16 video using a discriminator using a rectangular feature (step 1). From this, a skin color area is detected (step 2), and when the face rectangle and the skin color area overlap at least partially (step 3), it can be detected as a face image (step 4).
As shown in FIG. 10, the detection of the skin color area (step 2) is based on the image of the video camera 16, and the value in the RGB color space (R, G, B each 8 bits)
R> 95, G> 40, B> 20
Max {R. G. B} -Min {R. G. B}> 15
| RG |> 15
R> G, R> B
A range of flesh-colored pixels satisfying the above condition is extracted (step 21), and the inter-frame difference of this flesh-color part is calculated to identify whether or not the sum of absolute values of inter-frame differences exceeds a threshold (step 22). ), Skin color parts with inter-frame differences less than or equal to the threshold value are excluded as skin color walls or desks are extracted (step 24), and skin color parts whose sum of absolute values of inter-frame differences exceeds the threshold value (Step 23).
FIG. 11A shows a face rectangle 711 detected from the image. As shown in FIGS. 11B, 11C, and 11D, the horizontal center line 712 of the face rectangle 711 coincides with the position of the nose. In addition, in FIGS. 11B, 11 </ b> C, and 11 </ b> D, a boundary line in the horizontal direction of the skin color region is indicated as 713.

顔向きの検出は、図12のフロー図に示すように、顔矩形の検出(ステップ1)と肌色領域の検出(ステップ2)との検出結果を用いて、顔矩形711の水平方向の中心位置(中心線712の位置)と肌色領域(境界線713の間の領域)の水平方向の中心位置との差分を算出して求めることができる(ステップ6)。車椅子の方を向く正面顔は、ステップ6で求めた差分値と予め設定した閾値とを比較し(ステップ7)、差分値が閾値未満である場合に、正面顔と識別することができる(ステップ8)。差分値が閾値を超えていれば、正面顔ではないと識別できる(ステップ9)。
画像処理装置18は、こうした処理により、ビデオカメラ16の映像から顔画像の検出と顔向きの検出とを継続的に行う。
As shown in the flowchart of FIG. 12, the face orientation is detected by using the detection results of the face rectangle detection (step 1) and the skin color area detection (step 2), and the center position of the face rectangle 711 in the horizontal direction. The difference between the (center line 712 position) and the horizontal center position of the skin color area (area between the boundary lines 713) can be calculated (step 6). The front face facing the wheelchair can be identified as a front face when the difference value obtained in step 6 is compared with a preset threshold value (step 7) and the difference value is less than the threshold value (step 7). 8). If the difference value exceeds the threshold, it can be identified that the face is not a front face (step 9).
By such processing, the image processing device 18 continuously detects the face image and the face direction from the video of the video camera 16.

介護者注視対象検出手段24は、車椅子の前方を撮影するビデオカメラ16と、その映像を解析する画像処理装置18により実現される。画像処理装置18は、ビデオカメラ16の映像から介護者50の顔が向く方向の物体を検出する。
図13に示すように、介護者50の検出位置をベクトルr、顔向きの検出角度をθとすると、介護者50が注視する方向は、レーザ測域センサ15から見て、次の方向となる。
即ち、レーザ測域センサ15で検出した周辺環境(実線)をベクトル(−r)だけ平行移動して点線の位置を求め、レーザ測域センサ15からθ方向にある点線上の位置を求める。この点線上の位置をベクトルrだけ移動した周辺環境(実線)上の位置の方向が、レーザ測域センサ15から見た介護者50の注視方向となる。
The caregiver gaze target detection means 24 is realized by a video camera 16 that captures the front of the wheelchair and an image processing device 18 that analyzes the video. The image processing device 18 detects an object in the direction in which the face of the caregiver 50 faces from the video of the video camera 16.
As shown in FIG. 13, assuming that the detection position of the caregiver 50 is a vector r and the detection angle of the face is θ, the direction in which the caregiver 50 gazes is the next direction as viewed from the laser range sensor 15. .
That is, the position of the dotted line is obtained by translating the surrounding environment (solid line) detected by the laser range sensor 15 by a vector (−r), and the position on the dotted line in the θ direction is obtained from the laser range sensor 15. The direction of the position on the surrounding environment (solid line) obtained by moving the position on the dotted line by the vector r is the gaze direction of the caregiver 50 viewed from the laser range sensor 15.

また、移動制御手段25は、メモリ11に格納された制御プログラムに従って処理を行うCPU17により実現される。CPU17は、周辺環境検出手段21、介護者位置検出手段22、介護者顔向き検出手段23、及び、介護者注視対象検出手段24の検出結果を基に、モータ制御ボード12を通じて車輪モータ13の回転動作を指示し、自律移動車椅子10の各時刻における振舞いを制御する。なお、メモリ11には、制御プログラムの他に、周辺環境検出手段21が検出した周辺環境や、自律移動車椅子10の軌跡データ、介護者50の移動軌跡や顔向きのデータ、介護者50の注視対象物のデータなど、移動制御に必要なデータが一時的に保持される。   Further, the movement control means 25 is realized by the CPU 17 that performs processing in accordance with a control program stored in the memory 11. The CPU 17 rotates the wheel motor 13 through the motor control board 12 based on the detection results of the surrounding environment detection means 21, the caregiver position detection means 22, the caregiver face orientation detection means 23, and the caregiver gaze target detection means 24. An operation is instructed, and the behavior of the autonomous mobile wheelchair 10 at each time is controlled. In addition to the control program, the memory 11 includes the surrounding environment detected by the surrounding environment detection means 21, the locus data of the autonomous mobile wheelchair 10, the movement locus and face direction data of the caregiver 50, and the gaze of the caregiver 50. Data necessary for movement control such as object data is temporarily stored.

次に、この自律移動車椅子10の動作について説明する。
周辺環境検出手段21は、図14に示すように、レーザ測域センサ15の検出領域211における環境を検出する。なお、212は、検出領域211内の不感領域を示している。検出領域211内に移動する介護者50を検出すると、介護者50の位置が不感領域212の外である場合に、自律移動車椅子10は、図2に示すように、介護者50の動きに追随して移動する。なお、この明細書では、車椅子が介護者50の後に付き従う場合だけでなく、図2のように、車椅子が介護者50の前を行く場合も“追随”と言うことにする。
自律移動車椅子10の移動制御手段25は、介護者50の動きに追随するとき、介護者50と一定距離を保つように車椅子の移動を制御する。つまり、介護者50が前進すれば、自律移動車椅子10も前進し、介護者50が右に曲がれば、自律移動車椅子10も右に曲がり、介護者50が後退すれば、自律移動車椅子10も後退する。
ただし、介護者50が自律移動車椅子10を追い越すために不感領域212を通り抜ける場合や、介護者50が車椅子利用者40とおしゃべりしながら自律移動車椅子10と並んで移動する場合(このとき介護者50は不感領域212内を移動する。)に、移動制御手段25は、介護者50との距離を一定に保つ制御を停止する。
Next, the operation of the autonomous mobile wheelchair 10 will be described.
The surrounding environment detection means 21 detects the environment in the detection area 211 of the laser ranging sensor 15 as shown in FIG. Reference numeral 212 denotes a dead area in the detection area 211. When the caregiver 50 moving within the detection area 211 is detected, the autonomous mobile wheelchair 10 follows the movement of the caregiver 50 when the position of the caregiver 50 is outside the dead area 212 as shown in FIG. Then move. In this specification, not only when the wheelchair follows the caregiver 50 but also when the wheelchair goes in front of the caregiver 50 as shown in FIG.
The movement control means 25 of the autonomous mobile wheelchair 10 controls the movement of the wheelchair so as to keep a certain distance from the caregiver 50 when following the movement of the caregiver 50. That is, if the caregiver 50 moves forward, the autonomous mobile wheelchair 10 also moves forward. If the caregiver 50 turns to the right, the autonomous mobile wheelchair 10 also turns right. If the caregiver 50 moves backward, the autonomous mobile wheelchair 10 also moves backward. To do.
However, when the caregiver 50 passes through the insensitive area 212 to pass the autonomous mobile wheelchair 10 or when the caregiver 50 moves side by side with the autonomous mobile wheelchair 10 while talking to the wheelchair user 40 (at this time the caregiver 50 The movement control means 25 stops the control to keep the distance from the caregiver 50 constant.

また、移動制御手段25は、介護者50に追随する過程で検出領域211内に障害物を検出すると、次のような動作で障害物を回避する。
(1)非常に近くに障害物が検出されたときは、移動を停止する。
(2)なるべく障害物の少ない方向へ回避移動する。
(3)図15に示すように、自律移動車椅子10の前方検出領域2111及び後方検出領域2112の両方で障害物(壁)213が検出されたときは、前方検出領域2111での障害物213までの距離d1が後方検出領域2112での障害物213までの距離d2と等しくなる方向に移動する。(壁沿い移動)
(4)介護者50の動きに追随して移動する。
移動制御手段25は、障害物を回避する際に、番号の小さい行動を優先して実行する。
Further, when the movement control means 25 detects an obstacle in the detection area 211 in the process of following the caregiver 50, the movement control means 25 avoids the obstacle by the following operation.
(1) When an obstacle is detected very close, the movement is stopped.
(2) Move avoiding in a direction with as few obstacles as possible.
(3) As shown in FIG. 15, when an obstacle (wall) 213 is detected in both the front detection area 2111 and the rear detection area 2112 of the autonomous mobile wheelchair 10, the obstacle 213 in the front detection area 2111 is reached. Is moved in the direction in which the distance d1 is equal to the distance d2 to the obstacle 213 in the rear detection area 2112. (Move along wall)
(4) Move following the caregiver 50's movement.
The movement control means 25 preferentially executes an action with a smaller number when avoiding an obstacle.

また、図16のフロー図は、美術館等の会場で、図17に示すように、車椅子利用者40と介護者50とが一緒に展示品(絵画)60を鑑賞する場合の自律移動車椅子10の動作を示している。
移動制御手段25は、介護者50が停止した場合に(ステップ31でYES)、自律移動車椅子10の移動を止めて(ステップ33)、介護者50の顔向きの変化を識別する(ステップ34)。介護者50が一定時間以上同じ方向を向いているときは(ステップ34でYES)、介護者50の注視対象物を検出する(ステップ37)。
また、ステップ31で介護者50が移動し続けているときは、介護者50に追随する(ステップ32)。また、一旦停止しても直ぐに再移動を開始したときは(ステップ35でYES)、介護者50が所定距離移動した後(ステップ36でYES)、介護者50に追随する(ステップ32)。
なお、介護者50が所定距離移動してから、介護者50への追随を再開するのは、介護者50の些細な動作に追従した場合の自律移動車椅子10の不安定な動きを回避するためである。また、ステップ34において、介護者50の顔向きが一定時間以上同じ方向を向くことを要件としているのも同様の趣旨である。
16 is a flow chart of the autonomous mobile wheelchair 10 when a wheelchair user 40 and a caregiver 50 appreciate an exhibit (painting) 60 together in a venue such as a museum, as shown in FIG. The operation is shown.
When the caregiver 50 stops (YES in step 31), the movement control means 25 stops the movement of the autonomous mobile wheelchair 10 (step 33) and identifies the change in the face orientation of the caregiver 50 (step 34). . When the caregiver 50 is facing the same direction for a certain time or longer (YES in step 34), the gaze object of the caregiver 50 is detected (step 37).
Further, when the caregiver 50 continues to move in step 31, the caregiver 50 is followed (step 32). Further, when re-moving is started immediately after stopping (YES in step 35), the caregiver 50 follows the caregiver 50 after moving a predetermined distance (YES in step 36) (step 32).
In addition, after the caregiver 50 moves a predetermined distance, the follow-up to the caregiver 50 is resumed in order to avoid the unstable movement of the autonomous mobile wheelchair 10 when following the trivial movement of the caregiver 50. It is. Moreover, it is the same meaning that it is a requirement that the caregiver 50 faces in the same direction for a certain time or more in Step 34.

ステップ37において、介護者注視対象検出手段24が、介護者50の顔を向けている方向から、額縁などの直線で囲まれた矩形領域を検出すると、移動制御手段25は、介護者50の注視対象物が絵画作品であると認識し(ステップ38)、図18のフロー図に示す手順により、絵画の鑑賞に適した位置に移動する。   In step 37, when the caregiver gaze target detection means 24 detects a rectangular area surrounded by a straight line such as a frame from the direction in which the caregiver 50 faces, the movement control means 25 gazes the caregiver 50. It recognizes that the object is a painting work (step 38), and moves to a position suitable for appreciating the painting according to the procedure shown in the flowchart of FIG.

絵画の鑑賞に適する位置は、例えば、図17に示すように、絵画60の中心位置を中心とし、介護者50までの距離を半径とする円弧上で介護者50に隣接する位置であり、あるいは、絵画作品の矩形対角線の定数倍(通常は1程度、一般に対角線の長さ程度、作品から離れるのが鑑賞に適していると言われている)の距離で作品に正対する位置である。また、学芸員などの説明者が鑑賞者を誘導する位置をあらかじめ調べておき、これに矛盾しない位置を絵画鑑賞に適する位置としても良い。
図18の手順では、絵画鑑賞に適する位置を算出し(ステップ131)、その位置に自律移動車椅子10の移動可能なスペースが有るか否かを識別する(ステップ132)。スペースが有れば、その位置(例えば介護者50に隣接する位置)に移動する(ステップ133)。また、その位置に他の鑑賞者が居て移動スペースが無い場合は、その位置に最も近い移動可能な位置へ移動する(ステップ134)。
また、介護者位置検出手段22が、絵画60の方向にさらに近付く介護者50を検出すると(ステップ135でYES)、移動制御手段25は、介護者50と同じ距離まで絵画60に接近するように制御する(ステップ136)。
また、介護者50が、隣に展示された絵画の方に移動した場合は(ステップ137)、介護者50が所定距離移動した後(ステップ138)、介護者50に追随する(ステップ139)。次いで、ステップ31に移行する。
The position suitable for viewing the painting is, for example, a position adjacent to the caregiver 50 on an arc centered on the center position of the painting 60 and having a radius to the caregiver 50, as shown in FIG. This is the position facing the work at a distance of a constant multiple of the rectangular diagonal of the painting (usually about 1, generally about the length of the diagonal, and it is said that the distance from the work is suitable for viewing). Further, a position where an explainer such as a curator guides the viewer may be checked in advance, and a position not inconsistent with this may be set as a position suitable for viewing the painting.
In the procedure of FIG. 18, a position suitable for painting viewing is calculated (step 131), and it is identified whether or not there is a space in which the autonomous mobile wheelchair 10 is movable at that position (step 132). If there is a space, it moves to that position (for example, a position adjacent to the caregiver 50) (step 133). If there is another viewer at that position and there is no moving space, the robot moves to a movable position closest to that position (step 134).
When the caregiver position detection means 22 detects the caregiver 50 that is closer to the direction of the painting 60 (YES in step 135), the movement control means 25 approaches the painting 60 to the same distance as the caregiver 50. Control (step 136).
In addition, when the caregiver 50 moves toward the picture displayed next (step 137), the caregiver 50 follows the caregiver 50 (step 139) after moving the predetermined distance (step 138). Next, the process proceeds to step 31.

また、ステップ37において、介護者顔向き検出手段23が、一定時間以上、車椅子の方を見ている介護者50の顔を検出した場合には、移動制御手段25は、介護者50が車椅子利用者40と会話するために車椅子利用者40を注視していると認識し(ステップ39)、図19のフロー図に示す手順を実行する。
即ち、図20に示すように、移動制御手段25は、介護者50の方向を向くように自律移動車椅子10の回転を制御する(ステップ231)。介護者50の顔向きが変わり(ステップ232でYES)、介護者50が移動を再開すると(ステップ233でYES)、介護者50が所定距離移動した後(ステップ234)、介護者50に追随する(ステップ235)。次いで、ステップ31に移行する。
また、ステップ232において顔向きを変えた介護者50が、移動せずに別の方向を見続けた場合は(ステップ236でYES)、ステップ37に移行する。
In step 37, when the caregiver face direction detection means 23 detects the face of the caregiver 50 who is looking at the wheelchair for a certain time or more, the movement control means 25 is used by the caregiver 50 in the wheelchair. It recognizes that the wheelchair user 40 is gazing in order to talk with the person 40 (step 39), and performs the procedure shown in the flowchart of FIG.
That is, as shown in FIG. 20, the movement control means 25 controls the rotation of the autonomous mobile wheelchair 10 so as to face the caregiver 50 (step 231). When the face of the caregiver 50 changes (YES in step 232) and the caregiver 50 resumes movement (YES in step 233), the caregiver 50 follows the caregiver 50 after moving a predetermined distance (step 234). (Step 235). Next, the process proceeds to step 31.
If the caregiver 50 who changed the face orientation in step 232 continues to look in another direction without moving (YES in step 236), the process proceeds to step 37.

また、ステップ37において、介護者注視対象検出手段24が、介護者50の顔を向けている方向から、介護者50の方を向く人物の顔を検出した場合には、移動制御手段25は、介護者50が他の人物と会話するためにその人物を注視していると認識し(ステップ40)、図21のフロー図に示す手順を実行する。
即ち、移動制御手段25は、車椅子利用者40が介護者50及び他の人物の双方と会話し易いように、自律移動車椅子10の位置及び向きを制御する(ステップ331)。その後の手順(ステップ332〜336)は、図19のフロー図におけるステップ232〜236の手順と同じである。
また、ステップ37において、介護者注視対象検出手段24が検出した介護者50の注視対象物が、その他のものである場合には(ステップ41)、移動制御手段25は、その注視対象物に応じた自律移動車椅子10の移動制御を行う(ステップ42)。
例えば、介護者50が見つめている方向に進行可能な通路が検出されたときは、介護者50が、その通路への進入を考えていると認識できる。この場合、移動制御手段25は、その通路の方向に自律移動車椅子10の進路を取る。
In addition, when the caregiver gazing target detection means 24 detects the face of the person facing the caregiver 50 from the direction in which the caregiver 50 faces, in step 37, the movement control means 25 The caregiver 50 recognizes that the person is gazing to talk with another person (step 40), and executes the procedure shown in the flowchart of FIG.
That is, the movement control means 25 controls the position and orientation of the autonomous mobile wheelchair 10 so that the wheelchair user 40 can easily talk to both the caregiver 50 and other persons (step 331). The subsequent procedure (steps 332 to 336) is the same as the procedure of steps 232 to 236 in the flowchart of FIG.
Further, in step 37, if the caregiver's gaze target object detected by the caregiver gaze target detection means 24 is other (step 41), the movement control means 25 responds to the gaze object. The autonomous mobile wheelchair 10 is controlled to move (step 42).
For example, when a path that can travel in the direction in which the caregiver 50 is staring is detected, it can be recognized that the caregiver 50 is considering entering the path. In this case, the movement control means 25 takes the course of the autonomous mobile wheelchair 10 in the direction of the passage.

このように、この自律移動車椅子は、介護者の顔向きや、介護者が見つめる注視対象物に応じて、自律的に動作する。そのため、介護者の負担が大幅に軽減される。また、この自律移動車椅子の振舞いは、他人の目に車椅子利用者の意思に基づくものとして映り、車椅子利用者が独立した個人として周囲から認識されることになる。   Thus, this autonomous mobile wheelchair operates autonomously according to the face orientation of the caregiver and the gaze target that the caregiver looks at. This greatly reduces the burden on the caregiver. In addition, the behavior of this autonomous mobile wheelchair is reflected in the eyes of other people based on the intention of the wheelchair user, and the wheelchair user is recognized as an independent individual from the surroundings.

なお、ここでは、介護者の位置を追跡する介護者位置検出手段22の検出結果を自律移動車椅子10の移動制御に用いたが、図22に示すように、介護者の動きを予測する介護者移動予測手段26を設け、この介護者移動予測手段26が予測した介護者の動きを自律移動車椅子10の移動制御に用いるようにしても良い。
介護者移動予測手段26は、
(1)車椅子を滑らかに動かすためのごく短期的な、少し後の時点(0.5秒後程度まで)の介護者の移動位置に対する予測、
(2)車椅子の振る舞いを安定させ、より自律的に見せるための介護者の行動に対する予測、
のいずれか、または、その両方を行う。
Here, although the detection result of the caregiver position detection means 22 that tracks the position of the caregiver is used for the movement control of the autonomous mobile wheelchair 10, the caregiver predicts the movement of the caregiver as shown in FIG. The movement prediction means 26 may be provided, and the caregiver's movement predicted by the caregiver movement prediction means 26 may be used for movement control of the autonomous mobile wheelchair 10.
The caregiver movement prediction means 26
(1) Predicting the caregiver's moving position at a very short time (up to about 0.5 seconds later) for a smooth movement of the wheelchair,
(2) Predicting caregiver behavior to stabilize wheelchair behavior and make it appear more autonomous,
Do either or both.

(1)の短期的な予測は、介護者位置検出手段22が検出した介護者の位置の履歴を基に、カルマンフィルタなどの予測手段を用いて行われる。この予測結果を利用して移動車椅子10の移動制御を行うことにより、車椅子の移動の速度を安定化させる(ガタつきを抑える)ことができる。
また、(2)の行動予測は、ビデオカメラ16で撮影された周囲の状況や、介護者注視対象検出手段24により検出された注視対象物に基づいて介護者の行動が予測される。例えば、介護者が絵画作品に近づいたときは、「もしかすると、この作品をじっくり見るかもしれない」と判断して追随速度を遅くし、介護者が立ち止まった際の車椅子の「鑑賞に適した位置」への移動に備える。介護者が立ち止まらず、絵画作品の傍を通過した場合には、追随速度を早くし、介護者との一定距離を保つ。これにより、車椅子がより自律的に行動しているように見える。
また、車椅子の右側を歩いている介護者が左折しようとするとき、介護者移動予測手段26が、左折通路の存在や、そちらを注視する介護者の顔向きなどから、介護者の左折を予測し、それに基づいて車椅子の速度や向きを制御することにより、介護者の左折が車椅子により妨げられる事態が回避される。
また、介護者が右折しようとする場合にも、介護者移動予測手段26がそれを左折の場合と同様に予測して、それに基づいて車椅子の移動を制御することで、車椅子の急激な方向転換が避けられる。
また、介護者が車椅子の左側を歩いていて、右折や左折する場合も同様である。
また、介護者と車椅子とが並んで進んでいる通路の幅が先の方で狭くなっている場合には、介護者移動予測手段26が、一列になって進行する介護者の動きを予測し、それに基づいて車椅子の速度を減速することで、介護者が先導する一列の形で狭い箇所を通過することが可能になる。
The short-term prediction of (1) is performed using prediction means such as a Kalman filter based on the caregiver position history detected by the caregiver position detection means 22. By performing movement control of the mobile wheelchair 10 using this prediction result, it is possible to stabilize the speed of movement of the wheelchair (suppress backlash).
In (2) behavior prediction, the caregiver's behavior is predicted based on the surrounding situation photographed by the video camera 16 and the gaze target detected by the caregiver gaze target detection means 24. For example, when a caregiver approaches a painting work, it is judged that “there might be a good look at this work” and the follow-up speed is slowed down. Preparing for movement to "position". If the caregiver does not stop and passes by the painting, the follow-up speed is increased and a certain distance from the caregiver is maintained. This makes it appear that the wheelchair is acting more autonomously.
When the caregiver walking on the right side of the wheelchair tries to turn left, the caregiver movement prediction means 26 predicts the left turn of the caregiver from the presence of the left turn passage, the face of the caregiver gazing at the left turn passage, and the like. Then, by controlling the speed and direction of the wheelchair based on this, the situation where the left turn of the caregiver is prevented by the wheelchair is avoided.
Also, when the caregiver tries to make a right turn, the caregiver movement predicting means 26 predicts it in the same manner as in the case of the left turn, and controls the movement of the wheelchair based on the prediction, thereby making a sudden turn of the wheelchair. Can be avoided.
The same applies when the caregiver is walking on the left side of the wheelchair and turns right or left.
In addition, when the width of the passage where the caregiver and the wheelchair are moving side by side is narrower, the caregiver movement prediction means 26 predicts the movement of the caregiver that proceeds in a row. By reducing the speed of the wheelchair based on this, it is possible to pass through a narrow spot in the form of a line led by the caregiver.

また、車椅子利用者に対して複数の介護者が支援する場合がある。このとき、自律移動車椅子10の介護者位置検出手段22は、複数の介護者をグループとして認識し、グループの各介護者の位置を追跡する。
グループの介護者への追随は、車椅子に最も近い介護者に対して追随する。また、介護者のグループの支援を受けて車椅子利用者が絵画を鑑賞する場合は、介護者のグループが絵画作品の適切な鑑賞位置に先着して車椅子を迎え入れてくれることが期待できるから、絵画作品の鑑賞位置に移動スペースが発見できなくても、介護者位置検出手段22が検出した介護者の位置に自律移動車椅子10を移動するように制御する。
また、自律移動車椅子10の介護者顔向き検出手段23が、介護者のグループの中に、一定時間以上、自律移動車椅子10の方向に顔を向けている介護者を検出した場合には、移動制御手段25は、その介護者の方に自律移動車椅子10の向きを変える。
In addition, a plurality of caregivers may assist wheelchair users. At this time, the caregiver position detection means 22 of the autonomous mobile wheelchair 10 recognizes a plurality of caregivers as a group and tracks the position of each caregiver in the group.
Following the caregiver of the group follows the caregiver closest to the wheelchair. In addition, when a wheelchair user appreciates a painting with the support of a caregiver group, it can be expected that the caregiver group will welcome the wheelchair at the appropriate viewing position for the painting. Even if a moving space cannot be found at the appreciation position of the work, control is performed so that the autonomous mobile wheelchair 10 is moved to the position of the caregiver detected by the caregiver position detection means 22.
In addition, if the caregiver face direction detection means 23 of the autonomous mobile wheelchair 10 detects a caregiver who faces the autonomous mobile wheelchair 10 in the direction of the autonomous mobile wheelchair 10 for a certain time or more in the group of caregivers, The control means 25 changes the direction of the autonomous mobile wheelchair 10 toward the caregiver.

また、ここで示した顔画像及び顔向きの検出方法は、一例であり、本発明では、その他の方法で顔画像及び顔向きを検出することも可能である。
また、ここでは、介護者の顔向きから注視対象物を検出しているが、介護者の顔画像から視線の方向を求め、視線の方向から介護者の注視対象物を検出するようにしても良い。
また、介護者が車椅子利用者や他の人と会話しているか否かは、介護者の顔の向きだけでなく、介護者の顔画像から口の動きを観察して識別するようにしても良い。
また、自律移動車椅子10にマイクを取り付けて音声を認識し、会話状況を検出するようにしても良い。
また、ここでは、介護者が右側あるいは後方を歩くことを基本にしてビデオカメラ及びレーザ測域センサの車椅子への取付け位置を設定したが、車椅子に取り付けるビデオカメラやレーザ測域センサの数を増やしたり、あるいは、広視野(角度)をカバーするセンサやカメラを使用したりすることにより、介護者が車椅子の左右あるいは後方のどこにいても車椅子の適切な移動制御が可能になる。
Further, the detection method of the face image and the face direction shown here is an example, and in the present invention, the face image and the face direction can be detected by other methods.
Here, the gaze target is detected from the caregiver's face direction, but the gaze direction is obtained from the caregiver's face image, and the caregiver's gaze target is detected from the gaze direction. good.
Whether or not a caregiver is talking to a wheelchair user or another person is determined not only by the direction of the face of the caregiver but also by observing the mouth movement from the caregiver's face image. good.
Alternatively, a microphone may be attached to the autonomous mobile wheelchair 10 to recognize the voice and detect the conversation state.
In addition, the video camera and laser range sensor are installed on the wheelchair on the basis that the caregiver walks to the right or rear, but the number of video cameras and laser range sensors attached to the wheelchair is increased. Or by using a sensor or camera that covers a wide field of view (angle), it is possible to appropriately control the movement of the wheelchair wherever the caregiver is located on the left or right or behind the wheelchair.

本発明は、病院、家庭、美術館等の展示施設、映画館、劇場など、各所で使用される車椅子に対して、広く利用することができる。   The present invention can be widely used for wheelchairs used in various places such as hospitals, homes, exhibition facilities such as museums, movie theaters, and theaters.

本発明の実施形態に係る自律移動車椅子の機能を表すブロック図The block diagram showing the function of the autonomous mobile wheelchair which concerns on embodiment of this invention 図1の自律移動車椅子の構成及び追従動作を模式的に示す図The figure which shows typically the structure and tracking operation | movement of an autonomous mobile wheelchair of FIG. 実験に用いた車椅子を示す図Diagram showing the wheelchair used in the experiment 図1の自律移動車椅子の構成を示すブロック図The block diagram which shows the structure of the autonomous mobile wheelchair of FIG. レーザ測域センサを示す図Diagram showing laser range sensor レーザ測域センサの検出領域を示す図Diagram showing the detection area of the laser range sensor レーザ測域センサの検出結果を示す図The figure which shows the detection result of the laser range sensor レーザ測域センサの検出結果を2次元平面上に表示した図The figure which displayed the detection result of the laser range sensor on the two-dimensional plane 顔画像の検出手順を示すフロー図Flow chart showing detection procedure of face image 肌色領域の検出手順を示すフロー図Flow chart showing skin color area detection procedure 顔画像及び顔向きの検出結果を示す図The figure which shows the detection result of a face image and face orientation 顔向きの検出手順を示すフロー図Flow chart showing the face orientation detection procedure 注視対象物の検出方法を説明する図The figure explaining the detection method of a gaze object 図1の自律移動車椅子の検出領域を示す図The figure which shows the detection area | region of the autonomous mobile wheelchair of FIG. 自律移動車椅子の壁沿い移動の動作を説明する図Diagram explaining movement of autonomous mobile wheelchair along wall 図1の自律移動車椅子の動作を示すフロー図Flow chart showing the operation of the autonomous mobile wheelchair of FIG. 図1の自律移動車椅子の絵画鑑賞時における状態を模式的に示す図The figure which shows typically the state at the time of appreciation of the picture of the autonomous mobile wheelchair of FIG. 図1の自律移動車椅子の絵画鑑賞動作を示すフロー図Flow chart showing the painting appreciation operation of the autonomous mobile wheelchair of FIG. 図1の自律移動車椅子の介護者との会話時の動作を示すフロー図The flowchart which shows the operation | movement at the time of conversation with the caregiver of the autonomous mobile wheelchair of FIG. 図1の自律移動車椅子の介護者との会話時の状態を模式的に示す図The figure which shows typically the state at the time of conversation with the caregiver of the autonomous mobile wheelchair of FIG. 図1の自律移動車椅子の介護者及び他人との会話時の動作を示すフロー図The flowchart which shows the operation | movement at the time of the conversation with the caregiver and others of the autonomous mobile wheelchair of FIG. 本発明の他の実施形態に係る自律移動車椅子の機能を表すブロック図The block diagram showing the function of the autonomous mobile wheelchair which concerns on other embodiment of this invention.

符号の説明Explanation of symbols

10 自律移動車椅子
11 メモリ
12 モータ制御ボード
13 車輪モータ
14 センサ入力/出力ボード
15 レーザ測域センサ
16 ビデオカメラ
17 CPU
18 画像処理装置
21 周辺環境検出手段
22 介護者位置検出手段
23 介護者顔向き検出手段
24 介護者注視対象検出手段
25 移動制御手段
26 介護者移動予測手段
40 車椅子利用者
50 介護者
51 顔向き
52 一定距離
60 絵画
211 レーザ測域センサ検出領域
213 壁
711 顔矩形
712 顔矩形中心線
713 肌色領域境界線
DESCRIPTION OF SYMBOLS 10 Autonomous mobile wheelchair 11 Memory 12 Motor control board 13 Wheel motor 14 Sensor input / output board 15 Laser range sensor 16 Video camera 17 CPU
DESCRIPTION OF SYMBOLS 18 Image processing apparatus 21 Surrounding environment detection means 22 Caregiver position detection means 23 Caregiver face direction detection means 24 Caregiver gaze target detection means 25 Movement control means 26 Caregiver movement prediction means 40 Wheelchair user 50 Caregiver 51 Face orientation 52 Fixed distance 60 Painting 211 Laser range sensor detection area 213 Wall 711 Face rectangle 712 Face rectangle center line 713 Skin color area boundary line

Claims (10)

介護者の動作に応じて自律的に移動する車椅子であって、
前記介護者の位置及び当該位置の変化を検出する介護者位置検出手段と、
前記介護者の顔向きを継続的に検出する介護者顔向き検出手段と、
前記介護者の注視対象物を検出する介護者注視対象検出手段と、
少なくとも前記介護者顔向き検出手段または介護者注視対象検出手段の検出結果に基づいて前記車椅子の移動を制御する移動制御手段と、
を備えることを特徴とする自律移動車椅子。
A wheelchair that moves autonomously according to the caregiver's movement,
Caregiver position detection means for detecting the position of the caregiver and a change in the position;
Caregiver face orientation detecting means for continuously detecting the caregiver face orientation;
Caregiver gaze target detection means for detecting the caregiver gaze object; and
Movement control means for controlling movement of the wheelchair based on at least the detection result of the caregiver face orientation detection means or caregiver gaze target detection means;
An autonomous mobile wheelchair characterized by comprising:
請求項1に記載の自律移動車椅子であって、さらに、前記介護者の位置の変化を予測する介護者移動予測手段を備え、前記移動制御手段が、前記介護者移動予測手段の予測結果を加味して前記車椅子の移動を制御することを特徴とする自律移動車椅子。   2. The autonomous mobile wheelchair according to claim 1, further comprising a caregiver movement prediction unit that predicts a change in the position of the caregiver, wherein the movement control unit takes into account the prediction result of the caregiver movement prediction unit. And controlling the movement of the wheelchair. 請求項1または2に記載の自律移動車椅子であって、前記介護者位置検出手段が前記介護者の停止を検出し、前記介護者顔向き検出手段が、前記停止した介護者の顔向きが一定方向を所定時間以上向いている状態を検出し、前記介護者注視対象検出手段が前記注視対象物として展示物を検出したとき、前記移動制御手段は、展示物の鑑賞に適した位置へ移動するように前記車椅子の移動を制御することを特徴とする自律移動車椅子。   The autonomous mobile wheelchair according to claim 1 or 2, wherein the caregiver position detecting means detects the stop of the caregiver, and the caregiver face direction detecting means has a constant face orientation of the stopped caregiver. When the state in which the direction is directed for a predetermined time or more is detected, and the caregiver gaze target detecting means detects the exhibit as the gaze target, the movement control means moves to a position suitable for viewing the exhibit. An autonomous mobile wheelchair characterized by controlling the movement of the wheelchair. 請求項3に記載の自律移動車椅子であって、前記移動制御手段は、前記展示物を鑑賞する介護者と並ぶ位置へ移動するように前記車椅子の移動を制御し、当該位置が塞がっているとき、前記介護者に最も近い移動可能な位置へ移動するように前記車椅子の移動を制御することを特徴とする自律移動車椅子。   The autonomous mobile wheelchair according to claim 3, wherein the movement control means controls the movement of the wheelchair so as to move to a position alongside a caregiver who appreciates the exhibit, and the position is blocked. An autonomous mobile wheelchair characterized by controlling the movement of the wheelchair so as to move to a movable position closest to the caregiver. 請求項3または4に記載の自律移動車椅子であって、前記介護者位置検出手段が前記展示物にさらに接近する前記介護者を検出したとき、前記移動制御手段は、前記展示物までの距離が前記展示物から前記介護者までの距離と同じになるように前記車椅子を前記展示物に近付けることを特徴とする自律移動車椅子。   The autonomous mobile wheelchair according to claim 3 or 4, wherein when the caregiver position detection means detects the caregiver further approaching the exhibit, the movement control means has a distance to the exhibit. An autonomous mobile wheelchair characterized in that the wheelchair is brought close to the exhibit so as to be the same as the distance from the exhibit to the caregiver. 請求項3から5のいずれかに記載の自律移動車椅子であって、前記介護者位置検出手段が移動する前記介護者を検出したとき、前記移動制御手段は、前記介護者の移動距離が所定距離を超えた場合に、前記介護者に追随するように前記車椅子の移動を制御することを特徴とする自律移動車椅子。   The autonomous mobile wheelchair according to any one of claims 3 to 5, wherein when the caregiver position detecting means detects the caregiver moving, the movement control means is configured such that the movement distance of the caregiver is a predetermined distance. An autonomous mobile wheelchair that controls the movement of the wheelchair so as to follow the caregiver when exceeding. 請求項3から6のいずれかに記載の自律移動車椅子であって、前記介護者位置検出手段が複数の介護者の位置及び当該位置の変化を検出し、前記介護者顔向き検出手段が前記複数の介護者の顔向きを検出し、前記介護者注視対象検出手段が車椅子に最も近い介護者の注視対象物を検出し、前記移動制御手段が前記車椅子に最も近い介護者に追随するように前記車椅子の移動を制御することを特徴とする自律移動車椅子。   The autonomous mobile wheelchair according to any one of claims 3 to 6, wherein the caregiver position detecting means detects the positions of a plurality of caregivers and changes in the positions, and the caregiver face direction detecting means is the plurality of caregiver face directions detecting means. The caregiver gaze target detection means detects the gaze object of the caregiver closest to the wheelchair, and the movement control means follows the caregiver closest to the wheelchair. An autonomous mobile wheelchair characterized by controlling the movement of the wheelchair. 請求項1または2に記載の自律移動車椅子であって、前記介護者位置検出手段が介護者の停止を検出し、前記介護者顔向き検出手段が、前記停止した介護者の顔向きが前記車椅子の利用者の方向を所定時間以上向いている状態を検出したとき、前記移動制御手段は、前記停止した介護者の方向を向くように前記車椅子の回転を制御することを特徴とする自律移動車椅子。   3. The autonomous mobile wheelchair according to claim 1 or 2, wherein the caregiver position detecting means detects a stop of a caregiver, and the caregiver face direction detecting means determines that the face direction of the stopped caregiver is the wheelchair. An autonomous mobile wheelchair characterized in that the movement control means controls the rotation of the wheelchair so as to face the direction of the stopped caregiver when a state in which the direction of the user is directed for a predetermined time or more is detected . 請求項8に記載の自律移動車椅子であって、前記介護者位置検出手段が複数の介護者の中から停止した介護者を検出し、前記介護者顔向き検出手段が、前記停止した介護者の顔向きが前記車椅子の方向を所定時間以上向いている状態を検出したとき、前記移動制御手段は、前記停止した介護者の方向を向くように前記車椅子の回転を制御することを特徴とする自律移動車椅子。   The autonomous mobile wheelchair according to claim 8, wherein the caregiver position detecting unit detects a stopped caregiver from among a plurality of caregivers, and the caregiver face direction detecting unit is configured to detect the stopped caregiver's The autonomy is characterized in that the movement control means controls the rotation of the wheelchair so as to face the direction of the stopped caregiver when detecting a state in which the face is facing the wheelchair for a predetermined time or more. Mobile wheelchair. 請求項1または2に記載の自律移動車椅子であって、前記介護者位置検出手段が前記介護者の停止を検出し、前記介護者顔向き検出手段が、前記停止した介護者の顔向きが一定方向を所定時間以上向いている状態を検出し、前記介護者注視対象検出手段が介護者の注視対象物として他の人物を検出したとき、前記移動制御手段は、前記他の人物と前記介護者と前記車椅子の利用者とが会話し易い位置へ移動するように前記車椅子の移動を制御することを特徴とする自律移動車椅子。   The autonomous mobile wheelchair according to claim 1 or 2, wherein the caregiver position detecting means detects the stop of the caregiver, and the caregiver face direction detecting means has a constant face orientation of the stopped caregiver. When the state in which the direction is directed for a predetermined time or more is detected, and the caregiver gaze target detecting means detects another person as a caregiver's gaze object, the movement control means is configured to detect the other person and the caregiver. An autonomous mobile wheelchair characterized by controlling the movement of the wheelchair so as to move to a position where the wheelchair user and the user of the wheelchair can easily talk to each other.
JP2008027708A 2008-02-07 2008-02-07 Autonomous mobile wheelchair Expired - Fee Related JP5219535B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008027708A JP5219535B2 (en) 2008-02-07 2008-02-07 Autonomous mobile wheelchair

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008027708A JP5219535B2 (en) 2008-02-07 2008-02-07 Autonomous mobile wheelchair

Publications (2)

Publication Number Publication Date
JP2009183538A true JP2009183538A (en) 2009-08-20
JP5219535B2 JP5219535B2 (en) 2013-06-26

Family

ID=41067457

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008027708A Expired - Fee Related JP5219535B2 (en) 2008-02-07 2008-02-07 Autonomous mobile wheelchair

Country Status (1)

Country Link
JP (1) JP5219535B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011142969A (en) * 2010-01-13 2011-07-28 Toyota Motor Corp Autonomous moving body-loading/unloading system
JP2016013212A (en) * 2014-07-01 2016-01-28 株式会社豊田自動織機 Automatic carrier vehicle
JP2022141639A (en) * 2018-06-28 2022-09-29 株式会社リコー Information processing apparatus, movable body, remote control system, information processing method, and program

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1147196A (en) * 1997-08-06 1999-02-23 Fuji Heavy Ind Ltd Device for controlling travel of motor-driven wheelchair
JP2001129777A (en) * 1999-11-02 2001-05-15 Atr Media Integration & Communications Res Lab Autonomous mobile robot
JP2001306145A (en) * 2000-04-25 2001-11-02 Casio Comput Co Ltd Moving robot device and program record medium therefor
JP2004357915A (en) * 2003-06-04 2004-12-24 Matsushita Electric Ind Co Ltd Sensing toy
JP2006231447A (en) * 2005-02-23 2006-09-07 Mitsubishi Heavy Ind Ltd Confirmation method for indicating position or specific object and method and device for coordinate acquisition
JP2007229816A (en) * 2006-02-27 2007-09-13 Toyota Motor Corp Autonomous mobile robot
JP2007229814A (en) * 2006-02-27 2007-09-13 Toyota Motor Corp Autonomous mobile robot
JP2007229817A (en) * 2006-02-27 2007-09-13 Toyota Motor Corp Autonomous mobile robot
JP2007265343A (en) * 2006-03-30 2007-10-11 Tottori Univ Follow-up device of mobile object and electric wheelchair having the same

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1147196A (en) * 1997-08-06 1999-02-23 Fuji Heavy Ind Ltd Device for controlling travel of motor-driven wheelchair
JP2001129777A (en) * 1999-11-02 2001-05-15 Atr Media Integration & Communications Res Lab Autonomous mobile robot
JP2001306145A (en) * 2000-04-25 2001-11-02 Casio Comput Co Ltd Moving robot device and program record medium therefor
JP2004357915A (en) * 2003-06-04 2004-12-24 Matsushita Electric Ind Co Ltd Sensing toy
JP2006231447A (en) * 2005-02-23 2006-09-07 Mitsubishi Heavy Ind Ltd Confirmation method for indicating position or specific object and method and device for coordinate acquisition
JP2007229816A (en) * 2006-02-27 2007-09-13 Toyota Motor Corp Autonomous mobile robot
JP2007229814A (en) * 2006-02-27 2007-09-13 Toyota Motor Corp Autonomous mobile robot
JP2007229817A (en) * 2006-02-27 2007-09-13 Toyota Motor Corp Autonomous mobile robot
JP2007265343A (en) * 2006-03-30 2007-10-11 Tottori Univ Follow-up device of mobile object and electric wheelchair having the same

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011142969A (en) * 2010-01-13 2011-07-28 Toyota Motor Corp Autonomous moving body-loading/unloading system
JP2016013212A (en) * 2014-07-01 2016-01-28 株式会社豊田自動織機 Automatic carrier vehicle
JP2022141639A (en) * 2018-06-28 2022-09-29 株式会社リコー Information processing apparatus, movable body, remote control system, information processing method, and program
JP7400882B2 (en) 2018-06-28 2023-12-19 株式会社リコー Information processing device, mobile object, remote control system, information processing method and program

Also Published As

Publication number Publication date
JP5219535B2 (en) 2013-06-26

Similar Documents

Publication Publication Date Title
JP6028304B2 (en) Mobile human interface robot
Zhang et al. Control of a wheelchair in an indoor environment based on a brain–computer interface and automated navigation
US9760089B2 (en) Hybrid reality based i-BOT navigation and control
JP4940698B2 (en) Autonomous mobile robot
JP5219535B2 (en) Autonomous mobile wheelchair
JP4315872B2 (en) Mobile robot controller
KR20200131170A (en) Autonomous moving body, control program of autonomous moving body, method of controlling autonomous moving body, and system server for controlling autonomous moving body from remote place
JP2007229817A (en) Autonomous mobile robot
Tomari et al. Enhancing wheelchair manoeuvrability for severe impairment users
JP5552710B2 (en) Robot movement control system, robot movement control program, and robot movement control method
JP2010064215A (en) Control system for moving robot
US11886190B2 (en) Method for controlling robot, robot, and recording medium
US11960285B2 (en) Method for controlling robot, robot, and recording medium
JP6270948B1 (en) Elevator user detection system
Kinpara et al. Situation-driven control of a robotic wheelchair to follow a caregiver
KR102301763B1 (en) System and method for controlling mobile robot
KR20210019704A (en) Wheelchair apparatus for movement and expression of user based on eye movement
Escobedo et al. Context-based face control of a robotic wheelchair
AU2021106262A4 (en) A brain signal controlled intelligent wheelchair with augmented reality
EP4269047A1 (en) Robot control method, robot, program, and recording medium
Miro et al. Low-cost visual tracking with an intelligent wheelchair for innovative assistive care
US20220142832A1 (en) Wheelchair systems and methods to follow a companion
Jo et al. Intelligence for a Wheelchair Robot using Camera.-
KR20190115504A (en) Apparatus and method controlling emotional expresion robot
Murata et al. A Study on the Electric Wheelchair Hands-Free Control System using the Laser Range Scanner

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121009

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130305

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5219535

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees