JP4264380B2 - 自己位置同定方法及び該装置 - Google Patents

自己位置同定方法及び該装置 Download PDF

Info

Publication number
JP4264380B2
JP4264380B2 JP2004134492A JP2004134492A JP4264380B2 JP 4264380 B2 JP4264380 B2 JP 4264380B2 JP 2004134492 A JP2004134492 A JP 2004134492A JP 2004134492 A JP2004134492 A JP 2004134492A JP 4264380 B2 JP4264380 B2 JP 4264380B2
Authority
JP
Japan
Prior art keywords
landmark
self
candidate point
image
extracted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004134492A
Other languages
English (en)
Other versions
JP2005315746A (ja
Inventor
義浩 古結
喜一 杉本
哲也 塘中
亮太 日浦
雅人 宅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Heavy Industries Ltd
Original Assignee
Mitsubishi Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Heavy Industries Ltd filed Critical Mitsubishi Heavy Industries Ltd
Priority to JP2004134492A priority Critical patent/JP4264380B2/ja
Publication of JP2005315746A publication Critical patent/JP2005315746A/ja
Application granted granted Critical
Publication of JP4264380B2 publication Critical patent/JP4264380B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

本発明は、屋内を自律走行する移動体の絶対座標系を基準とした現在位置を同定する方法及び該装置に関し、特に前記移動体に搭載された広角カメラにより取得した撮像画像に基づき、移動体位置を同定する自己位置同定方法及び該装置に関する。
従来より、自律的に行動する移動体に関する技術は種々提案されており、またこのような移動体は各種工業にて広く利用されている。さらに近年においては、一般家庭や各種施設等においても移動体の導入が要望されており、あらゆる動作環境に対応できる移動体が必要とされている。
移動体を円滑に自律走行させるには、移動体の自己位置を認識させ、さらには移動体周囲に存在する人物等の移動対象物の位置を正確に把握する必要がある。
そこで、移動体の主要な技術の一つとして、移動体の自己位置同定、及び移動対象物位置検出方法に関する技術が種々提案されている。
移動体の自己位置を検出する一般的な方法として、移動体が駆動車輪で駆動される場合、車輪に取り付けられたエンコーダの回転量から走行距離を、また2輪の相対的な回転量の差から移動体の方位を検出し、この走行距離と方位に基づき自己位置を推定するデッドレコニング法が広く採用されている。
しかし、上記した方法では、車輪のスリップが生じたり、移動体が段差に乗り上げたりした場合に誤差が発生し、自己位置同定の正確性に問題が残る。
そこで、移動体に搭載した撮像手段からの取得画像に基づき移動体の自己位置を検出する方法が、特許文献1(特開2004−12429号公報)等に開示されている。これは、前記移動体に搭載されたカメラにより撮像された撮像画像と、予め撮像された複数の事前撮像画像とに基づいて、これらの画像のエッジ特徴量を比較して自己位置を同定する方法である。
また、特許文献2(特開2002−213920号公報)には、絶対空間において、床面から略同一の高さに設けた発光色の異なる3つのLEDを、移動体に搭載したCCDカメラによって撮像し、この撮像画像をもとに絶対空間の所定位置を原点とした絶対座標系における移動体の絶対座標を求める方法を開示している。
しかし前記特許文献2の方法では、前記ランドマークの個々の識別が必要であり、また、前記ランドマークの全てが前記CCDカメラの視野範囲に入っている必要がある。従って、前記ランドマークが明瞭に撮像できない場合や、前記CCDカメラにより全ランドマークを撮像できない場合には対応できない。
また、特許文献1及び2に記載されるように、ランドマークや撮像画像の特徴量を利用した位置同定方法において最も問題とされるのが、前記ランドマークや前記特徴量を安定して抽出することが困難である点であり、特に乱雑な環境下において照明変化等の環境外乱に対して安定してこれらを抽出することは困難であった。
一方、前記移動体の周囲に存在する人物等の移動対象を検出する方法は、赤外線や超音波を利用した検知センサによる検知方法、広視野範囲を有する全方位カメラ、或いは前方カメラによる検知方法、全方位カメラと固定の複数カメラによる検知方法、複数の前方カメラによるステレオ視による検知方法等が用いられていた。
特許文献3(特開平11−250364号公報)には、移動体周囲を広範囲に撮像する広角カメラと、該移動体周囲を複数の方向から夫々撮像する複数のカメラとを有し、前記広角カメラの動画像信号から人物の動きを検出し、前記複数のカメラのうち、人物の正面方向に近いカメラを選択して該カメラの画像出力を取得する方法が提案されている。
しかしながら、赤外線や超音波を利用した検知センサは、物体までの距離を比較的精度良く検出することができるが、計測した対象物が何なのかを正確に識別することは困難である。また、全方位カメラは広い視野範囲をカバーすることはできるが、画像の歪みが大きいため移動対象物の細かい動作を捉えるには適さない。逆に、前方カメラは、狭い視野範囲に映っている対象物にしか対応できず、さらに1台のカメラのみでは対象物までの距離を計算することが困難である。また、前記特許文献3のように全方位カメラと固定の複数のカメラを利用する方法では、これらのカメラにより広い範囲を見る必要があるので、カメラ台数が増え、装置が大型化し、装置コストが増大する。さらにまた、前記ステレオ視は、複数のカメラにより撮影された画像において同一物体の対応点を見つける必要があり、計算負荷が高くなる。また対応点を精度良く探索すること自体が難しい。
このように、画像認識上の課題により、移動対象物、特に人物を正確に認識することが出来なかった。
特開2004−12429号公報 特開2002−213920号公報 特開平11−250364号公報
従って、本発明は上記従来技術の問題点に鑑み、照明変化のような環境外乱に対してもロバストで、かつ視野範囲が限られている場合においても精度良く自己位置を検出可能であり、さらには安定してランドマークを抽出可能な自己位置同定方法及び該装置を提供することを目的とする。
そこで、本発明はかかる課題を解決するために、
複数のランドマークが屋内上方に配置された環境下で自律走行する移動体の自己位置同定方法において、
予め前記複数のランドマーク位置を計測し、絶対座標系を基準とした3次元の登録位置座標として事前登録するステップと、
自律走行する移動体の概略の自己位置を予測し、探索範囲を設定するステップと、
前記移動体に搭載された広角カメラによる上方撮像画像からランドマーク候補点を抽出し、該抽出した候補点に対応する2次元の候補点座標を算出するステップと、
前記ステップで設定した探索範囲内において、絶対座標系上の移動体走行領域内に任意の仮想点を複数設定し、該仮想点に前記移動体が存在する場合に得られる画像上の前記ランドマークの2次元座標を、前記3次元の登録位置座標より夫々導出するステップと、
前記候補点座標と前記2次元座標とを夫々比較して、前記候補点座標に最も近似する2次元座標に対応する前記移動体の仮想点を、該移動体の自己位置と推定するステップと、を有することを特徴とする。
本発明において、前記自己位置推定ステップでは、前記2次元座標の近似解を導出する際に、前記2次元座標値に最も近い前記ランドマーク候補点座標との距離を計算し、事前登録された全てのランドマークについての距離を評価し、最も評価値が小さくなる位置を近似解とすることが好ましい。
本発明によれば、前記仮想点を複数設定して、該仮想点における前記ランドマークの2次元座標と、前記広角カメラの撮像画像より抽出したランドマークの候補点座標とから自己位置を推定するようにしているため、個々のランドマークの識別を必要とせず、さらに、視野範囲が不明瞭で、前記広角カメラの撮像画像から前記ランドマークのうち一部しか抽出出来ない場合においても、安定的にかつ精度良く移動体の自己位置を推定することが可能となる。このように本発明では、照明変化等の環境外乱に対してロバストな自己位置同定を達成することができる。
また、本発明によれば、天井等の上方の画像を利用するため、遮蔽物等の外乱に強い自己位置同定が行なえる。さらに、魚眼レンズや全方位カメラ等の広角カメラを利用しているため、視野が広範囲となり、多数のランドマークを必要とせず自己位置同定を行なうことができる。
また、前記移動体が発光手段を備えており、前記候補点座標を算出するステップにて、前記広角カメラにて前記ランドマーク候補点を抽出する際に、光反射シートで形成された前記ランドマークに対して前記発光手段を点滅させ、前記広角カメラによる撮像画像の画像差分を利用して前記ランドマーク候補点を抽出することを特徴とする。
これにより、前記ランドマークを確実に抽出でき、かつ該抽出する画像処理が容易となる。尚、前記発光手段は赤外光を照射する手段としても良く、このとき前記光反射シートは赤外光のみを選択的に反射する材料を用いる。赤外光は人間の目には見えないため、一般家庭の部屋等に設置しても邪魔にならない利点がある。
さらに、前記ランドマークを発光手段で形成し、前記候補点座標を算出するステップにて、前記広角カメラにて前記ランドマーク候補点を抽出する際に、前記ランドマークを点滅させ、前記広角カメラによる撮像画像の画像差分を利用して前記ランドマーク候補点を抽出することを特徴とする。
これにより、前記ランドマークの画像処理が容易となり、安定的にランドマークを抽出することができる。
さらにまた、前記ランドマークとして事前登録した画像中の特徴部位を設定し、前記候補点座標を算出するステップにて、前記広角カメラにて前記ランドマーク候補点を抽出する際に、前記事前登録画像とのマッチングにより前記ランドマーク候補点を抽出することを特徴とする。
これは、例えば走行環境の壁面や天井に存在する、画像として特徴のある箇所を選択し、ランドマークとして設定することにより、特別なランドマークを設置する必要がなく、かつランドマークのミスマッチによる同定失敗を避けることができる。
また、前記ランドマークを、前記移動体の充電ステーションと一体化することが好適である。これにより、充電ステーションへの侵入において、精度良い自己位置同定が可能となり、さらに、前記充電ステーションが移動しても、ランドマークが一体化しているため、充電ステーションとの相対位置関係の自己位置同定が簡単に行なえる。
さらに、前記移動体の車輪に付設したエンコーダからオドメトリデータを検出し、該オドメトリデータに基づき前記移動体の概略位置を検出することを特徴とする。このように、上記した発明を他の自己位置同定方法の補正機能として利用することにより、演算処理の負荷が軽減し、短時間でかつ正確な自己位置同定が行なえる。
また、本発明を好適に実施する装置の発明として、
複数のランドマークが屋内上方に配置された環境下で自律走行する移動体の自己位置同定装置において、
予め前記複数のランドマーク位置を計測し、絶対座標系を基準とした3次元の登録位置座標として事前登録する手段と、
自律走行する移動体の概略の自己位置を予測し、探索範囲を設定する手段と、
前記移動体に搭載された広角カメラによる上方撮像画像からランドマーク候補点を抽出し、該抽出した候補点に対応する2次元の候補点座標を算出する手段と、
前記設定した探索範囲内において、絶対座標系上の移動体走行領域内に任意の仮想点を複数設定し、該仮想点に前記移動体が存在する場合に得られる画像上の前記ランドマークの2次元座標を、前記3次元の登録位置座標より夫々導出する手段と、
前記候補点座標と前記2次元座標とを夫々比較して、前記候補点座標に最も近似する2次元座標に対応する前記移動体の仮想点を、該移動体の自己位置と推定する手段と、を備えたことを特徴とする。


また、前記移動体が発光手段を備えるとともに、前記ランドマークを光反射シートで形成し、
前記候補点座標を算出する手段が、前記広角カメラにて前記ランドマーク候補点を抽出する際に、光反射シートで形成された前記ランドマークに対して前記発光手段を点滅させ、前記広角カメラによる撮像画像の画像差分を利用して前記ランドマーク候補点を抽出することを特徴とする。
さらに、前記ランドマークを発光手段で形成し、前記候補点座標を算出する手段が、前記広角カメラにて前記ランドマーク候補点を抽出する際に、前記ランドマークを点滅させ、前記広角カメラによる撮像画像の画像差分を利用して前記ランドマーク候補点を抽出することを特徴とする。
さらにまた、前記ランドマークとして事前登録した画像中の特徴部位を設定し、前記候補点座標を算出する手段にて、前記広角カメラにて前記ランドマーク候補点を抽出する際に、前記事前登録画像とのマッチングにより前記ランドマーク候補点を抽出することを特徴とする。
また、前記ランドマークを、前記移動体の充電ステーションと一体化して構成することが好ましい。
以上記載のごとく本発明によれば、前記仮想点を複数設定して、該仮想点における前記ランドマークの2次元座標と、前記広角カメラの撮像画像より抽出したランドマークの候補点座標とから自己位置を推定するようにしているため、個々のランドマークの識別を必要とせず、さらに、視野範囲が不明瞭で、前記広角カメラの撮像画像から前記ランドマークのうち一部しか抽出出来ない場合においても、安定的にかつ精度良く移動体の自己位置を推定することが可能となる。
本発明では、照明変化等の環境外乱に対してロバストな自己位置同定を達成することができる。
また、本発明によれば、天井等の上方の画像を利用するため、遮蔽物等の外乱に強い自己位置同定が行なえる。さらに、魚眼レンズや全方位カメラ等の広角カメラを利用しているため、視野が広範囲となり、多数のランドマークを必要とせず自己位置同定を行なうことができる。
また、本発明では、前記移動体に発光手段と設けるとともに前期ランドマークを光反射シートで形成することにより、前記ランドマークを確実に抽出でき、かつ該抽出する画像処理が容易となる。
さらに、前記ランドマークを発光手段で形成することもでき、これにより、前記ランドマークの画像処理が容易となり、安定的に該ランドマークを抽出することができる。
さらにまた、前記ランドマークとして事前登録した画像中の特徴部位を設定することにより、特別なランドマークを設置する必要がなく、かつランドマークのミスマッチによる同定失敗を避けることができる。
また、前記ランドマークを、前記移動体の充電ステーションと一体化して設けることにより、充電ステーションへの侵入において、精度良い自己位置同定が可能となり、さらに、前記充電ステーションが移動しても、ランドマークが一体化しているため、充電ステーションとの相対位置関係の自己位置同定が簡単に行なえる。
以下、図面を参照して本発明の好適な実施例を例示的に詳しく説明する。但しこの実施例に記載されている構成部品の寸法、材質、形状、その相対的配置等は特に特定的な記載がない限りは、この発明の範囲をそれに限定する趣旨ではなく、単なる説明例に過ぎない。
本実施例に示す移動体の走行空間としては、一般家庭、各種施設、工場内等が挙げられるが、特に前記移動体は一般家庭内にてユーザの生活を補助、支援、介護するロボットであることが好適である。
図1は本実施例1に係る自己位置同定アルゴリズムを示すフロー、図2は本実施例1に係る移動体の概略構成図である。
図2に示すように、本実施例1に係る移動体10は、頭部11と胴部12と台車部13を有し、好適には腕部(不図示)等の人間の部位を備え、人間を模した形状とする。前記台車部13に装備された車輪14は、駆動制御装置15の指令に基づき制御される車輪モータ16により操舵、走行可能であり、該車輪14の回転量を検出する回転計測装置17により移動体10の移動距離、姿勢方位変化量からなるオドメトリデータを検出可能としている。
前記頭部11には、前記移動体10の上方空間を広視野範囲で撮像する全方位カメラ18と、該移動体10の前方空間を狭視野範囲で撮像する前方カメラ19と、これらのカメラからの撮像画像を基に各種画像処理を行なう画像処理装置20と、天井方向に光を放射するLED照明21と、該LED照明21を点滅等を制御する照明制御装置22が設けられている。
前記全方位カメラ18は公知のカメラであって、例えば双曲面ミラーとカメラから構成され、周囲360°から双曲面に届く光をミラーで反射して丸画像を生成し、該丸画像を画像処理することにより、移動体の周囲360°に亘る全方位の動画像が取得できる。尚、前記全方位カメラ18は、このような構成のカメラに限定されるものではなく、例えば魚眼レンズのような広角カメラであれば何れでも良い。
前記前方カメラ19は、狭視野範囲内にて歪みの少ない画像を撮像可能で、移動体10の周囲に存在する移動対象物、特に人物を認識可能であることが好ましい。尚、本実施例の自己位置同定に際しては、前記前方カメラ19を具備しない構成とすることもできる。
前記画像処理装置20は、前記全方位カメラ18等で取得した撮像画像に対して、二値化処理、差分処理等の画像の基本的な処理を行なうプログラムが格納されている。
前記LED照明21は、可視光領域若しくは赤外領域の波長の光を発するLEDが好適であり、前記照明制御装置22により発光間隔等が制御される。尚、前記LED照明21及び照明制御装置22は具備しない構成とすることもできる。
また、前記胴部12には、前記頭部11と該胴部12を回動自在に連結する頭部傾倒モータ23と、該頭部傾倒モータ23の動作を制御するとともに、該頭部傾動モータ23の動作を検出することにより頭部11の姿勢角、姿勢方位を検出する頭部傾倒制御装置24と、該頭部傾倒制御装置24、前記駆動制御装置15、前記回転計測装置17、及び前記画像処理装置20に接続された制御装置25が設けられている。
前記制御部25は、自己位置同定部と、移動対象物検出部と、データベース等を具備している。
図3に前記移動体10の走行環境を示す。該走行環境は天井を有する部屋30であり、xyz直交座標系(絶対座標系)が定められている。xy面は、部屋30の床と同一平面を有し、z軸は該床面に垂直な高さ方向と規定される。前記部屋30内における移動体10の位置は、座標(x,y)によって表現される。
前記屋内30には、天井面若しくは壁面上方に添付された、またはポール等で空間上方に設置された、複数のランドマーク31が設けられている。該ランドマーク31は、少なくとも3個以上設けるものとする。前記移動体10は該屋内30の床部を自律走行し、前記全方位カメラ15により前記ランドマーク31を撮像可能としている。本実施例における移動体位置同定処理では、前記全方位カメラ15は床面に垂直上方に向けて撮像するようにし、前記頭部傾倒制御装置24により前記頭部傾倒モータ23を制御し、前記全方位カメラ15の向きを調整する。
次に、図1及び図4を参照して本実施例1に係る自己位置同定アルゴリズムにつき説明する。まず、予め、前記ランドマーク31の各位置を計測し、絶対座標系を基準とした3次元の登録位置座標を前記画像処理装置20の記憶部(不図示)に事前登録しておく(S1)。
そして、前記移動体10の概略の自己位置を予測し、探索範囲を設定する。この自己位置の予測には、例えば車輪14の回転量と操舵角からなるオドメトリデータを前記回転計測装置17により検出し、これを積分して自己位置と方位を検出する方法等を用いると良い。
このようにして自己位置を予測したら、前記移動体10に搭載された前記全方位カメラ18により天井画像(天井近傍の壁、空間を含む)を撮像する(S2)。該天井画像の一例を、図4(A)に示す。
前記撮像した天井画像に対して、前記画像処理装置20にて二値化処理等により前記ランドマーク候補点を抽出し(図4(B)参照)、該抽出したランドマーク候補点の2次元の候補点座標を算出する(S3)。このとき、例えば2次元座標系を天井画像の座標系(左上原点)とした場合、複数のランドマーク31に対して、図4(C)に示されるようなラベル座標が得られる。
さらに、前記予測した探索範囲内において、絶対座標系上の移動体走行領域内に複数の仮想点をランダムに設定し、該仮想点に移動体10の自己位置が存在すると仮定し、夫々の仮想点にて得られる画像上の前記ランドマーク31の2次元座標を、前記3次元の登録位置座標から計算する(S4)。これにより、図4(D)に示されるような各ランドマーク31の2次元座標が得られる。
図5に、前記仮想点におけるランドマーク位置L、L、L、L、Lと、前記天井画像から抽出したランドマーク候補点位置M、M、Mを示す。
前記ランドマーク位置L、L、L、L、Lの2次元座標値と、これに最も近いランドマーク候補点M、M、Mの候補点座標値との距離を計算して距離評価値を計算し(S6)、全ての仮定した自己位置に対して、前記距離評価値を計算し、最も距離が小さくなる位置を移動体10の同定位置と推定する(S7)。そして、前記制御装置25に結果を出力する(S8)。
このように、本実施例では自己位置を仮定した仮想点を複数設定し、各仮想点におけるランドマークの2次元座標と、前記全方位カメラの撮像画像より抽出したランドマーク候補点座標とを比較し、近似解を求めるようにしているため、前記ランドマークの個々の識別を必要とせず、また前記全方位カメラ18により全てのランドマークが撮像できない場合においても、安定して自己位置を同定することができる。
勿論、本実施例においても前記ランドマーク31を個々に異なる形状とし、画像処理上で個々のランドマーク31を識別可能としても良く、これにより、より一層精度良く自己位置を同定することができる。
また、前記ランドマーク31の別の実施例として、以下の構成の何れか、若しくはこれらを組み合わせた構成を採用することができる。
まず第1の構成として、前記ランドマーク31を光反射シートとするとともに、前記移動体10に搭載された全方位カメラ18の近傍に前記LED照明21を設ける構成が挙げられる。これは、前記照射制御装置22により該LED照明21を点滅させて、前記全方位カメラ18により、前記LED照明21を照射した時と照射しない時の画像を撮像し、差分画像の変化率により前記ランドマーク31を抽出する。これにより、ランドマークを正確に抽出でき、かつ該抽出する画像処理が容易となる。尚、前記LED照明21は、赤外光を照射する照明としても良く、このとき前記光反射シートは赤外光のみを選択的に反射する材料を用いる。赤外光は人間の目には見えないため、一般家庭の部屋等に設置しても邪魔にならない利点がある。
さらに、この第1の構成において、前記反射シートを個々に異なる形状とすることが好適である。画像処理において、個々の反射シートを識別し、個々のランドマーク31の計算された座標と、画像上で得られた座標との距離を評価する。これにより、ランドマーク31のミスマッチによる同定失敗を避けることができる。
また、第2の構成として、前記ランドマーク31を点滅するLEDで形成する構成が挙げられる。そして、LEDが点灯している時と消灯している時の画像を撮像し、差分画像の変化率により前記ランドマーク31を抽出する。これにより、ランドマーク抽出の画像処理が容易となる。
さらにまた、この第2の構成において、前記LEDの色や点滅パターンを個々に異なるものにすることが好適である。このように、異なるLED種類とすることにより、画像処理で個々を識別し、画像上で得られた座標との距離を評価する。これにより、ランドマーク31のミスマッチによる同定失敗を避けることができる。
さらに、第3の構成として、前記ランドマーク31を事前登録画像ブロックとしても良い。これは壁面や天井に存在する、画像として特徴のある場所を選択しておき、前記事前登録画像とのマッチングによりランドマークとして抽出する。これにより、特別なランドマークを設置する必要がなく、かつランドマークのミスマッチによる同定の失敗を回避することができる。
また、第4の構成として、前記ランドマーク31を、移動体の充電ステーションと一体化して設置する構成が挙げられる。これにより、充電ステーションへの侵入において、精度良い自己位置同定が可能となり、さらに、前記充電ステーションが移動しても、ランドマークが一体化しているため、充電ステーションとの相対位置関係の自己位置同定が簡単に行なえる。
次に、図2に示した移動体の構成により、前記移動体10の周囲に存在する移動対象物を検出する処理につき、図6及び図7を参照して説明する。
図6は本実施例に係る人検知アルゴリズムを示すフロー、図7は本実施例に係る全方位カメラの撮像画像からの移動対象物抽出処理を示すフローである。本実施例では、検出する移動対象を人としているが、これに限定されるものではない。
図6を参照して、まず初期化3次元空間上に、仮想的な計測点(particle)をランダムな配置で多数設定する(S20)。前記全方位カメラ18及び前方カメラ19にて撮像した画像を夫々前記画像処理装置20に読み込み(S21)、前記設定した各particle位置を、全方位カメラ画像及び前方カメラ画像の点に座標変換する(S22)。このとき、前記各カメラの位置、向きを移動体10の位置姿勢、及び前記頭部傾倒モータ23の角度に基づき前記頭部傾倒制御装置24により計算しておく。
次に、前記全方位カメラ画像により移動対象の検知処理を行う(S23)。これは、該全方位カメラ画像のフレーム間差分処理を行なって移動領域を抽出し、該移動領域を2値化して移動対象物を検知する。
ここで、前記移動対象物の検知処理の詳細なアルゴリズムを図7に示す。
まず、前記全方位カメラ画像よりブロック単位で画像特徴量を抽出する(S40)。さらに、時系列的に連続する2画像を取り出し、該2画像間で変化有りのブロックを抽出する(S41)。そして、変化有りのブロック数が予め設定した閾値より小さい場合には、ブロック座標リストを出力する(S43)。
前記移動対象検知処理を行なった後、前記設定した各particleの全方位カメラ画像内に投影された座標位置に対して、その点が移動領域であるかどうかを、前記抽出したブロック座標リストを用いて評価し、スコア化する(S24)。
一方、前記全方位カメラ画像による移動体検知処理と同時に、前記前方カメラ画像による移動体検知を行なう。まず、前記設定された各particleの前方カメラ画像内に投影された各座標位置に対して、顔候補領域サイズを設定しておく(S25)。
さらに、前記設定した夫々の顔候補領域に対して、フレーム間差分処理を行なって移動領域を抽出し、該移動領域を2値化して移動対象物の有無を検知する(S26)。そして、前記投影された各particleに対して、その点が移動領域であるかどうかを評価し、スコア化する(S27)。
同様に前記設定した顔候補領域に対して、肌色抽出処理を行ない(S28)、投影された各particleに対して肌色抽出処理の評価値に基づき肌色らしさを評価し、スコア化する(S29)。
また同様に前記設定した顔候補領域に対して、形状識別による顔検知処理を行ない(S30)、投影された各particleに対して顔類似度に基づき顔らしさを評価し、スコア化する(S31)。
次に、前記全方位カメラ画像による移動体検知から導出された出力スコアと、前記前方カメラ画像による移動対象物検知、肌色らしさ、顔らしさの出力スコアに基づき、各particleに対して、全方位カメラによる人物らしさ評価値:val(f)、及び前方カメラによる人物らしさ評価値:val(e)が求められるため、両者の積(val(f)*val(e))によりそのparticleの評価値pとする(評価値が高い程、人物らしい)。
さらに、上記のようにして求めた全particleの評価値を正規化して重みとし、各particleの3次元座標値を重み付け平均化することにより、3次元位置を算出する(S32)。これは、前記particleの3次元座標を[Xi,Yi,Zi]とし、その評価値をpi、正規化された評価値(重み)をwiとすると、時刻tにおける3次元位置[Xt,Yt,Zt]は、下記式となる。
particleのスコア:pi
particleの重み:wi = pi/Σpi
Xt = Σwi*Xi, Yt = Σwi*Yi, Zt = Σwi*Zi
時刻t+1の位置は、[Xi,Yi,Zi]を中心として、その近傍にランダムに新たにparticleを設定して(S33)、前記全方位カメラ画像及び前方カメラ画像の読み込み(S21)〜時刻t+1における3次元位置の算出(S32)までの処理を行なう。
本実施例によれば、人の動きの時系列データの過去の履歴情報を基に、次の時刻における人の動き方向を状態推定しながら、人のシンボリックな動きを認識することにより、人の検知精度が向上する。尚、前記状態推定には、Kalman FilterやParticle Filter等の状態推定手法が利用可能である。
また、本実施例によれば、全方位カメラ18、前方カメラ19による撮像画像を用いて、移動対象(人)の位置情報を統合して検出することにより、精度良い移動対象(人)の検知ができる。
さらに、本実施例にて移動対象を人とした場合、人を検知する手段として、肌色らしさ情報、または顔形状類似度情報を適宜組み合わせて用いることにより、人検知の制度の向上が図れ、また移動量が少ない人であっても検知可能となる。
このように、全方位カメラ18と前方カメラ19を併用することにより、前方カメラ19の視野に入っていなくても、全方位カメラ画像にて人を検知、追跡し、その方向に移動するなどして前方カメラ18を向けることにより、顔を含む人等の移動対象物を検知することができ、より親和性の高いコミュニケーションをとることができる。
本実施例に係る自己位置同定アルゴリズムを示すフローである。 本実施例に係る移動体の概略構成図を示す。 本実施例の移動体の走行環境である部屋を示す模式図である。 全方位カメラの撮像画像からランドマークの2次元座標を抽出する処理を説明する図である。 ランドマーク位置とランドマーク候補点の位置を夫々示す図である。 本実施例に係る人検知アルゴリズムを示すフローである。 本実施例に係る全方位カメラの撮像画像からの移動対象物抽出処理を示すフローである。
符号の説明
10 移動体
11 頭部
14 車輪
15 駆動制御装置
16 車輪モータ
17 回転計測装置
18 全方位カメラ
19 前方カメラ
20 画像処理装置
21 LED照明
22 照明制御装置
23 頭部傾倒モータ
24 頭部傾倒制御装置
25 制御装置
31 ランドマーク

Claims (11)

  1. 複数のランドマークが屋内上方に配置された環境下で自律走行する移動体の自己位置同定方法において、
    予め前記複数のランドマーク位置を計測し、絶対座標系を基準とした3次元の登録位置座標として事前登録するステップと、
    自律走行する移動体の概略の自己位置を予測し、探索範囲を設定するステップと、
    前記移動体に搭載された広角カメラによる上方撮像画像からランドマーク候補点を抽出し、該抽出した候補点に対応する2次元の候補点座標を算出するステップと、
    前記ステップで設定した探索範囲内において、絶対座標系上の移動体走行領域内に任意の仮想点を複数設定し、該仮想点に前記移動体が存在する場合に得られる画像上の前記ランドマークの2次元座標を、前記3次元の登録位置座標より夫々導出するステップと、
    前記候補点座標と前記2次元座標とを夫々比較して、前記候補点座標に最も近似する2次元座標に対応する前記移動体の仮想点を、該移動体の自己位置と推定するステップと、を有することを特徴とする自己位置同定方法。
  2. 前記移動体が発光手段を備えており、前記候補点座標を算出するステップにて、前記広角カメラにて前記ランドマーク候補点を抽出する際に、光反射シートで形成された前記ランドマークに対して前記発光手段を点滅させ、前記広角カメラによる撮像画像の画像差分を利用して前記ランドマーク候補点を抽出することを特徴とする請求項1記載の自己位置同定方法。
  3. 前記ランドマークを発光手段で形成し、前記候補点座標を算出するステップにて、前記広角カメラにて前記ランドマーク候補点を抽出する際に、前記ランドマークを点滅させ、前記広角カメラによる撮像画像の画像差分を利用して前記ランドマーク候補点を抽出することを特徴とする請求項1記載の自己位置同定方法。
  4. 前記ランドマークとして事前登録した画像中の特徴部位を設定し、前記候補点座標を算出するステップにて、前記広角カメラにて前記ランドマーク候補点を抽出する際に、前記事前登録画像とのマッチングにより前記ランドマーク候補点を抽出することを特徴とする請求項1記載の自己位置同定方法。
  5. 前記ランドマークを、前記移動体の充電ステーションと一体化したことを特徴とする請求項1記載の自己位置同定方法。
  6. 前記移動体の車輪に付設したエンコーダからオドメトリデータを検出し、該オドメトリデータに基づき前記移動体の概略位置を検出することを特徴とする請求項1記載の自己位置同定方法。
  7. 複数のランドマークが屋内上方に配置された環境下で自律走行する移動体の自己位置同定装置において、
    予め前記複数のランドマーク位置を計測し、絶対座標系を基準とした3次元の登録位置座標として事前登録する手段と、
    自律走行する移動体の概略の自己位置を予測し、探索範囲を設定する手段と、
    前記移動体に搭載された広角カメラによる上方撮像画像からランドマーク候補点を抽出し、該抽出した候補点に対応する2次元の候補点座標を算出する手段と、
    前記設定した探索範囲内において、絶対座標系上の移動体走行領域内に任意の仮想点を複数設定し、該仮想点に前記移動体が存在する場合に得られる画像上の前記ランドマークの2次元座標を、前記3次元の登録位置座標より夫々導出する手段と、
    前記候補点座標と前記2次元座標とを夫々比較して、前記候補点座標に最も近似する2次元座標に対応する前記移動体の仮想点を、該移動体の自己位置と推定する手段と、を備えたことを特徴とする自己位置同定装置。
  8. 前記移動体が発光手段を備えるとともに、前記ランドマークを光反射シートで形成し、
    前記候補点座標を算出する手段が、前記広角カメラにて前記ランドマーク候補点を抽出する際に、光反射シートで形成された前記ランドマークに対して前記発光手段を点滅させ、前記広角カメラによる撮像画像の画像差分を利用して前記ランドマーク候補点を抽出することを特徴とする請求項7記載の自己位置同定装置。
  9. 前記ランドマークを発光手段で形成し、前記候補点座標を算出する手段が、前記広角カメラにて前記ランドマーク候補点を抽出する際に、前記ランドマークを点滅させ、前記広角カメラによる撮像画像の画像差分を利用して前記ランドマーク候補点を抽出することを特徴とする請求項7記載の自己位置同定装置。
  10. 前記ランドマークとして事前登録した画像中の特徴部位を設定し、前記候補点座標を算出する手段にて、前記広角カメラにて前記ランドマーク候補点を抽出する際に、前記事前登録画像とのマッチングにより前記ランドマーク候補点を抽出することを特徴とする請求項7記載の自己位置同定装置。
  11. 前記ランドマークを、前記移動体の充電ステーションと一体化して構成することを特徴とする請求項7記載の自己位置同定装置。
JP2004134492A 2004-04-28 2004-04-28 自己位置同定方法及び該装置 Expired - Lifetime JP4264380B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004134492A JP4264380B2 (ja) 2004-04-28 2004-04-28 自己位置同定方法及び該装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004134492A JP4264380B2 (ja) 2004-04-28 2004-04-28 自己位置同定方法及び該装置

Publications (2)

Publication Number Publication Date
JP2005315746A JP2005315746A (ja) 2005-11-10
JP4264380B2 true JP4264380B2 (ja) 2009-05-13

Family

ID=35443330

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004134492A Expired - Lifetime JP4264380B2 (ja) 2004-04-28 2004-04-28 自己位置同定方法及び該装置

Country Status (1)

Country Link
JP (1) JP4264380B2 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100749923B1 (ko) 2005-12-08 2007-08-21 한국전자통신연구원 카메라와 표식을 이용한 이동 로봇의 측위 시스템 및 방법
JP4467534B2 (ja) * 2006-03-16 2010-05-26 富士通株式会社 障害物のある環境下で自律移動する移動ロボットおよび移動ロボットの制御方法。
JP4448497B2 (ja) * 2006-03-23 2010-04-07 本田技研工業株式会社 移動体の自己位置検出装置および位置検出システム
EP2017573B1 (en) * 2006-03-31 2013-11-20 Murata Kikai Kabushiki Kaisha Estimation device, estimation method and estimation program for estimating a position of mobile unit
KR100854653B1 (ko) 2006-05-12 2008-08-27 주식회사 한울로보틱스 충전스테이션을 이용한 이동로봇의 위치 인식장치
JP2007316966A (ja) * 2006-05-26 2007-12-06 Fujitsu Ltd 移動ロボット、その制御方法及びプログラム
KR100785784B1 (ko) * 2006-07-27 2007-12-13 한국전자통신연구원 인공표식과 오도메트리를 결합한 실시간 위치산출 시스템및 방법
KR100784125B1 (ko) 2006-09-28 2007-12-12 전자부품연구원 단일 카메라를 이용한 이동 로봇의 랜드 마크의 좌표 추출방법
KR100941418B1 (ko) * 2007-03-20 2010-02-11 삼성전자주식회사 이동 로봇의 위치 인식 방법
KR100884904B1 (ko) * 2007-09-12 2009-02-19 아주대학교산학협력단 평행 투영 모델을 이용한 자기위치 인식 방법
JP2010033447A (ja) * 2008-07-30 2010-02-12 Toshiba Corp 画像処理装置および画像処理方法
EP2495632B1 (en) 2009-10-30 2018-09-12 Yujin Robot Co., Ltd. Map generating and updating method for mobile robot position recognition
KR101663650B1 (ko) * 2010-06-29 2016-10-07 삼성전자주식회사 거리 신호를 이용하여 위치를 인식하는 장치 및 방법
KR101448500B1 (ko) * 2013-04-17 2014-10-16 전자부품연구원 카메라 기반의 외벽 주행 장치 및 그의 위치 파악 방법
US10061324B2 (en) * 2014-07-30 2018-08-28 Hitachi, Ltd. Autonomous moving device and self position estimation method
JP2018044793A (ja) * 2016-09-12 2018-03-22 株式会社リコー 情報処理システム、位置情報管理サーバ、情報処理方法、およびプログラム
US10365656B2 (en) * 2017-11-22 2019-07-30 Locus Robotics Corp. Robot charger docking localization
EP3726329A4 (en) 2017-12-12 2021-01-27 Sony Corporation INFORMATION PROCESSING DEVICE, MOBILE BODY, CONTROL SYSTEM, INFORMATION PROCESSING PROCESS AND PROGRAM
CN110274594B (zh) * 2018-03-14 2021-04-23 京东方科技集团股份有限公司 一种室内定位设备及方法
JP2019220035A (ja) * 2018-06-22 2019-12-26 株式会社明電舎 無人搬送車、無人搬送車の大域地図作成システム及び大域地図作成方法
JP7171425B2 (ja) * 2018-12-27 2022-11-15 フォルシアクラリオン・エレクトロニクス株式会社 移動量推定装置
JP7274889B2 (ja) * 2019-02-26 2023-05-17 センクシア株式会社 自走式ロボット及びこれを用いたマーキング方法
JP7240897B2 (ja) * 2019-02-26 2023-03-16 センクシア株式会社 自走式ロボット及びこれを用いたマーキング方法
JP7363225B2 (ja) * 2019-09-06 2023-10-18 日本電気株式会社 計測装置、計測システム、計測方法およびプログラム
JP7350671B2 (ja) * 2020-02-25 2023-09-26 三菱重工業株式会社 位置推定装置、制御装置、産業用車両、物流支援システム、位置推定方法およびプログラム
WO2021237443A1 (zh) * 2020-05-26 2021-12-02 蜂图志科技控股有限公司 一种视觉定位方法、装置、设备及可读存储介质
JP2022050929A (ja) 2020-09-18 2022-03-31 カシオ計算機株式会社 移動体位置決定装置、移動体位置決定方法及びプログラム
WO2022110159A1 (zh) * 2020-11-30 2022-06-02 深圳市大疆创新科技有限公司 定位方法、装置、可移动平台、地标及地标阵列

Also Published As

Publication number Publication date
JP2005315746A (ja) 2005-11-10

Similar Documents

Publication Publication Date Title
JP4264380B2 (ja) 自己位置同定方法及び該装置
US9911226B2 (en) Method for cleaning or processing a room by means of an autonomously mobile device
JP7353747B2 (ja) 情報処理装置、システム、方法、およびプログラム
KR100790860B1 (ko) 사람 추적 장치 및 방법, 그 방법을 수행하기 위한프로그램이 저장된 기록매체와 그 장치를 포함하는 이동형전자기기
US7684894B2 (en) Autonomously moving robot
US8265425B2 (en) Rectangular table detection using hybrid RGB and depth camera sensors
US8209074B2 (en) Robot and method for controlling the same
JP4753103B2 (ja) 移動体位置の推定装置と推定方法及び推定プログラム
WO2008013355A1 (en) System and method for calculating location using a combination of odometry and landmarks
JP2006234453A (ja) 自己位置標定用ランドマーク位置の登録方法
JP4042517B2 (ja) 移動体およびその位置検出装置
JP5221939B2 (ja) 位置特定装置および動作指示装置並びに自走式ロボット
CN114252071A (zh) 自走车导航装置及其方法
KR100784125B1 (ko) 단일 카메라를 이용한 이동 로봇의 랜드 마크의 좌표 추출방법
KR100906991B1 (ko) 로봇의 비시인성 장애물 탐지방법
Frese et al. Multi-sensor obstacle tracking for safe human-robot interaction
Naser et al. Infrastructure-free NLoS obstacle detection for autonomous cars
KR100593503B1 (ko) 이동로봇의 위치인식 장치 및 방법
KR100500831B1 (ko) 로봇청소기의 회전각도 산출방법
Jia et al. Recent developments in vision based target tracking for autonomous vehicles navigation
Luo et al. Mobile robot based human detection and tracking using range and intensity data fusion
Milella et al. Model-based relative localization for cooperative robots using stereo vision
Rostkowska et al. Improving self-localization efficiency in a small mobile robot by using a hybrid field of view vision system
Rusdinar et al. Vision-based indoor localization using artificial landmarks and natural features on the ceiling with optical flow and a kalman filter
Jia et al. Vision based target tracking for autonomous land vehicle navigation: a brief survey

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060223

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080403

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080912

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090123

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090216

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4264380

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120220

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130220

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140220

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350