JP7183085B2 - 移動体行動登録装置、移動体行動登録システム、移動体行動登録方法、移動体行動登録プログラム、及び移動体行動決定装置 - Google Patents

移動体行動登録装置、移動体行動登録システム、移動体行動登録方法、移動体行動登録プログラム、及び移動体行動決定装置 Download PDF

Info

Publication number
JP7183085B2
JP7183085B2 JP2019047372A JP2019047372A JP7183085B2 JP 7183085 B2 JP7183085 B2 JP 7183085B2 JP 2019047372 A JP2019047372 A JP 2019047372A JP 2019047372 A JP2019047372 A JP 2019047372A JP 7183085 B2 JP7183085 B2 JP 7183085B2
Authority
JP
Japan
Prior art keywords
reference image
registration
behavior
unit
marker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019047372A
Other languages
English (en)
Other versions
JP2020149463A (ja
Inventor
佑典 田副
友樹 渡辺
晃仁 関
諒 中島
拓弥 宮本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2019047372A priority Critical patent/JP7183085B2/ja
Priority to US16/554,483 priority patent/US11257177B2/en
Publication of JP2020149463A publication Critical patent/JP2020149463A/ja
Application granted granted Critical
Publication of JP7183085B2 publication Critical patent/JP7183085B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/51Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/587Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using geographical or spatial information, e.g. location
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0014Image feed-back for automatic industrial control, e.g. robot with camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Description

本発明の実施形態は、移動体行動登録装置、移動体行動登録システム、及び移動体行動決定装置に関する。
移動ロボットに設置されたカメラで撮影した画像に基づいて、移動ロボットの自己位置を推定する自己位置推定装置を備える移動ロボットがある。自己位置推定装置は、環境中に人工的に設置したマーカ(例えばAR(Augmented Reality)マーカなど)又は環境中に存在する位置、姿勢、及び形状が既知のランドマーク(例えば建物の角といった周辺と明暗が異なる場所など)を用いて、移動ロボットの自己位置を推定する。位置、姿勢、及び形状が既知のランドマークを用いて自己位置推定を行う場合、マーカを設置する必要がないという利点がある。
ところで、移動ロボットにおいては、目標地点までの行動又は目標地点到達時の行動について事前に決定する必要がある。
特許第5803119号公報 特許第5158162号公報 特開2004-30445号公報
本発明が解決しようとする課題は、マーカを用いずに移動体の自己位置を推定することと、移動体の行動を決定することと、を可能にする登録情報を生成することができる移動体行動登録装置及び移動体行動登録システム、並びに、上記の登録情報に基づいて移動体の行動を決定することができる移動体行動決定装置を提供することである。
一実施形態に係る移動体行動登録装置は、基準画像取得部、ランドマーク検出部、マーカ検出部、相対位置算出部、属性識別部、及び登録部を備える。基準画像取得部は、撮像部から、マーカを含む第1の基準画像を含む少なくとも1枚の基準画像を取得する。ランドマーク検出部は、前記少なくとも1枚の基準画像に基づいて、環境中の特徴的な部位を表す特徴点をランドマークとして検出する。マーカ検出部は、前記第1の基準画像に基づいて、前記マーカを検出する。相対位置算出部は、前記ランドマークの検出結果と前記マーカの検出結果とに基づいて、前記ランドマークと前記マーカとの相対位置を算出する。属性識別部は、前記第1の基準画像に基づいて、行動に対応付けられた前記マーカの属性を識別する。登録部は、前記相対位置と、前記属性に基づく行動情報と、を含む登録情報をデータベースに登録する。
第1の実施形態に係る移動体行動登録システムを示すブロック図。 図1に示した移動体行動登録システムの外観を示す側面図。 図1に示した移動体行動登録装置を示すブロック図。 図4に示した移動体行動登録装置の処理手順を示すフローチャート。 第2の実施形態に係る移動体制御装置を示すブロック図。 図6に示した移動体制御装置の処理手順を示すフローチャート。 第3の実施形態に係る移動体行動登録装置を示すブロック図。 図7に示した移動体行動登録装置の処理手順を示すフローチャート。 第4の実施形態に係る移動体制御装置を示すブロック図。 図9に示した移動体制御装置の処理手順を示すフローチャート。 一実施形態に係る情報処理装置のハードウェア構成を示すブロック図。
以下、図面を参照しながら実施形態を説明する。
(第1の実施形態)
第1の実施形態では、撮像装置により撮影された画像に基づいて自己位置を推定することが可能な移動体の行動手順を決定するために使用される移動体行動登録システムについて説明する。自己位置は、位置(例えば3次元位置)及び姿勢(向きともいう)を含む。移動体は、出発地点から目標地点まで自律的に移動する移動体であり得る。移動体は、例えば、自動車、移動ロボットなどである。
図1は、第1の実施形態に係る移動体行動登録システム100を概略的に示すブロック図であり、図2は、移動体行動登録システム100の外観を概略的に示す側面図である。図1に示すように、移動体行動登録システム100は、移動体101、撮像部102、通信インタフェース103、移動体行動登録装置104、及びコントローラ105を備える。コントローラ105は、移動体101、撮像部102、通信インタフェース103、及び移動体行動登録装置104を制御する。
図2に示す例では、移動体101は、本体111、車輪112、及び車輪112を駆動する駆動機構(図示せず)を備えるロボットである。移動体101は歩行式ロボットであってもよい。移動体101は、コントローラ105による制御に従って移動する。移動体101の本体111の内部に、通信インタフェース103、移動体行動登録装置104、及びコントローラ105が設けられる。
撮像部102は、移動体101の本体111に取り付けられた少なくとも1つの撮像装置を備える。本実施形態では、撮像部102は、撮像装置としてのカメラ121、122を備える。カメラ121は、天井を含む画像を撮影できるように、斜め上向きに移動体101に設けられる。カメラ122は、地面上に設置されたマーカを含む画像を撮影できるように、斜め下向きに移動体101に設けられる。マーカは任意の場所(例えば壁など)に設置されてよい。
マーカは、環境中に人工的に設置されたものである。マーカには、行動と対応付けられた属性が付与される。属性は、例えば、マーカの向き、位置、模様、色、形状、識別情報(ID)、大きさ、点滅、発光などである。属性と行動との間の対応関係を示すデータは、移動体行動登録装置104により保持されてもよく、外部の記憶装置に格納されてもよい。行動は、例えば、移動体自体の向き、移動方向、速度、移動体に搭載されたデバイス(機構)への指示などである。例えば、緑色のマーカは所定速度への減速に対応付けられ、赤色のマーカは所定方向への移動方向の変更に対応付けられる。属性は、行動の内容に加えて、その行動を行うべき位置を示す情報に対応付けられてもよい。
カメラ121の光軸と地面との成す角度及びカメラ122の光軸と地面との成す角度は既知であるとする。また、カメラ121の光学中心の高さ(地面とカメラ121の光学中心との間の距離)及びカメラ122の光学中心の高さ(地面とカメラ122の光学中心との間の距離)は既知であるとする。
カメラ121、122は、単眼カメラであってもよく、ステレオカメラであってもよく、魚眼カメラであってもよい。また、カメラ121、122によって撮影される画像は、RGBの3チャネル画像であってもよく、グレースケールで表現された1チャネル画像であってもよい。
図1を参照すると、通信インタフェース103は、例えば、無線LAN(Local Area Network)モジュールなどの無線モジュールを備え、外部デバイスと無線通信する。例えば、通信インタフェース103は、オペレータにより使用される外部デバイスから、移動体101の移動を指示する指示信号を受信し、指示信号をコントローラ105に送る。コントローラ105は、通信インタフェース103から受け取った指示信号に従って移動体の移動を制御する。なお、通信インタフェース103は、無線モジュールに代えて、LAN端子又はUSB(Universal Serial Bus)端子などの端子を備え、外部デバイスと有線通信してもよい。
移動体行動登録装置104は、撮像部102から、マーカを含む画像を含む少なくとも1枚の画像を基準画像として受け取る。本実施形態では、移動体行動登録装置104は、撮像部102から、カメラ121により撮影された基準画像と、カメラ122により撮影されたマーカを含む基準画像と、を受け取る。移動体行動登録装置104は、撮像部102から受け取った基準画像に基づいて移動体(移動体101と異なり得る)の行動手順を決定するための登録情報を生成し、生成した登録情報をデータベース(図示せず)に登録する。データベースが移動体行動登録システム100の外部に存在する場合、登録はコントローラ105及び通信インタフェース103を介して行われる。
図3を参照して、移動体行動登録装置104について詳細に説明する。図3に示す例では、移動体行動登録装置104は、基準画像取得部301、ランドマーク検出部302、マーカ検出部303、属性識別部304、相対位置算出部305、及び登録部306を備える。
基準画像取得部301は、撮像部102から少なくとも1枚の基準画像を取得する。少なくとも1枚の基準画像は、マーカを含む基準画像を含む。本実施形態では、基準画像取得部301は、カメラ121により撮影された基準画像と、カメラ122により撮影されたマーカを含む基準画像と、を取得する。
ランドマーク検出部302は、基準画像取得部301により取得された少なくとも1枚の基準画像に基づいて、環境中の特徴的な部位を表す特徴点をランドマークとして検出する。環境中の特徴的な部位はマーカとは異なる。環境中の特徴的な部位は、自然物又は人工物のいずれに関するものであってもよい。本実施形態では、環境中の特徴的な部位は天井に設けられた構造物又は天井の模様に関する。例えば、ランドマーク検出部302は、カメラ121により撮影された基準画像から特徴点をランドマークとして抽出し、ランドマークの位置を算出する。
ランドマークの3次元位置は、基準画像中のランドマークの画像座標とカメラ121の自己位置とに基づいて算出することができる。例えば、複数のランドマークの各々の3次元位置は、三角測量の原理によって、異なる2つの位置でカメラ121により撮影された2枚の画像中の複数のランドマークの画像座標の組に基づいて算出することができる。ランドマークの3次元空間中での位置は、例えば、3次元空間中の座標と回転を表す四元数との組み合わせで表現される。なお、位置及び姿勢は、任意の自由度で表現されてよい。また、位置及び姿勢は、任意の表現方法で記述されてよい。例えば、床面での移動のように移動体101の移動が平面上で行われると仮定できる場合には、並進に関する2自由度と回転に関する1自由度とを合わせた3自由度で表現することができる。また、3次元空間中の姿勢を表現するために、四元数の代わりに、回転行列、回転軸及び回転方向を表すベクトル、又はオイラー角などを用いてもよい。
カメラ121の自己位置は、SfM(Structure from Motion)又はSLAM(Simultaneous Localization and Mapping)などの画像処理技術を使用して推定することができる。移動体101を移動させながらカメラ121により複数の画像を取得し、これらの画像に対してSfM又はSLAMを適用することにより、個々の画像が取得されたときのカメラ121の位置及び姿勢を推定することができる。具体的には、自己位置は、複数のランドマークのカメラ座標の組を用いて、基本行列又は基礎行列又は射影変換行列に基づいて、算出することができる。複数のランドマークのカメラ座標の組は、画像間でランドマークの対応付けを行うことにより求めることができる。対応付けは、例えば、テンプレートマッチング、Lucas-Kanade法、SIFTなどを用いて実現される。なお、この場合は、絶対的なスケールを求めるために、並進ベクトルのノルムを1に正規化するなどの処理を実施してもよいし、加速度センサ又はジャイロセンサによりスケールを決定してもよい。
マーカ検出部303は、カメラ122により撮影された基準画像に基づいて、マーカを検出する。マーカ検出部303は、マーカの位置を算出する。マーカの3次元位置を算出する方法としては、例えば、3次元座標が既知なパターンを有するマーカを環境中に置いておき、マーカをカメラ122で撮影し、AR-Toolkitなどを用いて画像処理を行う方法がある。3次元座標が既知なパターンを有するマーカを用いたこの方法は、カメラ122の自己位置を正確に決定することを可能にする。カメラ122の自己位置に基づいて移動体101の自己位置及びカメラ121の自己位置を算出することができるので、移動体101の自己位置及びカメラ121の自己位置も正確に決定することが可能となる。
特定のマーカを用いない場合、マーカの3次元位置は、基準画像中のマーカ上の特徴点の画像座標と、カメラ122の自己位置と、に基づいて、算出することができる。マーカ上の特徴点の3次元位置は三角測量の原理によって算出することができる。特徴点の3次元空間中での位置は、例えば、3次元空間中の座標と回転を表す四元数との組み合わせで表現される。なお、前述したように、位置及び姿勢は、任意の自由度で表現されてよく、また、任意の表現方法で記述されてよい。
カメラ122の自己位置が未知である場合、カメラ122の自己位置は、カメラ121に関して上述したものと同様の方法で算出することができる。カメラ122の自己位置の算出では、マーカ上の特徴点が使用される。
属性識別部304は、カメラ122により撮影された基準画像に基づいて、行動に対応付けられたマーカの属性を識別する。属性は、例えば、マーカの向き、位置、模様、色、形状、識別情報(ID)、大きさ、点滅、発光などで表現される。例えば、属性識別部304は、マーカが予め設定された色のうちのいずれの色であるかを識別する。
相対位置算出部305は、ランドマーク検出部302によるランドマークの検出結果とマーカ検出部303によるマーカの検出結果とに基づいて、ランドマークとマーカとの相対位置を算出する。例えば、相対位置算出部305は、ランドマーク検出部302により算出されたランドマークの位置に基づいて、移動体101とランドマークとの間の回転行列及び並進行列である第1の回転行列及び第1の並進行列を算出する。さらに、相対位置算出部305は、マーカ検出部303により算出されたマーカの位置に基づいて、移動体101とマーカとの間の回転行列及び並進行列である第2の回転行列及び第2の並進行列を算出する。そして、相対位置算出部305は、第1の回転行列、第1の並進行列、第2の回転行列、及び第2の並進行列に基づいて、ランドマークとマーカとの間の相対的な回転行列及び並進行列を算出することにより、ランドマークとマーカとの相対位置を求める。
登録部306は、基準画像取得部301により取得された基準画像(例えばカメラ121により撮影された基準画像)と、相対位置算出部305により算出されたランドマークとマーカとの相対位置と、属性識別部304により識別された属性に基づいた行動情報と、をデータベースに登録する。行動情報は、移動体が行うべき行動を特定するための情報である。行動情報は、例えば、属性識別部304により識別された属性を示す情報である。行動情報は、属性識別部304により識別された属性に対応付けられた行動を示す情報であってもよい。この場合、登録部306は、属性識別部304により識別された属性で属性と行動との間の対応関係を示すデータを参照することにより、識別された属性に対応付けられた行動を特定する。行動情報は、行動を行うべき位置を示す情報を含んでよい。
移動体行動登録装置104は、対応関係変更部307をさらに備えてよい。対応関係変更部307は、属性と行動との間の対応関係を変更する。属性に対応付けられた行動の内容を動的に変更することが可能である。
次に、移動体行動登録装置104の動作例について説明する。
図4は、移動体行動登録装置104の処理手順の一例を概略的に示すフローチャートである。図4のステップS401では、基準画像取得部301は、撮像部102から、マーカを含む基準画像を含む少なくとも1枚の基準画像を取得する。例えば、基準画像取得部301は、カメラ121により撮影された基準画像と、カメラ122により撮影された基準画像と、を取得する。カメラ122により撮影された基準画像にマーカが写っている。
ステップS402では、ランドマーク検出部302は、基準画像取得部301により取得された少なくとも1枚の基準画像に基づいて、ランドマークを検出する。具体的には、ランドマーク検出部302は、カメラ121により撮影された基準画像中の特徴点をランドマークとして検出し、ランドマークの位置を算出する。
ステップS403では、マーカ検出部303は、基準画像取得部301により取得された少なくとも1枚の基準画像に基づいて、マーカを検出する。具体的には、マーカ検出部303は、カメラ122により撮影された基準画像に基づいて、マーカの位置を算出する。
ステップS404では、属性識別部304は、基準画像取得部301により取得された少なくとも1枚の基準画像に基づいて、マーカの属性を識別する。具体的には、属性識別部304は、カメラ122により撮影された基準画像に基づいて、マーカの属性を識別する。
ステップS405では、相対位置算出部305は、ランドマークとマーカとの相対位置を算出する。例えば、相対位置算出部305は、ランドマーク検出部302により算出されたランドマークの位置に基づいて、移動体101とランドマークとの間の回転行列及び並進行列である第1の回転行列及び第1の並進行列を算出し、マーカ検出部303により算出されたマーカの位置に基づいて、移動体101とマーカとの間の回転行列及び並進行列である第2の回転行列及び第2の並進行列を算出し、相対位置算出部305は、第1の回転行列、第1の並進行列、第2の回転行列、及び第2の並進行列に基づいて、ランドマークとマーカとの間の相対的な回転行列及び並進行列を算出する。
ステップS406では、登録部306は、基準画像取得部301により取得された基準画像と、相対位置算出部305により算出されたランドマークとマーカとの相対位置と、属性識別部304により識別された属性に基づいた行動情報と、を含む登録情報を生成し、登録情報をデータベースに登録する。
上述した処理手順は一例に過ぎない。処理手順及び各処理の内容は適宜変更可能である。例えば、ステップS405の処理はステップS404の処理よりも前に実行されてもよい。
以上のように、移動体行動登録システム100は、カメラ121、122により撮影された基準画像を取得し、取得した基準画像に基づいてランドマーク及びマーカの位置を算出し、ランドマーク及びマーカの算出した位置に基づいてランドマークとマーカとの相対位置を算出し、カメラ122により撮影された基準画像に基づいてマーカの属性を識別し、取得した基準画像と、算出した相対位置と、識別した属性に基づいた行動情報と、を含む登録情報を生成する。移動体行動登録システム100により生成された登録情報は、第2の実施形態において説明するように、マーカを用いずに移動体の自己位置を推定すること、及び移動体の行動を決定することを可能にする。よって、移動体行動登録システム100は、マーカを用いずに移動体の自己位置を推定すること及び移動体の行動を決定することを可能にする登録情報を生成することができる。
上述した例では、登録部306は、基準画像取得部301により取得された基準画像を含む登録情報を生成する。登録部306は、基準画像に代えて又は追加して、ランドマークに関する特徴量を含む登録情報を生成してもよい。この場合、ランドマーク検出部302は、基準画像中のランドマークの周辺領域から、ランドマークに関する特徴量を算出する。周辺領域は、例えば、ランドマークの画像座標を重心位置として含むn画素×m画素の矩形領域であってよい。ここで、n、mは符号なしの整数である。特徴量としては、例えば、輝度勾配方向ヒストグラムを用いることができる。
上述した例では、撮像部102は2つのカメラ121、122を含む。撮像部102は、1つのカメラであってもよく、3つ以上のカメラを含んでもよい。例えば、ランドマーク検出部302は、マーカを含む基準画像に基づいてランドマークを検出してもよい。
(第2の実施形態)
第2の実施形態では、第1の実施形態に係る移動体行動登録システム100により登録された登録情報に基づいて、撮像装置により撮影された画像に基づいて自己位置を推定することが可能な移動体の行動を決定する移動体決定装置について説明する。
図5は、第2の実施形態に係る移動体制御装置500を概略的に示している。図5に示すように、移動体制御装置500は、移動体503の行動を制御する。移動体503は、例えば、本体、車輪、及び車輪を駆動する駆動機構を備えるロボットである。移動体503は、第1の実施形態において説明した移動体101(図2)と同じであってもよく、異なっていてもよい。移動体制御装置500は移動体503の本体内部に設けられる。
移動体制御装置500は、移動体行動決定装置501及びコントローラ502を備える。移動体行動決定装置501は、入力画像取得部511、登録情報取得部512、推定部513、及び行動決定部514を備える。
入力画像取得部511は、少なくとも1つの撮像装置を含む撮像部504から、入力画像を取得する。本実施形態では、撮像部504は、撮像装置としてのカメラ505を含み、入力画像取得部511は、カメラ505により撮影された画像を入力画像として取得する。
カメラ505は、天井を含む画像を撮影できるように、斜め上向きに移動体503に設けられる。カメラ505の光軸と地面との成す角度は既知であるとする。カメラ505の光学中心の高さ(地面とカメラ505の光学中心との間の距離)は既知であるとする。カメラ505は、単眼カメラであってもよく、ステレオカメラであってもよく、魚眼カメラであってもよい。また、カメラ505によって取得される画像は、RGBの3チャネル画像であってもよく、グレースケールで表現された1チャネル画像であってもよい。
登録情報取得部512は、データベース(図示せず)から登録情報を取得する。登録情報は、基準画像と、ランドマークとマーカとの相対位置である第1の相対位置と、行動情報と、を含む。登録情報は、第1の実施形態において説明した移動体行動登録システム100(図1)によって生成されたものである。
データベースが外部に設けられる場合、登録情報取得部512は、通信インタフェース506を介してデータベースにアクセスし、データベースから登録情報を取得する。通信インタフェース506は、例えば、無線LANモジュールなどの無線モジュールを備え、外部デバイスと無線通信する。通信インタフェース506は、無線モジュールに代えて、LAN端子又はUSB端子などの端子を備え、外部デバイスと有線通信してもよい。
推定部513は、入力画像取得部511により取得された入力画像と、登録情報取得部512により取得された登録情報に含まれる基準画像及び第1の相対位置と、に基づいて、移動体503とマーカとの相対位置である第2の相対位置を推定する。移動体503の行動を制御する際には、環境中にマーカを設置する必要はない。ここで言及されるマーカは、仮想的なマーカであり、移動体行動登録装置104(図1)が登録情報を生成する際に設置されていたマーカに対応する。
推定部513は、登録情報取得部512により取得された登録情報に含まれる基準画像に基づいて環境中の特徴的な部位を表す特徴点をランドマークとして検出する。推定部513は、移動体行動登録装置104のランドマーク検出部302と同様の方法でランドマーク検出を行う。これにより、推定部513は、ランドマーク検出部302がランドマークとして検出したものと同じ特徴点をランドマークとして検出する。さらに、推定部513は、入力画像からランドマークの候補点を抽出し、抽出した候補点のうち、基準画像から検出されたランドマークに対応する点を算出することで、基準画像が撮影された位置(基準位置)からの移動量を算出し、算出した移動量に基づいて第2の相対位置を算出する。対応点の算出は、ランドマークの候補点に関する特徴量と、基準画像から検出されたランドマークに関する特徴量と、を比較し、特徴量空間上での距離が近い候補点を対応点とする方法を用いることで実現することができる。特徴量としては、例えば、輝度勾配方向ヒストグラムを用いることができる。
行動決定部514は、推定部513により推定された第2の相対位置と、登録情報取得部512により取得された登録情報に含まれる行動情報と、に基づいて、移動体503の行動を決定する。例えば、行動決定部514は、移動体503とマーカとの距離が所定の距離より小さくなったときに、行動情報により指定される行動を行う指示信号を生成する。行動情報が属性を示す情報を含む場合、行動決定部514は、属性と行動との間の対応関係を示すデータを参照することで、移動体503の行動を決定する。行動情報が行動を行うべき位置を示す情報を含む場合、行動決定部514は、行動情報により指定される位置で行動情報により指定される行動を行う指示信号を生成する。
コントローラ502は、行動決定部514により決定された行動に基づいて、移動体503を制御する。
次に、移動体制御装置500の動作例について説明する。
図6は、移動体制御装置500の処理手順の一例を概略的に示している。図6のステップS601では、入力画像取得部511は、撮像部504から入力画像を取得する。例えば、入力画像取得部511は、カメラ505により撮影された画像を入力画像として取得する。
ステップS602では、登録情報取得部512は、データベースから、登録情報を取得する。例えば、登録情報は、基準画像、ランドマークとマーカとの相対位置である第1の相対位置、及び行動情報を含む。
ステップS603では、推定部513は、入力画像取得部511により取得された入力画像と、登録情報取得部512により取得された登録情報に含まれる基準画像及び第1の相対位置と、に基づいて、移動体503とマーカとの相対位置である第2の相対位置を推定する。
ステップS604では、行動決定部514は、推定部513により推定された第2の相対位置と、登録情報取得部512により取得された登録情報に含まれる行動情報と、に基づいて、移動体503の行動を決定する。
ステップS605では、コントローラ502は、行動決定部514により決定された行動を行うよう移動体503を制御する。
このようにして、移動体制御装置500は、移動体503に所定の行動を行わせながら、目標地点まで移動体503を移動させる。
以上のように、第2の実施形態に係る移動体制御装置500は、撮像部から撮像装置により撮影された入力画像を取得し、データベースから、基準画像と、ランドマークとマーカとの相対位置である第1の相対位置と、行動情報と、を含む登録情報を取得し、入力画像と第1の相対位置とに基づいて、移動体503とマーカとの相対位置である第2の相対位置を推定し、第2の相対位置と行動情報とに基づいて、移動体の行動を決定する。入力画像と登録情報に含まれる基準画像及び第1の相対位置とに基づいて第2の相対位置を推定することにより、マーカを用いずに移動体503の自己位置を正確に算出することができる。その結果、目標地点まで移動体503をうまく移動させることが可能になる。さらに、登録情報に含まれる行動情報を用いることで移動体503に所定の行動を行わせることが可能になる。
(第3の実施形態)
第3の実施形態では、移動体行動登録装置が複数の地点で登録情報を生成する場合について説明する。この場合、出発地点から目標地点までの経路に沿って複数のマーカが配置される。
図7は、第3の実施形態に係る移動体行動登録装置700を概略的に示している。第3の実施形態に係る移動体行動登録システムは、図1に示した移動体行動登録システム100において移動体行動登録装置104を移動体行動登録装置700に置換したものであり得る。
図7に示す例では、移動体行動登録装置700は、2地点で登録情報を生成するために、第1の登録情報生成部701及び第2の登録情報生成部702を備える。第1の登録情報生成部701及び第2の登録情報生成部702は各々、図3に示した基準画像取得部301、ランドマーク検出部302、マーカ検出部303、属性識別部304、及び相対位置算出部305と同様の処理を行う。このため、第1の登録情報生成部701及び第2の登録情報生成部702についての説明は適宜省略する。移動体行動登録装置700は登録部703をさらに備える。
第1の登録情報生成部701は、撮像部102から、第1の基準位置(例えば移動体101の移動開始前の位置)において撮影された第1の基準画像を取得する。例えば、第1の登録情報生成部701は、第1の基準位置でカメラ121及びカメラ122によって撮影された画像を第1の基準画像として取得する。カメラ122による第1の基準画像は第1のマーカを含む。第1の登録情報生成部701は、カメラ121による第1の基準画像における特徴点を第1のランドマークとして検出する。第1の登録情報生成部701は、カメラ122による第1の基準画像に基づいて、第1のマーカ及びその属性を検出する。第1の登録情報生成部701は、第1のランドマークの検出結果及び第1のマーカの検出結果に基づいて第1のランドマークと第1のマーカとの相対位置である第1の相対位置を算出する。第1の登録情報生成部701は、カメラ121による第1の基準画像と、第1の相対位置と、第1のマーカの属性に基づいた行動情報と、を含む第1の登録情報を生成する。第1の登録情報は、例えば、移動体101の移動開始前であることを示す情報でラベル付けされる。
第2の登録情報生成部702は、撮像部102から、第2の基準位置(例えば移動体101が移動中の任意の位置)において撮影された第2の基準画像を取得する。例えば、第2の登録情報生成部702は、第2の基準位置でカメラ121及びカメラ122によって撮影された画像を第2の基準画像として取得する。カメラ122による第2の基準画像は、第1のマーカとは異なる第2のマーカを含む。第2の登録情報生成部702は、カメラ121による第2の基準画像における特徴点を第2のランドマークとして検出する。第2の登録情報生成部702は、カメラ122による第2の基準画像に基づいて、第2のマーカ及びその属性を検出する。第2の登録情報生成部702は、第2のランドマークの検出結果及び第2のマーカの検出結果に基づいて第2のランドマークと第2のマーカとの相対位置である第2の相対位置を算出する。第2の登録情報生成部702は、カメラ121による第2の基準画像と、第2の相対位置と、第2のマーカの属性に基づいた行動情報と、を含む第2の登録情報を生成する。第2の登録情報は、例えば、移動体101の移動中であることを示す情報でラベル付けされる。
登録部703は、第1の登録情報生成部701により生成された第1の登録情報及び第2の登録情報生成部702により生成された第2の登録情報をデータベースに登録する。
次に、移動体行動登録装置700の動作例について説明する。
図8は、移動体行動登録装置700の処理手順の一例を概略的に示している。図8のステップS801では、第1の登録情報生成部701は、撮像部102から、移動体101が第1の基準位置にあるときにカメラ121、122により撮影された第1の基準画像を取得する。
ステップS802では、第1の登録情報生成部701は、カメラ121による第1の基準画像に基づいて第1のランドマークを検出する。例えば、第1の登録情報生成部701は、カメラ121による第1の基準画像における特徴点を第1のランドマークとして検出し、第1のランドマークの位置を算出する。ステップS803では、第1の登録情報生成部701は、カメラ122による第1の基準画像に基づいて第1のマーカを検出する。例えば、第1の登録情報生成部701は、カメラ122による第1の基準画像に基づいて第1のマーカの位置を算出する。ステップS804では、カメラ122による第1の基準画像に基づいて第1のマーカの属性を識別する。ステップS805では、第1の登録情報生成部701は、第1のランドマークの検出結果及び第1のマーカの検出結果に基づいて第1のランドマークと第1のマーカとの相対位置である第1の相対位置を算出する。
ステップS806では、登録部703は、カメラ121による第1の基準画像と、第1の相対位置と、第1のマーカの属性に基づいた行動情報と、を含む第1の登録情報を生成し、生成した第1の登録情報をデータベースに登録する。
ステップS807では、第2の登録情報生成部702は、撮像部102から、移動体101が第1の基準位置とは異なる第2の基準位置にあるときにカメラ121、122により撮影された第2の基準画像を取得する。
ステップS808では、第2の登録情報生成部702は、カメラ121による第2の基準画像に基づいて第2のランドマークを検出する。例えば、第2の登録情報生成部702は、カメラ121による第2の基準画像における特徴点を第2のランドマークとして検出し、第2のランドマークの位置を算出する。ステップS809では、第2の登録情報生成部702は、カメラ122による第2の基準画像に基づいて第2のマーカを検出する。例えば、第2の登録情報生成部702は、カメラ122による第2の基準画像に基づいて第2のマーカの位置を算出する。ステップS810では、カメラ122による第2の基準画像に基づいて第2のマーカの属性を識別する。ステップS811では、第2の登録情報生成部702は、第2のランドマークの検出結果及び第2のマーカの検出結果に基づいて第2のランドマークと第2のマーカとの相対位置である第2の相対位置を算出する。
ステップS812では、登録部703は、カメラ121による第2の基準画像と、第2の相対位置と、第2のマーカの属性に基づいた行動情報と、を含む第2の登録情報を生成し、生成した第2の登録情報をデータベースに登録する。
このようにして、移動体行動登録装置700は複数の地点で登録情報を生成し、生成した登録情報をデータベースに登録する。例えば、移動体が広い通路から狭い通路へと移動する場合において、狭い通路の入り口付近に第2のマーカが設置される。その結果生成された登録情報は、マーカを用いずに移動体が広い通路から狭い通路へとうまく移動することを可能にする。
(第4の実施形態)
第4の実施形態では、第3の実施形態に係る移動体行動登録装置700により生成された登録情報に基づいて、移動体の行動を制御する移動体制御装置について説明する。
図9は、第4の実施形態に係る移動体制御装置900を概略的に示している。図9において、図5に示した部分と同様の部分に同様の参照符号を付して、その説明を省略する。
図9に示すように、移動体制御装置900は、移動体行動決定装置901及びコントローラ502を備える。移動体行動決定装置901は、第1の行動指示生成部910、第2の行動指示生成部920、及び判定部930を備える。第1の行動指示生成部910は、第1の入力画像取得部911、第1の登録情報取得部912、第1の推定部913、及び第1の行動決定部914を備える。第2の行動指示生成部920は、第2の入力画像取得部921、第2の登録情報取得部922、第2の推定部923、及び第2の行動決定部924を備える。第1の入力画像取得部911、第1の登録情報取得部912、第1の推定部913、及び第1の行動決定部914はそれぞれ、図5に示した入力画像取得部511、登録情報取得部512、推定部513、及び行動決定部514と同様の処理を行う。第2の入力画像取得部921、第2の登録情報取得部922、第2の推定部923、及び第2の行動決定部924はそれぞれ、図5に示した入力画像取得部511、登録情報取得部512、推定部513、及び行動決定部514と同様の処理を行う。このため、第1の入力画像取得部911、第1の登録情報取得部912、第1の推定部913、第1の行動決定部914、第2の入力画像取得部921、第2の登録情報取得部922、第2の推定部923、及び第2の行動決定部924についての説明は適宜省略する。
第1の入力画像取得部911は、撮像部504から、カメラ505により撮影された画像を第1の入力画像として取得する。
第1の登録情報取得部912は、データベース(図示せず)から第1の登録情報を取得する。第1の登録情報は、第3の実施形態において説明した第1の登録情報生成部701により生成されたものであり得る。第1の登録情報は、第1の基準画像、第1のランドマークと第1のマーカとの相対位置、及び第1の行動情報を含む。
第1の推定部913は、第1の入力画像取得部911により取得された第1の入力画像と、第1の登録情報取得部912により取得された第1の登録情報に含まれる第1の基準画像及び第1の相対位置と、に基づいて、移動体503と第1のマーカとの相対位置である第3の相対位置を推定する。
第1の行動決定部914は、第1の推定部913により推定された第3の相対位置と、第1の登録情報に含まれる第1の行動情報と、に基づいて、移動体503の行動を決定する。
第2の入力画像取得部921は、撮像部504から、カメラ505により撮影された画像を第2の入力画像として取得する。
第2の登録情報取得部922は、データベースから第2の登録情報を取得する。第2の登録情報は、第3の実施形態において説明した第2の登録情報生成部702により生成されたものであり得る。第2の登録情報は、第2の基準画像、第2のランドマークと第2のマーカとの相対位置、及び第2の行動情報を含む。
第2の推定部923は、第2の入力画像取得部921により取得された第2の入力画像と、第2の登録情報取得部922により取得された第2の登録情報に含まれる第2の基準画像及び第2の相対位置と、に基づいて、移動体503と第2のマーカとの相対位置である第4の相対位置を推定する。
第2の行動決定部924は、第2の推定部923により推定された第4の相対位置と、第2の登録情報に含まれる第2の行動情報と、に基づいて、移動体503の行動を決定する。
判定部930は、移動体503の位置に基づいて、第1の行動指示生成部910又は第2の行動指示生成部920のどちらを使用するかを判定する。具体的には、判定部930は、移動体503が第1の登録情報に対応するエリアにいる場合に、第1の行動指示生成部910を使用すると判定し、移動体503が第2の登録情報に対応するエリアにいる場合に、第2の行動指示生成部920を使用すると判定する。一例として、判定部930は、移動体503と目標地点との距離が所定の距離を超える場合に、第1の行動指示生成部910を使用すると判定し、そうでない場合に、第2の行動指示生成部920を使用すると判定する。
コントローラ502は、移動体503の位置に応じて第1の行動指示生成部910又は第2の行動指示生成部920のいずれかにより生成された行動指示に基づいて、移動体503の動作を制御する。
次に、移動体制御装置900の動作例について説明する。
図10は、移動体制御装置900の処理手順の一例を概略的に示している。図10のステップS1001では、第1の入力画像取得部911は、撮像部504からカメラ505により撮影された第1の入力画像を取得する。ステップS1002では、第1の登録情報取得部912は、データベースから第1の登録情報を取得する。ステップS1003では、第1の推定部913は、第1の入力画像と、第1の登録情報に含まれる第1の基準画像及び第1の相対位置と、に基づいて、第1のランドマークと第1のマーカとの相対位置である第3の相対位置を推定する。ステップS1004では、第1の行動決定部914は、第1の登録情報に含まれる行動情報と、第1の推定部913により推定された第3の相対位置と、に基づいて、移動体503の行動を決定する。ステップS1005では、コントローラ502は、第1の行動決定部914によって決定された行動を行うよう移動体503を制御する。
ステップS1006では、判定部930は、移動体503が第2の登録情報に対応するエリアにいるか否かを判定する。移動体503が第2の登録情報に対応するエリアにいない場合(ステップS1006;No)、ステップS1001、S1003、S1004、S1005が繰り返される。
移動体503が第2の登録情報に対応するエリアにいる場合(ステップS1006;Yes)、ステップS1007では、第2の入力画像取得部921は、撮像部504からカメラ505により撮影された第2の入力画像を取得する。ステップS1008では、第2の登録情報取得部922は、データベースから第2の登録情報を取得する。ステップS1009では、第2の推定部923は、第2の入力画像と、第2の登録情報に含まれる第2の基準画像及び第2の相対位置と、に基づいて、第2のランドマークと第2のマーカとの相対位置である第4の相対位置を推定する。ステップS1010では、第2の行動決定部924は、第2の登録情報に含まれる行動情報と、第2の推定部923により推定された第4の相対位置と、に基づいて、移動体503の行動を決定する。ステップS1011では、コントローラ502は、第2の行動決定部924によって決定された行動を行うよう移動体503を制御する。
このようにして、移動体制御装置900は、移動体503に所定の行動を行わせながら、目標地点まで移動体503を移動させる。移動体503の動作時にはマーカを設置する必要がない。
図11は、一実施形態に係る情報処理装置1100のハードウェア構成の一例を概略的に示している。図11に示す情報処理装置1100は、第1の実施形態に係る移動体行動登録装置104(図3)、第2の実施形態に係る移動体制御装置500(図5)、第3の実施形態に係る移動体行動登録装置700(図7)、又は第4の実施形態に係る移動体制御装置900(図9)に対応する。
情報処理装置1100は、CPU(Central Processing Unit)1101、主記憶装置1102、補助記憶装置1103、入力装置1104、及び表示装置1105を備え、これらはバス1106により互いに接続されている。
CPU1101は、汎用プロセッサの一例である。主記憶装置1102は、SDRAM(Synchronous Dynamic Random Access Memory)などの揮発性メモリであり、ワーキングメモリとしてCPU1101に使用される。補助記憶装置1103は、ハードディスクドライブ(HDD)又はソリッドステートドライブ(SSD)などの不揮発性メモリであり、移動体行動登録プログラム又は移動体制御プログラムなどのプログラム、プログラムを実行するために必要なデータ、属性と行動との対応関係を示すデータなどを記憶する。
情報処理装置1100が移動体行動登録装置104として使用される場合、移動体行動登録装置104の上述した機能、例えば、基準画像取得部301、ランドマーク検出部302、マーカ検出部303、属性識別部304、相対位置算出部305、登録部306、及び対応関係変更部307による処理は、CPU1101が移動体行動登録プログラムを実行することにより実現される。すなわち、CPU1101は、移動体行動登録プログラムに従って、基準画像取得部301、ランドマーク検出部302、マーカ検出部303、属性識別部304、相対位置算出部305、登録部306、及び対応関係変更部307に関して上述した処理を実行するように構成される。
情報処理装置1100が移動体制御装置500として使用される場合、移動体制御装置500の上述した機能、例えば、入力画像取得部511、登録情報取得部512、推定部513、及び行動決定部514、及びコントローラ502による処理は、CPU1101が移動体制御プログラムを実行することにより実現される。
情報処理装置1100が移動体行動登録装置700として使用される場合、移動体行動登録装置700の上述した機能、例えば、第1の登録情報生成部701及び第2の登録情報生成部702による処理は、CPU1101が移動体行動登録プログラムを実行することにより実現される。
情報処理装置1100が移動体制御装置900として使用される場合、移動体制御装置900の上述した機能、例えば、第1の入力画像取得部911、第1の登録情報取得部912、第1の推定部913、第1の行動決定部914、第2の入力画像取得部921、第2の登録情報取得部922、第2の推定部923、第2の行動決定部924、判定部930、及びコントローラ502による処理は、CPU1101が移動体制御プログラムを実行することにより実現される。
なお、各装置の機能の一部又は全部は、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)などの専用プロセッサにより実現されてもよい。ハードウェアプロセッサ又は処理回路という用語は、汎用プロセッサ、専用プロセッサ、又は汎用プロセッサと専用プロセッサの組み合わせを含む。
入力装置1104は、例えば、キーボード及びマウスを含む。表示装置1105は、例えば、液晶表示装置(LCD)又はOLED(Organic Light Emitting Diode)ディスプレイなどであり得る。
上述の実施形態の中で示した処理手順に示された指示は、ソフトウェアであるプログラムに基づいて実行されることが可能である。汎用の計算機システムが、このプログラムを予め記憶しておき、このプログラムを読み込むことにより、上述した移動体行動登録装置又は移動体制御装置による効果と同様な効果を得ることが可能である。上述の実施形態で記述された指示は、コンピュータに実行させることのできるプログラムとして、磁気ディスク(フレキシブルディスク、ハードディスクなど)、光ディスク(CD-ROM、CD-R、CD-RW、DVD-ROM、DVD±R、DVD±RWなど)、半導体メモリ、又はこれに類する記録媒体に記録される。コンピュータまたは組み込みシステムが読み取り可能な記録媒体であれば、その記憶形式は何れの形態であってもよい。コンピュータは、この記録媒体からプログラムを読み込み、このプログラムに基づいてプログラムに記述されている指示をCPUで実行させれば、上述した実施形態に係る移動体行動登録装置又は移動体制御装置と同様な動作を実現することができる。もちろん、コンピュータがプログラムを取得する場合又は読み込む場合はネットワークを通じて取得又は読み込んでもよい。
また、記録媒体からコンピュータや組み込みシステムにインストールされたプログラムの指示に基づきコンピュータ上で稼働しているOS(オペレーティングシステム)や、データベース管理ソフト、ネットワーク等のMW(ミドルウェア)などが本実施形態を実現するための各処理の一部を実行してもよい。
さらに、本実施形態における記録媒体は、コンピュータあるいは組み込みシステムと独立した媒体に限らず、LANやインターネット等により伝達されたプログラムをダウンロードして記憶または一時記憶した記録媒体も含まれる。
また、記録媒体は1つに限られず、複数の媒体から本実施形態における処理が実行される場合も、本実施形態における記録媒体に含まれ、媒体の構成は何れの構成であってもよい。
なお、本実施形態におけるコンピュータまたは組み込みシステムは、記録媒体に記憶されたプログラムに基づき、本実施形態における各処理を実行するためのものであって、パソコン、マイコン等の1つからなる装置、複数の装置がネットワーク接続されたシステム等の何れの構成であってもよい。
また、本実施形態におけるコンピュータとは、パソコンに限らず、情報処理機器に含まれる演算処理装置、マイコン等も含み、プログラムによって本実施形態における機能を実現することが可能な機器、装置を総称している。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
100…移動体行動登録システム、101…移動体、102…撮像部、103…通信インタフェース、104…移動体行動登録装置、105…コントローラ、111…本体、112…車輪、121,122…カメラ、301…基準画像取得部、302…ランドマーク検出部、303…マーカ検出部、304…属性識別部、305…相対位置算出部、306…登録部、307…対応関係変更部、500…移動体制御装置、501…移動体行動決定装置、502…コントローラ、503…移動体、504…撮像部、505…カメラ、506…通信インタフェース、511…入力画像取得部、512…登録情報取得部、513…推定部、514…行動決定部、700…移動体行動登録装置、701…第1の登録情報生成部、702…第2の登録情報生成部、703…登録部、900…移動体制御装置、901…移動体行動決定装置、910…第1の行動指示生成部、911…第1の入力画像取得部、912…第1の登録情報取得部、913…第1の推定部、914…第1の行動決定部、920…第2の行動指示生成部、921…第2の入力画像取得部、922…第2の登録情報取得部、923…第2の推定部、924…第2の行動決定部、930…判定部、1100…情報処理装置、1101…CPU、1102…主記憶装置、1103…補助記憶装置、1104…入力装置、1105…表示装置、1106…バス。

Claims (14)

  1. 移動経路における各位置での移動体の行動を可能にするための事前登録で利用される移動体行動登録装置であって、
    撮像部から、第1の基準画像及び、前記移動体の前記移動経路に設置され、前記移動体の位置及び行動の特定に利用されるマーカを含む第2の基準画像を取得する基準画像取得部と、
    前記第1の基準画像に基づいて、環境中の自然物又は人工物の特徴的な部位を示す特徴点をランドマークとして検出するランドマーク検出部と、
    前記第2の基準画像に基づいて、前記マーカを検出するマーカ検出部と、
    前記ランドマークの検出結果と前記マーカの検出結果とに基づいて、前記ランドマークと前記マーカとの相対位置を算出する相対位置算出部と、
    前記第2の基準画像に基づいて、前記マーカの属性を識別する属性識別部と、
    前記相対位置と、前記識別された属性に対応付けられた、前記相対位置における行動を特定するための行動情報と、前記第1の基準画像又は前記第1の基準画像から算出される前記ランドマークに関する特徴量と、を含む登録情報をデータベースに登録する登録部と、
    を備える移動体行動登録装置。
  2. 前記登録情報は、前記第1の基準画像を含む、請求項1に記載の移動体行動登録装置。
  3. 前記ランドマーク検出部は、前記ランドマークに関する前記特徴量を算出し、
    前記登録情報は、前記特徴量を含む、請求項1に記載の移動体行動登録装置。
  4. 前記第1の基準画像は前記第2の基準画像とは異なる、
    請求項1乃至3のいずれか1項に記載の移動体行動登録装置。
  5. 前記第1の基準画像及び前記第2の基準画像は同一の画像である、
    請求項1乃至3のいずれか1項に記載の移動体行動登録装置。
  6. 前記相対位置算出部は、前記相対位置として、前記ランドマークと前記マーカとの相対的な3次元位置を算出する、請求項1乃至5のいずれか1項に記載の移動体行動登録装置。
  7. 前記属性は、前記マーカの向き、位置、模様、色、形状、識別情報、大きさ、点滅、発光のうちの少なくとも1つを含む、請求項1乃至6のいずれか1項に記載の移動体行動登録装置。
  8. 属性と行動との対応関係を変更する対応関係変更部をさらに備え、
    前記登録部は、前記識別された属性及び前記属性と行動との対応関係に基づいて、前記行動情報を生成する、請求項1乃至7のいずれか1項に記載の移動体行動登録装置。
  9. 移動経路における各位置での第1の移動体の行動を可能にするための事前登録で利用される移動体行動登録システムであって、
    第2の移動体と、
    前記第2の移動体の移動を制御するコントローラと、
    前記第2の移動体に設置された撮像部から、第1の基準画像及び、前記第1の移動体の前記移動経路に設置され、前記第1の移動体の位置及び行動の特定に利用されるマーカを含む第2の基準画像を取得する基準画像取得部と、
    前記第1の基準画像に基づいて、環境中の自然物又は人工物の特徴的な部位を示す特徴点をランドマークとして検出するランドマーク検出部と、
    前記第2の基準画像に基づいて、前記マーカを検出するマーカ検出部と、
    前記ランドマークの検出結果と前記マーカの検出結果とに基づいて、前記ランドマークと前記マーカとの相対位置を算出する相対位置算出部と、
    前記第2の基準画像に基づいて、前記マーカの属性を識別する属性識別部と、
    前記相対位置と、前記識別された属性に対応付けられた、前記相対位置における行動を特定するための行動情報と、前記第1の基準画像又は前記第1の基準画像から算出される前記ランドマークに関する特徴量と、を含む登録情報をデータベースに登録する登録部と、
    を備える移動体行動登録システム。
  10. 移動経路における各位置での移動体の行動を可能にするための事前登録で利用される移動体行動登録装置により実行される移動体行動登録方法であって、
    撮像部から、第1の基準画像及び、前記移動体の前記移動経路に設置され、前記移動体の位置及び行動の特定に利用されるマーカを含む第2の基準画像を取得することと、
    前記第1の基準画像に基づいて、環境中の自然物又は人工物の特徴的な部位を示す特徴点をランドマークとして検出することと、
    前記第2の基準画像に基づいて、前記マーカを検出することと、
    前記ランドマークの検出結果と前記マーカの検出結果とに基づいて、前記ランドマークと前記マーカとの相対位置を算出することと、
    前記第2の基準画像に基づいて、前記マーカの属性を識別することと、
    前記相対位置と、前記識別された属性に対応付けられた、前記相対位置における行動を特定するための行動情報と、前記第1の基準画像又は前記第1の基準画像から算出される前記ランドマークに関する特徴量と、を含む登録情報をデータベースに登録することと、
    を備える移動体行動登録方法。
  11. 移動経路における各位置での移動体の行動を可能にするための事前登録で利用される移動体行動登録装置のコンピュータを、
    撮像部から、第1の基準画像及び、前記移動体の前記移動経路に設置され、前記移動体の位置及び行動の特定に利用されるマーカを含む第2の基準画像を取得する基準画像取得手段、
    前記第1の基準画像に基づいて、環境中の自然物又は人工物の特徴的な部位を示す特徴点をランドマークとして検出するランドマーク検出手段、
    前記第2の基準画像に基づいて、前記マーカを検出するマーカ検出手段、
    前記ランドマークの検出結果と前記マーカの検出結果とに基づいて、前記ランドマークと前記マーカとの相対位置を算出する相対位置算出手段、
    前記第2の基準画像に基づいて、前記マーカの属性を識別する属性識別手段、及び
    前記相対位置と、前記識別された属性に対応付けられた、前記相対位置における行動を特定するための行動情報と、前記第1の基準画像又は前記第1の基準画像から算出される前記ランドマークに関する特徴量と、を含む登録情報をデータベースに登録する登録手段
    として機能させるための移動体行動登録プログラム。
  12. 移動体に設置された撮像部から、入力画像を取得する入力画像取得部と、
    ランドマークとマーカとの相対位置である第1の相対位置と、前記マーカの属性に対応付けられた、前記第1の相対位置における行動を特定するための行動情報と、前記ランドマークを含む基準画像又は前記基準画像から算出される前記ランドマークに関する特徴量と、を含む登録情報が事前に登録されたデータベースから前記登録情報を取得する登録情報取得部と、
    前記入力画像と、前記登録情報に含まれる前記第1の相対位置と、前記登録情報に含まれる前記基準画像又は前記特徴量と、に基づいて、前記移動体と前記マーカとの相対位置である第2の相対位置を推定する推定部と、
    前記第2の相対位置と前記登録情報に含まれる前記行動情報とに基づいて、前記移動体の行動を決定する行動決定部と、
    を備える移動体行動決定装置。
  13. 前記入力画像は、前記マーカを含まない、請求項12に記載の移動体行動決定装置。
  14. 前記行動は、前記移動体の向き、移動方向、速度、前記移動体に搭載された機構への指示のうちの少なくとも1つを含む、請求項12又は13に記載の移動体行動決定装置。
JP2019047372A 2019-03-14 2019-03-14 移動体行動登録装置、移動体行動登録システム、移動体行動登録方法、移動体行動登録プログラム、及び移動体行動決定装置 Active JP7183085B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019047372A JP7183085B2 (ja) 2019-03-14 2019-03-14 移動体行動登録装置、移動体行動登録システム、移動体行動登録方法、移動体行動登録プログラム、及び移動体行動決定装置
US16/554,483 US11257177B2 (en) 2019-03-14 2019-08-28 Moving object action registration apparatus, moving object action registration system, and moving object action determination apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019047372A JP7183085B2 (ja) 2019-03-14 2019-03-14 移動体行動登録装置、移動体行動登録システム、移動体行動登録方法、移動体行動登録プログラム、及び移動体行動決定装置

Publications (2)

Publication Number Publication Date
JP2020149463A JP2020149463A (ja) 2020-09-17
JP7183085B2 true JP7183085B2 (ja) 2022-12-05

Family

ID=72423447

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019047372A Active JP7183085B2 (ja) 2019-03-14 2019-03-14 移動体行動登録装置、移動体行動登録システム、移動体行動登録方法、移動体行動登録プログラム、及び移動体行動決定装置

Country Status (2)

Country Link
US (1) US11257177B2 (ja)
JP (1) JP7183085B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3343172B1 (en) * 2017-01-03 2024-03-13 iOnRoad Technologies Ltd. Creation and use of enhanced maps
JP7183085B2 (ja) * 2019-03-14 2022-12-05 株式会社東芝 移動体行動登録装置、移動体行動登録システム、移動体行動登録方法、移動体行動登録プログラム、及び移動体行動決定装置
WO2023119566A1 (ja) * 2021-12-23 2023-06-29 本田技研工業株式会社 搬送システム
EP4254336A1 (en) * 2022-03-30 2023-10-04 Auki Labs AG A computer implemented method for locating an electronic device in a coordinate system

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006346767A (ja) 2005-06-13 2006-12-28 Toshiba Corp 移動ロボット、マーカ、移動ロボットの位置姿勢算出方法、移動ロボットの自律走行システム
JP2009175903A (ja) 2008-01-23 2009-08-06 Yaskawa Electric Corp 移動体教示システム
JP2011138502A (ja) 2009-12-17 2011-07-14 Deere & Co 区域分解を用いるエリア・カバレッジ・システムおよび方法
US20110196563A1 (en) 2010-02-09 2011-08-11 Carefusion 303, Inc. Autonomous navigation and ink recognition system
JP2015149013A (ja) 2014-02-07 2015-08-20 トヨタ自動車株式会社 移動体の目標位置の設定方法

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SU929819A1 (ru) 1978-03-16 1982-05-23 Всесоюзный Нефтегазовый Научно-Исследовательский Институт (Внии) Способ шахтной разработки нефт ной залежи
JPH08211936A (ja) * 1995-02-02 1996-08-20 Mitsubishi Heavy Ind Ltd 移動体の誘導装置
JPH11272328A (ja) * 1998-03-25 1999-10-08 Nippon Signal Co Ltd:The 色標識,移動ロボットおよび移動ロボットの誘導方法
JP2004030445A (ja) 2002-06-27 2004-01-29 National Institute Of Advanced Industrial & Technology 移動ロボットの自己位置推定方法及びシステム、並びにプログラム
EP1959391A1 (de) * 2007-02-13 2008-08-20 BrainLAB AG Bestimmung des dreidimensionalen Verlaufs des Randes einer anatomischen Struktur
JP5380789B2 (ja) * 2007-06-06 2014-01-08 ソニー株式会社 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム
WO2009005141A1 (ja) * 2007-07-05 2009-01-08 Nec Corporation 物体領域検出装置、物体領域検出システム、物体領域検出方法及びプログラム
JP5294343B2 (ja) * 2008-06-10 2013-09-18 国立大学法人東京工業大学 画像位置合わせ処理装置、領域拡張処理装置及び画質改善処理装置
EP2153794B1 (en) * 2008-08-15 2016-11-09 Stryker European Holdings I, LLC System for and method of visualizing an interior of a body
JP4623199B2 (ja) * 2008-10-27 2011-02-02 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
KR101083394B1 (ko) * 2009-10-30 2011-11-14 주식회사 유진로봇 이동 로봇의 위치 인식을 위한 지도 생성 및 갱신 방법
JP5158162B2 (ja) 2010-09-14 2013-03-06 日本電気株式会社 拡張現実表示システム、拡張現実表示方法および拡張現実表示プログラム
JP5803119B2 (ja) 2011-02-03 2015-11-04 セイコーエプソン株式会社 ロボット装置、位置検出装置、位置検出プログラム、および位置検出方法
JP2013033317A (ja) * 2011-08-01 2013-02-14 Sony Corp 画像処理装置、画像処理方法、及び、プログラム
KR20140053712A (ko) * 2012-10-26 2014-05-08 (주)하기소닉 센서 융합에 의한 실내로봇용 위치인식 방법
US9336574B2 (en) * 2013-01-07 2016-05-10 GM Global Technology Operations LLC Image super-resolution for dynamic rearview mirror
AU2014231341B2 (en) * 2013-03-15 2019-06-06 Synaptive Medical Inc. System and method for dynamic validation, correction of registration for surgical navigation
JP6225039B2 (ja) * 2014-01-31 2017-11-01 株式会社日立製作所 画像検索システム、画像検索装置及び画像検索方法
JP6516832B2 (ja) * 2015-04-08 2019-05-22 株式会社日立製作所 画像検索装置、システム及び方法
JP6030732B1 (ja) * 2015-09-09 2016-11-24 株式会社小森コーポレーション 見当誤差量検出方法および装置
JP6744747B2 (ja) * 2016-04-01 2020-08-19 キヤノン株式会社 情報処理装置およびその制御方法
EP3509527A4 (en) * 2016-09-09 2020-12-30 Mobius Imaging LLC METHODS AND SYSTEMS FOR DISPLAYING PATIENT DATA IN COMPUTER-ASSISTED SURGERY
US10474884B2 (en) * 2016-11-14 2019-11-12 Aisin Seiki Kabushiki Kaisha Action determination device
WO2018113911A1 (en) * 2016-12-20 2018-06-28 Softkinetic Software Distance-independent keypoint detection
TWI603227B (zh) * 2016-12-23 2017-10-21 李雨暹 移動物件的虛擬訊息遠距管理方法與應用系統
US10121091B2 (en) * 2017-02-09 2018-11-06 Rosemount Aerospace Inc. IMU-aided image registration
JP7067023B2 (ja) * 2017-11-10 2022-05-16 富士通株式会社 情報処理装置、背景更新方法および背景更新プログラム
JP7183085B2 (ja) * 2019-03-14 2022-12-05 株式会社東芝 移動体行動登録装置、移動体行動登録システム、移動体行動登録方法、移動体行動登録プログラム、及び移動体行動決定装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006346767A (ja) 2005-06-13 2006-12-28 Toshiba Corp 移動ロボット、マーカ、移動ロボットの位置姿勢算出方法、移動ロボットの自律走行システム
JP2009175903A (ja) 2008-01-23 2009-08-06 Yaskawa Electric Corp 移動体教示システム
JP2011138502A (ja) 2009-12-17 2011-07-14 Deere & Co 区域分解を用いるエリア・カバレッジ・システムおよび方法
US20110196563A1 (en) 2010-02-09 2011-08-11 Carefusion 303, Inc. Autonomous navigation and ink recognition system
JP2015149013A (ja) 2014-02-07 2015-08-20 トヨタ自動車株式会社 移動体の目標位置の設定方法

Also Published As

Publication number Publication date
US20200294176A1 (en) 2020-09-17
JP2020149463A (ja) 2020-09-17
US11257177B2 (en) 2022-02-22

Similar Documents

Publication Publication Date Title
JP7183085B2 (ja) 移動体行動登録装置、移動体行動登録システム、移動体行動登録方法、移動体行動登録プログラム、及び移動体行動決定装置
US9953461B2 (en) Navigation system applying augmented reality
US11127203B2 (en) Leveraging crowdsourced data for localization and mapping within an environment
KR102399630B1 (ko) 굴착기의 버킷의 포즈 결정 방법 및 장치
JP6658001B2 (ja) 位置推定装置、プログラム、位置推定方法
JP6237326B2 (ja) 姿勢推定装置、姿勢推定方法及び姿勢推定用コンピュータプログラム
JP5803367B2 (ja) 自己位置推定装置、自己位置推定方法およびプログラム
KR101880185B1 (ko) 이동체 포즈 추정을 위한 전자 장치 및 그의 이동체 포즈 추정 방법
KR20110097140A (ko) 이동 로봇의 위치 추정 장치 및 방법
KR102006291B1 (ko) 전자 장치의 이동체 포즈 추정 방법
US20200013188A1 (en) Location estimating apparatus and method, learning apparatus and method, and computer program products
WO2020195875A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP6410231B2 (ja) 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム
US20230079899A1 (en) Determination of an absolute initial position of a vehicle
Wei et al. An approach to navigation for the humanoid robot nao in domestic environments
KR101738751B1 (ko) 실내 자기장을 이용한 이동 로봇의 위치 인식 방법 및 장치
Mohareri et al. A vision-based location positioning system via augmented reality: An application in humanoid robot navigation
JP6847442B2 (ja) 物体追跡装置、物体追跡方法、及び物体追跡プログラム
JPWO2019087581A1 (ja) 情報処理装置と情報処理方法およびプログラム
JP6886136B2 (ja) 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム
WO2018134866A1 (ja) カメラ校正装置
Hernández et al. Visual SLAM with oriented landmarks and partial odometry
KR20220154379A (ko) 보행자와 카메라 간 거리의 추정 방법 및 장치
Araar et al. Towards Low-Cost Indoor Localisation Using a Multi-camera System
KR102618069B1 (ko) 지상조사 로봇의 점군 자료와 시각정보를 이용한 실내건물 재난정보 분석 방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200907

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210511

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210804

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211207

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221025

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221122

R151 Written notification of patent or utility model registration

Ref document number: 7183085

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151