JP2023037656A - 自走式移動装置 - Google Patents

自走式移動装置 Download PDF

Info

Publication number
JP2023037656A
JP2023037656A JP2021144364A JP2021144364A JP2023037656A JP 2023037656 A JP2023037656 A JP 2023037656A JP 2021144364 A JP2021144364 A JP 2021144364A JP 2021144364 A JP2021144364 A JP 2021144364A JP 2023037656 A JP2023037656 A JP 2023037656A
Authority
JP
Japan
Prior art keywords
marker
self
camera
image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021144364A
Other languages
English (en)
Other versions
JP7278637B2 (ja
Inventor
光秀 佐藤
Mitsuhide Sato
素弘 中村
Motohiro Nakamura
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
M Tec Co Ltd
Original Assignee
M Tec Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by M Tec Co Ltd filed Critical M Tec Co Ltd
Priority to JP2021144364A priority Critical patent/JP7278637B2/ja
Publication of JP2023037656A publication Critical patent/JP2023037656A/ja
Application granted granted Critical
Publication of JP7278637B2 publication Critical patent/JP7278637B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

【課題】魚眼カメラを使用して、マーカの見逃しを防止し、歪曲する画像から取得したマーカ情報に基づいて、安価に精度の高い自己位置座標及び走行方向の測量を高速に行い、安全に走行して作業を行う自走式移動装置を提供する。【解決手段】魚眼カメラ121と、制御部と、走行部14と、を備えた自走式移動装置10であって、前記制御部が、魚眼カメラで撮影したマーカの画像を取得する魚眼カメラ画像取得手段と、魚眼カメラで取得したマーカ画像からマーカ情報を取得するマーカ情報取得手段と、自己位置の演算を行う自己位置演算手段と、取得した自己位置とを用いて移動に必要な情報の演算を行う走行用指令信号演算手段と、前記移動に必要な情報を用いて駆動信号を取得する駆動信号取得手段と、を有し、前記走行部が、前記駆動信号を入力して、走行機構を駆動させて移動を行うこと、を特徴とする。【選択図】図1

Description

本発明は、移動装置に搭載されたカメラを介して、各マーカ個別に保持された情報及びマーカの形状から取得できる実空間情報(以下、マーカ情報という。)を取得し、安全に走行して作業を行う自走式移動装置に関する。
従来、作業装置などに走行機構を設けて移動させるためには、作業装置に作業者が搭乗して操縦を行う、又は、作業装置外部から有線や無線によって、作業者がリモコン操縦を行う必要があった。
近年、作業装置自体が走行場所の状況を検知して、障害物を回避して走行を行う、又は、走行エリアを認識して走行を行う自走式の移動装置が開発されてきた。
移動装置を自走させるためには、自己位置を正確に測量することが必要となる。最近では、カメラを用いて取得した画像から得られる情報に基づいて、自己位置の測量や障害物との距離を測量する技術が開発されている。
また、移動装置の移動経路や障害物を移動体に認識させるために、所定のフォーマットによって定義された図形を組み合わせたマーカ(ARマーカが例示される。)にマーカ情報を保持させておき、カメラを用いてマーカの画像を撮影して、制御部によって実空間情報を取得し認識させる技術も併せて開発されている。
従来、マーカを撮影するデジタル撮影用のカメラは、狭角カメラが使用されており、画角が狭いため、移動体に狭角カメラを搭載した場合、マーカを見逃して撮影できない場合が生じる問題があった。たとえ、可動式を導入し回転させて撮影を行ったとしても、同時に全方位を撮影しているわけではないので、マーカを見逃して撮影できない可能性をなくすことはできず実用的ではなかった。
最近では、水平360度広角カメラを用いて、ARマーカ等を見逃す確率を減少させることができる技術が開発されているが、取得できる画像は、中心から離れるにしたがって歪曲しており、画像の歪みが大きくなっている。そのままでは、画像の隅に撮影されたマーカのマーカ情報を正確に取得することができない。その際には、画像変換を行って正立画像を得る必要がある。しかし、ソフトウェアによって画像変換を行う場合には、演算負荷が大きく正立画像を得られるまでに時間が掛かる問題があった。
特許文献1には、作業場所の部屋の天井に魚眼カメラを下方に向けて設けて、台車に積載された物品に貼付されたマーカを撮影し、物品の位置と物品の内容を取得できる検知装置が開示されているが、台車を自走させるための機構は備えていない。
特許文献2には、リモコン車に搭載されたカメラで撮影したARマーカのマーカ情報を取得して、エンタテイメント装置と呼ばれる操作装置のディスプレイにリモコン車が走行するコースを表示させる技術が開示されているが、リモコン車はエンタテイメント装置の操作者によって操縦されており、自走するものではない。
特許第6299133号公報 特許第6253218号公報
広角カメラの一種である魚眼カメラを移動装置の天面において鉛直上方向に正面を向けて搭載すれば、魚眼カメラの高さから上側360度の半球を撮影することができ、マーカの見逃しを減少させることができる。また、魚眼カメラによって得られる画像は、一般的な水平360度広角カメラで得られる画像と比較して、画像中心から離れるにしたがって歪曲する度合いが小さく、正立画像を得るための画像変換を行わなくても、マーカ情報を取得できるメリットがある。しかし、魚眼カメラであっても、画像中心から離れるにしたがって歪曲が生じていることには変わりはなく、マーカ情報を取得する際に誤認が生じたり、位置算出において誤差を生じ取得する位置精度が低下したりする可能性がある。算出精度を向上させるために、水平360度広角カメラと同様に、正立画像を得るためのソフトウェア画像変換を行うこともできるが、演算負荷が大きいため、位置算出に時間が掛かる。移動装置の位置座標の算出において遅延が生じると、移動装置の自律した走行に支障をきたす問題が生じる。
ハードウェア画像変換を行うとことで、画像変換の計算負荷を下げて時間短縮を図ることが可能になるが、画像変換のための基板は非常に高価であり、また基板の冷却が必要となり、自走式移動装置に大きな実装場所を確保する必要があるなど実用上における課題を有する。
本発明は、上記課題に鑑みてなされたものであり、魚眼カメラを使用して、マーカの見逃しを防止し、歪曲する画像から取得したマーカ情報に基づいて、安価に精度の高い自己位置座標及び走行方向の測量を高速に行い、安全に走行して作業を行う自走式移動装置を提供することを目的とする。
上記課題を解決するため、本発明に係る自走式移動装置は、魚眼カメラと、制御部と、走行部と、を備えた自走式移動装置であって、前記制御部が、魚眼カメラで撮影したマーカの画像を取得する魚眼カメラ画像取得手段と、魚眼カメラで取得したマーカ画像からマーカ情報を取得するマーカ情報取得手段と、前記マーカ情報を用いて自己位置の演算を行う自己位置演算手段と、前記マーカ情報と演算によって取得した自己位置とを用いて移動に必要な情報の演算を行う走行用指令信号演算手段と、前記走行用指令信号演算手段によって得られた走行用指令信号を用いて駆動信号を取得する駆動信号取得手段と、を有し、前記走行部が、前記駆動信号を入力して、走行機構を駆動させて移動動作を行うこと、を特徴とする。
また、本発明に係る自走式移動装置は、前記自己位置演算手段が、前記マーカを複数個検出した際に、魚眼カメラで撮影された魚眼画像中心に近い2個のマーカを選択して、一方のマーカを開始マーカとし、もう一方のマーカを終了マーカとするマーカ識別手段、
を有し、前記開始マーカ中心点、前記終了マーカ中心点および魚眼画像中心点を結んで形成される三角形の各辺の長さ及び各内角を算出し、データベースに格納された前記開始マーカおよび前記終了マーカ位置座標から算出される前記三角形の各辺の長さ及び各内角と比較を行うことによって、前記概略自己位置座標及び走行方向を取得する概略自己位置演算手段を有すること、を特徴とする。
また、本発明に係る自走式移動装置は、可動式狭角カメラを備え、前記可動式狭角カメラが、前記マーカのいずれか一方を撮影し、前記制御部が、可動式狭角カメラで撮影したマーカの画像を取得する可動式狭角カメラ画像取得手段と、可動式狭角カメラから取得したマーカ画像から魚眼画像中心点と該マーカ中心点との距離を算出する距離算出手段と、を有し、前記距離を用いて、魚眼カメラから得られた位置情報を補正して高精度自己位置座標を取得する高精度自己位置演算手段を有すること、を特徴とする。
本発明の自走式移動装置によれば、魚眼カメラを使用することによって、魚眼カメラの高さから上側360度の半球を撮影することができ、マーカの撮影漏れを防止することができる。また、同時に多くのマーカを撮影することができ、狭角カメラによって個別にマーカを撮影する場合と比較して、高速にマーカ情報を取得することができる。
水平360度広角カメラで撮影したマーカ画像からマーカ情報を取得するためには、歪みの大きいマーカの画像を画像変換により補正を行い、マーカの正立画像を取得することが必要となるが、本発明の自走式移動装置によれば、魚眼カメラで自律式走行装置の周囲画像を取得することによって、マーカ情報を取得できないほどに歪曲が生じる、中心から離れた周辺画像の範囲が、水平360度広角カメラで得られる画像と比較して小さいため、画像変換を行うことなくマーカ情報の取得ができ、高速で概略の自己位置座標及び走行方向を算出することが可能である。
また、本発明の自走式移動装置によれば、マーカ情報に実空間情報として位置情報を保持しておくことにより、画像から取得したカメラ空間情報と比較して自己位置座標及び走行方向を算出することができる。
魚眼カメラであっても、取得したマーカ画像は、周辺画像が歪曲しているので、マーカの形状から取得できるカメラ空間情報には誤差を有する可能性がある。本発明の自走式移動装置によれば、魚眼カメラを補助するカメラとして可動式狭角カメラを使用し、歪曲度が小さい画像を撮影し魚眼画像中心点と任意のマーカとの距離を実測量することにより、魚眼カメラによって得られたカメラ空間情報から算出した自己位置座標の誤差の補正を行い、自己位置座標の算出精度を向上させることができる。
また、本発明の自走式移動装置によれば、魚眼カメラで取得したカメラ空間の位置情報とマーカ位置情報等データベースから取得した実空間の位置情報を用いて自己位置座標を算出する概略座標算出モードと、歪曲の少ない可動式狭角カメラを用いて実測量したマーカの位置を用いて概略自己位置座標を補正して高精度自己位置座標を算出する高精度座標算出モードを切り替えることができる。作業空間が広く干渉する障害物がない場合には、概略座標算出モードで高速に演算を行い、狭隘な場所や干渉する障害物が多い場合には、高精度座標算出モードで演算を行うことによって、自走式移動装置を安全に走行させて作業を行わせることができる。
本発明の自走式移動装置10の側面図である。 本発明の自走式移動装置10の斜視図である。 可動式狭角カメラの水平方向の撮影範囲を示した平面図である。 可動式狭角カメラの鉛直方向の撮影範囲を示した側面図である。 本発明の自走式移動装置10の自己位置の推定演算に関連する制御のブロックダイヤグラムである。 本発明の自走式移動装置10が走行している状態を示す斜視図である。 本発明の自走式移動装置10に搭載した魚眼カメラ121によって撮影された画像(魚眼画像30)を示す図である。 魚眼レンズの撮影範囲32を示す側面図である。 自走式移動装置10の中心位置座標(自己位置座標)の算出を行うプログラムのフローチャートを示した図である。 魚眼レンズで撮影した画像からサンプリングされるARマーカ20のコーナプロット62を示したコーナプロットグラフ60である。 サンプリングされたコーナプロット62の座標からARマーカ20のセンタプロット64を算出する手法を示した図である。 ARマーカ20のマーカ情報と魚眼カメラ121による実測量値とに基づいて自走式移動装置10の中心座標を算出する手法を説明する図である。 可動式狭角カメラ122による実測量値と魚眼カメラ121による実測量値とに基づいて自走式移動装置10の中心座標(自己位置座標)を算出する手法を説明する図である。
本発明に係る自走式移動装置10を実施するための形態について、図を参照しつつ説明する。図1は、本発明の自走式移動装置10の側面図である。図2は、本発明の自走式移動装置10の斜視図である。自走式移動装置10は、少なくとも撮影部12と、本体部13と、走行部として走行機構(不図示)を備えた車輪14とから構成される。車輪14を駆動する走行機構は、制御用コンピュータから出力される走行用指令信号を駆動信号に変換する走行用サーボモータコントローラと、車輪14を駆動する走行用サーボモータとから構成される。サーボモータは、パルスモータであってもよい。
撮影部12は、魚眼カメラ121と、可動式狭角カメラ122とを搭載する。魚眼カメラ121は、本体部13に固定されたカメラ支持部125に固定されて、魚眼カメラ121の高さから上側360度の半球を撮影することができる。一方、可動式狭角カメラ122は、水平方向回転ターレット124に固定される。
水平方向回転ターレット124は、カメラ支持部125に固定された魚眼カメラ121を中心として、回転機構を備えた駆動装置、例えばサーボモータを駆動させて、水平方向に360度回転することが可能である。可動式狭角カメラ122を水平方向回転ターレット124の上面に固定し、水平方向回転ターレット124を回転させることにより、図3に示すように可動式狭角カメラ122の水平方向の撮影範囲を360度に拡張することができる。サーボモータは、カメラ支持部125に配置して直接水平方向回転ターレット124を回転させてもよいし、本体部13に配置しておき、ドライブシャフトやベルトなどの伝達装置を用いて、水平方向回転ターレット124を回転させてもよい。
鉛直方向回転駆動部123を介して可動式狭角カメラ122を水平方向回転ターレット124に固定することにより、可動式狭角カメラ122の鉛直方向の撮影範囲を拡張することが可能となる。鉛直方向回転駆動部123は、可動式狭角カメラ122本体の支持部材に回転軸を設け、当該回転軸を中心として、回転機構を備えた駆動装置、例えばサーボモータを駆動させて、鉛直方向に回転することが可能である。図4は、可動式狭角カメラの鉛直方向の撮影範囲を示した側面図である。図4では、回転軸を水平方向回転ターレット124の周縁端部に配置しているため、鉛直方向の回転角度は90度程度となる。さらに、大きな回転角度を必要とする場合には、回転軸を水平方向回転ターレット124の周縁端部の外側に配置することによって、回転可動域が広がり、可動式狭角カメラ122の鉛直方向の撮影範囲を広く設定することができる。
図5は、本発明の自走式移動装置10の自己位置の推定演算に関連する制御のブロックダイヤグラムである。本体部13には、制御用コンピュータ、可動式狭角カメラ122を回転駆動するためのサーボモータコントローラ及び電源を備える制御部並びに走行部の一部である車輪14の走行機構(不図示)が備えられる。撮影部12には、魚眼カメラ121及び可動式狭角カメラ122の自走式移動装置10の周囲を撮影する撮影装置と、可動式狭角カメラ122を回転駆動させるための鉛直回転用サーボモータ機構及び水平回転用サーボモータ機構が設けられている。
制御用コンピュータは、魚眼カメラ121又は可動式狭角カメラ122が取得した画像を解析し、画像に映されたマーカのカメラ空間での位置情報と、マーカ情報から実空間でのマーカの位置情報とを取得して、自走式移動装置10の自己位置の推定のための演算を行う。本発明の自走式移動装置10は、魚眼カメラ121で取得したカメラ空間の位置情報と、マーカ位置情報等データベースから取得した実空間の位置情報とを用いて自己位置座標を算出する概略自己位置演算手段である概略座標算出モードと、歪曲の少ない可動式狭角カメラ122を用いて実測量したマーカの位置情報を用いて概略自己位置座標を補正して高精度自己位置座標を算出する高精度自己位置演算手段である高精度座標算出モードを切り替えて演算することができる。マーカ位置情報等データベースは、クラウドやサーバなどに格納しておき、制御用コンピュータと通信することにより、格納されたマーカの情報を制御用コンピュータで取得する。
また、制御用コンピュータは、補正情報を取得するために用いる可動式狭角カメラ122を、情報が必要なマーカの方向、例えば開始マーカ22に向けるために、鉛直方向回転駆動部123及び水平方向回転ターレット124に備えられたサーボモータの制御を行う。サーボモータの制御は、本体部13に備えられたサーボモータコントローラに対し、制御用コンピュータから移動の目標値を含む指令信号を出力することによって行う。
サーボモータコントローラは、サーボドライバとも呼ばれ、指令信号に含まれる目標値と、エンコーダで検出されたステップ数を比較して、所定の位置に停止させる。本実施の形態では、サーボモータの例を示したが、パルスモータであってもよい。
図6は、本発明の自走式移動装置10が作業空間50を走行している状態を示す斜視図である。作業空間50には、自走式移動装置10の位置推定演算の際に使用する情報を持ったマーカが要所に配置されている。マーカは、ARマーカを使用することができる。ARマーカは、各種あるが、本発明を実施するための形態では、予め決められたルールに基づいて形成された図形が四角の枠(フレーム)内に描かれたAR(Augmented Reality)マーカの一種類を例示した。ARマーカ20の図形を自走式移動装置10に搭載されたカメラで撮影することによって、予めマーカ位置情報等データベースに入力されたマーカ情報、すなわち実空間のマーカのサイズや位置座標情報を制御用コンピュータに取得するとともに、撮影されたARマーカ20の図形のサイズや形状を制御用コンピュータで解析してカメラ空間におけるARマーカ20の位置座標情報を取得して、自走式移動装置10の自己位置推定演算に使用する。また、マーカ情報に設置された自走式移動装置10の走行経路を取得すると、自走式移動装置10を自律して走行させることができる。
図7は、本発明の自走式移動装置10に搭載した魚眼カメラ121によって撮影された魚眼画像30を示す図である。図に示すように、魚眼カメラ121を使用して撮影を行うことによって、魚眼カメラ121上空360度の範囲の画像が得られる。一点鎖線の交点は魚眼カメラ121の画像中心34である。魚眼カメラ121の画像中心34が、自走式移動装置10の自己位置として設定される。魚眼カメラ121によれば、同時に複数のARマーカ20の画像を取得することができる。図8は、鉛直方向の魚眼レンズの撮影範囲32を示す側面図である。魚眼カメラ121は、カメラベース部より上側部分の空間を撮影することができるので、魚眼カメラ121は可能な限り低い高さに配置することが好ましく、自走式移動装置10が走行する際に必要な情報を漏れなく取得することが可能になる。
自走式移動装置10が自律して走行するためには、ARマーカ20の情報を取得するだけではなく、走行経路上に存在する障害物の情報を取得することが必要となる。そのためには、魚眼カメラ121は可能な限り自走式移動装置10に近い走路が撮影できるように低い高さに配置することが好ましい。
自律走行を行うためには、自走式移動装置10が自己位置を正確に演算できることが、非常に重要となる。以下に、自己位置推定のための演算方法について説明する。図9は、制御用コンピュータにおいて、自走式移動装置10の中心位置座標(自己位置座標)の算出を行う自己位置推定演算処理プログラムのフローチャートを示した。
魚眼カメラ121を使用すると、複数のARマーカ20を同時に撮影できるメリットがあるが、取得した画像の周縁部分に歪曲が生じる。前述したように、360度広角カメラと比較すると周辺部分の歪曲の度合いは小さく、画像変換を行うことなく、通常走行に支障がない程度の精度で自己位置を演算することができるが、狭隘な場所や干渉する障害物が多い場合には、作業空間50の構造物や障害物に接触する可能性がある。そのため、本発明における自己位置推定演算処理のフローチャートにおいては、魚眼カメラ121で取得したARマーカ20のカメラ空間における位置情報と、マーカ位置情報等データベースから取得したARマーカ20の実空間における位置情報とを用いて自己位置座標を算出する概略座標算出モードと、歪曲の小さい可動式狭角カメラ122を用いて実測量したARマーカ20の位置情報を用いて概略自己位置座標を補正して高精度自己位置座標を算出する高精度座標算出モードを切り替えて演算することができる。
ステップS102において、図7に示す魚眼画像30を撮影した後、撮影されたARマーカ20のマーカ情報を取得し、自走式移動装置10に近い2個のARマーカ20を認識する。
マーカ情報には、ARマーカ20のサイズ、位置情報、又は自走式移動装置10が走行する経路など、その他自走式移動装置10の走行に必要な実空間の情報が含まれている。当該実空間の情報は、実際にはマーカ位置情報等データベースに格納されており、ARマーカ20のIDを使用してマーカ位置情報等データベースから制御用コンピュータに出力することによって利用することができる。ARマーカ20にフレームが描かれている場合には、画像情報としてフレームの大きさを取得することにより、マーカ情報に格納されたサイズと比較演算することによって、自走式移動装置10とARマーカ20との距離を推定することも可能である。
ステップS103では、ステップS102において認識した2個のARマーカ20のうち、自走式移動装置10に最も近いARマーカ20を開始マーカ22とし、もう一方の自走式移動装置10に二番目に近いARマーカ20を終了マーカ23とする。図10は、魚眼レンズで撮影した画像からサンプリングされるカメラ空間上のARマーカ20のコーナプロット62をグラフ上に描いたコーナプロットグラフ60である。図7にX軸及びY軸の方向を示した。グラフは、X軸の正方向が自走式移動装置10から離れる方向である。したがって、図に向かってグラフの左にある四つのコーナプロット62が開始マーカ22のコーナプロット62となる。そして、グラフ右上側にある四つのコーナプロット62が終了マーカ23のコーナプロット62である。
ステップS104では、まず、開始マーカ22及び終了マーカ23のセンタプロット64を各々のマーカのコーナプロット62の座標を用いて、算出を行う。図11は、サンプリングされたコーナプロット62の座標からARマーカ20のセンタプロット64のカメラ空間上の座標を算出する手法を示した図である。ARマーカ20のコーナプロット62を描いたコーナプロットグラフ60において、コーナプロット62の座標の平均値を求めることによって、ARマーカ20のセンタプロット64のカメラ空間上の座標を算出する。自走式移動装置10の自己位置座標bは、魚眼カメラの画像中心34であり、カメラ空間上では既知の座標である。次に、自走式移動装置10の自己位置座標bと、開始マーカ22の中心点(開始マーカセンタプロット642)a及び終了マーカ23の中心点(終了マーカセンタプロット644)cを頂点とする三角形abcの各辺(Ha,Hb,Hc)の長さと、各頂点の内角を算出する。図12に、その模式図を示した。ARマーカ20のマーカ情報に格納された実空間位置情報と魚眼カメラ121による実測量値とに基づいて自走式移動装置10の中心座標を算出する手法を説明する図である。
ステップS105では、ARマーカ20の図形を解析して、開始マーカ22及び終了マーカ23の図形が有する各々のマーカIDを入手し、マーカ位置情報等データベースから開始マーカ22及び終了マーカ23の中心位置の実空間座標を取得する。
ステップS106では、マーカ位置情報等データベースから取得した開始マーカ22及び終了マーカ23の中心位置の実空間座標に基づき、開始マーカ22の中心点Aと終了マーカ23の中心点Cとを結ぶ直線ACが実空間座標におけるX軸となす角度(realdir)を算出する。
ステップS107では、魚眼カメラ121によって取得されたカメラ空間座標における三角形abcの開始マーカ22の中心点aと終了マーカ23の中心点cとを結ぶ辺Hbがカメラ空間座標におけるX軸となす角度(Dirac)を算出する。同様に、ステップS108では、カメラ空間座標における三角形abcの開始マーカ22の中心点aと自走式移動装置10の自己位置座標bとを結ぶ辺Hcがカメラ空間座標におけるX軸となす角度(Dirba)を算出する。
ステップS109では、実空間座標とカメラ空間座標との間でズレが生じている回転角度量の算出を行う。実空間座標における開始マーカ22の中心点Aと終了マーカ23の中心点Cとを結ぶ直線ACがX軸となす角度(realdir)から、カメラ空間座標における開始マーカ22の中心点aと終了マーカ23の中心点cとを結ぶ辺HbがX軸となす角度(Dirac)を引き算することによって、実空間座標とカメラ空間座標との間で生じているズレの回転角度量(difdir)を求めることができる。すなわち、ズレ回転角度量(difdir)は、自走式移動装置10の実空間におけるX軸と走行方向との角度を示している。
同様に、ステップS110では、カメラ空間座標に対する実空間座標のズレ回転角度量(difdir2)を算出する。カメラ空間座標における開始マーカ22の中心点aと終了マーカ23の中心点cとを結ぶ辺HbがX軸となす角度(Dirac)から、実空間座標における開始マーカ22の中心点Aと終了マーカ23の中心点Cとを結ぶ直線ACがX軸となす角度(realdir)を引き算することによって、カメラ空間座標に対する実空間座標のズレ回転角度量(difdir2)を求めることができる。角度量(difdir)は、角度量(difdir2)の負の値となる。後のカメラ空間座標の補正演算に使用できるようにラジアン換算で算出することが好ましい。
ステップS111では、高精度自己位置座標を取得する高精度座標算出モード又は概略の自己位置座標を取得する概略座標算出モードの選択を判断する。モード選択は、カメラ画像を用いて、障害物の有無や予めARマーカ20のマーカ情報にモード選択の情報を保持させて自動的に判断させてもよい。
高精度座標算出モードを選択した場合には、ステップS112からステップ118までを実行する。高精度座標算出モードでは、可動式狭角カメラ122から取得される開始マーカ22の画像を使用して、魚眼カメラ121の画像中心(34)b’から開始マーカ22の中心点a’までの距離Hc’を実測量して、魚眼カメラ121から取得されたカメラ空間座標上の辺Hcの長さを代替する。図1に示されるように、可動式狭角カメラ122は魚眼カメラ121の画像中心34から離隔した位置に配置されているため、魚眼カメラ121の画像中心(34)b’の座標を算出するためのオフセット演算が必要となる。その際のオフセット値に誤差を含む可能性があるため、可動式狭角カメラ122の水平回転及び鉛直回転の中心を魚眼カメラ121の画像中心34軸上に配置することが好ましい。
ステップS112では、ステップS108で算出したカメラ空間座標における辺Hcがカメラ空間座標におけるX軸となす角度(Dirba)を用いて、辺Hcと自走式移動装置10の自己位置座標bを通るX軸線との角度を算出する。当該角度には、オフセット値が含まれていないため、オフセット演算を行ったうえで、可動式狭角カメラ122の回転角度を決定する。決定された回転角度の方向に水平方向回転ターレット124を駆動させて可動式狭角カメラ122を回転させる。本実施の形態においては、開始マーカ22を撮影し演算に利用したが、終了マーカ23を撮影し演算に利用してもよい。なお、開始マーカ22は自走式移動装置10に距離が近いARマーカ20であり、距離が遠い終了マーカ23と比較して測量誤差が小さいため、開始マーカ22を演算に利用する方が好ましい。ステップS113で可動式狭角カメラ122による開始マーカ22の認識処理を行い、ステップS114において、可動式狭角カメラ122が開始マーカ22を認識したと判断した際には、開始マーカ22が画像の中心に位置するように、さらに水平方向回転ターレット124及び鉛直方向回転駆動部123を駆動させて可動式狭角カメラ122の方向を変更させることも可能である。開始マーカ22が画像の中心にある場合には歪曲が小さく測量精度が向上するため好ましい。この際、最初の回転角度は、魚眼カメラ121の画像に基づいて算出しており、可動式狭角カメラ122によって、開始マーカ22が捉えられない場合が発生する可能性がある。その場合には、ステップS114において、開始マーカ22が認識できなかったと判断して、概略座標算出モードを実行する。概略座標算出モードについては、後述する。
図13に、その模式図を示した。可動式狭角カメラ122による実測量値と魚眼カメラ121による実測量値とに基づいて自走式移動装置10の中心座標(自己位置座標)を算出する手法を説明する図である。開始マーカ22が認識された場合、ステップS115を実行し、開始マーカ22のマーカ情報に保持されたサイズ情報及び可動式狭角カメラ122によって撮影された開始マーカ22のフレームの大きさと比較することにより、魚眼カメラ121の画像中心34から開始マーカ22の中心点までの距離Hc’を求めることができる。また、可動式狭角カメラ122から取得されるARマーカ20に関する計測値から距離成分を抽出することによっても、距離Hc’を実測することができる。
ステップS116においては、実空間座標とカメラ空間座標との間でズレが生じている回転角度量の補正を行う。カメラ空間座標における開始マーカ22の中心点aと自走式移動装置10の自己位置座標bとを結ぶ辺HcがX軸となす角度(Dirba)から、ステップS110で算出したカメラ空間座標に対する実空間座標のズレ回転角度量(difdir2)を引き算することによって、実空間座標とカメラ空間座標との間でズレが生じている回転角度量の補正を行うことができ、実空間座標におけるX軸と辺Hc’とでなす角度量(Dirba2)を求めることができる。
ステップS117では、辺Hc’について、実空間座標における開始マーカ22の中心点Aを中心として角度量(Dirba2)だけ回転させて、開始マーカ22の中心点Aを原点とした辺Hc’の終端の位置座標(tx’,ty’)を算出する。
ステップS118において、実空間座標における開始マーカ22の中心点Aの座標(x,y)に開始マーカ22の中心点Aを原点とした辺Hc’の終端の位置座標(tx’,ty’)を加算して、自走式移動装置10の自己位置座標(X’,Y’)を算出する。辺Hc’の距離の実測値が、可動式狭角カメラ122の歪曲が小さい画像によって取得されたものであるので、精度が高い座標値を得ることができる。
本発明における高精度座標算出モードのフローチャートは、演算負荷が小さいため、画像変換を伴うフローチャートと比較して演算速度が速い。また、ハードウェア画像変換のように、装置が大掛かりにならないため、自走式移動装置10を小型にすることができる。
一方、ステップS111及びステップS114において、概略座標算出モードが選択された場合には、ステップS201が実行される。図12に、その模式図を示した。魚眼カメラ121による実測量値と、マーカ位置情報等データベースから取得したARマーカ20の実空間における位置情報とに基づいて自走式移動装置10の中心座標(自己位置座標)を算出する手法を説明する図である。
ステップS201では、ARマーカ20を撮影した画像から得られるARマーカ20のIDに基づいて、マーカ位置情報等データベースから実空間における開始マーカ22の中心点A及び終了マーカ23の中心点Cの座標を取得し点AC間の距離Lを算出する。距離Lは、カメラ空間上の辺Hbに相当する。
ステップS202においては、歪曲や画像解析の際に生じる誤差を含むカメラ空間における距離の実測値を補正するための補正比率LLを算出する。補正比率LLは、実空間座標上の点AC間の距離Lを、カメラ空間座標上の辺Hbの長さで除算することによって算出することができる。
ステップS203では、実空間座標とカメラ空間座標との間でズレが生じている回転角度量の補正を行う。カメラ空間座標における開始マーカ22の中心点aと自走式移動装置10の自己位置座標bとを結ぶ辺HcがX軸となす角度(Dirba)から、カメラ空間座標に対する実空間座標のズレ回転角度量(difdir2)を引き算することによって、実空間座標とカメラ空間座標との間でズレが生じている回転角度量の補正を行うことができ、実空間座標におけるX軸と直線ABとでなす角度量(Dirba2)を求めることができる。
ステップS204では、辺Hcについて、実空間座標における開始マーカ22の中心点Aを中心として角度量(Dirba2)だけ回転させて、開始マーカ22の中心点Aを原点とした辺Hcの終端の座標を算出する。当該終端座標に補正比率LLを乗算し、補正された辺Hcの終端の位置座標(tx,ty)を算出する。
ステップS205において、実空間座標における開始マーカ22の中心点Aの座標(x,y)に開始マーカ22の中心点Aを原点とした辺Hcの終端の位置座標(tx,ty)を加算して、自走式移動装置10の自己位置座標(X,Y)を算出する。実空間座標における開始マーカ22の中心点A及び終了マーカ23の中心点Cの座標値は、ARマーカ20に保持された理論値である。ARマーカ20が実際に配置された位置に理論値との誤差が生じている場合には、自己位置座標(X,Y)には、誤差を有することになる。当該誤差は、可動式狭角カメラ122の歪曲が小さい画像によって取得された実測値と比較すると精度が劣るため、概略座標を算出する際のモードとした。
ところで、当該誤差は、カメラ画像から得られる情報に相乗するものであり、360度広角カメラを使用する場合と魚眼カメラ121を使用する場合とを比較すると、魚眼カメラ121を使用する場合では、得られる画像の歪曲が小さいため、精度が高い結果が得られることになる。したがって、作業空間50が広く干渉する障害物がない場合には概略座標算出モードを使用して自走式移動装置10を走行させることができる。また、概略座標算出モードで演算を行うことによって、制御用コンピュータの負荷を軽減することもできる。
以上のフローチャートにより、自走式移動装置10の自己位置座標と走行方向を効率よく取得することができ、必要に応じて高精度に取得することもできる。また、画像変換を必要とせず高速に処理することができる。
自走式移動装置10においては、自己位置座標及び走行方向を演算後、制御用コンピュータが、走行用指令信号演算手段として、演算によって取得した概略自己位置座標又は高精度自己位置座標と前記マーカ情報とを用いて、移動に必要な情報の演算を行って走行用指令信号を生成する。
走行用サーボモータコントローラが、制御用コンピュータから入力した走行用指令信号を用いて、駆動信号取得手段として走行用サーボモータを駆動するための電気信号に変換した駆動信号を取得し、走行部に備えられた走行機構の走行用サーボモータに駆動信号を出力して、車輪14を駆動させて自走式移動装置10が移動動作を行う。
本発明に係る自走式移動装置は、移動装置を自動化するあらゆる分野において活用することが可能である。
10 自走式移動装置
12 撮影部
121 魚眼カメラ
122 可動式狭角カメラ
123 鉛直方向回転駆動部
124 水平方向回転ターレット
125 カメラ支持部
13 本体部
14 車輪
20 ARマーカ
22 開始マーカ
23 終了マーカ
30 魚眼画像
32 魚眼レンズの撮影範囲
34 魚眼カメラの画像中心
50 作業空間
60 コーナプロットグラフ
62 コーナプロット
64 センタプロット
642 開始マーカセンタプロット
644 終了マーカセンタプロット
上記課題を解決するため、本発明に係る自走式移動装置は、魚眼カメラと、可動式狭角カメラと、制御部と、走行部と、を備えた自走式移動装置であって、前記制御部が、魚眼カメラで撮影したマーカの画像を取得する魚眼カメラ画像取得手段と、魚眼カメラで取得したマーカ画像からマーカ情報を取得するマーカ情報取得手段と、前記マーカ情報を用いて自己位置の演算を行う自己位置演算手段と、前記可動式狭角カメラで撮影したマーカの画像を取得する可動式狭角カメラ画像取得手段と、前記可動式狭角カメラから取得したマーカ画像から魚眼画像中心点と該マーカ中心点との距離を算出する距離算出手段と、を有し、前記距離を用いて、魚眼カメラから得られた自己位置を補正して高精度自己位置座標を取得する高精度自己位置演算手段と、前記マーカ情報と演算によって取得した自己位置とを用いて移動に必要な情報の演算を行う走行用指令信号演算手段と、前記走行用指令信号演算手段によって得られた走行用指令信号を用いて駆動信号を取得する駆動信号取得手段と、を有し、前記走行部が、前記駆動信号を入力して、走行機構を駆動させて移動動作を行うこと、を特徴とする。

Claims (3)

  1. 魚眼カメラと、
    制御部と、
    走行部と、
    を備えた自走式移動装置であって、
    前記制御部が、
    魚眼カメラで撮影したマーカの画像を取得する魚眼カメラ画像取得手段と、
    魚眼カメラで取得したマーカ画像からマーカ情報を取得するマーカ情報取得手段と、
    前記マーカ情報を用いて自己位置の演算を行う自己位置演算手段と、
    前記マーカ情報と演算によって取得した自己位置とを用いて移動に必要な情報の演算を行う走行用指令信号演算手段と、
    前記走行用指令信号演算手段によって得られた走行用指令信号を用いて駆動信号を取得する駆動信号取得手段と、
    を有し、
    前記走行部が、
    前記駆動信号を入力して、走行機構を駆動させて移動動作を行うこと、
    を特徴とする自走式移動装置。
  2. 前記自己位置演算手段が、
    前記マーカを複数個検出した際に、魚眼カメラで撮影された魚眼画像中心に近い2個のマーカを選択して、一方のマーカを開始マーカとし、もう一方のマーカを終了マーカとするマーカ識別手段、
    を有し、
    前記開始マーカ中心点、前記終了マーカ中心点および魚眼画像中心点を結んで形成される三角形の各辺の長さ及び各内角を算出し、
    データベースに格納された前記開始マーカおよび前記終了マーカ位置座標から算出される前記三角形の各辺の長さ及び各内角と比較を行うことによって、前記概略自己位置座標及び走行方向を取得する概略自己位置演算手段を有すること、
    を特徴とする請求項1に記載する自走式移動装置。
  3. 可動式狭角カメラを備え、
    前記可動式狭角カメラが、
    前記マーカのいずれか一方を撮影し、
    前記制御部が、
    可動式狭角カメラで撮影したマーカの画像を取得する可動式狭角カメラ画像取得手段と、
    可動式狭角カメラから取得したマーカ画像から魚眼画像中心点と該マーカ中心点との距離を算出する距離算出手段と、
    を有し、
    前記距離を用いて、魚眼カメラから得られた位置情報を補正して高精度自己位置座標を取得する高精度自己位置演算手段を有すること、
    を特徴とする請求項1又は請求項2に記載する自走式移動装置。
JP2021144364A 2021-09-04 2021-09-04 自走式移動装置 Active JP7278637B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021144364A JP7278637B2 (ja) 2021-09-04 2021-09-04 自走式移動装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021144364A JP7278637B2 (ja) 2021-09-04 2021-09-04 自走式移動装置

Publications (2)

Publication Number Publication Date
JP2023037656A true JP2023037656A (ja) 2023-03-16
JP7278637B2 JP7278637B2 (ja) 2023-05-22

Family

ID=85514041

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021144364A Active JP7278637B2 (ja) 2021-09-04 2021-09-04 自走式移動装置

Country Status (1)

Country Link
JP (1) JP7278637B2 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006234453A (ja) * 2005-02-23 2006-09-07 Mitsubishi Heavy Ind Ltd 自己位置標定用ランドマーク位置の登録方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006234453A (ja) * 2005-02-23 2006-09-07 Mitsubishi Heavy Ind Ltd 自己位置標定用ランドマーク位置の登録方法

Also Published As

Publication number Publication date
JP7278637B2 (ja) 2023-05-22

Similar Documents

Publication Publication Date Title
KR101988083B1 (ko) 가동 타겟 오브젝트의 위치 탐색을 위한 시스템 및 방법
US20220292720A1 (en) Method and system for calibrating multiple cameras
JP4533659B2 (ja) レーザー計測により地図画像を生成する装置及び方法
US9020301B2 (en) Method and system for three dimensional mapping of an environment
EP1584426A1 (en) Tool center point calibration system
CN104238557A (zh) 无人驾驶运输车辆和运行无人驾驶运输车辆的方法
JP2017120551A (ja) 自律走行装置
JP2006234453A (ja) 自己位置標定用ランドマーク位置の登録方法
KR100784125B1 (ko) 단일 카메라를 이용한 이동 로봇의 랜드 마크의 좌표 추출방법
JP2019213039A (ja) 俯瞰映像提示システム
KR102275083B1 (ko) 이동 로봇 시스템 및 자동 충전을 위한 이동 로봇의 귀소 방법
JP7278637B2 (ja) 自走式移動装置
KR20180066668A (ko) 무인 이동체의 주행 환경 제작 기술을 위한 장치 및 방법
US11221206B2 (en) Device for measuring objects
KR100792852B1 (ko) 단일 카메라를 이용한 이동 로봇의 랜드 마크 거리추출방법
EP3943979A1 (en) Indoor device localization
CN112611344B (zh) 一种自主移动式平面度检测方法、设备及存储介质
CN113218392A (zh) 室内定位导航方法及导航装置
JP2020170293A (ja) 画像表示方法及び遠隔操縦システム
KR101714700B1 (ko) 스캔 데이터 정합 장치
WO2022190240A1 (ja) 作業情報投影システム及び相対情報較正方法
US20230419546A1 (en) Online camera calibration for a mobile robot
Skov et al. 3D Navigation by UAV using a mono-camera, for precise target tracking for contact inspection of critical infrastructures
KR101763811B1 (ko) 스캐닝 장치 및 스캐닝 방법
CN117280384A (zh) 自身位置估计系统以及自身位置估计方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220326

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230427

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230428

R150 Certificate of patent or registration of utility model

Ref document number: 7278637

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150