JP6974290B2 - 位置推定装置、位置推定方法、プログラム、及び記録媒体 - Google Patents

位置推定装置、位置推定方法、プログラム、及び記録媒体 Download PDF

Info

Publication number
JP6974290B2
JP6974290B2 JP2018206007A JP2018206007A JP6974290B2 JP 6974290 B2 JP6974290 B2 JP 6974290B2 JP 2018206007 A JP2018206007 A JP 2018206007A JP 2018206007 A JP2018206007 A JP 2018206007A JP 6974290 B2 JP6974290 B2 JP 6974290B2
Authority
JP
Japan
Prior art keywords
flying object
image pickup
unmanned aerial
aerial vehicle
error score
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018206007A
Other languages
English (en)
Other versions
JP2020071154A (ja
Inventor
磊 顧
斌 陳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Priority to JP2018206007A priority Critical patent/JP6974290B2/ja
Priority to CN201980009074.2A priority patent/CN111615616A/zh
Priority to PCT/CN2019/113651 priority patent/WO2020088397A1/zh
Publication of JP2020071154A publication Critical patent/JP2020071154A/ja
Application granted granted Critical
Publication of JP6974290B2 publication Critical patent/JP6974290B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U20/00Constructional aspects of UAVs
    • B64U20/80Arrangement of on-board electronics, e.g. avionics systems or wiring
    • B64U20/87Mounting of imaging devices, e.g. mounting of gimbals
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/01Satellite radio beacon positioning systems transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/13Receivers
    • G01S19/14Receivers specially adapted for specific applications
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • B64U10/14Flying platforms with four distinct rotor axes, e.g. quadcopters

Description

本開示は、飛行体の存在位置を推定する位置推定装置、位置推定方法、プログラム、及び記憶媒体に関する。
従来、無人飛行体は、GPS(Global Positioning System)衛星から送信されるGPS信号を受信し、このGPS信号を基に位置を計算して自律飛行することが知られている(特許文献1参照)。
特開2018−147467号公報
しかし、橋梁の下や室内等の環境では、無人飛行体は、GPS信号を受信することができないことがあり、この場合、自律飛行を行うことが困難である。GPS信号を受信できない場合でも、例えば、無人飛行体の速度を積分してその位置を推定である。しかし、無人飛行体の速度を積分してその位置を推定する場合、誤差が生じ易く(例えば10m当たりで2mの誤差)、推定される位置の精度が不十分である。また、物体の位置を検出する技術として、物体に光を照射して撮像することで物体の動きを捉える技術(モーションキャプチャ)がある。しかし、モーションキャプチャの場合、専用のマーカを使ってトラッキングする必要があり、使用する場面が限定される。また、ビーコンが発するビーコン信号を移動体が受信し、自機の位置を検出する技術がある。しかし、ビーコン信号を用いる場合、ビーコンを各場所に配置する必要があり、同様に、使用する場面が限定される。
一態様において、位置推定装置は、飛行体の存在位置を推定する位置推定装置であって、飛行体の存在位置を推定に関する処理を行う処理部を備え、処理部は、複数の撮像装置により飛行体が撮像された複数の撮像画像を取得し、各撮像装置の配置位置及び各撮像装置の撮像向きの情報を取得し、各撮像装置の配置位置と、各撮像装置の撮像向きと、実空間において飛行体が存在すると仮定された各仮定位置と、各撮像画像における飛行体が存在する画像位置と、に基づいて、各仮定位置と飛行体の存在位置との誤差を示す誤差スコアを算出し、誤差スコアに基づいて、実空間における飛行体の存在位置を推定する。
処理部は、複数の撮像装置により複数の時刻に飛行体が撮像された複数の撮像画像を取得し、複数の時刻において誤差スコアを算出し、誤差スコアに基づいて、実空間における飛行体の存在位置を推定してよい。
処理部は、撮像装置と飛行体との距離を取得し、距離に基づいて、撮像画像についての誤差スコアの信頼度を導出し、信頼度に基づいて誤差スコアを算出してよい。
処理部は、各撮像装置の配置位置及び各撮像装置の撮像向きで撮像された各撮像画像に、実空間において飛行体が存在すると仮定された各仮定位置が投影された各投影仮定位置と、各撮像装置の配置位置及び各撮像装置の撮像向きで撮像された各撮像画像における飛行体が存在する各画像位置と、の差分に基づいて、誤差スコアを算出し、誤差スコアが最小となる飛行体の仮定位置を、前記飛行体の存在位置として推定してよい。
処理部は、飛行体が備える位置計測部により計測された飛行体の第1の計測位置を取得し、第1の計測位置に基づいて、誤差スコアを算出してよい。
位置計測部は、複数のGPS(Global Positioning System)衛星からGPS信号を受信して第1の計測位置を取得し、処理部は、位置計測部が受信不可能なGPS衛星の数が多い程、誤差スコアに対する第1の計測位置の影響が大きくなるように、誤差スコアを算出してよい。
処理部は、飛行体が物理的に移動可能な位置に基づいて、誤差スコアを算出してよい。
処理部は、飛行体が備える加速度計測器により計測された加速度に基づいて、飛行体の第2の計測位置を導出し、第2の計測位置に基づいて、誤差スコアを算出してよい。
一態様において、位置推定方法は、飛行体の存在位置を推定する位置推定方法であって、複数の撮像装置により飛行体が撮像された複数の撮像画像を取得するステップと、各撮像装置の配置位置及び各撮像装置の撮像向きの情報を取得するステップと、各撮像装置の配置位置と、各撮像装置の撮像向きと、実空間において飛行体が存在すると仮定された各仮定位置と、各撮像画像における飛行体が存在する画像位置と、に基づいて、各仮定位置と飛行体の存在位置との誤差を示す誤差スコアを算出するステップと、誤差スコアに基づいて、実空間における飛行体の存在位置を推定するステップと、を含む。
複数の撮像画像を取得するステップは、複数の撮像装置により複数の時刻に飛行体が撮像された複数の撮像画像を取得するステップを含んでよい。誤差スコアを算出するステップは、複数の時刻において誤差スコアを算出するステップを含んでよい。飛行体の存在位置を推定するステップは、誤差スコアに基づいて、実空間における飛行体の存在位置を推定するステップを含んでよい。
誤差スコアを算出するステップは、撮像装置と飛行体との距離を取得するステップと、距離に基づいて、撮像画像についての誤差スコアの信頼度を導出するステップと、信頼度に基づいて誤差スコアを算出するステップと、を含んでよい。
誤差スコアを算出するステップは、各撮像装置の配置位置及び各撮像装置の撮像向きで撮像された各撮像画像に、実空間において飛行体が存在すると仮定された各仮定位置が投影された各投影仮定位置と、各撮像装置の配置位置及び各撮像装置の撮像向きで撮像された各撮像画像における飛行体が存在する各画像位置と、の差分に基づいて、誤差スコアを算出するステップを含んでよい。飛行体の存在位置を推定するステップは、誤差スコアが最小となる飛行体の仮定位置を、飛行体の存在位置として推定するステップを含んでよい。
誤差スコアを算出するステップは、飛行体が備える位置計測部により計測された飛行体の第1の計測位置を取得するステップと、第1の計測位置に基づいて、誤差スコアを算出するステップと、を含んでよい。
第1の計測位置を取得するステップは、複数のGPS衛星からGPS信号を受信して計測位置を取得するステップを含んでよい。誤差スコアを算出するステップは、位置計測部が受信不可能なGPS衛星の数が多い程、誤差スコアに対する第1の計測位置の影響が大きくなるように、誤差スコアを算出するステップを含んでよい。
誤差スコアを算出するステップは、飛行体が物理的に移動可能な位置に基づいて、誤差スコアを算出するステップを含んでよい。
誤差スコアを算出するステップは、飛行体が備える加速度計測器により計測された加速度に基づいて、飛行体の第2の計測位置を導出するステップと、第2の計測位置に基づいて、誤差スコアを算出するステップと、を含んでよい。
一態様において、プログラムは、飛行体の存在位置を推定する位置推定装置に、複数の撮像装置により飛行体が撮像された複数の撮像画像を取得するステップと、各撮像装置の配置位置及び各撮像装置の撮像向きの情報を取得するステップと、各撮像装置の配置位置と、各撮像装置の撮像向きと、実空間において飛行体が存在すると仮定された各仮定位置と、各撮像画像における飛行体が存在する画像位置と、に基づいて、各仮定位置と飛行体の存在位置との誤差を示す誤差スコアを算出するステップと、誤差スコアに基づいて、実空間における飛行体の存在位置を推定するステップと、を実行させるためのプログラムである。
一態様において、記録媒体は、飛行体の存在位置を推定する位置推定装置に、複数の撮像装置により飛行体が撮像された複数の撮像画像を取得するステップと、各撮像装置の配置位置及び各撮像装置の撮像向きの情報を取得するステップと、各撮像装置の配置位置と、各撮像装置の撮像向きと、実空間において飛行体が存在すると仮定された各仮定位置と、各撮像画像における飛行体が存在する画像位置と、に基づいて、各仮定位置と飛行体の存在位置との誤差を示す誤差スコアを算出するステップと、誤差スコアに基づいて、実空間における飛行体の存在位置を推定するステップと、を実行させるためのプログラムを記録したコンピュータ読取り可能な記録媒体である。
なお、上記の発明の概要は、本開示の特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
実施形態1における無人飛行体システムの概要の一例を示す図 飛行制御装置のハードウェア構成を示す図 無人航空機の具体的な外観の一例を示す図 無人航空機のハードウェア構成の一例を示すブロック図 再投影誤差を説明する図 実施形態2における飛行制御装置のハードウェア構成を示す図 実施形態3における飛行制御装置のハードウェア構成を示す図
以下、発明の実施形態を通じて本開示を説明するが、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須とは限らない。
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイル又はレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
以下の実施形態では、飛行体として、無人航空機(UAV:Unmanned Aerial Vehicle)を例示する。無人航空機は、空中を移動する航空機を含む。本明細書に添付する図面では、無人航空機を「UAV」とも表記する。位置推定装置は、例えば、PC(Personal Computer)、サーバ、端末、各種の処理装置や制御装置である。位置推定方法は、位置推定装置における動作が規定されたものである。また、記録媒体は、プログラム(例えば位置推定装置に各種の処理を実行させるプログラム)が記録されたものである。
(実施形態1)
図1は、実施形態1における無人飛行体システム5の概要の一例を示す図である。無人飛行体システム5は、無人航空機100がGPS信号を受信できない場所や受信し難い場所、例えば橋梁の下や室内で無人航空機100が自律飛行する状況でも使用される。また、無人飛行体システム5は、無人航空機100がGPS受信機を備えない場合に無人航空機100が自律飛行する状況でも使用される。無人航空機100は、飛行体の一例である。無人飛行体システム5は、複数のカメラ300と、飛行制御装置800と、無人航空機100とを含む構成を有する。カメラ300は、撮像装置の一例である。飛行制御装置800は、位置推定装置の一例である。
複数のカメラ300は、地上や水上の異なる場所に設置され、無人航空機100を様々な方向から撮像する。複数のカメラ300は、固定カメラでよいなお、複数のカメラ300は、撮像位置や撮像方向を可変自在なカメラであってよい。複数のカメラ300は、同じ場所や領域に設置されてもよいし、異なる場所や領域に設置されてもよい。カメラ300は、処理部、通信部、記憶部を有してよい。
飛行制御装置800は、複数のカメラ300で撮像された画像を基に、無人航空機100を追跡する処理を行う。また、飛行制御装置800は、無人航空機100が存在すると推定される位置を導出するため、無人航空機100が存在すると仮定された各仮定位置と無人航空機100の実際の存在位置との誤差を示す誤差スコアが最小となるように、最適化処理を行う。図1では、自律飛行している無人航空機100を複数のカメラ300が撮像する状況が想定される。なお、無人航空機100は、1機に限らず、複数機存在してもよい。
図2は、飛行制御装置800のハードウェア構成を示す図である。飛行制御装置800は、追跡フロントエンド400と、処理バックエンド500と、PID(Proportional-Integral-Differentia)制御装置700と、を含む。追跡フロントエンド400の処理部及び処理バックエンド500の処理部の少なくとも1つは、位置推定装置の処理部の一例である。なお、追跡フロントエンド400と処理バックエンド500とPID制御装置700とは、1台の装置に設けられてもよいし、複数の装置に分散して設けられてもよい。飛行制御装置800の全体又は一部は、PC、サーバ、端末、各種の処理装置や制御装置であってよい。飛行制御装置800の各部(追跡フロントエンド400、処理バックエンド500、PID制御装置700)は、同じ場所や領域に設置されてもよいし、異なる場所や領域に設置されてもよい。
追跡フロントエンド400は、複数のカメラ300による各撮像画像に映る無人航空機100のフレーム上(撮像画像中)の画素位置を取得し、処理バックエンド500に送信する。追跡フロントエンド400は、時系列で無人航空機100が位置する画素位置を検出することで、無人航空機100の動きを追跡可能であり、撮像画像において無人航空機100の動きを追跡可能である。また、追跡フロントエンド400は、各カメラ300の姿勢の情報を処理バックエンド500に送信する。各カメラ300の姿勢は、各カメラ300の配置位置及び撮像向きにより規定されてよい。追跡フロントエンド400は、通信部405、処理部410、および記憶部420を有する。なお、各カメラ300の姿勢が固定の場合、処理バックエンド500に一度送信されればよいし、各カメラ300の姿勢が可変の場合、処理バックエンド500に逐次送信されてよい。
処理部410は、同一のタイミングで複数のカメラ300によって撮像された、各撮像画像に映る無人航空機100のフレーム上の画素位置を、観測位置として取得する。処理部410は、無人航空機100の画素位置を30fpsもしくは60fpsの頻度で取得してよい。また、処理部410は、各カメラ300の姿勢の情報を、各カメラ300や外部サーバ等から取得する。なお、カメラ300の姿勢が固定されている場合、処理部410は、カメラ300の姿勢情報を記憶部420に保持させておいてよい。
通信部405は、複数のカメラ300及び処理バックエンド500と通信を行う。通信方式には、専用線、有線LAN(Local Area Network)、無線LAN、モバイル通信等が用いられる。通信部405は、複数のカメラ300から撮像画像を受信する。通信部405は、複数のカメラ300による撮像画像に映る無人航空機100の観測位置を処理バックエンド500に送信する。また、通信部405は、複数のカメラ300の姿勢の情報を処理バックエンド500に送信する。
記憶部420は、処理部410のワーキングメモリとして使用されてよい。
処理バックエンド500は、追跡フロントエンド400から取得された、無人航空機100の各画素位置(観測位置)を基に、最適化処理を行う。処理バックエンド500は、通信部505、処理部510、および記憶部520を有する。最適化処理は、例えば後述する式(1)に示す誤差スコアの値を最小化するための処理である。具体的には、最適化処理は、無人航空機100が存在すると仮定された仮定位置が撮像画像に投影された場合の投影仮定位置と、撮像画像に実際に映り込んだ画像位置(観測位置)と、の差分(再投影誤差)を最小化するための処理である。仮定位置は、3次元空間において任意に変更されてもよい。最適化処理の結果、コストが最小となった無人航空機100の仮定位置が、無人航空機100が存在すると推定される位置(推定位置)とされてよい。再投影誤差は、複数のカメラ300により撮像された複数の撮像画像について合算されてよく、時系列に撮像された複数の撮像画像について合算されてよい。
処理部510は、複数の撮像画像に映る無人航空機100の画素位置及び複数のカメラ300の姿勢を基に、無人航空機100の位置を推定してよい。処理部510は、複数の撮像画像についての投影仮定位置及び観測位置、並びに複数のカメラ300の姿勢を基に、無人航空機100の位置を推定してよい。つまり、処理部510は、カメラ300による無人航空機100の追跡結果に基づき、再投影誤差を最適化(最小化)することで無人航空機100の位置を推定してよい。
通信部505は、追跡フロントエンド400及びPID制御装置700と通信を行う。通信方式には、専用線、有線LAN、無線LAN、モバイル通信等が用いられる。通信部505は、観測位置及び各カメラ300の姿勢の情報を追跡フロントエンド400から受信する。通信部505は、最適化された無人航空機100の推定位置の情報をPID制御装置700に送信する。なお、各カメラ300の姿勢の情報は、各カメラ300から直接取得されなくてもよく、例えば、記憶部520に予め保持されていたり、外部サーバから取得されたりしてもよい。
記憶部520は、処理部510のワーキングメモリとして使用されてよい。
PID制御装置700は、無人航空機100の推定位置の情報を基に、飛行経路に沿って無人航空機100を飛行させるためのPID(P:Proportional I:Integral D:Differential)制御を行う。飛行経路は、予め定められた飛行経路でよい。PID制御装置700は、無人航空機100が飛行するための飛行パラメータの少なくとも一部の情報を生成し、無人航空機100に送信してよい。飛行パラメータとして、無人航空機100の飛行位置、飛行高度、飛行速度、飛行加速度(例えば前後、左右、及び上下の3軸方向の加速度)、機体の向きを表すピッチ角、ヨー角、ロール角、等が挙げられる。PID制御装置700は、通信部705、処理部710、及び記憶部720を有する。飛行パラメータは、目標状態(例えば目標となる無人航空機100の飛行位置、飛行高度、飛行速度、飛行加速度、ピッチ角、ヨー角、ロール角、等)と実際の状態(例えば現在の推定された無人航空機100の飛行位置、飛行高度、飛行速度、飛行加速度、ピッチ角、ヨー角、ロール角、等)との差分を埋めるためのデータであってよい。
処理部710は、無人航空機100の最適化された推定位置を飛行経路に沿った目標位置に近づけるために、PID制御を行い、飛行パラメータを生成してよい。
通信部705は、処理バックエンド500及び無人航空機100と通信を行う。通信部705は、処理部710で生成された飛行パラメータを無人航空機100に送信する。処理バックエンド500及び無人航空機100との通信方式には、専用線、有線LAN、無線LAN、モバイル通信等が用いられる。
記憶部720は、処理部710のワーキングメモリとして使用されてよい。記憶部720は、飛行経路等のデータ、無人航空機100の飛行に関する目標の状態のデータ、実際の状態のデータ、を記憶してよい。これらのデータは、例えば無人航空機100や無人航空機100の飛行の制御を指示する端末から、通信部705を介して取得されてよい。
図3は、無人航空機100の具体的な外観の一例を示す図である。図3には、無人航空機100が移動方向STV0に飛行する場合の斜視図が示される。無人航空機100は移動体の一例である。
図3に示すように、地面と平行であって移動方向STV0に沿う方向にロール軸(x軸参照)が設定される。この場合、地面と平行であってロール軸に垂直な方向にピッチ軸(y軸参照)が設定され、更に、地面に垂直であってロール軸及びピッチ軸に垂直な方向にヨー軸(z軸参照)が設定される。
無人航空機100は、UAV本体102と、ジンバル200と、撮像部220と、複数の撮像部230とを含む構成である。
UAV本体102は、複数の回転翼(プロペラ)を備える。UAV本体102は、複数の回転翼の回転を制御することにより無人航空機100を飛行させる。UAV本体102は、例えば4つの回転翼を用いて無人航空機100を飛行させる。回転翼の数は、4つに限定されない。また、無人航空機100は、回転翼を有さない固定翼機でよい。
撮像部220は、所望の撮像範囲に含まれる被写体(例えば、空撮対象となる上空の様子、山や川等の景色、地上の建物)を撮像する撮像用のカメラである。
複数の撮像部230は、無人航空機100の飛行を制御するために無人航空機100の周囲を撮像するセンシング用のカメラである。2つの撮像部230が、無人航空機100の機首である正面に設けられてよい。さらに、他の2つの撮像部230が、無人航空機100の底面に設けられてよい。正面側の2つの撮像部230はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像部230もペアとなり、ステレオカメラとして機能してよい。複数の撮像部230により撮像された画像に基づいて、無人航空機100の周囲の3次元空間データが生成されてよい。なお、無人航空機100が備える撮像部230の数は4つに限定されない。無人航空機100は、少なくとも1つの撮像部230を備えていればよい。無人航空機100は、無人航空機100の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像部230を備えてよい。撮像部230で設定できる画角は、撮像部220で設定できる画角より広くてよい。撮像部230は、単焦点レンズ又は魚眼レンズを有してよい。
図4は、無人航空機100のハードウェア構成の一例を示すブロック図である。無人航空機100は、UAV制御部110と、通信インタフェース150と、メモリ160と、ストレージ170と、ジンバル200と、回転翼機構210と、撮像部220と、撮像部230と、GPS受信機240と、慣性計測装置(IMU:Inertial Measurement Unit)250と、磁気コンパス260と、気圧高度計270と、超音波センサ280と、レーザー測定器290と、を含む構成である。GPS受信機240は、位置計測部の一例である。
なお、ここでは無人航空機100がGPS受信機240を備えているが、GPS受信機240が受信するGPS信号の精度が低いことを想定している。また、無人航空機100が、GPS受信機240を備えずに、GPS信号を全く取得できないことを想定してもよい。
UAV制御部110は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)を用いて構成される。UAV制御部110は、無人航空機100の各部の動作を統括して制御するための信号処理、他の各部との間のデータの入出力処理、データの演算処理及びデータの記憶処理を行う。
UAV制御部110は、メモリ160に格納されたプログラムに従って無人航空機100の飛行を制御する。UAV制御部110は、画像を空撮してよい。UAV制御部110は、通信インタフェース150を介して、PID制御装置700から飛行パラメータの情報を取得してよい。UAV制御部110は、取得された飛行パラメータを基に、無人航空機100の飛行を制御してよい。
UAV制御部110は、無人航空機100の位置を示す位置情報を取得する。UAV制御部110は、GPS受信機240から、無人航空機100が存在する緯度、経度及び高度を示す位置情報を取得してよい。UAV制御部110は、GPS受信機240から無人航空機100が存在する緯度及び経度を示す緯度経度情報、並びに気圧高度計270から無人航空機100が存在する高度を示す高度情報をそれぞれ位置情報として取得してよい。UAV制御部110は、超音波センサ280による超音波の放射点と超音波の反射点との距離を高度情報として取得してよい。
UAV制御部110は、磁気コンパス260から無人航空機100の向きを示す向き情報を取得してよい。向き情報は、例えば無人航空機100の機首の向きに対応する方位で示されてよい。
UAV制御部110は、撮像部220が撮像すべき撮像範囲を撮像する時に無人航空機100が存在すべき位置を示す位置情報を取得してよい。UAV制御部110は、無人航空機100が存在すべき位置を示す位置情報をメモリ160から取得してよい。UAV制御部110は、無人航空機100が存在すべき位置を示す位置情報を、通信インタフェース150を介して他の装置から取得してよい。UAV制御部110は、3次元地図データベースを参照して、無人航空機100が存在可能な位置を特定して、その位置を無人航空機100が存在すべき位置を示す位置情報として取得してよい。UAV制御部110は、無人航空機100が存在すべき位置を示す位置情報を、通信インタフェース150を介して飛行制御装置800(例えば処理バックエンド500)に送信してよい。無人航空機100が存在すべき位置を示す位置情報は、予定される飛行経路の情報に含まれてよい。
UAV制御部110は、撮像部220及び撮像部230のそれぞれの撮像範囲を示す撮像範囲情報を取得してよい。UAV制御部110は、撮像範囲を特定するためのパラメータとして、撮像部220及び撮像部230の画角を示す画角情報を撮像部220及び撮像部230から取得してよい。UAV制御部110は、撮像範囲を特定するためのパラメータとして、撮像部220及び撮像部230の撮像方向を示す情報を取得してよい。UAV制御部110は、例えば撮像部220の撮像方向を示す情報として、ジンバル200から撮像部220の姿勢の状態を示す姿勢情報を取得してよい。撮像部220の姿勢情報は、ジンバル200のピッチ軸及びヨー軸の基準回転角度からの回転角度を示してよい。
UAV制御部110は、撮像範囲を特定するためのパラメータとして、無人航空機100が存在する推定位置を示す推定位置情報を取得してよい。UAV制御部110は、撮像部220及び撮像部230の画角及び撮像方向、並びに無人航空機100の推定位置に基づいて、撮像部220が撮像する地理的な範囲を示す撮像範囲を画定し、撮像範囲情報を生成することで、撮像範囲情報を取得してよい。
UAV制御部110は、メモリ160から撮像範囲情報を取得してよい。UAV制御部110は、通信インタフェース150を介して撮像範囲情報を取得してよい。
UAV制御部110は、ジンバル200、回転翼機構210、撮像部220及び撮像部230を制御する。UAV制御部110は、撮像部220の撮像方向又は画角を変更することによって、撮像部220の撮像範囲を制御してよい。UAV制御部110は、ジンバル200の回転機構を制御することで、ジンバル200に支持されている撮像部220の撮像範囲を制御してよい。
撮像範囲とは、撮像部220又は撮像部230により撮像される地理的な範囲をいう。撮像範囲は、緯度、経度、及び高度で定義される。撮像範囲は、緯度、経度、及び高度で定義される3次元空間データにおける範囲でよい。撮像範囲は、緯度及び経度で定義される2次元空間データにおける範囲でよい。撮像範囲は、撮像部220又は撮像部230の画角及び撮像方向、並びに無人航空機100が存在する位置に基づいて特定されてよい。撮像部220及び撮像部230の撮像方向は、撮像部220及び撮像部230の撮像レンズが設けられた正面が向く方位と俯角とから定義されてよい。撮像部220の撮像方向は、無人航空機100の機首の方位と、ジンバル200に対する撮像部220の姿勢の状態とから特定される方向でよい。撮像部230の撮像方向は、無人航空機100の機首の方位と、撮像部230が設けられた位置とから特定される方向でよい。撮像方向は、撮像向きと一致してよい。
UAV制御部110は、複数の撮像部230により撮像された複数の画像を解析することで、無人航空機100の周囲の環境を特定してよい。UAV制御部110は、無人航空機100の周囲の環境に基づいて、例えば障害物を回避して飛行を制御してよい。
UAV制御部110は、無人航空機100の周囲に存在するオブジェクトの立体形状(3次元形状)を示す立体情報(3次元情報)を取得してよい。オブジェクトは、例えば、建物、道路、車、木等の風景の一部でよい。立体情報は、例えば、3次元空間データである。UAV制御部110は、複数の撮像部230から得られたそれぞれの画像から、無人航空機100の周囲に存在するオブジェクトの立体形状を示す立体情報を生成することで、立体情報を取得してよい。UAV制御部110は、メモリ160又はストレージ170に格納された3次元地図データベースを参照することにより、無人航空機100の周囲に存在するオブジェクトの立体形状を示す立体情報を取得してよい。UAV制御部110は、ネットワーク上に存在するサーバが管理する3次元地図データベースを参照することで、無人航空機100の周囲に存在するオブジェクトの立体形状に関する立体情報を取得してよい。
UAV制御部110は、回転翼機構210を制御することで、無人航空機100の飛行を制御する。つまり、UAV制御部110は、回転翼機構210を制御することにより、無人航空機100の緯度、経度、及び高度を含む位置を制御する。UAV制御部110は、無人航空機100の飛行を制御することにより、撮像部220の撮像範囲を制御してよい。UAV制御部110は、撮像部220が備えるズームレンズを制御することで、撮像部220の画角を制御してよい。UAV制御部110は、撮像部220のデジタルズーム機能を利用して、デジタルズームにより、撮像部220の画角を制御してよい。
撮像部220が無人航空機100に固定され、撮像部220を動かせない場合、UAV制御部110は、特定の日時に特定の位置に無人航空機100を移動させることにより、所望の環境下で所望の撮像範囲を撮像部220に撮像させてよい。あるいは撮像部220がズーム機能を有さず、撮像部220の画角を変更できない場合でも、UAV制御部110は、特定された日時に、特定の位置に無人航空機100を移動させることで、所望の環境下で所望の撮像範囲を撮像部220に撮像させてよい。
通信インタフェース150は、他の通信装置(例えば無人航空機100の飛行の制御を指示する端末や送信機(リモートコントローラ))と通信する。通信インタフェース150は、任意の無線通信方式により無線通信してよい。通信インタフェース150は、任意の有線通信方式により有線通信してよい。通信インタフェース150は、空撮画像や空撮画像に関する付加情報(メタデータ)を、端末に送信してよい。通信インタフェース150は、飛行制御装置800に含まれる少なくとも1つの装置(例えば処理バックエンド500、PID制御装置700)と通信してよい。
メモリ160は、UAV制御部110がジンバル200、回転翼機構210、撮像部220、撮像部230、GPS受信機240、慣性計測装置250、磁気コンパス260、気圧高度計270、超音波センサ280、及びレーザー測定器290を制御するのに必要なプログラム等を格納する。メモリ160は、コンピュータ読み取り可能な記録媒体でよく、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)、及びUSB(Universal Serial Bus)メモリ等のフラッシュメモリの少なくとも1つを含んでよい。メモリ160は、無人航空機100から取り外し可能であってよい。メモリ160は、作業用メモリとして動作してよい。
ストレージ170は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、SDカード、USBメモリ、その他のストレージの少なくとも1つを含んでよい。ストレージ170は、各種情報、各種データを保持してよい。ストレージ170は、無人航空機100から取り外し可能であってよい。ストレージ170は、空撮画像を記録してよい。
メモリ160又はストレージ170は、端末又は無人航空機100により生成された空撮位置や空撮経路(飛行経路)の情報を保持してよい。空撮位置や空撮経路の情報は、無人航空機100により予定された空撮に係る空撮パラメータ、又は、無人航空機100により予定された飛行に係る飛行パラメータ、の1つとして、UAV制御部110により設定されてよい。この設定情報は、メモリ160又はストレージ170に保持されてよい。
ジンバル200は、ヨー軸、ピッチ軸、及びロール軸を中心に撮像部220を回転可能に支持してよい。ジンバル200は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像部220を回転させることで、撮像部220の撮像方向を変更してよい。
回転翼機構210は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータと、を有する。回転翼機構210は、UAV制御部110により回転を制御されることにより、無人航空機100を飛行させる。
撮像部220は、所望の撮像範囲の被写体を撮像して撮像画像のデータを生成する。撮像部220の撮像により得られた画像データ(例えば空撮画像)は、撮像部220が有するメモリ、又はストレージ170に格納されてよい。
撮像部230は、無人航空機100の周囲を撮像して撮像画像のデータを生成する。撮像部230の画像データは、ストレージ170に格納されてよい。
GPS受信機240は、複数の航法衛星(つまり、GPS衛星)から発信された時刻及び各GPS衛星の位置(座標)を示す複数の信号(GPS信号)を受信する。GPS受信機240は、受信された複数の信号に基づいて、GPS受信機240の位置(つまり、無人航空機100の位置)を算出する。GPS受信機240は、無人航空機100の位置情報をUAV制御部110に出力する。なお、GPS受信機240の位置情報の算出は、GPS受信機240の代わりにUAV制御部110により行われてよい。この場合、UAV制御部110には、GPS受信機240が受信した複数の信号に含まれる時刻及び各GPS衛星の位置を示す情報が入力される。
慣性計測装置250は、無人航空機100の姿勢を検出し、検出結果をUAV制御部110に出力する。慣性計測装置250は、無人航空機100の姿勢として、無人航空機100の前後、左右、及び上下の3軸方向の加速度と、ピッチ軸、ロール軸、及びヨー軸の3軸方向の角速度とを検出してよい。
磁気コンパス260は、無人航空機100の機首の方位を検出し、検出結果をUAV制御部110に出力する。
気圧高度計270は、無人航空機100が飛行する高度を検出し、検出結果をUAV制御部110に出力する。
超音波センサ280は、超音波を放射し、地面や物体により反射された超音波を検出し、検出結果をUAV制御部110に出力する。検出結果は、無人航空機100から地面までの距離つまり高度を示してよい。検出結果は、無人航空機100から物体(被写体)までの距離を示してよい。
レーザー測定器290は、物体にレーザー光を照射し、物体で反射された反射光を受光し、反射光により無人航空機100と物体(被写体)との間の距離を測定する。レーザー光による距離の測定方式は、一例として、タイムオブフライト方式でよい。
なお、図4では無人航空機100がGPS受信機240を備えることを例示したが、無人航空機100がGPS受信機240を備えなくてもよい。この場合でも、無人航空機100は、GPS受信機240を備える場合も備えない場合も、無人航空機100の推定位置を基に、飛行制御可能である。
次に、無人飛行体システム5において、無人航空機100の自律飛行を支援する動作を示す。ここでは、無人航空機100が、GPS信号を受信困難な空間、例えば橋梁の下や室内等を飛行している状況を想定する。つまり、無人航空機100の位置計測の精度が低いことを想定してよい。また、無人航空機100がGPS受信機240を備えなくてもよく、つまり無人航空機100が位置計測機能を有しないことを想定してよい。複数のカメラ300は、無人航空機100を撮像可能な地面等の各場所に配置される。
図5は、再投影誤差を説明する図である。図5では、無人航空機100の実際の位置、無人航空機100の仮定位置xt(xとも記載する)、複数のカメラ300による撮像画像の投影面における投影仮定位置π(cj,xt)、観測位置ojt、が示されている。なお、j、tは変数であり、仮定位置xtは位置が可変である。
複数のカメラ300は、例えば上空を飛行する無人航空機100をそれぞれ撮像する。1台のカメラによる撮像画像では、無人航空機100のフレーム上の画素位置が平面的に認識可能であるが、撮像画像の画像面(投影面)に対する奥行き方向の位置の認識が困難である。このため、無人航空機100を異なる角度から撮像可能なカメラ300が複数設けられる。
図5では、カメラ姿勢cj(cとも記載する)のカメラ300による撮像画像のフレームGM1、及びカメラ姿勢cj−1のカメラ300による撮像画像のフレームGM2が示されている。フレームGM1には、無人航空機100を観測した画素位置である観測位置ojt(ojtとも記載する)、無人航空機100の仮定位置xtが投影された投影仮定位置π(cj,xt)が存在する。観測位置ojtと投影仮定位置π(cj,xt)とは、一致していないことがあり、これらの間には差分としての再投影誤差が生じる。同様に、フレームGM2には、無人航空機100の観測位置o(j−1)t、無人航空機100の仮定位置xtが投影された投影仮定位置π(cj−1,xt)が存在する。観測位置o(j−1)tと投影仮定位置π(cj−1,xt)とは、一致していないことがあり、再投影誤差が生じる。観測位置ojt、o(j−1)tは、実際に観測された位置が投影された位置であり固定位置であるが、投影仮定位置π(cj,xt)、π(cj−1,xt)は、可変位置である。処理バックエンド500は、これらの再投影誤差が小さくなるように、再投影誤差を最適化し、無人航空機100の推定位置を最適化する。なお、jは、カメラの識別情報の一例であり、tは時刻の一例である。
追跡フロントエンド400の通信部405は、複数のカメラ300による撮像画像を受信し、記憶部420に記憶させてよい。通信部405は、複数のカメラ300による撮像画像、無人航空機100の観測位置ojt、o(j−1)t、・・・、及びカメラ姿勢cj、cj−1、・・・の情報を処理バックエンド500に送信してよい。処理バックエンド500の通信部505は、撮像画像、無人航空機100の観測位置、及びカメラ姿勢の情報を受信し、記憶部520に記憶してよい。通信部405は、撮像画像を処理バックエンド500に送信しなくてもよい。
処理バックエンド500の通信部505は、無人航空機100の観測位置ojt、o(j−1)t、・・・の情報、及びカメラ姿勢cj、cj−1、・・・の情報を受信する。通信部505は、撮像画像を受信してもよい。また、処理部510は、時刻tにおける無人航空機100の3次元位置を様々な位置で仮定して仮定位置xtを取得し、この仮定位置xtがカメラ姿勢cj、cj−1、・・・の画像面(投影面)に投影された投影仮定位置π(cj,xt)、π(cj−1,xt)、・・・を導出(例えば算出)する。例えば、処理部510は、3次元位置としての仮定位置とカメラ姿勢とを基に、カメラ300の投影仮定位置を算出してよい。処理部510は、観測位置ojt、o(j−1)t、・・・と投影仮定位置π(cj,xt)、π(cj−1,xt)、・・・とを基に、式(1)に従って最適化処理を行い、無人航空機100の仮定位置を最適化し、無人航空機100の位置を推定する。
Figure 0006974290
式(1)に示されるargmin関数は、関数値が最小となるxを引数として渡す関数である。argmin関数の関数値は、各仮定位置xtと無人航空機100の存在位置との誤差を示す誤差スコアを示し、再投影誤差を最小化するための関数を示す。cjは、カメラ姿勢を表す。カメラ姿勢は、撮影位置と撮像方向(向き)で定まってよい。j(j=1,…,n)は、複数のカメラ300を識別するカメラ番号でよい。xtは、時刻tにおける無人航空機100の実空間における3次元位置を示し、様々な位置に仮定される。tは、時刻を示す。カメラ姿勢cjのカメラ300のフレーム(撮像面、投影面)には、無人航空機100の投影仮定位置π(cj,xt)と、カメラ姿勢cjのカメラ300によって撮像される無人航空機100の観測位置ojtと、が投影される。π(cj,xt)は、位置xtに仮定された無人航空機100がカメラ姿勢cjのカメラ300のフレームに投影された画素位置である投影仮定位置を表す。ojtは、時刻tにカメラ姿勢cjのカメラ300によって撮像された撮像画像のフレームに映る無人航空機100の画素位置である観測位置を表す。p(π(cj,xt)−ojt)は、投影仮定位置と観測位置との差分としての再投影誤差を積分する関数である。よって、処理部510は、式(1)に従って、仮定位置xtを変更しながら、再投影誤差を最小化する仮定位置xを探索し、無人航空機100の位置を推定してよい。
図5では、カメラ姿勢cjのカメラ300のフレームには、投影仮定位置π(cj,xt)及び観測位置ojtが示される。同様に、カメラ姿勢cj−1のカメラ300のフレームには、投影仮定位置π(cj−1,xt)及び観測位置o(j−1)tが示される。
また、wjt(wjtとも記載する)は、信頼度を表す係数である。信頼度wjtは、式(2)に従って算出される。なお、信頼度は、式(1)から省略されてもよい。式(2)では、カメラ300と無人航空機100との距離で信頼度が定められることを例示している。
Figure 0006974290
ここで、ωjt(ωjtとも記載する)は、カメラ番号jと時刻tで決まる固定値であり、式(1)、(2)で導出される値の範囲を調整するための値でよい。dsは、固定値である。dは、無人航空機100とカメラ300との間の距離を表す。例えば、カメラ300は、撮像した画像に映る無人航空機100を画像認識等により特定し、無人航空機100の大きさを基に、無人航空機100までの距離を導出(例えば算出)してよい。また、カメラ300は、測距センサを有し、測距センサで無人航空機100までの距離を計測してよい。距離dが短い程、信頼度wjtは高くなる。また、無人航空機100が撮像画像に映っていない場合、信頼度Wjtを値0とし、この場合の無人航空機100の仮定位置xtが推定位置に採用されないようにしてよい。なお、距離dの導出は、追跡フロントエンド400や処理バックエンド500で実施されてもよい。例えば、処理バックエンド500の処理部510が、仮定位置xtと各カメラ300との距離に基づいて、距離dを導出(例えば算出)してよい。距離dの情報は、カメラ300や追跡フロントエンド400から処理バックエンド500に通知されてよい。
このように、argmin関数は、無人航空機100の投影仮定位置π(cj,xt)と観測位置ojtとの差分値(再投影誤差)に、信頼度Wjt及び正規化係数pを乗じた値を、全てのカメラ300(カメラ姿勢C1〜Cnのカメラ)かつ全観測時間tで加算した値のうち、最小となる仮定位置xtを推定位置として求める関数である。nはカメラの総数を表す任意の値でよい。
なお、式(1)に示したargmin関数を用いて無人航空機100の位置を推定することは、無人航空機100の位置推定の一例であり、他の手法で位置推定してもよい。式(2)に従って信頼度wjtを導出することは、信頼度導出の一例であり、他の手法で信頼度導出してもよい。
処理バックエンド500の通信部505は、処理部510によって最適化された無人航空機100の推定位置のデータをPID制御装置700に送信する。PID制御装置700の通信部705は、無人航空機100の推定位置のデータを受信し、記憶部720に記憶する。PID制御装置700の処理部710は、無人航空機100の推定位置を基に、記憶部720に記憶された目標飛行経路に沿って無人航空機100を飛行させるためのPID制御を行う。通信部705は、PID制御によって得られる飛行パラメータを、無人航空機100に送信する。
無人航空機100の通信インタフェース150は、PID制御装置700から飛行パラメータを受信すると、メモリ160に記憶する。UAV制御部110は、飛行パラメータに従い、回転翼機構210を制御し、無人航空機100の飛行を制御し、自律飛行を継続する。
このように、無人飛行体システム5は、無人航空機100の存在位置を推定する飛行制御装置800(位置推定装置の一例)を備える。飛行制御装置800は、無人航空機100の存在位置を推定に関する処理を行う処理部(例えば追跡フロントエンド400の処理部410及び処理バックエンド500の処理部510の少なくとも一方)を備える。追跡フロントエンド400の処理部410は、複数のカメラ300により無人航空機100が撮像された複数の撮像画像を取得してよい。追跡フロントエンド400の処理部410は、各カメラ300の姿勢(配置位置及び各カメラ300の撮像向き)の情報を取得してよい。処理バックエンド500の処理部510は、カメラ300の姿勢と、実空間において無人航空機100が存在すると仮定された各仮定位置と、各撮像画像に投影された無人航空機100の観測位置(無人航空機100が存在する画像位置の一例)と、に基づいて、各仮定位置xtと無人航空機100の存在位置との誤差を示す誤差スコア(例えばargmin関数の導出値)を算出してよい。処理バックエンド500は、誤差スコアに基づいて、実空間における無人航空機100の存在位置を推定してよい。なお、処理バックエンド500単体が、位置推定装置の一例であってもよい。
これにより、飛行制御装置800は、様々な姿勢(配置位置、撮像向き)の複数のカメラ300を用いて無人航空機100を撮像することで、無人航空機100の位置を、撮像画像の撮像面(投影面)に沿った平面的な位置ではなく奥行方向の位置も加味して推定できる。よって、無人航空機100がGPS信号を受信できなくても、無人航空機100の位置を推定できる。したがって、無人航空機100がGPS信号を受信できない場合においても、無人航空機100は、無人航空機100の推定位置を基に、自律飛行できる。また、無人航空機がGPS信号に基づく位置計測機能を有しない場合や、GPS信号に基づく位置計測の精度が低い場合においても、無人航空機100は、自律飛行できる。また、飛行制御装置800は、無人航空機100が無人航空機100の加速度を検出して加速度を二重積分(2回積分)して位置を推定することを不要とするので、二重積分による誤差が発生せず、無人航空機の位置を精度良く推定できる。また、飛行制御装置800は、モーションキャプチャやビーコン信号を用いた位置推定を行うことを不要とするので、無人航空機100が使用できる現場が限定されることを抑制できる。
また、追跡フロントエンド400の処理部410は、複数のカメラ300により複数の時刻tに無人航空機100が撮像された複数の撮像画像を取得してよい。処理バックエンド500は、複数の時刻tにおいて誤差スコアを算出してよい。処理バックエンド500の処理部510は、この誤差スコアに基づいて、実空間における無人航空機100の存在位置を推定してよい。
これにより、飛行制御装置800は、複数の時刻t(タイミング)において無人航空機100の位置を推定できるので、無人航空機100の動きも加味して無人航空機100の位置を推定できる。したがって、無人航空機100の位置の推定精度が向上する。
また、処理バックエンド500の処理部510は、カメラ300と無人航空機100との距離dを取得してよい。処理部510は、この距離dに基づいて、撮像画像についての誤差スコアの信頼度wjtを導出してよい。処理部510は、信頼度wjtに基づいて誤差スコアを算出してよい。
これにより、カメラ300から無人航空機100までの距離dが長いと、つまり無人航空機100が遠くにあると、処理部510による無人航空機100の位置の推定精度が下がることを踏まえ、処理部510は、無人航空機100までの距離dも加味して無人航空機100の位置を推定できる。例えば、距離dが短い程、信頼度wjtを大きくし、距離dが長い程、信頼度wjtを小さくできる。したがって、飛行制御装置800は、誤差スコアを用いた無人航空機100の位置の推定精度を向上させることができる。
また、処理部510は、各カメラ300の配置位置及び各カメラ300の撮像向き(カメラ姿勢cj)で撮像された各撮像画像に、実空間において無人航空機100が存在すると仮定された各仮定位置xtが投影された各投影仮定位置π(cj,xt)と、各カメラ300の配置位置及び各撮像装置の撮像向きで撮像された各撮像画像における無人航空機100が存在する各観測位置ojtと、の差分(再投影誤差)に基づいて、誤差スコアを算出してよい。処理部510は、誤差スコアが最小となる無人航空機100の仮定位置xtを、無人航空機100の存在位置として推定してよい。例えば、処理部510は、式(1)に従って、誤差スコアを最適化してよい。
これにより、飛行制御装置800は、各カメラ300により撮像された撮像画像に投影された投影仮定位置と画像位置(観測位置)との差分に基づいて、誤差スコアを導出可能である。そして、例えば、飛行制御装置800は、誤差スコアを各時刻tにおいて求め、誤差スコアが最小となる仮定位置xtを、無人航空機100の存在位置として推定できる。よって、処理部510は、例えば式(1)に従って、複数のカメラ300で撮像された画像を基に、無人航空機100の推定位置を最適化できる。
(実施形態2)
実施形態2では、実施形態1に対し、更に、無人航空機100が検出したGPS位置情報を考慮して、無人航空機100の推定位置を最適化する場合を示す。
図6は、実施形態2における飛行制御装置800Aのハードウェア構成を示す図である。実施形態2の無人飛行体システム5Aは前記実施形態1とほぼ同一の構成を有する。実施形態1と同一の構成要素については、同一の符号を用いることで、その説明を省略する。
無人航空機100は、GPS受信機240を省略せずに備える。無人航空機100のUAV制御部110は、GPS受信機240で受信したGPS信号を基に無人航空機100のGPS位置情報を取得する。UAV制御部110は、通信インタフェース150を介して飛行制御装置800AにGPS位置情報を送信する。
処理バックエンド500Aの通信部505Aは、無人航空機100からGPS位置情報を受信する。また、通信部505Aは、実施形態1と同様、追跡フロントエンド400から複数のカメラ300による撮像画像、無人航空機100の観測位置、カメラ姿勢の情報を受信する。なお、撮像画像が受信されなくてもよい。
処理バックエンド500Aの処理部510Aは、再投影誤差の最適化を行う際、通信部505Aを介して受信したGPS位置情報を考慮する。つまり、処理部510Aは、式(3)に従い、無人航空機100の推定位置を最適化してよい。
式(3)に示されるargmin関数は、式(1)と同様、関数値が最小となるxを引数として渡す関数であり、GPS位置情報に関する項λGG(X,Z)を含む。λGG(X,Z)は、GPS信号を加味したスコアである。
Figure 0006974290
λG(λとも記載する)は、式(4)で表される。
λG = Ca×(Cn−N) ……(4)
ここで、Cnは、GPS衛星の総数である。Nは、GPS受信機240が受信に使用しているGPS衛星の数である。したがって、Cn−Nは、GPS受信機240が受信に使用していないGPS衛星の数を表す。Caは係数である。式(4)より、λGは、GPS受信機240が受信に使用しているGPSの数が多い程、小さな値となる。なお、λGは、GPS信号の強度に対応する値でよい。GPS信号の強度が大きい場合、λGの値を小さくしてよく、GPS信号の強度が小さい場合、λGの値は大きくしてよい。この場合、式(3)のλGG(X,Z)において、G(X,Z)の値の影響を大きく受けることで、GPS位置情報がより反映される。つまり、GPS信号の強度が強い場合、GPS信号の信頼性が高いので、G(X,Z)の値が式(3)の値に大きく影響するようにしてよい。
また、G(X,Z)は、無人航空機100の全ての仮定位置xtとGPS位置との差の合計に相当する値であり、式(5)で表される。
Figure 0006974290
ここで、ζは、GPS位置(GPS受信機240により検出された位置)を表す。仮定位置xtとGPS位置ζとの差が大きい程、G(X,Z)は大きくなる。
このように、argmin関数により、無人航空機100の仮定位置xtは、argmin関数の括弧内(argminx()の()内)の値(再投影誤差)が小さくなるように、最適化される。つまり、argmin関数で示される無人航空機100の推定位置は、argmin関数の括弧内の値が最小となる仮定位置とされる。
通信部505Aは、処理部510Aで最適化された無人航空機100の推定位置をPID制御装置700に送信する。PID制御装置700は、最適化された無人航空機100の推定位置を基に、無人航空機100の飛行パラメータを生成し、無人航空機100に送信する。無人航空機100の動作は、実施形態1と同様である。
実施形態2の無人飛行体システム5Aでは、処理バックエンド500Aの処理部510Aは、GPS位置情報を加味して、例えば式(3)のargmin関数の値が閾値th2以下(例えば最小になる)ように、再投影誤差を最適化し、無人航空機100の存在位置を推定する。
このように、処理バックエンド500の処理部510Aは、無人航空機100が備えるGPS受信機240(位置計測部の一例)により計測されたGPS位置(第1の計測位置の一例)を取得してよい。処理部510Aは、GPS位置に基づいて、例えば式(3)で示される誤差スコアを算出してよい。
これにより、飛行制御装置800Aは、無人航空機100において一般的に位置測定に使用されるGPS信号を加味して、誤差スコアを算出し、無人航空機100の推定位置を最適化できる。したがって、飛行制御装置800Aは、無人航空機100が備えるGPS受信機240の精度が低くても、GPS信号とともに実施形態1と同様の誤差スコアを基に無人航空機100の位置を推定でき、位置推定精度を向上できる。よって、飛行制御装置800Aは、GPS受信機240の位置計測精度が低い場合でも、誤差スコアを用いた無人航空機100の位置の推定により、GPS受信機240による位置計測を補助できる。
また、GPS受信機240は、複数のGPS衛星からGPS信号を受信してGPS位置の情報を取得してよい。処理部510Aは、GPS受信機240が受信可能なGPS衛星の数が多い程、GPS位置情報がより反映されるように、つまり誤差スコアに対するGPS信号の影響が大きくなるように、誤差スコアを算出してよい。例えば、式(3)のλG・G(X,Z)において、係数λGは、無人航空機100が受信に使用しているGPSの数が多い程、小さな値となり、G(X,Z)の値の影響を大きく受けることで、GPS位置情報がより反映されるにしてよい。
これにより、飛行制御装置800Aは、GPS信号の信頼度(GPS信号の強度)に合わせて、GPS信号の値が誤差スコアに与える影響を調整して、誤差スコアを算出し、再投影誤差を最適化し、無人航空機100の位置を推定できる。したがって、飛行制御装置800Aは、GPSの受信状態を加味して無人航空機100の位置を推定するので、無人航空機100の位置推定精度を一層向上できる。よって、飛行制御装置800Aは、GPS信号の信頼度に応じて、実施形態1の誤差スコアを用いた無人航空機100の位置の推定結果を補正できる。
(実施形態3)
実施形態3では、実施形態2に対し、更に、ダイナミックファクタや無人航空機100の加速度に基づく無人航空機100の推定位置を考慮して、無人航空機100の推定位置を最適化する場合を示す。ダイナミクスファクタは、物理的な現象を加味したファクタである。
図7は、実施形態3における飛行制御装置800Bのハードウェア構成を示す図である。
飛行制御装置800Bは、実施形態1と同様、追跡フロントエンド400、処理バックエンド500B、及びPID制御装置700を有する他、IMUフロントエンド600を有する。
IMUフロントエンド600は、通信部605、処理部610、及び記憶部620を有する。処理部610は、慣性計測装置250で計測された加速度(IMUデータ)を例えば二重積分(2回積分)して、無人航空機100の位置を推定し、推定位置の情報を取得する。この加速度を基に推定された位置を加速度推定位置とも称する。
通信部605は、無人航空機100及び処理バックエンド500Bと通信を行う。無人航空機100及び処理バックエンド500Bとの通信方式には、専用線、有線LAN、無線LAN、モバイル通信等が用いられる。通信部605は、例えば、無人航空機100から慣性計測装置250で計測された加速度の情報を受信する。通信部605は、例えば、加速度に基づく無人航空機100の加速度推定位置を、処理バックエンド500Bに送信する。記憶部420は、処理部410のワーキングメモリとして使用される。
IMUフロントエンド600では、例えば1秒間に100個のIMUのデータ(加速度のデータ)が取得される。また、追跡フロントエンド400では、例えば1秒間に30枚(30fps)又は60枚(60fps)の頻度で撮像画像が取得され、無人航空機100Aが存在する画像位置(観測位置)が導出される。また、処理バックエンド500Bでは、例えば1秒間に10個分のIMUを使用する程度の処理速度である。
ここで、処理バックエンド500Bが再投影誤差を最適化して無人航空機100の位置を推定する場合、IMUフロントエンド600による無人航空機100の加速度推定位置の更新頻度と、追跡フロントエンド400による撮像画像の取得頻度(観測位置の導出頻度)と、処理バックエンド500Bによる無人航空機100の推定位置の処理頻度と、を揃えることが望ましい。処理部510Bは、IMUフロントエンド600、追跡フロントエンド400、及び処理バックエンド500Bを同一のタイミングで処理するために、処理バックエンド500Bの処理頻度(例えば1秒間に10回)に合わせるよう制御してよい。
例えば、処理部510Bは、通信部505及び通信部605を介して、例えば、IMUデータを積分して加速度推定位置を1秒間に10個取得してよい。処理部510Bは、通信部505及び通信部405を介して、例えば、撮像画像における画像位置(観測位置)の情報を1秒間に10個取得してよい。
処理バックエンド500Bの通信部505Bは、実施形態2と同様、無人航空機100から無人航空機100のGPS位置情報を受信する。無人航空機100のUAV制御部110は、GPS受信機240で受信したGPS信号を基に無人航空機100のGPS位置情報を取得し、通信インタフェース150を介して飛行制御装置800Bに送信してよい。なお、本実施形態では、処理バックエンド500Bは、GPS位置情報を取得せず、誤差スコアの算出にGPS位置情報を考慮しなくてもよい。
処理バックエンド500Bの通信部505Bは、実施形態1,2と同様、追跡フロントエンド400から複数のカメラ300による撮像画像、カメラ300の姿勢に関するデータを受信してよい。通信部505Bは、IMUフロントエンド600から加速度推定位置の情報を受信してよい。なお、処理バックエンド300Bは、撮像画像を取得しなくてもよい。
また、記憶部520Bは、ダイナミックファクタを記憶してよい。ダイナミックファクタは、例えば運動方程式に則って、無人航空機100の推定位置が物理的に移動できる範囲に収まるようにするためのデータを含んでよい。ダイナミックファクタは、例えば、カルマンフィルタを含んでよい。カルマンフィルタを用いる場合、処理部510Bが、無人航空機100の現在の位置、速度、加速度、等を基に、無人航空機100の次の位置を推定してよい。
処理バックエンド500Bの処理部510Bは、再投影誤差を最適化して無人航空機100の位置を推定する際、通信部505Bを介して受信した加速度推定位置及びダイナミックファクタによる物理的な推定位置(物理推定位置)の少なくとも一方を考慮する。また、処理部510Bは、再投影誤差を最適化して無人航空機100の位置を推定する際、GPS位置情報を考慮してよい。つまり、処理部510Bは、式(6)に従い、再投影誤差を最適化してよい。
Figure 0006974290
ここで、R(X,Γ)は、物理推定位置を加味したスコア、つまりダイナミクスファクタを加味したスコアを表し、式(7)で示される。
Figure 0006974290
λR(λとも記載する)は、固定値である。xt上付きバー(γt)は、時刻tにおける様々な物理的な法則や公式(例えば運動方程式)に則って得られる物理推定位置を示す。よって、R(X,Γ)は、無人航空機100の仮定位置xtと無人航空機100の物理推定位置との差分の累積値を示す。なお、xt上付きバーは、物理推定位置を導出するための関数でよい。γt(γとも記載する)は、物理推定位置の導出に必要な変数であり、例えば時刻tでの無人航空機100の位置や速度でよい。
このように、処理部510Bは、無人航空機100が物理的に移動可能な位置に基づいて、誤差スコアを算出してよい。
無人航空機100の仮定位置xtと無人航空機100の物理推定位置との差が大きい場合、式(6)におけるλRR(X,Γ)は、大きな値となり、式(6)の値に対する影響が大きくなる。例えば、算出された無人航空機100の次の推定位置が、現在の無人航空機100の仮定位置xtから大きくかけ離れていて移動不可能である場合、このような仮定位置xtが無人航空機100の位置として推定されないように、ダイナミクスファクタの値が大きくなり、式(6)の値が最小値になり難くなる。また、計算される無人航空機100の速度(例えば50m/秒)が無人航空機100の最高速度(例えば20m/秒)を超えるような場合、このような速度に対応する仮定位置xtが無人航空機100の位置として推定されないように、ダイナミクスファクタの値が大きくなり、式(6)の値が最小値になり難くなる。飛行制御装置800Bは、例えば無人航空機100が移動可能な物理的な推定位置を加味して、無人航空機100の位置を推定でき、位置推定精度を向上できる。
また、I(X,Δ)は、加速度推定位置を加味したスコア、つまり加速度ファクタを加味したスコアを表し、式(8)で示される。
Figure 0006974290
λI(λとも記載する)は、固定値である。xt上付きバー(δt)は、慣性計測装置250により計測された加速度を基に導出される位置(加速度推定位置)を示す。よって、I(X,Δ)は、無人航空機100の仮定位置xtと無人航空機100の加速度推定位置との差分の累積値を示す。なお、xt上付きバーは、加速度推定位置を導出するための関数でよい。δt(δとも記載する)は、加速度推定位置の導出に必要な変数であり、例えば時刻tでの無人航空機100の位置や速度でよい。
このように、処理部510Bは、無人航空機100が備える慣性計測装置250(加速度計測器の一例)により計測された加速度に基づいて、無人航空機100の位置(加速度推定位置)(第2の計測位置の一例を導出(例えば算出)してよい。処理部510Bは、加速度計測位置に基づいて、誤差スコアを算出してよい。
無人航空機100の仮定位置xtと無人航空機100の加速度推定位置との差が大きい場合、式(8)におけるλII(X,Δ)は大きな値となり、式(8)の値に対する影響が大きくなる。飛行制御装置800Bは、無人航空機100が備える慣性計測装置250による計測結果(加速度)を加味して、無人航空機100の位置を推定でき、位置推定精度を向上できる。
実施形態3の無人飛行体システム5Bでは、処理バックエンド500Bの処理部510Bは、GPS位置情報、物理推定位置、加速度推定位置の少なくとも1つを加味して、例えば式(6)のargmin関数の値が閾値th3以下(例えば最小になる)ように、再投影誤差を最適化し、無人航空機100の存在位置を推定する。
通信部505Bは、処理部510Bで最適化された無人航空機100の推定位置をPID制御装置700に送信する。PID制御装置700が、最適化された無人航空機100の推定位置を基に、無人航空機100に飛行パラメータを生成し、無人航空機100に送信する。無人航空機100の動作は、実施形態1,2と同様である。
なお、式(6)では、式(3)に対し、ダイナミクスファクタを加味したスコアλRR(X,Γ)と加速度ファクタを加味したスコアλRR(X,Γ)の両方が付加されることを例示したが、いずれか一方だけが付加されてよい。
上記各実施形態における飛行制御装置800,800A,800Bは、カメラ300および無人航空機100とは、別体の装置として構成されたが、その少なくとも一部の構成は、カメラ300、無人航空機100、カメラ300及び無人航空機100以外の端末やサーバで構成されてよい。端末は、例えば無人航空機を操縦可能な端末でよい。サーバは、カメラ300及び無人航空機100と通信可能にネットワークに接続されたコンピュータでよい。飛行制御装置800,800A,800Bのうち、例えば、追跡フロントエンド400は、カメラ300、無人航空機100、端末、およびサーバのいずれに備わってよい。処理バックエンド500,500A,500Bは、カメラ300、無人航空機100、端末、及びサーバのいずれに備わってよい。PID制御装置700は、カメラ300、無人航空機100、端末、及びサーバのいずれに備わってよい。IMUフロントエンド600は、カメラ300、無人航空機100、端末、及びサーバのいずれに備わってよい。
上記各実施形態における各処理部は、例えば、プロセッサが各記憶部に保持されたプログラムを実行することで、各種機能を実現する。プロセッサは、MPU(Micro processing Unit)、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、GPU(Graphical Processing Unit)、等を含んでよい。各処理部は、装置内の各部を制御する。各処理部は、各種処理を行う。
上記各実施形態における各記憶部は、一次記憶装置(例えばRAM(Random Access Memory)やROM(Read Only Memory))を含む。各記憶部は、二次記憶装置(例えばHDD(Hard Disk Drive)やSSD(Solid State Drive))や三次記憶装置(例えば光ディスク、SDカード)を含んでよい。各記憶部は、その他の記憶装置を含んでよい。各記憶部は、各種データ、情報、プログラムを記憶する。
以上、本開示を実施形態を用いて説明したが、本開示の技術的範囲は上述した実施形態に記載の範囲には限定されない。上述した実施形態に、多様な変更又は改良を加えることが当業者に明らかである。その様な変更又は改良を加えた形態も本開示の技術的範囲に含まれ得ることが、特許請求の範囲の記載からも明らかである。
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現可能である。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「先ず、」、「次に」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
5,5A,5B 無人飛行体システム
100 無人航空機
102 UAV本体
110 UAV制御部
150 通信インタフェース
160 メモリ
170 ストレージ
200 ジンバル
210 回転翼機構
220,230 撮像部
240 GPS受信機
250 慣性計測装置
260 磁気コンパス
270 気圧高度計
280 超音波センサ
290 レーザー測定器
300 カメラ
400 追跡フロントエンド
405,505,505A,505B,605,705 通信部
410,510,510A,510B,610,710 処理部
420,520,520B,620,720 記憶部
500,500A,500B 処理バックエンド
600 IMUフロントエンド
700 PID制御装置
800,800A,800B 飛行制御装置
GM1,GM2 フレーム
STV0 移動方向

Claims (18)

  1. 飛行体の存在位置を推定する位置推定装置であって、
    前記飛行体の存在位置の推定に関する処理を行う処理部を備え、
    前記処理部は、
    複数の撮像装置により複数の時刻に前記飛行体が撮像された複数の撮像画像を取得し、
    各撮像装置の配置位置及び各撮像装置の撮像向きの情報を取得し、
    各撮像装置の配置位置と、各撮像装置の撮像向きと、実空間において前記飛行体が存在すると仮定された各仮定位置と、各撮像画像における前記飛行体が存在する画像位置と、に基づいて、各仮定位置と前記飛行体の存在位置との誤差を示す誤差スコアを前記複数の時刻において算出し、
    前記誤差スコアに基づいて、実空間における前記飛行体の存在位置を推定し、
    前記処理部は、
    前記撮像装置と前記飛行体との距離を取得し、
    前記距離に基づいて、前記撮像画像についての前記誤差スコアの信頼度を導出し、
    前記信頼度に基づいて前記誤差スコアを算出する、
    位置推定装置。
  2. 前記処理部は、
    前記撮像画像に映る前記飛行体の大きさに基づいて、前記撮像装置と前記飛行体との距離を取得する、
    請求項1に記載の位置推定装置。
  3. 前記信頼度は、前記撮像装置と前記飛行体との距離が短い程、高くなる、
    請求項1または2に記載の位置推定装置。
  4. 前記処理部は、
    各撮像装置の配置位置及び各撮像装置の撮像向きで撮像された各撮像画像に、実空間において前記飛行体が存在すると仮定された各仮定位置が投影された各投影仮定位置と、各撮像装置の配置位置及び各撮像装置の撮像向きで撮像された各撮像画像における前記飛行体が存在する各画像位置と、の差分に基づいて、前記誤差スコアを算出し、
    前記誤差スコアが最小となる前記飛行体の仮定位置を、前記飛行体の存在位置として推定する、
    請求項3に記載の位置推定装置。
  5. 前記処理部は、
    前記飛行体が備える位置計測部により計測された前記飛行体の第1の計測位置を取得し、
    前記第1の計測位置に基づいて、前記誤差スコアを算出する、
    請求項1〜4のいずれか1項に記載の位置推定装置。
  6. 前記位置計測部は、複数のGPS(Global Positioning System)衛星からGPS信号を受信して前記第1の計測位置を取得し、
    前記処理部は、前記位置計測部が受信不可能な前記GPS衛星の数が多い程、前記誤差スコアに対する前記第1の計測位置の影響が大きくなるように、前記誤差スコアを算出する、
    請求項5に記載の位置推定装置。
  7. 前記処理部は、前記飛行体が物理的に移動可能な範囲に収まるようにするためのデータを含むダイナミックファクタに基づいて、前記誤差スコアを算出する、
    請求項1〜6のいずれか1項に記載の位置推定装置。
  8. 前記処理部は、
    前記飛行体が備える加速度計測器により計測された加速度に基づいて、前記飛行体の第2の計測位置を導出し、
    前記第2の計測位置に基づいて、前記誤差スコアを算出する、
    請求項1〜6のいずれか1項に記載の位置推定装置。
  9. 飛行体の存在位置を推定する位置推定方法であって、
    複数の撮像装置により複数の時刻に前記飛行体が撮像された複数の撮像画像を取得するステップと、
    各撮像装置の配置位置及び各撮像装置の撮像向きの情報を取得するステップと、
    各撮像装置の配置位置と、各撮像装置の撮像向きと、実空間において前記飛行体が存在すると仮定された各仮定位置と、各撮像画像における前記飛行体が存在する画像位置と、
    に基づいて、各仮定位置と前記飛行体の存在位置との誤差を示す誤差スコアを前記複数の時刻において算出するステップと、
    前記誤差スコアに基づいて、実空間における前記飛行体の存在位置を推定するステップと、
    を有する位置推定方法であって、
    前記誤差スコアを算出するステップは、
    前記撮像装置と前記飛行体との距離を取得するステップと、
    前記距離に基づいて、前記撮像画像についての前記誤差スコアの信頼度を導出するステップと、
    前記信頼度に基づいて前記誤差スコアを算出するステップと、を含む、
    位置推定方法
  10. 前記撮像装置と前記飛行体との距離を取得するステップは、
    前記撮像画像に映る前記飛行体の大きさに基づいて、前記撮像装置と前記飛行体との距離を取得するステップを含む、
    請求項9に記載の位置推定方法。
  11. 前記信頼度は、前記撮像装置と前記飛行体との距離が短い程、高くなる、
    請求項9または10に記載の位置推定方法。
  12. 前記誤差スコアを算出するステップは、各撮像装置の配置位置及び各撮像装置の撮像向きで撮像された各撮像画像に、実空間において前記飛行体が存在すると仮定された各仮定位置が投影された各投影仮定位置と、各撮像装置の配置位置及び各撮像装置の撮像向きで撮像された各撮像画像における前記飛行体が存在する各画像位置と、の差分に基づいて、前記誤差スコアを算出するステップを含み、
    前記飛行体の存在位置を推定するステップは、前記誤差スコアが最小となる前記飛行体の仮定位置を、前記飛行体の存在位置として推定するステップを含む、
    請求項11に記載の位置推定方法。
  13. 前記誤差スコアを算出するステップは、
    前記飛行体が備える位置計測部により計測された前記飛行体の第1の計測位置を取得するステップと、
    前記第1の計測位置に基づいて、前記誤差スコアを算出するステップと、を含む、
    請求項9〜12のいずれか1項に記載の位置推定方法。
  14. 前記第1の計測位置を取得するステップは、複数のGPS衛星からGPS信号を受信して前記第1の計測位置を取得するステップを含み、
    前記誤差スコアを算出するステップは、前記位置計測部が受信不可能な前記GPS衛星の数が多い程、前記誤差スコアに対する前記第1の計測位置の影響が大きくなるように、前記誤差スコアを算出するステップを含む、
    請求項13に記載の位置推定方法。
  15. 前記誤差スコアを算出するステップは、前記飛行体が物理的に移動可能な範囲に収まるようにするためのデータを含むダイナミックファクタに基づいて、前記誤差スコアを算出するステップを含む、
    請求項9〜14のいずれか1項に記載の位置推定方法。
  16. 前記誤差スコアを算出するステップは、
    前記飛行体が備える加速度計測器により計測された加速度に基づいて、前記飛行体の第2の計測位置を導出するステップと、
    前記第2の計測位置に基づいて、前記誤差スコアを算出するステップと、を含む、
    請求項9〜14のいずれか1項に記載の位置推定方法。
  17. 飛行体の存在位置を推定する位置推定装置に、
    複数の撮像装置により複数の時刻に前記飛行体が撮像された複数の撮像画像を取得するステップと、
    各撮像装置の配置位置及び各撮像装置の撮像向きの情報を取得するステップと、
    各撮像装置の配置位置と、各撮像装置の撮像向きと、実空間において前記飛行体が存在すると仮定された各仮定位置と、各撮像画像における前記飛行体が存在する画像位置と、に基づいて、各仮定位置と前記飛行体の存在位置との誤差を示す誤差スコアを前記複数の時刻において算出するステップと、
    前記誤差スコアに基づいて、実空間における前記飛行体の存在位置を推定するステップと、
    を実行させるためのプログラムであって、
    前記誤差スコアを算出するステップは、
    前記撮像装置と前記飛行体との距離を取得するステップと、
    前記距離に基づいて、前記撮像画像についての前記誤差スコアの信頼度を導出するステップと、
    前記信頼度に基づいて前記誤差スコアを算出するステップと、を含む、
    プログラム
  18. 飛行体の存在位置を推定する位置推定装置に、
    複数の撮像装置により複数の時刻に前記飛行体が撮像された複数の撮像画像を取得するステップと、
    各撮像装置の配置位置及び各撮像装置の撮像向きの情報を取得するステップと、
    各撮像装置の配置位置と、各撮像装置の撮像向きと、実空間において前記飛行体が存在すると仮定された各仮定位置と、各撮像画像における前記飛行体が存在する画像位置と、に基づいて、各仮定位置に前記飛行体の存在位置との誤差を示す誤差スコアを前記複数の時刻において算出するステップと、
    前記誤差スコアに基づいて、実空間における前記飛行体の存在位置を推定するステップと、
    を実行させるためのプログラムを記録したコンピュータ読取り可能な記録媒体であって、
    前記誤差スコアを算出するステップは、
    前記撮像装置と前記飛行体との距離を取得するステップと、
    前記距離に基づいて、前記撮像画像についての前記誤差スコアの信頼度を導出するステップと、
    前記信頼度に基づいて前記誤差スコアを算出するステップと、を含む、
    記録媒体
JP2018206007A 2018-10-31 2018-10-31 位置推定装置、位置推定方法、プログラム、及び記録媒体 Active JP6974290B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018206007A JP6974290B2 (ja) 2018-10-31 2018-10-31 位置推定装置、位置推定方法、プログラム、及び記録媒体
CN201980009074.2A CN111615616A (zh) 2018-10-31 2019-10-28 位置推定装置、位置推定方法、程序以及记录介质
PCT/CN2019/113651 WO2020088397A1 (zh) 2018-10-31 2019-10-28 位置推定装置、位置推定方法、程序以及记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018206007A JP6974290B2 (ja) 2018-10-31 2018-10-31 位置推定装置、位置推定方法、プログラム、及び記録媒体

Publications (2)

Publication Number Publication Date
JP2020071154A JP2020071154A (ja) 2020-05-07
JP6974290B2 true JP6974290B2 (ja) 2021-12-01

Family

ID=70462059

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018206007A Active JP6974290B2 (ja) 2018-10-31 2018-10-31 位置推定装置、位置推定方法、プログラム、及び記録媒体

Country Status (3)

Country Link
JP (1) JP6974290B2 (ja)
CN (1) CN111615616A (ja)
WO (1) WO2020088397A1 (ja)

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102004005380A1 (de) * 2004-02-03 2005-09-01 Isra Vision Systems Ag Verfahren zur Bestimmung der Lage eines Objekts im Raum
WO2007058302A1 (ja) * 2005-11-21 2007-05-24 Nec Corporation 位置推定システム、位置推定方法および位置推定用プログラム
JP5050904B2 (ja) * 2007-04-09 2012-10-17 セイコーエプソン株式会社 現在位置測位方法及び測位装置
JP4985166B2 (ja) * 2007-07-12 2012-07-25 トヨタ自動車株式会社 自己位置推定装置
US20100188280A1 (en) * 2009-01-23 2010-07-29 Honeywell International Inc. Systems and methods for determining location of an airborne vehicle using radar images
JP5962771B2 (ja) * 2012-12-12 2016-08-03 日産自動車株式会社 移動物体位置姿勢角推定装置及び移動物体位置姿勢角推定方法
JP2014186004A (ja) * 2013-03-25 2014-10-02 Toshiba Corp 計測装置、方法及びプログラム
JP6669072B2 (ja) * 2014-10-17 2020-03-18 ソニー株式会社 装置、方法及びプログラム
JP2018503194A (ja) * 2015-01-13 2018-02-01 ▲広▼州▲極飛▼科技有限公司Guangzhou Xaircraft Technology Co., Ltd. 無人航空機をスケジューリングする方法及びシステム、無人航空機
US11132810B2 (en) * 2017-02-01 2021-09-28 Hitachi, Ltd. Three-dimensional measurement apparatus
JP6862477B2 (ja) * 2017-02-10 2021-04-21 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 位置処理装置、飛行体、位置処理システム、飛行システム、位置処理方法、飛行制御方法、プログラム、及び記録媒体

Also Published As

Publication number Publication date
JP2020071154A (ja) 2020-05-07
CN111615616A (zh) 2020-09-01
WO2020088397A1 (zh) 2020-05-07

Similar Documents

Publication Publication Date Title
US10565732B2 (en) Sensor fusion using inertial and image sensors
JP6878567B2 (ja) 3次元形状推定方法、飛行体、モバイルプラットフォーム、プログラム及び記録媒体
JP6138326B1 (ja) 移動体、移動体の制御方法、移動体を制御するプログラム、制御システム、及び情報処理装置
WO2016187759A1 (en) Sensor fusion using inertial and image sensors
WO2016187757A1 (en) Sensor fusion using inertial and image sensors
JP6765512B2 (ja) 飛行経路生成方法、情報処理装置、飛行経路生成システム、プログラム及び記録媒体
WO2016187758A1 (en) Sensor fusion using inertial and image sensors
KR101160454B1 (ko) 무인항공기의 자세 제어를 이용한 3d 공간정보구축 방법
JP6962775B2 (ja) 情報処理装置、空撮経路生成方法、プログラム、及び記録媒体
JP6675537B1 (ja) 飛行経路生成装置、飛行経路生成方法とそのプログラム、構造物点検方法
US11029707B2 (en) Moving object, moving object control method, moving object control system, and moving object control program
US20210229810A1 (en) Information processing device, flight control method, and flight control system
JP7362203B2 (ja) 無人移動体
EP4246088A1 (en) Surveying system, surveying method, and surveying program
CN111213107B (zh) 信息处理装置、拍摄控制方法、程序以及记录介质
JP2019191888A (ja) 無人飛行体、無人飛行方法及び無人飛行プログラム
CN111344650B (zh) 信息处理装置、飞行路径生成方法、程序以及记录介质
JP2021143861A (ja) 情報処理装置、情報処理方法及び情報処理システム
JP6974290B2 (ja) 位置推定装置、位置推定方法、プログラム、及び記録媒体
JP2020095519A (ja) 形状推定装置、形状推定方法、プログラム、及び記録媒体
JP2024022918A (ja) 飛行体および飛行体の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210302

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210602

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211104

R150 Certificate of patent or registration of utility model

Ref document number: 6974290

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150