JP6533619B2 - センサキャリブレーションシステム - Google Patents

センサキャリブレーションシステム Download PDF

Info

Publication number
JP6533619B2
JP6533619B2 JP2018502510A JP2018502510A JP6533619B2 JP 6533619 B2 JP6533619 B2 JP 6533619B2 JP 2018502510 A JP2018502510 A JP 2018502510A JP 2018502510 A JP2018502510 A JP 2018502510A JP 6533619 B2 JP6533619 B2 JP 6533619B2
Authority
JP
Japan
Prior art keywords
vehicle
landmark
relative position
unit
measurement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018502510A
Other languages
English (en)
Other versions
JPWO2017149813A1 (ja
Inventor
佑介 日永田
佑介 日永田
拓久哉 中
拓久哉 中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Publication of JPWO2017149813A1 publication Critical patent/JPWO2017149813A1/ja
Application granted granted Critical
Publication of JP6533619B2 publication Critical patent/JP6533619B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/40—Means for monitoring or calibrating
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/87—Combinations of radar systems, e.g. primary radar and secondary radar
    • G01S13/874—Combination of several systems for attitude determination
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/89—Radar or analogous systems specially adapted for specific applications for mapping or imaging
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02—Control of position or course in two dimensions
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0234—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using optical markers or beacons
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/862—Combination of radar systems with sonar systems
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/865—Combination of radar systems with lidar systems
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/867—Combination of radar systems with cameras
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9322—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles using additional data, e.g. driver condition, road state or weather data
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9323—Alternative operation using light waves
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9324—Alternative operation using ultrasonic waves
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9327—Sensor installation details
    • G01S2013/93271—Sensor installation details in the front of the vehicles
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9327—Sensor installation details
    • G01S2013/93274—Sensor installation details on the side of the vehicles
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9329—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles cooperating with reflectors or transponders
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/40—Means for monitoring or calibrating
    • G01S7/4052—Means for monitoring or calibrating by simulation of echoes
    • G01S7/4082—Means for monitoring or calibrating by simulation of echoes using externally generated reference signals, e.g. via remote reflector or transponder
    • G01S7/4091—Means for monitoring or calibrating by simulation of echoes using externally generated reference signals, e.g. via remote reflector or transponder during normal radar operation
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/165—Anti-collision systems for passive traffic, e.g. including static obstacles, trees

Description

本発明は、例えば自律走行車両向けのセンサ間キャリブレーションシステムに関するものである。
一般に鉱山においては、土砂の採掘作業および運搬作業として油圧ショベルやダンプトラックなどの鉱山用作業機械が用いられている。鉱山に用いられる鉱山用作業機械としては、安全性や低コスト化の観点から無人化が求められる。ダンプトラックにおいては、単位時間当たりの土砂の運搬量が採掘の進捗度に直結するため、効率の良い運用が求められる。したがって、土砂を効率良く採掘現場の外に大量に運搬するためには、連続運転可能な自律走行式のダンプトラックを用いた鉱山システムが必要とされている。
ところが、ダンプトラックを走行させる鉱山の走行路はオフロードであって悪路が多いため、ダンプトラックを自律走行させて無人運転させる際、土壁や他車両等の障害物との衝突が懸念される。仮に、走行路上に障害物が生じ、自律走行式の無人のダンプトラックが障害物と接触して停止した場合には、鉱山の運行を長時間に亘って停止させてしまう。よって、自律走行式のダンプトラックの信頼性を高めるためには、前方車両や走行路上の障害物を早期に検知して、前方車両の追従走行や障害物の回避走行を行わせることが可能な信頼性の高い障害物検知システムが必要となる。
従来、この種の前方車両および障害物検知システムとしては、ミリ波レーダ、レーザセンサ、カメラまたはステレオカメラ等の障害物検知装置が用いられている。ミリ波レーダは砂埃や雨などが生じた場合も動作可能な高い耐環境性を有し、測定距離性能も高い。一方で、ステレオカメラやレーザセンサは、三次元形状を計測できるため、路上の障害物を精度よく検出することができる。またこれらのセンサを組み合わせることで、障害物の検出性能を向上させる方法もある。
種類の異なる複数のセンサを用いるには各センサの相対位置を正確に把握する必要がある。特に鉱山ダンプに取り付ける場合は車体が大きいため、取り付け時のキャリブレーションの他、経年変化による位置ずれを考慮する必要がある。例えば特許文献１には経年変化により生じた車載カメラと車載レーダの軸ずれをそれぞれのセンサが検出した障害物の位置情報に基づき補正する障害物認識装置が公開されている。
特開２０１０−２４９６１３号公報
しかしながら、この手法はセンサの計測領域の大半が重畳していることが前提のため、例えば車両前方に向けて取り付けたセンサと後方に向けて取り付けたセンサではキャリブレーションを行うことが難しい。
こういった計測領域が重畳していない、あるいは一部分のみ重畳しているセンサのセンサ間キャリブレーションは、例えば生産時に工場内ですべてのセンサの計測領域内で計測可能な高精度かつ大型のキャリブレーション用のランドマークを設置するか、もしくは複数個の幾何学的な位置関係が高精度に判明しているキャリブレーション用のランドマークを設置し、センサの計測結果からセンサの設置位置及び角度を求めることでセンサ間キャリブレーションを行うことが多い。
しかしながら、例えば鉱山ダンプトラックのような大型車両は現地で組み立てることが大半であり、またその作業は地面が十分に整地されていないオフロードの屋外で行われることも多く、高精度にキャリブレーション用のランドマークを設置することが困難であり、またそういった環境下ではキャリブレーション用ランドマークの相対位置は人手で計測するため、計測者の技量に依存してしまい、結果として十分な精度でセンサ間のキャリブレーションを行うことが難しかった。
本発明は、以上の課題に鑑みてなされたものであり、複数のセンサを組み合わせて障害物検出を行う場合において、センサ間の相対位置を検知、センサ間のパラメータを補正し、正確な障害物検出を提供することを目的とする。
上記課題を解決するための本発明の特徴は、例えば以下の通りである。
車両と前記車両に取付けられた第１計測手段の取付け位置との相対位置姿勢を求めるキャリブレーションシステムにおいて、前記車両、前記第１計測手段、第１ランドマーク、および前記第１ランドマーク周辺の環境の３次元形状情報を取得する３次元形状情報取得手段と、前記３次元形状情報から、前記車両の位置を推定する車両位置検出部と、前記３次元形状情報から、前記第１計測手段の前記車両への取付け位置を求める車両センサ位置検出部と、前記３次元形状情報から、前記第１ランドマークの位置を検出する車両センサ用ランドマーク位置検出部と、前記車両の位置と前記第１計測手段の位置と前記第１ランドマークの位置とに基づいて、前記車両の位置と前記第１計測手段の前記車両への取付け位置との相対位置を求める車両ランドマーク相対位置推定部と、
前記第１計測手段が計測した情報から、計測領域内にある前記第１ランドマークの位置を検出する第１ランドマーク検出部と、前記第１ランドマーク検出部が検出した前記計測領域内にある第１ランドマークの位置と前記車両ランドマーク相対位置推定部が推定した前記第１ランドマーク位置とを比較し、前記第１ランドマーク検出部が検出した前記計測領域内にある第１ランドマークの相対位置に対して、前記車両ランドマーク相対位置推定部が推定した前記第１ランドマークの相対位置が事前に設定した閾値以内にあった場合、それぞれの検出結果が同じランドマークを検出していると判断し、ランドマークを対応付けするランドマーク対応付け部と、前記車両ランドマーク相対位置推定部と前記ランドマーク対応付け部との情報に基づき前記車両と前記第１計測手段との相対位置姿勢を推定する車両センサ相対姿勢推定部と、を有するキャリブレーションシステム。
本発明により、複数のセンサを組み合わせて障害物検出を行う場合において、センサ間の相対位置を検知、センサ間のパラメータを補正し、正確な障害物検出を提供できる。上記した以外の課題、構成及び効果は以下の実施形態の説明により明らかにされる。
本発明の一実施形態の例を示した図である。 本発明の一実施形態を適用する状況を俯瞰で示した図である。 本発明の一実施形態の構成を示した図である。 ３次元情報計測部について原理の一例を示した図である。 車両センサ相対姿勢推定部の動作について説明した図である。 本発明の一実施形態の適用する状況を俯瞰で示した図である。 本発明の一実施形態の構成を示した図である。
以下、図面等を用いて、本発明の実施形態について説明する。以下の説明は本発明の内容の具体例を示すものであり、本発明がこれらの説明に限定されるものではなく、本明細書に開示される技術的思想の範囲内において当業者による様々な変更および修正が可能である。また、本発明を説明するための全図において、同一の機能を有するものは、同一の符号を付け、その繰り返しの説明は省略する場合がある。
本実施例では、車両に取り付けたセンサ位置と車両位置のセンサ車両位置の相対位置姿勢を求めるための実施形態である。
図１は、本実施例を利用するシーンの一例について示した図である。車両３と車両３に取付けられた第１計測手段３１の取付け位置との相対位置姿勢を求める。このとき、第１計測手段３１はミリ波レーダ、Ｌｉｄａｒ、カメラ、ステレオカメラ、ＴＯＦセンサなど任意の障害物の位置を検出することが可能な外界センサを用いることが想定される。本実施例では、第１ランドマーク４を第１計測手段の計測範囲３１１に設置する。この状況を俯瞰で示した図を図２に示す。
このとき、第１ランドマーク４は第１計測手段３１が容易に計測できるものとするのが望ましい。続いて、本実施例では車両３とその周囲の第１ランドマーク４を含めた環境（車両３、第１ランドマーク４、および第１ランドマーク４周辺の環境）の３次元形状を計測することによって、車両センサ間のキャリブレーションを実現する。３次元点群情報、及び３次元サーフェイス情報のことをここでは３次元形状情報と呼ぶこととする。このとき、３次元形状を計測する方法としては、例えば、図１に示すような無人航空機１にカメラやＬｉｄａｒなどの外界センサ２を取り付ける方法などが考えられるが、環境の３次元形状が取得可能であれば、この構成は限定されない。
続いて、図３に本実施例の概要について示す。本実施例では、まず、車両３と第１計測手段３１の相対位置を求めるために、３次元形状情報取得手段１０１によって車両３と第１計測手段３１及び第１ランドマーク４を含めた環境の３次元形状の形状を計測する。このとき３次元形状情報は例えば無人航空機、及び有人航空機、人工衛星などの機体にカメラ、ＬＩＤＡＲ、ミリ波レーダ、超音波センサ及びそれに類する環境の形状もしくは環境の輝度、色情報、温度情報を取得することが可能なセンサを取り付け、計測し、取得したものとするが、３次元形状情報が取得可能であればこの構成は限定されない。
一例として、図４に無人航空機１に外界センサ２として単眼カメラを取り付けたものによる３次元形状取得方法の構成を示す。なお、このとき単眼カメラは可視光を計測可能なカメラの他に赤外線カメラ、もしくは遠赤外線カメラでも可能である。
この構成ではまず、無人航空機１に単眼カメラを取り付け、環境地図を作成したい箇所の上空を飛行させる。この際に、単眼カメラで連続撮影を行う。このとき、撮影した画像の前後が８０％前後、横が６０％前後他の撮影した画像と重なるよう撮影するのが望ましいとされている。この撮影した画像群をセンサデータ蓄積部１１に蓄える。この画像群を用いて、３次元点群生成部１２でＳｔｒｕｃｔｕｒｅ ｆｒｏｍ Ｍｏｔｉｏｎ（ＳｆＭ）及びＭｕｌｔｉ Ｖｉｅｗ Ｓｔｅｒｅｏ（ＭＶＳ）を用いることで、環境の３次元点群情報を得ることができる。この３次元点群情報を元に、サーフェイス生成部１３ではこれをメッシュ化し、テクスチャ情報とサーフェイスの法線ベクトル情報を有した３次元サーフェイス情報を生成する。この３次元形状情報を３次元形状情報格納部１４に保存する。なおこれらの技術に関しては、公知の技術のため、ここでは割愛する。
続いて、３次元形状情報取得手段１０１を用いて得られた車両３と第１計測手段３１及び第１ランドマーク４と周囲の環境情報を有した３次元形状情報を用いて、車両位置検出部１０２は車両３の車両位置を検出する。車両３の車両位置を検出する方法としては例えば、車両の前後左右の車輪の形状情報もしくは画像情報を事前に登録し、計測した３次元形状情報からテンプレートマッチング処理やＳＩＦＴ特徴やＳＵＲＦ特徴などに代表される画像局所特徴点のマッチングにより、対応箇所を探索し、車両３の車両位置を特定する。このとき、探索がしやすいように車両に色や形状が車両に対して特徴的なマーカを取り付けても良い。
続いて、車両センサ位置検出部１０３は、３次元形状情報取得手段１０１が取得した３次元形状情報から、第１計測手段３１の設置位置（車両３への取付け位置）を検出する。第１計測手段３１の位置を検出する方法としては例えば、第１計測手段３１の形状情報もしくは画像情報を事前に登録し、計測した３次元形状情報からテンプレートマッチング処理やＳＩＦＴ特徴やＳＵＲＦ特徴などに代表される画像局所特徴点のマッチングにより、対応箇所を探索し、第１計測手段３１の設置位置を特定する。このとき、探索がしやすいようにランドマークに色や形状が特徴的なマーカを取り付けても良い。
続いて、車両センサ用ランドマーク検出部１０４は、３次元形状情報取得手段１０１が取得した３次元形状情報から、車両センサ用の第１ランドマーク４の位置を検出する。第１ランドマーク４の位置を検出する方法としては例えば、第１ランドマーク４の形状情報もしくは画像情報を事前に登録し、計測した３次元形状情報からテンプレートマッチング処理やＳＩＦＴ特徴やＳＵＲＦ特徴などに代表される画像局所特徴点のマッチングにより、対応箇所を探索し、第１ランドマーク４の位置を特定する。このとき、探索がしやすいようにランドマークに色や形状が特徴的なマーカを取り付けても良い。
車両位置検出部１０２及び車両センサ位置検出部１０３及び車両センサ用ランドマーク検出部１０４が検出した各検出ターゲットの位置情報を元に、車両ランドマーク相対位置推定部１０５では、車両３の車両位置及び、第１計測手段３１の車両３への取り付け位置の相対位置を求める。このとき相対位置を求める方法としては３次元形状情報取得手段１０１によって、車両３及び第１ランドマーク４とその周辺の環境を３次元形状情報として有しており、その情報から各検出ターゲットの位置を求めているため、相対位置は自明である。
続いて、第１計測手段３１が計測した情報から、第１ランドマーク検出部１０６において計測領域内にある第１ランドマーク４の位置を検出する。第１ランドマーク４の位置を検出する方法としては例えば、第１ランドマーク４の形状情報もしくは画像情報を事前に登録し、計測した３次元形状情報からテンプレートマッチング処理やＳＩＦＴ特徴やＳＵＲＦ特徴などに代表される画像局所特徴点のマッチングにより、対応箇所を探索し、第１ランドマーク４の位置を特定する。このとき、探索がしやすいようにランドマークに色や形状が特徴的なマーカを取り付けても良い。もしくは第１計測手段３１がミリ波センサやＬｉｄａｒなどに該当する場合は例えば、ランドマークの素材を第１計測手段３１にとって反射強度の高い素材にすることにより、第１ランドマーク４の反射強度を高くすることで、第１ランドマーク４を環境に対して特徴的にする方法がある。
続いて、ランドマーク対応付け部１０７において第１ランドマーク検出部１０６が検出したランドマーク位置情報と車両ランドマーク相対位置推定部１０５が推定したランドマークの位置を比較する。そして、第１ランドマーク検出部１０６が推定した第１ランドマーク４の相対位置に対して、車両ランドマーク相対位置推定部１０５が推定した第１ランドマーク４の相対位置が事前に設定した閾値以内にあった場合、それぞれの検出結果が同じランドマークを検出していると判断する。
車両センサ相対姿勢推定部１０８において、車両ランドマーク相対位置推定部１０５とランドマーク対応付け部１０７との情報に基づき、車両センサの相対姿勢（車両３と第１計測手段３１との相対位置姿勢）を推定する。
図５に、車両センサ相対姿勢推定部１０８の動作について解説した図を示す。車両ランドマーク相対位置推定部１０５が検出した第１計測手段３１を基準とした第１ランドマーク４の位置を俯瞰的に表したものが右上図であり、ランドマーク対応付け部１０７によるランドマークの相対位置情報を俯瞰的に示したものが左上図である。こちらを第１計測手段３１の車両への取付け位置を中心とした座標系で表し、重畳させたものが図５の下図である。第１計測手段３１の車両への取付け位置と、それぞれが検出、推定した第１ランドマーク４の位置を結び、その角度に基づいて第１計測手段３１の設置姿勢を求める。
以上により、第１計測手段３１と車両３の相対位置を求めることができる。つまり、本実施例に係るセンサキャリブレーションシステムにおいては、例えばＵＡＶなどを用いた３次元形状情報取得手段により、キャリブレーション用のランドマークの位置及び形状を正確に測定し、かつ車両位置を推定することで、どの環境下においても高精度な車両センサ位置及び車両の位置を高精度に推定、補正することができる。これにより、センサを用いた障害物検出システムを健全に動作させることが可能となる。
なお、事前に指定された車両センサの設置位置に比べ、計測された車両センサと車体との設置位置が大きく異なっていた場合、事前に指定された車両センサの設置位置姿勢もしくはその差分位置姿勢をユーザーに提示するセンサ推奨設置位置提示部があってもよい。
本実施例は、車両に取り付けた複数のセンサの相対位置を求めることを目的とした実施形態である。図６に第１計測手段３１と第２計測手段３２を取り付けた例を示す。車両３に取り付けた第１計測手段３１と第２計測手段３２の相対位置姿勢を求める。このとき、第１計測手段及び第２計測手段はミリ波レーダ、Ｌｉｄａｒ、カメラ、ステレオカメラ、ＴＯＦセンサなど任意の障害物の位置を検出することが可能な外界センサを用いることが想定される。
このとき第１計測手段３１と第２計測手段３２は異なる種類の外界センサでも問題ない。本実施例では、第１ランドマーク４を第１計測手段の計測範囲３１１に設置し、第２ランドマーク５を第２計測手段の計測範囲３２１に設置する。図６は、この状況を俯瞰で示している。このとき、第１ランドマーク４は第１計測手段３１が容易に計測できるものとするのが望ましく、また、第２ランドマーク５は第２計測手段３２が容易に計測できるものとするのが望ましい。また、これらのランドマークは周囲の地形形状や木々、設置物などがあれば、それらも代用することができる。
図７に本実施例の概要について示す。本実施形態は第１実施形態に対して、第２計測手段３２及び第２ランドマーク検出部１０９及び車両センサ相対位置姿勢推定部１１０を加えたものである。
第２計測手段３２及び第２ランドマーク検出部１０９においては第１実施形態において説明した第１計測手段３１及び第１ランドマーク検出部１０６とほぼ同様に動作する。
車両センサ相対位置姿勢推定部１１０は、車両センサ相対姿勢推定部１０８において推定した第１計測手段３１と車両３の相対位置姿勢と第２計測手段３２と車両３の相対位置姿勢から、幾何学的に第１計測手段３１と第２計測手段３２の相対位置姿勢を求める。
１ 無人航空機、２ 外界センサ、３ 車両、４ 第１ランドマーク、５ 第２ランドマーク、１１ センサデータ蓄積部、１２ ３次元点群生成部、１３ サーフェイス生成部、１４ ３次元形状情報格納部、３１ 第１計測手段、３２ 第２計測手段、１０１ ３次元形状情報取得手段、１０２ 車両位置検出部、１０３ 車両センサ位置検出部、１０４ 車両センサ用ランドマーク検出部、１０５ 車両ランドマーク相対位置推定部、１０６ 第１ランドマーク検出部、１０７ ランドマーク対応付け部、１０８ 車両センサ相対姿勢推定部、１０９ 第２ランドマーク検出部、１１０ 車両センサ相対位置姿勢推定部１１０、３１１ 第１計測手段の計測範囲、３２１ 第２計測手段の計測範囲

Claims (2)

  1. 車両と前記車両に取付けられた第１計測手段の取付け位置との相対位置姿勢を求めるキャリブレーションシステムにおいて、
    前記車両、前記第１計測手段、第１ランドマーク、および前記第１ランドマーク周辺の環境の３次元形状情報を取得する３次元形状情報取得手段と、
    前記３次元形状情報から、前記車両の位置を推定する車両位置検出部と、
    前記３次元形状情報から、前記第１計測手段の前記車両への取付け位置を求める車両センサ位置検出部と、
    前記３次元形状情報から、前記第１ランドマークの位置を検出する車両センサ用ランドマーク位置検出部と、
    前記車両の位置と前記第１計測手段の位置と前記第１ランドマークの位置とに基づいて、前記車両の位置と前記第１計測手段の前記車両への取付け位置との相対位置を求める車両ランドマーク相対位置推定部と、
    前記第１計測手段が計測した情報から、計測領域内にある前記第１ランドマークの位置を検出する第１ランドマーク検出部と、
    前記第１ランドマーク検出部が検出した前記計測領域内にある第１ランドマークの位置と前記車両ランドマーク相対位置推定部が推定した前記第１ランドマーク位置とを比較し、前記第１ランドマーク検出部が検出した前記計測領域内にある第１ランドマークの相対位置に対して、前記車両ランドマーク相対位置推定部が推定した前記第１ランドマークの相対位置が事前に設定した閾値以内にあった場合、それぞれの検出結果が同じランドマークを検出していると判断し、ランドマークを対応付けするランドマーク対応付け部と、
    前記車両ランドマーク相対位置推定部と前記ランドマーク対応付け部との情報に基づき前記車両と前記第１計測手段との相対位置姿勢を推定する車両センサ相対姿勢推定部と、を有するキャリブレーションシステム。
  2. 請求項１記載のキャリブレーションシステムにおいて、
    前記車両に第２計測手段が取り付けられており、
    前記キャリブレーションシステムにおいて求めた前記車両と前記第１計測手段または前記第２計測手段との相対位置姿勢に基づき、前記第１計測手段および前記第２計測手段の相対位置姿勢を求める車両センサ相対位置姿勢推定部を有するキャリブレーションシステム。
JP2018502510A 2016-02-29 2016-09-07 センサキャリブレーションシステム Active JP6533619B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016036563 2016-02-29
JP2016036563 2016-02-29
PCT/JP2016/076224 WO2017149813A1 (ja) 2016-02-29 2016-09-07 センサキャリブレーションシステム

Publications (2)

Publication Number Publication Date
JPWO2017149813A1 JPWO2017149813A1 (ja) 2018-09-13
JP6533619B2 true JP6533619B2 (ja) 2019-06-19

Family

ID=59742705

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018502510A Active JP6533619B2 (ja) 2016-02-29 2016-09-07 センサキャリブレーションシステム

Country Status (3)

Country Link
US (1) US10705184B2 (ja)
JP (1) JP6533619B2 (ja)
WO (1) WO2017149813A1 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9772395B2 (en) 2015-09-25 2017-09-26 Intel Corporation Vision and radio fusion based precise indoor localization
JP6500852B2 (ja) * 2016-07-11 2019-04-17 株式会社安川電機 ロボットシステム、ロボットの制御方法、ロボットコントローラ
US10901420B2 (en) 2016-11-04 2021-01-26 Intel Corporation Unmanned aerial vehicle-based systems and methods for agricultural landscape modeling
EP3454075B1 (en) * 2017-09-11 2021-10-06 Nxp B.V. Object-detection system calibration
US10830871B2 (en) * 2018-03-21 2020-11-10 Zoox, Inc. Sensor calibration
JP6916138B2 (ja) * 2018-03-28 2021-08-11 ヤンマーパワーテクノロジー株式会社 作業車両の自動走行装置
DE102018212249A1 (de) * 2018-07-24 2020-01-30 Audi Ag Verfahren, System und elektronische Recheneinrichtung zum Überprüfen von Sensoreinrichtungen von Fahrzeugen, insbesondere von Kraftfahrzeugen
CN116887048A (zh) 2018-12-13 2023-10-13 索尼集团公司 控制器和控制方法
CN109901123B (zh) * 2018-12-24 2023-12-01 文远知行有限公司 传感器标定方法、装置、计算机设备和存储介质
CN109737983B (zh) 2019-01-25 2022-02-22 北京百度网讯科技有限公司 用于生成行驶路径的方法和装置
US11333739B2 (en) * 2019-02-26 2022-05-17 Magna Electronics Inc. Vehicular radar system with automatic sensor alignment
US11112490B2 (en) * 2019-04-15 2021-09-07 Argo AI, LLC Apparatus for joint calibration of radar and camera systems for autonomous vehicle applications
SE543438C2 (en) * 2019-06-20 2021-02-16 Scania Cv Ab Method, control arrangement and drone for calibration of vehicle sensors
JP7232336B2 (ja) * 2019-08-02 2023-03-02 日立Astemo株式会社 エイミング装置、運転制御システム、及びセンサデータの補正パラメータの計算方法
DE102020213980A1 (de) * 2020-11-06 2022-05-12 Robert Bosch Gesellschaft mit beschränkter Haftung Kalibrierverfahren und Kalibriersystem für einen Fahrzeugsensor
DE102021208738A1 (de) 2021-08-11 2023-02-16 Zf Friedrichshafen Ag Computerimplementiertes Verfahren und Computerprogramm zur Generierung von virtuellen Fahrstrecken und Entwicklung und/oder Validierung von Funktionalitäten eines automatisierten Fahrsystems auf den generierten Fahrstrecken
JP7100413B1 (ja) * 2021-09-15 2022-07-13 日立建機株式会社 自律走行鉱山車両
JP2023183977A (ja) * 2022-06-17 2023-12-28 ソニーグループ株式会社 情報処理装置、情報処理方法、及び、測定システム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5688876B2 (ja) * 2008-12-25 2015-03-25 株式会社トプコン レーザスキャナ測定システムの較正方法
JP2010249613A (ja) 2009-04-14 2010-11-04 Toyota Motor Corp 障害物認識装置及び車両制御装置
US8577083B2 (en) * 2009-11-25 2013-11-05 Honeywell International Inc. Geolocating objects of interest in an area of interest with an imaging system
JP5873676B2 (ja) * 2011-09-30 2016-03-01 古野電気株式会社 レーダ基準方位補正装置、レーダ装置、レーダ基準方位補正プログラム、及びレーダ基準方位補正方法
JP6168784B2 (ja) * 2013-02-08 2017-07-26 古河電気工業株式会社 周辺監視システム及び周辺監視システムの軸ずれ検知方法
JP5819555B1 (ja) * 2015-04-01 2015-11-24 ライトブレインラボ合同会社 車両運転支援システム

Also Published As

Publication number Publication date
US10705184B2 (en) 2020-07-07
JPWO2017149813A1 (ja) 2018-09-13
US20180372841A1 (en) 2018-12-27
WO2017149813A1 (ja) 2017-09-08

Similar Documents

Publication Publication Date Title
JP6533619B2 (ja) センサキャリブレーションシステム
US11670193B2 (en) Extrinsic parameter of on-board sensor
JP7301909B2 (ja) 地図データ、レーザ、およびカメラからのヨー誤差の確定
JP6827627B2 (ja) ビークル環境マップを生成および更新するための方法およびシステム
Rose et al. An integrated vehicle navigation system utilizing lane-detection and lateral position estimation systems in difficult environments for GPS
AU2015234395B2 (en) Real-time range map generation
US9251587B2 (en) Motion estimation utilizing range detection-enhanced visual odometry
JP6881464B2 (ja) 自己位置推定方法及び自己位置推定装置
JP5157067B2 (ja) 自動走行用マップ作成装置、及び自動走行装置。
Kim et al. Stereo camera localization in 3d lidar maps
WO2015098344A1 (ja) 鉱山用作業機械
US11908164B2 (en) Automatic extrinsic calibration using sensed data as a target
WO2017038291A1 (ja) 環境地図自動作成装置
JP6834401B2 (ja) 自己位置推定方法及び自己位置推定装置
Aijazi et al. Multi sensorial data fusion for efficient detection and tracking of road obstacles for inter-distance and anti-colision safety management
US10249056B2 (en) Vehicle position estimation system
JP7302966B2 (ja) 移動体
EP3742329A1 (en) Lane tracking in three dimensions using digital terrain model
JP2024038322A (ja) 測定装置、測定方法およびプログラム
JP2023176361A (ja) 移動体制御システムおよび移動体制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190409

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190524

R150 Certificate of patent or registration of utility model

Ref document number: 6533619

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150