JPWO2019176118A1 - 重畳表示システム - Google Patents

重畳表示システム Download PDF

Info

Publication number
JPWO2019176118A1
JPWO2019176118A1 JP2020506104A JP2020506104A JPWO2019176118A1 JP WO2019176118 A1 JPWO2019176118 A1 JP WO2019176118A1 JP 2020506104 A JP2020506104 A JP 2020506104A JP 2020506104 A JP2020506104 A JP 2020506104A JP WO2019176118 A1 JPWO2019176118 A1 JP WO2019176118A1
Authority
JP
Japan
Prior art keywords
camera
laser scanner
scan line
posture
base
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020506104A
Other languages
English (en)
Other versions
JP7003219B2 (ja
Inventor
吉田 光伸
光伸 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2019176118A1 publication Critical patent/JPWO2019176118A1/ja
Application granted granted Critical
Publication of JP7003219B2 publication Critical patent/JP7003219B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/40Means for monitoring or calibrating
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images

Abstract

重畳表示システム(100)は、ベース(10)、姿勢変化機構(20)、計測対象物(40)及び計算機(50)を備える。ベース(10)は、カメラ(11)とレーザスキャナ(12)とが固定されている。姿勢変化機構(20)は、カメラ(11)とレーザスキャナ(12)とが固定されたベース(10)が固定されている。姿勢変化機構(20)は、ベース(10)のロール角度、ピッチ角度及びヨー角度を変化させる。計測対象物(40)は、計測模様(41)を有する。計算機(50)は、カメラ(11)の撮影した計測模様(41)のカメラ映像(11a)と、レーザスキャナ(12)による計測模様(41)のスキャンライン(12a)とを取得し、カメラ映像(11a)とスキャンライン(12a)とを重畳して表示装置(60)に表示する。

Description

この発明は、モービルマッピングシステム(以下、MMSと記す)に使用される、カメラ及びレーザスキャナのキャリブレーションのための、重畳表示システムに関する。
MMSでは、車両位置を推定する装置、カメラ及びレーザスキャナが計測車両に搭載される。MMS計測車両の走行によって、道路及び道路周辺の形状が計測されることは広く行われている。MMS計測車両では、経年変化及び小さな衝突などにより、カメラ、レーザスキャナの取り付け位置または取り付け姿勢が変化し得る。カメラ、レーザスキャナの取り付け位置または取り付け姿勢が変化すると、計測の精度が劣下する。
そこで、計測の精度劣化の防止のために、精度の確保のためのキャリブレーションが実施される(例えば特許文献1)。
特開2010−175423号公報
しかし、従来では、キャリブレーションの際には、カメラ及びレーザスキャナが搭載された車両を走行させていた(例えば、特許文献1)。そのため、キャリブレーションの負担が大きかった。
そこで、本発明は、カメラ及びレーザスキャナを車両に搭載せずにキャリブレーションを行うシステムの提供を目的とする。
この発明の重畳表示システムは、
カメラとレーザスキャナとが固定されたベースと、
前記カメラと前記レーザスキャナとが固定された前記ベースが固定され、前記ベースのロール角度、ピッチ角度及びヨー角度を変化させる姿勢変化機構と、
前記カメラに撮影される模様であり、前記レーザスキャナによるスキャンによって反射輝度の相違が現れる模様である計測模様を有する計測対象物と、
前記カメラによって撮影された前記計測模様のカメラ映像と、前記レーザスキャナによる前記計測模様のスキャン結果であるスキャンラインとを取得し、前記カメラ映像と前記スキャンラインとを重畳して表示装置に表示する計算機と
を備える。
本発明によれば、カメラ及びレーザスキャナを車両に搭載せずにキャリブレーションを行うシステムを提供できる。
実施の形態1の図で、重畳表示システムの概要を示す図。 実施の形態1の図で、試験装置及び計測対象部物の斜視図。 実施の形態1の図で、計算機のハードウェア構成図。 実施の形態1の図で、レーザスキャナの回転を示す図。 実施の形態1の図で、レーザスキャナの回転を示す別の図。 実施の形態1の図で、レーザスキャナの回転を示すさらに別の図。 実施の形態1の図で、カメラとレーザスキャナとのヨー角度差を示す図。 実施の形態1の図で、カメラとレーザスキャナとのピッチ角度差を示す図。 実施の形態1の図で、カメラとレーザスキャナとのロール角度差を示す図。 実施の形態1の図で、カメラとレーザスキャナとのロール角度差を示す別の図。
以下、本発明の実施の形態について、図を用いて説明する。なお、各図中、同一または相当する部分には、同一符号を付している。実施の形態の説明において、同一または相当する部分については、説明を適宜省略または簡略化する。
実施の形態1.
図1、図2、図3を参照して実施の形態1の重畳表示システム100を説明する。
図1は、重畳表示システム100の概要を示している。
図2は、試験装置30及び計測対象物40の斜視図である。計測対象物40は計測模様41を有する。図2では、後述のロール軸21、ピッチ軸22及びヨー軸23は見えない状態である。図1及び図2では、試験装置30は床82に配置されている。
図3は、計算機50のハードウェア構成を示す。
図1に示す重畳表示システム100では、計算機50の表示制御部51aは、入出力インタフェース装置54を介して、カメラ11によって撮影された計測模様41のカメラ映像11aと、レーザスキャナ12による計測模様41のスキャン結果であるスキャンライン12aとを取得する。そして、計算機50の表示制御部51aは、計測模様41のカメラ映像11aとスキャンライン12aとを重畳して、表示装置60に表示する。
計測対象物40はキャスタ43を有する。キャスタ43は移動機構である。計測対象物40はキャスタ43によって床82の上を移動できる。作業者は計測対象物40を動かすことで、計測模様41を試験装置30に近づけ、または計測模様41を試験装置30から遠ざけることができる。また、作業者は、カメラ11及びレーザスキャナ12が固定されているベース10の、ロール角度φ、ピッチ角度θ及びヨー角度ψを変化させて、レーザスキャナ12のスキャンライン12aと、カメラ映像11aとが、正しく重畳するように、表示装置60の画面をみて、キャリブレーションパラメータを決めることができる。
キャリブレーションパラメータとは、ベース10に固定されている、カメラ11とレーザスキャナ12との相対的な姿勢の差を示す情報である。
具体的には、カメラ11の取り付け姿勢とレーザスキャナ12の取り付け姿勢との間の、ロール角度差△φ、ピッチ角度差△θ及びヨー角度差△ψである。以下では、ロール角度差△φ、ピッチ角度差△θ及びヨー角度差△ψを、単に、△φ、△θ、△ψと記載する場合がある。△φ、△θ、△ψの詳細は後述する。△φ、△θ、△ψは、いずれも後述する姿勢相違情報である。姿勢相違情報とはカメラ11とレーザスキャナ12との相対的な姿勢の相違を表す情報である。
重畳表示システム100によれば、計測対象物40と試験装置30とを用いて、キャリブレーションパラメータである、△φ、△θ及び△ψが得られる。重畳表示システム100では、カメラ11及びレーザスキャナ12が搭載された試験装置30は、移動しない。
よって、特許文献1のように、カメラ11及びレーザスキャナ12が搭載された車両を走行させる必要がないので、簡易にキャリブレーションパラメータが決定できる。
***構成の説明***
以下、重畳表示システム100を詳しく説明する。図1に示すように、重畳表示システム100は、試験装置30、計算機50、表示装置60及び計測対象物40を備えている。
試験装置30は、ベース10と姿勢変化機構20とを備えている。ベース10には、カメラ11とレーザスキャナ12とが固定されている。ベース10と、カメラ11及びレーザスキャナ12は、全体でひとつの剛体とみなせる。ベース10とカメラ11とが固定されたベース10は床82に対して移動しない。
姿勢変化機構20は、カメラ11とレーザスキャナ12とが固定されたベース10が固定されている。姿勢変化機構20は、ベース10のロール角度φ、ピッチ角度θ及びヨー角度ψを変化させることができる。
カメラ11は、計算機50と接続されている。カメラ11は、計測模様41のカメラ映像11aを計算機50へ出力する。レーザスキャナ12は、計算機50と接続されている。レーザスキャナ12は、計測模様41のスキャン結果であるスキャンライン12aを、計算機50へ出力する。
全体でひとつの剛体とみなせる、ベース10、カメラ11及びレーザスキャナ12は、MMS計測車両に実際に搭載される状態で、試験装置30に配置される。つまり、一点鎖線81で囲まれたベース10、カメラ11及びレーザスキャナ12は、MMS計測車両に実際に搭載される状態である。
ベース10は、姿勢変化機構20に支持されている。姿勢変化機構20は、ロール軸21、ピッチ軸22、ヨー軸23及び支持部材24を有する。
試験装置30には、姿勢変化機構20によって、ロール軸21、ピッチ軸22及びヨー軸23が設定されている。ロール軸21、ピッチ軸22及びヨー軸23は、それぞれ、X軸、Y軸、Z軸と表記する場合がある。ロール軸21は、レーザスキャナ12の出射するレーザ光の方向が、計測対象物40の計測模様41が配置されている配置面42の法線方向である。図4から図6はレーザスキャナ12が回転することを示す図である。
図4は、レーザスキャナ12が、XY平面内でゼロ度の状態を示す。
図5は、レーザスキャナ12が、XY平面内でゼロ度の状態から右回りに回転した状態を示す。
図6は、レーザスキャナ12が、XY平面内でゼロ度の状態から左回りに回転した状態を示す。図4に示すように、レーザスキャナ12は、XY平面内でゼロ度から+90度、−90度の範囲で回転し、レーザ光を出射する。つまり、レーザスキャナ12は、図4の状態をゼロ度とすると、Z軸まわりに右に90度、左に90度回転可能である。図4では、配置面42の法線方向がレーザ光のゼロ度の出射方向であり、このレーザ光のゼロ度の出射方向がX軸方向として設定されている。+90度及び−90度のレーザ光を含む平面の法線方向がZ軸方向である。XZ平面の法線方向がY軸方向である。以上のように、X軸、Y軸、X軸である、ロール軸21、ピッチ軸22、ヨー軸23が設定されている。
カメラ11及びレーザスキャナ12が固定されているベース10は、ロール軸21(X軸)、ピッチ軸22(Y軸)及びヨー軸23(Z軸)の周りに回転できる。ロール軸21回りの角度がロール角度φ、ピッチ軸22回りの角度がピッチ角度θ、ヨー軸23回りの角度がヨー角度ψである。
ロール軸21、ピッチ軸22及びヨー軸23は、支持部材24によって支持される。つまり、カメラ11及びレーザスキャナ12が固定されているベース10は、ロール軸21、ピッチ軸22及びヨー軸23を介して、支持部材24に支持される。
計測対象物40は、計測模様41を有する。計測模様41は、カメラ11に撮影される模様であり、かつ、レーザスキャナ12によるスキャンによって反射輝度の相違が現れる模様である。実施の形態1では、計測模様41の例はチェック模様である。実施の形態1のチェック模様では、黒と白は同じ形状であるが、黒と白とは同じ形状でなくても構わない。また、レーザスキャナ12によるスキャンによって反射輝度の相違が現れる模様であれば、計測模様41はチェック模様には限られない。
計測対象物40はキャスタ43を有する。キャスタ43によって、計測対象物40は床82の上を移動できる。つまり、試験装置30に対して、計測対象物40の位置は自由に変えることができる。
計算機50は、ハードウェアとして、プロセッサ51、主記憶装置52、補助記憶装置53、入出力インタフェース装置54を備える。プロセッサ51は、信号線55を介して他のハードウェアと接続され、これら他のハードウェアを制御する。
プロセッサ51は、演算処理を行うIC(Integrated Circuit)である。プロセッサ51は、具体例としては、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、GPU(Graphics Processing Unit)である。
主記憶装置52は、読み書きが可能な揮発性の記憶装置である。主記憶装置52の具体例としては、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)である。
補助記憶装置53は、読み書きが可能な不揮発性の記憶装置である。補助記憶装置53には、計算機50の機能を実現するためのプログラム及び他のデータが記憶される。補助記憶装置53は、具体例としては、磁気ディスク装置(Hard Disk Drive)である。また、補助記憶装置53は、光ディスク、コンパクトディスク、ブルーレイ(登録商標)ディスク、DVD(Digital Versatile Disk)といった可搬記憶媒体を使用する記憶装置であってもよい。
入出力インタフェース装置54は、プロセッサ5が、カメラ11、レーザスキャナ12、表示装置60及び入力装置70と通信するためのインタフェース装置である。
計算機50は、機能要素として、表示制御部51a及び補正部51bを備える。表示制御部51a及び補正部51bの機能は、重畳表示プログラムにより実現される。補助記憶装置53には、表示制御部51a及び補正部51bの機能を実現する重畳表示プログラムが記憶されている。重畳表示プログラムは、プロセッサ51により読み込まれ実行される。これにより、表示制御部51a及び補正部51bの機能が実現される。
重畳表示プログラムは、表示制御部51a及び補正部51bの各部の「部」を「処理」、「手順」あるいは「工程」に読み替えた各処理、各手順あるいは各工程を計算機50に実行させる。また、重畳表示方法は、計算機50が重畳表示プログラムを実行することにより行われる方法である。重畳表示プログラムは、コンピュータ読取可能な記録媒体に格納されて提供されてもよいし、プログラムプロダクトとして提供されてもよい。
図3では、プロセッサ51は、1つだけ示されている。しかし、計算機50は、プロセッサ51を代替する複数のプロセッサを備えていてもよい。これら複数のプロセッサは、表示制御部51a及び補正部51bの機能の実行を分担する。それぞれのプロセッサは、プロセッサ51と同じように、演算処理を行うICである。プロセッサ51及び複数のプロセッサは、総称としてプロセッシングサーキットリと呼ばれる。
***動作の説明***
図7から図10を参照して、重畳表示システム100の動作を説明する。
(1)図7は、カメラ11の姿勢と、レーザスキャナ12の姿勢との間に、ヨー角度差△ψがある例を示す。
(2)図7は、表示制御部51aによって、カメラ映像11aとスキャンライン12aとが、重畳して表示装置60に表示されている場合を示している。カメラ映像11aとスキャンライン12aとが、重畳して表示装置60に表示される動作を説明する。
(3)作業者は、試験装置30のカメラ11によって計測模様41を撮影し、また、レーザスキャナ12によって計測模様41をスキャンする。
(4)カメラ映像11a及びスキャンライン12aは、入出力インタフェース装置54を介して、表示制御部51aに送信される。
(5)表示制御部51aは、入出力インタフェース装置54を介して、表示装置60にカメラ映像11a及びスキャンライン12aを重畳して表示する。スキャンライン12aは線で表示しているが、実際には点の集合である点群である。この点群は、レーザ点群と呼ばれる。レーザ点群は反射輝度も表示している。
(6)カメラ11とレーザスキャナ12とのヨー方向の姿勢が一致している場合は、カメラ映像11aに対して、スキャンライン12aが正しく重畳される。つまり、「正しく重畳される」とは、白と黒の反射輝度がカメラ映像11aと重なる。図7において、スキャンライン12a−1は、カメラ映像11aに正しく重畳されているスキャンラインを示す。
(7)スキャンライン12a−2の白黒パターンは、スキャンライン12a−1の白黒パターンに対して、右方向にずれている状態を示す。スキャンライン12a−3の白黒パターンは、スキャンライン12a−1の白黒パターンに対して、左方向にずれている。スキャンライン12a−2及びスキャンライン12a−3は、カメラ映像11aに正しく重畳されていない。
(8)左方向または右方向のずれ量を修正することにより、カメラ11の姿勢と、レーザスキャナ12の姿勢との間の、ヨー角度差△ψを修正できる。なお、図7には、右方向のずれと左方向のずれとが一緒に記載されているが、実際には、右方向のずれと左方向のずれとのどちらかが現れる。
(9)左方向のずれを例に説明する。スキャンライン12a−3の白黒パターンは、正常なスキャンライン12a−1の白黒パターンに対して、左方向に長さL1ずれている。
一方、図1に示すように、試験装置30の基準点から計測模様41までの距離は、距離L0である。よって、カメラ11とレーザスキャナ12とのヨー角度差△ψは、以下の式1で計算できる。
△ψ=tan−1(L1/L0) (式1)
作業者は、表示装置60に表示されているカメラ映像11aとスキャンライン12a−3とから長さL1を読み取ることで、ヨー角度差△ψを算出する。
以上により、カメラ11の姿勢と、レーザスキャナ12の姿勢との間の、ヨー角度差△ψが得られる。
(10)ヨー角度差△ψが算出された場合、作業者は、キーボード71またはマウス72のような入力装置70を介して、姿勢相違情報であるヨー角度差△ψを計算機50に入力する。
つまり、計算機50の補正部51bには、入力装置70を介して、姿勢相違情報であるヨー角度差△ψが入力される。計算機50の補正部51bは、姿勢相違情報であるヨー角度差△ψを用いて、表示装置60に表示されるスキャンライン12aの位置を補正する。具体的には、補正部51bを実現する重畳表示プログラムには、ベース10に対する、カメラ11及びレーザスキャナ12の姿勢情報が設定されている。補正部51bはヨー角度差△ψを取得した場合、この姿勢情報を補正する。姿勢情報を補正することは、実際に工具を用いて、カメラ11の姿勢とレーザスキャナ12の姿勢との間の、ヨー角度差△ψを修正する効果を有する。表示制御部51aは、補正部51bによって位置が補正されたスキャンライン12aを、計測模様41のカメラ映像11aに重畳して表示する。この重畳表示によって、作業者は、ヨー角度差△ψの修正状態を確認できる。
(11)作業者は式1で得られた値をヨー角度差△ψとして用いた。しかし、式1で得られた値をヨー角度差△ψとして使用する代わりに、作業者は、ヨー角度差△ψに相当する相当値を計算機50に入力してもよい。具体的には、作業者は、正常なスキャンラインが得られるまで、異なる値の相当値を計算機50に入力し、ヨー角度ψがキャリブレーションされたスキャンラインを得てもよい。相当値は姿勢相違情報である。
また、式1の結果を用いる場合には作業者はベース10を回転させるが、相当値を使用する場合、作業者は、必ずしも、ベース10を回転させなくてもよい。ベース10を回転しない場合、姿勢変化機構20は無くてもよい。よって図1において、カメラ11とレーザスキャナ12とが固定されたベース10は、床32に配置されても良いし、支持部材24に配置されてもよい。
(1)図8は、カメラ11の姿勢と、レーザスキャナ12の姿勢との間に、ピッチ角度差△θがある例を示す。
(2)図8は、表示制御部51aによって、計測模様41と、スキャンライン12a−4またはスキャンライン12a−5とが、重畳して表示装置60に表示されている場合を示している。スキャンライン12a−4とスキャンライン12a−5との区別が不要の場合、スキャンラインはスキャンライン12aと表記する。計測模様41とスキャンライン12aとが、重畳して表示装置60に表示される動作を説明する。
(3)作業者は、試験装置30のカメラ11によって計測模様41を撮影し、レーザスキャナ12によって計測模様41をスキャンする。
(4)カメラ映像11a及びスキャンライン12aは、入出力インタフェース装置54を介して、表示制御部51aに送信される。
(5)表示制御部51aは、入出力インタフェース装置54を介して、表示装置60にカメラ映像11a及びスキャンライン12aを重畳して表示する。これらは図7と同じである。
(6)カメラ11とレーザスキャナ12とのピッチ方向の姿勢が一致している場合は、計測模様41に対して、スキャンライン12aが正しく重畳される。つまり、「正しく重畳される」とは、以下のようである。上記のように、図8は、カメラ11とレーザスキャナ12とのピッチ方向の姿勢がずれている場合を示している。作業者がピッチ方向、つまりピッチ軸22(Y軸)周りにベース10を回転させた場合、表示装置60の画面では、ベース10の回転に伴ってスキャンライン12aが移動する。図1において、作業者がピッチ軸22(Y軸)の左周りにベース10を回転させたとする。その場合、図8において、スキャンライン12aは、スキャンライン12a−4からスキャンライン12a−5へと移動する。カメラ11とレーザスキャナ12とのピッチ方向の姿勢がずれている場合は、スキャンライン12a−4からスキャンライン12a−5へ移動するときに、カメラ映像11aの白黒に対して、スキャンラインの白黒が反転するタイミングがずれる。つまり、カメラ11とレーザスキャナ12とのピッチ方向の姿勢がずれていない場合は、スキャンライン12a−4から長さL2の位置でスキャンラインの白黒が反転する。一方、カメラ11とレーザスキャナ12とのピッチ方向の姿勢がずれている場合は、キャンライン12a−4から長さL3の位置のキャンライン12a−5で、スキャンラインの白黒が反転する。
(7)この例では、下方向のずれ量を修正することにより、カメラ11の姿勢と、レーザスキャナ12の姿勢との間の、ピッチ角度差△θを修正できる。ここで下方向のずれ量は、L3−L2である。
よって、図7の場合と同様に、カメラ11とレーザスキャナ12とのピッチ角度差△θは、以下の式2で計算できる。
△θ=tan−1((L3−L2)/L0) (式2)
作業者は、表示装置60に表示されているカメラ映像11aとスキャンライン12a−4及びスキャンライン12a−5とから、長さ「L3−L2」を読み取ることで、ピッチ角度差△θを算出する。
以上により、カメラ11の姿勢と、レーザスキャナ12の姿勢との間の、ピッチ角度差△θが得られる。
(8)ピッチ角度差△θが算出された場合、作業者は、キーボード71またはマウス72のような入力装置70を介して、姿勢相違情報であるピッチ角度差△θを計算機50に入力する。つまり、計算機50の補正部51bは、入力装置70を介して、姿勢相違情報であるピッチ角度差△θが入力される。
計算機50の補正部51bは、姿勢相違情報であるピッチ角度差△θを用いて、ヨー角度差△ψの場合と同様に表示装置60に表示されるスキャンライン12aの位置を補正する。補正部51bはピッチ角度差△θを取得した場合、図7の説明で述べた姿勢情報を補正する。姿勢情報を補正することは、実際に工具を用いて、カメラ11の姿勢とレーザスキャナ12の姿勢との間の、ピッチ角度差△θを修正する効果を有する。表示制御部51aは、補正部51bによって位置が補正されたスキャンライン12aを、計測模様41のカメラ映像11aに重畳して表示する。この重畳表示によって、作業者は、ピッチ角度差△θの修正状態を確認できる。
(9)作業者は式2で得られた値をピッチ角度差△θとして用いた。しかし、式2で得られた値をピッチ角度差△θとして使用する代わりに、作業者は、ピッチ角度差△θに相当する相当値を計算機50に入力してもよい。相当値は姿勢相違情報である。
具体的には、作業者は、正常なスキャンラインが得られるまで、異なる値の相当値を計算機50に入力し、ピッチ角度θがキャリブレーションされたスキャンラインを得てもよい。相当値は姿勢相違情報である。
また、式2の結果を用いる場合には作業者はベース10を回転させるが、相当値を使用する場合、作業者は、必ずしも、ベース10を回転させなくてもよい。ベース10を回転しない場合、姿勢変化機構20は無くてもよい。よって図1において、カメラ11とレーザスキャナ12とが固定されたベース10は、床32に配置されても良いし、支持部材24に配置されてもよい。
図9は、カメラ11の姿勢と、レーザスキャナ12の姿勢との間のロール角度差△φがない場合を示している。図9は、ロール角度φが正しくキャリブレーションされている状態を示す。スキャンライン12a−6は、ロール角度φが正しくキャリブレーションされている状態におけるスキャンラインである。ロール角度φが正しくキャリブレーションされている場合では、スキャンライン12a−6の白黒は、計測模様41の白黒と一致する。
図10は、カメラ11の姿勢と、レーザスキャナ12の姿勢との間に、ロール角度差△φのある場合を示している。図10は、ロール角度φが正しくキャリブレーションされていない状態を示す。スキャンライン12a−7は、ロール角度φが正しくキャリブレーションされていない状態におけるスキャンラインである。ロール角度φが正しくキャリブレーションされていない場合では、スキャンライン12a−7の白黒は、計測模様41の白黒と一致しない。
スキャンライン12a−7がスキャンライン12a−6に修正された場合を想定して、ロール角度φのキャリブレーションを説明する。
(1)図10の状態の場合、作業者は、入力装置70を介して、ロール角度差△φに相当する相当値を計算機50に入力する。
(2)計算機50の補正部51bには、入力装置70を介して、姿勢相違情報であるロール角度差△φの相当値が入力される。
(3)補正部51bは、入力された相当値を姿勢相違情報として用いて、表示装置60に表示されるスキャンライン12a−7の位置を補正する。補正部51bは、ヨー角度差△ψを取得した場合と同じように、姿勢情報であるロール角度φを補正する。
(4)表示制御部51aは、補正部51bによってロール角度φが補正されたスキャンラインを、計測模様41のカメラ映像11aに重畳して表示する。この重畳表示によって、作業者は、ロール角度φの修正状態を確認できる。
(5)作業者は、スキャンライン12a−6が得られるまで、値を変えた相当値を計算機50に入力する。
(6)なおロール角度差△φに相当する相当値を使用する場合、作業者は、必ずしも、ベース10を回転させなくてもよい。ベース10を回転しない場合、姿勢変化機構20は無くてもよい。よって図1において、カメラ11とレーザスキャナ12とが固定されたベース10は、床32に配置されても良いし、支持部材24に配置されてもよい。
実際の重畳映像では、ロール角度差△φ、ピッチ角度差△θ及びヨー角度差△ψが混在して現れる。その場合、作業者は、ベース10を、ロール軸21(X軸)、ピッチ軸22(Y軸)またはヨー軸23(Z軸)の回りに回転させる。そして、作業者は、図7のようにヨー角度差△ψが現れる状態、図8のようにピッチ角度差△θが現れる状態を得て、ヨー角度差△ψ、ピッチ角度差△θ等を個々に確認する。
***実施の形態1の効果の説明***
以上に説明した実施の形態1の重畳表示システム100によれば、カメラ11及びレーザスキャナ12が搭載された計測車両が、キャリブレーションのための走行をする必要がない。よって、キャリブレーションの負担が軽減できる。
また、重畳表示システム100によれば、カメラ11及びレーザスキャナ12が搭載されたベースの製造精度が簡易な方法で確認できる。
つまりベース10に固定されたカメラ11及びレーザスキャナ12の取り付け姿勢の精度が、簡易な方法で確認できる。
以上に説明した重畳表示システム100では、△φ、△θ、△ψを求める方法を説明したが、一般的なキャリブレーションパラメータの推定方法と同様に、カメラ11とレーザスキャナ12との姿勢及び位置を含めたキャリブレーションパラメータの推定に使用できる。その場合、カメラ11とレーザスキャナ12との姿勢及び位置を含めたキャリブレーションパラメータの推定原理は、MMS計測車両を走行させるキャリブレーションと同じである。
重畳表示システム100におけるキャリブレーションパラメータの推定の場合も、計測模様41の近くでカメラ11及びレーザスキャナ12の位置が推定され、計測模様41の遠くで姿勢が推定される。
以上の説明では、試験装置30は静止状態で計測模様41を正面から写す場合が想定されていた。しかし、カメラ11及びレーザスキャナ12が動かされながら、カメラ11とレーザスキャナ12との姿勢、またはカメラ11とレーザスキャナ12との位置が決められることは有効である。つまり、作業者が計測対象物40を動かすこと、あるいは、カメラ11、レーザスキャナ12が、ロール軸21、ピッチ軸22またはヨー軸23の周りに回転することは好ましい。最終的にどのような角度、どのような位置から撮影されたカメラ映像11aであっても、そのカメラ映像11aにスキャンライン12aが正しく重畳された場合、キャリブレーションは終了である。
姿勢をより正確に確定したい場合は、カメラ11及びレーザスキャナ12と、計測模様41との距離を、通常よりも長くとればよい。この理由は、姿勢の影響は、遠方ほど大きく現れるからである。例えば、0.1degの誤差に対して1mであれば1.7mmであるが100mであれば17.4cmとなるからである。
また、位置(X,Y,Z)を推定する場合は、試験装置30が計測模様41に近い距離で推定を行うことが有効である。位置の影響は、カメラ11及びレーザスキャナ12と計測模様41との距離に依存しないので、姿勢の影響の少ない近傍のほうが位置の誤差が大きく現れるからである。
これらのことは走行キャリブレーション手法と同様である。
以上、実施の形態1について説明したが、実施の形態1に示した構成を部分的に実施しても構わない。なお、本発明は、実施の形態1に限定されるものではなく、必要に応じて種々の変更が可能である。
φ ロール角度、θ ピッチ角度、ψ ヨー角度、△φ ロール角度差、△θ ピッチ角度差、△ψ ヨー角度差、10 ベース、11 カメラ、11a カメラ映像、12 レーザスキャナ、12a スキャンライン、20 姿勢変化機構、21 ロール軸、22 ピッチ軸、23 ヨー軸、24 支持部材、30 試験装置、40 計測対象物、41 計測模様、42 配置面、43 キャスタ、50 計算機、51 プロセッサ、51a 表示制御部、51b 補正部、52 主記憶装置、53 補助記憶装置、54 入出力インタフェース装置、55 信号線、60 表示装置、70 入力装置、71 キーボード、72 マウス、80 姿勢相違情報、81 一点鎖線、82 床、100 重畳表示システム。

Claims (6)

  1. カメラとレーザスキャナとが固定されたベースと、
    前記カメラと前記レーザスキャナとが固定された前記ベースが固定され、前記ベースのロール角度、ピッチ角度及びヨー角度を変化させる姿勢変化機構と、
    前記カメラに撮影される模様であり、前記レーザスキャナによるスキャンによって反射輝度の相違が現れる模様である計測模様を有する計測対象物と、
    前記カメラによって撮影された前記計測模様のカメラ映像と、前記レーザスキャナによる前記計測模様のスキャン結果であるスキャンラインとを取得し、前記カメラ映像と前記スキャンラインとを重畳して表示装置に表示する計算機と
    を備える重畳表示システム。
  2. 前記計測対象物は、
    前記ベースとの距離を変えることのできる移動機構を有する請求項1に記載の重畳表示システム。
  3. 前記計算機は、
    前記カメラと前記レーザスキャナとの姿勢の相違を示す姿勢相違情報を用いて、前記表示装置に表示される前記スキャンラインの位置を補正し、位置の補正された前記スキャンラインを前記計測模様のカメラ映像と重畳して表示する請求項1または請求項2に記載の重畳表示システム。
  4. 前記計算機は、
    前記姿勢相違情報が入力される請求項3に記載の重畳表示システム。
  5. 前記計測模様は、
    チェック模様である請求項1から請求項4のいずれか一項に記載の重畳表示システム。
  6. カメラとレーザスキャナとが固定されたベースと、
    前記カメラに撮影される模様であり、前記レーザスキャナによるスキャンによって反射輝度の相違が現れる模様である計測模様を有する計測対象物と、
    前記カメラによって撮影された前記計測模様のカメラ映像と、前記レーザスキャナによる前記計測模様のスキャン結果であるスキャンラインとを取得し、前記カメラ映像と前記スキャンラインとを重畳して表示装置に表示するとともに、前記カメラと前記レーザスキャナとの姿勢の相違を示す姿勢相違情報を用いて、前記表示装置に表示される前記スキャンラインの位置を補正し、位置の補正された前記スキャンラインを前記計測模様のカメラ映像と重畳して表示する計算機と
    を備える重畳表示システム。
JP2020506104A 2018-03-16 2018-03-16 重畳表示システム Active JP7003219B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/010642 WO2019176118A1 (ja) 2018-03-16 2018-03-16 重畳表示システム

Publications (2)

Publication Number Publication Date
JPWO2019176118A1 true JPWO2019176118A1 (ja) 2020-12-03
JP7003219B2 JP7003219B2 (ja) 2022-01-20

Family

ID=65432167

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020506104A Active JP7003219B2 (ja) 2018-03-16 2018-03-16 重畳表示システム

Country Status (3)

Country Link
JP (1) JP7003219B2 (ja)
TW (1) TWI645160B (ja)
WO (1) WO2019176118A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021085679A (ja) * 2019-11-25 2021-06-03 トヨタ自動車株式会社 センサ軸調整用ターゲット装置
CN114964183B (zh) * 2022-07-28 2022-10-25 金田产业发展(山东)集团有限公司 一种便携式定位导航工程勘测装置

Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07229961A (ja) * 1994-02-22 1995-08-29 Hitachi Ltd 車両周囲の物体検知装置及び車両周囲の物体検知方法
JPH11326495A (ja) * 1998-05-13 1999-11-26 Hitachi Ltd 車載レーダのアンテナ軸調整装置
JP2003505682A (ja) * 1999-07-13 2003-02-12 メトロノール・エイエスエイ 大きな物体の幾何学的形状を走査するシステム
JP2004085326A (ja) * 2002-08-26 2004-03-18 Honda Motor Co Ltd 車載レーダおよび車載カメラの照準調整検査装置
JP2006090826A (ja) * 2004-09-24 2006-04-06 Hitachi Ltd レーダの設置情報の確認画面と調整画面の表示方法
JP2007064723A (ja) * 2005-08-30 2007-03-15 Hitachi Ltd 画像入力装置及び校正方法
US20100157280A1 (en) * 2008-12-19 2010-06-24 Ambercore Software Inc. Method and system for aligning a line scan camera with a lidar scanner for real time data fusion in three dimensions
JP2011087308A (ja) * 2010-11-25 2011-04-28 Aisin Seiki Co Ltd 車載カメラの校正装置、方法、及びプログラム
DE102011120535A1 (de) * 2011-12-08 2013-06-13 GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) Verfahren und Vorrichtung zum Einstellen zumindest eines Sensors eines Fahrzeugs
US20130305805A1 (en) * 2011-01-31 2013-11-21 Agency For Defense Development Device, system and method for calibration of camera and laser sensor
US20150160332A1 (en) * 2012-08-13 2015-06-11 Digital Signal Corporation System and Method for Calibrating Video and Lidar Subsystems
US20150317781A1 (en) * 2012-11-05 2015-11-05 The Chancellor Masters And Scholars Of The University Of Oxford Extrinsic calibration of imaging sensing devices and 2d lidars mounted on transportable apparatus
JP2016017913A (ja) * 2014-07-10 2016-02-01 国立大学法人鳥取大学 姿勢情報作成システム、姿勢情報作成方法及び姿勢情報作成プログラム
JP2016045150A (ja) * 2014-08-26 2016-04-04 株式会社トプコン 点群位置データ処理装置、点群位置データ処理システム、点群位置データ処理方法およびプログラム
JP2016057108A (ja) * 2014-09-08 2016-04-21 株式会社トプコン 演算装置、演算システム、演算方法およびプログラム
KR20160077684A (ko) * 2014-12-24 2016-07-04 한국항공우주연구원 객체 추적 장치 및 방법
JP2017062848A (ja) * 2016-12-13 2017-03-30 三菱電機株式会社 キャリブレーション方法、プログラムおよびコンピュータ
DE102015118874A1 (de) * 2015-11-04 2017-05-04 Valeo Schalter Und Sensoren Gmbh Verfahren zum Betreiben eines Sensorsystems eines Kraftfahrzeugs, Fahrerassistenzsystem und System zum Kalibrieren eines Sensorsystems eines Kraftfahrzeugs
WO2017159382A1 (ja) * 2016-03-16 2017-09-21 ソニー株式会社 信号処理装置および信号処理方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101563581A (zh) * 2006-11-03 2009-10-21 电子地图有限公司 用于图像中的平面对象的识别和位置确定的方法和设备
CA2678156C (en) * 2007-02-16 2013-10-08 Mitsubishi Electric Corporation Measurement apparatus, measurement method, and feature identification apparatus
WO2017106875A1 (en) * 2015-12-18 2017-06-22 Gerard Dirk Smits Real time position sensing of objects

Patent Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07229961A (ja) * 1994-02-22 1995-08-29 Hitachi Ltd 車両周囲の物体検知装置及び車両周囲の物体検知方法
JPH11326495A (ja) * 1998-05-13 1999-11-26 Hitachi Ltd 車載レーダのアンテナ軸調整装置
JP2003505682A (ja) * 1999-07-13 2003-02-12 メトロノール・エイエスエイ 大きな物体の幾何学的形状を走査するシステム
JP2004085326A (ja) * 2002-08-26 2004-03-18 Honda Motor Co Ltd 車載レーダおよび車載カメラの照準調整検査装置
JP2006090826A (ja) * 2004-09-24 2006-04-06 Hitachi Ltd レーダの設置情報の確認画面と調整画面の表示方法
JP2007064723A (ja) * 2005-08-30 2007-03-15 Hitachi Ltd 画像入力装置及び校正方法
US20100157280A1 (en) * 2008-12-19 2010-06-24 Ambercore Software Inc. Method and system for aligning a line scan camera with a lidar scanner for real time data fusion in three dimensions
JP2011087308A (ja) * 2010-11-25 2011-04-28 Aisin Seiki Co Ltd 車載カメラの校正装置、方法、及びプログラム
US20130305805A1 (en) * 2011-01-31 2013-11-21 Agency For Defense Development Device, system and method for calibration of camera and laser sensor
DE102011120535A1 (de) * 2011-12-08 2013-06-13 GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) Verfahren und Vorrichtung zum Einstellen zumindest eines Sensors eines Fahrzeugs
US20150160332A1 (en) * 2012-08-13 2015-06-11 Digital Signal Corporation System and Method for Calibrating Video and Lidar Subsystems
US20150317781A1 (en) * 2012-11-05 2015-11-05 The Chancellor Masters And Scholars Of The University Of Oxford Extrinsic calibration of imaging sensing devices and 2d lidars mounted on transportable apparatus
JP2016017913A (ja) * 2014-07-10 2016-02-01 国立大学法人鳥取大学 姿勢情報作成システム、姿勢情報作成方法及び姿勢情報作成プログラム
JP2016045150A (ja) * 2014-08-26 2016-04-04 株式会社トプコン 点群位置データ処理装置、点群位置データ処理システム、点群位置データ処理方法およびプログラム
JP2016057108A (ja) * 2014-09-08 2016-04-21 株式会社トプコン 演算装置、演算システム、演算方法およびプログラム
KR20160077684A (ko) * 2014-12-24 2016-07-04 한국항공우주연구원 객체 추적 장치 및 방법
DE102015118874A1 (de) * 2015-11-04 2017-05-04 Valeo Schalter Und Sensoren Gmbh Verfahren zum Betreiben eines Sensorsystems eines Kraftfahrzeugs, Fahrerassistenzsystem und System zum Kalibrieren eines Sensorsystems eines Kraftfahrzeugs
WO2017159382A1 (ja) * 2016-03-16 2017-09-21 ソニー株式会社 信号処理装置および信号処理方法
JP2017062848A (ja) * 2016-12-13 2017-03-30 三菱電機株式会社 キャリブレーション方法、プログラムおよびコンピュータ

Also Published As

Publication number Publication date
TW201938988A (zh) 2019-10-01
TWI645160B (zh) 2018-12-21
JP7003219B2 (ja) 2022-01-20
WO2019176118A1 (ja) 2019-09-19

Similar Documents

Publication Publication Date Title
US11544874B2 (en) System and method for calibration of machine vision cameras along at least three discrete planes
EP2564156B1 (en) Profile measuring apparatus
JP4669047B2 (ja) 撮像システムにおける位置検知の方法及びデバイス
CN109171793B (zh) 一种角度检测和校正方法、装置、设备和介质
KR19980033400A (ko) 차량바퀴의 캠버와 캐스터의 비접촉측정방법과 장치
JP7003219B2 (ja) 重畳表示システム
CN112313502A (zh) 计算机断层摄影应用的摆动补偿
JP2008292259A (ja) 二次元格子校正装置、二次元格子校正方法、二次元格子校正プログラム、記録媒体
CN109260612A (zh) 病床的位置参数检测方法、位置校正方法、装置及系统
CN108286946B (zh) 传感器位置标定和数据拼接的方法及系统
JP2009222568A (ja) 3次元形状データの生成方法および装置ならびにコンピュータプログラム
JPH09113223A (ja) 非接触距離姿勢測定方法及び装置
CN110261415A (zh) 测量用x射线ct设备以及批量生产工件测量方法
JP5955001B2 (ja) 非球面形状計測方法、形状計測プログラム及び形状計測装置
Kim et al. Design improvement of the three-beam detector towards a precise long-range 6-degree of freedom motion sensor system
JP3999063B2 (ja) 三次元測定機、三次元測定機の校正方法及び該方法を実行するためのプログラムを格納したコンピュータ読み取り可能な記憶媒体
JP2019121076A (ja) 情報処理装置、プログラム及び情報処理方法
JP2002310641A (ja) 三次元形状計測機の座標系のキャリブレーション方法
JP7038578B2 (ja) 速度生成装置、速度生成プログラム及び速度生成方法
US20200088508A1 (en) Three-dimensional information generating device and method capable of self-calibration
JP2012013593A (ja) 3次元形状測定機の校正方法及び3次元形状測定機
JP2009288227A (ja) 三次元測定機
US20230054389A1 (en) Three-dimensional shape registration method and three-dimensional shape data processing device
WO2013084565A1 (ja) データ補正装置及びデータ補正プログラム
JP2016008838A (ja) 形状測定装置、構造物製造システム、形状測定方法、及び構造物製造方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210601

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211228

R150 Certificate of patent or registration of utility model

Ref document number: 7003219

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150