JP2021120678A - 画像収集デバイスの外部パラメータのキャリブレーション方法、装置、デバイス、記憶媒体、及びプログラム - Google Patents

画像収集デバイスの外部パラメータのキャリブレーション方法、装置、デバイス、記憶媒体、及びプログラム Download PDF

Info

Publication number
JP2021120678A
JP2021120678A JP2021073973A JP2021073973A JP2021120678A JP 2021120678 A JP2021120678 A JP 2021120678A JP 2021073973 A JP2021073973 A JP 2021073973A JP 2021073973 A JP2021073973 A JP 2021073973A JP 2021120678 A JP2021120678 A JP 2021120678A
Authority
JP
Japan
Prior art keywords
calibration
coordinate system
image acquisition
acquisition device
transformation matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021073973A
Other languages
English (en)
Other versions
JP7060774B2 (ja
Inventor
ツァイマオ ユエン
Caimao Yuan
ツァイマオ ユエン
ポンビン ヤン
Pengbin Yang
ポンビン ヤン
フォンゾー ハン
fengze Han
フォンゾー ハン
フェイ ニー
Fei Ni
フェイ ニー
ヤン ヤン
Yang Yang
ヤン ヤン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Publication of JP2021120678A publication Critical patent/JP2021120678A/ja
Application granted granted Critical
Publication of JP7060774B2 publication Critical patent/JP7060774B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/16Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/06Improving the dynamic response of the control system, e.g. improving the speed of regulation or avoiding hunting or overshoot
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • G06T2207/30208Marker matrix
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Algebra (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Image Processing (AREA)
  • Time Recorders, Dirve Recorders, Access Control (AREA)

Abstract

【課題】画像収集デバイスの外部パラメータのキャリブレーション方法、装置、デバイス、記憶媒体、及びプログラムを開示し、車両測位技術分野に関する。【解決手段】画像収集デバイスによって撮影された画像を取得しS101、画像内のキャリブレーションボード上の複数のキャリブレーション点を決定しS102、画像画素座標系及びキャリブレーションボード座標系における各キャリブレーション点の座標に基づいて、画像画素座標系からキャリブレーションボード座標系への第1変換行列を決定しS103、キャリブレーションボード座標系及び車体座標系における車両の少なくとも1つの車輪接地点の座標に基づいて、キャリブレーションボード座標系から車体座標系への第2変換行列を決定しS104、第1変換行列と前記第2変換行列を利用して、画像収集デバイスの外部パラメータを決定するS105。【選択図】図1

Description

本発明は、自動運転分野に関して、特に車両測位技術分野に関する。
自動運転において、自動運転車両が車道内にある正確の位置を決定する必要があり、即ち、自動運転車両と左右車線との距離である。通常、車両の両側に側方を視認するための画像収集装置(例えば、カメラ)を設けることができ、これらのカメラを利用して車線を含む高解像度画像を取得し、画像画素座標系における車線の座標を決定し、そしてカメラの内部パラメータと外部パラメータによって、車体座標系における車線の座標を決定し、それによって現在の車両と車線との距離を得、当該距離を車道内の車両位置の精確の測定値とする。
カメラの内部パラメータは、画像画素座標系とカメラ座標系との関係を指し、カメラの外部パラメータは、カメラ座標系と車体座標系との関係を指す。ここで、カメラの内部パラメータは、事前にキャリブレーションされた固定値である。車両測位の精度を保証するために、カメラの外部パラメータをキャリブレーションする必要がある。
現在、カメラ外部パラメータのキャリブレーション方式は、
(1)事前に設置された碁盤目キャリブレーションボードを使用して、それぞれのカメラに対して外部パラメータのキャリブレーションを行う方式、
(2)専用のキャリブレーションの場所を用意し、車両が当該場所の指定位置に移動してキャリブレーションを行う方式、
(3)運動推定による動的のキャリブレーション方法、
という3つの方式がある。
上記の3つの方式は、それぞれ特徴があり、方式(1)の応用場面が小さい視野、近距離場合であり、キャリブレーションボードが、遮られることがなく、カメラの視野内にする必要がある。キャリブレーションボードに対するカメラの外部パラメータをキャリブレーションするしかできず、車体座標系へ変換が困難である。方式(2)は、キャリブレーション精度に対する要求が高く、且つ車両とカメラのキャリブレーションを標準化する場面に適用し、専用の場所が必要である。方式(3)は、その他のセンサーに依存し、しかもキャリブレーションの精度が低い。
よって、従来技術は、画像収集デバイスの外部パラメータを便利、高精度でキャリブレーションする方法が欠けている。
本発明は、画像収集デバイスの外部パラメータのキャリブレーション方法、装置、デバイス及び記憶媒体を提供する。
本発明の1様態では、画像収集デバイスの外部パラメータのキャリブレーション方法を提供し、前記画像収集デバイスは、車両の車体側面に設けられ、前記画像収集デバイスの視野が下向きであり、前記車両側面の地面にキャリブレーションボードが設けられ、前記キャリブレーションボードが前記画像収集デバイスの視野範囲内に位置し、前記方法は、
前記画像収集デバイスによって撮影された画像を取得することと、
前記画像内のキャリブレーションボード上の複数のキャリブレーション点を決定することと、
画像画素座標系及びキャリブレーションボード座標系における各前記キャリブレーション点の座標に基づいて、前記画像画素座標系から前記キャリブレーションボード座標系への第1変換行列を決定することと、
前記キャリブレーションボード座標系及び車体座標系における前記車両の少なくとも1つの車輪接地点の座標に基づいて、前記キャリブレーションボード座標系から前記車体座標系への第2変換行列を決定することと、
前記第1変換行列及び前記第2変換行列を利用して、前記画像収集デバイスの外部パラメータを決定することと、を含む。
本発明のもう1つの様態では、画像収集デバイスの外部パラメータの精度誤差評価方法を提供し、前記画像収集デバイスの外部パラメータは、画像画素座標系からキャリブレーションボード座標系への第1変換行列、及びキャリブレーションボード座標系から車体座標系への第2変換行列によって決定され、前記方法は
前記第1変換行列及び/又は前記第2変換行列の精度誤差を評価すること、を含み、
前記第1変換行列の精度誤差を評価することは、前記画像画素座標系におけるキャリブレーションボード内のキャリブレーション点の座標及び前記第1変換行列を利用して、前記キャリブレーションボード座標系における前記キャリブレーション点の第1座標を計算することと、前記第1変換行列の精度誤差を評価するために、前記第1座標と前記キャリブレーションボード座標系におけるキャリブレーション点の実座標との距離を計算することと、を含み、
前記第2変換行列の精度誤差を評価することは、前記キャリブレーションボード座標系における前記車両の車輪接地点の座標及び前記第2変換行列を利用して、前記車体座標系における前記車輪接地点の第2座標を計算することと、前記第2変換行列の精度誤差を評価するために、前記第2座標と前記車体座標系における前記車輪接地点の実座標との距離を計算することと、を含む。
本発明のもう1つの様態では、画像収集デバイスの外部パラメータのキャリブレーション装置を提供し、前記画像収集デバイスは、車両の車体側面に設けられ、前記画像収集デバイスの視野が下向きであり、前記車両側面の地面にキャリブレーションボードが設けられ、前記キャリブレーションボードが前記画像収集デバイスの視野範囲内に位置し、前記装置は、
前記画像収集デバイスによって撮影された画像を取得するように構成される画像取得モジュールと、
前記画像内のキャリブレーションボード上の複数のキャリブレーション点を決定するように構成されるキャリブレーション点決定モジュールと、
画像画素座標系及びキャリブレーションボード座標系における各前記キャリブレーション点の座標に基づいて、前記画像画素座標系から前記キャリブレーションボード座標系への第1変換行列を決定するように構成される第1変換行列決定モジュールと、
前記キャリブレーションボード座標系及び車体座標系における前記車両の少なくとも1つの車輪接地点の座標に基づいて、前記キャリブレーションボード座標系から前記車体座標系への第2変換行列を決定するように構成される第2変換行列決定モジュールと、
前記第1変換行列及び前記第2変換行列を利用して、前記画像収集デバイスの外部パラメータを決定するように構成される外部パラメータ決定モジュールと、を備える。
本発明のもう1つの様態では、画像収集デバイスの外部パラメータの精度誤差評価装置を提供し、前記画像収集デバイスの外部パラメータは、画像画素座標系からキャリブレーションボード座標系への第1変換行列、及びキャリブレーションボード座標系から車体座標系への第2変換行列によって決定され、前記装置は、
第1評価モジュール及び/又は第2評価モジュールを備え、
前記第1評価モジュールは、
前記画像画素座標系におけるキャリブレーションボード内のキャリブレーション点の座標及び前記第1変換行列を利用して、前記キャリブレーションボード座標系における前記キャリブレーション点の第1座標を計算するように構成される第1計算サブモジュールと、
前記第1変換行列の精度誤差を評価するために、前記第1座標と前記キャリブレーションボード座標系におけるキャリブレーション点の実座標との距離を計算するように構成される第2計算サブモジュールと、を備え、
前記第2評価モジュールは、
前記キャリブレーションボード座標系における前記車両の車輪接地点の座標及び前記第2変換行列を利用して、前記車体座標系における前記車輪接地点の第2座標を計算するように構成される第3計算サブモジュールと、
前記第2変換行列の精度誤差を評価するために、前記第2座標と前記車体座標系における前記車輪接地点の実座標との距離を計算するように構成される第4計算サブモジュール、を備える。
本発明のもう1つの様態では、電子デバイスを提供し、
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサと通信接続されるメモリと、を備え、
前記メモリには、前記少なくとも1つのプロセッサによって実行可能な命令が記憶されており、前記命令は、前記少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサに、本発明のいずれかの実施形態に記載の前記方法を実行させる。
本発明のもう1つの様態では、コンピュータに本発明のいずれかの実施形態に記載の方法を実行させるコンピュータ命令を記憶するための非一時的コンピュータ可読記憶媒体を提供する。
なお、ここで記載されている内容は、本発明の実施形態においてキーとなっている、又は重要視されている特徴、本発明の範囲を限定しているわけではない。本発明の他の特徴は下記の明細書の記載によって理解しやすくさせる。
本発明の実施形態における画像収集デバイスの外部パラメータのキャリブレーション方法を実現するフローチャートである。 本発明の実施形態におけるChArUcoキャリブレーションボードを示す図である。 本発明の実施形態における画像収集デバイスの外部パラメータのキャリブレーション方法内の、キャリブレーションボード座標系における車輪接地点の座標を決定するフローチャートである。 本発明の実施形態における車輪ハブの縁部を利用してキャリブレーション点を付ける方式を示す図である。 本発明の実施形態における、キャリブレーションボード座標系における車両の片側の車輪接地点の座標の確定方式を示す図である。 本発明の実施形態における、車両の片側の車輪接地点の座標による、キャリブレーションボード座標系における車両の他側の車輪接地点の座標の決定方式を示す図である。 本発明の実施形態における画像収集デバイスの外部パラメータの精度誤差評価方法の、第1変換行列の精度誤差の評価を実現するフローチャートである。 本発明の実施形態における画像収集デバイスの外部パラメータの精度誤差評価方法の、第2変換行列の精度誤差の評価を実現するフローチャートである。 本発明の実施形態における第1変換行列の精度誤差を示す図である。 画像収集装置により収集された画像に対して歪み除去処理を行った後の画像を示す図である。 本発明の実施形態における精度誤差評価方法を示す図である。 本発明の実施形態における精度誤差評価方法の、直線をフィッティングする方法を示す図である。 本発明の実施形態における直線のフィッティングを示す図である。 本発明の実施形態における、画像収集デバイスの外部パラメータのキャリブレーション装置1100の構造を示す図である。 本発明の実施形態における画像収集デバイスの外部パラメータのキャリブレーション装置1200の構造を示す図である。 本発明の実施形態における画像収集デバイスの外部パラメータの精度誤差評価装置1300の構造を示す図である。 本発明の実施形態における画像収集デバイスの外部パラメータの精度誤差評価装置1400の構造を示す図である。 本発明の実施形態における方法を実現するための電子デバイスのブロック図である。
上記の図面は、よりよく本発明を理解させるためのものであり、本発明を限定するものではない。
下記において、図面を参照して本発明の例示的な実施形態を説明し、理解しやすくするために、本発明の実施形態の細部を記載しており、それらが例示的なものであると理解すべきである。そのため、本発明の範囲と思想を反しない前提で、ここで記載されている実施形態に対して変更、修正を行うことができることは当業者にとって自明である。同様に、明確化と簡略化のために、下記の記載は公知機能と構造を省略したものとする。
本発明の実施形態は、画像収集デバイスの外部パラメータのキャリブレーション方法を提供し、画像収集デバイスは、車両の車体側面に設けられ、画像収集デバイスの視野が下向きであり、車両側面の地面にキャリブレーションボードが設けられ、当該キャリブレーションボードは、画像収集デバイスの視野範囲内に位置する。図1は、本発明の実施形態における画像収集デバイスの外部パラメータのキャリブレーション方法を実現するフローチャートであり、下記のステップを含む。
ステップS101において、画像収集デバイスによって撮影された画像を取得する。
ステップS102において、当該画像内のキャリブレーションボード上の複数のキャリブレーション点を決定する。
ステップS103において、画像画素座標系及びキャリブレーションボード座標系における各キャリブレーション点の座標に基づいて、画像画素座標系からキャリブレーションボード座標系への第1変換行列を決定する。
ステップS104において、キャリブレーションボード座標系及び車体座標系における車両の少なくとも1つの車輪接地点の座標に基づいて、キャリブレーションボード座標系から車体座標系への第2変換行列を決定する。
ステップS105において、当該第1変換行列と第2変換行列を利用して、当該画像収集デバイスの外部パラメータを決定する。
なお、上記のS104とステップS101〜S103との実行順序については、制限がない。両者は前後順位で実行してもよく、同期して実行してもよい。
幾つかの実施形態において、車両の四つの車輪の上方に1つのカメラをそれぞれ装着することが可能であり、カメラ視野が下向きであり、車両の片側の2メートル前後の距離を撮影する。任意選択で、カメラを適切な位置に調整するために、ディスプレイによってカメラで撮影された画像をプレビューしてもよい。
幾つかの実施形態において、上記のキャリブレーションボードは、ChArUcoキャリブレーションボードを含む。ChArUcoキャリブレーションボードは、碁盤目キャリブレーションボード(Chessboard)とArUcoキャリブレーションボードの特徴を参照しており、ChArUcoキャリブレーションボードにおいて、各々の白い格子が四つの黒い格子に囲まれ、同様に、各々の黒い格子が四つの白い格子に囲まれる。格子の角部はチェスボードパターンのコーナーと称してもよい。各々の白い格子内に1つのArUcoキャリブレーション点があり、各々のArUcoキャリブレーション点が1つの対応するキャリブレーション点(ID)情報がある。従来の碁盤目キャリブレーションボードと比べて、ChArUcoキャリブレーションボードはより高いロバスト性を有し、カメラは、キャリブレーションボード全体を完全に視認することができ、各ArUcoキャリブレーション点いずれも唯一のIDを有するため、画像に部分のChArUcoキャリブレーションボードの画像を含ませれば、キャリブレーションを遂行することができる。
幾つかの実施形態において、車両の長さによってChArUcoキャリブレーションボードの長さを決定することができ、ChArUcoキャリブレーションボードの幅を1.2メートル前後と設置することができる。ChArUcoキャリブレーションボードの周りに、1つのキャリブレーション格子と同じサイズの空白領域を残し、キャリブレーションボードの両側の空白領域に精確の目盛りを作成することができる。キャリブレーションボード全体は、持ちやすいために、通常の片面テープ付き用紙を使用してもよい。図2は、本発明の実施形態におけるChArUcoキャリブレーションボードを示す図である。
上記のプロセスにおいて、3つの座標系、即ち、画像画素座標系、キャリブレーションボード座標系、及び車体座標系に関わっており、即ち、
画像画素座標系は、画像収集デバイスで収集された画像内の画素点の画像における位置を表現するためのものであり。画像座標系は、画像の左上角を座標系の原点として、画素を単位とする直角座標系であり、ここで、横座標と縦座標は、それぞれ画素点が画像に位置する列数と行数を示す。
キャリブレーションボード座標系は、キャリブレーションボードの左下角を原点とする直角座標系であり、X軸方向が右向きであり、Y軸方向が前向きであり、Y軸座標の目盛りが既にキャリブレーションボードにキャリブレーション点している。任意選択で、車両を平らな地面の広い場所に止め、車輪方向をまっすぐにし、カメラ下方の地面にキャリブレーションボードを敷設し、キャリブレーションボードの縁部と車両との間に一定の距離(例えば、30cm前後)を置く。
車体座標系は、車両の後軸中心を原点とする直角座標系であり、X軸方向が前向きであり、Y軸方向が右向きである。
幾つかの実施形態において、上記した、画像収集デバイスによって撮影された画像を取得するステップS101は、画像収集デバイスによってキャリブレーションボードのビデオを撮影し、即ち、車両が静止したままで、キャリブレーションボードを車両の片側に置く時にキャリブレーションボードのビデオを撮影し、さらに当該ビデオから1フレームを選択し、画像収集デバイスの外部パラメータをキャリブレーションして取得する時に使用する画像とすること、を含むことができる。
上記のステップS102とステップS103において、第1変換行列を決定するためのキャリブレーション点は、ChArUcoキャリブレーションボード上の複数のチェスボードパターンのコーナーを含み得る。ChArUcoキャリブレーション法を利用し、画像画素座標系とキャリブレーションボード座標系におけるチェスボードパターンのコーナーの座標を利用して、画像画素座標系からキャリブレーションボード座標系への第1変換行列を決定することができる。
在上記のステップS104において、キャリブレーションボード座標系から車体座標系への第2変換行列を決定するために、キャリブレーションボード座標系及び車体座標系における車輪接地点の座標を利用する必要がある。ここで、図3に示すように、キャリブレーションボード座標系における車輪接地点の座標の決定方式は、下記のステップを含み得る。
S301において、キャリブレーションボード座標系における車両の片側の2つの車輪接地点の座標を決定する。
S302において、決定された座標及び当該車両の車両モデルを利用して、当該キャリブレーションボード座標系における車両の他側の2つの車輪接地点の座標を決定する。
幾つかの実施形態において、上記したキャリブレーションボード座標系における車両の片側の2つの車輪接地点の座標を決定するステップS301は、下記を含み得る。
まず、車両の片側の2つの車輪の車輪ハブの縁部に下げ振り糸を置き、糸が車輪ハブの縁部と相接し、下げ振り錘と地面が交わる位置で、チョーク又はマーカを使用してキャリブレーション点を付ける。車輪毎に2つのキャリブレーション点を付ける。図4Aは、本発明の実施形態における、車輪ハブの縁部を利用するキャリブレーション点方式を示す図である。図4Aに示すように、各車両の車輪ハブの縁部に置かれる下げ振り糸を利用して、車両の片側に四つのキャリブレーション点を付けることができ、当該側の車輪毎に2つのキャリブレーション点が対応され、各車輪の2つのキャリブレーション点の中点が、当該車輪の車輪接地点になる。
次に、キャリブレーションボードと直定規を利用して、キャリブレーションボード座標系における各キャリブレーション点の座標を測定し、それによってキャリブレーションボード座標系における車輪接地点の座標を決定する。図4Bは、本発明の実施形態における、キャリブレーションボード座標系における車両の片側の車輪接地点の座標の確定方式を示す図である。図4Bに示すように、車両の左側で、各車輪に既に2つのキャリブレーション点が付けられ、直定規を使用して、キャリブレーションボード座標系におけるキャリブレーションボードの同側の車輪キャリブレーション点の座標を測定することができる。例えば、直定規の片側をキャリブレーションボードの縁部に合わせ、他側を上記のキャリブレーション点に合わせ、直定規の目盛りとキャリブレーションボードのY軸の目盛りを記録し、キャリブレーションボード座標系におけるキャリブレーション点の座標を換算する。そしてキャリブレーションボード座標系における、車輪の対応する2つのキャリブレーション点の座標に基づいて、この2つのキャリブレーション点の中点の座標を決定し、即ち、キャリブレーションボード座標系における当該車輪の車輪接地点の座標を決定する。
上記のプロセスにおいて、キャリブレーションボード座標系における車両の片側の2つの車輪接地点の座標を決定し、その後、当該側の車輪接地点の座標及び車両の車両モデルに基づいて、キャリブレーションボード座標系における他側の車輪接地点の座標を決定することができ、即ち、上記のステップS302を実行する。車両モデルは、車長、車輻、軸距等の情報を含み得る。図4Cは、本発明の実施形態における車両の片側の車輪接地点の座標による、キャリブレーションボード座標系における車両の他側の車輪接地点の座標の決定方式を示す図である。図4Cに示すように、AとBが既に座標を決定した2つの車輪接地点であり、Aの座標が(x1,y1)であり、Bの座標が(x2,y2)であり、その場合、車両の偏向角と車幅Wに基づいて、キャリブレーションボード座標系における他の2つの車輪接地点C(x3,y3)とD(x4,y4)の座標を決定することができ、具体的に、
x3=x2+W×cosθ、
y3=y2+W×sinθ、
x4=x1+W×cosθ、
y4=y1+W×sinθ、
とする。
ここで、θ=arctan(|x1−x2|/|y1−y2|)である。
キャリブレーションボード座標系における車両の各車輪接地点の座標を決定した後に、キャリブレーションボード座標系及び車体座標系における車両の少なくとも1つの車輪接地点の座標に基づいて、キャリブレーションボード座標系から前記車体座標系への第2変換行列を決定することができ、即ち、上記のステップS104を実行する。例えば、車両の3つの車輪接地点を利用して第2変換行列を決定し、残りの1つの車輪接地点は、後続の第2変換行列精度誤差に対する評価に用いられることができる。
本発明の実施形態は、画像収集デバイスの外部パラメータの精度誤差評価方法を提供し、当該画像収集デバイスの外部パラメータは、画像画素座標系からキャリブレーションボード座標系への第1変換行列、及びキャリブレーションボード座標系から車体座標系への第2変換行列によって決定され、当該方法は、当該第1変換行列及び/又は当該第2変換行列の精度誤差を評価することを含み、ここで、
図5に示すように、第1変換行列の精度誤差を評価することは、下記のステップを含むことができる。
ステップS501において、画像画素座標系におけるキャリブレーションボード内のキャリブレーション点の座標及び第1変換行列を利用して、キャリブレーションボード座標系におけるキャリブレーション点の第1座標を計算する。
ステップS502において、第1変換行列の精度誤差を評価するために、当該第1座標とキャリブレーションボード座標系におけるキャリブレーション点の実座標との距離を計算する。
任意選択で、上記の距離はユークリッド距離であってもよい。
図6に示すように、第2変換行列の精度誤差を評価することは、下記のステップを含み得る。
ステップS601において、キャリブレーションボード座標系における車両の車輪接地点の座標及び第2変換行列を利用して、車体座標系における車輪接地点の第2座標を計算する。
ステップS602において、第2変換行列の精度誤差を評価するために、当該第2座標と車体座標系における車輪接地点の実座標との距離を計算する。
任意選択で、上記の距離はユークリッド距離であってもよい。
任意選択で、上記の精度誤差の評価プロセスにおいて、ステップS501で利用されているキャリブレーション点は、キャリブレーションボード内の、第1変換行列を決定する時に使用されていないキャリブレーション点を含み得、ステップS601で利用されている車輪接地点は、車両の車輪接地点のうちの、第2変換行列を決定する時に使用されていない車輪接地点を含み得る。
例えば、ChArUcoキャリブレーションボードを採用するとした場合、第1変換行列を決定する時に使用されるのがChArUcoキャリブレーションボードにおけるチェスボードパターンのコーナーであれば、第1変換行列の精度誤差を評価する時に、ChArUcoキャリブレーションボード内のArUcoキャリブレーション点の角部を採用することができる。
また例えば、当該車両が四つの車輪がある場合、第2変換行列を決定する時に使用されるのが車両の3つの車輪接地点であれば、第2変換行列の精度誤差を評価する時に、当該車両のもう1つの車輪接地点を利用することができる。
さらに、上記の第1変換行列の精度誤差を利用して、画像収集デバイスの高精度領域を決定することができる。図7Aは本発明の実施形態における第1変換行列の精度誤差を示す図であり、図7Aにおいて、キャリブレーションボードの左上角に四つの黒いキャリブレーション点があり、キャリブレーションボード左下角に1つの黒いキャリブレーション点があり、この五つの黒いキャリブレーション点の精度が1cmより大きい。図7A内のその他のキャリブレーション点の精度が0.5cm〜1cmであり、又は0.5cmより小さい。よって、図7A内の五つの黒いキャリブレーション点の位置の精度誤差が比較的に大きく、これらの誤差の大きいキャリブレーション点を利用して、画像収集デバイスの高精度領域を画定することができ、図7A内の4本の黒い直線によって画定される領域は、画像収集デバイスの高精度領域である。ここで、2本の黒い横線及び左側の1本の黒い縦線は、図7A内の五つの精度誤差の高い黒いキャリブレーション点によって決定されるものであり、右側の1本の黒い縦線は、歪み除去後の画像エッジによって決定されるものである。歪み除去後の画像は図7Bに示されているようになっている。
上記の図5と図6に示される精度誤差評価方式は、第1変換行列と第2変換行列のそれぞれに対して評価する方式である。本発明の実施形態において、第1変換行列と第2変換行列の総合精度に対して評価することもできる。図8は、本発明の実施形態における精度誤差評価方法を示す図であり、当該評価方式は、下記のステップを含むことができる。
ステップS801において、車両の同側に設けられる2つの画像収集デバイスを利用して、それぞれ1つの直線をフィッティングする。
ステップS802において、画像収集デバイスの外部パラメータの精度誤差を評価するために、2つの直線の夾角を決定する。
任意選択で、図9は、本発明の実施形態における精度誤差評価方法の、直線をフィッティングする方法を示す図である、図9に示すように、上記のステップS801における直線のフィッティング方式は、下記のステップを含み得る。
ステップS901において、画像収集デバイスによって撮影された画像内の、キャリブレーションボードにおける同一直線上の複数のキャリブレーション点を決定する。
ステップS902において、それぞれのキャリブレーション点に対して、キャリブレーションボード座標系におけるキャリブレーション点の座標、上記の第1変換行列、及び第2変換行列を利用して、車体座標系におけるキャリブレーション点の座標を決定する。
ステップS903において、複数の車体座標系におけるキャリブレーション点の座標を利用して、複数のキャリブレーション点を1つの直線にフィッティングする。
車両の同側の2つの画像収集デバイスで直線をフィッティングする時に同一の直線上のキャリブレーション点を使用しているため、この2本の直線の夾角が大きいほど、画像収集デバイスの外部パラメータの精度誤差が大きいことは明らかである。
図10は、本発明の実施形態における直線のフィッティングを示す図である。図10の上半分の2本の直線は、それぞれ車両の左前方と左後方の2つの画像収集デバイスによってフィッティングされた直線であり、図10の下半分の2本の交差している直線は、それぞれ車両の右前方と右後方の2つの画像収集デバイスによってフィッティングされた直線である。車両右前方と右後方の2つの画像収集デバイスによってフィッティングされた直線の間に一定夾角があり、外部パラメータのキャリブレーションで一定の誤差が生じている証左である。
よって、本発明の実施形態に提供される画像収集デバイスの外部パラメータのキャリブレーション方法及び精度の評価方法は、キャリブレーションボードが遮られることによる影響を克服することができ、しかも車体座標系との変換関係を便利に計算することができる。専用のキャリブレーション場所を必要とせず、適応性が良い。キャリブレーションボードとカメラを移動する必要がなく、複数のカメラを同時にキャリブレーションすることができる。本発明の実施形態のキャリブレーション精度が高く、しかもキャリブレーションの誤差が定量化して評価することができる。
本発明の実施形態は、画像収集デバイスの外部パラメータのキャリブレーション装置をさらに提供し、ここで画像収集デバイスは、車両の車体側面に設けられ、画像収集デバイスの視野が下向きであり、車両側面の地面にキャリブレーションボードが設けられ、キャリブレーションボードは、画像収集デバイスの視野範囲内に位置し、図11は、本発明の実施形態における画像収集デバイスの外部パラメータのキャリブレーション装置1100の構造を示す図であり、
画像収集デバイスによって撮影された画像を取得するように構成される画像取得モジュール1110と、
画像内のキャリブレーションボード上の複数のキャリブレーション点を決定するように構成されるキャリブレーション点決定モジュール1120と、
画像画素座標系及びキャリブレーションボード座標系における各キャリブレーション点の座標に基づいて、画像画素座標系からキャリブレーションボード座標系への第1変換行列を決定するように構成される第1変換行列決定モジュール1130と、
キャリブレーションボード座標系及び車体座標系における車両の少なくとも1つの車輪接地点の座標に基づいて、キャリブレーションボード座標系から車体座標系への第2変換行列を決定するように構成される第2変換行列決定モジュール1140と、
第1変換行列と第2変換行列を利用して、画像収集デバイスの外部パラメータを決定するように構成される外部パラメータ決定モジュール1150と、を含む。
任意選択で、上記のキャリブレーションボードは、ChArUcoキャリブレーションボードを含むことができる。
任意選択で、上記のキャリブレーション点決定モジュール1120は、ChArUcoキャリブレーションボード上の複数のチェスボードパターンのコーナーを決定するように構成されることができる。
図12は、本発明の実施形態における画像収集デバイスの外部パラメータのキャリブレーション装置1200の構造を示す図であり、画像取得モジュール1110、キャリブレーション点決定モジュール1120、第1変換行列決定モジュール1130、第2変換行列決定モジュール1240、及び外部パラメータ決定モジュール1150を含む。
ここで、第2変換行列決定モジュール1240は、
キャリブレーションボード座標系における車両の片側の2つの車輪接地点の座標を決定するように構成される第1座標決定サブモジュール1241と、
決定された座標及び車両の車両モデルを利用して、キャリブレーションボード座標系における車両の他側の2つの車輪接地点の座標を決定するように構成される第2座標決定サブモジュール1242と、を含み得る。
本発明の実施形態は、画像収集デバイスの外部パラメータの精度誤差評価装置をさらに提出し、当該画像収集デバイスの外部パラメータは、画像画素座標系からキャリブレーションボード座標系への第1変換行列、及びキャリブレーションボード座標系から車体座標系への第2変換行列によって決定され、図13は、本発明の実施形態における画像収集デバイスの外部パラメータの精度誤差評価装置1300の構造を示す図であり、
第1評価モジュール1310及び/又は第2評価モジュール1320を含み、ここで、
第1評価モジュール1310は、
画像画素座標系におけるキャリブレーションボード内のキャリブレーション点の座標及び第1変換行列を利用して、前記キャリブレーションボード座標系におけるキャリブレーション点の第1座標を計算するように構成される第1計算サブモジュール1311と、
第1変換行列の精度誤差を評価するために、第1座標と前記キャリブレーションボード座標系におけるキャリブレーション点の実座標との距離を計算するように構成される第2計算サブモジュール1312と、を含み得、
第2評価モジュール1320は、
キャリブレーションボード座標系における車両の車輪接地点の座標及び第2変換行列を利用して、前記車体座標系における車輪接地点の第2座標を計算するように構成される第3計算サブモジュール1321と、
第2変換行列の精度誤差を評価するために、第2座標と車体座標系における車輪接地点の実座標との距離を計算するように構成される第4計算サブモジュール1322と、を含み得る。
任意選択で、上記の第1計算サブモジュール1311で利用されているのは、キャリブレーションボード内の第1変換行列を確定する時に使用されていないキャリブレーション点であってもよい。
上記の第3計算サブモジュール1321で利用されているのは、車両の車輪接地点内の第2変換行列を確定する時に使用されていない車輪接地点であってもよい。
任意選択で、上記のキャリブレーションボードは、ChArUcoキャリブレーションボードを含み得る。
図14は、本発明の実施形態における画像収集デバイスの外部パラメータの精度誤差評価装置1400の構造を示す図であり、図14に示すように、上記の装置は、第3評価モジュール1430と、高精度領域決定モジュール1440とをさらに含み得る。
第3評価モジュール1430は、車両の同側に設けられる2つの画像収集デバイスを利用して、それぞれ1つの直線をフィッティングし、画像収集デバイスの外部パラメータの精度誤差を評価するために、2つの直線の夾角を決定するように構成され、ここで、各画像収集デバイスを利用して直線をフィッティングする方式は、画像収集デバイスによって撮影された画像内の、キャリブレーションボードにおける同一直線上の複数のキャリブレーション点を決定することと、各キャリブレーション点に対して、キャリブレーションボード座標系におけるキャリブレーション点の座標、第1変換行列、及び第2変換行列を利用して、前記車体座標系におけるキャリブレーション点の座標を決定することと、複数の車体座標系におけるキャリブレーション点の座標を利用して、複数のキャリブレーション点を1つの直線にフィッティングすることと、を含む。
高精度領域決定モジュール1440は、第1変換行列の精度誤差を利用して、画像収集デバイスの高精度領域を決定するように構成される。
本発明の実施形態における各装置内の各モジュールの機能は、上記の方法内の対応する記載を参照してもよく、ここで省略する。
本発明の実施形態によれば、本発明は、電子デバイスと読取可能記憶媒体をさらに提供する。
図15は、本発明の実施形態における画像収集デバイスの外部パラメータのキャリブレーション方法、又は画像収集デバイスの外部パラメータの精度誤差評価方法を実行するための電子デバイスのブロック図である。電子デバイスは、各形式のデジタルコンピュータを指し、例えば、ラップトップコンピュータ、デスクトップコンピュータ、ワークステーション、個人デジタルアシスタント、サーバ、ブレードサーバ、大型コンピュータ、及びその他の適合するコンピュータが挙げられる。電子デバイスは、各形式の移動装置をさらに指し、例えば、個人デジタルアシスタント、セルラー電話、スマートフォン、ウェアラブルデバイス、及びその他の類似のコンピュータ装置が挙げられる。本出願に記載されているコンポーネント、それらの接続関係、及び機能は例示的なものに過ぎず、本出願に記載・特定されているものの実現を限定するわけではない。
図15に示すように、当該電子デバイスは、1つ又は複数のプロセッサ1501、メモリ1502、及び各部品を接続するためのインターフェースを含み、高速インターフェースと低速インターフェースを含む。各部品が異なるバスによって接続され、共通マザーボードに装着することができ、又は必要に応じて他の方式で装着することもできる。プロセッサは、電子デバイスで実行する命令を実行することができ、メモリに記憶される命令、又は外部入力/出力装置(例えば、インターフェースにカップリングする表示デバイス)に記憶され、GUIに表示するグラフィック情報の命令を含む。その他の実施形態において、必要があれば、複数のプロセッサ及び/又は複数のバス及び複数のメモリを一緒に使用することができる。同様に、複数の電子デバイスを接続することができ、各デバイスが各自の必要な操作を提供する(例えば、サーバアレイとしての1グループのブレードサーバ、又は、複数のプロセッサシステム)。図15では1つのプロセッサ1501を例としている。
メモリ1502は、本発明に提供される非一時的コンピュータ読取可能な記憶媒体である。ここで、当該メモリに少なくとも1つのプロセッサで実行する命令が記憶され、当該少なくとも1つのプロセッサに、本発明に提供される画像収集デバイスの外部パラメータのキャリブレーション方法又は画像収集デバイスの外部パラメータの精度誤差評価方法を実行させる。本発明の非一時的コンピュータ読取可能な記憶媒体にコンピュータ命令が記憶され、当該コンピュータ命令は、コンピュータに本発明に提供される画像収集デバイスの外部パラメータのキャリブレーション方法又は画像収集デバイスの外部パラメータの精度誤差評価方法を実行させる。
メモリ1502は、非一時的コンピュータ可読記憶媒体として、非一時的ソフトウェアプログラムを記憶するためのものであってもよく、非一時的コンピュータは、プログラム、及びモジュールを実行することができ、例えば、本発明の実施形態における画像収集デバイスの外部パラメータのキャリブレーション方法に対応するプログラム命令/モジュール(例えば、図11に示される画像取得モジュール1110、キャリブレーション点決定モジュール1120、第1変換行列決定モジュール1130、第2変換行列決定モジュール1140及び外部パラメータ決定モジュール1150)、又は本発明の実施形態における画像収集デバイスの外部パラメータの精度誤差評価方法に対応するプログラム命令/モジュール(例えば、図13に示される第1評価モジュール1310及び/又は第2評価モジュール1320)を実行することができる。プロセッサ1501は、メモリ1502に記憶されている非一時的ソフトウェアプログラム、命令及びモジュールを実行することによって、サーバの各機能及びデータ処理を実行し、即ち、上記の方法実施形態における画像収集デバイスの外部パラメータのキャリブレーション方法又は画像収集デバイスの外部パラメータの精度誤差評価方法を実現する。
メモリ1502は、プログラム記憶領域とデータ記憶領域を含み、ここで、プログラム記憶領域に、オペレーションシステム、少なくとも1つの機能に必要なアプリケーションプログラムが記憶され得、データ記憶領域に、画像収集デバイスの外部パラメータのキャリブレーション、又は画像収集デバイスの外部パラメータの精度誤差の評価による電子デバイスの使用によって生成されるデータ等が記憶され得る。また、メモリ1502は、高速ランダムアクセスメモリを含み得、非一時的メモリも含み得、例えば、少なくとも1つのディスク記憶素子、フラッシュ素子、又はその他の非一時的固体メモリ素子を含む。幾つかの実施形態において、メモリ1502はプロセッサ1501から遠隔に設置されるメモリを選択的に含み、これらの遠隔メモリは、ネットワークによって、画像収集デバイスの外部パラメータのキャリブレーション、又は画像収集デバイスの外部パラメータの精度誤差の評価を実行する電子デバイスに接続されることができる。上記のネットワークは、インターネット、イントラネット、ローカルエリアネットワーク、移動通信ネットワーク及びそれらの組み合わせを例として含むが、それらを限定しない。
画像収集デバイスの外部パラメータのキャリブレーション方法、又は画像収集デバイスの外部パラメータの精度誤差評価方法を実行する電子デバイスは、入力装置1503及び出力装置1504をさらに含み得る。プロセッサ1501、メモリ1502、入力装置1503、及び出力装置1504は、バス又は他の方式で接続されることができ、図13ではバスによる接続を例としている。
入力装置1503は入力された数字又は文字情報を受け取ることができ、画像収集デバイスの外部パラメータのキャリブレーション方法、又は画像収集デバイスの外部パラメータの精度誤差評価方法を実行する電子デバイスのユーザ設定及び機能制御に関連するキーボード信号入力を生成し、例えば、タッチスクリーン、テンキー、マウス、トラックプレート、タッチタブレット、インジケーター、1つ又は複数のマウスボタン、トラックボール、ジョイスティックなどの入力装置が挙げられる。出力装置1504は、表示用デバイス、照明補助装置(例えば、LED)及び触覚型フィードバック装置(例えば、振動モーター)等を含み得る。当該表示用デバイスは、液晶ディスプレイ(LCD)、発光ダイオード(LED)ディスプレイ、及びプラズマディスプレイを含むが、それらを限定しない。幾つかの実施形態において、表示用デバイスは、タッチスクリーンであってもよい。
ここで記載されているシステムと技術に関する各実施形態は、デジタル電子回路システム、集積回路システム、専用ASIC(特定用途向け集積回路)、コンピュータハードウェア、ファームウェア、ソフトウェア、及び/又はこれらの組み合わせによって実現されることができる。これらの各実施形態は、1つ又は複数のコンピュータプログラムで実施することを含み得、当該1つ又は複数のコンピュータプログラムは、少なくとも1つのプログラミング可能なプロセッサを含むプログラミング可能なシステムにおいて、実行及び/又は解釈することができ、当該プログラミング可能なプロセッサは、専用又は汎用プログラミング可能なプロセッサであってもよく、記憶システム、少なくとも1つの入力装置、及び少なくとも1つの出力装置から、データと命令を受け取ることができ、データと命令を当該記憶システム、当該少なくとも1つの入力装置、及び当該少なくとも1つの出力装置に伝送することができる。
これらのコンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、又はコードとも称する)はプログラミング可能なプロセッサの機械命令を含み、高級プロシージャ及び/又はオブジェクト指向のプログラム言語、及び/又はアセンブラ/機械語を利用してこれらのコンピュータプログラムを実施する。例えば、本出願に使用される、用語「機械での読取可能な媒体」と「コンピュータ読取可能な媒体」は、機械命令及び/又はデータをプログラミング可能なプロセッサに提供するためのコンピュータプログラム製品、デバイス、及び/又は装置(例えば、ディスク、コンパクトディスク、メモリ、プログラミング可能なロジック装置(PLD))を指しており、機械読取可能な信号として機械命令を受け取る機械読取可能な媒体を含む。用語「機械読取可能な信号」は、機械命令及び/又はデータをプログラミング可能なプロセッサに提供するためのいかなる信号を指している。
ユーザとのインタラクションを提供するために、コンピュータでここに記載されているシステムと技術を実施することができ、当該コンピュータは、ユーザに情報を表示するための表示用装置(例えば、CRT(陰極線管)又はLCD(液晶ディスプレイ)モニター)、及びキーボードとポインティングデバイス(例えば、マウス又はトラックボール)を備え、ユーザは、当該キーボードと当該ポインティングデバイスによって、入力をコンピュータに提供することができる。他の種類の装置は、ユーザとのインタラクションを提供するために用いられることができ、例えば、ユーザに提供するフィードバックは、いかなる形式のセンサーフィードバック(例えば、視覚フィードバック、聴覚フィードバック、又は触覚フィードバック)であってもよく、いかなる形式(音入力、音声入力、又は触覚入力)によって、ユーザからの入力を受け取ることができる。
ここに記載されているシステムと技術を、バックグラウンド部品に含まれる計算システム(例えば、データサーバとして)、又はミドルウェア部品を含む計算システム(例えば、アプリケーションサーバ)、又はフロント部品を含む計算システム(例えば、GUI又はネットワークブラウザを有するユーザコンピュータが挙げられ、ユーザがGUI又は当該ネットワークブラウザによって、ここに記載されているシステムと技術の実施形態とインタラクションすることができる)、又はこのようなバックグラウンド部品、ミドルウェア部品、又はフロント部品のいかなる組合した計算システムで実施することができる。如何なる形式又はメディアのデジタルデータ通信(例えば、通信ネットワーク)を介して、システムの部品を互いに接続することができる。通信ネットワークの例は、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)及びインターネットを含む。
コンピュータシステムは、クライアントとサーバを含み得る。通常、クライアントとサーバは、互いに離れており、通信ネットワークを介してインタラクションを行うことが一般的である。対応するコンピュータで動作することで、クライアント−サーバの関係を有するコンピュータプログラムによってクライアントとサーバの関係を生み出す。サーバは、クラウドサーバであってもよく、クラウド計算サーバ又はクラウドホストとも称し、クラウド計算サービス体系におけるホスト製品であり、従来の物理ホストと仮想専用サーバ(VPS)でのサービスに存在する管理難度が大きく、サービス拡張性が弱い欠点を解決することができる。
上記の様々な態様のフローを使用して、ステップを新たに順序付け、追加、または削除することが可能であることを理解すべきである。例えば、本発明で記載された各ステップは、並列に実行しても良いし、順次に実行しても良いし、異なる順序で実行しても良い。本発明で開示された技術案が所望する結果を実現することができる限り、本発明ではこれに限定されない。
上記具体的な実施形態は、本発明の保護範囲に対する限定を構成するものではない。当業者は、設計事項やその他の要因によって、様々な修正、組み合わせ、サブ組み合わせ、および代替が可能であることを理解するべきである。本発明の要旨および原則内における変更、均等な置換および改善等は、いずれも本発明の保護範囲に含まれるべきである。

Claims (21)

  1. 画像収集デバイスが車両の車体側面に設けられ、前記画像収集デバイスの視野が下向きであり、前記車両側面の地面にキャリブレーションボードが設けられ、前記キャリブレーションボードが前記画像収集デバイスの視野範囲内に位置する、画像収集デバイスの外部パラメータのキャリブレーション方法であって、
    前記画像収集デバイスによって撮影された画像を取得することと、
    前記画像内のキャリブレーションボード上の複数のキャリブレーション点を決定することと、
    画像画素座標系及びキャリブレーションボード座標系における各前記キャリブレーション点の座標に基づいて、前記画像画素座標系から前記キャリブレーションボード座標系への第1変換行列を決定することと、
    前記キャリブレーションボード座標系及び車体座標系における、前記車両の少なくとも1つの車輪接地点の座標に基づいて、前記キャリブレーションボード座標系から前記車体座標系への第2変換行列を決定することと、
    前記第1変換行列及び前記第2変換行列を利用して、前記画像収集デバイスの外部パラメータを決定することと、を含む、
    画像収集デバイスの外部パラメータのキャリブレーション方法。
  2. 前記キャリブレーションボードはChArUcoキャリブレーションボードを含む、
    請求項1に記載の画像収集デバイスの外部パラメータのキャリブレーション方法。
  3. 前記画像内のキャリブレーションボード上の複数のキャリブレーション点を決定することは、前記ChArUcoキャリブレーションボード上の複数のチェスボードパターンのコーナーを決定することを含む、
    請求項2に記載の画像収集デバイスの外部パラメータのキャリブレーション方法。
  4. 前記キャリブレーションボード座標系における前記車輪接地点の座標の決定方式は、
    前記キャリブレーションボード座標系における前記車両の片側の2つの車輪接地点の座標を決定することと、
    決定された座標及び前記車両の車両モデルを利用して、前記キャリブレーションボード座標系における前記車両の他側の2つの車輪接地点の座標を決定することと、を含む、
    請求項1〜3のいずれか1項に記載の画像収集デバイスの外部パラメータのキャリブレーション方法。
  5. 画像収集デバイスの外部パラメータが、画像画素座標系からキャリブレーションボード座標系への第1変換行列、及びキャリブレーションボード座標系から車体座標系への第2変換行列によって決定される、画像収集デバイスの外部パラメータの精度誤差評価方法であって、
    前記第1変換行列及び/又は前記第2変換行列の精度誤差を評価することを含み、
    前記第1変換行列の精度誤差を評価することは、前記画像画素座標系におけるキャリブレーションボード内のキャリブレーション点の座標及び前記第1変換行列を利用して、前記キャリブレーションボード座標系における前記キャリブレーション点の第1座標を計算することと、前記第1変換行列の精度誤差を評価するために、前記第1座標と前記キャリブレーションボード座標系におけるキャリブレーション点の実座標との距離を計算することと、を含み、
    前記第2変換行列の精度誤差を評価することは、前記キャリブレーションボード座標系における前記車両の車輪接地点の座標及び前記第2変換行列を利用して、前記車体座標系における前記車輪接地点の第2座標を計算することと、前記第2変換行列の精度誤差を評価するために、前記第2座標と前記車体座標系における前記車輪接地点の実座標との距離を計算することと、を含む、
    画像収集デバイスの外部パラメータの精度誤差評価方法。
  6. 前記キャリブレーションボード内のキャリブレーション点は、前記キャリブレーションボード内の、前記第1変換行列の決定に使用されていないキャリブレーション点を含み、
    前記車両の車輪接地点は、前記車両の車輪接地点のうちの、前記第2変換行列の決定に使用されていない車輪接地点を含む、
    請求項5に記載の画像収集デバイスの外部パラメータの精度誤差評価方法。
  7. 前記キャリブレーションボードはChArUcoキャリブレーションボードを含む、
    請求項5又は6に記載の画像収集デバイスの外部パラメータの精度誤差評価方法。
  8. 車両の同側に設けられる2つの画像収集デバイスを利用して、それぞれ1つの直線をフィッティングすることと、画像収集デバイスの外部パラメータの精度誤差を評価するために、2本の前記直線の夾角を決定することと、をさらに含み、
    各前記画像収集デバイスを利用して直線をフィッティングする方式は、
    前記画像収集デバイスによって撮影された画像における、前記キャリブレーションボード内の同一直線上の複数のキャリブレーション点を決定することと、
    各々の前記キャリブレーション点に対して、前記キャリブレーションボード座標系におけるキャリブレーション点の座標、前記第1変換行列、及び前記第2変換行列を利用して、前記車体座標系における前記キャリブレーション点の座標を決定することと、
    前記車体座標系における前記複数のキャリブレーション点の座標を利用して、前記複数のキャリブレーション点を1つの直線にフィッティングすることと、を含む、
    請求項5又は6に記載の画像収集デバイスの外部パラメータの精度誤差評価方法。
  9. 前記第1変換行列の精度誤差を利用して、前記画像収集デバイスの高精度領域を決定すること、をさらに含む、
    請求項5又は6に記載の画像収集デバイスの外部パラメータの精度誤差評価方法。
  10. 画像収集デバイスの外部パラメータのキャリブレーション装置であって、前記画像収集デバイスが、車両の車体側面に設けられ、前記画像収集デバイスの視野が下向きであり、前記車両側面の地面にキャリブレーションボードが設けられ、前記キャリブレーションボードが前記画像収集デバイスの視野範囲内に位置し、前記装置は、
    前記画像収集デバイスによって撮影された画像を取得するように構成される画像取得モジュールと、
    前記画像内のキャリブレーションボード上の複数のキャリブレーション点を決定するように構成されるキャリブレーション点決定モジュールと、
    画像画素座標系及びキャリブレーションボード座標系における各前記キャリブレーション点の座標に基づいて、前記画像画素座標系から前記キャリブレーションボード座標系への第1変換行列を決定するように構成される第1変換行列決定モジュールと、
    前記キャリブレーションボード座標系及び車体座標系における、前記車両の少なくとも1つの車輪接地点の座標に基づいて、前記キャリブレーションボード座標系から前記車体座標系への第2変換行列を決定するように構成される第2変換行列決定モジュールと、
    前記第1変換行列及び前記第2変換行列を利用して、前記画像収集デバイスの外部パラメータを決定するように構成される外部パラメータ決定モジュールと、を備える、
    画像収集デバイスの外部パラメータのキャリブレーション装置。
  11. 前記キャリブレーションボードはChArUcoキャリブレーションボードを含む、
    請求項10に記載の画像収集デバイスの外部パラメータのキャリブレーション装置。
  12. 前記キャリブレーション点決定モジュールは、前記ChArUcoキャリブレーションボード上の複数のチェスボードパターンのコーナーを決定するように構成される、
    請求項11に記載の画像収集デバイスの外部パラメータのキャリブレーション装置。
  13. 前記第2変換行列決定モジュールは、
    前記キャリブレーションボード座標系における前記車両の片側の2つの車輪接地点の座標を決定するように構成される第1座標決定サブモジュールと、
    決定された座標及び前記車両の車両モデルを利用して、前記キャリブレーションボード座標系における前記車両の他側の2つの車輪接地点の座標を決定するように構成される第2座標決定サブモジュールと、を含む、
    請求項10〜12のいずれか1項に記載の画像収集デバイスの外部パラメータのキャリブレーション装置。
  14. 画像収集デバイスの外部パラメータの精度誤差評価装置であって、前記画像収集デバイスの外部パラメータが、画像画素座標系からキャリブレーションボード座標系への第1変換行列、及びキャリブレーションボード座標系から車体座標系への第2変換行列によって決定され、前記装置は、
    第1評価モジュール及び/又は第2評価モジュールを備え、
    前記第1評価モジュールは、
    前記画像画素座標系におけるキャリブレーションボード内のキャリブレーション点の座標及び前記第1変換行列を利用して、前記キャリブレーションボード座標系における前記キャリブレーション点の第1座標を計算するように構成される第1計算サブモジュールと、
    前記第1変換行列の精度誤差を評価するために、前記第1座標と前記キャリブレーションボード座標系におけるキャリブレーション点の実座標との距離を計算するように構成される第2計算サブモジュールと、を備え、
    前記第2評価モジュールは、
    前記キャリブレーションボード座標系における前記車両の車輪接地点の座標及び前記第2変換行列を利用して、前記車体座標系における前記車輪接地点の第2座標を計算するように構成される第3計算サブモジュールと、
    前記第2変換行列の精度誤差を評価するために、前記第2座標と前記車体座標系における前記車輪接地点の実座標との距離を計算するように構成される第4計算サブモジュールと、を備え、
    画像収集デバイスの外部パラメータの精度誤差評価装置。
  15. 前記第1計算サブモジュールで利用されるキャリブレーション点は、前記キャリブレーションボード内の、前記第1変換行列の決定に使用されていないキャリブレーション点であり、
    前記第3計算サブモジュールで利用される車輪接地点は、前記車両の車輪接地点のうちの、前記第2変換行列の決定に使用されていない車輪接地点である、
    請求項14に記載の画像収集デバイスの外部パラメータの精度誤差評価装置。
  16. 前記キャリブレーションボードはChArUcoキャリブレーションボードを含む、
    請求項14又は15に記載の画像収集デバイスの外部パラメータの精度誤差評価装置。
  17. 車両の同側に設けられる2つの画像収集デバイスを利用して、それぞれ1つの直線をフィッティングし、画像収集デバイスの外部パラメータの精度誤差を評価するために、2本の前記直線の夾角を決定するように構成される第3評価モジュールを、さらに備え、
    各前記画像収集デバイスを利用して直線をフィッティングする方式は、
    前記画像収集デバイスによって撮影された画像における、前記キャリブレーションボード内の同一直線上の複数のキャリブレーション点を決定することと、
    各々の前記キャリブレーション点に対して、前記キャリブレーションボード座標系におけるキャリブレーション点の座標、前記第1変換行列、及び前記第2変換行列を利用して、前記車体座標系における前記キャリブレーション点の座標を決定することと、
    前記車体座標系における前記複数のキャリブレーション点の座標を利用して、前記複数のキャリブレーション点を1つの直線にフィッティングすることと、を含む、
    請求項14又は15に記載の画像収集デバイスの外部パラメータの精度誤差評価装置。
  18. 前記第1変換行列の精度誤差を利用して、前記画像収集デバイスの高精度領域を決定するように構成される高精度領域決定モジュールを、さらに備える、
    請求項14又は15に記載の画像収集デバイスの外部パラメータの精度誤差評価装置。
  19. 少なくとも1つのプロセッサと、
    前記少なくとも1つのプロセッサと通信接続されるメモリと、を備え、
    前記メモリには、前記少なくとも1つのプロセッサによって実行可能な命令が記憶され、前記命令は、前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサに、請求項1〜9のいずれか1項に記載の方法を実行させる、
    電子デバイス。
  20. 前記コンピュータに請求項1〜9のいずれか1項に記載の方法を実行させる命令を記憶するための非一時的コンピュータ可読記憶媒体。
  21. コンピュータにおいて、プロセッサにより実行されると、請求項1〜9のいずれか1項に記載の方法を実現することを特徴とするプログラム。
JP2021073973A 2020-07-20 2021-04-26 画像収集デバイスの外部パラメータのキャリブレーション方法、装置、デバイス、記憶媒体、及びプログラム Active JP7060774B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202010699987.6A CN111815719B (zh) 2020-07-20 2020-07-20 图像采集设备的外参数标定方法、装置、设备及存储介质
CN202010699987.6 2020-07-20

Publications (2)

Publication Number Publication Date
JP2021120678A true JP2021120678A (ja) 2021-08-19
JP7060774B2 JP7060774B2 (ja) 2022-04-27

Family

ID=72864958

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021073973A Active JP7060774B2 (ja) 2020-07-20 2021-04-26 画像収集デバイスの外部パラメータのキャリブレーション方法、装置、デバイス、記憶媒体、及びプログラム

Country Status (5)

Country Link
US (1) US20210319588A1 (ja)
EP (1) EP3848901A3 (ja)
JP (1) JP7060774B2 (ja)
KR (1) KR20210056964A (ja)
CN (1) CN111815719B (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112884842B (zh) * 2020-12-25 2024-03-22 杭州迦智科技有限公司 双舵轮零位和采集装置外参同步标定方法及可移动平台
CN112734857B (zh) * 2021-01-08 2021-11-02 香港理工大学深圳研究院 相机内参和相机相对激光雷达外参的标定方法及电子设备
CN113223076B (zh) * 2021-04-07 2024-02-27 东软睿驰汽车技术(沈阳)有限公司 车辆与车载摄像头的坐标系标定方法、设备及存储介质
CN113066135A (zh) * 2021-04-26 2021-07-02 深圳市商汤科技有限公司 图像采集设备的标定方法及装置、电子设备和存储介质
CN113592951A (zh) * 2021-07-14 2021-11-02 阿波罗智联(北京)科技有限公司 车路协同中路侧相机外参标定的方法、装置、电子设备
CN113409405A (zh) * 2021-07-19 2021-09-17 北京百度网讯科技有限公司 评估相机标定位置的方法、装置、设备和存储介质
CN114565681B (zh) * 2022-03-01 2022-11-22 禾多科技(北京)有限公司 一种相机标定方法、装置、设备、介质及产品
CN114705121B (zh) * 2022-03-29 2024-05-14 智道网联科技(北京)有限公司 车辆位姿测量方法、装置及电子设备、存储介质
CN115063489A (zh) * 2022-05-18 2022-09-16 北京高仙智能科技发展有限公司 一种外参标定方法、装置、设备和存储介质
CN115082573B (zh) * 2022-08-19 2023-04-11 小米汽车科技有限公司 参数标定方法、装置、车辆及存储介质
CN116148259B (zh) * 2022-12-28 2024-03-22 广州市斯睿特智能科技有限公司 车辆缺陷定位系统、方法、装置及存储介质
CN115861429B (zh) * 2023-02-28 2023-06-16 深圳思谋信息科技有限公司 图像采集设备标定方法、装置、计算机设备和存储介质
CN116703902B (zh) * 2023-08-03 2023-11-17 深圳卡尔文科技有限公司 一种基于多图像的种植牙综合精度评估调整方法
CN117253380B (zh) * 2023-11-13 2024-03-26 国网天津市电力公司培训中心 一种基于数据融合技术的智慧校园安全管理系统和方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011226931A (ja) * 2010-04-20 2011-11-10 Fujitsu Ten Ltd キャリブレーション方法
JP2014174067A (ja) * 2013-03-12 2014-09-22 Panasonic Corp 車載カメラのキャリブレーション装置
US20190087977A1 (en) * 2016-04-20 2019-03-21 Lg Innotek Co., Ltd. Image acquisition apparatus and method therefor
CN110264520A (zh) * 2019-06-14 2019-09-20 北京百度网讯科技有限公司 车载传感器与车辆位姿关系标定方法、装置、设备和介质
JP2019530261A (ja) * 2016-06-28 2019-10-17 マジック リープ, インコーポレイテッドMagic Leap,Inc. 改良されたカメラ較正システム、標的、およびプロセス

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9357208B2 (en) * 2011-04-25 2016-05-31 Magna Electronics Inc. Method and system for dynamically calibrating vehicular cameras
EP2523163B1 (en) * 2011-05-10 2019-10-16 Harman Becker Automotive Systems GmbH Method and program for calibrating a multicamera system
US9986173B2 (en) * 2014-05-16 2018-05-29 GM Global Technology Operations LLC Surround-view camera system (VPM) online calibration
CN104859563B (zh) * 2015-05-28 2017-07-04 北京汽车股份有限公司 车道偏离预警方法和系统
US10922559B2 (en) * 2016-03-25 2021-02-16 Bendix Commercial Vehicle Systems Llc Automatic surround view homography matrix adjustment, and system and method for calibration thereof
JP6211157B1 (ja) * 2016-09-01 2017-10-11 三菱電機株式会社 キャリブレーション装置およびキャリブレーション方法
CN108805934B (zh) * 2017-04-28 2021-12-28 华为技术有限公司 一种车载摄像机的外部参数标定方法及装置
JP7102115B2 (ja) * 2017-09-15 2022-07-19 キヤノン株式会社 校正方法、校正装置、3次元測定機、3次元視覚測定装置、ロボットのエンドエフェクタ、プログラム、記録媒体
US10621753B2 (en) * 2017-09-29 2020-04-14 Intel IP Corporation Extrinsic calibration of camera systems
CN110246184B (zh) * 2018-03-07 2021-06-11 杭州海康威视数字技术股份有限公司 一种车载相机外参确定方法、装置、设备及系统
CN208314858U (zh) * 2018-03-12 2019-01-01 杭州海康威视数字技术股份有限公司 车载环视系统标定装置
CN109118547A (zh) * 2018-11-01 2019-01-01 百度在线网络技术(北京)有限公司 多摄像头联合标定系统和方法
CN110363819B (zh) * 2019-06-25 2023-03-03 华为技术有限公司 智能汽车中图像采集设备标定的方法和相关设备
CN110414355A (zh) * 2019-06-27 2019-11-05 沈阳工业大学 基于视觉的右方位空停车位与泊车过程中车位线检测方法
CN110599548A (zh) * 2019-09-02 2019-12-20 Oppo广东移动通信有限公司 摄像头的标定方法、装置、相机及计算机可读存储介质
CN110930462B (zh) * 2019-11-27 2023-06-23 驭势科技(浙江)有限公司 车辆摄像头外部参数标定方法、装置、系统及计算机设备
US11288876B2 (en) * 2019-12-13 2022-03-29 Magic Leap, Inc. Enhanced techniques for volumetric stage mapping based on calibration object

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011226931A (ja) * 2010-04-20 2011-11-10 Fujitsu Ten Ltd キャリブレーション方法
JP2014174067A (ja) * 2013-03-12 2014-09-22 Panasonic Corp 車載カメラのキャリブレーション装置
US20190087977A1 (en) * 2016-04-20 2019-03-21 Lg Innotek Co., Ltd. Image acquisition apparatus and method therefor
JP2019530261A (ja) * 2016-06-28 2019-10-17 マジック リープ, インコーポレイテッドMagic Leap,Inc. 改良されたカメラ較正システム、標的、およびプロセス
CN110264520A (zh) * 2019-06-14 2019-09-20 北京百度网讯科技有限公司 车载传感器与车辆位姿关系标定方法、装置、设备和介质

Also Published As

Publication number Publication date
JP7060774B2 (ja) 2022-04-27
CN111815719A (zh) 2020-10-23
KR20210056964A (ko) 2021-05-20
CN111815719B (zh) 2023-12-22
EP3848901A3 (en) 2022-02-09
US20210319588A1 (en) 2021-10-14
EP3848901A2 (en) 2021-07-14

Similar Documents

Publication Publication Date Title
JP7060774B2 (ja) 画像収集デバイスの外部パラメータのキャリブレーション方法、装置、デバイス、記憶媒体、及びプログラム
CN107976669B (zh) 一种确定相机与激光雷达之间的外参数的装置
CN107976668B (zh) 一种确定相机与激光雷达之间的外参数的方法
CN104048674B (zh) 利用不准确的校准靶的机器视觉系统校准
CN111445533B (zh) 一种双目相机标定方法、装置、设备及介质
CN112381889B (zh) 相机检验方法、装置、设备及存储介质
KR102498439B1 (ko) 차량용 카메라의 외부 파라미터 캘리브레이션 방법, 장치, 시스템 및 저장매체
JP2021119507A (ja) 車線の決定方法、車線測位精度の評価方法、車線の決定装置、車線測位精度の評価装置、電子デバイス、コンピュータ可読記憶媒体、及びプログラム
CN111381224B (zh) 激光数据校准方法、装置及移动终端
US11953605B2 (en) Method, device, equipment, and storage medium for determining sensor solution
CN102262508B (zh) 通过鼠标轨迹生成度量工具的方法
CN111708033B (zh) 坐标系标定方法、装置、电子设备及存储介质
CN111323751B (zh) 声源定位方法、装置及存储介质
CN109544643A (zh) 一种摄像机图像校正方法及装置
US20200174585A1 (en) Dial Device and Related Interactive Display Device
CN104463833A (zh) 一种标定一维面阵相机组相机参数的方法和系统
CN109901123A (zh) 传感器标定方法、装置、计算机设备和存储介质
JP2021173745A (ja) 車両が位置する車線を決定する方法、装置、機器、および記憶媒体
JP2021168127A (ja) 情報生成方法、情報生成装置、電子機器、記録媒体およびコンピュータプログラム
WO2023010565A1 (zh) 单目散斑结构光系统的标定方法、装置及终端
JP4855278B2 (ja) カメラパラメータ取得装置
KR20200007922A (ko) 데이터 검출 방법과 장치, 저장 매체 및 터치 장치
CN103000161B (zh) 一种图像显示方法、装置和一种智能手持终端
CN112902961A (zh) 基于机器视觉定位的标定方法、介质、标定设备及系统
CN108038871A (zh) 旋转平台的旋转中心确定方法、装置、服务器和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210426

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220311

R150 Certificate of patent or registration of utility model

Ref document number: 7060774

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150