JP7253745B2 - カメラ較正のための方法、システムおよびコンピュータ可読媒体 - Google Patents

カメラ較正のための方法、システムおよびコンピュータ可読媒体 Download PDF

Info

Publication number
JP7253745B2
JP7253745B2 JP2019568364A JP2019568364A JP7253745B2 JP 7253745 B2 JP7253745 B2 JP 7253745B2 JP 2019568364 A JP2019568364 A JP 2019568364A JP 2019568364 A JP2019568364 A JP 2019568364A JP 7253745 B2 JP7253745 B2 JP 7253745B2
Authority
JP
Japan
Prior art keywords
calibration
pattern
camera
contour
contours
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019568364A
Other languages
English (en)
Other versions
JP2020525894A (ja
JPWO2019008402A5 (ja
Inventor
フェギベル,ゾルタン
バルセギ,クリストフ
Original Assignee
エーアイモーティブ ケーエフティー.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by エーアイモーティブ ケーエフティー. filed Critical エーアイモーティブ ケーエフティー.
Publication of JP2020525894A publication Critical patent/JP2020525894A/ja
Publication of JPWO2019008402A5 publication Critical patent/JPWO2019008402A5/ja
Application granted granted Critical
Publication of JP7253745B2 publication Critical patent/JP7253745B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • G06T5/30Erosion or dilatation, e.g. thinning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/421Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation by analysing segments intersecting the pattern
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/422Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation for representing the structure of the pattern or shape of an object therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20036Morphological image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)

Description

本開示は、マルチパターン較正リグを使用することによるカメラ較正のための方法、システムおよびコンピュータ可読媒体に関する。カメラ較正を適用する非限定的な例は、車両の例であり、より具体的には、組み立て中に自律型車両のカメラを較正することである。
最近では、カメラベースのアプリケーションは、セキュリティシステム、交通監視、ロボット工学、自律型車両などの多数の分野において人気を獲得した。カメラ較正は、マシンビジョンベースのアプリケーションを実行する際に不可欠である。カメラ較正は、レンズの歪みによって影響されることなく、3次元(3D)環境がカメラの2次元(2D)画像平面上にどのように投影されるかを(数学的におよび正確に)決定するために、カメラパラメータを取得するプロセスである。カメラパラメータは、例えば、焦点距離、スキュー、歪みなどであり得る。典型的には、カメラパラメータは、異なる視界からの較正パターンの複数の画像をキャプチャすることによって決定される。その後、較正パターンにおける特定のキーポイントの投影(例えば、チェッカーボードパターンの場合の内側の角)は、キャプチャされた画像上で検出される。その後、較正パターンの投影されたキーポイントは、カメラを較正するための従来のカメラ較正アルゴリズムによって使用される。例えば、狭い視野のカメラ用のOpenCVピンホールカメラモデル(<http://docs.opencv.org/2.4/modules/calib3d/doc/camera_calibration_and_3d_reconstruction.html>で入手可能な、OpenCV Dev Team,2016,Camera Calibration 3D Reconstruction)、カメラ較正用に異なる種類のカメラパラメータを使用する反射屈折カメラおよび魚眼カメラ用のOCam-Calibモデル(<https://sites.google.com/site/scarabotix/ocamcalib-toolbox>で入手可能な、Davide Scaramuzza,2006,OCamCalib:Omnidirectional Camera Calibration Toolbox for Matlab)などのさまざまな数学モデルがある。
上述のように、最も広く使用されるカメラ較正方法は、較正パターンの複数のビューから取得された画像を処理する。しかしながら、そのような画像のシーケンスのキャプチャには時間がかかりすぎる可能性があり、複雑すぎて大量生産工場に収まらない場合がある。カメラ較正アルゴリズムは、通常、較正パターンの約10~30画像を必要とする。写真を撮影した後、複数の画像を取得し、較正パターン(またはカメラ)を複数回適切に再配置するには時間がかかり、カメラ操作者の細心の注意を必要とする。従来のパターン検出アルゴリズムは、キャプチャされた画像内の較正オブジェクトを特定するために、コーナー検出を使用する。これらのパターン検出アルゴリズムは、特定の較正パターンを含む単一のボードのみを検出するように設計されている。さらに、検出が、画像キャプチャプロセス中に存在する照明変動およびノイズに起因して、しばしば失敗する。
カメラの較正のために通常使用される較正パターンの一例は、チェッカーボードである。チェッカーボードのコーナーおよびエッジは、2つの最も重要な特徴である。チェッカーボードのコーナーを検出するために使用される一般的な方法には、Harris&Stephensコーナー検出アルゴリズム、最小単値セグメント同化核(SUSAN)コーナー検出アルゴリズム、X-コーナー検出アルゴリズムなどがある。ハフ変換は、適切な線のセットを識別し、チェッカーボードパターンを特定するために、エッジ上で使用され得る。チェッカーボードを見つけるための別のアプローチは、特定のサイズのチェッカーボードに対するチェッカーボードの画像内の内部穴の数を計算することに基づいている。モルフォロジー演算は、輪郭を検出するために入力画像上に適用されることができ、階層ツリーが輪郭から構築される。チェッカーボードは、所定の数の穴を有する輪郭が見つけられた場合正しく識別されると見なされる。別の広く使用される較正パターンは楕円であるが、コーナーおよび線は、その場合に存在しない。
最小限の人間の介入で動作する自律型車両は、人々および物を運搬するのに使用され得る。典型的には、自律型車両の中には、操作者からの初期入力を必要とするものがあるが、自律型車両のその他の設計は、常に操作者の制御下にある。自律型車両の中には、リモートによって完全に操作され得るものがある。従来の自律型車両は、自律型車両の動作の制御を容易にするために複数のカメラを装備されている。したがって、各カメラは、自律型車両の信頼性の高いかつ安全な動作を確保するために、較正される必要がある。
カメラ較正オブジェクト、好ましくはチェッカーボードパターンの画像上の関心点を決定するための方法が、米国特許第6,768,509B1号に開示されている。較正形状の輪郭はこの目的のために抽出されるが、既知の方法は複数の較正パターンを用いて較正するのに適していない。
マルチカメラシステムの較正は、米国特許出願公開第2016/0073101A1号において既に開示されている。開示されたマルチターゲットカメラの較正は、複数のターゲットの1つ以上の画像をキャプチャする複数のカメラを使用することによって達成される。マルチボードターゲットの画像もキャプチャされ得る。しかしながら、1つのチェッカーボードのみの画像が、一度にキャプチャされる。これらの既知の技術には、他のボードとの相対的な位置により個々のボードを識別することによって、マルチボードターゲットの各チェッカーボードをつなぎ合わせることが含まれる。マルチボードターゲットの各チェッカーボードは、個別にキャプチャされ得、その後、他のチェッカーボードがキャプチャされる間は抑制される。次に、チェッカーボード画像は、それらの相対的な位置に基づいて、較正のためにつなぎ合わされ得る。したがって、既知のシステムは、個々のパターン処理の上述の欠陥を排除しない。
複数の較正パターンが画像内にキャプチャされ、画像内のこれらのパターンの位置が決定されると、カメラは、既知の手段、例えば、
-Zhengyou Zhang(2009);A flexible new technique for camera calibration;IEEE Transactions on Pattern Analysis and Machine Intelligence,22(11),pp.1330-1334;
-Jean-Yves Bouguet(2015);Camera Calibration Toolbox for Matlab;available at:http://www.vision.caltech.edu/bouguetj/calib doc/;
-Scaramuzza, D., Martinelli, A. and Siegwart, R.(2006);A Toolbox for Easy Calibrating Omnidirectional Cameras;Proceedings to IEEE International Conference on Intelligent Robots and Systems(IROS 2006)に開示される既知の手段によって、較正され得る。
しかしながら、従来技術は、特に大量生産での組立中の自律型車両に対する、キャプチャ画像における複数パターンのための迅速かつ信頼性の高い位置決定を可能にすることにより、カメラ較正の速度を改善する技術が不足している。従来技術はまた、カメラ較正中のノイズおよび照明変動に対する堅牢性を改善する技術が不足している。
従来技術における前述の欠陥に対処および改善することが、本発明の目的である。
マルチパターン較正リグを使用することにより、特に自律型車両用の少なくとも1つのカメラを較正することが、本発明の目的である。
複数のパターン化されたパネルを備える較正ターゲットが提供される。較正ターゲットは、パターン化されたパネルを保持するマルチパネル、より正確には、マルチパターン較正リグである。マルチパターンン較正リグは、少なくとも2つのパターン化されたパネルで保持する支持構造を備える。パターン化されたパネルには、較正形状の任意の種類の繰り返し較正パターンが提供される。この文脈における繰り返しは、パターンが規則的な間隔で配置された同一の形状を含むことを意味する。例えば、チェッカーボードパターンを有するパターン化されたパネルは、黒または白の正方形を有し得、円のグリッドを有するパターン化されたパネルは、黒または白の円などを有し得る。自律型車両に取り付けられたカメラは、マルチパターン較正リグの画像をキャプチャする。したがって、同一および/または異なる反復較正パターンを含む複数のパターン化されたパネルが、単一の入力画像内にキャプチャされる。一例において、較正リグは、自律型車両から、例えば、約10メートルの距離に配置され得る。
カメラによってキャプチャされた入力画像は、入力画像のバックグラウンドから較正形状の画像をセグメント化するために、前処理されることが好ましい。例えば、適応しきい値処理技術は、照明における変動を除去することにより、較正形状をセグメント化するために使用され得る。
較正形状はセグメント化され、好ましくは、画像化された較正形状の輪郭を抽出するためにもフィルタリングされる。輪郭の特性に基づいて演繹的要件を満たさない歪んだ輪郭は、除外される。さらに、輪郭は、輪郭の形状、輪郭のサイズなどに基づいてフィルタリングされ得る。例えば、任意の形状の輪郭は、小さな輪郭または大きな輪郭にフィルタリングされ得る。円形の輪郭は、細長い輪郭、部分的に円形の輪郭、または非円形の輪郭などにフィルタリングされ得る。
次に、群は、それらの形状および相対距離(コヒーレントな輪郭)に基づいて、輪郭から構築される。群は、反復パターンの演繹的知識に基づいて形成される。好ましくは、形成された群の一連の境界は、入力画像内の各パターン、さらにパターン化されたパネルの位置(言い換えれば、場所)を識別するために出力される。したがって、マルチパターン較正リグの画像内の各パターンの位置は、それぞれの輪郭グループの位置に対応し、それぞれの輪郭グループの位置として識別される。
好ましい用途では、較正されるカメラまたは複数のカメラは、本質的に車、トラック、任意の二輪車または四輪車、交通制御用に構成されたクワッドコプターまたはドローンなどの、自律型車両のカメラである。自律型車両は、主として運転手ありまたは運転手なしで、人々および物体を輸送する。すなわち、自動運転車は自律型車両であると理解される。また、いくつかの状況において自動運転しているが、他の状況において人間の運転手によって運転されている車は、この文脈では自律型車両であると理解される。
自律型車両はまた、交通渋滞を制御し、歩行者の安全を確保し、自律型車両のナビゲーションパスのくぼみを検出し、誤った車線逸脱について運転手に警告し、本発明に従って運転手が安全かつ効率的に運転することを支援する多くの支援機能を運転手に実行する。
したがって、第1の態様によれば、マルチパターン較正リグを使用することによって、カメラを較正する方法であって、各パターンは反復的であるとともに、較正形状を備え、方法は、
-カメラを用いてマルチパターン較正リグの画像をキャプチャする工程と、
-画像化された較正形状の輪郭をセグメント化する工程と、
-それらの形状および互いからのそれらの距離の類似性に基づいてコヒーレントな輪郭の群を構築する工程と、
-輪郭の群に基づいて、画像内の各パターンの位置を識別する工程と、含む方法が提供される。
好ましくは、形状の類似性を判定する工程は、
-輪郭の領域の大きさを計算する工程と、
-1つの輪郭の領域の大きさを別の輪郭の領域の大きさと比較する工程と、
領域の大きさのより小さい方の領域の大きさが他の領域の大きさの所定の割合よりも大きい場合、言い換えると、2つの領域の大きさの間の相対的な差異が所定の制限を下回っている場合、領域の大きさは同じであると判定する工程と、により、それらのそれぞれの面積の類似性を判定する工程と、を含む。
もちろん、領域の大きさの間の相対的な差異の制限は、所定の用途のための任意の適した方法で定義され得る。領域の大きさの間の相対的な差異に関して所定の制限を適用するこのような方法は、上記の最後の特徴の意味の範囲内であると理解される。これは輪郭の分類のための新規のアプローチであり、我々の経験によれば、従来技術のアプローチよりもはるかに高い効率および堅牢性を有する。
好ましくは、少なくとも以下の条件が満たされている場合:
-2つの領域の大きさのより小さい領域の大きさが他の面積の50%より大きく、
-2つの半径のより小さい半径が他の半径の50%より大きく、
-輪郭の最も近い点の距離が2つの半径のうちより大きい半径の150%未満である場合、それぞれがそれぞれの領域の大きさおよびそれぞれの半径を有する包含円を有する、任意の2つの輪郭は同じ群に属する。我々の実験は、このような一連の条件がコヒーレントな輪郭を十分かつ適切にグループ化することを示した。状況(例えば、照明、歪み、使用されるパターンのタイプ)に応じて、より狭い条件さえもこの目的を達成するのに適し得るため、そのようなより厳しい条件は上記の範囲内であり、それにより範囲内であると考えられる。もちろん、2つの比較された領域の大きさまたは2つの比較された半径が同じサイズである場合、上記の各条件も満たされる。つまり、等しいサイズの場合、2つのうちのいずれかが「より小さいサイズ」または「より大きいサイズ」として見なされ得る。さらに、上記の特徴における相対的な差異は、他の適切な方法において定義されることができ、任意の適切な所定の制限を有することができる。面積および/または半径および/または距離に関する相対的な差異がグループ化のための所定の基準である場合、技術的解決策は本発明の範囲内である。
好ましくは、少なくとも以下の条件が満たされている場合:
-2つの面積のより小さい面積が他の面積の50%より大きく、
-2つの半径のより小さい半径が他の半径の50%より大きく、
-輪郭の最も近い点の距離が2つの半径のうちより大きい半径の150%未満である場合、それぞれがそれぞれの面積およびそれぞれの半径を有する囲み円を有する、任意の2つの輪郭は同じ群に属する。我々の実験は、このような一連の条件がコヒーレントな輪郭を十分かつ適切にグループ化することを示した。状況(例えば、照明、歪み、使用されるパターンのタイプ)に応じて、より狭い条件さえもこの目的を達成するのに適し得るため、そのようなより厳しい条件は上記の範囲内であり、それにより範囲内であると考えられる。もちろん、2つの比較された面積または2つの比較された半径が同じサイズである場合、上記の各条件も満たされる。つまり、等しいサイズの場合、2つのうちのいずれかが「より小さいサイズ」または「より大きいサイズ」として見なされ得る。さらに、上記の特徴における相対的な差異は、他の適切な方法において定義されることができ、任意の適切な所定の制限を有することができる。面積および/または半径および/または距離に関する相対的な差異がグループ化のための所定の基準である場合、技術的解決策は本発明の範囲内である。
第2の態様によれば、少なくとも1つのカメラおよびマルチパターン較正リグを備えるカメラ較正システムが提供され、各パターンは反復的であるとともに、較正形状を備え、システムは少なくとも1つのカメラに接続され、上記方法の工程を実行するように適合されたコンピュータデバイスも含む。コンピュータデバイスは、任意の考えられるタイプであり得、カメラに統合され得るか、別個のユニットであり得るか、またはネットワークなどで配布され得る。
第3の態様によれば、マルチパターン較正リグを使用してカメラを較正するための非一時的なコンピュータ可読媒体が提供され、各パターンは反復的であるとともに、較正形状を備え、コンピュータ可読媒体は、プロセッサ上で実行される場合、上記方法の工程を実行する、その上に格納された命令を含む。
本発明は相当の利点を有する。本発明は、単一の画像でカメラによってキャプチャされる単一の較正ターゲットのみを必要とする。較正ターゲットの正確な予め定義された位置決めの要件も、較正されているカメラを移動するための回転機械の要件もない。したがって、この方法は、較正ターゲットまたはカメラを再配置または回転させる必要がないため、カメラ較正システムは、位置ずれが少ない傾向にある。さらに、本発明は、較正ターゲットの較正パターンの相対位置および向きの正確な知識を必要としない。画像中にキャプチャされた各較正パターンは、それらのそれぞれの位置および向きに関係なく検出され、処理される。カメラ較正システムは、複数の較正ターゲットを使用する必要なく、カメラの単一の視野内に複数の較正パターンを含めるという点で実質的に柔軟である。したがって、本発明は、例えば、自動車製造業者向けに、生産時間の削減および生産エラーの最小化に役立つ。
本発明の好ましい実施形態は、自動車組立工場のコンベヤーベルトシステム上での自律型自動車の組み立てであると考えられる。自律型自動車は、複数の場所、例えば、ヘッドライトまたはテールライトの近く、ドアの取っ手の近く、自律型自動車の屋根の上に設置されたカメラを備える。2つのマルチパターン較正リグは、自律型自動車から約10メートル離れて配置され得る。一方のマルチパターン較正リグは、自律型自動車の前側に面して配置され、他方のマルチパターン較正リグは、自律型自動車の後側に面して配置される。自律型自動車がコンベアベルトシステム上で組み立てられている間、カメラはマルチパターン較正リグの画像をキャプチャする。画像は、画像内の背景(または他の部分)、例えば、マルチパターン較正リグのパターン化されたパネルに関連しない部分から較正形状をセグメント化するために、前処理されることが好ましい。較正形状の輪郭は、セグメント化およびフィルタリングされ、コヒーレントな輪郭は、それらの形状および/または位置に基づいて一緒にグループ化される。各パターンの位置、ひいては、それぞれのパネルの位置は、輪郭グループに基づいて識別され、それによって自律型自動車の各カメラを較正する。本発明は、組立段階の間に自律型自動車のカメラを時間効率よく較正することを可能にし、それにより大量生産に使用されるのに適したものにする。
さらに好ましい実施形態は、従属請求項に記載および定義されている。
フロー図として、本発明に係る、自律型車両の少なくとも1つのカメラを較正する方法の実施形態11を示す。 画像化されたパターン化パネルをスクリーンショット図として示すコンピュータプログラム製品のユーザインターフェースの実施形態12を示す。 本発明の機能を示す実験に関連する、較正されるカメラによってキャプチャされる入力画像の前処理段階のグラフ表示の実施形態13を示す。 本発明の機能を示す実験に関連する、ブリッジピクセルのグラフ表示を用いた実施形態14を示す。 スクリーンショット図として、本発明に係る、複数のパターン化されたパネルを含むマルチパターン較正リグを示すコンピュータプログラム製品のユーザインターフェースの実施形態15を示す。 スクリーンショット図として、本発明に係る、パターン化されたパネルのフィルタリングされた輪郭を示すコンピュータプログラム製品のユーザインターフェースの実施形態16を示す。 スクリーンショット図として、本発明に係る、輪郭グループを示すコンピュータプログラム製品のユーザインターフェースの実施形態17を示す。 スクリーンショット図として、本発明に係る、マルチパターン較正リグ上の各パターン化されたパネルの識別された位置を示すコンピュータプログラム製品のユーザインターフェースの実施形態18を示す。 ブロック図として、本発明に係るカメラ較正システムの実施形態20を示す。 本発明に係るカメラ較正システムの実施形態21の概略図を示す。 スクリーンショット図として、本発明に係る自律型車両のカメラの較正を示すコンピュータプログラム製品のユーザインターフェースの実施形態30を示す。 フロー図として、本発明に係る、マルチパターン較正リグを用いて自律型車両のカメラを較正するためのより精巧な方法の実施形態40を示す。 フロー図として、本発明に係る、マルチパターン較正リグを用いて自律型車両のカメラを較正するためのより精巧な方法の実施形態40を示す。 本発明に係る、自律型車両のダッシュボード上に表示される異なるカメラ較正段階を備えたより精巧なカメラ較正システムの別の実施形態50を示す。 スクリーンショット図として、本発明に係る、自律型車両の複数のカメラの較正を示すコンピュータプログラム製品のユーザインターフェースの実施形態60を示す。 本発明に係る、複数のパターン化されたパネルを含むマルチパターン較正リグの実施形態71を示す。 スクリーンショット図として、本発明に係る、パターン化されたパネルを含むマルチパターン較正リグを示すコンピュータプログラム製品のユーザインターフェースの実施形態72を示す。 本発明に係る、マルチパターン較正リグの支持構造の実施形態81を示す。 本発明に係る、支持構造のボールジョイントマウントの実施形態82を示す。 本発明に係る、パターン化されたパネルを保持する支持構造のボールジョイントマウントの実施形態83を示す。 本発明に係る、較正パターン91~93の異なる実施形態を示す。 本発明に係る、較正パターン91~93の異なる実施形態を示す。 本発明に係る、較正パターン91~93の異なる実施形態を示す。
本開示は、カメラを較正するための非一時的なコンピュータ可読媒体上のカメラ較正方法、システム、およびコンピュータプログラム製品を提供する。以下では、非限定的な例として、自律型車両の少なくとも1台のカメラの較正が記載される。カメラ較正は、マルチパターン較正リグと、自律型車両に取り付けられた1つ以上のカメラとを備える。マルチパターン較正リグは、自律型車両のカメラを較正するために使用される複数のパターン化されたパネルを備える。実装例では、自動組立工場内のコンベヤーベルトシステム上で自律型車両を組み立てる間、カメラは較正される。較正されるカメラは、パターン化されたパネルを保持するマルチパターン較正リグの画像をキャプチャする。画像は、画像の背景(または他の部分)から較正形状をセグメント化するために前処理されることが好ましい。画像化された較正形状の輪郭がセグメント化される。好ましくは、輪郭も所定のフィルタリング基準に基づいてフィルタリングされる。輪郭は、それらの形状の類似性およびそれらの互いからの距離に基づいてグループ化される。マルチパターン較正リグ上の各パターン(および各パターン化されたパネル)の位置は、輪郭の群に基づいて識別される。本明細書に記載の本発明の原理によれば、工場での用途に適した時間効率的かつ強固なカメラ較正プロセスが達成される。
図1Aは、本発明に係る、自律型車両の少なくとも1つのカメラを較正するための方法の実施形態11をフロー図として示す。本方法は、本明細書の他の部分において説明されるように、例えば図2A、図2B、または図5における実施形態20、21、または50と同一または同様のシステムにおいて実施され得る。本方法のエンドユーザは、それぞれ、図1E、1F、1G、1H、3、6および7Bにおける実施形態15、16、17、18、30、60、および72を用いて開示されたものと同一または同様のユーザインターフェースを使用することができる。
自律型車両のカメラを較正する方法は、複数のパターン化されたパネルを含むマルチパターン較正リグを発明的な方法で含む。一例において、マルチパターン較正リグは、少なくとも2つのパターン化されたパネルを備える。パターン化されたパネルには、較正形状を含む較正パターンが設けられる。較正パターンは、明確に定義された繰り返しパターンである。較正形状は、類似の形状および幾何学的に十分に整列されたオブジェクトの結合体を指す場合がある。較正形状は、例えば、正方形、円、楕円などであり得る。一例では、較正パターンは、較正形状として黒い正方形または白い正方形を含むチェッカーボードパターンであり得る。別の例において、較正パターンは、特定の形状、サイズ、または色の円で作製された較正形状を含む円のグリッドであり得る。
工程110において、カメラはマルチパターン較正リグの画像をキャプチャする。キャプチャされた画像は、カメラの較正を実行するための入力画像として使用され得る。カメラは、例えば、ピンホールカメラ、デジタルカメラ、ビデオカメラ、リモートカメラ、口紅型カメラ、CMOSセンサー付きカメラ、CCD付きカメラ、短距離カメラ、長距離カメラ、および/または魚眼カメラなどであり得る。一実施形態において、カメラは、マルチパターン較正リグの画像をキャプチャするために、例えば、自律型車両の前面、後面、上面、および/または底面上に配置され得る。例えば、カメラは、ヘッドライトまたはテールライトの近く、車両移動の方向に面するダッシュボード上、自律型車両の屋根またはフード上、自律型車両の運転者に面するダッシュボード、運転者の座席、バックミラーの近く、自律型車両の1つまたは各ドアなどに配置され得る。
一実施形態において、複数のマルチパターン較正リグの画像を同時にキャプチャし、すべてのカメラを同時に較正するために、自律型車両における複数の場所に複数のカメラが設置され得る。実装例では、自律型車両を組み立てるために使用されるコンベヤーベルトシステム内の異なる場所に配置された複数のマルチパターン較正リグがあり得る。例えば、マルチパターン較正リグは、カメラを含む自律型車両から約10メートル離れて配置され得る。
任意の工程111において、入力画像は、入力画像の背景(または残りの部分)から撮像された較正形状、例えば正方形、円などをセグメント化するために前処理されることが好ましい。画像化が、画像化された較正形状の自動セグメント化をすでに含む場合、そのような前処理は必要ではない。入力画像内の較正形状が識別され、それにより、入力画像の背景(または他の部分)からの較正形状のセグメント化が容易になる。一実施形態において、較正形状は、較正形状の形状および/またはアラインメントの演繹的知識に基づいてクラスター化される。マルチパターン較正リグ内に保持される各パターン化されたパネルの較正パターンは、背景および前景を有する。背景は、前景の周囲に境界線を形成するように伸長する。前景は、予め定義されたジオメトリおよび予め定義された相互の相対位置を持つ類似形状のオブジェクトである較正形状で構成される。例えば、較正パターンが正方形の較正形状を含む場合、前景は正方形の形状によって形成され、背景は正方形の形状の周囲の境界を形成する画像内の他のコンポーネントによって形成される。背景から(または画像の他の残りの部分)からの画像化された較正形状のセグメント化は、好ましくは、背景(または画像の他の残りの部分)が一方の2進値(例えば、黒)で表されるとともに、画像化された較正形状が他方の2進値(例えば、白)によって表される2値画像の生成を含む。
工程112において、画像化された較正形状の輪郭のセグメント化および任意のフィルタリングも実行される。較正形状を含む前景が背景から一旦セグメント化されると、輪郭の特性が測定されることが好ましい。輪郭の特性は、例えば、領域の大きさ、別の輪郭からの距離、較正形状の推定される囲み半径に基づいて測定される。輪郭特性は、較正形状の演繹的な知識に基づいて輪郭の特性および特徴を画定する。輪郭特性は、例えば、輪郭領域、凸包の輪郭境界、輪郭形状などであり得る。測定された輪郭特性は、輪郭をフィルタリングするために使用される。例えば、輪郭は輪郭の形状が演繹的な知識と比較して円形すぎると測定される場合、輪郭は歪んでいると見なされ、輪郭セットから除外される。
工程113において、群は、各輪郭の形状および位置(すなわち相対距離)に基づいて、コヒーレントな輪郭から構築される。コヒーレントな輪郭は、マルチパターン較正リグ上に配置される各パターン化されたパネルの較正パターンの演繹的な知識に基づいて、一緒にグループ化される。例えば、2つの輪郭は、輪郭が形状および/またはサイズにおいて類似している場合、輪郭の群に属し、輪郭間の相対的な位置または距離は、両方の輪郭が密接に配置されることを示唆する。
実装例では、最近傍探索アルゴリズムが、コヒーレントな輪郭をグループ化するために使用され得る。予め定義された数の画像化された較正形状は、画像化された較正パターンの演繹的な知識に基づいて、較正パターンを構築するために使用される。較正形状の予め定義された数を有する、または予め定義された数の±10%の公差を有する輪郭の群が最近傍探索アルゴリズムを使用して識別される場合、その群は有効な群、すなわち、較正ターゲットとして判定される。輪郭の群のための境界ポリゴンは、群の凸包を取ることによって計算される。その結果、境界ポリゴンの形状内の凸包は、入力画像内の異なる較正ターゲットを表すために、コヒーレントな輪郭の各セットを囲む。
工程114において、画像内の各パターンの位置(および各パターン化されたパネルの位置)が輪郭の群に基づいて識別され、これによりマルチパターン較正リグ上のパターン/パネルの位置が計算され得る。輪郭の群の各セットを囲む凸包は、マルチパターン較正リグ上に配置されるパターン化されたパネルによって形成される画像化された較正ターゲットを表す。マルチパターン較正リグ上の各パターン(またはパターン化されたパネル)の位置が、入力画像内で一旦正確に識別されると、すべての必要な情報が既知の較正方法のいずれかに従ってカメラを較正するために存在する。
実施形態11の任意の特徴は、本発明に従う他の実施形態12、13、14、15、16、17、18、20、21、30、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図1Bは、スクリーンショット図として、パターン化されたパネル122を示すコンピュータプログラム製品のユーザインターフェース121の実施形態12を示す。図示された説明的な実装では、チェッカーボード較正パターン123で作製された1つのパターン化されたパネル122は、自律型車両のカメラを較正するために使用される。較正パターン123は、較正形状124、例えば、ホワイトボード125上の黒い正方形を含む。較正される自律型車両のカメラは、パターン化されたパネル122の画像126をキャプチャする。ユーザインターフェース121内に示されるキャプチャされた画像126は、カメラを較正するための入力画像126として使用される。図1Bに示されるように、カメラによってキャプチャされた画像126は、広いパノラマ画像または半球画像を作成する魚眼歪みを有する。較正パターン123の画像126は、例えば、遠近効果、パターン化されたパネル122の位置および/または鋭角、魚眼カメラのレンズなどに起因して、歪み得る。この例において、入力画像126の背景127は、ホワイトボード125を取り囲む環境とともにホワイトボード125を含む。画像126の前景128は、ホワイトボード125上の同様のサイズの画像化された較正形状124(すなわち、黒い正方形)によって形成される。較正形状124は、魚眼歪みに起因して歪んで見えるが、較正パターン123を含む前景128は、隣接する各較正形状124が形状およびサイズにおいて類似しているため、カメラによって正確にキャプチャされる。
実施形態12の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、30、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図1Cは、本発明の機能を示す実験に関連する入力画像126の前処理段階のグラフ表示の実施形態13を示す。画像131は、図1Bに示されるパターン化されたパネル122の一部の拡大図である。一実施形態において、形態学的収縮および膨張操作は、互いに接触する較正形状124間の小さな接続を分離するために実行される。画像132は、形態学的膨張を使用することにより前処理されたパターン化されたパネル122の部分を示す。形態学的収縮および膨張操作は、較正形状124から生成された輪郭が破損されないことを保証する。一実施形態において、形態学的操作は、所定のウィンドウサイズで実行される。例えば、小さなカーネルは、隣接する較正形状124間のすべての接続を切断しないかもしれないが、大きなカーネルは、入力画像126内の小さな較正形状124を破壊するかもしれない。
一実施形態において、適応しきい値処理は、入力画像126の形態学的強調の後に実行される。画像133は、適応しきい値処理を使用することにより前処理されたパターン化パネル122の部分を示す。一実施形態において、ガウス加重平均アルゴリズムは、入力画像126内に存在する照明における変動の影響を除去するために、適応しきい値処理を実行するために使用される。一実施形態において、適応しきい値処理のためのウィンドウサイズは、予め決定されている。ウィンドウサイズは、較正形状124内に偽りの穴が現れるのを避けるために、単一の較正形状124の最大サイズに従って設定されることが好ましい。
一実施形態において、形態学的処理または画像処理処理の別のセットは、スパーおよび/またはブリッジピクセルを除去するために、入力画像126に適用される。形態学的操作は、較正形状124間の任意の残りの接続を切断するために実行される。画像134は、入力画像126内に存在する任意のブリッジピクセルを除去した後のパターン化されたパネル122の一部を示す。一実施形態において、ピクセルは、ピクセルが隣接ピクセルを1つしか有しない場合、スパーと見なされる。一実施形態において、ピクセルは、ピクセルの周囲に設定されたおよび未設定の隣接ピクセルの遷移が少なくとも4つある場合、ブリッジピクセルと見なされる。
実施形態13の任意の特徴は、本発明に従う他の実施形態11、12、14、15、16、17、18、20、21、30、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図1Dは、本発明の機能を示す実験に関連する入力画像126内に存在するブリッジピクセル142のグラフ表示を用いた実施形態14を示す。ブリッジピクセル142は、図1Dに示されるように半径を変えることにより定義され得る。一例において、図1Dに示されるループ143を検討する。ピクセル144から時計回りに移動すると、ピクセル144の周囲に設定されたおよび未設定の隣接ピクセルの4つの遷移がある。別の例において、図1Dに示される別のループ145を検討する。ピクセル146から時計回りに移動すると、ピクセル146の周囲に設定されたおよび未設定の隣接ピクセルの4つの遷移が再びある。したがって、ピクセル142は、両方のループに従うブリッジピクセルであるため、画像化された較正形状間の任意の残りの接続を切断するために検出および削除され得る。
実施形態14の任意の特徴は、本発明に従う他の実施形態11、12、13、15、16、17、18、20、21、30、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図1Eは、本発明に係る、複数のパターン化されたパネル153を保持するマルチパターン較正リグ152を示すコンピュータプログラム製品のユーザインターフェース151の実施形態15を示す。実装例では、自律型車両のフード上に配置されたカメラは、自律型車両から約15メートル離れて配置されたマルチパターン較正リグ152の入力画像154をキャプチャする。示された例では、マルチパターン較正リグ152は、ホワイトボード背景157上の較正形状156として黒い正方形を含むチェッカーボード較正パターン155の13のパターン化されたパネルを含む。また、左下側にさらにチェッカーボード様パターンがさらにあるが、不完全なターゲットパターンとして、本方法によって無視される。
実施形態15の任意の特徴は、本発明に従う他の実施形態11、12、13、14、16、17、18、20、21、30、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図1Fは、スクリーンショット図として、本発明に係る、パターン化されたパネル153の輪郭162のフィルタリングされたセットを示すコンピュータプログラム製品のユーザインターフェース161の実施形態16を示す。入力画像154をキャプチャしている間の輝度特性における変動にもかかわらず、各較正形状156は、それぞれの輪郭162にフィルタリングされる。各パターン化されたパネル153に対応して生成された輪郭162は、図1Eに示される入力画像154に対応して示される。
実施形態16の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、17、18、20、21、30、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図1Gは、スクリーンショット図としての本発明に係る、輪郭グループ172を示すコンピュータプログラム製品のユーザインターフェース171の実施形態17を示す。一実施形態において、最近傍探索アルゴリズムが、輪郭群172を構築するために使用される。一実施形態において、輪郭162は、例えば、較正パターン155の幾何学的特性、演繹的な知識などに基づいてグループ化される。輪郭群172は、所定数の同様の輪郭162を含む群から形成され、左下側におけるチェッカーボード様パターンは除去される。一実施形態において、輪郭162間の類似性の測定は、例えば、面積、距離、較正形状156の推定される囲み半径などに基づいている。
実施形態17の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、18、20、21、30、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図1Hは、スクリーンショット図として、本発明に係る、マルチパターン較正リグ152上の各パターン化されたパネル153の識別された位置182を示すコンピュータプログラム製品のユーザインターフェース181の実施形態18を示す。輪郭群172が決定された後、各パターンの位置182(および各パターン化されたパネル153の位置)は、輪郭群172の凸包183の位置によって画定される。各パターン化されたパネル153の位置182は、各パターン化されたパネル153の較正パターン155の周囲の境界の形状における凸包183によって表される。図1Hに示されるように、パターン化されたパネル153のそれぞれは、ノイズおよび/または照明条件における変化によって引き起こされるいかなる変動にもかかわらず、識別される。
実施形態18の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、20、21、30、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図2Aは、ブロック図として、本発明に係る、カメラ較正システム200の実施形態20を示す。カメラ較正システム200は、複数のパターン化されたパネル153を有するマルチパターン較正リグ152と、自律型車両内に設置されたカメラ210とを備える。一実施形態において、自律型車両は、自律型車両の異なる場所に配置された複数のカメラを備え得るが、簡潔にするために、1つのカメラ210のみが図2Aにおいて示される。図示されるカメラ210は、画像キャプチャユニット220を有し、前処理ユニット230、セグメント化およびフィルタリングユニット240、グループ化ユニット250、および識別ユニット260を有するコンピュータデバイスに接続されている。もちろん、コンピュータデバイスまたはその特定のユニットは、また、ソフトウェアとしてまたはハードウェア/ソフトウェア製品として実装され得、それらはまた、例えば、クラウド上またはネットワーク上で、分散方式で実装され得る。
画像キャプチャユニット220は、パターン化されたパネル153を含むマルチパターン較正リグ152の画像をキャプチャするように構成される。キャプチャされた画像は、カメラ210の較正を実行するための入力画像154として使用される。各パターン化されたパネル153は、自律型車両のカメラ210を較正するために使用され得るチェッカーボードパターンなどの較正パターン155を有する。較正形状156、例えば、黒または白の正方形を含む較正パターン155は、入力画像154の前景を形成する。入力画像154中の残りのオブジェクトは背景を形成する。前処理ユニット230は、背景から画像化された較正形状156をセグメント化するために、画像を前処理する。
セグメント化およびフィルタリングユニット240は、画像化された較正形状156の輪郭162をセグメント化およびフィルタリングする。一例において、異なる較正形状156に関連付けられた輪郭162は、領域の大きさ、境界などによって画定され得る。グループ化ユニット250は、それらの形状および/または相対距離に基づいて、コヒーレントな輪郭162から群を構築する。一例において、グループ化ユニット250は、輪郭群172を構築するために最近傍探索アルゴリズムを使用し得る。識別ユニット260は、輪郭群172に基づいて、画像内のパターンの位置182(および、マルチパターン較正リグ152上に存在するパターン化されたパネル153の位置)を識別する。各輪郭群172は、画像内の各パターンの位置182を識別するために使用される凸包を用いて表される。
本明細書の説明は、カメラ210の較正を実行するためのユニット220、230、240、250、および260を備えるカメラ較正システム200を参照して提供されるが、別の実施形態において、カメラ較正システム200は、ユニット220、230、240、250、および260と協働する処理ユニット(図示せず)によって、またはカメラ210の較正を実行するためのスタンドアロン処理ユニット(図示せず)によって実装され得ると理解されるべきである。
実施形態20の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、21、30、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図2Bは、本発明に係る、カメラ較正システム200の実施形態21を示す。カメラ較正システム200は、複数のカメラ211、212、213、および214と、複数のマルチパターン較正リグ152-1、152-2、152-3、および152-4とを備える自律型車両290を備える。実装例では、自律型車両290は、自動車組立工場のコンベヤーベルト系292上で組み立てられる。
いくつかの実施形態において、カメラ較正システム200は、通信ネットワーク(図示せず)を介して自律型車両290に通信可能に結合されたクラウドサーバネットワーク(図示せず)を備える。入出力デバイスを含むクラウドサーバーネットワークは、通常、モニター(ディスプレイ)、キーボード、マウス、および/またはタッチスクリーンを備える。しかしながら、通常、一度に複数のコンピュータサーバーが使用されているため、一部のコンピュータには、コンピュータ自体のみが組み込まれ、スクリーンおよびキーボードは組み込まれない。これらのタイプのコンピュータは、典型的には、本発明のカメラ較正システム200によって使用されるクラウドネットワークを実現するために使用される、サーバーファーム内に保存される。クラウドサーバーネットワークは、MicrosoftおよびAmazonおよびHP(ヒューレット-パッカード)などの既知のベンダーから個別のソリューションとして購入され得る。クラウドサーバーネットワークは通常、Unix、Microsoft、iOS、Linux(登録商標)または任意の他の既知のオペレーティングシステムを実行し、通常はマイクロプロセッサ、メモリ、SSDフラッシュまたはハードドライブなどのデータストレージ手段を備える。クラウドアーキテクチャの応答性を改善するために、データは、SSD、つまりフラッシュストレージ上に完全または部分的に、優先的に保存される。このコンポーネントは、MicrosoftまたはAmazonなどの既存のクラウドプロバイダーから選択/構成されているか、MicrosoftまたはAmazonなどの既存のクラウドネットワークオペレーターが、Pure Storage、EMC、Nimbleストレージなどのフラッシュベースのクラウドストレージオペレーターにすべてのデータを保存するように構成される。クラウドサーバーネットワークのバックボーンストレージとしてフラッシュを使用することは、マルチパターン較正リグ152-1、152-2、152-3および152-4を使用する自律型車両290のカメラ211、212、213および214を較正するためのカメラ較正システム200を操作するために必要な、および/または好ましい低減されたレイテンシーに起因するその高コストにもかかわらず好ましい。
自律型車両290は、本質的に無人車である。他の例において、自律型車両290は、トラック、任意の二輪車または四輪車、クワッドコプターまたはドローンなどであり得る。自律車両290は、交通における人々および物体を輸送するために使用され得る。本発明によれば、自律型車両290は、交通渋滞に合わせて運転を調整し、歩行者の安全を確保し、自律型車両290のナビゲーション経路内くぼみを検出し、車線逸脱などについて運転者に警告する点において、運転者を支援することもできる。
カメラ211、212、213、および214は、例えば、自律型車両290の移動の方向に面する自律型車両290のフード上および自律型車両290の移動の方向に対向する方向に面する自律型車両290の屋根上に配置される。各マルチパターン較正リグ152-1、152-2、152-3および152-4は、それぞれ自律型車両290のカメラ211、212、213および214の前に配置され、その結果、マルチパターン較正リグ152-1、152-2、152-3および152-4は、それぞれのカメラ211、212、213および214に対向し、マルチパターン較正リグ152-1、152-2、152-3および152-4のパターン化されたパネル153-1、153-2、153-3および153-4は、それぞれのカメラ211、212、213および214の視界をカバーする。
実施形態21の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、30、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図3は、スクリーンショット図として、本発明に係る、自律型車両290のカメラ210の較正を示すカメラ較正コンピュータプログラム製品のユーザインターフェース300の実施形態30を示す。非一時的なコンピュータ可読媒体内に保存されたカメラ較正コンピュータプログラム製品は、較正形状156の繰り返しパターンを含むマルチパターン較正リグ152を用いてカメラ210を較正するように構成される。一例において、ユーザインターフェース300は、自律型車両290のダッシュボード上に配置された表示画面上に表示される。実施形態30のユーザインターフェース300は、それぞれ実施形態20、21、および50の図2A、図2B、および図5に記載されているものと同一または類似のシステム200に関する。
コンピュータプログラム製品は、自律型車両290上またはネットワークホスト上(図示せず)のいずれかの非一時的記憶媒体に格納されるか、または2つの間に分配されるため、いくつかの部分は自律型車両290に存在し、コンピュータプログラム製品のいくつかの部分は、ネットワークホスト上に存在する。本発明における本発明における自律型車両290とネットワークホストとの間の通信のために使用されるネットワークは、無線インターネットまたは電話ネットワークであり、通常はUMTS-(ユニバーサル移動通信システム)、GSM(登録商標)-(移動通信のためのグローバルシステム)、GPRS-(汎用パケット無線サービス)、CDMA-(コード分割多重アクセス)、3G-、4G-、Wi-Fiおよび/またはWCDMA(登録商標)(広帯域符号分割多元接続)-ネットワークなどのセルラーネットワークである。コンピュータプログラム製品は、自律型車両290のカメラ210を較正するように構成されたカメラソフトウェアを備える。実装例では、自律型車両290のダッシュボード上に配置されたコンピューティングデバイスは、ユーザがカメラ210の較正に関係する異なる段階を見ることを可能にするインストールされたアプリケーションを有するように構成される。アプリケーションユーザインターフェースは、前述のユーザインターフェース300であり得る。
カメラ210の較正に関与する異なるステージ302、304、306、および308が図3に示されている。ステージ302において、カメラ210によってキャプチャされた入力画像154は、ユーザインターフェース151内に示される。入力画像154は、較正パターン155を含むパターン化されたパネル153を保持するマルチパターン較正リグ152のものである。入力画像154は、入力画像154の背景から画像化された較正形状156をセグメント化するために前処理される。較正形状156は、白いチェッカーボードのパターン化されたパネル153上の黒い正方形によって形成される。ステージ304において、画像化された較正形状156の輪郭162は、セグメント化されフィルタリングされる。ステージ306において、群172は、各輪郭162の形状および位置に基づいてコヒーレントな輪郭162から構築される。ステージ308において、各パターンの位置182は、輪郭群172に基づいて識別される。一実施形態において、各パターンの位置182は、輪郭群172を囲む凸包183によって識別される。
実施形態30の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、40、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図4A~4Bは、フロー図としての本発明に係る、マルチパターン較正リグ152を用いて自律型車両290のカメラ210を較正するためのより精巧な方法の実施形態40を示す。本方法は、明細書の他の部分で説明するように、例えば図2A、図2B、または図5における実施形態20、21、または50と同一または類似のシステムにおいて実施され得る。本方法のエンドユーザは、それぞれ図1E、1F、1G、1H、3、6、および7Bにおける実施形態15、16、17、18、30、60、および72で開示されたものと同一または類似のユーザインターフェースを使用することができる。
工程402において、入力画像154は、自律型車両290のカメラ210によってキャプチャされる。入力画像154は、マルチパターン較正リグ152上に配置された各パターン化されたパネル153の画像を含む。工程404において、少なくとも2つの較正パターン化されたパネル153を保持する支持構造を含むマルチパターン較正リグ152が使用される。例406において、パターン化されたパネル153の較正パターン155は、例えば、チェッカーボードパターン、円のグリッドなどであり得る。一例において、入力画像154は、グレースケールまたはいくつかの量のノイズと一緒に黒および白の正方形を含むチェッカーボードパターンの2値画像である
工程408において、入力画像154は前処理される。工程412において、画像化された較正形状156を含む入力画像154が入力される。工程414において、形態学的処理は、各較正形状156のサイズを縮小するために使用される。較正形状156のサイズの縮小は、隣接する較正形状156間の接続の切断を促進する。工程416において、適応しきい値処理などのしきい値処理は、入力画像154内に存在する照明における変動を除去するために、実行される。画像化された較正形状156は、しきい値処理によってさらにセグメント化される。工程418において、さらなる形態学的または画像処理操作の別のセットは、画像化された較正形状156間のいかなる残りの接続を除去するために、入力画像154に適用される。上述の形態学的処理およびしきい値処理を適用することにより、画像化された各較正形状156は、個々の形状として入力画像154内で検出される。この例において、較正形状156は、パターン化されたパネル153上の白い正方形として検出される。
図4Bに示されるように、工程420において、前処理された画像は、輪郭162を生成するためにセグメント化され、フィルタリングされる。工程422において、セグメント化された較正形状156を含む入力画像154が使用される。工程424において、較正形状156の輪郭162が抽出される。工程426において、輪郭162の特性が測定される。工程428において、輪郭は、輪郭特性および/または較正形状156の演繹的な知識に基づいてフィルタリングされる。一例において、較正形状ノイズの存在は、偽の輪郭および/または歪んだ輪郭を生成する。輪郭は、輪郭特性および/または較正形状156の演繹的な知識と一致しない偽の輪郭および/または歪んだ輪郭を除去するために、フィルタリングされる。入力画像154上に見られる輪郭のセット162を含む画像が、前処理された画像のセグメント化およびフィルタリングに基づいて、生成される。
工程432において、輪郭群172は、コヒーレント輪郭162のセットおよび/または対応する較正パターン155の演繹的な知識から構築される。工程434において、フィルタリングされた輪郭リストは、輪郭群172を構築するために使用される。一例において、隣接する輪郭162は、大きな歪みが画像内にある場合であっても、類似していると見なされる。一例において、最近傍探索アルゴリズムは、輪郭群172を構築するために使用され得る。工程436において、輪郭162が比較され、輪郭162間の類似性が測定される。
工程438において、コヒーレントな輪郭162は、例えば、較正パターン155、輪郭特性などの演繹的な知識に基づいてグループ化される。一例において、較正パターン155の演繹的な知識は、較正形状156の幾何学、較正形状156が最終較正パターン155を形成するために互いに対してどのように配置されてかを定義する幾何学的レイアウト、カメラのレンズによって引き起こされるいかなる歪みにもかかわらず類似の形状を有する隣接する較正形状156の演繹的な知識、較正パターン155を構築する較正形状156のカウントを含み得る。一例において、輪郭特性は、輪郭162の面積、凸包183などの輪郭境界などを含み得る。輪郭特性は、複数の輪郭部材162間の類似性を比較および測定するために使用される。一実施形態において、類似性の所定の尺度を有する輪郭162は、一緒にグループ化される。一実施形態において、群172内の輪郭162の数は、欠落した較正形状156、ノイズに起因する付加的な輪郭162などを考慮して判定される。
輪郭群172の構築例を検討する。輪郭162は、画像化された較正形状156間の接続を分離した後に処理およびフィルタリングされる。「c」輪郭162の境界の長さは「P(c)」であり、その領域の大きさは「A(c)」である。輪郭162の形状パラメータは次のように定義される:
Figure 0007253745000001
すなわち、形状パラメータは、輪郭の周囲の二乗を輪郭の領域の大きさで除算することによって得られる。
一例において、比率R(c)はスケール不変の尺度である。R(c)の値は、以下に開示するように、正方形形状の較正形状156の場合は16、円形の較正形状の場合は4πである:
Figure 0007253745000002
Figure 0007253745000003
生成された輪郭162は、歪んだ輪郭または不適切な輪郭162を除去するために事前にフィルタリングされる。一例において、輪郭162は、R(c)の値が約2.5~25の範囲内にある場合、フィルタリング中に有効と見なされる。この例において、小さな輪郭162の場合、R(c)の値は、例えば鋭角、遠近効果などによってより歪んでいる可能性があるため、R(c)のより広い範囲が使用される。上記と組み合わせることもできる別の例において、輪郭162は、形状パラメータとしてのA(c)の値が入力画像154の2%より小さく10ピクセルより大きい場合、有効と見なされる。したがって、輪郭は、その形状パラメータが所定の範囲内にある場合にのみ有効な輪郭として受け入れられる。
さらに、2つの輪郭162間の距離は、それらの最も近い点の距離として定義される。輪郭c162の囲み半径rは、以下の方程式によって計算される:
Figure 0007253745000004
較正形状の領域の大きさおよび半径の類似度sは、以下の方程式によって計算される:
Figure 0007253745000005
次の場合、2つの輪郭162ciおよびcjは同じグループに属すると見なされる:
s(A(c),A(c))0.5
s(r(c),r(c))0.5
dist(c,c)(1.5・max(r(c),r(c
すなわち、
― 2つの領域の大きさのうち小さい領域の大きさが、他の領域の大きさの50%より大きい;
― 2つの半径のうち小さい半径が、他の半径の50%より大きい;および
― 輪郭の最も近い点の距離が2つの半径のうちより大きい半径の150%未満である。
この例において、2つの輪郭162の較正形状の領域の大きさおよび半径の類似性sは、較正形状のスケールとは無関係であり、2つの輪郭162の距離は、較正パターン155の特性に依存する。しかしながら、我々の実験は、上記の距離基準は、すべての実際に適用可能な反復較正パターン、例えば図9A~9Cで示されたものに適していることを示した。
工程440において、輪郭群172は、入力画像154内のパターンの位置182を識別する形成された群172の境界のセットとして表示される。例えば、輪郭群172は、入力画像154内の各パターンの位置182を識別するために使用される凸包183を使用して表示される。工程442において、較正ターゲットの位置182、すなわちパターンが識別されると、パターンのかコーナーを見つけるのが容易になる。入力画像154の残りの部分を除外することにより、入力画像154のノイズを低減することができる。
実施形態40の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、30、50、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図5は、本発明に係る、自律型車両290のダッシュボード500上に表示される異なるカメラ較正ステージ302、304、306、および308を有するより精巧なカメラ較正システム200の別の実施形態50を示す。カメラ較正システム200は、自律型車両290に配置された複数のカメラ211、212、213、および214と、パターン化されたパネル153-1、153-2、153-3、および153-4を含む複数のマルチパターン較正リグ152-1、152-2、152-3、および152-4とを含む。
簡潔にするために、1台のカメラのみ、例えば211の較正に関係するステージ302、304、306、および308は、自律型車両290のダッシュボード500上に表示される。ステージ302において、カメラ211によってキャプチャされた入力画像154は、ユーザインターフェース151に示される。入力画像154は、較正パターン155を含むパターン化されたパネル153を保持するマルチパターン較正リグ152のものである。ステージ304において、入力画像154は、入力画像154の背景157から画像化された較正形状156をセグメント化するために前処理される。較正形状156は、白いチェッカーボードのパターン化されたパネル153上の黒い正方形によって形成される。ステージ304において、画像化された較正形状156の輪郭162は、セグメント化されフィルタリングされる。ステージ306において、群172は、各輪郭162の形状および位置に基づいてコヒーレントな輪郭162から構築される。ステージ308において、マルチパターン較正リグ152上に存在する各パターン化されたパネル153の位置182は、輪郭群172に基づいて識別される。一実施形態において、各パターン化されたパネル153の位置182は、輪郭群172を囲む凸包183によって識別される。
実施形態50の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、30、40、60、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図6は、スクリーンショット図としての本発明に係る、自律型車両290の複数のカメラ210、211、212、213、または214の較正を示すコンピュータプログラム製品の複数のユーザインターフェース300、600の実施形態60を示す。実装例では、自律型車両290のダッシュボード500は自律型車両290のフード上に配置された2つのカメラ(例えば211および212)に関与する異なるステージ302、304、306、308、602、604、606、608を表示するための画面510を備える。ユーザインターフェース300は、2つのカメラの一方、例えば211の較正に関与するステージ302、304、306、308を示す。ユーザインターフェース600は、他方のカメラ、例えば212の較正に関与するステージ602、604、606、608を示す。したがって、カメラ較正を担当する技術者は、ユーザインターフェース300および600を介して、カメラ較正のすべてのステージ302、304、306、308、602、604、606、608をリアルタイムで監視することができる。
実施形態60の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、30、40、50、71、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図7Aは、本発明に係る、複数のパターン化されたパネル153を含むマルチパターン較正リグ152の実施形態71を図として示す。マルチパターン較正リグ152は、較正パターン155を用いてパターン化されたパネル153を確実に保持するように設計された支持構造710を備える。一実施形態において、各パターン化されたパネル153は、較正されるカメラの仕様に従ってマルチパターン較正リグ152上に配置される。パターン化されたパネル153は、凝集、溶接、マウントなどにより、任意の角度、向きなどで支持構造710に取り付けられ得る。
実施形態71の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、30、40、50、60、72、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図7Bは、本発明に係る、パターン化されたパネル153を含むマルチパターン較正リグ152の画像を示すコンピュータプログラム製品のユーザインターフェース720の実施形態72を示す。
実施形態72の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、30、40、50、60、71、81、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図8Aは、本発明に係る、マルチパターン較正リグ152の支持構造710の実施形態81を図として示す。一例において、支持構造710は、ロッド820、ジョイント810などで作製される。
実施形態81の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、30、40、50、60、71、72、82、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図8Bは、本発明に係る、支持構造710のボールジョイントマウント820の実施形態82を図として示す。ボールジョイントマウント820は、支持構造710に取り付けられたパターン化されたパネル153を保持するように構成される。ボールジョイントマウント820は、パターン化されたパネル153の角度を調整するために使用され得る。ボールジョイントマウント820は、パターン化されたパネル153を確実に保持するための取り付け点822を含む。
実施形態82の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、30、40、50、60、71、72、81、83、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図8Cは、本発明に係る、パターン化されたパネル153を保持する支持構造710のボールジョイントマウント820の実施形態83を図として示す。パターン化されたパネル153は、図8Cに示されるように、ボールジョイントマウント820を使用することにより、支持構造710に取り付けられる。パターン化されたパネル153は、ボールジョイントマウント820を調整することにより許容される任意の位置および/または角度で取り付けられ得る。例えば、パターン化されたパネル153は、取り付け点822でボールジョイントマウント820を介して支持構造710に取り付けられる。
実施形態83の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、30、40、50、60、71、72、81、82、91、92および/または93のいずれかと容易に結合または並べ替えられ得る。
図9A~9Cは、本発明に係る、較正パターン155-1、155-2、および155-3の異なる実施形態91、92、および93を図として示す。マルチパターン較正リグ152に取り付けられる各パターン化されたパネル153-1、153-2、および153-3には、反復較正パターン、例えば、155-1、155-2、または155-3が提供される。較正パターン155-1、155-2、または155-3は、例えば、黒または白の正方形を有するチェッカーボードパターン155-1または155-2、黒または白の円を含む円のグリッド155-3であり得る。一例として、図9Aは、チェッカーボード較正パターン155-1を含むパターン化されたパネル153-1の実施形態91を示す。較正パターン155-1は、白いボード157-1上の較正形状として黒い正方形156-1を含む。別の例において、図9Bは、チェッカーボード較正パターン155-2を含む別のパターン化されたパネル153-2の実施形態92を示す。較正パターン155-2は、黒いボード157-2上の較正形状として白い正方形156-2を含む。別の例において、図9Cは、較正パターン155-3として円のグリッドを含む別のパターン化されたパネル153-3の別の実施形態93を示す。較正パターン155-3は、ホワイトボード157-3上の較正形状として黒丸156-3を含む。
一実施形態において、パターン化されたパネル153-1、153-2、および153-3内の較正パターン155-1、155-2、および155-3の特性は、較正されるカメラ210の仕様に基づいて決定される。パターン化されたパネル153-1、153-2、または153-3は、本質的に反復性であり、明らかな特徴、強いコントラスト、容易に検出可能な較正パターン155-1、155-2、および155-3を含む。パターン化されたパネル153-1、153-2、および153-3は、例えば、正方形、円形、楕円形など、任意の形状またはサイズのものであり得る。パターン化されたパネル153-1、153-2、および153-3は、例えば、木材、プラスチックなどで作製され得る。
実施形態91、92および93の任意の特徴は、本発明に従う他の実施形態11、12、13、14、15、16、17、18、20、21、30、40、50、60、71、72、81、82および/または83のいずれかと容易に結合または並べ替えられ得る。
本発明は上記で説明されており、大きな利点が実証された。本発明は、自律型車両290の組み立て中に、自律型車両290のカメラ210のより速い較正をもたらす。さらに、較正形状156および対応する輪郭162は本質的に二次元であり、一方、カメラ較正に典型的に使用されるコーナーおよびエッジ検出技術は本質的に一次元である。したがって、カメラ較正に使用される較正形状156および対応する輪郭162は、カメラ較正に通常使用される従来使用されているコーナーおよびエッジよりも実質的に安定しており、容易に検出可能である。さらに、カメラ較正システム200は、ノイズおよび照明条件のさらに、カメラ較正システム200は、カメラ210を較正するために複数のタイプの較正パターン155を使用することに柔軟性がある。における変動に対して実質的に耐性がある。さらに、複数のパターン化されたパネル153を含むマルチパターン較正リグ152の単一画像154を使用することによる自律型車両290のカメラ210の較正は、複数の較正パターン155の画像取得に必要な時間を別々に短縮する。したがって、見られるように、時間効率的かつ強固なカメラ較正プロセスが、工場適用のために使用され得る。
少なくとも1つのカメラおよびマルチパターン較正リグを備えたカメラマルチパターン較正リグシステムも提供され、各パターンは反復的であるとともに、較正形状を備える。
本システムは、少なくとも1つのカメラに接続され、上記の詳細な本発明の方法工程を実行するように適合されたコンピュータデバイスも備える。
さらに、非一時的なコンピュータ可読媒体が、マルチパターン較正リグを用いてカメラを較正するために提供され、各パターンは反復的であるとともに、較正形状を含み、コンピュータ可読媒体は、プロセッサ上で実行される場合、上記の詳細な本発明の方法工程を実行する、その上に格納された命令を含む。
本発明は、上記の実施形態を参照して上記で説明された。しかしながら、本発明がこれらの実施形態に限定されるものではなく、発明思想および以下の特許請求の範囲の精神および範囲内のすべての可能な実施形態を含むことは明らかである。マルチパターン較正リグは、複数の支持構造で構成でき、任意の数のパターン、パターン化されたパネルを搭載することができる。本発明は、車両だけでなく、あらゆる技術的用途におけるカメラの較正に適している。

Claims (13)

  1. マルチパターン較正リグ(152)を使用することによって、カメラ(210、211、212、213、214)を較正する方法であって、各パターン(123)は反復的であるとともに、較正形状(124)を備え、前記方法は、
    前記カメラ(210、211、212、213、214)を用いて前記マルチパターン較正リグ(152)の画像(126)をキャプチャする工程と、
    前記画像化された前記較正形状(124)の輪郭(162)をセグメント化する工程と、
    前記形状の類似性を判定する工程と、
    前記形状の前記類似性およびそれらの互いからの距離に基づいてコヒーレントな輪郭(162)の群(172)を構築する工程と
    前記輪郭の群(172)に基づいて、前記画像(126)内の各パターン(123)の位置(182)を識別する工程と、を含み、
    ここにおいて、
    前記形状の前記類似性を判定する工程は、前記輪郭(162)の領域の大きさを計算する工程と、1つの輪郭(162)の領域の大きさを別の輪郭(162)の領域の大きさと比較する工程と、
    2つの前記領域の大きさの相対的な差が所定の制限以下である場合、前記領域の大きさは同じであると判定する工程とによりそれらのそれぞれの領域の前記類似性を判定する工程と
    、を
    含む、方法。
  2. 少なくとも以下の条件が満たされている場合:2つの領域の大きさのより小さい領域の大きさが他の領域の大きさの50%より大きく、2つの半径のより小さい半径が他の半径の50%より大きく、前記輪郭(162)の最も近い点の距離が前記2つの半径のうちより大きい半径の150%未満である場合、それぞれがそのそれぞれの面積およびそれぞれの半径を有する包含円を有する、任意の2つの輪郭(162)は同じ群(172)に属することを特徴とする、請求項1に記載の方法。
  3. 前記群(172)は、その中の輪郭(162)の数がそれぞれのパターン(123)内の前記較正形状(124)の数から10%を超えて異ならない場合、有効な群(172)として受け入れられることを特徴とする、請求項2に記載の方法。
  4. 前記画像(126)内の各パターン(123)の位置を識別する工程は、前記群のそれぞれに対して凸包を生成する工程と、各パターン(123)の前記凸包(183)の位置を、前記画像(126)内の前記それぞれのパターン(123)の位置として識別する工程と、を含むことを特徴とする、請求項3に記載の方法。
  5. 前処理工程は、前記輪郭(162)をセグメント化する前に、キャプチャされた画像(126)上で実行され、
    前記前処理工程は、前記画像(126)の他の部分から画像化された較正形状(124)をセグメント化し、それによって、前記画像の他の部分が1つの2進値を用いて表され、前記画像化された較正形状(124)が他の2進値を用いて表される2値画像を生成する工程と、を含むことを特徴とする、請求項1に記載の方法。
  6. 前記前処理工程は、前記画像化された較正形状(124)間の接続を切断するための形態学的収縮および膨張、
    照明における変動を除去するためのしきい値処理、および/または
    前記画像化された較正形状(124)間の任意の残りの接続を切断するためのブリッジピクセル較正形状(124)検出および除去する工程
    をさらに含むことを特徴とする、請求項5に記載の方法。
  7. 輪郭フィルタリング工程は、前記輪郭(162)をセグメント化した後実行され、前記輪郭フィルタリング工程は、前記輪郭(162)の各々に対して形状パラメータを計算する工程、およびその形状パラメータが所定の範囲内である場合、前記輪郭(162)を有効な輪郭(162)として受け入れる工程を含むことを特徴とする、請求項5に記載の方法。
  8. 各輪郭(162)は、領域包含する境界を含み、前記形状パラメータは、前記輪郭の前記周囲の2乗を前記輪郭の前記面積で除算することによって取得され、前記所定の範囲は、少なくとも2.5~25の範囲内であることを特徴とする、請求項7に記載の方法。
  9. 前記輪郭(162)は面積を有し、前記形状パラメータは前記輪郭(162)の前記面積であり、前記所定の範囲は少なくとも10ピクセルと前記画像(126)の全面積の2%との間であることを特徴とする、請求項7に記載の方法。
  10. 前記較正パターン(123)は、市松模様または円のグリッドであることを特徴とする、請求項1に記載の方法。
  11. 前記カメラ(210、211、212、213、214)は車両(290)内に配置されていることを特徴とする、請求項1に記載の方法。
  12. カメラ較正システムであって、
    少なくとも1つのカメラ(210、211、212、213、214)とマルチパターン較正リグ(152)とを備え、各パターン(123)は反復的であるとともに、較正形状(124)を備え、前記システムは、前記少なくとも1つのカメラ(210、211、212、213、214)に接続され、請求項1~10のいずれかに記載の方法の工程を実行するように適合されたコンピュータデバイスも含むことを特徴とする、カメラ較正システム。
  13. マルチパターン較正リグ(152)を使用してカメラ(210、211、212、213、214)を較正するための非一時的なコンピュータ可読媒体であって、
    各パターン(123)は反復的であるとともに、較正形状(124)を備え、
    前記コンピュータ可読媒体は、プロセッサ上で実行される場合、前記プロセッサに請求項1~10のいずれかに記載の方法の工程を実行させる、前記コンピュータ可読媒体上に格納された命令を含むことを特徴とする非一時的なコンピュータ可読媒体。
JP2019568364A 2017-07-05 2018-07-05 カメラ較正のための方法、システムおよびコンピュータ可読媒体 Active JP7253745B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/641,491 US10089753B1 (en) 2017-07-05 2017-07-05 Method, system and computer-readable medium for camera calibration
US15/641,491 2017-07-05
PCT/HU2018/000031 WO2019008402A1 (en) 2017-07-05 2018-07-05 METHOD, SYSTEM AND COMPUTER-READABLE MEDIUM FOR CAMERA CALIBRATION

Publications (3)

Publication Number Publication Date
JP2020525894A JP2020525894A (ja) 2020-08-27
JPWO2019008402A5 JPWO2019008402A5 (ja) 2023-02-13
JP7253745B2 true JP7253745B2 (ja) 2023-04-07

Family

ID=63244629

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019568364A Active JP7253745B2 (ja) 2017-07-05 2018-07-05 カメラ較正のための方法、システムおよびコンピュータ可読媒体

Country Status (6)

Country Link
US (1) US10089753B1 (ja)
EP (1) EP3649617B1 (ja)
JP (1) JP7253745B2 (ja)
KR (1) KR102530344B1 (ja)
CN (1) CN110869979B (ja)
WO (1) WO2019008402A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108010090B (zh) * 2018-01-12 2024-03-29 深圳市道通科技股份有限公司 一种车载夜视摄像装置标定设备
US11300385B2 (en) * 2019-01-18 2022-04-12 Zachary Burton Camouflage patterns, arrangements and objects utilizing the same
KR102577448B1 (ko) * 2019-01-22 2023-09-12 삼성전자 주식회사 핸드 아이 캘리브레이션 방법 및 시스템
JP7312594B2 (ja) * 2019-04-12 2023-07-21 株式会社ソニー・インタラクティブエンタテインメント キャリブレーション用チャートおよびキャリブレーション用器具
JP7321947B2 (ja) * 2020-01-20 2023-08-07 日立Astemo株式会社 画像補正装置及び画像補正方法
WO2021182793A1 (ko) * 2020-03-12 2021-09-16 주식회사 멀티플아이 단일 체커보드를 이용하는 이종 센서 캘리브레이션 방법 및 장치
JP2023541663A (ja) 2020-09-17 2023-10-03 スキャンウェル ヘルス インコーポレイテッド 診断試験キット及びその分析方法
CN216956993U (zh) 2020-10-23 2022-07-12 贝克顿·迪金森公司 一种用于测定测试条的背景设备
USD970033S1 (en) 2020-10-23 2022-11-15 Becton, Dickinson And Company Cartridge imaging background device
CN113822941B (zh) * 2021-09-03 2023-12-19 大连中科创达软件有限公司 相机倾斜校准方法、装置、设备及存储介质
US20230237626A1 (en) * 2022-01-27 2023-07-27 Altek Semiconductor Corporation Image calibration method and image calibration apparatus
CN114119761B (zh) * 2022-01-28 2022-06-14 杭州宏景智驾科技有限公司 多相机机动车定位方法和装置、电子设备和存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008125881A (ja) 2006-11-22 2008-06-05 Toshiba Corp 医用画像診断装置、医用画像処理装置、及び医用画像処理プログラム
JP2008193188A (ja) 2007-02-01 2008-08-21 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
JP2013045276A (ja) 2011-08-24 2013-03-04 Ricoh Co Ltd 画像処理方法、ステレオカメラシステム
JP2013231900A (ja) 2012-05-01 2013-11-14 Hazama Ando Corp カメラキャリブレーション用3次元パターン

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6768509B1 (en) * 2000-06-12 2004-07-27 Intel Corporation Method and apparatus for determining points of interest on an image of a camera calibration object
KR100386090B1 (ko) * 2001-04-02 2003-06-02 한국과학기술원 동심원 패턴을 이용한 카메라 내부변수 보정시스템 및카메라 보정방법
US7555157B2 (en) * 2001-09-07 2009-06-30 Geoff Davidson System and method for transforming graphical images
JP3635539B2 (ja) * 2002-08-29 2005-04-06 オリンパス株式会社 キャリブレーションパターンユニット
JP2009100342A (ja) * 2007-10-18 2009-05-07 Sanyo Electric Co Ltd カメラ校正装置及び方法、並びに、車両
JP5339124B2 (ja) * 2008-09-30 2013-11-13 アイシン精機株式会社 車載カメラの校正装置
EP2530647A1 (en) * 2011-06-01 2012-12-05 Harman Becker Automotive Systems GmbH Method of calibrating a vehicle vision system and vehicle vision system
CN103827917B (zh) * 2011-07-25 2017-06-09 科英布拉大学 用于使用棋盘图案的一幅或多幅图像的自动相机校准的方法和装置
KR20130035422A (ko) * 2011-09-30 2013-04-09 삼성전기주식회사 카메라 모듈의 보정 장치
DE102012205130A1 (de) * 2012-03-29 2013-10-02 Robert Bosch Gmbh Verfahren zum automatischen Betreiben einer Überwachungsanlage
JP6009894B2 (ja) * 2012-10-02 2016-10-19 株式会社デンソー キャリブレーション方法、及びキャリブレーション装置
CN103116889A (zh) * 2013-02-05 2013-05-22 海信集团有限公司 一种定位方法及电子设备
US9596459B2 (en) 2014-09-05 2017-03-14 Intel Corporation Multi-target camera calibration
EP3125196B1 (en) * 2015-07-29 2018-02-21 Continental Automotive GmbH Drive-by calibration from static targets
US10438081B2 (en) * 2015-10-30 2019-10-08 Texas Instruments Incorporated Automatic feature point detection for calibration of multi-camera systems

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008125881A (ja) 2006-11-22 2008-06-05 Toshiba Corp 医用画像診断装置、医用画像処理装置、及び医用画像処理プログラム
JP2008193188A (ja) 2007-02-01 2008-08-21 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
JP2013045276A (ja) 2011-08-24 2013-03-04 Ricoh Co Ltd 画像処理方法、ステレオカメラシステム
JP2013231900A (ja) 2012-05-01 2013-11-14 Hazama Ando Corp カメラキャリブレーション用3次元パターン

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
岡本 寛也, 外3名,既知パターンを用いた複数魚眼カメラの外部パラメータ推定,SSII2013 第19回画像センシングシンポジウム 講演論文集,日本,画像センシング技術研究会,2013年06月12日,pp.IS2-14-1~IS2-14-8

Also Published As

Publication number Publication date
WO2019008402A1 (en) 2019-01-10
WO2019008402A8 (en) 2019-02-07
CN110869979B (zh) 2023-03-21
CN110869979A (zh) 2020-03-06
JP2020525894A (ja) 2020-08-27
KR20200023631A (ko) 2020-03-05
KR102530344B1 (ko) 2023-05-09
EP3649617A1 (en) 2020-05-13
US10089753B1 (en) 2018-10-02
EP3649617B1 (en) 2021-12-22

Similar Documents

Publication Publication Date Title
JP7253745B2 (ja) カメラ較正のための方法、システムおよびコンピュータ可読媒体
US11320833B2 (en) Data processing method, apparatus and terminal
Assidiq et al. Real time lane detection for autonomous vehicles
CN109389064B (zh) 一种车辆特征获取方法及装置
TWI494899B (zh) 影像內週期性雜訊修補方法
KR102487842B1 (ko) 차량 검사 시스템 및 그 방법
KR20130030220A (ko) 고속 장애물 검출
JP6084552B2 (ja) 路面オルソ画像の生成装置および生成方法
Cinaroglu et al. A direct approach for human detection with catadioptric omnidirectional cameras
US11170487B2 (en) Adhered substance detection apparatus
WO2016059643A1 (en) System and method for pedestrian detection
CN112683228A (zh) 单目相机测距方法及装置
CN111080542A (zh) 图像处理方法、装置、电子设备以及存储介质
CN114888805B (zh) 轮胎模具字符图案的机器人视觉自动获取方法及系统
CN110673607A (zh) 动态场景下的特征点提取方法、装置、及终端设备
CN115601435B (zh) 车辆姿态检测方法、装置、车辆及存储介质
Gupta et al. Robust lane detection using multiple features
JP7283081B2 (ja) 付着物検出装置および付着物検出方法
Mandlik et al. Raspberry-pi based real time lane departure warning system using image processing
Yang et al. Edge-based moving object tracking algorithm for an embedded system
Khalifa et al. Vision based road lane detection system for vehicles guidance
CN111339840B (zh) 人脸检测方法和监控系统
Quiros et al. Localization of license plates using optimized edge and contour detection technique
CN106650717B (zh) 一种带厚度干扰的圆形物体的精确定位方法
CN113657332B (zh) 地面警戒线识别方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200220

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210617

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220601

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220912

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20221205

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20230130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230301

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230317

R150 Certificate of patent or registration of utility model

Ref document number: 7253745

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150