JP6721884B2 - カメラ校正用ボード、カメラ校正用装置、カメラ校正用方法、及びカメラ校正用プログラム記録媒体 - Google Patents

カメラ校正用ボード、カメラ校正用装置、カメラ校正用方法、及びカメラ校正用プログラム記録媒体 Download PDF

Info

Publication number
JP6721884B2
JP6721884B2 JP2017542739A JP2017542739A JP6721884B2 JP 6721884 B2 JP6721884 B2 JP 6721884B2 JP 2017542739 A JP2017542739 A JP 2017542739A JP 2017542739 A JP2017542739 A JP 2017542739A JP 6721884 B2 JP6721884 B2 JP 6721884B2
Authority
JP
Japan
Prior art keywords
camera
calibration
mth
image
cameras
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017542739A
Other languages
English (en)
Other versions
JPWO2017056473A1 (ja
Inventor
剛志 柴田
剛志 柴田
正行 田中
正行 田中
正敏 奥富
正敏 奥富
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Tokyo Institute of Technology NUC
Original Assignee
NEC Corp
Tokyo Institute of Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp, Tokyo Institute of Technology NUC filed Critical NEC Corp
Publication of JPWO2017056473A1 publication Critical patent/JPWO2017056473A1/ja
Application granted granted Critical
Publication of JP6721884B2 publication Critical patent/JP6721884B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B21/00Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant
    • G01B21/02Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant for measuring length, width, or thickness
    • G01B21/04Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant for measuring length, width, or thickness by measuring coordinates of points
    • G01B21/042Calibration or calibration artifacts
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/32Fiducial marks and measuring scales within the optical system
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/257Colour aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/20Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0077Colour aspects

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、カメラ校正用ボード、カメラ校正用装置、カメラ校正用方法、及びカメラ校正用プログラム記録媒体に関する。
近年、様々な目的対象を撮像するために、各々適したセンサを用いたカメラが広く普及している。例えば、人物などを監視するために、可視センサを用いた監視カメラが広く普及している。一方、深度画像を取得するための廉価な深度画像取得用カメラ(以下、「デプスカメラ」と呼ぶ)も、広く普及している。また、夜間における監視に対して、近赤外線カメラや遠赤外線カメラなどの非可視光センサを用いたカメラも広く普及している。
複数のセンサより取得された画像群を容易に解析するために、異なる種類のイメージセンサを用いたカメラ同士の校正が必要になる。より具体的には、各カメラのレンズ歪や画像中心などを表す内部パラメータと、カメラ間の相対的位置関係を表す外部パラメータとを正確に計測することが必要になる。このような背景の中、先行技術として、非特許文献1は、深度画像と可視画像とを用いた同時校正方法を開示している。また、非特許文献2は、画像から算出して得られた特徴点からカメラの内部パラメータを算出する方法を開示している。
また、本発明に関連する他の先行技術(特許文献)も知られている。
例えば、特許文献1は、ステレオカメラ校正装置に用いられる校正テーブルを開示している。特許文献1に開示された校正テーブルは、平板の上面に設けられ、多数の穴が形成された穴あき板と、穴あき板の多数の穴の任意の位置にランダムに嵌合された複数の棒材(校正ポール)とから成る。平板の上面は黒色に塗られ、穴あき板の上面は灰色に塗られ、校正ポールの頂部は白色に塗られている。校正ポールの長さがランダムに設定されている。校正テーブルの上部には二台のカメラ(左カメラ、右カメラ)が内斜視に配されている。左カメラ、右カメラの光軸は校正テーブルのある一点におおよそ結ばれるようになっている。
また、特許文献2は、一台のカメラのカメラパラメータを推定するカメラパラメータ推定装置を開示している。特許文献2に開示されたカメラパラメータ推定装置は、対応点探索装置と、カメラパラメータ推定手段とを備えている。対応点探索装置は、一台のカメラで同一の被写体を撮影した複数の画像間において対応点を探索する。カメラパラメータ推定手段は、対応点探索手段から入力された対応点の情報を利用して、バンドルアジャストメント(Bundle Adjustment:バンドル調整処理)によって、カメラ姿勢係数を未知数として最適化を行い、カメラパラメータを推定する。
特開平08−086613号公報 特開2014−032628号公報
Herrera, C., Juho Kannala, and Janne Heikkilae. "Joint depth and color camera calibration with distortion correction." Pattern Analysis and Machine Intelligence, IEEE Transactions on 34.10 (2012): 2058-2064. Zhang, Zhengyou. "A flexible new technique for camera calibration." Pattern Analysis and Machine Intelligence, IEEE Transactions on 22.11 (2000): 1330-1334.
しかしながら、非特許文献1の手法は、可視画像と深度画像とにおける、カメラ間の外部パラメータを高精度に計測する処理である、バンドル調整の精度が低下するという課題がある。その理由は、次の通りである。一般的に、「バンドル調整」とは、同一の対応する点群の座標から、カメラパラメータを全体最適化により算出する処理である。しかしながら、非特許文献1の手法では、同一の対応する点群の座標値を、可視画像と深度画像とから簡易な処理で高精度の取得することが困難であるためである。
尚、非特許文献2は、単に、特徴点からカメラの内部パラメータを算出する方法を開示しているに過ぎない。
また、特許文献1,2には、それぞれ、次に述べるような問題点がある。
特許文献1は、二台のカメラで物体を撮影する場合に、カメラの空間位置を簡単にしかも正確に校正するために使用される校正テーブルを開示しているに過ぎない。すなわち、特許文献1に開示された校正テーブルは、同じ種類の二台のカメラの空間位置を校正するために用いられるものであって、種類の異なる複数のカメラ同士を校正することを何ら意図しておらず、解決しようとする課題が異なる。
特許文献2は、単に、バンドル調整によって、一台のカメラのカメラパラメータを推定するカメラパラメータ推定装置を開示しているに過ぎない。特許文献2でも、種類の異なる複数のカメラ同士を校正することを何ら意図しておらず、解決しようとする課題が異なる。
本発明の目的は、上記した課題を解決する、カメラ校正用ボード、カメラ校正用装置、カメラ校正用方法、及びカメラ校正用プログラム記録媒体を提供することにある。
本発明の一形態は、基盤と;該基盤上に、それぞれ、同一の長さを持つ複数の支柱を介して配置された複数の平面板と;を備えるカメラ校正用ボードであって、前記複数の平面板は、前記基盤に対して空間中の異なる平面上に配置されており、前記基盤と前記複数の平面板の各々とは、可視光に対する反射率が異なる、カメラ校正用ボードである。
本発明のカメラ校正用装置は、上記カメラ校正用ボードを用いて、それぞれ、第1乃至第M(Mは2以上の整数)の校正用画像を撮影する、種類の異なる第1乃至第Mのカメラを含む校正用画像撮影部と;前記第1乃至第Mの校正用画像から、それぞれ、第1乃至第Mの特徴点を算出する第1乃至第Mの特徴点検出部と;前記第1乃至第Mの特徴点から、それぞれ、前記第1乃至第Mのカメラ用の第1乃至第Mのカメラパラメータを算出する第1乃至第Mのカメラパラメータ推定部と;前記第1乃至第Mのカメラパラメータを用いて、カメラ間の外部パラメータを算出するバンドル調整部と;を備える。
本発明のカメラ校正用方法は、上記カメラ校正用ボードを用いて、種類の異なる第1乃至第M(Mは2以上の整数)のカメラが、それぞれ、第1乃至第Mの校正用画像を撮影し;第1乃至第Mの特徴点検出部が、それぞれ、前記第1乃至第Mの校正用画像から第1乃至第Mの特徴点を算出し;第1乃至第Mのカメラパラメータ推定部が、それぞれ、前記第1乃至第Mの特徴点から前記第1乃至第Mのカメラ用の第1乃至第Mのカメラパラメータを算出し;バンドル調整部が、前記第1乃至第Mのカメラパラメータを用いて、カメラ間の外部パラメータを算出する。
本発明のカメラ校正用プログラム記録媒体は、上記カメラ校正用ボードを用いて、種類の異なる第1乃至第M(Mは2以上の整数)のカメラが撮影して得られた第1乃至第Mの校正用画像から、それぞれ、第1乃至第Mの特徴点を算出する手順と、前記第1乃至第Mの特徴点から、それぞれ、前記第1乃至第Mのカメラ用の第1乃至第Mのカメラパラメータを算出する手順と、前記第1乃至第Mのカメラパラメータを用いて、カメラ間の外部パラメータを算出する手順と、をコンピュータに実行させるカメラ校正用プログラムを記録した媒体である。
本発明によれば、種類の異なる複数のカメラ同士の校正に必要な、カメラ間の外部パラメータを高精度に計測することが可能となる。
本発明の一実施の形態に係るカメラ校正用ボードの概略図である。 本発明の実施例に係るカメラ校正用装置の概略構成を示すブロック図である。 図2に示したカメラ校正用装置の動作を説明するための流れ図である。 図2に示したカメラ校正用装置に使用される校正用画像撮影部の可視カメラにて撮影された校正用画像(可視画像)の一例を示す図である。 図2に示したカメラ校正用装置に使用される校正用画像撮影部の遠赤外線カメラにて撮影された校正用画像(遠赤外線画像)の一例を示す図である。
[第1の実施の形態]
次に、本発明を実施するための第1の実施形態について、図面を参照して詳細に説明する。
図1を参照すると、本発明の第1の実施形態で用いるカメラ校正用ボードは、基盤1と、複数の平面板2と、複数の支柱3とから成る。複数の支柱3は、同じ長さを持つ。複数の平面板2は、基盤1上に、それぞれの対応する支柱2を介して、立体的に配置されている。ここで、複数の平面板2の各々は、矩形状の板から成るが、複数の平面板2は、空間中において、平面上に配置されている。なお、以下においては、基盤1が平面である場合について説明するが、本発明はこれに限定されない。すなわち、複数の平面板2が、基盤1に対して、所定の距離だけ離間した空間上のある平面に配置されていればそれでよい。
また、本発明の第1の実施形態で用いるカメラ校正用ボードにおいては、基盤1と複数の平面板2の各々は、可視光に対する反射率が基盤1と平面板2とで異なる。例えば、基盤1については、白色の材質や、或いは白色以外の材質の表面に白色の塗料や樹脂などで塗装をしたものを用いる。その場合、各平面板2については、白色以外の材質や、或いは白色以外の塗料や樹脂などで表面を塗装したものを用いる。
或いは、各平面板2については、白色の材質や、或いは白色以外の材質の表面に白色の塗料や樹脂などで塗装をしたものを用いる。その場合、基盤1についは、白色以外の材質や、或いは白色以外の塗料や樹脂などで表面を塗装したものを用いる。
より一般的に、本発明の第1の実施形態で用いるカメラ校正用ボードにおいて、基盤1については、ある色(以下、「甲色」とよぶ)の材質や、或いは、甲色以外の材質の表面にある甲色の塗料や樹脂などで塗装をしたものを用いる。その場合、各平面板2については、甲色以外の材質や、或いは甲色以外の塗料や樹脂などで表面を塗装したものを用いる。
なお,本発明において,各平面版2が,一定の厚みを有する平面版である場合には,基盤1と各平面版2との間の面において,平面板に対し面取り加工を施してもよい.
いずれにせよ、基盤1と各平面板2の可視光に対する反射率が異なればよく、以上の構成に限定されるものではない。
本第1の実施形態においては、後述するカメラ校正用装置の校正用画像撮影部は、このようなカメラ校正用ボードを用いて第1および第2の校正用画像を撮影する。校正用画像撮影部は、カメラ校正用ボードを用いて第1の校正用画像として可視画像を撮影する可視カメラと、カメラ校正用ボードを用いて第2の校正用画像として深度画像を撮影するデプスカメラとから成る。
次に、本第1の実施形態の効果について説明する。
本発明の第1の実施形態によれば、可視カメラから得られた可視画像と、デプスカメラから得られた深度画像とから、デプスカメラと可視カメラの校正に必要な、カメラ間の外部パラメータを高精度に計測するのを可能にする、カメラ校正用装置を提供できる。その理由は、本第1の実施形態で説明した本カメラ校正用ボードを用いることで、基盤1と複数の平面板2とが、互いに異なる平面上に位置しており、さらに可視光での反射率も異なるために、複数の平面板2の上に存在する平面上に配置された点群を、可視画像と深度画像とから高精度に抽出できるためである。
[第2の実施の形態]
次に、本発明を実施するための第2の実施形態について、図面を参照して詳細に説明する。
図1を参照すると、本発明の第2の実施形態で用いるカメラ校正用ボードは、上記第1の実施形態で述べた構成に加え、さらに、基盤1と複数の平面板2とが、温度が異なる状態を作りだし、かつ熱が相互に移動しないように加工されている。例えば、カメラ校正用ボードは、複数の平面板2を加熱(或いは減熱)することで、基盤1と複数の平面板2との間で温度が異なる状態を作り出せばよい。或いは、カメラ校正用ボードは、基盤1を加熱(或いは減熱)することで、基盤1と複数の平面板2との間で温度が異なる状態を作り出してもよい。
また、加熱(或いは減熱)する基盤1或いは複数の平面板2については、温度が均一になるように、熱伝導性が高く、熱放射が大きい材質を用いればよい。或いは、高い熱伝導性と熱放射性を両立させるために、基盤1或いは複数の平面板2の各々は、熱伝導性の高い物質上に、熱放射性の高い物質を重ねた構成としてもよい。より具体的には、熱伝導性の高い物質としては、アルミニウムなどの金属を用い、熱放射性の高い物質としては、樹脂などを塗料として塗装してもよい。或いは,アルミニウムなどの熱放射性を向上させるために、基盤1或いは複数の平面板2の各々として、金属表面上にアルマイト処理などを施したものを用いてもよい。
また、基盤1或いは複数の平面板2の各々を加熱する方法としては、例えば、電熱線のような物体を、加熱する対象となる基盤1或いは複数の平面板2に接触或いは内蔵させ、通電させることで加熱してもよい。或いは、基盤1或いは複数の平面板2の各々を加熱する方法としては、基盤1或いは複数の平面板2の各々の周囲に、高温或いは低温の物体を設置し、これらを加熱或いは減熱してもよいし、温風や冷風などを用いてこれらを加熱或いは減熱してもよい。
さらに、基盤1と複数の平面板2との間を複数の支柱3で支える構成は、基盤1と複数の平面板2との間の熱が相互に移動しないように構成する。例えば、各支柱3としては、熱伝導性の低いものを用いて、基盤1と複数の平面板2との間を支えるように構成してもよい。熱伝導性が低い物質としては、例えば、樹脂,プラスチック,木材,ガラス,発泡スチロール,フェノールフォーム,硬質ウレタンフォームなどを用いればよい。なお、本発明はこれに限定されるものではなく、熱伝導性が低い物質であれば何でもよい。
なお、本発明の実施形態で用いるカメラ校正用ボードにおいて、使用する環境は限定されない。例えば、カメラ校正用ボードを、屋内で使用しても良いし、屋外で使用してもよい。
本第2の実施形態においては、後述するカメラ校正用装置の校正用画像撮影部は、このようなカメラ校正用ボードを用いて第1乃至第3の校正用画像を撮影する。校正用画像撮影部は、カメラ校正用ボードを用いて第1の校正用画像として可視画像を撮影する可視カメラと、カメラ校正用ボードを用いて第2の校正用画像として深度画像を撮影するデプスカメラと、カメラ校正用ボードを用いて第3の校正用画像として遠赤外線画像を撮影する遠赤外線カメラとから成る。
次に、第2の実施形態の効果について説明する。
本発明の第2の実施形態によれば、デプスカメラ、遠赤外線カメラ、及び可視カメラを同時に校正するために必要な、カメラ間の外部パラメータを高精度で測定することが可能なカメラ校正用装置を提供できる。その理由は、本発明の第2の実施形態で用いるカメラ校正用ボードを用いることで、基盤1と複数の平面板2とが異なる平面上に位置しており、さらに可視光での反射率も異なり、さらに基盤1の温度と複数の平面板2の温度とが異なるために、複数の平面板2の上に存在する平面上に配置された点群を、可視画像と深度画像及び遠赤外線画像から高精度に抽出できるためである。
次に本発明における実施例について説明する。なお、以下では、上記第1の実施形態、上記第2の実施形態において述べたカメラ校正用ボードを用い、画像処理を用いて構成する例について説明するが、本発明はこれに限定されない。
図2を参照すると、本発明の一実施例に係るカメラ校正用装置は、校正用画像撮影部10と、プログラム制御により動作するコンピュータ(中央処理装置;プロセッサ;データ処理装置)20とから成る。コンピュータ(中央処理装置;プロセッサ;データ処理装置)20は、可視カメラ校正部21と、デプスカメラ校正部22と、赤外線カメラ校正部23と、バンドル調整部30とから成る。
さらに、可視カメラ校正部21は、可視画像特徴点検出部211及び可視カメラパラメータ推定部212から成る。同様に、デプスカメラ校正部22は、深度画像特徴点検出部221及びデプスカメラパラメータ推定部222から成る。また、赤外線カメラ校正部23は、赤外線画像特徴点検出部231及び赤外線カメラパラメータ推定部232から成る。
尚、可視画像特徴点検出部211、深度画像特徴点検出部221、および赤外線画像特徴点検出部231は、それぞれ、第1乃至第3の特徴点検出部とも呼ばれる。また、可視カメラパラメータ推定部212、デプスカメラパラメータ推定部222、および赤外線カメラパラメータ推定部232は、それぞれ、第1乃至第3のカメラパラメータ推定部とも呼ばれる。
以下、各構成の詳細について説明する。
なお、以下では、校正用画像撮影部10として、可視カメラ、デプスカメラ及び遠赤外線カメラを同時に構成する方法について述べるが、本発明はこれに限定されない。例えば、本発明の実施形態におけるカメラ校正用ボードを用いて、校正用画像撮影部10、可視カメラとデプスカメラとのみから成ってもよいし、可視カメラと遠赤外線カメラとのみから成ってもよいし、遠赤外線カメラとデプスカメラとのみから成ってもよい。
尚、可視カメラは第1のカメラとも呼ばれ、デプスカメラは第2のカメラとも呼ばれ、遠赤外線カメラは第3のカメラとも呼ばれる。
校正用画像撮影部10は、本発明の上記実施形態において述べたカメラ校正用ボードを用いて、複数の校正用画像を取得する。より具体的には、基盤1或いは複数の平面板2を加熱した後、複数の校正用画像を、可視カメラ、デプスカメラ、及び遠赤外線カメラにて、例えば、図4、図5のように、同時に、複数の姿勢で撮影すれば良い。
図4は可視カメラにて撮影された第1の校正用画像(可視画像)の一例を示す図であり、図5は遠赤外線カメラにて撮影された第3の校正用画像(遠赤外線画像)の一例を示す図である。
複数の姿勢で撮影する際には、図1に示すカメラ校正用ボードをカメラの光軸に対して傾けて撮影してもよい。例えば、撮影する画像の枚数については、カメラ毎に20枚程度撮影すればよい。撮影した画像は、メモリ(図示せず)に記憶される。
なお、以上では、校正用画像撮影部10は、新たに校正用画像を撮影する場合について述べたが、本発明はこれに限定されるものではない。例えば、あらかじめ撮影され、メモリ(図示せず)に記憶された校正用画像を読み込んでもよい。あるいは、あらかじめ撮影された校正用画像と、校正用画像撮影部10で新たに撮影した校正用画像とをメモリ(図示せず)に記憶してもよい。
図2に戻って、次に、各カメラ(可視カメラ、デプスカメラ、及び遠赤外線カメラ)で撮影した画像(可視画像、深度画像、遠赤外線画像)は、それぞれ、可視カメラ校正部21、デプスカメラ校正部22、および赤外線カメラ校正部23へ供給される。可視画像特徴点検出部211、深度画像特徴点検出部221、及び赤外線画像特徴点検出部231は、それぞれ、可視画像、深度画像、および遠赤外線画像から、可視カメラパラメータ推定部212、デプスカメラパラメータ推定部222、赤外線カメラパラメータ推定部232にて用いる、第1乃至第3の特徴点を検出する。
より具体的には、例えば、可視画像特徴点検出部211は、可視画像(第1の校正用画像)から、複数の平面板2の市松模様上の交点を、第1の特徴点として検出する。第1の特徴点を検出する方法としては、例えば、ハリスのコーナー検出を用いればよい。さらに、より高精度に第1の特徴点の座標を算出するために、可視画像特徴点検出部211は、パラボラフィッティングなどを用いて、サブピクセル精度で第1の特徴点を検出してもよい。
また、深度画像特徴点検出部221は、まず、前処理として、深度画像(第2の校正用画像)から、基盤1の平面を算出し、各画像の画素値をその算出した平面からの距離の値に変換する。その後、深度画像特徴点検出部221は、可視画像特徴点検出部211と同様に、例えばハリスのコーナー検出を用いて、第2の特徴点の座標を算出すればよい。
また、赤外線画像特徴点検出部231は、例えば、前処理として、遠赤外線画像(第3の校正用画像)のノイズを除去する。その後に、赤外線画像特徴点検出部231は、可視画像特徴点検出部211と同様に、例えばハリスのコーナー検出を用いて、第3の特徴点の座標を算出すればよい。
なお、本発明における特徴点検出の方法は、上記に限定されるものではなく、例えばテンプレートマッチングなどの方法で、コーナーを検出してもよい。或いは、本発明における特徴点検出の方法は、エッジ検出処理を行い、市松模様のエッジを検出した後、その交点をコーナーとして検出してもよい。
次に、可視カメラパラメータ推定部212、デプスカメラパラメータ推定部222、および赤外線カメラパラメータ推定部232は、それぞれ、算出された画像の第1乃至第3の特徴点の座標から、各カメラの第1乃至第3のカメラパラメータを算出する。
より具体的に、可視画像を例にとって説明する。可視カメラパラメータ推定部212は、算出した第1の特徴点(市松模様の交点の座標値)から、例えば、非特許文献2に記載の方法を用いて、第1のカメラパラメータとして、可視カメラの内部パラメータを算出すればよい。より具体的には、非特許文献2に記載のカメラモデルを用いて、可視カメラパラメータ推定部212は、算出された第1の特徴点の座標から得られる再投影誤差が最小となるように、第1のカメラパラメータとして、前記カメラモデルの内部パラメータを算出すればよい。
なお、以上の実施例では、第1のカメラパラメータとして、カメラの内部パラメータのみを算出する方法について述べたが、本発明はこれに限定されない。例えば、可視カメラパラメータ推定部212は、内部パラメータと同時に、可視カメラのレンズ歪を算出し、これを補正してもよい。又は、可視カメラパラメータ推定部212は、可視カメラから取得された第1の特徴点の座標から、各カメラにおいてバンドル調整を行い、より高精度に、第1のカメラパラメータとして、内部パラメータとレンズ歪及び、外部パラメータを算出してもよい。より具体的には、非特許文献2に記載のカメラモデルを用いて、可視カメラパラメータ推定部212は、算出された第1の特徴点の座標から得られる再投影誤差が最小となるように、第1のカメラパラメータとして、前記カメラモデルの内部パラメータとレンズ歪及び、外部パラメータを算出すればよい。
また、デプスカメラパラメータ推定部222、及び赤外線カメラパラメータ推定部232は、可視カメラパラメータ推定部212と同様の方法で、第2および第3のカメラパラメータを算出してもよい。又は、デプスカメラパラメータ推定部222、及び赤外線カメラパラメータ推定部232は、各カメラの特性をより精緻にモデル化したものを用いて、第2および第3のカメラパラメータを算出してもよい。例えば、デプスカメラを例にとって説明すると、デプスカメラパラメータ推定部222は、非特許文献1に記載のカメラモデルを用いて、第2のカメラパラメータとして、デプスカメラの内部パラメータやレンズ歪を算出してもよい。
バンドル調整部30は、可視画像特徴点検出部211、深度画像特徴点検出部221、及び赤外線画像特徴点検出部231にて抽出した第1乃至第3の特徴点の座標と、可視カメラパラメータ推定部212、デプスカメラパラメータ推定部222、及び赤外線カメラパラメータ推定部232にて算出した第1乃至第3のカメラパラメータ(各カメラの内部パラメータ,レンズ歪の値)とを用いて、カメラ間の外部パラメータを算出する。より具体的には、バンドル調整部30は、可視画像特徴点検出部211、深度画像特徴点検出部221、及び赤外線画像特徴点検出部231にて抽出した第1乃至第3の特徴点の座標から得られる再投影誤差が最小となるように、カメラ間の外部パラメータを算出すればよい。
次に、図3のフローチャートを参照して、本実施例に係るカメラ校正用装置の全体の動作について詳細に説明する。
まず、各カメラ(可視カメラ、デプスカメラ、及び遠赤外線カメラ)にて校正用ボードを用いて、第1乃至第3の校正用画像を撮影する(S100)。
次に、可視画像特徴点検出部211、深度画像特徴点検出部221、及び赤外線画像特徴点検出部231にて、各カメラにおける第1乃至第3の特徴点を検出する(S101)。
次に、可視カメラパラメータ推定部212、デプスカメラパラメータ推定部222、及び赤外線カメラパラメータ推定部232にて、それぞれ、カメラ毎に算出された画像の第1乃至第3の特徴点の座標から、各カメラの第1乃至第3のカメラパラメータ(内部パラメータ)を算出する(S102)。
さらに、バンドル調整部30にて、可視カメラパラメータ推定部212、デプスカメラパラメータ推定部222、及び赤外線カメラパラメータ推定部232において算出した第1乃至第3のカメラパラメータ(各カメラの内部パラメータ、レンズ歪の値)を用いて、抽出した第1乃至第3の特徴点の座標から得られる再投影誤差が最小となるように外部パラメータを最適化することで、カメラ間の外部パラメータを算出する(S103)。
尚、上記実施例では、校正用画像撮影部10が、可視カメラ、デプスカメラ、及び遠赤外線カメラを有する場合を例に挙げて説明したが、校正用画像撮影部10は、可視カメラとデプスカメラとのみから成っても良い。この場合には、コンピュータ(中央処理装置;プロセッサ;データ処理装置)20は、赤外線カメラ校正部23が不要である。すなわち、コンピュータ(中央処理装置;プロセッサ;データ処理装置)20は、可視カメラ校正部21と、デプスカメラ校正部22と、バンドル調整部30とから成る。
尚、カメラ校正用装置の各部は、ハードウェアとソフトウェアとの組み合わせを用いて実現すればよい。ハードウェアとソフトウェアとを組み合わせた形態では、RAM(random access memory)にカメラ校正用プログラムが展開され、該プログラムに基づいて制御部(CPU(central processing unit))等のハードウェアを動作させることによって、各部を各種手段として実現する。また、該プログラムは、記録媒体に記録されて頒布されても良い。当該記録媒体に記録されたプログラムは、有線、無線、又は記録媒体そのものを介して、メモリに読込まれ、制御部等を動作させる。尚、記録媒体を例示すれば、オプティカルディスクや磁気ディスク、半導体メモリ装置、ハードディスクなどが挙げられる。
上記実施の形態を別の表現で説明すれば、カメラ校正用装置として動作させるコンピュータを、RAMに展開されたカメラ校正用プログラムに基づき、可視カメラ校正部21、デプスカメラ校正部22、赤外線カメラ校正部23、およびバンドル調整部30として動作させることで実現することが可能である。
以上説明したように、本発明の実施例によれば、異なる種類のカメラ同士の校正に必要な、カメラ間の外部パラメータを高精度に計測することが可能となる。
また、本発明の具体的な構成は前述の実施形態(実施例)に限られるものではなく、この発明の要旨を逸脱しない範囲の変更があってもこの発明に含まれる。例えば、上記実施例では、異なる種類のカメラとして、可視カメラ、デプスカメラ、および遠赤外線カメラの3種類のカメラを使用する場合について説明したが、本発明は、4種類以上のカメラを使用する場合にも同様に適用可能であるのは明らかである。
以上、実施の形態(実施例)を参照して本願発明を説明したが、本願発明は上記実施の形態(実施例)に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2015年9月29日に出願された日本出願特願2015−191417を基礎とする優先権を主張し、その開示の全てをここに取り込む。
1 基盤
2 平面板
3 支柱
10 校正用画像撮影部
20 コンピュータ(中央処理装置;プロセッサ;データ処理装置)
21 可視カメラ校正部
211 可視画像特徴点検出部
212 可視カメラパラメータ推定部
22 デプスカメラ校正部
221 深度画像特徴点検出部
222 デプスカメラパラメータ推定部
23 赤外線カメラ校正部
231 赤外線画像特徴点検出部
232 赤外線カメラパラメータ推定部
30 バンドル調整部

Claims (13)

  1. 基盤と、
    該基盤上に、それぞれ、同一の長さを持つ複数の支柱を介して配置された複数の平面板と、
    を備えるカメラ校正用ボードであって、
    前記複数の平面板は、前記基盤に対して空間中の異なる平面上に配置されており、
    前記基盤と前記複数の平面板の各々とは、可視光に対する反射率が異なる、カメラ校正用ボード。
  2. 前記複数の平面板の各々は、矩形状である、請求項1に記載のカメラ校正用ボード。
  3. 前記基盤と前記複数の平面板の各々は、加熱或いは減熱することで温度が異なる状態を作りだされ、かつ熱が相互に移動しないように加工されている、請求項1又は2に記載のカメラ校正用ボード。
  4. 加熱或いは減熱する対象となる前記基盤或いは前記複数の平面板の各々は、熱伝導性が高く、熱放射が大きい材質から構成される、請求項3に記載のカメラ校正用ボード。
  5. 加熱或いは減熱する対象となる前記基盤或いは前記複数の平面板の各々は、熱伝導性の高い物質上に、熱放射性の高い物質を重ねることで構成される、請求項3に記載のカメラ校正用ボード。
  6. 加熱或いは減熱する対象となる前記基盤或いは前記複数の平面板の各々は、加熱対象となる物体を内蔵或いは付属する、請求項3に記載のカメラ校正用ボード。
  7. 前記支柱が熱伝導性の低いものを用いて構成される、請求項3乃至6のいずれか1つに記載のカメラ校正用ボード。
  8. 請求項1又は2に記載のカメラ校正用ボードを用いて、それぞれ、第1および第2の校正用画像を撮影する、種類の異なる第1および第2のカメラを含む校正用画像撮影部と、
    前記第1および第2の校正用画像から、それぞれ、第1および第2の特徴点を算出する第1および第2の特徴点検出部と、
    前記第1および第2の特徴点から、それぞれ、前記第1および第2のカメラ用の第1および第2のカメラパラメータを算出する第1および第2のカメラパラメータ推定部と、
    前記第1および第2のカメラパラメータを用いて、カメラ間の外部パラメータを算出するバンドル調整部と、
    を備えるカメラ校正用装置。
  9. 前記第1のカメラは可視カメラから成り、前記第1の校正用画像は可視画像から成り、
    前記第2のカメラはデプスカメラから成り、前記第2の校正用画像は深度画像から成る、
    請求項8に記載のカメラ校正用装置。
  10. 請求項3乃至7のいずれか1つに記載のカメラ校正用ボードを用いて、それぞれ、第1乃至第N(Nは3以上の整数)の校正用画像を撮影する、種類の異なる第1乃至第Nのカメラを含む校正用画像撮影部と、
    前記第1乃至第Nの校正用画像から、それぞれ、第1乃至第Nの特徴点を算出する第1乃至第Nの特徴点検出部と、
    前記第1乃至第Nの特徴点から、それぞれ、前記第1乃至第Nのカメラ用の第1乃至第Nのカメラパラメータを算出する第1乃至第Nのカメラパラメータ推定部と、
    前記第1乃至第Nのカメラパラメータを用いて、カメラ間の外部パラメータを算出するバンドル調整部と、
    を備えるカメラ校正用装置。
  11. 前記Nは3に等しく、
    前記第1のカメラは可視カメラから成り、前記第1の校正用画像は可視画像から成り、
    前記第2のカメラはデプスカメラから成り、前記第2の校正用画像は深度画像から成り、
    前記第3のカメラは遠赤外線カメラから成り、前記第3の校正用画像は遠赤外線画像から成る、
    請求項10に記載のカメラ校正用装置。
  12. 請求項1乃至7のいずれか1つに記載のカメラ校正用ボードを用いて、種類の異なる第1乃至第M(Mは2以上の整数)のカメラが、それぞれ、第1乃至第Mの校正用画像を撮影し、
    第1乃至第Mの特徴点検出部が、それぞれ、前記第1乃至第Mの校正用画像から第1乃至第Mの特徴点を算出し、
    第1乃至第Mのカメラパラメータ推定部が、それぞれ、前記第1乃至第Mの特徴点から前記第1乃至第Mのカメラ用の第1乃至第Mのカメラパラメータを算出し、
    バンドル調整部が、前記第1乃至第Mのカメラパラメータを用いて、カメラ間の外部パラメータを算出する、
    カメラ校正用方法。
  13. 請求項1乃至7のいずれか1つに記載のカメラ校正用ボードを用いて、種類の異なる第1乃至第M(Mは2以上の整数)のカメラが撮影して得られた第1乃至第Mの校正用画像から、それぞれ、第1乃至第Mの特徴点を算出する手順と、
    前記第1乃至第Mの特徴点から、それぞれ、前記第1乃至第Mのカメラ用の第1乃至第Mのカメラパラメータを算出する手順と、
    前記第1乃至第Mのカメラパラメータを用いて、カメラ間の外部パラメータを算出する手順と、
    をコンピュータに実行させるカメラ校正用プログラムを記録したカメラ校正用プログラム記録媒体。
JP2017542739A 2015-09-29 2016-09-26 カメラ校正用ボード、カメラ校正用装置、カメラ校正用方法、及びカメラ校正用プログラム記録媒体 Active JP6721884B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015191417 2015-09-29
JP2015191417 2015-09-29
PCT/JP2016/004338 WO2017056473A1 (ja) 2015-09-29 2016-09-26 カメラ校正用ボード、カメラ校正用装置、カメラ校正用方法、及びカメラ校正用プログラム記録媒体

Publications (2)

Publication Number Publication Date
JPWO2017056473A1 JPWO2017056473A1 (ja) 2018-07-12
JP6721884B2 true JP6721884B2 (ja) 2020-07-15

Family

ID=58423101

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017542739A Active JP6721884B2 (ja) 2015-09-29 2016-09-26 カメラ校正用ボード、カメラ校正用装置、カメラ校正用方法、及びカメラ校正用プログラム記録媒体

Country Status (3)

Country Link
US (1) US20180262748A1 (ja)
JP (1) JP6721884B2 (ja)
WO (1) WO2017056473A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6718279B2 (ja) * 2016-03-31 2020-07-08 株式会社オーク製作所 露光装置、ステージ較正システム、およびステージ較正方法
US10891756B2 (en) * 2016-11-07 2021-01-12 Sony Corporation Image processing device, chart for calibration, and calibration system
JP2019158414A (ja) * 2018-03-08 2019-09-19 東芝テック株式会社 情報処理装置
WO2020124316A1 (en) * 2018-12-17 2020-06-25 SZ DJI Technology Co., Ltd. Image processing method and apparatus
WO2020175621A1 (ja) * 2019-02-28 2020-09-03 日本電気株式会社 カメラ校正情報取得装置、画像処理装置、カメラ校正情報取得方法および記録媒体
CN110322519B (zh) * 2019-07-18 2023-03-31 天津大学 一种用于激光雷达与相机联合标定的标定装置及标定方法
DE102019122654A1 (de) * 2019-08-22 2021-02-25 M & H Inprocess Messtechnik Gmbh Vorrichtung zur Kalibrierung einer Geschwindigkeit einer Bewegungsachse einer Maschine
CN110969670B (zh) * 2019-11-22 2022-02-15 大连理工大学 基于显著特征的多光谱相机动态立体标定方法
WO2023187080A1 (en) * 2022-03-31 2023-10-05 Essilor International Mirror based calibration of a camera

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4480372A (en) * 1981-04-20 1984-11-06 Hughes Aircraft Company Process of fabricating target for calibrating and testing infrared detection devices
JP3902109B2 (ja) * 2002-10-02 2007-04-04 本田技研工業株式会社 赤外線カメラ特性確認治具
DE102006038423A1 (de) * 2006-08-17 2008-02-21 Bayerische Motoren Werke Ag Vorrichtung zur Kalibrierung einer optischen Kamera und/oder einer Infrarot-Kamera
JP2011064636A (ja) * 2009-09-18 2011-03-31 Suzuki Motor Corp 熱画像カメラの校正装置
JP2013002258A (ja) * 2011-06-22 2013-01-07 Panasonic Corp 間仕切パネル及びこれを備えた間仕切装置
USD737362S1 (en) * 2013-03-05 2015-08-25 Hon Hai Precision Industry Co., Ltd. Camera calibration board
WO2014162344A1 (ja) * 2013-04-01 2014-10-09 株式会社ブリリアントサービス キャリブレーションパターン、キャリブレーション方法およびキャリブレーションプログラム
US9596459B2 (en) * 2014-09-05 2017-03-14 Intel Corporation Multi-target camera calibration

Also Published As

Publication number Publication date
US20180262748A1 (en) 2018-09-13
WO2017056473A1 (ja) 2017-04-06
JPWO2017056473A1 (ja) 2018-07-12

Similar Documents

Publication Publication Date Title
JP6721884B2 (ja) カメラ校正用ボード、カメラ校正用装置、カメラ校正用方法、及びカメラ校正用プログラム記録媒体
KR102261020B1 (ko) 개선된 카메라 캘리브레이션 시스템, 타겟 및 프로세스
Wasenmüller et al. Comparison of kinect v1 and v2 depth images in terms of accuracy and precision
US20180374239A1 (en) System and method for field calibration of a vision system imaging two opposite sides of a calibration object
US11562502B2 (en) System and method for calibrating a plurality of 3D sensors with respect to a motion conveyance
JP6845895B2 (ja) 画像に基づく位置検出方法、装置、機器及び記憶媒体
Staranowicz et al. Practical and accurate calibration of RGB-D cameras using spheres
WO2016106694A1 (en) System and method for adjusting a baseline of an imaging system with microlens array
CN106530358A (zh) 仅用两幅场景图像标定ptz摄像机的方法
WO2014083386A2 (en) A method of calibrating a camera and a system therefor
JP2011506914A (ja) 物体形状のマルチフレーム表面測定のためのシステム及び方法
US10757394B1 (en) System and method for calibrating a plurality of 3D sensors with respect to a motion conveyance
JP2016527478A (ja) 三次元撮影装置、三次元画像の作成方法、および、三次元撮影装置の設定方法
WO2018120168A1 (zh) 一种视觉检测方法及系统
JP6282377B2 (ja) 3次元形状計測システムおよびその計測方法
KR101785202B1 (ko) 열상 센서와 rgb-d 센서 융합을 위한 자동 캘리브레이션 시스템과 그 방법
JP6694281B2 (ja) ステレオカメラおよび撮像システム
WO2016208404A1 (ja) 情報処理装置および方法、並びにプログラム
Kassebaum et al. 3-D target-based distributed smart camera network localization
WO2013149866A2 (en) Method and device for transforming an image
TWI468658B (zh) 鏡頭檢測裝置及方法
JP6237032B2 (ja) 色と三次元形状の計測方法及び装置
CA2849019A1 (en) Motion analysis through geometry correction and warping
JP4227037B2 (ja) 撮像システム及び校正方法
Sentenac et al. Automated thermal 3D reconstruction based on a robot equipped with uncalibrated infrared stereovision cameras

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190807

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200512

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200604

R150 Certificate of patent or registration of utility model

Ref document number: 6721884

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250