JPWO2019138646A1 - キャリブレーション装置とキャリブレーション方法およびキャリブレーションチャート装置 - Google Patents

キャリブレーション装置とキャリブレーション方法およびキャリブレーションチャート装置 Download PDF

Info

Publication number
JPWO2019138646A1
JPWO2019138646A1 JP2019564302A JP2019564302A JPWO2019138646A1 JP WO2019138646 A1 JPWO2019138646 A1 JP WO2019138646A1 JP 2019564302 A JP2019564302 A JP 2019564302A JP 2019564302 A JP2019564302 A JP 2019564302A JP WO2019138646 A1 JPWO2019138646 A1 JP WO2019138646A1
Authority
JP
Japan
Prior art keywords
marker
calibration
infrared
pixel
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019564302A
Other languages
English (en)
Other versions
JP7127656B2 (ja
Inventor
小柳津 秀紀
秀紀 小柳津
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2019138646A1 publication Critical patent/JPWO2019138646A1/ja
Application granted granted Critical
Publication of JP7127656B2 publication Critical patent/JP7127656B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/02Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J2005/0077Imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/80Calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • G06T2207/30208Marker matrix

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Studio Devices (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Analysis (AREA)

Abstract

ピーク検出部32は、キャリブレーションチャート装置20において、移動方向の赤外線放射量の分布が単峰分布であるマーカーを第1の方向に順次移動させて、移動位置毎に赤外線カメラIRCで撮像された複数の赤外線撮像画と、マーカーを前記第1の方向と異なる第2の方向に順次移動させて、移動位置毎に赤外線カメラIRCで撮像された複数の赤外線撮像画とから、画素毎に画素値が最大となるマーカーの位置を検出する。キャリブレーション処理部36は、ピーク検出部32で画素毎に検出されたマーカーの位置を用いてカメラパラメータを算出する。赤外線カメラのキャリブレーションを容易に行えるようになる。

Description

この技術は、キャリブレーション装置とキャリブレーション方法およびキャリブレーションチャート装置に関し、赤外線カメラのキャリブレーションを容易に行えるようにする。
従来、撮像画を用いて例えば認識やデプス推定等の処理を精度よく行うため、カメラの光学系の特性(例えばレンズ歪みやFOV(field of view)等)に関する内部パラメータや、カメラの位置や姿勢に関する外部パラメータを算出することが行われている。
例えば、非特許文献1では、三次元位置が既知のマーカーを持つチャートを撮像して、得られた撮像画に基づき内部パラメータと外部パラメータを算出することが開示されている。また、非特許文献2では、ぼけているマーカーの位置を正確に求める手法が開示されている。さらに、非特許文献3では、マーカーエッジの位置を、フィッティングした楕円の画素値の内外差が最大になる位置として求めることで、マーカー位置を精度よく検出する技術が開示されている。
R.Lenz and R.Tsai, "Techniques for calibration of the scale factor and image center for high accuracy 3-D machine vision metrology," IEEE Trans. Pattern Anal. Mach. Intell. , vol. 10, no. 5, pp. 713-720, Sep. 1988. Ouellet,Jean-Nicolas, and Patrick Hebert. "A simple operator for very precise estimation of ellipses." Computer and Robot Vision, 2007. CRV'07. Fourth Canadian Conference on. IEEE, 2007. Xiao,Yijun, and R.B.Fisher. "Accurate feature extraction and control point correction for camera calibration with a mono-plane target." Proc. Int. Conf. on 3D Processing. 2010.
ところで、赤外線カメラは、物体からの赤外線を画像として捉えることから、例えば、夜間又は悪天候時などであっても温度を持った被写体を検出することが可能となる。また、赤外線カメラを認識処理に利用する場合、可視光に感度を有する一般的なカメラ(可視光カメラ)と同様に、キャリブレーションを行う必要がある。
赤外線カメラは、解像度が上がるに伴い価格も高価となり、民生用の機器に組み込まれる赤外線カメラでは、可視光カメラに比べて解像度が非常に低い場合が多い。このような低解像度の赤外線装置のキャリブレーションを行う場合、解像度が低いことから非特許文献2や非特許文献3の技術を適用することが困難である。また、解像度が低いことから一枚の画像で撮影可能なマーカーの数は少ないため、キャリブレーション用のチャートや撮像方向のバリエーションを増やして情報量を多くする必要がある。しかし、情報量を増やすと、キャリブレーション処理に要する時間の増加やキャリブレーション処理を行うために必要な検査治具等の大型化等につながることから、キャリブレーションを安価かつ容易に行うことが困難である。
そこで、この技術では、赤外線カメラのキャリブレーションを容易に行えるキャリブレーション装置とキャリブレーション方法およびキャリブレーションチャート装置を提供することを目的とする。
この技術の第1の側面は、
移動方向の赤外線放射量の分布が単峰分布であるマーカーを第1の方向に順次移動させて撮像された複数の赤外線撮像画と、前記マーカーを前記第1の方向と異なる第2の方向に順次移動させて撮像された複数の赤外線撮像画とから、画素毎に画素値が最大となる前記マーカーの位置を検出するピーク検出部と、
前記ピーク検出部で画素毎に検出されたマーカーの位置を用いてカメラパラメータを算出するキャリブレーション処理部と
を備えるキャリブレーション装置にある。
この技術においては、移動方向の赤外線放射量の分布が単峰分布となるように構成されたマーカーを第1の方向(例えば水平方向)に順次移動させて、移動位置毎に撮像された複数の赤外線撮像画と、マーカーを第1の方向と異なる第2の方向(例えば第1の方向に対して直交する垂直方向)に順次移動させて、移動位置毎に撮像された複数の赤外線撮像画とから、画素毎に画素値が最大となるマーカーの位置を検出する。なお、第1の方向と第2の方向は、マーカーを撮像する赤外線カメラの光軸に対して直交する方向とする。赤外線撮像画では、マーカーが移動方向において1画素以上の幅として撮像されており、ピーク検出部では、マーカーの位置が異なる複数の赤外線撮像画の画素値を用いた補間処理によって、画素値が最大となるマーカーの位置をマーカーの移動間隔よりも高精度に検出する。
キャリブレーション処理部は、画素毎に検出されたマーカーの位置と、赤外線撮像画を取得した赤外線カメラからマーカーまでの距離を用いて、カメラパラメータを算出する。また、マーカーは赤外線撮像画を取得した赤外線カメラからの距離が異なる複数のマーカーであり、ピーク検出部は、複数のマーカー毎に第1の方向に順次移動させて撮像された赤外線撮像画と第2の方向に順次移動させて撮像された赤外線撮像画を用いて、複数のマーカー毎に、画素値が最大となる位置を検出して、キャリブレーション処理部は、画素毎およびマーカー毎に検出されたマーカーの位置とマーカー間の距離を用いてカメラパラメータを算出する。
この技術の第2の側面は、
移動方向の赤外線放射量の分布が単峰分布であるマーカーを第1の方向に順次移動させて撮像された複数の赤外線撮像画と、前記マーカーを前記第1の方向と異なる第2の方向に順次移動させて撮像された複数の赤外線撮像画とから、画素毎に画素値が最大となる前記マーカーの位置をピーク検出部で検出することと、
前記ピーク検出部で画素毎に検出されたマーカーの位置を用いてカメラパラメータをキャリブレーション処理部で算出することと
を含むキャリブレーション方法にある。
この技術の第3の側面は、
移動方向の赤外線放射量の分布が単峰分布となるように構成されたマーカーと、
前記マーカーを第1方向と前記第1の方向とは異なる第2の方向に移動させる駆動制御部と
を備えるキャリブレーションチャート装置にある。
この技術においては、例えば第1の方向と第2の方向が直交する方向とされており、第1の方向と第2の方向は、マーカーを撮像する赤外線カメラの光軸に対して直交する方向とされている。マーカーは、第1の方向と第2の方向に対して直交する方向に所定間隔で複数設けてもよい。また、マーカーは第1の方向に移動するマーカーと第2の方向に移動するマーカーで構成してもよい。さらに、第1の方向に移動するマーカーと第2の方向に移動するマーカーは、マーカーを撮像する赤外線カメラから異なる距離に複数設けてもよい。マーカーは、移動方向が赤外線カメラの1画素以上の幅として撮像される。
この技術によれば、移動方向の赤外線放射量の分布が単峰分布であるマーカーを第1の方向に順次移動させて撮像された複数の赤外線撮像画と、マーカーを第1の方向と異なる第2の方向に順次移動させて撮像された複数の赤外線撮像画とから、画素毎に画素値が最大となるマーカーの位置をピーク検出部で検出して、ピーク検出部で画素毎に検出したマーカーの位置を用いてキャリブレーション処理部でカメラパラメータが算出される。したがって、赤外線カメラのキャリブレーションを容易に行えるようになる。なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
キャリブレーションシステムの構成を例示した図である。 キャリブレーションチャート装置の構成を例示した図である。 水平マーカー21Hを赤外線カメラIRCで撮像した場合を示す図である。 水平マーカーの構成を例示した図である。 キャリブレーション装置の構成を例示した図である。 撮像制御部の動作を例示したフローチャートである。 ピーク検出部の動作を例示したフローチャートである。 パラボラフィッティング処理を説明するための図である。 キャリブレーションチャート装置の構成を例示した図である。 キャリブレーション装置の構成を例示した図である。 撮像制御部の動作を例示したフローチャートである。 カメラパラメータを用いる装置が歪補正装置である場合を示す図である。
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.キャリブレーションシステムの構成
2.第1の実施の形態
2−1.キャリブレーションチャート装置の構成
2−2.キャリブレーション装置の構成
2−3.キャリブレーション装置の動作
3.第2の実施の形態
3−1.キャリブレーションチャート装置の構成
3−2.キャリブレーション装置の構成
3−3.キャリブレーション装置の動作
4.他の実施の形態
5.応用例
<1.キャリブレーションシステムの構成>
図1は、キャリブレーションシステムの構成を例示している。キャリブレーションシステム10は、キャリブレーションチャート装置20とキャリブレーション装置30を有している。
キャリブレーションチャート装置20は、移動方向の赤外線放射量の分布が単峰分布となるように構成されたマーカーと、マーカーを第1方向と前記第1の方向とは異なる第2の方向に個々に移動させる駆動制御部を有している。なお、以下の説明では、第1の方向を水平方向として第2の方向を垂直方向として、二次元方向にマーカーを移動させる。キャリブレーション装置30は、マーカーを第1の方向に順次移動させて撮像された複数の赤外線撮像画と、マーカーを第2の方向に順次移動させて撮像された複数の赤外線撮像画とから、画素毎に画素値が最大となるマーカーの位置を検出して、画素毎に検出されたマーカーの位置を用いてカメラパラメータ、例えば内部パラメータまたは内部パラメータと外部パラメータを算出する。キャリブレーション装置30は、算出したカメラパラメータを、赤外線カメラIRCで取得された赤外線画像を用いて認識等の画像処理を行う外部機器等へ出力する。
<2.第1の実施の形態>
<2−1.キャリブレーションチャート装置の構成>
図2は、第1の実施の形態のキャリブレーションチャート装置の構成を例示している。キャリブレーションチャート装置20は、例えば水平マーカー21H、垂直マーカー21V、水平マーカースライダー22H、垂直マーカースライダー22V、スライダー駆動部23、フレーム25を有している。
水平マーカー21Hは、長手方向が水平方向とされており、長手方向の端部が水平マーカースライダー22Hに取り付けられている。水平マーカースライダー22Hは、垂直方向の移動を可能としてフレーム25に設けられている。したがって、水平マーカー21Hは、垂直方向(矢印FA方向)に移動可能としてフレーム25に保持されている。
垂直マーカー21Vは、長手方向が垂直方向とされており、垂直方向の端部が垂直マーカースライダー22Vに取り付けられている。垂直マーカースライダー22Vは、水平方向の移動を可能としてフレーム25に設けられている。したがって、垂直マーカー21Vは、水平マーカー21Hの移動方向に対して直交する水平方向(矢印FB方向)に移動可能としてフレーム25に保持されている。
スライダー駆動部23は、キャリブレーション装置30からの制御信号に基づき、水平マーカースライダー22Hまたは垂直マーカースライダー22Vを駆動する。スライダー駆動部23は、水平マーカースライダー22Hを駆動して、水平マーカー21Hを垂直方向(矢印FA方向)に移動させる。また、スライダー駆動部23は、垂直マーカースライダー22Vを駆動して、垂直マーカー21Vを水平方向(矢印FB方向)に移動させる。
図3は、水平マーカー21Hを水平マーカースライダー22Hによって垂直方向に移動させて、水平マーカー21Hを赤外線カメラIRCで撮像した場合を示している。図3の(a)は、水平マーカー21Hが線状の発熱体であり、画素に比べて細い場合を例示している。この場合、マーカーが移動してマーカーの赤外線像GMKが時点t1で画素Paの位置になると、図3の(b)に示すように画素Paの画素値が増加して、マーカーの赤外線像GMKが画素内を移動している時点t2までの期間、画素Paの画素値は一定となる。その後、時点t2でマーカーの赤外線像GMKが画素Paの位置から外れると画素Paの画素値が減少する。このように、マーカーの赤外線像が画素内を移動しているときは画素値が一定となることから、画素の中心となるマーカーの位置を正確に計測することは困難である。
図3の(c)は、水平マーカー21Hが帯状の発熱体であり、画素に比べて太い場合を例示している。なお、説明を簡単とするため、マーカー(帯状の発熱体)からの赤外線放射量は、いずれの位置でも一定とする。この場合、マーカーが移動してマーカーの赤外線像の先端GMKfが時点t11で画素Paの位置となり、その後、先端GMKfが時点t12で画素Paの位置を通過するまでの期間、図3の(d)に示すように、画素Paの画素値はマーカーの移動に伴い増加する。先端GMKfが時点t12で画素Paの位置を通過してから後端GMKbが画素Paの位置となる時点t13までの期間、画素Paの画素値はマーカーが移動しても一定となる。その後、後端GMKbが画素Paの位置となる時点t13から後端GMKbが画素Paの位置を通過する時点t14までの期間、画素Paの画素値はマーカーの移動に伴い減少する。このように、画素がマーカーの赤外線像内の位置である期間中は画素値が一定となることから、画素の中心となるマーカーの位置を正確に計測することは困難である。
そこで、この技術では、水平マーカー21Hの移動方向である垂直方向の赤外線放射量の分布を単峰分布、すなわち、ピーク位置を有してピーク位置から離れるに伴い赤外線放射量が減少する分布とする。なお、説明を簡単とするため、水平マーカー21Hからの赤外線放射量の分布は、ピーク位置を対象軸として上側と下側で対象とする。
図3の(e)は、水平マーカー21Hの垂直方向における赤外線放射量の分布を単峰分布とした場合を例示している。なお、図3の(e)では、マーカーの赤外線像GMKにおいて、暗い部分は赤外線放射量が少なく、明るい部分は赤外線放射量が多いことを示している。また、マーカーの赤外線像GMKは、移動方向の幅が赤外線カメラの1画素以上の幅とする。この場合、マーカーが移動してマーカーの赤外線像の先端GMKfが時点t21で画素Paの位置を通過すると、図3の(f)に示すように、画素Paの画素値はマーカーの移動に伴い増加する。その後、画素Paの画素値は、赤外線放射量のピーク位置(破線で示す)が画素の中央となる時点t22まで増加して、ピーク位置が画素Paの中央を通過すると画素Paの画素値は減少する。また、画素Paの画素値は、マーカーの赤外線像の後端GMKbが時点t23で画素Paの位置を通過するまで、マーカーが移動に伴い減少する。このように、赤外線放射量が最大であるピーク位置が画素の中央となると画素値が最大となる。したがって、マーカーの移動方向における赤外線放射量の分布を単峰分布として、マーカーを赤外線カメラで撮像したときにマーカーを示す赤外線像の移動方向の幅を1画素以上の幅とする。このようにマーカーを構成すれば、画素Paに対してマーカーの所定位置(赤外線放射量が最大であるピーク位置)を正確に計測することが可能となる。
水平マーカー21Hと垂直マーカー21Vは、移動方向の赤外線放射量の分布が、単峰分布となるように構成されている。図4は、水平マーカーの構成を例示している。水平マーカー21Hは、例えば線状発熱体211Hとディフューザ212Hを用いて構成されており、線状発熱体211Hは、長手方向を水平方向としてディフューザ212Hに固定されている。このように線状発熱体211Hをディフューザ212Hに固定した場合、線状発熱体の取り付け面と対向する面(以下「撮像面」という)の温度分布は、フーリエの法則に従い式(1)に示すように温度勾配を生じる。なお、式(1)において「J」は熱流束、「dT/dx」は温度勾配、「λ」は熱伝導度である。また、赤外線放射量は絶対温度の4乗に比例することが知られており、温度勾配に応じて赤外線放射量が変化する。すなわち、垂直方向の赤外線放射量の分布は単峰分布となる。
J= −λ(dT/dx) ・・・(1)
垂直マーカー21Vは、水平マーカー21Hと同様に構成されており、水平マーカー21Hを90度回転した縦方向の向きとされている。
図2に示すように構成されたキャリブレーションチャート装置20の水平マーカー21Hと垂直マーカー21Vは、赤外線カメラIRCによって水平マーカー21Hの垂直方向の移動位置毎、および水平マーカー21Hの垂直方向の移動位置毎に撮像される。また、赤外線カメラIRCで得られた複数の赤外線撮像画は、キャリブレーション装置30へ出力される。また、赤外線カメラIRCは、例えばキャリブレーションチャート装置20の正面に設けられて、水平マーカー21Hと垂直マーカー21Vの移動方向が赤外線カメラIRCの光軸に対して直交する方向とされている。さらに、赤外線カメラIRCは、水平マーカー21Hを示す赤外線像および垂直マーカー21Vを示す赤外線像の移動方向の幅が、1画素以上の幅となるように、水平マーカー21Hと垂直マーカー21Vの撮像を行う。
<2−2.キャリブレーション装置の構成>
図5は、キャリブレーション装置の構成を例示している。キャリブレーション装置は、例えばカウント値と水平マーカー21Hと垂直マーカー21Vの位置を対応させて、カウント値に基づき水平マーカー21Hと垂直マーカー21Vの位置移動制御を行う。
キャリブレーション装置30は、画像蓄積部31、ピーク検出部32、チャート物理情報記憶部33、変換情報記憶部34、情報合成部35、キャリブレーション処理部36、撮像制御部37を有している。
画像蓄積部31は、赤外線カメラIRCで取得された複数の赤外線画像を蓄積できるように構成されている。
ピーク検出部32は、画像蓄積部31に蓄積されている赤外線画像群から画素毎に赤外線放射量がピークとなる水平マーカー21Hと垂直マーカー21Vの位置を検出する。ピーク検出部32は、画素毎に赤外線画像群の対応する画素位置の画素値を用いて例えば補間処理を行い、画素値がピークとなる水平マーカー21Hと垂直マーカー21Vのカウント値を検出する。ピーク検出部32は、検出したカウント値をピークカウンタマトリクスの対応する画素位置の情報として、画素値がピークとなるカウント値を画素毎に示すピークカウンタマトリクスを生成する。ピーク検出部32は、生成したピークカウンタマトリクスを情報合成部35へ出力する。
チャート物理情報記憶部33は、キャリブレーションチャート装置20に関する物理情報、例えば赤外線カメラIRCからキャリブレーションチャート装置20までの距離を示す距離情報が記憶されている。
変換情報記憶部34は、カウント値を位置に変換する変換情報(例えば変換テーブル)を記憶している。変換情報では、水平マーカー21Hについてのカウント値に対する垂直方向の位置が示されており、垂直マーカー21Vについてのカウント値に対する水平方向の位置が示されている。
情報合成部35は、変換情報記憶部34に記憶されている変換デーブルに基づき、ピークカウンタマトリクスで示された画素毎のカウント値をマーカーの位置に変換する。さらに情報合成部35は、チャート物理情報記憶部33に記憶されている物理情報を取得して、赤外線放射量がピークとなった水平マーカー21Hと垂直マーカー21Vの位置を画素毎に示すチャート位置情報と物理情報をキャリブレーション処理部36へ出力する。
キャリブレーション処理部36は、情報合成部35から出力されたチャート位置情報と物理情報に基づき、赤外線カメラIRCの内部パラメータを算出する。赤外線画像の画素位置とマーカーの三次元位置との関係は、チャート位置情報と物理情報によって明らかである。したがって、キャリブレーション処理部36は、特許文献1と同様な処理を行うことで内部パラメータを算出できる。
撮像制御部37は、キャリブレーションチャート装置20における水平マーカー21Hと垂直マーカー21Vの移動制御と、赤外線カメラIRCの撮像動作制御を行う。さらに撮像制御部37は、赤外線カメラIRCまたは画像蓄積部31を制御して、赤外線撮像画像に、水平マーカー21Hと垂直マーカー21Vのカウント値を関連付ける。さらに、撮像制御部37は、所定数の赤外線撮像画が画像蓄積部31に蓄積されるようになったとき、ピーク検出部32の動作を開始させて、画像毎に画素値が最大となる水平マーカー21Hと垂直マーカー21Vのカウント値を検出させる。
<2−3.キャリブレーション動作>
次に、キャリブレーション動作について説明する。図6は、キャリブレーション装置における撮像制御部の動作を例示したフローチャートである。
ステップST1で撮像制御部は変換情報を取得する。撮像制御部37は、変換情報記憶部34からカウント値をマーカーの位置に変換する変換情報(変換テーブル)を取得してステップST2に進む。
ステップST2で撮像制御部はマーカー位置の初期化を行う。撮像制御部37は、例えば水平マーカー21Hと垂直マーカー21Vのカウント値を「0」とする。また、撮像制御部37は、変換情報に基づきカウント値を位置情報に変換して、水平マーカー21Hの垂直方向の初期位置と垂直マーカー21Vの水平方向の初期位置を設定してステップST3に進む。
ステップST3で撮像制御部は垂直マーカー移動処理を行う。撮像制御部37は、キャリブレーションチャート装置20を制御して、垂直マーカー21Vを設定された水平方向の位置に移動させてステップST4に進む。
ステップST4で撮像制御部は撮像指示を行う。撮像制御部37は、撮像指示を赤外線カメラIRCへ出力して、キャリブレーションチャート装置20を撮像した赤外線撮像画を1フレーム取得させてステップST5に進む。
ステップST5で撮像制御部は水平方向更新位置を設定する。撮像制御部37は、垂直マーカー21Vのカウント値に所定量を加算することで、垂直マーカー21Vの水平方向の位置を新たに設定してステップST6に進む。
ステップST6で撮像制御部は更新後の位置がリミットを超えるか判別する。撮像制御部37は、ステップST5で設定された更新後の位置が垂直マーカー21Vの水平方向移動範囲を超えない場合にステップST3に戻り、水平方向移動範囲を超える場合にステップST7に進む。
ステップST7で撮像制御部は水平マーカー移動処理を行う。撮像制御部37は、キャリブレーションチャート装置20を制御して、水平マーカー21Hを設定された垂直方向の位置に移動させてステップST8に進む。
ステップST8で撮像制御部は撮像指示を行う。撮像制御部37は、撮像指示を赤外線カメラIRCへ出力して、キャリブレーションチャート装置20を撮像した赤外線撮像画を1フレーム取得させてステップST9に進む。
ステップST9で撮像制御部は垂直方向更新位置を設定する。撮像制御部37は、水平マーカー21Hのカウント値に所定量を加算することで、水平マーカー21Hの垂直方向の位置を新たに設定してステップST10に進む。
ステップST10で撮像制御部は更新後の位置がリミットを超えるか判別する。撮像制御部37は、ステップST9で設定された更新後の位置が水平マーカー21Hの垂直方向移動範囲を超えない場合にステップST7に戻り、垂直方向移動範囲を超える場合にステップST11に進む。
ステップST11で撮像制御部はピーク検出指示を行う。ステップST1乃至ステップST10の処理を行うと、赤外線カメラIRCでは、垂直マーカー21Vを水平方向移動範囲内で水平方向に順次移動して移動位置毎の赤外線撮像画と、水平マーカー21Hを垂直方向移動範囲内で垂直方向に順次移動して移動位置毎の赤外線撮像画が取得される。したがって、撮像制御部37は、取得されている赤外線撮像画に基づき各画素位置で画素値がピークとなる水平マーカー21Hと垂直マーカー21Vの位置を、ピーク検出部32で検出するように動作制御を行う。なお、赤外線撮像画には水平マーカー21Hと垂直マーカー21Vのカウント値が関連付けられている。
次に、ピーク検出部の動作について説明する。図7は、キャリブレーション装置におけるピーク検出部の動作を例示したフローチャートである。
ステップST21でピーク検出部はピークカウンタマトリクスを設定する。ピーク検出部32は、赤外線カメラIRCで取得される赤外線撮像画の水平方向および垂直方向の画素数に対応したサイズのピークカウンタマトリクスを設けてステップST22に進む。
ステップST22でピーク検出部は画素垂直位置を示す位置パラメータPyを初期化する。ピーク検出部32は、垂直方向の画素位置を示す位置パラメータPyを初期位置「0」としてステップST23に進む。
ステップST23でピーク検出部は画素水平位置を示す位置パラメータPxを初期化する。ピーク検出部32は、水平方向の画素位置を示す位置パラメータPxを初期位置「0」としてステップST24に進む。
ステップST24でピーク検出部は画素位置(Px,Py)で最大画素値となる画像を検出する。ピーク検出部32は、垂直マーカー21Vを水平方向に移動して取得された赤外線撮像画から画素位置(Px,Py)の画素値が最大となる画像FHmaxと、水平マーカー21Hを垂直方向に移動して取得された赤外線撮像画から画素位置(Px,Py)の画素値が最大となる画像FVmaxを検出してステップST25に進む。
ステップST25でピーク検出部は高精度ピーク位置検出処理を行う。ピーク検出部32は、高精度ピーク位置検出処理を行い、画素値が最大となる水平マーカー21Hのカウント値と垂直マーカー21Vのカウント値を、マーカーの移動単位よりも詳細に検出する。ピーク検出部は高精度ピーク位置検出処理として、補間処理例えばパラボラフィッティング処理を行う。なお、高精度ピーク位置検出処理ではパラボラフィッティング処理に限らず等角直線フィッティング処理等を用いることも可能であるが、赤外線放射量の変化がピーク位置近傍で2次関数に近い場合、パラボラフィッティング処理を用いることが好ましい。
図8は、パラボラフィッティング処理を説明するための図である。ピーク検出部32は、画素値が最大である画像FHmaxと垂直マーカー21Vが画像FHmaxに対して直前の位置である画像FHmax-1と直後の位置である画像FHmax+1から、画素位置(Px,Py)の画素値を取得してパラボラフィッティング処理を行う。なお、画素位置(Px,Py)の画素値は、画像FHmaxの場合に画素値Im、画像FHmax-1の場合に画素値Im-1、画像FHmax+1の場合に画素値Im+1とする。また、画像FHmaxのマーカー位置をカウント値MKm、画像FHmax-1の場合にマーカー位置をカウント値MKm-1、画像FHmax+1の場合のマーカー位置をカウント値MKm+1とする。また、カウント値MKm-1とカウント値MKmとの間隔およびカウント値MKmとカウント値MKm+1との間隔は上述のように所定量とされており、等しい間隔とされている。
ピーク検出部32は、式(2)の演算を行い、画素値が最大値となるマーカー位置と画像FHmaxのマーカー位置を示すカウント値MKmとの差であるピーク位置誤差δを算出する。
δ=(Im-1 − Im+1)/(2×Im-1 − 4×Im + 2×Im+1) ・・・(2)
さらに、ピーク検出部32は、画像FHmaxのマーカー位置を示すカウント値MKmに対してピーク位置誤差δを生じるマーカー位置のカウント値MKm’を、ピークカウンタマトリクスにおける画素位置(Px,Py)の対応位置に記憶させる。すなわち、ピークカウンタマトリクスにおける画素位置(Px,Py)の対応位置には、垂直マーカー21Vを水平方向に移動したときに画素値が最大となるカウント値が記憶される。なお、ピーク位置誤差δを生じるマーカー位置のカウント値MKm’は式(3)に基づいて算出できる。このような処理を画素位置毎に行えば、画素と水平方向の位置との関係が明らかとなる。
MKm’= (MKm+1−MKm-1)/2×δ + MKm ・・・(3)
ピーク検出部32は、水平マーカー21Hを垂直方向に移動して取得された赤外線撮像画から画素位置(Px,Py)の画素値が最大となる画像FVmaxを用いて、同様な処理を行う。すなわち、ピーク検出部32は、画像FVmaxのマーカー位置を示すカウント値MKmに対してピーク位置誤差δを生じるマーカー位置のカウント値MKm’を、ピークカウンタマトリクスにおける画素位置(Px,Py)の対応位置に記憶させる。したがって、ピークカウンタマトリクスにおける画素位置(Px,Py)の対応位置には、水平マーカー21Hを垂直方向に移動したときに画素値が最大となるカウント値が記憶される。このような処理を画素位置毎に行えば、画素と垂直方向の位置との関係が明らかとなる。ピーク検出部32は、画素毎に画素値が最大となる垂直マーカーの水平方向の位置を示すカウント値と水平マーカーの垂直方向の位置を示すカウント値を検出してステップST26に進む。
ステップST26でピーク検出部は処理結果をピークカウンタマトリクスに記憶する。ピーク検出部32は、ステップST25で検出したカウント値をピークカウンタマトリクスの対応する位置に記憶させてステップST27に進む。
ステップST27でピーク検出部は画素位置を示す位置パラメータPxを更新する。ピーク検出部は、位置パラメータPxに「1」を加算して新たな位置パラメータPxとしてステップST28に進む。
ステップST28でピーク検出部は位置パラメータPxで示される位置が、画像の水平方向サイズを超えるか判別する。ピーク検出部32は、位置パラメータPxで示される位置が画像の水平方向サイズを超えないと判別した場合にステップST24に戻り、水平方向サイズを超える場合にステップST29に進む。
ステップST29でピーク検出部は画素位置を示す位置パラメータPyを更新する。ピーク検出部は、位置パラメータPyに「1」を加算して新たな位置パラメータPyとしてステップST30に進む。
ステップST30でピーク検出部は位置パラメータPyで示される位置が、画像の垂直方向サイズを超えるか判別する。ピーク検出部32は、位置パラメータPyで示される位置が画像の垂直方向サイズを超えないと判別した場合にステップST23に戻り、垂直方向サイズを超える場合にピーク検出処理を終了する。
ピーク検出部32で上述処理を行うと、ピークカウンタマトリクスでは、画素毎に水平方向における画素値が最大となるカウント値と垂直方向における画素値が最大となるカウント値が示される。
情報合成部35は、変換情報記憶部34に記憶されている変換情報を用いて、ピーク検出部32で生成されたピークカウンタマトリクスで示されたカウント値を位置に変更する。また、情報合成部35は、各画素が水平マーカー21Hと垂直マーカー21Vのいずれの位置に対応する画素であるかを示すチャート位置情報を生成する。さらに、情報合成部35は生成したチャート位置情報とチャート物理情報記憶部33から取得した物理情報をキャリブレーション処理部36へ出力する。
キャリブレーション処理部36は、チャート位置情報と物理情報に基づきカメラパラメータを算出する。ここで、チャート位置情報によって赤外線撮像画の画素とキャリブレーションチャート装置20におけるマーカーの位置との対応関係が画像全体で明らかであり、物理情報によって赤外線カメラIRCとキャリブレーションチャート装置20との距離も明らかである。すなわち、全ての画素に対して、対応する三次元位置が求まる。したがって、キャリブレーション処理部36は、上述の非特許文献1と同様な処理を行うことで、赤外線カメラIRCの内部パラメータを算出する。なお、赤外線カメラIRCとキャリブレーションチャート装置20のと位置関係、すなわち外部パラメータは明らかであるとする。
このような第1の実施の形態によれば、キャリブレーションチャート装置のマーカーを移動させて赤外線撮像画を取得することで、取得した赤外線撮像画に基づいて赤外線カメラのカメラパラメータを算出できる。したがって、キャリブレーション処理を効率よく行うことができる。また、検査治具等を大型化しなくとも、キャリブレーションを安価で容易に行うことができるようになる。
<3.第2の実施の形態>
上述の第1の実施の形態では、外部パラメータが明らかである場合について説明したが、第2の実施の形態では、外部パラメータが明らかでない場合について説明する。第2の実施の形態では、赤外線カメラの距離が異なりマーカー間の三次元相対位置が明らかである複数のマーカーを、マーカー毎に第1の方向に順次移動させて撮像された赤外線撮像画と前2の方向に順次移動させて撮像された赤外線撮像画を用いてカメラパラメータを算出する。
<3−1.キャリブレーションチャート装置の構成>
第2の実施の形態において、キャリブレーションチャート装置は、赤外線カメラの距離が異なりマーカー間の三次元相対位置が明らかである複数のマーカーが、マーカー毎に第1の方向と第2の方向に移動可能とされている。
図9は、第2の実施の形態のキャリブレーションチャート装置の構成を例示している。例えば、第2の実施の形態では、第1の実施の形態のキャリブレーションチャート装置を赤外線カメラIRCの光軸方向に所定間隔を隔てて2台設けて、赤外線カメラIRCによって個々のキャリブレーションチャート装置のマーカーを撮像できるように構成されている。赤外線カメラIRCからみて手前に位置するキャリブレーションチャート装置20-1と後方に位置するキャリブレーションチャート装置20-2は、第1の実施の形態のキャリブレーションチャート装置20と同様に構成されている。また、キャリブレーションチャート装置20-1のマーカーは、後方のキャリブレーションチャート装置20-2でマーカーを移動して赤外線撮像画を取得する際に、赤外線カメラIRCの撮像範囲ARの外側位置まで移動可能に構成されている。
<3−2.キャリブレーション装置の構成>
図10は、キャリブレーション装置の構成を例示している。キャリブレーション装置30aは、例えば水平マーカー21Hと垂直マーカー21Vの位置をカウント値と対応させて、カウント値に基づき水平マーカー21Hと垂直マーカー21Vの位置移動制御を、キャリブレーションチャート装置20-1,20-2に対して行う。
キャリブレーション装置30aは、画像蓄積部31、ピーク検出部32、チャート物理情報記憶部33a、変換情報記憶部34、情報合成部35、キャリブレーション処理部36a、撮像制御部37aを有している。
画像蓄積部31は、赤外線カメラIRCで取得された複数の赤外線画像を蓄積できるように構成されている。
ピーク検出部32は、画像蓄積部31に蓄積されている赤外線画像群から画素毎に赤外線放射量がピークとなる水平マーカー21Hと垂直マーカー21Vの位置を、赤外線カメラかの距離が異なるマーカー毎(キャリブレーションチャート装置毎)に検出する。ピーク検出部32は、画素毎に赤外線画像群の対応する画素位置の画素値を用いて例えば補間処理を行い、画素値がピークとなる水平マーカー21Hと垂直マーカー21Vのカウント値を検出する。ピーク検出部32は、検出したカウント値をピークカウンタマトリクスの対応する画素位置の情報として、画素値がピークとなるカウント値を画素毎に示すピークカウンタマトリクスを生成する。ピーク検出部32は、生成したピークカウンタマトリクスを情報合成部35へ出力する。
チャート物理情報記憶部33aは、キャリブレーションチャート装置に関する物理情報、例えば赤外線カメラIRCからキャリブレーションチャート装置20-1とキャリブレーションチャート装置20-2の相対位置関係を示す情報が記憶されている。
変換情報記憶部34は、カウント値を位置に変換する変換情報(例えば変換テーブル)を記憶している。変換情報では、水平マーカー21Hについてのカウント値に対する垂直方向の位置が示されており、垂直マーカー21Vについてのカウント値に対する水平方向の位置が示されている。
情報合成部35は、変換情報記憶部34に記憶されている変換デーブルに基づき、ピークカウンタマトリクスで示された画素毎のカウント値をマーカーの位置に変換する。さらに情報合成部35は、チャート物理情報記憶部33aに記憶されている物理情報を取得する。情報合成部35は、赤外線放射量がピークとなった水平マーカー21Hと垂直マーカー21Vの位置を画素毎に示すチャート位置情報と取得した物理情報をキャリブレーション処理部36aへ出力する。
キャリブレーション処理部36aは、情報合成部35で生成されたチャート位置情報と物理情報に基づき、赤外線カメラIRCの内部パラメータと外部パラメータを算出する。ここで、チャート位置情報と物理情報によって、赤外線画像の画素位置とマーカーの三次元位置とマーカー間の相対位置関係が明らかである。したがって、技術文献「Zhang, Zhengyou. "A flexible new technique for camera calibration." IEEE Transactions on pattern analysis and machine intelligence 22.11 (2000): 1330-1334.」と同様な処理を行うことで、赤外線カメラIRCの内部パラメータと外部パラメータを算出する。
撮像制御部37aは、キャリブレーションチャート装置20-1,20-2における水平マーカー21Hと垂直マーカー21Vの移動制御と、赤外線カメラIRCの撮像動作制御を行う。さらに撮像制御部37aは、赤外線カメラIRCまたは画像蓄積部31を制御して、赤外線撮像画像に、キャリブレーションチャート装置20-1,20-2の水平マーカー21Hと垂直マーカー21Vのカウント値を関連付ける。さらに、撮像制御部37aは、所定数の赤外線撮像画が画像蓄積部31に蓄積されたとき、ピーク検出部32によって、画像毎に画素値が最大となる水平マーカー21Hと垂直マーカー21Vのカウント値を、キャリブレーションチャート装置毎に検出させる。
<3−3.キャリブレーション動作>
次に、キャリブレーション装置の動作について説明する。図11は、キャリブレーション装置における撮像制御部の動作を例示したフローチャートである。
ステップST41で撮像制御部は変換情報を取得する。撮像制御部37aは、変換情報記憶部34からカウント値をマーカーの位置に変換する変換情報を取得する。なお、変換情報記憶部34は、カウント値とマーカーの位置との対応関係がキャリブレーションチャート装置20-1とキャリブレーションチャート装置20-2で異なる場合、キャリブレーションチャート装置毎に変換情報を記憶しておく。撮像制御部37aは、変換情報記憶部34からキャリブレーションチャート装置毎の変換情報を取得してステップST42に進む。
ステップST42で撮像制御部は装置パラメータMを初期化する。キャリブレーションシステムで赤外線カメラからの距離が異なる複数のマーカーを用いる場合、例えば上述のように複数のキャリブレーションチャート装置が用いる場合、個々のキャリブレーションチャート装置を区別するための装置パラメータが設定する。例えばキャリブレーションチャート装置20-1,20-2が用いる場合、キャリブレーションチャート装置20-1は装置パラメータ「M=1」、キャリブレーションチャート装置20-2は装置パラメータ「M=2」として、装置パラメータMでキャリブレーションチャート装置を指定することで、赤外線カメラからの距離が異なる複数のマーカーから所望のマーカーを選択可能とする。撮像制御部は装置パラメータMの初期化を行い、例えば「M=1」としてステップST43に進む。
ステップST43で撮像制御部はマーカー位置の初期化を行う。撮像制御部37aは、例えば水平マーカー21Hと垂直マーカー21Vのカウント値を「0」とする。また、撮像制御部37は、変換情報に基づきカウント値を位置情報に変換して、水平マーカー21Hの垂直方向の初期位置と垂直マーカー21Vの水平方向の初期位置を設定してステップST44に進む。
ステップST44で撮像制御部は垂直マーカー移動処理を行う。撮像制御部37aは、キャリブレーションチャート装置20-mを制御して、垂直マーカー21Vを設定された水平方向の位置に移動させてステップST45に進む。
ステップST45で撮像制御部は撮像指示を行う。撮像制御部37aは、撮像指示を赤外線カメラIRCへ出力して、キャリブレーションチャート装置20-mを撮像した赤外線撮像画を1フレーム取得させてステップST46に進む。
ステップST46で撮像制御部は水平方向更新位置を設定する。撮像制御部37aは、垂直マーカー21Vのカウント値に所定量を加算することで、垂直マーカー21Vの水平方向の位置を新たに設定してステップST47に進む。
ステップST47で撮像制御部は更新後の位置がリミットを超えるか判別する。撮像制御部37aは、ステップST46で設定された更新後の位置が垂直マーカー21Vの水平方向移動範囲を超えない場合にステップST44に戻り、水平方向移動範囲を超える場合にステップST48に進む。
ステップST48で撮像制御部は水平マーカー移動処理を行う。撮像制御部37aは、キャリブレーションチャート装置20を制御して、水平マーカー21Hを設定された垂直方向の位置に移動させてステップST49に進む。
ステップST49で撮像制御部は撮像指示を行う。撮像制御部37aは、撮像指示を赤外線カメラIRCへ出力して、キャリブレーションチャート装置20-mを撮像した赤外線撮像画を1フレーム取得させてステップST50に進む。
ステップST50で撮像制御部は垂直方向更新位置を設定する。撮像制御部37aは、水平マーカー21Hのカウント値に所定量を加算することで、水平マーカー21Hの垂直方向の位置を新たに設定してステップST51に進む。
ステップST51で撮像制御部は更新後の位置がリミットを超えるか判別する。撮像制御部37aは、ステップST50で設定された更新後の位置が水平マーカー21Hの垂直方向移動範囲を超えない場合にステップST48に戻り、垂直方向移動範囲を超える場合にステップST52に進む。
ステップST52で撮像制御部は装置パラメータMを更新する。撮像制御部37aは、現在の装置パラメータMに「1」を加算して、加算結果を新たな装置パラメータMとしてステップST53に進む。
ステップST53で撮像制御部は装置パラメータMに対応する装置があるか判別する。撮像制御部37aは、ステップST51で設定された更新後の装置パラメータMに対応するキャリブレーションチャート装置がキャリブレーションシステムに設けられている場合はステップST43に戻る。また、撮像制御部37aは、更新後の装置パラメータMに対応するキャリブレーションチャート装置がキャリブレーションシステムに設けられていない場合にステップST54に進む。
ステップST54で撮像制御部はピーク検出指示を行う。ステップST43乃至ステップST53の処理を行うと、赤外線カメラIRCでは、垂直マーカー21Vを水平方向移動範囲内で水平方向に順次移動して移動位置毎の赤外線撮像画と、水平マーカー21Hを垂直方向移動範囲内で垂直方向に順次移動して移動位置毎の赤外線撮像画が、キャリブレーションチャート装置毎に取得されている。したがって、撮像制御部37aは、取得されている赤外線撮像画に基づき各画素位置で画素値がピークとなる水平マーカー21Hと垂直マーカー21Vの位置を、赤外線カメラかの距離が異なるマーカー毎(キャリブレーションチャート装置毎)にピーク検出部32で検出させる。なお、赤外線撮像画には水平マーカー21Hと垂直マーカー21Vのカウント値が関連付けられている。
ピーク検出部32は、図7に例示したフローチャートの処理を、赤外線カメラかの距離が異なるマーカー毎(キャリブレーションチャート装置毎)に行う。また、ピーク検出部32で上述処理を行うと、ピークカウンタマトリクスでは、画素毎に水平方向における画素値が最大となるカウント値と垂直方向における画素値が最大となるカウント値を、赤外線カメラかの距離が異なるマーカー毎に示すようになる。
情報合成部35は、変換情報記憶部34に記憶されている変換情報を用いて、ピーク検出部32で生成されたピークカウンタマトリクスで示されたカウント値を位置に変更して、各画素が水平マーカー21Hと垂直マーカー21Vのいずれの位置に対応する画素であるかを示すチャート位置情報を、赤外線カメラかの距離が異なるマーカー毎に生成する。さらに、情報合成部35は生成したチャート位置情報とチャート物理情報記憶部33から取得した物理情報をキャリブレーション処理部36へ出力する。
キャリブレーション処理部36は、チャート位置情報で画素とキャリブレーションチャート装置おけるマーカーの位置との対応関係が明らかであり、物理情報によってキャリブレーションチャート装置間の相対位置関係も明らかである。すなわち、二次元の赤外線画像の画素(x,y)に対応するキャリブレーションチャート装置20-1の三次元位置(x1,y1,z1)とキャリブレーションチャート装置20-2の三次元位置(x2,y2,z2)が明らかである。したがって、上述した技術文献と同様な処理を行うことで、赤外線カメラIRCからキャリブレーションチャート装置20-1,20-2までの距離が不明であっても、赤外線カメラIRCの内部パラメータと外部パラメータを算出できるようになる。
このような第2の実施の形態によれば、赤外線カメラIRCの内部パラメータだけでなく、赤外線カメラIRCとキャリブレーションチャート装置20-1,20-2に関する外部パラメータを算出できるようになる。さらに、赤外線カメラかの距離が異なる複数のマーカーを用いることから、第1の実施の形態に比べてカメラパラメータの算出の安定性を高くできる。また、第1の実施の形態と同様に、検査治具等を大型化しなくとも、キャリブレーション処理を効率よく安価かつ容易に行うことができる。
<4.他の実施の形態>
ところで、上述の実施の形態では、カウント値に基づいてマーカーの位置を算出したが、キャリブレーションチャート装置から水平マーカー21Hと垂直マーカー21Vの位置を取得できる構成であれば、変換情報記憶部を設ける必要がない。この場合、キャリブレーション装置は、キャリブレーションチャート装置から取得した位置を用いて、ピーク検出やカメラパラメータの算出を行う。
また、キャリブレーションチャート装置では、水平マーカー21Hと垂直マーカー21Vを個々に設けて、水平マーカー21Hを垂直方向および垂直マーカー21Vを水平方向に移動させているが、1つのマーカーの向きを替えて移動させてもよい。すなわち、マーカーが水平マーカーの向きであるとき垂直方向の移動を可能として、垂直マーカーの向きであるとき水平方向の移動を可能とする構成としてもよい。さらに、赤外線カメラIRCからマーカーまでの距離を変更可能として、マーカーを異なる複数の距離の位置として、水平方向や垂直方向に移動させてもよい。
また、ピーク検出部32は、画像蓄積部31に画像が蓄積される毎に画素値のピーク検出を行い、ピーク値を検出したときは、ピークを検出した赤外線撮像画に対して直前のマーカー位置と直後のマーカー位置の赤外線撮像画を用いて、マーカーの移動単位よりも高精度に画素値がピークとなる位置を検出してもよい。
また、上述の赤外線カメラIRCの感度領域は、遠赤外線領域から近赤外線領域のいずれの範囲であってもよい。例えば、赤外線カメラIRCの感度が遠赤外線領域である場合、水平マーカー21Hと垂直マーカー21Vは上述のように発熱体とディフューザを用いて構成する。また、赤外線カメラIRCの感度が近赤外線領域である場合、水平マーカー21Hと垂直マーカー21Vは、例えば近赤外線の発光体と近赤外線を散乱する半透明の近赤外線ディフューザを用いて構成して、移動方向の近赤外線放射量の分布を単峰分布とすればよい。
また、キャリブレーションチャート装置は、算出したカメラパラメータを外部へ出力するだけでなく、算出したカメラパラメータ例えば内部パラメータを赤外線カメラIRCに記憶させてもよい。この場合、赤外線カメラIRCは、記憶されているカメラパラメータを用いることで赤外線カメラに生じるレンズ歪み等が補正された赤外線撮像画を出力できるようになる。
<5.応用例>
次に、応用例として、キャリブレーション装置で算出されたカメラパラメータを用いる装置について説明する。図12は、カメラパラメータを用いる装置が歪補正装置である場合を示している。
歪補正装置50は、補正係数生成部51と補正処理部52を有しており、キャリブレーション装置30(30a)で算出されたカメラパラメータを用いて、赤外線カメラIRCで生成された赤外線撮像画から歪みのない画像を生成する。
補正係数生成部51は、赤外線撮像画の座標値と歪みのない画像の座標値との関係を示す補正係数Kをカメラパラメータに基づき生成する。補正処理部52は補正係数生成部51で生成された補正係数Kを歪みのない画像の座標値に乗じて、赤外線撮像画の座標値に対応させて、赤外線撮像画の座標値(u’、v’)の画素を歪みのない画像の座標値(u、v)の画素とする処理を行う。したがって、歪補正装置50では、赤外線カメラIRCで生成された赤外線撮像画の歪みを除去できる。
また、自動車や無人飛行体等の移動体装置や医療機器,計測機器等に赤外線カメラを設けて赤外線画像を取得する場合、本技術のようなキャリブレーションチャート装置とキャリブレーション装置を用いて算出したカメラパラメータを用いれば、歪みを高精度に除去した赤外線撮像画等を得られるようになる。
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやSSD(Solid State Drive)、ROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、BD(Blu-Ray Disc(登録商標))、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、本明細書に記載した効果はあくまで例示であって限定されるものではなく、記載されていない付加的な効果があってもよい。また、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、請求の範囲を参酌すべきである。
また、本技術のキャリブレーション装置は以下のような構成も取ることができる。
(1) 移動方向の赤外線放射量の分布が単峰分布であるマーカーを第1の方向に順次移動させて撮像された複数の赤外線撮像画と、前記マーカーを前記第1の方向と異なる第2の方向に順次移動させて撮像された複数の赤外線撮像画とから、画素毎に画素値が最大となる前記マーカーの位置を検出するピーク検出部と、
前記ピーク検出部で画素毎に検出されたマーカーの位置を用いてカメラパラメータを算出するキャリブレーション処理部と
を備えるキャリブレーション装置。
(2) 前記ピーク検出部は、マーカーの位置が異なる複数の赤外線撮像画の画素値を用いて補間処理を行い、前記画素値が最大となる前記マーカーの位置を検出する(1)に記載のキャリブレーション装置。
(3) 前記キャリブレーション処理部は、前記画素毎に検出されたマーカーの位置と、前記赤外線撮像画を取得した赤外線カメラから前記マーカーまでの距離を用いて、カメラパラメータを算出する(2)に記載のキャリブレーション装置。
(4) 前記マーカーは前記赤外線撮像画を取得した赤外線カメラからの距離が異なる複数のマーカーであり、
前記複数の赤外線撮像画は前記複数のマーカー毎に前記第1の方向に順次移動させて撮像された赤外線撮像画と前記第2の方向に順次移動させて撮像された赤外線撮像画であり、
前記ピーク検出部は、前記複数のマーカー毎に、画素値が最大となる位置を検出して、
前記キャリブレーション処理部は、前記画素毎および前記マーカー毎に検出された前記マーカーの位置とマーカー間の距離を用いてカメラパラメータを算出する(2)に記載のキャリブレーション装置。
(5) 前記赤外線撮像画では、前記マーカーが、移動方向において1画素以上の幅で撮像されている(1)乃至(4)のいずれかに記載のキャリブレーション装置。
(6) 前記第1の方向と前記第2の方向は直交する方向である(1)乃至(5)のいずれかに記載のキャリブレーション装置。
(7) 前記第1の方向と前記第2の方向は、前記マーカーを撮像する赤外線カメラの光軸に対して直交する方向である(1)乃至(6)のいずれかに記載のキャリブレーション装置。
また、本技術のキャリブレーションチャート装置は以下のような構成も取ることができる。
(1) 移動方向の赤外線放射量の分布が単峰分布となるように構成されたマーカーと、
前記マーカーを第1方向と前記第1の方向とは異なる第2の方向に個々に移動させる駆動制御部と
を備えるキャリブレーションチャート装置。
(2) 前記第1の方向と前記第2の方向は直交する方向である(1)に記載のキャリブレーションチャート装置。
(3) 前記マーカーは、前記第1の方向と前記第2の方向に対して直交する方向に所定間隔で複数設けた(1)または(2)に記載のキャリブレーションチャート装置。
(4) 前記マーカーは、前記第1の方向に移動するマーカーと前記第2の方向に移動するマーカーで構成した(1)乃至(3)のいずれかに記載のキャリブレーションチャート装置。
(5) 前記第1の方向と前記第2の方向は、前記マーカーを撮像する赤外線カメラの光軸に対して直交する方向である(1)乃至(4)のいずれかに記載のキャリブレーションチャート装置。
(6) 前記マーカーは、移動方向が赤外線カメラの1画素以上の幅として撮像される(1)乃至(5)のいずれかに記載のキャリブレーションチャート装置。
この技術のキャリブレーション装置とキャリブレーション方法およびキャリブレーションチャート装置では、移動方向の赤外線放射量の分布が単峰分布であるマーカーを第1の方向に順次移動させて撮像された複数の赤外線撮像画と、マーカーを第1の方向と異なる第2の方向に順次移動させて撮像された複数の赤外線撮像画とから、画素毎に画素値が最大となるマーカーの位置をピーク検出部で検出して、ピーク検出部で画素毎に検出したマーカーの位置を用いてキャリブレーション処理部でカメラパラメータが算出される。このため、赤外線カメラのキャリブレーションを容易に行えるようになる。したがって、計測機器や輸送機器等に使用される赤外線カメラに利用できる。
10・・・キャリブレーションシステム
20,20-1,20-2,20-m・・・キャリブレーションチャート装置
21H・・・水平マーカー
21V・・・垂直マーカー
22H・・・水平マーカースライダー
22V・・・垂直マーカースライダー
23・・・スライダー駆動部
25・・・フレーム
30,30a・・・キャリブレーション装置
31・・・画像蓄積部
32・・・ピーク検出部
33,33a・・・チャート物理情報記憶部
34・・・変換情報記憶部
35・・・情報合成部
36,36a・・・キャリブレーション処理部
37,37a・・・撮像制御部
50・・・歪補正装置
51・・・補正係数生成部
52・・・補正処理部
211H・・・線状発熱体
212H・・・ディフューザ

Claims (14)

  1. 移動方向の赤外線放射量の分布が単峰分布であるマーカーを第1の方向に順次移動させて撮像された複数の赤外線撮像画と、前記マーカーを前記第1の方向と異なる第2の方向に順次移動させて撮像された複数の赤外線撮像画とから、画素毎に画素値が最大となる前記マーカーの位置を検出するピーク検出部と、
    前記ピーク検出部で画素毎に検出されたマーカーの位置を用いてカメラパラメータを算出するキャリブレーション処理部と
    を備えるキャリブレーション装置。
  2. 前記ピーク検出部は、マーカーの位置が異なる複数の赤外線撮像画の画素値を用いて補間処理を行い、前記画素値が最大となる前記マーカーの位置を検出する
    請求項1に記載のキャリブレーション装置。
  3. 前記キャリブレーション処理部は、前記画素毎に検出されたマーカーの位置と、前記赤外線撮像画を取得した赤外線カメラから前記マーカーまでの距離を用いて、カメラパラメータを算出する
    請求項2に記載のキャリブレーション装置。
  4. 前記マーカーは前記赤外線撮像画を取得した赤外線カメラからの距離が異なる複数のマーカーであり、
    前記複数の赤外線撮像画は前記複数のマーカー毎に前記第1の方向に順次移動させて撮像された赤外線撮像画と前記第2の方向に順次移動させて撮像された赤外線撮像画であり、
    前記ピーク検出部は、前記複数のマーカー毎に、画素値が最大となる位置を検出して、
    前記キャリブレーション処理部は、前記画素毎および前記マーカー毎に検出された前記マーカーの位置とマーカー間の距離を用いてカメラパラメータを算出する
    請求項2に記載のキャリブレーション装置。
  5. 前記赤外線撮像画では、前記マーカーが、移動方向において1画素以上の幅で撮像されている
    請求項1に記載のキャリブレーション装置。
  6. 前記第1の方向と前記第2の方向は直交する方向である
    請求項1に記載のキャリブレーション装置。
  7. 前記第1の方向と前記第2の方向は、前記マーカーを撮像する赤外線カメラの光軸に対して直交する方向である
    請求項1に記載のキャリブレーション装置。
  8. 移動方向の赤外線放射量の分布が単峰分布であるマーカーを第1の方向に順次移動させて撮像された複数の赤外線撮像画と、前記マーカーを前記第1の方向と異なる第2の方向に順次移動させて撮像された複数の赤外線撮像画とから、画素毎に画素値が最大となる前記マーカーの位置をピーク検出部で検出することと、
    前記ピーク検出部で画素毎に検出されたマーカーの位置を用いてカメラパラメータをキャリブレーション処理部で算出することと
    を含むキャリブレーション方法。
  9. 移動方向の赤外線放射量の分布が単峰分布となるように構成されたマーカーと、
    前記マーカーを第1方向と前記第1の方向とは異なる第2の方向に個々に移動させる駆動制御部と
    を備えるキャリブレーションチャート装置。
  10. 前記第1の方向と前記第2の方向は直交する方向である
    請求項9に記載のキャリブレーションチャート装置。
  11. 前記マーカーは、前記第1の方向と前記第2の方向に対して直交する方向に所定間隔で複数設けた
    請求項9に記載のキャリブレーションチャート装置。
  12. 前記マーカーは、前記第1の方向に移動するマーカーと前記第2の方向に移動するマーカーで構成した
    請求項9に記載のキャリブレーションチャート装置。
  13. 前記第1の方向と前記第2の方向は、前記マーカーを撮像する赤外線カメラの光軸に対して直交する方向である
    請求項9に記載のキャリブレーションチャート装置。
  14. 前記マーカーは、移動方向が赤外線カメラの1画素以上の幅として撮像される
    請求項9に記載のキャリブレーションチャート装置。
JP2019564302A 2018-01-10 2018-10-25 キャリブレーション装置とキャリブレーション方法およびキャリブレーションチャート装置 Active JP7127656B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018001755 2018-01-10
JP2018001755 2018-01-10
PCT/JP2018/039657 WO2019138646A1 (ja) 2018-01-10 2018-10-25 キャリブレーション装置とキャリブレーション方法およびキャリブレーションチャート装置

Publications (2)

Publication Number Publication Date
JPWO2019138646A1 true JPWO2019138646A1 (ja) 2021-03-04
JP7127656B2 JP7127656B2 (ja) 2022-08-30

Family

ID=67218615

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019564302A Active JP7127656B2 (ja) 2018-01-10 2018-10-25 キャリブレーション装置とキャリブレーション方法およびキャリブレーションチャート装置

Country Status (4)

Country Link
US (1) US11107247B2 (ja)
JP (1) JP7127656B2 (ja)
CN (1) CN111567031B (ja)
WO (1) WO2019138646A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN208298251U (zh) * 2018-04-17 2018-12-28 深圳市道通科技股份有限公司 车载摄像头的标定装置及系统
CN112135042B (zh) * 2020-09-18 2023-04-18 成都圭目机器人有限公司 一种地面移动机器人搭载相机的调整和标定方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11337493A (ja) * 1998-05-28 1999-12-10 Nikon Corp 画像処理による異常点位置検出システム
JP2001285681A (ja) * 2000-01-27 2001-10-12 Matsushita Electric Ind Co Ltd キャリブレーションシステム、ターゲット装置およびキャリブレーション方法
JP2004128887A (ja) * 2002-10-02 2004-04-22 Honda Motor Co Ltd 赤外線カメラ特性確認治具
JP2008202971A (ja) * 2007-02-16 2008-09-04 Ihi Corp 赤外線カメラ調整装置及び赤外線カメラ調整方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6542840B2 (en) 2000-01-27 2003-04-01 Matsushita Electric Industrial Co., Ltd. Calibration system, target apparatus and calibration method
US8705151B2 (en) * 2004-04-05 2014-04-22 Hewlett-Packard Development Company, L.P. Imaging device calibration methods, imaging device calibration instruments, imaging devices, and articles of manufacture
JP5225151B2 (ja) * 2008-03-11 2013-07-03 キヤノン株式会社 撮像装置及び画像処理方法
JP4907725B2 (ja) * 2010-03-23 2012-04-04 シャープ株式会社 キャリブレーション装置、欠陥検出装置、欠陥修復装置、表示パネル、表示装置、キャリブレーション方法
JP5444139B2 (ja) * 2010-06-29 2014-03-19 クラリオン株式会社 画像のキャリブレーション方法および装置
JP2012145664A (ja) * 2011-01-11 2012-08-02 Sony Corp 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP2014092460A (ja) * 2012-11-02 2014-05-19 Sony Corp 画像処理装置および方法、画像処理システム、並びにプログラム
EP3220099B1 (en) * 2014-11-13 2019-11-06 Olympus Corporation Calibration device, calibration method, optical device, imaging device, projection device, measurement system, and measurement method
CN108353135B (zh) * 2015-10-29 2020-07-21 富士胶片株式会社 红外线摄像装置及基于红外线摄像装置的信号校正方法
DE102016203709B4 (de) * 2016-03-08 2018-04-12 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bildverarbeitungsverfahren, Bildverarbeitungsmittel und Bildverarbeitungsvorrichtung zur Erzeugung von Abbildungen eines Teils eines dreidimensionalen Raums

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11337493A (ja) * 1998-05-28 1999-12-10 Nikon Corp 画像処理による異常点位置検出システム
JP2001285681A (ja) * 2000-01-27 2001-10-12 Matsushita Electric Ind Co Ltd キャリブレーションシステム、ターゲット装置およびキャリブレーション方法
JP2004128887A (ja) * 2002-10-02 2004-04-22 Honda Motor Co Ltd 赤外線カメラ特性確認治具
JP2008202971A (ja) * 2007-02-16 2008-09-04 Ihi Corp 赤外線カメラ調整装置及び赤外線カメラ調整方法

Also Published As

Publication number Publication date
US20210056726A1 (en) 2021-02-25
US11107247B2 (en) 2021-08-31
WO2019138646A1 (ja) 2019-07-18
CN111567031B (zh) 2022-06-10
CN111567031A (zh) 2020-08-21
JP7127656B2 (ja) 2022-08-30

Similar Documents

Publication Publication Date Title
KR102044695B1 (ko) 합성 이미지를 이용한 카메라 교정
JP6537237B2 (ja) 情報処理装置および方法
US10157474B2 (en) 3D recording device, method for producing a 3D image, and method for setting up a 3D recording device
JP6036824B2 (ja) 画角変動検知装置、画角変動検知方法および画角変動検知プログラム
JP7127656B2 (ja) キャリブレーション装置とキャリブレーション方法およびキャリブレーションチャート装置
CN103581660B (zh) 基于线对的全场清晰度测试方法和系统
JP6370321B2 (ja) 水位計測装置
JP4005795B2 (ja) 振動計測装置及び記憶媒体
KR102096576B1 (ko) 영상 합성 방법 및 장치
US20130070967A1 (en) Motion analysis through geometry correction and warping
US20210335010A1 (en) Calibration method and calibration apparatus
JP2006129473A (ja) デジタル撮像装置における非直線視野歪の補正方法および装置
CN103297799A (zh) 测试相机部件的光学特征
JP6989819B2 (ja) データ補正装置、データ補正方法、および、データ補正プログラム
KR20200009667A (ko) 영상 합성 장치 및 그의 영상 합성 방법
CN115082555A (zh) 一种rgbd单目相机的高精度位移实时测量系统及方法
KR101437920B1 (ko) 카메라 이미지를 이용한 진동변위 측정 시 카메라 흔들림 보정방법
Szalóki et al. Marker localization with a multi-camera system
Soldan et al. Mapping non-destructive testing data on the 3D geometry of objects with complex shapes
Wan et al. Multiresolution and wide-scope depth estimation using a dual-PTZ-camera system
US11262103B1 (en) Heliostat localization in camera field-of-view with induced motion
US20230260159A1 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium
CN109286810B (zh) 一种探测器填充因子的测试装置及方法
Stähli et al. Computer vision method for analyzing the oscillation and displacement of specimens during mechanical shock tests
Peng et al. Phase-Based Optical Flow Method with Optimized Parameter Settings for Enhancing Displacement Measurement Adaptability

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210913

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220801

R151 Written notification of patent or utility model registration

Ref document number: 7127656

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151