JP2013187822A - 補正式算出方法、補正方法、補正装置及び撮像装置 - Google Patents
補正式算出方法、補正方法、補正装置及び撮像装置 Download PDFInfo
- Publication number
- JP2013187822A JP2013187822A JP2012053004A JP2012053004A JP2013187822A JP 2013187822 A JP2013187822 A JP 2013187822A JP 2012053004 A JP2012053004 A JP 2012053004A JP 2012053004 A JP2012053004 A JP 2012053004A JP 2013187822 A JP2013187822 A JP 2013187822A
- Authority
- JP
- Japan
- Prior art keywords
- correction
- coordinates
- distortion
- correction formula
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
Abstract
【解決手段】カメラ10による撮影画像13における所定の特徴点の座標を取得する特徴点座標取得部30と、撮影画像13における、特徴点が本来結像する理想座標を取得するする理想座標取得部31、撮影画像13を複数の領域に分割した各領域における、特徴点の座標と、理想座標と、の関係に基づいて、各領域における歪曲特性を補正する歪み補正式を算出する補正式算出部33と、を備え、補正式算出部33にあっては、各領域の境界において共有する特徴点の補正後の座標が、各領域において等しくなるようにした。
【選択図】図1
Description
特に、異なる視点位置から同じ対象物体を撮影した際に、撮影画像上の結像位置が物体の距離によって変化することを利用して、物体の距離や位置を計測するステレオカメラに利用されるカメラにおいて、キャリブレーション処理は重要となる。
カメラのキャリブレーションとは、一般に、カメラが有するレンズの球面収差による歪みや焦点距離、画像中心(光軸と撮像素子の撮像面との交点座標)の設計値とのずれによる影響を含んでいる画像を、下記のピンホールカメラモデルにより補正する処理である。
図10に示すピンホールカメラモデルにおいては、まず、カメラのイメージセンサの撮像面100と、投影中心101とを設定する。
このモデルにおいては、対象物(被写体)102の像は、まず被写体102から投影中心へ引いた直線103とセンサ面(撮像面)100の交点に投影される。なお、この交点はレンズの歪曲特性の影響を含まない理想的な像位置104である。
その後、レンズの歪曲特性に従ってセンサ面100上を移動して、(歪曲の影響を含む)実際の像位置105が決定される。
そのため、センサ面100上に設定したXY座標(通常は左下原点、縦横の画素並び方向がXY方向)、それに直交するZ軸、からなる3次元座標系での投影中心101の座標値(図10でのcx,cy,f)と、歪曲特性を表す座標変換式が、実画像をピンホール画像に補正するためのパラメータとなる。なお、このパラメータを内部パラメータと呼ぶ。
非特許文献1に示されるキャリブレーション手法は、カメラの歪曲特性をモデル式で近似し、この近似したモデル式を用いて歪曲特性を補正するものである。
また歪みモデル式としては、非特許文献2に開示されるWengらにより提案されたモデル式が既に知られている。
非特許文献1のキャリブレーション手法では、まず図11に示すようなマトリックス状の2次元チャートをキャリブレーション対象となるカメラで撮影し、撮影された画像からマトリックス状の点群配列を算出する。
この校正基準点と、コンピュータ上のカメラモデルにより計算された校正基準座標(理論値)の差を評価関数として最適化処理を行うことで、カメラモデル式の各パラメータを算出し、歪曲特性を補正するものである。
また、校正対象の画像全体に対して一つのモデル式を適応しているため、局所的に極端な歪曲特性を持つような場合には対応できないという問題もあった。
加えて、複雑な歪曲特性を再現するためにはカメラモデル式の次数を大きくしなければならず求めるパラメータが増えるために、最適化が収束せず、正確なパラメータが得られないなどの問題もある。
本発明は、かかる問題点を鑑みて、小領域に関数モデル分割して、極端な歪曲特性を持つようなカメラのキャリブレーションを行う場合でも、小領域の境界部における局所的な補正精度が低下しない高精度なキャリブレーションを実現することが可能なカメラのキャリブレーション方法を提供することを目的とする。
[第1の実施形態]
図1は、本実施の形態にかかるキャリブレーション方法を実施するキャリブレーション装置の一例を説明する概略図であり、(a)は、ハードウェア構成図、(b)はソフトウェアによる機能ブロック図である。
キャリブレーション装置1は、レンズ11及び撮像素子12を備えるカメラ10によって、被写体としての対象物20を撮像した画像に対する歪み補正式を算出し、さらには歪み補正を行う。
図1(a)に示すように、キャリブレーション装置1は、制御プログラムに従って下記に説明するキャリブレーション処理を行うCPU(Central Processing Unit)2と、下記の制御プログラムを格納するROM(Read Only Memory)3と、CPU2による実行のためにROM3から制御プログラムを展開し、また処理のための一時データを記憶するRAM(Random Access Memory)3と、撮像装置10との間で画像を入出力するための入出力I/F(インターフェイス)5を備えている。
入出力I/F5は、USBケーブル等を使用した通信を可能とするUSBポートであってもよく、メモリカードのスロットでも良い。
なお、画像補正部33は、必ずしもキャリブレーション装置1に備える必要はなく、補正式算出部32により算出した歪み補正式を、校正対象のカメラ10に備えた記憶手段に格納し、カメラ10が備える画像補正手段により撮影画像に補正を行う際に、算出された補正式を使用することが出来る。
さらに、キャリブレーション装置1の機能が、カメラ10自体に組み込まれていてもよい。このようにすれば、カメラ単体で、キャリブレーション及び画像補正を行うことが出来る。この場合、キャリブレーション装置1の機能は、カメラ10が有する図示しないCPUによって実行可能である。
なお、図1は、CPUを使用したソフトウェア処理を行う装置を示しているが、ASIC等によるハードウェア処理を行う装置であっても良い。
図2は、第1の実施形態に係るキャリブレーション処理の基本的な流れを表すフローチャートである。
本実施形態は、特に、ステップS13の係数算出処理(補正式算出処理)に特徴を有するものである。
ステップS11aの特徴点座標取得処理では、CPU2は、図1の校正対象物(被写体)20を撮影した校正対象画像13から、校正対象カメラ10が有する固有の歪曲特性を表す特徴点座標S(x’,y’)を検出(取得)する。
これは、カメラ固有の特性、特にレンズの歪曲特性の影響を含んでいる。
なお、本実施形態では、図11に示したものと同様のマトリックスチャートの交点を特徴点として検出する。
この特徴点座標Sは、レンズ11による歪みや、焦点距離、画像中心(光軸と撮像面との交点座標)の設計値からのずれによる影響を含んでおり、理想位置Qからは外れたものとなっている。
この理想位置Qは、校正対象カメラ10の設計値より得られるものであり、図3に示すピンホールカメラモデルより得られる。
ピンホールモデルでの理想座標Q(x,y)は、校正対象物20の3次元座標[X,Y,Z]、及びピンホール(Pinhole)からの焦点距離fより式(1)で表される。
・・・・・(1)
図4は、小領域に分割した校正対象画像を説明する図である。
本実施形態では、図4に示すように、校正対象画像13をAREA1〜AREA4の4領域に分割する。しかしながら、分割方法および分割数はこれに限定しない。
なお、校正対象カメラ10より取得する校正対象画像13からは、そのカメラが持つ固有の歪曲特性を検出する必要があるため、3次元空間上の位置が既知な特徴を有する校正対象物20を撮影する必要がある。
本実施形態では、図4、図11に示すようなマトリックス状のチャートを校正対象物とする。ただし、校正対象カメラ10の歪曲特性が得られれば良いので、校正対象物はこれに限定しない。
ステップS13の係数算出処理では、CPU2は、ステップS11a、ステップS11bで算出した座標データS、Pを元に、校正対象カメラ10が持つ歪曲特性を歪みモデル式で近似する。歪曲特性を近似できる歪み式(モデル式)の係数を決定する。
ここでは、ステップS11aで算出した実際の校正対象カメラ10の歪曲特性の影響を含んだ特徴点座標S(x’,y’)と、ステップS11bで算出したレンズ特性の影響を含まない理想座標Q(x,y)と、を対応付ける関係式を歪みモデル式として近似する。
このとき、図5(b)の各AREAにはAREA1:(x’,y’)=f(x,y)、AREA2:(x’,y’)=g(x,y)、AREA3:(x’,y’)=h(x,y)、AREA4:(x’,y’)=l(x,y)と、それぞれ異なる歪みモデル式を用いる。
図6に示すように、各AREAの境界部で、図5(b)において各領域が共有していた特徴点座標A〜L(中心座標は除く)は、歪み補正量が不連続になっている(A1≠A2、B1≠B2、C1≠C2…)。
そこで、これらの近似曲面が滑らかな曲面になるよう拘束条件を付加する。
拘束条件は、式(3)に示すように、隣り合う領域の1次微分および2次微分が等しくなるように条件を付ける。これにより、図7に示すように各AREAの境界部分の座標A’〜L’が滑らかに繋がった高精度な近似を行うことが出来、分割領域の境界部でも高精度なキャリブレーションを実現することが出来る。
・・・(3)
ステップS14では、CPU2は、推定した歪みモデル式を用いて画像の補正を行う。
歪みを有する特徴点座標S(x’,y’)から歪みを除去した座標(x’’,y’’)は、式(4)を用いて算出することが可能である。
・・・(4)
以上の処理により、高精度にキャリブレーション及び歪み補正処理を行うことが可能になる。
次に、図8、図9を使用して、本発明に係る第2の実施形態を説明する。
図8は、第2の実施形態に係るキャリブレーション処理を説明するフローチャートである。
図8に示す第2の実施形態では、図2のステップSS12においてカメラより取得した画像を小領域に分割した後に、各小領域の最適な歪みモデル式を選択するステップS23(最適歪みモデル選択処理)を有する。
なお、特徴点座標算出ステップS21a、理想座標算出ステップS21b、画像分割ステップS22、歪みモデル推定ステップS24、画像補正ステップS25は、第1の実施形態と同様であり、説明は割愛する。
図9に示す歪みモデル選択処理は、図1に示すCPU2が、画像の小領域ごとに最適な歪みモデル式を選択するステップである。
第2の実施形態では、歪みモデル式をn次多項式とし、各領域で最適な次数を算出する。なお、歪みモデル式としては、非特許文献2のWengらのモデル式が既に提案され良く知られており、予め複数のモデル式を定義しておき、それらの中から最適なモデルを選択するとしても良い。
歪みモデルの選択は、特徴点座標算出ステップS21aで算出した特徴点座標S(x’,y’)と、歪みモデルを用いて計算した特徴点座標S(x’’’,y’’’)の差を評価関数とした最適化処理により行われる。
次に、ステップS32では、CPU2は、特徴点群の差を算出する。この特徴点群の差が小さいほど、歪曲特性を正確に表していることになる。
次に、ステップS33では、CPU2は、この特徴点群間の差を評価関数として最適化を行うことで、歪曲特性を多項式で近似する。
次に、ステップS34では、CPU2は、最適化が十分であるかを判別する。
すなわち、最適化の残差と予め設定した閾値THを比較し、閾値を満たしていれば(ステップS34でYes)、歪曲特性を正確に再現したと判断して処理を終了し、図8のステップS24の係数算出処理に進む。
逆に、閾値を満たさないときは(ステップS34でNo)、多項式の次数に+1をして、再度最適化処理を行う(ステップS32、ステップS33)。
以上の処理を、分割した全ての小領域(AREA1〜4)に行い、各領域に最適な多項式の次数を決定する。
本実施形態では、この最適歪みモデル選択処理を加えることにより、領域毎により最適な補正式を算出し、より高精度なキャリブレーションが可能である。
20 校正対象物、30特徴点座標取部、31 理想座標取得部、31 領域分割処理部、32 補正式算出部、33 画像補正部
Claims (8)
- 歪曲特性を有した撮像装置によって撮像された撮影画像を補正する際に、前記歪曲特性に近似した歪み補正式を算出する補正式算出方法であって、
前記撮影画像を分割した領域毎に、各領域の境界部における歪みの補正量を等しくする歪み補正式を算出することを特徴とする補正式算出方法。 - 請求項1に記載の補正式算出方法において、
前記撮影画像における所定の特徴点の座標を取得する特徴点座標取得ステップと、
前記撮影画像における、前記特徴点が本来結像する理想座標を取得するする理想座標取得ステップと、
前記撮影画像を複数の領域に分割した各領域における、前記特徴点の座標と、前記理想座標と、の関係に基づいて、各領域における歪曲特性を補正する歪み補正式を算出する補正式算出ステップと、
を実行し、
前記補正式算出ステップは、各領域の境界において共有する特徴点の補正後の座標が、各領域において等しくなるように歪み補正式を算出することを特徴とする補正式算出方法。 - 前記補正式算出ステップは、隣接する各領域の補正式における一次微分及び二次微分が等しくなるようにすることを特徴とする、請求項2に記載の補正式算出方法。
- 前記歪みモデル算出ステップにおいて、各領域において異なる次数の歪み補正式を適用することを特徴とする請求項1又は2に記載の補正式算出方法。
- 請求項2乃至4の何れか一項に記載の補正方法において、
前記理想座標は、前記被写体の3次元座標及び前記撮像装置における焦点距離に基づいて算出されることを特徴とする補正式算出方法。 - 請求項1乃至5の何れか一項に記載の補正式算出方法によって算出した歪み補正式によって、前記撮影画像を補正する補正方法。
- 歪曲特性を有した撮像装置によって撮像された撮影画像における所定の特徴点の座標を取得する特徴点座標取得手段と、
前記撮影画像において前記特徴点が本来結像する理想座標を取得する理想座標取得手段と、
前記撮影画像を複数の領域に分割した各領域における、前記特徴点の座標と、前記理想座標と、の関係に基づいて、各領域における歪曲特性を補正する歪み補正式を算出する補正式算出手段と、
算出された前記歪み補正式に基づいて、前記撮影画像を補正する手段と、を備え、
前記補正式算出手段は、各領域の境界において共有する特徴点の補正後の座標が、各領域において等しくなるように前記歪み補正式を算出することを特徴とする補正装置。 - 撮像手段と、
該撮像手段により撮像された撮影画像における所定の特徴点の座標を取得する特徴点座標取得手段と、
前記撮影画像において前記特徴点が本来結像する理想座標を取得する理想座標取得手段と、
前記撮影画像を複数の領域に分割した各領域における、前記特徴点の座標と、前記理想座標と、の関係に基づいて、各領域における歪曲特性を補正する歪み補正式を算出する補正式算出手段と、
算出された前記歪み補正式に基づいて、前記撮影画像を補正する手段と、を備え、
前記補正式算出手段は、各領域の境界において共有する特徴点の補正後の座標が、各領域において等しくなるように前記歪み補正式を算出することを特徴とする撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012053004A JP5998532B2 (ja) | 2012-03-09 | 2012-03-09 | 補正式算出方法、補正方法、補正装置及び撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012053004A JP5998532B2 (ja) | 2012-03-09 | 2012-03-09 | 補正式算出方法、補正方法、補正装置及び撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013187822A true JP2013187822A (ja) | 2013-09-19 |
JP5998532B2 JP5998532B2 (ja) | 2016-09-28 |
Family
ID=49388874
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012053004A Active JP5998532B2 (ja) | 2012-03-09 | 2012-03-09 | 補正式算出方法、補正方法、補正装置及び撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5998532B2 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9686480B2 (en) | 2013-08-30 | 2017-06-20 | Ricoh Company, Ltd. | Image generation apparatus, vehicle, control method of image generation apparatus and storage medium that set an adjustment target value of emission light intensity |
KR20190029326A (ko) * | 2017-09-12 | 2019-03-20 | 한양대학교 산학협력단 | 영상의 원근 왜곡 보정 장치 및 그 방법 |
KR102023087B1 (ko) * | 2018-05-31 | 2019-09-20 | 주식회사 미르기술 | 카메라 캘리브레이션 방법 |
JP2020005118A (ja) * | 2018-06-28 | 2020-01-09 | ルネサスエレクトロニクス株式会社 | 半導体装置、画像認識システム及び画像処理方法 |
JP2020092334A (ja) * | 2018-12-05 | 2020-06-11 | ミツミ電機株式会社 | 撮像デバイス、撮像システム、および産業用ロボット |
CN112819725A (zh) * | 2021-02-05 | 2021-05-18 | 广东电网有限责任公司广州供电局 | 一种径向畸变的快速图像校正方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006113020A (ja) * | 2004-10-18 | 2006-04-27 | Hitachi High-Technologies Corp | 検査装置及び検査方法 |
JP2010136358A (ja) * | 2008-10-30 | 2010-06-17 | Panasonic Corp | カメラボディ及びカメラシステム |
JP2011049733A (ja) * | 2009-08-26 | 2011-03-10 | Clarion Co Ltd | カメラキャリブレーション装置および映像歪み補正装置 |
-
2012
- 2012-03-09 JP JP2012053004A patent/JP5998532B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006113020A (ja) * | 2004-10-18 | 2006-04-27 | Hitachi High-Technologies Corp | 検査装置及び検査方法 |
JP2010136358A (ja) * | 2008-10-30 | 2010-06-17 | Panasonic Corp | カメラボディ及びカメラシステム |
JP2011049733A (ja) * | 2009-08-26 | 2011-03-10 | Clarion Co Ltd | カメラキャリブレーション装置および映像歪み補正装置 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9686480B2 (en) | 2013-08-30 | 2017-06-20 | Ricoh Company, Ltd. | Image generation apparatus, vehicle, control method of image generation apparatus and storage medium that set an adjustment target value of emission light intensity |
KR20190029326A (ko) * | 2017-09-12 | 2019-03-20 | 한양대학교 산학협력단 | 영상의 원근 왜곡 보정 장치 및 그 방법 |
KR101971258B1 (ko) | 2017-09-12 | 2019-04-22 | 한양대학교 산학협력단 | 영상의 원근 왜곡 보정 장치 및 그 방법 |
KR102023087B1 (ko) * | 2018-05-31 | 2019-09-20 | 주식회사 미르기술 | 카메라 캘리브레이션 방법 |
JP2020005118A (ja) * | 2018-06-28 | 2020-01-09 | ルネサスエレクトロニクス株式会社 | 半導体装置、画像認識システム及び画像処理方法 |
US11212435B2 (en) | 2018-06-28 | 2021-12-28 | Renesas Electronics Corporation | Semiconductor device for image distortion correction processing and image reduction processing |
JP2020092334A (ja) * | 2018-12-05 | 2020-06-11 | ミツミ電機株式会社 | 撮像デバイス、撮像システム、および産業用ロボット |
JP7372513B2 (ja) | 2018-12-05 | 2023-11-01 | ミツミ電機株式会社 | 撮像デバイス、撮像システム、および産業用ロボット |
CN112819725A (zh) * | 2021-02-05 | 2021-05-18 | 广东电网有限责任公司广州供电局 | 一种径向畸变的快速图像校正方法 |
Also Published As
Publication number | Publication date |
---|---|
JP5998532B2 (ja) | 2016-09-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107633536B (zh) | 一种基于二维平面模板的相机标定方法及系统 | |
JP6363863B2 (ja) | 情報処理装置および情報処理方法 | |
JP5998532B2 (ja) | 補正式算出方法、補正方法、補正装置及び撮像装置 | |
JP5997645B2 (ja) | 画像処理装置及び方法、及び撮像装置 | |
JP6041513B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
TWI511086B (zh) | 鏡頭失真校正方法 | |
JP6067175B2 (ja) | 位置測定装置及び位置測定方法 | |
AU2016335123A1 (en) | Camera calibration using synthetic images | |
CN107808398B (zh) | 摄像头参数算出装置以及算出方法、程序、记录介质 | |
US10771776B2 (en) | Apparatus and method for generating a camera model for an imaging system | |
CN113920205B (zh) | 一种非同轴相机的标定方法 | |
CN107610183B (zh) | 一种条纹投影相位高度转换映射模型的标定方法 | |
CN112070845A (zh) | 双目相机的标定方法、装置及终端设备 | |
JP2012202694A (ja) | カメラ校正方法 | |
JP2017092756A (ja) | 画像処理装置、画像処理方法、画像投影システムおよびプログラム | |
JP2013036831A (ja) | キャリブレーション装置及び歪み誤差算出方法 | |
JP2012050013A (ja) | 撮像装置、画像処理装置、画像処理方法及び画像処理プログラム | |
JPWO2018168757A1 (ja) | 画像処理装置、システム、画像処理方法、物品の製造方法、プログラム | |
JP2011155412A (ja) | 投影システムおよび投影システムにおける歪み修正方法 | |
JP2019091122A (ja) | デプスマップフィルタ処理装置、デプスマップフィルタ処理方法及びプログラム | |
JP2012147281A (ja) | 画像処理装置 | |
JP7121936B2 (ja) | カメラ校正情報取得装置、画像処理装置、カメラ校正情報取得方法およびプログラム | |
JP2008298589A (ja) | 位置検出装置及び位置検出方法 | |
JP2018044942A (ja) | カメラパラメータ算出装置、カメラパラメータ算出方法、プログラム、及び記録媒体 | |
JP2002109518A (ja) | 三次元形状復元方法及びシステム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150217 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20151119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151215 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160215 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160802 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160815 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5998532 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |