JP2009017169A - カメラシステムおよびカメラの取り付け誤差の補正方法 - Google Patents

カメラシステムおよびカメラの取り付け誤差の補正方法 Download PDF

Info

Publication number
JP2009017169A
JP2009017169A JP2007175917A JP2007175917A JP2009017169A JP 2009017169 A JP2009017169 A JP 2009017169A JP 2007175917 A JP2007175917 A JP 2007175917A JP 2007175917 A JP2007175917 A JP 2007175917A JP 2009017169 A JP2009017169 A JP 2009017169A
Authority
JP
Japan
Prior art keywords
camera
amount
optical axis
shift amount
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007175917A
Other languages
English (en)
Other versions
JP4794510B2 (ja
Inventor
Kiyoshi Higashihara
清 東原
Daisuke Sugawara
大輔 菅原
Kazuhiko Sakai
和彦 酒井
Akihiro Kaneoka
晃廣 金岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Sony Corp
Original Assignee
Nissan Motor Co Ltd
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd, Sony Corp filed Critical Nissan Motor Co Ltd
Priority to JP2007175917A priority Critical patent/JP4794510B2/ja
Priority to US12/166,558 priority patent/US8346071B2/en
Priority to CN2008101275881A priority patent/CN101340565B/zh
Publication of JP2009017169A publication Critical patent/JP2009017169A/ja
Application granted granted Critical
Publication of JP4794510B2 publication Critical patent/JP4794510B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/402Image calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】取り付け誤差の補正処理に当たって、画像変換用のマップを再計算する必要がなく、あらかじめ画像補正用に用意しておくマップ数も格段に少なくて済むようにする。
【解決手段】カメラの取り付け位置ズレ量ΔX,ΔY,θを検出し(ステップS1)、この検出した光軸回転方向ズレ量θを基にあらかじめ用意されている複数の回転補正マップの中から光軸回転方向ズレ量θに最も近い回転補正マップを選択する(ステップS2)。次に、X方向ズレ量ΔXおよびY方向ズレ量ΔYを用いてレンズ中心Xシフト量X1、レンズ中心Yシフト量Y1、画像切り出し位置Xシフト量X2および画像切り出し位置Yシフト量Y2を計算する(ステップS3)。そして、計算したX1,X2,Y1,Y2の値および回転補正マップの情報に基づいてキャリブレーション処理を行いつつ所定の出力範囲の画像を切り出す(ステップS5)。
【選択図】図4

Description

本発明は、カメラシステムおよびカメラの取り付け誤差の補正方法に関する。
カメラシステム、例えば、カメラを車両に取り付けて車外を監視する用途の車載カメラシステムの場合、車両へのカメラの取り付けに当たっては少なからず取り付け誤差が生じる。取り付け誤差が生じると、その取り付け誤差に応じて、カメラの実際の撮影範囲と本来撮影すべき範囲との間にズレが生じることになる。
一方、車外監視用のモニタには、カメラの撮影画像と合わせて、通常、目安線や進路予想線を表示することになる。このとき、カメラの取り付け誤差に伴って撮影範囲にズレが生じると、カメラの撮影画像に対して目安線や進路予想線が実際の位置とはずれた位置に表示されてしまうことになる。
そのため、従来は、カメラの撮影画像をそのまま表示するのではなく、運転者がより認識しやすいように画像変換を行って車外監視用のモニタに表示する車外監視システムにおいて、その画像変換の一般的な方法として、画像変換システムへの入力(カメラの撮影画像)とシステムの出力(画像変換後のモニタへの出力)との対応関係を表したマップを用意しておき、そのマップを用いて画像変換を行うとともに、カメラの取り付け誤差に応じてマップを再計算し、モニタの表示範囲を補正することによってカメラの取り付け誤差を補正するようにしていた(例えば、特許文献1参照)。
特開2005−217889号公報
上記従来技術では、撮影画像の第1方向(X方向)と当該第1方向と直交する第2方向(Y方向)の取り付け誤差のみならず、カメラ光軸回りの回転誤差についても補正することが可能であるが、カメラの取り付け誤差がその取り付け後でなければわからないことから、X方向、Y方向および光軸回転方向の各補正のためのパラメータの細かい設定を、カメラの取り付け位置が決まり、その取り付け誤差がわかった後に行ってマップを再計算することになるため、取り付け誤差の補正処理に時間がかかる。
また、カメラの取り付け誤差をあらかじめ複数予想して、この予想した複数の取り付け誤差に対応してパラメータの設定を行ってマップをあらかじめ計算して用意しておくとした場合、あらかじめ用意しておくマップ数が多くなるため、マップを格納しておくシステムのメモリの容量が大きくなってしまうという問題が発生する。
一例として、X方向、Y方向および光軸回転方向の各補正に当たってマップを10ステップずつ用意しようとした場合、1000(=10×10×10)通りのマップが必要になる。近年は、画像変換の精度も要求されるため10ステップでも少ないと考えられる。したがって、ステップ数が増えればそれだけマップ数が増大し、それに伴ってメモリ容量もさらに大きくなってしまう。
そこで、本発明は、取り付け誤差の補正処理に当たって、画像変換用のマップを再計算する必要がなく、しかも、あらかじめ画像補正用に用意しておくマップ数も格段に少なくて済むカメラシステムおよびカメラの取り付け誤差の補正方法を提供することを目的とする。
上記目的を達成するために、本発明は、カメラの取り付け誤差を補正するに当たって、カメラの取り付け誤差を当該カメラによる撮影画像の第1方向のズレ量、当該第1方向と直交する第2方向のズレ量および光軸回転方向のズレ量として検出し、検出した前記光軸回転方向のズレ量に対応する回転補正量をあらかじめ用意されている複数の回転補正マップの中から選択し、かつ、検出した前記第1方向のズレ量および前記第2方向のズレ量を基に、1次式を用いて第1,第2方向の補正量を計算し、選択した前記回転補正量および計算した前記第1,第2方向の補正量を基に前記撮影画像の第1,第2方向のズレおよび光軸回転方向のズレを補正するようにする。
光軸回転方向の補正に関してはマップを用いるものの、そのマップを再計算するのではなく、あらかじめ用意されている複数の回転補正マップの中から選択するだけであり、しかも、第1,第2方向の補正に関しては簡単な1次式を用いて計算して求めるようにしているため、マップを再計算したり、予想した複数の取り付け誤差に対応してパラメータの設定を行ってマップをあらかじめ計算して用意しておいたりしなくても、カメラの取り付け誤差の補正を実行できる。
本発明によれば、光軸回転方向の補正に関してはマップを用い、第1,第2方向の補正に関しては簡単な1次式を用いて計算することにより、画像変換用のマップを再計算する必要がなく、しかも、あらかじめ画像補正用に用意しておくマップ数も光軸回転方向だけで良いために格段に少なくて済むことになる。
以下、本発明の実施の形態について図面を参照して詳細に説明する。
図1は、本発明の一実施形態に係るカメラシステムの構成例を示すシステム構成図である。図1に示すように、本実施形態に係るカメラシステム10は、カメラ11、カメラコントロール装置12および表示装置13により構成され、例えば、カメラ11を車両(図示せず)に取り付けて車外を監視する用途の車載カメラシステムとなっている。
カメラ11は、車外を広範囲に亘って撮影できるように魚眼レンズ等の広角レンズを備えており、車両の所定の位置、例えば車両前方あるいは車両後方、また、ドアミラー等に格納して車両左右位置に取り付けられる。ここで、カメラ11を1台設置した例を示しているが、カメラ11を複数台設置する、例えば車両の前後左右の隅に4台設置するような構成を採ることも可能である。
カメラ11は、レンズに起因する画像歪を補正する周知の画像変換機能を備えるとともに、カメラコントロール装置12から与えられるキャリブレーションデータに基づいて、撮影した画像上でカメラ11の車両への取り付け誤差を補正するキャリブレーション機能を備えている。キャリブレーション機能の詳細については後述する。
キャリブレーションデータとしては、回転補正マップ、レンズ中心Xシフト量X1、レンズ中心Yシフト量Y1、画像切り出し位置Xシフト量X2、画像切り出し位置Yシフト量Y2がカメラコントロール装置12からカメラ11に対して与えられる。
カメラコントロール装置12はCPUを有し、当該CPUによる制御の下に、カメラ11で撮影されて当該カメラ11から出力される映像信号に基づいて、カメラ11の車両への取り付け位置ズレ量、具体的にはX方向ズレ量ΔX、Y方向ズレ量ΔYおよび光軸回転方向ズレ量θを検出する。これら取り付け位置ズレ量ΔX,ΔY,θおよびその検出の詳細については後述する。
カメラコントロール装置12はCPUに加えてメモリを有し、当該メモリに格納されている複数の回転補正マップの中から、検出した光軸回転方向ズレ量θに最も近いマップを選択してカメラ11に送る。カメラコントロール装置12のメモリには、光軸回転方向ズレ量θとして複数通りのズレ量を想定し、これら複数通りのズレ量に対応した複数の回転補正マップをあらかじめ計算して用意されている(格納されている)。
カメラコントロール装置12はさらに、CPUによる制御の下に、検出したX方向ズレ量ΔXおよびY方向ズレ量ΔYを基に後述する演算式を用いて、レンズ中心Xシフト量X1、レンズ中心Yシフト量Y1、画像切り出し位置Xシフト量X2および画像切り出し位置Yシフト量Y2を計算し、その計算結果をカメラ11に送る。
表示装置13は、液晶、プラズマ、有機EL(Electro Luminescence)等のディスプレイからなり、カメラ11で撮影されかつ切り出され、カメラコントロール装置12を経由して供給される映像信号に基づく画像を表示する。
表示装置13で表示する画像には、カメラ11において、カメラコントロール装置12から与えられるキャリブレーションデータ、即ち回転補正マップ、レンズ中心Xシフト量X1、レンズ中心Yシフト量Y1、画像切り出し位置Xシフト量X2、画像切り出し位置Yシフト量Y2に基づいてカメラ11の車両への取り付け誤差の補正が施されている。
ここで、車載カメラシステムにおいて、例えば地面に格子状に描かれている図形(具体的には、駐車スペースを規定する枠)をカメラ11で撮影し、これを表示装置13に表示する場合について考える。
先ず、車両に対してカメラ11が正規の取り付け位置に取り付けられ、取り付け誤差がない場合について、図2(A),(B)を用いて説明する。
カメラ11には魚眼レンズが装着されていることから、カメラ11で撮影されかつ切り出された画像は、光軸中心に拡大すると、図2(A)に示すように、光軸中心を通る撮影画像の第1方向(X方向)の基準線X0とこれと直交する第2方向(Y方向)の基準線Y0を中心として歪のある画像となる。
この歪のある画像に対して、カメラ11において、レンズに起因する画像の歪を補正する画像変換処理が施されることで、表示装置13に表示される画像は、図2(B)に示すように、レンズに起因する画像歪が補正された格子状の図形となる。
次に、正規の取り付け位置に対して、車両に対してカメラ11が例えばX方向にずれて取り付けられた場合について、図3(A),(B)を用いて説明する。図3(A)に示す画像は、カメラ11がX方向の基準線X0に対して例えば−3度ずれて取り付けられたときに、光軸中心に拡大した歪のある画像である。
このようにX方向の取り付け誤差がある場合、歪のある画像に対して、カメラ11において、レンズに起因する画像の歪を補正する画像変換処理が施されることで、表示装置13に表示される画像は、レンズに起因する画像歪は補正されるものの、X方向の取り付け誤差に起因する歪を新たに持つものとなる。
具体的には、表示装置13に表示される画像は、図3(B)に示すように、左側の幅d1が光軸中心の幅d0よりも狭く、右側の幅d2が光軸中心の幅d0よりも広い、歪のある格子状の図形として表示されることになる。
(キャリブレーション処理)
これに対して、本実施形態に係る車載カメラシステム10において、図4のフローチャートに示すような処理手順によるキャリブレーション処理(取り付け誤差の補正処理)を実行することにより、カメラ11が正規の取り付け位置に対してずれて取り付けられたときの取り付け誤差を補正するようにしている。
図4のフローチャートにおいて、先ず、カメラ11の車両への取り付け位置ズレ量、即ちX方向ズレ量ΔX、Y方向ズレ量ΔYおよび光軸回転方向ズレ量θを検出し(ステップS1)、次いで、検出した光軸回転方向ズレ量θを基にあらかじめ用意されている複数の回転補正マップの中から光軸回転方向ズレ量θに最も近い回転補正マップを選択する(ステップS2)。このステップS1,S2の処理は、カメラコントロール装置12の処理に相当する。
次に、X方向ズレ量ΔXおよびY方向ズレ量ΔYを用いてレンズ中心Xシフト量X1、レンズ中心Yシフト量Y1、画像切り出し位置Xシフト量X2および画像切り出し位置Yシフト量Y2を計算し(ステップS3)、次いで、算出したX1,X2,Y1,Y2の値および選択した回転補正マップの情報をカメラ11に送る(ステップS4)。このステップS3,S4の処理は、カメラコントロール装置12の処理に相当する。
そして、カメラ11においては、カメラコントロール装置12から与えられるキャリブレーションデータ、即ちX1,X2,Y1,Y2の値および回転補正マップの情報に基づいて、カメラ11の車両への取り付け誤差を補正するキャリブレーション処理を行いつつ所定の出力範囲の画像を切り出す処理を行う(ステップS5)。なお、ステップS2の処理とステップS3の処理の順番はどちらが先であってもよい。
このキャリブレーション処理により、車両に対するカメラ11の取り付け位置がずれており、そのときのカメラ11による撮影画像が、図3(A)に示すように、X方向の基準線X0に対して例えば−3度ずれていたとしても、表示装置13に表示される画像は、図2(B)に示すように、レンズに起因する画像歪およびカメラ11の取り付け誤差が補正された格子状の図形となる。すなわち、電気的なキャリブレーション処理により、車両に対するカメラ11の機械的な取り付け誤差を補正できることになる。
(取り付け位置ズレ量ΔX,ΔY,θ)
ここで、取り付け位置ズレ量ΔX,ΔY,θについて説明する。
先ず、車両の正規の取り付け位置に対するカメラ11の実際の取り付け位置の誤差(取り付け誤差)を検出するために、正規の取り付け位置で撮影したときに表示装置13の表示画面上の中心に位置するように、カメラ11が撮影する領域には、例えば「+」の基準マークが記されているものとする。
そして、カメラ11を車両に実際に取り付けた状態で撮影したときに、カメラ11に取り付け誤差があれば、図5に示すように、撮影領域に記された「+」の基準マークM1が破線で示す基準位置のターゲットマークM0からずれた状態で撮影される。ここで、ΔXがX方向のズレ量、ΔYがY方向のズレ量、θが光軸回転方向のズレ量となる。
(ΔX,ΔY,θの検出)
続いて、取り付け位置ズレ量、即ちX方向ズレ量ΔX、Y方向ズレ量ΔYおよび光軸回転方向ズレ量θの検出について説明する。
ここでは、一例として、図5に破線で示すターゲットマークM0の位置をホームポジションとするカーソル(以下、「検出マーク」と記述する)M0を表示装置13の表示画面上に表示しておき、操作部(図示せず)において測定者が左右上下方向の移動および光軸回転方向の回転を指示するキーの操作によって検出マークM0を移動・回転させて撮影画像上の基準マークM1に一致させたときの移動量および回転量をX方向ズレ量ΔX、Y方向ズレ量ΔYおよび光軸回転方向ズレ量θとして検出するものとする。
以下に、X方向ズレ量ΔX、Y方向ズレ量ΔYおよび光軸回転方向ズレ量θを検出する検出処理の一例の手順について、図6のフローチャートを用いて説明する。ここでは、検出マークM0に対する撮影画像上の基準マークM1が図4に示す位置関係にある場合を例に挙げて説明するものとする。
測定者は、検出マーク(ターゲットマーク)M0に対する撮影画像上の基準マークM1の位置関係からキー操作によって先ずX方向に1ステップだけ検出マークM0を移動させる(ステップS11)。このとき、CPUはキー入力を受けてX方向のカウンタのカウント値xをインクリメントする(ステップS12)。
ここで、X方向の1ステップ移動は、本検出処理において単位となる距離αの移動に相当する。また、X方向のカウンタは、例えば、図5の右方向への移動の際にはアップカウントを行い、図5の左方向の移動の際にはダウンカウントを行うものとする。
次に、測定者は目視により、検出マークM0の中心が基準マークM1のX方向の中心と一致したか否かを判断し(ステップS13)、一致していなければ、一致したと判定するまで、ステップS11,S12の処理を繰り返す。
検出マークM0の中心が基準マークM1のX方向の中心と一致した時点では、X方向のカウンタのカウント値xは、検出マークM0を移動させたステップ数となる。そして、X方向のカウンタのカウント値xに単位となる距離αを掛けることで、X方向ズレ量ΔXを求める(ステップS14)。
測定者は次に、検出マークM0に対する撮影画像上の基準マークM1の位置関係からキー操作によってY方向に1ステップだけ検出マークM0を移動させる(ステップS15)。このとき、CPUはキー入力を受けてY方向のカウンタのカウント値yをインクリメントする(ステップS16)。
ここで、Y方向の1ステップ移動は、X方向の場合と同様に、本検出処理において単位となる距離αの移動に相当する。また、Y方向のカウンタは、例えば、図5の上方向への移動の際にはアップカウントを行い、図5の下方向の移動の際にはダウンカウントを行うものとする。
次に、測定者は目視により、検出マークM0の中心が基準マークM1のY方向の中心と一致したか否かを判断し(ステップS17)、一致していなければ、一致したと判定するまで、ステップS15,S16の処理を繰り返す。
検出マークM0の中心が基準マークM1のY方向の中心と一致した時点では、Y方向のカウンタのカウント値yは、検出マークM0を移動させたステップ数となる。そして、X方向のカウンタのカウント値xに単位となる距離αを掛けることで、Y方向ズレ量ΔYを求める(ステップS18)。
測定者は次に、検出マークM0に対する撮影画像上の基準マークM1の位置関係からキー操作によって光軸回転方向に1ステップだけ検出マークM0を回転させる(ステップS19)。このとき、CPUはキー入力を受けて光軸回転方向のカウンタのカウント値zをインクリメントする(ステップS20)。
ここで、光軸方向の1ステップ回転は、本検出処理において単位となる角度βの回転に相当する。また、光軸回転方向のカウンタは、例えば、図5の時計回り方向の回転の際にはアップカウントを行い、図5の反時計回り方向の回転の際にはダウンカウントを行うものとする。
次に、測定者は目視により、検出マークM0の縦横の線が基準マークM1の縦横の線と一致したか否かを判断し(ステップS21)、一致していなければ、一致したと判定するまで、ステップS19,S20の処理を繰り返す。
検出マークM0の縦横の線が基準マークM1の縦横の線と一致した時点では、光軸回転方向のカウンタのカウント値zは、検出マークM0を回転させたステップ数となる。そして、光軸回転方向のカウンタのカウント値zに単位となる角度βを掛けることで、光軸回転方向ズレ量θを求める(ステップS22)。
上述した一連の処理により、車両に対してカメラ11の取り付け誤差があった場合に、その取り付け位置ズレ量として、X方向ズレ量ΔX、Y方向ズレ量ΔYおよび光軸回転方向ズレ量θを、基準マークM1を含む撮影画像から検出することができる。
なお、上述した一連の処理手順は一例に過ぎず、これに限られるものではなく、X方向ズレ量ΔX、Y方向ズレ量ΔYおよび光軸回転方向ズレ量θを検出できるのであれば、その手法については問わない。
(X1,Y1,X2,Y2の計算)
このようにして、取り付け位置ズレ量ΔX,ΔY,θを検出したら、X方向ズレ量ΔXおよびY方向ズレ量ΔYを基に、次式の簡単な1次の演算式を用いてレンズ中心Xシフト量X1、レンズ中心Yシフト量Y1、画像切り出し位置Xシフト量X2および画像切り出し位置Yシフト量Y2を計算する。
X1=A1*ΔX+B1
Y1=A2*ΔY+B2
X2=A3*ΔX+B3
Y2=A4*ΔY+B4
ここで、図5の検出マークM0の位置を光軸ズレ検出基準位置、図5の基準マークM1の位置をキャリブレーション位置(基準位置に合わせたい位置/取り付け誤差によってずれた位置)とすると、係数A1〜A4は、カメラ11の撮像素子の画素数と表示装置13の表示画素数、および、光軸ズレ検出基準位置とキャリブレーション位置のレンズ歪特性値から算出することができる。
具体的には次の通りである。カメラ11の撮像素子の画素数、即ちカメラ11の出力映像のX方向の画素数をXd_c、Y方向の画素数をYd_cとし、表示装置13の表示画素数、即ちカメラコントロール装置12の出力映像の画素数をXd_u、Y方向の画素数をYd_uとする。
また、光軸ズレ検出基準位置とキャリブレーション位置のレンズ歪特性は、図7に示すように、半画角[deg]−画素量[dot/deg]で表される。そして、X方向における光軸ズレ検出基準位置の画素量をL0_x、キャリブレーション位置の画素量をL1_xとする。図7のレンズ歪特性はX方向に関してのものであるが、Y方向に関しても同様であり、Y方向における光軸ズレ検出基準位置の画素量をL0_y、キャリブレーション位置の画素量をL1_yとする。
そして、係数A1〜A4を次式の演算式から算出する。
A1=(Xd_c/Xd_u)*(L1_x/L0_x)
A2=(Yd_c/Yd_u)*(L1_y/L0_y)
A3=(Xd_c/Xd_u)*(L1_x/L0_x)
A4=(Yd_c/Yd_u)*(L1_y/L0_y)
また、定数B1〜B4は、カメラ11の取り付け状態(位置や光軸)および画像変換内容によって決まる各パラメータの設計センター値(ΔX=0,ΔY=0のときの値)である。
(本実施形態の作用効果)
以上説明したように、カメラ11を車両に取り付けて車外を監視する用途の車載カメラシステム(本実施形態に係るカメラシステム)10においては、車両に対するカメラ11の取り付け誤差の補正に当たって、カメラ11の車両への取り付け位置ズレ量として、X方向ズレ量ΔX、Y方向ズレ量ΔYおよび光軸回転方向ズレ量θを検出し、光軸回転方向の補正量に関しては、あらかじめ用意されている複数の回転補正マップの中から光軸回転方向ズレ量θに最も近い回転補正マップを選択してカメラ11に与える。
一方、X方向およびY方向の補正量に関しては、検出したX方向ズレ量ΔXおよびY方向ズレ量ΔYを基に、簡単な1次式を用いてレンズ中心Xシフト量X1、レンズ中心Yシフト量Y1、画像切り出し位置Xシフト量X2および画像切り出し位置Yシフト量Y2を計算し、これら演算結果をカメラ11に与える。なお、レンズ中心Xシフト量X1、レンズ中心Yシフト量Y1、画像切り出し位置Xシフト量X2および画像切り出し位置Yシフト量Y2の計算と、回転補正マップの選択は独立のため、その処理の順番はどちらが先であっても構わない。
このように、X方向およびY方向の補正量に関しては簡単な1次式を用いて計算によって求め、光軸回転方向の補正量に関してはあらかじめ用意されている複数の回転補正マップの中から選択することにより、画像変換用のマップを再計算する必要がなく、しかも、あらかじめ画像補正用に用意しておくマップ数も光軸回転方向だけで良いために格段に少なくて済むことになる。そして、補正の結果として得られる映像は、カメラ11の取り付け誤差を機械的に調整したり、あるいは、マップを再計算して画像変換を行ったりする場合と同等な映像となる。
なお、上記実施形態においては、車載カメラシステムに適用した場合を例に挙げて説明したが、本発明はこの適用例に限られるものではなく、例えば監視カメラシステムに適用して、監視カメラの取り付け誤差の補正に用いることも可能である。
本発明の一実施形態に係るカメラシステムの構成例を示すシステム構成図である。 カメラに取り付け誤差がない場合についての説明図である。 カメラに取り付け誤差がある場合についての説明図である。 キャリブレーション処理の処理手順を示すフローチャートである。 取り付け位置ズレ量ΔX,ΔY,θについての説明図である。 取り付け位置ズレ量ΔX,ΔY,θの検出の処理手順の一例を示すフローチャートである。 光軸ズレ検出基準位置とキャリブレーション位置のレンズ歪特性を表す図である。
符号の説明
10…カメラシステム(車載カメラシステム)、11…カメラ、12…カメラコントロール装置、13…表示装置、M0…検出マーク(ターゲットマーク)、M1…基準マーク

Claims (3)

  1. カメラの取り付け誤差を当該カメラによる撮影画像の第1方向のズレ量、当該第1方向と直交する第2方向のズレ量および光軸回転方向のズレ量として検出する検出手段と、
    前記検出手段が検出した前記光軸回転方向のズレ量に対応する回転補正量をあらかじめ用意されている複数の回転補正マップの中から選択する選択手段と、
    前記検出手段が検出した前記第1方向のズレ量および前記第2方向のズレ量を基に、1次式を用いて第1,第2方向の補正量を計算する計算手段と、
    前記選択手段が選択した前記回転補正量および前記計算手段が計算した前記第1,第2方向の補正量を基に前記撮影画像の第1,第2方向のズレおよび光軸回転方向のズレを補正する補正手段と
    を備えたことを特徴とするカメラシステム。
  2. 前記検出手段は、車両の規定の取り付け位置に対する前記カメラの取り付け位置の誤差を検出する
    ことを特徴とする請求項1記載のカメラシステム。
  3. カメラの取り付け誤差を当該カメラによる撮影画像の第1方向のズレ量、当該第1方向と直交する第2方向のズレ量および光軸回転方向のズレ量として検出し、
    検出した前記光軸回転方向のズレ量に対応する回転補正量をあらかじめ用意されている複数の回転補正マップの中から選択し、かつ、検出した前記第1方向のズレ量および前記第2方向のズレ量を基に、1次式を用いて第1,第2方向の補正量を計算し、
    選択した前記回転補正量および計算した前記第1,第2方向の補正量を基に前記撮影画像の第1,第2方向のズレおよび光軸回転方向のズレを補正する
    ことを特徴とするカメラの取り付け誤差の補正方法。
JP2007175917A 2007-07-04 2007-07-04 カメラシステムおよびカメラの取り付け誤差の補正方法 Active JP4794510B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007175917A JP4794510B2 (ja) 2007-07-04 2007-07-04 カメラシステムおよびカメラの取り付け誤差の補正方法
US12/166,558 US8346071B2 (en) 2007-07-04 2008-07-02 Camera system and method of correcting camera fitting errors
CN2008101275881A CN101340565B (zh) 2007-07-04 2008-07-04 摄像系统和校正摄像机装配误差的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007175917A JP4794510B2 (ja) 2007-07-04 2007-07-04 カメラシステムおよびカメラの取り付け誤差の補正方法

Publications (2)

Publication Number Publication Date
JP2009017169A true JP2009017169A (ja) 2009-01-22
JP4794510B2 JP4794510B2 (ja) 2011-10-19

Family

ID=40214498

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007175917A Active JP4794510B2 (ja) 2007-07-04 2007-07-04 カメラシステムおよびカメラの取り付け誤差の補正方法

Country Status (3)

Country Link
US (1) US8346071B2 (ja)
JP (1) JP4794510B2 (ja)
CN (1) CN101340565B (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010173347A (ja) * 2009-01-27 2010-08-12 Toyota Motor Corp 車載カメラの光軸校正システム
JP2010251938A (ja) * 2009-04-14 2010-11-04 Denso Corp 車両周辺撮影表示システム
JP2012049700A (ja) * 2010-08-25 2012-03-08 Denso Corp 車両周辺監視装置
JP2012527803A (ja) * 2009-05-19 2012-11-08 オートリブ ディベロップメント エービー 自動車用ビジョンシステムおよびビジョンメソッド
KR101317428B1 (ko) 2013-02-05 2013-10-10 주식회사 지오멕스소프트 카메라(cctv) 제어기능을 갖는 공간 정보 시스템 및 그 동작방법
JP2013219439A (ja) * 2012-04-04 2013-10-24 Kyocera Corp 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
JP2016030554A (ja) * 2014-07-30 2016-03-07 株式会社デンソー 車載カメラの取り付け姿勢検出方法およびその装置
JP2017175206A (ja) * 2016-03-18 2017-09-28 京セラ株式会社 撮像装置、車載カメラおよび画像処理方法
JP2020036166A (ja) * 2018-08-29 2020-03-05 アルパイン株式会社 画像表示装置、画像表示方法
CN112261262A (zh) * 2020-10-21 2021-01-22 维沃移动通信有限公司 图像校准方法和装置、电子设备和可读存储介质

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5471038B2 (ja) * 2009-05-27 2014-04-16 アイシン精機株式会社 校正目標検出装置と、校正目標を検出する校正目標検出方法と、校正目標検出装置のためのプログラム
JP5304721B2 (ja) * 2010-04-28 2013-10-02 株式会社Jvcケンウッド 立体映像撮像装置
KR101113679B1 (ko) * 2010-05-24 2012-02-14 기아자동차주식회사 카메라 시스템의 영상 보정 방법
JP5966341B2 (ja) * 2011-12-19 2016-08-10 大日本印刷株式会社 画像処理装置、画像処理方法、画像処理装置用プログラム、画像表示装置
CN103832338B (zh) * 2012-11-27 2016-05-04 德尔福电子(苏州)有限公司 一种车辆后视摄像头装配偏差补偿系统
CN104715444A (zh) * 2013-12-11 2015-06-17 诺基亚公司 用于图形处理的方法和设备
JP2015195568A (ja) * 2014-03-17 2015-11-05 株式会社リコー 通信装置、及び通信システム
US10249056B2 (en) * 2014-04-11 2019-04-02 Nissan North America, Inc. Vehicle position estimation system
US10113769B2 (en) 2014-10-30 2018-10-30 Quick-Sling, Llc Wall mount bracket for outdoor equipment
CN107110647B (zh) * 2014-12-17 2020-10-27 实耐宝公司 实时车身高度测量
KR101705558B1 (ko) 2015-06-25 2017-02-13 (주)캠시스 Avm 시스템의 공차 보정 장치 및 방법
TWI591377B (zh) * 2015-12-11 2017-07-11 財團法人工業技術研究院 廣角鏡頭校正系統及其方法
MY196886A (en) * 2016-06-02 2023-05-08 Universal Instruments Corp Semiconductor die offset compensation variation
KR101762117B1 (ko) 2017-01-18 2017-07-28 (주)캠시스 Avm 시스템의 공차 보정 장치 및 방법
KR102071418B1 (ko) * 2018-05-17 2020-01-30 에스케이텔레콤 주식회사 차량용 카메라 캘리브레이션 장치 및 방법
TWI681166B (zh) * 2018-12-05 2020-01-01 晶睿通訊股份有限公司 資訊量測方法及資訊量測系統
JP7215231B2 (ja) 2019-03-04 2023-01-31 トヨタ自動車株式会社 情報処理装置、検知方法及びプログラム
CN112607362B (zh) * 2020-12-24 2022-04-26 中建材信息技术股份有限公司 一种基于视频的皮带偏移检测方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001187552A (ja) * 1999-10-19 2001-07-10 Toyota Autom Loom Works Ltd 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法
JP2005217889A (ja) * 2004-01-30 2005-08-11 Toyota Industries Corp 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法
JP2007006175A (ja) * 2005-06-24 2007-01-11 Nissan Motor Co Ltd 車両用画像生成装置および方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4969036A (en) * 1989-03-31 1990-11-06 Bir Bhanu System for computing the self-motion of moving images devices
US5036474A (en) * 1989-03-31 1991-07-30 Honeywell Inc. Motion detection and tracking from a mobile platform
EP0895429A4 (en) * 1996-12-26 2002-05-02 Sony Corp DEVICE AND METHOD FOR SYNTHESIZING IMAGES
US6618494B1 (en) * 1998-11-27 2003-09-09 Wuestec Medical, Inc. Optical distortion correction in digital imaging
US6813371B2 (en) * 1999-12-24 2004-11-02 Aisin Seiki Kabushiki Kaisha On-vehicle camera calibration device
JPWO2005024754A1 (ja) * 2003-09-02 2006-11-09 富士通株式会社 車載用画像処理装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001187552A (ja) * 1999-10-19 2001-07-10 Toyota Autom Loom Works Ltd 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法
JP2005217889A (ja) * 2004-01-30 2005-08-11 Toyota Industries Corp 映像位置関係補正装置、該映像位置関係補正装置を備えた操舵支援装置、及び映像位置関係補正方法
JP2007006175A (ja) * 2005-06-24 2007-01-11 Nissan Motor Co Ltd 車両用画像生成装置および方法

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010173347A (ja) * 2009-01-27 2010-08-12 Toyota Motor Corp 車載カメラの光軸校正システム
JP2010251938A (ja) * 2009-04-14 2010-11-04 Denso Corp 車両周辺撮影表示システム
US8243138B2 (en) 2009-04-14 2012-08-14 Denso Corporation Display system for shooting and displaying image around vehicle
JP2012527803A (ja) * 2009-05-19 2012-11-08 オートリブ ディベロップメント エービー 自動車用ビジョンシステムおよびビジョンメソッド
JP2012049700A (ja) * 2010-08-25 2012-03-08 Denso Corp 車両周辺監視装置
JP2013219439A (ja) * 2012-04-04 2013-10-24 Kyocera Corp 較正処理装置、カメラ較正装置、カメラシステム、およびカメラ較正方法
KR101317428B1 (ko) 2013-02-05 2013-10-10 주식회사 지오멕스소프트 카메라(cctv) 제어기능을 갖는 공간 정보 시스템 및 그 동작방법
JP2016030554A (ja) * 2014-07-30 2016-03-07 株式会社デンソー 車載カメラの取り付け姿勢検出方法およびその装置
JP2017175206A (ja) * 2016-03-18 2017-09-28 京セラ株式会社 撮像装置、車載カメラおよび画像処理方法
JP2020036166A (ja) * 2018-08-29 2020-03-05 アルパイン株式会社 画像表示装置、画像表示方法
CN110876025A (zh) * 2018-08-29 2020-03-10 阿尔派株式会社 图像显示装置、图像显示方法
CN110876025B (zh) * 2018-08-29 2024-01-05 阿尔派株式会社 图像显示装置、图像显示方法
CN112261262A (zh) * 2020-10-21 2021-01-22 维沃移动通信有限公司 图像校准方法和装置、电子设备和可读存储介质

Also Published As

Publication number Publication date
US20090010630A1 (en) 2009-01-08
JP4794510B2 (ja) 2011-10-19
CN101340565A (zh) 2009-01-07
CN101340565B (zh) 2011-05-18
US8346071B2 (en) 2013-01-01

Similar Documents

Publication Publication Date Title
JP4794510B2 (ja) カメラシステムおよびカメラの取り付け誤差の補正方法
JP5316805B2 (ja) 車載カメラ装置の画像調整装置及び車載カメラ装置
JP4690476B2 (ja) 車載カメラの校正装置
US10922559B2 (en) Automatic surround view homography matrix adjustment, and system and method for calibration thereof
JP4861034B2 (ja) 車載カメラのキャリブレーションシステム
JP4751939B2 (ja) 車載カメラの校正装置
JP6458439B2 (ja) 車載カメラ較正装置、画像生成装置、車載カメラ較正方法、画像生成方法
JP4454543B2 (ja) 歪み補正手段を備えたプロジェクタ
JP6260424B2 (ja) 車載カメラの取り付け誤差検出装置
US20100245575A1 (en) Driving support device, driving support method, and driving support program
JP5081313B2 (ja) 車載カメラの校正装置
TW200525454A (en) Video image positional relationship correction apparatus, steering assist apparatus having the video image positional relationship correction apparatus and video image positional relationship correction method
JP2011182077A (ja) 補正情報算出装置、画像処理装置、画像表示システム、および画像補正方法
JP2005056320A (ja) 運転支援装置及び運転支援方法
CN114641985B (zh) 摄像支援装置、摄像支援系统、摄像系统、摄像支援方法及存储介质
JP4682830B2 (ja) 車載画像処理装置
JP5883275B2 (ja) 車載カメラのキャリブレーション装置
CN114616820B (zh) 摄像支援装置、摄像装置、摄像系统、摄像支援系统、摄像支援方法及存储介质
KR20160050439A (ko) 차량용 후방 카메라의 영상 보정 방법
JP2009212734A (ja) 自動校正単眼ステレオ視装置
KR102611759B1 (ko) 차량의 어라운드 뷰 영상의 보정 장치 및 그 제어 방법
JP2013005032A (ja) 車載カメラ姿勢検出装置
JP6624383B2 (ja) キャリブレーション装置及び車載カメラシステム
JP2007096964A (ja) カメラ補正装置及びカメラ補正方法
JP5111171B2 (ja) 大型車両用のフレーム穴間隔測定装置

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20091007

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20091019

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091015

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110630

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110705

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110726

R150 Certificate of patent or registration of utility model

Ref document number: 4794510

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140805

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250