JP3906194B2 - キャリブレーション方法、キャリブレーション支援装置、キャリブレーション装置およびカメラシステムの製造方法 - Google Patents

キャリブレーション方法、キャリブレーション支援装置、キャリブレーション装置およびカメラシステムの製造方法 Download PDF

Info

Publication number
JP3906194B2
JP3906194B2 JP2003324615A JP2003324615A JP3906194B2 JP 3906194 B2 JP3906194 B2 JP 3906194B2 JP 2003324615 A JP2003324615 A JP 2003324615A JP 2003324615 A JP2003324615 A JP 2003324615A JP 3906194 B2 JP3906194 B2 JP 3906194B2
Authority
JP
Japan
Prior art keywords
mirror
calibration
mark
camera
camera system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003324615A
Other languages
English (en)
Other versions
JP2004191354A (ja
Inventor
賢一 前田
恭弘 谷口
進 窪田
宏章 中井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2003324615A priority Critical patent/JP3906194B2/ja
Priority to US10/704,550 priority patent/US7124046B2/en
Publication of JP2004191354A publication Critical patent/JP2004191354A/ja
Priority to US11/510,583 priority patent/US7321839B2/en
Application granted granted Critical
Publication of JP3906194B2 publication Critical patent/JP3906194B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras

Description

本発明は、カメラシステムのキャリブレーションのための方法、キャリブレーション装置、当該キャリブレーションに用いられるキャリブレーション支援装置、当該キャリブレーションを含むカメラシステムの製造方法に関するものである。
近年、撮影画像中に映っている物体に関する情報(例えば、物体の位置情報など)を検出する機能を備えたカメラシステムが開発されている。例えば、日本国特許公開公報2001−243456号には、複数のカメラの撮影画像に基づいて障害物を検出する技術が提案されている(例えば、特許文献1参照)。
このようなカメラシステムは、多くの場合、自動車に搭載される。自動車に搭載されるカメラシステムは、自動車の前方を撮影し、撮影した画像に基づいて、前方の障害物、例えば前方を走行する他の自動車を認識し、認識した障害物と自車両との間の距離を検出する。
このカメラシステムでは、キャリブレーションが必須である。キャリブレーション工程は、カメラの取り付け位置のキャリブレーションだけでなく、撮影のための種々のパラメータ設定も含む。
カメラシステムにおけるキャリブレーションは、通常次の手順で行われる。1)カメラを所定の位置に取り付ける。2)そのカメラで、複数の目印を含む領域を撮影し、撮影画像から目印の位置情報(以下、目印撮影情報)を取得する。ここで、複数の目印の正しい位置情報(以下、目印真情報)は既知である。3)目印撮影情報と目印真情報との違いから、取り付け位置のキャリブレーションおよび各種パラメータの設定を行う。
また、平面投影ステレオ視と呼ばれる技術を利用するカメラシステム(以下、平面投影ステレオカメラシステム)が提案されている。平面投影ステレオカメラシステムは、例えば、上記特許文献1に障害物検出装置として開示されている。
特開2001−243456号公報
ところで、より精度の高いキャリブレーションは、カメラの近傍から遠く離れた領域までを撮影し、これにより多くの目印撮影情報を取得することで達成される。換言すれば、より精度の高いキャリブレーションは、広大な空間(例えば、カメラから数十メートル〜100メートル程度までの領域)と、その広大な空間に実際に多数の目印を配置することを要求する。
また、上記の平面投影ステレオカメラシステムは、平面投影のためのパラメータを必要とするので、キャリブレーションにおいても、撮影画像に平面がどのように映るかという平面の撮影情報を要求する。したがって、平面投影ステレオカメラシステムでは、キャリブレーションのために、平面上に複数の目印を設け、それら複数の目印を撮影しなければならない。より精度の高い平面投影を行うためのパラメータを取得するには、面積の大きい平面上に多数の目印を設置し、かつそれら多数の目印の撮影情報を取得することが好ましい。換言すれば、この平面投影ステレオカメラシステムのキャリブレーションを行うためには、広大な空間が必要となる。
よって、上記したいずれのカメラシステムも、キャリブレーションのために、広い空間を要求する。この要求は、カメラシステムが製造される工場内でのキャリブレーションを実質不可能とする。例えば、自動車に搭載されるカメラシステムのキャリブレーションを行う場合、工場内でカメラを自動車に取り付けた後、その自動車を工場外に持ち出し、道路上に設けた多数の目印を撮影するといった煩雑な作業が生じる。
本発明は、上記に鑑みてなされたものであって、工場などの限られた広さの場所でも容易にカメラシステムのキャリブレーションを実施することができるキャリブレーション方法、キャリブレーション支援装置、キャリブレーション装置およびカメラシステムの製造方法を提供することを目的とする。
本発明の一態様にかかるキャリブレーション方法は、第1の鏡および第2の鏡を平行かつ互いの反射面を対向させて配置し、前記第1および第2の鏡の間に目印を設置し、前記目印が前記第1および第2の鏡によって反射されて得られる目印の反射像を前記カメラにより撮影し、撮影された画像を用いて前記カメラシステムのキャリブレーションを行う。
また、本発明の別の態様にかかるキャリブレーション方法は、複数のカメラを有し、平面投影ステレオ法を実施する機能を備えたステレオカメラシステムのキャリブレーションを行う方法であって、第1の鏡および第2の鏡を平行かつ互いの反射面を対向させて配置し、前記第1および第2の鏡の間に少なくとも2つの目印を設置し、前記目印が前記第1および第2の鏡によって反射されて得られる目印の反射像を含む画像を前記複数のカメラで撮影し、前記複数のカメラで撮影された画像間の前記目印の対応関係を示す複数の座標の組を決定し、前記複数の座標の組から、前記目印が設置された平面を基準とし且つ前記複数のカメラによって撮影された画像間の射影変換パラメータを算出する。
また、本発明の別の態様にかかるキャリブレーション支援装置は、第1の鏡と、前記第1の鏡と平行に配置され、その反射面が前記第1の鏡の反射面と対向する第2の鏡と、前記第1の鏡と前記第2の鏡との間に配置される目印とを具備する。
また、本発明の別の態様にかかるキャリブレーション装置は、複数のカメラを有し、平面投影ステレオ法を実施するステレオカメラシステムのキャリブレーションを行う装置であって、第1の鏡と、前記第1の鏡と平行に配置され、その反射面が前記第1の鏡の反射面と対向する第2の鏡と、前記第1の鏡と第2の鏡との間に配置される複数の目印と、前記複数のカメラで撮影された画像間の前記目印の対応関係を示す複数の座標の組から、前記目印が配置された平面を基準とし且つ前記複数のカメラによって撮影された画像間の射影変換パラメータを算出する演算処理装置と、を備える。
また、本発明の別の態様にかかるカメラシステムの製造方法は、カメラを有するカメラシステムを製造する方法であって、前記カメラを予め決められた位置に取り付け、第1の鏡および第2の鏡を平行かつ互いの反射面を対向させて配置し、前記第1および第2の鏡の間に目印を設置し、前記目印が前記第1の鏡および前記第2の鏡によって反射されて得られる目印の反射像を前記カメラにより撮像し、撮像された画像を用いて前記カメラシステムのキャリブレーションを行う。
また、本発明の別の態様にかかるカメラシステム製造方法は、パラメータ設定用メモリを有し、平面投影ステレオ法を実施するステレオカメラシステムを製造する方法であって、複数のカメラを予め決められた位置に取り付け、第1の鏡および第2の鏡を平行かつ互いの反射面を対向させて配置し、前記第1および第2の鏡の間に少なくとも2つの目印を設置し、前記目印が前記第1および第2の鏡によって反射されて得られる目印の反射像を含む画像を前記複数のカメラで撮影し、前記複数のカメラで撮影された画像間の前記目印の対応関係を示す複数の座標の組を決定し、決定した複数の座標の組を用いて、前記複数のカメラによって撮影された画像間の射影変換パラメータを算出し、前記射影変換パラメータを前記パラメータ設定用メモリに記録し、前記射影変換パラメータは、前記目印が設けられた平面を基準とした射影変換に用いられるパラメータである。
本発明によれば、比較的狭いスペースでもカメラシステムのキャリブレーションを容易に実施することができるという効果を奏する。
以下に添付図面を参照して、この発明にかかるキャリブレーション方法、キャリブレーション支援装置、キャリブレーション装置およびカメラシステムの製造方法の実施の形態を詳細に説明する。
(第1の実施の形態)
図1および図2は、第1の実施形態にかかるキャリブレーション装置100を示す概略図である。図1および図2に示すように、このキャリブレーション装置100は、キャリブレーション支援装置110と、演算処理装置106とを備えている。
キャリブレーション支援装置110は、カメラシステムのキャリブレーションを行う際に用いられる装置であり、鏡101(第1の鏡)と、鏡102(第2の鏡)と、底面部103とを有している。
底面部103は、平板であり、鏡101と鏡102とが取り付けられている。鏡101と鏡102とは、底面103上に垂直に立った状態で固定されている。また、鏡101と鏡102とは、以下のような条件を満たすように配置されている。
1)鏡101の反射面と鏡102の反射面とが所定の距離を隔てて対向する
2)鏡101の反射面と鏡102の反射面とは平行である
なお、鏡101と鏡102との間の上記所定の距離は、1m程度が好ましいが、1mより長くてもよいし、それ未満であってもよい。
目印104は、底面部103上であって、かつ鏡101の反射面と鏡102の反射面との間に設けられている。
目印104は、目立つものが望ましい。後述するキャリブレーションにおいて、撮影画像中の目印の位置を特定する際に、他の物体と容易に区別することができるからである。目印104は、例えば、光源(照明器具、LED、ランプ、蝋燭など)、輝度の高い塗料(白色の塗料、蛍光色の塗料など)で描いたマークであることが好ましい。
このキャリブレーション支援装置110と、キャリブレーションの対象となるカメラシステムのカメラ105とは、図1および図2に示すような位置に配置される。
演算処理装置106は、出力装置(LCD、CRTなど)、入力装置(マウス、キーボードなど)、CPU、メモリ、外部記憶装置を備えており、例えばパーソナルコンピュータなどのコンピュータ装置である。演算処理装置106は、外部記憶装置に格納されているプログラムにしたがって、後述するキャリブレーション処理を実行する。
上述したように、より精度の高いキャリブレーションを行うために、カメラの近傍から遠方までの広範囲に点在する多くの目印を含む撮影画像を取得することが好ましい。
第1の実施形態にかかるキャリブレーション方法によれば、キャリブレーション装置100を用いて、多数の目印がカメラの近傍から遠方までの広範囲にわたって点在するかのような状況をシミュレートし、そのシミュレート結果をカメラで撮影する。換言すれば、このキャリブレーション方法は、実際にカメラの近傍から遠方までの広範囲にわたって多数の目印を配置することなく、それと同じような状況を作り出す。
キャリブレーション支援装置110の鏡101および102の反射面は、あたかも多数の目印104が直線状に並んで配置されているかのような状況を写し出す。図3に示すように、目印104の発する光は鏡101と鏡102との間で繰り返し反射される。この繰返し反射の結果、多数の反射像目印1041、1042、1043‥‥が現れる。これにより、鏡101および鏡102に、直線状に並んだ多数の目印104が映し出される。
つまり、鏡101および鏡102上に、カメラ105の近傍から遠方までの広範囲にわたって多数の目印104が点在しているかのような状況を作り出すことができる。図3に示す現実の目印104の位置を原点とすると、仮想目印1041は原点から距離Aの位置に配置され、仮想目印1042は原点から距離Aより大きい距離Bの位置に配置され、仮想目印1043は原点から距離Bより大きい距離Cの位置に配置されるといった仮想状況が作り出される。
したがって、カメラ105によって鏡101または鏡102を撮影することで、鏡の反射面に映る多数の目印104(反射像を含む)を含む撮影画像が得られる。この目的のために、キャリブレーションの対象となるカメラシステムのカメラ105は、鏡101または鏡102を撮影する位置に設置される。結果として、カメラ105は、カメラ105の近傍から遠方までの広範囲にわたって多数の目印が配置された状況を撮影することができる。
図2に示すように目印104が、鏡101と鏡102との間の距離Lの中間に設けられる場合、カメラ105は、等間隔で配置された複数の目印104を撮影することができる。目印104の位置が中間位置と異なる場合、カメラ105は、不等間隔で配置された複数の目印104を撮影することができる。いずれの場合であっても目印104の位置が既知であれば、反射像によってシミュレートされる多数の目印(仮想目印)の位置をあらかじめ計算することができる。等間隔で配置された目印の各位置の計算は容易であるので、目印104は、鏡101と鏡102との間の中間に設けられることが好ましい。
より多くの目印104(反射像含む)を含む撮影画像を取得するには、カメラ105が、鏡101と鏡102の間に設置され且つ一方の鏡の反射面を撮影すればよい。しかしながら、鏡101と鏡102との間にカメラ105を設置するのは現実的ではないと考えられる。
したがって、図1および図2に示すように、カメラ105は、一方の鏡(図示の例では鏡102)のやや上方に設置され、他方の鏡(図示の例では鏡101)を撮影することが好ましい。カメラ105がこのように配置されたとしても、多数の目印104(反射像含む)を含む撮影画像を取得することができる。
以下に、本発明にかかるキャリブレーション方法の手順が、図4の参照とともに説明される。2つの鏡101,102が、キャリブレーション対象となるカメラシステムのカメラ105と所定の位置関係が満たされるように配置される(ステップSa1)。2つの鏡101,102はまた、互いの反射面が対向し、かつそれら反射面が平行となるように配置される。それから、2つの鏡の間に目印が設置される(ステップSa2)。
キャリブレーション支援装置110は2つの鏡の位置と目印の位置とが決定された構成であるので、このキャリブレーション支援装置110を用いることにより、ステップSa1およびSa2は簡略化されることができる。換言すれば、キャリブレーション支援装置110が使用される場合、ステップSa1およびSa2は、カメラ105の設置のみの工程となり、キャリブレーションを行うたびに鏡の位置を調整するといった煩雑な作業が省略される。
キャリブレーション支援装置110が何度も使用されると、鏡101と鏡102の配置がずれるおそれがある。配置がずれた鏡101と鏡102は、再調整されなければならない。この再調整は、鏡101と鏡102に映る多数の目印104が直線状に並ぶように鏡101と鏡102の位置を決定することによって達成される。
2つの鏡101,102とカメラ105との間の所定の位置関係は、鏡に映る多数の目印104をカメラ105が撮影できるような位置関係である。カメラ105とキャリブレーション支援装置110との位置関係の調整は、カメラシステムが容易に移動できる場合、キャリブレーション支援装置110の近傍にカメラ105を移動させることで達成される。カメラシステムが容易に移動できない場合、例えばカメラシステムが自動車に搭載される場合は、キャリブレーション支援装置110をカメラシステムに移動させればよい。
図2に示すように、カメラ105の撮影方向(光軸方向)が目印104からずれるようにカメラ105が設置される場合(第1の位置関係)、斜め方向に直線状に並んだ多数の目印(仮想目印を含む)の撮影画像が得られる。図5は、その斜め方向に直線状に並んだ目印の撮影画像の例を示している。
カメラ105の撮影方向(光軸方向)が目印104上に位置するように設置される場合(第2の位置関係)、上下方向に直線状に並んだ多数の目印の画像が得られる。上記第1の位置関係と第2の位置関係とのいずれを採用するかは、カメラ105を有するカメラシステムの用途または機能に依存して決定することができる。
例えば、自動車に搭載されるカメラシステムなど、道路上の車線(白線)を目印として距離検出を行うことを主機能として有するシステムの場合、通常、カメラ105の撮影方向とカメラから目印(車線)への方向とは一致しない。したがって、このような用途で用いられるシステムのキャリブレーションでは、上記第1の位置関係が採用される。
カメラ105とキャリブレーション支援装置110との位置関係が調整された後、カメラ105によって撮影が行われる(ステップSa3)。これにより多数の目印104とその反射像である多数の仮想目印を含む撮影画像が得られる。
カメラ105によって得られた撮影画像は演算処理装置106に供給される。演算処理装置106は、オペレータの指示にしたがって、各種パラメータやテーブルデータの設定といったキャリブレーション処理を行う(ステップSa4)。このキャリブレーション処理は、画像調整のためのパラメータ設定処理および距離検出用テーブルデータの設定を含む。
画質調整のためのパラメータ設定処理では、カメラの特性によって画像にひずみが生じている場合に、演算処理装置106が、そのひずみを補正するためのパラメータを撮影画像から取得し、それをカメラシステムのパラメータ設定用メモリに設定する。鏡101および鏡102には、多数の目印が直線状に並んで映し出される(図5参照)。ひずみのないカメラで鏡101(または鏡102)が撮影された場合、直線状に並んだ多数の目印の画像(直線画像)が得られる。一方、撮影画像にひずみが生じる特性を有するカメラを使用すると、湾曲状に並んだ多数の目印の画像(ひずみ画像)が得られる。演算処理装置106は、撮影画像にひずみが生じる特性を有するカメラを使用する場合、ひずみがない場合の撮影画像中において本来多数の目印があるべき位置(直線状の位置)と、実際の撮影画像中の位置とが比較され、その差を補正するためのパラメータが取得される。
また、演算処理装置106は、撮影画像中の目印の位置と、目印104および仮想目印の位置とから、距離検出用テーブルデータを計算し、これをカメラシステムの距離検出用テーブルに設定する。撮影画像中に映し出される多数の目印(目印104および仮想目印)からカメラ105までの各距離は既知である(図3参照)。よって、各目印の位置と、撮影画像中における目印の位置とを対応づけることで距離検出用テーブルデータを作成することができる。距離検出用テーブルデータでは、例えば、撮影画像の下端からXX(mm)離れて位置する目印に対し、カメラ105からその目印に対応するシミュレートされた目印までの距離YY(m)が対応付けられている。撮影画像中の目印の位置は、上記XX(mm)のような距離情報ではなく、画像の端から何番目の画素であるかといった情報が用いられてもよい。よって、カメラシステムは、撮影画像と距離検出用テーブルデータとから、カメラ105から実際の検出対象物までの距離を算出することができる。演算処理装置106は、撮影画像中の目印の位置と実際の距離との対応関係を式で表し、その式をカメラシステムに設定してもよい。
第1の実施形態にかかるキャリブレーション方法によれば、対向配置される2つの鏡を用いることで、カメラ105の近傍位置から遠方の位置までの広範囲にわたって多数の目印が点在しているかのような仮想状況を作り出すことができる。
したがって、カメラ105で鏡を撮影することで、近傍から遠方までの範囲に点在する多数の目印を含む撮影画像を得ることができる。すなわち、上記キャリブレーション方法によれば、キャリブレーションのために広大な空間を用意することなく、広範囲に点在する多数の目印を含む撮影画像を得ることができ、より精度の高いキャリブレーションを行うことができる。これにより、工場内など限られた空間内においても、高精度のキャリブレーションを行うことができる。
(第2の実施の形態)
図6は、第2の実施形態にかかるキャリブレーション装置を示す概略図である。キャリブレーション装置200は、キャリブレーション支援装置210と、演算処理装置206とを備えている。
キャリブレーション支援装置210は、目印が2つ設けられている点で、第1の実施形態におけるキャリブレーション支援装置110と相違している。なお、鏡101,102の配置はキャリブレーション支援装置110と同様であるため、その説明を省略する。
キャリブレーション支援装置210では、底面部103上であって且つ鏡101と鏡102との間に、2つの目印104−1、104−2が設けられている。上述した第1の実施形態と同様、目印104−1、104−2は、鏡101と鏡102との中間位置に設けられてもよいし、他の位置に設けられてもよい。図6では、目印104−1と目印104−2は、それら目印を結ぶ線が鏡101および鏡102の反射面とほぼ平行となるように、配置されている。しかしながら、目印104−1と目印104−2の配置は、図6に示される配置に限定されない。
演算処理装置206は、第1の実施形態における演算処理装置106と同様な構成であり、外部記憶装置に格納されているプログラムにしたがって、後述するキャリブレーション処理を実行する。
第2の実施形態にかかるキャリブレーション方法は、平面投影ステレオ法を実施する機能を備えたステレオカメラシステムのキャリブレーションを行うための方法である。なお、平面投影ステレオ法とは、2つのカメラの一方で得られた画像の全ての画素を道路平面上の点と見做して、他方のカメラからの見え方に変換することで道路上の障害物を発見する手法である。
このキャリブレーション方法によれば、キャリブレーション装置200を用いることで、上述した第1の実施形態と同様、多数の目印がカメラの近傍から遠方までの広範囲にわたって点在するかのような状況をシミュレートし、そのシミュレート結果を2つのカメラ105−1、105−2で撮影する。
まず、2つの鏡101,102が、キャリブレーション対象となるカメラシステムのカメラ105−1およびカメラ105−2と所定の位置関係が満たされるように配置される(ステップSb1)。2つの鏡101,102はまた、互いの反射面が対向し、かつそれら反射面が平行となるように配置される。それから、2つの鏡の間に複数の目印が設置される(ステップSb2)。
キャリブレーション支援装置210は2つの鏡の位置と2つの目印の位置とが決定された構成であるので、このキャリブレーション支援装置210を用いることにより、ステップSb1およびSb2は簡略化されることができる。換言すれば、キャリブレーション支援装置210が使用される場合、ステップSa1およびSa2は、カメラ105−1およびカメラ105−2の設置のみの工程となる。なお、ステレオカメラシステムにおいては、2つのカメラ105−1とカメラ105−2との位置関係(両者間の距離など)は固定される。
2つの鏡101,102と2つのカメラ105−1,カメラ105−2との間の所定の位置関係は、鏡に映る多数の目印(仮想目印)をカメラ105−1,105−2が撮影できるような位置関係である。カメラ105−1,105−2とキャリブレーション支援装置210との位置関係の調整は、1)キャリブレーション支援装置210の位置は固定したままステレオカメラシステムを移動させること、2)ステレオカメラシステムの位置を固定したままキャリブレーション支援装置210を移動させること、または3)キャリブレーション支援装置210とステレオカメラシステムをともに移動させること、によって達成される。
図6に示すように、カメラ105−1とカメラ105−2の撮影方向(光軸方向)がともに目印104−1および目印104−2からずれるように、それらカメラが設置される場合、図8および図9に例示するような撮影画像が得られる。図8はカメラ105−1の撮影画像であり、図9はカメラ105−2の撮影画像である。これら図に示すように、カメラ105−1およびカメラ105−2の撮影画像として、斜め方向に直線状に並んだ多数の目印の画像が得られる。目印104−1、104−2とカメラ105−1、105−2の撮影方向との位置関係は、図6に示された関係に限定されず、第1の実施形態と同様に、カメラ105−1,105−2を有するステレオカメラシステムの用途または機能に依存して決定することができる。自動車に搭載されるステレオカメラシステムのキャリブレーションでは、図6に示す配置が好ましい。
カメラ105−1,105−2とキャリブレーション支援装置210との位置関係が調整された後、カメラ105−1,105−2による撮影が行われる(ステップSb3)。これにより目印104−1,104−2とそれらの反射像である多数の仮想目印を含む撮影画像が得られる。
カメラ105−1,105−2によって得られた撮影画像は演算処理装置206に供給される。そして、オペレータが演算処理装置206を用いてキャリブレーションに必要な作業を行う。ここで行われるキャリブレーションは2段階に分かれている。1段階目は撮影範囲および画像の調整であり、2段階目は平面を基準とした射影変換のパラメータの算出である。
1段階目として、まず、カメラ105−1,105−2の撮影範囲が調整される(ステップSb4)。特に、カメラ105−1,105−2の撮影範囲の一部が重なることが要求される。撮影範囲の調整は、各々のカメラに映し出された画像を確認することによって行われる。その調整は、例えば、目印104−1とその反射像である仮想目印の列の消失点(無限遠方で消える点)と、目印104−2とその反射像である仮想目印の列との消失点とが画像の左右方向の中央付近に位置するように、カメラの向きまたは配置を変更することである。調整の結果、各々のカメラ105−1,105−2で撮影された画像中における消失点の上下方向の位置が同程度になることが望ましい。
1段階目の次のステップとして、画像が調整される(ステップSb5)。このステップでは、カメラの特性によって画像に歪みが生じている場合に、演算処理装置206が、その歪みを補正するためのパラメータを取得する。この処理は、第1の実施形態で説明した処理と同様である。
2段階目として、演算処理装置206が、平面を基準とした射影変換のパラメータを算出し、算出したパラメータをステレオカメラシステムに設定する(ステップSb6)。
まず、オペレータが、カメラ105−1で撮影した画像中の目印がカメラ105−2で撮影した画像中のどの目印に対応するかを目視によって決定する。両画像間での目印の対応関係は、少なくとも4組必要とされる。それら対応関係は、目印の座標値データととともに演算処理装置206に入力される。
図8および図9に示すように、カメラ105−1が撮影した画像およびカメラ105−2が撮影した画像の各々は、目印104−1とその反射像目印の列と、目印104−2とその反射像目印の列とを含んでいる。上記対応関係は、目印104−1の列同士の比較と目印104−2の列同士の比較によって決定される。
演算処理装置206は、オペレータによって入力された対応関係および座標値データを用いて射影変換パラメータを算出する。
カメラ105−1の画像上の点(ui,vi)がカメラ105−2の画像上の点(ui’,vi’)に対応していると想定すると、変換パラメータHは次式を満たす。ここで、iは1からNの自然数であり、N>3である。
Figure 0003906194
N組の目印の座標値をそれぞれ式(1)に代入すると、Hを未知数とした連立方程式が得られる。射影変換のパラメータは、得られた連立方程式から(必要に応じて最小二乗法を用いて)算出される。
組数N>3の要求は、次の理由による。変換パラメータHは9個のパラメータを有し、そのうちの8個が独立のパラメータである。例えば、h33=1とするか、全てのパラメータの2乗和を1とすることにより、自由度を8にする。自由度8は、8個の式から全てのパラメータが算出されることを意味する。1つの目印の組は、uとvとに関する2つの式を導くので、8個の式を得るには、4つの目印の組、すなわち3より多い組数が必要となる。さらに、これら目印の3つ以上が1直線上にないことが要求される。
演算処理装置206は、算出された射影変換パラメータをステレオカメラシステムのパラメータ記憶用メモリに格納する。演算処理装置206は、カメラ105−1,105−2が歪み補正機能を備えている場合、歪み補正の変形パラメータをカメラ105−1,105−2に登録してもよい。
第2の実施形態にかかるキャリブレーション方法によれば、対向配置される2つの鏡を用いることで、カメラ105−1、105−2の近傍位置から遠方の位置までの広範囲にわたって多数の目印が点在しているかのような仮想状況を作り出すことができる。
したがって、カメラ105−1、105−2で鏡を撮影することで、近傍から遠方までの範囲に点在する多数の目印を含む撮影画像を得ることができる。すなわち、第2の実施形態にかかるキャリブレーション方法によれば、キャリブレーションのために広大な空間を用意することなく、広範囲に点在する多数の目印を含む撮影画像を得ることができる。
さらに、得られた撮影画像を用いて射影変換パラメータを算出することにより、より正確な射影変換を行うことができ、射影変換技術を利用した障害物検出の精度を向上させることができる。
近くから遠くまでの様々な位置の目印を用いることが望ましい理由は、以下、に説明される。上述した変換パラメータHは、カメラ105−1の画像をカメラ105−2の画像に直接射影する変換である。この変換は、実際には、カメラ105−1の画像を実空間の平面に射影し、その射影結果をさらにカメラ105−2の画像に射影する変換である。
ここでは説明を簡単にするため、カメラ105−1の画像を実空間の道路平面に射影する変換が例に挙げられ、平面投影ステレオ法に基づいて、目印の奥行き方向(カメラ近傍から遠方の位置への方向)のちらばりとパラメータの推定誤差の関係が説明される。
平面投影ステレオ法では、2台のカメラの光軸が共に奥行き方向とほぼ平行であり、画像に映っている実空間の水平垂直方向の広がりは奥行き方向に比べて小さいという条件の下で、実空間の座標(X,Y,Z)と画像上の座標(u,v)との関係が次式で近似される。
Figure 0003906194
カメラのキャリブレーションは、目印の空間座標(Xi,Yi,Zi)とその画像上での座標(ui,vi)との組をN組用いて、パラメータpijの値を求めることで達成される。ここで、i=1,2、j=1,2,3,4である。
以下に、最小二乗法によるパラメータの推定と推定誤差が説明される。まず、式(2)から次式が得られる。
Figure 0003906194
式(3)の最小二乗解は次式で与えられる。
Figure 0003906194
画像上の座標(u,v)の誤差の分散をそれぞれσu 2、σv 2とおき、誤差同士に相関が無いと仮定すると、分散共分散行列Varは次式で表される。
Figure 0003906194
よって、パラメータpijの誤差を小さくするには、ベクトル(Xi/Zi,Yi/Zi,1,1/Zi)が広く散らばっていることが望ましい。特に第4成分の1/Ziから、目印が近くから遠くまで幅広く分布していることが望ましいということがわかる。
よって、射影変換パラメータを算出するためには、撮影画像が、奥行き方向に幅広く点在した目印を含むことが好ましい。第2の実施形態におけるキャリブレーション方法では、この点に着目し、仮想目印が多数存在するという状況を作り出すことによって、広大な空間を用意することなく、広範囲にわたって点在する多数の目印を含む撮影画像が得られる。
(第3の実施の形態)
図10は、第3の実施形態のキャリブレーション支援装置310を示す概略図である。図10に示すように、キャリブレーション支援装置310は、鏡302にカメラが覗き込むための穴311が設けられている点で、第1の実施形態におけるキャリブレーション支援装置110と相違している。
穴311は、カメラ105のレンズの口径と同じ程度の開口面積があれば良い。また、穴311の形はカメラ105への入射光の妨げとならない形状であればよい。
図11は、第1の実施形態におけるカメラ105の光軸602と反射像が得られる上限ライン603との関係を説明する図である。同図に示すように、より遠方位置の目印を仮想する反射像を撮影するためには、カメラ105は、光軸602の近くの像を捉える必要がある。しかし、第1の実施形態では、カメラ105は鏡102の上から目印104及びその反射像を撮影するため、鏡101は光軸602上にない。したがって、鏡101の背後の景色が撮影画像に含まれ、より遠方の目印を仮想する反射像を得ることができない。
第3の実施形態では、図10に示すように、鏡302は穴311を有し、光軸602が穴311を通過するようにカメラ105が設置されるので、より遠方の位置の目印を仮想する反射像を取得することが可能となる。
穴311は空洞であってもよいが、鏡302に設けられた穴311に透明部材(例えばガラス、プラスチック、アクリル等)または半透明部材(ハーフミラー等)を配置してもよい。穴311の代わりに鏡302に切り欠きを設けても良い。換言すれば、鏡302は、穴311でなくても、鏡302の背後(鏡101と反対側)から鏡101に向けて光を透過させることが可能な光透過部を有すればよい。
図10では、カメラが1台しか示されていないが、キャリブレーション支援装置310が、第2の実施形態のように少なくとも2台のカメラを備えるステレオカメラシステムのキャリブレーションで用いられる場合には、鏡302は、各カメラのための光透過部を有してもよい。この場合、鏡302は、1つの光透過部分を有してよいし、各カメラの設置位置に応じた複数の光透過部分を有してもよい。
第3の実施形態にかかるキャリブレーション方法によれば、より遠方の位置の目印を仮想する反射像を撮影することができる。したがって、キャリブレーションのために広大な空間を用意することなく、広範囲に点在する多数の目印を含む撮影画像を得ることができ、より精度の高いキャリブレーションを行うことができる。
第3の実施形態において、鏡101が光透過部を有してもよい。鏡101が光透過部を有する場合、カメラ105は、鏡101の背後に設置され、鏡302の反射面を撮影する。
(第4の実施の形態)
図12は、第4の実施形態のキャリブレーション支援装置を示す概略図である。第4の実施形態のキャリブレーション支援装置410は、鏡102に代えてハーフミラー402を具備する点で第1の実施形態と相違している。
第1の実施形態では、カメラ105は鏡102の上に設置され、第3の実施形態では、カメラ105は穴311が設けられた位置に応じた場所に設置される。第4の実施形態では、カメラ105は、その光軸がハーフミラー402の上端から下端までの範囲内を通過するように、設置される。これにより、カメラ105の光軸とほぼ水平な方向にある反射像を捉えることが可能となる。
図13は、キャリブレーション支援装置410を用いたキャリブレーションを行う際における、カメラ105の光軸602と反射像が得られる上限ライン603との関係を説明する図である。図面上では光軸602と上限ライン603とが重なっているが、光軸602に極近い方向の反射像も得ることが可能である。
図12に示されているカメラは1台であるが、キャリブレーション支援装置410は、複数のカメラを有するシステムのキャリブレーションのために用いられてもよい。
第4の実施形態にかかるキャリブレーション方法によれば、ハーフミラー402の背後に設置されたカメラで、より遠方位置の目印を仮想する反射像を含む画像を撮影することができる。
(変形例)
本発明は、上述した各実施形態に限定されるものではなく、以下に例示する種々の変形が可能である。
カメラシステムを製造する場合に、その製造工程中に上記キャリブレーション方法を実施する工程を含めるようにしてもよい。ここで、上記のようなキャリブレーションを実施する工程を含む製造工程について、自動車に搭載されるカメラシステム(障害物検出装置、車両運行支援装置あるいは車両自動操縦装置等に用いられるシステム)を製造する場合が例に挙げられる。
図14に示すように、まず製造や購入することで取得されたカメラシステムのカメラが所定の位置に取り付けられる(ステップSc1)。その所定の位置は、例えば、自動車のフロントガラス内のダッシュボード上部や、バックミラーの背面側(反射面と反対側の面)などである。取得されるカメラシステムはカメラと本体部とから構成されていることが想定されている。その本体部は、上述したような補正パラメータ、射影変換パラメータ、テーブルデータなどのキャリブレーションで得られるデータを設定するための設定用メモリを備えている。
所定の位置にカメラが取り付けられた後、上述した各実施の形態で説明したキャリブレーションが実施される(ステップSc2)。例えば、第2の実施の形態におけるキャリブレーション方法が実施される場合、カメラ取り付け位置を微調整し、補正パラメータを算出し、射影変換パラメータを算出し、算出したパラメータを上記設定用メモリに記録するといった処理が行われる。
キャリブレーション工程を含むこの製造方法によれば、より精度の高い位置検出などが可能となるパラメータが設定されたカメラシステムを製造することができる。
上述した各実施の形態では、キャリブレーションの対象となるカメラが鏡102の背後側に設置される。例えば、第1の実施の形態では、カメラ105は鏡102の上方に且つその光軸を鏡101の反射面に向けて設置するといった位置関係が調整される。
持ち運びが容易なカメラシステムであれば、上記各実施の形態のような位置関係にカメラとキャリブレーション支援装置とを設置することは容易である。しかしながら、自動車に搭載されるカメラシステム(例えば、障害物検出装置用のシステムなど)では、カメラの前にキャリブレーション支援装置を設置することは困難な場合がある。例えば、自動車の製造ライン上でキャリブレーションが行われる場合、車両の前方向とその車両が流れる方向は一致するため、カメラの前に設置されたキャリブレーション支援装置は、自動車の製造作業を妨害する。
この問題を解決するために、図15に示すように、カメラ105の光軸602を屈曲させるために、カメラ105の前に光軸屈曲用の鏡901が設置される。鏡901により屈曲させられた光軸602上に上記各実施形態のキャリブレーション支援装置が設置される。
すなわち、カメラ105の位置から見た鏡901に映る像が、上記各実施形態におけるカメラの前方の像と一致するように、カメラ105の前に鏡901が設置される。これによりカメラ105は、鏡901に映った鏡101の反射面上の多数の目印を含む画像を撮影することができる。
よって、キャリブレーションが行われる際に、鏡901はカメラの前方に移動されればよい。工場の製造ラインの脇にキャリブレーション支援装置が設置されれば、多数の目印を含む撮影画像を得ることができ、自動車の製造作業は妨害されない。
カメラが複数あるステレオカメラシステムのキャリブレーションが行われる場合も、鏡901が各カメラの前方に設置されることで、鏡901に映った鏡101の反射面上の多数の目印を含む画像を撮影することができる。
製造ラインにそって搬送される自動車の位置は、道路上に位置する完成した自動車の位置よりも高いことが多い。従って、自動車に搭載されるカメラシステムのキャリブレーションの基準平面が工場の床である場合、そのキャリブレーションは、自動車走行時における路面よりも低い位置を基準にして行われる。しかしながら、自動車に搭載される障害物検出装置などのカメラシステムは、走行時に道路上の物体(白線)などを目印として距離検出を行うため、キャリブレーションのための目印も道路面と同一のレベルにある面上に存在することが好ましい。
つまり、キャリブレーションのための目印を配置する平面のレベルは、実際にそのカメラシステムが距離検出などを行う時などに用いる基準平面、つまりカメラシステムが実行する処理に用いられる基準平面のレベルに合わせることが好ましい。
したがって、自動車の製造工程の中でキャリブレーションが行われる場合、実施の形態の一つとして、キャリブレーション支援装置は、図15に示すような構成としてもよい。図15は、自動車製造工程の中でカメラシステムのキャリブレーションを行う場合の、キャリブレーション支援装置の一例である。このキャリブレーション支援装置は、底面部103−2と、鏡101、102と、底面部103−2上に配置した図示しない目印とを備える。さらに、底面部103−2の床910からの高さを調整するためのレベル調整部材505とを備える。
自動車902は製造ラインに沿って搬送されるので、床910より高い位置にある。自動車902の接地面は想定接地面103−1である。自動車902にとって、想定接地面103−1は走行時の道路面と同じレベルの平面である。自動車902に搭載されたカメラシステム1501が障害物検出等の処理実行時に用いる基準平面は道路面であるから、カメラシステム1501がその処理実行時に用いる基準平面は想定接地面103−1と同じレベルである。したがって、キャリブレーション用の目印は、想定接地面103−1と同じレベルに配置されることが好ましい。
レベル調整部材505は、キャリブレーション支援装置の底面部103−2を、想定接地面103−1と同じレベルに調整する。その結果、キャリブレーション用の目印は想定接地面103−1と同じレベルに配置される。
目印を設けるレベルが道路面のレベルと一致すればよいので、目印のみが想定接地面103−1と同じレベルの位置に配置されても良い。例えば、床910から想定接地面103−1と同じ高さの柱の先端に目印が設けられる。
図16に示すように、キャリブレーション支援装置は、自動車1004に取り付けられたカメラ105の光軸を上方に屈曲させる鏡1002を有してもよい。これにより、カメラ105は、上方に設置された鏡101に映った多数の目印を含む画像を撮影することができる。
換言すれば、キャリブレーション支援装置が設置された工場内において、鏡1002がカメラの前方に移動されるだけで、多数の目印を含む撮影画像を得ることができる。
本例の場合は、カメラ105の想定接地面1003−1を含む仮想平面(図16中点線で示す)上に目印104を置くことにより、道路面を基準としたキャリブレーションを行うことができる。図16に示すように、この仮想平面は、想定接地面1003−1が鏡1002で屈曲されて鏡101側に広がる平面である。従って、この仮想平面は、カメラ105の想定接地面である想定接地面1003−1と、目印104を設ける目印配置面1003−2とを含む。つまり、仮想平面は、想定接地面1003−1を含む面と、目印配置面1003−2を含む面とを組合せた面であり、これらの面が鏡1002の位置で折れ曲がった形状を有している。
図15、図16では、カメラの光軸は、1つの鏡(鏡901または鏡1002)によって、1回だけ屈曲されるが、複数の光軸屈曲用鏡によって複数回屈曲されもよい。例えば、上述した射影変換パラメータの算出の際には、ステレオカメラで取得した2枚の画像間の対応関係を調べる必要がある。この対応関係を調べる際には、左右の関係が保存される方が望ましい。よって、鏡をもう一枚用意して光軸が2回曲げられることが好ましい。
具体的には、キャリブレーション支援装置は、例えば図17に示すように自動車1104に搭載されたカメラ105−1、105−2の前方に設置された鏡1101とその鏡と対称に設置された鏡1102を備える。これにより各々のカメラの光軸601−1と601−2は実質的に曲げられる。
また、上述した各実施形態では、目印104(目印104−1、目印104−2)は、点状(図ではほぼ円状)であるが、鏡101、102の反射面に対して垂直な方向に延びる線状の目印が配置されてもよい。直線状の目印を用いれば、鏡101(または鏡102)には、実際に直線状目印に加えて直線状の反射像目印が映し出され、これらが一直線上に並んだ状況が映し出される。したがって、カメラの近傍の位置から遠方の位置までの広範囲にわたって道路の白線が存在するかのような状況を作り出すことができる。これにより、例えば、道路の一方にしか白線がない場合を想定してキャリブレーションが行われる場合には、第2の実施形態で説明したカメラを2台用いるシステムであっても、キャリブレーション支援装置は、目印104−1、104−2のうちの一方のみを備えればよい。
上述した各実施形態では、キャリブレーション装置が演算処理装置(106、206)を備える。この演算処理装置が上述したように射影変換パラメータ等の算出設定処理を実行してもよいが、カメラシステムに対するキャリブレーションの対象となるカメラシステムがキャリブレーション用処理を行う機能を備えている場合、そのカメラシステムが、カメラによって撮影された画像に基づいてパラメータ算出設定等のキャリブレーション処理を実行してもよい。
以上のように、本発明にかかる(名称)は、障害物検出などを行うカメラシステムキャリブレーションに有用であり、特に、自動車に搭載されるカメラシステムのキャリブレーションに適している。
第1の実施形態にかかるキャリブレーション装置を示す図である。 前記キャリブレーション装置の平面図である。 反射によって目印の反射像が多数得られる原理を説明するための図である。 前記キャリブレーション装置を利用したキャリブレーション方法を示すフローチャートである。 前記キャリブレーション方法におけるカメラの撮影画像の一例を示す図である。 第2の実施形態にかかるキャリブレーション装置を示す平面図である。 第2の実施形態にかかるキャリブレーション装置を用いた、キャリブレーション方法を示すフローチャートである。 第2の実施形態にかかるキャリブレーション方法を実施した際に、ステレオカメラシステムの一方のカメラによって撮影される画像の一例を示す図である。 第2の実施形態にかかるキャリブレーション方法を実施した際に、ステレオカメラシステムの他方のカメラによって撮影される画像の一例を示す図である。 第3の実施形態にかかるキャリブレーション装置を示す概略図である。 第1の実施形態のキャリブレーション支援装置における反射像の上限角度を説明するための図である。 第4の実施形態にかかるキャリブレーション装置を示す概略図である。 前記第4の実施形態のキャリブレーション装置における反射像の上限角度を説明するための図である。 上記各実施形態におけるキャリブレーション方法を含むカメラシステムの製造方法を示すフローチャートである。 各実施形態におけるキャリブレーション支援装置の変形例を示す図である。 各実施形態におけるキャリブレーション支援装置の別の変形例を示す図である。 各実施形態におけるキャリブレーション支援装置のさらに別の変形例を示す図である。
符号の説明
100 キャリブレーション装置
101 鏡
101,102 鏡
103−1 想定接地面
103−2 底面部
104 目印
105 カメラ
106 演算処理装置
110 キャリブレーション支援装置
200 キャリブレーション装置
206 演算処理装置
210 キャリブレーション支援装置
302 鏡
310 キャリブレーション支援装置
311 穴
402 ハーフミラー
410 キャリブレーション支援装置
505 レベル調整部材
901 鏡
902 自動車
910 床
1002 鏡
1501 カメラシステム

Claims (27)

  1. カメラを有するカメラシステムのキャリブレーションを行う方法であって、
    第1の鏡および第2の鏡を平行かつ互いの反射面を対向させて配置し、
    前記第1および第2の鏡の間に目印を設置し、
    前記目印が前記第1および第2の鏡によって反射されて得られる目印の反射像を前記カメラにより撮影し、
    撮影された画像を用いて前記カメラシステムのキャリブレーションを行う
    ことを特徴とするキャリブレーション方法。
  2. 前記目印の設置は、前記目印を前記カメラシステムが行う処理に用いられる基準平面と同じレベルの位置に設置することを含む
    ことを特徴とする請求項1に記載のキャリブレーション方法。
  3. 前記第1の鏡は、ハーフミラーであり、
    前記カメラによる撮影は、前記第1の鏡越しに、前記第2の鏡の反射面を撮影することを含む
    ことを特徴とする請求項1に記載のキャリブレーション方法。
  4. 前記第1の鏡は、光透過部を備え、
    前記カメラによる撮影は、前記光透過部越しに、前記第2の鏡の反射面を撮影することを含む
    ことを特徴とする請求項1に記載のキャリブレーション方法。
  5. 前記目印の設置は、前記カメラシステムの機能に基づいて決定された位置に設置することを含む
    ことを特徴とする請求項1に記載のキャリブレーション方法。
  6. 前記目印の設置は、複数の目印を設置することを含む
    ことを特徴とする請求項1に記載のキャリブレーション方法。
  7. 前記目印の設置は、2つの目印を、該目印間を結ぶ線分が前記第1の鏡の反射面と前記第2の鏡の反射面に平行になるように設置することを含む
    ことを特徴とする請求項1に記載のキャリブレーション方法。
  8. 前記目印は、前記第1の鏡の反射面および前記第2の鏡の反射面に対して垂直な方向に沿った直線形状である
    ことを特徴とする請求項1に記載のキャリブレーション方法。
  9. さらに、前記カメラの光軸を屈曲させるための光軸屈曲用鏡を配置し、
    前記カメラによる撮影は、前記光軸屈曲用鏡を介して前記目印の反射像を含む画像を撮影することを含む
    ことを特徴とする請求項1に記載のキャリブレーション方法。
  10. 複数のカメラを有し、平面投影ステレオ法を実施する機能を備えたステレオカメラシステムのキャリブレーションを行う方法であって、
    第1の鏡および第2の鏡を平行かつ互いの反射面を対向させて配置し、
    前記第1および第2の鏡の間に少なくとも2つの目印を設置し、
    前記目印が前記第1および第2の鏡によって反射されて得られる目印の反射像を含む画像を前記複数のカメラで撮影し、
    前記複数のカメラで撮影された画像間の前記目印の対応関係を示す複数の座標の組を決定し、
    前記複数の座標の組から、前記目印が設置された平面を基準とし且つ前記複数のカメラによって撮影された画像間の射影変換パラメータを算出する
    ことを特徴とするキャリブレーション方法。
  11. カメラシステムのキャリブレーションを支援する装置であって、
    第1の鏡と、
    前記第1の鏡と平行に配置され、その反射面が前記第1の鏡の反射面と対向する第2の鏡と、
    前記第1の鏡と前記第2の鏡との間に配置される目印と
    を具備することを特徴とするキャリブレーション支援装置。
  12. 前記第1の鏡は、ハーフミラーである
    ことを特徴とする請求項11に記載のキャリブレーション支援装置。
  13. 前記目印を、前記カメラシステムが行う処理に用いられる基準平面と同じレベルの位置に設置するためのレベル調整部材をさらに具備する
    ことを特徴とする請求項11に記載のキャリブレーション支援装置。
  14. 前記第1の鏡は、光透過部を備える
    ことを特徴とする請求項11に記載のキャリブレーション支援装置。
  15. 前記目印は、複数の目印を有する
    ことを特徴とする請求項11に記載のキャリブレーション支援装置。
  16. 前記目印は、2つの目印を有し、該目印間を結ぶ線分が前記第1の鏡の反射面と前記第2の鏡の反射面に平行になるように配置される
    ことを特徴とする請求項11に記載のキャリブレーション支援装置。
  17. 前記目印は、前記第1の鏡の反射面および前記第2の鏡の反射面に対して垂直な方向に沿った直線形状である
    ことを特徴とする請求項11に記載のキャリブレーション支援装置。
  18. 前記カメラシステムのカメラの光軸を屈曲させるための光軸屈曲用鏡をさらに備え、
    前記光軸屈曲用鏡は、前記カメラが当該光軸屈曲用鏡を介して前記目印の反射像を含む画像を撮影するような位置に配置される
    ことを特徴とする請求項11に記載のキャリブレーション支援装置。
  19. 複数のカメラを有し、平面投影ステレオ法を実施するステレオカメラシステムのキャリブレーションを行う装置であって、
    第1の鏡と、
    前記第1の鏡と平行に配置され、その反射面が前記第1の鏡の反射面と対向する第2の鏡と、
    前記第1の鏡と第2の鏡との間に配置される複数の目印と、
    前記複数のカメラで撮影された画像間の前記目印の対応関係を示す複数の座標の組から、前記目印が配置された平面を基準とし且つ前記複数のカメラによって撮影された画像間の射影変換パラメータを算出する演算処理装置と
    を備えることを特徴とするキャリブレーション装置。
  20. 前記第1の鏡は、ハーフミラーである
    ことを特徴とする請求項19に記載のキャリブレーション装置。
  21. 前記目印を、前記ステレオカメラシステムが行う処理に用いられる基準平面と同じレベルの位置に設置するためのレベル調整部材をさらに具備する
    ことを特徴とする請求項19に記載のキャリブレーション装置。
  22. 前記第1の鏡は、光透過部を備える
    ことを特徴とする請求項19に記載のキャリブレーション装置。
  23. 前記複数の目印は、2つであり、該目印を結ぶ線分が前記第1の鏡の反射面と前記第2の鏡の反射面に平行になるように配置される
    ことを特徴とする請求項19に記載のキャリブレーション装置。
  24. 前記目印は、前記第1の鏡の反射面および前記第2の鏡の反射面に対して垂直な方向に沿った直線形状である
    ことを特徴とする請求項19に記載のキャリブレーション装置。
  25. 前記複数のカメラの少なくとも1つの光軸を屈曲させるための光軸屈曲用鏡をさらに備え、
    前記光軸屈曲用鏡は、前記カメラが当該光軸屈曲用鏡を介して前記目印の反射像を含む画像を撮影するような位置に配置される
    ことを特徴とする請求項19に記載のキャリブレーション装置。
  26. カメラを有するカメラシステムを製造する方法であって、
    前記カメラを予め決められた位置に取り付け、
    第1の鏡および第2の鏡を平行かつ互いの反射面を対向させて配置し、
    前記第1および第2の鏡の間に目印を設置し、
    前記目印が前記第1の鏡および前記第2の鏡によって反射されて得られる目印の反射像を前記カメラにより撮像し、
    撮像された画像を用いて前記カメラシステムのキャリブレーションを行う
    ことを特徴とするカメラシステムの製造方法。
  27. パラメータ設定用メモリを有し、平面投影ステレオ法を実施するステレオカメラシステムを製造する方法であって、
    複数のカメラを予め決められた位置に取り付け、
    第1の鏡および第2の鏡を平行かつ互いの反射面を対向させて配置し、
    前記第1および第2の鏡の間に少なくとも2つの目印を設置し、
    前記目印が前記第1および第2の鏡によって反射されて得られる目印の反射像を含む画像を前記複数のカメラで撮影し、
    前記複数のカメラで撮影された画像間の前記目印の対応関係を示す複数の座標の組を決定し、決定した複数の座標の組を用いて、前記複数のカメラによって撮影された画像間の射影変換パラメータを算出し、
    前記射影変換パラメータを前記パラメータ設定用メモリに記録し、
    前記射影変換パラメータは、前記目印が設けられた平面を基準とした射影変換に用いられるパラメータである
    ことを特徴とするカメラシステムの製造方法。
JP2003324615A 2002-11-29 2003-09-17 キャリブレーション方法、キャリブレーション支援装置、キャリブレーション装置およびカメラシステムの製造方法 Expired - Lifetime JP3906194B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2003324615A JP3906194B2 (ja) 2002-11-29 2003-09-17 キャリブレーション方法、キャリブレーション支援装置、キャリブレーション装置およびカメラシステムの製造方法
US10/704,550 US7124046B2 (en) 2002-11-29 2003-11-12 Method and apparatus for calibration of camera system, and method of manufacturing camera system
US11/510,583 US7321839B2 (en) 2002-11-29 2006-08-28 Method and apparatus for calibration of camera system, and method of manufacturing camera system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2002346914 2002-11-29
JP2003324615A JP3906194B2 (ja) 2002-11-29 2003-09-17 キャリブレーション方法、キャリブレーション支援装置、キャリブレーション装置およびカメラシステムの製造方法

Publications (2)

Publication Number Publication Date
JP2004191354A JP2004191354A (ja) 2004-07-08
JP3906194B2 true JP3906194B2 (ja) 2007-04-18

Family

ID=32716274

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003324615A Expired - Lifetime JP3906194B2 (ja) 2002-11-29 2003-09-17 キャリブレーション方法、キャリブレーション支援装置、キャリブレーション装置およびカメラシステムの製造方法

Country Status (2)

Country Link
US (2) US7124046B2 (ja)
JP (1) JP3906194B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160131862A (ko) * 2015-05-08 2016-11-16 한국전자통신연구원 거울들을 사용하는 멀티 카메라들의 캘리브레이션을 위한 방법 및 장치

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8045007B2 (en) * 2004-12-24 2011-10-25 Fujifilm Corporation Image capturing system and image capturing method
JP4539400B2 (ja) * 2005-03-28 2010-09-08 トヨタ自動車株式会社 ステレオカメラの補正方法、ステレオカメラ補正装置
JP2006322855A (ja) * 2005-05-19 2006-11-30 Denso Corp 無限遠点決定装置
FR2896219B1 (fr) * 2006-01-19 2008-02-22 Valeo Vision Sa Procede de reglage de l'orientation d'une camera installee dans un vehicule et systeme de mise en oeuvre de ce procede
JP4765726B2 (ja) * 2006-03-31 2011-09-07 トヨタ自動車株式会社 画像処理装置および方法
JP2008187566A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
DE102007032471A1 (de) * 2007-07-10 2009-01-22 Deutsches Zentrum für Luft- und Raumfahrt e.V. Verfahren und Vorrichtung zur Bestimmung der Lage eines Kamerasystems relativ zu einem Objekt
US8229168B2 (en) * 2008-02-20 2012-07-24 International Business Machines Corporation Fast license plate verifier
EP2310798B1 (en) * 2008-07-29 2016-10-26 Microsoft International Holdings B.V. Imaging system
DE102008057672A1 (de) 2008-11-17 2009-07-02 Daimler Ag Verfahren und Vorrichtung zur Kalibrierung von einem oder mehreren Sensoren eines Fahrzeuges
JP5453352B2 (ja) * 2011-06-30 2014-03-26 株式会社東芝 映像表示装置、映像表示方法およびプログラム
JP5185424B1 (ja) * 2011-09-30 2013-04-17 株式会社東芝 キャリブレーション方法および映像表示装置
US9667955B2 (en) 2012-10-01 2017-05-30 Bodybarista Aps Method of calibrating a camera
JP2014092461A (ja) 2012-11-02 2014-05-19 Sony Corp 画像処理装置および方法、画像処理システム、並びにプログラム
ES2629697T3 (es) * 2013-09-16 2017-08-14 Ameria Gmbh Sistema de retroproyección controlado por gestos
FR3015660B1 (fr) * 2013-12-19 2020-06-05 Continental Automotive France Procede, support et systeme de calibration d'une camera d'un vehicule
US9948926B2 (en) * 2015-05-08 2018-04-17 Electronics And Telecommunications Research Institute Method and apparatus for calibrating multiple cameras using mirrors
KR101639065B1 (ko) * 2015-06-22 2016-07-13 한국과학기술연구원 가상 공간과 실제 공간을 정합하기 위한 시스템과, 디스플레이 장치와 영상 센서를 정합하기 위한 방법과, 그 방법을 이용해 정합된 전자 장치
WO2017042999A1 (ja) * 2015-09-07 2017-03-16 パナソニックIpマネジメント株式会社 車載用ステレオカメラ装置、およびその補正方法
JP6214717B1 (ja) * 2016-05-24 2017-10-18 三菱電機株式会社 車載カメラキャリブレーション補助装置
CN107249128B (zh) * 2017-06-23 2020-04-03 深圳超多维科技有限公司 一种摄像头的校正方法及装置
CN108830906B (zh) * 2018-05-31 2023-10-24 福州大学 一种基于虚拟双目视觉原理的摄像机参数自动标定方法
US10943367B1 (en) 2018-07-11 2021-03-09 Waymo Llc Calibration of detection system to vehicle using a mirror
US10623727B1 (en) * 2019-04-16 2020-04-14 Waymo Llc Calibration systems usable for distortion characterization in cameras
JP2021009113A (ja) * 2019-07-02 2021-01-28 株式会社リコー 計測用具、校正装置、およびプログラム
JP7308095B2 (ja) * 2019-08-07 2023-07-13 日立Astemo株式会社 ステレオカメラの補正方法及びステレオカメラの補正装置
CN111121818B (zh) * 2019-12-11 2021-10-26 中山大学 一种无人车中相机与二维码的标定方法
US11740078B2 (en) * 2020-07-21 2023-08-29 Argo AI, LLC Enhanced sensor alignment
CN113327293B (zh) * 2021-06-18 2022-07-12 东莞理工学院 一种用于工业机器人抓取领域的深度相机标定装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5144495A (en) * 1987-12-03 1992-09-01 Compugrade, Inc Systems for illuminating and evaluating surfaces
US5127061A (en) * 1990-12-03 1992-06-30 At&T Bell Laboratories Real-time three-dimensional imaging technique
US5117285A (en) * 1991-01-15 1992-05-26 Bell Communications Research Eye contact apparatus for video conferencing
US5737122A (en) * 1992-05-01 1998-04-07 Electro Scientific Industries, Inc. Illumination system for OCR of indicia on a substrate
US5691764A (en) * 1994-08-05 1997-11-25 Tokyo Electron Limited Apparatus for examining target objects such as LCD panels
AP931A (en) * 1995-10-23 2001-02-02 Cytometrics Inc Method and apparatus for reflected imaging analysis.
US7099732B2 (en) * 1999-03-29 2006-08-29 Genex Technologies, Inc. Sanitary sleeve or tip for intra-oral three-dimensional camera
JP2001243456A (ja) 2000-02-29 2001-09-07 Toshiba Corp 障害物検出装置及び障害物検出方法
TW550936B (en) * 2001-12-31 2003-09-01 Veutron Corp Optical path layout of image capturing system and the achieving method thereof
US7224382B2 (en) * 2002-04-12 2007-05-29 Image Masters, Inc. Immersive imaging system
US6819739B2 (en) * 2002-11-27 2004-11-16 Agilent Technologies, Inc. Method and apparatus for calibrating an x-ray laminography imaging system

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160131862A (ko) * 2015-05-08 2016-11-16 한국전자통신연구원 거울들을 사용하는 멀티 카메라들의 캘리브레이션을 위한 방법 및 장치
KR102427739B1 (ko) * 2015-05-08 2022-08-03 한국전자통신연구원 거울들을 사용하는 멀티 카메라들의 캘리브레이션을 위한 방법 및 장치

Also Published As

Publication number Publication date
US20040141063A1 (en) 2004-07-22
US7321839B2 (en) 2008-01-22
JP2004191354A (ja) 2004-07-08
US20070005293A1 (en) 2007-01-04
US7124046B2 (en) 2006-10-17

Similar Documents

Publication Publication Date Title
JP3906194B2 (ja) キャリブレーション方法、キャリブレーション支援装置、キャリブレーション装置およびカメラシステムの製造方法
US8452568B2 (en) Method for calibrating cameras installed on vehicle
CN108451536B (zh) 自动地定位x射线系统的x射线源的方法和x射线系统
WO2017135081A1 (ja) 車載カメラ用校正システム
KR20010078102A (ko) 캘리브레이션 시스템, 타겟장치 및 캘리브레이션방법
EP2631740A2 (en) System for reproducing virtual objects
US20090148036A1 (en) Image processing apparatus, image processing method, image processing program and position detecting apparatus as well as mobile object having the same
JP2006148745A (ja) カメラの校正方法及びカメラの校正装置
CN105939472B (zh) 具有视频叠加的激光投影系统
KR20100110999A (ko) 차량용 카메라 시스템의 캘리브레이션 방법 및 장치, 차량용 카메라 시스템의 각도상 오정렬을 판단하는 방법 및 이를 수행하는 전자 제어 유닛
CN111076905B (zh) 一种车载抬头显示虚像像质综合测量方法
US7616806B2 (en) Position detecting apparatus and method of correcting data therein
JP6791341B2 (ja) 校正方法、校正装置、及びプログラム
CN113255643A (zh) 一种应用于位移监测的机器视觉识别算法
JP4679293B2 (ja) 車載パノラマカメラシステム
JP2014165810A (ja) パラメータ取得装置、パラメータ取得方法及びプログラム
CN113920102A (zh) 一种成像检测方法、装置、设备、系统及存储介质
CN111664839A (zh) 车载抬头显示虚像距离测量方法
JP7414395B2 (ja) 情報投影システム、制御装置、及び情報投影制御方法
KR102585556B1 (ko) 카메라 영상 왜곡 검사 장치 및 그 동작 방법
US20210209794A1 (en) System and Method For Verification of Vehicle Service Target Positioning
KR20100104166A (ko) 카메라 캘리브레이션 방법
CN116105600B (zh) 基于双目相机的瞄准目标的方法、处理装置及激光跟踪仪
JP2007033087A (ja) キャリブレーション装置及び方法
JPH0820207B2 (ja) 光学式3次元位置計測方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070115

R151 Written notification of patent or utility model registration

Ref document number: 3906194

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110119

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120119

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130119

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130119

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140119

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313121

Free format text: JAPANESE INTERMEDIATE CODE: R313115

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term