JP2008193188A - カメラ校正装置及び方法並びに車両 - Google Patents

カメラ校正装置及び方法並びに車両 Download PDF

Info

Publication number
JP2008193188A
JP2008193188A JP2007022630A JP2007022630A JP2008193188A JP 2008193188 A JP2008193188 A JP 2008193188A JP 2007022630 A JP2007022630 A JP 2007022630A JP 2007022630 A JP2007022630 A JP 2007022630A JP 2008193188 A JP2008193188 A JP 2008193188A
Authority
JP
Japan
Prior art keywords
calibration
camera
parameter
image
shape
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007022630A
Other languages
English (en)
Other versions
JP5124147B2 (ja
Inventor
Yohei Ishii
洋平 石井
Hiroshi Kano
浩 蚊野
Kozo Okuda
浩三 奥田
Keisuke Asari
圭介 淺利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2007022630A priority Critical patent/JP5124147B2/ja
Priority to EP08001829A priority patent/EP1954063A3/en
Priority to US12/024,716 priority patent/US20080186384A1/en
Priority to CN2008100086401A priority patent/CN101236655B/zh
Publication of JP2008193188A publication Critical patent/JP2008193188A/ja
Application granted granted Critical
Publication of JP5124147B2 publication Critical patent/JP5124147B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

【課題】カメラの設置誤差を吸収し、校正環境整備の簡便化及び校正精度の向上を図る。
【解決手段】カメラ校正装置は、撮影画像を地面上に投影するための変換パラメータを求める。車両の後方に設置されたカメラの撮影領域内に正方形形状を有した複数の小さな校正パターン(A1〜A3)を配置して撮影を行い、校正用撮影画像(121)を得る。各校正パターンの形状は既知であり、夫々、4つの特徴点(正方形の頂点)を含む。校正用撮影画像における中央の校正パターン(A1)の座標情報と形状に関する既知情報に基づき、変換画像上において該校正パターンの形状が既知の正方形になるように平面射影変換にて一旦初期パラメータを求める。この後、左右の校正パターンの座標情報と既知情報に基づいて初期パラメータを調整し、最終的な変換パラメータを求める。
【選択図】図4

Description

本発明は、カメラの撮影画像を所定面上に投影するために必要となる校正処理を実現するカメラ校正装置及びカメラ校正方法に関し、また、それらを利用した車両に関する。
近年の安全意識の高まりに伴って、自動車などの車両にカメラ(車載カメラ)が搭載されることが多くなっている。特に、車両後方の安全確認を支援するリアカメラの装備が盛んである。このリアカメラの撮影画像は、カーナビゲーション等を形成する表示装置に表示され、車両と車両後方の障害物との衝突を回避するために利用される。
このような衝突を回避するためには、車体と障害物との距離を運転者が正確に把握することが重要である。しかしながら、通常、リアカメラは斜め下向きに設置されるため、その撮影画像をそのまま表示したのでは、距離を正確に把握しがたい。そこで、撮影画像を座標変換(換言すれば、画像変換)することにより、地面の上方から眺めたような鳥瞰図画像を生成して表示する技術が既に提案されている。
このような座標変換の手法として、透視投影変換を用いる手法(例えば、下記特許文献1参照)と平面射影変換を用いる手法(例えば、下記特許文献2参照)が知られている。何れの手法を用いた場合においても、精度よく座標変換を行うためには、座標変換用の変換パラメータを適切に調整する必要がある。
透視投影変換では、カメラの取り付け角度及びカメラの設置高さなどのカメラ外部情報とカメラの焦点距離(或いは画角)などのカメラ内部情報とに基づいて、撮影画像を設定平面(路面など)上に投影するための変換パラメータを算出する。このため、精度よく座標変換を行うためにはカメラ外部情報を正確に把握することが必要となる。カメラの取り付け角度やカメラの設置高さなどは、事前に設計されていることが多いが、それらの設計値と実際に車両に設置したときのそれらとの間には誤差が生じるため、正確な変換パラメータを計測または推定することは困難であることが多い。
平面射影変換では、撮影領域内に校正パターンを配置し、撮影した校正パターンに基づいて、撮影画像の座標(2次元カメラ座標)と変換画像の座標(2次元世界座標)との対応関係を示す変換行列を求める、という校正作業を行う。この変換行列は、一般的に、ホモグラフィ行列と呼ばれる。平面射影変換によれば、カメラ外部情報やカメラ内部情報を必要とせず、また、実際に撮影された校正パターンに基づいて撮影画像と変換画像との間の対応座標が指定されるため、カメラの設置誤差の影響を受けない(或いは受けにくい)。
平面射影変換を用いる場合の校正作業では、通常、撮影領域全体に校正パターンを配置し、校正パターンに含まれる特徴点の座標値を設定する。図12(a)の符号300は、この校正作業時におけるカメラの撮影画像を表す。撮影画像300に対応する例では、撮影領域全体に、座標値が既知の4以上の特徴点を含む市松模様の校正パターンを配置する。撮影画像300における点301〜304は、撮影画像300上の4つの特徴点である。
そして、この4つの特徴点が変換画像上で所望の位置に変換されるようなホモグラフィ行列を求める。図12(b)の符号310は、このホモグラフィ行列を用いて座標変換した変換画像(変換後の画像)を表す。変換画像310における点301〜304は、変換画像310上の4つの特徴点である。変換画像310では、市松模様が地面の上方から眺めたように歪みなく描写される。
しかしながら、このような手法では、撮影領域全体を覆うような座標系を定義する必要があるため、上記のような大きな校正パターンを設けなくてはならない。つまり、校正環境の整備に多大な手間がかかり、校正作業全体の負担が大きくなる。通常、乗用車の後方に設置されるリアカメラは、広視野の安全確認を支援する目的で設置されるため、広角であることが多く、それによって撮影される路面の範囲は4m×5m程度となる。校正作業時には、4m×5m程度の大きさを有する校正パターンを用意する必要があると共に校正パターンを設置するための場所を占有する必要がある。また、ホモグラフィ行列を求めるに当たり、校正パターンに含まれる特徴点の座標値も設定してやる必要がある。校正作業の効率を向上させるために、より簡便な校正方法が求められている。
校正環境の整備を簡便化するべく、撮影領域の一部に配置した校正パターンを用いて変換パラメータ(ホモグラフィ行列)を算出する手法も考えられる。即ち、図13(a)の撮影画像320に示す如く、4つの特徴点321〜324を撮影領域内の限られた小領域内に配置するようにし、この4つの特徴点321〜324を用いて変換画像を得るようにする。説明の便宜上、図12(a)の撮影画像300における市松模様と同じ風景を撮影しているが、図13(a)に示す例では、4つの特徴点321〜324を結ぶ小さな四角形が校正パターンと捉えられる。
図13(b)の符号330は、この手法によって得られる変換画像を表す。校正時に指定した4つの特徴点321〜324を用いて変換パラメータ(ホモグラフィ行列)を算出するため、校正パターンの周辺において座標変換の精度は比較的良いが、校正パターンから離れるに従って、4つの特徴点321〜324に対して設定される座標値の誤差の影響が大きくなり、座標変換の精度が悪くなってしまう。
尚、下記特許文献3には、複数の位置で撮影した画像を用いて、平面射影変換に基づく変換パラメータを調整する手法が開示されている(特に段落69など参照)。しかしながら、この手法においても、複数の画像間で共通の座標(2次元世界座標)系を設定しておく必要があるため、校正環境の整備に手間がかかるという問題は何ら解決されない。
特開2006−287892号公報 特開2006−148745号公報 特開2004−342067号公報
上述したように、
透視投影変換を用いる場合は、カメラの設置誤差の影響を受ける。
平面射影変換を用いる場合は、校正環境の整備に手間がかかる。
平面射影変換において撮影領域の一部に校正パターンを配置するようにした場合、座標変換の精度(校正精度)が悪化する。
そこで本発明は、カメラの設置誤差の影響を受けにくく、校正環境整備の簡便化及び校正精度向上に寄与するカメラ校正装置及びカメラ校正方法を提供することを目的とする。また、本発明は、それらを利用した車両を提供することを目的とする。
上記目的を達成するために本発明に係る第1のカメラ校正装置は、カメラの撮影画像を所定面上に投影するためのパラメータを求めるパラメータ導出手段を備えたカメラ校正装置において、前記パラメータ導出手段は、前記カメラからの校正用撮影画像に基づいて前記パラメータを求め、前記校正用撮影画像は、前記カメラの撮影領域内の互いに異なる位置に配置された、形状が既知の複数の校正パターンを含むことを特徴とする。
校正用撮影画像に含められた校正パターンの既知形状を利用すれば、例えば平面射影変換にてパラメータを導出することができるため、カメラの設置誤差の影響を受けにくくなる。また、複数の校正パターンを撮影領域内の互いに異なる位置に配置することによって、或る校正パターンを用いて一旦パラメータを求めた後、残りの校正パターンを用いてパラメータを最適化するといったことが可能となるため、図13を参照して説明したような従来の問題が緩和される。即ち、校正精度の向上が期待される。また、撮影領域全体を覆うような校正パターンを用意する必要もないため、校正環境の整備が簡便化可能である。
また、第1のカメラ校正装置において、透視投影変換を利用することも可能である。例えば透視投影変換を利用してパラメータの初期値を求めたとしても、形状既知の校正バターンを用いてそれを調整することが可能となるため、カメラの設置誤差の影響を受けにくくなる。
具体的には例えば、前記複数の校正パターンは、第1校正パターンと第2校正パターンを含み、前記パラメータ導出手段は、前記校正用撮影画像上の前記第1校正パターンの形状と該形状に関する第1既知情報に基づいて初期パラメータを求めた後、前記初期パラメータを用いて前記校正用撮影画像上の前記第2校正パターンを座標変換し、この座標変換後の前記第2校正パターンの形状と該形状に関する第2既知情報とに基づいて前記初期パラメータを調整し、この調整を経て最終的に前記パラメータを求める。
また例えば、前記第1校正パターンは、少なくとも4点の特徴点を含み、前記第1既知情報は、前記4点の特徴点間の相対位置関係を特定する。
上記目的を達成するために本発明に係る第2のカメラ校正装置は、カメラの撮影画像を所定面上に投影するためのパラメータを求めるパラメータ導出手段を備えたカメラ校正装置において、前記パラメータ導出手段は、前記カメラからの校正用撮影画像に基づいて前記パラメータを求め、前記校正用撮影画像は、前記カメラの撮影領域内に配置された形状が既知の校正パターンを含み、前記パラメータ導出手段は、予め設定された情報に基づく初期パラメータを用いて前記校正用撮影画像上の前記校正パターンを座標変換し、この座標変換後の前記校正パターンの形状と該形状に関する既知情報とに基づいて前記初期パラメータを調整し、この調整を経て最終的に前記パラメータを求めることを特徴とする。
初期パラメータは、例えばカメラの設置位置などに依存して求められるが、これを形状既知の校正パターンを用いて調整することにより、カメラの設置誤差の影響を受けにくくなる。よって、校正精度の向上が期待される。また、撮影領域全体を覆うような校正パターンを用意する必要もないため、校正環境の整備が簡便化可能である。
上記目的を達成するために本発明に係る車両は、カメラ及び画像処理装置が設置された車両において、前記画像処理装置は、上記の何れかに記載のカメラ校正装置を含む。
上記目的を達成するために本発明に係る第1のカメラ校正方法は、カメラの撮影画像を所定面上に投影するためのパラメータを求めるカメラ校正方法において、前記カメラからの校正用撮影画像に基づいて前記パラメータを求めるパラメータ導出ステップを有し、前記校正用撮影画像に、前記カメラの撮影領域内の互いに異なる位置に配置された、形状が既知の複数の校正パターンを含めることを特徴とする。
上記目的を達成するために本発明に係る第2のカメラ校正方法は、カメラの撮影画像を所定面上に投影するためのパラメータを求めるカメラ校正方法において、前記カメラからの校正用撮影画像に基づいて前記パラメータを求めるパラメータ導出ステップを有し、前記校正用撮影画像に、前記カメラの撮影領域内に配置された形状が既知の校正パターンを含め、前記パラメータ導出ステップは、予め設定された情報に基づく初期パラメータを用いて前記校正用撮影画像上の前記校正パターンを座標変換し、この座標変換後の前記校正パターンの形状と該形状に関する既知情報とに基づいて前記初期パラメータを調整するパラメータ調整ステップを備え、この調整を経て最終的に前記パラメータを求めることを特徴とする。
本発明によれば、カメラの設置誤差の影響を受けにくく、校正環境整備の簡便化及び校正精度向上に寄与するカメラ校正装置及びカメラ校正方法を提供することができる。また、本発明によれば、それらを利用した車両を提供することができる。
本発明の意義ないし効果は、以下に示す実施の形態の説明により更に明らかとなろう。ただし、以下の実施の形態は、あくまでも本発明の一つの実施形態であって、本発明ないし各構成要件の用語の意義は、以下の実施の形態に記載されたものに制限されるものではない。
以下、本発明の実施の形態につき、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。後に第1〜第3実施例を説明するが、まず、各実施例に共通する事項又は各実施例にて参照される事項について説明する。
図1は、自動車である車両100を上方から見た図である。車両100の後部には、撮像装置としてのカメラ1が設置されている。カメラ1は、車両100の後方側に視野を有するように車両100に設置される。このようなカメラ1は、車両100が障害物などと衝突するのを回避するために設置される。このため、通常、カメラ1の視野には、車両100の一部も含まれる。図1の例では、カメラ1の視野に、車両100の車体後端に設けられたバンパ101が含まれている。尚、車両100として普通乗用車を例示しているが、車両100は、普通乗用車以外(トラックなど)であってもよい。
符号110が付された破線扇型領域は、カメラ1の撮影領域を表している。符合A1、A2及びA3は、夫々、カメラ1の撮影領域内であって且つ地面上に配置された、平面状の(2次元の)校正パターンである。校正パターンA1〜A3は、カメラ1の校正を行う際に用いられる(詳細は後述)。尚、以下の説明において、地面は水平面上にあるものとし、「高さ」は、地面を基準とした高さを表すものとする。
図2に、本発明の実施形態に係る視界支援システムの構成ブロック図を示す。カメラ1は、撮影を行い、撮影によって得られた画像(以下、撮影画像とも言う)を表す信号を画像処理装置2に送る。画像処理装置2は、撮影画像を視点変換によって鳥瞰図画像に変換する。但し、鳥瞰図画像の基となる撮影画像に対してレンズ歪み補正などの画像処理を施し、その画像処理後の撮影画像を鳥瞰図画像に変換するものとする。表示装置3は、この鳥瞰図画像を映像として表示する。
鳥瞰図画像は、実際のカメラ1の撮影画像を仮想カメラの視点(仮想視点)から見た画像に変換したものである。より具体的には、鳥瞰図画像は、実際のカメラ1の撮影画像を、地上面を鉛直方向に見下ろした画像に変換したものである。この種の画像変換は、一般に、視点変換とも呼ばれる。このような鳥瞰図画像を表示することによって、運転者の車両後方の視界が支援され、車両後方の安全確認が容易となる。
カメラ1として、例えばCCD(Charge Coupled Devices)を用いたカメラや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いたカメラが用いられる。画像処理装置2は、例えば集積回路から形成される。表示装置3は、液晶ディスプレイパネル等から形成される。カーナビゲーションシステムなどに含まれる表示装置を、視界支援システムにおける表示装置3として流用しても良い。また、画像処理装置2は、カーナビゲーションシステムの一部として組み込まれうる。画像処理装置2及び表示装置3は、例えば、車両100の運転席付近に設置される。
広視野の安全確認を支援するべく、カメラ1の画角は広角となっている。このため、カメラ1の撮影領域は、地面上において、例えば4m×5m(メートル)程度の大きさを有する。図1の例では、この撮影領域の大きさよりも小さい校正パターン(A1〜A3)を3つ用いる。
校正パターンA1〜A3の夫々は、正方形形状を有し、その正方形の一辺の長さは、1m程度とされる。校正パターンA1〜A3を全て同じ形状とする必要は必ずしもないが、説明の便宜上、それらの形状が全て同じであるものとする。ここにおける形状は、大きさをも含む概念である。従って、校正パターンA1〜A3は、全く同じものである。鳥瞰図画像上において、各校正パターンの形状は、理想的には正方形となるべきである。
各校正パターンは、正方形形状であるため、4つの特徴点を有する。今の例の場合、4つの特徴点は、正方形を形成する4つの頂点に相当する。画像処理装置2は、各校正パターンの形状を既知情報として予め認識している。この既知情報によって、後述する変換画像上における(及び実空間上における)、理想的な校正パターン(A1、A2又はA3)の4つの特徴点間の相対的な位置関係は特定される。
校正パターンの形状とは、その校正パターンに含まれる特徴点を結ぶことによって形成される図形の形状を意味する。例えば、正方形形状を有する3つの校正プレートそのものを3つの校正パターンA1〜A3とし、各校正プレートの4つの角を、各校正パターンの4つの特徴点として取り扱う。或いは例えば、校正パターンA1が描かれた校正プレート、校正パターンA2が描かれた校正プレート及び校正パターンA3が描かれた校正プレートを用意する。この場合、校正プレート自体の外形は、校正パターンの外形と一致しない。例として、図11に、校正パターンA1が描かれた正方形状の校正プレート200の平面図を示す。校正パターン200は白地となっており、校正プレート200の4隅の夫々には、1頂点にて互いに連結された黒塗りの正方形が2つずつ描かれている。そして、校正プレート200の4隅における、2つの黒塗りの正方形の連結部分211〜214が校正パターンA1の特徴点に相当する。
校正プレート自体の色や校正プレートに描かれる模様の色を適切に選ぶことによって、カメラ1(及び画像処理装置2)が、校正パターンの各特徴点を路面等と明確に区別して認識できるようになっている。但し、本実施形態では、以下、図示及び説明の便宜上、校正プレートの存在を無視し、校正パターンにのみ着目する。
各校正パターンは、カメラ1の撮影領域内に収まるように配置されるが、その配置の仕方は自由である。即ち、各校正パターンの撮影領域内での配置位置は任意であり、また、異なる校正パターン間の位置関係も任意である。但し、各校正パターンは、撮影領域内の互いに異なる位置に配置されるものとする。また、各校正パターンが重ならないように各校正パターンを互いに分離して配置する。図13を参照して説明した従来技術の問題点の発生理由及び後述の説明からも理解されるが、校正の精度を向上させるためには、ある程度広い領域にわたって3つの校正パターンを分散配置するとよい。
鳥瞰図画像を生成するためには、撮影画像を鳥瞰図画像に変換するための変換パラメータが必要となる。画像処理装置2は、適切な鳥瞰図画像が得られるように、即ち、鳥瞰図画像上において各校正パターンの形状が正方形(或いは略正方形)になるように変換パラメータを校正し、校正後の変換パラメータを用いて撮影画像を鳥瞰図画像に変換する。この校正処理に関する実施例として、以下に、第1〜第3実施例を例示する。
<<第1実施例>>
まず、第1実施例について説明する。図3は、第1実施例に係る変換パラメータ校正処理の手順を表すフローチャートである。ステップS1の処理は、カメラ1(及び画像処理装置2)によって実現され、ステップS2〜S5の各処理は、画像処理装置2によって実現される。
まず、ステップS1において、校正パターンA1〜A3を上述の如く撮影領域内に配置した状態でカメラ1に撮影を行わせて撮影画像を得る。この撮影画像を、校正用撮影画像と呼ぶ。図4(a)において、符号121は、校正用撮影画像を表している。また、図4(a)〜(c)において、画像上に、バンパ101の一部が現れている。
次に、ステップS2において、初期校正を行う。初期校正では、校正用撮影画像に含まれる3つの校正パターンA1〜A3の内、何れか1つの校正パターンを用いて平面射影変換を行い、最終的に求めるべき変換パラメータの初期値に相当する初期パラメータを算出する。この初期パラメータは、鳥瞰図画像を得るためのホモグラフィ行列の初期値である。初期パラメータを算出するに当たり、何れの校正パターンを用いるかは任意であるが、今、中央に位置する校正パターンA1を用いるものとする。
このステップS2の処理について説明する。ホモグラフィ行列を用いて校正用撮影画像を座標変換(画像変換)することによって得られる画像を、校正用変換画像と呼ぶ。ステップS2では、校正用撮影画像及び校正用変換画像をそれぞれ原画像及び変換画像として捉える。原画像上における各点の座標を(x,y)にて表し、変換画像上における各点の座標を(X,Y)にて表す。原画像上における座標(x,y)と変換画像上における座標(X,Y)との関係は、ホモグラフィ行列Hを用いて下記式(1)のように表される。ホモグラフィ行列Hは、3行3列の行列であり、その行列の各要素をh1〜h9で表す。更に、h9=1であるとする(h9=1、となるように行列を正規化する)。また、式(1)より、座標(x,y)と座標(X,Y)との関係は、下記式(2a)及び(2b)によって表すこともできる。
ステップS2において、画像処理装置2は、原画像に対してエッジ検出処理などを施すことにより、原画像上における校正パターンA1の4つの特徴点の座標値を特定する。特定された4つの座標値を(x1,y1)、(x2,y2)、(x3,y3)及び(x4,y4)とする。また、予め認識している既知情報に従い、変換画像上における校正パターンA1の4つの特徴点の座標値を定める。定められた4つの座標値を(X1,Y1)、(X2,Y2)、(X3,Y3)及び(X4,Y4)とする。校正パターンA1の形状は正方形であるから、座標値(X1,Y1)、(X2,Y2)、(X3,Y3)及び(X4,Y4)を、例えば、(0,0)、(1,0)、(0,1)及び(1,1)と定義することができる。
原画像と変換画像との間で4点の座標値対応関係が分かれば、ホモグラフィ行列Hは一意に定まる。原画像と変換画像との間における4点の座標値対応関係に基づきホモグラフィ行列(射影変換行列)を求める手法として、公知の手法を用いればよい。例えば、上記特許文献3に記載の手法(特に、特許文献3の段落[0059]〜[0069]に記載の手法を参照)を用いればよい。つまり、原画像上における座標値(x1,y1)、(x2,y2)、(x3,y3)及び(x4,y4)が、夫々、変換画像上における座標値(X1,Y1)、(X2,Y2)、(X3,Y3)及び(X4,Y4)に変換されるように、ホモグラフィ行列Hの要素h1〜h8を求める。実際には、この変換の誤差(特許文献3における評価関数)が最小化されるように要素h1〜h8を求める。ここで求められた要素h1〜h8(及びh9)を有するホモグラフィ行列Hが、ステップS2で求められるべき初期パラメータである。
一旦、ホモグラフィ行列Hが求まれば、上記式(2a)及び(2b)に従って原画像上の任意の点を変換画像上の点に変換することが可能である。図4(b)において、符号122は、ステップS2における初期校正直後の変換画像(即ち、初期パラメータを用いて変換した変換画像)を表している。この変換画像122において、中央に位置する校正パターンA1の形状は正方形となるが、通常、誤差(座標値指定誤差など)に起因して左右に位置する校正パターンA2及びA3の形状は正方形とならない。
初期パラメータの算出後、変換画像上における、実際の各校正パターンの形状と理想的な各校正パターンの形状との間の誤差を評価し、繰り返し演算によってこの誤差が最小化されるように変換パラメータの調整を行う。
具体的には、ステップS3において、まず、変換画像上における実際の各校正パターンの形状と変換画像上における理想的な各校正パターンの形状との間の誤差を表す誤差評価値Dを算出する。
図5を参照して、誤差評価値Dの算出手法について説明する。図5において、符号140が付された正方形は、変換画像上における理想的な校正パターン(A1、A2又はA3)の形状を表す。一方、符合150が付された四角形は、変換画像上における実際の校正パターン(A1、A2又はA3)の形状を表す。つまり、四角形150は、ホモグラフィ行列Hを用いて校正用撮影画像上の校正パターンを座標変換することによって得られる座標変換後の校正パターンの形状を表す。上述したように、正方形140の形状は、画像処理装置2にとって既知である。
図5において、符号141〜144は、正方形140の4つの頂点を表し、符号151〜154は、四角形150の4つの頂点を表す。四角形150の各頂点151〜154の座標は、原画像上における校正パターンの各頂点(即ち、各特徴点)の座標(x,y)を上記式(2a)及び(2b)に従って変換画像上の座標(X,Y)に変換することによって得られる。この変換に用いられるホモグラフィ行列Hの要素h1〜h9は、一旦、ステップS2において算出されるが、後述するステップS5にて更新される。ステップS3において、各頂点151〜154の座標は、最新の要素h1〜h9を用いて算出される。
今、変換画像上において、頂点141と頂点151の座標を一致させる。そして例えば、頂点141と頂点142を結ぶ線分と頂点151と頂点152を結ぶ線分とを重ねる。即ち、頂点141と頂点151の座標を一致させ且つ上記2つの線分が重なるように、形状既知の正方形140を変換画像上に配置して考える。但し、図5では、図示の便宜上、正方形140と四角形150を若干ずらして示している。
この場合において、変換画像上における、頂点142と頂点152との間の位置誤差をd1、頂点143と頂点153との間の位置誤差をd2、頂点144と頂点154との間の位置誤差をd3とする。位置誤差d1は、変換画像上における頂点142と頂点152の距離とされる。位置誤差d2及びd3も同様である。
このような位置誤差d1〜d3は、校正パターンA1〜A3の夫々に対して算出される。即ち、1つの変換画像に対して、9つの位置誤差が算出される。誤差評価値Dは、この9つの位置誤差の総和とされる。位置誤差は、対比する頂点間の距離であるので、常に0又は正の値をとる。誤差評価値Dの算出式を式(3)に示す。式(3)の右辺において、(d1+d2+d3)に対するΣは、校正パターンの個数分の総和をとることを意味する
ステップS3にて誤差評価値Dを算出した後、ステップS4に移行し、誤差評価値Dが所定の閾値以下であるかを判断する。誤差評価値Dが閾値以下でない場合は、ステップS5に移行して、変換パラメータを変更する。即ち、ホモグラフィ行列の各要素h1〜h9を調整して(従前のものから変更して)ステップS3に戻る。ステップS5を介してステップS3に戻った場合、調整後の各要素h1〜h9を用いて上述と同様の処理を行う。
一方、誤差評価値Dが所定の閾値以下である場合、ステップS3〜S5から成る繰り返し演算によって変換パラメータが最適化されたと判断し、最終的に得られた変換パラメータ(即ち、調整によって得られた最新のホモグラフィ行列H)を校正済み変換パラメータとして取り扱うこととする。図4(c)において、符号123は、変換パラメータが最適化された後の変換画像(即ち、校正済み変換パラメータを用いて変換した変換画像)を表している。この後、図3の変換パラメータ校正処理を終了する。
実際には、例えば、最新のホモグラフィ行列Hに従って、原画像上の各座標(x,y)と変換画像上の各座標(X,Y)との対応関係を示すテーブルデータを作成し、これを図示されないメモリ(ルックアップテーブル)に格納しておく。このテーブルデータを用いれば、撮影画像を鳥瞰図画像に変換することができ、この鳥瞰図画像において各校正パターンは略正方形となる。この場合、上記テーブルデータを校正済み変換パラメータと捉えることもできる。
尚、ステップS3〜S5にて実現される変換パラメータの最適化の手法として、公知の手法を用いることができる。例えば、多次元の滑降シンプレックス法(downhill simplex method)や、パウエル(Powell)法などを用いればよい(例えば、“William H. Press, 「ニューメリカルレシピ・イン・シー C言語による数値計算のレシピ」,技術評論社,1993年発行”を参照)。それらの手法は、周知であるため、ここでの説明を割愛する。
また、各画像から特徴点を検出する手法として、上述の如く画像処理を用いた自動検出手法を採用するようにしてもよいが、操作部(不図示)への手動操作に基づく手動検出手法を採用するようにしてもよい。
図3の変換パラメータ校正処理後、図2の画像処理装置2は、カメラ1にて次々と得られる撮影画像を校正済み変換パラメータを用いて次々と鳥瞰図画像に変換する。この際、各撮影画像を原画像として取り扱うと共に、各鳥瞰図画像を変換画像として取り扱う。このため、撮影画像上の各点の座標は(x、y)にて表され、鳥瞰図画像上の各点の座標は(X,Y)にて表される。画像処理装置2は、各鳥瞰図画像を表す映像信号を表示装置3に供給する。表示装置3は、各鳥瞰図画像を動画像として表示する。
第1実施例では、平面射影変換にて校正を行うため、カメラの設置誤差を吸収可能である。また、撮影領域よりも小さい校正パターンを用い、それを撮影領域内で自由に配置することによって校正環境が整備されるため、従来の平面射影変換による校正手法よりも校正環境の整備が簡便である。従来では、小さい校正パターンを用いた場合、校正精度が低下する問題があったが、複数の形状既知の校正パターンを用い、変換パラメータの調整を実行することにより校正精度の向上効果が得られる。
本実施例のような車両の運転者に対する視界支援システムを構築する場合は、校正環境の整備が困難な販売店等において駐車場に一時的に校正パターンを配置して校正を実行する、といった利用法が考えられる。また、撮影領域に対して校正パターンを随分小さくすることができるため、校正パターン(或いは校正パターンが描かれた校正プレート)を容易に持ち運び可能なサイズとすることも可能であり、校正作業の負担軽減効果も期待される。
<<第2実施例>>
次に、第2実施例について説明する。図6は、第2実施例に係る変換パラメータ校正処理の手順を表すフローチャートである。第2実施例に係る変換パラメータ校正処理は、ステップS1〜S5の各処理と、ステップS6の処理とから構成される。ステップS6の処理は、画像処理装置2によって実現される。
ステップS1〜S5の各処理は、第1実施例におけるそれらと同じものである。従って、それらの重複する説明を省略する。但し、第2実施例では、ステップS4において誤差評価値Dが所定の閾値以下である場合、ステップS3〜S5から成る繰り返し演算によってホモグラフィ行列Hが最適化されたと判断し、ステップS6に移行する。
ところで、車両100の後方確認のために設置されるカメラ1は、通常、車両100の後方を左右均等に傾きなく撮影できるように設置される。しかしながら、通常、設置誤差が生じるため、撮影画像に傾きが生じる。例えば、図7(a)に示すような水平方向の回転設置誤差や、図7(b)に示すようなカメラ1の光軸回りの回転設置誤差が生じ、これらは撮影画像に傾きを生じさせる。
図4(c)と同じ変換画像123を表した図8(a)を参照する。このような設置誤差は、本来、画像の水平方向と平行となるべき、画像上のバンパ101と地面との境界線161を傾かせる。そこで、第2実施例では、ステップS1〜S5の後、この傾きをも補正するように角度調整を行う。
具体的には、ステップS6において、変換画像123におけるバンパ101と地面との境界点を2点設定する。図8(a)(及び後述する図8(b))において、符号171及び172は、設定された2つの境界点を表し、境界点171及び172は、境界線161上にのる。そして、変換画像123上において、境界点171と172を結ぶ直線と変換画像123の水平ラインとの成す角度θ(この角度θは、鋭角である)を求める。水平ラインは、画像の水平方向に伸びるラインである。尚、境界点を検出する手法として、画像処理を用いた自動検出手法を採用するようにしてもよいし、操作部(不図示)への手動操作に基づく手動検出手法を採用するようにしてもよい。
変換画像123上における境界線161を画像の水平ラインと平行にするための回転行列をRとすると、回転行列Rは、角度θを用いて下記式(4)により表される。
図8(b)の符号124は、回転行列Rに基づいて変換画像123を回転させることによって得られる画像を表す。回転行列Rに基づく回転補正前の画像(例えば、変換画像123)の各点の座標を(X,Y)で表し、回転行列Rに基づく回転補正後の画像(例えば、画像124)の各点の座標を(X’,Y’)で表すと、下記式(5)の関係が成立する。
ステップS6の処理を終えると、図6の変換パラメータ校正処理を終了する。第2実施例では、ステップS3〜S5の調整によって得られた最新のホモグラフィ行列Hと、上記回転行列Rとが、校正済み変換パラメータとして取り扱われる。
実際には、例えば、最新のホモグラフィ行列Hと上記回転行列Rに従って、原画像上の各座標(x,y)と回転補正後の画像上の各座標(X’,Y’)との対応関係を示すテーブルデータを作成し、これを図示されないメモリ(ルックアップテーブル)に格納しておく。このテーブルデータを用いれば、撮影画像を鳥瞰図画像に変換することができ、この鳥瞰図画像において各校正パターンは略正方形となると共にカメラ1の設置誤差等に由来する画像の傾きが補正される。この場合、上記テーブルデータを校正済み変換パラメータと捉えることもできる。
図6の変換パラメータ校正処理後、図2の画像処理装置2は、カメラ1にて次々と得られる撮影画像を、ホモグラフィ行列Hと回転行列Rに基づく校正済み変換パラメータを用いて次々と鳥瞰図画像に変換する。この際、各撮影画像を原画像として取り扱うと共に、各鳥瞰図画像を回転補正後の画像として取り扱う。このため、撮影画像上の各点の座標は(x、y)にて表され、鳥瞰図画像上の各点の座標は(X’,Y’)にて表される。画像処理装置2は、各鳥瞰図画像を表す映像信号を表示装置3に供給する。表示装置3は、各鳥瞰図画像を動画像として表示する。
本実施例によれば、主としてカメラ1の設置誤差に由来する、画像の傾きが補正される。勿論、第1実施例と同様の効果も達成される。
<<第3実施例>>
次に、第3実施例について説明する。図9は、第3実施例に係る変換パラメータ校正処理の手順を表すフローチャートである。第3実施例に係る変換パラメータ校正処理では、透視投影変換にて初期パラメータを算出するようにしている。初期パラメータを算出した後の動作は、第1又は第2実施例におけるそれと同様である。図9の変換パラメータ校正処理では、初期パラメータを算出した後の動作として、第2実施例におけるそれを適用しているが、第1実施例におけるそれを適用することも可能である(即ち、ステップS6を省略することも可能である)。
図9の変換パラメータ校正処理は、ステップS11及びS12の各処理と、ステップS3〜S6の各処理とから構成される。ステップS3〜S6の各処理は、第2実施例におけるそれらと同様である。
まず、ステップS11において、初期校正を行う。初期校正では、透視投影変換にて初期パラメータを算出する。透視投影変換については公知である(例えば、下記特許文献1参照)。撮影画像上における各点の座標を(xbu、ybu)で表し、この撮影画像を透視投影変換にて変換した鳥瞰図画像上における各点の座標を(xau、yau)で表すと、座標(xbu、ybu)を座標(xau、yau)に変換するための式は、下記式(6)によって表される。
ここで、θaは、図10に示す如く、地面とカメラ1の光軸との成す角度である(但し、90°<θa<180°)。hは、カメラ1の高さに基づく量(カメラ座標系と世界座標系の、高さ方向の平行移動量)である。fは、カメラ1の焦点距離である。上述したように、鳥瞰図画像は、実際のカメラ1の撮影画像を仮想カメラの視点(仮想視点)から見た画像に変換したものであり、Haは、この仮想カメラの高さを表す。
θa、h及びHaは、カメラ外部情報(カメラ1の外部パラメータ)と捉えることができ、fは、カメラ内部情報(カメラ1の内部パラメータ)と捉えることができる。透視投影変換に必要な、θa、h、f及びHaを、総称して、透視投影用設定情報と呼ぶ。透視投影用設定情報は、例えば、設計段階において事前に設定され、予め画像処理装置2に与えられる。
図9に示す例では、式(6)に基づき、初期パラメータとして、下記式(7)のホモグラフィ行列Hを求める。透視投影変換を行うための式(6)からホモグラフィ行列Hを求める手法は公知である。例えば、第1実施例で説明したように、撮影画像と鳥瞰図画像との間における4点の座標値対応関係に基づきホモグラフィ行列Hを求めればよい。4点の座標値対応関係は、式(6)から得ることができる。
ステップS11における初期パラメータの算出は、例えば、車両100へのカメラ1の取り付け状態に応じて透視投影用設定情報(特に、θa及びh)を設定した後、図2の画像処理装置2内にて行われる。しかし、θa及びhを特定するカメラ1の設置条件が定められており且つ該設置条件に従ってカメラ1が取り付けられることが決まっているのであれば、画像処理装置2の設計段階において、該設置条件を含む透視投影用設定情報に基づき初期パラメータを予め算出しておくようにしても良い。これは、車両製造時にカメラを備え付ける場合などに有効である。
ステップS11の後、ステップS12において、校正パターンA1〜A3を上述の如く撮影領域内に配置した状態でカメラ1に撮影を行わせて校正用撮影画像を得る。第1実施例と同様、ステップS11で求めたホモグラフィ行列Hを用いて該校正用撮影画像を座標変換することによって得られる画像を、校正用変換画像と呼ぶ。校正用撮影画像及び校正用変換画像をそれぞれ原画像及び変換画像として捉え、第1実施例と同様、原画像上における各点の座標を(x,y)にて表し、変換画像における各点の座標を(X,Y)にて表すと、上記式(1)並びに式(2a)及び(2b)が成立する。
ステップS11及びS12にて、初期パラメータを求め、校正用撮影画像を取得した後の処理は、第2実施例におけるそれと同様である。つまり、ステップS12の後、ステップS3に移行して上記誤差評価値Dを算出し、ステップS3〜S5から成る繰り返し演算を実行して誤差評価値Dが所定の閾値以下となるようにホモグラフィ行列Hの最適化を行う。更にその後、ステップS6にて、傾き補正用の回転行列Rを求める。ステップS6の処理を終えると、図9の変換パラメータ校正処理を終了する。第3実施例では、ステップS3〜S5の調整によって得られた最新のホモグラフィ行列Hと、上記回転行列Rとが、校正済み変換パラメータとして取り扱われる。
実際には、例えば、最新のホモグラフィ行列Hと上記回転行列Rに従って、原画像上の各座標(x,y)と回転補正後の画像上の各座標(X’,Y’)との対応関係を示すテーブルデータを作成し、これを図示されないメモリ(ルックアップテーブル)に格納しておく。このテーブルデータを用いれば、撮影画像を鳥瞰図画像に変換することができ、この鳥瞰図画像において各校正パターンは略正方形となると共にカメラ1の設置誤差等に由来する画像の傾きが補正される。この場合、上記テーブルデータを校正済み変換パラメータと捉えることもできる。
図9の変換パラメータ校正処理後、図2の画像処理装置2は、カメラ1にて次々と得られる撮影画像を、ホモグラフィ行列Hと回転行列Rに基づく校正済み変換パラメータを用いて次々と鳥瞰図画像に変換する。この際、各撮影画像を原画像として取り扱うと共に、各鳥瞰図画像を回転補正後の画像として取り扱う。このため、撮影画像上の各点の座標は(x、y)にて表され、鳥瞰図画像上の各点の座標は(X’,Y’)にて表される。画像処理装置2は、各鳥瞰図画像を表す映像信号を表示装置3に供給する。表示装置3は、各鳥瞰図画像を動画像として表示する。
撮影画像を鳥瞰図画像に変換するための変換パラメータを透視投影変換によって求めた場合、その変換パラメータはカメラ1の設置誤差の影響を受け、通常、鳥瞰図画像上において正方形に見えるべき校正パターンが正方形に見えなくなる。そこで、上述の如く、透視投影変換によって求めた変換パラメータを変換パラメータの初期値(初期パラメータ)として取り扱い、形状既知の校正パターンを利用して変換パラメータを調整する。これにより、カメラ1の設置誤差を吸収可能となる。
また、第1又は第2実施例では、車両100にカメラ1を設置した後、必ず画像処理装置2内で初期パラメータを算出する必要があるが、第3実施例では、この初期パラメータを設計段階で求めておくことも可能である。初期パラメータを設計段階で求めておかなかったとしても、透視投影用設定情報を与えてやるだけで容易に初期パラメータを算出可能である。即ち、第3実施例では、画像処理装置2内での初期パラメータの算出処理を省略或いは簡略化することができる。
<<変形等>>
上述の実施形態の変形例または注釈事項として、以下に、注釈1〜注釈6を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
[注釈1]
各校正パターンの形状が正方形である場合を例示したが、各校正パターンの形状を任意の形状とすることが可能である。
[注釈2]
上述の各実施例では、校正用撮影画像に3つの校正パターンA1〜A3が含まれるようにし、3つの校正パターンの各特徴点に基づいて変換パラメータの調整を行うようにしているが、校正用撮影画像に含めるべき校正パターンの総数は2以上であればよい。第1又は第2実施例の如く変換パラメータの初期値(初期パラメータ)を平面射影変換にて求める場合、初期パラメータ算出用の校正パターン(例えば校正パターンA1)で変換パラメータの初期値を算出した後、調整用の校正パターン(例えば校正パターンA2)を用いてそれを調整するようにすれば、上述のような効果が得られるからである。尚、上述の第1又は第2実施例では、初期パラメータ算出用の校正パターンは、調整用の校正パターンとしての機能をも兼務する。
更に、第3実施例においては、透視投影変換によって初期パラメータが算出されるため、初期パラメータ算出用の校正パターンを省略することも可能である。つまり、校正用撮影画像に含めるべき校正パターンの総数を1とすることも可能である。校正パターンが1つであっても、カメラ1の設置誤差の吸収効果を得ることができるからである。この場合、この1つの校正パターンは、調整用の校正パターンとして機能する。
また、調整効果の低減が予想されるが、上記調整用の校正パターンの形状を三角形や線分とすることも可能である。即ち、調整用の校正パターンに含まれる特徴点の総数を3または2とすることも可能である。調整用の校正パターンの形状が線分であって特徴点が2つしか含まれていなかったとしても、その形状を既知としておけば(変換画像上における2つの特徴点の相対位置関係を既知としておけば)、変換画像上における調整用の校正パターンの実際の形状と理想的な形状との間の誤差に基づき、変換パラメータの初期値(初期パラメータ)をより良いものに調整することが可能である。
[注釈3]
上述の鳥瞰図画像は、カメラ1の撮影画像を地面上に投影した画像に相当する。つまり、上述の実施形態では、カメラ1の撮影画像を地面上に投影することにより鳥瞰図画像を生成するようにしているが、撮影画像が投影されるべき面を、地面以外の任意の所定面(例えば所定平面)とすることも可能である。
[注釈4]
車載カメラとしてのカメラ1を用いた視界支援システムを例に挙げて本発明の実施形態を説明したが、画像処理装置2に接続されるべきカメラを車両以外に設置することも可能である。つまり、本発明は、建物などに設置される監視システムに対しても、適用可能である。この種の監視システムにおいても、上述の実施形態と同様、撮影画像が所定面上に投影され、投影によって得られた画像が表示装置に表示される。
[注釈5]
図2の画像処理装置2の機能は、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアの組み合わせによって実現可能である。画像処理装置2にて実現される機能の全部または一部を、プログラムとして記述し、該プログラムをコンピュータ上で実行することによって、その機能の全部または一部を実現するようにしてもよい。
[注釈6]
校正処理時において変換パラメータの調整を行って校正済み変換パラメータを導出するパラメータ導出手段は、画像処理装置2に内在しており、このパラメータ導出手段を備えてカメラの校正処理を行うカメラ校正装置も、画像処理装置2に内在している。パラメータ導出手段は、初期パラメータを導出する初期パラメータ導出手段と、変換パラメータの調整を実施するパラメータ調整手段と、を含む。校正処理後、画像処理装置2は、撮影画像を所定面上に投影することによって投影画像(上述の実施形態においては、鳥瞰図画像)を生成する投影手段として機能する。
本発明の実施形態に係り、カメラが設置された車両を上方から見た図である。 本発明の実施形態に係る視界支援システムの構成ブロック図である。 本発明の第1実施例に係る変換パラメータ校正処理の手順を表すフローチャートである。 図3の変換パラメータ校正処理に従って校正が進行する様子を示す図である。 本発明の第1実施例に係り、変換画像上における実際の校正パターンの形状と変換画像上における理想的な校正パターンの形状との誤差を表す図である。 本発明の第2実施例に係る変換パラメータ校正処理の手順を表すフローチャートである。 図1の車両に対するカメラの設置誤差(回転成分)を表す図である。 本発明の第2実施例に係る回転補正を説明するための図である。 本発明の第3実施例に係る変換パラメータ校正処理の手順を表すフローチャートである。 図1の車両を横から見た図であり、その車両に対するカメラの取り付け状態を表す図である。 校正パターンが描かれた校正プレートを上方から見た図である。 従来の平面射影変換による校正手法の問題点を説明するための図である。 従来の平面射影変換による校正手法の問題点を説明するための図である。
符号の説明
1 カメラ
2 画像処理装置
3 表示装置
100 車両
101 バンパ
A1、A2、A3 校正パターン

Claims (7)

  1. カメラの撮影画像を所定面上に投影するためのパラメータを求めるパラメータ導出手段を備えたカメラ校正装置において、
    前記パラメータ導出手段は、前記カメラからの校正用撮影画像に基づいて前記パラメータを求め、
    前記校正用撮影画像は、前記カメラの撮影領域内の互いに異なる位置に配置された、形状が既知の複数の校正パターンを含む
    ことを特徴とするカメラ校正装置。
  2. 前記複数の校正パターンは、第1校正パターンと第2校正パターンを含み、
    前記パラメータ導出手段は、
    前記校正用撮影画像上の前記第1校正パターンの座標情報と前記第1校正パターンの形状に関する第1既知情報に基づいて初期パラメータを求めた後、
    前記初期パラメータを用いて前記校正用撮影画像上の前記第2校正パターンを座標変換し、この座標変換後の前記第2校正パターンの形状と該形状に関する第2既知情報とに基づいて前記初期パラメータを調整し、この調整を経て最終的に前記パラメータを求める
    ことを特徴とする請求項1に記載のカメラ校正装置。
  3. 前記第1校正パターンは、少なくとも4点の特徴点を含み、
    前記第1既知情報は、前記4点の特徴点間の相対位置関係を特定する
    ことを特徴とする請求項2に記載のカメラ校正装置。
  4. カメラの撮影画像を所定面上に投影するためのパラメータを求めるパラメータ導出手段を備えたカメラ校正装置において、
    前記パラメータ導出手段は、前記カメラからの校正用撮影画像に基づいて前記パラメータを求め、
    前記校正用撮影画像は、前記カメラの撮影領域内に配置された形状が既知の校正パターンを含み、
    前記パラメータ導出手段は、予め設定された情報に基づく初期パラメータを用いて前記校正用撮影画像上の前記校正パターンを座標変換し、この座標変換後の前記校正パターンの形状と該形状に関する既知情報とに基づいて前記初期パラメータを調整し、この調整を経て最終的に前記パラメータを求める
    ことを特徴とするカメラ校正装置。
  5. カメラ及び画像処理装置が設置された車両において、
    前記画像処理装置は、請求項1〜請求項4の何れかに記載のカメラ校正装置を含む
    ことを特徴とする車両。
  6. カメラの撮影画像を所定面上に投影するためのパラメータを求めるカメラ校正方法において、
    前記カメラからの校正用撮影画像に基づいて前記パラメータを求めるパラメータ導出ステップを有し、
    前記校正用撮影画像に、前記カメラの撮影領域内の互いに異なる位置に配置された、形状が既知の複数の校正パターンを含める
    ことを特徴とするカメラ校正方法。
  7. カメラの撮影画像を所定面上に投影するためのパラメータを求めるカメラ校正方法において、
    前記カメラからの校正用撮影画像に基づいて前記パラメータを求めるパラメータ導出ステップを有し、
    前記校正用撮影画像に、前記カメラの撮影領域内に配置された形状が既知の校正パターンを含め、
    前記パラメータ導出ステップは、予め設定された情報に基づく初期パラメータを用いて前記校正用撮影画像上の前記校正パターンを座標変換し、この座標変換後の前記校正パターンの形状と該形状に関する既知情報とに基づいて前記初期パラメータを調整するパラメータ調整ステップを備え、この調整を経て最終的に前記パラメータを求める
    ことを特徴とするカメラ校正方法。
JP2007022630A 2007-02-01 2007-02-01 カメラ校正装置及び方法並びに車両 Expired - Fee Related JP5124147B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007022630A JP5124147B2 (ja) 2007-02-01 2007-02-01 カメラ校正装置及び方法並びに車両
EP08001829A EP1954063A3 (en) 2007-02-01 2008-01-31 Apparatus and method for camera calibration, and vehicle
US12/024,716 US20080186384A1 (en) 2007-02-01 2008-02-01 Apparatus and method for camera calibration, and vehicle
CN2008100086401A CN101236655B (zh) 2007-02-01 2008-02-01 摄像机校正装置以及方法和车辆

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007022630A JP5124147B2 (ja) 2007-02-01 2007-02-01 カメラ校正装置及び方法並びに車両

Publications (2)

Publication Number Publication Date
JP2008193188A true JP2008193188A (ja) 2008-08-21
JP5124147B2 JP5124147B2 (ja) 2013-01-23

Family

ID=39345611

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007022630A Expired - Fee Related JP5124147B2 (ja) 2007-02-01 2007-02-01 カメラ校正装置及び方法並びに車両

Country Status (4)

Country Link
US (1) US20080186384A1 (ja)
EP (1) EP1954063A3 (ja)
JP (1) JP5124147B2 (ja)
CN (1) CN101236655B (ja)

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008250487A (ja) * 2007-03-29 2008-10-16 Kyushu Institute Of Technology エッジ検出によるモデルマッチングを用いたカメラ校正方法
JP2010087743A (ja) * 2008-09-30 2010-04-15 Aisin Seiki Co Ltd 車載カメラの校正装置
JP2010085186A (ja) * 2008-09-30 2010-04-15 Aisin Seiki Co Ltd 車載カメラの校正装置
JP2010258897A (ja) * 2009-04-27 2010-11-11 Fujitsu Ltd 判定プログラムおよびキャリブレーション装置
JP2011087308A (ja) * 2010-11-25 2011-04-28 Aisin Seiki Co Ltd 車載カメラの校正装置、方法、及びプログラム
JP2011226931A (ja) * 2010-04-20 2011-11-10 Fujitsu Ten Ltd キャリブレーション方法
JP2011248630A (ja) * 2010-05-27 2011-12-08 Victor Co Of Japan Ltd 視点変換装置及び視点変換方法
JP2012239157A (ja) * 2011-05-10 2012-12-06 Harman Becker Automotive Systems Gmbh 外因パラメータのみのサラウンドビューカメラ自動較正
JP2013002820A (ja) * 2011-06-11 2013-01-07 Suzuki Motor Corp カメラキャリブレーション装置
CN103185543A (zh) * 2011-12-31 2013-07-03 上海汽车集团股份有限公司 车载摄像头标定方法及系统
JP2013239905A (ja) * 2012-05-15 2013-11-28 Clarion Co Ltd 車載カメラのキャリブレーション装置
KR101373604B1 (ko) 2013-02-15 2014-03-12 전자부품연구원 다중 교정 기법을 이용한 카메라 교정 방법 및 이를 적용한 영상 시스템
JP2014511608A (ja) * 2011-02-25 2014-05-15 フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ 対象物のモデル変換に基づくモデルパラメータの決定
JP2014183540A (ja) * 2013-03-21 2014-09-29 Clarion Co Ltd カメラ画像のキャリブレーション方法およびキャリブレーション装置
US8908037B2 (en) 2009-03-31 2014-12-09 Aisin Seiki Kabushiki Kaisha Calibration device, method, and program for on-board camera
JP2015510112A (ja) * 2012-01-13 2015-04-02 クアルコム,インコーポレイテッド 仮想定規
JP2016030554A (ja) * 2014-07-30 2016-03-07 株式会社デンソー 車載カメラの取り付け姿勢検出方法およびその装置
JP6391033B1 (ja) * 2018-01-15 2018-09-19 株式会社ドリコム 画像処理装置、画像処理方法、ならびに、プログラム
CN111552289A (zh) * 2020-04-28 2020-08-18 苏州高之仙自动化科技有限公司 检测方法及虚拟雷达装置、电子设备、存储介质
JP2020525894A (ja) * 2017-07-05 2020-08-27 エーアイモーティブ ケーエフティー. カメラ較正のための方法、システムおよびコンピュータ可読媒体
JP2021513247A (ja) * 2018-06-05 2021-05-20 上▲海▼商▲湯▼智能科技有限公司Shanghai Sensetime Intelligent Technology Co., Ltd. 車載カメラ自己校正方法、車載カメラ自己校正装置、電子機器および記憶媒体
JP2021169983A (ja) * 2020-04-16 2021-10-28 大成建設株式会社 層間変位計測システム

Families Citing this family (56)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2447672B (en) 2007-03-21 2011-12-14 Ford Global Tech Llc Vehicle manoeuvring aids
JP2009010730A (ja) * 2007-06-28 2009-01-15 Kyocera Corp 画像処理方法と該画像処理方法を用いた撮像装置
JP2009060404A (ja) * 2007-08-31 2009-03-19 Denso Corp 映像処理装置
SG158756A1 (en) * 2008-07-10 2010-02-26 Visionxtreme Pte Ltd Hole inspection method and apparatus
EP2166510B1 (de) * 2008-09-18 2018-03-28 Delphi Technologies, Inc. Verfahren zum Ermitteln der Position und der Orientierung einer in einem Fahrzeug angeordneten Kamera
JP4751939B2 (ja) * 2009-03-31 2011-08-17 アイシン精機株式会社 車載カメラの校正装置
EP2249580B1 (de) * 2009-05-05 2019-09-04 Kapsch TrafficCom AG Verfahren zur kalibrierung des bildes einer kamera
CN102087789B (zh) * 2009-12-02 2013-09-11 上海济祥智能交通科技有限公司 基于交通状态参数的交通状态判别系统和方法
JP5491235B2 (ja) * 2010-03-02 2014-05-14 東芝アルパイン・オートモティブテクノロジー株式会社 カメラキャリブレーション装置
CN102045546B (zh) * 2010-12-15 2013-07-31 广州致远电子股份有限公司 一种全景泊车辅助系统
TWI415031B (zh) * 2011-03-25 2013-11-11 Himax Imaging Inc 影像校正方法
US9500497B2 (en) 2011-04-19 2016-11-22 Ford Global Technologies, Llc System and method of inputting an intended backing path
US9683848B2 (en) 2011-04-19 2017-06-20 Ford Global Technologies, Llc System for determining hitch angle
US9854209B2 (en) 2011-04-19 2017-12-26 Ford Global Technologies, Llc Display system utilizing vehicle and trailer dynamics
US9374562B2 (en) 2011-04-19 2016-06-21 Ford Global Technologies, Llc System and method for calculating a horizontal camera to target distance
US9969428B2 (en) 2011-04-19 2018-05-15 Ford Global Technologies, Llc Trailer backup assist system with waypoint selection
US9926008B2 (en) 2011-04-19 2018-03-27 Ford Global Technologies, Llc Trailer backup assist system with waypoint selection
US9506774B2 (en) 2011-04-19 2016-11-29 Ford Global Technologies, Llc Method of inputting a path for a vehicle and trailer
US9555832B2 (en) 2011-04-19 2017-01-31 Ford Global Technologies, Llc Display system utilizing vehicle and trailer dynamics
US9723274B2 (en) 2011-04-19 2017-08-01 Ford Global Technologies, Llc System and method for adjusting an image capture setting
TWI437393B (zh) * 2011-05-06 2014-05-11 Fu Lai Yao A method and apparatus for correcting the coordinate position of a complex image sensor
TWI500318B (zh) * 2012-08-21 2015-09-11 Tung Thin Electronic Co Ltd 校正汽車攝影裝置之方法
JP5820787B2 (ja) * 2012-08-30 2015-11-24 株式会社デンソー 画像処理装置、及びプログラム
DE102012218123B4 (de) * 2012-10-04 2014-09-18 Robert Bosch Gmbh Verfahren und Vorrichtung zum Kalibrieren zumindest eines optischen Sensors eines Fahrzeugs
KR102001659B1 (ko) * 2012-11-19 2019-07-19 한국전자통신연구원 차량용 카메라 캘리브레이션 장치 및 방법
TWI517670B (zh) 2012-12-28 2016-01-11 財團法人工業技術研究院 車用鏡頭之自動化校正與應用其之影像轉換方法與裝置
US9511799B2 (en) 2013-02-04 2016-12-06 Ford Global Technologies, Llc Object avoidance for a trailer backup assist system
US9592851B2 (en) 2013-02-04 2017-03-14 Ford Global Technologies, Llc Control modes for a trailer backup assist system
DE102013002375A1 (de) * 2013-02-09 2014-08-14 GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) Verfahren zur Kalibrierung einer Kamera eines Kraftfahrzeugs
JP6277652B2 (ja) * 2013-09-30 2018-02-14 株式会社デンソー 車両周辺画像表示装置及びカメラの調整方法
DE102013021616A1 (de) * 2013-12-19 2015-06-25 Audi Ag Kraftfahrzeug und Verfahren zur Überprüfung einer Kalibrierung einer Kamera
WO2015104915A1 (ja) * 2014-01-10 2015-07-16 日立オートモティブシステムズ株式会社 車載カメラ画像処理装置
KR102227850B1 (ko) * 2014-10-29 2021-03-15 현대모비스 주식회사 차량용 후방 카메라의 영상 보정 방법
US9533683B2 (en) 2014-12-05 2017-01-03 Ford Global Technologies, Llc Sensor failure mitigation system and mode management
US9522677B2 (en) 2014-12-05 2016-12-20 Ford Global Technologies, Llc Mitigation of input device failure and mode management
US9607242B2 (en) 2015-01-16 2017-03-28 Ford Global Technologies, Llc Target monitoring system with lens cleaning device
KR101666959B1 (ko) * 2015-03-25 2016-10-18 ㈜베이다스 카메라로부터 획득한 영상에 대한 자동보정기능을 구비한 영상처리장치 및 그 방법
WO2016191181A1 (en) * 2015-05-26 2016-12-01 Crown Equipment Corporation Systems and methods for image capture device calibration for a materials handling vehicle
EP3125196B1 (en) 2015-07-29 2018-02-21 Continental Automotive GmbH Drive-by calibration from static targets
US9896130B2 (en) 2015-09-11 2018-02-20 Ford Global Technologies, Llc Guidance system for a vehicle reversing a trailer along an intended backing path
US9836060B2 (en) 2015-10-28 2017-12-05 Ford Global Technologies, Llc Trailer backup assist system with target management
US10112646B2 (en) 2016-05-05 2018-10-30 Ford Global Technologies, Llc Turn recovery human machine interface for trailer backup assist
CN106097357B (zh) * 2016-06-17 2019-04-16 深圳市灵动飞扬科技有限公司 汽车全景摄像头的校正方法
US11308662B2 (en) 2016-08-02 2022-04-19 Shanghai United Imaging Healthcare Co., Ltd. System and method for image reconstruction
JP6766715B2 (ja) * 2017-03-22 2020-10-14 トヨタ自動車株式会社 車両用表示制御装置
CN109558033A (zh) * 2017-09-27 2019-04-02 上海易视计算机科技有限公司 交互投影装置及其定位方法
TWI675593B (zh) 2018-03-14 2019-10-21 啟碁科技股份有限公司 影像校正方法與影像校正裝置
CN109327668A (zh) * 2018-10-29 2019-02-12 维沃移动通信有限公司 一种视频处理方法和装置
CN109703465B (zh) * 2018-12-28 2021-03-12 百度在线网络技术(北京)有限公司 车载图像传感器的控制方法和装置
CN110111393B (zh) * 2019-03-31 2023-10-03 惠州市德赛西威汽车电子股份有限公司 一种汽车全景标定方法、装置及系统
CA3076342A1 (en) * 2019-04-24 2020-10-24 The Boeing Company Aligning sensors on vehicles using sensor output
US11639234B2 (en) 2019-04-24 2023-05-02 The Boeing Company Method, system and apparatus for aligning a removable sensor on a vehicle
CN111935465B (zh) * 2019-05-13 2022-06-17 中强光电股份有限公司 投影系统、投影装置以及其显示影像的校正方法
US11629835B2 (en) * 2019-07-31 2023-04-18 Toyota Jidosha Kabushiki Kaisha Auto-calibration of vehicle sensors
KR102277828B1 (ko) * 2019-08-13 2021-07-16 (주)베이다스 복수의 카메라들을 캘리브레이션하는 방법 및 장치
DE102022106205A1 (de) 2022-03-16 2023-09-21 Bayerische Motoren Werke Aktiengesellschaft Projektionssystem für einen Prüfstand für Fahrassistenzsysteme eines Kraftfahrzeugs

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08171627A (ja) * 1994-12-19 1996-07-02 Mazda Motor Corp キャリブレーションパターンの重心検出方法
JP2000350239A (ja) * 1999-06-08 2000-12-15 Sony Corp カメラ・キャリブレーション装置及び方法、画像処理装置及び方法、プログラム提供媒体、並びに、カメラ
JP2004132870A (ja) * 2002-10-11 2004-04-30 Keiji Saneyoshi ステレオカメラの調整装置およびステレオカメラの調整方法
JP2005017286A (ja) * 2003-06-06 2005-01-20 Mitsubishi Electric Corp カメラキャリブレーション方法およびカメラキャリブレーション装置
JP2006148745A (ja) * 2004-11-24 2006-06-08 Aisin Seiki Co Ltd カメラの校正方法及びカメラの校正装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6437823B1 (en) * 1999-04-30 2002-08-20 Microsoft Corporation Method and system for calibrating digital cameras
JP3565749B2 (ja) * 1999-09-22 2004-09-15 富士重工業株式会社 車載カメラの撮像方向の検査方法およびその検査装置
US6816817B1 (en) * 2000-09-28 2004-11-09 Rockwell Automation Technologies, Inc. Networked control system with real time monitoring
JP4147059B2 (ja) * 2002-07-03 2008-09-10 株式会社トプコン キャリブレーション用データ測定装置、測定方法及び測定プログラム、並びにコンピュータ読取可能な記録媒体、画像データ処理装置
JP2004342067A (ja) 2003-04-22 2004-12-02 3D Media Co Ltd 画像処理方法、画像処理装置、及びコンピュータプログラム
JP4596978B2 (ja) 2005-03-09 2010-12-15 三洋電機株式会社 運転支援システム
CN100461855C (zh) * 2005-04-25 2009-02-11 中国科学院自动化研究所 一种广角镜头下的视频实时校正方法
JP2008187566A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08171627A (ja) * 1994-12-19 1996-07-02 Mazda Motor Corp キャリブレーションパターンの重心検出方法
JP2000350239A (ja) * 1999-06-08 2000-12-15 Sony Corp カメラ・キャリブレーション装置及び方法、画像処理装置及び方法、プログラム提供媒体、並びに、カメラ
JP2004132870A (ja) * 2002-10-11 2004-04-30 Keiji Saneyoshi ステレオカメラの調整装置およびステレオカメラの調整方法
JP2005017286A (ja) * 2003-06-06 2005-01-20 Mitsubishi Electric Corp カメラキャリブレーション方法およびカメラキャリブレーション装置
JP2006148745A (ja) * 2004-11-24 2006-06-08 Aisin Seiki Co Ltd カメラの校正方法及びカメラの校正装置

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008250487A (ja) * 2007-03-29 2008-10-16 Kyushu Institute Of Technology エッジ検出によるモデルマッチングを用いたカメラ校正方法
JP2010087743A (ja) * 2008-09-30 2010-04-15 Aisin Seiki Co Ltd 車載カメラの校正装置
JP2010085186A (ja) * 2008-09-30 2010-04-15 Aisin Seiki Co Ltd 車載カメラの校正装置
US8908037B2 (en) 2009-03-31 2014-12-09 Aisin Seiki Kabushiki Kaisha Calibration device, method, and program for on-board camera
JP2010258897A (ja) * 2009-04-27 2010-11-11 Fujitsu Ltd 判定プログラムおよびキャリブレーション装置
JP2011226931A (ja) * 2010-04-20 2011-11-10 Fujitsu Ten Ltd キャリブレーション方法
JP2011248630A (ja) * 2010-05-27 2011-12-08 Victor Co Of Japan Ltd 視点変換装置及び視点変換方法
JP2011087308A (ja) * 2010-11-25 2011-04-28 Aisin Seiki Co Ltd 車載カメラの校正装置、方法、及びプログラム
JP2014511608A (ja) * 2011-02-25 2014-05-15 フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ 対象物のモデル変換に基づくモデルパラメータの決定
JP2012239157A (ja) * 2011-05-10 2012-12-06 Harman Becker Automotive Systems Gmbh 外因パラメータのみのサラウンドビューカメラ自動較正
JP2013002820A (ja) * 2011-06-11 2013-01-07 Suzuki Motor Corp カメラキャリブレーション装置
CN103185543A (zh) * 2011-12-31 2013-07-03 上海汽车集团股份有限公司 车载摄像头标定方法及系统
JP2015510112A (ja) * 2012-01-13 2015-04-02 クアルコム,インコーポレイテッド 仮想定規
JP2013239905A (ja) * 2012-05-15 2013-11-28 Clarion Co Ltd 車載カメラのキャリブレーション装置
KR101373604B1 (ko) 2013-02-15 2014-03-12 전자부품연구원 다중 교정 기법을 이용한 카메라 교정 방법 및 이를 적용한 영상 시스템
JP2014183540A (ja) * 2013-03-21 2014-09-29 Clarion Co Ltd カメラ画像のキャリブレーション方法およびキャリブレーション装置
JP2016030554A (ja) * 2014-07-30 2016-03-07 株式会社デンソー 車載カメラの取り付け姿勢検出方法およびその装置
JP2020525894A (ja) * 2017-07-05 2020-08-27 エーアイモーティブ ケーエフティー. カメラ較正のための方法、システムおよびコンピュータ可読媒体
JP7253745B2 (ja) 2017-07-05 2023-04-07 エーアイモーティブ ケーエフティー. カメラ較正のための方法、システムおよびコンピュータ可読媒体
JP6391033B1 (ja) * 2018-01-15 2018-09-19 株式会社ドリコム 画像処理装置、画像処理方法、ならびに、プログラム
JP2019125076A (ja) * 2018-01-15 2019-07-25 株式会社ドリコム 画像処理装置、画像処理方法、ならびに、プログラム
JP2021513247A (ja) * 2018-06-05 2021-05-20 上▲海▼商▲湯▼智能科技有限公司Shanghai Sensetime Intelligent Technology Co., Ltd. 車載カメラ自己校正方法、車載カメラ自己校正装置、電子機器および記憶媒体
JP7082671B2 (ja) 2018-06-05 2022-06-08 上▲海▼商▲湯▼智能科技有限公司 車載カメラ自己校正方法、車載カメラ自己校正装置、電子機器および記憶媒体
JP2021169983A (ja) * 2020-04-16 2021-10-28 大成建設株式会社 層間変位計測システム
CN111552289A (zh) * 2020-04-28 2020-08-18 苏州高之仙自动化科技有限公司 检测方法及虚拟雷达装置、电子设备、存储介质

Also Published As

Publication number Publication date
JP5124147B2 (ja) 2013-01-23
CN101236655A (zh) 2008-08-06
US20080186384A1 (en) 2008-08-07
CN101236655B (zh) 2012-05-30
EP1954063A2 (en) 2008-08-06
EP1954063A3 (en) 2011-03-02

Similar Documents

Publication Publication Date Title
JP5124147B2 (ja) カメラ校正装置及び方法並びに車両
JP2008187564A (ja) カメラ校正装置及び方法並びに車両
JP6458439B2 (ja) 車載カメラ較正装置、画像生成装置、車載カメラ較正方法、画像生成方法
JP4555876B2 (ja) 車載カメラのキャリブレーション方法
JP2008187566A (ja) カメラ校正装置及び方法並びに車両
US20090322878A1 (en) Image Processor, Image Processing Method, And Vehicle Including Image Processor
KR101892595B1 (ko) 서라운드뷰 시스템 카메라 자동 보정 전용 외부 변수
JP5455124B2 (ja) カメラ姿勢パラメータ推定装置
JP5316805B2 (ja) 車載カメラ装置の画像調整装置及び車載カメラ装置
WO2010109730A1 (ja) カメラ校正装置
JP6277652B2 (ja) 車両周辺画像表示装置及びカメラの調整方法
JP2009100342A (ja) カメラ校正装置及び方法、並びに、車両
WO2009116328A1 (ja) 画像処理装置及び方法、運転支援システム、車両
CN111559314B (zh) 深度与图像信息融合的3d增强全景环视系统及实现方法
KR101583663B1 (ko) 차량용 카메라의 교정판 제공 방법
JP6614754B2 (ja) 車両上に配置された全方向カメラからの全方向画像をレクティリニア画像に変換する方法
US20090303024A1 (en) Image Processing Apparatus, Driving Support System, And Image Processing Method
JP6177006B2 (ja) カメラ較正装置、およびカメラ較正方法
CN113658262B (zh) 相机外参标定方法、装置、系统及存储介质
KR102124298B1 (ko) 후방 교차 교통-퀵 룩스
JP2016149613A (ja) カメラパラメータ調整装置
JP4720446B2 (ja) 車両検出装置及びこれを用いた車両用表示装置
JP2013024712A (ja) 複数カメラの校正方法及び校正システム
JP2007158695A (ja) 車載画像処理装置
JP2020053898A (ja) 較正装置、較正システム、カメラ、移動体および較正値調整方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111007

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111018

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20120413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120807

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120822

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121002

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121029

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151102

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5124147

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151102

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D03

LAPS Cancellation because of no payment of annual fees