JP4843190B2 - 画像センサシステムのキャリブレーション方法および装置 - Google Patents

画像センサシステムのキャリブレーション方法および装置 Download PDF

Info

Publication number
JP4843190B2
JP4843190B2 JP2003344306A JP2003344306A JP4843190B2 JP 4843190 B2 JP4843190 B2 JP 4843190B2 JP 2003344306 A JP2003344306 A JP 2003344306A JP 2003344306 A JP2003344306 A JP 2003344306A JP 4843190 B2 JP4843190 B2 JP 4843190B2
Authority
JP
Japan
Prior art keywords
image sensor
sensor system
vehicle
image
calibration object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003344306A
Other languages
English (en)
Other versions
JP2004125795A (ja
Inventor
ウッフェンカンプ フォルカー
アブラハム シュテフェン
シュマック アンドレアス
アラー エル−ディン オマール
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of JP2004125795A publication Critical patent/JP2004125795A/ja
Application granted granted Critical
Publication of JP4843190B2 publication Critical patent/JP4843190B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01DMEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
    • G01D18/00Testing or calibrating apparatus or arrangements provided for in groups G01D1/00 - G01D15/00
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration

Description

本発明は、車両に接してまたは車両内に配置された少なくとも1つの画像センサシステムをキャリブレーションオブジェクトを用いてキャリブレーションする画像センサシステムのキャリブレーション方法および装置に関する。
こんにちの車両では車両の周囲環境を把握するために画像センサシステムを利用することが考慮されている。特に走行補助システムに画像センサシステムを用いることが計画されている。例えば画像センサシステムを先行車両との車間距離の自動制御システムに用いることができる。
画像の検出領域を拡大するために、少なくとも部分的に検出領域のオーバラップする複数の画像センサシステムを車両内に配置することが考えられている。特にほぼ同じシーンを撮影する2つの画像センサシステムから成るステレオカメラを使用すると有利である。
車両内の画像センサシステムをキャリブレーションオブジェクトを用いてキャリブレーションする方法および装置が既に知られている。
2002年6月29日付提出の独国特許出願第10229336.8号明細書(未公開)から車両内の画像センサシステムをキャリブレーションオブジェクトおよび位置センサを用いてキャリブレーションする方法および装置が知られる。
欧州特許出願公開第1120746号明細書には車両内の画像センサシステムをキャリブレーションオブジェクトを用いてキャリブレーションする方法および装置が記載されている。ここではキャリブレーションオブジェクトは車両に接続されており、車両に対する機械的なシフト装置によって配向される。長手軸線は車両(特にそのボディ)のシンメトリ特徴によって構成される。製造誤差のためにこの長手軸線はジオメトリ走行軸線には一致せず、これは後部軸線のトラック角の1/2で規定される。長手軸線とジオメトリ走行軸線とのあいだの差は測定を行う画像センサシステムにとって、これが走行補助システムで使用される場合は特に、無視できるものではない。なぜならジオメトリ走行軸線は直進走行の際の方向として長手軸線から独立に定められるからである。
ジオメトリ走行軸線に対する画像センサシステムの配向状態を求めることのヒントは欧州特許出願公開第1120746号明細書には記載されていない。
独国特許出願第10229336.8号明細書(未公開) 欧州特許出願公開第1120746号明細書
本発明の課題は、製造誤差を考慮したうえで正確かつ簡単に画像センサシステムの配向状態を求められる方法を提供することである。
この課題は、車両がキャリブレーションオブジェクトに対して第1の位置を取っているとき、画像センサシステムによりキャリブレーションオブジェクトの第1の画像情報を有利には少なくとも1つの画像データセットのかたちで形成し、車両がキャリブレーションオブジェクトに対して第2の位置を取っているとき、画像センサシステムによりキャリブレーションオブジェクトの第2の画像情報を有利には少なくとも1つの画像データセットのかたちで形成し、キャリブレーションオブジェクトに対して車両が第1の位置から第2の位置へ移動したことによる位置変化量を求め、少なくとも第1の画像情報および第2の画像情報から車両のジオメトリ走行軸線に対する画像センサシステムの配向状態を求めることにより解決される。
車両のジオメトリ走行軸線に対する画像センサシステムの配向状態を求めることにより、有利には画像センサシステムの測定精度が著しく高まる。画像センサシステムが特に走行補助システムで使用される場合、ジオメトリ走行軸線と長手軸線とのあいだに測定される偏差は測定誤差を引き起こすおそれがあり、無視できない。
特に有利には、以下に説明する方法および装置により、車両のジオメトリ走行軸線に対する少なくとも1つの画像センサシステムの配向状態を少なくとも1つのキャリブレーションオブジェクトの少なくとも2つの画像情報から直接に求めることができる。ここで車両はキャリブレーションオブジェクトに対して少なくとも2つの位置を取る。有利には車両のジオメトリ走行軸線に対する少なくとも1つの画像センサシステムの配向状態を求める画像情報があれば充分である。
有利には、少なくとも2つの画像情報に含まれる車両のジオメトリ走行軸線に関する情報が使用される。これにより以下に説明する方法および装置を用いて、少なくとも1つの画像センサシステムのキャリブレーションを別のセンサから独立して行うことができる。なぜなら車両のジオメトリ走行軸線に対する少なくとも1つの画像センサシステムの配向状態を求めるのに必要な全ての情報は画像情報に含まれているからである。これにより装置の技術的コストが低減され、キャリブレーションにかかるコストが低減される。
有利には車両のジオメトリ走行軸線に対する画像センサシステムの配向状態を実際の走行条件のもとで求めることにより少なくとも1つの画像センサシステムのキャリブレーションを行う。これにより後に画像センサシステムの実際の使用状態に適したキャリブレーションを行うことができる。これにより有利にはキャリブレーションの精度、特にジオメトリ走行軸線に対するキャリブレーションの精度が高まる。
特に有利には、車両がキャリブレーションオブジェクトに対して第3の位置を取っているとき、画像センサシステムによりキャリブレーションオブジェクトの第3の画像情報が有利には少なくとも1つの画像データセットのかたちで形成され、キャリブレーションオブジェクトに対して車両が第3の位置へ移動した位置変化量が求められる。この画像情報の形成は、車両が停止している場合にも、一定の速度で運動している場合にも、一定の加速度または変則的な加速度で運動している場合にも行われる。有利には車両の運動座標および/または画像センサシステムの撮影方向の変化量から、測定中のステアリング運動が識別される。3つ以上の画像情報を評価することにより、有利には走行カーブの再構成や車両の運動の軌道が得られる。有利には行われたステアリング運動について画像情報の評価時に補正がなされたり、ステアリング運動が一定でないことから補正をせずに再度の測定が促されたりする。
ここで有利には、付加的に操舵角センサの情報および/または少なくとも1つの付加的なセンサの情報を用いて補正または再度の測定の要不要の判別に用いる。こうした付加的なセンサを使用すると、測定誤りが確実に識別されるので、画像センサシステムのキャリブレーションの統計的な精度が高まる。さらに有利には、測定された画像情報から走行路平面を再構成する。このための前提条件として、車両が走行路平面上の少なくとも1つの別の位置を取る。つまり少なくとも3つの異なる位置で画像情報を取得し、これを評価に使用するのである。3つの異なる位置の画像情報を用いる際には、第3の位置は他の2つの位置を結んだ直線上にあってはならない。
有利には、画像センサシステムは所定の位置でキャリブレーションオブジェクトの少なくとも2つの画像情報を有利には少なくとも1つの画像データセットのかたちで形成する。車両の画像センサシステムが所定の位置で1つ以上の画像を撮影すると、画像内で識別される基準指標またはそこから求められた画像センサシステムの撮影位置が求められるので、有利には精度が上昇する。
さらに有利には、走行路平面に対するキャリブレーションオブジェクトの位置が画像情報を評価する際に考慮される。特に画像センサシステムをビデオサポート型の走行補助システムの分野へ適用する場合、有利には、少なくとも1つの座標または基準指標に対する走行路平面の位置が既知となることにより、走行路平面が測定空間へ導入され、画像センサシステムがキャリブレーションされる。これにより有利にはジオメトリ走行軸線および撮影方向(特に画像センサシステムの光軸)の方向成分が相互に関連して定義される。これにより特に有利には別のデータ、特に画像センサシステムと走行路との距離(画像センサシステムの走行路に対する組み込み高さ、および/または傾角、および/または走行路平面に対するロール角、ピッチ角など)を求めることができる。
特に有利には、ジオメトリ走行軸線に沿った車両の運動が直進するようにステアリングの設定された車両によって検出される。後に説明する本発明の方法および装置のここでの実施形態では、2つの位置のみを用いて形成された画像情報を評価すれば充分である。これにより迅速かつ低コストに少なくとも1つの画像センサシステムのキャリブレーションを行うことができる。
有利にはキャリブレーションオブジェクトおよび/または走行路平面は水平化されている。走行路平面が地球重力場のポテンシャル平面に対して平行であれば(つまり水平化されていれば)、有利には、キャリブレーションオブジェクト、例えば基準指標を備えたキャリアユニットを測定空間内へ導入することができる。ここで法線に対する配向状態は例えば地球重力場に追従するキャリブレーションペンデュラムおよび/または水準器を用いて求められる。これらを用いることにより、有利にはキャリブレーションの精度が高まる。なぜなら走行路平面に対するキャリブレーションオブジェクトの配向状態が正確に得られるからである。これは特に走行路平面に対するキャリブレーションオブジェクトの位置が画像情報の評価の際に考慮される場合に有利である。
特に有利には、後に説明する本発明の方法および装置において、ほぼ同じシーンを撮影する少なくとも2つの画像センサシステムに対して、ジオメトリ走行軸線に対する画像センサシステムの配向状態が求められ、そこから画像センサシステム相互の配向状態が求められる。特に有利には、このとき少なくとも1つのステレオカメラシステムが車両のジオメトリ走行軸線に対してキャリブレーションされる。
有利にはキャリブレーションオブジェクトは基準指標を備えた自由な形状のキャリアユニットとして構成されている。基準指標はキャリアユニットの構造から定められるか、または特別に構成される。これにより確実に検出可能な基準指標を備えた簡単な構造が得られる。確実に基準指標を検出するために、有利には、基準指標がジオメトリ的に既知の形状を有していてもよいし、周囲に対して良好なコントラストを有していてもよいし、アクティブに発光してもよいし、および/または反射マークとして構成されていてもよい。
他の利点は以下に説明する図示の実施例およびそれぞれの従属請求項から得られる。
本発明を以下に図示の実施例に則して詳細に説明する。
図1にはジオメトリ走行軸線18、車両10の長手中央面20、および車両の長手軸線22の定義を説明するための図が示されている。図示されているのは前軸に取り付けられた駆動可能な2つの前輪12と後軸に取り付けられた駆動不能な2つの後輪14とを備えた車両10である。前軸および後軸はそれぞれ車輪軸である。ジオメトリ走行軸線18は後軸のトラック角の1/2の線として定義されており、ここでトラック角24とは2つの後輪14のトラック16の開きによって定められる角度である。ジオメトリ走行軸線18は走行路平面に平行である。走行路平面は図1では示されていない。これに対して車両の長手中央面20は走行路平面に垂直な平面にあり、前輪および後輪のトラック幅の中心を通っている。長手軸線22は車両10(特にボディ)のシンメトリ特徴によって構成される。長手軸線22は走行路平面に対して平行である。製造誤差のためにジオメトリ走行軸線18、車両の長手中央面20、および長手軸線22は一般には一致しない。ジオメトリ走行軸線18は車両10が直進するときの走行方向を定める。この直進時の走行方向は車両の長手軸線22およびドライブ機構に対するボディの配向状態からは独立している。
図2には少なくとも1つの画像センサシステム38をキャリブレーションする第1の実施例が示されている。画像センサシステムは車両10内に位置しており、ジオメトリ走行軸線に対する画像センサシステム38の配向状態が求められる。この実施例では画像センサシステム38が車両10内のキャノピーガラスの後方、バックミラーの近傍領域に設けられている。画像センサシステム38の検出領域48は車両10のフォワード走行方向へ配向されている。この画像センサシステム38はビデオセンサ、例えばCCDカメラまたはCMOSカメラとして構成されている。車両10は例えば車両製造工場または車両整備工場の走行路平面54上にある。評価ユニット50が画像センサシステム38の画像情報を評価する。図2には少なくとも3つのジオメトリ基準指標90を備えた測定空間が示されており、これがキャリブレーションオブジェクト36を形成している。基準指標90は反対側に位置する評価回路50にとって既知である。基準指標90は測定空間で固定されている。この実施例では測定空間はキャリブレーションオブジェクト36として基準指標90を備えた自由な形状のキャリアユニットを有している。基準指標90はこの実施例ではキャリアユニット36の構造から得られるが、このキャリアユニット36専用に設けられたものであってもよい。画像センサシステム38は少なくとも2つの任意の位置40、42から充分に大きな距離を置いてキャリブレーションオブジェクト36または測定空間の画像情報を少なくとも1つずつ、有利には少なくとも1つの画像データセットのかたちで撮影する。車両10の位置40、42は車両10が前進することにより自身の車輪に踏襲される。画像センサシステム38からキャリブレーションオブジェクト36までの距離は例えば1m〜20mの範囲であり、有利には2m〜5mが適切である。画像センサシステム38をキャリブレーションするために、形成された画像情報から、ジオメトリ走行軸線に対する画像センサシステム38の配向状態が求められる。
図3には少なくとも1つの画像センサシステム38をキャリブレーションする第2の実施例が示されている。画像センサシステムは車両10内に位置しており、ジオメトリ走行軸線に対する画像センサシステム38の配向状態が求められる。図2の実施例と同様に、この実施例においても、画像センサシステム38が車両10内のキャノピーガラスの後方、バックミラーの近傍領域に設けられている。画像センサシステム38の検出領域48は車両10のフォワード走行方向へ配向されている。この画像センサシステム38はビデオセンサ、例えばCCDカメラまたはCMOSカメラとして構成されている。車両10は例えば車両製造工場または車両整備工場の走行路平面54上にある。評価ユニット50が画像センサシステム38の画像情報を評価する。この実施例では走行路平面54は画像センサシステム38のキャリブレーションのための測定空間へ導入される。これは測定空間または基準指標空間内の少なくとも1つの基準指標90の少なくとも1つの成分に対して走行路平面54の位置を既知とすることによって行われる。これによりジオメトリ走行軸線および画像センサシステム38の撮影方向の方向成分が相互に定義される。図3には基準指標空間の座標軸X、Y、Zが定義されており、ここでは走行路平面54がX−Y平面にあり、ジオメトリ走行軸線がほぼX軸に一致している。この実施例ではキャリブレーションオブジェクト36として基準指標90を備えた平坦なキャリアユニットが使用され、ここでキャリアユニットの平面は走行路平面54に垂直であり、かつジオメトリ走行軸線に対して近似に垂直に配向されている。画像センサシステム38は少なくとも2つの任意の位置40、42から充分に大きな距離を置いてキャリブレーションオブジェクト36または測定空間の画像情報を少なくとも1つずつ、有利には少なくとも1つの画像データセットのかたちで撮影する。車両10の位置40、42は車両10が前進することにより自身の車輪に踏襲される。画像センサシステム38からキャリブレーションオブジェクト36までの距離は例えば1m〜20mの範囲であり、有利には2m〜5mが適切である。画像センサシステム38をキャリブレーションするために、形成された画像情報から、ジオメトリ走行軸線に対する画像センサシステム38の配向状態が求められる。
特に画像センサシステムのヨー角はジオメトリ走行軸線と画像センサシステム38の撮影方向とをX−Y平面へ投影して求められる。キャリブレーションデータの他のパラメータとして、画像センサシステム38の走行路平面に対する組み込み高さ、および/または画像センサシステム38の走行路平面に対するピッチ角、および/または画像センサシステム38の走行路平面に対するロール角が求められる。この実施例では、走行路平面54の位置は基準指標90の座標系内で既知である。例えば走行路平面32の位置は構造的に定義されて既知となっているか、独立した測定システムにより付加的に検出されるか、または画像情報から再構成される。画像情報からの再構成は、車両10が走行路平面上で他の2つの位置40、42を結んだ直線上以外の少なくとも1つの別の位置を取ることによって行われる。これに代えて、またはこれに加えて、走行路平面54は地球重力場のポテンシャル平面に対して平行になっている。つまりこの平面は水平化されており、法線に対するキャリアユニットの配向状態は地球重力場に追従するキャリブレーションペンデュラムおよび/または水準器によって求められる。
図4には特に画像情報を処理および評価する本発明の実施例にしたがって画像センサシステム38をキャリブレーションする装置のブロック図が示されている。これは画像センサシステム38、評価ユニット50、および有利にはメモリユニットなどの少なくとも1つの装置52から成る。画像センサシステム38で撮影された少なくとも2つの画像は、有利には画像データセットのかたちで信号線路49を介して評価ユニット50へ電気的および/または光学的に伝送される。これに代えて画像データセットを無線で伝送してもよい。評価ユニット50はここでは画像センサシステム38から分離されて配置されており、特に車両内または車両外に位置するが、評価ユニット50を直接に画像センサシステム38内に配置してもよい。評価ユニット50は少なくとも1つのマイクロプロセッサを有しており、少なくとも1つのマイクロプロセッサのプログラムとして構成された図5の複数のモジュールから成る。評価ユニット50は画像情報から少なくとも1つのキャリブレーションデータのパラメータを求める。これは例えばヨー角および/またはピッチ角および/またはロール角および/または車両内の画像センサシステム38の3次元の組み込み位置を表す他のパラメータである。ヨー角はここでは光軸または画像平面の法線がジオメトリ走行軸線に対して有する水平の角度偏差として定義される。ピッチ角とは光軸または画像平面の法線がジオメトリ走行軸線に対して有する垂直の角度偏差である。ロール角とは画像センサシステム38の光軸を中心とした走行路平面に関する回転角度である。キャリブレーションデータのパラメータは信号線路51を介して後置接続された少なくとも1つの装置52、例えばメモリユニットへ電気的および/または光学的に伝送される。これに代えて無線で伝送を行ってもよい。装置52もここでは画像センサシステム38から分離されて配置されているが、これを直接に画像センサシステム38内に配置してもよい。そのほかキャリブレーションデータのパラメータは画像センサシステム38を機械的にアライメントするために用いてもよいし、および/または画像センサシステム38の駆動中画像データをソフトウェアまたはアルゴリズムによって処理して操作するアプリケーションに用いてもよい。これによりアプリケーションのためのシミュレーションおよび/または画像センサシステム38による測定値検出が保証される。
図5にはキャリブレーションデータ86の少なくとも1つのパラメータを求める本発明の方法の実施例のフローチャートが示されている。図4の信号線路49の画像センサ信号70、すなわち画像データセットのかたちのキャリブレーションオブジェクトの画像情報は前処理のためにモジュール72へ供給される。このモジュール72では画像情報74が前処理される。前処理として、特にコントラスト改善および/または輝度の変更および/またはフィルタリングによる画像修正などが行われる。前処理された画像情報74はモジュール76へ供給され、ここで指標のアイデンティフィケーションが行われる。このモジュール76は特に基準指標のサーチおよびアイデンティフィケーションに用いられる。画像中の重要な指標は周知の画像処理プロセスによって求められる。例えば設定されたグレー値によるプロセスおよび/またはエッジ処理プロセスおよび/または形状適合プロセスなどが使用される。モジュール76で求められたデータ78はモジュール80へ供給され、基準指標の2D位置(2次元位置)が求められる。その場合、特にピクセル精度またはサブピクセル精度の2D位置検出が行われる。プロセスとして例えばグレー値合計および/または平均値形成などによる重心演算、円エッジまたは楕円エッジでのストラクチャ演算、および/またはパターングレー値マトリクスなどが使用される。パターングレー値マトリクスを使用するプロセスはテンプレートマッチング(パターン適合化)であり、人工的に定義された指標のグレー値マトリクスがシミュレーションされた基準指標全体にわたって最大限に配置され、これにより2D位置が求められる。求められた基準指標の2D位置、すなわち基準指標の画像座標はデータ82としてモジュール84へ供給され、キャリブレーションデータの少なくとも1つのパラメータが計算される。車両内の画像センサシステムのキャリブレーションのためのキャリブレーションデータ86のパラメータとして基本的に内部データと外部データとに区別される。キャリブレーション内部データは例えばカメラのメインポイントおよび/またはカメラ定数および/または少なくとも1つの歪みパラメータである。キャリブレーション外部データは6つのパラメータに区別される。3つの並進運動パラメータによって画像センサシステムの車両に対しての組み込み位置が記述される。そのほかに3つの回転角度、すなわちヨー角度、ピッチ角度、ロール角度が区別される。キャリブレーションデータ86の少なくとも1つのパラメータを求めるために、モジュール84で周知の数値的な写真測定プロセスが使用される。有利には直接線形変換DLTが使用される。これに代えて空間的なバックワードカットのプロセスを使用することもできる。DLTを使用することにより、キャリブレーションデータ86の少なくとも1つのパラメータを近似値なしに線形の式の系で求めることができる。この手法はオブジェクト空間と画像空間とのあいだの射影関係に基づいており、画像の座標のアフィン変換を拡張したかたちである。空間的なバックワードカットプロセスを用いると、立てられた共線式に非線形の解が生じ、キャリブレーションデータのためにサーチしているパラメータに近似値が必要となる。この解は最小2乗誤差の手法にしたがって補償計算で反復される。ここで共線式から観察の改善式が導出される。観察とはここでは画像内で測定される基準指標の画像座標に相当する。いわゆる標準式が立てられて解かれ、しかもこれはキャリブレーションデータ86のためにサーチされるパラメータが大きく変化しなくなるまで反復される。
図6には例えば前述の実施例で使用されるキャリブレーションオブジェクト36が示されている。図6のキャリブレーションオブジェクト36は平面的なキャリアユニットとして構成されている。例えば図6には9つの基準指標90が示されている。基準指標90を確実に検出するために、この指標はジオメトリ的に既知の形状を有するか、および/または周囲に対して良好なコントラストを有するか、および/またはアクティブに発光するか、および/または反射マークを備えている。基準指標90は少なくとも1つの画像センサシステムの画像内で簡単に自動的に検出することができる。図6に示されている基準指標90は円形であり、有利には光学的な散乱反射性を有する。基準指標90は少なくとも1つの画像センサシステムのシミュレーション尺度と撮影方向とに依存して選定された径を有する。基準指標90は自動的に区別される。これは少なくとも1つの基準指標90が少なくとも1つの画像センサシステムで検出可能なコードを有しているか、および/または所定のジオメトリを備えたグループとして構成されているからである。基準指標90を照明するために少なくとも1つの光源を使用する手段を用いて、基準指標90の把握しやすさをいっそう増大させることもできる。特に画像センサシステムの対物レンズ近傍に少なくとも1つの光源を配置することにより反射性の基準指標90を把握しやすくなる。この実施例では光源からの光が赤外線スペクトルで送信される。これにより測定位置の人員に対する光のふるまいの障害が回避される。基準指標90が少なくとも1つの画像センサシステムに対する図6の平面的な構成に加えてキャリブレーションオブジェクト36上で空間的にずらされて配置されている場合、基準指標90の平面的構成に対する評価は簡単化され、測定結果がいっそう確実となる。
本発明の実施例の1つのバリエーションでは、測定空間は3つ以上の基準指標を有し、車両は少なくとも2つの位置を取る。基準指標は少なくとも1つの画像センサシステムから種々のパースペクティブで撮影を行う。これにより基準指標の空間的な相互位置を知る必要がなくなる。なぜならこれは評価の段階で求めることができるからである。
本発明の方法および装置の別のバリエーションでは、測定空間は3つ以上の基準指標を有し、車両は少なくとも2つの位置を取って測定空間内に固定されたキャリブレーションオブジェクトを検出し、さらに他のパースペクティブでの少なくとも1つの別の画像情報を評価に用いる。ここでは車両は自身の位置を変更するのではなく、キャリブレーションオブジェクトまたはキャリアユニットのほうが動かされる。キャリブレーションオブジェクトは位置および/または配向状態を変更し、少なくとも1つの画像センサシステムが他のパースペクティブでキャリブレーションオブジェクトを撮影する。このとき基準指標の空間的な相互位置は既知であっても未知であってもよい。
測定空間内のキャリブレーションオブジェクトが3つ以上の基準指標を有する場合、本発明の実施例の1つのバリエーションではキャリブレーションデータの内部パラメータが求められる。基準指標により付加的に例えば画像センサシステムとオブジェクトとのあいだのキャノピーガラスに起因する歪みの影響の光学的なシミュレーションが得られる。
車両のジオメトリ走行軸線は実際の走行条件のもとで求められる。この実施例では画像情報の形成、すなわち画像撮影が停止状態で行われている。停止状態での画像撮影により測定結果の信頼性が支援される。これに代えて画像撮影を加速のない走行および/または加速走行で行うこともできる。
前述の方法および装置は、同時に1つ以上の画像センサシステムをキャリブレーションするのにも適している。特に評価中、直接に、少なくとも2つの異なるパースペクティブでオブジェクトを捉える2つ以上の画像センサシステムを相互に割り当て、このオブジェクトを画像から3次元的に再構成する。特に前述の方法および装置はほぼ同じシーンを撮影する2つの画像センサシステムから成るステレオカメラをキャリブレーションするのに適している。この場合には各画像センサシステムが分離された状態で車両のジオメトリ走行軸線に対する画像センサシステムの配向状態が求められ、そこから画像センサシステム相互の配向状態が求められるか、または画像センサシステム相互の割り当てと車両のジオメトリ走行軸線に対するステレオカメラの配向状態とが共通の1つの評価ステップで求められる。
車両の走行方向での少なくとも1つの画像センサシステムの配向状態を前述の実施例にしたがって求めることのほか、本発明の方法および装置は偏差する配向状態を有する画像センサシステムのキャリブレーションに適している。特に車両の後進方向での少なくとも1つの画像センサシステムのキャリブレーションが可能となる。さらに本発明の方法および装置は車両上および/または車両に接して設けられている少なくとも1つの画像センサシステムのキャリブレーションにも適している。
前述の方法および装置の別のバリエーションでは、車両が2つ以上の位置を取る。ジオメトリ走行軸線は多数回の検出からの平均によって求められる。車両の運動座標から特に測定中のステアリング運動が識別される。画像情報を3つ以上の位置から評価することにより、走行カーブや車両の運動軌道の再構成を行うことができる。この場合、ステアリング運動に例えば相応に大きなステアリング半径があって画像情報の評価時に補正が行われるケースと、ステアリング運動が一定でなく補正不能であって再測定が促されるケースとが区別される。ここでは特に操舵角センサの情報および/または車輪センサの情報および/または他のセンサの情報が補正または再測定の要不要の判別に用いられる。
前述の実施例では、画像センサシステムがオブジェクトに対して少なくとも1つの車両位置を取って少なくとも2つの画像が撮影される場合、少なくとも1つの画像センサシステムのキャリブレーションプロセスの精度が上昇する。これは画像中で識別される基準指標とキャリブレーションデータの少なくとも1つのパラメータとを測定して平均化することにより行われる。キャリブレーションデータのパラメータは例えばヨー角および/またはピッチ角および/またはロール角である。
別のバリエーションでは、少なくとも2つのキャリブレーションオブジェクトが少なくとも1つの画像センサシステムをキャリブレーションする方法が前述の実施例にしたがって行われる。
ジオメトリ走行軸線、車両の長手中央面、車両長手軸線の定義を説明するための図である。
車両内の少なくとも1つの画像センサシステムのキャリブレーションの第1の実施例を示す図である。
車両内の少なくとも1つの画像センサシステムのキャリブレーションの第2の実施例を示す図である。
画像センサシステムのキャリブレーション装置のブロック図である。
キャリブレーションデータを求める方法のフローチャートである。
キャリブレーションオブジェクトを示す図である。
符号の説明
38 画像センサシステム
49、51 信号線路
50 評価ユニット
52 メモリユニット

Claims (10)

  1. 走行路平面上に存在する車両に接してまたは車両内または車両上に配置された少なくとも1つの画像センサシステムをキャリブレーションオブジェクトを用いてキャリブレーションする、
    画像センサシステムのキャリブレーション方法において、
    走行路平面とキャリブレーションオブジェクトとによって画像センサシステムのキャリブレーションのための測定空間を形成し、測定空間内のキャリブレーションオブジェクトの少なくとも1つの基準指標の少なくとも1つの座標に対する走行路平面の位置を既知とし、
    車両がキャリブレーションオブジェクトに対して第1の位置を取っているとき、画像センサシステムによりキャリブレーションオブジェクトの第1の画像情報を少なくとも1つの画像データセットのかたちで形成し、
    車両がキャリブレーションオブジェクトに対して第2の位置を取っているとき、画像センサシステムによりキャリブレーションオブジェクトの第2の画像情報を少なくとも1つの画像データセットのかたちで形成し、
    キャリブレーションオブジェクトに対して車両が第1の位置から第2の位置へ移動したことによる位置変化量を求め、
    少なくとも第1の画像情報および第2の画像情報から車両のジオメトリ走行軸線に対する画像センサシステムの配向状態を求め、
    求められた位置変化量および求められた配向状態に基づいて、ジオメトリ走行軸線の方向成分と画像センサシステムの撮影方向とを相互に関連して定義し、
    さらに、車両がキャリブレーションオブジェクトに対して第3の位置を取っているとき、画像センサシステムによりキャリブレーションオブジェクトの第3の画像情報を少なくとも1つの画像データセットのかたちで形成し、少なくとも3つの位置について形成された画像情報を用いて車両運動のカーブを再構成してステアリング運動が一定であるか否かを判別し、一定でない場合には再測定を要求する
    ことを特徴とする画像センサシステムのキャリブレーション方法。
  2. 走行路平面は水平化されている、請求項1記載の方法。
  3. ジオメトリ走行軸線に沿って直進設定されたステアリングの車両の運動について第1の画像情報および第2の画像情報を形成する、請求項1記載の方法。
  4. 少なくとも1つの操舵角センサの情報を用いて車両のステアリング運動を判別する、請求項記載の方法。
  5. ほぼ同じシーンを撮影する少なくとも2つの画像センサシステムすなわち少なくとも1つのステレオカメラシステムに対して、各画像センサシステムを分離した状態でジオメトリ走行軸線に対する画像センサシステムの配向状態を求め、そこから画像センサシステム相互の配向状態を求める、請求項1からまでのいずれか1項記載の方法。
  6. 走行路平面上に存在する車両に接してまたは車両内または車両上に配置された少なくとも1つの画像センサシステムが少なくとも1つのキャリブレーションオブジェクトと画像センサシステムからの画像情報を評価する少なくとも1つの評価ユニットとによってキャリブレーションされる、
    画像センサシステムのキャリブレーション装置において、
    画像センサシステムは、車両がキャリブレーションオブジェクトに対して第1の位置を取っているとき、キャリブレーションオブジェクトの第1の画像情報を少なくとも1つの画像データセットのかたちで形成し、車両がキャリブレーションオブジェクトに対して第2の位置を取っているとき、キャリブレーションオブジェクトの第2の画像情報を少なくとも1つの画像データセットのかたちで形成し、
    評価ユニットは、走行路平面とキャリブレーションオブジェクトとによって画像センサシステムのキャリブレーションのための測定空間を形成し、測定空間内のキャリブレーションオブジェクトの少なくとも1つの基準指標の少なくとも1つの座標に対する走行路平面の位置を既知とする手段と、
    キャリブレーションオブジェクトに対して車両が第1の位置から第2の位置へ移動したことによる位置変化量を求め、少なくとも1つの画像データセットのかたちの、少なくともキャリブレーションオブジェクトの第1の画像情報および第2の画像情報から、車両のジオメトリ走行軸線に対する画像センサシステムの配向状態を求め、求められた位置変化量および求められた配向状態に基づいてジオメトリ走行軸線の方向成分と画像センサシステムの撮影方向とを相互に関連して定義する手段と、
    車両がキャリブレーションオブジェクトに対して第3の位置を取っているとき、画像センサシステムによりキャリブレーションオブジェクトの第3の画像情報を少なくとも1つの画像データセットのかたちで形成し、少なくとも3つの位置について形成された画像情報を用いて車両運動のカーブを再構成してステアリング運動が一定であるか否かを判別し、一定でない場合には再測定を要求する手段と
    を有する
    ことを特徴とする画像センサシステムのキャリブレーション装置。
  7. 評価ユニットは、さらに、少なくとも1つの画像データセットのかたちの第3の画像情報を評価する手段を有している、請求項記載の装置。
  8. 走行路平面は水平化されている、請求項または記載の装置。
  9. 車両の運動に関する情報を求める少なくとも1つの車輪センサおよび少なくとも1つの操舵角センサが設けられている、請求項からまでのいずれか1項記載の装置。
  10. 各画像センサシステムを分離した状態でジオメトリ走行軸線に対する画像センサシステムの配向状態を求め、そこから画像センサシステム相互の配向状態を求めるために、同じシーンを撮影する少なくとも2つの画像センサシステムすなわち少なくとも1つのステレオカメラシステムが設けられている、請求項からまでのいずれか1項記載の装置。
JP2003344306A 2002-10-02 2003-10-02 画像センサシステムのキャリブレーション方法および装置 Expired - Fee Related JP4843190B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE10246066.3 2002-10-02
DE10246066A DE10246066B4 (de) 2002-10-02 2002-10-02 Verfahren und Vorrichtung zur Kalibrierung eines Bildsensorsystems in einem Kraftfahrzeug

Publications (2)

Publication Number Publication Date
JP2004125795A JP2004125795A (ja) 2004-04-22
JP4843190B2 true JP4843190B2 (ja) 2011-12-21

Family

ID=29414341

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003344306A Expired - Fee Related JP4843190B2 (ja) 2002-10-02 2003-10-02 画像センサシステムのキャリブレーション方法および装置

Country Status (3)

Country Link
JP (1) JP4843190B2 (ja)
DE (1) DE10246066B4 (ja)
GB (1) GB2396005B (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102004048400A1 (de) 2004-10-01 2006-04-06 Robert Bosch Gmbh Verfahren für die Erfassung einer optischen Struktur
DE102004056669A1 (de) * 2004-10-13 2006-04-20 Robert Bosch Gmbh Einrichtung für die Kalibrierung eines Bildsensorsystems in einem Kraftfahrzeug
DE102004062275A1 (de) * 2004-12-23 2006-07-13 Aglaia Gmbh Verfahren und Vorrichtung zum Ermitteln eines Kalibrierparameters einer Stereokamera
DE102005014954A1 (de) * 2005-04-01 2006-10-05 Audi Ag Korrektur der Messfehler des Gierwinkels bei Sensoren zur Fahrspurerkennung
JP2006322855A (ja) * 2005-05-19 2006-11-30 Denso Corp 無限遠点決定装置
DE102006041822A1 (de) * 2006-09-06 2008-03-27 Beissbarth Gmbh Verfahren zur Fahrwerksmessung eines Kraftfahrzeugs, Fahrwerksvermessungseinrichtung sowie Kraftfahrzeugprüfstrasse
JP2009014481A (ja) * 2007-07-04 2009-01-22 Ihi Corp 距離計測装置とそのキャリブレーション方法
US8254635B2 (en) * 2007-12-06 2012-08-28 Gideon Stein Bundling of driver assistance systems
DE102008026876A1 (de) * 2008-06-05 2009-12-10 Hella Kgaa Hueck & Co. Stereokamerasystem und Verfahren zum Ermitteln mindestens eines Kalibrierfehlers eines Stereokamerasystems
EP2166510B1 (de) 2008-09-18 2018-03-28 Delphi Technologies, Inc. Verfahren zum Ermitteln der Position und der Orientierung einer in einem Fahrzeug angeordneten Kamera
DE102008053390A1 (de) * 2008-10-27 2010-04-29 Audi Ag Verfahren zur Erprobung und/oder Funktionsprüfung wenigstens eines in einem Kraftfahrzeug verbauten Umfeldsensor sowie zugehörige Anordnung
DE102009046124A1 (de) 2009-10-28 2011-05-05 Ifm Electronic Gmbh Verfahren und Vorrichtung zur Kalibrierung eines 3D-TOF-Kamerasystems
DE102010050279B4 (de) * 2010-11-02 2015-02-12 Audi Ag Verfahren zum Gewinnen von Daten und zum Ausrichten eines Umfeldsensors eines Kraftwagens
EP2490175A1 (en) * 2011-02-15 2012-08-22 Adasens Automotive S.L.U. Method for calibrating and/or aligning a camera mounted in an automobile vehicle and corresponding camera
DE102011006910A1 (de) * 2011-04-07 2012-10-11 Robert Bosch Gmbh Verfahren zum Bestimmen von Justierungsabweichungen eines Bilddatenerfassungs-Chips einer optischen Kamera sowie entsprechende Justierprüfvorrichtungen
JP5915268B2 (ja) * 2012-03-05 2016-05-11 富士通株式会社 パラメータ算出方法、情報処理装置及びプログラム
DE102013220016A1 (de) 2013-10-02 2015-04-02 Conti Temic Microelectronic Gmbh Verfahren und Vorrichtung zur Funktionsüberwachung eines Fahrerassistenzsystems
CN103644843B (zh) * 2013-12-04 2016-08-17 上海铁路局科学技术研究所 轨道交通车辆运动姿态的检测方法及其应用
EP3088175B1 (en) * 2015-04-27 2023-08-23 Ricoh Company, Ltd. Method for manufacturing laminated glass and laminated glass
JP6617614B2 (ja) * 2015-04-27 2019-12-11 株式会社リコー 合わせガラス製造方法、合わせガラス、ステレオカメラの校正方法、および校正システム
EP3293701B1 (en) * 2016-09-07 2019-11-06 Conti Temic microelectronic GmbH Method and apparatus for the compensation of static image distortions introduced by a windshield onto an adas camera
JP6536529B2 (ja) * 2016-10-17 2019-07-03 株式会社デンソー 車載カメラのキャリブレーション装置及び車載カメラのキャリブレーション方法
DE102017204435A1 (de) 2017-03-16 2018-09-20 Dr. Ing. H.C. F. Porsche Ag Anordnung zur fahrsituativen Simulation von Blendungseffekten oder blendungsähnlichen Effekten
DE102018215136B4 (de) * 2018-09-06 2021-03-25 Robert Bosch Gmbh Verfahren zum Auswählen eines Bildausschnitts eines Sensors
JP7126963B2 (ja) * 2019-02-13 2022-08-29 株式会社Subaru ステレオカメラの調整システム
DE102020212374A1 (de) 2020-09-30 2022-03-31 Siemens Mobility GmbH Verfahren zur Überprüfung der Kalibrierung eines auf einem Schienenfahrzeug angeordneten Umfeldsensors
DE102020131778A1 (de) * 2020-12-01 2022-06-02 Zf Cv Systems Global Gmbh Verfahren zum Kalibrieren einer rückschauenden Kamera und Fahrzeug
CN113933022B (zh) * 2021-09-28 2023-04-25 东风汽车集团股份有限公司 一种车辆后方视野校核方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2639108B1 (fr) * 1988-11-15 1990-12-21 Thomson Csf Procede pour estimer la distance entre un objet fixe et un vehicule en deplacement et dispositif pour la mise en oeuvre de ce procede
JP3189711B2 (ja) * 1996-11-01 2001-07-16 三菱自動車工業株式会社 車両の前方認識装置
JP3436074B2 (ja) * 1997-06-10 2003-08-11 トヨタ自動車株式会社 車載ステレオカメラ
FR2770317B1 (fr) * 1997-10-24 2000-12-08 Commissariat Energie Atomique Procede d'etalonnage de la position et de l'orientation d'origine d'une ou plusieurs cameras mobiles et son application a la mesure de position tridimentionnelle d'objets fixes
JP3357290B2 (ja) * 1998-05-22 2002-12-16 三菱電機株式会社 車両用位置検出装置
DE19857871C1 (de) * 1998-12-15 2000-10-26 Beissbarth Gmbh Vorrichtung zum Justieren eines Abstands-Radarsensors an einem Kraftfahrzeug
DE19911017B4 (de) * 1999-03-12 2010-11-11 Daimler Ag Verfahren zur Justierung eines Abstandssensors eines Kraftfahrzeugs
DE19962997B4 (de) * 1999-12-24 2010-06-02 Robert Bosch Gmbh Verfahren zur Kalibrierung eines Sensorsystems
DE19964020A1 (de) * 1999-12-30 2001-07-05 Bosch Gmbh Robert Verfahren und Vorrichtung zur Dejustageerkennung bei einem Kraftfahrzeug-Radarsystem
US6542840B2 (en) * 2000-01-27 2003-04-01 Matsushita Electric Industrial Co., Ltd. Calibration system, target apparatus and calibration method
JP3387911B2 (ja) * 2000-01-27 2003-03-17 松下電器産業株式会社 キャリブレーションシステムおよびキャリブレーション方法
JP3897956B2 (ja) * 2000-06-27 2007-03-28 本田技研工業株式会社 位置検出装置
DE10122664A1 (de) * 2001-05-10 2002-11-14 Ibeo Automobile Sensor Gmbh Kalibrierverfahren
DE10229336A1 (de) * 2002-06-29 2004-01-15 Robert Bosch Gmbh Verfahren und Vorrichtung zur Kalibrierung von Bildsensorsystemen

Also Published As

Publication number Publication date
GB0323075D0 (en) 2003-11-05
DE10246066A1 (de) 2004-04-22
DE10246066B4 (de) 2007-11-22
JP2004125795A (ja) 2004-04-22
GB2396005B (en) 2005-04-27
GB2396005A (en) 2004-06-09

Similar Documents

Publication Publication Date Title
JP4843190B2 (ja) 画像センサシステムのキャリブレーション方法および装置
US6915228B2 (en) Method and device for calibrating an image sensor system in a motor vehicle
JP7157054B2 (ja) 整合画像及びlidar情報に基づいた車両ナビゲーション
JP4406507B2 (ja) 自動車のホイールアラインメントおよび/またはアクスルアラインメントを求めるための装置
CN110312910B (zh) 用于校准车辆辅助系统的设备和方法
US11698250B2 (en) Wheel aligner with improved accuracy and no-stop positioning, using a drive direction calculation
US7379564B2 (en) Movable body circumstance monitoring apparatus
JP3984719B2 (ja) 自動車両の姿勢調整方法及び装置
EP1335181B1 (en) Device for measuring the characteristic attitude parameters of a vehicle
EP1717547B1 (en) Method and device for determining the alignment of the wheels of a vehicle
US4862047A (en) Apparatus for guiding movement of an unmanned moving body
CN100447527C (zh) 抗闪光定位系统
US20210109205A1 (en) Dynamic calibration of lidar sensors
CN115702322A (zh) 用于校准和对准汽车传感器的设备及方法
CN101676686B (zh) 确定布置在车辆中的照相机的位置和取向的方法
KR101831672B1 (ko) 차량 휠의 오리엔테이션을 결정하는 검출 장치 및 이에 관한 시스템
US20110085181A1 (en) Measuring head for a chassis measuring system, chassis measuring system and method for determining the position parameters of measuring heads of a chassis measuring system
CN104641394A (zh) 图像处理装置及存储介质
US20130141545A1 (en) Method for calibrating a measurement system and device for carrying out the method
CN103226010B (zh) 车轮定位系统和方法
Hanel et al. Towards the influence of a car windshield on depth calculation with a stereo camera system
JPH1047940A (ja) 測定プレート、ホイールアラインメント測定装置及びホイールアラインメント測定方法
CN103453857B (zh) 车轮定位系统和方法
KR20220038737A (ko) 광 마우스 센서 기술을 기반으로 하는 광류 주행 거리 측정기
CN109029438B (zh) 一种在有限区域内的车辆定位方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090625

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090924

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090929

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20091022

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20091027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100205

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100430

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100510

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100602

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100607

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100705

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100708

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101029

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110127

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110201

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110225

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110302

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110328

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110331

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110502

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110909

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111007

R150 Certificate of patent or registration of utility model

Ref document number: 4843190

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141014

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees