JP3983573B2 - ステレオ画像特性検査システム - Google Patents

ステレオ画像特性検査システム Download PDF

Info

Publication number
JP3983573B2
JP3983573B2 JP2002060841A JP2002060841A JP3983573B2 JP 3983573 B2 JP3983573 B2 JP 3983573B2 JP 2002060841 A JP2002060841 A JP 2002060841A JP 2002060841 A JP2002060841 A JP 2002060841A JP 3983573 B2 JP3983573 B2 JP 3983573B2
Authority
JP
Japan
Prior art keywords
image
stereo
correction data
stereo camera
coordinates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002060841A
Other languages
English (en)
Other versions
JP2003254748A (ja
JP2003254748A5 (ja
Inventor
能之 十川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP2002060841A priority Critical patent/JP3983573B2/ja
Priority to US10/379,192 priority patent/US7139424B2/en
Priority to DE60301026T priority patent/DE60301026T2/de
Priority to EP03004822A priority patent/EP1343332B1/en
Publication of JP2003254748A publication Critical patent/JP2003254748A/ja
Publication of JP2003254748A5 publication Critical patent/JP2003254748A5/ja
Application granted granted Critical
Publication of JP3983573B2 publication Critical patent/JP3983573B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Input (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、ステレオカメラで撮像したステレオ画像の特性を検査し、補正データを生成するステレオ画像特性検査システムに関する。
【0002】
【従来の技術】
従来より、空間を三次元的に認識する技術として、複数のカメラを利用したステレオ画像認識技術があり、例えば、自動車等の車両に搭載される障害物検出装置等に応用され、立体物までの距離を検出しつつ、前方の障害物や道路の形状を認識し、安全性の向上に寄与することができる。
【0003】
このようなステレオ画像認識技術を用いた装置では、ステレオカメラを構成する各カメラに写った画像から一致する箇所を探索して互いの視差を求め、この視差から距離情報を計算する手法が一般的であるが、装置の認識能力を確保するためには、一致点検索の確実性と、視差の検出精度を確保する必要がある。
【0004】
このため、本出願人は、先に、特開平11−325889号公報において、ステレオカメラの撮像画像の非線形な位置ズレに対する補正を行って画像の光軸を合わせ、一致検索の基線を揃える技術を提案しており、また、特開2001−91245号公報において、レンズ等の光学系の特性・バラツキに起因する視差の検出誤差を補正する技術を提案している。更に、本出願人は、特開2001−92968号公報において、画像上の位置に応じて適切な探索範囲を設定可能なように、一致検索開始位置を補正する技術を提案している。
【0005】
【発明が解決しようとする課題】
しかしながら、ステレオ画像認識装置の能力を保つためには、装置の出荷前や出荷後の再調整時に、ステレオ画像特性に対する総合的且つ高精度の補正データを装置個体毎に得ることのできるシステムが必要であり、しかも、できるだけ簡素なシステム構成で補正データを採取可能とし、装置本体にかかるコスト上昇の要因を取り除くことが望まれる。
【0006】
本発明は上記事情に鑑みてなされたもので、ステレオ画像特性を簡便なシステムで総合的且つ高精度に検査し、画像特性のばらつきを補正するための高精度の補正データを得ることのできるステレオ画像特性検査システムを提供することを目的としている。
【0007】
【課題を解決するための手段】
上記目的を達成するため、請求項1記載の発明は、ステレオカメラの撮像方向に配置される格子状の図柄を有すると共に、上記ステレオカメラを構成する各カメラに対応した基準マークを設けた検査スクリーンと、上記検査スクリーンを上記ステレオカメラで撮像し、上記ステレオカメラを構成する各カメラに対応した画像上の格子点の座標を、初回に上記基準マークを検索して順次隣接する格子を検出することにより求め、求めた座標と予め記憶してある各格子点の理想座標とに基づいて、少なくとも上記ステレオカメラの特性に起因するステレオ画像特性のバラツキを補正するための補正データを生成する手段とを備えたことを特徴とする。
【0008】
請求項2記載の発明は、ステレオカメラの撮像方向に配置される格子状の図柄を、格子線の中央から背景側にかけて多段階或いは連続的に明度が変化する階調度をもって形成した検査スクリーンと、上記検査スクリーンを上記ステレオカメラで撮像し、上記ステレオカメラを構成する各カメラに対応した画像上の格子点の座標を求め、求めた座標と予め記憶してある各格子点の理想座標とに基づいて、少なくとも上記ステレオカメラの特性に起因するステレオ画像特性のバラツキを補正するための補正データを生成する手段とを備えたことを特徴とする。
【0009】
請求項3記載の発明は、請求項1又は2記載の発明において、上記検査スクリーンの画像パターンと予め記憶してあるパターンとの相関値を計算して一致点を検索し、上記画像上の格子点の座標を求めることを特徴とする。
【0010】
請求項4記載の発明は、請求項1,2,3の何れか一に記載の発明において、上記検査スクリーンは、上記格子線の明度が背景より高いことを特徴とする。
【0011】
請求項5記載の発明は、請求項1,2,3,4の何れか一に記載の発明において、上記補正データは、画像の座標変換補正データ、画角修正比による視差補正データ、一致点検索範囲補正データの少なくとも何れか一つであることを特徴とする。
【0012】
請求項6記載の発明は、請求項1,2,3,4,5の何れか一に記載の発明において、上記ステレオカメラからの画像を上記ステレオカメラと一対一で組合わせた画像処理ユニットを介して取込み、上記補正データを、上記画像処理ユニット内の不揮発性メモリに書き込む手段を備えたことを特徴とする。
【0014】
すなわち、請求項1記載の発明は、格子状の図柄を有すると共に、ステレオカメラを構成する各カメラに対応した基準マークを設けた検査スクリーンをステレオカメラの撮像方向に配置し、検査スクリーンをステレオカメラで撮像する。そして、各カメラに対応した画像上の格子点の座標を、初回に上記基準マークを検索して順次隣接する格子を検出することにより求め、求めた座標と予め記憶してある各格子点の理想座標とに基づいて、少なくともステレオカメラの特性に起因するステレオ画像特性のバラツキを補正するための補正データを生成することで、ステレオカメラを用いた装置の出荷前や出荷後の再調整時に、ステレオ画像特性を簡便なシステムで総合的且つ高精度に検査することができ、高精度の補正データにより装置の能力を高水準に維持することを可能とする。
請求項2記載の発明は、格子状の図柄を格子線の中央から背景側にかけて多段階或いは連続的に明度が変化する階調度をもって形成した検査スクリーンをステレオカメラの撮像方向に配置し、検査スクリーンをステレオカメラで撮像する。そして、ステレオカメラを構成する各カメラに対応した画像上の格子点の座標を求め、求めた座標と予め記憶してある各格子点の理想座標とに基づいて、少なくともステレオカメラの特性に起因するステレオ画像特性のバラツキを補正するための補正データを生成することで、ステレオカメラを用いた装置の出荷前や出荷後の再調整時に、ステレオ画像特性を簡便なシステムで総合的且つ高精度に検査することができ、高精度の補正データにより装置の能力を高水準に維持することを可能とする。
【0015】
その際、請求項記載の発明のように、検査スクリーンの画像パターンと予め記憶してあるパターンとの相関値を計算して一致点を検索し、画像上の格子点の座標を求めることが望ましく、一致点検出のミスマッチングを防止して正確な格子点の座標を求めることができる。
【0018】
また、請求項記載の発明のように、検査スクリーンは、格子線の明度が背景より高いことが望ましく、背景色の信号レベルの影響を低減し、より正確な格子点座標データを得ることができる。
【0019】
更に、請求項記載の発明のように、補正データは、画像の座標変換補正データ、画角修正比による視差補正データ、一致点検索範囲補正データの少なくとも何れか一つであることが望ましく、請求項記載の発明のように、ステレオカメラからの画像をステレオカメラと一対一で組合わせた画像処理ユニットを介して取込み、補正データを画像処理ユニット内の不揮発性メモリに書き込む手段を備えることで、ステレオカメラを含めた装置全体としての特性を検査することができる。
【0020】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。図1〜図11は本発明の一実施の形態に係わり、図1はステレオ画像特性検査システムの構成図、図2は基準マークパターンを示す説明図、図3は十字パターンを示す説明図、図4は格子交点周辺の拡大図、図5は基準マーク周辺の拡大図、図6は格子点座標算出処理のフローチャート、図7は十字パターンと格子点との一致検索を示す説明図、図8は一致相関値と一致点との関係を示す説明図、図9は画像座標変換補正データ算出処理のフローチャート、図10は一致検索開始点補正データ算出処理のフローチャート、図11は画角補正データ算出処理のフローチャートである。
【0021】
図1は、ステレオ画像の特性を検査して補正データを得るためのステレオ画像特性検査システムを示し、検査対象である複数のカメラ(本形態においては、2台のカメラ)からなるステレオカメラ1と、このステレオカメラ1で撮像した画像の特性を検査するための被撮像対象となる検査スクリーン2と、ステレオカメラ1に接続される画像処理部10とを備えて構成される。
【0022】
ステレオカメラ1は、互いに同期が取れ、例えば電荷結合素子(CCD)等の撮像素子を内蔵したシャッタ速度可変の2台のカメラの一方を、ステレオ処理の際の基準画像を撮像する基準カメラ1a、他方をステレオ処理の際の比較画像を撮像する比較カメラ1bとして、基準カメラ1aと比較カメラ1bとが所定の基線長で互いの光軸が概ね平行となるようにステー1cに組付けられている。
【0023】
一方、画像処理部10は、ステレオカメラ1で撮像した一対の画像(ステレオ画像)の所定の小領域(例えば、4画素×4画素の小領域)毎に一致部位を検索して視差を求めるステレオマッチング処理を行い、得られた視差に基づく三次元の距離分布情報に基づいて各種認識処理を行うステレオ画像認識ユニット11に対し、このステレオ画像認識ユニット11に接続されてステレオ画像特性を検出するステレオ画像特性検出部12、ステレオ画像特性から補正データを生成する補正データ生成部13、生成した補正データをステレオ画像認識ユニット11に書込む補正データ書込み部14を、ステレオ画像認識ユニット11と一体的或いは別個に備えて構成され、検査対象であるステレオカメラ1とステレオ画像認識ユニット11とを一対一で組合わせて検査対象とする。
【0024】
すなわち、ステレオカメラ1を構成する2台のカメラ1a,1bは、初期製造段階で互いの光軸が、例えば平行であるような予め決められた相対位置関係となるように機械的に調整されてステー1cに固定されているが、各カメラ1a,1bで撮像した画像には、機械的な組立て精度の限界による光軸のずれ、レンズの焦点距離のバラツキやレンズ歪みの影響、撮像素子の受光面のあおりによる撮像画像内の拡大縮小率の相違、互いの撮像素子の感度や信号処理回路の特性のバラツキ等により、出力される画像間には線形のみならず非線形の位置ズレが少なからず存在する。
【0025】
また、ステレオ画像を処理するステレオ画像認識ユニット11側にも、2台のカメラ1a,1bに対応した信号処理系統のアンプのゲインやオフセット、A/D変換器の特性等の回路素子の特性のバラツキにより、調整範囲内で信号特性にバラツキが存在する可能性があり、ステレオ処理前の一対の元画像間に線形乃至非線形の位置ズレが存在する。
【0026】
従って、製品出荷前や出荷後の再調整時に、ステレオカメラ1で検査スクリーン2を撮像した撮像画像に基づいて、ステレオカメラ1及びステレオ画像認識ユニット11の個体毎に、光学レンズの歪特性や焦点距離特性、カメラ光軸の水平及び垂直変位特性、カメラ回転方向特性、カメラ実画角分布特性、無限遠視差分布特性、同じ距離にある被写体を撮像した場合の等距離面分布特性等を検査し、その検査結果に基づく補正データを生成する。そして、この補正データをステレオカメラ1と一対一に組合わされるステレオ画像認識ユニット11内の不揮発性メモリに記憶させることで、市場における実働状態において、確実且つ正確な距離分布情報を得ることができる。
【0027】
尚、ステレオ画像認識ユニット11側の回路的なバラツキを無視できる場合には、ステレオカメラ1のみを検査対象として、本検査システムにはステレオ画像認識ユニット11を含めず、ステレオカメラ1の特性検査終了後、別途、補正データをステレオ画像認識ユニット11内に書き込んだ時点でステレオカメラ1とステレオ画像認識ユニット11とを一対一の組で固定するようにしても良い。
【0028】
具体的には、検査スクリーン2には、予め設定した間隔(例えば、ステレオカメラ1の基線長の整数分の一の間隔)の格子線を基調とした図柄が描かれており、ステレオカメラ1と検査スクリーン2とを予め規定した相対位置、例えばステレオカメラ1の撮像方向が検査スクリーン2に正対する位置に正確に配置する。そして、ステレオカメラ1で検査スクリーン2を撮像した2枚の元画像に対し、ステレオ画像特性検出部12で画像上の各格子点(格子線の交点)の座標を求め、補正データ生成部13で、得られた各格子点の座標と予め記憶してある各格子点の理想座標とから画像特性のバラツキを補正する補正データを生成する。
【0029】
補正データは、画像上の各格子点の座標を幾何学的に補正するための座標変換補正データ、画角修正比(実画角と理想状態の画角との比)による距離補正用の視差補正データ、無限遠対応点のズレを考慮して一致点検索開始位置を補正するための一致点検索範囲補正データ等であり、基本データとして、画像上の各格子点の座標と記憶してある理想座標との差から各格子点に対する座標変換補正データを生成する。この座標変換補正データは、全ての画素が各々補正データを持つよう、各格子点を座標補完して全ての画素に対する座標変換補正データを求める。また、得られた画像上の格子間隔と予め記憶してある理想格子間隔との比から画角修正比を求め、この画角修正比を画像端から画素毎に積分することで、画角修正比による視差補正データと、一致点検索範囲補正データとを算出する。
【0030】
詳細には、検査スクリーン2には、ステレオカメラ1の2つのカメラ1a,1bと概ね同じ間隔の格子位置、すなわち基準カメラ1a用の中央垂直格子線2aと中央水平線2cとの交点(基準画像側の中央格子点)を囲む格子間、及び、比較カメラ1b用の中央垂直格子線2bと中央水平線2cとの交点(比較画像側の中央格子点)を囲む格子間に、それぞれ基準マーク3a,3bが描かれている。各カメラ1a,1bに対応する基準マーク3a,3bは、格子点の一致検索に影響を与えない形状に設定され、予め各カメラ1a,1bとの対応関係が既知で予めそれぞれの一致検索の開始位置を明確に設定できることから、本形態では、基準マーク3a,3bは同一形状とする。
【0031】
そして、ステレオ画像特性検出部12に、検査スクリーン2上の基準マーク3a,3bに対する参照パターンとして図2の基準マークパターン4を予め記憶しておくと共に、格子点に対する参照パターンとして図3の十字パターン5を予め記憶しておき、画像上の各格子点の座標を求める際に、基準マークパターン4と十字パターン5とを用いて画像相関値を計算しながら水平垂直方向に2次元の一致検索を行い、画像上の格子点の座標を求める。
【0032】
すなわち、画像上の各格子点の座標を求めるには、先ず、各カメラ1a,1bの画像上の基準マーク3a,3bと、基準マークパターン4との一致検索を行い、この基準マークの一致検索結果によって得られた格子点の座標に基づいて、順次隣接する格子点の座標を十字パターン5との一致検索により検出する。その際、前回に検出した格子点の座標から予め設定した相対位置に今回の検索領域を設定することで、誤った位置の格子点を検出することを防止する。
【0033】
画像上の各格子点の座標は、画像相関値が最も一致を示す座標近傍の画像相関値の関係により、1画素以下の分解能で求めることが望ましく、本形態においては、画像相関値として、2次元平面間の各座標における値の差の絶対値の和として定義されるシティブロック距離を用い、2枚の画像の各画素の明るさ(輝度)の差の絶対値の総和でシティブロック距離を計算する。
【0034】
この場合、検査スクリーン2の格子線は、図4,図5に示すように、格子線の中央から背景側にかけて、多段階或いは連続的に明度が変化する階調度を有することが望ましい。すなわち、一般に、ステレオカメラ1に使用されるCCD等の撮像素子は、受光セル(画素)が縦・横に配列されており、画素と画素との間には、必ず不感領域が存在する。従って、座標情報を1画素単位以下の精度で検出するサブピクセル処理を行う場合、格子線と背景との境界が不感領域に結像すると、正確な格子点の座標が検出できないことになる。従って、格子線中央から外側にかけて多段階階調或いは連続階調とすることにより、格子線と背景の境界の位置情報が複数の画素に渡って勾配を持ったデータ群を得ることができ、1画素単位以下の正確な格子点の座標を検出することが可能となる。
【0035】
また、検査スクリーン2の色に関しては、背景が黒色で、格子線及び基準マーク3a,3bを白色とすることが望ましい。一般に、白色は照明の影響を受けやすく、黒色は照明の影響を受けにくいという特徴があり、加えて、撮像素子は、通常、黒色が零レベルになるような信号の出力形式であり、カメラの感度に差があっても黒の信号レベルは白の信号レベルより感度の影響を受けにくい。一方、一致検出に用いるパターンは背景色の面積割合が多くなるため、格子点座標の検出結果は背景色の信号レベルの影響を受けやすい。
【0036】
従って、検査スクリーン2は、背景が黒色で、格子線及び基準マーク3a,3bを白色とすることにより、より正確な格子点座標データを得ることができ、精度の高い補正データを生成することができる。尚、この場合、図4,図5に示す格子線から背景にかけての階調は、背景側が暗く、格子線中央に行くほど明度が高くなり、図5に示す基準マークも白色となる。
【0037】
以下、ステレオ画像特性検出部12における格子点座標算出処理について、図6に示すフローチャートを用いて説明し、補正データ生成部13における画像座標変換補正データ、一致検索開始点補正データ、画角補正データの生成処理について、図9,10,11のフローチャートを用いて説明する。
【0038】
図6に示すステレオ画像特性検出処理では、先ず、ステップS101で、ステレオカメラ1の仕様定数値や各種処理変数値等を初期化し、ステップS102で、ステレオカメラ1で検査スクリーン2を撮像した基準側と比較側とのそれぞれの画像について、各1画面をサンプリングする。
【0039】
次に、ステップS103へ進み、基準カメラ1aと検査スクリーン2の基準マーク3aとの位置関係から基準画像の初回検索範囲を設定し、この初回検索範囲内から、記憶してある基準マークパターンに対し、シティブロック距離(一致度)を使って2次元で一致検索を行う。そして、ステップS104で、水平方向をX座標、垂直方向をY座標として、基準画像の基準マークに対する画像中の格子点の座標(X,Y)を、サブピクセル演算付で1画素単位以下の分解能で求める。この1画素単位以下のサブピクセル演算には、例えば、シティブロック距離の分布から極小値の位置を特定し、直線近似等によって極小点の座標を計算する等の手法を用いることができる。
【0040】
更に、ステップS105で、比較カメラ1bと検査スクリーン2の基準マーク3bとの位置関係から比較画像の初回検索範囲を設定し、この初回検索範囲内から、記憶してある基準マークパターンに対し、シティブロック距離(一致度)を使って2次元で一致検索を行い、ステップS106で、比較画像の基準マークに対する画像中の格子点の座標(X,Y)をサブピクセル演算付で求める。
【0041】
次に、ステップS107へ進み、基準画像の前回検索した格子点に隣接する格子点を検索するため、図7に示すように、前回の格子点座標から格子間隔に基づく所定の相対位置に今回の格子点の検索範囲を設定する。そして、ステップS108で、基準画像の設定検索範囲から、記憶してある十字パターン5に対し、シティブロック距離(一致度)を使って2次元で一致検索を行う。図8は、一走査毎の一致相関値(シティブロック距離)を示し、一致相関値が最も低い値となる点が一致点となる。
【0042】
次いで、ステップS109へ進み、基準画像の格子点に対する画像中の座標(X,Y)をサブピクセル演算付で求め、ステップS110で、基準画像についての検索が終了したか否かを調べる。その結果、検索が終了していない場合、ステップS107へ戻って次の隣接する格子点の検索範囲を再設定して上述の処理を続行し、基準画像についての全検索が終了した場合、ステップS111以降で比較画像上の格子点の座標を求める。
【0043】
ステップS111では、比較画像の今回の格子点の検索範囲を設定し、ステップS112で、比較画像の検索範囲から、記憶してある十字パターンに対し、シティブロック距離(一致度)を使って2次元で一致検索を行う。そして、ステップS113で、比較画像の格子点に対する画像中の座標(X,Y)をサブピクセル演算付で求める。
【0044】
そして、ステップS114で、比較画像についての検索が終了したか否かを調べ、検索が終了していない場合、ステップS111へ戻って次の隣接する格子点の検索範囲を設定して以上の処理を続行し、比較画像についての全検索が終了したとき、本処理を終了する。
【0045】
以上の処理により、基準側と比較側との各画像における全格子点の座標が求まると、次に、図9に示す画像座標変換補正データ算出処理において、格子点の座標と予め記憶してある理想格子点の座標との差から座標変換補正データを生成する。
【0046】
この画像座標変換補正データ算出処理では、先ず、ステップS201で初期化を行い、ステップS202で、基準画像の各理想格子点と実際の画像の各格子点とに対して番号付け及び対応付けを行い、また、ステップS203で、比較画像の各理想格子点と実際の画像の各格子点とに対し、番号付け及び対応付けを行う。
【0047】
続くステップS204では、基準画像の理想格子点の座標(XRn,YRn)に対し、対応した実際の画像上の格子点の座標(Xn,Yn)との差を基準画像の理想格子点の座標補正量として、この座標補正量のX軸成分ΔXn,Y軸成分ΔYnを、それぞれ算出する。更に、ステップS205で、同様に、比較画像の理想格子点の座標(XRn,YRn)に対し、対応した実際の画像上の格子点の座標(Xn,Yn)との差を比較画像の理想格子点の座標補正量として、この座標補正量のX軸成分ΔXn,Y軸成分ΔYnを、それぞれ算出する。
【0048】
そして、ステップS206で、基準画像の理想格子点の座標補正量(ΔXn,ΔYn)から各画素に対する座標補正量(ΔXpn,ΔYpn)を補完計算によって求め、座標変換補正データテーブルを作成する。更に、ステップS207で、比較画像の理想格子点の座標補正量(ΔXn,ΔYn)から各画素に対する座標補正量(ΔXpn,ΔYpn)を補完計算によって求め、座標変換補正データテーブルを作成して本処理を終了する。
【0049】
この座標変換補正データテーブルにより、ステレオカメラ1とステレオ画像認識ユニット11とを一対一で組合わせた状態での市場における実働状態において、基準画像及び比較画像の上下・左右のズレ、回転ズレ、レンズ歪み、焦点距離のバラツキを補正して正確な視差検出を可能とすることができる。
【0050】
次に、図10に示す一致検索開始点補正データ算出処理について説明する。この処理では、先ず、ステップS301で、基準、比較のそれぞれの画像の垂直格子線上での各画素のX座標を、格子点座標をY軸方向に補完することによって求める。次に、ステップS302で、基準、比較のそれぞれの画像の垂直格子線について、それぞれ画像の中央格子点を通る垂直格子線を基準とした番号付けを行う。
【0051】
次いで、ステップS303へ進み、基準画像と比較画像とで同じ番号N同士の垂直格子線上での各画素のX座標の差、すなわち、無限遠対応点のズレを算出する。そして、ステップS304で、垂直格子線上での各画素のX座標の差を、隣合った垂直格子線の間でX軸方向に補完し、基準画像の小領域(例えば4画素×4画素の小領域)毎に、基準画像と比較画像との間の無限遠対応点ズレを算出する。そして、ステップS305で、無限遠対応点ズレから所定の値を減算し、基準画像の小領域毎の一致検索開始点補正量を算出して処理を終了する。
【0052】
この一致検索開始点補正量により、ステレオカメラ1とステレオ画像認識ユニット11とを一対一で組合わせた状態での市場における実働状態において、無限遠対応点のズレに応じて一致検索の開始位置を適切に設定することが可能となり、ステレオマッチング処理の際の演算負荷を抑制すると共に、ミスマッチングを防止し、信頼性を向上することができる。
【0053】
更に、図11に示す画角補正データの算出処理では、先ず、ステップS401で、基準、比較それぞれの画像の垂直格子線上での各画素のX座標を、格子点座標をY軸方向に補完することによって求め、ステップS402で、基準、比較それぞれの画像の垂直格子線について、それぞれの画像の中央格子点を通る垂直格子線を基準とした番号付けを行う。
【0054】
次いで、ステップS403へ進み、比較画像中の垂直格子線上の画素毎に、隣の垂直格子線上の同一Y座標上の画素のX座標との差(格子間隔)Dを、微小実画角として求める。そして、ステップS404で、比較画像中の垂直格子線上の各画素毎に、実画角を表す格子間隔Dと所定の理想格子間隔Mとから画角修正比Rを算出する(R=D/M)。
【0055】
その後、ステップS405へ進み、比較画像中の垂直格子線上の画素毎に、画角修正比Rを画像の左端(初期値位置)から水平走査方向に積分して画角修正比積分値Sを算出する。そして、ステップS406で、垂直格子線上の画素の画角修正比積分値Sを、隣合った垂直格子線の間でX軸方向に補完し、処理走査線(例えば、4走査線)毎に、比較画像のX座標に対する画角修正比積分値テーブルを作成する。
【0056】
すなわち、ステレオ画像の一致点検索で得られる視差データは、いわば1画素毎の微小画角の差を視差検出走査方向に積分した値に相当することから、画角修正比Rを画像座標の初期位置から比較画像の1画素毎に積分した画角修正比積分値Sを、レンズ焦点距離の相違、レンズ歪みの影響、撮像方向の相違等を含んだ補正データとして、市場での実働状態におけるステレオ画像認識ユニット11の一致検策で得られる視差データを直接的に補正可能とする。
【0057】
次に、ステップS407で、基準画像と比較画像とで同じ番号N同士の垂直格子線上での画素のX座標の差(無限遠対応点のズレ)を求め、ステップS408で、垂直格子線上での画素のX座標の差を、隣合った垂直格子線の間でX軸方向に補完し、基準画像の小領域(例えば4画素×4画素の小領域)毎に、基準画像と比較画像との間の無限遠対応点ズレのテーブルを作成する。
【0058】
そして、ステップS409で、基準画像と比較画像の無限遠対応点ズレを、基準画像の小領域のX座標に加算し、基準画像の4×4画素小領域に対する比較画像中の無限遠対応点のX座標を算出すると、ステップS410で、比較画像中の無限遠対応点のX座標で画角修正比積分値テーブルを参照し、基準画像の4×4画素小領域毎の無限遠対応点画角修正比積分値テーブルを作成して本処理を終了する。
【0059】
この画角修正比積分値テーブル及び無限遠対応点画角修正比積分値テーブルを用いることにより、ステレオカメラ1とステレオ画像認識ユニット11とを一対一で組合わせた状態での実働状態における比較画像の検索一致点及び無限遠対応点に対し、レンズ焦点距離の相違、レンズ歪みの影響、撮像方向の相違等の影響を補正することができる。
【0060】
このように、本実施の形態においては、ステレオカメラ1、及びこのステレオカメラ1に組合わされるステレオ画像認識ユニット11の総合的な特性を、製品出荷前や出荷後の再調整時に、簡便なシステム構成で高精度に検査することができ、総合的且つ高精度な補正データを得ることができる。
【0061】
これにより、市場においてステレオカメラを用いた各種装置の補正機構を有効に機能させることが可能となり、距離情報の精度向上、信頼性の向上を図ることができる。しかも、本検査システムは、各種の補正データを1回の撮像で計算できるため、自動化が容易であり、機械的な調整よりも少ない時間で調整することができ、装置本体のコスト低減に寄与することができる。
【0062】
【発明の効果】
以上説明したように本発明によれば、ステレオカメラを用いた装置の出荷前や出荷後の再調整時に、ステレオ画像特性を簡便なシステム構成で高精度に検査して総合的且つ高精度な補正データを得ることができ、市場においてステレオカメラを用いた各種装置の補正機構を有効に機能させることが可能となり、正確な距離情報に基づく認識精度の向上、信頼性の向上を図ることができる。
【図面の簡単な説明】
【図1】ステレオ画像特性検査システムの構成図
【図2】基準マークパターンを示す説明図
【図3】十字パターンを示す説明図
【図4】格子交点周辺の拡大図
【図5】基準マーク周辺の拡大図
【図6】格子点座標算出処理のフローチャート
【図7】十字パターンと格子点との一致検索を示す説明図
【図8】一致相関値と一致点との関係を示す説明図
【図9】画像座標変換補正データ算出処理のフローチャート
【図10】一致検索開始点補正データ算出処理のフローチャート
【図11】画角補正データ算出処理のフローチャート
【符号の説明】
1 ステレオカメラ
2 検査スクリーン
3a,3b 基準マーク
4 基準マークパターン
5 十字パターン
10 画像処理部
11 ステレオ画像認識ユニット
12 ステレオ画像特性検出部
13 補正データ生成部
14 補正データ書き込み部

Claims (6)

  1. ステレオカメラの撮像方向に配置される格子状の図柄を有すると共に、上記ステレオカメラを構成する各カメラに対応した基準マークを設けた検査スクリーンと、
    上記検査スクリーンを上記ステレオカメラで撮像し、上記ステレオカメラを構成する各カメラに対応した画像上の格子点の座標を、初回に上記基準マークを検索して順次隣接する格子を検出することにより求め、求めた座標と予め記憶してある各格子点の理想座標とに基づいて、少なくとも上記ステレオカメラの特性に起因するステレオ画像特性のバラツキを補正するための補正データを生成する手段とを備えたことを特徴とするステレオ画像特性検査システム。
  2. ステレオカメラの撮像方向に配置される格子状の図柄を、格子線の中央から背景側にかけて多段階或いは連続的に明度が変化する階調度をもって形成した検査スクリーンと、
    上記検査スクリーンを上記ステレオカメラで撮像し、上記ステレオカメラを構成する各カメラに対応した画像上の格子点の座標を求め、求めた座標と予め記憶してある各格子点の理想座標とに基づいて、少なくとも上記ステレオカメラの特性に起因するステレオ画像特性のバラツキを補正するための補正データを生成する手段とを備えたことを特徴とするステレオ画像特性検査システム。
  3. 上記検査スクリーンの画像パターンと予め記憶してあるパターンとの相関値を計算して一致点を検索し、上記画像上の格子点の座標を求めることを特徴とする請求項1又は2記載のステレオ画像特性検査システム。
  4. 上記検査スクリーンは、上記格子線の明度が背景より高いことを特徴とする請求項1,2,3の何れか一に記載のステレオ画像特性検査システム。
  5. 上記補正データは、画像の座標変換補正データ、画角修正比による視差補正データ、一致点検索範囲補正データの少なくとも何れか一つであることを特徴とする請求項1,2,3,4の何れか一に記載のステレオ画像特性検査システム。
  6. 上記ステレオカメラからの画像を上記ステレオカメラと一対一で組合わせた画像処理ユニットを介して取込み、
    上記補正データを、上記画像処理ユニット内の不揮発性メモリに書き込む手段を備えたことを特徴とする請求項1,2,3,4,5の何れか一に記載のステレオ画像特性検査システム。
JP2002060841A 2002-03-06 2002-03-06 ステレオ画像特性検査システム Expired - Lifetime JP3983573B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2002060841A JP3983573B2 (ja) 2002-03-06 2002-03-06 ステレオ画像特性検査システム
US10/379,192 US7139424B2 (en) 2002-03-06 2003-03-04 Stereoscopic image characteristics examination system
DE60301026T DE60301026T2 (de) 2002-03-06 2003-03-04 System zur Untersuchung von stereoskopischen Bildmerkmalen
EP03004822A EP1343332B1 (en) 2002-03-06 2003-03-04 Stereoscopic image characteristics examination system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002060841A JP3983573B2 (ja) 2002-03-06 2002-03-06 ステレオ画像特性検査システム

Publications (3)

Publication Number Publication Date
JP2003254748A JP2003254748A (ja) 2003-09-10
JP2003254748A5 JP2003254748A5 (ja) 2005-09-02
JP3983573B2 true JP3983573B2 (ja) 2007-09-26

Family

ID=27751144

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002060841A Expired - Lifetime JP3983573B2 (ja) 2002-03-06 2002-03-06 ステレオ画像特性検査システム

Country Status (4)

Country Link
US (1) US7139424B2 (ja)
EP (1) EP1343332B1 (ja)
JP (1) JP3983573B2 (ja)
DE (1) DE60301026T2 (ja)

Families Citing this family (63)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8471852B1 (en) 2003-05-30 2013-06-25 Nvidia Corporation Method and system for tessellation of subdivision surfaces
JP3834654B2 (ja) * 2003-11-06 2006-10-18 独立行政法人海上技術安全研究所 模型船の波浪観測のための3次元画像計測用カメラ検定設備
KR100543709B1 (ko) * 2003-12-23 2006-01-20 삼성전자주식회사 이동체의 회전 이동량 이용 방법과 장치 및 컴퓨터프로그램을 저장하는 컴퓨터로 읽을 수 있는 기록 매체
DE102004041115A1 (de) * 2004-08-24 2006-03-09 Tbs Holding Ag Verfahren und Anordnung zur Erfassung biometrischer Daten
DE112004003011A5 (de) * 2004-08-25 2007-08-09 Tbs Holding Ag Verfahren und Anordnung zur optischen Aufnahme biometrischer Daten
JP4461091B2 (ja) * 2004-11-30 2010-05-12 本田技研工業株式会社 位置検出装置及びその補正方法
US7599521B2 (en) * 2004-11-30 2009-10-06 Honda Motor Co., Ltd. Vehicle vicinity monitoring apparatus
US7590263B2 (en) * 2004-11-30 2009-09-15 Honda Motor Co., Ltd. Vehicle vicinity monitoring apparatus
JP4032052B2 (ja) * 2004-11-30 2008-01-16 本田技研工業株式会社 位置検出装置及びその補正方法
JP4224449B2 (ja) * 2004-11-30 2009-02-12 本田技研工業株式会社 画像抽出装置
US8571346B2 (en) * 2005-10-26 2013-10-29 Nvidia Corporation Methods and devices for defective pixel detection
US7750956B2 (en) * 2005-11-09 2010-07-06 Nvidia Corporation Using a graphics processing unit to correct video and audio data
US8588542B1 (en) 2005-12-13 2013-11-19 Nvidia Corporation Configurable and compact pixel processing apparatus
US8737832B1 (en) * 2006-02-10 2014-05-27 Nvidia Corporation Flicker band automated detection system and method
US8340399B2 (en) * 2006-03-15 2012-12-25 Koninklijke Philips Electronics N.V. Method for determining a depth map from images, device for determining a depth map
US8594441B1 (en) 2006-09-12 2013-11-26 Nvidia Corporation Compressing image-based data using luminance
CN101242546A (zh) * 2007-02-06 2008-08-13 鸿富锦精密工业(深圳)有限公司 影像校正系统及方法
TWI397668B (zh) * 2007-02-12 2013-06-01 Hon Hai Prec Ind Co Ltd 影像校正系統及方法
US8723969B2 (en) * 2007-03-20 2014-05-13 Nvidia Corporation Compensating for undesirable camera shakes during video capture
JP5234894B2 (ja) * 2007-06-28 2013-07-10 富士重工業株式会社 ステレオ画像処理装置
US8724895B2 (en) 2007-07-23 2014-05-13 Nvidia Corporation Techniques for reducing color artifacts in digital images
JP2009058377A (ja) * 2007-08-31 2009-03-19 Hitachi Kokusai Electric Inc 検査装置
US8570634B2 (en) * 2007-10-11 2013-10-29 Nvidia Corporation Image processing of an incoming light field using a spatial light modulator
US9177368B2 (en) * 2007-12-17 2015-11-03 Nvidia Corporation Image distortion correction
US8780128B2 (en) * 2007-12-17 2014-07-15 Nvidia Corporation Contiguously packed data
US8698908B2 (en) * 2008-02-11 2014-04-15 Nvidia Corporation Efficient method for reducing noise and blur in a composite still image from a rolling shutter camera
JP5082941B2 (ja) * 2008-03-10 2012-11-28 株式会社島津製作所 標線位置測定装置、標線位置測定用プログラム、および標線マーク
US9379156B2 (en) * 2008-04-10 2016-06-28 Nvidia Corporation Per-channel image intensity correction
US8520934B2 (en) * 2008-06-13 2013-08-27 Thomson Licensing System and method for marking a stereoscopic film
JP5375830B2 (ja) * 2008-09-29 2013-12-25 パナソニック株式会社 映像信号処理装置
US8373718B2 (en) 2008-12-10 2013-02-12 Nvidia Corporation Method and system for color enhancement with color volume adjustment and variable shift along luminance axis
US8749662B2 (en) * 2009-04-16 2014-06-10 Nvidia Corporation System and method for lens shading image correction
US8698918B2 (en) * 2009-10-27 2014-04-15 Nvidia Corporation Automatic white balancing for photography
NO332068B1 (no) * 2010-05-28 2012-06-18 Kongsberg Seatex As Fremgangsmate og system for posisjonering av antenne, teleskop, siktemiddel eller lignende montert pa en bevegelig plattform
KR101129326B1 (ko) * 2010-06-16 2012-03-27 허성용 영상 촬영용 광축 정렬 장치 및 광축 정렬 방법
JP5870510B2 (ja) * 2010-09-14 2016-03-01 株式会社リコー ステレオカメラ装置、校正方法およびプログラム
US8849011B2 (en) * 2010-10-07 2014-09-30 Himax Media Solutions, Inc. Video processing system and method thereof for compensating boundary of image
JP5874649B2 (ja) * 2011-02-17 2016-03-02 コニカミノルタ株式会社 画像処理装置、そのプログラム、および画像処理方法
KR101841750B1 (ko) * 2011-10-11 2018-03-26 한국전자통신연구원 매칭 정보에 의한 입체 영상 보정 장치 및 그 방법
TW201329426A (zh) * 2012-01-12 2013-07-16 Hon Hai Prec Ind Co Ltd 鏡頭檢測裝置及檢測方法
CN102780904A (zh) * 2012-05-31 2012-11-14 新奥特(北京)视频技术有限公司 一种通过左右眼图像网格化显示来调节3d图像的方法
US9798698B2 (en) 2012-08-13 2017-10-24 Nvidia Corporation System and method for multi-color dilu preconditioner
US9508318B2 (en) 2012-09-13 2016-11-29 Nvidia Corporation Dynamic color profile management for electronic devices
US9307213B2 (en) 2012-11-05 2016-04-05 Nvidia Corporation Robust selection and weighting for gray patch automatic white balancing
JP5843751B2 (ja) * 2012-12-27 2016-01-13 株式会社ソニー・コンピュータエンタテインメント 情報処理装置、情報処理システム、および情報処理方法
JP2014182178A (ja) * 2013-03-18 2014-09-29 Fuji Heavy Ind Ltd ステレオカメラユニット
US9418400B2 (en) 2013-06-18 2016-08-16 Nvidia Corporation Method and system for rendering simulated depth-of-field visual effect
US9826208B2 (en) 2013-06-26 2017-11-21 Nvidia Corporation Method and system for generating weights for use in white balancing an image
US9756222B2 (en) 2013-06-26 2017-09-05 Nvidia Corporation Method and system for performing white balancing operations on captured images
US11076171B2 (en) 2013-10-25 2021-07-27 Microsoft Technology Licensing, Llc Representing blocks with hash values in video and image coding and decoding
US11025923B2 (en) 2014-09-30 2021-06-01 Microsoft Technology Licensing, Llc Hash-based encoder decisions for video coding
EP3088175B1 (en) * 2015-04-27 2023-08-23 Ricoh Company, Ltd. Method for manufacturing laminated glass and laminated glass
WO2016199244A1 (ja) * 2015-06-10 2016-12-15 株式会社日立製作所 物体認識装置及び物体認識システム
JP2017045124A (ja) * 2015-08-24 2017-03-02 株式会社日本自動車部品総合研究所 視差検出装置
US10823950B2 (en) * 2016-01-07 2020-11-03 Digital Surigcals PTE. LTD. Camera system with balanced monocular cues for use in digital stereo microscopes
JP2018141908A (ja) * 2017-02-28 2018-09-13 キヤノン株式会社 焦点検出装置、フォーカス制御装置、撮像装置、焦点検出方法および焦点検出プログラム
US11095877B2 (en) 2016-11-30 2021-08-17 Microsoft Technology Licensing, Llc Local hash-based motion estimation for screen remoting scenarios
US20180300872A1 (en) * 2017-04-12 2018-10-18 Ngr Inc. Method And Apparatus For Integrated Circuit Pattern Inspection With Automatically Set Inspection Areas
JP6920159B2 (ja) * 2017-09-29 2021-08-18 株式会社デンソー 車両の周辺監視装置と周辺監視方法
CN109084724A (zh) * 2018-07-06 2018-12-25 西安理工大学 一种基于双目视觉的深度学习障碍物测距方法
US11202085B1 (en) 2020-06-12 2021-12-14 Microsoft Technology Licensing, Llc Low-cost hash table construction and hash-based block matching for variable-size blocks
CN111882528A (zh) * 2020-07-15 2020-11-03 苏州佳智彩光电科技有限公司 一种面向屏幕视觉检测的子像素排序方法及装置
US11782254B2 (en) * 2020-07-24 2023-10-10 United Scope LLC Digital microscopy system and graphical user interface

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5142642A (en) * 1988-08-24 1992-08-25 Kabushiki Kaisha Toshiba Stereoscopic television system
DE69313694T2 (de) * 1992-03-23 1998-02-19 Canon Kk Bildaufnahmevorrichtung mit mehreren Linsen und Korrektur von Falschregistrierung
JPH0829701A (ja) * 1994-07-18 1996-02-02 Olympus Optical Co Ltd 立体視内視鏡システム
US5699444A (en) * 1995-03-31 1997-12-16 Synthonics Incorporated Methods and apparatus for using image data to determine camera location and orientation
US5768443A (en) * 1995-12-19 1998-06-16 Cognex Corporation Method for coordinating multiple fields of view in multi-camera
US5748199A (en) * 1995-12-20 1998-05-05 Synthonics Incorporated Method and apparatus for converting a two dimensional motion picture into a three dimensional motion picture
JP3020898B2 (ja) * 1997-07-22 2000-03-15 株式会社エイ・ティ・アール人間情報通信研究所 アフィンカメラ補正による三次元位置の線形推定方法
JP3284190B2 (ja) * 1998-05-14 2002-05-20 富士重工業株式会社 ステレオカメラの画像補正装置
JP3261115B2 (ja) 1999-09-22 2002-02-25 富士重工業株式会社 ステレオ画像処理装置
JP3263931B2 (ja) 1999-09-22 2002-03-11 富士重工業株式会社 ステレオマッチング装置
JP3255360B2 (ja) * 1999-09-22 2002-02-12 富士重工業株式会社 距離データの検査方法およびその検査装置
US7006707B2 (en) * 2001-05-03 2006-02-28 Adobe Systems Incorporated Projecting images onto a surface

Also Published As

Publication number Publication date
US20030169918A1 (en) 2003-09-11
EP1343332B1 (en) 2005-07-20
DE60301026T2 (de) 2006-06-01
EP1343332A2 (en) 2003-09-10
US7139424B2 (en) 2006-11-21
JP2003254748A (ja) 2003-09-10
EP1343332A3 (en) 2003-11-26
DE60301026D1 (de) 2005-08-25

Similar Documents

Publication Publication Date Title
JP3983573B2 (ja) ステレオ画像特性検査システム
US11985293B2 (en) System and methods for calibration of an array camera
US10043290B2 (en) Image processing to enhance distance calculation accuracy
CN109813251B (zh) 用于三维测量的方法、装置以及系统
US10127682B2 (en) System and methods for calibration of an array camera
CN113256730B (zh) 用于阵列相机的动态校准的系统和方法
JP3261115B2 (ja) ステレオ画像処理装置
US7800736B2 (en) System and method for improving lidar data fidelity using pixel-aligned lidar/electro-optic data
US10909395B2 (en) Object detection apparatus
CN111340888B (zh) 一种无需白图像的光场相机检校方法及系统
WO2022014215A1 (ja) 処理装置及び車載カメラ装置
KR101926258B1 (ko) Avm 시스템의 자동 캘리브레이션 방법
JP6186431B2 (ja) キャリブレーション装置、キャリブレーションシステム、及び撮像装置
JP3666348B2 (ja) 距離認識装置
CN118537693A (zh) 基于棋盘格引导的高光谱图像融合方法和图像采集系统
JPH11190611A (ja) 3次元計測方法およびその方法を用いた3次元計測処理装置
JPH11223516A (ja) 3次元画像撮像装置
KR20180103657A (ko) 스테레오 카메라 모듈의 캘리브레이션 방법 및 장치, 및 컴퓨터 판독 가능한 저장매체

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050302

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050302

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070320

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070521

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070626

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070704

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100713

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 3983573

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110713

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110713

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120713

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120713

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130713

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term