JP2010281638A - 距離計測装置及び距離計測方法 - Google Patents

距離計測装置及び距離計測方法 Download PDF

Info

Publication number
JP2010281638A
JP2010281638A JP2009134225A JP2009134225A JP2010281638A JP 2010281638 A JP2010281638 A JP 2010281638A JP 2009134225 A JP2009134225 A JP 2009134225A JP 2009134225 A JP2009134225 A JP 2009134225A JP 2010281638 A JP2010281638 A JP 2010281638A
Authority
JP
Japan
Prior art keywords
relative error
parts
image size
image
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009134225A
Other languages
English (en)
Other versions
JP5294995B2 (ja
Inventor
Iketsu Ryu
偉傑 劉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2009134225A priority Critical patent/JP5294995B2/ja
Priority to CN2010800211765A priority patent/CN102428345A/zh
Priority to EP10783102A priority patent/EP2439491A4/en
Priority to US13/375,608 priority patent/US20120093372A1/en
Priority to PCT/JP2010/003441 priority patent/WO2010140314A1/ja
Publication of JP2010281638A publication Critical patent/JP2010281638A/ja
Application granted granted Critical
Publication of JP5294995B2 publication Critical patent/JP5294995B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】対象物の検出誤差に起因する距離検出精度の劣化を十分に抑え、撮像した対象物との距離を高精度に計測する距離計測装置及び距離計測方法を提供する。
【解決手段】第1〜第3部位検出部101〜103は、対象物の撮像画像から、対象物に含まれる、サイズが既知である複数部位の部位画像を検出する。相対誤差比較部104は、部位検出部101〜103により検出された複数部位の画像サイズD1〜D3と、複数部位において既知であるサイズに関する情報とを用いて、画像サイズD1、D2、D3と画像サイズに含まれる誤差d1、d2、d3との割合である相対誤差d1/D1、d2/D2、d3/D3を最も小さくする部位画像サイズを選択する。距離推定部105は、選択された部位画像サイズを用いて対象物の距離を算出する。
【選択図】図3

Description

本発明は、撮像画像を用いて対象物との距離を計測する距離計測装置及び距離計測方法に関する。
従来、車両に搭載されたカメラによって道路状況を撮像し、それによって得られた画像に基づいて、運転を支援したり、車両を制御したりすることが考えられている。
この場合、カメラで撮像された画像に所定の処理を施すことで画像中に存在する道路交通標識、案内看板、信号機などの対象物を検出し、検出した対象物とカメラとの距離を計測することは、非常に重要なことである。
一般に、カメラと対象物との距離(対象物距離)は、以下の式(1)で求めることができる。
対象物距離=(カメラの焦点距離×対象物実サイズ)/(画素ピッチ×対象物画素数) …(1)
ここで、対象物実サイズとは、対象物の実際の大きさであり、画素ピッチとは、撮像素子(CCDやCMOSなど)の1素子の大きさであり、対象物画素数とは、対象物が表示される画素数である。つまり、画素ピッチ×対象物画素数は、対象物の画像サイズを表す。なお、焦点距離、画素ピッチは、カメラのスペック特性であり、通常、各カメラで固定の値又は既知の値である。
式(1)の関係を利用して、カメラと対象物との距離を計測する技術として、例えば特許文献1、2に開示された技術がある。特許文献1に開示された技術は、道路標識や信号機など規格でサイズが統一された対象物を撮像し、画像内における対象物の大きさに基づいて対象物までの距離を計測するものである。
また、特許文献2に開示された技術は、車両のナンバープレートを撮像し、画像中のナンバープレートにおける文字の大きさを測定し、測定された文字の大きさと規格で決められ既知である文字の大きさとを比較することで、カメラから車両までの距離を計測するものである。
また、特許文献3には、対象物の検出誤差を考慮することで、対象物の正確な位置記録が行える位置記録装置が開示されている。また、特許文献3には、自車位置をGPSなどの測位装置を用いて計測し、対象物と自車との相対位置(相対距離及び相対方向)を撮像画像から算出する際、自車位置の計測や相対位置の算出には誤差が生じる。このため、対象物が検出された、複数の地点における最大誤差を比較し、最大誤差が最も小さい地点において取得した対象物の位置情報を記録する技術が開示されている。
特開平8−219775号公報 特開2006−329776号公報 特開2006−330908号公報
しかしながら、特許文献1及び特許文献2に開示の技術では、画像から対象物を検出する際の検出誤差が考慮されていない。特に、車載カメラから標識や先行車のナンバープレートなどの対象物を撮像した場合には、車載カメラから対象物までは数十メートル離れていることが多いので、画像中における対象物の大きさが小さくなる。この結果、画像サイズと、画像サイズに含まれる誤差と、の割合である相対誤差が大きくなる。この相対誤差が大きくなると、それに伴って、距離の計測精度が劣化する。
図1は、実際の車載カメラの画像から制限速度標識を検出した例を示す。図1(a)は車載カメラ画像であり、図1(b)はほぼ連続するフレームから制限速度標識を検出した結果を64×64のサイズに正規化した様子を示す。図1(b)に示したように、車両の実際の移動距離が小さくても、照明や相対方向などの環境変化によって検出画像の画像サイズの変化が激しい。
一方、特許文献3に開示の技術では、対象物の検出誤差を考慮しているが、理論値としての最大誤差しか考慮されておらず、実際の検出誤差は考慮されていない。また、最大誤差は計測位置毎に固定であるため、結局最適な位置を選択することと同義となり、照明変化などの影響は考慮されていない。つまり、対象物の検出誤差に起因する距離検出精度の劣化を十分に抑えることは困難である。
本発明はかかる点に鑑みてなされたものであり、対象物の検出誤差に起因する距離検出精度の劣化を十分に抑え、撮像した対象物との距離を高精度に計測する距離計測装置及び距離計測方法を提供する。
本発明の距離計測装置の一つの態様は、対象物の撮像画像から、前記対象物に含まれる、サイズが既知である複数部位の部位画像を検出する部位画像検出手段と、前記部位画像検出手段により検出された前記複数部位の画像サイズと、前記複数部位において既知であるサイズに関する情報とを用いて、前記画像サイズと前記画像サイズに含まれる誤差と、の割合である相対誤差を最も小さくする部位画像サイズを選択する相対誤差比較手段と、前記選択された部位画像サイズを用いて、前記対象物との距離を推定する距離推定手段と、を具備する構成を採る。
本発明によれば、対象物の検出誤差に起因する距離検出精度の劣化を十分に抑え、撮像した対象物との距離を高精度に計測することができる。
実際の車載カメラの画像から制限速度標識を検出する様子を示す図 制限速度標識を示す図 本発明の実施の形態1に係る距離計測装置の構成を示すブロック図 図3に示した相対誤差比較部における処理手順を示すフロー図 図1(b)に示した4つの検出結果を2値画像で表した図 本発明の実施の形態2に係る距離計測装置の構成を示すブロック図 相対誤差の確率密度分布を示す図 相対誤差の確率密度分布を示す図 本発明の実施の形態3に係る距離計測装置の構成を示すブロック図 夜間に撮像した一時停止標識の画像を示す図 ナンバープレートを示す図
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
(実施の形態1)
図2(a)は制限速度標識を示す図であり、この図において、標識の外枠の円を第1部位とし、標識の内枠の円を第2部位とし、左の数字「5」又は右の数字「0」を囲む長方形枠を第3部位と定義する。なお、図2(b)は図2(a)の2値画像を示す。以下、図2に示した制限速度標識を例に説明する。
[1]全体構成
図3は、本発明の実施の形態1に係る距離計測装置100の構成を示すブロック図である。距離計測装置100は自動車等の車両に搭載され、第1〜3部位検出部101〜103に画像情報(2値画像)を入力する。画像情報は、車両に搭載されたカメラによってリアルタイムに撮像された車両周辺の画像である。
第1〜第3部位検出部101〜103は、入力された画像情報から制限速度標識の対応する各部位を検出し、検出した部位の画素数をカウントし、カウントした画素数を実測画像サイズD1〜D3として相対誤差比較部104に出力する。
具体的には、第1部位検出部101は、図2(b)の制限速度標識の外側の円を第1部位として検出する。第2部位検出部102は、図2(b)の制限速度標識の内側の円を第2部位として検出する。第3部位検出部103は、図2(b)の制限速度標識の数字を第3部位として検出する。ここで、図2(b)から明らかなように、「外側の円の画像サイズ>内側の円の画像サイズ>数字の画像サイズ(例えば左側の数字5の外枠サイズ)」の関係があるので、「D1>D2>D3」の関係となるはずである。
相対誤差比較部104は、第1、第2、第3部位検出部101、102、103により検出された複数部位の画像サイズD1、D2、D3と、複数部位において既知であるサイズに関する情報と、を用いて、画像サイズD1、D2、D3と画像サイズD1、D2、D3に含まれる誤差d1、d2、d3との割合である相対誤差d1/D1、d2/D2、d3/D3を最も小さくする部位画像サイズを選択する。
距離推定部105は、相対誤差比較部104で選択された、画像サイズを用いて、対象物との距離を推定する。具体的には、距離推定部105は、相対誤差比較部104から出力された画像サイズを上述した式(1)の対象物画素数に適用することで、対象物距離を算出する。
[2]相対誤差を用いた処理について
ここでは、距離計算に用いる部位の画像サイズを、相対誤差を用いて選択する処理について説明する。
第1〜第3部位の真の画像サイズC1〜C3は、実測画像サイズD1〜D3及び実測誤差d1〜d3を用いて次式(2)のように表せる。
C1=D1+d1
C2=D2+d2 ………(2)
C3=D3+d3
なお、C1〜C3及びd1〜d3は未知の値である。また、C1〜C3は規格化された対象物のサイズに比例するため、次式(3)の関係を有する。
C1=k21×C2
C3=k23×C2 ………(3)
ただし、k21及びk23は既知の定数である。つまり、相対誤差比較部104は、C1〜C3の任意の1つから他の2つを算出できる。以下、一般にC1〜C3が同一距離Zに対応することを仮定する。
D1、D2、D3から計算される距離をそれぞれZ+z1、Z+z2、Z+z3と記せば、対象物距離と画像サイズの関係から、次式(4)の関係が求められる。ただし、z1、z2、z3は、それぞれ、画像サイズに誤差d1、d2、d3が含まれる場合の距離の誤差である。
z1/Z=d1/D1
z2/Z=d2/D2 ………(4)
z3/Z=d3/D3
これは、各部位の画像サイズの相対誤差が、それぞれ、計算される距離の相対誤差と等しいことを示している。従って、相対誤差を最小化することにより、計算される距離の精度を向上させることができる。しかしながら、C1〜C3及びd1〜d3が未知であることから、相対誤差の真値が求められない。
そこで、本発明の発明者は、複数部位において既知であるサイズに関する情報を用いることで、相対誤差を最小にする画像サイズを見つけ、その画像サイズを用いて距離計算を行うことで、計算される距離の精度を向上させる方法を見出した。実際上、本実施の形態では、複数部位において既知であるサイズに関する情報として、式(3)に示したような、複数部位間において既知であるサイズ比率に関する情報報を用いる。
なお、相対誤差を用いたのは、次の理由のためである。つまり、絶対的な誤差を比較して誤差が最も小さな画像サイズを選択しようとすると、必然的に画像サイズの小さな部位ほど絶対的な誤差が小さくなるので、画像サイズの小さな部位ほど距離計算に用いられる画像として選択されやすくなってしまう。距離計測装置100は、本実施の形態のように相対誤差を用いるので、部位の大きさに拘わらず、距離計算に用いるのに適した画像サイズを平等に選択できるようになる。
本実施の形態では、相対誤差を最小にする画像サイズを見つけ方として、以下の3つの方法を記述する。
[2−1]方法1:相対誤差和最小化ルールを用いた方法
相対誤差比較部104は、第1〜第3部位検出部101〜103から出力された実測画像サイズD1〜D3、及び、第1〜第3部位の実測誤差d1〜d3を用いて、相対誤差和d1/D1+d2/D2+d3/D3を算出する。そして、相対誤差比較部104は、この相対誤差和d1/D1+d2/D2+d3/D3を最小にする画像サイズを求めて、その画像サイズが距離計算に用いるに適した画像サイズであると判断して、その画像サイズを距離推定部105に送る。
具体的には、相対誤差比較部104は、次のような手順で、この相対誤差和d1/D1+d2/D2+d3/D3を最小にする画像サイズを求める。
(i)先ず、C2がある値であると仮定する。通常、C2は、図2(b)の関係からも分かるように、[D3,D1]の範囲内なので、仮定するC2の値は、[D3,D1]の範囲内に設定する。
(ii)次に、仮定したC2と、式(3)とを用いて、C1、C3の値を計算する。
(iii)次に、C1〜C3の値と、D1〜D3の値と、式(2)と用いて、d1、d2、d3の値を計算する。
(iv)次に、相対誤差和d1/D1+d2/D2+d3/D3を計算する。
相対誤差比較部104は、上記(i)で仮定するC2の値を、[D3,D1]の範囲内で変化させ、上記(iv)で得られる相対誤差和を最小とするC2の値を、距離計算に最適な画像サイズであると判断して、距離推定部105に出力する。
この相対誤差和最小化ルールを用いた方法のさらに具体的な処理例は、図4を用いて説明する。図4において、ステップST201では、第1〜第3部位検出部101が、第1〜3部位の実測画像サイズD1〜D3を取得する。
続く、ステップST202では、相対誤差比較部104が、取得したD3とD1との差分をN等分することで、仮定するC2を順次変化させる変化量bを設定する。つまり、相対誤差比較部104は、D3−D1=N×bにより、変化量bを設定する。
次に、ステップST203では、先ず、初期値として、n=0と、相対誤差和Eの最小値であるEminを∞に設定する。続く、ステップST204では、仮定するC2の値を、C2=D3+n×bに設定する。ステップST205では、式(3)を用いて、C1=k21×C2、C3=k23×C2を算出する。
ステップST206では、式(2)を用いて実測誤差d1〜d3を計算し、ステップST207では、相対誤差和E(=d1/D1+d2/D2+d3/D3)を算出する。
ステップST208では、ステップST207で求めた相対誤差和Eがそれまでの最小値Emin未満か否かを判定し、EがEmin未満である(YES)場合はステップST209に移行し、EがEmin未満ではない(NO)場合はステップST210に移行する。
ステップST209では、EminをステップST207で算出したEに設定し、そのときのC2を最適なC(Copt)に設定して一時記憶し、ステップST210では、nがNに達したか否かを判定し、n=Nではない(NO)場合はステップST211に移行し、n=Nである(YES)場合はステップST212に移行する。
ステップST211では、nをインクリメントし、ステップST204に戻る。
ステップST212では、ステップST209において記憶されたCoptをC2として決定し、相対誤差比較処理を終了する。
このようにして、相対誤差和を最小とするC2の値、つまり距離計算に最適な画像サイズを求めることができる。
なお、上述の例では、C2がある値であると仮定し、仮定するC2の値を[D3,D1]の範囲内で変化させ、相対誤差和d1/D1+d2/D2+d3/D3を最小にするC2を、距離計算に最適な画像サイズであると判断した場合について説明した。上述の例では、さらにC2に換えて、C1又はC3がある値であると仮定して、上述と同様の方法により、相対誤差和を最小とするC1又はC3の値を、距離計算に最適な画像サイズであると判断して、距離推定部105に出力してもよい。
[2−2]方法2:既存の実測画像サイズD1〜D3から一番精度の高い値を選択する方法
方法1では、最適なC2を探索する方法について説明したが、ここでは、最適なC2を探索せずに、既存の実測画像サイズD1〜D3から一番精度の高い値を選択する方法について説明する。
まず、相対誤差比較部104は、d1=0と仮定し、C1=D1とする。また、相対誤差比較部104は、複数部位間において既知であるサイズ比率を用いることで、C2とC3とを求める。例えば図2(b)の場合、C1、C2、C3の比率C1/C2/C3(C1:C2:C3と同じ意味である)は、60/40/23.5に一意に決まっているので、この比率を用いて、C1からC2及びC3を求める。さらに、相対誤差比較部104は、式(2)を用いて、d2及びd3を求める。そして、相対誤差比較部104は、誤差を0とした1つの部位を除く他の部位の相対誤差和を求める。ここでは、他の部位の相対誤差和として、相対誤差和e1=d2/D2+d3/D3を求める。
同様に、相対誤差比較部104は、d2=0と仮定し、C2=D2とする。また、相対誤差比較部104は、既知の比率C1/C2/C3を用いて、C2からC1及びC3を求め、さらにd1及びd3を求める。そして、相対誤差比較部104は、他の部位の相対誤差和として、相対誤差和e2=d1/D1+d3/D3を求める。
また、相対誤差比較部104は、同様に、d3=0と仮定し、C3=D3とする。また、相対誤差比較部104は、既知の比率C1/C2/C3を用いて、C3からC1及びC2を求め、さらにd1及びd2を求める。そして、相対誤差比較部104は、他の部位の相対誤差和として、相対誤差和e3=d1/D1+d2/D2を求める。
相対誤差比較部104は、このようにして求めた他の部位の相対誤差和e1〜e3のうち、最小値を検出する。そして、他の部位の相対誤差和が最も小さくなったときの誤差を0とした部位の画像サイズを、相対誤差を最も小さくする部位の画像サイズとして選択する。例えば、他の部位の相対誤差和e1〜e3のうちe1が最小の場合には、相対誤差を最も小さくする部位画像サイズとして、実測画像サイズD1を選択する。同様に、他の部位の相対誤差和e1〜e3のうちe2が最小の場合には、相対誤差を最も小さくする部位画像サイズとして、実測画像サイズD2を選択する。
そして、相対誤差比較部104は、選択した実測画像サイズD1、D2又はD3を、距離計算に最適な画像サイズであると判断して、距離推定部105に出力する。
具体例を挙げる。図5は、図1(b)に示した4つの検出結果を2値画像で表したものである。実測画像サイズD1〜D3として、図5(a)では、D1=64,D2=45,D3=26が得られ、図5(b)では、D1=64,D2=57,D3=33が得られ、図5(c)では、D1=64,D2=47,D3=31が得られ、図5(d)では、D1=64,D2=59,D3=43が得られたとする。
このとき、図5(a)〜(d)のそれぞれについて、e1〜e3は表1のようになり、対象物距離の算出のために選択される実測画像サイズは表1に示すようになる。
上記表1における、図5(a)に対応したe1=8.71の求め方を、具体的に以下に示す。相対誤差比較部104は、図5(a)では、D1=64,D2=45,D3=26であり、C1/C2/C3の比例関係が60/40/23.5であることから、d1=0と仮定し、C1=D1とすると、C2=42.9,C3=25が求められる。次いで、相対誤差比較部104は、d2=|C2−D2|=|42.9−45|=2.1、d3=|C3−D3|=|25−26|=1を求める。この結果、相対誤差比較部104は、e1=d2/D2+d3/D3=2.1/45+1/26=4.71%+4%=8.71%が求まる。
[2−3]方法3:最大相対誤差を最小化する方法
まず、相対誤差比較部104は、d1=0と仮定し、C1=D1とする。続いて、相対誤差比較部104は、d2/D2、d3/D3を求め、d1/D1、d2/D2、d3/D3のうち最大値(最大相対誤差)を選択する。
同様に、相対誤差比較部104は、d2=0と仮定し、C2=D2としたとき、d1/D1、d2/D2、d3/D3のうち最大相対誤差を選択する。また、同様に、相対誤差比較部104は、d3=0と仮定し、C3=D3としたとき、d1/D1、d2/D2、d3/D3のうち最大相対誤差を選択する。
次に、相対誤差比較部104は、d1=0、d2=0、d3=0のそれぞれにおいて求めた最大相対誤差のうち、最小の最大相対誤差を求める。そして、この最小の最大相対誤差が得られるときの誤差を0とした部位の画像サイズを、相対誤差を最も小さくする部位画像サイズとして選択する。例えば、d1=0、d2=0、d3=0のそれぞれにおいて求めた最大相対誤差のうち、d1=0において求めた最大相対誤差が最も小さい場合には、相対誤差を最も小さくする部位画像サイズとして、実測画像サイズD1を選択する。同様に、d1=0、d2=0、d3=0のそれぞれにおいて求めた最大相対誤差のうち、d2=0において求めた最大相対誤差が最も小さい場合には、相対誤差を最も小さくする部位画像サイズとして、実測画像サイズD2を選択する。
そして、相対誤差比較部104は、選択した実測画像サイズD1、D2又はD3を、距離計算に最適な画像サイズであると判断して、距離推定部105に出力する。
ここで、相対誤差比較部104は、図5(a)のD1=64,D2=45,D3=26を用いた場合を例に以下に示す。まず、相対誤差比較部104は、d1=0と仮定し、C1=D1とすると、d2/D2=4.71%、d3/D3=4%となる。max(d1/D1、d2/D2、d3/D3)=max(0,4.71,4)=4.71%が求められる。
次に、d2=0と仮定し、C2=D2とすると、max(d1/D1、d2/D2、d3/D3)=max(5.47,0,2.12)=5.47%が求められる。同様に、d3=0と仮定し、C3=D3とすると、max(d1/D1、d2/D2、d3/D3)=max(3.59,1.78,0)=3.59%が求められる。
そして、min(4.71,5.47,3.59)=3.59であるので、実測画像サイズD3が対象物距離の算出に用いる画像サイズとして選択される。
[3]効果
以上説明したように、本実施の形態によれば、対象物の撮像画像から、対象物に含まれる、サイズが既知である複数部位の部位画像を検出する部位検出部101〜103と、部位検出部101〜103により検出された複数部位の画像サイズD1〜D3と、複数部位において既知であるサイズに関する情報とを用いて、画像サイズD1、D2、D3と画像サイズに含まれる誤差d1、d2、d3との割合である相対誤差d1/D1、d2/D2、d3/D3を最も小さくする部位画像サイズを選択する相対誤差比較部302と、選択された部位画像サイズを用いて、対象物との距離を推定する距離推定部105と、を設けたことにより、対象物の検出誤差に起因する距離検出精度の劣化を十分に抑え、撮像した対象物との距離を高精度に計測することができる。
(実施の形態2)
本発明の実施の形態2では、相対誤差d1/D1、d2/D2、d3/D3のそれぞれの確率密度分布を利用する場合について説明する。この確率密度分布は、事前統計知識として、実際の距離測定に先立って求めておく。
図3との対応部分に同一符号を付して示す図6に、本実施の形態の距離計測装置300の構成を示す。
距離計測装置300は、実施の形態1の距離計測装置100(図3)と比較して、確率密度分布算出部301が追加され、相対誤差比較部104が相対誤差比較部302に変更されている。
確率密度分布算出部301は、実際の距離測定に先立って、事前統計知識として、確率密度分布を求める。確率密度分布算出部301は、サンプル画像データを入力し、一定数のサンプルに対し、第1〜3部位を所定の手法で検出し、検出結果と真値とを比較することで、図7に示すような、相対誤差値の分布を示す確率密度分布を得る。図7は、第1〜3部位の相対誤差の確率密度分布を示す図である。図7では、横軸は相対誤差を、縦軸は確率密度を表している。また、p1はd1/D1の分布を、p2はd2/D2の分布を、p3はd3/D3の分布をそれぞれ表している。確率密度分布算出部301は、このように事前に求めた確率密度分布p1〜p3を、相対誤差比較部302に出力する。
相対誤差比較部302は、第1〜第3部位検出部101〜103から出力された画像サイズD1〜D3と、複数部位において既知であるサイズに関する情報とを用いて、相対誤差d1/D1、d2/D2、d3/D3を算出する。
この相対誤差d1/D1、d2/D2、d3/D3は、例えば、以下の(i)〜(iv)の処理を行うことで求めることができる。
(i)先ず、C2がある値であると仮定する。通常、C2は、図2(b)の関係からも分かるように、[D3,D1]の範囲内なので、仮定するC2の値は、[D3,D1]の範囲内に設定する。
(ii)次に、仮定したC2と、式(3)とを用いて、C1、C3の値を計算する。
(iii)次に、C1〜C3の値と、D1〜D3の値と、式(2)と用いて、d1、d2、d3の値を計算する。
(iv)次に、相対誤差d1/D1、d2/D2、d3/D3をそれぞれ計算する。
次に、相対誤差比較部302は、確率密度分布算出部301によって事前統計知識として求められている確率密度分布p1、p2、p3から、相対誤差d1/D1、d2/D2、d3/D3に対応する確率密度P1、P2、P3を読み出す。次に、相対誤差比較部302は、読み出した確率密度P1、P2、P3を乗算することで、相対誤差の確率密度積P1×P2×P3を算出する。
相対誤差比較部302は、上記(i)で仮定するC2の値を、[D3,D1]の範囲内で変化させ、それらに対応する相対誤差d1/D1、d2/D2、d3/D3を計算する。また、相対誤差比較部302は、計算した相対誤差d1/D1、d2/D2、d3/D3に対応する新たな確率密度P1、P2、P3を確率密度分布p1、p2、p3から読み出し、新たな確率密度積P1×P2×P3を算出する。
相対誤差比較部302は、このようにして算出した複数の確率密度積P1×P2×P3の中から最小の確率密度積を見つける。そして、相対誤差比較部302は、確率密度積を最小にするC2の値を、距離計算に最適な画像サイズであると判断して、距離推定部105に出力する。
以上説明したように、本実施の形態によれば、部位検出部101〜103により検出された複数部位の画像サイズD1〜D3と、複数部位において既知であるサイズに関する情報と、に加えて、複数部位についての相対誤差の確率密度分布を用いて、相対誤差d1/D1、d2/D2、d3/D3を最も小さくする部位画像サイズを選択する。つまり、実施の形態1では、相対誤差和を基準にして最適な部位画像サイズを選択したが、本実施の形態では、相対誤差の確率密度積を基準にして最適な部位画像サイズを選択する。これにより、実施の形態1と同様に、対象物の検出誤差に起因する距離検出精度の劣化を十分に抑え、撮像した対象物との距離をより高精度に計測することができる。
なお、確率密度分布を直接に求めることが困難な場合、相対誤差の最大値を用いて近似的に求めることは可能である。具体的には、相対誤差d1/D1、d2/D2、d3/D3における最大値g1、g2、g3がサンプル統計又は理論的概算より取得された場合、図8(a)又は図8(b)に示すように確率密度分布を設定することができる。図8(a)は、正/負の最大値の間で確率密度分布が一様であると仮定して、確率密度分布を設定した例を示すものである。この場合、確率密度分布の高さ値は所定の矩形の面積(積分和)が1になるように計算する。また、図8(b)は、正/負の相対誤差最大値の確率密度を0に設定して、相対誤差0に対応する確率密度分布の最大値を所定の三角形の面積(積分和)が1になるように計算した例を示すものである。以降、上記取得した近似確率密度分布を用いて、距離を計測することができる。
(実施の形態3)
本発明の実施の形態3では、カメラの露出などのカメラパラメータを制御し、道路標識等の各部位をより高精度に検出する方法について説明する。
図3との対応部分に同一符号を付して示す図9は、本実施の形態における距離計測装置400の構成を示す図である。
距離計測装置400は、実施の形態1の距離計測装置100(図3)と比較して、部位品質判定部401、カメラパラメータ制御部402及び蓄積部403が追加されている。
部位品質判定部401は、第1〜第3部位検出部101〜103から出力された各部位の撮像品質を判定し、次フレームで再検出すべき部位を決定し、決定した部位を示す情報をカメラパラメータ制御部402に出力する。
カメラパラメータ制御部402は、部位品質判定部401から出力された再検出すべき部位にとって最適な撮像条件を推定し、この最適な撮像条件となるようにカメラパラメータ、例えば、絞り、フォーカス、感度などをカメラに設定する。
蓄積部403は、第1〜3部位検出部101〜103から出力された部位を多フレーム分比較し、各部位において最も撮像品質の良好な撮像画像を蓄積する。ただし、撮像時間による距離の変動を考慮する必要がある。フレーム間での距離の変動を小さくするために、フレーム画像の撮像間隔を短く設定することが好ましい。
上述したように、本発明は複数部位を画像から検出し、検出した複数部位の画像を用いて距離を計測するため、各部位の撮像品質が高ければ、距離計測の精度も高くなる。しかしながら、部位毎に撮像品質を上げるための撮像条件が異なる場合もある。
図10は、夜間に撮像した一時停止標識の画像を示す。図10(a)は高露出による画像であり、標識の外枠が背景に対して明瞭となるが、標識領域内の文字部分の識別は非常に困難となる。一方、図10(b)は低露出による画像であり、標識の外枠の検出が困難となるが、標識領域内の文字部分の識別は比較的容易となる。図10(c)に示すように、標識の外枠を第1部位とし、各文字の枠を第2部位とすれば、第1部位を検出するためには、高露出が好ましく、逆に、第2部位を検出するためには、低露出が好ましい。このように、各部位に応じて露出を制御するなど、カメラパラメータ制御部402がカメラパラメータを制御することにより、部位毎の撮像品質を向上させることができる。
そこで、本実施の形態では、部位品質判定部401によって、複数部位の撮像品質を判定し、次フレームで再検出すべき部位を決定する。そして、カメラパラメータ制御部402によって、再検出すべき部位に適したカメラパラメータを設定した後に、カメラは、次フレームの画像を撮像する。これにより、蓄積部403には、各部位について、高品質の部位画像が蓄積される。
相対誤差比較部104及び距離推定部105は、蓄積部403に蓄積された高品質の部位画像を用いて、実施の形態1又は実施の形態2で説明した処理を行う。これにより、対象物の検出誤差に起因する距離検出精度の劣化をより抑えることができ、撮像した対象物との距離をより高精度に計測することができる。
なお、上述した各実施の形態では、道路標識を例に説明したが、本発明はこれに限らず、例えば、車両のナンバープレートを用いてもよい。車両のナンバープレートを検出することにより、例えば、先行車との距離を計測することができる。図11は、ナンバープレートの4つの部位を示した図である。図11の第1〜3部位を実施の形態1のD1、D2、D3とすれば、実施の形態1に説明した方法を用いて、ナンバープレート、すなわち、先行車との距離を高精度に計測することができる。また、距離計測装置400は、図11の第1、第2、第4部位を実施の形態1のD1、D2、D3にすることも可能である。
また、上述した各実施の形態では、第1〜3部位を検出したが、本発明はこれに限らず、4つ以上の部位を検出し、この4つ以上の部位の画像サイズと、既知のサイズの情報とを用いて、相対誤差を最も小さくする部位画像サイズを選択し、選択した部位画像サイズを用いて、対象物との距離を推定してもよい。このように4つ以上の部位を用いる場合に行う処理は、単純に部位の数が増えるだけで、基本的には3つの部位を用いた場合(上述の実施の形態)と同様である。
本発明は、例えば道路標識や車両のナンバープレートなど規格でサイズが統一された物体との距離を計測する距離計測装置に好適である。
101 第1部位検出部
102 第2部位検出部
103 第3部位検出部
104、302 相対誤差比較部
105 距離推定部
301 確率密度分布算出部
401 部位品質判定部
402 カメラパラメータ制御部
403 蓄積部

Claims (7)

  1. 対象物の撮像画像から、前記対象物に含まれる、サイズが既知である複数部位の部位画像を検出する部位画像検出手段と、
    前記部位画像検出手段により検出された前記複数部位の画像サイズと、前記複数部位において既知であるサイズに関する情報とを用いて、前記画像サイズと前記画像サイズに含まれる誤差との割合である相対誤差を最も小さくする部位画像サイズを選択する相対誤差比較手段と、
    前記選択された部位画像サイズを用いて、前記対象物との距離を推定する距離推定手段と、
    を具備する距離計測装置。
  2. 前記相対誤差比較手段は、前記複数部位間において既知であるサイズ比率を用いる、
    請求項1に記載の距離計測装置。
  3. 前記相対誤差比較手段は、前記部位毎の相対誤差の和である相対誤差和を求め、前記相対誤差和を最小にする部位の画像サイズを選択する、
    請求項1に記載の距離計測装置。
  4. 請求項1に記載の距離計測装置であって、前記相対誤差比較手段は、次の処理(i)〜(iii)を行うことで、前記相対誤差を最も小さくする部位画像サイズを選択する。
    (i).前記複数部位のうちのいずれか1つの部位の前記誤差を0と仮定し、かつ前記誤差を0と仮定する部位を順次変える。
    (ii).前記(i)の条件の下で、前記誤差を0とした1つの部位を除く他の部位の前記相対誤差和を求める。
    (iii).どの部位の前記誤差を0としたときに前記(ii)の相対誤差和が最も小さくなるかを探索し、当該相対誤差和が最も小さくなったときの前記誤差を0とした部位画像サイズを、前記相対誤差を最も小さくする部位画像サイズとして選択する。
  5. 前記相対誤差比較手段は、前記部位画像検出手段により検出された前記複数部位の画像サイズと、前記複数部位において既知であるサイズに関する情報と、に加えて、事前統計知識として用意された、前記複数部位についての前記相対誤差の確率密度分布を用いて、前記相対誤差を最も小さくする部位画像サイズを選択する、
    請求項1に記載の距離計測装置。
  6. 前記複数部位の撮像品質を判定し、次フレームで再検出すべき部位を決定する部位品質判定手段と、
    再検出すべき部位に適したカメラパラメータを設定するカメラパラメータ制御手段と、
    を、さらに具備する請求項1に記載の距離計測装置。
  7. 対象物の撮像画像から、前記対象物に含まれる、サイズが既知である複数部位の部位画像を検出する部位画像検出ステップと、
    前記部位画像検出ステップで検出した前記複数部位の画像サイズと、前記複数部位において既知であるサイズに関する情報とを用いて、前記画像サイズと前記画像サイズに含まれる誤差との割合である相対誤差を最も小さくする部位画像サイズを選択する相対誤差比較ステップと、
    前記選択した部位画像サイズを用いて、前記対象物との距離を推定する距離推定ステップと、
    を含む距離計測方法。
JP2009134225A 2009-06-03 2009-06-03 距離計測装置及び距離計測方法 Expired - Fee Related JP5294995B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2009134225A JP5294995B2 (ja) 2009-06-03 2009-06-03 距離計測装置及び距離計測方法
CN2010800211765A CN102428345A (zh) 2009-06-03 2010-05-21 距离测量装置和距离测量方法
EP10783102A EP2439491A4 (en) 2009-06-03 2010-05-21 DISTANCE MEASURING DEVICE AND DISTANCE MEASURING METHOD
US13/375,608 US20120093372A1 (en) 2009-06-03 2010-05-21 Distance measuring device and distance measuring method
PCT/JP2010/003441 WO2010140314A1 (ja) 2009-06-03 2010-05-21 距離計測装置及び距離計測方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009134225A JP5294995B2 (ja) 2009-06-03 2009-06-03 距離計測装置及び距離計測方法

Publications (2)

Publication Number Publication Date
JP2010281638A true JP2010281638A (ja) 2010-12-16
JP5294995B2 JP5294995B2 (ja) 2013-09-18

Family

ID=43297457

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009134225A Expired - Fee Related JP5294995B2 (ja) 2009-06-03 2009-06-03 距離計測装置及び距離計測方法

Country Status (5)

Country Link
US (1) US20120093372A1 (ja)
EP (1) EP2439491A4 (ja)
JP (1) JP5294995B2 (ja)
CN (1) CN102428345A (ja)
WO (1) WO2010140314A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015001791A (ja) * 2013-06-14 2015-01-05 株式会社ジオ技術研究所 画像解析装置
JP2020132389A (ja) * 2019-02-22 2020-08-31 東芝エレベータ株式会社 エレベータシステム
DE102011005780B4 (de) 2011-03-18 2022-06-02 Robert Bosch Gmbh Verfahren und Vorrichtung zur Bestimmung einer Entfernung zwischen einem Fahrzeug und einem Objekt

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101429250B1 (ko) * 2010-08-20 2014-09-25 주식회사 팬택 단계별 객체 정보 제공이 가능한 단말 장치 및 방법
US9476970B1 (en) * 2012-03-19 2016-10-25 Google Inc. Camera based localization
KR20130127822A (ko) * 2012-05-15 2013-11-25 한국전자통신연구원 도로상 물체 분류 및 위치검출을 위한 이종 센서 융합처리 장치 및 방법
JP5809653B2 (ja) * 2013-02-28 2015-11-11 富士フイルム株式会社 車間距離算出装置およびその動作制御方法
KR101353052B1 (ko) * 2013-07-31 2014-01-20 주식회사 피엘케이 테크놀로지 교통표지판 인식을 위한 차량용 영상인식시스템
DE102013111840A1 (de) 2013-10-28 2015-04-30 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Verfahren zum Erfassen eines Objekts
DE102014202503A1 (de) * 2014-02-12 2015-08-13 Robert Bosch Gmbh Verfahren und Vorrichtung zum Bestimmen eines Abstands eines Fahrzeugs zu einem verkehrsregelnden Objekt
US9896022B1 (en) * 2015-04-20 2018-02-20 Ambarella, Inc. Automatic beam-shaping using an on-car camera system
GB201900839D0 (en) * 2019-01-21 2019-03-13 Or3D Ltd Improvements in and relating to range-finding
ES2954483T3 (es) * 2020-03-16 2023-11-22 Zeiss Carl Vision Int Gmbh Métodos y dispositivos implementados por ordenador para determinar las dimensiones y distancias de las características de la cabeza
CN111612109A (zh) * 2020-05-14 2020-09-01 中国铁建高新装备股份有限公司 一种轨道设备走行距离和速度的自动校验系统及方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11166811A (ja) * 1997-12-05 1999-06-22 Nippon Telegr & Teleph Corp <Ntt> 車間距離測定方法、車間距離測定装置及び車間距離測定プログラムを記録した記録媒体
JP2003030628A (ja) * 2001-07-18 2003-01-31 Fujitsu Ltd 相対位置計測装置
JP2004271250A (ja) * 2003-03-06 2004-09-30 Mitsubishi Motors Corp 車間距離検出装置
JP2005321872A (ja) * 2004-05-06 2005-11-17 Fuji Photo Film Co Ltd 撮像システム、撮像制御プログラム、撮像制御方法、および車両

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5577130A (en) * 1991-08-05 1996-11-19 Philips Electronics North America Method and apparatus for determining the distance between an image and an object
US5625711A (en) * 1994-08-31 1997-04-29 Adobe Systems Incorporated Method and apparatus for producing a hybrid data structure for displaying a raster image
JPH08219775A (ja) 1995-02-16 1996-08-30 Mitsubishi Heavy Ind Ltd 距離計測装置
US5867256A (en) * 1997-07-16 1999-02-02 Raytheon Ti Systems, Inc. Passive range estimation using image size measurements
JP3626141B2 (ja) * 2001-08-10 2005-03-02 株式会社ソキア 撮像装置を備えた自動視準測量機
US7424133B2 (en) * 2002-11-08 2008-09-09 Pictometry International Corporation Method and apparatus for capturing, geolocating and measuring oblique images
JP2006266848A (ja) * 2005-03-23 2006-10-05 Sharp Corp 距離測定装置
JP2006330908A (ja) 2005-05-24 2006-12-07 Toyota Motor Corp 位置記録装置及び位置記録方法
JP4587038B2 (ja) 2005-05-25 2010-11-24 住友電気工業株式会社 車両位置検出方法、並びに車両速度検出方法及び装置
US20070121094A1 (en) * 2005-11-30 2007-05-31 Eastman Kodak Company Detecting objects of interest in digital images
JP4426535B2 (ja) * 2006-01-17 2010-03-03 本田技研工業株式会社 車両の周辺監視装置
FR2897163B1 (fr) * 2006-02-08 2008-04-11 Thales Sa Procede de geo-localisation d'une ou plusieurs cibles
US20070206175A1 (en) * 2006-03-03 2007-09-06 Rai Barinder S Range finder integrated digital camera
JP4456086B2 (ja) * 2006-03-09 2010-04-28 本田技研工業株式会社 車両周辺監視装置
US8571272B2 (en) * 2006-03-12 2013-10-29 Google Inc. Techniques for enabling or establishing the use of face recognition algorithms
KR100884904B1 (ko) * 2007-09-12 2009-02-19 아주대학교산학협력단 평행 투영 모델을 이용한 자기위치 인식 방법
US8264537B2 (en) * 2007-09-28 2012-09-11 The Mainz Group Llc Photogrammetric networks for positional accuracy
JP5034050B2 (ja) 2007-11-01 2012-09-26 株式会社リコー 画像形成装置
JP5177147B2 (ja) * 2007-11-19 2013-04-03 富士通株式会社 撮像装置、撮像方法および撮像プログラム
CN100587396C (zh) * 2008-08-21 2010-02-03 金华市蓝海光电技术有限公司 用于激光测距仪的半导体激光驱动装置
CA2763369A1 (en) * 2009-06-01 2010-12-09 Bio-Rad Laboratories, Inc. Calibration of imaging device for biological/chemical samples
US8654195B2 (en) * 2009-11-13 2014-02-18 Fujifilm Corporation Distance measuring apparatus, distance measuring method, distance measuring program, distance measuring system, and image pickup apparatus
JP5168601B2 (ja) * 2010-03-31 2013-03-21 アイシン・エィ・ダブリュ株式会社 自車位置認識システム
JP5494427B2 (ja) * 2010-11-12 2014-05-14 富士通株式会社 画像処理プログラムおよび画像処理装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11166811A (ja) * 1997-12-05 1999-06-22 Nippon Telegr & Teleph Corp <Ntt> 車間距離測定方法、車間距離測定装置及び車間距離測定プログラムを記録した記録媒体
JP2003030628A (ja) * 2001-07-18 2003-01-31 Fujitsu Ltd 相対位置計測装置
JP2004271250A (ja) * 2003-03-06 2004-09-30 Mitsubishi Motors Corp 車間距離検出装置
JP2005321872A (ja) * 2004-05-06 2005-11-17 Fuji Photo Film Co Ltd 撮像システム、撮像制御プログラム、撮像制御方法、および車両

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011005780B4 (de) 2011-03-18 2022-06-02 Robert Bosch Gmbh Verfahren und Vorrichtung zur Bestimmung einer Entfernung zwischen einem Fahrzeug und einem Objekt
JP2015001791A (ja) * 2013-06-14 2015-01-05 株式会社ジオ技術研究所 画像解析装置
JP2020132389A (ja) * 2019-02-22 2020-08-31 東芝エレベータ株式会社 エレベータシステム

Also Published As

Publication number Publication date
US20120093372A1 (en) 2012-04-19
EP2439491A4 (en) 2012-12-19
CN102428345A (zh) 2012-04-25
EP2439491A1 (en) 2012-04-11
WO2010140314A1 (ja) 2010-12-09
JP5294995B2 (ja) 2013-09-18

Similar Documents

Publication Publication Date Title
JP5294995B2 (ja) 距離計測装置及び距離計測方法
US10698308B2 (en) Ranging method, automatic focusing method and device
RU2529594C1 (ru) Устройство калибровки, система измерения расстояния, способ калибровки и программа калибровки
JP4961234B2 (ja) 物体追跡装置
EP2584309B1 (en) Image capture device and image capture method
US8995753B2 (en) Stereo distance measurement apparatus and stereo distance measurement method
TWI393980B (zh) The method of calculating the depth of field and its method and the method of calculating the blurred state of the image
US20110069892A1 (en) Method of comparing similarity of 3d visual objects
JP2016207030A (ja) 画像処理装置
CN105953741B (zh) 一种钢结构局部几何变形的测量系统和方法
WO2011125937A1 (ja) キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置
CN110345875B (zh) 标定及测距方法、装置、电子设备及计算机可读存储介质
JP6505830B2 (ja) 細胞解析装置および細胞解析方法
CN111750804A (zh) 一种物体测量的方法及设备
JP2018087732A (ja) ワイヤロープ計測装置及び方法
JP5481862B2 (ja) パンタグラフ高さ測定装置及びそのキャリブレーション方法
CN109489560B (zh) 一种线性尺寸测量方法及装置、智能终端
JP2008298589A (ja) 位置検出装置及び位置検出方法
JPH04172213A (ja) 三次元形状測定装置の校正方法
JP2006349443A (ja) カメラ校正装置
CN109215068B (zh) 图像放大率测量方法及装置
US20220398778A1 (en) Lens calibration method for digital imaging apparatus
TWI407179B (zh) 影像自動對焦方法
JP2004354234A (ja) 写真計測用カメラキャリブレーション方法
JP2000074665A (ja) 距離画像生成装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130219

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130416

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130611

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees