JP2007265012A - フロントガラスの範囲検出装置、方法及びプログラム - Google Patents
フロントガラスの範囲検出装置、方法及びプログラム Download PDFInfo
- Publication number
- JP2007265012A JP2007265012A JP2006089018A JP2006089018A JP2007265012A JP 2007265012 A JP2007265012 A JP 2007265012A JP 2006089018 A JP2006089018 A JP 2006089018A JP 2006089018 A JP2006089018 A JP 2006089018A JP 2007265012 A JP2007265012 A JP 2007265012A
- Authority
- JP
- Japan
- Prior art keywords
- windshield
- height
- vehicle
- feature line
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
- Traffic Control Systems (AREA)
Abstract
【解決手段】物体が移動する場所を俯瞰するカメラにより、当該場所を周期的に撮影し、撮影した画像内に走行車両が検出された場合に、その走行車両の画像に表れる、走行車両の進行方向に垂直な走行車両の特徴ラインを検出し、前記特徴ラインを画面上で追跡することにより、当該特徴ラインの高さを算出する。これらの特徴ラインの高さ情報を用いて、フロントガラス上端及び下端となる特徴ライン位置を特定する。
【選択図】図9
Description
一方、速度違反等に対する違反警告においては、対象車両の画像を大型表示板に表示するシステムが有効な抑止力を持っているが、プライバシー対策のため、搭乗者が映っているフロントガラスの範囲はマスクする必要がある。
また、この機能を低コストに実現する装置も求められる。
特開平10−055445号公報では、ナンバープレート位置と文字認識結果による車種情報(大型車/普通車)よりフロントガラスの範囲を推測しているが、同一車種であっても車体形状は様々であり、推測範囲内にフロントガラスの範囲の一部又はすべてが含まれないおそれがある。また、特に大型車において、ナンバープレートとフロントガラスが同一画面内に収まらない場合には、この方式ではフロントガラスの範囲を抽出することは不可能である。
また、特開平11−025394号公報では、カメラを1m程度の高さに設置し真横から車両を見ることにより、長い水平エッジが上から、屋根、フロントガラス上端、フロントガラス下端の順に検出し、車高に対してフロントガラスの縦の大きさは1/3〜1/2であると設定し、フロントガラスの範囲を検出している。しかし、カメラの設置条件が水平に限定されており、一般道路ではこのようなカメラ設置は行わない(カメラを破壊される虞がある)。路面上方からの一般のカメラ設置では、車体後部にも長い水平エッジが検出されるため、この方式では対応できない。
また、この物体の高さ情報を用いれば、フロントガラスの範囲の抽出も容易にできる。
本発明は、従来よりも簡単な構成の装置を用いてフロントガラスの範囲を抽出できるフロントガラスの範囲検出方法及び装置を提供することを目的とする。
そこで、これらのラインの中から最大の高さを持つ特徴ライン、又は最大の高さから低くなる方向に第1の所定範囲の高さを持つ特徴ラインのうち、最も車両の進行方向側に存在する特徴ラインをフロントガラスの上端位置とすることができる。フロントガラスの上端位置が決まれば、前記フロントガラスの上端位置から低くなる方向に第2の所定範囲の高さを持つ特徴ラインのうち、最も車両の進行方向側に存在する特徴ラインをフロントガラスの下端位置とする。そしてこれらの上端位置と下端位置とに挟まれた領域をフロントガラスの領域とすることができる。
そして、検出したフロントガラスの範囲が映っている画像を抽出し、表示し、蓄積し又は送信することもでき、また、検出したフロントガラスの範囲をマスク処理した画像を作成し、表示し、蓄積し又は送信することもできるので、フロントガラスを含む画像に求められる扱いに対応することが容易となる。
前記特徴ラインの高さを検出する場合、フロントガラスの範囲検出のためには、絶対的な高さを検出してもよく、相対的な高さを検出してもよい。前者の場合、実際の車両速度を求める必要がある。後者の場合、実際の車両速度を求める必要はなく、任意の車両移動速度を設定することにより、特徴ラインの相対的な高さを検出することができる。
また、前記特徴ラインの最大高さが更新された時点の画像のみを蓄積することとし、前記蓄積された画像に基づいて、上端位置と下端位置とに挟まれたフロントガラスの領域を検出することもできる。この場合、更新後の画像のみを蓄積すればよいので、画像を蓄積するメモリの容量を節約することができる。
図1は、本発明のフロントガラスの範囲検出装置の構成図を示す。
道路上方に道路面を俯瞰するように、カメラ2を所定の高さに設置している。カメラ2の視野範囲5は、道路の一車線上にある。
カメラ2の撮影画像は、映像ケーブル3を通して計測部4に入力される。計測部4は、通信手段を持ち、計測結果を遠隔地の交通管制センターや警察署に提供することができる。
図3は、計測部4の構成例を示す図である。
計測部4は、画像入力部41、A/D変換部42、画像メモリ43、演算部44、通信部45を有する。
図4は、計測部4の行うフロントガラスの範囲判定処理方法を説明するためのフローチャートである。
演算部44は、画像入力部41を通して画像を取り込み、画像メモリ43に記憶させる(ステップS1)。画像の取り込み間隔は、例えば1秒間に30枚(1/30秒)とする。
図5は、車両検出用の計測範囲Rを示す図である。計測範囲Rは、画面上に四角の太枠で示している。
この枠内において、車両有無を判定する。
あるいは、路面模様の明るさ変化のある部分(以下、エッジと呼ぶ)の位置を予め記憶しておき、入力画像についてもエッジを算出し、それらのエッジの鋭さの差を算出し、閾値以上の差が検出された場合を車両有りとし、閾値以下の変化の場合は車両なしとすることもできる。
次に、特徴ライン抽出処理を行う(ステップS5)。
図6は、特徴ライン抽出処理を説明するための詳細フローチャートである。
まず、各画素毎に、前時刻と現時刻の明るさの差を算出し、その差が閾値以上ある場合、時間差分変化ありとする(ステップT1)。これは、路面標示等の動かない路面のエッジを消すためである。
計算式は、例えば
D=I11×1+I12×2+I13×1-I31×1-I32×2-I33×1
である(Ijkは、行列の第j行第k列の画素の輝度を表す)。
図8は、細線化された水平エッジ画像の一例を示す図である。
このヒストグラムに基づいて、画面の上部から下部にかけて(下部から上部でもよい)、水平エッジ数が、その水平ラインの上下に隣接する水平ラインと比較して閾値以上大きいラインを抽出する。これは図7に円で囲んだ、尖ったピークの部分に該当する。この尖ったラインを「特徴ライン」という。
以下、次に取り込んだ画像に基づいて、ステップS2以下の処理を繰り返す。
ステップS3で、画像内に車両がなくなったと判定された場合、ステップS7に移り、今までの車両検出回数をしきい値nと比較する。
車両検出回数が閾値nを超えていたら、ステップS8に移り、特徴ラインの高さ算出処理に入る。
図9は、検出された特徴ラインの画面上の位置を縦軸に、時刻を横軸にとったグラフである。特徴ラインが5本写った場合を例示している。
図9において、各特徴ラインの軌跡は、画面上における見かけの動きであり、各時刻における実空間上での位置を射影したものである。車両の走行に従って、特徴ラインが時間の経過とともに画面の上から下へ移動している。
図10のように、実空間での座標系を(X,Y,Z)とし、カメラ2の撮影面上での座標系を(P,Q)とする。
実空間では、垂直方向をZ、道路の延びる方向をY、道路を横断する方向をXにとる。
カメラ2は、道路の延長線上に設置されており、その撮影面では、道路横断方向Xと平行に横軸Pをとり、横軸Pと直角に縦軸Qをとる。縦軸Qは、道路の垂直方向Zに対して、俯角に相当する角度αだけ傾いているものとする。
撮影面上での座標q(単位:画素数)と、実空間上での座標点(y,z)には、(1)(2)式の関係式が成立する。
z=H−(ftanα−ξ)y/(ξtanα+f) (1)
ξ=(Sq/Nq)q (2)
ここで、ξは特徴ラインの撮像面上の高さである。微少時間(画面上下範囲を通過する時間)内での車両の移動速度vは検出済みであるから、所定時刻からの経過時間に基づいて各時刻での実空間上のY座標y(t)が算出できる。
すると(1)式から、前記y(t)に基づいて、ξ(t)を時間の関数として算出できる。このξ(t)を使えば、(2)式からq(t)が時間の関数として求まる。
従って、このq(t)を時間の関数として、曲線Uを描くことができる。
特徴ラインの実空間上での高さzを変数(パラメータ)とし、高さzを変えていけば、複数のq(t)を描いた曲線群ができる。
同図では、各曲線とも、時刻t0における撮影面上の高さを同一値qsに統一している。また同図で、高さzは、z0>z1>z2の関係がある。
高さz0に対応する曲線U0は、短い時間で撮影面を上端から下端まで(撮影面の上端から下端までを「カメラ2の視野」という)通過していることがわかる。この現象は、高さの高い物体、例えば車両の屋根などは、比較的短時間でカメラ2の視野を横切るという経験則に対応している。
従って、車両の移動速度が分かっているとして、特徴ラインがこのカメラ2の視野を通過する時間Tを測定すれば、当該物体の高さが求まる。
例えば図11では、特徴ラインの時々刻々の軌跡例がプロットされており、それらの点がカメラ2の視野を通過するのに時間Tかかっているとする。この時間Tをかけてカメラ2の視野を通過する曲線U*を特定することができる。曲線U*に対応する高さをz*とすると、そのz*が特徴ラインの実空間上での高さとなる。
例えば図11では、撮影された特徴ラインの時々刻々の軌跡がプロットされているが、それらの点は、曲線U*にフィットしているとする。曲線U*に対応する高さをz*とすると、そのz*が特徴ラインの実空間上での高さとして求まる。
しかし、1つの移動速度に対応する曲線群を持っておけば、他の移動速度の曲線群は、時間のスケールを延び縮みさせるだけで簡単に求めることができる。
以上の説明では、図11に示したように、グラフ上で時間を計り、曲線形の一致を調べていたが、これらの処理は、実際には、コンピュータの計算処理機能を利用して行うことは言うまでもない。例えば、前記曲線形の一致を調べるには、最小自乗法など、公知の最尤推定法を用いればよい。
次に、フローチャート(図4)のステップS9に移り、フロントガラスの上端位置を検出する。
次に、実空間上で、特徴ラインの高さが最大値から所定範囲内(例えば0%〜-10%)に存在する特徴ライン位置を検出し、最も車両の進行方向側の特徴ライン位置を検出し、フロントガラス上端位置とする。
所定範囲を定めるのは、フロントガラス上端が検出されるだけでなく、走行方向後ろ側の屋根の後ろ側の部分が、道路との境界として検出されることがあるからである(図9参照)。この場合、フロントガラス上端と屋根の後ろ側の部分はほぼ同じような高さとなるので、高さだけでは判断しにくいが、走行方向を基準にすれば、フロントガラス上端が最も車両先頭側となる。したがって、前記のように最大値を含み、最大値から所定範囲内で車両先頭側の特徴ラインを検出することとしたのである。
すなわち、フロントガラス上端位置の、例えば実空間上での高さ及び車両進行方向の位置に対して、特徴ラインの高さがフロントガラス上端位置から所定範囲内(例えば-50cm〜-100cm)、及び車両先頭方向へ所定範囲内(例えば0cm〜100cm)に存在する特徴ライン位置を検出し、それらのうち最も低い位置又は最も車両の進行方向側にある特徴ライン位置をフロントガラス下端位置とする。
このような検出方法により、複数の特徴ラインを探索範囲内に検出したとき、探索範囲内で、最も画面上でのフロントガラスの範囲が大きくなる位置、つまり最下端位置を選択することができる。
最後に、求まったフロントガラスの範囲を含む画像に対して、フロントガラスの部分の抽出や、画像の拡大、あるいはマスク処理を行い、当該画像の情報を外部装置へ発信する。
詳しく言うと、速度を任意の一定値とおく。これに基づいて図11の曲線群の形を一種類作る。測定値をこの曲線群にフィットさせることにより、各特徴ラインの高さを求める。これは、各特徴ラインの実際の高さではなく、特徴ラインの実空間上の相対的な高さとなる。つまり各特徴ラインの高さの絶対値は不明であるが、それらの比が、実際の高さの比に等しくなっているのである。
次に、フロントガラス上端位置が、画面の最も上部に映っているときの時刻の画像を抽出し、この画像座標において、フロントガラス上端位置の高さに対して、特徴ラインの高さが車両の進行方向側(画面下方向)の所定範囲内(例えば50画素〜100画素)に存在する特徴ライン位置を検出し、最も下側にある特徴ライン位置をフロントガラス下端位置とする。
以上に述べた方式では、車両が画面上を通過した始めから通過完了するまでの画像を蓄積しておく必要がある。一方で、フロントガラス上端または下端となる特徴ライン位置は、境界線が明瞭であり、ノイズの影響が少ないため、フロントガラスの範囲の検出を目的とする場合は、前述の図11のようにフィッティングによるノイズ対策は必須ではない。
この処理を、フローチャート(図12)を用いて説明する。
演算部44は、画像入力部41を通して画像を取り込み、画像メモリ43に記憶させる(ステップU1)。演算部44は、画像メモリ43に記憶された画像に基づいて、画面の中に車両が存在するかどうかを検出する(ステップU2)。例えば、予め車両が存在しない場合の路面画像を作成しておき、取り込んだ画像との明るさの差を算出し、閾値以上の変化が検出された場合を車両有りとし、閾値以下の変化の場合は車両なしとする(ステップU3)。
ステップU6で、車両検出回数が2以上であれば、時刻t1,t2で同一の特徴ラインを特定する特徴ラインマッチング処理を行う(ステップU7)。
さらに、画像内の複数の特徴ラインの実空間上での移動距離cは、同一車体内の場合は同一なので、前記関数式により、各特徴ラインの相対的な高さが算出できる(ステップU8)。
各特徴ラインの高さの最大値とともにその画像を保存しておき(蓄積画像という)、その特徴ラインの高さの最大値が、さらに所定範囲(例えば10%) 以上高くなった場合にのみ、特徴ラインの高さの最大値を更新する(ステップU9)。このとき、蓄積画像も更新する(ステップU10)。特徴ラインの高さの最大値が高くならなかった場合は、最大値の更新も蓄積画像の更新もしない。
図13(a)は、バンパー上端のエッジが、最も高さの高い特徴ラインL2として、まず認識された状態の画像を示している。この画像が蓄積される。
図13(b)は、時間の経過に連れて、写っている車両の部分が拡大しているが、特徴ラインL2は、より高さの高いラインに更新されていない状態を示している。したがって、画像の更新は行われない。
図13(d)は、時間の経過に連れて、写っている車両の部分がさらに拡大し、より高さの高い特徴ラインである、フロントガラスの上端のエッジL4が検出された状態を示している。したがって、特徴ラインの高さの最大値は更新され、蓄積画像も更新される。
ステップU3で、画像内から車両がなくなったと判定された場合、ステップU11に移り、今までの車両検出回数をしきい値nと比較する。車両検出回数の閾値nは、前述したように「3」程度に設定する。
この処理は、前述したのと同様であり、蓄積画像において高さが最大となった特徴ラインをフロントガラス上端位置とする。
次に、フロントガラス上端位置に対して、特徴ラインの高さが一定値範囲内に存在する特徴ライン位置を検出し、最も画面下側の特徴ライン位置を検出し、フロントガラス下端位置とする。
以上で、本発明の実施の形態を説明したが、本発明の実施は、前記の形態に限定されるものではなく、本発明の範囲内で種々の変更を施すことが可能である。
3 映像ケーブル
4 計測部
41 画像入力部
42 A/D変換部
43 画像メモリ
44 演算部
45 通信部
Claims (9)
- 路上を見下ろし撮影するカメラと、前記カメラの撮影画像を取り込み処理する計測部とを備え、前記計測部は、
撮影した画像内に走行車両が検出された場合に、当該画像に含まれる、その走行車両の進行方向に垂直な方向に表れる特徴ラインを検出する特徴ライン検出手段と、
前記特徴ライン検出手段により検出された特徴ラインの高さを検出する高さ検出手段と、
検出された最大の高さを持つ特徴ライン、又は最大の高さから低くなる方向に第1の所定範囲内の高さを持つ特徴ラインのうち、最も車両の進行方向側に存在する特徴ラインをフロントガラスの上端位置とし、前記フロントガラスの上端位置から低くなる方向に第2の所定範囲内の高さを持つ特徴ラインのうち、最も低い位置又は最も車両の進行方向側に存在する特徴ラインをフロントガラスの下端位置とし、前記フロントガラスの上端位置と下端位置とに挟まれた領域をフロントガラスの領域とするフロントガラス範囲検出手段とを備える、フロントガラスの範囲検出装置。 - 前記車両の進行方向は、近づいてくる車両を撮影する場合の、カメラ画像座標上で上から下への方向である請求項1記載のフロントガラスの範囲検出装置。
- 前記車両の進行方向は、近づいてくる車両を撮影する場合の、道路実空間座標上でカメラに近づく方向である請求項1記載のフロントガラスの範囲検出装置。
- 前記高さ検出手段は、車両移動速度を測定することにより、特徴ラインの絶対的な高さを検出するものである請求項1記載のフロントガラスの範囲検出装置。
- 前記高さ検出手段は、任意の車両移動速度を設定することにより、特徴ラインの相対的な高さを検出するものである請求項1記載のフロントガラスの範囲検出装置。
- 前記高さ検出手段は、2時刻間の画像同士で同一の特徴ラインを決定し、車両移動距離を一定に設定することにより、当該特徴ラインの高さを算出する請求項1記載のフロントガラスの範囲検出装置。
- 特徴ラインの最大高さが更新された時点の画像のみを蓄積する蓄積手段をさらに備え、
前記フロントガラス範囲検出手段は、前記蓄積手段により蓄積された画像に基づいて、フロントガラスの領域を検出する請求項6記載のフロントガラスの範囲検出装置。 - カメラで路上を撮影した画像内に走行車両が検出された場合に、当該画像に含まれる、その走行車両の進行方向に垂直な方向に表れる特徴ラインを検出し、
前記特徴ラインの高さを検出し、
検出された最大の高さを持つ特徴ライン、又は最大の高さから低くなる方向に第1の所定範囲の高さを持つ特徴ラインのうち、最も車両の進行方向側に存在する特徴ラインをフロントガラスの上端位置とし、
前記フロントガラスの上端位置から低くなる方向に第2の所定範囲の高さを持つ特徴ラインのうち、最も低い位置又は最も車両の進行方向側に存在する特徴ラインをフロントガラスの下端位置とし、
前記フロントガラスの上端位置と下端位置とに挟まれた領域をフロントガラスの領域とする、フロントガラスの範囲検出方法。 - カメラで路上を撮影した画像内に走行車両が検出された場合に、当該画像に含まれる、その走行車両の進行方向に垂直な方向に表れる特徴ラインを検出する手順と、
前記特徴ラインの高さを検出する手順と、
検出された最大の高さを持つ特徴ライン、又は最大の高さから低くなる方向に第1の所定範囲の高さを持つ特徴ラインのうち、最も車両の進行方向側に存在する特徴ラインをフロントガラスの上端位置とする手順と、
前記フロントガラスの上端位置から低くなる方向に第2の所定範囲の高さを持つ特徴ラインのうち、最も低い位置又は最も車両の進行方向側に存在する特徴ラインをフロントガラスの下端位置とする手順と、
前記フロントガラスの上端位置と下端位置とに挟まれた領域をフロントガラスの領域とする手順とを含む、フロントガラスの範囲検出プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006089018A JP4333683B2 (ja) | 2006-03-28 | 2006-03-28 | フロントガラスの範囲検出装置、方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006089018A JP4333683B2 (ja) | 2006-03-28 | 2006-03-28 | フロントガラスの範囲検出装置、方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007265012A true JP2007265012A (ja) | 2007-10-11 |
JP4333683B2 JP4333683B2 (ja) | 2009-09-16 |
Family
ID=38637940
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006089018A Expired - Fee Related JP4333683B2 (ja) | 2006-03-28 | 2006-03-28 | フロントガラスの範囲検出装置、方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4333683B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010186399A (ja) * | 2009-02-13 | 2010-08-26 | Mitsubishi Heavy Ind Ltd | 通過車両記録システム |
JP2013037394A (ja) * | 2011-08-03 | 2013-02-21 | Toshiba Corp | 車両検出装置 |
-
2006
- 2006-03-28 JP JP2006089018A patent/JP4333683B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010186399A (ja) * | 2009-02-13 | 2010-08-26 | Mitsubishi Heavy Ind Ltd | 通過車両記録システム |
JP2013037394A (ja) * | 2011-08-03 | 2013-02-21 | Toshiba Corp | 車両検出装置 |
Also Published As
Publication number | Publication date |
---|---|
JP4333683B2 (ja) | 2009-09-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP1796043B1 (en) | Object detection | |
CN107738612B (zh) | 基于全景视觉辅助系统的自动泊车停车位检测与识别系统 | |
US8379926B2 (en) | Vision based real time traffic monitoring | |
JP5297078B2 (ja) | 車両の死角における移動物体を検知するための方法、および死角検知装置 | |
US8238610B2 (en) | Homography-based passive vehicle speed measuring | |
JP3822515B2 (ja) | 障害物検知装置及びその方法 | |
US8213685B2 (en) | Video speed detection system | |
US20130286205A1 (en) | Approaching object detection device and method for detecting approaching objects | |
CN110298300B (zh) | 一种检测车辆违章压线的方法 | |
CN108197523B (zh) | 基于图像转换及轮廓邻域差异的夜间车辆检测方法及系统 | |
CN110738150B (zh) | 相机联动抓拍方法、装置以及计算机存储介质 | |
Aytekin et al. | Increasing driving safety with a multiple vehicle detection and tracking system using ongoing vehicle shadow information | |
CN111860352B (zh) | 一种多镜头车辆轨迹全跟踪系统及方法 | |
Lin et al. | Lane departure and front collision warning using a single camera | |
CN104408932A (zh) | 一种基于视频监控的酒驾车辆检测系统 | |
JP2006329776A (ja) | 車両位置検出方法、並びに車両速度検出方法及び装置 | |
JP2000285245A (ja) | 移動体の衝突防止装置、衝突防止方法、および記録媒体 | |
US10984264B2 (en) | Detection and validation of objects from sequential images of a camera | |
CN102496281A (zh) | 一种基于跟踪与虚拟线圈结合的车辆闯红灯检测方法 | |
CN108021849B (zh) | 一种行人预警方法及装置 | |
JP2015064752A (ja) | 車両監視装置、および車両監視方法 | |
CN111967396A (zh) | 障碍物检测的处理方法、装置、设备及存储介质 | |
JP2015090679A (ja) | 車両軌跡抽出方法、車両領域抽出方法、車両速度推定方法、車両軌跡抽出プログラム、車両領域抽出プログラム、車両速度推定プログラム、車両軌跡抽出システム、車両領域抽出システム、及び、車両速度推定システム | |
JP2011513876A (ja) | 物体の動作を特徴づけるための方法およびシステム | |
Kanhere et al. | Real-time detection and tracking of vehicle base fronts for measuring traffic counts and speeds on highways |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090319 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20090427 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090507 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090602 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090615 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120703 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120703 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130703 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |