JP5338566B2 - 車両検出装置、車両検出プログラム、および車両検出方法 - Google Patents

車両検出装置、車両検出プログラム、および車両検出方法 Download PDF

Info

Publication number
JP5338566B2
JP5338566B2 JP2009193851A JP2009193851A JP5338566B2 JP 5338566 B2 JP5338566 B2 JP 5338566B2 JP 2009193851 A JP2009193851 A JP 2009193851A JP 2009193851 A JP2009193851 A JP 2009193851A JP 5338566 B2 JP5338566 B2 JP 5338566B2
Authority
JP
Japan
Prior art keywords
vehicle
detected
detection
image
optical flow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009193851A
Other languages
English (en)
Other versions
JP2011048420A (ja
Inventor
徹洋 加藤
政美 水谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2009193851A priority Critical patent/JP5338566B2/ja
Publication of JP2011048420A publication Critical patent/JP2011048420A/ja
Application granted granted Critical
Publication of JP5338566B2 publication Critical patent/JP5338566B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、自車の周囲に存在する前方車あるいは対向車を検出することができる車載型の車両検出技術に関する。
従来、ミリ波レーダを用いた車両検出の方法が知られるが、縦位置(距離)は精度良く取れるものの、車両のどこから反射してくるか分からないため横位置の精度が悪くなるという原理的な欠点を抱えている。
PCS(Pre-Crash Safety System )を始めとする衝突回避システムにおいて、とくに、カーブした道路を走行中、先行車や対向車は自車に対し斜め方向を向いていることが多いため、衝突回避するには、検出車両の正面または背面の角(1点)(図7(a)におけるB点)、検出車両水平方向端部と背景との境界点(2点)(図7(a)におけるA、C点)の計3点を高精度に算出することが求められる。
これに対し、位置取得センサ(例えば、ミリ波レーダ)と撮像装置とを併用し、車両の認識精度を高くする装置が提案されている(特許文献1参照)。特許文献1では、測距装置(ミリ波レーダ等)が検出した物体位置を物体の中心点と見なし、その点を中心とした検出物体と前回の検出物体について、距離変化による大きさを考慮したテンプレートを用いてマッチング処理することにより追跡を行っている。
そして、テンプレートマッチングによって切り出された領域に対し、縦エッジヒストグラムの2点ピーク間の実空間距離を算出し、所定距離にあれば正しく追跡している検出物体とし、測距装置の検出結果を補正し、物体の位置、幅を出力することを特徴としている。
しかしながら、PCSでは前述の通り車両の3点の横位置を高精度に算出することが求められているのに対し、特許文献1は、先行車/対向車の背景との境界の2点を出力するものであり、検出車両が斜め方向を向いている場合に、上記3点を出力することができず、安全上の問題があった。
また、特許文献1では、2点の射影された横位置しか出力できず、検出車両の幅及び長さを算出できない。そのため、数種類の典型的な車両長等を基に車両領域を推定する方法を適用している。したがって、PCSのような衝突回避システムへ適用するには、実際よりも衝突対象領域を大きく見積もる必要があり、正確な衝突判定ができないという問題があった。
特開2008−269073号公報
そこで、上述した問題を解決するために、位置取得センサ(ミリ波レーダ等の距離計測が可能なセンサ)と撮像装置とを用い、検出対象車両が斜め方向を向いている場合でも、車両中心点および車両端部と背景との境界点の計3点の出力を可能とする車載型の車両検出技術を提供する。
発明の一つの態様は、位置取得センサと撮像装置を用いて車両を検出する車載型の車両検出装置であって、前記撮像装置で撮像した画像において前記位置取得センサから取得した車両候補点に対応した画像処理領域を決定する位置取得センサ対応画像領域決定部と、前記画像処理領域に対し予めメモリに格納された車両形状モデルを用いて識別処理を行い、対応する検出車両の正面または背面を検出する車両検出部と、前記検出車両の正面または背面を含む周辺画像領域のオプティカルフローを異なる2時刻の画像フレームから算出し、前記周辺画像領域に前記検出車両の正面または背面と同一向きのオプティカルフローが存在した場合、前記検出車両が斜め向きであると判定し、斜め向きとなった車両側面の一方の端点を正面または背面向きの車両の両端点に加え、車両位置として出力する車両向き判定部と、を有することを特徴とする車両検出装置に関する。
以上、本発明によれば、検出対象車両が斜め向きの場合でも、大抵のシーンで画像上車両の正面または背面が見えていることに着目し、車両正面または背面を検出し、検出した正面または背面周囲のオプティカルフローを評価することにより、要求される3点の車両位置が出力でき、PCSのような衝突回避システムへの適用が可能となる。
本発明の実施の形態になる車両検出装置の機能ブロック図である。 本発明の実施の形態になる車両検出装置の動作原理を説明する概念図である。 本発明の実施の形態になる車両検出装置の動作フローを示す図である。 本発明の実施の形態になる検出車両の自車に対する傾き角θの算出例を示す図である。 本発明の実施の形態になる俯瞰図上の車両位置の算出例を示す図である。 本発明の実施の形態になる車両衝突の判定例を示す図である。 衝突回避システムで要求される車両位置を示す図である。
以下、本発明の携帯情報端末の実施形態について説明する。以下の実施例では、位置取得センサとしてミリ波レーダを適用し、撮像装置としてCCD(Charge Coupled Device 電荷結合素子)カメラ等の画像センサを適用した例について示すが、本発明は、ミリ波レーダやCCDに限定されるものではない。
図1は、本発明の車両検出装置の機能ブロック図を示している。
本車両検出装置は、ミリ波レーダ(位置取得センサ)200、画像センサ(撮像装置)100、ミリ波対応画像領域決定部(位置取得センサ対応画像領域決定部)1、車両検出部2、車両向き判定部3、車両傾き算出部7、車両位置算出部4、車両軌道推定部5、および衝突判定部6を有する。以下に各部の役割について説明する。
ミリ波レーダ200は、自車周辺の所定の領域にある物体までの距離、方位(横方向)および自車と検出物体との相対速度を測定し、画像センサ100は、自車周辺の所定の領域を含む範囲を撮影する。
ミリ波対応画像領域決定部1は、ミリ波レーダ200より取得した車両候補点データと画像センサで撮像した画像データからミリ波レーダ検出点に対応した画像処理領域を決定する。
車両検出部2は、正面/背面向きの車両の形状モデルが予め登録されているメモリ10から該車両形状モデルを読み込み、識別処理を行って対応する車両の正面/背面を検出する。
車両向き判定部3は、検出された車両の正面/背面部分を含む周囲領域を評価し、車両向きを算出し、該車両向きに応じた車両位置を出力する。
車両傾き算出部7は、検出した車両の自車に対する傾きを算出し、車両位置算出部4は、車両向き判定部3で出力された車両位置と車両傾き算出部7で出力された検出車両の傾きから、自車と検出車両の俯瞰図上の位置を算出する。
車両軌道推定部5は、自車と検出車両の軌道を推定し、衝突判定部6は、車両軌道推定部5で出力された自車と検出車両の軌道から衝突可能性を判定する。
さらに、車両向き判定部3は、オプティカルフロー算出部31と端点判定処理部32を備えている。
オプティカルフロー算出部31は、車両検出部2で車両正面/背面を検出した場合、検出した車両正面/背面部分を含む周辺画像領域のオプティカルフローを異なる2時刻の画像フレームから算出する。
端点判定処理部32は、オプティカルフロー算出部31で算出した車両正面/背面の領域のオプティカルフローと所定の条件を満たすオプティカルフローが周囲に存在する場合に、当該車両が斜め向きであると判定し、該オプティカルフローの中で車両正面/背面より画像上の距離が水平方向に最も離れたものが存在する箇所を車両の端部とし、既に車両検出部2で検出した車両正面/背面の両端点と合わせて3つの端点を出力する。
一方、オプティカルフロー算出部31で算出した車両正面/背面の領域のオプティカルフローと所定の条件を満たすオプティカルフローが周囲に存在しない場合には、車両が正面/背面向きであると判定し、既に車両検出部2で検出した車両正面/背面の両端点(2つ)を出力することとなる。
なお、車両検出装置は、図示していないがCPU(Central Processing Unit )、メモリを有するコンピュータであり、本装置上で各処理部を動作させるプログラムは補助記憶装置(図にない)に記憶され、装置起動時にメモリに展開してCPUによって実行処理される。また、該プログラムは、フレキシブルディスク、CD(Compact Disk)、MO(Magneto-Optical )等の可搬媒体に格納され、各媒体に応じたディスクドライブで読み取る構成としてもよい。
図2は、車両検出装置の車両向き判定部の動作についての概念図を示している。上図の車両検出部2では、車両形状モデルによる識別処理して検出された車両の正面の画像フレームを示している。また、下図の車両向き判定部3では、オプティカルフロー算出部31が異なる2時刻の画像フレームから算出した、車両検出部2で検出された車両正面領域と車両正面周囲領域のオプティカルフローを示している。
さらに、端点判定処理部32では、車両正面領域と同方向のオプティカルフロー領域H1を車両側面部と判定し、該オプティカルフローの境界部分を端点Cとし、車両正面領域の端点A、Bと合わせて3点が出力される。
一方、車両正面領域と異なる方向のオプティカルフロー領域H2を背景と判定して除去される。
つぎに、本実施の形態に係る車両検出装置の動作について説明する。
図3は、車両検出装置における車両横位置を出力する手順の一例を示すフローチャートである。
まず、ステップS11において、車両検出装置は、起動時に画像センサ100から画像データを取得し、また、ミリ波レーダ200から車両候補点のデータ(距離・方位・相対速度等)を取得する。そして、ステップS12において、ミリ波対応画像領域決定部1は、画像センサ100から取得した画像内に、ミリ波レーダ200から取得したミリ波検知点に対応した画像処理領域を決定する。
つぎに、ステップS13において、車両検出部2は、メモリ10に予め蓄積していた車両の正面/背面向きの車両形状モデルを読み込み、ステップS12で算出した画像処理領域に対し、公知の技術であるAdaBoost等の識別手法を用いて識別処理を行い、車両の正面/背面を検出する。
ステップS14の判定において、車両の正面/背面が検出できなかった場合は処理を終了し、車両の正面/背面を検出できた場合のみステップS15へ進む。
ステップS15において、オプティカルフロー算出部31は、メモリ10から読み込んだ異なる2時刻の画像データから、ステップS14で検出した車両正面/背面部分を含む周辺画像領域についてオプティカルフローを算出する(図2参照)。
つぎに、ステップS16において、端点判定処理部32は、ステップS15で算出した車両の正面/背面領域のオプティカルフローAと車両の周囲領域のオプティカルフローBが,下記の所定の条件を満たすかを判定する。
ステップS17において、上記のような所定の条件を満たす場合、車両が斜め向きであると判定し、ステップS18において、車両の正面/背面領域と前記所定の条件を満たすオプティカルフローの中で、画像上車両の正面/背面領域端部から水平方向に最も離れたものが存在する箇所を車両の端部(図2におけるC点)とし、車両の正面/ 背面の両端点(図2におけるA、B点)と合わせ3点を出力する。
また、端点判定処理部32が、ステップS15で算出した車両の正面/背面領域のオプティカルフローと前記所定の条件を満たすオプティカルフローが車両の周囲領域に存在しない場合、車両が正面/背面向きであると判定し、車両の正面/背面の両端点(図2におけるA、B点)を出力する。
ステップS19において、車両傾き算出部7は、ミリ波レーダ200より取得する現時刻の車両候補点データ、およびメモリ10から読み込む、過去にミリ波レーダ200より取得したデータから、検出した検出車両の自車に対する傾きを算出する。
図4に、検出車両の自車に対する傾き算出の一例を絶対座標で考えた場合について示す。時刻t〜Δtの微小区間では、自車、検出車両共に等速直線運動していると仮定し、
m1:時刻tにおける検出車両位置
m2:時刻t+Δtにおける検出車両位置
n1:時刻tにおける自車位置
n2:時刻t+Δtにおける自車位置
D1:時刻tにおける自車と検出車両の距離(ミリ波レーダより取得)
D2:時刻t+Δtにおける自車と検出車両の距離(ミリ波レーダより取得)
θ1:時刻tにおける自車に対する検出車両の方位(ミリ波レーダより取得)
θ2:時刻t+Δtにおける自車に対する検出車両の方位(ミリ波レーダより取得)
V:時刻t〜t+Δtの自車速度(車速センサ)
Vrel:時刻tにおける自車に対する検出車両の相対速度
とすると、時刻t〜t+Δtの検出車両速度V2は、V2=Vcosθ1−Vrelとなり、V2≠0を満たすとき、自車に対する検出車両の軌道の傾きθは、
θ=atan((D1*sinθ1-D2*sinθ2)/(D1*cosθ1-D2*cosθ2-V*Δt)) と算出できる。
つぎに、ステップS20において、ステップS17で検出車両が斜め向きであると判定されたとき、車両位置算出部4は、ステップS18で算出した検出車両の横位置(3点)と、ステップS19にて算出した検出車両の自車に対する傾きと、ミリ波レーダ200の出力とから、俯瞰図上での検出車両、自車の位置を算出する。
図5に、俯瞰図上(xy平面)の車両位置算出の一例を示す。ここで、
θ:車両傾き算出部で算出
W1:検出車両の幅部分をx軸へ射影したもの(車両向き判定部より出力)
L1:検出車両の奥行き部分をx軸へ射影したもの(車両向き判定部より出力)
D:自車と検出車両との距離(位置取得センサより取得)
W2:検出車両の実際の幅
L2:検出車両の実際の長さ
とすると、L2、W2は、L2=L1/sinθ、W2=W1/cosθと求まり、ステップS13までで既知となっているθ、W1、L1、Dより俯瞰図上の検出車両と自車の位置を算出することができる。
また、ステップ17で検出車両が正面/背面向きであると判定されたとき、車両位置算出部4は、ステップS18で算出した検出車両の横位置(2点)とミリ波レーダ200の出力とから、俯瞰図上の検出車両と自車の位置を算出する。
ステップS21において、車両軌道推定部5は、ステップS20で出力した俯瞰図上における検出車両と自車の位置と、ミリ波レーダ情報と、車速センサ300の出力とをメモリに蓄積し、それらを参照することによって、自車と検出車両の軌道を幾何学的に推定する。
ステップS22において、衝突判定部22は、ステップS21で出力した自車と検出車両の軌道より、時刻t=nにおける自車領域と検出車両領域との重複面積をSnとするとSnが初めてSn>0を満たすとき、自車と検出車両は時刻t=nにおいて衝突が起こると判定する。
図6に、車両衝突の判定例を示す。俯瞰図上において時刻t=nまでの自車と検出車両の軌道を推定することにより衝突の可能性が予測できる。衝突の場合は、推定した軌道ににおいて自車と検出車両の重複面積Sが、S>0となる時刻t=nが存在する(図中、点線の位置)。このとき、自車と検出車両は時刻t=nにおいて衝突が起こる可能性が予測される。
以上述べてきたように、本発明では、検出対象車両が斜め向きの場合でも,大抵のシーンで画像上車両の正面/背面が見えていることに着目し、まず、車両正面/背面を検出し、検出した正面/背面周囲のオプティカルフローを評価することにより、PCSなどの衝突回避システムに要求される3点の車両位置が出力でき、自車との衝突判定をより高精度に行うこと可能となる。
自車周囲の前方車/ 対向車を検出すること可能とする車載型前方車/対向車検出技術の分野。
1 ミリ波対応画像領域決定部
2 車両検出部
3 車両向き判定部
4 車両位置算出部
5 車両軌道推定部
6 衝突判定部
7 車両傾き算出部
10 メモリ
100 画像センサ
200 ミリ波レーダ
300 車速センサ

Claims (4)

  1. 位置取得センサと撮像装置を用いて車両を検出する車載型の車両検出装置であって、
    前記撮像装置で撮像した画像において前記位置取得センサから取得した車両候補点に対応した画像処理領域を決定する位置取得センサ対応画像領域決定部と、
    前記画像処理領域に対し予めメモリに格納された車両形状モデルを用いて識別処理を行い、対応する検出車両の正面または背面を検出する車両検出部と、
    前記検出車両の正面または背面を含む周辺画像領域のオプティカルフローを異なる2時刻の画像フレームから算出し、前記周辺画像領域に前記検出車両の正面または背面と同一向きのオプティカルフローが存在した場合、前記検出車両が斜め向きであると判定し、斜め向きとなった車両側面の一方の端点を正面または背面向きの車両の両端点に加え、車両位置として出力する車両向き判定部と、
    を有することを特徴とする車両検出装置。
  2. 前記車両検出装置は、さらに、
    前記検出車両の自車の進行方向に対する傾きを算出する車両傾き算出部と、
    前記車両向き判定部で出力された車両位置と前記車両傾き算出部で出力された検出車両の傾きから自車と前記検出車両の俯瞰図上の位置を算出する車両位置算出部と、
    前記車両位置算出部で算出された自車と前記検出車両の俯瞰図上の位置に基づいて自車と前記検出車両の軌道を推定する車両軌道推定部と、
    前記車両軌道推定部で出力された自車と前記検出車両の推定軌道によって、その衝突可能性を判定する衝突判定部と、
    を有することを特徴とする請求項1に記載の車両検出装置。
  3. 位置取得センサと撮像装置を用いて車両を検出する車載型の車両検出装置における車両検出プログラムであって、
    コンピュータに、
    前記撮像装置で撮像した画像において前記位置取得センサから取得した車両候補点に対応した画像処理領域を決定する位置取得センサ対応画像領域決定ステップと、
    前記画像処理領域に対し予めメモリに格納された車両形状モデルを用いて識別処理を行い、対応する検出車両の正面または背面を検出する車両検出ステップと、
    前記検出車両の正面または背面を含む周辺画像領域のオプティカルフローを異なる2時刻の画像フレームから算出し、前記周辺画像領域に前記検出車両の正面または背面と同一向きのオプティカルフローが存在した場合、前記検出車両が斜め向きであると判定し、斜め向きとなった車両側面の一方の端点を正面または背面向きの車両の両端点に加え、車両位置として出力する車両向き判定ステップと、
    実行させる車両検出プログラム。
  4. 位置取得センサと撮像装置を用いて車両を検出する車載型の車両検出装置において実行される車両検出方法であって、
    前記撮像装置で撮像した画像において前記位置取得センサから取得した車両候補点に対応した画像処理領域を決定する位置取得センサ対応画像領域決定ステップと、
    前記画像処理領域に対し予めメモリに格納された車両形状モデルを用いて識別処理を行い、対応する検出車両の正面または背面を検出する車両検出ステップと、
    前記検出車両の正面または背面を含む周辺画像領域のオプティカルフローを異なる2時刻の画像フレームから算出し、前記周辺画像領域に前記検出車両の正面または背面と同一向きのオプティカルフローが存在した場合、前記検出車両が斜め向きであると判定し、斜め向きとなった車両側面の一方の端点を正面または背面向きの車両の両端点に加え、車両位置として出力する車両向き判定ステップと、
    を含むことを特徴とする車両検出方法。
JP2009193851A 2009-08-25 2009-08-25 車両検出装置、車両検出プログラム、および車両検出方法 Expired - Fee Related JP5338566B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009193851A JP5338566B2 (ja) 2009-08-25 2009-08-25 車両検出装置、車両検出プログラム、および車両検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009193851A JP5338566B2 (ja) 2009-08-25 2009-08-25 車両検出装置、車両検出プログラム、および車両検出方法

Publications (2)

Publication Number Publication Date
JP2011048420A JP2011048420A (ja) 2011-03-10
JP5338566B2 true JP5338566B2 (ja) 2013-11-13

Family

ID=43834704

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009193851A Expired - Fee Related JP5338566B2 (ja) 2009-08-25 2009-08-25 車両検出装置、車両検出プログラム、および車両検出方法

Country Status (1)

Country Link
JP (1) JP5338566B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014033954A1 (ja) * 2012-09-03 2014-03-06 トヨタ自動車株式会社 衝突判定装置及び衝突判定方法
KR102262369B1 (ko) 2014-05-09 2021-06-08 한화디펜스 주식회사 주변 차량 탐지 장치 및 방법
JP6454554B2 (ja) * 2015-01-20 2019-01-16 クラリオン株式会社 車両用外界認識装置およびそれを用いた車両挙動制御装置
DE112018004835T5 (de) 2017-09-01 2020-07-16 Murakami Corporation Kollisionsvorhersagevorrichtung, Kollisionsvorhersageverfahren und Programm
JP2020021188A (ja) * 2018-07-31 2020-02-06 田中 成典 自動車の姿勢推定装置
JP6731020B2 (ja) 2018-09-03 2020-07-29 株式会社Subaru 車外環境認識装置および車外環境認識方法
CN111047908B (zh) * 2018-10-12 2021-11-02 富士通株式会社 跨线车辆的检测装置、方法及视频监控设备
DE102018221617A1 (de) * 2018-12-13 2020-06-18 Robert Bosch Gmbh Verfahren zur Bestimmung einer Relativbewegung mittels einer digitalen Bilderfolge

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4599775B2 (ja) * 2001-08-06 2010-12-15 ソニー株式会社 画像処理装置と画像処理方法と画像処理プログラム及び情報記録媒体
JP4013856B2 (ja) * 2003-07-08 2007-11-28 日産自動車株式会社 後側方警報装置
JP2007279892A (ja) * 2006-04-04 2007-10-25 Honda Motor Co Ltd 衝突予知システムの制御装置、衝突予知方法および乗員保護システム
JP2008282097A (ja) * 2007-05-08 2008-11-20 Toyota Central R&D Labs Inc 衝突危険度推定装置及びドライバ支援装置

Also Published As

Publication number Publication date
JP2011048420A (ja) 2011-03-10

Similar Documents

Publication Publication Date Title
JP5338566B2 (ja) 車両検出装置、車両検出プログラム、および車両検出方法
US10144474B2 (en) Collision detection
CN107914708B (zh) 后方障碍物检测和距离估算
JP5407898B2 (ja) 対象物検出装置及びプログラム
US8610620B2 (en) Object detecting apparatus and object detecting method
US7889116B2 (en) Object detecting apparatus
JP4246766B2 (ja) 車両から対象物を位置測定して追跡する方法および装置
JP6349742B2 (ja) 多車線の検出方法と検出システム
US11340344B2 (en) Apparatus and method for tracking target vehicle and vehicle including the same
EP1901259A1 (en) Vehicle and lane recognizing device
US9102329B2 (en) Tracking control apparatus
JP4533936B2 (ja) 画像処理装置、及びこれを備えた車両検知装置
JP2006258497A (ja) 車両用物体認識装置
JP2003084064A (ja) 前方車両の認識装置及び認識方法
US11440541B2 (en) Apparatus and method for predicting concurrent lane change and vehicle including the same
JP2012089114A (ja) 障害物認識装置
JP2018055414A (ja) 物標レーン関係認識装置
CN108475471B (zh) 车辆判定装置、车辆判定方法和计算机可读的记录介质
JP2011039833A (ja) 車両検出装置、車両検出プログラム、および車両検出方法
JP4052291B2 (ja) 車両用画像処理装置
KR20080004832A (ko) 차량 검출 방법 및 장치
Tanaka et al. Vehicle detection based on perspective transformation using rear-view camera
JP3656056B2 (ja) 割り込み車両検出装置及びその方法
JP2012064026A (ja) 車両用対象物検出装置、およびその方法
WO2019065970A1 (ja) 車両用外界認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120510

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130709

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130710

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130722

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees