JP5790627B2 - 物標検出装置 - Google Patents

物標検出装置 Download PDF

Info

Publication number
JP5790627B2
JP5790627B2 JP2012264509A JP2012264509A JP5790627B2 JP 5790627 B2 JP5790627 B2 JP 5790627B2 JP 2012264509 A JP2012264509 A JP 2012264509A JP 2012264509 A JP2012264509 A JP 2012264509A JP 5790627 B2 JP5790627 B2 JP 5790627B2
Authority
JP
Japan
Prior art keywords
vehicle
target
pedestrian
stopped vehicle
detecting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012264509A
Other languages
English (en)
Other versions
JP2014109943A (ja
Inventor
崇弘 馬場
崇弘 馬場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2012264509A priority Critical patent/JP5790627B2/ja
Priority to DE102013113054.2A priority patent/DE102013113054B4/de
Priority to KR1020130146022A priority patent/KR101554892B1/ko
Priority to CN201310631370.0A priority patent/CN103852757B/zh
Priority to US14/093,968 priority patent/US9575176B2/en
Publication of JP2014109943A publication Critical patent/JP2014109943A/ja
Application granted granted Critical
Publication of JP5790627B2 publication Critical patent/JP5790627B2/ja
Priority to US15/268,853 priority patent/US10429502B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Radar Systems Or Details Thereof (AREA)

Description

本発明は、例えば歩行者等の物標を検出可能な物標検出装置に関する。
従来、画像センサを用いて自車両の周囲を撮像し、得られた画像に対し、所定の物標(例えば歩行者、車両等)のパターンを用いた画像認識処理を行い、物標を検出する技術が知られている。物標の検出結果は、その物標と自車両との衝突を回避するための処理(例えば自車両にブレーキをかける処理)に使用される(特許文献1参照)。
特許第4313712号公報
自車両の周囲に停止車両が存在し、その停止車両の向こう側から歩行者が飛び出すことがある。そのような歩行者との衝突を回避するためには、歩行者が停止車両の向こう側にいる時点で歩行者を検出することが必要である。
停止車両の向こう側に位置する歩行者の下半身は停止車両により隠され、上半身のみが画像センサの撮像画像に表れる。この場合、歩行者の全身のパターンを用いて画像認識を行っても、歩行者を検出できないことがある。
本発明は以上の点に鑑みなされたものであり、停止車両が存在する場合でも歩行者を検出できる可能性が高い物標検出装置を提供することを目的とする。
本発明の第1の局面に係る物標検出装置は、自車両の周囲を撮像する撮像手段と、撮像手段により取得した画像から、所定の物標のパターンを用いた画像認識により物標を検出する物標検出手段とを備える。
また、本発明の第1の局面に係る物標検出装置は、自車両の周囲に存在する停止車両を検出する停止車両検出手段を備え、物標検出手段は、停止車両検出手段により停止車両を検出した場合、停止車両を検出しない場合よりも、画像のうち、少なくとも自車両から見て停止車両と重なる領域において、物標のパターンに含まれる歩行者の上半身のパターンの数を増す
本発明の第1の局面に係る物標検出手段は、画像のうち、自車両から見て停止車両と重なる領域において歩行者を優先的に検出するので、停止車両が存在する場合でも歩行者を検出できる可能性が高い。
本発明の第2の局面に係る物標検出装置は、自車両の周囲を撮像する撮像手段と、撮像手段により取得した画像から、所定の物標のパターンを用いた画像認識により物標を検出する物標検出手段とを備える。
物標検出手段は、画像認識を複数回数実行し、その複数回の画像認識のうち、所定回数以上、同一の物標が認識された場合、その物標を検出する。
また、第2の局面に係る物標検出装置は、自車両の周囲に存在する停止車両を検出する停止車両検出手段を備え、物標検出手段は、停止車両検出手段により停止車両を検出した場合、停止車両を検出しない場合よりも、画像のうち、少なくとも自車両から見て停止車両と重なる領域において、歩行者(109)を検出する際の前記所定回数の値を小さくする。
本発明の第2の局面に係る物標検出手段は、画像のうち、自車両から見て停止車両と重なる領域において歩行者を検出する基準を緩くするので、停止車両が存在する場合でも歩行者を検出できる可能性が高い。
物標検出装置1の構成を表すブロック図である。 物標検出装置1が実行する処理を表すフローチャートである。 物標検出装置1が実行する処理を表す説明図である。 物標検出装置1が奏する効果を表す説明図である。 物標検出装置1が実行する処理を表すフローチャートである。 物標検出装置1が実行する処理を表すフローチャートである。
本発明の実施形態を図面に基づき説明する。
<第1の実施形態>
1.物標検出装置1の構成
物標検出装置1の構成を図1に基づき説明する。物標検出装置1は、車両に搭載される車載装置であって、後述する処理により物標を検出し、その物標の情報(物標の種類、自車両から見た方位、自車両からの距離等)を出力する。なお、以下では、物標検出装置1が搭載される車両を自車両とする。
物標検出装置1は、ミリ波センサ3、画像センサ5、及びECU7を備える。ミリ波センサ3は、FMCW方式のいわゆる「ミリ波レーダ」として構成されたものであり、周波数変調されたミリ波帯のレーダ波を送受信して、そのミリ波を反射した物標の存在、方位、及び距離を検出することができる。ミリ波センサ3がミリ波を送信する範囲は、自車両が走行する道路の前方又は側方における他の車両(停止車両を含む)、歩行者等の物標を含むことができる範囲である。
画像センサ5は周知の構成を有するカメラであり、自車両の周囲(前方及び側方)の風景を撮像し、その撮像画像(以下、単に画像とする)を取得することができる。
ECU7は、図示しないCPU、ROM、RAM等の周知の構成を有しており、後述する処理を実行する。前記ROMには、後述する処理を実行するプログラムが記憶されている。
ECU7は、画像センサ5により取得した画像から、所定の物標のパターンを用いた画像認識により物標を検出することができる。すなわち、ECU7は、車両、歩行者の全身、歩行者の上半身等、多数の物標に対応する画像認識用のパターンを予め保持しており、その中から選択された100のパターンについて、それぞれ、画像センサ5により取得した画像と対比して画像認識を行う。100のパターンのうち、歩行者の上半身のパターンの数Pは、通常の場合は10であるが、後述するように、停止車両が検出される等、所定の条件下では30となる。
画像認識の結果、画像中に所定の物標のパターンと一致度が高い部分がある場合、その部分に、対応する物標を認識する。画像認識は、1つのパターンにつき、それぞれ、複数回行う。複数回の画像認識のうち、N回以上、同一の物標が認識された場合、その物標を検出したと判断する。ここで、上記Nの値は、通常の場合は3であるが、後述するように、停止車両が検出される等、所定の条件下では1となる。
なお、画像センサ5は撮像手段の一実施形態である。画像センサ5及びECU7は物標検出手段の一実施形態である。ミリ波センサ3、画像センサ5及びECU7は停止車両検出手段、及び歩行者位置推定手段の一実施形態である
自車両は、物標検出装置1が出力する情報に応じて、自車両にブレーキをかける自動ブレーキ装置101を備えている。自動ブレーキ装置101は、物標検出装置1が検出した物標と自車両との距離に応じて、その物標との衝突を避けるための処理を実行する。
すなわち、検出された物標との距離が遠い場合は、自車両のドライバに音声や画像による警告を行い、物標との距離が中間距離となった場合は、自車両にブレーキをかける処理(但しドライバの操作により解除可能)を実行し、物標との距離が近くなった場合は、自車両に強制的にブレーキをかける処理(ドライバは解除不能)を実行する。
2.物標検出装置1が実行する処理
図2〜図4に基づき、物標検出装置1が所定時間ごとに繰り返し実行する処理を説明する。図2のステップ1では、ミリ波センサ3による物標検出、及び画像センサ5及びECU7による上記の画像認識を実行し、その結果から、自車両の前方又は側方において停止車両の後端を検出できるか否かを判断する。
具体的には、図3に示すように、停止した状態にある(継続的に同じ位置に存在する)停止車両105の後端105aを画像認識により検出し、且つ、ミリ波センサ3が、停止した状態にある(継続的に同じ位置に存在する)後端105aに対応する反射波を得た場合は、停止車両105の後端105aを検出できると判断し、それ以外の場合は後端105aを検出できないと判断する。後端105aを検出できる場合はステップ2に進み、後端105aを検出できない場合はステップ12に進む。
ステップ2では、ミリ波センサ3による物標検出を実行し、その結果から、停止車両の側面を検出できるか否かを判断する。具体的には、図3に示すように、自車両103の中心を通り、自車両の進行方向に向う仮想直線104からの距離r1、r2、r3、・・・が一定の面をミリ波センサ3により検出し、且つその面が前記ステップ1で検出した後端105aと一定の位置関係(一台の車両の後端と側面に該当する位置関係)にある場合は、その面を、停止車両105の側面105bとして検出する。側面105bを検出できる場合はステップ3に進み、側面105bを検出できない場合はステップ12に進む。
ステップ3では、前記ステップ1、ステップ2の検出結果に基づき、自車両の周囲に1台以上の停止車両105が存在することを認識する。
ステップ4では、上述した、画像センサ5及びECU7による画像認識において使用するパターンを、停止車両が存在する条件下におけるパターンに変更する。
すなわち、画像センサ5で取得した画像を、自車両103から見て、停止車両105と重なる領域A1と、それ以外の領域A2とに区分し、領域A1の画像認識においては、100のパターンの中に含まれる、歩行者の上半身のパターンの数Pを30とする(歩行者を優先的に検出できるようにする)とともに、領域A2については、通常のとおり、100のパターンの中に含まれる、歩行者の上半身のパターンの数Pを10とする。
ステップ5では、上述した、画像センサ5及びECU7による画像認識における上記Nの値を、停止車両が存在する条件下における値とする。具体的には、画像センサ5で取得した画像のうち、領域A1の画像認識においては、歩行者の上半身のパターンを用いる場合の上記Nの値を1とする(歩行者を検出する基準を緩くする)。
すなわち、領域A1においては、歩行者の上半身のパターンを用いた複数回の画像認識のうち、1回でも、歩行者の上半身が認識された場合、歩行者を検出したと判断する。一方、領域A2の画像認識においては、全てのパターン(歩行者の上半身のパターンを含む)について、上記Nの値は通常の通り3とする。また、領域A1において、歩行者以外のパターンを用いる場合も、上記Nの値は通常の通り3とする。
ステップ6では、上述した、画像センサ5及びECU7による画像認識に基づく物標の検出を実行する。ここで、領域A1の画像認識において使用する歩行者の上半身のパターンの数P、及びNの値は、前記ステップ4、及びステップ5で設定したものとする。
ステップ7では、前記ステップ6において、画像の領域A1内の歩行者を検出したか否かを判断する。画像の領域A1内の歩行者を検出した場合はステップ8に進み、そのような歩行者を検出しなかった場合はステップ10に進む。
ステップ8では、自車両103から画像の領域A1内の歩行者までの距離を、ミリ波センサ3により取得できるか否か(すなわち、その歩行者からの反射波の強度が充分に高いか否か)を判断する。歩行者までの距離を取得できる場合はステップ9に進み、取得できない場合はステップ11に進む。
ステップ9では、ミリ波センサ3を用いて、自車両103から画像の領域A1内の歩行者までの距離を測定する。
一方、前記ステップ8において、歩行者までの距離をミリ波センサ3により取得できないと判断した場合はステップ11に進み、停止車両を利用してその歩行者までの距離を推定する。
すなわち、歩行者が画像の領域A1(停止車両105と同一の方位)内に存在し、その歩行者からの反射波の強度が弱いことから、歩行者は、図3において、自車両103から見て、停止車両105の向こう側の領域107に存在すると推定できるので、停止車両105の位置、及びその側面105bの長さから、領域107の位置(すなわち歩行者の位置)を推定し、自車両103からその領域107までの距離を、自車両103から歩行者までの距離として取得する。
ステップ10では、前記ステップ6又は後述するステップ12において検出した物標の情報(物標の種類、自車両103から見た方位、自車両103からの距離等)を自動ブレーキ装置101に出力する。
ここで、前記ステップ7において、領域A1内の歩行者を検出したと判断し、その歩行者までの距離を前記ステップ9又はステップ11にて取得した場合は、その歩行者までの距離として、前記ステップ9又はステップ11にて取得した値を出力する。
また、前記ステップ1又はステップ2において否定判断をした場合はステップ12に進み、画像センサ5及びECU7による画像認識に基づく物標の検出を実行する。ここで、画像認識において使用する歩行者の上半身のパターンの数Pは通常の通り、10であり、Nの値も通常の通り、3である。また、検出した各物標までの距離を、ミリ波センサ3を用いて測定する。
3.物標検出装置1が奏する効果
(1)物標検出装置1は、画像センサ5により取得した画像のうち、停止車両105と重なる領域A1の画像認識においては、歩行者の上半身のパターンの数Pを増加させ、歩行者の上半身(すなわち歩行者)を優先的に検出する。
そのため、図4に示すように、自車両103から見て、停止車両105の向こう側に歩行者109が存在し、画像センサ5により取得した画像中に、歩行者109の上半身のみが表れている場合でも、歩行者109を検出することができる。
(2)物標検出装置1は、画像センサ5により取得した画像のうち、停止車両105と重なる領域A1の画像認識においては、Nの値を通常よりも小さい値として、歩行者を検出する基準を緩くする。
そのため、図4に示すように、自車両103から見て、停止車両105の向こう側に歩行者109が存在し、画像センサ5により取得した画像中に、歩行者109の上半身のみ表れている場合でも、歩行者109を検出することが容易になる。
(3)物標検出装置1は、自車両103から見て停止車両105の向こう側に歩行者109が存在し、ミリ波センサ3により歩行者109までの距離を測定することが困難な場合でも、停止車両105の位置及び長さに基づき、歩行者109の位置を推定することができる。
(4)物標検出装置1は、停止車両105の後端105aと側面105bとを検出することにより、停止車両105を検出する。そのことにより、停止車両を正確に検出することができる。
4.変形例
(1)前記ステップ4において、領域A1での画像認識に用いる歩行者の上半身のパターンの数Pは30には限定されず、通常時の数より大きい任意の数とすることができる。
(2)前記ステップ5において、領域A1の画像認識でのNの値は1には限定されず、通常時の値より小さい任意の数とすることができる。
(3)前記ステップ1において、後端105aを検出したと判断する条件は、「画像センサ5及びECU7による画像認識によって、停止車両105の後端105aを検出すること」と、「ミリ波センサ3が停止車両105aの後端に対応する反射波を得ること」とのうちの一方であってもよい。
(4)領域A1は、停止車両105と重なる領域を含むとともに、その周辺も含む領域であってもよい。また、画像センサ5で取得した画像の全体を領域A1としてもよい。
<第2の実施形態>
本実施形態における物標検出装置1の構成、及び実行する処理は基本的には前記第1の実施形態と同様であるが、一部において相違する。以下では、相違点を中心に説明する。本実施形態の物標検出装置1は、図5のフローチャートに示す処理を実行する。この処理は、前記第1の実施形態における処理と対比して、前記ステップ5の処理が存在しないという点で相違し、ステップ101〜111の処理は、それぞれ、前記第1の実施形態におけるステップ1〜4、6〜12に対応する。
すなわち、本実施形態では、画像センサ5により取得した画像のうち、停止車両105と重なる領域A1の画像認識においても、Nの値を通常の値(3)のままとする。
本実施形態の物標検出装置1は、Nの値の変更に起因する効果を除き、前記第1の実施形態の場合と略同様の効果を奏することができる。
<第3の実施形態>
本実施形態における物標検出装置1の構成、及び実行する処理は基本的には前記第1の実施形態と同様であるが、一部において相違する。以下では、相違点を中心に説明する。本実施形態の物標検出装置1は、図6のフローチャートに示す処理を実行する。この処理は、前記第1の実施形態における処理と対比して、前記ステップ4の処理が存在しないという点で相違し、ステップ201〜211の処理は、それぞれ、前記第1の実施形態におけるステップ1〜3、5〜12に対応する。
すなわち、本実施形態では、画像センサ5により取得した画像のうち、停止車両105と重なる領域A1の画像認識においても、Pの値を通常の値(10)のままとする。
本実施形態の物標検出装置1は、Pの値の変更に起因する効果を除き、前記第1の実施形態の場合と略同様の効果を奏することができる。
尚、本発明は前記実施の形態になんら限定されるものではなく、本発明を逸脱しない範囲において種々の態様で実施しうることはいうまでもない。
例えば、ミリ波センサ3の代わりに、他の波長のレーダ波を送受信して物標を検出する物標検出手段を用いてもよい。
また、停止車両の存在を検出する方法は、他の方法(例えばインフラ情報により停止車両を検出する方法等)であってもよい。
1・・・物標検出装置、3・・・ミリ波センサ、5・・・画像センサ、
7・・・ECU、101・・・自動ブレーキ装置、103・・・自車両、
104・・・仮想直線、105・・・停止車両、105a・・・後端、
105b・・・側面、107・・・領域、109・・・歩行者

Claims (5)

  1. 自車両(103)の周囲を撮像する撮像手段(5)と、
    前記撮像手段により取得した画像から、所定の物標のパターンを用いた画像認識により前記物標を検出する物標検出手段(5、7)と、
    自車両の周囲に存在する停止車両(105)を検出する停止車両検出手段(3、5、7)と、
    を備え、
    前記物標検出手段は、前記停止車両検出手段により前記停止車両を検出した場合、前記停止車両を検出しない場合よりも、前記画像のうち、少なくとも自車両から見て前記停止車両と重なる領域において、前記物標のパターンに含まれる歩行者の上半身のパターンの数を増すことを特徴とする物標検出装置(1)。
  2. 自車両(103)の周囲を撮像する撮像手段(5)と、
    前記撮像手段により取得した画像から、所定の物標のパターンを用いた画像認識により前記物標を検出する物標検出手段(5、7)と、
    自車両の周囲に存在する停止車両(105)を検出する停止車両検出手段(3、5、7)と、
    を備え、
    前記物標検出手段は、前記画像認識を複数回数実行し、その複数回の画像認識のうち、所定回数以上、同一の物標が認識された場合、その物標を検出するものであって、
    前記停止車両検出手段により前記停止車両を検出した場合、前記停止車両を検出しない場合よりも、前記画像のうち、少なくとも自車両から見て前記停止車両と重なる領域において、歩行者(109)を検出する際の前記所定回数の値を小さくすることを特徴とする物標検出装置(1)。
  3. 前記停止車両検出手段は、前記物標検出手段、及び/又は、レーダ波を送受信して前記レーダ波を反射した物標を検出する手段(3)を用いて前記停止車両を検出することを特徴とする請求項1又は2に記載の物標検出装置。
  4. 前記停止車両検出手段は、前記停止車両の後端(105a)と、前記後端から一定の位置関係にある前記停止車両の側面(105b)とを検出することにより、前記停止車両を検出することを特徴とする請求項1〜のいずれか1項に記載の物標検出装置。
  5. 前記物標検出手段により検出した歩行者が、自車両から見て、前記停止車両検出手段により検出した停止車両と同一の方位にある場合、前記停止車両の位置及び長さに基づき、前記歩行者の位置を推定する歩行者位置推定手段(3、5、7)を備えることを特徴とする請求項1〜のいずれか1項に記載の物標検出装置。
JP2012264509A 2012-12-03 2012-12-03 物標検出装置 Active JP5790627B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2012264509A JP5790627B2 (ja) 2012-12-03 2012-12-03 物標検出装置
DE102013113054.2A DE102013113054B4 (de) 2012-12-03 2013-11-26 Zielerfassungsvorrichtung zum Vermeiden einer Kollision zwischen einem Fahrzeug und einem durch einen an dem Fahrzeug montierten Sensor erfassten Ziel
KR1020130146022A KR101554892B1 (ko) 2012-12-03 2013-11-28 차량에 탑재된 센서에 의해 포착된 목표물과 차량간의 충돌을 회피하기 위한 목표물 검출 디바이스
CN201310631370.0A CN103852757B (zh) 2012-12-03 2013-11-29 用于避免车辆与由安装至车辆的传感器所捕捉的目标之间的碰撞的目标检测装置
US14/093,968 US9575176B2 (en) 2012-12-03 2013-12-02 Target detecting device for avoiding collision between vehicle and target captured by sensor mounted to the vehicle
US15/268,853 US10429502B2 (en) 2012-12-03 2016-09-19 Target detecting device for avoiding collision between vehicle and target captured by sensor mounted to the vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012264509A JP5790627B2 (ja) 2012-12-03 2012-12-03 物標検出装置

Publications (2)

Publication Number Publication Date
JP2014109943A JP2014109943A (ja) 2014-06-12
JP5790627B2 true JP5790627B2 (ja) 2015-10-07

Family

ID=51030528

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012264509A Active JP5790627B2 (ja) 2012-12-03 2012-12-03 物標検出装置

Country Status (1)

Country Link
JP (1) JP5790627B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6592266B2 (ja) * 2015-03-31 2019-10-16 株式会社デンソー 物体検知装置、及び物体検知方法
JP6493422B2 (ja) * 2016-02-10 2019-04-03 株式会社デンソー 走行支援装置
JP7077606B2 (ja) 2017-12-22 2022-05-31 株式会社デンソー 衝突判定装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005202678A (ja) * 2004-01-15 2005-07-28 Nissan Motor Co Ltd 走行支援装置
JP4946228B2 (ja) * 2006-07-18 2012-06-06 トヨタ自動車株式会社 車載用歩行者検出装置
JP2008242571A (ja) * 2007-03-26 2008-10-09 Honda Motor Co Ltd 物体検出装置
JP5145986B2 (ja) * 2008-02-05 2013-02-20 日産自動車株式会社 物体検出装置及び測距方法
JP5287392B2 (ja) * 2009-03-17 2013-09-11 トヨタ自動車株式会社 物体識別装置
JP4733756B2 (ja) * 2009-04-28 2011-07-27 本田技研工業株式会社 車両周辺監視装置

Also Published As

Publication number Publication date
JP2014109943A (ja) 2014-06-12

Similar Documents

Publication Publication Date Title
US10429502B2 (en) Target detecting device for avoiding collision between vehicle and target captured by sensor mounted to the vehicle
JP5910046B2 (ja) 障害物検出装置
US9623869B2 (en) Vehicle driving support control apparatus
JP5371273B2 (ja) 物体検知装置、周辺監視装置、運転支援システムおよび物体検知方法
JP5855272B2 (ja) ブレーキ状況を認識する方法および装置
JP4857839B2 (ja) 物体検出装置
JP6885721B2 (ja) 物体検出装置、物体検出方法
US11086007B2 (en) Target detection device
JP2008276689A (ja) 車両用障害物認識装置
JP6717240B2 (ja) 物標検出装置
JP2008037361A (ja) 障害物認識装置
US20180370531A1 (en) Object detection device and object detection method
JP7413935B2 (ja) 車載センサシステム
JP6394228B2 (ja) 物体検出装置
JP2013019684A (ja) 車両周辺監視装置
JP6432538B2 (ja) 衝突予測装置
JP5233696B2 (ja) レーン境界線検出装置、境界線検出プログラム、および逸脱警報装置
JP6703471B2 (ja) 物体検知装置
JP2014102165A (ja) 物標判定装置
JP2018060422A (ja) 物体検出装置
JP5790627B2 (ja) 物標検出装置
JP5783163B2 (ja) 物標検出装置
JP2012164275A (ja) 画像認識装置
WO2017164017A1 (ja) 車両検知装置
JP2008040819A (ja) 障害物認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140528

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141020

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141028

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150720

R151 Written notification of patent or utility model registration

Ref document number: 5790627

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250