JP6295868B2 - 車両用表示装置 - Google Patents

車両用表示装置 Download PDF

Info

Publication number
JP6295868B2
JP6295868B2 JP2014147428A JP2014147428A JP6295868B2 JP 6295868 B2 JP6295868 B2 JP 6295868B2 JP 2014147428 A JP2014147428 A JP 2014147428A JP 2014147428 A JP2014147428 A JP 2014147428A JP 6295868 B2 JP6295868 B2 JP 6295868B2
Authority
JP
Japan
Prior art keywords
obstacle
display
vehicle
image
host vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014147428A
Other languages
English (en)
Other versions
JP2016024573A (ja
Inventor
謙二 丸山
謙二 丸山
望月 千弘
千弘 望月
黒田 浩一
浩一 黒田
則雄 小坂
則雄 小坂
宍戸 真志
真志 宍戸
和弘 竹藤
和弘 竹藤
美咲 浅井
美咲 浅井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2014147428A priority Critical patent/JP6295868B2/ja
Publication of JP2016024573A publication Critical patent/JP2016024573A/ja
Application granted granted Critical
Publication of JP6295868B2 publication Critical patent/JP6295868B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、車両用表示装置に関する。
従来より、自車両のフロントガラスに先行車両を示す画像を表示する車両用表示装置が知られている(特許文献1)。特許文献1では、自車両が先行車両に追従可能な場合に、先行車両を示す画像を所定時間だけ表示する。
特開2005−67514号公報
特許文献1では、画像表示が更新されるまで先行車両と画像の位置関係がずれることになるが、画像の更新周期が一定であるため、この位置ずれは常に一定時間ごとに発生することになる。
本発明は、上記問題に鑑みて成されたものであり、その目的は、障害物と障害物を示す画像との位置ずれを低減できる車両用表示装置を提供することである。
本発明の一態様に係る車両用表示装置は、自車両の前方の領域を撮影し、撮影した画像から自車両の前方に存在する障害物を検出し、障害物の位置を示す画像を表示部に表示する。このとき、車両用表示装置は、検出した障害物が自車両にとって注意すべき障害物であると判断した場合には、障害物が自車両にとって注意すべき障害物でないと判断した場合よりも画像の表示更新周期を短くする。
本発明によれば、障害物と障害物を示す画像との位置ずれを低減できる。
図1は、本実施形態に係る車両用表示装置10の構成を示すブロック図である。 図2は、図1の表示コントローラ14の詳細な構成を示すブロック図である。 図3は、図1の車両用表示装置10を用いた車両用表示方法の一例を示すフローチャートである。 図4は、歩行者Mの表示例を示す図である。 図5(a)及び(b)は、自車両が直進走行している場合に撮影した画像を加工した図である。 図6(a)は、歩行者Mの表示例を示す図である。図6(b)は、図6(a)から周期t0経過直前の歩行者Mの表示例を示す図である。図6(c)は、図6(a)から周期t1経過直前の歩行者Mの表示例を示す図である。 図7は、表示画像Pの表示更新周期がt1である場合における車両用表示方法の一例を示すタイミングチャートである。 図8は、表示画像Pの表示更新周期がt0である場合における車両用表示方法の一例を示すタイミングチャートである。
以下、本発明の実施形態について、図面を参照して説明する。図面の記載において同一部分には同一符号を付して説明を省略する。
図1を参照して、本実施形態に係る車両用表示装置10の構成を説明する。車両用表示装置10は、自車両の前方を撮影する前方カメラ11と、ドライバカメラ12と、画像処理部13と、自車両の窓ガラスのうち自車両の乗員が外部環境を視認可能な領域に画像を表示する表示部15と、乗員から見て画像が自車両の前方の障害物に重畳するように、少なくとも画像の表示位置を制御する表示コントローラ14と、自車両の現在位置から予め定めた目的地までの走行予定経路を示す情報を取得する経路情報取得部としてのナビゲーション装置16と、車速センサ17を備える。
前方カメラ11は、CCD撮像素子やCMOS撮像素子を撮像素子として備え、フロントガラスの内側に配置され、光軸を前方に向けて自車両前方の画像を撮影する。前方カメラ11は、撮影した画像信号を画像処理部13へ出力する。
ドライバカメラ12は、乗員(たとえば運転者)の目の位置を測定するために、乗員の顔を含む領域を撮像する。ドライバカメラ12は、撮影した画像信号を画像処理部13へ出力する。
画像処理部13は、画像プロセッサを備えており、前方カメラ11で撮影された画像信号に対して所定の画像処理を行い、自車両の前方に存在する障害物の位置座標及び自車両に対する相対速度を演算する。そして、画像処理部13は、障害物の位置及び相対速度ベクトルの座標を表示コントローラ14へ出力する。また、画像処理部13は、ドライバカメラ12で撮影された画像信号に対して所定の画像処理を行い、乗員の視点位置を演算する。そして、画像処理部13は、乗員の視点位置座標を表示コントローラ14へ出力する。
ナビゲーション装置16は、地図データベースと、GPS信号等の測位信号を受信して車両の地図上の現在位置を検出する車両位置検出部と、車両の乗員が予め設定した目的地までの地図上の走行予定経路を算出する経路計算部とを備える。車速センサ17は、車輪の回転周期から自車両の速度を算出する。
表示コントローラ14は、入力された情報(車両の地図上の位置、走行予定経路、車速、障害物の位置座標、及び乗員の視点位置座標)に基づいて、乗員から見て画像が車両の前方の障害物に重畳するように表示部15に画像を表示させる。なお、表示コントローラ14の詳細な構成は図2を参照して後述する。
表示部15は、自車両の窓ガラス(たとえばフロントガラス)を表示画面とするヘッドアップディスプレイである。表示部15は、窓ガラスに画像を虚像として投影する投影部を備える。虚像は、たとえばフロントガラスの進行方向前方において像に集まる。乗員は、フロントガラスに投影された虚像を通じて、進行方向前方において、外部環境(たとえば、自車両前方の障害物)に重畳する画像を視認することができる。
次に、図2を参照して、図1の表示コントローラ14の詳細な構成を説明する。表示コントローラ14は、例えば、自車両に搭載されたマイコンからなり、予めインストールされたコンピュータプログラムをマイコンが実行することにより、次に示す演算部として機能する。即ち、表示コントローラ14は、障害物検出部21、衝突判断部22、予測位置演算部23、及び表示画像生成部24として機能する。また、前記したコンピュータプログラムには、マイコンを、ナビゲーション装置16、前方カメラ11、ドライバカメラ12、表示部15の制御部として機能させるためのプログラムも含まれる。
障害物検出部21は、画像処理部13から出力された信号に基づいて自車両の前方に存在する障害物を検出する。本実施形態において障害物とは、自車両にとって注意すべき障害物であり、例えば、自車両の走行ラインへ接近してくるもの、自車両に衝突する可能性があるものをいい、先行車両、バイク、自転車、歩行者、小動物、落下物などである。
以下の実施形態では、自車両に衝突する可能性があるものを障害物として認識する場合を示す。
衝突判断部22は、障害物が自車両に衝突する可能性があるか否かを判断する。換言すれば、衝突判断部22は、障害物が自車両に近づいているか遠ざかっているかを判断する。衝突判断部22が行う判断手法については後述する。
予測位置演算部23は、障害物の位置及び自車両に対する相対速度に基づいて表示部15に表示される障害物を示す画像(以下、表示画像という)の予測位置を演算する。
表示画像生成部24は、表示部15に表示される表示画像を生成する。
次に、図3のフローチャートを参照して、表示コントローラ14の処理動作の一例を説明する。まず、ステップS101において、表示コントローラ14は、画像の表示更新周期に係るタイマーtをリセットしてスタートさせる。本実施形態において、表示コントローラ14がタイマーtをリセットする際に、表示部15に表示される表示画像Pを図4に示す。図4に示す場面は、交差点の脇に歩行者Mが存在し、自車両が交差点に接近中の場面である。表示画像Pは、歩行者Mの下部に重畳表示される直線画像であって運転者に対して歩行者Mの位置を示す。
次に、ステップS102において、表示コントローラ14は、前方カメラ11及びドライバカメラ12を制御して画像を取得する。
次に、ステップS103において、障害物検出部21は、ステップS102で取得した画像を用いて自車両前方の障害物を検出する。障害物検出部21が障害物を検出しない場合、表示コントローラ14は、一連の処理を終了する。障害物検出部21が障害物を検出した場合、ステップS104に処理が進む。本実施形態において、障害物検出部21は、障害物として歩行者Mを検出したとする。
次に、ステップS104において、衝突判断部22は、歩行者Mが自車両に衝突する可能性があるか否かを判断する。衝突判断部22は、例えば図5(a)に示すように、歩行者Mが垂線L2に近づいた場合に、歩行者Mが自車両に衝突する可能性があると判断することができる。垂線L2は、消失点Wから画面下側に垂直に下した線である。図5(a)に示すL1は、車道と歩道の境界に設けられた縁石を示す境界線である。消失点Wは、左右の境界線L1の交点であり、自車両が走行する走行ラインが消失する点を示す。
なお、自車両の移動速度は、歩行者Mの移動速度より大幅に早いため、歩行者Mが垂線L2に近づく方向に移動している場合でも、衝突判断部22は、歩行者Mが垂線L2から遠ざかる方向に移動していると判断する場合が考えられる。そこで、衝突判断部22は、以下のようにして、歩行者Mが自車両に衝突する可能性があるか否かを判断してもよい。すなわち、衝突判断部22は、図5(b)に示すように、消失点Wから画面下側に所定の角度を設けて複数の補助線L3を引き、歩行者Mに重なる補助線L3を検出する。そして、衝突判断部22は、歩行者Mが、歩行者Mに重なる補助線L3から垂線L2に近いほうの補助線L3に近づく場合は、歩行者Mが自車両に衝突する可能性があると判断することができる。一方、衝突判断部22は、歩行者Mが、歩行者Mに重なる補助線L3から画面外側の補助線L3に近づく場合は、歩行者Mが自車両に衝突する可能性はないと判断することができる。
なお、衝突判断部22は、図5(a)に示す歩行者Mが画面下側に近づいてきたら、歩行者Mが自車両に衝突する可能性があると判断してもよい。
衝突判断部22によって歩行者Mが自車両に衝突する可能性があると判断された場合、ステップS105に処理が進む。一方、衝突判断部22によって歩行者Mが自車両に衝突する可能性はないと判断された場合、ステップS109に処理が進む。
ステップS105〜108は、周期t1で処理が進み、ステップS109〜112は、周期t0で処理が進む。ここで、周期t0と周期t1の関係について説明する。まず、本実施形態において周期とは、表示画像Pの表示更新に係る時間を示す。また、周期t0は、通常時の表示更新周期である。周期t0及び周期t1は、周期t0>周期t1なる関係を有する。すなわち、本実施形態において、表示コントローラ14は、歩行者Mが自車両に衝突する可能性がない場合は、周期t0で表示画像Pを更新する一方、歩行者Mが自車両に衝突する可能性がある場合は、周期t0より短い周期t1で表示画像Pを更新する。図6を参照してこの点を詳細に説明する。
図6(a)の状況から自車両及び歩行者Mが移動するにしたがい、歩行者Mと表示画像Pの位置関係は徐々にずれていくことになる。このとき、歩行者Mが自車両に衝突する可能性がある場合、安全上の観点からこの位置ずれが発生している時間を短くすることが望ましい。そこで、歩行者Mが自車両に衝突する可能性がある場合、表示コントローラ14は、周期t0から周期t1に切り替えて表示更新周期を短くする。これにより、図6(b)に示すように、歩行者Mと表示画像Pの位置関係がずれる前に表示画像Pを更新することができ、歩行者Mと表示画像Pの位置ずれを低減することができる。一方、歩行者Mが自車両に衝突する可能性がない場合は危険が少ないため、少し位置がずれたとしても直ちに安全上の問題につながる可能性が低い。このため、図6(c)に示すように、歩行者Mと表示画像Pの位置関係がずれるようなことがあっても、表示コントローラ14は、通常時の周期t0で表示画像Pを更新する。なお、表示コントローラ14は表示部15に複数の表示画像Pを表示できるが、表示コントローラ14が有するリソース(情報処理能力や描画能力など)には限りがある。このため、歩行者Mが自車両に衝突する可能性がある場合、表示コントローラ14は、この歩行者Mを示す表示画像Pの処理に優先的にリソースを配分し、表示更新周期を短くする。
図3のフローチャートに戻り、ステップS105において、予測位置演算部23は、ステップS102で取得した画像から、歩行者Mの位置及び自車両に対する相対速度を算出し、タイマーtがスタートしてから周期t1経過後の歩行者Mの予測位置を演算する。これにより、表示コントローラ14は、表示更新の際の通信や演算に係る時間中に自車両及び歩行者Mが移動することによって発生する位置ずれを低減することができる。
次に、ステップS106において、表示画像生成部24は、表示画像Pを生成する。
次に、ステップS107において、表示コントローラ14は、タイマーtをスタートさせてから周期t1を経過したか否かを判断する。タイマーtが周期t1を経過した場合、処理がステップS108に進む。タイマーtが周期t1を経過していない場合、表示コントローラ14は、処理を待機させる。タイマーtが周期t1を経過するまで処理を待機させる理由は、予測位置演算部23がステップS105においてタイマーtが周期t1を経過した後の表示画像Pの予測位置を演算しているからである。
次に、ステップS108において、表示コントローラ14は、表示画像Pを更新して表示部15に表示する。その後、処理がステップS101に戻り、表示コントローラ14は、次の周期の表示処理を開始する。
ステップS109において、ステップS105と同様に、予測位置演算部23は、ステップS102で取得した画像から、歩行者Mの位置及び自車両に対する相対速度を算出し、タイマーtがスタートしてから周期t0経過後の歩行者Mの予測位置を演算する。
次に、ステップS110において、ステップS106と同様に、表示画像生成部24は、表示画像Pを生成する。
次に、ステップS111において、ステップS107と同様に、表示コントローラ14は、タイマーtをスタートさせてから周期t0を経過したか否かを判断する。タイマーtが周期t0を経過した場合、処理がステップS112に進む。タイマーtが周期t0を経過していない場合、表示コントローラ14は、処理を待機させる。
次に、ステップS112において、ステップS108と同様に、表示コントローラ14は、表示画像Pを更新して表示部15に表示する。その後、処理がステップS101に戻り、表示コントローラ14は、次の周期の表示処理を開始する。
このように、衝突判断部22によって歩行者Mが自車両に衝突する可能性があると判断された場合、表示コントローラ14は表示画像Pの表示更新周期をt0からt0より短いt1に切り替える。ここで、図7及び図8を参照して、表示更新周期をt0からt0より短いt1に切り替えた場合の効果を説明する。図7は、周期t1におけるタイミングチャートであり、図8は周期t0におけるタイミングチャートである。図7に示すように、表示コントローラ14は、周期t1ごとに、図3に示すフローチャートのステップS101〜108までの処理を行って次の周期に表示するコマを演算し、周期t1経過後に、演算したコマを表示する。また、図8に示すように、表示コントローラ14は、周期t0ごとに、図3に示すフローチャートのステップS101〜104及びステップS109〜112までの処理を行って次の周期に表示するコマを演算し、周期t0経過後に、演算したコマを表示する。図7及び図8に示すように、表示を更新した直後は、位置ずれがもっとも少ない。その後、時間が経過するにしたがい、位置ずれが大きくなっていく。このとき、図7に示す周期t1の場合は、図8に示す周期t0より表示更新周期が短いため、位置ずれが発生している時間を短くすることができ、さらに位置ずれの最大値を抑えることができる。
なお、本実施形態において、表示画像Pとして、歩行者Mの下側に直線上の画像として説明したが、表示画像Pはこれに限られない。例えば、歩行者Mを四角枠で囲うように表示してもよいし、歩行者Mを矢印で示すように表示してもよい。
以上説明したように、本実施形態に係る車両用表示装置10は、歩行者Mが自車両に衝突する可能性があると判断した場合、歩行者Mが自車両に衝突する可能性がないと判断した場合より表示画像Pの表示更新周期を短くする。これにより、車両用表示装置10は、歩行者Mと歩行者Mを示す表示画像Pの位置ずれを低減することができる。
また、本実施形態に係る車両用表示装置10は、歩行者Mが垂線L2に近づいている場合に、歩行者Mが自車両に衝突する可能性があると判断することができる。これにより、車両用表示装置10は、歩行者Mが自車両に衝突する可能性を容易に判断することができる。
また、本実施形態に係る車両用表示装置10は、歩行者Mに重なる補助線L3を検出し、歩行者Mが、歩行者Mに重なる補助線L3から垂線L2に近いほうの補助線L3に近づく場合は、歩行者Mが自車両に衝突する可能性があると判断することができる。これにより、車両用表示装置10は、歩行者Mが自車両に衝突する可能性を容易に判断することができる。
また、本実施形態に係る車両用表示装置10は、歩行者Mの位置及び自車両に対する相対速度に基づいて表示画像Pを表示する予測位置を演算するため、表示更新の際の通信や演算に係る時間中に自車両及び歩行者Mが移動することによって発生する位置ずれを低減することができる。
上記のように、本発明の実施形態を記載したが、この開示の一部をなす論述及び図面はこの発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。例えば、歩行者Mが車道に存在する場合は、歩行者Mが歩道に存在する場合より歩行者Mが自車両に衝突する可能性が高いといえる。そこで、車両用表示装置10は、歩行者Mが車道に存在する場合は、歩行者Mが歩道に存在する場合より表示画像Pの表示更新周期を短くするようにしてもよい。これにより、車両用表示装置10は、歩行者Mが自車両に衝突する可能性が高い場合の位置ずれをさらに低減することができる。
10 車両用表示装置
11 前方カメラ(撮影部)
12 ドライバカメラ
13 画像処理部
14 表示コントローラ(表示制御部)
15 表示部
16 ナビゲーション装置
17 車速センサ
21 障害物検出部
22 衝突判断部
23 予測位置演算部
24 表示画像生成部

Claims (5)

  1. 自車両の前方の領域を撮影した撮影画像を取得する撮影部と、
    前記撮影画像から前記自車両の前方に存在する障害物を検出する障害物検出部と、
    前記自車両の窓ガラスのうち前記自車両の乗員が前記障害物を視認可能な領域に前記障害物の位置を示す画像を表示する表示部と、
    前記乗員から見て前記画像が前記障害物に重畳するように、少なくとも前記画像の表示位置を制御する表示制御部と、
    前記障害物が前記自車両にとって注意すべき障害物であるか否かを判断する衝突判断部と、を備え、
    前記表示制御部は、前記衝突判断部によって前記障害物が前記自車両にとって注意すべき障害物であると判断された場合には、前記衝突判断部によって前記障害物が前記自車両にとって注意すべき障害物でないと判断された場合よりも前記画像の表示更新周期を短くする
    ことを特徴とする車両用表示装置。
  2. 前記撮影画像の車道が消失する消失点から垂直に前記撮影画像の下側に引いた垂線に前記障害物が近づいた場合、前記衝突判断部は、前記障害物が前記自車両にとって注意すべき障害物であると判断することを特徴とする請求項1に記載の車両用表示装置。
  3. 前記衝突判断部は、前記消失点から前記撮影画像の下側に所定の角度を設けて引いた複数の補助線のうち、前記障害物と重なる第1補助線を検出し、前記障害物が前記第1補助線から前記垂線に近いほうの補助線に近づいた場合、前記障害物が前記自車両にとって注意すべき障害物であると判断することを特徴とする請求項2に記載の車両用表示装置。
  4. 前記障害物検出部は、前記障害物の位置及び前記自車両に対する前記障害物の相対速度を検出し、
    前記表示制御部は、前記障害物の位置及び相対速度に基づいて、前記画像の表示位置を制御することを特徴とする請求項1〜3のいずれか1項に記載の車両用表示装置。
  5. 前記表示制御部は、前記障害物が車道に存在する場合は、前記障害物が歩道に存在する場合よりも前記画像の表示更新周期を短くすることを特徴とする請求項1〜4のいずれか1項に記載の車両用表示装置。
JP2014147428A 2014-07-18 2014-07-18 車両用表示装置 Active JP6295868B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014147428A JP6295868B2 (ja) 2014-07-18 2014-07-18 車両用表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014147428A JP6295868B2 (ja) 2014-07-18 2014-07-18 車両用表示装置

Publications (2)

Publication Number Publication Date
JP2016024573A JP2016024573A (ja) 2016-02-08
JP6295868B2 true JP6295868B2 (ja) 2018-03-20

Family

ID=55271295

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014147428A Active JP6295868B2 (ja) 2014-07-18 2014-07-18 車両用表示装置

Country Status (1)

Country Link
JP (1) JP6295868B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6674793B2 (ja) * 2016-02-25 2020-04-01 京セラ株式会社 運転支援情報表示装置
WO2023145851A1 (ja) * 2022-01-28 2023-08-03 日本精機株式会社 表示装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1134698A (ja) * 1997-07-15 1999-02-09 Nissan Motor Co Ltd 車両用表示装置
JP3608527B2 (ja) * 2001-05-15 2005-01-12 株式会社豊田中央研究所 周辺状況表示装置
JP5158063B2 (ja) * 2009-12-02 2013-03-06 株式会社デンソー 車両用表示装置
JP6040897B2 (ja) * 2013-09-04 2016-12-07 トヨタ自動車株式会社 注意喚起表示装置及び注意喚起表示方法

Also Published As

Publication number Publication date
JP2016024573A (ja) 2016-02-08

Similar Documents

Publication Publication Date Title
CA3001287C (en) Display assistance device and display assistance method
JP6404922B2 (ja) 物体認識装置及びそれを用いた車両走行制御装置
JP6801787B2 (ja) 駐車支援方法及び駐車支援装置
JP5167051B2 (ja) 車両の運転支援装置
JP6014440B2 (ja) 移動物体認識装置
JP2010003254A (ja) 画像処理装置
WO2015111417A1 (ja) 運転支援装置、および運転支援方法
JP5210064B2 (ja) 車両の衝突防止装置
JP5974718B2 (ja) 車両走行支援装置及び車両走行支援方法
JP6295868B2 (ja) 車両用表示装置
KR102362485B1 (ko) 주차 지원 방법 및 주차 지원 장치
JP6361347B2 (ja) 車両用表示装置
JP6303418B2 (ja) 車両用走行案内装置および車両用走行案内方法
JP4930432B2 (ja) 車両用周辺監視装置
JP5723561B2 (ja) 運転支援装置
JP6253175B2 (ja) 車両の外部環境認識装置
JP5083959B2 (ja) 車両の運転支援装置
JP2010018223A (ja) 車両用走行路面検出装置
JP6564682B2 (ja) 対象物検出装置、対象物検出方法、及び、対象物検出プログラム
JP6569356B2 (ja) 情報呈示装置及び情報呈示方法
JP2013184491A (ja) 車両走行支援装置
JP2016024004A (ja) 車両用表示装置
JP2023154345A (ja) 車両制御装置、車両制御用コンピュータプログラム及び車両制御方法
JP2015026179A (ja) 衝突可能性判定システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180123

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180205

R151 Written notification of patent or utility model registration

Ref document number: 6295868

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151