JP6593708B2 - 運転操作監視装置 - Google Patents

運転操作監視装置 Download PDF

Info

Publication number
JP6593708B2
JP6593708B2 JP2016231881A JP2016231881A JP6593708B2 JP 6593708 B2 JP6593708 B2 JP 6593708B2 JP 2016231881 A JP2016231881 A JP 2016231881A JP 2016231881 A JP2016231881 A JP 2016231881A JP 6593708 B2 JP6593708 B2 JP 6593708B2
Authority
JP
Japan
Prior art keywords
unit
driving
monitoring device
determination unit
performed again
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016231881A
Other languages
English (en)
Other versions
JP2018088196A (ja
Inventor
英行 小原
清 竹澤
智子 中神
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2016231881A priority Critical patent/JP6593708B2/ja
Publication of JP2018088196A publication Critical patent/JP2018088196A/ja
Application granted granted Critical
Publication of JP6593708B2 publication Critical patent/JP6593708B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、車両の運転手が行う操作を監視する運転操作監視装置に関する。
運転手の操作や挙動などを監視して運転内容を評価し、当該評価結果を運転手にフィードバックすることにより運転技術の向上を図るシステムが、特許文献1〜4に開示されている。
特許文献1では、閾値以上の加速度が測定された回数に基づいて、安全運転の評価を行い、閾値以上の加速度が測定された回数および法定速度以上の速度が測定された回数に基づいて、エコ運転の評価を行うようにしている。
特許文献2では、画像データと運転データとに基づき、信号機が無く、横断歩道が検出され、かつ、横断歩道脇に人がいることが検出されている場合に、自車両の制動距離が横断歩道までの距離以上であれば、減速あるいは停車していないと判断し、運転の評価点を下げるようにしている。
特許文献3では、道路上の一時停止地点に自車両が接近した場合に、カメラの画像に基づいて、運転者が左右方向に顔を向ける首振動作と、その首振動作の際の運転者の開眼状態とを検出し、当該検出結果に基づいて運転者の運転挙動を評価するようにしている。
特許文献4では、自車両に後方確認シーンが到来した場合に、カメラの画像に基づいて、運転者の予め定められた後方確認動作と、その後方確認動作の際の開眼状態とを検出し、当該検出結果に基づいて運転者の運転挙動を評価するようにしている。
特開2010−72766号公報 特開2015−55921号公報 特開2015−90676号公報 特開2015−141432号公報
近年では、高齢者人口の増加に伴い、いわゆる高齢者ドライバーによる事故が多発している。高齢者については、視力、聴力、体力などの点で衰えが目立つのは仕方がないとしても、判断力が低下した場合は、たとえばブレーキとアクセルとを踏み間違えるなど、運転操作を誤ることによって重大な事故を起こすことがあり、運転能力の欠如が問題となる。このため、運転手の運転能力を評価し、早い段階で運転能力の低下を察知することが肝要である。
そこで、本発明の課題は、運転手の運転能力を簡便に評価できる運転操作監視装置を提供することにある。
本発明に係る運転操作監視装置は、車両の運転手により操作される操作部と、運転手による操作部の操作を撮影する撮影部と、この撮影部が撮影した画像に基づいて、操作部の操作後に同じ操作が再度行われたか否かを判定する判定部と、この判定部により同じ操作が再度行われたと判定された場合に、当該判定結果を記録する記録部と、操作部が操作されたことを検出して、操作検出信号を出力する操作検出部とを備えている。判定部は、操作検出部から操作検出信号を受信した後、撮影部が撮影した画像に基づいて、同じ操作が再度行われたか否かを判定する。
このような運転操作監視装置によると、操作部において同じ操作が再度行われるたびに、その結果が記録部に記録されてゆくので、随時または定期的に記録部の記録内容を出力することで、運転手の運転能力を簡便に評価することができる。
本発明において、撮影部は、操作検出部からの操作検出信号を受信した時点から、撮影を開始するようにしてもよい。
本発明において、判定部は、画像上で操作部が操作される場面が検出されたか否かを判定し、その後、画像上で前記操作と同じ操作が再度行われる場面が検出されたか否かを判定してもよい。
本発明において、記録部は、同じ操作が再度行われた時刻と、当該操作の種類とを記録するようにしてもよい。
本発明において、判定部は、同じ操作が再度行われたと判定した回数が所定値に達した場合に、警報を出力するようにしてもよい。
本発明において、撮影部は、操作部の操作に加えて、運転手の身体を撮影し、判定部は、操作部の操作の画像に基づいて、同じ操作が再度行われたか否かを判定する第1判定部と、運転手の身体の画像に基づいて、当該運転手の身体状態が正常であるか否かを判定する第2判定部とを有していてもよい。
本発明において、判定部は、操作部である方向指示器の操作について、同じ操作が再度行われたか否かを判定してもよい。
本発明において、判定部は、操作部であるパーキングブレーキの操作について、同じ操作が再度行われたか否かを判定してもよい。
本発明によれば、運転手の運転能力を簡便に評価できる運転操作監視装置を提供することができる。
本発明の実施形態に係る運転操作監視装置のブロック図である。 車両の運転席の概略構成図である。 運転操作監視装置の動作を示したフローチャートである。 運転操作監視装置の動作の他の例を示したフローチャートである。 運転操作監視装置の動作の他の例を示したフローチャートである。 他の実施形態に係る運転操作監視装置のブロック図である。 図6の運転操作監視装置の動作を示したフローチャートである。 他の実施形態に係る運転操作監視装置のブロック図である。
以下、本発明の実施形態につき、図面を参照しながら説明する。各図において、同一の部分または対応する部分には、同一符号を付してある。
まず、運転操作監視装置の構成を、図1を参照しながら説明する。図1において、運転操作監視装置100は、車両に搭載されており、操作部1、撮影部2、操作検出部3、操作検出部4、判定部5、および記録部6を備えている。
操作部1は、車両の運転手により操作されるブロックであって、方向指示器11とパーキングブレーキ12とを含む。方向指示器11は、車両が右折または左折する際や、走行中に車線変更を行う際に、方向指示灯を点滅させるために操作される操作部である。パーキングブレーキ12は、車両の停車時に、車両が動かないようにするために操作される操作部である。撮影部2は、運転手による操作部1の操作状態を撮影するブロックであって、カメラ21と画像処理部22とを含む。カメラ21は、CCD(電荷結合素子)などの撮像素子を有している。画像処理部12は、カメラ21が撮影した画像を、デジタル信号に変換するなどの処理を行う。
図2は、車両の運転席の概略構成を示している。車両10は、たとえば自動四輪車である。方向指示器11は、ハンドル13に近接して設けられている。パーキングブレーキ12は、運転席シート14の側方に設けられている。カメラ21は、運転席15のフロントガラス上部に設置されており、方向指示器11およびパーキングブレーキ12を含む領域を撮影する。
図1に戻って、操作検出部3は、方向指示器11が操作された場合に、これを検出して操作検出信号を出力するセンサなどから構成されている。この操作検出信号は、判定部5へ出力されるとともに、図示しない方向指示灯の駆動回路へ出力される。操作検出部4は、パーキングブレーキ12が操作された場合に、これを検出して操作検出信号を出力するセンサなどから構成されている。この操作検出信号は、判定部5へ出力される。
判定部5は、CPUを含むマイクロコンピュータから構成されており、画像処理部22から取得した画像信号と、操作検出部3、4から出力された操作検出信号とに基づいて、操作部1において同じ操作が再度行われたか否かを判定する。この詳細については後述する。
記録部6は、不揮発性のメモリから構成されており、判定部5により同じ操作が再度行われたと判定された場合に、当該判定結果を記録する。この詳細についても後述する。
次に、上述した運転操作監視装置100の動作を、図3のフローチャートを参照しながら説明する。
図3において、ステップS1では、カメラ21が撮影を開始する。ステップS2では、判定部5において、操作検出部3、4からの操作検出信号の有無が判定される。前記のとおり、運転手によって方向指示器11が操作された場合は、操作検出部3から操作検出信号が出力され、パーキングブレーキ12が操作された場合は、操作検出部4から操作検出信号が出力される。判定部5が、操作検出部3または操作検出部4から操作検出信号を受信すると、ステップS2の判定はYESとなり、ステップS3へ進む。また、判定部5が、操作検出部3、4のいずれからも操作検出信号を受信しなければ、ステップS2の判定はNOとなり、ステップS1へ戻る。
ステップS3では、判定部5において、画像処理部22から取得したカメラ21の撮影画像の解析が行われる。この解析は、ステップS2で操作検出信号を受信してから所定時間にわたって撮影した画像に対して行われる。そして、当該解析結果に基づいて、ステップS4では、ステップS2において検出された方向指示器11やパーキングブレーキ12の操作と同じ操作が、画像上で再度検出されたか否かが判定される。
詳しくは、ステップS2において、方向指示器11の操作によって操作検出部3から操作検出信号が出力された場合、ステップS4では、撮影画像において、方向指示器11の操作が再度行われた場面があるかどうかが判定される。たとえば、車両が交差点において赤信号で停車中に、運転手が方向指示器11を右折側へ最初に操作し、その後、再び方向指示器11を右折側へ操作した場合、同じ操作が再度行われたと判定される。
また、たとえば、ステップS2において、パーキングブレーキ12の操作によって操作検出部4から操作検出信号が出力された場合、ステップS4では、撮影画像において、パーキングブレーキ12の操作が再度行われた場面があるかどうかが判定される。
すなわち、同じ操作が再度行われたことを検出するにあたって、ステップS2において、操作検出部3、4からの操作検出信号に基づいて1回目の操作(初回操作)を検出し、ステップS4において、カメラ21で撮影された画像に基づいて2回目の操作(再操作)を検出する。
ステップS4において、同じ操作が再度検出された場合は、判定はYESとなってステップS5へ進む。また、同じ操作が再度検出されない場合は、判定はNOとなってステップS6へ進む。
ステップS5では、ステップS4で同じ操作が再度行われたと判定された場合に、当該判定結果を記録部6に記録する。具体的には、記録部6は、たとえば、同じ操作が再度行われた時刻と、当該操作の種類とを記録する。本例では、操作の種類は、方向指示器11の操作や、パーキングブレーキ12の操作である。
ステップS6では、操作部1の操作が解除されたか否かが判定される。この判定は、操作検出部3、4からの検出信号の有無に基づいて、判定部5が行う。たとえば、ハンドルを元に戻すことに連動して方向指示器11の操作が解除されたり、手動で方向指示器11を元に戻すことで操作が解除されたりした場合は、操作検出部3から検出信号が出力されなくなるので、ステップS6の判定はYESとなり、処理を終了する。また、方向指示器11の操作が解除されない場合は、ステップS6の判定はNOとなり、ステップS3へ戻る。パーキングブレーキ12についても同様である。
上述した実施形態によると、操作部1において同じ操作が再度行われるたびに、その結果が記録部6に記録されてゆくので、随時または定期的に記録部6の記録内容を出力することで、運転手の運転能力を簡便に評価することができる。これにより、たとえば、自動車の運転にとって必要のない再操作が頻繁に発生している場合は、運転手の運転能力が低下しているとみて、検査や指導などの適切な処置を講じることができる。
図4は、運転操作監視装置100の動作の他の例を示している。前述した図3の例では、カメラ21が撮影を開始してから、操作検出部3、4からの操作検出信号の有無を判定したが、図4の例では、操作検出信号の有無を判定した後に、カメラ21が撮影を開始する。
図4において、ステップS1aでは、判定部5において、操作検出部3、4からの操作検出信号の有無が判定される。この判定の詳細は、図3のステップS2の場合と同じであるので、ここでは説明を省略する。判定部5が操作検出信号を受信した場合は、ステップS1aの判定はYESとなり、ステップS2aへ進んで、カメラ21が撮影を開始する。判定部5が操作検出信号を受信しなければ、ステップS1aの判定はNOとなり、ステップS1aが反復される。ステップS3からステップS6までの処理については、図3の場合と同じであるので、重複説明を省略する。
図4の例によれば、操作部1が操作されるのを待ってカメラ21が撮影を開始するため、カメラ21の消費電力を抑えることができる。
図5は、運転操作監視装置100の動作の他の例を示している。前述した図3および図4の例では、操作検出信号に基づいて1回目の操作(初回操作)を検出し、撮影画像に基づいて2回目の操作(再操作)を検出したが、図5の例では、1回目の操作と2回目の操作を、共に撮影画像から検出する。
図5において、ステップS1でカメラ21が撮影を開始すると、ステップS3に進んで、判定部5が画像処理部22から取得した撮影画像の解析を行う。次のステップS4aでは、画像上で操作部1が操作される場面が検出されたか否かが、判定部5により判定される。さらに、次のステップS4bでは、画像上でステップS4aでの操作と同じ操作が再度行われる場面が検出されたか否かが、判定部5により判定される。
たとえば、ステップS4aにおいて、方向指示器11が操作される場面が検出され、ステップS4bにおいて、再び方向指示器11が操作される場面が検出された場合は、同じ操作が再度行われたことになり、ステップS4bの判定はYESとなって、ステップS5へ進む。また、ステップS4aにおいて、パーキングブレーキ12が操作される場面が検出され、ステップS4bにおいて、再びパーキングブレーキ12が操作される場面が検出された場合も、同じ操作が再度行われたことになるので、ステップS4bの判定はYESとなって、ステップS5へ進む。ステップS4bで再度の同じ操作が検出されない場合は、ステップS4bの判定はNOとなり、ステップS6へ進む。ステップS5、S6の処理については、図3の場合と同じであるので、重複説明を省略する。
図5の例によれば、操作検出部3、4からの操作検出信号を用いずに、カメラ21の撮影画像のみに基づいて、再度の同じ操作を検出することができる。
図6は、他の実施形態による運転操作監視装置200を示している。本実施形態では、同じ操作が再度行われた回数(以下、「再操作回数」という。)が所定値に達した場合に、警報が出力され、その内容が表示部7に表示される。以下、図7のフローチャートを参照して、さらに詳細に説明する。
図7において、ステップS1からステップS6までの処理については、図3の場合と同じであるので、重複説明を省略する。ステップS6で操作部1の操作が解除されると、ステップS7で判定部5が、記録部6の記録内容を参照して、再操作回数を算出する。そして、判定部5は、ステップS8で再操作回数と所定値とを比較して、再操作回数が所定値に達したか否かを判定する。再操作回数が所定値に達しておれば、ステップS8の判定はYESとなって、ステップS9へ進む。また、再操作回数が所定値に達していなければ、ステップS8の判定はNOとなって、処理を終了する。
ステップS9では、判定部5から警報信号が出力され、この信号は表示部7へ与えられる。そして、表示部7には、再操作回数が所定値に達したことや、そのことに伴う運転能力の評価結果や、運転手へのアドバイスなどが表示される。表示部7としては、たとえばカーナビゲーション装置のディスプレイを利用することができる。
図6の運転操作監視装置200によれば、再操作回数が所定値に達した場合に、自動的に警報を出力することができる。
図8は、他の実施形態による運転操作監視装置300を示している。本実施形態では、図2のカメラ21が、方向指示器11およびパーキングブレーキ12を含む領域に加えて、運転席15に着座した運転手(図示省略)の顔を含む領域も撮影する。また、判定部5は、運転手の運転能力を判定する運転能力判定部5a(第1判定部)と、運転手の身体状態を判定する身体状態判定部5b(第2判定部)とを有している。
運転能力判定部5aは、先の実施形態と同様に、操作部2の操作の画像に基づいて、同じ操作が再度行われたか否かを判定する。この判定結果は、記録部6に記録される。身体状態判定部5bは、運転手の顔画像などに基づいて、運転手の身体状態が正常であるか否か(たとえば居眠り状態の有無)を、開眼の有無、視線移動の有無、まばたき回数などから判定する。この判定の結果、身体状態が正常でない場合は、そのことを示す信号が判定部5から出力され、この信号に基づいて、たとえば警報の出力、手動運転から自動運転への切替、車両の自動停止などの制御が行われる。
図8の運転操作監視装置300によれば、1台のカメラ21で、運転手の運転能力と、運転手の身体状態とを判定することができる。
本発明では、上述した実施形態以外にも、以下のような種々の実施形態を採用することができる。
上述した実施形態では、カメラ21の撮像対象である操作部1として、方向指示器11とパーキングブレーキ12を例に挙げたが、これ以外の操作部であってもよい。また、操作部1は、車載機器の操作部であってもよい。
図6の実施形態では、判定部5が記録部6の記録内容を参照して、再操作回数を算出したが、判定部5にカウンタを設け、判定部5が再操作であることを判定する度にカウンタ値に1を加算することで、再操作回数を算出してもよい。
図1、図6、図8の実施形態では、判定部5と別に記録部6が設けられているが、記録部6は判定部5の中に設けてもよい。
上述した各種の実施形態は、適宜組み合わせることも可能である。たとえば、図7では、カメラ21が撮像を開始した後に、操作検出信号の有無を判定しているが、図4のように、操作検出信号の有無を判定した後に、カメラ21が撮影を開始するようにしてもよい。すなわち、図7において、ステップS1とステップS2とを入れ替えてもよい。また、図3〜図5において、図7のステップS7〜S9を追加してもよい。
上述した実施形態では、自動四輪車に搭載される運転操作監視装置に本発明を適用した例を挙げたが、本発明は、バスやトラックなどの他の車両に搭載される運転操作監視装置にも適用することができる。
1 操作部
2 撮影部
3、4 操作検出部
5 判定部
5a 運転能力判定部(第1判定部)
5b 身体状態判定部(第2判定部)
6 記録部
10 車両
11 方向指示器
12 パーキングブレーキ
100、200、300 運転操作監視装置

Claims (8)

  1. 車両の運転手により操作される操作部と、
    前記運転手による前記操作部の操作を撮影する撮影部と、
    前記撮影部が撮影した画像に基づいて、前記操作部の操作後に同じ操作が再度行われたか否かを判定する判定部と、
    前記判定部により同じ操作が再度行われたと判定された場合に、当該判定結果を記録する記録部と、を備えた運転操作監視装置において、
    前記操作部が操作されたことを検出して、操作検出信号を出力する操作検出部をさらに備え、
    前記判定部は、前記操作検出部から前記操作検出信号を受信した後、前記画像に基づいて、前記同じ操作が再度行われたか否かを判定する、ことを特徴とする運転操作監視装置。
  2. 請求項に記載の運転操作監視装置において、
    前記撮影部は、前記操作検出信号を受信した時点から撮影を開始する、ことを特徴とする運転操作監視装置。
  3. 請求項1に記載の運転操作監視装置において、
    前記判定部は、前記画像上で、前記操作部が操作される場面が検出されたか否かを判定し、その後、前記画像上で、前記操作と同じ操作が再度行われる場面が検出されたか否かを判定する、ことを特徴とする運転操作監視装置。
  4. 請求項1ないし請求項のいずれかに記載の運転操作監視装置において、
    前記記録部は、前記同じ操作が再度行われた時刻と、当該操作の種類とを記録する、ことを特徴とする運転操作監視装置。
  5. 請求項1ないし請求項のいずれかに記載の運転操作監視装置において、
    前記判定部は、前記同じ操作が再度行われたと判定した回数が所定値に達した場合に警報を出力する、ことを特徴とする運転操作監視装置。
  6. 請求項1ないし請求項のいずれかに記載の運転操作監視装置において、
    前記撮影部は、前記操作部の操作に加えて、前記運転手の身体を撮影し、
    前記判定部は、
    前記操作部の操作の画像に基づいて、前記同じ操作が再度行われたか否かを判定する第1判定部と、
    前記運転手の身体の画像に基づいて、当該運転手の身体状態が正常であるか否かを判定する第2判定部と、を有することを特徴とする運転操作監視装置。
  7. 請求項1ないし請求項のいずれかに記載の運転操作監視装置において、
    前記判定部は、前記操作部である方向指示器の操作について、同じ操作が再度行われたか否かを判定する、ことを特徴とする運転操作監視装置。
  8. 請求項1ないし請求項のいずれかに記載の運転操作監視装置において、
    前記判定部は、前記操作部であるパーキングブレーキの操作について、同じ操作が再度行われたか否かを判定する、ことを特徴とする運転操作監視装置。
JP2016231881A 2016-11-29 2016-11-29 運転操作監視装置 Active JP6593708B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016231881A JP6593708B2 (ja) 2016-11-29 2016-11-29 運転操作監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016231881A JP6593708B2 (ja) 2016-11-29 2016-11-29 運転操作監視装置

Publications (2)

Publication Number Publication Date
JP2018088196A JP2018088196A (ja) 2018-06-07
JP6593708B2 true JP6593708B2 (ja) 2019-10-23

Family

ID=62493694

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016231881A Active JP6593708B2 (ja) 2016-11-29 2016-11-29 運転操作監視装置

Country Status (1)

Country Link
JP (1) JP6593708B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102180611B1 (ko) * 2019-03-28 2020-11-20 세명대학교 산학협력단 교통 안내 시스템을 포함하는 차량

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007182155A (ja) * 2006-01-06 2007-07-19 Toyota Motor Corp 車両制御装置
JP2008058039A (ja) * 2006-08-29 2008-03-13 Toyota Motor Corp 車載不満情報収集装置、情報収集センタ及び不満情報収集システム
JP2009277145A (ja) * 2008-05-16 2009-11-26 Toyota Motor Corp 眠気覚醒装置
JP2015132905A (ja) * 2014-01-10 2015-07-23 アルパイン株式会社 電子システム、検出範囲の制御方法、及び制御プログラム

Also Published As

Publication number Publication date
JP2018088196A (ja) 2018-06-07

Similar Documents

Publication Publication Date Title
US9082285B2 (en) System and method for determining vehicle driving status information-based driving concentration
US9020747B2 (en) Method for recognizing a turn-off maneuver
JP4935589B2 (ja) 状態判定装置およびプログラム
CN112349144B (zh) 一种基于单目视觉的车辆碰撞预警方法及系统
US9767374B2 (en) Driver check apparatus
CN104200542A (zh) 车辆预警方法、车辆预警装置、终端和行车记录仪
CN105984407B (zh) 一种车后情况监视及警示装置
EP2487505A1 (en) Blind area warning for vehicles
JP2008285015A (ja) 運転タイプ判別装置、プログラム、及び運転支援装置
KR100820310B1 (ko) 자동차의 추돌방지장치 및 방법
JP2010033106A (ja) 運転者支援装置、運転者支援方法および運転者支援処理プログラム
JP2017215650A (ja) 警報装置
KR20170035035A (ko) 졸음운전 방지 장치 및 방법
KR20140107880A (ko) 졸음 운전 방지 시스템 및 그 방법
KR102199743B1 (ko) 사각지대 영상을 제공하는 운전 보조 시스템 및 그 방법
KR101823785B1 (ko) 버스 승하차 안전 장치 및 그 제어 방법
CN110626259A (zh) 三角警示架及其撞击预警方法
KR20150044134A (ko) 추월차로에서의 차선변경 유도장치 및 방법
JP6247869B2 (ja) 運転評価装置
CN108556851A (zh) 一种前车起步提示系统及方法
JP6593708B2 (ja) 運転操作監視装置
JP7087392B2 (ja) 認知症リスクの判定システム
JP5421188B2 (ja) 列車種別検出装置
KR101738025B1 (ko) 블랙박스를 이용한 사고판단시스템 및 그 구동방법
JP4601376B2 (ja) 画像異常判定装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20171207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20171207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180828

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190625

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190820

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190912

R150 Certificate of patent or registration of utility model

Ref document number: 6593708

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250