JP6676084B2 - 車両の乗員監視装置 - Google Patents

車両の乗員監視装置 Download PDF

Info

Publication number
JP6676084B2
JP6676084B2 JP2018016560A JP2018016560A JP6676084B2 JP 6676084 B2 JP6676084 B2 JP 6676084B2 JP 2018016560 A JP2018016560 A JP 2018016560A JP 2018016560 A JP2018016560 A JP 2018016560A JP 6676084 B2 JP6676084 B2 JP 6676084B2
Authority
JP
Japan
Prior art keywords
occupant
unit
monitoring
vehicle
recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018016560A
Other languages
English (en)
Other versions
JP2019131105A (ja
Inventor
中村 亮太
亮太 中村
雅幸 丸橋
雅幸 丸橋
恵太 大西
恵太 大西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Priority to JP2018016560A priority Critical patent/JP6676084B2/ja
Priority to US16/207,297 priority patent/US10592758B2/en
Priority to CN201811487040.8A priority patent/CN110103978A/zh
Priority to DE102019100083.1A priority patent/DE102019100083A1/de
Publication of JP2019131105A publication Critical patent/JP2019131105A/ja
Application granted granted Critical
Publication of JP6676084B2 publication Critical patent/JP6676084B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/117Identification of persons
    • A61B5/1171Identification of persons based on the shapes or appearances of their bodies or parts thereof
    • A61B5/1176Recognition of faces
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • B60K28/06Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver
    • B60K28/066Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver actuating a signalling device
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms

Description

本発明は、自動車などの車両の乗員を監視する装置に関する。
自動車などの車両では、乗車したドライバなどの乗員を監視することが望ましい場合がある(特許文献1〜3)。
乗員監視装置は、たとえば、乗車した乗員を認識し、乗員の脇見や居眠りを監視し、脇見や居眠りをした乗員に対して警告を与える。
これにより、乗員の注意を車両の走行に集中させるように仕向けて安全性を高めることが期待できる。
特開2013−103530号公報 特開2013−109447号公報 特開2004−330979号公報
ところで、乗員によっては、乗員監視装置の警告を不要と考えたり煩わしく感じたりすると考えられる。
このため、乗員監視装置では、乗員の操作により起動または停止に設定できるようにすることが望ましい。
しかしながら、乗員監視装置が停止している場合、乗員監視装置を起動したとしても、乗員監視装置は、乗車した乗員を認識した後でなければ乗員の監視を開始することができない。
車両の移動中にドライバなどの乗員が入れ替わる場合、乗員は、乗員監視装置が乗員を認識し終えるまで待たなければならない。
仮に乗員監視装置が乗員を認識し終える前に移動が再開された場合、乗員監視装置は実際とは異なる乗員を認識した状態で、乗員の脇見や居眠りを監視する可能性がある。このような状態での使用を許容することは、好ましいこととは言えない。
このような車両では、乗員監視装置を好適に起動停止できるようにすることが望まれる。
本発明に係る車両の乗員監視装置は、車両に設けられ、前記車両に乗車した乗員を認識して監視する乗員監視装置であって、前記車両に乗車した乗員を認識する認識部と、前記認識部により認識された乗員に対応する設定データを記録するバッファと、前記認識部により認識された乗員の情報が登録される記憶部と、前記認識部とは別の処理により、前記認識部による乗員の認識結果に応じた前記バッファの設定データに基づいて、前記車両に乗車した乗員を監視する監視部と、前記認識部と前記監視部とに対して個別に設定される起動または停止の設定に基づいて、前記監視部の停止状態において前記認識部を起動できるように前記認識部と前記監視部とを個別に起動停止する起動制御部と、を有し、前記認識部は、前記監視部の起動状態において起動される場合には、認識した乗員の情報を前記記憶部に登録するとともに乗員の認識結果に応じて前記バッファを更新し、前記監視部の停止状態において起動される場合には、認識した乗員の情報を前記記憶部に登録し、前記バッファを更新しないようにし、前記監視部は、起動される場合には、前記認識部の起動停止状態にかかわらず、前記記憶部に登録されている乗員の情報に基づいて前記認識部による乗員の認識結果に応じて前記バッファを更新してから、前記バッファの設定データに基づいて乗員を監視する。
好適には、前記監視部は、前記認識部により特定の乗員が認識されている場合、その乗員の認識結果に応じて更新される前記バッファの設定データに基づいて、認識された乗員を監視し、前記認識部により特定の乗員が認識されない場合、その乗員の認識結果に応じて更新されていない前記バッファの設定データに基づいて、乗車している乗員を特定しない状態で監視する、とよい。
好適には、前記起動制御部は、前記車両への乗員の乗車を検出した場合、前記監視部の停止状態において前記認識部を起動する、とよい。
好適には、前記起動制御部は、前記車両が始動した場合、前記監視部の停止状態において前記認識部を起動する、とよい。
好適には、前記バッファに設定されている認識乗員の前記設定データを、前記車両に設けられる他の装置へ送信する通信部、を有する、とよい。
好適には、前記起動制御部は、前記車両の走行中には前記監視部を起動し、前記車両の停車中には前記認識部を起動する、とよい。
本発明では、車両に乗車した乗員を認識する認識部と、認識部による乗員の認識結果に応じて車両に乗車した乗員を監視する監視部とが、個別に起動停止する。たとえば認識部と監視部とに対して個別に起動または停止を設定することにより、認識部と監視部とを個別に起動停止できる。
そして、本発明では、監視部を停止する状態において認識部を起動できる。よって、監視部を停止する状態において、車両に乗車した乗員を認識することができる。また、その後に監視部を起動した場合には、監視部は、認識部による認識を待つことなく、停止中に乗車した乗員に対する監視を、適切に開始することができる。これにより、本発明では、乗員監視装置を好適に起動停止できる。
図1は、本発明の乗員監視装置が適用される自動車の説明図である。 図2は、図1の自動車の車載ネットワークシステムの一例の説明図である。 図3は、本発明の実施形態に係る乗員監視装置の説明図である。 図4は、図3の監視起動設定データの設定値および認識起動設定データの設定値と、乗員監視装置の起動停止状態との対応関係の説明図である。 図5は、図3の個人データベースのデータ構造の説明図である。 図6は、図2の乗員監視装置による乗員認識処理の流れを示すフローチャートである。 図7は、図2の乗員監視装置による監視起動処理の流れを示すフローチャートである。 図8は、図2の乗員監視装置での設定状態の遷移の説明図である。
以下、本発明の実施形態を、図面に基づいて説明する。
図1は、本発明の乗員監視装置が適用される自動車1の説明図である。
自動車1は、車両の一例である。自動車1は、内燃機関を走行の動力源としているものでも、バッテリの蓄電電力を走行の動力源としているものでも、それらを組み合わせたものでもよい。
図1の自動車1は、乗員室が形成された車体2、車体2の側面に設けられるドア3、を有する。
ドライバなどの乗員は、ドア3を開いて乗員室へ入り、シート4に着座する。ドライバ用のシート4の前側には、たとえばダッシュボード5から後向きに突出したハンドル6、イグニションスイッチ、アクセルペダル、ブレーキペダル、シフトレバー、パーキングレバーといった操作部材が配置される。
ドライバは、シート4に着座したまま、操作部材を操作する。自動車1は、ドライバの操作に応じて走行し、方向を変え、停止する。
また、ドライバなどの乗員は、イグニションスイッチを操作して自動車1を停止させた後、ドア3を開いて乗員室の外へ出る。
図2は、図1の自動車1の車載ネットワークシステム10の一例の説明図である。
車載ネットワークシステム10では、相互通信可能な複数の電子機器が、車内ネットワーク11により、相互にデータ通信可能に接続されている。
図2では、複数の電子機器として、乗員監視装置12、ドア開閉センサ13、車速センサ14、パークセンサ15、ポジション設定装置16、運転支援装置17、車外通信装置18、が例示されている。
車内ネットワーク11には、たとえばCAN(Controller Area Network)、LIN(Local Interconnect Network)に準拠した有線の通信ネットワークがある。車内ネットワーク11は、無線の通信ネットワークでもよい。
また、車内ネットワーク11は、乗員が降車した後、通信を制限したスリープ状態になってよい。この場合、車内ネットワーク11は、乗員が乗車する際に、通信が可能な起動状態になる。車内ネットワーク11は、たとえば乗員が所持するキーレスエントリ機器の検出に基づいて、スリープ状態から起動状態になる。車内ネットワーク11は、車内ネットワーク11を自律的にオン状態とオフ状態との間で切り替えるネットワーク制御部を備えてよい。
乗員監視装置12は、たとえば乗員室に乗車してドライバ用のシート4に着座した乗員を認識し、認識した乗員の脇見や居眠りを監視する。そして、乗員が脇見や居眠りをしていることを検出した場合、乗員監視装置12は、音声などにより乗員に対して警告を発する。これにより、乗員の注意を自動車1の走行に集中させるように仕向けて安全性を高めることが期待できる。
ドア開閉センサ13は、自動車1のドア3が閉じた状態から開いたこと、および、開いた状態のドア3が閉じられたことを検出する。
車速センサ14は、自動車1の停止および走行を検出する。車速センサ14は、自動車1の走行速度を検出してもよい。
パークセンサ15は、自動車1が停車状態に維持されるパーキング状態を検出する。パーキング状態は、たとえばシフトレバーがパーキングポジションに操作されたこと、パーキングレバーが引かれたこと、により検出することができる。
ポジション設定装置16は、たとえば、シート4の前後上下の位置および背もたれの角度、ハンドル6の前後上下の位置および角度、各種ペダルの前後上下の位置および角度を調整する。また、シート4に着差した乗員に対応する設定データを記録し、それに基づいてシート4、ハンドル6およびペダルの位置および角度を調整する制御を実行する。なお、ポジション設定装置16は、自動運転中でのポジションの設定データを、手動運転中でのポジションの設定データと別に記録し、自動車1の運転状況に応じてポジションを変更してもよい。
運転支援装置17は、乗員による自動車1の走行操作を支援するように、自動車1の走行、停止および操舵を制御する。また、運転支援装置17は、全自動で、自動車1の走行、停止および操舵を制御してもよい。
車外通信装置18は、たとえば公共無線通信網や商用無線通信網を用いて、地上に設置された通信設備や他の自動車1の車外通信装置18と、双方向のデータ通信を実行する。これにより、自動車1は、交通情報、周囲を走行する自動車1の走行状態、自車の周囲の交通状況に関する情報を取得できる。また、車外通信装置18は、たとえば自動運転中などの自車の走行状態の情報を送信できる。
そして、これらの電子機器は、車内ネットワーク11を通じて相互にデータを送受する。これにより、たとえば乗員監視装置12は、その制御に必要な情報を得たり、ポジション設定装置16や運転支援装置17が必要とする情報を提供したりできる。
ところで、乗員によっては、乗員監視装置12の警告を不要と考えたり煩わしく感じたりすると考えられる。
このため、乗員監視装置12では、乗員の操作により起動または停止に設定できるようにすることが望ましい。
しかしながら、乗員監視装置12が停止している場合、乗員監視装置12を起動したとしても、乗員監視装置12は、乗車した乗員を認識した後でなければ乗員の監視を開始することができない。
自動車1の移動中にドライバなどの乗員が入れ替わる場合、乗員は、乗員監視装置12が乗員を認識し終えるまで待たなければならない。
また、乗員監視装置12が乗員を正しく認識し終える前に移動を再開した場合、乗員監視装置12は実際とは異なる乗員を認識した状態で、乗員の脇見や居眠りを監視する可能性がある。このような不整合な状態での乗員を監視することを許容することは、好ましいこととは言えない。
このように自動車1では、乗員監視装置12を好適に起動停止できるようにすることが望まれる。
図3は、本発明の実施形態に係る乗員監視装置12の説明図である。
図3には、乗員監視装置12とともに、乗員監視装置12と車内ネットワーク11を通じてデータを送受可能なドア開閉センサ13、車速センサ14、パークセンサ15、が図示されている。ドア開閉センサ13は、ドア3の開閉状態の情報を、乗員監視装置12へ送信する。車速センサ14は、自動車1の速度の情報を、乗員監視装置12へ送信する。パークセンサ15は、パーキング状態であるか否かの情報を、乗員監視装置12へ送信する。これらのセンサを含めて、乗員監視システムが構成されている。これらのセンサは、乗員監視装置12の一部として設けられてもよい。
図3の乗員監視装置12は、モニタ21、タッチパネル22、車内カメラ23、監視部24および対処部25を有する乗員監視部26、スピーカ27、シート振動部材28、車内通信部29、個人設定データバッファ30、設定更新部31、起動制御部32、個人認識部33、記録部34、を有する。
スピーカ27、シート振動部材28は、乗員監視装置12とは別体に自動車1に設けられ、車内ネットワーク11を通じて乗員監視装置12とデータを送受可能なものであってもよい。
なお、乗員監視部26、設定更新部31、起動制御部32、および個人認識部33は、乗員監視装置12のECU(Electric Control Unit)といったマイクロコンピュータ装置がプログラムを実行することにより乗員監視装置12に実現されてよい。また、個人設定データバッファ30、記録部34、車内通信部29は、マイクロコンピュータ装置に組み込まれた状態で乗員監視装置12に設けられてよい。プログラムは、記録部34に記録されてよい。
モニタ21は、液晶デバイスといった表示部材である。モニタ21は、たとえば操作画面、監視画面、警告画面を表示し、ユーザへ情報を提供する。
タッチパネル22は、ユーザ操作される部材である。タッチパネル22は、モニタ21と重ねて設けられてよい。モニタ21およびタッチパネル22により、乗員監視装置12のユーザインタフェースが形成される。
車内カメラ23は、乗員室内を撮像する部材である。車内カメラ23は、ドライバの頭部を撮像するものであっても、乗員室を全体的に360度方向で撮像するものであってもよい。
そして、図1に示すように、乗員監視装置12の本体35がダッシュボード5の中央部分に配置されることにより、ドライバおよび助手席の乗員は、モニタ21の表示画面を閲覧し、タッチパネル22を操作できる。また、車内カメラ23は、ドライバの頭部を前側から撮像できる。
スピーカ27は、乗員室内へ音声を出力する部材である。スピーカ27は、乗員監視装置12の本体35と音声ケーブルで接続され、ドア3内に設けられてもよい。
シート振動部材28は、振動する部材である。シート振動部材28は、乗員監視装置12の本体35と信号ケーブルで接続され、ドライバ用のシート4に設けられる。なお、シート振動部材28の替わりに、ハンドル6に内蔵された振動部材を設けてもよい。
車内通信部29は、車内ネットワーク11に接続される。車内通信部29は、必要に応じてまたは周期的に乗員監視装置12が必要とする情報を受信する。また、車内通信部29は、必要に応じてまたは周期的に乗員監視装置12の情報を送信する。車内通信部29は、たとえばドア3の開閉状態の情報、自動車1の速度の情報、パーキング状態であるか否かの情報を受信する。
記録部34は、記録されたデータを無給電時にも保持する部材である。記録部34は、たとえば不揮発性メモリでよい。そして、記録部34は、たとえば個人データベース36、認識乗員データ37、監視起動設定データ38、認識起動設定データ39、を保持する。
図4は、図3の監視起動設定データ38の設定値および認識起動設定データ39の設定値と、乗員監視装置12の各機能の起動停止状態との対応関係の説明図である。
図4に示すように、監視起動設定データ38(乗員監視)がONの設定値である場合、脇見検出機能および居眠り検出機能が有効となる。起動制御部32は、乗員監視部26を起動する。乗員監視部26は、監視を開始可能な状態になる。
これに対し、監視起動設定データ38(乗員監視)がOFFの設定値である場合、脇見検出機能および居眠り検出機能が無効となる。起動制御部32は、乗員監視部26を停止する。乗員監視部26は、監視を終了する。
認識起動設定データ39(個人認識)がONの設定値である場合、個人認識機能が有効となる。起動制御部32は、個人認識部33を起動する。個人認識部33は、認証を開始可能な状態になる。
これに対し、認識起動設定データ39の設定値(個人認識)がOFF設定である場合、個人認識機能が無効となる。起動制御部32は、個人認識部33を停止する。個人認識部33は、認証を終了する。
起動制御部32は、車内ネットワーク11のオンオフ状態に応じて、乗員監視部26および個人認識部33の起動停止を個別に制御する。
車内ネットワーク11がオン状態になると、起動制御部32は、その時点での監視起動設定データ38の設定値および認識起動設定データ39の設定値にて、乗員監視部26および個人認識部33を個別に起動させる。
車内ネットワーク11がオフ状態になると、起動制御部32は、乗員監視部26および個人認識部33をともに停止する。
なお、起動制御部32は、自動車1の機能を起動するイグニションスイッチのオンオフ状態に応じて、乗員監視部26および個人認識部33の起動停止を個別に制御してもよい。
このように起動制御部32は、乗員監視部26を停止する設定状態において、個人認識部33を起動する設定に基づいて個人認識部33を起動することができる。
そして、監視を開始可能な乗員監視部26は、走行中の安全性を確保するために、基本的に自動車1の走行中に、監視処理を実行する。
また、個人認識部33は、乗員監視の必要性が低い自動車1の停車中に、必要に応じて個人認識処理を実行する。
図5は、図3の個人データベース36のデータ構造の説明図である。
図5において各行で現わされている個人データベース36の各レコードは、自動車1に乗車する各乗員に対応する。レコードは、たとえば個人ID、顔データ、監視起動の設定値、認識起動の設定値、個人設定データ、を有する。
個人IDは、登録する乗員毎に重複が生じないように発行される識別番号である。
顔データは、登録する乗員の顔を撮像したデータである。
個人設定データは、登録する乗員についての登録された自動車1の設定データである。個人設定データは、たとえばスピーカ27のオンオフの設定値、振動部材のオンオフの設定値、シート4やハンドル6などの乗員ポジションの設定値を有する。
個人設定データバッファ30は、認識した乗員についての個人IDや設定データを記憶する。設定データは、乗員監視部26に利用される。個人IDまたは設定データの一部は、車内通信部29により他の電子機器へ送信される。
他の電子機器は、受信した個人IDまたは設定データに基づいて、各種の個人設定制御を実行する。たとえばポジション設定装置16は、受信した設定データに基づいて、または受信した個人IDに対応して自身に記録している設定データに基づいて、シート4の前後上下の位置および背もたれの角度などを調整する。
個人認識部33は、認識起動設定データ39の設定値が認証を開始可能なON設定である場合、自動車1に乗車した乗員を認識する個人認識処理を実行する。
個人認識処理の詳細については後述するが、個人認識部33は、車内カメラ23により撮像される乗員の顔の画像と、個人データベース36に登録されている複数の顔データとを比較する。
所定のマッチング値が得られる顔データが得られる場合、個人認識部33は、最も高いマッチング値の顔データに対応して個人データベース36に登録されている個人IDにより、認識乗員データ37を更新する。
これにより、自動車1に乗車した乗員に対応する個人IDが、認識乗員データ37に登録される。
設定更新部31は、タッチパネル22の操作に基づいて、監視起動設定データ38および認識起動設定データ39を更新する。
設定更新部31は、タッチパネル22の操作に基づいて、個人データベース36のレコードを追加、削除、更新する。
設定更新部31は、タッチパネル22の操作に基づいて、個人設定データバッファ30の設定値を更新する。
乗員監視部26が監視開始可能な状態になった場合、また監視中に認識乗員データ37が更新された場合、設定更新部31は、個人データベース36において認識乗員データ37の個人IDに対応するレコードを読み込み、これらを監視起動設定データ38、認識起動設定データ39、および個人設定データバッファ30に設定する。
これにより、乗員監視部26を起動する設定状態では、設定更新部31は、個人設定データバッファ30の設定データを、個人認識部33による乗員の認証結果に応じて更新し、乗員監視部26を停止する設定状態では更新しない。また、個人設定データバッファ30には、個人認識部33により認識された乗員に対応する設定データが記録される。
乗員監視部26が監視を終了する場合、設定更新部31は、監視起動設定データ38、認識起動設定データ39、および個人設定データバッファ30の設定値により、個人データベース36を更新する。
乗員監視部26は、自動車1のイグニションスイッチがオフ操作された場合、その時点でのデータにより、個人データベース36を更新する。バッファの退避処理がなされる。
なお、乗員監視部26は、必要に応じて適宜、監視起動設定データ38、認識起動設定データ39、および個人設定データバッファ30の設定値により、個人データベース36を更新してよい。この更新は、個人データベース36のすべての設定値を更新するものであっても、一部の設定値を更新するものであってもよい。たとえば乗員監視部26は、乗員監視装置12そのもので使用する設定値を、個人データベース36への個人IDの登録時に同時に登録し、その後のイグニションオフ操作時に自動車1の図示外の空調装置の温度といった他の装置の設定値を、個人データベース36に登録してよい。
乗員監視部26は、監視部24および対処部25を有する。
監視部24は、監視起動設定データ38の設定値が認証を開始可能なON設定である場合、個人認識部33による乗員の認識結果に応じて、自動車1に乗車した乗員を監視する監視処理を実行する。
監視処理において、監視部24は、認識乗員データ37に登録されている個人IDに対応して個人データベース36に登録されている顔データを基準とし、車内カメラ23により撮像される乗員の顔の画像が所定の監視対象状態に対応する状態にあるか否かを判断する。
たとえば脇見を監視対象とする場合、撮像画像における顔の向きが、進行方向前方からずれた状態が所定時間以上継続されているか否かを判断する。
また、居眠りを監視対象とする場合、撮像画像における目が所定回数以上または所定期間以上にわたって閉じられた状態が生じたか否かを判断する。
なお、監視部24は、個人IDが認識乗員データ37に登録されていない場合、一般化された標準的な顔データを基準とし、車内カメラ23により撮像される乗員の顔の画像が所定の監視対象状態に対応する状態にあるか否かを判断してよい。
対処部25は、監視部24により警告状態が生じたと判断された場合、警告処理を実施する。
警告処理において、対処部25は、個人設定データバッファ30の設定値を確認する。そして、スピーカ27をオンとする設定値がある場合、対処部25は、一定期間スピーカ27から警告音を出力する。振動部材をオンとする設定値がある場合、対処部25は、シート振動部材28を一定期間振動させる。また、対処部25は、個人設定データバッファ30の設定値を確認し、表示オンとする設定値がある場合、モニタ21に警告を表示する。
このように、乗員監視装置12の乗員監視部26は、個人認識部33による乗員の認識結果に応じて、自動車1に乗車した乗員を監視し、必要に応じて表示や音などにより警告を発することができる。
車内通信部29は、乗員監視部26を起動する設定状態および停止する設定状態において、個人設定データバッファ30に設定されている認識乗員の設定データを、自動車1に設けられる他の電子機器へ送信する。
車内通信部29は、設定データを周期的に繰り返して他の電子機器へ送信してよい。
図6は、図2の乗員監視装置12による乗員認識処理の流れを示すフローチャートである。
乗員監視装置12の起動制御部32は、図6の処理を周期的に繰り返し実行する。
図6の乗員認識処理において、起動制御部32は、まず、自動車1の始動時であるか否かを判断する(ステップST1)。起動制御部32は、たとえば自動車1のイグニションスイッチがオン操作されてから所定の期間内であるかに基づいて、自動車1の始動時であるか否かを判断してよい。自動車1の始動時である場合、個人認証部は、乗員監視部26の起動停止にかかわらず、ステップST5の個人認証処理を実行する。
自動車1を始動してから所定の期間が経過している場合、起動制御部32は、始動時でないと判断し、ドア3が閉操作されたか否かを判断する(ステップST2)。個人認証部は、たとえば車内通信部29が受信したドア開閉センサ13の検出値に基づいて、ドア3が閉操作されたか否かを判断してよい。ドア3は、乗員は、自動車1へ乗車する場合、ドア3を開いて乗車し、シート4に着座した状態でドア3を閉じる。ドア開閉センサ13の検出値により、乗員の乗車を検出することができる。なお、起動制御部32は、ドア3が開操作されたこと、ドア3が開閉されたこと、を判断してもよい。そして、ドア3の閉操作がなされていない場合、起動制御部32は、図6の処理を終了する。
ドア3が閉操作された場合、起動制御部32は、自動車1が停車中であるか否かを判断する(ステップST3)。起動制御部32は、たとえば車内通信部29が受信した車速センサ14の検出速度が0キロメートル毎時であることに基づいて、停車中であると判断してよい。そして、停車中でない場合、起動制御部32は、図6の処理を終了する。
停車中である場合、起動制御部32は、認識起動設定データ39に基づいて、個人認識がオン設定されているか否かを判断する(ステップST4)。個人認識がオン設定されていない場合、起動制御部32は、図6の処理を終了する。
個人認識がオン設定されている場合、またはステップST1において始動時であると判断された場合、起動制御部32は、個人認識部33に個人認識処理を指示する(ステップST5)。個人認識部33は、車内カメラ23により撮像される乗員の顔の画像と、個人データベース36に登録されている複数の顔データとを比較して、乗車している個人を認識して特定する処理を実行する。
次に、個人認識部33は、マッチングする個人を認識できたか否かを判断する(ステップST6)。そして、マッチングする結果が得られなかった場合、個人認識部33は、個人認識処理を終了する。この場合、認識乗員データ37は、更新されない。
マッチングする結果が得られる場合、個人認識部33は、監視起動設定データ38に基づいて、乗員監視がオン設定されているか否かを判断する(ステップST7)。
乗員監視がオン設定されている場合、個人認識部33は、マッチング判断した顔データに対応して登録されている個人IDにより、認識乗員データ37を更新する(ステップST8)。その後、設定更新部31は、認識乗員データ37に登録されている個人IDに対応する設定データを個人データベース36から読み込み、個人設定データバッファ30を更新する(ステップST9)。これにより、個人設定データバッファ30には、認識された乗員についての設定データが登録される。また、設定更新部31は、乗員監視部26へ乗員監視を指示する(ステップST10)。乗員監視部26は、更新された個人設定データバッファ30の設定データに基づいて、乗員監視を開始できる。
乗員監視がオフ設定されている場合、個人認識部33は、マッチング判断した顔データに対応して登録されている個人IDにより、認識乗員データ37を更新する(ステップST11)。この場合、設定更新部31は、個人設定データバッファ30を更新しない。よって、乗員監視部26は、以前に個人設定データバッファ30に登録された設定データに基づいて、乗員監視を開始または継続するようになる。
図7は、図2の乗員監視装置12による監視起動処理の流れを示すフローチャートである。
乗員監視装置12の乗員監視部26は、図7の処理を周期的に繰り返し実行する。
図7において、乗員監視部26は、監視起動設定データ38に基づいて、乗員監視がオン設定されているか否かを判断する(ステップST21)。
乗員監視がオン設定されている場合、設定更新部31は、乗員監視部26の指示に基づき、認識乗員データ37に登録されている個人IDに対応する設定データを個人データベース36から読み込み、個人設定データバッファ30を更新する(ステップST22)。これにより、個人設定データバッファ30には、最後に認識された乗員についての設定データが登録される。その後、乗員監視部26は、個人設定データバッファ30から監視の制御に用いる設定データを読み込み、設定に応じた監視を実行する(ステップST23)。
乗員監視がオフ設定されている場合、乗員監視部26は、監視を終了する処理を実行する(ステップST24)。設定更新部31は、乗員監視部26の指示に基づき、個人設定データバッファ30の設定データを読み込み、個人データベース36において対応する設定データを更新する。これにより、個人データベース36には、常に乗員の最新の設定データが記録されることになる。
図8は、図2の乗員監視装置12での設定状態の遷移の説明図である。図8は、個人認証がオン設定であることを前提としている。
図8に示すように、自動車1が始動されると、個人認識処理が実行可能になる。個人認識処理により、乗車した乗員が認識される。
そして、認識された乗員が個人データベース36に登録されている場合、乗員監視装置12の設定状態は、第1設定状態51または第2設定状態52となる。
第1設定状態51は、乗員監視がオン設定である場合のものである。この場合、登録されたユーザAが認証され、ユーザAの設定値が乗員監視のために個人設定データバッファ30に設定される。この場合、乗員監視装置12は、乗車している乗員を特定して、その乗員を監視することになる。
第2設定状態52は、乗員監視がオフ設定である場合のものである。この場合、ユーザAが認証されるが、個人設定データバッファ30にはユーザAの設定値が設定されない。その後に、乗員監視がオン設定となるように操作されて第1設定状態51となることにより、ユーザAの設定値が設定される。ただし、その後に乗員監視がオフ設定となるように操作されて第1設定状態51から遷移した場合には、個人設定データバッファ30にはユーザAの設定値が設定されることになる。
乗車が検出されると、再び個人認識処理により新たな乗車状態での乗員が認証される。
たとえば個人データベース36に登録されたユーザBが認識された場合、乗員監視装置12の設定状態は、ユーザBについての第1設定状態51または第2設定状態52となる。
これに対し、個人データベース36に登録されていないユーザCが認識された場合、乗員監視装置12の設定状態は、第3設定状態53または第4設定状態54となる。
第3設定状態53は、乗員監視がオン設定である場合のものである。この場合、ユーザCが登録されていないため、ユーザ未設定となり、個人設定データバッファ30も更新されない。個人設定データバッファ30には、ユーザCに関連付けられていない設定データが登録されたままになる。この場合、乗員監視装置12は、乗車している乗員を特定しない状態で、乗車した乗員を監視することになる。その後に、乗員監視がオフ設定となるように操作されることにより、第4設定状態54となる。
第4設定状態54は、乗員監視がオフ設定である場合のものである。この場合にも、ユーザ未設定となり、個人設定データバッファ30も更新されない。その後に、乗員監視がオン設定となるように操作されることにより、第3設定状態53となる。
このように、本実施形態の乗員監視装置12は、乗員監視のオンオフ設定と、個人認識の結果とに応じて異なる設定状態に遷移する。
以上のように、本実施形態では、自動車1に乗車した乗員を認識する個人認識部33と、個人認識部33により認識された乗員の設定に基づいて乗車した乗員を監視する乗員監視部26とが、個別に起動停止できる。すなわち、個人認識部33と乗員監視部26とに対して個別に起動または停止を設定して、個人認識部33と乗員監視部26とを個別に起動停止できる。
そして、本実施形態では、乗員監視部26を停止する設定状態において、個人認識部33を起動する設定に基づいて個人認識部33を起動できる。よって、乗員監視部26を停止する設定状態において、自動車1に乗車した乗員を認識することができる。また、その後に乗員監視部26を起動した場合には、乗員監視部26は、個人認識部33による認識を待つことなく、停止中に乗車して認識された乗員に対する監視を、即座に適切に開始することができる。乗員監視装置12を好適に起動停止できる。
そして、乗員監視部26は、個人認識部33により特定の乗員が認識されている場合、認識された乗員を監視し、個人認識部33により特定の乗員が認識されない場合、乗車している乗員を特定しない状態で、乗車した乗員を監視することができる。
これに対し、仮にたとえば、乗員監視装置12の全体が1つの設定に基づいて全体的に起動停止制御される場合、乗員監視装置12を起動したとしても、乗員監視装置12は、乗車した乗員を認識した後でなければ乗員の監視を開始することができない。乗員が適宜乗車と降車とを繰り返す自動車1に特有の課題を解決することができない。自動車1の移動途中においてドライバなどの乗員が入れ替わる場合、交代した乗員は、乗員監視装置12が自身を認識し終えるまで待たなければならない。そして、仮に乗員監視装置12が乗員を認識する前に移動が再開されてしまった場合、乗員監視装置12は実際とは異なる乗員を認識した状態で、乗員の脇見や居眠りを監視することになる。このような状態での監視を許容することは、望ましいことではない。
本実施形態では、乗員の乗車を検出した場合、乗員監視部26を停止する設定状態においても個人認識部33が起動する。よって、自動車1へ乗員が乗車する際には、乗員監視部26の起動停止に関係なく乗車した乗員を認識できる。
本実施形態では、自動車1が始動した場合、乗員監視部26を停止する設定状態において個人認識部33を起動できる。よって、自動車1が始動した場合には、乗員監視部26の起動停止に関係なく乗車した乗員を認識できる。
本実施形態では、自動車1の走行中には設定に基づいて乗員監視部26を起動し、乗員監視部26による監視の必要性が少ない停車中には設定に基づいて個人認識部33を起動する。よって、走行中に乗員監視部26が監視することを妨げることなく、個人認識部33により乗員を識別することができる。
本実施形態では、乗員監視部26により利用するための設定データを記録する個人設定データバッファ30は、乗員監視部26を起動する設定状態では、個人認識部33による乗員の最新の認識結果に基づいて更新され、乗員監視部26を停止する設定状態では、更新されない。
よって、乗員監視部26を起動する設定状態では、監視部24は、乗員の変更の認識に基づいて個人設定データバッファ30を更新し、更新された乗員の設定で監視をすることができる。設定データを実際の乗員と整合させて監視することができる。
また、乗員監視部26を停止する設定状態では、不用意に個人設定データバッファ30が更新されないようにできる。
特に、車内通信部29が、個人設定データバッファ30に設定されている認識乗員の設定データを、乗員監視部26を起動する設定状態において、自動車1に設けられる他の電子機器へ送信する場合、乗員監視部26を停止する設定状態においてバッファが更新されてしまうと、不適切な設定データが乗員監視装置12の外の他の電子機器へ送信されてしまう可能性がある。本実施形態では、このような不適切な設定データの送信を予防できる。
以上の実施形態は、本発明の好適な実施形態の例であるが、本発明はこれに限定されるものではなく、発明の要旨を逸脱しない範囲において種々の変形または変更が可能である。
たとえば上記実施形態では、ドア3の閉操作により、自動車1への乗員の乗車を検出している。この他にもたとえば、ドア3の開操作により、自動車1への乗員の乗車を検出してもよい。また、シート4の着座センサによる乗員検出により、自動車1への乗員の乗車を検出してもよい。
本実施形態では、自動車1のイグニションスイッチのオン操作により、自動車1の始動を検出している。この他にもたとえば、停車中のアクセルペダルの操作により、自動車1の始動を検出してもよい。
1…自動車(車両)、2…車体、3…ドア、4…シート、5…ダッシュボード、6…ハンドル、10…車載ネットワークシステム、11…車内ネットワーク、12…乗員監視装置、13…ドア開閉センサ、14…車速センサ、15…パークセンサ、16…ポジション設定装置、17…運転支援装置、18…車外通信装置、21…モニタ、22…タッチパネル、23…車内カメラ、24…監視部、25…対処部、26…乗員監視部(監視部)、27…スピーカ、28…シート振動部材、29…車内通信部、30…個人設定データバッファ、31…設定更新部、32…起動制御部、33…個人認識部(認識部)、34…記録部、35…本体、36…個人データベース、37…認識乗員データ、38…監視起動設定データ、39…認識起動設定データ、51…第1設定状態、52…第2設定状態、53…第3設定状態、54…第4設定状態

Claims (6)

  1. 車両に設けられ、前記車両に乗車した乗員を認識して監視する乗員監視装置であって、
    前記車両に乗車した乗員を認識する認識部と、
    前記認識部により認識された乗員に対応する設定データを記録するバッファと、
    前記認識部により認識された乗員の情報が登録される記憶部と、
    前記認識部とは別の処理により、前記認識部による乗員の認識結果に応じた前記バッファの設定データに基づいて、前記車両に乗車した乗員を監視する監視部と、
    前記認識部と前記監視部とに対して個別に設定される起動または停止の設定に基づいて、前記監視部の停止状態において前記認識部を起動できるように前記認識部と前記監視部とを個別に起動停止する起動制御部と、を有し、
    前記認識部は、
    前記監視部の起動状態において起動される場合には、認識した乗員の情報を前記記憶部に登録するとともに乗員の認識結果に応じて前記バッファを更新し、
    前記監視部の停止状態において起動される場合には、認識した乗員の情報を前記記憶部に登録し、前記バッファを更新しないようにし、
    前記監視部は、
    起動される場合には、前記認識部の起動停止状態にかかわらず、前記記憶部に登録されている乗員の情報に基づいて前記認識部による乗員の認識結果に応じて前記バッファを更新してから、前記バッファの設定データに基づいて乗員を監視する、
    車両の乗員監視装置。
  2. 前記監視部は、
    前記認識部により特定の乗員が認識されている場合、その乗員の認識結果に応じて更新される前記バッファの設定データに基づいて、認識された乗員を監視し、
    前記認識部により特定の乗員が認識されない場合、その乗員の認識結果に応じて更新されていない前記バッファの設定データに基づいて、乗車している乗員を特定しない状態で監視する、
    請求項1記載の車両の乗員監視装置。
  3. 前記起動制御部は、前記車両への乗員の乗車を検出した場合、前記監視部の停止状態において前記認識部を起動する、
    請求項1または2記載の車両の乗員監視装置。
  4. 前記起動制御部は、前記車両が始動した場合、前記監視部の停止状態において前記認識部を起動する、
    請求項1から3のいずれか一項記載の車両の乗員監視装置。
  5. 前記バッファに設定されている前記設定データを、前記車両に設けられる他の装置へ送信する通信部、を有する、
    請求項1から4のいずれか一項記載の車両の乗員監視装置。
  6. 前記起動制御部は、
    前記車両の走行中には前記監視部を起動し、
    前記車両の停車中には前記認識部を起動する、
    請求項1から5のいずれか一項記載の車両の乗員監視装置。
JP2018016560A 2018-02-01 2018-02-01 車両の乗員監視装置 Active JP6676084B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018016560A JP6676084B2 (ja) 2018-02-01 2018-02-01 車両の乗員監視装置
US16/207,297 US10592758B2 (en) 2018-02-01 2018-12-03 Occupant monitoring device for vehicle
CN201811487040.8A CN110103978A (zh) 2018-02-01 2018-12-06 车辆的乘员监视装置
DE102019100083.1A DE102019100083A1 (de) 2018-02-01 2019-01-04 Passagier-überwachungseinrichtung für fahrzeuge

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018016560A JP6676084B2 (ja) 2018-02-01 2018-02-01 車両の乗員監視装置

Publications (2)

Publication Number Publication Date
JP2019131105A JP2019131105A (ja) 2019-08-08
JP6676084B2 true JP6676084B2 (ja) 2020-04-08

Family

ID=67224000

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018016560A Active JP6676084B2 (ja) 2018-02-01 2018-02-01 車両の乗員監視装置

Country Status (4)

Country Link
US (1) US10592758B2 (ja)
JP (1) JP6676084B2 (ja)
CN (1) CN110103978A (ja)
DE (1) DE102019100083A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112947740A (zh) * 2019-11-22 2021-06-11 深圳市超捷通讯有限公司 基于动作分析的人机交互方法、车载装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004330979A (ja) 2003-05-09 2004-11-25 Toshiba Corp 車両の駆動制御装置
JP4059224B2 (ja) * 2004-04-13 2008-03-12 株式会社デンソー 運転者の外観認識システム
JP4564320B2 (ja) * 2004-09-29 2010-10-20 アイシン精機株式会社 ドライバモニタシステム
JP2007145199A (ja) * 2005-11-28 2007-06-14 Fujitsu Ten Ltd 盗難防止装置および盗難防止システム
DE102006056094A1 (de) * 2006-11-28 2008-05-29 Robert Bosch Gmbh Fahrerassistenzsystem mit Anwesenheitsüberwachung
JP5001028B2 (ja) * 2007-03-02 2012-08-15 株式会社デンソー 運転環境設定システム、車載装置及び車載装置用プログラム
JP5348457B2 (ja) * 2008-04-21 2013-11-20 スズキ株式会社 運転者監視装置
WO2011140993A1 (zh) * 2010-05-12 2011-11-17 北京星河易达科技有限公司 基于综合状态检测的智能交通安全系统及其决策方法
JP5573820B2 (ja) 2011-11-10 2014-08-20 株式会社デンソー 状態監視装置
JP5879949B2 (ja) 2011-11-18 2016-03-08 三菱自動車工業株式会社 運転支援装置
JP5549721B2 (ja) * 2011-12-26 2014-07-16 株式会社デンソー ドライバモニタ装置
JP5949660B2 (ja) * 2013-05-21 2016-07-13 株式会社デンソー ドライバ確認装置
JP2015115045A (ja) * 2013-12-16 2015-06-22 株式会社デンソー 車両用居眠り防止装置及び車両用居眠り防止システム
US9475387B2 (en) * 2014-03-16 2016-10-25 Roger Li-Chung Wu Drunk driving prevention system and method with eye symptom detector
JP2015214171A (ja) * 2014-05-07 2015-12-03 株式会社デンソー 運転者体調検知装置、運転者体調検知方法、運転支援装置
US20150294547A1 (en) 2014-04-15 2015-10-15 Denso Corporation Driver condition detection apparatus, driving assistance apparatus, driver condition detection method, and driving assistance method
JP6567842B2 (ja) * 2015-03-10 2019-08-28 Necプラットフォームズ株式会社 酒気帯び検知装置及びルームミラー装置
US9988055B1 (en) * 2015-09-02 2018-06-05 State Farm Mutual Automobile Insurance Company Vehicle occupant monitoring using infrared imaging
JP6730096B2 (ja) * 2016-06-02 2020-07-29 株式会社Subaru 乗員状態監視装置
JP7260952B2 (ja) 2016-07-26 2023-04-19 花王株式会社 肩の痛み改善剤

Also Published As

Publication number Publication date
DE102019100083A1 (de) 2019-08-01
JP2019131105A (ja) 2019-08-08
US20190236388A1 (en) 2019-08-01
US10592758B2 (en) 2020-03-17
CN110103978A (zh) 2019-08-09

Similar Documents

Publication Publication Date Title
JP7361477B2 (ja) 車両の乗員監視装置、および交通システム
US10852720B2 (en) Systems and methods for vehicle assistance
US7760070B2 (en) Vehicle security device and system
JP4561612B2 (ja) 車両ドア制御システム
US9744941B2 (en) Motor vehicle with remote start and subsequent automatic shutdown
US20140204211A1 (en) Method and device for vehicle access control
US20120056734A1 (en) Method of monitoring vehicle surroundings, and apparatus for monitoring vehicle surroundings
JP4793085B2 (ja) 車両用居眠り防止装置
WO2022135495A1 (zh) 车门控制系统和方法、车辆
CN110654389B (zh) 车辆的控制方法、控制装置和车辆
JP2007245842A (ja) 走行制御システム
JP2012066689A (ja) 車両制御システム、車両制御方法、及び、エンジン制御装置
US10977505B2 (en) Occupant monitoring device for vehicle
JP2006131031A (ja) 車両機能制御装置
JP4211562B2 (ja) 車両用周辺監視装置
JP6676084B2 (ja) 車両の乗員監視装置
JP2004330979A (ja) 車両の駆動制御装置
JP7377747B2 (ja) 車両制御装置、車両制御方法、及び車両制御用プログラム
JP2021145301A (ja) 車両制御装置および車両、ならびにそれらの制御方法
JP2021147854A (ja) 車両制御装置、車両制御方法、及び車両制御用プログラム
JP2001097070A (ja) 乗物用人物認識装置
JP7399762B2 (ja) 車両制御装置、車両制御方法、及び車両制御用プログラム
JP7020077B2 (ja) 盗難防止装置
EP4129795A1 (en) System for preventing drunk driving and method for controlling the same
JP2008087735A (ja) 走行制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190704

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190913

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200311

R150 Certificate of patent or registration of utility model

Ref document number: 6676084

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250