JP7111510B2 - 状態判定装置、運転支援装置、状態判定方法、及び、運転支援方法 - Google Patents

状態判定装置、運転支援装置、状態判定方法、及び、運転支援方法 Download PDF

Info

Publication number
JP7111510B2
JP7111510B2 JP2018106396A JP2018106396A JP7111510B2 JP 7111510 B2 JP7111510 B2 JP 7111510B2 JP 2018106396 A JP2018106396 A JP 2018106396A JP 2018106396 A JP2018106396 A JP 2018106396A JP 7111510 B2 JP7111510 B2 JP 7111510B2
Authority
JP
Japan
Prior art keywords
driver
vehicle
driving
state
gaze
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018106396A
Other languages
English (en)
Other versions
JP2019209784A (ja
Inventor
博 正嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Faurecia Clarion Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd, Faurecia Clarion Electronics Co Ltd filed Critical Clarion Co Ltd
Priority to JP2018106396A priority Critical patent/JP7111510B2/ja
Priority to US17/049,716 priority patent/US11618482B2/en
Priority to EP18920444.9A priority patent/EP3805065A4/en
Priority to PCT/JP2018/044139 priority patent/WO2019230020A1/ja
Publication of JP2019209784A publication Critical patent/JP2019209784A/ja
Application granted granted Critical
Publication of JP7111510B2 publication Critical patent/JP7111510B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005Handover processes
    • B60W60/0051Handover processes from occupants to vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/082Selecting or switching between different modes of propelling
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005Handover processes
    • B60W60/0053Handover processes from vehicle to occupant
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/005Handover processes
    • B60W60/0059Estimation of the risk associated with autonomous or manual driving, e.g. situation too complex, sensor failure or driver incapacity
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0818Inactivity or incapacity of driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/54Audio sensitive means, e.g. ultrasound
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2510/00Input parameters relating to a particular sub-units
    • B60W2510/20Steering systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00Input parameters relating to overall vehicle dynamics
    • B60W2520/10Longitudinal speed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/10Accelerator pedal position
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/12Brake pedal position
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/18Steering angle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/225Direction of gaze
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • B60W2556/45External transmission of data to or from the vehicle
    • B60W2556/50External transmission of data to or from the vehicle of positioning data, e.g. GPS [Global Positioning System] data

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本発明は、状態判定装置、運転支援装置、状態判定方法、及び、運転支援方法に関する。
従来、運転者の覚醒状況を検知する装置が知られている(例えば、特許文献1参照)。特許文献1記載の装置は、ステアリングに装着しているシフトパッドを所定の操作させることで覚醒を検知する。
特開2017-178009号公報
しかしながら、運転者が覚醒状態であっても、運転可能な状態であるとは限らない。このため、従来の技術では、運転者が運転可能な状態か否かを判定することはできなかった。
本発明は、運転者の状態が運転に適した状態か否かを判定することを目的とする。
上記課題を解決するため、本発明は、車両の運転者の状態を判定する状態判定装置であって、前記運転者に対して運転操作に関する案内が行われたことを検知する案内検知部と、前記運転者の視線の方向を検出する視線検出部と、前記案内検知部により案内を検知してから第1基準時間が経過するまでに、予め設定された注視方向について、前記運転者の視線が前記注視方向を向いていること、及び、前記運転者の視線が前記注視方向を向いている時間が第2基準時間以上であることを含む注視条件が成立したか否かを判定する条件判定部と、前記条件判定部の判定結果に基づいて、前記運転者が運転可能な状態であるか否かを判定する運転者状態判定部と、を備えることを特徴とする。
また、本発明は、前記運転者状態判定部は、判定の対象として複数の前記注視方向が設定された場合、設定された全ての前記注視方向について前記注視条件が成立したと判定した場合に、前記運転者が運転可能な状態であると判定すること、を特徴とする。
また、本発明は、前記運転者状態判定部により判定する前記注視方向は、前記車両の走行状態に対応して設定されること、を特徴とする。
また、本発明は、前記第2基準時間は、前記注視方向、及び、前記車両の走行状態に対応して設定されること、を特徴とする。
また、本発明は、前記車両の走行状態に対応付けて前記注視方向および前記第2基準時間を定める条件データを記憶する記憶部と、前記車両の走行状態を判定する走行状態判定部と、を備え、前記条件判定部及び前記運転者状態判定部は、前記走行状態判定部により判定した走行状態に対応付けて前記記憶部に記憶された前記条件データに基づき、判定を行うこと、を特徴とする。
また、本発明は、前記車両の周囲の状況に関する検知を行う周辺状況検知部と、前記運転者の入力を受け付ける入力部と、を備え、前記運転者状態判定部は、前記注視方向について前記注視条件が成立したと判定し、かつ、前記入力部により受け付けた入力が前記周辺状況検知部の検知結果と対応する場合に、前記運転者が運転可能な状態であると判定すること、を特徴とする。
また、本発明は、前記視線検出部は、前記運転者の視線の方向または顔の向きを検出することにより、視線方向を特定すること、を特徴とする。
また、本発明は、前記案内検知部は、前記運転者に対する音声、または表示による運転開始の案内を検知すること、を特徴とする。
また、上記課題を解決するため、本発明の運転支援装置は、車両の走行制御を行う自動運転制御部と、前記自動運転制御部による走行制御を行う自動運転モードと、運転者の操作により前記車両を走行させる手動運転モードとを切り替える運転モード制御部と、前記運転者に対して運転操作に関する案内が行われたことを検知する案内検知部と、前記運転者の視線の方向を検出する視線検出部と、前記案内検知部により案内を検知してから第1基準時間が経過するまでに、予め設定された注視方向について、前記運転者の視線が前記注視方向を向いていること、及び、前記運転者の視線が前記注視方向を向いている時間が第2基準時間以上であることを含む注視条件が成立したか否かを判定する条件判定部と、前記条件判定部の判定結果に基づいて、前記運転者が運転可能な状態であるか否かを判定する運転者状態判定部と、を備え、前記運転モード制御部は、前記自動運転モードにおいて、前記運転者状態判定部によって前記運転者が運転可能な状態であると判定した場合に、前記手動運転モードへの切り替えを行うこと、を特徴とする。
また、上記課題を解決するため、本発明の状態判定方法は、車両の運転者の状態を判定する状態判定方法であって、前記運転者に対して運転操作に関する案内が行われたことを検知する案内検知ステップと、前記運転者の視線の方向を検出する視線検出ステップと、前記案内検知ステップで案内を検知してから第1基準時間が経過するまでに、予め設定された注視方向について、前記運転者の視線が前記注視方向を向いていること、及び、前記運転者の視線が前記注視方向を向いている時間が第2基準時間以上であることを含む注視条件が成立したか否かを判定する条件判定ステップと、前記条件判定ステップの判定結果に基づいて、前記運転者が運転可能な状態であるか否かを判定する運転者状態判定ステップと、を含むことを特徴とする。
また、上記課題を解決するため、本発明の運転支援方法は、車両の走行制御を行う自動運転制御部を備え、前記自動運転制御部による走行制御を行う自動運転モードと、運転者の操作により前記車両を走行させる手動運転モードとを切り替え可能な前記車両による運転支援方法であって、前記運転者に対して運転操作に関する案内が行われたことを検知する案内検知ステップと、前記運転者の視線の方向を検出する視線検出ステップと、前記案内検知ステップで案内を検知してから第1基準時間が経過するまでに、予め設定された注視方向について、前記運転者の視線が前記注視方向を向いていること、及び、前記運転者の視線が前記注視方向を向いている時間が第2基準時間以上であることを含む注視条件が成立したか否かを判定する条件判定ステップと、前記条件判定ステップの判定結果に基づいて、前記運転者が運転可能な状態であるか否かを判定する運転者状態判定ステップと、を含む状態判定を実行し、前記状態判定によって前記運転者が運転可能な状態であると判定した場合に、前記運転者によるハンドル操作、及び、アクセル操作を含む運転操作の状態を検知し、運転操作の状態の検知結果に基づいて、前記手動運転モードへの切り替えを行うこと、を特徴とする。
本発明によれば、運転者の視線に基づいて、運転者の状態が運転に適した状態か否かを判定できる。
車両の制御系の構成を示すブロック図である。 車載装置の動作の概要を示す状態遷移図である。 車載装置が記憶する条件データの構成を示す模式図である。 第1実施形態に係る車載装置の動作を示すフローチャートである。 第2実施形態に係る車載装置の動作を示すフローチャートである。 第3実施形態に係る車載装置の動作を示すフローチャートである。
[第1実施形態]
以下、図面を参照して本発明の実施の形態について説明する。
図1は、実施形態に係る車両1の制御系の構成を示す図である。
車両1は、動力源を搭載し、自走可能な車両であり、具体的には四輪自動車や自動二輪車等である。動力源は、内燃機関であってもよいし電動機であってもよく、複数種類の動力源を搭載する構成であってもよい。以下の説明では、車両1は、内燃機関の動力により走行する四輪自動車を例として示す。また、以下の説明では、車両1の通常走行時の進行方向を、前方とする。
車両1は、車両1を制御する車載装置10を備える。車載装置10は、走行支援ECU(Electronic Control Unit)20、記憶部40、車両制御ECU50、表示部61、スピーカ62、及び入力部63を含む。車載装置10は、運転者による車両1の運転を支援する状態判定装置、及び、運転支援装置として機能する。
車両1は、運転者による運転操作に応じて車両1を動作させるステアリング51、アクセル52、及び、ブレーキ53を備える。ステアリング51は、ハンドル(図示略)の操作(ハンドル操作)に応じて車両1を操舵する機構である。アクセル52は、アクセルペダル(図示略)の操作(アクセル操作)に応じて車両1の加速を制御する機構である。ブレーキ53は、ブレーキペダル(図示略)の操作(ブレーキ操作)に応じて車両1の減速を制御する機構である。ステアリング51は、車両制御ECU50の制御により動作するアクチュエータ(図示略)を備え、車両制御ECU50は、ステアリング51のアクチュエータを駆動することにより、運転者に変わってステアリング51を動作させる。すなわち、車両制御ECU50は、少なくとも車両1の操舵に関する自動運転を実行可能であり、運転者に代わってステアリング51を動作させる。また、車両制御ECU50は、アクセル52、及び、ブレーキ53を駆動するアクチュエータ(図示略)を備え、自動運転を実行する場合に、アクセル52及びブレーキ53を動作させる。車両制御ECU50は、車両1の自動運転を実行する自動運転制御部として機能する。
車両1は、外部撮影カメラ11、アクセルセンサ12、ブレーキセンサ13、ハンドルセンサ14、舵角センサ15、車速センサ16、車内撮影カメラ17、及び、GPS(Global Positioning System)18を備える。これらの各部は、バス64を介して、走行支援ECU20及び車両制御ECU50に接続される。バス64は、CAN(Controller Area Network)により各部を相互に通信可能に接続する通信路である。また、車両に搭載される各センサの一部は、LIN(Local Interconnect Network)バスを介してバス64に接続されてもよい。
外部撮影カメラ11は、車両1の外部を撮影するカメラであり、外部撮影カメラ11の画角すなわち撮影範囲には、少なくとも、車両1の進行方向における所定範囲が含まれる。外部撮影カメラ11は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮影素子を利用したデジタルカメラである。外部撮影カメラ11は、撮影を実行し、撮影画像データを走行支援ECU20に出力する。
外部撮影カメラ11は、例えば、180度以上の画角を有する超広角レンズを備える構成とすることができ、この場合、比較的広範囲の画像を撮影することができる。また、外部撮影カメラ11は、撮影範囲が異なる複数のカメラで構成されてもよい。また、例えば、車両1の周囲を撮影する複数のカメラの撮影画像を合成して、1または複数の撮影画像データを生成してもよい。外部撮影カメラ11が生成した撮影画像データは、走行支援ECU20に出力され、メモリ25に一時的に記憶される。
外部撮影カメラ11は、単眼カメラであってもよいし、複数の外部撮影カメラ11がステレオカメラを構成してもよい。外部撮影カメラ11がステレオカメラである場合、走行支援ECU20は、外部撮影カメラ11の撮影画像に基づき、外部撮影カメラ11の撮影範囲内に位置する被写体について、車両1からの距離を求めることが可能である。これにより、走行支援ECU20は、外部撮影カメラ11の撮影画像に基づき、車両1の前方の他の車両(以下、他車)や障害物を検出できる。
また、車両1は、車両1に近接している物体を検知する超音波式のソナーや、車両1の前方や他の方向に存在する障害物までの距離を検知するレーダ装置を備えてもよい。取得する。
アクセルセンサ12は、アクセル52のスロットル開度を検出し、検出値をバス64により出力する。また、アクセルセンサ12は、運転者がアクセルペダル(図示略)に足を載せているか否かを検出する構成であってもよい。
ブレーキセンサ13は、ブレーキ53の動作状態を検出し、検出結果をバス64により出力する。また、ブレーキセンサ13は、ブレーキペダル(図示略)の踏力を検出し、検出値を出力する構成であってもよい。
ハンドルセンサ14は、ステアリング51を操作するハンドル(ステアリングホイール)に運転者が手を触れているか否かを検出し、検出結果をバス64により出力する。舵角センサ15は、車両1のステアリング51の舵角を検出し、検出値をバス64により出力する。ここで、ハンドルセンサ14が舵角センサ15として機能する構成であってもよい。すなわち、ハンドルセンサ14が、ハンドルの操作角度を検出し、検出した角度を舵角として走行支援ECU20に出力してもよい。
車速センサ16は、車両1の速度を検出し、検出値をバス64により出力する。
車内撮影カメラ17は、CCDやCMOSを備えるデジタルカメラであり、車両1の車内を含む撮影範囲を撮影する。車内撮影カメラ17は、撮影画像データを走行支援ECU20に出力する。車内撮影カメラ17の撮影範囲は、少なくとも運転者の顔の位置を含む。より詳細には、運転者の顔の全体、或いは、運転者の目の位置の少なくともいずれかが車内撮影カメラ17の撮影範囲に含まれる。走行支援ECU20は、車内撮影カメラ17の撮影画像から、運転者の顔の向きまたは視線方向を検出可能である。
GPS18は、測位を実行し、車両1の現在位置を出力する。
走行支援ECU20は、CPU(Central Processing Unit)21と、CPU21が実行するプログラムやCPU21により処理されるデータを格納するメモリ25とを備えるコンピュータ装置である。また、走行支援ECU20は、CPU21の制御によりCAN通信を実行するCAN通信部26を備える。
CPU21は、メモリ25が記憶するプログラムを実行することにより、車載装置10を制御する。走行支援ECU20は、ソフトウェアとハードウェアの協働により、走行支援のための各種機能を実現する。具体的には、走行支援ECU20は、走行支援制御部30、案内部31、視線検出部32、条件判定部33、運転者状態判定部34、走行状態判定部35、周辺状況検知部36、操作状態検知部37、入力受付部38、報知制御部39を備える。
メモリ25は、ROM(Read Only Memory)やフラッシュROM等の不揮発性記憶部、及び、RAM(Random Access Memory)等の揮発性記憶部の少なくともいずれかを含み、メモリ25が複数の記憶装置により構成されてもよい。
走行支援ECU20は、CPU21によりプログラムを実行する構成に限定されず、FPGA(Field Programmable Gate Array)等のプログラムされたハードウェアで構成されてもよい。
記憶部40は、データを不揮発的に記憶する装置であり、条件データ41、及び、走行支援データ42を記憶する。記憶部40は、条件データ41及び走行支援データ42の他、例えば経路案内用の地図データを記憶してもよい。
表示部61は、液晶表示パネル等で構成される表示画面を備え、走行支援ECU20の制御に従って、表示画面に画像や文字を表示する。
スピーカ62は、走行支援ECU20の制御に従って音声を出力する。
入力部63は、運転者の入力操作を受け付ける操作部であり、例えば、表示部61の表示画面に重ねて配置されるタッチセンサー(図示略)や、スイッチを備える。入力部63は、運転者による操作を検出し、検出結果を走行支援ECU20に出力する。入力部63は、音声による入力を検出可能な構成であってもよい。
車両制御ECU50は、アクセルセンサ12、ブレーキセンサ13、ハンドルセンサ14、舵角センサ15、車速センサ16等の検出結果を取得する。また、車両制御ECU50は、外部撮影カメラ11の撮影画像に基づき、車両1の外部の状況を解析する。例えば、車両制御ECU50は、外部撮影カメラ11の撮影画像から、車両1の前方に位置する障害物を検出する処理や、車両1が走行中の道路の車線を検出する処理等を行う。車両制御ECU50は、取得した検出結果に基づき、ステアリング51、アクセル52、及びブレーキ53の少なくともいずれかを操作して、車両1の走行制御を行う。
車載装置10は、自動運転モード、及び、手動運転モードを切り替えて実行できる。自動運転モードは、車両制御ECU50が車両1を操縦して走行させ、運転者の運転操作が不要な動作モードである。自動運転モードでは、車両制御ECU50が車両1の走行制御を行い、運転者がハンドルやアクセルペダルを操作せずに車両1を走行させる。自動運転モードは、例えば、SAE(Society of Automotive Engineers)により策定された「自動車の運転自動化システムに関連する用語の分類および定義J3016_201609」の自動運転レベル3~5に相当する。手動運転モードでは、運転者がハンドル、アクセルペダル、及びブレーキペダルを操作して車両1を走行させる。
手動運転モードは、運転者による操作を必要とする動作モードであり、運転者の操作のみにより走行する状態に限定されない。手動運転モードで、走行支援ECU20や車両制御ECU50が、車両1の走行の一部を支援してもよい。例えば、走行支援ECU20が、車両1の前方の障害物に対する警告出力を行ってもよい。また、例えば、SAEが定める自動運転レベル1~2の運転支援を実行してもよい。具体的には、車両1の前方の障害物を回避する必要がある場合に、車両制御ECU50がブレーキ53を動作させて、緊急ブレーキを作動させてもよい。このほか、手動運転モードにおいて走行支援ECU20が実行する各種の報知や、車両制御ECU50が実行する運転のアシストについては制限されない。
ここで、車載装置10の動作モードについて、図2を参照して説明する。
図2は、車載装置10の動作の概要を示す状態遷移図である。
車載装置10の動作状態は、上述した手動運転モード101及び自動運転モード102に加え、縮退運転モード103がある。
車載装置10は、手動運転モード101から自動運転モード102に遷移する際に、自動運転モード102に移行するための自動運転可能判定処理(ステップST1)を実行する。ステップST1の自動運転可能判定処理は、手動運転モード101の実行中に、自動運転への切替のトリガを契機として開始される。自動運転への切替のトリガは、例えば、運転者による入力部63に対する入力操作である。
ステップST1の自動運転可能判定処理は、車両制御ECU50による自動運転を実行可能な状態か否かを判定する処理である。ステップST1で、走行支援ECU20は、悪天候や直射日光の影響で外部撮影カメラ11の撮影画像データから車線や障害物を適切に検出できない場合等に、自動運転不可と判定する。また、走行支援ECU20は、車両制御ECU50が自動運転を実行可能な状態である場合に、自動運転可能と判定する。
走行支援ECU20は、ステップST1で自動運転不可と判定した場合、手動運転モード101に戻る。また、走行支援ECU20は、自動運転可能と判定した場合、自動運転モード102に移行し、車両制御ECU50による自動運転を開始する。
車載装置10は、自動運転モード102から手動運転モード101に遷移する際に、運転者状態判定処理(ステップST2)を実行する。ステップST2の運転者状態判定処理は、自動運転モード102の実行中に、手動運転への切替のトリガを契機として開始される。手動運転への切替のトリガは、例えば、運転者による入力部63に対する入力操作である。
ステップST2の運転者状態判定処理は、車両1の運転者が、手動運転の操作を実行できる状態か否かを判定する処理である。ステップST2で、走行支援ECU20は、運転者に対して手動運転を開始することを通知する。さらに、走行支援ECU20は、運転者の視線を検出し、運転者の視線方向が、予め設定された条件を満たすか否かに基づいて、判定を行う。判定の詳細については後述するが、走行支援ECU20は、例えば、運転者の視線が決められた方向を向いていない場合や、決められた方向を向いている時間が短い場合に、運転者が手動運転を実行できる状態ではないと判定する。
運転者状態判定処理で、手動運転の操作が可能と判定した場合に、走行支援ECU20は、手動運転モード101に移行する。
また、状態判定処理で、手動運転の操作が困難な状態であると判定した場合、走行支援ECU20は、縮退運転モード103に移行する。
縮退運転モード103は、車両1を減速させ、最終的に停車させるための運転モードであり、車両制御ECU50が車両1の走行を制御する。車両制御ECU50は、縮退運転モード103で、車両1を減速させる。車両制御ECU50は、車両1を停車させることが可能な場所を検出し、検出した場所に向けて車両1を走行させて、車両1を停車させる。車両制御ECU50は、車両1を停車させることが可能な場所を、例えば、外部撮影カメラ11の撮影画像や、GPS18が検出する車両1の位置と地図データ(図示略)とに基づき、検出する。
縮退運転モード103は、車両制御ECU50が自動運転を継続しない場合であって、運転者が車両1の運転操作が困難な状態である場合に、車両1の安全を確保するために好適な動作モードである。
また、縮退運転モード103において、運転者が入力部63に対する操作を行い、手動運転の開始を指示した場合、走行支援ECU20は、ステップST2の運転者状態判定処理を再び実行する。
このように、車載装置10は、運転者が運転を行う手動運転モード101と、車両制御ECU50が運転する自動運転モード102とを実行でき、自動運転モード102の実行中に運転操作を車両制御ECU50から運転者に委譲できる。すなわち、自動運転モード102から手動運転モード101への切替を行うことができる。この切替は、任意のトリガを契機として実行可能である。そして、自動運転モード102から手動運転モード101に移行する際に、車載装置10は、運転者が、手動運転できる状態か否かの判定を行う。
運転者状態判定処理(ステップST2)において、運転者の状態を判定するため、走行支援ECU20は、記憶部40が記憶する条件データ41を利用する。
図3は、車載装置10が記憶する条件データ41の構成を示す模式図である。
条件データ41は、運転者状態判定処理において運転者の状態を判定する基準を定義するデータである。条件データ41は、判定基準の数値または数値の範囲、演算式、テーブル等の各種の形式とすることができる。図3には、条件データ41の一構成例として、テーブル形式の第1テーブル411、及び、第2テーブル412を示す。
第1テーブル411は、通常走行用のテーブルであり、第2テーブル412は、渋滞走行用のテーブルである。図3に示す例では、条件データ41は、車両1の走行状態に対応する複数のテーブルを含む。条件データ41が含む複数のテーブルは、車両1の走行状態に応じて使い分けることが可能である。
本実施形態で、車載装置10は、運転者の視線が特定の方向に向いたか否か、及び、運転者の視線が特定の方向に向いている時間に基づいて、運転者の状態を判定する。第1テーブル411は、運転者の視線が向くべき方向を定めるデータを含む。また、第1テーブル411は、運転者の視線が、設定された方向を向くべき時間を定めるデータを含む。
具体的には、第1テーブル411は、運転者の視線が向くべき方向を示す「判定方向」として、View-Fr、View-RSM、View-LSM、View-RVMの4方向を定めている。View-Frは運転席からフロントガラスを見る方向である。View-RSMは運転席から右サイドミラーを見る方向であり、View-LSMは、運転席から左サイドミラーを見る方向であり、View-RVMは運転席からルームミラーを見る方向である。第1テーブル411では、視線方向の種類として、View-Frを「前方視」、View-RSMを「右サイドミラー視」、View-LSMを「左サイドミラー視」、View-RVMを「ルームミラー視」と定義している。
View-Fr、View-RSM、View-LSM、View-RVMは、特定の一方向を示すデータであってもよいが、運転者の視線が向くべき方向の範囲であってもよい。すなわち、運転者の視線方向が、フロントガラスの特定の範囲に重なる場合に、運転者の視線がView-Frを向いていると判定される。View-RSM、View-LSM、View-RVMも同様に、運転者の視線の範囲であってもよい。
第1テーブル411は、運転者の視線が「判定方向」で定義された方向を向くべき時間を示す「累積視線時間」を含む。累積視線時間は判定方向ごとに定められる。第1テーブル411では、View-Frの累積視線時間が1.0秒に設定され、View-RSM、View-LSM、及びView-RVMの累積視線時間が0.5秒に設定されている。つまり、運転者の視線がView-Frを向いている時間が累積で1.0秒に達した場合に、走行支援ECU20は、View-Frについて条件を満たしたと判定する。View-RSM、View-LSM、及びView-RVMについては0.5秒を基準とする他は同一である。
さらに、第1テーブル411は、運転者の視線が「判定方向」で定義された方向を向くべき時間を検出する期間を示す「判定時間」を含む。図3の例では、第1テーブル411の「判定時間」は4.0秒である。つまり、走行支援ECU20は、判定方向ごとの累積視線時間の検出を、4.0秒間しか行わない。換言すれば、4.0秒以内に、判定方向ごとの累積視線時間の検出が第1テーブル411の設定値に達することが求められる。判定時間は、走行支援ECU20が、後述するように、運転者状態判定処理を実行することを運転者に案内してからの時間である。
このように、第1テーブル411は、「判定時間」以内に、運転者の視線が「判定方向」で設定された方向を向くこと、「判定方向」を向いた時間が「累積視線時間」として設定された時間に達することを条件とする。判定時間は、第1基準時間ということができ、累積視線時間は第2基準時間ということができる。判定方向は、運転者の視線が向くべき方向であり、注視方向ということができる。そして、第1テーブル411は、運転者の視線についての判定を行う注視条件ということができる。
第2テーブル412では、「判定方向」としてView-Fr及びView-RSMが定義され、累積視線時間がそれぞれ0.5秒に設定されている。「判定時間」は4.0秒である。
走行支援ECU20は、第1テーブル411と第2テーブル412とを排他的に選択できる。第1テーブル411は、通常走行用のテーブルであり、第2テーブル412は渋滞走行用のテーブルである。例えば、走行支援ECU20は、車両1の走行状態が、渋滞を走行中か否かを判定し、渋滞走行中でない場合は第1テーブル411を選択し、渋滞である場合は第2テーブル412を選択する。走行支援ECU20が第1テーブル411及び第2テーブル412を選択する動作については第2実施形態で説明する。
条件データ41は、第1テーブル411及び第2テーブル412以外に、車両1の走行状態に対応する他のテーブルを含んでもよい。例えば、車両1が高速道路や自動車専用道路を走行中に使用される高速走行用のテーブルを含んでもよい。
図1に戻り、走行支援データ42は、車両制御ECU50が走行支援、及び自動運転を行うためのデータであり、例えば、車両1のステアリング51、アクセル52、ブレーキ53の仕様や特性に関するデータを含む。また、走行支援データ42は地図データを含んでもよい。
また、記憶部40は、CPU21が実行するプログラムや、CPU21により処理されるその他のデータを含んでもよい。
CPU21の走行支援制御部30は、手動運転モード101、自動運転モード102、及び縮退運転モード103の各動作モードを実行する。また、走行支援制御部30は、手動運転モード101、自動運転モード102、及び縮退運転モード103のモードの遷移を制御する。例えば、走行支援制御部30は、手動運転モード101から自動運転モード102に遷移する場合に、自動運転可能判定処理(ステップST1)を実行し、処理結果に基づき、車両制御ECU50による自動運転を実行させる。また、走行支援ECU20は、自動運転モード102から手動運転モード101に遷移する場合に、運転者状態判定処理(ステップST2)を実行し、実行結果に応じて、手動運転モード101または縮退運転モード103への遷移を制御する。走行支援制御部30は、動作モードを切り替える運転モード制御部として機能する。
案内部31は、走行支援制御部30が運転者状態判定処理を開始する際に、表示部61、及び/またはスピーカ62を利用して、案内を出力する。この動作は、通知、或いは報知ということができる。案内部31は、表示部61に、運転者状態判定処理を開始することを示す文字や画像を表示し、或いは、スピーカ62により、運転者状態判定処理を開始することを音声によって通知する。案内部31は、条件データ41に基づき、運転者が視線を向けるべき方向である「判定方向」、及び、視線を向ける時間である「累積視線時間」を通知してもよく、「判定時間」を通知してもよい。
視線検出部32は、運転者の視線の方向を検出する。視線検出部32は、運転者の目または視線を直接検出してもよいし、運転者の顔の方向から間接的に視線を検出してもよい。例えば、視線検出部32は、車内撮影カメラ17の撮影画像データから運転者の目の画像を検出し、運転者の目が向いている方向を視線方向として特定する。また、例えば、車内撮影カメラ17の撮影画像データから運転者の顔の画像を検出し、運転者の顔が向いている方向を特定する。この場合、視線検出部32は、運転者の顔の向きを、視線方向として検出する。
条件判定部33は、走行支援ECU20が運転者状態判定処理を実行する際に、視線検出部32が検出した運転者の視線の方向が、条件データ41の条件を満たすか否かを判定する。
運転者状態判定部34は、条件判定部33の判定結果に基づき、運転者が、手動運転の操作を行うことが可能な状態か、手動運転の操作を行うことが困難な状態かを判定する。
走行状態判定部35は、車両1の走行状態を判定する。例えば、走行状態判定部35は、車両1が渋滞走行中か、通常走行中か、高速走行中かを判定する。走行状態判定部35は、外部撮影カメラ11の撮影画像データから、車両1の周囲の車両である他車、道路設備、歩行者等を検出する処理を行ってもよい。また、走行状態判定部35は、車速センサ16が出力する車速を取得して、判定に用いてもよい。また、舵角センサ15が検出する舵角の検出値を取得して、判定に用いてもよい。
周辺状況検知部36は、車両1の周辺の状況に関する検知を行う。例えば、周辺状況検知部36は、車両1の前方の障害物を検知する。また、周辺状況検知部36は、車両1の前方に位置する他車の数、車両1の前方の道路設備、車両1が走行中の道路の車線数等を検出する。これらの検知に際し、周辺状況検知部36は、例えば、外部撮影カメラ11の撮影画像データを取得して解析する。
操作状態検知部37は、運転者が車両1を操作する状態を判定する。操作状態検知部37は、アクセルセンサ12、ブレーキセンサ13、及びハンドルセンサ14の検知結果を取得し、運転者がアクセルペダル、ブレーキペダル、及びハンドルを操作する状態を検知する。
入力受付部38は、運転者が入力部63に対して行う入力を受け付ける。入力受付部38は、走行支援ECU20が入力を検出するための機能部であり、入力部ということもできる。
報知制御部39は、表示部61及び/またはスピーカ62により、運転者に対する報知を行う。
図4は、車載装置10の動作を示すフローチャートである。
図4に示す動作は、自動運転モード102の実行中に、手動運転に切り替えるトリガが発生したことを契機として実行される。すなわち、図4には、運転者状態判定処理(ステップST2)における車載装置10の動作を示す。
走行支援ECU20は、案内部31によって、運転者状態判定処理を開始することの案内を実行し(ステップS1)、視線検出部32による視線の検出を開始する(ステップS2)。ステップS1で、走行支援制御部30は、案内部31により案内が行われたことを検知する案内検知部として機能する。また、案内を実行する案内部31が、案内を実行したことを検知する案内検知部として機能するということができる。
図4に示す動作では、走行支援ECU20は、条件データ41が含むテーブルのうちデフォルト(初期値)として設定された第1テーブル411を使用する。
条件判定部33は、視線検出部32が検出した視線の方向が、第1テーブル411に設定された判定方向を向いているか否かを判定する(ステップS3)。視線の方向が判定方向を向いていると判定した場合(ステップS3;YES)、条件判定部33は、視線方向が判定方向に該当している時間、すなわち注視時間が、第1テーブル411の累積視線時間に達したか否かを判定する(ステップS4)。
注視時間が累積視線時間に達した場合(ステップS4;YES)、条件判定部33は、ステップS3で判定した判定方向を、運転者が注視したと判定する(ステップS5)。条件判定部33は、第1テーブル411に設定された全ての判定方向で、運転者が注視したと判定済みであるか否かの判定を行う(ステップS6)。
ここで、条件判定部33により、第1テーブル411に設定された全ての判定方向で、運転者が注視したと判定された場合(ステップS6;YES)、走行支援制御部30の制御により、操作状態検知部37が操作状態を検出する(ステップS7)。
ステップS7で、操作状態検知部37は、アクセルセンサ12、ブレーキセンサ13及びハンドルセンサ14の検出値に基づき、運転者の運転操作の状態を検出する。
走行支援制御部30は、操作状態検知部37により検出された操作状態に基づき、運転者が、手動運転を実行できる状態か否かを判定する(ステップS8)。例えば、走行支援制御部30は、運転者がハンドルに触れているか、アクセルペダルまたはブレーキペダルのいずれかを踏んでいる場合に、手動運転を実行可能と判定する。手動運転を実行可能と判定した場合(ステップS8;YES)、走行支援制御部30は、手動運転モード101に移行する(ステップS9)。
このように、走行支援制御部30は、運転者への案内から第1基準時間である判定時間が経過するまでに、運転者が、第1テーブル411に設定された全ての判定方向を注視したと判定した場合、手動運転モード101に移行する。また、走行支援制御部30は、手動運転モード101に移行する際に、ハンドル、アクセルペダル及びブレーキペダルの少なくともいずれかの操作の状態が、手動運転可能な状態である場合に、手動運転モード101に移行する。従って、運転者が手動運転を行える状態であることを確認してから手動運転モード101に移行するので、自動運転モード102から手動運転モード101への移行を、より安全に、スムーズに行うことができる。
一方、条件判定部33により、運転者の視線が判定方向を向いていないと判定された場合(ステップS3;NO)、注視時間が累積視線時間に達していないと判定された場合(ステップS4;NO)、条件判定部33はステップS10に移行する。また、条件判定部33は、第1テーブル411に設定された判定方向のうち注視したと判定されていない判定方向がある場合(ステップS6;NO)、ステップS10に移行する。
ステップS10で、条件判定部33は、ステップS1で案内が実行されてからの経過時間が、第1テーブル411に設定された判定時間以上であるか否かを判定する(ステップS10)。ここで、案内が実行されてからの経過時間が、第1テーブル411に設定された判定時間に達していない場合(ステップS10;NO)、条件判定部33はステップS3に戻る。
また、案内が実行されてからの経過時間が、第1テーブル411に設定された判定時間に達した場合(ステップS10;YES)、走行支援制御部30は、車載装置10の動作モードを、縮退運転モード103(図2)に移行させる(ステップS11)。つまり、走行支援ECU20は、運転者への案内から第1基準時間である判定時間が経過するまでに、第1テーブル411の全ての判定方向を運転者が注視したと判定されなかった場合、縮退運転モード103に移行する。
また、走行支援制御部30は、運転者が手動運転を実行できる状態でないと判定した場合も(ステップS8;NO)、動作モードを縮退運転モード103に移行させる(ステップS11)。
走行支援制御部30は、縮退運転モード103で、車両制御ECU50によって車両1の速度を低下させ、停車するまでの運転制御を実行し、入力部63に対して動作モードの切替を指示する操作の有無を判定する(ステップS12)。ここで、動作モードの切替を指示する操作を入力受付部38が検出した場合(ステップS12;YES)、走行支援制御部30はステップS1に戻る。
動作モードの切替を指示する操作がない場合(ステップS12;NO)、走行支援制御部30は、車両1が停車したか否かを判定する(ステップS13)。車両1が停車していない場合(ステップS13;NO)、走行支援制御部30はステップS12に戻る。そして、車両1が停車した場合(ステップS13;YES)、走行支援制御部30は本処理を終了する。
以上説明したように、本実施形態の車載装置10は、車両1の運転者の状態を判定する装置であり、走行支援制御部30、視線検出部32、条件判定部33、及び運転者状態判定部34を備える。走行支援制御部30は、運転者に対して運転操作に関する案内が行われたことを検知する。視線検出部32は、運転者の視線の方向を検出する。条件判定部33は、走行支援制御部30により案内を検知してから判定時間(第1基準時間)内に、予め設定された判定方向(注視方向)について、運転者の視線が判定方向を向いていること、及び、運転者の視線が判定方向を向いている時間が累積視線時間(第2基準時間)以上であることを含む注視条件が成立したか否かを判定する。運転者状態判定部34は、条件判定部33の判定結果に基づいて、運転者が運転可能な状態であるか否かを判定する。
ここで、走行支援制御部30が案内を検知する動作は案内検知ステップに対応し、視線検出部32の動作は視線検出ステップに相当し、条件判定部33の動作は条件判定ステップに相当する。また、運転者状態判定部34の動作は運転者状態判定ステップに相当する。
本発明の状態判定装置、及び、状態判定方法を適用した車載装置10によれば、運転者の視線に基づいて、運転者の状態が運転に適した状態か否かを判定できる。
運転者は、車載装置10による案内が行われた後に、指定された方向に視線を向ける動作を行うことで、運転操作が可能な状態であることをアピールすればよく、車載装置10は、運転者が運転可能な状態であることを、より確実に判定できる。また、車載装置10は、運転者の視線が、設定された時間以上、設定された方向を向いたことを条件として判定を行うので、運転者が覚醒していることだけでなく、運転者が運転に適した状態であることを適切に判定できる。
また、運転支援装置としての車載装置10は、車両1の走行制御を行う車両制御ECU50と、車両制御ECU50による走行制御を行う自動運転モードと、運転者の操作により車両1を走行させる手動運転モードとを切り替える走行支援制御部30と、を備える。車載装置10は、視線検出部32、条件判定部33、及び運転者状態判定部34を備える。走行支援制御部30は、運転者に対して運転操作に関する案内が行われたことを検知する。視線検出部32は、運転者の視線の方向を検出する。条件判定部33は、走行支援制御部30により案内を検知してから判定時間(第1基準時間)内に、予め設定された判定方向(注視方向)について、運転者の視線が判定方向を向いていること、及び、運転者の視線が判定方向を向いている時間が累積視線時間(第2基準時間)以上であることを含む注視条件が成立したか否かを判定する。運転者状態判定部34は、条件判定部33の判定結果に基づいて、運転者が運転可能な状態であるか否かを判定する。走行支援制御部30は、自動運転モードにおいて、運転者状態判定部34によって運転者が運転可能な状態であると判定した場合に、手動運転モードへの切り替えを行う。
本発明の運転支援装置、及び、運転支援方法を適用した車載装置10によれば、運転者の視線に基づいて、運転者の状態が運転に適した状態か否かを判定できる。これにより、運転者が手動運転の操作を行うことが可能な状態であることを確認してから、自動運転から手動運転に切り替えることができる。また、車載装置10は、運転者の視線が、設定された時間以上、設定された方向を向いたことを条件として、運転者の状態を判定するので、運転が可能な状態であることを、より確実に判定できる。
車載装置10において、運転者状態判定部34は、判定の対象として複数の判定方向が設定された条件データ41に基づき、設定された全ての判定方向について注視条件が成立したと判定した場合に、運転者が運転可能な状態であると判定する。このため、運転者の視線について、より複雑な条件をもとに、運転者が運転可能な状態であることを適切に判定できる。
また、視線検出部32は、運転者の視線の方向または顔の向きを検出することにより、視線方向を特定するので、運転者の視線の方向を、外部撮影カメラ11等の簡易な手段によって確実に検出できる。
また、走行支援制御部30は、案内部31により、運転者に対する音声、または表示による運転開始の案内を行い、手動運転のための運転者状態判定処理の開始を確実に案内できる。
さらに、車載装置10は、自動運転モード102から手動運転モード101に移行する際に、運転者の状態が、運転に適した状態でないと判定した場合、縮退運転モード103に移行する。これにより、車載装置10の走行の安全性を維持しながら、自動運転モード102を終了できる。
[第2実施形態]
図5は、第2実施形態に係る車載装置10の動作を示すフローチャートである。
図5の動作は、運転者状態判定処理(ステップST2)における車載装置10の動作であり、図4に示す動作に代えて、自動運転モード102の実行中に、手動運転に切り替えるトリガが発生したことを契機として実行される。なお、図5の動作において、図4と共通するステップには、同じステップ番号を付して説明を省略する。
第2実施形態で、走行支援ECU20は、走行状態判定部35が車両1の走行状態を判定した判定結果を利用する。走行支援ECU20は、視線検出部32によって視線の検出を開始すると(ステップS2)、走行状態判定部35によって車両1の走行状態を判定する(ステップS21)。
条件判定部33は、ステップS21で走行状態判定部35が判定した走行状態に対応して記憶部40に記憶された条件データ41を参照する(ステップS22)。例えば、走行状態判定部35が、車両1の走行状態を「渋滞中」と判定した場合、条件判定部33はステップS22で第2テーブル412を参照する。また、例えば、走行状態判定部35が、車両1の走行状態を「通常走行中」と判定した場合、条件判定部33はステップS22で第1テーブル411を参照する。
その後、条件判定部33は、ステップS22で参照した条件データ41のテーブルに設定された条件に基づき、ステップS3以後の処理を実行する。
このように、第2実施形態に係る車載装置10は、車両1の走行状態に対応付けて判定方向および累積視線時間を定める条件データ41を記憶する記憶部40と、車両1の走行状態を判定する走行状態判定部35と、を備える。車載装置10の条件判定部33及び運転者状態判定部34は、走行状態判定部35により判定した走行状態に対応付けて記憶部40に記憶された条件データ41に基づき、判定を行う。
この構成によれば、運転者状態判定部34により判定する判定方向が、車両1の走行状態に対応して記憶される第1テーブル411及び第2テーブル412により設定される。条件判定部33は、車両1の走行状態に対応する判定方向に基づき、運転者の視線を判定する。
第2テーブル412は、渋滞中に対応して設定されるテーブルであり、第1テーブル411に比べ、判定方向が少ない。これは、通常走行中に運転者に要求される注意力と、渋滞中に要求される注意力とが異なることに対応している。このため、車載装置10は、重地帯中には、視線に関する条件が少ない第2テーブル412に基づいて運転者の状態を速やかに判定でき、通常走行中は、より多くの判定方向で運転者の状態を適切に判定できる。
また、第1テーブル411と第2テーブル412とにおいて、異なる累積視線時間を設定することも可能である。この場合、累積視線時間が、判定方向、及び、車両1の走行状態に対応して設定される。これにより、運転者の状態の判定に用いる条件を、車両1の走行状態に対応して詳細に設定することができ、より適切に、自動運転モード102から自動運転モード102に移行する際に、運転者の状態を判定できる。
[第3実施形態]
図6は、第2実施形態に係る車載装置10の動作を示すフローチャートである。
図6の動作は、運転者状態判定処理(ステップST2)における車載装置10の動作であり、図4に示す動作に代えて、自動運転モード102の実行中に、手動運転に切り替えるトリガが発生したことを契機として実行される。なお、図6の動作において、図4と共通するステップには、同じステップ番号を付して説明を省略する。
第3実施形態で、走行支援ECU20は、周辺状況検知部36が車両1の周辺状況を判定した判定結果を利用する。
走行支援ECU20は、全ての判定方向で運転者が注視したと判定された場合(ステップS6;YES)、運転者による周辺状況に関する情報の入力を受け付ける(ステップS31)。ここで、走行支援ECU20は、案内部31により、運転者に対し、車両1の周辺の障害物や車両1に関する入力を促すメッセージ等を出力してもよい。
入力受付部38が、運転者による入力を受け付けた後、運転者状態判定部34は、入力の内容が適正か否かを判定する(ステップS32)。ステップS32で、運転者状態判定部34は、入力内容と、周辺状況検知部36が判定した判定結果とが適合するか否かを判定する。例えば、ステップS31で、運転者に対し、車両1の前方の他車の数を入力するように案内部31により案内を行い、周辺状況検知部36によって、外部撮影カメラ11の撮像画像データに基づき車両1の前方の他車の数を検出する。ステップS32で、運転者状態判定部34により、運転者が入力した他車の数と、周辺状況検知部36が検出した他車の数とを比較し、一致した場合に、入力が適正であると判定する。
運転者の入力内容が適正であると判定した場合、運転者状態判定部34は、ステップS7以後の動作を実行する。
また、運転者の入力内容が適正でないと判定した場合、運転者状態判定部34は、運転者が運転可能な状態でないと判定して、ステップS11に移行する。
このように、第3実施形態に係る車載装置10は、車両1の周囲の状況に関する検知を行う周辺状況検知部36と、運転者の入力を受け付ける入力受付部38と、を備える。運転者状態判定部34は、判定方向について注視条件が成立したと判定し、かつ、入力受付部38により受け付けた入力が周辺状況検知部36の検知結果と対応する場合に、運転者が運転可能な状態であると判定する。これにより、運転者の視線の方向と条件データ41とに基づく判定と、運転者の知覚に基づく判定とを組み合わせることで、運転者が運転可能な状態か否かを、より適切に判定し、自動運転モード102から手動運転モード101に移行できる。
上述の実施形態は、あくまでも本発明の一実施の態様を例示するものであって、本発明の趣旨を逸脱しない範囲で任意に変形、及び応用が可能である。
例えば、車載装置10が運転者の視線を検出する方法は、車内撮影カメラ17の撮影画像データを利用する方法に限定されず、筋電位計を利用する方法や、その他の方法を採用することができる。また、上記実施形態で、車両制御ECU50による自動運転を行う車載装置10に、本発明を適用する例を説明したが、本発明の適用範囲はこれに限定されない。例えば、手動運転モード101及び自動運転モード102を実行し、自動運転モード102から手動運転モード101に移行する際に運転者に案内を行う案内部31を備えた自動運転システムと、本発明を適用する装置とが別体で構成されてもよい。この場合、本発明は、例えば、スマートフォンやポータブル型の車載装置であってもよいし、車両1に固定される車載装置を、自動運転システムとは別のシステムとして構成してもよい。この場合、本発明を適用する装置は、案内部31による案内が行われたことを、装置間の通信、または、マイクで集音した音声やカメラで撮影した撮影画像に基づいて、検知してもよい。
また、例えば、図1に示す機能ブロックは、車両1に搭載される装置の機能を主な処理内容に応じて分類して示した概略図である。例えば、走行支援ECU20の構成は、処理内容に応じて、さらに多くのブロックに分割することもできる。また、この機能ブロックは、図1に示す1つのブロックによりさらに多くの処理を実行するように構成しても良い。また、各ブロックの処理は、1つのハードウェアで実行しても良いし、複数のハードウェアで実行しても良い。また、各ブロックの処理は、1つのプログラムで実現しても良いし、複数のプログラムで実現しても良い。
また、図4~図6に示すフローチャートの処理単位は、車載装置10の動作を理解容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって本発明が制限されることはない。車載装置10の処理は、処理内容に応じて、さらに多くの処理単位に分割することもできる。また、1つの処理単位がさらに多くの処理を含むように分割することもできる。また、上記のフローチャートの処理順序も、図示した例に限られるものではない。
1 車両
10 車載装置
11 外部撮影カメラ
12 アクセルセンサ
13 ブレーキセンサ
14 ハンドルセンサ
15 舵角センサ
16 車速センサ
17 車内撮影カメラ
20 走行支援ECU
21 CPU
25 メモリ
26 CAN通信部
30 走行支援制御部
31 案内部
32 視線検出部
33 条件判定部
34 運転者状態判定部
35 走行状態判定部
36 周辺状況検知部
37 操作状態検知部
38 入力受付部
39 報知制御部
40 記憶部
41 条件データ
50 車両制御ECU
51 ステアリング
52 アクセル
53 ブレーキ
62 スピーカ
63 入力部
411 第1テーブル
412 第2テーブル

Claims (9)

  1. 車両の運転者の状態を判定する状態判定装置であって、
    前記運転者に対して運転操作に関する案内が行われたことを検知する案内検知部と、
    前記運転者の視線の方向を検出する視線検出部と、
    前記案内検知部により案内を検知してから第1基準時間が経過するまでに、前記車両の走行状態が渋滞中であるか通常走行中であるかに対応して設定された注視方向について、前記運転者の視線が前記注視方向を向いていること、及び、前記運転者の視線が前記注視方向を向いている時間が第2基準時間以上であることを含む注視条件が成立したか否かを判定する条件判定部と、
    前記条件判定部の判定結果に基づいて、前記運転者が運転可能な状態であるか否かを判定する運転者状態判定部と、
    を備え、
    前記車両の走行状態が渋滞中である場合に対応して設定される前記注視方向は、前記車両の走行状態が通常走行中である場合に対応して設定される前記注視方向に比べて少なく、
    前記運転者状態判定部は、判定の対象として設定された全ての前記注視方向について前記注視条件が成立したと判定した場合に、前記運転者が運転可能な状態であると判定することを特徴とする状態判定装置。
  2. 前記第2基準時間は、前記注視方向、及び、前記車両の走行状態に対応して設定されること、を特徴とする請求項1記載の状態判定装置。
  3. 前記車両の走行状態に対応付けて前記注視方向および前記第2基準時間を定める条件データを記憶する記憶部と、
    前記車両の走行状態を判定する走行状態判定部と、を備え、
    前記条件判定部及び前記運転者状態判定部は、前記走行状態判定部により判定した走行状態に対応付けて前記記憶部に記憶された前記条件データに基づき、判定を行うこと、を特徴とする請求項1または2記載の状態判定装置。
  4. 前記車両の周囲の状況に関する検知を行う周辺状況検知部と、
    前記運転者の入力を受け付ける入力部と、を備え、
    前記運転者状態判定部は、前記注視方向について前記注視条件が成立したと判定し、かつ、前記入力部により受け付けた入力が前記周辺状況検知部の検知結果と対応する場合に、前記運転者が運転可能な状態であると判定すること、を特徴とする請求項1から3のいずれかに記載の状態判定装置。
  5. 前記視線検出部は、前記運転者の視線の方向または顔の向きを検出することにより、視線方向を特定すること、を特徴とする請求項1から4のいずれかに記載の状態判定装置。
  6. 前記案内検知部は、前記運転者に対する音声、または表示による運転開始の案内を検知すること、を特徴とする請求項1から5のいずれかに記載の状態判定装置。
  7. 車両の走行制御を行う自動運転制御部と、
    前記自動運転制御部による走行制御を行う自動運転モードと、運転者の操作により前記車両を走行させる手動運転モードとを切り替える運転モード制御部と、
    前記運転者に対して運転操作に関する案内が行われたことを検知する案内検知部と、
    前記運転者の視線の方向を検出する視線検出部と、
    前記案内検知部により案内を検知してから第1基準時間が経過するまでに、前記車両の走行状態が渋滞中であるか通常走行中であるかに対応して設定された注視方向について、前記運転者の視線が前記注視方向を向いていること、及び、前記運転者の視線が前記注視方向を向いている時間が第2基準時間以上であることを含む注視条件が成立したか否かを判定する条件判定部と、
    前記条件判定部の判定結果に基づいて、前記運転者が運転可能な状態であるか否かを判定する運転者状態判定部と、を備え、
    前記車両の走行状態が渋滞中である場合に対応して設定される前記注視方向は、前記車両の走行状態が通常走行中である場合に対応して設定される前記注視方向に比べて少なく、
    前記運転者状態判定部は、判定の対象として設定された全ての前記注視方向について前記注視条件が成立したと判定した場合に、前記運転者が運転可能な状態であると判定し、
    前記運転モード制御部は、前記自動運転モードにおいて、前記運転者状態判定部によって前記運転者が運転可能な状態であると判定した場合に、前記手動運転モードへの切り替えを行うこと、を特徴とする運転支援装置。
  8. 車両の運転者の状態を判定するコンピュータによって実行される状態判定方法であって、
    前記運転者に対して運転操作に関する案内が行われたことを検知する案内検知ステップと、
    前記運転者の視線の方向を検出する視線検出ステップと、
    前記案内検知ステップで案内を検知してから第1基準時間が経過するまでに、前記車両の走行状態が渋滞中であるか通常走行中であるかに対応して設定された注視方向について、前記運転者の視線が前記注視方向を向いていること、及び、前記運転者の視線が前記注視方向を向いている時間が第2基準時間以上であることを含む注視条件が成立したか否かを判定する条件判定ステップと、
    前記条件判定ステップの判定結果に基づいて、前記運転者が運転可能な状態であるか否かを判定する運転者状態判定ステップと、
    を含み、
    前記車両の走行状態が渋滞中である場合に対応して設定される前記注視方向は、前記車両の走行状態が通常走行中である場合に対応して設定される前記注視方向に比べて少なく、
    前記運転者状態判定ステップで、前記コンピュータは、判定の対象として設定された全ての前記注視方向について前記注視条件が成立したと判定した場合に、前記運転者が運転可能な状態であると判定することを特徴とする状態判定方法。
  9. 車両の走行制御を行う自動運転制御部を備え、前記自動運転制御部による走行制御を行う自動運転モードと、運転者の操作により前記車両を走行させる手動運転モードとを切り替え可能な前記車両による運転支援方法であって、
    前記運転者に対して運転操作に関する案内が行われたことを検知する案内検知ステップと、
    前記運転者の視線の方向を検出する視線検出ステップと、
    前記案内検知ステップで案内を検知してから第1基準時間が経過するまでに、前記車両の走行状態が渋滞中であるか通常走行中であるかに対応して設定された注視方向について、前記運転者の視線が前記注視方向を向いていること、及び、前記運転者の視線が前記注視方向を向いている時間が第2基準時間以上であることを含む注視条件が成立したか否かを判定する条件判定ステップと、
    前記条件判定ステップの判定結果に基づいて、前記運転者が運転可能な状態であるか否かを判定する運転者状態判定ステップと、を含む状態判定を実行し、
    前記車両の走行状態が渋滞中である場合に対応して設定される前記注視方向は、前記車両の走行状態が通常走行中である場合に対応して設定される前記注視方向に比べて少なく、
    前記運転者状態判定ステップで、判定の対象として設定された全ての前記注視方向について前記注視条件が成立したと判定した場合に、前記運転者が運転可能な状態であると判定し、
    前記状態判定によって前記運転者が運転可能な状態であると判定した場合に、前記運転者によるハンドル操作、及び、アクセル操作を含む運転操作の状態を検知し、運転操作の状態の検知結果に基づいて、前記手動運転モードへの切り替えを行うこと、
    を特徴とする運転支援方法。
JP2018106396A 2018-06-01 2018-06-01 状態判定装置、運転支援装置、状態判定方法、及び、運転支援方法 Active JP7111510B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018106396A JP7111510B2 (ja) 2018-06-01 2018-06-01 状態判定装置、運転支援装置、状態判定方法、及び、運転支援方法
US17/049,716 US11618482B2 (en) 2018-06-01 2018-11-30 State determination device, driving support device, state determination method, and driving support method
EP18920444.9A EP3805065A4 (en) 2018-06-01 2018-11-30 STATE DETERMINATION DEVICE, DRIVING ASSISTANCE DEVICE, STATE DETERMINATION METHOD AND DRIVING ASSISTANCE METHOD
PCT/JP2018/044139 WO2019230020A1 (ja) 2018-06-01 2018-11-30 状態判定装置、運転支援装置、状態判定方法、及び、運転支援方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018106396A JP7111510B2 (ja) 2018-06-01 2018-06-01 状態判定装置、運転支援装置、状態判定方法、及び、運転支援方法

Publications (2)

Publication Number Publication Date
JP2019209784A JP2019209784A (ja) 2019-12-12
JP7111510B2 true JP7111510B2 (ja) 2022-08-02

Family

ID=68697339

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018106396A Active JP7111510B2 (ja) 2018-06-01 2018-06-01 状態判定装置、運転支援装置、状態判定方法、及び、運転支援方法

Country Status (4)

Country Link
US (1) US11618482B2 (ja)
EP (1) EP3805065A4 (ja)
JP (1) JP7111510B2 (ja)
WO (1) WO2019230020A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7044000B2 (ja) * 2018-07-20 2022-03-30 株式会社デンソー 車両制御装置および車両制御方法
KR20220074568A (ko) * 2020-11-27 2022-06-03 현대자동차주식회사 차량의 주행 제어 장치 및 방법
CN112874537B (zh) * 2021-02-23 2022-11-29 长安大学 一种紧急避险下智能驾驶系统的人机共驾控制方法
CN113335300A (zh) * 2021-07-19 2021-09-03 中国第一汽车股份有限公司 一种人车接管交互的方法、装置、设备和存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002025000A (ja) 2000-07-11 2002-01-25 Mazda Motor Corp 車両の制御装置
JP2004070795A (ja) 2002-08-08 2004-03-04 Nissan Motor Co Ltd 情報提供装置、情報提供制御プログラム
JP2007094618A (ja) 2005-09-28 2007-04-12 Omron Corp 通知制御装置および方法、記録媒体、並びに、プログラム。
JP2016115356A (ja) 2014-12-12 2016-06-23 ソニー株式会社 自動運転制御装置および自動運転制御方法、並びにプログラム
WO2016199379A1 (ja) 2015-06-11 2016-12-15 パナソニックIpマネジメント株式会社 車両制御装置、車両制御方法および車両制御プログラム
WO2018066023A1 (ja) 2016-10-03 2018-04-12 三菱電機株式会社 運転権限移行判定装置および運転権限移行判定方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101659034B1 (ko) 2015-01-20 2016-09-23 엘지전자 주식회사 차량의 주행 모드 전환 장치 및 그 방법
JP6510454B2 (ja) 2016-03-30 2019-05-08 本田技研工業株式会社 車両用覚醒検知装置
JP2018092318A (ja) 2016-12-01 2018-06-14 アイシン精機株式会社 安全確認装置
JP2018106396A (ja) 2016-12-26 2018-07-05 デクセリアルズ株式会社 透明導電積層体、タッチパネルおよび表示装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002025000A (ja) 2000-07-11 2002-01-25 Mazda Motor Corp 車両の制御装置
JP2004070795A (ja) 2002-08-08 2004-03-04 Nissan Motor Co Ltd 情報提供装置、情報提供制御プログラム
JP2007094618A (ja) 2005-09-28 2007-04-12 Omron Corp 通知制御装置および方法、記録媒体、並びに、プログラム。
JP2016115356A (ja) 2014-12-12 2016-06-23 ソニー株式会社 自動運転制御装置および自動運転制御方法、並びにプログラム
WO2016199379A1 (ja) 2015-06-11 2016-12-15 パナソニックIpマネジメント株式会社 車両制御装置、車両制御方法および車両制御プログラム
WO2018066023A1 (ja) 2016-10-03 2018-04-12 三菱電機株式会社 運転権限移行判定装置および運転権限移行判定方法

Also Published As

Publication number Publication date
US20210039678A1 (en) 2021-02-11
WO2019230020A1 (ja) 2019-12-05
EP3805065A4 (en) 2022-03-09
US11618482B2 (en) 2023-04-04
EP3805065A1 (en) 2021-04-14
JP2019209784A (ja) 2019-12-12

Similar Documents

Publication Publication Date Title
CN107415830B (zh) 车辆控制系统、车辆控制方法和车辆控制程序
CN108883774B (zh) 车辆控制系统、车辆控制方法及存储介质
CN108140312B (zh) 停车辅助方法及停车辅助装置
JP7111510B2 (ja) 状態判定装置、運転支援装置、状態判定方法、及び、運転支援方法
CN108883776B (zh) 车辆控制系统、车辆控制方法及存储介质
CN109564734B (zh) 驾驶辅助装置、驾驶辅助方法、移动体和程序
JP7108109B2 (ja) 車両制御装置、車両および車両制御方法
US11180139B2 (en) Driving support device and driving support method
US20190210586A1 (en) Drive mode switch controller, method, and program
JP6652090B2 (ja) 運転モード切替制御装置、システム、方法、およびプログラム
JP2016182906A (ja) 運転支援システム
JP6838821B2 (ja) 車両制御装置
WO2018168019A1 (ja) 運転切り替え判定装置、運転切り替え判定方法及び運転切り替え判定のためのプログラム
JP7201576B2 (ja) 自動運転車用情報提示装置
CN110281925B (zh) 行驶控制装置、车辆以及行驶控制方法
CN112937566B (zh) 自动驾驶车辆用信息提示装置
US11613252B2 (en) Driving assistance system and control method thereof
JP7158368B2 (ja) 自動運転車用情報提示装置
JP2021107772A (ja) 車両用報知装置、車両用報知方法及びプログラム
CN112937565B (zh) 自动驾驶车辆用信息提示装置
CN113044035B (zh) 自动驾驶车辆用信息提示装置
WO2022255409A1 (ja) 車両用表示システム、車両用表示方法、及び車両用表示プログラム
US11262751B2 (en) Traveling control apparatus, traveling control method, and non-transitory computer-readable storage medium storing program
JP2023144579A (ja) 衝突防止制御装置、衝突防止制御方法およびプログラム
JP2022084440A (ja) 車両制御装置、車両、車両制御装置の動作方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220615

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220628

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220721

R150 Certificate of patent or registration of utility model

Ref document number: 7111510

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150