JP2018149821A - 運転モード切替制御装置、方法、及びプログラム - Google Patents

運転モード切替制御装置、方法、及びプログラム Download PDF

Info

Publication number
JP2018149821A
JP2018149821A JP2017045212A JP2017045212A JP2018149821A JP 2018149821 A JP2018149821 A JP 2018149821A JP 2017045212 A JP2017045212 A JP 2017045212A JP 2017045212 A JP2017045212 A JP 2017045212A JP 2018149821 A JP2018149821 A JP 2018149821A
Authority
JP
Japan
Prior art keywords
concentration
monitoring video
shielding
monitoring
driver
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017045212A
Other languages
English (en)
Inventor
相澤 知禎
Chitei Aizawa
知禎 相澤
初美 青位
Hatsumi Aoi
初美 青位
岡地 一喜
Kazuyoshi Okaji
一喜 岡地
啓 菅原
Hiroshi Sugawara
啓 菅原
充恵 鵜野
Mitsue Uno
充恵 鵜野
光司 滝沢
Koji Takizawa
光司 滝沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2017045212A priority Critical patent/JP2018149821A/ja
Priority to PCT/JP2017/036705 priority patent/WO2018163492A1/ja
Publication of JP2018149821A publication Critical patent/JP2018149821A/ja
Pending legal-status Critical Current

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Abstract

【課題】ステアリングホイールの支持部材により監視カメラの撮影範囲が遮られる場合でも、運転者の状態を判定できるようにする。【解決手段】監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する運転モード切替制御装置にあって、監視カメラにより撮影される監視映像に基づき、運転者の集中度を判定する制御部を具備する。制御部は、ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、監視カメラの撮影範囲がステアリングホイールの支持部材により遮蔽されている遮蔽状態か否かを判定し、遮蔽状態であると判定した場合、遮蔽状態となる直前に判定された集中度を、遮蔽状態における集中度とする。【選択図】図2

Description

この発明は、車両の運転モードを手動運転モードと自動運転モードとの間で切り替えるための運転モード切替制御装置、方法およびプログラムに関する。
近年、車両の運転モードとして、運転者の運転操作に基づいて車両を走行させる手動運転モード以外に、運転者の運転操作によらず予め設定された経路に沿って車両を走行させる自動運転モードの開発が進められている。自動運転モードは、例えば、GPS(Global Positioning System)を利用したナビゲーションシステムの情報、路車間通信により取得される交通情報、及び周辺の人や車両の位置と動きとを監視する周辺モニタリングシステムの情報をもとに、パワーユニット、操舵装置、及びブレーキ等を制御することで、車両の自動運転を可能にするものである(例えば特許文献1を参照)。
ところで、自動運転モードは運転者の運転操作の負担軽減、及び交通渋滞の緩和等の効果が期待できるものの、走行開始から走行終了までのすべての運転操作を自動化することは現実的に困難である。このため、自動運転モードから手動運転モードへの切り替えを適切に行うことが求められている。運転モードを自動運転モードから手動運転モードに切り替える場合には、切り替えに先立ち運転者が手動運転操作可能な状態にあることを確認する必要がある。
特開2015−141053号公報
車両の形状によっては、運転者の状態を監視する監視カメラが、運転者から見てステアリングホイールの裏側の、メータパネル付近に配置されていることがある。この場合、ステアリングホイールの角度によっては、ステアリングホイールの支持部材によりカメラの撮影範囲が遮られることになり、運転者の状態監視を継続することができない。運転者の状態が確認できないと、手動運転モードへ切り替えた後の運転操作を保証することができず、運転者の集中度が高い、本来なら自動運転モードから手動運転モードへの切り替えが可能な状態であっても、自動運転モードが継続されてしまう。以上のことから、ステアリングホイールの支持部材により監視カメラの撮影範囲が遮られる場合の適切な対策が求められていた。
この発明は上記事情に着目してなされたもので、ステアリングホイールの支持部材により監視カメラの撮影範囲が遮られる場合でも、運転者の状態を判定可能な運転モード切替制御装置、方法およびプログラムを提供しようとするものである。
上記課題を解決するためにこの発明の第1の実施形態に係る第1の態様は、監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する運転モード切替制御装置にあって、前記監視カメラにより取得される監視映像に基づき、前記運転者の集中度を判定する制御部を具備する。そして、前記制御部は、前記ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、前記監視カメラの撮影範囲が前記ステアリングホイールの支持部材により遮蔽されている遮蔽状態か否かを判定し、前記遮蔽状態であると判定した場合、前記遮蔽状態となる直前に判定された集中度を、前記遮蔽状態における集中度としたものである。
この発明の第1の実施形態に係る第2の態様は、前記制御部が、前記監視カメラにより取得される監視映像から所定の周期で監視映像データを取得し、前記取得した監視映像データのうち、前記遮蔽状態において取得された監視映像データを、前記ステアリングセンサで検出される操舵角に基づいて判別する監視映像取得制御部と、前記遮蔽状態における集中度を、前記遮蔽状態となる直前の非遮蔽期間に取得された監視映像データに基づいて判定する集中度判定部とを備えるようにしたものである。
この発明の第1の実施形態に係る第3の態様は、前記制御部が、前記監視カメラにより取得される監視映像から所定の周期で監視映像データを取得する監視映像取得制御部と、前記監視映像取得制御部により取得された監視映像データのうち、前記遮蔽状態において取得された監視映像データを、前記ステアリングセンサで検出される操舵角に基づいて判別し、前記遮蔽状態における集中度を、前記遮蔽状態となる直前の非遮蔽期間に取得された監視映像データに基づいて判定する集中度判定部とを備えるようにしたものである。
この発明の第1の実施形態に係る第4の態様は、前記制御部が、前記監視カメラにより取得される監視映像から所定の周期で監視映像データを取得する監視映像取得制御部と、前記取得された監視映像データに基づいて前記運転者の集中度を判定する集中度判定部と、前記ステアリングセンサで検出される操舵角に基づいて前記遮蔽状態を判別し、前記遮蔽状態となる直前に前記集中度判定部により判定された集中度を、前記遮蔽状態における集中度として運転モードの切り替え可否を判定する運転モード切替制御部とを備えるようにしたものである。
この発明の第2の実施形態に係る第1の態様は、監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する運転モード切替制御装置にあって、前記監視カメラにより取得される監視映像に基づき、前記運転者の集中度を判定する制御部を具備する。そして、前記制御部は、前記ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、前記監視カメラの撮影範囲が前記ステアリングホイールの支持部材により遮蔽される遮蔽期間を予測し、前記予測した遮蔽期間における集中度を、前記遮蔽期間となる前の非遮蔽期間に取得された監視映像に基づいて判定するようにしたものである。
この発明の第2の実施形態に係る第2の態様は、前記制御部が、前記ステアリングセンサで検出される操舵角に基づいて前記遮蔽期間を予測し、前記遮蔽期間の開始時点から予め設定した期間だけ前の時点において動作信号を出力する遮蔽予測部と、前記動作信号に応じたタイミングで、前記監視カメラにより取得される監視映像から監視映像データを取得する監視映像取得制御部と、前記動作信号に応じたタイミングで、前記取得された監視映像データに基づいて前記運転者の集中度を判定し、当該集中度を前記予測した遮蔽期間における集中度とする集中度判定部とを備えるようにしたものである。
この発明の第2の実施形態に係る第3の態様は、前記制御部が、前記ステアリングセンサで検出される操舵角に基づいて前記遮蔽期間を予測し、前記遮蔽期間の開始時点から予め設定した期間だけ前の時点において動作信号を出力する遮蔽予測部と、前記監視カメラにより取得される監視映像から所定の周期で監視映像データを取得する監視映像取得制御部と、前記取得された監視映像データに基づいて所定の周期で前記運転者の集中度を判定し、前記動作信号を受信すると、前記動作信号を受信する直前に判定した集中度を、前記予測した遮蔽期間における集中度とする集中度判定部とを備えるようにしたものである。
この発明の第2の実施形態に係る第4の態様は、前記制御部が、前記動作信号を受信すると、前記集中度判定部で判定された集中度に基づいて運転モードの切り替え可否を判定し、当該判定結果を、前記遮蔽期間における判定結果とする運転モード切替制御部をさらに備えるようにしたものである。
この発明の第1の実施形態に係る第1の態様によれば、制御部は、ステアリングセンサで検出される操舵角に基づき、監視カメラの撮影範囲がステアリングホイールの支持部材により遮蔽されているか否かを判定する。そして、制御部は、監視カメラの撮影範囲がステアリングホイールの支持部材により遮蔽されている場合には、監視カメラの撮影範囲が遮蔽された時点の集中度として、遮蔽直前のタイミングに判定された集中度を採用するようにしている。このため、監視カメラの撮影範囲がステアリングホイールの支持部材により遮蔽されたタイミングで、例えば、自動運転から手動運転への切替可否の判定等で集中度を利用したい場合であっても、滞りなく判定を実施することが可能となる。
この発明の第1の実施形態に係る第2の態様によれば、監視映像取得制御部は、ステアリングセンサで検出される操舵角に基づき、監視カメラの撮影範囲がステアリングホイールの支持部材により遮蔽された際に取得された監視映像を判別する。集中度判定部は、監視カメラの撮影範囲が遮蔽された際に取得された監視映像がある場合、監視カメラの撮影範囲が遮蔽される直前のタイミングで判定した集中度を、監視カメラの撮影範囲が遮蔽されている間の集中度として採用するようにしている。このため、監視映像取得制御部で、監視カメラの撮影範囲が遮蔽された際に取得された監視映像を効率的に選別できるようになる。
この発明の第1の実施形態に係る第3の態様によれば、集中度判定部は、ステアリングセンサで検出される操舵角に基づき、ステアリングホイールによる監視カメラの遮蔽時に取得された監視映像データを判別する。集中度判定部は、ステアリングホイールによる監視カメラの遮蔽時に取得された監視映像がある場合、監視カメラの撮影範囲が遮蔽された時点の直前のタイミングに判定された集中度を、監視カメラの撮影範囲が遮蔽されている間の集中度として採用するようにしている。このため、集中度判定部で、監視カメラの撮影範囲がステアリングホイールにより遮蔽された際に取得された監視映像データを選別でき、監視映像取得制御部の処理を低減させることが可能となる。
この発明の第1の実施形態に係る第4の態様によれば、監視映像取得制御部は、監視カメラにより取得される監視映像から所定の周期で監視映像データを取得する。集中度判定部は、取得された監視映像データに基づき、運転者の集中度を判定する。運転モード切替制御部は、ステアリングセンサで検出される操舵角に基づいて監視カメラの撮影範囲がステアリングホイールの支持部材により遮蔽されたタイミングを判別する。そして、運転モード切替制御部は、遮蔽状態となる直前に判定された集中度を、遮蔽状態において運転モードの切替可否を判定する際の集中度として採用するようにしている。このため、監視映像取得制御部、及び集中度判定部での処理を低減させることが可能となる。
この発明の第2の実施形態に係る第1の態様によれば、制御部は、ステアリングセンサで検出される操舵角に基づき、監視カメラの撮影範囲がステアリングホイールの支持部材により遮蔽される期間を予測する。そして、制御部は、予測した期間における運転者の集中度を、遮蔽期間となる前に取得した監視映像データに基づいて判定するようにしている。このため、監視カメラの撮影範囲がステアリングホイールの支持部材により遮蔽されると予測されるタイミングで、例えば、自動運転から手動運転への切替可否の判定等で集中度を利用したい場合であっても、遮蔽状態となると予測される直前に取得された集中度を利用して切替可否の判定が可能となる。
この発明の第2の実施形態に係る第2の態様によれば、遮蔽予測部は、ステアリングセンサで検出される操舵角に基づいて遮蔽期間を予測し、予測した遮蔽期間の開始時点から予め設定した期間だけ前の時点になると動作信号を出力する。監視映像取得制御部は、動作信号を受信したタイミングで、監視カメラにより取得される監視映像から監視映像データを記憶する。そして、集中度判定部は、動作信号を受信したタイミングで、監視映像取得制御部により記憶された監視映像データに基づいて集中度を判定し、この集中度を、予測した遮蔽期間における集中度とするようにしている。このため、監視カメラの撮影範囲がステアリングホイールの支持部材により遮蔽されると予測されるタイミングで運転モードの切替可否を判定したい場合であっても、遮蔽状態となると予測される直前の、予め設定したサンプリングレートとは異なるタイミングで取得された集中度を利用することが可能となる。
この発明の第2の実施形態に係る第3の態様によれば、遮蔽予測部は、ステアリングセンサで検出される操舵角に基づいて遮蔽期間を予測し、予測した遮蔽期間の開始時点から予め設定した期間だけ前の時点において動作信号を出力する。監視映像取得制御部は、監視カメラにより取得される監視映像から予め設定されたサンプリングレートに従って監視映像データをサンプリングする。集中度判定部は、監視映像取得制御部でサンプリングされた監視映像データに基づき、予め設定された周期で、運転者の集中度を判定する。そして、集中度判定部は、動作信号を受信すると、予測された遮蔽期間における集中度を、動作信号を受信した直前に判定した集中度で代用するようにしている。このため、動作信号を受信したタイミングでの集中度を、迅速に算出することが可能となる。
この発明の第2の実施形態に係る第4の態様によれば、運転モード切替制御部は、遮蔽予測部から出力される動作信号を受信すると、集中度判定部で判定された集中度を表す情報を取得する。運転モード切替制御部は、取得した情報に基づき、運転モードの切替可否を判定する。そして、運転モード切替制御部は、この判定結果を、予測された遮蔽期間における判定結果とするようにしている。このため、運転モード切替制御部は、監視カメラがステアリングホイールによって遮蔽されている際に運転モードの切替指示が与えられた場合、遮蔽状態になる直前に判定した判定結果を利用することが可能となる。すなわち、監視カメラがステアリングホイールによって遮蔽されている際に与えられる、運転モードの切替指示に備えることが可能となる。
すなわち、この発明の各態様によれば、ステアリングホイールの支持部材により監視カメラの撮影範囲が遮られる場合でも、運転者の状態を判定可能な運転モード切替制御装置、方法およびプログラムを提供することができる。
この発明の第1の実施形態に係る運転モード切替制御装置を備えた自動運転制御システムの全体構成の例を示す図。 この発明の第1の実施形態に係る運転モード切替制御装置の機能構成を示すブロック図。 図1に示されるドライバカメラの設置位置を表す図。 図2に示される監視映像取得制御部が監視映像データを記憶する際の手順を示すフローチャート。 図2に示される集中度判定部がドライバの集中度を判定する際の手順を示すフローチャート。 この発明の第2の実施形態に係る運転モード切替制御装置の機能構成を示すブロック図。 図6に示される遮蔽予測部が動作信号を出力する際の手順を示すフローチャート。 図6に示される監視映像取得制御部が監視映像データを記憶する際の手順を示すフローチャート。 図6に示される集中度判定部がドライバの集中度を判定する際の手順を示すフローチャート。
以下、図面を参照してこの発明に係わる実施形態を説明する。
[第1の実施形態]
(構成)
図1は、この発明の第1の実施形態に係る運転モード切替制御装置を備えた自動運転制御システムの全体構成の例を示す図で、この自動運転制御システムは乗用車等の車両1に搭載される。
車両1は、基本設備として、動力源、及び変速装置を含むパワーユニット2と、ステアリングホイール4が装備された操舵装置3とを備え、さらに運転モードとしては手動運転モードと自動運転モードとを備えている。動力源としては、エンジンまたはモータ、あるいはその両方が用いられる。
手動運転モードは、例えば、運転者(以下ドライバとも称する)の手動による運転操作を主体として車両1を走行させるモードである。手動運転モードには、例えば、運転者の運転操作のみに基づいて車両を走行させる動作モードと、運転者の運転操作を主体としながら運転者の運転操作を支援する運転操作支援制御を行う動作モードが含まれる。
運転操作支援制御は、例えば、車両1のカーブ走行時にカーブの曲率に基づいて運転者の操舵が適切な操舵量となるように操舵トルクをアシストする。また運転操作支援制御には、運転者のアクセル操作(例えばアクセルペダルの操作)またはブレーキ操作(例えばブレーキペダルの操作)を支援する制御と、手動操舵(操舵の手動運転)および手動速度調整(速度調整の手動運転)も含まれる。手動操舵は、運転者のステアリングホイール4の操作を主体として車両1の操舵を行う。手動速度調整は、運転者のアクセル操作又はブレーキ操作を主体として車両の速度調整を行う。
なお、運転操作支援制御には、運転者の運転操作に強制的に介入して、車両を自動走行させる制御は含まれない。すなわち、手動運転モードには、予め設定された許容範囲において運転者の運転操作を車両の走行に反映させるが、一定条件(例えば車両の車線逸脱等)の下で車両の走行に強制的に介入する制御は含まれない。
自動運転モードは、例えば、車両の走行する道路に沿って自動で車両を走行させる運転状態を実現するモードである。自動運転モードには、例えば、運転者が運転操作をすることなく、予め設定された目的地に向かって自動的に車両を走行させる運転状態が含まれる。自動運転モードは、必ずしも車両の全ての制御を自動で行う必要はなく、予め設定された許容範囲において運転者の運転操作を車両の走行に反映する運転状態も自動運転モードに含まれる。すなわち、自動運転モードには、予め設定された許容範囲において運転者の運転操作を車両の走行に反映させるが、一定条件の下で車両の走行に強制的に介入する制御が含まれる。
図1に示される自動運転制御システムは、自動運転モードによる運転制御を実行するための自動運転制御装置5を有している。自動運転制御装置5は、ステアリングセンサ8、アクセルペダルセンサ9、ブレーキペダルセンサ10、GPS受信機11、ジャイロセンサ12、及び車速センサ13からそれぞれセンシングデータを取得する。そして、これらのセンシングデータと、図示しないナビゲーションシステムで生成される経路情報、路車間通信により取得される交通情報、及び周辺の人や車両の位置と動きとを監視する周辺モニタリングシステムにより得られる情報をもとに、車両1の走行を自動制御する。
自動制御には、例えば、自動操舵(操舵の自動運転)と自動速度調整(速度の自動運転)とがある。自動操舵は、操舵装置3を自動で制御する運転状態である。自動操舵にはLKA(Lane Keeping Assist)が含まれる。LKAは、例えば、運転者がステアリング操作をしない場合であっても、車両1が走行車線から逸脱しないように自動で操舵装置3を制御する。なお、LKAの実行中であっても、車両1が走行車線を逸脱しない範囲(許容範囲)において運転者のステアリング操作を車両の操舵に反映してもよい。なお、自動操舵はLKAに限らない。
自動速度調整は、車両1の速度を自動で制御する運転状態である。自動速度調整にはACC(Adaptive Cruise Control)が含まれる。ACCとは、例えば、車両1の前方に先行車が存在しない場合は予め設定された設定速度で車両1を定速走行させる定速制御を行い、車両1の前方に先行車が存在する場合には先行車との車間距離に応じて車両1の車速を調整する追従制御を行うものである。自動運転制御装置5は、ACCを実行中であっても、運転者のブレーキ操作(例えばブレーキペダルの操作)に応じて車両1を減速させる。また自動運転制御装置5は、ACCを実行中であっても、予め設定された最大許容速度(例えば走行中の道路において法的に定められた最高速度)まで、運転者のアクセル操作(例えばアクセルペダルの操作)に応じて車両を加速させることもできる。なお、自動速度調整は、ACCに限らず、CC(Cruise Control:定速制御)等も含まれる。
また、図1に示される自動運転制御システムは、手動運転モードと自動運転モードとの間で設定を切り替えるための装置として、運転モード切替制御装置6と、ドライバカメラ7と、ステアリングセンサ8とを備えている。
ドライバカメラ7は、例えば、運転者から見てステアリングホイールの裏側の、メータパネル付近に配置されている。ドライバカメラ7は、運転者を撮像して運転者についての監視映像を取得する。ドライバカメラ7は、取得した監視映像を映像信号として運転モード切替制御装置6へ出力する。ステアリングセンサ8は、ステアリングホイール4の操舵角を検出する。ステアリングセンサ8は、検出した操舵角を操舵角検出信号として運転モード切替制御装置6へ出力する。
図2は、第1の実施形態に係る運転モード切替制御装置6の機能構成の例を示すブロック図である。図2に示される運転モード切替制御装置6は、自動運転制御装置5に対し、手動運転モードと自動運転モードとの間の切り替えを統括的に制御する装置である。
図2によれば、運転モード切替制御装置6は、制御ユニット61と、入出力インタフェースユニット62と、記憶ユニット63とを備えている。
入出力インタフェースユニット62は、ドライバカメラ7から出力される映像信号、及びステアリングセンサ8から出力される操舵角検出信号を受信する。入出力インタフェースユニットは、受信した映像信号、及び操舵角検出信号をディジタルデータに変換する。また、入出力インタフェースユニット62は、制御ユニット61から出力される運転モード切替制御信号を自動運転制御装置5へ出力する。
記憶ユニット63は、記憶媒体として、例えばSSD(Solid State Drive)やHDD(Hard Disk Drive)等の随時書き込み、及び読み出しが可能な不揮発性メモリ、並びに、RAM(Random Access Memory)のような揮発性メモリ等により実現される。本実施形態を実施するために使用する記憶領域として、監視映像記憶領域631と、集中度記憶領域632と、履歴記憶領域633とを備えている。
制御ユニット61は、コンピュータを構成するCPU(Central Processing Unit)、及びプログラムメモリを有する。制御ユニット61では、プログラムメモリに格納されたプログラムをCPUに実行させることにより、第1の実施形態を実施するために必要な制御機能である、監視映像取得制御部611と、集中度判定部612と、運転モード切替制御部613とが実現される。
監視映像取得制御部611は、ドライバカメラ7から出力されたドライバの映像信号についてのディジタルデータ(監視映像データ)を入出力インタフェースユニット62から取り込む。監視映像取得制御部611は、取り込んだ監視映像データを、所定のサンプリングレートで記憶ユニット63の監視映像記憶領域631に記憶させる。
また、監視映像取得制御部611は、ステアリングセンサ8から出力された操舵角検出信号についてのディジタルデータ(操舵角データ)を入出力インタフェースユニット62から取り込む。監視映像取得制御部611は、取り込んだ操舵角データにより表される操舵角が遮蔽角度幅内に含まれるか否かに基づき、ドライバカメラ7が遮蔽状態にあるか否かを判定する。
図3は、図1に示されるドライバカメラ7の設置位置の例を表す模式図である。ドライバカメラ7は、運転者から見てステアリングホイール4の裏側から運転者を撮像する。そのため、ステアリングホイール4の操舵角によっては、ステアリングホイール4の支持部材41−1〜41−3によって撮影範囲が遮られることになる。本実施形態において、遮蔽角度幅とは、ドライバカメラ7の撮影範囲が支持部材41−1〜41−3によって遮られる操舵角の幅を表す。遮蔽角度幅は、例えば、車両1に搭載されるステアリングホイール4の形状に基づいて予め設定されている。
監視映像取得制御部611は、操舵角が遮蔽角度幅内に含まれていると判定した場合、操舵角が遮蔽角度幅内に含まれている間にサンプリングした監視映像データを、遮蔽フラグを付して監視映像記憶領域631に記憶させる。本実施形態において、遮蔽フラグは、操舵角が遮蔽角度幅内に含まれている間にサンプリングされた監視映像データであることを表すフラグである。
集中度判定部612は、予め設定された時間間隔で、この時間間隔の間に記憶された監視映像データを、監視映像記憶領域631から読み込む。集中度判定部612は、読み込んだ監視映像データに基づき、運転者の動き、及び/又は運転者の表情を認識する。集中度判定部612は、認識した運転者の動き、及び/又は運転者の表情を、予め定義されている運転者の動き、及び表情に関する判定基準に照合させ、運転者の運転に対する集中度を判定する。集中度判定部612は、集中度の判定結果を運転モード切替制御部613へ出力する。また、集中度判定部612は、集中度の判定結果を、タイムスタンプを付して集中度記憶領域632に記憶させる。
本実施形態において、集中度とは、運転者が運転にどれだけ適しているかを示す指標である。例えば、車両1を普通に運転している状態であれば、運転者の動きとしては、前方注視と、バックミラー、又はサイドミラーを見るための所定方向への注視等とが検出される。例えば、検出される運転者の動作が、前方注視と、所定方向への注視とでほぼ占められているような状態は、運転者が運転に十分に集中しているとみなされる。その逆に、例えば運転者が運転中、あまり前方を注視していなかったり、話をしていたり、眠そうであったり、口に食べ物を運んでいたり、あるいはあってはならないことであるが携帯電話、又はスマートフォンを操作していたり、通話しているような場合には、運転者は運転にあまり集中していないとみなされる。また、運転者の表情としては、例えば、運転者の眼の開眼の状態、まばたきの頻度、又は眼球運動等が検出される。
判定基準では、例えば、運転者の動きの例えば80%以上が前方注視、又は所定方向への注視である場合、集中度が「高」と定義されている。また、判定基準では、例えば、運転者の動きの例えば20%以上が前方注視、又は所定方向への注視であったり、運転者の動きに携帯電話、又はスマートフォンの操作、並びに通話の様子が含まれている場合、集中度が「低」と定義されている。集中度判定部612は、監視映像記憶領域631に記憶された監視映像データから認識した運転者の動きを、判定基準を参照して判定する。
なお、このような判定基準は、一例であって、設計者が適宜適切に設定することが可能である。例えば、判定基準を、代表的な動作毎に予め点数を決めておき、全体時間に対する各動作の割合を掛けて合計する、と設定してもよい。このとき、集中度は、運転者の時系列的な動きに基づいて数値化されることになる。
また、集中度は、2段階に限定されるものではない。例えば、集中度「高」と集中度「低」との間に集中度「中」を定義することで、集中度を3段階で評価してもよい。また、集中度を、4段階以上で評価してもよい。
集中度判定部612は、集中度に必要な数の監視映像データがステアリングホイール4によるドライバカメラ7の遮蔽により取得されない場合、直前の判定で得られた集中度を、集中度記憶領域632から読み出す。集中度判定部612は、読み出した集中度を、現時点における集中度として運転モード切替制御部613へ出力する。また、集中度判定部612は、読み出した集中度を、タイムスタンプを付して集中度記憶領域632に記憶させる。なお、本実施形態では、運転者の状態を表す指標として集中度を例に説明しているが、これに限定されない。
運転モード切替制御部613は、集中度判定部612で判定された集中度に基づき、手動運転モードと、自動運転モードとの間で設定を切り替えるように自動運転制御装置5を制御する。運転モード切替制御部613は、切替制御を表す情報を、タイムスタンプを付して履歴記憶領域633に記憶させる。
(動作)
次に、以上のように構成された運転モード切替制御装置6の動作を説明する。
図4は、図2に示される運転モード切替制御装置6に設けられる制御ユニット61の監視映像取得制御部611が監視映像データを記憶する際の手順を示すフローチャートである。
まず、運転が開始されるとドライバカメラ7、及びステアリングセンサ8が起動する。ドライバカメラ7は、運転者の顔を含む所定の範囲を連続的に撮像する。ドライバカメラ7は、撮像した監視映像を映像信号として運転モード切替制御装置6へ出力する。なお、ドライバカメラ7は、ドライバの状態を判定する時間間隔より短い周期で間欠的にドライバを撮像してもよい。また、ドライバカメラ7、又は入出力インタフェースユニット62は、映像信号を所定の符号化方式に応じて符号化するようにしても構わない。このようにすることで、監視映像データの情報量を減らして監視映像記憶領域631の記憶容量を節約することが可能となる。
ステアリングセンサ8は、ステアリングホイール4の操舵角を検出する。ステアリングセンサ8は、検出した操舵角を操舵角検出信号として運転モード切替制御装置6へ出力する。
監視映像取得制御部611は、ステアリングセンサ8から出力され、入出力インタフェースユニット62で変換された操舵角データを受信する(ステップS41)。また、監視映像取得制御部611は、ドライバカメラ7から出力され、入出力インタフェースユニット62で変換された監視映像データを受信する(ステップS42)。
監視映像取得制御部611は、所定のサンプリングレートで、受信した操舵角データにより表される操舵角が、予め設定される遮蔽角度幅に含まれているか否かを判定する(ステップS43)。操舵角が遮蔽角度幅に含まれていない場合(ステップS43のNo)、監視映像取得制御部611は、上記サンプリングレートで、受信した監視映像データをサンプリングし、サンプリングした監視映像データを監視映像記憶領域631に記憶させる(ステップS44)。操舵角が遮蔽角度幅に含まれている場合(ステップS43のYes)、監視映像取得制御部611は、上記サンプリングレートで、受信した監視映像データをサンプリングし、サンプリングした監視映像データを、遮蔽フラグを付して監視映像記憶領域631に記憶させる(ステップS45)。
ステップS44において監視映像データを監視映像記憶領域631に記憶させ、若しくは、ステップS45において遮蔽フラグが付された監視映像データを監視映像記憶領域631に記憶させると、監視映像取得制御部611は、運転が終了したか否かを判定する(ステップS46)。監視映像取得制御部611は、運転が終了した場合(ステップS46のYes)、処理を終了させる。一方、運転が終了しない場合(ステップS46のNo)、監視映像取得制御部611は、処理をステップS41へ移行させ、ステップS41〜ステップS45の動作を車両1の運転が終了するまで繰り返す。
図5は、図2に示される運転モード切替制御装置6に設けられる制御ユニット61の集中度判定部612がドライバの集中度を判定する際の手順の例を示すフローチャートである。
図4に示される監視映像データの記憶が開始されると集中度判定部612は、計時を開始する。集中度判定部612は、計時を開始してから一定時間が経過したか否かを判定する(ステップS51)。一定時間が経過すると(ステップS51のYes)、集中度判定部612は、一定時間の間に監視映像記憶領域631に記憶された、予め設定された数の監視映像データを、監視映像記憶領域631から読み込む(ステップS52)。集中度判定部612は、読み込んだ監視映像データに基づき、運転者の動き、及び/又は運転者の表情を認識する。なお、集中度判定部612は、監視映像取得制御部611が監視映像データを新たにサンプリングする毎に、予め設定した数の監視映像データを読み込み、読み込んだ監視映像データに基づき、運転者の動き等を認識するようにしてもよい。
集中度判定部612は、読み込んだ監視映像データのうち、運転者の動き、及び/又は運転者の表情が認識できないデータ、すなわち、遮蔽フラグが付されたデータがあるか否かを判定する(ステップS53)。遮蔽フラグが付されたデータがある場合(ステップS53のYes)、集中度判定部612は、運転者の動き等が認識できたデータが、集中度を判定するのに必要なサンプル数存在するか否かを判定する(ステップS54)。集中度を判定するのに必要なサンプル数が存在する場合(ステップS54のYes)、集中度判定部612は、運転者の動き等を認識可能なデータに基づいて集中度を判定する(ステップS55)。集中度判定部612は、判定した集中度を表す情報を、運転モード切替制御部613へ出力する。また、集中度判定部612は、判定した集中度を表す情報を、判定タイミングを表す情報、例えばタイムスタンプ情報と関連付けて集中度記憶領域632に記憶させる(ステップS56)。
集中度を判定するのに必要なサンプル数が存在しない場合(ステップS54のNo)、集中度判定部612は、現時刻の直前に判定された集中度を、付されているタイムスタンプを参照して集中度記憶領域632から読み出す。集中度判定部612は、読み出した集中度を、現時点における集中度として採用する(ステップS57)。集中度判定部612は、採用した集中度を表す情報を、運転モード切替制御部613へ出力する。また、集中度判定部612は、採用した集中度を表す情報を、判定タイミングを表す情報、例えばタイムスタンプ情報と関連付けて集中度記憶領域632に記憶させる(ステップS58)。
なお、ステップS54における、集中度を判定するのに必要なサンプル数存在するか否かの判定は、必須ではない。例えば、ステップS53において、遮蔽フラグが付されたデータがあると判定した場合、集中度判定部612は、処理をステップS57へ移行させるようにしてもよい。
ステップS56、又はステップS58において、集中度を表す情報を監視映像記憶領域631に記憶させると、集中度判定部612は、運転が終了したか否かを判定する(ステップS59)。集中度判定部612は、運転が終了した場合(ステップS59のYes)、処理を終了させる。一方、運転が終了しない場合(ステップS59のNo)、集中度判定部612は、処理をステップS51へ移行させ、ステップS51〜ステップS58の動作を車両1の運転が終了するまで繰り返す。
運転モード切替制御部613は、集中度判定部612で判定された集中度に基づき、手動運転モードと、自動運転モードとの間で設定を切り替えるように自動運転制御装置5を制御する。例えば、運転モード切替制御部613は、「自動運転モード」から、「手動運転モード」へ切り替える際、運転モードを切り替える旨、及び切り替えまでの期間を、図示しないアラーム発生器を用いて運転者へ通知する。
運転モード切替制御部613は、この切替期間中において、運転者の集中度が予め設定される集中度を超えたか否かを判定する。運転モード切替制御部613は、切替期間中に、運転者の集中度が予め設定される集中度を超えた場合、「手動運転モード」へ切り替える準備が運転者の中で整ったと判定する。切替期間中に運転者の準備が整ったと判定すると、運転モード切替制御部613は、切替期間が経過した後に、「自動運転モード」から、「手動運転モード」へ切り替える旨の運転モード切替制御信号を自動運転制御装置5へ出力する。運転モード切替制御部613は、切替制御を表す情報を、判定タイミングを表す情報、例えばタイムスタンプ情報と関連付けて記憶ユニット63の履歴記憶領域633に記憶させる。
なお、集中度を用いた判定は、上記に限定されない。例えば、運転モードを切り替える切替期間は、集中度に基づいてカウントダウンを開始されてもよい。具体的には、例えば、運転モード切替制御部613は、運転モードを切り替える旨を運転者へ通知した後、集中度判定部612から出力される集中度に基づき、運転者の準備が整ったか否かを判定する。運転モード切替制御部613は、受信した集中度が予め設定される集中度を超えた場合、運転者の準備が整ったと判定し、運転モード切替までの期間のカウントダウンを開始する。
(効果)
以上詳述したようにこの発明の第1の実施形態では、制御ユニット61は、ステアリングセンサ8で検出される操舵角に基づき、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽されているか否かを判定する。そして、制御ユニット61は、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽されている場合には、ドライバカメラ7の撮影範囲が遮蔽された時点の集中度として、遮蔽直前のタイミングに判定された集中度を採用するようにしている。このため、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽されたタイミングで、例えば、自動運転から手動運転への切替可否の判定等で集中度を利用したい場合であっても、滞りなく判定を実施することが可能となる。
また、第1の実施形態では、監視映像取得制御部611は、ステアリングセンサ8で検出される操舵角に基づき、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽された際に取得された監視映像を判別する。集中度判定部612は、ドライバカメラ7の撮影範囲が遮蔽された際に取得された監視映像がある場合、ドライバカメラ7の撮影範囲が遮蔽される直前のタイミングで判定した集中度を、ドライバカメラ7の撮影範囲が遮蔽されている間の集中度として採用するようにしている。このため、監視映像取得制御部611で、ドライバカメラ7の撮影範囲が遮蔽された際に取得された監視映像を効率的に選別できるようになる。
(他の実施例)
第1の実施形態では、監視映像取得制御部611により、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽された際に取得された監視映像を判別する場合を例に説明した。しかしながら、これに限定されない。制御ユニット61における、監視映像取得制御部611以外の機能において、ステアリングセンサ8で取得された操舵角が利用されても構わない。例えば、監視映像取得制御部611に代えて集中度判定部612が、ステアリングセンサ8で取得された操舵角に基づき、監視映像がステアリングホイール4によりドライバカメラ7の撮影範囲が遮蔽される遮蔽状態において取得されたものであると判定してもよい。
具体的には、例えば、集中度判定部612は、ステアリングセンサ8から出力され、入出力インタフェースユニット62で変換された操舵角データを受信する。集中度判定部612は、所定のサンプリングレートで、受信した操舵角データにより表される操舵角が、予め設定される遮蔽角度幅に含まれているか否かを判定する。操舵角が遮蔽角度幅に含まれている場合、集中度判定部612は、遮蔽状態にあると判定したタイミングを表すタイミング情報を記憶ユニット63に記憶させる。
集中度判定部612は、一定時間の間に監視映像記憶領域631に記憶された監視映像データを、監視映像記憶領域631から読み込む。集中度判定部612は、記憶しているタイミング情報と、読み込んだ監視映像データとを突合わせることで、読み込んだ監視映像データのうち、遮蔽状態において取得された監視映像データを判別する。
読み込んだ監視映像データのうち、遮蔽状態でない場合に取得された監視映像データの数が集中度を判定可能な数だけ存在していない場合、集中度判定部612は、現時刻の直前に判定された集中度を集中度記憶領域632から読み出す。そして、集中度判定部612は、読み出した集中度を、現時点における集中度として採用する。なお、読み込んだ監視映像データに、遮蔽状態において取得された監視映像データが含まれている場合、集中度判定部612は、現時刻の直前に判定された集中度を現時点における集中度として採用してもよい。
これにより、集中度判定部612で、ドライバカメラ7の撮影範囲がステアリングホイール4により遮蔽された際に取得された監視映像データを選別でき、監視映像取得制御部611の処理を低減させることが可能となる。
また、監視映像取得制御部611に代えて、運転モード切替制御部613が、ステアリングセンサ8で取得された操舵角に基づき、ステアリングホイール4によりドライバカメラ7の撮影範囲が遮蔽されたと判定してもよい。このとき、運転モード切替制御部613は、例えば、以下のように動作する。なお、以下の動作において、集中度判定部612は、一定時間が経過する度に監視映像記憶領域631に記憶された監視映像データを読み出し、読み出した監視映像データに基づいて集中度を判定する。集中度判定部612は、判定した集中度を表す情報を集中度記憶領域632に記憶する。
運転モード切替制御部613は、ステアリングセンサ8から出力され、入出力インタフェースユニット62で変換された操舵角データを受信する。運転モード切替制御部613は、所定のサンプリングレートで、受信した操舵角データにより表される操舵角が、予め設定される遮蔽角度幅に含まれているか否かを判定する。操舵角が遮蔽角度幅に含まれている場合、運転モード切替制御部613は、遮蔽状態にあると判定したタイミングを表すタイミング情報を記憶ユニット63に記憶させる。
運転モード切替制御部613は、運転モードの切替可否を判定する際、判定時点の直前に集中度判定部612で取得された集中度を表す情報を、集中度記憶領域632から読み込む。運転モード切替制御部613は、記憶ユニット63に記憶したタイミング情報に基づき、読み込んだ集中度が、遮蔽状態において取得された集中度であるか否かを判定する。読み込んだ集中度が遮蔽状態において取得された集中度である場合、運転モード切替制御部613は、遮蔽状態になる直前に取得された集中度を表す情報を、集中度記憶領域632から読み込む。運転モード切替制御部613は、新たに読み込んだ情報により表される集中度に基づいて、運転モードの切替可否を判定する。
これにより、ドライバカメラ7の撮影範囲がステアリングホイール4により遮蔽された場合であっても、運転モード切替制御部613で、遮蔽状態になる直前に取得された集中度を利用して運転モードを切り替えることが可能となる。このため、監視映像取得制御部611、及び集中度判定部612での処理を低減させることが可能となる。
[第2の実施形態]
第1の実施形態では、運転者の集中度を判定するための第1の手段として、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽された際に過去に判定された集中度を採用する場合を例に説明した。第2の実施形態では、ステアリングホイール4の支持部材によりドライバカメラ7の撮影範囲が遮蔽されるタイミングを予測して対応する場合を説明する。
(構成)
図6は、この発明の第2の実施形態に係る運転モード切替制御装置6Bの機能構成の例を示すブロック図である。図6によれば、運転モード切替制御装置6Bは、制御ユニット61Bと、入出力インタフェースユニット62と、記憶ユニット63とを備えている。制御ユニット61では、プログラムメモリに格納されたプログラムをCPUに実行させることにより、第2の実施形態を実施するために必要な制御機能である、監視映像取得制御部611Bと、集中度判定部612Bと、運転モード切替制御部613と、遮蔽予測部614とが実現される。
遮蔽予測部614は、ステアリングセンサ8から出力された操舵角検出信号についてのディジタルデータ(操舵角データ)を入出力インタフェースユニット62から取り込む。遮蔽予測部614は、取り込んだ操舵角データの経時変化に基づき、操舵角速度を算出する。遮蔽予測部614は、ドライバカメラ7と、ステアリングホイール4との相対位置と、算出した操舵角速度とに基づき、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽される期間を予測する。遮蔽予測部614は、予測した遮蔽期間の開始時刻から予め設定した期間だけ前の時刻になると動作信号を監視映像取得制御部611B、及び集中度判定部612Bへ出力する。
監視映像取得制御部611Bは、ドライバカメラ7から出力されたドライバの映像信号についてのディジタルデータ(監視映像データ)を入出力インタフェースユニット62から取り込む。監視映像取得制御部611Bは、取り込んだ監視映像データを、所定のサンプリングレートで記憶ユニット63の監視映像記憶領域631に記憶させる。
また、監視映像取得制御部611Bは、遮蔽予測部614から送信される動作信号を受信すると、動作信号を受信したタイミングと同期させて、取り込んだ監視映像データを記憶ユニット63の監視映像記憶領域631に記憶させる。
集中度判定部612Bは、予め設定された時間間隔で、この時間間隔の間に記憶された監視映像データを、監視映像記憶領域631から読み込む。集中度判定部612Bは、読み込んだ監視映像データに基づき、運転者の動き、及び/又は運転者の表情を認識する。集中度判定部612Bは、認識した運転者の動き等に基づき、運転者の運転に対する集中度を判定する。
また、集中度判定部612Bは、遮蔽予測部614から送信される動作信号を受信すると、受信したタイミングを含む時点から所定期間前の間に記憶された監視映像データを、監視映像記憶領域631から読み込む。集中度判定部612Bは、読み込んだ監視映像データに基づいて集中度を判定する。集中度判定部612Bは、集中度の判定結果を運転モード切替制御部613へ出力する。また、集中度判定部612Bは、集中度の判定結果を、タイムスタンプを付して集中度記憶領域632に記憶させる。
(動作)
次に、以上のように構成された運転モード切替制御装置6Bの動作を説明する。
図7は、図6に示される運転モード切替制御装置6Bに設けられる制御ユニット61Bの遮蔽予測部614が動作信号を出力する際の手順の例を示すフローチャートである。
まず、運転が開始されるとステアリングセンサ8が起動する。ステアリングセンサ8は、ステアリングホイール4の操舵角を検出する。ステアリングセンサ8は、検出した操舵角を操舵角検出信号として運転モード切替制御装置6Bへ出力する。
遮蔽予測部614は、ステアリングセンサ8から出力され、入出力インタフェースユニット62で変換された所定期間における操舵角データを受信する(ステップS71)。遮蔽予測部614は、受信した操舵角データの経時変化に基づき、操舵角速度を算出する(ステップS72)。遮蔽予測部614は、ドライバカメラ7と、ステアリングホイール4との相対位置と、算出した操舵角速度とに基づき、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽される期間を予測する(ステップS73)。
遮蔽予測部614は、現在の時刻が、予測した遮蔽期間の開始時刻から予め設定した期間(例えばs秒)だけ前の時刻になったか否かを判定する(ステップS74)。遮蔽期間の開始時刻から予め設定した期間だけ前の時刻である場合(ステップS74のYes)、遮蔽予測部614は、動作信号を監視映像取得制御部611B、及び集中度判定部612Bへ出力する(ステップS75)。
遮蔽期間の開始時刻から予め設定した期間だけ前の時刻ではない場合(ステップS74のNo)、又は、ステップS75で動作信号を出力した後、遮蔽予測部614は、車両1の運転が終了したか否かを判定する(ステップS76)。遮蔽予測部614は、運転が終了した場合(ステップS76のYes)、処理を終了させる。一方、運転が終了しない場合(ステップS76のNo)、遮蔽予測部614は、処理をステップS71へ移行させ、ステップS71〜ステップS45の動作を車両1の運転が終了するまで繰り返す。
図8は、図6に示される制御ユニット61Bの監視映像取得制御部611Bが監視映像データを記憶する際の手順の例を示すフローチャートである。
まず、運転が開始されるとドライバカメラ7が起動する。ドライバカメラ7は、運転者の顔を含む所定の範囲を連続的に撮像する。ドライバカメラ7は、撮像した監視映像を映像信号として運転モード切替制御装置6Bへ出力する。
監視映像取得制御部611Bは、ドライバカメラ7から出力され、入出力インタフェースユニット62で変換された監視映像データを受信する(ステップS81)。監視映像取得制御部611Bは、遮蔽予測部614により送信される動作信号を受信したか否かを判定する(ステップS82)。動作信号を受信した場合(ステップS82のYes)、監視映像取得制御部611Bは、動作信号を受信したタイミング、すなわち、予め設定されるサンプリングレートとは異なるタイミングで、受信した監視映像データをサンプリングし、サンプリングした監視映像データを監視映像記憶領域631に記憶させる(ステップS83)。
動作信号を受信していない場合(ステップS82のNo)、監視映像取得制御部611Bは、予め設定されるサンプリングレートで、受信した監視映像データをサンプリングし、サンプリングした監視映像データを監視映像記憶領域631に記憶させる(ステップS84)。
ステップS44、及びステップS45において監視映像データを監視映像記憶領域631に記憶させると、監視映像取得制御部611Bは、運転が終了したか否かを判定する(ステップS85)。監視映像取得制御部611Bは、運転が終了した場合(ステップS85のYes)、処理を終了させる。一方、運転が終了しない場合(ステップS85のNo)、監視映像取得制御部611Bは、処理をステップS81へ移行させ、ステップS81〜ステップS84の動作を車両1の運転が終了するまで繰り返す。
図9は、図6に示される制御ユニット61Bの集中度判定部612Bがドライバの集中度を判定する際の手順の例を示すフローチャートである。
図9に示される監視映像データの記憶が開始されると集中度判定部612Bは、計時を開始する。計時を開始した後、集中度判定部612Bは、遮蔽予測部614により送信される動作信号を受信したか否かを判定する(ステップS91)。動作信号を受信した場合(ステップS91のYes)、集中度判定部612Bは、動作信号を受信したタイミングを含む時点から所定期間前の間に監視映像記憶領域631に記憶された監視映像データを、監視映像記憶領域631から読み込む(ステップS92)。
集中度判定部612Bは、読み込んだ監視映像データに基づき、運転者の動き、及び/又は運転者の表情を認識する。集中度判定部612Bは、監視映像データにおいて認識した運転者の動き等に基づいて集中度を判定する(ステップS93)。集中度判定部612Bは、判定した集中度を表す情報を、運転モード切替制御部613へ出力する。また、集中度判定部612Bは、判定した集中度を表す情報を、判定タイミングを表す情報、例えばタイムスタンプ情報と関連付けて集中度記憶領域632に記憶させる(ステップS94)。
ステップS91において、動作信号を受信していない場合、集中度判定部612Bは、計時を開始してから一定時間が経過したか否かを判定する(ステップS95)。一定時間が経過すると(ステップS95のYes)、集中度判定部612Bは、一定時間の間に監視映像記憶領域631に記憶された監視映像データを、監視映像記憶領域631から読み込み(ステップS96)、処理をステップS93に移行させる。なお、集中度判定部612Bは、監視映像取得制御部611Bが監視映像データを新たにサンプリングする毎に、予め設定した数の監視映像データを読み込み、処理をステップS93に移行させてもよい。
ステップS93において、集中度を表す情報を監視映像記憶領域631に記憶させると、集中度判定部612Bは、運転が終了したか否かを判定する(ステップS97)。集中度判定部612Bは、運転が終了した場合(ステップS97のYes)、処理を終了させる。一方、運転が終了しない場合(ステップS97のNo)、集中度判定部612Bは、処理をステップS91へ移行させ、ステップS91〜ステップS96の動作を車両1の運転が終了するまで繰り返す。
(効果)
以上詳述したようにこの発明の第2の実施形態では、制御ユニット61Bは、ステアリングセンサ8で検出される操舵角に基づき、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽される期間を予測する。そして、制御ユニット61Bは、予測した期間における運転者の集中度を、遮蔽期間となる前に取得した監視映像データに基づいて判定するようにしている。このため、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽されると予測されるタイミングで、例えば、自動運転から手動運転への切替可否の判定等で集中度を利用したい場合であっても、遮蔽状態となると予測される直前に取得された集中度を利用して切替可否の判定が可能となる。
また、第2の実施形態では、遮蔽予測部614は、予測した遮蔽期間の開始時点から予め設定した期間だけ前の時点になると動作信号を出力する。監視映像取得制御部611Bは、動作信号を受信したタイミングで取り込んだ監視映像データを記憶する。そして、集中度判定部612Bは、動作信号を受信したタイミングで、このタイミングにおいて監視映像取得制御部611Bにより取得された監視映像データに基づいて集中度を判定し、この集中度を、予測した遮蔽期間における集中度とするようにしている。このため、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽されると予測されるタイミングで運転モードの切替可否を判定したい場合であっても、遮蔽状態となると予測される直前の、予め設定したサンプリングレートとは異なるタイミングで取得された集中度を利用することが可能となる。
(他の実施例)
上記第2の実施形態では、例えば、集中度判定部612Bは、動作信号を受信したタイミングで、このタイミングにおいて監視映像取得制御部611Bにより取得された監視映像データに基づいて集中度を判定し、この集中度を、予測された遮蔽期間における集中度とする場合を例に説明した。しかしながら、これに限定されない。集中度判定部612Bは、予め設定される周期に則って、動作信号を受信する直前に判定した集中度を、予測された遮蔽期間における集中度とするようにしてもよい。これにより、動作信号を受信したタイミングでの集中度を、迅速に算出することが可能となる。
また、上記第2の実施形態では、運転モード切替制御部613は、第1の実施形態と同様に、運転モードを切り替える際に集中度を表す情報を取得し、取得した情報に基づき、運転者の集中度が予め設定される集中度を超えるか否かを判定するようにしている。しかしながら、これに限定されない。運転モード切替制御部613は、ドライバカメラ7の撮影範囲がステアリングホイール4の支持部材により遮蔽される直前に集中度を表す情報を取得し、取得した情報に基づき、運転者の集中度が予め設定される集中度を超えるか否かを判定するようにしてもよい。
具体的には、例えば、運転モード切替制御部613は、遮蔽予測部614から動作信号を受信すると、動作信号を受信したタイミングで集中度を表す情報を取得する。ここで取得する情報は、予め設定されるタイミングで判定された集中度を表す情報であってもよいし、集中度判定部612において、動作信号を受信したタイミングで判定された集中度を表す情報であってもよい。
運転モード切替制御部613は、取得した情報に基づき、運転者の集中度が予め設定される集中度を超えるか否かを判定する。運転モード切替制御部613は、判定結果を記憶ユニット63に記憶させる。運転モード切替制御部613は、ドライバカメラ7がステアリングホイール4によって遮蔽されている際に、運転モードの切り替えが指示される場合には、記憶ユニット63に記憶されている判定結果を用いて切り替えの可否を判定する。これにより、ドライバカメラ7がステアリングホイール4によって遮蔽されている際に与えられる運転モードの切替指示に備えて判定結果を記憶することが可能となる。
その他、車両の種類、自動運転制御装置の機能、運転モード切替制御装置の制御機能と制御手順および制御内容等についても、この発明の要旨を逸脱しない範囲で種々変形して実施可能である。
要するにこの発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合せにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態に亘る構成要素を適宜組み合せてもよい。
上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られるものではない。
(付記1)
監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する運転モード切替制御装置であって、
前記監視カメラにより撮影される監視映像を表す監視映像データを記憶するメモリと、
前記メモリと接続する少なくとも1つのハードウェアプロセッサであって、前記少なくとも1つのハードウェアプロセッサは、
前記メモリに記憶される監視映像データに基づき、前記運転者の集中度を判定し、
前記ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、前記監視カメラの撮影範囲が前記ステアリングホイールの支持部材により遮蔽されている遮蔽状態か否かを判定し、
前記遮蔽状態である場合、前記遮蔽状態となる直前に判定された集中度を、前記遮蔽状態における集中度とするように構成される運転モード切替制御装置。
(付記2)
監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する運転モード切替制御装置であって、
前記監視カメラにより撮影される監視映像を表す監視映像データを記憶するメモリと、
前記メモリと接続する少なくとも1つのハードウェアプロセッサであって、前記少なくとも1つのハードウェアプロセッサは、
前記メモリに記憶される監視映像データに基づき、前記運転者の集中度を判定し、
前記ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、前記監視カメラの撮影範囲が前記ステアリングホイールの支持部材により遮蔽される遮蔽期間を予測し、
前記予測した遮蔽期間における集中度を、前記遮蔽期間となる前に取得した監視映像データに基づいて判定するように構成される運転モード切替制御装置。
(付記3)
監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する装置が実行する運転モード切替制御方法であって、
少なくとも1つのハードウェアプロセッサを用いて、前記監視カメラにより撮影される監視映像に基づき、前記運転者の集中度を判定する過程を実行し、
前記過程は、
前記ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、前記監視カメラの撮影範囲が前記ステアリングホイールの支持部材により遮蔽されている遮蔽状態か否かを判定する判定過程と、
前記遮蔽状態である場合、前記遮蔽状態となる直前に判定された集中度を、前記遮蔽状態における集中度とする判定過程と
を備える運転モード切替制御方法。
(付記4)
監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する装置が実行する運転モード切替制御方法であって、
少なくとも1つのハードウェアプロセッサを用いて、前記監視カメラにより撮影される監視映像に基づき、前記運転者の集中度を判定する過程を実行し、
前記過程は、
前記ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、前記監視カメラの撮影範囲が前記ステアリングホイールの支持部材により遮蔽される遮蔽期間を予測する予測過程と、
前記予測した遮蔽期間における集中度を、前記遮蔽期間となる前に取得した監視映像に基づいて判定する判定過程と
を備える運転モード切替制御方法。
1…車両、2…パワーユニット、3…操舵装置、4…ステアリングホイール、5…自動運転制御装置、6,6B…運転モード切替制御装置、7…ドライバカメラ、8…ステアリングセンサ、9…アクセルペダルセンサ、10…ブレーキペダルセンサ、11…GPS受信機、12…ジャイロセンサ、13…車速センサ、41−1,41−2,41−3…支持部材、61,61B…制御ユニット、611,611B…監視映像取得制御部、612,612B…集中度判定部、613…運転モード切替制御部、614…遮蔽予測部、62…入出力インタフェースユニット、63…記憶ユニット、631…監視映像記憶領域、632…集中度記憶領域、633…履歴記憶領域。

Claims (11)

  1. 監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する運転モード切替制御装置であって、
    前記監視カメラにより取得される監視映像に基づき、前記運転者の集中度を判定する制御部を具備し、
    前記制御部は、前記ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、前記監視カメラの撮影範囲が前記ステアリングホイールの支持部材により遮蔽されている遮蔽状態か否かを判定し、前記遮蔽状態であると判定した場合に、前記遮蔽状態となる直前に判定された集中度を、前記遮蔽状態における集中度とする運転モード切替制御装置。
  2. 前記制御部は、
    前記監視カメラにより取得される監視映像から所定の周期で監視映像データを取得し、前記取得した監視映像データのうち、前記遮蔽状態において取得された監視映像データを、前記ステアリングセンサで検出される操舵角に基づいて判別する監視映像取得制御部と、
    前記遮蔽状態における集中度を、前記遮蔽状態となる直前の非遮蔽期間に取得された監視映像データに基づいて判定する集中度判定部と
    を有する請求項1記載の運転モード切替制御装置。
  3. 前記制御部は、
    前記監視カメラにより取得される監視映像から所定の周期で監視映像データを取得する監視映像取得制御部と、
    前記監視映像取得制御部により取得された監視映像データのうち、前記遮蔽状態において取得された監視映像データを、前記ステアリングセンサで検出される操舵角に基づいて判別し、前記遮蔽状態における集中度を、前記遮蔽状態となる直前の非遮蔽期間に取得された監視映像データに基づいて判定する集中度判定部と
    を有する請求項1記載の運転モード切替制御装置。
  4. 前記制御部は、
    前記監視カメラにより取得される監視映像から所定の周期で監視映像データを取得する監視映像取得制御部と、
    前記取得された監視映像データに基づいて前記運転者の集中度を判定する集中度判定部と、
    前記ステアリングセンサで検出される操舵角に基づいて前記遮蔽状態を判別し、前記遮蔽状態となる直前に前記集中度判定部により判定された集中度を、前記遮蔽状態における集中度として運転モードの切り替え可否を判定する運転モード切替制御部と
    を有する請求項1記載の運転モード切替制御装置。
  5. 監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する運転モード切替制御装置であって、
    前記監視カメラにより取得される監視映像に基づき、前記運転者の集中度を判定する制御部を具備し、
    前記制御部は、前記ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、前記監視カメラの撮影範囲が前記ステアリングホイールの支持部材により遮蔽される遮蔽期間を予測し、前記予測した遮蔽期間における集中度を、前記遮蔽期間となる前の非遮蔽期間に取得された監視映像に基づいて判定する運転モード切替制御装置。
  6. 前記制御部は、
    前記ステアリングセンサで検出される操舵角に基づいて前記遮蔽期間を予測し、前記遮蔽期間の開始時点から予め設定した期間だけ前の時点において動作信号を出力する遮蔽予測部と、
    前記動作信号に応じたタイミングで、前記監視カメラにより取得される監視映像から監視映像データを取得する監視映像取得制御部と、
    前記動作信号に応じたタイミングで、前記取得された監視映像データに基づいて前記運転者の集中度を判定し、当該集中度を前記予測した遮蔽期間における集中度とする集中度判定部と
    を有する請求項5記載の運転モード切替制御装置。
  7. 前記制御部は、
    前記ステアリングセンサで検出される操舵角に基づいて前記遮蔽期間を予測し、前記遮蔽期間の開始時点から予め設定した期間だけ前の時点において動作信号を出力する遮蔽予測部と、
    前記監視カメラにより取得される監視映像から所定の周期で監視映像データを取得する監視映像取得制御部と、
    前記取得された監視映像データに基づいて所定の周期で前記運転者の集中度を判定し、前記動作信号を受信すると、前記動作信号を受信する直前に判定した集中度を、前記予測した遮蔽期間における集中度とする集中度判定部と
    を有する請求項5記載の運転モード切替制御装置。
  8. 前記制御部は、
    前記動作信号を受信すると、前記集中度判定部で判定された集中度に基づいて運転モードの切り替え可否を判定し、当該判定結果を、前記遮蔽期間における判定結果とする運転モード切替制御部をさらに有する請求項6、又は請求項7に記載の運転モード切替制御装置。
  9. 監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する装置が実行する運転モード切替制御方法であって、
    前記装置が、前記監視カメラにより取得される監視映像に基づき、前記運転者の集中度を判定する過程を具備し、
    前記過程は、
    前記ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、前記監視カメラの撮影範囲が前記ステアリングホイールの支持部材により遮蔽されている遮蔽状態か否かを判定する判定過程と、
    前記遮蔽状態である場合、前記遮蔽状態となる直前に判定された集中度を、前記遮蔽状態における集中度とする判定過程と
    を備える運転モード切替制御方法。
  10. 監視カメラが運転者から見てステアリングホイールの裏側に設置されている車両で用いられる、車両の運転モードを切替制御する装置が実行する運転モード切替制御方法であって、
    前記装置が、前記監視カメラにより取得される監視映像に基づき、前記運転者の集中度を判定する過程を具備し、
    前記過程は、
    前記ステアリングホイールの操舵角を検出するステアリングセンサにより検出される操舵角に基づき、前記監視カメラの撮影範囲が前記ステアリングホイールの支持部材により遮蔽される遮蔽期間を予測する予測過程と、
    前記予測した遮蔽期間における集中度を、前記遮蔽期間となる前の非遮蔽期間に取得された監視映像に基づいて判定する判定過程と
    を備える運転モード切替制御方法。
  11. 請求項1乃至請求項8の何れかに記載の運転モード切替制御装置が備える前記各部としてコンピュータを機能させるプログラム。
JP2017045212A 2017-03-09 2017-03-09 運転モード切替制御装置、方法、及びプログラム Pending JP2018149821A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017045212A JP2018149821A (ja) 2017-03-09 2017-03-09 運転モード切替制御装置、方法、及びプログラム
PCT/JP2017/036705 WO2018163492A1 (ja) 2017-03-09 2017-10-10 運転モード切替制御装置、方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017045212A JP2018149821A (ja) 2017-03-09 2017-03-09 運転モード切替制御装置、方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2018149821A true JP2018149821A (ja) 2018-09-27

Family

ID=63448514

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017045212A Pending JP2018149821A (ja) 2017-03-09 2017-03-09 運転モード切替制御装置、方法、及びプログラム

Country Status (2)

Country Link
JP (1) JP2018149821A (ja)
WO (1) WO2018163492A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021018665A (ja) * 2019-07-22 2021-02-15 トヨタ自動車株式会社 運転支援装置

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113014913B (zh) * 2019-12-19 2022-09-06 合肥君正科技有限公司 一种车内监控相机分段模式遮挡检测的方法
CN114179831B (zh) * 2021-12-29 2023-02-17 吉林大学 一种基于驾驶员分心判断的人机转向切换控制方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002254956A (ja) * 2001-03-02 2002-09-11 Toyota Industries Corp 覚醒状態低下検知装置
JP2016057839A (ja) * 2014-09-09 2016-04-21 株式会社デンソーアイティーラボラトリ 顔向き検出装置及び車両用警告システム
WO2016132848A1 (ja) * 2015-02-16 2016-08-25 株式会社デンソー 運転支援装置及び運転支援方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002254956A (ja) * 2001-03-02 2002-09-11 Toyota Industries Corp 覚醒状態低下検知装置
JP2016057839A (ja) * 2014-09-09 2016-04-21 株式会社デンソーアイティーラボラトリ 顔向き検出装置及び車両用警告システム
WO2016132848A1 (ja) * 2015-02-16 2016-08-25 株式会社デンソー 運転支援装置及び運転支援方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021018665A (ja) * 2019-07-22 2021-02-15 トヨタ自動車株式会社 運転支援装置
JP7346969B2 (ja) 2019-07-22 2023-09-20 トヨタ自動車株式会社 運転支援装置

Also Published As

Publication number Publication date
WO2018163492A9 (ja) 2018-11-15
WO2018163492A1 (ja) 2018-09-13

Similar Documents

Publication Publication Date Title
CN108140319B (zh) 停车辅助方法及停车辅助装置
RU2656933C2 (ru) Способ и устройство для предупреждения о встречном транспортном средстве
US8666599B2 (en) Driving support system
JP6575492B2 (ja) 自動運転システム
JP6447647B2 (ja) 運転モード切替制御装置、方法およびプログラム
JP4206928B2 (ja) 衝突可能性判定装置
JP2018062308A (ja) 運転モード切替制御装置、方法およびプログラム
JP6733293B2 (ja) 情報処理装置
CN109843690B (zh) 驾驶模式切换控制装置、系统以及方法
CN109844842B (zh) 驾驶模式切换控制装置、系统、方法以及存储介质
US20200017123A1 (en) Drive mode switch controller, method, and program
CN111699680B (zh) 行车记录仪、显示控制方法以及存储介质
WO2018163492A1 (ja) 運転モード切替制御装置、方法、及びプログラム
JP6708785B2 (ja) 走行経路提供システムおよびその制御方法、並びにプログラム
JP6528213B2 (ja) 車両制御装置、車両制御方法、および車両制御プログラム
JP6520974B2 (ja) 運転切り替え判定装置、及び運転切り替え判定のためのプログラム
JP2014196009A (ja) 駐車支援装置、これに用いられる携帯端末、および、プログラム
JP2018147450A (ja) モード切替制御装置、モード切替制御システム、モード切替制御方法およびプログラム
JP2013109639A (ja) 画像処理装置、サーバ、携帯端末装置、及び画像処理方法
JP2005038225A (ja) 車線追従装置
JP2018149822A (ja) 運転モード切替制御装置、方法及びプログラム
JP2018151684A (ja) 運転モード切替制御装置、方法およびプログラム
JP2010117315A (ja) 運転支援装置および運転支援プログラム
WO2018163454A1 (ja) 運転モード切替制御装置、方法およびプログラム
JP2019166992A (ja) 車両制御装置およびコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190312

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191203

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200707