JP7107061B2 - 運転支援方法及び運転支援装置 - Google Patents

運転支援方法及び運転支援装置 Download PDF

Info

Publication number
JP7107061B2
JP7107061B2 JP2018139676A JP2018139676A JP7107061B2 JP 7107061 B2 JP7107061 B2 JP 7107061B2 JP 2018139676 A JP2018139676 A JP 2018139676A JP 2018139676 A JP2018139676 A JP 2018139676A JP 7107061 B2 JP7107061 B2 JP 7107061B2
Authority
JP
Japan
Prior art keywords
driver
operation type
vehicle
driving
predicted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018139676A
Other languages
English (en)
Other versions
JP2020015418A (ja
Inventor
友太 吉畑
ルチアン ギョルゲ
泰宏 松下
義治 紙透
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2018139676A priority Critical patent/JP7107061B2/ja
Publication of JP2020015418A publication Critical patent/JP2020015418A/ja
Application granted granted Critical
Publication of JP7107061B2 publication Critical patent/JP7107061B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、運転支援方法及び運転支援装置に関する。
運転者の脳活動等の生体情報に基づいて車両の運転支援を行う技術が提案されている。例えば特許文献1に記載の車両用運転支援装置では、ブレイン・ネットワーク・インタフェースをドライバーの頭部に装着して、ドライバーの脳活動データを検出する。運転支援制御ユニットは、検出した脳活動データに基づいて車両の操作対象(ステアリング、ブレーキ等)の目標操作量を特定し、特定した目標操作量に基づいて、上記操作対象の駆動制御を行う。
特開2008-247118号公報
しかしながら、脳活動解析などの生体情報を用いた運転操作の判断では、操作種別の判別が難しいことがある。
本発明は、生体情報を用いた運転操作判断における操作種別の判別精度を向上することを目的とする。
本発明の一態様に係る運転支援方法では、自車両の周囲環境と運転者の状態とに基づいて運転者による自車両の運転操作の第1操作種別を予測し、運転者の生体情報に基づいて運転者による自車両の運転操作の第2操作種別を予測し、第1操作種別と第2操作種別とに基づいて自車両の運転支援を実行する。
本発明の態様によれば、生体情報を用いた運転操作判断における操作種別の判別精度を向上できる。
実施形態の運転支援装置の一例の概略構成図である。 脳波の波形の一例を表すグラフである。 運動準備電位の測定方法を説明するための概略図である。 図1に示すコントローラの機能構成の一例を示すブロック図である。 T1<T3aの場合の操作タイミングの説明図である。 T1>T3bの場合の操作タイミングの説明図である。 実施形態の運転支援方法の一例のフローチャートである。
以下、本発明の実施形態について、図面を参照しつつ説明する。なお、各図面は模式的なものであって、現実のものとは異なる場合がある。また、以下に示す本発明の実施形態は、本発明の技術的思想を具体化するための装置や方法を例示するものであって、本発明の技術的思想は、構成部品の構造、配置等を下記のものに特定するものではない。本発明の技術的思想は、特許請求の範囲に記載された請求項が規定する技術的範囲内において、種々の変更を加えることができる。
(構成)
図1を参照する。運転支援装置1は、運転者が運転支援装置1を搭載する車両(以下、「自車両」と表記する)を運転する際に、補助的に自車両を運転することにより、運転者による運転操作を支援する装置である。
運転支援装置1は、周囲環境センサ2と、車内センサ3と、車両センサ4と、脳波センサ5と、ナビゲーションシステム6と、コントローラ7と、車両制御アクチュエータ8を備える。
周囲環境センサ2は、自車両の周囲環境、例えば自車両の周囲の他車両や障害物などの物体を検出するセンサである。
周囲環境センサ2は、例えばレーザレンジファインダ(LRF:Laser Range-Finder)やレーダなどの測距装置であってよい。測距装置は、例えば、自車両周囲に存在する物体(他車両や障害物)、自車両と物体との相対位置、自車両と物体との距離を検出する。測距装置は、検出した測距データをコントローラ7へ出力する。
周囲環境センサ2は、テレオカメラや単眼カメラ等のカメラであってもよい。カメラは、自車両の周囲に存在する物体や、車線境界線(例えば白線)などの道路標示、交通信号機、道路標識、縁石やガードレール等の地物などを撮影した撮影データをコントローラ7へ出力する。
車内センサ3は、自車両の車室内の運転者の状態を検出する。例えば車内センサ3は、車室内に設けられて運転者を撮影する車内カメラであってよい。また例えば車内センサ3は、運転者によるステアリングホイールの把持状態や、アクセルペダルやブレーキペダルへ足を載せていることを検出するタッチセンサであってよい。
車内センサ3は、運転者の撮影データや、タッチセンサの検出信号をコントローラ7へ出力する。
車両センサ4は、自車両の走行状態を検出するセンサと、運転者により行われた運転操作を検出するセンサとを含む。
自車両の走行状態を検出するセンサは、例えば車速センサあってよい。
運転操作を検出するセンサは、例えば、操舵角センサと、アクセルセンサと、ブレーキセンサと、シフトポジションセンサであってよい。
車速センサは、自車両の車輪速に基づいて自車両の速度を検出する。
操舵角センサは、操舵操作子であるステアリングホイールの現在の回転角度(操舵操作量)である現在操舵角を検出する。
アクセルセンサは、自車両のアクセル開度を検出する。例えばアクセルセンサは、自車両のアクセルペダルの踏み込み量をアクセル開度として検出する。
ブレーキセンサは、運転者によるブレーキ操作量を検出する。例えばブレーキセンサは、自車両のブレーキペダルの踏み込み量をブレーキ操作量として検出する。
シフトポジションセンサは、シフトレバーの状態を検出する。
車両センサ4は、検出した自車両の速度、操舵角、アクセル開度、ブレーキ操作量、シフトレバーの状態をコントローラ7へ出力する。
脳波センサ5は、被験者である運転者(人間)の脳波(脳活動)を検出し、検出された脳波信号(脳波データ)をコントローラ7に出力する。
脳波センサ5は、脳波計測用の電極群(複数の電極)と、電極群で採集された電位変化である複数の脳波信号を増幅する増幅器と、増幅器から出力された複数の脳波信号のそれぞれから所定の通過帯域の周波数成分を抽出するフィルタと、抽出された脳波信号のアナログデータを所定のサンプリング周期でサンプリングしてデジタルデータに変換するA/D変換器を有する。
なお、脳波センサ5の電極群以外の機能の一部がコントローラ7に内蔵されていてもよい。
また、脳波センサ5以外のセンサを用いて運転者の脳活動を測定してもよい。例えば、脳血流、心拍数、呼吸、発汗量及び顔画像など、運転者の脳活動を推定しうる生体情報を検出するセンサを用いてもよい。
脳波センサ5は、運転者の頭部に取り付けられた複数の電極間に生じる微弱な電位差信号を運転者の脳において生じる電気活動として検出する。例えば、コントローラ7は、脳波センサ5により検出された各電極の脳波のデータ間の電位差信号を周波数解析することにより、運転者の脳において生じる運動準備電位(MRP)を算出する。
運動準備電位は、思考や認知の結果として現れる脳の反応を示す事象関連電位(ERP)の一種であり、自発的に手や脚等を動かそうとする時に発生する電位である。
運動準備電位の基礎となる脳波は運転者が実際に行動を開始する前に発生する。このため、運動準備電位は運転者が行動を開始するタイミングよりも2秒程度前から検出され、400ms程度前からより大きく検出される。このため、運動準備電位を算出することにより、運転者が実際に行動を開始する前に運転者の行動(行動意図)を予測することができる。なお、ここではコントローラ7が、周波数解析により運動準備電位を算出する場合を例示するが、周波数解析に限らずパターン解析でもよく、信号解析できるものであればよい。
図2は、脳波信号における特徴ベクトルの一例を示す図である。ここでは、運転者の行動開始前の脳波信号からN個の特徴量を抽出し、脳波の特徴ベクトルP=(p1,p2,…,pN)を生成する。特徴量は、例えば一定の等間隔でサンプリングした値等を使用する。図3に示すように、過去の運動準備電位の特徴量を予めデータベース化しておき、特徴空間に配置される領域Dを決定する。
領域Dの定義は、例えば複数サンプルがあれば、ベクトル集合{P}の重心点を中心とし、半径を標準偏差σとする円を領域Dとして決定する。そして、運転者からリアルタイムで計測した運動準備電位の特徴ベクトルPが、領域Dに入るか否かを判定する。
コントローラ7は、特徴ベクトルPが領域Dに入る場合に運動準備電位が発生していると判定し、特徴ベクトルPが領域Dに入っていない場合に運動準備電位が発生していないと判定する。
図1を参照する。ナビゲーションシステム6は、自車両の現在位置と、その現在位置における道路地図情報を認識する。ナビゲーションシステム6は、乗員が入力した目的地までの走行経路を設定し、この走行経路に従って乗員に経路案内を行う。
さらにナビゲーションシステム6は、設定した走行経路や、走行経路上の道路地図情報をコントローラ7へ出力する。ナビゲーションシステム6からコントローラ7へ提供される情報を「ナビ情報」と表記する。
ナビゲーションシステム6は、ナビコントローラ61と、測位装置62と、地図データベース63と、表示部64と、操作部65と、音声出力部66と、通信部67を備える。なお、図1において地図データベースを地図DBと表記する。
ナビコントローラ61は、ナビゲーションシステム6の情報処理動作を制御する電子制御ユニットである。ナビコントローラ61は、プロセッサとその周辺部品とを含む。プロセッサは、例えばCPU(Central Processing Unit)、やMPU(Micro-Processing Unit)であってよい。
周辺部品には記憶装置等が含まれる。記憶装置は、半導体記憶装置、磁気記憶装置及び光学記憶装置のいずれかを備えてよい。記憶装置は、レジスタ、キャッシュメモリ、主記憶装置として使用されるROM(Read Only Memory)及びRAM(Random Access Memory)等のメモリを含んでよい。
測位装置62は、自車両の現在位置を測定する。測位装置62は、例えばGPS(Global Positioning System)受信器であってよい。また測位装置62は、GLONASS(Global Navigation Satellite System)等の他の衛星測位システムの衛星信号に基づいて自車両の現在位置を測定してもよい。また測位装置62は、慣性航法装置であってもよい。
地図データベース63は、道路地図情報を記憶している。道路地図情報は、走行車線、道路線種、道路形状、勾配、車線数、法定速度(制限速度)、道幅、一時停止線、交差点、合流地点、分岐地点に関する情報を含む。
表示部64は、ナビゲーションシステム6において様々な視覚的情報を出力する。例えば、表示部64には、自車両周囲の地図画面や推奨経路の案内を表示してよい。また、表示部64には、運転支援装置1による運転支援制御で生成されるメッセージ(例えば、運転者に操舵操作や減速操作を促すメッセージ)を表示してよい。
操作部65は、ナビゲーションシステム6において乗員の操作を受け付ける。操作部65は、例えばボタン、ダイヤル、スライダなどであってよく、表示部64に設けられたタッチパネルであってもよい。例えば操作部65は、乗員による目的地の入力操作や、表示部64の表示画面の切り替え操作を受け付けてよい。
音声出力部66は、ナビゲーションシステム6において様々な音声情報を出力する。音声出力部66は、設定した走行経路に基づく運転案内や、自車両周囲の地図情報に基づく道路案内情報を出力してよい。また、音声出力部66は、運転支援装置1による運転支援制御で生成されるメッセージ(例えば、運転者に操舵操作や減速操作を促すメッセージ)を出力してよい。
通信部67は、自車両の外部の通信装置との間で無線通信を行う。通信部67による通信方式は、例えば公衆携帯電話網による無線通信や、車車間通信、路車間通信、又は衛星通信であってよい。ナビゲーションシステム6は、通信部67によって外部装置から道路地図情報を取得してもよい。
コントローラ7は、自車両の運転支援を行う電子制御ユニットである。コントローラ7は、プロセッサ71と、記憶装置72等の周辺部品とを含む。プロセッサ71は、例えばCPUやMPUであってよい。
記憶装置72は、半導体記憶装置、磁気記憶装置及び光学記憶装置のいずれかを備えてよい。記憶装置72は、レジスタ、キャッシュメモリ、主記憶装置として使用されるROM及びRAM等のメモリを含んでよい。
なお、汎用の半導体集積回路中に設定される機能的な論理回路でコントローラ7を実現してもよい。例えば、コントローラ7はフィールド・プログラマブル・ゲート・アレイ(FPGA:Field-Programmable Gate Array)等のプログラマブル・ロジック・デバイス(PLD:Programmable Logic Device)等を有していてもよい。
コントローラ7は、周囲環境センサ2が検出した周囲環境、車内センサ3が検出した運転者状態、車両センサ4が検出した車両状態、脳波センサ5が検出した運転者の脳波信号、及びナビゲーションシステム6から提供されるナビ情報に基づいて、運転者が意図する運転操作を予測する。
コントローラ7は、予測した運転操作を実現するための運転操作系(例えばステアリングホイール機構、アクセル機構、ブレーキ機構)の目標操作量を算出し、目標操作量に基づいて車両制御アクチュエータ8を駆動して自車両の運転操作系を制御する。
これにより、コントローラ7は、運転者があたかも自分で操作している感覚となるように自車両を運転し、運転者の運転操作を支援する。
車両制御アクチュエータ8は、コントローラ7からの制御信号に応じて、自車両のステアリングホイール、アクセル開度及びブレーキ装置を操作して、自車両の車両挙動を発生させる。車両制御アクチュエータ8は、ステアリングアクチュエータと、アクセル開度アクチュエータと、ブレーキ制御アクチュエータを備える。
ステアリングアクチュエータは、自車両のステアリングの操舵方向及び操舵量を制御する。アクセル開度アクチュエータは、自車両のアクセル開度を制御する。ブレーキ制御アクチュエータは、自車両のブレーキ装置の制動動作を制御する。
次に図4を参照して、コントローラ7による運転支援機能について説明する。コントローラ7は、ナビ情報取得部101と、周囲環境認識部102と、車両データ取得部103と、運転者状態認識部104と、脳活動解析部105と、脳活動データベース106と、感度時間記憶部107と、運転操作データベース108と、運転操作判断部110と、操作種別データベース114と、操作タイミング予測部120と、自動機能装置130と、自動機能制御部140を備える。図4において「データベース」を「DB」と表記する。
例えばコントローラ7は、図1の記憶装置72に格納されたコンピュータプログラムをプロセッサ71で実行することにより、ナビ情報取得部101、周囲環境認識部102、車両データ取得部103、運転者状態認識部104、脳活動解析部105、運転操作判断部110、操作タイミング予測部120、自動機能装置130、自動機能制御部140の機能を実現してよい。
ナビ情報取得部101は、ナビゲーションシステム6からナビ情報を取得する。ナビ情報取得部101は、例えば自車両の進行方向に存在する交差点、合流地点、分岐地点、ワインディングロード、一時停止線などの道路地図情報を取得する。ナビ情報取得部101は、取得したナビ情報を運転操作判断部110へ出力する。
また、ナビ情報取得部101は、自車両の周囲の走行車線、道路形状、法定速度、道幅、一時停止線などの道路地図情報をナビゲーションシステム6から取得する。ナビ情報取得部101は、取得した道路地図情報を自動機能装置130へ出力する。
周囲環境認識部102は、自車両の周囲の撮影データや周囲の物体までの測距データを周囲環境センサ2から取得する。周囲環境認識部102は、周囲環境センサ2から取得したデータに基づいて、自車両の周囲環境を認識する。
例えば周囲環境認識部102は、以下のような周囲環境を認識する。
(1) 周囲(前方、後方、横前後)の車両との車間距離、相対速度、衝突余裕時間(TTC:Time To Collision)、車間時間(THW:Time-Head Way)、自車両が他車両に囲まれていて操舵や加減速が制約されているか否か等の周囲車両情報
(2)自車両の周囲の障害物(例えば前方の進路を塞ぐ障害物)
(3)自車両の前方の交通信号機の信号現示(赤信号)や信号現示の変化(例えば赤信号から青信号への変化)
(4)車線変更可能な隣接車線が左右にあるか否か等の車線情報
周囲環境認識部102は、認識した周囲環境の情報を運転操作判断部110及び自動機能装置130へ出力する。
車両データ取得部103は、自車両の速度、操舵角、アクセル開度、ブレーキ操作量、シフトレバーの状態等の自車両の車両データを車両センサ4から取得する。車両データ取得部103は、車両データを運転操作判断部110へ出力する。
運転者状態認識部104は、運転者の撮影データや、タッチセンサの検出信号を車内センサ3から取得する。
例えば運転者状態認識部104は、運転者の撮影データに基づいて運転者の姿勢や、顔の向き、視線の方向を運転者の状態として認識してよい。
運転者状態認識部104は、タッチセンサの検出信号に基づいてステアリングホイールの把持状態や、アクセルペダル、ブレーキペダルへの接触状態を運転者の状態として認識してよい。
運転者状態認識部104は、認識した運転者の状態の情報を運転操作判断部110へ出力する。
脳活動解析部105は、運転者の脳波信号を脳波センサ5から取得する。脳活動解析部105は、脳波信号の特徴ベクトルPを生成し(図2参照)、脳活動データベース106に記憶された特徴空間に配置される領域D(図3参照)に特徴ベクトルPが入るか否かに応じて運動準備電位が発生しているか否かを判定する。
脳活動解析部105は、検出した運動準備電位を運転操作判断部110と操作タイミング予測部120へ出力する。
運転操作データベース108は、各運転者についての、運転操作と脳活動との関係を示す脳活動データを記憶している。例えば、脳活動解析部105にて、運転者によるステアリング操作の運動準備電位が検出された際に、この検出タイミングから実際にステアリングが操作されるまでの時間(これを遅れ時間βとする)を求める。そして、遅れ時間βを累積的に記憶する。遅れ時間βとして、複数の検出データの平均値を用いることもできる。
感度時間記憶部107は、運転操作データベース108に記憶されているデータに基づいて、各運転者が操作種別を操作する際の感度時間(後述するΔt)を求めこの感度時間を記憶する。例えば、先行車両を回避するためにステアリングを操作して車線変更する際に、早めに車線変更する運転者と、先行車両との間の車間距離が短くなってから車線変更する運転者を区別し、運転者を、運転技能の高い上級者、運転技能の低い初級者、及びその中間の技能である中級者の3つの技能レベルに分類する。そして、例えば初級者の感度時間を800[msec]とし、中級者の感度時間を500[msec]とし、上級者の感度時間を200[msec]とする。
なお、技能レベルの設定は、各運転者の過去の運転操作データに基づいて設定する以外で、例えば、ユーザが任意に設定することも可能である。例えば、運転経験が1年未満の運転者を初級者、1年以上で10年未満の運転者を中級者、10年以上の運転者を上級者に設定することも可能である。なお、本発明は3つの技能レベルに限定されるものではなく、4以上の技能レベルを設定しそれぞれについて異なる感度時間を設定してもよい。
運転操作判断部110は、運転者によりこれから行われる自車両の運転操作の操作種別を判断する。
運転操作判断部110は、第1操作種別予測部111と、第2操作種別予測部112と、操作種別判断部113を備える。
第1操作種別予測部111は、ナビ情報取得部101が取得したナビ情報や周囲環境認識部102の認識結果に基づいて、自車両の周囲環境を判断する。また第1操作種別予測部111は、車両データ取得部103が取得した車両データや、運転者状態認識部104の認識結果に基づいて、運転者の状態を判断する。
第1操作種別予測部111は、自車両の周囲環境と運転者の状態に基づいて、運転者による自車両の運転操作の第1操作種別を予測する。
例えば第1操作種別予測部111は、自車両の周囲環境に基づいて運転者による運転操作の発生を予測してよい。そして、第1操作種別予測部111は、運転者の状態に基づいて運転操作の第1操作種別を予測してよい。
例えば、第1操作種別予測部111は、車線変更可能な隣接車線が左右にあるか否か等の車線情報、周囲の車両との車間距離、相対速度、TTC、THW等の周囲車両情報、ナビ情報、交差点情報、自車速、操舵角、アクセルペダル操作状態、ブレーキペダル操作状態等に基づいて、車線変更の発生を予測する。そして、第1操作種別予測部111は、運転者の姿勢、顔の向き、視線等に基づいて、車線変更の左右方向を推定し、第1操作種別として左操舵及び右操舵のいずれかを予測する。
また例えば、第1操作種別予測部111は、自車両の周囲環境に基づいて発生を予測した第1操作種別の運転操作が、運転者によって行われる可能性があるか否かを、運転者の状態に基づいて予測してもよい。
例えば第1操作種別予測部111は、車線情報、周囲車両情報、ナビ情報、交差点情報、自車速、操舵角、アクセルペダル操作状態、ブレーキペダル操作状態等に基づいて、車線変更の発生を予測する。
第1操作種別予測部111は、運転者の姿勢、顔の向き、視線等に基づいて車線変更が行われる可能性があるか否かを判断する。運転者が、車線変更のための後方確認を行い且つステアリングホイールを把持していれば、第1操作種別予測部111は第1操作種別として車線変更を予測する。運転者が、車線変更のための後方確認を行っていないか、ステアリングホイールを把持していなければ、第1操作種別予測部111は第1操作種別の予測結果を出力しない。
また例えば、第1操作種別予測部111は、交差点やカーブ路での旋回操作をナビ情報に基づいて予測してよい。このとき第1操作種別予測部111は、ナビ情報に基づいて右操舵又は左操舵のいずれかを予測してもよい。
第1操作種別予測部111は、運転者によるステアリングホイールの把持状態に基づいて旋回操作が行われる可能性があるか否を判断する。例えば、ステアリングホイールが把持されていれば、第1操作種別予測部111は第1操作種別として旋回操作を予測する。第1操作種別予測部111は右操舵又は左操舵の何れかを第1操作種別として予測してもよい。ステアリングホイールが把持されていなければ、第1操作種別予測部111は第1操作種別の予測結果を出力しない。
また例えば、第1操作種別予測部111は、自車両の前方の一時停止線、赤信号、先行車両、障害物等の停止要因への接近に基づいて減速操作を予測してよい。
第1操作種別予測部111は、運転者によるアクセルペダルの操作状態や前方の停止要因の注視状態に基づいて、減速操作が行われる可能性があるか否を判断する。例えばアクセルペダルを踏んでいないか緩めており前方の停止要因を注視していれば、第1操作種別予測部111は第1操作種別として減速操作を予測する。運転者がアクセルペダルを所定踏み込み量以上踏んでいるか前方の停止要因を注視していなかれば、第1操作種別予測部111は第1操作種別の予測結果を出力しない。
また例えば、第1操作種別予測部111は、自車両の周囲環境の変化に基づいて自車両の発進操作を予測してよい。例えば、前方の交通信号機の信号現示が青に変化した、右折時に対向車が無くなった、一時停止線や本線手前での一時停止を遂行したなど、周囲環境の変化により自車両の発進が可能になった場合に、第1操作種別予測部111は、自車両の発進操作を予測してよい。
第1操作種別予測部111は、ブレーキペダルの操作状態、シフトレバーの状態及び進行方向の注視状態に基づいて、発進操作が行われる可能性があるか否かを判断する。例えば、ブレーキペダルが踏まれていて、シフトレバーが「D」ポジションにあり、運転者が進行方向を注視していれば、第1操作種別予測部111は第1操作種別として発進操作を予測する。ブレーキペダルが踏まれていないか、シフトレバーが「D」ポジションにないか、運転者が進行方向を注視していない場合、第1操作種別予測部111は第1操作種別の予測結果を出力しない。
以上の判断方法の代わりに、過去に運転者が行った運転操作の操作種別と、そのときの周囲環境及び運転者の状態とを記憶した操作種別データベース114に基づいて、第1操作種別を予測してもよい。
また、運転者が行った運転操作の操作種別と、そのときの周囲環境及び運転者の状態とを機械学習した判別器を用いて、第1操作種別を予測してもよい。
第2操作種別予測部112は、脳活動解析部105が検出した運動準備電位に基づいて運転者による自車両の運転操作の第2操作種別を予測する。
例えば第2操作種別予測部112は、運動準備電位が脳のどの部位で発生したかに応じて、運転者が右手、左手、又は足のいずれを動かすのかを予測してよい。第2操作種別予測部112は、運転者が右手、左手、又は足のいずれを動かすかによって、右操舵操作、左操舵操作、加速操作及び制動操作(ブレーキング)などのいずれの操作種別の運転操作を行うのか予測してよい。
また例えば第2操作種別予測部112は、運動準備電位が発生したときに運転者が行った運転操作を機械学習した判別器を使用して、運転者による運転操作の操作種別を予測してもよい。
操作種別判断部113は、予測した第1操作種別と第2操作種別に基づいて運転者による自車両の運転操作の操作種別を判断する。
例えば操作種別判断部113は、第1操作種別予測部111が予測した第1操作種別が車線変更である場合、第2操作種別予測部112が予測した操舵方向の操舵操作を、運転者による運転操作の操作種別として判断する。
また例えば操作種別判断部113は、第1操作種別予測部111が予測した第1操作種別が旋回操作である場合、第2操作種別予測部112が予測した操舵方向の操舵操作を、運転者による運転操作の操作種別として判断する。
また例えば操作種別判断部113は、第1操作種別予測部111が予測した第1操作種別が減速操作である場合、第2操作種別予測部112が予測した制動操作を、運転者による運転操作の操作種別として判断する。
また例えば操作種別判断部113は、第1操作種別予測部111が予測した第1操作種別が発進操作である場合、第2操作種別予測部112が予測した加速操作を、運転者による運転操作の操作種別として判断する。
操作種別判断部113は、運転者による運転操作の操作種別が判断できない場合には操作種別を判断しない。この場合に運転支援装置1は運転支援を実行しない。
例えば、第1操作種別予測部111が第1操作種別を予測しない場合には、操作種別判断部113は操作種別を判断しない。第2操作種別予測部112が第2操作種別を予測しない場合にも、操作種別判断部113は操作種別を判断しない。
また例えば、第1操作種別予測部111が予測した第1操作種別と第2操作種別予測部112が予測した第2操作種別とが整合しない場合にも、操作種別判断部113は操作種別を判断しない。
例えば第1操作種別と第2操作種別が一致しない場合には、第1操作種別と第2操作種別は整合しない。例えば、車線変更や旋回操作において第1操作種別として予測された操舵操作が第2操作種別と一致しない場合、第1操作種別と第2操作種別は整合しない。
また第1操作種別と第2操作種別とが矛盾する場合にも、第1操作種別と第2操作種別は整合しない。
例えば第1操作種別として車線変更又は旋回操作が予測されているのにも関わらず第2操作種別として操舵操作以外の操作種別(例えば制動操作、加速操作)が予測された場合には第1操作種別と第2操作種別は整合しない。
例えば第1操作種別として減速操作が予測されているのにも関わらず第2操作種別として制動操作以外の操作種別(例えば、操舵操作、加速操作)が予測された場合には第1操作種別と第2操作種別は整合しない。
例えば第1操作種別として発進操作が予測されているのにも関わらず第2操作種別として加速操作以外の操作種別(例えば、操舵操作、制動操作)が予測された場合には第1操作種別と第2操作種別は整合しない。
操作種別判断部113が運転者による運転操作の操作種別を判断すると、運転操作判断部110は、操作種別を自動機能制御部140へ出力する。
自動機能装置130は、ナビ情報取得部101が取得した道路地図情報、及び周囲環境認識部102が認識した周囲環境の情報に基づいて、自車両の運転操作を補助的に実行する機能を有する。自動機能装置130は、例えば、ACC(Adaptive Cruise Control)装置であってよい。なお、ACC装置は周知の装置であるので、詳細な説明を省略する。また、自動機能装置を自動運転装置としてもよい。自動運転装置についても周知の装置であるので説明を省略する。
操作タイミング予測部120は、脳活動解析部105で検出した運動準備電位に基づいて、運転者の運転操作の開始タイミングを予測する。
操作タイミング予測部120は、運転操作データベース108に運転者毎に記憶された遅れ時間βを読み出し、運転者が運転操作を行うタイミング(これを「対象者操作タイミングT2」とする)を決定する。
図5A及び図5Bのタイミングチャートに示すように、運動準備電位が検出されるタイミングT0から遅れ時間βが経過した時刻が対象者操作タイミングT2となる。
時刻T1は、自動機能装置130が運転者の意図によらずに自動操作を行う場合の操作タイミング(これを「自動操作タイミングT1」とする)を示す。
操作タイミング予測部120は、対象となる運転者の感度時間(これを「Δt」とする)を感度時間記憶部107から読み出す。前述のように、各運転者の運転技能に基づいて、初級者、中級者、及び上級者の技術レベルが設定されており、各技術レベルに応じて感度時間Δtが設定されている。
この処理では、対象となる運転者の運転技能に基づいて、感度時間Δtを取得する。例えば、運転者の運転技能が中級者である場合には感度時間Δtは500[msec]に設定される。
操作タイミング予測部120は、対象者操作タイミングT2と自動操作タイミングT1との差分「T2-T1」(これを「時間差α」とする)を演算し、この時間差αと運転者の感度時間Δtとを比較する。
α>Δtである場合には、操作タイミング予測部120は、自動機能装置130の作動タイミングTrを「T2-Δt」に設定する。即ち、図5Aに示すように、対象者操作タイミングT2から感度時間Δtだけ遡ったタイミングT3aを、自動操作する際の作動タイミングTrとして設定する。
α≦Δtである場合には、操作タイミング予測部120は、自動機能装置130の作動タイミングTrを、自動操作タイミングT1に設定する。即ち、図5Bに示すように、対象者操作タイミングT2から感度時間Δtだけ遡ったタイミングT3bは、自動操作タイミングT1よりも早いタイミングT3bとなるので、自動操作タイミングT1を、自動操作する際の作動タイミングTrとして設定する。
図4を参照する。自動機能制御部140は、操作種別判断部113が予測した運転者の操作種別、及び操作タイミング予測部120で設定された作動タイミングTrに基づいて、自動機能装置130へ運転支援指令を出力する。
自動機能装置130は、自動機能装置130からの運転支援指令に応じて自動機能を制御する。具体的には、予測された操作種別の運転操作を実現する運転操作系(例えばステアリングホイール機構、アクセル機構、ブレーキ機構)の目標操作量を算出する。
そして、目標操作量に基づいて車両制御アクチュエータ8を駆動して自車両の運転操作系を制御する。
(動作)
図6を参照して、実施形態の運転支援装置の動作を説明する。
ステップS1においてナビ情報取得部101は、ナビゲーションシステム6からナビ情報を取得する。
ステップS2において周囲環境認識部102は、周囲環境センサ2から取得したデータに基づいて、自車両の周囲環境を認識する。
ステップS3において車両データ取得部103は、自車両の速度、操舵角、アクセル開度、ブレーキ操作量、シフトレバーの状態等の自車両の車両データを車両センサ4から取得する。
ステップS4において運転者状態認識部104は、運転者の撮影データに基づいて運転者の姿勢や、顔の向き、視線の方向を運転者の状態として認識する。運転者状態認識部104は、タッチセンサの検出信号に基づいて運転操作子への接触状態を運転者の状態として認識する。
ステップS5において脳波センサ5により運転者の脳波を測定する。脳活動解析部105は、運転者の脳波信号を解析することにより運動準備電位を検出する。
ステップS6において第1操作種別予測部111は、ナビ情報取得部101が取得したナビ情報や周囲環境認識部102の認識結果に基づいて、自車両の周囲環境を判断する。また第1操作種別予測部111は、車両データ取得部103が取得した車両データや、運転者状態認識部104の認識結果に基づいて、運転者の状態を判断する。
第1操作種別予測部111は、自車両の周囲環境と運転者の状態に基づいて、運転者による自車両の運転操作の第1操作種別を予測する。
ステップS7において第2操作種別予測部112は、脳活動解析部105が検出した運動準備電位に基づいて運転者による自車両の運転操作の第2操作種別を予測する。
ステップS8において操作種別判断部113は、第1操作種別と第2操作種別に基づいて操作種別を判断できるか否かを判断する。操作種別を判断できる場合(ステップS8:Y)に処理はステップS9へ進む。操作種別を判断できない場合(ステップS8:N)に運転支援を行わずに処理は終了する。
ステップS9において操作タイミング予測部120は、運動準備電位の検出タイミングに基づいて、運転者の運転操作の開始タイミングT2を予測する。操作タイミング予測部120は、予測した運転操作の開始タイミングT2に基づいて、自動機能装置130の作動タイミングTrを設定する。
ステップS10において自動機能制御部140は、操作種別判断部113が判断した運転者の操作種別、及び操作タイミング予測部120で設定された作動タイミングTrに基づいて、自動機能装置130へ運転支援指令を出力する。
自動機能装置130は、自動機能装置130からの運転支援指令に応じて自動機能を制御することにより、運転支援を実行する。
(実施形態の効果)
(1)第1操作種別予測部111は、自車両の周囲環境と運転者の状態とに基づいて運転者による自車両の運転操作の第1操作種別を予測する。第2操作種別予測部112は、運転者の生体情報に基づいて運転者による自車両の運転操作の第2操作種別を予測する。操作種別判断部113、自動機能制御部140及び自動機能装置130は、第1操作種別と第2操作種別とに基づいて、自車両の運転支援を実行する。
このように生体情報に基づいて予測した第2操作種別に加えて、自車両の周囲環境と運転者の状態とに基づいて予測した第1操作種別を考慮して、運転者による運転操作の操作種別を考慮するため、操作種別の判別精度を向上することができる。この結果、より適切な運転支援を提供できる。
(2)第1操作種別として自車両の車線変更を予測した場合に、操作種別判断部113、自動機能制御部140及び自動機能装置130は、第2操作種別として予測した操舵方向に基づいて運転支援を実行する。
これにより自車両が操舵操作を行う走行シーンにおいて、より正しく操舵操作を予測できる。このため、より適切な運転支援を提供できる。
(3)自車両の走行予定経路と運転者の状態とに基づいて第1操作種別として旋回操作を予測した場合に、操作種別判断部113、自動機能制御部140及び自動機能装置130は、第2操作種別として予測した操舵方向に基づいて運転支援を実行する。
これにより自車両が操舵操作を行う走行シーンにおいて、より正しく操舵操作を予測できる。このため、より適切な運転支援を提供できる。
(4)自車両の進行方向に存在する先行車両又は障害物と運転者の状態とに基づいて第1操作種別として減速操作を予測した場合に、操作種別判断部113、自動機能制御部140及び自動機能装置130は、第2操作種別として予測した制動操作に基づいて運転支援を実行する。
これにより自車両が制動操作を行う走行シーンにおいて、より正しく制動操作を予測できる。このため、より適切な運転支援を提供できる。
(5)自車両の進行方向に存在する赤信号又は一時停止線と運転者の状態とに基づいて第1操作種別として減速操作を予測した場合に、操作種別判断部113、自動機能制御部140及び自動機能装置130は、第2操作種別として予測した制動操作に基づいて運転支援を実行する。
これにより自車両が制動操作を行う走行シーンにおいて、より正しく制動操作を予測できる。このため、より適切な運転支援を提供できる。
(6)自車両の発進が可能になる周囲環境の変化と運転者の状態とに基づいて第1操作種別として発進操作を予測した場合に、操作種別判断部113、自動機能制御部140及び自動機能装置130は、第2操作種別として予測した加速操作に基づいて運転支援を実行する。
これにより自車両が加速操作を行う走行シーンにおいて、より正しく加速操作を予測できる。このため、より適切な運転支援を提供できる。
(7)操作種別判断部113、自動機能制御部140及び自動機能装置130は、第1操作種別と第2操作種別とに基づいて操作種別を判断できない場合に運転支援を実行しない。
これにより、誤った操作種別の運転支援を防止できる。
(8)脳波センサ5及び脳活動解析部105は、運転者の脳活動を検出して生体情報を取得する。
このように脳活動解析を用いることで、運転者が操作を実行する前に迅速に運転操作を検出できる。
1…運転支援装置、2…周囲環境センサ、3…車内センサ、4…車両センサ、5…脳波センサ、6…ナビゲーションシステム、7…コントローラ、8…車両制御アクチュエータ、61…ナビコントローラ、62…測位装置、63…地図データベース、64…表示部、65…操作部、66…音声出力部、67…通信部、71…プロセッサ、72…記憶装置、101…ナビ情報取得部、102…周囲環境認識部、103…車両データ取得部、104…運転者状態認識部、105…脳活動解析部、106…脳活動データベース、107…感度時間記憶部、108…運転操作データベース、110…運転操作判断部、111…第1操作種別予測部、112…第2操作種別予測部、113…操作種別判断部、114…操作種別データベース、120…操作タイミング予測部、130…自動機能装置、140…自動機能制御部

Claims (9)

  1. 運転者の状態として、前記運転者の姿勢、前記運転者の顔の向き、前記運転者の視線の方向、ステアリングホイールの把持状態、アクセルペダルへ足を載せているか否か、ブレーキペダルへ足を載せているか否か、の少なくともいずれか一つを検出し、
    自車両の周囲環境と前記運転者の状態とに基づいて、前記運転者による前記自車両の運転操作の第1操作種別を予測し、
    前記運転者の生体情報に基づいて、前記運転者による前記自車両の運転操作の第2操作種別を予測し、
    前記第1操作種別と前記第2操作種別とに基づいて、前記自車両の運転支援を実行する、
    ことを特徴とする運転支援方法。
  2. 自車両の周囲環境と運転者の状態とに基づいて、前記運転者による前記自車両の運転操作の第1操作種別を予測し、
    前記運転者の生体情報に基づいて、前記運転者による前記自車両の運転操作の第2操作種別を予測し、
    前記自車両の進行方向に存在する赤信号又は一時停止線と前記運転者の状態とに基づいて前記第1操作種別として減速操作を予測した場合に、前記第2操作種別として予測した制動操作に基づいて前記運転支援を実行することを特徴とする運転支援方法。
  3. 自車両の周囲環境と運転者の状態とに基づいて、前記運転者による前記自車両の運転操作の第1操作種別を予測し、
    前記運転者の生体情報に基づいて、前記運転者による前記自車両の運転操作の第2操作種別を予測し、
    前記自車両の発進が可能になる周囲環境の変化と前記運転者の状態とに基づいて前記第1操作種別として発進操作を予測した場合に、前記第2操作種別として予測した加速操作に基づいて前記運転支援を実行することを特徴とする運転支援方法。
  4. 前記第1操作種別と前記第2操作種別とに基づいて操作種別を判断できない場合に、前記運転支援を実行しないことを特徴とする請求項1~の何れか一項に記載の運転支援方法。
  5. 前記運転者の脳活動を検出して前記生体情報を取得することを特徴とする請求項1~のいずれか一項に記載の運転支援方法。
  6. 自車両の周囲環境と運転者の状態とに基づいて、前記運転者による前記自車両の運転操作の第1操作種別を予測し、
    前記運転者の生体情報に基づいて、前記運転者による前記自車両の運転操作の第2操作種別を予測し、
    前記第1操作種別と前記第2操作種別とに基づいて、前記自車両の運転支援を実行し、
    前記第1操作種別と前記第2操作種別のいずれか一方が予測されない場合、又は前記第1操作種別と前記第2操作種別とが整合しない場合に、前記自車両の運転支援を実行しない、
    ことを特徴とする運転支援方法。
  7. 前記第1操作種別と前記第2操作種別とが整合しない場合とは、前記第1操作種別として車線変更が予測されているにもかかわらず前記第2操作種別として操舵操作以外の操舵種別が予測された場合、前記第1操作種別として減速操作が予測されているにもかかわらず前記第2操作種別として制動操作以外の操舵種別が予測された場合、又は前記第1操作種別として発進操作が予測されているにもかかわらず前記第2操作種別として加速操作以外の操舵種別が予測された場合であることを特徴とする請求項6に記載の運転支援方法。
  8. 自車両の周囲環境を検出する第1センサと、
    運転者の状態として、前記運転者の姿勢、前記運転者の顔の向き、前記運転者の視線の方向、ステアリングホイールの把持状態、アクセルペダルへ足を載せているか否か、ブレーキペダルへ足を載せているか否か、の少なくともいずれか一つを検出する第2センサと、
    前記運転者の生体情報を取得する第3センサと、
    前記第1センサが検出した前記周囲環境と前記第2センサが検出した前記運転者の状態とに基づいて、前記運転者による前記自車両の運転操作の第1操作種別を予測し、前記第3センサが取得した前記生体情報に基づいて、前記運転者による前記自車両の運転操作の第2操作種別を予測し、前記第1操作種別と前記第2操作種別とに基づいて、前記自車両の運転支援を実行するコントローラと、
    を備えることを特徴とする運転支援装置。
  9. 自車両の周囲環境を検出する第1センサと、
    運転者の状態を検出する第2センサと、
    前記運転者の生体情報を取得する第3センサと、
    前記第1センサが検出した前記周囲環境と前記第2センサが検出した前記運転者の状態とに基づいて、前記運転者による前記自車両の運転操作の第1操作種別を予測し、前記第3センサが取得した前記生体情報に基づいて、前記運転者による前記自車両の運転操作の第2操作種別を予測し、前記第1操作種別と前記第2操作種別とに基づいて、前記自車両の運転支援を実行し、前記第1操作種別と前記第2操作種別のいずれか一方が予測されない場合、又は前記第1操作種別と前記第2操作種別とが整合しない場合に、前記自車両の運転支援を実行しないコントローラと、
    を備えることを特徴とする運転支援装置。
JP2018139676A 2018-07-25 2018-07-25 運転支援方法及び運転支援装置 Active JP7107061B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018139676A JP7107061B2 (ja) 2018-07-25 2018-07-25 運転支援方法及び運転支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018139676A JP7107061B2 (ja) 2018-07-25 2018-07-25 運転支援方法及び運転支援装置

Publications (2)

Publication Number Publication Date
JP2020015418A JP2020015418A (ja) 2020-01-30
JP7107061B2 true JP7107061B2 (ja) 2022-07-27

Family

ID=69579995

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018139676A Active JP7107061B2 (ja) 2018-07-25 2018-07-25 運転支援方法及び運転支援装置

Country Status (1)

Country Link
JP (1) JP7107061B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114103998B (zh) * 2021-12-03 2024-03-19 智己汽车科技有限公司 一种基于驾驶员视线的智能驾驶车辆控制方法、系统及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005216086A (ja) 2004-01-30 2005-08-11 Nissan Motor Co Ltd 運転支援装置
JP2007271274A (ja) 2006-03-30 2007-10-18 Toyota Mapmaster:Kk 案内システム
JP2017061192A (ja) 2015-09-24 2017-03-30 日産自動車株式会社 サポート装置及びサポート方法
JP2018047737A (ja) 2016-09-20 2018-03-29 日産自動車株式会社 運転者意図特定方法及び運転者意図特定装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005216086A (ja) 2004-01-30 2005-08-11 Nissan Motor Co Ltd 運転支援装置
JP2007271274A (ja) 2006-03-30 2007-10-18 Toyota Mapmaster:Kk 案内システム
JP2017061192A (ja) 2015-09-24 2017-03-30 日産自動車株式会社 サポート装置及びサポート方法
JP2018047737A (ja) 2016-09-20 2018-03-29 日産自動車株式会社 運転者意図特定方法及び運転者意図特定装置

Also Published As

Publication number Publication date
JP2020015418A (ja) 2020-01-30

Similar Documents

Publication Publication Date Title
US11545033B2 (en) Evaluation framework for predicted trajectories in autonomous driving vehicle traffic prediction
JP6754856B2 (ja) 自動運転車両のためのセンサー集約フレームワーク
US11328219B2 (en) System and method for training a machine learning model deployed on a simulation platform
CN109429518B (zh) 基于地图图像的自动驾驶交通预测
EP3605491A1 (en) Use sub-system of autonomous driving vehicles (adv) for police car patrol
US11597396B2 (en) Vehicle control device
JP6508072B2 (ja) 報知制御装置及び報知制御方法
JP6800575B2 (ja) 自己の乗り物のドライバを支援する方法およびシステム
JP5278419B2 (ja) 運転シーンの遷移予測装置及び車両用推奨運転操作提示装置
JP2017146730A (ja) 経路決定装置
CN109844837A (zh) 显示控制装置、显示装置及显示控制方法
JP2016215658A (ja) 自動運転装置および自動運転システム
JP2021115983A (ja) 自動運転装置
CN113895456A (zh) 自动驾驶车辆的交叉路口行驶方法、装置、车辆及介质
JP7107060B2 (ja) 運転支援方法及び運転支援装置
JP7107061B2 (ja) 運転支援方法及び運転支援装置
JP7147448B2 (ja) 地図情報システム
US11222552B2 (en) Driving teaching device
CN115123308A (zh) 评估自主驾驶车辆的规划性能的方法及系统
JP7233299B2 (ja) 運転挙動制御方法及び運転挙動制御装置
JP7333186B2 (ja) 運転支援方法及び運転支援装置
CN111655561A (zh) 无需地图和定位的自动驾驶车辆的拐角协商方法
JP7091915B2 (ja) 車線維持制御方法及び車線維持制御装置
US20240174233A1 (en) Vehicle control device, vehicle control method, and non-transitory storage medium storing a vehicle control program
JP2023094930A (ja) 挙動予測方法及び挙動予測装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210301

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220324

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220614

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220627

R151 Written notification of patent or utility model registration

Ref document number: 7107061

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151