JP7198742B2 - 自動運転車両、画像表示方法およびプログラム - Google Patents
自動運転車両、画像表示方法およびプログラム Download PDFInfo
- Publication number
- JP7198742B2 JP7198742B2 JP2019239784A JP2019239784A JP7198742B2 JP 7198742 B2 JP7198742 B2 JP 7198742B2 JP 2019239784 A JP2019239784 A JP 2019239784A JP 2019239784 A JP2019239784 A JP 2019239784A JP 7198742 B2 JP7198742 B2 JP 7198742B2
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- occupant
- emotion
- display
- map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Instructional Devices (AREA)
- Navigation (AREA)
Description
自動運転に係る国際基準では、ドライバ要求タスクの軽重・有無、自動化度の高低に応じて、複数段階にわたるレベルが階層的に設定されている。また、あるレベルのなかでも、自動化を実現するための一群の要件を横並びで実現可能との観点を用いて、複数段階にわたる区分(カテゴリ)が階層的に設定されている。
例えば、レベル4(高度自動運転)やレベル5(完全自動運転)の自動運転では、ドライバが運転操作をオーバーライドする必要はない
例えば、特許文献1には、車両の表示装置に複数の異なる表示形態で車両の走行経路などを表示する自動運転車両が開示されている。
しかし、乗員が選択を行うことにより表示を切り替えており、状況によっては煩わしさがあった。
図1は、実施形態の自動運転車両Mの制御ブロック構成図である。
自動運転車両Mは、ガソリンエンジン等の内燃機関を動力源とした自動車、電動機を動力源とした電気自動車、内燃機関及び電動機を兼ね備えたハイブリッド自動車等を含み、二輪や三輪、四輪等の自動車である。
カメラ21は、複数のCMOSカメラやCCDカメラから成り、自動運転車両Mの進行方向画像を撮像する機能を有する。自動運転車両Mの進行方向前方・右後側方・左後側方の様子を周期的に繰り返し撮像したカメラ21の撮像画像は、後述する外界認識部11に通知される。
また、レーダ22は、例えば、自動運転車両Mのフロント側に3つ、リア側に2つの都合5つ設けられている。レーダ22による物標の分布情報は、外界認識部11に通知される。
また、通信装置4は、スマートエントリーキーのシステムにおける通信部である。
アクセルペダル、ブレーキペダルおよびステアリングホイール等の運転操作の操作量を検出するセンサをHMI5としてもよい。
実施形態の自動運転車両Mでは、HMI5は、インフォメーションパネル51、車内マイク52、ドライバーモニタカメラ53を含むものとして説明する。
図2により、インフォメーションパネル51の構成を説明する。
図2に示すように、自動運転車両MのHMI5は、運転席に正対する位置に設けられるメータパネル54と、運転席及び助手席にわたって対向するように設けられる、車幅方向(Y方向)に横長のインフォメーションパネル51と、車幅方向の運転席側に設けられた右側パネル55Rと、車幅方向の助手席側に設けられた左側パネル55Lと、を含む。
インフォメーションパネル51には、例えば、自動運転車両M周辺の地図情報、地図上における自動運転車両Mの現在位置情報、自動運転車両Mの現在の走行路・予定経路に関する交通情報(信号情報を含む)、自動運転車両Mの周囲に存する交通参加者(歩行者・自転車・オートバイ・他車両等を含む)に関する交通参加者情報、交通参加者に向けて発するメッセージ等の各種情報等が表示される。
左側パネル55Lには、自動運転車両Mの左側に設けたカメラ21により撮像した車両左側における後方及び下方の画像情報が表示される。
ドライバーモニタカメラ53は、CCDやCMOS等の固体撮像素子を利用したデジタルカメラであり、インフォメーションパネル51、バックミラーやステアリングボス部(いずれも不図示)に設けられ、少なくとも運転席に着座しているドライバを撮像する。
車内マイク52で集音した音声情報およびドライバーモニタカメラ53で撮像した画像情報あるいは映像情報は、HMI制御部10に通知される。
車両センサ9は、運転席に乗員が着座しているか否を検出するセンサである着座センサ(不図示)、ドライバがハンドルを把持しているか否を検出するセンサであるハンドル把持センサ(不図示)、自動運転車両Mの乗員が車両ドアのドアノブを握った(ドアハンドルに触れた)ことを検知するセンサであるドアノブセンサ(不図示)等から成る。
車両制御装置1は、一以上のプロセッサ又は同等の機能を有するハードウェアにより構成され、CPU(Central Processing Unit)などのプロセッサ、記憶装置、及び通信インターフェースが内部バスによって接続されたECU(Electronic Control Unit)、又はMPU(Micro-Processing Unit)などが組み合わされ構成されている。
車両制御装置1は、CPUのプログラムが実行されることで機能している。
自動運転制御部15は、記憶部13の行動計画情報132に基づいて自動運転車両Mの走行軌道を求め、この走行軌道を自動運転車両Mが走行するように、走行制御部16を制御する。
例えば、運転支援制御部14は、レベル2の自動運転中(運転支援)中にハンドル把持センサ(不図示)を監視して、所定時間、ドライバがハンドルから手を放していることを検知すると、警告あるいは自動運転を解除する。
実施形態では、インフォメーションパネル51に地図表示して、車両制御装置1と自動運転車両Mの乗員との間のコミュニケーションを行う場合について説明する。
HMI制御部10は、車両内の乗員の感情度を推定する乗員感情推定部101と、車両の運転意図を認識する運転意図認識部102と、乗員感情推定部101で推定した乗員の感情度と、運転意図認識部102で認識した運転意図に応じて、表示の情報量が可変された地図画像をインフォメーションパネル51に出力する表示制御部103と、を備えている。
ここで、乗員の感情度は、乗員の感情を量的に示し、感情の高揚・気分の興奮・ポジティブと、気分の冷静・消沈・ネガティブとの間の度合い(尺度)を示す正負の値を意味する(正値が高揚を意味する)。
インフォメーションパネル51に表示する地図画像には、その情報量のパラメータとして、細かい道の表示、立体表示、交通不参加物標の表示等の地図の詳細度と、店舗、道の詳細情報(道幅、車線数)等の付加情報量とがある。
また、図10Aの“Simple Map”表示は、地図の詳細度が低く、かつ、付加情報量が低い表示形式の地図となる。
そして、カメラ21(図1参照)による周囲画像を表示している図8Aの“Camera View”表示は、地図の詳細度と付加情報量とが中庸の表示形式の地図となる。
インフォメーションパネル51は、地図の詳細度と付加情報量に応じた表示形式の地図画像を表示する。
また、HMI制御部10は、運転意図認識部102で認識した移動目的等を“運転意図の明確性”として地図の詳細度に対応づけて、運転の意図の明確性が大きい場合には、明確性に応じて地図の詳細度を大きくする。
そして、HMI制御部10は、表示制御部103において“乗員の感情度”と“運転意図の明確性”とに対応する付加情報量と詳細度とを有する表示形式の地図画像をインフォメーションパネル51に出力する。
図5は、HMI制御部10の処理概要を示すフロー図である。
ステップS52で、乗員感情推定部101は、ステップS51に検出した乗員の感情度に対応する地図の付加情報量を求める。
ステップS54で、運転意図認識部102は、ステップS53で認識した“運転意図の明確性”に対応する地図の詳細度を求める。
ステップS61で、乗員感情推定部101は、ドライバーモニタカメラ53で、車両内の乗員を撮像する。
ステップS63で、乗員感情推定部101は、顔画像を教師あり機械学習モデルにより、怒り・嫌悪・恐れ・幸福・悲しみ・驚きといった感情を分析する。
そして、ステップS64で、分析した感情つまり顔表情が幸福の感情と分析した値を感情度として推定する。
ステップS62で、乗員感情推定部101は、ステップS61における乗員の撮像画像から乗員の動作(体動)を抽出する。
ステップS63で、乗員感情推定部101は、動作の機敏さ(変化量)を分析する。
そして、ステップS64で、分析した動作の機敏さの大小を感情度として推定する。
ステップS67で、表示制御部103は、感情度の閾値との差分に応じて、地図の付加情報量のレベルを減少し、ステップS68に進む。
ステップS68で、表示制御部103は、地図の付加情報量のレベルに基づいて、地図の表示形式を決定し、地図画像を生成する。
ステップS72で、乗員感情推定部101は、取得した車両内の音声から、乗員(ドライバ)の音声を抽出する。
この音声の感情分析は、取得した乗員の音声の音声波形を音響分析してテキスト列に認識デコードし、このテキスト列を形態素解析して単語(形態素)を抽出する。そして、単語ごとに感情辞書を参照して、テキスト列の感情値を算出して行う。
認識デコードしたテキスト列に含まれる所定のキーワードの数を感情値としてもよいし、また、認識デコードしたテキスト列に含まれる文の数を発話数とし、感情値としてもよい。
さらに、音声の抑揚の大小、音声の音域を、感情値としてもよい。
図8Aは、カメラ21(図1参照)により撮像した車両周囲の画像をインフォメーションパネル51に表示した場合を示しており(“Camera View”表示)、付加情報量が中庸の表示形式の表示例である。
レコメンド情報51a、51bは、目的地の有名な店舗の関連情報である。また、乗員の音声から感情度を求めた際に検出した料理の店舗の関連情報である。
レコメンド情報51c、51d、51e、51fは、店舗の認知度に応じた面積をもつ円形表示となっている。
ステップS91で、運転意図認識部102は、ナビゲーション装置3に目的地が入力されているか否かを判定し、目的地が入力されていれば(S91のYes)、ステップS92に進み、目的地が入力されていなければ(S91のNo)、ステップS93に進む。
ステップS92で、運転意図認識部102は、運転意図の明確性を所定値1に設定し、ステップS98に進む。
ステップS94で、運転意図認識部102は、運転意図の明確性を所定値2に設定し、ステップS98に進む。
ステップS96で、運転意図認識部102は、運転意図の明確性を所定値3に設定し、ステップS98に進む。
運転意図の明確性の所定値4は、ステップS95でナビ操作されていない場合の地図の詳細度を示すレベルとなるが、ドライバがナビゲーション装置3の地図表示を要求していない状態であり、地図の詳細度は低い。
つまり、所定値4・所定値3・所定値2・所定値1の順に地図の詳細度を増加し、所定値1の場合に地図の詳細度が最大となるようにする。
図10Aは、地図の詳細度が低く、かつ、付加情報量が低い、“Simple Map”の表示形式の地図の地図画像である。
図10Bは、図10Aの地図画像より、運転意図の明確性が高く、交通不参加物標として信号機51g、51hが追加されて地図の詳細度が向上した地図画像である。
図10Cは、図10Aの地図画像より、運転意図の明確性が高く、交通不参加物標として樹木51j、51kが追加されて地図の詳細度が向上した地図画像である。
図11に示すように、仮想視点における画角を固定した場合には、仮想視点P1より高い位置にある仮想視点P2の表示範囲A2は、仮想視点P1の表示範囲A1より広くなり、インフォメーションパネル51に表示される地図の情報量は、仮想視点P1よりも仮想視点P2のほうが多くなる。
ステップS121で、表示制御部103は、感情度が所定値以上であるか否かを判定し、所定値以上の場合には(S121のYes)、ステップS123に進み、所定値以上でない場合には(S121のNo)、ステップS122に進む。
ステップS124で、表示制御部103は、仮想視点位置をステップS123で求めた増分量に応じて高くし、ステップS126に進む。
ステップS126で、ステップS124あるいはステップS125で設定した仮想視点位置に基づいて、俯瞰した地図画像を生成する。
1 車両制御装置
2 外界センサ
21 カメラ
22 レーダ
23 ライダ
3 ナビゲーション装置
4 通信装置
5 HMI
51 インフォメーションパネル(表示部)
52 車内マイク
53 ドライバーモニタカメラ
54 メータパネル
55R 右側パネル
55L 左側パネル
6 走行駆動装置
7 ブレーキ装置
8 ステアリング装置
9 車両センサ
10 HMI制御部
101 乗員感情推定部
102 運転意図認識部
103 表示制御部
11 外界認識部
12 自車位置認識部
13 記憶部
131 高精度地図情報
132 行動計画情報
14 運転支援制御部
15 自動運転制御部
16 走行制御部
Claims (9)
- 車両の周辺状況を示す画像を表示する表示部と、
前記車両内の乗員の乗員感情を推定する乗員感情推定部と、
前記車両の運転意図を認識する運転意図認識部と、
前記乗員感情および前記運転意図に応じて情報量を可変した周辺状況を示す前記画像を、前記表示部に出力する表示制御部と、
を備えることを特徴とする自動運転車両。 - 前記表示部は、地図画像を表示し、
前記乗員感情推定部は、ドライバーモニタカメラで撮像した乗員の表情もしくは乗員の体の動きより、前記乗員感情を量的に示す乗員感情度を推定し、
前記表示制御部は、前記乗員感情度が所定値より高い場合に、付加情報量を増加した地図画像を前記表示部に出力する
ことを特徴とする請求項1に記載の自動運転車両。 - 前記表示部は、地図画像を表示し、
前記乗員感情推定部は、集音機により乗員の音声を取得し、前記音声の音域もしくは発話数により、前記乗員感情を量的に示す乗員感情度を推定し、
前記表示制御部は、前記音声の音域もしくは発話数により推定された前記乗員感情度が所定値より高い場合に、付加情報量を増加した地図画像を前記表示部に出力する
ことを特徴とする請求項1に記載の自動運転車両。 - 前記表示部は、地図画像を表示し、
前記運転意図認識部は、ナビゲーション装置に設定された目的地あるいは目的に応じて、運転意図を認識し、
前記表示制御部は、前記運転意図の明確性に応じて、地図の詳細度を増加した地図画像を前記表示部に出力する
ことを特徴とする請求項1に記載の自動運転車両。 - 前記地図画像は、所定の仮想視点から見た車両の周辺状況の所定範囲の地図画像を含み、
前記表示制御部は、付加情報量の増加あるいは地図の詳細度の増加に応じて、前記仮想視点の位置を高くした地図画像を出力する
ことを特徴とする請求項2から4のいずれかに記載の自動運転車両。 - 記地図画像は、周辺状況における交通参加者、道路状況および交通物標の画像を含み、
前記表示制御部は、前記地図の詳細度が大きくなるにつれて前記交通物標の画像を出力し、さらに交通参加者の画像を出力する
ことを特徴とする請求項4に記載の自動運転車両。 - 前記運転意図認識部が、ナビゲーション装置に目的地が設定されたことを認識した場合に、
前記表示制御部は、前記目的地までの距離を計算し、前記距離の減少に応じて前記地図の表示範囲を狭め、地図の情報量を低下した地図画像を出力する
ことを特徴とする請求項4に記載の自動運転車両。 - 車両の周辺状況を示す画像を表示するプログラムであって、
車両のコンピュータを
前記車両内の乗員の乗員感情を推定する乗員感情推定部と、
前記車両の運転意図を認識する運転意図認識部と、
前記乗員感情および前記運転意図に応じて情報量を可変した周辺状況を示す前記画像を、表示部に出力する表示制御部と、
として機能させるプログラム。 - 車両制御装置における車両の周辺状況を示す画像を表示する画像表示方法であって、
車両制御装置が、乗員感情推定部により前記車両内の乗員の乗員感情を推定し、
車両制御装置が、運転意図認識部により前記車両の運転意図を認識し、
車両制御装置が、表示制御部により前記乗員感情および前記運転意図に応じて情報量を可変した周辺状況を示す前記画像を、表示部に出力する
画像表示方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019239784A JP7198742B2 (ja) | 2019-12-27 | 2019-12-27 | 自動運転車両、画像表示方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019239784A JP7198742B2 (ja) | 2019-12-27 | 2019-12-27 | 自動運転車両、画像表示方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021107801A JP2021107801A (ja) | 2021-07-29 |
JP7198742B2 true JP7198742B2 (ja) | 2023-01-04 |
Family
ID=76967863
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019239784A Active JP7198742B2 (ja) | 2019-12-27 | 2019-12-27 | 自動運転車両、画像表示方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7198742B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7244605B2 (ja) | 2020-11-02 | 2023-03-22 | キストラー ホールディング アクチエンゲゼルシャフト | 加速度変換器 |
JP7244604B2 (ja) | 2020-11-02 | 2023-03-22 | キストラー ホールディング アクチエンゲゼルシャフト | 加速度変換器 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006350934A (ja) | 2005-06-20 | 2006-12-28 | Denso Corp | 情報表示装置 |
JP2010191520A (ja) | 2009-02-16 | 2010-09-02 | Toyota Motor Corp | 車両用周辺監視装置 |
-
2019
- 2019-12-27 JP JP2019239784A patent/JP7198742B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006350934A (ja) | 2005-06-20 | 2006-12-28 | Denso Corp | 情報表示装置 |
JP2010191520A (ja) | 2009-02-16 | 2010-09-02 | Toyota Motor Corp | 車両用周辺監視装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7244605B2 (ja) | 2020-11-02 | 2023-03-22 | キストラー ホールディング アクチエンゲゼルシャフト | 加速度変換器 |
JP7244604B2 (ja) | 2020-11-02 | 2023-03-22 | キストラー ホールディング アクチエンゲゼルシャフト | 加速度変換器 |
Also Published As
Publication number | Publication date |
---|---|
JP2021107801A (ja) | 2021-07-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10101743B2 (en) | Vehicle control system, vehicle control method and vehicle control program | |
CN111361552B (zh) | 自动驾驶系统 | |
JP6368957B2 (ja) | 車両制御システム、車両制御方法、および車両制御プログラム | |
JP6344695B2 (ja) | 車両制御装置、車両制御方法、および車両制御プログラム | |
JP6369488B2 (ja) | 車両制御装置 | |
JP6540983B2 (ja) | 車両制御システム、車両制御方法、および車両制御プログラム | |
JP6683803B2 (ja) | 車両制御システム、車両制御方法、および車両制御プログラム | |
WO2017158768A1 (ja) | 車両制御システム、車両制御方法、および車両制御プログラム | |
CN107463122A (zh) | 车辆控制系统、车辆控制方法以及车辆控制程序产品 | |
JP2017191562A (ja) | 車両制御システム、車両制御方法、および車両制御プログラム | |
US20070043491A1 (en) | Driver assistance system | |
JP2017218020A (ja) | 車両制御装置、車両制御方法、および車両制御プログラム | |
JP2017197011A (ja) | 車両制御システム、車両制御方法、および車両制御プログラム | |
JP2019182305A (ja) | 車両制御装置、車両制御方法、およびプログラム | |
JP6485915B2 (ja) | 道路区画線認識装置、車両制御装置、道路区画線認識方法、および道路区画線認識プログラム | |
JP6877571B2 (ja) | 表示システム、表示方法、およびプログラム | |
JP2017199317A (ja) | 車両制御システム、車両制御方法、および車両制御プログラム | |
JP2019079363A (ja) | 車両制御装置 | |
JP7198742B2 (ja) | 自動運転車両、画像表示方法およびプログラム | |
US20230294677A1 (en) | Driving assistance device, vehicle control system, and driving assistance method | |
JP6375538B2 (ja) | 車両制御システム、車両制御方法、および車両制御プログラム | |
US20230294674A1 (en) | Driving assistance device, driving assistance method, and storage medium | |
US20220258742A1 (en) | Yaw rate estimating device | |
US20230415652A1 (en) | Camera module, information processing system, information processing method, and information processing apparatus | |
JP7290679B2 (ja) | ヨーレート推定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210329 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220524 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220722 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221122 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221219 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7198742 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |