JP2021117704A - 表示装置、及び表示方法 - Google Patents

Abstract

【課題】障害物と移動体の相対移動に応じた事故リスクを移動体の運転者に認識させる表示装置及び表示方法を提供する。【解決手段】表示装置は、移動体の移動速度及び移動方向と障害物の移動速度及び移動方向とに基づいて、移動体に対する障害物の相対移動速度及び相対移動方向を算出する算出部２５と、算出部により算出された相対移動速度及び相対移動方向に基づき、移動体に対する障害物の相対移動速度及び相対移動方向を示す提示画像を生成する画像生成部２７と、移動体に備えられ、画像生成部により生成された提示画像を表示する表示部と、を備える。【選択図】図８

Description

本発明は、表示装置、及び表示方法に関する。

従来、道路上に存在する歩行者や他車両等の様々な障害物を指し示す指示画像の虚像を車両等の移動体の前景に重畳表示することで、移動体の運転者に障害物を分かりやすく認識させるヘッドアップディスプレイ等の表示装置が知られている。

また、障害物の将来の移動先を運転者に認識させるために、検出された障害物の移動速度に基づき、障害物の現在地から将来の移動先に向けて、地面に沿って広がる波紋画像を提示する構成が開示されている（例えば、特許文献１参照）。

しかしながら、特許文献１の技術では、障害物と移動体の相対移動に応じた事故リスクを移動体の運転者に認識させられない場合がある。

本発明は、障害物と移動体の相対移動に応じた事故リスクを移動体の運転者に認識させることを課題とする。

本発明の一態様に係る表示装置は、移動体の移動速度及び移動方向と障害物の移動速度及び移動方向とに基づいて、前記移動体に対する前記障害物の相対移動速度及び相対移動方向を算出する算出部と、前記算出部により算出された前記相対移動速度及び前記相対移動方向に基づき、前記移動体に対する前記障害物の前記相対移動速度及び前記相対移動方向を示す提示画像を生成する画像生成部と、前記移動体に備えられ、前記画像生成部により生成された前記提示画像を表示する表示部と、を備える。

本発明によれば、障害物と移動体の相対移動に応じた事故リスクを移動体の運転者に認識させることができる。

実施形態に係る表示装置が車両に搭載された構成例を示す図である。 表示部の構成例を示す図である。 表示装置が車両に搭載された車載システムの構成例を示すブロック図である。 検出装置の構成例を示すブロック図である。 認識装置の機能構成例を示すブロック図である。 車両又は車両の表示部品に対する障害物の相対位置例を示す図である。 実施形態に係る制御部のハードウェア構成例のブロック図である。 実施形態に係る制御部の機能構成例のブロック図である。 実施形態に係る制御部による処理例を示すフローチャートである。 障害物が歩行者である場合の提示画像例を示す図であり、（ａ）は歩行者が静止している場合、（ｂ）は歩行者が自車両から遠ざかる方向に移動している場合、（ｃ）は歩行者が道路を横断している場合である。 障害物が先行車両である場合の提示画像例を示す図であり、（ａ）は先行車両と自車両が同じ速度で移動している場合、（ｂ）は先行車両より速い速度で自車両が移動している場合である。 運転者が視認する自車両の前景の一例を示す図である。 提示画像の変形例を示す図であり、（ａ）は相対移動方向を矢印で提示した提示画像例、（ｂ）は図形の歪みで相対移動方向を提示した提示画像例である。

以下、図面を参照して発明を実施するための形態について説明する。なお、各図面において、同一構成の部分には同一符号を付し、重複した説明を省略する場合がある。

実施形態に係る表示装置は、移動体に対する障害物の相対移動速度及び相対移動方向を取得し、この相対移動速度及び相対移動方向を示す提示画像を、移動体に備えられた表示部により移動体の前景に重畳表示することで、障害物と移動体の相対移動に応じた事故リスクを移動体の運転者に認識させる。

＜実施形態における用語について＞
（移動体）
車両等の移動する乗り物をいう。

（障害物）
移動体の周囲にあり、移動体の移動に対して障害となる物体をいう。具体的には、移動体としての車両の前方を走行する先行車両や車両の周囲の歩行者等の物体が挙げられる。

（前景）
移動体の運転者が視認する移動体の前方の風景をいう。例えば、車両のフロントウインドシールドを通じて運転者が視認する車両前方の風景である。

（運転者）
移動体を運転又は操縦する者のことをいう。

（提示画像）
移動体の前景における障害物を指し示し、また移動体に対する障害物の相対移動ベクトルを提示する画像をいう。移動体の前景に視認される障害物の近傍に提示画像の虚像を重畳表示することで、障害物を指示する。運転者は、移動体の前景で提示画像の虚像を視認することで、障害物と、移動体に対する障害物の相対移動ベクトルとを認識しやすくなる。この提示画像は、「相対移動速度及び相対移動方向に基づき表示する画像」の一例である。

（ベクトル）
ベクトルとは方向と大きさを持つ量をいう。上記の相対移動ベクトルは相対移動のベクトルであり、相対移動速度と相対移動方向を示す量である。

以下、車両に搭載されるヘッドアップディスプレイ（ＨＵＤ；Head Up Display）を表示装置の一例として、実施形態を説明する。

＜構成例＞
図１は、実施形態に係る表示装置１が自車両８に搭載された構成の一例を示す図である。

表示装置１は自車両８に設けられたダッシュボードの内部に埋め込まれており、表示装置１の上面に設けられた射出窓３からフロントウインドシールド７１に向けて画像を投射する。投射された画像はフロントウインドシールド７１よりも正のＹ方向に虚像Ｉとして表示され、自車両８の運転者Ｖにより視認される。運転者Ｖは、虚像Ｉを視認することで、自車両８の正のＹ方向にある他の車両や路面等に視線を保ったまま、少ない視線移動で運転のために有用な情報を取得できる。

なお、表示装置１はフロントウインドシールド７１に画像を投射できればよく、ダッシュボードの他、天井やサンバイザなどに設置されていてもよい。

図１に示すように、表示装置１は、主要な構成要素として、表示部１０と、制御部２０とを備えている。表示部１０は、フロントウインドシールド７１に向けて画像を投射する。表示部１０による画像の投射方式としては、レーザ走査方式及びパネル方式が知られている。レーザ走査方式は、レーザ光源から射出されたレーザビームを２次元走査デバイスで走査し中間像（後述するスクリーンに投射される実像）を形成する方式である。パネル方式は、液晶パネル、ＤＭＤ（Digital Micro-mirror Device）パネル、蛍光表示管（ＶＦＤ；Vacuum Fluorescent Display）等のイメージングデバイスで中間像を形成する方式である。

レーザ走査方式は、全画面を発光して部分的に遮光することで画像を形成するパネル方式とは違い、各画素に対して発光／非発光を割り当てることができるため、一般に高コントラストの画像を形成できる点で好適である。高コントラストであることで視認性が向上するため、パネル方式のＨＵＤよりも少ない注意資源で車両の乗員が情報を視認できることが明らかになっている。

特に、パネル方式では情報がない領域でも遮光しきれない光が投射され、ＨＵＤが画像を表示できる範囲に表示枠が投射されてしまう（この現象をポストカードという）。レーザ走査方式ではこのような現象がなく、コンテンツのみを投影できる。特に、ＡＲ（Augmented Reality）において、実在する風景に生成した画像を重ねて表示する際のリアリティが向上する。

なお、ＡＲとは、「拡張現実」と訳され、実在する風景に実在しないオブジェクトの画像を重ねて表示することで、目の前にある世界を仮想的に拡張する技術をいう。但し、パネル方式のＨＵＤであってもより少ない注意資源で視認できる（疲れにくい）態様で情報を表示できるＨＵＤであればよい。

図２は、表示部１０の構成の一例を示す図である。表示部１０は、主に、光源部１０１と、光偏向器１０２と、ミラー１０３と、スクリーン１０４と、凹面ミラー１０５とを備えている。なお、図２は主要な構成要素を示したに過ぎず、図示する以外の構成要素を備えてもよいし、図示する構成要素の一部を備えていなくてもよい。

光源部１０１は、Ｒｅｄ（Ｒ）、Ｇｒｅｅｎ（Ｇ）及びＢｌｕｅ（Ｂ）に対応した３つのレーザ光源（以下、ＬＤ：レーザダイオードとする）、カップリングレンズ、アパーチャ、合成素子及びレンズ等を備えており、３つのＬＤから出射されたレーザビームを合成して光偏向器１０２の反射面に向かって導く。光偏向器１０２の反射面に導かれたレーザビームは、光偏向器１０２により２次元的に偏向される。

光偏向器１０２としては、直交する２軸に対して揺動する１つの微小なミラーや、１軸に揺動又は回動する２つの微小なミラー等を用いることができる。光偏向器１０２は、半導体プロセス等で作製されたＭＥＭＳ（Micro Electro Mechanical Systems）ミラーとすることができる。光偏向器１０２は、圧電素子の変形力を駆動力とするアクチュエータにより駆動できる。但し、光偏向器１０２として、ガルバノミラーやポリゴンミラー等を用いてもよい。

光偏向器１０２により２次元的に偏向されたレーザビームはミラー１０３に入射し、ミラー１０３により折り返され、スクリーン１０４の表面（被走査面）上に２次元の画像（中間像）を描画する。ミラー１０３としては、凹面鏡等を用いることができるが、凸面鏡や平面鏡を用いてもよい。光偏向器１０２とミラー１０３でレーザビームの方向を偏向することで、表示部１０の小型化又は構成要素の配置を柔軟に変更できる。

スクリーン１０４としては、レーザビームを所望の発散角で発散させる機能を有するマイクロレンズアレイやマイクロミラーアレイを用いると好適であるが、レーザビームを拡散させる拡散板、表面が平滑な透過板や反射板等を用いてもよい。一般に光源部１０１からスクリーン１０４まではＨＵＤ装置と呼ばれる。但し、この他の部品を含んでもよい。

スクリーン１０４から射出されたレーザビームは、凹面ミラー１０５で反射され、フロントウインドシールド７１に投影される。凹面ミラー１０５はレンズと似た働きを備え、所定の焦点距離に像を結像させる機能を備える。このため、凹面ミラー１０５がレンズであるとすると物体に相当するスクリーン１０４上の像は凹面ミラー１０５の焦点距離によって定まる距離Ｒ_２の位置に結像する。従って、自車両８の運転者Ｖ等の乗員から見た場合、フロントウインドシールド７１から距離Ｒ_１＋Ｒ_２の位置に虚像Ｉが表示される。自車両８の運転者Ｖからフロントウインドシールド７１までの距離をＲ_３とすると、図２では自車両８の運転者Ｖの視点Ｅから距離Ｒ（＝Ｒ_１＋Ｒ_２＋Ｒ_３）の位置に虚像Ｉが表示される（結像する）。

フロントウインドシールド７１への光束の少なくとも一部は自車両８の運転者Ｖの視点Ｅに向けて反射される。この結果、自車両８の運転者Ｖはフロントウインドシールド７１を介してスクリーン１０４の中間像が拡大された虚像Ｉを視認可能となる。換言すると、自車両８の運転者Ｖから見て、フロントウインドシールド７１越しに中間像が拡大表示された虚像Ｉが表示される。

なお、一般にフロントウインドシールド７１は平面ではなく僅かに湾曲している。このため、凹面ミラー１０５の焦点距離だけでなくフロントウインドシールド７１の曲面によっても虚像Ｉの結像位置が決定されるが、距離Ｒは上述したようにほぼ距離Ｒ_１＋Ｒ_２によって定まる。視線移動が少なくて済むように虚像Ｉを遠方に結像させるには、距離Ｒ_１又はＲ_２を長くする。距離Ｒ_１を長くする方法としてはミラーで光路を折り返す方法があり、距離Ｒ２を長くする方法としては凹面ミラー１０５の焦点距離を調整する方法がある。

なお、フロントウインドシールド７１の影響で中間像の水平線が上又は下に凸形状となる光学歪みが生じるため、ミラー１０３及び凹面ミラー１０５の少なくとも一方は、歪みを補正するように設計、配置されることが好ましい。あるいは、投影される映像が歪みを考慮して補正されることが好ましい。

また、フロントウインドシールド７１よりも視点Ｅ側に透過反射部材としてコンバイナを配置してもよい。コンバイナに凹面ミラー１０５からの光を照射するようにしても、フロントウインドシールド７１に凹面ミラー１０５からの光を照射した場合と同様に、虚像Ｉとして情報を提示することができる。

＜表示装置１が搭載される車載システム２の構成例＞
次に、表示装置１が自車両８に搭載された車載システム２を、図３を参照して説明する。図３は、表示装置１が自車両８に搭載された車載システム２の構成の一例を示すブロック図である。

車載システム２はＣＡＮ（Controller Area Network）バス等の車載ネットワークＮＷを介して通信するカーナビゲーションシステム１１と、エンジンＥＣＵ（Electronic Control Unit）１２と、表示装置１と、ブレーキＥＣＵ１３と、ステアリングＥＣＵ１４と、認識装置１５と、検出装置１６とを備えている。

カーナビゲーションシステム１１は、ＧＰＳ（Global Positioning System）に代表されるＧＮＳＳ（Global Navigation Satellite System）を備え、自車両８の現在地を検出して電子地図上に自車両８の位置を表示する。

また、出発地と目的地の入力を受け付け、出発地から目的地までの経路を検索して電子地図上に経路を表示したり、進路変更の手前で自車両８の乗員に進行方向を音声、文字（ディスプレイに表示される）、又はアニメーション等で案内したりする。なお、カーナビゲーションシステム１１は携帯電話網などを介してサーバと通信してもよい。この場合、サーバが電子地図を自車両８に送信したり経路検索を行ったりすることができる。

エンジンＥＣＵ１２は、各センサからの情報と自車両８の状況に合わせ、理想となる燃料噴射量の決定、点火時期の進角・遅角、動弁機構等の制御を行う。また、現在車速とアクセル開度の関係に対し変速段の切り替え線が定められたマップを参照する等して変速の必要性を判断する。エンジンＥＣＵ１２はこれらを組み合わせ先行車への追従走行時の加速や減速制御を行う。なお、エンジンと共に又はエンジンを動力とすることなく電気モータを動力としてもよい。

ブレーキＥＣＵ１３は、ＡＢＳ（Antilock Braking System）制御、先行車への追従走行時の制動制御、障害物とのＴＴＣ（Time To Collision）に基づく自動制動、坂道発進時の停止状態維持制御等、自車両８の運転者Ｖによるブレーキペダルの操作がなくても自車両８の車輪毎に制動力を制御する。

ステアリングＥＣＵ１４は、自車両８の運転者Ｖによるハンドルの操舵の方向と操舵量を検出し、操舵方向に操舵トルクを付加するパワーステアリング制御を行う。また、走行レーンからの逸脱を回避する方向、走行レーンの中央の走行を維持する方向、又は障害物との接近を回避する方向に、自車両８の運転者Ｖによるハンドル操作がなくても操舵する。ここで、ステアリングＥＣＵ１４が検出する操舵の方向は、「移動体の操舵角」の一例である。

検出装置１６は各種のセンサを備えており、自車両８の周囲の障害物の検出や、運転者Ｖによる自車両８の操作情報の検出等を行う。

認識装置１５は検出装置１６が検出した障害物が何か、自車両８に対する障害物の相対位置（方向と距離）及び自車両８を示す表示部品に対する障害物の相対位置（方向と距離）を認識する。車速等の情報、及び障害物の識別結果と相対位置は表示装置１に入力される。

＜検出装置１６の構成例＞
次に、検出装置１６の構成を、図４を参照して説明する。図４は、検出装置１６の構成の一例を示すブロック図である。検出装置１６は、表示装置１が表示する車速を検出する車速センサ１６１、表示装置１が表示する車両情報を取得する車両情報センサ１６２、障害物を検出するレーダセンサ１６３と周囲カメラ１６４、乗員に関する情報である乗員状態情報を取得する乗員状態情報センサ１６５、外部から渋滞情報などを受信するＶＩＣＳ受信装置１６６（登録商標。ＶＩＣＳ：Vehicle Information and Communication System Center）、及びインターネットなどに接続する外部通信装置１６７等を備えている。

なお、検出装置１６が備える各センサは検出装置１６にまとまって存在する必要はなく、車載されていればよい。

車速センサ１６１は、ドライブトレイン系のシャフトの回転と共に回転する磁石を、車体に固定されたセンサ部が検出し、回転速度に比例したパルス波を発生させる。単位時間のパルス数により車速を検出できる。ここで、車速は「移動体の移動速度」の一例である。

車両情報センサ１６２は、車速センサ１６１以外の車両情報を検出する１つ以上のセンサを備えている。例えば、燃料計センサ、シフトレバー位置センサ、オドメータ、トリップメータ、ウィンカセンサ、及び水温センサ等である。これらは一般的な構成で各車両情報を取得できればよい。燃料計センサは現在の残燃料を検出する。

シフトレバー位置センサは自車両８の運転者Ｖが操作したシフトレバー位置を検出する。オドメータは自車両８の走行距離を累積して総走行距離を提供する。トリップメータは自車両８の運転者Ｖが初期化してから現在までの区間走行距離を提供する。

ウィンカセンサは自車両８の運転者Ｖが操作したウィンカの方向を検出する。水温センサはエンジン冷却水の温度を検出する。これらは車両から取得できる情報の一例に過ぎず、この他、自車両８から取得できる情報は車両情報となりうる。例えば、電気自動車やハイブリッド車ではバッテリ残量、回生電力量、又は、消費電力量等も取得できる。

周囲カメラ１６４は車両の周囲を撮像する撮像装置である。取り付け場所は好ましくは車用の側方から後方を撮像できるように、複数の場所に設置される。例えば、自車両８のルーフやバンパにおいて車両の左後方コーナー、右後方コーナー、及び、後部などに設置される。後部に設置された撮像装置をバックモニタというが、後部の周囲カメラ１６４はバックモニタに限られない。この他、サイドミラー、ピラー、ルーフのサイド部分、又はドアなどに配置されてもよい。なお、周囲カメラ１６４には前方を撮像する撮像装置が含まれてよい。例えばルームミラーの裏側やその近くに取り付けられる。

周囲カメラ１６４は単眼カメラの場合とステレオカメラの場合がある。距離情報を取得できる単眼カメラ又はステレオカメラの場合、レーダセンサ１６３がなくてもよい。しかし、距離情報を取得できる周囲カメラ１６４に加え、レーダセンサ１６３があることで、周囲カメラ１６４の距離情報とレーダセンサ１６３の距離情報をフュージョンし（統合し），互いのデメリットを補完しあって高精度な距離情報を取得できる。なお、レーダセンサ１６３と周囲カメラ１６４の他にソニックセンサ（超音波センサ）等を有していてもよい。

レーダセンサ１６３は自車両８の前方、側方、後方など自車両８の周囲にレーダを送信し、物体で反射して戻ってくるレーダを受信する。配置場所は自車両８の周囲の障害物を検出できる場所であればよい。レーダセンサ１６３は送信から受信までの時間により物体までの距離を検出すると共に、レーダの照射方向により物体の方向を検出するＴＯＦ方式（Time Of Fright）がある。

ＴＯＦ方式のレーダセンサとしてＬＩＤＡＲ（Light Detection and Ranging、Laser Imaging Detection and Ranging）が知られている。また、連続的に送信波の周波数を大きくしながら受信波と送信波の混合波を生成し、周波数がわずかに異なることで生じる混合波のうなり周波数を距離に換算するＦＭＣＷ方式（Frequency Modulation Continuous Wave）がある。ＦＭＣＷ方式では複数の受信アンテナで受信波の位相ずれを検出することで物体の方向を推定する。

乗員状態情報センサ１６５は自車両８の乗員から直接又は間接的に検出される乗員状態情報を検出するセンサである。代表的なものに顔カメラがある。顔カメラは自車両８の乗員の顔を撮像して顔認証を行い、自車両８の乗員を特定又は識別する。また、顔画像から顔の向きや視線方向を検出することが可能になる。

この他、乗員状態情報センサ１６５は、例えば、心電センサ、心拍数センサ、血圧センサ、体温センサ、脈拍センサ、呼吸センサ、発汗センサ、瞬きセンサ、瞳孔センサ、脳波センサ、又は、筋電位センサ等でもよい。乗員状態情報センサ１６５としては例えば、腕時計型のウェアラブル端末（スマートウォッチ）を車両の乗員が装着する形態がある。

ＶＩＣＳ受信装置１６６はＶＩＣＳが配信する電波を受信する。なお、ＶＩＣＳは渋滞や交通規制等の道路交通情報を、ＦＭ多重放送やビーコンを使ってリアルタイムに車載装置に送信するシステムである。外部通信装置１６７は３Ｇ、４Ｇ、５Ｇ、ＬＴＥ及び無線ＬＡＮ等のネットワークを介してインターネット等に接続し各種の情報を受信する。例えば、雨、雪、霧などの天候情報を受信できる。

また、ニュース、音楽、動画等を受信してもよい。また、外部通信装置１６７は、例えば信号機の状態情報と信号が変わるまでの時間等を取得できる。このように、ＶＩＣＳ受信装置１６６と外部通信装置１６７は路車間通信を行う場合がある。この他、外部通信装置１６７は車間通信で他車両６が検出した情報を取得してもよい。

なお、先進運転システム(ADAS)では情報を表示して警告するだけでなく、自車両８の制御を行う場合もある。この場合、ＥＣＵはレーダセンサ１６３又は周囲カメラ１６４の少なくとも一方が検出する障害物の距離情報に基づいてエンジンＥＣＵ１２、ブレーキＥＣＵ１３及びステアリングＥＣＵ１４と連携して各種の運転支援を行う。例えば、先行車への追従走行時の加減速制御、自動制動、走行レーンからの逸脱回避、レーンキープ走行、及び、障害物の回避操舵等を行う。このような制御のために、周囲カメラ１６４が撮像した画像から、ＥＣＵが白線等の道路ペイント等を認識する。

追従走行時の加減速制御では、ＥＣＵは車速に応じた目標の距離を維持するように動力と制動力を制御する。自動制動では、ＴＴＣに応じて、警告、ブレーキペダルの押下を促す表示、及び衝突の可能性が高い場合におけるシートベルトの巻き上げと衝突回避制動等を行う。走行レーンからの逸脱回避では、運転支援ＥＣＵ３６は撮像された画像から白線（走行区分線）を認識し、走行レーンを逸脱する方向と反対方向に操舵トルクを付加する。

また、レーンキープ走行では走行レーンの中央を目標走行ラインに設定し、目標走行ラインからの乖離に比例した操舵トルクを乖離とは反対方向に付加する。障害物の回避操舵では、制動では衝突を回避できないと判断した場合に、障害物を回避するための走行ラインを決定し、この走行ラインを走行する操舵トルクを付加する。

また、例えば車線変更時にレーダセンサ１６３又は周囲カメラ１６４により、隣の車線のドアミラーに映らない領域（死角領域）を併走する車両を検知した場合に、乗員に警告する。このような支援をブラインドスポットモニタという。

＜認識装置１５の機能構成例＞
次に、認識装置１５の機能構成について図５を参照して説明する。図５は認識装置１５が有する機能構成の一例を示すブロック図である。認識装置１５は対象判断部１５１と相対位置決定部１５２を有する。

対象判断部１５１は主に周囲カメラ１６４が撮像して得た周囲画像データを解析して写っている障害物の分類を判断する。実施形態では、例えば、他車両、歩行者、二輪車、又はその他等を判断する。

なお、周囲カメラ１６４がステレオカメラの場合、周囲画像データの各画素又は画素ブロックには距離情報が含まれている。このような周囲画像データを距離画像という。また、対象判断部１５１は周囲画像データだけでなく、レーダ測距情報からも障害物を判断できる。例えば、ＬＩＤＡＲの点群の密度が十分に高い場合、障害物の形状が得られるので、形状を解析して障害物の分類を判断できる。

対象判断部１５１が対象を判断する方法の１つとして、機械学習を用いた画像認識方法がある。機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり，コンピュータが，データ識別等の判断に必要なアルゴリズムを，事前に取り込まれる学習データから自律的に生成し，新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習、深層学習のいずれかの方法でもよく、更に、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。なお、機械学習の手法には、パーセプトロン、ディープラーニング、サポートベクターマシン、ロジスティック回帰、ナイーブベイズ、決定木、ランダムフォレストなどがある。

相対位置決定部１５２は、図６に示すように、自車両８又は自車両８を示す表示部品６２に対する障害物の相対位置（方向と距離）を決定する。図６は、自車両８又は自車両８を示す表示部品６２に対する障害物の相対位置の一例を説明する図である。図６に示すように、自車両８を示す表示部品６２（虚像Ｉの中心）が、自車両８の中心から車幅方向にＱ、車長方向にＰの位置に表示されるものとする。

周囲画像データ又はレーダ測距情報により他車両６が自車両８の中心を原点に（Ａ，Ｂ）の座標であることが検出されたものとする。また、自車両８の中心から他車両６までの距離をＬ_１、その方向をθ_１で表す。なお、周囲画像データが距離画像の場合、（Ａ，Ｂ）を直接求められるが、レーダ測距情報の場合は距離と方向を（Ａ，Ｂ）に分解すればよい。相対位置決定部１５２は座標（Ａ，Ｂ）を、自車両８を示す表示部品６２を基準とする座標（Ｃ，Ｄ）に変換する。

自車両８を示す表示部品６２は虚像Ｉとして提示されるので自車両８の前方の決まった位置に存在する。上記のように車両の中心から自車両８を示す表示部品６２までの車幅方向の距離をＱ、車長方向の距離をＰとすると、座標（Ｃ，Ｄ）は以下のように決定される。
（Ｃ、Ｄ）＝（Ａ＋Ｑ,Ｂ＋Ｐ）
相対位置決定部１５２は車両に配置された各レーダセンサ又は周囲カメラ毎に同様の処理を行い、自車両８を示す表示部品６２に対する障害物の相対位置を決定する。相対位置を決定することで距離と方向も求められる。自車両８を示す表示部品６２から他車両６までの距離をＬ_２、その方向をθ_２で表す。図６の例では、距離Ｌ_２＝√（Ｃ^２＋Ｄ^２）、方向θ_２＝arctan（D/C）である。なお、方向θ_１、θ_２の基準（どの方向を0度とするか）は適宜設定されてよい。図６では９時の方向を０度としている。

認識装置１５は、対象判断部１５１が判断した障害物の分類を示す分類情報と、相対位置決定部１５２が取得した自車両８から障害物までの距離情報と、自車両８に対する障害物の相対位置を示す位置情報とを制御部２０に出力する。

＜制御部２０のハードウェア構成例＞
次に、制御部２０のハードウェア構成を、図７を参照して説明する。図７は、制御部２０のハードウェア構成の一例を示すブロック図である。図７に示すように、制御部２０は、ＦＰＧＡ（Field-Programmable Gate Array）２０１と、ＣＰＵ（Central Processing Unit）２０２と、ＲＯＭ（Read Only Memory）２０３と、ＲＡＭ（Random Access Memory）２０４と、Ｉ／Ｆ（Interface）２０５と、バスライン２０６と、ＬＤドライバ２０７と、ＭＥＭＳコントローラ２０８とを備えている。ＦＰＧＡ２０１、ＣＰＵ２０２、ＲＯＭ２０３、ＲＡＭ２０４、及びＩ／Ｆ２０５は、バスライン２０６を介して相互に接続されている。

ＣＰＵ２０２は、制御部２０の各機能を制御する。ＲＯＭ２０３は、ＣＰＵ２０２が、制御部２０の各機能を制御するために実行するプログラム２０３ｐを記憶している。ＲＡＭ２０４にはプログラム２０３ｐが展開され、ＣＰＵ２０２がプログラム２０３ｐを実行するためのワークエリアとして使用される。また、ＲＡＭ２０４は画像メモリ２０９を備えている。

画像メモリ２０９は虚像Ｉとして投影される画像の生成に使用される。Ｉ／Ｆ２０５は、認識装置１５や検出装置１６と通信するためのインターフェイスであり、車両９のＣＡＮ（Controller Area Network）バス又はイーサネット（登録商標）等に接続される。

ＦＰＧＡ２０１は、ＣＰＵ２０２が作成した画像に基づいてＬＤドライバ２０７を制御する。ＬＤドライバ２０７は表示部１０の光源部１０１のＬＤを駆動することで、画像に応じたＬＤの発光を制御する。ＦＰＧＡ２０１は、画像の画素位置に応じた方向にレーザビームが偏向されるようにＭＥＭＳコントローラ２０８を介して表示部１０の光偏向器１０２を動作させる。

＜制御部２０の機能構成例＞
次に、表示装置１の備える制御部２０の機能構成について、図８を参照して説明する。図８は、制御部２０の機能構成の一例を示すブロック図である。

図８に示すように、制御部２０は、障害物移動速度取得部２１と、障害物移動方向取得部２２と、車両移動速度取得部２３と、車両移動方向取得部２４と、算出部２５、画像生成部２７と、出力部２８とを備えている。これらのうち、障害物移動速度取得部２１、障害物移動方向取得部２２、車両移動速度取得部２３、車両移動方向取得部２４、算出部２５及び画像生成部２７の機能は図７のＣＰＵ２０２が所定のプログラムを実行すること等により実現され、出力部２８の機能は図７のＩ／Ｆ２０５等により実現される。

障害物移動速度取得部２１は、レーダセンサ１６３及び周囲カメラ１６４から入力した情報を統合することで、自車両８の移動方向にある障害物の相対位置を検出する。具体的には、障害物移動速度取得部２１は、周囲カメラ１６４の画像データに含まれる障害物を画像処理によって抽出する。そして、抽出した障害物の相対位置をレーダセンサ１６３の走査情報に基づいて算出する。障害物移動速度取得部２１は、相対位置の推移に基づいて、障害物の移動速度（車速）を演算により取得し、取得結果を算出部２５に出力する。

障害物移動方向取得部２２は、レーダセンサ１６３及び周囲カメラ１６４から入力した情報を統合することで、自車両８の移動方向にある障害物の相対位置を検出する。具体的には、障害物移動方向取得部２２は、周囲カメラ１６４の画像データに含まれる障害物を画像処理によって抽出する。そして、抽出した障害物の相対位置をレーダセンサ１６３の走査情報に基づいて算出する。障害物移動方向取得部２２は、相対位置の推移に基づいて、障害物の移動方向を演算により取得し、取得結果を算出部２５に出力する。

車両移動速度取得部２３は、車速センサ１６１から自車両８の移動速度情報を入力する。そして、これらの情報に基づき、自車両８の移動速度を演算により取得し、取得結果を算出部２５に出力する。

車両移動方向取得部２４は、ステアリングＥＣＵ１４から自車両８の操舵方向情報を入力する。そして、これらの情報に基づき、自車両８の移動方向を演算により取得し、取得結果を算出部２５に出力する。

算出部２５は、障害物の移動速度及び移動方向と、自車両８の移動速度及び移動方向とに基づいて、自車両８に対する障害物の相対移動速度及び相対移動方向を算出し、算出結果を画像生成部２７に出力する。

画像生成部２７は、相対移動速度及び相対移動方向の情報に基づいて、相対移動速度及び相対移動方向を示すための提示画像を生成する。なお、この提示画像については、図１０〜図１３を用いて別途詳述する。また画像生成部２７は、乗員状態情報センサ１６５から入力した運転者Ｖの視線位置情報に基づき、自車両８の前景における障害物と、表示部１０が表示する提示画像の虚像の位置が対応して運転者Ｖに視認されるように、位置を調整して提示画像を生成する。画像生成部２７は、出力部２８を介して提示画像のデータを表示部１０に出力する。

＜制御部２０による処理例＞
次に、制御部２０による処理の流れについて、図９を参照して説明する。図９は、制御部２０による処理の一例を示すフローチャートである。

まず、ステップＳ９１において、障害物移動速度取得部２１は、レーダセンサ１６３及び周囲カメラ１６４から入力した情報を統合することで、自車両８の移動方向にある障害物の相対位置を検出する。そして相対位置の推移に基づいて、障害物の移動速度を演算により取得し、取得結果を算出部２５に出力する。

続いて、ステップＳ９２において、障害物移動方向取得部２２は、レーダセンサ１６３及び周囲カメラ１６４から入力した情報を統合することで、自車両８の移動方向にある障害物の相対位置を検出する。そして相対位置の推移に基づいて、障害物の移動方向を演算により取得し、取得結果を算出部２５に出力する。

続いて、ステップＳ９３において、車両移動速度取得部２３は、自車両８の移動速度情報に基づき、自車両８の移動速度を演算で取得し、取得結果を算出部２５に出力する。

続いて、ステップＳ９４において、車両移動方向取得部２４は、ステアリングＥＣＵ１４から自車両８の操舵方向情報を入力する。そして、これらの情報に基づき、自車両８の移動方向を演算により取得し、取得結果を算出部２５に出力する。

なお、ステップＳ９１〜Ｓ９４の処理は、適宜順番を入れ替えて実行されてもよく、また両方が並行して実行されてもよい。

続いて、ステップＳ９５において、算出部２５は、障害物の移動速度及び移動方向と、自車両８の移動速度及び移動方向とに基づいて、自車両８に対する障害物の相対移動速度及び相対移動方向を算出し、算出結果を画像生成部２７に出力する。

続いて、ステップＳ９６において、画像生成部２７は、相対移動速度及び相対移動方向の情報に基づいて、相対移動速度及び相対移動方向を提示するための提示画像を生成する。また画像生成部２７は、乗員状態情報センサ１６５から入力した運転者Ｖの視線位置情報に基づき、自車両８の前景における障害物と、表示部１０が表示する提示画像の虚像の位置とが対応して運転者Ｖに視認されるように、位置を調整して提示画像を生成する。

続いて、ステップＳ９７において、出力部２８は、生成された提示画像のデータを表示部１０に出力する。

このようにして、制御部２０は、移動体に対する障害物の相対移動速度及び相対移動方向を示すための提示画像を生成し、表示部１０に出力することができる。

［第１実施形態］
＜提示画像例＞
次に、自車両８及び障害物との相対移動に応じた提示画像について、図１０〜図１２を参照して説明する。

まず、図１０は、障害物が歩行者１７２である場合の提示画像の一例を説明する図である。（ａ）は歩行者１７２が静止している場合の提示画像を説明する図、（ｂ）は歩行者１７２が速度４（ｋｍ／ｈ）で自車両８から遠ざかる方向に移動している場合の提示画像を説明する図、（ｃ）は歩行者１７２が速度４（ｋｍ／ｈ）で道路を横断している場合の提示画像を説明する図である。

図１０（ａ）では、歩行者１７２は静止し、移動していないため、提示画像１７３は歩行者１７２が移動していないことを示す真円画像になっている。また、歩行者１７２は静止していることで事故リスクは比較的低いため、提示画像１７３における円は、事故リスクが低いことを示す破線で形成されている。

また、図１０（ｂ）では、自車両８が速度１５（ｋｍ／ｈ）で移動し、歩行者１７２は自車両８から遠ざかる方向に速度４（ｋｍ／ｈ）で移動しているため、歩行者１７２は相対移動速度１１（ｋｍ／ｈ）で、相対移動ベクトル１１０が示す方向（自車両８の移動方向とは反対方向）に移動している。ここで、自車両８の移動方向を示す角度ｕは「移動体の操舵角」の一例である。

これに応じて、相対移動ベクトル１１０が示す方向に対応する部分が伸びるようにして、提示画像１７４における円の形状が歪んでいる。換言すると、相対移動ベクトル１１０の変化に応じて提示画像１７４の形状が変化している。但し、歩行者１７２は自車両８に向かって移動しておらず、事故リスクは比較的低いため、提示画像１７４における円は、図１０（ａ）と同様に破線で形成されている。

一方、図１０（ｃ）では、自車両８が速度３０（ｋｍ／ｈ）で移動し、歩行者１７２は自車両８の移動方向と交差する方向に速度４（ｋｍ／ｈ）で移動している。そのため、歩行者１７２は相対移動速度３０．２７（ｋｍ／ｈ）（＝√（３０^２＋４^２））で、相対移動ベクトル１１１が示す方向（自車両８に向かう方向）に移動している。

これに応じて、相対移動ベクトル１１１が示す方向に対応する部分が伸びるようにして、提示画像１７５における円の形状が歪んでいる。また歩行者１７２は相対的に自車両８に向かって移動しており、事故リスクは比較的高いため、提示画像１７５における円は、事故リスクが高いことを示す実線で形成されている。

なお、図１０では、自車両８と歩行者１７２と提示画像とを便宜的に同じ図中に示したが、自車両８の前景に表示される場合には、図１０における提示画像の虚像のみが、自車両８の前景における歩行者に重畳するように表示される（図１２参照）。この点は、以下の図１１においても同様である。

次に、図１１は、障害物が先行車両１２１である場合の提示画像の一例を説明する図である。（ａ）は先行車両１２１と自車両８が同じ速度で移動している場合の提示画像を説明する図、（ｂ）は先行車両１２１に対して速い速度で自車両８が移動している場合の提示画像を説明する図である。

図１１（ａ）では、先行車両１２１と自車両８は同じ速度で移動しているため、自車両８に対する先行車両１２１の相対移動速度は０（ｋｍ／ｈ）となり、先行車両１２１は見かけ上静止した状態である。そのため、提示画像１０８は先行車両１２１が移動していないことを示す真円画像になっている。また、先行車両１２１が見かけ上静止していることで、事故リスクは比較的低いため、提示画像１０８における円は、事故リスクが低いことを示す破線で形成されている。

また、図１１（ｂ）では、自車両８が速度３０（ｋｍ／ｈ）で移動し、先行車両１２１は自車両８の移動方向と同じ方向に速度１０（ｋｍ／ｈ）で移動している。例えば、先行車両１２１がブレーキをかけた状態である。

この状態では、先行車両１２１は、相対移動速度２０（ｋｍ／ｈ）で、相対移動ベクトル１１２が示す方向（自車両８に向かう方向）に移動するため、相対移動ベクトル１１２が示す方向に対応する部分が伸びるようにして、提示画像１０９における円の形状が歪んでいる。また先行車両１２１は相対的に自車両８に向かって移動しており事故リスクは比較的高いため、提示画像１０９における円は、事故リスクが高いことを示す実線で形成されている。

次に、図１２は、運転者が視認する自車両８の前景の一例を説明する図である。図１２に示すように、自車両８の運転者Ｖは、フロントウインドシールド７１を通して、自転車１３１と、歩行者１３２及び１３３と、対向車両１３４とを視認している。また、前景における自転車１３１に対応する位置に提示画像の虚像１３５が表示され、歩行者１３２に対応する位置に提示画像の虚像１３６が表示されている。また、歩行者１３３に対応する位置に提示画像の虚像１３７が表示され、対向車両１３４に対応する位置に提示画像の虚像１３８が表示されている。

自転車１３１は道路１４１を横断する方向に移動しており、自車両８に向かって移動しているため、自車両８に向かう方向（相対移動ベクトルの方向）に対応する部分が伸びるようにして、提示画像の虚像１３５における円の形状が歪んでいる。また自転車１３１は相対的に自車両８に向かって移動しており事故リスクは比較的高いため、提示画像の虚像１３５における円は、事故リスクが高いことを示す実線で形成されている。

歩行者１３２及び１３３は、自車両８の移動方向に沿って移動しているため、自車両８の移動方向に対応する部分が伸びるようにして、提示画像の虚像１３６及び１３７における円の形状が歪んでいる。また歩行者１３２及び１３３は相対的に自車両８に向かって移動しておらず事故リスクは比較的低いため、提示画像の虚像１３６及び１３７における円は、事故リスクが低いことを示す破線で形成されている。

対向車両１３４は、対向車線を自車両８の移動方向とは反対方向に移動しているため、自車両８の移動方向と反対方向に対応する部分が伸びるようにして、提示画像の虚像１３８における円の形状が歪んでいる。また対向車両１３４は相対的に自車両８に向かって移動しておらず事故リスクは比較的低いため、提示画像の虚像１３８における円は、事故リスクが低いことを示す破線で形成されている。

このように、自車両８の周囲に、移動する複数の障害物が存在していても、提示画像の虚像を前景に重畳表示することで、どれが事故リスクの高い障害物であるかを運転者Ｖに分かりやすく認識させることができるようになっている。

＜表示装置１の作用効果＞
以上説明したように、本実施形態では、自車両８の周囲における歩行者や先行車両といった障害物の自車両８に対する相対移動速度及び相対移動方向を取得し、この相対移動速度及び相対移動方向を示すための提示画像を、自車両８の前景に重畳表示する。これにより、自車両８に対する障害物の相対的な移動方向及び移動速度に基づく事故リスクを、自車両８の運転者Ｖに視覚的に認識させることが可能になる。換言すると、障害物と自車両８との相対移動に応じた事故リスクを、自車両８の運転者Ｖに認識させることができる。

また、本実施形態では、画像生成部２７は、相対移動ベクトルに応じて、相対移動ベクトルが示す方向に対応する部分が伸びるようにして、提示画像における円の形状を変化させる。これにより、相対移動ベクトルの方向を運転者Ｖに容易に認識させることができる。

また、本実施形態では、表示部１０は、自車両８の運転者Ｖの視線位置に応じて調整された位置に提示画像の虚像を表示する。これにより、運転者Ｖに提示画像の虚像を視認させやすくし、また提示画像の虚像が示す相対移動ベクトルを運転者Ｖに正確に認識させることができる。

［その他の実施形態］
上述した実施形態では、提示画像の一例として、障害物の相対移動方向に対応する部分が伸びるように歪む円形画像を示したが、提示画像はこれに限定されるものではなく、各種の変形が可能である。

例えば、歩行者の足元に表示した多角形や、歩行者の輪郭を象るような曲線形状、矢印等によって提示画像を形成してもよい。また多角形の頂点が伸びるようにしたり、障害物の相対移動方向とは反対側に残像が残るようにしたり、障害物の相対移動方向を矢印で指し示すようにしたりして、障害物の相対移動方向を表現してもよい。またこれらを組み合わせて障害物の相対移動方向及び／又は事故リスクを表現することもできる。

ここで、図１３は、自車両８及び障害物との相対移動に応じた提示画像の変形例を示す図である。（ａ）は歩行者１７２の相対移動方向を矢印で示した提示画像の一例を説明する図、（ｂ）は図形の歪みにより歩行者１７２の相対移動方向を示した提示画像の一例を説明する図である。

図１３（ａ）において、相対移動ベクトル１１３は、歩行者１７２の移動方向と自車両８の移動方向とに基づき特定される。太い矢印の提示画像１１４は、相対移動ベクトル１１３を強調した提示画像である。

また、図１３（ｂ）において、提示画像１７６及び１７７は、歩行者１７２の相対移動速度が速いため、円形の歪みは大きいが、円における伸びた部分が自車両８に向かっていないため、事故リスクは比較的低いことを表している。

なお、上述した実施形態では便宜的に、提示画像における円を破線で形成することで事故リスクが低いことを表現したが、提示画像の虚像が自車両８の前景に表示される場合には、提示画像の輝度を低くすること等で事故リスクが低いことを表現することもできる。同様に、提示画像の輝度を高くすること等で事故リスクが高いことを表現することができる。

また事故リスクのレベルに対応付けて予め定めた色で、提示画像を表示することもできる。換言すると、画像生成部２７は、相対移動ベクトルに応じて提示画像の色を変化させることができる。色を用いることで、事故リスクを多段階に分けて且つ分かりやすく表現することが可能になる。

以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。

なお、上述した実施形態において、認識装置１５の備える機能の一部、又は全部を制御部２０が備える構成にしてもよい。また、制御部２０の備える機能の一部を認識装置１５やステアリングＥＣＵ１４、検出装置１６等の他の構成要素が備える構成にしてもよい。

また、実施形態は表示方法も含む。例えば、表示方法は、移動体に備えられた表示装置による表示方法であって、前記移動体の移動速度及び移動方向と障害物の移動速度及び移動方向とに基づいて、前記移動体に対する障害物の相対移動速度及び相対移動方向とを算出する工程と、前記相対移動速度及び相対移動方向に基づき表示する提示画像を生成する画像生成工程と、前記画像生成工程で生成された前記提示画像を表示する工程と、を行う。このような表示方法により、上述した表示装置と同様の効果を得ることができる。

上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC（Application Specific Integrated Circuit）、DSP（digital signal processor）、FPGA（field programmable gate array）や従来の回路モジュール等のデバイスを含むものとする。

１ 表示装置
２ 車載システム
８ 自車両（移動体の一例）
１０ 表示部
１４ ステアリングＥＣＵ
１５ 認識装置
１６ 検出装置
１６１ 車速センサ
１６２ 車両情報センサ
１６３ レーダセンサ
１６４ 周囲カメラ
１６５ 乗員状態情報センサ
２０ 制御部
２１ 障害物移動速度取得部
２２ 障害物移動方向取得部
２３ 車両移動速度取得部
２４ 車両移動方向取得部
２５ 算出部
２７ 画像生成部
２８ 出力部
７１ フロントウインドシールド
１１０〜１１３ 相対移動ベクトル
１３５〜１３８ 提示画像の虚像
１７３〜１７５ 提示画像
Ｖ 運転者
ｕ 角度（操舵角の一例）

特許６３７２４０２号公報

Claims (7)

1. 移動体の移動速度及び移動方向と障害物の移動速度及び移動方向とに基づいて、前記移動体に対する前記障害物の相対移動速度及び相対移動方向を算出する算出部と、
   前記算出部により算出された前記相対移動速度及び前記相対移動方向に基づき、前記移動体に対する前記障害物の前記相対移動速度及び前記相対移動方向を示す提示画像を生成する画像生成部と、
   前記移動体に備えられ、前記画像生成部により生成された前記提示画像を表示する表示部と、を備える
   表示装置。
2. 前記表示部は、前記提示画像の虚像を前記移動体の前景に重畳表示する
   請求項１に記載の表示装置。
3. 前記算出部は、前記移動体の移動速度と、前記移動体の操舵角と、前記障害物の位置と、に基づき前記相対移動速度及び前記相対移動方向を算出する
   請求項１、又は２に記載の表示装置。
4. 前記画像生成部は、前記相対移動速度及び前記相対移動方向に応じて前記提示画像の形状を変化させる
   請求項１乃至３の何れか１項に記載の表示装置。
5. 前記画像生成部は、前記相対移動速度及び前記相対移動方向に応じて前記提示画像の色を変化させる
   請求項１乃至４の何れか１項に記載の表示装置。
6. 前記表示部は、前記移動体の運転者の視線位置に応じて調整された位置に、前記提示画像の虚像を表示する
   請求項１乃至５の何れか１項に記載の表示装置。
7. 移動体に備えられた表示装置による表示方法であって、
   前記移動体の移動速度及び移動方向と障害物の移動速度及び移動方向とに基づいて、前記移動体に対する障害物の相対移動速度及び相対移動方向とを算出する工程と、
   前記相対移動速度及び相対移動方向に基づき表示する提示画像を生成する画像生成工程と、
   前記画像生成工程で生成された前記提示画像を表示する工程と、を行う
   表示方法。

Images