以下に、本発明に係る電子制御システム1、電子制御装置2及び電子制御方法の実施形態を図面に基づいて詳細に説明する。また、以下の実施形態では、移動体が車両100である場合について説明するが、移動体は、電車、船舶、飛行機といったものであってもよい。
(第1実施形態)
以下、第1実施形態について、図1を参照しつつ説明する。図1は、第1実施形態による電子制御システム1の概略構成図である。図1に示すように、電子制御システム1は、電子制御装置2と、車両100の周囲を撮影する車外カメラ3と、ディスプレイ4とから構成されている。そして、車両100には、電子制御装置2と、車外カメラ3と、ディスプレイ4とが搭載されている。
車外カメラ3は、車両100の周囲を撮影するために、車両100の前方及び後方に取り付けられ、車両100の前方領域及び後方領域を撮影する。車外カメラ3により撮影された撮影画像40は、電子制御装置2に入力される。この撮影画像40は、複数のピクセルの集合で構成されている。
尚、車外カメラ3の設置位置は、車両100前方又は後方の何れか一方でもよく、撮影領域も前方領域及び後方領域の何れか一方でもよい。この車外カメラ3は、撮影部に相当する。
そして、電子制御装置2は、車両100が前進している場合、又はシフトレバーがドライブとなっている場合に、前方領域が撮影された撮影画像40をディスプレイ4に出力し、車両100が後進している場合、又はシフトレバーがリバースとなっている場合に、後方領域が撮影された撮影画像40をディスプレイ4に出力する。つまり、ディスプレイ4には、撮影画像40が表示される。
次に、電子制御装置2の構成について図2を用いて説明する。図2は、第1実施形態に係る電子制御装置2の構成を示すブロック図である。なお、図2では、第1実施形態の特徴を説明するために必要な構成要素のみを示しており、一般的な構成要素についての記載を省略している。
図2に示すように、電子制御装置2には、車外カメラ3と、ディスプレイ4と、室内入力部7と、操舵角センサ8とが接続されている。
ディスプレイ4は、タッチ操作による入力が可能なディスプレイであり、タッチパネル70を有している。タッチパネル70は、画像を表示するディスプレイ4の表示面に設けられている。このディスプレイ4は、表示部に相当する。尚、ディスプレイ4に図示しないボタンを設けることで入力できるようにしてもよい。
室内入力部7は、車両100の室内に設けられ、車両100の乗員が操作可能なハプティックデバイス、レバー、又はボタンである。室内入力部7を乗員が操作することにより、ディスプレイ4に表示されるオーディオやナビ等のコンテンツの選択、及び後述する特定報知対象23の選択が可能となる。
操舵角センサ8は、車両100の図示しないステアリングシャフトに取り付けられ、ステアリングホイールの回転角度を測定する。
次に、電子制御装置2の内部構成について説明する。電子制御装置2は、制御部5と、記憶部6とを備えている。
記憶部6は、たとえばRAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、又はハードディスク、光ディスク等の記憶装置であり、撮影画像40を記憶する。さらに、記憶部6は、車外カメラ3で撮影される撮影画像40の解像度、ディスプレイ4の解像度、後述する撮影画像40とディスプレイ4との解像度比、及びディスプレイ4の画素ピッチが予め記憶されている。
画素ピッチとは、ディスプレイ4においてピクセルと隣り合うピクセルとの距離であり、1ピクセルあたりの大きさを示すものである。記憶部6には、ディスプレイ4の幅方向の画素ピッチと、ディスプレイの高さ方向の画素ピッチとが記憶される。
制御部5は、たとえばCPU(Central Processing Unit)又はGPU(Graphics Processing Unit)であり、電子制御装置2の全体制御を行う。制御部5は、入力検出部51と、画像取得部54と、進路推定部55と、物体検出部56と、報知対象検出部57と、大きさ算出部58と、表示制御部59とを備えている。
入力検出部51は、室内入力部7及びタッチパネル70への入力を検出する。入力検出部51は、例えば、タッチパネル70への入力として、乗員によりタッチ操作されたタッチパネル70上の座標を検出する。そして、入力検出部51は、検出した入力に関する情報を入力情報として後述する表示制御部59が有する選択判定部60に出力する。
画像取得部54は、たとえば入力ポートであり、車外カメラ3によって撮影された撮影画像40を取得する。尚、車外カメラ3は、設定されたフレームレートに応じて撮影画像40を画像取得部54へと出力する。そして、画像取得部54は、取得した撮影画像40を表示制御部59、及び記憶部6に出力する。
進路推定部55は、操舵角センサ8で検出されたステアリングホイールの操舵角を取得する。進路推定部55は、ステアリングホイールの操舵角に基づいて、車両100の進路、すなわち、予測軌跡を推定する。そして、進路推定部55は、推定した予測軌跡を含んだ予測軌跡情報を、報知対象検出部57に出力する。
物体検出部56は、記憶部6に記憶された撮影画像40に基づいて、静止物体及び移動物体といった物体を検出する。具体的には、物体検出部56は、記憶部6から取得した時系列に並んだ複数フレームの撮影画像40から、同一特徴点を結んだ移動ベクトルであるオプティカルフローを抽出し、抽出したオプティカルフローに基づいて物体を検出する。
例えば、時系列に並んだオプティカルフロー同士を比較した際、オプティカルフローの長さや向きが異なるものであれば移動物体と判定され、オプティカルフローの長さや向きが同じであれば静止物体と判定される。このように、物体検出部56は、静止物体と移動物体とを物体として検出する。
さらに、物体検出部56は、後述する大きさ算出部58が算出するのに必要な情報として、検出した物体の上下左右それぞれの端部を検出する。そして、物体検出部56は、検出した上下左右それぞれの端部を含む矩形を形成し、形成した矩形の幅方向及び高さ方向のピクセル数を検出する。
尚、物体検出部56は、後述する大きさ算出部58が算出するのに必要な情報として、検出した物体の輪郭を検出し、輪郭で囲まれた領域内のピクセル数を検出してもよい。
そして、物体検出部56は、検出した物体が静止物体及び移動物体の何れであるのかを示す情報と、形成した矩形の幅方向及び高さ方向のピクセル数を示す情報とを関連付けた物体情報を、報知対象検出部57に出力する。
報知対象検出部57は、進路推定部55から出力された予測軌跡情報と、物体検出部56から出力された物体情報とに基づいて、物体検出部56で検出された物体の中から乗員に報知すべき報知対象を検出する。
報知対象は、第1実施形態と後述する第2実施形態とで異なり、第1実施形態における報知対象とは、移動物体及び車両100に接触する可能性のある静止物体のうち、車両100との距離が最も近い物体である。ちなみに、後述する第2実施形態における報知対象とは、移動物体及び車両に接触する可能性のある静止物体のすべてである。
尚、移動物体のうち、車両100との距離が最も近い物体を報知対象としてもよいし、車両100に接触する可能性のある静止物体のうち、車両100との距離が最も近い物体を報知対象としてもよい。
報知対象検出部57は、具体的には、物体検出部56で検出された静止物体の中で、予測軌跡内に存在する静止物体を車両100に接触する可能性のある静止物体として検出する。そして、報知対象検出部57は、検出した車両100に接触する可能性のある静止物体と、物体検出部56で検出された移動物体とのうち、車両100との距離が最も近い物体を報知対象として検出する。
ここで、物体と車両100との距離の測定方法について説明する。物体と車両100との距離の測定方法には、ステレオカメラを用いて左右のカメラによる視差から物体までの距離を測定する第1の方法と、車外カメラ3の角度と設置位置とから撮影画像40の座標ごとに、車両100までの距離を設定しておく第2の方法とがある。
第1の方法を用いる場合、車外カメラ3をステレオカメラとし、報知対象検出部57は、検出した移動物体、及び車両100に接触する可能性のある静止物体について、左右のカメラにてそれぞれ撮影された撮影画像40の視差から、車両100までの距離を測定する。尚、車外カメラ3をステレオカメラとした場合、2つのカメラで車両100の前方及び後方を撮影することになるが、上述したオプティカルフローの抽出には、左右のカメラの何れか一方で撮影された複数の撮影画像40を用いればよい。
第2の方法を用いる場合、記憶部6は、撮影画像40の座標ごとに車両100までの距離が予め設定された距離情報を記憶している。報知対象検出部57は、記憶部6に記憶された距離情報と、撮影画像40内の移動物体及び静的物体が存在する座標とを比較することで、車両100までの距離を測定する。
この第1の方法又は第2の方法を用いることで、報知対象検出部57は、移動物体と、車両に接触する可能性のある静止物体との中で、車両100と最初に接触する可能性の高い物体を検出する。これにより、運転者が、危険な物体を瞬時に判断することができる。尚、以降では、第1の方法を用いた電子制御システム1について記載する。
報知対象検出部57は、検出した報知対象に関する物体情報を有している報知対象情報と、進路推定部55から受け取った予測軌跡情報とを大きさ算出部58に出力する。
報知対象情報とは、報知対象と車両100との距離を含む位置情報と、報知対象が静止物体と移動物体との何れであるのかを示す情報と、報知対象の上下左右それぞれの端部を含む矩形について、幅方向及び高さ方向のピクセル数を示す情報とを関連付けた情報である。
大きさ算出部58は、報知対象検出部57で検出された報知対象がディスプレイ4に表示される大きさを算出する。この大きさとは、ディスプレイ4に表示される報知対象の上下左右それぞれの端部を含む矩形の幅方向及び高さ方向の長さである。尚、報知対象がディスプレイ4に表示される大きさを、ディスプレイ4に表示される報知対象の上下左右それぞれの端部を含む矩形の面積としてもよい。
大きさの算出にあたり、大きさ算出部58は、記憶部6に記憶された車外カメラ3で撮影される撮影画像40の解像度、ディスプレイ4の解像度、後述する撮影画像40とディスプレイ4との解像度比、及びディスプレイ4の画素ピッチを取得する。
そして、大きさ算出部58は、報知対象検出部57から取得した報知対象の上下左右それぞれの端部を含む矩形の幅方向及び高さ方向のピクセル数と、記憶部6から取得した撮影画像40とディスプレイ4との解像度比と、ディスプレイ4の画素ピッチとから、報知対象がディスプレイ4に表示される大きさを算出する。
ここでの解像度比とは、ディスプレイ4の長辺と撮影画像40の長辺とのピクセル数の比率、又は、ディスプレイ4の短辺と撮影画像40の短辺とのピクセル数の比率である。
報知対象がディスプレイ4に表示される大きさの算出式を以下に説明する。
(数1)
幅方向の大きさ[mm]=(矩形の幅方向のピクセル数[px]/解像度比)×ディスプレイ4の幅方向の画素ピッチ[mm/px]
(数2)
高さ方向の大きさ[mm]=(矩形の高さ方向のピクセル数[px]/解像度比)×ディスプレイ4の高さ方向の画素ピッチ[mm/px]
数1及び数2の算出式により求められる幅方向の大きさ及び高さ方向の大きさは、それぞれディスプレイ4に表示される報知対象の幅方向と高さ方向の長さを示す値となる。
解像度比を用いる理由は、撮影画像40を可能な限りディスプレイ4に表示させるためである。
例えば、撮影画像40の解像度が1280×1024であり、ディスプレイ4の解像度が800×480であった場合、撮影画像40とディスプレイ4との解像度が異なるため、撮影画像40を縮小させることなくディスプレイ4に表示させた場合、撮影画像40の幅方向も高さ方向も一部が見切れた状態で、ディスプレイ4に表示される。
しかし、撮影画像40の幅方向も高さ方向も一部が見切れた状態では、撮影画像40内の報知対象も見切れてしまう可能性がある。
そこで、撮影画像40の長辺とディスプレイ4の長辺とのピクセル数の比率に合わせて撮影画像40を縮小させることで、撮影画像40の高さ方向の一部が見切れることになるが、幅方向に見切れることなく撮影画像40をディスプレイ4に表示させる。
こうした場合、数1及び数2に示す解像度比は、撮影画像40の長辺とディスプレイ4の長辺とのピクセル数の比率(1.6)となる。
尚、撮影画像40が高さ方向にも幅方向にも見切れることなくディスプレイ4に表示させるために、撮影画像40とディスプレイ4の長辺のピクセル数の比率で、撮影画像40の幅方向を縮小させ、撮影画像40とディスプレイ4の短辺のピクセル数の比率で、撮影画像40の高さ方向を縮小させても良い。
この場合、数1に示す解像度比は、撮影画像40の長辺とディスプレイ4の長辺とのピクセル数の比率(1.6)となり、数2に示す解像度比は、撮影画像40の短辺とディスプレイ4の短辺とのピクセル数の比率(2.13)となる。
そして、大きさ算出部58は、算出した報知対象の大きさに関する情報である大きさ情報と、報知対象検出部57から受け取った報知対象情報及び予測軌跡情報とを表示制御部59に出力する。
次に、表示制御部59の動作について説明するが、第1実施形態と第2実施形態とでは報知対象検出部57で検出される報知対象が異なるため、表示制御部59の動作も第1実施形態と第2実施形態とで異なったものとなる。
第1実施形態では、報知対象が1つである場合の表示制御部59の動作について説明する。
表示制御部59には2つの機能があり、1つ目の機能は、後述する特定報知対象23及び後述する通常報知対象22が存在するか否かを判定する機能である。2つ目の機能は、画像をディスプレイ4に表示させる機能である。
まず、1つ目の機能について以下に説明する。
表示制御部59は、報知対象検出部57の検出結果である報知対象情報と、大きさ算出部58の算出結果である大きさ情報とに基づいて、大きさ算出部58により算出された報知対象の大きさが、所定の閾値以下となる報知対象である特定報知対象23が存在するか否かを判定する。
そして、表示制御部59は、特定報知対象23が存在しない場合、報知対象の大きさが所定の閾値より大きい報知対象である通常報知対象22が存在すると判定する。
ここでの所定の閾値とは、幅方向の大きさと、高さ方向の大きさとの合計値であり、例えば60mmであり、ディスプレイ4に表示された撮影画像40内の報知対象の幅方向及び高さ方向の大きさがそれぞれ30mm以下である場合には、特定報知対象と判定されてる。
尚、所定の閾値は、上記記載に限らない。例えば、通常報知対象22と判定される所定の閾値とは、ディスプレイ4に撮影画像40が表示された状況において、撮影画像40内の報知対象を、車両100の乗員が容易に認識できる大きさを示す値であればよい。
一方、特定報知対象と判定される所定の閾値とは、ディスプレイ4に撮影画像40が表示された状況において、ディスプレイ4を注視しなければ報知対象を認識できない大きさを示す値であればよい。
尚、報知対象がディスプレイ4に表示される大きさを、ディスプレイ4に表示される報知対象の上下左右それぞれの端部を含む矩形の面積とした場合、所定の閾値は、幅方向の大きさと、高さ方向の大きさとを乗算した値となる。
次に、2つ目の機能について以下に説明する。
表示制御部59は、画像取得部54を介して車外カメラ3で撮影された撮影画像40を取得する。
表示制御部59は、撮影画像40と、後述する支援画像と、後述する通常強調画像41と、後述する撮影強調画像42と、後述する拡大画像43と、後述する拡大強調画像44とを、それぞれ異なる条件下でディスプレイ4に表示させる。表示制御部59の表示のパターンを図3から図6を用いて以下に説明する。尚、図3から図6は、車両100が後進している場合に、ディスプレイ4に表示される画像を示している。
第1のパターンとして、表示制御部59が、撮影画像40と、支援画像と、通常強調画像41とをディスプレイ4に表示させるパターンについて、図3を用いて説明する。図3は、撮影画像40と、支援画像と、通常強調画像41とをディスプレイ4に表示させた際の一例である。
まず、支援画像とは、ディスプレイ4に表示され、乗員の車両100の操作を支援する画像であり、例えば予測線20及び車幅線21を含む画像である。
通常強調画像41とは、撮影画像40内の通常報知対象22を強調する画像である。
表示制御部59は、予想軌跡情報に含まれる予想軌跡に基づいて予測線20を支援画像として生成し、記憶部6に予め記憶された車両100の幅に基づいて車幅線21を支援画像として生成する。予測線20とは、帯状となる車両100の予測軌跡の境界線であり、例えば、一対の線である。車幅線21とは、車両100のハンドルが定位置となっており、車両100が真っ直ぐ前進又は後進する際の車幅を示す線である。尚、一対の予測線20の幅は、車両100の幅に対応するが、車両100の幅よりも広くするなど、調整が可能である。
表示制御部59は、報知対象情報に基づいて、撮影画像40内の通常報知対象22を強調する通常強調画像41を生成する。通常強調画像41は、報知対象の上下左右それぞれの端部を含む矩形でできた枠である。尚、通常強調画像41は、報知対象の輪郭を囲む線であってもよい。また、矩形でできた枠や報知対象の輪郭を囲む線は、破線でもよい。
そして、表示制御部59は、1つ目の機能として通常報知対象22が存在すると判定した場合、撮影画像40と、支援画像と、通常強調画像41とをディスプレイ4に重畳表示させる。
尚、通常強調画像41を表示させないようにしてもよい。その理由は、通常報知対象22は、ディスプレイ4に所定の閾値より大きく表示されるため、強調させなくても乗員が容易に通常報知対象22を認識できる可能性が高いためである。
第2のパターンとして、表示制御部59が、撮影画像40と、支援画像と、撮影強調画像42とをディスプレイ4に表示させるパターンについて、図4を用いて説明する。図4は、撮影画像40と、支援画像と、撮影強調画像42とをディスプレイ4に表示させた際の一例である。
表示制御部59は、報知対象情報に基づいて、撮影画像40内の特定報知対象23を、通常強調画像41とは異なるように強調する撮影強調画像42を生成する。
撮影強調画像42は、通常強調画像41と同様に、報知対象の上下左右それぞれの端部を含む矩形でできた枠である。撮影強調画像42は、通常強調画像41とは異なる色、実線又は破線が用いられる。尚、撮影強調画像42は、報知対象の輪郭を囲む線であってもよい。
そして、表示制御部59は、1つ目の機能として特定報知対象23が存在すると判定した場合、撮影画像40と、支援画像と、撮影強調画像42とをディスプレイ4に重畳表示させる。
第3のパターンとして、表示制御部59が、拡大画像43をディスプレイ4に表示させるパターンについて、図5を用いて説明する。詳しくは、拡大画像43を表示させるタイミングと、拡大画像43をディスプレイ4に表示させる際の表示位置と、拡大画像43の生成方法とについて説明する。図5は、撮影画像40と、支援画像と、撮影強調画像42と、拡大画像43とをディスプレイ4に表示させた際の一例である。
まず、拡大画像43を表示させるタイミング、及び拡大画像43をディスプレイ4に表示させる際の表示位置について説明する。
拡大画像43を表示させるタイミングについて説明するにあたり、特定報知対象23を乗員が選択したか否かを判定する構成について図2に戻り説明しておく。表示制御部59は、入力検出部51により検出された入力情報に基づいて、ディスプレイ4に表示された特定報知対象23を、乗員が選択したか否かを判定する選択判定部60を有している。
例えば、選択判定部60は、入力検出部51により検出された、乗員によりタッチ操作されたタッチパネル70上の座標が、特定報知対象23が表示される領域内を示す場合、ディスプレイ4に表示された特定報知対象23を選択したと判定する。
再度図5に戻り、表示制御部59は、上記パターン1、又は上記パターン2により、ディスプレイ4に撮影画像40が表示されている状態において、選択判定部60により乗員がディスプレイ4に表示された特定報知対象23を選択したと判定された場合、選択された特定報知対象23を含む所定の領域45を拡大させた拡大画像43を、ディスプレイ4の画面上に撮影画像40と共に表示させる。
具体的には、表示制御部59は、図5に示すように、拡大画像43を、ディスプレイ4に表示された撮影画像40の上に重畳表示させる。このとき、表示制御部59は、重畳表示させる場合、ディスプレイ4の画面上に表示される撮影画像40の中に存在する特定報知対象23を覆わないように、拡大画像43をディスプレイ4に表示させるのが好ましい。
その他にも、拡大画像43と、撮影画像40とを重ねることなくディスプレイ4に表示させてもよいし、ディスプレイ4の全面に拡大画像43を表示させてもよい。
また、表示制御部59は、進路推定部55により推定された予測軌跡情報に基づいて、拡大画像43の表示位置を変化させる。具体的には、表示制御部59は、撮影画像40上に拡大画像43を重畳表示させる場合、進路推定部55により推定された予測線20の向かう方向とは画像左右方向において反対方向に拡大画像43を表示させる。一対の予測線20により定まる予測軌跡と拡大画像43との重なりが少なくなるようにするためである。
そして、表示制御部59は、車両100の予測軌跡が車両100の車幅線21と同じく、撮影画像40の左右方向の中央において上下方向に延びる場合、拡大画像43を撮影画像40の左右両端の何れかに表示させる。
尚、乗員の選択の有無に関係なく、表示制御部59は、大きさ算出部58により算出された大きさが所定の閾値以下の場合、拡大画像43をディスプレイ4に表示させてもよい。
次に、拡大画像43の生成方法について説明する。
所定の領域45とは、乗員により選択された特定報知対象23の上下左右それぞれの端部を含む矩形に対して、上下左右に所定のピクセル数だけ広げた領域である。そして、所定の領域45は、上下方向よりも左右方向に広げた領域とするのが好ましい。例えば、報知対象の上下左右それぞれの端部を含む矩形に対して、上下方向に10ピクセルずつ、左右方向に30ピクセルずつ広げる。尚、所定の領域45は、特定報知対象23の輪郭を囲む領域としてもよい。
また、所定の領域45を拡大させる際の倍率については、適宜設定すればよい。例えば、ディスプレイ4の総面積の1/4となるように所定の領域45を拡大させる。
第4のパターンとして、表示制御部59が、拡大画像43と、拡大強調画像44とをディスプレイ4に重畳表示させるパターンについて、図6を用いて説明する。
拡大強調画像44は、拡大画像43内の特定報知対象23を強調させる画像である。この拡大強調画像44は、特定報知対象23を含む所定の領域45を拡大させた拡大率と同じ比率で撮影強調画像42を拡大させた画像である。そのため、拡大強調画像44は、拡大画像43内の特定報知対象23の上下左右それぞれの端部を含む矩形でできた枠である。尚、拡大強調画像44は、拡大画像43内の特定報知対象23の輪郭を囲む線であってもよい。また、矩形でできた枠や拡大画像43内の特定報知対象23の輪郭を囲む線は、破線でもよい。
(表示制御処理)
次に、制御部5によって実行される表示制御処理について図7を用いて説明する。
図7は、第1実施形態の制御部5が実行する表示制御処理の手順を示すフローチャートである。尚、表示制御処理のフロー中の「S」とは、各ステップを意味する。
この表示制御処理は、シフトレバーをリバースに入れた場合、又はシフトレバーをドライブに入れた場合に開始される。その他にも、車両100が前進している場合、又は車両100が後進している場合、車両100のイグニッションがオンとなった場合に開始されてもよい。
ここでは、シフトレバーをリバースに入れた場合の表示制御処理について説明する。
S1において画像取得部54は、車外カメラ3によって撮影された撮影画像40を取得し、S2へと移行する。このとき画像取得部54は、取得した撮影画像40を表示制御部59と、記憶部6とに出力する。
S2において、物体検出部56は、記憶部6に記憶された撮影画像40に基づいて、静止物体及び移動物体といった物体を検出する。そして物体検出部56は、物体を検出しなかった場合、処理を終了する。一方、物体検出部56は、物体を検出した場合、物体情報を報知対象検出部57に出力し、S3へと移行する。
S3において、進路推定部55は、ステアリングホイールの操舵角に基づいて予測軌跡を算出し、S4へと移行する。
S4において、報知対象検出部57は、進路推定部55から出力された予測軌跡情報と、物体検出部56から出力された物体情報とに基づいて、物体検出部56で検出された物体の中から乗員に報知すべき報知対象を検出する。そして報知対象検出部57は、報知対象を検出しなかった場合、処理を終了する。一方、報知対象検出部57は、報知対象を検出した場合、報知対象情報と、予測軌跡情報とを大きさ算出部58に出力し、S5へと移行する。このS4は、報知対象検出工程に相当する。
S5において、大きさ算出部58は、報知対象がディスプレイ4に表示される大きさを算出し、S6へと移行する。このとき、大きさ算出部58は、算出した報知対象の大きさに関する情報である大きさ情報と、報知対象情報と、予測軌跡情報とを表示制御部59に出力する。このS5は、大きさ算出工程に相当。
S6において、表示制御部59は、大きさ算出部58から出力された大きさ情報と、報知対象情報とに基づいて、特定報知対象23が存在するか否かを判定する。表示制御部59は、特定報知対象23が存在しない場合、通常報知対象22が存在すると判定し、S7へと移行する。一方、表示制御部59は、特定報知対象23が存在すると判定した場合、S8へと移行する。
S7において、表示制御部59は、撮影画像40と、通常強調画像41と、支援画像とをディスプレイ4に重畳表示させ、処理を終了する。
S8において、表示制御部59は、撮影画像40と、撮影強調画像42と、支援画像とをディスプレイ4に重畳表示させ、S9へと移行する。
S9において、選択判定部60は、入力検出部51により検出された入力情報に基づいて、乗員がディスプレイ4に表示された特定報知対象23を選択したか否かを判定する。選択判定部60は、乗員が特定報知対象23を選択したと判定した場合、S10へと移行する。選択判定部60は、特定報知対象23を選択していないと判定した場合、処理を終了する。
S10において、表示制御部59は、選択された特定報知対象23を含む所定の領域を拡大させた拡大画像43をディスプレイ4に表示させ、S11へと移行する。このS10は、表示制御工程に相当する。
S11において、表示制御部59は、拡大画像43と、拡大強調画像44とをディスプレイ4に重畳表示させる。
そして、表示制御部59は、シフトレバーがリバースか否かを判定し、リバースであれば、表示制御処理を継続し、シフトレバーがリバースでなくなった場合、処理を終了する。尚、S10及びS11の処理のタイミングを揃えてもよい。また、S11の処理をなくしてもよい。
尚、表示制御部59は、拡大画像43と拡大強調画像44とを一定の時間、ディスプレイ4に表示させる。ここでの一定の時間は、乗員が拡大画像43内の特定報知対象23を認識できる時間であればよく、例えば5秒である。
(作用効果)
以上説明した第1実施形態の作用効果を、以下に説明する。
第1実施形態に係る電子制御装置2によると、撮影画像40内に存在する報知対象が、ディスプレイ4に表示される大きさを算出する。そして、ディスプレイ4に表示される大きさが所定の閾値以下の場合、大きさが所定の閾値以下の報知対象である特定報知対象23を拡大させた拡大画像43を、ディスプレイ4に表示させる。これにより、ディスプレイ4に所定の閾値以下の大きさで表示される特定報知対象23が、拡大された状態でディスプレイ4に表示されるため、乗員が報知対象を認識しやすくなる。
また、報知対象を認識しやすくすることで、強調された報知対象を認識できないことにより、システムが誤作動していると乗員が誤解してしまうことを低減できる。
さらに第1実施形態によると、拡大画像43は、特定報知対象23を含む所定の領域45を拡大させた画像である。これにより、特定報知対象23の周囲の状況も認識しやすくなる。
さらに第1実施形態によると、表示制御部59は、選択判定部60により選択されたと判定された撮影画像40内の特定報知対象23を拡大画像43として、ディスプレイ4の画面上に撮影画像40と共に表示させる。これにより、乗員が選択した特定報知対象23を拡大画像43としてディスプレイ4に表示させることで、不要に拡大画像43がディスプレイ4に表示されることを防ぐことができる。また、拡大画像43と撮影画像40とがディスプレイ4の画面上に共に表示されることで、拡大画像43が撮影画像40のどの領域を拡大させたものであるのかを認識しやすくなる。
さらに第1実施形態によると、表示制御部59は、ディスプレイ4の画面上に表示される撮影画像40の中に存在する特定報知対象23を覆わないように拡大画像43をディスプレイ4に表示させる。これにより、ディスプレイ4の画面上に表示される撮影画像40の中に存在する特定報知対象23と、拡大画像43内の特定報知対象23とが共にディスプレイ4に表示されることとなるため、ディスプレイ4の画面上に表示される撮影画像40の中に存在する特定報知対象23と、拡大画像43内の特定報知対象23との位置関係を乗員が把握しやすくなる。
さらに第1実施形態によると、表示制御部59は、報知対象検出部57の検出結果、及び大きさ算出部58の算出結果から、特定報知対象23が存在すると判定した場合、ディスプレイ4に表示される撮影画像40内の特定報知対象23を強調させる撮影強調画像42を、ディスプレイ4に表示させる。これにより、撮影強調画像42をディスプレイ4に表示させることで、ディスプレイ4に表示される撮影画像40内に存在する特定報知対象23の位置を容易に把握することができる。
さらに第1実施形態によると、表示制御部59は、報知対象検出部57の検出結果、及び大きさ算出部58の算出結果から、通常報知対象22が存在すると判定した場合、ディスプレイ4に表示される撮影画像40内の通常報知対象22を、撮影強調画像42とは異なるように強調させる通常強調画像41を、ディスプレイ4に表示させる。これにより、ディスプレイ4に表示される特定報知対象23と、通常報知対象22とを容易に区別できる。
さらに第1実施形態によると、表示制御部59は、進路推定部55の推定結果に基づいて、拡大画像43の表示位置を変化させる。これにより、車両100の進路を乗員が認識できなくなることを防ぐことができる。
さらに第1実施形態によると、表示制御部59は、拡大画像43内の特定報知対象23を強調させる拡大強調画像44をディスプレイ4に表示させる。これにより、拡大画像43内に存在する特定報知対象23をより認識しやすくなる。
さらに第1実施形態によると、報知対象は、移動物体及び車両100に接触する可能性のある静止物体のうち、車両100との距離が最も近い物体であるとした。これにより、ディスプレイ4に表示される報知対象が制限されることとなり、必要以上の情報が乗員に提供されることで、乗員の判断が妨げられることを防ぐことができる。
(第2実施形態)
第2実施形態は、先行する第1実施形態を基礎的形態とする変形例である。図8は、第2実施形態における電子制御装置92の構成を示すブロック図である。制御部95が備える報知対象検出部957と、大きさ算出部958と、表示制御部959とが第1実施形態と異なっている。この報知対象検出部957と、大きさ算出部958と、表示制御部959とについて以下に説明する。
報知対象検出部957は、進路推定部55から出力された予測軌跡情報と、物体検出部56から出力された物体情報とに基づいて、物体検出部56で検出された物体の中から乗員に報知すべき報知対象を検出する。この報知対象検出部957が検出する報知対象とは、移動物体、及び車両に接触する可能性のある静止物体のすべてである。
そして、報知対象検出部957は、検出した報知対象に関する物体情報を有している報知対象情報と、進路推定部55から受け取った予測軌跡情報とを大きさ算出部958に出力する。
ここでの報知対象情報とは、報知対象と車両100との距離を含む位置情報と、報知対象が静止物体と移動物体との何れであるのかを示す情報と、報知対象の上下左右それぞれの端部を含む矩形について、幅方向及び高さ方向のピクセル数を示す情報とに加えて、検出した報知対象の数を関連付けた情報である。
大きさ算出部958は、報知対象検出部957で検出された報知対象がディスプレイ4に表示される大きさを算出する。このとき、大きさ算出部958は、検出された報知対象が複数である場合、各報知対象について大きさを算出する。そして、大きさ算出部958は、算出した報知対象の大きさに関する情報である大きさ情報と、報知対象検出部957から受け取った報知対象情報と、予測軌跡情報とを表示制御部959に出力する。
表示制御部959は、上記第1の機能及び第2の機能に加えて、第3の機能として報知対象情報に基づいて、報知対象検出部957により検出された報知対象が複数であるか否かを判定する。さらに、表示制御部959は、報知対象が複数である場合と1つのみである場合とで異なる動作を行う。
表示制御部959は、報知対象が1つのみであると判定した場合、第1実施形態における表示制御部59と同様の動作を行う。つまりは、表示制御部959は、報知対象が1つのみであると判定した場合、大きさ情報に基づいて特定報知対象23が存在するか否かを判定する。
一方、表示制御部959は、報知対象が複数であると判定した場合、大きさ情報に基づいて、撮影画像40内に特定報知対象23と、通常報知対象22とがそれぞれ存在するのかを判定する。つまりは、表示制御部959は、報知対象が複数であると判定した場合、特定報知対象23が存在するか否かを判定し、さらに通常報知対象22が存在するか否かを判定する。
表示制御部959は、報知対象が1つのみである場合、上記第1〜4のパターンを行う。しかし第3のパターンについて、第1実施形態の表示制御部59の動作に加え、拡大画像43よりも撮影画像40を暗く表示させる動作が追加される。
つまり、図9に示すように、表示制御部959は、報知対象検出部957により検出された報知対象が1つ、かつ、その報知対象が特定報知対象であると判定した場合、拡大画像43よりも撮影画像40を暗く表示させる。図9に示される、撮影強調画像42により強調された特定報知対象23も、撮影画像40の一部であるため、暗く表示される。
これにより、拡大画像43内の特定報知対象23をより認識しやすくなる。このようにする理由は、報知対象が1つしか存在しないため、撮影画像40を拡大画像43よりも暗く表示させても、他の報知対象を認識しにくくなるといったことがないためである。
尚、表示制御部959は、第1実施形態のように、拡大画像43のみをディスプレイ4に表示させる場合、撮影画像40を暗くさせることはない。
一方、表示制御部959は、報知対象が複数である場合、撮影画像40内に存在する特定報知対象23又は通常報知対象22、若しくは、特定報知対象23及び通常報知対象22を強調させる。
つまり、表示制御部959は、通常報知対象22のみが複数存在する場合、各通常報知対象22に対する通常強調画像41と、撮影画像40とを重畳表示させる。また、表示制御部959は、特定報知対象23のみが複数存在する場合、各特定報知対象23に対する撮影強調画像42と、撮影画像40とを重畳表示させる。また、表示制御部959は、通常報知対象22と特定報知対象23とが共に存在する場合、通常強調画像41と、撮影強調画像42と、撮影画像40とを重畳表示させる。
(表示制御処理)
次に、制御部95によって実行される表示制御処理について図10及び図11を用いて説明する。
図10及び図11は、第2実施形態の制御部95が実行する表示制御処理の手順を示すフローチャートである。尚、表示制御処理のフロー中の「S」とは、各ステップを意味する。
尚、第1実施形態の制御部5と異なる処理を実行するところについて説明する。
S3において、進路推定部55は、ステアリングホイールの操舵角に基づいて予測軌跡を算出し、S19へと移行する。
S19において、報知対象検出部957は、予測軌跡情報と、物体情報とに基づいて、移動物体及び車両に接触する可能性のある静止物体のすべてを報知対象として検出する。
そして報知対象検出部957は、報知対象を検出しなかった場合、処理を終了する。一方、報知対象検出部957は、報知対象を検出した場合、報知対象情報と、予測軌跡情報とを大きさ算出部958に出力し、S20へと移行する。このS19は、報知対象検出工程に相当する。
S20において、大きさ算出部958は、報知対象検出部957により検出された報知対象がディスプレイ4に表示される大きさを算出し、S21へと移行する。このS20は、大きさ算出工程に相当する。
S21において、表示制御部959は、報知対象検出部957により検出された報知対象が複数であるか否かを判定する。表示制御部959は、報知対象が複数であると判定した場合、S23へと移行する。一方、対象判定部961は、報知対象が複数でないと判定した場合、S6へと移行する。
S9において、選択判定部60は、乗員が特定報知対象23を選択したと判定した場合、S22へと移行する。
S22において、表示制御部959は、選択された特定報知対象23を含む所定の領域を拡大させた拡大画像43をディスプレイ4に表示させ、S11へと移行する。このとき表示制御部959は、拡大画像43と撮影画像40とを重畳表示させる場合、拡大画像43よりも撮影画像40を暗く表示させる。このS22は、表示制御工程に相当する。
S23において、表示制御部959は、特定報知対象23が存在するか否かを判定する。表示制御部959は、特定報知対象23が存在しないと判定した場合、S24へと移行し、特定報知対象23が存在すると判定した場合、S25へと移行する。
S24において、表示制御部959は、各通常報知対象22に対する通常強調画像41と、撮影画像40とを重畳表示させる。そして、表示制御部59は、シフトレバーがリバースか否かを判定し、リバースであれば、表示制御処理を継続し、シフトレバーがリバースでなくなった場合、処理を終了する。
S25において、表示制御部959は、通常報知対象22が存在するか否かを判定する。表示制御部959は、通常報知対象22が存在しないと判定した場合、S26へと移行し、通常報知対象22が存在すると判定した場合、S27へと移行する。
S26において、表示制御部959は、各特定報知対象23に対する撮影強調画像42と、撮影画像40とを重畳表示させ、S28へと移行する。
S27において、表示制御部959は、撮影画像40内に通常報知対象22と特定報知対象23とが共に存在するため、通常強調画像41と、撮影強調画像42と、撮影画像40とを重畳表示させる。
S28において、選択判定部60は、S9と同様に、入力検出部51により検出された入力情報に基づいて、乗員がディスプレイ4に表示された特定報知対象23を選択したか否かを判定する。選択判定部60は、乗員が特定報知対象23を選択したと判定した場合、S29へと移行する。一方、選択判定部60は、乗員が特定報知対象23を選択しなかったと判定した場合、処理を終了する。
S29において、表示制御部59は、選択された特定報知対象23を含む所定の領域を拡大させた拡大画像43をディスプレイ4に表示させ、S30へと移行する。このS29の動作は、表示制御工程に相当する。
S30において、表示制御部59は、拡大画像43と、拡大強調画像44とをディスプレイ4に重畳表示させる。そして、表示制御部59は、シフトレバーがリバースか否かを判定し、リバースであれば、表示制御処理を継続し、シフトレバーがリバースでなくなった場合、処理を終了する。尚、S29及びS30の処理のタイミングを揃えてもよい。また、S30の処理をなくしてもよい。
(作用効果)
以上説明した第2実施形態の作用効果を、以下に説明する。
第2実施形態に係る電子制御装置92によると、表示制御部959は、撮影画像40内に通常報知対象22と特定報知対象23とが共に存在すると判定した場合、撮影画像40と、通常強調画像41と、撮影強調画像42とを重畳表示させる。これにより、撮影画像40内の特定報知対象23と、通常報知対象22とを容易に区別することができる。
さらに第2実施形態によると、表示制御部959は、報知対象検出部957により検出された報知対象が1つ、かつ、その報知対象が特定報知対象であると判定した場合、拡大画像43よりも撮影画像40を暗く表示させる。これにより、拡大画像43内の特定報知対象23をより認識しやすくなる。
(他の実施形態)
以上、本発明の複数の実施形態について説明したが、本発明は、それらの実施形態に限定して解釈されるものではなく、本発明の要旨を逸脱しない範囲内において種々の実施形態及び組み合わせに適用することができる。
(変形例1)
上記実施形態では、S8及びS9により、撮影強調画像42と、撮影画像40とをディスプレイ4に重畳表示させたあと、拡大画像43を表示させるか否かを判断した。これに代えて、S8及びS9の処理をなくし、表示制御部59は、特定報知対象23が存在すると判定した場合、拡大画像43をディスプレイ4に表示させるようにしてもよい。これにより、乗員が特定報知対象23を選択する操作を行う必要がなくなり、利便性が向上する。
さらに、この変形例1において、表示制御部59は、図12のように、拡大画像43と、撮影画像40内の特定報知対象23とが重なるように重畳表示させるようにしてもよい。尚、ここでの重なるとは、拡大画像43が、撮影画像40内の特定報知対象23を覆う場合と、拡大画像43が、撮影画像40内の特定報知対象23の一部と重なる場合とを含んでいる。
変形例1では、S8及びS9の処理をなくすことにより撮影画像40内の特定報知対象23を強調させないため、乗員が撮影画像40内に存在する特定報知対象23を認識できていないおそれがある。そのため、拡大画像43を撮影画像40内の特定報知対象23が表示されている位置に表示させることで、撮影画像40内の特定報知対象23の位置を認識しやすくする。
(変形例2)
上記実施形態では、S26、S27及びS28により、撮影強調画像42及び撮影画像40、若しくは撮影強調画像42、通常強調画像41及び撮影画像40をディスプレイ4に重畳表示させたあと、拡大画像43を表示させるか否かを判断する処理とした。これに代えて、S26、S27及びS28の処理をなくし、表示制御部959は、特定報知対象23が存在すると判定した場合、拡大画像43をディスプレイ4に表示させるようにしてもよい。これにより、乗員は特定報知対象23を選択する操作を行う必要がなくなり、利便性が向上する。
変形例2において、特定報知対象23が複数存在した場合、各特定報知対象23を拡大画像43としてあらかじめ定められた順番に表示させてもよい。このあらかじめ定められた順番とは、例えば各特定報知対象23のうち、車両100との距離が近い順番である。また、特定報知対象23が複数存在した場合、車両100との距離が最も近い特定報知対象23のみを表示させてもよい。
また、複数の拡大画像43を同時に表示させてもよい。複数の拡大画像43を同時に表示させる場合には、あらかじめ定められた拡大画像43の数を表示させる。これは、一度に報知する情報を制限することで、必要以上の報知情報で運転者の判断が妨げられることを防ぐためである。
(変形例3)
上記実施形態では、選択判定部60は、室内入力部7又はタッチパネル70への入力に基づいて、乗員が特定報知対象23を選択したか否かを判定する。
これに加えて、図13に示すような構成としてもよい。図13は、変形例3による電子制御装置82の内部構成について示すブロック図である。
図13に示すように、電子制御装置82は、制御部85と、記憶部6とを備えている。また、電子制御装置82には、車外カメラ3と、ディスプレイ4と、室内入力部7とに加えて、車速センサ9と、車内カメラ10とが接続されている。車内カメラ10は、車両100の室内に設けられ、乗員の顔を撮影する。
そして、制御部85は、新たに停止判定部52と、視線検出部53とを備える。
停止判定部52は、車速センサ9から車両100が停止しているか否かを判定し、判定結果に関する情報を停止情報として、表示制御部859が新たに有する注視判定部80に出力する。尚、停止判定部52は、図示しない加速度センサから車両100が停止しているか否かを判定してもよい。
視線検出部53は、車内カメラ10により撮影された乗員の顔画像から乗員の視線の向きを検出する。視線検出部53は、検出した乗員の視線の向きに関する情報を視線情報として注視判定部80に出力する。
この注視判定部80は、停止情報と、視線情報とに基づいて、乗員が特定報知対象23を注視しているか否かを判定する。具体的には、注視判定部80は、車両100が停止しており、かつ、乗員の視線の向きがディスプレイ4を見る向きであった場合、ディスプレイ4に表示された特定報知対象23を注視したと判定する。
そして選択判定部81は、注視判定部80により、乗員が特定報知対象23を注視したと判定された場合、乗員がディスプレイ4に表示させる特定報知対象23を選択したと判定する。
これにより、乗員が室内入力部7又はタッチパネル70へ入力することなく、特定報知対象23を選択することができるため、利便性が向上する。