JP6869448B2 - 情報提示装置及び情報提示制御方法、並びにプログラム及び記録媒体 - Google Patents

情報提示装置及び情報提示制御方法、並びにプログラム及び記録媒体 Download PDF

Info

Publication number
JP6869448B2
JP6869448B2 JP2020567673A JP2020567673A JP6869448B2 JP 6869448 B2 JP6869448 B2 JP 6869448B2 JP 2020567673 A JP2020567673 A JP 2020567673A JP 2020567673 A JP2020567673 A JP 2020567673A JP 6869448 B2 JP6869448 B2 JP 6869448B2
Authority
JP
Japan
Prior art keywords
display
vehicle
information
image
obstacle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020567673A
Other languages
English (en)
Other versions
JPWO2020152737A1 (ja
Inventor
大樹 工藤
大樹 工藤
雅浩 虻川
雅浩 虻川
貴弘 大塚
貴弘 大塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP6869448B2 publication Critical patent/JP6869448B2/ja
Publication of JPWO2020152737A1 publication Critical patent/JPWO2020152737A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/008Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for anti-collision purposes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/29Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area inside the vehicle, e.g. for viewing passengers or cargo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30268Vehicle interior

Description

本発明は、情報提示装置及び情報提示制御方法、並びにプログラム及び記録媒体に関する。
車両の周囲を撮像することで得られた画像を、車両内の表示手段で表示することで、運転支援を行う装置が知られている。特許文献1には、運転者の視線に基づき、運転者が注視している対象を特定し、特定された注視対象に応じて表示される情報の種類を切り替える表示装置が開示されている。
特開2008−13070号公報(段落0021、0022)
特許文献1の装置では、運転者が表示情報を確認するには、注視対象から表示手段に視線を移動させなければならず、注視対象と表示手段とが異なる方向にある場合に、表示情報の確認までに時間を要するという課題があった。
本発明の情報提示装置は、
車両の周辺を撮像し、車外画像を生成する車外撮像部と、
前記車両の内部を撮像し、車内画像を生成する車内撮像部と、
複数の表示手段を有する表示装置と、
前記車外画像から1又は2以上の障害物を認識し、当該障害物の認識の結果を示す障害物情報を生成し、前記車内画像から運転者の視線の方向を表す視線情報を生成し、前記障害物情報と前記視線情報とに基づいて、前記複数の表示手段の各々における表示に関する決定を行い、該決定に基づいて前記複数表示手段の各々における表示を制御する情報提示制御装置とを備え、
前記表示に関する決定は、前記複数の表示手段の各々における、前記車外画像の表示が必要か否かの決定、及び前記車外画像中の各障害物に対する強調処理に関する決定を含み、
前記強調処理に関する決定は、強調が必要か否かの決定及び強調のレベルの決定を含み、
前記情報提示制御装置は、認識された1又は2以上の障害物の各々を含む画像を、前記複数の表示手段のうち、運転者にとって当該障害物の方向又はそれに近い方向にある表示手段に表示させる
ことを特徴とする。
本発明によれば、認識された1又は2以上の障害物の各々を含む画像を、前記複数の表示手段のうち、運転者にとって当該障害物の方向又はそれに近い方向にある表示手段に表示させるので、車両の周囲のある方向を視認している運転者が、同じ方向を撮像することで得られた画像を視認するために、視線を移動させる必要がないので、表示された画像の確認までの時間を短くすることができる。
本発明の実施の形態1の情報提示装置を示すブロック図である。 情報提示装置が搭載された車両を示す概略図である。 左表示器及び右表示器の位置関係を示す図である。 車外撮像部を構成する広角カメラの撮像範囲と運転者の視野を示す図である。 図1の情報提示制御装置の構成例を示すブロック図である。 左表示器及び右表示器で表示される画像の視野角を示す図である。 撮像画像中で検出される障害物、及び当該障害物を内包する矩形の領域の一例を示す図である。 実施の形態1の強調判定部による、左表示器における表示に関する決定の方法の一例を示す表である。 表示装置の変形例を示す概略図である。 本発明の実施の形態2の情報提示装置を示すブロック図である。 図10の情報提示制御装置の構成例を示すブロック図である。 本発明の実施の形態3で用いられる情報提示制御装置の構成例を示すブロック図である。 実施の形態3の強調判定部による、左表示器における表示に関する決定の方法の一例を示す表である。 狭い道路を走行中の車両を示す概略図である。 本発明の実施の形態4の情報提示装置を示すブロック図である。 図15の情報提示制御装置の構成例を示すブロック図である。 本発明の実施の形態5で用いられる情報提示制御装置を示すブロック図である。 (a)及び(b)は、障害物の危険度の判定方法の一例を示す図である。 実施の形態5の強調判定部による、左表示器における表示に関する決定の方法の一例を示す表である。 車外撮像部のカメラの配置の変形例を示す図である。 車外撮像部のカメラの配置の変形例を示す図である。 車外撮像部のカメラの配置の変形例を示す図である。 実施の形態1〜5で用いられる情報提示制御装置の諸機能を実現する1つのプロセッサを備えたコンピュータの構成例を示すブロック図である。
以下、添付の図面を参照して本発明の実施の形態を説明する。
実施の形態1.
図1は、本発明の実施の形態1の情報提示装置1の構成例を示すブロック図である。
図示の情報提示装置1は、例えば図2に示されるように、車両102に搭載されるものであり、車外撮像部2と、車内撮像部3と、情報提示制御装置4と、表示装置5とを有する。
表示装置5は、左表示手段としての左表示器5Lと、右表示手段としての右表示器5Rとを含む。例えば、図3に示すように、車両の右側にある運転席に、前方FWを向いて着座している運転者Uの視点Ueから見て、左表示器5Lは左側に配置されており、右表示器5Rは右側に配置されている。
車外撮像部2は、車両102の周辺を撮像し、車外画像Daを生成して出力する。
車外撮像部2は、図4に示される広角カメラ2aを含む。広角カメラ2aは、車両102に取り付けられ、車外を撮像する。広角カメラ2aは例えば車両102の前端部104に設置されている。図示の例では、広角カメラ2aは車両の幅方向の中央部に設けられている。
広角カメラ2aの水平方向の視野角θaが180度以上であるのが望ましい。
図4では、車両102が、狭くて両側に視界を遮る側壁などの建造物114等がある道路112から交差点116に進入しようとしている。この場合、運転者Uにとって、視点Ueと、建造物114の突端部114a、114bとを結ぶ直線Uva、Uvbの集合で画定される視認可能範囲の外側に位置する範囲αL、αRが見えない又は見えにくい範囲である。ここで、「見えにくい範囲」とは、運転者が大きく姿勢を変えるなどしないと見えない範囲である。見えにくい範囲は、通常の姿勢では見えない範囲であるので、その意味で見えない範囲、或いは死角の範囲であるとも言える。
カメラ2aの視野角θaには、上記の見えない又は見えにくい範囲αL、αRの少なくとも一部が含まれる。従って、カメラ2aによる撮像画像は、上記の見えない又は見えにくい範囲の障害物が含まれる。
上記の例は、交差点に進入する場合であるが、建物内の駐車場から道路に進入する場合にも同様の問題がある。
車内撮像部3は、車両の内部、特に運転者の顔及びその周辺を撮像して、車内画像Dbを生成して出力する。
車内撮像部3は、運転者の顔及びその周辺を撮像可能なように設置されたカメラ(図示しない)を含む。
カメラとして、車両の内部が暗くても撮像が可能なように、赤外線センサを備えたものを用いても良い。赤外線センサとともに赤外線照射器をさらに備えたものを用いても良い。
情報提示制御装置4は、車外画像Da及び車内画像Dbに基づいて、表示装置5での画像の表示を制御する。
情報提示制御装置4は、例えば、図5に示すように、画像補正部41と、画像認識部42と、視線情報取得部43と、強調判定部44と、表示制御部45とを有する。
画像補正部41は、車外撮像部2から入力された車外画像Daから、左画像と右画像とを抽出し、抽出された画像に対して歪補正を行って、左補正画像FL及び右補正画像FRとして出力する。
左画像及び右画像はそれぞれ例えば図6における視野角βL及びβRの画像である。
視野角βLは、正面方向よりも左向きの方向を中心とする角度範囲である。
視野角βRは、正面方向よりも右向きの方向を中心とする角度範囲である。
視野角βLには、見えない又は見えにくい範囲αLの少なくとも一部が含まれ、視野角βRには、見えない又は見えにくい範囲αRの少なくとも一部が含まれる。
左画像及び右画像は、広角レンズでの撮像で得られた画像であるので、歪みがあって、人には見にくく、また画像認識部42による画像認識処理がしにくい。そこで、この歪みを除いて、見やすい画像にするのが歪補正である。
画像認識部42は、左補正画像FL及び右補正画像FRの各々につき画像認識を行い、画像中の1又は2以上の障害物を認識し、障害物認識結果を示す障害物情報を生成して出力する。画像認識には公知の種々のアルゴリズムを用いることができる。
ここでいう障害物は、運転上衝突を避ける必要のある他の車両、歩行者などである。車両には自動車及び自転車が含まれる。
他の車両との区別のため情報提示装置1が搭載されている車両102を「自車両」と言うことがある。
障害物情報には、各障害物の種類を示す情報、当該障害物の画像内における位置を示す情報、及び当該障害物の画像内におけるサイズを示す情報が含まれる。
画像内における障害物の位置は、図7に示すように、画像の基準点、例えば、左上隅を原点とする、障害物の代表点の位置の二次元座標(x,y)で表される。ここで言う代表点は、例えば障害物を内包する矩形の領域の左上隅である。
各障害物を内包する矩形の領域は、画像中における当該障害物の最も下に位置する点を通過する水平方向の線分、最も上に位置する点を通過する水平方向の線分、最も左に位置する点を通過する垂直方向の線分、及び最も右に位置する点を通過する垂直方向の線分を辺とする矩形の領域である。
例えば、図7に示すように、画像中に障害物BJを認識した場合、それを内包する矩形の領域BRを検出する。
障害物のサイズを示す情報は、矩形の領域BRの幅w及び高さhを示す情報であっても良い。代わりに、矩形の領域BRの左上隅の座標及び右下隅の座標を、サイズを示す情報として用いても良い。
視線情報取得部43は、車内画像Dbに対して顔検出及び顔特徴検出を行い、視線の方向を検出し、視線の方向を示す視線情報を生成して出力する。顔検出、顔特徴検出、及びこれらの検出結果に基づく視線の方向の検出には、公知の種々の方法を用いることができる。
強調判定部44は、画像認識部42からの障害物情報と、視線情報取得部43からの視線情報とに基づいて、左表示器5L及び右表示器5Rの各々における表示に関する決定を行う。
表示に関する決定は、表示が必要か否かの決定、及び強調処理に関する決定を含む。強調処理に関する決定は、強調処理が必要か否かの決定及び強調レベルの決定を含む。
強調処理は、画像中の障害物が目立つようにする処理である。強調処理の方法としては、例えば以下の方法のいずれを用いても良い。
(a1) 障害物を目立つ色の線で囲む。
(a2) 障害物を囲む枠線を点滅させる。
(a3) 障害物周辺の輝度を上げる。
(a4) 障害物以外の画像をぼかす、消す、輝度を下げる。
本実施の形態では、強調処理は異なるレベルで行われる。
強調レベルをより高くする方法としては、以下の方法を用い得る。
(b1) 強調が方法(a1)で行われる場合、枠線の色をより目立つものにする。
例えば、赤色はオレンジ色よりもより目立つ色として用いることができる。
(b2) 強調が方法(a2)で行われる場合、枠線の点滅の周期を短くする。
(b3) 強調が方法(a3)で行われる場合、障害物周辺の輝度をより高くする。
(b4) 強調が方法(a4)で行われる場合、画像をぼやかす、消す、輝度を下げる程度をより大きくする。
また、方法(a1)〜(a4)のうちいずれかをあるレベルの強調処理として用い、別のものをそれとは異なるレベルの強調処理で用いることとしても良い。
上記のように、強調判定部44が行う表示に関する決定には、表示器の各々における表示が必要か否かの決定及び強調レベルの決定が含まれる。
図8は、左表示器5Lにおける表示に関する決定の方法(決定規則)の一例を示す。
図8において、条件1A〜1Dは、左補正画像FL内に障害物があるか否かの判定の結果と視線が左向きであるか否か判定の結果の組合せ、即ち全部で4つの場合に対応する。図8には、それぞれの場合における左表示器5Lにおける表示の要否、及び強調レベルが示されている。
条件1Aでは、左側に障害物がなく、運転者の視線は左側に向けられていない。条件1Aが満たされた場合には、表示は不要と判断する。この結果、左表示器5Lでは、画像FL又はこれを元にして生成された画像の表示は行われず、或いは表示の輝度が大幅に低くされる。
条件1Bでは、左側に障害物がなく、運転者の視線は左側に向けられている。条件1Bが満たされた場合には、表示が必要と判断する。ただし、障害物がないため、強調処理は不要と判断する。強調処理が不要であることを「強調レベル0」で示す。
条件1Cでは、左側に障害物があり、運転者の視線は左側に向けられていない。条件1Cが満たされた場合には、表示が必要と判断する。また、画像中の障害物に対して強調処理が必要と判断する。
条件1Dでは、左側に障害物があり、運転者の視線は左側に向けられている。条件1Dが満たされた場合には、表示が必要と判断する。また、画像中の障害物に対して強調処理が必要と判断する。
強調のレベルは、条件1Dの場合よりも条件1Cの場合により高くする。図示の例では、条件1Dの場合には、強調レベルを1にするのに対し、条件1Cの場合には、強調レベルを2にしている。
これは、条件1Dの場合には、運転者が障害物に気付いている可能性が大きいのに対し、条件1Cの場合には、運転者が気付いていない可能性が大きいからである。
強調レベルをより高くすることにより、画像中の障害物がより目立つものとなり、運転者が障害物に気付くのを早めることが可能となる。
以上、左表示器5Lにおける表示に関する決定について説明したが、右表示器5Rにおける表示に関する決定も同様に行い得る。即ち、上記の説明中の「左」を「右」と読み替えれば、右表示器5Rにおける表示に関する決定に当てはまるものとなる。
左表示器5Lについての判定方法に関し、「視線が左向きである」と言うのは、視線が左向きである状態が連続的に維持されている場合に限定されず、短い時間の中断を伴っていても良い。例えば、左に向けられている状態と、短い時間だけ他の方向に向けられている状態とが交互に繰り返されていても良い。
従って、例えば、左に向けられている状態と右に向けられている状態が短時間ずつ交互に繰り返されている場合には、「左向きである」とともに「右向きである」という判断になる。
この場合、左表示器5L及び右表示器5Rの双方について表示が必要と判断される。
このようにするのは、短時間ずつ視線方向が切り替わるのは、運転者にとって見えない又は見えにくい範囲が大きく、直視での障害物の有無の確認が困難である状況にあると推定されるためである。
表示制御部45は、強調判定部44における決定の結果に基づいて、左表示器5L及び右表示器5Rの各々における表示の制御を行なう。表示の制御には、表示を行うかどうかの制御、及び強調処理に関する制御を含む。強調処理に関する制御は、強調処理を行うかどうかの制御及び強調レベルの制御を含む。
強調判定部44で、左表示器5Lに関して表示が必要と判断されたときは、表示制御部45は、左表示器5Lに画像の表示を行わせる。その場合、左補正画像FLに対して、強調判定部44で決定された強調レベルに応じた強調処理を施して左提示画像GLを生成して、左表示器5Lに供給して表示を行わせる。
強調判定部44で、左表示器5Lにおける表示が不要と判断されたときは、表示制御部45は、左表示器5Lにおける画像の表示を行わせず、又は表示輝度を大幅に小さくする。
強調判定部44で、右表示器5Rに関して表示が必要と判断されたときは、表示制御部45は、右表示器5Rに画像の表示を行わせる。その場合、右補正画像FRに対して、強調判定部44で決定された強調レベルに応じた強調処理を施して右提示画像GRを生成して、右表示器5Rに供給して表示を行わせる。
強調判定部44で、右表示器5Rにおける表示が不要と判断されたときは、表示制御部45は、右表示器5Rにおける画像の表示を行わせず、又は表示輝度を大幅に小さくする。
画像FL、FR、GL、GRはいずれも撮像で得られた画像であるので、これらを単に撮像画像と呼ぶことがある。
左表示器5Lで左提示画像GLが表示される場合、左方向の撮像画像(例えば、視野角βLの画像)が表示されるので、左方向にある障害物の画像を左表示器5L上で認識することができる。即ち、障害物が運転者にとって見えない方向又は見えにくい方向、即ち範囲αLにあっても、当該障害物を表示画像で認識することができる。
同様に、右表示器5Rで右提示画像GRが表示される場合、右方向の撮像画像(例えば、視野角βRの画像)が表示されるので、右方向にある障害物の画像を右表示器5R上で認識することができる。即ち、障害物が運転者にとって見えない方向又は見えにくい方向、即ち範囲αRにあっても、当該障害物を表示画像で認識することができる。
上記の説明における表示に関する決定は、撮像画像、即ち、車外撮像部2による撮像で得られた画像の表示に関する決定である。即ち、表示が不要と判定したときには、表示を行わず、又は表示の輝度を大幅に低くする。
ここで、表示を行わないとは、撮像画像の表示を行わないという意味であり、撮像画像、即ち車外撮像部2による撮像で得られた画像の表示を行わないときには、他の画像を表示することとしても良い。
上記の図3では、車両102が右ハンドル車であり、運転者の視点Ueの位置が車両102の右側にある場合を示す。車両102は左ハンドル車である場合には、運転者の視点Ueが車両102の左側にあるが、上記の同様の制御を行ない得る。
上記の例では、表示装置5が左表示器5L及び右表示器5Rを備えている。代わりに表示装置として、図9に示すように1枚の横長の表示面51を有し、表示面51内の左側の表示領域52Lと右側の表示領域52Rに別個の画像を表示し得るものを用いても良い。
この場合は、左側の表示領域52Lが左表示手段を構成し、右側の表示領域52Rが右表示手段を構成する。
上記の例では、画像補正部41が、車外撮像部2から入力された車外画像Daから、左画像と右画像とを抽出し、抽出された画像に対して歪補正を行って、左補正画像FL及び右補正画像FRとして出力する。
カメラ2aの機種によっては、左画像及び右画像を抽出し、歪補正を行った後の画像を出力する場合もある。その場合、画像補正部41における抽出処理及び歪補正処理は省略可能である。即ち、画像補正部41を省略しても良い。
上記の例では、表示装置が左表示手段及び右表示手段を有するが、表示装置5が3個以上の表示手段を有していても良い。
上記した実施の形態1によれば、各障害物を含む画像を、当該障害物の方向又はこれに近い方向にある表示手段に表示させるので、運転者にとって自然な動作で、障害物の画像を視認することができる。即ち、車両102の周囲のある方向を視認している運転者が、同じ方向を撮像することで得られた画像を視認するには、視線を移動させる必要がないので、画像の確認までに時間を短くすることができる。
また、表示手段に表示されている画像中の障害物が、当該表示手段と同じ方向に位置しているので、運転者は、当該障害物が存在する方向を直感的に把握することができる。
また、運転者の視線の方向に応じて、各表示手段での画像の表示が必要か否かの決定を行なうので、必要であるときは、障害物の表示を行って注意喚起を行い、不要であるときは表示を行わず又は表示輝度を下げることで不要な注意喚起をしないようにすることができる。
さらに、運転者の視線の方向に応じて、表示手段に表示される画像中の障害物に対する強調の制御を行なうので、必要の度合いに応じて強調のレベルを適切に変えることができる。例えば、運転者の視線が障害物とは異なる方向に向けられている場合、強調表示を行うことで障害物に対する注意を喚起し、障害物を認識させやすくすることができる。一方、運転者の視線が障害物の方向に向けられている場合、強調表示を行わず、或いは強調のレベルをより低くすることで、画像が過度に目立つことがないようにすることができる。
実施の形態2.
図10は、本発明の実施の形態2の情報提示装置1aの構成例を示すブロック図である。
図示の情報提示装置1aは、図1の情報提示装置1と概して同じであるが、音声出力装置6と、表示灯7とが付加されており、情報提示制御装置4の代わりに、情報提示制御装置4aを備えている。
音声出力装置6は、1又は2以上のスピーカを含む。
表示灯7は、例えば、1又は2以上の表示素子で構成されている。各表示素子はLEDで構成されていても良い。
表示灯7は、例えばダッシュボード上に設けられていても良く、Aピラー(前方のピラー)に設けられていても良い。
図11は、図10の情報提示制御装置4aを示す。図示の情報提示制御装置4aは、図5の情報提示制御装置4と概して同じであるが、音声出力制御部46と、表示灯制御部47とが付加されており、強調判定部44の代わりに強調判定部44aが設けられている。
強調判定部44aは、実施の形態1の強調判定部44と同様に、表示に関する決定を行うとともに、表示に関する決定に準じて、音声出力及び表示灯制御に関する決定を行う。
例えば、左表示器5L及び右表示器5Rの少なくとも一方における画像の表示に関して、表示が必要であり、強調が必要であり、強調レベルが予め定められた値以上とすべきであると決定した場合に、音声出力及び表示灯による注意喚起が必要と決定する。
強調レベルについての上記の予め定められた値は、表示に関する決定で用いられるレベルのうち最も高い値であっても良い。例えば、図8に示される例では強調レベル2が最も高い値である。
上記の予め定められた値とし強調レベル2を用いる場合、左表示器5Lについて、図8の条件1Cが満たされた場合又は右表示器5Rに同様の条件が満たされた場合に、注意喚起が必要と決定することになる。
音声出力制御部46は、強調判定部44aにおける決定に従って、音声出力装置6に注意喚起のための音声を出力させる。具体的には、音声制御信号Saを音声出力装置6に供給して音声を出力させる。
この音声は、警報音であっても良く、音声メッセージであっても良い。
例えば、左表示器5Lに関し、図8の条件1Cが満たされた場合、又は右表示器5Rに関し、図8の条件1Cと同様の条件が満たされた場合に、音声を出力させても良い。
左表示器5Lに関し、図8の条件1Cが満たされた場合には、「左側の車にご注意下さい」と言ったメッセージを出力させても良い。右表示器5Rに関し、図8の条件1Cと同様の条件が満たされた場合には、「右側の車にご注意下さい」と言ったメッセージを出力させても良い。
表示灯制御部47は、強調判定部44aにおける決定に従って、表示灯7に注意喚起のための点灯、或いは点滅を行わせる。具体的には、表示灯駆動信号Sbを表示灯7に供給して点灯又は点滅を行わせる。
なお、音声出力装置6として複数のスピーカを含むものを用いて、障害物のある方向から音声が聞こえるようにする制御を行なっても良い。このような制御は例えば音像制御によって実現し得る。
また、表示灯7を線状に配置された複数の表示素子の列で構成し、該列の一端から他端に順に点滅させることで、注意を向けるべき方向を示すこととしても良い。例えば、複数の表示素子の列を、水平方向に延びる列としておき、運転者の視線を左に誘導したいときは、右端から左端に順次点滅させ、運転者の視線を右に誘導したいときは、左端から右端に順次点滅させることとしても良い。
実施の形態3.
本発明の実施の形態3の情報提示装置の全体的構成は、実施の形態1に関し、図1を参照して説明したのと同様である。図12は、実施の形態3の情報提示装置で用いられる情報提示制御装置4bの構成例を示すブロック図である。
図示の情報提示制御装置4bは、図5の情報提示制御装置4と概して同じであるが、図5の画像認識部42及び強調判定部44の代わりに、画像認識部42b及び強調判定部44bが設けられている。
画像認識部42bは、図の画像認識部42と同様に、障害物についての認識を行うだけでなく、自車両の周辺の状況に対する認識をも行い、認識結果を示す周辺状況情報を生成して出力する。自車両の周辺の状況に対する認識には、例えば自車両が交差点の付近にいるか否かについての判定結果が含まれる。
自車両の周辺の状況の認識には公知の種々のアルゴリズムを用い得る。
自車両が交差点の付近にいるか否かについては、画像中の信号機、道路標識、路面標示等に基づいて判断を行なっても良い。
強調判定部44bは、障害物情報及び視線情報のみならず、周辺状況情報をも用いて表示に関する決定を行なう。
例えば、自車両が交差点の付近にいないと判断したときは、撮像画像の表示は不要と判断する。
自車両が交差点の付近にいる判断したときには、図8と同様に、障害物情報及び視線情報に基づいて表示に関する決定を行う。
図13は、実施の形態3における、左表示器5Lにおける表示に関する決定の方法(決定規則)の一例を示す。
条件3Aでは、自車両が交差点の付近にいない。条件3Aが満たされた場合には、表示は不要と判断する。即ち、自車両が交差点の付近にいない場合には、障害物の有無及び視線の方向に関わらず、左表示器5Lにおける表示は不要と判断する。
条件3B〜3Eは、自車両が交差点の付近にいる場合である。
条件3B〜3Eは、自車両が交差点の付近にいるという条件が付加されていることを除けば、図8の条件1A〜1Dと同じであり、左表示器5Lにおける表示に関する決定(表示の要否及び強調レベル)も、条件1A〜1Dの場合と同じである。
上記の例では、強調判定部44bは、自車両が交差点の付近にいる場合には、その他の条件に基づく決定を実施の形態1の強調判定部44と同様に行い、自車両が交差点の付近にいないときは、左表示器5Lにおける表示を不要と決定する。
即ち、自車両が交差点の付近にいるときは、注意喚起レベルを高くして、左表示器5Lにおける表示に関する決定を実施の形態1と同様に行う一方、自車両が交差点の付近にいないときは、注意喚起レベルを低くして、表示器における表示は不要と決定している。
以上、左表示器5Lにおける表示に関する決定について説明したが、右表示器5Rにおける表示に関する決定も同様に行い得る。即ち、上記の説明中の「左」を「右」と読み替えれば、右表示器5Rにおける表示に関する決定に当てはまるものとなる。
上記の例では、交差点の付近か否かを判断しているが、交差点であっても見通しの良い交差点では、注意喚起レベルを高くする必要がないと考えることもできる。そこで、狭くて見通しの悪い道路から交差点に入ろうとしているか否かを判断し、判断結果をも考慮に入れて、表示に関する決定を行なっても良い。
例えば、図14に示すように、自車両が側壁などの建造物114に挟まれた狭い道路112を一定時間以上走行しているか否かを判定し、判定結果を利用しても良い。即ち、そのような判定の結果がYESであり、かつ自車両が交差点116の付近にいることが検出された場合には、注意喚起レベルを上げることとしても良い。
代わりに、距離センサで自車両の側方にある側壁などの建造物114までの距離を測定し、測定結果を利用しても良い。即ち、建造物114までの距離が短く、かつ自車両が交差点116の付近にいることが検出された場合には注意喚起レベルを上げることとしても良い。
以上、自車両が交差点の付近にいる場合に注意喚起レベルを高くする例について説明したが、代わりに、自車両が建物内の駐車場から道路に進入しようとしているか否かを判定し、そのような状況であれば注意喚起レベルを高くすることとしても良い。
これらの場合、注意喚起レベルを高くした場合には、図13の条件3B〜3Eによる表示に関する決定を行なうことになる。
上記した実施の形態3によれば、実施の形態1と同様の効果に加えて以下の効果が得られる。
即ち、画像認識部42bで生成された周辺状況情報に基づいて表示に関する決定及び表示の制御を行なうので、表示の要否の判定及び強調レベルの決定などを、自車両の周辺の状況に応じて適切に行うことができる。
実施の形態4.
図15は、本発明の実施の形態4における情報提示装置1cの構成例を示すブロック図である。
図示の情報提示装置1cは、図1の情報提示装置1と概して同じであるが、位置情報取得装置8及び地図情報データベース9が付加されており、情報提示制御装置4の代わりに、情報提示制御装置4cが設けられている。
位置情報取得装置8は、自車両の位置を示す位置情報Dpを生成して出力する。代表的な例としてGPS(Global Positioning System)受信機が挙げられるが、どのような位置情報取得装置を用いても良い。
地図情報データベース9は、地図情報を記憶しているデータベースである。地図情報には、交差点に関する情報が含まれる。
図16は、情報提示制御装置4cの構成例を示すブロック図である。
図示の情報提示制御装置4cは、図12の情報提示制御装置4bと概して同じであるが、周辺状況認識部48が付加されており、強調判定部44bの代わりに強調判定部44cを備える。
周辺状況認識部48は、位置情報取得装置8から自車両の位置情報Dpを取得し、地図情報データベース9から、自車両の周辺の地図情報Dmを取得し、位置情報で示される位置の周辺の地図情報を参照することで、自車両の周辺の状況を認識し、認識結果を示す周辺状況情報を生成して出力する。周辺状況情報は、例えば、自車両が交差点の付近にいるか否かを示すものである。
図16の強調判定部44cは、図12の強調判定部44bと同様に、障害物情報、視線情報及び周辺状況情報に基づいて、表示に関する決定を行う。但し、図12では、周辺状況情報が画像認識部42bから供給されるのに対し、図16では、周辺状況認識部48から供給される。
障害物情報、視線情報及び周辺状況情報に基づく、表示に関する決定の方法は、実施の形態3に関し、図13を参照して説明したのと同じである。
以上、左表示器5Lにおける表示に関する決定について説明したが、右表示器5Rにおける表示に関する決定も同様に行い得る。即ち、上記の説明中の「左」を「右」と読み替えれば、右表示器5Rにおける表示に関する決定に当てはまるものとなる。
なお、地図情報に道路の広さを示す情報が含まれる場合には、そのような情報を併せて利用しても良い。例えば狭い道路から交差点に進入する場合に限り、注意喚起レベルを高くして、表示器における表示に関する決定を実施の形態1と同様に行う一方、それ以外のとき、即ち、自車両が交差点の付近にいないとき、或いは交差点の付近にいるが走行中の道路が広いときは、注意喚起レベルを低くして、表示器における表示は不要と判断しても良い。
また、周辺状況情報として、自車両が交差点の付近にいるか否かについての判定結果ではなく、自車両が建物内の駐車場から道路に進入しようとしているか否かを判定し、そのような状況であれば注意喚起レベルを高くすることとしても良い。
上記した実施の形態4によれば、実施の形態3と同様の効果が得られる。
また、位置情報と地図情報から周辺状況情報を生成しているので、撮像画像に基づく認識が困難である場合にも、周辺の状況を正しく認識することが可能である。
実施の形態3では、自車両が交差点の付近にいるか否の判断に画像認識部42bによる認識結果を用いており、実施の形態4では、自車両が交差点の付近にいるか否の判断に、地図情報データベース9からの地図情報を用いているが、これらの代わりに、或いはこれらとともに、自車両の速度及び運転者によるウィンカーの操作の少なくとも一方に基づいて自車両が交差点にいるかの判断を行なっても良い。
実施の形態5.
本発明の実施の形態5の情報提示装置の全体的構成は、実施の形態1に関し、図1を参照して説明したのと同様である。図17は、実施の形態5の情報提示装置で用いられる情報提示制御装置4dの構成例を示すブロック図である。
図示の情報提示制御装置4dは、図5の情報提示制御装置4と概して同じであるが、危険度判定部49が付加されており、図5の強調判定部44の代わりに、強調判定部44dが設けられている。
危険度判定部49は、画像認識部42からの障害物情報に基づいて、障害物の危険度を判定し、判定結果を示す危険度情報を生成して出力する。
例えば、画像内における障害物の位置に基づいて危険度を判定することとしても良い。
例えば左補正画像FLについて、図18(a)に示すように、画像のうちの左端に近い部分FLaを危険度の比較的高い領域と指定し、残りの部分FLbを危険度の比較的低い領域と指定する。そして、領域FLa内にある障害物は危険度が高いと判定する。このように判定するのは、領域FLa内にある障害物は自車両により近い位置にあるためである。
同様に、右補正画像FRについて、図18(b)に示すように、画像のうちの右端に近い部分FRaを危険度の比較的高い領域と指定し、残りの部分FRbを危険度の比較的低い領域と指定する。そして、領域FRa内にある障害物は危険度が高いと判定する。このように判定するのは、領域FRa内にある障害物は自車両により近い位置にあるためである。
なお、障害物の種類によって移動速度が異なるため、領域FLa、FRの位置、広さを切り替えても良い。例えば、障害物の種類を判定し、判定結果に応じて、上記の切り替えを行なっても良い。
強調判定部44dは、実施の形態1の強調判定部44の説明で示した障害物情報及び視線情報に加えて、上記した危険度情報をも用いて表示に関する決定を行う。
画像内に複数の障害物がある場合、最も危険度の高い障害物の危険度に基づいて表示に関する決定を行うこととしても良い。
図19に、実施の形態5における、左表示器5Lにおける表示に関する決定の方法(決定規則)の一例を示す。
条件5Aでは、左側に障害物がなく、運転者の視線が左側に向けられていない。条件5Aが満たされた場合には、表示は不要と判断する。
条件5Bでは、左側に障害物がなく、運転者の視線が左側に向けられている。条件5Bが満たされた場合には、表示が必要と判断する。ただし、障害物がないため、強調処理は不要と判断する。強調処理が不要であることを「強調レベル0」で示す。
条件5Cでは、左側に障害物があり、その危険度は低い。条件5Cが満たされた場合には、視線の方向に関わらず、表示が必要と判断し、強調レベルを1とする。
条件5Dでは、左側に障害物があり、その危険度が高く、運転者の視線は左側に向けられていない。条件5Dが満たされた場合には、表示が必要と判断し、強調レベルを3とする。
条件5Eでは、左側に障害物があり、その危険度が高く、運転者の視線は左側に向けられている。条件5Eが満たされた場合には、表示が必要と判断し、強調レベルを2とする。
条件5Cの場合と、条件5Dの場合と、条件5Eの場合との比較から分かるように、同じく表示が必要と判断する場合でも危険度に応じて強調レベルを変えている。即ち、危険度が高いほど、強調レベルを高くしている。このようにすることで、障害物の危険度が高いほど、運転者により早く認識させることが可能となる。
条件5Dの場合と、条件5Eの場合との比較から分かるように、同じく危険度の高い障害物が左側にあっても、運転者の視線の方向に応じて強調レベルを変えている。例えば、運転者の視線の方向が左向きでなければ、強調レベルをより高くしている。
このようにするのは、視線の方向が左向きでなければ、運転者が左側の障害物に気付いていない可能性が大きく、強調レベルをより高くすることで、運転者が左側の障害物に気付くのを早くすることが望ましいからである。
なお、ここで示した強調レベル0〜3は、実施の形態1、3で示した強調レベル0〜2に対して、レベルの数を増やしたものである。
以上、左表示器5Lにおける表示に関する決定について説明したが、右表示器5Rにおける表示に関する決定も同様に行い得る。即ち、上記の説明中の「左」を「右」と読み替えれば、右表示器5Rにおける表示に関する決定に当てはまるものとなる。
上記の例では、画像内の障害物の位置に基づいて危険度を判定している。このため比較的簡単な処理で危険度を判定することが可能である。
上記の例では、危険度が比較的高いかどうかを判定している。危険度をその高さに応じて3以上の段階に区分けしてそのいずれであるかに応じて表示に関する決定を行なっても良い。
危険度の判定を上記の方法以外の方法で行っても良い。例えば、自車両と障害物との相対速度に基づいて危険度の判定を行なっても良い。
例えば、他のセンサの結果を利用して危険度の判定を行なってもよい。
また、実施の形態3及び実施の形態4と同様に、自車両が交差点の付近にいるか否かの判定を行ない、判定結果に基づいて危険度の判定を行なっても良い。例えば、交差点の付近にいる場合には、危険度がより高いと判断しても良い。
上記した実施の形態5によれば、実施の形態1と同様の効果に加えて以下の効果が得られる。
即ち、危険度情報に基づいて表示に関する決定を行うので、危険度に応じて適切に表示の制御を行うことができる。
例えば、認識した障害物の危険度が高いときは、表示を行うとともに、危険度に応じた強調レベルで強調を行うことができる。一方、危険度が低い場合には、表示を行わず又は表示輝度を大幅に下げることとし、或いは、低い強調レベルで表示を行うことができる。即ち、必要に応じて表示及び強調を行うとともに、不要なときには過度の注意喚起をしないようにすることができる。
実施の形態1〜5においては、車外撮像部のカメラとして車両102の前端部であって、幅方向の中央部に広角カメラ2aが設置されている。
この点は必須ではなく、要するに、図6に示したように、運転者に見えない又は見えにくい方向を撮像できれば良い。即ち、車外撮像部に含まれるカメラの配置、個数に制約はない。
例えば、図20に示すように車両102の前端部の左側の部分104L及び右側の部分104Rに1台ずつ広角ではないカメラ2b、2cを設置することとしても良い。図20に示す例では、カメラ2bは、左前方を中心とする視野角θbの範囲を撮像し、カメラ2cは、右前方を中心とする視野角θcの範囲を撮像する。視野角θb、θcは例えば90度である。
広角ではないカメラを用いる場合には、画像補正部41において歪補正を行う必要がない。また2台のカメラからそれぞれの撮像画像が得られる場合には、画像補正部41では、左画像、右画像の抽出を行う必要がない。
また、図21に示すように、車両102の前端部の左側の部分104Lに設置された第1のカメラ2dで右前方を中心とする視野角θdの範囲を撮像し、車両102の前端部の右側の部分104Rに設置された第2のカメラ2eで左前方を中心とする視野角θeの範囲を撮像することで、車両102の一部が各カメラの撮像範囲に入るようにしても良い。
即ち、車外撮像部2は、車両102の前端部の左側の部分104Lに設置された第1のカメラ2dと、車両102の前端部の右側の部分104Rに設置された第2のカメラ2eとを含み、第1のカメラ2dの視野角θdが、車両102の前方から右横方向までの範囲を含み、第2のカメラ2eの視野角θeが、車両102の前方から左横方向までの範囲を含み、第1のカメラ2dの撮像範囲に、車両102の一部、例えば、前端部の右側部分の少なくとも一部が含まれ、第2のカメラ2eの撮像範囲に、車両102の一部、例えば、前端部の左側部分の少なくとも一部が含まれるものであっても良い。
このようにカメラ2d、2eの各々の撮像範囲に車両102の一部が入るようにすれば、運転者にとって撮像範囲の範囲が把握しやくなり、撮像画像中の位置と実空間の位置との対応付けが容易になるという利点がある。
さらにまた、図22に示すように、車両102の左側の部分105Lと右側の部分105Rに広角カメラ2f、2gを配置し、各カメラで車両102の前方だけでなく車両102の後方をも撮像できるようにしても良い。図示の例では、カメラ2f、2gが車両の前端部の左側の部分の前端部と右側の部分の前端部に配置されているが、左側、右側であればどこでもよく、例えば後方であっても良い。後方に配置することとすれば、後進の際に有効である。
即ち、車外撮像部2が、車両102の左側の部分104Lに設置された第1の広角カメラ2fと、車両102の右側の部分104Rに設置された第2の広角カメラ2gとを含み、第1の広角カメラ2fは、左側方を中心とする視野角θfの範囲を撮像し、第2の広角カメラ2gは、右側方を中心とする視野角θgの範囲を撮像し、視野角θf及び視野角θgは、ともに180度以上であって、第1の広角カメラ2fの撮像範囲に、車両102の左側方、前方及び後方が含まれ、第2の広角カメラ2gの撮像範囲に、車両102の右側方、前方及び後方が含まれるものであっても良い。
このような構成であれば、車両102の左右の広い範囲につき撮像画像が得られるので、広い範囲の障害物に対する注意喚起が可能となる。
実施の形態1について説明した変形は、実施の形態2〜5に対して加えることができる。
また、実施の形態2を実施の形態1に対する変形として説明したが、実施の形態3〜5に対しても同様の変形を加えることができる。
上記の情報提示制御装置4、4a、4b、4c及び4dの各々は、1又は2以上の処理回路により構成される。
各処理回路は、専用のハードウェアで構成されていても良く、プロセッサとプログラムメモリとで構成されていても良い。
専用のハードウェアで構成されている場合、各処理回路は、例えば、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)、又はこれらを組み合わせであっても良い。
プロセッサとプログラムメモリとで構成される場合、各処理回路は、ソフトウェア、ファームウェア、又はソフトウェアとファームウェアとの組み合わせにより実現されていても良い。ソフトウェア又はファームウェアはプログラムとして記述され、プログラムメモリに格納される。プロセッサは、プログラムメモリに記憶されたプログラムを読み出して実行することにより、各処理回路の機能を実現する。
ここで、プロセッサとは、例えば、CPU(Central Processing Unit)、演算装置、マイクロプロセッサ、マイクロコンピュータ、又はDSP(Digital Signal Processor)と呼ばれるものであっても良い。
プログラムメモリは、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)等の不揮発性又は揮発性の半導体メモリであってもよいし、ハードディスク等の磁気ディスクであってもよいし、CD(Compact Disc)、DVD(Digital Versatile Disc)等の光ディスクであってもよい。
情報提示制御装置4、4a、4b、4c及び4dの諸機能は、その一部を専用のハードウェアで実現し、他の一部をソフトウェア又はファームウェアで実現するようにしてもよい。このように、情報提示制御装置4、4a、4b、4c又は4dは、ハードウェア、ソフトウェア、ファームウェア、又はこれらの組み合わせによって、上記の各機能を実現することができる。
図23は、情報提示制御装置4、4a、4b、4c又は4dの諸機能を実現する1つのプロセッサを含むコンピュータを示す。
図示のコンピュータは、プロセッサ941、メモリ942、不揮発性記憶装置943、車外撮像部インタフェース944、車内撮像部インタフェース945、左表示器インタフェース946、及び右表示器インタフェース947を備えている。
不揮発性記憶装置943は、プロセッサ941が実行するプログラムを記憶している。
プロセッサ941は、不揮発性記憶装置943に記憶されているプログラムを読み出して、メモリ942に保存し、実行する。
車外撮像部インタフェース944は、情報提示制御装置4、4a、4b、4c又は4dと車外撮像部2との間のインタフェースであり、車外撮像部2から情報提示制御装置4、4a、4b、4c又は4dへ出力される画像情報を中継する。
車内撮像部インタフェース945は、情報提示制御装置4、4a、4b、4c又は4dと車内撮像部3との間のインタフェースであり、車内撮像部3から情報提示制御装置4、4a、4b、4c又は4dへ出力される画像情報を中継する。
左表示器インタフェース946及び右表示器インタフェース947は、情報提示制御装置4、4a、4b、4c又は4dと左表示器5L及び右表示器5Rとの間のインタフェースであり、それぞれ情報提示制御装置4、4a、4b、4c又は4dから左表示器5L及び右表示器5Rに出力される画像を中継する。
図23の車外撮像部2、車内撮像部3、左表示器5L及び右表示器5Rは、図1に示したものと同じであっても良い。
不揮発性記憶装置943は、情報提示制御装置4、4a、4b、4c又は4dにおける処理で用いられる情報をも記憶する。例えば不揮発性記憶装置943には、画像補正部41における画像補正、及び画像認識部42又は42bにおける画像認識、及び強調判定部44、44a、44b又は44dにおける強調判定等に使用されるパラメータ情報を記憶する。
不揮発性記憶装置943は、情報提示制御装置4、4a、4b、4c又は4dとは独立して設けられた記憶装置であってもよい。例えば、不揮発性記憶装置943として、クラウド上に存在する記憶装置を利用してもよい。
不揮発性記憶装置943は、実施の形態4の地図情報データベース9を兼ねていても良く、地図情報データベースとして別個の記憶装置又は記憶媒体が設けられていても良い。
以上、本発明に係る情報提示制御装置について説明したが、情報提示制御装置で実施される情報提示制御方法も本発明の一部を成す。また、これらの装置又は方法における処理をコンピュータに実行させるためのプログラム、及びそのようなプログラムを記録したコンピュータで読取可能な記録媒体も本発明の一部を成す。
2 車外撮像部、 2a〜2g カメラ、 3 車内撮像部、 4,4a,4b,4c,4d 情報提示制御装置、 5L 左表示器、 5R 右表示器、 6 音声出力装置、 7 表示灯、 8 位置情報取得装置、 9 地図情報データベース、 41 画像補正部、 42,42b 画像認識部、 43 視線情報取得部、 44,44a,44b,44d 強調判定部、 45 表示制御部、 46 音声出力制御部、 47 表示灯制御部、 48 周辺状況認識部、 49 危険度判定部、 941 プロセッサ、 942 メモリ、 943 不揮発性記憶装置、 944 車外撮像部インタフェース、 945 車内撮像部インタフェース、 946 左表示器インタフェース、 947 右表示器インタフェース。

Claims (15)

  1. 車両の周辺を撮像し、車外画像を生成する車外撮像部と、
    前記車両の内部を撮像し、車内画像を生成する車内撮像部と、
    複数の表示手段を有する表示装置と、
    前記車外画像から1又は2以上の障害物を認識し、当該障害物の認識の結果を示す障害物情報を生成し、前記車内画像から運転者の視線の方向を表す視線情報を生成し、前記障害物情報と前記視線情報とに基づいて、前記複数の表示手段の各々における表示に関する決定を行い、該決定に基づいて前記複数表示手段の各々における表示を制御する情報提示制御装置とを備え、
    前記表示に関する決定は、前記複数の表示手段の各々における、前記車外画像の表示が必要か否かの決定、及び前記車外画像中の各障害物に対する強調処理に関する決定を含み、
    前記強調処理に関する決定は、強調が必要か否かの決定及び強調のレベルの決定を含み、
    前記情報提示制御装置は、認識された1又は2以上の障害物の各々を含む画像を、前記複数の表示手段のうち、運転者にとって当該障害物の方向又はそれに近い方向にある表示手段に表示させる
    ことを特徴とする情報提示装置。
  2. 前記情報提示制御装置は、前記表示に関する決定において、表示が不要と決定したときは、当該障害物を含む画像の、当該表示手段での表示をさせず、又は表示の輝度を低くする
    ことを特徴とする請求項1に記載の情報提示装置。
  3. 前記情報提示制御装置は、前記車両の周辺の状況を認識して、周辺状況情報を生成し、
    前記障害物情報及び前記視線情報のみならず、前記周辺状況情報にも基づいて、前記表示に関する決定を行なう
    ことを特徴とする請求項1又は2に記載の情報提示装置。
  4. 前記情報提示制御装置は、前記車外画像から前記周辺の状況を認識する
    ことを特徴とする請求項3に記載の情報提示装置。
  5. 前記車両の位置を示す位置情報を取得する位置情報取得装置と、
    地図情報を格納した地図情報データベースとをさらに有し、
    前記情報提示制御装置は、前記位置情報で表される位置の周辺の地図情報を参照することで前記周辺の状況を認識する
    ことを特徴とする請求項3に記載の情報提示装置。
  6. 前記情報提示制御装置は、前記車外画像中の障害物の各々について危険度を検出して危険度情報を生成し、
    前記障害物情報及び前記視線情報のみならず、前記危険度情報にも基づいて、前記表示に関する決定を行う
    ことを特徴とする請求項1から5のいずれか1項に記載の情報提示装置。
  7. 前記車外撮像部は、前記車両の前端部に設置された広角カメラを含む
    ことを特徴とする請求項1から6のいずれか1項に記載の情報提示装置。
  8. 前記車外撮像部は、
    前記車両の前端部の左側の部分に設置された第1のカメラと、
    前記車両の前端部の右側の部分に設置された第2のカメラとを含み、
    前記第1のカメラが、車両の前方から右横方向までの範囲を撮像し、
    前記第2のカメラが、車両の前方から左横方向までの範囲を撮像し、
    前記第1のカメラの撮像範囲に、前記車両の前端部の右側部分の少なくとも一部が含まれ、
    前記第2のカメラの撮像範囲に、前記車両の前端部の左側部分の少なくとも一部が含まれる
    ことを特徴とする請求項1から6のいずれか1項に記載の情報提示装置。
  9. 前記車外撮像部は、
    前記車両の左側の部分に設置された第1の広角カメラと、
    前記車両の右側の部分に設置された第2の広角カメラとを含み、
    前記第1の広角カメラの撮像範囲に、前記車両の左側方、前方及び後方が含まれ、
    前記第2の広角カメラの撮像範囲に、前記車両の右側方、前方及び後方が含まれる
    ことを特徴とする請求項1から6のいずれか1項に記載の情報提示装置。
  10. 前記表示装置は、運転者から見て左前方に配置された第1の表示器と、運転者から見て右前方に配置された第2の表示器とを含む
    ことを特徴とする請求項1から9のいずれか1項に記載の情報提示装置。
  11. 前記表示装置は、運転者から見て左前方に配置された第1の表示領域と、運転者から見て右前方に配置された第2の表示領域とを含む表示面を有する
    ことを特徴とする請求項1から9のいずれか1項に記載の情報提示装置。
  12. さらに音声出力装置を有し、
    前記情報提示制御装置は、認識された障害物に対する注意喚起のための音声を、前記音声出力装置に出力させる
    ことを特徴とする請求項1から11のいずれか1項に記載の情報提示装置。
  13. 車両の周辺を撮像することで生成した車外画像から1又は2以上の障害物を認識し、当該障害物の認識の結果を示す障害物情報を生成し、
    前記車両の内部を撮像することで生成した車内画像から、運転者の視線の方向を表す視線情報を生成し、
    前記障害物情報と前記視線情報とに基づいて、複数の表示手段の各々における表示に関する決定を行い、該決定に基づいて前記複数表示手段の各々における表示を制御する情報提示制御方法であって、
    前記表示に関する決定は、前記複数の表示手段の各々における、前記車外画像の表示が必要か否かの決定、及び前記車外画像中の各障害物に対する強調処理に関する決定を含み、
    前記強調処理に関する決定は、強調が必要か否かの決定及び強調のレベルの決定を含み、
    認識された1又は2以上の障害物の各々を含む画像を、前記複数の表示手段のうち、運転者にとって当該障害物の方向又はそれに近い方向にある表示手段に表示させる
    ことを特徴とする情報提示制御方法。
  14. 請求項13に記載の情報提示制御方法における処理をコンピュータに実行させるためのプログラム。
  15. 請求項14に記載のプログラムを記録したコンピュータで読取可能な記録媒体。
JP2020567673A 2019-01-21 2019-01-21 情報提示装置及び情報提示制御方法、並びにプログラム及び記録媒体 Active JP6869448B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/001628 WO2020152737A1 (ja) 2019-01-21 2019-01-21 情報提示装置及び情報提示制御方法、並びにプログラム及び記録媒体

Publications (2)

Publication Number Publication Date
JP6869448B2 true JP6869448B2 (ja) 2021-05-12
JPWO2020152737A1 JPWO2020152737A1 (ja) 2021-09-09

Family

ID=71736583

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020567673A Active JP6869448B2 (ja) 2019-01-21 2019-01-21 情報提示装置及び情報提示制御方法、並びにプログラム及び記録媒体

Country Status (5)

Country Link
US (1) US20210339678A1 (ja)
JP (1) JP6869448B2 (ja)
CN (1) CN113316529A (ja)
DE (1) DE112019006155B4 (ja)
WO (1) WO2020152737A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114312305A (zh) * 2021-12-22 2022-04-12 东软睿驰汽车技术(沈阳)有限公司 行驶提示方法、车辆、计算机可读存储介质

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4683192B2 (ja) * 2005-02-15 2011-05-11 株式会社デンソー 車両用死角監視装置及び車両用運転支援システム
JP2008013070A (ja) 2006-07-06 2008-01-24 Toyota Motor Corp 車両用表示装置
JP4946300B2 (ja) * 2006-09-20 2012-06-06 マツダ株式会社 車輌用運転支援装置
JP2009040107A (ja) * 2007-08-06 2009-02-26 Denso Corp 画像表示制御装置及び画像表示制御システム
JP4935589B2 (ja) * 2007-09-10 2012-05-23 株式会社デンソー 状態判定装置およびプログラム
JP2010070117A (ja) * 2008-09-19 2010-04-02 Toshiba Corp 画像照射システムおよび画像照射方法
JP2011109170A (ja) * 2009-11-12 2011-06-02 Clarion Co Ltd 車両周囲表示装置、車両周囲表示方法
WO2013065119A1 (ja) * 2011-11-01 2013-05-10 アイシン精機株式会社 障害物警報装置
DE102013217430A1 (de) * 2012-09-04 2014-03-06 Magna Electronics, Inc. Fahrerassistenzsystem für ein Kraftfahrzeug
JP6020371B2 (ja) * 2013-06-27 2016-11-02 株式会社デンソー 車両用情報提供装置
CN105378813A (zh) * 2013-07-05 2016-03-02 三菱电机株式会社 信息显示装置
JP6346614B2 (ja) * 2013-09-13 2018-06-20 マクセル株式会社 情報表示システム
JP6361986B2 (ja) * 2016-05-30 2018-07-25 マツダ株式会社 車両用表示装置
JP2018173716A (ja) * 2017-03-31 2018-11-08 株式会社Subaru 情報出力装置

Also Published As

Publication number Publication date
CN113316529A (zh) 2021-08-27
US20210339678A1 (en) 2021-11-04
DE112019006155B4 (de) 2021-12-23
JPWO2020152737A1 (ja) 2021-09-09
WO2020152737A1 (ja) 2020-07-30
DE112019006155T5 (de) 2021-10-14

Similar Documents

Publication Publication Date Title
JP5871006B2 (ja) 画像表示装置及び画像表示方法
JP6379779B2 (ja) 車両用表示装置
JP5895941B2 (ja) 画像表示装置及び画像表示方法
JP6205640B2 (ja) 車両用警告装置
US20100117812A1 (en) System and method for displaying a vehicle surrounding with adjustable point of view
EP3466763B1 (en) Vehicle monitor system
JP5090126B2 (ja) 車載用撮像装置
CN107650639B (zh) 视野控制装置
JP2012527681A (ja) 車両周辺映像を用いた車線離脱感知方法および装置
JP2005222425A (ja) 車両周辺監視装置、車両周辺監視方法、制御プログラムおよび可読記録媒体
KR20180065527A (ko) 차량 후측방 경고 장치 및 이를 이용한 경고 방법
JP6869448B2 (ja) 情報提示装置及び情報提示制御方法、並びにプログラム及び記録媒体
KR101697484B1 (ko) 차량 주변의 위험요소 경고장치 및 경고방법
JP5003473B2 (ja) 注意喚起装置
JP4755501B2 (ja) 車線検出装置および車線逸脱警報装置
JP5192007B2 (ja) 車両の周辺監視装置
JP5445719B2 (ja) 画像表示装置及び画像表示方法
KR20160064275A (ko) 차량 위치 인식 장치 및 방법
KR101729030B1 (ko) 차량 주변의 위험요소 경고장치 및 경고방법
JP2023102146A (ja) 報知装置及び報知方法
JP5192009B2 (ja) 車両の周辺監視装置
JP2005075081A (ja) 車両の表示方法及び表示装置
JP6956473B2 (ja) わき見状態判定装置
WO2022190630A1 (ja) 視線誘導装置、注意喚起システム、注意喚起方法、及びプログラム
CN116761737A (zh) 视线引导装置、注意提醒系统、注意提醒方法及程序

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210202

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210202

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210202

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210310

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210316

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210413

R150 Certificate of patent or registration of utility model

Ref document number: 6869448

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150