JP6446925B2 - 画像表示制御装置および画像表示システム - Google Patents

画像表示制御装置および画像表示システム Download PDF

Info

Publication number
JP6446925B2
JP6446925B2 JP2014181775A JP2014181775A JP6446925B2 JP 6446925 B2 JP6446925 B2 JP 6446925B2 JP 2014181775 A JP2014181775 A JP 2014181775A JP 2014181775 A JP2014181775 A JP 2014181775A JP 6446925 B2 JP6446925 B2 JP 6446925B2
Authority
JP
Japan
Prior art keywords
image
vehicle
display
unit
vehicle body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014181775A
Other languages
English (en)
Other versions
JP2016055684A (ja
Inventor
淳邦 橋本
淳邦 橋本
進 藤▲高▼
進 藤▲高▼
青木 淳
淳 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to JP2014181775A priority Critical patent/JP6446925B2/ja
Priority to DE112015004046.3T priority patent/DE112015004046B4/de
Priority to US15/508,268 priority patent/US20170305345A1/en
Priority to PCT/JP2015/073580 priority patent/WO2016035581A1/ja
Publication of JP2016055684A publication Critical patent/JP2016055684A/ja
Application granted granted Critical
Publication of JP6446925B2 publication Critical patent/JP6446925B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/29Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area inside the vehicle, e.g. for viewing passengers or cargo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/20Linear translation of whole images or parts thereof, e.g. panning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8046Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for replacing a rear-view mirror system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明の実施形態は、画像表示制御装置および画像表示システムに関する。
従来、車内からの視線でピラーが透けた画像を作成して表示する車両の画像処理装置が知られている。
特開2003−196645号公報
この種の装置では、例えば、他の車両等の物体をより認識しやすい画像表示制御装置および画像表示システムが得られれば、有意義である。
実施形態の画像表示制御装置は、例えば、車体の後部に取り付けられた撮像部によって少なくとも車両の後方および側方が撮像された撮像画像の少なくとも一部に基づく車両の後方および側方の車外画像の鏡像を含む、表示装置に表示される表示画像、を生成する画像生成部と、車体の側部の画像を含まず車体の後部のみを線画として示す参照画像を、車両の前進中に上記表示画像のうち上記車両の後方の車外画像の鏡像に含めるとともに上記表示画像のうち上記車両の側方の車外画像の鏡像に含めない画像、として設定しうる、参照画像設定部と、上記表示画像が表示されるよう上記表示装置を制御する表示制御部と、を備える。よって、本実施形態によれば、例えば、参照画像によって、車両の後方に位置する他の車両等の物体との相対的な位置関係が把握されやすい。
また、上記画像表示制御装置は、例えば、上記表示画像中で上記参照画像の左右の少なくともいずれか一方に位置されて車両の斜め後方に対応した注意領域を示す注意領域画像を、上記表示画像に含める画像として設定しうる、注意領域画像設定部を備える。よって、例えば、注意領域画像によって、車両の斜め後方に他の車両等の物体が存在することが把握されやすい。
また、上記画像表示制御装置は、例えば、物体を検出する物体検出部を備え、上記注意領域画像設定部は、上記物体検出部によって上記注意領域に対応する位置に物体が検出された場合に、上記注意領域画像を設定する。よって、例えば、物体が存在せず注意領域画像の必要性が低い場合には、当該注意領域画像が表示されない。
また、上記画像表示制御装置では、例えば、上記注意領域画像設定部は、検出された物体の位置に応じて異なる上記注意領域画像を設定する。よって、例えば、注意領域画像が変化するため、車両の斜め後方に他の車両等の物体が存在することがより一層把握されやすい。
また、実施形態の画像表示システムは、例えば、車体の後部に取り付けられ少なくとも車両の後方および側方を撮像する撮像部と、表示装置と、画像表示制御装置と、を備え、上記画像表示制御装置は、上記撮像部によって撮像された撮像画像の少なくとも一部に基づく車両の後方および側方の車外画像を含む、上記表示装置に表示される表示画像、を生成する画像生成部と、車体の側部の画像を含まず車体の後部のみを線画として示す参照画像を、車両が前進中に上記表示画像のうち上記車両の後方の車外画像の鏡像に含めるとともに上記表示画像のうち上記車両の側方の車外画像の鏡像に含めない画像、として設定しうる、参照画像設定部と、上記表示画像が表示されるよう上記表示装置を制御する表示制御部と、を有する。よって、本実施形態によれば、例えば、参照画像によって、車両の後方に位置する他の車両等の物体との相対的な位置関係が把握されやすい。
図1は、実施形態の画像表示システムの例示的な概略構成図である。 図2は、実施形態の画像表示システムによる表示画像の一例が示された図である。 図3は、実施形態の画像表示システムによる表示画像の別の一例が示された図である。 図4は、実施形態の画像表示システムの撮像部による撮像範囲の一例の平面図である。 図5は、実施形態の画像表示システムの撮像部による撮像範囲の一例の側面図である。 図6は、実施形態の画像表示システムによる表示画像に含まれる車外画像の一例が示された図である。 図7は、実施形態の画像表示システムで追加される車体画像の一例が示された図である。 図8は、実施形態の画像表示システムの撮像部による撮像範囲の別の一例の平面図である。 図9は、実施形態の画像表示システムの撮像部による撮像範囲の別の一例の側面図である。 図10は、実施形態の画像表示システムにおける車外画像中の表示範囲の一例が示された図である。 図11は、実施形態の画像表示システムに含まれるECUの例示的なブロック図である。 図12は、実施形態の画像表示システムの処理手順の例示的なフローチャートである。 図13は、実施形態の画像表示システムによる出力画像の一例が示された図である。 図14は、実施形態の画像表示システムによる出力画像の別の一例が示された図である。 図15は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図16は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図17は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図18は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図19は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図20は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図21は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図22は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図23は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図24は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図25は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図26は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。 図27は、実施形態の画像表示システムによる出力画像のさらに別の一例が示された図である。
以下、本発明の例示的な実施形態および変形例が開示される。以下に示される実施形態および変形例の構成、ならびに当該構成によってもたらされる作用、結果、および効果は一例である。本発明は、以下の実施形態および変形例に開示される構成以外によっても実現可能である。また、本発明によれば、構成によって得られる種々の効果や派生的な効果のうち少なくとも一つを得ることが可能である。
また、以下に開示される実施形態や例示には、同様の構成要素が含まれる。以下では、同様の構成要素には共通の符号が付与されるとともに、重複する説明が省略される。
車両1に装備される画像表示システム100は、図1に示されるように、表示装置としての表示部10aに表示される画像を制御するECU11(electronic control unit)を備えている。ECU11は、表示制御部あるいは画像表示制御装置の一例である。表示部10aは、例えば、車室内の前部かつ上部に設けられた後方視認用の不図示のルームミラーに替えて設けられる。表示部10aには、撮像部12で撮像された画像に基づいて、図2に例示されるような、車室内の前部かつ上部に設けられたルームミラーに映る鏡像に似せた画像が表示される。運転者等の乗員は、表示部10aをルームミラーとして、あるいはルームミラーの代わりに用いることができる。なお、ルームミラーはバックミラーとも称されうる。
ルームミラーが設けられている車両1の場合、筐体10の表示部10aは、例えば、ルームミラーの鏡面を覆うように取付具やアタッチメント等によってルームミラーに装着されうる。表示部10aには、車外すなわち車室外に設けられた撮像部12で撮像された画像とは左右逆の画像、すなわち鏡像が表示される。表示部10aは、例えば、LCD(liquid crystal display)や、OELD(organic electro-luminescent display)、プロジェクタ装置等として、構成されうる。ECU11は、表示部10aの筐体10内に収容されてもよいし、表示部10aとは別の場所に設けられた筐体10内に収容されてもよい。なお、表示部10aの表面側すなわち後側には、不図示のハーフミラーが設けられてもよい。この場合、画像表示システム100が使用されず表示部10aに画像が表示されていない状態では、当該ハーフミラーがルームミラーとして用いられうる。また、ハーフミラーのうち、表示部10aが部分的に画像を表示していない領域、例えばブラックアウトされた領域、を覆う部分は、ルームミラーとして用いられうる。また、筐体10には、室内画像を撮像する図8,9に示されるような撮像部12Iが設けられてもよい。
図2,3に例示されるように、表示部10aで表示される画像としての出力画像Imには、実線で示される車外画像Imoと破線で示される車体画像Imiとが含まれている。車外画像Imoは、一つまたは複数の撮像部12によって撮像された画像から生成されうる。出力画像Imは、表示画像とも称されうる。車外画像Imo、すなわち撮像部12によって撮像された画像は、撮像画像とも称されうる。また、車体画像Imiは、追加画像とも称されうる。なお、図2等では、図面中で車外画像Imoと区別するため、便宜上、車外画像Imoが実線で示され、車体画像Imiが破線で示されている。実際の車外画像Imoは、実線には限定されないし、車体画像Imiは、破線には限定されない。車体画像Imiは、参照画像の一例であり、追加画像の一例でもある。
撮像部12は、例えば、CCD(charge coupled device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部12は、所定のフレームレートで画像データすなわち動画データを出力することができる。
図4,5の例では、車体2には、車外を撮像する撮像部12としては、車体2の後部に設けられた撮像部12Rのみが設けられている。撮像部12Rは、車両1の後方かつ側方すなわち車室外の後方かつ側方を撮像する。撮像部12Rは、例えば、広角レンズまたは魚眼レンズである。また、この場合、撮像部12Rによる撮像範囲は、図5に破線で示されているように、少なくとも、車体2の後端部2bが映る方向から車両1の後方の水平方向Lrhよりも上方までの範囲が含まれるよう、設定される。これにより、撮像部12Rによる撮像画像から、走行中における車両後方の画像、および駐車時における車両後方の路面近傍の画像の、双方を得ることができる。なお、図4,5に例示される撮像範囲は一例であって、撮像部12Rによる撮像範囲は、図4,5の例には限定されない。図6には、撮像部12による撮像画像から得られた車外画像Imoの一例が示されている。また、ここでの水平方向Lrhとは、車両1を基準とする水平方向であって、車両1が水平面上に位置された場合に水平となる方向である。
また、図2,3,7の例では、車体画像Imiには、車体2の構造を示す立体的なフレーム状に描かれた表示要素としての輪郭線Loまたは縁が含まれている。輪郭線Loによって示される車体構成要素は、例えば、車体2の角部、縁部、窓、ピラー、ドア、床、天井、トリム、車輪、車軸、ディファレンシャルギヤ等である。車体画像Imiは、乗員が車体2の位置や形状を大まかに認識できるものであればよく、必ずしも車体形状そのものでなくてもよい。車体画像Imiは、模式化されたものであってもよい。輪郭線Loの間の領域は、車外画像Imoが透過される状態で着色されてもよい。
また、図2,3,7の例では、車体画像Imiは、線画(線図)である。線画に含まれる表示要素としての線は、種々の表示態様を有することができる。表示態様としては、例えば、種類、面密度、幅、太さ、濃度、透過度、色、模様等がある。種類には、例えば、実線や、破線、一点鎖線、二点鎖線、折れ線、ギザギザ線、波線等がある。面密度は、画面または画像の単位面積あたりの密度である。例えば、同じ太さの場合、実線の面密度が破線の面密度よりも大きい。また、線画には、局所的に表示態様の異なる複数の線が含まれうる。また、線画には、部分的に、点や、記号、文字、図形等も含まれうる。これらの線画の表示態様は、例えば、走行状態や操作状態等の車両状態に応じて、設定されうるし、変更されうる。
図2,3に例示されるように、表示部10aに車外画像Imoとともに車体画像Imiを含む出力画像Imが表示されることで、乗員は、車両1と車外の物体Bとの相対的な位置や、車両1と物体Bとの距離、物体Bの方向、物体Bの大きさ等を認識しやすい。また、車体画像Imiには、図2,3,7に示されるように、車体2の車幅方向の端部を示す部分Pw、車体2の後端部を示す部分Pr、ならびに車体2の下部を示す部分Pbが、含まれうる。さらに、車体画像Imiには、車体2の下部の車幅方向の端部を示す部分Pbwや、車体2の下部の車両前後方向の後端部を示す部分Pbr、車体2の側部の車両前後方向の後端部を示す部分Psr等が、含まれうる。また、車体画像Imiは、車体2の少なくとも下部が平面的すなわち二次元的に認識できるよう作成されている。よって、乗員は、例えば、車体2の平面的な大きさや、形状、部位等を認識しやすい。また、乗員は、例えば、車体画像Imiを基準として、車室外の物体Bの大きさや、高さ、物体Bの水平方向の位置関係等を認識しやすい。
車体画像Imiは、不揮発性の記憶部に予め記憶されている。記憶部には、複数の車種毎の車体画像Imiが記憶されうる。この場合、合成画像には、例えば車両1の車種や使用者の嗜好等に応じて選択された車体画像Imiが用いられうる。なお、記憶部は、例えば、図1に示されるSSD11d等であってもよい。また、ECU11は、キャリブレーション等の設定作業における操作入力部10bでの入力指示や操作等に基づいて、車体画像Imiを変形することができる。具体的には、例えば、車体画像Imiは、上側に向かうほど左右に引き延ばされたり、上下に引き延ばされたり、上下左右の位置を変更されたり、というように、変形されたり、位置が変更されたりする。この場合、変更された車体画像Imiが記憶部に記憶され、合成画像には、当該変更された車体画像Imiが用いられる。なお、車体画像Imiとして、図8に例示されるような撮像部12Iが撮像した室内画像や、当該室内画像が変更された画像等が用いられてもよい。
ECU11は、車体画像Imiの透過度αすなわち車外画像Imoとの合成比率を設定したり変更したりすることができる。比較的簡単な例では、車外画像Imoと車体画像Imiとが互いに位置合わせされた状態での各点について、車体画像Imiの輝度がx1、車外画像Imoの輝度がx2、透過度がα(0≦α≦1)である場合に、当該各点での重ね合わせた合成画像の輝度xは、x=(1−α)×x1+α×x2であることができる。なお、透過度αは、任意の値に設定することができる。
一方、図8,9の例では、車体2には、撮像部12として、車両1の側方すなわち車室外の側方を撮像する撮像部12Sと、車両1の後方すなわち車室外の後方を撮像する撮像部12Rとが、設けられている。また、撮像部12S,12Rは、それぞれ、車両1の後方および側方の双方が含まれる画像を撮像してもよい。撮像部12Sは、車体2の左右それぞれに設けられるとともに、撮像部12Rは、車体2の後端部2bに設けられている。例えば、撮像部12Sはドアミラーに設けられ、撮像部12Rはリヤハッチに設けられうる。なお、図示されないが、撮像部12は、例えば、車体2の後端部2bの左端および右端にそれぞれ設けられてもよい。また、車室内および車室外のうち少なくとも一方を撮像する撮像部12は、車室内に設けられてもよい。また、複数の撮像部12が設けられる場合、複数の撮像部12のそれぞれの撮像範囲は、上下に異なってもよい。また、撮像部12は、それぞれ、広角レンズまたは魚眼レンズであってもよい。
図8,9に例示されるように、車体2に複数の撮像部12が設けられる場合、ECU11は、複数の撮像部12で取得された画像を公知の技術で合成して、図10に例示されるような一連の車外画像Imoを得ることができる。車外画像Imoは、パノラマ画像であってもよい。この場合、比較的広い範囲の各位置での車外画像Imoを、表示部10aで表示することができるよう、複数の撮像部12によって、車両1の後方かつ側方の比較的広い範囲が撮像される。そして、図10に示されるように、広い範囲の中の一部が、出力画像Imとしての合成画像に用いられる、すなわち表示される。
また、ECU11は、車両1の状況に応じて、出力画像Imおよび車外画像Imoの表示範囲Adを変更することができる。ECU11は、表示範囲Adを変更するトリガとなる信号あるいはデータとして、各種のセンサの検出結果や、指示信号等を用いることができる。検出結果は、例えば、図1に示される非接触計測装置13や、前輪用の舵角センサ14、後輪操舵システム15の舵角センサ15a、GPS16(global positioning system)、車輪速センサ17、ブレーキシステム18のブレーキセンサ18a、アクセルセンサ19、前輪操舵システム20のトルクセンサ20a、シフトセンサ21等の検出結果である。指示信号は、例えば、方向指示器22や、操作入力部24b等から取得した指示信号である。なお、指示信号は、例えば、制御信号や、切替信号、操作信号、入力信号、指示データ等とも称されうる。
また、ECU11は、図11に示される進行方向取得部111によって取得された車両1の進行方向や、車両位置取得部112によって取得された車両1の位置、物体検出部113による検出結果等に応じて、出力画像Imおよび車外画像Imoの表示範囲Adや、車体画像Imiの透過度α、色(色相)、輝度、彩度等を、設定したり変更したりすることができる。また、車体画像Imiが線画の場合、ECU11は、車体画像Imiの輪郭線Loの太さや陰影の有無等を設定したり変更したりしてもよい。
図1に示されるように、画像表示システム100に含まれる電気部品は、例えば、車内ネットワーク23を介して電気的にあるいは通信可能に接続される。電気部品は、例えば、非接触計測装置13や、舵角センサ14、舵角センサ15a、GPS16、車輪速センサ17、ブレーキセンサ18a、アクセルセンサ19、トルクセンサ20a、シフトセンサ21、方向指示器22、操作入力部24b等である。車内ネットワーク23は、例えば、CAN(controller area network)である。なお、各電気部品は、CAN以外を介して電気的にあるいは通信可能に接続されてもよい。
非接触計測装置13は、例えば、超音波や電波を発射してその反射波を捉えるソナーやレーダ等である。ECU11は、非接触計測装置13の検出結果により、車両1の周囲に位置された図2に示されるような障害物としての物体Bの有無や物体Bまでの距離を測定することができる。すなわち、非接触計測装置13は、測距部、物体検出部の一例である。
舵角センサ14は、操舵部としての不図示のステアリングホイールの操舵量を検出するセンサであり、例えば、ホール素子などを用いて構成される。また、舵角センサ15aは、後輪3Rの操舵量を検出するセンサであり、例えば、ホール素子などを用いて構成される。なお、操舵量は、例えば、回転角度として検出される。
車輪速センサ17は、車輪3(3F,3R)の回転量や単位時間当たりの回転数を検出するセンサであり、例えば、ホール素子などを用いて構成される。ECU11は、車輪速センサ17から取得したデータに基づいて車両1の移動量などを演算することができる。車輪速センサ17は、ブレーキシステム18に設けられる場合もある。
ブレーキシステム18は、ブレーキのロックを抑制するABS(anti-lock brake system)や、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:electronic stability control)、ブレーキ力を増強する電動ブレーキシステム、BBW(brake by wire)等である。ブレーキシステム18は、不図示のアクチュエータを介して、車輪3に制動力を与え、車両1を減速する。ブレーキセンサ18aは、例えば、ブレーキペダルの操作量を検出するセンサである。
アクセルセンサ19は、アクセルペダルの操作量を検出するセンサである。トルクセンサ20aは、運転者が操舵部に与えるトルクを検出する。シフトセンサ21は、例えば、変速操作部の可動部の位置を検出するセンサであり、変位センサなどを用いて構成される。可動部は、例えば、レバーや、アーム、ボタン等である。なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は一例であって、種々に設定したり変更したりすることができる。方向指示器22は、方向指示用のライトの点灯、消灯、点滅等を指示する信号を出力する。
また、表示部10aは、透明な操作入力部10bで覆われうる。操作入力部10bは、例えば、タッチパネル等である。乗員等は、操作入力部10bを介して表示部10aの表示画面に表示される画像を視認することができる。また、乗員等は、表示部10aの表示画面に表示される画像に対応した位置にて手指等で操作入力部10bを触れたり押したり動かしたりして操作することで、画像表示システム100における種々の操作入力を実行することができる。なお、操作入力部10bとは別に、筐体10には、操作入力部10cが設けられてもよい。この場合、操作入力部10cは、例えば、押しボタン、スイッチ、つまみ等として構成されうる。
また、車内には、表示部10aとは別の表示部24aや、音声出力装置24cが設けられている。表示部24aは、例えば、LCDや、OELD等である。音声出力装置24cは、例えば、スピーカである。さらに、表示部24aは、透明な操作入力部24bで覆われている。操作入力部24bは、例えば、タッチパネル等である。乗員等は、操作入力部24bを介して表示部24aの表示画面に表示される画像を視認することができる。また、乗員等は、表示部24aの表示画面に表示される画像に対応した位置にて手指等で操作入力部24bを触れたり押したり動かしたりして操作することで、操作入力を実行することができる。そして、これら表示部24aや、操作入力部24b、音声出力装置24c等は、例えば、ダッシュボードの車幅方向すなわち左右方向の中央部に位置されたモニタ装置24に設けられうる。モニタ装置24は、例えば、スイッチや、ダイヤル、ジョイスティック、押しボタン等の図示されない操作入力部を有することができる。モニタ装置24は、ナビゲーションシステムやオーディオシステムと兼用されうる。なお、ECU11は、モニタ装置24の表示部24aに、表示部10aと同様の画像を表示させることができる。
ECU11は、例えば、CPU11a(central processing unit)や、ROM11b(read only memory)、RAM11c(random access memory)、SSD11d(solid state drive)、表示制御部11e、音声制御部11f等を有している。SSD11dは、フラッシュメモリであってもよい。CPU11aは、各種演算を実行することができる。CPU11aは、ROM11bやSSD11d等の不揮発性の記憶装置にインストールされ記憶されたプログラムを読み出し、当該プログラムにしたがって演算処理を実行することができる。RAM11cは、CPU11aでの演算で用いられる各種のデータを一時的に記憶する。また、SSD11dは、書き換え可能な不揮発性の記憶部であり、ECU11の電源がオフされた場合にあってもデータを記憶することができる。また、表示制御部11eは、ECU11での演算処理のうち、主として、撮像部12で得られた画像データを用いた画像処理や、表示部10a,24aで表示される画像データの画像処理等を実行することができる。また、音声制御部11fは、ECU11での演算処理のうち、主として、音声出力装置24cで出力される音声データの処理を実行することができる。なお、CPU11aや、ROM11b、RAM11c等は、同一パッケージ内に集積されることができる。また、ECU11は、CPU11aに替えて、DSP(digital signal processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD11dに替えてHDD(hard disk drive)が設けられてもよいし、SSD11dやHDDは、ECU11とは別に設けられてもよい。
また、本実施形態では、例えば、表示部10aには、ECU11の画像処理によって、ルームミラーの鏡像に対応した出力画像Imが表示される。この場合、車外画像Imoからルームミラーの写像に対応した出力画像Imへの座標変換を行う関数や、係数、定数、データ等は、車外や車内に実際に配置した複数のマーカのルームミラーの写像中での位置を実際に取得したり、撮像によるキャリブレーションを行ったり、幾何学的な演算を行ったりすることによって、得ることができる。なお、関数は、変換式や、変換行列等であってもよい。また、出力画像Imは、例えば、ルームミラーの写像に似た画像や、位置合わせされた画像、適合した画像等である。また、車体画像Imiの合成位置や、大きさ、形状等も、車外や車内に実際に配置した複数のマーカのルームミラーの写像中での位置を実際に取得したり、撮像によるキャリブレーションを行ったり、幾何学的な演算を行ったりすることによって、得ることができる。
また、本実施形態では、例えば、ECU11は、ハードウエアとソフトウエア(プログラム)との協働によって、画像表示制御装置の少なくとも一部として機能する。すなわち、本実施形態では、例えば、図11に示されるように、ECU11は、図1にも示されている表示制御部11eや音声制御部11fの他、画像生成部110や、進行方向取得部111、車両位置取得部112、物体検出部113、撮像画像取得部110a、範囲決定部110b、表示態様決定部110c、鏡像作成部110d、画像補正部110e、参照画像設定部110f、注意領域画像設定部110g、追加画像取得部110h、画像合成部110i等として機能する。画像生成部110は、例えばCPU11aであり、記憶部11gは、例えばSSD11dである。記憶部11gは、例えば、演算で用いられるデータや、演算結果等を記憶する。なお、画像生成部110で実行される画像処理の少なくとも一部は表示制御部11eで実行されてもよい。図11の各部は、プログラムのモジュールに対応してもよいし、ハードウエアとして構成されてもよい。なお、図1,11に示されるECU11の構成は、一例である。
進行方向取得部111は、シフトセンサ21による検出結果や、車輪速センサ17による検出結果、不図示の加速度センサによる検出結果、不図示の他のECUからのデータ等に基づいて、車両1の進行方向を取得することができる。進行方向取得部111は、車両1が前進中であるか後退中であるかを取得する。
車両位置取得部112は、例えば、車輪速センサ17によって検出された車輪速や、舵角センサ14,15aによって検出された舵角、GPS16からのデータ、非接触計測装置13の検出結果、撮像部12が取得した車外画像Imoの画像処理結果、他の不図示のECUからのデータ等に基づいて、車両1の位置を取得することができる。車両1の位置は、例えば、駐車支援システムにおける現在位置や目標位置との相対的な位置であってもよい。
物体検出部113は、例えば、画像生成部110で作成された車外画像Imoを画像処理することにより、車外の物体Bを検出することができる。物体Bは、例えば、車両や、物、人等である。物体Bの検出に際しては、例えば、パターンマッチング等が用いられうる。また、物体検出部113は、非接触計測装置13から得られたデータから、車外の物体Bを検出することができるし、車外画像Imoを画像処理した結果と非接触計測装置13から得られたデータとから、車外の物体Bを検出することができる。また、物体検出部113は、車外画像Imoを画像処理した結果あるいは非接触計測装置13から得られたデータから、車両1から物体Bまでの距離を取得してもよい。
撮像画像取得部110aは、少なくとも一つの撮像部12で撮像された車外画像Imoを取得する。複数の撮像部12が設けられている場合、撮像画像取得部110aは、複数の撮像部12で撮像された複数(例えば三つ)の撮像画像を、それらの境界部分を合成することで繋ぎ、一連の車外画像Imoを作成することができる。
範囲決定部110bは、車外画像Imoのうち出力画像Imに用いる表示範囲Adを決定する。範囲決定部110bは、例えば、進行方向取得部111によって取得された車両1の進行方向や、車両位置取得部112によって取得された車両1の位置、物体検出部113による検出結果等に応じて、出力画像Imおよび車外画像Imoの表示範囲Adを設定することができる。また、範囲決定部110bは、他のセンサやデバイスによる検出結果や、信号、データ等に応じて、表示範囲Adを決定してもよい。他のセンサやデバイスは、例えば、非接触計測装置13や、舵角センサ14,15a、GPS16、車輪速センサ17、ブレーキセンサ18a、アクセルセンサ19、トルクセンサ20a、シフトセンサ21、方向指示器22等である。
表示態様決定部110cは、表示部10a,24aにおける出力画像Imの表示態様を決定する。表示態様決定部110cは、例えば、進行方向取得部111によって取得された車両1の進行方向や、車両位置取得部112によって取得された車両1の位置、物体検出部113による検出結果等に応じて、出力画像Imの表示態様を設定したり変更したりすることができる。また、表示態様決定部110cは、他のセンサやデバイスによる検出結果や、信号、データ等に応じて、出力画像Imの表示態様を設定したり変更したりしてもよい。他のセンサやデバイスは、例えば、非接触計測装置13や、舵角センサ14,15a、GPS16、車輪速センサ17、ブレーキセンサ18a、アクセルセンサ19、トルクセンサ20a、シフトセンサ21、方向指示器22等である。また、表示態様決定部110cは、例えば、車体画像Imiの透過率αや、色、輝度、彩度等を設定したり変更したりすることができる。また、合成画像に室内画像が含まれる場合、表示態様決定部110cは、室内画像の透過度等を設定したり変更したりすることができる。
鏡像作成部110dは、撮像画像、車外画像Imo、あるいは出力画像Imの鏡像を作成することができる。出力画像Imに撮像画像の鏡像となる車外画像Imoが含まれていればよく、鏡像作成部110dは、どの段階で鏡像を作成してもよい。
画像補正部110eは、撮像部12で撮像された撮像画像を補正する。画像補正部110eは、例えば、撮像部12で撮像された撮像画像の歪みを補正することができる。撮像部12が、広角レンズあるいは魚眼レンズである場合、画像の中心から離れるほど画像の歪みが大きい。そこで、画像補正部110eは、矩形の画角で表示された場合に、より違和感の少ない画像となるよう、例えば、座標変換や補完処理等を施すことで、撮像画像を補正する。また、画像補正部110eは、撮像部12で撮像された撮像画像の視点を変換する処理を実行することができる。画像補正部110eは、例えば、撮像部12の撮像点と、ルームミラーでの写像の視点との差が大きい場合に、より違和感の少ない画像となるよう、例えば、座標変換や補完処理等を施すことで、より前方からの視点、例えばルームミラーの写像の視点での画像に近付くように、撮像画像を補正する。座標変換は、例えば、マップや関数等によって与えられる。なお、画像補正部110eによる車外画像Imoの補正は、ルームミラーが設けられた場合の鏡像と完全に位置合わせされている必要は無い。また、画像補正部110eは、歪み補正や視点変換処理以外の補正をも実行しうる。
参照画像設定部110fは、出力画像Imに含まれる参照画像を設定する。参照画像は、車両1の後方の位置の目安となる画像であって、例えば、車両1の後方に離間した位置に対応した画像や、車体2の後部の形状を模した画像等である。参照画像設定部110fは、運転者等の乗員による操作入力部10b,10c,24b等の操作入力によって、予め記憶されている複数の参照画像の候補の中から、出力画像Imに含める参照画像を選択し、設定することができる。また、参照画像設定部110fは、例えば、進行方向取得部111によって取得された車両1の進行方向や、車両位置取得部112によって取得された車両1の位置、物体検出部113による検出結果等に応じて、参照画像を設定したり変更したりすることができる。また、参照画像設定部110fは、他のセンサやデバイスによる検出結果や、信号、データ等に応じて、参照画像を設定したり変更したりしてもよい。他のセンサやデバイスは、例えば、非接触計測装置13や、舵角センサ14,15a、GPS16、車輪速センサ17、ブレーキセンサ18a、アクセルセンサ19、トルクセンサ20a、シフトセンサ21、方向指示器22等である。各パラメータに対応して設定あるいは変更される参照画像を示すデータは、記憶部11gに記憶されうる。
注意領域画像設定部110gは、出力画像Imに含まれる注意領域画像を設定する。注意領域画像は、参照画像の左右少なくともいずれか一方に位置され、車両1の斜め後方に対応した注意領域を示す画像である。注意領域画像は、例えば、車外画像Imoを透過する透過画像として設定される。注意領域画像設定部110gは、運転者等の乗員による操作入力部10b,10c,24b等の操作入力によって、予め記憶されている複数の注意領域画像の候補の中から、出力画像Imに含める注意領域画像を選択し、設定することができる。また、注意領域画像設定部110gは、例えば、進行方向取得部111によって取得された車両1の進行方向や、車両位置取得部112によって取得された車両1の位置、物体検出部113による検出結果等に応じて、注意領域画像を設定したり変更したりすることができる。また、注意領域画像設定部110gは、他のセンサやデバイスによる検出結果や、信号、データ等に応じて、注意領域画像を設定したり変更したりしてもよい。他のセンサやデバイスは、例えば、非接触計測装置13や、舵角センサ14,15a、GPS16、車輪速センサ17、ブレーキセンサ18a、アクセルセンサ19、トルクセンサ20a、シフトセンサ21、方向指示器22等である。各パラメータに対応して設定あるいは変更される注意領域画像を示すデータは、記憶部11gに記憶されうる。
追加画像取得部110hは、車外画像Imoとは別に出力画像Imに含まれる画像を取得する。本実施形態では、出力画像Imに含まれる画像のうち、車外画像Imoでは無い画像が、追加画像と称される。追加画像は、例えば、車体画像Imiや、参照画像、注意領域画像、路面の枠線の画像、物体の画像、進行方向を示す画像、目標位置を示す画像、過去の軌跡を示す画像、物体検出部113によって検出された物体の強調表示、文字画像等の、種々の画像である。また、追加画像取得部110hは、例えば、進行方向取得部111で取得された進行方向や、車両位置取得部112で取得された車両1の位置、物体検出部113で検出された物体、範囲決定部110bで決定された表示範囲Ad、表示態様決定部110cで決定された表示態様等に対応する追加画像を、取得することができる。また、追加画像取得部110hは、追加画像として、車室内を撮像する撮像部12I(図8,9等参照)に基づく室内画像を取得してもよい。なお、複数の追加画像は、例えば、記憶部11gに記憶されうる。また、各パラメータの値に応じて追加画像を特定するデータは、例えば、記憶部11gに記憶されうる。
画像合成部110iは、車外画像Imoと追加画像とを合成し、出力画像Imを生成する。追加画像として室内画像が含まれる場合、画像合成部110iでは、画像処理により窓の部分がくり抜かれた室内画像が、透過画像として重畳されうる。
本実施形態にかかる画像表示システム100は、例えば、図12に示されるような手順で処理を実行することができる。まず、撮像画像取得部110aは、撮像部12が撮像した画像を取得する(S1)。次に、鏡像作成部110dは、撮像部12が撮像した画像の鏡像を作成する(S2)。次に、物体検出部113は、物体を検出する(S3)。次に、画像補正部110eは、表示態様決定部110cで設定された表示態様を取得し(S4)、取得した表示態様に応じて、車外画像Imoを補正する(S5)。参照画像設定部110fは、参照画像を設定し(S6)、注意領域画像設定部110gは、注意領域画像を設定する(S7)。次に、追加画像取得部110hは、追加画像を取得し(S8)、画像合成部110iは、追加画像取得部110hで取得された追加画像と車外画像Imoとを合成して、出力画像Imを得る(S9)。次に、表示制御部11eは、出力画像Imが表示されるよう、表示部10aを制御する(S10)。
図13〜16には、出力画像Imの例が示されている。参照画像設定部110fは、図13〜16に示されるように、出力画像Imに含まれる種々の参照画像を設定することができる。参照画像は、追加画像の一例である。図13の例では、参照画像として、車体2の後部、側部、および底部に対応し、当該各部を模した車体画像Imiが含まれている。これに対し、図14の例では、参照画像として、車体2の後部のみに対応した車体画像Imiが含まれている。参照画像設定部110fは、運転者等の乗員による操作入力部10b,10c,24b等の操作入力に応じて、予め記憶されている複数の参照画像の候補の中から、出力画像Imに含める参照画像を選択し、設定することができる。よって、出力画像Imには、運転者等の乗員の嗜好に応じた参照画像が含まれうる。また、天気等の状況に応じてより見やすい参照画像が設定されうる。図13の例では、車両1の後方および側方の双方で、他の車両等の物体Bの画像Imbとの位置関係が把握されやすい。一方、図14の例では、車両1の斜め側方や側方では、車体画像Imiが無い分、物体Bの画像Imbをより視認しやすい。
図15の例では、出力画像Imに、図14に例示される参照画像としての車体画像Imiに加えて、注意領域画像Imaが追加されている。注意領域画像Imaは、出力画像Im中、参照画像に対する左右両側のうち少なくともいずれか一方に、含まれる。図15の例では、出力画像Imには、参照画像としての車体画像Imiの左右両側に注意領域画像Imaが含まれている。出力画像Imの中央の領域は、車両1の後方に対応した領域であり、出力画像Imの左右両側の領域は、車両1の斜め後方に対応した領域である。また、物体Bの画像Imbが出力画像Imの左右両端部の近くに位置するほど、当該物体Bは車両1の前部により近い位置にある。そこで、本実施形態では、車両1の斜め後方の注意領域に対応した注意領域画像Imaを出力画像Imに含めることで、運転者は、車両1の前部により近い位置にある物体Bに、より注意を払うことができる場合がある。注意領域画像Imaは、例えば、物体Bの画像Imbの視認に支障を来さない程度に薄く色づけられた透過画像、すなわち車外画像Imや、物体Bの画像Imb等が透けて見える画像として、設定されうる。注意領域画像Imaの色は、一般的に注意を惹きやすい黄色や、ピンク色、オレンジ色、赤色等に設定されうる。また、図15の例では、注意領域画像Imaは、該当する領域全体に施されているが、これには限定されず、例えば枠として表示されてもよいし、斜線等のパターンや、ドットパターン等で示されてもよい。また、注意領域画像Imaは、車両1の斜め後方に対応する領域の一部、例えば、出力画像Im中の下側の一部などに、表示されてもよい。なお、注意領域は、車両1の斜め側方から車両1の側方にかけての領域であってもよい。
図16の例では、出力画像Imに、図13〜15とは異なる参照画像として、車両1の後方の位置に対応した後方位置画像Imrが追加されている。後方位置画像Imrは、車体2のフロアの後端部からの距離の目安となる画像であり、図16には、後方位置画像Imrは、六つの要素としての点P1〜P3として描画されている。これら後方位置画像Imrのうち、最も下側に位置された二つの点P1は、例えば、車体2の後端部かつ左右両側の側端部に対応し、当該点P1よりも上側に位置された二つの点P2は、例えば、車体2の後端部かつ左右両側の端部よりも所定距離(例えば2m)後方の位置に対応し、当該点P2よりも上側に位置された二つの点P3は、例えば、車体2の後端部かつ左右両側の端部よりも所定距離(例えば4m)後方の位置に対応して配置されている。このような後方位置画像Imrが、出力画像Imに含まれることにより、運転者等の乗員は、例えば、車両1の後方に位置する他の車両等の物体Bの相対的な位置や、物体Bの大きさ等をより精度良くあるいはより容易に認識しやすい。なお、図示されないが、参照画像には、後方位置画像Imrと車体画像Imiとの双方が含まれてもよい。
図17〜図21には、車両1の前進中の出力画像Imの変化の一例が示されている。ECU11は、各図に例示されるような出力画像Imが表示されるよう、表示部10aを制御する。
図17には、車両1の後方の比較的狭い領域に対応した出力画像Imの例が、示されている。出力画像Imには、車外画像Imoとともに、参照画像としての車体画像Imiが追加されている。車体画像Imiには、車体2の後部に対応する画像のみが含まれ、車体2の側部に対応する画像は含まれていない。図17の例では、表示部10aのうち中央部の比較的狭い幅の領域のみに、出力画像Imが表示されている。なお、図17の出力画像Imは一例であって、より幅の広い領域の出力画像Imであってもよい。
図18には、図17の出力画像Imよりも右側に拡大された出力画像Imの例が、示されている。出力画像Imには、図17よりも右側に拡大された車外画像Imoとともに、車体2の後部に対応した参照画像としての車体画像Imiと、当該車体画像Imiの右側に位置された注意領域画像Imaとが含まれている。ECU11は、方向指示器22による操作入力や、舵角センサ14による舵角の検出結果等に基づいて、図17の出力画像Imを図18の出力画像Imに切り替えることができる。具体的には、例えば、方向指示器22で右側への移動を指示する操作入力が行われた場合、あるいは舵角センサ14によって右方向への操舵を示す所定角度(閾値)以上の舵角が検出された場合等に、範囲決定部110bは、図17よりも右側に拡大された出力画像Imの表示範囲Adを設定するとともに、注意領域画像設定部110gは、参照画像としての車体画像Imiの右側に、注意領域画像Imaを設定する。これにより、表示部10aには、右側に注意領域画像Imaが追加された出力画像Imが表示される。よって、例えば、運転者等の乗員は、車線変更等の転舵の際の旋回方向の領域を、注意すべき領域として認識しやすい。なお、図18の例は一例であって、参照画像としての車体画像Imiや注意領域画像Ima等が他の表示態様でも良いことは勿論である。また、車両1が左側に転舵する際、表示部10aには、図18とは逆に当該左側に拡張された出力画像Imが表示される。
図19には、図18の注意領域画像Imaと対応する位置に他の車両等の物体Bが現れ、出力画像Im中でも注意領域画像Ima中に当該物体Bの画像Imbが含まれた場合が例示されている。物体検出部113によって、物体Bが出力画像Im中で注意領域画像Imaと重なる位置に検出された場合、追加画像取得部110hは、出力画像Imに、当該物体Bの画像Imbの外枠に沿った強調画像Imf1を追加することができる。強調画像Imf1は、例えば、黄色等の注意を惹きやすい色が付けられた所定の太さの枠線として設定されうる。なお、図19の強調画像Imf1は、一例であって、例えば、枠内が透過する状態で塗り潰されるなどしてもよいし、ハッチングや網掛け等のパターンが追加されてもよい。
図20には、図19の状態から他の車両等の物体Bが車両1に対して相対的に前進した状態での出力画像Imが、例示されている。図20の状態で、物体Bは、当該物体Bの画像Imbが出力画像Imの右側の端部Imeと重なる位置に到達している。物体検出部113は、画像処理結果等により、画像Imbが出力画像Imの端部Imeと接するかあるいは重なる状態であることを検出することができる。この場合、注意領域画像設定部110gは、図19とは異なる注意領域画像Imaを設定することができる。具体的には、例えば、注意領域画像Imaの色は、図19の注意領域画像Imaとは異なる色であったり、注意領域画像Imaにグラデーションやパターンが設定されたりしてもよい。また、追加画像取得部110hも、出力画像Imに、図19の強調画像Imf1とは異なる追加画像としての強調画像Imf2を追加することができる。具体的には、例えば、強調画像Imf2の色や線種は、図19の強調画像Imf1とは異なる色や線種であってもよい。例えば、強調画像Imf2の色は赤色であったり、強調画像Imf2の線の幅は強調画像Imf1より太かったりしてもよい。なお、注意領域画像設定部110gは、物体検出部113による物体Bの検出結果によって、物体Bの車両1からの距離が所定距離(閾値)以内となった場合に、図20の例のように注意領域画像Imaを変更してもよい。
さらに、図21には、強調画像Imf3が追加された出力画像Imが、例示されている。追加画像取得部110hは、図20と同じ状況で、出力画像Imに、さらに強調画像Imf3を追加することができる。強調画像Imf3は、例えば、出力画像Imの右側の端部Imeに沿った一定幅の帯状の画像である。強調画像Imf3は、所定の時間間隔で点滅してもよい。図20,21のような出力画像Imにより、運転者等の乗員は、他の車両等の物体Bが、車両1の前部のより近くに位置し、より注意が必要な状況であることを認識しやすい。
また、参照画像設定部110fは、図22に示されるように、出力画像Imに追加される参照画像として、図17〜21の車体画像Imiに替えて後方位置画像Imrを設定してもよい。この場合、出力画像Imには、注意領域画像Imaとともに、後方位置画像Imrが含まれる。
また、参照画像設定部110fは、図23〜27に例示されるような、種々の形態の後方位置画像Imrを設定することができる。図23には、車両前後方向に延びた線と車幅方向に延びた線とを含む梯子状の後方位置画像Imrが例示されている。図24には、車両前後方向に沿った線と車幅方向に沿った線とが結合された複数のT字状の要素を含む後方位置画像Imrが例示されている。図25には、車幅方向に沿った線と車両上下方向に沿った線とが結合された複数のL字状の要素と遠方を示す点状の要素とを含む後方位置画像Imrが例示されている。図26には、距離により異なる複数のL字状の要素を含む後方位置画像Imrが例示されている。図27には、線状の複数の要素と点状の複数の要素とを含む後方位置画像Imrが例示されている。このような後方位置画像Imrによっても、車両1の後方に位置する他の車両等の物体Bとの相対的な位置が把握されやすい。なお、図23〜27は、後方位置画像Imrの一例であって、後方位置画像Imrは、これらには限定されない。
また、範囲決定部110bや、表示態様決定部110cは、運転者等の乗員の操作入力によって、車外画像Imoや、車体画像Imi、追加画像、出力画像Imの範囲や表示態様を決定することができる。この場合、例えば、運転者等の乗員は、表示部10aで好みの範囲や表示態様で表示された出力画像Imを視認することができる。操作入力は、運転者等の乗員による、操作入力部10b,10c,24bや、ステアリングの操作によって行われる。ステアリングの操作に基づく操作入力は、舵角センサ14の検出結果から得られる。
以上、説明したように、本実施形態では、例えば、車両1が前進中の出力画像Im(表示画像)に、車両1の後方に離間した位置に対応した後方位置画像Imr(参照画像)が含まれうる。よって、本実施形態によれば、例えば、後方位置画像Imrによって、車両1の後方に位置する他の車両等の物体Bとの相対的な位置関係が把握されやすい。
また、本実施形態では、例えば、後方位置画像Imrには、車両1からの距離が異なる複数の要素が含まれている。よって、例えば、当該複数の要素によって、他の車両等の物体Bの車両1からの位置がより把握されやすい。
また、本実施形態では、例えば、車両1が前進中の出力画像Imに、後方位置画像Imrおよび車体2の後部を示す車体画像Imiのうち少なくとも一方が含まれうる。よって、例えば、車両1の後方に位置する他の車両等の物体Bとの相対的な位置関係がより一層把握されやすい。また、例えば、運転者等の乗員は、嗜好に応じて後方位置画像Imrおよび車体画像Imiを選択できたり、状況に応じて見やすい画像を選択できたりする。
また、本実施形態では、例えば、車両1が前進中の出力画像Imに、車両1の斜め後方に対応した注意領域を示す注意領域画像Imaが含まれうる。よって、車両1の斜め後方に他の車両等の物体Bが存在することが把握されやすい。
また、本実施形態では、例えば、注意領域画像Imaは、当該注意領域画像Imaに対応する位置に他の車両等の物体Bが検出された場合に表示される。よって、例えば、物体Bが存在せず注意領域画像Imaの必要性が低い場合には、当該注意領域画像Imaが表示されない。よって、例えば、電力消費が抑制されやすい。また、例えば、注意領域画像Imaの表示の有無が切り替わることにより、注意領域における物体Bの存在がより一層把握されやすくなる場合がある。
また、本実施形態では、例えば、注意領域画像Imaは、物体Bの位置に応じて変化する。よって、例えば、注意領域画像Imaが変化しない場合に比べて、注意領域における物体Bの存在がより一層把握されやすくなる場合がある。
以上、本発明の実施形態を例示したが、上記実施形態は一例であって、発明の範囲を限定することは意図していない。実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、組み合わせ、変更を行うことができる。また、各例の構成や形状は、部分的に入れ替えて実施することも可能である。また、各構成や形状等のスペック(構造や、種類、方向、形状、大きさ、長さ、幅、厚さ、高さ、数、配置、位置、色、パターン等)は、適宜に変更して実施することができる。
また、出力画像(表示画像)は、複数の表示装置で表示されてもよいし、ルームミラーの位置以外の表示装置で表示されてもよい。表示装置は、フロントウインドウや車内のスクリーン等に画像を映し出す装置であってもよいし、車内のダッシュボードやセンターコンソール等に設けられた表示パネルであってもよい。なお、表示パネルは、コックピットモジュール、インストルメントパネル、フェイシア等に設けられてもよい。
1…車両、2…車体、10a…表示部(表示装置)、11…ECU(画像表示制御装置)、11e…表示制御部、12,12R…撮像部、100…画像表示システム、110…画像生成部、110f…参照画像設定部、110g…注意領域画像設定部、113…物体検出部、Im…出力画像(表示画像)、Imo…車外画像、Imr…後方位置画像(参照画像)、Imi…車体画像(参照画像)、Ima…注意領域画像。

Claims (5)

  1. 車体の後部に取り付けられた撮像部によって少なくとも車両の後方および側方が撮像された撮像画像の少なくとも一部に基づく車両の後方および側方の車外画像の鏡像を含む、表示装置に表示される表示画像、を生成する画像生成部と、
    車体の側部の画像を含まず車体の後部のみを線画として示す参照画像を、車両の前進中に前記表示画像のうち前記車両の後方の車外画像の鏡像に含めるとともに前記表示画像のうち前記車両の側方の車外画像の鏡像に含めない画像、として設定しうる、参照画像設定部と、
    前記表示画像が表示されるよう前記表示装置を制御する表示制御部と、
    を備えた、画像表示制御装置。
  2. 前記表示画像中で前記参照画像の左右の少なくともいずれか一方に位置されて車両の斜め後方に対応した注意領域を示す注意領域画像を、前記表示画像に含める画像として設定しうる、注意領域画像設定部を備えた、請求項1に記載の画像表示制御装置。
  3. 物体を検出する物体検出部を備え、
    前記注意領域画像設定部は、前記物体検出部によって前記注意領域に対応する位置に物体が検出された場合に、前記注意領域画像を設定する、請求項2に記載の画像表示制御装置。
  4. 前記注意領域画像設定部は、検出された物体の位置に応じて異なる前記注意領域画像を設定する、請求項3に記載の画像表示制御装置。
  5. 車体の後部に取り付けられ少なくとも車両の後方および側方を撮像する撮像部と、
    表示装置と、
    画像表示制御装置と、
    を備え、
    前記画像表示制御装置は、
    前記撮像部によって撮像された撮像画像の少なくとも一部に基づく車両の後方および側方の車外画像を含む、前記表示装置に表示される表示画像、を生成する画像生成部と、
    車体の側部の画像を含まず車体の後部のみを線画として示す参照画像を、車両が前進中に前記表示画像のうち前記車両の後方の車外画像の鏡像に含めるとともに前記表示画像のうち前記車両の側方の車外画像の鏡像に含めない画像、として設定しうる、参照画像設定部と、
    前記表示画像が表示されるよう前記表示装置を制御する表示制御部と、
    を有した、画像表示システム。
JP2014181775A 2014-09-05 2014-09-05 画像表示制御装置および画像表示システム Expired - Fee Related JP6446925B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2014181775A JP6446925B2 (ja) 2014-09-05 2014-09-05 画像表示制御装置および画像表示システム
DE112015004046.3T DE112015004046B4 (de) 2014-09-05 2015-08-21 Bildanzeigesteuervorrichtung und bildanzeigesystem
US15/508,268 US20170305345A1 (en) 2014-09-05 2015-08-21 Image display control apparatus and image display system
PCT/JP2015/073580 WO2016035581A1 (ja) 2014-09-05 2015-08-21 画像表示制御装置および画像表示システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014181775A JP6446925B2 (ja) 2014-09-05 2014-09-05 画像表示制御装置および画像表示システム

Publications (2)

Publication Number Publication Date
JP2016055684A JP2016055684A (ja) 2016-04-21
JP6446925B2 true JP6446925B2 (ja) 2019-01-09

Family

ID=55439647

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014181775A Expired - Fee Related JP6446925B2 (ja) 2014-09-05 2014-09-05 画像表示制御装置および画像表示システム

Country Status (4)

Country Link
US (1) US20170305345A1 (ja)
JP (1) JP6446925B2 (ja)
DE (1) DE112015004046B4 (ja)
WO (1) WO2016035581A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109644256B (zh) 2016-09-22 2021-04-09 苹果公司 车载视频系统
US10518702B2 (en) * 2017-01-13 2019-12-31 Denso International America, Inc. System and method for image adjustment and stitching for tractor-trailer panoramic displays
JP6930120B2 (ja) * 2017-02-02 2021-09-01 株式会社リコー 表示装置、移動体装置及び表示方法。
JP6878109B2 (ja) * 2017-04-20 2021-05-26 株式会社Subaru 画像表示装置
JP6649914B2 (ja) * 2017-04-20 2020-02-19 株式会社Subaru 画像表示装置
JP2018177133A (ja) * 2017-04-20 2018-11-15 株式会社Subaru 画像表示装置
US11017249B2 (en) * 2018-01-29 2021-05-25 Futurewei Technologies, Inc. Primary preview region and gaze based driver distraction detection
EP3896962A4 (en) * 2018-12-11 2022-01-26 Sony Group Corporation IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD AND IMAGE PROCESSING SYSTEM
JPWO2020122079A1 (ja) * 2018-12-11 2021-10-21 ソニーグループ株式会社 画像処理装置、画像処理方法および画像処理システム
EP3896960A4 (en) 2018-12-11 2022-01-26 Sony Group Corporation IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD AND IMAGE PROCESSING SYSTEM
CN112298042A (zh) * 2020-11-15 2021-02-02 西南石油大学 一种消除汽车a柱盲区及周边环境预警的音像装置
JP2022094050A (ja) * 2020-12-14 2022-06-24 株式会社デンソー 車両用表示制御装置及び車両用表示制御方法
US20230061195A1 (en) * 2021-08-27 2023-03-02 Continental Automotive Systems, Inc. Enhanced transparent trailer

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4364471B2 (ja) * 2001-12-28 2009-11-18 株式会社エクォス・リサーチ 車両の画像処理装置
JP4323377B2 (ja) * 2004-05-24 2009-09-02 オリンパス株式会社 画像表示装置
JP4772409B2 (ja) * 2005-07-20 2011-09-14 株式会社オートネットワーク技術研究所 画像表示システム
JP5115136B2 (ja) * 2007-10-16 2013-01-09 株式会社デンソー 車両後方監視装置
JP5320970B2 (ja) 2008-10-15 2013-10-23 日産自動車株式会社 車両用表示装置および表示方法
JP2011182254A (ja) * 2010-03-02 2011-09-15 Suzuki Motor Corp 車両用運転支援装置
JP5495071B2 (ja) * 2011-06-16 2014-05-21 アイシン精機株式会社 車両周辺監視装置
WO2013157184A1 (ja) * 2012-04-16 2013-10-24 日産自動車株式会社 車両用後方視界支援装置及び車両用後方視界支援方法
JP5669791B2 (ja) * 2012-08-07 2015-02-18 本田技研工業株式会社 移動体の周辺画像表示装置
JP2014116756A (ja) * 2012-12-07 2014-06-26 Toyota Motor Corp 周辺監視システム
JP6364702B2 (ja) * 2013-03-29 2018-08-01 アイシン精機株式会社 画像表示制御装置、画像表示システム、および表示ユニット

Also Published As

Publication number Publication date
WO2016035581A1 (ja) 2016-03-10
JP2016055684A (ja) 2016-04-21
DE112015004046T5 (de) 2017-06-29
US20170305345A1 (en) 2017-10-26
DE112015004046B4 (de) 2021-11-18

Similar Documents

Publication Publication Date Title
JP6446925B2 (ja) 画像表示制御装置および画像表示システム
JP6380410B2 (ja) 画像表示制御装置および画像表示システム
JP6565148B2 (ja) 画像表示制御装置および画像表示システム
JP6056612B2 (ja) 画像表示制御装置および画像表示システム
WO2014051125A1 (ja) 駐車支援装置、駐車支援方法およびプログラム
EP2583868A1 (en) Drive assist device
US20170259831A1 (en) Driving assistance device and driving assistance system
JP2016097896A (ja) 画像表示制御装置
JP6413477B2 (ja) 画像表示制御装置および画像表示システム
JP6555056B2 (ja) 周辺監視装置
JP6876236B2 (ja) 表示制御装置
WO2019008824A1 (ja) 周辺監視装置
JP2017094922A (ja) 周辺監視装置
JP2016189576A (ja) 画像表示制御装置
CN109314770B (zh) 周边监控装置
JP6720729B2 (ja) 表示制御装置
WO2018220915A1 (ja) 周辺監視装置
JP2020042441A (ja) 表示制御装置
US10807529B2 (en) Driving assistant apparatus with lane marking
JP6711151B2 (ja) 運転支援装置
JP6601097B2 (ja) 表示制御装置
JP2016060237A (ja) 駐車支援装置及び駐車支援システム
JP2017069846A (ja) 表示制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181119

R151 Written notification of patent or utility model registration

Ref document number: 6446925

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees