JP6256509B2 - 電子ミラー制御装置 - Google Patents

電子ミラー制御装置 Download PDF

Info

Publication number
JP6256509B2
JP6256509B2 JP2016067530A JP2016067530A JP6256509B2 JP 6256509 B2 JP6256509 B2 JP 6256509B2 JP 2016067530 A JP2016067530 A JP 2016067530A JP 2016067530 A JP2016067530 A JP 2016067530A JP 6256509 B2 JP6256509 B2 JP 6256509B2
Authority
JP
Japan
Prior art keywords
rear side
vehicle
line
display
vanishing point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016067530A
Other languages
English (en)
Other versions
JP2017183974A (ja
Inventor
彰 貝野
彰 貝野
由貴 藤原
由貴 藤原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
Original Assignee
Mazda Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mazda Motor Corp filed Critical Mazda Motor Corp
Priority to JP2016067530A priority Critical patent/JP6256509B2/ja
Priority to DE112017001744.0T priority patent/DE112017001744T5/de
Priority to US15/760,758 priority patent/US10596969B2/en
Priority to PCT/JP2017/010062 priority patent/WO2017169706A1/ja
Priority to CN201780003229.2A priority patent/CN109155839B/zh
Publication of JP2017183974A publication Critical patent/JP2017183974A/ja
Application granted granted Critical
Publication of JP6256509B2 publication Critical patent/JP6256509B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/006Side-view mirrors, e.g. V-shaped mirrors located at the front or rear part of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • B60R11/0229Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for displays, e.g. cathodic tubes
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1253Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic

Description

ここに開示された技術は、撮像部により撮像された車両の後側面を含む背景画像の表示を制御する電子ミラー制御装置に関するものである。
従来、車載カメラで撮影された車両の後側面及び後側方の画像を車両内部に設置されたディスプレイに表示する装置が提案されている(特許文献1参照)。特許文献1に記載の技術では、ディスプレイに表示される画像を部分的に圧縮して表示することにより、運転者の視認性を向上させている。
特開2012−170127号公報
車両の走行中には、いかなる環境においても、運転者は、走行空間を正しく安全に把握することができる必要がある。車両の後側方を視認できるドアミラー又はカメラで撮像した車両の後側方を表示するディスプレイに見える間接視界がない場合には、運転者は、体または首を回転させ、顔を後ろに向けて後側方を見ることになる。この場合には、運転者は、見えている後側方の環境が、走行環境のなかのどこに位置するかを直感的に把握することができる。しかしながら、首を回転したり視線を移動したりするため、わき見の時間が長くなってしまう。
これに対して、上記ドアミラー又はディスプレイに見える間接視界を利用した場合には、体又は首を回転せずに車両の後側方を確認することができるため、わき見の時間は短縮される。しかしながら、目で直接見ているわけではないため、間接視界から走行環境を把握するまでに時間を要してしまう。
そこで、間接視界を利用した場合でも、間接視界から自車の位置関係などの走行環境を短時間で把握できるようにすることが求められる。しかし、上記特許文献1では、この点について十分に検討されていない。
ここに開示された技術は、間接視界から走行環境を短時間で把握できるようにすることを目的とする。
上述の課題を解決するために、ここに開示された技術の一態様は、車両に搭載され、走行中の前記車両の後側面を含む背景画像を撮像する撮像部と、前記撮像部により撮像された前記背景画像を表示する表示部と、前記背景画像から消失点の位置を算出する演算部と、前記背景画像において前記車両の後側面が表示された後側面領域を抽出する抽出部と、前記消失点を通る直線に一致する消失点ラインを前記後側面領域に表示する表示制御部と、を備えるものである。
この態様では、撮像部により撮像された背景画像から消失点の位置が算出される。背景画像において車両の後側面が表示された後側面領域が抽出される。消失点を通る直線に一致する消失点ラインが後側面領域に表示される。このため、オプティカルフローの存在しない後側面領域に、オプティカルフローの役割を果たす消失点ラインが表示される。その結果、運転者は、表示部に表示される間接視界から、走行環境を短時間で把握することが可能となる。
上記態様において、例えば、前記撮像部により撮像される前記車両の後側面には、ベルトライン又はキャラクタラインが設けられ、前記表示制御部は、前記撮像部により撮像された前記車両の後側面を前記表示部の前記後側面領域に表示する際に、前記ベルトライン又はキャラクタラインが前記消失点を通る直線に一致するように前記ベルトライン又はキャラクタラインを変形し、変形した前記ベルトライン又はキャラクタラインを前記消失点ラインとして表示してもよい。
この態様では、撮像部により撮像された車両の後側面が表示部の後側面領域に表示される際に、ベルトライン又はキャラクタラインが消失点を通る直線に一致するように変形され、変形されたベルトライン又はキャラクタラインが消失点ラインとして表示される。したがって、車両の後側面に設けられたベルトライン又はキャラクタラインが、オプティカルフローの役割を果たす。その結果、運転者は、見慣れたベルトライン又はキャラクタラインにより、自然な形で走行環境を把握することが可能になる。
上記態様において、例えば、前記表示制御部は、前記消失点を通る直線に一致する線分画像を前記消失点ラインとして前記後側面領域に表示してもよい。
この態様では、消失点を通る直線に一致する線分画像が、消失点ラインとして後側面領域に表示される。このため、オプティカルフローの存在しない後側面領域に、オプティカルフローの役割を果たす線分画像が消失点ラインとして表示される。その結果、運転者は、表示部に表示される間接視界から、走行環境を短時間で把握することが可能となる。
上記態様において、例えば、前記表示制御部は、前記車両の後側面に代えて前記車両のシルエットを前記後側面領域に表示してもよい。この態様では、車両の後側面に代えて車両のシルエットが後側面領域に表示される。このため、消失点ラインとして後側面領域に表示される線分画像を目立たせることができる。
この電子ミラー制御装置によれば、オプティカルフローの存在しない後側面領域に、オプティカルフローの役割を果たす消失点ラインを表示することにより、運転者は、表示部に表示される間接視界から、走行環境を短時間で把握することが可能となる。
本実施形態の車両の構成を概略的に示すブロック図である。 車両の動作の一例を概略的に示すフローチャートである。 車両の停止中にディスプレイに表示される背景画像の一例を示す図である。 背景画像の変形を説明する図である。 車両の走行中にディスプレイに表示される背景画像の一例を示す図である。 ディスプレイに表示される背景画像の異なる例を示す図である。 ディスプレイに表示される背景画像のさらに異なる例を示す図である。 車両の動作の異なる例を概略的に示すフローチャートである。 図8の動作でディスプレイに表示される背景画像を示す図である。 車両の動作のさらに異なる例を概略的に示すフローチャートである。 図10の動作でディスプレイに表示される背景画像を示す図である。 車両の室内に設置されたディスプレイを示す図である。 実験で設定された有効条件を説明する図である。 実験で設定された無効条件を説明する図である。 第1被験者の実験結果を示す図である。 第2被験者の実験結果を示す図である。
以下、図面を参照しつつ、本開示の実施形態が説明される。なお、各図では、同様の要素には同様の符号が付され、適宜、説明が省略される。
図1は、本実施形態の車両の構成を概略的に示すブロック図である。車両100は、例えば4輪自動車である。車両100は、図1に示されるように、カメラ210,220(撮像部の一例)、ディスプレイ310,320(表示部の一例)、電子制御ユニット(ECU)400を備える。
カメラ210は、例えば車両100の右側のドアミラーに、カメラ210の光軸が車両100の後方を向くように取り付けられる。カメラ210は、車両100の右側の後側面を含む車両100の右後方の背景画像を所定時間(例えば1/60秒)毎に連続して撮像する。なお、カメラ210は、右側のドアミラーに代えて、右側のドアミラーが取り付けられていた位置に、カメラ210の光軸が車両100の後方を向くように取り付けられてもよい。
カメラ220は、例えば車両100の左側のドアミラーに、カメラ220の光軸が車両100の後方を向くように取り付けられる。カメラ220は、車両100の左側の後側面を含む車両100の左後方の背景画像を所定時間(例えば1/60秒)毎に連続して撮像する。なお、カメラ220は、左側のドアミラーに代えて、左側のドアミラーが取り付けられていた位置に、カメラ220の光軸が車両100の後方を向くように取り付けられてもよい。
ディスプレイ310は、運転席の前方の右寄りに配置される。ディスプレイ310は、カメラ210により所定時間(例えば1/60秒)毎に連続して撮像された車両100の右後方の背景画像のうち最新の背景画像を表示する。ディスプレイ320は、運転席の前方の左寄りに配置される。ディスプレイ320は、カメラ220により所定時間(例えば1/60秒)毎に連続して撮像された車両100の左後方の背景画像のうち最新の背景画像を表示する。
ディスプレイ310,320は、例えば液晶表示パネルを含む。ディスプレイ310,320は、液晶表示パネルに限られず、有機EL(Electro Luminescence)パネルなどの他の表示デバイスを含んでもよい。
ECU400は、車両100の全体の動作を制御する。ECU400は、中央演算処理装置(CPU)410、メモリ420、その他の周辺回路を含む。メモリ420は、例えば、フラッシュメモリなどの半導体メモリ、ハードディスク、又は他の記憶素子で構成される。メモリ420は、カメラ210,220により撮像された各背景画像を一時的に保存するフレームメモリ、プログラムを保存するメモリ、データを一時的に保存するメモリ等を含む。なお、メモリ420は、カメラ210,220により撮像された各背景画像を一時的に保存する領域、プログラムを保存する領域、データを一時的に保存する領域を備えた単一のメモリで構成されていてもよい。
CPU410は、メモリ420に保存されているプログラムに従って動作することにより、演算部411、抽出部412、表示制御部413として機能する。演算部411は、カメラ210,220により撮像された各背景画像から、ディスプレイ310,320における消失点の位置をそれぞれ算出する。
抽出部412は、カメラ210により撮像された背景画像から、車両100の右側の後側面が表示された後側面領域316(後述の図3〜図5)を抽出する。抽出部412は、カメラ220により撮像された背景画像から、車両100の左側の後側面が表示された後側面領域を抽出する。
表示制御部413は、メモリ420の各フレームメモリに保存された、カメラ210,220により撮像された最新の各背景画像をディスプレイ310,320にそれぞれ表示する。表示制御部413は、カメラ210,220により撮像された各背景画像をディスプレイ310,320に表示する際に、左右を反転して表示する。これによって、ディスプレイ310に右側のドアミラーに映る画像が表示され、ディスプレイ320に左側のドアミラーに映る画像が表示される。演算部411、抽出部412、表示制御部413の機能は、後に詳述される。
図2は、車両100の動作の一例を概略的に示すフローチャートである。図3は、車両100の停止中にディスプレイ310に表示される背景画像309の一例を示す図である。図4は、背景画像309の変形を説明する図である。図5は、車両100の走行中にディスプレイ310に表示される背景画像309の一例を示す図である。なお、以下では、カメラ210により撮像された背景画像について説明されるが、カメラ220により撮像された背景画像についても同様である。
例えばエンジンが始動されると、カメラ210により撮像が開始されて、図2の動作が開始される。ステップS201において、表示制御部413は、カメラ210により撮像され、メモリ420のフレームメモリに保存された最新の背景画像309をディスプレイ310に表示する。図3では、車両100は停止しており、表示制御部413は、カメラ210により撮像された車両100の右側の後側面311を含む背景画像309をディスプレイ310に表示している。
次に、ステップS202において、車両100は走行を開始する。次に、ステップS203において、演算部411は、カメラ210により撮像された背景画像から第1のオプティカルフローを算出し、ステップS204において、第1のオプティカルフローとは別の第2のオプティカルフローを算出する。
オプティカルフローは、画像中の物体の動きをベクトルで表したものである。演算部411は、複数の背景画像から、それぞれの間で互いに対応する特徴点を抽出し、抽出した対応する特徴点を結んだ線を第1、第2のオプティカルフローとして算出してもよい。演算部411は、LucasKanade法、Horn−Schunk法などの公知の手法を用いて、第1、第2のオプティカルフローを算出してもよい。図4には、実際にはディスプレイ310に表示されていない第1のオプティカルフロー312と、第2のオプティカルフロー313とが示されている。
次に、ステップS205において、演算部411は、第1のオプティカルフロー312と第2のオプティカルフロー313との交点を消失点314として算出する。消失点とは、遠近法において、実際には平行線になっているものを平行線でないように描く際に、その線が交わる点を意味する。
なお、図2では、2つのオプティカルフロー312,313の交点を消失点314として算出しているが、演算部411は、図4に示されるように、さらに第3のオプティカルフロー315を算出してもよい。この場合には、演算部411は、第1〜第3のオプティカルフロー312,313,315の3つの交点の中心を消失点として算出してもよい。
次に、ステップS206において、抽出部412は、ディスプレイ310において、車両100の後側面311が表示されている後側面領域316を抽出する。抽出部412は、テンプレートマッチング法によって、後側面領域316を抽出してもよい。或いは、抽出部412は、カメラ210により所定時間毎に撮像された複数の背景画像の各画素値を比較して、画素値に変化が無い領域を後側面領域316として抽出してもよい。
なお、ECU400は、カメラ210の撮像範囲を変更できるように、運転者の操作に応じてカメラ210の光軸の角度を変更するカメラ制御部を備えてもよい。メモリ420は、カメラ210の光軸の角度と後側面領域316とが対応付けられたデータを記憶してもよい。この場合には、抽出部412は、現在のカメラ210の光軸の角度をカメラ制御部から取得し、取得した光軸の角度に対応付けられた後側面領域316をメモリ420から抽出してもよい。
次に、ステップS207において、表示制御部413は、ステップS206で抽出された後側面領域316において、ベルトライン317を抽出する。ベルトライン317は、車体の横の窓の下端を水平方向に走るラインであり、車体の上部と下部とを窓の位置で仕切る線であり、ドアに沿って水平方向に走る下部車体の上端線である。
メモリ420には、予めベルトライン317の画像データが保存されていてもよい。表示制御部413は、メモリ420に保存されているベルトライン317の画像データをテンプレートとして、テンプレートマッチング法によってベルトライン317を抽出してもよい。
上述のように、運転者の操作に応じてカメラ210の光軸の角度を変更するカメラ制御部を備えている場合には、メモリ420は、カメラ210の光軸の角度とベルトライン317とが対応付けられたデータを記憶してもよい。この場合には、表示制御部413は、現在のカメラ210の光軸の角度をカメラ制御部から取得し、取得した光軸の角度に対応付けられたベルトライン317をメモリ420から抽出してもよい。
次に、ステップS208において、表示制御部413は、ベルトライン317が消失点314を通る直線に一致するように、後側面領域316の画像を変形する。表示制御部413は、例えば、まず、ベルトライン317の後端317aを固定し、ベルトライン317が後端317aと消失点314とを通る直線に一致するように、ベルトライン317を回転させ、さらに、ベルトライン317を引き伸ばして、前端317bをディスプレイ310の外縁に一致させる。これによって、図4に示されるように、後端317aと前端317Xbとを有する、消失点314を通る直線に一致する変換後のベルトライン317X(消失点ラインの一例)が得られる。
次に、表示制御部413は、境界線316aを固定した状態で、後側面領域316内の各画素の線形性が維持され、かつ、ベルトライン317がベルトライン317Xに一致するように、後側面領域316を、回転及び縮小、又は回転及び拡大させる。
表示制御部413は、具体的には例えば、ベルトライン317及びベルトライン317Xにおける複数の点の変換前後の対応関係から、ベルトライン317をベルトライン317Xに変換するためのアフィン変換の変換行列を求める。さらに、表示制御部413は、後側面領域316の境界線316aを固定した状態で、求めた変換行列を用いて、後側面領域316に表示されている後側面311の全体を座標変換する。さらに表示制御部413は、座標変換によって隙間ができた画素については、周辺の画素のデータを用いて補間する。
以上の手順を含むステップS208によって、図5に示されるように、消失点314を通る直線に一致するベルトライン317Xを含む、座標変換後の後側面311Xが、後側面領域316に表示される。
その後、処理はステップS203に戻って、以上のステップが繰り返される。なお、図2の動作は、車両100が停止すると終了してもよい。
以上説明されたように、本実施形態によれば、ベルトライン317Xが消失点314を通る直線に一致するように、後側面領域316が座標変換されている。これによって、オプティカルフローの存在しない後側面領域316において、オプティカルフローと同じ役割を果たす、消失点314を通る直線に一致するベルトライン317Xが表示される。その結果、運転者は、ディスプレイ310を見たときに、自車の位置などの走行環境を短時間で把握することができる。
なお、図5では、表示制御部413は、ベルトライン317が消失点314を通る直線に一致するように、後側面領域316を座標変換しているが、ベルトライン317に代えて、表示制御部413は、車両100のキャラクターライン311Y(図3)が消失点314を通る直線に一致するように、後側面領域316を座標変換してもよい。キャラクターライン311Yは、車両のデザインとして構成される面が交わって形成される線、又は滑らかな車体の表面に車両のデザインとして付け加えられた線である。
また、図5では、表示制御部413は、ベルトライン317Xが得られるように、後側面領域316を座標変換しているだけであるが、これに限られない。
図6は、車両100の走行中にディスプレイ310に表示される背景画像309の異なる例を示す図である。図6では、表示制御部413は、消失点314を通る直線に一致するベルトライン317Xが得られるように後側面領域316を座標変換した上で、ベルトライン317X上に、消失点314を通る直線に一致する矢印317Yを表示している。これによって、ベルトライン317Xが強調され、消失点314へのフロー感をより増大させることができる。なお、表示制御部413は、矢印に代えて、後述される図8に示されるような線分画像318を表示してもよい。
また、図5では、アフィン変換の変換行列を用いて座標変換を行うことにより、後側面領域316に、違和感の無い後側面311Xが表示されているが、これに限られない。
図7は、車両100の走行中にディスプレイ310に表示される背景画像309のさらに異なる例を示す図である。図7では、表示制御部413は、図4を用いて説明された方法でベルトライン317Xを得ると、ベルトライン317(図3)の上方の窓等を、ベルトライン317Xの位置でカットする。これによって、ベルトライン317(図3)の上方の窓等は、図3に示される状態のままで、ベルトライン317Xの位置から下方が除去される。また、表示制御部413は、ベルトライン317Xの下方のキャラクターライン311Yとの間の領域を、ベルトライン317(図3)とキャラクターライン311Yとの間の画素のデータで補間する。
この場合でも、ベルトライン317Xとキャラクターライン311Yとの間の面積が大きくなるため多少の違和感が生じるものの、消失点314を通る直線に一致するベルトライン317Xを表示することができる。
図8は、車両100の動作の異なる例を概略的に示すフローチャートである。図9は、図8の動作においてディスプレイ310に表示される背景画像309を示す図である。図8におけるステップS201〜S206は、図2におけるステップS201〜S206と同じである。
ステップS206に続くステップS501において、表示制御部413は、ステップS206で抽出された後側面領域316に重ねて、消失点314を通る直線に一致する線分画像318(消失点ラインの一例)を表示する。
図9に示されるように、表示制御部413は、線分画像318の後端318aを後側面領域316の境界線316a上の任意の位置に配置する。図9の例では、表示制御部413は、ベルトライン317の後方側の終端を通り、かつ、消失点314を通る直線に一致するように、線分画像318の後端318aを境界線316a上に配置している。また、表示制御部413は、線分画像318の前端318bをディスプレイ310の外縁に配置している。さらに、表示制御部413は、遠近感が表れるように、線分画像318の幅を後端318aから前端318bに向けて徐々に太くしている。
表示制御部413は、図9では、図3と同様に、車両100の後側面311をカメラ210で撮像された状態のままでディスプレイ310に表示している。ステップS501の後、処理はステップS203に戻って、以上のステップが繰り返される。なお、図8の動作は、車両100が停止すると終了してもよい。
図8、図9に示される実施形態でも、オプティカルフローの存在しない後側面領域316において、オプティカルフローと同じ役割を果たす、消失点314を通る直線に一致する線分画像318が表示されている。その結果、運転者は、ディスプレイ310を見たときに、自車の位置などの走行環境を短時間で把握することができる。
図10は、車両100の動作のさらに異なる例を概略的に示すフローチャートである。図11は、図10の動作においてディスプレイ310に表示される背景画像309を示す図である。図10におけるステップS201〜S206は、図2におけるステップS201〜S206と同じである。
ステップS206に続くステップS701において、表示制御部413は、図11に示されるように、ステップS206で抽出された後側面領域316に、車両100の後側面に代えて車両のシルエット319を表示する。表示制御部413は、後側面領域316を例えば無地の色で塗りつぶした画像をシルエット319として表示してもよい。続くステップS501は、図8におけるステップS501と同じである。その後、処理はステップS203に戻って、以上のステップが繰り返される。なお、図10の動作は、車両100が停止すると終了してもよい。
図10、図11に示される実施形態でも、オプティカルフローの存在しない後側面領域316において、オプティカルフローと同じ役割を果たす、消失点314を通る直線に一致する線分画像318が表示されている。その結果、運転者は、ディスプレイ310を見たときに、自車の位置などの走行環境を短時間で把握することができる。
また、図10、図11に示される実施形態では、後側面領域316に、車両100の後側面に代えて車両のシルエット319が表示されている。そのため、線分画像318のコントラストが増大し、線分画像318を目立たせることができる。
なお、図9,図11では、線分画像318は、後側面領域316の境界線316aからディスプレイ310の外縁まで延びているが、これに限られない。線分画像318は、後側面領域316の一部に表示されてもよい。すなわち、後側面領域316に重ねて表示される線分画像は、図9,図11に示される線分画像318より短くてもよい。線分画像318の長さは、例えば運転者の注意を引くことができる程度であればよい。
次に、本実施形態の効果を確認するために実施された「先行手がかり法」の実験結果が説明される。「先行手がかり法」では、手がかり刺激に続いて、固視点の左右に提示される光点(標的刺激)の検出時間が測定される。実験は手がかりによって操作され、手がかりが標的の空間的位置を示している有効(valid)条件と、手がかりが標的の空間的位置を示していない無効(invalid)条件とが設定される。
図12は、車両100の室内に設置されたディスプレイ310を示す図である。図13は、実験で設定された有効条件を説明する図である。図14は、実験で設定された無効条件を説明する図である。
実験は、直線道路を100km/hの速度で走行中の車両において実施された。図12に示されるように、ディスプレイ310は、計器パネル500上であって、ハンドル501のやや右寄りに配置されている。この実験では、図10、図11の実施形態と同様に、後側面領域316に、車両の後側面に代えて車両のシルエットが表示されている。また、図12〜図14に示されるように、後側面領域316に、固視点510を示す発光ダイオード(LED)が点灯しており、線分画像550が表示されている。
実験では、まず、手がかり刺激として、点灯予定のLEDが被験者に教示される。ここでは、固視点510より前方のLED530が点灯される。その結果、図13、図14に示されるように、固視点510より前方の領域520に被験者の注意が向けられる。次に、被験者は、固視点510に視線を移動する。続いて、標的刺激が表示される。その後、被験者は、表示された標的刺激の位置を回答する。
このとき、有効条件では、図13に示されるように、固視点510より前方のLED530が標的刺激として点灯される。すなわち、有効条件では、手がかり刺激と標的刺激とが一致しているので、被験者は、直ぐに標的刺激の位置を回答することができる。
これに対して、無効条件では、図14に示されるように、固視点510より後方のLED540が標的刺激として点灯される。すなわち、無効条件では、被験者は、領域520からLED540に注意を移動した上で、標的刺激の位置を回答することになる。
したがって、有効条件での反応時間をT1とし、無効条件での反応時間をT2とすると、(T2−T1)が、注意の移動に要する時間である。つまり、この(T2−T1)が短いほど、注意をスムーズに移動できることになる。実験では、線分画像550の向きを変えて、(T2−T1)が比較された。
図15は、第1被験者Aの実験結果を示す図である。図16は、第2被験者Bの実験結果を示す図である。図15、図16では、それぞれ、3回行われた実験の平均値が示されている。
線分画像550の向きとして、垂直の状態(0度)、垂直に対して45度の状態、線分画像318(図9)に一致する状態(OF)、垂直に対して90度の状態、線分画像550が表示されていない状態(なし)の5種類の状態で、実験が行われた。
第1被験者Aは、図15に示されるように、線分画像318(図9)に一致する線分画像550が表示されているときに、(T2−T1)が最も短くなっている。第2被験者Bも、図16に示されるように、線分画像318(図9)に一致する線分画像550が表示されているときに、(T2−T1)が最も短くなっている。
図15、図16の実験結果から、後側面領域316に線分画像318(図9)を表示することにより、運転者は、ディスプレイ310を見たときに、自車の位置などの走行環境を短時間で把握できることが分かった。
なお、上記各実施形態では、演算部411は、オプティカルフロー312,313の交点を消失点314として算出しているが、消失点314の位置の算出方法は、これに限られない。代替的に、演算部411は、例えば路肩又は中央分離帯などの道路の端を表す直線、車線の境界を表す境界線などのうちで2本の直線を、1枚の背景画像309から検出し、検出した2本の直線の交点を消失点として算出してもよい。
100 車両
210,220 カメラ
309 背景画像
310,320 ディスプレイ
311 車両の後側面
311Y キャラクターライン
314 消失点
316 後側面領域
317,317X ベルトライン
318 線分画像
411 演算部
412 抽出部
413 表示制御部

Claims (4)

  1. 車両に搭載され、走行中の前記車両の後側面を含む背景画像を撮像する撮像部と、
    前記撮像部により撮像された前記背景画像を表示する表示部と、
    前記背景画像から消失点の位置を算出する演算部と、
    前記背景画像において前記車両の後側面が表示された後側面領域を抽出する抽出部と、
    前記消失点を通る直線に一致する消失点ラインを前記後側面領域に表示する表示制御部と、
    を備える電子ミラー制御装置。
  2. 前記撮像部により撮像される前記車両の後側面には、ベルトライン又はキャラクタラインが設けられ、
    前記表示制御部は、前記撮像部により撮像された前記車両の後側面を前記表示部の前記後側面領域に表示する際に、前記ベルトライン又はキャラクタラインが前記消失点を通る直線に一致するように前記ベルトライン又はキャラクタラインを変形し、変形した前記ベルトライン又はキャラクタラインを前記消失点ラインとして表示する、
    請求項1に記載の電子ミラー制御装置。
  3. 前記表示制御部は、前記消失点を通る直線に一致する線分画像を前記消失点ラインとして前記後側面領域に表示する、
    請求項1又は2に記載の電子ミラー制御装置。
  4. 前記表示制御部は、前記車両の後側面に代えて前記車両のシルエットを前記後側面領域に表示する、
    請求項3に記載の電子ミラー制御装置。
JP2016067530A 2016-03-30 2016-03-30 電子ミラー制御装置 Expired - Fee Related JP6256509B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2016067530A JP6256509B2 (ja) 2016-03-30 2016-03-30 電子ミラー制御装置
DE112017001744.0T DE112017001744T5 (de) 2016-03-30 2017-03-14 Vorrichtung zum Steuern und/oder Regeln eines elektronischen Spiegels
US15/760,758 US10596969B2 (en) 2016-03-30 2017-03-14 Electronic mirror control device
PCT/JP2017/010062 WO2017169706A1 (ja) 2016-03-30 2017-03-14 電子ミラー制御装置
CN201780003229.2A CN109155839B (zh) 2016-03-30 2017-03-14 电子镜控制装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016067530A JP6256509B2 (ja) 2016-03-30 2016-03-30 電子ミラー制御装置

Publications (2)

Publication Number Publication Date
JP2017183974A JP2017183974A (ja) 2017-10-05
JP6256509B2 true JP6256509B2 (ja) 2018-01-10

Family

ID=59964264

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016067530A Expired - Fee Related JP6256509B2 (ja) 2016-03-30 2016-03-30 電子ミラー制御装置

Country Status (5)

Country Link
US (1) US10596969B2 (ja)
JP (1) JP6256509B2 (ja)
CN (1) CN109155839B (ja)
DE (1) DE112017001744T5 (ja)
WO (1) WO2017169706A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111886858B (zh) * 2018-03-15 2022-06-21 株式会社小糸制作所 车辆用影像系统

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3424808B2 (ja) * 1998-10-21 2003-07-07 矢崎総業株式会社 車両用後側方監視装置
US6618672B2 (en) 1998-10-21 2003-09-09 Yazaki Corporation Vehicle-applied rear-and-side monitoring system
JP3911983B2 (ja) * 2000-09-28 2007-05-09 日産自動車株式会社 後方監視装置
JP2006023235A (ja) * 2004-07-09 2006-01-26 Honda Motor Co Ltd 接近車両認識システム
US20080018668A1 (en) * 2004-07-23 2008-01-24 Masaki Yamauchi Image Processing Device and Image Processing Method
JP2007026321A (ja) * 2005-07-20 2007-02-01 Auto Network Gijutsu Kenkyusho:Kk 後側方接近検出システム
WO2007015446A1 (ja) * 2005-08-02 2007-02-08 Nissan Motor Co., Ltd. 車両周囲監視装置及び車両周囲監視方法
CN101488222B (zh) * 2008-01-16 2011-02-09 中国科学院自动化研究所 一种基于运动目标表象和运动信息的摄像机自标定方法
JP4416039B2 (ja) * 2008-03-19 2010-02-17 日本電気株式会社 縞模様検知システム、縞模様検知方法および縞模様検知用プログラム
US9460601B2 (en) * 2009-09-20 2016-10-04 Tibet MIMAR Driver distraction and drowsiness warning and sleepiness reduction for accident avoidance
JP5414588B2 (ja) * 2010-03-24 2014-02-12 株式会社東芝 車両運転支援用処理装置及び車両運転支援装置
US20110298988A1 (en) * 2010-06-04 2011-12-08 Toshiba Alpine Automotive Technology Corporation Moving object detection apparatus and moving object detection method
JP5562311B2 (ja) * 2011-10-11 2014-07-30 本田技研工業株式会社 車両の運転支援装置
JP5893054B2 (ja) * 2012-01-17 2016-03-23 パイオニア株式会社 画像処理装置、画像処理サーバ、画像処理方法、画像処理プログラム、及び記録媒体
JP5953824B2 (ja) * 2012-03-02 2016-07-20 日産自動車株式会社 車両用後方視界支援装置及び車両用後方視界支援方法
JP2013187562A (ja) * 2012-03-05 2013-09-19 Nissan Motor Co Ltd 車両用後方視界支援装置
JP2013196387A (ja) * 2012-03-19 2013-09-30 Pioneer Electronic Corp 画像処理装置、及び画像処理方法
JP5321711B2 (ja) 2012-04-23 2013-10-23 日産自動車株式会社 車両用周辺監視装置および映像表示方法
JPWO2013161028A1 (ja) * 2012-04-26 2015-12-21 パイオニア株式会社 画像表示装置、画像表示方法、画像表示プログラム、及び記録媒体
JP2014116756A (ja) * 2012-12-07 2014-06-26 Toyota Motor Corp 周辺監視システム
JP6194713B2 (ja) * 2013-09-13 2017-09-13 富士通株式会社 画像処理装置、システムおよび表示プログラム
FR3014553A1 (fr) * 2013-12-11 2015-06-12 Parrot Procede de calibration angulaire de la position d'une camera video embarquee dans un vehicule automobile
JP2015144407A (ja) * 2013-12-27 2015-08-06 株式会社Jvcケンウッド 視界支援装置、視界支援方法、及び視界支援プログラム
JP2015144406A (ja) * 2013-12-27 2015-08-06 株式会社Jvcケンウッド 視界支援装置、視界支援方法、及び視界支援プログラム
JP6233599B2 (ja) * 2014-02-25 2017-11-22 マツダ株式会社 車両用表示制御装置
WO2015162910A1 (ja) * 2014-04-24 2015-10-29 パナソニックIpマネジメント株式会社 車載用表示装置、車載用表示装置の制御方法、プログラム
KR102227843B1 (ko) * 2014-08-22 2021-03-15 현대모비스 주식회사 차선 이탈 경보 시스템의 동작방법

Also Published As

Publication number Publication date
CN109155839B (zh) 2020-12-11
US20180257569A1 (en) 2018-09-13
DE112017001744T5 (de) 2018-12-13
CN109155839A (zh) 2019-01-04
JP2017183974A (ja) 2017-10-05
WO2017169706A1 (ja) 2017-10-05
US10596969B2 (en) 2020-03-24

Similar Documents

Publication Publication Date Title
US8441536B2 (en) Vehicle periphery displaying apparatus
CN104210424B (zh) 增强的前方路缘观察系统
JP5143235B2 (ja) 制御装置および車両周囲監視装置
CN105383384B (zh) 车辆控制装置
JP2010232723A (ja) 車両周辺表示装置
JP2011030140A (ja) 外界認識装置
JP6233599B2 (ja) 車両用表示制御装置
JP5548069B2 (ja) 画像処理装置、及び、画像処理方法
JP2011259152A (ja) 運転支援装置
JP7426174B2 (ja) 車両周囲画像表示システム及び車両周囲画像表示方法
JP2017187955A (ja) 視線誘導装置
JP2016111509A (ja) 車両用画像処理装置、車両用画像処理方法およびプログラム
JP2008037118A (ja) 車両用表示装置
JP2009248812A (ja) 運転支援装置
JP6256509B2 (ja) 電子ミラー制御装置
JP2008213647A (ja) 駐車支援方法及び駐車支援装置
JP7217090B2 (ja) 情報提供装置及び情報提供方法
KR20160107529A (ko) 차량 이미지가 애니메이션되는 주차 안내 장치 및 방법
JP7357284B2 (ja) 描画システム、表示システム、移動体、描画方法及びプログラム
JP2008294616A (ja) 運転支援システム及び車両
JP6405930B2 (ja) 車載用表示装置
JP6274936B2 (ja) 運転支援装置
JP6256508B2 (ja) 電子ミラー制御装置
CN111016786A (zh) 基于3d视线估计的汽车a柱遮挡区域显示方法
JP2021111854A (ja) 車両用電子ミラーシステム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171120

R150 Certificate of patent or registration of utility model

Ref document number: 6256509

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees