JP5397697B2 - 画像制御装置 - Google Patents

画像制御装置 Download PDF

Info

Publication number
JP5397697B2
JP5397697B2 JP2010056355A JP2010056355A JP5397697B2 JP 5397697 B2 JP5397697 B2 JP 5397697B2 JP 2010056355 A JP2010056355 A JP 2010056355A JP 2010056355 A JP2010056355 A JP 2010056355A JP 5397697 B2 JP5397697 B2 JP 5397697B2
Authority
JP
Japan
Prior art keywords
image
door
display
vehicle body
side camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010056355A
Other languages
English (en)
Other versions
JP2011193136A (ja
Inventor
英彦 三好
昇 長嶺
健次 三浦
欣司 山本
謙二郎 後藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to JP2010056355A priority Critical patent/JP5397697B2/ja
Priority to US13/634,112 priority patent/US20130002877A1/en
Priority to PCT/JP2011/052259 priority patent/WO2011111448A1/ja
Priority to EP11753110.3A priority patent/EP2547104B1/en
Priority to CN201180012249.9A priority patent/CN102783145B/zh
Publication of JP2011193136A publication Critical patent/JP2011193136A/ja
Application granted granted Critical
Publication of JP5397697B2 publication Critical patent/JP5397697B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8033Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for pedestrian protection

Description

本発明は画像制御装置に関し、詳しくは、乗用車等の車体に備えたカメラの撮影画像を運転座席近傍のモニタに表示する技術に関する。
上記のように構成された画像制御装置として特許文献1には、車輌の左右のドアに後方を撮影するカメラをドアに備え、ドアが開放した場合にカメラの撮影データを表示するディスプレイを車内に備えた構成が記載されている。
この特許文献1では、右側のドアが開放された場合には、そのドアに備えたカメラで撮影した車輌後方の撮像データをディスプレイの右側に表示し、左側のドアが開放された場合には、そのドアに備えたカメラで撮影した車輌後方の撮影データをディスプレイの左側に表示する。これにより、障害物がドアに接近していることをディスプレイを介して乗員に認識させ、ドアの開閉動作支援できるようにするものである。
また、特許文献2では、車輌に備えた複数のカメラの映像に基づいて車輌の周辺の俯瞰映像を複数の撮影領域に分割してディスプレイに表示すると共に、撮影領域の1つにユーザが触れて選択した場合には、選択された撮影領域をディスプレイの俯瞰映像と隣接する位置に拡大表示する制御形態が記載されている。
この特許文献2では、駐車する場所に窪みや障害物があり、且つ、これらの窪みや障害物が車内から直接視認することが難しい場合でも、カメラ視点拡大映像、又は、部分拡大俯瞰映像がディスプレイに表示されることにより窪みや障害物をディスプレイ上で容易に確認できるようにするものである。
特開2006‐103526号公報 特開2009‐239674号公報
乗用車を停車させ、ドアを開いて乗員の乗降が行われる場合には運転座席の運転者が、乗員の乗降の様子や、周囲の障害物等を確認したいことがある。特に、道路の路肩に停車させた状態で子供の乗降を行う場合には、道路側を他の車両が走行することもあり、安全面から乗降を確実に確認したい面もある。
このような現状に対して、引用文献1に記載される技術では、ドアを開いた際に車体後方から自動車やバイク等が接近する様子を、運転座席の近傍のディスプレイによって視認できるものである。しかしながら、乗員の乗降の確認を想定したものではないため、乗員の乗降の把握が困難な面がある。
また、引用文献2に記載される技術では、ドア付近を拡大してディスプレイに表示できるものであるが、乗員の乗降を確認する場合には、乗員の乗降が行われるドアを特定し、そのドアが撮影される領域を運転者が指定する必要があり、手間が掛かるものである。
本発明の目的は、乗員の乗降の状況を運転者が容易に確認できる画像制御装置を合理的
に構成する点にある。
本発明の特徴は、車体の左側の後部ドアを撮影領域に含むように撮影する左サイドカメラと、前記車体の右側の後部ドアを撮影領域に含むように撮影する右サイドカメラと、運転座席の近傍に設けられ、前記左サイドカメラと前記右サイドカメラとの撮影画像の表示が可能なモニタと、前記車体の左右の後部ドアの開放状態を検出するドア開放検出センサと、前記左サイドカメラ及び前記右サイドカメラの撮影画像に基づいて前記車体の周辺を上方から見下ろした俯瞰画像を生成する俯瞰画像生成手段と、前記ドア開放検出センサで前記後部ドアの開放状態を検出した際に開放状態となった前記後部ドアを撮影する前記左サイドカメラ又は前記右サイドカメラの少なくとも一方の撮影画像と、前記俯瞰画像生成手段によって生成した俯瞰画像とを所定のレイアウトで前記モニタに表示する情報出力手段を備える点にある。
この構成によると、ドア開放検出センサで後部ドアの開放状態を検出した際には開放状態となった後部ドアを撮影する左サイドカメラ又は右サイドカメラの撮影画像を少なくとも一方の撮影画像と、俯瞰画像と所定のレイアウトでモニタに表示される。つまり、後部ドアが開放状態に達した際に運転者は特別な操作を行わずとも運転座席の位置において開放状態にある後部ドア付近の映像を確認できることになる。また、俯瞰画像をモニタに表示することにより、ドア近傍の状況と、車体周辺の全体的な状況との把握が可能となる。
その結果、乗員の乗降の状況を運転者が容易に確認できる画像制御装置が構成された。
本発明は、前記左サイドカメラの撮影画像からの撮影画像を左表示画像として生成し、右サイドカメラの撮影画像からの撮影画像を右表示画像として生成する表示画像生成手段が備えられ、この表示画像生成手段が、前記左サイドカメラの撮影画像の少なくとも一部の左右を鏡面反転する処理により前記左表示画像を生成し、前記右サイドカメラの撮影画像の少なくとも一部の左右を鏡面反転する処理により前記右表示画像を生成しても良い。
これによると、左サイドカメラの撮影画像の少なくとも一部の左右を鏡面反転することで生成された左表示画像と、右サイドカメラの撮影画像の少なくとも一部の左右を鏡面反転することで生成された右表示画像とがモニタに表示されることにより、運転座席からミラーによってドア付近を目視する感覚でモニタからドア付近の状況を把握できる。
本発明は、記情報出力手段は、前記左表示画像と、前記右表示画像との少なくとも1つと、前記俯瞰画像とを所定のレイアウトで前記モニタに表示しても良い。
これによると、左ドア開放センサと右ドア開放センサとの少なくとも一方が開放状態にあることを検出した際には、情報出力手段が所定のレイアウトで左表示画像と右表示画像との少なくとも1つをモニタに表示すると共に、俯瞰画像をモニタに表示することにより、ドア近傍の状況と、車体周辺の全体的な状況との把握が可能となる。
本発明は、前記情報出力手段が、前記モニタに対して前記俯瞰画像を表示する俯瞰画像ウインドウを設定し、前記左表示画像を表示する左ウインドウと、前記右表示画像を表示する右ウインドウとを左右に並列する位置関係に設定しても良い。
これによると、例えば、左右のドアが共に開いた場合には、情報出力手段が左撮影画像を左ウインドウに表示し、右撮影画像を右ウインドウに表示する。これにより、運転者は並列配置された左ウインドウと右ウインドウとから位置関係に違和感なくドアの近傍の状況を把握できる。
本発明は、前記ドア開放検出センサとして、前記車体の左側の後部ドアの開放状態を検出する左ドア開放センサが備えられ、前記ドア開放検出センサとして、前記車体の右側の後部ドアの開放状態を検出する右ドア開放センサが備えられても良い。
これによると、左側ドア開放センサと右側ドア開放センサとからの検出信号により対応するサイドカメラの撮影画像をモニタに表示できる。
本発明は、前記車体が停車状態にあることを検出し、かつ、前記ドア開放検出センサでドアの開放状態を検出した際に、既に実行されている制御モードの情報の表示に優先して前記カメラの撮影画像を前記モニタに表示する制御を乗降確認モードとして実行する制御モード設定部を備えても良い。
これによると、何らかの制御モードの制御が実行され、その制御モードに従う情報がモニタに表示されている状況であっても、車体が停車し、ドアが開放状態になった場合には、制御モード設定部が乗降確認モードを優先して実行することになり、開放状態になったドアの状況をモニタで確認できることになる。
乗用車の構成の概要を示す平面図である。 乗用車の一部切り欠き斜視図である。 制御系のブロック回路図である。 乗降確認画面のレイアウトを示す図である。 右後部ドアの開放時の乗降確認画面を示す図である。 左後部ドアと右後部ドアとの開放時の乗降確認画面を示す図である。 モニタ表示制御のフローチャートである。
以下、本発明の実施の形態を図面に基づいて説明する。
本実施の形態では、車体1に備えられた複数のカメラの撮影画像から車体1の周辺を上方から見下ろした形態となる俯瞰画像を生成してモニタ21に表示する画像制御装置を備えている。特に、この画像制御装置は、何れかのドアが開放した場合に、複数のカメラのうち、そのドアを撮影領域に含む撮影画像をモニタ21に表示することで乗員の乗降を把握できる制御を実行するものであり、この制御形態と制御構成とを以下に説明する。
〔基本構成〕
図1及び図2に示すように、乗用車の車体1に左右の前車輪2と、左右の後車輪3とを備えている。この車体1の前部位置にヒンジにより開閉自在な左前部ドア4と右前部ドア5とを備え、車体1の後部位置にスライド式に開閉自在な左後部ドア6と右後部ドア7とを備え、車体1の後端にはハッチバック式のバックドア8を備えている。
左前部ドア4と右前部ドア5と左後部ドア6と右後部ドア7とは乗員の乗降に用いられるものであり、外面側にアウトサイドハンドル11を備え、ルーム側にインサイドハンドル12を備えている。このアウトサイドハンドル11又はインサイドハンドル12を操作することにより、ドアを閉じ状態に維持するラッチを解除してドアの開放が可能になる。尚、車体1の後端のバックドア8は乗員の乗降に利用されない。
車体1のルーム内には運転座席13と、助手座席14と、複数の後部座席15とが備えられている。運転座席13の前方位置にはステアリングホイール16が備えられ、その前部にメータ類を有したパネルが配置されている。運転座席13の足元にはアクセルペダル17と、前車輪2及び後車輪3のブレーキ装置BKを操作するブレーキペダル18とが配置され、運転座席13の側部には変速を実現するシフトレバー19が配置されている。
当然のことながら、前述した右前部ドア5は運転座席13への運転者の乗降時に開放され、左前部ドア4は助手座席14への乗員の乗降時に開放される。前述した左後部ドア6と右後部ドア7とは後部座席15への乗員の乗降時に開放される。
運転座席13の近傍、コンソールの上部位置には、表示面にタッチパネル21Tが形成されたモニタ21が備えられている。モニタ21は、バックライトを備えた液晶式のものである。もちろん、プラズマ表示型のものやCRT型のものであっても良い。また、タッチパネル21Tは、指などによる接触位置をロケーションデータとして出力する感圧式や静電式の指示入力装置として構成される。モニタ21にはスピーカ22も備えられているが、スピーカ22はドアの内側など、他の場所に備えられても良い。
左前部ドア4には左サイドミラー23を備え、右前部ドア5には右サイドミラー24を備えている。本実施の形態では、車体周辺を撮影する撮影装置として、左サイドミラー23に左サイドカメラ25が備えられ、右サイドミラー24に右サイドカメラ26が備えられ、車体1の前端に前部カメラ27が備えられ、車体1の後端に後部カメラ28が備えられている。
特に、左サイドカメラ25は撮影方向が下方にセットされ、車体1の左側の路面を含む左側領域を撮影するものであるが、この左サイドカメラ25の撮影画像には左後部ドア6が含まれる。これと同様に、右サイドカメラ26も撮影方向が下方にセットされ、車体1の右側の路面を含む右側領域を撮影するものであるが、この右サイドカメラ26の撮影画像には右後部ドア7が含まれる。
これら撮影装置してのカメラはCCD(charge coupled device)やCIS(CMOS image sensor)などの撮像素子を内蔵するデジタルカメラであり、撮影した情報を動画情報としてリアルタイムに出力する。これらのカメラには、広角レンズを備えることで広い視野角が確保され、撮影画像に車体1の一部と車体1の近傍の路面が含まれるように撮影方向がセットされている。
モニタ21は、ナビゲーションモードの制御においてナビゲーション情報が表示されるものであるが、駐車支援モードの制御において駐車支援情報が表示される。また、乗降確認モードの制御において、左後部ドア6と右後部ドア7とにおける乗員の乗降を確認するための画像が表示される。尚、本発明では、乗降確認モードの制御における画像を表示するための専用のモニタを備えても良い。
車体前部には、ステアリングホイール16の回転操作力を前車輪2に伝えて駆動操向(操舵)を行うパワーステアリングユニットPSを備えている。また、車体前部には、エンジンEと、このエンジンEからの動力を変速して前車輪2に伝えるにトルクコンバータやCVT等で成る変速機構Tとを備えている。
車体1には運転操作や、車体1の移動状態を検出するための各種センサが備えられている。具体的に説明すると、ステアリングホイール16の操作系にはステアリング操作方向(操舵方向)と操作量(操舵量)とを計測するステアリングセンサS16が備えられている。また、シフトレバー19の操作系にはシフト位置を判別するシフト位置センサS19が備えられている。アクセルペダル17の操作系には操作量を計測するアクセルセンサS17が備えられ、前記ブレーキペダル18の操作系には操作の有無を検出するブレーキセンサS18が備えられている。
後車輪3の近傍には後車輪3の回転量から車体1の移動量を計測するようにフォトインタラプタ型やピックアップ型の移動距離センサS3が備えられている。尚、移動距離センサS3として、変速機構Tの内部の伝動系の回転量から移動量を取得するものを用いても良い。また、移動距離センサS3は、前車輪2の回転量を計測するものでも良い。更に、前部カメラ27あるいは後部カメラ28の撮影画像の画像処理から車体1の移動量とステアリング量とを検出するように構成しても良い。
左後部ドア6の開放状態を検出する左ドア開放検出センサS6と、右後部ドア7の開放状態を検出する右ドア開放検出センサS7とが備えられている。この左ドア開放検出センサS6と右ドア開放検出センサS7とはドアが開放作動を開始したタイミングで検出信号を出力するような開放状態となったことを検出するリミットスイッチ等で構成される。尚、左ドア開放検出センサS6と右ドア開放検出センサS7として、これらのドアのアウトサイドハンドル11やインサイドハンドル12が操作されたことや運転者がスイッチを操作してこれらのドアを開けるオートスライドドアの場合には、そのスイッチ操作を検出するセンサを用いても良い。
〔制御構成〕
車体の中央部には、本発明の駐車支援装置の中核をなす画像制御装置としてのECU30を配置している。このECU30は、図3に示すように、センサ入力インターフェース31と、通信インターフェース32とで成るインターフェースを備えると共に、画像出力モジュール33と音声出力モジュール34とを備えている。
このECU30では、インターフェースを介して得られる情報を処理するマイクロプロセッサや、DSP(digital signal processor)等の処理系を備え、処理結果は画像出力モジュール33からモニタ21に出力され、また、音声出力モジュール34からスピーカ
22に出力される。
このECU30には、ナビゲーションモードの制御を実現するナビゲーション制御部35と、ナビゲーション制御部35に地図情報を与える地図データ保存部36と、駐車支援モードの制御を実現する駐車支援制御部37と、乗降確認モードの制御を実現する画像処理部38とを備えている。
ナビゲーション制御部35は、走行時にGPSユニット41から経度情報と緯度情報とで示される自車位置を取得し、この自車位置に対応した地図データを取得してモニタ21に表示する。そして、目的地へ誘導するナビゲーション情報をモニタ21に表示すると共に、誘導情報をスピーカ22から音声で出力する。地図データ保存部36は、自車位置に対応した地図データをナビゲーション制御部35に与える処理を行う。
駐車支援制御部37は、駐車を行う際に、カメラビューモードと、アラウンドビューモードとの少なくとも一方の画像をモニタ21に表示すると共に、この撮影画像に対して車体1を駐車位置に導く支援情報等が重畳表示される。また、支援情報としてスピーカ22からステアリング方向等の支援情報が音声で出力される。このような情報に基づいてステアリング操作等を行うことにより車体1を駐車位置に容易に導入できることになる。
画像処理部38は、俯瞰画像生成手段38Aと、表示画像生成手段38Bと、表示対象設定手段38Cと、情報出力手段38Dとを備えている。俯瞰画像生成手段38Aは、図4に示す乗降確認画面の俯瞰画像ウインドウ45に表示される俯瞰画像を生成する。表示画像生成手段38Bは、図4に示す乗降確認画面の左ウインドウ46又は右ウインドウ47に表示される表示画像を生成する。表示対象設定手段38Cは、左ウインドウ46又は右ウインドウ47に表示される表示画像を設定する。情報出力手段38Dは、モニタ21に乗降確認画面を表示し、この乗降確認画面に対して前述した俯瞰画像ウインドウ45、左ウインドウ46、右ウインドウ47等を所定のレイアウトで配置し、夫々に対して画像を表示する。
尚、ナビゲーション制御部35と、駐車支援制御部37と、画像処理部38とはソフトウエアで構成されるものであるが、これらをハードウエアで構成しても良く、これらをソフトウエアとハードウエアとで構成しても良い。
ECU30は、電子回路により構成され、インターフェースや出力系の一部又は全てがこのような電子回路に含まれていても良い。尚、ECU30には、処理系を構成する電子回路、あるいは、別部品としてメモリやレジスタなどによって構成される記憶部を有し、データバス、アドレスバス、コントロールバス等により情報の入出力が行われる。
センサ入力インターフェース31には、ステアリングセンサS16と、シフト位置センサS19と、アクセルセンサS17と、ブレーキセンサS18と、移動距離センサS3とからの情報が入力する。
通信インターフェース32は、通信回線を介してパワーステアリングユニットPSと、変速機構Tと、ブレーキ装置BKと、GPSユニット41と間で通信を行う。更に、この通信インターフェース32は、タッチパネル21Tと、左サイドカメラ25と、右サイドカメラ26と、前部カメラ27と、後部カメラ28と、左ドア開放検出センサS6と、右ドア開放検出センサS7とからの情報を取得する。
画像出力モジュール33は、モニタ21に対して画像を出力し、音声出力モジュール34は、スピーカ22に対して音声を出力する。
〔制御形態〕
このECU30は、ナビゲーションモードの制御と、駐車支援モードの制御と、乗降確認モードの制御とを実現する。特に、乗降確認モードでの制御では、左後部ドア6と右後部ドア7との少なくとも一方が開放状態にある際に、開放状態にあるドアの近傍の画像をモニタ21に拡大表示するものであり、この制御形態を図7のフローチャートに基づいて説明する。
ECU30は、移動距離センサS3やシフト位置センサS19からの信号に基づいて車体1が停車状態にあることを判定した状況において、左ドア開放検出センサS6と右ドア開放検出センサS7とからの信号を取得し、左後部ドア6と右後部ドア7との何れも開放状態にない場合には、既に設定されているモード(ナビゲーションモード又は駐車支援モード)の制御による情報をモニタ21に表示する(#101〜#103ステップ)。
尚、#101ステップにおける「停車状態」との判定は車速センサを備えたものでは、車速を0km/hである場合としても良く、車速センサの検出遅れを考慮して極低速(1〜2km/h)以下の場合としても良い。
これとは逆に、左ドア開放検出センサS6と右ドア開放検出センサS7との信号から左後部ドア6と右後部ドア7との少なくとも一方が開放状態にあることを判定した場合には、乗降確認モードに移行する。この乗降確認モードでは、図4に示すように、モニタ21に乗降確認画面を表示し、この乗降確認画面の俯瞰画像ウインドウ45に対し俯瞰画像生成手段38Aが生成した俯瞰画像を表示する(#104ステップ)。
この乗降確認画面では、俯瞰画像ウインドウ45と、左ウインドウ46と、右ウインドウ47との画像表示領域が並列的に設定されると共に、メッセージ表示領域48と、アイコン表示領域49とが図4に示すレイアウトで配置されるものであり、このレイアウトは情報出力手段38Dが設定する。
俯瞰画像生成手段38Aは、左サイドカメラ25と、右サイドカメラ26と、前部カメラ27と、後部カメラ28との撮影画像から車体の周辺を上方から見下ろした画像に変換し、変換画像を中央位置の車体平面イメージの周囲の仮想路面上にマッピングする合成処理により俯瞰画像を生成し、情報出力手段38Dがモニタ21に出力する。
この俯瞰画像が俯瞰画像ウインドウ45に表示された場合には、中央位置に車体イメージ45Aが配置され、この周辺を取り囲むように変換画像45Bがマッピングされる表示形態となる。また、この俯瞰画像中には車体1の中心を基準にした前後位置や左右位置の基準になる基準ライン45Cが十字状に形成される。特に、俯瞰画像生成手段38Aと情報出力手段38Dとは複数のカメラの撮影画像をリアルタイムで処理を行うことから、車体1に対する乗員の乗降を俯瞰画像において動画として確認できる。
左ウインドウ46には左サイドカメラ25の撮影画像の一部が拡大表示され、右ウインドウ47に右サイドカメラ26の撮影画像の一部が拡大表示され、メッセージ表示領域48には文字データで成る所定のメッセージが表示され、アイコン表示領域49には車体1の後方視に対応するアイコンが表示される。これらの表示形態は以下に説明する。
この制御では、車体1が停車し、左後部ドア6と右後部ドア7との少なくとも一方が開放状態に達することにより強制的に乗降確認モードに移行するものであるが、例えば、モニタ21に対して選択画面(図示せず)を表示し、この選択画面において乗降確認モードのボタンに運転者が指等を接触させることで乗降確認モードに移行できるように制御形態を設定しても良い。
特に、停車状態にあっても、シフト位置センサS19によりシフトレバー19がリバース(後進)位置にセットされたことを検出した場合に、全ての制御モードに優先して後部カメラ28の撮影画像をモニタ21に表示(バックモニタ表示)する制御を行う制御形態も考えられる。本発明では、このように後部カメラ28の撮影画像がモニタ21に表示される状況でも、タッチパネル21Tに指を接触させる等の任意の操作によって乗降確認モードの制御に移行できるように制御形態を設定しても良い。
次に、左後部ドア6と右後部ドア7との少なくとも一方が開放状態にあることを判定した場合には、開放状態にあるドア近傍が撮影された画像を左ウインドウ46又は右ウインドウ47、あるいは、左ウインドウ46と右ウインドウ47との双方に表示する。この表示に伴いメッセージ表示領域48には文字データでメッセージが表示され、アイコン表示領域49には車体1の後方視に対応するアイコンが表示される(#105、#106ステップ)。
このように左ウインドウ46、右ウインドウ47に画像を表示する際には、表示画像生成手段38Bが左サイドカメラ25の撮影画像、又は、右サイドカメラ26の撮影画像をリアルタイムで処理を行うことから、車体1に対する乗員の乗降の様子を動画として確認できる。
具体例(1)として、左後部ドア6が開放状態にあることを左ドア開放検出センサS6で検出した場合には、表示対象設定手段38Cが表示対象を左後部ドア6に設定する。次に、表示画像生成手段38Bが左サイドカメラ25の撮影画像のうち、左後部ドア6の付近の画像を切り出して拡大し、左右を鏡面反転した右表示画像を生成する。このように生成された左表示画像は、情報出力手段38Dが左ウインドウ46に表示する。
また、情報出力手段38Dは、メッセージ表示領域48に対して「スライドドアが開いています」とのメッセージを表示し、アイコン表示領域49に対して、アイコンの左半分を表示する。このように表示されるアイコンには撮影領域がハッチングで示される。乗員Xの乗降があった場合には俯瞰画像ウインドウ45と、左ウインドウ46とに乗員Xが表示される。
具体例(2)として、図5に示すように、右後部ドア7が開放状態にあることを右ドア開放検出センサS7で検出した場合には、表示対象設定手段38Cが表示対象を右後部ドア7に設定すると共に、表示画像生成手段38Bが右サイドカメラ26の撮影画像のうち、右後部ドア7の付近の画像を切り出して拡大し、左右を鏡面反転した左表示画像を生成する。このように生成された右表示画像は、情報出力手段38Dが右ウインドウ47に表示する。
また、情報出力手段38Dは、メッセージ表示領域48に対して「スライドドアが開いています」とのメッセージを表示し、アイコン表示領域49に対して、アイコンの右半分を表示する。
具体例(3)として、図6に示すように、左後部ドア6と右後部ドア7とが同時に開放状態にある場合には、前述と同様の処理が行われることで、左表示画像が左ウインドウ46に表示され、右表示画像が右ウインドウ47に表示される。そして、メッセージ表示領域48に対して「スライドドアが開いています」とのメッセージが表示され、また、アイコン表示領域49に対して、アイコンの全体が表示される。
この後、左後部ドア6と右後部ドア7との夫々が閉じられた場合には、乗降確認モード
の制御を終了すると共に、全ての制御を終了する場合を除き、#101ステップの制御に移行する。そして、先に設定されているモード(ナビゲーションモード又は駐車支援モード)の制御に復帰し、そのモードの制御の情報をモニタ21に表示する(#108ステップ)。
このように本発明によると、左後部ドア6や右後部ドア7が開放状態にある際には、既に実行されているモードの制御に優先して、乗降確認モードの制御に移行し、モニタ21に対して乗降確認画面を表示する。そして、開放されたドア近傍がモニタ21に拡大表示されることにより、運転者が表示のための特別の操作を行わずとも、また、後方を振り返ることなく、乗員の乗降をモニタ21によって把握できるのである。
また、左後部ドア6の付近の拡大画像が左ウインドウ46に表示され、右後部ドア7の付近の画像が右ウインドウ47に表示され、この左ウインドウ46と右ウインドウ47とが左右に並列する位置関係で配置されているので、左右の判別を容易に行える。しかも、左ウインドウ46と右ウインドウ47とに表示される画像が、左右を鏡面反転した画像であるので、サイドミラーで後方を確認するような感覚で確認を行うことが可能となり、感覚的な違和感もない。
特に、俯瞰画像を生成するためにサイドミラーに備えられているカメラの画像を利用するのでドア付近を撮影するカメラを特別に備えずに済み、カメラを備えることに伴うコストアップを招くこともない。
〔別実施の形態〕
本発明は、上記した実施の形態以外に以下のように構成しても良い。
(a)アウトサイドハンドル11あるいはインサイドハンドル12が操作された場合には、ドアが開く状態に至る以前であっても、操作が行われたドア付近の画像をモニタに表示する。この場合、アウトサイドハンドル11あるいはインサイドハンドル12が操作されたタイミングで表示を開始することが可能となり、早期での確認を実現する。
(b)ドアの付近を撮影するための専用のカメラを車体に備える。この場合、同じドアの付近を複数のカメラで異なる角度から撮影し、これらの画像をモニタに表示するように表示形態を設定することにより、より詳細な状況の把握が可能となる。
(c)ドアが開放状態にある際に、開放状態にあることを音声によって運転者に認識させるように制御形態を設定する。このように構成することにより、運転者の視線がモニタ21に向かっていない場合にも、視線をモニタ21に向けさせ、乗降確認画面から乗員の乗降を確認できる。尚、音声は電子音であって良く、人の言葉であっても良い。
(d)本実施形態では、サイドカメラの撮影方向が下方に向けられていたが、これに限定されることなく、例えば、撮影方向が後方に向けられることでドア近傍を撮影するものでも良い。この場合、本実施形態のように画像を切り出さなくても良いようにカメラを設置することも可能である。
本発明は、開閉自在なドアを備えている自動車全般に利用することができる。
1 車体
6 ドア(左後部ドア)
7 ドア(右後部ドア)
21 モニタ
25 カメラ・左サイドカメラ
26 カメラ・右サイドカメラ
38A 俯瞰画像生成手段
38B 表示画像生成手段
38D 情報出力手段
39 制御モード設定部
45 俯瞰画像ウインドウ
46 左ウインドウ
47 右ウインドウ
S6 ドア開放検出センサ・左ドア開放検出センサ
S7 ドア開放検出センサ・右ドア開放検出センサ

Claims (6)

  1. 車体の左側の後部ドアを撮影領域に含むように撮影する左サイドカメラと、
    前記車体の右側の後部ドアを撮影領域に含むように撮影する右サイドカメラと、
    運転座席の近傍に設けられ、前記左サイドカメラと前記右サイドカメラとの撮影画像の表示が可能なモニタと、
    前記車体の左右の後部ドアの開放状態を検出するドア開放検出センサと
    前記左サイドカメラ及び前記右サイドカメラの撮影画像に基づいて前記車体の周辺を上方から見下ろした俯瞰画像を生成する俯瞰画像生成手段と、
    前記ドア開放検出センサで前記後部ドアの開放状態を検出した際に開放状態となった前記後部ドアを撮影する前記左サイドカメラ又は前記右サイドカメラの少なくとも一方の撮影画像と、前記俯瞰画像生成手段によって生成した俯瞰画像とを所定のレイアウトで前記モニタに表示する情報出力手段を備える画像制御装置。
  2. 前記左サイドカメラの撮影画像からの撮影画像を左表示画像として生成し、右サイドカメラの撮影画像からの撮影画像を右表示画像として生成する表示画像生成手段が備えられ、この表示画像生成手段が、前記左サイドカメラの撮影画像の少なくとも一部の左右を鏡面反転する処理により前記左表示画像を生成し、前記右サイドカメラの撮影画像の少なくとも一部の左右を鏡面反転する処理により前記右表示画像を生成する請求項1記載の画像制御装置。
  3. 記情報出力手段が、前記左表示画像と、前記右表示画像との少なくとも1つと、前記俯瞰画像とを所定のレイアウトで前記モニタに表示する請求項記載の画像制御装置。
  4. 前記情報出力手段が、前記モニタに対して前記俯瞰画像を表示する俯瞰画像ウインドウを設定し、前記左表示画像を表示する左ウインドウと、前記右表示画像を表示する右ウインドウとを左右に並列する位置関係に設定する請求項記載の画像制御装置。
  5. 前記ドア開放検出センサとして、前記車体の左側の後部ドアの開放状態を検出する左ドア開放センサが備えられ、前記ドア開放検出センサとして、前記車体の右側の後部ドアの開放状態を検出する右ドア開放センサが備えられている請求項1記載の画像制御装置。
  6. 前記車体が停車状態にあることを検出し、かつ、前記ドア開放検出センサでドアの開放状態を検出した際に、既に実行されている制御モードの情報の表示に優先して前記カメラの撮影画像を前記モニタに表示する制御を乗降確認モードとして実行する制御モード設定部を備えている請求項1からのいずれか一項に記載の画像制御装置。
JP2010056355A 2010-03-12 2010-03-12 画像制御装置 Active JP5397697B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2010056355A JP5397697B2 (ja) 2010-03-12 2010-03-12 画像制御装置
US13/634,112 US20130002877A1 (en) 2010-03-12 2011-02-03 Image control apparatus
PCT/JP2011/052259 WO2011111448A1 (ja) 2010-03-12 2011-02-03 画像制御装置
EP11753110.3A EP2547104B1 (en) 2010-03-12 2011-02-03 Image control apparatus
CN201180012249.9A CN102783145B (zh) 2010-03-12 2011-02-03 图像控制装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010056355A JP5397697B2 (ja) 2010-03-12 2010-03-12 画像制御装置

Publications (2)

Publication Number Publication Date
JP2011193136A JP2011193136A (ja) 2011-09-29
JP5397697B2 true JP5397697B2 (ja) 2014-01-22

Family

ID=44563274

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010056355A Active JP5397697B2 (ja) 2010-03-12 2010-03-12 画像制御装置

Country Status (5)

Country Link
US (1) US20130002877A1 (ja)
EP (1) EP2547104B1 (ja)
JP (1) JP5397697B2 (ja)
CN (1) CN102783145B (ja)
WO (1) WO2011111448A1 (ja)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100959347B1 (ko) * 2010-02-24 2010-05-20 조성호 자동차의 좌우후방 시야확보 장치
EP2583868B1 (en) * 2010-06-15 2018-06-20 Aisin Seiki Kabushiki Kaisha Drive assist device
WO2012053105A1 (ja) * 2010-10-22 2012-04-26 日立建機株式会社 作業機械の周辺監視装置
JP5750344B2 (ja) * 2011-09-16 2015-07-22 日立建機株式会社 作業機の周囲監視装置
CN103975315B (zh) * 2011-12-06 2017-04-12 英特尔公司 用于提高车辆计算平台中的响应性的方法和系统
KR101362326B1 (ko) * 2012-08-06 2014-02-24 현대모비스 주식회사 주차 정렬 기능을 갖는 차량 후방 카메라 시스템 및 이를 이용한 차량의 주차 지원 시스템
DE102013000273A1 (de) * 2013-01-09 2014-07-31 Daimler Ag Vorrichtung und Verfahren zum Anzeigen einer Information auf einer Anzeigeeinrichtung in einem Fahrzeug
GB2532555B (en) * 2013-06-14 2017-12-13 Jaguar Land Rover Ltd Door protection system
CN104228714A (zh) * 2013-06-14 2014-12-24 华创车电技术中心股份有限公司 停车影像的提供方法
KR101482171B1 (ko) * 2013-09-05 2015-01-13 현대모비스(주) 어라운드뷰 정차모드 제어방법
CN104063991B (zh) * 2014-06-28 2017-06-30 宁波吉利汽车研究开发有限公司 一种下车安全提醒装置及其检测方法
US20160159281A1 (en) * 2014-12-04 2016-06-09 Hyundai Mobis Co., Ltd. Vehicle and control method thereof
US10486599B2 (en) * 2015-07-17 2019-11-26 Magna Mirrors Of America, Inc. Rearview vision system for vehicle
JP6545108B2 (ja) * 2016-01-14 2019-07-17 アルパイン株式会社 駐車支援装置および駐車支援方法
JP6675206B2 (ja) * 2016-01-19 2020-04-01 株式会社モリタホールディングス 車両用監視表示装置
CN107089190A (zh) * 2016-02-18 2017-08-25 奥迪股份公司 用于辅助用户下车的警告系统、警告方法以及相应的车辆
US20170297487A1 (en) * 2016-04-14 2017-10-19 GM Global Technology Operations LLC Vehicle door opening assessments
KR101846666B1 (ko) * 2016-05-02 2018-04-06 현대자동차주식회사 측후방 주시 카메라 시스템 작동 제어장치 및 방법
JP2017210063A (ja) * 2016-05-24 2017-11-30 株式会社東海理化電機製作所 車両用表示装置
JP6794193B2 (ja) * 2016-09-02 2020-12-02 株式会社小松製作所 作業機械の画像表示システム
JP2018043643A (ja) * 2016-09-14 2018-03-22 株式会社東海理化電機製作所 車両用視認装置
JP6737173B2 (ja) * 2016-12-28 2020-08-05 株式会社Jvcケンウッド 映像生成装置、映像生成システム、映像生成方法およびプログラム
JP6730614B2 (ja) * 2017-02-28 2020-07-29 株式会社Jvcケンウッド 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
JP6769383B2 (ja) * 2017-04-13 2020-10-14 トヨタ自動車株式会社 自動運転装置、及び通知方法
JP6764031B2 (ja) * 2017-07-31 2020-09-30 株式会社日立国際電気 映像表示システム及び映像表示方法
CN109455140B (zh) * 2017-09-06 2022-03-01 丰田自动车株式会社 图像显示装置
WO2019116519A1 (ja) * 2017-12-14 2019-06-20 本田技研工業株式会社 車両のモニタ配置構造
JP6967729B2 (ja) * 2018-03-30 2021-11-17 パナソニックIpマネジメント株式会社 運転支援システム、情報処理装置及び情報処理方法
JP7099914B2 (ja) * 2018-09-07 2022-07-12 株式会社デンソー 電子ミラーの表示制御装置およびそれを備えた電子ミラーシステム
DE102019115645B4 (de) * 2018-10-02 2023-07-20 GM Global Technology Operations LLC Algorithmus zur elektrischen türschliessung
JP2020120278A (ja) * 2019-01-24 2020-08-06 アルパイン株式会社 電子サイドミラーシステム
CN110303986A (zh) * 2019-07-02 2019-10-08 宁波胜维德赫华翔汽车镜有限公司 一种增强视野的摄像头监控系统
US20220063559A1 (en) * 2020-08-25 2022-03-03 Deere & Company Work vehicle, door state determination system, and method of determining state of work vehicle door
FR3120030A1 (fr) * 2021-02-25 2022-08-26 Psa Automobiles Sa Procédé et dispositif de rétro-vision numérique utilisé par un véhicule pour remplacer des rétroviseurs extérieurs du véhicule
KR102580653B1 (ko) * 2023-05-22 2023-09-21 고려웍스(주) 차량어라운드뷰 자동전환장치 및 그의 방법

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6348985A (ja) * 1986-08-18 1988-03-01 Matsushita Electric Ind Co Ltd 車内確認装置
JPH07274161A (ja) * 1994-03-29 1995-10-20 Toshiba Corp 車両後方確認装置
US5874989A (en) * 1996-12-09 1999-02-23 Custom Radio Corporation Bus door observation system
JP2001114048A (ja) * 1999-10-20 2001-04-24 Matsushita Electric Ind Co Ltd 車載運転支援情報表示装置
SE520075C2 (sv) * 2000-12-01 2003-05-20 Safenet I Harads Ab Förfarande vid klämskyddsanordningar samt anordning för genomförande av förfarandet
KR200277875Y1 (ko) * 2002-03-11 2002-06-14 이스턴 마스텍 주식회사 자동차의 후방용 감시카메라의 좌우반전 스위칭 장치
US7463281B2 (en) * 2003-08-06 2008-12-09 Microsoft Corporation Smart vehicle video management
JP2005110202A (ja) * 2003-09-08 2005-04-21 Auto Network Gijutsu Kenkyusho:Kk カメラ装置及び車両周辺監視装置
US7091833B1 (en) * 2004-04-23 2006-08-15 Everton Davis Automobile theft deterrent system
JP2006103526A (ja) * 2004-10-06 2006-04-20 Matsushita Electric Ind Co Ltd ナビゲーション装置
JP4639753B2 (ja) * 2004-10-25 2011-02-23 日産自動車株式会社 運転支援装置
JP4573242B2 (ja) * 2004-11-09 2010-11-04 アルパイン株式会社 運転支援装置
JP2006224873A (ja) * 2005-02-18 2006-08-31 Denso Corp 車両周辺監視装置
EP1717116B1 (en) * 2005-04-20 2010-05-19 Mazda Motor Corporation Control system, control method and computer program product for a vehicle
JP2007118762A (ja) * 2005-10-27 2007-05-17 Aisin Seiki Co Ltd 周辺監視モニタリングシステム
JP2007148618A (ja) * 2005-11-25 2007-06-14 Fujitsu Ten Ltd 車両周辺監視システム及び方法
JP4321543B2 (ja) * 2006-04-12 2009-08-26 トヨタ自動車株式会社 車両周辺監視装置
JP2008018798A (ja) * 2006-07-12 2008-01-31 Pioneer Electronic Corp 表示制御装置、表示制御方法、表示制御プログラムおよびコンピュータに読み取り可能な記録媒体
JP2008168786A (ja) * 2007-01-11 2008-07-24 Denso Corp 車載機器操作案内装置
KR100862041B1 (ko) * 2007-05-09 2008-10-07 홍종운 차량용 승객 보호 장치
JP5194679B2 (ja) * 2007-09-26 2013-05-08 日産自動車株式会社 車両用周辺監視装置および映像表示方法
CN101234620B (zh) * 2008-02-28 2010-04-21 上海交通大学 车辆智能后视装置
JP4973564B2 (ja) * 2008-03-27 2012-07-11 三菱自動車工業株式会社 車両周辺表示装置
JPWO2009141846A1 (ja) * 2008-05-19 2011-09-22 パナソニック株式会社 車両周囲監視装置および車両周囲監視方法
CN101633340A (zh) * 2008-07-25 2010-01-27 襄樊学院 汽车后视摄像头
CN201242773Y (zh) * 2008-08-19 2009-05-20 李祖华 公共交通工具人像记录系统
JP5112998B2 (ja) * 2008-09-16 2013-01-09 本田技研工業株式会社 車両周囲監視装置
JP2010183170A (ja) * 2009-02-03 2010-08-19 Denso Corp 車両用表示装置

Also Published As

Publication number Publication date
CN102783145A (zh) 2012-11-14
CN102783145B (zh) 2015-11-25
JP2011193136A (ja) 2011-09-29
WO2011111448A1 (ja) 2011-09-15
EP2547104A4 (en) 2013-08-07
EP2547104B1 (en) 2015-06-10
US20130002877A1 (en) 2013-01-03
EP2547104A1 (en) 2013-01-16

Similar Documents

Publication Publication Date Title
JP5397697B2 (ja) 画像制御装置
EP2981077B1 (en) Periphery monitoring device and program
KR101238109B1 (ko) 차량주변표시장치
US10131277B2 (en) Surroundings monitoring apparatus
US9308863B2 (en) Vehicle peripheral observation device
JP5522492B2 (ja) 運転支援装置
JP4623396B2 (ja) 車両周辺表示装置
JP2010202010A (ja) 駐車支援装置
JP2008114776A (ja) 駐車支援装置
JP5459553B2 (ja) 駐車支援装置
JP7111510B2 (ja) 状態判定装置、運転支援装置、状態判定方法、及び、運転支援方法
JP2019116244A (ja) 車両
CN110884426A (zh) 显示控制装置
JP2020042417A (ja) 表示制御装置
JP4977482B2 (ja) 画像提供装置、車両、および画像提供方法
JP2011255812A (ja) 駐車支援装置
JP6840998B2 (ja) 障害物検知装置
JP5605605B2 (ja) 車両周辺監視装置
US20200239073A1 (en) Display controller
JP2021014243A (ja) 車両周辺表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120417

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130830

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131009

R151 Written notification of patent or utility model registration

Ref document number: 5397697

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151