JP2019176359A - 周辺監視装置 - Google Patents

周辺監視装置 Download PDF

Info

Publication number
JP2019176359A
JP2019176359A JP2018063507A JP2018063507A JP2019176359A JP 2019176359 A JP2019176359 A JP 2019176359A JP 2018063507 A JP2018063507 A JP 2018063507A JP 2018063507 A JP2018063507 A JP 2018063507A JP 2019176359 A JP2019176359 A JP 2019176359A
Authority
JP
Japan
Prior art keywords
display
imaging devices
image
viewpoint
display image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018063507A
Other languages
English (en)
Other versions
JP7135378B2 (ja
Inventor
雄紀 瀬戸
Yuki Seto
雄紀 瀬戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd filed Critical Aisin Seiki Co Ltd
Priority to JP2018063507A priority Critical patent/JP7135378B2/ja
Priority to US16/354,950 priority patent/US20190299857A1/en
Priority to EP19166076.0A priority patent/EP3546293B1/en
Publication of JP2019176359A publication Critical patent/JP2019176359A/ja
Application granted granted Critical
Publication of JP7135378B2 publication Critical patent/JP7135378B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/101Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using cameras with adjustable capturing direction
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • B60R2300/605Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint the adjustment being automatic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8033Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for pedestrian protection

Abstract

【課題】歪みが少なく、運転者に違和感を与えない撮像画像を撮像する周辺監視装置を提供する。【解決手段】周辺監視装置である情報処理装置100は、視点に対応付けられた複数の撮像装置によって撮像された複数の撮像画像を合成して、視点から見た表示画像を生成する画像処理部101と、生成された表示画像を表示装置に表示する表示制御部102と、を備える。これにより、車両の周囲の複数方向の状況を歪みの少ない表示画像で表示することによって、ユーザが表示画像に違和感を覚えることを低減しつつ、複数方向の状況を1つの画面で表示することができる。【選択図】図2

Description

本発明の実施形態は、周辺監視装置に関する。
従来、車両に設置された撮像装置が撮像した撮像画像を、視点変換や合成等の画像処理をした上で、運転者等に対して表示する技術が知られている。
特開2017−123627号公報
しかしながら、従来技術においては、車両に設置された撮像装置の撮像範囲の中心と、運転者等に表示される画像の中心とが乖離していたため、視点変換によって表示画像に歪みが生じ、当該表示画像を見た運転者等に違和感を与える場合があった。
本発明の実施形態にかかる周辺監視装置は、一例として、一の視点に対応する表示画像を生成するために車両に取り付けられた複数の撮像装置を備え、複数の撮像装置のそれぞれのレンズの中心線は、視点で交差する。よって、実施形態にかかる周辺監視装置によれば、歪みの少ない表示画像を生成可能な撮像画像を撮像することができる。
上記周辺監視装置では、一例として、視点が移動した場合に、複数の撮像装置の向きを、複数の撮像装置のそれぞれのレンズの中心線が移動後の視点で交差する方向に移動する移動制御部をさらに備える。よって、実施形態にかかる周辺監視装置によれば、例えば、仮想視点Pの位置を変えた表示画像を生成することができる。
上記周辺監視装置では、一例として、第1の視点に対応する表示画像を生成するために車両に取り付けられた複数の撮像装置と、第2の視点に対応する他の表示画像を生成するために車両に取り付けられた複数の撮像装置と、を備える。第1の視点に対応付けられた複数の撮像装置のそれぞれのレンズの中心線は、第1の視点で交差する。第2の視点に対応付けられた複数の撮像装置のそれぞれのレンズの中心線は、第2の視点で交差する。よって、実施形態にかかる周辺監視装置によれば、例えば、撮像装置を移動させなくとも、複数の視点にそれぞれ対応する複数の表示画像を生成することができる。
上記周辺監視装置では、一例として、視点に対応付けられた複数の撮像装置によって撮像された複数の撮像画像を合成して、視点から見た表示画像を生成する画像処理部と、生成された表示画像を表示装置に表示する表示制御部と、をさらに備える。よって、実施形態にかかる周辺監視装置によれば、例えば、車両の周囲の複数方向の状況を歪みの少ない表示画像で表示することによって、ユーザが表示画像に違和感を覚えることを低減しつつ、複数方向の状況を1つの画面で表示することができる。
上記周辺監視装置では、一例として、画像処理部は、複数の撮像装置によって撮像された複数の撮像画像または表示画像から所定のオブジェクトを認識し、表示制御部は、画像処理部がオブジェクトを認識した結果を、表示画像に重畳して表示装置に表示する。よって、実施形態にかかる周辺監視装置によれば、例えば、撮像画像に含まれる所定のオブジェクトの認識結果を表示する場合に、認識結果の表示に対してユーザに違和感を与えたり誤解を生じさせたりすることを低減することができる。
図1は、第1の実施形態にかかる撮像装置の設置位置の一例を示す図である。 図2は、第1の実施形態にかかる情報処理装置の機能の一例を示す図である。 図3は、第1の実施形態にかかる撮像装置の撮像範囲と表示画像の表示範囲の一例を示す図である。 図4は、第1の実施形態にかかる画像処理の一例を示す図である。 図5は、第1の実施形態にかかる表示装置の設置位置の一例を示す図である。 図6は、第1の実施形態にかかる表示画像の一例を示す図である。 図7は、第2の実施形態にかかる情報処理装置の機能の一例を示す図である。 図8は、第2の実施形態にかかる仮想視点の移動の一例を示す図である。 図9は、第3の実施形態にかかる撮像装置の設置位置の一例を示す図である。 図10は、第3の実施形態にかかる情報処理装置の機能の一例を示す図である。 図11は、従来技術にかかる撮像装置の設置位置の一例を示す図である。 図12は、従来技術にかかる撮像装置の撮像範囲と表示画像の表示範囲の一例を示す図である。 図13は、従来技術にかかる表示画像の一例を示す図である。
(第1の実施形態)
図1は、第1の実施形態にかかる撮像装置2a〜2dの設置位置の一例を示す図である。撮像装置2a〜2dは、車両1の周囲を撮像するカメラである。
より詳細には、撮像装置2aは車両1の前方を撮像するフロントカメラであり、撮像装置2bは車両1の右側方を撮像する右サイドカメラであり、撮像装置2cは車両1の左側方を撮像する右サイドカメラであり、撮像装置2dは車両1の後方を撮像するバックカメラ(リアカメラ)である。
撮像装置2a〜2cの設置位置および設置角度は、各撮像装置2a〜2cのレンズの中心線20a〜20cが点Pで交差するように定められている。以下、撮像装置2a〜2cを特に区別しない場合は撮像装置2という。また、中心線20a〜20cを特に区別しない場合は中心線20という。また、中心線20は、撮像装置2の撮像範囲の中心線でもある。
点Pは、撮像装置2a〜2cによって撮像された撮像画像から生成される表示画像の仮想視点である。以下、点Pを、仮想視点Pという。仮想視点Pは、表示画像をユーザが見る場合に、当該ユーザの視点となる位置である。本実施形態においては、仮想視点Pの位置は予め定められ、撮像装置2a〜2cは、仮想視点Pに対応する表示画像を生成するために車両1に取り付けられている。
また、表示画像は、仮想視点Pの位置からユーザが車両の周囲を見た場合におけるユーザの視野に相当する範囲を表示する画像である。表示画像の詳細については後述する。ユーザは、例えば車両1の運転者等である。
図2は、本実施形態にかかる情報処理装置100の機能の一例を示す図である。情報処理装置100は例えば車両1に搭載されたECU(Electronic Control Unit)であり、撮像装置2a〜2dを管理する。本実施形態の情報処理装置100は、画像処理部101と表示制御部102とを備える。
画像処理部101は、仮想視点Pに対応付けられた撮像装置2a〜2dによって撮像された複数の撮像画像に対して拡大や合成等の画像処理を行って仮想視点Pから見た表示画像を生成する。また、表示制御部102は、画像処理部101によって生成された表示画像を後述の表示装置に出力する。
本実施形態においては、撮像装置2a〜2cを周辺監視装置としても良いし、撮像装置2a〜2cと情報処理装置100との両方を周辺監視装置としても良い。
次に、撮像装置2a〜2cの撮像範囲についてより詳細に説明する。図3は、本実施形態にかかる撮像装置2a〜2cの撮像範囲と表示画像の表示範囲の一例を示す図である。図3に示す一点鎖線は、ユーザ3に対して表示される表示画像の表示範囲である。「表示画像の表示範囲」は、「仮想視点Pにユーザ3が位置する場合のユーザ3の視野」や、「表示画像の視野」ともいう。また、図3に示す点線は、撮像装置2a〜2cの撮像範囲である。「撮像装置2a〜2cの撮像範囲」は、「撮像装置2a〜2cの視野」ともいう。
図3の中央の図は、車両1を上方から見た場合における撮像装置2a〜2cの撮像範囲と表示画像の表示範囲とを示す。また、図3の右側の図および左側の図は、それぞれ、車両1を右側方または左側方から見た場合における撮像装置2a〜2cの撮像範囲と表示画像の表示範囲とを示す。図3のユーザ3の位置は、仮想視点Pの位置を示す。
図3に示すように、各撮像装置2a〜2cの撮像範囲の中心は、表示画像の表示範囲の中心の延長線上に位置する。例えば、車両1の前方の撮像については、フロントカメラである撮像装置2aの撮像範囲の中心は、表示画像の表示範囲の中心の延長線上に位置する。また、車両1の左右方向の撮像についても、右サイドカメラである撮像装置2bまたは左サイドカメラである撮像装置2cの撮像範囲の中心は、表示画像の表示範囲の中心の延長線上に位置する。
図4は、本実施形態にかかる画像処理の一例を示す図である。図4に示す撮像装置2は、撮像装置2a〜2cのいずれかであるものとする。図4の上部には、撮像装置2の撮像範囲と表示画像の表示範囲とを、上方から見た図と側面から見た図とを示す。
図1でも示したように、撮像装置2a〜2cが設置されている位置と、仮想視点P(図4のユーザ3の位置)とには距離がある。この距離を、距離Lとする。図4の下部に示すように、情報処理装置100の画像処理部101は、撮像画像を距離Lに相当する分だけ拡大することによって、拡大後の撮像画像の画像範囲と、表示画像の表示範囲(仮想視点Pからユーザ3が見た視野)とを一致させる。図4に示す撮像装置2´の撮像画像の撮像範囲は、仮想視点Pの位置から撮像装置2´が撮像した場合における撮像範囲を示す。画像処理部101は、撮像画像を拡大することで、撮像装置2が撮像した撮像画像に含まれる被写体の大きさを、撮像装置2´が仮想視点Pの位置から撮像した場合と同じ大きさにする。
撮像装置2の撮像範囲の中心は、表示画像の表示範囲の中心に位置するため、大幅な視点変換をすることなく、距離L分だけ画像を拡大することで、ユーザ3の視野に合わせることができる。このため、撮像画像に含まれる物体(被写体)に歪みが生じにくい。例えば、図4の拡大後の画像では、撮像画像に含まれる人物5は、人物5´として示すように大きくなるが、形状は拡大前と同様であり、歪みは生じていない。
画像処理部101は、撮像画像の拡大の処理の他に、撮像装置2a〜2cの撮像画像を合成して、車両1の左側方、前方、右側方を表示する一続きの表示画像に合成する画像処理を行う。撮像装置2a〜2cは仮想視点Pで中心線20a〜20cように設置されているため、画像処理部101は、撮像装置2a〜2cの撮像画像を合成する際に、大幅な視点変換の処理を要しない。このため、画像処理部101は、表示画像の歪みを低減することができる。
上述の拡大の処理及び合成の処理は画像処理の一例であり、画像処理部101は、更に他の画像処理を行っても良い。また、画像処理部101は、バックカメラである撮像装置2dが車両1の後方を撮像した撮像画像についても、拡大等の画像処理を行う。
次に、表示画像について説明する。図5は、本実施形態にかかる表示装置12の設置位置の一例を示す図である。表示装置12は、一例として、車両1のフロントガラスの下のダッシュボード14の中央付近に設置される。表示装置12は、ハンドル13を操作する運転者から見えやすい位置にあれば良く、設置位置はこれに限定されるものではない。表示装置12は、例えば液晶ディスプレイである。
図6は、本実施形態にかかる表示画像の一例である。情報処理装置100の表示制御部102は、画像処理部101の画像処理によって生成された表示画像を表示装置12に表示する。より詳細には、表示制御部102は、車両1の後面を示す画像21と、撮像装置2a〜2cの撮像画像が合成された第1の表示画像22と、バックカメラである撮像装置2dによって撮像された撮像画像から拡大処理等によって生成された第2の表示画像23とを表示する。
第1の表示画像22は、撮像装置2aによって撮像された撮像画像を拡大したフロントカメラ映像と、撮像装置2bによって撮像された撮像画像を拡大した右サイドカメラ映像と、撮像装置2cによって撮像された撮像画像を拡大した左サイドカメラ映像とを含み、各映像の境界で画像が繋がるように合成された画像である。また、第1の表示画像22は、ユーザ3が仮想視点Pの位置から車両1の周囲を見た場合のユーザ3の視野を表示した画像ともいう。第1の表示画像22に含まれる人物5a,5bの形状は歪んでいないため、第1の表示画像22はユーザ3に対して違和感を与えずに、車両1の周囲の状況を把握させることができる。
なお、図6に示した第1の表示画像22および第2の表示画像23は表示画像の一例であり、例えば、表示制御部102は、左サイドカメラ映像とフロントカメラ映像と右サイドカメラ映像とを合成せずに個別に表示しても良い。
上述した本実施形態の構成に対して、従来の一般的な撮像装置の設置位置では、車両に設置された撮像装置の撮像範囲の中心と、運転者等に表示される画像の中心とが一致しないため、視点変換によって表示画像に歪みが生じる場合があった。図11は、従来技術にかかる撮像装置の設置位置の一例を示す図である。図11に示す例では、右サイドカメラと左サイドカメラがそれぞれ下方を向いているため、車両に設置されたフロントカメラ、右サイドカメラ、および左サイドカメラの中心線は、一点で交差しない。また、後述の図13で示す表示画像では、仮想視点が車両の後方に位置しているが、図11に示す各撮像装置の中心線は、当該表示画像の仮想視点を通らない。
また、図12は、従来技術にかかる撮像装置の撮像範囲と表示画像の表示範囲の一例を示す図である。図12に示す例では、各撮像装置の撮像範囲の中心は、表示画像の表示範囲の中心と一致していない。特に、右サイドカメラおよび左サイドカメラは下方を向いているため、撮像範囲が表示画像の表示範囲と異なり、被写体に対する撮像角度も表示画像における仮想進展と被写体との角度と異なる。このような設置位置および設置角度の撮像装置によって撮像された撮像画像から表示画像を生成する場合、従来の報処理装置は、各撮像画像に対して視点変換の処理を実行した上で合成する。
図13は、従来技術にかかる表示画像の一例を示す図である。図13に示す例では、各撮像画像の境界付近に位置する人物の形状に歪みが生じている。当該例のように、各撮像装置の撮像範囲の中心と、表示画像の表示範囲の中心とが一致していない場合、視点変換の度合が大きくなるため、表示画像に歪みが生じる場合があった。また、表示画像の歪みよって、ユーザ3に対して障害物等との距離感や、車両の周囲の情報を違和感なく把握させることが困難な場合があった。
これに対して、本実施形態の周辺監視装置は、仮想視点Pに対応する第1の表示画像22を生成するために車両1に取り付けられた複数の撮像装置2a〜2cを備え、複数の撮像装置2a〜2cの位置および角度は、複数の撮像装置2a〜2cのそれぞれのレンズの中心線20a〜20cが仮想視点Pで交差するように定められている。このため、本実施形態の周辺監視装置によれば、歪みの少ない第1の表示画像22を生成可能な撮像画像を撮像することができる。
さらに、本実施形態の周辺監視装置は、複数の撮像装置2a〜2cによって撮像された複数の撮像画像を合成して、仮想視点Pから見た第1の表示画像22を生成し、表示装置12に表示する。このため、本実施形態の周辺監視装置によれば、運転者(ユーザ3)が確認すべき車両1の周囲の複数方向の状況を、歪みの少ない第1の表示画像22で表示することによって、ユーザ3が表示画像に違和感を覚えることを低減しつつ、車両1の周囲の複数方向の状況を1つの画面で表示することができる。例えば、ユーザ3は、第1の表示画像22から、フロントカメラや左右のサイドカメラで撮像された車両1の前方、右側方、及び左側方の状況を容易に把握することができる。
また、画像処理部101は、撮像装置2a〜2cの撮像画像または、画像処理後の第1の表示画像22から、これらの画像に含まれる所定のオブジェクトを認識する画像認識の処理を行っても良い。所定のオブジェクトは、予め定められているものとしても良いし、ユーザ3等によって指定されるものとしても良い。また、表示制御部102は、画像処理部101による認識結果を、表示装置12に表示しても良い。例えば、表示制御部102は、画像処理部101が所定のオブジェクトを認識した結果を示す図形等を、第1の表示画像22に重畳して表示する。上述したように第1の表示画像22には歪みが少ないため、本実施形態の周辺監視装置によれば、撮像画像に含まれる所定のオブジェクトの認識結果を表示する場合に、認識結果の表示に対してユーザ3に違和感を与えたり誤解を生じさせたりすることを低減することができる。
なお、本実施形態の車両1は、撮像装置2a〜2dの他に、超音波を発射してその反射波を捉えるソナー(ソナーセンサ、超音波探知器)等の測距部等を備えても良い。情報処理装置100または他のECUは、測距部による車両1の周囲の検知結果と撮像画像とに基づいて、障害物等を検出し、警告等を表示装置12に出力しても良い。
また、本実施形態では、周辺監視装置は撮像装置2a〜2cを含むものとしたが、これに限定されるものではなく、撮像装置2a〜2dを含むものとしても良い。また、図1等に示した仮想視点Pの位置や、撮像装置2a〜2dの設置位置および設置方向は一例であり、これに限定されるものではない。また、図11〜13に示す従来技術は一例であり、上述の構成に限定されるものではない。
(第2の実施形態)
上述の第1の実施形態では、仮想視点Pの位置および撮像装置2a〜2cの撮像方向は予め定められた位置に固定されていた。第2の実施形態では、撮像装置2a〜2cの撮像方向は、仮想視点Pの移動に伴って可変であるものとする。
図7は、本実施形態にかかる情報処理装置1100の機能の一例を示す図である。図7に示すように、情報処理装置1100は、画像処理部101と、表示制御部102と、受付部103と、撮像装置制御部104とを備える。本実施形態においては、周辺監視装置は撮像装置2a〜2cと情報処理装置1100とを含むものとする。
画像処理部101と、表示制御部102とは、第1の実施形態と同様の機能を備える。
受付部103は、ユーザ3による仮想視点Pの位置の移動を指示する操作を受け付ける。例えば、表示装置12はタッチパネルを備え、仮想視点Pの位置の移動を指示する操作は、当該タッチパネルから入力されても良い。また、受付部103は、その他の入力画面やボタン等の入力装置から入力された仮想視点Pの位置の移動を指示する操作を受け付けても良い。また、仮想視点Pの位置の移動を指示する操作は、直接的に移動後の仮想視点Pの位置を指定するものに限らず、画面表示の切り替え操作等であっても良い。
撮像装置制御部104は、仮想視点Pが移動した場合に、撮像装置2a〜2cの向きを、撮像装置2a〜2cの中心線20a〜20cが移動後の仮想視点Pで交差する方向に移動する。撮像装置制御部104は、例えば、制御信号を送信して撮像装置2a〜2cを回転させることによって撮像装置2a〜2cの向きを制御する。撮像装置制御部104は、本実施形態における移動制御部の一例である。
図8は、本実施形態にかかる仮想視点Pの移動の一例を示す図である。本実施形態における撮像装置2a〜2cは、第1の実施形態の機能を備えた上で、撮像する方向(向き)を変更する機能を有する。例えば、撮像装置2a〜2cは、回転可能な移動機構に取り付けられているものとする。例えば、受付部103が仮想視点Pを仮想視点P´の位置に移動する操作を受け付けた場合に、撮像装置制御部104は、撮像装置2a〜2cの向きを、撮像装置2a〜2cの中心線20a〜20cが移動後の仮想視点P´で交差する方向に移動(回転)する。図8の中心線20a´〜20c´は、移動後の撮像装置2a〜2cのレンズの中心線を示す。
このように、本実施形態の周辺監視装置は、仮想視点Pが移動した場合に、撮像装置2a〜2cの向きを、撮像装置2a〜2cの中心線20a〜20cが移動後の仮想視点Pで交差する方向に移動する。このため、本実施形態の周辺監視装置によれば、第1の実施形態の効果に加えて、仮想視点Pの位置を変えた表示画像を生成して、ユーザ3に提供することができる。
なお、仮想視点Pの位置の移動は、ユーザ3の操作によるものに限定されず、情報処理装置100または車両1に搭載された他のECUによって決定されても良い。
(第3の実施形態)
上述の第2の実施形態では、仮想視点Pの移動に伴って撮像装置2a〜2cを移動させることで、複数の仮想視点Pに基づく表示画像を表示可能にしていた。第3の実施形態では、予め複数の仮想視点の位置が決定され、各仮想視点に対して、それぞれ複数の撮像装置2が対応付けられている。
図9は、本実施形態にかかる撮像装置2a〜2gの設置位置の一例を示す図である。本実施形態では、複数の異なる仮想視点P1,P2のそれぞれに対応する表示画像を生成するために、仮想視点P1,P2のそれぞれに対して、複数の撮像装置2が予め対応付けられて車両1に設置される。本実施形態においては、撮像装置2a〜2cは仮想視点P1に対応付けられ、撮像装置2e〜2gは仮想視点P2に対応付けられている。より詳細には、図9に示す撮像装置2a〜2cの設置位置および設置角度は、各撮像装置2a〜2cのレンズの中心線20a〜20cが仮想視点(第1の視点)P1で交差するように定められている。また、撮像装置2e〜2gの設置位置および設置角度は、各撮像装置2e〜2gのレンズの中心線20e〜20gは、仮想視点(第2の視点)P2で交差するように定められている。
図10は、本実施形態にかかる情報処理装置2100の機能の一例を示す図である。図10に示すように、本実施形態にかかる情報処理装置2100は、画像処理部1101と、表示制御部1102と、受付部1103と、記憶部105とを備える。
記憶部105は、予め定めされた複数の仮想視点Pの位置と、各仮想視点Pに対応付けられた複数の撮像装置2とを記憶する。記憶部105は例えばHDDやフラッシュメモリ等の記憶装置とする。
受付部1103は、ユーザ3による仮想視点P1,P2のいずれか1つを選択する操作を受け付ける。
画像処理部1101は、第1の実施形態の機能を備えた上で、ユーザ3によって選択された仮想視点Pに対応付けられた複数の撮像装置2によって撮像された撮像画像に対して拡大および合成等の画像処理を実行して表示画像を生成する。例えば、仮想視点P1が選択された場合は、画像処理部1101は、撮像装置2a〜2cによって撮像された複数の撮像画像を合成して、仮想視点P1から見た表示画像を生成する。
また、表示制御部1102は、第1の実施形態の機能を備えた上で、ユーザ3によって選択された仮想視点Pに対応付けられた複数の撮像装置2によって撮像された複数の撮像画像から生成された表示画像を、表示装置12に表示する。
このように、本実施形態の周辺監視装置では、仮想視点P1に対応する表示画像を生成するために車両1に取り付けられた複数の撮像装置2a〜2cと、仮想視点P2に対応する他の表示画像を生成するために車両1に取り付けられた複数の撮像装置2e〜2gとを備える。また、仮想視点P1に対応付けられた複数の撮像装置2a〜2cのレンズの中心線20a〜20cは仮想視点P1で交差し、仮想視点P2に対応付けられた複数の撮像装置2e〜2gのレンズの中心線20e〜20gは仮想視点P2で交差するように定められている。このため、本実施形態の周辺監視装置によれば、第1の実施形態の効果に加えて、撮像装置2を移動させなくとも、異なる仮想視点P1,P2の位置に基づく複数の表示画像を生成することができる。
なお、仮想視点Pは、情報処理装置100または他のECUによって選択されても良い。また、図9に示した仮想視点P1,P2の位置及び数や、撮像装置2の数は一例であり、これに限定されるものではない。また、本実施形態では、受付部1103は、ユーザ3による仮想視点P1,P2のいずれか1つを選択する操作を受け付けるとしたが、複数の仮想視点Pを選択する操作を受け付けても良い。また、表示制御部1102は、仮想視点P1に対応する表示画像と仮想視点P2に対応する表示画像の両方を表示装置12に同時に表示しても良い。
情報処理装置100,1100,2100は、CPUなどの制御装置と、ROMやRAMなどの記憶装置と、HDD、フラッシュメモリ、CDドライブ装置などの外部記憶装置を備えており、通常のコンピュータを利用したハードウェア構成となっている。情報処理装置100,1100,2100の画像処理部101,1101、表示制御部102,1102、受付部103,1103、撮像装置制御部104は、CPUが、ROM内に格納されたプログラムを実行することで実現される。なお、これらの構成をハードウェア回路で実現するように構成しても良い。
以上、本発明の実施形態を例示したが、上記実施形態および変形例はあくまで一例であって、発明の範囲を限定することは意図していない。上記実施形態や変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、組み合わせ、変更を行うことができる。また、各実施形態や各変形例の構成や形状は、部分的に入れ替えて実施することも可能である。
1…車両、2,2a〜2g…撮像装置、3…ユーザ、5,5´,5a,5b…人物、12…表示装置、13…ハンドル、14…ダッシュボード、20,20a〜20c,20e〜20g,20a´〜20c´…中心線、22…第1の表示画像、23…第2の表示画像、100,1100,2100…情報処理装置、101,1101…画像処理部、102,1102…表示制御部、103,1103…受付部、104…撮像装置制御部、105…記憶部、P,P´,P1,P2…仮想視点(視点)。

Claims (5)

  1. 一の視点に対応する表示画像を生成するために車両に取り付けられた複数の撮像装置を備え、
    前記複数の撮像装置のそれぞれのレンズの中心線は、前記視点で交差する、
    周辺監視装置。
  2. 前記視点が移動した場合に、前記複数の撮像装置の向きを、前記複数の撮像装置のそれぞれの前記レンズの前記中心線が移動後の前記視点で交差する方向に移動する移動制御部をさらに備える、
    請求項1に記載の周辺監視装置。
  3. 第1の視点に対応する表示画像を生成するために前記車両に取り付けられた複数の撮像装置と、
    第2の視点に対応する他の表示画像を生成するために前記車両に取り付けられた複数の撮像装置と、を備え、
    前記第1の視点に対応付けられた前記複数の撮像装置のそれぞれのレンズの中心線は、前記第1の視点で交差し、
    前記第2の視点に対応付けられた前記複数の撮像装置のそれぞれのレンズの中心線は、前記第2の視点で交差する、
    請求項1に記載の周辺監視装置。
  4. 前記視点に対応付けられた前記複数の撮像装置によって撮像された複数の撮像画像を合成して、前記視点から見た前記表示画像を生成する画像処理部と、
    生成された前記表示画像を表示装置に表示する表示制御部と、をさらに備える、
    請求項1から3のいずれか1項に記載の周辺監視装置。
  5. 前記画像処理部は、前記複数の撮像装置によって撮像された前記複数の撮像画像または前記表示画像から所定のオブジェクトを認識し、
    前記表示制御部は、前記画像処理部が前記オブジェクトを認識した結果を、前記表示画像に重畳して前記表示装置に表示する、
    請求項4に記載の周辺監視装置。
JP2018063507A 2018-03-29 2018-03-29 周辺監視装置 Active JP7135378B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018063507A JP7135378B2 (ja) 2018-03-29 2018-03-29 周辺監視装置
US16/354,950 US20190299857A1 (en) 2018-03-29 2019-03-15 Surrounding monitoring device
EP19166076.0A EP3546293B1 (en) 2018-03-29 2019-03-29 Surrounding monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018063507A JP7135378B2 (ja) 2018-03-29 2018-03-29 周辺監視装置

Publications (2)

Publication Number Publication Date
JP2019176359A true JP2019176359A (ja) 2019-10-10
JP7135378B2 JP7135378B2 (ja) 2022-09-13

Family

ID=66001135

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018063507A Active JP7135378B2 (ja) 2018-03-29 2018-03-29 周辺監視装置

Country Status (3)

Country Link
US (1) US20190299857A1 (ja)
EP (1) EP3546293B1 (ja)
JP (1) JP7135378B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111559371B (zh) * 2020-05-15 2021-12-07 广州智鹏车联网科技有限公司 三维泊车的显示方法、车辆和存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003346189A (ja) * 2002-05-24 2003-12-05 Nissan Motor Co Ltd 車両用映像表示装置
JP2006352249A (ja) * 2005-06-13 2006-12-28 Aisin Seiki Co Ltd 監視装置及び車両用監視装置
JP2011087319A (ja) * 2010-12-06 2011-04-28 Sanyo Electric Co Ltd 車載パノラマカメラシステム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3125969B2 (ja) * 1994-12-02 2001-01-22 鹿島建設株式会社 移動体からの対象近接検出方法
JP2005333565A (ja) * 2004-05-21 2005-12-02 Auto Network Gijutsu Kenkyusho:Kk 監視装置
JP4561353B2 (ja) * 2004-12-24 2010-10-13 日産自動車株式会社 映像信号処理装置とその方法及び車載カメラシステム
DE102006052779A1 (de) * 2006-11-09 2008-05-15 Bayerische Motoren Werke Ag Verfahren zur Erzeugung eines Gesamtbilds der Umgebung eines Kraftfahrzeugs
DE102008023851A1 (de) * 2008-05-16 2009-12-03 Continental Automotive Gmbh Bilderfassungsvorrichtung und Fahrerassistenzsystem
WO2011047731A1 (en) * 2009-10-22 2011-04-28 Tele Atlas B.V. Method for creating a mosaic image using masks
JP5483120B2 (ja) * 2011-07-26 2014-05-07 アイシン精機株式会社 車両周辺監視システム
CN103782591B (zh) * 2011-08-26 2017-02-15 松下知识产权经营株式会社 驾驶辅助装置
JP5911775B2 (ja) * 2012-08-21 2016-04-27 富士通テン株式会社 画像生成装置、画像表示システム及び画像生成方法
DE102015202846B4 (de) * 2014-02-19 2020-06-25 Magna Electronics, Inc. Fahrzeugsichtsystem mit Anzeige
US20150288948A1 (en) * 2014-04-08 2015-10-08 Tk Holdings Inc. System and method for night vision object detection and driver assistance
DE102014106035A1 (de) * 2014-04-30 2015-11-05 Connaught Electronics Ltd. Verfahren zum Betreiben eines Fahrerassistenzsystems mit einem elektronischen Rückspiegel, Fahrerassistenzsystem und Kraftfahrzeug
US10723267B2 (en) * 2014-09-19 2020-07-28 Be Topnotch, Llc Display rear passenger view on a display screen in vehicle
JP6507626B2 (ja) * 2014-12-19 2019-05-08 アイシン精機株式会社 車両周辺監視装置
JP2017123627A (ja) 2016-01-06 2017-07-13 シャープ株式会社 画像処理装置、画像処理システム、移動体、画像処理方法、および画像処理プログラム
US10643342B2 (en) * 2018-02-08 2020-05-05 Huawei Technologies Co., Ltd. Group optimization depth information method and system for constructing a 3D feature map

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003346189A (ja) * 2002-05-24 2003-12-05 Nissan Motor Co Ltd 車両用映像表示装置
JP2006352249A (ja) * 2005-06-13 2006-12-28 Aisin Seiki Co Ltd 監視装置及び車両用監視装置
JP2011087319A (ja) * 2010-12-06 2011-04-28 Sanyo Electric Co Ltd 車載パノラマカメラシステム

Also Published As

Publication number Publication date
EP3546293A1 (en) 2019-10-02
EP3546293B1 (en) 2021-03-10
US20190299857A1 (en) 2019-10-03
JP7135378B2 (ja) 2022-09-13

Similar Documents

Publication Publication Date Title
TWI574224B (zh) An image processing apparatus, an image processing method, a video product processing apparatus, a recording medium, and an image display apparatus
JP5911775B2 (ja) 画像生成装置、画像表示システム及び画像生成方法
JP5500877B2 (ja) 車載用画像表示装置および画像のトリミング方法
JP6548900B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP2016062486A (ja) 画像生成装置および画像生成方法
JPWO2015194501A1 (ja) 映像合成システムとそのための映像合成装置及び映像合成方法
WO2014087594A1 (ja) 車両監視装置
JP2017204674A (ja) 撮像装置、ヘッドマウントディスプレイ、情報処理システム、および情報処理方法
JP2019526182A (ja) 陸上車両用光電子視認装置
JP2015184839A (ja) 画像生成装置、画像表示システム及び画像生成方法
US11813988B2 (en) Image processing apparatus, image processing method, and image processing system
JP6258000B2 (ja) 画像表示システム、画像表示方法及びプログラム
JP2018030526A (ja) 車両用視認装置及び車両用視認画像表示方法
JP2017084422A (ja) 装置、方法、およびプログラム
JP2015005823A (ja) 画像処理装置およびデジタルミラーシステム
CN108202666A (zh) 能于车辆转弯时同步显示后方全景与转弯画面的显示方法
JP2019176359A (ja) 周辺監視装置
US20220030178A1 (en) Image processing apparatus, image processing method, and image processing system
JP6625157B2 (ja) 画像生成装置、画像表示システム及び画像生成方法
JP6664082B2 (ja) 画像処理システム、画像処理装置および画像処理方法
JP2016119620A (ja) 指向性制御システム及び指向性制御方法
JP2006005451A (ja) 車載監視装置
JP6136747B2 (ja) 2次元3次元表示装置
JP7484722B2 (ja) 画像処理装置、画像処理方法および画像処理システム
JP2017022600A (ja) 画像通信装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220317

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220815

R150 Certificate of patent or registration of utility model

Ref document number: 7135378

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150