JP2019118051A - 表示処理装置 - Google Patents

表示処理装置 Download PDF

Info

Publication number
JP2019118051A
JP2019118051A JP2017251971A JP2017251971A JP2019118051A JP 2019118051 A JP2019118051 A JP 2019118051A JP 2017251971 A JP2017251971 A JP 2017251971A JP 2017251971 A JP2017251971 A JP 2017251971A JP 2019118051 A JP2019118051 A JP 2019118051A
Authority
JP
Japan
Prior art keywords
boundary
captured images
processing unit
vehicle
combined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017251971A
Other languages
English (en)
Inventor
俊亮 臼井
Toshiaki Usui
俊亮 臼井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2017251971A priority Critical patent/JP2019118051A/ja
Priority to PCT/JP2018/047848 priority patent/WO2019131763A1/ja
Publication of JP2019118051A publication Critical patent/JP2019118051A/ja
Priority to US16/912,465 priority patent/US11465559B2/en
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4038Scaling the whole image or part thereof for image mosaicing, i.e. plane images composed of plane sub-images
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint

Abstract

【課題】車両周辺に物体が存在するにもかかわらず物体が存在しないとドライバが誤認識することを抑制することができる表示処理装置を提供する。【解決手段】S101で、合成処理部は、車両における複数の異なる位置に設けられた複数台のカメラによって得られる複数の撮像画像であって撮像範囲の一部が互いに重複する重複部分を有する複数の撮像画像を取得する。S102で、合成処理部は、取得された複数の撮像画像を、当該複数の撮像画像の重複部分において合成する。合成処理部は、複数の撮像画像が合成されるときの境界である合成境界の位置を時間の経過に伴い変化させる。S103で、合成処理部は、合成された画像を、車両に設けられた表示装置に表示する。【選択図】図5

Description

本開示は、車両に搭載される表示処理装置に関する。
特許文献1には、車両における複数の異なる位置に設けられた複数台のカメラによって得られる複数の撮像画像を、車両に設けられた表示装置に表示する表示処理装置が開示されている。この表示処理装置は、撮像範囲の一部が互いに重複する重複部分を有する複数の撮像画像を、それぞれの重複部分を重ね合わせることにより一つの画像として合成し、その合成した画像を表示装置に表示する。また、この表示処理装置は、車両が一定速度で直進するか直進以外の右左折をするかなどの車両の運転状態を判定し、判定した運転状態に基づいて、複数の撮像画像が合成されるときの境界である合成境界の位置を変化させる。
特許第4662832号公報
上記の複数の撮像画像は、車両における複数の異なる位置に設けられた複数台のカメラにより撮像されたものであるため、撮像画像の重複部分における人や車両などの高さを有する物体の表示態様がそれぞれ異なる。したがって、高さを有する物体が重複部分の合成境界の近傍に存在する場合、表示されるべき物体の一部が表示画面から消えてしまう場合がある。その結果、車両周辺に物体が存在するにもかかわらず物体が存在しないとドライバが誤認識する可能性がある。
本開示は、車両周辺に物体が存在するにもかかわらず物体が存在しないとドライバが誤認識することを抑制できる表示処理装置を提供することを目的としている。
本開示の一態様は、表示処理装置(35)であって、取得部(S101,S201)と、合成部(S102,S204)と、表示処理部(S103,S206)と、を備える。取得部は、車両における複数の異なる位置に設けられた複数台のカメラ(21〜24)によって得られる複数の撮像画像であって撮像範囲(22a,23a)の一部が互いに重複する重複部分(51)を有する複数の撮像画像を取得する。合成部は、取得部により取得された複数の撮像画像を、当該複数の撮像画像の重複部分において合成する。表示処理部は、合成部により合成された画像を、車両に設けられた表示装置(4)に表示する。合成部は、複数の撮像画像が合成されるときの境界である合成境界(61)の位置を時間の経過に伴い変化させる。
このような構成によれば、ある時点において物体が合成境界の近傍に存在し、表示画面上で物体の一部が消えていても、時間の経過に伴い合成境界の位置が変化し、合成境界が物体から遠ざかる。その結果、物体が表示画面上に映るようになる。したがって、ドライバが車両周辺に物体が存在しないと誤認識することを抑制できる。
本開示の別の態様は、表示処理装置(35)であって、取得部(S101,S201)と、合成部(S102,S204)と、表示処理部(S103,S206)と、を備える
。取得部及び表示処理部は、上記と同様である。合成部は、取得部により取得された複数の撮像画像を、当該複数の撮像画像の重複部分において合成する。また、合成部は、互いに合成される複数の撮像画像のうちの少なくとも1つの撮像画像の重複部分における透過度が時間の経過に伴い変化するように、複数の撮像画像を合成する。
このような構成によれば、ある時点において表示画面上で物体の一部が消えていたとしても、時間の経過に伴い複数の撮像画像の重複部における透過度が変化するため、消失した物体の一部が映った撮像画像が表示される。よって、ドライバが車両周辺に物体が存在しないと誤認識することを抑制できる。
なお、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本開示の技術的範囲を限定するものではない。
表示処理システムの構成を示すブロック図である。 時間経過に伴う合成境界の位置の変化を示す図(1)である。 時間経過に伴う合成境界の位置の変化を示す図(2)である。 時間経過に伴う合成境界の位置の変化を示す図(3)である。 第1及び第2実施形態の画像合成処理のフローチャートである。 時間経過と合成境界の位置との関係を示す図(1)である。 時間経過に伴う撮像画像の透過度の変化を示す図である。 第3実施形態の画像合成処理のフローチャートである。 時間経過と合成境界の位置との関係を示す図(2)である。 時間経過と合成境界の位置との関係を示す図(3)である。
以下、図面を参照しながら、本開示を実施するための形態を説明する。
[1.第1実施形態]
[1−1.構成]
図1に示す表示処理システム1は、車両に搭載され、前方カメラ21、後方カメラ22、左側方カメラ23、右側方カメラ24、車両情報取得装置25、ECU3及び表示装置4を備える。以下では、単に「車両」と記載したときには、その記載は表示処理システム1が搭載された車両を意味するものとする。
前方カメラ21、後方カメラ22、左側方カメラ23及び右側方カメラ24は、撮像画像を表す信号をECU3へ出力する。図2〜図4に示すように、各カメラ21〜24は、車両における複数の異なる位置に設けられている。具体的には、前方カメラ21は車両の前部、後方カメラ22は車両の後部、左側方カメラ23は車両の左側部、そして右側方カメラ24は車両の右側部、にそれぞれ設けられている。
各カメラ21〜24は、車両の前方領域及び後方領域のそれぞれにおいて、撮像可能な範囲の一部が互いに重複するように設けられている。具体的には、各カメラ21〜24は、約180度の画角で撮像が可能な広角カメラである。このため、左側方カメラ23及び右側方カメラ24により撮像可能な範囲は、車両の前方側において、前方カメラ21により撮像可能な範囲と一部が重複し、車両の後方側において、後方カメラ22により撮像可能な範囲と一部が重複する。
本実施形態において、各カメラ21〜24は、車両の上方の視点からなる画像である鳥瞰画像を表示装置4に表示するために用いられる。すなわち、各カメラ21〜24により撮像された画像が車両の上方の視点に視点変換されて鳥瞰画像が生成される。そして、生
成された鳥瞰画像が合成された合成画像が表示装置4に表示される。
図2〜図4には、後方カメラ22の撮像範囲22a、左側方カメラ23の撮像範囲23a及びそれらの重複部分51が示されている。重複部分51は、図2〜図4において、撮像範囲22aにおける破線61aよりも左側の領域である。また、重複部分51は、撮像範囲23aにおける破線61bよりも下側の領域である。
図1に戻り、車両情報取得装置25は、車両周辺に存在する人や車両などの物体を検知する各種センサを含んで構成される。各種センサは、例えば、ミリ波レーダ、レーザレーダ、ソナー等である。車両情報取得装置25は、各種センサの検知結果を示す情報である車両情報をECU3へ出力する。
ECU3は、取得処理部31〜34及び合成処理部35を備える。なお、ECUとはElectronic Control Unitの略である。
取得処理部31〜34は、カメラ21〜24から入力された撮像画像を表す信号を合成処理部35へ出力するためのインタフェースである。
合成処理部35は、CPU351と、RAM、ROM、フラッシュメモリ等の半導体メモリ(以下、メモリ352)と、を有する周知のマイクロコンピュータを中心に構成される。合成処理部35の各種機能は、CPU351が非遷移的実体的記憶媒体に格納されたプログラムを実行することにより実現される。この例では、メモリ352が、プログラムを格納した非遷移的実体的記憶媒体に該当する。また、このプログラムの実行により、プログラムに対応する方法が実行される。具体的には、合成処理部35は、当該プログラムに従い、後述する図5に示す画像合成処理を実行する。なお、合成処理部35を構成するマイクロコンピュータの数は1つでも複数でもよい。また、合成処理部35を構成するこれらの要素を実現する手法はソフトウェアに限るものではなく、その一部又は全部の要素を、論理回路やアナログ回路等を組み合わせたハードウェアを用いて実現してもよい。
表示装置4は、画像を表示するためのディスプレイであり、表示された画像を車両の運転者などが視認できる位置に設けられる。
[1−2.処理]
次に、合成処理部35が実行する画像合成処理について、図5のフローチャートを用いて説明する。画像合成処理は、ECU3の電源がオンである間において周期的に実行される。
S101では、合成処理部35は、取得処理部31〜34を介して、前方カメラ21、後方カメラ22、左側方カメラ23及び右側方カメラ24による撮像画像を表す信号を取得する。
S102では、合成処理部35は、S101で取得された各カメラ21〜22の撮像画像を合成して合成画像を生成する。合成処理部35は、次のように合成画像を生成する。
合成処理部35は、まず、各カメラ21〜24の撮像画像を車両の上方の視点に視点変換して鳥瞰画像を生成する。そして、生成された各カメラ21〜24の鳥瞰画像を、これらの鳥瞰画像の重複部分が重なるように合成し、車両周辺の鳥瞰画像として合成画像を生成する。本実施形態では、合成処理部35は、複数の撮像画像を以下のように合成する。
すなわち、合成処理部35は、複数の撮像画像が合成されるときの境界である合成境界の位置が時間の経過に伴い変化するように複数の撮像画像を合成する。すなわち、画像合成処理が周期的に実行される度に、合成境界の位置が変化するように撮像画像が合成される。
具体的には、時間の経過に伴い、重複部分に含まれる第1の境界位置と第2の境界位置との間で、合成境界の位置が変化される。本実施形態では、重複部分と、合成境界の位置が変化する範囲(以下、境界変化範囲)と、が一致する。すなわち、撮像範囲が互いに重複する複数の撮像画像のうちの一方の撮像画像が完全に表示される合成境界の位置が第1の境界位置に設定される。また、他方の撮像画像が完全に表示される合成境界の位置が第2の境界位置に設定される。そして、第1の境界位置及び第2の境界位置の一方から他方に向かって合成境界61の位置が少しずつ(すなわち段階的に)変化していく。そして、合成境界の位置が他方の境界位置に達すると、もう一方の境界位置に向かって合成境界の位置が変化される。このように合成境界の位置が第1の境界位置と第2の境界位置との間で交互に遷移する。換言すれば、本実施形態では、第1の境界位置と第2の境界位置との間の位置である中間位置を経るようにして合成境界の位置が変化する。
例えば、図2〜図4には、後方カメラ22と左側方カメラ23との合成に係る合成境界61の位置の変化が示される。図2では、合成境界61が、左側方カメラ23の撮像画像が完全に表示される第1の境界位置61aに位置している。そして、時間の経過に伴い、合成境界61の位置が、図2に示す第1の境界位置61aから図3に示す中間位置に変化する。そして、時間が更に経過すると、合成境界61の位置が、図3に示す中間位置から図4に示す後方カメラ22の撮像画像が完全に表示される第2の境界位置61bに変化する。そして、更に時間が経過すると、同様にして合成境界61の位置が図4に示す第2の境界位置61bから図2に示す第1の境界位置61aに変化する。合成処理部35は、時間の経過に伴いこのような変化を繰り返す。
このように、本実施形態では、表示装置4の表示画面上において、重複部分における複数の撮像画像のそれぞれの表示面積の割合を変化させることで、合成境界の位置が変化される。すなわち、図2〜図4に示される例では、図2から図4にかけて左側方カメラ23の撮像画像の重複部分51における表示面積の割合を徐々に減少させ、後方カメラ22の撮像画像の重複部分51における表示面積の割合を徐々に増加させることで、合成境界61の位置が変化される。このように、合成処理部35は、合成境界の位置をスキャニングするかの如く動かし続ける。
なお、前方カメラ21及び左側方カメラ23、後方カメラ22及び右側方カメラ24、並びに、右側方カメラ24及び前方カメラ21、の撮像画像の合成における合成境界の位置の変化も同様である。
また本実施形態では、合成境界の位置は、時間の経過に伴い徐々に(すなわち緩やかに)変化される。具体的には、図6に示すように、一定速度で(すなわち線形に)合成境界の位置が第1の境界位置及び第2の境界位置の一方から他方に向かって変化する。なお、図6において、合成境界の位置が第1の境界位置から再び第1の境界位置に戻るまでの1周期の時間Tは、ドライバが物体の存在の有無について誤認識を起こさない程度の比較的短い時間に設定される。合成処理部35は、上記のように合成画像を生成する。
S103では、合成処理部35は、生成された合成画像を表示装置4に表示する。合成処理部35は、S103を実行すると画像合成処理を終了する。
[1−3.効果]
以上詳述した第1実施形態によれば、以下の効果が得られる。
(1a)本実施形態では、合成処理部35は、合成境界の位置を時間の経過に伴い変化させる。このため、ある時点において物体が合成境界の近傍に存在し、表示画面上で物体の一部が消えていても、時間の経過に伴い合成境界の位置が変化し、合成境界が物体から遠ざかる。その結果、物体が表示画面上に映るようになる。したがって、ドライバが車両
周辺に物体が存在しないと誤認識することを抑制できる。
また例えば、車両に設けられたセンサにより車両周辺に物体が検知された場合にのみ、合成境界の位置を物体と重ならないように変化させる構成が考えられる。しかし、この構成では物体を検知するセンサが必須となる。これに対して、本実施形態では、センサを用いずとも合成境界の近傍に物体が位置しないようにできる。よって、センサを必須としない分、上記構成と比較してコスト面で優れ得る。
(1b)本実施形態では、合成処理部35は、中間状態を経るようにして合成境界61の位置を第1の境界位置61aと第2の境界位置61bとの間で変化させる。ここでいう中間状態とは、合成境界が第1の境界位置に位置している状態と、合成境界が第2の境界位置に位置している状態と、の間の状態である。具体的には、合成処理部35は、第1の境界位置61aと第2の境界位置61bとの間の位置である中間位置を経るようにして合成境界61の位置を遷移させる。したがって、合成境界61の位置が変化したときにドライバが違和感を覚えることを抑制できる。
すなわち、例えば、合成境界61の位置を、中間状態を経ることなく第1の境界位置61aと第2の境界位置61bとの間で瞬間的に切り替える構成が考えられる。この構成では、表示装置4の表示画面が、合成境界61の位置が第1の境界位置61aである合成画像と、合成境界61の位置が第2の境界位置61bである合成画像と、の間で交互に切り替わる。このような画像をドライバが見たとき、ドライバが違和感を覚える可能性がある。これに対して本実施形態では、合成境界61の位置が中間状態を経て変化するため、上記構成と比較して表示装置4の表示画面がスムーズに変化する。よって、上記構成と比較して、ドライバが違和感を覚えることを抑制できる。
(1c)本実施形態では、重複部分51における複数の撮像画像のそれぞれの表示面積の割合を変化させることで、合成境界61の位置が変化される。したがって、表示画面の見栄えを向上できる。
すなわち、後述する第2実施形態のように、複数の撮像画像の重複部分51における透過度を変化させることで、合成境界61の位置を変化させる構成が考えられる。このような構成では、透過度が変化している過渡期においては、表示画面上の重複部分51においていずれのカメラの撮像画像も映ることになる。また、複数のカメラは設けられている位置が異なるため、カメラによって同一物体の映り方が異なる。このため、過渡期においては重複部分51に同一物体が二重映りすることがある。一方、本実施形態の構成によれば、上記構成と比較して重複部分51において異なるカメラの撮像画像が重複して表示されないため、このような同一物体の二重映りを抑制できる。よって、表示画像の見栄えを向上できる。
なお、本実施形態では、合成処理部35が表示処理装置に相当し、S101が取得部としての処理に相当し、S102が合成部としての処理に相当し、S103が表示処理部としての処理に相当する。
[2.第2実施形態]
[2−1.第1実施形態との相違点]
第2実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。なお、第1実施形態と同じ符号は、同一の構成を示すものであって、先行する説明を参照する。
前述した第1実施形態では、重複部分における複数の撮像画像の表示面積の割合を変化
させることで合成境界の位置が変化される。これに対し、第2実施形態では、重複部分において、複数の撮像画像の透過度を変化させることで合成境界の位置が変化される点で、第1実施形態と相違する。
第2実施形態の表示処理システム1は、前述した第1実施形態の表示処理システム1とハードウェア構成は同一である。しかし、第2実施形態の合成処理部35が実行する画像合成処理が第1実施形態と一部相違する。
[2−2.処理]
次に、第2実施形態の合成処理部35が実行する画像合成処理について、前述した図5のフローチャートを用いて説明する。なお、図5におけるS101及びS103の処理は、第1実施形態と同様であるため、以下では相異点であるS102の処理のみを説明する。
S102では、合成処理部35は、S101で取得された各カメラ21〜22の画像を合成して合成画像を生成する。合成処理部35は、第1実施形態と同様に、複数の撮像画像のそれぞれを視点変換して鳥瞰画像を生成し、生成された鳥瞰画像を合成する。
本実施形態では、合成処理部35は、重複部分において重複する複数の撮像画像の両方の透過度を変化させることで、合成境界の位置を変化させる。すなわち、画像合成処理が周期的に実行される度に、複数の撮像画像の重複部分における透過度が変化していく。
具体的には、合成処理部35は、複数の撮像画像をその重複部分において互いに重複するように合成する。そして、合成処理部35は、時間の経過に伴い、重複する複数の撮像画像のうちの一方の撮像画像の透過度を下げ、他方の撮像画像の透過度を上げることで、合成境界の位置を第1の境界位置及び第2の一方から他方へと変化させる。本実施形態では、重複部分において一方の撮像画像が完全に表示されている場合、前記一方の撮像画像の透過度は0である。また、同状態において、他方の撮像画像の透過度は100である。この状態から、合成処理部35は、前記一方の撮像画像の透過度を上げ、前記他方の撮像画像の透過度を下げることで、前記一方の撮像画像の透過度が100の状態(すなわち、前記他方の撮像画像が完全に表示される状態)の合成画像を生成する。
例えば、図2に示す左側方カメラ23の撮像画像が完全に表示されている状態では、左側方カメラ23の撮像画像の重複部分51における透過度は0である。また、後方カメラ22の撮像画像の重複部分51における透過度は100である。この状態から、合成処理部35は、時間の経過に伴い、左側方カメラ23の撮像画像の透過度を少しずつ上げ、また、後方カメラ22の撮像画像の透過度を少しずつ下げていく。これにより、図7に示すような、左側方カメラ23の撮像画像と後方カメラ22の撮像画像とが混じり合った(すなわち2つの撮像画像が同時に表示された)合成画像が生成される。図7の状態では、例えば、左側方カメラ23の撮像画像の透過度が50であり、後方カメラ22の撮像画像の撮像画像の透過度も50である。この状態から、時間が更に経過し、左側方カメラ23の撮像画像の透過度を少しずつ上げ、また、後方カメラ22の撮像画像の撮像画像の透過度を少しずつ下げていく。そして、左側方カメラ23の撮像画像の透過度が100になり、後方カメラ22の撮像画像の透過度が0になると、図4に示すような後方カメラ22の撮像画像が完全に表示された合成画像が生成される。このようにして、図7に示すような中間状態を経て、合成境界61の位置が第1の境界位置61aから第2の境界位置61bに変化する。そして、時間が更に経過すると、合成処理部35は、同様にして合成境界61の位置を第2の境界位置61bから第1の境界位置61aに変化させる。合成処理部35は、時間経過に伴いこのような変化を繰り返す。また本実施形態では、合成処理部35は、透過度を一定速度(一定の割合)で変化させる。合成処理部35は、上記のように合成
画像を生成する。
[2−3.効果]
以上詳述した第2実施形態によれば、前述した第1実施形態の効果(1a)〜(1b)に加え、以下の効果が得られる。
本実施形態では、合成処理部35は、重複部分において複数の撮像画像のうちの両方の撮像画像の重複部分51における透過度を変化させることで、合成境界の位置を変化させる。したがって、表示画面上で物体の一部損失が発生することを抑制できる。
すなわち、第1実施形態の撮像画像の表示面積の割合を変更する構成では、合成境界が中間位置に位置している場合などにおいて、合成境界の近傍に存在する物体の一部が表示画面から損失する場合がある。一方、本実施形態の構成によれば、透過度が変化している過渡期においては、重複部分において合成境界の位置が曖昧になり、重複する複数の撮像画像が互いにシームレスにつながる。よって、複数の撮像画像のいずれの撮像画像も表示画面に表示される。このため、前述した合成境界近傍の物体の一部損失が発生することを抑制できる。
[3.第3実施形態]
[3−1.第1実施形態との相違点]
第3実施形態は、基本的な構成は第1実施形態と同様であるため、共通する構成については説明を省略し、相違点を中心に説明する。なお、第1実施形態と同じ符号は、同一の構成を示すものであって、先行する説明を参照する。
前述した第1実施形態では、合成境界の位置は、車両周辺の物体の存在の有無にかかわらず時間の経過に伴い変化される。これに対し、第3実施形態では、センサにより車両周辺の物体が検知された場合に、当該物体に重ならないように合成境界の位置を変化させる機能を更に備える点で、第1実施形態と相違する。
第3実施形態の表示処理システム1は、前述した第1実施形態の表示処理システム1とハードウェア構成は同一である。しかし、第3実施形態の合成処理部35が実行する画像合成処理が第1実施形態と一部相違する。
[3−2.処理]
次に、第3実施形態の合成処理部35が、第1実施形態の図5の画像合成処理に代えて実行する画像合成処理について、図8のフローチャートを用いて説明する。
図8のS201は、図5のS101と同様の処理であるため、説明を省略する。
S202では、合成処理部35は、車両情報取得装置25から車両情報を取得する。
S203では、合成処理部35は、S202で取得された車両情報に基づいて、車両周辺に物体が存在するか否かを判定する。具体的には、合成処理部35は、複数のカメラ21〜24の重複部分に物体が存在するか否かを判定する。
合成処理部35は、車両周辺に物体が存在しないと判定した場合に、S204に移行する。S204で、合成処理部35は、前述した図5のS102と同様に、時間経過によって合成境界の位置を変化させつつ合成画像を生成する。合成処理部35は、S204を実行すると、後述するS206に移行する。
一方、合成処理部35は、前述したS203で車両周辺に物体が存在すると判定した場合に、S205に移行する。
S205で、合成処理部35は、検知された物体が表示装置4の表示画面に表示されるように合成境界の位置を変化させつつ合成画像を生成する。
具体的には、合成処理部35は、重複部分において物体が検知された場合に、合成境界が物体と重ならないように合成境界の位置を変化させる。本実施形態では、合成処理部35は、重複部分において物体が検知されると、その時点での合成境界の位置を基準として、検知された物体と反対側に位置する第1の境界位置又は第2の境界位置の位置に合成境界を移動させ、合成境界が物体と重ならないようにする。そして、合成処理部35は、S203で物体が存在すると判定されている間は、合成境界の位置を変化させず、上記境界位置に合成境界の位置を固定する。そして、物体が通り過ぎるなどして、重複部分から物体が消えたときに、S203で車両周辺に物体が存在しないと判定され、S204で合成境界の位置が再び変化される。
合成処理部35は、S205を実行すると、S206に移行する。
S206は、図5のS103と同様の処理であるため、説明を省略する。
図9には、時刻T1に物体が重複部分において検知され、時刻T2に物体が重複部分から消えた場合の合成境界の位置の変化の一例が示されている。この例では、時刻T1よりも前の時刻に第1の境界位置にあった合成境界が、第2の境界位置に到達する前に、物体が検知された場合が示されている。なお、物体が検知された時点の合成境界の位置を基準として、物体と反対側に位置する境界位置は、第1の境界位置である。合成処理部35は、時刻T1に物体が検知されると、S203で車両周辺に物体が存在すると判定し、時刻T1と略同時刻に実行されるS205において合成境界を第1の境界位置に移動させる。そして、S203で車両周辺に物体が存在すると判定され続けている間は、S205において合成境界の位置を変化させず第1の境界位置に位置を固定する。そして、時刻T2に物体が重複部分から消え、S203で物体が存在しないと判定されると、合成処理部35はS204に移行し、合成境界の位置を再び第1の境界位置から第2の境界位置に変化させる。
[3−3.効果]
以上詳述した第3実施形態によれば、前述した第1実施形態の効果(1a)〜(1c)に加え、以下の効果が得られる。
本実施形態では、車両には車両周辺の物体を検知するセンサが搭載され、当該センサの検知結果を示す車両情報に基づき、車両周辺の重複部分において物体が存在するか否かが判定される。そして、物体が存在すると判定された場合に、当該物体と重ならないように合成境界の位置が変化される。したがって、物体が重複部分に存在する場合において、検知された物体を少なくとも表示装置4の表示画面に表示するようにできる。
なお、本実施形態では、S201が取得部としての処理に相当し、S204が合成部としての処理に相当し、S206が表示処理部としての処理に相当する。
[4.他の実施形態]
以上、本開示を実施するための形態について説明したが、本開示は上述の実施形態に限定されることなく、種々変形して実施することができる。
(1)上記各実施形態では、合成境界の位置は一定速度で変化されるが、合成境界の変化速度はこれに限られるものではない。例えば、速度を変えながら合成境界の位置が変化されてもよい。
(2)上記各実施形態では、合成境界の位置は、中間状態を経るようにして第1の境界位置と第2の境界位置との間で変化するが、合成境界の位置の変化はこれに限られるもの
ではない。例えば、合成境界の位置は、中間状態を経ることなく瞬間的に第1の境界位置と第2の境界位置との間で変化してもよい。具体的には例えば、合成境界は、第1の境界位置及び第2の境界位置の2つの境界位置にのみ位置するようにしてもよい。
例えばそのような境界位置の変化の一例は図10に示される。図10の例では、時刻T3まで第1の境界位置に位置していた合成境界が、時刻T3になった瞬間に第2の境界位置に遷移する。そして、合成境界は時刻T4まで第2の境界位置に位置し、時刻T4になった瞬間に再び第1の境界位置に遷移する。そして、以降同様に遷移を繰り返す。
このような構成によれば、ドライバが車両周辺に物体が存在しないことを確認しやすくできる。すなわち、合成境界の位置が中間状態を経ることなく瞬間的に切り替わる構成では、合成境界の位置が中間状態を経るようにして変化する構成と比較して、重複部分において現在いずれのカメラの撮像画像が表示されているかドライバが把握しやすい。そして、ドライバは、表示画面上で、いずれのカメラの撮像画像にも物体が映っていないことを確認することで、車両周辺に物体が存在しないことを確認できる。よって、上記構成によれば、合成境界の位置が中間位置を経るように変化する構成と比較して、車両周辺に物体が存在しないことをドライバが確認しやすくできる。
(3)上記第2実施形態では、合成処理部35は、複数の撮像画像の透過度を0から100までの間で変化させる。しかし、透過度の変化のさせ方はこれに限られるものではない。例えば、複数の撮像画像のうちの少なくとも1つの撮像画像の透過度を、0よりも大きく100よりも小さい2つの値である第1の値と第2の値との間で変化させてもよい。例えば合成処理部35は、第1の値を20、第2の値を80として、透過度を20と80との間で変化させてもよい。
このような構成によれば、ある時点において表示画面上で物体の一部が消えていたとしても、時間の経過に伴い複数の撮像画像の重複部における透過度が変化するため、消失した物体の一部が映った撮像画像が表示される。よって、ドライバが車両周辺に物体が存在しないと誤認識することを抑制できる。
(4)上記第2実施形態において、重複する複数の撮像画像のうちの一方のみの透過度を変化させてもよい。
(5)上記各実施形態では、重複部分と、合成境界の変化し得る境界変化範囲と、は互いに一致しているが、境界変化範囲はこれに限られるものではない。例えば、境界変化範囲は、重複部分よりも狭い領域であってもよい。
(6)上記各実施形態において、複数の撮像画像の表示面積の割合を変えるモードと、複数の撮像画像の透過度を変化させるモードと、がユーザの操作によって切替え可能であってもよい。同様に、合成境界の位置が中間状態を経て遷移するモードと、合成境界の位置が中間状態を経ないで遷移するモードと、がユーザの操作によって切替え可能であってもよい。
(7)上記各実施形態では、カメラ21〜24の鳥瞰画像が表示装置4に表示されるトップビュー表示における本開示の適用例を示したが、本開示の適用例はこれに限られるものではない。例えば、液晶ディスプレイを備えたバックミラーに後方カメラ22、左側方カメラ23及び右側方カメラ24の撮像画像の合成画像が表示される電子インナーミラーにおいて本開示が適用されてもよい。
(8)上記各実施形態において、4台以外の複数台のカメラが車両に設けられてもよい。
(9)上記各実施形態で、合成処理部35が実行する機能の一部又は全部を、1つあるいは複数のIC等によりハードウェア的に構成してもよい。
(10)前述した合成処理部35の他、当該合成処理部35を構成要素とするシステム、当該合成処理部35としてコンピュータを機能させるためのプログラム、このプログラムを記憶した半導体メモリ等の非遷移的実体的記憶媒体、時間経過に伴い合成境界の位置を変化させる方法など、種々の形態で本開示を実現することもできる。
(11)上記各実施形態における1つの構成要素が有する複数の機能を、複数の構成要素によって実現したり、1つの構成要素が有する1つの機能を、複数の構成要素によって実現したりしてもよい。また、複数の構成要素が有する複数の機能を、1つの構成要素によって実現したり、複数の構成要素によって実現される1つの機能を、1つの構成要素によって実現したりしてもよい。また、上記各実施形態の構成の一部を省略してもよい。また、上記各実施形態の構成の少なくとも一部を、他の上記各実施形態の構成に対して付加又は置換してもよい。なお、特許請求の範囲に記載した文言によって特定される技術思想に含まれるあらゆる態様が本開示の実施形態である。
1…表示処理システム、3…ECU、4…表示装置、21〜24…カメラ、
25…車両情報取得装置、31〜34…取得処理部、35…合成処理部。

Claims (6)

  1. 車両における複数の異なる位置に設けられた複数台のカメラ(21〜24)によって得られる複数の撮像画像であって撮像範囲(22a,23a)の一部が互いに重複する重複部分(51)を有する前記複数の撮像画像を取得するように構成された取得部(S101,S201)と、
    前記取得部により取得された前記複数の撮像画像を、当該複数の撮像画像の前記重複部分において合成するように構成された合成部(S102,S204)と、
    前記合成部により合成された画像を、前記車両に設けられた表示装置(4)に表示するように構成された表示処理部(S103,S206)と、
    を備え、
    前記合成部は、前記複数の撮像画像が合成されるときの境界である合成境界(61)の位置を時間の経過に伴い変化させる、表示処理装置(35)。
  2. 請求項1に記載の表示処理装置であって、
    前記合成部は、前記合成境界が第1の境界位置(61a)に位置している状態と前記合成境界が第2の境界位置(61b)に位置している状態との間の状態である中間状態を経るようにして、前記合成境界の位置を前記第1の境界位置と前記第2の境界位置との間で変化させる、表示処理装置。
  3. 請求項1又は請求項2に記載の表示処理装置であって、
    前記合成部は、前記合成境界が第1の境界位置(61a)に位置している状態と前記合成境界が第2の境界位置(61b)に位置している状態との間の状態である中間状態を経ることなく、前記合成境界の位置を前記第1の境界位置と前記第2の境界位置との間で変化させる、表示処理装置。
  4. 請求項1から請求項3までのいずれか1項に記載の表示処理装置であって、
    前記合成部は、前記重複部分における前記複数の撮像画像のそれぞれの表示面積の割合を変化させることで、前記合成境界の位置を変化させる、表示処理装置。
  5. 請求項1から請求項4までのいずれか1項に記載の表示処理装置であって、
    前記合成部は、互いに合成される前記複数の撮像画像のうちの少なくとも1つの撮像画像の前記重複部分における透過度を変化させることで、前記合成境界の位置を変化させる、表示処理装置。
  6. 車両における複数の異なる位置に設けられた複数台のカメラ(21〜24)によって得られる複数の撮像画像であって撮像範囲(22a,23a)の一部が互いに重複する重複部分(51)を有する前記複数の撮像画像を取得するように構成された取得部(S101,S202)と、
    前記取得部により取得された前記複数の撮像画像を、当該複数の撮像画像の前記重複部分において合成するように構成された合成部(S102,S204)と、
    前記合成部により合成された画像を、前記車両に設けられた表示装置に表示するように構成された表示処理部(S103,S206)と、
    を備え、
    前記合成部は、互いに合成される前記複数の撮像画像のうちの少なくとも1つの撮像画像の前記重複部分における透過度が時間の経過に伴い変化するように、前記複数の撮像画像を合成する、表示処理装置(35)。
JP2017251971A 2017-12-27 2017-12-27 表示処理装置 Pending JP2019118051A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017251971A JP2019118051A (ja) 2017-12-27 2017-12-27 表示処理装置
PCT/JP2018/047848 WO2019131763A1 (ja) 2017-12-27 2018-12-26 表示処理装置及び表示制御装置
US16/912,465 US11465559B2 (en) 2017-12-27 2020-06-25 Display processing device and display control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017251971A JP2019118051A (ja) 2017-12-27 2017-12-27 表示処理装置

Publications (1)

Publication Number Publication Date
JP2019118051A true JP2019118051A (ja) 2019-07-18

Family

ID=67067416

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017251971A Pending JP2019118051A (ja) 2017-12-27 2017-12-27 表示処理装置

Country Status (3)

Country Link
US (1) US11465559B2 (ja)
JP (1) JP2019118051A (ja)
WO (1) WO2019131763A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210177957A1 (en) 2017-12-06 2021-06-17 Merck Sharp & Dohme Corp. Compositions comprising streptococcus pneumoniae polysaccharide-protein conjugates and methods of use thereof
BR112021011961A8 (pt) 2018-12-19 2023-02-07 Merck Sharp & Dohme Composições compreendendo conjugados de polissacarídeo-proteína de streptococcus pneumoniae e métodos de uso dos mesmos

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002166802A (ja) * 2000-11-30 2002-06-11 Toyota Motor Corp 車両周辺モニタ装置
WO2015004907A1 (ja) * 2013-07-11 2015-01-15 株式会社デンソー 車両用画像合成装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4662832B2 (ja) 2005-09-26 2011-03-30 アルパイン株式会社 車両用画像表示装置
JP4883977B2 (ja) 2005-10-05 2012-02-22 アルパイン株式会社 車両用画像表示装置
US20100020170A1 (en) * 2008-07-24 2010-01-28 Higgins-Luthman Michael J Vehicle Imaging System
US9762880B2 (en) * 2011-12-09 2017-09-12 Magna Electronics Inc. Vehicle vision system with customized display

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002166802A (ja) * 2000-11-30 2002-06-11 Toyota Motor Corp 車両周辺モニタ装置
WO2015004907A1 (ja) * 2013-07-11 2015-01-15 株式会社デンソー 車両用画像合成装置

Also Published As

Publication number Publication date
US11465559B2 (en) 2022-10-11
US20200324701A1 (en) 2020-10-15
WO2019131763A1 (ja) 2019-07-04

Similar Documents

Publication Publication Date Title
JP4879031B2 (ja) 運転支援システム、画像処理装置及びずれ検出方法
JP5500877B2 (ja) 車載用画像表示装置および画像のトリミング方法
JP6548900B2 (ja) 画像生成装置、画像生成方法及びプログラム
CN106660495B (zh) 车辆用显示装置以及车辆用显示方法
WO2017022497A1 (ja) 運転者に支援画像を提示する装置及びその方法
US10611308B2 (en) Image generation device and image generation method
JP2009060404A (ja) 映像処理装置
JPWO2011036892A1 (ja) 運転支援表示装置
WO2017022496A1 (ja) 運転者に支援画像を提示する装置及びその方法
JP6084097B2 (ja) 画像生成装置、画像表示システム及び画像生成方法
WO2017159863A1 (ja) 情報処理装置
JP2016063390A (ja) 画像処理装置、及び画像表示システム
WO2018030491A1 (ja) 周辺監査装置
WO2019131763A1 (ja) 表示処理装置及び表示制御装置
WO2013157184A1 (ja) 車両用後方視界支援装置及び車両用後方視界支援方法
JP5476216B2 (ja) 車両用周囲監視装置
JP5067136B2 (ja) 車両周辺画像処理装置及び車両周辺状況提示方法
JP7442029B2 (ja) 画像処理装置、画像処理プログラム
EP3793191A1 (en) Image processing device, moving machine, and method, and program
JP2010154572A (ja) 映像処理装置
JP6370833B2 (ja) 画像生成装置、画像表示システム及び画像生成方法
JP6662655B2 (ja) 車両用画像表示装置
JP2007235842A (ja) 車載画像表示システム
US20200231099A1 (en) Image processing apparatus
WO2020213111A1 (ja) 車両周辺画像生成装置、車両周辺表示システム、及び車両周辺表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200707

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210105