JP7400705B2 - 撮像システム及び撮像装置 - Google Patents

撮像システム及び撮像装置 Download PDF

Info

Publication number
JP7400705B2
JP7400705B2 JP2020198575A JP2020198575A JP7400705B2 JP 7400705 B2 JP7400705 B2 JP 7400705B2 JP 2020198575 A JP2020198575 A JP 2020198575A JP 2020198575 A JP2020198575 A JP 2020198575A JP 7400705 B2 JP7400705 B2 JP 7400705B2
Authority
JP
Japan
Prior art keywords
vehicle
imaging
imaging device
range
degrees
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020198575A
Other languages
English (en)
Other versions
JP2022086516A (ja
Inventor
智陽 飯田
尚 堀内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2020198575A priority Critical patent/JP7400705B2/ja
Priority to US17/526,216 priority patent/US11760275B2/en
Priority to DE102021131051.2A priority patent/DE102021131051B4/de
Priority to CN202111431808.1A priority patent/CN114572113B/zh
Publication of JP2022086516A publication Critical patent/JP2022086516A/ja
Application granted granted Critical
Publication of JP7400705B2 publication Critical patent/JP7400705B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B13/00Optical objectives specially designed for the purposes specified below
    • G02B13/06Panoramic objectives; So-called "sky lenses" including panoramic objectives having reflecting surfaces
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/02Mountings, adjusting means, or light-tight connections, for optical elements for lenses
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B30/00Camera modules comprising integrated lens units and imaging units, specially adapted for being embedded in other devices, e.g. mobile phones or vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、車両の斜め前方に存在する立体物を撮像可能な撮像システム及び撮像装置に関する。
従来から、車両の前方に存在する立体物を検出し、車両が当該立体物に衝突することを回避したり、衝突による衝撃を軽減したりする制御(衝突回避制御)を行う技術が知られている(例えば、特許文献1参照)。立体物の検出は、撮像装置を用いて車両の前方を撮像し、撮像して得られた画像データを解析することにより行われる。この撮像装置の光軸は車両の前後軸(車両の車幅を垂直に二等分し且つ接地面に平行な軸)と平行であり、この撮像装置の水平画角は例えば100度である。
特開2017-043262号公報
従来の技術によれば、撮像装置の水平画角が例えば100度であるから、その画角よりも外側の領域(車両の斜め前方乃至車両側方に近い方向までの領域)に位置する立体物に対して衝突回避制御が適切に行われ難い。
これに対し、例えば、従来よりも広い水平画角(例えば、180度)を有するように撮像装置が構成され得る。しかしながら、撮像装置の画素数(厳密には、撮像装置が備える画像センサの画素数)を維持したままで水平画角を広くすると、単位水平画角当たりの画素数が少なくなる。その結果、画像の分解能(画像データを解析することにより立体物を検出できる能力)が低下するから、立体物を検出できる距離の限界値(検出限界距離)が短くなってしまう。
そこで、水平画角を広くするとともに画像センサの画素数を増加させる撮像装置を採用することが考えられる。しかしながら、画像センサの画素数を大幅に増加させると、撮像装置のコストの大幅な上昇、撮像装置の大型化、電力消費量及び発熱量の増大を招くという問題が発生する。
本発明は、上述した問題に対処するためになされたものである。即ち、本発明の目的の一つは、画像センサの画素数を大幅に増加させることなく、車両の斜め前方に存在する立体物を適切に撮像可能な撮像システム及び撮像装置を提供することにある。
本発明による撮像システム(以下、「第1発明システム」とも称する。)は、
車両(V)の前後軸と平行な軸である基準軸(A)の方位を基準方位としたときに、水平画角が180度未満の所定の第1水平画角(100度)を有し、車両(V)の左右方向に対応する方位角(90度、-90度)よりも前記車両(V)の前方の領域に前記第1水平画角(100度)が含まれるように前記車両(V)に設置され、且つ、前記車両(V)の前方に位置している被写体のうち前記第1水平画角(100度)内に位置する被写体からの光を電気信号に光電変換することにより前記車両(V)の運転支援制御に使用される前方狭域画像データを取得する前方カメラセンサ(30)と、
水平画角が180度以上の所定の第2水平画角(180度)を有し、前記車両(V)に設置され、且つ、前記車両(V)の周囲に位置している被写体のうち前記第2水平画角(180度)内に位置する被写体からの光を電気信号に光電変換することにより前記車両(V)の俯瞰画像を生成するために使用される周辺広域画像データを取得する画像生成用カメラセンサ(20F、120L、120R)と、
を備える、車両の撮像システムにおいて、
前記画像生成用カメラセンサ(20F、120L、120R)は、
それぞれが前記光電変換を行う複数の画素が二次元状に配列された撮像面(22a、122aL、122aR)を含む画像センサ(22、122L、122R)と、レンズ(21a、121aL、121aR)を含み、被写体からの光を前記撮像面に結像させる光学系(21、121L、121R)と、を備え、
前記画像センサ(22、122L、122R)は、
前記第1水平画角(100度)を規定する境界線の方位角である境界方位角(50度、-50度)に基づいて決定される所定の方位角(52度、-52度)から前記車両(V)の斜め前方方向に対応する方位角(80度、-80度)までの範囲である斜め側方方位角範囲(第1範囲、第3範囲、第5範囲)内に位置する被写体からの光が前記撮像面に結像する特定領域(S1、S3、S5)と、前記第2水平画角(180度)から前記斜め側方方位角範囲を除いた残余方位角範囲(第2範囲、第4範囲、第6範囲)内に位置する被写体からの光が前記撮像面に結像する残余領域(S2、S4、S6)と、を有し、
前記レンズ(21a、121aL、121aR)は、
前記特定領域(S1、S3、S5)における単位水平画角当たりの画素数である水平画素密度が、前記残余領域(S2、S4、S6)における水平画素密度よりも大きくなるように構成された曲面を有するレンズであり、
前記画像生成用カメラセンサ(20F、120L、120R)により取得される前記周辺広域画像データが前記車両の運転支援制御に使用可能に構成された、
撮像システム。
第1発明システムによれば、特定領域における分解能が残余領域における分解能よりも高くなるので、斜め側方方位角範囲における立体物の検出限界距離が、残余方位角範囲における立体物の検出限界距離よりも長くなる。ここで、斜め側方方位角範囲は、車両の斜め前方に対応する範囲である。このため、第1発明システムは、車両の斜め前方に存在する立体物を比較的に遠方まで撮像することができる。
加えて、特定領域における水平画素密度は残余領域における水平画素密度よりも小さいので、残余領域における水平画素密度を特定領域における水平画素密度と同等にする構成と比較して、画像センサの画素数の大幅な増加を抑制できる。
従って、第1発明システムの構成によれば、画像センサの画素数を大幅に増加させることなく、車両の斜め前方に存在する立体物を適切に撮像できる。
特に、第1発明システムによれば、画像生成用カメラセンサに上記曲面を有するレンズを適用することにより、車両の斜め前方に存在する立体物を比較的に遠方まで撮像することを可能にしている。ここで、画像生成用カメラセンサは、従来から車両に設けられるカメラセンサである。このため、斜め前方を撮像するためのカメラセンサを新たに導入する必要がなくなり、比較的に低コストで第1発明システムを実現できる。
加えて、第1発明システムによれば、周辺広域画像データは、運転支援制御に使用可能に構成されている。このため、従来では運転支援制御(例えば、衝突回避制御)が適切に行われ難かった領域(典型的には、車両の斜め前方の領域)に位置する立体物に対しても適切に運転支援制御が実行され得る。
本発明による撮像装置(以下、「第2発明装置」とも称する。)は、
車両(V)の前方部分(P1)に設置可能であり、
複数の画素が二次元状に配列された撮像面(22a)を含み、前記複数の画素のそれぞれが、受けた光を電気信号に光電変換して出力するように構成された画像センサ(22)と、
レンズ(21a)を含み、被写体からの光を前記撮像面(22a)に結像させる光学系(21)と、
を備え、
水平画角が180度以上となるように前記撮像面(22a)の寸法及び前記レンズ(21a)の焦点距離が設定されている。
前記車両(V)への設置位置(P1)を通り前記車両(V)の前後軸と平行な軸である基準軸(A)の方位を基準方位としたときに、前記水平画角のうち、前記基準軸(A)より左側の方位角(θf)を正の値と規定し、前記基準軸(A)より右側の方位角(θf)を負の値と規定すると、
前記基準軸(A)は、垂直画角に含まれており、
前記撮像面(22a)は、45度より大きく90度より小さい方位角範囲に含まれる左側第1範囲(52度≦θf≦80度)、及び、-90度より大きく-45度より小さい方位角範囲に含まれる右側第1範囲(-80度≦θf≦-52度)に対応する領域である第1領域(S1)と、前記水平画角のうち前記左側第1範囲及び前記右側第1範囲を除く方位角範囲である第2範囲(0度≦θf<52度、80度<θf≦90度、-90度≦θf<-80度、及び、-52度<θf≦0度)に対応する領域である第2領域(S2)と、を含み、
前記レンズ(21a)は、前記第1領域(S1)における単位水平画角当たりの画素数である水平画素密度が、前記第2領域(S2)における水平画素密度よりも大きくなるように構成された曲面を有する。
第2発明装置によれば、第1領域における分解能が第2領域における分解能よりも高くなるので、左側第1範囲及び右側第1範囲における立体物の検出限界距離が、第2範囲における立体物の検出限界距離よりも長くなる。ここで、左側第1範囲は、45度より大きく90度より小さい方位角範囲に含まれる範囲であり、右側第1範囲は、-90度より大きく-45度より小さい方位角範囲に含まれる範囲である。即ち、左側第1範囲は、車両の左斜め前方に対応する範囲であり、右側第1範囲は、車両の右斜め前方に対応する範囲である。このため、第2発明装置は、「車両の斜め前方に存在する立体物」を「車両の前方及び前方部分側方に存在する立体物」よりも相対的に遠方まで撮像することができる。
加えて、第2領域における水平画素密度は第1領域における水平画素密度よりも小さいので、第2領域における水平画素密度を第1領域における水平画素密度と同等にする構成と比較して、画像センサの画素数の大幅な増加を抑制できる。
従って、第2発明装置の構成によれば、画像センサの画素数を大幅に増加させることなく、車両の斜め前方に存在する立体物を適切に撮像できる。
なお、立体物の検出は、撮像装置によって行われてもよいし、撮像装置に接続され得る画像処理装置によって行われてもよい。
本発明の一側面の運転支援装置は、第2発明装置(20F)を備え、更に、
前記車両(V)の左側方部分(P2)に設置可能な左側撮像装置(20L)と、
前記車両(V)の右側方部分(P3)に設置可能な右側撮像装置(20R)と、
前記車両(V)の後方部分(P4)に設置可能な後方撮像装置(20Re)と、
画像処理装置(10)と、
を備える。
前記左側撮像装置(20L)、前記右側撮像装置(20R)及び前記後方撮像装置(20Re)の水平画角は何れも180度以上である。
前記画像処理装置(10)は、
前記撮像装置(20F)により前記車両の前方、斜め前方及び前方部分側方を撮像して得られた画像データと、前記左側撮像装置(20L)により前記車両の左側方を撮像して得られた画像データと、前記右側撮像装置(20R)により前記車両の右側方を撮像して得られた画像データと、前記後方撮像装置(20Re)により前記車両の後方、斜め後方及び後方部分側方を撮像して得られた画像データと、を取得し、
取得したこれらの画像データに基づいて俯瞰画像を生成するように構成されている。
この構成によれば、第2発明装置は、俯瞰画像の生成に用いられる撮像装置としても機能する。このため、従来から車両の前方部分に設置されていた俯瞰画像生成用の撮像装置の仕様を一部変更する(例えば、レンズを第2発明装置のレンズに変更する)だけで済み、新たに撮像装置を導入する必要がなくなる。従って、比較的に低コストで第2発明装置を実現することができる。
本発明の一側面では、
前記撮像装置(20F)の前記撮像面(22a)の前記第2領域(S2)における前記水平画素密度は、前記後方撮像装置(20Re)が備える撮像面の水平画素密度以上である。
この構成によれば、俯瞰画像を任意のディスプレイに表示する際に、第2発明装置のレンズが上記曲面を有することに起因して俯瞰画像の画質が劣化することが防止される。
本発明による撮像装置(以下、「第3発明装置」とも称する。)は、
車両(V)の左側方部分(P2)に設置可能であり、
複数の画素が二次元状に配列された撮像面(122aL)を含み、前記複数の画素のそれぞれが、受けた光を電気信号に光電変換して出力するように構成された画像センサ(122L)と、
レンズ(121aL)を含み、被写体からの光を前記撮像面(122aL)に結像させる光学系(121L)と、
を備え、
水平画角が180度以上となるように前記撮像面(122aL)の寸法及び前記レンズ(121aL)の焦点距離が設定されている。
前記車両(V)への設置位置(P2)を通り前記車両(V)の前後軸と平行な軸である基準軸(A1)の方位を基準方位としたときに、前記水平画角のうち、前記基準軸(A1)より左側の方位角(θl)を正の値と規定し、前記基準軸(A1)より右側の方位角(θl)を負の値と規定すると、
前記基準軸(A1)は、垂直画角に含まれており、
前記撮像面(122aL)は、45度より大きく90度より小さい方位角範囲に含まれる第3範囲(52度≦θl≦80度)に対応する領域である第3領域(S3)と、前記水平画角のうち前記第3範囲を除く方位角範囲である第4範囲(0度≦θf<52度、80度<θf≦90度)に対応する領域である第4領域(S4)と、を含み、
前記レンズ(121aL)は、前記第3領域(S3)における単位水平画角当たりの画素数である水平画素密度が、前記第4領域(S4)における水平画素密度よりも大きくなるように構成された曲面を有する。
第3発明装置によれば、第3範囲における立体物の検出限界距離が、第4範囲における立体物の検出限界距離よりも長くなる。ここで、第3範囲は、45度より大きく90度より小さい方位角範囲に含まれる範囲であるので、車両の左斜め前方に対応する範囲である。このため、第2発明装置は、「車両の左斜め前方に存在する立体物」を「車両の前方に存在する立体物」よりも相対的に遠方まで撮像することができる。
加えて、第4領域における水平画素密度は第3領域における水平画素密度よりも小さいので、第4領域における水平画素密度を第3領域における水平画素密度と同等にする構成と比較して、画像センサの画素数の大幅な増加を抑制できる。
従って、第3発明装置の構成によれば、画像センサの画素数を大幅に増加させることなく、車両の左斜め前方に存在する立体物を適切に撮像できる。
本発明の一側面の運転支援装置は、第3発明装置(120L)を備え、更に、
前記車両(V)の前方部分(P1)に設置可能な前方撮像装置(120F)と、
前記車両(V)の右側方部分(P3)に設置可能な右側撮像装置(20R)と、
前記車両(V)の後方部分(P4)に設置可能な後方撮像装置(20Re)と、
画像処理装置(10)と、
を備える。
前記前方撮像装置(120F)、前記右側撮像装置(20R)及び前記後方撮像装置(20Re)の水平画角は何れも180度以上である。
前記画像処理装置(10)は、
前記前方撮像装置(120F)により前記車両の前方、斜め前方及び前方部分側方を撮像して得られた画像データと、前記撮像装置(120L)により前記車両の左側方を撮像して得られた画像データと、前記右側撮像装置(20R)により前記車両の右側方を撮像して得られた画像データと、前記後方撮像装置(20Re)により前記車両の後方、斜め後方及び後方部分側方を撮像して得られた画像データと、を取得し、
取得したこれらの画像データに基づいて俯瞰画像を生成するように構成されている。
この構成によれば、第3発明装置は、俯瞰画像の生成に用いられる撮像装置としても機能する。このため、従来から車両の左側方部分に設置されていた俯瞰画像生成用の撮像装置の仕様を一部変更する(例えば、レンズを第3発明装置のレンズに変更する)だけで済み、新たに撮像装置を導入する必要がなくなる。従って、比較的に低コストで第3発明装置を実現することができる。
本発明による撮像装置(以下、「第4発明装置」とも称する。)は、
車両(V)の右側方部分(P3)に設置可能であり、
複数の画素が二次元状に配列された撮像面(122aR)を含み、前記複数の画素のそれぞれが、受けた光を電気信号に光電変換して出力するように構成された画像センサ(122R)と、
レンズ(121aR)を含み、被写体からの光を前記撮像面(122aR)に結像させる光学系(121R)と、
を備え、
水平画角が180度以上となるように前記撮像面(122aR)の寸法及び前記レンズ(121aR)の焦点距離が設定されている。
前記車両(V)への設置位置(P3)を通り前記車両(V)の前後軸と平行な軸である基準軸(A2)の方位を基準方位としたときに、前記水平画角のうち、前記基準軸(A2)より右側の方位角(θr)を正の値と規定し、前記基準軸(A2)より左側の方位角(θr)を負の値と規定すると、
前記基準軸(A2)は、垂直画角に含まれており、
前記撮像面(122aR)は、45度より大きく90度より小さい方位角範囲に含まれる第5範囲(52度≦θl≦80度)に対応する領域である第5領域(S5)と、前記水平画角のうち前記第5範囲を除く方位角範囲である第6範囲(0度≦θf<52度、80度<θf≦90度)に対応する領域である第6領域(S6)と、を含み、
前記レンズ(121aR)は、前記第5領域(S5)における単位水平画角当たりの画素数である水平画素密度が、前記第6領域(S6)における水平画素密度よりも大きくなるように構成された曲面を有する。
第4発明装置によれば、第5範囲における立体物の検出限界距離が、第6範囲における立体物の検出限界距離よりも長くなる。ここで、第5範囲は、45度より大きく90度より小さい方位角範囲に含まれる範囲であるので、車両の右斜め前方に対応する範囲である。このため、第3発明装置は、「車両の右斜め前方に存在する立体物」を「車両の前方に存在する立体物」よりも相対的に遠方まで撮像することができる。
加えて、第6領域における水平画素密度は第5領域における水平画素密度よりも小さいので、第6領域における水平画素密度を第5領域における水平画素密度と同等にする構成と比較して、画像センサの画素数の大幅な増加を抑制できる。
従って、第4発明装置の構成によれば、画像センサの画素数を大幅に増加させることなく、車両の右斜め前方に存在する立体物を適切に撮像できる。
本発明の一側面の運転支援装置は、第4発明装置(120R)を備え、更に、
前記車両(V)の前方部分(P1)に設置可能な前方撮像装置(120F)と、
前記車両(V)の左側方部分(P2)に設置可能な左側撮像装置(20L)と、
前記車両(V)の後方部分(P4)に設置可能な後方撮像装置(Re)と、
画像処理装置(10)と、
を備える。
前記前方撮像装置(120F)、前記左側撮像装置(20L)及び前記後方撮像装置(Re)の水平画角は何れも180度以上である。
前記画像処理装置(10)は、
前記前方撮像装置(120F)により前記車両の前方、斜め前方及び前方部分側方を撮像して得られた画像データと、前記左側撮像装置(20L)により前記車両の左側方を撮像して得られた画像データと、前記撮像装置(120R)により前記車両の右側方を撮像して得られた画像データと、前記後方撮像装置(20Re)により前記車両の後方、斜め後方及び後方部分側方を撮像して得られた画像データと、を取得し、
取得したこれらの画像データに基づいて俯瞰画像を生成するように構成されている。
この構成によれば、第4発明装置は、俯瞰画像の生成に用いられる撮像装置としても機能する。このため、従来から車両の右側方部分に設置されていた俯瞰画像生成用の撮像装置の仕様を一部変更する(例えば、レンズを第4発明装置のレンズに変更する)だけで済み、新たに撮像装置を導入する必要がなくなる。従って、比較的に低コストで第4発明装置を実現することができる。
本発明の一側面では、
前記撮像装置(120L、120R)の前記撮像面(122aL、122aR)の前記第4領域(S4)又は前記第6領域(S6)における前記水平画素密度は、前記後方撮像装置(20Re)が備える撮像面の水平画素密度以上である。
この構成によれば、俯瞰画像を任意のディスプレイに表示する際に、第3発明装置又は第4発明装置のレンズが上記曲面を有することに起因して俯瞰画像の画質が劣化することが防止される。
上記説明においては、発明の理解を助けるために、実施形態に対応する発明の構成要件に対して、実施形態で用いた符号を括弧書きで添えているが、発明の各構成要件は、前記符号によって規定される実施形態に限定されるものではない。
本発明の第1実施形態に係る前方PVMカメラセンサを備える運転支援装置の概略構成図である。 前方PVMカメラセンサの概略構成図である。 前方PVMカメラセンサの撮像範囲の平面図である。 撮像面において左側第1光及び右側第1光が第2光よりも水平方向に拡大して結像されることを示した図である。 前方PVMカメラセンサの方位角と水平画素密度との関係を規定したグラフである。 前方カメラセンサの撮像範囲の平面図である。 自車両が交差点に進入した場合に3秒後に衝突することになる様々な種類の立体物の自車両に対する相対分布を示した平面図である。 図7に前方PVMカメラセンサの撮像範囲及び比較例としての2つのカメラセンサの撮像範囲を重畳した平面図である。 本発明の第2実施形態に係る左側PVMカメラセンサ及び右側PVMカメラセンサを備える運転支援装置の概略構成図である。 左側及び右側PVMカメラセンサの概略構成図である。 左側及び右側PVMカメラセンサの撮像範囲の平面図である。 撮像面において第3光が第4光よりも水平方向に拡大して結像されることを示した図である。 撮像面において第5光が第6光よりも水平方向に拡大して結像されることを示した図である。 左側及び右側PVMカメラセンサの方位角と水平画素密度との関係を規定したグラフである。 図7に左側及び右側PVMカメラセンサの撮像範囲及び比較例としての2つのカメラセンサの撮像範囲を重畳した平面図である。
(第1実施形態)
以下、本発明の第1実施形態に係る撮像装置としての前方PVM(PVM: Panoramic View Monitor)カメラセンサを備える運転支援装置について図面を参照しながら説明する。運転支援装置は、車両に適用される。以下、当該車両を他の車両と区別するために「自車両」と称する場合がある。
図1に示すように、運転支援装置は運転支援ECU10(以下、単に「ECU10」と称する)を備える。ECUは、「Electronic Control Unit」の略であり、マイクロコンピュータを主要部として備える。マイクロコンピュータは、CPU、ROM、RAM及びインターフェース(I/F)等を含む。CPUはROMに格納されたインストラクション(プログラム、ルーチン)を実行することによって、各種機能を実現する。運転支援装置は、更に、それぞれがECU10に接続された「PVMカメラセンサ20、前方カメラセンサ30、車速センサ40、ヨーレートセンサ41、シフトポジションセンサ42、PVMスイッチ43、衝突回避装置50及び表示装置60」を備える。
ECU10は、自車両の複数箇所に設置されたPVMカメラセンサ20から出力される画像データに基づいて俯瞰画像及び進行方向画像(何れも後述)を生成し、自車両の運転者の操作に応じて表示装置60が備えるディスプレイ60aにこれらの画像を表示する。加えて、ECU10は、「前方カメラセンサ30、及び、PVMカメラセンサ20が備える前方PVMカメラセンサ20F」から出力される画像データに基づいて、自車両の前方、自車両の斜め前方及び自車両の前端中央部の側方に存在する立体物を広い範囲で検出する。ECU10は、センサ40及び41から取得した信号に基づいて自車両が立体物と衝突する可能性があるか否かを判定する。そして、衝突する可能性があると判定した場合、ECU10は、衝突回避装置50を制御して衝突回避制御を実行する。即ち、本実施形態の運転支援装置は、従来では俯瞰画像及び進行方向画像の生成にしか用いられていなかった前方PVMカメラセンサ20Fを衝突回避制御にも利用する。後に詳述するように、前方PVMカメラセンサ20Fの衝突回避制御への利用は、自由曲面を有するレンズ21aを前方PVMカメラセンサ20Fに適用することにより可能となっている。
PVMカメラセンサ20は、前方PVMカメラセンサ20F、左側PVMカメラセンサ20L、右側PVMカメラセンサ20R、及び、後方PVMカメラセンサ20Reを備える。以下では、これらのカメラセンサを、それぞれ単に「カメラセンサ20F」、「カメラセンサ20L」、「カメラセンサ20R」及び「カメラセンサ20Re」とも称する。
前方PVMカメラセンサ20Fは、自車両の前端中央部の位置P1に設置される(図3参照)。より詳細には、カメラセンサ20Fは、その光学系21(後述)の光軸が、位置P1において自車両の前後軸に対して約10度下方を向くように設置される。なお、カメラセンサ20Fの設置角度はこれに限られない。例えば、カメラセンサ20Fは、位置P1において光軸が前後軸に対して0度以上20度以下の任意の角度だけ下方を向くように設置され得る。
図2に示すように、カメラセンサ20Fは、光学系21と、画像センサ22と、信号処理回路23と、を備える。
光学系21は、魚眼レンズ21aを含み、被写体からの光を後述する撮像面22aに結像させる。魚眼レンズ21aは、等距離射影方式を採用するレンズであり、外表面が所定の曲面(非回転対称な自由曲面)を有する。魚眼レンズ21aの詳細な構成については後述する。
画像センサ22は、複数の画素が水平方向及び垂直方向に(即ち、二次元状に)等間隔で配列された撮像面22aを含む。撮像面22aの寸法は、水平方向の画素数が1920[pix]であり、垂直方向の画素数が1440[pix]となるように設定されている。よって、画像センサ22の画素数は約2.8M[pix]である。これらの画素のそれぞれは、光学系21を介して受けた光を電気信号に変換して出力するように構成されている。以下では、或る画像センサの画素数をA×B[pix]と記載する場合、Aは水平方向の画素数を示し、Bは垂直方向の画素数を示す。なお、画像センサ22の画素数はこれに限られず、例えば、約3M(1920×1536)[pix]であってもよい。垂直方向の画素数は1440[pix]以上であることが望ましい。
信号処理回路23は、画像センサ22aから出力された電気信号に対してガンマ補正及び歪曲補正等の処理を行うことにより被写体の画像データを生成し(即ち、被写体を撮像し)、当該画像データをインターフェースを介してECU10に出力する(図1参照)。信号処理回路23は、この処理を、例えば、イグニッションスイッチがオン位置に設定されている期間(以下、「作動期間」とも称する。)中、所定の演算周期が経過する毎に行う。
魚眼レンズ21aの焦点距離及び撮像面22aの寸法は、カメラセンサ20Fの水平画角が180度となり、垂直画角が135度となるように予め設計されている。これにより、カメラセンサ20Fは、自車両の前方、斜め前方及び前端中央部の側方(左右方向)の領域に位置する被写体を撮像できる。このように、カメラセンサ20Fの水平画角は極めて広い。このため、以下では、カメラセンサ20Fにより撮像して得られた画像データを「前方広域画像データ」と称する。なお、カメラセンサ20Fは、「画像生成用カメラセンサ」の一例に相当するとともに、車両の前方部分に設置可能な「撮像装置」の一例に相当する。カメラセンサ20Fの水平画角は「第2水平画角」の一例に相当し、前方広域画像データは「周辺広域画像データ」の一例に相当する。
図1に戻って説明を続ける。左側PVMカメラセンサ20Lは、自車両の左側サイドミラーの近傍の位置P2に設置される(図3参照)。より詳細には、カメラセンサ20Lは、その光学系の光軸が、位置P2において自車両の左右軸に対して約60度下方を向くように設置される。ここで、左右軸は、車幅方向に延びる軸である。即ち、左右軸は、前後軸と直交し且つ接地面に平行である。
右側PVMカメラセンサ20Rは、自車両の右側サイドミラーの近傍の位置P3に設置される(図3参照)。より詳細には、カメラセンサ20Rは、その光学系の光軸が、位置P3において自車両の左右軸に対して約60度下方を向くように設置される。
後方PVMカメラセンサ20Reは、自車両の後端中央部の位置P4に設置される(図3参照)。より詳細には、カメラセンサ20Reは、その光学系の光軸が、位置P4において自車両の前後軸に対して約10度下方を向くように設置される。なお、カメラセンサ20Reの設置角度はこれに限られない。例えば、カメラセンサ20Reは、位置P4において光軸が前後軸に対して0度以上20度以下の任意の角度だけ下方を向くように設置され得る。
カメラセンサ20Lは、光学系と、画像センサと、信号処理回路(何れも図示省略)と、を備える。この光学系は、等距離射影方式を採用する魚眼レンズ(図示省略)を含む。カメラセンサ20Lの光学系、画像センサ及び信号処理回路の機能は、カメラセンサ20Fの光学系21、画像センサ22及び信号処理回路23の機能と同様であるが、以下の2点で相違している。
・カメラセンサ20Lの魚眼レンズは、回転対称な曲面を有する。
・カメラセンサ20Lの画像センサの画素数は約1.2M(1280×960)[pix]であり、画像センサ22の画素数(約2.8M[pix])よりも少ない。
なお、以下では「画像センサの画素数」を単に「カメラセンサの画素数」とも称する。
カメラセンサ20Lの魚眼レンズの焦点距離及び撮像面の寸法は、カメラセンサ20Lの水平画角が180度となり、垂直画角が135度となるように予め設計されている。これにより、カメラセンサ20Lは、自車両の左側方領域に位置する被写体を撮像できる。以下では、カメラセンサ20Lにより撮像して得られた画像データを「左方広域画像データ」と称する。
カメラセンサ20R及び20Reは、カメラセンサ20Lと略同一の構成を有するので、その詳細な説明は省略する。カメラセンサ20R及び20Reは、何れも180度の水平画角及び135度の垂直画角を有する。これにより、カメラセンサ20Rは、自車両の右側方領域に位置する被写体を撮像できる。カメラセンサ20Reは、自車両の後方、自車両の斜め後方及び自車両の後端中央部の側方の被写体を撮像できる。以下では、カメラセンサ20R及び20Reにより撮像して得られた画像データをそれぞれ「右方広域画像データ」及び「後方広域画像データ」と称する。なお、カメラセンサ20L、カメラセンサ20R及びカメラセンサ20Reは、それぞれ「左側撮像装置」、「右側撮像装置」及び「後方撮像装置」の一例に相当する。
前方カメラセンサ30(以下、単に「カメラセンサ30」とも称する。)は、自車両のルームミラー(インナーミラー/リアビューミラー)の裏面の位置P5に、カメラセンサ30が自車両の車幅方向中央に位置するように設置される(図3参照)。より詳細には、カメラセンサ30は、その光学系(後述)の光軸が、位置P5において自車両の前後軸と略平行となるように設置される。カメラセンサ30は、光学系と、画像センサと、信号処理回路(何れも図示省略)と、を備える。この光学系は、回転対称な曲面を有する広角レンズ(図示省略)を含む。この画像センサの画素数は約1.2M(1280×960)[pix]であり、カメラセンサ20L、20R及び20Reの画像センサの画素数と同一である。カメラセンサ30の光学系、画像センサ及び信号処理回路の機能は、カメラセンサ20F、20L、20R及び20Reの光学系、画像センサ及び信号処理回路の機能と同様である。
カメラセンサ30の広角レンズの焦点距離及び撮像面の寸法は、カメラセンサ30の水平画角が100度となり、垂直画角が75度となるように予め設計されている。これにより、カメラセンサ30は、自車両の前方の被写体を撮像できる。カメラセンサ30の水平画角は、カメラセンサ20Fの水平画角よりも狭い。このため、以下では、カメラセンサ30により撮像して得られた画像データを「前方狭域画像データ」と称する。カメラセンサ20Fとカメラセンサ30とにより撮像システムが構成されている。なお、カメラセンサ30の水平画角は、「第1水平画角」の一例に相当する。
車速センサ40は、自車両の走行速度(車速)に応じた信号を発生する。ECU10は、車速センサ40が発生した信号を取得し、当該信号に基づいて車速を演算する。
ヨーレートセンサ41は、自車両に作用しているヨーレートに応じた信号を発生する。ECU10は、ヨーレートセンサ41が発生した信号を取得し、当該信号に基づいてヨーレートを演算する。
シフトポジションセンサ42は、図示しないシフトレバーのシフトポジション(D、N、R又はP)に応じた信号を発生する。ECU10は、シフトポジションセンサ42が発生した信号を取得し、当該信号に基づいてシフトポジションを検出する。
PVMスイッチ43は、図示しない操舵ハンドルの近傍に設けられ、表示装置60のディスプレイ60aにPVM画像(後述)を表示させる際に運転者により押下され得る。PVMスイッチ43は、運転者により押下されたときはオン信号を発生し、押下されていないときはオフ信号を発生する。ECU10は、PVMスイッチ43が発生した信号を取得し、当該信号に基づいて、PVMスイッチ43がオン又はオフの何れの状態であるかを検出する。
衝突回避装置50は、ECU10から衝突回避指令を受信すると、衝突回避制御を実行する。衝突回避制御は、自車両の前方、斜め前方及び前端中央部側方に自車両と衝突する可能性がある立体物が存在する場合、運転者に警報を発生する警報制御、自車両に自動的に制動力を付与する自動制動制御、及び/又は、自車両の操舵輪の転舵角を自動的に変更する自動操舵制御を実行する制御である。これらの制御は何れも周知であるため、詳細な説明は省略する。
表示装置60は、運転者が視認可能な位置に設けられたディスプレイ60aを備える。表示装置60は、ECU10からPVM画像(後述)の表示指令を受信すると、ディスプレイ60aにPVM画像を表示する。本実施形態では、ディスプレイ60aとして、ナビゲーションシステム(図示省略)が備えるタッチパネルが用いられる。ディスプレイ60aの解像度は、1280[pix]×960[pix]に設定されている。なお、ディスプレイ60aとして、ナビゲーションシステムのタッチパネル以外のディスプレイが用いられてもよい。
ECU10は、カメラセンサ20F、20L、20R及び20Re並びにカメラセンサ30から、それぞれ「前方広域画像データ」、「左方広域画像データ」、「右方広域画像データ」及び「後方広域画像データ」並びに「前方狭域画像データ」を取得し、取得した画像データに基づいて(即ち、画像データを画像処理して)、(1)PVM画像の生成及び表示指令送信処理、並びに、(2)立体物の検出、衝突判定及び衝突回避指令送信処理を行う。以下、具体的に説明する。
(1)PVM画像の生成及び表示指令送信処理
ECU10は、PVM画像を生成する。ここで、PVMとは、自車両が運転者による運転操作により比較的に低速で走行している場合に、表示画面(本実施形態では、ディスプレイ60a)に自車両の周辺領域を表示する機能である。PVM画像は、PVM用に生成される画像であり、俯瞰画像及び進行方向画像等を含む。進行方向画像は、前進方向画像及び後退方向画像を含む。
俯瞰画像は、前方広域画像データ、左方広域画像データ、右方広域画像データ、及び、後方広域画像データ、並びに、ECU10のROMに予め格納されている自車両の平面画像(自車両を平面視した画像)を合成することにより生成される。ここで、俯瞰画像とは、自車両及びその周辺領域をその真上から俯瞰したように見える画像を意味し、実際に俯瞰したときの画像を意味するものではない。なお、ECU10は、作動期間中、演算周期が経過する毎に俯瞰画像を生成する。
前進方向画像は、前方広域画像データに基づいて生成される。前進方向画像は、自車両の前方、斜め前方及び前端中央部の側方を撮像した画像である。ECU10は、自車両が前進中、又は、前進中に停止して停止状態を継続している期間中(即ち、シフトポジションがD又はNである期間中)、演算周期が経過する毎に前進方向画像を生成する。
後退方向画像は、後方広域画像データに基づいて生成される。後退方向画像は、自車両の後方、斜め後方及び後端中央部の側方を撮像した画像である。ECU10は、自車両が後退中、又は、後退中に停止して停止状態を継続している期間中(即ち、シフトポジションがRの場合)、演算周期が経過する毎に後退方向画像を生成する。
ECU10は、これらの画像のそれぞれを、以下に述べる所定の条件下でディスプレイ60aの所定の領域に表示する。具体的には、ECU10は、車速センサ40、シフトポジションセンサ42及びPVMスイッチ43から取得される情報に基づいて、車速が所定の車速閾値(例えば、12[km/h])以下であり且つシフトポジションがD又はNである場合にPVMスイッチ43が押下されたと判定した場合、表示装置60に、俯瞰画像及び前進方向画像を表示する表示指令を送信する。表示装置60は、当該表示指令を受信すると、ディスプレイ60aの所定の領域に俯瞰画像及び前進方向画像をそれぞれ表示する(図示省略)。ここで、「所定の領域」とは予め区画された固定のサイズを有する領域であり、本実施形態では、ディスプレイ60aを左右に2分割したときの左側の領域と右側の領域を表す。表示装置60は、左側の領域に俯瞰画像を表示し、右側の領域に前進方向画像を表示する。
一方、ECU10は、車速センサ40、シフトポジションセンサ42及びPVMスイッチ43から取得される情報に基づいて、車速が車速閾値以下であり且つシフトポジションがRである場合にPVMスイッチ43が押下されたと判定した場合、表示装置60に、俯瞰画像及び後退方向画像を表示する表示指令を送信する。表示装置60は、当該表示指令を受信すると、ディスプレイ60aの上記左側の領域に俯瞰画像を表示し、上記右側の領域に後退方向画像を表示する(図示省略)。
このとき、ディスプレイ60aには表示画像を切り替えるためのマークが表示される。乗員が当該マークをタッチすると、ECU10は、表示装置60に後退方向画像を表示する表示指令を送信する。表示装置60は、当該表示指令を受信すると、ディスプレイ60aの全域に後退方向画像を表示する(図示省略)。乗員が上記マークを再度タッチすると、ディスプレイ60aには俯瞰画像及び後退方向画像が再度表示される。なお、上述したように、カメラセンサ20Reの画素数はディスプレイ60aの解像度と同等であるので、ディスプレイ60aに後退方向画像しか表示されない場合であっても、当該画像は適切に表示され得る。
(2)立体物の検出、衝突判定及び衝突回避指令送信処理
ECU10は、前方広域画像データ及び前方狭域画像データを解析し、立体物の有無、及び、自車両と立体物との相対関係(自車両から立体物までの距離、自車両に対する立体物の方位、及び、自車両に対する立体物の相対速度等)を演算する。別言すれば、ECU10は、カメラセンサ20Fの撮像範囲及びカメラセンサ30の撮像範囲に存在する立体物をそれぞれ検出する。なお、立体物は、移動物(例えば、移動中の他車両及び歩行者)及び静止物(例えば、停止中の他車両、静止している歩行者及び建造物)を含む。以下では、まず、カメラセンサ20F及び30の撮像範囲についてそれぞれ説明し、その後、ECU10の(2)の処理について説明する。
図3の範囲RFwは、カメラセンサ20Fの撮像範囲(即ち、ECU10が前方広域画像データに基づいて立体物を検出可能な範囲)の平面図である。図3に示すように、基準方位は、位置P1を通り自車両Vの前後軸と平行な軸である基準軸Aの方位に設定されている。基準軸Aは、自車両Vの平面視において光学系21の光軸と一致している。以下では、水平画角のうち、基準軸Aより左側の方位角θfを正の値と規定し、基準軸Aより右側の方位角θfを負の値と規定する。加えて、垂直画角のうち、光軸より上方の角度を正の値と規定し、光軸より下方の角度を負の値と規定する。上述したように、カメラセンサ20Fの光軸は前後軸に対して約10度下方に傾斜しており、垂直画角は135度である。このため、基準軸Aは垂直画角に含まれている。
範囲RFwは、方位角範囲が52度≦θf≦80度である左側第1範囲、及び、方位角範囲が-80度≦θf≦-52度である右側第1範囲において、半径r1の扇形形状を呈する(以下では、左側第1範囲及び右側第1範囲を「第1範囲」と総称する場合がある。)。範囲RFwは、水平画角のうち第1範囲を除く第2範囲(即ち、0度≦θf<52度、80度<θf≦90度、-90度≦θf<-80度、及び、-52度<θf≦0度)において、半径r2の扇形形状を呈する。範囲RFの形状によれば、第1範囲における立体物の検出限界距離(r1)は、第2範囲における立体物の検出限界距離(r2)よりも長くなっている。これは、魚眼レンズ21aの構成に起因している。なお、第1範囲は「斜め側方方位角範囲」の一例に相当し、第2範囲は「残余方位角範囲」の一例に相当する。
図4を参照して具体的に説明する。図4に示すように、撮像面22aは、領域S1L、領域S1R、及び、領域S2を含む。領域S1Lは、「左側第1範囲に存在し且つ垂直画角のうち所定の角度範囲に存在する被写体」からの光である左側第1光が撮像面22aに結像する領域である(以下、上記所定の角度範囲を「第1特定垂直範囲」と称する。)。領域S1Rは、「右側第1範囲に存在し且つ第1特定垂直範囲に存在する被写体」からの光である右側第1光が撮像面22aに結像する領域である。領域S2は、「水平画角及び垂直画角のうち残りの角度範囲に存在する被写体」からの光である第2光が撮像面22aに結像する領域である。第1特定垂直範囲は、基準軸Aを含み、且つ、垂直画角の略中央を含む範囲として設定され得る。本実施形態では、第1特定垂直範囲は、-34度以上34度以下である。なお、光学系21は、被写体からの光を周辺領域Sp(撮像面22aのうち領域S2よりも外側の領域)にも結像するように構成されている。しかしながら、周辺領域Spはノイズの影響を受け易いので、周辺領域Spを構成する画素の電気信号は、画像データの生成には利用されない。
魚眼レンズ21aは、光学系21を介して被写体からの光を撮像面22aに結像させる際、左側第1光及び右側第1光を、第2光よりも水平方向に拡大して撮像面22aに結像させるように構成されている。左側第1光の拡大率は、第1特定垂直範囲に亘って一定であり、右側第1光の拡大率は、第1特定垂直範囲に亘って一定であり、両者の拡大率は互いに等しい。このため、領域S1L及び領域S1Rは、互いに合同な長方形形状を呈する。なお、左側第1光及び右側第1光は、垂直方向には拡大されない。以下では、領域S1L及び領域S1Rを「領域S1」と総称する場合がある。領域S1は「特定領域」又は「第1領域」の一例に相当し、領域S2は「残余領域」又は「第2領域」の一例に相当する。
別言すれば、魚眼レンズ21aは、領域S1における単位水平画角当たりの画素数である水平画素密度が、領域S2の任意の領域における水平画素密度よりも大きくなるように加工された自由曲面を有している。一般に、水平方向の分解能(ECU10が画像データを解析することにより立体物を検出できる能力)は、水平画素密度が大きくなるにつれて高くなる。このため、上記構成によれば、領域S1における水平方向の分解能が領域S2における水平方向の分解能よりも高くなり、結果として、第1範囲における立体物の検出限界距離(r1)が、第2範囲における立体物の検出限界距離(r2)よりも長くなる。なお、左側第1範囲の下限方位角(52度)及び右側第1範囲の上限方位角(-52度)は、前方カメラセンサ30の水平画角(100度)を規定する境界線の方位角(図6参照)である境界方位角(50度、-50度)に基づいて決定されている。
立体物の検出限界距離と水平画素密度との関係について図5を参照して具体的に説明する。図5は、カメラセンサ20F、並びに、比較例としてのカメラセンサC1(波線参照)及びC2(一点鎖線参照)の方位角と水平画素密度(厳密には、第1特定垂直範囲内の或る角度(例えば、10度)における水平画素密度)との関係を表したグラフである。
カメラセンサC1及びC2の光学系が有するレンズは、何れも魚眼レンズである。但し、これらの魚眼レンズは回転対称な曲面を有している点で、カメラセンサ20Fの魚眼レンズ21aと異なっている。
カメラセンサC1の画素数は約1.2M(1280×960)[pix]であり、その水平画角は180度である。即ち、カメラセンサC1は、カメラセンサ20L、20R及び20Reと略同一の構成を有する。
カメラセンサC2の画素数は約2.8M(1920×1440)[pix]であり、その水平画角は180度である。即ち、カメラセンサC2は、魚眼レンズが自由曲面を有していない点を除いて、カメラセンサ20Fと略同一の構成を有する。
上述したように、カメラセンサ20Fは、左側第1光及び右側第1光の水平方向の拡大率が第1特定垂直範囲に亘って一定となるように構成されている。これは、カメラセンサC1及びC2についても同様である。このため、カメラセンサ20F、C1及びC2の方位角と水平画素密度との関係は、第1特定垂直範囲に亘って不変である。
なお、カメラセンサ20F、C1及びC2のそれぞれが有する光学系は、90度<θf<約110度、及び、-約110度<θf<-90度の方位角範囲に存在する被写体からの光もそれぞれの撮像面に結像可能に構成されている。このため、図5のグラフでは、これらの方位角範囲における水平画素密度も図示している。但し、撮像面のうちこれらの方位角範囲に対応する画素の電気信号は、画像データの生成には利用されない。
上述したように、カメラセンサC1及びC2の魚眼レンズは回転対称な曲面を有する。このため、図5に示すように、水平画角内(-90度≦θf≦90度)においては、カメラセンサC1及びC2の水平画素密度の変動の度合いは比較的に小さい。これに対し、カメラセンサ20Fの魚眼レンズ21aは、上述したように加工された自由曲面を有する。このため、その水平画素密度は、45度≦θf≦90度、及び、-90度≦θf≦45度の方位角範囲において、カメラセンサC2(即ち、カメラセンサ20Fと同一の画素数を有するカメラセンサ)の水平画素密度より大きくなっている。特に、第1範囲では、カメラセンサ20Fの水平画素密度は、カメラセンサC2の水平画素密度の約1.4倍の大きさとなっている。一般に、所定の方位角範囲内では、立体物の検出限界距離と、第1特定垂直範囲内の任意の角度における水平画素密度と、は、略比例する。このため、第1範囲では、カメラセンサ20Fによる立体物の検出限界距離r1(図3参照)は、カメラセンサC2による立体物の検出限界距離(約30[m])の約1.4倍(約42[m])となる。
一方、第2範囲では、カメラセンサ20Fの水平画素密度は、カメラセンサC1の水平画素密度と同等又はそれ以上に維持されている。このため、魚眼レンズ21aが自由曲面を有することに起因してPVM画像の画質が劣化することが防止される。なお、第2範囲では、カメラセンサ20Fによる立体物の検出限界距離r2(図3参照)は、カメラセンサC1による立体物の検出限界距離(約20[m])と略等しい。
このように、カメラセンサ20Fが上記自由曲面を有する魚眼レンズ21aを備えることにより、PVM画像の画質を従来と同程度に維持しつつ(別言すれば、ディスプレイ60aの解像度に対してカメラセンサ20Fの画素数がオーバースペックになることなく)、水平画角のうち特定の範囲(本実施形態では、第1範囲)においては、カメラセンサ20Fと同一の画素数を有するカメラセンサC2と比較して、立体物の検出限界距離を大幅に延ばすことが可能となる。
図6の範囲RFnは、カメラセンサ30の撮像範囲(即ち、ECU10が前方狭域画像データに基づいて立体物を検出可能な範囲)の平面図である。図6に示すように、範囲RFnは、中心角が100度であり、半径rfが約35[m]の扇形形状を呈する。なお、この中心角の2等分線は基準軸A上に位置している。
なお、図3及び図6に示すように、範囲RFwと範囲RFnとは、部分的に重複している。ECU10は、重複部分においては、前方広域画像データに基づいて演算された情報と、前方狭域画像データに基づいて演算された情報と、を融合(フュージョン)して立体物を検出する。
続いて、ECU10は、検出された全ての立体物について、自車両が立体物に衝突する可能性があるか否かを判定する。具体的には、ECU10は、車速センサ40から取得した車速とヨーレートセンサ41から取得したヨーレートとに基づいて自車両の旋回半径を演算し、この旋回半径に基づいて自車両の軌道を演算する。加えて、ECU10は、各立体物の位置(方位及び距離)の推移に基づいて各立体物の軌道を演算する。ECU10は、自車両の軌道と各立体物の軌道とに基づいて、自車両が現在の走行状態を維持して走行するとともに各立体物が現在の移動状態を維持して移動した場合に自車両が何れかの立体物に衝突するか否かを判定する。なお、立体物が静止物である場合、ECU10は、自車両の軌道と立体物の現在の位置に基づいて自車両が立体物に衝突するか否かを判定する。
ECU10は、自車両が立体物に衝突すると判定した場合、自車両が立体物に衝突するまでの予測時間である衝突予測時間(TTC: Time To Collision)を演算する。TTCは、自車両から立体物までの距離を、自車両の立体物に対する相対速度で除算することにより演算され得る。ECU10は、TTCが所定のTTC閾値以下である場合、自車両が立体物に衝突する可能性があると判定する。この場合、ECU10は、衝突回避装置50に、衝突回避指令を送信する。衝突回避装置50は、衝突回避指令を受信すると、状況に応じて上記衝突回避制御の少なくとも1つ(警報制御、自動制動制御、及び/又は、自動操舵制御)を実行する。一方、ECU10は、TTCがTTC閾値よりも大きい場合、自車両が立体物に衝突する可能性は低いと判定し、衝突回避指令の送信は行わない。ECU10は、(2)の処理を、作動期間中、演算周期が経過する毎に実行する。
このような魚眼レンズ21aを備えたカメラセンサ20Fは、自車両が交差点を右左折する場合、或いは、信号のない交差点を直進する場合に特に有用である。図7及び図8を参照して具体的に説明する。図7は、自車両Vが交差点に進入した場面を示す。道路及び区画線等の図示は省略している。自車両Vには、位置P1を原点としたxy座標系が設定されている。なお、自車両Vの縮尺と、xy座標系の目盛りの縮尺と、は相違している。立体物O1乃至O5は、何れも移動物である。具体的には、立体物O1は、+y軸方向に(即ち、自車両Vの現在の進行方向と同一方向に)平均的な速さで移動している自転車である。立体物O2は、+y軸方向に平均的な速さで移動している歩行者である。立体物O3は、所定の車速範囲内の車速で+x軸方向に移動している電動二輪車である。立体物O4は、30[km/h]から60[km/h]の範囲内の車速で+x軸方向に移動している車両である。立体物O5は、比較的に高速で+x軸方向に移動している車両である。
立体物O1及びO2は、自車両Vが「左折時における平均的な車速」でこの交差点を左折した場合に3秒後に衝突することになる立体物である。立体物O3は、自車両Vが信号のない交差点を「信号のない交差点の直進時における平均的な車速」で直進した場合に3秒後に衝突することになる立体物である。立体物O4は、自車両Vが信号のない交差点を30[km/h]から60[km/h]の範囲内の車速で直進した場合に3秒後に衝突することになる立体物である。立体物O5は、自車両Vが信号のない交差点を比較的に低速で直進した場合に3秒後に衝突することになる立体物である。即ち、図7は、自車両Vが交差点を左折する場合、又は、信号のない交差点を様々な車速で直進する場合に3秒後に衝突することになる様々な種類の立体物の自車両Vに対する相対分布を示している。
図8は、図7に、方位角範囲が0度≦θf≦90度の範囲RFw、範囲RC1及び範囲RC2を重畳した図である。ここで、範囲RC1及び範囲RC2は、それぞれ、カメラセンサC1及びC2(図5参照)が自車両Vの位置P1に設置された場合における撮像範囲の平面図である。図7に示すように、立体物O1乃至O5は、自車両Vの特定の方位角範囲に偏って分布している。図8によれば、この特定の方位角範囲は、左側第1範囲に一致する。なお、図7及び図8では図示を省略しているが、自車両Vが交差点を右折する場合、又は、信号のない交差点を様々な車速で直進する場合に3秒後に衝突することになる様々な種類の立体物の殆ど全ては、立体物O1乃至O5と同様に自車両Vの特定の方位角範囲に偏って分布し、その特定の方位角範囲は右側第1範囲に一致すると考えられる。
図8に示すように、カメラセンサ20Fは、上記自由曲面を有する魚眼レンズ21aを備えることにより、第1範囲における立体物の検出限界距離が、第2範囲における立体物の検出限界距離よりも長くなるように構成されている。このため、カメラセンサ20Fは、「車両の斜め前方に存在する立体物」を「車両の前方及び前端中央部側方に存在する立体物」よりも相対的に遠方まで撮像することができる。なお、「車両の前方に存在する立体物」は、カメラセンサ30により比較的に遠方まで撮像され得る(図6参照)。
加えて、魚眼レンズ21aは、撮像面22aの領域S2における水平画素密度が領域S1における水平画素密度よりも小さくなるように構成されている。このため、領域S2における水平画素密度を領域S1における水平画素密度と同等にする構成と比較して、画像センサ22の画素数の大幅な増加を抑制できる。従って、カメラセンサ20Fの構成によれば、画像センサ22の画素数を大幅に増加させることなく、自車両Vの斜め前方に存在する立体物を適切に撮像できる。
より具体的には、範囲RFwは、範囲RC2(カメラセンサ20Fと同一の画素数を有するカメラセンサC2の撮像範囲の平面図)と比較して、立体物の検出限界距離が、第1範囲においてより長くなっており、第2範囲においてより短くなっている。ここで、図8に示すように、第2範囲では、自車両Vが交差点進入時に衝突する可能性がある立体物は殆ど存在していない。このため、範囲RFwのように、立体物が偏って分布している方位角範囲では検出限界距離を延ばし、立体物が殆ど存在していない方位角範囲では検出限界距離を低減することにより、画像センサ22の画素数を大幅に増加させることなく、所望の方位角範囲に存在する立体物(即ち、自車両Vが交差点を右左折する場合、又は、信号のない交差点を様々な車速で直進する場合に衝突する可能性がある様々な種類の立体物)を比較的に遠方まで適切に撮像できる。
ここで、衝突回避制御の実行有無の判定に使用されるTTC閾値は、通常、3秒以下の任意の値に設定される。このため、上記の構成によれば、自車両の斜め前方に存在する立体物に対して衝突回避制御を適切に実行することが可能となる。即ち、従来の運転支援装置は、自車両の前方(典型的には、水平画角が-50度≦θf≦50度)に存在する立体物しか検出できない。このため、例えば、立体物O1乃至O5のように自車両Vの斜め前方に存在する立体物については、自車両が左折して立体物O1及び/又はO2が自車両の前方に位置するようになるまで、或いは、自車両が更に直進して立体物O3乃至O5が自車両の前方に位置するようになるまで、立体物O1乃至O5を検出することができず、検出した時点では、TTCが既にTTC閾値以下になっている場合があった。これに対し、カメラセンサ20Fを備える運転支援装置によれば、自車両の斜め前方に存在する立体物について、TTCがTTC閾値以下になる前に検出することが可能になる。このため、これらの立体物について衝突回避制御を適切に実行できる。
特に、カメラセンサ20Fは、PVM画像の生成に用いられるカメラセンサとしても機能する。このため、従来の前方PVMカメラセンサの仕様を一部変更する(具体的には、魚眼レンズを魚眼レンズ21aに変更するとともに、画像センサの画素数を約1.2M[pix]から約2.8M[pix]に変更する)だけで済み、新たにカメラセンサを導入する必要がなくなる。従って、比較的に低コストでカメラセンサ20Fを実現することができる。
加えて、カメラセンサ20Fでは、魚眼レンズ21aの自由曲面は、撮像面22aの領域S1における水平画素密度が領域S2における水平画素密度よりも大きくなるように構成されているものの、図5によれば、領域S2における水平画素密度は、カメラセンサRe(即ち、カメラセンサC1と略同一の構成を有するカメラセンサ)の撮像面の水平画素密度以上に維持されている。この構成によれば、魚眼レンズ21aが上記自由曲面を備えることに起因してPVM画像の画質が劣化することが防止される。
(第2実施形態)
次に、本発明の第2実施形態に係る撮像装置としての左側PVMカメラセンサ及び右側PVMカメラセンサを備える運転支援装置について図面を参照しながら説明する。以下では、第1実施形態と同一の構成については同一の符号を付し、詳細な説明は省略する。
図9に示すように、本実施形態の運転支援装置は、PVMカメラセンサ20の代わりにPVMカメラセンサ120を備える点で第1実施形態の運転支援装置と相違している。PVMカメラセンサ120は、前方PVMカメラセンサ120F、左側PVMカメラセンサ120L、右側PVMカメラセンサ120R、及び、後方PVMカメラセンサ20Reを備える。
カメラセンサ120Fは、第1実施形態のカメラセンサ20L、20R及び20Reと略同一の構成を有しており、以下の2点で第1実施形態のカメラセンサ20Fと相違している。
・カメラセンサ120Fの魚眼レンズ(図示省略)は、自由曲面ではなく、回転対称な曲面を有する。
・カメラセンサ120Fの画素数は約1.2M(1280×960)[pix]である。
カメラセンサ120Fの魚眼レンズの焦点距離及び撮像面の寸法は、カメラセンサ120Fの水平画角が180度となり、垂直画角が135度となるように予め設計されている。これにより、カメラセンサ120Fは、自車両の前方、斜め前方及び前端中央部側方の領域に位置する被写体を撮像できる。なお、カメラセンサ120Fは、「前方撮像装置」の一例に相当する。
図10に示すように、カメラセンサ120Lは、光学系121Lと、画像センサ122Lと、信号処理回路23と、を備える。
光学系121Lは、魚眼レンズ121aLを含む。魚眼レンズ121aLは、等距離射影方式を採用するレンズであり、非回転対称な自由曲面を有する。魚眼レンズ121aLの詳細な構成については後述する。
画像センサ122Lは、複数の画素が水平方向及び垂直方向に(即ち、二次元状に)等間隔で配列された撮像面122aLを含む。撮像面122aLの寸法は、第1実施形態の撮像面22aの寸法と同一である。即ち、画像センサ122Lの画素数は約2.8M(1920×1440)[pix]である。
魚眼レンズ121aLの焦点距離及び撮像面122aLの寸法は、カメラセンサ120Lの水平画角が180度となり、垂直画角が135度となるように予め設計されている。これにより、カメラセンサ120Lは、自車両の左側方領域に位置する被写体を撮像できる。なお、カメラセンサ120Lは、「画像生成用カメラセンサ」の一例に相当するとともに、車両の左側方部分に設置可能な「撮像装置」の一例に相当する。カメラセンサ120Lの水平画角は、「第2水平画角」の一例に相当する。
カメラセンサ120Rは、光学系121Rと、画像センサ122Rと、信号処理回路23と、を備える。
光学系121Rは、魚眼レンズ121aRを含む。魚眼レンズ121aRは、等距離射影方式を採用するレンズであり、非回転対称な自由曲面を有する。魚眼レンズ121aRの詳細な構成については後述する。
画像センサ122Rは、複数の画素が水平方向及び垂直方向に(即ち、二次元状に)等間隔で配列された撮像面122aRを含む。撮像面122aRの寸法は、第1実施形態の撮像面22aの寸法と同一である。即ち、画像センサ122Rの画素数は約2.8M(1920×1440)[pix]である。
魚眼レンズ121aRの焦点距離及び撮像面122aRの寸法は、カメラセンサ120Rの水平画角が180度となり、垂直画角が135度となるように予め設計されている。これにより、カメラセンサ120Rは、自車両の右側方領域に位置する被写体を撮像できる。なお、カメラセンサ120Rは、「画像生成用カメラセンサ」の一例に相当するとともに、車両の右側方部分に設置可能な「撮像装置」の一例に相当する。カメラセンサ120Rの水平画角は、「第2水平画角」の一例に相当する。カメラセンサ30とカメラセンサ120L及び120Rとにより撮像システムが構成されている。
図9に戻って説明を続ける。ECU10は、カメラセンサ120F、120L、120R及び20Re並びにカメラセンサ30から、それぞれ「前方広域画像データ」、「左方広域画像データ」、「右方広域画像データ」及び「後方広域画像データ」並びに「前方狭域画像データ」を取得し、取得した画像データに基づいて、第1実施形態の(1)及び(2)と同様の処理を行う。但し、(2)の処理については、立体物を検出する際に使用する画像データが第1実施形態と相違している。以下、この相違点について具体的に説明する。なお、「左方広域画像データ」及び「右方広域画像データ」は、「周辺広域画像データ」の一例に相当する。
ECU10は、前方広域画像データに代えて、左方広域画像データ及び右方広域画像データを、前方狭域画像データとともに解析し、立体物の有無、及び、自車両と立体物との相対関係を演算する。別言すれば、ECU10は、カメラセンサ120Lの撮像範囲、カメラセンサ120Rの撮像範囲及びカメラセンサ30の撮像範囲(図6の範囲RFn参照)に存在する立体物をそれぞれ検出する。
図11の範囲RL及び範囲RRは、それぞれ、カメラセンサ120L及び120Rの撮像範囲(即ち、ECU10が左方広域画像データ及び右方広域画像データに基づいて立体物を検出可能な範囲)の平面図である。図11に示すように、カメラセンサ120Lについては、基準方位は、位置P2を通り自車両Vの前後軸と平行な軸である基準軸A1の方位に設定されている。基準軸A1は、カメラセンサ120Lの光学系121Lの光軸(図示省略)と直交している。以下では、水平画角のうち、基準軸A1より左側の方位角θlを正の値と規定し、基準軸Aより右側の方位角θfを負の値と規定する。加えて、垂直画角のうち、光軸より上方の角度を正の値と規定し、光軸より下方の角度を負の値と規定する。カメラセンサ120Lの光軸は左右軸に対して約60度下方に傾斜しており、垂直画角は135度である。このため、基準軸A1は垂直画角に含まれている。
一方、カメラセンサ120Rについては、基準方位は、位置P3を通り自車両Vの前後軸と平行な軸である基準軸A2の方位に設定されている。基準軸A2は、カメラセンサ120Rの光学系121Rの光軸(図示省略)と直交している。以下では、水平画角のうち、基準軸A2より右側の方位角θrを正の値と規定し、基準軸Aより左側の方位角θrを負の値と規定する。加えて、垂直画角のうち、光軸より上方の角度を正の値と規定し、光軸より下方の角度を負の値と規定する。カメラセンサ120Rの光軸は左右軸に対して約60度下方に傾斜しており、垂直画角は135度である。このため、基準軸A2は垂直画角に含まれている。
範囲RLは、方位角範囲が52度≦θl≦80度である第3範囲において、半径r3の扇形形状を呈し、水平画角のうち第3範囲を除く第4範囲(即ち、0度≦θl<52度、80度<θl≦180度)において、半径r4の扇形形状を呈する。
範囲RRは、方位角範囲が52度≦θr≦80度である第5範囲において、半径r5(=r3)の扇形形状を呈し、水平画角のうち第5範囲を除く第6範囲(即ち、0度≦θr<52度、80度<θr≦180度)において、半径r6(=r4)の扇形形状を呈する。
即ち、範囲RLと範囲RRとは、前後軸に関して線対称の関係にある。範囲RL及び範囲RRの形状によれば、第3範囲及び第5範囲における立体物の検出限界距離(r3、r5)は、第4範囲及び第6範囲における立体物の検出限界距離(r4、r6)よりも長くなっている。これは、魚眼レンズ121aL及び121aRの構成に起因している。なお、第3範囲及び第5範囲は「斜め側方方位角範囲」の一例に相当し、第4範囲及び第6範囲は「残余方位角範囲」の一例に相当する。
図12A及び図12Bを参照して具体的に説明する。図12Aに示すように、カメラセンサ120Lの撮像面122aLは、領域S3及び領域S4を含む。領域S3は、「第3範囲に存在し且つ第2特定垂直範囲(後述)に存在する被写体」からの光である第3光が撮像面122aLに結像する領域である。領域S4は、「水平画角及び垂直画角のうち残りの角度範囲に存在する被写体」からの光である第4光が撮像面122aLに結像する領域である。
図12Bに示すように、カメラセンサ120Rの撮像面122aRは、領域S5及び領域S6を含む。領域S5は、「第5範囲に存在し且つ第2特定垂直範囲に存在する被写体」からの光である第5光が撮像面122aRに結像する領域である。領域S6は、「水平画角及び垂直画角のうち残りの角度範囲に存在する被写体」からの光である第6光が撮像面122aRに結像する領域である。
第2特定垂直範囲は、基準軸A1又はA2を含み、且つ、垂直画角の上方を含む範囲として設定され得る。本実施形態では、第2特定垂直範囲は、0度以上67.5度以下である。なお、光学系121L及び121Rは、被写体からの光を周辺領域Sp(撮像面122aLのうち領域S4よりも外側の領域、及び、撮像面122aRのうち領域S6よりも外側の領域)にも結像するように構成されている。しかしながら、周辺領域Spを構成する画素の電気信号は、画像データの生成には利用されない。
図12Aに示すように、魚眼レンズ121aLは、光学系121Lを介して被写体からの光を撮像面122aLに結像させる際、第3光を第4光よりも水平方向(紙面上下方向)に拡大して撮像面122aLに結像させるように構成されている。拡大率は、第2特定垂直範囲に亘って一定である。なお、第3光は、垂直方向(紙面左右方向)には拡大されない。領域S3は「特定領域」又は「第3領域」の一例に相当し、領域S4は「残余領域」又は「第4領域」の一例に相当する。
図12Bに示すように、魚眼レンズ121aRは、光学系121Rを介して被写体からの光を撮像面122aRに結像させる際、第5光を第6光よりも水平方向に拡大して撮像面122aRに結像させるように構成されている。拡大率は、第2特定垂直範囲に亘って一定である。なお、第5光は、垂直方向には拡大されない。領域S5は「特定領域」又は「第5領域」の一例に相当し、領域S6は「残余領域」又は「第6領域」の一例に相当する。
本実施形態では、第3光の拡大率と第5光の拡大率とは互いに等しい。このため、領域S3及び領域S5は、互いに合同な長方形形状を呈する。なお、第3光の拡大率と第5光の拡大率とは互いに異なっていてもよい。
別言すれば、魚眼レンズ121aLは、領域S3における水平画素密度が、領域S4の任意の領域における水平画素密度よりも大きくなるように加工された自由曲面を有している。魚眼レンズ121aRは、領域S5における水平画素密度が、領域S6の任意の領域における水平画素密度よりも大きくなるように加工された自由曲面を有している。この構成によれば、領域S3及び領域S5における水平方向の分解能が、それぞれ領域S4及び領域S6における水平方向の分解能よりも高くなり、結果として、第3範囲及び第5範囲における立体物の検出限界距離(r3、r5)が、それぞれ第4範囲及び第6範囲における立体物の検出限界距離(r4、r6)よりも長くなる。なお、第3範囲の下限方位角(52度)及び第5範囲の下限方位角(52度)は、前方カメラセンサ30の境界方位角(50度、-50度)に基づいて決定されている。
立体物の検出限界距離と水平画素密度との関係について図13を参照して具体的に説明する。図13は、カメラセンサ120L及び120R、並びに、比較例としてのカメラセンサC3(波線参照)及びC4(一点鎖線参照)の方位角と水平画素密度(厳密には、第2特定垂直範囲内の或る角度(例えば、60度)における水平画素密度)との関係を規定したグラフである。但し、90度より大きい方位角範囲については図示を省略している。本実施形態では、魚眼レンズ121aL及び121aRは、撮像面122aLの水平画素密度分布と撮像面122aRの水平画素密度分布と、が互いに同一となるように構成されている。このため、図13のグラフでは、カメラセンサ120Lの振る舞いとカメラセンサ120Rの振る舞いと、は一致している。
カメラセンサC3及びC4の光学系が有するレンズは、何れも魚眼レンズである。但し、これらの魚眼レンズは回転対称な曲面を有している点で、カメラセンサ120L及び120Rの魚眼レンズ121aL及び121aRと異なっている。
カメラセンサC3の画素数は約1.2M(1280×960)[pix]であり、その水平画角は180度である。即ち、カメラセンサC3は、カメラセンサ120F及び20Reと略同一の構成を有する。
カメラセンサC4の画素数は約2.8M(1920×1440)[pix]であり、その水平画角は180度である。即ち、カメラセンサC4は、魚眼レンズが自由曲面を有していない点を除いて、カメラセンサ120L及び120Rと略同一の構成を有する。
上述したように、カメラセンサ120L及び120Rは、それぞれ、第3光及び第5光の水平方向の拡大率が第2特定垂直範囲に亘って一定となるように構成されている。これは、カメラセンサC3及びC4についても同様である。このため、カメラセンサ120L、120R、C3及びC4の方位角と水平画素密度との関係は、第2特定垂直範囲に亘って不変である。
なお、カメラセンサ120L、120R、C3及びC4のそれぞれが有する光学系は、-約20度<θl,θr<0度の方位角範囲に存在する被写体からの光もそれぞれの撮像面に結像可能に構成されている。このため、図13のグラフでは、これらの方位角範囲における水平画素密度も図示している。但し、撮像面のうちこれらの方位角範囲に対応する画素の電気信号は、画像データの生成には利用されない。
図13に示すように、カメラセンサ120L及び120Rは、カメラセンサC3及びC4と異なり、上述したように加工された自由曲面を有する魚眼レンズ121aL、121aRをそれぞれ備える。このため、これらの水平画素密度は、45度≦θl,θr≦87度の方位角範囲において、カメラセンサC4(即ち、カメラセンサ120L、120Rと同一の画素数を有するカメラセンサ)の水平画素密度より大きくなっている。特に、第3及び第5範囲では、カメラセンサ120L及び120Rの水平画素密度は、カメラセンサC4の水平画素密度の約1.6倍の大きさとなっている。一般に、所定の方位角範囲内では、立体物の検出限界距離と、第2特定垂直範囲内の任意の角度における水平画素密度と、は、略比例する。このため、第3及び第5範囲では、カメラセンサ120L及び120Rによる立体物の検出限界距離r3及びr5(図11参照)は、カメラセンサC4による立体物の検出限界距離(約27[m])の約1.6倍(約43[m])となる。
一方、第4及び第6範囲では、カメラセンサ120L及び120Rの水平画素密度は、カメラセンサC3の水平画素密度と同等又はそれ以上に維持されている。このため、魚眼レンズ121aL及び121aRが自由曲面を有することに起因してPVM画像の画質が劣化することが防止される。なお、第4及び第6範囲では、カメラセンサ120L及び120Rによる立体物の検出限界距離r4及びr6(図11参照)は、カメラセンサC3による立体物の検出限界距離(約20[m])と略等しい。
このように、カメラセンサ120L及び120Rが上記自由曲面を有する魚眼レンズ121aL及び121aRを備えることにより、PVM画像の画質を従来と同程度に維持しつつ(別言すれば、ディスプレイ60aの解像度に対してカメラセンサ120L及び120Rの画素数がオーバースペックになることなく)、水平画角のうち特定の範囲(本実施形態では、第3又は第5範囲)においては、カメラセンサ120L及び120Rと同一の画素数を有するカメラセンサC4と比較して、立体物の検出限界距離を大幅に延ばすことが可能となる。
このような魚眼レンズ121aL及び121aRを備えたカメラセンサ120L及び120Rは、自車両が交差点を右左折する場合、或いは、信号のない交差点を直進する場合に特に有用である。以下、カメラセンサ120Lを例に挙げて図14を参照して具体的に説明する。図14は、図7に、方位角範囲が0度≦θl≦180度の範囲RL、範囲RC3及び範囲RC4を重畳した図である。ここで、範囲RC3及び範囲RC4は、それぞれ、カメラセンサC3及びC4(図13参照)が自車両Vの位置P2に設置された場合における撮像範囲の平面図である。図14によれば、立体物O1乃至O5が分布している特定の方位角範囲は、第3範囲に一致する。なお、図14では図示を省略しているが、自車両Vが交差点を右折する場合、又は、信号のない交差点を様々な車速で直進する場合に3秒後に衝突することになる様々な種類の立体物の殆ど全ては、立体物O1乃至O5と同様に自車両Vの特定の方位角範囲に偏って分布し、その特定の方位角範囲は、カメラセンサ120Rの第6範囲に一致すると考えられる。
カメラセンサ120L及び120Rによれば、第1実施形態のカメラセンサ20Fと同様の効果を奏することができる。
以上、本実施形態に係る撮像システム及び撮像装置について説明したが、本発明は上記実施形態に限定されるものではなく本発明の目的を逸脱しない限りにおいて種々の変更が可能である。
例えば、第1実施形態のカメラセンサ20F、及び、第2実施形態のカメラセンサ120L及び120Rの水平画角は、何れも180度以上(例えば、190度)であってもよい。
加えて、第1実施形態において、左側第1範囲は、45度<θf<90度を満たす任意の方位角範囲であればよく、右側第1範囲は、-90度<θf<-45度を満たす任意の方位角範囲であればよい。同様に、第2実施形態において、第3範囲及び第4範囲は、それぞれ、45度<θl,θr<90度を満たす任意の方位角範囲であればよい。
更に、第1実施形態において、カメラセンサ20Fは、PVM画像の生成に用いられなくてもよい。即ち、カメラセンサ20Fは、前方PVMカメラセンサの機能を兼ねる必要はなく、前方PVMカメラセンサに加えて新たに導入されてもよい。第2実施形態についても同様である。
更に、第2実施形態において、カメラセンサ120L及び120Rは、自車両Vに一対で設置される必要はなく、何れか一方のみが設置されるように構成されてもよい。自車両Vの位置P2にカメラセンサ120Lが設置される場合、位置P3にはカメラセンサ20R(即ち、従来の右側PVMカメラセンサ)が設置され得る。同様に、自車両Vの位置P3にカメラセンサ120Rが設置される場合、位置P2にはカメラセンサ20L(即ち、従来の左側PVMカメラセンサ)が設置され得る。この構成によっても、自車両Vの左斜め前方又は右斜め前方に存在する立体物を適切に撮像できる。
10:運転支援ECU、20:PVMカメラセンサ、20F:前方PVMカメラセンサ、20L:左側PVMカメラセンサ、20R:右側PVMカメラセンサ、20Re:後方PVMカメラセンサ、21:光学系、21a:魚眼レンズ、22:画像センサ、22a:撮像面、23:信号処理回路、30:前方カメラセンサ、40:車速センサ、41:ヨーレートセンサ、42:シフトポジションセンサ、43:PVMスイッチ、50:衝突回避装置、60:表示装置、60a:ディスプレイ

Claims (10)

  1. 車両の前後軸と平行な軸である基準軸の方位を基準方位としたときに、水平画角が180度未満の所定の第1水平画角を有し、車両の左右方向に対応する方位角よりも前記車両の前方の領域に前記第1水平画角が含まれるように前記車両に設置され、且つ、前記車両の前方に位置している被写体のうち前記第1水平画角内に位置する被写体からの光を電気信号に光電変換することにより前記車両の運転支援制御に使用される前方狭域画像データを取得する前方カメラセンサと、
    水平画角が180度以上の所定の第2水平画角を有し、前記車両に設置され、且つ、前記車両の周囲に位置している被写体のうち前記第2水平画角内に位置する被写体からの光を電気信号に光電変換することにより前記車両の俯瞰画像を生成するために使用される周辺広域画像データを取得する画像生成用カメラセンサと、
    を備える、車両の撮像システムにおいて、
    前記画像生成用カメラセンサは、
    それぞれが前記光電変換を行う複数の画素が二次元状に配列された撮像面を含む画像センサと、レンズを含み、被写体からの光を前記撮像面に結像させる光学系と、を備え、
    前記画像センサは、
    前記第1水平画角を規定する境界線の方位角である境界方位角に基づいて決定される所定の方位角から前記車両の斜め前方方向に対応する方位角までの範囲である斜め側方方位角範囲内に位置する被写体からの光が前記撮像面に結像する特定領域と、前記第2水平画角から前記斜め側方方位角範囲を除いた残余方位角範囲内に位置する被写体からの光が前記撮像面に結像する残余領域と、を有し、
    前記レンズは、
    前記特定領域における単位水平画角当たりの画素数である水平画素密度が、前記残余領域における水平画素密度よりも大きくなるように構成された曲面を有するレンズであり、
    前記画像生成用カメラセンサにより取得される前記周辺広域画像データが前記車両の運転支援制御に使用可能に構成された、
    撮像システム。
  2. 車両の前方部分に設置可能であり、
    複数の画素が二次元状に配列された撮像面を含み、前記複数の画素のそれぞれが、受けた光を電気信号に光電変換して出力するように構成された画像センサと、
    レンズを含み、被写体からの光を前記撮像面に結像させる光学系と、
    を備え、
    水平画角が180度以上となるように前記撮像面の寸法及び前記レンズの焦点距離が設定されている撮像装置において、
    前記車両への設置位置を通り前記車両の前後軸と平行な軸である基準軸の方位を基準方位としたときに、前記水平画角のうち、前記基準軸より左側の方位角を正の値と規定し、前記基準軸より右側の方位角を負の値と規定すると、
    前記基準軸は、垂直画角に含まれており、
    前記撮像面は、45度より大きく90度より小さい方位角範囲に含まれる左側第1範囲、及び、-90度より大きく-45度より小さい方位角範囲に含まれる右側第1範囲に対応する領域である第1領域と、前記水平画角のうち前記左側第1範囲及び前記右側第1範囲を除く方位角範囲である第2範囲に対応する領域である第2領域と、を含み、
    前記レンズは、前記第1領域における単位水平画角当たりの画素数である水平画素密度が、前記第2領域における水平画素密度よりも大きくなるように構成された曲面を有する、
    撮像装置。
  3. 請求項2に記載の撮像装置を備える運転支援装置であって、更に、
    前記車両の左側方部分に設置可能な左側撮像装置と、
    前記車両の右側方部分に設置可能な右側撮像装置と、
    前記車両の後方部分に設置可能な後方撮像装置と、
    画像処理装置と、
    を備え、
    前記左側撮像装置、前記右側撮像装置及び前記後方撮像装置の水平画角は何れも180度以上であり、
    前記画像処理装置は、
    前記撮像装置により前記車両の前方、斜め前方及び前方部分側方を撮像して得られた画像データと、前記左側撮像装置により前記車両の左側方を撮像して得られた画像データと、前記右側撮像装置により前記車両の右側方を撮像して得られた画像データと、前記後方撮像装置により前記車両の後方、斜め後方及び後方部分側方を撮像して得られた画像データと、を取得し、
    取得したこれらの画像データに基づいて俯瞰画像を生成するように構成されている、
    運転支援装置。
  4. 請求項3に記載の運転支援装置において、
    前記撮像装置の前記撮像面の前記第2領域における前記水平画素密度は、前記後方撮像装置が備える撮像面の水平画素密度以上である、
    運転支援装置。
  5. 車両の左側方部分に設置可能であり、
    複数の画素が二次元状に配列された撮像面を含み、前記複数の画素のそれぞれが、受けた光を電気信号に光電変換して出力するように構成された画像センサと、
    レンズを含み、被写体からの光を前記撮像面に結像させる光学系と、
    を備え、
    水平画角が180度以上となるように前記撮像面の寸法及び前記レンズの焦点距離が設定されている撮像装置において、
    前記車両への設置位置を通り前記車両の前後軸と平行な軸である基準軸の方位を基準方位としたときに、前記水平画角のうち、前記基準軸より左側の方位角を正の値と規定し、前記基準軸より右側の方位角を負の値と規定すると、
    前記基準軸は、垂直画角に含まれており、
    前記撮像面は、45度より大きく90度より小さい方位角範囲に含まれる第3範囲に対応する領域である第3領域と、前記水平画角のうち前記第3範囲を除く方位角範囲である第4範囲に対応する領域である第4領域と、を含み、
    前記レンズは、前記第3領域における単位水平画角当たりの画素数である水平画素密度が、前記第4領域における水平画素密度よりも大きくなるように構成された曲面を有する、
    撮像装置。
  6. 請求項5に記載の撮像装置を備える運転支援装置であって、更に、
    前記車両の前方部分に設置可能な前方撮像装置と、
    前記車両の右側方部分に設置可能な右側撮像装置と、
    前記車両の後方部分に設置可能な後方撮像装置と、
    画像処理装置と、
    を備え、
    前記前方撮像装置、前記右側撮像装置及び前記後方撮像装置の水平画角は何れも180度以上であり、
    前記画像処理装置は、
    前記前方撮像装置により前記車両の前方、斜め前方及び前方部分側方を撮像して得られた画像データと、前記撮像装置により前記車両の左側方を撮像して得られた画像データと、前記右側撮像装置により前記車両の右側方を撮像して得られた画像データと、前記後方撮像装置により前記車両の後方、斜め後方及び後方部分側方を撮像して得られた画像データと、を取得し、
    取得したこれらの画像データに基づいて俯瞰画像を生成するように構成されている、
    運転支援装置。
  7. 車両の右側方部分に設置可能であり、
    複数の画素が二次元状に配列された撮像面を含み、前記複数の画素のそれぞれが、受けた光を電気信号に光電変換して出力するように構成された画像センサと、
    レンズを含み、被写体からの光を前記撮像面に結像させる光学系と、
    を備え、
    水平画角が180度以上となるように前記撮像面の寸法及び前記レンズの焦点距離が設定されている撮像装置において、
    前記車両への設置位置を通り前記車両の前後軸と平行な軸である基準軸の方位を基準方位としたときに、前記水平画角のうち、前記基準軸より右側の方位角を正の値と規定し、前記基準軸より左側の方位角を負の値と規定すると、
    前記基準軸は、垂直画角に含まれており、
    前記撮像面は、45度より大きく90度より小さい方位角範囲に含まれる第5範囲に対応する領域である第5領域と、前記水平画角のうち前記第5範囲を除く方位角範囲である第6範囲に対応する領域である第6領域と、を含み、
    前記レンズは、前記第5領域における単位水平画角当たりの画素数である水平画素密度が、前記第6領域における水平画素密度よりも大きくなるように構成された曲面を有する、
    撮像装置。
  8. 請求項7に記載の撮像装置を備える運転支援装置であって、更に、
    前記車両の前方部分に設置可能な前方撮像装置と、
    前記車両の左側方部分に設置可能な左側撮像装置と、
    前記車両の後方部分に設置可能な後方撮像装置と、
    画像処理装置と、
    を備え、
    前記前方撮像装置、前記左側撮像装置及び前記後方撮像装置の水平画角は何れも180度以上であり、
    前記画像処理装置は、
    前記前方撮像装置により前記車両の前方、斜め前方及び前方部分側方を撮像して得られた画像データと、前記左側撮像装置により前記車両の左側方を撮像して得られた画像データと、前記撮像装置により前記車両の右側方を撮像して得られた画像データと、前記後方撮像装置により前記車両の後方、斜め後方及び後方部分側方を撮像して得られた画像データと、を取得し、
    取得したこれらの画像データに基づいて俯瞰画像を生成するように構成されている、
    運転支援装置。
  9. 請求項6に記載の運転支援装置において、
    前記撮像装置の前記撮像面の前記第4領域における前記水平画素密度は、前記後方撮像装置が備える撮像面の水平画素密度以上である、
    運転支援装置。
  10. 請求項8に記載の運転支援装置において、
    前記撮像装置の前記撮像面の前記第6領域における前記水平画素密度は、前記後方撮像装置が備える撮像面の水平画素密度以上である、
    運転支援装置。
JP2020198575A 2020-11-30 2020-11-30 撮像システム及び撮像装置 Active JP7400705B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020198575A JP7400705B2 (ja) 2020-11-30 2020-11-30 撮像システム及び撮像装置
US17/526,216 US11760275B2 (en) 2020-11-30 2021-11-15 Image pickup system and image pickup device
DE102021131051.2A DE102021131051B4 (de) 2020-11-30 2021-11-26 Bildaufnahmesystem und Bildaufnahmevorrichtung
CN202111431808.1A CN114572113B (zh) 2020-11-30 2021-11-29 拍摄系统、拍摄装置及驾驶支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020198575A JP7400705B2 (ja) 2020-11-30 2020-11-30 撮像システム及び撮像装置

Publications (2)

Publication Number Publication Date
JP2022086516A JP2022086516A (ja) 2022-06-09
JP7400705B2 true JP7400705B2 (ja) 2023-12-19

Family

ID=81585962

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020198575A Active JP7400705B2 (ja) 2020-11-30 2020-11-30 撮像システム及び撮像装置

Country Status (4)

Country Link
US (1) US11760275B2 (ja)
JP (1) JP7400705B2 (ja)
CN (1) CN114572113B (ja)
DE (1) DE102021131051B4 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3084631B1 (fr) * 2018-07-31 2021-01-08 Valeo Schalter & Sensoren Gmbh Assistance a la conduite pour le controle longitudinal et/ou lateral d'un vehicule automobile
DE102022107023B4 (de) * 2022-03-24 2023-11-30 Motherson Innovations Company Limited Rückblickkameraanordnung
JP2024025462A (ja) 2022-08-12 2024-02-26 トヨタ自動車株式会社 車両制御装置、車両制御方法及びそのプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015219569A (ja) 2014-05-14 2015-12-07 株式会社デンソー 境界線認識装置および境界線認識プログラム
JP2017043262A (ja) 2015-08-28 2017-03-02 トヨタ自動車株式会社 衝突回避支援装置
WO2018016305A1 (ja) 2016-07-22 2018-01-25 パナソニックIpマネジメント株式会社 撮像システム、および、移動体システム
JP2018195951A (ja) 2017-05-16 2018-12-06 パナソニックIpマネジメント株式会社 撮像システム及び移動体制御システム
US20190124273A1 (en) 2017-10-19 2019-04-25 Robert Bosch Gmbh Environmental acquisition system for acquiring a surrounding environment of a vehicle, and method for acquiring a surrounding environment of a vehicle
JP2019110517A (ja) 2017-12-19 2019-07-04 パナソニックIpマネジメント株式会社 撮像装置、表示システム、および撮像システム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7365779B2 (en) * 2000-09-14 2008-04-29 Fujitsu Ten Limited Image processing apparatus for selectively storing specific regions of an image
US7253833B2 (en) 2001-11-16 2007-08-07 Autonetworks Technologies, Ltd. Vehicle periphery visual recognition system, camera and vehicle periphery monitoring apparatus and vehicle periphery monitoring system
JP2006333120A (ja) * 2005-05-26 2006-12-07 Denso Corp 撮像モジュール
EP2750382B1 (en) * 2011-08-26 2017-06-28 Panasonic Intellectual Property Management Co., Ltd. Driving assistance apparatus
US10127463B2 (en) * 2014-11-21 2018-11-13 Magna Electronics Inc. Vehicle vision system with multiple cameras
DE102015215561A1 (de) * 2015-08-14 2017-02-16 Conti Temic Microelectronic Gmbh Fahrzeugkameravorrichtung zur Aufnahme einer Umgebung eines Kraftfahrzeugs sowie Fahrerassistenzvorrichtung zur Objekterkennung mit einer solchen Fahrzeugkameravorrichtung
EP3193305B1 (en) * 2016-01-12 2018-09-12 Continental Automotive GmbH Method and device for displaying a front-view of a vehicle's surrounding and respective vehicle
EP3451651B1 (en) * 2016-04-27 2022-06-08 Sony Group Corporation Imaging control device, imaging control method, and imaging apparatus
US20200324713A1 (en) * 2016-09-22 2020-10-15 Lg Electronics Inc. Vehicular camera apparatus and method
KR101859040B1 (ko) * 2016-09-22 2018-05-17 엘지전자 주식회사 차량용 카메라 장치 및 방법
JP6349558B1 (ja) * 2017-05-12 2018-07-04 パナソニックIpマネジメント株式会社 撮像システム及び表示システム
KR102012776B1 (ko) * 2017-08-29 2019-08-21 엘지전자 주식회사 차량용 어라운드 뷰 제공 장치 및 차량
JP7096662B2 (ja) * 2017-12-06 2022-07-06 フォルシアクラリオン・エレクトロニクス株式会社 画像表示装置及び駐車支援システム
US10489666B2 (en) * 2017-12-18 2019-11-26 Panasonic Intellectual Property Management Co., Ltd. Imaging device and imaging system
CN110178369B (zh) * 2017-12-19 2021-07-27 松下知识产权经营株式会社 摄像装置、摄像系统以及显示系统
US10623618B2 (en) * 2017-12-19 2020-04-14 Panasonic Intellectual Property Management Co., Ltd. Imaging device, display system, and imaging system
JP6996353B2 (ja) * 2018-03-06 2022-01-17 トヨタ自動車株式会社 物体認識装置及び車両走行制御システム
JP7163732B2 (ja) * 2018-11-13 2022-11-01 トヨタ自動車株式会社 運転支援装置、運転支援システム、運転支援方法およびプログラム
JP7243478B2 (ja) * 2019-06-24 2023-03-22 トヨタ自動車株式会社 車両用情報記録装置
JP2022122379A (ja) * 2021-02-10 2022-08-23 トヨタ自動車株式会社 車両用画像処理システム、車両及び画像送信方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015219569A (ja) 2014-05-14 2015-12-07 株式会社デンソー 境界線認識装置および境界線認識プログラム
JP2017043262A (ja) 2015-08-28 2017-03-02 トヨタ自動車株式会社 衝突回避支援装置
WO2018016305A1 (ja) 2016-07-22 2018-01-25 パナソニックIpマネジメント株式会社 撮像システム、および、移動体システム
JP2018195951A (ja) 2017-05-16 2018-12-06 パナソニックIpマネジメント株式会社 撮像システム及び移動体制御システム
US20190124273A1 (en) 2017-10-19 2019-04-25 Robert Bosch Gmbh Environmental acquisition system for acquiring a surrounding environment of a vehicle, and method for acquiring a surrounding environment of a vehicle
JP2019110517A (ja) 2017-12-19 2019-07-04 パナソニックIpマネジメント株式会社 撮像装置、表示システム、および撮像システム

Also Published As

Publication number Publication date
JP2022086516A (ja) 2022-06-09
CN114572113A (zh) 2022-06-03
US11760275B2 (en) 2023-09-19
DE102021131051B4 (de) 2023-07-20
CN114572113B (zh) 2024-01-30
DE102021131051A1 (de) 2022-06-02
US20220171275A1 (en) 2022-06-02

Similar Documents

Publication Publication Date Title
JP7400705B2 (ja) 撮像システム及び撮像装置
JP5172314B2 (ja) ステレオカメラ装置
EP3361721B1 (en) Display assistance device and display assistance method
US10956757B2 (en) Image processing device, outside recognition device
US20210084260A1 (en) Vehicular control system with forward viewing camera and forward and rearward sensing sensors
US9435879B2 (en) Alert display device and alert display method
US8461976B2 (en) On-vehicle device and recognition support system
US11210533B1 (en) Method of predicting trajectory of vehicle
JP5953824B2 (ja) 車両用後方視界支援装置及び車両用後方視界支援方法
JP5213063B2 (ja) 車両表示装置および表示方法
US20180316850A1 (en) Method and Device for Determining Concealed Regions in the Vehicle Environment of a Vehicle
JP2007064804A (ja) 車両用障害物検出装置
JP4712562B2 (ja) 車両の前方立体物認識装置
JP2002366937A (ja) 車外監視装置
WO2019202628A1 (ja) 路面検出装置、路面検出装置を利用した画像表示装置、路面検出装置を利用した障害物検知装置、路面検出方法、路面検出方法を利用した画像表示方法、および路面検出方法を利用した障害物検知方法
JP6253467B2 (ja) 画像処理装置および画像処理プログラム
CN110949254A (zh) 车辆的行驶环境检测装置及行驶控制系统
JP2017129543A (ja) ステレオカメラ装置及び車両
JP2019001298A (ja) 衝突判定装置
US20230140228A1 (en) Image control system
JP2009246808A (ja) 車両用周辺監視装置
JP2005267331A (ja) 車両周囲監視装置
JP4598011B2 (ja) 車両用表示装置
CN112208438B (zh) 行车辅助影像产生方法及系统
JP2000030181A (ja) 路面異常検出装置及びそれを用いた衝突警報装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220920

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231120

R151 Written notification of patent or utility model registration

Ref document number: 7400705

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151