CN114572113B - 拍摄系统、拍摄装置及驾驶支援装置 - Google Patents

拍摄系统、拍摄装置及驾驶支援装置 Download PDF

Info

Publication number
CN114572113B
CN114572113B CN202111431808.1A CN202111431808A CN114572113B CN 114572113 B CN114572113 B CN 114572113B CN 202111431808 A CN202111431808 A CN 202111431808A CN 114572113 B CN114572113 B CN 114572113B
Authority
CN
China
Prior art keywords
vehicle
azimuth
range
imaging
degrees
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111431808.1A
Other languages
English (en)
Other versions
CN114572113A (zh
Inventor
饭田智阳
堀内尚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Publication of CN114572113A publication Critical patent/CN114572113A/zh
Application granted granted Critical
Publication of CN114572113B publication Critical patent/CN114572113B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B13/00Optical objectives specially designed for the purposes specified below
    • G02B13/06Panoramic objectives; So-called "sky lenses" including panoramic objectives having reflecting surfaces
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/02Mountings, adjusting means, or light-tight connections, for optical elements for lenses
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B30/00Camera modules comprising integrated lens units and imaging units, specially adapted for being embedded in other devices, e.g. mobile phones or vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Traffic Control Systems (AREA)

Abstract

拍摄系统、拍摄装置及驾驶支援装置,不使图像传感器的像素数大幅增加就能合适地拍摄车辆的斜前方的立体物。拍摄系统具备有小于180度的第1水平视场角的前方相机传感器(30)和有180度以上的第2水平视场角的图像生成用相机传感器(20F)。后者具备:包括拍摄面(22a)的图像传感器(22);和光学系统(21),包括透镜(21a),使来自被拍摄体的光成像于拍摄面。图像传感器具有:特定区域,是来自位于斜侧方方位角范围的被拍摄体的光在拍摄面成像的区域,该斜侧方方位角范围是从基于规定第1水平视场角的边界方位角决定的方位角到与车辆的斜前方方向对应的方位角的范围;和剩余区域,是来自位于剩余方位角范围的被拍摄体的光在拍摄面成像的区域,剩余方位角范围是从第2水平视场角除去斜侧方方位角范围的范围。透镜具有特定区域的水平像素密度比剩余区域大的曲面。

Description

拍摄系统、拍摄装置及驾驶支援装置
技术领域
本发明涉及能够对存在于车辆的斜前方的立体物进行拍摄的拍摄系统及拍摄装置。
背景技术
以往,已知有如下技术:检测存在于车辆的前方的立体物,进行避免车辆与该立体物的碰撞或减轻由碰撞带来的冲击的控制(碰撞回避控制)(例如,参照专利文献1)。立体物的检测,通过使用拍摄装置对车辆的前方进行拍摄并对通过拍摄而得到的图像数据进行解析来进行。该拍摄装置的光轴与车辆的前后轴(将车辆的车宽垂直地二等分且平行于接地面的轴)平行,该拍摄装置的水平视场角例如为100度。
现有技术文献
专利文献
专利文献1:日本特开2017-043262号公报
发明内容
根据以往的技术,由于拍摄装置的水平视场角例如为100度,因此,对于位于比该视场角靠外侧的区域(到靠近车辆的斜前方、车辆侧方的方向为止的区域)的立体物,难以合适地进行碰撞回避控制。
对此,例如,可使拍摄装置构成为具有比以往广的水平视场角(例如180度)。然而,若在维持着拍摄装置的像素数(严格来说,拍摄装置所具备的图像传感器的像素数)的情况下扩大水平视场角,则每单位水平视场角的像素数会变少。其结果,图像的解析度(能够通过解析图像数据来检测出立体物的能力)降低,因此,能够检测出立体物的距离的界限值(检测界限距离)变短。
于是,考虑采用扩大水平视场角并且使图像传感器的像素数增加的拍摄装置。然而,若使图像传感器的像素数大幅增加,则会产生导致拍摄装置的成本大幅上升、拍摄装置大型化、电力消耗量及发热量增大这样的问题。
本发明是为了应对上述的问题而完成的。即,本发明的目的之一在于,提供一种不使图像传感器的像素数大幅增加就能够合适地对存在于车辆的斜前方的立体物进行拍摄的拍摄系统及拍摄装置。
本发明的拍摄系统(以下,也称作“第1发明系统”),是车辆的拍摄系统,具备:
前方相机传感器(30),具有在将作为与车辆(V)的前后轴平行的轴的基准轴(A)的方位设为基准方位时,水平视场角小于180度的预定的第1水平视场角(100度),所述前方相机传感器以所述第1水平视场角(100度)包含于比与车辆(V)的左右方向对应的方位角(90度、-90度)靠所述车辆(V)的前方的区域的方式设置于所述车辆(V),且通过对来自位于所述车辆(V)的前方的被拍摄体中的位于所述第1水平视场角(100度)内的被拍摄体的光进行光电变换而变换为电信号,来取得在所述车辆(V)的驾驶支援控制中所使用的前方窄域图像数据;和
图像生成用相机传感器(20F、120L、120R),具有水平视场角为180度以上的预定的第2水平视场角(180度),所述图像生成用相机传感器设置于所述车辆(V),且通过对来自位于所述车辆(V)的周围的被拍摄体中的位于所述第2水平视场角(180度)内的被拍摄体的光进行光电变换而变换为电信号,来取得为了生成所述车辆(V)的俯瞰图像而使用的周边广域图像数据,
其中,
所述图像生成用相机传感器(20F、120L、120R)具备:图像传感器(22、122L、122R),包括分别进行所述光电变换的多个像素呈二维状排列的拍摄面(22a、122aL、122aR);和光学系统(21、121L、121R),包括透镜(21a、121aL、121aR),使来自被拍摄体的光成像于所述拍摄面,
所述图像传感器(22、122L、122R)具有:特定区域(S1、S3、S5),是来自位于斜侧方方位角范围(第1范围、第3范围、第5范围)内的被拍摄体的光在所述拍摄面成像的区域,该斜侧方方位角范围是从基于规定所述第1水平视场角(100度)的边界线的方位角即边界方位角(50度、-50度)决定的预定的方位角(52度、-52度)到与所述车辆(V)的斜前方方向对应的方位角(80度、-80度)为止的范围;和剩余区域(S2、S4、S6),是来自位于剩余方位角范围(第2范围、第4范围、第6范围)内的被拍摄体的光在所述拍摄面成像的区域,该剩余方位角范围是从所述第2水平视场角(180度)除去所述斜侧方方位角范围后的范围,
所述透镜(21a、121aL、121aR),是具有构成为所述特定区域(S1、S3、S5)中的每单位水平视场角的像素数即水平像素密度比所述剩余区域(S2、S4、S6)中的水平像素密度大的曲面的透镜,
所述拍摄系统构成为,由所述图像生成用相机传感器(20F、120L、120R)取得的所述周边广域图像数据能够在所述车辆的驾驶支援控制中使用。
根据第1发明系统,特定区域中的解析度比剩余区域中的解析度高,所以,斜侧方方位角范围中的立体物的检测界限距离比剩余方位角范围中的立体物的检测界限距离长。在此,斜侧方方位角范围是与车辆的斜前方对应的范围。因而,第1发明系统能够至较远处对存在于车辆的斜前方的立体物进行拍摄。
除此之外,剩余区域中的水平像素密度比特定区域中的水平像素密度小,所以,相比于使剩余区域中的水平像素密度与特定区域中的水平像素密度为同等水平像素密度的构成,能够抑制图像传感器的像素数的大幅增加。
因此,根据第1发明系统的构成,不使图像传感器的像素数大幅增加,就能够合适地对存在于车辆的斜前方的立体物进行拍摄。
尤其是,根据第1发明系统,通过对图像生成用相机传感器应用具有上述曲面的透镜,使得“至较远处对存在于车辆的斜前方的立体物进行拍摄”成为了可能。在此,图像生成用相机传感器以往就是设置于车辆的相机传感器。因而,无需新导入用于对斜前方进行拍摄的相机传感器,能够以较低成本实现第1发明系统。
除此之外,根据第1发明系统,周边广域图像数据构成为能够在驾驶支援控制中使用。因而,对于位于以往难以合适地进行驾驶支援控制(例如碰撞回避控制)的区域(典型地,车辆的斜前方的区域)的立体物,也能够合适地执行驾驶支援控制。
本发明的拍摄装置(以下,也称作“第2发明装置”),
能够设置于车辆(V)的前方部分(P1),
具备:
图像传感器(22),构成为包括多个像素呈二维状排列的拍摄面(22a),所述多个像素分别对接受到的光进行光电变换而变换为电信号并输出;和
光学系统(21),包括透镜(21a),使来自被拍摄体的光成像于所述拍摄面(22a),
所述拍摄装置,以水平视场角成为180度以上的方式,设定了所述拍摄面(22a)的尺寸及所述透镜(21a)的焦距。
在将作为通过在所述车辆(V)上的设置位置(P1)且与所述车辆(V)的前后轴平行的轴的基准轴(A)的方位设为基准方位时,将所述水平视场角中的比所述基准轴(A)靠左侧的方位角(θf)规定为正值,将比所述基准轴(A)靠右侧的方位角(θf)规定为负值的情况下,
所述基准轴(A)包含于垂直视场角,
所述拍摄面(22a)包括:第1区域(S1),是与包含于大于45度且小于90度的方位角范围的左侧第1范围(52度≤θf≤80度)及包含于大于-90度且小于-45度的方位角范围的右侧第1范围(-80度≤θf≤-52度)对应的区域;和第2区域(S2),是与所述水平视场角中的除所述左侧第1范围及所述右侧第1范围之外的方位角范围即第2范围(0度≤θf<52度、80度<θf≤90度、-90度≤θf<-80度及-52度<θf≤0度)对应的区域,
所述透镜(21a),具有构成为所述第1区域(S1)中的每单位水平视场角的像素数即水平像素密度比所述第2区域(S2)中的水平像素密度大的曲面。
根据第2发明装置,第1区域中的解析度比第2区域中的解析度高,所以,左侧第1范围及右侧第1范围中的立体物的检测界限距离比第2范围中的立体物的检测界限距离长。在此,左侧第1范围是包含于大于45度且小于90度的方位角范围的范围,右侧第1范围是包含于大于-90度且小于-45度的方位角范围的范围。即,左侧第1范围是与车辆的左斜前方对应的范围,右侧第1范围是与车辆的右斜前方对应的范围。因而,第2发明装置能够与“存在于车辆的前方及前方部分侧方的立体物”相比,至相对更远处对“存在于车辆的斜前方的立体物”进行拍摄。
除此之外,第2区域中的水平像素密度比第1区域中的水平像素密度小,所以,相比于使第2区域中的水平像素密度与第1区域中的水平像素密度为同等水平像素密度的构成,能够抑制图像传感器的像素数的大幅增加。
因此,根据第2发明装置的构成,不使图像传感器的像素数大幅增加,就能够合适地对存在于车辆的斜前方的立体物进行拍摄。
此外,立体物的检测既可以由拍摄装置来进行,也可以由能够连接于拍摄装置的图像处理装置来进行。
本发明的一方式的驾驶支援装置,具备第2发明装置(20F),且还具备:
左侧拍摄装置(20L),能够设置于所述车辆(V)的左侧方部分(P2);
右侧拍摄装置(20R),能够设置于所述车辆(V)的右侧方部分(P3);
后方拍摄装置(20Re),能够设置于所述车辆(V)的后方部分(P4);及
图像处理装置(10)。
所述左侧拍摄装置(20L)、所述右侧拍摄装置(20R)及所述后方拍摄装置(20Re)的水平视场角均为180度以上。
所述图像处理装置(10)构成为,
取得由所述拍摄装置(20F)对所述车辆的前方、斜前方及前方部分侧方进行拍摄而得到的图像数据、由所述左侧拍摄装置(20L)对所述车辆的左侧方进行拍摄而得到的图像数据、由所述右侧拍摄装置(20R)对所述车辆的右侧方进行拍摄而得到的图像数据、及由所述后方拍摄装置(20Re)对所述车辆的后方、斜后方及后方部分侧方进行拍摄而得到的图像数据,
基于所取得的上述图像数据来生成俯瞰图像。
根据该构成,第2发明装置也作为在俯瞰图像的生成中所使用的拍摄装置发挥功能。因而,仅对以往设置于车辆的前方部分的俯瞰图像生成用的拍摄装置的规格进行局部变更(例如,将透镜变更为第2发明装置的透镜)即可,无需新导入拍摄装置。因此,能够以较低成本实现第2发明装置。
在本发明的一方式下,
所述拍摄装置(20F)的所述拍摄面(22a)的所述第2区域(S2)中的所述水平像素密度,为所述后方拍摄装置(20Re)所具备的拍摄面的水平像素密度以上。
根据该构成,防止在将俯瞰图像显示于任意的显示器时,因第2发明装置的透镜具有上述曲面而俯瞰图像的画质劣化的情况。
本发明的拍摄装置(以下,也称作“第3发明装置”),
能够设置于车辆(V)的左侧方部分(P2),
具备:
图像传感器(122L),构成为包括多个像素呈二维状排列的拍摄面(122aL),所述多个像素分别对接受到的光进行光电变换而变换为电信号并输出;和
光学系统(121L),包括透镜(121aL),使来自被拍摄体的光成像于所述拍摄面(122aL),
所述拍摄装置,以水平视场角成为180度以上的方式,设定了所述拍摄面(122aL)的尺寸及所述透镜(121aL)的焦距。
在将作为通过在所述车辆(V)上的设置位置(P2)且与所述车辆(V)的前后轴平行的轴的基准轴(A1)的方位设为基准方位时,将所述水平视场角中的比所述基准轴(A1)靠左侧的方位角(θl)规定为正值,将比所述基准轴(A1)靠右侧的方位角(θl)规定为负值的情况下,
所述基准轴(A1)包含于垂直视场角,
所述拍摄面(122aL)包括:第3区域(S3),是与包含于大于45度且小于90度的方位角范围的第3范围(52度≤θl≤80度)对应的区域;和第4区域(S4),是与所述水平视场角中的除所述第3范围之外的方位角范围即第4范围(0度≤θl<52度、80度<θl≤90度)对应的区域,
所述透镜(121aL),具有构成为所述第3区域(S3)中的每单位水平视场角的像素数即水平像素密度比所述第4区域(S4)中的水平像素密度大的曲面。
根据第3发明装置,第3范围中的立体物的检测界限距离比第4范围中的立体物的检测界限距离长。在此,第3范围是包含于大于45度且小于90度的方位角范围的范围,所以,是与车辆的左斜前方对应的范围。因而,第2发明装置,能够与“存在于车辆的前方的立体物”相比,至相对更远处对“存在于车辆的左斜前方的立体物”进行拍摄。
除此之外,第4区域中的水平像素密度比第3区域中的水平像素密度小,所以,相比于使第4区域中的水平像素密度与第3区域中的水平像素密度为同等水平像素密度的构成,能够抑制图像传感器的像素数的大幅增加。
因此,根据第3发明装置的构成,不使图像传感器的像素数大幅增加,就能够合适地对存在于车辆的左斜前方的立体物进行拍摄。
本发明的一方式的驾驶支援装置,具备第3发明装置(120L),且还具备:
前方拍摄装置(120F),能够设置于所述车辆(V)的前方部分(P1);
右侧拍摄装置(20R),能够设置于所述车辆(V)的右侧方部分(P3);
后方拍摄装置(20Re),能够设置于所述车辆(V)的后方部分(P4);及
图像处理装置(10)。
所述前方拍摄装置(120F)、所述右侧拍摄装置(20R)及所述后方拍摄装置(20Re)的水平视场角均为180度以上。
所述图像处理装置(10)构成为,
取得由所述前方拍摄装置(120F)对所述车辆的前方、斜前方及前方部分侧方进行拍摄而得到的图像数据、由所述拍摄装置(120L)对所述车辆的左侧方进行拍摄而得到的图像数据、由所述右侧拍摄装置(20R)对所述车辆的右侧方进行拍摄而得到的图像数据、及由所述后方拍摄装置(20Re)对所述车辆的后方、斜后方及后方部分侧方进行拍摄而得到的图像数据,
基于所取得的上述图像数据来生成俯瞰图像。
根据该构成,第3发明装置也作为在俯瞰图像的生成中所使用的拍摄装置发挥功能。因而,仅对以往设置于车辆的左侧方部分的俯瞰图像生成用的拍摄装置的规格进行局部变更(例如,将透镜变更为第3发明装置的透镜)即可,无需新导入拍摄装置。因此,能够以较低成本实现第3发明装置。
本发明的拍摄装置(以下,也称作“第4发明装置”),
能够设置于车辆(V)的右侧方部分(P3),
具备:
图像传感器(122R),构成为包括多个像素呈二维状排列的拍摄面(122aR),所述多个像素分别对接受到的光进行光电变换而变换为电信号并输出;和
光学系统(121R),包括透镜(121aR),使来自被拍摄体的光成像于所述拍摄面(122aR),
所述拍摄装置,以水平视场角成为180度以上的方式,设定了所述拍摄面(122aR)的尺寸及所述透镜(121aR)的焦距。
在将作为通过在所述车辆(V)上的设置位置(P3)且与所述车辆(V)的前后轴平行的轴的基准轴(A2)的方位设为基准方位时,将所述水平视场角中的比所述基准轴(A2)靠右侧的方位角(θr)规定为正值,将比所述基准轴(A2)靠左侧的方位角(θr)规定为负值的情况下,
所述基准轴(A2)包含于垂直视场角,
所述拍摄面(122aR)包括:第5区域(S5),是与包含于大于45度且小于90度的方位角范围的第5范围(52度≤θr≤80度)对应的区域;和第6区域(S6),是与所述水平视场角中的除所述第5范围之外的方位角范围即第6范围(0度≤θr<52度、80度<θr≤90度)对应的区域,
所述透镜(121aR),具有构成为所述第5区域(S5)中的每单位水平视场角的像素数即水平像素密度比所述第6区域(S6)中的水平像素密度大的曲面。
根据第4发明装置,第5范围中的立体物的检测界限距离比第6范围中的立体物的检测界限距离长。在此,第5范围是包含于大于45度且小于90度的方位角范围的范围,所以,是与车辆的右斜前方对应的范围。因而,第3发明装置,能够与“存在于车辆的前方的立体物”相比,至相对更远处对“存在于车辆的右斜前方的立体物”进行拍摄。
除此之外,第6区域中的水平像素密度比第5区域中的水平像素密度小,所以,相比于使第6区域中的水平像素密度与第5区域中的水平像素密度为同等水平像素密度的构成,能够抑制图像传感器的像素数的大幅增加。
因此,根据第4发明装置的构成,不使图像传感器的像素数大幅增加,就能够合适地对存在于车辆的右斜前方的立体物进行拍摄。
本发明的一方式的驾驶支援装置,具备第4发明装置(120R),且还具备:
前方拍摄装置(120F),能够设置于所述车辆(V)的前方部分(P1);
左侧拍摄装置(20L),能够设置于所述车辆(V)的左侧方部分(P2);
后方拍摄装置(20Re),能够设置于所述车辆(V)的后方部分(P4);及
图像处理装置(10)。
所述前方拍摄装置(120F)、所述左侧拍摄装置(20L)及所述后方拍摄装置(20Re)的水平视场角均为180度以上。
所述图像处理装置(10)构成为,
取得由所述前方拍摄装置(120F)对所述车辆的前方、斜前方及前方部分侧方进行拍摄而得到的图像数据、由所述左侧拍摄装置(20L)对所述车辆的左侧方进行拍摄而得到的图像数据、由所述拍摄装置(120R)对所述车辆的右侧方进行拍摄而得到的图像数据、及由所述后方拍摄装置(20Re)对所述车辆的后方、斜后方及后方部分侧方进行拍摄而得到的图像数据,
基于所取得的上述图像数据来生成俯瞰图像。
根据该构成,第4发明装置也作为在俯瞰图像的生成中使用的拍摄装置发挥功能。因而,仅对以往设置于车辆的右侧方部分的俯瞰图像生成用的拍摄装置的规格进行局部变更(例如将透镜变更为第4发明装置的透镜)即可,无需新导入拍摄装置。因此,能够以较低成本实现第4发明装置。
在本发明的一方式下,
所述拍摄装置(120L、120R)的所述拍摄面(122aL、122aR)的所述第4区域(S4)或所述第6区域(S6)中的所述水平像素密度为所述后方拍摄装置(20Re)所具备的拍摄面的水平像素密度以上。
根据该构成,防止在将俯瞰图像显示于任意的显示器时,因第3发明装置或第4发明装置的透镜具有上述曲面而俯瞰图像的画质劣化的情况。
在上述说明中,为了帮助理解发明,对于与实施方式对应的发明的构成要件,以写在括号里的方式添加了在实施方式中使用的标号,但发明的各构成要件不限定于由所述标号所规定的实施方式。
附图说明
图1是本发明的第1实施方式的具备前方PVM相机传感器的驾驶支援装置的概略构成图。
图2是前方PVM相机传感器的概略构成图。
图3是前方PVM相机传感器的拍摄范围的俯视图。
图4是示出在拍摄面中左侧第1光及右侧第1光比第2光在水平方向上扩大成像的图。
图5是规定了前方PVM相机传感器的方位角与水平像素密度的关系的图表。
图6是前方相机传感器的拍摄范围的俯视图。
图7是示出在自身车辆进入到交叉路口的情况下3秒后会发生碰撞的各种立体物相对于自身车辆的相对分布的俯视图。
图8是将前方PVM相机传感器的拍摄范围及作为比较例的2个相机传感器的拍摄范围重叠于图7的俯视图。
图9是本发明的第2实施方式的具备左侧PVM相机传感器及右侧PVM相机传感器的驾驶支援装置的概略构成图。
图10是左侧及右侧PVM相机传感器的概略构成图。
图11是左侧及右侧PVM相机传感器的拍摄范围的俯视图。
图12A是示出在拍摄面中第3光比第4光在水平方向上扩大而成像的图。
图12B是示出在拍摄面中第5光比第6光在水平方向上扩大而成像的图。
图13是规定了左侧及右侧PVM相机传感器的方位角与水平像素密度的关系的图表。
图14是将左侧及右侧PVM相机传感器的拍摄范围及作为比较例的2个相机传感器的拍摄范围重叠于图7的俯视图。
具体实施方式
(第1实施方式)
以下,参照附图,对本发明的第1实施方式的具备作为拍摄装置的前方PVM(PVM:Panoramic View Monitor:全景影像监控)相机传感器的驾驶支援装置进行说明。驾驶支援装置适用于车辆。以下,为了将该车辆与其他车辆区别,有时将其称作“自身车辆”。
如图1所示,驾驶支援装置具备驾驶支援ECU10(以下,简称作“ECU10”)。ECU是“Electronic Control Unit”的简称,具备微型计算机作为主要部分。微型计算机包括CPU、ROM、RAM及接口(I/F)等。CPU通过执行储存于ROM的指令(程序、例程)来实现各种功能。驾驶支援装置还具备分别连接于ECU10的“PVM相机传感器20、前方相机传感器30、车速传感器40、偏航率(yaw rate)传感器41、变速位置(档位)传感器42、PVM开关43、碰撞回避装置50及显示装置60”。
ECU10基于从设置于自身车辆的多处的PVM相机传感器20输出的图像数据来生成俯瞰图像及行进方向图像(均在后面进行叙述),根据自身车辆的驾驶员的操作,将这些图像显示于显示装置60所具备的显示器60a。除此之外,ECU10还基于从“前方相机传感器30及PVM相机传感器20所具备的前方PVM相机传感器20F”输出的图像数据,大范围地检测存在于自身车辆的前方、自身车辆的斜前方及自身车辆的前端中央部的侧方的立体物。ECU10基于从传感器40及41取得的信号来判定是否自身车辆有可能与立体物碰撞。并且,在判定为有可能碰撞的情况下,ECU10控制碰撞回避装置50而执行碰撞回避控制。即,本实施方式的驾驶支援装置,将以往仅在俯瞰图像及行进方向图像的生成中使用的前方PVM相机传感器20F也用于碰撞回避控制。如后详述的那样,“前方PVM相机传感器20F在碰撞回避控制上的利用”,通过将具有自由曲面的透镜21a适用于前方PVM相机传感器20F而成为可能。
PVM相机传感器20具备前方PVM相机传感器20F、左侧PVM相机传感器20L、右侧PVM相机传感器20R及后方PVM相机传感器20Re。以下,也将这些相机传感器分别简称作“相机传感器20F”、“相机传感器20L”、“相机传感器20R”及“相机传感器20Re”。
前方PVM相机传感器20F设置于自身车辆的前端中央部的位置P1(参照图3)。更详细地说,相机传感器20F设置成,其光学系统21(后述)的光轴在位置P1处相对于自身车辆的前后轴以大约10度朝向下方。此外,相机传感器20F的设置角度不限于此。例如,相机传感器20F可设置成,在位置P1处光轴相对于前后轴以0度以上且20度以下的任意角度朝向下方。
如图2所示,相机传感器20F具备光学系统21、图像传感器22、信号处理电路23。
光学系统21包括鱼眼透镜21a,使来自被拍摄体的光成像于后述的拍摄面22a。鱼眼透镜21a是采用等距离投影方式的透镜,外表面具有预定的曲面(非旋转对称的自由曲面)。关于鱼眼透镜21a的详细构成在后面叙述。
图像传感器22包括多个像素在水平方向及垂直方向上(即呈二维状)以等间隔排列的拍摄面22a。拍摄面22a的尺寸设定成,水平方向的像素数为1920[pix],垂直方向的像素数为1440[pix]。由此,图像传感器22的像素数为大约2.8M[pix]。这些像素分别构成为,将经由光学系统21接受到的光变换为电信号并输出。以下,在将某图像传感器的像素数记载为A×B[pix]的情况下,A表示水平方向的像素数,B表示垂直方向的像素数。此外,图像传感器22的像素数不限于此,例如,也可以为大约3M(1920×1536)[pix]。垂直方向的像素数优选为1440[pix]以上。
信号处理电路23通过对从图像传感器22输出的电信号进行伽玛校正(gammacorrection)及畸变校正(distortion correction)等处理而生成被拍摄体的图像数据(即对被拍摄体进行拍摄),将该图像数据经由接口向ECU10输出(参照图1)。信号处理电路23例如在点火开关被设定在接通位置的期间(以下,也称作“工作期间”)中,每当经过预定的运算周期时进行该处理。
鱼眼透镜21a的焦距及拍摄面22a的尺寸预先设计成,相机传感器20F的水平视场角成为180度,垂直视场角成为135度。由此,相机传感器20F能够对位于自身车辆的前方、斜前方及前端中央部的侧方(左右方向)的区域的被拍摄体进行拍摄。这样,相机传感器20F的水平视场角极广。因而,以下,将由相机传感器20F拍摄而得到的图像数据称作“前方广域图像数据”。此外,相机传感器20F相当于“图像生成用相机传感器”的一例,并且相当于能够设置于车辆的前方部分的“拍摄装置”的一例。相机传感器20F的水平视场角相当于“第2水平视场角”的一例,前方广域图像数据相当于“周边广域图像数据”的一例。
返回图1继续说明。左侧PVM相机传感器20L设置于自身车辆的左侧侧视镜的附近的位置P2(参照图3)。更详细地说,相机传感器20L设置成,其光学系统的光轴在位置P2处相对于自身车辆的左右轴以大约60度朝向下方。在此,左右轴是在车宽方向上延伸的轴。即,左右轴与前后轴正交且平行于接地面。
右侧PVM相机传感器20R设置于自身车辆的右侧侧视镜的附近的位置P3(参照图3)。更详细地说,相机传感器20R设置成,其光学系统的光轴在位置P3处相对于自身车辆的左右轴以大约60度朝向下方。
后方PVM相机传感器20Re设置于自身车辆的后端中央部的位置P4(参照图3)。更详细地说,相机传感器20Re设置成,其光学系统的光轴在位置P4处相对于自身车辆的前后轴以大约10度朝向下方。此外,相机传感器20Re的设置角度不限于此。例如,相机传感器20Re可设置成,在位置P4处光轴相对于前后轴以0度以上且20度以下的任意角度朝向下方。
相机传感器20L具备光学系统、图像传感器、信号处理电路(均省略图示)。该光学系统包括采用等距离投影方式的鱼眼透镜(省略图示)。相机传感器20L的光学系统、图像传感器及信号处理电路的功能与相机传感器20F的光学系统21、图像传感器22及信号处理电路23的功能是同样的,但在以下的2点不同。
·相机传感器20L的鱼眼透镜具有旋转对称的曲面。
·相机传感器20L的图像传感器的像素数为大约1.2M(1280×960)[pix],比图像传感器22的像素数(大约2.8M[pix])少。
此外,以下,也将“图像传感器的像素数”简称作“相机传感器的像素数”。
相机传感器20L的鱼眼透镜的焦距及拍摄面的尺寸预先设计成,相机传感器20L的水平视场角成为180度,垂直视场角成为135度。由此,相机传感器20L能够对位于自身车辆的左侧方区域的被拍摄体进行拍摄。以下,将由相机传感器20L拍摄而得到的图像数据称作“左方广域图像数据”。
相机传感器20R及20Re具有与相机传感器20L大致相同的构成,所以,省略其详细说明。相机传感器20R及20Re均具有180度的水平视场角及135度的垂直视场角。由此,相机传感器20R能够对位于自身车辆的右侧方区域的被拍摄体进行拍摄。相机传感器20Re能够对自身车辆的后方、自身车辆的斜后方及自身车辆的后端中央部的侧方的被拍摄体进行拍摄。以下,将由相机传感器20R及20Re拍摄而得到图像数据分别称作“右方广域图像数据”及“后方广域图像数据”。此外,相机传感器20L、相机传感器20R及相机传感器20Re分别相当于“左侧拍摄装置”“右侧拍摄装置”及“后方拍摄装置”的一例。
前方相机传感器30(以下,也简称作“相机传感器30”)在自身车辆的车室镜(内部视镜/后视镜)的背面的位置P5设置成,相机传感器30位于自身车辆的车宽方向中央(参照图3)。更详细地说,相机传感器30设置成,其光学系统(后述)的光轴在位置P5处成为与自身车辆的前后轴大致平行。相机传感器30具备光学系统、图像传感器、信号处理电路(均省略图示)。该光学系统包括具有旋转对称的曲面的广角透镜(省略图示)。该图像传感器的像素数为大约1.2M(1280×960)[pix],与相机传感器20L、20R及20Re的图像传感器的像素数相同。相机传感器30的光学系统、图像传感器及信号处理电路的功能与相机传感器20F、20L、20R及20Re的光学系统、图像传感器及信号处理电路的功能是同样的。
相机传感器30的广角透镜的焦距及拍摄面的尺寸预先设计成,相机传感器30的水平视场角成为100度,垂直视场角成为75度。由此,相机传感器30能够对自身车辆的前方的被拍摄体进行拍摄。相机传感器30的水平视场角比相机传感器20F的水平视场角窄。因而,以下,将由相机传感器30拍摄而得到的图像数据称作“前方窄域图像数据”。由相机传感器20F和相机传感器30构成了拍摄系统。此外,相机传感器30的水平视场角相当于“第1水平视场角”的一例。
车速传感器40产生与自身车辆的行驶速度(车速)相应的信号。ECU10取得车速传感器40产生的信号,基于该信号运算车速。
偏航率传感器41产生与作用于自身车辆的偏航率相应的信号。ECU10取得偏航率传感器41产生的信号,基于该信号运算偏航率。
变速位置传感器42产生与未图示的换档杆的变速位置(D、N、R或P)相应的信号。ECU10取得变速位置传感器42产生的信号,基于该信号检测变速位置。
PVM开关43设置于未图示的方向盘的附近,可在使PVM图像(后述)显示于显示装置60的显示器60a时由驾驶员按下。PVM开关43在被驾驶员按下了时产生接通信号,在未被按下时产生断开信号。ECU10取得PVM开关43产生的信号,基于该信号,检测PVM开关43是处于接通还是断开的状态。
碰撞回避装置50,在从ECU10接收到碰撞回避指令时,执行碰撞回避控制。碰撞回避控制是如下控制:在有可能与自身车辆碰撞的立体物存在于自身车辆的前方、斜前方及前端中央部侧方的情况下,执行向驾驶员发出警报的警报控制、对自身车辆自动地赋予制动力的自动制动控制、和/或自动地变更自身车辆的方向盘的转舵角的自动掌舵控制。这些控制均为周知的控制,所以省略详细说明。
显示装置60具备设置于驾驶员能够看到的位置的显示器60a。显示装置60当从ECU10接收到PVM图像(后述)的显示指令时,将PVM图像显示于显示器60a。在本实施方式中,作为显示器60a,使用导航系统(省略图示)所具备的触摸面板。显示器60a的分辨率设定为1280[pix]×960[pix]。此外,作为显示器60a,也可以使用导航系统的触摸面板以外的显示器。
ECU10从相机传感器20F、20L、20R及20Re以及相机传感器30,分别取得“前方广域图像数据”“左方广域图像数据”“右方广域图像数据”及“后方广域图像数据”以及“前方窄域图像数据”,基于所取得的图像数据(即对图像数据进行图像处理),进行(1)PVM图像的生成及显示指令发送处理、以及(2)立体物的检测、碰撞判定及碰撞回避指令发送处理。以下,进行具体说明。
(1)PVM图像的生成及显示指令发送处理
ECU10生成PVM图像。在此,所谓PVM,是在自身车辆通过驾驶员的驾驶操作而以较低速行驶着的情况下,在显示画面(在本实施方式中是显示器60a)显示自身车辆的周边区域的功能。PVM图像是为了用于PVM而生成的图像,包括俯瞰图像及行进方向图像等。行进方向图像包括前进方向图像及后退方向图像。
俯瞰图像通过将前方广域图像数据、左方广域图像数据、右方广域图像数据及后方广域图像数据、以及预先储存于ECU10的ROM的自身车辆的俯视图像(俯视自身车辆而得到的图像)合成而生成。在此,所谓俯瞰图像,意味着像从正上方俯瞰自身车辆及其周边区域那样看到的图像,不意味着实际俯瞰时的图像。此外,ECU10在工作期间中,每当经过运算周期时生成俯瞰图像。
前进方向图像基于前方广域图像数据而生成。前进方向图像是对自身车辆的前方、斜前方及前端中央部的侧方进行拍摄而得到的图像。ECU10在自身车辆前进中或在前进中停止并持续着停止状态的期间中(即变速位置为D或N的期间中),每当经过运算周期时生成前进方向图像。
后退方向图像基于后方广域图像数据而生成。后退方向图像是对自身车辆的后方、斜后方及后端中央部的侧方进行拍摄而得到的图像。ECU10在自身车辆后退中或在后退中停止并持续着停止状态的期间中(即变速位置为R的情况下),每当经过运算周期时生成后退方向图像。
ECU10在以下所述的预定的条件下将上述的图像分别显示于显示器60a的预定的区域。具体地说,ECU10基于从车速传感器40、变速位置传感器42及PVM开关43取得的信息,在车速为预定的车速阈值(例如12[km/h])以下且变速位置为D或N时判定为PVM开关43被按下了的情况下,向显示装置60发送显示俯瞰图像及前进方向图像的显示指令。显示装置60当接收到该显示指令时,在显示器60a的预定的区域分别显示俯瞰图像及前进方向图像(省略图示)。在此,所谓“预定的区域”,是预先划分出的具有固定尺寸的区域,在本实施方式中,表示将显示器60a左右一分为二时的左侧的区域和右侧的区域。显示装置60在左侧的区域显示俯瞰图像,在右侧的区域显示前进方向图像。
另一方面,ECU10基于从车速传感器40、变速位置传感器42及PVM开关43取得的信息,在车速为车速阈值以下且变速位置为R时判定为PVM开关43被按下了的情况下,向显示装置60发送显示俯瞰图像及后退方向图像的显示指令。显示装置60当接收到该显示指令时,在显示器60a的上述左侧的区域显示俯瞰图像,在上述右侧的区域显示后退方向图像(省略图示)。
此时,在显示器60a显示用于切换显示图像的标记。当乘员触碰该标记时,ECU10向显示装置60发送显示后退方向图像的显示指令。显示装置60当接收到该显示指令时,在显示器60a的整个区域显示后退方向图像(省略图示)。当乘员再次触碰上述标记时,在显示器60a再次显示俯瞰图像及后退方向图像。此外,如上述那样,相机传感器20Re的像素数与显示器60a的分辨率同等,所以,即便是在显示器60a仅显示后退方向图像的情况下,该图像也能被合适地显示。
(2)立体物的检测、碰撞判定及碰撞回避指令发送处理
ECU10对前方广域图像数据及前方窄域图像数据进行解析,运算立体物的有无及自身车辆与立体物的相对关系(从自身车辆到立体物的距离、立体物相对于自身车辆的方位及立体物相对于自身车辆的相对速度等)。换言之,ECU10分别检测存在于相机传感器20F的拍摄范围及相机传感器30的拍摄范围的立体物。此外,立体物包括移动物(例如移动中的其他车辆及行人)及静止物(例如停止中的其他车辆、处于静止状态的行人及建筑物)。以下,首先,分别对相机传感器20F及30的拍摄范围进行说明,之后,对ECU10的(2)的处理进行说明。
图3的范围RFw是相机传感器20F的拍摄范围(即,ECU10基于前方广域图像数据能够检测立体物的范围)的俯视图。如图3所示,基准方位被设定为,作为通过位置P1且与自身车辆V的前后轴平行的轴的基准轴A的方位。基准轴A在自身车辆V的俯视中与光学系统21的光轴一致。以下,将水平视场角中的比基准轴A靠左侧的方位角θf规定为正值,将比基准轴A靠右侧的方位角θf规定为负值。除此之外,将垂直视场角中的比光轴靠上方的角度规定为正值,将比光轴靠下方的角度规定为负值。如上述那样,相机传感器20F的光轴相对于前后轴以大约10度向下方倾斜,垂直视场角为135度。因而,基准轴A包含于垂直视场角。
范围RFw在方位角范围为52度≤θf≤80度的左侧第1范围及方位角范围为-80度≤θf≤-52度的右侧第1范围中,呈半径r1的扇形形状(以下,有时将左侧第1范围及右侧第1范围统称作“第1范围”)。范围RFw在水平视场角中的除第1范围之外的第2范围(即0度≤θf<52度、80度<θf≤90度、-90度≤θf<-80度及-52度<θf≤0度)中,呈半径r2的扇形形状。根据范围RFw的形状,第1范围中的立体物的检测界限距离(r1)比第2范围中的立体物的检测界限距离(r2)长。这起因于鱼眼透镜21a的构成。此外,第1范围相当于“斜侧方方位角范围”的一例,第2范围相当于“剩余方位角范围”的一例。
参照图4进行具体说明。如图4所示,拍摄面22a包括区域S1L、区域S1R及区域S2。区域S1L是来自“存在于左侧第1范围且存在于垂直视场角中的预定的角度范围的被拍摄体”的光即左侧第1光在拍摄面22a成像的区域(以下,将上述预定的角度范围称作“第1特定垂直范围”)。区域S1R是来自“存在于右侧第1范围且存在于第1特定垂直范围的被拍摄体”的光即右侧第1光在拍摄面22a成像的区域。区域S2是来自“存在于水平视场角及垂直视场角中的剩余的角度范围的被拍摄体”的光即第2光在拍摄面22a成像的区域。第1特定垂直范围可设定为包括基准轴A且包括垂直视场角的大致中央的范围。在本实施方式中,第1特定垂直范围为-34度以上且34度以下。此外,光学系统21构成为使来自被拍摄体的光也成像于周边区域Sp(拍摄面22a中的比区域S2靠外侧的区域)。然而,周边区域Sp容易受到噪声的影响,所以,构成周边区域Sp的像素的电信号不用于图像数据的生成。
鱼眼透镜21a构成为在经由光学系统21使来自被拍摄体的光成像于拍摄面22a时,使左侧第1光及右侧第1光比第2光在水平方向上扩大而成像于拍摄面22a。左侧第1光的扩大率遍及第1特定垂直范围而恒定,右侧第1光的扩大率遍及第1特定垂直范围而恒定,两者的扩大率彼此相等。因而,区域S1L及区域S1R呈彼此全等的长方形形状。此外,左侧第1光及右侧第1光在垂直方向上不扩大。以下,有时将区域S1L及区域S1R统称作“区域S1”。区域S1相当于“特定区域”或“第1区域”的一例,区域S2相当于“剩余区域”或“第2区域”的一例。
换言之,鱼眼透镜21a具有被加工成,区域S1中的每单位水平视场角的像素数即水平像素密度比区域S2的任意区域中的水平像素密度大的自由曲面。通常,水平方向的解析度(ECU10能够通过解析图像数据来检测出立体物的能力)随着水平像素密度变大而变高。因而,根据上述构成,区域S1中的水平方向的解析度比区域S2中的水平方向的解析度高,结果,第1范围中的立体物的检测界限距离(r1)比第2范围中的立体物的检测界限距离(r2)长。此外,左侧第1范围的下限方位角(52度)及右侧第1范围的上限方位角(-52度)基于规定前方相机传感器30的水平视场角(100度)的边界线的方位角(参照图6)即边界方位角(50度、-50度)而决定。
参照图5,对立体物的检测界限距离与水平像素密度的关系进行具体说明。图5是表示相机传感器20F以及作为比较例的相机传感器C1(参照虚线)及C2(参照点划线)的方位角与水平像素密度(严格来说,第1特定垂直范围内的某角度(例如10度)下的水平像素密度)的关系的图表。
相机传感器C1及C2的光学系统所具有的透镜均为鱼眼透镜。不过,这些鱼眼透镜在具有旋转对称的曲面这一点上与相机传感器20F的鱼眼透镜21a不同。
相机传感器C1的像素数为大约1.2M(1280×960)[pix],其水平视场角为180度。即,相机传感器C1具有与相机传感器20L、20R及20Re大致相同的构成。
相机传感器C2的像素数为大约2.8M(1920×1440)[pix],其水平视场角为180度。即,相机传感器C2除了鱼眼透镜不具有自由曲面这一点之外,具有与相机传感器20F大致相同的构成。
如上述那样,相机传感器20F构成为,左侧第1光及右侧第1光的水平方向的扩大率遍及第1特定垂直范围而恒定。这一点对于相机传感器C1及C2而言也是同样的。因而,相机传感器20F、C1及C2的方位角与水平像素密度的关系遍及第1特定垂直范围而不变。
此外,相机传感器20F、C1及C2各自所具有的光学系统构成为,来自存在于90度<θf<大约110度及-大约110度<θf<-90度的方位角范围的被拍摄体的光也能够成像于各自的拍摄面。因而,在图5的图表中,也图示出这些方位角范围中的水平像素密度。不过,拍摄面中的与这些方位角范围对应的像素的电信号不用于图像数据的生成。
如上述那样,相机传感器C1及C2的鱼眼透镜具有旋转对称的曲面。因而,如图5所示,在水平视场角内(-90度≤θf≤90度),相机传感器C1及C2的水平像素密度的变动的程度较小。相对于此,相机传感器20F的鱼眼透镜21a具有如上述那样进行了加工的自由曲面。因而,其水平像素密度在45度≤θf≤90度及-90度≤θf≤-45度的方位角范围中,比相机传感器C2(即具有与相机传感器20F相同的像素数的相机传感器)的水平像素密度大。尤其是,在第1范围中,相机传感器20F的水平像素密度成为了相机传感器C2的水平像素密度的大约1.4倍的大小。通常,在预定的方位角范围内,立体物的检测界限距离与第1特定垂直范围内的任意角度下的水平像素密度大致成比例。因而,在第1范围中,相机传感器20F对立体物的检测界限距离r1(参照图3)成为相机传感器C2对立体物的检测界限距离(大约30[m])的大约1.4倍(大约42[m])。
另一方面,在第2范围中,相机传感器20F的水平像素密度被维持为与相机传感器C1的水平像素密度同等或其以上。因而,防止因鱼眼透镜21a具有自由曲面而PVM图像的画质劣化的情况。此外,在第2范围中,相机传感器20F对立体物的检测界限距离r2(参照图3)与相机传感器C1对立体物的检测界限距离(大约20[m])大致相等。
这样,通过相机传感器20F具备具有上述自由曲面的鱼眼透镜21a,能够将PVM图像的画质维持为与以往同等程度(换言之,相对于显示器60a的分辨率而言相机传感器20F的像素数不会超规),同时,在水平视场角中的特定范围(在本实施方式中是第1范围)中,与具有与相机传感器20F相同的像素数的相机传感器C2相比较,大幅延长立体物的检测界限距离。
图6的范围RFn是相机传感器30的拍摄范围(即,ECU10能够基于前方窄域图像数据检测出立体物的范围)的俯视图。如图6所示,范围RFn的中心角为100度,呈半径rf为大约35[m]的扇形形状。此外,该中心角的2等分线位于基准轴A上。
此外,如图3及图6所示,范围RFw与范围RFn部分重叠。ECU10在重叠部分处,将基于前方广域图像数据运算出的信息和基于前方窄域图像数据运算出的信息融合(fusion)来检测立体物。
接下来,ECU10,关于检测到的全部立体物,判定是否自身车辆有可能与立体物碰撞。具体地说,ECU10基于从车速传感器40取得的车速和从偏航率传感器41取得的偏航率,运算自身车辆的转弯半径,基于该转弯半径运算自身车辆的轨迹。除此之外,ECU10基于各立体物的位置(方位及距离)的推移来运算各立体物的轨迹。ECU10基于自身车辆的轨迹和各立体物的轨迹,判定在自身车辆维持当前的行驶状态行驶并且各立体物维持当前的移动状态移动的情况下自身车辆是否会与某个立体物碰撞。此外,在立体物是静止物的情况下,ECU10基于自身车辆的轨迹和立体物的当前的位置来判定自身车辆是否会与立体物碰撞。
ECU10在判定为自身车辆会与立体物碰撞的情况下,运算到自身车辆与立体物碰撞为止的预测时间即碰撞预测时间(TTC:Time To Collision)。TTC可通过将从自身车辆到预测出碰撞的地点为止的距离除以车速来运算。ECU10在TTC为预定的TTC阈值以下的情况下,判定为自身车辆有可能与立体物碰撞。在该情况下,ECU10向碰撞回避装置50发送碰撞回避指令。碰撞回避装置50,在接收到碰撞回避指令时,根据状况执行上述碰撞回避控制中的至少1个(警报控制、自动制动控制和/或自动掌舵控制)。另一方面,ECU10在TTC比TTC阈值大的情况下,判定为自身车辆与立体物碰撞的可能性低,不进行碰撞回避指令的发送。ECU10在工作期间中,每当经过运算周期时执行(2)的处理。
具备这样的鱼眼透镜21a的相机传感器20F,在自身车辆在交叉路口左转右转的情况下或者在没有红绿灯的交叉路口直行的情况下尤其有用。参照图7及图8进行具体说明。图7示出自身车辆V进入到交叉路口的场面。省略了道路及区划线等的图示。对自身车辆V,设定了将位置P1作为原点的xy坐标系。此外,自身车辆V的比例尺与xy坐标系的刻度的比例尺不同。立体物O1至O5均为移动物。具体地说,立体物O1是向+y轴方向(即,向与自身车辆V的当前的行进方向相同的方向)以平均的速度移动着的自行车。立体物O2是向+y轴方向以平均的速度移动着的行人。立体物O3是以预定的车速范围内的车速向+x轴方向移动着的电动两轮车。立体物O4是以30[km/h]到60[km/h]的范围内的车速向+x轴方向移动着的车辆。立体物O5是以较高的速度向+x轴方向移动着的车辆。
立体物O1及O2是自身车辆V在以“左转时的平均的车速”在该交叉路口左转了的情况下3秒后会碰撞的立体物。立体物O3是自身车辆V在以“没有红绿灯的交叉路口的直行时的平均的车速”在没有红绿灯的交叉路口直行了的情况下3秒后会碰撞的立体物。立体物O4是自身车辆V在以30[km/h]到60[km/h]的范围内的车速在没有红绿灯的交叉路口直行了的情况下3秒后会碰撞的立体物。立体物O5是自身车辆V在以较低的速度在没有红绿灯的交叉路口直行了的情况下3秒后会碰撞的立体物。即,图7示出了在自身车辆V在交叉路口左转的情况下或以各种车速在没有红绿灯的交叉路口直行的情况下3秒后会碰撞的各种类型的立体物相对于自身车辆V的相对分布。
图8是将方位角范围为0度≤θf≤90度的范围RFw、范围RC1及范围RC2重叠于图7的图。在此,范围RC1及范围RC2分别是相机传感器C1及C2(参照图5)设置于自身车辆V的位置P1的情况下的拍摄范围的俯视图。如图7所示,立体物O1至O5偏向于分布在自身车辆V的特定的方位角范围。根据图8,该特定的方位角范围与左侧第1范围一致。此外,虽然在图7及图8中省略了图示,但在自身车辆V在交叉路口右转的情况下或以各种车速在没有红绿灯的交叉路口直行的情况下3秒后会碰撞的各种立体物几乎全部与立体物O1至O5同样地偏向于分布在自身车辆V的特定的方位角范围,可以认为该特定的方位角范围与右侧第1范围一致。
如图8所示,相机传感器20F通过具备具有上述自由曲面的鱼眼透镜21a,构成为第1范围中的立体物的检测界限距离比第2范围中的立体物的检测界限距离长。因而,相机传感器20F能够与“存在于车辆的前方及前端中央部侧方的立体物”相比,至相对更远处对“存在于车辆的斜前方的立体物”进行拍摄。此外,可由相机传感器30至较远处对“存在于车辆的前方的立体物”进行拍摄(参照图6)。
除此之外,鱼眼透镜21a构成为,拍摄面22a的区域S2中的水平像素密度比区域S1中的水平像素密度小。因而,相比于使区域S2中的水平像素密度与区域S1中的水平像素密度为同等水平像素密度的构成,能够抑制图像传感器22的像素数的大幅增加。因此,根据相机传感器20F的构成,不使图像传感器22的像素数大幅增加,就能够合适地对存在于自身车辆V的斜前方的立体物进行拍摄。
更具体地说,范围RFw与范围RC2(具有与相机传感器20F相同的像素数的相机传感器C2的拍摄范围的俯视图)相比较,立体物的检测界限距离在第1范围中更长,在第2范围中更短。在此,如图8所示,在第2范围中,几乎不存在自身车辆V在进入交叉路口时有可能碰撞的立体物。因而,通过在像范围RFw这样,立体物偏向地分布的方位角范围中延长检测界限距离,在几乎不存在立体物的方位角范围中减低检测界限距离,不使图像传感器22的像素数大幅增加,就能够至较远处合适地对存在于所希望的方位角范围的立体物(即,自身车辆V在交叉路口左转右转的情况下或以各种车速在没有红绿灯的交叉路口直行的情况下有可能碰撞的各种立体物)进行拍摄。
在此,在有无执行碰撞回避控制的判定中所使用的TTC阈值通常设定为3秒以下的任意值。因而,根据上述构成,能够针对存在于自身车辆的斜前方的立体物合适地执行碰撞回避控制。即,以往的驾驶支援装置仅能检测存在于自身车辆的前方(典型地,水平视场角为-50度≤θf≤50度)的立体物。因而,例如,关于像立体物O1至O5这样存在于自身车辆V的斜前方的立体物,在自身车辆左转而立体物O1和/或O2成为位于自身车辆的前方之前,或者在自身车辆进一步直行而立体物O3至O5成为位于自身车辆的前方之前,无法检测到立体物O1至O5,在检测到的时间点,有时TTC已经成为了TTC阈值以下。相对于此,根据具备相机传感器20F的驾驶支援装置,关于存在于自身车辆的斜前方的立体物,能够在TTC成为TTC阈值以下之前检测到。因而,关于这些立体物,能够合适地执行碰撞回避控制。
尤其是,相机传感器20F也作为在PVM图像的生成中所使用的相机传感器来发挥功能。因而,仅对以往的前方PVM相机传感器的规格进行局部变更(具体地说,将鱼眼透镜变更为鱼眼透镜21a,并且将图像传感器的像素数从大约1.2M[pix]变更为大约2.8M[pix])即可,无需新导入相机传感器。因此,能够以较低成本实现相机传感器20F。
除此之外,在相机传感器20F中,尽管鱼眼透镜21a的自由曲面构成为拍摄面22a的区域S1中的水平像素密度比区域S2中的水平像素密度大,但根据图5,区域S2中的水平像素密度被维持为相机传感器20Re(即,具有与相机传感器C1大致相同的构成的相机传感器)的拍摄面的水平像素密度以上。根据该构成,防止因鱼眼透镜21a具备上述自由曲面而PVM图像的画质劣化的情况。
(第2实施方式)
接着,参照附图,对本发明的第2实施方式的具备作为拍摄装置的左侧PVM相机传感器及右侧PVM相机传感器的驾驶支援装置进行说明。以下,关于与第1实施方式相同的构成,标注相同的标号,省略详细说明。
如图9所示,本实施方式的驾驶支援装置在取代PVM相机传感器20而具备PVM相机传感器120这一点上与第1实施方式的驾驶支援装置不同。PVM相机传感器120具备前方PVM相机传感器120F、左侧PVM相机传感器120L、右侧PVM相机传感器120R及后方PVM相机传感器20Re。
相机传感器120F具有与第1实施方式的相机传感器20L、20R及20Re大致相同的构成,在以下的2点上与第1实施方式的相机传感器20F不同。
·相机传感器120F的鱼眼透镜(省略图示)具有旋转对称的曲面而非自由曲面。
·相机传感器120F的像素数为大约1.2M(1280×960)[pix]。
相机传感器120F的鱼眼透镜的焦距及拍摄面的尺寸预先设计成,相机传感器120F的水平视场角成为180度,垂直视场角成为135度。由此,相机传感器120F能够对位于自身车辆的前方、斜前方及前端中央部侧方的区域的被拍摄体进行拍摄。此外,相机传感器120F相当于“前方拍摄装置”的一例。
如图10所示,相机传感器120L具备光学系统121L、图像传感器122L、信号处理电路23。
光学系统121L包括鱼眼透镜121aL。鱼眼透镜121aL是采用等距离投影方式的透镜,具有非旋转对称的自由曲面。关于鱼眼透镜121aL的详细构成在后面进行叙述。
图像传感器122L包括多个像素在水平方向及垂直方向上(即呈二维状)以等间隔排列的拍摄面122aL。拍摄面122aL的尺寸与第1实施方式的拍摄面22a的尺寸相同。即,图像传感器122L的像素数为大约2.8M(1920×1440)[pix]。
鱼眼透镜121aL的焦距及拍摄面122aL的尺寸预先设计成,相机传感器120L的水平视场角成为180度,垂直视场角成为135度。由此,相机传感器120L能够对位于自身车辆的左侧方区域的被拍摄体进行拍摄。此外,相机传感器120L相当于“图像生成用相机传感器”的一例,并且相当于能够设置于车辆的左侧方部分的“拍摄装置”的一例。相机传感器120L的水平视场角相当于“第2水平视场角”的一例。
相机传感器120R具备光学系统121R、图像传感器122R、信号处理电路23。
光学系统121R包括鱼眼透镜121aR。鱼眼透镜121aR是采用等距离投影方式的透镜,具有非旋转对称的自由曲面。关于鱼眼透镜121aR的详细构成在后面进行叙述。
图像传感器122R包括多个像素在水平方向及垂直方向上(即呈二维状)以等间隔排列的拍摄面122aR。拍摄面122aR的尺寸与第1实施方式的拍摄面22a的尺寸相同。即,图像传感器122R的像素数为大约2.8M(1920×1440)[pix]。
鱼眼透镜121aR的焦距及拍摄面122aR的尺寸预先设计成,相机传感器120R的水平视场角成为180度,垂直视场角成为135度。由此,相机传感器120R能够对位于自身车辆的右侧方区域的被拍摄体进行拍摄。此外,相机传感器120R相当于“图像生成用相机传感器”的一例,并且相当于能够设置于车辆的右侧方部分的“拍摄装置”的一例。相机传感器120R的水平视场角相当于“第2水平视场角”的一例。由相机传感器30和相机传感器120L及120R构成了拍摄系统。
返回图9继续进行说明。ECU10从相机传感器120F、120L、120R及20Re以及相机传感器30,分别取得“前方广域图像数据”、“左方广域图像数据”、“右方广域图像数据”及“后方广域图像数据”以及“前方窄域图像数据”,基于所取得的图像数据,进行与第1实施方式的(1)及(2)同样的处理。不过,关于(2)的处理,在检测立体物时所使用的图像数据与第1实施方式不同。以下,对该不同点进行具体说明。此外,“左方广域图像数据”及“右方广域图像数据”相当于“周边广域图像数据”的一例。
ECU10取代前方广域图像数据,将左方广域图像数据及右方广域图像数据与前方窄域图像数据一起进行解析,运算立体物的有无及自身车辆与立体物的相对关系。换言之,ECU10分别检测存在于相机传感器120L的拍摄范围、相机传感器120R的拍摄范围及相机传感器30的拍摄范围(参照图6的范围RFn)的立体物。
图11的范围RL及范围RR分别是相机传感器120L及120R的拍摄范围(即,ECU10能够基于左方广域图像数据及右方广域图像数据检测出立体物的范围)的俯视图。如图11所示,关于相机传感器120L,基准方位被设定为,作为通过位置P2且与自身车辆V的前后轴平行的轴的基准轴A1的方位。基准轴A1与相机传感器120L的光学系统121L的光轴(省略图示)正交。以下,将水平视场角中的比基准轴A1靠左侧的方位角θl规定为正值,将比基准轴A1靠右侧的方位角θl规定为负值。除此之外,将垂直视场角中的比光轴靠上方的角度规定为正值,将比光轴靠下方的角度规定为负值。相机传感器120L的光轴相对于左右轴以大约60度向下方倾斜,垂直视场角为135度。因而,基准轴A1包含于垂直视场角。
另一方面,关于相机传感器120R,基准方位被设定为,作为通过位置P3且与自身车辆V的前后轴平行的轴的基准轴A2的方位。基准轴A2与相机传感器120R的光学系统121R的光轴(省略图示)正交。以下,将水平视场角中的比基准轴A2靠右侧的方位角θr规定为正值,将比基准轴A2靠左侧的方位角θr规定为负值。除此之外,将垂直视场角中的比光轴靠上方的角度规定为正值,将比光轴靠下方的角度规定为负值。相机传感器120R的光轴相对于左右轴以大约60度向下方倾斜,垂直视场角为135度。因而,基准轴A2包含于垂直视场角。
范围RL在方位角范围为52度≤θl≤80度的第3范围中,呈半径r3的扇形形状,在水平视场角中的除第3范围之外的第4范围(即,0度≤θl<52度、80度<θl≤180度)中,呈半径r4的扇形形状。
范围RR在方位角范围为52度≤θr≤80度的第5范围中,呈半径r5(=r3)的扇形形状,在水平视场角中的除第5范围之外的第6范围(即,0度≤θr<52度、80度<θr≤180度)中,呈半径r6(=r4)的扇形形状。
即,范围RL与范围RR,处于关于前后轴线对称的关系。根据范围RL及范围RR的形状,第3范围及第5范围中的立体物的检测界限距离(r3、r5)比第4范围及第6范围中的立体物的检测界限距离(r4、r6)长。这起因于鱼眼透镜121aL及121aR的构成。此外,第3范围及第5范围相当于“斜侧方方位角范围”的一例,第4范围及第6范围相当于“剩余方位角范围”的一例。
参照图12A及图12B进行具体说明。如图12A所示,相机传感器120L的拍摄面122aL包括区域S3及区域S4。区域S3是来自“存在于第3范围且存在于第2特定垂直范围(在后面叙述)的被拍摄体”的光即第3光在拍摄面122aL成像的区域。区域S4是来自“存在于水平视场角及垂直视场角中的剩余的角度范围的被拍摄体”的光即第4光在拍摄面122aL成像的区域。
如图12B所示,相机传感器120R的拍摄面122aR包括区域S5及区域S6。区域S5是来自“存在于第5范围且存在于第2特定垂直范围的被拍摄体”的光即第5光在拍摄面122aR成像的区域。区域S6是来自“存在于水平视场角及垂直视场角中的剩余的角度范围的被拍摄体”的光即第6光在拍摄面122aR成像的区域。
第2特定垂直范围可设定为包括基准轴A1或A2且包括垂直视场角的上方的范围。在本实施方式中,第2特定垂直范围为0度以上且67.5度以下。此外,光学系统121L及121R构成为使来自被拍摄体的光也成像于周边区域Sp(拍摄面122aL中的比区域S4靠外侧的区域及拍摄面122aR中的比区域S6靠外侧的区域)。然而,构成周边区域Sp的像素的电信号不用于图像数据的生成。
如图12A所示,鱼眼透镜121aL构成为在经由光学系统121L使来自被拍摄体的光成像于拍摄面122aL时,使第3光比第4光在水平方向(纸面上下方向)上扩大而成像于拍摄面122aL。扩大率遍及第2特定垂直范围而恒定。此外,第3光在垂直方向(纸面左右方向)上不扩大。区域S3相当于“特定区域”或“第3区域”的一例,区域S4相当于“剩余区域”或“第4区域”的一例。
如图12B所示,鱼眼透镜121aR构成为在经由光学系统121R使来自被拍摄体的光成像于拍摄面122aR时,使第5光比第6光在水平方向上扩大而成像于拍摄面122aR。扩大率遍及第2特定垂直范围而恒定。此外,第5光在垂直方向上不扩大。区域S5相当于“特定区域”或“第5区域”的一例,区域S6相当于“剩余区域”或“第6区域”的一例。
在本实施方式中,第3光的扩大率与第5光的扩大率彼此相等。因而,区域S3及区域S5呈彼此全等的长方形形状。此外,第3光的扩大率与第5光的扩大率也可以彼此不同。
换言之,鱼眼透镜121aL具有被加工成区域S3中的水平像素密度比区域S4的任意区域中的水平像素密度大的自由曲面。鱼眼透镜121aR具有被加工成区域S5中的水平像素密度比区域S6的任意区域中的水平像素密度大的自由曲面。根据该构成,区域S3及区域S5中的水平方向的解析度分别比区域S4及区域S6中的水平方向的解析度高,作为结果,第3范围及第5范围中的立体物的检测界限距离(r3、r5)分别比第4范围及第6范围中的立体物的检测界限距离(r4、r6)长。此外,第3范围的下限方位角(52度)及第5范围的下限方位角(52度)基于前方相机传感器30的边界方位角(50度、-50度)而决定。
参照图13,对立体物的检测界限距离与水平像素密度的关系进行具体说明。图13是规定了相机传感器120L及120R、以及作为比较例的相机传感器C3(参照虚线)及C4(参照点划线)的方位角与水平像素密度(严格来说,第2特定垂直范围内的某角度(例如60度)下的水平像素密度)的关系的图表。不过,关于大于90度的方位角范围省略了图示。在本实施方式中,鱼眼透镜121aL及121aR构成为,拍摄面122aL的水平像素密度分布与拍摄面122aR的水平像素密度分布彼此相同。因而,在图13的图表中,相机传感器120L的表现与相机传感器120R的表现一致。
相机传感器C3及C4的光学系统所具有的透镜均为鱼眼透镜。不过,这些鱼眼透镜在具有旋转对称的曲面这一点上与相机传感器120L及120R的鱼眼透镜121aL及121aR不同。
相机传感器C3的像素数为大约1.2M(1280×960)[pix],其水平视场角为180度。即,相机传感器C3具有与相机传感器120F及20Re大致相同的构成。
相机传感器C4的像素数为大约2.8M(1920×1440)[pix],其水平视场角为180度。即,相机传感器C4除了鱼眼透镜不具有自由曲面这一点之外,具有与相机传感器120L及120R大致相同的构成。
如上述那样,相机传感器120L及120R分别构成为,第3光及第5光的水平方向的扩大率遍及第2特定垂直范围而恒定。这一点对于相机传感器C3及C4而言也是同样的。因而,相机传感器120L、120R、C3及C4的方位角与水平像素密度的关系遍及第2特定垂直范围而不变。
此外,相机传感器120L、120R、C3及C4各自所具有的光学系统构成为,来自存在于-大约20度<θl、θr<0度的方位角范围的被拍摄体的光也能够成像于各自的拍摄面。因而,在图13的图表中,也图示出这些方位角范围中的水平像素密度。不过,拍摄面中的与这些方位角范围对应的像素的电信号不用于图像数据的生成。
如图13所示,相机传感器120L及120R与相机传感器C3及C4不同,分别具备具有如上述那样进行了加工的自由曲面的鱼眼透镜121aL、121aR。因而,其水平像素密度在45度≤θl、θr≤87度的方位角范围中,比相机传感器C4(即,具有与相机传感器120L、120R相同的像素数的相机传感器)的水平像素密度大。尤其是,在第3及第5范围中,相机传感器120L及120R的水平像素密度成为了相机传感器C4的水平像素密度的大约1.6倍的大小。通常,在预定的方位角范围内,立体物的检测界限距离与第2特定垂直范围内的任意角度下的水平像素密度大致成比例。因而,在第3及第5范围中,相机传感器120L及120R对立体物的检测界限距离r3及r5(参照图11)成为相机传感器C4对立体物的检测界限距离(大约27[m])的大约1.6倍(大约43[m])。
另一方面,在第4及第6范围中,相机传感器120L及120R的水平像素密度被维持为与相机传感器C3的水平像素密度同等或其以上。因而,防止因鱼眼透镜121aL及121aR具有自由曲面而PVM图像的画质劣化的情况。此外,在第4及第6范围中,相机传感器120L及120R对立体物的检测界限距离r4及r6(参照图11)与相机传感器C3对立体物的检测界限距离(大约20[m])大致相等。
这样,通过相机传感器120L及120R具备具有上述自由曲面的鱼眼透镜121aL及121aR,能够将PVM图像的画质维持为与以往同等程度(换言之,相对于显示器60a的分辨率而言相机传感器120L及120R的像素数不会超规),同时,在水平视场角中的特定范围(在本实施方式中是第3或第5范围)中,与具有与相机传感器120L及120R相同的像素数的相机传感器C4相比较,大幅延长立体物的检测界限距离。
具备这样的鱼眼透镜121aL及121aR的相机传感器120L及120R,在自身车辆在交叉路口左转右转的情况下或者在没有红绿灯的交叉路口直行的情况下尤其有用。以下,举出相机传感器120L作为例子,参照图14进行具体说明。图14是将方位角范围为0度≤θl≤180度的范围RL、范围RC3及范围RC4重叠于图7的图。在此,范围RC3及范围RC4分别是相机传感器C3及C4(参照图13)设置于自身车辆V的位置P2的情况下的拍摄范围的俯视图。根据图14,立体物O1至O5分布的特定的方位角范围与第3范围一致。此外,虽然在图14中省略了图示,但在自身车辆V在交叉路口右转的情况下或以各种车速在没有红绿灯的交叉路口直行的情况下3秒后会碰撞的各种立体物几乎全部与立体物O1至O5同样地偏向于分布在自身车辆V的特定的方位角范围,可以认为该特定的方位角范围与相机传感器120R的第6范围一致。
根据相机传感器120L及120R,能够起到与第1实施方式的相机传感器20F同样的效果。
以上,对本实施方式的拍摄系统及拍摄装置进行了说明,但本发明不限定于上述实施方式,能够在不脱离本发明的目的的范围内进行各种变更。
例如,第1实施方式的相机传感器20F及第2实施方式的相机传感器120L及120R的水平视场角也可以均为180度以上(例如190度)。
除此之外,在第1实施方式中,左侧第1范围为满足45度<θf<90度的任意方位角范围即可,右侧第1范围为满足-90度<θf<-45度的任意方位角范围即可。同样,在第2实施方式中,第3范围及第4范围分别为满足45度<θl、θr<90度的任意方位角范围即可。
而且,在第1实施方式中,相机传感器20F也可以不用于PVM图像的生成。即,相机传感器20F无需兼备前方PVM相机传感器的功能,也可以除了前方PVM相机传感器之外新导入相机传感器20F。关于第2实施方式也是同样的。
而且,在第2实施方式中,相机传感器120L及120R无需在自身车辆V设置一对,也可以构成为仅设置任一方。在自身车辆V的位置P2设置相机传感器120L的情况下,在位置P3可设置相机传感器20R(即以往的右侧PVM相机传感器)。同样,在自身车辆V的位置P3设置相机传感器120R的情况下,在位置P2可设置相机传感器20L(即以往的左侧PVM相机传感器)。根据该构成,也能够合适地对存在于自身车辆V的左斜前方或右斜前方的立体物进行拍摄。
标号说明
10:驾驶支援ECU,20:PVM相机传感器,20F:前方PVM相机传感器,20L:左侧PVM相机传感器,20R:右侧PVM相机传感器,20Re:后方PVM相机传感器,21:光学系统,21a:鱼眼透镜,22:图像传感器,22a:拍摄面,23:信号处理电路,30:前方相机传感器,40:车速传感器,41:偏航率传感器,42:变速位置传感器,43:PVM开关,50:碰撞回避装置,60:显示装置,60a:显示器。

Claims (10)

1.一种拍摄系统,是车辆的拍摄系统,具备:
前方相机传感器,具有在将作为与车辆的前后轴平行的轴的基准轴的方位设为基准方位时,水平视场角小于180度的预定的第1水平视场角,所述前方相机传感器以所述第1水平视场角包含于比与车辆的左右方向对应的方位角靠所述车辆的前方的区域的方式设置于所述车辆,且通过对来自位于所述车辆的前方的被拍摄体中的位于所述第1水平视场角内的被拍摄体的光进行光电变换而变换为电信号,来取得在所述车辆的驾驶支援控制中所使用的前方窄域图像数据;和
图像生成用相机传感器,具有水平视场角为180度以上的预定的第2水平视场角,所述图像生成用相机传感器设置于所述车辆,且通过对来自位于所述车辆的周围的被拍摄体中的位于所述第2水平视场角内的被拍摄体的光进行光电变换而变换为电信号,来取得为了生成所述车辆的俯瞰图像而使用的周边广域图像数据,
其中,
所述图像生成用相机传感器具备:图像传感器,包括分别进行所述光电变换的多个像素呈二维状排列的拍摄面;和光学系统,包括透镜,使来自被拍摄体的光成像于所述拍摄面,
所述图像传感器具有:特定区域,是来自位于斜侧方方位角范围内的被拍摄体的光在所述拍摄面成像的区域,该斜侧方方位角范围是从基于规定所述第1水平视场角的边界线的方位角即边界方位角决定的预定的方位角到与所述车辆的斜前方方向对应的方位角为止的范围;和剩余区域,是来自位于剩余方位角范围内的被拍摄体的光在所述拍摄面成像的区域,该剩余方位角范围是从所述第2水平视场角除去所述斜侧方方位角范围后的范围,
所述透镜,是具有构成为所述特定区域中的每单位水平视场角的像素数即水平像素密度比所述剩余区域中的水平像素密度大的曲面的透镜,
所述拍摄系统构成为,由所述图像生成用相机传感器取得的所述周边广域图像数据能够在所述车辆的驾驶支援控制中使用。
2.一种拍摄装置,能够设置于车辆的前方部分,具备:
图像传感器,构成为包括多个像素呈二维状排列的拍摄面,所述多个像素分别对接受到的光进行光电变换而变换为电信号并输出;和
光学系统,包括透镜,使来自被拍摄体的光成像于所述拍摄面,
所述拍摄装置,以水平视场角成为180度以上的方式,设定了所述拍摄面的尺寸及所述透镜的焦距,
其中,
在将作为通过在所述车辆上的设置位置且与所述车辆的前后轴平行的轴的基准轴的方位设为基准方位时,将所述水平视场角中的比所述基准轴靠左侧的方位角规定为正值,将比所述基准轴靠右侧的方位角规定为负值的情况下,
所述基准轴包含于垂直视场角,
所述拍摄面包括:第1区域,是与包含于大于45度且小于90度的方位角范围的左侧第1范围及包含于大于-90度且小于-45度的方位角范围的右侧第1范围对应的区域;和第2区域,是与所述水平视场角中的除所述左侧第1范围及所述右侧第1范围之外的方位角范围即第2范围对应的区域,
所述透镜,具有构成为所述第1区域中的每单位水平视场角的像素数即水平像素密度比所述第2区域中的水平像素密度大的曲面。
3.一种驾驶支援装置,具备权利要求2所述的拍摄装置,且还具备:
左侧拍摄装置,能够设置于所述车辆的左侧方部分;
右侧拍摄装置,能够设置于所述车辆的右侧方部分;
后方拍摄装置,能够设置于所述车辆的后方部分;及
图像处理装置,
所述左侧拍摄装置、所述右侧拍摄装置及所述后方拍摄装置的水平视场角均为180度以上,
所述图像处理装置构成为,
取得由所述拍摄装置对所述车辆的前方、斜前方及前方部分侧方进行拍摄而得到的图像数据、由所述左侧拍摄装置对所述车辆的左侧方进行拍摄而得到的图像数据、由所述右侧拍摄装置对所述车辆的右侧方进行拍摄而得到的图像数据、及由所述后方拍摄装置对所述车辆的后方、斜后方及后方部分侧方进行拍摄而得到的图像数据,
基于所取得的上述图像数据来生成俯瞰图像。
4.根据权利要求3所述的驾驶支援装置,
所述拍摄装置的所述拍摄面的所述第2区域中的所述水平像素密度为所述后方拍摄装置所具备的拍摄面的水平像素密度以上。
5.一种拍摄装置,能够设置于车辆的左侧方部分,具备:
图像传感器,构成为包括多个像素呈二维状排列的拍摄面,所述多个像素分别对接受到的光进行光电变换而变换为电信号并输出;和
光学系统,包括透镜,使来自被拍摄体的光成像于所述拍摄面,
所述拍摄装置,以水平视场角成为180度以上的方式,设定了所述拍摄面的尺寸及所述透镜的焦距,
其中,
在将作为通过在所述车辆上的设置位置且与所述车辆的前后轴平行的轴的基准轴的方位设为基准方位时,将所述水平视场角中的比所述基准轴靠左侧的方位角规定为正值,将比所述基准轴靠右侧的方位角规定为负值的情况下,
所述基准轴包含于垂直视场角,
所述拍摄面包括:第3区域,是与包含于大于45度且小于90度的方位角范围的第3范围对应的区域;和第4区域,是与所述水平视场角中的除所述第3范围之外的方位角范围即第4范围对应的区域,
所述透镜,具有构成为所述第3区域中的每单位水平视场角的像素数即水平像素密度比所述第4区域中的水平像素密度大的曲面。
6.一种驾驶支援装置,具备权利要求5所述的拍摄装置,且还具备:
前方拍摄装置,能够设置于所述车辆的前方部分;
右侧拍摄装置,能够设置于所述车辆的右侧方部分;
后方拍摄装置,能够设置于所述车辆的后方部分;及
图像处理装置,
所述前方拍摄装置、所述右侧拍摄装置及所述后方拍摄装置的水平视场角均为180度以上,
所述图像处理装置构成为,
取得由所述前方拍摄装置对所述车辆的前方、斜前方及前方部分侧方进行拍摄而得到的图像数据、由所述拍摄装置对所述车辆的左侧方进行拍摄而得到的图像数据、由所述右侧拍摄装置对所述车辆的右侧方进行拍摄而得到的图像数据、及由所述后方拍摄装置对所述车辆的后方、斜后方及后方部分侧方进行拍摄而得到的图像数据,
基于所取得的上述图像数据来生成俯瞰图像。
7.一种拍摄装置,能够设置于车辆的右侧方部分,具备:
图像传感器,构成为包括多个像素呈二维状排列的拍摄面,所述多个像素分别对接受到的光进行光电变换而变换为电信号并输出;和
光学系统,包括透镜,使来自被拍摄体的光成像于所述拍摄面,
所述拍摄装置,以水平视场角成为180度以上的方式,设定了所述拍摄面的尺寸及所述透镜的焦距,
其中,
在将作为通过在所述车辆上的设置位置且与所述车辆的前后轴平行的轴的基准轴的方位设为基准方位时,将所述水平视场角中的比所述基准轴靠右侧的方位角规定为正值,将比所述基准轴靠左侧的方位角规定为负值的情况下,
所述基准轴包含于垂直视场角,
所述拍摄面包括:第5区域,是与包含于大于45度且小于90度的方位角范围的第5范围对应的区域;和第6区域,是与所述水平视场角中的除所述第5范围之外的方位角范围即第6范围对应的区域,
所述透镜,具有构成为所述第5区域中的每单位水平视场角的像素数即水平像素密度比所述第6区域中的水平像素密度大的曲面。
8.一种驾驶支援装置,具备权利要求7所述的拍摄装置,且还具备:
前方拍摄装置,能够设置于所述车辆的前方部分;
左侧拍摄装置,能够设置于所述车辆的左侧方部分;
后方拍摄装置,能够设置于所述车辆的后方部分;及
图像处理装置,
所述前方拍摄装置、所述左侧拍摄装置及所述后方拍摄装置的水平视场角均为180度以上,
所述图像处理装置构成为,
取得由所述前方拍摄装置对所述车辆的前方、斜前方及前方部分侧方进行拍摄而得到的图像数据、由所述左侧拍摄装置对所述车辆的左侧方进行拍摄而得到的图像数据、由所述拍摄装置对所述车辆的右侧方进行拍摄而得到的图像数据、及由所述后方拍摄装置对所述车辆的后方、斜后方及后方部分侧方进行拍摄而得到的图像数据,
基于所取得的上述图像数据来生成俯瞰图像。
9.根据权利要求6所述的驾驶支援装置,
所述拍摄装置的所述拍摄面的所述第4区域中的所述水平像素密度为所述后方拍摄装置所具备的拍摄面的水平像素密度以上。
10.根据权利要求8所述的驾驶支援装置,
所述拍摄装置的所述拍摄面的所述第6区域中的所述水平像素密度为所述后方拍摄装置所具备的拍摄面的水平像素密度以上。
CN202111431808.1A 2020-11-30 2021-11-29 拍摄系统、拍摄装置及驾驶支援装置 Active CN114572113B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020198575A JP7400705B2 (ja) 2020-11-30 2020-11-30 撮像システム及び撮像装置
JP2020-198575 2020-11-30

Publications (2)

Publication Number Publication Date
CN114572113A CN114572113A (zh) 2022-06-03
CN114572113B true CN114572113B (zh) 2024-01-30

Family

ID=81585962

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111431808.1A Active CN114572113B (zh) 2020-11-30 2021-11-29 拍摄系统、拍摄装置及驾驶支援装置

Country Status (4)

Country Link
US (1) US11760275B2 (zh)
JP (1) JP7400705B2 (zh)
CN (1) CN114572113B (zh)
DE (1) DE102021131051B4 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024025462A (ja) 2022-08-12 2024-02-26 トヨタ自動車株式会社 車両制御装置、車両制御方法及びそのプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103782591A (zh) * 2011-08-26 2014-05-07 松下电器产业株式会社 驾驶辅助装置
DE102015215561A1 (de) * 2015-08-14 2017-02-16 Conti Temic Microelectronic Gmbh Fahrzeugkameravorrichtung zur Aufnahme einer Umgebung eines Kraftfahrzeugs sowie Fahrerassistenzvorrichtung zur Objekterkennung mit einer solchen Fahrzeugkameravorrichtung
JP2018195951A (ja) * 2017-05-16 2018-12-06 パナソニックIpマネジメント株式会社 撮像システム及び移動体制御システム
JP2019103044A (ja) * 2017-12-06 2019-06-24 クラリオン株式会社 画像表示装置及び駐車支援システム
JP2019110517A (ja) * 2017-12-19 2019-07-04 パナソニックIpマネジメント株式会社 撮像装置、表示システム、および撮像システム
CN111169382A (zh) * 2018-11-13 2020-05-19 丰田自动车株式会社 驾驶辅助装置、驾驶辅助系统、驾驶辅助方法以及程序

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7365779B2 (en) * 2000-09-14 2008-04-29 Fujitsu Ten Limited Image processing apparatus for selectively storing specific regions of an image
DE10253378B4 (de) 2001-11-16 2010-07-01 AutoNetworks Technologies, Ltd., Nagoya Visuelles Fahrzeugumgebungs-Erkennungssystem, Kamera und Fahrzeugumgebungs-Überwachungsvorrichtung sowie Fahrzeugumgebungs-Überwachungssystem
JP2006333120A (ja) * 2005-05-26 2006-12-07 Denso Corp 撮像モジュール
JP6561431B2 (ja) * 2014-05-14 2019-08-21 株式会社デンソー 境界線認識装置および境界線認識プログラム
US10127463B2 (en) * 2014-11-21 2018-11-13 Magna Electronics Inc. Vehicle vision system with multiple cameras
JP6308186B2 (ja) 2015-08-28 2018-04-11 トヨタ自動車株式会社 衝突回避支援装置
EP3193305B1 (en) * 2016-01-12 2018-09-12 Continental Automotive GmbH Method and device for displaying a front-view of a vehicle's surrounding and respective vehicle
US10868981B2 (en) * 2016-04-27 2020-12-15 Sony Corporation Shooting control apparatus, shooting control method, and shooting apparatus
EP3319306B1 (en) * 2016-07-22 2019-10-09 Panasonic Intellectual Property Management Co., Ltd. Imaging system, and mobile system
KR101859040B1 (ko) * 2016-09-22 2018-05-17 엘지전자 주식회사 차량용 카메라 장치 및 방법
US20200324713A1 (en) * 2016-09-22 2020-10-15 Lg Electronics Inc. Vehicular camera apparatus and method
JP6349558B1 (ja) * 2017-05-12 2018-07-04 パナソニックIpマネジメント株式会社 撮像システム及び表示システム
KR102012776B1 (ko) * 2017-08-29 2019-08-21 엘지전자 주식회사 차량용 어라운드 뷰 제공 장치 및 차량
DE102017218722A1 (de) * 2017-10-19 2019-04-25 Robert Bosch Gmbh Umfelderfassungssystem zum Erfassen eines Umfelds eines Fahrzeugs und Verfahren zum Erfassen eines Umfelds eines Fahrzeugs
US10489666B2 (en) * 2017-12-18 2019-11-26 Panasonic Intellectual Property Management Co., Ltd. Imaging device and imaging system
JP7266165B2 (ja) * 2017-12-19 2023-04-28 パナソニックIpマネジメント株式会社 撮像装置、撮像システム、および表示システム
US10623618B2 (en) * 2017-12-19 2020-04-14 Panasonic Intellectual Property Management Co., Ltd. Imaging device, display system, and imaging system
JP6996353B2 (ja) * 2018-03-06 2022-01-17 トヨタ自動車株式会社 物体認識装置及び車両走行制御システム
JP7243478B2 (ja) * 2019-06-24 2023-03-22 トヨタ自動車株式会社 車両用情報記録装置
JP2022122379A (ja) * 2021-02-10 2022-08-23 トヨタ自動車株式会社 車両用画像処理システム、車両及び画像送信方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103782591A (zh) * 2011-08-26 2014-05-07 松下电器产业株式会社 驾驶辅助装置
DE102015215561A1 (de) * 2015-08-14 2017-02-16 Conti Temic Microelectronic Gmbh Fahrzeugkameravorrichtung zur Aufnahme einer Umgebung eines Kraftfahrzeugs sowie Fahrerassistenzvorrichtung zur Objekterkennung mit einer solchen Fahrzeugkameravorrichtung
JP2018195951A (ja) * 2017-05-16 2018-12-06 パナソニックIpマネジメント株式会社 撮像システム及び移動体制御システム
JP2019103044A (ja) * 2017-12-06 2019-06-24 クラリオン株式会社 画像表示装置及び駐車支援システム
JP2019110517A (ja) * 2017-12-19 2019-07-04 パナソニックIpマネジメント株式会社 撮像装置、表示システム、および撮像システム
CN111169382A (zh) * 2018-11-13 2020-05-19 丰田自动车株式会社 驾驶辅助装置、驾驶辅助系统、驾驶辅助方法以及程序

Also Published As

Publication number Publication date
US11760275B2 (en) 2023-09-19
JP7400705B2 (ja) 2023-12-19
DE102021131051B4 (de) 2023-07-20
US20220171275A1 (en) 2022-06-02
CN114572113A (zh) 2022-06-03
DE102021131051A1 (de) 2022-06-02
JP2022086516A (ja) 2022-06-09

Similar Documents

Publication Publication Date Title
CN107615749B (zh) 信号处理装置和成像装置
US9435879B2 (en) Alert display device and alert display method
EP3361721B1 (en) Display assistance device and display assistance method
JP5172314B2 (ja) ステレオカメラ装置
JP5680573B2 (ja) 車両の走行環境認識装置
US9426364B2 (en) Image processing apparatus and image processing method
JP5953824B2 (ja) 車両用後方視界支援装置及び車両用後方視界支援方法
WO2018003532A1 (ja) 物体検出表示装置、移動体及び物体検出表示方法
US20110228985A1 (en) Approaching object detection system
CN114066929A (zh) 预测目标车辆相对于自主车辆的轨迹的方法
JP2002366937A (ja) 車外監視装置
JP5213063B2 (ja) 車両表示装置および表示方法
JP2007064804A (ja) 車両用障害物検出装置
US20140055572A1 (en) Image processing apparatus for a vehicle
WO2015129280A1 (ja) 画像処理装置および画像処理方法
CN114572113B (zh) 拍摄系统、拍摄装置及驾驶支援装置
JP3930268B2 (ja) 接近車両検知及び車線位置検知を行う画像処理装置
US9827906B2 (en) Image processing apparatus
JP6384138B2 (ja) 車両用表示装置
JP2017129543A (ja) ステレオカメラ装置及び車両
JP6032141B2 (ja) 走行路面標示検知装置および走行路面標示検知方法
JP5723561B2 (ja) 運転支援装置
JP4598011B2 (ja) 車両用表示装置
JP2010146082A (ja) 画像処理装置
JP2008263325A (ja) 車外撮影カメラ画像表示装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant