CN109598970A - 停车位置显示处理装置、以及停车位置显示方法 - Google Patents
停车位置显示处理装置、以及停车位置显示方法 Download PDFInfo
- Publication number
- CN109598970A CN109598970A CN201811143510.9A CN201811143510A CN109598970A CN 109598970 A CN109598970 A CN 109598970A CN 201811143510 A CN201811143510 A CN 201811143510A CN 109598970 A CN109598970 A CN 109598970A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- door
- parking
- image
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/14—Traffic control systems for road vehicles indicating individual free spaces in parking areas
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/586—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of parking space
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/02—Reservations, e.g. for tickets, services or events
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/584—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/593—Recognising seat occupancy
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/14—Traffic control systems for road vehicles indicating individual free spaces in parking areas
- G08G1/141—Traffic control systems for road vehicles indicating individual free spaces in parking areas with means giving the indication of available parking spaces
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/14—Traffic control systems for road vehicles indicating individual free spaces in parking areas
- G08G1/141—Traffic control systems for road vehicles indicating individual free spaces in parking areas with means giving the indication of available parking spaces
- G08G1/143—Traffic control systems for road vehicles indicating individual free spaces in parking areas with means giving the indication of available parking spaces inside the vehicles
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Signal Processing (AREA)
- Entrepreneurship & Innovation (AREA)
- Strategic Management (AREA)
- Development Economics (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Economics (AREA)
- General Business, Economics & Management (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明的停车位置显示处理装置具备:拍摄部,其拍摄车辆的周围而生成拍摄图像;车辆信息获取部,其获取上述车辆的车辆信息;车辆周围状态识别部,其基于上述拍摄图像和上述车辆信息,生成表示上述车辆的周围的状态的车辆周围信息;停车位置计算部,其基于上述车辆周围信息和上述车辆信息,计算出上述车辆的停车预定位置;合成图像生成部,其基于上述停车预定位置和上述车辆周围信息,根据表示上述停车预定位置的图像、和表示上述停车预定位置的上述车辆的周围的状态的图像生成合成图像;以及显示部,其显示上述合成图像。
Description
技术领域
本发明的一个方式涉及一种停车位置显示处理装置、以及停车位置显示方法。
背景技术
存在有如下技术,即在车辆的周围环境图像上的停车预定位置重叠显示停车后的车辆的图像,能够在开始停车前确认停车后的车辆的情况(例如,参照专利文献1)。
另外,存在有如下技术,即设定停车目标位置,考虑在该停车目标位置停车后的车辆的侧方所确保的用于门操作的空间与能够进行门操作的允许角度而提示驾驶员以外的乘坐者在向停车目标位置停车前下车(例如,参照专利文献2)。
现有技术文献
专利文献
专利文献1:日本特开平11-208420号公报
专利文献2:日本特开2010-202070号公报
发明内容
本发明所要解决的技术问题
然而,即使使用专利文献1所记载的技术,也需要在变更停车预定位置的情况下,使车辆暂时停车后手动调整停车预定位置、或移动车辆直至车辆的周围环境图像上的停车预定位置成为所希望位置为止,存在有驾驶员的负担大这样的问题。另外,即使使用专利文献2所记载的技术,也需要预先设定能够进行门操作的允许角度,即使在通过设定允许角度而确保用于门操作的空间的情况下,驾驶员以外的乘坐者也不得不预先下车,存在有便利性不足这样的问题。
这样,存在有使车辆停车时的驾驶员、同乘者等乘坐者的便利性不足这样的课题。
本发明的一个方式是鉴于上述的情况而完成的,其目的之一在于,提供一种能够提高使车辆停车时的乘坐者的便利性的停车位置显示处理装置、以及停车位置显示方法。
解决问题的手段
本发明的第一方式是基于上述的情况而完成的,一种停车位置显示处理装置,具备:拍摄部,其拍摄车辆的周围而生成拍摄图像;车辆信息获取部,其获取上述车辆的车辆信息;车辆周围状态识别部,其基于上述拍摄图像和上述车辆信息,生成表示上述车辆的周围的状态的车辆周围信息;停车位置计算部,其基于上述车辆周围信息和上述车辆信息,计算出上述车辆的停车预定位置;合成图像生成部,其基于上述停车预定位置和上述车辆周围信息,根据表示上述停车预定位置的图像、和表示上述停车预定位置的上述车辆的周围的状态的图像生成合成图像;以及显示部,其显示上述合成图像。
另外,本发明的第二方式是上述停车位置显示处理装置,上述合成图像生成部使上述显示部显示将表示上述停车预定位置的图像、和表示上述停车预定位置的上述车辆的周围的状态的图像合成而成的上述合成图像。
另外,本发明的第三方式是上述停车位置显示处理装置,上述停车位置计算部计算出回避了存在于上述停车预定位置的区域内的上述车辆周围信息所包含的物体的、上述候选的停车预定位置,上述合成图像生成部根据表示上述候选的停车预定位置的上述车辆的周围的状态的图像、上述拍摄图像、表示上述停车预定位置的图像、以及表示上述停车预定位置的上述车辆的周围的状态的图像生成合成图像并显示于上述显示部。
另外,本发明的第四方式是上述停车位置显示处理装置,还具备内部拍摄部,其拍摄车辆的内部而生成内部拍摄图像,上述车辆周围状态识别部基于上述内部拍摄图像,计算出上述车辆的乘车者的乘车位置以及上述车辆的乘车者的年龄,上述停车位置计算部根据计算出的上述乘车者的年龄,以使最接近上述乘车者的乘车位置的上述车辆的侧面周围的第一下车区域比该第一下车区域的相反一侧的第二下车区域大的方式计算出上述候选的停车预定位置,上述合成图像生成部根据上述拍摄图像、表示上述停车预定位置的图像、表示上述停车预定位置的上述车辆的周围的状态的图像、以及表示上述候选的停车预定位置的上述车辆的周围的状态的图像生成合成图像并显示于上述显示部。
另外,本发明的第五方式是上述停车位置显示处理装置,上述停车预定位置在判定为乘车者的年龄小于第一规定年龄的情况下、或者乘车者的年龄为第二规定年龄以上的情况下,下车区域比乘车者的年龄为上述第一规定年龄以上且小于上述第二规定年龄的情况下大。
另外,本发明的第六方式是上述停车位置显示处理装置,上述停车位置计算部对最靠近上述乘车者的第一下车区域与该第一下车区域的相反一侧的第二下车区域进行比较,将上述第一下车区域与上述第二下车区域中的更大的下车区域计算为下车位置,上述合成图像生成部生成表示上述乘车者的上述下车位置的图像,使上述显示部显示上述拍摄图像、表示上述下车位置的图像、表示上述停车预定位置的上述车辆的周围的状态的图像、以及表示上述候选的停车预定位置的上述车辆的周围的状态的图像的合成图像。
另外,本发明的第七方式是上述停车位置显示处理装置,还具备:侧面拍摄部,其从上述车辆的前方至后方拍摄上述车辆的侧面而生成侧视图像;和门开度计算部,其计算出能够打开上述车辆的门的门的开度量,上述合成图像生成部基于上述门的开度量,生成表示上述门的开度量的图像,使上述显示部显示将上述侧视图像、表示上述候选的停车预定位置的上述车辆的周围的状态的图像、上述拍摄图像、表示上述停车预定位置的上述车辆的周围的状态的图像、以及表示上述下车位置的图像合成而成的合成图像。
另外,本发明的第八方式是上述停车位置显示处理装置,上述门开度计算部根据上述车辆周围信息所表示的物体的位置信息、和上述停车预定位置,计算出上述车辆与上述物体之间的上述门的开度量。
另外,本发明的第九方式是上述停车位置显示处理装置,还具备:工作部,其向关闭上述车辆的门的方向产生力,在上述门的位置到达能够开闭上述至少一个上述门的开度量所表示的门的区域中的、比与下一个区域的边界靠近前的区域的情况下,上述工作部使力作用于关闭上述车辆的门的方向,对乘车者通知当前的门的位置为上述近前的区域。
另外,本发明的第十方式是上述停车位置显示处理装置,作用于关闭上述车辆的上述门的方向的力按能够开闭上述门的区域变化,门的开度量越增加,作用于关闭上述门的方向的力越变大。
另外,本发明的第十一方式是上述停车位置显示处理装置,在上述车辆的上述门接近了上述车辆周围信息所表示的物体的位置信息得到的物体的位置的情况下,使作用于关闭上述车辆的上述门的方向的力大于除此以外的情况。
另外,本发明的第十二方式是鉴于上述的情况而完成的,一种停车位置显示方法,具备拍摄车辆的周围而生成拍摄图像的拍摄部、和显示部的停车位置显示处理装置的计算机具有:车辆信息获取过程,获取上述车辆的车辆信息;车辆周围状态识别过程,基于上述拍摄图像和上述车辆信息,生成表示上述车辆的周围的状态的车辆周围信息;停车位置计算过程,基于上述车辆周围信息和上述车辆信息,计算出上述车辆的停车预定位置;合成图像生成过程,基于上述停车预定位置和上述车辆周围信息,根据表示上述停车预定位置的图像、和表示上述停车预定位置的上述车辆的周围的状态的图像生成合成图像;以及显示过程,使上述合成图像显示于上述显示部。
另外,本发明的第十三方式是鉴于上述的情况而完成的,一种程序,用于使具备拍摄车辆的周围而生成拍摄图像的拍摄部和显示部的停车位置显示处理装置的计算机执行如下步骤:车辆信息获取步骤,获取上述车辆的车辆信息;车辆周围状态识别步骤,基于上述拍摄图像和上述车辆信息,生成表示上述车辆的周围的状态的车辆周围信息;停车位置计算步骤,基于上述车辆周围信息和上述车辆信息,计算出上述车辆的停车预定位置;合成图像生成步骤,基于上述停车预定位置和上述车辆周围信息,根据表示上述停车预定位置的图像、和表示上述停车预定位置的上述车辆的周围的状态的图像生成合成图像;以及显示步骤,使上述合成图像显示于上述显示部。
发明效果
根据本发明的一个方式,能够提高使车辆停车时的乘坐者的便利性。
附图说明
图1是表示本发明的第一实施方式所涉及的停车位置显示系统的结构的一个例子的概要图。
图2是表示本发明的第一实施方式所涉及的假定环境的一个例子的全景图。
图3是表示通过显示器显示出本发明的第一实施方式所涉及的后部摄像机的拍摄图像的情况下的一个例子的显示例。
图4是表示本发明的第一实施方式所涉及的停车位置显示处理装置的功能结构的一个例子的概要框图。
图5是表示本发明的第一实施方式所涉及的停车位置显示处理的一个例子的流程图。
图6是本发明的第二实施方式所涉及的车辆的全景图。
图7是表示本发明的第二实施方式所涉及的停车位置显示处理装置的功能结构的一个例子的概要框图。
图8是表示本发明的第二实施方式所涉及的车辆图像的一个例子的说明图。
图9是表示本发明的第二实施方式所涉及的停车位置显示处理的一个例子的流程图。
图10是表示本发明的第二实施方式所涉及的停车位置显示处理的一个例子的流程图。
图11是表示本发明的第二实施方式所涉及的停车位置显示处理的一个例子的流程图。
图12是表示本发明的第三实施方式所涉及的显示图像的一个例子的说明图。
图13是表示本发明的第三实施方式所涉及的车辆的门的开度量的图像的一个例子的说明图。
图14是表示本发明的第四实施方式所涉及的显示图像的一个例子的说明图。
图15是表示本发明的第四实施方式所涉及的显示图像的一个例子的说明图。
图16是表示本发明的第五实施方式所涉及的停车位置显示处理装置的功能结构的一个例子的概要框图。
图17是表示本发明的第五实施方式所涉及的停车位置显示处理的一个例子的流程图。
图18是表示本发明的第五实施方式所涉及的变形例的停车位置显示处理的一个例子的流程图。
图19是表示本发明的第六实施方式所涉及的停车位置显示处理装置的功能结构的一个例子的概要框图。
图20是表示本发明的第六实施方式所涉及的反馈力控制的一个例子的说明图。
图21是表示本发明的第六实施方式所涉及的反馈力控制的一个例子的说明图。
图22是表示本发明的第六实施方式所涉及的反馈力控制的一个例子的说明图。
图23是表示本发明的第六实施方式所涉及的停车位置显示处理的一个例子的流程图。
具体实施方式
以下,参照附图对本发明的各实施方式详细地进行说明。
(第一实施方式)
图1是表示本发明的第一实施方式所涉及的停车位置显示系统sys的结构的一个例子的概要图。
图示的例子是车辆11的侧视图的一个例子。停车位置显示系统sys构成为,包括停车位置显示处理装置10、车辆11、后部摄像机12以及显示器90。停车位置显示处理装置10例如配置于车辆11的前方部F的车身内部,对拍摄图像进行各种图像处理。
后部摄像机12配置于车辆11的后方部R,拍摄车辆11的车外的周围环境。后部摄像机12包括例如CCD(Charge Coupled Device)传感器、CMOS(Complementary Metal OxideSemiconductor)传感器等拍摄元件(未图示)、拍摄透镜(未图示)、以及信号处理部,经由拍摄透镜而在拍摄元件上成像来拍摄(生成)图像。在图示的例子中,将拍摄透镜的光轴表示为光轴120。后部摄像机12例如是水平视角60度以上的广角摄像机,且以使光轴120的朝向成为车辆后方的方式配置于车辆11的后方。此时,后部摄像机12优选为比能够拍摄法定视野范围的水平(或者垂直)视角更大的广角,但不仅限于此,例如也可以在车辆11的后方部R使用两台以上水平(或者垂直)视角不是广角的摄像机。该情况下,实施相机校准的处理即可。在以下的说明中,也将由后部摄像机12生成的图像称为生成图像。
显示器90例如是液晶显示器、有机EL显示器等显示装置,通过停车位置显示处理装置10来显示实施了图像处理的图像。
此外,停车位置显示处理装置10、后部摄像机12以及显示器90可以分别设置为专用的设备、处理部,也可以例如通用照明设备、空调机等车辆内的各种控制装置的一部分,也可以装入该各种控制装置的一部分。另外,后部摄像机12和停车位置显示处理装置10也可以构成或者配置为一体。
以下,对搭载了停车位置显示系统的车辆11后退时的假定环境、以及显示于显示器90的停车位置显示的一个例子进行说明。
图2是表示本发明的第一实施方式所涉及的假定环境的一个例子的全景图。
假定环境例如是停车场,图示的例子是该停车场的局部的区域SA的全景图的一个例子。
区域SA配置有表示车辆的停车区域的区域线24-1、24-2、24-4、24-5、24-6、24-7、24-8、按停车区域配置有车挡ST1-1、ST1-2、ST2-1、ST2-2、ST3-1、ST3-2。此处,在不区别区域线24-1、24-2、24-3、24-4、24-5、24-6、24-7、24-8时、或者表示任一个区域线时,称为区域线24。另外,在不区别车挡ST1-1、ST1-2、ST2-1、ST2-2、ST3-1、ST3-2时、或者表示任一个车挡时,称为车挡ST。
此处,对车辆11在停车区域P停车的情况下的一个例子进行说明。停车区域P例如还是被区域线24-6、24-7夹着的区域。
在区域SA中,车辆11在配置有后部摄像机12的车辆11的后方即后部摄像机12的光轴120的方向,沿行进方向D进行(后退)而欲在停车区域P停车。此时,车辆11通过设置于车辆11的后部的后部摄像机12,来拍摄光轴120的方向即车辆后方。后部摄像机12例如能够拍摄停车位置显示区域23的范围。
在图示的例子中,在停车区域P存在有水坑28。在车辆11在停车区域P停车的情况下,停车区域P的车辆11的停车位置是在车辆11停车后乘坐者下车时应该被提醒为糟糕道路的注意位置。另外,在图示的例子中,在停车区域P的左侧的停车区域(被区域线24-5、24-6夹着的区域)停放有相邻车辆30。另外,在图示的例子中,在停车区域P的右侧的停车区域(被区域线24-7、24-8夹着的区域),行人25正在行走。
在车辆11在停车区域P停车的情况下,相邻车辆30和行人25成为车辆11停车时有可能接触的障碍物。
接下来,对在上述假定环境下通过显示器90来显示车辆11的后部摄像机12拍摄到的图像的情况下的一个例子进行说明。
图3是表示通过显示器90来显示本发明的第一实施方式所涉及的后部摄像机12的拍摄图像的情况下的一个例子的显示例。
此处,图2的停车位置显示区域23与图3的停车位置显示区域23对应。
图示的例子是在车辆11后退而进行停车动作时由车辆11的后部摄像机12拍摄的停车位置显示区域23的图像。该停车位置显示区域23的图像是通过对由后部摄像机12拍摄的图像(视频)的一部分或者整体进行各种图像处理而获得的图像(视频)。停车位置显示区域23的图像显示于车辆11所具备的显示器90。
在图示的例子中,车辆11能够停车的停车区域是可停车范围26-1、26-2。在不区别可停车范围时,称为可停车范围26。在车辆11能够在由区域线24围起的停车区域停车时,可停车范围26显示于停车位置显示区域23。在显示有可停车范围26的情况下,停车位置27-1、27-2、27-3、27-4显示于停车位置显示区域23,车辆图像32-1、32-2、32-3、32-4显示于安全信息显示区域23A。在不区别停车位置27-1、27-2、27-3、27-4时,称为停车位置27。另外,在不区别车辆图像32-1、32-2、32-3、32-4时,称为车辆图像32。
停车位置27表示能够使车辆11在可停车范围26停车的情况下的位置(停车预定位置)、和车辆11的停车所需要的面积。另外,车辆图像32示出在停车位置27停放车辆11的情况下的表示车辆11的位置的图像和车辆11的门的开度量。
这样,通过显示停车位置27、和在停车位置27停车的情况下的车辆图像32,从而驾驶员能够从车辆图像32中选择任意的位置停车。另外,驾驶员不需要进行与后部摄像机12、停车辅助相关的各种参数的设定,因此能够提高用户的便利性。另外,驾驶员或者下车者能够在停车前确认停车后的车辆11的停车位置(包括周边的障碍物),并且能够在停车前确认停车后的车辆11的门的开度量。
此处,在图示的例子中,行人25和相邻车辆30是在如上述那样使车辆11停车的情况下有可能与车辆11接触的物体(障碍物)。由于需要对驾驶员通知存在有障碍物,所以障碍物如图示那样强调显示。
另外,水坑28是在乘坐者从车辆11下车的情况下应该被提醒的注意位置29,由于需要对驾驶员或者下车者通知注意位置的存在,所以注意位置29如图示那样强调显示。
这样,通过对由后部摄像机12拍摄到的图像实施图像处理,检测并强调显示图像中的障碍物、注意位置,从而能够对车辆11的驾驶员以及下车者通知(报告)车辆后方存在物体等车辆周边的情况。
图4是表示本发明的第一实施方式所涉及的停车位置显示处理装置10的功能结构的一个例子的概要框图。
停车位置显示处理装置10构成为,包括图像获取部16、车内外状态识别部17、车辆信息获取部18、停车位置计算部19、显示图像生成部20、物体信息存储部21-1以及属性信息存储部21-2。
图像获取部16获取由后部摄像机12输入的表示生成图像的图像信号。图像获取部16将获取到的图像信号向车内外状态识别部17和显示图像生成部20输出。
此外,图像获取部16可以经由有线电缆从后部摄像机12获取图像信号,也可以通过无线从后部摄像机12获取图像信号,也可以经由其他装置、网络等获取后部摄像机12的图像信号,也可以通过其他方法获取后部摄像机12的图像信号。
另外,图像获取部16也可以将从后部摄像机12输入的图像信号转换为适于车内外状态识别部17、显示图像生成部20等的图像处理(信号处理)的图像信号。通过这样,不论后部摄像机12的机型、后部摄像机12所输出的图像信号的种类如何,停车位置显示处理装置10均能够获取图像信号。
车内外状态识别部17当从图像获取部16输入有图像信号时,对图像信号所表示的图像的各物体以及该各物体的坐标进行检测。车内外状态识别部17使检测到的各物体的坐标信息存储于物体信息存储部21-1。另外,车内外状态识别部17对检测到的各物体的种类进行辨别。车内外状态识别部17使物体的辨别结果存储于属性信息存储部21-2。车内外状态识别部17将检测到的各物体的坐标信息、以及包括各物体的辨别结果的检测信息向停车位置计算部19和显示图像生成部20输出。
这样,车内外状态识别部17通过以相同地址分别将物体的坐标和物体的辨别结果存储于物体信息存储部21-1与属性信息存储部21-2,从而能够将读出时的信息建立关联。
此外,车内外状态识别部17也可以通过基于输入的图像信号来计算图像中的特征量(例如,Histogram of Oriented Gradient特征量)并进行预先决定的处理(例如,Adaboost算法、Support Vector Machine算法等),从而来检测物体。另外,车内外状态识别部17检测各物体的方法不局限于上述方法,只要是根据输入的图像信号检测物体的方法,就可以使用任何方法。
此外,车内外状态识别部17也可以通过基于输入的图像信号来计算图像中的特征量,并根据预先通过机器学习等计算出的学习数据对计算出的特征量进行分类,从而进行物体的辨别。另外,车内外状态识别部17进行物体的辨别的方法不局限于上述方法,只要是能够进行物体的辨别的方法,就可以使用任何方法。
车辆信息获取部18获取各传感器70-1、70-2、70-b(b是1以上的预先决定的整数)所获取到的车辆信息1-1、1-2、1-b(b是1以上的预先决定的整数)。车辆信息是设置于车辆11的各传感器70-b所获取到的信息,包括车辆11的车宽、车辆11的车身的全长(车辆长度)、车辆11的行进方向、车辆11的门的开闭状态等信息。车辆11的门的开闭状态的信息除了车辆11的门的开闭之外,还包括门打开时的角度信息。
车辆信息获取部18将获取到的车辆信息1-b向停车位置计算部19输出。
此外,各传感器70-b所获取到的车辆信息的获取方法不限定于上述方法,可以经由有线电缆来获取,可以通过无线来获取,也可以使用任何方法来获取。另外,车辆信息也可以包括从设置于车辆11的传感器获得的车辆信号(例如,车辆位置信息等)。另外,对于车辆信息,也可以将多个车辆信号组合而生成新的信息。例如,也可以根据方向盘角度的车辆信号和车速的车辆信号生成表示车辆的行进方向的车辆信息。
此外,车辆信息获取部18也可以将获取到的车辆信息1-b向车内外状态识别部17和停车位置计算部19输出。该情况下,车内外状态识别部17也可以基于图像获取部16所输出的图像信号以及车辆信息获取部18所输出的车辆信息中的一方或者双方来识别车内外状态。在仅使用车辆信息来识别车内外状态的情况下,不需要对图像信号进行的图像处理,因此能够减少车内外状态识别部17的计算量。接下来,在仅使用图像信号来识别车内外状态的情况下,通过将处理图像信号的算法变更为面部检测算法、物体检测算法,能够从图像信号获取多个信息(人的位置、障碍物的位置等)。而且,在使用车辆信息和图像信号双方来识别车内外状态的情况下,能够将图像处理算法的输出结果与传感器的检测信息组合。例如将用于对处于车辆后方的物体进行检测的传感器设置于车外,将传感器的检测结果、与根据后部摄像机的图像信号进行了物体检测的结果组合,在通过传感器和后部摄像机的图像信号双方检测到物体的情况下,判定为检测到物体,从而能够提高车内外状态检测结果的可靠性。
停车位置计算部19获取从车内外状态识别部17输入的检测信息中的区域线24的位置信息(坐标信息)。停车位置计算部19基于区域线24的位置信息来计算图像的区域线24间(例如区域线24-6、24-7间等)的距离。另外,停车位置计算部19从车辆信息获取部18获取作为车辆信息而表示车辆11的车宽的信息,并进行区域线24间的距离与车宽的比较计算。
具体而言,在车宽短于(小于)计算出的区域线24间的距离的情况下,即有车辆11能够在区域线24间停车的空间的情况下,停车位置计算部19将被区域线24夹着的区域判定为可停车范围,作为判定结果而将表示可停车范围的信息向显示图像生成部20输出。另外,在图像中存在可停车范围的情况下,停车位置计算部19还从车辆信息获取部18获取车辆11的全长(车辆长度)来作为车辆信息,将车宽与车辆长度相乘,计算车辆11停车所需要的区域。而且,停车位置计算部19在可停车范围内配置车辆11停车所需要的多个区域,将该车辆11停车所需要的区域的坐标信息作为停车位置信息向显示图像生成部20输出。此时,停车位置计算部19将可停车范围、与车辆11停车所需要的区域不一致的位置判定为无法停车的区域(已经有其他车辆的停车位置),将该无法停车的区域的坐标信息作为停车位置信息向显示图像生成部20输出。
显示图像生成部20通过在从图像获取部16输入的图像信号中重叠显示从车内外状态识别部17输入的检测信息、和从停车位置计算部19输入的停车位置信息而生成停车位置显示区域23的图像(重叠图像)。显示图像生成部20使生成的重叠图像显示于显示器90。
另外,在显示图像生成部20中,当从图像获取部16输入有图像信号时,从由车内外状态识别部17输入的检测信息中提取物体的位置信息和物体的高度信息。显示图像生成部20根据提取的物体的位置信息和物体的高度信息生成表示物体的框,并重叠于图像信号而生成框重叠图像。此外,显示图像生成部20也可以强调表示物体的框。该情况下,也可以改变框的形状、框的颜色、框的线型等,只要观察显示器90的图像的车辆11的乘坐者能够区别后部摄像机12的图像上的其他物体(背景等),也可以用任意方法来强调。
另外,显示图像生成部20根据从停车位置计算部19作为停车位置信息而获取到的可停车范围、无法停车的区域、从车内外状态识别部17输入的检测信息生成停车位置图像,并与图像信号重叠。停车位置图像包括:表示车辆11向停车位置的行进方向的箭头的图像(例如,图2的行进方向D等)、表示打开停车后的门时的车辆11的图像(例如,图2的车辆图像32等)、以及处于由车内外状态识别部17检测到的可停车范围内的物体的图像(例如图2的注意位置29等)。显示图像生成部20使停车位置图像内的表示车辆11向停车位置的行进方向的箭头的图像配置为:箭头的起点朝向后部摄像机12的图像的图像的中心方向、箭头的终点朝向摄像机图像上的停车位置的坐标方向。
接下来,显示图像生成部20基于检测信息分别对各可停车范围的每个停车预定位置的车辆11的门位置、与在该停车预定位置的车辆11的各门的开度量进行计算。显示图像生成部20生成表示以与计算出的各门的开度量对应的大小打开(敞开)各门的状态的图像(例如,图3的车辆图像32等)。而且,显示图像生成部20生成模拟了基于车辆11的车宽和车辆11的全长的车辆11的停车位置图像(例如,图3的停车位置27的图像等),并重叠于表示可停车范围内的图像(例如,图3的可停车范围26的图像等),进而使表示打开(敞开)了各门的状态的图像重叠于车辆图像。此处,车辆图像中表示的面积成为与可停车范围中表示的面积大致相等的面积。这样,显示图像生成部20生成在停车位置图像内门打开的车辆11的图像。
另外,对于显示图像生成部20而言,从由车内外状态识别部17输入的检测信息中提取物体的位置信息,若提取的物体的位置坐标处于可停车范围内,则生成使表示检测到的物体的图像重叠于停车位置图像的物体重叠图像。这样,显示图像生成部20通过生成物体重叠图像,从而车辆11的驾驶员能够从显示于显示器90的可停车范围中选出任意的停车位置进行停车,因此能够提高便利性。另外,能够减少由驾驶员预先进行的与停车相关的各种参数的设定的麻烦。并且,车辆的下车者能够在实际在停车位置停放车辆11前确认驾驶员选择出的停车位置的车辆的停车位置和下车所需要的门的打开空间,因此能够提高便利性。
物体信息存储部21-1存储物体信息。另外,属性信息存储部21-2存储物体的辨别结果。
图5是表示本发明的第一实施方式所涉及的停车位置显示处理的一个例子的流程图。
在步骤S10中,后部摄像机12在车辆11进行后退动作时启动,开始拍摄图像。停车位置显示处理装置10的图像获取部16获取表示后部摄像机12拍摄到的图像的图像信号。此外,在图像信号的格式与停车位置显示处理装置10能够识别(处理)的图像信号格式不同的情况下,图像获取部16也可以转换图像信号格式,也可以在其他装置中进行格式转换而获取转换后的格式的图像信号。
停车位置显示处理装置10在步骤S10的处理后,执行步骤S11的处理。
在步骤S11中,车辆信息获取部18从传感器70-b获取车辆11的车辆信息1-b(b为1以上的预先决定的整数)(传感器信息),将获取到的车辆信息1-b向停车位置计算部19输出。停车位置显示处理装置10在步骤S10的处理后,执行步骤S12的处理。
在步骤S12中,在车内外状态识别部17中,当从图像获取部16输入有图像信号时,检测该图像信号所表示的图像上的各物体,使检测到的物体的坐标信息(物体信息)存储于物体信息存储部21-1。另外,车内外状态识别部17对检测到的各物体是什么物体进行辨别(物体的辨别),使物体的辨别结果(属性信息)存储于属性信息存储部21-2。车内外状态识别部17将物体信息(物体的坐标信息)和物体的辨别结果作为检测信息(也称为车内外状态信息)向停车位置计算部19以及显示图像生成部20输出。
此外,在步骤S12中,车内外状态识别部17也可以基于来自图像获取部16的图像信号、和来自本车辆信息获取部18的车辆信号,检测该图像信号所表示的图像上的各物体,使检测到的物体的坐标信息(物体信息)存储于物体信息存储部21-1。另外,车内外状态识别部17也可以对检测到的各物体是什么物体进行辨别(物体的辨别),使物体的辨别结果(属性信息)存储于属性信息存储部21-2。该情况下,车内外状态识别部17将物体信息(物体的坐标信息)和物体的辨别结果作为检测信息(也称为车内外状态信息)向停车位置计算部19以及显示图像生成部20输出即可。
在步骤S13中,在停车位置计算部19中,当从车内外状态识别部17输入有检测信息时,从属性信息中提取区域线24,从坐标信息中提取并获取与该区域线24对应的区域线24的位置信息。另外,停车位置计算部19计算图像上的区域线24间的距离。另外,停车位置计算部19作为车辆信息而获取车辆11的车宽。而且,停车位置计算部19基于车宽和区域线24间的距离,计算可停车范围和停车位置。停车位置计算部19将表示计算出的可停车范围和停车位置的信息向显示图像生成部20输出。
停车位置显示处理装置10在步骤S13的处理后执行步骤S14的处理。
此外,停车位置计算部19也可以在从车内外状态识别部17获取物体信息以及属性信息中的任一方或者双方的情况下,从车内外状态识别部17获取检测信息(车内外状态信息)。另外,停车位置计算部19也可以从物体信息存储部21-1或者属性信息存储部21-2获取物体信息以及属性信息中的任一方或者双方。该情况下,能够使车内外状态识别部17与停车位置计算部19以非同步动作,因此能够降低功耗。
在步骤S14中,显示图像生成部20通过使从车内外状态识别部17输入的检测信息、和从停车位置计算部19输入的停车位置信息重叠于从图像获取部16输入的图像信号而生成停车位置显示区域23的图像,使生成的停车位置显示区域23的图像显示于显示器90。其后,结束图5所涉及的处理。
这样,第一实施方式所涉及的停车位置显示处理装置10具备:拍摄部(后部摄像机12),其拍摄车辆11的周围而生成拍摄图像;车辆信息获取部18,其获取车辆11的车辆信息;车辆周围状态识别部(车内外状态识别部17),其基于拍摄图像和车辆信息,生成表示车辆11的周围的状态的车辆周围信息;停车位置计算部19,其基于车辆周围信息和车辆信息,计算车辆的停车预定位置;合成图像生成部(显示图像生成部20),其基于上述停车预定位置和车辆周围信息,根据表示停车预定位置的图像、和表示停车预定位置的车辆11的周围的状态的图像生成合成图像;以及显示部(显示器90),其显示合成图像。
由此,能够提高使车辆停车时的乘坐者的便利性。
(第二实施方式)
在第一实施方式中,对仅具备后部摄像机12的情况进行了说明。该情况下,能够确认车辆11的后方的车外(周围环境)的情况,但无法确认前方、右方、左方的周围环境。因此,在第二实施方式中,对取代后部摄像机12、或者除了后部摄像机12之外还使用多个摄像机的情况的一个例子进行说明。
通过这样,从而能够确认车辆11的周围整体的周围环境,并且能够预先确认应该从车辆11的哪个门下车。
此外,在第二实施方式中,以与第一实施方式不同的部分为中心进行说明。
图6是本发明的第二实施方式所涉及的车辆11的全景图。
车辆11具备后部摄像机12、侧摄像机13-1、13-2、前摄像机14以及室内摄像机15。除此以外的结构与第一实施方式所涉及的车辆11以及停车位置显示处理系统相同,因此省略图示以及说明。在以下的说明中,在不区别侧摄像机13-1、13-2时,称为侧摄像机13。
侧摄像机13对车辆11的侧部即搭乘者(乘坐者)下降的空间进行拍摄。侧摄像机13优选设置为能够拍摄车辆11的侧部即搭乘者(乘坐者)下车的空间。侧摄像机13的光轴表示为光轴130-1、130-2。
前摄像机14拍摄从驾驶员座位观察的车辆11前方。前摄像机14优选设置为能够拍摄处于从驾驶员座位观察的车辆11前方的下部的盲点。前摄像机14的光轴表示为光轴140。
室内摄像机15拍摄车辆11的搭乘者(乘坐者)全员的面部。室内摄像机15优选设置为能够拍摄车辆11的搭乘者(乘坐者)全员的面部。此时,可以通过一台摄像机拍摄乘坐者全员的面部,也可以通过多台摄像机拍摄乘坐者全员的面部。该情况下,只要能够拍摄乘坐者全员的面部,可以使用广角透镜,也可以使用窄角透镜。在本实施方式中,作为室内摄像机15,对使用搭载了一台广角透镜的摄像机的情况的一个例子进行说明。室内摄像机15的光轴表示为光轴150。
侧摄像机13、前摄像机14、室内摄像机15是与后部摄像机12相同的结构,因此省略说明。
图7是表示本发明的第二实施方式所涉及的停车位置显示处理装置10的功能结构的一个例子的概要框图。
停车位置显示处理装置10构成为,包括图像获取部16、车内外状态识别部17、车辆信息获取部18、停车位置计算部19、显示图像生成部20、物体信息存储部21-1、属性信息存储部21-2以及下车位置计算部22。
室内摄像机15拍摄车内的图像(也称为车内图像)。室内摄像机15将表示拍摄到的车内图像的图像信号向车内外状态识别部17输出。
在车内外状态识别部17中,当从图像获取部16输入有表示车内图像的图像信号时,执行车内图像中的乘坐者的面部的检测处理(也称为面部检测处理),对车内图像中的一个或者多个面部的位置信息(坐标位置)、和车内图像中的一个或者多个面部的特征量进行计算。面部检测处理是使用预先决定的处理(例如,Adaboost算法)计算面部的位置信息的处理。
此外,车内外状态识别部17也可以使用根据其他图像信号检测面部的位置信息和特征量的检测方法。另外,车内外状态识别部17也可以对车内图像中的一个或者多个面部的位置信息(坐标位置)、和表示车内图像中的每个乘坐者的身体的大小的体型信息进行计算,将各乘坐者的对角信息与各乘坐者的面部的位置信息建立关联。体型信息也可以根据由某一帧和其下一帧拍摄到的车内图像的背景差分来计算。另外,体型信息由于根据乘坐者的乘车位置而不同,因此也可以将按每个乘坐者计算出的体型信息除以该乘坐者的面部的大小而实现标准化。另外,车内图像中的每个乘坐者的体型信息的计算不局限于上述方法,只要是能够计算乘坐者的体型的方法,也可以使用任意的方法。通过像这样将面部的位置信息与体型信息建立关联,从而在计算后述的车辆11的各门的开度量时,能够根据体型来估计乘坐者下车时必须确保的门开度量。因此,与仅根据面部的特征量来计算门开度量的情况比较,能够提高门开度量的计算精度。
车内外状态识别部17根据计算出的面部的位置信息来计算面部的重心位置,通过重心位置的数量来计算乘车人数。而且,车内外状态识别部17通过根据室内摄像机15的设置位置和光轴150的朝向将计算出的重心位置转换为车内空间,从而对各乘坐者的车辆11的车内的乘车位置进行计算。此外,车内外状态识别部17也可以取代计算面部的重心位置来计算乘车人数、或者除此之外还针对车内的各座位使用人体传感器、压敏传感器、红外线传感器等能够检测人的存在的各种传感器60-c(c为1以上的预先决定的整数))来计算乘车人数。该情况下,将使用各种传感器60-c而计算出的乘车人数和面部的位置信息建立关联即可。
车内外状态识别部17生成:包括检测到的面部(或者人物)的区域的代表点(例如,重心)的二维坐标;和检测到的面部(或者人物)的区域的上端、下端、左端、右端的二维坐标在内的二维面部区域信息。车内外状态识别部17对生成的二维面部面区域信息的代表点的二维坐标、和面部(或者人物)的区域的二维坐标执行属性估计处理来计算各面部的年龄。车内外状态识别部17使计算出的各面部的年龄存储于属性信息存储部21-2。
此处,在以下的说明中,有时也将与各面部的年龄相关的信息、乘车人数的信息、以及与乘车位置相关的乘车称为乘坐者信息。
在车内外状态识别部17中,当从设置于车辆11的车外的摄像机(后部摄像机12、侧摄像机13、前摄像机14)输入有各图像信号时,执行对各图像信号所表示的图像中的物体进行检测的物体检测处理,将各图像中的各物体的位置坐标作为位置信息进行计算。另外,车内外状态识别部17相对于检测到的各物体的位置坐标进行基于机器学习(例如深度学习)、人工智能实施的图像处理,来计算物体的高度。车内外状态识别部17使计算出的各物体的高度存储于物体信息存储部21-1。
车内外状态识别部17将二维面部区域信息、表示物体的高度的高度信息、表示乘车人数的信息、各面部的年龄、检测信息作为车内外状态信息而向停车位置计算部19和下车位置计算部22输出。
停车位置计算部19从由车内外状态识别部17输入的检测信息中提取区域线24的位置信息来作为物体信息。停车位置计算部19根据多个区域线24的位置坐标来对相邻的两个区域线24间的距离分别进行计算。停车位置计算部19将计算出的区域线24间的距离乘以区域线24的长度来计算出可停车范围26。另外,停车位置计算部19在存在有存在于计算出的可停车范围26的物体的位置信息的情况下,将存在于可停车范围26的物体判定为障碍物。停车位置计算部19将除去同与判定出的障碍物对应的物体的坐标位置对应的障碍物的面积之外的部分计算为停车位置27。
停车位置计算部19从由车内外状态识别部17输入的车内外状态信息中提取乘车人数、乘车位置、面部的年龄,并基于车辆11的搭乘者(乘坐者)的有无和车辆11的各搭乘者(乘坐者)的年龄,来计算车辆11的所有的门的开度量。门的开度量根据搭乘者的年龄而不同,例如,20岁以下、60岁以上的人无法调整打开门时的力度,或者力度的调整较困难,因此需要增大门的开度量,需要门全开的开度量,例如需要将门的开度量设定为最大。这样,停车位置计算部19例如针对门的开度量,参照按每个年龄、年龄段与门的开度量建立关联的表格,来计算车辆11的所有的门的开度量。
此外,在车内外状态识别部17计算表示各搭乘者的身体的大小的体型信息的情况下,车内外状态识别部17也可以根据车内外状态信息来计算搭乘者(乘坐者)的体型信息,根据搭乘者的年龄和体型信息来计算门的开度量。例如,也可以相对于三种体型信息(体型较大的情况、体型标准的情况、体型较小的情况等)预先制作按年龄、年龄段与门的开度量建立关联的三个表格,根据计算出的体型信息切换参照目的地的表格来计算门开度量。例如,体型信息也可以以各年龄、年龄段中出现频度最高的体型作为标准,比标准体型大的情况为体型较大,比标准体型小的情况为体型较小,区别体型信息的方法不局限于上述方法,也可以使用任意方法。
停车位置计算部19将计算出的停车预定位置、和表示在停车预定位置的车辆11的门的开度量的信息向显示图像生成部20和下车位置计算部22输出。
此外,停车位置计算部19也可以无论年龄、年龄段如何而任意地设定门的开度量,也可以根据年龄、年龄段、性别等设定门的开度量。
下车位置计算部22从由车内外状态识别部17输入的车内外状态信息中提取乘车人数、乘车位置、面部的年龄,并从由停车位置计算部19输入的表示门的开度量的信息中提取门的开度量。下车位置计算部22基于车辆11的搭乘者(乘坐者)的有无、车辆11的各搭乘者(乘坐者)的年龄以及车辆11的各门的开度量,来计算所有车辆11的各门的下车位置。下车位置计算部22将表示计算出的各门的下车位置的信息向显示图像生成部20输出。
显示图像生成部20通过将后部摄像机12、侧摄像机13、前摄像机14的图像信号即所有的车外摄像机的图像合成而生成全景图像(俯瞰图像)。全景图像的生成使用公知技术即可。
显示图像生成部20从停车位置计算部19获取停车位置和门开度量,在停车预定位置的车辆图像中重叠与各门的开度量的大小对应地打开各门的状态的门图像,并生成停车位置图像。显示图像生成部20以与停车预定位置的车辆图像的门的位置重叠的方式在停车预定位置的车辆图像中重叠门图像而将停车位置图像生成为全景图像。显示图像生成部20从下车位置计算部22获取表示各门的下车位置的信息所含的下车位置,使表示下车位置的图像重叠于全景图像中的车辆图像。显示图像生成部20使生成的全景图像显示于显示器90。
此处,对车辆11的门设置于车辆11的两侧的情况的一个例子进行说明。此时,根据搭乘者的组合的不同,有时相比从车辆11的两侧的门下车而从车辆11的一侧的门下车更能够较广地确保停车时的下车空间。使用图8进行详述。
图8是表示本发明的第二实施方式所涉及的车辆图像32的一个例子的说明图。
在图示的例子中,作为车辆11的乘坐者,除了驾驶员之外还有三名大人或者儿童乘坐车辆11即四名乘坐者乘坐车辆11时的一个例子。图示的车辆图像32例如显示于显示器90,以取代图3所示的第一实施方式所涉及的车辆图像32。
图8的(a)是在驾驶员和三名大人乘坐车辆11的情况下显示于显示器90的车辆图像32的一个例子,图8的(b)(图8的(b-1)、
图8的(b-2)、图8的(b-3))、图8的(c)(图8的(c-1)、图8的(c-2)、图8的(c-3)是在驾驶员以外大人和儿童至少一名乘坐车辆11的情况下显示于显示器90的车辆图像32的一个例子,图8的(d)是在驾驶员和三名儿童乘坐车辆11的情况下显示于显示器90的车辆图像32的一个例子。
该车辆图像32是基于车内外状态信息由显示图像生成部20生成的图像,并在将车辆11停放于停车预定位置前显示于安全信息显示区域23A。车辆11的搭乘者能够在停车预定位置停放车辆11前确认车辆11的各门的开度量为何种程度。
此处,假定车辆11的可停车范围为由于障碍物等而无法使车辆11的所有的门成为全开。另外,各车辆图像的车辆11中(四角中的箭头)表示下车时的下车门的方向,曲线箭头(施加了剖面线的箭头)表示各门的开度量。
在图8的(a)中,假定驾驶员的后部右侧的大人为60岁以上,驾驶员的左侧的大人、驾驶员的后部左侧的大人为30岁。此时,停车位置计算部19生成表示在驾驶员侧即车辆11的右侧需要较广的空间的、驾驶员侧的门的开度量较大的车辆图像32的门图像。另一方面,停车位置计算部19生成表示车辆11的左侧的空间较窄且门的最大开度量被限制、即在门的开闭时需要注意的门的开度量较小的车辆图像32的门图像。
通过这样,在搭乘者从车辆11的各座位下车的情况下,搭乘者能够一边在车辆11停车前确认下车时的门位置、各门的开度量、下车时打开的门位置的车外情况一边下车,并且能够考虑门的开度量而使车辆11停车,因此能够提高便利性。
图8的(b)以及图8的(c)是在驾驶员、大人、儿童下车的情况下显示于显示器90的车辆图像32的一个例子。儿童无法或难以调整打开门时的力度,有时门与车辆11的周边的障碍物接触。因此,以使儿童从多个门中的门的开度量更大的门下车的方式将下车位置显示于显示器90。由此,能够减少车辆11的门与附近的障碍物接触的可能性。
另外,图8的(d)是在司机和儿童下车的情况下显示的下车位置显示例,以使儿童从门的开度量更大的门下车的方式显示下车位置。
此处,在图8所示的例子中,仅对车辆图像32进行了说明,但停车位置计算部19从车内外状态识别部17获取障碍物的位置信息和注意位置的位置信息,例如通过框将障碍物的位置和注意位置的位置强调显示后,使显示图像生成部20生成的全景图像显示于显示器90。
此外,在图8所示的例子中,对驾驶员、大人、儿童下车时的显示例进行了说明,但也可以显示下车位置,以便下车者全员从设置于座位的门下车。该情况下,不需要室内摄像机15,因此能够减少包括摄像机的停车位置显示处理装置10的导入所花费的费用、室内摄像机15的调整的麻烦等。
此外,全景图像也可以显示于多个显示器90-d,也可以显示于一个显示器。并且,也可以使俯瞰图显示于某个显示器,在其他显示器显示后部摄像机图像等、按每个显示器显示不同图像。
图9是表示本发明的第二实施方式所涉及的停车位置显示处理的一个例子的流程图。
图9的停车位置显示处理(步骤S30~步骤S33的处理)在步骤S10的处理后且在步骤S13的处理前执行,以取代图5所示的停车位置显示处理的步骤S11、步骤S12的处理。
在步骤S30中,车内外状态识别部17当从图像获取部16输入有各车外摄像机(后部摄像机12、侧摄像机13、前摄像机14)的各图像信号时,检测该各图像信号所表示的图像上的各物体,使检测到的物体的坐标信息(物体信息)存储于物体信息存储部21-1。另外,车内外状态识别部17进行检测到的各物体是什么物体的辨别(物体的辨别),使物体的辨别结果(属性信息)存储于属性信息存储部21-2。车内外状态识别部17将物体信息(物体的坐标信息)和物体的辨别结果作为检测信息(也称为车内外状态信息),向停车位置计算部19、显示图像生成部20以及下车位置计算部22输出。
在步骤S31中,室内摄像机15拍摄车内的图像(也称为车内图像)。室内摄像机15将表示拍摄到的车内图像的图像信号向车内外状态识别部17输出。
在车内外状态识别部17中,当从图像获取部16输入有表示车内图像的图像信号时,执行车内图像中的乘坐者的面部的检测处理(也称为面部检测处理),对车内图像中的一个或者多个面部的位置信息(坐标位置)和车内图像中的一个或者多个面部的特征量进行计算。面部检测处理是使用预先决定的处理(例如,Adaboost算法)计算面部的位置信息的处理。
此外,车内外状态识别部17也可以使用根据其他图像信号检测面部的位置信息和特征量的检测方法。
在步骤S32中,车内外状态识别部17根据计算出的面部的位置信息计算面部的重心位置,根据重心位置的数量计算乘车人数。而且,车内外状态识别部17根据室内摄像机15的设置位置和光轴150的朝向,通过将计算出的重心位置转换为车内空间而对各乘坐者的车辆11的车内的乘车位置进行计算。此外,车内外状态识别部17也可以取代计算面部的重心位置来计算乘车人数、或者除此之外还针对车内的各座位使用人体传感器、压敏传感器、红外线传感器等能够检测人的存在的各种传感器60-c(c为1以上的预先决定的整数))来计算乘车人数。该情况下,将使用各种传感器60-c计算出的乘车人数、和面部的位置信息建立关联即可。
在步骤S33中,车内外状态识别部17生成:包括检测到的面部(或者人物)的区域的代表点(例如重心)的二维坐标、和检测到的面部(或者人物)的区域的上端、下端、左端、右端的二维坐标在内的二维面部区域信息。车内外状态识别部17对生成的二维面部面区域信息的代表点的二维坐标和面部(或者人物)的区域的二维坐标执行属性估计处理来计算各面部的年龄。车内外状态识别部17使计算出的各面部的年龄存储于属性信息存储部21-2。
此处,在以下的说明中,有时也将与各面部的年龄相关的信息、乘车人数的信息、以及与乘车位置相关的乘车称为乘坐者信息。
图10是表示本发明的第二实施方式所涉及的停车位置显示处理的一个例子的流程图。
图10的停车位置显示处理(步骤S40~步骤S43的处理)在步骤S12的处理后且在步骤S14的处理前执行,以取代图5所示的停车位置显示处理的步骤S13的处理。
在步骤S40中,车内外状态识别部17当从设置于车辆11的车外的摄像机(后部摄像机12、侧摄像机13、前摄像机14)输入有各图像信号时,执行对各图像信号所表示的图像中的物体进行检测的物体检测处理,将各图像中的各物体的位置坐标作为位置信息进行计算。另外,车内外状态识别部17相对于检测到的各物体的位置坐标进行基于机器学习(例如,深度学习)、人工智能实施的图像处理,来计算物体的高度。车内外状态识别部17使计算出的各物体的高度存储于物体信息存储部21-1。停车位置计算部19从由车内外状态识别部17输入的检测信息中提取区域线24的位置信息来作为物体信息。停车位置计算部19根据多个区域线24的位置坐标分别对相邻的两个区域线24间的距离进行计算。停车位置计算部19将计算出的区域线24间的距离乘以区域线24的长度来计算出可停车范围26。
在步骤S41中,在存在有存在于计算出的可停车范围26的物体的位置信息的情况下,停车位置计算部19将存在于可停车范围26的物体判定为障碍物。停车位置计算部19将除去同与判定出的障碍物对应的物体的坐标位置对应的障碍物的面积之外的部分计算为停车位置27。
在步骤S42中,停车位置计算部19从由车内外状态识别部17输入的车内外状态信息中提取乘车人数、乘车位置、面部的年龄,并基于车辆11的搭乘者(乘坐者)的有无和车辆11的各搭乘者(乘坐者)的年龄,来计算车辆11所有的门的开度量。门的开度量根据搭乘者的年龄而不同,例如20岁以下、60岁以上的人无法调整打开门时的力度,或者难以调整力度,因此需要增大门的开度量,需要门成为全开的门的开度量,例如将门的开度量设定为最大。这样,停车位置计算部19例如针对门的开度量,参照按年龄、年龄段与门的开度量建立关联的表格,来计算车辆11的所有的门的开度量。
在步骤S43中,停车位置计算部19将计算出的停车预定位置、和表示在停车预定位置的车辆11的门的开度量的信息向显示图像生成部20和下车位置计算部22输出。
此外,停车位置计算部19也可以无论年龄、年龄段如何而任意地设定门的开度量,也可以根据年龄、年龄段、性别等设定门的开度量。
此外,在步骤S40中,车内外状态识别部17也可以对车内图像中的按每个乘坐者表示身体的大小的体型信息进行计算,并与各乘坐者的面部的位置信息建立关联。该情况下,在步骤S42中,车内外状态识别部17也可以根据车内外状态信息来计算搭乘者的体型信息,并根据搭乘者的年龄和体型信息来计算门的开度量。例如,也可以相对于三种体型信息(体型较大的情况下、体型标准的情况下、体型较小的情况下)预先制作按年龄、年龄段与门的开度量建立关联的三个表格,根据计算出的体型信息切换参照目的地的表格来计算门开度量。例如,体型信息也可以以各年龄、年龄段中出现频度最高的体型作为标准,比标准体型大的情况下体型较大,比标准体型小的情况下体型较小,区别体型信息的方法不局限于上述方法,也可以使用任意的方法。
图11是表示本发明的第二实施方式所涉及的停车位置显示处理的一个例子的流程图。
图11的停车位置显示处理(步骤S50~步骤S53的处理)在步骤S13的处理后执行,以取代图5所示的停车位置显示处理的步骤S14的处理。
在步骤S50中,显示图像生成部20通过将后部摄像机12、侧摄像机13、前摄像机14的图像信号即所有的车外摄像机的图像合成而生成全景图像(俯瞰图像)。全景图像的生成使用公知技术即可。
在步骤S52中,显示图像生成部20从停车位置计算部19获取停车位置和门开度量,在停车预定位置的车辆图像中重叠与同各门的开度量的大小对应地打开各门的状态的门图像,并生成停车位置图像。显示图像生成部20以与停车预定位置的车辆图像的门的位置重叠的方式在停车预定位置的车辆图像中重叠门图像而将停车位置图像生成为全景图像。显示图像生成部20基于从下车位置计算部22获取的下车位置,使表示下车位置的图像重叠于全景图像中的车辆图像。
在步骤S53中,显示图像生成部20使生成的全景图像显示于显示器90。
这样,第二实施方式所涉及的停车位置显示处理装置10具备:拍摄部(后部摄像机12),其基于拍摄车辆11的周围而生成拍摄图像;车辆信息获取部18,其获取车辆11的车辆信息;车辆周围状态识别部(车内外状态识别部17),其基于拍摄图像和车辆信息生成表示车辆11的周围的状态的车辆周围信息;停车位置计算部19,其基于车辆周围信息和车辆信息来计算车辆的停车预定位置;下车位置计算部22,其计算从本车辆11的下车位置;合成图像生成部(显示图像生成部20),其基于上述停车预定位置和车辆周围信息,并根据表示停车预定位置的图像、表示停车预定位置的车辆11的周围的状态的图像、以及表示下车位置的图像生成合成图像;以及显示部(显示器90),其显示合成图像。
由此,能够提高使车辆停车时的乘坐者的便利性。
(第三实施方式)
在第三实施方式中,对在搭乘者从车辆11下车的情况下,能够在打开门前确认是否有如下情况的一个例子进行说明,即在下车的门的动作范围内存在障碍物的情况、门的动作范围内无法下车的状态(例如存在水坑、泥泞的状态、因台阶等而地面窄(落脚地情况较差(不好))的状态、存在人、自行车、车、摩托车等接近物的状态等)的注意位置。
具体而言,在搭乘者从车辆11下车的情况下,搭乘者会因由车辆11的门产生的盲点,而无法确认下车时的落地面的状态。假设在车辆11的搭乘者进行落地面的确认的情况下,在使车辆11在停车位置停车前,搭乘者需要对下车位置进行预测并从车辆的窗户持续确认落地面的状态,除此以外,在后部座位的情况下,由于没有侧视镜,所以需要从车辆11的前方以及后方直接目视观察是否存在车、摩托车、自行车、人、动物等之类的接近物后打开门。
但是,对于从车辆11的前方或后方确认接近物而言,由于因前部座位的搭乘者、前部座位的头靠、门的框、柱等妨碍后部座位的搭乘者的视野的情况较多,因此需要后部座位的搭乘者面部靠近门的窗户来确认车辆11的前方、后方。
另外,每次下车都进行这些确认作业会带来不便,因此恐怕会忽略了该确认。另外,在儿童的情况下,也有可能不进行该确认就打开门。
因此,在本实施方式中,对在搭乘者从车辆11下车的情况下,预先显示车外的状态(周围环境),从而能够简单且安全地打开门并下车的情况下的一个例子进行说明。
通过这样,在打开车辆11的门前,能够确认车辆11的周围整体的周围环境,并且能够预先确认应该从车辆11哪个门下车。
此外,在第三实施方式中,以与第二实施方式不同部分为中心进行说明。
此处,第三实施方式所涉及的停车位置显示处理装置10的结构与第二实施方式所涉及的停车位置显示处理装置10比较,第三实施方式所涉及的停车位置计算部19对多阶段的门的开度量进行计算这点、和第三实施方式所涉及的显示图像生成部20生成与该多阶段的门的开度量对应的轮廓图像这点不同。除此以外,与第二实施方式相同,因此省略图示和说明。
图12是表示本发明的第三实施方式所涉及的显示图像的一个例子的说明图。
在图示的例子中,包括基于侧摄像机13-2所拍摄到的图像而得到的车辆左侧图像GL、和基于侧摄像机13-1所拍摄到的图像而得到的车辆右侧图像GR。
车辆左侧图像为,相对于处于道路上的车辆11,将侧摄像机13-2拍摄车辆11的左侧而得到的图像转换为从车辆11的前方朝向后方的图像,并作为车辆左侧图像而显示于显示器90-d。另外,相对于处于道路上的车辆11,将侧摄像机13-1拍摄车辆11的右侧而得到的图像转换为从车辆11的前方朝向后方的图像,并作为车辆右侧图像GR而显示于显示器90-d。
此处,显示器90-d(d为1以上的任意的正数)例如包括以在车辆11的后部座位能够确认的方式设置于车辆11的顶棚的吸顶显示器。换句话说,车辆11具备多个显示器90-d。在以下的说明中,将第一实施方式、第二实施方式所说明的驾驶员能够确认的显示器称为显示器90F,将在后部座位能够确认的显示器称为显示器90R。另外,有时也在表示显示器90F和显示器90R任一个时称为显示器90。显示器90F和显示器90R包含于显示器90-d。
车辆左侧图像GL包括:车辆11的左侧的车身11L、左侧窗户WinL、左侧轮胎WL、左侧下车空间SL、左侧后部门DL、障碍物25-2。车辆右侧图像GR包括:车辆11的右侧的车身11R、右侧窗户WinR、右侧轮胎WR、右侧下车空间SR、右侧后部门DR、接近者25-1。
如车辆左侧图像GL所图示的那样,在左侧后部门DL前存在障碍物25-2,若直接将左侧后部门DL打开,则左侧后部门DL会与障碍物25-2接触,而打不开左侧后部门DL,除此以外,可能对障碍物25-2、车辆11带来损害。通过这样,下车者在下车时确认车辆左侧图像GL,从而能够在打开左侧后部门DL前确认存在有障碍物25-2的情况。
另外,在能够确认障碍物25-2与车辆11之间的左侧下车空间SL的情况下,通过一边观察车辆左侧图像GL,一边缓慢地打开左侧后部门DL,从而能够一边在车辆左侧图像GL确认打开左侧后部门DL的开度量一边打开门,因此能够试试是否可以不使左侧后部门DL与障碍物25-2接触而下车。
另外,如车辆右侧图像GR所图示的那样,右侧后部门DR附近存在人(也称为接近者)25-1,若直接打开右侧后部门DR,则右侧后部门DR会与接近者25-1接触,存在有使接近者25-1受伤的危险性。
通过这样,下车者在下车时确认车辆右侧图像GR,从而能够在打开右侧后部门DR前确认存在有接近者25-1的情况。
另外,下车者能够根据车辆右侧图像GR确认了接近者25-1已经通过后,打开门且安全地下车。
此外,显示器90R不限定于吸顶显示器,也可以是安装于前部座位的头靠后侧的显示器,也可以是在固定于前部座位的臂等设定的显示器,也可以是以司机等能够确认的方式设置于前部座位的显示器。
此外,对上述车辆11的后部门的周围的外部情况的一个例子进行了说明,但不局限于此,例如也可以应用于从前部座位下车时。
前部座位的车辆11的外部情况显示于显示器90F例如汽车导航系统的显示器、作为后视镜、侧视镜而使用的电子镜等显示器即可。
图13是表示本发明的第三实施方式所涉及的车辆11的门的开度量的图像的一个例子的说明图。
图示的例子是在图12所示的显示图像重叠显示表示左侧后部门DL的门的开度量以及右侧后部门DR的门开度量的图像的情况下的一个例子。
此处,对图12和图13通用的部分标注相同符号并省略说明。在图13中,以与图12不同的部分为中心进行说明。
对于车辆左侧图像GL而言,为了示出左侧后部门DL以何种程度的门的开度量与障碍物25-2接触,通过多阶段例如三个阶段的门的开度量显示有与各门的开度量对应的左侧后部门DL的轮廓图像OD-1L、OD-2L、OD-3L。
例如,对于车辆左侧图像GL而言,示出以轮廓图像OD-3L即第三阶段的开度量以上打开了左侧后部门DL后存在有障碍物25-2的情况。换句话说,图示的例子示出:能够将左侧后部门DL打开至第二阶段的门的开度量,在第三阶段的门的开度量以上,左侧后部门DL会与障碍物接触。
车辆11的搭乘者保持乘坐在车辆11上的状态确认显示器90R,能够在打开左侧后部门DL前确认是否存在障碍物、左侧后部门DL可以以何种程度打开。
另外,通过预先设定下车者的下车所需要的门的开度量,仅通过观察显示图像便能够确认是否该下车者打开左侧后部门DL也不会与障碍物25-2接触而能够下车,从而能够提高便利性。
对于车辆右侧图像GR而言,为了示出右侧后部门DR以何种程度的开度量与接近者25-1接触,通过多阶段例如三个阶段的门的开度量显示有与各门的开度量对应的右侧后部门DR的轮廓图像OD-1R、OD-2R、OD-3R。
例如,对于车辆右侧图像GR而言,示出轮廓图像OD-2R即以第二阶段的门的开度量以上打开了右侧后部门DR后存在接近者25-1的情况。换句话说,图示的例子示出:能够将右侧后部门DR打开至第一阶段的门的开度量,在第二阶段的门的开度量以上,右侧后部门DR会与接近者接触。
通过这样,车辆11的搭乘者保持乘坐在车辆11上的状态确认显示器90R,从而能够在打开右侧后部门DR前确认是否存在接近者、可以以何种程度打开右侧后部门DR。
此外,在接近者25-1移动的情况下,在车辆11停止时下车者观察车辆右侧图像GR的状态、和打开右侧后部门DR时的状态下,接近者的位置不同,从而不一定能够安全地打开门。因此,优选下车者在通过显示器90R确认的同时谨慎地打开右侧后部门DR。通过这样,能够防止事故。
此外,各门的开度量可以为一个阶段,也可以为两个阶段、四个阶段以上等那样的多阶段。另外,也可以根据车辆11的车身大小、下车空间的大小来设定各门的开度量的阶段数。
此外,停车位置计算部19也可以对车辆11的车外的情况进行感测,在障碍物的位置、墙、相邻的车辆、接近的人、车辆等障碍物、接近者不与车辆11的门碰撞的范围内,每次计算并使用车辆11的门的开度量。另外,停车位置计算部19也可以根据计算出的车辆11的门的开度量,将门的开度量的阶段数设定为一个或者多阶段数。
此外,门的开度量可以设定为在各阶段以每相同的角度变大,也可以在每个阶段设定为不同角度。
此外,显示图像生成部20在由停车位置计算部19计算出的车辆11的门的开度量小于下车者的身体的宽度的情况下,可以以一个阶段生成轮廓图像,也可以不生成轮廓图像。在这些情况下,下车者能够掌握车辆11的门与障碍物、接近者接触的位置,因此能够回避车辆11的门与障碍物的碰撞,并且能够提示需要从其他门下车。
此外,显示图像生成部20在由停车位置计算部19计算出的车辆11的门的开度量小于下车者的身体的宽度的情况下,也可以将轮廓图像设定为一个阶段或者两个阶段。在设定为一个阶段的情况下,能够不使门与障碍物碰撞来下车。另外,通过设定为两个阶段,从而能够一边确认当前的门的位置与门的开度量的区域一边渐渐地打开门,因此能够安全且安心地下车。
此外,显示图像生成部20在由停车位置计算部19计算出的车辆11的门的开度量大于下车者的身体的宽度的情况下,也可以作为直至障碍物与门碰撞的近前为止的区域而设定为两个阶段以上。该情况下,在门的开度量变大的情况下(没有障碍物的情况、障碍物与本车辆的距离充分远离的情况等),门的开度量的阶段数增加,难以观察安全信息显示区域。然而,例如通过设定为三个阶段,每一个阶段的门开度变大,因此在下车者打开门时,下车者注意打开门的阶段数减少,因此能够迅速地一次大幅地打开门,从而能够顺畅地下车。
此外,根据障碍物的位置来计算门的开度量的方法不限定于上述方法,只要按每个门根据障碍物的位置能够变更门的开度量,则也可以使用任意方法。
另外,对用虚线显示与门的开度量对应的轮廓图像的情况进行了说明,但为了容易理解障碍物和门的位置关系,也可以根据各门的开度量使用不同颜色生成轮廓图像,也可以通过半透明的门图像生成轮廓图像,在落地面描绘门的开度量的分界线、或在落地面以不同颜色显示各门的开度量的区域等、只要是能够明确地区别打开门的位置与障碍物的位置关系的显示方法,可以显示任意的轮廓图像。
另外,也可以根据门的开度量与其他轮廓图像相比来强调显示(使线变粗、改变颜色等)当前门的位置。
另外,表示门的开度量的轮廓图像也可以显示为比车辆11的后端长的门。
由此,容易知道从车辆后方靠近的障碍物、接近者、和本车辆的位置关系,能够容易预测将门以何种程度打开(或者是否可以打开门)。另外,通过作为较长的门而显示轮廓图像,从而即使在从车辆11稍微远离的障碍物的情况下,也能够瞬间辨别以何种门的开度量与障碍物接触。
此外,也可以与表示门的开度量的轮廓图像一起显示下车者的身体的宽度。
由此,在下车者下车时,能够预先掌握以何种程度打开门可以下车。
这样,第三实施方式所涉及的停车位置显示处理装置10具备:拍摄部(后部摄像机12),其拍摄车辆11的周围生成拍摄图像;车辆信息获取部18,其获取车辆11的车辆信息;车辆周围状态识别部(车内外状态识别部17),其基于拍摄图像和车辆信息生成表示车辆11的周围的状态的车辆周围信息;停车位置计算部19,其基于车辆周围信息和车辆信息来计算车辆的停车预定位置;合成图像生成部(显示图像生成部20),其基于上述停车预定位置和车辆周围信息,根据表示停车预定位置的图像、和表示停车预定位置的车辆11的周围的状态的图像生成合成图像;以及显示部(显示器90),其显示合成图像。
由此,能够提高在使车辆停车时的乘坐者的便利性。
(第四实施方式)
在第四实施方式中,对使第三实施方式中显示于显示器90R的显示图像显示于车辆11的门的内侧的显示器、车辆11的窗户的情况的一个例子进行说明。
此处,第四实施方式所涉及的停车位置显示处理装置10与第三实施方式所涉及的停车位置显示处理装置10相同,因此省略图示和说明。
图14是表示本发明的第四实施方式所涉及的显示图像的一个例子的说明图。
图示的例子是将显示器90R设置于车辆11的门的内侧例如窗户、门来显示的一个例子。
对于在车辆11的窗户进行显示的显示器而言,可以在窗户使用液晶显示器、有机显示器等较薄的显示设备,也可以使用将能够折弯的液晶片等粘贴于窗户的显示器。在使用液晶片的情况下,也可以不设置背光源而将外光作为背光源进行显示。该情况下,能够防止由于显示器较厚而使窗户无法打开,并且能够保证窗户的可视性。
此外,也可以与液晶片无关地,使设定于窗户区域的显示器为有机EL显示器,只要是较薄且能够折弯的显示设备也可以是任何设备。
在图14的(a)所示的车外状态的窗户内侧显示中,示出停车位置计算部19作为车外状态而将侧摄像机13的图像转换为从车辆11的上方观察的全景图像,并显示于门内侧的窗户的区域的显示器90F的情况。由此,下车者能够确认是否有没有障碍物,以便从窗户除去由于门而成为盲点的车辆11附近的下车空间(落地面)。
在图14的(a)所示的车外状态的窗户内侧显示中,将车外状态以全景图像显示于安全信息显示区域23A,但也可以与图12、图13同样,通过轮廓图像来显示门的开度量。对于图14的(a)所示的车外状态的窗户内侧显示而言,示出在第三阶段的门的开度量的区域OD-3R存在有障碍物25-2,下车者在拉动开门杆DNR打开门时,能够看见能够将门打开至第二阶段的门的开度量。
显示于门内侧的显示器优选使用液晶显示器、有机EL显示器。通过这样,能够维持窗户的可视性,并将安全信息提示给搭乘者。
此外,作为在门内侧进行显示的显示器也可以使用液晶片。该情况下,设置背光源即可。
此外,显示于图14的(b)所示的门内侧的显示图像与显示于图14的(a)所示的窗户的显示图像相同,因此标注相同符号并省略说明。
此外,对于在门内侧的窗户的区域的显示器90R进行显示的全景图像的视点位置而言,可以是车辆11的正上方的视点位置(相对于车辆11从垂直方向朝向道路俯瞰的视点位置),也可以是从车辆11的正上方的视点以规定角度例如45度倾斜的视点位置。参照图15进行详述。
图15是表示本发明的第四实施方式所涉及的显示图像的一个例子的说明图。
在图15的(a)所图示的窗户内侧的显示器90R显示的显示图像(全景图像)是,为了使下车者能够从车辆11的座位的窗户自然地看见门外侧的下车空间,使从车辆11的上侧向车辆11侧倾斜的位置(例如,相对于车辆11从垂直方向倾斜45度的位置)作为视点位置的全景图像显示于窗户内侧的显示器90R的情况下的一个例子。
对于在图15的(a)所图示的窗户内侧的显示器90R显示的显示图像(全景图像)而言,与图14所图示的显示图像的一个例子同样,在第三阶段的门的开度量OD-3R的区域存在有障碍物。
该情况下,显示图像生成部20生成从垂直方向以规定角度倾斜的视点位置俯瞰全景图像的视点位置的全景图像。
这样,通过生成变更了视点位置的全景图像,从而下车者能够一看便确认能够将车辆11的门打开至第二阶段的门的开度量OD2-2R。另外,通过进行倾斜(45度的角度)俯瞰的全景图像的显示(安全信息显示),能够从门内侧不进行门操作而确认门外侧的盲点区域,因此后座人员能够直观地掌握障碍物的位置。
在图15的(b)所图示的窗户内侧的显示器90R显示的显示图像(全景图像)是,将从车辆11的大致正上方(车辆11的上方)的视点位置俯瞰的全景图像显示于窗户内侧的显示器90R的情况下的一个例子。
该情况下,显示图像生成部20生成相对于车辆11从垂直方向的视点位置俯瞰了全景图像的视点位置的全景图像。
通过这样,能够防止显示图像产生变形,而且由于车辆11与障碍物的距离关系恒定,所以能够以实际的距离感觉掌握车辆11与障碍物的位置关系。
在图15的(c)所图示的窗户内侧的显示器90R显示的显示图像(全景图像)是,使图13以及图14所图示的显示图像靠向右侧后部门DR_i的开闭轴侧显示的情况下的一个例子。
在图15的(c)所图示的窗户内侧的显示器90R显示的显示图像(全景图像)中,示出在门的开度量3的区域存在有障碍物的情况。
该情况下,在车辆11的窗户的规定区域例如图示的区域设置显示器90R即可,显示图像生成部20与第三实施方式同样生成车辆右侧图像GR并显示于显示器90R即可。
通过这样,对于在车辆11的后部座位右侧乘车的下车者而言,能够如驾驶员在侧视镜确认障碍物、从后方有无接近者那样,通过显示图像来确认障碍物、从后方有无接近者。即,后座人员(乘坐者)与设置了后部座位用的门镜的情况同样,能够确认车外的状态。
此外,为了使实际的门的轴与安全信息显示上的门的轴大致一致,镜面显示侧摄像机13的拍摄图像,但也可以直接显示由侧摄像机13-2拍摄到的图像。
由此,由于显示有车辆11的右侧的图像,所以特别是能够容易地掌握与从车辆11的后方接近的人、或从车辆11的后方接近的其他的车辆的位置关系。
此外,在上述的说明中,在安全信息显示区域23A重叠显示门的开度量的轮廓图像,后座人员基于显示将实际的门的开度量调整至距包括障碍物的门的开度量的轮廓图像近前的门的开度量,但不限定于此。例如,停车位置显示处理装置10也可以根据全景图像等来计算障碍物与实际的门的开度量的距离,在门接近障碍物的情况下(门与障碍物的距离成为规定距离以下的情况下),通过利用设置于门的轴的致动器等向打开门的方向施加力(例如,以难以打开门的方式施加力)等进行通知,也可以通过声音、显示对后座人员通知有障碍物接近。此处所说的施加力可以是为了限制门的开度量而在打开门时难以打开的情况,也可以是控制为难以或无法打开门的情况。
另外,基于声音、显示实施的障碍物等接近的通知也可以是分阶段的通知。例如,也可以在门接近障碍物的情况下响起声音,在门接近障碍物的情况下,也可以随着门接近障碍物而使声音变大或改变音色来分阶段通知。通过这样,后座人员能够通过视觉、听觉来识别障碍物与门的距离。
这样,第四实施方式所涉及的停车位置显示处理装置10具备:拍摄部(后部摄像机12),其拍摄车辆11的周围生成拍摄图像;车辆信息获取部18,其获取车辆11的车辆信息;车辆周围状态识别部(车内外状态识别部17),其基于拍摄图像和车辆信息生成表示车辆11的周围的状态的车辆周围信息;停车位置计算部19,其基于车辆周围信息和车辆信息来计算车辆的停车预定位置;合成图像生成部(显示图像生成部20),其基于上述停车预定位置和车辆周围信息根据表示停车预定位置的图像、和表示停车预定位置的车辆11的周围的状态的图像生成合成图像;以及显示部(显示器90),其显示合成图像。
由此,能够提高使车辆停车时的乘坐者的便利性。
(第五实施方式)
在第五实施方式中,对基于车内外状态信息来计算门的开度量的情况下的一个例子进行说明。
图16是表示本发明的第五实施方式所涉及的停车位置显示处理装置10的功能结构的一个例子的概要框图。
停车位置显示处理装置10构成为,包括图像获取部16、车内外状态识别部17、车辆信息获取部18、停车位置计算部19、显示图像生成部20、物体信息存储部21-1、属性信息存储部21-2以及门开度计算部540。
此处,第五实施方式所涉及的停车位置显示处理装置10与第一实施方式所涉及的停车位置显示处理装置10相比,在追加有门开度计算部540这点不同。
在第五实施方式中,以与第一实施方式所涉及的停车位置显示处理装置10不同部分为中心进行说明。
门开度计算部540获取表示各摄像机(后部摄像机12、侧摄像机13、前摄像机14、室内摄像机15)所拍摄到的图像的图像信号。另外,门开度计算部540从车内外状态识别部17获取车内外状态信息。车内外状态信息包括检测信息、和表示物体的高度的高度信息。
门开度计算部540对车辆11、与存在于车辆11的周边的障碍物、接近物(者)等物体之间的位置关系进行计算。具体而言,门开度计算部540以车辆11的各门为基准,将各门与各物体之间的距离、车辆11的移动速度和/或物体的移动速度、车辆11的移动方向和/或物体的移动方向、物体到达(接近)车辆11为止的到达时间等作为与物体之间的位置关系来计算。
另外,门开度计算部540基于计算出的与物体之间的位置关系来计算规定阶段数例如三个阶段的门的开度量。门开度计算部540将表示计算出的规定阶段数的门的开度量的信息向显示图像生成部20输出。
显示图像生成部20基于从门开度计算部540输入的表示规定阶段数的门的开度量的信息,生成与规定阶段数的门的开度量对应的轮廓图像或者门图像。显示图像生成部20使生成的轮廓图像与显示图像重叠(合成)并显示于显示器90-d。
此处,在将车辆11的变速杆放入停车位或者拉动侧部制动器等使车辆11停止(停车),准备从车辆11下车的情况下,显示图像生成部20使轮廓图像或者门图像与显示图像重叠并显示于显示器90-d。
此外,在上述为止的说明中,对显示于显示器90-d的显示图像为基于侧摄像机13的拍摄图像的情况的一个例子进行了说明,但不限定于此,也可以生成表示检测到的物体(障碍物)、车外的周边状态的CG(Computer Graphics)图像,使生成的CG图像显示于显示器90-d。
另外,显示图像生成部20也可以使用基于CG的图形、图标、动画、文字等使物体的位置、物体的移动速度、物体的移动方向、物体到达(接近)车辆11为止的到达时间等位置信息重叠于侧摄像机13的拍摄图像、CG图像并显示于显示器90-d。由此,在车辆11停止的情况下,下车者能够尽快掌握当前的车辆11的车外的状态、预见的车辆11的车外的状态。另外,由于能够预先确认门的打开方法等,所以能够确保安全。
图17是表示本发明的第五实施方式所涉及的停车位置显示处理的一个例子的流程图。
停车位置显示处理装置10在执行了直至图5的步骤S14为止的处理后执行步骤S5701~步骤S5704的处理。
在步骤S5701中,停车位置计算部19根据从车内外状态识别部17输出的车内外状态信息、和车辆信息获取部18所输出的车辆信息来计算停车预定位置。停车位置计算部19将计算出的停车预定位置作为停车位置信息向门开度计算部540输出。而且,停车位置显示处理装置10执行步骤S5702的处理。
在步骤S5702中,门开度计算部540根据从车内外状态识别部17输出的车内外状态信息、和停车位置计算部19输出的停车位置信息,基于规定的阶段数以及按每个规定的阶段的开度量,以预定的阶段数的数量计算各门的开度量。门开度计算部540将表示计算出的各门的开度量的信息向显示图像生成部20输出。而且,停车位置显示处理装置10执行步骤S5703的处理。
在步骤S5703中,显示图像生成部20根据停车位置计算部19输出的停车位置信息、和表示门开度计算部540所输出的各门的开度量的信息,生成在停车位置图像中重叠(合成)表示存在于可停车范围的障碍物、接近者等物体的图像、表示下车空间的图像、以及与表示门的开度量的信息对应的门图像而得到的重叠图像。而且,停车位置显示处理装置10执行步骤S5704的处理。
在步骤S5704中,显示图像生成部20生成将从图像获取部16输出的图像信号与由步骤S5703计算出的重叠图像合成而成的合成图像。另外,显示图像生成部20在根据从车内外状态识别部17输出的车内外状态信息检测到车辆11停车并成为下车状态的情况下,使生成的合成图像显示于显示器90-d。而且,在经过了规定时间的情况下、检测到从车辆11下车已结束的情况下,结束图18所涉及的处理。
此外,门开度计算部540也可以根据车内外状态信息所含的障碍物与物体的位置关系,来计算门的最大开度量,与计算出的门的最大开度量匹配地计算(决定)门的开度量的阶段数、每一个阶段的门的开度量。参照图18进行详述。
图18是表示本发明的第五实施方式所涉及的变形例的停车位置显示处理的一个例子的流程图。
此处,图18的停车位置显示处理执行步骤S5711的处理,以取代图17所示的停车位置显示处理的步骤S5702。省略步骤S5701、步骤S5703、步骤S5704的处理的说明。
停车位置显示处理装置10执行步骤S5701的处理,其后,执行步骤S5711的处理。
在步骤S5711中,门开度计算部540根据从车内外状态识别部17输出的车内外状态信息、和停车位置计算部19所输出的停车位置信息,基于车辆11与物体的位置关系,按每个门来计算在物体不与门碰撞的范围(例如,车辆与物体的距离成为规定值(例如10cm)以上的范围)内能够打开门的门的最大开度量。门开度计算部540根据计算出的每个门的门的最大开度量,来计算门的开度量的阶段数(例如,轮廓图像、门图像所表示的阶段数),以使计算出的阶段数的各阶段的门的开度量按每个阶段的门的开度量的合计开度量成为门的最大开度量以内的方式设定计算每一个阶段的开度量(角度)。门开度计算部540将计算出的表示按每个门且按每个阶段数的门的开度量的信息向显示图像生成部20输出。而且,停车位置显示处理装置10执行步骤S5703。另外,停车位置显示处理装置10在步骤S5703的处理后执行步骤S5704的处理。
这样,第五实施方式所涉及的停车位置显示处理装置10具备:拍摄部(后部摄像机12),其拍摄车辆11的周围生成拍摄图像;车辆信息获取部18,其获取车辆11的车辆信息;车辆周围状态识别部(车内外状态识别部17),其基于拍摄图像和车辆信息,生成表示车辆11的周围的状态的车辆周围信息;停车位置计算部19,其基于车辆周围信息和车辆信息来计算车辆的停车预定位置;合成图像生成部(显示图像生成部20),其基于上述停车预定位置和车辆周围信息,根据表示停车预定位置的图像、和表示停车预定位置的车辆11的周围的状态的图像生成合成图像;以及显示部(显示器90),其显示合成图像。
由此,能够提高使车辆停车时和下车时的乘坐者的便利性。
(第六实施方式)
在第一实施方式~第五实施方式中,对根据车辆11与障碍物、接近者等物体的位置关系向下车者通知物体在何处、或者不与物体接触且能够以何种程度打开车辆11的门的情况的各例子进行了说明。
在第六实施方式中,对通过致动器来控制车辆11的门的开度量的情况的一个例子进行说明。
具体而言,在第六实施方式中,对在下车者开始打开车辆11的门后,随着门接近物体,相对于打开门的方向加载荷,通过相对于打开门的方向上的加载荷的方式来向下车者反馈门正接近物体的情况的一个例子进行说明。
此处,在第六实施方式中,通过在车辆11的门的开闭轴的部分设置致动器,向关闭门的方向产生力,若下车者欲打开门,则向打开门的方向感到沉重。
通过这样,能够通过打开门的方向的重量的反馈来对下车者通知门能够以何种程度打开。
图19是表示本发明的第六实施方式所涉及的停车位置显示处理装置10的功能结构的一个例子的概要框图。
停车位置显示处理装置10构成为,包括图像获取部16、车内外状态识别部17、车辆信息获取部18、停车位置计算部19、显示图像生成部20、物体信息存储部21-1、属性信息存储部21-2、门开度计算部540以及车辆控制部541。
此处,第六实施方式所涉及的停车位置显示处理装置10与第五实施方式所涉及的停车位置显示处理装置10相比,在追加有车辆控制部541这点上不同。在第六实施方式中,以与第五实施方式所涉及的停车位置显示处理装置10不同部分为中心进行说明。
另外,门开度计算部540根据表示各摄像机(后部摄像机12、侧摄像机13、前摄像机14、室内摄像机15)所拍摄到的图像的图像信号来计算当前的车辆11的各门的实际的开度量(以下的说明中称为门的状态)。门开度计算部540将表示规定阶段数的门的开度量的信息、和表示门的状态的信息向车辆控制部541输出。
此外,对于门的状态,可以通过设置于车辆11的各种传感器60-c来获取当前的门的开度量,也可以基于各种传感器60-c所获取的信息来计算当前的门的开度量。
车辆控制部541使用从车辆信息获取部18输出的车辆信息、和从门开度计算部540输出的表示规定阶段数的门的开度量的信息以及表示门的状态的信息,来控制各门的反馈力。
车辆控制部541基于由门开度计算部540计算出的表示门的开度量的信息、和表示门的状态的信息,根据后述的反馈力控制,控制设置于门的轴部分的致动器,产生向关闭门的方向的反馈力。反馈力控制与门的状态匹配地实时进行,在从下车者的下车开始直至结束为止的期间,控制致动器。
车辆控制部541例如相对于驾驶座位门、副驾驶座位门、后部座位右侧门、后部座位左侧门、背部门等各门100-f(f为任意的正数)分别独立地控制反馈力。另外,车辆控制部541针对存在下车者的门,实时控制反馈力。
此处,对反馈力控制进行说明。
图20是表示本发明的第六实施方式所涉及的反馈力控制的一个例子的说明图。
图示的例子是在门的状态靠近各阶段的门的开度量的边界时,向打开门的方向加载荷(以下,反馈力)的情况下的一个例子。
在图20的(a)所图示的例子中,在门的反馈力在各阶段的门的开度量中相同的情况下,从各门开度区域的开始到下一个阶段的门的开度量的边界的近前(例如直至下一个阶段的门的开度量为止的剩余开度量(角度)从10度至0度为止)的期间为门的开度变化通知期间。
车辆控制部541直至门的开度量变化通知期间的开始为止,以恒定的反馈力控制致动器对门加载荷,向下车者通知门的状态为各门的开度量的范围内。另一方面,若成为门的开度量变化通知期间,则车辆控制部541以增大反馈力的方式加载荷,向下车者通知门的状态为当前的阶段的门的开度量的范围结束。例如,在成为表示第三阶段的门的开度量的“门的开度量3”的门的开度量的范围中存在有物体的情况下,也可以直至加载两次反馈力为止打开门。因此下车者能够一边感受载荷的变化(反馈力的变化)一边辨别以何种程度打开门较好。
对图20的(b)所图示的例子为对根据与门的开度量对应地变大而反馈力也变大的情况下的一个例子进行说明。
即,图示的例子是将门越大幅打开反馈力越大的情况的一个例子。
例如,在超过了从表示第一阶段的门的开度量的“门的开度量1”的区域变化为表示第二阶段的门的开度量的“门的开度量2”区域的边界等、门的开度量的阶段变化的边界即门开度变化通知点的情况下,车辆控制部541通过控制致动器以使反馈力变强(变重)的方式对门加载荷。
由此,能够通过反馈力的变化在体感上识别门的开度量的阶段发生了变化。并且越打开门与物体接触的可能性越增加,因此通过相对于门加载反馈力能够控制为难以打开门,从而能够事先防止事故。
图21是表示本发明的第六实施方式所涉及的反馈力控制的一个例子的说明图。
图21的(a)所图示的例子是在各阶段的门的开度量的区域中,以按每个各阶段的门的开度量的区域从各区域的开始至最后使反馈力渐渐变大的方式控制致动器加载相对于门的载荷的情况下的一个例子。
对于车辆控制部541而言,例如在从第一阶段的门的开度量的区域的开始直至进入第二阶段的门的开度量的区域为止的期间,以渐渐增加对门的载荷的方式控制致动器,在从第二阶段的门的开度量的区域的开始直至进入第三阶段的门的开度量的区域为止的期间,与第一阶段的门的开度量的区域中的载荷同样以渐渐增加对门的载荷的方式控制致动器,在从第三阶段的门的开度量的区域的开始直至第三阶段的门的开度量的最后为止的期间,以渐渐增加对门的载荷的方式控制致动器。
通过这样,能够感受并识别阶段性的门的开度量的区域的变化。
图21的(b)所图示的例子是在各阶段的门的开度量的区域中,根据与阶段升高而反馈力也变大的情况。
车辆控制部541例如与图21的(a)同样,在第一阶段的门的开度量的区域中,在从第一阶段的门的开度量的区域的开始直至进入第二阶段的门的开度量的区域为止的期间,以渐渐增大对门的载荷的方式控制致动器,在从第二阶段的门的开度量的区域的开始直至进入第三阶段的门的开度量的区域为止的期间,也以渐渐增大对门的载荷的方式控制致动器,在从第三阶段的门的开度量的区域的开始直至进入第三阶段的门的开度量的区域的最后为止的期间,也以渐渐增大对门的载荷的方式控制致动器。
此时,车辆控制部541以使第二阶段的门的开度量的区域的开始相对于门的载荷大于第一阶段的门的开度量的区域的开始相对于门的载荷且小于第一阶段的门的开度量的区域的最后相对于门的载荷的方式控制致动器。另外,车辆控制部541以使第三阶段的门的开度量的区域的开始相对于门的载荷大于第二阶段的门的开度量的区域的开始相对于门的载荷且小于第二阶段的门的开度量的区域的最后相对于门的载荷的方式控制致动器。
换句话说,车辆控制部541以随着门的开度量的区域的阶段升高而各区域的开始的载荷变大且在各区域内载荷渐渐增大的方式控制致动器。
通过这样,能够利用相对于门的载荷识别当前的门的状态为哪个阶段的门的开度量的区域。
此外,在图21所示的例子中,在门的开度量的区域变化的时机,相对于门的载荷变轻,因此在大力打开门的情况下等,门容易打开,因此优选慎重地打开门,但不局限于此。
另外,图21所图示的例子例如优选在交通繁忙的位置、风大的情况下等使用,但不局限于此。
图22是表示本发明的第六实施方式所涉及的反馈力控制的一个例子的说明图。
在图22的(a)所图示的例子中,在门的反馈力在各阶段的门的开度量中相同的情况下,从各门的开度量的区域的开始到下一个阶段的门的开度量的边界的近前(例如直至下一个阶段的门的开度量为止的剩余开度量(角度)从10度直至0度为止)的期间为门的开度变化通知期间。
车辆控制部541直至门的开度量变化通知期间的开始为止,以恒定的反馈力控制致动器对门加载荷,向下车者通知门的状态处于各门的开度量的范围内。另一方面,若门的状态成为门的开度量变化通知期间,则车辆控制部541以使反馈力渐渐变大的方式加载荷,向下车者通知门的状态为当前的阶段的门的开度量的范围结束。例如,在表示第三阶段的门的开度量的“门的开度量3”的门的开度量的区域中存在有物体的情况下,也可以直至加载两次反馈力为止打开门。
因此下车者能够一边感受载荷的变化(反馈力的变化)一边辨别以何种程度打开门较好。
另外,在并不是门的开度量变化期间时,也对门施加规定的载荷,因此难以发生急剧的门的开闭等,能够减少与物体接触的可能性。
图22的(b)所图示的例子是在各阶段的门的开度量的区域中与阶段升高对应地反馈力也变大的情况的一个例子。
在图22的(b)所图示的例子中,从各门的开度量的区域的开始到下一个阶段的门的开度量的边界的近前(例如直至下一个阶段的门的开度量为止的剩余开度量(角度)从10度直至0度为止)的期间为门的开度变化通知期间。
车辆控制部541在各阶段的门的开度量的区域中,直至门的开度量变化通知期间的开始为止,以恒定的反馈力控制致动器来对门加载荷,向下车者通知门的状态为各门的开度量的范围内。另一方面,若门的状态成为门的开度量变化通知期间,则车辆控制部541以使反馈力比门的开度量变化期间前的反馈力渐渐变大的方式加载荷,向下车者通知门的状态为当前的阶段的门的开度量的范围结束。例如,在表示第三阶段的门的开度量的“门的开度量3”的门的开度量的区域中存在有物体的情况下,也可以直至加载两次反馈力为止而打开门。
此时,车辆控制部541以使第二阶段的门的开度量的区域的开始相对于门的载荷大于第一阶段的门的开度量的区域的开始相对于门的载荷且小于第一阶段的门的开度量的区域的最后相对于门的载荷的方式控制致动器。另外,车辆控制部541以使第三阶段的门的开度量的区域的开始相对于门的载荷大于第二阶段的门的开度量的区域的开始相对于门的载荷且小于第二阶段的门的开度量的区域的最后相对于门的载荷的方式控制致动器。
换句话说,车辆控制部541以随着门的开度量的区域的阶段升高而各区域的开始的载荷变大且在各区域内载荷渐渐增加的方式控制致动器。
通过这样,能够利用相对于门的载荷识别当前的门的状态为哪个阶段的门的开度量的区域。另外,能够一边感受载荷的变化(反馈力的变化)一边识别以何种程度打开门较好。另外,在并不是门的开度量变化期间时,也相对于门施加规定的载荷,因此难以发生急剧的门的开闭等,从而能够减少与物体接触的可能性。
这样,车辆控制部541使用图20~图22中说明的各反馈力控制的任一个来控制致动器相对于门加载荷。
由此,即使下车者在打开门时没有一边观察安全信息显示而一边慎重地打开门,也能够通过相对于门的反馈而在体感上识别物体与门的距离感、物体存在的位置,另外,能够简单地进行门的开闭。并且,通过使基于致动器的向打开门的方向的载荷在接近物体的近前变大(变强、变大),从而能够减少门与物体接触的可能性。
另外,也可以在与物体接触近前将门控制为无法更大程度打开的状态,但通过控制为不是打不开门的状态而是难以打开门的状态,在由于交通事故等门周边产生障碍物的情况下,能够防止由于检测出该障碍物而门被控制为打不开的情况。
此外,向打开门的方向的载荷(反馈力)也可以根据下车者的属性(例如年龄、身高、性别等)来设定。该情况下,也可以例如根据由室内摄像机15的拍摄图像检测到的乘坐者的年龄、性别,相比大人而针对儿童、老人使反馈力变轻(变弱),相比男性而针对女性使反馈力变轻(变弱),也可以按每个座位设置能够检测体重的载荷传感器,根据乘车者的体重来变更反馈力,或根据室内摄像机15的拍摄图像来检测乘车者的头的高度而计算身高,或根据乘车者的身高(座高)来变更反馈力。
图23是表示本发明的第六实施方式所涉及的停车位置显示处理的一个例子的流程图。
此处,步骤S5701、步骤S5703、步骤S5704所涉及的处理与图17所示的步骤S5701、步骤S5703、步骤S5704相同,因此省略说明。另外,步骤S5711所涉及的处理与图18的步骤S5711相同,因此省略说明。
停车位置显示处理装置10执行步骤S5701的处理,其后,执行步骤S5711的处理。其后,停车位置显示处理装置10执行步骤S5721的处理。
在步骤S5721中,车辆控制部541根据从门开度计算部540输出的表示门的开度量的信息以及表示门的状态的信息、和从车辆信息获取部18输出的车辆信息1-b,与阶段性的门的开度量和当前的门的位置对应地控制致动器,产生朝向关闭门的方向的反馈力。反馈力控制按每个门并与各门的状态匹配地实时执行。
其后,停车位置显示处理装置10执行步骤S5703、步骤S5704的处理。
这样,第六实施方式所涉及的停车位置显示处理装置10具备:拍摄部(后部摄像机12),其拍摄车辆11的周围生成拍摄图像;车辆信息获取部18,其获取车辆11的车辆信息;车辆周围状态识别部(车内外状态识别部17),其基于拍摄图像和车辆信息,生成表示车辆11的周围的状态的车辆周围信息;停车位置计算部19,其基于车辆周围信息和车辆信息,来计算车辆的停车预定位置;合成图像生成部(显示图像生成部20),其基于上述停车预定位置和车辆周围信息,从表示停车预定位置的图像、和表示停车预定位置的车辆11的周围的状态的图像生成合成图像;以及显示部(显示器90),其显示合成图像。
由此,能够提高使车辆停车时的乘坐者的便利性。
此外,通过本发明的一个方式的停车位置显示处理装置10动作的程序也可以是,对一个或者多个CPU(Central Processing Unit)等处理器进行控制,以实现与本发明的一个方式相关的上述的各实施方式、变形例所示的功能的程序(使计算机发挥功能的程序)。而且,对于这些各装置所采用的信息而言,也可以在其处理时暂时存储于RAM(RandomAccess Memory),其后存储于闪存、HDD(Hard Disk Drive)等各种存储器,并根据需要由CPU读出,进行修正和写入。
此外,也可以通过具备一个或者多个处理器的计算机来实现上述的各实施方式、变形例的停车位置显示处理装置10的一部分或者全部。该情况下,也可以通过将用于实现该控制功能的程序记录于计算机能够读取的记录介质,并使计算机系统读入并执行记录于该记录介质的程序来实现。
此外,此处所说的“计算机系统”是内置于停车位置显示处理装置10的计算机系统,且包括OS、外围设备等硬件。另外,“计算机能够读取的记录介质”是指软盘、光磁盘、ROM、CD-ROM等便携式介质,内置于计算机系统的硬盘等存储装置。
另外,“计算机能够读取的记录介质”可以包括像在经由因特网等网络、电话线路等通信线路而发送程序的情况下的通信线那样,短时间且动态地保持程序的介质、以及像成为在此情况下的服务器或客户端的计算机系统内部的易失性存储器那样将程序保存一段时间的介质。另外,上述程序既可以是用于实现前述的功能的一部分的程序,进而还可以是能够与已记录在计算机系统的程序组合来实现前述的功能。
另外,上述的各实施方式、变形例的停车位置显示处理装置10的一部分或者全部可以典型而言作为集成电路亦即LSI而实现,也可以作为芯片组而实现。另外,上述的各实施方式、变形例的停车位置显示处理装置10的各功能模块也可以分别独立地芯片化,也可以集成一部分或者全部而实现芯片化。另外,集成电路化的方法不局限于LSI,也可以通过专用电路和/或通用处理器来实现。另外,在通过半导体技术的发展而出现替代LSI的集成电路化的技术的情况下,也能够使用基于该技术的集成电路。
以上,作为本发明的一个方式而参照附图对各实施方式、变形例进行了详述,但具体的结构不局限于各实施方式、各变形例,也包括不脱离本发明的主旨的范围的设计变更等。另外,本发明的一个方式能够进行各种变更,将不同的实施方式分别公开的技术手段的一部分或者全部适当地组合而成的实施方式也包含于本发明的技术的范围。另外,也包括对上述各实施方式、变形例所记载的要素且起到相同的效果的要素彼此进行了置换的结构。
例如,也可以通过将上述各实施方式、各变形例的一部分或者全部组合来实现本发明的一个方式。
附图标记说明
10 停车位置显示处理装置
11 车辆
12 后部摄像机(拍摄部)
13、13-1、13-2 侧摄像机(侧面拍摄部)
14 前摄像机
15 室内摄像机
16 图像获取部
17 车内外状态识别部(车辆周围状态识别部)
18 车辆信息获取部
19 停车位置计算部
20 显示图像生成部(合成图像生成部)
21-1 物体信息存储部
21-2 属性信息存储部
22 下车位置计算部
60-c 传感器
70-1、70-2、70-b 传感器
90、90R、90F、90-d 显示器
100-f 门
540 门开度计算部
541 车辆控制部。
Claims (12)
1.一种停车位置显示处理装置,其特征在于,包括:
拍摄部,其拍摄车辆的周围而生成拍摄图像;
车辆信息获取部,其获取所述车辆的车辆信息;
车辆周围状态识别部,其基于所述拍摄图像和所述车辆信息,生成表示所述车辆的周围的状态的车辆周围信息;
停车位置计算部,其基于所述车辆周围信息和所述车辆信息,计算出所述车辆的停车预定位置;
合成图像生成部,其基于所述停车预定位置和所述车辆周围信息,根据表示所述停车预定位置的图像、和表示所述停车预定位置的所述车辆的周围的状态的图像生成合成图像;以及
显示部,其显示所述合成图像。
2.根据权利要求1所述的停车位置显示处理装置,其特征在于,
所述合成图像生成部使所述显示部显示将表示所述停车预定位置的图像、和表示所述停车预定位置的所述车辆的周围的状态的图像合成而成的所述合成图像。
3.根据权利要求1或2所述的停车位置显示处理装置,其特征在于,
所述停车位置计算部计算出回避了存在于所述停车预定位置的区域内的所述车辆周围信息所包含的物体的、所述候选的停车预定位置,
所述合成图像生成部根据表示所述候选的停车预定位置的所述车辆的周围的状态的图像、所述拍摄图像、表示所述停车预定位置的图像、以及表示所述停车预定位置的所述车辆的周围的状态的图像生成合成图像并显示于所述显示部。
4.根据权利要求1~3中任一项所述的停车位置显示处理装置,其特征在于,还包括:
内部拍摄部,其拍摄车辆的内部而生成内部拍摄图像,
所述车辆周围状态识别部基于所述内部拍摄图像,计算出所述车辆的乘车者的乘车位置以及所述车辆的乘车者的年龄,
所述停车位置计算部根据计算出的所述乘车者的年龄,以使最接近所述乘车者的乘车位置的所述车辆的侧面周围的第一下车区域比该第一下车区域的相反一侧的第二下车区域大的方式计算出所述候选的停车预定位置,
所述合成图像生成部根据所述拍摄图像、表示所述停车预定位置的图像、表示所述停车预定位置的所述车辆的周围的状态的图像、以及表示所述候选的停车预定位置的所述车辆的周围的状态的图像生成合成图像并显示于所述显示部。
5.根据权利要求1~4中任一项所述的停车位置显示处理装置,其特征在于,
所述停车预定位置在判定为乘车者的年龄小于第一规定年龄的情况下、或者在乘车者的年龄为第二规定年龄以上的情况下,下车区域比乘车者的年龄为所述第一规定年龄以上且小于所述第二规定年龄的情况下大。
6.根据权利要求4所述的停车位置显示处理装置,其特征在于,
所述停车位置计算部对最靠近所述乘车者的所述第一下车区域与所述第一下车区域的相反一侧的第二下车区域进行比较,将所述第一下车区域与所述第二下车区域中的更大的下车区域计算为下车位置,
所述合成图像生成部生成表示所述乘车者的所述下车位置的图像,使所述显示部显示所述拍摄图像、表示所述下车位置的图像、表示所述停车预定位置的所述车辆的周围的状态的图像、以及表示所述候选的停车预定位置的所述车辆的周围的状态的图像的合成图像。
7.根据权利要求6所述的停车位置显示处理装置,其特征在于,还包括:
侧面拍摄部,其从所述车辆的前方至后方拍摄所述车辆的侧面而生成侧视图像;和
门开度计算部,其计算出能够打开所述车辆的门的门的开度量,
所述合成图像生成部基于所述门的开度量,生成表示所述门的开度量的图像,使所述显示部显示将所述侧视图像、表示所述候选的停车预定位置的所述车辆的周围的状态的图像、所述拍摄图像、表示所述停车预定位置的所述车辆的周围的状态的图像、以及表示所述下车位置的图像合成而成的合成图像。
8.根据权利要求7所述的停车位置显示处理装置,其特征在于,
所述门开度计算部根据所述车辆周围信息所表示的物体的位置信息、和所述停车预定位置,计算出所述车辆与所述物体之间的所述门的开度量。
9.根据权利要求7所述的停车位置显示处理装置,其特征在于,还包括:
工作部,其向关闭所述车辆的门的方向产生力,
在所述门的位置到达能够开闭所述至少一个所述门的开度量所表示的门的区域中的、比与下一个区域的边界靠近前的区域的情况下,
所述工作部使力作用于关闭所述车辆的门的方向,对乘车者通知当前的门的位置为所述近前的区域。
10.根据权利要求9所述的停车位置显示处理装置,其特征在于,
作用于关闭所述车辆的所述门的方向的力按能够开闭所述门的区域变化,门的开度量越增加,作用于关闭所述门的方向的力越变大。
11.根据权利要求9所述的停车位置显示处理装置,其特征在于,
在所述车辆的所述门接近了基于所述车辆周围信息所表示的物体的位置信息得到的物体的位置的情况下,使作用于关闭所述车辆的所述门的方向的力大于除此以外的情况。
12.一种停车位置显示方法,其特征在于,
具备拍摄车辆的周围而生成拍摄图像的拍摄部、和显示部的停车位置显示处理装置的计算机,包括:
车辆信息获取过程,获取所述车辆的车辆信息;
车辆周围状态识别过程,基于所述拍摄图像和所述车辆信息,生成表示所述车辆的周围的状态的车辆周围信息;
停车位置计算过程,基于所述车辆周围信息和所述车辆信息,计算出所述车辆的停车预定位置;
合成图像生成过程,基于所述停车预定位置和所述车辆周围信息,根据表示所述停车预定位置的图像、和表示所述停车预定位置的所述车辆的周围的状态的图像生成合成图像;以及
显示过程,其使所述合成图像显示于所述显示部。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017193099A JP2019067220A (ja) | 2017-10-02 | 2017-10-02 | 駐車位置表示処理装置、駐車位置表示方法、およびプログラム |
JP2017-193099 | 2017-10-02 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109598970A true CN109598970A (zh) | 2019-04-09 |
Family
ID=65896176
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811143510.9A Pending CN109598970A (zh) | 2017-10-02 | 2018-09-28 | 停车位置显示处理装置、以及停车位置显示方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20190102634A1 (zh) |
JP (1) | JP2019067220A (zh) |
CN (1) | CN109598970A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110466509A (zh) * | 2019-08-23 | 2019-11-19 | 威马智慧出行科技(上海)有限公司 | 自动泊车模式选择方法、电子设备及汽车 |
CN112950976A (zh) * | 2019-11-26 | 2021-06-11 | 丰田自动车株式会社 | 信息处理装置、信息处理系统及计算机可读取的记录介质 |
CN112991808A (zh) * | 2020-12-29 | 2021-06-18 | 杭州海康威视数字技术股份有限公司 | 一种停车区域的车位显示方法、装置及电子设备 |
CN115443493A (zh) * | 2020-04-24 | 2022-12-06 | 日产自动车株式会社 | 停车位置控制方法、停车位置控制装置以及停车位置控制系统 |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3293717B1 (en) * | 2016-09-08 | 2021-11-10 | KNORR-BREMSE Systeme für Nutzfahrzeuge GmbH | An electronically controlled braking system |
KR102429494B1 (ko) * | 2017-10-13 | 2022-08-05 | 현대자동차주식회사 | 차량의 목표주차공간 표시 장치 및 그 방법 |
US10556584B2 (en) * | 2018-01-09 | 2020-02-11 | Ford Global Technologies, Llc | Vehicle vision |
JP6890288B2 (ja) * | 2018-03-28 | 2021-06-18 | パナソニックIpマネジメント株式会社 | 画像処理装置、画像表示システムおよび画像処理方法 |
JP7159802B2 (ja) * | 2018-11-15 | 2022-10-25 | トヨタ自動車株式会社 | 車両用電子ミラーシステム |
JP7346153B2 (ja) * | 2019-08-20 | 2023-09-19 | アルパイン株式会社 | 情報処理装置、車載システム、及び情報提供方法 |
JP7065068B2 (ja) * | 2019-12-13 | 2022-05-11 | 本田技研工業株式会社 | 車両周囲監視装置、車両、車両周囲監視方法およびプログラム |
AU2019369206A1 (en) * | 2019-12-16 | 2021-07-01 | Beijing Didi Infinity Technology And Development Co., Ltd. | Systems and methods for distinguishing a driver and passengers in an image captured inside a vehicle |
CN111746521B (zh) * | 2020-06-29 | 2022-09-20 | 芜湖雄狮汽车科技有限公司 | 泊车路线的规划方法、装置、设备及存储介质 |
JP7491228B2 (ja) * | 2021-02-01 | 2024-05-28 | 株式会社デンソー | 駐車支援装置 |
WO2024189735A1 (ja) * | 2023-03-13 | 2024-09-19 | 日本電気株式会社 | 車載装置、車両、通知方法、およびコンピュータ可読媒体 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1065642A2 (en) * | 1999-06-25 | 2001-01-03 | Fujitsu Ten Limited | Vehicle drive assist system |
CN1735205A (zh) * | 2004-08-04 | 2006-02-15 | 奥林巴斯株式会社 | 图像生成方法和装置 |
US20100302068A1 (en) * | 2009-06-01 | 2010-12-02 | Navteq North America, Llc | Street parking community application and method |
CN102474598A (zh) * | 2009-08-04 | 2012-05-23 | 爱信精机株式会社 | 车辆周边感知辅助装置 |
CN103079903A (zh) * | 2010-11-30 | 2013-05-01 | 爱信精机株式会社 | 停车位置调整装置 |
CN104669977A (zh) * | 2013-11-29 | 2015-06-03 | 爱信精机株式会社 | 车辆高度调整装置 |
US9082239B2 (en) * | 2012-03-14 | 2015-07-14 | Flextronics Ap, Llc | Intelligent vehicle for assisting vehicle occupants |
CN106364430A (zh) * | 2015-07-22 | 2017-02-01 | Lg电子株式会社 | 车辆控制装置及其车辆控制方法 |
WO2017027176A1 (en) * | 2015-08-07 | 2017-02-16 | Park Green, LLC | Sustainable real-time parking availability system |
US20170183001A1 (en) * | 2015-12-25 | 2017-06-29 | Fujitsu Ten Limited | Parking assist apparatus |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007176324A (ja) * | 2005-12-28 | 2007-07-12 | Aisin Seiki Co Ltd | 駐車支援装置 |
DE102008027779A1 (de) * | 2008-06-11 | 2009-12-17 | Valeo Schalter Und Sensoren Gmbh | Verfahren zur Unterstützung eines Fahrers eines Fahrzeugs beim Einparken in eine Parklücke |
US20140309852A1 (en) * | 2013-04-15 | 2014-10-16 | Flextronics Ap, Llc | Automatic vehicle diagnostic detection and communication |
KR101850795B1 (ko) * | 2015-11-09 | 2018-04-20 | 엘지전자 주식회사 | 주차 수행 장치 및 차량 |
KR101949438B1 (ko) * | 2016-10-05 | 2019-02-19 | 엘지전자 주식회사 | 차량용 디스플레이 장치 및 이를 포함하는 차량 |
US9919704B1 (en) * | 2017-01-27 | 2018-03-20 | International Business Machines Corporation | Parking for self-driving car |
-
2017
- 2017-10-02 JP JP2017193099A patent/JP2019067220A/ja active Pending
-
2018
- 2018-09-28 CN CN201811143510.9A patent/CN109598970A/zh active Pending
- 2018-10-01 US US16/148,770 patent/US20190102634A1/en not_active Abandoned
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1065642A2 (en) * | 1999-06-25 | 2001-01-03 | Fujitsu Ten Limited | Vehicle drive assist system |
US20060287826A1 (en) * | 1999-06-25 | 2006-12-21 | Fujitsu Ten Limited | Vehicle drive assist system |
CN1735205A (zh) * | 2004-08-04 | 2006-02-15 | 奥林巴斯株式会社 | 图像生成方法和装置 |
US20100302068A1 (en) * | 2009-06-01 | 2010-12-02 | Navteq North America, Llc | Street parking community application and method |
CN102474598A (zh) * | 2009-08-04 | 2012-05-23 | 爱信精机株式会社 | 车辆周边感知辅助装置 |
CN103079903A (zh) * | 2010-11-30 | 2013-05-01 | 爱信精机株式会社 | 停车位置调整装置 |
US9082239B2 (en) * | 2012-03-14 | 2015-07-14 | Flextronics Ap, Llc | Intelligent vehicle for assisting vehicle occupants |
CN104669977A (zh) * | 2013-11-29 | 2015-06-03 | 爱信精机株式会社 | 车辆高度调整装置 |
CN106364430A (zh) * | 2015-07-22 | 2017-02-01 | Lg电子株式会社 | 车辆控制装置及其车辆控制方法 |
WO2017027176A1 (en) * | 2015-08-07 | 2017-02-16 | Park Green, LLC | Sustainable real-time parking availability system |
US20170183001A1 (en) * | 2015-12-25 | 2017-06-29 | Fujitsu Ten Limited | Parking assist apparatus |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110466509A (zh) * | 2019-08-23 | 2019-11-19 | 威马智慧出行科技(上海)有限公司 | 自动泊车模式选择方法、电子设备及汽车 |
CN112950976A (zh) * | 2019-11-26 | 2021-06-11 | 丰田自动车株式会社 | 信息处理装置、信息处理系统及计算机可读取的记录介质 |
CN115443493A (zh) * | 2020-04-24 | 2022-12-06 | 日产自动车株式会社 | 停车位置控制方法、停车位置控制装置以及停车位置控制系统 |
CN112991808A (zh) * | 2020-12-29 | 2021-06-18 | 杭州海康威视数字技术股份有限公司 | 一种停车区域的车位显示方法、装置及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
US20190102634A1 (en) | 2019-04-04 |
JP2019067220A (ja) | 2019-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109598970A (zh) | 停车位置显示处理装置、以及停车位置显示方法 | |
US20210012128A1 (en) | Driver attention monitoring method and apparatus and electronic device | |
US8599266B2 (en) | Digital processing of video images | |
TWI360489B (zh) | ||
CN103577827B (zh) | 图像识别装置以及电梯装置 | |
JP6127659B2 (ja) | 運転支援装置及び運転支援方法 | |
CN109636924A (zh) | 基于现实路况信息三维建模的车载多模式增强现实系统 | |
US20160314357A1 (en) | Method and Device for Monitoring an External Dimension of a Vehicle | |
García et al. | Driver monitoring based on low-cost 3-D sensors | |
JP2005242606A (ja) | 画像生成装置、画像生成プログラム、及び画像生成方法 | |
US20180204078A1 (en) | System for monitoring the state of vigilance of an operator | |
CN109760689A (zh) | 驾驶员监视系统 | |
JP2010191793A (ja) | 警告表示装置及び警告表示方法 | |
EP3456574A1 (en) | Method and system for displaying virtual reality information in a vehicle | |
JP2011210087A (ja) | 車両周囲監視装置および車両周囲監視方法 | |
JP2014235640A (ja) | 車両表示装置 | |
JP2016170688A (ja) | 運転支援装置及び運転支援システム | |
JP2015014119A (ja) | 車両ドア動作装置 | |
CN108073274A (zh) | 基于深度值的手势操作方法及其系统 | |
CN116433544A (zh) | 车辆环境监测方法、装置、设备及存储介质 | |
CN116486383A (zh) | 吸烟行为识别方法、吸烟检测模型、装置、车辆及介质 | |
JP2020129091A (ja) | 運転評価画面の表示方法、プログラム、運転評価システム、及び運転評価画面 | |
KR101770586B1 (ko) | 보행자 인식 시스템 및 그 제어 방법 | |
JP7070827B2 (ja) | 運転評価装置、車載機、これらを備えた運転評価システム、運転評価方法、及び運転評価プログラム | |
CN113033239B (zh) | 一种行为检测方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20190409 |