CN103079902A - 驾驶支援装置 - Google Patents
驾驶支援装置 Download PDFInfo
- Publication number
- CN103079902A CN103079902A CN2011800419236A CN201180041923A CN103079902A CN 103079902 A CN103079902 A CN 103079902A CN 2011800419236 A CN2011800419236 A CN 2011800419236A CN 201180041923 A CN201180041923 A CN 201180041923A CN 103079902 A CN103079902 A CN 103079902A
- Authority
- CN
- China
- Prior art keywords
- mentioned
- vehicle
- image
- navigational
- photographic images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
- B62D—MOTOR VEHICLES; TRAILERS
- B62D15/00—Steering not otherwise provided for
- B62D15/02—Steering position indicators ; Steering position determination; Steering aids
- B62D15/029—Steering assistants using warnings or proposing actions to the driver without influencing the steering system
- B62D15/0295—Steering assistants using warnings or proposing actions to the driver without influencing the steering system by overlaying a vehicle path based on present steering angle over an image without processing that image
Abstract
利用简易的系统构成将车载摄像头拍摄而得到的拍摄图像与引导图像重叠,来减轻驾驶员的操作负担的驾驶支援装置,将车载摄像头拍摄车辆周边而得到的拍摄图像与引导图像重叠作为显示图像,在车辆内的显示装置中显示,其中引导图像使用包含引导线在内的图形图像即引导显示。用于在拍摄图像上表示出与车辆的实际的操舵角度相对应的预想行进线路的引导线,即预想行进线路作为对应每个操舵角度预先生成的多个图形图像,存储在用于存储图形图像的存储部,上述图形图像构成引导显示。与车辆的实际的操舵角度相对应地从存储部取得预想行进线路的图形图像,并作为引导图像来提供。
Description
技术领域
本发明涉及使车载摄像头拍摄而得到的拍摄图像与引导图像重叠来支援驾驶的驾驶支援装置。
背景技术
已知有在停车等需要小心进行驾驶操作的情况下用于减轻驾驶员的操作负担的驾驶支援装置。在日本特开平11-334470号公报(专利文献1)中公开了这种适当地提供对停止有用的信息为目的的停车辅助装置。该停车辅助装置根据操舵角度来求出车辆行驶预想轨迹,将该行驶预想轨迹与后方图像重叠显示。该行驶预想轨迹是基于操舵角度和车辆的车轮底座和旋转半径之间的关系式来导出的。然后,基于路面坐标系(X,Y)和监视装置的显示器上的坐标系(x,y)之间的映射关系来进行坐标转换,再重叠到后方图像(专利文献1:第27~29段、图8~图12等)。
现有技术文献
专利文献
专利文献1:日本特开平11—334470号公报
发明内容
发明要解决的问题
这种运算如专利文献1的图1所示出,以CPU作为核心来执行。即,需要一种在摄像装置和监视装置间能够进行如上所述的较高级运算的图像处理装置,其中,上述摄像装置具有包含图像传感器的光学系统和信号处理电路。并且,若CPU的运算性能降低,则行驶预想轨迹的描画会变慢,可能会出现不能够进行与操舵角度连动的顺畅的显示的情况。另一方面,车载电气装置具有增加的倾向,而且对抑制车辆整体电耗、降低电气装置所需成本等市场的要求日益增加。
鉴于上述背景,本发明希望用简易的系统结构使得利用车载摄像头拍摄而得到的拍摄图像与引导图像重叠,来减轻驾驶员的操作负担。
用于解决问题的手段
鉴于上述课题的本发明涉及的驾驶支援装置的特征结构为,具有:图像接收部,其接收利用车载摄像头拍摄车辆周边而得到的拍摄图像;图像输出部,其将引导图像与上述拍摄图像重叠而成的显示图像显示在上述车辆的内部的显示装置上,其中,上述引导图像由使用了图形图像的引导显示来构成且包含用于辅助驾驶员进行上述车辆的驾驶操作的引导线;存储部,其将在上述拍摄图像上表示出与上述车辆的实际的操舵角度相对应的预想行进线路以辅助驾驶操作的上述引导线作为预想行进线路进行存储,上述存储部至少将作为对应每个预先规定的操舵角度的图形图像而生成的多个上述预想行进线路作为上述引导显示进行存储;引导图像提供部,其至少与上述车辆的实际的操舵角度相对应地从上述存储部取得作为上述引导显示的上述预想行进线路,并利用得到的上述引导显示来构成上述引导图像提供给上述图像输出部。
根据上述结构,不是根据车辆的操舵角度来求出预想行进线路在拍摄图像上的坐标后进行描画,而是根据实际的操舵角度来取得预先根据操舵角度生成并存储在存储部中的预想行进线路。因此,不需要进行复杂的运算,而是能够单纯地以操舵角度为自变量来得到使用了预想行进线路的引导图像。并且,还可以通过将使用了预想行进线路的引导图像重叠在拍摄图像上,来实现对拍摄图像添加预想行进线路,因此不需要进行复杂的运算就能够执行。其结果,利用简易的系统结构,将基于车载摄像头得到的拍摄图像重叠在拍摄图像上,减轻了驾驶员的操作负担。
在这里,优选地,上述引导图像提供部以和上述拍摄图像的拍摄周期或上述显示装置中上述显示图像的重写周期同步的方式从上述存储部得到上述引导显示,并将上述引导图像提供给上述图像输出部。例如,作为同步的一个例子,若以和显示图像的重写周期相同的周期向图像输出部提供引导图像,则对应每个显示图像的重写周期,图像输出部都能够得到新的引导图像。拍摄图像其本身几乎成为显示图像的基础(base)的情况下,引导图像能够以和车载摄像头拍摄而得到的拍摄图像相同的速度变化。因此,具有能够大量削减运算负荷的简易结构的同时,还能够得到与将通过运算生成的引导显示直接描画在拍摄图像作为显示图像的情况完全相同的视觉效果。此外,引导显示的变化相比拍摄图像或显示图像的帧率更慢的情况下,还可以以显示图像的重写周期的整数倍的周期来提供引导图像。在这种情况下,依然与显示图像的重写周期同步。通过以和显示图像的重写周期同步的方式提供引导图像,能够以较少的不舒适感很好地将显示图像显示在显示装置中。另外,同步的情况还包含如下所述的不合规则的情况:先用显示图像的重写周期的2倍周期提供引导图像,再用3倍周期提供引导图像,然后再用显示图像重写周期的2倍周期来提供引导图像,即整体来说在重写周期5倍的周期内提供两幅引导图像。另外,如果监视装置能够显示的映像格式和车载摄像头的拍摄图像的映像格式不一致,则不能够在监视装置中显示拍摄图像。因此,与显示图像的重写周期同步基本上和与拍摄图像的拍摄周期同步是相同。
并且,优选地,将上述拍摄图像在二维坐标系上的基准点的理想化坐标与实际坐标之间的误差设为对上述车辆安装上述车载摄像头时的与位置相关的光学系统的误差,本发明涉及的上述引导图像提供部根据校正参数对上述显示图像上上述引导显示的位置进行校正,其中,上述校正参数用于在上述显示图像上校正上述位置相关的光学系统的误差。在实际车辆中,受部件公差或安装公差等影响,会出现拍摄图像在二维坐标系上的基准点的理想化坐标与实际坐标不一致的情况。基准点的坐标的误差是二维坐标系在射影平面上的偏移(offset),因此能够通过用于定义这种偏移量的校正参数来简单地校正。即,不需要执行坐标转换等复杂的运算,而只需向二维坐标系上的坐标值赋予偏移量即可。通过这种校正,就能够很简单地校正与位置相关的光学系统的误差。
并且,优选地,将上述拍摄图像相对于上述拍摄图像的理想化状态的旋转角度设为对上述车辆安装上述车载摄像头时的与旋转相关的光学系统的误差,本发明涉及的上述存储部与上述旋转相关的光学系统的误差相对应地存储图形图像,其中,上述图形图像表示与上述车辆的操舵角度相应的上述引导显示,上述引导图像提供部与上述车辆的实际的操舵角度和旋转参数相对应地从上述存储部取得上述预想行进线路的图形图像,其中,上述旋转参数表示对上述车辆安装上述车载摄像头时的与旋转相关的光学系统的误差。在实际的车辆中,受部件的公差或安装公差等影响,会出现拍摄图像在二维坐标系上的坐标轴的理想化角度与实际的角度不一致的情况。对拍摄图像来说,坐标轴的角度误差是伴随旋转产生的误差,如果利用逆向旋转来校正这种误差,则需要进行坐标转换。这种坐标转换的运算负荷较大,但是根据本结构,存储部与旋转相关的光学系统的误差相对应地存储图形图像,引导图像提供部根据实际的操舵角度和旋转参数从存储部取得预想行进线路的图形图像。如此一来,引导图像提供部不需要为了校正与旋转相关的光学系统的误差而实施坐标转换等高负荷的运算,也能够向图像输出部提供抑制与旋转相关的光学系统误差的引导图像。
并且,优选地,将上述拍摄图像相对于上述拍摄图像的理想化状态的旋转角度设为对上述车辆安装上述车载摄像头时的与旋转相关的光学系统的误差,上述存储部与上述与旋转相关的光学系统的误差相对应地存储图形图像,其中,上述图形图像表示与上述车辆的操舵角度相应的上述引导显示,上述引导图像提供部与上述车辆的实际的操舵角度和旋转参数相对应地从上述存储部取得上述预想行进线路的图形图像,其中,上述旋转参数表示对上述车辆安装上述车载摄像头时的与旋转相关的光学系统的误差。如上所述,座标转换的运算负荷比较大,但根据本结构,根据旋转参数来校正实际的操舵角度的值,与校正后的操舵角度的值相对应地从存储部取得预想行进线路,因此不需要进行座标转换等大的运算负荷。存储部中存储有相比实际的操舵角度的变化范围更大的变化范围内的预想行进线路的图形图像,因此即使根据旋转参数来校正操舵角度也不成问题。如此一来,引导图像提供部不需要为了校正旋转相关的光学系统的误差而实施坐标转换等高负荷的运算,也能够向图像输出部提供抑制旋转相关的光学系统误差的引导图像。
并且,优选地,在本发明涉及的驾驶支缓装置中,以使得上述车辆的转向盘在空挡位置附近时上述规定的操舵角度相比操舵状态下上述规定的操舵角度小的方式生成要在上述存储部存储的上述预想行进线路的图形图像。这样一来,转向盘在空挡位置附近时的分辨率变高,对刚开始进行操舵的空挡位置开始的预想行进线路能够很敏感地跟踪。因此,能够在显示图像上迅速地向驾驶员传达预想行进线路变化的情况。其结果,驾驶员提前掌握预想行进线路的变化,提高了驾驶支援的效果。
并且,优选地,在上述拍摄图像上与上述车辆的实际的操舵角度无关地,将显示在显示画面的规定位置的上述引导显示作为固定引导,本发明涉及的上述存储部还存储至少一个上述固定引导,上述引导图像提供部从上述存储部取得上述预想行进线路以及上述固定引导,来合成一幅上述引导图像后提供给上述图像输出部。即使具有多种引导显示,也由于利用引导图像提供部合成为一幅引导图像,因此图像输出部只需将拍摄图像与引导图像重叠即可。其结果,能够利用削减运算负荷的简易系统结构来构成驾驶支援装置。
在这里,优选地,上述固定引导包含作为上述引导线的车辆延长线,该车辆延长线在上述拍摄图像上与上述车辆的实际的操舵角度无关地表示在规定的操舵角度下上述车辆在行进方向上的延长线。通过同时将车辆延长线和预想行进线路作为引导图像重叠在拍摄图像,能够很容易地向驾驶员传达操舵量和行进方向之间的关系。
并且,本发明涉及的驾驶支援装置的一个优选实施方式的特征在于,上述驾驶支援装置由一体化车载摄像模块构成;上述驾驶支援装置具有:图像传感装置,其具有图像传感器芯和图像传感器处理器,上述图像传感器芯具有用于通过光电转换将上述车辆的周边情景转换为模拟图像信号的图像传感器、用于对上述模拟图像信号进行信号处理并生成基于数字图像信号的上述拍摄图像的信号处理部,上述图像传感器处理器从上述存储部取得至少包含上述预想行进线路的上述引导显示,来生成上述引导图像,并将上述拍摄图像与上述引导图像重叠,来生成上述显示图像并进行输出,光学单元,其用于使上述车辆的周边情景在上述图像传感器的受光面成像,存储器,其用于存储上述引导显示的图形图像。
根据该结构,从拍摄图像的拍摄到向拍摄图像重叠引导图像并输出显示图像,都由一体化的车载摄像模块来完成。即,若在车辆上搭载监视装置,就能够在该监视装置中显示出显示图像,因此能够很简单地向车辆添加驾驶支援装置。一般而言,这种驾驶支援装置需要在制造厂商在生产车间进行车辆生产时添加该功能。但是,如果将车载摄像模块搭载在车辆上,并与监视装置相连接就能够添加本发明的驾驶支援装置。因此在能够进行简单光轴调整的保养工厂中也能够添加驾驶支援装置。其结果,对驾驶支援装置的普及具有一定的贡献,减轻了更多驾驶员的驾驶负荷。并且,不需要在车辆搭载高性能的运算装置,利用由简易的运算装置构成的车载摄像模块就能实现驾驶支援装置,因此能够以低成本添加驾驶支援装置。
并且,优选地,上述车辆具有用于检测该车辆的周围的物体的物体检测部,作为表示上述车辆的周围的状况的周围信息,上述存储部存储作为从上述车辆到上述物体的距离以及上述物体存在的各方向的图形图像预先生成的多个上述周围信息,上述引导图像提供部根据上述物体检测部的检测结果从上述存储部取得上述周围信息,来合成上述引导图像并提供给上述图像输出部。根据这种结构,将来自物体检测部的动态信息作为和预想行进线路的引导图像不同的引导图像进行显示,针对周围状况信息的变化只要变更所需部分即可,因此具有较高效率。
并且,还可以具有在上述引导图像内的上侧部分合成上述周围信息的结构。在这里,很多情况下在拍摄图像的上侧部分包含建筑物的上层或天空等不需要的情景。因此根据这种结构,可在拍摄图像中含有不需要的情景的区域中配置周围信息,因此不会对表示拍摄图像所包含的车辆的周围状况的区域(例如需要注意观察的区域)产生影响。
或者,还可以具有在上述引导图像内的下侧部分合成上述周围信息的结构。在这里,很多情况下载拍摄图像的下侧部分包含车身。因此根据这种结构,可在拍摄图像中含有车身的区域中配置周围信息,因此不会对表示拍摄图像所包含的车量周围状况的区域(例如需要注意观察的区域)产生影响。
附图说明
图1是示意性示出了车辆的系统结构的一个例子的框图。
图2是切开车辆的一部分示出的车辆的立体图。
图3是示意性示出了驾驶支援装置的功能结构的一个例子的框图。
图4是示意性示出了拍摄图像、引导图像、显示图像的关系的图。
图5是示意性示出了转向盘和预想行进线路的关系的图。
图6是示意性示出了存储器的数据格式的一个例子的图,在该存储器中存储有与旋转误差相对应的图形图像。
图7是示意性示出了存储器的数据格式的另外一个例子的图,在该存储器中存储了旋转误差相对应的图形图像。
图8是示意性示出了其他实施方式涉及的拍摄图像、引导图像、显示图像的关系的图。
图9是示意性示出了存储器的数据格式的一个例子的图,在该存储器中存储有与周围信息相对应的图形图像。
具体实施方式
下面,参照附图对本发明的实施方式进行说明。如图1以及图2所示,在本实施方式中说明将基于车辆所具有的摄像头100(车载摄像头)拍摄车辆90的周边而得到的拍摄图像PI作为显示图像VI显示在监视装置(显示装置)4的驾驶支援装置(停车支援装置及周边监视装置)10的例子。摄像头100利用CCD(charge coupled device:电荷耦合器件)或CMOS图像传感器(CMOS image sensor:CIS)等拍摄元件的数码摄像头,以时间序列拍摄每秒15~30帧的二维图像,并进行数码转换来实时输出动态图像数据(拍摄图像)。在本实施方式中,摄像头100是由透镜或光路等光学单元3、图像传感装置5、存储器7一体化而成的摄像模块(车载摄像模块)1的一部分。并且,摄像模块1相当于本发明的驾驶支援装置10。图像传感装置5是由图像传感器与基于图像传感器进行光电转换后的电信号的信号处理电路一体化集成的半导体芯片。从集成性或消耗电力等观点来看,这种半导体芯片最好利用CMOS(互补金属氧化物半导体)工艺。因此,在本实施方式中的拍摄器件使用CMOS图像传感器。
更为详细地,图像传感装置5具有图像传感器芯8、图像传感处理器(ISP)9、输出接口99、存储器接口6。图像传感器芯8具有用于通过光电转换将车辆90的周边情景转换为模拟图像信号的作为图像传感器的CMOS图像传感器81、用于对上述模拟图像信号进行信号处理并生成基于数字图像信号的拍摄图像PI的信号处理部。信号处理部具有由放大电路、相关双取样电路等构成的模拟信号处理电路82和用于将模拟信号转换为数字信号的A/D转换器83。经由模拟信号处理电路82模拟信号通过A/D转换器83被转换为数字信号,从而生成基于数字图像信号的拍摄图像PI。
由图像传感器芯8和光学单元3构成摄像头100。光学单元3由透镜或用于防止从透镜入射到CMOS图像传感器81的受光面的周围光的镜筒(光路)构成,车辆90的周边情景在CMOS图像传感器81的受光面成像。光学单元3所具有的透镜为广角透镜。特别地,在实施方式中,水平方向上确保了140~190°的视角。摄像头100以在光轴上形成大约30度左右的俯角的方式设在车辆90上,能够拍摄从车辆90到大约8m左右为止的区域。换句话说,摄像模块1以在光学单元3的光轴上形成大约30度左右的俯角的方式设在车辆90上,作为摄像头100能够拍摄从车辆90到大约8m左右为止的区域。在本实施方式中,作为摄像头100示出了用于拍摄车辆90的后方的后方摄像头的例子,还可以是用于拍摄车辆90的前方或侧方的摄像头。并且,车辆90所具有的摄像头100不局限于一个,还可以在车辆90的后方和副驾驶座一侧的侧方、后方和副驾驶座一侧的侧方和前方、后方和两个侧方和前方等处设置多个摄像头。
如图1所示,由摄像头100拍摄而得到的拍摄图像PI可经由图像传感处理器作为显示图像VI显示在车辆内的监视装置4(显示装置)。在本实施方式中,图像传感处理器9以DSP(digital signal processor:数字信号处理器)作为核心来构成,还可以以CPU等其他逻辑运算处理器或逻辑电路作为核心来构成。图像传感处理器9还可以进行对利用广角透镜进行拍摄时产生的变形进行校正、视点转换、颜色调整等图像处理。另外,还存在未利用图像传感处理器9作任何图像处理的情况,拍摄图像PI和显示图像VI也可以是相同的图像。
在本实施方式中,在图像传感处理器9中拍摄图像PI与引导图像GI重叠后成为显示图像VI。如图4所示,引导图像GI是使用了用于辅助驾驶员进行车辆90的驾驶操作的引导显示V的图像。引导显示V是包含用于辅助驾驶员进行车辆90的驾驶操作的引导线G或信息M的图形图像。并且,引导线G包含根据车辆90的操舵角度而变化的预想行进线路C、与操舵角度无关地在规定位置上描画的作为固定引导F的车辆延长线E。显然,若不存在要显示的引导显示V,引导图像GI透明的情况下,拍摄图像PI和显示图像VI还可以是相同的图像。
引导图像GI的生成方法将在后面详细说明,各种引导显示V存储在存储器7中。图像传感装置5经由存储器接口6从存储器7取得引导显示V,并生成引导图像GI。存储器接口6例如是SPI(serial peripheral interface:串行外设接口)。如果拍摄图像PI与引导图像GI重叠而生成显示图像VI时,图像传感装置5就经由输出接口99向监视装置4输出显示图像VI。另外,在这里示出了存储器是与图像传感装置5独立的芯片的例子,但也可以与图像传感装置5集成在一个封装体内。
监视装置4例如兼作导航系统的监视装置来使用。如图1所示,监视装置4具有显示部4a、形成在显示部4a上的触摸面板4b。显示部4a用于显示由摄像模块1提供的显示图像VI。作为一个例子,显示部4a由液晶显示器构成。触摸面板4b与显示部4a一起形成,是能够将基于手指等的接触位置作为定位数据来输出的压力感应式或静电式指示输入装置。
图像传感装置5具有控制器91,该控制器91用于控制图像传感装置5的各种运算部等。在图1中没有示出除存储器接口6以外的控制对象,此外控制对象还包括图像传感器芯8或包含数据运算部92的图像传感处理器9内的功能部、输出接口99等。并且,图像传感装置5还可经由图1中用附图标记50表示的车内网络与各种系统或传感器进行通信。在本实施方式中,作为车内网络的例子示出了控制器局域网(CAN:controller area network)50。动力转向系统31或制动器系统37以ECU(electronic control unit;电子控制单元)作为核心,该ECU以CPU等电子电路作为核心与周边电路共同构成。
动力转向系统31具有促动器41或扭矩传感器22,动力转向系统31是电动转向(EPS:electric power steering)系统或SBW(steer-by-wire:线控)系统。制动器系统37具有促动器47或制动传感器27,制动器系统37是用于抑制制动器的锁止的ABS(anti lock braking system:防抱死制动器系统)或用于抑制转弯时的车辆侧滑的防侧滑装置(ESC:electronic stability control)或具有用于增强制动力的制动助推器等的电动制动器系统或BBW(brake-by-wire:电线制动)系统。
在图1中,作为各种传感器的一个例子,转向传感器21、车轮速度传感器23、换档杆开关25、加速踏板传感器29与控制器局域网50相连接。转向传感器21是用于检测转向盘的操舵量(旋转角度)的传感器,例如利用霍尔元件等来构成。构成驾驶支援装置10的摄像模块1可从转向传感器21取得驾驶员的转向盘2的操舵量。车轮速度传感器23是用于检测车辆90的车轮的旋转量及每单位时间的转数的传感器,例如利用霍尔元件等来构成。车轮速度传感器23根据左右车轮的旋转差等迅速检测出制动器的锁止、车轮的空转、侧滑的前兆等,因此还存在车轮速度传感器23设在制动器系统37的情况。在这种情况下,驾驶支援装置10经由制动器系统37来取得信息。制动器传感器27是检测制动器踏板的操作量的传感器。换档杆开关25是用于检测换档杆的位置的传感器或开关,利用位移传感器等来构成。例如,驾驶支援装置10可在挡位设在倒退挡的情况下开始执行支援控制,或者从倒退挡变更为前进挡的情况下结束支援控制。并且,用于检测对转向盘施加的操作扭矩的扭矩传感器22还能够检测驾驶员是否握住了转向盘。
本发明的驾驶支援装置10是以摄像模块1中图像传感装置5的图像传感处理器9作为核心来构成。如图3所示,驾驶支援装置10具有图像接收部11、存储部13、引导图像提供部17、图像输出部19各功能部。这些各功能部不需要具有各自独立的物理结构,只要能够实现各自的功能即可。即,各功能部可以共用同一个硬件,并且还可以由程序或参数等软件和硬件协同实现。
图像接收部11是用于接收利用车载摄像头100具体是光学单元3以及图像传感器芯8来拍摄车辆90周边而得到的拍摄图像PI的功能部。例如,数据运算部92具有图像接收部11的功能。存储部13是用于存储构成引导显示V的图形图像的功能部。存储器7具有存储部13的功能。引导图像提供部17是用于从存储部13(存储器7)取得构成引导显示V的图形图像并提供给图像输出部19的功能部。控制器9191、缓冲器93、解压部94、覆盖(overlay)部95、数据运算部92具有引导图像提供部17的功能。引导图像提供部17与车辆90的实际的操操舵角度相对应地从存储部13取得预想行进线路C的图形图像。具体地,引导图像提供部17从转向传感器21取得车辆90的操舵角度θ,指定基于该操舵角度θ的地址,并访问存储器7,来取得与操舵角度θ相对应的预想行进线路C的图形图像。图像输出部19是用于将利用引导显示V的引导图像GI与拍摄图像PI重叠而成的图像作为显示图像VI并将显示图像VI显示在车辆90内的监视装置4上的功能部。数据运算部92、输出接口99具有图像输出部19的功能。
下面,参照图4以及图5中示出的具体图像的例子进行说明。在这里,引导显示V是指包含用于辅助驾驶员进行车辆90的操作的引导线G的图形图像。引导显示V包含图4所示的引导线G、固定引导F、车辆延长线E、信息M、预想行进线路C。引导线G是为了辅助驾驶员进行车辆90的驾驶操作而引导驾驶员的基准线。引导线G包含车辆延长线E、预想行进线路C。在这里,车辆延长线E是将车辆90的车辆宽度向后方延长的后方车辆宽度延长线。拍摄车辆90的前方而得到的拍摄图像与车辆延长线重叠的情况下,车辆延长线E还可以是前方车辆宽度延长线。并且,不局限于车辆宽度,车辆延长线E还可以是车轴在前后方向的延长线。并且,车辆延长线E还可以是车辆90的前端或后端、车长方向的中心向车辆90的侧方延长得到的线。车辆延长线E的位置根据车辆和摄像头100的拍摄图像PI之间的关系而定,因此在拍摄图像PI上的规定的位置上会出现重叠。因此,车辆延长线E包含在固定引导F中,固定引导F中还包含信息M。
预想行进线路C是用于在拍摄图像PI上表示出与车辆90的实际操舵角度相对应的预想行进线路的引导线G。因此,在拍摄图像PI上预想行进线路C不是重叠在规定位置上,而是会根据车辆90的实际的操舵角度θ发生变化的动态引导。如图5的(c)部分所示,当转向盘2在空挡位置(中立位置)时,操舵角度θ为0,预想行进线路C描画在与车辆延长线E基本重叠的位置上。
如图5的(b)部分所示,若转向盘2从空挡位置稍微向左方向操作,则预想行进线路C变成向左方向弯曲的形状。此外,如图2所示,驾驶员在驾驶座看监视装置4时,看到与未图示的室内反射镜相同的情景时更容易掌握车辆90的周围状况,因此在显示图像VI上拍摄图像PI变成左右颠倒的镜像图像。因此,重叠在拍摄图像PI上的预想行进线路C也作为镜像而被描画。如图5的(a)部分所示,若转向盘2从空挡位置进而向左方向操作,则预想行进线路C会变成相比图5的(b)部分更向左方向弯曲多的形状。
同样地,如图5的(d)部分所示,转向盘2从空挡位置稍微向右方向操作时,预想行进线路C会变成向右方向弯曲的形状。并且,如图5的(e)部分所示,若方向盘2从空挡方向进而向右方向操作,则预想行进线路C会变成相比图5的(d)部分更向左方向弯曲的形状。
在监视装置4重写画面的时间内,以图像传感处理器9作为核心构成的引导图像提供部17从存储器读取四种引导显示并重叠在拍摄图像PI上,来生成显示图像VI。另外,如果监视装置4能够显示的映像格式和摄像头100的拍摄图像PI的映像格式(或显示图像VI的映像格式)不一致,则不能够将拍摄图像PI(显示图像VI)显示在监视装置4上。上述映像格式是由NTSC/PAL(恩制/帐尔制)等纵横的像素、单位时间内的画面数(或画面频率/线频率)、隔行扫描/逐行扫描等显示方法来定义的。因此,引导图像提供部17与拍摄图像PI的一个画面的拍摄周期(或显示图像VI的生成周期)同步,在摄像头100拍摄一张拍摄图像PI的时间内,从存储器7读取四种引导显示并重叠在拍摄图像PI上,来生成显示图像VI。
例如,监视装置4以30fps的帧率来显示图像的情况下,引导图像提供部17在1/30秒的时间内生成一帧显示图像VI。换句话说,引导图像提供部17能够在1/30秒内处理的这种引导显示V才能够存储在作为存储部13的存储器7中。在本实施方式中,存储器7中能够存储用OV1~OV4表示的四种引导显示V。在本实施方式中,例举了存储OV1~OV3三种引导显示V的例子。
OV1是相当于车辆延长线E的引导显示V。OV2是相当于预想行进线路C的引导显示V。OV3相当于信息M。其中,车辆延长线E以及信息M相当于固定引导F,但不局限于只存储一种设计。例如,根据间隙声纳33的检测结果判断出在车辆90的附近存在障碍物的情况下,可以用不同的颜色显示信息M。在这种情况下,作为OV3读取存储在存储器7的不同地址中的引导显示V。对于车辆延长线E也是同样的。
预想行进线路C例如预先描画当转向盘2的旋转角度每变化15度时的不同形状后分别存储在存储器7的不同地址中。如图4所示,引导图像提供部17根据与利用转向盘2的旋转角度或车轮的位移角度来表示出的操舵角度θ相对应的地址A(θ),访问存储器7以取得与操舵角度θ相对应的预想行进线路C。并且,引导图像提供部17根据需要通过控制器91的控制从存储器7取得车辆延长线E或信息M等其他引导显示V。
由上述说明可知,预先描画并存储了对应每个规定的操舵角度,即当转向盘2的旋转角度每变化15度时的不同形状的引导显示V。但是,可以根据转向盘2的位置设置不同的规定操舵角度的刻度,即所谓的分辨率。例如,转向盘2在空挡位置附近时,可以以相比操舵状态即其他区域设置更高的分辨率的方式准备引导显示V,并存储在存储器7中。例如,在转向盘2的旋转角度中,以空挡位置为中心左右各90度以内的范围作为空挡位置的附近,每隔5度或10度生成预想行进线路C,而在转向盘2的旋转角度中左右各90度以外的范围中,则每隔15度生成预想行进线路C。这样一来,预想行进线路C会对开始转向的空挡位置的操作敏感地跟踪,因此驾驶员能够从显示图像VI迅速地察觉到预想行进线路C的变化。并且,驾驶员还能够很早就感知预想行进线路C的移动。
为了减少数据容量,对存储在存储器7中的引导显示V进行压缩。经由由小容量存储器或暂存器等构成的缓冲器93从存储器7取得的引导显示V在解压部94中解压(拉伸)。并且,多个引导显示V重叠在拍摄图像PI的情况下,在覆盖部95重叠解压后的引导显示V,来合成一张引导图像GI。该引导图像GI在数据运算部92中与拍摄图像PI重叠成为显示图像VI,并经由输出接口99输出到监视装置4。
如上所述,引导图像提供部17以和在监视装置4重写显示图像VI的周期同步的方式从存储部13取得构成引导显示V的图形图像,并将引导图像GI提供给图像输出部19。因此,图像传感处理器9还以和显示图像VI的重写周期同步的方式从转向传感器21取得操舵角度θ。当操舵角度θ没有变化的情况或即使有变化但在操舵角度θ的最小分辨率的范围内的情况下,从存储器7读取预想行进线路C也无妨。其结果,从存储器7读取相同的图形图像作为预想行进线路C,向图像输出部19提供相同的引导图像GI,因此通过将处理程序化的方法来减少运算负荷。
显示图像VI的重写周期和引导图像GI的提供周期同步的情况下,例如两个周期相同,则图像输出部19在显示图像VI的每个重写周期内都能够得到新的引导图像GI。引导导图像GI以和拍摄图像PI相同的速度变化,因此不但结构简易,同时能够给予驾驶员与将通过运算生成的引导显示V直接描画在拍摄图像PI的情况完全相同的视觉效果。另外,在允许引导显示V低速变化的情况下,还可以以显示图像VI的重写周期的整数倍的周期来提供引导图像。这种情况下,依然与显示图像VI的重写周期同步。另外,为了引起驾驶员的注意使信息M闪烁的情况下,可在重写周期内以通过特意间隔添加信息M的周期的方式来表现出闪烁。
另外,摄像头100在向车辆90安装时的理想安装位置或安装姿势间存在误差。即,拍摄图像PI上的二维射影坐标系必然和设计上的理想坐标系不一致。实际的坐标系和理想化坐标系之间的误差分为两大类。第一类是成为拍摄图像PI的二维射影面的坐标中心(与正交于射影面上的光轴的交点)偏离三维的世界坐标系上的理想化坐标的平移误差(translation error)。这是对车辆90安装摄像头100时的与位置相关的光学系统(光学单元3)的误差。另一类是成为拍摄图像PI的二维射影面在三维的世界坐标系中,例如以三维正交坐标的各轴为旋转轴进行旋转的旋转误差。这是对车辆90安装摄像头100时的与姿势相关的光学系统统(光学单元3)的误差。
为了抑制这种误差,在将摄像头100设在车辆时进行校正。一般来说,通过校正求出用于校正平移误差以及旋转误差的校正参数,并根据该校正参数来校正拍摄图像PI。在本实施方式中,通过校正主要求出了用于校正平移误差(位置的误差)的校正参数和表示旋转误差(姿势的误差)的旋转参数。用于校正位置误差的校正参数在显示图像VI上校正与位置相关的光学系统统的误差。具体地,校正参数根据二维正交坐标系的两个轴各自的偏移值来定义光学中心的射影面上的光学中心或规定的基准点坐标的偏移。另外,通常将旋转误差所包含的与摆动(pan)(图像水平方向上的振动)以及倾斜(tilt)(图像垂直方向上的振动)相关的误差,在此处看成包含在位置误差内,在调整位置误差时进行调整。若要利用射影几何学来校正三维平面即射影面的三维旋转误差,需要较高的运算负荷。即,每次都要对拍摄图像PI进行高负荷的运算。因此在本实施方式中,着眼于监视装置4的画面上的图像即射影面的“视觉功能”,简单地进行位置误差的校正。
例如,利用摄像头100拍摄规定了理想化坐标值的校正指标。由于在校正指标上的特定点即基准点上也规定了理想化坐标值,因此求出与实际拍摄图像PI上基准点的坐标的误差,来决定偏移值。具体地,基于理想化转换参数将三维上设在规定位置上的校正指标上的基准点转换为拍摄图像上的理想化坐标值。然后,求出利用摄像头100拍摄该校正指标得到的拍摄图像PI上的基准点的实际坐标值与理想化坐标值的差分,将该差分作为误差。然后,基于该误差来决定偏移值。在将摄像头设在车辆时运算出上述偏移值(校正参数),并存储在驾驶支援装置10内。后述的旋转参数也是同样地在将摄像头设在车辆时运算得到,并存储在驾驶支援装置10内。
引导显示V具有图形信息和基准坐标位置信息,并存储在存储器7(存储部13)内。引导图像提供部17在利用所取得的引导显示V来构造引导图像GI时,利用校正参数对基准坐标位置信息进行偏移调整。该引导图像GI与拍摄图像PI重叠成为显示图像VI,因此与位置相关的光学系统统的误差在显示图像VI中被校正。即,不需要进行坐标转换等复杂的运算也能够很容易地调整与位置相关的光学系统统的误差。
如上所述,通常将旋转误差所包含的与摆动(在图像水平方向的振动)以及倾斜(在图像垂直方向的振动)相关的误差,在此处包含在位置误差内,在进行位置误差的调整时进行调整。旋转误差的剩下的要素即侧倾(图像的旋转)通过下面的方式进行校正。即,将实际的拍摄图像PI相对于拍摄图像PI的理想化状态旋转角度设为对车辆90安装摄像头100时的与旋转相关的光学系统统的误差,来调整旋转误差。
一般而言,校正旋转误差时需要进行坐标转换。但是,坐标转换会增加运算负荷,在此处存储部13和引导图像提供部17协同调整旋转误差。在存储部13中存储有对应每个与旋转相关的光学系统统的误差预先生成的引导显示V,引导图像提供部17根据表示旋转误差的旋转参数,来取得已添加调整量的引导显示V。
具体地,如图6所示,存储部13存储与旋转相关的光学系统统的旋转参数roll的值和与车辆90的操舵角度θ的值相对应地表示引导显示V的图形图像。另外,在图6中还示出了roll的值在相反的旋转方向上分别为D的情况下的两个系统的图形图像的例子,但是图形图像不局限于三个系统。在存储器7容量范围内,根据roll的值还可以设置并存储更多的系统。其中,图6中操舵角度θ=±B是转向盘2在设计上的最大旋转角度。考虑到车辆90或转向盘2的个体误差,图形图像以具有相比最大旋转角度B少的余量且与绝对值相比B更大的B’的操舵角度θ对应的方式被形成并存储。引导图像提供部17访问基于旋转参数(光学系统统的误差)roll和操舵角度θ的值来确定的存储器7(存储部13)的地址(A(θ,roll)),来取得已添加调整量的引导显示V。
但是,对已经对应每个操舵角度θ存储了大量的图形图像的预想行进线路C,再形成并存储对应每个旋转误差的规定值的图形图像,会出现存储器7的容量不足的情况。因为,为了抑制存储器7的容量优先使用下面的方法。旋转误差和操舵角度θ之间存在相关关系。例如,具有旋转误差的情况下,预想行进线路C与旋转误差相对应地显示在偏离规定的操舵角度的位置。着眼于这点,根据旋转误差来调整操舵角度θ或者基于操舵角度θ的存储器7的参照地址A(θ)。
具体地,如图7所示,存储部13存储相比实际的操舵角度θ的变化范围更大的变化区域内的预想行进线路C的图形图像。在这里,操舵角度θ的变化范围设定为最大值相比最大旋转角度B还大α的区域。若绝对值(B+α)是相比参照图6进行说明的包含操舵角度θ的最大旋转角度的绝对值B加上余量量之后的B’更大的值,则能够根据旋转参数roll可靠地形成最大旋转角度以内的图形图像。引导图像提供部17根据车辆90的实际的操舵角度θ和表示实际的与摄像头100的旋转相关的光学系统统的误差的旋转参数,将实际的操舵角度θ例如校正为θ’。然后,引导图像提供部17与校正后的值θ’相对应地从存储部13取得预想行进线路C。在存储部13中存储有相比实际的操舵角度θ的变化范围更大的变化范围内的预想行进线路C的图形图像,因此基于旋转参数来校正操舵角度的值也无妨。另外,不仅可以校正操舵角度θ,还可以利用旋转参数roll来校正由操舵角度θ导出的地址A(θ),求出地址A’(θ)后从存储器7读取引导显示V。
在上述说明中例举了将旋转误差所包含的与摆动以及倾斜相关的误差包含在位置误差(平移误差)中并利用偏移调整来进行校正、通过调整存储器的参照地址的方法来校正与侧倾相关的误差的例子。但是,不局限于这种方法,还可以将摆动以及倾斜作为旋转误差校正。在这种情况下,只有平移误差与位置误差相对应。并且,旋转参数包含了调整摆动、倾斜、侧倾的三个轴的旋转要素的误差的调整值。
如上所述,在生产车间将摄像头100设在车辆时计算旋转参数,并存储在驾驶支援装置10内。具体地,利用摄像头100拍摄已规定了理想化坐标值的多个校正指标,根据各校正指标上的特定的点即基准点的理想化坐标值与实际的拍摄图像PI上的坐标值来计算出旋转参数。求旋转参数方法可以使用在日本特开2001-245326号公报中公开的方法,此外还有很多已知方法,因此省略详细说明。
驾驶支援装置10基于所存储的旋转参数来校正(生成)引导图像GI,并将校正后的引导显示V存储在存储部13中。即,预先存储将光学系统的旋转误差调整后的引导显示V。这时,若存储部13(存储器7)的容量允许,优选地,同时存储没有调整的初始引导显示和校正后的引导显示。由于维护旋转参数变更的情况下,还可以根据没有调整的初始引导显示和最新的旋转参数来生成并存储新的校正后的引导显示。此外,对于生成校正后的引导显示V的方法,不局限于如上所述的根据最新的旋转参数来校正没有调整的初始引导显示的方法。例如,还可以考虑不保存没有调整的初始引导显示,而是根据最新的旋转参数和预先设定的摄像头100的搭载位置等进行运算处理,来直接生成引导显示V的方法。在这里,摄像头100的搭载位置是指,例如距路面的高度、距左右方向中心位置的距离(左右方向偏移量)、距后轮轴的距离等。
对基于最新的旋转参数来矫正没有调整的初始引导的方法进行整理的话,可以通过以下方法存储引导显示V。将拍摄图像PI在二维坐标系上的基准点的理想化坐标与实际坐标之间的误差设为对车辆90安装摄像头100时的与位置相关的光学系统的误差。并且将拍摄图像PI相对于拍摄图像PI的理想化状态的旋转角度设为对车辆90安装摄像头100时的与旋转相关的光学系统的误差。该与旋转相关的光学系统的误差是拍摄图像PI在二维坐标系上的坐标轴理想化角度与实际角度之间的误差,还可以称为对车辆90安装摄像头时的与姿势相关光学系统的误差。存储部13预先存储校正后的引导显示V,该校正是基于表示安装摄像头时的与旋转相关的光学系统误差的旋转参数来进行的。引导图像提供部17根据校正参数对显示图像VI中的引导显示V的位置进行校正,其中校正参数用于在显示图像VI上校正与位置相关光学系统误差的参数。
在这里示出的例子是基于旋转参数来校正引导显示V并预先存储的例子,还可以生成、存储除旋转误差外还校正位置误差的引导显示V。即,存储部13还可以预先存储根据旋转参数和校正参数(并进参数)校正的校正后的引导显示V,其中,上述旋转参数表示安装摄像头100时的与旋转相关的光学系统的误差,校正参数表示与位置相关的光学系统的误差。这种情况下,引导图像提供部17不需要对引导显示V进行与光学系统误差相关的校正,而是与车辆90的实际操舵角度相对应地从存储部13取得作为校正后引导显示V的预想行进线路C,利用得到的引导显示V构成引导图像GI并提供给图像输出部19。
另外,引导图像GI的校正还可以由控制器局域网50等能够与车辆90的网络相连接的车辆90的未图示出的外部装置来实施,而不用驾驶支援装置10实施。校正后的引导显示V经由该网络下载到存储部13(存储器7),并预先存储在存储部13中。或者不需要下载,而是将校正后的引导显示V存储在存储卡等中,并将该存储卡设在车辆90中。存储部13(存储器7)自身还可以由存储卡构成,先从车辆90中取出后设置在外部装置中,将校正后的引导显示V存储后重新放入车辆90中。若使用存储卡这种存储介质,即使出现控制器局域网50等车内网络的通信速度降低的情况,也很容易地对引导显示V进行校正并重新存储。旋转参数或校正参数(并进参数)等校正引导显示V时所需的参数也可以经由存储卡传递到外部装置中。
另外,在本实施方式中说明的例子是利用一体化的摄像模块1来完成从拍摄图像PI的拍摄到向拍摄图像PI重叠引导图像GI并输出显示图像VI的一连串的处理的驾驶支援装置。但是,本发明不局限于这种一体化的驾驶支援装置。还可以采用由独立的摄像头和图像处理装置构成的结构,该图像处理装置从摄像头接收拍摄图像PI后利用以CPU或DSP为核心的ECU来重叠引导图像GI后输出显示图像VI。
在上述实施方式中已说明显示图像VI是将拍摄图像PI与包含引导显示V的引导图像GI重叠而生成的。但是本发明的适用范围不局限于此。显示图像VI的结构还可以是进一步重叠包含周围信息S的引导图像GI而生成的。在图8中示出了这种显示图像VI的例子。
在这里,车辆90具有能够检测出该车辆90的周围物体的物体检测部。作为物体检测部,例如相当于间隙声纳33。还可以用毫波雷达来代替间隙声纳33。在本实施方式中间隙声纳33设在车辆的四个角(右前、左前、右后、左后)。
并且,存储部13存储作为车辆90到物体之间的距离以及物体所存在的各方向的图形图像预先生成的多个周围信息S,该周围信息S表示车辆90的周围状况。在本实施方式中,周围信息S是指表示车辆90的周围是否存在物体的信息。并且,车辆90到物体之间的距离根据距离大小例如分为三个阶段。并且,检测方向与上述的四个角相对应,分别是车辆90的右前方向、左前方向、右后方向、左后方向。周围信息S对应距离以及每个方向作为多个图像图像存储在存储部13中。在图9中示出了这种例子。
引导图像提供部17根据间隙声纳33的检测结果,从存储部13取得周围信息S并与引导图像合成后提供给图像输出部19。引导图像提供部17从存储部13取得引导图像GI的同时还取得对应于间隙声纳33的检测结果的周围信息S。取得引导图像GI的方法与上述实施方式中相同,因此省略说明。在图8中示出了向拍摄图像PI重叠包含OV1~OV3的3种引导显示V的引导图像GI、包含OV7的周围信息S的引导图像GI的例子。在图8中示出的例子中,表示出了当车辆90的右前方、左前方和左后方分别检测出物体时的周围信息S。并且,周围信息S是根据车辆90到物体之间的距离来规定的。尤其在图8中示出的例子中,在车辆90的右前方较近处检测到了物体,而在左前方处更远的位置上检测到了其他物体。而且,在左右方较远处的位置上检测到了物体。
在图8的例子中,在引导图像GI内的上侧部分合成周围信息S。因此,能够在拍摄图像PI的上侧部分的不必要区域中配置周围信息S。这样一来,就不会使拍摄图像PI中包含的表示车辆90的周围状况的区域(例如需要注意观察的区域)有所损失。
还可以在引导图像GI内的下侧部分合成周围信息S。由此,能够在拍摄图像PI的下侧部所包含的情况较多的车辆90的主体部分不必要区域内配置周围信息S。这样一来,就不会使拍摄图像PI所包含表示车辆90的周围状况的区域(例如需要注意观察的区域)有所损失。
在这里,作为向拍摄图像PI重叠的引导图像GI的信息,例如可以用表示燃料剩余量的信息或表示车门开闭状态的信息等利用其他检测方法来检测出的信息来代替周围信息。在该情况下,车辆90具有用于取得与该车辆90相关的信息的车辆信息取得部,存储部13存储作为图形图像预先生成的多个车辆信息,该车辆信息表示与车辆90相关的信息的车辆信息,引导图像提供部17根据车辆信息取得部的检测结果从存储部13取得车辆情信息,合成到引导图像GI中,并提供给图像输出部19。
并且,周围信息S可以用具体的数值(例如“○○米”)来记录,还可以用刻有规定间隔的显示器来表示。
此处,虽在上面省略了说明,但在如图4所示的显示图像VI中,优选地,在拍摄图像PI上从下往上依次配置OV3的引导图像GI、OV2的引导图像GI、OV1的引导图像GI。当然还可以打乱OV3的引导图像GI、OV2的引导图像GI以及V1的引导图像GI的顺序在拍摄图像PI上进行配置,来构成显示图像VI。
并且优选地,在如图8所示的显示图像VI中,在拍摄图像PI上从下往上依次配置OV3的引导图像GI、OV2的引导图像GI、OV1的引导图像GI、OV7的引导图像GI。当然还可以打乱OV3的引导图像GI、OV2的引导图像GI、OV1的引导图像GI的顺序在拍摄图像PI上进行配置,还可以在最上部配置OV7的引导图像,来构成显示图像VI。
产业上的可利用性
本发明可以用于利用简易的系统构成,基于车载摄像头拍摄得到的拍摄图像与引导图像重叠,来减轻驾驶员的操作负担的驾驶支援装置中。
附图标记的说明
1:摄像模块(车载摄像模块)
2:转向盘
3:光学单元
4:监视装置(显示装置)
5:图像传感装置
7:存储器
8:图像传感器芯
9:图像传感处理器
10:驾驶支援装置
11:图像接收部
13:存储部
17:引导图像提供部
19:图像输出部
81:图像传感器
82:模拟电路(信号处理部)
83:A/D转换器(信号处理部)
90:车辆
100:摄像头(车载摄像头)
C:预想行进线路
E:车辆延长线
F:固定引导
G:引导线
GI:引导图像
PI:拍摄图像
S:周围信息
V:引导显示
VI:显示图像
θ:操舵角度
roll:旋转参数
Claims (12)
1.一种驾驶支援装置,其特征在于,具有:
图像接收部,其接收利用车载摄像头拍摄车辆的周边而得到的拍摄图像;
图像输出部,其将引导图像与上述拍摄图像重叠而成的显示图像显示在上述车辆的内部的显示装置,其中,上述引导图像由使用了图形图像的引导显示来构成且包含用于辅助驾驶员进行上述车辆的驾驶操作的引导线;
存储部,其将在上述拍摄图像上表示出与上述车辆的实际的操舵角度相对应的预想行进线路以辅助驾驶操作的上述引导线作为预想行进线路进行存储,上述存储部至少将作为对应每个预先规定的操舵角度的图形图像而生成的多个上述预想行进线路作为上述引导显示进行存储;
引导图像提供部,其至少与上述车辆的实际的操舵角度相对应地从上述存储部取得作为上述引导显示的上述预想行进线路,并利用得到的上述引导显示来构成上述引导图像提供给上述图像输出部。
2.如权利要求1所述的驾驶支援装置,其特征在于,上述引导图像提供部以和上述拍摄图像的拍摄周期或上述显示装置中上述显示图像的重写周期同步的方式从上述存储部取得上述引导显示,并将上述引导图像提供给上述图像输出部。
3.如权利要求1或2所述的驾驶支援装置,其特征在于,
将上述拍摄图像在二维坐标系上的基准点的理想化坐标与实际坐标之间的误差设为对上述车辆安装上述车载摄像头时的与位置相关的光学系统的误差;
上述引导图像提供部根据校正参数对上述显示图像上上述引导显示的位置进行校正,其中,上述校正参数用于在上述显示图像上校正上述与位置相关的光学系统的误差。
4.如权利要求1至3中任一项所述的驾驶支援装置,其特征在于,
将上述拍摄图像相对于上述拍摄图像的理想化状态的旋转角度设为对上述车辆安装上述车载摄像头时的与旋转相关的光学系统的误差;
上述存储部与上述与旋转相关的光学系统的误差相对应地存储图形图像,其中,上述图形图像表示与上述车辆的操舵角度相应的上述引导显示;
上述引导图像提供部与上述车辆的实际的操舵角度和旋转参数相对应地从上述存储部取得上述预想行进线路的图形图像,其中,上述旋转参数表示对上述车辆安装上述车载摄像头时的与旋转相关的光学系统的误差。
5.如权利要求1至3中任一项所述的驾驶支援装置,其特征在于,
将上述拍摄图像相对于上述拍摄图像的理想化状态的旋转角度设为对上述车辆安装上述车载摄像头时的与旋转相关的光学系统的误差;
上述存储部用于存储相比实际的操舵角度的变化范围更大的变化范围内的上述预想行进线路的图形图像;
上述引导图像提供部基于上述车辆的实际的操舵角度和旋转参数来校正实际的上述操舵角度的值,与该校正后的值相对应地从上述存储部取得上述预想行进线路,其中,旋转参数表示实际的上述与旋转相关的光学系统的误差。
6.如权利要求1至5中任一项所述的驾驶支援装置,其特征在于,以使得上述车辆的转向盘在空挡位置附近时上述规定的操舵角度相比操舵状态下上述规定的操舵角度小的方式生成要在上述存储部存储的上述预想行进线路的图形图像。
7.如权利要求1至6中任一项所述的驾驶支援装置,其特征在于,
在上述拍摄图像上与上述车辆的实际的操舵角度无关地,将显示在显示画面的规定位置的上述引导显示作为固定引导;
上述存储部还存储至少一个上述固定引导;
上述引导图像提供部从上述存储部取得上述预想行进线路以及上述固定引导,来合成一幅上述引导图像后提供给上述图像输出部。
8.如权利要求7所述的驾驶支援装置,其特征在于,上述固定引导包含作为上述引导线的车辆延长线,该车辆延长线在上述拍摄图像上与上述车辆的实际的操舵角度无关地表示在规定的操舵角度下上述车辆在行进方向上的延长线。
9.如权利要求1至8中任一项所述的驾驶支援装置,其特征在于,上述驾驶支援装置由一体化车载摄像模块构成;
上述驾驶支援装置具有:
图像传感装置,其具有图像传感器芯和图像传感器处理器,
上述图像传感器芯具有用于通过光电转换将上述车辆的周边情景转换为模拟图像信号的图像传感器、用于对上述模拟图像信号进行信号处理并生成基于数字图像信号的上述拍摄图像的信号处理部,
上述图像传感器处理器从上述存储部取得至少包含上述预想行进线路的上述引导显示,来生成上述引导图像,并将上述拍摄图像与上述引导图像重叠,来生成上述显示图像并进行输出,
光学单元,其用于使上述车辆的周边情景在上述图像传感器的受光面成像,
存储器,其用于存储上述引导显示的图形图像。
10.如权利要求1至10中任一项所述的驾驶支援装置,其特征在于,
上述车辆具有用于检测该车辆的周围的物体的物体检测部;
上述存储部存储作为从上述车辆到上述物体的距离以及上述物体所存在的各方向的图形图像预先生成的多个周围信息,上述周围信息表示上述车辆的周围的状况;
上述引导图像提供部根据上述物体检测部的检测结果从上述存储部取得上述周围信息,来合成上述引导图像并提供给上述图像输出部。
11.如权利要求10所述的驾驶支援装置,其特征在于,在上述引导图像内的上侧部分合成上述周围信息。
12.如权利要求10所述的驾驶支援装置,其特征在于,在上述引导图像内的下侧部分合成上述周围状况信息。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010198789 | 2010-09-06 | ||
JP2010-198789 | 2010-09-06 | ||
PCT/JP2011/060597 WO2012032809A1 (ja) | 2010-09-06 | 2011-05-06 | 運転支援装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103079902A true CN103079902A (zh) | 2013-05-01 |
CN103079902B CN103079902B (zh) | 2016-02-24 |
Family
ID=45810416
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180041923.6A Active CN103079902B (zh) | 2010-09-06 | 2011-05-06 | 驾驶支援装置 |
Country Status (6)
Country | Link |
---|---|
US (1) | US9294733B2 (zh) |
EP (1) | EP2614997B1 (zh) |
JP (1) | JP5561566B2 (zh) |
CN (1) | CN103079902B (zh) |
RU (1) | RU2548649C2 (zh) |
WO (1) | WO2012032809A1 (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106660556A (zh) * | 2014-07-10 | 2017-05-10 | 株式会社电装 | 驾驶辅助装置 |
CN107179767A (zh) * | 2016-03-10 | 2017-09-19 | 松下电器(美国)知识产权公司 | 驾驶控制装置、驾驶控制方法以及非瞬时性记录介质 |
CN107851393A (zh) * | 2015-07-10 | 2018-03-27 | 田山修 | 车辆用图像显示系统及方法 |
CN111654689A (zh) * | 2019-03-04 | 2020-09-11 | 丰田自动车株式会社 | 信息处理器、检测方法和非暂时性计算机可读存储介质 |
CN112238811A (zh) * | 2019-07-16 | 2021-01-19 | 爱信精机株式会社 | 车辆周边显示装置 |
CN113246857A (zh) * | 2020-02-13 | 2021-08-13 | 丰田自动车株式会社 | 车辆周边监视装置 |
CN113348464A (zh) * | 2021-04-30 | 2021-09-03 | 华为技术有限公司 | 一种图像处理方法以及装置 |
Families Citing this family (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5888087B2 (ja) | 2012-04-25 | 2016-03-16 | ソニー株式会社 | 走行支援画像生成装置、走行支援画像生成方法、車載用カメラおよび機器操縦支援画像生成装置 |
US20140063246A1 (en) * | 2012-08-31 | 2014-03-06 | GM Global Technology Operations LLC | Vehicle back-up camera capability |
US9514650B2 (en) * | 2013-03-13 | 2016-12-06 | Honda Motor Co., Ltd. | System and method for warning a driver of pedestrians and other obstacles when turning |
US9758099B2 (en) | 2013-03-15 | 2017-09-12 | Gentex Corporation | Display system and method thereof |
JP6200689B2 (ja) * | 2013-05-17 | 2017-09-20 | 京セラ株式会社 | 較正処理装置、カメラ較正装置、およびカメラ較正方法 |
KR20140147205A (ko) * | 2013-06-18 | 2014-12-30 | 삼성전자주식회사 | 휴대 가능한 의료 진단 장치의 주행 경로 제공 방법 및 장치 |
EP2858035B1 (en) * | 2013-10-01 | 2020-04-22 | Application Solutions (Electronics and Vision) Limited | System, vehicle and method for online calibration of a camera on a vehicle |
DE102014200661A1 (de) * | 2014-01-16 | 2015-07-16 | Ford Global Technologies, Llc | Detektion eines Einparkvorgangs eines Kraftwagens |
JP5975051B2 (ja) * | 2014-02-26 | 2016-08-23 | トヨタ自動車株式会社 | 車両制御装置及び車両制御方法 |
US9981605B2 (en) * | 2014-05-16 | 2018-05-29 | GM Global Technology Operations LLC | Surround-view camera system (VPM) and vehicle dynamic |
JP6541318B2 (ja) * | 2014-09-10 | 2019-07-10 | アイテル株式会社 | 運転支援装置 |
EP3693203B1 (en) | 2014-12-10 | 2022-05-18 | Ricoh Company, Ltd. | Controller, display, method and carrier means for information provision |
JP6558735B2 (ja) | 2015-04-21 | 2019-08-14 | パナソニックIpマネジメント株式会社 | 運転支援方法およびそれを利用した運転支援装置、運転制御装置、車両、運転支援プログラム |
JP6523801B2 (ja) * | 2015-06-09 | 2019-06-05 | 株式会社デンソーテン | 画像処理装置および画像処理方法 |
KR101856064B1 (ko) * | 2016-08-25 | 2018-05-09 | 현대오트론 주식회사 | 주차 지원 장치 및 방법 |
US10614721B2 (en) | 2017-06-08 | 2020-04-07 | International Business Machines Corporation | Providing parking assistance based on multiple external parking data sources |
JP6620175B2 (ja) * | 2018-01-19 | 2019-12-11 | 本田技研工業株式会社 | 距離算出装置及び車両制御装置 |
CN110399622A (zh) * | 2018-04-24 | 2019-11-01 | 上海欧菲智能车联科技有限公司 | 车载摄像头的布置方法及车载摄像头的布置系统 |
TWI812680B (zh) | 2018-05-15 | 2023-08-21 | 日商索尼半導體解決方案公司 | 攝像裝置及攝像系統 |
DE102018217127A1 (de) * | 2018-10-08 | 2020-04-09 | Audi Ag | Verfahren und Anzeigesystem zur Anzeige von Sensordaten einer Sensoreinrichtung auf einer Anzeigeeinrichtung sowie Kraftfahrzeug mit einem Anzeigesystem |
JPWO2022029953A1 (zh) * | 2020-08-06 | 2022-02-10 | ||
JP7325389B2 (ja) | 2020-08-28 | 2023-08-14 | 株式会社デンソーテン | 車載装置、及び、舵角調整方法 |
RU2766546C1 (ru) * | 2021-05-14 | 2022-03-15 | Осаюхинг Омникомм | Способ генерирования графического интерфейса пользователя и машиночитаемый носитель данных |
US20220363285A1 (en) * | 2021-05-14 | 2022-11-17 | Boris Valerevich PANKOV | Device for generating a graphical user interface and a system for generating a graphical user interface |
RU2771591C1 (ru) * | 2021-05-14 | 2022-05-06 | Общество С Ограниченной Ответственностью "Омникомм Онлайн" | Пользовательское устройство генерирования графического интерфейса пользователя |
WO2023033672A1 (en) * | 2022-01-28 | 2023-03-09 | "Omnicomm Online" Limited Liability Company | Generating a resource-efficient track for a motor vehicle |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004203365A (ja) * | 2002-11-01 | 2004-07-22 | Yazaki Corp | 駐車支援装置 |
JP2006216066A (ja) * | 2006-02-13 | 2006-08-17 | Matsushita Electric Works Ltd | 車両用障害物検知装置 |
JP2008131250A (ja) * | 2006-11-20 | 2008-06-05 | Aisin Seiki Co Ltd | 車載カメラの校正装置及び当該装置を用いた車両の生産方法 |
WO2009144893A1 (ja) * | 2008-05-30 | 2009-12-03 | 三洋電機株式会社 | 運転支援装置 |
CN101816175A (zh) * | 2007-10-01 | 2010-08-25 | 日产自动车株式会社 | 停车辅助装置以及停车辅助方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3575279B2 (ja) | 1998-05-22 | 2004-10-13 | アイシン精機株式会社 | 駐車補助装置 |
JP3551920B2 (ja) | 1999-12-24 | 2004-08-11 | アイシン精機株式会社 | 車載カメラの校正装置および校正方法 |
JP3916240B2 (ja) | 2003-08-07 | 2007-05-16 | 松下電器産業株式会社 | 運転支援装置及び運転支援方法 |
JP4238663B2 (ja) * | 2003-08-29 | 2009-03-18 | トヨタ自動車株式会社 | 車載カメラのキャリブレーション方法及びキャリブレーション装置 |
JP2009038309A (ja) * | 2007-08-03 | 2009-02-19 | Sharp Corp | 固体撮像素子およびその製造方法、電子情報機器 |
JP5240517B2 (ja) | 2008-09-30 | 2013-07-17 | アイシン精機株式会社 | 車載カメラの校正装置 |
-
2011
- 2011-05-06 US US13/817,670 patent/US9294733B2/en not_active Expired - Fee Related
- 2011-05-06 CN CN201180041923.6A patent/CN103079902B/zh active Active
- 2011-05-06 JP JP2012532879A patent/JP5561566B2/ja not_active Expired - Fee Related
- 2011-05-06 WO PCT/JP2011/060597 patent/WO2012032809A1/ja active Application Filing
- 2011-05-06 EP EP11823288.3A patent/EP2614997B1/en active Active
- 2011-05-06 RU RU2013108264/11A patent/RU2548649C2/ru active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004203365A (ja) * | 2002-11-01 | 2004-07-22 | Yazaki Corp | 駐車支援装置 |
JP2006216066A (ja) * | 2006-02-13 | 2006-08-17 | Matsushita Electric Works Ltd | 車両用障害物検知装置 |
JP2008131250A (ja) * | 2006-11-20 | 2008-06-05 | Aisin Seiki Co Ltd | 車載カメラの校正装置及び当該装置を用いた車両の生産方法 |
CN101816175A (zh) * | 2007-10-01 | 2010-08-25 | 日产自动车株式会社 | 停车辅助装置以及停车辅助方法 |
WO2009144893A1 (ja) * | 2008-05-30 | 2009-12-03 | 三洋電機株式会社 | 運転支援装置 |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106660556A (zh) * | 2014-07-10 | 2017-05-10 | 株式会社电装 | 驾驶辅助装置 |
CN106660556B (zh) * | 2014-07-10 | 2018-10-02 | 株式会社电装 | 驾驶辅助装置 |
CN107851393A (zh) * | 2015-07-10 | 2018-03-27 | 田山修 | 车辆用图像显示系统及方法 |
CN107179767A (zh) * | 2016-03-10 | 2017-09-19 | 松下电器(美国)知识产权公司 | 驾驶控制装置、驾驶控制方法以及非瞬时性记录介质 |
CN111654689A (zh) * | 2019-03-04 | 2020-09-11 | 丰田自动车株式会社 | 信息处理器、检测方法和非暂时性计算机可读存储介质 |
US11461918B2 (en) | 2019-03-04 | 2022-10-04 | Toyota Jidosha Kabushiki Kaisha | Information processor and detection method for detecting misalignment of a vehicle-mounted imaging device |
CN112238811A (zh) * | 2019-07-16 | 2021-01-19 | 爱信精机株式会社 | 车辆周边显示装置 |
CN113246857A (zh) * | 2020-02-13 | 2021-08-13 | 丰田自动车株式会社 | 车辆周边监视装置 |
CN113246857B (zh) * | 2020-02-13 | 2023-12-15 | 丰田自动车株式会社 | 车辆周边监视装置 |
CN113348464A (zh) * | 2021-04-30 | 2021-09-03 | 华为技术有限公司 | 一种图像处理方法以及装置 |
WO2022227020A1 (zh) * | 2021-04-30 | 2022-11-03 | 华为技术有限公司 | 一种图像处理方法以及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN103079902B (zh) | 2016-02-24 |
EP2614997A1 (en) | 2013-07-17 |
JPWO2012032809A1 (ja) | 2014-01-20 |
RU2013108264A (ru) | 2014-10-20 |
WO2012032809A1 (ja) | 2012-03-15 |
US9294733B2 (en) | 2016-03-22 |
US20130147945A1 (en) | 2013-06-13 |
EP2614997A4 (en) | 2016-11-23 |
EP2614997B1 (en) | 2018-02-28 |
JP5561566B2 (ja) | 2014-07-30 |
RU2548649C2 (ru) | 2015-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103079902B (zh) | 驾驶支援装置 | |
US10676027B2 (en) | Vehicle control apparatus and program | |
EP2990265B1 (en) | Vehicle control apparatus | |
US9973734B2 (en) | Vehicle circumference monitoring apparatus | |
US20080143835A1 (en) | Image Display Apparatus | |
US9994157B2 (en) | Periphery monitoring apparatus and periphery monitoring system | |
CN107791951B (zh) | 显示控制装置 | |
CN105644438A (zh) | 车辆周边监视装置 | |
WO2015029443A1 (ja) | 舵角補正方法、舵角補正装置、撮像装置、および舵角補正システム | |
CN104321224A (zh) | 具有摄像机监控系统的机动车 | |
EP3687165B1 (en) | Display control device | |
WO2018150642A1 (ja) | 周辺監視装置 | |
WO2020116352A1 (ja) | 路面検出装置および路面検出プログラム | |
JP2004147083A (ja) | 運転支援装置 | |
JP6768554B2 (ja) | キャリブレーション装置 | |
JP2012158225A (ja) | 画像表示システム、画像表示装置、及び、画像表示方法 | |
JP6432033B2 (ja) | 車載装置 | |
WO2022202780A1 (ja) | 表示制御装置 | |
JP2019135620A (ja) | 走行支援装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |