CN101795901A - 驾驶辅助系统及汽车列车 - Google Patents

驾驶辅助系统及汽车列车 Download PDF

Info

Publication number
CN101795901A
CN101795901A CN200880105392A CN200880105392A CN101795901A CN 101795901 A CN101795901 A CN 101795901A CN 200880105392 A CN200880105392 A CN 200880105392A CN 200880105392 A CN200880105392 A CN 200880105392A CN 101795901 A CN101795901 A CN 101795901A
Authority
CN
China
Prior art keywords
vehicle
image
eye view
birds
photographic images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN200880105392A
Other languages
English (en)
Inventor
石井洋平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Publication of CN101795901A publication Critical patent/CN101795901A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D13/00Steering specially adapted for trailers
    • B62D13/06Steering specially adapted for trailers for backing a normally drawn trailer
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • B62D15/0275Parking aids, e.g. instruction means by overlaying a vehicle path based on present steering angle over an image without processing that image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8086Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for vehicle path indication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30264Parking

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Chemical & Material Sciences (AREA)
  • Transportation (AREA)
  • Combustion & Propulsion (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明提供一种驾驶辅助系统及汽车列车,在由牵引车和挂车构成的汽车列车的挂车侧设置有探头。探头拍摄挂车的后方。驾驶辅助系统通过将各拍摄图像投影到与路面平行的俯视图坐标上而将各拍摄图像变换为俯视图图像,并在俯视图坐标上导出由多个拍摄图像构成的动态图像的光流。根据该光流和牵引车的移动信息推定牵引车和挂车的连接角,进而根据连接角和牵引车的移动信息导出挂车的移动预计轨迹。然后,对显示装置输出将该移动预计轨迹叠加在俯视图图像上而形成的图像。

Description

驾驶辅助系统及汽车列车
技术领域
本发明涉及一种用于辅助汽车列车的驾驶的驾驶辅助系统。并且,本发明涉及利用该驾驶辅助系统的汽车列车。
背景技术
随着近年来安全意识的提高,多在车辆上搭载探头。该趋势不仅适于普通轿车,而且适于产业用车辆。特别是由牵引车及被该牵引车牵引的挂车构成的汽车列车的驾驶比较困难,利用探头的驾驶辅助是有益的。在这种汽车列车中,挂车以连接部作为支点弯折,但驾驶者很难认识到在牵引车运动时挂车的后端部如何运动的。
考虑到这种情况,提案有多种利用探头来辅助汽车列车的驾驶的技术。例如,在下述专利文献1中揭示有以下技术:在牵引车的后方和被牵引车的后方各设置1台探头,求出被牵引车的预计移动轨迹,并将其与被牵引车的后方的图像叠加显示。但是,在该技术中,由于必须有2台探头,因此系统整体的成本增加。
专利文献1:日本特开2006-256544号公报
发明内容
本发明的目的在于,提供一种低成本且能够良好地辅助车辆驾驶的驾驶辅助系统。并且,本发明的另一目的在于提供一种利用该驾驶辅助系统的汽车列车。
为达到上述目的,本发明所涉及的第一驾驶辅助系统具有探头,该探头设置在由第一车辆和连接于该第一车辆的第二车辆构成的汽车列车中的所述第二车辆上,且拍摄所述第二车辆的后方,从所述探头获得按时间序列排列的多个拍摄图像,并对显示装置输出由各拍摄图像生成的显示用图像,所述驾驶辅助系统的特征在于,具有:运动检测机构,其导出由所述多个拍摄图像形成的动态图像的光流;连接角推定机构,其根据所述光流及所输入的所述第一车辆的移动信息,推定所述第一车辆和所述第二车辆的连接角;移动轨迹推定机构,其根据所述连接角及所述第一车辆的移动信息,导出所述第二车辆的预计移动轨迹,通过将与所述预计移动轨迹对应的指示标识叠加在基于所述拍摄图像得到的图像上而生成所述显示用图像。
由此,能够通过影像确认第二车辆的预计移动轨迹,辅助驾驶者的驾驶操作。并且,因为只要在第二车辆侧设置探头就足够,所以成本低。
具体地说,例如,第一驾驶辅助系统还具有坐标变换机构,其通过将各拍摄图像投影到规定的俯视图坐标上而将所述多个拍摄图像变换为多个俯视图图像,由所述运动检测机构导出的所述光流为所述俯视图坐标上的光流。
另外,具体地说,例如在第一驾驶辅助系统中,所述第一车辆的移动信息包括表示所述第一车辆的移动方向及移动速度的信息,所述连接角推定机构基于所述第一车辆的移动信息导出所述俯视图坐标上的表示所述第一车辆的移动方向及移动量的向量,并基于所述向量和所述光流推定所述连接角。
并且,例如第一驾驶辅助系统还具有报告机构,其基于所推定的所述连接角与规定的阈值角度的比较结果对外部进行报告。
为达到上述目的,本发明所涉及的第二驾驶辅助系统具有探头,该探头设置在由第一车辆和连接于该第一车辆的第二车辆构成的汽车列车中的所述第二车辆侧,且拍摄所述第二车辆的后方,从所述探头获得按时间序列排列的多个拍摄图像,并对显示装置输出由各拍摄图像生成的显示用图像,所述驾驶辅助系统的特征在于,具有:运动检测机构,其导出由所述多个拍摄图像形成的动态图像的光流;移动方向推定机构,其根据所述光流推定所述第二车辆的移动方向,该驾驶辅助系统使该推定结果反映到所述显示用图像上。
由此,能够通过影像确认第二车辆的移动方向,辅助驾驶者的驾驶操作。并且,因为只要在第二车辆侧设置探头就足够,所以成本低。
具体地说,例如第二驾驶辅助系统还具有坐标变换机构,其通过将各拍摄图像投影到规定的俯视图坐标上而将所述多个拍摄图像变换为多个俯视图图像,由所述运动检测机构导出的所述光流为所述俯视图坐标上的光流。
并且,例如第二驾驶辅助系统还具有连接角推定机构,其根据所述光流及所输入的所述第一车辆的移动信息,推定所述第一车辆和所述第二车辆的连接角,使所述连接角的推定结果反映到所述显示用图像上。
另外,例如在第二驾驶辅助系统中,所述第一车辆的移动信息包括表示所述第一车辆的移动方向及移动速度的信息,所述连接角推定机构基于所述第一车辆的移动信息导出所述俯视图坐标上的表示所述第一车辆的移动方向及移动量的向量,并基于所述向量和所述光流推定所述连接角。
并且,例如第二驾驶辅助系统还具有报告机构,其基于所推定的所述连接角与规定的阈值角度的比较结果对外部进行报告。
为达到上述目的,本发明所涉及的汽车列车的特征在于,由第一车辆和连接于该第一车辆的第二车辆构成,所述汽车列车设置有上述的任一项所述的驾驶辅助系统。
发明效果
根据本发明,能够以低成本良好地辅助车辆驾驶。
本发明的意义或效果通过以下所示的实施方式的说明能够进一步明确。但是,以下的实施方式仅为本发明的一个实施方式,本发明乃至各结构要件的用语的意义并不限制于以下实施方式中的记载。
附图说明
图1为本发明的实施方式所涉及的驾驶辅助系统的结构模块图。
图2为设置有图1的驾驶辅助系统的汽车列车的外观侧视图。
图3为设置有图1的驾驶辅助系统的汽车列车的外观侧视图。
图4为从上方观察图2的汽车列车的俯视图(连接角为0°的情况)。
图5为从上方观察图2的汽车列车的俯视图(连接角不为0°的情况)。
图6为示出本发明实施方式中的探头坐标系XYZ、探头的拍摄面S的坐标系XbuYbu和世界坐标系XwYwZw的关系的图。
图7为涉及本发明第一实施例且表示用于生成显示用图像的动作流程的流程图。
图8为涉及本发明第一实施例且从上方观察汽车列车及其周边路面的俯视图。
图9(a)及(b)为涉及本发明第一实施例且示出时刻t1及t2的拍摄图像的图。
图10(a)及(b)为涉及本发明第一实施例且示出时刻t1及t2的俯视图图像的图。
图11为涉及本发明的第一实施例且示出将图10(a)及(b)的2个俯视图图像重合的图像的图。
图12为涉及本发明的第一实施例且示出与牵引车的移动信息对应的向量(VA)和与挂车的移动信息对应的向量(VB)的关系的图。
图13为涉及本发明的第一实施例且示出显示用图像的示例的图。
图14为涉及本发明的第三实施例且示出显示用图像的示例的图。
图15为涉及本发明的第四实施例且示出显示用图像的示例的图。
图16为涉及本发明的第四实施例且示出显示用图像的另一示例的图。
图17为涉及本发明的第五实施例且用于说明挂车的预计移动轨迹的导出手法的图。
图18为涉及本发明的第五实施例且用于说明挂车的预计移动轨迹的导出手法的图。
图19为涉及本发明的第六实施例的图1的图像处理装置的功能模块图。
图20为涉及本发明的第六实施例且示出图19的功能模块图的变形例的图。
图中:1-探头;2-图像处理装置;3-显示装置;10-汽车列车;11-牵引车;12-挂车;14-连接部;121、122、131、132-车辆引导线。
具体实施方式
以下,参照附图详细说明本发明的实施方式。在参照的各图中,对同一部分标注同一符号,原则上省略关于同一部分的重复说明。在后面会说明第一~第六实施例,但首先对于在各实施例中通用的事项和在各实施例中被参照的事项进行说明。
在图1中示出本发明的实施方式所涉及的驾驶辅助系统的结构模块图。图1的驾驶辅助系统包括:探头1、图像处理装置2和显示装置3。探头1进行拍摄,并将表示由拍摄所得的图像的信号输出到图像处理装置2。图像处理装置2根据从探头1得到的图像生成显示用图像。图像处理装置2将表示生成后的显示用图像的影像信号输出到显示装置3,显示装置3根据被施与的影像信号将显示用图像作为影像显示。
由探头1的拍摄所得的图像本身多受镜头变形的影响。因此,图像处理装置2对通过探头1的拍摄所得的图像本身进行镜头变形补正,根据镜头变形补正后的图像进行显示用图像的生成。以下将该镜头变形补正后的图像称为拍摄图像。在不需要进行镜头变形处理时,通过探头1的拍摄所得的图像本身为拍摄图像。并且,拍摄图像也可以另称为探头图像。
图2为设置有图1的驾驶辅助系统的汽车列车10的外观侧视图。汽车列车10由牵引车11及连接于牵引车11且由牵引车11牵引的挂车12构成。符号13表示设置于挂车12上的车轮。一般将车轮13称为挂车12的后轮。车轮13设置有2个,一个车轮13设置在挂车12的左侧,另一个车轮13设置在挂车12的右侧。并且,在挂车12的后方上端部设置有探头1,探头1对挂车12的周边进行拍摄。
汽车列车10配置在路面上,在路面上行驶。以下,将路面假定为与水平面平行。并且,仅说“高度”时,其表示以路面为基准的高度。在本实施方式中,地面和路面为同义。另外,与对车辆的一般解释同样,将从挂车12观察牵引车11的方向设定为前方向,将从牵引车11观察挂车12的方向设定为后方向。
作为探头1可以使用例如使用CCD(Charge Coupled Devices)的探头或使用CMOS(Complementary Metal Oxide Semiconductor)图像传感器的探头。图像处理装置2由例如集成电路形成。显示装置3由液晶显示板等形成。也可以将包含于汽车导航系统等中的显示装置移用来作为驾驶辅助系统中的显示装置3。并且,图像处理装置2可以作为汽车导航系统的一部分进行组装。图像处理装置2及显示装置3设置在例如牵引车11内部的驾驶位附近。
图3与图2同样,为汽车列车10的外观侧视图。但是,为明示探头1的倾斜角度,在图3中,将探头1放大图示且使挂车12的形态与图2的形态有所变化。探头1朝挂车12的斜后方设置,位于挂车12后方的路面和立体物被收在探头1的视野内。水平面与探头1的光轴所成的角度有图3中θ所表示的角度和θ2所表示的角度2种。角度θ2一般被称为下视角或俯角。现在,捕捉角度θ作为探头1相对于水平面的倾斜角度。90°<θ<180°且θ+θ2=180°成立。
图4及图5分别为从上方观察汽车列车10的俯视图。在图4及图5中,为使图示简略化,仅用四边形表示牵引车11及挂车12。图4为牵引车11和挂车12所成的角度(以下称“连接角”)为0°时的俯视图,图5为连接角不为0°时的俯视图。连接角为0°时,牵引车11和挂车12在同一直线上排列(牵引车11和挂车12各车体在同一直线上排列)。
符号14为牵引车11和挂车12的连接部。挂车12通过连接部14与牵引车11连接。挂车12以连接部14为支点相对于牵引车11弯折。在将牵引车11及挂车12投影到水平面上而形成的二维平面中,牵引车11的车体的中心线21和挂车12的车体的中心线22所成的角度相当于上述的连接角,该连接角用θCN表示。并且,中心线21及中心线22为与汽车列车10笔直前进时的汽车列车10的行进方向平行的中心线。
在从上方观察牵引车11及挂车12时,将挂车12以连接部14为支点逆时针方向弯折时所呈现的连接角θCN设为正。从而,将汽车列车10从直行状态右转时所呈现的连接角θCN设为正。
[俯视图图像的生成方法]
图1的图像处理装置2具有利用坐标变换而将拍摄图像变换为俯视图图像的功能。用于从拍摄图像生成俯视图图像的坐标变换称为“俯视变换”。对于该俯视变换的手法进行说明。
图6表示探头坐标系XYZ、探头1的拍摄面S的坐标系XbuYbu和包含二维地面坐标系XwZw的世界坐标系XwYwZw的关系。坐标系XbuYbu为定义拍摄图像的坐标系。
探头坐标系XYZ为将X轴、Y轴及Z轴设为坐标轴的三维坐标系。拍摄面S的坐标系XbuYbu为将Xbu轴及Ybu轴设为坐标轴的二维坐标系。二维地面坐标系XwZw为将Xw轴及Zw轴设为坐标轴的二维坐标系。世界坐标系XwYwZw为将Xw轴、Yw轴及Zw轴设为坐标轴的三维坐标系。
以下,将探头坐标系XYZ、拍摄面S的坐标系XbuYbu、二维地面坐标系XwZw及世界坐标系XwYwZw分别简单记为探头坐标系、拍摄面S的坐标系、二维地面坐标系及世界坐标系。
在探头坐标系XYZ中,将探头1的光学中心取为原点O,将光轴方向取为Z轴,将与Z轴正交且与地面平行的方向取为X轴,将与Z轴及X轴正交的方向取为Y轴。在拍摄面S的坐标系XbuYbu中,将拍摄面S的中心取为原点,将拍摄面S的横向取为Xbu轴,将拍摄面S的纵向取为Ybu轴。
在世界坐标系XwYwZw中,将通过探头坐标系XYZ的原点O的铅直线与地面的交点取为原点Ow,将与地面垂直的方向取为Yw轴,将与探头坐标系XYZ的X轴平行的方向取为Xw轴,将与Xw轴及Yw轴正交的方向取为Zw轴。
Xw轴与X轴之间的平行移动量为h,该平行移动的方向为铅直线方向。Zw轴与Z轴所成的钝角的角度与倾斜角度θ一致,预先设定h及θ的值,并将其提供给图像处理装置2。
将在探头坐标系XYZ中的像素的坐标值记为(x,y,z)。x、y及z分别为在探头坐标系XYZ中的X轴成分、Y轴成分及Z轴成分。
将在世界坐标系XwYwZw中的像素的坐标值记为(xw,yw,zw)。xw、yw及zw分别为在世界坐标系XwYwZw中的Xw轴成分、Yw轴成分及Zw轴成分。
将在二维地面坐标系XwZw中的像素的坐标值记为(xw,zw)。xw及zw分别为在二维地面坐标系XwZw中的Xw轴成分及Zw轴成分,它们与在世界坐标系XwYwZw中的Xw轴成分及Zw轴成分一致。
将在拍摄面S的坐标系XbuYbu中的像素的坐标值记为(xbu,ybu)。xbu及ybu分别为在拍摄面S的坐标系XbuYbu中的Xbu轴成分及Ybu轴成分。
探头坐标系XYZ的坐标值(x,y,z)和世界坐标系XwYwZw的坐标值(xw,yw,zw)之间的变换式由下式(1)表示。
[数1]
x y z = 1 0 0 0 cos θ - sin θ 0 sin θ cos θ x w y w z w + 0 h 0 . . . ( 1 )
在此,将探头1的焦点距离设为f。这样,拍摄面S的坐标系XbuYbu的坐标值(xbu,ybu)和探头坐标系XYZ的坐标值(x,y,z)之间的变换式由下式(2)表示。
[数2]
x bu y bu = f x z f y z . . . ( 2 )
由上述式(1)及(2)能够得到拍摄面S的坐标系XbuYbu的坐标值(xbu,ybu)和二维地面坐标系XwZw的坐标值(xw,zw)之间的变换式(3)。
[数3]
x bu y bu = fx w h sin θ + z w cos θ ( h cos θ - z w sin θ ) f h sin θ + z w cos θ . . . ( 3 )
并且,虽在图6中未示出,但定义关于俯视图图像的坐标系即俯视图坐标系XauYau。俯视图坐标系XauYau为将Xau轴及Yau轴设为坐标轴的二维坐标系。将俯视图坐标系XauYau中的像素的坐标值记为(xau,yau)。俯视图图像由二维排列的多个像素的像素信号来表示,俯视图图像上的各像素的位置由坐标值(xau,yau)表示。xau及yau分别为俯视图坐标系XauYau中的Xau轴成分及Yau轴成分。
俯视图图像是将通过实际的探头1的拍摄得到的拍摄图像变换为从假想探头的视点(以下称假想视点)观察到的图像而形成的图像。更具体地说,俯视图图像为将拍摄图像变换为沿铅直方向俯视地面看到的图像所形成的。这种图像变换一般称为视点变换。
与地面一致的被定义了二维地面坐标系XwZw的平面与被定义了俯视图坐标系XauYau的平面平行。由此,通过平面投影进行从二维地面坐标系XwZw向假想探头的俯视图坐标系XauYau的投影。若将假想探头的高度(即假想视点的高度)设为H,则二维地面坐标系XwZw的坐标值(xw,zw)和俯视图坐标系XauYau的坐标值(xau,yau)之间的变换式由下式(4)表示。假想探头的高度H被预先设定。进而,通过式(4)的变形能够得到下式(5)。
[数4]
x au y au = f H x w z w . . . ( 4 )
[数5]
x w z w = H f x au y au . . . ( 5 )
若将所得的式(5)代入上式(3)则得到下式(6)。
[数6]
x bu y bu = fHx au fh sin θ + H y au cos θ f ( fh cos θ - Hy au sin θ ) fh sin θ + Hy au cos θ . . . ( 6 )
由上式(6)能够得到用于将拍摄面S的坐标系XbuYbu的坐标值(xbu,ybu)变换为俯视图坐标系XauYau的坐标值(xau,yau)的下式(7)。
[数7]
x au y au = x bu ( fh sin θ + Hy au cos θ ) fH fh ( f cos θ - y bu sin θ ) H ( f sin θ + y bu cos θ ) . . . ( 7 )
由于拍摄面S的坐标系XbuYbu的坐标值(xbu,ybu)表示拍摄图像的坐标值,因此可以利用上式(7)将拍摄图像变换为俯视图图像。
即,根据式(7),通过将拍摄图像的各像素的坐标值(xbu,ybu)变换为俯视图坐标系的坐标值(xau,yau),能够生成俯视图图像。俯视图图像由在俯视图坐标系中排列的各像素形成。
实际上,根据式(7),预先制成表示拍摄图像上的各像素的坐标值(xbu,ybu)和俯视图图像上的各像素的坐标值(xau,yau)的对应关系的列表数据,并将该列表数据预先存储在未图示的存储器(查找表)中。然后,利用该列表数据将拍摄图像变换为俯视图图像。当然,也可以在每次得到拍摄图像时根据式(7)进行坐标变换运算来生成俯视图图像。
以下,将第一~第六实施例作为详细说明图1的驾驶辅助系统的动作内容的实施例进行说明。只要没有矛盾,则某实施例所记述的事项也可以适用于其他实施例。并且,在以下说明中,有时将俯视图坐标系简称为俯视图坐标,两者同义。
<第一实施例>
首先说明第一实施例。图1的图像处理装置2由探头1以规定的周期获得拍摄图像,由依次获得的拍摄图像依次生成显示用图像,将最新的显示用图像输出到显示装置3。由此,在显示装置3中更新显示最新的显示用图像。
参照图7说明用于生成1个显示用图像的动作流程。图7为表示该动作流程的流程图。图7中所示的步骤S11~S17的各处理由图1的图像处理装置2执行。
为了生成本发明所涉及的特征性的显示用图像,需要在不同的时刻拍摄的多个拍摄图像。因此,图像处理装置2读取不同时刻拍摄的多个拍摄图像,在后级的处理中参照所述多个拍摄图像(步骤S11)。这时,读取的多个拍摄图像设定为包含通过时刻t1的拍摄所得的拍摄图像(以下简称为时刻t1的拍摄图像)和通过时刻t2的拍摄所得的拍摄图像(以下简称为时刻t2的拍摄图像)。时刻t2在时刻t1之后。并且,在时刻t1-t2之间,汽车列车10移动。由此,时刻t1时的探头1的视点和时刻t2时的探头1的视点不同。
在获得时刻t1及t2的拍摄图像后,在步骤S12中,求取时刻t1-t2间的光流。其中,在步骤S12中求得的光流为俯视图坐标上的光流。
具体来说,在步骤S12中进行以下处理。将时刻t1及t2的各拍摄图像通过上述的俯视变换而变换为俯视图图像。基于时刻t1及t2的拍摄图像而得到的俯视图图像分别称为时刻t1及t2的俯视图图像。然后,对比时刻t1的俯视图图像和时刻t2的俯视图图像,并用公知的块匹配法或梯度法求出时刻t1-t2间的俯视图坐标上的光流(换言之,为由时刻t1及t2的俯视图图像构成的动态图像的光流)。
也可以进行以下处理来取代上述方法。即,对比时刻t1的拍摄图像和时刻t2的拍摄图像,并用公知的块匹配法或梯度法首先求出拍摄图像的坐标上的光流。然后,将该拍摄图像的坐标上的光流根据上式(7)匹配到俯视图坐标上,由此最终求出俯视图坐标上的光流。
以下在单称光流时表示的是俯视图坐标上的光流。
为使说明具体化,假想如图8所示的情况。图8表示从上方观察到的汽车列车10及汽车列车10的周边路面。在汽车列车10后方的路面上绘有停车场的长方形形状的停车框30。将形成该长方形的4个顶点中的位于比较接近汽车列车10的路面上的2个顶点设为顶点31及32。在图8中,标注了符号33的虚线三角形表示探头1的视野。假定在时刻t1及t2时,顶点31及32分别包含在视野33内。
在汽车列车10中,根据牵引车11的移动方向和连接角θCN确定挂车12的移动方向。设定如下情况进行示例:在时刻t1时,连接角θCN为正角,在时刻t1-t2间,牵引车11笔直地向后方行进。这时,在时刻t1-t2间,挂车12向右斜后方移动。在图8中,箭头41及42分别表示时刻t1-t2间的牵引车11及挂车12的行进方向。
图9(a)表示时刻t1的拍摄图像,图9(b)表示时刻t2的拍摄图像,在图9(a)中,符号31a及32a分别表示时刻t1的拍摄图像上的顶点31及32,在图9(b)中,符号31b及32b分别表示时刻t2的拍摄图像上的顶点31及32。
图10(a)表示时刻t1的俯视图图像,图10(b)表示时刻t2的俯视图图像。在图10(a)中,符号31c及32c分别表示时刻t1的俯视图图像上的顶点31及32,在图10(b)中,符号31d及32d分别表示时刻t2的俯视图图像上的顶点31及32。
在图11中表示使图10(a)及(b)所示的2个俯视图图像重合后的图像101。这时,分别捕捉图8的顶点31及32作为第一及第二特征点。图11中的箭头V31表示在时刻t1-t2间的、俯视图坐标上的第一特征点的移动向量,图11中的箭头V32表示在时刻t1-t2间的、俯视图坐标上的第二特征点的移动向量。移动向量与运动向量同义。
移动向量V31用向量表示了从特征点31c向特征点31d的偏移,表示俯视图坐标上的第一特征点在时刻t1-t2间的移动的方向及大小。移动向量V32用向量表示了从特征点32c向特征点32d的偏移,表示俯视图坐标上的第二特征点在时刻t1-t2间的移动的方向及大小。
光流为多个移动向量的集合,在步骤S12中求出的光流中包含移动向量V31及V32。俯视图坐标上的特征点的移动通过实际空间中的挂车12的移动产生,并且,因为被定义了俯视图坐标的平面与路面平行,因此与移动向量V31及V32方向相反的向量表示在时刻t1-t2间的挂车12的移动信息。
在接着步骤S12的步骤S13中,基于光流求出该挂车12的移动信息。该移动信息具体由图11的向量VB表示。向量VB由在步骤S12中求得的光流导出。向量VB的方向及大小表示在时刻t1-t2间的、俯视图坐标上的挂车12的移动方向及移动量。
向量VB例如基于包含在由步骤S12求出的光流中的、所关注的1个移动向量(例如V31或V32)导出。这时,向量VB的大小与所关注的1个移动向量的大小相同,且向量VB的方向与着眼的1个移动向量的方向相反。
或者,例如向量VB基于包含在由步骤S12求出的光流中的多个移动向量(例如V31及V32)导出。这时,向量VB的大小与所述多个移动向量的均值向量的大小相同,且向量VB的方向与所述多个移动向量的均值向量的方向相反。
在接着步骤S13的步骤S14中,图像处理装置2检测在时刻t1-t2间的牵引车11的移动信息。该牵引车11的移动信息由汽车列车10所具有的舵角传感器及速度传感器(未图示)而得。舵角传感器为检测牵引车11的操舵角的传感器。速度传感器为检测牵引车11的移动速度的传感器。
牵引车11的移动信息中包含:通过舵角传感器测出的时刻t1-t2间的牵引车11的操舵角;通过速度传感器测出的时刻t1-t2间的牵引车11的移动速度。基于该牵引车11的移动信息和时刻t1-t2间的时间差Δt,求出时刻t1-t2间的牵引车11在实际空间的移动方向及移动量。牵引车11在实际空间的移动方向是指牵引车11相对于图5的中心线21在实际空间的移动方向。
图像处理装置2将表示该牵引车11在实际空间的移动方向及移动量的向量变换为俯视图坐标上的向量VA。因为被定义了俯视图坐标的平面与路面平行,且牵引车11在实际空间的移动为路面上的移动,因此,能够根据假想探头的高度H等在几何学上将表示牵引车11在实际空间的移动方向及移动量的向量变换为向量VA。向量VA表示在时刻t1-t2间的、牵引车11的俯视图坐标上的移动方向及移动量。
在所关注的任意区间中,若使连接部14的移动方向及移动量与牵引车11的移动方向及移动量一致,且牵引车11的移动方向和移动量以及连接角θCN确定,则能够确定在关注区间的挂车12的移动方向及移动量。也就是说,在将牵引车11的移动方向及移动量设为第一变量,将挂车12的移动方向及移动量设为第二变量,将连接角θCN设为第三变量时,若第一~第三变量中的2个变量确定,则剩下的1个变量也能够确定。
利用这样的特性,图像处理装置2在接着步骤S14的步骤S15中,基于在步骤S14及S13中所得的牵引车11及挂车12的移动信息而推定此时的连接角θCN。此时的连接角θCN是指时刻t2的连接角或时刻t1-t2间的连接角。在图12中表示与牵引车11的移动信息对应的向量VA和与挂车12的移动信息对应的向量VB(参照图11)的关系。在时刻t1-t2间,当牵引车11笔直地向后方行进时,通过将向量VA及VB代入下式(8)来求出连接角θCN
[数8]
|VB|cosθCN=|VA|…(8)
详细地说,挂车12的移动方向及移动量不仅依存于牵引车11的移动方向及移动量和连接角θCN,而且依存于连接部14与挂车12的车轮13(参照图2)的位置关系以及挂车12的形状。从而,通过考虑上述关系而在几何学上求出连接角θCN即可。由于连接部14与车轮13的位置关系以及挂车12的形状为预先确定的,因此,若牵引车11及挂车12的移动信息确定,则能够唯一确定连接角θCN。也就是说,连接角θCN能够作为牵引车11和挂车12的移动信息(即,向量VA及VB)的函数进行表示。因此,例如根据连接部14和车轮13的位置关系以及挂车12的形状等预先制成输入牵引车11及挂车12的移动信息则输出连接角θCN的查找表,并将该查找表存储到图像处理装置2中,在步骤S15中利用该查找表推定连接角θCN即可。
若确定了某时刻的牵引车11的操舵角和连接角θCN,则能够预计其后的挂车12的行进线路。在此,在接着步骤S15的步骤S16中,根据在步骤S14中测出的牵引车11的移动信息和在步骤S15中推定的连接角θCN,导出挂车12的预计移动轨迹。在此导出的预计移动轨迹为预计的在俯视图坐标上的、时刻t2以后的挂车12的车体的移动轨迹。
详细地说,挂车12的预计移动轨迹不仅依存于牵引车11的操舵角和连接角θCN,而且依存于连接部14与挂车12的车轮13(参照图2)的位置关系以及挂车12的形状。从而,考虑上述关系而在几何学上求出预计移动轨迹即可。由于连接部14与车轮13的位置关系以及挂车12的形状为预先确定的,因此,若各时刻的牵引车11的操舵角和连接角θCN确定,则能够唯一确定各时刻的挂车12的车体的位置。其中,需要考虑到即使操舵角保持为固定角度,连接角也是逐渐变化的情况。
具体来说,例如通过以下的处理1~3来导出预计移动轨迹。
处理1:在导出预计移动轨迹时,假定牵引车11保持当前的操舵角及移动速度,在时刻t2以后仍移动。在此基础上,根据当前的牵引车11的操舵角和当前的连接角θCN来推定未来各时刻的连接角θCN。用于进行该推定的查找表可以根据连接部14与车轮13的位置关系以及挂车12的形状等预先制成。也可以根据实际的汽车列车10的行驶测试结果制成该查找表。通过在该查找表中输入当前的牵引车11的操舵角和当前的连接角θCN,能够推定未来各时刻的连接角θCN(即,时刻t2以后的各时刻的连接角θCN)。
处理2:根据当前的操舵角和通过处理1推定的未来各时刻的连接角θCN,推定未来各区间的挂车12在俯视图坐标上的移动方向。用于进行该推定的查找表也根据连接部14与车轮13的位置关系以及挂车12的形状等预先制成。
处理3:根据未来各区间的挂车12在俯视图坐标上的移动方向和在俯视图坐标上的挂车12的车体位置来导出预计移动轨迹。若以时刻t2的俯视图坐标上的挂车12的车体位置作为起点,将未来各区间的挂车12的移动方向连接起来,即求出预计移动轨迹。
在接着步骤S16的步骤S17中,图像处理装置2制作与在步骤S16中求出的预计移动轨迹对应的显示用图像。具体的说,通过将表示挂车12的车体左后端的预计移动轨迹的车辆引导线和表示挂车12的车体右后端的预计移动轨迹的车辆引导线在时刻t2的俯视图图像上叠加而生成显示用图像。这里的显示用图像和俯视图图像同样,也是俯视图坐标上的图像。
在图13中示出显示用图像的示例。在图10(a)及(b)中使俯视图图像的外形形状为矩形,但俯视图图像的外形形状并不局限为矩形。在图13中示出的显示用图像120的外形形状为六边形。虽然图13的显示用图像120与图10(a)和(b)中示出的俯视图图像有很大的不同,但该不同只是为了便于图示而产生的。
在显示用图像120中,斜线区域表示停车框的白线的描绘区域。显示用图像120通过在基于拍摄图像而得到的俯视图图像上叠加车辆引导线121及122而得。点123和点124与俯视图图像上的挂车12的左右后端部对应,点123和点124之间的长度表示在俯视图图像上的挂车12的车宽。车辆引导线121及122以点123及124为起点进行绘制。
在显示用图像120上还叠加有表示距挂车12后端的距离的第一及第二距离线。在显示用图像120中,沿显示用图像120的横向延伸的虚线125及126分别表示第一及第二距离线。第一及第二距离线例如分别表示距挂车12的后端的距离为1m及2m的部分。当然,也可以追加地叠加第三距离线(及第四距离线,……)。由于二维地面坐标系XwZw中的Zw轴方向的坐标值zw表示距挂车12的后端的距离,因此,图像处理装置2能够根据上式(4)或(5)求出显示用图像上的第一及第二距离线的位置。并且,通过虚线125和126的各自左端及点123的虚线,以及通过虚线125和126的各自右端及点124的虚线,相当于挂车12的左右端的延长线。
由步骤S17生成的显示用图像显示在显示装置3的显示画面上。当步骤S17的处理结束时,返回步骤S11,将基于最新的拍摄图像而得到的显示用图像更新显示在显示装置3中,并反复执行步骤S11~S17的各处理。
虽然相比于轿车和卡车,汽车列车10的驾驶需要较高的技术且难以直接目视后方进行确认,但通过如本实施例显示的车辆引导线,能够良好地辅助安全驾驶。并且,由于能用1台探头来进行这样的辅助,因此能够以低成本形成驾驶辅助系统。在本实施例中,由于通过向俯视图图像叠加附加信息而生成显示用图像,因此能够将保持了实际距离和影像距离的一致性且容易掌握车辆后方情况的图像提供给驾驶者。
<第二实施例>
应该在图7的步骤S13中求出的挂车12的移动信息由图11的向量VB表示,若求出移动向量V31及/或V32则能够导出向量VB。因此,在图7的步骤S12及S13中也可以执行以下的处理。将对于该步骤S12及S13的处理的变形例作为第二实施例进行说明。在第二实施例中,通过特征点的抽取处理和追踪处理导出向量VB。其中,该导出手法可以认为包含在第一实施例中所述的向量VB的导出手法中。第二实施例与第一实施例组合实施,第一实施例中记述的事项只要没有矛盾则同样适用于本实施例中。
在第二实施例中,在步骤S11中获得时刻t1及t2的拍摄图像之后,在步骤S12中从时刻t1的拍摄图像中抽取特征点。特征点是指与能够与周围的点相区别且容易追踪的点。这样的特征点可以通过公知的特征点抽取器(未图示)自动抽取,所述特征点抽取器检测水平及垂直方向的浓淡变化量大的像素。特征点抽取器为例如Harris的角检测器、SUSAN的角检测器。应该抽取的特征点例如为路面上描绘的白线的交点或端点、路面上的污垢或龟裂等,假定为路面上的没有高度的不动点。
并且,在第二实施例所涉及的步骤S13中,进行特征点的追踪处理。作为特征点的追踪处理可以采用公知的手法。当将通过某时刻的拍摄所得的拍摄图像作为第一参照图像且将通过该时刻以后的时刻的拍摄所得的拍摄图像作为第二参照图像时,通过对比第一及第二参照图像来进行追踪处理。更具体来说,例如,将第一参照图像中的特征点的位置的附近区域作为特征点搜索区域,通过在第二参照图像的特征点搜索区域内进行图像匹配处理而确定第二参照图像的特征点的位置。在图像匹配处理中,例如,以第一参照图像中的特征点的位置为中心形成矩形区域,由该矩形区域内的图像形成样本,计算该样本和第二参照图像的特征点搜索区域内的图像的相似度。根据计算出的相似度来确定第二参照图像的特征点的位置。
若将时刻t1及t2的拍摄图像分别作为第一及第二参照图像来进行追踪处理,则能够求出时刻t2的拍摄图像中的特征点的位置。
这时,从时刻t1的拍摄图像抽取特征点31a及32a(参照图9(a)),通过追踪处理求得时刻t2的拍摄图像中的特征点31b及32b的位置(参照图9(b))。图像处理装置2将时刻t1及t2的拍摄图像通过俯视变换而变换为时刻t1及t2的俯视图图像,且根据上式(7)将特征点31a、32a、31b及32b在俯视图坐标上匹配,由此确定俯视图坐标上的特征点31c、32c、31d及32d的位置。若进行该确定,则由于自动求出移动向量V31及V32,因此能够根据V31及/或V32导出向量VB
另外,虽然例示了抽取及追踪的特征点的个数为2个的情况,但由于求出移动向量V31及V32中的至少一个就能够导出向量VB,因此,需要抽取及追踪的特征点的个数也可以为1个。
另外,虽然例示了在拍摄图像上进行特征点的抽取处理及追踪处理的情况,但也可以在俯视图图像上进行。即,在将时刻t1及t2的拍摄图像通过俯视变换而变换为时刻t1及t2的俯视图图像后,利用特征点抽取器从时刻t1的俯视图图像抽取特征点31c及32c(参照图10(a))。然后,通过将时刻t1及t2的俯视图图像分别作为第一及第二参照图像而进行追踪处理,也可以确定时刻t2的俯视图图像中的特征点31d及32d的位置(参照图10(b))。
<第三实施例>
在第一实施例中,虽然通过将车辆引导线在俯视图图像上叠加而生成显示用图像,但由于俯视图图像提供从正上方俯视路面的影像,因此存在视野范围狭小的缺点。因此,也可以通过将车辆引导线在俯视图图像以外的图像上叠加而生成显示用图像。将上述方法作为第三实施例进行说明。具体来说,例如,也可以将车辆引导线在作为原图像的拍摄图像上叠加,由此生成显示用图像。由此,能够提供视野广阔的影像。第三实施例与第一或第二实施例组合实施,在第一或第二实施例中记述的事项只要没有矛盾则也适用于本实施例中。
在第三实施例中,将通过图7的步骤S11~S16求出的车辆引导线在拍摄图像的坐标上进行匹配。该匹配通过将拍摄图像变换为俯视图图像的坐标变换的逆变换而实现。例如,将形成俯视图图像上的车辆引导线的各像素的坐标值(xau,yau)根据上式(7)逆变换为拍摄图像上的坐标值(xbu,ybu),则能够求出拍摄图像上的车辆引导线的位置。
在图14中示出本实施例所涉及的显示用图像的示例。图14中所示的显示用图像130通过将车辆引导线131及132在时刻t2的拍摄图像上叠加而得。并且,为便于图示,与图14对应的时刻t2的拍摄图像和与图9对应的时刻t2的拍摄图像不同。车辆引导线131及132通过将图13中所示的车辆引导线121及122在拍摄图像的坐标上进行匹配而得。在显示用图像130中,斜线区域表示停车框的白线的描绘区域。点133及134与拍摄图像上的挂车12的左右后端部对应,点133和点134之间的长度表示拍摄图像上的挂车12的宽度。车辆引导线131及132以点133及134为起点进行描绘。
在显示用图像130上还叠加有表示距挂车12的后端的距离的第一及第二距离线。沿显示用图像130的横向延伸的虚线135及136为第一及第二距离线,它们相当于将图13中的虚线125及126在拍摄图像上匹配所得的线。另外,通过虚线135和136的各自左端以及点133的虚线,和通过虚线135和136的各自右端以及点134的虚线,相当于挂车12的左右端的延长线。
<第四实施例>
另外,可以将显示用图像的生成手法进行各种变形。作为说明显示用图像的生成手法的变形例的实施例来说明第四实施例。对于显示用图像的生成手法以外的应用例也会在第四实施例的说明中涉及。第四实施例与第一~三实施例组合实施,第一~三实施例所记述的事项只要没有矛盾则也适用于本实施例。以下,单独说明第一变形处理~第三变形处理,但也可能将多个变形处理组合实施。
[第一变形处理]
可以不将车辆引导线在拍摄图像或俯视图图像中叠加,而是通过将表示挂车12的移动方向(行进方向)的指示标识叠加在拍摄图像或俯视图图像上来生成显示用图像。在图15中示出该显示用图像的示例。图15的显示用图像150是将箭头151作为表示挂车12的移动方向的指示标识叠加在图10(b)所示的时刻t2的俯视图图像上而成的图像。箭头151的方向与图1所示的向量VB的方向一致。
当通过将表示挂车12的移动方向的指示标识叠加在拍摄图像上而不是叠加在俯视图图像上来生成显示用图像时,采用下述方法生成显示用图像即可:将俯视图坐标上的向量VB通过第三实施例中所述的逆变换而变换为拍摄图像的坐标上的向量,将方向与所得的向量的方向一致的箭头叠加在图9(b)所示的时刻t2的拍摄图像上。
另外,也可以将表示挂车12的移动方向的指示标识及车辆引导线二者叠加在拍摄图像或俯视图图像上来生成显示用图像。
[第二变形处理]
此外,也可以使图7的步骤S15中的连接角θCN的推定结果反映在显示用图像中。该反映的方法为任意。考虑根据时刻t1及t2的拍摄图像推定连接角θCN的情况。这时,例如通过将表示连接角θCN的数值叠加在时刻t2的拍摄图像或时刻t2的俯视图图像上而生成显示用图像。也可以进而在该显示用图像中叠加表示挂车12的移动方向的指示标识及/或车辆引导线。
并且,例如可以以将时刻t2的拍摄图像或时刻t2的俯视图图像、表示连接角θCN的插图在显示画面上排列显示的方式生成显示用图像。在图16中示出该显示用图像的示例。图16的显示用图像160被分割为2个区域161及162。在区域161中,描绘有与图14所示的显示用图像130同样的图像(或者为将显示用图像130在横向上压缩后的图像),在区域162中,描绘有表示推定的最新的连接角θCN的插图。在该插图中包含有由牵引车和挂车构成的汽车列车的图,插图上的牵引车和挂车的连接角与连接角θCN相对应地发生变化。
[第三变形处理]
若连接角θCN达到一定角度以上,则可能产生翻倒等情况。因此,也可以根据连接角θCN来进行报警。具体来说进行如下处理。驾驶辅助系统(例如图像处理装置2)将在图7的步骤S15中推定的连接角θCN与规定的阈值角度比较,当前者在后者以上时,进行用于对汽车列车10的驾驶者通知连接角θCN过大的报告。该报告可以为通过利用显示装置3的影像的报告,也可以为通过利用未图示的扬声器的报告。另外,由于合适的阈值角度根据牵引车11及挂车12的各车体的大小等而有所不同,因此,该阈值角度可以根据汽车列车10的汽车种类而变更。
<第五实施例>
在第一实施例中说明了导出挂车12的预计移动轨迹的手法,将该导出手法的变形例(即,图7的步骤S16的处理的变形例)作为第五实施例进行说明。第五实施例与第一实施例或第二~第四实施例中的任一例组合实施。对获得时刻t1及t2的拍摄图像并如第一实施例所述执行图7的步骤S11~S15的各处理后的处理进行说明。
图17示出将Xbu轴及Ybu轴作为坐标轴的俯视图坐标。在图17中,还描绘有将汽车列车10向俯视图坐标投影后的图形。在图17中,符号11a、12a及13a分别为将图2的牵引车11、挂车12及车轮13向俯视图坐标上投影后的图形。用Q表示设置于挂车的2个车轮13的车轴中心。2个车轮13的车轴与图5的中心线22正交,车轴中心Q在中心线22上。
这时,将俯视图坐标上的时刻t2的连接点14的位置设为原点。将俯视图坐标上的时刻t2的牵引车11的中心线21(参照图5)设定在Yau轴上。进而,假定以时长Δt离散的时刻t1、t2、t3、t4、……。时间以时刻t1、t2、t3、t4、……的顺序经过。俯视图坐标上的时刻ti时的连接点14的位置用k[ti]表示(i为自然数)。
在导出预计移动轨迹时,假定牵引车11保持当前的操舵角及移动速度,在时刻t2后仍移动。这样,表示时刻t2-t3间的牵引车11的俯视图坐标上的移动方向及移动量的向量与第一实施例中所述的时刻t1-t2间的向量VA一致。从而,能够根据向量VA确定俯视图坐标上的时刻t3时的连接点14的位置k[t3]。也就是说,当将时刻t2的连接点14的位置k[t2]作为起点而将向量VA配置在俯视图坐标上时,向量VA的终点位置确定为位置k[t3]。并且,若时刻t1-t2间的牵引车11的操舵角能够确定,则俯视图坐标上的向量VA的方向能够确定。
并且,将时刻ti时的连接角θCN用θCN[ti]表示(i为自然数)。进而,将在俯视图坐标上的、时刻ti的车轴中心Q的位置用Q[ti]表示(i为自然数)。在图7的步骤S15中推定时刻t2时的连接角θCN[t2],图像处理装置2利用该连接角θCN[t2]求出位置Q[t2]。更详细地说,根据连接角θCN[t2]和位置k[t2]以及已知的挂车12的车体信息求出位置Q[t2]。挂车12的车体信息确定俯视图坐标上的连接点14到车轴中心Q的距离。
然后,图像处理装置2推定俯视图坐标上的、时刻t3的车轴中心Q的位置Q[t3]并使其同时满足以下的第一及第二条件(参照汽车规格(JASOZ 006-92;第18页))。
第一条件为:位置k[t2]与位置Q[t2]的距离和位置k[t3]与位置Q[t3]的距离相同。
第二条件为:位置Q[t3]位于位置k[t2]与位置Q[t2]的连线上。
进而,图像处理装置2根据推定的位置Q[t3]和位置k[t3]推定在时刻t3时的连接角θCN[t3]。也就是说,将通过位置k[t3]且与Yau轴平行的直线和位置k[t3]与位置Q[t3]的连线所成的角度推定为连接角θCN[t3]。
如上所述,以“k[t2]、Q[t2]及θCN[t2]”为基准导出“k[t3]、Q[t3]及θCN[t3]”。若以“k[t3]、Q[t3]及θCN[t3]”为基准来应用将该导出手法,则能够确定“k[t4]、Q[t4]及θCN[t4]”。通过反复执行该手法,能够接连求出“k[t5]、Q[t5]及θCN[t5]”、“k[t6]、Q[t6]及θCN[t6]”、……。
图18为将时刻t2~t6的车轴中心Q的位置Q[t2]~Q[t6]连成曲线而成的图。连接Q[t2]~Q[t6]的轨迹为在俯视图坐标上的车轴中心Q的预计移动轨迹。若能够求出各时刻的车轴中心Q的位置,则根据俯视图坐标上的挂车12的车宽也可以求各时刻的挂车12的车体的左右后端的位置。图18中的曲线171及172为时刻t2以后的挂车12的车体的左右后端的预计移动轨迹。在图7的步骤S16中导出所述预计移动轨迹。
例如,图13的显示用图像120通过将沿着所述曲线171及172的车辆引导线121及122叠加在时刻t2的俯视图图像上而生成。
<第六实施例>
接下来说明第六实施例。在第六实施例中,例示图1的图像处理装置2的功能模块图。图19为与第一实施例对应的图像处理装置2的功能模块图。在图19的图像处理装置2中,执行图7所示的各步骤的处理。图19的图像处理装置2具有参照符号201~205的各部位。
在图7的步骤S11中读取的时刻t1及t2的拍摄图像输送到俯视变换部201中。俯视变换部201将t1及t2的拍摄图像通过俯视变换而变换为时刻t1及t2的俯视图图像。运动检测部202通过将由该变换所得的时刻t1及t2的俯视图图像进行对比,导出时刻t1-t2间的俯视图坐标上的光流(步骤S12)。连接角推定部203根据该光流和输入的牵引车11的移动信息推定连接角θCN(步骤S15)。并且,图7的步骤S13及S14的处理通过运动检测部202或连接角推定部203,抑或是图像处理装置2中的其他部位来实现。
移动轨迹推定部204根据由连接角推定部203推定的连接角θCN和牵引车11的移动信息来执行图7的步骤S16的处理,由此求出挂车12的预计移动轨迹。显示用图像生成部205将基于该推定结果而得到的车辆引导线叠加在时刻t2的俯视图图像上,由此生成时刻t2的显示用图像。
另外,如在上述第四实施例中的第一变形处理,当将表示挂车12的移动方向的指示标识叠加在拍摄图像或俯视图图像上时,图19的功能模块图如图20所示变形。图20所示的挂车移动方向推定部206也与参照符号201~205的各部位一样设置在图像处理装置2内。挂车移动推定部206通过利用来自运动检测部202的光流而执行图7的步骤S13的处理,从而求出表示挂车12的移动方向的图11的向量VB。这时,显示用图像生成部205利用该向量VB生成图15的显示用图像150。
<变形等>
作为上述实施方式的变形例或注释事项,以下记述注释1~注释4。各注释中记述的内容只要没有矛盾就能够任意组合。
[注释1]
上述的由拍摄图像生成俯视图图像的坐标变换一般被称为透视投影变换。也可以不采用该透视投影变换,而是通过公知的平面投影变换由拍摄图像生成俯视图图像。当采用平面投影变换时,在探头校正处理阶段预先求出单应性矩阵(坐标变换矩阵),该单应性矩阵用于将拍摄图像上的各像素的坐标值变换为俯视图图像上的各像素的坐标值。单应性矩阵的求法为公知。并且,在进行图7所示的动作时,根据单应性矩阵将拍摄图像变换为俯视图图像即可。不论采用哪种方法,通过将拍摄图像投影到俯视图坐标上而将拍摄图像变换为俯视图图像。
[注释2]
在上述的实施方式中,将基于从1个探头所得的拍摄图像而得到的显示用图像显示在显示装置3中,但当将多个探头(未图示)设置在汽车列车10上时,可以根据由所述多个探头所得的多个拍摄图像而生成显示用图像。例如,将探头1以外的其他的1台以上的探头安装到汽车列车10上。并且,将基于其他探头的拍摄图像得到的图像和基于探头1的拍摄图像得到的图像进行合成,可以将通过该合成所得的图像最终作为对于显示装置3的显示用图像。该合成图像例如为如日本特开2006-287892号公报所记述的全周俯视图图像。
[注释3]
在上述的实施方式中,将本发明所涉及的驾驶辅助系统适用于由牵引车11和挂车12构成的汽车列车10(参照图2)。但是,能够应用本发明所涉及的驾驶辅助系统的车辆不局限于由牵引车和挂车构成的汽车列车。可对由第一车辆和连接于第一车辆而被牵引的第二车辆构成的任意汽车列车应用本发明所涉及的驾驶辅助系统。在上述的实施方式中,第一车辆相当于牵引车11且第二车辆相当于挂车12。并且,图1的汽车列车10为运输钢材或重物的大型汽车列车,但本发明不依存于汽车列车的大小。
能够适用本发明的汽车列车包括一般被称为牵引汽车的车辆(或汽车列车本身为牵引汽车)。进而,例如,能够适用本发明的汽车列车由第一车辆和第二车辆构成,包括通道式公共汽车(铰接公共汽车)、铰接式公共汽车及无轨电车。例如,在铰接公共汽车中适用本发明所涉及的驾驶辅助系统时,将铰接公共汽车中的第一车辆及第二车辆看作上述的牵引车11及挂车12来实施上述处理即可。另外,被分类为SUV(Sports UtilityVehicle)的汽车列车也能够适用本发明。
[注释4]
图1的图像处理装置2能够通过硬件、软件或硬件和软件的组合来实现。也可以将在图1的图像处理装置2中实现的功能的全部或一部分作为程序记载,通过在计算机上执行该程序来实现所述功能的全部或一部分。

Claims (10)

1.一种驾驶辅助系统,具有探头,该探头设置在由第一车辆和连接于该第一车辆的第二车辆构成的汽车列车中的所述第二车辆上,且拍摄所述第二车辆的后方,
从所述探头获得按时间序列排列的多个拍摄图像,并对显示装置输出由各拍摄图像生成的显示用图像,
所述驾驶辅助系统的特征在于,具有:
运动检测机构,其导出由所述多个拍摄图像形成的动态图像的光流;
连接角推定机构,其根据所述光流及所输入的所述第一车辆的移动信息,推定所述第一车辆和所述第二车辆的连接角;
移动轨迹推定机构,其根据所述连接角及所述第一车辆的移动信息,导出所述第二车辆的预计移动轨迹,
通过将与所述预计移动轨迹对应的指示标识叠加在基于所述拍摄图像得到的图像上而生成所述显示用图像。
2.根据权利要求1所述的驾驶辅助系统,其特征在于,
还具有坐标变换机构,其通过将各拍摄图像投影到规定的俯视图坐标上而将所述多个拍摄图像变换为多个俯视图图像,
由所述运动检测机构导出的所述光流为所述俯视图坐标上的光流。
3.根据权利要求2所述的驾驶辅助系统,其特征在于,
所述第一车辆的移动信息包括表示所述第一车辆的移动方向及移动速度的信息,
所述连接角推定机构基于所述第一车辆的移动信息导出所述俯视图坐标上的表示所述第一车辆的移动方向及移动量的向量,并基于所述向量和所述光流推定所述连接角。
4.根据权利要求1所述的驾驶辅助系统,其特征在于,
还具有报告机构,其基于所推定的所述连接角与规定的阈值角度的比较结果对外部进行报告。
5.一种驾驶辅助系统,具有探头,该探头设置在由第一车辆和连接于该第一车辆的第二车辆构成的汽车列车中的所述第二车辆上,且拍摄所述第二车辆的后方,
从所述探头获得按时间序列排列的多个拍摄图像,并对显示装置输出由各拍摄图像生成的显示用图像,
所述驾驶辅助系统的特征在于,具有:
运动检测机构,其导出由所述多个拍摄图像形成的动态图像的光流;
移动方向推定机构,其根据所述光流推定所述第二车辆的移动方向,
该驾驶辅助系统使该推定结果反映到所述显示用图像上。
6.根据权利要求5所述的驾驶辅助系统,其特征在于,
还具有坐标变换机构,其通过将各拍摄图像投影到规定的俯视图坐标上而将所述多个拍摄图像变换为多个俯视图图像,
由所述运动检测机构导出的所述光流为所述俯视图坐标上的光流。
7.根据权利要求6所述的驾驶辅助系统,其特征在于,
还具有连接角推定机构,其根据所述光流及所输入的所述第一车辆的移动信息,推定所述第一车辆和所述第二车辆的连接角,
使所述连接角的推定结果反映到所述显示用图像上。
8.根据权利要求7所述的驾驶辅助系统,其特征在于,
所述第一车辆的移动信息包括表示所述第一车辆的移动方向及移动速度的信息,
所述连接角推定机构基于所述第一车辆的移动信息导出所述俯视图坐标上的表示所述第一车辆的移动方向及移动量的向量,并基于所述向量和所述光流推定所述连接角。
9.根据权利要求7所述的驾驶辅助系统,其特征在于,
还具有报告机构,其基于所推定的所述连接角与规定的阈值角度的比较结果对外部进行报告。
10.一种汽车列车,其特征在于,
由第一车辆和连接于该第一车辆的第二车辆构成,
所述汽车列车设置有权利要求1~9中任一项所述的驾驶辅助系统。
CN200880105392A 2007-09-03 2008-08-19 驾驶辅助系统及汽车列车 Pending CN101795901A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2007-227635 2007-09-03
JP2007227635A JP2009060499A (ja) 2007-09-03 2007-09-03 運転支援システム及び連結車両
PCT/JP2008/064723 WO2009031400A1 (ja) 2007-09-03 2008-08-19 運転支援システム及び連結車両

Publications (1)

Publication Number Publication Date
CN101795901A true CN101795901A (zh) 2010-08-04

Family

ID=40428721

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200880105392A Pending CN101795901A (zh) 2007-09-03 2008-08-19 驾驶辅助系统及汽车列车

Country Status (5)

Country Link
US (1) US20100171828A1 (zh)
EP (1) EP2181898A1 (zh)
JP (1) JP2009060499A (zh)
CN (1) CN101795901A (zh)
WO (1) WO2009031400A1 (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104054033A (zh) * 2012-01-19 2014-09-17 罗伯特·博世有限公司 用于监视车辆环境的方法
CN105405319A (zh) * 2014-09-05 2016-03-16 丰田自动车株式会社 车辆的接近物体检测装置以及车辆的接近物体检测方法
CN107021018A (zh) * 2016-03-16 2017-08-08 梅克朗有限两合公司 一种商用车辆可视系统
CN107797118A (zh) * 2016-08-29 2018-03-13 德尔福技术有限公司 基于相机的拖车识别和盲区调整
CN108692699A (zh) * 2017-04-11 2018-10-23 现代自动车株式会社 用于防撞辅助的车辆和方法
CN113518721A (zh) * 2019-03-12 2021-10-19 采埃孚商用车系统汉诺威有限公司 用于获知车辆组合的两个子车辆之间的扭折角的检测系统和方法以及车辆组合
CN113661093A (zh) * 2019-03-12 2021-11-16 捷豹路虎有限公司 驾驶员辅助方法和设备
US11768284B2 (en) 2018-10-08 2023-09-26 Aptiv Technologies Limited Detection system and method

Families Citing this family (123)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2447672B (en) 2007-03-21 2011-12-14 Ford Global Tech Llc Vehicle manoeuvring aids
JP5190712B2 (ja) * 2009-03-24 2013-04-24 アイシン精機株式会社 障害物検出装置
CN201402131Y (zh) * 2009-03-30 2010-02-10 德尔福技术有限公司 分体式车辆的操控辅助设备
EP2482557B1 (en) * 2009-09-24 2020-03-18 Panasonic Intellectual Property Management Co., Ltd. Driving support display device
DE202010007914U1 (de) * 2010-06-12 2010-08-26 Conwys Ag Rücksehhilfe für ein Fahrzeuggespann
US9332229B2 (en) * 2010-06-18 2016-05-03 Hitachi Construction Machinery Co., Ltd. Surrounding area monitoring device for monitoring area around work machine
US20130002854A1 (en) * 2010-09-17 2013-01-03 Certusview Technologies, Llc Marking methods, apparatus and systems including optical flow-based dead reckoning features
DE102011011048B9 (de) * 2011-02-11 2021-10-07 Mekra Lang Gmbh & Co. Kg Überwachung des Nahbereichs rund um ein Nutzfahrzeug
US9723274B2 (en) 2011-04-19 2017-08-01 Ford Global Technologies, Llc System and method for adjusting an image capture setting
US9683848B2 (en) 2011-04-19 2017-06-20 Ford Global Technologies, Llc System for determining hitch angle
US9102272B2 (en) * 2011-04-19 2015-08-11 Ford Global Technologies, Llc Trailer target monitoring system and method
US9346396B2 (en) 2011-04-19 2016-05-24 Ford Global Technologies, Llc Supplemental vehicle lighting system for vision based target detection
US9969428B2 (en) 2011-04-19 2018-05-15 Ford Global Technologies, Llc Trailer backup assist system with waypoint selection
US9926008B2 (en) 2011-04-19 2018-03-27 Ford Global Technologies, Llc Trailer backup assist system with waypoint selection
US9937953B2 (en) 2011-04-19 2018-04-10 Ford Global Technologies, Llc Trailer backup offset determination
US9555832B2 (en) 2011-04-19 2017-01-31 Ford Global Technologies, Llc Display system utilizing vehicle and trailer dynamics
US9335163B2 (en) 2011-04-19 2016-05-10 Ford Global Technologies, Llc Trailer length estimation in hitch angle applications
US9290203B2 (en) 2011-04-19 2016-03-22 Ford Global Technologies, Llc Trailer length estimation in hitch angle applications
US9102271B2 (en) 2011-04-19 2015-08-11 Ford Global Technologies, Llc Trailer monitoring system and method
US9374562B2 (en) 2011-04-19 2016-06-21 Ford Global Technologies, Llc System and method for calculating a horizontal camera to target distance
US9248858B2 (en) 2011-04-19 2016-02-02 Ford Global Technologies Trailer backup assist system
US10196088B2 (en) 2011-04-19 2019-02-05 Ford Global Technologies, Llc Target monitoring system and method
US9434414B2 (en) 2011-04-19 2016-09-06 Ford Global Technologies, Llc System and method for determining a hitch angle offset
US9500497B2 (en) 2011-04-19 2016-11-22 Ford Global Technologies, Llc System and method of inputting an intended backing path
US9283892B2 (en) 2011-04-19 2016-03-15 Ford Global Technologies, Llc Method and system for monitoring placement of a target on a trailer
US9290202B2 (en) 2011-04-19 2016-03-22 Ford Global Technologies, Llc System and method of calibrating a trailer backup assist system
US9506774B2 (en) 2011-04-19 2016-11-29 Ford Global Technologies, Llc Method of inputting a path for a vehicle and trailer
US9854209B2 (en) * 2011-04-19 2017-12-26 Ford Global Technologies, Llc Display system utilizing vehicle and trailer dynamics
US9513103B2 (en) 2011-04-19 2016-12-06 Ford Global Technologies, Llc Hitch angle sensor assembly
US9290204B2 (en) 2011-04-19 2016-03-22 Ford Global Technologies, Llc Hitch angle monitoring system and method
CN103547747A (zh) * 2011-05-13 2014-01-29 日立建机株式会社 作业机械的周围监视装置
HUE032468T2 (en) * 2011-11-28 2017-09-28 Trailertrack Aps System for checking the rear-view mirror adjustment
TWI491524B (zh) 2012-03-08 2015-07-11 Ind Tech Res Inst 全周鳥瞰影像產生方法、訓練方法及應用其之車體端裝置及訓練裝置
FR2990662B1 (fr) * 2012-05-16 2015-08-07 Renault Sa Camera de recul integree au logo
US9511799B2 (en) 2013-02-04 2016-12-06 Ford Global Technologies, Llc Object avoidance for a trailer backup assist system
US9592851B2 (en) 2013-02-04 2017-03-14 Ford Global Technologies, Llc Control modes for a trailer backup assist system
DE102013002079A1 (de) 2013-02-06 2014-08-07 Volvo Construction Equipment Germany GmbH Baumaschine
CN103234542B (zh) * 2013-04-12 2015-11-04 东南大学 基于视觉的汽车列车弯道行驶轨迹测量方法
US20150115571A1 (en) * 2013-10-24 2015-04-30 GM Global Technology Operations LLC Smart tow
US9352777B2 (en) 2013-10-31 2016-05-31 Ford Global Technologies, Llc Methods and systems for configuring of a trailer maneuvering system
JP6156067B2 (ja) 2013-11-01 2017-07-05 富士通株式会社 移動量推定装置及び移動量推定方法
WO2015074027A1 (en) * 2013-11-18 2015-05-21 Robert Bosch Gmbh Vector-based driver assistance for towing vehicle
DE102014000978A1 (de) * 2014-01-25 2015-07-30 Audi Ag Verfahren und Vorrichtung zur Steuerung eines Gespanns in einen Parkraum
JP6313992B2 (ja) * 2014-02-18 2018-04-18 クラリオン株式会社 牽引車用周囲監視装置
US9296421B2 (en) 2014-03-06 2016-03-29 Ford Global Technologies, Llc Vehicle target identification using human gesture recognition
US9233710B2 (en) 2014-03-06 2016-01-12 Ford Global Technologies, Llc Trailer backup assist system using gesture commands and method
JP2015186085A (ja) * 2014-03-25 2015-10-22 富士通テン株式会社 移動量導出装置、及び、移動量導出方法
US9517668B2 (en) 2014-07-28 2016-12-13 Ford Global Technologies, Llc Hitch angle warning system and method
US9963004B2 (en) 2014-07-28 2018-05-08 Ford Global Technologies, Llc Trailer sway warning system and method
US10112536B2 (en) 2014-08-08 2018-10-30 Bendix Commercial Vehicle Systems Llc System and method for associating camera sensors on a vehicle
US9437055B2 (en) 2014-08-13 2016-09-06 Bendix Commercial Vehicle Systems Llc Cabin and trailer body movement determination with camera at the back of the cabin
US20160048966A1 (en) 2014-08-13 2016-02-18 Bendix Commercial Vehicle Systems Llc Learning the distance between cameras for articulated vehicles
GB2530649B (en) 2014-08-18 2017-06-28 Jaguar Land Rover Ltd Display system and method
GB2529408B (en) * 2014-08-18 2019-01-30 Jaguar Land Rover Ltd Display system and method
US10161746B2 (en) 2014-08-18 2018-12-25 Trimble Navigation Limited Systems and methods for cargo management
CA2958584C (en) 2014-08-18 2021-02-23 Trimble Navigation Limited System and method for modifying onboard event detection and/or image capture strategy using external source data
US9714037B2 (en) 2014-08-18 2017-07-25 Trimble Navigation Limited Detection of driver behaviors using in-vehicle systems and methods
US9487931B2 (en) 2014-09-12 2016-11-08 Caterpillar Inc. Excavation system providing machine cycle training
DE102014218995A1 (de) 2014-09-22 2016-03-24 Robert Bosch Gmbh Verfahren und Vorrichtung zur Bird-View-Darstellung eines Fahrzeuggespanns sowie nachrüstbare Kamera
US9315212B1 (en) 2014-10-13 2016-04-19 Ford Global Technologies, Llc Trailer sensor module and associated method of wireless trailer identification and motion estimation
US9340228B2 (en) 2014-10-13 2016-05-17 Ford Global Technologies, Llc Trailer motion and parameter estimation system
US9522677B2 (en) 2014-12-05 2016-12-20 Ford Global Technologies, Llc Mitigation of input device failure and mode management
US9533683B2 (en) 2014-12-05 2017-01-03 Ford Global Technologies, Llc Sensor failure mitigation system and mode management
US9607242B2 (en) 2015-01-16 2017-03-28 Ford Global Technologies, Llc Target monitoring system with lens cleaning device
JP6448029B2 (ja) * 2015-01-27 2019-01-09 日野自動車株式会社 連結車両の連結角取得装置及び連結車両の運転支援システム
US9522699B2 (en) 2015-02-05 2016-12-20 Ford Global Technologies, Llc Trailer backup assist system with adaptive steering angle limits
US9616923B2 (en) 2015-03-03 2017-04-11 Ford Global Technologies, Llc Topographical integration for trailer backup assist system
US9804022B2 (en) 2015-03-24 2017-10-31 Ford Global Technologies, Llc System and method for hitch angle detection
US9860445B2 (en) 2015-06-15 2018-01-02 Bendix Commercial Vehicle Systems Llc Dual node composite image system architecture
FR3038279B1 (fr) * 2015-07-03 2017-07-21 Commissariat Energie Atomique Procede de conduite automatique pour l'insertion et l'extraction d'un vehicule dans une station d'accueil, et dispositif de controle mettant en oeuvre un tel procede
US10204159B2 (en) 2015-08-21 2019-02-12 Trimble Navigation Limited On-demand system and method for retrieving video from a commercial vehicle
WO2017033518A1 (ja) * 2015-08-27 2017-03-02 株式会社Jvcケンウッド 車両用表示装置および車両用表示方法
US9896130B2 (en) 2015-09-11 2018-02-20 Ford Global Technologies, Llc Guidance system for a vehicle reversing a trailer along an intended backing path
US10384607B2 (en) 2015-10-19 2019-08-20 Ford Global Technologies, Llc Trailer backup assist system with hitch angle offset estimation
US10611407B2 (en) 2015-10-19 2020-04-07 Ford Global Technologies, Llc Speed control for motor vehicles
US9836060B2 (en) 2015-10-28 2017-12-05 Ford Global Technologies, Llc Trailer backup assist system with target management
US10017115B2 (en) 2015-11-11 2018-07-10 Ford Global Technologies, Llc Trailer monitoring system and method
US9798953B2 (en) 2015-12-17 2017-10-24 Ford Global Technologies, Llc Template matching solution for locating trailer hitch point
US9934572B2 (en) 2015-12-17 2018-04-03 Ford Global Technologies, Llc Drawbar scan solution for locating trailer hitch point
US10011228B2 (en) 2015-12-17 2018-07-03 Ford Global Technologies, Llc Hitch angle detection for trailer backup assist system using multiple imaging devices
US9610975B1 (en) 2015-12-17 2017-04-04 Ford Global Technologies, Llc Hitch angle detection for trailer backup assist system
US9796228B2 (en) 2015-12-17 2017-10-24 Ford Global Technologies, Llc Hitch angle detection for trailer backup assist system
US10155478B2 (en) 2015-12-17 2018-12-18 Ford Global Technologies, Llc Centerline method for trailer hitch angle detection
US9827818B2 (en) 2015-12-17 2017-11-28 Ford Global Technologies, Llc Multi-stage solution for trailer hitch angle initialization
WO2017122294A1 (ja) 2016-01-13 2017-07-20 株式会社ソシオネクスト 周囲監視装置、画像処理方法、及び画像処理プログラム
US10005492B2 (en) 2016-02-18 2018-06-26 Ford Global Technologies, Llc Trailer length and hitch angle bias estimation
US10112646B2 (en) 2016-05-05 2018-10-30 Ford Global Technologies, Llc Turn recovery human machine interface for trailer backup assist
DE102016109954A1 (de) * 2016-05-31 2017-11-30 Connaught Electronics Ltd. Verfahren zum Unterstützen eines Fahrers eines Gespanns beim Rangieren des Gespanns, Fahrerassistenzsystem sowie Kraftfahrzeug
US10106193B2 (en) 2016-07-01 2018-10-23 Ford Global Technologies, Llc Enhanced yaw rate trailer angle detection initialization
US10046800B2 (en) 2016-08-10 2018-08-14 Ford Global Technologies, Llc Trailer wheel targetless trailer angle detection
US10721397B2 (en) * 2016-09-01 2020-07-21 Caterpillar Inc. Image processing system using predefined stitching configurations
US10222804B2 (en) 2016-10-21 2019-03-05 Ford Global Technologies, Llc Inertial reference for TBA speed limiting
JP6251453B1 (ja) * 2017-02-09 2017-12-20 株式会社小松製作所 作業車両の周辺監視システム、作業車両、及び作業車両の周辺監視方法
JP6897294B2 (ja) * 2017-05-11 2021-06-30 株式会社アイシン 牽引支援装置
US10710585B2 (en) 2017-09-01 2020-07-14 Ford Global Technologies, Llc Trailer backup assist system with predictive hitch angle functionality
GB2566524B (en) * 2017-09-18 2021-12-15 Jaguar Land Rover Ltd Image processing method and apparatus
US10625782B2 (en) * 2017-10-03 2020-04-21 Aisin Seiki Kabushiki Kaisha Surroundings monitoring apparatus
JP7087332B2 (ja) 2017-10-10 2022-06-21 株式会社アイシン 運転支援装置
US11591018B2 (en) 2017-10-10 2023-02-28 Aisin Corporation Parking assistance device
US11193784B2 (en) * 2017-10-13 2021-12-07 Waymo Llc End of trip sequence
JP6972938B2 (ja) * 2017-11-07 2021-11-24 株式会社アイシン 周辺監視装置
WO2019130827A1 (ja) * 2017-12-25 2019-07-04 キヤノン株式会社 画像処理装置およびその制御方法
KR102418030B1 (ko) * 2017-12-27 2022-07-07 현대자동차주식회사 차량 및 그 제어 방법
JP7016751B2 (ja) * 2018-03-29 2022-02-07 ヤンマーパワーテクノロジー株式会社 運転支援システム
JP7023788B2 (ja) * 2018-05-16 2022-02-22 フォルシアクラリオン・エレクトロニクス株式会社 牽引支援装置
JP7081305B2 (ja) * 2018-05-24 2022-06-07 株式会社アイシン 周辺監視装置
US10926759B2 (en) * 2018-06-07 2021-02-23 GM Global Technology Operations LLC Controlling a vehicle based on trailer position
TW202001672A (zh) * 2018-06-26 2020-01-01 大陸商上海蔚蘭動力科技有限公司 行車輔助系統及行車輔助系統的操作方法
US10977867B2 (en) * 2018-08-14 2021-04-13 Goodrich Corporation Augmented reality-based aircraft cargo monitoring and control system
US11077795B2 (en) 2018-11-26 2021-08-03 Ford Global Technologies, Llc Trailer angle detection using end-to-end learning
KR102232276B1 (ko) * 2018-11-28 2021-03-25 오토아이티(주) 트레일러 트럭용 어라운드 뷰 영상 제공 장치 및 방법
US10829046B2 (en) 2019-03-06 2020-11-10 Ford Global Technologies, Llc Trailer angle detection using end-to-end learning
JP7217577B2 (ja) * 2019-03-20 2023-02-03 フォルシアクラリオン・エレクトロニクス株式会社 キャリブレーション装置、キャリブレーション方法
DE102019122086A1 (de) * 2019-08-16 2021-02-18 Connaught Electronics Ltd. Fahrerassistenz für eine Kombination
CN110719411B (zh) * 2019-12-16 2020-04-03 长沙智能驾驶研究院有限公司 车辆的全景环视图像生成方法及相关设备
EP4100921A1 (en) * 2020-02-04 2022-12-14 Volvo Truck Corporation Method for adapting an overlaid image of an area located rearwards and along a vehicle side
CN111175733B (zh) * 2020-02-05 2022-04-29 北京小马慧行科技有限公司 车身的角度的识别方法及装置、存储介质、处理器
CN111487976B (zh) * 2020-05-03 2022-11-18 哈尔滨工程大学 一种倒车轨迹跟踪方法
DE102021201525A1 (de) * 2021-02-17 2022-08-18 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Ermittlung einer räumlichen Ausrichtung eines Anhängers
US11846947B2 (en) * 2021-05-11 2023-12-19 Cnh Industrial Canada, Ltd. Systems and methods for an implement imaging system
JP2023172329A (ja) * 2022-05-23 2023-12-06 株式会社ジェイテクト 連結車両の制御装置、連結車両の制御方法、および連結車両の制御プログラム
CN115303291B (zh) * 2022-10-12 2023-01-20 深圳海星智驾科技有限公司 拖挂车的挂车轨迹预测方法和装置、电子设备和存储介质
CN115861972A (zh) * 2022-12-22 2023-03-28 北京斯年智驾科技有限公司 一种碰撞检测方法、装置、电子设备及存储介质

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19901953B4 (de) * 1999-01-20 2014-02-06 Robert Bosch Gmbh Vorrichtung und Verfahren zur Stabilisierung eines Fahrzeuggespannes
JP2002359839A (ja) * 2001-03-29 2002-12-13 Matsushita Electric Ind Co Ltd リアビューカメラの画像表示方法及びその装置
DE20110339U1 (de) * 2001-06-22 2002-10-24 Mekra Lang Gmbh & Co Kg Parkhilfe zur Verwendung in einem Kraftfahrzeug
JP2004252837A (ja) * 2003-02-21 2004-09-09 Denso Corp 車両周辺表示装置および車両周辺表示プログラム
JP4639753B2 (ja) * 2004-10-25 2011-02-23 日産自動車株式会社 運転支援装置
JP4596978B2 (ja) 2005-03-09 2010-12-15 三洋電機株式会社 運転支援システム
JP2006256544A (ja) 2005-03-18 2006-09-28 Aisin Seiki Co Ltd 後退運転支援装置
US7425889B2 (en) * 2005-05-06 2008-09-16 Delphi Technologies, Inc. Vehicle turning assist system and method
GB2447672B (en) * 2007-03-21 2011-12-14 Ford Global Tech Llc Vehicle manoeuvring aids
US7904222B2 (en) * 2007-06-27 2011-03-08 GM Global Technology Operations LLC Trailer articulation angle estimation
DE102007040250A1 (de) * 2007-08-27 2009-03-05 Daimler Ag Verfahren und Vorrichtung zur Fahrerunterstützung beim Rangieren eines Fahrzeuges oder Fahrzeuggespanns

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104054033A (zh) * 2012-01-19 2014-09-17 罗伯特·博世有限公司 用于监视车辆环境的方法
CN105405319A (zh) * 2014-09-05 2016-03-16 丰田自动车株式会社 车辆的接近物体检测装置以及车辆的接近物体检测方法
CN107021018A (zh) * 2016-03-16 2017-08-08 梅克朗有限两合公司 一种商用车辆可视系统
CN107797118A (zh) * 2016-08-29 2018-03-13 德尔福技术有限公司 基于相机的拖车识别和盲区调整
CN108692699A (zh) * 2017-04-11 2018-10-23 现代自动车株式会社 用于防撞辅助的车辆和方法
CN108692699B (zh) * 2017-04-11 2021-11-12 现代自动车株式会社 用于防撞辅助的车辆和方法
US11768284B2 (en) 2018-10-08 2023-09-26 Aptiv Technologies Limited Detection system and method
CN113518721A (zh) * 2019-03-12 2021-10-19 采埃孚商用车系统汉诺威有限公司 用于获知车辆组合的两个子车辆之间的扭折角的检测系统和方法以及车辆组合
CN113661093A (zh) * 2019-03-12 2021-11-16 捷豹路虎有限公司 驾驶员辅助方法和设备

Also Published As

Publication number Publication date
EP2181898A1 (en) 2010-05-05
WO2009031400A1 (ja) 2009-03-12
US20100171828A1 (en) 2010-07-08
JP2009060499A (ja) 2009-03-19

Similar Documents

Publication Publication Date Title
CN101795901A (zh) 驾驶辅助系统及汽车列车
TWI334393B (en) Image-based vehicle maneuvering assistant method and system
CN101489117B (zh) 图像显示装置和方法
US6765607B2 (en) Driving aiding system
CN101848370B (zh) 驾驶辅助装置、驾驶辅助方法和驾驶辅助程序
US20210170820A1 (en) Vehicular trailer hitching assist system with coupler height and location estimation
US8081211B2 (en) Reverse or peripheral sensing system for a vehicle
Han Car speed estimation based on cross-ratio using video data of car-mounted camera (black box)
US8553081B2 (en) Apparatus and method for displaying an image of vehicle surroundings
US20100283633A1 (en) Camera system for use in vehicle parking
CN102157076A (zh) 识别停车场的方法和系统
JP2003063340A (ja) 運転補助装置
JP2004336613A (ja) 車両周辺表示装置、および車両周辺表示プログラム
Olaverri-Monreal et al. Collaborative approach for a safe driving distance using stereoscopic image processing
JP3521859B2 (ja) 車両周辺画像処理装置及び記録媒体
KR101549165B1 (ko) 차량 자세 추정 장치 및 차량 자세 추정 방법
JP3395393B2 (ja) 車両周囲表示装置
JP2004252837A (ja) 車両周辺表示装置および車両周辺表示プログラム
de Saxe et al. Measurement of articulation angle by image template matching
JP4687381B2 (ja) 車両認識方法及び車載装置
US8872921B2 (en) Vehicle rearview back-up system and method
JP2010262665A (ja) 車載装置及び車両認識方法
Olaverri-Monreal et al. Tailigator: Cooperative system for safety distance observance
CN109398356B (zh) 车道保持系统及方法
RU2756349C1 (ru) Система видеонаблюдения

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C02 Deemed withdrawal of patent application after publication (patent law 2001)
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20100804