CN113646607A - 物体位置检测装置、行驶控制系统及行驶控制方法 - Google Patents
物体位置检测装置、行驶控制系统及行驶控制方法 Download PDFInfo
- Publication number
- CN113646607A CN113646607A CN202080022575.7A CN202080022575A CN113646607A CN 113646607 A CN113646607 A CN 113646607A CN 202080022575 A CN202080022575 A CN 202080022575A CN 113646607 A CN113646607 A CN 113646607A
- Authority
- CN
- China
- Prior art keywords
- distance
- unit
- detection unit
- image
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
- B60W30/14—Adaptive cruise control
- B60W30/16—Control of distance between vehicles, e.g. keeping a distance to preceding vehicle
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/292—Multi-camera tracking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30236—Traffic on road, railway or crossing
Abstract
本申请具有:第1距离检测部,其根据从第1摄像部和第2摄像部得到的图像检测物体的距离;第1位置检测部,其基于第1距离检测部检测到的距离,来检测物体的位置;处理区域设定部,其在从包含第1摄像部和第2摄像部在内的多个摄像部的某一个得到的图像内,设定包含第1距离检测部检测到的物体的处理区域;第2位置检测部,其在处理区域内检测物体的位置;第2距离检测部,其基于第2位置检测部检测到的物体的位置,来检测物体的距离;姿势检测部,其基于由第2位置检测部检测到的物体的位置来检测物体的姿势;以及判定部,其根据由第1距离检测部、第2距离检测部、第1位置检测部、第2位置检测部以及姿势检测部分别检测出的信息,来判定物体的距离以及位置。
Description
技术领域
本发明涉及一种用于检测物体的位置的装置。
背景技术
作为本技术领域的背景技术,例如在专利文献1中提出了抑制基于立体机摄像机的物体追踪中的运算量的增大的方法。
具体而言,在专利文献1中,叙述了根据通过三维识别得到的距离或图像上的大小来切换是三维识别物体还是二维识别物体来进行物体追踪。
现有技术文献
专利文献
专利文献1:日本专利特开2003-61075号公报。
发明内容
发明要解决的问题
在专利文献1中记载的技术中,根据通过三维识别得到的结果来切换是三维识别物体还是二维识别物体来进行物体追踪,因此能够降低运算负荷,但在物体偏离拍摄视场角的情况下,追踪精度可能会降低。
本发明是为了解决这样的问题而完成的,其主要目的在于提供一种能够与物体的视场角位置以及距离无关地高精度检测物体的物体位置检测装置等。
解决问题的技术手段
在用于解决上述问题的本发明中具有:第1距离检测部,其根据从第1摄像部和第2摄像部得到的图像来检测物体的距离;第1位置检测部,其基于所述第1距离检测部检测到的距离,来检测所述物体的位置;处理区域设定部,其在从包含所述第1摄像部和所述第2摄像部在内的多个摄像部的某一个得到的图像内,设定包含所述第1距离检测部检测到的所述物体的处理区域;第2位置检测部,其在所述处理区域内检测所述物体的位置;第2距离检测部,其基于所述第2位置检测部检测到的所述物体的位置,来检测所述物体的距离;姿势检测部,其基于由所述第2位置检测部检测到的所述物体的位置来检测所述物体的姿势;以及判定部,其根据由所述第1距离检测部、所述第2距离检测部、所述第1位置检测部、所述第2位置检测部以及所述姿势检测部分别检测出的信息,来判定所述物体的距离以及位置。
发明的效果
根据本发明,能够与物体的视场角位置以及距离无关地高精度地检测物体。
通过以下的实施例的说明,可以明确上述以外的本发明的课题、构成、作用和效果。
附图说明
图1是示出本发明的实施例1的物体位置检测装置的构成的图。
图2是示出由本发明的实施例1的物体位置检测装置拍摄的拍摄图像的一例的图。
图3是示出由本发明的实施例1的物体位置检测装置拍摄的拍摄图像和检测结果的一例的图。
图4是示出由本发明的实施例1的物体位置检测装置拍摄的拍摄图像和另一检测结果的一例的图。
图5是示出本发明的实施例1的物体位置检测装置的处理定时的图。
图6是示出本发明的实施例1的物体位置检测装置的处理流程的图。
图7A是示出本发明的实施例1的物体位置检测装置的行驶中的时刻t1的拍摄图像的一例的图。
图7B是示出本发明的实施例1的物体位置检测装置的行驶中的时刻t2的拍摄图像的一例的图。
图7C是示出本发明的实施例1的物体位置检测装置的行驶中的时刻t3的拍摄图像的一例的图。
图8是示出本发明的实施例1的物体位置检测装置中的检测结果和判定结果的一例的图。
图9是示出本发明的实施例2的物体位置检测装置的构成的图。
图10是示出本发明的实施例3的物体位置检测装置的构成的图。
图11是示出本发明的实施例4的物体位置检测装置的构成的图。
图12是示出本发明的实施例5的物体位置检测装置的构成的图。
具体实施方式
以下,参照附图对本发明的实施方式进行说明。在以下的实施方式中,举出前方车辆作为检测位置的物体的例子,检测前方车辆的位置,但本发明不限于此,也可以检测任意物体的位置。
(实施例1)
图1是示出本发明的实施例1的物体位置检测装置的构成的图。1是本实施例的物体位置检测装置。物体位置检测装置1例如搭载在车辆的前方,识别前方车辆等物体,构成对例如跟随前方车辆行驶的控制进行辅助的系统的一部分。
101、102和103分别是摄像部。摄像部101、102和103在图像传感器上安装有光学透镜。这些摄像部101、102和103在规定定时重复进行一张图像的拍摄,并输出所拍摄的图像。摄像部101和摄像部102以规定的距离左右分开设置,物体位置检测装置1能够根据由摄像部101拍摄的图像和由摄像部102拍摄的图像的偏差、即所谓的视差,计算到被摄体的距离。
另外,在图1中示出了将物体位置检测装置1的构成要素收纳在同一框体中的例子,但例如也可以将摄像部101和102集中收纳在与其他构成要素不同的框体中(图1中用虚线框11包围示出)。),也可以将摄像部101、102以及103分别收纳在不同的框体中而安装在车辆上。在该情况下,图像信号的传送可以通过未图示的连接电缆连接各构成来传送。作为使用连接电缆传送图像的方法,有使用LVDS(Low Voltage Differential Signaling)方式的差动传送路径的传送方法等。
另外,通过将摄像部101、102以及103的图像传感器设为彩色图像传感器,物体位置检测装置1能够获取拍摄到的图像的颜色信息,除了亮度信息之外,还能够根据颜色信息判定交通信号和前方车辆的尾灯的状态。
104是图像校正部。图像校正部104取入分别来自摄像部101和102的图像,以使各个图像的亮度一致的方式用预先测量的校正值进行校正,进一步地,以使基于透镜的图像的失真校正、和摄像部101的图像与摄像部102的图像的水平位置一致的方式用预先测量的校正值进行校正。
各校正值的测量在物体位置检测装置1的制造工序中预先进行。针对应用校正值前的物体位置检测装置1的每个个体,拍摄特定的被摄体,求出使获取的图像的亮度变得均匀的每个像素的亮度校正值、以及抵消透镜畸变而使图像成为水平的每个像素的几何校正值,分别作为校正表,针对物体位置检测装置1的每个个体例如保存在未图示的非易失性存储器中。
105是立体距离检测部。立体距离检测部105输入来自图像校正部104的图像,检测被摄体的距离和物体的种类。作为检测距离的方法,例如有以下的方法。立体距离检测部105取入来自图像校正部104的图像,进行视差的计算。如上所述,由于摄像部101和摄像部102以规定的距离左右分开设置,所以所拍摄的图像具有视差。进行计算该视差的所谓立体处理。
作为视差的计算方法,例如有块匹配方式。具体而言,立体距离检测部105首先搜索与从由摄像部101拍摄的图像的指定的图像区域上小幅切割出的规定尺寸、例如纵8像素、横8像素的块区域对应的摄像部102的图像上的区域。在摄像部102的图像上,立体距离检测部105将相同尺寸的块区域在水平方向上以作为搜索密度而被指定的像素数依次偏移,评价此时的相关值。此时,立体距离检测部105设定例如将搜索范围设为128个像素并将搜索密度设为2个像素的组合、或者将搜索范围设为32个像素并将搜索密度设为1个像素的组合,由此能够进行处理区域的指定并控制计算的处理负荷和精度。如果增大搜索密度,则所检测的对象物的距离的精度变粗糙,但搜索范围内的处理负荷减轻,搜索密度越小所检测的距离的精度越高。
摄像部101的拍摄图像和摄像部102的拍摄图像中的一致的块区域的位置差是由像素数表示的视差。立体距离检测部105可以使用该视差来求出在块区域中显示的对象物在实际环境中的距离。另外,在该例子中,采用了块区域作为成为求出距离的对象的图像要素。作为用于评价相关值的一致比较的方法,例如,将要比较的块区域内的像素的亮度的差分的总和变小的位置设为视差。
众所周知,所检测的距离是根据摄像部101和摄像部102的透镜焦距、作为摄像部101和摄像部102的距离的基线长度、上述求出的视差、以及摄像传感器的像素间距而求出的。但是,在本发明中,距离的计算方法并不限定于此。另外,成为求出距离的对象的图像要素不限于上述的块区域,也可以采用构成摄像传感器的各个像素。
关于检测物体的方法,例如,在附近存在表示大致相同的距离的距离信息的情况下,立体距离检测部105将它们作为一个集合进行分组,在该组的大小为一定值以上时将该组视为物体。然后,立体距离检测部105根据检测出的组的大小和形状例如检测出是车辆。存在通过与作为参考数据而预先保存的模式数据进行比较来检测物体的大小和形状的方法。根据该处理方式,由于能够高精度地得到从本车辆到前方的物体例如车辆的距离,所以能够用作本车辆的减速或停止等避免碰撞的信息。所获得的物体的种类及其距离被输出到后述的位置检测部106、处理区域设定部107、识别部108、距离检测部110、姿势检测部111、判定部112。
106是位置检测部。位置检测部106基于立体距离检测部105的结果来检测物体的位置。作为位置信息,例如是由摄像部101和摄像部102的设置位置的中心与物体的横向的中心的差表示的左右位置。
107是处理区域设定部。处理区域设定部107根据立体距离检测部105的物体检测结果,设定并切割出由摄像部103拍摄到的图像中的、包含物体的图像的区域,该包含物体的图像的区域用于在后段的识别部108、位置检测部109以及距离检测部110中识别该物体并检测其位置以及距离。
108是识别部。识别部108识别在由处理区域设定部107切割出的区域中所包含的物体。在该示例中,识别部108通过单眼处理识别物体。识别部108从所输入的图像中检测出设想的前方车辆等。作为该检测方法,例如有根据图像中的亮度分布或边缘的形状信息、和与作为参照数据保持的模式数据的类似量来检测车辆等物体的方法等。识别部108根据所保持的模式数据,能够判别前方车辆的车种,例如轿车或卡车等。
在此,通过将由立体距离检测部105检测出的物体的种类输入到识别部108,识别部108不需要与用于检测上述物体的模式数据进行比较,能够减轻处理。
109是位置检测部。位置检测部109从由处理区域设定部107切割出的区域中检测由识别部108识别出的物体的位置。作为位置信息,例如是以摄像部101和摄像部102的中间点为中心的、由与物体的横向的中心的差表示的左右位置。进而,位置检测部109确定该物体的后端面的位置,并输出到后述的姿势检测部111。这是因为,物体的后端面例如是车辆的后尾面,在车辆转弯而车辆侧面包含在获取图像中的情况下,能够检测除去了车辆侧面的后尾面的姿势,从而提高姿势检测的精度。作为后端面的位置的确定方法,有根据图像的亮度分布或纵向的边缘的形状信息进行检测的方法等。另外,位置检测部109能够仅选择并检测被识别为车辆的物体。
110是距离检测部。距离检测部110检测由识别部108识别出的物体的距离。距离检测部110能够根据检测出的物体在画面上的高度和大小来检测该距离。
另外,距离检测部110通过先输入由立体距离检测部105检测出的物体的距离以及大小等,能够限定要比较的模式数据的数量,能够以必要最小限度的处理来检测物体的距离。
111示出姿势检测部。姿势检测部111检测物体的朝向,例如前方车辆和本车的水平方向的角度差Δθ。该角度差根据前方车辆和本车的横摆角的变化而变化。例如,姿势检测部111通过对物体的相对表面在水平方向上的距离进行线性近似来获得其斜率。
例如,在将相对于物体(前方车辆)的后尾面的水平方向(横向)的坐标X的距离Z(进深)表示为(X,Z)的情况下,作为测定结果,得到(X1,Z1)、(X2,Z2)、...、(X5,Z5)。姿势检测部111例如通过最小二乘法等求出回归直线(Z=a 1×X+a2;a 1,a1:常数),根据其斜率a1计算出Δθ(=arctan(a1))。
姿势检测部111在进行检测时,由位置检测部109输入确定前方车辆的后尾面的信息,除去车辆侧面,限定于后面来检测姿势,由此能够提高姿势检测的精度。另外,姿势检测部111能够仅选择并检测被识别为车辆的物体。
112是判定部。判定部112接收来自立体距离检测部105的距离检测结果、来自位置检测部106的位置检测结果、来自姿势检测部111的姿势检测结果、来自位置检测部109的位置检测结果、以及来自距离检测部110的距离检测结果,判定结果并将物体的检测结果输出到物体位置检测装置1的外部。
另外,物体位置检测装置1例如通过电子电路构成图1所示的虚线框12内的摄像部101、摄像部102、摄像部103、图像校正部104以及立体距离检测部105,物体位置检测装置1的除此以外的构成要素通过未图示的微型计算机等的软件处理来实现。也可以通过软件处理来实现立体距离检测部105。
图2是示出由本发明的实施例1的物体位置检测装置1拍摄的拍摄图像的一例的图。在该图中,1001表示由摄像部101拍摄并由图像校正部104校正后的拍摄图像,1002表示由摄像部102拍摄并由图像校正部104校正后的拍摄图像。1003表示由摄像部103拍摄的拍摄图像。202是作为被摄体的前方车辆。203是作为被摄体的行人。204是作为被摄体的行道树。205是作为被摄体的交通信号。
另外,在该图中,201、209是拍摄图像1001和拍摄图像1002中被共同拍摄的区域(共同拍摄区域)。如上所述,在拍摄图像1001和拍摄图像1002之间存在共同拍摄的区域的偏移,根据该偏移量即视差来计算被摄体的距离。
摄像部103被设定为相对于摄像部101和摄像部102的拍摄视场角大致相同。拍摄图像1003是与拍摄图像1001的由虚线框包围的区域201对应的区域的拍摄图像。此外,例如,如果摄像部103的成像传感器的像素数大于摄像部101和摄像部102的成像传感器的像素数,则由摄像部103拍摄的拍摄图像1003的分辨率更高,从而在检测物体检测和距离检测时的精度更高。
图3是示出由本发明的实施例1的物体位置检测装置1拍摄的拍摄图像和立体距离检测部105、位置检测部106以及姿势检测部111的动作的一例的图。在该图中,区域201是在由摄像部101拍摄、由图像校正部104校正后的拍摄图像中的、如上所述与由摄像部102拍摄的图像共同拍摄的区域。
301是立体距离检测部105检测被摄体的距离和物体的种类的处理区域。在本实施例中,处理区域301是整个区域201。立体距离检测部105在处理区域301的范围内通过上述块匹配方式求出视差,从该视差的组中检测物体。
302、303、304以及305是用虚线框包围物体的检测结果而示出的处理区域。图像内的框和数值显示不在所拍摄的图像中,而是在图像上重叠而明确示出的。在本实施例中,检测到在处理区域302中检测到的前方车辆202为距离10.6m、位置2.3m、姿势0.5度,在处理区域303中检测到的行人203为距离5.2m,处理区域304的行道树204为距离35.3m,而且处理区域305的交通信号205位于距离19.7m的位置。这样,根据物体位置检测装置1,能够在所拍摄的图像整体中实现物体的距离、位置、姿势检测。
这些检测出的物体的距离、位置、姿势被输出到判定部112。
图4是示出由摄像部103拍摄的拍摄图像1003和处理区域设定部107、识别部108、位置检测部109以及距离检测部110的操作的一例的图。处理区域设定部107从由立体距离检测部105输出的物体的信息中选择例如示出是车辆的物体信息,并作为图像切割,输出到后级的识别部108。在该例中,在图2所示的处理区域301的内侧存在前方车辆202,处理区域设定部107选择前方车辆202的信息并切割出图像而输出。401是由处理区域设定部107切割出并输出到后级的识别部108的图像的处理区域,能够减轻此后的处理负荷。这里,作为位置检测部109和距离检测部110的检测结果,示出前方车辆202位于距离10.6m、位置2.3m。位置检测部109和距离检测部110将检测到的物体的距离和位置输出到判定部112。
图5是示出本发明的实施例1的物体位置检测装置1的处理定时的图。图5的(A)示出图像校正部104、立体距离检测部105、位置检测部106和姿势检测部111的处理定时。图5的(B)示出了处理区域设定部107、识别部108、位置检测部109和距离检测部110的处理定时。图5的(C)示出了判定部112的处理定时。
在图5的(A)中,由图像校正部104和立体距离检测部105进行上述距离检测处理,检测物体,由位置检测部106检测该物体的位置,另外,在姿势检测部111检测物体的姿势。
另外,在图5的(B)中,接收在图5的(A)中检测出的物体信息,对于处理区域设定部107指定的处理区域,由识别部108识别物体,在位置检测部109进行物体的位置的检测,在距离检测部110进行距离检测。
在图5的(C)中,基于在图5的(A)和图5的(B)中获得的检测结果,输出由判定部112判定的物体的检测结果。
图6是示出本发明的实施例1的物体位置检测装置1的处理流程的图。首先,通过摄像部101、102以及103拍摄图像(步骤S601)。对于由摄像部101、102拍摄到的各个图像,如上所述,由图像校正部104进行亮度校正、透镜畸变校正和水平位置对准(步骤S602)。接着,通过立体距离检测部105,检测处理区域301内的物体及其距离(步骤S603)。此外,位置检测部106检测物体的位置(步骤S604),并且姿势检测部111检测姿势(步骤S605)。
另一方面,根据立体距离检测部105的检测结果,在处理区域设定部107中,从由摄像部103拍摄的图像中切割出应处理的区域,并输出到识别部108(步骤S606),在包含该物体的区域中由识别部108识别物体(步骤S607)。接着,在位置检测部109中检测物体的位置(步骤S608),并且在距离检测部110中检测物体的距离(步骤S609)。
最后,判定部112基于每个步骤中的物体的检测结果来进行判定,并输出判定结果(步骤S610)。物体位置检测装置1例如按每1帧重复进行这些处理。
图7A-7C是示出本发明的实施例1的物体位置检测装置1的行驶中的拍摄图像的一例的图。图7A是在某个时刻t1由摄像部101拍摄的图像,在前方车辆202全部处于拍摄视场角内的状态下获取图像。图7B是在时刻t1之后的时刻、即时刻t2由摄像部101拍摄的图像,在接近前方车辆202的状态下,在前方车辆202未容纳在拍摄视场角内但停留在正面的状态下获取图像。另外,图7C示出了在时刻t2之后的时刻t3拍摄的、前方车辆202转弯而要偏离拍摄视场角的状态的图像。
图8是示出从图7A、图7B和图7C所示的、行驶中获取的拍摄图像按时间序列检测出的检测结果和判定出的最终使用的检测结果的比例的图。时间t1、t2和t3分别示出拍摄出图7A的拍摄图像、图7B的拍摄图像和图7C的拍摄图像的时刻。
图8的(A)示出距离的检测结果,实线是立体距离检测部105的距离检测结果,虚线是距离检测部110的距离检测结果。在图8的(A)中,横轴是时间,纵轴是距离。在时刻t1附近,前方车辆202是全部处于拍摄视场角内的状态,成为远方,所以在立体距离检测部105的距离检测中,随着成为远方,视差的值变小而误差的影响变大,另外,如果为了装置的小型化而缩短基线长度,则远方侧的距离的检测精度降低。因此,产生包含检测误差的结果。另一方面,距离检测部110的距离检测通过识别部108进行基于图像的追踪、时间序列处理,因此能够得到稳定的检测结果。时刻t2附近是前方车辆202接近的状态,立体距离检测部105由于视差变大,所以能够高精度地检测距离,但在距离检测部110中,由于前方车辆202处于不能容纳在视场角中的状态,难以与上述模式数据进行比较,所以检测误差增加。在时刻t3附近,由于更接近,所以立体距离检测部105得到高精度的检测结果,但在距离检测部110中,由于车辆的后尾面倾斜,所以距离的检测误差进一步增加,最终不能与模式数据进行比较,不能进行距离检测。
图8的(B)示出位置的检测结果,实线是位置检测部106的位置检测结果,虚线是位置检测部109的位置检测结果。在图8的(B)中,横轴是时间,纵轴是位置。如上所述,位置检测部106根据立体距离检测部105的距离检测结果来检测物体的位置,因此在时刻t1包含检测误差,在时刻t2、时刻t3能够得到高精度的位置检测结果。另一方面,位置检测部109与距离检测部110同样,当前方车辆202不能容纳在拍摄视场角中时,检测误差增加,最终不能检测。
图8的(C)示出姿势检测部111的检测结果。在图8的(C)中,横轴是时间,纵轴是姿势。在本实施例中,将前方车辆202左转弯时的姿势设为正方向。在时刻t3以后,示出前方车辆202较大地转弯。
图8的(D)和8的(E)示出了根据所获得的距离检测结果和位置检测结果由判定部112最终使用的检测结果的比例。在图8的(D)和8的(E)中,横轴是时间,纵轴是比例。
图8的(D)的曲线的下侧所示的比例a是判定部112使用距离检测部110的检测结果的比例,图8的(D)的曲线的上侧所示的比例b是判定部112使用立体距离检测部105的检测结果的比例。比例a和比例b的合计值为1。关于判定部112使用的比例,以高比例使用在该时刻高精度地得到的检测结果(加重加权。)。在时刻t1附近,判定部112着重使用距离检测部110的检测结果。在本实施例中,在时刻t1附近,比例a为0.9,比例b为0.1。这里,假设距离检测部110的检测结果的距离为z1,立体距离检测部105的检测结果的距离为z2,判定部112所使用的距离为z,则在时刻t1附近,例如由z=0.9×z1+0.1×z2表示。
在时刻t2附近,判定部112多使用立体距离检测部105的检测结果,在时刻t3,判定部112仅使用立体距离检测部105的检测结果。此外,在根据位置检测结果物体的位置处于超出拍摄视场角的位置的情况下,判定部112采用立体距离检测部105的检测结果。
另外,图8的(E)的曲线的下侧所示的比例c是判定部112使用位置检测部109的检测结果的比例,图8的(E)的曲线的上侧所示的比例d是判定部112使用位置检测部106的检测结果的比例。在时刻t1附近,判定部112着重使用位置检测部109的检测结果。在时刻t2附近,判定部112较多地使用位置检测部106的检测结果,在时刻t3,判定部112仅使用位置检测部106的检测结果。进一步地,在根据距离检测结果物体位于超出拍摄视角的附近位置的情况下,判定部112采用位置检测部106的检测结果。
此外,当姿势检测部111的检测结果大于距离检测部110或位置检测部109不能检测到的角度时,判定部112也可以使用立体距离检测部105的距离检测结果或位置检测部106的位置检测结果。
另外,也可以在由立体距离检测部105检测出的距离比规定的距离远、由位置检测部109检测出的位置在规定的范围内的情况下,判定部112采用距离检测部110和位置检测部106的检测结果。
另外,也可以在由立体距离检测部105检测出的距离比规定的距离近、由位置检测部109检测出的位置在规定的范围外的情况下,判定部112采用立体距离检测部105和位置检测部109的检测结果。
也可以在姿势检测部111检测到的物体的姿势大于规定角度的情况下,判定部112采用立体距离检测部105和位置检测部109的检测结果。
如上所述,根据本实施例的物体位置检测装置1,即使在前方车辆202超出拍摄视场角的状态下,也能够高精度地继续检测前方车辆202的距离、位置、姿势。即,能够与物体的视场角位置或距离无关地继续跟踪物体,并获取位置、距离、姿势信息。
(实施例2)
图9是示出本发明的实施例2的物体位置检测装置的构成的图。本实施例是自动跟随未图示的前方车辆而行驶的情况的例子。对于实现与图1的构成相同功能的构成,赋予与图1相同的符号并省略详细说明。物体位置检测装置1搭载在汽车等车辆上,在该图中,901是车辆控制部。判定部112的输出被输入到车辆控制部901。
搭载有物体位置检测装置1的车辆(跟随前方车辆而行驶的后续车辆)配置在前方车辆的后方,跟随前方车辆。此时,物体位置检测装置1如上述那样检测前方车辆的距离、位置、姿势。
车辆控制部901接收判定部112的检测结果,根据该检测结果,对车辆的未图示的其他装置进行控制。作为车辆的控制对象是舵角、制动器、转向装置等,根据检测出的结果进行控制,以跟随前方车辆而行驶。这些车辆控制信息从物体位置检测装置1经由CAN(Controller Area Netowork)等车内网络向未图示的其他装置输出。根据本实施例的物体位置检测装置1,如上所述,即使在将与前方车辆的车间距离设定得较短的跟随而未能完全进入拍摄视场角的情况下、或前方车辆转弯而偏离拍摄视场角的情况下,也能够高精度地继续检测前方车辆的距离、位置、姿势,能够安全地跟随前方车辆。
另外,在图9中,示出了车辆控制部901收纳在与物体位置检测装置1相同的框体内的例子,但不限于此,也可以设为其他框体,经由车内网络传送检测结果,另外,如上所述,也可以将摄像部101、摄像部102以及摄像部103设为其他框体。
(实施例3)
图10是示出本发明的实施例3的物体位置检测装置的构成的图。对于实现与图1的构成相同功能的构成,赋予与图1相同的符号并省略详细说明。在该实施例中,不设置图1的摄像部103,而仅由摄像部101和摄像部102这两个摄像部构成,其中的摄像部101的拍摄图像经由处理区域设定部107输入到识别部108。另外,距离检测部110也与立体距离检测部105同样地进行基于立体处理的距离检测。从图像校正部104向处理区域设定部107输入校正后的摄像部101和摄像部102的图像,接收立体距离检测部105的检测结果,设定处理区域,并输入到距离检测部110。在距离检测部110中,对于由处理区域设定部107设定的处理区域,进行基于上述立体处理的距离检测。该处理能够以电子电路构成,也能够通过软件处理来实现。另外,也可以并用立体距离检测部105,以时分方式进行动作。
在本实施例中,能够通过摄像部101和摄像部102这两个摄像部进行立体距离检测和单眼距离检测,能够实现装置的成本降低。另外,在两个摄像部中的一个发生故障而无法进行图像获取的情况下,通过仅由另一个摄像部进行距离检测和位置检测,能够维持安全性。
(实施例4)
图11是示出本发明的实施例4的物体位置检测装置的构成的图。对于实现与图1的构成相同功能的构成,赋予与图1相同的符号并省略详细说明。在本实施例中,处理区域设定部107的输入信息是从在摄像部101、摄像部102以及摄像部103以外构成的、能够得到距离或位置信息的传感器得到的。例如,作为输入信息,是从未图示的雷达或红外线传感器等传感器得到的信息,能够求出对象范围的物体的距离或位置。此时,在雷达的情况下,考虑通过由处理区域设定部107将雷达的波束方向聚焦为处理的物体方向的方法来控制处理区域。此后的动作如上所述。
(实施例5)
图12是示出本发明的实施例5的物体位置检测装置的构成的图。对于实现与图1的构成相同功能的构成,赋予与图1相同的符号并省略详细说明。1201是网络摄像部。1203是LAN(Local Area Network)。1204是控制部。网络摄像部1201例如安装在车辆的挡风玻璃上。控制部1204被收纳在与网络摄像部1201不同的框体中,被配置在能够确保车辆内的空间的场所。例如,可以使用IEEE802.3等规定的网络作为LAN1203。
网络摄像部1201经由LAN1203连接到控制部1204。1202是图像压缩/接口部。1205是网络接口部。1206是图像解压缩部。
由摄像部101、摄像部102和摄像部103拍摄到的图像在图像校正部104中进行亮度校正、透镜畸变校正和水平位置对准。接着,图像压缩/接口部1202对来自图像校正部104的图像进行压缩,并经由LAN1203发送到控制部1204。为了减少处理时间,作为图像压缩的方式,有不使用多个图像的时间相关关系而使用在一张图像内进行压缩的画面内压缩方式的方式。另外,也可以选择并切换影像压缩编码方式。
图像压缩/接口部1202生成压缩编码数据,并按照规定的网络协议发送数据。另外,图像校正部104也可以设置在控制部1204的图像解压缩部1206的后级,但通过在网络摄像部1201的图像压缩/接口部1202的前级进行处理,在校正了透镜失真等之后进行图像压缩,由此能够实现图像压缩的高效率化和高画质化。在该情况下,处理区域设定部107的处理区域的设定从网络接口部1205经由LAN1203传递到图像压缩/接口部1202以及图像校正部104。
在控制部1204中,网络接口单元1205经由LAN1203接收压缩图像数据。由控制部1204的网络接口单元1205接收的压缩图像数据在图像解压缩部1206中被解压缩成由处理区域设定部107设置的处理区域的原始图像,并且由立体距离检测部105检测距离。此后的处理如上所述。
根据本实施例,由于经由LAN1203发送压缩图像,所以能够减少摄像部侧的处理量,能够降低因摄像部侧的轻量化、低耗电化、框体变小而导致的对车辆设置的尺寸限制。如果能够充分确保网络的传输带宽,则也可以不实施图像的压缩解压缩而进行传输。
另外,本发明不限于上述实施例,还包括各种变形例。例如,上述实施例是为了容易理解地说明本发明而详细说明的例子,并不一定限定于具备所说明的全部构成的例子。另外,可以将一个实施例的构成的一部分置换为另一个实施例的构成,另外,也可以在一个实施例的构成中添加另一个实施例的构成。另外,对于各实施例的构成的一部分,可以进行其他构成的追加、删除、置换。
另外,上述的各构成可以是它们的一部分或全部由硬件构成,也可以是通过由处理器执行程序来实现的构成。另外,控制线和信息线示出在说明上被认为是必要的,在产品上不一定示出全部的控制线和信息线。实际上,可以认为几乎所有的构成都相互连接。
另外,本发明的实施例也可以是以下的方式。
(1).一种物体位置检测装置,其根据分别由多个摄像部拍摄的物体的图像来检测所述物体的位置,所述多个摄像部包含第1摄像部和第2摄像部,所述物体位置检测装置具有:第1距离检测部,其在将从所述第1摄像部得到的图像作为基准图像、将从所述第2摄像部得到的图像作为参照图像的情况下,基于通过搜索与所述基准图像内的图像要素对应的所述参照图像内的图像要素而得到的视差,来检测所述物体的距离;第1位置检测部,其基于由所述第1距离检测部检测到的距离,来检测所述物体的位置;处理区域设定部,其在从所述多个摄像部中的某一个得到的图像内,设定包含由所述第1距离检测部检测到的所述物体的处理区域;第2位置检测部,其在所述处理区域内检测所述物体的位置;第2距离检测部,其基于由所述第2位置检测部检测到的所述物体的位置,来检测所述物体的距离;姿势检测部,其基于由所述第2位置检测部检测到的所述物体的位置,来检测所述物体的姿势;以及判定部,其根据由所述第1距离检测部、所述第2距离检测部、所述第1位置检测部、所述第2位置检测部以及所述姿势检测部分别检测到的距离、位置以及姿势,来判定所述物体的距离以及位置。
(2).根据(1)所述的物体位置检测装置,所述第2位置检测部检测正在追踪的所述物体的规定部位,所述姿势检测部检测根据由所述第2位置检测部检测到的规定部位确定的所述物体的后尾面的位置的姿势。
符号说明
1…物体位置检测装置,101~103…摄像部,104…图像校正部,105…立体距离检测部,106…位置检测部,107…处理区域设定部,108…识别部,109…位置检测部,110…距离检测部,111…姿势检测部,112…判定部,201…公共拍摄区域,202~205…被摄体,301~305…处理区域,401…处理区域,901…车辆控制部,1201…网络摄像部,1202…图像压缩/接口部,1203…LAN,1204…控制部,1205…网络接口部,1206…图像解压缩部。
Claims (7)
1.一种物体位置检测装置,其特征在于,具有:
第1距离检测部,其根据从第1摄像部和第2摄像部得到的图像来检测物体的距离;
第1位置检测部,其基于所述第1距离检测部检测到的距离,来检测所述物体的位置;
处理区域设定部,其在从包含所述第1摄像部和所述第2摄像部在内的多个摄像部的某一个得到的图像内,设定包含所述第1距离检测部检测到的所述物体的处理区域;
第2位置检测部,其在所述处理区域内检测所述物体的位置;
第2距离检测部,其基于所述第2位置检测部检测到的所述物体的位置,来检测所述物体的距离;
姿势检测部,其基于由所述第2位置检测部检测到的所述物体的位置来检测所述物体的姿势;以及
判定部,其根据由所述第1距离检测部、所述第2距离检测部、所述第1位置检测部、所述第2位置检测部以及所述姿势检测部分别检测出的信息,来判定所述物体的距离以及位置。
2.根据权利要求1所述的物体位置检测装置,其特征在于,
所述第2位置检测部检测正在追踪的所述物体的规定部位,所述姿势检测部检测根据由所述第2位置检测部检测到的规定部位确定的所述物体的后尾面的位置的姿势。
3.根据权利要求1或2所述的物体位置检测装置,其特征在于,
在由所述第1距离检测部检测到的距离比规定的距离远、由所述第1位置检测部检测到的位置在规定的范围内的情况下,所述判定部采用所述第2距离检测部和所述第2位置检测部的检测结果。
4.根据权利要求1或2所述的物体位置检测装置,其特征在于,
在由所述第1距离检测部检测到的距离比规定的距离近、由所述第1位置检测部检测到的位置在规定的范围外的情况下,所述判定部采用所述第1距离检测部和所述第1位置检测部的检测结果。
5.根据权利要求1或2所述的物体位置检测装置,其特征在于,
在由所述姿势检测部检测出的所述物体的姿势大于规定的角度的情况下,所述判定部采用所述第1距离检测部和所述第1位置检测部的检测结果。
6.一种控制跟随前方车辆的后续车辆的行驶的行驶控制系统,其特征在于,
所述后续车辆具备位置检测装置,该位置检测装置根据由拍摄前方的多个拍摄部分别拍摄的所述前方车辆的图像,来检测所述前方车辆的位置,
所述多个摄像部包含第1摄像部和第2摄像部,
所述位置检测装置具有:
第1距离检测部,其在将从所述第1摄像部得到的图像作为基准图像、将从所述第2摄像部得到的图像作为参照图像的情况下,基于通过搜索与所述基准图像内的图像要素对应的所述参照图像内的图像要素而得到的视差,来检测所述前方车辆的距离;
第1位置检测部,其基于由所述第1距离检测部检测到的距离,来检测所述前方车辆的位置;
处理区域设定部,其在从所述多个摄像部中的某一个得到的图像内,设定包含由所述第1距离检测部检测到的所述前方车辆的处理区域;
第2位置检测部,其在所述处理区域内检测所述前方车辆的位置;
第2距离检测部,其基于由所述第2位置检测部检测到的所述前方车辆的位置,来检测所述前方车辆的距离;
姿势检测部,其基于由所述第2位置检测部检测到的所述前方车辆的位置,检测所述前方车辆的姿势;以及
判定部,其根据由所述第1距离检测部、所述第2距离检测部、所述第1位置检测部、所述第2位置检测部以及所述姿势检测部分别检测出的距离、位置以及姿势,来判定所述前方车辆的距离以及位置,
还具有车辆控制部,其基于所述判定部的判定来控制所述后续车辆。
7.一种控制跟随前方车辆的后续车辆的行驶的行驶控制方法,其特征在于,具有如下步骤:
在拍摄所述后续车辆的前方的多个摄像部中,在将从第1摄像部得到的图像作为基准图像、将从第2摄像部得到的图像作为参照图像的情况下,基于通过搜索与所述基准图像内的图像要素对应的所述参照图像内的图像要素而得到的视差,来检测所述前方车辆的第1距离的步骤;
基于在检测所述第1距离的步骤中检测出的所述第1距离,来检测所述前方车辆的第1位置的步骤;
在由所述多个摄像部中的某一个得到的所述图像内,设定包含在检测所述第1距离的步骤中检测出的所述前方车辆的处理区域的步骤;
在所述处理区域内检测所述前方车辆的第2位置的步骤;
基于所述第2位置检测所述前方车辆的第2距离的步骤;
基于所述第2位置检测所述前方车辆的姿势的步骤;
根据所述第1距离、所述第2距离、所述第1位置、所述第2位置以及所述姿势,来判定所述前方车辆的距离以及位置的步骤;以及
基于所述判定的步骤的判定来控制所述后续车辆的步骤。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019-078410 | 2019-04-17 | ||
JP2019078410A JP7278846B2 (ja) | 2019-04-17 | 2019-04-17 | 物体位置検出装置、走行制御システム、および走行制御方法 |
PCT/JP2020/014748 WO2020213386A1 (ja) | 2019-04-17 | 2020-03-31 | 物体位置検出装置、走行制御システム、および走行制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113646607A true CN113646607A (zh) | 2021-11-12 |
Family
ID=72837271
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080022575.7A Pending CN113646607A (zh) | 2019-04-17 | 2020-03-31 | 物体位置检测装置、行驶控制系统及行驶控制方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11847791B2 (zh) |
JP (1) | JP7278846B2 (zh) |
CN (1) | CN113646607A (zh) |
DE (1) | DE112020000909T5 (zh) |
WO (1) | WO2020213386A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023112347A1 (ja) * | 2021-12-16 | 2023-06-22 | 古野電気株式会社 | 物標監視装置、物標監視方法、及びプログラム |
JP2023131720A (ja) * | 2022-03-09 | 2023-09-22 | キヤノン株式会社 | 電子機器、移動体、距離算出方法、及びコンピュータプログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002122670A (ja) * | 2000-10-18 | 2002-04-26 | Nissan Motor Co Ltd | 車間距離計測方法 |
JP2004053278A (ja) * | 2002-07-16 | 2004-02-19 | Nissan Motor Co Ltd | 前方車両追跡システムおよび前方車両追跡方法 |
JP2011121398A (ja) * | 2009-12-08 | 2011-06-23 | Toyota Motor Corp | 車両前方監視装置 |
CN104105942A (zh) * | 2012-02-10 | 2014-10-15 | 庞巴迪运输有限公司 | 轨道车辆至被布置在轨道车辆侧面的物体的距离的测量 |
CN107209012A (zh) * | 2015-02-02 | 2017-09-26 | 日立汽车系统株式会社 | 车辆控制装置,距离计算装置以及距离计算方法 |
WO2019058755A1 (ja) * | 2017-09-25 | 2019-03-28 | 日立オートモティブシステムズ株式会社 | 物体距離検出装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003061075A (ja) | 2001-08-09 | 2003-02-28 | Matsushita Electric Ind Co Ltd | 物体追跡装置、物体追跡方法および侵入者監視システム |
-
2019
- 2019-04-17 JP JP2019078410A patent/JP7278846B2/ja active Active
-
2020
- 2020-03-31 WO PCT/JP2020/014748 patent/WO2020213386A1/ja active Application Filing
- 2020-03-31 US US17/440,580 patent/US11847791B2/en active Active
- 2020-03-31 CN CN202080022575.7A patent/CN113646607A/zh active Pending
- 2020-03-31 DE DE112020000909.2T patent/DE112020000909T5/de active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002122670A (ja) * | 2000-10-18 | 2002-04-26 | Nissan Motor Co Ltd | 車間距離計測方法 |
JP2004053278A (ja) * | 2002-07-16 | 2004-02-19 | Nissan Motor Co Ltd | 前方車両追跡システムおよび前方車両追跡方法 |
JP2011121398A (ja) * | 2009-12-08 | 2011-06-23 | Toyota Motor Corp | 車両前方監視装置 |
CN104105942A (zh) * | 2012-02-10 | 2014-10-15 | 庞巴迪运输有限公司 | 轨道车辆至被布置在轨道车辆侧面的物体的距离的测量 |
CN107209012A (zh) * | 2015-02-02 | 2017-09-26 | 日立汽车系统株式会社 | 车辆控制装置,距离计算装置以及距离计算方法 |
WO2019058755A1 (ja) * | 2017-09-25 | 2019-03-28 | 日立オートモティブシステムズ株式会社 | 物体距離検出装置 |
Non-Patent Citations (1)
Title |
---|
李强: "基于异质传感器信息融合的导盲机器人同步定位与构图研究", 《中国优秀硕士学位论文全文数据库信息科技辑》, pages 42 - 43 * |
Also Published As
Publication number | Publication date |
---|---|
JP7278846B2 (ja) | 2023-05-22 |
US20220189179A1 (en) | 2022-06-16 |
WO2020213386A1 (ja) | 2020-10-22 |
DE112020000909T5 (de) | 2021-11-11 |
US11847791B2 (en) | 2023-12-19 |
JP2020176892A (ja) | 2020-10-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108496056B (zh) | 摄像装置 | |
CN109196304B (zh) | 物体距离检测装置 | |
EP2400315B1 (en) | Travel distance detection device and travel distance detection method | |
JP2007172540A (ja) | 移動体判定システム、移動体判定方法、及びコンピュータプログラム | |
US10595003B2 (en) | Stereo camera apparatus and vehicle comprising the same | |
US6366691B1 (en) | Stereoscopic image processing apparatus and method | |
JP2013250907A (ja) | 視差算出装置、視差算出方法及び視差算出用プログラム | |
CN113646607A (zh) | 物体位置检测装置、行驶控制系统及行驶控制方法 | |
JP4123138B2 (ja) | 車両検知方法及び車両検知装置 | |
JP5073700B2 (ja) | 物体検出装置 | |
JP6899673B2 (ja) | 物体距離検出装置 | |
EP3690812A1 (en) | Object distance detection device | |
Darms et al. | Data fusion strategies in advanced driver assistance systems | |
WO2021059589A1 (ja) | 物体検出装置、走行制御システム、および走行制御方法 | |
JP4797441B2 (ja) | 車両用画像処理装置 | |
JPH1141521A (ja) | 撮像装置および車間距離計測装置ならびに車間距離計測方法 | |
JP2013161187A (ja) | 物体認識装置 | |
US20200111227A1 (en) | Orientation detection apparatus for vehicle, image processing system, vehicle, and orientation detection method for vehicle | |
JP2021193634A (ja) | 情報処理システム、情報処理方法及び情報処理プログラム | |
JP2004220281A (ja) | 障害物検出装置 | |
JP2013161188A (ja) | 物体認識装置 | |
JPH07123316A (ja) | 車載カメラの撮像面調整装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |