CN112241979A - 图像处理装置 - Google Patents

图像处理装置 Download PDF

Info

Publication number
CN112241979A
CN112241979A CN202010392738.2A CN202010392738A CN112241979A CN 112241979 A CN112241979 A CN 112241979A CN 202010392738 A CN202010392738 A CN 202010392738A CN 112241979 A CN112241979 A CN 112241979A
Authority
CN
China
Prior art keywords
image
distance values
processing unit
straight line
representative distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010392738.2A
Other languages
English (en)
Inventor
新井秀治
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Publication of CN112241979A publication Critical patent/CN112241979A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/187Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20068Projection on vertical or horizontal image axis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明提供能够适当地设定图像区域的图像处理装置。本发明的一个实施方式的图像处理装置具备基于由立体图像生成的距离图像而生成多个代表距离值的代表距离计算部、以及能够进行将所设定的第一、第二图像区域结合的结合处理并进行判定第一、第二图像区域的虚拟结合区域是否包含其他车辆的拐角部的图像的判定处理且在虚拟结合区域包含拐角部的图像的情况下避免结合处理的结合处理部。结合处理部基于与第一图像区域对应的多个第一代表距离值而生成第一近似直线并且计算出第一偏差程度,基于与第二图像区域对应的多个第二代表距离值而生成第二近似直线并且计算出第二偏差程度,基于第一、第二偏差程度进行判定处理。

Description

图像处理装置
技术领域
本发明涉及一种进行图像处理的图像处理装置。
背景技术
在图像处理装置中,在帧图像中设定图像区域,并基于该图像区域中的图像来进行各种处理。例如,在专利文献1中,公开了如下特征提取装置,其通过聚类处理对作为表示物体的表面上的位置的三维点的集合的三维点阵进行分割从而生成点阵聚类,并基于该点阵聚类提取特征量。
现有技术文献
专利文献
专利文献1:日本特开2019-3527号公报
发明内容
技术问题
期待在图像处理装置中,能够在帧图像中适当地设定图像区域。
期待提供一种能够适当地设定图像区域的图像处理装置。
技术方案
本发明的一个实施方式的图像处理装置具备代表距离计算部以及结合处理部。代表距离计算部构成为,基于距离图像而生成多个代表距离值,所述距离图像是基于立体图像而生成且包含各像素的距离值的图像,所述多个代表距离值与距离图像中的多个像素列相对应且分别为对应的像素列的距离值的代表值。结合处理部构成为,能够进行将基于立体图像所包含的且包含其他车辆的一个或多个物体的图像而设定的第一图像区域和第二图像区域结合的结合处理。该结合处理部进行判定作为第一图像区域和第二图像区域虚拟结合而得的区域的虚拟结合区域是否包含其他车辆的拐角部的图像的判定处理,在虚拟结合区域包含拐角部的图像的情况下,避免结合处理。结合处理部在第一图像区域中,基于多个代表距离值中的、与属于第一图像区域的多个像素列对应的多个第一代表距离值而生成第一近似直线,并且计算出多个第一代表距离值相对于第一近似直线的第一偏差程度,在第二图像区域中,基于多个代表距离值中的、与属于第二图像区域的多个像素列对应的多个第二代表距离值而生成第二近似直线,并且计算出多个第二代表距离值相对于第二近似直线的第二偏差程度,结合处理部基于第一偏差程度和第二偏差程度而进行判定处理。
技术效果
根据本发明的一个实施方式的图像处理装置,基于与属于第一图像区域的多个像素列对应的多个第一代表距离值而生成第一近似直线,并且计算出多个第一代表距离值相对于第一近似直线的第一偏差程度,基于与属于第二图像区域的多个像素列对应的多个第二代表距离值而生成第二近似直线,并且计算出多个第二代表距离值相对于第二近似直线的第二偏差程度,基于第一偏差程度和第二偏差程度而进行判定处理,因此能够适当地设定图像区域。
附图说明
图1是示出本发明的一个实施方式的图像处理装置的一个构成例的框图。
图2是示出距离图像的一例的说明图。
图3是示出代表距离值的一例的说明图。
图4是示出图1所示的处理部的一个动作例的图像图。
图5是示出图1所示的处理部的一个动作例的流程图。
图6是示出图1所示的处理部的一个动作例的其他图像图。
图7是示出图1所示的分割处理部的分割处理的一例的流程图。
图8是示出图1所示的分割处理部的一个动作例的说明图。
图9A是示出图1所示的分割处理部的一个动作例的其他说明图。
图9B是示出图1所示的分割处理部的一个动作例的其他说明图。
图9C是示出图1所示的分割处理部的一个动作例的其他说明图。
图9D是示出图1所示的分割处理部的一个动作例的其他的说明图。
图9E是示出图1所示的分割处理部的一个动作例的其他说明图。
图10是示出图1所示的分割处理部的一个动作例的其他说明图。
图11是示出图1所示的结合处理部的结合处理的一例的流程图。
图12是示出图1所示的结合处理部的一个动作例的说明图。
图13是示出图1所示的结合处理部的一个动作例的其他说明图。
图14是示出图1所示的结合处理部的一个动作例的其他说明图。
图15是示出图1所示的结合处理部的一个动作例的其他说明图。
图16A是示出图1所示的处理部的一个动作例的其他图像图。
图16B是示出图1所示的处理部的一个动作例的其他图像图。
图17A是示出图1所示的结合处理部的其他结合处理的一例的流程图。
图17B是示出图1所示的结合处理部的其他结合处理的一例的流程图。
图18是示出图1所示的结合处理部的一个动作例的其他说明图。
图19是示出图1所示的结合处理部的一个动作例的其他说明图。
图20是示出图1所示的结合处理部的一个动作例的其他说明图。
图21是示出图1所示的结合处理部的一个动作例的其他说明图。
符号说明
1…图像处理装置、10…车辆、11…立体相机、11L…左相机、11R…右相机、20…处理部、21…距离图像生成部、22…代表距离计算部、23…图像区域设定部、24…聚类处理部、25…分割处理部、26…结合处理部、A…区域分割处理、A1…分割处理、B…区域结合处理、B1、B2…结合处理、CP…拐角位置、DA…区域间距离、DB…组群间距离、H…直方图、L…近似直线、M…直线、P…像素、PIC…立体图像、POS…虚拟分割位置、POSC…分割位置、PL…左图像、PR…右图像、PZ…距离图像、R、R1~R9…图像区域、V…离散值、Zmeas…测定距离值、Zpeak…代表距离值。
具体实施方式
以下,参照附图,对本发明的实施方式进行详细说明。
<实施方式>
[构成例]
图1是示出一个实施方式的图像处理装置(图像处理装置1)的一个构成例的图。图像处理装置1具有立体相机11和处理部20。图像处理装置1搭载于汽车等车辆10。
立体相机11构成为,通过拍摄车辆10的前方,从而生成彼此具有视差的一组图像(左图像PL和右图像PR)。立体相机11具有左相机11L和右相机11R。左相机11L和右相机11R各自包括镜头和图像传感器。在该例中,左相机11L和右相机11R在车辆10的车辆内,在车辆10的挡风玻璃的上部附近,沿车辆10的宽度方向仅以预定距离分离地配置。左相机11L和右相机11R彼此同步地进行拍摄动作。左相机11L生成左图像PL,右相机11R生成右图像PR。左图像PL和右图像PR构成立体图像PIC。左图像PL和右图像PR彼此具有视差。立体相机11通过以预定的帧率(例如60[fps])进行拍摄动作,从而生成一连串的立体图像PIC。
处理部20构成为,基于从立体相机11供给的立体图像PIC,通过在左图像PL和右图像PR所包括的、车辆10的前方的车辆等各种物体上设定图像区域R来识别物体。在车辆10中,例如,基于处理部20识别到的物体的信息,例如能够进行车辆10的行驶控制,或者,能够在操作显示屏上显示识别到的物体的信息。处理部20由例如执行程序的CPU(CentralProcessing Unit:中央处理单元),暂时存储处理数据的RAM(Random Access Memory:随机存取存储器)、以及存储程序的ROM(Read Only Memory:只读存储器)等构成。处理部20具有距离图像生成部21、代表距离计算部22、图像区域设定部23、聚类处理部24、分割处理部25、以及结合处理部26。
距离图像生成部21构成为,基于左图像PL和右图像PR,进行包括立体匹配处理和/或滤光处理等的预定的图像处理,从而生成距离图像PZ。
图2是示出距离图像PZ的一例的图。左图像PL和右图像PR同样地,距离图像PZ中的横轴对应于车辆10的车宽方向上的坐标x,纵轴对应于车辆10的车高方向上的坐标y。距离图像PZ的各像素P的像素值对应于三维的实际空间中的、到与各像素对应的点为止的距离值(测定距离值Zmeas)。换而言之,各像素P的像素值对应于车辆10的车长方向上的坐标z。
代表距离计算部22构成为,基于距离图像PZ针对各距离图像PZ的像素列而计算出代表距离值Zpeak。具体而言,代表距离计算部22依次选择距离图像PZ中的多个像素列,并基于属于所选择的像素列的多个测定距离值Zmeas而生成直方图H。然后,代表距离计算部22基于该直方图H而计算出所选择的像素列中的代表距离值Zpeak。
图3是示出基于属于图2所示的距离图像PZ中的第j列像素列的多个测定距离值Zmeas而生成的直方图Hj的一例的图。横轴表示坐标z的值,纵轴表示频率。代表距离计算部22获取频率最高的坐标z的值作为代表距离值Zpeak。代表距离计算部22通过针对所有的像素列分别生成这样的直方图H,从而分别计算出代表距离值Zpeak。
图像区域设定部23构成为,基于距离图像PZ而设定多个图像区域R。具体而言,图像区域设定部23以在距离图像PZ中,使测定距离值Zmeas连续的多个像素P属于一个图像区域R的方式设定图像区域R。
图4是示出图像区域R的一例的图。在该例中,立体图像PIC中的左图像PL包括作为本车辆的车辆10的前方的两台车辆9A、9B的图像。应予说明,虽然在该例子中利用左图像PL进行说明,但是对于右图像PR以及距离图像PZ来说也是同样的。
车辆9A沿道路在车辆10的前方行驶,该左图像PL包括车辆9A的背面的图像。在车辆9A的背面中,距离图像PZ中的测定距离值Zmeas连续,因此图像区域设定部23设定包含车辆9A的背面的图像区域R(图像区域RA)。
车辆9B从横向进入到车辆10的前方。由于该车辆9B朝向从道路的延伸方向偏离的方向,所以左图像PL包括车辆9B的侧面101的图像、车辆9B的背面102的图像、以及车辆9B的侧面101与背面102之间的拐角部103的图像。在该例中,由于在车辆9B的侧面101、背面102以及拐角部103,距离图像PZ中的测定距离值Zmeas连续,所以图像区域设定部23设定包含车辆9B的侧面101、背面102以及拐角部103的一个图像区域R(图像区域R1)。
聚类处理部24构成为,在基于当前的立体图像PIC的处理中,参考基于过去的立体图像PIC的处理,通过结合多个图像区域R而设定一个图像区域R。具体而言,例如,在当前的立体图像PIC中针对某一车辆设定多个图像区域R,并在基于前一个立体图像PIC的处理中针对该车辆设定一个图像区域R的情况下,聚类处理部24通过结合这些多个图像区域R而设定一个图像区域R。
分割处理部25构成为,基于图像区域R中的多个代表距离值Zpeak,在满足了预定的条件的情况下,进行将该图像区域R分割为两个图像区域R的区域分割处理A。区域分割处理A包括分割处理A1。分割处理部25在该分割处理A1中,例如,基于与属于某个图像区域R(图像区域R1)的多个像素列对应的多个代表距离值Zpeak来判定该图像区域R1是否包括车辆的拐角部的图像。并且,分割处理部25在该图像区域R1包括该拐角部的图像的情况下,基于该拐角部而将该图像区域R1分割为两个图像区域R(图像区域R2、R3)。即,在图4的例子中,分割处理部25通过判定为图像区域R1包括车辆9B的拐角部103,从而将该图像区域R1分割为包括车辆9B的侧面101的图像的图像区域R2、以及包括车辆9B的背面102的图像的图像区域R3。
结合处理部26构成为,基于两个图像区域R各自的多个代表距离值Zpeak,在满足了预定的条件的情况下,进行将这两个图像区域R结合的区域结合处理B。
区域结合处理B包括结合处理B1。结合处理部26在该结合处理B1中,在对应于某个图像区域R(图像区域R4)所包括的图像的三维的实际空间中的部分与对应于另外某个图像区域R(图像区域R5)所包括的图像的三维的实际空间中的部分彼此靠近的情况下,通过将这两个图像区域R4、R5结合而设定一个图像区域R(图像区域R6)。另外,结合处理部26例如判定两个图像区域R4、R5虚拟结合而得的区域是否包括车辆的拐角部的图像。而且,结合处理部26在该区域包括该拐角部的图像的情况下,不使这两个图像区域R4、R5结合。
另外,区域结合处理B包括结合处理B2。结合处理部26在该结合处理B2中,即使在对应于某个图像区域R(图像区域R7)所包括的图像的三维的实际空间中的部分与对应于另外某个图像区域R(图像区域R8)所包括的图像的三维的实际空间中的部分彼此稍微分离时,在满足预定的条件的情况下,也将这两个图像区域R7、R8结合而设定一个图像区域R(图像区域R9)。例如,结合处理部26判定彼此分离的两个图像区域R7、R8这两者是否包括某一个车辆的侧面中的彼此不同的部分的图像。并且,结合处理部26在两个图像区域R7、R8这两者包括该车辆的侧面的彼此不同的部分的图像的情况下,通过将两个图像区域R7、R8结合而设定图像区域R9。具体而言,如后述那样地,例如,可以有图像区域R7包括车长如公共汽车那样长的车辆的侧面的前部的图像,图像区域R8包括该车辆的侧面的后部的图像的情况。即,例如,因为公共汽车的侧面难以进行图案匹配,所以距离图像生成部21难以生成精度高的距离图像PZ。在该情况下,可以在公共汽车的侧面的前部和侧面的后部分别设定独立的图像区域R7、R8。在这样的情况下,结合处理部26能够通过结合这两个图像区域R7、R8而设定一个图像区域R9。
由此,处理部20对车辆10的前方的车辆进行识别。然后,处理部20输出针对该识别结果的信息。
通过该构成,在图像处理装置1中,分割处理部25在分割处理A1中,在某个图像区域R(图像区域R1)包括车辆的拐角部的图像的情况下,将该图像区域R1分割为包括车辆的侧面的图像的图像区域R(图像区域R2)、以及包括车辆的背面的图像的图像区域R(图像区域R3)。结合处理部26在结合处理B1中,由于这些图像区域R2和图像区域R3虚拟结合而得的区域包括车辆的拐角部的图像,所以不结合这些图像区域R2和图像区域R3。由此,在图像处理装置1中,由于能够在车辆的侧面与该车辆的背面分别设定独立的图像区域R2、R3,所以能够将该车辆分为侧面和背面而进行识别。
另外,在图像处理装置1中,结合处理部26在结合处理B2中,在某个图像区域R(图像区域R7)包括公共汽车的侧面的前部的图像,并且另外某个图像区域R(图像区域R8)包括公共汽车的侧面的后部的图像的情况下,通过结合这两个图像区域R7、R8而设定一个图像区域R(图像区域R9)。由此,在图像处理装置1中,由于能够在一个车辆的侧面设定一个图像区域R9,所以能够将该车辆的侧面识别为统一的一个图像。
在此,代表距离计算部22对应于本发明中的“代表距离计算部”的一个具体例。测定距离值Zmeas对应于本发明中的“距离值”的一个具体例。代表距离值Zpeak对应于本发明中的“代表距离值”的一个具体例。图像区域设定部23对应于本发明中的“图像区域设定部”的一个具体例。结合处理部26对应于本发明中的“结合处理部”的一个具体例。结合处理B1对应于本发明中的“结合处理”的一个具体例。图像区域R4和图像区域R5对应于本发明中的“第一图像区域”和“第二图像区域”的一个具体例。分割处理部25对应于本发明的“分割处理部”的一个具体例。分割处理A1对应于本发明的“分割处理”的一个具体例。图像区域R1对应于本发明的“第三图像区域”的一个具体例。
[动作和作用]
接着,对本实施方式的图像处理装置1的动作和作用进行说明。
(整体动作概要)
首先,参照图1,对图像处理装置1的整体动作概要进行说明。立体相机11通过拍摄车辆10的前方而生成包括左图像PL和右图像PR的立体图像PIC。处理部20基于从立体相机11供给的立体图像PIC,通过在左图像PL和右图像PR所包括的车辆10的前方的车辆等各种物体分别设定图像区域R,从而识别物体。
(详细动作)
图5是示出处理部20的一个动作例的流程图。处理部20在每次从立体相机11供给立体图像PIC时,都基于该立体图像PIC而生成距离图像PZ,并基于该距离图像PZ而设定多个图像区域R。并且,处理部20通过分割一个图像区域R,或者结合两个图像区域R,从而设定一个或多个图像区域R。以下,对该处理进行详细说明。
首先,距离图像生成部21基于立体图像PIC所包括的左图像PL和右图像PR而进行包括立体匹配处理和/或滤光处理等的预定的图像处理,从而生成距离图像PZ(步骤S101)。
接下来,代表距离计算部22基于距离图像PZ,针对距离图像PZ的每个像素列而计算出代表距离值Zpeak(步骤S102)。具体而言,代表距离计算部22依次选择距离图像PZ中的多个像素列,并基于属于所选择的像素列的多个测定距离值Zmeas而生成直方图H(图3)。然后,代表距离计算部22在该直方图H中,获取频率最高的坐标z的值作为代表距离值Zpeak。代表距离计算部22针对所有的像素列而分别生成直方图H,从而针对每个像素列而分别计算出代表距离值Zpeak。
接下来,图像区域设定部23基于距离图像PZ而设定多个图像区域R(步骤S103)。具体而言,图像区域设定部23以在距离图像PZ中,使测定距离值Zmeas连续的多个像素P属于一个图像区域R的方式,设定图像区域R。
接下来,聚类处理部24在基于当前的立体图像PIC的处理中,参考基于过去的立体图像PIC的处理,通过将多个图像区域R结合而设定一个图像区域R(步骤S104)。具体而言,例如,在当前的立体图像PIC中针对某一个车辆而设定多个图像区域R,且在基于前一个立体图像PIC的处理中针对该车辆而设定一个图像区域R的情况下,聚类处理部24通过结合这些多个图像区域R而设定一个图像区域R。
接下来,分割处理部25基于图像区域R的多个代表距离值Zpeak,在满足了预定的条件的情况下,进行将该图像区域R分割为两个图像区域R的区域分割处理A(步骤S105)。后面对该区域分割处理A所包括的分割处理A1进行详细描述。
接下来,结合处理部26基于两个图像区域R各自的多个代表距离值Zpeak,在满足了预定的条件的情况下,进行将这两个图像区域R结合的区域结合处理B(步骤S106)。后面对该区域结合处理B所包括的结合处理B1、B2进行详细描述。
以上,该流程结束。
(分割处理A1)
接下来,对图5的步骤S105所示的区域分割处理A所包括的分割处理A1进行详细说明。
分割处理部25在该分割处理A1中,例如,基于与属于某个图像区域R(图像区域R1)的多个像素列对应的多个代表距离值Zpeak来判定该图像区域R1是否包括车辆的拐角部的图像。然后,分割处理部25在该图像区域R1包括该拐角部的图像的情况下,基于该拐角部而将该图像区域R1分割为两个图像区域R(图像区域R2、R3)。
图6是示出利用该分割处理A1来分割图4所示的图像区域R1而设定的图像区域R2、R3的一例的图。如图4所示,图像区域R1包括车辆9B的侧面101的图像、车辆9B的背面102的图像、以及车辆9B的拐角部103的图像。分割处理部25判定为该图像区域R1包括该拐角部的图像。然后,分割处理部25基于该拐角部103,如图6所示地将图像区域R1分割为包括车辆9B的侧面101的图像的图像区域R2、以及包括车辆9B的背面102的图像的图像区域R3。由此,处理部20能够将车辆9B分为侧面与背面而进行识别。
图7是示出分割处理A1的一例的图。
首先,分割处理部25选择多个图像区域R中的、成为处理对象的图像区域R(图像区域R1)(步骤S111)。
接下来,分割处理部25基于图像区域R1中的多个代表距离值Zpeak,利用最小二乘法计算出近似直线L,并计算出这些多个代表距离值Zpeak的、相对于该近似直线L的离散值(步骤S112)。
图8是示出步骤S112中的处理的一例的图。横轴表示坐标x,纵轴表示坐标z。在该图8中,在这样的x-z坐标面中,绘制了表示与属于图像区域R1的多个像素列对应的多个代表距离值Zpeak的多个坐标点。分割处理部25基于这些多个代表距离值Zpeak,利用最小二乘法而计算出近似直线L0。然后,分割处理部25计算出这些多个代表距离值Zpeak的、相对于近似直线L的离散值V0。
接下来,分割处理部25在该图像区域R1中设定虚拟分割位置POS而对图像区域R1进行虚拟分割(步骤S113),在被虚拟分割的各区域中,基于该区域的多个代表距离值Zpeak,利用最小二乘法计算出近似直线L,并计算出这些多个代表距离值Zpeak的、相对于该近似直线L的离散值V(步骤S114)。在没有以预定次数N进行虚拟分割的情况下(在步骤S115中为“否”),返回步骤S113。然后,反复进行步骤S113~S115的处理直到以预定次数N进行虚拟分割为止。
图9A~9E是示出步骤S113~S115的处理的一例的图。在该例中,预定次数N是“5”,分割处理部25在图像区域R1中设定五个虚拟分割位置POS(虚拟分割位置POS1~POS5)。
例如,如图9A所示,分割处理部25在虚拟分割位置POS1处进行虚拟分割。然后,分割处理部25基于该虚拟分割位置POS1的左侧区域中的多个代表距离值Zpeak,利用最小二乘法计算出近似直线L11,并计算出这些多个代表距离值Zpeak的、相对于近似直线L11的离散值V11。另外,分割处理部25基于该虚拟分割位置POS1的右侧区域中的多个代表距离值Zpeak,利用最小二乘法计算出近似直线L12,并计算出这些多个代表距离值Zpeak的、相对于近似直线L12的离散值V12。
同样地,分割处理部25通过在虚拟分割位置POS2(图9B)处进行虚拟分割而计算出近似直线L21、L22和离散值V21、V22,通过在虚拟分割位置POS3(图9C)处进行虚拟分割而计算出近似直线L31、L32和离散值V31、V32,通过在虚拟分割位置POS4(图9D)处进行虚拟分割而计算出近似直线L41、L42和离散值V41、V42,通过在虚拟分割位置POS5(图9E)处进行虚拟分割而计算出近似直线L51、L52和离散值V51、V52。
接下来,分割处理部25选择相对于近似直线L的偏差程度最小的虚拟分割位置POS(步骤S116)。相对于近似直线L的偏差程度例如能够利用以下的数式来评价。
【数式1】
Figure BDA0002486210410000101
在此,σ1是在虚拟分割位置POS1处进行了虚拟分割的情况下的相对于近似直线L11、L12的偏差程度。该偏差程度σ1是虚拟分割位置POS1的左侧区域中的离散值V11的平方根与虚拟分割位置POS1的右侧区域中的离散值V12的平方根的和。换而言之,该偏差程度σ1是虚拟分割位置POS1的左侧区域中的标准偏差与虚拟分割位置POS1的右侧区域中的标准偏差的和。同样地,σ2是在虚拟分割位置POS2处进行了虚拟分割的情况下的相对于近似直线L21、L22的偏差程度,σ3是在虚拟分割位置POS3处进行了虚拟分割的情况下的相对于近似直线L31、L32的偏差程度,σ4是在虚拟分割位置POS4处进行了虚拟分割的情况下的相对于近似直线L41、L42的偏差程度,σ5是在虚拟分割位置POS5处进行了虚拟分割的情况下的基于近似直线L51、L52的偏差程度。分割处理部25选择获取该偏差程度σ1~σ5中的最小的偏差程度σ的虚拟分割位置POS。在图9A~9E的例子中,分割处理部25选择虚拟分割位置POS4。
接下来,分割处理部25基于在步骤S116中选择的虚拟分割位置POS来推定车辆的拐角部的位置(拐角位置CP)(步骤S117)。
图10是示出步骤S117的处理的一例的图。在该例中,分割处理部25在使被选择的虚拟分割位置POS4的左侧区域中的近似直线L41向虚拟分割位置POS4的右侧区域延长的同时,使被选择的虚拟分割位置POS4的右侧区域中的近似直线L42向虚拟分割位置POS4的左侧区域延长。被延长的近似直线L41与被延长的近似直线L42彼此交叉的位置对应于拐角位置CP。即,因为横轴表示作为本车辆的车辆10的车宽方向上的坐标x,纵轴表示车辆10的车长方向上的坐标z,所以在该x-z平面上,近似直线L41对应于图4所示的车辆9B的侧面101,近似直线L42对应于该车辆9B的背面102。由此,被延长的近似直线L41与被延长的近似直线L42彼此交叉的位置对应于车辆9B的拐角部103的位置。如此,分割处理部25推定拐角位置CP。
接下来,分割处理部25基于步骤S117中推定的拐角位置CP来判定是否满足分割图像区域R1时的预定的分割条件(步骤S118)。预定的分割条件例如能够包括以下五个条件,分割处理部25例如在满足了这些五个条件的情况下,判定为满足预定的分割条件。
第一条件是步骤S117中推定的拐角位置CP的x坐标位于图像区域R1的条件。即,由于满足该第一条件的情况表示图像区域R1包括拐角部的图像的可能性高的情况,所以该第一条件可以成为分割条件。
第二条件是在拐角位置CP的x坐标上分割出图像区域R1的情况下的、相对于近似直线L的离散值V小于步骤S112中计算出的离散值V0的条件。即,因为满足该第二条件的情况表示通过分割而更适当地设定两个图像区域R(图像区域R2、R3)的情况,所以该第二条件可以成为分割条件。
第三条件是步骤S117中使用的两个近似直线L所形成的角θ(图10)在包括90度的预定的角度范围的范围内的条件。即,因为这两个近似直线L对应于车辆的侧面和背面,所以期待两个近似直线L所形成的角θ成为大致90度。因为满足该第三条件的情况表示图像区域R1包括拐角部的图像的可能性高的情况,所以该第三条件可以成为分割条件。
第四条件是图像区域R1中的、比拐角位置CP的x坐标更靠左侧的区域的宽度为预定的宽度以上,并且比拐角位置CP的x坐标更靠右侧的区域的宽度为预定的宽度以上的条件。即,因为满足该第四条件的情况表示通过分割而设定的两个图像区域R(图像区域R2、R3)的大小成为某种程度的大小的情况,所以该第四条件可以成为分割条件。
第五条件是步骤S112中计算出的离散值V0为预定的值以上的条件。即,满足该第五条件的情况表示利用一条近似直线L0进行近似的情况不适当,换而言之,表示图像区域R1包括拐角部的图像的可能性高的情况。因此,该第五条件可以成为分割条件。
分割处理部25在全部满足这样的多个条件的情况下,判定为满足预定的分割条件。换而言之,分割处理部25判定为图像区域R1包括拐角部的图像。
在步骤S118中,在不满足预定的分割条件的情况下(在步骤S118中为“否”),该流程结束。另外,在满足预定的分割条件的情况下(在步骤S118中为“是”),分割处理部25将在步骤S117中推定的拐角位置CP的x坐标设定为分割位置POSC,并利用该分割位置POSC将图像区域R1分割为两个图像区域R2、R3(步骤S119)。
以上,该分割处理A1结束。分割处理部25依次选择多个图像区域R中的、成为处理对象的图像区域R1,并对所选择的图像区域R1进行这样的分割处理A1。
在图像处理装置1中,如图4所示,由于在图像区域R1包括车辆的拐角部的图像的情况下,满足预定的分割条件(在步骤S118中为“是”),所以分割处理部25将该图像区域R1分割为包括车辆的侧面的图像的图像区域R2、以及包括车辆的背面的图像的图像区域R3。由此,在图像处理装置1中,由于能够在车辆的侧面与该车辆的背面分别设定独立的图像区域R2、R3,所以能够将该车辆分为侧面与背面而进行识别。
(结合处理B1)
接下来,对图5的步骤S106所示的区域结合处理B所包括的结合处理B1进行详细说明。
结合处理部26在该结合处理B1中,在对应于某个图像区域R(图像区域R4)所包括的图像的三维的实际空间中的部分与对应于另外某个图像区域R(图像区域R5)所包括的图像的三维的实际空间的部分彼此靠近的情况下,通过将这两个图像区域R4、R5结合而设定一个图像区域R(图像区域R6)。另外,结合处理部26例如判定两个图像区域R4、R5虚拟结合后的区域是否包括车辆的拐角部的图像。并且,结合处理部26在该区域包括该拐角部的图像的情况下,避免这两个图像区域R4、R5的结合。
图11是示出结合处理B1的一例的图。
首先,结合处理部26选择多个图像区域R中的、成为处理对象的两个图像区域R(图像区域R4、R5)(步骤S121)。具体而言,结合处理部26选择多个图像区域R中的、对应于图像区域R所包括的图像的三维的实际空间中的距离彼此比预定的距离近的两个图像区域R4、R5。
接下来,结合处理部26对图像区域R4、R5进行虚拟结合,并基于虚拟结合后的区域中的多个代表距离值Zpeak,利用最小二乘法而计算出近似直线L(步骤S122)。
图12是示出步骤S122中的处理的一例的图。在该图12中,在x-z坐标面中绘制表示与属于图像区域R1的多个像素列对应的多个代表距离值Zpeak的坐标点。结合处理部26基于这些多个代表距离值Zpeak,利用最小二乘法而计算出近似直线L100。
接下来,结合处理部26分别在图像区域R4、R5中,基于多个代表距离值Zpeak,利用最小二乘法而计算出近似直线L,并计算出多个代表距离值Zpeak的、相对于该近似直线L的离散值V(步骤S123)。
图13是示出步骤S123中的处理的一例的图。结合处理部26基于图像区域R4中的多个代表距离值Zpeak,利用最小二乘法而计算出近似直线L101,并计算出这些多个代表距离值Zpeak的、相对于近似直线L101的离散值V101。同样地,结合处理部26基于图像区域R5中的多个代表距离值Zpeak,利用最小二乘法而计算出近似直线L102,并计算出这些多个代表距离值Zpeak的、相对于近似直线L102的离散值V102。
接下来,结合处理部26分别在图像区域R4、R5中,利用在步骤S122中计算出的近似直线L的倾斜度和截距而计算出直线M,并计算出多个代表距离值Zpeak的、相对于该直线M的离散值V(步骤S124)。
图14是示出步骤S124中的处理的一例的图。结合处理部26在图像区域R4中,利用步骤S122中计算出的近似直线L的倾斜度和截距而计算出直线M111,从而计算出多个代表距离值Zpeak的、相对于该直线M111的离散值V111。该离散值V111是图像区域R4中的多个代表距离值Zpeak的、相对于近似直线L100的离散值V。同样地,结合处理部26在图像区域R5中,利用在步骤S122中计算出的近似直线L的倾斜度和截距而计算出直线M112,并计算出多个代表距离值Zpeak的、相对于该直线M112的离散值V112。该离散值V112是图像区域R5中的多个代表距离值Zpeak的、相对于近似直线L100的离散值V。
接下来,结合处理部26在被虚拟结合而成的区域中,计算出多个代表距离值Zpeak的、相对于在步骤S122中计算出的近似直线L的离散值V(步骤S125)。
图15是示出步骤S125的处理的一例的图。结合处理部26在被虚拟结合而得的区域中,计算出多个代表距离值Zpeak的、相对于在步骤S122中计算出的近似直线L100的离散值V100。
接下来,结合处理部26计算出通过虚拟结合而得的离散值V的变化率(步骤S126)。离散值V的变化率例如能够包括以下那样的三个变化率。
第一变化率是通过虚拟结合而得的、整个区域中的离散值V的变化率。具体而言,该第一变化率是例如从图像区域R4中的离散值V101与图像区域R5中的离散值V102(图13)的和向被虚拟结合而得的区域中的离散值V100(图15)变化的变化率。
第二变化率是通过虚拟结合而得的、图像区域R4中的离散值V的变化率。具体而言,第二变化率是例如从图像区域R4中的相对于近似直线L101的离散值V101(图13)向图像区域R4中的相对于直线M111的离散值V111(图14)变化的变化率。
第三变化率是通过虚拟结合而得的、图像区域R5中的离散值V的变化率。具体而言,第三变化率是例如从图像区域R5中的相对于近似直线L102的离散值V102(图13)向图像区域R5中的相对于直线M112的离散值V112(图14)变化的变化率。
接下来,结合处理部26判定是否满足结合图像区域R4、R5时的预定的结合条件(步骤S127)。预定的结合条件例如能够包括以下三个条件,结合处理部26例如在满足了这三个条件的情况下,判定为满足预定的结合条件。第一条件是第一变化率小于预定的第一阈值的条件。第二条件是第二变化率小于预定的第二阈值的条件。第三条件是第三变化率小于预定的第三阈值的条件。结合处理部26通过判定是否全部满足了这些多个条件,从而判定是否满足预定的结合条件。
在步骤S127中,在不满足预定的结合条件的情况下(在步骤S127中为“否”),该流程结束。另外,在满足预定的结合条件的情况下(在步骤S127中为“是”),结合处理部26通过结合图像区域R4和图像区域R5而设定图像区域R6(步骤S128)。
以上,该结合处理B1结束。结合处理部26依次选择成为处理对象的两个图像区域R4、R5,对所选择的两个图像区域R4、R5进行这样的结合处理B1。
在图像处理装置1中,例如,如图7所示的分割处理A1中所说明的那样,在图像区域R1包括车辆的拐角部的图像的情况下,该图像区域R1被分割为包括车辆的侧面的图像的图像区域R2、以及包括车辆的背面的图像的图像区域R3。在该情况下,在结合处理B1中,若结合这些图像区域R2和图像区域R3则离散值V变大,由于不满足预定的结合条件(在步骤S127中为“否”),所以结合处理部26不结合这些图像区域R2和图像区域R3。该预定的结合条件是被虚拟结合而得的区域不包括车辆的拐角部的图像。即,在该图像区域R2、R3的例子中,由于不满足该预定的结合条件,所以判定为被虚拟结合而得的区域包括车辆的拐角部的图像。由此,结合处理部26不结合图像区域R2和图像区域R3。由此,在图像处理装置1中,能够防止通过分割处理A1分割而设定的图像区域R2、R3在该结合处理B1中被结合。
(结合处理B2)
接下来,对图5的步骤S106所示的区域结合处理B所包括的结合处理B2进行详细说明。
在该结合处理B2中,结合处理部26判定彼此分离的两个图像区域R(图像区域R7、R8)这两者是否包括某一个车辆的侧面的彼此不同的部分的图像。并且,在两个图像区域R7、R8这两者包括该车辆的侧面中的彼此不同的部分的图像的情况下,结合处理部26通过结合两个图像区域R7、R8而设定图像区域R9。
图16A是示出图像区域R7、R8的一例的图。图16B是示出通过利用该结合处理B2结合这些图像区域R7、R8而设定成的图像区域R9的一例的图。在该例子中,立体图像PIC中的左图像PL包括作为本车辆的车辆10的前方的车辆9C的图像。应予说明,虽然在该例子中利用左图像PL进行说明,但是对于右图像PR以及距离图像PZ来说也是同样的。
车辆9C是车长长的车辆,在该例子中是公共汽车。该车辆9C从横向进入到车辆10的前方。由于该车辆9C朝向从道路的延伸方向偏离的方向,所以左图像PL包括车辆9C的侧面的图像。期待图像区域设定部23在车辆9C的侧面设定一个图像区域R。然而,例如,由于公共汽车的侧面难以进行图形匹配,所以距离图像生成部21难以生成精度高的距离图像PZ。具体而言,距离图像生成部21例如在公共汽车的侧面的中央附近,难以计算出坐标z的值。由此,代表距离计算部22在生成距离图像PZ中的、与公共汽车的侧面的中央附近对应的某个像素列的直方图H时,数据的数量有可能不充分。在该情况下,代表距离计算部22不能计算出代表距离值Zpeak。由此,在与公共汽车的侧面的中央附近对应的像素列中,缺少代表距离值Zpeak。其结果是,如图16A所示,图像区域设定部23可以对一个车辆9C的侧面设定两个图像区域R7、R8。
结合处理部26在该结合处理B2中,判定为两个图像区域R7、R8这两者包括某一个车辆的侧面中的彼此不同的部分的图像。然后,如图16B所示,结合处理部26通过结合这些图像区域R7、R8来设定图像区域R9。由此,处理部20能够将车辆9C的侧面识别为统一了的一个图像。
图17A、17B是示出结合处理B2的一例的图。该结合处理B2中的步骤S132~S137与图11所示的结合处理B1中的步骤S122~S127相同。
首先,结合处理部26选择多个图像区域R中的、成为处理对象的两个图像区域R(图像区域R7、R8)(步骤S131)。结合处理部26从图像的左端向中央依次选择两个图像区域R,并从图像的右端向中央依次选择两个图像区域R。其后,结合处理部26再次从图像的左端向中央依次选择两个图像区域R,并从图像的右端向中央依次选择两个图像区域R。
接下来,结合处理部26对图像区域R7、R8进行虚拟结合,基于被虚拟结合而得的区域中的多个代表距离值Zpeak,利用最小二乘法而计算出近似直线L(步骤S132)。
图18是示出步骤S132的处理的一例的图。在该图18中,在x-z坐标面中绘制表示与属于图像区域R7、R8的多个像素列对应的多个代表距离值Zpeak的坐标点。结合处理部26基于这些多个坐标点,利用最小二乘法而计算出近似直线L200。
接下来,结合处理部26分别在图像区域R7、R8中,基于多个代表距离值Zpeak,利用最小二乘法而计算出近似直线L,并计算出多个代表距离值Zpeak的、相对于该近似直线L的离散值V(步骤S133)。
接下来,结合处理部26分别在图像区域R7、R8中,利用步骤S132中计算出的近似直线L的倾斜度和截距而计算出直线M,并计算出多个代表距离值Zpeak的、相对于该直线M的离散值V(步骤S134)。
接下来,结合处理部26在被虚拟结合而得的区域中,计算出多个代表距离值Zpeak的、相对于在步骤S132中计算出的近似直线L的离散值V(步骤S135)。
接下来,结合处理部26计算出通过虚拟结合而得的离散值V的变化率(步骤S136)。
接下来,结合处理部26判定是否满足结合图像区域R7、R8时的预定的结合条件(步骤S137)。在步骤S137中,在不满足预定的结合条件的情况下(在步骤S137中为“否”),该流程结束。
在步骤S137中,在满足预定的结合条件的情况下(在步骤S137中为“是”),结合处理部26计算出表示图像区域R7中的代表距离值Zpeak的坐标点与表示图像区域R8中的代表距离值Zpeak的坐标点之间的区域间距离DA(步骤S138)。具体而言,如图18所示,结合处理部26在x-z坐标面中,计算出表示图像区域R7中的代表距离值Zpeak的坐标点中的距离图像区域R8最近的坐标点与表示图像区域R8中的代表距离值Zpeak的坐标点中的距离图像区域R7最近的坐标点之间的、沿近似直线L200的距离来作为区域间距离DA。
接下来,结合处理部26确定区域间距离DA是否为预定的阈值Dth以内(步骤S139)。在区域间距离DA为预定的阈值Dth以内的情况下(在步骤S139中为“是”),进入步骤S146。
在步骤S139中,在区域间距离DA不为预定的阈值Dth以内的情况下(在步骤S139中为“否”),结合处理部26将表示距离图像PZ中的各像素P的测定距离值Zmeas中的、图像区域R7和图像区域R8之间的各像素P的测定距离值Zmeas的坐标点Q绘制在x-z坐标面中(步骤S140)。
图19是示出步骤S140中的处理的一例的图。在该例子中,基于图像区域R7和图像区域R8之间的各像素P的测定距离值Zmeas而绘制五个坐标点Q。应予说明,在该例子中,为了便于说明,虽然绘制了五个坐标点Q,但实际上,可以绘制更多的坐标点Q。这些坐标点Q表示距离图像生成部21所生成的测定距离值Zmeas,因此,如该图19所示,可以稍微远离近似直线L200。
接下来,结合处理部26在x-z坐标面中,使在步骤S140中绘制的坐标点Q移动到近似直线L上(步骤S141)。
图20是示出步骤S141的处理的一例的图。在该例中,结合处理部26使在步骤S140中绘制的坐标点Q在与近似直线L200正交的方向上,向近似直线L200移动。其结果是,移动后的坐标点Q配置在近似直线L200的直线上。
接下来,结合处理部26计算出近似直线L上的多个坐标点Q的密度,并删除这些多个坐标点Q中的、密度低的区域中的坐标点Q(步骤S142)。
图21是步骤S142的处理的一例的图。在该例子中,因为在步骤S141中移动到近似直线L200上的五个坐标点Q中的、中央的坐标点Q位于密度低的区域,所以结合处理部26删除该坐标点Q。
接下来,结合处理部26将多个坐标点Q中的、近似直线L上的多个坐标点Q划分到与图像区域R7对应的组群G7、或与图像区域R8对应的组群G8(步骤S143)。
接下来,结合处理部26计算出组群G7中的坐标点Q和组群G8中的坐标点Q之间的、沿近似直线L的组群间距离DB(步骤S144)。具体而言,如图21所示,结合处理部26在x-z面中,计算出组群G7中的坐标点Q中的距离组群G8最近的坐标点Q与组群G8中的坐标点Q中的距离组群G7最近的坐标点Q之间的、沿近似直线L200的距离来作为组群间距离DB。
接下来,结合处理部26确认组群间距离DB是否为预定的阈值Dth以内(步骤S145)。在组群间距离DB不为预定的阈值Dth以内的情况下(在步骤S145中为“否”),该流程结束。
然后,结合处理部26通过结合图像区域R7和图像区域R8而设定图像区域R9(步骤S146)。
以上,该结合处理B2结束。结合处理部26依次选择成为处理对象的两个图像区域R7、R8,并对所选择的两个图像区域R7、R8进行这样的结合处理B2。
如图16A所示,在图像处理装置1中,在彼此分离的两个图像区域R7、R8这两者包括某一个车辆的侧面中的彼此不同的部分的图像的情况下,即使结合这些图像区域R7、R8也能够将离散值V抑制为某程度小的值,因此满足预定的结合条件(在步骤S137中为“是”)。在该情况下,例如,在图像区域R7中的图像所示的车辆的侧面部分与图像区域R8中的图像所示的车辆的侧面部分彼此靠近的情况下,区域间距离DA变为预定的阈值Dth以内(在步骤S139中为“是”),因此结合处理部26通过结合两个图像区域R7、R8而设定图像区域R9。另一方面,在图像区域R7中的图像所示的车辆的侧面部分与图像区域R8中的图像所示的车辆的侧面部分稍微离开的情况下,区域间距离DA可能比预定的阈值Dth长(在步骤S139中为“否”)。即使在该情况下,也利用图像区域R7和图像区域R8之间的各像素P的测定距离值Zmeas而计算出组群间距离DB,在该组群间距离DB为预定的阈值Dth以内的情况下(在步骤S145中为“是”),通过结合两个图像区域R7、R8而设定图像区域R9。由此,在图像处理装置1中,由于能够在一个车辆的侧面设定一个图像区域R9,所以能够将该车辆的侧面识别为统一了的一个图像。
在此,近似直线L101对应于本发明中的“第一近似直线”的一个具体例。近似直线L102对应于本发明中的“第二近似直线”的一个具体例。近似直线L100对应于本发明中的“第三近似直线”的一个具体例。近似直线L41对应于本发明中的“第四近似直线”的一个具体例。近似直线L42对应于本发明中的“第五近似直线”的一个具体例。近似直线L0对应于本发明中的“第六近似直线”的一个具体例。离散值V101对应于本发明中的“第一偏差程度”的一个具体例。离散值V102对应于本发明中的“第二偏差程度”的一个具体例。离散值V100对应于本发明中的“第三偏差程度”的一个具体例。离散值V111对应于本发明的“第四偏差程度”的一个具体例。离散值V112对应于本发明中的“第五偏差程度”的一个具体例。离散值V0对应于本发明中的“第六偏差程度”的一个具体例。离散值V41对应于本发明中的“第七偏差程度”的一个具体例。离散值V42对应于本发明中的“第八偏差程度”的一个具体例。虚拟分割位置POS4对应于本发明中的“虚拟分割位置”的一个具体例。虚拟分割位置POS1~POS5对应于本发明中的“多个虚拟分割位置”的一个具体例。分割位置POSC对应于本发明中的“分割位置”的一个具体例。
如上所述,在图像处理装置1中,分割处理部25基于与属于图像区域R1的多个像素列对应的多个代表距离值Zpeak而判定图像区域R1是否包括其他车辆的拐角部的图像,在该图像区域R1包括拐角部的图像的情况下,通过基于该拐角部进行分割处理而设定两个图像区域R2、R3。由此,在图像处理装置1中,由于能够在其他车辆的侧面与该其他车辆的背面分别设定独立的图像区域R2、R3,所以能够将该其他车辆分为侧面与背面而进行识别。由此,在图像处理装置1中,能够适当地设定图像区域R。
特别地,如图10所示,在图像处理装置1中,分割处理部25在图像区域R1中设定虚拟分割位置POS(在该例中是虚拟分割位置POS4),将多个代表距离值Zpeak划分到该虚拟分割位置POS的左侧群组和该虚拟分割位置POS的右侧群组。然后,分割处理部25基于被划分到该虚拟分割位置POS的左侧群组的多个代表距离值Zpeak而生成近似直线L(在该例中为近似直线L41),并基于被划分到该虚拟分割位置POS的右侧群组的多个代表距离值Zpeak而生成近似直线L(在该例中为近似直线L42),且基于这些近似直线L而设定分割位置POSC。由此,在图像处理装置1中,能够高精度地设定分割位置POSC。
另外,在图像处理装置1中,结合处理部26判定图像区域R4、R5虚拟结合而得的区域(虚拟结合区域)是否包括其他车辆的拐角部的图像,在该虚拟结合区域包括拐角部的图像的情况下,不结合两个图像区域R4、R5。由此,在图像处理装置1中,例如,因为在图像区域R4包括其他车辆的侧面的图像且图像区域R5包括其他车辆的侧面的图像的情况下,不结合这两个图像区域R4、R5,所以能够将该其他车辆分为侧面与背面而进行识别。由此,在图像处理装置1中,能够适当地设定图像区域R。
特别地,如图13所示,在图像处理装置1中,结合处理部26基于与属于图像区域R4的多个像素列对应的多个代表距离值Zpeak而生成近似直线L101,并且计算出这些多个代表距离值的、相对于近似直线L101的离散值V101。同样地,结合处理部26基于与属于图像区域R5的多个像素列对应的多个代表距离值Zpeak而生成近似直线L102,并且计算出这些多个代表距离值的、相对于近似直线L102的离散值V102。而且,结合处理部26基于这些离散值V判定虚拟结合区域是否包括其他车辆的拐角部的图像。由此,在图像处理装置1中,在通过虚拟结合而使离散值V变大的情况下,能够判定为包括其他车辆的拐角部的图像,并且能够不使这两个图像区域R4、R5结合。
另外,在图像处理装置1中,结合处理部26判定图像区域R7、R8这两者是否包括其他车辆的侧面的图像,在图像区域R7、R8这两者包括其他车辆的侧面的图像的情况下,结合两个图像区域R7、R8。由此,在图像处理装置1中,例如,在图像区域R7包括其他车辆的侧面的前部图像且图像区域R8包括其他车辆的侧面的后部图像的情况下,能够使这两个图像区域R7、R8结合,因此能够将该其他车辆的侧面识别为统一了的一个图像。由此,在图像处理装置1中,能够适当地设定图像区域R。
特别地,如图21所示,在图像处理装置1中,结合处理部26基于对应于属于图像区域R7的多个像素列的代表距离值Zpeak、对应于属于图像区域R8的多个像素列的代表距离值Zpeak、以及图像区域R7、R8之间的各像素P的测定距离值Zmeas,判定图像区域R7、R8这两者是否包括其他车辆的侧面的图像。由此,在图像处理装置1中,即使在例如对应于公共汽车的侧面的中央附近的像素列缺少代表距离值Zpeak的情况下,通过利用测定距离值Zmeas,也能够容易地判定图像区域R7、R8这两者包括相同一个其他车辆的侧面图像,并且能够容易地使这两个图像区域R7、R8结合。
由此,在图像处理装置1中,能够适当地设定图像区域。由此,在车辆10中,基于该识别结果,例如,能够更加高精度地进行作为本车辆的车辆10的行驶控制,或者,能够将关于识别到的物体的更加准确的信息显示在操作显示屏上。
[效果]
如上所述在本实施方式中,所述图像处理装置基于与属于图像区域R1的多个像素列对应的多个代表距离值,判定图像区域R1是否包括其他车辆的拐角部的图像,在该图像区域R1包括拐角部的图像的情况下,基于该拐角部进行分割处理从而设定两个图像区域R2、R3。由此,能够在其他车辆的侧面与该其他车辆的背面分别设定独立的图像区域R2、R3,因此能够适当地设定图像区域。
在本实施方式中,所述图像处理装置判定作为图像区域R4、R5虚拟结合而成的区域的虚拟结合区域是否包括其他车辆的拐角部的图像,在该虚拟结合区域包括拐角部的图像的情况下,不使两个图像区域R4、R5结合。由此,例如,因为在图像区域R4包括其他车辆的侧面图像且图像区域R5包括其他车辆的背面图像的情况下不结合这两个图像区域R4、R5,所以能够适当地设定图像区域。
在本实施方式中,所述图像处理装置判定图像区域R7、R8这两者是否包括其他车辆的侧面的图像,在图像区域R7、R8这两者包括其他车辆的侧面的图像的情况下,结合两个图像区域R7、R8。由此,例如,在图像区域R7包括其他车辆的侧面的前部图像且图像区域R8包括该其他车辆的侧面的后部的图像的情况下,能够使这两个图像区域R7、R8结合,因此能够适当地设定图像区域。
以上,列举实施方式对本技术进行了说明,但是本技术不限于这些实施方式等,可以进行各种改变。
例如,在上述实施方式中,虽然立体相机11拍摄车辆10的前方,但是不限于此,例如,也可以拍摄车辆10的侧方和/或后方。
应予说明,本说明书中所记载的效果仅是示例而不限于此,另外,也可以有其他效果。

Claims (10)

1.一种图像处理装置,其特征在于,具备:
代表距离计算部,其基于距离图像而生成多个代表距离值,所述距离图像是基于立体图像而生成且包含各像素的距离值的图像,所述多个代表距离值与所述距离图像中的多个像素列相对应且分别为对应的像素列的所述距离值的代表值;以及
结合处理部,其能够进行将基于立体图像所包含的且包括其他车辆的一个或多个物体的图像而设定的第一图像区域和第二图像区域结合的结合处理,进行判定作为所述第一图像区域和所述第二图像区域虚拟结合而成的区域的虚拟结合区域是否包含所述其他车辆的拐角部的图像的判定处理,在所述虚拟结合区域包含所述拐角部的图像的情况下,避免所述结合处理,
所述结合处理部在所述第一图像区域中,基于所述多个代表距离值中的、与属于所述第一图像区域的多个像素列对应的多个第一代表距离值而生成第一近似直线,并且计算出多个所述第一代表距离值相对于所述第一近似直线的第一偏差程度,
所述结合处理部在所述第二图像区域中,基于所述多个代表距离值中的、与属于所述第二图像区域的多个像素列对应的多个第二代表距离值而生成第二近似直线,并且计算出多个所述第二代表距离值相对于所述第二近似直线的第二偏差程度,
所述结合处理部基于所述第一偏差程度和所述第二偏差程度而进行所述判定处理。
2.根据权利要求1所述的图像处理装置,其特征在于,
所述第一图像区域中的图像示出所述其他车辆的所述侧面,
所述第二图像区域中的图像示出所述其他车辆的所述背面。
3.根据权利要求1或2所述的图像处理装置,其特征在于,在所述判定处理中,
所述结合处理部在所述虚拟结合区域中,基于多个所述第一代表距离值和多个所述第二代表距离值而生成第三近似直线,并且计算出多个所述第一代表距离值和多个所述第二代表距离值相对于所述第三近似直线的第三偏差程度,
所述结合处理部基于所述第一偏差程度、所述第二偏差程度以及所述第三偏差程度,判定所述虚拟结合区域是否包含所述拐角部的图像。
4.根据权利要求1或2所述的图像处理装置,其特征在于,在所述判定处理中,
所述结合处理部在所述虚拟结合区域中,基于多个所述第一代表距离值和多个所述第二代表距离值而生成第三近似直线,
所述结合处理部在所述第一图像区域中,计算出多个所述第一代表距离值相对于所述第三近似直线的第四偏差程度,
所述结合处理部在所述第二图像区域中,计算出多个所述第二代表距离值相对于所述第三近似直线的第五偏差程度,
所述结合处理部基于所述第一偏差程度、所述第二偏差程度、所述第四偏差程度以及所述第五偏差程度,判定所述虚拟结合区域是否包含所述拐角部的图像。
5.根据权利要求1或2所述的图像处理装置,其特征在于,所述的图像处理装置还具备:
图像区域设定部,其基于所述一个或多个物体的图像而设定第三图像区域;以及
分割处理部,其能够进行将所述第三图像区域分割为所述第一图像区域和所述第二图像区域的分割处理,进行基于与属于所述第三图像区域的多个像素列对应的多个第三代表距离值而判定所述第三图像区域是否包含所述其他车辆的所述拐角部的图像的初始判定处理,在所述第三图像区域包含所述拐角部的图像的情况下,基于所述拐角部而进行所述分割处理。
6.根据权利要求5所述的图像处理装置,其特征在于,在所述初始判定处理中,
所述分割处理部在所述第三图像区域中设定虚拟分割位置,
所述分割处理部基于所述虚拟分割位置将多个所述第三代表距离值划分到第一群组和第二群组,
所述分割处理部基于多个所述第三代表距离值中的、被划分到所述第一群组的多个所述第三代表距离值而生成第四近似直线,
所述分割处理部基于多个所述第三代表距离值中的、被划分到所述第二群组的多个所述第三代表距离值而生成第五近似直线,
所述分割处理部基于所述第四近似直线和所述第五近似直线而设定所述第三图像区域中的分割位置。
7.根据权利要求6所述的图像处理装置,其特征在于,
所述分割处理部在满足了预定的条件的情况下,判定为所述第三图像区域包含所述拐角部的图像,
所述预定的条件包括满足关于所述第三图像区域中的所述分割位置的第一条件。
8.根据权利要求7所述的图像处理装置,其特征在于,
所述分割处理部在满足了预定的条件的情况下,判定为所述第三图像区域包含所述拐角部的图像,
所述预定的条件包括满足关于所述第四近似直线与所述第五近似直线所形成的角度的第二条件。
9.根据权利要求7所述的图像处理装置,其特征在于,在所述初始判定处理中,
所述分割处理部基于多个所述第三代表距离值而生成第六近似直线,并且计算出多个所述第三代表距离值相对于所述第六近似直线的第六偏差程度,
所述分割处理部计算出多个所述第三代表距离值中的、被划分到所述第一群组的多个所述第三代表距离值相对于所述第四近似直线的第七偏差程度,
所述分割处理部计算出多个所述第三代表距离值中的、被划分到所述第二群组的多个所述第三代表距离值相对于所述第五近似直线的第八偏差程度,
所述分割处理部在满足了预定的条件的情况下,判定为所述第三图像区域包含所述拐角部的图像,
所述预定的条件包括满足关于所述第六偏差程度、所述第七偏差程度以及所述第八偏差程度的第三条件。
10.根据权利要求6所述的图像处理装置,其特征在于,在所述初始判定处理中,
所述分割处理部在所述第三图像区域中设定多个虚拟分割位置,
所述分割处理部基于各所述多个虚拟分割位置而将多个所述第三代表距离值划分到所述第一群组和所述第二群组,
所述分割处理部针对各所述多个虚拟分割位置,基于多个所述第三代表距离值中的、被划分到所述第一群组的多个所述第三代表距离值而生成所述第四近似直线,并且计算出被划分到所述第一群组的多个所述第三代表距离值相对于所述第四近似直线的第七偏差程度,
所述分割处理部针对各所述多个虚拟分割位置,基于多个所述第三代表距离值中的、被划分到所述第二群组的多个所述第三代表距离值而生成所述第五近似直线,并且计算出被划分到所述第二群组的多个所述第三代表距离值相对于所述第五近似直线的第八偏差程度,
所述分割处理部基于各所述多个虚拟分割位置中的、所述第七偏差程度和所述第八偏差程度,选择所述多个虚拟分割位置中的一个作为所述虚拟分割位置。
CN202010392738.2A 2019-07-19 2020-05-11 图像处理装置 Pending CN112241979A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019133867A JP7344032B2 (ja) 2019-07-19 2019-07-19 画像処理装置
JP2019-133867 2019-07-19

Publications (1)

Publication Number Publication Date
CN112241979A true CN112241979A (zh) 2021-01-19

Family

ID=74170474

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010392738.2A Pending CN112241979A (zh) 2019-07-19 2020-05-11 图像处理装置

Country Status (3)

Country Link
US (1) US11295465B2 (zh)
JP (1) JP7344032B2 (zh)
CN (1) CN112241979A (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023112127A1 (ja) * 2021-12-14 2023-06-22 日立Astemo株式会社 画像認識装置、および、画像認識方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3349060B2 (ja) * 1997-04-04 2002-11-20 富士重工業株式会社 車外監視装置
JP3261115B2 (ja) * 1999-09-22 2002-02-25 富士重工業株式会社 ステレオ画像処理装置
EP1901225A1 (en) * 2005-05-10 2008-03-19 Olympus Corporation Image processing device, image processing method, and image processing program
JP5188452B2 (ja) 2009-05-22 2013-04-24 富士重工業株式会社 道路形状認識装置
KR102153030B1 (ko) * 2013-11-05 2020-09-07 현대모비스 주식회사 주차 지원 장치 및 방법
EP3358295B1 (en) * 2015-09-28 2020-10-07 Kyocera Corporation Image processing device, stereo camera device, vehicle, and image processing method
US10628960B2 (en) * 2016-11-24 2020-04-21 Ricoh Company, Ltd. Information processing apparatus, imaging apparatus, device control system, moving object, information processing method, and recording medium
JP6621445B2 (ja) 2017-06-19 2019-12-18 日本電信電話株式会社 特徴抽出装置、物体検出装置、方法、及びプログラム

Also Published As

Publication number Publication date
US11295465B2 (en) 2022-04-05
JP7344032B2 (ja) 2023-09-13
JP2021018605A (ja) 2021-02-15
US20210019902A1 (en) 2021-01-21

Similar Documents

Publication Publication Date Title
US9824586B2 (en) Moving object recognition systems, moving object recognition programs, and moving object recognition methods
US10129521B2 (en) Depth sensing method and system for autonomous vehicles
JP4956452B2 (ja) 車両用環境認識装置
EP3082066B1 (en) Road surface gradient detection device
EP2372642B1 (en) Method and system for detecting moving objects
KR101551026B1 (ko) 차량 검출 방법
KR102569437B1 (ko) 3차원 영상정보 기반 객체 추적 장치 및 방법
CN109074653B (zh) 用于检测机动车辆的道路旁边的物体的方法、计算设备、驾驶员辅助系统以及机动车辆
CN107491065B (zh) 利用障碍物的地面边界信息检测物体的侧面的方法和装置
CN115049700A (zh) 一种目标检测方法及装置
RU2725561C2 (ru) Способ и устройство обнаружения полос движения
CN110809766B (zh) 高级驾驶员辅助系统和方法
CN112241979A (zh) 图像处理装置
CN112241980A (zh) 图像处理装置
US20220410942A1 (en) Apparatus and method for determining lane change of surrounding objects
JP7291594B2 (ja) 画像処理装置
CN114937255A (zh) 一种激光雷达与相机融合的检测方法及装置
WO2020036039A1 (ja) ステレオカメラ装置
JP3697435B2 (ja) 車外監視装置
JPH11232466A (ja) 道路形状認識装置
KR102424664B1 (ko) 3차원 영상정보 기반 객체 추적 장치 및 방법
JP3995782B2 (ja) 道路形状認識装置
CN114521265A (zh) 物体检测装置、物体检测系统、移动体以及物体检测方法
CN114521266A (zh) 物体检测装置、物体检测系统、移动体以及物体检测方法
JP2020204583A (ja) 画像処理装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination