CN103448650A - 目标识别系统和目标识别方法 - Google Patents

目标识别系统和目标识别方法 Download PDF

Info

Publication number
CN103448650A
CN103448650A CN201310213107XA CN201310213107A CN103448650A CN 103448650 A CN103448650 A CN 103448650A CN 201310213107X A CN201310213107X A CN 201310213107XA CN 201310213107 A CN201310213107 A CN 201310213107A CN 103448650 A CN103448650 A CN 103448650A
Authority
CN
China
Prior art keywords
target
identification
object region
candidate set
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310213107XA
Other languages
English (en)
Other versions
CN103448650B (zh
Inventor
关海克
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of CN103448650A publication Critical patent/CN103448650A/zh
Application granted granted Critical
Publication of CN103448650B publication Critical patent/CN103448650B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

一种目标识别系统和目标识别方法。目标识别系统(200)操作性地连接至立体图像设备(101)以捕捉目标识别系统(200)前面区域的立体图像,包括:视差计算器(203),计算包括两个捕捉到的图像的立体图像的视差;目标候选检测器(204),基于一个捕捉到的图像的亮度图像来检测识别目标区域(A,B,C,D,E,F)的候选集;和目标识别处理器(206),基于视差计算器(203)所计算的视差,将由目标候选检测器(204)检测的识别目标区域(A,B,C,D,E,F)的候选集限制到识别目标区域的候选集中预先设置的特征阈值的范围内,以提取并且输出一个或者多个识别目标(A,C,D)。

Description

目标识别系统和目标识别方法
技术领域
本发明涉及用于对表示将要临近的汽车和行人的识别目标区域的进行识别的目标识别系统,以及由目标识别系统所执行的识别方法。
背景技术
目前,安装在车辆中的识别系统基于所捕捉的车辆前面的图像来识别障碍物,该识别系统被广泛地用于例如自适应巡航控制(ACC)的驾驶员支持系统中,用于减少驾驶员的负担。驾驶员支持系统提供各种功能,包括用于警示驾驶员采取矫正动作用于避免碰撞或者减少碰撞的影响的刹车控制以及报警功能、用于维持车辆之间的最小安全距离的驾驶速度调整功能、以及用于阻止车辆偏离到另一车道的偏离阻止功能。
在JP-2008-146549-A中,公开了一种驾驶员支持系统,该系统基于由成像设备所捕捉的车辆前面的场景的图像来识别目标,试图减轻车辆的驾驶员的负担。为了识别所捕捉的图像中所示的目标,从所捕捉的图像中检测目标的颜色和空间频率。通过将所检测的空间频率进行积分以生成空间频率的分布,检测出空间频率的特性。接着,通过将所检测的目标颜色和空间频率特性与预定的目标颜色和空间频率特性进行比较,识别出识别目标。
为了实现驾驶员支持系统,有必要精确地并且立即识别出车辆道路中的障碍物。然而,在上面所提出的例子中,驾驶员支持系统除了道路也检测不太可能是障碍物的各种目标,例如建筑物。因为这些建筑物不被认为是像行人和车辆一样的障碍物,所以检测道路上除行人和车辆之外的目标是毫无意义的。因此,识别道路上的真实障碍物变得缓慢。
此外,检测并且积分空间频率所需要的处理时间取决于存储器处理能力,并且该处理时间可能是漫长的。结果是,延迟了在车辆在行进过程中检测真实障碍物的识别处理,很难适当地实现驾驶员支持系统。此外,如上所述的驾驶员支持系统在背景的前面识别出错误目标,该错误目标不太可能用作为识别目标的真实障碍物。因此,系统可能将背景目标错误地识别成识别目标。
发明内容
在本公开的一个示例性实施例中,提供了一种目标识别系统,用于识别一个或者多个识别目标,操作性地连接至立体成像设备以捕捉所述目标识别系统前面区域的立体图像。所述目标识别系统包括视差计算器、目标候选检测器、以及目标识别处理器。所述视差计算器计算立体图像的视差,所述立体图像包括由所述立体成像设备所获取的两个捕捉到的图像。所述目标候选检测器基于其中一个捕捉到的图像的亮度图像来检测识别目标区域的候选集。所述目标识别处理器基于由所述视差计算器所计算的视差,将由所述目标候选检测器所检测的识别目标区域的候选集限制到识别目标区域的候选集中预先设置的特征阈值的范围内,以提取并且输出一个或者多个识别目标。
在本公开的另一方面,提供了一种由目标识别系统所执行的目标识别方法,其计算立体图像的视差,所述立体图像包括由立体成像设备所获取的两个捕捉到的图像;基于其中一个捕捉到的图像的亮度图像来检测识别目标区域的候选集;基于所述视差,将识别目标区域的候选集限制到识别目标区域的候选集中预先设置的特征阈值的范围内;以及提取并且输出一个或者多个识别目标。
附图说明
当结合附图并参考以下的具体实施方式,可以更全面地理解本公开并了解本公开的所带来的效果,其中:
图1是示出根据本公开的包括目标识别系统的车载控制系统的示意图;
图2是示出图1中的成像单元和图像分析单元的配置的示意图;
图3是示出从与光学传输方向正交的方向看到的图2中所示的滤光片的示意性的扩展图;
图4是示出目标识别系统的配置的方框图;
图5是由目标识别系统所执行的目标识别过程的流程图;
图6是立体图像的一个例子;
图7是示出在图1所示的立体照相机中查找的范围的基本示意图;
图8是包括多个矩形块的图像;
图9A至图9D示出在矩形块中的特征图案的例子;
图10是示出包括层级的目标识别处理器的配置的示意图;
图11是所捕捉的图像的一个例子,该所捕捉的图像包括所检测的识别目标区域的候补集;
图12是包括所检测的识别目标区域的候补集的图像的一个例子;
图13是表示与视差平均值相关的识别目标区域的最小宽度、最大宽度、最小高度以及最大高度的表格;
图14是由目标识别系统所执行的另一目标识别过程的流程图;以及
图15是示出立体照相机系统的硬件配置的方框图。
具体实施方式
在附图示出的较佳实施例的记载中,使用特定术语是为了清楚。然而,本说明书所揭露的内容并不意欲限于所选择的特定术语。应该明白的是,每一特定元件均包括所有具有等同功能、以相似方式操作及实现相似结果的等同技术。现在参考附图,其中在全部视图中用相同的参考标记表示相同的或者对应的部分,并且尤其对于图1至图15,将描述根据本公开所说明的实施例的目标识别系统。
首先,安装到车辆的控制系统包括如车载系统的目标识别系统。应注意的是,根据本公开的目标识别系统不限于车载控制系统,因此例如目标识别系统可以用于基于所捕捉的图像来检测对象的对象检测设备。
图1是示出根据本公开的包括目标识别系统200的车载控制系统106的示意图。车载控制系统106使用由安装在车辆100中的成像单元101所获取的车辆前面的所捕捉到的道路图像,根据目标的识别来控制车辆100(例如,小汽车)中的各种设备。
在图1中,车载控制系统106包括成像单元101、图像分析单元102以及车辆驾驶控制单元104。提供成像单元101作为捕捉设备,用于捕捉在行进方向上的车辆前面区域的图像。例如,在接近车辆100的挡风玻璃103的后视镜的附近,提供成像单元101。各种数据(例如,由成像单元101所获取的捕捉数据)被输入至作为图像处理器的图像分析单元102。图像分析单元102分析从成像单元101传输的数据,计算位置、方向、到车辆100前面的另一车辆的距离,并且检测作为车道边界的分隔线。当检测到了另一车辆(领先的车辆、将要临近的汽车)时,基于亮度图像,检测到作为道路上的识别目标的另一车辆。
此外,将图像分析单元102的计算结果传输给车辆驾驶控制单元104。车辆驾驶控制单元104基于识别目标(例如,另一车辆和行人)的检测,执行驾驶支持控制以用于发出警报并且控制车辆100的方向盘和刹车。车辆驾驶控制单元104实现各种功能,包括:刹车控制以及报警功能,其警示驾驶员采取矫正的行为来避免碰撞或者减少碰撞的影响;以及驾驶速度调整功能,用于通过使用控制设备(例如,刹车和方向盘)来维持车辆之间的最小安全距离。
图2是示出成像单元101和图像分析单元102的配置的示意图。成像单元101是立体照相机系统,包括两个照相机110A和110B,并且两个照相机110A和110B具有相似的配置。照相机110A和110B分别包括捕捉透镜111A和111B、滤光片112A和112B、以及图像传感器113A和113B,将图像收集元件二维地排列在图像传感器上。成像单元101输出亮度数据。
此外,成像单元101包括由现场可编程门阵列(FPGA)构成的处理硬件单元120。处理硬件单元120包括用于计算在所捕捉的图像之间对应的部分中的视差值的视差计算器121,用于基于分别从成像单元110A和110B输出的亮度图像数据,获取视差数据。在此,当由成像设备110A和110B中的一个所获取的一个捕捉图像是参考图像并且由成像设备110A和110B中的另一个所获取的另一捕捉图像是对比图像时,计算用于特定区域的视差值,该视差值作为与参考图像中的特定图像区域相关的对比图像中的特定图像区域的位置偏差。使用三角测量的基本原理,从立体照相机系统到图像区域中的相同对象的距离基于所计算的视差值。
图像分析单元102包括存储器130和微处理器(MPU)140。存储器130存储从成像单元101输出的亮度图像数据和视差图像数据。MPU140使用存储在存储器130中的亮度图像数据和视差图像数据,执行识别处理以识别目标并且控制视差计算。
图3是示出从与光学传输方向正交的方向看到的滤光片112A和112B以及图像传感器113A和113B的示意性的扩展图。图像传感器113A和113B中的每个均由例如电荷耦合元件(CCD)和互补金属氧化物半导体(CMOS)所组成,并且成像元件(受光元件)是由光电二极管113a所形成。将光电二极管113a进行二维排列,用于图像传感器113A和113B中的每个成像像素。为了提高聚焦效率,在光电二极管113a的入射侧提供微透镜113b。通过按照线路结合方法所结合的印刷线路板(PWB),将图像传感器113A和113B进行连接,从而形成传感器基板114A和114B。
接着,以下描述根据本公开的特征的识别过程。图4是示出目标识别系统200的配置的方框图。在图4中,目标识别系统200包括立体图像输入单元201、亮度图像输入单元202、视差图像计算器203、识别目标候选区域检测器204、识别候选参考器205、目标识别处理器206以及目标识别结果输出单元207。立体图像输入单元201从包括成像单元110A和110B的立体照相机接收立体图像,成像单元110A和110B包含位于立体照相机的两侧的成像透镜和图像传感器。
亮度图像输入单元202从立体图像输入单元201接收立体图像的左侧图像或者右侧图像的亮度图像。输入的立体图像和亮度图像存储在立体照相机系统的存储器130中。视差图像计算器203计算所捕捉的目标的视差(视差图像),该视差是右侧图像和左侧图像之间的聚焦位置的差异。识别目标候选区域检测器204检测识别目标区域的候选集,展示了示出车辆100前面的所捕捉的图像的角落。识别候选参考器205是预先使用目标识别的图像样本学习数据,由机器学习方法(例如,支持向量机(SVM)方法)所生成的。形成识别候选参考器205用于每个识别目标。目标识别处理器206执行识别处理。目标识别处理器206使用识别候选参考器205用于识别所述识别目标。目标检测结果输出单元207输出识别目标的识别结果。
在此,以下描述目标识别处理器206中的识别过程。首先,目标识别处理器206计算识别目标区域的候选集的视差平均值。视差平均值是通过将在特定像素的视差值相加并且然后除以总数而获取的值,或者通过在识别目标区域的候选集中使用中心值(中间)滤波而获取的值。可选的是,将可以将视差值设置成在识别目标候选区域之中的最高频率值。目标识别处理器206基于视差平均值,计算识别目标区域的候选集与立体照相机系统101之间的距离。目标识别处理器206使用到立体照相机系统101的距离以及在所捕获的图像上的识别目标候选区域的大小,计算识别目标区域的真实候选集的大小。
当识别目标区域的候选集的水平大小和垂直大小超过了作为预定识别目标而设定的阈值范围大小时,将该识别认为是错误的识别,并且去除识别目标区域的多余候选集。接着,将包含在识别目标区域的候选集的阈值范围大小之中的识别目标输出作为目标识别结果。
对于这些过程,能够提高识别目标区域的候选集的准确性。在此,阈值范围大小保存在立体照相机101的存储器130中。
接着,以下参考图5将描述目标识别系统200的操作流。图5是由目标识别系统200所执行的目标识别过程的流程图。在步骤S101中,将立体图像输入至立体图像输入单元201(见图4)。更具体地,从立体照相机201输入立体图像。图6是立体图像的一个例子。立体图像中的相同对象在左侧图像和右侧图像中位于不同的成像位置。
接着,在步骤S102中,亮度图像输入单元202输出左侧图像或者右侧图像的亮度图像。输入的立体图像和亮度图像保存在立体照相机102的存储器516中。
在步骤S103中,视差图像计算器203使用从立体图像输入单元201输入的立体图像,计算视差值,该视差值是在立体图像的对象中的左侧图像和右侧图像的图像形成位置之间的差异。更具体地,使用块匹配方法,基于由左侧图像透镜111A和右侧图像透镜111B所形成的左侧图像和右侧图像之间的相同区域,计算视差图像,其中将视差值作为像素值而处理。
块匹配方法是将右侧图像和左侧图像划分为多个块并基于多个块来计算视差值的方法,在多个块中,右侧图像和左侧图像之间的相似度是最大的并且右侧图像和左侧图像之间的块是匹配的。例如,将具有1280×960像素的图像分成5×5像素大小的块。接着,使用各自的块计算视差值。通过实验调整来设定块大小的最佳值。
在图7所示出的一个例子中,Δ1和Δ2表示从图像中心位置到左侧图像和右侧图像中的实际图像位置(在捕捉的目标中用点O示出)的距离。因此,可以通过将距离Δ1和距离Δ2相加,获取视差值Δ。(Δ=Δ1+Δ2)。视差图像在对应的像素位置处具有视差值。
在步骤S104中,识别目标候选区域检测器204使用从亮度图像输入单元202输入的亮度图像,检测识别目标区域(例如,车辆和行人)的候选集。在步骤S105中,目标识别处理器206计算从亮度图像所识别的识别目标区域的候选集的视差平均值。在步骤S106中,目标识别处理器206从视差平均值计算识别目标区域的候选集与立体照相机之间的距离。在步骤S107中,目标识别处理器206使用到立体照相机的距离以及在图像上的识别目标区域的候选集的大小,计算识别目标区域r的候选集的真实大小。
在步骤S108中,目标识别处理器206将识别目标区域的候选集的真实大小与对应于识别目标区域的候选集的阈值范围大小进行比较。当识别目标区域的候选集的真实大小处于阈值范围大小之中时(步骤S108中的“是”),目标识别处理器206使用亮度图像执行识别处理,并且在步骤S109中输出目标识别结果。当识别目标区域的候选集的真实大小在阈值范围大小之外时(步骤S108中的“否”),目标识别处理器206执行识别处理以用于去除多余图像,并且在步骤S110中将识别目标区域的多余候选集识别作为错误检测。
在此,以下将描述根据本公开的用于识别所述识别目标的识别过程的细节。首先,如图8中所示的,为了识别所述识别目标,将矩形或者方形块与所捕捉的图像中的目标图像相关联。由矩形的左上坐标(Xs,Ys)和右下坐标(Xe,Ye),来确定所捕捉的图像中的矩形块的位置和大小。接着,使用大矩形块1,扫描所捕捉的图像,并且提取目标图像使得矩形块1的大小几乎与目标的大小相匹配,并且将矩形块1设定为所提取的目标图像。
在设定矩形块1之后,使用小矩形块2,扫描所捕捉的图像,并且接着提取目标图像使得矩形块2的大小几乎与小目标的大小相匹配,并且将矩形块2设定为所提取的小目标图像。因此,将矩形块设定为对应的目标图像。矩形块与识别目标区域的候选集相关联。
接着,目标识别处理器206使用识别候选参考器205,识别所述识别目标。在此,以下将描述用于识别所针对的识别目标的识别候选参考器205。
如图9A至图9D所示的,目标识别处理器206基于仅由白像素所组成的矩形范围301和仅由黑像素所组成的矩形范围302,计算评估目标的矩形块中的特征数目,该特征数目是由包含在图9A中所示的矩形块300中的阴影部分所表示。目标识别处理器206计算评估目标矩形块中的像素与矩形范围301的白像素之间的差异以及评估目标矩形块中的像素与矩形范围302的黑像素之间的差异,并且因此将各总合的差异设定为矩形块300中的特征数目h(x)。
在图9A至图9D所示的特征图案A、B、C和D几乎完全覆盖了任何目标的特征。在特征图案A中,矩形范围301和矩形范围302是边挨边相邻,并且矩形范围都处于矩形块300的中心的左上位置。在特征图案B中,矩形范围301和矩形范围302是上下相邻,并且矩形范围都处于矩形块300的中心的左上位置。在特征图案C中,矩形范围302是夹在两个矩形范围301之间,并且矩形范围都处于矩形块300的中心的上方位置。在特征图案D中,矩形范围301和矩形范围302处于对角,并且矩形范围都处于矩形块300的中心的左侧位置。
接着,使用如公式1所示的评估功能,基于如公式1所示的的评估功能等来计算识别目标区域的候选集的评估权重值f(x)。通过计算矩形块t(1至T)中整个像素T中的特征数目ht(x)(T:用于评估的图案的数目),通过乘以附加到每个矩形块的权重系数αt,计算出权重评估值f(x)。
在此,通过收集用于识别目标的图像的学习数据并且通过利用学习数据,获取特征数目ht(x)和权重系数αt。通过计算用于如上所述的特征图案A至D的权重评估值,识别候选参考器205基于所计算的权重评估值,将特征图案和权重系数成对保存。
f ( x ) = Σ t = 1 r α t h t ( x ) . . . ( 1 )
在此,目标识别处理器206包括多个层级400-1至400-n(n;自然整数)。在各自的层级400-1至400-n中,使用由公式(1)表示的评估功能的权重评估值来评估目标。
在各自的层级400-1至400-n中,使用用于每个识别目标的唯一特征图案或者用于每个识别目标的多个特征图案以及与特征图案相关的权重系数,基于公式(1)执行评估。通常,从400-1至400-n的层级变化,所使用的图案的数目也逐渐增加。因此,可以提升识别速度。例如,在层级400-1中,当矩形块比预先设定的阈值范围小时,确定所针对的识别目标不在矩形块中。接着,不评估矩形块,块被作为非目标块400-1而处理。对于各自的层级400-2至400-n(n:自然整数)执行类似的确定。在最后的层级400-n中的识别目标不是识别目标的情况下,确定矩形块是在其中存在所针对的识别目标的图像的矩形块。
当计算了特征数目时,额外乘以识别加权。因此,当将道路区域中的识别加权设定为1并且将其他区域中的识别加权设定为0时;即,当道路区域之外的整个区域的权重系数是0时,执行用于道路区域的识别过程并且不执行用于道路区域之外的区域的识别过程。可选的是,将对应于识别加权的权重系数设定为小数,并且对于各自的区域可以设定不同的权重系数。在这种情况下,甚至当所针对的识别目标存在于将权重系数设置成小值以及将权重系数设置成较大值的各区域中时,权重系数小的区域的权重评估值小,确定其不是识别目标的图像。
因此,权重系数小的区域的识别目标的识别结果是不好的,并且可以去除与识别目标的图像相似的目标的图像,从而减少了错误识别的发生。
在此,通过使用将识别目标和非识别目标分类的学习后的图像,获取特征数目、权重系数以及用于计算目标识别处理器206的各层级的评估值的评估阈值。图11和图12示出图像中的所检测的识别目标区域的候选集。在图11和图12中,由粗线所包围的区域表示识别目标区域的候选集。
接着,目标识别处理器206使用包含由视差图像计算器203所计算的视差值的视差图像,从由识别目标候选区域检测器204所检测的识别目标区域的候选集中,去除错误地检测到的识别目标区域的候选集。此时,目标识别处理器206计算从亮度图像所识别的识别目标区域的候选集的视差平均值。
接着,目标识别处理器206基于视差平均值,计算识别目标区域的候选集到立体照相机的距离。更具体地,通过下面的公式2表示识别目标区域的候选集到立体照相机的距离Z与视差平均值Δ之间的关系(见图7)。
Δ:f=D:Z...(2)
在公式(2)中,f表示立体照相机系统中的两个成像透镜111A和111B之间的焦距,D表示两个照相机之间的差异。因此,可以由下面的公式(3)计算识别目标区域的候选集到立体照相机的距离Z。
Z=D×f/Δ...(3)
在计算了识别目标区域的候选集到立体照相机的距离Z之后,可以计算识别目标区域的候选集的真实大小。在此,由下面的公式(4)来表示:在捕捉的图像中的识别目标区域的候选集的虚拟大小s与识别目标区域的候选集的真实大小S之间的关系。
S:Z=s:f...(4)
因此,可以由下面的公式(5)计算识别目标区域的候选集的真实大小S
S=s×Z/f...(5)
通过将对应于识别目标区域的候选集的识别范围大小与由公式(5)所获取的识别目标区域的候选集的真实大小S进行比较,可以从识别目标区域的候选集的列表中去除错误地检测到的识别目标区域的候选集。
例如,可以将识别目标区域的候选集的最小宽度Wmin、最大宽度Wmax、最小高度Hmin以及最大高度Hmax设定为以下的值。当识别目标是行人时,可以将阈值范围大小设定为这样的范围:最小高度Hmin为0.5m、最大高度Hmax为2.5m、最小宽度Wmin为0.1m、最大宽度Wmax为1.0m。当识别目标是小汽车时,可以将阈值范围大小设定为这样的范围:最小高度Hmin为1.0m、最大高度Hmax为5.0m、最小宽度Wmin为4.0m、最大宽度Wmax为3.0m。接着,基于Wmin、Wmax、Hmin以及Hmax的范围来确定是否错误地检测了识别目标区域的候选集。即,可以由在公式(6)和(7)所表示的范围之中来设定识别目标区域的候选集的宽度Ws和高度Hs。
W min<Ws<W max...(6)
H min<Hs<H max...(7)
可以由实际收集的识别目标的实验数据来确定,识别目标区域的各自的候选集Wmin、Wmax、Hmin以及Hmax的值。
在这个配置中,当所检测的识别目标区域的候选集处于多余宽度区域(6)或者多余高度区域(7)时,目标识别处理器206检测到错误地检测了识别目标区域的候选集。或者,当所检测的识别目标区域的候选集处于多余宽度区域(6)和多余高度区域(7)时,目标识别处理器206检测到错误地检测了识别目标区域的候选集。
使用这些计算,将如图12所示的矩形块B、D和F作为要被去除的识别目标区域的候选集的错误的结果而检测出。
图14是由目标识别系统200所执行的另一目标识别过程的流程图。在如14中所示的目标识别操作的步骤S201至S207与图5中的步骤S101至S107相类似。
以下将描述与图5的不同。在步骤S208中,目标识别处理器206将对应于识别目前区域的候选集的阈值范围大小与识别目标区域的候选集的真实大小进行比较。当识别目标区域的候选集的真实大小等于或者小于阈值范围大小时(步骤S208中的“是”),目标识别处理器206使用亮度图像执行识别过程,并且在步骤S209和S210中输出目标识别结果。
相反地,当识别目标区域的候选集的真实大小大于阈值范围大小时(步骤S208中的“否”),目标识别处理器206确定所检测的目标不是识别目标,不执行识别过程并且将过程修改为步骤S204的视差计算过程,并且在后续的步骤中再次检测识别目标区域的候选集。对于这些处理,可以进一步地减少错误识别。
以下结合图15描述用于识别所述识别目标的车载立体照相机成像设备的硬件配置。图15是表示立体照相机的硬件结构的一个例子的方框图。在图15中,将从对象反射的光通过立体照相机中的成像透镜501和502(112A和112B)输入至与图像传感器112A和112B对应的互补金属氧化物半导体(CMOS)503和504(参见图4)。CMOS503和504将在捕捉的图像上形成的光图像转换为用于作为模拟图像数据输出的电信号。接着,信号处理器114A和114B包括:相关双采样(CDS)电路505和506、模-数(A/D)转换器507和508、以及图像处理电路509和510。每个处理硬件单元120和MPU140包括:中央处理器(CPU)511、同步动态随机访问存储器(DRAM)512、压缩扩展电路513、只读存储器(ROM)516、随机访问存储器(RAM)517和定时信号生成器电路518。CDS电路505和506移除从CMOS503和504输出的模拟图像数据的噪声,并由A/D转换器507和508将噪声移除后的图像数据转换为数字信号,以输出至图像处理电路509和510。
利用暂时保存图像数据的SDRAM512,图像处理电路509和510执行各种图像处理,例如亮度-色调(YcrCb)转换、白平衡控制处理、对比度校正处理和边缘强化处理。在图像处理过程中,图像信息的阴影可以在白平衡处理中被调整,图像信息的对比度可以在对比度校正处理中被调整,图像信息的锐度可以在边缘强化处理中被调整,并且图像信息的色彩可以在色彩转换处理中被调整。
另外,将执行了信号处理和图像处理的图像信息经由压缩扩展电路513存储在存储卡514中。压缩扩展电路513压缩从图像处理电路509和510输出的图像信息并且扩展从存储卡514读出的图像信息,以将压缩和扩展的信息输出到图像处理电路。CMOS503和504、CDS电路505和506以及A/D转换器507和508的定时由CPU511经由生成定时信号的定时信号生成器电路518来控制。而且,CPU511还控制图像处理电路509和510、压缩扩展电路513和存储卡514。
在立体照相机系统中,CPU511根据目标识别程序执行各种计算。CPU511安装专用于存储图像处理程序的ROM516和可读存储器RAM517,可读存储器包括用于各种处理的工作区域和各种数据存储区域。ROM516和RAM517通过总线519连接。利用该配置,立体照相机由模块配置组成,该模块配置包括处理功能,用于执行在车载立体照相机系统中执行的视差计算、利用亮度图像检测识别目标区域的候选集、执行目标识别功能来消除识别目标区域的候选集的错误检测。作为实际硬件配置,CPU511从ROM516读出图像处理程序,将各个处理加载在主存储器中并且输出目标识别结果。
可以将实现根据如上所述的实施例的目标识别系统的功能的计算机程序,配置成安装在连接到网络(例如,互联网)的计算机中,并且经由网络被下载提供。可以将实现根据本实施例的图像处理的计算机程序,配置成经由网络(例如,互联网)而提供或者发布。可以将实现根据本实施例的计算机程序,预先配置成被安装在ROM中等而提供。
由根据本实施例的图像处理装置执行的计算机程序可以通过作为可安装格式或可执行格式的文件记录在计算机可读记录介质如CD-ROM、FD、CD-R和DVD中来提供。
以下将说明由根据如上所述的实施例和变形例的图像处理装置所处理的图像数据的典型文件结构。
根据上述教导许多附加的修改和变化也是可能的。因而需要理解的是,在所附权利要求的范围内,可以与本文具体描述不同的方式来实施本发明说明书的披露。

Claims (4)

1.一种目标识别系统,用于识别一个或者多个识别目标,操作地连接至立体成像设备以捕捉所述目标识别系统前面区域的立体图像,
所述目标识别系统包括:
视差计算器,用于计算立体图像的视差,所述立体图像包括由所述立体成像设备所获取的两个捕捉到的图像;
目标候选检测器,用于基于其中一个捕捉到的图像的亮度图像来检测识别目标区域的候选集;以及
目标识别处理器,用于基于由所述视差计算器所计算的视差,将由所述目标候选检测器所检测的识别目标区域的候选集限制到识别目标区域的候选集中预先设置的特征阈值的范围内,以提取并且输出一个或者多个识别目标。
2.如权利要求1所述的目标识别系统,其中,所述目标识别处理器用于:
基于由所述视差计算器所计算的视差,计算由所述目标候选检测器所检测的识别目标区域的候选集的视差平均值;
使用所计算的视差平均值,计算从成像设备到由所述目标候选检测器所检测的识别目标区域的候选集的距离;
使用所计算的视差平均值和到所述成像设备的距离,计算识别目标区域的候选集的大小;并且
从由所述目标候选检测器所检测的识别目标区域的候选集中,提取并且输出一个或者多个识别目标,以便将基于所计算的距离区域所提取的识别目标区域的候选集的真实大小限制到识别目标区域的候选集中预先设置的特征阈值的范围内。
3.一种由目标识别系统所执行的目标识别方法,用于识别一个或者多个识别目标,所述目标识别系统操作地连接至立体成像设备以捕捉所述目标识别系统前面区域的立体图像,
所述方法包括以下步骤:
计算立体图像的视差,所述立体图像包括由所述立体成像设备所获取的两个捕捉到的图像;
基于其中一个捕捉到的图像的亮度图像来检测识别目标区域的候选集;
基于所述视差,将识别目标区域的候选集限制到识别目标区域的候选集中预先设置的特征阈值的范围内;以及
提取并且输出一个或者多个识别目标。
4.如权利要求3所述的目标识别方法,进一步包括:
基于由视差计算器所计算的视差,计算由目标候选检测器所检测的识别目标区域的候选集的视差平均值;
使用所计算的视差平均值,计算从成像设备到由所述目标候选检测器所检测的识别目标区域的候选集的距离;
使用所计算的视差平均值和到所述成像设备的距离,计算识别目标区域的候选集的大小;以及
从由所述目标候选检测器所检测的识别目标区域的候选集中,提取并且输出一个或者多个识别目标,以便将基于所计算的距离区域所提取的识别目标区域的候选集的真实大小限制到识别目标区域的候选集中预先设置的特征阈值的范围内。
CN201310213107.XA 2012-06-01 2013-05-31 目标识别系统和目标识别方法 Active CN103448650B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012126416 2012-06-01
JP2012-126416 2012-06-01
JP2013-076963 2013-04-02
JP2013076963 2013-04-02

Publications (2)

Publication Number Publication Date
CN103448650A true CN103448650A (zh) 2013-12-18
CN103448650B CN103448650B (zh) 2015-12-09

Family

ID=48578799

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310213107.XA Active CN103448650B (zh) 2012-06-01 2013-05-31 目标识别系统和目标识别方法

Country Status (4)

Country Link
US (1) US8977006B2 (zh)
EP (1) EP2669846B1 (zh)
JP (1) JP6198113B2 (zh)
CN (1) CN103448650B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106170828A (zh) * 2014-04-24 2016-11-30 日立汽车系统株式会社 外界识别装置
CN106170797A (zh) * 2016-06-02 2016-11-30 深圳市锐明技术股份有限公司 车辆人员的统计方法及装置
CN106483577A (zh) * 2015-09-01 2017-03-08 中国航天科工集团第四研究院指挥自动化技术研发与应用中心 一种光学探测装置
CN109073778A (zh) * 2016-04-22 2018-12-21 株式会社电装 物体检测装置、物体检测方法
CN110008951A (zh) * 2019-03-14 2019-07-12 深兰科技(上海)有限公司 一种目标检测方法及装置

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6467776B2 (ja) * 2014-03-13 2019-02-13 株式会社リコー 測距システム、情報処理装置、情報処理方法及びプログラム
JP6459443B2 (ja) 2014-11-28 2019-01-30 株式会社リコー 検知装置、検知システム、検知方法及びプログラム
JP6434834B2 (ja) * 2015-03-19 2018-12-05 株式会社日立ソリューションズ 検査対象物抽出装置、及び検査対象物抽出方法
EP3377628A4 (en) * 2015-11-17 2019-03-20 Bioo Scientific Corporation METHODS AND KITS FOR REDUCING THE TRAINING OF A DIMMER ADAPTER
CN105427315B (zh) * 2015-11-24 2020-03-20 上海伟世通汽车电子系统有限公司 数字仪表图像位置测试方法及装置
JP6705496B2 (ja) * 2016-02-23 2020-06-03 株式会社リコー 画像処理装置、撮像装置、移動体機器制御システム、移動体、画像処理方法、及びプログラム
JP2018136803A (ja) * 2017-02-23 2018-08-30 株式会社日立製作所 画像認識システム
US11107231B2 (en) 2017-03-22 2021-08-31 Nec Corporation Object detection device, object detection method, and object detection program
WO2018184963A2 (en) * 2017-04-04 2018-10-11 Robert Bosch Gmbh Direct vehicle detection as 3d bounding boxes using neural network image processing
KR102545105B1 (ko) * 2018-10-10 2023-06-19 현대자동차주식회사 차량용 허위 타겟 판별 장치 및 그의 허위 타겟 판별 방법과 그를 포함하는 차량
US10817777B2 (en) * 2019-01-31 2020-10-27 StradVision, Inc. Learning method and learning device for integrating object detection information acquired through V2V communication from other autonomous vehicle with object detection information generated by present autonomous vehicle, and testing method and testing device using the same

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1608273A (zh) * 2001-12-22 2005-04-20 哈利伯顿能源服务公司 使用图像模式识别的卷曲管道检测系统
US7248794B2 (en) * 2003-06-12 2007-07-24 Imagesat International N.V. Remote platform multiple capture image formation method and apparatus
US20100208058A1 (en) * 2007-03-24 2010-08-19 Baumer Inspection Gmbh Monitoring the color impression of multicolor patterned areas
CN102402680B (zh) * 2010-09-13 2014-07-30 株式会社理光 人机交互系统中手部、指示点定位方法和手势确定方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4100823B2 (ja) * 1999-05-27 2008-06-11 本田技研工業株式会社 物体判定装置
JP2001101415A (ja) * 1999-09-29 2001-04-13 Fujitsu Ten Ltd 画像認識装置および画像処理装置
JP2001338302A (ja) * 2000-05-29 2001-12-07 Nikon Corp 監視装置
JP4460782B2 (ja) * 2001-01-10 2010-05-12 セコム株式会社 侵入監視装置
JP3764086B2 (ja) * 2001-10-29 2006-04-05 本田技研工業株式会社 車両用情報提供装置
JP3756452B2 (ja) * 2002-01-18 2006-03-15 本田技研工業株式会社 赤外線画像処理装置
JP4041678B2 (ja) * 2002-02-22 2008-01-30 東日本旅客鉄道株式会社 ホーム転落者検知方法及び装置
JP3895238B2 (ja) * 2002-08-28 2007-03-22 株式会社東芝 障害物検出装置及びその方法
JP4456086B2 (ja) * 2006-03-09 2010-04-28 本田技研工業株式会社 車両周辺監視装置
JP4203512B2 (ja) * 2006-06-16 2009-01-07 本田技研工業株式会社 車両周辺監視装置
JP4670805B2 (ja) 2006-12-13 2011-04-13 株式会社豊田中央研究所 運転支援装置、及びプログラム
JP4470067B2 (ja) * 2007-08-07 2010-06-02 本田技研工業株式会社 対象物種別判定装置、車両
JP5404263B2 (ja) * 2009-09-07 2014-01-29 パナソニック株式会社 視差算出方法、および視差算出装置
JP5895448B2 (ja) 2011-10-27 2016-03-30 株式会社リコー 車両認識装置、車両認識方法、プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1608273A (zh) * 2001-12-22 2005-04-20 哈利伯顿能源服务公司 使用图像模式识别的卷曲管道检测系统
US7248794B2 (en) * 2003-06-12 2007-07-24 Imagesat International N.V. Remote platform multiple capture image formation method and apparatus
US20100208058A1 (en) * 2007-03-24 2010-08-19 Baumer Inspection Gmbh Monitoring the color impression of multicolor patterned areas
CN102402680B (zh) * 2010-09-13 2014-07-30 株式会社理光 人机交互系统中手部、指示点定位方法和手势确定方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106170828A (zh) * 2014-04-24 2016-11-30 日立汽车系统株式会社 外界识别装置
US10210400B2 (en) 2014-04-24 2019-02-19 Hitachi Automotive Systems, Ltd. External-environment-recognizing apparatus
CN106170828B (zh) * 2014-04-24 2020-04-03 日立汽车系统株式会社 外界识别装置
CN106483577A (zh) * 2015-09-01 2017-03-08 中国航天科工集团第四研究院指挥自动化技术研发与应用中心 一种光学探测装置
CN109073778A (zh) * 2016-04-22 2018-12-21 株式会社电装 物体检测装置、物体检测方法
CN109073778B (zh) * 2016-04-22 2020-02-28 株式会社电装 物体检测装置、物体检测方法
CN106170797A (zh) * 2016-06-02 2016-11-30 深圳市锐明技术股份有限公司 车辆人员的统计方法及装置
CN110008951A (zh) * 2019-03-14 2019-07-12 深兰科技(上海)有限公司 一种目标检测方法及装置
CN110008951B (zh) * 2019-03-14 2020-12-15 深兰科技(上海)有限公司 一种目标检测方法及装置

Also Published As

Publication number Publication date
US8977006B2 (en) 2015-03-10
EP2669846A3 (en) 2014-12-03
US20130322691A1 (en) 2013-12-05
JP6198113B2 (ja) 2017-09-20
JP2014211854A (ja) 2014-11-13
EP2669846A2 (en) 2013-12-04
EP2669846B1 (en) 2017-11-01
CN103448650B (zh) 2015-12-09

Similar Documents

Publication Publication Date Title
CN103448650B (zh) 目标识别系统和目标识别方法
JP6156733B2 (ja) 対象物認識装置、機器制御システム、車両、対象物認識方法及び対象物認識用プログラム
EP2889641B1 (en) Image processing apparatus, image processing method, program and image processing system
US10776946B2 (en) Image processing device, object recognizing device, device control system, moving object, image processing method, and computer-readable medium
JP6270102B2 (ja) 移動面境界線認識装置、これを用いた移動体機器制御システム、移動面境界線認識方法及び移動面境界線認識用プログラム
US9189690B2 (en) Target point arrival detector, method of detecting target point arrival, storage medium of program of detecting target point arrival and vehicle-mounted device control system
EP2775423A2 (en) Object detection apparatus, vehicle-mounted device control system and carrier medium of program of object detection
JP2014115978A (ja) 移動物体認識装置及びこれを用いた報知装置及びその移動物体認識装置に用いる移動物体認識用プログラム及び移動物体認識装置を備えた移動体
US10776637B2 (en) Image processing device, object recognizing device, device control system, image processing method, and computer-readable medium
JP6743882B2 (ja) 画像処理装置、機器制御システム、撮像装置、画像処理方法及びプログラム
JP6315308B2 (ja) 制御用対象物識別装置、移動体機器制御システム及び制御用対象物認識用プログラム
JP6769477B2 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
JP6816401B2 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
JP2013250907A (ja) 視差算出装置、視差算出方法及び視差算出用プログラム
US10546383B2 (en) Image processing device, object recognizing device, device control system, image processing method, and computer-readable medium
WO2017047282A1 (ja) 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム
JP6733302B2 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
JP6992356B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法およびプログラム
JP2014026396A (ja) 移動面境界線認識装置、移動面境界線認識装置を備えた移動体、移動面境界線認識方法及び移動面境界線認識用プログラム
JP6812701B2 (ja) 画像処理装置、移動体機器制御システム、画像処理方法、及びプログラム
JP6701905B2 (ja) 検出装置、視差値導出装置、物体認識装置、機器制御システム、およびプログラム
WO2013069453A1 (ja) 画像処理装置及び画像処理方法
JP2018146495A (ja) 物体検出装置、物体検出方法、物体検出プログラム、撮像装置、及び、機器制御システム
JP6969245B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム
JP6943092B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant