CN104700114A - 用于识别行人的方法和装置以及支持该方法和装置的车辆 - Google Patents

用于识别行人的方法和装置以及支持该方法和装置的车辆 Download PDF

Info

Publication number
CN104700114A
CN104700114A CN201410324370.0A CN201410324370A CN104700114A CN 104700114 A CN104700114 A CN 104700114A CN 201410324370 A CN201410324370 A CN 201410324370A CN 104700114 A CN104700114 A CN 104700114A
Authority
CN
China
Prior art keywords
pedestrian
controller
far infrared
described controller
candidate group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201410324370.0A
Other languages
English (en)
Inventor
崔恩真
金在广
金镇学
李玩宰
李康训
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hyundai Motor Co
Original Assignee
Hyundai Motor Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hyundai Motor Co filed Critical Hyundai Motor Co
Publication of CN104700114A publication Critical patent/CN104700114A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/143Segmentation; Edge detection involving probabilistic approaches, e.g. Markov random field [MRF] modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • G06T7/238Analysis of motion using block-matching using non-full search, e.g. three-step search
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/41Analysis of texture based on statistical description of texture
    • G06T7/42Analysis of texture based on statistical description of texture using transform domain methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands

Abstract

本发明提供了一种用于识别行人的方法和装置以及支持该方法和装置的车辆。该方法包括:通过控制器使用远红外成像装置采集远红外图像,并且从远红外图像检测行人候选组。此外,该方法包括:基于先前归一化的行人数据库(DB)学习,通过控制器提取行人特征,并且比较行人特征与行人DB学习结果以确定相似性。该控制器被配置成基于比较结果来执行行人识别。

Description

用于识别行人的方法和装置以及支持该方法和装置的车辆
技术领域
本发明涉及识别行人并且当检测到行人时适当响应的技术,并且更具体地涉及更可靠地识别车辆前方的行人并且更适当地调节车辆速度、用于识别行人的方法和装置,以及支持该方法和装置的车辆。
背景技术
车辆事故中,许多死亡事故是由于在夜晚(例如差的照明条件)不能识别车辆前方的行人而发生。特别地,对于夜间驾驶,驾驶员的视野更狭窄,因此使得难以预测车辆前方的行人存不存在,或行人的运动。因此,已经提出采集各种传感器信号并且在夜晚基于采集到的传感器信号识别前方行人的方案。
例如,现有技术的行人识别技术包括基于先前所获得的与行人有关的数据库(DB)图像来抽取(例如提取)称为梯度直方图(HOG)的轮廓特征,并且利用分类器(例如支持矢量机(SVM)分类器)从而确定对象是行人还是非行人的方法。然而,但是由于在现有技术的方法中需要比较大量的特征,所以检测速度基本上很低,使得难以在所需时机提供适当信息。为补充这点,可应用利用更弱分类器的Adaboost方案。特别地,处理速度可提高,但是检测性能降级小于所需,使得难以适当识别行人。此外,更弱分类器方案的应用可导致在提供有效功能的行人识别性能中的大量错误。
发明内容
因此,本发明提供可实现提高的图像处理速度并且更稳定地识别行人、用于识别行人的装置和方法,以及支持该装置和方法的车辆。
在本发明的一个方面中,用于识别行人的装置可包括:远红外成像装置(例如照相机、摄像机等),其被配置成采集预定区域的远红外图像;以及控制器,其被配置成:从远红外图像检测行人候选组;基于在学习归一化的行人数据库(DB)时由基本上弱的分类器检测的特征中的主要特征,提取并且比较行人特征,从而执行行人检测。
控制器可被配置成基于远红外图像中的温度信息和重要信息(例如行人的不同部位),来执行行人候选组检测。控制器还可以被配置成确定从远红外图像中检测的行人候选组的周围区域,并且将行人候选组的周围区域归一化从而具有归一化的行人DB中的行人区域的大小。控制器可被配置成将行人候选组的周围区域归一化从而具有采用宽度与高度的比率为1:2的大小。此外,控制器可被配置成应用Adv_HOG(高级取向梯度直方图)方案,其中行人候选组区域被分成大小可调节的方块,并且360度的角度范围可被分成表示角度的九个面元,或者可被配置成应用局部二元模式(LBP)方案,其中通过当前像素值和邻近像素值的模式变化获得的值被施加于行人候选组区域中具有可调节大小的每个块,以配置抽取特征的直方图。控制器可被配置成在行人检测结果图像中对象重叠的区域上执行聚类,从而确定是存在单个行人还是存在多个行人。
在本发明的另一个方面中,支持行人识别功能的车辆可包括:远红外成像装置,其被配置成采集预定区域的远红外图像;控制器,其被配置成:从远红外图像检测行人候选组;基于在学习归一化的行人数据库(DB)时由基本上弱的分类器检测的特征中的主要特征,提取并比较行人特征,从而执行行人检测;以及信息输出装置,其被配置成输出行人检测结果。
信息输出装置可包括音频装置和视频装置中的至少一个,其中音频装置被配置成根据行人与车辆之间的距离以及行人位置中的至少一个来输出警报声;视频装置被配置成输出行人检测图像。此外,车辆还可以包括:定时器、亮度传感器和温度传感器中的至少一个,其中定时器被配置成确定行人识别功能自动应用时的时间;亮度传感器和温度传感器被配置成检测行人识别功能自动应用的环境。
在本发明的另一个方面中,用于识别行人的方法可包括:采集远红外图像;从远红外图像检测行人候选组;基于先前归一化的行人数据库(DB)学习来提取行人特征;比较行人特征与行人DB学习结果以确定相似性;以及基于比较结果来执行行人识别。检测处理可以基于来自远红外图像的温度信息和重要信息来执行行人候选组检测。
该方法还可以包括:确定从远红外图像中检测的行人候选组的周围区域;以及将行人候选组的周围区域归一化以便与归一化的行人数据库中的行人区域大小对应,并且具有采用宽度与长度的比率为1:2的大小。特征提取处理可包括:提取在数据库学习过程期间由基本上弱的分类器提取的特征中的主要特征。特征提取过程还可以包括如下处理中的至少一个:应用Adv_HOG(高级取向梯度直方图)方案,其中行人候选组区域被分成大小可调节的方块,并且360度的角度范围被配置为表示角度的9个面元;以及应用局部二元模式(LBP)方案,其中通过当前像素值和邻近像素值的模式变化获得的值被施加于行人候选组区域中具有可调节大小的每个块,以配置提取特征的直方图。
该方法还可以包括:对于行人检测结果图像中检测对象重叠的区域,确定是存在单个行人还是存在多个行人。此外,该方法可包括如下处理中的至少一个:根据行人与车辆之间的距离以及行人位置中的至少一个来输出警报声;以及输出行人检测图像。该方法还可以包括如下处理中的至少一个:当预定时间达到时自动应用行人识别功能;当亮度传感器值小于或大于预定值时自动应用行人识别功能;以及当温度传感器值小于或大于预定值时自动应用行人识别功能。
附图说明
本发明的以上和其它目的、特征和优点将从结合附图的以下详细说明中更加显而易见,其中:
图1是示意性示出根据本发明示例性实施例用于识别行人的装置配置和包括该装置配置的车辆的示例性视图;
图2是示出根据本发明示例性实施例识别行人过程的示例性视图;
图3是具体示出根据本发明示例性实施例用于识别行人的装置的控制器配置的示例性视图;
图4是示出根据本发明示例性实施例用于识别行人的方法的示例性流程图;
图5是示出根据本发明示例性实施例用于确定行人候选组的方法的示例性视图;
图6是示出根据本发明示例性实施例用于确定并归一化行人候选组的周围区域的方法的示例性视图;
图7是示出根据本发明示例性实施例在行人特征提取中的Adv_HOG方案的示例性视图;
图8是示出根据本发明示例性实施例在行人特征提取中的LBP方案的示例性视图;
图9是示出根据本发明示例性实施例比较行人特征的示例性视图;
图10是示出根据本发明示例性实施例在图像中的行人特征中的Adv_HOG和LBP特征的位置示例的示例性视图;以及
图11是示出根据本发明示例性实施例在行人检测结果中进行聚类处理的示例性视图。
具体实施方式
应该理解,如这里使用的术语“车辆”(vehicle)或“车辆的(vehicular)”或其它类似术语,总体上包括机动车辆,如包括运动功能车(SUV)在内的乘用车、公交车、卡车、各种商用车、包括各种小船和轮船的船舶、飞机等,并包括混合动力车辆、电动车辆、燃烧型、插入式混合动力车辆、氢能源车辆和其它替换燃料车辆(例如源自非石油资源的燃料)。
虽然示例性实施例描述为使用多个单元执行示例性过程,但是应该理解,示例性过程也可由一个或多个模块执行。此外,应该理解,术语“控制器”/“控制单元”指包括存储器和处理器的硬件装置。该存储器配置成存储模块并且该处理器具体配置为执行所述模块从而执行下面进一步描述的一个或多个过程。
此外,本发明的控制逻辑可实施为计算机可读介质上的非暂时性计算机可读介质,所述计算机可读介质包含由处理器、控制器/控制单元等执行的可执行程序指令。计算机可读介质的例子包括但不限于ROM、RAM、压缩光盘(CD)-ROM,磁带、软盘、闪盘、智能卡和光学数据存储装置。计算机可读记录介质也可分布在联网的计算机系统中,以便计算机可读介质可以以分布方式存储和执行,例如,以远程服务器或控制器局域网(CAN)方式。
这里所用的术语仅是为了描述具体实施例,并不是为了限制本发明。如这里所用,单数形式“一个”、“一”和“这”旨在也包括复数形式,除非说明书中另外明确指明。应进一步理解,当术语“包括”和/或“包含”用在本说明书中时,其指出存在所述特征、整数、步骤、操作、元件和/或组件,但不排除存在或外加一个或多个其它特征、整数、步骤、操作、元件、组件和/或其中的组。如这里所用,术语“和/或”包括一个或多个相关所列项目的任何和所有组合。
除非特别声明或从说明书中明显看出,在此使用的术语“大约”应理解为在本领域中正常公差范围之内,例如,在平均值的两个标准偏差之内。“大约”可理解为在所述值的10%、9%、8%、7%、6%、5%、4%、3%、2%、1%、0.5%、0.1%、0.05%或0.01%之内。除非从说明书中明显看出,在此提供的所有的数值用术语“大约”修饰。
在下文中,将参考附图详细描述本发明的示例性实施例。图1是示意性示出根据本发明示例性实施例用于识别行人的装置配置和包括该装置配置的车辆的示例性视图。图2是示出根据本发明示例性实施例识别行人过程的示例性视图。
参考图1,用于识别行人的装置(例如行人识别装置)100可包括远红外成像装置110(例如照相机、摄像机等)和控制器160,并且还可以包括信息输出装置140。在车辆的情况下,对于行人识别装置100,信息输出装置140可以是诸如音频/视频/导航(AVN)的电子装置、仪表簇等。特别地,对于车辆,在行人识别装置100中,控制器160可以是诸如电机控制单元(MCU)等的元件。
在包括前述元件的行人识别装置100中,控制器160可被配置成处理由远红外成像装置110采集的远红外图像信号,并且可被配置成执行如在图2中示出的过程,从而识别行人。换句话说,行人识别装置100可被配置成执行图像输入过程、关注区域(ROI)过程、候选检测过程、行人检测过程、行人跟踪过程和结果图像输出过程。
远红外成像装置110可以是被配置成支持行人识别装置100的图像输入过程的元件。远红外成像装置110可被配置成例如在控制器160操作下在车辆前方预定角度处范围内,在预定方向关于周围环境来采集远红外图像。因此,远红外成像装置110可以设置在车辆顶部或前盖(例如发动机盖)上的预定位置。由远红外成像装置110采集的图像可实时或在预定的时间周期中获得。由远红外成像装置110采集的远红外图像可被传递到控制器160。
信息输出装置140可以是被配置成在控制器160操作下输出行人识别结果的装置。信息输出装置140可包括在车辆内设置的音频装置和视频装置中的至少一个,如上所述。此外,信息输出装置140可包括仪表簇装置。因此,行人识别结果可以用音频信号、文本、图像或灯闪烁的形式来输出。因此,信息输出装置140可包括引导讯息和先前定义并基于行人识别结果输出的引导模式信息。为存储引导讯息和引导模式信息,信息输出装置140还可以包括存储器装置。例如,信息输出装置140可被配置成根据行人识别结果输出车辆前方(例如或车辆周围)存在的行人数量,行人与车辆之间的距离,基于行人与车辆之间的距离的警报讯息等。行人数量,行人与车辆之间的距离,以及警报讯息等可以用预定的形式输出,例如各种形式的引导声、引导文本、引导图像、灯模式等。此外,信息输出装置140的视频装置可被配置成基于远红外图像显示行人识别结果。
控制器160可被配置成操作装置从而支持根据本发明的示例性实施例的行人识别功能,并且执行信号处理和数据处理以及传递、输出等。例如,控制器160可被配置成接收输入信号从而设定行人识别模式,激活远红外成像装置110,采集远红外图像,识别远红外图像中的行人,以及输出行人识别结果。在该过程中,如在图2中所示,控制器160可被配置成执行图像输入过程、关注区域(ROI)设定过程、候选检测过程、行人检测过程、行人跟踪过程以及结果图像输出过程。为执行图像输入过程,控制器160可被配置激活远红外成像装置110并且操作远红外成像装置从而实时或以预定的时间周期捕捉红外图像。
当远红外图像在关注区域设定过程中获得时,控制器160可被配置成设定预定义区域作为关注区域,或者可被配置成从通过执行过滤而获得的远红外图像中图示性检测对象等从而设定关注区域。当关注区域被设定时,控制器160可被配置成确定用于在候选检测过程中在关注区域中进行行人识别的候选区域。当候选区域被设定时,控制器160可被配置成在行人检测过程中检测在候选区域中实际行走的对象(例如运动的行人)。此后,控制器160可被配置成在行人跟踪过程中执行对运动对象的跟踪,并且在终得图像过程中输出结果。因此,控制器160可包括在图3中示出的元件。此外,行人识别装置100或包括该装置的车辆可包括被配置成设定或进入行人识别模式的输入装置。特别地,输入装置可包括各种输入单元,例如至少一个键按钮,至少一个触摸键等。
图3是具体示出根据本发明示例性实施例的控制器配置的示例性视图。参考图3,控制器160可包括图像采集单元161、候选检测单元163、行人检测和跟踪单元165,以及信息输出控制器167。当行人识别模式被设定时或当用于请求行人识别功能执行的输入信号生成时,图像采集单元161可被配置成激活远红外成像装置110。图像采集单元161可被配置成将远红外成像装置110获得的远红外图像传递给候选检测单元163。
候选检测单元163可被配置成通过对远红外成像装置110采集的远红外图像执行过滤和对象检测过程,来相对于行人区域检测候选区域。因此,候选检测单元163可被配置成相对于远红外图像设定关注区域(ROI)。特别地,候选检测单元163可被配置成设定获得的远红外图像的预定区域(例如先前定义为在车辆进入过程中可能发生事故的区域的预定区域)作为关注区域。可替代地,候选检测单元163可被配置成对获得的远红外图像执行图示性过滤并且设定其中有预定对象位于其中的区域作为关注区域。候选检测单元163可被配置成通过对关注区域设定执行过滤来确定预定对象是否位于关注区域内。当具有等于或大于预定大小的对象被检测到处在关注区域内时,候选检测单元163可被配置成将相应对象设定为候选区域。候选检测单元163可被配置成将关于提取候选区域的信息发送给行人检测和跟踪单元165。
行人检测和跟踪单元165可被配置成对从候选检测单元163传递的候选区域执行行人检测。因此,行人检测和跟踪单元165可被配置成从具有预先存储在其中的行人特征的用于行人识别的数据库(DB)提取行人特征,并且将该特征与当前传递的候选区域进行比较。行人检测和跟踪单元165可被配置成将候选区域中包括行人特征的区域设定为行人区域。在设定行人区域之后,行人检测和跟踪单元165可被配置成对设定行人区域执行跟踪。在行人跟踪过程中,行人检测和跟踪单元165可被配置成计算关于行人与车辆之间的距离的信息等,并且将计算信息传递给信息输出控制器167。
信息输出控制器167可被配置成操作信息输出装置140从而输出关于由行人检测和跟踪单元165跟踪的特定行人区域的至少一部分信息。例如,信息输出控制器167可被配置成操作信息输出装置140从而输出关于行人区域之中行人与车辆之间的距离处于预定距离内的行人区域的警报讯息。可替代地,信息输出控制器167可被配置成操作信息输出装置140从而输出关于识别的行人区域的输出信息作为诸如图像、讯息等的视频信号。
此外,包括行人识别装置100的车辆还可以包括车辆速度控制器。当识别的行人与车辆之间的距离处于预定距离内时,车辆可自动调节车辆速度降低。也就是说,车辆速度控制器可被配置成当对象被检测到处于距车辆的预定距离内时自动降低车辆速度。此外,包括行人识别装置100的车辆还可以包括警报声输出装置,其作为被配置成输出用于行人识别接近的车辆的警报声的信息输出装置140。当行人与车辆之间的距离处于预定距离内时,车辆可自动输出警报声从而警告接近车辆的行人。
此外,根据本发明示例性实施例的行人识别装置100可进一步包括定时器、亮度传感器和温度传感器中的至少一个。行人识别装置100可被配置成执行基于由亮度传感器和温度传感器采集的亮度传感器信息和温度传感器信息而自动执行的行人识别模式。例如,当定时器中的特定时间设定被接收时,行人识别装置100可被配置成自动执行行人识别模式。此外,当车辆的外部环境具有低于或等于预定水平的照明强度时,例如当外部环境是夜晚(例如低的照明、暗的照明等)时或当车辆驾驶通过隧道或停车场时,行人识别装置100可被配置成自动执行行人识别模式。此外,当车辆的环境温度具有等于或低于预定温度水平的温度水平时,行人识别装置100可被配置成自动执行行人识别模式。因此,根据本发明示例性实施例的行人识别功能可被支持为根据特定夜晚时间的设定或夜晚环境的检测而特定用于在夜晚识别行人的功能。
图4是示出根据本发明示例性实施例作为根据行人识别和识别结果的处理方法的车辆操作方法的示例性流程图。同样,图5至图11是具体示出行人识别操作的示例性视图。
参考图4,根据用于处理行人识别的方法,首先,在操作S101中控制器160可确定行人识别装置100是否处于行人跟踪模式。在该操作中,当行人识别装置100不处于行人跟踪模式时,在操作S103中控制器160可根据用户操纵支持相应功能的执行。例如,控制器160可根据基于包括在行人识别装置100中的信息输出装置140的用户操纵,来控制广播服务输出功能执行或音乐播放功能执行。
在操作S101中,根据本发明示例性实施例用于行人识别的设定可如上所述被检查。即,在行人识别模式被设定为仅用于夜间行驶执行的情况中,行人识别装置100或包括该装置的车辆可包括定时器、亮度传感器、温度传感器等,并且当预设时间达到时,当其中照明强度低于或等于预定水平的情况发生时,或者当其中温度低于或等于预定义水平的情况发生时,行人识别装置100或包括该装置的车辆可确定进入行人识别模式。
同时,当进入行人识别模式时,或当用于进入行人识别模式的输入事件发生在操作S101中时,在操作S105中控制器160可控制远红外图像数据的采集。为此,控制器160可激活远红外成像装置110并且控制远红外成像装置110实时或以预定周期操作。
此后,控制器160可被配置成在操作S107中检测行人候选组。如在图5中所示,行人候选组的检测可基于远红外图像中对象温度和行人的重要区域(例如对象的一部分)来执行。换句话说,控制器160可被配置成形成表示其中行人存在于远红外图像中的温度区域的图像。为检测基于重要区域的行人候选组,控制器160可被配置成应用竖直和水平滤波器,并且检测行人的重要区域作为相应结果。控制器160可被配置成通过使用检测结果预测到地面的距离来估计行人的高度。控制器160同样可被配置成通过绘制在行人肩膀的高度到行人的高度的线来估计总体行人候选组。
当行人候选组的检测完成时,控制器160可被配置成在操作S109中确定行人候选组的周围区域。确定行人候选组的周围区域的操作可以是确定相对于行人候选组的预定边距的处理,如在图6中所示。特别地,控制器160可被配置成执行可变边距选择,从而确定预定数量的边距,例如每个候选组图像五种类型的边距。同时,在行人候选组图像的高度为h并且行人DB图像的归一化大小大约为64×32(高度×宽度)的假设下,竖直边距可由如下的方程式1确定。
方程式1
m=5*h*idx/(64-10)(idx=0,1,2,3,4)[idx为边距梯级]
其中m可以是竖直边距。当竖直边距被确定时,控制器160可被配置成比例地确定水平边距。例如,当行人高度被确定为m+h时,水平边距可被确定具有等于距大约行人中心(m+h)/2的宽度。为确定周围区域,行人识别装置100可被配置成预先存储归一化的行人DB图像。
在确定行人候选组的周围区域之后,控制器160可被配置成在操作S111中执行归一化转换。换句话说,控制器160可被配置成对当前确定的行人候选组的周围区域执行图像转换(例如改变大小),从而基于从行人DB图像计算的归一化大小信息而具有归一化大小。例如,控制器160可被配置成归一化行人候选组的周围区域,从而具有等于行人DB大小的大约64×32的大小,从而将从行人DB检索的特征与从行人候选组图像抽取的特征匹配。如上所述的归一化大小可基于行人DB的图像大小而改变。特别地,控制器160可被配置保持归一化大小的比率为1:2(宽度:高度)。通过根据预定比率的归一化处理,控制器160可被配置成即使在行人大小变化的时候也抽取特征。
此后,在操作S113中控制器160可被配置成提取特征。为提取该特征,控制器160可被配置成使用图7的Adv_HOG(高级梯度直方图)方案和图8的LBP代码应用方案中的至少一个,其中行人特征从特征抽取区域抽取以匹配该特征与学习结果,从而抽取根据行人DB学习结果抽取的更稳定、明确的特征。通过使用这种方案,在本发明的示例性实施例中,因应用所有特征而导致的处理速度降低可被改善。换句话说,控制器160可被配置成在学习期间通过Adaboost(基本上是弱的分类器)抽取特征中具有改进特性的主要特征,并且使用该特征检测行人,从而提高速度同时提供类似性能。
对于HOG方案,由归一化大小获得的特征可通过基于预定图像块中的梯度角配置直方图来提取。在现有技术中,梯度值从16×16(w×h,单位:像素)块提取,并且0到180度的角度范围被分成表示角度的九个面元(bin)。相比之下,在根据本发明示例性实施例的Adv_HOG(高级梯度直方图)的情况中,如在图7中所示,除了大致正方形的块(8×8)还支持矩形块和块大小变化的诱因,并且从大约0到360度的角度范围被配置为九个面元以使得远红外图像可被更容易地改变,因此表示角度。
同时,在图8中示出的局部二元模式(LBP)方案是计算通过当前像素值和邻近像素值模式变化获得的值并且应用该值的方案。特别地,直方图被配置在每个块中从而归一化并且提取特征,而不是应用图案化的值。此外每个块的大小可变化。换句话说,每个块可具有大致正方形或矩形形状,而不具有与在Adv_HOG方案中相同方式中的现有固定正方形,从而本发明支持更稳健的特征抽取。
在特征提取之后,控制器160可被配置成执行操作S115中的特征。在该过程中,控制器160可被配置成将特征与如图9中所示的学习结果进行比较。换句话说,控制器160可被配置成比较从实时图像抽取的特征(例如通过应用Adv_HOG方案或LBP方案计算的特征)与行人DB学习结果从而确定相似性。特别地,稳健比较特征量和特征位置可根据行人DB特征而不同。
在特征比较之后,控制器160可被配置成在操作S117中执行聚类。例如,如在图11中所示,控制器160可被配置成使用其中行人被检测的终得图像来执行重叠区域聚类。特别地,当行人重叠的部分区域被识别为行人时,控制器160可被配置成基于重叠区域的重叠比例来确定行人是否被识别为同一行人。通过这种方式,在本发明的示例性实施例中,行人可更清楚地被检测,并且因此关于行人存在与否的明显信息可被提供给驾驶员并且跟踪算法可被更容易地应用。
此后,控制器160可被配置成在操作S119中执行行人跟踪。Kalman滤波器可应用于行人跟踪。在该过程中,控制器160可被配置成通过行人检测结果,通过应用诸如位置、速度、特征等的参数,使用线性Kalman滤波器来跟踪行人运动。通过应用上述滤波器,控制器160可被配置成估计行人运动,并且删除非检测或错误检测区域。
在操作S121中,控制器160可被配置成确定是否存在用于执行至少一个信息和警报输出的设定。因此,控制器160可被配置成通过使用行人检测图像来估计行人与车辆之间的距离。特别地,控制器160可被配置成基于远红外成像装置110被固定的位置以及行人大约是170公分高的假设,来估计行人与车辆之间的距离。控制器160可被配置成使用行人存在于远红外图像中的区域来检测行人是否站立在车辆的前侧。
当用于信息和警报输出的设定在操作S121中被检测到时,控制器160可被配置成在操作S123中操作并且输出预定义信息和警报。例如,当行人接近(例如在预定范围内)车辆或存在于车辆前方时,控制器160可被配置成生成危险警报声。可替代地,当行人远离(例如超出预定范围)车辆或在车辆前方右侧或左侧时,控制器160可被配置成使用信息输出装置140的视频装置来指示(例如输出)在图像中行人的位置。
此外,当用于信息和警报输出的设定在操作S121中没有被检测到时,控制器160可跳过操作S123。此后,控制器160可被配置成在操作S125中确定用于终止行人识别功能的事件是否发生。例如,当用于终止行人识别功能的输入信号被接收时,或当照明传感器信息小于或高于预定照明强度或者当温度传感器信息小于或高于预定温度水平时,如上所述,控制器160可被配置成确定用于终止行人识别功能的事件已经发生。此外,当用于终止行人识别功能的事件没有在操作S125中发生时,控制器160可返回到前面操作S105的阶段,从而执行对上述操作的重复。
如上所述,采用根据本发明示例性实施例用于识别行人的装置和方法,以及支持该装置和方法的车辆,当诸如夜晚时间(例如差的照明条件)难以识别行人时,可主动识别行人。在该过程中,通过及时的图像处理和可靠的图像识别,更可靠的行人识别功能可被提供。此外,由于车辆或警报可基于行人识别结果来操作,所以驾驶员的安全性和行人安全可被保证。根据本发明的示例性实施例,可使用提高的图像处理速率和更稳定的行人特征检测而以适当的时间可靠度来识别行人。因此,驾驶员和行人的安全性可提高。
应该理解到,本发明的范围由所附权利要求而不是上述详细说明限定,并且从权利要求的含义、范围和等同物导出的所有修改或变化包括在本发明的范围中。

Claims (20)

1.一种用于识别行人的装置,其特征在于,所述装置包括:
远红外成像装置,其被配置成采集预定区域的远红外图像;以及
控制器,其被配置成:
从所述远红外图像检测行人候选组;以及
基于在学习归一化的行人数据库(DB)时由分类器检测的特征中的主要特征,抽取并比较行人特征,从而执行行人检测。
2.根据权利要求1所述的装置,其特征在于,所述控制器被配置成基于所述远红外图像中的温度信息和对象信息,来执行行人候选组检测。
3.根据权利要求1所述的装置,其特征在于,所述控制器被配置成确定从所述远红外图像中检测的行人候选组的周围区域,并且将所述行人候选组的周围区域归一化从而具有归一化的行人DB中的行人区域的大小。
4.根据权利要求3所述的装置,其特征在于,所述控制器被配置成将所述行人候选组的周围区域归一化从而具有采用宽度与高度的比率为1:2的大小。
5.根据权利要求1所述的装置,其特征在于,所述控制器被配置成应用Adv_HOG方案,其中行人候选组区域被分成大小可调节的方块,并且360度的角度范围被分成表示角度的九个面元,或者应用局部二元模式(LBP)方案,其中通过当前像素值和邻近像素值的模式变化获得的值被施加于行人候选组区域中具有可调节大小的每个块,以配置抽取特征的直方图。
6.根据权利要求1所述的装置,其特征在于,所述控制器被配置成在行人检测结果图像中对象重叠的区域上执行聚类,从而确定是存在单个行人还是存在多个行人。
7.一种支持行人识别功能的车辆,其特征在于,所述车辆包括:
远红外成像装置,其被配置成采集预定区域的远红外图像;
控制器,其被配置成:
从所述远红外图像检测行人候选组;以及
基于在学习归一化的行人数据库(DB)时由分类器检测的特征中的主要特征,抽取并比较行人特征,从而执行行人检测;以及
信息输出装置,其被配置成输出行人检测结果。
8.根据权利要求7所述的车辆,其特征在于,所述控制器被配置成基于所述远红外图像中的温度信息和对象信息来执行行人候选组检测,确定从所述远红外图像中检测的行人候选组的周围区域,并且将所述行人候选组的周围区域归一化从而使周围区域与归一化的行人DB中的行人区域大小匹配,并且具有采用宽度与高度的比率为1:2的大小。
9.根据权利要求7所述的车辆,其特征在于,所述控制器被配置成应用Adv_HOG方案,其中行人候选组区域被分成大小可调节的方块,并且360度的角度范围被分成表示角度的九个面元,或者应用局部二元模式(LBP)方案,其中通过当前像素值和邻近像素值的模式变化获得的值被施加于所述行人候选组区域中具有可调节大小的每个块,以配置抽取特征的直方图。
10.根据权利要求7所述的车辆,其特征在于,所述控制器被配置成在行人检测结果图像中对象重叠的区域上执行聚类,从而确定是存在单个行人还是存在多个行人。
11.根据权利要求7所述的车辆,其特征在于,所述信息输出装置包括由如下组成的组中的至少一个:音频装置,其被配置成基于行人与车辆之间的距离以及行人位置中的至少一个来输出警报声;以及视频装置,其被配置成输出行人检测图像。
12.根据权利要求7所述的车辆,其特征在于,还包括由如下组成的组中的至少一个:定时器,其被配置成确定行人识别功能自动应用时的时间;亮度传感器,其被配置成检测环境的照明强度以自动应用行人识别功能;以及温度传感器,其被配置成检测环境温度以自动应用行人识别功能。
13.一种用于识别行人的方法,其特征在于,所述方法包括:
通过控制器采集由远红外成像装置捕捉的远红外图像;
通过所述控制器从所述远红外图像检测行人候选组;
通过所述控制器基于先前归一化的行人数据库(DB)学习,提取行人特征;
通过所述控制器比较所述行人特征与行人DB学习结果以确定相似性;以及
通过所述控制器基于比较结果执行行人识别。
14.根据权利要求13所述的方法,其特征在于,所述检测处理包括基于来自远红外图像的温度信息和对象信息,通过所述控制器执行行人候选组检测。
15.根据权利要求13所述的方法,其特征在于,还包括:
通过所述控制器确定从所述远红外图像中检测的行人候选组的周围区域;以及
通过所述控制器将行人候选组的周围区域归一化以便与归一化的行人数据库中的行人区域大小对应,并且具有采用宽度与长度的比率为1:2的大小。
16.根据权利要求13所述的方法,其特征在于,所述特征提取处理包括:
通过所述控制器提取在数据库学习期间由分类器抽取的特征中的主要特征。
17.根据权利要求16所述的方法,其特征在于,所述特征提取处理包括如下处理中的至少一个:
通过所述控制器应用Adv_HOG方案,其中行人候选组区域被分成大小可调节的方块,并且360度的角度范围被配置为表示角度的9个面元;以及
通过所述控制器应用局部二元模式(LBP)方案,其中通过当前像素值和邻近像素值的模式变化获得的值被施加于所述行人候选组区域中具有可调节大小的每个块,以配置抽取特征的直方图。
18.根据权利要求13所述的方法,其特征在于,还包括:
对于行人检测结果图像中检测对象重叠的区域,通过所述控制器确定是存在单个行人还是存在多个行人。
19.根据权利要求13所述的方法,其特征在于,还包括如下处理中的至少一个:
基于行人与车辆之间的距离以及行人位置中的至少一个,通过所述控制器输出警报声;以及
通过所述控制器输出行人检测图像。
20.根据权利要求13所述的方法,其特征在于,还包括如下处理中的至少一个:
当预设时间达到时,通过所述控制器自动应用行人识别功能;
当亮度传感器值小于或大于预定值时,通过所述控制器自动应用行人识别功能;以及
当温度传感器值小于或大于预定值时,通过所述控制器自动应用行人识别功能。
CN201410324370.0A 2013-12-09 2014-07-09 用于识别行人的方法和装置以及支持该方法和装置的车辆 Pending CN104700114A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2013-0152296 2013-12-09
KR1020130152296A KR101543105B1 (ko) 2013-12-09 2013-12-09 보행자 인식 장치 및 그의 처리 방법과 이를 지원하는 차량

Publications (1)

Publication Number Publication Date
CN104700114A true CN104700114A (zh) 2015-06-10

Family

ID=53271698

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410324370.0A Pending CN104700114A (zh) 2013-12-09 2014-07-09 用于识别行人的方法和装置以及支持该方法和装置的车辆

Country Status (3)

Country Link
US (1) US20150161796A1 (zh)
KR (1) KR101543105B1 (zh)
CN (1) CN104700114A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105389546A (zh) * 2015-10-22 2016-03-09 四川膨旭科技有限公司 车辆行驶过程中对夜间人物进行识别的系统
CN106402760A (zh) * 2016-11-17 2017-02-15 广西大学 一种感应节能灯
TWI628623B (zh) * 2016-11-25 2018-07-01 國家中山科學研究院 全天候熱影像式行人偵測方法
CN108263324A (zh) * 2016-12-30 2018-07-10 现代自动车株式会社 基于姿势信息的行人检测和行人碰撞预防装置及方法
CN108446719A (zh) * 2018-02-09 2018-08-24 浙江新再灵科技股份有限公司 基于深度相机衡量商场内广告牌关注度的方法
CN109760671A (zh) * 2017-11-07 2019-05-17 现代自动车株式会社 混合动力车辆及控制该混合动力车辆的驱动模式的方法
CN111192604A (zh) * 2019-12-12 2020-05-22 秒针信息技术有限公司 录音设备控制方法和装置
CN111292551A (zh) * 2018-12-10 2020-06-16 丰田自动车株式会社 运行支援装置、运行支援系统以及运行支援程序

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6299299B2 (ja) * 2014-03-14 2018-03-28 オムロン株式会社 事象検出装置および事象検出方法
CN105426852B (zh) * 2015-11-23 2019-01-08 天津津航技术物理研究所 车载单目长波红外相机行人识别方法
CN107872644B (zh) * 2016-09-23 2020-10-09 亿阳信通股份有限公司 视频监控方法及装置
KR102545199B1 (ko) * 2016-11-08 2023-06-19 삼성전자주식회사 전자 장치 및 그 제어 방법
KR20180051838A (ko) 2016-11-09 2018-05-17 삼성전자주식회사 보행자 및 차량의 탑승자에게 상대방의 접근을 알리는 방법 및 장치
WO2018092934A1 (ko) * 2016-11-17 2018-05-24 주식회사 토비스 나이트 비젼 시스템
US10198657B2 (en) * 2016-12-12 2019-02-05 National Chung Shan Institute Of Science And Technology All-weather thermal-image pedestrian detection method
KR101996415B1 (ko) 2016-12-30 2019-07-04 현대자동차주식회사 자세 정보 기반 보행자 탐지 및 보행자 충돌 방지 장치 및 방법
KR101996414B1 (ko) * 2016-12-30 2019-07-04 현대자동차주식회사 보행자 시선을 고려한 충돌 방지 및 충격 완화 장치 및 방법
KR101935853B1 (ko) * 2017-04-07 2019-01-07 주식회사 토비스 라이다 및 레이더를 이용한 나이트 비전 시스템
CN107704838B (zh) * 2017-10-19 2020-09-25 北京旷视科技有限公司 目标对象的属性识别方法及装置
US10866307B2 (en) * 2017-12-29 2020-12-15 Automotive Research & Testing Center Method for analyzing error and existence probability of multi-sensor fusion of obstacle detection
US10750953B1 (en) 2018-05-11 2020-08-25 Arnold Chase Automatic fever detection system and method
US11062608B2 (en) 2018-05-11 2021-07-13 Arnold Chase Passive infra-red pedestrian and animal detection and avoidance system
US10467903B1 (en) * 2018-05-11 2019-11-05 Arnold Chase Passive infra-red pedestrian detection and avoidance system
US11294380B2 (en) 2018-05-11 2022-04-05 Arnold Chase Passive infra-red guidance system
KR102225049B1 (ko) * 2019-07-25 2021-03-09 한미헬스케어 주식회사 구동 모드의 자동 전환을 통한 절전형 리딩 제어시스템
CN110837769B (zh) * 2019-08-13 2023-08-29 中山市三卓智能科技有限公司 一种图像处理与深度学习的嵌入式远红外行人检测方法
CN111597959B (zh) * 2020-05-12 2023-09-26 盛景智能科技(嘉兴)有限公司 行为检测方法、装置及电子设备
JP7196205B2 (ja) * 2020-05-15 2022-12-26 バイドゥドットコム タイムズ テクノロジー (ベイジン) カンパニー リミテッド 部分的ポイントクラウドベースの歩行者速度推定方法
CN111785052B (zh) * 2020-07-08 2022-02-22 宁波保税区立诚信息技术有限公司 一种道路交通流低谷时段的交通信号灯控制方法
CN112784794B (zh) * 2021-01-29 2024-02-02 深圳市捷顺科技实业股份有限公司 一种车辆停放状态检测方法、装置、电子设备及存储介质
KR102649806B1 (ko) * 2021-12-01 2024-03-21 주식회사 포딕스시스템 객체 이미지 표준화 장치 및 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102682304A (zh) * 2012-03-26 2012-09-19 北京博康智能信息技术有限公司 一种融合多特征的行人检测方法及装置
CN102741901A (zh) * 2010-01-28 2012-10-17 株式会社日立制作所 车辆用外界识别装置
CN103198332A (zh) * 2012-12-14 2013-07-10 华南理工大学 一种实时鲁棒的远红外车载行人检测方法
CN103366177A (zh) * 2012-03-28 2013-10-23 佳能株式会社 对象检测分类器生成方法和设备、图像对象检测方法和设备

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4376653B2 (ja) * 2004-02-17 2009-12-02 富士重工業株式会社 車外監視装置
JP2006010652A (ja) 2004-06-29 2006-01-12 Toyota Motor Corp 物体検出装置
JP4719605B2 (ja) 2006-03-30 2011-07-06 株式会社豊田中央研究所 対象物検出用データ生成装置、方法及びプログラム並びに対象物検出装置、方法及びプログラム
JP4777195B2 (ja) 2006-09-11 2011-09-21 川崎重工業株式会社 運転支援装置、車両及び運転支援方法
CN101872477B (zh) * 2009-04-24 2014-07-16 索尼株式会社 检测图像中的对象的方法、装置,及包括该装置的系统
JP5621558B2 (ja) 2010-12-02 2014-11-12 株式会社デンソー 車両用表示装置
US8842883B2 (en) * 2011-11-21 2014-09-23 Seiko Epson Corporation Global classifier with local adaption for objection detection
US8649564B2 (en) * 2011-11-28 2014-02-11 Chung-Shan Institute of Science and Technology, Armaments, Bureau, Ministry of National Defense Pedestrian detector
US20140169624A1 (en) * 2012-12-14 2014-06-19 Hyundai Motor Company Image based pedestrian sensing apparatus and method
CA2896291A1 (en) * 2012-12-25 2014-07-03 Keisuke Miyagawa Vehicle periphery monitoring device
US8989442B2 (en) * 2013-04-12 2015-03-24 Toyota Motor Engineering & Manufacturing North America, Inc. Robust feature fusion for multi-view object tracking
US9008365B2 (en) * 2013-04-18 2015-04-14 Huawei Technologies Co., Ltd. Systems and methods for pedestrian detection in images
KR102021152B1 (ko) * 2013-05-07 2019-09-11 현대모비스 주식회사 원적외선 카메라 기반 야간 보행자 인식 방법
US9087263B2 (en) * 2013-12-09 2015-07-21 National Chung Shan Institute Of Science And Technology Vision based pedestrian and cyclist detection method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102741901A (zh) * 2010-01-28 2012-10-17 株式会社日立制作所 车辆用外界识别装置
CN102682304A (zh) * 2012-03-26 2012-09-19 北京博康智能信息技术有限公司 一种融合多特征的行人检测方法及装置
CN103366177A (zh) * 2012-03-28 2013-10-23 佳能株式会社 对象检测分类器生成方法和设备、图像对象检测方法和设备
CN103198332A (zh) * 2012-12-14 2013-07-10 华南理工大学 一种实时鲁棒的远红外车载行人检测方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105389546A (zh) * 2015-10-22 2016-03-09 四川膨旭科技有限公司 车辆行驶过程中对夜间人物进行识别的系统
CN106402760A (zh) * 2016-11-17 2017-02-15 广西大学 一种感应节能灯
TWI628623B (zh) * 2016-11-25 2018-07-01 國家中山科學研究院 全天候熱影像式行人偵測方法
CN108263324A (zh) * 2016-12-30 2018-07-10 现代自动车株式会社 基于姿势信息的行人检测和行人碰撞预防装置及方法
US11167736B2 (en) 2016-12-30 2021-11-09 Hyundai Motor Company Posture information based pedestrian detection and pedestrian collision prevention apparatus and method
CN109760671A (zh) * 2017-11-07 2019-05-17 现代自动车株式会社 混合动力车辆及控制该混合动力车辆的驱动模式的方法
CN108446719A (zh) * 2018-02-09 2018-08-24 浙江新再灵科技股份有限公司 基于深度相机衡量商场内广告牌关注度的方法
CN111292551A (zh) * 2018-12-10 2020-06-16 丰田自动车株式会社 运行支援装置、运行支援系统以及运行支援程序
CN111192604A (zh) * 2019-12-12 2020-05-22 秒针信息技术有限公司 录音设备控制方法和装置

Also Published As

Publication number Publication date
KR101543105B1 (ko) 2015-08-07
KR20150066799A (ko) 2015-06-17
US20150161796A1 (en) 2015-06-11

Similar Documents

Publication Publication Date Title
CN104700114A (zh) 用于识别行人的方法和装置以及支持该方法和装置的车辆
CN106652465B (zh) 一种道路异常驾驶行为的识别方法及系统
CN111212772B (zh) 用于确定车辆的驾驶策略的方法和设备
CN109506664B (zh) 利用人行横道识别结果的引导信息提供装置及方法
CN102303609B (zh) 车道偏离预警系统及方法
Han et al. Vehicle detection method using Haar-like feature on real time system
CN105620489A (zh) 驾驶辅助系统及车辆实时预警提醒方法
CN109941286A (zh) 用于评估车辆行驶表面的方法和设备
CN102859568A (zh) 基于影像的智能机动车控制系统
Jang et al. Multiple exposure images based traffic light recognition
JP2002083297A (ja) 物体認識方法および物体認識装置
CN110659543A (zh) 基于手势识别的车辆控制方法、系统及车辆
Liu et al. Lane detection algorithm based on local feature extraction
Hechri et al. Robust road lanes and traffic signs recognition for driver assistance system
Wu et al. A real-time embedded blind spot safety assistance system
EP2741234B1 (en) Object localization using vertical symmetry
US11250279B2 (en) Generative adversarial network models for small roadway object detection
Biswas et al. Detection and classification of speed limit traffic signs
KR101687094B1 (ko) 교통 표지판 인식 장치 및 교통 표지판 인식 방법
Cualain et al. Multiple-camera lane departure warning system for the automotive environment
JP2014146267A (ja) 歩行者検出装置、運転支援装置
Moizumi et al. Traffic light detection considering color saturation using in-vehicle stereo camera
CN111469765A (zh) 一种具有去除车身阴影功能的检测系统及其方法
BV et al. Computer vision based advanced driver assistance system algorithms with optimization techniques-a review
Ju et al. Vision-based moving objects detection for intelligent automobiles and a robustness enhancing method

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20150610