发明内容
为解决上述技术问题,本申请实施例提供一种遗留物检测方法,通过径向延伸滤波去除光照突然变化造成的误检;利用混合高斯模型的微观信息来适应复杂动态背景;通过累计分析双前景二值图的方法来提高系统的抗遮挡能力;通过提取特征进行分类检测的方法来去除非遗留物(例如行人)造成的误检现象,这种遗留物检测方法,提高了遗留物的检测精度,降低了遗留物误检率。
技术方案如下:
一种遗留物检测方法,包括:
利用混合高斯模型进行背景建模,建立的背景模型包括长周期背景模型和短周期背景模型;
将接收的视频帧分别与所述长周期背景模型和短周期背景模型进行匹配,得到视频帧的初始长周期前景二值图和初始短周期前景二值图,并对所述视频帧的初始长周期前景二值图和初始短周期前景二值图进行径向延伸滤波,获得视频帧的长周期前景二值图和短周期前景二值图;
获取所述长周期混合高斯模型中单个高斯分布的生命周期信息,并对所述生命周期内视频帧的长周期前景二值图和短周期前景二值图进行累计分析,依据所述生命周期信息和累计分析结果确定静止前景区域;
对所述静止前景区域进行分类并检测出其中的遗留物。
上述方法,优选的,所述对视频帧的初始长周期前景二值图和初始短周期前景二值图进行径向延伸滤波包括:
计算视频帧所对应的初始长周期前景二值图中各个前景像素点在与所述视频帧相对应的背景图像中对应位置上的像素点的延伸向量;
依据所述延伸向量分别计算所述各个前景像素点在所述背景图像和所述视频帧中的对应位置上的亮度分布值;
依据所述亮度分布值分别计算所述背景图像和所述视频帧中对应位置上对应像素点的径向延伸相关性值,并依据所述径向延伸相关性值分别对所述初始长周期前景二值图和初始短周期前景二值图中对应位置上的前景像素点进行重新设置;
对依据所述径向延伸相关性重新设置前景像素点后的初始长周期前景二值图和初始短周期前景二值图进行高斯平滑,获得所述视频帧的长周期前景二值图和短周期前景二值图。
上述方法,优选的,所述长周期混合高斯模型中单个高斯分布的生命周期信息包括:
所述长周期混合高斯模型中单个高斯分布从创建时的初始状态变为预设的最终状态的持续时间;
相应的,所述对生命周期内所有视频帧的长周期前景二值图和短周期前景二值图进行累计分析包括:
对比分析在所述持续时间内各个视频帧的长周期前景二值图和短周期前景二值图中相对应的像素点,并记录所述相对应的像素点被判断为静止前景像素点的累计次数;
相应的,所述依据生命周期信息和累计分析结果检测出静止前景区域包括:
当所述持续时间满足第一预设条件且所述累计次数满足第二预设条件时,确定与所述持续时间和所述累计次数相对应的像素点为静止前景像素点,所有被确定为静止前景像素点的像素点组成的区域为静止前景区域。
上述方法,优选的,所述对静止前景区域分类并检测出其中的遗留物包括:
提取所述静止前景区域的特征,依据所述特征对所述静止前景区域进行检测,若所述静止前景区域中检测不到具有所述特征的子区域则所述静止前景区域为遗留物。
上述方法,优选的,所述静止前景区域的特征包括:静止前景区域的梯度方向直方图特征;
相应的,所述提取前景区域的特征,依据所述特征对静止前景区域进行分类检测包括:
定义行人检测窗口,将所述行人检测窗口在静止前景区域中滑动,计算所述前景区域中与所述行人检测窗口相对应图像在不同尺度下的梯度方向直方图特征;
将所述不同尺度下的梯度方向直方图特征输入预先训练好的分类器中进行分类。
上述方法,优选的,所述计算前景区域中与行人检测窗口相对应图像在不同尺度下的梯度方向直方图特征包括:
利用梯度算子计算所述前景区域中与行人检测窗口相对应图像中各个像素点的梯度向量;
将所述前景区域中与行人检测窗口相对应图像均匀划分为N个单元,并计算各个单元的所述梯度向量方向的第一直方图特征;
依据所述单元的第一直方图特征计算由M(M<N)个单元组成的图像块的所述梯度向量方向的第二直方图特征,并对所述第二直方图特征进行归一化;
依据归一化的第二直方图特征计算所述前景区域中与行人检测窗口相对应图像的第三直方图特征。
上述方法,优选的,所述对视频帧的初始短周期前景二值图进行径向延伸滤波之后,确定静止前景区域之前进一步包括:
检测每一帧短周期前景二值图中发生前景区域分离的父前景区域,记录父前景区域与从所述父前景区域分离出来的若干子前景区域的分离关系,并对所述若干子前景区域进行跟踪。
上述方法,优选的,所述对静止前景区域进行分类检测之后,包括:
当所述静止前景区域中检测不到预设信息时,依据所述分离关系判断是否存在与所述静止前景区域属于同一父前景区域的子前景区域,如果不存在,则所述静止前景区域为遗留物,否则,计算所述静止前景区域和与所述静止前景区域属于同一父前景区域的子前景区域的距离,当所述距离大于第三预设阈值时,所述静止前景区域属于遗留物。
一种遗留物检测装置,包括:
建模模块、径向延伸滤波器、静止前景区域检测模块和分类检测模块;
其中:
所述建模模块用于利用混合高斯模型进行背景建模,建立的背景模型包括长周期背景模型和短周期背景模型;
所述径向延伸滤波器用于将接收的视频帧分别与所述长周期背景模型和短周期背景模型进行匹配,得到视频帧的初始长周期前景二值图和初始短周期前景二值图,并对所述视频帧的初始长周期前景二值图和初始短周期前景二值图进行径向延伸滤波,获得视频帧的长周期前景二值图和短周期前景二值图;
所述静止前景区域检测模块用于获取所述长周期混合高斯模型中单个高斯分布的生命周期信息,并在所述生命周期内对所有视频帧的长周期前景二值图和短周期前景二值图进行累计分析,依据所述生命周期信息和累计分析结果检测出静止前景区域;
所述分类检测模块用于对所述静止前景区域进行分类并检测出其中的遗留物。
上述装置,优选的,所述径向延伸滤波器包括:
匹配模块、延伸向量计算模块、亮度分布计算模块、设置模块和高斯平滑滤波模块;
其中:
所述匹配模块用于将接收的视频帧分别与所述长周期背景模型和短周期背景模型进行匹配,得到视频帧的初始长周期前景二值图和初始短周期前景二值图;
所述延伸向量计算模块用于计算视频帧所对应的长周期前景二值图中各个前景像素点在与所述视频帧相对应的背景图像中对应位置上的像素点的延伸向量;
所述亮度分布计算模块用于依据所述延伸向量分别计算所述各个前景像素点在所述背景图像和所述视频帧中的对应位置上的亮度分布值;
所述设置模块用于依据所述亮度分布值分别计算所述背景图像和所述视频帧中对应位置上对应像素点的径向延伸相关性值,当所述对应位置上对应像素点的径向延伸相关性值大于或等于第一预设阈值时,分别将所述长周期前景二值图和短周期前景二值图中对应位置上的前景像素点设置为背景像素点,否则保持前景像素点不变;
所述高斯平滑模块用于对依据所述径向延伸相关性获得的初始长周期前景二值图和初始短周期前景二值图进行高斯平滑,获得所述视频帧的长周期前景二值图和短周期前景二值图。
上述装置,优选的,所述静止前景区域检测模块包括:
生命周期信息获取模块和累计分析模块;
所述生命周期获取模块用于获取所述长周期混合高斯模型中单个高斯分布的生命周期信息,所述生命周期信息包括所述长周期混合高斯模型中单个高斯分布从创建时的初始状态变为预设的最终状态的持续时间;
所述累计分析模块用于对比分析在所述持续时间内各个视频帧的长周期前景二值图和短周期前景二值图中相对应的像素点,并记录所述相对应的像素点被判断为静止前景像素点的累计次数;当所述持续时间满足第一预设条件且所述累计次数满足第二预设条件时,确定与所述持续时间和所述累计次数相对应的像素点为静止前景像素点,所有被确定为静止前景像素点的像素点组成的区域为静止前景区域。
由以上本申请实施例提供的技术方案可见,本发明提供的一种遗留物检测方法,通过利用背景图像和当前帧图像的局部纹理特征相似度即径向延伸相关性消除了由于光照变化而带来的误检前景区域;通过综合应用混合高斯模型中单个高斯分布的生命周期以及累计分析法,使得该方法可以适应复杂的动态背景,消除由于动态背景的影响而造成的静止前景区域的误检,并提高了系统的抗遮挡能力;通过对静止前景区域分类,去除了非遗留物(例如行人)造成的误检现象,这种遗留物检测方法,提高了遗留物的检测精度,降低了遗留物误检率。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案。下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
实施例一
本申请实施例提供的遗留物检测方法实施例一的方法流程图如图1所示,包括:
步骤S101:利用混合高斯模型进行背景建模,建立的背景模型包括长周期背景模型和短周期背景模型;
利用混合高斯模型进行背景建模的基本思想是把像素点看成相互独立的随机变量,并将该像素点的像素值在时间轴上的概率分布P(Xt)用K个独立高斯分布的混合形式来表示,即
其中
代表像素点X在t时刻混合高斯模型中的第i个高斯分布,μ
i,t、
ω
i,t分别代表第i个高斯分布的均值、方差和第i个高斯分布所对应的权重,且权重要满足在所述混合高斯模型中K个高斯分布的对应权重和为1,即
混合高斯模型需要根据像素点的历史信息{X
1,X
2,...,X
t-1)来估计P(X
t)的参数,并进行实时更新。其更新方法如下:对于新来的像素点数据X
t,先检查它是否能够匹配混合高斯模型中K个高斯分布中的某一个,若满足X
t与均值μ
j,t的距离小于标准差σ
j,t的λ倍,则表明该数据与第i个高斯分布相匹配;然后更新这个匹配上的高斯分布的参数(均值μ
t和方差
),更新方法如下:
μt=(1-p)μt-1+pXt
其中 α是更新速率。
另外,还需要更新混合高斯模型中所有高斯分布的对应权重,更新方法如下:
ωi,t=(1-α)ωi,t-1+α*Mi,t
其中Mi,t=1表明新来的像素点的像素值与第i个高斯分布相匹配,若不匹配则Mi,t=0。
如果新来的像素值没有找到与之相匹配的高斯分布,则需要用一个新的高斯分布来替换原混合高斯模型中权重最小的高斯分布,新的高斯分布以新来的像素值Xt为均值,方差和权重设为初始值。而对于其他高斯分布,方差和均值保持不变,但需要更新它们的权重,以使得总权重和为1。
P(Xt)表示像素点的概率分布,需要根据它来获得该像素点的背景模型(即背景概率分布)。
首先将K个高斯分布按照ω/α的降序进行排列,即计算每一个高斯分布对应的权重和更新速率的比值,对K个高斯分布所对应的ω/α进行降序排列,然后取前B(B<K)个高斯分布作为背景模型,且B要满足下式:
其中T ∈(0,1),T取值较小时,得到的背景模型通常是单峰的;T取值较大时,得到的背景模型即为多个高斯分布的混合,是多峰的。
本申请实施例利用具有不同更新频率的两个混合高斯模型进行背景建模,分别对应长周期背景模型和短周期背景模型。其中一个背景模型的更新频率较快,对应短周期背景模型;另一个背景模型的更新频率较慢,对应长周期背景模型。
步骤S102:将接收的视频帧分别与所述长周期背景模型和短周期背景模型进行匹配,得到视频帧的初始长周期前景二值图和初始短周期前景二值图,并对所述视频帧的初始长周期前景二值图和初始短周期前景二值图进行径向延伸滤波,获得视频帧的长周期前景二值图和短周期前景二值图;
所述视频帧即为输入监控系统的每一帧视频图像。将输入的每一帧视频图像分别与所述长周期背景模型和短周期背景模型进行匹配,分别得到每一帧视频图像的初始长周期前景二值图和初始短周期前景二值图,并分别对所述每一帧视频图像的初始长周期前景二值图和初始短周期前景二值图进行径向延伸滤波,分别获得每一帧视频图像的长周期前景二值图和短周期前景二值图;
对于输入视频监控系统的每一帧视频图像,将其所有的像素点分别与对应的两个背景模型进行匹配,若某个像素点在背景模型中找到了某个与之匹配的高斯分布,则该像素点被判断为背景,否则该像素点被判断为前景,当像素点被判断为背景时,可以将该像素点置1,否则置0。这样,可以得到两个前景二值图像。所谓二值图像,是指图像中每一个像素点只有两个可能的取值,所以此处的背景和前景还可以赋以其它不同的取值。对于每一帧视频图像,将其与所述长周期背景模型匹配,得到该帧图像的初始长周期前景二值图,由于长周期前景二值图的更新速率慢,所以,在该初始长周期前景二值图中,前景区域包括运动的物体和短时间内保持静止的物体;对于每一帧视频图像,将其与所述短周期背景模型匹配,得到该帧图像的初始短周期前景二值图,由于短周期前景二值图的更新速率快,所以,在该初始短周期前景二值图中,前景区域只包括运动的物体和噪声。
由于受到光照变化的影响,直接用上述方法得到的初始前景二值图中会包含由于光线突然变化而引起的误检前景区域,为了提高方法对光照变化的鲁棒性,即为了减小光照的变化对前景区域检测的影响,提高前景区域的检测精度,下面通过径向延伸滤波来去除由于光照突然变化而引起的误检前景区域。
首先找到当前帧图像所对应的初始长周期前景二值图中像素值为1的所有像素点在背景图像所对应位置上的像素点的延伸向量,然后根据延伸向量值,分别计算它们在背景图像和当前帧图像中的对应位置上的亮度分布值,再利用对应位置上的这两个亮度分布值,计算对应像素点的径向延伸相关性(RRC),径向延伸相关性是一种像素级上的局部纹理描述子,反映了像素点与其邻域像素之间的明暗关系。然后利用初始长周期前景二值图中前景像素的RRC值,判断前景图像中的前景像素是否为真正的前景:若RRC值大于或等于第一预设阈值,则说明该像素点在当前帧图像中的亮度分布和在背景图像中的亮度分布非常相似,表明这个前景像素点是由于光照变化而引起的误检,因此把初始长、短周期前景二值图中的对应像素点的值分别置为0;否则表明该像素点属于真正的前景像素点,初始长、短周期前景二值图中的对应位置像素点的值保持不变;经过上述处理,得到长周期前景二值图和短周期前景二值图;最后,对处理之后的长、短周期前景二值图进行平滑滤波,这样就得到两个经过提炼后的更加精确的前景二值图,它们已经基本消除了因为光照变化而造成的误检前景区域。
具体的,径向延伸滤波的流程图如图2所示,包括:
步骤S1021:计算视频帧所对应的初始长周期前景二值图中各个前景像素点在与所述视频帧相对应的背景图像中对应位置上的像素点的延伸向量;
如图3延伸向量示意图所示,
首先定义图像中(x,y)处的像素点为p(x,y),并定义八个方向的向量dk(k=0,1,2...,7),其中:
d0=(1,0)T,d1=(1,-1)T,d2=(0,-1)T,d3=(-1,-1)T,d4=(-1,0)T,d5=(-1,1)T,d6=(0,1)T,d7=(1,1)T
然后计算像素点p(x,y)和其邻域八个方向上的所有像素点之间的亮度差的绝对值,分别在每个方向上找到一个和中心像素点的亮度差绝对值不小于第二阈值TR的像素点,定义延伸向量rk(k=0,1,2,...,7)如下:
rk=min{r||I(p+rdk)-I(p)|≥TR}
其中,r表示相邻八个方向上满足第二阈值要求的距离最近的像素点与中心像素点p(x,y)之间的距离,I(p+rdk)=(R+B+G)/3表示像素点的亮度值。TR是一个大于零的整数,表示亮度阈值。
具体的,本申请实施例应用上述方法计算视频帧所对应的长周期前景二值图中像素值为1的所有像素点在背景图像中所对应位置上的像素点的延伸向量,即对背景图像中的部分像素点计算延伸向量,这部分像素点是与长周期前景二值图中像素值为1的像素点相对应的。
步骤S1022:依据所述延伸向量分别计算所述各个前景像素点在所述背景图像和所述视频帧中的对应位置上的亮度分布值;
找到中心像素点p(x,y)邻域八个方向上的延伸向量后,比较各个延伸向量所指的像素点与中心像素点p(x,y)之间的亮度大小,定义向量bk(p)(k=0,1,2,...,7)来描述中心像素点周围的亮度分布,具体定义形式如下:
其中,rk(k=0,1,2,...,7)即为八个邻域方向上定义的延伸向量,如果延伸向量所指的像素点亮度比中心像素点p(x,y)的亮度值大,则bk(p)取值1,否则取值0。
具体的,在本申请实施例中,依据上一步得到的延伸向量分别计算背景图像和视频帧中与长周期前景二值图中像素值为1的像素点相对应的像素点周围的亮度分布向量,即在计算视频帧像素点周围的亮度分布向量时,延伸向量值和背景图像中对应像素点的延伸向量值相同。具体形式如下所示:
其中,b(p)是背景图像中像素点p的亮度值,b′(p)是视频帧中像素点p的亮度值,ck(p)表示背景图像中像素p周围的亮度分布向量,c′k(p)表示当前帧图像中像素点p周围的亮度分布向量。
步骤S1023:依据所述亮度分布值分别计算所述背景图像和所述视频帧中对应位置上对应像素点的径向延伸相关性值,并依据所述径向延伸相关性值分别对所述初始长周期前景二值图和初始短周期前景二值图中对应位置上的前景像素点进行重新设置;
依据所述ck(p)和c′k(p),计算二者的径向延伸相关性RRC(p),具体定义如下:
其中,
表示c
k(p)按位取反,
表示c′
k(p)按位取反,RRC(p)即表示径向延伸相关性,它反映了背景图像和当前帧图像中对应像素点p周围亮度分布的相似程度。RRC(p)值越大表示其相似程度越高,反之表示相似程度越低。
具体的,当长周期前景二值图中前景像素点对应的径向延伸相关性值大于或等于第一预设阈值时,说明该像素点在当前帧图像中的亮度分布和在背景图像中的亮度分布非常相似,表明这个前景像素点是由于光照变化而引起的误检,因此把长周期前景二值图和短周期前景二值图中对应的前景像素点分别设置为背景;否则,表明该像素点属于真正的前景,那么长周期前景二值图和短周期前景二值图中对应位置像素点的值保持不变。这样就消除了由于光照造成的前景区域误检
步骤S1024:对依据所述径向延伸相关性重新设置前景像素点后的初始长周期前景二值图和初始短周期前景二值图进行高斯平滑,获得所述视频帧的长周期前景二值图和短周期前景二值图。
由于通过上述方法得到的前景区域,会因为噪声等因素的影响而不连续,为此,本申请实施例对由上述方法得到的前景二值图进行高斯平滑,从而得到连续的前景区域。
具体的,对依据所述径向延伸相关性对所述初始长周期前景二值图和初始短周期前景二值图进行二维卷积,即:
其中,F(p)为利用径向延伸相关性检测得到的前景区域,G*F(p)表示高斯函数与经过径向延伸相关性检测到的初始前景图像的二维卷积,F(p)表示卷积后的前景图像,值为1表示像素点p属于前景。T为判断前景像素点的第二预设阈值。
步骤S103:获取所述长周期混合高斯模型中单个高斯分布的生命周期信息,并在所述生命周期内对视频帧的长周期前景二值图和短周期前景二值图进行累计分析,依据所述生命周期信息和累计分析结果检测出静止前景区域;
为了去除由于动态背景的影响而造成的静止前景区域的误检,本申请实施例结合累计分析法和混合高斯模型中单个高斯分布的生命周期信息的方法来检测静止前景区域。
累计分析法的基本思想是:对于上述得到的长周期前景二值图(可以用FL表示)和短周期前景二值图(可以用FS表示),如前所述,由于长周期前景二值图的更新速率慢,所以,在该初始长周期前景二值图中,前景区域包括运动的物体和短时间内保持静止的物体;由于短周期前景二值图的更新速率快,所以,在该初始短周期前景二值图中,前景区域只包括运动的物体和噪声,这就相当于得到两个不同时间尺度上的前景二值图,通过对比分析它们就可以检测出静止前景区域,具体的,判断某个像素点p(x,y)是否属于静止前景区域包括:
(1)FL(x,y)=1且FS(x,y)=1,即当像素点p(x,y)在长周期前景二值图中被判断为前景,在短周期前景二值图中被判断为前景时,则表明像素点p(x,y)属于某个运动物体的像素点。
(2)FL(x,y)=1且FS(x,y)=0,即当像素点p(x,y)在长周期前景二值图中被判断为前景,在短周期前景二值图中被判断为背景时,则表明像素点p(x,y)属于某个新进入场景中的且静止了一段时间的物体上的像素点。
(3)FL(x,y)=0且FS(x,y)=1,即当像素点p(x,y)在长周期前景二值图中被判断为背景,在短周期前景二值图中被判断为前景时,则表明像素点p(x,y)属于之前长时间被遮挡,现在刚刚露出来的背景区域的像素点。
(4)FL(x,y)=0且FS(x,y)=0,即当像素点p(x,y)在长周期前景二值图中被判断为背景,在短周期前景二值图中被判断为背景时,则表明像素点p(x,y)属于场景中的背景区域,并且之前没有长时间被遮挡。
然后,定义一个似然图像来记录图像中的像素点在一段时间内被判断为静止前景像素点的累计次数,假设似然图像为L,则似然图像中各个像素点的像素值L(x,y)的计算方法如下所示:
其中,K为预设参数。在一段时间内,每一次像素点p(x,y)被判断为静止前景时,似然图像中与之相对应的点的像素值L(x,y)加1,当L(x,y)大于max(max为第四预设阈值)时,L(x,y)赋值为max,此时,表明像素点L(x,y)已经静止了足够长的时间,属于遗留物的像素点。
混合高斯模型中单个高斯分布的生命周期信息的基本思想是应用混合高斯模型的微观信息来辅助进行静止前景区域的检测。首先,可以把高斯分布的整个生命周期定义为以下几个状态,创建(Creation)、混合高斯前景模型分量(Foreground Gaussian)、混合高斯背景模型非主分量(BackgroundGaussian)、混合高斯背景模型主分量(Background Dominant Gaussian)、淘汰(Deletion)。下文中将这几个状态分别简称为:CR状态、FG状态、BG状态、BDG状态和Del状态。把K个高斯分布按照ω/α的降序排列,然后取前B个高斯分布作为混合高斯背景模型,将其中排在第一位的高斯分布成为混合高斯背景模型主分量;将前B个高斯分布中除了最前面的那个高斯分布以外的高斯分布都称为混合高斯背景模型非主分量;将K个高斯分布模型中除了前B个高斯分布以外的其它高斯分布都称为混合高斯前景模型分量。如果图像中某个区域中持续有运动的物体经过,那么该区域所对应的混合高斯模型就不断有新的高斯分布被创建,而且新创建的高斯分布还会在创建后不久马上被删除,所以有分别定义了一个创建状态和一个淘汰状态。
由混合高斯模型的创建和更新过程可以知道,根据某个像素点在一段时间内像素值的变化情况,可以通过观测某个高斯分布的状态转换过程来检测静止前景区域。物体运动状态不同,它所对应的像素点的高斯分布的状态转换过程也不相同。
如图4所示,图4为混合高斯模型中高斯分布的状态转换过程示意图。
对于一个新进入场景中的物体,当它刚进入场景中时,它所占据区域内的所有像素点所对应的混合高斯模型中权重最低的高斯分布会被替换掉,对应创建一个新的高斯分布,下面将具体阐述这个新创建的高斯分布在物体不同的运动状态下对应的状态转移情况:如果这个物体保持运动状态,则这个新创建的高斯分布将会保持FG状态,或者被另一个新的高斯分布替代,即转移到Del状态;反之如果这个物体停止运动,并保持一段时间的静止状态,那么上述新创建的高斯分布将会从FG状态,逐渐转移到BG状态。如果物体在保持一段时间静止状态后重新开始运动,则这个高斯分布将由BG状态重新转移到FG状态;反之如果该物体继续保持静止,则高斯分布将继续保持在BG状态,同时,随着混合高斯模型的更新,它在模型中的对应权重将会不断增大,直至它所对应的权重成为模型中对应权重最大的高斯分布,则此时它便从BG状态转移到了BDG状态。如果物体此时开始运动,则这个高斯分布会从BDG状态重新转换到BG状态;反之如果物体继续保持静止,则此高斯分布将继续保持在BDG状态上不变。
从上述分析过程可知,可以通过观测BDG状态上的高斯分布的变化情况来检测新进入场景中的静止前景物体。通过以下条件进行静止前景物体:
0<τBDG-τCR<ΓCR→BDG
其中ΓCR→BDR=d·Γ(T,α)
Γ(T,α)=log(T)/log(1-α)
t-τBDG>ΓBDG
其中,τBDG-τCR表示高斯分布从创建到变为混合高斯背景模型主分量所持续的时间,ΓCR→BDG表示第一时间阈值,α为常数,且为正整数。d可取值为1.5,T可取值为0.5。t代表当前时刻,ΓBDG是一个正整数,表示第二时间阈值。
具体的,在本申请实施例中,监测长周期混合高斯模型中每个新创建的高斯分布的生命周期,记录每个像素点对应的混合高斯模型中高斯分布的创建时刻以及混合高斯背景模型主分量的变化时刻,并记录在高斯分布从创建到变为混合高斯模型主分量的这段持续时间内每个像素点被判断为静止前景区域的累积次数,当所述持续时间和所述累积次数同时满足一定条件时,才判断为静止前景区域。
其检测公式如下所示:
其中max为第四预设阈值,为正整数。Ф(x,y)值为1表示像素点属于静止前景像素点。
步骤S104:对所述静止前景区域进行分类并检测出其中的遗留物。
当通过长周期前景二值图和短周期前景二值图找到静止前景区域后,需要对静止前景区域进行分类,检测出其中的遗留物(行李箱、背包等)并进行报警。
在本申请实施例中,对前景区域的分类主要是区分静止行人和遗留物,以消除静止行人所造成的误检现象。当检测出静止前景区域后,用矩形框把每一个静止前景区域都框出来,得到若干幅包含有行人或遗留物的子图像,然后从这些子图像中提取特征,通过这些特征来判断子图像中是否有行人,如果没有行人则认为该区域属于遗留物并进行报警,否则不报警。
具体的,本申请实施例利用梯度方向直方图(HOG)特征来解决静止行人和遗留物的分类问题。
首先,计算出静止前景图像中的所有静止前景区域的外接矩形的高宽比作为一个特征,,然后在这些外接矩形的四周分别扩展8个像素,保存扩展后的所有矩形区域的大小和在所述静止前景区域中的位置,然后判断上述保存的矩形的高宽比是否满足一定的阈值条件,如果满足阈值条件则保留其相关信息,并且利用它的位置和尺寸信息在原始视频帧中把对应位置上、同样尺寸的矩形区域框选出来,作为一个子图像。
具体的,假设扩展后矩形区域的高为h,宽为w,则所述保存的矩形的高宽比为h/w,若所述高宽比满足Rmin<h/w<Rmax,则保留满足该阈值条件的矩形框的相关信息,包括矩形框的位置和尺寸信息,并利用所述位置和尺寸信息在原始输入的视频帧中把对应位置上,同样尺寸的矩形区域框选出来作为一个子图像。
对于输入的视频帧,其梯度方向直方图特征的提取方法具体为:对输入的视频帧的R、G、B三个基色分量分别计算图像中每个像素点的梯度向量,具体的,对于每一个基色分量,在x,y方向上分别利用掩膜[1,0,-1]来计算像素点的梯度向量,然后取其中范数最大的那个梯度向量作为该像素点的梯度向量。
之后,把图像划分成一个个8*8像素大小单元,将其中的每个单元称为一个细胞(cell),并计算每个细胞内的梯度方向直方图。由于对于行人检测而言,人所穿的衣服和所处背景的颜色信息大部分是冗余的信息,所以把梯度方向范围限制在0°~180°,即梯度方向没有正负之分,对应的正负角度将被归于同一个直方图单元格中。优选的,可以把0°~180°划分为9个单元格,当然这种划分方式只是一个优选实施例,还可以有其它方式的划分。对于每个像素梯度方向,按照其幅值大小来确定该像素点梯度对于直方图中对应小格的贡献的大小。
接下来,计算图像块(block)的梯度方向直方图,优选的,把2*2个细胞(cell)作为一个图像块,把图像块(block)所包含的所有细胞的梯度方向直方图直接连接起来就构成了该图像块的梯度方向直方图。为了减少光照和阴影对行人检测结果的影响,对得到的图像块梯度方向直方图进行归一化,具体归一化方法如下式所示:
其中ε在1e-3~5e-2范围内取值。
最后,定义一个64*128像素大小的图像作为行人检测窗口,窗口中行人四周分别有8个像素作为边缘区域。注意在检测窗口中相邻图像块之间有8*8像素大小的重叠区域。检测窗口中所有具有重叠区域的图像块的梯度方向直方图直接连接起来作为整个窗口的梯度方向直方图(HOG)特征。
具体的,在静止前景区域的每一个子图像中滑动所述行人检测窗口进行行人检测,按照上述计算行人检测窗口的HOG特征的方法,计算每个滑动窗口对应的静止前景区域在预先给定的几个不同尺度上的HOG特征,然后把计算出来的静止前景区域的HOG特征进行分类。
优选的,可以将所述HOG特征输入到预先训练好的支撑向量机(SVM)分类器(此处的分类器是一种算法)中进行分类,如果其中某个滑动窗口在某个尺度上的被判断为行人,则表示在这个滑动窗口对应的子图像中检测到了行人。否则,认为滑动窗口对应的子图像中只包含遗留物。
在本申请实施例中,支撑向量机分类器采用法国国家信息与自动化研究所(INRIA)数据库中的1403幅行人图像(64*128大小)作为训练数据,将这些图像进行镜面对称,又得到1403幅镜面对称图像,一共2806幅图像作为正的训练样本(所谓正的训练样本,是指图像中包含有目标(即行人)。);从1218幅没有行人的图像(图像尺寸大于64*128)中,随机采样了7554幅子图像(子图像尺寸为64*128)作为负的训练样本(负的训练样本是指图像中不包含目标(即行人))。
实施例二
本申请实施例提供的遗留物检测方法实施例二的方法流程图如图5所示,在执行所述方法前,检测每一帧短周期前景二值图中发生前景区域分离的父前景区域,记录父前景区域与从所述父前景区域分离出来的若干子前景区域的分离关系,并对所述若干子前景区域进行跟踪。
如图6所示,图6为发生前景区域分离的连续两帧前景二值图像示意图;
计算前景区域2和前景区域1的重合区域面积,若重合区域面积占区域区域2面积的百分比大于给定的第五阈值条件,则认为区域2和区域1曾经是属于同一个前景目标的;否则,就认为区域2和区域1属于两个不同前景目标。再计算前景区域3和前景区域1的重合区域面积,同样,如果重合区域面积占区域3面积的百分比大于给定的第五阈值条件,则认为区域3和区域1曾经属于同一个前景目标;否则,就认为区域3和区域1是属于两个不同前景目标的。因此,如果检测到区域2和区域3曾经同时和区域1属于同一个前景目标,则可以认为区域2和区域3是由区域1分离出来的。这样,就找到了前景区域的分离关系,即区域2和区域3是需要跟踪区域。
具体的,首先记录当前帧和前一帧视频图像的所有前景区域,然后定义一个相关矩阵MR来保存前后两帧前景区域的相互关系,其具体形式如下所示:
其中MR各个元素赋值规则如下:
其中S(i)表示前一帧图像中第i个前景区域的面积;S(j)表示当前帧图像中第j个前景区域的面积;S(i)∩S(j)表示二者重合区域的面积;ThR表示一个正整数阈值,在0.5~1之间取值。如表1所示,表1为所述相关矩阵MR的一个示例。
表1
其中,矩阵行数等于前一帧前景图像中前景区域块的数目,列数等于当前帧前景图像中前景区域块的数目。矩阵中的元素值为1表示当前帧图像中第j个前景区域和前一帧图像中的第i个前景区域属于同一个前景目标;元素值为0,则表示当前帧图像中第j个前景区域和前一帧图像中的第i个前景区域是两个相互独立的前景目标。接下来,根据相关矩阵来判断视频中发生前景区域分离的前景块:统计相关矩阵每一行中1的个数,如果某一行中1的个数大于或等于两个,则表示当前帧中有几个前景区域是由前一帧图像中、和该行对应的前景区域分离出来的,例如,前一帧前景区域中区域A所在行有两个1,说明在当前帧前景区域中有两个区域是由区域A分离出来的,分别为当前帧前景区域中的区域a和区域c;否则,如果某一行中1的个数小于两个,则表明前一帧图像中、和该行对应的前景区域在当前帧图像中没有发生前景区域分离。
每一帧视频图像中由同一个前景区域分离而来的前景目标即为感兴趣目标,在以后的视频分析中,重点跟踪这些目标,具体的,将从同一个前景区域分离出来的所有前景块标上同一个唯一标识,以便以后能够找到它们的对应关系。
所有标有同一个唯一标识的前景块都是感兴趣前景目标,优选的,只选择其中高宽比较大(即疑似遗留物的主人)的前景块进行跟踪,并同时记录另外的和它有相同唯一标识的前景块的位置信息。
本申请实施例二提供的遗留物检测方法步骤包括:
步骤S101:利用混合高斯模型进行背景建模,建立的背景模型包括长周期背景模型和短周期背景模型;
步骤S102:将接收的视频帧分别与所述长周期背景模型和短周期背景模型进行匹配,得到视频帧的初始长周期前景二值图和初始短周期前景二值图,并对所述视频帧的初始长周期前景二值图和初始短周期前景二值图进行径向延伸滤波,获得视频帧的长周期前景二值图和短周期前景二值图;
步骤S103:获取所述长周期混合高斯模型中单个高斯分布的生命周期信息,并在所述生命周期内对所有视频帧的长周期前景二值图和短周期前景二值图进行累计分析,依据所述生命周期信息和累计分析结果确定静止前景区域;
上述三个步骤的具体实施方式与实施例一相同,这里不再赘述。
步骤S1041:对静止前景区域进行检测,判断是否有预设信息存在,例如判断是否有行人信息,如果有,则认为该静止区域不属于遗留物,不启动报警;否则执行步骤S1042;
步骤S1042:检测是否存在与所述静止前景区域有相同唯一标识的前景区域,如果否,则认为该静止前景区域属于遗留物,启动报警;否则执行步骤S1043;
步骤S1043:计算所述静止前景区域和与所述静止前景区域具有相同唯一标识的前景区域之间的距离,如果所述距离大于第六阈值条件,则认为所述静止前景区域属于遗留物,启动报警,否则不启动报警。
实施例三
本申请实施例三提供的一种遗留物检测装置的结构示意图如图7所示,包括:
建模模块701、径向延伸滤波器702、静止前景区域检测模块703和分类检测模块704;
所述建模模块701用于利用混合高斯模型进行背景建模,建立的背景模型包括长周期背景模型和短周期背景模型;
所述径向延伸滤波器702用于将接收的视频帧分别与所述长周期背景模型和短周期背景模型进行匹配,得到视频帧的初始长周期前景二值图和初始短周期前景二值图,并对所述视频帧的初始长周期前景二值图和初始短周期前景二值图进行径向延伸滤波,获得视频帧的长周期前景二值图和短周期前景二值图;
所述静止前景区域检测模块703用于获取所述长周期混合高斯模型中单个高斯分布的生命周期信息,并在所述生命周期内对所有视频帧的长周期前景二值图和短周期前景二值图进行累计分析,依据所述生命周期信息和累计分析结果检测出静止前景区域;
所述分类检测模块704用于对所述静止前景区域进行分类并检测出其中的遗留物。
具体的,所述径向延伸滤波器702的结构示意图如图8所示,包括:
匹配模块801、延伸向量计算模块802、亮度分布计算模块803、设置模块804和高斯平滑模块805;
其中:
所述匹配模块801用于将接收的视频帧分别与所述长周期背景模型和短周期背景模型进行匹配,得到视频帧的初始长周期前景二值图和初始短周期前景二值图;
所述延伸向量计算模块802用于计算视频帧所对应的初始长周期前景二值图中各个前景像素点在与所述视频帧相对应的背景图像中对应位置上的像素点的延伸向量;
所述亮度分布计算模块803用于依据所述延伸向量分别计算所述各个前景像素点在所述背景图像和所述视频帧中的对应位置上的亮度分布值;
所述设置模块804用于依据所述亮度分布值分别计算所述背景图像和所述视频帧中对应位置上对应像素点的径向延伸相关性值,当所述对应位置上对应像素点的径向延伸相关性值大于或等于第一预设阈值时,分别将所述初始长周期前景二值图和初始短周期前景二值图中对应位置上的前景像素点设置为背景像素点,否则保持前景像素点不变;
所述高斯平滑模块805用于对依据所述径向延伸相关性获得的初始长周期前景二值图和初始短周期前景二值图进行高斯平滑,获得所述视频帧的长周期前景二值图和短周期前景二值图。
具体的,所述静止前景区域检测模块703的结构示意图如图9所示,包括:
生命周期信息获取模块901和累计分析模块902;
其中,所述生命周期信息获取模块901用于获取模块用于获取所述长周期混合高斯模型中单个高斯分布的生命周期信息,所述生命周期信息包括所述长周期混合高斯模型中单个高斯分布从创建时的初始状态变为预设的最终状态的持续时间;
所述累计分析模块902用于对比分析在所述持续时间内各个视频帧的长周期前景二值图和短周期前景二值图中相对应的像素点,并记录所述相对应的像素点被判断为静止前景像素点的累计次数;当所述持续时间满足第一预设条件且所述累计次数满足第二预设条件时,确定与所述持续时间和所述累计次数相对应的像素点为静止前景像素点,所有被确定为静止前景像素点的像素点组成的区域为静止前景区域。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。以上所述仅是本申请的具体实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。