CN102821228B - 低秩的视频背景重构方法 - Google Patents
低秩的视频背景重构方法 Download PDFInfo
- Publication number
- CN102821228B CN102821228B CN201210245528.6A CN201210245528A CN102821228B CN 102821228 B CN102821228 B CN 102821228B CN 201210245528 A CN201210245528 A CN 201210245528A CN 102821228 B CN102821228 B CN 102821228B
- Authority
- CN
- China
- Prior art keywords
- image
- background
- video
- matrix
- low
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Image Analysis (AREA)
Abstract
本发明公开了一种低秩的视频背景重构方法,主要解决现有技术在对视频图像序列进行背景重建时,不能清晰可靠地重构视频背景图像的问题。其实现过程为:首先对输入的待处理视频X进行低秩分解,得到初始背景估计图像GL,然后检测待处理视频X中的目标区域,将目标区域的像素值全部置0,设定待处理视频X中的第一幅图像为参考图像,利用其他图像的像素值对参考图像中的目标区域进行填充,得到背景估计图像G,最后利用初始背景估计图像GL的灰度值对背景估计图像G中未填充完全的目标区域进行替换,得到最终的背景图像。本发明在对视频序列进行背景重构时,能够获得清晰可靠的背景图像,适用于各种背景固定的视频序列的背景重构。
Description
技术领域
本发明属于图像处理技术领域,涉及视频背景重构,具体地说是一种对视频序列中的背景进行重构的方法,可用于各种背景变化较小的视频进行背景重建。
背景技术
视频背景重构是视频处理领域中非常重要又富有挑战性的研究内容,通过无偏差地重构出视频的背景图像,可以精确地检测视频中的运动目标,实现视频的实时监控和目标定位。目前国内外针对视频的背景重构方面做了大量的研究工作,提出许多经典的算法。
传统的背景重构算法包括均值滤波方法、中值滤波方法、众数滤波方法、连续帧差法等。这些方法计算量小,原理简单,已经被广泛地应用到视频背景重构上,但是这些方法在重构的过程中由于混杂了大量的前景像素,无法精确地重构出背景图像,限制了这些传统的背景重构方法在实际中的应用。
针对上述传统的视频背景重构方法效果较差,在实际应用中不能很好地实现的问题,目前国际上提出了一些改进上述缺点的视频背景重构算法。如,C.Stauffer和W.Grimson提出一种自适应的混合高斯模型方法,是视频背景重构中非常经典的算法,具体参见《Adaptive background mixture models for real-time tracking》In Proc.IEEEConference on Computer Vision and Pattern Recognition.1999,pp.246-252。这种方法是利用K个高斯分布函数对各个像素点的灰度进行建模,并采用自适应的方法调整模型参数,对背景图像进行更新,此算法对视频中光照变化的适应性良好,适用于户外的视频背景重构,但是运算复杂度太大,实时性较差;此后,Emmanuel J等人提出利用低秩分解的方法进行视频背景重建,具体参见文献《Robust Principal ComponentAnalysis》,Journal of the ACM,2009。通过对待处理视频进行低秩分解,可获得待处理视频的背景图像。这种方法速度快,实时性强,且可以获得可信的背景图像,但是基于低秩分解的方法获取的背景图像,存在前景目标运动后留下的阴影,重构的背景图像比较模糊,缺少细节信息。
发明内容
本发明的目的在于针对上述已有技术的不足,提出一种低秩的视频背景重构方法,以补充更多的细节信息,提高重构的背景图像清晰度。
实现本发明目的的技术方案包括如下步骤:
(1)输入待处理视频,从待处理的视频中抽取大小均为m×n的200张连续的图像序列xi,i=1,...,200;
(2)对抽取的图像序列xi进行中值滤波,得到滤波后的图像序列
(3)将经过中值滤波的图像序列全部拉成列,按照i=1,...,200的顺序排列组成高维数据X∈R(m×n)×200,其中R(m×n)×200表示行数为m×n,列数为200的2维整数型矩阵;
(4)通过低秩分解算法对高维数据X进行低秩分解,得到高维数据X的背景矩阵L∈R(m×n)×200和前景矩阵S∈R(m×n)×200,其中背景矩阵L表示视频序列中各个图像序列的背景图像,前景矩阵S表示视频序列中各个图像序列的前景目标提取图像;
(5)利用matlab软件中的reshape函数,将背景矩阵L中的每一列还原成大小为m×n的图像,得到200幅背景图像li,i=1,2,...,200;
(6)按以下公式对200幅背景图像li求均值,得到初步的背景估计图像GL:
(7)利用matlab软件中的reshape函数,将前景矩阵S中的每一列还原成大小为m×n的图像,得到200幅前景图像si,i=1,2,...,200;
(8)查找200幅前景图像si中的目标区域:
8a)利用sobel边缘检测算子检测前景图像si的边缘,得到si的边缘图像
8b)利用形态学闭运算,将边缘图像中相近但不连续的边缘连接起来,形成若干个互相独立的封闭区域ai b,b=1,...,K,K表示获得的封闭区域的总数量;
8c)设定阈值T=500,判断封闭区域ai b,b=1,...,K的面积是否大于给定阈值T,如果大于,则设定该封闭区域为目标区域ai q,并记录目标区域的坐标位置为其中q=1,...,Q,Q表示检测到的目标区域的总数,且Q<K;
8d)设置标记i=i+1,判断是否满足条件i>200,如果满足,则执行步骤(9),否则返回步骤8a);
(9)将图像序列中坐标位置为的目标区域的像素点全部置0,得到图像序列
(10)设图像序列中的第一幅图像为参考图像利用其他图像序列 的像素值,替换参考图像中像素为0的目标区域替换后的参考图像即获得的背景估计图像G;
(11)查看背景估计图像G中是否存在像素值为0的区域,如果存在,则用步骤(5)获得的初始视频背景估计GL相应位置的像素值替换背景估计图像G中像素为0的区域,如果不存在,则背景估计图像G即为最终获得的清晰背景图像G*。
本发明在低秩分解方法的基础上引入视频图像序列背景信息的互补性,与传统的低秩分解方法相比,消除了目标运动后留下的阴影,补充了更多的细节信息,提高重构的背景图像清晰度。仿真实验表明,本发明能有效的重构视频背景图像,增加图像的细节信息,使重构的背景图像更加清晰可信。
附图说明
图1是本发明的流程图;
图2是本发明在仿真实验中应用的视频图像序列的第1幅图像;
图3是本发明在仿真实验中应用的视频图像序列的第30幅图像;
图4是本发明在仿真实验中得到的视频背景重构图像;
图5是现有的基于混合高斯模型的方法在仿真实验中得到的视频背景重构图像;
图6是现有的基于低秩分解的方法在仿真试验中得到的视频背景重构图像。
具体实施方式
参照图1,本发明的具体实现步骤如下:
步骤1,输入待处理的视频,从待处理视频中抽取大小均为m×n的200幅连续图像序列xi,i=1,...,200,其中图2为抽取的第1幅图像x1,图3为抽取的第30幅图像x30,利用大小为3×3的中值滤波窗口对图像序列xi进行滤波,得到滤波后的图像序列
步骤2,将滤波后的图像序列全部拉成列,按照i=1,...,200的顺序排列组成高维数据X∈R(m×n)×200,其中R(m×n)×200表示行数为m×n,列数为200的2维整数型矩阵。
步骤3,利用低秩分解算法对高维数据X∈R(m×n)×200进行低秩分解,得到X的背景矩阵L∈R(m×n)×200和前景矩阵S∈R(m×n)×200。
上述中利用低秩分解算法对高维数据X∈R(m×n)×200进行低秩分解,是通过现有的低秩分解方法实现的,该方法是由Emmanuel candes和Yi Ma等人于2009年提出的,参见文献《Robust Principal Component Analysis》Computing Research Repository-CORR,vol.abs/0912.3,2009,具体操作如下:
3a)初始化迭代次数t=0,迭代误差ε为0.0001;
3b)设t=t+1,利用matlab软件中的randn函数生成随机高斯矩阵A,按照如下公式得到3个中间变量矩阵:
G1=X×A,G2=XT×G1,G3=X×G2;
3c)计算第t次迭代中的背景矩阵Lt和前景矩阵St:
Lt=G3×(G1 T×G3)-1G2 T,
St=PΩ|X-Lt|,
其中(·)T操作表示矩阵转置操作,(·)-1表示矩阵求逆操作,PΩ(·)表示取(·)中最大的前Ω个数值,本发明中Ω取30000;
3d)判断下述条件是否成立:其中表示矩阵2范数的平方;如果判断成立,则停止迭代,并将矩阵Lt设为所求的背景矩阵L,矩阵St设为所求的前景矩阵S,否则返回步骤3b)。
步骤4,根据背景矩阵L获得200幅背景图像,对其求均值得到初步的背景估计图像GL。
4a)利用matlab软件中的reshape函数,将背景矩阵L中的每一列还原成大小为m×n的图像,得到200幅背景图像li,i=1,2,...,200;
4b)按以下公式对200幅背景图像li求均值,得到初步的背景估计图像GL:
步骤5,根据前景矩阵S获得200幅前景图像,并查找200幅前景图像中的目标区域。
5a)利用matlab软件中的reshape函数,将前景矩阵S中的每一列还原成大小为m×n的图像,得到200幅前景图像si,i=1,2,...,200,初始化i=1;
5b)利用sobel边缘检测算子检测前景图像si的边缘,得到si的边缘图像
5c)利用形态学闭运算,将边缘图像中相近但不连续的边缘连接起来,形成若干个互相独立的封闭区域ai b,b=1,...,K,K表示获得的封闭区域的总数量;
5d)设定阈值T=500,判断封闭区域ai b,b=1,...,K的面积是否大于给定阈值T,如果大于,则设定该封闭区域为目标区域ai q,并记录目标区域的坐标位置为其中q=1,...,Q,Q表示检测到的目标区域的总数,且Q<K;
5e)设置标记i=i+1,判断是否满足条件i>200,如果满足,则执行步骤6,否则返回步骤5b)。
步骤6,将图像序列中坐标位置为的目标区域的像素点全部置0,得到图像序列
步骤7,设图像序列中第一幅图像为参考图像利用其他图像序列的像素值,替换参考图像中像素为0的目标区域替换后的参考图像即获得的背景估计图像G。
步骤8,查看背景估计图像G中是否存在像素值为0的区域,如果存在,则用步骤4获得的初始视频背景估计GL相应位置的像素值替换背景估计图像G中像素为0的区域,如果不存在,则背景估计图像G即为最终获得的清晰背景图像G*。
本发明的效果可以通过以下实验具体说明:
1.实验条件:实验所用微机的CPU为Intel Core2Duo2.33GHz,内存为2GB,编程平台为Matlab R2009a。实验所用到的视频资源来源于日本名古屋大学谷本实验室,网站地址:http://www.tanimoto.nuee.nagoya-u.ac.jp/,实验所用视频序列共有200幅图像,图像大小均为320×240。
2.实验内容和结果分析
本实验具体分为三个实验:
实验一:利用本发明对视频图像序列进行背景重构,结果如图4所示;
实验二:利用现有的基于混合高斯模型的方法对视频图像序列进行背景重构,结果如图5所示;
实验三:利用现有的基于低秩分解的方法对视频图像序列进行背景重构,结果如图6所示;
从图4可以看出,本发明的背景重构图像细节信息丰富,图像轮廓清晰,具备很好的视觉效果;
从图5可以看出,现有的基于混合高斯模型方法得到的重构结果图像含有噪声,图像边缘模糊,清晰度低,视觉效果很差;
从图6可以看出,现有的基于低秩分解的方法重构的视频背景图像边缘模糊,缺少细节信息,且存在目标运动后残留的阴影。
Claims (2)
1.一种低秩的视频背景重构方法,包括如下步骤:
(1)输入待处理视频,从待处理的视频中抽取大小均为m×n的200张连续的图像序列xi,i=1,...,200;
(2)对抽取的图像序列xi进行中值滤波,得到滤波后的图像序列i=1,...,200;
(3)将经过中值滤波的图像序列全部拉成列,按照i=1,...,200的顺序排列组成高维数据X∈R(m×n)×200,其中R(m×n)×200表示行数为m×n,列数为200的2维整数型矩阵;
(4)通过低秩分解算法对高维数据X进行低秩分解,得到高维数据X的背景矩阵L∈R(m×n)×200和前景矩阵S∈R(m×n)×200,其中背景矩阵L表示视频序列中各个图像序列的背景图像,前景矩阵S表示视频序列中各个图像序列的前景目标提取图像;
(5)利用matlab软件中的reshape函数,将背景矩阵L中的每一列还原成大小为m×n的图像,得到200幅背景图像li,i=1,2,...,200;
(6)按以下公式对200幅背景图像li求均值,得到初步的背景估计图像GL:
(7)利用matlab软件中的reshape函数,将前景矩阵S中的每一列还原成大小为m×n的图像,得到200幅前景图像si,i=1,2,...,200;
(8)查找200幅前景图像si中的目标区域:
8a)利用sobel边缘检测算子检测前景图像si的边缘,得到si的边缘图像
8b)利用形态学闭运算,将边缘图像中相近但不连续的边缘连接起来,形成若干个互相独立的封闭区域ai b,b=1,...,K,K表示获得的封闭区域的总数量;
8c)设定阈值T=500,判断封闭区域ai b,b=1,...,K的面积是否大于给定阈值T,如果大于,则设定该封闭区域为目标区域ai q,并记录目标区域的坐标位置为Pi q,其中q=1,...,Q,Q表示检测到的目标区域的总数,且Q<K;
8d)设置标记i=i+1,判断是否满足条件i>200,如果满足,则执行步骤(9),否则返回步骤8a);
(9)将图像序列中坐标位置为Pi q的目标区域的像素点全部置0,得到图像序列i=1,...,200;
(10)设图像序列中第一幅图像为参考图像利用其他图像序列i=2,...,200的像素值,替换参考图像中像素为0的目标区域P1 q,替换后的参考图像即获得的背景估计图像G;
(11)查看背景估计图像G中是否存在像素值为0的区域,如果存在,则用步骤(5)获得的初始视频背景估计GL相应位置的像素值替换背景估计图像G中像素为0的区域,如果不存在,则背景估计图像G即为最终获得的清晰背景图像G*。
2.根据权利要求1所述的一种低秩的视频背景重构方法,其中步骤(4)所述的通过低秩分解算法对高维数据X进行低秩分解,实现步骤如下:
2a)初始化迭代次数t=0,迭代误差ε为0.0001;
2b)设t=t+1,利用matlab软件中的randn函数生成随机高斯矩阵A,按照如下公式得到3个中间变量矩阵:
G1=X×A,G2=XT×G1,G3=X×G2;
2c)计算第t次迭代中的背景矩阵Lt和前景矩阵St:
Lt=G3×(G1 T×G3)-1G2 T,
St=PΩ|X-Lt|,
其中(·)T操作表示矩阵转置操作,(·)-1表示矩阵求逆操作,PΩ(·)表示取(·)中最大的前Ω个数值,本发明中Ω取30000;
2d)判断下述条件是否成立:其中表示矩阵2范数的平方;如果判断成立,则停止迭代,并将矩阵Lt设为所求的背景矩阵L,矩阵St设为所求的前景矩阵S,否则返回步骤2b)。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210245528.6A CN102821228B (zh) | 2012-07-16 | 2012-07-16 | 低秩的视频背景重构方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210245528.6A CN102821228B (zh) | 2012-07-16 | 2012-07-16 | 低秩的视频背景重构方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102821228A CN102821228A (zh) | 2012-12-12 |
CN102821228B true CN102821228B (zh) | 2014-10-29 |
Family
ID=47305074
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210245528.6A Active CN102821228B (zh) | 2012-07-16 | 2012-07-16 | 低秩的视频背景重构方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102821228B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103533368B (zh) * | 2013-09-17 | 2016-11-09 | 上海交通大学 | 多视角视频编码中基于低秩结构提取的亮度补偿方法 |
CN104182936A (zh) * | 2014-08-14 | 2014-12-03 | 电子科技大学 | 一种基于隐式低秩近似的背景减除算法 |
CN105869190A (zh) * | 2015-01-22 | 2016-08-17 | 富士通株式会社 | 背景图像的重建方法、装置以及监控设备 |
CN105160664B (zh) * | 2015-08-24 | 2017-10-24 | 西安电子科技大学 | 基于低秩模型的压缩感知视频重构方法 |
CN107507143B (zh) * | 2017-08-14 | 2021-04-16 | 努比亚技术有限公司 | 一种图像还原方法及终端 |
CN109035190B (zh) * | 2018-07-30 | 2021-05-25 | 安徽慧视金瞳科技有限公司 | 一种汽车仪表表盘背景合成方法 |
CN112637593B (zh) * | 2020-12-18 | 2022-08-02 | 郑州师范学院 | 基于人工智能和视频分析的视频编码优化方法 |
CN114257762A (zh) * | 2021-12-20 | 2022-03-29 | 咪咕音乐有限公司 | 视频转换方法、装置、设备及存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8406556B2 (en) * | 2010-06-10 | 2013-03-26 | Microsoft Corporation | Light transport reconstruction from sparsely captured images |
CN102024252B (zh) * | 2010-12-10 | 2012-05-02 | 清华大学 | 基于矩阵秩最小化的恢复水下失真图像的重构方法 |
-
2012
- 2012-07-16 CN CN201210245528.6A patent/CN102821228B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN102821228A (zh) | 2012-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102821228B (zh) | 低秩的视频背景重构方法 | |
CN109791696B (zh) | 用于场景的3d重建的方法、设备和定位事件摄像机的方法 | |
Wang et al. | Multifocus image fusion using convolutional neural networks in the discrete wavelet transform domain | |
Zheng et al. | Edge detection methods in digital image processing | |
Zhang et al. | Multi-focus image fusion algorithm based on focused region extraction | |
CN103870818B (zh) | 一种烟雾检测方法和装置 | |
Yang et al. | Research and analysis of Image edge detection algorithm Based on the MATLAB | |
CN103871039B (zh) | 一种sar图像变化检测差异图生成方法 | |
CN103077537B (zh) | 基于l1正则化的实时运动目标跟踪的新方法 | |
CN101887576A (zh) | 基于偏微分方程滤波器的图像去噪方法 | |
CN103793715B (zh) | 基于场景信息挖掘的井下人员目标跟踪方法 | |
CN104537381A (zh) | 一种基于模糊不变特征的模糊图像识别方法 | |
CN103914829A (zh) | 一种含噪图像边缘检测方法 | |
CN103839244B (zh) | 一种实时的图像融合方法及装置 | |
Ren et al. | Surface normal and Gaussian weight constraints for indoor depth structure completion | |
Zhu et al. | A visual measurement method of structural body vibration displacement combined with image deblurring | |
CN104574400A (zh) | 一种基于局部差分盒维数算法的遥感图像分割方法 | |
CN102855612A (zh) | 基于灰度线阵ccd图像的自适应增强算法 | |
Asano | Texture analysis using morphological pattern spectrum and optimization of structuring elements | |
Song et al. | Noise robust image matching using adjacent evaluation census transform and wavelet edge joint bilateral filter in stereo vision | |
Han et al. | An improved gradient-based dense stereo correspondence algorithm using guided filter | |
Sun et al. | Research on the multi-scale low rank method and its optimal parameters selection strategy for infrared small target detection | |
CN102831616A (zh) | 一种视频流体运动矢量计算方法 | |
Pei et al. | Visual explanations for exposing potential inconsistency of deepfakes | |
Liu | Research on intelligent visual image feature region acquisition algorithm in Internet of Things framework |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |