CN104918057A - 一种利用邻域运动信息的运动矢量后处理系统 - Google Patents
一种利用邻域运动信息的运动矢量后处理系统 Download PDFInfo
- Publication number
- CN104918057A CN104918057A CN201510233586.0A CN201510233586A CN104918057A CN 104918057 A CN104918057 A CN 104918057A CN 201510233586 A CN201510233586 A CN 201510233586A CN 104918057 A CN104918057 A CN 104918057A
- Authority
- CN
- China
- Prior art keywords
- vector
- neighborhood
- block
- refinement
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
本发明提供了一种利用邻域运动信息的运动矢量后处理系统,包括矢量细化和矢量平滑两级流水线结构,各级流水线分别利用邻域运动信息对当前运动进行分解,从而获得更精细、更平滑的运动矢量;其中:矢量细化部分通过检测邻域的遮蔽模式,选用特定位置的邻域矢量对当前块的运动进行1/4分解;矢量平滑部分通过量化邻域细化矢量对当前1/16子块的影响,确定最优的滤波系数,从而进一步分解得到1/16子块的运动矢量。本发明所述的一种利用邻域运动信息的运动矢量后处理系统,仅需少量的存储器、查找表及运算逻辑实现,并可以获得较好的运动矢量处理效果。
Description
技术领域
本发明涉及视频后处理技术领域,具体地,涉及一种利用邻域运动信息的运动矢量后处理系统。
背景技术
帧率上变换是克服LCD(Liquid Crystal Display的简称)液晶显示器运动模糊的有效的技术之一,目前已被广泛使用在高端数字电视中。帧率上变换技术的关键在于获得真实的运动矢量。然而,帧率上变换器件中的运动估计模块普遍采用块匹配算法,这类方法简单、易于实现,但无法保证真实的运动矢量。因此,运动矢量后处理技术变得尤为重要。在帧率上变换器件中,运动矢量后处理紧接在运动估计后端,要求能有效地提高运动矢量的准确度和平滑度,并能满足实时要求。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种利用邻域运动信息的运动矢量后处理系统,仅用少量的存储器、查找表及逻辑资源,获得较好的运动矢量处理效果。
为实现以上目的,本发明提供一种利用邻域运动信息的运动矢量后处理系统,包括矢量细化和矢量平滑两级流水线,其中:所述矢量细化流水线与所述矢量平滑流水线分别利用邻域运动信息对当前运动进行分解,即所述矢量细化流水线对原始的运动进行1/4分解,所述矢量平滑流水线进一步对细化后的运动进行1/4分解,最终得到更精细、更平滑的运动矢量场。
优选地,所述的矢量细化流水线包括:遮蔽模式判别模块、矢量细化模块和细化矢量缓存模块,其中:
遮蔽模式判别模块,用于确定待细化块邻域的遮蔽模式;
矢量细化模块,耦接至遮蔽模式判别模块,用于根据遮蔽模式判别模块确定的待细化块邻域所属遮蔽模式,选用特定位置的邻域矢量对待细化块进行1/4细化分解;
细化矢量缓存模块,耦接至矢量细化模块,用于保存矢量细化模块矢量细化得到的运动矢量。
更优选地,所述遮蔽模式判别模块为确定待细化块邻域的遮蔽模式,完成以下流程:
1)串行输入以待细化块为中心的3*3邻域矢量;
2)根据匹配残差确定邻域是否发生遮蔽,若匹配残差大于阈值,则该邻域块处于遮蔽区域,标记为1,反之标记为0;并输出9bit标记序列;
3)根据标记序列,确定待细化块邻域的遮蔽模式。
更优选地,上述3)中,定义所述遮蔽模式8种以表征运动遮蔽的方向性信息,具体包括:
零遮蔽:当前块不是遮蔽块,无论邻域块是否是遮蔽块;
孤立遮蔽:当前块是遮蔽块,邻域块都不是遮蔽块;
水平遮蔽:当前块和邻域块呈水平方向的遮蔽区域;
竖直遮蔽:当前块和邻域块呈竖直方向的遮蔽区域;
左45度遮蔽:当前块和邻域块呈左45度方向的遮蔽区域;
右45度遮蔽:当前块和邻域块呈右45度方向的遮蔽区域;
复杂遮蔽:当前块是遮蔽块,邻域块中有1-7个遮蔽块,呈不规则的遮蔽区域;
完全遮蔽:当前块和所有邻域块都是遮蔽块。
更优选地,所述矢量细化模块根据当前块的遮蔽模式,选用特定位置的邻域矢量作为候选矢量,计算各候选矢量的匹配误差,选择匹配误差最小的邻域矢量作为当前子块的细化矢量。
更优选地,所述候选矢量包括:已更新的细化矢量以及尚未处理的细化矢量,其中:已更新的细化矢量在细化过程中实时更新,尚未处理的细化矢量继承原始块的运动矢量。
更优选地,所述细化矢量缓存模块仅保存所述矢量平滑流水线访问邻域时所需的细化矢量。
优选地,所述的矢量平滑流水线包括滤波系数计算模块、矢量平滑模块和平滑矢量缓存模块,其中:
所述滤波系数计算模块,用于确定待平滑矢量的邻域细化矢量的滤波系数;
所述矢量平滑模块,耦接至矢量平滑模块,用于根据滤波系数计算模块确定的邻域细化矢量滤波系数,计算当前1/16子块的平滑矢量;
所述平滑矢量缓存模块,耦接至矢量平滑模块,用于保存矢量平滑模块计算得到的平滑矢量结果。
更优选地,所述待平滑矢量的邻域细化矢量的滤波系数自适应地根据以下3个因素确定:
1)邻域矢量之间的平滑度;
2)邻域矢量自身的准确度;
3)运动边界的可能性。
更优选地,所述待平滑矢量的邻域细化矢量的滤波系数通过查找表实现。
与现有技术相比,本发明具有如下的有益效果:
1、矢量细化和矢量平滑两级流水线结构提高了系统的吞吐率和运行速度,保证了系统的实时性;
2、基于多种遮蔽模式的矢量细化能够有效解决遮蔽效应带来的不利影响,提高细化的有效性;
3、矢量平滑流水线考虑影响滤波系数的多种因素,避免了过度平滑、边界平滑;
4、用少量的存储器、查找表及逻辑资源,易于硬件实现。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1为本发明一优选实施例的系统运行流程图;
图2为本发明一优选实施例的遮蔽模式示意图;
图3为本发明一优选实施例的各模式的候选邻域矢量示意图;
图4为本发明一优选实施例的矢量细化示意图。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进。这些都属于本发明的保护范围。
如图1所示,本实施例提供一种利用邻域运动信息的运动矢量后处理系统,包括矢量细化和矢量平滑两级流水线结构,其在细化矢量缓存处划分。其中:所述矢量细化流水线包括遮蔽模式判别模块、矢量细化模块和细化矢量缓存模块;所述矢量平滑流水线包括滤波系数计算模块、矢量平滑模块和平滑矢量缓存模块。
作为一个优选实施方式,所述矢量细化流水线包括:遮蔽模式判别模块、矢量细化模块和细化矢量缓存模块,其中:
遮蔽模式判别模块,用于确定待细化块邻域的遮蔽模式;
矢量细化模块,耦接至遮蔽模式判别模块,用于根据遮蔽模式判别模块确定的待细化块邻域所属遮蔽模式,选用特定位置的邻域矢量对待细化块进行1/4细化分解;
细化矢量缓存模块,耦接至矢量细化模块,用于保存矢量细化模块矢量细化得到的运动矢量。
本实施例所述系统中的运动矢量为32bit,由3个分量组成:高12bit代表Y分量,中间12bit代表X分量,低8bit代表匹配残差。
本实施例中,所述遮蔽模式判别模块完成以下功能:
1.串行输入以当前块为中心的3*3邻域矢量;
2.根据匹配残差确定运动矢量是否处于遮蔽区域,若匹配残差大于阈值,则该邻域块处于遮蔽区域,用1标记,反之用0标记;并输出9bit标记序列;
3.根据标记序列,确定当前块的遮蔽模式(如图2所示),定义8种遮蔽模式,表征运动遮蔽的方向性信息;8种遮蔽模式具体包含:
零遮蔽:当前块不是遮蔽块,无论邻域块是否是遮蔽块;
孤立遮蔽:当前块是遮蔽块,邻域块都不是遮蔽块;
水平遮蔽:当前块和邻域块呈水平方向的遮蔽区域;
竖直遮蔽:当前块和邻域块呈竖直方向的遮蔽区域;
左45度遮蔽:当前块和邻域块呈左45度方向的遮蔽区域;
右45度遮蔽:当前块和邻域块呈右45度方向的遮蔽区域;
复杂遮蔽:当前块是遮蔽块,邻域块中有1-7个遮蔽块,呈不规则的遮蔽区域;
完全遮蔽:当前块和所有邻域块都是遮蔽块。
本实施例中,所述矢量细化模块根据当前块的遮蔽模式,选用特定位置的邻域矢量作为候选矢量,计算各候选矢量的匹配误差,选择匹配误差最小的邻域矢量作为当前子块的细化矢量。由于沿着遮蔽方向的邻域矢量显然是不可靠的,因此选用垂直于遮蔽方向的邻域矢量进行矢量细化。各模式的候选邻域矢量如图3及下表所示(其中Vp表示待细化子块对应的当前块的运动矢量,抖动矢量是一系列符合高斯分布的小范围的运动矢量)。
上述候选邻域矢量包括已更新的细化矢量以及尚未处理的细化矢量,前者在细化过程中实时更新,后者继承原始块的运动矢量。
本实施例中,扫描顺序按照左上到右下、左下到右上的交替顺序逐帧进行。以VA1、VA2为例,当左上到右下扫描时,VA1、VA2为更新的细化矢量;当左下到右上扫描时,它们尚未处理,与所在的原始块的矢量相同。
作为一个优选实施方式,所述矢量平滑流水线包括滤波系数计算模块、矢量平滑模块和平滑矢量缓存模块,其中:
滤波系数计算模块,用于确定待平滑矢量的邻域细化矢量的滤波系数;
矢量平滑模块,耦接至矢量平滑模块,用于根据滤波系数计算模块确定的邻域细化矢量滤波系数,计算当前1/16子块的平滑矢量;
平滑矢量缓存模块,耦接至矢量平滑模块,用于保存矢量平滑模块计算得到的平滑矢量结果。
本实施例中,所述细化矢量缓存模块保存矢量细化流水线得到的运动矢量,只保存矢量平滑流水线访问邻域所需要的区域。为了保证系统的因果性,矢量细化块组与矢量平滑块组之间的相对位置关系如图4所示。完成当前矢量平滑块组,仅需要保存区域1的两行细化矢量和区域2的三个块组的细化矢量,如图4所示的灰色区域。以分辨率为1920*1080、原始块为16*16pix为例,矢量细化缓存的容量为:
(3*8+2*1920/16)*4*32bit=4.125KB
为确定滤波系数,滤波系数确定模块考虑3个因素:邻域矢量之间的平滑度、邻域矢量自身的准确度及运动边界的可能性,并将它们量化为指数函数,分别为 那么最终的滤波系数为并进行归一化。由于滤波系数自适应于不同的块,实现中用查找表实现。w1、w2、w3用8bit量化,定点化的精度为16bit,那么查找表的最大容量为:
2^(8+2)*16bit=2KB
所述矢量平滑模块完成滤波功能,完成9个1/4子块邻域运动矢量与对应滤波系数的乘加运算;矢量平滑处理的结果保存在所述平滑矢量缓存模块。
本发明所述矢量细化和矢量平滑两级流水线结构提高了系统的吞吐率和运行速度,保证了系统的实时性;基于多种遮蔽模式的矢量细化能够有效解决遮蔽效应带来的不利影响,提高细化的有效性;矢量平滑流水线考虑影响滤波系数的多种因素,避免了过度平滑、边界平滑;仅需少量的存储器、查找表及运算逻辑实现,并可以获得较好的运动矢量处理效果。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变形或修改,这并不影响本发明的实质内容。
Claims (10)
1.一种利用邻域运动信息的运动矢量后处理系统,其特征在于,包括矢量细化和矢量平滑两级流水线,其中:所述矢量细化流水线与所述矢量平滑流水线分别利用邻域运动信息对当前运动进行分解,即所述矢量细化流水线对原始的运动进行1/4分解,所述矢量平滑流水线进一步对所述矢量细化流水线细化后的运动进行1/4分解,最终得到更精细、更平滑的运动矢量场。
2.根据权利要求1所述的一种利用邻域运动信息的运动矢量后处理系统,其特征在于,所述矢量细化流水线包括:遮蔽模式判别模块、矢量细化模块和细化矢量缓存模块,其中:
遮蔽模式判别模块,用于确定待细化块邻域的遮蔽模式;
矢量细化模块,耦接至遮蔽模式判别模块,用于根据遮蔽模式判别模块确定的待细化块邻域所属遮蔽模式,选用特定位置的邻域矢量对待细化块进行1/4细化分解;
细化矢量缓存模块,耦接至矢量细化模块,用于保存矢量细化模块矢量细化得到的运动矢量。
3.根据权利要求2所述的一种利用邻域运动信息的运动矢量后处理系统,其特征在于,所述遮蔽模式判别模块为确定待细化块邻域的遮蔽模式完成以下流程:
1)串行输入以待细化块为中心的3*3邻域矢量;
2)根据匹配残差确定邻域是否发生遮蔽,若匹配残差大于阈值,则该邻域块处于遮蔽区域,标记为1,反之标记为0;并输出9bit标记序列;
3)根据标记序列,确定待细化块邻域的遮蔽模式。
4.根据权利要求3所述的一种利用邻域运动信息的运动矢量后处理系统,其特征在于,所述3)中,定义所述遮蔽模式8种以表征运动遮蔽的方向性信息,包括:
零遮蔽:当前块不是遮蔽块,无论邻域块是否是遮蔽块;
孤立遮蔽:当前块是遮蔽块,邻域块都不是遮蔽块;
水平遮蔽:当前块和邻域块呈水平方向的遮蔽区域;
竖直遮蔽:当前块和邻域块呈竖直方向的遮蔽区域;
左45度遮蔽:当前块和邻域块呈左45度方向的遮蔽区域;
右45度遮蔽:当前块和邻域块呈右45度方向的遮蔽区域;
复杂遮蔽:当前块是遮蔽块,邻域块中有1-7个遮蔽块,呈不规则的遮蔽区域;
完全遮蔽:当前块和所有邻域块都是遮蔽块。
5.根据权利要求2所述的一种利用邻域运动信息的运动矢量后处理系统,其特征在于,所述矢量细化模块根据当前块的遮蔽模式,选用特定位置的邻域矢量作为候选矢量,计算各候选矢量的匹配误差,选择匹配误差最小的邻域矢量作为当前子块的细化矢量。
6.根据权利要求5所述的一种利用邻域运动信息的运动矢量后处理系统,其特征在于,所述候选矢量包括:已更新的细化矢量以及尚未处理的细化矢量,其中:已更新的细化矢量在细化过程中实时更新,尚未处理的细化矢量继承原始块的运动矢量。
7.根据权利要求2所述的一种利用邻域运动信息的运动矢量后处理系统,其特征在于,所述细化矢量缓存模块仅保存所述矢量平滑流水线访问邻域时所需的细化矢量。
8.根据权利要求1-7任一项所述的一种利用邻域运动信息的运动矢量后处理系统,其特征在于,所述矢量平滑流水线包括滤波系数计算模块、矢量平滑模块和平滑矢量缓存模块,其中:
滤波系数计算模块,用于确定待平滑矢量的邻域细化矢量的滤波系数;
矢量平滑模块,耦接至矢量平滑模块,用于根据滤波系数计算模块确定的邻域细化矢量滤波系数,计算当前1/16子块的平滑矢量;
平滑矢量缓存模块,耦接至矢量平滑模块,用于保存矢量平滑模块计算得到的平滑矢量结果。
9.根据权利要求8所述的一种利用邻域运动信息的运动矢量后处理系统,其特征在于,所述的滤波系数自适应地根据以下3个因素确定:
1)邻域矢量之间的平滑度;
2)邻域矢量自身的准确度;
3)运动边界的可能性。
10.根据权利要求8所述的一种利用邻域运动信息的运动矢量后处理系统,其特征在于,所述的滤波系数通过查找表实现。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510233586.0A CN104918057B (zh) | 2015-05-08 | 2015-05-08 | 一种利用邻域运动信息的运动矢量后处理系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510233586.0A CN104918057B (zh) | 2015-05-08 | 2015-05-08 | 一种利用邻域运动信息的运动矢量后处理系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104918057A true CN104918057A (zh) | 2015-09-16 |
CN104918057B CN104918057B (zh) | 2018-07-13 |
Family
ID=54086701
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510233586.0A Active CN104918057B (zh) | 2015-05-08 | 2015-05-08 | 一种利用邻域运动信息的运动矢量后处理系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104918057B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110933419A (zh) * | 2018-09-20 | 2020-03-27 | 杭州海康威视数字技术股份有限公司 | 一种运动矢量确定、边界强度确定方法和设备 |
CN112040243A (zh) * | 2018-06-04 | 2020-12-04 | 华为技术有限公司 | 获取运动矢量的方法和装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104301736A (zh) * | 2014-10-13 | 2015-01-21 | 上海交通大学 | 一种减少存储带宽需求的超高清帧率上变换系统 |
US20150117555A1 (en) * | 2011-02-23 | 2015-04-30 | Qualcomm Incorporated | Multi-metric filtering |
-
2015
- 2015-05-08 CN CN201510233586.0A patent/CN104918057B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150117555A1 (en) * | 2011-02-23 | 2015-04-30 | Qualcomm Incorporated | Multi-metric filtering |
CN104301736A (zh) * | 2014-10-13 | 2015-01-21 | 上海交通大学 | 一种减少存储带宽需求的超高清帧率上变换系统 |
Non-Patent Citations (2)
Title |
---|
YONG GUO,ET AL: "OCCLUSION HANDLING FRAME RATE UP-CONVERSION", 《ICASSP2013》 * |
李珂: "帧率变换系统中片上像元缓存设计与硬件实现", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112040243A (zh) * | 2018-06-04 | 2020-12-04 | 华为技术有限公司 | 获取运动矢量的方法和装置 |
CN112040243B (zh) * | 2018-06-04 | 2021-06-29 | 华为技术有限公司 | 获取运动矢量的方法和装置 |
US11463721B2 (en) | 2018-06-04 | 2022-10-04 | Huawei Technologies Co., Ltd. | Motion vector obtaining method and apparatus |
CN115550664A (zh) * | 2018-06-04 | 2022-12-30 | 华为技术有限公司 | 获取运动矢量的方法和装置 |
CN115550664B (zh) * | 2018-06-04 | 2023-08-22 | 华为技术有限公司 | 获取运动矢量的方法和装置 |
US11812050B2 (en) | 2018-06-04 | 2023-11-07 | Huawei Technologies Co., Ltd. | Motion vector obtaining method and apparatus |
CN110933419A (zh) * | 2018-09-20 | 2020-03-27 | 杭州海康威视数字技术股份有限公司 | 一种运动矢量确定、边界强度确定方法和设备 |
CN110933419B (zh) * | 2018-09-20 | 2022-07-01 | 杭州海康威视数字技术股份有限公司 | 一种运动矢量确定、边界强度确定方法和设备 |
Also Published As
Publication number | Publication date |
---|---|
CN104918057B (zh) | 2018-07-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105608676B (zh) | 一种视频图像的增强方法及装置 | |
Kim et al. | Optimized contrast enhancement for real-time image and video dehazing | |
CN109743473A (zh) | 视频图像3d降噪方法、计算机装置及计算机可读存储介质 | |
CN101706954B (zh) | 图像增强方法和装置以及图像低频分量计算方法和装置 | |
CN104376542A (zh) | 一种图像增强方法 | |
CN112150371B (zh) | 图像降噪方法、装置、设备及存储介质 | |
CN110675334A (zh) | 一种图像增强方法及装置 | |
CN111310508B (zh) | 一种二维码识别方法 | |
CN112991197B (zh) | 一种基于暗通道的细节保留的低照度视频增强方法及装置 | |
CN109214996A (zh) | 一种图像处理方法及装置 | |
CN104918057A (zh) | 一种利用邻域运动信息的运动矢量后处理系统 | |
CN110751156A (zh) | 用于表格线大块干扰去除方法、系统、设备及介质 | |
CN104616259A (zh) | 一种噪声强度自适应的非局部均值图像去噪方法 | |
CN104103037A (zh) | 一种图像增强处理方法和装置 | |
CN104978720A (zh) | 一种视频图像雨滴去除方法及装置 | |
CN103714523A (zh) | 基于Kirsch算子的图像锐化系统及图像锐化方法 | |
Sangeetha et al. | An efficient hardware implementation of canny edge detection algorithm | |
Chien et al. | Contrast enhancement by using global and local histogram information jointly | |
CN106897980B (zh) | 基于局部方差的自适应空域降噪方法 | |
Yang et al. | Optimized design of fast single image dehazing algorithm | |
CN114519675A (zh) | 图像处理方法、装置、电子设备及可读存储介质 | |
CN114066783A (zh) | 一种色调映射方法、装置、电子设备及存储介质 | |
Hsieh et al. | Single image haze removal using weak dark channel prior | |
Lee et al. | A 4K-capable hardware accelerator of haze removal algorithm using haze-relevant features | |
CN111626966A (zh) | 声呐图像的去噪模型训练方法及其装置和可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |