CN103618907A - 基于压缩感知多视点分布式视频编码及帧排列装置及方法 - Google Patents

基于压缩感知多视点分布式视频编码及帧排列装置及方法 Download PDF

Info

Publication number
CN103618907A
CN103618907A CN201310556404.4A CN201310556404A CN103618907A CN 103618907 A CN103618907 A CN 103618907A CN 201310556404 A CN201310556404 A CN 201310556404A CN 103618907 A CN103618907 A CN 103618907A
Authority
CN
China
Prior art keywords
viewpoint
frame
key
key frame
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310556404.4A
Other languages
English (en)
Other versions
CN103618907B (zh
Inventor
郭继昌
许颖
申燊
孙骏
金卯亨嘉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianjin University
Original Assignee
Tianjin University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin University filed Critical Tianjin University
Priority to CN201310556404.4A priority Critical patent/CN103618907B/zh
Publication of CN103618907A publication Critical patent/CN103618907A/zh
Application granted granted Critical
Publication of CN103618907B publication Critical patent/CN103618907B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明属于压缩感知和分布式视频编码技术领域。为提供一种适用于非直线分布的多视点帧排列方法,提高视点间边信息质量,进而进一步提高解码的视频帧质量,为此,本发明采取的技术方案是,基于压缩感知的多视点分布式视频编码及帧排列方法,包括:编码器部分和解码器部分,其中编码器包括关键视点和非关键视点的编码步骤:首先,视点间采用的是关键视点、关键视点、非关键视点如此的排列,在视点内部的帧排列是关键帧与非关键帧间隔排列。第二,将帧分为2类,一类是关键视点与非关键视点的关键帧,关键帧是根据压缩感知理论进行编码的,非关键帧采用分布式视频编码方法对其进行编码。本发明主要应用于压缩感知和分布式视频编码。

Description

基于压缩感知多视点分布式视频编码及帧排列装置及方法
技术领域
本发明属于压缩感知和分布式视频编码技术领域,尤其涉及一种基于压缩感知的多视点分布式视频编码及帧排列方法。
背景技术
传统的视频编码技术,无论是H.26X系列还是MPEG系列,编码端都通过帧间预测和DCT变换去除时间和空间冗余,以获得高压缩效率,这使得整个系统对编码器的计算能力和内存容量的要求远高于解码器。
目前,大多数多视点视频编码(MVC)方法都是在H.264/AVC标准的基础上进行扩展形成的。MVC往往比单视点视频信号编码具有更加复杂的预测编码结构,其编码算法复杂度也远远大于单视点视频编码算法。所以这类基于预测的MVC方法适合于立体电视、视频点播等具有一对多拓扑结构的应用场合。而在一些编码端资源受限的视频应用领域中,发端设备要求低复杂度、低功耗的编码,接收端可以进行海量的数据存储和高复杂度的计算。所以在这些场合中,需要寻找新的高效的编码方法来对多视点视频进行压缩和传输。
发明内容
本发明旨在克服现有技术的不足,提供一种适用于非直线分布的多视点帧排列方法,提高视点间边信息质量,进而进一步提高解码的视频帧质量,为达到上述目的,本发明采取的技术方案是,基于压缩感知的多视点分布式视频编码及帧排列方法,包括:编码器部分和解码器部分,其中编码器包括关键视点和非关键视点的编码步骤:首先,视点间采用的是关键视点、关键视点、非关键视点如此的排列,在视点内部的帧排列是关键帧与非关键帧间隔排列。第二,根据解码端对视频质量、视频实时性的要求,将帧分为2类,一类是关键视点与非关键视点的关键帧,关键帧是根据压缩感知理论进行编码的,首先通过选择适当的稀疏基将N×N维原始信号变为N×N维多0的稀疏信号,再经过观测矩阵将N×N维信号降到N×M维,最后编码器将关键帧的稀疏信号与经过观测矩阵降维的信号发送到解码器部分;另一类是关键视点与非关键视点的非关键帧,非关键帧采用分布式视频编码方法对其进行编码:首先,将每一个非关键帧进行基于块的离散余弦变换并对变换系数做量化处理;接着对这些量化后的系数按照不同频段重新组织安排,即将每一个块中的相同的频率系数放在一起;然后将系数编码成相应的比特,并按照比特面排序后,送到信道编码器,由信道编码器产生校验比特:
S=XHT
式中,X表示非关键帧,H为校验矩阵,S为X的校验比特,T为H校验矩阵的转置最后,编码器部分将校验比特发送到解码部分。
解码器部分分为两部分:第一部分,首先是第一个关键视点的关键帧经过压缩感知的重构算法对关键帧解码;第二,第二个关键视点的关键帧经过压缩感知的重构算法对关键帧解码;第三,根据已经解码的关键视点的关键帧,通过视差矢量外推法外推获得非关键视点中非关键帧的视点间边信息。第二部分,首先将非关键视点的关键帧通过压缩感知的重构算法解码,然后非关键帧通过相邻的已解码关键帧进行双向运动补偿内插法,内插得到非关键视点中非关键帧的时间边信息。前两部分解码后,通过线性融合算法进行时间边信息与视点间边信息的融合,得到最终的边信息。将边信息和原始非关键帧的差异看作是虚拟信道中的相关噪声,利用Laplacian模型能够很好地估计残差的分布;接下来采用和编码端相同的变换方法对边信息依次进行反量化,得到非关键帧变换系数的估值;利用虚拟噪声模型计算出信息比特送入信道解码器,信道解码器根据编码端传过来的校验比特对边信息进行校验;然后根据虚拟信道模型和边信息系数实现非关键帧重构,最后通过反离散余弦变换得到非关键帧,和已解码关键帧一起通过多路复用得到最终解码视频流。
压缩感知具体为:当信号具有稀疏性或者可压缩性的时候,通过线性投影,得到远小于奈奎斯特采样定理所要求的采样点,接收端通过凸优化或者迭代算法等高精度的重构出原始信号。
视差矢量外推法是通过已经解码的前两个关键视点,根据视点间的几何关系及图像匹配出视差矢量MV,然后根据3个视点的几何关系,由前一视点外推得到当前视点的视点间边信息,定义I[n,t,x,y]表示第n个视点在t时刻所在帧中(x,y)位置处的像素值,则第n个视点的像素值可以描述为:
I[n,t,x,y]=I[n-1,t,x+mvx,y+mvy],其中MV=(mvx,mvy)为视差矢量,mvx表示视差矢量MV的横向分量,mvy表示视差矢量MV的纵向分量,x表示横坐标,y表示纵坐标,n-1表示第n-1个视点
双向运动矢量内插法是通过当前帧的前一已解码帧和后一已解码帧,通过这两帧的运动匹配,分别获得前向运动矢量和后向运动矢量,然后根据如下公式内插获得当前帧的时间边信息:
I [ c , x , y ] = 1 / 2 ( I [ c - 1 , x + m v f x , y + m v f y ] + I [ c + 1 , x - m v b x , y - m v b y ] )
其中,I[c,x,y]表示第c帧中(x,y)位置处的像素值;
Figure BDA0000411032510000022
分别表示前向运动矢量、后向运动矢量;
Figure BDA0000411032510000023
表示前向运动矢量MVf的横向分量,
Figure BDA0000411032510000024
表示前向运动矢量MVf的纵向分量;
Figure BDA0000411032510000025
表示后向运动矢量MVb的横向分量,
Figure BDA0000411032510000026
表示后向运动矢量MVb的纵向分量;x表示横坐标,y表示纵坐标。
基于压缩感知多视点分布式视频编码及帧排列装置,由若干摄像机,视频压缩模块,视频解压模块构成,摄像机、视频压缩模块、视频解压模块依次相连,n个数字摄像头通过复用32条数据线连接至视频压缩模块,视频压缩模块外接一个Flash或者SRAM来存取数据;视频压缩模块通过PCI总线连接至上位机,视频压缩模块由DSP构成,视频解压模块设置在计算机内。
DSP模块进一步具体包括:根据压缩感知理论通过选择字典学习方法获得稀疏矩阵的模块,该模块经过稀疏基变换将N×N维原始信号变为N×N维0多非0少的的稀疏信号;降维模块,用于经过结构化的观测矩阵将N×N维信号降到N×M维;然后通过Flash或者SRAM存储视频信号和经过视频压缩模块获得的稀疏矩阵以及观测矩阵。
本发明的技术特点及效果:
本发明通过帧排列方法,运动矢量内插法获得的时间边信息与视差矢量外推法获得的视点间边信息融合,比较之前的棋盘式排列的多视点分布式视频编码相比,不仅保证了视频帧的重构质量,而且还提高了对多视点排布情况的适用性。
附图说明
图1本发明的基于压缩感知的多视点分布式视频编码系统的原理结构图。
图2本发明的基于压缩感知的多视点分布式视频编码的帧排列图。
图3本发明硬件结构整体框图。
具体实施方式
现有的分布式多视点视频编码的帧排列方式大多采用棋盘型,即关键帧(K帧)和非关键帧(WZ帧)间隔排布,在这种排列方式中,视点间边信息与时间边信息分别采用视差矢量内插法和运动补偿内插法。但是这种排列方式仅适用于多个视点分布在同一直线的情况下,当多个视点分布在非直线上时,采用这种帧排列的多视点分布式视频编码系统,视点间边信息质量较低,导致解码的视频帧质量比较低,急需一种适用于非直线分布的多视点帧排列方法。
本发明采用的技术方案是,一种基于压缩感知的多视点分布式视频编码系统,包括相互通信连接的编码器和解码器,其中编码器包括关键视点和非关键视点的编码。首先,视点间采用的是关键视点、关键视点、非关键视点如此的排列,在视点内部的帧排布是关键帧与非关键帧间隔排列。第二,根据解码端对视频质量、视频实时性的要求,将帧分为2类,一类是关键视点与非关键视点的关键帧,关键帧是根据压缩感知理论进行编码的,首先通过选择适当的稀疏基将N×N维原始信号变为N×N维多0的稀疏信号,再经过观测矩阵将N×N维信号降到N×M维,最后编码器将关键帧的稀疏信号与经过观测矩阵降维的信号发送到解码器部分;另一类是关键视点与非关键视点的非关键帧,非关键帧采用分布式视频编码方法对其进行编码:首先,将每一个非关键帧进行基于块的离散余弦变换并对变换系数做量化处理;接着对这些量化后的系数按照不同频段重新组织安排,即将每一个块中的相同的频率系数放在一起;然后将系数编码成相应的比特,并按照比特面排序后,送到信道编码器,根据信道编码器产生校验比特;最后,编码器部分将校验比特发送到解码部分。解码器部分分为两部分:第一部分,首先是第一个关键视点的关键帧经过压缩感知的重构算法对关键帧解码;第二,第二个关键视点的关键帧经过压缩感知的重构算法对关键帧解码;第三,根据已经解码的关键视点的关键帧,通过视差矢量外推法外推获得非关键视点中非关键帧的视点间边信息。第二部分,首先将非关键视点的关键帧通过压缩感知的重构算法解码,然后非关键帧通过相邻的已解码关键帧进行双向运动补偿内插法,内插得到非关键视点中非关键帧的时间边信息。前两部分解码后,通过线性融合算法进行时间边信息与视点间边信息的融合,得到最终的边信息。将边信息和原始非关键帧的差异看作是虚拟信道中的相关噪声,利用Laplacian模型能够很好地估计残差的分布;接下来采用和编码端相同的变换方法对边信息依次进行反量化,得到非关键帧变换系数的估值;利用虚拟噪声模型计算出信息比特送入信道解码器,信道解码器根据编码端传过来的校验比特对边信息进行校验;然后根据虚拟信道模型和边信息系数实现非关键帧重构,最后通过反离散余弦变换得到非关键帧,和已解码关键帧一起通过多路复用得到最终解码视频流。
下面结合附图对本发明作更详细的说明。
多视点分布式视频编码技术对视频帧独立编码、联合解码,在解码端去除视点间的空间冗余、相邻帧的时间冗余,从而将复杂度从编码端转移到解码端。与传统的视频编码标准相比,多视点分布式视频编码方案具有帧内编码(Intraframe Coding,即I帧)的编码复杂度,在理论上具有帧间编码(Interframe Coding,即P帧和B帧)的压缩效率。多视点分布式视频编码有很大的应用前景。首先,多视点编码系统相对于单视点视频编码系统,可以提供更多的视频场景信息。其次,分布式视频编码的编码端复杂度低,解决了编码端资源受限的问题,适用于无线视频监控系统、视频传感器网络等应用系统。第三,解码器的边信息生成由解码端决定,不受编码端的影响,具有很大的灵活性。且由于解码端对边信息的具体数值没有要求,可以有效防止预测失配带来的解码错误,可以防止错误传播。
压缩感知也称压缩采样,它的基本理论是:当信号具有稀疏性或者可压缩性的时候,可以通过线性投影,得到远小于奈奎斯特采样定理所要求的采样点,接收端通过凸优化或者迭代算法等高精度的重构出原始信号。因此,由于将采样和压缩过程同时进行,压缩感知很大程度上降低了信号的维数和编码的复杂度,而在解码端可以通过复杂的重构算法得到重建信号。这非常适合与分布式视频编码相结合。
基于压缩感知的多视点分布式视频编码中的帧排列方法不同,导致了非关键帧边信息生成方法的不同,从而影响了解码端的重构质量以及系统的时延,本发明中的帧排列方法,视点间边信息采用视差矢量外推法,既可以满足多个视点分布于同一直线下,又可以满足多个视点分布在非直线的情况下。视点内部边信息通过运动补偿内插法获得,使得边信息在前向、后向两个方向获得,提高视频帧的重构效果。
众所周知,视频信号无论在空域还是频域都表现出显著的稀疏性,为了充分利用视频信号内在的稀疏性,有效提高算法的性能,本发明将压缩感知与分布式视频编码相结合,提出了基于压缩感知的多视点分布式视频编码系统。本方法融合了压缩感知和分布式视频编码的优势,不仅降低了编码端的复杂度,同时还提高了压缩效率和重建视频质量。视差矢量外推法既可以满足多视点分布在同一条直线上,又可以满足多视点分布在非直线上,具有较高的多视点分布适应性。运动矢量内插法可以充分利用当前帧的前后两个方向的已解码帧重构其边信息,提高了视频帧解码的质量,为此提出了基于压缩感知的多视点分布式视频编码帧排列方法。本方法融合了视差矢量外推法和运动矢量内插法的优势,不仅适用于非直线多视点分布,还提高了视频帧的解码质量。
如图1所示,所述的基于压缩感知的多视点分布式视频编码系统,包括相互通信连接的编码器和解码器,其中编码器包括关键视点和非关键视点的编码。首先,视点间采用的是关键视点、关键视点、非关键视点如此的排列,在视点内部的帧排列是关键帧与非关键帧间隔排列。第二,根据解码端对视频质量、视频实时性的要求,将帧分为2类,一类是关键视点与非关键视点的关键帧,关键帧是根据压缩感知理论进行编码的,首先通过选择适当的稀疏基将N×N维原始信号变为N×N维多0的稀疏信号,再经过观测矩阵将N×N维信号降到N×M维,最后编码器将关键帧的稀疏信号与经过观测矩阵降维的信号发送到解码器部分;另一类是关键视点与非关键视点的非关键帧,非关键帧采用分布式视频编码方法对其进行编码:首先,将每一个非关键帧进行基于块的离散余弦变换并对变换系数做量化处理;接着对这些量化后的系数按照不同频段重新组织安排,即将每一个块中的相同的频率系数放在一起;然后将系数编码成相应的比特,并按照比特面排序后,送到信道编码器,根据信道编码器产生校验比特:
S=XHT
式中,X表示非关键帧,H为校验矩阵,S为X的校验比特,T为H校验矩阵的转置最后,编码器部分将校验比特发送到解码部分。
解码器部分分为两部分:第一部分,首先是第一个关键视点的关键帧经过压缩感知的重构算法对关键帧解码;第二,第二个关键视点的关键帧经过压缩感知的重构算法对关键帧解码;第三,根据已经解码的关键视点的关键帧,通过视差矢量外推法外推获得非关键视点中非关键帧的视点间边信息。第二部分,首先将非关键视点的关键帧通过压缩感知的重构算法解码,然后非关键帧通过相邻的已解码关键帧进行双向运动补偿内插法,内插得到非关键视点中非关键帧的时间边信息。前两部分解码后,通过线性融合算法进行时间边信息与视点间边信息的融合,得到最终的边信息。将边信息和原始非关键帧的差异看作是虚拟信道中的相关噪声,利用Laplacian模型能够很好地估计残差的分布,则有如下的公式成立:
X=SI+Y
其中,X表示的原始信号帧,SI是经过运动矢量内插法获得的边信息,Y是虚拟相关信道中的相关噪声。接下来采用反量化的变换方法对边信息SI和相关噪声Y进行变换,得到非关键帧变换系数的估值。然后解码端根据信道解码器解码出的码字实现非关键帧重构,最后通过反离散余弦变换得到非关键帧,和已解码关键帧一起通过多路复用得到最终解码视频流。
如图2所示,所述的基于压缩感知的多视点分布式视频编码的帧排列图中,横向表示时间,纵向表示视点。K代表关键帧,WZ代表非关键帧。其中,1号、2号视点为关键视点,3号视点为非关键视点,3号视点的边信息由已解码的1号和2号视点经过视差矢量外推法获得。视差矢量外推法是通过已经解码的前两个关键视点(如图2所示的1号、2号视点),根据视点间的几何关系及图像匹配出视差矢量MV,然后根据3个视点的几何关系,由前一视点外推得到当前视点的视点间边信息。定义I[n,t,x,y]表示第n个视点在t时刻所在帧中(x,y)位置处的像素值。则第n个视点的像素值可以描述为
I[n,t,x,y]=I[n-1,t,x+mvx,y+mvy],其中MV=(mvx,mvy)为视差矢量,mvx表示视差矢量MV的横向分量,mvy表示视差矢量MV的纵向分量,x表示横坐标,y表示纵坐标,n-1表示第n-1个视点
实验证明,如图2所示的1、2、3号视点的位置既可以分布在一条直线上,又可以分布在非直线上。在视点内部,K帧与WZ帧间隔分布,每个WZ帧的边信息由已解码的相邻两侧的K帧经过双向运动矢量内插法获得。双向运动矢量内插法是通过当前帧的前一已解码帧和后一已解码帧,通过这两帧的运动匹配,分别获得前向运动矢量和后向运动矢量,然后根据如下公式内插获得当前帧的时间边信息。
I [ c , x , y ] = 1 / 2 ( I [ c - 1 , x + m v f x , y + m v f y ] + I [ c + 1 , x - m v b x , y - m v b y ] )
其中,I[c,x,y]表示第c帧中(x,y)位置处的像素值;
Figure BDA0000411032510000062
分别表示前向运动矢量、后向运动矢量。
Figure BDA0000411032510000063
表示前向运动矢量MVf的横向分量,
Figure BDA0000411032510000064
表示前向运动矢量MVf的纵向分量;
Figure BDA0000411032510000065
表示后向运动矢量MVb的横向分量,
Figure BDA0000411032510000066
表示后向运动矢量MVb的纵向分量;x表示横坐标,y表示纵坐标。c-1表示第c-1帧,c+1表示第c+1帧
对于分布在中间位置的WZ帧,既有由视差矢量外推法获得的视点间边信息,又有由运动矢量内插法获得的时间边信息。将两种边信息进行有效的融合,可以有效的提高重构质量。对于本发明的基于压缩感知的多视点分布式视频编码的帧排列方法,解码顺序如下:对于视点之间的边信息解码,是先解码1号视点的第一帧(K帧),同时解码2号视点的第一帧(K帧),然后通过视差矢量外推法解码3号视点的第一帧(WZ帧)。依次按照这样的顺序,视点间解码,先解码关键帧,再由已解码的关键帧通过视差矢量外推法解码非关键帧。在视点内部(以1号视点为例),先由CS重构解码1号帧(K帧),再由CS重构解码3号帧(K帧),然后由已解码的2个K帧,经过运动补偿内插法获得2号帧(WZ)帧的边信息,从而重构出2号帧。然后由CS重构解码5号帧,并由3号帧与5号帧内插得到4号帧的边信息。以此类推其他的帧间解码。
如图3所示,所述的硬件结构整体框图是由以下几个部分组成的:若干摄像机,视频压缩模块,视频解压模块。摄像机、视频压缩模块、视频解压模块依次相连,n个数字摄像头通过复用32条数据线连接至视频压缩模块,视频压缩模块外接一个Flash或者SRAM来存取数据;视频压缩模块通过PCI总线连接至上位机。视频压缩模块由DSP构成,DSP模块主要实现多视点视频中关键帧的编码,具体的编码过程是:根据压缩感知理论通过选择字典学习方法获得稀疏矩阵,并经过稀疏基变换将N×N维原始信号变为N×N维0多非0少的的稀疏信号,再经过结构化的观测矩阵将N×N维信号降到N×M维;然后通过Flash或者SRAM存储视频信号和经过视频压缩模块获得的稀疏矩阵以及观测矩阵;视频解压模块,是通过PC机上的软件,实现视频序列的解码过程。具体的解码过程是:首先通过重构算法对关键帧解码,然后被解码的关键帧作为参考帧为相邻的非关键帧提供边信息。边信息和原始非关键帧的差异可以看作是虚拟信道中的相关噪声,利用Laplacian模型能够很好地估计残差的分布。接下来采用反量化对边信息进行变换,得到非关键帧变换系数的估值。并用虚拟噪声模型计算出信息比特送入信道解码器。再根据编码端传送的校验位辅助完成非关键帧解码。解码后通过给定的评价标准来衡量是否解码成功,即是否具有较低的误比特率。最后通过反离散余弦变换得到非关键帧,和已解码的关键帧一起通过多路复用得到最终解码视频流。

Claims (6)

1.一种基于压缩感知的多视点分布式视频编码及帧排列方法,其特征是,包括:编码器部分和解码器部分,其中编码器包括关键视点和非关键视点的编码步骤:首先,视点间采用的是关键视点、关键视点、非关键视点如此的排列,在视点内部的帧排列是关键帧与非关键帧间隔排列;第二,根据解码端对视频质量、视频实时性的要求,将帧分为2类,一类是关键视点与非关键视点的关键帧,关键帧是根据压缩感知理论进行编码的,首先通过选择适当的稀疏基将N×N维原始信号变为N×N维多0的稀疏信号,再经过观测矩阵将N×N维信号降到N×M维,最后编码器将关键帧的稀疏信号与经过观测矩阵降维的信号发送到解码器部分;另一类是关键视点与非关键视点的非关键帧,非关键帧采用分布式视频编码方法对其进行编码:首先,将每一个非关键帧进行基于块的离散余弦变换并对变换系数做量化处理;接着对这些量化后的系数按照不同频段重新组织安排,即将每一个块中的相同的频率系数放在一起;然后将系数编码成相应的比特,并按照比特面排序后,送到信道编码器,由信道编码器产生校验比特
S=XHT
式中,X表示非关键帧,H为校验矩阵,S为X的校验比特,T为H校验矩阵的转置,最后,编码器部分将校验比特发送到解码部分;
解码器部分分为两部分:第一部分,首先是第一个关键视点的关键帧经过压缩感知的重构算法对关键帧解码;第二,第二个关键视点的关键帧经过压缩感知的重构算法对关键帧解码;第三,根据已经解码的关键视点的关键帧,通过视差矢量外推法外推获得非关键视点中非关键帧的视点间边信息;第二部分,首先将非关键视点的关键帧通过压缩感知的重构算法解码,然后非关键帧通过相邻的已解码关键帧进行双向运动补偿内插法,内插得到非关键视点中非关键帧的时间边信息;前两部分解码后,通过线性融合算法进行时间边信息与视点间边信息的融合,得到最终的边信息;将边信息和原始非关键帧的差异看作是虚拟信道中的相关噪声,利用Laplacian模型能够很好地估计残差的分布;接下来采用和编码端相同的变换方法对边信息依次进行反量化,得到非关键帧变换系数的估值;利用虚拟噪声模型计算出信息比特送入信道解码器,信道解码器根据编码端传过来的校验比特对边信息进行校验;然后根据虚拟信道模型和边信息系数实现非关键帧重构,最后通过反离散余弦变换得到非关键帧,和已解码关键帧一起通过多路复用得到最终解码视频流。
2.如权利要求1所述的基于压缩感知的多视点分布式视频编码及帧排列方法,其特征是,压缩感知具体为:当信号具有稀疏性或者可压缩性的时候,通过线性投影,得到远小于奈奎斯特采样定理所要求的采样点,接收端通过凸优化或者迭代算法等高精度的重构出原始信号。
3.如权利要求1所述的基于压缩感知的多视点分布式视频编码及帧排列方法,其特征是,视差矢量外推法是,通过已经解码的前两个关键视点,根据视点间的几何关系及图像匹配出视差矢量MV,然后根据3个视点的几何关系,由前一视点外推得到当前视点的视点间边信息,定义I[n,t,x,y]表示第n个视点在t时刻所在帧中(x,y)位置处的像素值,则第n个视点的像素值可以描述为:
I[n,t,x,y]=I[n-1,t,x+mvx,y+mvy],其中MV=(mvx,mvy)为视差矢量,mvx表示视差矢量MV的横向分量,mvy表示视差矢量MV的纵向分量,x表示横坐标,y表示纵坐标,n-1表示第n-1个视点。
4.如权利要求1所述的基于压缩感知的多视点分布式视频编码及帧排列方法,其特征是,双向运动矢量内插法是,通过当前帧的前一已解码帧和后一已解码帧,通过这两帧的运动匹配,分别获得前向运动矢量和后向运动矢量,然后根据如下公式内插获得当前帧的时间边信息:
I [ c , x , y ] = 1 / 2 ( I [ c - 1 , x + m v f x , y + m v f y ] + I [ c + 1 , x - m v b x , y - m v b y ] )
其中,I[c,x,y]表示第c帧中(x,y)位置处的像素值;
Figure FDA0000411032500000022
Figure FDA0000411032500000023
分别表示前向运动矢量、后向运动矢量;
Figure FDA0000411032500000024
表示前向运动矢量MVf的横向分量,表示前向运动矢量MVf的纵向分量;
Figure FDA0000411032500000026
表示后向运动矢量MVb的横向分量,
Figure FDA0000411032500000027
表示后向运动矢量MVb的纵向分量;x表示横坐标,y表示纵坐标。
5.一种基于压缩感知的多视点分布式视频编码及帧排列装置,其特征是,由若干摄像机,视频压缩模块,视频解压模块构成,摄像机、视频压缩模块、视频解压模块依次相连,n个数字摄像头通过复用32条数据线连接至视频压缩模块,视频压缩模块外接一个Flash或者SRAM来存取数据;视频压缩模块通过PCI总线连接至上位机,视频压缩模块由DSP构成,视频解压模块设置在计算机内。
6.如权利要求5所述的基于压缩感知的多视点分布式视频编码及帧排列装置,其特征是,DSP模块进一步具体包括:根据压缩感知理论通过选择字典学习方法获得稀疏矩阵的模块,该模块经过稀疏基变换将N×N维原始信号变为N×N维0多非0少的的稀疏信号;降维模块,用于经过结构化的观测矩阵将N×N维信号降到N×M维;然后通过Flash或者SRAM存储视频信号和经过视频压缩模块获得的稀疏矩阵以及观测矩阵。
CN201310556404.4A 2013-11-08 2013-11-08 基于压缩感知多视点分布式视频编码及帧排列装置及方法 Expired - Fee Related CN103618907B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310556404.4A CN103618907B (zh) 2013-11-08 2013-11-08 基于压缩感知多视点分布式视频编码及帧排列装置及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310556404.4A CN103618907B (zh) 2013-11-08 2013-11-08 基于压缩感知多视点分布式视频编码及帧排列装置及方法

Publications (2)

Publication Number Publication Date
CN103618907A true CN103618907A (zh) 2014-03-05
CN103618907B CN103618907B (zh) 2017-01-04

Family

ID=50169611

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310556404.4A Expired - Fee Related CN103618907B (zh) 2013-11-08 2013-11-08 基于压缩感知多视点分布式视频编码及帧排列装置及方法

Country Status (1)

Country Link
CN (1) CN103618907B (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103886050A (zh) * 2014-03-12 2014-06-25 佛山科学技术学院 基于压缩感知的图像特征存储方法、图像检索方法和装置
CN103997654A (zh) * 2014-06-09 2014-08-20 天津大学 低时延的多视点分布式视频编码系统帧排列方式
CN104079945A (zh) * 2014-07-09 2014-10-01 天津大学 多视点分布式视频编码系统帧排列选择方法
CN104166714A (zh) * 2014-08-11 2014-11-26 广州市九重天信息科技有限公司 一种媒体数据处理方法及装置
CN104199627A (zh) * 2014-07-11 2014-12-10 上海交通大学 基于多尺度在线字典学习的可分级视频编码系统
CN105338357A (zh) * 2015-09-29 2016-02-17 湖北工业大学 一种分布式视频压缩感知编码技术方法
CN107071447A (zh) * 2017-04-06 2017-08-18 华南理工大学 一种dvc中基于二次边信息的相关噪声建模方法
CN107509074A (zh) * 2017-07-10 2017-12-22 上海大学 基于压缩感知的自适应3d视频编解码方法
CN108200440A (zh) * 2017-12-31 2018-06-22 南京邮电大学 一种基于时间相关性的分布式视频压缩感知重构方法
CN110392258A (zh) * 2019-07-09 2019-10-29 武汉大学 一种联合时空边信息的分布式多视点视频压缩采样重建方法
CN111046766A (zh) * 2019-12-02 2020-04-21 武汉烽火众智数字技术有限责任公司 一种行为识别方法、装置及计算机存储介质
US10785496B2 (en) 2015-12-23 2020-09-22 Sony Corporation Video encoding and decoding apparatus, system and method
CN111786679A (zh) * 2014-06-25 2020-10-16 美国思睿逻辑有限公司 用于压缩数字信号的系统和方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101901493A (zh) * 2010-06-21 2010-12-01 清华大学 基于压缩采样的多视点图像联合重构方法和系统
CN102223537A (zh) * 2011-06-10 2011-10-19 清华大学 基于压缩感知的多视角分布式视频编解码系统及其方法
CN102427527A (zh) * 2011-09-27 2012-04-25 西安电子科技大学 基于分布式视频压缩感知系统非关键帧的重构方法
CN102915562A (zh) * 2012-09-27 2013-02-06 天津大学 基于压缩感知多视角目标跟踪和3d目标重建系统及方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101901493A (zh) * 2010-06-21 2010-12-01 清华大学 基于压缩采样的多视点图像联合重构方法和系统
CN102223537A (zh) * 2011-06-10 2011-10-19 清华大学 基于压缩感知的多视角分布式视频编解码系统及其方法
CN102427527A (zh) * 2011-09-27 2012-04-25 西安电子科技大学 基于分布式视频压缩感知系统非关键帧的重构方法
CN102915562A (zh) * 2012-09-27 2013-02-06 天津大学 基于压缩感知多视角目标跟踪和3d目标重建系统及方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
武晓嘉: "一种多视点立体视频分布式压缩感知编解码模型", 《天津大学学报》, vol. 5, no. 10, 31 October 2012 (2012-10-31), pages 895 - 902 *

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103886050A (zh) * 2014-03-12 2014-06-25 佛山科学技术学院 基于压缩感知的图像特征存储方法、图像检索方法和装置
CN103997654A (zh) * 2014-06-09 2014-08-20 天津大学 低时延的多视点分布式视频编码系统帧排列方式
CN111786679B (zh) * 2014-06-25 2021-08-10 美国思睿逻辑有限公司 用于压缩数字信号的系统和方法
CN111786679A (zh) * 2014-06-25 2020-10-16 美国思睿逻辑有限公司 用于压缩数字信号的系统和方法
CN104079945A (zh) * 2014-07-09 2014-10-01 天津大学 多视点分布式视频编码系统帧排列选择方法
CN104199627B (zh) * 2014-07-11 2018-01-19 上海交通大学 基于多尺度在线字典学习的可分级视频编码系统
CN104199627A (zh) * 2014-07-11 2014-12-10 上海交通大学 基于多尺度在线字典学习的可分级视频编码系统
CN104166714A (zh) * 2014-08-11 2014-11-26 广州市九重天信息科技有限公司 一种媒体数据处理方法及装置
CN105338357A (zh) * 2015-09-29 2016-02-17 湖北工业大学 一种分布式视频压缩感知编码技术方法
CN105338357B (zh) * 2015-09-29 2018-08-24 湖北工业大学 一种分布式视频压缩感知编解码方法
US10785496B2 (en) 2015-12-23 2020-09-22 Sony Corporation Video encoding and decoding apparatus, system and method
CN107071447B (zh) * 2017-04-06 2020-06-19 华南理工大学 一种dvc中基于二次边信息的相关噪声建模方法
CN107071447A (zh) * 2017-04-06 2017-08-18 华南理工大学 一种dvc中基于二次边信息的相关噪声建模方法
CN107509074A (zh) * 2017-07-10 2017-12-22 上海大学 基于压缩感知的自适应3d视频编解码方法
CN108200440A (zh) * 2017-12-31 2018-06-22 南京邮电大学 一种基于时间相关性的分布式视频压缩感知重构方法
CN108200440B (zh) * 2017-12-31 2019-08-23 南京邮电大学 一种基于时间相关性的分布式视频压缩感知重构方法
CN110392258A (zh) * 2019-07-09 2019-10-29 武汉大学 一种联合时空边信息的分布式多视点视频压缩采样重建方法
CN110392258B (zh) * 2019-07-09 2021-03-16 武汉大学 一种联合时空边信息的分布式多视点视频压缩采样重建方法
CN111046766A (zh) * 2019-12-02 2020-04-21 武汉烽火众智数字技术有限责任公司 一种行为识别方法、装置及计算机存储介质

Also Published As

Publication number Publication date
CN103618907B (zh) 2017-01-04

Similar Documents

Publication Publication Date Title
CN103618907A (zh) 基于压缩感知多视点分布式视频编码及帧排列装置及方法
CN101980537B (zh) 一种基于对象和分形的双目立体视频压缩编解码方法
CN102291579B (zh) 一种快速的多目立体视频分形压缩与解压缩方法
CN103347188A (zh) 一种分布式视频编码非关键帧压缩感知编解码方法
CN102740081B (zh) 一种基于分布式编码技术的多视点视频传输差错控制方法
CN103002283A (zh) 多视角分布式视频压缩的边信息生成方法
CN103037218A (zh) 一种基于分形和h.264的多目立体视频压缩与解压缩方法
CN102223536B (zh) 基于压缩感知的分布式视频编解码系统及其方法
CN104333757A (zh) 基于cs测量值多描述的视频编解码方法
CN101980536B (zh) 一种基于对象和分形的多目立体视频压缩编解码方法
CN102857760B (zh) 一种无反馈的优化码率的分布式视频编解码方法及其系统
CN102595132A (zh) 一种应用于无线传感器网络的分布式视频编解码方法
CN101980539B (zh) 一种基于分形的多目立体视频压缩编解码方法
CN102223537B (zh) 基于压缩感知的多视角分布式视频编解码系统及其方法
CN105430406A (zh) 一种分布式视频编码框架
CN102572440B (zh) 一种基于深度图和分布式视频编码的多视点视频传输方法
CN108200440B (zh) 一种基于时间相关性的分布式视频压缩感知重构方法
Zhao et al. Compressive-sensed image coding via stripe-based DPCM
CN102263953B (zh) 一种基于对象的快速多目立体视频分形压缩与解压缩方法
CN102263954B (zh) 一种基于对象的快速分形视频压缩与解压缩方法
Priya et al. An Effectual Video Compression Scheme for WVSNs Based on Block Compressive Sensing
CN101986713B (zh) 基于视点合成的多视点容错编码框架
CN102223533B (zh) 一种信号编解码方法及装置
CN103647969A (zh) 一种基于对象的快速分形视频压缩与解压缩方法
CN102625124B (zh) 一种立体编码、解码装置及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170104

Termination date: 20201108

CF01 Termination of patent right due to non-payment of annual fee