CN103167284A - 一种基于画面超分辨率的视频流传输方法及系统 - Google Patents

一种基于画面超分辨率的视频流传输方法及系统 Download PDF

Info

Publication number
CN103167284A
CN103167284A CN2011104271846A CN201110427184A CN103167284A CN 103167284 A CN103167284 A CN 103167284A CN 2011104271846 A CN2011104271846 A CN 2011104271846A CN 201110427184 A CN201110427184 A CN 201110427184A CN 103167284 A CN103167284 A CN 103167284A
Authority
CN
China
Prior art keywords
resolution
video
dictionary
super
data matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2011104271846A
Other languages
English (en)
Other versions
CN103167284B (zh
Inventor
庞涛
钱锋
武娟
刘晓军
张志健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Telecom Corp Ltd
Original Assignee
China Telecom Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Telecom Corp Ltd filed Critical China Telecom Corp Ltd
Priority to CN201110427184.6A priority Critical patent/CN103167284B/zh
Publication of CN103167284A publication Critical patent/CN103167284A/zh
Application granted granted Critical
Publication of CN103167284B publication Critical patent/CN103167284B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明提出一种基于画面超分辨率的视频流传输方法及系统。服务器应用稀疏编码技术对同类型的多个高清视频进行学习训练,得到更小数据量的低分辨率视频和超完备字典数据并传送出去。降低了视频流传输对网络带宽的要求,减少了传输时间。

Description

一种基于画面超分辨率的视频流传输方法及系统
技术领域
本发明涉及数字图像及视频处理领域,尤其涉及一种基于画面超分辨率的视频流传输方法及系统。
背景技术
图像超分辨率研究的最初目的是为了克服低质量的成像传感器的限制,将低分辨率的图像转成高分辨率的图像。图像超分辨率关键是要解决由低分辨率到高分辨率的失真问题,即图像转换的不适定性问题。该技术广泛应用在图像压缩传输、视频监控、医学诊断等领域。
当前有三类图像超分辨率的算法:基于插值的方法、基于重构的方法和基于学习的方法。
打印机、播放器、图像处理软件,如:Photoshop、ACDSee,都是采用双线性三次插值的方法。但是随着放大的倍数增大,图像的整体结构性和清晰度就越差。
基于重构的方法也有以上的缺点。
基于学习的方法就是对大量的样本图像进行数据采集生成样本数据矩阵,然后对数据矩阵进行特征降维,即是以低维的数据矩阵表示高维的数据矩阵,这样就实现了图像的压缩。特征降维的方法有主成分分析法、局部线性镶嵌法、稀疏编码法等。从低分辨率到高分辨率的方法有马科夫随机域法、符号猜测法等。
发明内容
鉴于以上,本发明提出一种基于画面超分辨率的视频流传输方法及系统。
本发明提出一种基于画面超分辨率的视频流传输方法,包括以下步骤:
(1)在服务器端将所有的视频资源进行分类;
(2)以类为单位,得到同类型高分辨率视频转换的低分辨率视频;
(3)对高、低分辨率视频进行数据采样得到高维的数据矩阵X;
(4)将数据矩阵X分解为D*W,已知固定数据矩阵X,随机数据矩阵D,根据特征符号搜索算法得到稀疏系数W;
(5)将稀疏系数W以及固定数据矩阵X作为输入,根据共轭梯度算法得到输出参数D,将所述参数D代入到步骤(4),反复执行步骤(4)和步骤(5),直到满足X-DW=0,得到由稀疏表示的超完备字典,超完备字典建立高、低分辨率视频的联系,提供对高分辨率视频复原的数据;
(6)将超完备字典和所述低分辨率视频打包传送出去。
进一步,所述基于画面超分辨率的视频流传输方法,步骤(5)得到由稀疏表示的超完备字典,其中:
在数据矩阵中将高、低分辨率视频的特征数据矩阵进行列合并,高、低分辨率视频的特征值在特征数据矩阵中相互对应。
进一步,所述基于画面超分辨率的视频流传输方法,步骤(3)和步骤(4)之间,还包括以下步骤:对数据矩阵进行参数初始化,包括对噪声系数和字典维度的初始化。
进一步,所述基于画面超分辨率的视频流传输方法,步骤(6)之后,还包括以下步骤:
(7)客户端接收视频流数据包,获取超完备字典,所述超完备字典包括低分辨率字典和高分辨率字典;
(8)接收低分辨率视频流,对所传来的同类低分辨率视频流进行数据采样得到数据矩阵;
(9)选择分辨率;
(10)对数据矩阵X分解为D*W,已知固定数据矩阵X,随机产生字典D,根据特征符号搜索算法,得到最优的稀疏表示系数W;
(11)根据共轭梯度算法,已知固定数据矩阵X,输入最优的稀疏表示系数,得到输出参数D,将输出参数D代入步骤(10),反复执行步骤(10)步骤(11),直到满足条件X-DW=0,得到最优的稀疏系数表示和超完备字典D;
(12)已知D为(Rh+Rl)*C维,取一部分Rh*C维得到高分辨率字典Dh,将稀疏表示系数与高分辨率字典相乘得到对应的高分辨率图像块,将高分辨率图像块按对应位置叠加得到最初的高分辨率视频。
进一步,所述基于画面超分辨率的视频流传输方法,步骤(7)中,客户端接收视频流数据包,包括以下步骤:
检测是否已经下载过同类视频的超完备字典,如果已下载,则无需再次下载,否则需要下载。
进一步,所述基于画面超分辨率的视频流传输方法,步骤(9)选择分辨率,包括以下步骤:
分辨率的选择分为自动和手动,自动是指自动匹配显卡和屏幕选择最佳分辨率。
进一步,所述基于画面超分辨率的视频流传输方法,步骤(12)得到最初的高分辨率视频,还包括以下步骤:
基于重构的方法将其优化,即经过尺度变换和高斯模糊,通过多次的迭代算法得到最初的结果平滑化。
本发明提出一种基于画面超分辨率的传输视频流的服务器,包括:
分类转换单元,将所有的视频资源进行分类的单元,以类为单位,得到同类型高分辨率视频转换的低分辨率视频;
采样单元,对高、低分辨率视频进行数据采样得到高维数据矩阵;
字典生成单元,将数据矩阵X分解为D*W,已知固定数据矩阵X、随机数据矩阵D,根据特征符号搜索算法得到稀疏系数W;将稀疏系数W以及固定数据矩阵X作为输入,根据共轭梯度算法得到输出参数D,反复执行特征符号搜索算法以及共轭梯度算法,直到满足X-DW=0,得到由稀疏系数表示的超完备字典,所述超完备字典建立高、低分辨率视频的联系,提供对高分辨率视频复原的数据;
传输单元,将超完备字典和所述低分辨率视频打包传送出去。
本发明提出一种基于画面超分辨率的接收视频流的客户端,包括:
接收单元,接收视频流数据包,获取超完备字典的单元,所述超完备字典包括低分辨率字典和高分辨率字典,提供对高分辨率视频复原的数据;接收低分辨率视频流;
数据矩阵单元,对所传来的同类低分辨率视频流进行数据采样得到数据矩阵;
分辨率单元,选择分辨率;
字典形成单元,对数据矩阵X分解为D*W,已知固定数据矩阵X,随机产生字典D,根据特征符号搜索算法,得到最优的稀疏表示系数W;根据共轭梯度算法,已知固定数据矩阵X,输入最优的稀疏表示系数,得到输出参数D,反复执行特征符号搜索算法以及共轭梯度算法,直到满足X-DW=0,得到最优的稀疏系数表示和超完备字典D;
视频形成单元,已知D为(Rh+Rl)*C维,取一部分Rh*C维得到高分辨率字典Dh,将稀疏系数与高分辨率字典相乘得到对应的高分辨率图像块,将高分辨率图像块按对应位置叠加得到最初的高分辨率视频。
本发明提出一种基于画面超分辨率的传输以及接收视频流的装置,包括上述所述服务器以及所述客户端。
本发明是在基于插值和重构的方法基础上采用了稀疏编码的方法和符号猜测法实现了视频图像的压缩和超分辨率。将高清的、数据量大的视频进行压缩传输,减少了网络的传输时间。其适配形式仅在客户端根据用户的选择,将视频图像有效地复原为高清图像。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本发明的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是示出本发明一种基于画面超分辨率的视频压缩流生成方法。
图2是示出本发明一种基于画面超分辨率的视频流适配方法。
图3为本发明实施例的系统架构示意图,包括服务器、网络环境以及客户端。
具体实施方式
视频编解码技术有两大标准机构,国际电信联盟(ITU)致力于电信应用的H.26X标准,国际标准组织(ISO)针对运动图像压缩定义了MPEG标准。还有许多其他的编码方式如RV10和WMV9等。
当前的流式传输过程是:原始视频通过编解码技术进行压缩,通过适合的传输协议,以数据包的形式传给客户端,在客户端进行播放。流传输致力于高压缩及高保真。但是目前的技术仅对单一视频的每一帧(或该帧的前后顺序几帧范围)进行编码解码。针对单一的一些宏观上的压缩效率不足。
本发明提出了在原始的单一视频进行标准编码后,再对如动画片、连续剧、动作片等同类的多个视频进行稀疏编码。通过当前的流传输技术再次编码压缩传输,这样就进一步对同类的高清的、数据量大的视频进行了压缩传输,效率上更高。简单地可以认为是二次压缩。
下面参照附图对本发明进行更全面的描述,其中说明本发明的示例性实施例。
图1是示出本发明一种基于画面超分辨率的视频压缩流生成方法。
在步骤101、在服务器端,将所有的视频资源以动画片、动作片、文艺片、连续剧等分类。
在步骤102、以类为单位,得到同类型的高分辨率视频转换的低分辨率视频。
高清视频的画面图像都是高分辨率的,在本发明一个实施例中,可以将同类型的高分辨率视频通过双线性三次插值的方法(现有算法),对其下采样得到低分辨率的视频,缩放系数可以为4或者更大。因为这种方法广泛应用于打印机和图像处理软件中,而且对于下采样操作,不会出现边缘和细节严重丢失的情况,在考虑速度和效果情况下是最佳的选择。这个过程的目的是为了将低分辨率和高分辨率视频通过稀疏编码建立联系。
在步骤103、对高、低分辨率两类视频进行数据采样得到高维的数据矩阵。
分别对高、低分辨率图像进行像素的4个方向梯度的特征提取,采用随机提取的方式。对于高分辨率图像,对每一张图像提取一定大小的图像库,本实施例采用5*5为例,减去其像素平均值,再转成25维的列向量归并入特征数据矩阵。对于低分辨率图像,对每一张图像进行4次滤波,得到不同方向的4种梯度特征,也是提取5*5大小的图像块,再将其转换成100维的列向量归并入特征数据矩阵。在数据矩阵中将高、低分辨率特征矩阵进行了列合并,高、低分辨率画面图像的特征值在特征数据矩阵中是相互对应的,这样才能够将其二者建立对应联系。
在该步骤之后,还可以对数据矩阵进行参数初始化,为特征降维操作做准备,包括对噪声系数lambda和字典D的维度K的初始化,字典D(矩阵)通常为随机高斯矩阵。改变lambda和K值会影响超分辨率的效果和所需的时间。对于稀疏编码算法,如果输入的噪声系数lambda越大,其超分辨率的抗噪声能力就越差,得到的图像效果越差。另外,对于维度K,K越大,效果越好,计算时间越长。权衡效果与计算时间,取适中值。例如设定默认参数,Lambda=0.1,K=1024。
在步骤104、将数据矩阵X分解为D*W。已知固定数据矩阵X,随机数据矩阵D(第二次迭代开始使用步骤105输出的D),根据特征符号搜索算法得到稀疏系数W。
在步骤105、输入参数,已知固定数据矩阵X,步骤104得到的稀疏系数W,根据共轭梯度算法得到输出参数D。将D代入到步骤104,循环执行步骤104~步骤105,直到满足条件X-DW=0。D是随机的,需要通过迭代来取得最优值。根据步骤104~步骤105对数据矩阵进行稀疏编码(特征降维),得到由稀疏系数表示的超完备字典D。
超完备字典建立了高、低分辨率视频的联系,用于提供对高分辨率视频进行复原的数据。将超完备字典D存储于服务器中,供客户端下载。其中,得到由稀疏表示的超完备字典是由统一稀疏表示的超完备字典。统一稀疏表示是指可以通过同一个索引找到低分辨率图像的表示数据,也可以找到高分辨率图像的表示数据,以方便超分辨率操作。
稀疏编码的目的在于将图像特征数据矩阵进行分解,其约束条件是尽可能地令稀疏系数的L1-norm最小。稀疏编码需要求解两个凸优化的问题,分别采用特征符号搜索算法和共轭梯度迭代算法求解。
特征符号搜索算法的核心部分是对稀疏系数符号的猜测及符号的更新。通过求解各个方向的导数,选择导数绝对值最大的一个点,以稀疏参数来确定其猜测的符号。然后就可以化解方程式,利用方向导数为零求解最优解。将最优解的符号与先前猜测的符号进行比较,如相同,则进行下一步猜测,如相异,则进行更新。结束跳出两层循环的条件分别是:所有非零系数的导数的绝对值不能必须为零,所有零系数的导数的绝对值必须小于稀疏参数。经过多次的循环,可以得到在字典D固定条件下的最优稀疏系数。
共轭梯度迭代算法的核心部分是在稀疏系数固定的条件下,求解拉格朗日方程组,得到最优的字典。通过求原有的目标函数的一阶导数和二阶导数,再由三个函数组成梯度方程组。在线性约束的条件下求解最优解,利用最优解可以得最优的字典。
特征符号搜索算法和共轭梯度迭代算法是互为前提,相互利用的,整体的算法是迭代的,经过多次迭代可以得到最优的稀疏系数和字典。
在步骤106、将超完备字典D和高清视频下采样后的低分辨率视频打包,将视频流数据包通过现有的流传输技术传送出去。
本发明中,视频流传输的数据是超完备字典和低分辨率视频的流数据。这样就减少了在网络传输的数据量,降低了对网络环境的要求。在网络环境一定的情况下,减少了传输所需的时间。
图2是示出本发明一种基于画面超分辨率的视频流适配方法。即将视频流传送到客户端之后,客户端执行画面超分辨率,在客户端利用特征符号法(稀疏编码算法的其中一部分)将低分辨率视频复原为高清视频,术语上称为超分辨率。视频流适配包括以下步骤:
在步骤201、接收视频流数据包,获取超完备字典,所述超完备字典包括低分辨率字典Dl和高分辨率字典Dh。
在该步骤中,还可以检测是否已经下载过同类视频的超完备字典,如果已下载,则无需再次下载,否则需要下载。在每个视频流(文件)中都需要有信息字段(文件名或校验值)标识出对应的超完备字典D,如果在磁盘或缓存中没有找到该文件,则认为对应的D没有找到。超完备字典D是由服务器对同类的多个视频进行训练得到的,对所有的同类低分辨率视频都适用。
在步骤202、接收低分辨率视频流数据。
超完备字典的大小与低分辨率视频流数据大小之和,比原始的高清视频流数据要小的多,所以对网络环境的要求不高,一般带宽都可以迅速地下载此数据包。本发明主要克服了网络的传输问题。
在步骤203、对所传来同类的低分辨率视频流进行数据采样得到数据矩阵。
画面超分辨率和学习训练的特征值提取操作有些许不同。本例与图像特征提取模块的数据对应加以说明。此模块是从左到右、从上到下顺序地提取图像块。低分辨率图像也是要通过一次双线性三次插值,转换成中等分辨率的图像,对其经过4个滤波器滤波,然后顺序提取5*5的图像块,随后组成100维的列向量归并入特征矩阵。
在步骤204、选择分辨率。
分辨率的选择分为自动和手动。自动就是由算法根据系统自动匹配显卡和屏幕,选择最佳分辨率。手动就是因用户缩放,从而调整了在屏幕显示的分辨率,则选定用户设定的分辨率。选定分辨率,就可以确定要得到的高分辨率图像的大小,确定缩放的系数,根据系数就可以确定接下来的超分辨率操作。
在步骤205、对数据矩阵X分解为D*W,已知固定数据矩阵X,随机产生D(开始时是随机的,或者取高斯矩阵),根据特征符号搜索算法,得到最优的稀疏表示系数W。
Xh表示高分辨率图像的数据矩阵,Xl表示低分辨率图像的数据矩阵,那么X表示Xh与Xl按列串联(合并)。Dh表示高分辨率字典,Dl表示低分辨率字典,D是Dh和Dl按列串联(合并)。合并的方式以公式表达为:矩阵Rh*C维并矩阵Rl*C维为(Rh+Rl)*C维。W也是一样。分式:(1)Xh-Dh*Wh=0,(2)Xl-Dl*Wl=0,合并:X-D*W=0。
在步骤206、根据共轭梯度算法,已知固定数据矩阵X,输入步骤205中求解的最优的稀疏表示系数W,得到输出参数D。将输出参数D代入步骤205,反复执行步骤205~步骤206,直到满足条件X-DW=0,此时认为D和W均是最优解。
在步骤207、已知D为(Rh+Rl)*C维,取一部分Rh*C维就是Dh,Rl*C维是Dl。将稀疏表示系数与Dh相乘得到对应的高分辨率图像块,将高分辨率图像块按对应位置叠加起来得到最初的高分辨率图像。通过稀疏编码得到的高清图像比双线性三次插值得到的图像效果更好。
在由当前的视频流技术将接收到的低分辨率画面流数据包解码得到低分辨率图像后,再对低分辨率图像进行画面超分辨率操作。此过程与学习训练操作相似。主要区别就是,学习训练操作的字典D初始化是随机高斯矩阵,而超分辨率操作的字典D初始化就是从服务器获得的D,包括Dh和Dl。
最初结果通常是带有一些噪声的,这时还需要用到基于重构的方法将其优化,也就是经过尺度变换和高斯模糊,通过多次的迭代算法是最初的结果平滑化,从而得到最终结果。
图3为本发明实施例的总体架构示意图,包括服务器、网络环境以及客户端。
服务器用于学习训练高清视频画面图像库及存储训练结果,即超完备字典,向客户端提供超完备字典D和低分辨率的视频数据压缩包。服务器自动通过稀疏编码的方式对所有的画面图像进行特征提取(即数据采样)和特征降维(数据分析),稀疏编码可以采用树形稀疏编码方式,分析联合的特征值。提取的特征是像素的4个方向梯度,得到超完备字典(Dictionary,D),包含高分辨率字典Dh和低分辨率字典Dl。此字典适用于同类的所有的视频。采用的算法是稀疏编码。训练过程可以是同类的多个视频一起训练,也可以是单一视频的训练。
服务器包括如下单元:
分类转换单元,将所有的视频资源进行分类的单元,以类为单位,得到同类型高分辨率视频转换的低分辨率视频;
采样单元,对高、低分辨率视频进行数据采样得到高维数据矩阵;
字典生成单元,将数据矩阵X分解为D*W,已知固定数据矩阵X、随机数据矩阵D,根据特征符号搜索算法得到稀疏系数W;将稀疏系数W以及固定数据矩阵X作为输入,根据共轭梯度算法得到输出参数D,反复执行特征符号搜索算法以及共轭梯度算法,直到满足X-DW=0,得到由稀疏系数表示的超完备字典,所述超完备字典建立高、低分辨率视频的联系,提供对高分辨率视频复原的数据;
传输单元,将超完备字典和所述低分辨率视频打包传送出去。
网络环境,在此系统下无需高速的网络速度。
客户端下载服务器提供的超完备字典D后,对所传来的低分辨率视频流画面进行画面超分辨率,就可以观看高清的视频。此过程对低分辨率画面进行同样的特征提取过程,通过特征符号法找到其在超完备字典中的表示(数据),通过这些数据恢复为高分辨率的画面。减少了视频流网络传输的时间。
客户端包括如下单元:
接收单元,接收视频流数据包,获取超完备字典的单元,所述超完备字典包括低分辨率字典和高分辨率字典,提供对高分辨率视频复原的数据;接收低分辨率视频流;
数据矩阵单元,对所传来的同类低分辨率视频流进行数据采样得到数据矩阵;
分辨率单元,选择分辨率;
字典形成单元,对数据矩阵X分解为D*W,已知固定数据矩阵X,随机产生字典D,根据特征符号搜索算法,得到最优的稀疏表示系数W;根据共轭梯度算法,已知固定数据矩阵X,输入最优的稀疏表示系数,得到输出参数D,反复执行特征符号搜索算法以及共轭梯度算法,直到满足X-DW=0,得到最优的稀疏系数表示和超完备字典D;
视频形成单元,已知D为(Rh+Rl)*C维,取一部分Rh*C维得到高分辨率字典Dh,将稀疏系数与高分辨率字典相乘得到对应的高分辨率图像块,将高分辨率图像块按对应位置叠加得到最初的高分辨率视频。
本发明对同类的多个高清视频流压缩传输以及进行画面超分辨率操作,提高了视频的压缩传输效率,降低了高清视频流对网络带宽的要求,减少了网络传输时间。
本发明的描述是为了示例和描述起见而给出的,而并不是无遗漏的或者将本发明限于所公开的形式。很多修改和变化对于本领域的普通技术人员而言是显然的。选择和描述实施例是为了更好说明本发明的原理和实际应用,并且使本领域的普通技术人员能够理解本发明从而设计适于特定用途的带有各种修改的各种实施例。

Claims (10)

1.一种基于画面超分辨率的视频流传输方法,包括以下步骤:
(1)在服务器端将所有的视频资源进行分类;
(2)以类为单位,得到同类型高分辨率视频转换的低分辨率视频;
(3)对高、低分辨率视频进行数据采样得到高维的数据矩阵X;
(4)将数据矩阵X分解为D*W,已知固定数据矩阵X,随机数据矩阵D,根据特征符号搜索算法得到稀疏系数W;
(5)将稀疏系数W以及固定数据矩阵X作为输入,根据共轭梯度算法得到输出参数D,将所述参数D代入到步骤(4),反复执行步骤(4)和步骤(5),直到满足X-DW=0,得到由稀疏表示的超完备字典,超完备字典建立高、低分辨率视频的联系,提供对高分辨率视频复原的数据;
(6)将超完备字典和所述低分辨率视频打包传送出去。
2.根据权利要求1所述基于画面超分辨率的视频流传输方法,步骤(5)得到由稀疏表示的超完备字典,其中:
在数据矩阵中将高、低分辨率视频的特征数据矩阵进行列合并,高、低分辨率视频的特征值在特征数据矩阵中相互对应。
3.根据权利要求1或2所述基于画面超分辨率的视频流传输方法,步骤(3)和步骤(4)之间,还包括以下步骤:对数据矩阵进行参数初始化,包括对噪声系数和字典维度的初始化。
4.根据权利要求1或2或3所述基于画面超分辨率的视频流传输方法,步骤(6)之后,还包括以下步骤:
(7)客户端接收视频流数据包,获取超完备字典,所述超完备字典包括低分辨率字典和高分辨率字典;
(8)接收低分辨率视频流,对所传来的同类低分辨率视频流进行数据采样得到数据矩阵;
(9)选择分辨率;
(10)对数据矩阵X分解为D*W,已知固定数据矩阵X,随机产生字典D,根据特征符号搜索算法,得到最优的稀疏表示系数W;
(11)根据共轭梯度算法,已知固定数据矩阵X,输入最优的稀疏表示系数,得到输出参数D,将输出参数D代入步骤(10),反复执行步骤(10)步骤(11),直到满足条件X-DW=0,得到最优的稀疏系数表示和超完备字典D;
(12)已知D为(Rh+Rl)*C维,取一部分Rh*C维得到高分辨率字典Dh,将稀疏表示系数与高分辨率字典相乘得到对应的高分辨率图像块,将高分辨率图像块按对应位置叠加得到最初的高分辨率视频。
5.根据权利要求4所述基于画面超分辨率的视频流传输方法,步骤(7)中,客户端接收视频流数据包,包括以下步骤:
检测是否已经下载过同类视频的超完备字典,如果已下载,则无需再次下载,否则需要下载。
6.根据权利要求4或5所述基于画面超分辨率的视频流传输方法,步骤(9)选择分辨率,包括以下步骤:
分辨率的选择分为自动和手动,自动是指自动匹配显卡和屏幕选择最佳分辨率。
7.根据权利要求4或5所述基于画面超分辨率的视频流传输方法,步骤(12)得到最初的高分辨率视频,还包括以下步骤:
基于重构的方法将其优化,即经过尺度变换和高斯模糊,通过多次的迭代算法得到最初的结果平滑化。
8.一种基于画面超分辨率的传输视频流的服务器,包括:
分类转换单元,将所有的视频资源进行分类的单元,以类为单位,得到同类型高分辨率视频转换的低分辨率视频;
采样单元,对高、低分辨率视频进行数据采样得到高维数据矩阵;
字典生成单元,将数据矩阵X分解为D*W,已知固定数据矩阵X、随机数据矩阵D,根据特征符号搜索算法得到稀疏系数W;将稀疏系数W以及固定数据矩阵X作为输入,根据共轭梯度算法得到输出参数D,反复执行特征符号搜索算法以及共轭梯度算法,直到满足X-DW=0,得到由稀疏系数表示的超完备字典,所述超完备字典建立高、低分辨率视频的联系,提供对高分辨率视频复原的数据;
传输单元,将超完备字典和所述低分辨率视频打包传送出去。
9.一种基于画面超分辨率的接收视频流的客户端,包括:
接收单元,接收视频流数据包,获取超完备字典的单元,所述超完备字典包括低分辨率字典和高分辨率字典,提供对高分辨率视频复原的数据;接收低分辨率视频流;
数据矩阵单元,对所传来的同类低分辨率视频流进行数据采样得到数据矩阵;
分辨率单元,选择分辨率;
字典形成单元,对数据矩阵X分解为D*W,已知固定数据矩阵X,随机产生字典D,根据特征符号搜索算法,得到最优的稀疏表示系数W;根据共轭梯度算法,已知固定数据矩阵X,输入最优的稀疏表示系数,得到输出参数D,反复执行特征符号搜索算法以及共轭梯度算法,直到满足X-DW=0,得到最优的稀疏系数表示和超完备字典D;
视频形成单元,已知D为(Rh+Rl)*C维,取一部分Rh*C维得到高分辨率字典Dh,将稀疏系数与高分辨率字典相乘得到对应的高分辨率图像块,将高分辨率图像块按对应位置叠加得到最初的高分辨率视频。
10.一种基于画面超分辨率的传输以及接收视频流的装置,包括权利要求8所述服务器以及权利要求9所述客户端。
CN201110427184.6A 2011-12-19 2011-12-19 一种基于画面超分辨率的视频流传输方法及系统 Active CN103167284B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201110427184.6A CN103167284B (zh) 2011-12-19 2011-12-19 一种基于画面超分辨率的视频流传输方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201110427184.6A CN103167284B (zh) 2011-12-19 2011-12-19 一种基于画面超分辨率的视频流传输方法及系统

Publications (2)

Publication Number Publication Date
CN103167284A true CN103167284A (zh) 2013-06-19
CN103167284B CN103167284B (zh) 2017-08-11

Family

ID=48589993

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201110427184.6A Active CN103167284B (zh) 2011-12-19 2011-12-19 一种基于画面超分辨率的视频流传输方法及系统

Country Status (1)

Country Link
CN (1) CN103167284B (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103559718A (zh) * 2013-11-19 2014-02-05 福建师范大学 基于稀疏表示的过完备字典训练的视频篡改检测方法
CN104113789A (zh) * 2014-07-10 2014-10-22 杭州电子科技大学 一种基于深度学习的视频摘要在线生成方法
CN104361557A (zh) * 2014-10-17 2015-02-18 中山大学 一种基于稀疏编码的快速视频放大方法及系统
CN105205782A (zh) * 2015-09-06 2015-12-30 京东方科技集团股份有限公司 超解像方法和系统、服务器、用户设备及其方法
WO2019001108A1 (zh) * 2017-06-30 2019-01-03 华为技术有限公司 视频处理的方法和装置
CN109891906A (zh) * 2016-04-08 2019-06-14 维斯比特股份有限公司 视图感知360度视频流化
CN109996116A (zh) * 2019-03-27 2019-07-09 深圳创维-Rgb电子有限公司 提升视频分辨率的方法、终端及可读存储介质
CN110754093A (zh) * 2018-05-21 2020-02-04 Gdf实验室株式会社 基于人工智能影像学习平台的视频点播服务系统
CN112188237A (zh) * 2019-07-04 2021-01-05 国家广播电视总局广播电视科学研究院 节目分发方法和装置、接收方法、终端设备及介质
CN112702558A (zh) * 2020-12-23 2021-04-23 联想(北京)有限公司 一种数据处理方法及装置
WO2022111631A1 (zh) * 2020-11-30 2022-06-02 华为技术有限公司 视频传输方法、服务器、终端和视频传输系统
CN114710671A (zh) * 2022-06-06 2022-07-05 天津市普迅电力信息技术有限公司 基于多通讯方式的分布式能源安全智能终端

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102156875A (zh) * 2011-03-25 2011-08-17 西安电子科技大学 基于多任务ksvd字典学习的图像超分辨率重构方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102156875A (zh) * 2011-03-25 2011-08-17 西安电子科技大学 基于多任务ksvd字典学习的图像超分辨率重构方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
JIANCHAO YANG, ET AL.,: "Image super-resolution via sparse representation", 《IEEE TRANSACTIONS ON IMAGE PROCESSING》, vol. 19, no. 11, 18 May 2010 (2010-05-18) *
WEISHENG DONG,ET AL.,: "Image deblurring and super-resolution by adaptive sparse domain selection and adaptive regularization", 《IEEE TRANSACTIONS ON IMAGE PROCESSING》, vol. 20, no. 7, 31 July 2011 (2011-07-31), XP011411837, DOI: doi:10.1109/TIP.2011.2108306 *
李民,程建等: "稀疏字典编码的超分辨率重建", 《软件学报》, 26 May 2011 (2011-05-26) *
浦剑,张军平: "基于词典学习和稀疏表示的超分辨率方法", 《模式识别与人工智能》, vol. 23, no. 3, 30 June 2010 (2010-06-30) *

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103559718A (zh) * 2013-11-19 2014-02-05 福建师范大学 基于稀疏表示的过完备字典训练的视频篡改检测方法
CN103559718B (zh) * 2013-11-19 2016-08-17 福建师范大学 基于稀疏表示的过完备字典训练的视频篡改检测方法
CN104113789B (zh) * 2014-07-10 2017-04-12 杭州电子科技大学 一种基于深度学习的视频摘要在线生成方法
CN104113789A (zh) * 2014-07-10 2014-10-22 杭州电子科技大学 一种基于深度学习的视频摘要在线生成方法
CN104361557A (zh) * 2014-10-17 2015-02-18 中山大学 一种基于稀疏编码的快速视频放大方法及系统
US10565684B2 (en) 2015-09-06 2020-02-18 Boe Technology Group Co., Ltd. Super-resolution method and system, server, user device and method therefor
WO2017036092A1 (zh) * 2015-09-06 2017-03-09 京东方科技集团股份有限公司 超解像方法和系统、服务器、用户设备及其方法
CN105205782B (zh) * 2015-09-06 2019-08-16 京东方科技集团股份有限公司 超解像方法和系统、服务器、用户设备及其方法
CN105205782A (zh) * 2015-09-06 2015-12-30 京东方科技集团股份有限公司 超解像方法和系统、服务器、用户设备及其方法
CN109891906A (zh) * 2016-04-08 2019-06-14 维斯比特股份有限公司 视图感知360度视频流化
WO2019001108A1 (zh) * 2017-06-30 2019-01-03 华为技术有限公司 视频处理的方法和装置
CN110754093A (zh) * 2018-05-21 2020-02-04 Gdf实验室株式会社 基于人工智能影像学习平台的视频点播服务系统
CN109996116A (zh) * 2019-03-27 2019-07-09 深圳创维-Rgb电子有限公司 提升视频分辨率的方法、终端及可读存储介质
CN112188237A (zh) * 2019-07-04 2021-01-05 国家广播电视总局广播电视科学研究院 节目分发方法和装置、接收方法、终端设备及介质
WO2022111631A1 (zh) * 2020-11-30 2022-06-02 华为技术有限公司 视频传输方法、服务器、终端和视频传输系统
CN112702558A (zh) * 2020-12-23 2021-04-23 联想(北京)有限公司 一种数据处理方法及装置
CN114710671A (zh) * 2022-06-06 2022-07-05 天津市普迅电力信息技术有限公司 基于多通讯方式的分布式能源安全智能终端
CN114710671B (zh) * 2022-06-06 2022-08-26 天津市普迅电力信息技术有限公司 基于多通讯方式的分布式能源安全智能终端

Also Published As

Publication number Publication date
CN103167284B (zh) 2017-08-11

Similar Documents

Publication Publication Date Title
CN103167284A (zh) 一种基于画面超分辨率的视频流传输方法及系统
US11234006B2 (en) Training end-to-end video processes
US10701394B1 (en) Real-time video super-resolution with spatio-temporal networks and motion compensation
US10523955B2 (en) Enhancement of visual data
CN107155110A (zh) 一种基于超分辨率技术的图片压缩方法
US10334256B2 (en) Video compression method
WO2022111631A1 (zh) 视频传输方法、服务器、终端和视频传输系统
CN110062232A (zh) 一种基于超分辨率的视频压缩方法及系统
KR20210018668A (ko) 딥러닝 신경 네트워크를 사용하여 다운샘플링을 수행하는 이미지 처리 시스템 및 방법, 영상 스트리밍 서버 시스템
GB2548749A (en) Online training of hierarchical algorithms
CN114926336A (zh) 视频超分辨率重建方法、装置、计算机设备及存储介质
CN116547969A (zh) 基于机器学习的图像译码中色度子采样格式的处理方法
CN113747242A (zh) 图像处理方法、装置、电子设备及存储介质
CN116193161A (zh) 一种视频插帧方法、装置和存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant