CN102665060A - 从交错式格式视频到渐进式格式视频的转换方法 - Google Patents

从交错式格式视频到渐进式格式视频的转换方法 Download PDF

Info

Publication number
CN102665060A
CN102665060A CN2012101251309A CN201210125130A CN102665060A CN 102665060 A CN102665060 A CN 102665060A CN 2012101251309 A CN2012101251309 A CN 2012101251309A CN 201210125130 A CN201210125130 A CN 201210125130A CN 102665060 A CN102665060 A CN 102665060A
Authority
CN
China
Prior art keywords
video
sets
renewal
video frames
condition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2012101251309A
Other languages
English (en)
Other versions
CN102665060B (zh
Inventor
胡增
汪张扬
张冬
李厚强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Science and Technology of China USTC
Original Assignee
University of Science and Technology of China USTC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Science and Technology of China USTC filed Critical University of Science and Technology of China USTC
Priority to CN 201210125130 priority Critical patent/CN102665060B/zh
Publication of CN102665060A publication Critical patent/CN102665060A/zh
Application granted granted Critical
Publication of CN102665060B publication Critical patent/CN102665060B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Systems (AREA)

Abstract

本发明涉及一种从交错式格式视频到渐进式格式视频的转换方法和装置。该方法包括:输入交错式视频图像的多个场,将每个所述场扩展到帧的尺寸,置所述帧中的未知像素为0,将得到的所有帧组成一个空间和时间上的三维矩阵;将所述三维矩阵作为初始的更新视频帧集合,判断所述初始的更新视频帧集合是否满足设定的条件,当所述判断结果为是时,对所述初始的更新视频帧集合进行重组处理得到渐进式格式视频;当所述判断结果为否,对所述初始的更新视频帧集合进行更新处理得到更新后的更新视频帧集合,并判断所述更新后的更新视频帧集合是否满足所述条件。本发明实施例不仅仅利用当前场中已知的像素,同时也利用相邻场的已知像素。由于相邻场的已知像素是当前场中待恢复像素在时间上的近邻,所以有效地利用相邻场的已知像素信息会明显提高视频去交错处理的质量。

Description

从交错式格式视频到渐进式格式视频的转换方法
技术领域
本发明涉及视频处理技术领域,尤其涉及一种从交错式格式视频到渐进式格式视频的转换方法。
背景技术
去交错是将交错式(即隔行扫描)视频转换为渐进式(即逐行扫描)视频的一种方法。
一个动态影像是由一连串连续的静态影像所组成的,其中每一个静态影像称为帧,而动态影像中每秒所包含静态影像的数量则称为帧率(frame persecond,fps)。
在显示器上显示动态影像的方式有两种:
逐行扫描:将每一帧从左至右、由上至下,逐一的将所有的画素显示出来。
隔行扫描:将一帧图像的奇数行像素及偶数行像素分开,分成为两个场(field)。轮流扫描奇数行所构成的场及偶数行所构成的场。
当摄像机采集图像时,偶数场和奇数场不是在同一时刻采集的。例如在一个每秒50场的摄像机中,偶数场的采集是在奇数场的采集1/50秒之后进行的。
因为一个场只有一半帧的信息量,因此在装置处理速度无法即时的处理整帧以及传输带宽不够的情形下,使用隔行扫描可以节省一半的信息量且可以为持相同的刷新率。以往阴极射线管显示器很难一次扫描整个屏幕,因此无法使用逐行扫描。但是因为屏幕上萤光的余晖加上视觉暂留效应,使得隔行扫描在阴极射线管显示器上运作的相当顺利。
现在新式的快速的显示设备(例如,液晶显示器,等离子电视)可以即时地处理且扫描整个帧,因此都是使用逐行扫描。但是在这些新型的显示设备上直接播放交错式视频会产生严重的闪烁现象,而且因为交错式视频两行中只有一行有像素另一行则是全黑的,所以播放的视频亮度看起来会减少一半。由于现有的大量视频是以交错式的格式保存的,因此,提供一种高质量的从交错式格式视频到渐进式格式视频的转换方法是非常必要地。
现有技术中的第一种从交错式格式视频到渐进式格式视频的转换方法为:利用当前场已知的像素,例如第n行和第n+2行像素,通过取二者的平均值生成待恢复的n+1行像素。
上述现有技术中的第一种从交错式格式视频到渐进式格式视频的转换方法的缺点为:通过该方法去交错生成的图像,画质看起来会比较松散,不锐利。若是图像中含有横向的细线,在某些场可能刚好没有被扫描到,因此重建出来的图像细线的部分看起来会有闪烁的感觉。对于非垂直的边缘会产生锯齿效应。
现有技术中的第二种从交错式格式视频到渐进式格式视频的转换方法为:将连续的两个场直接结合成为一个帧,不做任何修改。
上述现有技术中的第二种从交错式格式视频到渐进式格式视频的转换方法的缺点为:使用该方法去交错得到的图像,虽然在画面静止的地方画质会好,但是在画面有移动的地方会有羽毛效应以及锯齿。
【发明内容】
本发明的实施例提供了一种从交错式格式视频到渐进式格式视频的转换方法,以实现高效地将交错式格式视频转换为渐进式格式视频。
为实现上述的发明目的,本发明采用下述的技术方案:
一种从交错式格式视频到渐进式格式视频的转换方法,包括:
输入交错式视频图像的多个场,将每个所述场扩展到帧的尺寸,置所述帧中的未知像素为0,将得到的所有帧组成一个视频帧集合;
将所述视频帧集合作为初始的更新视频帧集合,判断所述初始的更新视频帧集合是否满足设定的条件,所述条件为:所述初始的更新视频帧集合中的每一帧在空间上是分片连续的;所述初始的更新视频帧集合中的所有帧在时间上是连续的;输入的交错式视频的场中的已知像素被一一映射到所述初始的更新视频帧集合中的对应的帧中;
当所述初始的更新视频帧集合满足所述条件时,对所述初始的更新视频帧集合进行重组处理得到所需的渐进式格式视频;否则,对所述初始的更新视频帧集合进行更新处理得到更新后的更新视频帧集合,并判断所述更新后的更新视频帧集合是否满足所述条件。
一种从交错式格式视频到渐进式格式视频的转换装置,包括:
扩展和初始化处理模块,用于接收输入的交错式视频图像的多个场,将每个所述场扩展到帧的尺寸,置所述帧中的未知像素为0,将得到的所有帧组成一个视频帧集合;
判断处理模块,用于将所述视频帧集合作为初始的更新视频帧集合,判断所述初始的更新视频帧集合是否满足设定的条件,所述条件为:所述初始的更新视频帧集合中的每一帧在空间上是分片连续的;所述初始的更新视频帧集合中的所有帧在时间上是连续的;输入的交错式视频的场中的已知像素被一一映射到所述初始的更新视频帧集合中的对应的帧中;
输出处理模块,用于当所述初始的更新视频帧集合满足所述条件时,对所述初始的更新视频帧集合进行重组处理得到所需的渐进式格式视频;否则,对所述初始的更新视频帧集合进行更新处理得到更新后的更新视频帧集合,并判断所述更新后的更新视频帧集合是否满足所述条件。
由上述本发明实施例的技术方案可以看出,本发明实施例不仅仅利用当前场中已知的像素,同时也利用相邻场的已知像素。由于相邻场的已知像素是当前场中待恢复像素在时间上的近邻,所以有效地利用相邻场的已知像素信息会明显提高视频去交错处理的质量。
【附图说明】
图1为本发明实施例一提供的一种从交错式格式视频到渐进式格式视频的转换方法的具体处理流程图;
图2为本发明实施例一提供的一种将输入单元矩阵化的处理过程示意图;
图3为本发明实施例二提供了一种从交错式格式视频到渐进式格式视频的转换装置的具体结构图;
图4为现有技术1、现有技术2和本发明实施例三种去交错方法的主观质量比较示意图。
【具体实施方式】
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图,以对本发明实施例进行清楚、完整地描述。
实施例一
该实施例提供的一种从交错式格式视频到渐进式格式视频的转换方法的具体处理流程如图1所示,包括如下的处理步骤:
步骤11、对输入的交错式视频文件数据矩阵化,并对矩阵初始化。
为了方面描述技术内容,首先对如下参量进行定义:
输入单元:设输入的一帧交错式视频图像的横向像素为m个,纵向像素为n个,则对于每场图像,其像素个数为m×n/2个,本发明实施例的输入单元是一系列连续的场(k个),因此,本发明实施例的输入单元包含总的像素为m×n×k/2个。
对于每个输入单元,首先经过矩阵化形成处理单元。该实施例提供的一种将输入单元矩阵化的处理过程如图2所示,具体处理过程为:将输入单元的交错式视频每一场扩展到帧的尺寸,置未知像素为0,并将得到的帧组成一个空间和时间上的视频帧集合,即处理单元Y,
Figure BDA0000157307900000051
如图2所示,虚线代表未知像素值为0,实线代表已知像素。
处理单元Y的像素个数为m×n×k,处理单元中的每个元素为Y(x,y,t),代表了位于处理单元的视频帧集合中的第t帧中空间坐标为(x,y)处的像素,x=0,...,i,...,m-1,y=0,...,j,...,n-1,t=0,...,l,...,k-1。本发明实施例中使用Ω代表Y中已知的像素集合。
步骤12、将上述处理单元作为初始的更新单元M,
Figure BDA0000157307900000052
代表去交错过程中的处理结果像素集合。其中每个元素M(x,y,t),代表了位于输出单元中的第t帧中空间坐标为(x,y)处的像素,x=0,...,i,...,m-1,y=0,...,j,...,n-1,t=0,...,l,...,k-1。
对于去交错视频应用,本发明实施要求最终的更新单元M满足下述三个条件:
1)每一帧在空间上是分片连续的;
2)所有帧在时间上是连续的。
3)还要约束最终去交错结果在已知像素集合Ω中的那些像素保持不变,即Y中的已知像素集合必须被一一映射到M。
所述M为所需的渐进式格式视频,所述
Figure BDA0000157307900000053
‖M‖3D TV为M的3维总体变分,
‖M‖3D TV=α1|DxM |+α2|DyM|+α3|DtM|,α1,α2,α3是正常数,Dx,Dy,Dt分别是水平方向、垂直方向和时间方向上的一阶前向差分算子。DxM,DyM,DtM都是视频帧集合:
DxM(x,y,t)=M(x+1,y,t)-M(x,y,t);x=0,...,m-2;y=0,...,n-1;t=0,...,k-1公式1
DyM(x,y,t)=M(x,y+1,t)-M(x,y,t);x=0,...,m-1,y=0,...,n-2,t=0,...,k-1公式2
DtM(x,y,t)=M(x,y,t+1)-M(x,y,t);x=0,...,m-1,y=0,...,n-1,t=0,...,k-2公式3
通过最小化3D TV范数确保上述条件1)和2),通过约束满足上述条件3),为此,对于M的设定条件为:
minM‖M‖3D TV
s.t.PΩ(M-Y)=0公式4
该条件保证了M在时间和空间上是连续的,且满足从交错式格式视频到渐进式格式视频的最优转换。
其中PΩ(M-Y)=0即表示Y中的已知像素集合必须被一一映射到M。
进一步,通过引入变量Z∈Rm×n×k将公式4转化为公式5:
minM‖M‖3D TV
Y=M+Z
PΩ(Z)=0公式5
进一步,设定判断条件Sk
s k = | | M k + Z k - Y | | F | | Y | | F 公式6
所述 Z k = X k . / c k + Y - T k , if ( x , y , t ) ∉ Ω 0 , else ,
所述 | | Y | | F = Σ x = 0 , y = 0 , t = 0 m - 1 , n - 1 , k - 1 Y 2 ( x , y , t ) .
k=0代表初始状态,Zk为满足交错式格式视频到渐进式格式视频的最优转换中对未知像素预测的视频帧集合,其值会被更新,ck当k=0时为设定大于0小于1的数值,比如为0.6,当k>0时会被更新,Xk当k=0时为像素值全为1的视频帧集合,且和M的空间、时间分辨率相同,当k>0时会被更新,Tk当k=0时为像素值全为0的视频帧集合,且和M的空间、时间分辨率相同,当k>0时会被更新。
设置判断阈值tol,tol<=1e-3,可取1e-4,1e-5,值越小越精确,迭代次数越多。判断Sk是否小于tol,如果是,则判断上述更新单元M满足了上述设定条件,执行步骤13;否则,执行步骤14。
步骤13、将更新单元M最终的结果中包括的m×n×k个像素按照帧的方式进行重排列,形成输出单元,输出单元中包括一共K个帧,每帧横向像素为m个,纵向像素为n个。上述输出单元即为去交错处理后的渐进式格式视频数据。
步骤14、设定反卷积处理前的输入视频帧集合Ak+1
Ak+1=Y-Zk+(Xk./ck)    公式7
对所述Ak+1进行反卷积处理,该反卷积处理为:
min B k + 1 c 2 | | HB k + 1 - A k + 1 | | 2 + | | B k + 1 | | 3 DTV 公式8
其中H是单位阵,Bk+1是反卷积处理后的输出视频帧集合;
步骤15、根据所述反卷积处理后的输出视频帧集合Bk+1,更新Tk,Xk和ck
Tk+1=Bk+1
Xk+1=Xk-(Tk+1+Zk-Y).*ck
ck+1=ck*p,其中p为设定的常数,比如,其值为1.5;
将所述Tk+1作为更新后的更新视频帧集合Mk+1
在实际应用中,上述tol可以为0.001,α1、α2可以为5,α3可以为10,P可以为1.5。
将更新后的Xk+1、Tk+1和ck+1一起返回到步骤12,重新执行步骤12。即根据更新后的Xk+1、Tk+1和ck+1得到更新后的Zk+1,根据更新后的Mk+1、Zk+1以及所述Y重新判断所述更新后的Mk+1是否满足所述条件,即按照设定条件
Figure BDA0000157307900000081
得到更新后的Sk+1,判断所述更新后的Sk+1是否小于tol,如果是,则判断所述更新后的更新视频帧集合Mk+1满足所述设定的条件;否则,判断所述更新后的更新视频帧集合Mk+1不满足所述设定的条件。
实施例二
该实施例提供了一种从交错式格式视频到渐进式格式视频的转换装置,其具体结构如图3所示,包括如下的模块:
扩展和初始化处理模块31,用于接收输入的交错式视频图像的多个场,将每个所述场扩展到帧的尺寸,置所述帧中的未知像素为0,将得到的所有帧组成一个视频帧集合;
判断处理模块32,用于将所述视频帧集合作为初始的更新视频帧集合,判断所述初始的更新视频帧集合是否满足设定的条件,所述条件为:所述初始的更新视频帧集合中的每一帧在空间上是分片连续的;所述初始的更新视频帧集合中的所有帧在时间上是连续的;输入的交错式视频的场中的已知像素被一一映射到所述初始的更新视频帧集合中的对应的帧中;
输出处理模块33,用于当所述初始的更新视频帧集合满足所述设定条件时,对所述初始的更新视频帧集合进行重组处理得到所需的渐进式格式视频;否则,对所述初始的更新视频帧集合进行更新处理得到更新后的更新视频帧集合,并判断所述更新后的更新视频帧集合是否满足所述设定条件。
进一步地,所述的装置还可以包括:
条件设定模块35,用于设置所述的设定条件:
minM‖M‖3D TV
s.t.PΩ(M-Y)=0
所述M为所需的渐进式格式视频,并且在时间和空间上是连续的,所述Y为所述初始输入的视频场经过扩展后的视频帧集合,
设所述渐进式视频图像的帧的横向像素为m个,纵向像素为n个,所述多个场的个数为k,所述
Figure BDA0000157307900000091
所述
Figure BDA0000157307900000092
M(x,y,t)代表了M中的第t帧中空间坐标为(x,y)处的像素,x=0,...,i,...,m-1,y=0,...,j,...,n-1,t=0,...,l,...,k-1;所述PΩ(M-Y)=0,表示Y中的已知像素集合被一一映射到M。
‖M‖3D TV为M的3维总体变分;
所述‖M‖3D TV为:
‖M‖3D TV=α1|DxM |+α2|DyM|+α3|DtM|,
所述α1,α2,α3是设定的常数,所述Dx,Dy,Dt分别是水平方向、垂直方向和时间方向上的一阶前向差分算子;
DxM(x,y,t)=M(x+1,y,t)-M(x,y,t);x=0,...,m-2;y=0,...,n-1;t
            =0,...,k-1
DyM(x,y,t)=M(x,y+1,t)-M(x,y,t);x=0,...,m-1,y=0,...,n-2,t
            =0,...,k-1
DtM(x,y,t)=M(x,y,t+1)-M(x,y,t);x=0,...,m-1,y=0,...,n-1,t
            =0,...,k-2
具体的,所述的判断处理模块32,包括设定条件:
s k = | | M k + Z k - Y | | F | | Y | | F ,
所述 Z k = X k . / c k + Y - T k , if ( x , y , t ) ∉ Ω 0 , else
所述 | | Y | | F = Σ x = 0 , y = 0 , t = 0 m - 1 , n - 1 , k - 1 Y 2 ( x , y , t ) ;
所述k=0代表初始状态,Zk为满足交错式格式视频到渐进式格式视频的最优转换中对未知像素预测的视频帧集合,其值会被更新,ck当k=0时为设定大于0小于1的数值,当k>0时会被更新,Xk当k=0时为像素值全为1的视频帧集合,且和M的空间、时间分辨率相同,当k>0时会被更新,Tk当k=0时为像素值全为0的视频帧集合,且和M的空间、时间分辨率相同,当k>0时会被更新;设置判断阈值tol,判断所述Sk是否小于tol,如果是,则判断所述M满足所述设定的条件;否则,判断所述M不满足所述设定的条件。
进一步地,所述的装置还可以包括:
更新处理模块34,用于设定反卷积处理前的输入视频帧集合Ak+1
Ak+1=Y-Zk+(Xk./ck);
对所述Ak+1进行反卷积处理,该反卷积处理为:
min B k + 1 c 2 | | HB k + 1 - A k + 1 | | 2 + | | B k + 1 | | 3 DTV , 其中H是单位阵,Bk+1是反卷积处理后的输出视频帧集合;根据所述反卷积处理后的输出视频帧集合Bk+1,更新Tk,Xk和ck
Tk+1=Bk+1
Xk+1=Xk-(Tk+1+Zk-Y).*ck
ck+1=ck*p,其中p为设定的常数,比如,其值为1.5;
将所述Tk+1作为更新后的更新视频帧集合Mk+1,根据更新后的Xk+1、Tk+1和ck+1得到更新后的Zk+1,根据更新后的Mk+1、Zk+1以及所述Y重新判断所述更新后的Mk+1是否满足所述条件,即按照设定条件
Figure BDA0000157307900000111
得到更新后的Sk+1,判断所述更新后的Sk+1是否小于tol,如果是,则判断所述更新后的更新视频帧集合Mk+1满足所述设定的条件;否则,判断所述更新后的更新视频帧集合Mk+1不满足所述设定的条件。
具体的,所述的输出处理模块33,还用于将所述初始的更新视频帧集合中包括的m×n×k个像素按照帧的方式进行重排列,形成输出单元,该输出单元中包括k帧,每帧横向像素为m个,纵向像素为n个,所述输出单元即为去交错处理后的渐进式格式视频数据。
应用本发明实施例的装置进行从交错式格式视频到渐进式格式视频的转换的具体处理过程与前述方法实施例类似,此处不再赘述。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random Access Memory,RAM)等。
为了比较各个方法的效果,我们对尺寸为CIF(352x288)的原始渐进式视频序列foreman在空间上采样(第一帧保留偶数场,第二帧保留奇数场,第三帧保留偶数场...)生成交错式视频序列,我们分别采用上述现有技术中的第一种视频去交错技术、第二种视频去交错技术和本发明实施例技术(3D TV)对该交错式视频序列去交错,并将结果和原始渐进式视频序列比较PSNR(峰值信噪比),所得结果如下表所示:
表1.不同去交错方法的PSN R比较(表中数字单位为dB)
Figure BDA0000157307900000121
图4给出了三种方法主观质量的比较,从图4可以看出现有技术1的图2(b)存在明显的锯齿效应,现有技术2的图2(c)存在明显的羽毛效应,而这些问题在本发明实施例的图2(d)中都没有。
综上所述,本发明实施例不仅仅利用当前场中已知的像素,同时也利用相邻场的已知像素。由于相邻场的已知像素是当前场中待恢复像素在时间上的近邻,所以有效地利用相邻场的已知像素信息会明显提高视频去交错处理的质量。
本发明实施例在利用当前场和相邻场中的已知像素时会对其整体施加一个和待恢复像素的约束条件,保证时间和空间上的连续性,消除羽毛和锯齿效应。
以上所述,仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应该以权利要求的保护范围为准。

Claims (10)

1.一种从交错式格式视频到渐进式格式视频的转换方法,其特征在于,包括:
输入交错式视频图像的多个场,将每个所述场扩展到帧的尺寸,置所述帧中的未知像素为0,将得到的所有帧组成一个视频帧集合;
将所述视频帧集合作为初始的更新视频帧集合,判断所述初始的更新视频帧集合是否满足设定的条件,所述条件为:所述初始的更新视频帧集合中的每一帧在空间上是分片连续的;所述初始的更新视频帧集合中的所有帧在时间上是连续的;输入的交错式视频的场中的已知像素被一一映射到所述初始的更新视频帧集合中的对应的帧中;
当所述初始的更新视频帧集合满足所述条件时,对所述初始的更新视频帧集合进行重组处理得到所需的渐进式格式视频;否则,对所述初始的更新视频帧集合进行更新处理得到更新后的更新视频帧集合,并判断所述更新后的更新视频帧集合是否满足所述条件。
2.根据权利要求1所述的从交错式格式视频到渐进式格式视频的转换方法,其特征在于,所述的设定条件包括:
minM‖M‖3D TV
s.t.PΩ(M-Y)=0
所述M为所需的渐进式格式视频,并且在时间和空间上是连续的,所述Y为所述初始输入的视频场经过扩展后的视频帧集合,
设所述渐进式视频图像的帧的横向像素为m个,纵向像素为n个,所述多个场的个数为k,所述所述
Figure FDA0000157307890000012
M(x,y,t)代表了M中的第t帧中空间坐标为(x,y)处的像素,x=0,...,i,...,m-1,y=0,...,j,...,n-1,t=0,...,l,...,k-1;所述PΩ(M-Y)=0,表示Y中的已知像素集合被一一映射到M;
‖M‖3D TV为M的3维总体变分,
所述‖M‖3D TV为:
‖M‖3D TV=α1|DxM |+α2|DyM|+α3|DtM|,
所述α1,α2,α3是设定的常数,所述Dx,Dy,Dt分别是水平方向、垂直方向和时间方向上的一阶前向差分算子;
DxM(x,y,t)=M(x+1,y,t)-M(x,y,t);x=0,...,m-2;y=0,...,n-1;t
            =0,...,k-1
DyM(x,y,t)=M(x,y+1,t)-M(x,y,t);x=0,...,m-1,y=0,...,n-2,t
            =0,...,k-1
DtM(x,y,t)=M(x,y,t+1)-M(x,y,t);x=0,...,m-1,y=0,...,n-1,t
            =0,...,k-2。
3.根据权利要求2所述的从交错式格式视频到渐进式格式视频的转换方法,
其特征在于,所述初始的更新视频帧集合是否满足设定的判断条件Sk
s k = | | M k + Z k - Y | | F | | Y | | F ,
所述 Z k = X k . / c k + Y - T k , if ( x , y , t ) ∉ Ω 0 , else ,
所述 | | Y | | F = Σ x = 0 , y = 0 , t = 0 m - 1 , n - 1 , k - 1 Y 2 ( x , y , t )
所述k=0代表初始状态,Zk为满足交错式格式视频到渐进式格式视频的最优转换中对未知像素预测的视频帧集合,其值会被更新,ck当k=0时为设定大于0小于1的数值,当k>0时会被更新,Xk当k=0时为像素值全为1的视频帧集合,且和M的空间、时间分辨率相同,当k>0时会被更新,Tk当k=0时为像素值全为0的视频帧集合,且和M的空间、时间分辨率相同,当k>0时会被更新;
设置判断阈值tol,判断所述Sk是否小于tol,如果是,则判断所述M满足所述设定的条件;否则,判断所述M不满足所述设定的条件。
4.根据权利要求3所述的从交错式格式视频到渐进式格式视频的转换方法,其特征在于,对所述初始的更新视频帧集合进行更新处理得到更新后的更新视频帧集合,并判断所述更新后的更新视频帧集合是否满足所述条件,包括:
设定反卷积处理前的输入视频帧集合Ak+1
Ak+1=Y-Zk+(Xk./ck);
对所述Ak+1进行反卷积处理,所述反卷积处理为:
min B k + 1 c 2 | | HB k + 1 - A k + 1 | | 2 + | | B k + 1 | | 3 DTV , 其中H是单位阵,Bk+1是反卷积处理后的输出视频帧集合;根据所述反卷积处理后的输出视频帧集合Bk+1,更新Tk,Xk和ck
Tk+1=Bk+1
Xk+1=Xk-(Tk+1+Zk-Y).*ck
ck+1=ck*p,其中p为设定的常数;
将所述Tk+1作为更新后的更新视频帧集合Mk+1,根据更新后的Xk+1、Tk+1和ck+1得到更新后的Zk+1,根据更新后的Mk+1、Zk+1以及所述Y重新判断所述更新后的Mk+1是否满足所述条件,即按照所述条件
Figure FDA0000157307890000032
得到更新后的Sk+1,判断所述更新后的Sk+1是否小于tol,如果是,则判断所述更新后的更新视频帧集合Mk+1满足所述设定的条件;否则,判断所述更新后的更新视频帧集合Mk+1不满足所述设定的条件。
5.根据权利要求1至4任一项所述的从交错式格式视频到渐进式格式视频的转换方法,其特征在于,所述的对所述初始的更新视频帧集合进行重组处理得到渐进式格式视频,包括:
将所述初始的更新视频帧集合中包括的m×n×k个像素按照帧的方式进行重排列,形成输出单元,该输出单元中包括k帧,每帧横向像素为m个,纵向像素为n个,所述输出单元即为交错处理后的渐进式格式视频数据。
6.一种从交错式格式视频到渐进式格式视频的转换装置,其特征在于,包括:
扩展和初始化处理模块,用于接收输入的交错式视频图像的多个场,将每个所述场扩展到帧的尺寸,置所述帧中的未知像素为0,将得到的所有帧组成一个视频帧集合;
判断处理模块,用于将所述视频帧集合作为初始的更新视频帧集合,判断所述初始的更新视频帧集合是否满足设定的条件,所述条件为:所述初始的更新视频帧集合中的每一帧在空间上是分片连续的;所述初始的更新视频帧集合中的所有帧在时间上是连续的;输入的交错式视频的场中的已知像素被一一映射到所述初始的更新视频帧集合中的对应的帧中;
输出处理模块,用于当所述初始的更新视频帧集合满足所述条件时,对所述初始的更新视频帧集合进行重组处理得到所需的渐进式格式视频;否则,对所述初始的更新视频帧集合进行更新处理得到更新后的更新视频帧集合,并判断所述更新后的更新视频帧集合是否满足所述条件。
7.根据权利要求6所述的从交错式格式视频到渐进式格式视频的转换装置,其特征在于,所述的装置还包括:
条件设定模块,用于设置所述的设定条件:
minM‖M‖3D TV
s.t.PΩ(M-Y)=0
所述M为所需的渐进式格式视频,并且在时间和空间上是连续的,所述Y为所述初始输入的视频场经过扩展后的视频帧集合,
设所述渐进式视频图像的帧的横向像素为m个,纵向像素为n个,所述多个场的个数为k,所述
Figure FDA0000157307890000051
所述
Figure FDA0000157307890000052
M(x,y,t)代表了M中的第t帧中空间坐标为(x,y)处的像素,x=0,...,i,...,m-1,y=0,...,j,...,n-1,t=0,...,l,...,k-1;所述PΩ(M-Y)=0,表示Y中的已知像素集合被一一映射到M;
‖M‖3D TV为M的3维总体变分,
所述‖M‖3D TV为:
‖M‖3D TV=α1|DxM |+α2|DyM|+α3|DtM|,
所述α1,α2,α3是设定的常数,所述Dx,Dy,Dt分别是水平方向、垂直方向和时间方向上的一阶前向差分算子;
DxM(x,y,t)=M(x+1,y,t)-M(x,y,t);x=0,...,m-2;y=0,...,n-1;t
            =0,...,k-1
DyM(x,y,t)=M(x,y+1,t)-M(x,y,t);x=0,...,m-1,y=0,...,n-2,t
            =0,...,k-1
DtM(x,y,t)=M(x,y,t+1)-M(x,y,t);x=0,...,m-1,y=0,...,n-1,t
            =0,...,k-2。
8.根据权利要求7所述的从交错式格式视频到渐进式格式视频的转换装置,其特征在于:
所述的判断处理模块,还用于判断是否满足设定的条件Sk
s k = | | M k + Z k - Y | | F | | Y | | F ,
所述 Z k = X k . / c k + Y - T k , if ( x , y , t ) ∉ Ω 0 , else
所述 | | Y | | F = Σ x = 0 , y = 0 , t = 0 m - 1 , n - 1 , k - 1 Y 2 ( x , y , t )
所述k=0代表初始状态,Zk为满足交错式格式视频到渐进式格式视频的最优转换中对未知像素预测的视频帧集合,其值会被更新,ck当k=0时为设定大于0小于1的数值,当k>0时会被更新,Xk当k=0时为像素值全为1的视频帧集合,且和M的空间、时间分辨率相同,当k>0时会被更新,Tk当k=0时为像素值全为0的视频帧集合,且和M的空间、时间分辨率相同,当k>0时会被更新;
设置判断阈值tol,判断所述Sk是否小于tol,如果是,则判断所述M满足所述设定的条件;否则,判断所述M不满足所述设定的条件。
9.根据权利要求8所述的从交错式格式视频到渐进式格式视频的转换装置,其特征在于,所述的装置还包括:
更新处理模块,用于设定反卷积处理前的输入视频帧集合Ak+1
Ak+1=Y-Zk+(Xk./ck);
对所述Ak+1进行反卷积处理,所述反卷积处理为:
min B k + 1 c 2 | | HB k + 1 - A k + 1 | | 2 + | | B k + 1 | | 3 DTV , 其中H是单位阵,Bk+1是反卷积处理后的输出视频帧集合;根据所述反卷积处理后的输出视频帧集合Bk+1,更新Tk,Xk和ck
Tk+1=Bk+1
Xk+1=Xk-(Tk+1+Zk-Y).*ck
ck+1=ck*p,其中p为设定的常数;
将所述Tk+1作为更新后的更新视频帧集合Mk+1,根据更新后的Xk+1、Tk+1和ck+1得到更新后的Zk+1,根据更新后的Mk+1、Zk+1以及所述Y重新判断所述更新后的Mk+1是否满足所述条件,即按照所述条件
Figure FDA0000157307890000071
得到更新后的Sk+1,判断所述更新后的Sk+1是否小于tol,如果是,则判断所述更新后的更新视频帧集合Mk+1满足所述设定的条件;否则,判断所述更新后的更新视频帧集合Mk+1不满足所述设定的条件。
10.根据权利要求6至9任一项所述的从交错式格式视频到渐进式格式视频的转换装置,其特征在于:
所述的输出处理模块,还用于将所述初始的更新视频帧集合中包括的m×n×k个像素按照帧的方式进行重排列,形成输出单元,该输出单元中包括k帧,每帧横向像素为m个,纵向像素为n个,所述输出单元即为交错处理后的渐进式格式视频数据。
CN 201210125130 2012-04-25 2012-04-25 从交错式格式视频到渐进式格式视频的转换方法 Active CN102665060B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN 201210125130 CN102665060B (zh) 2012-04-25 2012-04-25 从交错式格式视频到渐进式格式视频的转换方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN 201210125130 CN102665060B (zh) 2012-04-25 2012-04-25 从交错式格式视频到渐进式格式视频的转换方法

Publications (2)

Publication Number Publication Date
CN102665060A true CN102665060A (zh) 2012-09-12
CN102665060B CN102665060B (zh) 2013-07-24

Family

ID=46774459

Family Applications (1)

Application Number Title Priority Date Filing Date
CN 201210125130 Active CN102665060B (zh) 2012-04-25 2012-04-25 从交错式格式视频到渐进式格式视频的转换方法

Country Status (1)

Country Link
CN (1) CN102665060B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108010538A (zh) * 2017-12-22 2018-05-08 北京奇虎科技有限公司 音频数据处理方法及装置、计算设备
CN109672841A (zh) * 2019-01-25 2019-04-23 珠海亿智电子科技有限公司 一种低成本de-interlace处理方法
WO2022183358A1 (zh) * 2021-03-02 2022-09-09 京东方科技集团股份有限公司 视频图像去交错方法和视频图像去交错装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1170317A (zh) * 1995-12-22 1998-01-14 汤姆森多媒体公司 逐行扫描帧的内插方法
JPH10276411A (ja) * 1997-03-28 1998-10-13 Fujitsu General Ltd インタレース/プログレッシブ走査変換回路
US6141056A (en) * 1997-08-08 2000-10-31 Sharp Laboratories Of America, Inc. System for conversion of interlaced video to progressive video using horizontal displacement
CN1666502A (zh) * 2002-06-28 2005-09-07 皇家飞利浦电子股份有限公司 用于将视频格式转换为120赫兹、4比1隔行格式的方法和设备
CN101071548A (zh) * 2006-05-09 2007-11-14 索尼株式会社 图像显示和信号处理设备、图像处理方法、及计算机程序

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1170317A (zh) * 1995-12-22 1998-01-14 汤姆森多媒体公司 逐行扫描帧的内插方法
JPH10276411A (ja) * 1997-03-28 1998-10-13 Fujitsu General Ltd インタレース/プログレッシブ走査変換回路
US6141056A (en) * 1997-08-08 2000-10-31 Sharp Laboratories Of America, Inc. System for conversion of interlaced video to progressive video using horizontal displacement
CN1666502A (zh) * 2002-06-28 2005-09-07 皇家飞利浦电子股份有限公司 用于将视频格式转换为120赫兹、4比1隔行格式的方法和设备
CN101071548A (zh) * 2006-05-09 2007-11-14 索尼株式会社 图像显示和信号处理设备、图像处理方法、及计算机程序

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108010538A (zh) * 2017-12-22 2018-05-08 北京奇虎科技有限公司 音频数据处理方法及装置、计算设备
CN108010538B (zh) * 2017-12-22 2021-08-24 北京奇虎科技有限公司 音频数据处理方法及装置、计算设备
CN109672841A (zh) * 2019-01-25 2019-04-23 珠海亿智电子科技有限公司 一种低成本de-interlace处理方法
WO2022183358A1 (zh) * 2021-03-02 2022-09-09 京东方科技集团股份有限公司 视频图像去交错方法和视频图像去交错装置
US11711491B2 (en) 2021-03-02 2023-07-25 Boe Technology Group Co., Ltd. Video image de-interlacing method and video image de-interlacing device

Also Published As

Publication number Publication date
CN102665060B (zh) 2013-07-24

Similar Documents

Publication Publication Date Title
US8077258B2 (en) Image display apparatus, signal processing apparatus, image processing method, and computer program product
US5465119A (en) Pixel interlacing apparatus and method
CN101518066B (zh) 图像显示装置及方法、图像处理装置及方法
CN101663885B (zh) 图像处理装置及方法、图像显示装置及方法
US7817127B2 (en) Image display apparatus, signal processing apparatus, image processing method, and computer program product
CN1118194C (zh) 图像处理设备及方法
CN1290326C (zh) 运动和边缘-自适应信号帧频上变频的方法和系统
CN108922481B (zh) 一种基于液晶电视侧视角的demura实现方法
CN101652994A (zh) 视频发送装置、视频接收装置、视频记录装置、视频重放装置及视频显示装置
JP4884481B2 (ja) 画像表示装置
JP2008118505A (ja) 画像表示装置及び方法、画像処理装置及び方法
EP2317757B1 (en) Image processing apparatus, image processing method, program and storage medium
TW200816812A (en) Image display apparatus, signal processing apparatus, image display method, and computer program product
CN102124511A (zh) 图像信号处理装置、图像信号处理方法、图像显示装置、电视接收机、电子设备
CN109064965A (zh) 显示装置及其驱动方法
DE102014008405A1 (de) Optische Freiraumübertragung
CN102665060B (zh) 从交错式格式视频到渐进式格式视频的转换方法
JP2010014879A (ja) 係数生成装置および方法、画像生成装置および方法、並びにプログラム
US7256835B2 (en) Apparatus and method for deinterlacing video images
JP2009055340A (ja) 画像表示装置及び方法、画像処理装置及び方法
CN104683855A (zh) 逐行显示终端及其视频播放方法、图像处理装置
KR101967819B1 (ko) 타일 영상 기반 다중 재생을 위한 영상 처리장치 및 그 타일 영상 구성방법
WO2017101348A1 (zh) 一种隔行视频的去隔行方法及装置
Kumakura 8K LCD: Technologies and challenges toward the realization of SUPER Hi-VISION TV
US8416344B2 (en) Iterative method for interpolating video information values

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant