CN105828064A - 融合局部和全局时空特性的无参考视频质量评估方法 - Google Patents

融合局部和全局时空特性的无参考视频质量评估方法 Download PDF

Info

Publication number
CN105828064A
CN105828064A CN201510007317.2A CN201510007317A CN105828064A CN 105828064 A CN105828064 A CN 105828064A CN 201510007317 A CN201510007317 A CN 201510007317A CN 105828064 A CN105828064 A CN 105828064A
Authority
CN
China
Prior art keywords
video
quality
vector
localized mass
single frames
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201510007317.2A
Other languages
English (en)
Other versions
CN105828064B (zh
Inventor
吴泽民
邱正伦
彭涛频
田畅
张磊
胡磊
刘熹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JIANGSU HUIWEIXUN INFORMATION TECHNOLOGY Co Ltd
PLA University of Science and Technology
Original Assignee
JIANGSU HUIWEIXUN INFORMATION TECHNOLOGY Co Ltd
PLA University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JIANGSU HUIWEIXUN INFORMATION TECHNOLOGY Co Ltd, PLA University of Science and Technology filed Critical JIANGSU HUIWEIXUN INFORMATION TECHNOLOGY Co Ltd
Priority to CN201510007317.2A priority Critical patent/CN105828064B/zh
Publication of CN105828064A publication Critical patent/CN105828064A/zh
Application granted granted Critical
Publication of CN105828064B publication Critical patent/CN105828064B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种融合局部和全局时空特性的无参考视频质量评估方法,首先训练融合局部和全局时空特性的视频质量回归器,其次利用训练的视频质量回归器进行视频质量预测,在对未知质量的视频片段判别视频质量时,计算该段视频对应的视频片段质量特征向量,把视频片段质量特征向量输入已完成训练的支持向量回归器,该支持向量回归器的输出值即为未知质量的视频片段对应的视频质量评估值。本发明在对受损视频进行质量评估时,不需要无损视频片段作为参考,减少了视频信息的丢失。

Description

融合局部和全局时空特性的无参考视频质量评估方法
技术领域
本发明属于视频分析技术领域,特别是一种融合局部和全局时空特性的无参考视频质量评估方法。
背景技术
客观视频质量评估是模拟人的主观视频质量评价过程,对任意视频的质量进行算法评分的过程。由于主观质量平均过程耗费大量时间、人力物力资源,使用范围非常受限。而客观视频质量评估由计算机自动完成,具有很好的使用效能。通常人的主观视频质量评分用MOS值表示,是取值在0到5的数,0表示最低质量,5表示最高质量。视频质量评估对多媒体应用具有重要的意义,可以用于评价视频编码算法性能、视频传输网络性能、视频显示设备性能等。
以VSSIM[文献1:FarenzenaM,BazzaniL,PerinaA,etal.VideoQualityAssessmentBasedonStructuralDistortionMeasurement.SignalProcessing:ImageCommunication,Vol.19,No.1,Jan2004,pp:1-9]为代表的视频质量评估方法,用单帧的全局速度计算加权系数,完成从帧到视频的质量指标汇聚。这类方法把空间和时间作为两个不同的因素进行处理,缺乏明显的视觉心理学支持。以VIS3[文献2:PhongV.Vu,ChandlerD.M,ViS3:anAgorithmforVdeoQalityAssessmentviaAnalysisofSpatialandSpatiotemporalSlices.JournalofElectronicImaging,Vol23,No.1,Jan,2014,PP:1-24]为代表的方法,构造了空间平均指标和时空平均指标,把最终的视频指标设计为空间平均指标和时空平均指标的几何平均。VIS3更多考虑了时间和空间的联合作用,具有较高的评估相关性。以MOVIE[文献3:Seshadrinathan.K,BovikA.C,MotionTunedSpatio-TemporalQualityAssessmentofNaturalVideos,IEEETransationonimageprocessing,Vol19,No.2,Feb,2010,pp:335-350]为代表的视频质量评估方法计算单个像素的时空Gabor变换,分解出像素相关的空间纹理和时间运动信息,完成像素区域的视觉质量评估,最后算术平均形成视频片段的质量指标。但是VIS3和MOVIE都是一种全参考的方法,在实际使用时受限。VideoBLIINDS[文献4:SaadM.A,BovikA.C,CharrierC,BlindPredictionofNaturalVideoQuality,IEEETransationonimageprocessing,Vol23,No.3,Mar,2014,pp:423-438]方法计算帧差信息的空间统计测度,以此作为时间信息,与单帧图像质量进行加权后,再完成整段视频的质量指标汇聚。VideoBLIINDS是一种无参考算法。但是VideoBLIINDS形成的视频特征向量是多个不同视频特性参数时间平均值的级联,掩盖了视频特征随时间波动对视频质量的影响。
罗忠等人的国家发明授权专利[文献5:一种视频质量评估方法,CN200510002201]和李永利等人的国家发明授权专利[文献6:视频质量评估方法及装置,CN200810103640]侧重于运动矢量的分析,建立参考视频与待评估视频的差异性,从而获得待评估视频质量。陈耀武等人的国家发明授权专利[文献7:MOTIONJPEG2000视频客观质量的无参考评估方法,CN200810163592]虽然是无参考方法,但是依据梯度特征训练的线性视频质量拟合函数,无法得到合适的判决性能。
发明内容
本发明的目的在于提供一种融合局部和全局时空信息的无参考视频质量评估方法,通过模拟人的视觉感知过程,在接收端只使用待评估的视频数据,就可以获得它的视频主观感知质量。使用该算法,不但避免了对参考视频数据的需要,而且获得了目前最好的视频主观质量无参考评估效果。
实现本发明目的的技术解决方案为:一种融合局部和全局时空特性的无参考视频质量评估方法,首先,训练融合局部和全局时空特性的视频质量回归器,步骤如下:
步骤1,模拟运动一致性、灰度敏感性和纹理复杂性对人眼视觉感知的效应,完成单帧的局部时空特征计算;
步骤2,通过奇异值分解汇聚成单帧图像的特征向量,完成单帧均值特征向量与单帧差值特征向量级联,形成视频片段特征向量;
步骤3,用训练视频的视频片段特征向量和对应主观质量评分MOS值完成对支持向量回归器SVR的训练;
其次,利用训练的视频质量回归器进行视频质量预测,在对未知质量的视频片段判别视频质量时,首先按照上述步骤1至步骤3计算该段视频对应的视频片段质量特征向量,然后把视频片段质量特征向量输入已完成训练的支持向量回归器,该支持向量回归器的输出值即为未知质量的视频片段对应的视频质量评估值。
本发明与现有技术相比,其显著优点:(1)本发明是一种无参考方法,在对受损视频进行质量评估时,不需要无损视频片段作为参考。(2)本发明以视频特征向量为视频质量评估的基础,更多地保留了视频片段的信息。首先进行单帧图像质量评估,然后进行多帧图像质量值加权融合的过程相比较,减少了视频信息的丢失。(3)本发明计算强度不大,可以进行逐帧计算,不再像MOVIE一样采用跳帧策略,丢失大量时间动态信息。
下面结合附图对本发明作进一步详细描述。
附图说明
图1是本发明融合局部和全局时空特性的无参考视频质量评估方法流程图。
图2是条带划分示意图。
图3是视频质量回归器预测的视频质量。
具体实施方式
本发明融合局部和全局时空特性的无参考视频质量评估方法具体实现步骤如下:
1、构造单帧内的局部块
对单个的视频帧,划分为相互不覆盖的矩形块:假设单帧的宽、高分别为W和H个像素,每个局部块的长、宽都等于B个像素,则单帧划分为个局部块,其中符号表示下取整运算;分割完成的局部块按各自在帧内出现的位置排放;
2、构造运动信息图
采用视频编码中的经典三步法对每个局部块局部搜索其运动向量,利用搜索获得的运动向量,构造局部运动张量T:
T = f x f xy f xy f y - - - ( 1 )
其中
f x = Σ i , j w ( i , j ) M x 2 ( i + m , j + n )
f y = Σ i , j w ( i , j ) M y 2 ( i + m , j + n )
f xy = Σ i , j w ( i , j ) M x ( i + m , j + n ) M y ( i + m , j + n )
m,n是当前局部块中心像素对应的帧内空间位置下标,w(i,j)是加权窗函数,Mx是指运动向量X轴方向的值,My是指运动向量Y轴方向的值,i,j是指求和的下标;
计算张量T的特征值λ1和λ2,则局部的运动一致性μm,n定义为:
μ m , n = ( λ 1 - λ 2 λ 1 + λ 2 ) 2 - - - ( 2 )
把每个局部块的运动一致性信息按局部块在帧内出现的位置进行排列,构成单帧的运动信息图Г={μm,n};
3、构造空间复杂性图
在滤波器(0°,45°,90°,135°)4个方向,分别对每个局部块的像素进行1维Psudo-Wigner滤波,滤波器形成的窗口宽度N等于8,按Psudo-Wigner分布的定义:
P [ m , n , k ] = 2 Σ b = - N / 2 N / 2 - 1 z m , n ( b ) z m , n * ( b ) e - 2 i ( 2 πbk ) / N - - - ( 3 )
其中zm,n(·)是处于滤波器窗口中的局部块像素灰度值,是其共轭,b是指滤波器窗口中的局部块像素位置下标,k是空间频率下标,代表不同的空间频率,不同方向的滤波器窗口构成不同的Wigner分布;
对P[m,n,k]能量归一化后,得到各个方向的Psudo-Wigner分布归一化形式:
其中下标θ表示不同滤波器窗口的方向。根据局部块的归一化Psudo-Wigner分布,各个方向滤波器对局部块的Renyi熵表示为:
纹理的复杂程度由不同方向的Renyi熵的差异性来表示,把纹理复杂度表示为四个方向Renyi熵的标准差Std与均值Mean的比值:
η m , n = Std { R θ [ m , n ] } Mean { R θ [ m , n ] } - - - ( 6 )
通过计算单帧中每个局部块的纹理复杂性ηm,n,形成局部块的空间复杂性图Λ={ηm,n}。
4、形成感知权重图
对运动信息图Г和空间复杂性图Λ进行合成,形成每个局部块的感知权重Wm,n
W m , n = η m , n ( 1 - e - 5 μ m , n max ( μ m , n ) ) - - - ( 7 )
其中max(μm,n)是对单帧内所有局部块求取最大值。
5、变换域条带划分
对每个局部块的灰度分量进行DCT变换,形成DCT变换域系数du,v,u,v表示变换域系数的下标,对变换后的系数du,v非直流系数按条带划分,将DCT变换域系数从低频向高频划分为{C0,C1,C2,……Cs}条带,其中每个条带的取值满足:
G i = Σ u + v = i d u , v
i是指条带编号,取值为0-s,s与局部块像素宽度B的关系是s=2B-1;
在DCT变换后,根据人眼视觉感知的掩码效应,去除条带编号i大于s的高频信息和条带编号i等于0的直流分量,将保留的成分{C1,C2,……Cs-1}级联形成s-1维的向量,用于表示局部块的视觉特征信息;
6、合成单帧质量特征向量
根据运动信息和纹理复杂性信息对人眼感知的加权效应,模拟运动信息和纹理复杂性对视频感知质量的屏蔽效应,用感知权重Wm,n对每个局部块内的DCT条带进行加权的结果QBm,n,i
QBm,n,i=Wm,nCi(8)
按公式(8)加权后,形成单帧内局部块的时空质量指标图QB={QBm,n},其中的每个元素QBm,n是17维向量;根据时空质量指标图,对单帧内所有局部块的特征向量求均值,形成的单帧质量特征向量QFk表示为:
QF k = 1 m × n Σ m , n QB m , n - - - ( 9 )
上式的求和按向量加法进行,形成的QFk是17维向量。对视频序列的每帧分别计算单帧质量特征向量,由此获得视频所有帧的时空特性指标{QFk,k=1,...,L},L是指该视频片段所有帧的数量;
7、合成视频片段质量特征向量
根据视频序列对应的单帧质量特征向量序列{QFk},对视频片段的所有单帧质量特征向量求均值,形成的视频平均质量向量MV表示为:
MV = 1 L Σ k = 1 . . L QF k - - - ( 10 )
对视频质量特征向量序列{QFk}的相邻单帧质量特征向量求差,获得相邻帧的质量差值特征向量,质量差值特征向量代表了视频序列中大的视觉效应突变;然后,把视频片段所有质量差值特征向量进行平均,形成的视频差值特征向量DV表示为:
DV = 1 L - 1 Σ k = 2 . . L | QF k - QF k - 1 | - - - ( 11 )
公式(11)中的绝对值运算表示对向量的每个元素求绝对值,视频平均质量向量和视频差值向量级联,构成视频片段质量特征向量MF=[MVT,DVT]T。由于QFk是17维向量,所以最终形成的MF向量维数是34。
8、支持向量回归器的训练
利用带主观视频质量评分值的训练视频库,完成客观视频质量回归器的训练,即对训练视频库中的每段视频计算它的视频片段质量特征向量MFl,其对应的主观质量评分MOSl值已知,把视频片段质量特征向量集合{MFl,l=1,..,S}和对应的主观质量评分集合{MOSl,l=1,..,S}送入支持向量回归器SVR,完成视频质量回归器的训练。其中S是视频片段的数量。
实施例
一、训练融合局部和全局时空特性的视频质量回归器
1、构造单帧内的局部块
对单个的视频帧,划分为相互不覆盖的矩形块。假设单帧的宽、高分别为W和H个像素,每个局部块的长、宽都等于B个像素,则单帧可以划分为(/表示除法)个局部块,其中符号表示下取整运算。在本发明中,B等于17(B取值可以是4-32)。视频编码时,宏块划分使用4、8、16等像素值,采用17可以对块效应等损伤也充分考虑。分割完成的局部块按各自在帧内出现的位置排放。
2、构造运动信息图
对每个局部块局部搜索其运动向量,采用视频编码中的经典三步法,具体的步骤可参考H.261视频编码标准。由于搜索获得的局部块运动向量存在一定误差,在进行视觉质量的运动掩蔽效应模拟时,需要在更大范围内对局部块的运动信息进行平滑和汇聚。这里,利用搜索获得的运动向量,可以构造局部运动张量T:
T = f x f xy f xy f y - - - ( 1 )
其中
f x = Σ i , j w ( i , j ) M x 2 ( i + m , j + n )
f y = Σ i , j w ( i , j ) M y 2 ( i + m , j + n )
f xy = Σ i , j w ( i , j ) M x ( i + m , j + n ) M y ( i + m , j + n )
m,n是当前局部块中心像素对应的帧内空间位置下标,w(i,j)是加权窗函数。Mx是指运动向量X轴方向的值,My是指运动向量Y轴方向的值,i,j是指求和的下标。本发明中采用高斯窗函数,对高斯窗函数的方差取为1.5,则可以在7×7个局部块的范围内考察运动一致性。计算张量T的特征值λ1和λ2,则局部的运动一致性μm,n定义为:
μ m , n = ( λ 1 - λ 2 λ 1 + λ 2 ) 2 - - - ( 2 )
显然,运动一致性越明显的局部块,它的两个特征值差值越大,按公式(2)获得的运动一致性测度越趋近于1。把每个局部块的运动一致性信息按局部块在帧内出现的位置进行排列,构成单帧的运动信息图Г={μm,n}。
3、构造空间复杂性图
在滤波器(0°,45°,90°,135°)4个方向,分别对每个局部块的像素进行1维Psudo-Wigner滤波,滤波器形成的窗口宽度N等于8。按Psudo-Wigner分布的定义:
P [ m , n , k ] = 2 Σ b = - N / 2 N / 2 - 1 z m , n ( b ) z m , n * ( b ) e - 2 i ( 2 πbk ) / N - - - ( 3 )
其中zm,n(·)是处于滤波器窗口中的局部块像素灰度值,是其共轭。b是指滤波器窗口中的局部块像素位置下标(滤波器窗口中的局部块像素位置可以由m,n、滤波器方向和窗口宽度按常规的直线方程采样得到)。k是空间频率下标,代表不同的空间频率。不同方向的滤波器窗口构成不同的Wigner分布。对P[m,n,k]能量归一化后,得到各个方向的Psudo-Wigner分布归一化形式:
其中下标θ表示不同滤波器窗口的方向。在方向固定的情况下,局部块的归一化Psudo-Wigner分布是空间频率的函数。根据局部块的归一化Psudo-Wigner分布,各个方向滤波器对局部块的Renyi熵可以表示为:
纹理的复杂程度可以由不同方向的Renyi熵的差异性来表示。在本发明中,把纹理复杂度表示为四个方向Renyi熵的标准差Std与均值Mean的比值:
η m , n = Std { R θ [ m , n ] } Mean { R θ [ m , n ] } - - - ( 6 )
通过计算单帧中每个局部块的纹理复杂性ηm,n,形成局部块的空间复杂性图Λ={ηm,n}。
4、形成感知权重图
根据人眼对运动信息感知的特性,对快速运动目标的视觉信号可以有很强的模糊容忍度,而对慢速运动目标的视觉信号能感知到轻微的失真。另外,人眼对纹理复杂的区域更敏感,能分辨纹理区域中的失真细节,而对纹理简单区域可以容忍较大失真而不影响主观评价。根据人眼的上述生理特征,我们对运动信息图Г和空间复杂性图Λ进行合成,形成每个局部块的感知权重Wm,n
W m , n = η m , n ( 1 - e - 5 μ m , n max ( μ m , n ) ) - - - ( 7 )
其中max(μm,n)是对单帧内所有局部块求取最大值。
5、变换域条带划分
每一帧图像的DCT(离散余弦变换)变换的系数的分布情况能够反映图像的亮度信息和纹理分布特性。在进行质量评估时,系数的分布情况也能很好的体现视频帧的质量。对每个局部块的灰度分量进行DCT变换,形成DCT变换域系数du,v,u,v表示变换域系数的下标。
对变换后的系数du,v非直流系数按条带划分。由于DCT变换系数从低频向高频分布。人眼视觉系统对低频信号敏感,对过高频信号不敏感,本发明依据此来对DCT系数进行划分。本发明中的图像块大小以选取17×17为例进行说明,将DCT变换域系数从低频向高频划分为{C0,C1,C2,……Cs}条带,如图2所示。图中相同灰度值的DCT系数属于同一个条带。
其中每个条带的取值满足:
G i = Σ u + v = i d u , v
i是指条带编号,取值为0-s,s与局部块像素宽度B的关系是s=2B-1。在计算变换域系数时,算法需考虑局部块DCT变换后的高频信息的处理,在实际的人眼视觉效应中,人眼对高频信息并不是特别敏感,所以在DCT变换后,通过掩码效应去除高频信息(如条带编号大于17)和直流分量(条带编号等于0)。所以,在本发明中,只保留了去除直流和高频的成分{C1,C2,……C17}。把这些成分级联形成17维的向量,用于表示局部块的视觉特征信息。
6、合成单帧质量特征向量
根据运动信息和纹理复杂性信息对人眼感知的加权效应,本发明模拟运动信息和纹理复杂性对视频感知质量的屏蔽效应。用感知权重Wm,n对每个局部块内的DCT条带进行加权的结果QBm,n,i
QBm,n,i=Wm,nCi(8)
按公式(8)加权后,形成单帧内局部块的时空质量指标图QB={QBm,n},其中的每个元素QBm,n是17维向量。根据单帧时空质量指标图,对单帧内所有局部块的特征向量求均值,形成的单帧质量特征向量QFk可以表示为:
QF k = 1 m × n Σ m , n QB m , n - - - ( 9 )
上式的求和按向量加法进行,形成的QFk是17维向量。对视频序列的每帧分别计算单帧质量特征向量,由此获得视频所有帧的时空特性指标{QFk,k=1,...,L}。L是指视频片段所有帧的数量。
7、合成视频片段质量特征向量
根据视频序列对应的单帧质量特征向量序列{QFk},对视频片段的所有单帧质量特征向量求均值,形成的视频平均质量向量MV可以表示为:
MV = 1 L Σ k = 1 . . L QF k - - - ( 10 )
然后对视频质量特征向量序列{QFk}的相邻单帧质量特征向量求差,获得相邻帧的质量差值特征向量。质量差值特征向量代表了视频序列中大的视觉效应突变。然后,把视频片段所有质量差值特征向量进行平均,形成的视频差值特征向量DV可以表示为:
DV = 1 L - 1 Σ k = 2 . . L | QF k - QF k - 1 | - - - ( 11 )
公式(11)中的绝对值运算表示对向量的每个元素求绝对值。视频平均质量向量和视频差值向量级联,构成视频片段质量特征向量MF=[MVT,DVT]T。由于QFk是17维向量,所以最终形成的MF向量维数是34。
8、视频质量回归器的训练
利用带主观视频质量评分值的训练视频库,完成客观视频质量回归器的训练。对训练视频库中的每段视频计算它的视频片段质量特征向量MFl,其对应的主观质量评分MOSl值已知。把视频片段质量特征向量集合{MFl,l=1,..,S}和对应的主观质量评分集合{MOSl,l=1,..,S}送入支持向量回归器SVR,完成SVR的训练。其中S是视频片段的数量。
二、利用训练的视频质量回归器进行视频质量预测
在对未知质量评分的视频片段进行客观视频质量判断时,首先计算该段视频对应的视频片段质量特征向量,然后把视频片段质量特征向量输入已完成训练的支持向量回归器SVR,该SVR的输出值就是该视频片段的客观视频质量。预测的效果如图3所示。与典型的无参考视频评估算法Video-BLIINDS的比较数据如表1所示。
表1无参考视频质量评估算法性能比较

Claims (4)

1.一种融合局部和全局时空特性的无参考视频质量评估方法,其特征在于首先,训练融合局部和全局时空特性的视频质量回归器,步骤如下:
步骤1,模拟运动一致性、灰度敏感性和纹理复杂性对人眼视觉感知的效应,完成单帧的局部时空特征计算;
步骤2,通过奇异值分解汇聚成单帧图像的特征向量,完成单帧均值特征向量与单帧差值特征向量级联,形成视频片段特征向量;
步骤3,用训练视频的视频片段特征向量和对应主观质量评分MOS值完成对支持向量回归器SVR的训练;
其次,利用训练的视频质量回归器进行视频质量预测,在对未知质量的视频片段判别视频质量时,首先按照上述步骤1至步骤3计算该段视频对应的视频片段质量特征向量,然后把视频片段质量特征向量输入已完成训练的支持向量回归器,该支持向量回归器的输出值即为未知质量的视频片段对应的视频质量评估值。
2.根据权利要求1所述的融合局部和全局时空特性的无参考视频质量评估方法,其特征在于步骤1中的步骤为:
2.1构造单帧内的局部块
对单个的视频帧,划分为相互不覆盖的矩形块:假设单帧的宽、高分别为W和H个像素,每个局部块的长、宽都等于B个像素,则单帧划分为个局部块,其中符号表示下取整运算;分割完成的局部块按各自在帧内出现的位置排放;
2.2、构造运动信息图
采用视频编码中的经典三步法对每个局部块局部搜索其运动向量,利用搜索获得的运动向量,构造局部运动张量T:
T = f x f xy f xy f y - - - ( 1 )
其中
f x = Σ i , j w ( i , j ) M x 2 ( i + m , j + n )
f y = Σ i , j w ( i , j ) M y 2 ( i + m , j + n )
f xy = Σ i , j w ( i , j ) M x ( i + m , j + n ) M y ( i + m , j + n )
m,n是当前局部块中心像素对应的帧内空间位置下标,w(i,j)是加权窗函数,Mx是指运动向量X轴方向的值,My是指运动向量Y轴方向的值,i,j是指求和的下标;
计算张量T的特征值λ1和λ2,则局部的运动一致性μm,n定义为:
μ m , n = ( λ 1 - λ 2 λ 1 + λ 2 ) 2 - - - ( 2 )
把每个局部块的运动一致性信息按局部块在帧内出现的位置进行排列,构成单帧的运动信息图Γ={μm,n};
2.3构造空间复杂性图
在滤波器(0°,45°,90°,135°)4个方向,分别对每个局部块的像素进行1维Psudo-Wigner滤波,滤波器形成的窗口宽度N等于8,按Psudo-Wigner分布的定义:
P [ m , n , k ] = 2 Σ b = - N / 2 N / 2 - 1 z m , n ( b ) z m , n * ( b ) e - 2 i ( 2 πbk ) / N - - - ( 3 )
其中zm,n(·)是处于滤波器窗口中的局部块像素灰度值,是其共轭,b是指滤波器窗口中的局部块像素位置下标,k是空间频率下标,代表不同的空间频率,不同方向的滤波器窗口构成不同的Wigner分布;
对P[m,n,k]能量归一化后,得到各个方向的Psudo-Wigner分布归一化形式:
其中下标θ表示不同滤波器窗口的方向。根据局部块的归一化Psudo-Wigner分布,各个方向滤波器对局部块的Renyi熵表示为:
纹理的复杂程度由不同方向的Renyi熵的差异性来表示,把纹理复杂度表示为四个方向Renyi熵的标准差Std与均值Mean的比值:
η m , n = Std { R θ [ m , n ] } Mean { R θ [ m , n ] } - - - ( 6 )
通过计算单帧中每个局部块的纹理复杂性ηm,n,形成局部块的空间复杂性图Λ={ηm,n}。
3.根据权利要求1所述的融合局部和全局时空特性的无参考视频质量评估方法,其特征在于步骤2中的步骤为:
3.1形成感知权重图
对运动信息图Γ和空间复杂性图Λ进行合成,形成每个局部块的感知权重Wm,n
W m , n = η m , n ( 1 - e - 5 μ m , n max ( μ m , n ) ) - - - ( 7 )
其中max(μm,n)是对单帧内所有局部块求取最大值。
3.2变换域条带划分
对每个局部块的灰度分量进行DCT变换,形成DCT变换域系数du,v,u,v表示变换域系数的下标,对变换后的系数du,v非直流系数按条带划分,将DCT变换域系数从低频向高频划分为{C0,C1,C2,……Cs}条带,其中每个条带的取值满足:
C i = Σ u + v = i d u , v
i是指条带编号,取值为0-s,s与局部块像素宽度B的关系是s=2B-1;
在DCT变换后,根据人眼视觉感知的掩码效应,去除条带编号i大于s的高频信息和条带编号i等于0的直流分量,将保留的成分{C1,C2,……Cs-1}级联形成s-1维的向量,用于表示局部块的视觉特征信息;
3.3合成单帧质量特征向量
根据运动信息和纹理复杂性信息对人眼感知的加权效应,模拟运动信息和纹理复杂性对视频感知质量的屏蔽效应,用感知权重Wm,n对每个局部块内的DCT条带进行加权的结果QBm,n,i
QBm,n,i=Wm,nCi(8)
按公式(8)加权后,形成单帧内局部块的时空质量指标图QB={QBm,n},其中的每个元素QBm,n是17维向量;根据时空质量指标图,对单帧内所有局部块的特征向量求均值,形成的单帧质量特征向量QFk表示为:
QF k = 1 m × n Σ m , n QB m , n - - - ( 9 )
上式的求和按向量加法进行,形成的QFk是17维向量。对视频序列的每帧分别计算单帧质量特征向量,由此获得视频所有帧的时空特性指标{QFk,k=1,...,L},L是指该视频片段所有帧的数量;
3.4合成视频片段质量特征向量
根据视频序列对应的单帧质量特征向量序列{QFk},对视频片段的所有单帧质量特征向量求均值,形成的视频平均质量向量MV表示为:
MV = 1 L Σ k = 1 . . L QF k - - - ( 10 )
对视频质量特征向量序列{QFk}的相邻单帧质量特征向量求差,获得相邻帧的质量差值特征向量,质量差值特征向量代表了视频序列中大的视觉效应突变;然后,把视频片段所有质量差值特征向量进行平均,形成的视频差值特征向量DV表示为:
DV = 1 L - 1 Σ k = 2 . . L | QF k - QF k - 1 | - - - ( 11 )
公式(11)中的绝对值运算表示对向量的每个元素求绝对值,视频平均质量向量和视频差值向量级联,构成视频片段质量特征向量MF=[MVT,DVT]T。由于QFk是17维向量,所以最终形成的MF向量维数是34。
4.根据权利要求1所述的融合局部和全局时空特性的无参考视频质量评估方法,其特征在于步骤3中的步骤为:利用带主观视频质量评分值的训练视频库,完成客观视频质量回归器的训练,即对训练视频库中的每段视频计算它的视频片段质量特征向量MFl,其对应的主观质量评分MOSl值已知,把视频片段质量特征向量集合{MFl,l=1,..,S}和对应的主观质量评分集合{MOSl,l=1,..,S}送入支持向量回归器,完成视频质量回归器的训练。其中S是视频片段的数量。
CN201510007317.2A 2015-01-07 2015-01-07 融合局部和全局时空特性的无参考视频质量评估方法 Active CN105828064B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510007317.2A CN105828064B (zh) 2015-01-07 2015-01-07 融合局部和全局时空特性的无参考视频质量评估方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510007317.2A CN105828064B (zh) 2015-01-07 2015-01-07 融合局部和全局时空特性的无参考视频质量评估方法

Publications (2)

Publication Number Publication Date
CN105828064A true CN105828064A (zh) 2016-08-03
CN105828064B CN105828064B (zh) 2017-12-12

Family

ID=56514750

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510007317.2A Active CN105828064B (zh) 2015-01-07 2015-01-07 融合局部和全局时空特性的无参考视频质量评估方法

Country Status (1)

Country Link
CN (1) CN105828064B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107318014A (zh) * 2017-07-25 2017-11-03 西安电子科技大学 基于视觉显著区域和时空特性的视频质量评估方法
CN108322733A (zh) * 2018-01-17 2018-07-24 宁波大学 一种无参考高动态范围图像客观质量评价方法
CN108520510A (zh) * 2018-03-19 2018-09-11 天津大学 一种基于整体和局部分析的无参考立体图像质量评价方法
CN110163901A (zh) * 2019-04-15 2019-08-23 福州瑞芯微电子股份有限公司 一种后处理评价方法及系统
CN111510707A (zh) * 2020-04-23 2020-08-07 华侨大学 一种基于时空Gabor特征张量的全参考屏幕视频质量评估方法
CN112085102A (zh) * 2020-09-10 2020-12-15 西安电子科技大学 基于三维时空特征分解的无参考视频质量评价方法
CN114821432A (zh) * 2022-05-05 2022-07-29 杭州电子科技大学 基于离散余弦变换的视频目标分割对抗攻击方法
CN117495854A (zh) * 2023-12-28 2024-02-02 淘宝(中国)软件有限公司 视频数据处理方法、设备及存储介质

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101448175A (zh) * 2008-12-25 2009-06-03 华东师范大学 一种无参考的流视频质量评估方法
CN101478691A (zh) * 2008-12-31 2009-07-08 浙江大学 Motion Jpeg2000视频客观质量的无参考评估方法
CN101557516A (zh) * 2008-04-09 2009-10-14 北京中创信测科技股份有限公司 视频质量评估方法及装置
CN101695141A (zh) * 2009-10-20 2010-04-14 浙江大学 一种视频质量评估方法和装置
CN101742353A (zh) * 2008-11-04 2010-06-16 工业和信息化部电信传输研究所 无参考视频质量评价方法
CN102231844A (zh) * 2011-07-21 2011-11-02 西安电子科技大学 基于结构相似度和人眼视觉的视频图像融合性能评价方法
CN103152599A (zh) * 2013-02-01 2013-06-12 浙江大学 基于有序回归的移动视频业务用户体验质量评估方法
US20130293725A1 (en) * 2012-05-07 2013-11-07 Futurewei Technologies, Inc. No-Reference Video/Image Quality Measurement with Compressed Domain Features
CN103391450A (zh) * 2013-07-12 2013-11-13 福州大学 一种时空联合的无参考视频质量检测方法
EP2736261A1 (en) * 2012-11-27 2014-05-28 Alcatel Lucent Method For Assessing The Quality Of A Video Stream
CN104104943A (zh) * 2013-04-10 2014-10-15 江南大学 一种基于广义回归神经网络无参考jpeg2000压缩图像质量评价方法
CN104103065A (zh) * 2013-04-10 2014-10-15 无锡金帆钻凿设备股份有限公司 一种基于奇异值分解无参考模糊图像质量评价方法

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101557516A (zh) * 2008-04-09 2009-10-14 北京中创信测科技股份有限公司 视频质量评估方法及装置
CN101742353A (zh) * 2008-11-04 2010-06-16 工业和信息化部电信传输研究所 无参考视频质量评价方法
CN101448175A (zh) * 2008-12-25 2009-06-03 华东师范大学 一种无参考的流视频质量评估方法
CN101478691A (zh) * 2008-12-31 2009-07-08 浙江大学 Motion Jpeg2000视频客观质量的无参考评估方法
CN101695141A (zh) * 2009-10-20 2010-04-14 浙江大学 一种视频质量评估方法和装置
CN102231844A (zh) * 2011-07-21 2011-11-02 西安电子科技大学 基于结构相似度和人眼视觉的视频图像融合性能评价方法
US20130293725A1 (en) * 2012-05-07 2013-11-07 Futurewei Technologies, Inc. No-Reference Video/Image Quality Measurement with Compressed Domain Features
EP2736261A1 (en) * 2012-11-27 2014-05-28 Alcatel Lucent Method For Assessing The Quality Of A Video Stream
CN103152599A (zh) * 2013-02-01 2013-06-12 浙江大学 基于有序回归的移动视频业务用户体验质量评估方法
CN104104943A (zh) * 2013-04-10 2014-10-15 江南大学 一种基于广义回归神经网络无参考jpeg2000压缩图像质量评价方法
CN104103065A (zh) * 2013-04-10 2014-10-15 无锡金帆钻凿设备股份有限公司 一种基于奇异值分解无参考模糊图像质量评价方法
CN103391450A (zh) * 2013-07-12 2013-11-13 福州大学 一种时空联合的无参考视频质量检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
桑庆兵等: "基于支持向量回归的无参考模糊和噪声图像质量评价方法", 《光电子.激光》 *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107318014A (zh) * 2017-07-25 2017-11-03 西安电子科技大学 基于视觉显著区域和时空特性的视频质量评估方法
CN108322733A (zh) * 2018-01-17 2018-07-24 宁波大学 一种无参考高动态范围图像客观质量评价方法
CN108520510A (zh) * 2018-03-19 2018-09-11 天津大学 一种基于整体和局部分析的无参考立体图像质量评价方法
CN108520510B (zh) * 2018-03-19 2021-10-19 天津大学 一种基于整体和局部分析的无参考立体图像质量评价方法
CN110163901A (zh) * 2019-04-15 2019-08-23 福州瑞芯微电子股份有限公司 一种后处理评价方法及系统
CN111510707A (zh) * 2020-04-23 2020-08-07 华侨大学 一种基于时空Gabor特征张量的全参考屏幕视频质量评估方法
CN111510707B (zh) * 2020-04-23 2021-08-31 华侨大学 一种基于时空Gabor特征张量的全参考屏幕视频质量评估方法
CN112085102A (zh) * 2020-09-10 2020-12-15 西安电子科技大学 基于三维时空特征分解的无参考视频质量评价方法
CN112085102B (zh) * 2020-09-10 2023-03-10 西安电子科技大学 基于三维时空特征分解的无参考视频质量评价方法
CN114821432A (zh) * 2022-05-05 2022-07-29 杭州电子科技大学 基于离散余弦变换的视频目标分割对抗攻击方法
CN117495854A (zh) * 2023-12-28 2024-02-02 淘宝(中国)软件有限公司 视频数据处理方法、设备及存储介质
CN117495854B (zh) * 2023-12-28 2024-05-03 淘宝(中国)软件有限公司 视频数据处理方法、设备及存储介质

Also Published As

Publication number Publication date
CN105828064B (zh) 2017-12-12

Similar Documents

Publication Publication Date Title
CN105828064A (zh) 融合局部和全局时空特性的无参考视频质量评估方法
Moorthy et al. Efficient motion weighted spatio-temporal video SSIM index
CN107959848B (zh) 基于三维卷积神经网络的通用型无参考视频质量评价算法
Seshadrinathan et al. A structural similarity metric for video based on motion models
KR101664913B1 (ko) 영상의 멀티레벨 분해를 이용하여 영상에 대한 품질 측정을 결정하는 방법 및 시스템
CN104243973B (zh) 基于感兴趣区域的视频感知质量无参考客观评价方法
CN106303507A (zh) 基于时空联合信息的无参考视频质量评估方法
CN108134937B (zh) 一种基于hevc的压缩域显著性检测方法
CN104219525B (zh) 基于显著性和最小可察觉失真的感知视频编码方法
CN103037217B (zh) 检测内插图像中的图像损坏
CN103200421A (zh) 一种基于Curvelet变换和相位一致的无参考图像质量评价方法
CN101950422A (zh) 一种基于奇异值分解的图像质量评价方法
CN105160667A (zh) 联合梯度和拉普拉斯-高斯信号的盲图像质量评价方法
CN101562675A (zh) 基于Contourlet变换的无参考型图像质量评测方法
Yang et al. A no-reference optical flow-based quality evaluator for stereoscopic videos in curvelet domain
Geng et al. A stereoscopic image quality assessment model based on independent component analysis and binocular fusion property
CN103745466A (zh) 一种基于独立成分分析的图像质量评价方法
CN106412572A (zh) 一种基于运动特性的视频流编码质量评价方法
CN103927734A (zh) 一种基于无参考的模糊图像质量评价方法
Moorthy et al. Visual perception and quality assessment
CN104202594A (zh) 一种基于三维小波变换的视频质量评价方法
CN109257592B (zh) 基于深度学习的立体视频质量客观评价方法
Douda et al. A reduced domain pool based on DCT for a fast fractal image encoding
CN106375754A (zh) 基于视觉刺激衰减特性的无参考视频质量评估方法
Seshadrinathan et al. An information theoretic video quality metric based on motion models

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant