CN103731664A - 全参考视频质量评估方法、装置及视频质量测试仪 - Google Patents

全参考视频质量评估方法、装置及视频质量测试仪 Download PDF

Info

Publication number
CN103731664A
CN103731664A CN201310729475.XA CN201310729475A CN103731664A CN 103731664 A CN103731664 A CN 103731664A CN 201310729475 A CN201310729475 A CN 201310729475A CN 103731664 A CN103731664 A CN 103731664A
Authority
CN
China
Prior art keywords
video
test
test video
reference video
alignment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310729475.XA
Other languages
English (en)
Other versions
CN103731664B (zh
Inventor
刘坤模
谢永明
傅峻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Migu Cultural Technology Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN201310729475.XA priority Critical patent/CN103731664B/zh
Publication of CN103731664A publication Critical patent/CN103731664A/zh
Application granted granted Critical
Publication of CN103731664B publication Critical patent/CN103731664B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种全参考视频质量评估方法、装置及视频质量测试仪,该方法包括:对参考视频和测试视频各自的ROI的YUV的每一视频分量分别提取六个不同的空域参数,获得差异矩阵对,利用差异矩阵对,对参考视频和测试视频进行时间和亮度的粗对齐,获得粗对齐结果;根据粗对齐结果,对参考视频和测试视频进行时间、空间、亮度以及色度的精对齐,获得精对齐结果的视频序列对;根据精对齐结果的视频序列对,对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,获得四个空间指标和一个时间指标,根据四个空间指标和一个时间指标,获得质量评估结果。通过上述方式,本发明能够获得更好的粗对齐效果,提高视频质量评估结果的准确性。

Description

全参考视频质量评估方法、装置及视频质量测试仪
技术领域
本发明涉及视频技术领域,特别是涉及一种全参考视频质量评估方法、装置及视频质量测试仪。
背景技术
随着移动通信和多媒体通信的发展,图像业务和视频业务被越来越广泛和频繁的使用。视频通信过程中,无损视频(即源视频、参考视频)经过编码器、通信信道、解码器等处理后,必然造成视频质量的损伤,对用户体验质量(Quality of Experience,QoE)产生负面影响,因此,对视频图像质量的评估一直是通信系统中一个重要的组成部分。
视频质量评估方法分为主观质量评估(Subjective QualityAssessment,SQA)和客观质量评估(Objective Quality Assessment,OQA)。主观质量评估虽然最为准确和可信,但是不利于实时视频通信的质量评估。客观质量评估按照是否需要源视频文件又分为三大类,分别为全参考(Full-Reference,FR)度量、部分参考(Reduce-Reference,RR)度量和无参考(No-Reference,NR)度量,其中,FR主要用于实验室的视频质量评估,NR、RR则用于系统终端或中间点视频质量监控。
目前,被广泛使用的全参考视频质量评估方法是峰值信噪比(PeakSignal Noise Ratio,PSNR),其计算公式为:
Figure BDA0000446594540000011
其中,M×N为图像大小,Om,n和rm,n分别代表参考图像和测试图像在(m,n)处的像素值。另一种使用比较广的全参考视频质量评估方法是视频质量感知评估(Perceptual Evaluation ofVideo Quality,PEVQ)。
上述现有方法在视频图像时域上的对齐很粗糙,因此,和主观质量评估结果之间的差别太大,降低了视频质量评估结果的准确性。
发明内容
本发明主要解决的技术问题是提供一种全参考视频质量评估方法、装置及视频质量测试仪,能够获得更好的粗对齐效果,提高视频质量评估结果的准确性。
第一方面,本发明提供一种全参考视频质量评估方法,包括:对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],利用所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],对所述参考视频和测试视频进行时间和亮度的粗对齐,获得所述参考视频和测试视频的粗对齐结果,其中,所述Ds是所述参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述Dp是所述测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差;对所述参考视频和测试视频的粗对齐结果进行时间、空间、亮度以及色度的精对齐,根据所述参考视频和测试视频的精对齐结果,对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,并获得所述测试视频的质量评估结果。
在第一方面的第一种可能的实现方式中,所述根据所述参考视频和测试视频的精对齐结果,对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析的步骤包括:根据所述参考视频和测试视频的精对齐结果,利用多线程技术对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,以并行获得四个空间指标和一个时间指标,其中所述四个空间指标分别是:亮度指标、色度指标以及两个时间变异性指标。
在第一方面的第二种可能的实现方式中,所述方法还包括:当所述参考视频和测试视频是两路或两路以上视频时,利用多线程技术使所述每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果。
结合第一方面的第二种可能的实现方式,在第一方面的第三种可能的实现方式中,所述当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使所述每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果的步骤包括:当所述参考视频和测试视频是两路或两路以上视频时,利用多线程技术使所述每路参考视频和测试视频的粗对齐、精对齐以及获得所述测试视频的质量评估结果的步骤独立并行处理,以实时获得每路测试视频的质量评估结果。
结合第一方面、第一方面的第一种至第三种中任一种可能的实现方式,在第一方面的第四种可能的实现方式中,所述对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数之前,包括:提取所述参考视频和测试视频的ROI区域;删除所述参考视频和测试视频提取的ROI区域边缘的十个像素。
第二方面,本发明提供一种全参考视频质量评估装置,所述装置包括:粗对齐模块、精对齐模块以及结果输出模块;所述粗对齐模块用于对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],利用所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],对所述参考视频和测试视频进行时间和亮度的粗对齐,获得所述参考视频和测试视频的粗对齐结果,其中,所述Ds是所述参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述Dp是所述测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差;所述精对齐模块用于对所述参考视频和测试视频的粗对齐结果进行时间、空间、亮度以及色度的精对齐;所述结果输出模块用于根据所述参考视频和测试视频的精对齐结果,对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,并获得所述测试视频的质量评估结果。
在第二方面的第一种可能的实现方式中,所述结果输出模块还用于根据所述参考视频和测试视频的精对齐结果,利用多线程技术对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,以并行获得四个空间指标和一个时间指标,其中所述四个空间指标分别是:亮度指标、色度指标以及两个时间变异性指标。
在第二方面的第二种可能的实现方式中,当所述参考视频和测试视频是两路或两路以上视频时,所述粗对齐模块、精对齐模块以及结果输出模块分别独立并行处理所述每路视频对应的参考视频和测试视频,以实时获得每路测试视频的质量评估结果。
在第二方面的第三种可能的实现方式中,当所述参考视频和测试视频是两路或两路以上视频时,对应于每一路视频,所述装置包括一个粗对齐模块、一个精对齐模块以及一个结果输出模块,其中每路参考视频和测试视频对应的粗对齐模块、精对齐模块以及结果输出模块独立并行处理,以实时获得每路测试视频的质量评估结果。
结合第二方面、第二方面的第一种至第三种中任一种可能的实现方式,在第二方面的第四种可能的实现方式中,所述装置还包括预处理模块,所述预处理模块用于提取所述参考视频和测试视频的ROI区域,删除所述参考视频和测试视频提取的ROI区域边缘的十个像素。
第三方面,本发明提供一种视频质量测试仪,所述测试仪包括:处理器、与处理器偶联的存储器以及输出装置;所述处理器用于对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],并将所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp]存储在存储器中,利用所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],对所述参考视频和测试视频进行时间和亮度的粗对齐,获得所述参考视频和测试视频的粗对齐结果,并将所述参考视频和测试视频的粗对齐结果存储在存储器中,其中,所述Ds是所述参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述Dp是所述测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差;对所述参考视频和测试视频的粗对齐结果进行时间、空间、亮度以及色度的精对齐;根据所述参考视频和测试视频的精对齐结果,对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,并获得所述测试视频的质量评估结果;所述存储器用于存储所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],所述参考视频和测试视频的粗对齐结果,以及所述参考视频和测试视频的精对齐结果;所述输出装置用于输出所述测试视频的质量评估结果。
本发明的有益效果是:区别于现有技术的情况,本发明通过对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得18个空域参数,这样在对参考视频和测试视频进行对齐时,可以获得更好的粗对齐效果,从而提高测试视频质量评估结果的准确性。
附图说明
图1是本发明全参考视频质量评估方法一实施方式的流程图;
图2是本发明全参考视频质量评估方法另一实施方式的流程图;
图3是本发明全参考视频质量评估装置一实施方式的结构示意图;
图4是本发明全参考视频质量评估装置另一实施方式的结构示意图;
图5是本发明视频质量测试仪一实施方式的结构示意图。
具体实施方式
下面结合附图和实施方式对本发明进行详细说明。
参阅图1,图1是本发明全参考视频质量评估方法一实施方式的流程图,包括:粗对齐步骤、精对齐步骤以及结果输出步骤,具体内容如下:
一、粗对齐步骤,具体包括:
步骤S101:对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得参考视频和测试视频的之间的差异矩阵对[Ds,Dp],其中,Ds是参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,Dp是测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差。
参考视频即为视频质量没有受到损伤的源视频,测试视频即为参考视频经过编码器、通信信道、解码器等处理后造成视频质量损伤的视频。
从视觉心理学角度来看,人眼视觉是一种积极的感受行为,不仅与生理因素有关,还在相当程度上取决于心理因素。人们在观察和理解图像时总会对其中某一些区域感兴趣,即空间感兴趣区域(Region ofInterest,ROI),整幅图像的质量往往取决于ROI的质量,而不感兴趣的区域质量下降有时候不易被觉察。将评估对象选为ROI,也可以减少边缘扭曲对视频质量评估结果的影响。
Y、U、V的三个视频分量中,Y表示明亮度,U、V是色度,分别描述影像色彩及饱和度。Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,这样参考视频和测试视频分别对应18个空域参数。对于参考视频和测试视频来说,提取的空域参数越多,在对参考视频和测试视频进行对齐时,准确性越高,从而为后面的视频质量评估结果的准确性打下好的基础。
参考视频和测试视频各自ROI的对应视频分量的均值分别是:
D s [ 0 , t ] = 1 W cs H cs Σ i = 0 W cs - 1 Σ j = 0 H cs - 1 C s [ i , j , t ]
D p [ 0 , t ] = 1 W cp H cp Σ i = 0 W cp - 1 Σ j = 0 H cp - 1 C p [ i , j , t ]
参考视频和测试视频各自ROI的对应视频分量的标准差分别是:
D s [ 1 , t ] = 1 W cs H cs Σ i = 0 W cs - 1 Σ j = 0 H cs - 1 ( C s [ i , j , t ] - D s [ 0 , t ] ) 2
D p [ 1 , t ] = 1 W cp H cp Σ i = 0 W cp - 1 Σ j = 0 H cp - 1 ( C p [ i , j , t ] - D p [ 0 , t ] ) 2
其中,Ds[0,t]是参考视频序列ROI的对应视频分量的第t帧的均值,Dp[0,t]是测试视频序列ROI的对应视频分量的第t帧的均值,Ds[1,t]是参考视频序列ROI的对应视频分量的第t帧的标准差,Dp[1,t]是测试视频序列ROI的对应视频分量的第t帧的标准差,0表示提取出来的第一个空域参数,1表示提取出来的第二个空域参数,Wcs是参考视频的像素宽,Hcs是参考视频的像素高,Wcp是测试视频的像素宽,Hcp是测试视频的像素高,Cs是参考视频帧,Cs[i,j,t]是参考视频的第t帧中的第i,j个像素的对应视频分量值,i=0,.....,Wcs-1,j=0,.....,Hcs-1,Cp是测试视频帧,Cp[i,j,t]是测试视频的第t帧中的第i,j个像素的视频分量值,i=0,.....,Wcp-1,j=0,.....,Hcp-1。
参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值:
D s [ 2 , t ] = 1 ( W cs - 3 ) ( H cs - 3 ) Σ i = 0 W cs - 4 Σ j = 0 H cs - 4 ( C s [ i , j , t ] - C s [ i + 3 , j + 3 , t ] )
D p [ 2 , t ] = 1 ( W cp - 3 ) ( H cp - 3 ) Σ i = 0 W cp - 4 Σ j = 0 H cp - 4 ( C p [ i , j , t ] - C p [ i + 3 , j + 3 , t ] )
参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的标准差:
D s [ 3 , t ] = 1 ( W cs - 3 ) ( H cs - 3 ) Σ i = 0 W cs - 4 Σ j = 0 H cs - 4 ( C s [ i , j , t ] - C s [ i + 3 , j + 3 , t ] - D s [ 2 , t ] ) 2
D p [ 3 , t ] = 1 ( W cp - 3 ) ( H cp - 3 ) Σ i = 0 W cp - 4 Σ j = 0 H cp - 4 ( C p [ i , j , t ] - C p [ i + 3 , j + 3 , t ] - D p [ 2 , t ] ) 2
其中,Ds[2,t]是参考视频序列在水平垂直方向平移三个像素后的对应视频分量之差第t帧的均值,Dp[2,t]是测试视频序列在水平垂直方向平移三个像素后的对应视频分量之差第t帧的均值,Ds[3,t]是参考视频序列在水平垂直方向平移三个像素后的对应视频分量之差第t帧的标准差,Dp[3,t]是测试视频序列在水平垂直方向平移三个像素后的对应视频分量之差第t帧的标准差,2表示提取出来的第三个空域参数,3表示提取出来的第四个空域参数。
通过视频图像的边缘提取,对ROI区域进行滤波得到最后两个参数:
(1)先获得边缘信息,即边缘能量函数:
E s [ t ] = ( C s [ t ] × K h ) 2 + ( C s [ t ] × K v ) 2
E p [ t ] = ( C p [ t ] × K h ) 2 + ( C p [ t ] × K v ) 2
其中,Es[t]是参考视频在第t帧的边缘能量,Ep[t]是测试视频在第t帧的边缘能量,Cs[t]是参考视频在第t帧的序列,Cp[t]是测试视频在第t帧的序列,Kh和Kv表示水平和垂直滤波器内核:
K h = 1 2 1 0 0 0 - 1 - 2 - 1 K v = - 1 0 1 - 2 0 2 - 1 0 1
(2)计算边缘信号的均值和标准差作为第五、六个指标:
参考视频和测试视频各自对应视频分量的边缘信号的均值:
D s [ 4 , t ] = 1 W cs H cs Σ i = 0 W cs - 1 Σ j = 0 H cs - 1 E s [ i , j , t ]
D p [ 4 , t ] = 1 W cp H cp Σ i = 0 W cp - 1 Σ j = 0 H cp - 1 E p [ i , j , t ]
参考视频和测试视频各自对应视频分量的边缘信号的标准差:
D s [ 5 , t ] = 1 W cs H cs Σ i = 0 W cs - 1 Σ j = 0 H cs - 1 ( E s [ i , j , t ] - D s [ 4 , t ] ) 2
D p [ 5 , t ] = 1 W cp H cp Σ i = 0 W cp - 1 Σ j = 0 H cp - 1 ( E p [ i , j , t ] - D p [ 4 , t ] ) 2
其中,Ds[4,t]是参考视频序列各自对应视频分量的边缘信号的均值,Dp[4,t]是测试视频序列各自对应视频分量的边缘信号的均值,Ds[5,t]是参考视频序列各自对应视频分量的边缘信号的标准差,Dp[5,t]是测试视频序列各自对应视频分量的边缘信号的标准差,4表示提取出来的第五个空域参数,5表示提取出来的第六个空域参数。Es[i,j,t]是参考视频的第t帧中的第i,j个像素的边缘能量,Ep[i,j,t]是测试视频的第t帧中的第i,j个像素的边缘能量。
Y、U、V的三个视频分量中的每一视频分量的六个空域参数都是以均值和标准差为基础的,这18个空域参数可以表示每帧的基本特征,把一帧图像的18个参数放置在矩阵的一列中,这样,一段N帧的视频序列就可以提取出18*N的矩阵Ds和Dp
步骤S102:利用参考视频和测试视频的之间的差异矩阵对[Ds,Dp],对参考视频和测试视频进行时间和亮度的粗对齐,获得参考视频和测试视频的粗对齐结果。
全参考算法中影响最终评价结果的一个很重要的方面就是参考视频和测试视频在时间上的对齐,对参考视频和测试视频进行时间的对齐就是寻找参考视频与测试视频在时间上相同的对应帧。时间上的对齐可能会受到延迟、帧跳过或帧重复的影响。基本原理是:首先搜索输入序列的静态延迟,如果没有满足可靠性标准的阈值延迟,那么这个信号被分成两部分,然后分别计算这两部分的静态延迟,依次类推,直到所有的片段都被准确的对齐或是输入信号的片段不能再分为止。为了更准确地执行实际的对齐,需要对提取的Y、U、V三个视频分量中每个视频分量的六个不同的空域参数进行分析和相关性计算得出结果,最后选择最适合的结果作为片段的粗延迟。具体说明如下:
对于第t帧视频,根据归一化的积差相关函数
Figure BDA0000446594540000101
分别求解YUV分量上X[t]和Y[t]间的延迟为:
delay [ Y , U , V ] ( X [ t ] , Y [ t ] ) = arg max n ( r ~ xy [ n ] )
其中,X[t]和Y[t]是长度为nx和ny的向量。
corrm [ Y , U , V ] ( X [ t ] , Y [ t ] ) = max n ( r ~ xy [ n ] ) 则表示为一个准确延时估计的相似度度量。
因此,两个相似性矩阵空间Ds和Dp的相似度度量为Ds和Dp的单独的一方面信息的最大相似度:
corrmsim [ Y , U , V ] ( D s , D p ) = max i ∈ [ 0,5 ] ( corrm [ Y , U , V ] ( D s [ i , t ] , D p [ i , t ] ) )
两个相似性矩阵的相似性指数定义为信息方面的指标,该指标具有最大的相似性度量。
corrmx [ Y , U , V ] ( D s , D p ) = arg max i ∈ [ 0,5 ] ( corrm [ Y , U , V ] ( D s [ i , t ] , D p [ i , t ] ) )
然后,取YUV分量中的最大值:
corrmx(DS,DP)=max(corrmxY,corrmxU,corrmxV)
最后,根据其中最大值计算两个相似性矩阵延迟信息的最大相似度:
delay(DS,DP)=delay(DS[corrmx(DS,DP)],DP[corrmx(DS,DP)])
根据该两个相似性矩阵延迟信息的最大相似度,对两个相似性矩阵参考视频和测试视频进行时间上的粗对齐,两个相似性矩阵延迟信息的最大相似度大于某个阈值的对应视频的帧被认为是对齐的。
亮度的粗对齐是基于时间未对齐的参考视频序列和测试视频序列的亮度部分。方法是计算出的亮度分量的直方图,计算累积直方图,测定亮度校正曲线;通过直方图和亮度校正曲线进行校正。
二、精对齐和获得测试视频的质量评估结果步骤包括:
步骤S103:对参考视频和测试视频的粗对齐结果进行时间、空间、亮度以及色度的精对齐,根据参考视频和测试视频的精对齐结果,对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,并获得测试视频的质量评估结果。
其中,步骤S103具体包括:子步骤S103a、子步骤S103b以及子步骤S103c。
子步骤S103a:根据参考视频和测试视频的粗对齐结果,利用视频序列对的直方图进行定量分析比较,对参考视频和测试视频进行时间、空间、亮度以及色度的精对齐,获得参考视频和测试视频的精对齐结果的视频序列对[SA,PA],其中,SA是参考视频精对齐结果的视频序列,PA是测试视频精对齐结果的视频序列。
对参考视频和测试视频进行时间的精对齐是在时间和亮度粗对齐的基础上进行的,使用均方误差(Mean Square Error,MSE)标准进行时间的精对齐。主要是对粗对齐的视频对计算其均方误差,均方误差越小则表示其对轻度越好,精对齐即为寻找最小的均方误差。
对参考视频和测试视频进行空间的精对齐是在时间精对齐的基础上进行的,也是使用MSE的方法,主要是在一帧一帧的基础上对参考视频信号和测试视频信号的空间转移进行测定和校正,通过计算空间的最小均方误差,完成参考视频和测试视频空间的精对齐。
对参考视频和测试视频进行亮度以及色度的精对齐在时间和空间精对齐的基础上进行的,包括:
(1)亮度和色度校正曲线的测定:第一步是计算参考视频和测试视频图像的亮度和色度直方图,第二步是计算参考视频和测试视频信号的累积直方图。(2)亮度和色度直方图的校正,即比较参考视频和测试视频图像直方图的匹配情况,以确定参考视频和测试视频亮度和色度的对齐情况。
经过参考视频和测试视频进行时间、空间、亮度以及色度的精对齐后,即可获得参考视频和测试视频的精对齐结果的视频序列对[SA,PA]。
子步骤S103b:根据参考视频和测试视频的精对齐结果的视频序列对[SA,PA],对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,获得四个空间指标和一个时间指标,其中四个空间指标分别是:亮度指标、色度指标以及两个时间变异性指标。
空间扭曲分析是对基于通过计算校准之后的图像在亮度和色度上的局部梯度值来近似得到的边缘图像进行的分析。
空间扭曲分析主要是计算获得空间域的四个不同的空间指标,一个描述边缘差异的亮度指标,一个是描述边缘差异的色度指标,以及两个描述视频序列运动量的时间变异性指标。
边缘图像的计算公式如下:
S edge , μ [ t ] = MaxFilte r 3 × 3 ( ( S A , μ [ t ] * K v ) 2 + ( S A , μ [ t ] * K h ) 2 )
P edge , μ [ t ] = MaxFilte r 3 × 3 ( ( P A , μ [ t ] * K v ) 2 + ( P A , μ [ t ] * K h ) 2 )
其中Kv=[0.5,0.5,-0.5,-0.5],Kh=[0.5,0.5,-0.5,-0.5]T,μ∈{Y,Cr,Cb}分别代表不同的颜色通道。MaxFilter3×3()指的是对图像的非线性滤波,这个函数的作用是在处理过的图像上找到3×3矩阵中的局部最大值。
在对参考视频和测试视频的精对齐结果的视频序列对[SA,PA]计算得到各自的边缘图像后,通过边缘图像计算获得4个空间指标。
当一个扭曲的视频序列包含两个完全相同的图像时,被认为是重复的。时间扭曲分析主要是针对视频序列的重复帧、跳过帧等异常情况进行分析,以获得一个时间指标可以描述视频序列中的这些异常情况,即分析测试视频序列中重复帧、跳过帧等对用户观看体验造成影响的视频帧占总体视频帧的比例。
其中,子步骤S103b可以根据参考视频和测试视频的精对齐结果的视频序列对[SA,PA],利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,以并行获得四个空间指标和一个时间指标。
多线程技术就是利用特殊的硬件指令,把两个逻辑内核模拟成两个物理芯片,让单个处理器都能使用线程级并行计算,进而兼容多线程操作系统和软件,减少了中央处理器CPU的闲置时间,提高CPU的运行效率。在本发明实施方式中,采用图形处理器(Graphic Processing Unit,GPU)利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,可以并行获得四个空间指标和一个时间指标。通过这种方式,可以提高计算效率,缩短了视频质量评估所需要的时间,从而实现视频质量评估的实时性。
步骤S103c:通过四个空间指标和一个时间指标,获得测试视频的质量评估结果。
利用函数映射的方法对视频质量进行评估。这里假设I[i]为各个输入指标(即四个空间指标和一个时间指标)。这个映射函数需要定义输入比例因子的最小值和最大值Imin[i],Imax[i],定义一系列的比例因子wx[i]以及是一组输出比例因子。
Figure BDA0000446594540000141
Score = LinearOffset + Σ i = 0 4 w [ i ] 1 + e α [ i ] · I lim [ i ] + β [ i ]
Figure BDA0000446594540000143
其中,可以根据PEVQ方法中所使用的不同视频格式(例如VGA、CIF、QCIF等)的不同分辨率信号,设置Ilim[i]、Imax[i]、w[i]、α[i]、β[i]值。
例如,视频格式是VGA,设置的值可以参见表1:
表1:视频格式是VGA时各因子的设置值
Figure BDA0000446594540000144
表2是五分制标准对视频质量进行评分的等级表,根据DMSO输出的分数Score对照表2,即可实时得到测试视频的质量评估结果。
表2五级损伤标度
评分等级 损伤术语
5 不觉察
4 可觉察、但不讨厌
3 稍有讨厌
2 讨厌
1 非常讨厌
其中,当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果。具体可以是:当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路参考视频和测试视频的粗对齐、精对齐以及获得测试视频的质量评估结果的步骤独立并行处理,以实时获得每路测试视频的质量评估结果。也就是说,粗对齐、精对齐以及获得测试视频的质量评估结果的步骤分别可以独立运行,各自保留各自的运算或计算结果,在某一个步骤需要该运算或计算结果时,可以调出该运算结果。通过这种方式,可以实现多路视频质量评估结果的实时性。当然,当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果,也可以采用其它方式,例如,如果是三路视频,假设粗对齐、精对齐以及获得测试视频的质量评估结果的步骤为一个线程执行,为了实现三路视频质量的实时性评估,采用三个这样的线程也可以达到目的。
本发明实施方式通过对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得18个空域参数,这样在对参考视频和测试视频进行对齐时,可以获得更好的粗对齐效果,从而提高测试视频质量评估结果的准确性。另外,利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,可以提高计算效率,缩短视频质量评估所需要的时间,从而实现视频质量评估的实时性;利用多线程技术使每路参考视频和测试视频对应的粗对齐、精对齐以及获得测试视频的质量评估结果的步骤独立并行处理,从而实时获得每路测试视频的质量评估结果。
参阅图2,图2是本发明全参考视频质量评估方法另一实施方式的流程图,本实施方式和图1的实施方式基本相同,相同的地方请参见图1以及相关的文字说明,不同之处在于本实施方式还包括步骤S201和步骤S202,具体内容如下:
一、预处理步骤,具体包括:
步骤S201:提取参考视频和测试视频的ROI区域。
从视觉心理学角度来看,人眼视觉是一种积极的感受行为,不仅与生理因素有关,还在相当程度上取决于心理因素。人们在观察和理解图像时总会对其中某一些区域感兴趣,即空间感兴趣区域(Region ofInterest,ROI),整幅图像的质量往往取决于ROI的质量,而不感兴趣的区域质量下降有时候不易被觉察。将评估对象选为ROI,也可以减少边缘扭曲对视频质量评估结果的影响。
步骤S202:删除参考视频和测试视频提取的ROI区域边缘的十个像素。
删除掉参考视频和测试视频ROI区域边缘的十个像素,以消除边缘效应。
二、粗对齐步骤,具体包括:
步骤S203:对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得参考视频和测试视频的之间的差异矩阵对[Ds,Dp],其中,Ds是参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,Dp是测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差。
步骤S204:利用参考视频和测试视频的之间的差异矩阵对[Ds,Dp],对参考视频和测试视频进行时间和亮度的粗对齐,获得参考视频和测试视频的粗对齐结果。
三、精对齐和获得测试视频的质量评估结果步骤包括:
步骤S205:对参考视频和测试视频的粗对齐结果进行时间、空间、亮度以及色度的精对齐,根据参考视频和测试视频的精对齐结果,对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,并获得测试视频的质量评估结果。
其中,步骤S205具体包括:子步骤S205a、子步骤S205b以及子步骤S205c。
子步骤S205a:根据参考视频和测试视频的粗对齐结果,利用视频序列对的直方图进行定量分析比较,对参考视频和测试视频进行时间、空间、亮度以及色度的精对齐,获得参考视频和测试视频的精对齐结果的视频序列对[SA,PA],其中,SA是参考视频精对齐结果的视频序列,PA是测试视频精对齐结果的视频序列。
子步骤S205b:根据参考视频和测试视频的精对齐结果的视频序列对[SA,PA],对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,获得四个空间指标和一个时间指标,其中四个空间指标分别是:亮度指标、色度指标以及两个时间变异性指标。
其中,子步骤S205b可以根据参考视频和测试视频的精对齐结果的视频序列对[SA,PA],利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,以并行获得四个空间指标和一个时间指标。
子步骤S205c:通过四个空间指标和一个时间指标,获得测试视频的质量评估结果。
其中,当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果。具体可以是:当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路参考视频和测试视频对应的粗对齐步骤、精对齐步骤以及结果输出步骤独立并行处理,以实时获得每路测试视频的质量评估结果。也就是说,粗对齐步骤、精对齐步骤以及结果输出步骤分别可以独立运行,各自保留各自的运算或计算结果,在某一个步骤需要该运算或计算结果时,可以调出该运算结果。通过这种方式,可以实现多路视频质量评估结果的实时性。当然,当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果,也可以采用其它方式,例如,如果是三路视频,假设粗对齐步骤、精对齐步骤以及结果输出步骤为一个线程执行,为了实现三路视频质量的实时性评估,采用三个这样的线程也可以达到目的。
本发明实施方式通过对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得18个空域参数,这样在对参考视频和测试视频进行对齐时,可以获得更好的粗对齐效果,从而提高测试视频质量评估结果的准确性。另外,利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,可以提高计算效率,缩短视频质量评估所需要的时间,从而实现视频质量评估的实时性;利用多线程技术使每路参考视频和测试视频对应的粗对齐步骤、精对齐步骤以及结果输出步骤独立并行处理,从而实时获得每路测试视频的质量评估结果。通过对参考视频和测试视频进行ROI区域的提取,可以减少边缘扭曲对视频质量评估结果的影响。通过删除参考视频和测试视频提取的ROI区域边缘的十个像素,可以消除边缘效应。
参阅图3,图3是本发明全参考视频质量评估装置一实施方式的结构示意图,该装置包括:粗对齐模块101、精对齐模块102以及结果输出模块103。
需要说明的是,本实施方式的装置可以执行图1和图2中的步骤。
粗对齐模块101用于对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得参考视频和测试视频的之间的差异矩阵对[Ds,Dp],利用参考视频和测试视频的之间的差异矩阵对[Ds,Dp],对参考视频和测试视频进行时间和亮度的粗对齐,获得参考视频和测试视频的粗对齐结果,其中,Ds是参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,Dp是测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差。
参考视频即为视频质量没有受到损伤的源视频,测试视频即为参考视频经过编码器、通信信道、解码器等处理后造成视频质量损伤的视频。
从视觉心理学角度来看,人眼视觉是一种积极的感受行为,不仅与生理因素有关,还在相当程度上取决于心理因素。人们在观察和理解图像时总会对其中某一些区域感兴趣,即空间感兴趣区域(Region ofInterest,ROI),整幅图像的质量往往取决于ROI的质量,而不感兴趣的区域质量下降有时候不易被觉察。将评估对象选为ROI,也可以减少边缘扭曲对视频质量评估结果的影响。
Y、U、V的三个视频分量中,Y表示明亮度,U、V是色度,分别描述影像色彩及饱和度。Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,这样参考视频和测试视频分别对应18个空域参数。对于参考视频和测试视频来说,提取的空域参数越多,在对参考视频和测试视频进行对齐时,准确性越高,从而为后面的视频质量评估结果的准确性打下好的基础。
Y、U、V的三个视频分量中的每一视频分量的六个空域参数都是以均值和标准差为基础的,这18个空域参数可以表示每帧的基本特征,把一帧图像的18个参数放置在矩阵的一列中,这样,一段N帧的视频序列就可以提取出18*N的矩阵Ds和Dp
全参考算法中影响最终评价结果的一个很重要的方面就是参考视频和测试视频在时间上的对齐,对参考视频和测试视频进行时间的对齐就是寻找参考视频与测试视频在时间上相同的对应帧。时间上的对齐可能会受到延迟、帧跳过或帧重复的影响。基本原理是:首先搜索输入序列的静态延迟,如果没有满足可靠性标准的阈值延迟,那么这个信号被分成两部分,然后分别计算这两部分的静态延迟,依次类推,直到所有的片段都被准确的对齐或是输入信号的片段不能再分为止。为了更准确地执行实际的对齐,需要对提取的Y、U、V三个视频分量中每个视频分量的六个不同的空域参数进行分析和相关性计算得出结果,最后选择最适合的结果作为片段的粗延迟。
精对齐模块102用于根据粗对齐模块101获得的参考视频和测试视频的粗对齐结果,利用视频序列对的直方图进行定量分析比较,对参考视频和测试视频进行时间、空间、亮度以及色度的精对齐,获得参考视频和测试视频的精对齐结果的视频序列对[SA,PA],其中,SA是参考视频精对齐结果的视频序列,PA是测试视频精对齐结果的视频序列。
对参考视频和测试视频进行时间的精对齐是在时间和亮度粗对齐的基础上进行的,使用均方误差(Mean Square Error,MSE)标准进行时间的精对齐。主要是对粗对齐的视频对计算其均方误差,均方误差越小则表示其对轻度越好,精对齐即为寻找最小的均方误差。
对参考视频和测试视频进行空间的精对齐是在时间精对齐的基础上进行的,也是使用MSE的方法,主要是在一帧一帧的基础上对参考视频信号和测试视频信号的空间转移进行测定和校正,通过计算空间的最小均方误差,完成参考视频和测试视频空间的精对齐。
对参考视频和测试视频进行亮度以及色度的精对齐在时间和空间精对齐的基础上进行的,包括:
(1)亮度和色度校正曲线的测定:第一步是计算参考视频和测试视频图像的亮度和色度直方图,第二步是计算参考视频和测试视频信号的累积直方图。(2)亮度和色度直方图的校正,即比较参考视频和测试视频图像直方图的匹配情况,以确定参考视频和测试视频亮度和色度的对齐情况。
经过参考视频和测试视频进行时间、空间、亮度以及色度的精对齐后,即可获得参考视频和测试视频的精对齐结果的视频序列对[SA,PA]。
结果输出模块103用于根据精对齐模块102获得的参考视频和测试视频的精对齐结果的视频序列对[SA,PA],对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,获得四个空间指标和一个时间指标,根据四个空间指标和一个时间指标,获得测试视频的质量评估结果,其中四个空间指标分别是:亮度指标、色度指标以及两个时间变异性指标。
空间扭曲分析是对基于通过计算校准之后的图像在亮度和色度上的局部梯度值来近似得到的边缘图像进行的分析。
空间扭曲分析主要是计算获得空间域的四个不同的空间指标,一个描述边缘差异的亮度指标,一个是描述边缘差异的色度指标,以及两个描述视频序列运动量的时间变异性指标。
在对参考视频和测试视频的精对齐结果的视频序列对[SA,PA]计算得到各自的边缘图像后,通过边缘图像计算获得4个空间指标。
当一个扭曲的视频序列包含两个完全相同的图像时,被认为是重复的。时间扭曲分析主要是针对视频序列的重复帧、跳过帧等异常情况进行分析,以获得一个时间指标可以描述视频序列中的这些异常情况。
结果输出模块103还用于根据参考视频和测试视频的精对齐结果的视频序列对[SA,PA],利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,以并行获得四个空间指标和一个时间指标,即分析测试视频序列中重复帧、跳过帧等对用户观看体验造成影响的视频帧占总体视频帧的比例。
多线程技术就是利用特殊的硬件指令,把两个逻辑内核模拟成两个物理芯片,让单个处理器都能使用线程级并行计算,进而兼容多线程操作系统和软件,减少了中央处理器CPU的闲置时间,提高CPU的运行效率。在本发明实施方式中,采用图形处理器(Graphic Processing Unit,GPU)利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,可以并行获得四个空间指标和一个时间指标。通过这种方式,可以提高计算效率,缩短了视频质量评估所需要的时间,从而实现视频质量评估的实时性。
其中,该装置还用于当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果。
进一步地,该装置还用于当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路参考视频和测试视频对应的粗对齐模块、精对齐模块以及结果输出模块独立并行处理,以实时获得每路测试视频的质量评估结果。
本发明实施方式通过对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得18个空域参数,这样在对参考视频和测试视频进行对齐时,可以获得更好的粗对齐效果,从而提高测试视频质量评估结果的准确性。另外,利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,可以提高计算效率,缩短视频质量评估所需要的时间,从而实现视频质量评估的实时性;利用多线程技术使每路参考视频和测试视频对应的粗对齐步骤、精对齐步骤以及结果输出步骤独立并行处理,从而实时获得每路测试视频的质量评估结果。
参阅图4,图4是本发明全参考视频质量评估装置另一实施方式的结构示意图,本实施方式和图3的实施方式基本相同,相同的地方请参见图3以及相应的文字说明,不同之处在于本实施方式还包括预处理模块201。该装置包括:预处理模块201、粗对齐模块202、精对齐模块203以及结果输出模块204。
需要说明的是,本实施方式的装置可以执行图2中的步骤。
预处理模块201用于对参考视频和测试视频进行ROI区域的提取,删除参考视频和测试视频提取的ROI区域边缘的十个像素。
从视觉心理学角度来看,人眼视觉是一种积极的感受行为,不仅与生理因素有关,还在相当程度上取决于心理因素。人们在观察和理解图像时总会对其中某一些区域感兴趣,即空间感兴趣区域(Region ofInterest,ROI),整幅图像的质量往往取决于ROI的质量,而不感兴趣的区域质量下降有时候不易被觉察。将评估对象选为ROI,也可以减少边缘扭曲对视频质量评估结果的影响。删除掉参考视频和测试视频ROI区域边缘的十个像素,以消除边缘效应。
粗对齐模块202用于对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得参考视频和测试视频的之间的差异矩阵对[Ds,Dp],利用参考视频和测试视频的之间的差异矩阵对[Ds,Dp],对参考视频和测试视频进行时间和亮度的粗对齐,获得参考视频和测试视频的粗对齐结果,其中,Ds是参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,Dp是测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差。
精对齐模块203用于根据粗对齐模块202获得的参考视频和测试视频的粗对齐结果,利用视频序列对的直方图进行定量分析比较,对参考视频和测试视频进行时间、空间、亮度以及色度的精对齐,获得参考视频和测试视频的精对齐结果的视频序列对[SA,PA],其中,SA是参考视频精对齐结果的视频序列,PA是测试视频精对齐结果的视频序列。
结果输出模块204用于根据精对齐模块203获得的参考视频和测试视频的精对齐结果的视频序列对[SA,PA],对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,获得四个空间指标和一个时间指标,根据四个空间指标和一个时间指标,获得测试视频的质量评估结果,其中四个空间指标分别是:亮度指标、色度指标以及两个时间变异性指标。
结果输出模块204还用于根据参考视频和测试视频的精对齐结果的视频序列对[SA,PA],利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,以并行获得四个空间指标和一个时间指标。
其中,该装置还用于当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果。
进一步地,该装置还用于当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路参考视频和测试视频对应的粗对齐模块、精对齐模块以及结果输出模块独立并行处理,以实时获得每路测试视频的质量评估结果。也就是说,粗对齐模块、精对齐模块以及结果输出模块分别可以独立运行,各自保留各自的运算或计算结果,在某一个模块或单元需要该运算或计算结果时,可以调出该运算结果。通过这种方式,可以实现多路视频质量评估结果的实时性。当然,当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果,也可以采用其它方式。
本发明实施方式通过对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得18个空域参数,这样在对参考视频和测试视频进行对齐时,可以获得更好的粗对齐效果,从而提高测试视频质量评估结果的准确性。另外,利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,可以提高计算效率,缩短视频质量评估所需要的时间,从而实现视频质量评估的实时性;利用多线程技术使每路参考视频和测试视频对应的粗对齐步骤、精对齐步骤以及结果输出步骤独立并行处理,从而实时获得每路测试视频的质量评估结果。通过对参考视频和测试视频进行ROI区域的提取,可以减少边缘扭曲对视频质量评估结果的影响。通过删除参考视频和测试视频提取的ROI区域边缘的十个像素,可以消除边缘效应。
参阅图5,图5是本发明视频质量测试仪一实施方式的结构示意图,该视频质量测试仪包括:处理器31、与处理器31偶联的存储器32、输出装置33、以及用于处理器31、存储器32以及输出装置33进行通信的数据总线34。
在一些实施方式中,存储器32存储了如下的元素,可执行模块或者数据结构,或者他们的子集,或者他们的扩展集:
操作系统,包含各种系统程序,用于实现各种基础业务以及处理基于硬件的任务;
应用程序模块,包含各种应用程序,用于实现各种应用业务。
在本发明实施方式中,处理器31用于在粗对齐阶段,对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],并将所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp]存储在存储器32中,利用所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],对所述参考视频和测试视频进行时间和亮度的粗对齐,获得所述参考视频和测试视频的粗对齐结果,并将所述参考视频和测试视频的粗对齐结果存储在存储器32中,其中,所述Ds是所述参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述Dp是所述测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差;在精对齐阶段,根据所述参考视频和测试视频的粗对齐结果,利用视频序列对的直方图进行定量分析比较,对所述参考视频和测试视频进行时间、空间、亮度以及色度的精对齐,获得所述参考视频和测试视频的精对齐结果的视频序列对[SA,PA],并将所述参考视频和测试视频的精对齐结果的视频序列对[SA,PA]存储在存储器32中,其中,所述SA是所述参考视频精对齐结果的视频序列,所述PA是所述测试视频精对齐结果的视频序列;在结构输出阶段,根据所述参考视频和测试视频的精对齐结果的视频序列对[SA,PA],对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,获得四个空间指标和一个时间指标,并将所述四个空间指标和一个时间指标存储在存储器32中,根据所述四个空间指标和一个时间指标,获得所述测试视频的质量评估结果,控制输出装置33输出所述测试视频的质量评估结果,其中所述四个空间指标分别是:亮度指标、色度指标以及两个时间变异性指标。
其中,处理器31还用于根据所述参考视频和测试视频的精对齐结果的视频序列对[SA,PA],利用多线程技术对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,以并行获得四个空间指标和一个时间指标。
其中,所述视频质量测试仪还用于当所述参考视频和测试视频是两路或两路以上视频时,利用多线程技术使所述每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果。
进一步地,所述视频质量测试仪还用于当所述参考视频和测试视频是两路或两路以上视频时,利用多线程技术使所述每路参考视频和测试视频对应的粗对齐阶段、精对齐阶段以及结果输出阶段独立并行处理,以实时获得每路测试视频的质量评估结果。
其中,所述处理器还用于对所述参考视频和测试视频进行ROI区域的提取;删除所述参考视频和测试视频提取的ROI区域边缘的十个像素。
本发明实施方式通过对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得18个空域参数,这样在对参考视频和测试视频进行对齐时,可以获得更好的粗对齐效果,从而提高测试视频质量评估结果的准确性。另外,利用多线程技术对参考视频和测试视频进行空间扭曲分析和时间扭曲分析,可以提高计算效率,缩短视频质量评估所需要的时间,从而实现视频质量评估的实时性;利用多线程技术使每路参考视频和测试视频对应的粗对齐步骤、精对齐步骤以及结果输出步骤独立并行处理,从而实时获得每路测试视频的质量评估结果。通过对参考视频和测试视频进行ROI区域的提取,可以减少边缘扭曲对视频质量评估结果的影响。通过删除参考视频和测试视频提取的ROI区域边缘的十个像素,可以消除边缘效应。
在本发明所提供的几个实施方式中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施方式仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施方式方案的目的。
另外,在本发明各个实施方式中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明各个实施方式所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本发明的实施方式,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (11)

1.一种全参考视频质量评估方法,其特征在于,包括:
对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],利用所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],对所述参考视频和测试视频进行时间和亮度的粗对齐,获得所述参考视频和测试视频的粗对齐结果,其中,所述Ds是所述参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述Dp是所述测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差;
对所述参考视频和测试视频的粗对齐结果进行时间、空间、亮度以及色度的精对齐,根据所述参考视频和测试视频的精对齐结果,对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,并获得所述测试视频的质量评估结果。
2.根据权利要求1所述的方法,其特征在于,所述根据所述参考视频和测试视频的精对齐结果,对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析的步骤包括:根据所述参考视频和测试视频的精对齐结果,利用多线程技术对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,以并行获得四个空间指标和一个时间指标,其中所述四个空间指标分别是:亮度指标、色度指标以及两个时间变异性指标。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:当所述参考视频和测试视频是两路或两路以上视频时,利用多线程技术使所述每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果。
4.根据权利要求3所述的方法,其特征在于,所述当参考视频和测试视频是两路或两路以上视频时,利用多线程技术使所述每路视频对应的参考视频和测试视频并行处理,以实时获得每路测试视频的质量评估结果的步骤包括:
当所述参考视频和测试视频是两路或两路以上视频时,利用多线程技术使所述每路参考视频和测试视频的粗对齐、精对齐以及获得所述测试视频的质量评估结果的步骤独立并行处理,以实时获得每路测试视频的质量评估结果。
5.根据权利要求1至4任一项所述的方法,其特征在于,所述对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数之前,包括:
提取所述参考视频和测试视频的ROI区域;
删除所述参考视频和测试视频提取的ROI区域边缘的十个像素。
6.一种全参考视频质量评估装置,其特征在于,所述装置包括:粗对齐模块、精对齐模块以及结果输出模块;
所述粗对齐模块用于对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得所述参考视频和测试视频的之间的差异矩阵对??Ds,Dp??,利用所述参考视频和测试视频的之间的差异矩阵对??Ds,Dp??,对所述参考视频和测试视频进行时间和亮度的粗对齐,获得所述参考视频和测试视频的粗对齐结果,其中,所述Ds是所述参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述Dp是所述测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差;
所述精对齐模块用于对所述参考视频和测试视频的粗对齐结果进行时间、空间、亮度以及色度的精对齐;
所述结果输出模块用于根据所述参考视频和测试视频的精对齐结果,对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,并获得所述测试视频的质量评估结果。
7.根据权利要求6所述的装置,其特征在于,所述结果输出模块还用于根据所述参考视频和测试视频的精对齐结果,利用多线程技术对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,以并行获得四个空间指标和一个时间指标,其中所述四个空间指标分别是:亮度指标、色度指标以及两个时间变异性指标。
8.根据权利要求6所述的装置,其特征在于,当所述参考视频和测试视频是两路或两路以上视频时,所述粗对齐模块、精对齐模块以及结果输出模块分别独立并行处理所述每路视频对应的参考视频和测试视频,以实时获得每路测试视频的质量评估结果。
9.根据权利要求6所述的装置,其特征在于,当所述参考视频和测试视频是两路或两路以上视频时,对应于每一路视频,所述装置包括一个粗对齐模块、一个精对齐模块以及一个结果输出模块,其中每路参考视频和测试视频对应的粗对齐模块、精对齐模块以及结果输出模块独立并行处理,以实时获得每路测试视频的质量评估结果。
10.根据权利要求6至9任一项所述的装置,其特征在于,所述装置还包括预处理模块,所述预处理模块用于提取所述参考视频和测试视频的ROI区域,删除所述参考视频和测试视频提取的ROI区域边缘的十个像素。
11.一种视频质量测试仪,其特征在于,所述测试仪包括:处理器、与处理器偶联的存储器以及输出装置;
所述处理器用于对参考视频和测试视频各自的空间感兴趣区域ROI的Y、U、V的三个视频分量中的每一视频分量分别提取六个不同的空域参数,获得所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],并将所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp]存储在存储器中,利用所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],对所述参考视频和测试视频进行时间和亮度的粗对齐,获得所述参考视频和测试视频的粗对齐结果,并将所述参考视频和测试视频的粗对齐结果存储在存储器中,其中,所述Ds是所述参考视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述Dp是所述测试视频的三个视频分量中的每一视频分量分别提取的六个不同的空域参数所形成的矩阵,所述六个不同的空域参数分别是:参考视频和测试视频各自ROI的对应视频分量的均值和标准差、参考视频信号和测试视频信号分别在水平垂直方向平移三个像素后的对应视频分量之差的均值和标准差、参考视频和测试视频各自对应视频分量的边缘信号的均值和标准差;对所述参考视频和测试视频的粗对齐结果进行时间、空间、亮度以及色度的精对齐;根据所述参考视频和测试视频的精对齐结果,对所述参考视频和测试视频进行空间扭曲分析和时间扭曲分析,并获得所述测试视频的质量评估结果;
所述存储器用于存储所述参考视频和测试视频的之间的差异矩阵对[Ds,Dp],所述参考视频和测试视频的粗对齐结果,以及所述参考视频和测试视频的精对齐结果;
所述输出装置用于输出所述测试视频的质量评估结果。
CN201310729475.XA 2013-12-25 2013-12-25 全参考视频质量评估方法、装置及视频质量测试仪 Active CN103731664B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310729475.XA CN103731664B (zh) 2013-12-25 2013-12-25 全参考视频质量评估方法、装置及视频质量测试仪

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310729475.XA CN103731664B (zh) 2013-12-25 2013-12-25 全参考视频质量评估方法、装置及视频质量测试仪

Publications (2)

Publication Number Publication Date
CN103731664A true CN103731664A (zh) 2014-04-16
CN103731664B CN103731664B (zh) 2015-09-30

Family

ID=50455567

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310729475.XA Active CN103731664B (zh) 2013-12-25 2013-12-25 全参考视频质量评估方法、装置及视频质量测试仪

Country Status (1)

Country Link
CN (1) CN103731664B (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103929637A (zh) * 2014-04-23 2014-07-16 无锡天脉聚源传媒科技有限公司 一种视频比较装置及其比较方法
CN108370454A (zh) * 2015-12-03 2018-08-03 深圳市大疆创新科技有限公司 用于视频处理的系统和方法
CN108600745A (zh) * 2018-08-06 2018-09-28 北京理工大学 一种基于时空域切片多图谱配置的视频质量评价方法
CN108737812A (zh) * 2017-04-19 2018-11-02 中国移动通信有限公司研究院 一种视频质量的测试方法及装置
CN108898150A (zh) * 2018-08-09 2018-11-27 清华大学 视频结构对齐方法和系统
CN110213573A (zh) * 2019-06-14 2019-09-06 北京字节跳动网络技术有限公司 一种视频质量评估方法、装置和电子设备
CN110493638A (zh) * 2019-08-20 2019-11-22 广州虎牙科技有限公司 视频帧对齐方法、装置、电子设备及可读存储介质
CN110751649A (zh) * 2019-10-29 2020-02-04 腾讯科技(深圳)有限公司 视频质量评估方法、装置、电子设备及存储介质
CN111539948A (zh) * 2020-05-11 2020-08-14 北京百度网讯科技有限公司 视频质量评估的方法、装置、电子设备及存储介质
CN112367520A (zh) * 2020-11-11 2021-02-12 郑州师范学院 基于人工智能的视频质量诊断系统
CN112837640A (zh) * 2021-01-27 2021-05-25 百果园技术(新加坡)有限公司 屏幕动态画面测试方法、系统、电子设备及存储介质
US11297365B2 (en) * 2019-12-13 2022-04-05 At&T Intellectual Property I, L.P. Adaptive bitrate video testing from screen recording
CN115221340A (zh) * 2021-12-23 2022-10-21 飞虎互动科技(北京)有限公司 音视频会话质检方法和装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103077514A (zh) * 2012-12-17 2013-05-01 西南科技大学 一种基于全变分的视觉感知图像质量评价方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103077514A (zh) * 2012-12-17 2013-05-01 西南科技大学 一种基于全变分的视觉感知图像质量评价方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
杨琬,吴乐华,李淑云,范晔: "《基于感兴趣区域的图像质量评价方法》", 《计算机应用》, vol. 28, no. 5, 31 May 2008 (2008-05-31) *
马丰原: "《基于视觉感兴趣区域的图像质量评价算法研究》", 《中国优秀硕士学位论文全文数据库》, 30 June 2013 (2013-06-30) *

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103929637B (zh) * 2014-04-23 2016-03-30 无锡天脉聚源传媒科技有限公司 一种视频比较装置及其比较方法
CN103929637A (zh) * 2014-04-23 2014-07-16 无锡天脉聚源传媒科技有限公司 一种视频比较装置及其比较方法
CN108370454A (zh) * 2015-12-03 2018-08-03 深圳市大疆创新科技有限公司 用于视频处理的系统和方法
CN108370454B (zh) * 2015-12-03 2020-11-03 深圳市大疆创新科技有限公司 用于视频处理的系统和方法
CN108737812A (zh) * 2017-04-19 2018-11-02 中国移动通信有限公司研究院 一种视频质量的测试方法及装置
CN108600745B (zh) * 2018-08-06 2020-02-18 北京理工大学 一种基于时空域切片多图谱配置的视频质量评价方法
CN108600745A (zh) * 2018-08-06 2018-09-28 北京理工大学 一种基于时空域切片多图谱配置的视频质量评价方法
CN108898150A (zh) * 2018-08-09 2018-11-27 清华大学 视频结构对齐方法和系统
CN110213573A (zh) * 2019-06-14 2019-09-06 北京字节跳动网络技术有限公司 一种视频质量评估方法、装置和电子设备
CN110493638B (zh) * 2019-08-20 2021-12-03 广州虎牙科技有限公司 视频帧对齐方法、装置、电子设备及可读存储介质
CN110493638A (zh) * 2019-08-20 2019-11-22 广州虎牙科技有限公司 视频帧对齐方法、装置、电子设备及可读存储介质
CN110751649A (zh) * 2019-10-29 2020-02-04 腾讯科技(深圳)有限公司 视频质量评估方法、装置、电子设备及存储介质
CN110751649B (zh) * 2019-10-29 2021-11-02 腾讯科技(深圳)有限公司 视频质量评估方法、装置、电子设备及存储介质
US11297365B2 (en) * 2019-12-13 2022-04-05 At&T Intellectual Property I, L.P. Adaptive bitrate video testing from screen recording
CN111539948A (zh) * 2020-05-11 2020-08-14 北京百度网讯科技有限公司 视频质量评估的方法、装置、电子设备及存储介质
CN111539948B (zh) * 2020-05-11 2023-06-02 北京百度网讯科技有限公司 视频质量评估的方法、装置、电子设备及存储介质
CN112367520A (zh) * 2020-11-11 2021-02-12 郑州师范学院 基于人工智能的视频质量诊断系统
CN112367520B (zh) * 2020-11-11 2022-06-21 郑州师范学院 基于人工智能的视频质量诊断系统
CN112837640A (zh) * 2021-01-27 2021-05-25 百果园技术(新加坡)有限公司 屏幕动态画面测试方法、系统、电子设备及存储介质
CN115221340A (zh) * 2021-12-23 2022-10-21 飞虎互动科技(北京)有限公司 音视频会话质检方法和装置
CN115221340B (zh) * 2021-12-23 2024-01-05 飞虎互动科技(北京)有限公司 音视频会话质检方法和装置

Also Published As

Publication number Publication date
CN103731664B (zh) 2015-09-30

Similar Documents

Publication Publication Date Title
CN103731664B (zh) 全参考视频质量评估方法、装置及视频质量测试仪
Zhang et al. A no-reference evaluation metric for low-light image enhancement
CN107123122B (zh) 无参考图像质量评价方法及装置
CN108764352B (zh) 重复页面内容检测方法和装置
CN110781839A (zh) 一种基于滑窗的大尺寸图像中小目标识别方法
CN106709958A (zh) 一种基于灰度梯度和颜色直方图的图像质量评价方法
Yang et al. Subjective quality assessment of screen content images
Qian et al. Image quality assessment based on multi-scale representation of structure
CN105657435B (zh) 基于量化dct系数的视频单帧复制粘贴篡改检测方法
Chandler et al. Seven challenges for image quality research
CN102421009A (zh) 一种视频信号的自动测试方法
CN111311595A (zh) 一种图像质量的无参考质量评价方法及计算机可读存储介质
CN103067713A (zh) 一种位图jpeg压缩检测的方法及系统
Gu et al. Details preservation inspired blind quality metric of tone mapping methods
Chi et al. Blind tone mapped image quality assessment with image segmentation and visual perception
Patil et al. Survey on image quality assessment techniques
CN112132774A (zh) 一种色调映射图像的质量评价方法
CN104346792A (zh) 图片处理方法、图片查看器及终端
CN104123723A (zh) 基于结构补偿的图像质量评价方法
CN103605973B (zh) 一种图像字符检测鉴别方法
CN111311584A (zh) 视频质量评估方法及装置、电子设备、可读介质
Yan et al. Blind image quality assessment based on natural redundancy statistics
CN109685757B (zh) 一种基于灰度差分统计的无参考图像质量评价方法及系统
CN106375773B (zh) 基于动态阈值的帧复制粘贴篡改检测方法
Cai et al. Blind quality assessment of gamut-mapped images via local and global statistical analysis

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20210112

Address after: Room 400, building 5, No.11 Deshengmenwai street, Xicheng District, Beijing 100032 (Desheng Park)

Patentee after: Migu cultural technology Co., Ltd.

Address before: 518129 Bantian HUAWEI headquarters office building, Longgang District, Guangdong, Shenzhen

Patentee before: HUAWEI TECHNOLOGIES Co.,Ltd.