CN101282479B - 基于感兴趣区域的空域分辨率可调整编解码方法 - Google Patents
基于感兴趣区域的空域分辨率可调整编解码方法 Download PDFInfo
- Publication number
- CN101282479B CN101282479B CN 200810047591 CN200810047591A CN101282479B CN 101282479 B CN101282479 B CN 101282479B CN 200810047591 CN200810047591 CN 200810047591 CN 200810047591 A CN200810047591 A CN 200810047591A CN 101282479 B CN101282479 B CN 101282479B
- Authority
- CN
- China
- Prior art keywords
- interest
- area
- frame
- information
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 230000015654 memory Effects 0.000 claims description 83
- 238000005070 sampling Methods 0.000 claims description 40
- 239000000463 material Substances 0.000 claims description 14
- 238000006243 chemical reaction Methods 0.000 claims description 13
- 238000000151 deposition Methods 0.000 claims description 12
- 230000008521 reorganization Effects 0.000 claims description 7
- 230000008859 change Effects 0.000 claims description 3
- 238000009432 framing Methods 0.000 claims description 3
- 230000005540 biological transmission Effects 0.000 abstract description 5
- 238000012544 monitoring process Methods 0.000 description 9
- 239000010410 layer Substances 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000011229 interlayer Substances 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本发明涉及基于感兴趣区域的空域分辨率可调整编码方法及相应解码方法,编码方法为载入感兴趣区域信息,并根据感兴趣区域信息将原始图像划分成感兴趣区域和非感兴趣区域,对感兴趣区域图像按照原始图像的分辨率进行编码,对非感兴趣区域图像采用低于原始图像的分辨率进行编码;解码方法为从编码码流中获取感兴趣区域信息,并根据感兴趣区域信息将待解码的宏块码流分成感兴趣区域解码内容和非感兴趣区域解码内容,对感兴趣区域解码内容按照高分辨图像的规格进行解码。本发明实现了基于感兴趣区域的空域分辨率可调整编码方法,保证感兴趣区域视频信息的质量不变的同时,大大减小了图像编码后传输的比特数,尤其适合于安防监控的传输需求。
Description
技术领域
本发明属于视频编码领域,特别针对安防监控的特殊需求,是基于视频编解码技术之上的针对感兴趣区域的空域分辨率可调整编解码方法。
背景技术
随着人们对安全需求的日益增加、安全防护的使用成本与其产生的效益拉开距离,市场提出了行业、企业大范围、远距离监控的需求,如银行跨地区联网监控、全国城市重点地区联网监控等。由于模拟监控存在着使用范围小、信号易衰减等弊端,通过网络将图像进行远程传输的集中监控方式应运而生。
科技的飞速发展使得当今各种无线网络日趋普遍,3G、B3G移动通信在技术上已经成熟。高清晰、全嵌入式、支持各种无线、有线接入方式的移动无线视频监控成为新一代的视频监控系统的发展方向。由于网络带宽具有不定性的特点,移动无线视频监控需要传输低码率且高品质的视频流;而且考虑到安防监控的特殊性:某些应用中需要针对某个区域进行特殊编码。所以在现有视频编码技术的基础上,结合感兴趣区域编码技术,实现基于区域的空域分辨率可调整编码方法是当前应用领域迫切需要解决的问题。感兴趣区域的英文为RegionOf Interest,可简称为ROI。
空间分辨率可调算法早在MPEG-2、MPEG-4协议中就有实现,后来在SVC(Scalable Video Coding可伸缩视频编码)中得到了更深一层的发展。SVC同时利用了单层分辨率视频流的帧间冗余信息和多层分辨率视频流的层间冗余信息,与多码流视频编码技术相比,很大程度上提高了视频压缩比。但是以上的空域分辨率可调整算法将会编出多层码流,其编码效率比仅编单层码流要低。对于移动无线视频监控和带宽不定的无线网而言,增强层的码流可能会受到带宽的限制而被丢弃,其解码图像的质量会急剧下降。
发明内容
本发明针对高分辨率图像编码需要传输大量比特的问题,结合感兴趣区域的编码方法,提供基于感兴趣区域的一种低码率的空域分辨率可调整编码方法,以减小整个码流的码率,保证感兴趣区域视频信息的质量。
本发明解决其技术问题采用的技术方案是:载入感兴趣区域信息,并根据感兴趣区域信息将原始图像划分成感兴趣区域和非感兴趣区域,对感兴趣区域图像按照原始图像的分辨率进行编码,对非感兴趣区域图像采用低于原始图像的分辨率进行编码,在对非感性兴趣区域图像进行编码过程中分辨率的调整在帧内编码和帧间编码之前。
而且,对原始图像按帧编码时以超宏块为单元进行处理,所述超宏块包括4的整数倍个宏块,编每一帧包括以下步骤,
步骤一,载入该帧的感兴趣区域信息,根据感兴趣区域信息判断该帧中每个超宏块是否属于感兴趣区域范围,如果是则确定该超宏块属于该帧的感兴趣区域编码内容,如果不是则确定该超宏块属于该帧的非感兴趣区域编码内容;
步骤二,对原始图像进行编码,首先判断该帧每个超宏块是否属于步骤一中确定的感兴趣区域编码内容,若属于感兴趣区域编码内容,则对每个超宏块中的所有宏块依次进行编码;若属于非感兴趣区域编码内容,则对超宏块的图像内容进行下采样,得到一个宏块的图像内容,并对此宏块进行编码;
步骤三,该帧的感兴趣区域信息写入编码输出码流,供解码使用。
而且,在步骤一对每个超宏块进行标记,如果该超宏块属于非感兴趣区域编码内容,则标记0,如果该超宏块属于感兴趣区域编码内容,则标记1;将每帧的所有超宏块标志位串联在一起利用游程编码进行压缩,通过压缩记录第一个超宏块的标记、扫描顺序下标记相同的超宏块连续的个数以及超宏块标记变化发生的次数,将上述记录的信息写入编码输出码流的图像帧层头信息中。
而且,在步骤二中,建立两套重建帧缓存、参考帧缓存和相关的全局变量,一套为高分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放感兴趣区域中的宏块在帧内和帧间编码时使用到的信息和产生的信息,以及非感兴趣区域中的宏块在帧内和帧间编码时产生信息的转化信息;一套为低分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放非感兴趣区域中的宏块在帧内和帧间编码时使用到的信息和产生的信息,以及感兴趣区域中的宏块在帧内和帧间编码时产生信息的转化信息。
而且,在步骤二中,对属于感兴趣区域编码内容的超宏块的编码具体方式为,
编码步骤为对于超宏块中的所有宏块,按照从左到右,从上到下的编码顺序进行编码;
对该超宏块编码时,参考帧和需要使用到的编码信息来自高分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入高分辨率图像的重建帧缓存;
对该超宏块编码完成后,对所得到的超宏块大小的重建图像进行下采样,并将下采样所得到的宏块大小的图像按照相应的位置填入低分辨率图像的重建图像缓存,同时将编码过程中得到的相关编码信息进行处理,并传递给相应位置的低分辨率图像的相关的全局变量;
在步骤二中,对属于非感兴趣区域编码内容的超宏块的编码具体方式为,
对包含有所有宏块的超宏块的图像内容进行下采样,得到一个宏块的图像内容,并对此宏块进行编码;
对此宏块进行编码时,其参考帧和需要使用到的编码信息来自低分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入低分辨率图像的重建帧缓存;
对此宏块编码完成后,对所得到的宏块大小的重建图像进行上采样,并将上采样所得到的超宏块大小的图像按照相应的位置填入高分辨率图像的重建图像缓存,同时将编码过程中得到的相关编码信息进行处理,并传递给相应位置的高分辨率图像的相关的全局变量。
本发明还提供了相应的基于感兴趣区域的空域分辨率可调整解码方法,其技术方案是:从编码码流中获取感兴趣区域信息,并根据感兴趣区域信息将待解码的宏块码流分成感兴趣区域解码内容和非感兴趣区域解码内容,对感兴趣区域解码内容按照高分辨图像的规格进行解码,对非感兴趣区域图像按照低分辨图像的规格进行解码,然后对解码图像进行上采样;对非感性兴趣区域图像进行解码过程中分辨率的调整在帧内解码和帧间解码之后。
而且,对待解码的宏块码流按帧解码时,解每一帧包括以下具体操作步骤,
步骤1,从该帧的头信息中获取该帧的感兴趣区域信息;
步骤2,载入该帧的感兴趣区域信息,对该帧解码后得到的解码图像中感兴趣区域和非感兴趣区域的大小和位置进行预判,首先对该帧的解码图像以超宏块为基本单位预先划分,根据感兴趣区域信息判断该帧的解码图像中每个超宏块是否属于感兴趣区域范围,如果是则确定该超宏块属于该帧的感兴趣区域解码内容,如果不是则确定该超宏块属于该帧的非感兴趣区域解码内容;然后根据宏块的解码顺序,判断该宏块所在超宏块是否为感兴趣区域解码内容,如果是则确定该宏块属于该帧的感兴趣区域解码内容,如果不是则确定该宏块属于该帧的非感兴趣区域解码内容;
步骤3,对输入图像进行解码,首先判断该帧当前解码宏块是否属于步骤2中确定的感兴趣区域解码内容,若属于感兴趣区域解码内容,则对相应超宏块中的每个宏块进行解码,并填入输出重建缓存;若属于非感兴趣区域解码内容,则对该宏块进行解码,对得到的解码图像内容进行上采样,得到一个超宏块的图像内容,并填入输出重建缓存。
而且,步骤1中获取感兴趣区域信息的实现方式为,对每帧的头信息进行解码,得到第一个超宏块的标记、扫描顺序下标记相同的超宏块连续的个数以及超宏块标记变化发生的次数,通过这些信息得知每个超宏块是否为感兴趣区域解码内容的相应标记。
而且,在步骤3中,建立两套重建帧缓存、参考帧缓存和相关的全局变量,一套为高分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放感兴趣区域中的宏块在帧内和帧间解码时使用到的信息和产生的信息,以及非感兴趣区域中的宏块在帧内和帧间解码时产生信息的转化信息;一套为低分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放非感兴趣区域中的宏块在帧内和帧间解码时使用到的信息和产生的信息,以及感兴趣区域中的宏块在帧内和帧间解码时产生信息的转化信息。
而且,在步骤3中,对属于感兴趣区域解码内容的超宏块的解码具体方式为,
对属于感兴趣区域图像解码内容的超宏块所含的所有宏块按照码流顺序依次进行解码,其参考帧和需要使用到的解码信息来自高分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入高分辨率图像的重建帧缓存;
当该超宏块中所有宏块解码完成后,对所得到的超宏块大小的重建图像进行下采样,并将下采样所得到的宏块大小的图像按照相应的位置填入低分辨率图像的重建图像缓存,同时将解码过程中得到的相关解码信息进行处理,并传递给相应位置的低分辨率图像的相关的全局变量;
在步骤3中,对属于非感兴趣区域解码内容的超宏块的解码具体方式为,
对于属于非感兴趣区域图像解码内容的超宏块所含宏块进行解码,非感兴趣区域图像解码内容的超宏块包含且仅包含一个宏块的解码内容,该解码宏块的参考帧和需要使用到的解码信息来自低分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入低分辨率图像的重建帧缓存;
当该宏块解码完成后,对所得到的宏块大小的重建图像进行上采样,并将上采样所得到超宏块大小的图像按照相应的位置填入高分辨率图像的重建图像缓存,同时将解码过程中得到的相关解码信息进行处理,并传递给相应位置的高分辨率图像的相关的全局变量。
本发明实现了基于感兴趣区域的空域分辨率可调整编解码的功能,保证感兴趣区域视频信息的质量不变的同时,大大减小了编码后传输的比特数。与现有技术相比,在码率相同的情况下,感兴趣区域亮度分量的PSNR值提高1.5-3db左右。
附图说明
图1是本发明实施例的编码结构框图。
图2是本发明实施例的解码结构框图。
图3是本发明实施例的感兴趣区域的客观性能曲线图。
具体实施方式
在视频编解码技术领域中,图像信息总是由很多帧数据组成,因此处理时总是按帧进行顺序处理。在现有编码框架下,每帧图像被分成很多小块。通过从左到右,从上到下的顺序对每个小块进行编码,最终完成对整帧图像的压缩编码。例如,一个352×288的cif序列,它每一帧分成396个宏块。现有视频技术中,宏块一般设定为是由16×16个像素组成的正方形图像块。本发明提出将图像分成超宏块作为编码单元,每个超宏块包括4的整数倍个宏块,通过依次对超宏块进行编码,最终完成对整帧图像的压缩编码。例如设定超宏块为32×32个像素所组成,包含4个宏块。本发明以超宏块为基本单位,并根据感兴趣区域信息将原始输入图像划分和感兴趣区域和非感兴趣区域,对感兴趣区域图像按照原始图像的分辨率进行编码,对非感兴趣区域图像采用更低的分辨率进行编码。所谓更低的分辨率,可以一32×32的超宏块为例,最终的编码图像是一个16×16的宏块,这需要将一个32×32的图像采样成16×16的图像。具体实施时,编码框架可参见图1:其中,A为待编码的视频帧,将A分成感兴趣区域(斜线部分)和非感兴趣区域。编码顺序按照32×32的超宏块单元从左到右,从上到下的顺序编码,到了非感兴趣区域部分后,下采样成小区域(宏块大小)编码。B为低分辨率参考帧,C为高分辨率参考帧,D为低分辨率重建帧,E为高分辨率重建帧。编码框架的基本过程与现有技术大部分相似,如运动估计、运动补偿、帧内预测选择、帧内预测、变化、量化,以及后续重排序、熵编码等。值得注意的是,本发明在对非感性兴趣区域图像进行编码过程中分辨率的调整在帧内编码和帧间编码之前,比之分辨率调整在帧内编码和帧间编码之后,由于运动估计的次数减少,计算复杂度明显降低。在低码率条件下,编码效率与后者相当。
本发明提供了按帧编码的具体步骤以便实施,编每一帧包括以下步骤:
步骤一,载入该帧的感兴趣区域信息,根据感兴趣区域信息判断该帧中每个超宏块是否属于感兴趣区域范围,如果是则确定该超宏块属于该帧的感兴趣区域编码内容,如果不是则确定该超宏块属于该帧的非感兴趣区域编码内容;感兴趣区域信息可以超宏块为基础在编码端预先给定的,它指明每个超宏块是否属于感兴趣区域。
在步骤一中对每个超宏块进行标记,能够方便解码。如果超宏块属于非感兴趣区域编码内容,则标记0,如果超宏块属于感兴趣区域编码内容,则标记1;将每帧的所有超宏块标志位串联在一起利用游程编码进行压缩,通过压缩记录第一个超宏块的标记、扫描顺序下标记相同的超宏块连续的个数以及超宏块标记变化发生的次数,将上述记录的信息写入编码输出码流的图像帧层头信息中。游程编码是熵编码的一种方式,具有优秀的压缩效果。
步骤二,对原始图像进行编码,首先判断该帧每个超宏块是否属于步骤一中确定的感兴趣区域编码内容,若属于感兴趣区域编码内容,则对每个超宏块中的所有宏块依次进行编码,比如当超宏块含有四个宏块时,就对这四个宏块从左到右从上到下依次编码;若属于非感兴趣区域编码内容,则对超宏块的图像内容进行下采样,得到一个宏块的图像内容,并对此宏块进行编码;
在步骤二中,因为图像涉及感兴趣区域编码和非感兴趣区域编码,感兴趣区域是以超宏块为基本编码单位的,需要编码多个宏块,它是按照原始分辨率编码的;而非感兴趣区域实际上是将超宏块采样成宏块再进行编码的,只需要编一个宏块,它是按照低分辨率编码的。而重建帧缓存、参考帧缓存和待编码图像的分辨相关,如果按原始分辨率编码,那么编码图像的重建图像必须放入原始分辨率的重建图像缓存,比如352×288大小的序列,那么它的重建图像也是352×288大小。参考帧缓存一般是重建帧缓存的16倍,352×288大小的序列在帧间预测时需要参考1408×1152大小的参考图像。一些全局变量也与待编码图像的大小有关。在AVS sm0.1中有如下变量refFrArr、tmp_mv、img->ipredmode,这些变量分别以block(8×8)为基本单位指明了参考帧序号、运动矢量、帧内编码模式。宏块在帧内和帧间时需要用到相邻块的这些编码信息,同时编码完成后,产生本宏块的参考帧序号、运动矢量、帧内编码模式。
为了解决以上问题,本发明提出建立两套重建帧缓存、参考帧缓存和相关的全局变量,以不致产生混乱。一套为高分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放感兴趣区域中的宏块在帧内和帧间编码时使用到的信息和产生的信息,以及非感兴趣区域中的宏块在帧内和帧间编码时产生信息的转化信息。一套为低分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放非感兴趣区域中的宏块在帧内和帧间编码时使用到的信息和产生的信息,以及感兴趣区域中的宏块在帧内和帧间编码时产生信息的转化信息。对于转化信息,是将非感兴趣区域中的宏块编码后得到的参考帧序号、运动矢量、帧内编码模式赋值给相同位置的超宏块。需要注意的是运动矢量需要进行缩放,由低分辨率的图像的运动矢量赋值给高分辨率的图像的运动矢量需要将运动适量乘2,由高分辨率的图像的运动矢量赋值给低分辨率的图像的运动矢量需要将运动适量除2。
在步骤二中,对属于感兴趣区域编码内容的超宏块的编码具体方式为:
编码步骤为对于超宏块中的所有宏块,按照从左到右,从上到下的编码顺序进行编码;
对该超宏块编码时,参考帧和需要使用到的编码信息来自高分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入高分辨率图像的重建帧缓存;
对该超宏块编码完成后,对所得到的超宏块大小的重建图像进行下采样,并将下采样所得到的宏块大小的图像按照相应的位置填入低分辨率图像的重建图像缓存,同时将编码过程中得到的相关编码信息进行处理,并传递给相应位置的低分辨率图像的相关的全局变量。这里按照相应的位置可以举例说明:实施例中超宏块包含四个宏块,设超宏块中第一个宏块在图像中的位置为(mb_x,mb_y),则下采样后的重建图像在低分辨率图像的重建图像的位置为(mb_x/2,mb_y/2)。
在步骤二中,对属于非感兴趣区域编码内容的超宏块的编码具体方式为,
对包含有所有宏块的超宏块的图像内容进行下采样,得到一个宏块的图像内容,并对此宏块进行编码;
对此宏块进行编码时,其参考帧和需要使用到的编码信息来自低分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入低分辨率图像的重建帧缓存;
对此宏块编码完成后,对所得到的宏块大小的重建图像进行上采样,并将上采样所得到的超宏块大小的图像按照相应的位置填入高分辨率图像的重建图像缓存。,同时将编码过程中得到的相关编码信息进行处理,并传递给相应位置的高分辨率图像的相关的全局变量。这里相应的位置指的是非感兴趣区域中的宏块下采样前的超宏块位置。
步骤三,该帧的感兴趣区域信息写入编码输出码流,供解码使用。
本发明还提供了相应的基于感兴趣区域的空域分辨率可调整解码方法。由于每一帧解码码流均按宏块进行划分,在解码过程中首先需要判断当前码流解码后所得到的宏块图像属于感兴趣区域还是非感性区域,根据待解码内容是否属于感兴趣区域解码内容,确定待解码内容的解码方式。所述解码技术方案为:从编码码流中获取感兴趣区域信息,并根据感兴趣区域信息将待解码的宏块码流分成感兴趣区域解码内容和非感兴趣区域解码内容,对感兴趣区域解码内容按照高分辨图像的规格进行解码,对非感兴趣区域图像按照低分辨图像的规格进行解码,然后对解码图像进行上采样;对非感性兴趣区域图像进行解码过程中分辨率的调整在帧内解码和帧间解码之后。
解码框架可参看图2,B为低分辨率参考帧,C为高分辨率参考帧,D为低分辨率重建帧,E为高分辨率重建帧。解码框架与编码相逆,由熵解码到重排序、反量化、反变化,然后进行帧内解码或者帧间编码。与编码方法相应的是,对非感性兴趣区域图像进行解码过程中分辨率的调整在帧内解码和帧间解码之后。
对待解码的宏块码流按帧解码时,解每一帧包括以下具体操作步骤,
步骤1,从该帧的头信息中获取该帧的感兴趣区域信息;
具体实施时步骤1中获取感兴趣区域信息的实现方式与编码过程相反:对每帧的头信息进行解码,得到第一个超宏块的标记、扫描顺序下标记相同的超宏块连续的个数以及超宏块标记变化发生的次数,通过这些信息得知每个超宏块是否为感兴趣区域解码内容的相应标记。
步骤2,载入该帧的感兴趣区域信息,对该帧解码后得到的解码图像中感兴趣区域和非感兴趣区域的大小和位置进行预判,首先对该帧的解码图像以超宏块为基本单位预先划分,根据感兴趣区域信息判断该帧的解码图像中每个超宏块是否属于感兴趣区域范围,如果是则确定该超宏块属于该帧的感兴趣区域解码内容,如果不是则确定该超宏块属于该帧的非感兴趣区域解码内容;然后根据宏块的解码顺序,判断该宏块所在超宏块是否为感兴趣区域解码内容,如果是则确定该宏块属于该帧的感兴趣区域解码内容,如果不是则确定该宏块属于该帧的非感兴趣区域解码内容;
因为从头信息获取的感兴趣区域信息解析为对每个超宏块的标记,因此根据标记判断每个超宏块是否属于感兴趣区域解码内容,如果标记0,则该超宏块属于非感兴趣区域解码内容,如果标记1,该超宏块属于感兴趣区域解码内容。
步骤3,对输入图像进行解码,首先判断该帧当前解码宏块是否属于步骤2中确定的感兴趣区域解码内容,若属于感兴趣区域解码内容,则对相应超宏块中的每个宏块进行解码,并填入输出重建缓存;若属于非感兴趣区域解码内容,则对该宏块进行解码,对得到的解码图像内容进行上采样,得到一个超宏块的图像内容,并填入输出重建缓存。
在步骤3中,与编码方法类似,建立两套重建帧缓存、参考帧缓存和相关的全局变量,一套为高分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放感兴趣区域中的宏块在帧内和帧间解码时使用到的信息和产生的信息,以及非感兴趣区域中的宏块在帧内和帧间解码时产生信息的转化信息;一套为低分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放非感兴趣区域中的宏块在帧内和帧间解码时使用到的信息和产生的信息,以及感兴趣区域中的宏块在帧内和帧间解码时产生信息的转化信息。
与编码方法对应,在步骤3中,对属于感兴趣区域解码内容的超宏块的解码具体方式为,
对属于感兴趣区域图像解码内容的超宏块所含的所有宏块按照码流顺序依次进行解码,其参考帧和需要使用到的解码信息来自高分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入高分辨率图像的重建帧缓存;
当该超宏块中所有宏块解码完成后,对所得到的超宏块大小的重建图像进行下采样,并将下采样所得到的宏块大小的图像按照相应的位置填入低分辨率图像的重建图像缓存,同时将解码过程中得到的相关解码信息进行处理,并传递给相应位置的低分辨率图像的相关的全局变量;
在步骤3中,对属于非感兴趣区域解码内容的超宏块的解码具体方式为,
对于属于非感兴趣区域图像解码内容的超宏块所含宏块进行解码,非感兴趣区域图像解码内容的超宏块包含且仅包含一个宏块的解码内容,该解码宏块的参考帧和需要使用到的解码信息来自低分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入低分辨率图像的重建帧缓存;
当该宏块解码完成后,对所得到的宏块大小的重建图像进行上采样,并将上采样所得到超宏块大小的图像按照相应的位置填入高分辨率图像的重建图像缓存,同时将解码过程中得到的相关解码信息进行处理,并传递给相应位置的高分辨率图像的相关的全局变量。
为了方便说明本发明的优点,现举出本发明的实验测试为例:本发明的实验测试是基于AVS_sm0.1 software之上的。实验用的某序列相关性能指标为:码率=30hz(帧/秒);图片组大小=1(帧)、I帧间隔帧数=30(帧)。图片为352×288大小。如图3所示:比较原始方法的性能曲线(anchor)和本方法的性能曲线(proposal)代表本方法的实验结果曲线。在空域增强层码率(单位为kbps)相同的情况下,本算法的感兴趣区域PSNR-Y(亮度信号的峰值信号与噪声比(单位为db),值比原始方法提高了1.5-3db左右。即在感兴趣区域PSNR-Y相同的情况下,大大减小了编码码率。
Claims (10)
1.基于感兴趣区域的空域分辨率可调整编码方法,其特征是:载入感兴趣区域信息,并根据感兴趣区域信息将原始图像划分成感兴趣区域和非感兴趣区域,对感兴趣区域图像按照原始图像的分辨率进行编码,对非感兴趣区域图像采用低于原始图像的分辨率进行编码,在对非感性兴趣区域图像进行编码过程中分辨率的调整在帧内编码和帧间编码之前。
2.根据权利要求1所述的空域分辨率可调整编码方法,其特征是:对原始图像按帧编码时以超宏块为单元进行处理,所述超宏块包括4的整数倍个宏块,编每一帧包括以下步骤,
步骤一,载入该帧的感兴趣区域信息,根据感兴趣区域信息判断该帧中每个超宏块是否属于感兴趣区域范围,如果是则确定该超宏块属于该帧的感兴趣区域编码内容,如果不是则确定该超宏块属于该帧的非感兴趣区域编码内容;
步骤二,对原始图像进行编码,首先判断该帧每个超宏块是否属于步骤一中确定的感兴趣区域编码内容,若属于感兴趣区域编码内容,则对每个超宏块中的所有宏块依次进行编码;若属于非感兴趣区域编码内容,则对超宏块的图像内容进行下采样,得到一个宏块的图像内容,并对此宏块进行编码;
步骤三,该帧的感兴趣区域信息写入编码输出码流,供解码使用。
3.根据权利要求2所述的空域分辨率可调整编码方法,其特征是:在步骤一对每个超宏块进行标记,如果超宏块属于非感兴趣区域编码内容,则标记0,如果超宏块属于感兴趣区域编码内容,则标记1;将每帧的所有超宏块标志位串联在一起利用游程编码进行压缩,通过压缩记录第一个超宏块的标记、扫描顺序下超宏块标记连续相同的个数,以及超宏块标记变化发生的次数,将上述记录的信息写入编码输出码流的图像帧层头信息中。
4.根据权利要求2所述的空域分辨率可调整编码方法,其特征是:在步骤二中,建立两套重建帧缓存、参考帧缓存和相关的全局变量,一套为高分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放感兴趣区域中的宏块在帧内和帧间编码时使用到的信息和产生的信息,以及非感兴趣区域中的宏块在帧内和帧间编码时产生信息的转化信息;一套为低分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放非感兴趣区域中的宏块在帧内和帧间编码时使用到的信息和产生的信息,以及感兴趣区域中的宏块在帧内和帧间编码时产生信息的转化信息。
5.根据权利要求2或3或4所述的空域分辨率可调整编码方法,其特征是:在步骤二中,对属于感兴趣区域编码内容的超宏块的编码具体方式为,
编码步骤为对于超宏块中的所有宏块,按照从左到右,从上到下的编码顺序进行编码;
对该超宏块编码时,参考帧和需要使用到的编码信息来自高分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入高分辨率图像的重建帧缓存;
对该超宏块编码完成后,对所得到的超宏块大小的重建图像进行下采样,并将下采样所得到的宏块大小的图像按照相应的位置填入低分辨率图像的重建图像缓存,同时将编码过程中得到的相关编码信息进行处理,并传递给相应位置的低分辨率图像的相关的全局变量;
在步骤二中,对属于非感兴趣区域编码内容的超宏块的编码具体方式为,对包含有所有宏块的超宏块的图像内容进行下采样,得到一个宏块的图像
内容,并对此宏块进行编码;
对此宏块进行编码时,其参考帧和需要使用到的编码信息来自低分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入低分辨率图像的重建帧缓存;
对此宏块编码完成后,对所得到的宏块大小的重建图像进行上采样,并将上采样所得到的超宏块大小的图像按照相应的位置填入高分辨率图像的重建图像缓存,同时将编码过程中得到的相关编码信息进行处理,并传递给相应位置的高分辨率图像的相关的全局变量。
6.基于感兴趣区域的空域分辨率可调整解码方法,其特征是:从编码码流中获取感兴趣区域信息,并根据感兴趣区域信息将待解码的宏块码流分成感兴趣区域解码内容和非感兴趣区域解码内容,对感兴趣区域解码内容按照高分辨图像的规格进行解码,对非感兴趣区域图像按照低分辨图像的规格进行解码,然后对解码图像进行上采样;对非感性兴趣区域图像进行解码过程中分辨率的调整在帧内解码和帧间解码之后。
7.根据权利要求6所述空域分辨率可调整解码方法,其特征是:对待解码的宏块码流按帧解码时,解每一帧包括以下具体操作步骤,
步骤1,从该帧的头信息中获取该帧的感兴趣区域信息;
步骤2,载入该帧的感兴趣区域信息,对该帧解码后得到的解码图像中感兴趣区域和非感兴趣区域的大小和位置进行预判,首先对该帧的解码图像以超宏块为基本单位预先划分,根据感兴趣区域信息判断该帧的解码图像中每个超宏块是否属于感兴趣区域范围,如果是则确定该超宏块属于该帧的感兴趣区域解码内容,如果不是则确定该超宏块属于该帧的非感兴趣区域解码内容;然后根据宏块的解码顺序,判断该宏块所在超宏块是否为感兴趣区域解码内容,如果是则确定该宏块属于该帧的感兴趣区域解码内容,如果不是则确定该宏块属于该帧的非感兴趣区域解码内容;
步骤3,对输入图像进行解码,首先判断该帧当前解码宏块是否属于步骤2中确定的感兴趣区域解码内容,若属于感兴趣区域解码内容,则对相应超宏块中的每个宏块进行解码,并填入输出重建缓存;若属于非感兴趣区域解码内容,则对该宏块进行解码,对得到的解码图像内容进行上采样,得到一个超宏块的图像内容,并填入输出重建缓存。
8.根据权利要求7所述的空域分辨率可调整解码方法,其特征是:步骤1中获取感兴趣区域信息的实现方式为,对每帧的头信息进行解码,得到第一个超宏块的标记、扫描顺序下超宏块标记连续相同的个数,以及超宏块标记变化发生的次数,通过这些信息得知每个超宏块是否为感兴趣区域解码内容的相应标记。
9.根据权利要求7所述的空域分辨率可调整解码方法,其特征是:在步骤3中,建立两套重建帧缓存、参考帧缓存和相关的全局变量,一套为高分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放感兴趣区域中的宏块在帧内和帧间解码时使用到的信息和产生的信息,以及非感兴趣区域中的宏块在帧内和帧间解码时产生信息的转化信息;一套为低分辨率图像的重建帧缓存、参考帧缓存和相关的全局变量,用来存放非感兴趣区域中的宏块在帧内和帧间解码时使用到的信息和产生的信息,以及感兴趣区域中的宏块在帧内和帧间解码时产生信息的转化信息。
10.根据权利要求7或8或9所述的空域分辨率可调整解码方法,其特征是:在步骤3中,对属于感兴趣区域解码内容的超宏块的解码具体方式为,
对属于感兴趣区域图像解码内容的超宏块所含的所有宏块按照码流顺序依次进行解码,其参考帧和需要使用到的解码信息来自高分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入高分辨率图像的重建帧缓存;
当该超宏块中所有宏块解码完成后,对所得到的超宏块大小的重建图像进行下采样,并将下采样所得到的宏块大小的图像按照相应的位置填入低分辨率图像的重建图像缓存,同时将解码过程中得到的相关解码信息进行处理,并传递给相应位置的低分辨率图像的相关的全局变量;
在步骤3中,对属于非感兴趣区域解码内容的超宏块的解码具体方式为,
对于属于非感兴趣区域图像解码内容的超宏块所含宏块进行解码,非感兴趣区域图像解码内容的超宏块包含且仅包含一个宏块的解码内容,该解码宏块的参考帧和需要使用到的解码信息来自低分辨率图像的参考帧缓存和相关的全局变量,其重建图像存入低分辨率图像的重建帧缓存;
当该宏块解码完成后,对所得到的宏块大小的重建图像进行上采样,并将上采样所得到超宏块大小的图像按照相应的位置填入高分辨率图像的重建图像缓存,同时将解码过程中得到的相关解码信息进行处理,并传递给相应位置的高分辨率图像的相关的全局变量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 200810047591 CN101282479B (zh) | 2008-05-06 | 2008-05-06 | 基于感兴趣区域的空域分辨率可调整编解码方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 200810047591 CN101282479B (zh) | 2008-05-06 | 2008-05-06 | 基于感兴趣区域的空域分辨率可调整编解码方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101282479A CN101282479A (zh) | 2008-10-08 |
CN101282479B true CN101282479B (zh) | 2011-01-19 |
Family
ID=40014716
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN 200810047591 Expired - Fee Related CN101282479B (zh) | 2008-05-06 | 2008-05-06 | 基于感兴趣区域的空域分辨率可调整编解码方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101282479B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021057689A1 (zh) * | 2019-09-27 | 2021-04-01 | 腾讯科技(深圳)有限公司 | 视频解码方法及装置、视频编码方法及装置、存储介质和电子装置 |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2347595A1 (fr) * | 2008-10-15 | 2011-07-27 | France Telecom | Procede et dispositif de codage d'une sequence d'image mettant en oeuvre des blocs de taille differente, signal, support de donnees, procede et dispositif de decodage, et programmes d'ordinateur correspondants |
CN101742327B (zh) * | 2008-11-12 | 2012-11-28 | 北京中星微电子有限公司 | 视频编解码方法和系统及区域描述方法和装置 |
CN101494785B (zh) * | 2008-12-19 | 2012-05-09 | 无锡云视界科技有限公司 | 一种h.264感兴趣区域编码的方法 |
CN101841704B (zh) * | 2009-01-14 | 2013-12-11 | 北京中星微电子有限公司 | 视频码流压缩及解压缩的方法和装置 |
CN101499279B (zh) * | 2009-03-06 | 2011-11-02 | 武汉大学 | 空间参数逐级精细的比特分配方法及其装置 |
CN101499280B (zh) * | 2009-03-09 | 2011-11-02 | 武汉大学 | 基于空间感知熵判决的空间参数选取方法及其装置 |
CN101533512B (zh) * | 2009-04-24 | 2012-05-09 | 西安电子科技大学 | 基于人类视觉注意系统的图像感兴趣区域自动提取方法 |
CN101917602B (zh) * | 2010-08-26 | 2012-07-04 | 四川大学 | 基于高分辨率摄像头的数字视频智能监控设备及数据处理方法 |
CN102045570B (zh) * | 2011-01-13 | 2016-12-07 | 北京中星微电子有限公司 | 一种图像编码方法及装置 |
CN102164231A (zh) * | 2011-01-24 | 2011-08-24 | 南京壹进制信息技术有限公司 | 基于敏感信息的分辨率可动态调节的监控装置及方法 |
CN102244785A (zh) * | 2011-06-16 | 2011-11-16 | 杭州华三通信技术有限公司 | 可变码率录像存储的方法及设备 |
CN102801955A (zh) * | 2011-08-17 | 2012-11-28 | 南京金柏图像技术有限公司 | 一种基于局部高清的数字视频传输方法 |
CN103517073B (zh) * | 2013-07-12 | 2016-11-02 | 上海交通大学 | 视频编解码方法、装置及系统 |
CN105430343A (zh) * | 2015-12-02 | 2016-03-23 | 杭州务实科技有限公司 | 一种低流量无线传输视频方法 |
US11317171B2 (en) | 2016-09-30 | 2022-04-26 | British Telecommunications Public Limited Company | Viewer importance adaptive bit rate delivery |
EP3520422B1 (en) * | 2016-09-30 | 2022-11-02 | British Telecommunications public limited company | Viewer importance adaptive bit rate delivery |
CN107454418B (zh) * | 2017-03-03 | 2019-11-22 | 叠境数字科技(上海)有限公司 | 基于运动注意力模型的360度全景视频编码方法 |
CN107122152A (zh) * | 2017-04-27 | 2017-09-01 | 南京巨鲨显示科技有限公司 | 一种具有区域放大突显功能的显示器及其突显方法 |
CN107257426B (zh) * | 2017-06-19 | 2019-09-03 | 成都优孚达信息技术有限公司 | 一种减少资源消耗的数据压缩方法 |
US10848768B2 (en) * | 2018-06-08 | 2020-11-24 | Sony Interactive Entertainment Inc. | Fast region of interest coding using multi-segment resampling |
CN110519607B (zh) | 2019-09-27 | 2022-05-20 | 腾讯科技(深圳)有限公司 | 视频解码方法及装置,视频编码方法及装置 |
CN110650357B (zh) * | 2019-09-27 | 2023-02-10 | 腾讯科技(深圳)有限公司 | 视频解码方法及装置 |
CN113518249B (zh) * | 2020-04-10 | 2023-03-10 | 华为技术有限公司 | 一种远端图像处理方法及装置 |
CN111984034A (zh) * | 2020-08-24 | 2020-11-24 | 广东电网有限责任公司 | 一种无人机电力巡线系统 |
CN114579781A (zh) * | 2020-11-30 | 2022-06-03 | 华为技术有限公司 | 图片加载方法、电子设备、芯片及可读存储介质 |
CN113065553A (zh) * | 2021-04-01 | 2021-07-02 | 杭州思看科技有限公司 | 数据处理方法、装置、三维扫描系统和电子装置 |
CN113645500B (zh) * | 2021-10-15 | 2022-01-07 | 北京蔚领时代科技有限公司 | 虚拟现实视频流数据处理系统 |
CN114339232B (zh) * | 2021-12-16 | 2024-04-16 | 杭州当虹科技股份有限公司 | 自适应分辨率的编码方法及其对应的解码方法 |
CN114422788A (zh) * | 2022-03-30 | 2022-04-29 | 浙江智慧视频安防创新中心有限公司 | 数字视网膜视频联合编码方法、译码方法、装置及电子设备 |
CN114449280B (zh) * | 2022-03-30 | 2022-10-04 | 浙江智慧视频安防创新中心有限公司 | 一种视频编解码方法、装置及设备 |
CN114745549B (zh) * | 2022-04-02 | 2023-03-17 | 北京广播电视台 | 一种基于感兴趣区域的视频编码方法和系统 |
WO2024077798A1 (en) * | 2022-10-11 | 2024-04-18 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Image data coding methods and systems |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1327687A (zh) * | 1999-05-27 | 2001-12-19 | 皇家菲利浦电子有限公司 | 对视频信号进行编码 |
-
2008
- 2008-05-06 CN CN 200810047591 patent/CN101282479B/zh not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1327687A (zh) * | 1999-05-27 | 2001-12-19 | 皇家菲利浦电子有限公司 | 对视频信号进行编码 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021057689A1 (zh) * | 2019-09-27 | 2021-04-01 | 腾讯科技(深圳)有限公司 | 视频解码方法及装置、视频编码方法及装置、存储介质和电子装置 |
Also Published As
Publication number | Publication date |
---|---|
CN101282479A (zh) | 2008-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101282479B (zh) | 基于感兴趣区域的空域分辨率可调整编解码方法 | |
CN101204094B (zh) | 可缩放地编码和解码视频信号的方法 | |
CN101383962B (zh) | 基于感兴趣区域的低码率空域增强层编解码方法 | |
KR100888963B1 (ko) | 영상 신호의 스케일러블 인코딩 및 디코딩 방법 | |
KR100888962B1 (ko) | 영상 신호의 인코딩 및 디코딩 방법 | |
CN1136736C (zh) | 具有简缩装置的mpeg译码器和处理mpeg编码数据流的方法 | |
CN101252686B (zh) | 基于交织预测的视频帧内无损编解码方法及系统 | |
CN101742321B (zh) | 基于图层分解的视频编、解码方法及装置 | |
CN1122414C (zh) | 将图象数据存入存储器前按显示装置分辨率对图象数据去压缩和再压缩的mpeg系统和方法 | |
KR100703748B1 (ko) | 다 계층 기반의 비디오 프레임을 효율적으로 예측하는 방법및 그 방법을 이용한 비디오 코딩 방법 및 장치 | |
CN101467461B (zh) | 基于多层的视频编码方法及其装置 | |
CN100555332C (zh) | 使用包括多个宏块的预测和非预测画面对画面序列编码的方法和装置 | |
CN103096056B (zh) | 矩阵编码方法与装置及解码方法与装置 | |
CN101166275B (zh) | 信息处理设备、方法和程序 | |
CN101336549A (zh) | 基于多层的可缩放视频编码方法及装置 | |
KR20060063611A (ko) | 영상 블록을 디코딩 하는 방법 | |
KR20060063613A (ko) | 영상 신호의 스케일러블 인코딩 및 디코딩 방법 | |
CN101185343A (zh) | 提供和使用关于视频信号的层间预测的信息的方法 | |
CN110493596A (zh) | 一种基于神经网络的视频编码框架 | |
CN101584220B (zh) | 对视频信号进行编码的方法和系统、编码的视频信号、对视频信号进行解码的方法和系统 | |
US20170223381A1 (en) | Image coding and decoding methods and apparatuses | |
CN102333223A (zh) | 视频数据编码方法、解码方法、编码系统和解码系统 | |
CN1672421A (zh) | 采用混合预测码执行多描述运动补偿的方法和装置 | |
CN101998117B (zh) | 视频转码方法和装置 | |
CN102474616B (zh) | 用于生成、解码和转码经编码的视频数据流的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20110119 |
|
CF01 | Termination of patent right due to non-payment of annual fee |