CN107945101A - 图像处理方法和装置 - Google Patents
图像处理方法和装置 Download PDFInfo
- Publication number
- CN107945101A CN107945101A CN201610896459.3A CN201610896459A CN107945101A CN 107945101 A CN107945101 A CN 107945101A CN 201610896459 A CN201610896459 A CN 201610896459A CN 107945101 A CN107945101 A CN 107945101A
- Authority
- CN
- China
- Prior art keywords
- area
- image
- region
- overlapping region
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 39
- 238000000034 method Methods 0.000 claims description 65
- 238000012545 processing Methods 0.000 claims description 64
- 230000000694 effects Effects 0.000 abstract description 15
- 238000010586 diagram Methods 0.000 description 23
- 230000008569 process Effects 0.000 description 15
- 230000008859 change Effects 0.000 description 12
- 230000007704 transition Effects 0.000 description 10
- 230000011218 segmentation Effects 0.000 description 9
- 238000003860 storage Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 230000006837 decompression Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 229910003460 diamond Inorganic materials 0.000 description 1
- 239000010432 diamond Substances 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- -1 mobile phone Substances 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/06—Topological mapping of higher dimensional structures onto lower dimensional surfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/06—Topological mapping of higher dimensional structures onto lower dimensional surfaces
- G06T3/067—Reshaping or unfolding 3D tree structures onto 2D planes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/12—Panospheric to cylindrical image transformations
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本发明实施例提供一种图像处理方法和装置。该图像处理方法包括:获取二维平面图像的第一区域和与所述第一区域相邻的相邻区域的编码数据,所述二维平面图像由球形全景图像映射得到的图像,其中,所述第一区域和所述相邻区域之间存在重叠区域;根据所述第一区域的图像的编码数据确定所述第一区域的图像的像素点的像素值;根据所述相邻区域的图像的编码数据确定所述相邻区域的图像的像素点的像素值;根据所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值。本发明实施例能提高图像显示效果。
Description
技术领域
本发明涉及图像处理领域,并且更具体地,涉及一种图像处理装置。
背景技术
由于球形全景图像无法方便的存储和表示,通常需要将球形全景图像转化为二维平面图像再进行编码等处理。现有技术在对二维平面图像进行编码时是将二维平面图像划分为多个相互独立的区域,然后分别对这些区域的图像进行编码得到编码数据,最后将编码数据存储起来或者传输到解码端。
当解码端接收到编码数据后,通过解码可以得到二维平面图像的多个区域的像素点的像素值,并通过终端将二维平面图像显示出来。如果二维平面图像中的相邻的第一区域和第二区域的图像的质量不同,那么当终端显示的图像从第一区域的图像切换到第二区域的图像时,用户会明显的感觉到第一区域图像和第二区域图像的差异,图像显示效果较差,影响用户体验。
发明内容
本申请提供了一种图像处理方法和装置,以提高图像显示效果。
第一方面,提供了一种图像处理方法,该方法包括:获取二维平面图像的第一区域和与所述第一区域相邻的相邻区域的编码数据,所述二维平面图像由球形全景图像映射得到的图像,其中,所述第一区域和所述相邻区域之间存在重叠区域;根据所述第一区域的图像的编码数据确定所述第一区域的图像的像素点的像素值;根据所述相邻区域的图像的编码数据确定所述相邻区域的图像的像素点的像素值;根据所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值
根据不同区域在重叠区域的像素点的像素值来确定重叠区域的最终像素值,能够使得相邻区域之间过渡时像素值的变化比较平缓,从而提高了相邻区域对应的图像在切换时的显示效果,提高了用户体验。
结合第一方面,在第一方面第一种实现方式中,在获取所述二维平面图像的多个区域的编码数据之前,所述方法还包括:向编码端发送第一指示信息,所述第一指示信息用于指示所述编码端在对所述二维平面图像划分区域时,划分得到的所述第一区域和所述相邻区域之间存在所述重叠区域。当上述方法是由解码端设备执行时,解码端可以确定如何将二维平面图像划分为多个区域,并将划分区域的信息通知编码端,也就是说在解码端也可以确定划分区域的方式,这样对图像的处理更加灵活。
结合第一方面的第一种实现方式,在第一方面的第二种实现方式中,述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。
使得编码端不仅能够根据第一指示信息确定如何将二维平面图像划分为多个区域,而且还可以确定重叠区域的大小和位置,便于编码端对图像进行图像处理。
结合第一方面,在第一方面的第三种实现方式中,所述方法还包括:接收来自编码端的第二指示信息,所述第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
结合第一方面,以及第一方面的第一种至第三种实现方式中的任意一种,在第一方面的第四种实现方式中,根据所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值,包括:对所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值进行加权处理,得到所述重叠区域的像素点的目标像素值。
通过相邻区域在重叠区域的像素点的像素值来确定重叠区域的像素点的最终像素值,使得重叠区域的像素点的像素值能够在相邻区域之间实现平滑的过渡,提高了图像的显示效果。
结合第一方面,以及第一方面的第一种至第三种实现方式中的任意一种,在第一方面的第五种实现方式中,所述方法还包括:所述根据所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值,包括:当第一差值小于第一预设阈值时,将所述第一区域或者相邻区域在所述重叠区域的像素点的像素值确定为所述目标像素值,所述第一差值为第一区域的图像的分辨率与所述相邻区域的图像的分辨率之间的差值,或者所述第一区域的编码数据的码率与所述相邻区域的编码数据的码率之间的差值。
当相邻区域图像的分辨率比较接近时,可以直接确定重叠区域的像素点的像素值,提高了对图像的处理效率。
结合第一方面,以及第一方面的第一种至第五种实现方式中的任意一种,在第一方面的第六种实现方式中,所述重叠区域位于所述第一区域和所述相邻区域之间,所述第一区域位于所述相邻区域的水平方向上,或者所述第一区域位于所述相邻区域的竖直方向上。
结合第一方面,以及第一方面的第一种至第六种实现方式中的任意一种,在第一方面的第七种实现方式中,所述重叠区域的大小是根据所述二维平面图像的大小确定的。
结合第一方面,以及第一方面的第一种至第六种实现方式中的任意一种,在第一方面的第八种实现方式中,所述重叠区域的大小是根据所述第一区域或者相邻区域的大小确定的。
结合第一方面,以及第一方面的第一种至第五种实现方式中的任意一种,在第一方面的第九种实现方式中,所述二维平面图像还包括第二区域,所述第一区域在所述第二区域内部,所述重叠区域是所述第二区域中除所述第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到所述二维平面图像的区域,所述第三区域是所述球形全景图像中第一视角范围内对应的图像所在的区域。
结合第一方面的第九种实现方式,在第一方面的第十种实现方式中,所述第一视角范围为角度值,所述角度值为360度的约数。
第二方面,提供了一种图像处理方法,该方法包括:将二维平面图像划分为多个区域,所述多个区域包含第一区域和与所述第一区域相邻的相邻区域,所述第一区域和所述相邻区域之间存在重叠区域,所述二维平面图像是球形全景图像映射得到的图像;对所述第一区域的图像进行编码,得到所述第一区域的编码数据;对所述相邻区域的图像进行编码,得到所述相邻区域的编码数据。
在划分区域时,将二维平面图像划分成相邻区域之间存在重叠区域的图像,与现有技术中划分的区域没有重叠区域相比,能够使得解码端根据相邻区域在重叠区域的像素点的像素值来确定重叠区域的最终像素值,使得相邻区域之间过渡时像素值的变化比较平缓,从而提高了相邻区域对应的图像在切换时的显示效果,提高了用户体验。
结合第二方面,在第二方面的第一种实现方式中,在所述将二维平面图像划分为多个区域之前,所述方法还包括:接收来自解码端的第一指示信息,所述第一指示信息用于指示在对所述二维平面图像划分区域时,划分得到的所述第一区域和所述相邻区域之间存在所述重叠区域。
结合第二方面的第一种实现方式,在第二方面的第二种实现方式中,所述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。
结合第二方面,在第二方面的第三种实现方式中,所述方法还包括:向所述解码端发送第二指示信息,所述第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
结合第二方面,以及第二方面的第一种至第三种实现方式中的任意一种,在第二方面的第四种实现方式中,所述重叠区域位于所述第一区域和所述相邻区域之间,所述第一区域位于所述相邻区域的水平方向上,或者所述第一区域位于所述相邻区域的竖直方向上。
结合第二方面,以及第二方面的第一种至第四种实现方式中的任意一种,在第二方面的第五种实现方式中,所述重叠区域的大小是根据所述二维平面图像的大小确定的。
结合第二方面,以及第二方面的第一种至第四种实现方式中的任意一种,在第二方面的第六种实现方式中,所述重叠区域的大小是根据所述第一区域或者相邻区域的大小确定的。
结合第二方面,以及第二方面的第一种至第三种实现方式中的任意一种,在第二方面的第七种实现方式中,所述二维平面图像还包括第二区域,所述第一区域在所述第二区域内部,所述重叠区域是所述第二区域中除所述第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到所述二维平面图像的区域,所述第三区域是所述球形全景图像中第一视角范围内的图像所在的区域。
结合第二方面的第七种实现方式,在第二方面的第八种实现方式中,所述第一视角范围为角度值,所述角度值为360度的约数。
第三方面,提供一种图像处理装置,所述图像处理装置包括用于执行第一方面的方法的模块。
第四方面,提供一种图像处理装置,所述图像处理装置包括用于执行第二方面的方法的模块。
第五方面,提供一种图像处理装置,包括存储器和处理器,所述存储器用于存储程序,所述处理器用于执行程序,当所述程序被执行时,所述处理器用于执行所述第一方面中的方法。
第六方面,提供一种图像处理装置,包括存储器和处理器,所述存储器用于存储程序,所述处理器用于执行程序,当所述程序被执行时,所述处理器用于执行所述第一方面中的方法。
第七方面,提供一种计算机可读介质,所述计算机可读介质存储用于设备执行的程序代码,所述程序代码包括用于执行第一方面中的方法的指令。
第八方面,提供一种计算机可读介质,所述计算机可读介质存储用于设备执行的程序代码,所述程序代码包括用于执行第二方面中的方法的指令。
在某些实现方式中,所述多个区域还包括其它区域区域,所述其它区域之间存在所述重叠区域。
在某些实现方式中,所述多个区域中的任意两个相邻区域之间均存在所述重叠区域。
在某些实现方式中,所述第一区域和所述相邻区域的大小相同。
在某些实现方式中,所述方法还包括:确定所述第一区域的图像对应的码率与所述相邻区域的图像对应的码率的第二差值;
所述根据所述第一区域的图像在所述重叠区域的像素点的像素值以及所述相邻区域的图像在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值,包括:
当所述第二差值小于第二预设阈值时,将所述第一区域或者相邻区域的图像在所述重叠区域的像素点的像素值确定为所述重叠区域的像素点的目标像素值。
在某些实现方式中,所述重叠区域的大小是固定的。也就是说,该重叠区域的大小可以是在编解码之前就已经确定好了的固定区域大小。
在某些实现方式中,所述多个区域中的任意一个区域的形状为正方形、矩形、圆形、梯形中以及弧形区域中的至少一种。应理解,所述多个区域中的任意一个区域的形状还可以为其它不规则的形状。
在某些实现方式中,所述二维平面图像为2D经纬图。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图作简单地介绍,显而易见地,下面所描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是视频文件对应的码流示意图。
图2是球形全景图像映射到经纬图的示意图。
图3是二维平面图像的子区域的示意图。
图4是二维平面图像的不同子区域对应的编码数据的示意图。
图5是本发明实施例的图像处理方法的示意性流程图。
图6是二维平面图像的第一区域和相邻区域的示意图。
图7是二维平面图像的第一区域和相邻区域的示意图。
图8是二维平面图像的第一区域和相邻区域的示意图。
图9是二维平面图像的第一区域和相邻区域的示意图。
图10是本发明实施例的图像处理方法的示意性流程图。
图11是二维图像的A、B、C、D区域的示意图。
图12是球形全景图像映射到平面图像的示意图。
图13是本发明实施例的图像处理方法应用的系统架构的示意性框图。
图14是本发明实施例的图像处理装置的示意性框图。
图15是本发明实施例的图像处理装置的示意性框图。
图16是本发明实施例的图像处理装置的示意性框图。
图17是本发明实施例的图像处理装置的示意性框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
为了更好地理解本发明实施例的图像处理方法和图像处理方法,下面先结合图1至图4对现有技术中视频编解码的相关内容进行简单的介绍。
在对图像进行编码处理时通常会制作不同版本的码流,码流也被称为媒体表示(representation),不同媒体表示的码率以及分辨率等编码参数一般不相同,每个媒体表示可以分割成多个小的文件,这些小的文件一般称为分段(segment)。如图1所示,编码设备在对某视频文件编码后得到了三个媒体表示R1、R2和R3,其中R1是码率为4MBPS(每秒兆比特)的高清视频,R2是码率为2MBPS的标清视频,R3是码率为1MBPS的标清视频,每个媒体表示均包括8个分段。每个媒体表示的分段可以依次保存在一个文件中,也可以分开保存在不同的文件中。在播放该视频时用户可以选择任意一个媒体表示来播放,例如,如果用户选择R1,那么播放的就是4MBPS的高清视频,如果用户选择R2,那么播放的就是2MBPS的标清视频(显然,选择R1的播放效果要好于选择R2的播放效果)。此外,用户还可以选择R1、R2以及R3中的部分分段来播放,如图1所示,阴影部分是客户请求播放的分段,在播放该视频文件时,首先播放R3的前三个分段,然后播放R1的第四个至第六个分段,最后再播放R2的第七个和第八个分段,也就是说,用户开始请求播放的是1MBPS的标清视频,接下来请求播放的是4MBPS的高清视频,最后请求播放的是2MBPS的标清视频。当播放的视频在不同的分辨率之间切换时,由于视频质量的差异较大,用户能够明显感觉到视频质量的变化,并且,如果用户当前正在关注某个区域的图像时,如果视频质量突然产生很大的变化,那么将会严重影响用户的主观体验。
随着虚拟现实(Virtual Reality,VR)设备的兴起,开始出现了球形全景图像,球形全景图像是一种360度的球形图像,它超出了人类眼睛的正常视觉范围。在对球形全景图像进行编码的过程中通常先将全景图像先转换为二维平面图像(二维平面图像较为常见的形式是经纬图),然后再对二维平面图像进行其它处理。如图2所示,图2左侧是一个球形全景图像,对该球形全景图像进行映射可以得到图2右侧的经纬图。将球形全景图像转化为2D经纬图的具体过程为:对于球面图像上的任意一点P,在映射图像时,将P点的经度坐标映射到矩形的水平坐标,将P点的维度坐标映射到矩形的垂直坐标,按照同样的方式,将球面图像上的其它点都映射到矩形区域中就得到了一张2:1的2D经纬图。
在对经纬图进行编码时,一般会将该经纬图划分为n个独立的区域,然后对每个区域中的图像进行单独的编码,对于不同的区域可能采用不同的编码方式。具体来说,可以将图2中的经纬图划分成如图3所示的9个独立区域(A、B、C、D、E、F、G、H、I),接下来,对这九个区域分别进行编码,得到这九个区域的媒体表示如图4所示。
终端在播放图2所示的球形全景图像时,不同区域的图像可能对应不同的视角,例如,当用户视角发生变化,使得用户看到的图像从D区域显示的图像切换到E区域显示的图像,然后再切换到F区域显示的图像,如图4所示,用户看到的是D区域的前三个分段(S1、S2和S3)对应的图像,E区域的第四个和第五个分段(S4和S5)对应的图像,以及F区域的第六个至第八个分段(S6、S7和S8)对应的图像。如果D区域中的S3与E区域的S4的码流或者对应的图像的分辨率不同,那么用户在观看到D区域对应的图像切换到E区域对应的图像时,会明显地感觉到两个区域对应的图像的差异,并且,当用户正在关注D区域和E区域交界的图像时,会严重影响用户体验。同样,如果E区域中的S5与F区域的S6的码流或者对应的图像的分辨率不同时,那么用户在观看到E区域对应的图像切换到F区域对应的图像时也会明显地感觉到图像的差异。
因此,本发明实施例提供了一种编图像处理方法,在对二维平面图像进行编码时将二维平面图像划分成相邻区域间包含重叠区域的多个区域,然后再对多个区域的图像分别进行编码得到编码数据,并且在对不同区域图像进行编码时可以采用不同的编码方式和编码参数。解码端在对编码数据进行解码后,可以得到二维平面图像的多个区域的图像的像素点的像素值,然后在根据多个区域的像素点的像素值来确定重叠区域的像素点的最终像素值,也就是说,在确定重叠区域的像素点的像素值时综合考虑了相邻区域的像素点的像素值,这样在播放图像时就能使得相邻区域对应的图像在切换时更平滑,提高了显示效果。
下面结合图5至图13本发明实施例的图像处理方法进行详细的介绍。
图5是本发明实施例的图像处理方法的示意性流程图。图5所示的图像处理方法可以由解码端设备执行,该图像处理方法包括:
110、获取二维平面图像的第一区域和与所述第一区域相邻的相邻区域的编码数据,所述二维平面图像由球形全景图像映射得到的图像,其中,所述第一区域和所述相邻区域之间存在重叠区域;
该二维平面图像可以是如图2所示的经纬图,也可以是球形全景图像映射到多面体上得到的二维平面图像,例如,该二维平面图像可以是球形全景图像映射到正六面体上,并将该正六面体展开后得到的图像。
当上述图像处理方法由解码端设备执行时,解码端设备可以从编码端、云端或者其它存储设备获取二维平面图像的编码数据。
120、根据第一区域的图像的编码数据确定所述第一区域的图像的像素点的像素值。
130、根据相邻区域的图像的编码数据确定相邻区域的图像的像素点的像素值。
上述第一区域以及第一区域的相邻区域可以是上述二维图像中的多个区域中的任意相邻的两个区域。应理解,上述多个区域中还可以包含其它区域,这些区域之间也可以存在重叠区域。
优选地,上述多个区域为N个区域,N个区域中任意相邻的两个区域之间均存在重叠区域。
通过在相邻区域之间设置重叠区域,使得终端显示的图像从一个区域对应的图像切换到另一个相邻区域对应的图像时,过渡比较自然,提高用户体验。
140、根据第一区域在重叠区域的像素点的像素值以及相邻区域在所述重叠区域的像素点的像素值,确定重叠区域的像素点的目标像素值。
例如,如图6所示,A区域为第一区域,B区域为第一区域的相邻区域,A区域和B区域均包含区域C,也就是说,C区域为A区域和B区域的重叠区域。假设C区域中共有100个像素点,对A区域进行解码时得到的C区域的100个像素点的像素值为第一类像素值,对B区域进行解码时得到的C区域的100个像素点的像素值为第二类像素值,如果编码端对A区域和B区域中的图像采用的编码方式不同,那么很可能导致解码端解码后得到第一类像素值与第二类像素值不同。这时,解码端可以根据第一类像素值和第二类像素值来确定C区域中的100个像素点的目标像素值,例如,将第一类像素值和第二类像素值进行平滑滤波处理,使得C区域中的100个像素点的目标像素值介于第一类像素值和第二类像素值之间,这样,当终端显示的图像从第一区域的图像切换到相邻区域的图像时,能够实现平滑过渡,提高播放图像的显示效果,提高用户体验。
上述解码端设备可以是终端设备,也可以是专门用于解码的设备,当解码端设备是终端设备时,在解码后可以直接显示图像,当解码端设备是专门用于解码的设备时,解码端设备在完成解码后可以将解码信息存储起来或者传输给终端。
本发明实施例中,根据不同区域在重叠区域的像素点的像素值来确定重叠区域的最终像素值,能够使得相邻区域之间过渡时像素值的变化比较平缓,从而提高了相邻区域对应的图像在切换时的显示效果,提高了用户体验。
可选地,作为一个实施例,在获取二维平面图像的多个区域的编码数据之前,本发明实施例的图像处理方法还包括:
向编码端发送第一指示信息,该第一指示信息用于指示编码端在对二维平面图像划分区域时,划分得到的第一区域和相邻区域之间存在上述重叠区域。
也就是说,解码端可以先确定对二维平面图像进行区域划分的划分方式,该划分方式具体包括将二维平面图像划分为几个区域,哪些区域之间存在重叠区域。然后,解码端向编码端发送第一指示信息,使得编码端按照解码端确定的划分方式对二维平面图像进行划分。
可选地,上述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。也就是说第一指示信息不仅指示了二维平面图像的哪些区域之间存在重叠区域,而且还指示了重叠区域的大小或者位置。
应理解,编码端不仅可以根据解码端的指示将二维平面图像划分为多个区域,也可以自行确定如何将二维平面图像划分为多个区域。
可选地,作为一个实施例,本发明实施例的方法还包括:
接收编码端发送的第二指示信息,该第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
解码端根据上述第二指示信息确定第一区域与相邻区域之间存在重叠区域。
可选地,作为一个实施例,根据第一区域在重叠区域的像素点的像素值以及相邻区域在重叠区域的像素点的像素值,确定重叠区域的像素点的目标像素值,包括:对第一区域在重叠区域的像素点的像素值以及相邻区域在重叠区域的像素点的像素值进行加权处理,得到重叠区域的像素点的目标像素值。
例如,第一区域和相邻区域中的重叠区域共有9个像素点(这里为了描述方便仅以9个像素点为例,实际上重叠区域的像素点的个数要远远大于9个)。其中,对第一区域对应的编码数据进行解码后得到第一区域在重叠区域中的9个像素点的像素值分别为:100,100,100,110,120,110,100,120,120;对相邻区域对应的编码数据进行解码后得到相邻区域在重叠区域中的9个像素点的像素值分别为:90,90,90,90,90,90,100,100,100。对第一区域中的这些像素点的像素值和相邻区域中的这些像素点的像素值进行平滑处理,得到重叠区域的这9个像素点的最终像素值分别为:(100+90)/2,(100+90)/2,(100+90)/2,(110+90)/2,(120+90)/2,(110+90)/2,(100+100)/2,(100+120)/2,(100+100)/2。
可选地,作为一个实施例,本发明实施例的图像处理方法还包括:
根据第一区域在重叠区域的像素点的像素值以及相邻区域在重叠区域的像素点的像素值,确定重叠区域的像素点的目标像素值,包括:
当第一差值小于第一预设阈值时,将第一区域或者相邻区域在重叠区域的像素点的像素值确定为目标像素值,第一差值为第一区域的图像的分辨率与相邻区域的图像的分辨率之间的差值,或者第一区域的编码数据的码率与相邻区域的编码数据的码率之间的差值。
应理解,在将第一区域或者相邻区域在重叠区域的像素点的像素值确定为目标像素值之前,本发明实施例的方法还包括:确定第一区域的图像的分辨率与相邻区域的图像的分辨率的第一差值;
当第一区域的图像的分辨率与相邻区域图像的分辨率比较接近时,第一区域在重叠区域的像素点的像素值往往与相邻区域在重叠区域的像素点的像素值也比较接近,这时直接将第一区域或者相邻区域在重叠区域的像素值作为重叠区域的像素点的像素值不仅能够提高解码效率。
可选地,本发明实施例的图像处理方法还包括:
确定第一区域的图像对应的码率与相邻区域的图像对应的码率的第二差值;
根据第一区域在重叠区域的像素点的像素值以及相邻区域在重叠区域的像素点的像素值,确定重叠区域的像素点的目标像素值,包括:当第二差值小于第二预设阈值时,将第一区域或者相邻区域在重叠区域的像素点的像素值确定为重叠区域的像素点的目标像素值。
除了比较第一区域的图像的分辨率与相邻区域的图像的分辨率的差异外,还可以比较第一区域的图像对应的码率与相邻区域的图像对应的码率的差异,当分辨率或者码率差异较小时都可以直接将第一区域或者相邻区域在重叠区域的像素点的像素值确定为重叠区域的像素点的最终像素值。
可选地,上述重叠区域位于第一区域和相邻区域之间,第一区域位于相邻区域的水平方向上,或者第一区域位于相邻区域的竖直方向上。应理解,第一区域还可以是位于与相邻区域成一定夹角的方向上。
下面结合图7至图9对第一区域以及第一区域的相邻区域的重叠区域进行详细的说明。
在图7中,A区域为第一区域,B区域为相邻区域,A区域和B区域为在水平方向上相邻的区域,A和B在水平方向形成重叠区域。在图8中,区域A为第一区域,D区域为相邻区域,A区域和D区域为在垂直方向上相邻的区域,A区域和D区域是垂直方向上形成重叠区域。
应理解,在二维平面图像中,一个区域既可以与水平方向上的相邻区域形成重叠区域,也可以与在垂直方向上的相邻区域形成重叠区域。
在图9中,A区域为第一区域,B区域和D区域为A区域的相邻区域。A区域和B区域之间在水平方向上形成重叠区域,A区域和D区域在垂直方向上形成重叠区域。
可选地,作为一个实施例,上述重叠区域的大小是预设的。具体地,重叠区域的大小可以是编码器或者是用户预先设置的,例如,可以将重叠区域设置为K×L大小的区域,其中,K为200像素,L为100像素。
可选地,作为一个实施例,上述重叠区域的大小是根据所述二维平面图像的大小确定的。
具体地,重叠区域的大小与二维平面图像的大小正相关,二维平面图像越大重叠区域也就越大。在确定重叠区域的大小时,可以将二维平面图像乘以一定的比例确定重叠区域的大小。例如,二维平面图像的大小为X×Y(水平方向为X像素,垂直方向为Y像素),二维平面图像的每个区域的大小为M×N(水平方向为M像素,垂直方向为N像素),重叠区域的大小为K×L(水平方向为K像素,垂直方向为L像素)。那么,当重叠区域为水平重叠区域时,K=1/10*X,L=N;而当重叠区域为垂直重叠区域时,K=M,L=1/9*Y。
可选地,作为一个实施例,上述重叠区域的大小是根据第一区域或者相邻区域的大小确定的。
具体地,重叠区域的大小与划分区域的大小正相关,划分区域越大重叠区域也就越大。在确定重叠区域的大小时,可以将二维平面图像乘以一定的比例确定重叠区域的大小。例如,第一区域或者相邻区域的大小为M×N(水平方向为M像素,垂直方向为N像素)。那么,当重叠区域为水平重叠区域时,K=1/5*M,L=N;而当重叠区域为垂直重叠区域时,K=M,L=1/4*N。
可选地,作为一个实施例,上述重叠区域的大小是根据球形全景图像的视角范围确定的。也就是说,在将球形全景图像映射到平面图像时,可以根据用户观看球形全景视频图像的视角范围来确定如何划分区域,以及哪些区域之间存在重叠区域,重叠区域的大小是多少。
在对图像进行区域划分时,如果相邻区域之间存在重叠区域时,会导致对图像进行处理时码率会有一定的增加。例如,第一区域和相邻区域之间存在重叠区域,那么在对第一区域和相邻区域进行编码时会重复对重叠区域中的图像进行编码,因此会导致码率的增加,而码率的增加可能会影响图像的播放效果。
可选地,作为一个实施例,二维平面图像还包括第二区域,第一区域在第二区域内部,重叠区域是第二区域中除第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到二维平面图像的区域,第三区域是球形全景图像中第一视角范围内对应的图像所在的区域。
上述第三区域以上述第一区域映射到球形全景图像中的第四区域的中心为中心,并根据预设的第一视角范围得到。
可选地,作为一个实施例,其特征在于,上述第一视角范围为角度值,所述角度值为360度的约数。例如角度值可以为60度,30度等。
这里是先根据第一视角确定第三区域,然后再将第三区域映射到第二区域,根据第二区域和第一区域最终再确定第一区域的重叠区域。
以图9为例,二维平面图像被划分成9个区域,这9个区域中,每两个相邻的区域之间均存在重叠区域。通过设置不同大小的重叠区域,得出不同重叠区域下二维平面图像的码率以及码率随着不同大小重叠区域的变化情况如表1所示。
表1重叠区域大小与码率以及码率变化的关系
在表1中,随着重叠区域与图像子区域的比例逐渐增加(重叠区域的面积逐渐增加),二维平面图像的码率增加的比例并不明显。也就是说本发明实施例可以在不明显增加二维平面图像对应的码率的情况下,提高图像的显示效果,提升用户体验。
上文从解码端的角度对本发明实施例的图像处理方法进行了详细的描述,下面从解码端的角度对本发明实施例的图像处理方法的整个流程进行详细的介绍。应理解,编码过程与解码过程是对应的,为了简洁,在介绍图像处理方法时,适当省略在解码端已经存在的内容。
图10是本发明实施例的图像处理方法的示意性流程图。图10所示的图像处理方法可以由编码端设备执行,该图像处理方法包括:
210、将二维平面图像划分为多个区域,该多个区域包含第一区域以及与第一区域相邻的相邻区域,所述第一区域和相邻区域之间存在重叠区域,该二维平面图像是球形全景图像映射得到的图像。
220、对第一区域的图像进行编码,得到第一区域的编码数据。
230、对相邻区域的图像进行编码,得到相邻区域的编码数据。
应理解,当上述图像处理方法由编码端执行时,编码端还会对多个区域中的其他区域的图像进行编码,并最终得到整个二维平面图像的各个区域图像的编码数据,并将该编码数据存储起来或者发送给解码端。当解码端获得上述编码数据后就可以对这些编码数据进行解码,具体解码的过程如图5所示的图像处理方法所示,这里不再重复描述。
本发明实施例中,在划分区域时,将二维平面图像划分成相邻区域之间存在重叠区域的图像,与现有技术中划分的区域没有重叠区域相比,能够使得解码端根据相邻区域在重叠区域的像素点的像素值来确定重叠区域的最终像素值,使得相邻区域之间过渡时像素值的变化比较平缓,从而提高了相邻区域对应的图像在切换时的显示效果,提高了用户体验。
可选地,作为一个实施例,本发明实施例的图像处理方法还包括:
接收来自解码端的第一指示信息,第一指示信息用于指示在对二维平面图像划分区域时,划分得到的第一区域和相邻区域之间存在所述重叠区域。
可选地,上述第一指示信息还用于指示重叠区域的大小或重叠区域相对于第一区域的位置。
通过发送第一指示信息,使得解码端能够方便地确定二维图像的多个区域中的第一区域与第一区域的相邻区域之间存在重叠区域。
可选地,作为一个实施例,本发明实施例的图像处理方法还包括
向解码端发送第二指示信息,第二指示信息用于指示第一区域和所述相邻区域之间存在所述重叠区域。
可选地,作为一个实施例,上述重叠区域位于第一区域和相邻区域之间,第一区域位于相邻区域的水平方向上,或者第一区域位于相邻区域的竖直方向上。应理解,第一区域还可以是位于与相邻区域成一定夹角的方向上
可选地,作为一个实施例,重叠区域的大小是根据二维平面图像的大小确定的。
可选地,作为一个实施例,重叠区域的大小是根据第一区域或者相邻区域的大小确定的。
可选地,作为一个实施例,二维平面图像还包括第二区域,第一区域在第二区域内部,重叠区域是第二区域中除第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到二维平面图像的区域,第三区域是球形全景图像中第一视角范围内的图像所在的区域。
上述第三区域以上述第一区域映射到球形全景图像中的第四区域的中心为中心,并根据预设的第一视角范围得到。
可选地,作为一个实施例,其特征在于,上述第一视角范围为角度值,所述角度值为360度的约数。
上文分别从解码端和编码端的角度分别对本发明实施例的图像处理方法和图像处理方法进行了详细的描述,下面结合图11和图12以具体的实例对本发明实施例的图像处理方法和图像处理方法进行详细的描述。
实例一:
对二维平面图像进行解码的具体过程如下:
301、解码端对编码数据进行解码,得到解码图像。
解码端可以从编码端或者云端获取二维平面图像的多个编码数据,对编码数据进行解码可以生成重建图像,该重建图像是由多个区域组成的二维平面图像。在解码时可以采用H.264、H.265等解压缩方法。
302、对多个区域的图像进行处理。
具体地,解码端在获取编码数据时的同时或者之前获取编码端生成的重叠区信息(该重叠信息用于指示编码端将二维平面图像划分为几个区域,哪几个区域之间存在重叠区域,重叠区域的大小和位置等),这样,在对多个区域的图像进行解码后,解码端就可以根据重叠信息确定重建图像的重叠区域的位置和大小,并根据重叠区域所在的不同区域的像素点的像素值来确定重叠区域的像素点的最终像素值。
例如,如图12所示,解码端根据二维平面图像A、B、C、D区域对应的编码数据得到这些区域的重建图像。并根据重叠信息确定A区域和C区域之间以及B区域和D区域之间均存在重叠区域。那么,解码端可以根据A区域和C区域的像素点的像素值确定A区域和C区域之间的重叠区域的像素点的像素值,同样,解码端也可以采用同样的方法确定B区域和D区域之间的重叠区域的像素点的像素值。
303、将多个区域的图像按照区域位置拼接成全景图像。
以图11中的二维平面图像为例,将A、B、C、D区域的图像按照这些区域图像的分布位置,将这些区域的图像拼接成全景图像。
304、在终端设备上显示步骤303得到的全景图像,或者将该全景图像转化为球面图像并在终端设备上显示。
实例二:
对二维平面图像进行编码的具体过程如下
401、编码端将球形全景图像转换为二维平面图像。
具体地,上述球形全景图像可以是360度的全景视频图像,二维平面图像可以为2D经纬图,或者是将上述球形全景图像映射到多面体中得到的多面体格式的二维平面图像。
该多面体格式的二维平面图像可以是先将球形全景图像映射到一个正多面体(例如,正六面体)中,然后将正六面体展开就可以得到多面体格式的二维平面图像。
402、编码端将二维平面图像划分为包含重叠区域的多个区域。
上述多个区域的形状可以为任何区域,例如,正方形、矩形、圆形、菱形或者其它不规则的形状等,此外,可以是部分区域之间有重叠区域,也可以是相邻的区域之间均有重叠区域。在划分区域时,编码端可以自行确定如何进行区域的划分,哪些区域之间存在重叠区域等。或者,区域的划分方式由解码端确定,编码端根据解码端发送的指示信息来确定如何进行区域的划分。
在将二维平面图像划分为多个区域之后,可以生成重叠信息,该重叠信息用于指示重叠区域的位置和大小等,编码端可以在向解码端发送编码数据的同时将该重叠信息也发送给解码端。
403、编码端对多个区域的图像进行编码。
编码时可以采用H.264,H.265等压缩方法。
404、得到编码数据。
在得到编码数据后,编码端可以将编码数据传输给解码端,也可以将编码数据存储在云端或者其它存储装置中。
实例三:
本发明实施例的图像处理方法处理的二维平面图像还可以是根据球面全景图像的曲率,将球面全景图像中的不同曲面区域的图像分别映射到平面中,得到二维平面图像(映射过程具体可以参考专利申请号为201610886263.6的方案)。然后根据预设视角对二维平面图像的某个区域的边界进行扩充,使得扩充后的区域与其他相邻区域重叠,从而确定重叠区域,下面结合图12对确定重叠区域的过程进行详细的描述:
501、获取由球面全景图像映射得到的二维平面图像,将二维平面图像划分为多个子区域,确定需要进行扩充的区域E(这里是以E区域为例进行说明,实际上二维平面图像中的可以有多个需要扩充的区域)。
502、在球面图像中确定与区域E对应的曲面区域E’。
503、找到曲面区域的中心点,将A与球心O连线,可以认为OA为从O点引出的观看球面图像的观看视线。假设存在一个预定视角范围,水平视角范围为θ,垂直视角范围为根据视线OA以及视角范围获得球面上的该视角范围对应的图像区域F’(图12左图中的虚线区域映射到球面的区域)。θ和的取值要满足区域F’要覆盖区域E’,也就是说区域F’包含区域E’。
优选地,在满足区域F’包含区域E’的情况下,θ和的可以选择30°、45°以及60°等能够被360°整除的角度。
504、根据区域G和区域E确定E区域的重叠区域,其中G区域是图12左图中与区域F’对应的区域。由于区域G包含区域E,因此,可以将区域G中除区域E之外的其它区域作为重叠区域。
505、按照类似的方式,确定二维图像中的其它区域的子图像的重叠区域。
506、编码端对多个区域的图像进行编码。
507、得到编码数据。
图13是本发明实施例的编图像处理方法的应用的架构的示意图。该架构包含了编码、解码以及显示的整个过程。该架构主要包括:
全景相机:用于360度采集图像并将采集到的图像拼接为全景图像或视频。这里的图像拼接既可以由全景相机来实现,也可以由媒体服务器来实现。
媒体服务器:对全景相机采集或者拼接成的图像进行编码或转码的操作,同时将编码后的数据通过网络传输到终端;此外,媒体服务器还可以根据终端反馈的用户视角,选择需要传输的图像以及要求传输的图像的质量。这里的媒体服务器可以是媒体源服务器,传输服务器,也可以是转码服务器等,媒体服务器可以在网络侧;
终端:这里的中终端可以是VR眼镜,手机,平板,电视,电脑等可以连上网络的电子设备。
应理解,在本发明实施例中,对图像的编码和解码处理可以理解为对视频中的图像进行的处理,视频可以理解为在不同时刻所采集得到图像的图像序列,本发明实施例的图像处理方法和图像处理方法的处理的图像可以是视频中的单幅图像,也可以是构成视频的图像序列。
上文结合图1至图13,详细的描述了本发明实施例的图像处理方法,下面将结合图14至图17,描述本发明实施例的图像处理装置。
应理解,图14至图17描述的图像处理装置能够实现图1至图13中描述的图像处理方法的各个步骤,为了简洁,适当省略重复的描述。
图14是本发明实施例的图像处理装置的示意性框图。图14所示的图像处理装置300包括:
获取模块310,用于获取二维平面图像的第一区域和与所述第一区域相邻的相邻区域的编码数据,所述二维平面图像由球形全景图像映射得到的图像,其中,所述第一区域和所述相邻区域之间存在重叠区域;
第一确定模块320,用于根据所述第一区域的图像的编码数据确定所述第一区域的图像的像素点的像素值;
第二确定模块330,用于根据所述相邻区域的图像的编码数据确定所述相邻区域的图像的像素点的像素值;
第三确定模块340,用于根据所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值。
本发明实施例中,根据不同区域在重叠区域的像素点的像素值来确定重叠区域的最终像素值,能够使得相邻区域之间过渡时像素值的变化比较平缓,从而提高了相邻区域对应的图像在切换时的显示效果,提高了用户体验。
可选地,作为一个实施例,所述图像处理装置还包括:
发送模块350,用于在在获取所述二维平面图像的多个区域的编码数据之前,向编码端发送第一指示信息,所述第一指示信息用于指示所述编码端在对所述二维平面图像划分区域时,划分得到的所述第一区域和所述相邻区域之间存在所述重叠区域。
可选地,作为一个实施例,所述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。
可选地,作为一个实施例,所述图像处理装置还包括:
接收模块360,用于接收来自编码端的第二指示信息,所述第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
可选地,作为一个实施例,所述第三确定模块340具体用于:
对所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值进行加权和处理,得到所述重叠区域的像素点的目标像素值。
可选地,作为一个实施例,所述第三确定模块340具体用于:当第一差值小于第一预设阈值时,将所述第一区域或者相邻区域在所述重叠区域的像素点的像素值确定为所述目标像素值,所述第一差值为第一区域的图像的分辨率与所述相邻区域的图像的分辨率之间的差值,或者所述第一区域的编码数据的码率与所述相邻区域的编码数据的码率之间的差值。
可选地,作为一个实施例,所述重叠区域位于所述第一区域和所述相邻区域之间,所述第一区域位于所述相邻区域的水平方向上,或者所述第一区域位于所述相邻区域的竖直方向上。
可选地,作为一个实施例,所述重叠区域的大小是根据所述二维平面图像的大小确定的。
可选地,作为一个实施例,所述重叠区域的大小是根据所述第一区域或者相邻区域的大小确定的。
可选地,作为一个实施例,所述二维平面图像还包括第二区域,所述第一区域在所述第二区域内部,所述重叠区域是所述第二区域中除所述第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到所述二维平面图像的区域,所述第三区域是所述球形全景图像中第一视角范围内的图像所在的区域。
可选地,作为一个实施例,其特征在于,上述第一视角范围为角度值,所述角度值为360度的约数。
图15是本发明实施例的图像处理装置的示意性框图。图15所示的图像处理装置400包括:
划分模块410,用于将二维平面图像划分为多个区域,所述多个区域包含第一区域和与所述第一区域相邻的相邻区域,所述第一区域和所述相邻区域之间存在重叠区域,所述二维平面图像是球形全景图像映射得到的图像;
第一编码模块420,用于对所述第一区域的图像进行编码,得到所述第一区域的编码数据;
第二编码模块430,用于对所述相邻区域的图像进行编码,得到所述第一区域的编码数据。
本发明实施例中,在划分区域时,将二维平面图像划分成相邻区域之间存在重叠区域的图像,与现有技术中划分的区域没有重叠区域相比,能够使得解码端根据相邻区域在重叠区域的像素点的像素值来确定重叠区域的最终像素值,使得相邻区域之间过渡时像素值的变化比较平缓,从而提高了相邻区域对应的图像在切换时的显示效果,提高了用户体验。
可选地,作为一个实施例,所述图像处理装置还包括:
接收模块440,用于接收来自解码端的第一指示信息,所述第一指示信息用于指示在对所述二维平面图像划分区域时,划分得到的所述第一区域和所述相邻区域之间存在所述重叠区域。
可选地,作为一个实施例,所述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。
可选地,作为一个实施例,所述图像处理装置还包括:
发送模块450,用于向所述解码端发送第二指示信息,所述第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
可选地,作为一个实施例,所述重叠区域位于所述第一区域和所述相邻区域之间,所述第一区域位于所述相邻区域的水平方向上,或者所述第一区域位于所述相邻区域的竖直方向上。
可选地,作为一个实施例,所述重叠区域的大小是根据所述二维平面图像的大小确定的。
可选地,作为一个实施例,所述重叠区域的大小是根据所述第一区域或者相邻区域的大小确定的。
可选地,作为一个实施例,所述二维平面图像还包括第二区域,所述第一区域在所述第二区域内部,所述重叠区域是所述第二区域中除所述第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到所述二维平面图像的区域,所述第三区域是所述球形全景图像中第一视角范围内的图像所在的区域。
可选地,作为一个实施例,其特征在于,上述第一视角范围为角度值,所述角度值为360度的约数。
图16是本发明实施例的图像处理装置的示意性框图。图16所示的图像处理装置500包括:
存储器510,用于存储程序。
处理器520,用于执行存储器510中存储的程序,当所属程序被执行时,所述处理器520具体用于:
获取二维平面图像的第一区域和与所述第一区域相邻的相邻区域的编码数据,所述二维平面图像由球形全景图像映射得到的图像,其中,所述第一区域和所述相邻区域之间存在重叠区域;
根据所述第一区域的图像的编码数据确定所述第一区域的图像的像素点的像素值;
根据所述相邻区域的图像的编码数据确定所述相邻区域的图像的像素点的像素值;
根据所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值。
本发明实施例中,根据不同区域在重叠区域的像素点的像素值来确定重叠区域的最终像素值,能够使得相邻区域之间过渡时像素值的变化比较平缓,从而提高了相邻区域对应的图像在切换时的显示效果,提高了用户体验。
可选地,作为一个实施例,所述图像处理装置500还包括:
收发器530,用于在获取所述二维平面图像的多个区域的编码数据之前,向编码端发送第一指示信息,所述第一指示信息用于指示所述编码端在对所述二维平面图像划分区域时,划分得到的所述第一区域和所述相邻区域之间存在所述重叠区域。
可选地,作为一个实施例,所述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。
可选地,作为一个实施例,所述收发器530用于:接收来自编码端的第二指示信息,所述第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
可选地,作为一个实施例,所述处理器520具体用于:对所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值进行加权和处理,得到所述重叠区域的像素点的目标像素值。
可选地,作为一个实施例,当第一差值小于第一预设阈值时,将所述第一区域或者相邻区域在所述重叠区域的像素点的像素值确定为所述目标像素值,所述第一差值为第一区域的图像的分辨率与所述相邻区域的图像的分辨率之间的差值,或者所述第一区域的编码数据的码率与所述相邻区域的编码数据的码率之间的差值。
可选地,作为一个实施例,所述重叠区域的大小是根据所述二维平面图像的大小确定的。
可选地,作为一个实施例,所述重叠区域的大小是根据所述第一区域或者相邻区域的大小确定的。
可选地,作为一个实施例,所述二维平面图像还包括第二区域,所述第一区域在所述第二区域内部,所述重叠区域是所述第二区域中除所述第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到所述二维平面图像的区域,所述第三区域是所述球形全景图像中第一视角范围内的图像所在的区域。
可选地,作为一个实施例,其特征在于,上述第一视角范围为角度值,所述角度值为360度的约数。
图17是本发明实施例的图像处理装置的示意性框图。图17所示的图像处理装置600包括:
存储器610,用于存储程序。
处理器620,用于执行存储器610中存储的程序,当所属程序被执行时,所述处理器620具体用于:
将二维平面图像划分为多个区域,所述多个区域包含第一区域和与所述第一区域相邻的相邻区域,所述第一区域和所述相邻区域之间存在重叠区域,所述二维平面图像是球形全景图像映射得到的图像;
对所述第一区域的图像进行编码,得到所述第一区域的编码数据;
对所述相邻区域的图像进行编码,得到所述第一区域的编码数据。
本发明实施例中,在划分区域时,将二维平面图像划分成相邻区域之间存在重叠区域的图像,与现有技术中划分的区域没有重叠区域相比,能够使得解码端根据相邻区域在重叠区域的像素点的像素值来确定重叠区域的最终像素值,使得相邻区域之间过渡时像素值的变化比较平缓,从而提高了相邻区域对应的图像在切换时的显示效果,提高了用户体验。
可选地,作为一个实施例,所述图像处理装置600还包括:
收发器630,用于在在获取所述二维平面图像的多个区域的编码数据之前,向编码端发送第一指示信息,所述第一指示信息用于指示所述编码端在对所述二维平面图像划分区域时,划分得到的所述第一区域和所述相邻区域之间存在所述重叠区域。
可选地,作为一个实施例,所述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。
可选地,作为一个实施例,所述收发器630用于接收来自编码端的第二指示信息,所述第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
可选地,作为一个实施例,所述处理器620具体用于:对所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值进行加权和处理,得到所述重叠区域的像素点的目标像素值。
可选地,作为一个实施例,所述处理器620具体用于:当第一差值小于第一预设阈值时,将所述第一区域或者相邻区域在所述重叠区域的像素点的像素值确定为所述目标像素值,所述第一差值为第一区域的图像的分辨率与所述相邻区域的图像的分辨率之间的差值,或者所述第一区域的编码数据的码率与所述相邻区域的编码数据的码率之间的差值。
可选地,作为一个实施例,所述重叠区域位于所述第一区域和所述相邻区域之间,所述第一区域位于所述相邻区域的水平方向上,或者所述第一区域位于所述相邻区域的竖直方向上。
可选地,作为一个实施例,所述重叠区域的大小是根据所述二维平面图像的大小确定的。
可选地,作为一个实施例,所述重叠区域的大小是根据所述第一区域或者相邻区域的大小确定的。
可选地,作为一个实施例,所述二维平面图像还包括第二区域,所述第一区域在所述第二区域内部,所述重叠区域是所述第二区域中除所述第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到所述二维平面图像的区域,所述第三区域是所述球形全景图像中第一视角范围内的图像所在的区域。
可选地,作为一个实施例,其特征在于,上述第一视角范围为角度值,所述角度值为360度的约数。
本发明的技术可以广泛地由多种装置或设备来实施,所述装置或设备包含无线手持机、集成电路(IC)或IC集合(例如,芯片组)。在本发明中描述各种组件、模块或单元以强调经配置以执行所揭示技术的装置的功能方面,但未必要求通过不同硬件单元来实现。确切地说,如上文所描述,各种单元可组合于编解码器硬件单元中,或通过交互操作性硬件单元(包含如上文所描述的一个或多个处理器)的集合结合合适软件及/或固件来提供。
应理解,说明书通篇中提到的“一个实施方式”或“一实施方式”意味着与实施方式有关的特定特征、结构或特性包括在本发明的至少一个实施方式中。因此,在整个说明书各处出现的“在一个实施方式中”或“在一实施方式中”未必一定指相同的实施方式。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施方式中。
在本发明的各种实施方式中,应理解,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施方式的实施过程构成任何限定。
另外,本文中术语“系统”和“网络”在本文中常可互换使用。应理解,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
在本申请所提供的实施方式中,应理解,“与A相应的B”表示B与A相关联,根据A可以确定B。但还应理解,根据A确定B并不意味着仅仅根据A确定B,还可以根据A和/或其它信息确定B。
本领域普通技术人员可以意识到,结合本文中所公开的实施方式描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
Claims (40)
1.一种图像处理方法,其特征在于,包括:
获取二维平面图像的第一区域和与所述第一区域相邻的相邻区域的编码数据,所述二维平面图像由球形全景图像映射得到的图像,其中,所述第一区域和所述相邻区域之间存在重叠区域;
根据所述第一区域的图像的编码数据确定所述第一区域的图像的像素点的像素值;
根据所述相邻区域的图像的编码数据确定所述相邻区域的图像的像素点的像素值;
根据所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值。
2.如权利要求1所述的方法,其特征在于,在获取所述二维平面图像的多个区域的编码数据之前,所述方法还包括:
向编码端发送第一指示信息,所述第一指示信息用于指示所述编码端在对所述二维平面图像划分区域时,划分得到的所述第一区域和所述相邻区域之间存在所述重叠区域。
3.如权利要求2所述的方法,其特征在于,所述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。
4.如权利要求1所述的方法,其特征在于,所述方法还包括:
接收来自编码端的第二指示信息,所述第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
5.如权利要求1-4中任一项所述的方法,其特征在于,根据所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值,包括:
对所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值进行加权处理,得到所述重叠区域的像素点的目标像素值。
6.如权利要求1-4中任一项所述的方法,其特征在于,所述方法还包括:
所述根据所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值,包括:
当第一差值小于第一预设阈值时,将所述第一区域或者相邻区域在所述重叠区域的像素点的像素值确定为所述目标像素值,所述第一差值为第一区域的图像的分辨率与所述相邻区域的图像的分辨率之间的差值,或者所述第一区域的编码数据的码率与所述相邻区域的编码数据的码率之间的差值。
7.如权利要求1-6中任一项所述的方法,其特征在于,所述重叠区域位于所述第一区域和所述相邻区域之间,所述第一区域位于所述相邻区域的水平方向上,或者所述第一区域位于所述相邻区域的竖直方向上。
8.如权利要求1-7中任一项所述的方法,其特征在于,所述重叠区域的大小是根据所述二维平面图像的大小确定的。
9.如权利要求1-7中任一项所述的方法,其特征在于,所述重叠区域的大小是根据所述第一区域或者相邻区域的大小确定的。
10.如权利要求1-6中任一项所述的方法,其特征在于,所述二维平面图像还包括第二区域,所述第一区域在所述第二区域内部,所述重叠区域是所述第二区域中除所述第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到所述二维平面图像的区域,所述第三区域是所述球形全景图像中第一视角范围内对应的图像所在的区域。
11.如权利要求10所述的方法,其特征在于,所述第一视角范围为角度值,所述角度值为360度的约数。
12.一种图像处理方法,其特征在于,包括:
将二维平面图像划分为多个区域,所述多个区域包含第一区域和与所述第一区域相邻的相邻区域,所述第一区域和所述相邻区域之间存在重叠区域,所述二维平面图像是球形全景图像映射得到的图像;
对所述第一区域的图像进行编码,得到所述第一区域的编码数据;
对所述相邻区域的图像进行编码,得到所述相邻区域的编码数据。
13.如权利要求12所述的方法,其特征在于,在所述将二维平面图像划分为多个区域之前,所述方法还包括:
接收来自解码端的第一指示信息,所述第一指示信息用于指示在对所述二维平面图像划分区域时,划分得到的所述第一区域和所述相邻区域之间存在所述重叠区域。
14.如权利要求13所述的方法,其特征在于,所述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。
15.如权利要求12所述的方法,其特征在于,所述方法还包括:
向所述解码端发送第二指示信息,所述第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
16.如权利要求12-15中任一项所述的方法,其特征在于,所述重叠区域位于所述第一区域和所述相邻区域之间,所述第一区域位于所述相邻区域的水平方向上,或者所述第一区域位于所述相邻区域的竖直方向上。
17.如权利要求12-16中任一项所述的方法,其特征在于,所述重叠区域的大小是根据所述二维平面图像的大小确定的。
18.如权利要求12-16中任一项所述的方法,其特征在于,所述重叠区域的大小是根据所述第一区域或者相邻区域的大小确定的。
19.如权利要求12-15中任一项所述的方法,其特征在于,所述二维平面图像还包括第二区域,所述第一区域在所述第二区域内部,所述重叠区域是所述第二区域中除所述第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到所述二维平面图像的区域,所述第三区域是所述球形全景图像中第一视角范围内的图像所在的区域。
20.如权利要求19所述的方法,其特征在于,所述第一视角范围为角度值,所述角度值为360度的约数。
21.一种图像处理装置,其特征在于,包括:
获取模块,用于获取二维平面图像的第一区域和与所述第一区域相邻的相邻区域的编码数据,所述二维平面图像由球形全景图像映射得到的图像,其中,所述第一区域和所述相邻区域之间存在重叠区域;
第一确定模块,用于根据所述第一区域的图像的编码数据确定所述第一区域的图像的像素点的像素值;
第二确定模块,用于根据所述相邻区域的图像的编码数据确定所述相邻区域的图像的像素点的像素值;
第三确定模块,用于根据所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值,确定所述重叠区域的像素点的目标像素值。
22.如权利要求21所述的图像处理装置,其特征在于,所述图像处理装置还包括:
发送模块,用于在在获取所述二维平面图像的多个区域的编码数据之前,向编码端发送第一指示信息,所述第一指示信息用于指示所述编码端在对所述二维平面图像划分区域时,划分得到的所述第一区域和所述相邻区域之间存在所述重叠区域。
23.如权利要求22所述的图像处理装置,其特征在于,所述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。
24.如权利要求21所述的图像处理装置,其特征在于,所述图像处理装置还包括:
接收模块,用于接收来自编码端的第二指示信息,所述第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
25.如权利要求21-24中任一项所述的图像处理装置,其特征在于,所述第三确定模块具体用于:
对所述第一区域在所述重叠区域的像素点的像素值以及所述相邻区域在所述重叠区域的像素点的像素值进行加权和处理,得到所述重叠区域的像素点的目标像素值。
26.如权利要求21-24中任一项所述的图像处理装置,其特征在于,所述第三确定模块具体用于:
当第一差值小于第一预设阈值时,将所述第一区域或者相邻区域在所述重叠区域的像素点的像素值确定为所述目标像素值,所述第一差值为第一区域的图像的分辨率与所述相邻区域的图像的分辨率之间的差值,或者所述第一区域的编码数据的码率与所述相邻区域的编码数据的码率之间的差值。
27.如权利要求21-26中任一项所述的图像处理装置,其特征在于,所述重叠区域位于所述第一区域和所述相邻区域之间,所述第一区域位于所述相邻区域的水平方向上,或者所述第一区域位于所述相邻区域的竖直方向上。
28.如权利要求21-27中任一项所述的图像处理装置,其特征在于,所述重叠区域的大小是根据所述二维平面图像的大小确定的。
29.如权利要求21-27中任一项所述的图像处理装置,其特征在于,所述重叠区域的大小是根据所述第一区域或者相邻区域的大小确定的。
30.如权利要求21-26中任一项所述的图像处理装置,其特征在于,所述二维平面图像还包括第二区域,所述第一区域在所述第二区域内部,所述重叠区域是所述第二区域中除所述第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到所述二维平面图像的区域,所述第三区域是所述球形全景图像中第一视角范围内的图像所在的区域。
31.如权利要求30所述的图像处理装置,其特征在于,所述第一视角范围为角度值,所述角度值为360度的约数。
32.一种图像处理装置,其特征在于,包括:
划分模块,用于将二维平面图像划分为多个区域,所述多个区域包含第一区域和与所述第一区域相邻的相邻区域,所述第一区域和所述相邻区域之间存在重叠区域,所述二维平面图像是球形全景图像映射得到的图像;
第一编码模块,用于对所述第一区域的图像进行编码,得到所述第一区域的编码数据;
第二编码模块,用于对所述相邻区域的图像进行编码,得到所述第一区域的编码数据。
33.如权利要求32所述的图像处理装置,其特征在于,所述图像处理装置还包括:
接收模块,用于接收来自解码端的第一指示信息,所述第一指示信息用于指示在对所述二维平面图像划分区域时,划分得到的所述第一区域和所述相邻区域之间存在所述重叠区域。
34.如权利要求33所述的图像处理装置,其特征在于,所述第一指示信息还用于指示所述重叠区域的大小或所述重叠区域相对于所述第一区域的位置。
35.如权利要求32所述的图像处理装置,其特征在于,所述图像处理装置还包括:
发送模块,用于向所述解码端发送第二指示信息,所述第二指示信息用于指示所述第一区域和所述相邻区域之间存在所述重叠区域。
36.如权利要求32-35中任一项所述的图像处理装置,其特征在于,所述重叠区域位于所述第一区域和所述相邻区域之间,所述第一区域位于所述相邻区域的水平方向上,或者所述第一区域位于所述相邻区域的竖直方向上。
37.如权利要求32-36中任一项所述的方法,其特征在于,所述重叠区域的大小是根据所述二维平面图像的大小确定的。
38.如权利要求32-36中任一项所述的图像处理装置,其特征在于,所述重叠区域的大小是根据所述第一区域或者相邻区域的大小确定的。
39.如权利要求32-35中任一项所述的图像处理装置,其特征在于,所述二维平面图像还包括第二区域,所述第一区域在所述第二区域内部,所述重叠区域是所述第二区域中除所述第一区域之外的区域,第二区域是球形全景图像中的第三区域的图像映射到所述二维平面图像的区域,所述第三区域是所述球形全景图像中第一视角范围内的图像所在的区域。
40.如权利要求39所述的图像处理装置,其特征在于,所述第一视角范围为角度值,所述角度值为360度的约数。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610896459.3A CN107945101B (zh) | 2016-10-13 | 2016-10-13 | 图像处理方法和装置 |
PCT/CN2017/105090 WO2018068680A1 (zh) | 2016-10-13 | 2017-09-30 | 图像处理方法和装置 |
EP17860369.2A EP3518177A4 (en) | 2016-10-13 | 2017-09-30 | METHOD AND DEVICE FOR IMAGE PROCESSING |
US16/383,022 US11138460B2 (en) | 2016-10-13 | 2019-04-12 | Image processing method and apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610896459.3A CN107945101B (zh) | 2016-10-13 | 2016-10-13 | 图像处理方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107945101A true CN107945101A (zh) | 2018-04-20 |
CN107945101B CN107945101B (zh) | 2021-01-29 |
Family
ID=61905172
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610896459.3A Active CN107945101B (zh) | 2016-10-13 | 2016-10-13 | 图像处理方法和装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11138460B2 (zh) |
EP (1) | EP3518177A4 (zh) |
CN (1) | CN107945101B (zh) |
WO (1) | WO2018068680A1 (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109725864A (zh) * | 2018-12-24 | 2019-05-07 | 广州励丰文化科技股份有限公司 | 一种基于edid自定义分辨率的方法及系统 |
CN109767382A (zh) * | 2019-01-21 | 2019-05-17 | 上海联影智能医疗科技有限公司 | 图像重建方法、装置、计算机设备和存储介质 |
CN111885310A (zh) * | 2020-08-31 | 2020-11-03 | 深圳市圆周率软件科技有限责任公司 | 一种全景数据处理方法、处理设备和播放设备 |
CN112543345A (zh) * | 2020-12-02 | 2021-03-23 | 深圳创维新世界科技有限公司 | 图像处理方法、发送端、接收端以及计算机可读存储介质 |
WO2021120498A1 (en) * | 2019-12-20 | 2021-06-24 | Qualcomm Incorporated | Image fusion |
CN115861050A (zh) * | 2022-08-29 | 2023-03-28 | 如你所视(北京)科技有限公司 | 用于生成全景图像的方法、装置、设备和存储介质 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102598082B1 (ko) * | 2016-10-28 | 2023-11-03 | 삼성전자주식회사 | 영상 표시 장치, 모바일 장치 및 그 동작방법 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4754492A (en) * | 1985-06-03 | 1988-06-28 | Picturetel Corporation | Method and system for adapting a digitized signal processing system for block processing with minimal blocking artifacts |
WO1995015530A1 (en) * | 1993-11-30 | 1995-06-08 | Polaroid Corporation | Image coding by use of discrete cosine transforms |
CN1209934A (zh) * | 1996-01-29 | 1999-03-03 | 松下电器产业株式会社 | 数字图像像素填补法及用该法的数字图像编码与解码装置 |
US20070200926A1 (en) * | 2006-02-28 | 2007-08-30 | Chianglin Yi T | Apparatus and method for generating panorama images |
US20080074500A1 (en) * | 1998-05-27 | 2008-03-27 | Transpacific Ip Ltd. | Image-Based Method and System for Building Spherical Panoramas |
CN201523430U (zh) * | 2009-06-23 | 2010-07-07 | 长峰科技工业集团公司 | 一种全景视频监控系统 |
CN101895693A (zh) * | 2010-06-07 | 2010-11-24 | 北京高森明晨信息科技有限公司 | 生成全景图像的方法及装置 |
CN102903090A (zh) * | 2012-01-20 | 2013-01-30 | 李文松 | 全景立体图像合成方法、装置、系统和浏览装置 |
CN103379291A (zh) * | 2012-04-26 | 2013-10-30 | 索尼公司 | 图像处理装置、图像处理方法和程序 |
US20150271453A1 (en) * | 2010-12-16 | 2015-09-24 | Massachusetts Institute Of Technology | Imaging systems and methods for immersive surveillance |
CN105678693A (zh) * | 2016-01-25 | 2016-06-15 | 成都易瞳科技有限公司 | 全景视频浏览播放方法 |
CN105791882A (zh) * | 2016-03-22 | 2016-07-20 | 腾讯科技(深圳)有限公司 | 视频编码方法及装置 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5657073A (en) | 1995-06-01 | 1997-08-12 | Panoramic Viewing Systems, Inc. | Seamless multi-camera panoramic imaging with distortion correction and selectable field of view |
US6057847A (en) * | 1996-12-20 | 2000-05-02 | Jenkins; Barry | System and method of image generation and encoding using primitive reprojection |
US6111582A (en) * | 1996-12-20 | 2000-08-29 | Jenkins; Barry L. | System and method of image generation and encoding using primitive reprojection |
US7015954B1 (en) | 1999-08-09 | 2006-03-21 | Fuji Xerox Co., Ltd. | Automatic video system using multiple cameras |
US6978051B2 (en) * | 2000-03-06 | 2005-12-20 | Sony Corporation | System and method for capturing adjacent images by utilizing a panorama mode |
JP2003141562A (ja) * | 2001-10-29 | 2003-05-16 | Sony Corp | 非平面画像の画像処理装置及び画像処理方法、記憶媒体、並びにコンピュータ・プログラム |
JP4297111B2 (ja) * | 2005-12-14 | 2009-07-15 | ソニー株式会社 | 撮像装置、画像処理方法及びそのプログラム |
CN102013110B (zh) * | 2010-11-23 | 2013-01-02 | 李建成 | 三维全景图像生成方法及系统 |
EP2645713A1 (en) * | 2012-03-30 | 2013-10-02 | Alcatel Lucent | Method and apparatus for encoding a selected spatial portion of a video stream |
KR101956353B1 (ko) * | 2012-12-05 | 2019-03-08 | 삼성전자주식회사 | 영상 처리 장치 및 3d 영상 생성 방법 |
CN103227914A (zh) * | 2013-05-17 | 2013-07-31 | 天津芬奇动视文化传播有限公司 | 一种多媒体边缘融合技术应用 |
JP6494294B2 (ja) * | 2014-05-15 | 2019-04-03 | キヤノン株式会社 | 画像処理装置、及び撮像システム |
US20170026659A1 (en) * | 2015-10-13 | 2017-01-26 | Mediatek Inc. | Partial Decoding For Arbitrary View Angle And Line Buffer Reduction For Virtual Reality Video |
US9992502B2 (en) * | 2016-01-29 | 2018-06-05 | Gopro, Inc. | Apparatus and methods for video compression using multi-resolution scalable coding |
US10074161B2 (en) * | 2016-04-08 | 2018-09-11 | Adobe Systems Incorporated | Sky editing based on image composition |
CN106023074A (zh) * | 2016-05-06 | 2016-10-12 | 安徽伟合电子科技有限公司 | 一种分区获取的视频图像拼接方法 |
-
2016
- 2016-10-13 CN CN201610896459.3A patent/CN107945101B/zh active Active
-
2017
- 2017-09-30 EP EP17860369.2A patent/EP3518177A4/en active Pending
- 2017-09-30 WO PCT/CN2017/105090 patent/WO2018068680A1/zh unknown
-
2019
- 2019-04-12 US US16/383,022 patent/US11138460B2/en active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4754492A (en) * | 1985-06-03 | 1988-06-28 | Picturetel Corporation | Method and system for adapting a digitized signal processing system for block processing with minimal blocking artifacts |
WO1995015530A1 (en) * | 1993-11-30 | 1995-06-08 | Polaroid Corporation | Image coding by use of discrete cosine transforms |
CN1209934A (zh) * | 1996-01-29 | 1999-03-03 | 松下电器产业株式会社 | 数字图像像素填补法及用该法的数字图像编码与解码装置 |
US20080074500A1 (en) * | 1998-05-27 | 2008-03-27 | Transpacific Ip Ltd. | Image-Based Method and System for Building Spherical Panoramas |
US20070200926A1 (en) * | 2006-02-28 | 2007-08-30 | Chianglin Yi T | Apparatus and method for generating panorama images |
CN201523430U (zh) * | 2009-06-23 | 2010-07-07 | 长峰科技工业集团公司 | 一种全景视频监控系统 |
CN101895693A (zh) * | 2010-06-07 | 2010-11-24 | 北京高森明晨信息科技有限公司 | 生成全景图像的方法及装置 |
US20150271453A1 (en) * | 2010-12-16 | 2015-09-24 | Massachusetts Institute Of Technology | Imaging systems and methods for immersive surveillance |
CN102903090A (zh) * | 2012-01-20 | 2013-01-30 | 李文松 | 全景立体图像合成方法、装置、系统和浏览装置 |
CN103379291A (zh) * | 2012-04-26 | 2013-10-30 | 索尼公司 | 图像处理装置、图像处理方法和程序 |
CN105678693A (zh) * | 2016-01-25 | 2016-06-15 | 成都易瞳科技有限公司 | 全景视频浏览播放方法 |
CN105791882A (zh) * | 2016-03-22 | 2016-07-20 | 腾讯科技(深圳)有限公司 | 视频编码方法及装置 |
Non-Patent Citations (3)
Title |
---|
SANG HWA LEE 等: "A mobile spherical mosaic system", 《2013 IEEE INTERNATIONAL CONFERENCE ON IMAGE PROCESSING 》 * |
宋宝森: "全景图像拼接方法研究与实现", 《中国博士学位论文全文数据库 信息科技辑 (月刊)》 * |
田军 等: "全景图中投影模型与算法", 《全景图中投影模型与算法》 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109725864A (zh) * | 2018-12-24 | 2019-05-07 | 广州励丰文化科技股份有限公司 | 一种基于edid自定义分辨率的方法及系统 |
CN109725864B (zh) * | 2018-12-24 | 2022-05-17 | 广州励丰文化科技股份有限公司 | 一种基于edid自定义分辨率的方法及系统 |
CN109767382A (zh) * | 2019-01-21 | 2019-05-17 | 上海联影智能医疗科技有限公司 | 图像重建方法、装置、计算机设备和存储介质 |
WO2021120498A1 (en) * | 2019-12-20 | 2021-06-24 | Qualcomm Incorporated | Image fusion |
CN114868377A (zh) * | 2019-12-20 | 2022-08-05 | 高通股份有限公司 | 图像融合 |
CN114868377B (zh) * | 2019-12-20 | 2023-09-12 | 高通股份有限公司 | 图像融合 |
CN111885310A (zh) * | 2020-08-31 | 2020-11-03 | 深圳市圆周率软件科技有限责任公司 | 一种全景数据处理方法、处理设备和播放设备 |
CN112543345A (zh) * | 2020-12-02 | 2021-03-23 | 深圳创维新世界科技有限公司 | 图像处理方法、发送端、接收端以及计算机可读存储介质 |
CN112543345B (zh) * | 2020-12-02 | 2023-01-06 | 深圳创维新世界科技有限公司 | 图像处理方法、发送端、接收端以及计算机可读存储介质 |
CN115861050A (zh) * | 2022-08-29 | 2023-03-28 | 如你所视(北京)科技有限公司 | 用于生成全景图像的方法、装置、设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2018068680A1 (zh) | 2018-04-19 |
US20190236400A1 (en) | 2019-08-01 |
EP3518177A1 (en) | 2019-07-31 |
EP3518177A4 (en) | 2019-08-21 |
CN107945101B (zh) | 2021-01-29 |
US11138460B2 (en) | 2021-10-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107945101A (zh) | 图像处理方法和装置 | |
US11924394B2 (en) | Methods and apparatus for receiving and/or using reduced resolution images | |
US11075974B2 (en) | Video data processing method and apparatus | |
KR20190067856A (ko) | 가상 현실 비디오 변환 및 스트리밍을 위한 시스템 및 방법 | |
US11665372B2 (en) | Fast projection method in video-based point cloud compression codecs | |
CN109478312A (zh) | 一种视频编解码的方法及装置 | |
CN107454468A (zh) | 对沉浸式视频进行格式化的方法、装置和流 | |
CN111602403B (zh) | 用于生成图像数据比特流的装置和方法 | |
CN110419224A (zh) | 用于封装和流传输虚拟现实媒体内容的方法和装置 | |
CN112204993A (zh) | 使用重叠的被分区的分段的自适应全景视频流式传输 | |
EP3434021B1 (en) | Method, apparatus and stream of formatting an immersive video for legacy and immersive rendering devices | |
JP7496677B2 (ja) | 画像データ転送装置、画像表示システム、および画像圧縮方法 | |
CN103716643A (zh) | 用于使用内容信息改进视频编码的系统和方法 | |
JP7498553B2 (ja) | 画像処理装置、画像表示システム、画像データ転送装置、および画像処理方法 | |
JP7491676B2 (ja) | 画像データ転送装置および画像圧縮方法 | |
Jin et al. | A networking perspective of volumetric video service: Architecture, opportunities and case study | |
KR101773929B1 (ko) | 광 시야각 영상 처리 시스템, 광 시야각 영상의 전송 및 재생 방법, 및 이를 위한 컴퓨터 프로그램 | |
JP7555698B2 (ja) | 画像データ転送装置および画像データ転送方法 | |
JP7522605B2 (ja) | 送信装置、受信装置、ネットワークノード、及びプログラム | |
CN114866760A (zh) | 一种虚拟现实显示方法、设备、系统和可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |