CN104620580A - 通过运动区对多维信号中的运动信息以及通过辅助区对辅助信息的估计、编码和解码 - Google Patents

通过运动区对多维信号中的运动信息以及通过辅助区对辅助信息的估计、编码和解码 Download PDF

Info

Publication number
CN104620580A
CN104620580A CN201380037590.9A CN201380037590A CN104620580A CN 104620580 A CN104620580 A CN 104620580A CN 201380037590 A CN201380037590 A CN 201380037590A CN 104620580 A CN104620580 A CN 104620580A
Authority
CN
China
Prior art keywords
information
district
reproduction
motion
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201380037590.9A
Other languages
English (en)
Inventor
卢卡·罗萨托
圭多·梅亚尔迪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Publication of CN104620580A publication Critical patent/CN104620580A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • H04N19/126Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/40Tree coding, e.g. quadtree, octree
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H04N19/23Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding with coding of regions that are present throughout a whole video segment, e.g. sprites, background or mosaic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/439Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using cascaded computational arrangements for performing a single operation, e.g. filtering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/57Motion estimation characterised by a search window with variable size or shape
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/573Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/62Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding by frequency transforming in three dimensions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/87Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving scene cut or scene change detection in combination with video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/94Vector quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • H04N19/635Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by filter definition or implementation details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Tone Control, Compression And Expansion, Limiting Amplitude (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Polyurethanes Or Polyureas (AREA)
  • Developing Agents For Electrophotography (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Pyridine Compounds (AREA)
  • Dc Digital Transmission (AREA)
  • User Interface Of Digital Computer (AREA)
  • Display Devices Of Pinball Game Machines (AREA)
  • Retry When Errors Occur (AREA)
  • Detergent Compositions (AREA)
  • Peptides Or Proteins (AREA)

Abstract

计算机处理器硬件接收指定属于区的信号的再现的多个元素的区信息。计算机处理器硬件还接收与所述区相关联的运动信息。可以将所述运动信息编码成指示所述区中的多个元素中的每一个所关于的参考信号中的对应元素。针对如由区信息指定的所述区中的每个相应元素,计算机处理器硬件利用运动信息来导出参考信号中的对应位置值;所述对应位置值指示相应元素所关于的参考信号中的位置。

Description

通过运动区对多维信号中的运动信息以及通过辅助区对辅助信息的估计、编码和解码
背景技术
已知技术中的运动估计是确定描述从一个图片到另一个、通常是从视频序列中的邻近图片的变换的运动矢量的过程。运动估计通常是基于图像值(例如,在适当色彩空间中表示的亮度、色彩等)随时间推移保持恒定、而其在图像中的位置可改变的假设。
在诸如MPEG(活动图像专家组)方法之类的已知方法中,运动矢量可涉及整个图像(全局运动估计)或特定部分,诸如矩形块或者甚至按图像的每个元素。所有运动矢量的映射(“运动映射”)因此可以拥有与其所参考的图像/帧不同的分辨率。当运动估计按图像的每个元素(例如,按视频的帧的每个像素)计算运动矢量时,运动映射(“准确”或“密集”运动映射)将具有与其参考的图像相同的分辨率。
运动映射对多种应用有帮助。
首先,其能够显著地改善视频编码的压缩速率,因为其允许基于已经为解码器所知的参考(例如,在已知方法中,同一序列的先前参考图像)来产生图像的再现(“运动补偿”),避免了再次传输来自先前图像的可以再使用的信息的需要:解码器可以基于运动矢量所指向的参考图像中的元素的设置来生成针对当前图像中的给定元素的设置。事实上,在常规视频编解码器(例如,MPEG系列编解码器或其它基于频率变换/基于块的编解码器)中已采用了基本运动估计和运动补偿技术以便计及多个连续图像的移动图片中的对象移动。
例如,使用块运动补偿(BMC),将图像分区成元素块(“像素”)。基于参考图像中的相同尺寸的块B0来预测当前图像中的每个块B。参考图像中的块B0相对于当前图像中的B的位置而言的位置(“偏移”)通常被编码为具有两个坐标的运动矢量。在这些情况下,运动矢量指示像素块的估计的x和y移动的反向(特别地,其指示移动的反向,因为其从B指向B0,而移动从B0指向B)。通常通过使用具有亚像素(sub pixel)精度的两个整数坐标来对运动矢量进行编码(即,还可以指定像素的各部分的移动,通常以像素的¼的步幅),因为编码器想要能够还捕获小于整个像素的微小移动。根据MPEG系列编解码器,除移位至预测的块的位置之外,块未被变换,并且附加的已编码信息可以指示块B0与块B之间的差异。
除视频编码之外,还存在可以受益于运动估计的许多其它应用,范围从机器人(密集运动场可以帮助识别对象和/或估计图像的z序(z-order),即与图像相关联且有深度的意义的z映射)至专业电影后期制作/视觉效果。
估计描述每个图像元素的运动的准确/密集运动映射是非常复杂的,因此常规运动估计技术尝试限制描述运动所需的计算负荷和信息量两者。现有技术通常是基于块匹配方法或光流(optical flow)方法。
在块匹配方法(通常针对要求非常快速的处理和有限量的运动信息的应用,诸如视频编码)中,将当前图像的小正方形区域与参考图像中的类似尺寸的区域相比较,其通常被过采样以便允许亚像素运动估计,直至选择使某些误差准则最小化的偏移运动矢量为止。
在光流方法(通常针对甚至以速度和运动信息量为代价而要求运动的精确描述的应用,诸如特效和视频编辑)中,对图像进行预处理,从而提取许多特征;然后算法尝试识别特征的精确运动并通过内插法来计算密集运动映射(即,按每个图像元素一个偏移运动矢量)。
基于块运动补偿和使用整数坐标(即,具有固定精度的坐标,诸如像素的1/8)的偏移运动矢量的已知编码技术具有用本文所述的新型方法来适当地解决的多个重要缺点。首先,移动对象的边界被块不充分地描述,产生必须用残余数据来修正(或者毁坏经由运动补偿而获得的图像的再现)的伪像。其次,具有给定亚像素精度的偏移坐标的使用通常要求以给定亚像素分辨率来缓冲参考图像的上采样再现(例如,甚高分辨率版本):因此,捕获非常微小的移动(例如,像素的1/128,例如在高帧速率视频信号的情况下或在诸如具有2度旋转的1%缩放之类的复杂移动的情况下是重要的)由于存储器限制而是不可行的。第三,在具有一致移动的大型对象(例如,大的背景)的情况下,由于需要对多个相关(而不一定相同)的运动矢量进行编码和传输,一定程度的位速率浪费是必要的。最终,这些众所周知的方法不能非常好地处理由块的平移移动而不完美地定义的更复杂的移动(例如,类似于旋转、缩放、视角变化等)。
运动映射仅仅是我们以以下方式定义为“辅助映射”的特定示例(即被关联到信号的辅助信息的映射):对于信号的给定部分(例如,在准确/密集辅助映射的情况下,针对信号的每个平面元素)而言,辅助映射指定与该部分/元素相关联的适当信息和/或元信息。没有限制地,所述信号可以是音频信号、2D图像、3D体积图像、包括基于空间和时间维度两者的3D信号或者甚至以多于三个维度为特征的信号。在针对视频的运动映射的情况下,此辅助信息对应于关于图像的每个部分的运动的信息和与运动矢量有关的附加元信息(例如,置信度水平、统计精度等)。
除运动映射之外,辅助映射的其它非限制性示例是z映射(其针对信号的每个部分/元素提供相对于距观察者的场深/距离的信息)、简化运动场(其提供关于信号的每个部分/元素的运动的简化信息,例如适合于在随着给定移动范围内的运动而移动的东西对比随在该范围之外的移动而静止或移动的东西之间进行区别的高度量化的运动信息)、类映射(其针对信号的每个部分/元素提供相对于其属于什么类的信息,例如在医学成像中在属于骨骼、软组织、流体、金属等的平面元素之间进行区别)等。
辅助映射的关键特性之一是其适当地呈现被尖锐不连续性分离的同质区域,并且通过利用内插技术或其它标准上采样/下采样技术来修改其分辨率(例如,获得从较低分辨率的一个开始的更准确的映射,或者反之亦然)常常是不适当的。例如,在视频中,借助于通过对两个不同运动进行内插计算的运动矢量来定义以不同方式移动的两个对象之间的过渡处的元素运动将是不适当的,因为内插将可能导致与两个移动中的任一个毫无关系的移动。以类似方式,在医学图像中,借助于对两个对应的类进行内插而定义在骨骼与软组织之间的过渡处的元素的值将是不适当的,因为对应于内插值的类在该背景下将可能没有意义。
发明内容
本文中的实施例针对用以对辅助信息进行估计、编码和处理的方法中的改善,以非限制性示例的方式,所述辅助信息诸如运动信息(例如,在基于时间的信号的两个邻近图像之间发生的运动),因此支持以下方法,诸如运动估计、运动补偿、信号编码、信号质量增强(例如,降噪、超分辨率等)、信号内插(例如,帧速率增加)、特效、计算机图形、医学成像、计算机视觉、增强现实应用等。
本文中的一个实施例包括一种用于通过向信号的任意部分/片(patch)(“运动区”或者更宽泛地“辅助区”)分配类信息——具有范围从单个元素至整个信号的尺寸且具有任意定义的相邻和/或非相邻形状——且然后向每个区分配适当的辅助描述性信息(例如,不限于,关于运动的描述性信息)(其允许重构针对所述区的每个元素的适当辅助信息)来高效地向信号的每个元素分配准确辅助信息的方法。为了简单起见,本文所示的非限制性示例通常指的是运动信息和运动区的使用情况(允许高效地对针对信号的每个元素的运动信息进行编码、传输和解码),但本领域的技术人员可以容易地理解的是该方法也可应用于其它类型的辅助信息(例如,以非限制性示例的方式,深度信息/z序信息、温度信息、组织类型信息、密度信息、放射性信息等)。
在非限制性实施例之一中,以包括两个或更多层的分层层级(hierarchy)对运动区进行编码,其中,根据在相同创作者的其它申请中描述的方法,每个层具有不同的质量水平,并且相对于运动区的类信息被从较低水平遗传至下一较高水平。这种方法包括在其期间通过从具有最低质量水平的层的信息开始经由重构操作来计算运动区的解码步骤。在本申请的其余部分中将可互换地使用术语“层”和“质量水平”(或“LOQ”)。
为了简单起见,本文所示的非限制性实施例将信号称为沿着时间维度以给定采样速率发生的多维样本(即,被组织为具有一个或多个维度的阵列的一个或多个元素的集合,例如以非限制性示例的方式,被组织为二维图像的图片元素的集合)序列。在本描述中,将常常使用术语“图像”或“平面”(意图具有“超平面”的最宽泛意义,即具有任何数目的维度的元素阵列)来识别沿着样本序列的信号的样本的数字再现,其中,每个平面具有针对其维度(例如,X和Y)中的每一个的给定分辨率,并且包括用一个或多个“值”或“设置”(例如,以非限制性示例的方式,适当色彩空间中的色彩设置、指示密度水平的设置、指示温度水平的设置、指示音频音高(pitch)的设置、指示振幅的设置等)来表征的一组平面元素(例如“元素”或“像元(pel)”,针对二维图像常常称为“像素”、针对体积图像常常称为“体素”等)。用适当的坐标集来识别每个平面元素。
作为非限制性示例,信号可以是图像、音频信号、多通道音频信号、视频信号、多视图视频信号(例如,3D视频)、体积信号(例如,医学成像、科学成像、全息成像等)、体积视频信号或者甚至具有多于四个维度的信号。
本文所示的实施例将特别地集中于随时间推移而演进并且以从一个样本至下一个的一定程度的运动为特征的信号,即样本是时间相关的。用所述实施例还容易地解决了甚高采样速率(例如,还有高于每秒1000图像,通常其运动被常规运动估计和补偿方法不良地描述)。
为了简单起见,本文所示的非限制性实施例常常指的是显示为设置的2D平面序列(例如,适当色彩空间中的2D图像)的信号,诸如例如视频信号。然而,相同的概念和方法还可应用于任何其它类型的基于时间的信号(例如,多视图视频信号、3D视频信号、3D体积信号序列等)并且还应用于非基于时间的多维信号(例如,相同音频信号的音频通道序列、二维图片、体积/全息图像、全光(plenoptic)图像等)。作为非基于时间的信号的非限制性示例,可以将CAT扫描或MRI的一系列二维切片(slice)(即,非基于时间的三维信号)适当地表示为沿维度(即,沿其获取切片的轴)的一系列二维样本,并且根据本文所示的方法来处理,如同沿着其获取切片的轴是时间维度一样(根据本文所示的创新方法,通过采取恒定采样速率或者甚至可变采样速率)。
由本文所示的实施例处理的辅助信息常常指的是2D辅助信息(即,被关联到元素的二维平面的辅助信息)的特定使用情况,且特别是2D运动信息(例如,其提供用以基于一个或多个参考2D图像的运动补偿来重构2D图像的信息),但是相同的概念也适用于参考多维信号的任何其它类型的辅助信息。以非限制性示例的方式,用本文所示的新型方法适当地处理的其它类型的辅助信息包括指示深度的z序信息、三维运动信息(提供用以基于参考体积图像的运动补偿来重构体积图像的信息)等。如所述,本领域的技术人员可以容易地将本文针对运动信息所说明的方式和方法应用于其它类型的辅助信息(例如,通过利用“辅助区”而不是“运动区”等)。
在常规方法中,在随时间推移而演进的同一信号的两个不同样本之间利用运动估计和补偿技术。针对本文所述的某些新型非限制性实施例,空间和时间并不是孤立地考虑的完全独立的维度:空间和时间仅仅是称为时空的更宽泛多维空间的不同维度。通过将N维样本序列(例如,二维图像序列)表示为单个(N+1)维信号(例如,三维图像),本文所述的实施例可以有效地处理其时空中的信号(通过适当的时空处理操作),有效地利用也跨多个样本(即,不仅仅从一个样本到另一个)的相关信息。简而言之,本文所述的一些非限制性实施例(特别是其中对多个参考图像进行运动补偿以便产生给定图像的运动补偿预测的一些)整体地操纵信号,产生并处理参考多个时间样本的重构数据的集合。
在本文所示的非限制性实施例中,被配置为解码器的信号处理器接收指定图像的任意(相邻和/或非相邻)部分(“辅助区”)的信息。针对所述辅助区中的一个或多个,解码器接收适当的描述性信息(针对运动区的情况以非限制性示例的方式,例如,运动矢量、运动矢量的运动映射、运动矩阵、对应于关于缩放/旋转/偏移的信息的参数等)。
在本文所示的另一非限制性实施例中,被配置为编码器的信号处理器执行运动估计并识别一个或多个运动区(信号的任意(相邻或非相邻)部分)。在非限制性实施例中,编码器基于一组参数(例如,以非限制性示例的方式,可用计算能力、目标编码等待时间、目标压缩效率等)来判定运动区的最大数目。
在本文所示的其它非限制性实施例中,信号处理器被配置成通过基于运动信息来对参考图像执行运动补偿操作而产生图像,所述运动信息指定运动区和每个运动区的运动。在非限制性实施例中,信号处理器产生具有与参考图像不同数目的元素的图像。在另一非限制性实施例中,同一元素可以属于多于一个运动区。
在非限制性示例性实施例中,信号处理器接收运动区信息并用关联运动信息对其进行解码,并且针对信号的每个平面元素(“像元”),基于像元所属的运动区和被关联到该区和/或像元的运动信息,计算运动补偿信息以支持针对像元的运动补偿设置的计算。
本文所述的其它非限制性实施例包括被配置成通过根据相同创作者的其它申请中所述的方法而利用基于继承的分层层级方法来对运动区和/或其它类型的辅助区进行解码的信号处理器。针对经重构的信号的每个给定质量水平的每个元素,解码器基于从较低质量水平继承(以给定质量水平生成预测再现)的信息和附加重构数据(例如,将与所述预测再现的某些元素组合的残余数据)将对应于给定元素所属的区的类信息解码,其中,每个区指示具有特定性质的信号的一部分(例如,以非限制性信息的方式,辅助区可以被用来描述运动区、色彩区、深度区等)。在非限制性实施例中,解码器接收指示针对用类信息识别的每个辅助区的性质的描述性信息(例如,以非限制性示例的方式,关于运动的信息、关于色彩设置的信息、关于深度的信息、关于噪声的信息等)。
更具体地,本文所示的非限制性实施例包括信号处理器,诸如被配置成以层级中的后续较高质量水平来重构辅助区映射的解码器。信号处理器接收第一组重构数据以便以层级中的第一质量水平来重构信号。第一组重构数据包括指定处于第一质量水平的信号的再现中的父元素的属性设置(例如,以非限制性示例的方式,指示区信息的适当值)的符号。信号处理器将父元素划分成多个亚元素以便以第二、较高质量水平来重构信号。当这样做时,信号处理器利用由符号指定(处于第一质量水平)的父元素的属性设置来产生针对父元素被划分成的一个或多个相应亚元素的默认属性设置,除非或直至用来以第二质量水平重构信号的第二组重构数据指定针对相应亚元素的不同属性设置为止。当为父元素分配属于特定集合的符号(“最终符号”)时,父元素的属性设置被所有其亚元素及其亚元素的亚元素继承直至最高质量水平为止,而不要求任何调整(即,不需要将继承的结果与任何残余数据组合)。因此,本文中的实施例包括以一个或多个较高质量水平重构辅助区映射时的父设置信息的再使用。由于设置信息从一个质量水平到下一个的继承,这种技术可以减少定义辅助区映射的什么元素属于什么区所需的数据量。这样,也可能增加针对非常复杂(和/或非相邻)表面或多维形状的编码/解码效率,而不必对对应于辅助区映射中的每个元素的信息进行编码且不必重构针对辅助区的任何边界的等式(例如,样条等式)。在非限制性实施例中,根据分数比例因子来计算后续质量水平。在另一非限制性实施例中,后续水平的不同对以不同的比例因子为特征。
根据另一非限制性示例性实施例,用基于继承的分层层级方法编码的多维形状被信号处理器接收并解码,并且随后信号处理器在渲染和可视化引擎的上下文中利用它们。这样,信号处理器还可以以高效的方式接收非常复杂的形状,并且随后在将其发送到显示设备之前适当地对其进行渲染。
非限制性示例性应用情况包括用锐过渡(sharp transition)和相对同质区域来表征的图像的表示(例如,以非限制性示例的方式,矢量图形、制图数据、动画片/日本动画、文档、复杂3D/体积表面模型、用各组相对同质体积来表征的体积模型等)。在此类非限制性示例中的某些中,辅助区有效地对应于色彩区。
在本文所示的非限制性实施例中,当执行运动补偿操作时,信号处理器被配置成使两个区之间的过渡平滑化,接近于“边界”(或“分离表面”)生成针对给定百分比(根据适当参数)分配给一个区且针对互补百分比分配给另一区的平面元素(例如,以非限制性示例的方式,向边界元素分配两个运动矢量而不是不可靠的“中间”运动矢量)。
在运动区边界上,由于在邻近移动对象/区之间发生的遮蔽(occlusion)/非遮蔽而发生伪像。为了减少与在确定边界元素属于哪个运动区时的不确定性和/或错误有关的伪像,在非限制性实施例中,被配置成执行运动补偿的信号处理器使关于跨边界的区归属(zone belonging)的信息平滑化(即,使不同的区之间的过渡平滑化)。在非限制性实施例中,不用布尔数或离散类对区归属信息进行编码,而是用分数或浮点值(例如,用0和1之间的分数对属于每个区进行编码);在其它非限制性实施例中,用指示平滑化信息的参数(例如,以非限制性示例的方式,Alpha混合参数)来丰富运动区归属信息。在非限制性实施例中,通过执行膨胀滤波操作、后面是饱和侵蚀操作(即,具有有限低量程的侵蚀)来获得运动区平滑化。在另一非限制性实施例中,解码器遵循各区之间的边界,并且在计算切线的取向之后,在与切线正交的方向上执行平滑化的混合。
在非限制性实施例中,利用根据基于继承的分级方法编码的运动区伴随关于每个运动区的运动的适当信息以便高效地对辅助信息进行编码/解码以执行多维信号的运动补偿。
在另一非限制性实施例中,解码器至少部分地基于运动区信息来重构针对图像的元素的经运动补偿的设置,还利用浮点操作和/或运行时再采样操作,以便访问参考图像的任何的任意位置,不考虑参考图像的实际分辨率(即,采样网格)。这样,以下情况是可能的:利用其中用任意精度(例如,甚至用浮点数或高精度定点数,与参考图像的坐标系中的整数相对)来表达每个坐标的坐标系,使得参考图像的分辨率被视为基本上是无限/连续的。这种方法是极大的创新,因为所有编码和解码技术到目前为止始终基于以下假设:经重构的信号和参考信号具有有限分辨率,其中每个坐标由包括在符号的离散范围/集合中的符号指定。
在本文所述的其它非限制性实施例中,关于被关联到运动区的运动的描述性信息包括对应于每个运动区相对于参考的缩放、旋转和偏移的参数。在现有技术和常规方法中,视频编码和视频处理中的运动估计和补偿始终局限于平移移动(通常借助于具有指示平移移动的方向和半径的一组参数/坐标的运动矢量来表达),其趋向于是用于运动补偿的限制性且低质量方法。事实上,对象受到更加复杂的集合的可能移动的影响。为了捕获该复杂性,本文所述的创新实施例通过使用变换矩阵(即,每个所述运动多于两个参数)而不是偏移运动矢量(即,每个所述运动两个参数)来对运动进行建模。可以使用所谓的仿射变换(Affine transform)来适当地描述由缩放、旋转和偏移的组合组成的移动。通过使用高阶运动矩阵和齐次坐标,其它非限制性实施例还描述了运动区的透视变换(即,包括透视变化的移动)。
视频压缩域中的变换矩阵而不是偏移运动矢量的使用是非常创新的,并且特别地将本文所述的实施例与常规方法区别开。例如,必须用有理数分辨率(例如,甚至用“无限分辨率”或“连续分辨率”法)而不是整数或有限精度分数分辨率来表达元素的坐标。现有技术方法频繁地采用半像元的概念或者甚至更高有限分数像元坐标(例如,像元的¼、像元的1/8、像元的1/12等)。在一个实施例中,目标是捕获以高于实际整数图像分辨率(即,图像的样本网格)的分辨率发生的移动。传统运动补偿方法要求相对于实际目标图像对参考图像进行超采样(例如,用8的比例因子,以便捕获达到像素的1/8的移动):此类现有技术方法要求大的存储器缓冲器,并且不适合于要求极细精度(例如,甚至像素的1/100或更少)的移动,因为其还将要求计算可能从不使用的超采样参考图像中的大量像素。根据一个实施例,如本文所讨论的新型方法不要求大的存储器缓冲器,是极其快速的,并且允许具有任意精度(例如,甚至像素的1/100或更少)的运动补偿操作。
本文所述的某些非限制性实施例使用针对元素和变换矩阵的分数坐标(例如,以非限制性示例的方式,通过使用浮点坐标)以便描述运动区的移动,特别是增加描述实际移动中的精度。非限制性实施例在执行必要计算中利用在游戏和3D渲染中使用的现代硬件,从而以非常有限的计算成本利用连续坐标运动补偿。现代硬件可以通过使用针对经计算的元素的浮点坐标而在运行时(例如,经由运行时再采样)执行内插。与分数坐标和运行时再采样的使用相关联的优点之一是在减少编码器和解码器侧两者处的存储器使用的同时表示非常微小的移动的可能性。运动估计和运动补偿依赖于在运行时执行的再采样操作,而没有对以较高分辨率生成并存储大的参考图像的任何需要。
当运动补偿是基于运动矩阵(即,比简单平移更复杂的移动)时,连续坐标是非常重要的,因为复杂的移动常常要求极精细的亚像素分辨率,用对参考图像进行超采样的标准技术是不可实现的(例如,在缩放/发散的情况下,甚至小到1%的缩放水平(即,坐标乘以0.01)是相关的)。
运动矩阵要求向解码器发送相对于简单偏移运动矢量所需的参数的数目的表示运动的更高数目的参数:因此,使用运动矩阵的益处在将其应用于相对大的且任意形状的元素分组(“运动区”)时较高,例如表示以一致的方式移动的对象。
在本文所示的非限制性实施例中,被配置为编码器的信号处理器接收当前(目标)图像和参考图像,执行运动估计并在当前图像中识别一个或多个运动区(信号的任意(相邻或非相邻)部分)和关于每个运动区的运动的对应描述性信息,所述运动用连续坐标系来表达。在非限制性实施例中,编码器基于一组参数(例如,以非限制性示例的方式,可用计算能力、目标编码等待时间、目标压缩效率等)来判定运动区的最大数目。
在本文所示的另一非限制性实施例中,被配置为解码器的信号处理器接收运动区信息(例如,运动区映射)且然后接收具有每个运动区的运动特性的关于运动的描述性信息(例如,以非限制性实施例的方式,通过接收对应于针对每个运动区的运动矩阵的一组参数)。至少部分地基于所述运动区映射和关于每个运动区的运动的描述性信息,针对目标图像的每个元素,解码器计算运动矢量,所述运动矢量的坐标用连续坐标系来表达(例如,不限于,借助于浮点数)。基于所述运动矢量,经由运行时再采样从参考图像获取任意位置上的参考值,允许基于元素的固定网格和基于整数的坐标以高于传统方法的精度进行运动补偿。
根据另外的更具体的实施例,可借助于基于层的分级编码方法对辅助区所对应的输入信号进行编码和解码,利用作为参考文献合并在本文中的专利申请中说明的技术。
下面更详细地讨论这些及其它实施例变化。
应注意的是,本文中的实施例可用软件或硬件来实现,或者可使用软件和硬件的组合来实现,并且其可以包括一个或多个计算机化设备、路由器、网络、工作站、手持式或膝上型计算机、平板计算机、移动电话、游戏控制台、机顶盒等的配置以执行和/或支持本文公开的任何或所有方法操作。换言之,可以将一个或多个计算机化设备或处理器编程和/或配置成如本文所解释地进行操作以执行不同的实施例。
除如上文所讨论的技术之外,本文中的又其它实施例包括用以执行上文概述和下面详细地公开的步骤和操作的软件程序。一个此类实施例包括计算机可读硬件存储资源(即,非临时计算机可读介质),其包括编码在其上的计算机程序逻辑、指令等,其当在具有处理器和对应存储器的计算机化设备中执行时对处理器编程和/或使处理器执行本文公开的任何操作。可以将此类装置提供为在计算机可读介质上布置或编码的软件、代码和/或其它数据(例如,数据结构),所述计算机可读介质诸如光学介质(例如,CD-ROM、DVD-ROM或BLU-RAY)、闪速存储器卡、软盘或硬盘或能够存储计算机可读指令的任何其它介质,诸如一个或多个ROM或RAM或PROM芯片中的固件或微码或者作为专用集成电路(ASIC)。可以将软件或固件或其它此类配置安装到计算机化设备上以使计算机化设备执行本文所解释的技术。
本文中的一个或多个实施例包括其上存储有指令的计算机可读存储介质和/或系统。该指令在被一个或多个计算机设备的计算机处理器硬件执行时使计算机处理器硬件执行以下操作:接收至少一个辅助区以及描述性辅助信息的至少一个集合,所述辅助区指示所述元素集合的元素子集,所述元素子集属于所述辅助区,描述性辅助信息的一个或多个所述集合中的每一个对应于辅助区;以及至少部分地基于辅助区信息和对应于辅助区的描述性辅助信息,计算针对给定样本的每个元素的辅助信息。
本文中的一个或多个实施例包括其上存储有指令的计算机可读存储介质和/或系统。该指令在被一个或多个计算机设备的计算机处理器硬件执行时使计算机处理器硬件执行以下操作:接收指定属于区的信号的再现的多个元素的区信息;接收与所述区相关联的运动信息,该运动信息被编码成指示所述区中的多个元素中的每一个属于参考信号中的哪个对应元素;以及针对所述区中的每个相应元素,利用运动信息来导出参考信号中的对应位置值,所述对应位置值指示相应元素所关于的参考信号中的位置。
因此,本公开中的一个或多个特定实施例针对一种包括其上存储有指令以支持信号处理操作的计算机可读硬件存储介质的计算机程序产品。
步骤的排序已被添加以为了清楚起见。可以按照任何适当次序来执行这些步骤。
本公开的其它实施例包括用以执行上文概述和下面详细地公开的任何方法实施例步骤和操作的软件程序、固件和/或相应硬件。
另外,应理解的是可以将如本文所讨论的系统、方法、设备、在计算机可读存储介质上的指令等严格地体现为软件程序、作为软件、固件和/或硬件的混合或者单独地作为诸如处理器内或操作系统内或软件应用内的硬件等。
如上文所讨论的,本文中的技术非常适合于在处理信号并产生经编码数据的位流或处理经编码数据的位流且产生信号的再现的软件、固件和/或硬件应用中使用。然而,应注意的是本文中的实施例不限于在此类应用中使用,并且本文所讨论的技术也非常适合于其它应用。
另外,应注意的是虽然可以在本公开的不同位置处讨论了本文中的不同特征、技术、配置等中的每一个,但意图在于可以相互独立地或相互组合地执行每个概念。因此,可以以许多不同方式来体现和查看如本文所述的一个或多个本发明、实施例等。
而且,应注意的是,本文中的实施例的此初步讨论并未指定本公开或一个或多个要求保护的发明的每个实施例和/或递增式创新方面。而是,此简要描述仅提出了一般实施例和相比于常规技术的对应创新点。针对一个或多个发明的附加细节和/或可能观点(替换),将读者引向如下面进一步讨论的本公开的具体实施方式小节和对应附图。
附图说明
根据如图中所示的本文中的优选实施例的以下更特定描述,本发明的前述及其它目的、特征以及优点将是显而易见的,在附图中相同的附图标记遍及不同图指示相同部分。附图不一定按比例,而是着重于说明实施例、原理、概念等。
图1示出了根据本文中的实施例的用于信号编码和解码的系统。
图2A和2B示出了根据本文中的实施例的高级流程图。图3A示出了根据本文中的实施例的作为运动估计和补偿的对象的两个样本图像连同在编码器处生成的对应信息。
图3B示出了应用于图3A的两个图像的本文所示的非限制性实施例的高级流程图,图示出根据本文中的实施例的在各种步骤期间由解码器生成的信息。
图4A和4B示出了根据本文所示的非限制性实施例的实现运动补偿的两个框图。
图5A和5B示出了本文所示的非限制性实施例的高级流程图和框图。
图6A、6B和6C图示出根据本文所示的非限制性实施例的在分层层级中编码的运动区的使用的非限制性实施例。
图7示出了根据本文中的实施例的提供数据处理的计算机系统的框图。
图8是图示出根据本文中的实施例的基于经运动补偿的图像中的坐标而生成参考图像中的坐标的示例性图示。
图9是图示出根据本文中的实施例的生成针对区中的多个元素中的每一个的参考图像中的坐标的示例性图示。
图10是图示出根据本文中的实施例的生成针对经运动补偿的图像中的多个元素的设置的示例性图示。
图11是图示出根据本文中的实施例的区中的第一显示元素的运动补偿的示例性图示。
图12是图示出根据本文中的实施例的区中的第二显示元素的运动补偿的示例性图示。
图13是图示出根据本文中的实施例的方法的示例性图示。
图14是图示出根据本文中的实施例的方法的示例性图示。
图15是图示出根据本文中的实施例的生成运动网状访问点的示例性图示。
图16是图示出根据本文中的实施例的从较低质量水平至较高质量水平的运动映射的上采样的示例性图示。
图17是图示出根据本文中的实施例的从较低质量水平至较高质量水平的运动映射的上采样的示例性图示。
图18是图示出根据本文中的实施例的不同运动区的示例性图示。
具体实施方式
本文中所示的用于重构信号的样本的方法适合于任何类型的多维信号的任何类型的辅助信息,包括而不限于声音信号、多通道声音信号、图片、图像、二维图像、视频信号、多视图视频信号、3D视频信号、体积信号、体积视频信号、医学成像信号、具有多于四个维度的信号等。
为了简单起见,沿着本描述,所示实施例通常采用在用于视频序列编码和解码的运动补偿操作的情境下使用的运动区的使用情况,即由2D图像序列(一般地称为“帧”,或者在交错视频信号的情况下为“场”)组成的基于时间的信号,其中用适当色彩空间(例如,YUV、RGB、HSV等)中的一组色彩设置来表征每个元素(在此类非限制性示例性情况下通常称为“像素”)。不同的色彩平面(例如,亮度Y平面和两个色度(U和V)平面)常常被单独地编码,并且常常具有不同的分辨率(由于人眼对色度信息的较低灵敏度)。
在其它情况下,我们将把辅助信息被关联到的信号表示为N维样本序列,并且参考这样的事实,即信号的完全表示是(N+1)维信号(例如,如果维度中的一个是时间,则这对应于具有单个时空再现的空间再现序列)。应将这些视为可以使用本文所述的创新方法来处理的可能种类的信号的非限制性示例。
对于除视频之外的信号而言,本领域的技术人员可以通过适当地修改针对视频信号的使用情况所述的方法来容易地应用本文所述的方法。在非限制性示例中,样本还可以是具有除二之外的不同维数的元素的超平面(例如,一维样本、三维样本等)和/或可以应用于与对应于在本文中针对时间维度所述的那些的时间方法不同的维度。本领域的技术人员还可以容易地将在本文中针对运动区和运动信息所述的方法也应用于其它类型的辅助信息(诸如,以非限制性示例的方式,深度信息、色彩类信息、组织类信息等)。
用超平面(或者更简单地“平面”,在其最宽泛意义上意图为“被组织为具有一个或多个维度的阵列的元素集合”)来表示信号的时间方面的每个样本:例如,用平面元素阵列来表示2D HD视频帧或3D体积医学图像两者(具体地,用于HD视频帧的元素的2D平面和用于体积医学图像的元素的三维超平面)。
本文所示的方法和实施例可以相互和/或与其它方法相结合地使用。本文所示的优选实施例中的许多描述以实现压缩(即以最小数量的位对信号的适当再现进行编码)为目标的技术和算法。这也是非限制性示例:其它非限制性实施例实现不同的目的,诸如鲁棒且高效的滤波、图像降噪、信号超采样、机器视觉等。
图1是图示出根据本文所示的非限制性实施例的用于信号编码和解码的系统的示例性图示。
由编码器110来处理原始信号100,包括多个图像100-1、100-2、...、100-n。编码器110生成被解码器130接收和处理的数据流120。解码器130处理数据流120、重构信号140,其中,经重构信号140的每个经重构图像140-i对应于原始信号100的图像100-i。经重构信号140可以是原始信号100的精确复制或原始信号100的大体上类似的再现。
图2A示出了根据本文中的实施例的基于运动区的解码的非限制性实施例的高级流程图。
为了重构目标图像,在步骤2.01中,解码器130接收参考图像(必要时,根据适当的操作将其解码并将其重构)。
然后,在步骤2.02中,解码器130接收运动区(即,指示目标图像的什么元素属于什么运动区的信息)和关于每个运动区的运动的描述性信息。每个区可以表示一个或多个实体,诸如一个或多个移动对象。
在本非限制性实施例中,运动区可包括“残余运动区”,即指示不能基于参考图像而重构(例如,因为其属于在目标图像中存在但在参考图像中不存在的对象)的元素的区;残余运动区由分配给其关于运动的描述性信息的特定值来表征。在其它非限制性实施例中,残余运动区可以由其在运动区序列中的相对位置来表征。
在步骤2.03中,至少部分地基于参考图像、运动区和关于运动的描述性信息,解码器130生成目标图像的预测再现。此类预测再现是通过基于运动区信息来对参考图像进行运动补偿而生成的。如其名称所暗示的,预测再现可以是被再生的相应信号的初步再现。
每个给定运动区的每个给定元素(根据关于给定运动区的运动的描述性信息)对应于参考图像的位置:针对目标图像的每个元素,解码器130计算参考图像的对应位置且(基于参考图像的元素的值)生成针对该元素的经运动补偿的值。
针对属于残余运动区(如果有的话)的元素,解码器设置默认的经运动补偿的值(“不可用”值)。
在步骤2.04中,解码器130接收残余数据并将其解码,旨在调整目标图像的预测再现。残余数据指定如何细化信号的初步再现,使得总体产生的信号与原始信号大体上类似或相同。
在步骤2.05中,解码器130将目标图像的预测再现与残余数据组合,重构目标图像。
应注意的是,如上所述的高级步骤中的一个或多个可以同时地发生(如本申请中所示的所有高级流程图的情况一样),而不是严格地顺序的。
图2B示出了根据本文中的实施例的基于辅助区对辅助信息进行解码(即,高效地生成针对信号的每个元素的辅助信息而不必接收针对每个元素的特定辅助信息)的非限制性实施例的高级流程图。
在步骤2.11中,解码器130接收辅助区和针对每个辅助区的描述性辅助信息。辅助区和辅助信息参考解码器130正在处理的特定信号。
在步骤2.12中,至少部分地基于接收到的辅助区和针对每个辅助区的描述性辅助信息,解码器130生成针对辅助区所参考的信号的每个元素的辅助信息。
图3A示出了根据本文中的实施例的作为运动估计和运动补偿的对象的两个样本图像以及由编码器100在编码时生成的对应信息。
特别地,该图图示出相对于彼此相关的两个图像100-1和100-2。使用相同坐标集合来定义每个图像中的对象,但图像表示不同的图像平面。不限于,图像100-2可以是在图像100-1后面的多个图像的序列的一部分,即可在时间方面紧密地捕获两个图像。经组合,图像100可以是在显示屏上显示以在显示屏上一个接一个地重放的视频数据。替换地,根据相同创作者的其它申请中所描述的方法,图像100-1甚至可以是具体地生成以便充当针对多个图像(包括100-2)的预测器(predictor)的图像。
无论图像100-1和100-2为何明显地相关,都可以借助于运动补偿而甚至进一步增强其相关。例如,背景略微地逆时针方向旋转;图像100-1中的对象301-1移动而变成图像100-2中的对象301-2(其中,该移动涉及到朝向右下侧的平移和去缩放(de-zoom)两者,即,对象301从一个图像至下一个变得越来越小)。如进一步所示,在图像100-1中不可见的对象302-2在图像100-2中变得可见且在图像100-1中不存在。
根据本文中的实施例的方法可以包括计算机处理器硬件,其通过从图像100-1(参考图像)和100-2(目标图像)开始通过使用具有任意形状(例如相邻或者甚至非相邻)的运动区对目标图像进行编码/解码,其中,基于图像100-1和100-2来选择形状。
应注意的是,每个运动区的形状可以是任意的,并且不限于类似于在现有技术方法中的矩形块。在某些情况下,这可允许增加运动补偿的效率和有效性,更紧密地遵循对象的边界(例如,避免“拖曳”接近于移动对象的边界的元素)且更高效地传输针对图像的每个给定元素的运动信息。换言之,如图像捕获的现实中的对象被矩形块不充分地表示,并且一般地不限于仅一个特定形状。
更具体地,通过处理图像100-1和100-2,编码器100识别运动区311-2(表示可以由参考图像100-1的运动补偿元素来高效地预测的图像100-2的背景的部分)、运动区312-2(表示图像100-2的对象301-2,其可以由图像100-1中的运动补偿对象301-1来高效地预测)和由313-2、314-2和315-2构成的非相邻残余运动区(表示在图像100-1中不可见的图像100-2的元素,并且因此不能由图像100-1的运动补偿元素来预测)。
根据其它实施例,编码器100还生成被关联到运动区的描述性信息320-2。在非限制性实施例中,此类信息包括针对每个运动区的ZRO(缩放、旋转和偏移)运动矩阵以及针对残余运动区的默认参数(“N/A运动”(不同于没有运动,其将意味着运动区是静止的)意味着不能通过运动补偿来适当地预测残余运动区的元素)。
作为更具体示例,可以通过尝试通过变换的有限集(即,平移、旋转、缩放等)将对象301-1变换成对象301-2来计算关于运动区312-2的运动的描述性信息。在本特定示例中,可以将对象301-1乘以比例因子s,以便使得其具有与对象301-2的相同尺寸;对象301的中心将分别地沿着轴X和Y平移量tx和ty,以便获得对象301-2的适当预测。换言之,除在图像100-2中变得更小之外,对象301还从图像100-1中的一个位置移动至图像100-2中的新位置。因此,关于分配给运动区312-2的运动的描述性信息包括表示量tx的沿着X轴的平移参数TX、表示量ty的沿着Y轴的平移参数TY、表示缩放比例因子s的比例因子S以及旋转参数R(在本示例中不相关,例如等于零或者大体上这样,因为在本示例中不存在旋转)。不限于,可以用以下参数来概括此类信息:(TX、TY、S、R)。针对更一般的缩放-旋转-偏移运动,可以用应用于齐次坐标中的矢量(x,y,1)的以下仿射变换矩阵的六个参数来概括运动信息—即,(x,y,w),其中w被归一化成1:
更宽泛地,上述仿射矩阵M可以表示扩缩(包括,各向异性扩缩)、旋转、偏移和剪切。
在其它非限制性实施例中,可以通过使用投射变换来表达更一般的运动变换,即具有8个相关系数的3×3矩阵,以及被归一化成1的第9系数,用单个变换扩缩、旋转、偏移、剪切和透视变化来描述。由于此类变换中的某些要求针对每个变换的除法运算,所以非限制性实施例使用近似除法运算(例如,以非限制性示例的方式,使用仅16位或者使用一般地被用于着色器(shader)的某些算法)。
可以根据适当运动区检测方法来执行运动区的检测和被关联到运动区的描述性信息的生成。一般地,可以经由图像的分析和在时间序列内从一个位置移动至另一个的代表性对象的识别来识别运动区。
最终,编码器100生成残余数据330-2以调整借助于参考图像100-1的基于运动区的运动补偿而获得的目标图像100-2的预测。当与通过运动补偿获得的图像(诸如经运动补偿的图像)的预测再现相组合时,残余数据的应用允许目标图像100-2的再现的完全重构。
可以以多个不同方式来描述运动区。某些非限制性实施例借助于类映射(即,具有色彩的离散集合的图像)来描述运动区,其中,每个类值识别运动区。其它非限制性实施例借助于矢量图形来表示运动区,使用基于数学表达式的几何原语以便描述运动区(允许圆形、椭圆形、多边形形状等的高效编码和解码)。
一种用于对通过使用上述编码方法编码的图形进行解码的方法包括以下阶段:
a. 提供至少一个运动区和关于运动的一组描述性信息;
b. 提供第一(参考)图像;
c. 通过使用在阶段b期间接收到的第一图像、在阶段a期间接收到的运动区和关于运动的描述性信息来计算针对第二(目标)图像的预测;
d. 接收残余数据(如果有的话)并进行解码;
e. 将针对第二图像的预测与残余数据(如果有的话)组合,获得第二(目标)图像的再现。
并且在这种情况下,各阶段中的一个或多个可以同时地发生,而不是严格地顺序的。
在其它非限制性实施例中,关于运动的信息包括对应于投射变换矩阵的参数。在其它非限制性实施例中,关于运动的信息包括几何代数变换的参数(因此表示甚至更加复杂的运动类型)。在其它非限制性实施例中,除关于每个运动区的运动的信息之外,编码器100还生成被关联至每个运动区的其它元信息或辅助信息,诸如(不限于)置信度水平(或通过运动补偿生成的预测的精度)、被关联至运动区的噪声参数、指示将用来重构属于运动区的较高质量水平的元素的操作的参数、运动区的优先级(例如,以驱动位速率优化启发法)、色彩信息、光照信息(例如,指示要使用以便调整经运动补偿的元素的值的一个或多个参数)等。
在非限制性实施例中,与一个或多个运动区相关联的元信息可以包括深度图,其影响用来利用关于运动区的运动的描述性信息以便生成运动区的每个元素的运动的方式。
另一非限制性实施例生成包括整个图像(其因此未被传输到解码器)的仅一个运动区以及关于运动的仅一组描述性信息:在此类实施例中,通过对整个图像应用相同变换矩阵(例如,表示缩放、旋转和偏移)来实现运动补偿。
另一非限制性实施例生成仅一个运动区(具有关于运动的相应描述性信息)和指示并未经由运动补偿而适当地预测的元素的残余运动区。
其它非限制性实施例对具有多于两个维度(X,Y)的图像应用根据本文中的实施例的编码方法。
图3B示出了根据本文中的实施例的解码器130接收在图3A中生成的信息并基于参考图像140-1(对应于原始图像100-1)而重构图像100-2的非限制性实施例的高级流程图。图3B还在左侧图示出根据本文中的实施例的由解码器在该过程的各种步骤期间生成的信息。
首先,在步骤2.01中,解码器130接收用以再生参考图像140-1的数据,即对应于原始参考图像100-1的经解码的再现。
在步骤2.02中,解码器130然后接收定义运动区310-2的信息(允许解码器精确地识别目标图像的哪个元素属于哪个运动区)和关于每个运动区的运动的描述性信息320-2。
在步骤2.03中,解码器130通过对参考图像140-1的所选部分应用运动补偿来生成目标图像的预测再现340-2,如运动区310-2和描述性信息320-2所指示的。在本示例性实施例中,属于残余运动区的元素留为黑色的,因为基于参考图像140-1不可能进行预测。
在步骤2.04中,解码器130将残余数据解码。在本非限制性示例中,残余数据仅仅针对属于残余运动区的元素不同于零(即,运动补偿提供的正确预测)。这必须被仅仅视为简化示例,因为在其它情况下,还可能必须经由残余数据来调整基于运动补偿而预测的多个元素。
在步骤2.05中,解码器130将残余数据330-2与预测再现340-2组合,生成目标图像140-2(对应于原始图像100-2)。
并且在这种情况下,一个或多个步骤可以同时地发生,而不是严格地顺序的。
图4A和4B示出了根据本文所示的非限制性实施例的实现运动补偿的两个框图。
图4A示出了根据本文中的实施例的实现用于借助于运动补偿来生成目标图像(即,经运动补偿的图像)的预测的上述方法的运动补偿器400。
方框400接收信息,该信息包括针对运动区和关于运动的描述性信息的第一组输入410-0、...、410-n以及420-0、...、420-n、针对元素坐标(即,根据经运动补偿的图像的样本网格而标识要预测的特定元素)的第二输入430、针对参考图像的第三输入440以及针对经运动补偿的元素的输出450。基于元素坐标(x,y)430,运动补偿器400识别元素所属的一个或多个运动区,并且——至少部分地基于关于运动的对应描述性信息和元素坐标430——生成参考图像440中的位置(x1,y1),其对应于经运动补偿的图像中的元素坐标(x,y)。最终,基于参考图像440和生成的位置(x1,y1),运动补偿器400计算针对经运动补偿的图像中的坐标(x,y)处的特定元素的经运动补偿的设置450(即,预测)。
图4B示出了运动补偿的不同的非限制性实施例。代替接收指示每个运动区的尺寸和形状的数据410-0、...、410-n的单独集合,运动补偿器460接收运动区映射410作为输入,包括经运动补偿的图像的每个给定元素所属的运动区的指示。
针对经运动补偿的图像的给定元素的每组坐标(x,y)430,运动区映射410提供关于所述给定元素所属的一个或多个运动区的类信息。类似于在图4A中所示的,运动补偿器460计算对应于经运动补偿的图像中的元素坐标(x,y)430的参考图像440中的位置(x1,y1),并且因此生成经运动补偿的设置450(即,将分配给位于经运动补偿的图像的坐标(x,y)430上的元素的值)。
在某些非限制性实施例中,相对于参考图像440的坐标系(即,独立于参考图像440的样本网格)用分数坐标(例如,订户像素水平)来指示与经运动补偿的图像中的元素坐标(x,y)相对应的参考图像440中的位置(x1,y1)。可以借助于运行时再采样来计算经运动补偿的设置450,有效地实现参考图像440的任何任意点(x1,y1)的运动补偿,无论参考图像的实际分辨率如何。在由相同创作者提交的单独专利申请中详述了用连续坐标进行运动补偿的此类新型方法。
在某些非限制性实施例中,根据作为参考文献包括在本文中的相同创作者的其它申请中进一步描述的方法,用利用继承的基于层的分级方法来对运动区映射410进行解码,其中,所述方法包括:对处于第一质量水平的运动区映射的再现进行解码;至少部分地基于处于第一质量水平的所述运动区映射,产生处于第二质量水平的运动区映射的初步再现,第二质量水平高于第一质量水平;对调整值的集合进行解码;以及将处于第二质量水平的运动区映射的所述初步再现与所述调整值组合,产生处于第二质量水平的运动区映射的再现。
在其它非限制性实施例中,根据作为参考文献包括在本文中的相同创作者的其它申请中进一步描述的方法,用利用继承的基于层的分级方法来对运动区映射410进行解码,其中,所述方法包括:接收处于第一质量水平的运动区映射,其中,所述运动区映射的元素(“父元素”)被分配属于第一组符号(“最终符号”)的符号或属于第二组符号(“非最终符号”)的符号;生成处于第二(较高)质量水平的运动区映射,其中,与处于第一质量水平的相同父元素相对应的处于第二质量水平的亚元素被分配(“继承”)与父元素相同的符号(即,相同运动区信息);仅仅针对被分配非最终符号的亚元素,基于调整数据(“残余数据”)来修改所分配符号,调整分配给所述亚元素中的一个或多个的运动区。
图5A和5B示出了基于多个经运动补偿的参考图像来实现目标图像的预测的非限制性实施例的高级流程图和框图。此类实施例对其中多个相继的图像显示出彼此的相关的信号且当根据分层时间层级来对信号进行编码时(即,由本申请的相同创作者开发且在本文中未描述的一组方法)是特别有用的。
更具体地,图5A示出了根据本文中的实施例的在被配置为解码器的信号处理器中(以及在编码器内,以便模拟在解码侧执行的计算并生成将包括在数据流120中的适当重构数据)实现的方法的高级流程图。
在步骤5.01中,解码器130接收多个参考图像YK(tn),其中,K指示层(例如,时间聚合的水平,其中,较低水平指示图像参考较长的时间跨度)且tn指示采样位置(其不一定位于图像所参考的时间跨度的中心处)。
在步骤5.02中,针对多个参考图像中的每一个,解码器130接收运动区信息和关于每个运动区的运动的描述性信息。此类信息(全部相对于每个参考图像的采样位置与目标图像的采样位置ti之间的运动)将高效地允许解码器130对每个参考图像YK(tn)执行运动补偿。
在步骤5.03中,针对多个参考图像中的每一个,解码器130根据本文中的实施例(即,至少部分地基于运动区、关于每个运动区的运动的描述性信息和参考图像)生成经运动补偿的预测器图像MC(YK(tn))。
图5B示出了根据本文中的实施例其中按每个MC(YK(ti))借助于运动补偿块500-i来执行此操作的非限制性实施例。其它非限制性实施例顺序地而不是并行地执行此类操作中的某些,针对多个MC(YK(ti))利用相同的运动补偿器块。
在步骤5.04中,解码器130(例如,以非限制性示例的方式,用加权平均)将多个经运动补偿的预测器组合,生成目标图像的预测再现UK+1(ti)。图5B示出了根据本文中的实施例的其中用预测器发生器块550来执行此操作的非限制性实施例。在非限制性实施例中,预测器发生器550接收要应用于预测器的加权平均的特定权重。
在步骤5.05中,解码器130接收并解码残余数据(如果有的话)。
在步骤5.06中,解码器130将残余数据与预测再现UK+1(ti)组合,生成目标图像。
并且,在这种情况下,应注意的是,一个或多个步骤可以同时地发生,而不是严格地顺序的。
在其它非限制性实施例中,使用类似方法来生成预测图像UK-1(ti),即在较低水平而不是较高水平的参考图像YK
在其它非限制性实施例中,预测图像的分辨率不同于(高于或低于)参考图像的分辨率。在此类非限制性实施例中的某些中,与运动补偿操作联合地执行上采样和/或下采样操作,使得预测发生器550将处于水平k+1的上采样的经运动补偿的再现(或处于水平k-1的下采样的经运动补偿的再现)组合。
在其它非限制性实施例中,在进行运动补偿之前沿着空间维度对预测器跨度的再现YK(t1), …, YK(tn)进行上采样或下采样。
图6A、6B和6C图示出根据本文中的实施例的以分层层级编码的运动区的使用(例如,如果也以分层层级对信号进行编码则是特别有用的)的非限制性实施例。
解码器130接收处于较低质量水平的运动区映射610。借助于运动区映射重构器600,解码器130通过适当的上采样操作对运动区映射610进行上采样,以较高质量水平生成运动区映射的预测再现。运动区映射重构器600然后将所述预测再现与对应于残余620的残余数据相组合,因此生成运动区映射410。该方法然后与图4A和4B中所示的类似地进行。
图6C图示出其中通过利用由运动区映射重构器600接收到的附加支持信息来执行运动区映射610的上采样的非限制性实施例的高级流程图。在一些非限制性实施例中,所述支持信息包括指示上采样操作执行的参数。
在非限制性实施例中,所述支持信息包括处于较高质量水平的参考图像,并且运动区映射610的上采样至少部分地基于所述参考图像(例如,不限于,实现双边上采样操作,其中,通过“遵循”亮度图像的“边界”来对运动区进行上采样)。
在某些非限制性实施例中,根据相同创作者的其它申请中所述的方法,用具有多个质量水平的分层层级对运动区映射进行编码,并且上采样操作利用继承法。
例如,处于层级中的第一(较低)水平的运动区映射包括指定父元素的属性设置的符号(以非限制性示例的方式,例如,指示父元素属于给定运动区且这对于处于任何较高质量水平的该父元素的所有亚元素仍将适用的适当值)。运动区映射重构器600将父元素划分成多个亚元素以便以第二、较高质量水平来重构运动映射。在这样做时,重构器600利用由符号指定的父元素的属性设置(处于第一质量水平)以产生用于父元素针对相同显示区域被划分成的一个或多个相应亚元素的默认属性设置(将父元素划分成亚元素产生针对该区域的较高分辨率图像元素),而不接收针对此类亚元素的残余信息(即,残余620不包括针对此类亚元素的残余信息)。由于运动区信息从一个质量水平到下一个的继承(诸如当从较低分辨率上采样到较高分辨率再现时),这种技术可以减少定义运动区映射的什么元素属于什么区所需的数据量,还高效地对非常复杂(和/或非相邻)表面或多维形状进行编码/解码,而不必将与处于给定质量水平的区映射中的每个元素相对应的残余信息进行编码且不必重构针对区的任何边界的等式(例如,样条等式)。
在非限制性实施例中,针对某些最高质量水平(例如,不限于,最后的两个质量水平),运动区映射重构器600不接收残余620,并且当上采样运动区映射610被配置成使不同区之间的过渡平滑化时,接近于不同运动区之间的“边界”而生成针对给定百分比分配给一个区且针对互补百分比分配给另一区的元素(以非限制性示例的方式,例如,向边界元素分配两个运动矢量而不是不肯定的“中间”运动矢量)。
图7是根据本文中的实施例的提供计算机处理的计算机系统800的框图。
计算机系统800可以是或至少包括计算机化设备,诸如个人计算机、处理电路、电视、重放设备、编码设备、工作站、便携式计算设备、移动电话、平板计算机、控制台、网络终端、处理设备、网络设备、操作为交换机、路由器、服务器、客户端等。
应注意的是,以下讨论提供了指示如何如先前所讨论的执行与信号处理器相关联的功能的基本实施例。然而,应注意的是用于执行如本文所述的操作的实际配置可以取决于相应应用而改变。
如所示,本示例的计算机系统800包括通信总线811,其提供与诸如非临时计算机可读存储介质等计算机可读存储介质812的通信,其中可以存储并检索数字信息。
计算机系统800还可以包括处理器813、I/O接口814以及通信接口817。
在一个实施例中,I/O接口814提供到储存库180以及(如果存在的话)到屏幕显示器、音频扬声器、诸如键盘、计算机鼠标等外围设备816的连接。
如上文简要提到的,计算机可读存储介质812可以是任何适当的设备和/或硬件,诸如存储器、光学储存器、固态储存器、硬驱动器、软盘等。在一个实施例中,存储介质812是被配置成存储与信号处理器应用840-1相关联的指令的非临时存储介质(即,非载波介质)。该指令被诸如处理器813之类的相应资源执行以便执行如本文所讨论的任何操作。
通信接口817使得计算机系统800能够通过网络190进行通信以便从远程源检索信息和与其它计算机、交换机、客户端、服务器等进行通信。I/O接口814还使得处理器813能够从储存库180检索或尝试检索所存储信息。
如所示,可以用由处理器813执行的信号处理器应用840-1作为进程840-2对计算机可读存储介质812进行编码。
应注意的是,可以将计算机系统800体现成包括用于存储数据和/或逻辑指令的计算机可读存储介质812。
与信号处理器应用840-1相关联的代码可以实现本文所述的信号处理器的功能和/或对实现本文中的实施例必要的其它资源。
在一个实施例的操作期间,处理器813经由通信总线811来访问计算机可读存储介质812以便启动、运行、执行、解释或以其它方式执行存储在计算机可读存储介质812中的信号处理器应用840-1的指令。信号处理器应用840-1的执行产生处理器813中的处理功能。换言之,与处理器813相关联的信号处理器进程840-2表示在计算机系统800中的处理器813内或上面执行信号处理器应用840-1的一个或多个方面。
本领域的技术人员将理解的是计算机系统800可以包括其它进程和/或软件和硬件部件,诸如控制硬件处理资源的分配和使用以执行信号处理器应用840-1的操作系统或其它软件。
根据不同的实施例,应注意的是,计算机系统可以是各种类型的设备中的任何一个,包括但不限于个人计算机系统、台式计算机、膝上计算机、笔记本、上网本计算机、大型机计算机系统、手持式计算机、工作站、网络计算机、应用服务器、存储设备、诸如摄像机、录像摄像机、机顶盒、移动设备、智能电话、平板计算机、视频游戏控制台、手持式视频游戏设备之类的消费电子设备、诸如交换机、调制解调器、路由器之类的外围设备或者一般地任何类型的计算或电子设备。
图8是描述参考图像中的参考位置的计算的示例性图示,图示出根据本文中的实施例的新坐标计算器860的非限制性实施例。
齐次坐标转换器800接收目的地图像中的元素的坐标(x,y)430并将其转换成齐次坐标(x,y,1)801。值1表示z坐标,其深度仅仅为一,因为图像是2维图像。矩阵计算器802接收关于运动210的描述性信息(诸如运动信息)并将其转换成运动矩阵M 803(例如,描述该区相对于参考图像的运动属性的运动信息)。
乘法器804接收齐次坐标801和运动矩阵803,并计算经变换的坐标810。如果运动矩阵M 803是仿射变换,则由于仿射变换矩阵的系数的性质,经变换的坐标810的第三坐标将已经等于一;否则(例如,如果矩阵M是投射矩阵),则将坐标810归一化是必要的。齐次坐标转换器830执行此类归一化(在必要时),生成齐次坐标(x1,y1,1)835。最终,选择器840生成参考图像中的坐标(x1,y1)850。
目的地图像中的元素的坐标(x,y)描述了目的地图像的样本网格的元素(即,其描述样本网格的整数位置),而坐标(x1,y1)(用分数来表达)可描述参考图像的任何的任意网格外(off-grid)位置(包括但不限于,在参考图像的样本网格的边界外的位置)。矩阵M 803的系数可以是分数,并且在新坐标计算器860内执行的计算包括用分数进行的计算(例如,不限于,浮点操作或者具有高精度定点数的操作)。
如本文所讨论的,坐标计算器860针对被重构的图像中的相应区中的每个元素产生参考图像中的坐标值。
图9图示出图4A中描述的计算的非限制性示例性实施例。非限制性示例示出了其中运动矩阵M 803对应于仿射变换、使得(x,y,1)乘以矩阵M的乘法生成已经被归一化的一组坐标(x1,y1,1)的情况。
在非限制性实施例中,当元素905的坐标430和矩阵803使得位置915的坐标850在参考图像之外超过阈值(例如,不限于,在参考图像的采样网格之外高于两个邻近元素之间的距离的量)时,为元素905分配默认值(例如,“N/A”值)。但是图中所示的情况并非如此,因为元素915位于参考图像内部。
如图9中所示,元素903、904、905和906全部是区970的成员。这些显示元素表示在参考图像100-1中捕获的对象。在本示例中,用显示元素903、904、905和906表示的对象是由参考图像100-1捕获的对象的较小再现。因此,与显示元素903、904、905和906相对于彼此的接近度相比,生成的坐标913、914、915和916看起来相对于彼此散开。
经由矩阵803,计算机处理器硬件识别与显示元素904、905和906相关联的位置坐标914、915和916。在本示例中,计算机处理器硬件生成针对显示元素904的坐标914;计算机处理器硬件生成针对显示元素905的坐标915;计算机处理器硬件生成针对显示元素906的坐标916。经由相同矩阵803,计算机处理器硬件还识别与显示元素903相关联的位置坐标913,生成针对显示元素903的坐标913。换言之,属于相同运动区的元素利用相同运动矩阵以便生成针对参考图像中的其对应位置的坐标。
图10是描述根据非限制性实施例的运行时再采样操作的示例性图示。
具有坐标(x1,y1)的位置915未由参考图像100-1的样本网格的任何元素描述。因此,没有值可容易地用于目的地图像930的对应的经运动补偿的元素。然而,可能的是通过选择接近于坐标(x1,y1)的适当的一组元素(“预测器”)且通过根据适当的权重(例如,适当的滤波内核(kernel))来执行其值的加权平均而在运行时计算此类值。图10图示出其中使用双三次(bicubic)滤波内核且因此通过执行16个预测器元素的加权平均来计算位置(x1,y1)上的参考图像100-1的值的非限制性示例。
为了执行再采样,再采样器1060必须识别16个预测器以用于加权平均(即,将把“滤波器定位”于哪里)且必须计算要使用的特定权重。(x1,y1)坐标的整数分量指示将把滤波器定位于哪里,并且坐标的分数分量指示在滤波器中将使用什么系数。
向下取整(floor)计算器1000接收坐标(x1,y1)850,计算坐标(x1,y1)的整数分量1005。在基于参考图像的左上方处的原点的坐标的非限制性示例中,整数坐标1005标识坐标(x1,y1)的左上方处的样本网格的最接近元素。接收参考图像1040、关于参考图像的元数据1045(如果有的话)和关于再采样方法的信息1050(如果有的话)的预测器选择器1010因此能够通过选择参考图像的元素的4×4块来选择16个预测器,该参考图像具有带有坐标1005的元素作为从块的左上方开始的对角线中的第二元素。如果对16个预测器中的某些分配“N/A”(不可用值,例如因为其在参考图像的边界之外),则将其从预测器的集合取出,并且仅保持具有值的预测器。
权重计算器1020接收坐标(x1,y1)和预测器的坐标。基于所选再采样方法(例如,在本非限制性示例中,双三次滤波)和坐标(x1,y1)的分数分量(即位置(x1,y1)与具有整数坐标1005的元素之间的距离)权重计算器1020计算将应用于每个预测器的权重。如果已选择了小于16个预测器,则权重计算器1020生成针对理想4×4内核的适当双三次权重,则仅选择对应于被选择的预测器的系数,并且对系数进行归一化,使得其和等于1。
最终,乘法器1030接收预测器和权重两者以应用于每个预测器,因此计算位置(x1,y1)上的参考图像的经再采样的值,即针对目的地图像中的坐标(x,y)的设置1070。
在非限制性实施例中,为了避免基于特定(x1,y1)坐标而实时地生成滤波器的精确系数的需要,实现权重计算器1020的信号处理器被配置成从而访问具有给定数目的预先计算系数集合(例如,在非限制性示例中,128个系数集合)的适当查找表,并且然后对最接近于特定(x1,y1)坐标的分数分量的两个系数集合的系数进行内插。
在非限制性实施例中,关于参考图像的元数据1045包含关于在运动补偿之前将应用于参考图像100-1的修改的信息(例如,不限于,将应用于图像的值的比例参数,从而计及光照的变化)。
图11是图示出根据本文中的实施例的用以导出针对经补偿的图像中的多个图像元素中的每一个的设置的参考图像的使用的示例性图示。
更具体地,如所示,诸如解码器之类的计算机处理器硬件接收设置信息,其指定图像840(诸如参考图像)的再现中的显示元素810(例如,显示元素810-1、810-2、810-3、...810-16)的设置。应注意的是,该再现可以包括任何数目元素。元素的设置可以指示任何适当参数,诸如色彩、色度、亮度等。
图像再现840中的显示元素中的一个或多个可以表示在参考图像中捕获的对象的至少一部分。图像再现850可以表示包括在参考图像中捕获的对象的一部分的序列中的另一图像。如本文所讨论的,可以将该参考图像(图像再现840)用作用以重构另一图像(诸如图像再现850)的基础。使用视频帧或平面的序列中的先前图像的设置来产生后一视频帧中的对象的再现减少了捕获和重构原始信号所需的数据量。
在本非限制性示例性实施例中,诸如经运动补偿的图像之类的图像再现850包括多个显示元素820(例如,显示元素820-1、显示元素820-2、显示元素820-3、...、820-16)。如先前所讨论的,可以至少部分地基于由参考图像中的显示元素的设置捕获的对象的再现来生成图像再现850。
应注意的是,信号再现850的分辨率可以大体上与参考信号的分辨率(图像再现840)相同。根据其它实施例,信号再现850的分辨率可以大体上不同于图像再现840的分辨率。
在本示例性实施例中,假设相应区信息1120指示显示元素820-5和显示元素820-9表示运动区。图像可以包括多个区。每个区可以包括任何数目的显示元素。
可以使用任何适当方式来指定多个显示元素中的哪些将被包括在区中。例如,在一个实施例中,区信息1120可以单独地指定将在该区中使用的图像再现850中的显示元素。根据另一实施例,区信息1120包括定义区的形状的几何参数。基于图像再现850中的该区的定义形状,计算机处理器硬件能够识别该区的成员。用以定义区的几何参数的使用可对减少作为区信息1120的将相应区描述或定义所需的数据量有用,并且运动信息1130表示被计算机处理器硬件接收以再生图像再现850的已编码数据。
在一个实施例中,图像再现850是经运动补偿的图像。显示元素820的区所表示的区域是大体上矩形的。然而,如上文所讨论的,区可以是任何尺寸和形状的。在一个实施例中,如图像再现850中的元素的区所表示的经运动补偿的图像的区域是非矩形形状。
根据其它实施例,经运动补偿的图像中的区可以包括不接触的显示元素的多个相邻区域或岛。例如,由区信息1120指定的区可以包括且指定图像再现850中的显示元素的第一区域和图像再现850中的显示元素的第二区域。显示元素的第一区域相对于显示元素的第二区域可以是非相邻(非接触)的,即使显示元素的多个区域表示相同的区。
如所述,重构的信号的再现可以包括多个区。在一个实施例中,第一区信息定义作为第一区的成员的信号再现850中的显示元素。第一区信息可以指示诸如显示元素820-9之类的给定元素存在于第一区中。可以将计算机处理器硬件配置成接收与图像再现850相关联的第二区信息。第二区信息可以指示给定图像元素820-9存在于第二区中。因此,单个显示元素可以是没有一个、一个或多个运动区的成员。
在本示例中假设如区信息1120所指定的运动区(即,显示元素820-5和820-9)已被分配运动信息1130。运动信息1130包括指示如何导出针对该区中的每个元素的位置信息的信息。例如,在一个实施例中,为了再生相应信号的再现,诸如图像再现850,计算机处理器硬件接收区信息1120。在本示例中,区信息1120指定属于区的信号再现850的多个显示元素。如所述,在本示例中,该区包括820-5和显示元素820-9。
计算机处理器硬件还接收与该区相关联的运动信息1130。以非限制性示例的方式,将运动信息编码成指示该区中的多个元素中的每一个关于参考信号(诸如图像再现840)中的哪些对应位置和/或元素。
针对该区中的每个相应显示元素,计算机处理器硬件利用运动信息1130作为导出图像再现840(例如,参考信号)中的对应位置值的基础。对应位置值指示相应元素所关于的参考信号中的位置。因此,运动信息1130使得计算机处理器硬件能够将该区中的每个显示元素映射到参考图像中的对应位置。
在本示例中,运动信息1130包括针对该区的一组系数。计算机处理器硬件利用运动信息1130来生成用于图9中的矩阵M(803)的系数a、b、c、d、e和f。值X1和Y1(图8中的值430)表示图像再现850中的显示元素820-9的坐标。为了产生显示元素820-9所关于的精确位置(在图像再现840中),计算机处理器硬件将坐标[X1 Y1 1]乘以矩阵M以产生x1和y1。[X1 Y1 1]表示图像再现850中的显示元素820-9的坐标位置。用值x1、y1来表示与显示元素820-9相关联的图像再现840(或参考图像110-1)中的位置。如图11中所示,显示元素820-9相对于参考图像中的元素网格而言落在网格外位置处。
图12是图示出区中的显示元素820-5到参考图像(图像再现840)中的对应位置的映射的示例性图示。在本示例中,如上所述,计算机处理器硬件已生成用于矩阵M(803)的系数a、b、c、d、e和f。值X2和Y2(430)表示图像再现850中的显示元素820-5的坐标。为了产生显示元素820-5所关于的精确位置(在图像再现840中),计算机处理器硬件将坐标[X2Y2 1]乘以矩阵M以产生x2和y2。[X2 Y2 1]表示图像再现850中的显示元素820-5的坐标位置。用值x2、y2来表示与显示元素820-9相关联的图像再现840(或参考图像110-1)中的位置。如图12中所示,显示元素820-5相对于参考图像中的元素网格而言落在网格外位置处。
因此,利用运动信息1120来导出针对相应显示元素的对应位置值包括:获得针对图像再现850中的相应元素的坐标(x和y),该坐标指定图像再现850(信号)中的相应元素的位置;并且经由运动信息1130,执行相应元素的坐标与系数值的一个或多个线性组合以产生图像再现840中的对应位置信息。如所述,诸如[x1,y1]、[x2,y2]等对应位置信息指定(图像再现850中)相应元素所关于的参考信号中的坐标。
在一个实施例中,计算机处理器硬件将位置值生成为具有足够高的分辨率以便能够指定参考信号中的亚元素准确度。在图11和图12中所示的示例中,未知信息[x1,y1]、[x2,y2]图示出订户像素分辨率。换言之,显示元素820-9和820-5并未直接地落在图像再现840中的相应显示元素上,而是替代地偏移了分数量。
根据其它实施例,针对该区中的每个相应元素,计算机处理器硬件利用针对相应元素820-9、820-5的诸如[x1, y1]、[x2, y2]之类的位置值来选择图像再现840(即,参考信号)中的元素的对应群组。如图11中所示,计算机处理器硬件选择显示元素810-6、810-7、810-10、810-11、810-12和810-15作为与显示元素820-9相关联的分组。如图12中所示,计算机处理器硬件选择显示元素810-1、810-2、810-5和810-611作为与显示元素820-5相关联的分组。
计算机处理器硬件可以基于任何适当准则来选择相应分组。例如,在一个实施例中,计算机处理器硬件基于图像再现840中的对应显示元素到位置[x1,y1]的接近度来选择与显示元素820-9相关联的图像再现840中的显示元素的分组。计算机处理器硬件基于图像再现840中的对应显示元素到位置[x2,y2]的接近度来选择与显示元素820-5相关联的图像再现840中的显示元素的分组。
运动信息1130可以包括指示要用来识别图像再现中的哪些显示元素将被用来生成针对该区中的显示元素的设置的准则或规则的另外的信息。因此,以非限制性示例的方式,运动信息1130可以针对该区中的每个显示元素有效地指定将被用来再生针对该区中的显示元素的设置的参考图像中的显示元素的群组。
在一个实施例中,计算机处理器硬件基于对应群组中的元素的设置来计算针对该区中的每个相应显示元素820的设置。例如,为了促进生成针对显示元素820-9的设置,计算机处理器硬件获得显示元素810-6、810-7、810-10、810-11、810-12和810-15的设置。计算机处理器硬件然后基于这些显示元素的设置来计算针对该区中的显示元素820-9的设置。
为了促进生成针对显示元素820-5的设置,计算机处理器硬件获得显示元素810-1、810-2、810-5和810-6的设置。计算机处理器硬件然后基于这些显示元素的设置来计算针对该区中的显示元素820-9的设置。
在一个实施例中,图像再现850(例如,相对于参考图像的二次图像)的该区中的显示元素表示对象的再现。参考图像中的显示元素群组表示对象的再现。运动信息1130捕获对象从参考图像中的位置到二次图像(例如,至少部分地基于参考图像而再生的图像)中的位置的运动。
应注意的是,如本文所讨论的运动信息1130或系数集合对应于与对象的移动相关联的运动参数。例如,运动信息1130可以包括平移参数,其捕获二次图像(图像再现850)中的对象的再现相对于参考图像(图像再现840)中的对象的再现的平移;运动信息1130可以包括旋转参数,其捕获二次图像中的对象的再现相对于参考图像中的对象的再现的旋转;运动信息1130可以包括一个或多个扩缩参数(用于放大和缩小),其捕获二次图像中的对象的再现相对于参考图像中的对象的再现的扩缩;运动信息1130可以包括剪切参数,其捕获二次图像中的对象的再现相对于参考图像中的对象的再现的剪切;运动信息1130可以包括透视参数,其捕获二次图像中的对象的再现相对于参考图像中的对象的再现的透视变换;等等。可以使用这些参数中的一个或多个中的任何一个来描述从一个平面到另一个的与对象相关联的运动。
在一个实施例中,运动信息1130包括偏移调整信息,其表示对象从元素的一个平面中的一个位置到其中对象看起来跨显示屏横向地移动的后续平面中的另一位置的平移。如所述,计算机处理器硬件利用运动信息1130来导出针对区中的相应元素的对应位置值。生成针对显示元素的位置信息可以包括首先获得针对相应元素的坐标。如所述,该区中的显示元素的坐标可以指定信号再现850中的相应元素的位置。计算机处理器硬件将偏移调整信息(如矩阵803的系数集合中的系数a和系数d所编码的)应用于显示元素坐标以产生针对图像再现840中的相应元素的对应位置信息。在一个实施例中,对应位置信息(或生成的坐标)指示相对于该坐标偏移了如偏移调整信息指定的量的位置。因此,区信息1120可以捕获对象从第一平面中的一个位置到第二平面中的第二位置的移动,如在显示屏上所显示的。
运动信息1130可以包括旋转调整信息。例如,运动信息1130包括表示对象从第一平面中的一个位置到第二平面中的另一位置的旋转的图像旋转信息。在一个实施例中,计算机处理器硬件利用运动信息来导出针对区中的每个相应元素的对应位置值。生成针对显示元素的旋转信息可以包括首先获得针对相应元素的坐标;该坐标指定信号再现中的相应元素的位置。计算机处理器硬件将旋转调整信息(如矩阵803中的系数集合所编码的)应用于坐标以产生针对相应元素的对应位置信息。对应位置信息捕获按如旋转调整信息指定的量的对坐标的旋转。
根据其它实施例,运动信息1130指示可以如何从参考信号中的显示元素的对应分组对信号再现的该区中的多个元素进行扩缩(以支持缩放,使得对象从一个图像到下一个看起来更大或更小)。
在某些实例中,图像再现850中的显示元素可不落在表示移动对象的运动区中。当运动信息指示位于参考信号外的对应元素时或者当运动信息被分配默认值时,可以为针对此类显示元素的位置值分配默认值。
在本示例中,运动矢量860指定显示元素820-9所关于的图像再现840中的精确位置。根据本文中的实施例,作为将图像再现840上采样成超高分辨率图像(如在常规方法中)以适应用于元素块的亚元素或分数元素运动补偿的替换,本文中的实施例包括基于相对低质量水平或低分辨率图像再现840来导出针对显示元素820-9的设置。
作为特定示例,计算机处理器硬件接收针对图像再现850中的显示元素820-9的运动补偿信息和/或其它元数据或重构数据。图像再现850表示至少部分地基于图像再现840(参考图像)中的显示元素的设置而创建的图像。接收到的运动补偿信息指示显示元素820-9所关于的图像再现840中的显示元素810-11内的坐标位置。用以重构针对显示元素820-9的设置的接收到的重构数据可以指定一个或多个参考图像以及每个参考图像内的一个或多个位置中的哪些将被用作重构针对显示元素的相应设置的基础。在简单的示例性实施例中,运动补偿信息指示将用作确定针对显示元素820-9的设置的基础的单个参考图像内的位置。
在一个实施例中,计算机处理器硬件将接收到的补偿信息转换成运动矢量860(分配给显示元素820-9),其指定元素820-9所关于的图像再现840(网格)中的网格外位置。显示元素820-9的位置在图像再现840中的网格外,因为其并未直接地落在图像再现840的仅单个显示元素上。在本示例性实施例中,如由运动矢量860指定的图像元素820-9的位置至少部分地与图像再现840中的多个显示元素810-6、810-7、810-10和810-11重叠。
计算机处理器硬件利用如运动矢量860所指定的坐标位置作为将根据其而选择图像再现840中的多个显示元素的分组的基础。例如,在本示例性实施例中,由于邻近度或其它适当参数,假设计算机处理器硬件选择显示元素810-6、810-7、810-10、810-11、810-12和810-15作为将从其生成针对显示元素820-9的一个或多个设置的适当附近元素。基于所选显示元素810-6、810-7、810-10、810-11、810-12和810-15的此类设置,计算机处理器硬件生成针对显示元素820-9的设置。
在一个实施例中,计算机处理器硬件基于图像再现840来计算针对显示元素820-9的设置信息,如同显示元素820-9位于如运动矢量860所指定的分数偏移位置中一样。例如,显示元素820-9的质心并未精确地对准在显示元素810-11的质心上,如运动矢量860所指定的。本文中的实施例包括基于所选分组中的多个显示元素810-6、810-7、810-10、810-11、810-12和810-15的设置来生成针对第二图像中的显示元素820-9的设置。
应注意的是,可以使用多个算法之中的任何适当算法来基于显示元素的所选分组而导出针对显示元素820-9的设置。例如,在本示例中假设与显示元素820-9相关联的接收到的重构信息向计算机处理器硬件指示使用特定算法来将该分组生成为包括如上所述的显示元素810-6、810-7、810-10、810-11、810-12和810-15。
根据指定算法,计算机处理器硬件至少部分地基于分组中的多个显示元素相对于特定显示元素810-11中的(如由运动矢量860指定的显示元素820-9的质心的)坐标位置的距离来计算针对显示元素820-9的设置。
例如,线L1的长度表示显示元素810-6的质心(即,中心)(如显示元素810-6的中心中的相应符号x描述)与显示元素820-9的质心(如由运动矢量860指定且如由显示元素820-9中的点描述)之间的距离;线L2的长度表示显示元素810-7的质心(如由显示元素810-7的中心中的相应符号x描述)与显示元素820-9的质心(如由运动矢量860指定且如由显示元素820-9中的点描述)之间的距离;线L3的长度表示显示元素810-12的质心(如由显示元素810-12的中心中的相应符号x描述)与显示元素820-9的质心之间的距离;线L4的长度表示显示元素810-11的质心(如由显示元素810-11的中心中的相应符号x描述)与显示元素820-9的质心之间的距离;线L5的长度表示显示元素810-15的质心(如由显示元素810-15的中心中的相应符号x描述)与显示元素820-9的质心之间的距离;线L6的长度表示显示元素810-10的质心(如由显示元素810-10的中心中的相应符号x描述)与显示元素820-9的质心之间的距离。
如所述,可以将计算机处理器硬件配置成以任何适当方式来生成诸如显示设置之类的值。例如,可以将该算法配置成基于计算与附近显示元素810-6、810-7、810-10、810-11、810-12和810-15相关联的设置的平均来生成针对显示元素820-9的设置。例如,假设显示元素810-6被设置成24的值;显示元素810-7被设置成60的值;显示元素810-10被设置成228的值;显示元素810-11被设置成-123的值;显示元素810-12被设置成-41的值;并且显示元素810-15被设置成2的值。这些值的平均是25。因此,在该实例中,算法为显示元素820-9分配25的值。
根据另外的实施例,可以将算法配置成生成针对所选分组中的每个显示元素的权重。例如,可以将用以生成针对显示元素820-9的设置的所选算法配置成计算线L1、L2、L3、L4、L5和L6中的每一个的长度,并且取决于线的长度而生成针对相应显示元素的对应权重。线越短,相应权重的量值越高,使得与较远的元素相比可基于较近元素的设置而对针对显示元素820-9计算的设置更重地加权。作为特定示例,线L1的长度可以是7个单位;线L2的长度可以是5个单位;线L3的长度可以是6个单位,线L4的长度可以是1个单位;线L5的长度可以是6个单位;线L7的长度可以是4个单位。基于长度,算法将针对线L1的W1设置成是.053;算法将针对线L2的W2设置成是.157;算法将针对线L3的W3设置成是.105;算法将针对线L4的W4设置成是.368;算法将针对线L5的W5设置成是.105;算法将针对线L6的W6设置成是.21。权重的和可以等于一。为了基于权重而计算针对显示元素820-9的设置,算法如下生成显示元素820-9的值:
值= (W1×S1) + (W2×S2) + (W3×S3) + (W4×S4) + (W5×S5) + (W6×S6);
其中S1=显示元素810-6的设置=24;
S2 = 显示元素810-7 的设置= 60;
S3 = 显示元素810-10的设置 = 228;
S4 = 显示元素810-11的设置 = -123;
S5 = 显示元素810-12 的设置= -41;
S6 = 显示元素810-15的设置 = 2.
值 = (.053×24) + (.157×60) + (.105×228) + (.368×(-123)) + (.105×(-41)) + (.21×2) = -14.2;
在本示例性实例中,算法将显示元素820-9的设置分配到-14.2的值。
在其它非限制性实施例中,基于该位置与分组的加权元素的距离,基于适当的再采样内核(例如,不限于,双线性内核、双三次内核、Lanczos内核等)来选择权重值。
因此,本文中的实施例可以包括选择诸如区中的显示元素820-9之类的第一元素;
利用运动信息1130来计算针对第一显示元素820-9的参考信号(信号再现850)中的位置;
利用位置x1、y1作为用以识别参考信号中的元素的第一集合(例如,显示元素810-6、810-7、810-10、810-11、810-12和810-15)的基础;处理参考信号以获得第一集合中的元素的设置(例如,对应值S1、S2、S3、S4、S5和S6);生成加权值(例如,对应值W1、W2、W3、W4、W5和W6);将加权值应用于第一集合中的元素的设置,加权值的量值取决于第一集合中的元素到针对第一元素的参考信号中的位置的邻近度;以及基于将显示元素810-6、810-7、810-10、810-11、810-12和810-15的加权设置(例如,W1×S1、W2×S2、W3×S3、W4×S4、W5×S5和W6×S6)加和而计算针对该区中的显示元素820-9的设置。
以类似方式,计算机处理器硬件产生针对该区中的每个成员的值。
在产生图像再现850之后,计算机处理器硬件可应用残余数据来将图像再现850细化成原始信号的更准确表示。例如,在一个实施例中,计算机处理器硬件以由区信息1120和运动信息1130指定的方式至少部分地基于参考信号(例如,图像再现840)来再生信号再现850。计算机处理器硬件接收重构数据(诸如残余数据),其指定将应用于原始信号的所再生的再现中的显示元素的调整。计算机处理器硬件对如由重构数据指定的所再生的信号再现中的显示元素中的所述一个或多个施加调整(如由残余数据指定)以细化所再生的信号再现。作为示例,计算机处理器硬件可以接收重构数据,其指示将针对显示元素820-9导出的设置修改+5个单位。如上文所讨论的,计算机处理器硬件可生成针对显示元素820-9的初始值,诸如-14.2。在本示例中,计算机处理器硬件将+5个单位与-14.23相加而产生针对显示元素820-9的-9.2的值。以这种方式,计算机处理器硬件可以对图像再现850中的任何显示元素进行细化。
因此,本文中的实施例可以包括:产生加权值,其取决于如由运动矢量860指定的给定显示元素的质心与参考图像中的分组中的元素的相应质心之间的相应距离而变化;以及将加权值应用于分组中的显示元素的设置以产生针对显示元素820-9的设置。因此,假设运动矢量的无限制或大体上高精度,本文中的实施例能够基于对象从一个图像平面至下一个的分数移动而重构图像。换言之,多个视频帧的序列中的参考图像可包括对象的表示。可使用参考图像(处于较低或中等分辨率)作为产生下一帧中的移动对象的分数移位的表示的基础。换言之,后续帧可以包括在以小于全像素或在亚像素水平从一个帧至下一个移动时参考帧中的移动对象的再现。
如上文所讨论的,运动矢量860可以指定除图像再现840中的显示元素810-11的中心之外的坐标位置。运动矢量860可以是任何适当分辨率的,使得对应显示元素820-9能够参考图像再现840中的任何位置。因此,运动矢量860可以是指向诸如参考图像之类的图像再现840中的相应元素或单元内的任何位置的偏移值或矢量。
在一个实施例中,如由运动矢量860指定的图像再现840中的特定坐标位置(诸如显示元素820-9的质心的位置)可以相对于显示元素810-11的质心偏移了显示元素或像素的分数值(诸如大于零但小于1的分数值)。如所述,图像再现850可以包括参考图像中的对象的表示,但是其相对于参考图像移位了小于全像素。
如所示,诸如参考图像之类的图像再现840的分辨率可以大体上等于图像再现850的分辨率(例如,至少部分地基于参考图像来渲染图像)。
应注意的是,根据另外的实施例,图像再现840的分辨率可以不同于图像再现850的分辨率。例如,在一个实施例中,第一图像再现840的分辨率可以大体上不同于第二图像再现850的分辨率。
因此,可以使用如由运动矢量860指定的坐标位置作为根据其来选择诸如图像再现840之类的第一图像中的多个显示元素的分组的基础。如所述,可以将计算机处理器硬件配置成将多个显示元素的分组创建成包括显示元素810-11和图像再现840中的一个或多个其它显示元素,所述一个或多个其它显示元素位于特定显示元素810-11的附近区域中。
在一个非限制性示例性实施例中,计算机处理器硬件至少部分地基于以下各项而对显示元素820-9的设置进行内插:i)坐标位置(如由运动矢量860指定)相对于特定显示元素810-11的质心和诸如在特定显示元素810-11附近区域中的显示元素810-7之类的至少一个其它显示元素的质心的邻近度,ii)特定显示元素810-11的设置,以及iii)位于特定显示元素810-11的附近区域中的显示元素810-7的设置。
应注意的是,可以对经补偿图像中的多个元素中的每一个应用运动补偿的过程以基于图像再现850而导出图像再现850。例如,本文中的实施例包括生成针对图像再现850中的多个显示元素中的每一个的相应运动矢量。以如先前所讨论的方式,再生图像再现850的计算机处理器硬件利用与图像再现850中的对应显示元素相关联的相应运动矢量来识别对应显示元素所关于的图像再现840中的特定位置。计算机处理器硬件然后使用如由运动矢量860指定的特定位置作为其中将识别参考图像中的相邻显示元素并生成针对对应显示元素的设置的基础。
根据其它实施例,信号再现840可以是至少部分地从其导出图像再现850的图像。区信息1120可以是第一区信息。运动信息1130可以是第一运动信息。可以将计算机处理器硬件配置成接收第二区信息和指定如何基于第二参考图像而再生第二图像的第二运动信息。根据第二区信息和第二运动信息,计算机处理器硬件至少部分地基于第二参考图像而再生第二图像再现。计算机处理器硬件然后使用第一图像和第二图像作为参考图像而生成第三图像再现。因此,可以从一个或多个参考图像导出任何数目的图像的集合;可以从该集合中的一个或多个图像导出附加的一个或多个图像。
在某些实例中,给定显示元素可以被包括在多个区中。例如,区信息可以指示给定元素存在于第一区和第二区两者中。第一区可表示对象,诸如在一个方向上从一个图像移动至下一个的窗口,而窗口中的反射可以表示在不同方向上从一个图像移动至下一个的对象。因此,本文中的实施例可以包括:接收指示一个或多个元素存在于第一区中的第一区信息;以及接收指示所述一个或多个元素存在于第二区中的第二区信息。
现在将经由图13-14中的流程图来讨论由不同资源支持的功能。应注意的是,可以按照任何适当次序来执行以下流程图中的步骤。
图13是图示出根据实施例的示例性方法的流程图1300。应注意的是,将存在相对于如上文所讨论的概念的某些重叠。
在处理块1310中,计算机处理器硬件(诸如解码器处理硬件或任何其它适当资源)接收至少一个辅助区以及描述性辅助信息的至少一个集合,所述辅助区指示所述元素集合中的元素子集,所述元素子集属于所述辅助区,描述性信息的一个或多个所述集合中的每一个对应于辅助区。
在处理块1310中,至少部分地基于辅助区信息和对应于辅助区的描述性辅助信息,计算机处理器硬件计算针对给定样本的每个元素的辅助信息。
图14是图示出根据实施例的示例性方法的流程图1400。应注意的是,将存在相对于如上文所讨论的概念的某些重叠。
在处理块1410中,计算机处理器硬件(或任何其它适当资源)接收指定属于区的信号的再现的多个元素的区信息。
在处理块1420中,计算机处理器硬件接收与该区相关联的描述性信息,该描述性信息被编码成指示关于该区中的多个元素的信息。
在处理块1430中,针对该区中的每个相应元素,计算机处理器硬件利用描述性信息来导出对应值,该对应值指示关于相应元素的信息。
图15是图示出根据本文中的实施例的运动映射的生成的示例性图示。
在一个实施例中,计算机处理器硬件最初接收区域信息1120-1。计算机处理器硬件使用区信息1120-1来产生处于第一质量水平(诸如处于第一分辨率)的运动映射再现1515。如所述,运动映射再现1515-0可以指定要再生的图像中的哪些对应元素属于相应运动区。
在本示例性实施例中,计算机处理器硬件将运动映射再现1515-0上采样成处于下一较高质量水平(诸如较高分辨率)的运动映射的初步再现1515-1P。计算机处理器硬件对运动映射再现1515-1P应用残余数据区信息1120-2(例如,调整数据)以产生经调整的运动映射再现1515-1ADJ。运动映射再现1515-1ADJ指定信号再现中的哪些元素属于针对该质量水平的哪个相应区。
计算机处理器硬件将运动映射再现 1515-1ADJ上采样成处于下一较高质量水平(诸如较高分辨率)的运动映射的初步再现1515-2P。计算机处理器硬件对运动映射再现1515-2P应用残余数据区信息1120-3(例如,调整数据)以产生经调整的运动映射再现1515-2ADJ。运动映射再现1515-2ADJ指定信号再现中的哪些元素属于哪个相应区。
可以将计算机处理器硬件配置成重复此过程以创建处于多个质量水平的运动映射。
图16是图示出根据本文中的实施例的从较低质量水平至较高质量水平的运动映射的上采样的示例性图示。
如所示,运动映射1515包括指示元件1510-1、1510-2和1510-3全部属于区Z0的设置,因为(尽管显示元素捕获与对象565的一部分(诸如移动对象)相关联的设置)大部分显示元素与区0相关联(诸如静止白底)。元素1510-4属于区Z0且被分配最终符号(诸如“Z0F”)以便指示处于任何质量水平的元素1510-4的所有亚元素(“子元素”)将被自动地分配给区Z0。在如所示的某些实例中,可以为相应显示元素分配最终符号值(诸如Z0F),如果已知从父元素导出的每个子元素(处于对应的较高分辨率)也被分配到与其父元素相同的区的话。在这种实例中,最终符号区Z0F向再生相应图像的解码器指示信号中的每个对应元素和亚元素被分配到区Z0。最终符号连同非最终符号一起的使用减少了再生处于较高质量水平的区信息所需的数据量,因为当接收到最终符号时,知道所有子元素、亚子元素等属于给定区,而在以后续较高质量水平重构运动区映射时没有对关于运动区映射的该部分的附加残余数据的任何需要。非最终符号(诸如Z0)指示并非相应父元素的每个子元素、亚子元素等都被包括在该区中。
当上采样至下一较高质量水平时,计算机处理器硬件最初为每个子元素分配与父元素相同的值。例如,计算机处理器硬件产生运动映射的初步再现1515-1P以指示从父显示元素1510-1导出的子显示元素1515-1 1515-2 1515-5和1515-6全部被分配适当的符号以指示其存在于区Z0中。计算机处理器硬件产生运动映射的初步再现1515-1P以指示从显示元素1510-2导出的子显示元素1515-3、1515-4、1515-7和1515-8全部被分配适当的符号以指示其存在于区Z0中。计算机处理器硬件产生运动映射的初步再现1515-1P以指示从显示元素1510-3导出的子显示元素1515-9、1515-10、1515-13和1515-14全部被分配适当的符号以指示其存在于区Z0中。计算机处理器硬件产生运动映射的初步再现1515-1P以指示从显示元素1510-4导出的子显示元素 1515-11 1515-12、1515-15和1515-16全部被分配适当的符号(“最终符号”)以指示其存在于区Z0中且所有其子显示元素都将存在于区Z0中。
以如先前所讨论的方式,计算机处理器硬件对运动映射再现1515-1P应用残余数据区信息1120-2以产生如图16中所示的运动映射再现1515-1ADJ。在本示例性实施例中,残余数据区信息1120-2调整运动映射1515-1ADJ中的区信息,使得显示元素1515-5和1515-6不属于区Z0,而是替代地属于区Z1,因为大部分显示元素1515-5和1515-6与移动对象565位于同处。残余数据区信息1120-2还调整运动1515-1ADJ中的区信息,使得显示元素1515-3、1515-4、1515-8、1515-13和1515-14被分配最终符号(“Z0F”),以便指示不仅其本身、而且所有其子元素也属于区Z0。
图17是图示出根据本文中的实施例的从较低质量水平至较高质量水平的运动映射的上采样的示例性图示。
以与先前所讨论的类似的方式,计算机处理器硬件将运动映射再现1515-1ADJ上采样成运动映射再现1515-2P。其后,计算机处理器硬件对运动映射再现1515-2P应用残余数据区信息1120-3以产生运动映射再现1515-2ADJ。在如所示的某些实例中,可以为相应显示元素分配最终符号值(诸如Z0F或Z1F),如果已知从父元素导出的每个子元素(处于对应的较高分辨率)也被分配到与父元素相同的区的话。
因此,本文中的实施例可以包括接收表示运动区映射的元素平面。平面中的元素指定与信号再现中的对应元素相关联的属性。平面中的每个元素的相应设置可以包括区数据(诸如,符号Z0、Z0F、Z1、Z1F等),其指定信号再现中的对应显示元素是包括在相应区中还是未包括在任何区中。
本文中的实施例还可以包括根据基于层的分级解码方法来产生元素平面(诸如运动区映射),其中,基于层的分级解码方法可以包括:对接收到的区信息进行解码以产生处于第一质量水平的平面(运动区映射)的再现。至少部分地基于处于第一质量水平的元素的平面(运动区映射)的再现,计算机处理器硬件导出处于第二质量水平的元素的平面(运动区映射)的初步再现,该第二质量水平具有高于第一质量水平的分辨率。
可以将计算机处理器硬件配置成获得一组调整值,诸如与处于第二质量水平的元素的平面(运动区映射)的初步再现相关联的残余数据区信息1120-2。计算机处理器硬件对处于第二质量水平的元素的平面的初步再现(运动映射1515-1P)应用调整值(残余数据区信息1120-2)以产生处于第二质量水平的元素的平面的经调整的再现(运动区映射1515-1ADJ)。计算机处理器硬件利用处于第二质量水平的元素的平面的经调整的再现来识别属于区的信号的再现的多个元素。
回想到经由运动区映射,计算机处理器硬件识别每个显示元素存在于哪个区。基于显示元素存在于哪个区,计算机处理器硬件获得关于运动的描述性信息的对应集合,其指定将应用于显示元素坐标以便识别将至少部分地用来生成针对该显示元素的设置的对应参考图像中的位置的操作。
在一个实施例中,在产生针对对应质量水平的运动映射的经调整的再现时可不修改运动区映射再现1515-1P中的某些值(诸如最终符号值)。例如,可以将残余数据区信息1120-2中的调整值应用于少于处于对应质量水平的运动映射的初步再现中的所有元素以产生运动映射的经调整的再现1515-1ADJ。
在一个实施例中,计算机处理器硬件产生处于第一质量水平的元素的平面(运动区映射)。该区信息可以指示存在于平面的第一部分中的每个元素被分配最终符号,诸如Z0F。区信息可以指示存在于平面(运动映射)的第二部分中的每个元素被分配非最终符号,诸如值Z0。最终符号Z0F的分配指示从第一部分中的相应父元素(其被分配最终符号)导出的每个子元素继承了与相应父元素相同的区设置。因此,如果父元素被分配Z0F,则从父元素导出的每个子元素存在于区Z0中且被分配最终符号值Z0F以指示所有其亚子元素也存在于区Z0中。
因此,本文中的实施例可以包括:产生处于第一质量水平的元素的平面;为存在于平面的第一部分中的每个元素分配最终符号;为存在于平面的第二部分中的每个元素分配非最终符号;其中,最终符号的分配指示从第一部分中的相应父元素导出的每个子元素继承与相应父元素相同的区设置,而不需要任何调整值;以及其中,非最终符号的分配指示从第二部分中的相应父元素导出的每个子元素继承了与相应父元素相同的区设置,但是将借助于适当的调整值来调整此类初步(继承)设置。
图18是图示出根据本文中的实施例的不同运动区的示例性图示。
如所示,运动区映射1810指示存在于运动区Z1中的元素的一部分(区域)。运动映射1810指示存在于运动区Z2中的元素的一部分(区域)。运动映射1810指示存在于运动区Z3中的元素的一部分(区域)。存在于该区的区域外的那些元素被认为存在于非运动区NMZ中(先前也定义为“残余运动区”,意味着其表示留在运动区外的内容,并且不能借助于运动补偿来适当地预测)。在一个实施例中,为在区外的一个或多个元素分配值以指示NMZ区域中的此类元素在相应图像(信号)的生成期间未被基于充当针对运动区中的元素的参考的参考信号中的元素群组的设置而再生。
另外的实施例
如先前所讨论的,可以将计算机处理器硬件配置成执行如本文所述的方法中的任何一个。鉴于以上说明书,本文中的另外的实施例包括:
实施例1包括一种用于对针对给定元素集合的每个元素的辅助信息进行解码的方法,所述元素集合对应于具有一个或多个维度的信号的样本,所述方法包括:a. 接收至少一个辅助区以及描述性辅助信息的至少一个集合,所述辅助区指示所述元素集合中的元素子集,所述元素子集属于所述辅助区,描述性辅助信息中的一个或多个所述集合中的每一个对应于辅助区,b. 至少部分地基于辅助区信息和对应于辅助区的描述性辅助信息,计算针对给定样本的每个元素的辅助信息。
实施例2包括根据实施例1所述的方法,其中,描述性辅助信息对应于辅助区的关于运动的信息,并且处理辅助信息,以便生成经运动补偿的图像,所述方法包括:a. 接收至少一个运动区,所述运动区指示经运动补偿的图像的元素的子集以及关于运动的描述性信息的至少一个集合,所述元素子集属于所述运动区,b. 接收至少第一参考图像,c. 通过使用在阶段(b)期间接收到的第一图像、在阶段(a)期间接收到的运动区和在阶段(a)期间接收到的关于运动的描述性信息而计算第二图像,特别是经运动补偿的图像。
实施例3包括根据实施例2所述的方法,其中,第一运动区对应于元素的子集,其以与对应于第二运动区的元素数目不同的元素数目为特征,并且运动区中的至少一个包括对应于信号的非矩形和/或非相邻部分的元素。
实施例4包括根据实施例2所述的方法,其中,运动区的运动包括平移,并且其中,关于所述运动区的运动的描述性信息包括对应于偏移的参数,所述偏移指示将应用于每个坐标、在阶段(c)期间应用于对应于所述运动区的元素的调整。
实施例5包括根据实施例2所述的方法,其中,运动区的运动包括旋转,并且其中,关于所述运动区的运动的描述性信息包括对应于旋转的一个或多个参数,其定义将在阶段(c)期间应用于所述运动区的旋转的方向和量值。
实施例6包括根据实施例2所述的方法,其中,运动区的运动包括扩缩(即,缩放或去缩放),并且其中,关于所述运动区的运动的描述性信息包括对应于扩缩的一个或多个参数,其定义将在阶段(c)期间应用于所述运动区的扩缩的量值。
实施例7包括根据实施例2所述的方法,其中,对应于运动区的描述性信息包括对确定对应于所述运动区的经运动补偿的图像的元素的阶段(c)期间的计算有贡献的另外的参数。
实施例8包括根据实施例2所述的方法,其中,经运动补偿的图像具有与所述参考图像不同的分辨率。
实施例9包括根据实施例2所述的方法,其中,如果经运动补偿的图像的一个或多个元素对应于被分配默认值的参考图像的一部分或者其对应于在参考图像外的区域,则为其分配默认值。
实施例10包括根据实施例2所述的方法,其中,在阶段(c)期间,经运动补偿的图像的计算包括用分数进行的计算(例如,不限于,浮点计算或具有高精度定点数的计算),以便用任意的精度来描述移动并独立于参考图像的实际分辨率而访问参考图像的大体上任何位置。
实施例11包括根据实施例10所述的方法,其中,通过执行参考图像的元素子集的加权平均来计算经运动补偿的图像的至少给定元素的值,其中,加权平均的权重取决于经运动补偿的图像中的给定元素的坐标和所述给定元素所属的一个或多个运动区的运动的描述性信息。
实施例12包括根据实施例2所述的方法,其中,对应于至少一个运动区的经运动补偿的图像的元素被分配并非基于参考图像的元素的值的值。
实施例13包括根据实施例2所述的方法,其中,运动区被编码为对应于要计算的给定经运动补偿的图像的单个辅助图像,其中,分配给辅助图像的元素的值对应于被关联至所述给定经运动补偿的图像的对应元素的运动区。
实施例14包括根据实施例13所述的方法,其中,用基于层的分级方法对所述单个辅助图像进行解码,所述方法包括:对处于第一质量水平的单个辅助图像的再现进行解码;至少部分地基于处于第一质量水平的所述单个辅助图像,产生处于第二质量水平的单个辅助图像的初步再现,第二质量水平高于第一质量水平;对调整值的集合进行解码;将处于第二质量水平的单个辅助图像的所述初步再现与所述调整值组合,产生处于第二质量水平的单个辅助图像的再现。
实施例15包括根据实施例14所述的方法,其中,仅针对处于第二质量水平的单个辅助图像的初步再现的元素的子集指定调整值,所述方法包括:对处于第一质量水平的单个辅助图像进行解码,其中,处于第一质量水平的所述单个辅助图像的元素被分配属于第一符号集合(“最终符号”)的符号或属于第二符号集合(“非最终化符号”)的符号;生成处于第二(较高)质量水平的单个辅助图像的初步再现,其中,与处于第一质量水平的单个辅助图像的相同元素相对应的处于第二质量水平的所述初步再现的元素被分配与处于第一质量水平的单个辅助图像的所述元素相同的符号;仅针对被分配属于第二符号集合的符号的处于第二质量水平的单个辅助图像的初步再现的元素,基于接收到的调整数据来修改所分配的符号。
实施例16包括根据实施例2所述的方法,其中,借助于对应于几何形状的一个或多个参数来定义至少一个运动区。
实施例17包括根据实施例2所述的方法,其中,将重构的经运动补偿的图像与接收到的残余数据组合,生成目标图像。
实施例18包括根据实施例2所述的方法,其中,将多个经运动补偿的图像组合,所述经运动补偿的图像中的每一个是基于不同的参考图像,生成单个预测图像。
实施例19包括根据实施例2所述的方法,其中,向多于一个运动区分配经运动补偿的图像的至少一个元素。
实施例22包括用以再生信号的再现的方法,所述方法包括:
经由计算机处理器硬件:
接收指定属于区的信号的再现的多个元素的区信息;接收与所述区相关联的运动信息,所述运动信息被编码成指示所述区中的多个元素中的每一个所关于的参考信号中的对应元素;以及针对所述区中的每个相应元素,利用运动信息来导出参考信号中的对应位置值,所述对应位置值指示相应元素所关于的参考信号中的位置。
实施例23包括如在实施例22中的方法,还包括:针对所述区中的每个相应元素:利用针对相应元素的位置值来选择参考信号中的元素的对应群组;以及计算针对相应元素的设置,针对相应元素的设置是基于对应群组中的元素的设置而导出的。
实施例24包括如在实施例23中的方法,其中,运动信息包括一组系数值;并且其中,利用运动信息来导出对应位置值包括:
获得针对相应元素的坐标,所述坐标指定信号再现中的相应元素的位置;以及
执行相应元素的坐标与系数值的线性组合以产生对应位置信息。
实施例25包括如在实施例24中的方法,其中,对应位置信息指定相应元素所关于的参考信号中的坐标。
实施例26包括如在实施例22中的方法,还包括:选择所述区中的第一元素;利用运动信息来计算参考信号中的第一坐标位置;利用第一坐标位置作为用以识别参考信号中的元素的第一集合的基础;获得第一集合中的元素的设置;基于第一集合中的元素的设置来计算针对所述区中的第一元素的设置;选择所述区中的第二元素;利用运动信息来计算参考信号中的第二坐标位置;利用第二坐标位置作为用以识别参考信号中的元素的第二集合的基础;获得第二集合中的元素的设置;以及基于第二集合中的元素的设置而计算针对所述区中的第二元素的设置。
实施例27包括如实施例22中的方法,其中,所述参考信号是包括多个显示元素的参考图像;并且其中,信号的再现是二次图像,所述二次图像包括多个显示元素,运动信息指定将被用来再生针对所述区中的显示元素的设置的参考图像中的显示元素的群组。
实施例28包括如在实施例27中的方法,其中,二次图像的所述区中的显示元素表示二次图像所捕获的对象的再现;其中,参考图像中的显示元素的群组表示参考图像中的对象的再现;并且其中,运动信息捕获对象从参考图像中的位置到二次图像中的位置的运动。
实施例29包括如在实施例28中的方法,其中,所述运动信息对应于与对象的移动相关联的运动参数,所述参数选自包括以下各项的群组:i)二次图像中的对象的再现相对于在参考图像中的对象的再现的平移,ii)二次图像中的对象的再现相对于在参考图像中的对象的再现的旋转,以及iii)二次图像中的对象的再现相对于在参考图像中的对象的再现的扩缩。
实施例30包括如在实施例29中的方法,其中,所述运动信息对应于与对象的移动相关联的运动参数,所述参数选自还包括以下各项的群组:iv)二次图像中的对象的再现相对于在参考图像中的对象的再现的剪切,v)二次图像中的对象的再现相对于在参考图像中的对象的再现的透视变换。
实施例31包括如实施例22中的方法,其中,信号的再现是经运动补偿的图像;并且其中,经运动补偿的图像中的区包括显示元素的多个相邻区域,其包括第一区域显示元素和显示元素的第二区域,显示元素的第一区域是相对于显示元素的第二区域非相邻的。
实施例32包括如实施例22中的方法,其中,信号的再现是经运动补偿的图像;并且其中,如元素的区所表示的经运动补偿的图像的区域是非矩形形状。
实施例33包括如在实施例22中的方法,其中,信号再现的分辨率大体上不同于参考信号的分辨率。
实施例34包括如在实施例22中的方法,其中,信号再现的分辨率与诸如参考信号的分辨率大体上相同。
实施例35包括如在实施例22中的方法,其中,运动信息包括偏移调整信息;并且其中,利用运动信息来导出针对相应元素的对应位置值包括:i)获得针对相应元素的坐标,所述坐标指定信号再现中的相应元素的位置;以及ii)对所述坐标应用偏移调整信息以产生针对相应元素的对应位置信息,所述对应位置信息指示相对于所述坐标偏移了如由偏移调整信息指定的量的位置。
实施例36包括如在实施例22中的方法,其中,运动信息包括旋转调整信息;并且其中,利用运动信息来导出针对相应元素的对应位置值包括:i)获得针对相应元素的坐标,所述坐标指定信号再现中的相应元素的位置;以及ii)对所述坐标应用旋转调整信息以产生针对相应元素的对应位置信息,所述对应位置信息捕获按如由旋转调整信息指定的量对所述坐标的旋转。
实施例37包括如实施例22中的方法,其中,运动信息指示如何从参考信号中的显示元素的对应分组对信号再现的所述区中的多个元素进行扩缩。
实施例38包括如在实施例22中的方法,其中,当运动信息指示位于参考信号外的对应元素时或者当运动信息被分配默认值时,为位置值分配默认值。
实施例39包括如在实施例22中的方法,其中,对应位置值具有足够高的分辨率以指定参考信号中的亚元素准确度。
实施例40包括如在实施例22中的方法,还包括:选择所述区中的第一元素;利用运动信息来计算针对第一元素的参考信号中的位置;利用所述位置作为用以识别参考信号中的元素的第一集合的基础;处理参考信号以获得第一集合中的元素的设置;对第一集合中的元素的设置应用加权值,所述加权值的量值取决于第一集合中的元素到针对第一元素的参考信号中的位置的邻近度;以及
基于第一集合中的元素的加权设置来计算针对所述区中的第一元素的设置。
实施例41包括如在实施例22中的方法,其中,所述区信息包括定义所述区的形状的几何参数。
实施例42包括如在实施例22中的方法,还包括:以如由区信息和运动信息指定的方式至少部分地基于参考信号来再生信号的再现;接收指定将应用于所再生的信号再现的调整的重构数据;以及如由重构数据指定的对所再生的信号再现中的显示元素应用调整以细化所再生的信号再现。
实施例43包括如在实施例22中的方法,其中,信号的再现是第一图像,并且其中,参考信号是至少部分地从其导出第一图像的第一参考图像,其中,所述区信息是第一区信息,其中,所述运动信息是第一运动信息,所述方法还包括:接收第二区信息和第二运动信息,其指定如何基于第二参考图像而再生第二图像;根据第二区信息和第二运动信息,至少部分地基于第二参考图像而再生第二图像的再现;以及使用第一图像和第二图像作为参考图像来生成第三图像的再现。
实施例44包括如在实施例22中的方法,其中,所述区信息是第一区信息,并且其中,所述区是第一区,第一区信息指示给定元素存在于第一区中,所述方法还包括:接收与信号的再现相关联的第二区信息,所述第二区信息指示所述给定元素存在于第二区中。
实施例45包括如在实施例22中的方法,其中,所述运动信息指示信号的再现中的特定元素属于运动区,所述特定元素被分配并非基于参考信号中的元素的群组的设置的值。
实施例46包括如在实施例22中的方法,其中,接收区信息包括接收元素的平面,所述平面中的元素指定与信号的再现中的对应元素相关联的属性,平面中的每个元素的相应设置包括区数据,其指定信号的再现中的对应显示元素是否被包括在所述区中。
实施例47包括如在实施例46中的方法,还包括:根据基于层的分级解码方法来产生元素的平面,基于层的分级解码方法包括:
对处于第一质量水平的元素平面的再现进行解码;
至少部分地基于处于第一质量水平的元素平面的再现,导出处于第二质量水平的元素平面的初步再现,所述第二质量水平具有高于第一质量水平的分辨率;
获得与处于第二质量水平的元素平面的初步再现相关联的调整值的集合;
将调整值应用于处于第二质量水平的元素平面的初步再现,以产生处于第二质量水平的元素平面的经调整的再现;以及
利用处于第二质量水平的元素平面的经调整的再现以识别属于所述区的信号再现的多个元素。
实施例48包括如在实施例47中的方法,还包括:产生处于第一质量水平的元素平面;为存在于所述平面的第一部分中的每个元素分配最终符号;为存在于所述平面的第二部分中的每个元素分配非最终符号;并且其中,最终符号的分配指示从第一部分中的相应父元素导出的每个子元素继承了与相应父元素相同的区设置。
实施例49包括一种用以再生针对信号再现的每个元素的信息的方法,所述方法包括:
经由计算机处理器硬件:
接收指定属于区的信号的再现的多个元素的区信息;接收与所述区相关联的描述性信息,所述描述性信息被编码成指示关于所述区中的多个元素的信息;以及针对所述区中的每个相应元素,利用描述性信息来导出对应值,所述对应值指示关于相应元素的信息。
再次应注意的是,本文中的技术非常适合于分级系统中的编码和解码。然而,应注意的是本文中的实施例不限于在此类应用中使用,并且本文所讨论的技术也非常适合于其它应用。
基于本文所阐述的描述,已阐述了许多特定细节以提供要求保护的主题的透彻理解。然而,本领域的技术人员将理解的是可在没有这些特定细节的情况下实践要求保护的主题。在其它实例中,未详细地描述普通技术人员将知道的方法、设备、系统等以免使要求保护的主题晦涩难懂。已经在对存储于计算系统存储器(诸如计算机存储器)内的数据位或二进制数字信号的操作的算法或符号表示方面呈现了详细描述的某些部分。这些算法描述或表示是数据处理领域中的技术人员用来向本领域的其它人传达其工作的实质的技术的示例。如本文所述的算法一般地被视为导致期望结果的操作或类似处理的自相一致序列。在本上下文中,操作或处理涉及到物理量的物理操纵。通常,但不一定,此类数量可采取能够被存储、传输、组合、比较或以其它方式操纵的电或磁信号的形式。主要由于一般使用的原因,将此类信号称为位、数据、值、元素、符号、字符、项、数、数字等有时是方便的。然而,应理解的是所有这些和类似术语将与适当的物理量相关联且仅仅是方便的标签。除非具体地另外说明,如从以下讨论显而易见的,应认识到的是遍及本说明书,利用诸如“处理”、“计算”、“运算”、“确定”等术语的讨论指的是诸如计算机或类似电子计算设备之类的计算平台的动作或过程,其对表示为存储器、寄存器或计算平台的其它信息存储设备、传输设备或显示设备内的物理电子或磁性量的数据进行操纵或变换。
虽然已特别地示出并参考其优选实施例描述了本文中的实施例,但本领域的技术人员应理解的是在不脱离由所附权利要求限定的本申请的精神和范围的情况下可对其进行形式和细节方面的各种修改。此类变形意图被本申请的范围涵盖。正因为这样,本申请的实施例的前述描述并不意图是限制性的。而是,对本发明的任何限制在以下权利要求中提出。

Claims (49)

1.一种用于对针对给定元素集合的每个元素的描述性信息进行解码的方法,所述元素集合对应于具有一个或多个维度的信号的样本,所述方法包括:
接收指定属于区的信号的再现的多个元素的区信息;
接收与所述区相关联的描述性信息,所述描述性信息被编码成指示关于所述区中的多个元素的信息;以及
针对所述区中的每个相应元素,利用描述性信息来导出对应值,所述对应值指示关于相应元素的信息。
2.根据权利要求1所述的方法,其中,描述性信息对应于关于各区的运动的信息,并且描述性信息被处理以便产生经运动补偿的图像,所述方法包括:
a. 接收至少一个运动区,所述运动区指示经运动补偿的图像的元素的子集以及关于运动的描述性信息的至少一个集合,所述元素子集属于所述运动区,
b. 接收至少第一参考图像,
c. 通过使用在阶段(b)期间接收到的第一图像、在阶段(a)期间接收到的运动区和在阶段(a)期间接收到的关于运动的描述性信息而计算第二图像,特别是经运动补偿的图像。
3.根据权利要求2所述的方法,其中,第一运动区对应于元素的子集,其以与对应于第二运动区的元素数目不同的元素数目为特征,并且运动区中的至少一个包括对应于信号的非矩形和/或非相邻部分的元素。
4.根据权利要求2所述的方法,其中,运动区的运动包括平移,并且其中,关于所述运动区的运动的描述性信息包括对应于偏移的参数,所述偏移指示将应用于每个坐标、在阶段(c)期间应用于对应于所述运动区的元素的调整。
5.根据权利要求2所述的方法,其中,运动区的运动包括旋转,并且其中,关于所述运动区的运动的描述性信息包括对应于旋转的一个或多个参数,定义将在阶段(c)期间应用于所述运动区的旋转的方向和量值。
6.根据权利要求2所述的方法,其中,运动区的运动包括扩缩(即,缩放或去缩放),并且其中,关于所述运动区的运动的描述性信息包括对应于扩缩的一个或多个参数,定义将在阶段(c)期间应用于所述运动区的扩缩的量值。
7.根据权利要求2所述的方法,其中,对应于运动区的描述性信息包括对确定对应于所述运动区的经运动补偿的图像的元素的阶段(c)期间的计算有贡献的另外的参数。
8.根据权利要求2所述的方法,其中,所述经运动补偿的图像具有与所述参考图像不同的分辨率。
9.根据权利要求2所述的方法,其中,如果经运动补偿的图像的一个或多个元素对应于被分配默认值的参考图像的一部分或者如果其对应于在参考图像外的区域,则为其分配默认值。
10.根据权利要求2所述的方法,其中,在阶段(c)期间,经运动补偿的图像的计算包括用分数进行的计算(例如,不限于,浮点计算或具有高精度定点数的计算),以便用任意的精度来描述移动并独立于参考图像的实际分辨率而访问大体上参考图像的任何位置。
11.根据权利要求10所述的方法,其中,通过执行参考图像的元素子集的加权平均来计算经运动补偿的图像的至少给定元素的值,其中,加权平均的权重取决于经运动补偿的图像中的给定元素的坐标和所述给定元素所属的一个或多个运动区的运动的描述性信息。
12.根据权利要求2所述的方法,其中,对应于至少一个区的经运动补偿的图像的元素被分配并非基于参考图像的元素的值的值。
13.根据权利要求2所述的方法,其中,运动区被编码为对应于要计算的给定经运动补偿的图像的单个辅助图像,其中,分配给辅助图像的元素的值对应于被关联至所述给定经运动补偿的图像的对应元素的运动区。
14.根据权利要求13所述的方法,其中,用基于层的分级方法对所述单个辅助图像进行解码,所述方法包括:
对处于第一质量水平的单个辅助图像的再现进行解码;
至少部分地基于处于第一质量水平的所述单个辅助图像,产生处于第二质量水平的单个辅助图像的初步再现,第二质量水平高于第一质量水平;
对调整值的集合进行解码;
将处于第二质量水平的单个辅助图像的所述初步再现与所述调整值组合,产生处于第二质量水平的单个辅助图像的再现。
15.根据权利要求14所述的方法,其中,仅针对处于第二质量水平的单个辅助图像的初步再现的元素的子集指定调整值,所述方法包括:
对处于第一质量水平的单个辅助图像进行解码,其中,处于第一质量水平的所述单个辅助图像的元素被分配属于第一组符号(“最终符号”)的符号或属于第二组符号(“非最终化符号”)的符号;
生成处于第二(较高)质量水平的单个辅助图像的初步再现,其中,与处于第一质量水平的单个辅助图像的相同元素相对应的处于第二质量水平的所述初步再现的元素被分配与处于第一质量水平的单个辅助图像的所述元素相同的符号;
仅针对被分配属于第二组符号的符号的处于第二质量水平的单个辅助图像的初步再现的元素,基于接收到的调整数据来修改所分配的符号。
16.根据权利要求2所述的方法,其中,借助于对应于几何形状的一个或多个参数来定义至少一个运动区。
17.根据权利要求2所述的方法,其中,将重构的经运动补偿的图像与接收的残余数据组合,生成目标图像。
18.根据权利要求2所述的方法,其中,将多个经运动补偿的图像组合,所述多个经运动补偿的图像中的每一个是基于不同的参考图像,生成单个预测图像。
19.根据权利要求2所述的方法,其中,经运动补偿的图像的至少一个元素被分配给多于一个运动区。
20.一种可直接加载到数字处理器的内部存储器中的计算机程序,包括用于当所述程序在处理器上运行时执行权利要求1的各阶段的软件代码部分。
21.一种实现根据权利要求1所述的方法并执行根据权利要求1所述的计算机程序的解码器处理硬件。
22.一种用以再生信号的再现的方法,所述方法包括:
经由计算机处理器硬件:
接收指定属于区的信号的再现的多个元素的区信息;
接收与所述区相关联的运动信息,所述运动信息被编码成指示所述区中的多个元素中的每一个所关于的参考信号中的对应元素;以及
针对所述区中的每个相应元素,利用运动信息来导出参考信号中的对应位置值,所述对应位置值指示相应元素所关于的参考信号中的位置。
23.如权利要求22所述的方法,还包括:
针对所述区中的每个相应元素:
利用针对相应元素的位置值来选择参考信号中的元素的对应群组;以及
计算针对相应元素的设置,针对相应元素的设置是基于对应群组中的元素的设置而导出的。
24.如权利要求23所述的方法,其中,运动信息包括一组系数值;以及
其中,利用运动信息来导出对应位置值包括:
获得针对相应元素的坐标,所述坐标指定信号再现中的相应元素的位置;以及
执行相应元素的坐标与系数值的线性组合以产生对应的位置信息。
25.如权利要求24所述的方法,其中,对应位置信息指定相应元素所关于的参考信号中的坐标。
26.如权利要求22所述的方法,还包括:
选择所述区中的第一元素;
利用运动信息来计算参考信号中的第一坐标位置;
利用第一坐标位置作为用以识别参考信号中的元素的第一集合的基础;
获得第一集合中的元素的设置;
基于第一集合中的元素的设置来计算针对所述区中的第一元素的设置;
选择所述区中的第二元素;
利用运动信息来计算参考信号中的第二坐标位置;
利用第二坐标位置作为用以识别参考信号中的元素的第二集合的基础;
获得第二集合中的元素的设置;以及
基于第二集合中的元素的设置而计算针对所述区中的第二元素的设置。
27.如权利要求22所述的方法,其中,所述参考信号是包括多个显示元素的参考图像;以及
其中,信号的再现是二次图像,所述二次图像包括多个显示元素,运动信息指定将被用来再生针对所述区中的显示元素的设置的参考图像中的显示元素的群组。
28.如权利要求27所述的方法,其中,二次图像的所述区中的显示元素表示二次图像所捕获的对象的再现;
其中,参考图像中的显示元素的群组表示参考图像中的对象的再现;以及
其中,所述运动信息捕获对象从参考图像中的位置到二次图像中的位置的运动。
29.如权利要求28所述的方法,其中,所述运动信息对应于与对象的移动相关联的运动参数,所述参数选自包括以下各项的群组:
i)二次图像中的对象的再现相对于在参考图像中的对象的再现的平移,
ii)二次图像中的对象的再现相对于在参考图像中的对象的再现的旋转,以及
iii)二次图像中的对象的再现相对于在参考图像中的对象的再现的扩缩。
30.如权利要求29所述的方法,其中,所述运动信息对应于与对象的移动相关联的运动参数,所述参数选自还包括以下各项的群组:
iv)二次图像中的对象的再现相对于在参考图像中的对象的再现的剪切,
v)二次图像中的对象的再现相对于在参考图像中的对象的再现的透射变换。
31.如权利要求22所述的方法,其中,信号的再现是经运动补偿的图像;以及
其中,经运动补偿的图像中的所述区包括显示元素的多个相邻区域,其包括第一区域显示元素和显示元素的第二区域,显示元素的第一区域相对于显示元素的第二区域而言是非相邻的。
32.如权利要求22所述的方法,其中,信号的再现是经运动补偿的图像;以及
其中,如元素的所述区所表示的经运动补偿的图像的区域是非矩形形状。
33.如权利要求22所述的方法,其中,信号再现的分辨率大体上不同于参考信号的分辨率。
34.如权利要求22所述的方法,其中,信号再现的分辨率与诸如参考信号的分辨率大体上相同。
35.如权利要求22所述的方法,其中,所述运动信息包括偏移调整信息;以及
其中,利用运动信息来导出针对相应元素的对应位置值包括:i)获得针对相应元素的坐标,所述坐标指定信号再现中的相应元素的位置;以及ii)对所述坐标应用偏移调整信息以产生针对相应元素的对应位置信息,所述对应位置信息指示相对于所述坐标偏移了偏移调整信息指定的量的位置。
36.如权利要求22所述的方法,其中,所述运动信息包括旋转调整信息;以及
其中,利用运动信息来导出针对相应元素的对应位置值包括:i)获得针对相应元素的坐标,所述坐标指定信号再现中的相应元素的位置;以及ii)对所述坐标应用旋转调整信息以产生针对相应元素的对应位置信息,所述对应位置信息捕获按如由旋转调整信息指定的量对所述坐标的旋转。
37.如权利要求22所述的方法,其中,所述运动信息指示如何从参考信号中的显示元素的对应分组对信号再现的所述区中的多个元素进行扩缩。
38.如权利要求22所述的方法,其中,当运动信息指示位于参考信号外的对应元素时或者当运动信息被分配默认值时,为位置值分配默认值。
39.如权利要求22所述的方法,其中,所述对应位置值具有足够高的分辨率以指定参考信号中的亚元素准确度。
40.如权利要求22所述的方法,还包括:
选择所述区中的第一元素;
利用运动信息来计算针对第一元素的参考信号中的位置;
利用所述位置作为用以识别参考信号中的元素的第一集合的基础;
处理参考信号以获得第一集合中的元素的设置;
对第一集合中的元素的设置应用加权值,所述加权值的量值取决于第一集合中的元素与针对第一元素的参考信号中的位置的邻近度;以及
基于第一集合中的元素的加权设置来计算针对所述区中的第一元素的设置。
41.如权利要求22所述的方法,其中,所述区信息包括定义所述区的形状的几何参数。
42.如权利要求22所述的方法,还包括:
以如由区信息和运动信息指定的方式至少部分地基于参考信号来再生信号的再现;
接收指定将应用于所再生的信号再现的调整的重构数据;以及
如由重构数据指定的对所再生的信号再现中的显示元素应用所述调整以细化所再生的信号再现。
43.如权利要求22所述的方法,其中,信号的再现是第一图像,并且其中,所述参考信号是至少部分地从其导出第一图像的第一参考图像,其中,所述区信息是第一区信息,其中,所述运动信息是第一运动信息,所述方法还包括:
接收第二区信息和第二运动信息,其指定如何基于第二参考图像而再生第二图像;
根据第二区信息和第二运动信息,至少部分地基于第二参考图像而再生第二图像的再现;以及
使用第一图像和第二图像作为参考图像来生成第三图像的再现。
44.如权利要求22所述的方法,其中,所述区信息是第一区信息,并且其中,所述区是第一区,第一区信息指示给定元素存在于第一区中,所述方法还包括:
接收与信号的再现相关联的第二区信息,所述第二区信息指示所述给定元素存在于第二区中。
45.如权利要求22所述的方法,其中,所述运动信息指示信号的再现中的特定元素属于运动区,所述特定元素被分配并非基于参考信号中的元素群组的设置的值。
46.如权利要求22所述的方法,其中,接收区信息包括接收元素的平面,所述平面中的元素指定与信号的再现中的对应元素相关联的属性,平面中的每个元素的相应设置包括区数据,所述区数据指定信号的再现中的对应显示元素是否被包括在所述区中。
47.如权利要求46所述的方法,还包括:
根据基于层的分级解码方法来产生元素的平面,基于层的分级解码方法包括:
对处于第一质量水平的元素平面的再现进行解码;
至少部分地基于处于第一质量水平的元素平面的再现,导出处于第二质量水平的元素平面的初步再现,所述第二质量水平具有高于第一质量水平的分辨率;
获得与处于第二质量水平的元素平面的初步再现相关联的调整值的集合;
对处于第二质量水平的元素平面的初步再现应用调整值,以产生处于第二质量水平的元素平面的经调整的再现;以及
利用处于第二质量水平的元素平面的经调整再现以识别属于所述区的信号再现的多个元素。
48.如权利要求47所述的方法,还包括:
产生处于第一质量水平的元素平面;
为存在于所述平面的第一部分中的每个元素分配最终符号;
为存在于所述平面的第二部分中的每个元素分配非最终符号;并且
其中,最终符号的分配指示从第一部分中的相应父元素导出的每个子元素继承了与相应父元素相同的区设置。
49.一种用以再生针对信号再现的每个元素的信息的方法,所述方法包括:
经由计算机处理器硬件:
接收指定属于区的信号的再现的多个元素的区信息;
接收与所述区相关联的描述性信息,所述描述性信息被编码成指示关于所述区中的多个元素的信息;以及
针对所述区中的每个相应元素,利用描述性信息来导出对应值,所述对应值指示关于相应元素的信息。
CN201380037590.9A 2012-05-14 2013-05-14 通过运动区对多维信号中的运动信息以及通过辅助区对辅助信息的估计、编码和解码 Pending CN104620580A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201261646797P 2012-05-14 2012-05-14
US61/646797 2012-05-14
US201261647426P 2012-05-15 2012-05-15
US61/647426 2012-05-15
PCT/EP2013/059885 WO2013171183A1 (en) 2012-05-14 2013-05-14 Estimation, encoding and decoding of motion information in multidimensional signals through motion zones, and auxiliary information through auxiliary zones

Publications (1)

Publication Number Publication Date
CN104620580A true CN104620580A (zh) 2015-05-13

Family

ID=48430778

Family Applications (7)

Application Number Title Priority Date Filing Date
CN201380037649.4A Pending CN104620583A (zh) 2012-05-14 2013-05-13 基于支持信息的残差数据的编码和重构
CN201380037642.2A Active CN104641643B (zh) 2012-05-14 2013-05-13 在分层层级中信号编码、解码和重构期间残差数据分解的方法、存储硬件及系统
CN201380037650.7A Pending CN104641644A (zh) 2012-05-14 2013-05-13 基于沿时间的样本序列的混合的编码和解码
CN201380037629.7A Active CN104620582B (zh) 2012-05-14 2013-05-14 利用连续坐标系的运动补偿和运动估计
CN201380037604.7A Pending CN104620581A (zh) 2012-05-14 2013-05-14 分层时间层级中的基于时间的和/或多维信号的解码和重构
CN201911290521.4A Active CN110944210B (zh) 2012-05-14 2013-05-14 利用连续坐标系的运动补偿和运动估计系统
CN201380037590.9A Pending CN104620580A (zh) 2012-05-14 2013-05-14 通过运动区对多维信号中的运动信息以及通过辅助区对辅助信息的估计、编码和解码

Family Applications Before (6)

Application Number Title Priority Date Filing Date
CN201380037649.4A Pending CN104620583A (zh) 2012-05-14 2013-05-13 基于支持信息的残差数据的编码和重构
CN201380037642.2A Active CN104641643B (zh) 2012-05-14 2013-05-13 在分层层级中信号编码、解码和重构期间残差数据分解的方法、存储硬件及系统
CN201380037650.7A Pending CN104641644A (zh) 2012-05-14 2013-05-13 基于沿时间的样本序列的混合的编码和解码
CN201380037629.7A Active CN104620582B (zh) 2012-05-14 2013-05-14 利用连续坐标系的运动补偿和运动估计
CN201380037604.7A Pending CN104620581A (zh) 2012-05-14 2013-05-14 分层时间层级中的基于时间的和/或多维信号的解码和重构
CN201911290521.4A Active CN110944210B (zh) 2012-05-14 2013-05-14 利用连续坐标系的运动补偿和运动估计系统

Country Status (18)

Country Link
US (14) US9509990B2 (zh)
EP (7) EP2850830B1 (zh)
JP (6) JP2015520575A (zh)
KR (6) KR102126886B1 (zh)
CN (7) CN104620583A (zh)
AU (5) AU2013261845A1 (zh)
BR (5) BR112014028279A2 (zh)
CA (6) CA2873487A1 (zh)
DK (2) DK2850829T3 (zh)
EA (5) EA201492098A1 (zh)
ES (3) ES2907510T3 (zh)
HK (5) HK1203261A1 (zh)
IL (4) IL235576A0 (zh)
MX (5) MX341203B (zh)
PL (1) PL2850829T3 (zh)
SG (6) SG11201407417VA (zh)
WO (6) WO2013171173A1 (zh)
ZA (5) ZA201408539B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108449599A (zh) * 2018-03-23 2018-08-24 安徽大学 一种基于面透射变换的视频编码与解码方法
CN108701241A (zh) * 2016-02-23 2018-10-23 雀巢产品技术援助有限公司 用于制备饮料或食品的系统的代码和容器
CN109313271A (zh) * 2016-03-24 2019-02-05 焦点定位有限公司 一种用于使数字信号和相关码相关的方法、装置、计算机程序、芯片组或数据结构
CN110288664A (zh) * 2018-03-19 2019-09-27 富士施乐株式会社 编码装置、解码装置以及非暂时性计算机可读介质
CN110622514A (zh) * 2017-05-05 2019-12-27 高通股份有限公司 用于视频译码的帧内参考滤波器

Families Citing this family (106)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8977065B2 (en) * 2011-07-21 2015-03-10 Luca Rossato Inheritance in a tiered signal quality hierarchy
US8958472B2 (en) * 2011-09-08 2015-02-17 Google Technology Holdings LLC Methods and apparatus for quantization and dequantization of a rectangular block of coefficients
US9313495B2 (en) * 2012-05-14 2016-04-12 Luca Rossato Encoding and decoding based on blending of sequences of samples along time
ES2907510T3 (es) * 2012-05-14 2022-04-25 V Nova Int Ltd Descomposición de datos residuales durante la codificación, decodificación y reconstrucción de señales en una jerarquía escalonada
EP2904807A4 (en) * 2012-10-07 2016-06-01 Numeri Ltd VIDEO COMPRESSION METHOD
CN104144520A (zh) 2013-05-07 2014-11-12 李东舸 一种设备间建立连接的方法、装置与系统
CN104142939B (zh) * 2013-05-07 2019-07-02 杭州智棱科技有限公司 一种基于运动特征信息匹配特征码的方法与设备
JP2016525295A (ja) * 2013-06-25 2016-08-22 ヌメリ リミテッド ビデオのマルチレベルの空間‐時間解像度上昇
CN105379256B (zh) * 2013-07-22 2019-11-12 索尼公司 信息处理装置和方法
JP5947269B2 (ja) * 2013-09-24 2016-07-06 ソニー株式会社 符号化装置、符号化方法、送信装置および受信装置
US9432338B2 (en) * 2013-10-23 2016-08-30 Google Inc. Secure communications using adaptive data compression
JP6463900B2 (ja) * 2014-04-17 2019-02-06 キヤノン株式会社 画像符号化装置及びその制御方法
CN107750456B (zh) * 2015-04-13 2022-02-11 V-诺瓦国际有限公司 利用依赖于复杂性信息的一个信号的数据速率目标对多个信号进行编码
GB2539241B (en) * 2015-06-11 2019-10-23 Advanced Risc Mach Ltd Video processing system
US10061552B2 (en) 2015-11-25 2018-08-28 International Business Machines Corporation Identifying the positioning in a multiple display grid
GB2544800A (en) 2015-11-27 2017-05-31 V-Nova Ltd Adaptive bit rate ratio control
FR3044507A1 (fr) * 2015-11-30 2017-06-02 Orange Procede de codage et de decodage d'images, dispositif de codage et de decodage d'images et programmes d'ordinateur correspondants
JP2017099616A (ja) * 2015-12-01 2017-06-08 ソニー株式会社 手術用制御装置、手術用制御方法、およびプログラム、並びに手術システム
US10630992B2 (en) * 2016-01-08 2020-04-21 Samsung Electronics Co., Ltd. Method, application processor, and mobile terminal for processing reference image
CN107529957B (zh) * 2016-03-03 2019-10-25 Hoya株式会社 修正数据生成方法以及修正数据生成装置
KR102520957B1 (ko) 2016-04-15 2023-04-12 삼성전자주식회사 인코딩 장치, 디코딩 장치 및 이의 제어 방법
KR101780782B1 (ko) * 2016-07-08 2017-09-21 엔트릭스 주식회사 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치
US11570454B2 (en) 2016-07-20 2023-01-31 V-Nova International Limited Use of hierarchical video and image coding for telepresence
GB2552353B (en) * 2016-07-20 2022-04-20 V Nova Int Ltd Apparatuses, methods, computer programs and computer-readable media
GB2553086B (en) * 2016-07-20 2022-03-02 V Nova Int Ltd Decoder devices, methods and computer programs
US10728227B2 (en) 2016-08-02 2020-07-28 X-Logos, LLC Methods and systems for enhanced data-centric encryption systems using geometric algebra
US11153594B2 (en) 2016-08-29 2021-10-19 Apple Inc. Multidimensional quantization techniques for video coding/decoding systems
GB2554065B (en) * 2016-09-08 2022-02-23 V Nova Int Ltd Data processing apparatuses, methods, computer programs and computer-readable media
GB2553556B (en) 2016-09-08 2022-06-29 V Nova Int Ltd Data processing apparatuses, methods, computer programs and computer-readable media
EP3518534B1 (en) * 2016-09-26 2023-05-17 Sony Group Corporation Encoding device, encoding method, decoding device, decoding method, transmission device, and reception device
US20180109809A1 (en) * 2016-10-13 2018-04-19 Google Llc Voxel video coding
CN106529589A (zh) * 2016-11-03 2017-03-22 温州大学 采用降噪堆叠自动编码器网络的视觉目标检测方法
US10694202B2 (en) * 2016-12-01 2020-06-23 Qualcomm Incorporated Indication of bilateral filter usage in video coding
US10666937B2 (en) * 2016-12-21 2020-05-26 Qualcomm Incorporated Low-complexity sign prediction for video coding
WO2018147329A1 (ja) * 2017-02-10 2018-08-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 自由視点映像生成方法及び自由視点映像生成システム
US10701390B2 (en) * 2017-03-14 2020-06-30 Qualcomm Incorporated Affine motion information derivation
GB2576846A (en) 2017-04-21 2020-03-04 Zenimax Media Inc Systems and methods for game-generated motion vectors
RU2730435C1 (ru) 2017-04-21 2020-08-21 Зенимакс Медиа Инк. Системы и способы рендеринга с адаптируемым качеством под управлением кодировщика
CN113628240A (zh) 2017-04-21 2021-11-09 泽尼马克斯媒体公司 通过预期运动矢量的玩家输入运动补偿
CN110800302A (zh) * 2017-06-07 2020-02-14 联发科技股份有限公司 用于视频编解码的帧内-帧间预测的方法及装置
EP3422722A1 (en) * 2017-06-30 2019-01-02 Thomson Licensing Method for encoding a matrix of image views obtained from data acquired by a plenoptic camera
US10319114B2 (en) * 2017-07-13 2019-06-11 Google Llc Foveated compression of display streams
TWI650981B (zh) * 2017-09-29 2019-02-11 晨星半導體股份有限公司 符號率估計裝置與符號率估計方法
US11457239B2 (en) 2017-11-09 2022-09-27 Google Llc Block artefact reduction
EP3496403A1 (en) 2017-12-06 2019-06-12 V-Nova International Limited Hierarchical data structure
CN111684802B (zh) 2017-12-06 2023-12-22 V-诺瓦国际有限公司 用于对字节流进行分级编码和解码的方法和设备
CN108133229B (zh) * 2017-12-11 2021-08-06 广州能量盒子科技有限公司 一种安卓apk文件的分类加密方法及系统
CN108040217B (zh) * 2017-12-20 2020-01-24 深圳岚锋创视网络科技有限公司 一种视频解码的方法、装置及相机
JP7376496B2 (ja) * 2018-03-20 2023-11-08 ピーシーエムエス ホールディングス インコーポレイテッド 優先順位付けされた変換に基づいて動的点群を最適化するためのシステムおよび方法
EP3769257A1 (en) 2018-03-20 2021-01-27 PCMS Holdings, Inc. System and method for dynamically adjusting level of details of point clouds
GB2574575A (en) * 2018-04-27 2019-12-18 V Nova Int Ltd Video decoder chipset
CN112703738A (zh) 2018-08-03 2021-04-23 V-诺瓦国际有限公司 针对信号增强编码的上采样
KR102612530B1 (ko) * 2018-08-08 2023-12-11 구글 엘엘씨 장면의 초해상도 이미지를 생성하기 위한 광학 이미지 안정화 움직임
US20220150529A1 (en) * 2018-09-17 2022-05-12 Electronics And Telecommunications Research Institute Image encoding/decoding method and apparatus, and recording medium storing bitstream
GB2594803B (en) * 2018-10-03 2022-10-19 V Nova Int Ltd Weighted downsampling and weighted transformations for signal coding
CN110163059B (zh) * 2018-10-30 2022-08-23 腾讯科技(深圳)有限公司 多人姿态识别方法、装置及电子设备
GB201817783D0 (en) * 2018-10-31 2018-12-19 V Nova Int Ltd Methods,apparatuses, computer programs and computer-readable media for processing configuration data
GB201817780D0 (en) * 2018-10-31 2018-12-19 V Nova Int Ltd Methods,apparatuses, computer programs and computer-readable media for processing configuration data
GB201817784D0 (en) * 2018-10-31 2018-12-19 V Nova Int Ltd Methods,apparatuses, computer programs and computer-readable media
GB2578769B (en) 2018-11-07 2022-07-20 Advanced Risc Mach Ltd Data processing systems
US10880354B2 (en) 2018-11-28 2020-12-29 Netflix, Inc. Techniques for encoding a media title while constraining quality variations
US10841356B2 (en) 2018-11-28 2020-11-17 Netflix, Inc. Techniques for encoding a media title while constraining bitrate variations
US12022059B2 (en) * 2018-12-07 2024-06-25 Beijing Dajia Internet Information Technology Co., Ltd. Video coding using multi-resolution reference picture management
EP3895431A1 (en) 2018-12-14 2021-10-20 PCMS Holdings, Inc. System and method for procedurally colorizing spatial data
CN112913236B (zh) * 2018-12-29 2022-05-31 华为技术有限公司 编码器,解码器和使用压缩mv存储的对应方法
GB2583061B (en) * 2019-02-12 2023-03-15 Advanced Risc Mach Ltd Data processing systems
WO2020165575A1 (en) * 2019-02-13 2020-08-20 V-Nova International Ltd Object analysis
EP3713235B1 (en) 2019-03-19 2023-08-02 Axis AB Methods and devices for encoding a video stream using a first and a second encoder
WO2020188230A1 (en) * 2019-03-20 2020-09-24 V-Nova International Ltd Rate control for a video encoder
GB2617790B (en) 2019-03-20 2024-03-13 V Nova Int Ltd Low complexity enhancement video coding
GB2617304B (en) * 2019-03-20 2024-04-03 V Nova Int Ltd Residual filtering in signal enhancement coding
GB201905400D0 (en) 2019-04-16 2019-05-29 V Nova Int Ltd Video coding technology
US11412262B2 (en) * 2019-06-24 2022-08-09 Qualcomm Incorporated Nonlinear extensions of adaptive loop filtering for video coding
GB2619640B (en) * 2019-07-05 2024-06-05 V Nova Int Ltd Quantization of residuals in video coding
US10942625B1 (en) * 2019-09-09 2021-03-09 Atlassian Pty Ltd. Coordinated display of software application interfaces
WO2021058594A1 (en) * 2019-09-24 2021-04-01 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multiple stage residual coding in modern hybrid image and video coding solutions
CN110572673B (zh) * 2019-09-27 2024-04-09 腾讯科技(深圳)有限公司 视频编解码方法和装置、存储介质及电子装置
TWI812874B (zh) 2019-10-01 2023-08-21 美商杜拜研究特許公司 張量乘積之b平滑曲線預測子
GB2603873B (en) 2019-10-02 2023-12-27 V Nova Int Ltd Use of embedded signalling for backward-compatible scaling improvements and super-resolution signalling
US11575905B2 (en) 2019-11-27 2023-02-07 Hfi Innovation Inc. Method and apparatus of unified weight and motion indexes derivation for geometric merge mode in video coding
CN114868393A (zh) * 2019-12-17 2022-08-05 阿里巴巴集团控股有限公司 执行环绕运动补偿的方法
CN111050181B (zh) * 2019-12-30 2022-06-07 哈尔滨工业大学 一种超光谱大气红外遥感图像的时间维压缩方法
US11307410B2 (en) 2020-02-06 2022-04-19 Varjo Technologies Oy Display apparatus and method incorporating adaptive pose locking
US11056030B1 (en) * 2020-02-06 2021-07-06 Varjo Technologies Oy Display apparatus and method of enhancing apparent resolution using liquid-crystal device
US11348514B2 (en) 2020-02-06 2022-05-31 Varjo Technologies Oy LED-based display apparatus and method incorporating sub-pixel shifting
US11308900B2 (en) 2020-02-06 2022-04-19 Varjo Technologies Oy Display apparatus and method incorporating sub-pixel aware shifting and overlap compensation
US11170678B2 (en) 2020-02-06 2021-11-09 Varjo Technologies Oy Display apparatus and method incorporating gaze-based modulation of pixel values
GB202001839D0 (en) 2020-02-11 2020-03-25 V Nova Int Ltd Use of tiered hierarchical coding for point cloud compression
US20210265044A1 (en) * 2020-02-20 2021-08-26 Align Technology, Inc. Medical imaging data compression and extraction on client side
JP2023521295A (ja) 2020-03-26 2023-05-24 アリババ グループ ホウルディング リミテッド 映像符号化データをシグナリングするための方法
GB2598701B (en) 2020-05-25 2023-01-25 V Nova Int Ltd Wireless data communication system and method
US11403175B2 (en) * 2020-07-31 2022-08-02 EMC IP Holding Company LLC Rebuilding data previously stored on a failed data storage drive
US11764943B2 (en) 2020-08-10 2023-09-19 Algemetric, Inc. Methods and systems for somewhat homomorphic encryption and key updates based on geometric algebra for distributed ledger/blockchain technology
US11683151B2 (en) 2020-09-17 2023-06-20 Algemetric, Inc. Methods and systems for distributed computation within a fully homomorphic encryption scheme using p-adic numbers
GB2601990B (en) 2020-10-16 2024-06-19 V Nova Int Ltd Distributed analysis of a multi-layer signal encoding
US11706503B2 (en) * 2020-10-23 2023-07-18 Momenti, Inc. Method and program for producing and providing reactive video
GB2621248A (en) 2020-11-27 2024-02-07 V Nova Int Ltd Video encoding using pre-processing
GB2601368B (en) * 2020-11-27 2023-09-20 V Nova Int Ltd Video decoding using post-processing control
CN112261491B (zh) * 2020-12-22 2021-04-16 北京达佳互联信息技术有限公司 视频时序标注方法、装置、电子设备及存储介质
GB202107036D0 (en) 2021-05-17 2021-06-30 V Nova Int Ltd Secure decoder and secure decoding methods
CN113900901A (zh) * 2021-10-21 2022-01-07 北京达佳互联信息技术有限公司 数据上报方法、数据监控方法、装置、设备及存储介质
GB2607123B (en) 2021-10-25 2023-10-11 V Nova Int Ltd Enhancement decoding implementation and method
GB2614054A (en) 2021-12-17 2023-06-28 V Nova Int Ltd Digital image processing
GB2614763B (en) 2022-03-29 2024-05-01 V Nova Int Ltd Upsampling filter for applying a predicted average modification
GB2611129B (en) 2022-03-31 2024-03-27 V Nova Int Ltd Signal processing with overlay regions
GB202215675D0 (en) 2022-10-21 2022-12-07 V Nova Int Ltd Distributed analysis of a multi-layer signal encoding

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070268968A1 (en) * 2006-04-17 2007-11-22 Victor Company Of Japan, Ltd. Moving-picture coding apparatus, method and program, and moving-picture decoding apparatus, method and program

Family Cites Families (151)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4941193A (en) 1987-10-02 1990-07-10 Iterated Systems, Inc. Methods and apparatus for image compression by iterated function system
JP3545000B2 (ja) * 1992-11-02 2004-07-21 ソニー株式会社 画像信号符号化装置、画像信号復号化装置
US5649032A (en) * 1994-11-14 1997-07-15 David Sarnoff Research Center, Inc. System for automatically aligning images to form a mosaic image
US5825313A (en) * 1995-08-01 1998-10-20 Sony Corporation Information signal encoding apparatus, encoding method thereof, information signal decoding method, and information signal record medium thereof
EP1274252A3 (en) * 1995-08-29 2005-10-05 Sharp Kabushiki Kaisha Video coding device and video decoding device with a motion compensated interframe prediction
JPH10509008A (ja) * 1995-09-06 1998-09-02 フィリップス エレクトロニクス ネムローゼ フェンノートシャップ 符号化信号に対応するセグメント化された画像のシーケンスを符号化する方法及びシステム、記憶媒体、並びにこのような符号化信号を復号化する方法及びシステム
US5936671A (en) * 1996-07-02 1999-08-10 Sharp Laboratories Of America, Inc. Object-based video processing using forward-tracking 2-D mesh layers
JP4034380B2 (ja) * 1996-10-31 2008-01-16 株式会社東芝 画像符号化/復号化方法及び装置
US6173013B1 (en) * 1996-11-08 2001-01-09 Sony Corporation Method and apparatus for encoding enhancement and base layer image signals using a predicted image signal
US6535558B1 (en) * 1997-01-24 2003-03-18 Sony Corporation Picture signal encoding method and apparatus, picture signal decoding method and apparatus and recording medium
JP3217987B2 (ja) * 1997-03-31 2001-10-15 松下電器産業株式会社 動画像信号の復号方法および符号化方法
IL167288A (en) * 1997-04-01 2012-03-29 Sony Corp Image encryption device, image encryption method, image decryption device, image decryption method, and appropriate medium
US6993201B1 (en) * 1997-07-08 2006-01-31 At&T Corp. Generalized scalability for video coder based on video objects
US6233356B1 (en) * 1997-07-08 2001-05-15 At&T Corp. Generalized scalability for video coder based on video objects
JP4132664B2 (ja) * 1997-11-27 2008-08-13 ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー トランスコーディング
US6546052B1 (en) 1998-05-29 2003-04-08 Canon Kabushiki Kaisha Image processing apparatus and method, and computer-readable memory
US6782132B1 (en) * 1998-08-12 2004-08-24 Pixonics, Inc. Video coding and reconstruction apparatus and methods
US6452969B1 (en) * 1998-09-28 2002-09-17 Thomson Licensing S.A. Transform domain inverse motion compensation having fractional pel accuracy
US6614429B1 (en) * 1999-05-05 2003-09-02 Microsoft Corporation System and method for determining structure and motion from two-dimensional images for multi-resolution object modeling
US6289052B1 (en) * 1999-06-07 2001-09-11 Lucent Technologies Inc. Methods and apparatus for motion estimation using causal templates
US6968008B1 (en) * 1999-07-27 2005-11-22 Sharp Laboratories Of America, Inc. Methods for motion estimation with adaptive motion accuracy
US6625333B1 (en) * 1999-08-06 2003-09-23 Her Majesty The Queen In Right Of Canada As Represented By The Minister Of Industry Through Communications Research Centre Method for temporal interpolation of an image sequence using object-based image analysis
KR100611999B1 (ko) * 1999-08-27 2006-08-11 삼성전자주식회사 그리디 알고리듬을 이용한 객체 기반 콰드 트리 메쉬 움직임 보상방법
US6748362B1 (en) * 1999-09-03 2004-06-08 Thomas W. Meyer Process, system, and apparatus for embedding data in compressed audio, image video and other media files and the like
JP2003516053A (ja) * 1999-11-29 2003-05-07 ソニー株式会社 映像音声信号処理方法及び映像音声信号処理装置
US6888544B2 (en) * 2000-03-17 2005-05-03 Hewlett-Packard Development Company, L.P. Apparatus for and method of rendering 3D objects with parametric texture maps
US6907070B2 (en) * 2000-12-15 2005-06-14 Microsoft Corporation Drifting reduction and macroblock-based control in progressive fine granularity scalable video coding
US7929610B2 (en) * 2001-03-26 2011-04-19 Sharp Kabushiki Kaisha Methods and systems for reducing blocking artifacts with reduced complexity for spatially-scalable video coding
KR100783396B1 (ko) * 2001-04-19 2007-12-10 엘지전자 주식회사 부호기의 서브밴드 분할을 이용한 시공간 스케일러빌러티방법
US7876820B2 (en) * 2001-09-04 2011-01-25 Imec Method and system for subband encoding and decoding of an overcomplete representation of the data structure
WO2003026310A2 (de) * 2001-09-14 2003-03-27 Siemens Aktiengesellschaft Effiziente videocodierung für skalierbare simul-cast-speicherung und -übertragung
US7630566B2 (en) * 2001-09-25 2009-12-08 Broadcom Corporation Method and apparatus for improved estimation and compensation in digital video compression and decompression
US7653133B2 (en) * 2003-06-10 2010-01-26 Rensselaer Polytechnic Institute (Rpi) Overlapped block motion compression for variable size blocks in the context of MCTF scalable video coders
US8009739B2 (en) * 2003-09-07 2011-08-30 Microsoft Corporation Intensity estimation/compensation for interlaced forward-predicted fields
KR100571920B1 (ko) * 2003-12-30 2006-04-17 삼성전자주식회사 움직임 모델을 이용한 매쉬 기반의 움직임 보상방법을제공하는 영상의 부호화 방법 및 그 부호화 장치
KR100596705B1 (ko) * 2004-03-04 2006-07-04 삼성전자주식회사 비디오 스트리밍 서비스를 위한 비디오 코딩 방법과 비디오 인코딩 시스템, 및 비디오 디코딩 방법과 비디오 디코딩 시스템
US20080144716A1 (en) 2004-03-11 2008-06-19 Gerard De Haan Method For Motion Vector Determination
US8503542B2 (en) * 2004-03-18 2013-08-06 Sony Corporation Methods and apparatus to reduce blocking noise and contouring effect in motion compensated compressed video
US7616782B2 (en) * 2004-05-07 2009-11-10 Intelliview Technologies Inc. Mesh based frame processing and applications
US8731054B2 (en) * 2004-05-04 2014-05-20 Qualcomm Incorporated Method and apparatus for weighted prediction in predictive frames
US8442108B2 (en) * 2004-07-12 2013-05-14 Microsoft Corporation Adaptive updates in motion-compensated temporal filtering
US7424163B1 (en) 2004-07-13 2008-09-09 Itt Manufacturing Enterprises, Inc. System and method for lossless image compression
KR100678949B1 (ko) * 2004-07-15 2007-02-06 삼성전자주식회사 비디오 코딩 및 디코딩 방법, 비디오 인코더 및 디코더
DE102004059978B4 (de) * 2004-10-15 2006-09-07 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erzeugen einer codierten Videosequenz und zum Decodieren einer codierten Videosequenz unter Verwendung einer Zwischen-Schicht-Restwerte-Prädiktion sowie ein Computerprogramm und ein computerlesbares Medium
KR100664932B1 (ko) * 2004-10-21 2007-01-04 삼성전자주식회사 비디오 코딩 방법 및 장치
KR100664929B1 (ko) * 2004-10-21 2007-01-04 삼성전자주식회사 다 계층 기반의 비디오 코더에서 모션 벡터를 효율적으로압축하는 방법 및 장치
US7792192B2 (en) * 2004-11-19 2010-09-07 Analog Devices, Inc. System and method for sub-pixel interpolation in motion vector estimation
JP2006174415A (ja) 2004-11-19 2006-06-29 Ntt Docomo Inc 画像復号装置、画像復号プログラム、画像復号方法、画像符号化装置、画像符号化プログラム及び画像符号化方法
US7924923B2 (en) * 2004-11-30 2011-04-12 Humax Co., Ltd. Motion estimation and compensation method and device adaptive to change in illumination
JP4241588B2 (ja) * 2004-11-30 2009-03-18 日本ビクター株式会社 動画像符号化装置、及び動画像復号化装置
JP4317814B2 (ja) 2004-12-06 2009-08-19 株式会社ルネサステクノロジ 動画像情報の符号化装置及び符号化方法
US20060120612A1 (en) * 2004-12-08 2006-06-08 Sharath Manjunath Motion estimation techniques for video encoding
JP4284288B2 (ja) * 2005-03-10 2009-06-24 株式会社東芝 パターン認識装置及びその方法
KR100703770B1 (ko) * 2005-03-25 2007-04-06 삼성전자주식회사 가중 예측을 이용한 비디오 코딩 및 디코딩 방법, 이를위한 장치
US7876833B2 (en) * 2005-04-11 2011-01-25 Sharp Laboratories Of America, Inc. Method and apparatus for adaptive up-scaling for spatially scalable coding
DE102005016827A1 (de) 2005-04-12 2006-10-19 Siemens Ag Adaptive Interpolation bei der Bild- oder Videokodierung
KR100746007B1 (ko) * 2005-04-19 2007-08-06 삼성전자주식회사 엔트로피 코딩의 컨텍스트 모델을 적응적으로 선택하는방법 및 비디오 디코더
JP2007096541A (ja) * 2005-09-27 2007-04-12 Sanyo Electric Co Ltd 符号化方法
US8005308B2 (en) * 2005-09-16 2011-08-23 Sony Corporation Adaptive motion estimation for temporal prediction filter over irregular motion vector samples
DE102005051091A1 (de) 2005-10-25 2007-04-26 Siemens Ag Verfahren und Vorrichtungen zur Bestimmung und Rekonstruktion eines prädizierten Bildbereichs
EP1790680A1 (en) 2005-11-28 2007-05-30 Mnemoscience GmbH Verfahren zur Herstellung von Form-Gedächtnis Materialien aus standard thermoplastichen Polymeren
GB0600141D0 (en) * 2006-01-05 2006-02-15 British Broadcasting Corp Scalable coding of video signals
US7956930B2 (en) * 2006-01-06 2011-06-07 Microsoft Corporation Resampling and picture resizing operations for multi-resolution video coding and decoding
US20070175333A1 (en) 2006-02-02 2007-08-02 Siemens Power Generation, Inc. System for recovering water from flue gas
WO2007108661A1 (en) * 2006-03-22 2007-09-27 Electronics And Telecommunications Research Institute Method and apparatus for encoding and decoding the compensated illumination change
JP4182442B2 (ja) * 2006-04-27 2008-11-19 ソニー株式会社 画像データの処理装置、画像データの処理方法、画像データの処理方法のプログラム及び画像データの処理方法のプログラムを記録した記録媒体
US9319708B2 (en) * 2006-06-16 2016-04-19 Via Technologies, Inc. Systems and methods of improved motion estimation using a graphics processing unit
US8340185B2 (en) * 2006-06-27 2012-12-25 Marvell World Trade Ltd. Systems and methods for a motion compensated picture rate converter
US8218640B2 (en) * 2006-10-31 2012-07-10 Sony Computer Entertainment Inc. Picture decoding using same-picture reference for pixel reconstruction
US8199812B2 (en) * 2007-01-09 2012-06-12 Qualcomm Incorporated Adaptive upsampling for scalable video coding
US20080181298A1 (en) * 2007-01-26 2008-07-31 Apple Computer, Inc. Hybrid scalable coding
KR101365575B1 (ko) * 2007-02-05 2014-02-25 삼성전자주식회사 인터 예측 부호화, 복호화 방법 및 장치
JP2008228282A (ja) * 2007-02-13 2008-09-25 Matsushita Electric Ind Co Ltd 画像処理装置
US8160149B2 (en) 2007-04-03 2012-04-17 Gary Demos Flowfield motion compensation for video compression
CN101658044B (zh) * 2007-04-09 2012-11-14 诺基亚公司 以低编码器和解码器复杂度进行视频编码的高精度运动矢量
EP1983759A1 (en) * 2007-04-19 2008-10-22 Matsushita Electric Industrial Co., Ltd. Estimation of separable adaptive interpolation filters for hybrid video coding
EP2149262A4 (en) * 2007-04-25 2010-09-01 Lg Electronics Inc METHOD AND DEVICE FOR DECODING / CODING A VIDEO SIGNAL
US8756482B2 (en) * 2007-05-25 2014-06-17 Nvidia Corporation Efficient encoding/decoding of a sequence of data frames
US8254455B2 (en) * 2007-06-30 2012-08-28 Microsoft Corporation Computing collocated macroblock information for direct mode macroblocks
AU2007214319A1 (en) * 2007-08-30 2009-03-19 Canon Kabushiki Kaisha Improvements for Spatial Wyner Ziv Coding
KR101365596B1 (ko) * 2007-09-14 2014-03-12 삼성전자주식회사 영상 부호화장치 및 방법과 그 영상 복호화장치 및 방법
KR101345287B1 (ko) 2007-10-12 2013-12-27 삼성전자주식회사 스케일러블 영상 부호화 방법 및 장치와 그 영상 복호화방법 및 장치
US20090141809A1 (en) * 2007-12-04 2009-06-04 Sony Corporation And Sony Electronics Inc. Extension to the AVC standard to support the encoding and storage of high resolution digital still pictures in parallel with video
US8170097B2 (en) * 2007-12-04 2012-05-01 Sony Corporation Extension to the AVC standard to support the encoding and storage of high resolution digital still pictures in series with video
KR101375663B1 (ko) * 2007-12-06 2014-04-03 삼성전자주식회사 영상을 계층적으로 부호화/복호화하는 방법 및 장치
US8126054B2 (en) * 2008-01-09 2012-02-28 Motorola Mobility, Inc. Method and apparatus for highly scalable intraframe video coding
US8374247B2 (en) * 2008-01-14 2013-02-12 Broadcom Corporation Method and system for hierarchical motion estimation with multi-layer sub-pixel accuracy and motion vector smoothing
KR101003105B1 (ko) * 2008-01-29 2010-12-21 한국전자통신연구원 어파인 변환 기반의 움직임 보상을 이용한 비디오 부호화 및 복호화 방법 및 장치
US8351510B1 (en) 2008-02-01 2013-01-08 Zenverge, Inc. Motion compensated noise reduction using shared motion estimation engine
BRPI0907748A2 (pt) 2008-02-05 2015-07-21 Thomson Licensing Métodos e aparelhos para segmentação implícita de blocos em codificação e decodificação de vídeo
US8711948B2 (en) 2008-03-21 2014-04-29 Microsoft Corporation Motion-compensated prediction of inter-layer residuals
JP2010016453A (ja) * 2008-07-01 2010-01-21 Sony Corp 画像符号化装置および方法、画像復号装置および方法、並びにプログラム
US8761261B1 (en) * 2008-07-29 2014-06-24 Marvell International Ltd. Encoding using motion vectors
US8488680B2 (en) * 2008-07-30 2013-07-16 Stmicroelectronics S.R.L. Encoding and decoding methods and apparatus, signal and computer program product therefor
CN102113326A (zh) 2008-08-04 2011-06-29 杜比实验室特许公司 重叠块差异估计和补偿体系结构
US8184196B2 (en) * 2008-08-05 2012-05-22 Qualcomm Incorporated System and method to generate depth data using edge detection
US8139650B2 (en) 2008-08-07 2012-03-20 California Institute Of Technology Fast noise reduction in digital images and video
ES2386327T3 (es) * 2008-08-21 2012-08-17 Vestel Elektronik Sanayi Ve Ticaret A.S. Método y aparato para aumentar la frecuencia de trama de una señal de video
JP5482655B2 (ja) * 2008-09-01 2014-05-07 日本電気株式会社 画像同一性尺度算出システム
GB0818561D0 (en) * 2008-10-09 2008-11-19 Isis Innovation Visual tracking of objects in images, and segmentation of images
US8275209B2 (en) * 2008-10-10 2012-09-25 Microsoft Corporation Reduced DC gain mismatch and DC leakage in overlap transform processing
JP2010122934A (ja) * 2008-11-20 2010-06-03 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
US8599929B2 (en) * 2009-01-09 2013-12-03 Sungkyunkwan University Foundation For Corporate Collaboration Distributed video decoder and distributed video decoding method
JP4893758B2 (ja) * 2009-01-23 2012-03-07 ソニー株式会社 画像処理装置、画像処理方法および撮像装置
KR101597987B1 (ko) * 2009-03-03 2016-03-08 삼성전자주식회사 계층 독립적 잔차 영상 다계층 부호화 장치 및 방법
US8363721B2 (en) * 2009-03-26 2013-01-29 Cisco Technology, Inc. Reference picture prediction for video coding
FR2944937B1 (fr) 2009-04-24 2011-10-21 Canon Kk Procede et dispositif de restauration d'une sequence video
US8762441B2 (en) * 2009-06-05 2014-06-24 Qualcomm Incorporated 4X4 transform for media coding
CN102883160B (zh) * 2009-06-26 2016-06-29 华为技术有限公司 视频图像运动信息获取方法、装置及设备、模板构造方法
KR101678968B1 (ko) * 2009-08-21 2016-11-25 에스케이텔레콤 주식회사 참조 픽처 보간 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
US9626769B2 (en) * 2009-09-04 2017-04-18 Stmicroelectronics International N.V. Digital video encoder system, method, and non-transitory computer-readable medium for tracking object regions
US9445119B2 (en) * 2009-10-29 2016-09-13 Vestel Elektronik Sanayi Ve Ticaret A.S. Method and device for processing a video sequence
KR101751559B1 (ko) * 2009-10-30 2017-06-27 선 페이턴트 트러스트 복호방법, 복호장치, 부호화 방법 및 부호화 장치
TR200908303A2 (tr) * 2009-11-03 2011-05-23 Vestel Elektroni̇k San. Ve Ti̇c. A.Ş. Hareket dengelemeli enterpolasyon.
US8705624B2 (en) * 2009-11-24 2014-04-22 STMicroelectronics International N. V. Parallel decoding for scalable video coding
WO2011064673A1 (en) 2009-11-30 2011-06-03 France Telecom Method of and apparatus for encoding video frames, method of and apparatus for decoding video frames
US8559519B2 (en) * 2010-01-08 2013-10-15 Blackberry Limited Method and device for video encoding using predicted residuals
GB2480224B (en) * 2010-01-29 2014-08-20 Canon Kk Decoding a sequence of digital images with error concealment
US9237355B2 (en) * 2010-02-19 2016-01-12 Qualcomm Incorporated Adaptive motion resolution for video coding
FR2956789B1 (fr) 2010-02-19 2012-11-16 Canon Kk Procede et dispositif de traitement d'une sequence video
US9609342B2 (en) * 2010-02-19 2017-03-28 Skype Compression for frames of a video signal using selected candidate blocks
PL2543181T3 (pl) * 2010-03-03 2016-03-31 Koninklijke Philips Nv Urządzenia i sposoby definiowania systemu kolorów
US8665959B2 (en) 2010-04-12 2014-03-04 Qualcomm Incorporated Block and partition signaling techniques for video coding
CN106454370B (zh) * 2010-04-13 2019-11-01 Ge视频压缩有限责任公司 解码器、重建数组的方法、编码器、编码方法及数据流
WO2012020358A1 (en) 2010-08-09 2012-02-16 Koninklijke Philips Electronics N.V. Encoder, decoder, bit-stream, method of encoding, method of decoding an image pair corresponding with two views of a multi-view signal
US20130300740A1 (en) * 2010-09-13 2013-11-14 Alt Software (Us) Llc System and Method for Displaying Data Having Spatial Coordinates
US8736767B2 (en) * 2010-09-29 2014-05-27 Sharp Laboratories Of America, Inc. Efficient motion vector field estimation
EP2445214A1 (en) * 2010-10-19 2012-04-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Video coding using temporally coherent dynamic range mapping
JP5625808B2 (ja) * 2010-11-26 2014-11-19 沖電気工業株式会社 データ更新装置及びプログラム、並びに、動画像復号装置及びプログラム、並びに、動画像配信システム
CA2722993A1 (fr) * 2010-12-01 2012-06-01 Ecole De Technologie Superieure Systeme d'ecodage video parallele multitrames et multitranches avec encodage simultane de trames predites
US9147260B2 (en) * 2010-12-20 2015-09-29 International Business Machines Corporation Detection and tracking of moving objects
GB2487197B (en) 2011-01-11 2015-06-17 Canon Kk Video encoding and decoding with improved error resilience
CN102857755B (zh) * 2011-07-01 2016-12-14 华为技术有限公司 确定变换块尺寸的方法和设备
US8977065B2 (en) * 2011-07-21 2015-03-10 Luca Rossato Inheritance in a tiered signal quality hierarchy
US8531321B1 (en) * 2011-07-21 2013-09-10 Luca Rossato Signal processing and inheritance in a tiered signal quality hierarchy
WO2013028116A1 (en) * 2011-08-19 2013-02-28 Telefonaktiebolaget L M Ericsson (Publ) Motion vector processing
WO2013058520A1 (ko) 2011-10-18 2013-04-25 엘지전자 주식회사 인트라 예측 방법 및 그 장치
US9300980B2 (en) * 2011-11-10 2016-03-29 Luca Rossato Upsampling and downsampling of motion maps and other auxiliary maps in a tiered signal quality hierarchy
EP2805501A1 (en) * 2012-01-24 2014-11-26 Futurewei Technologies, Inc. Simplification of lm mode
TWI616087B (zh) * 2012-01-31 2018-02-21 Vid衡器股份有限公司 可縮放高效率視訊編碼(hevc)參考圖集(rps)傳訊
CN107396101B (zh) 2012-02-03 2019-12-20 太阳专利托管公司 图像编码方法及图像编码装置
GB2498595B (en) * 2012-02-16 2015-03-04 Imagination Tech Ltd Methods and apparatus for decoding video images
ES2907510T3 (es) * 2012-05-14 2022-04-25 V Nova Int Ltd Descomposición de datos residuales durante la codificación, decodificación y reconstrucción de señales en una jerarquía escalonada
US9313495B2 (en) * 2012-05-14 2016-04-12 Luca Rossato Encoding and decoding based on blending of sequences of samples along time
BR112015000480B1 (pt) * 2012-07-09 2023-02-07 Vid Scale, Inc Arquitetura de codec para codificação de vídeo de camada múltipla, método e sistema
WO2014009844A1 (en) * 2012-07-13 2014-01-16 Koninklijke Philips N.V. Improved hdr image encoding and decoding methods and devices
CN104937932B (zh) * 2012-09-28 2019-04-19 英特尔公司 可适性视频编码的增强参考区域利用
US20140092971A1 (en) * 2012-09-28 2014-04-03 Kiran Mukesh Misra Picture processing in scalable video systems
EP2966868B1 (en) * 2012-10-09 2018-07-18 HFI Innovation Inc. Method for motion information prediction and inheritance in video coding
US20140153635A1 (en) * 2012-12-05 2014-06-05 Nvidia Corporation Method, computer program product, and system for multi-threaded video encoding
KR102301232B1 (ko) 2017-05-31 2021-09-10 삼성전자주식회사 다채널 특징맵 영상을 처리하는 방법 및 장치

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070268968A1 (en) * 2006-04-17 2007-11-22 Victor Company Of Japan, Ltd. Moving-picture coding apparatus, method and program, and moving-picture decoding apparatus, method and program

Non-Patent Citations (8)

* Cited by examiner, † Cited by third party
Title
BART PIETERS ET AL: "Motion Compensation and Reconstruction of H.264/AVC Video Bitstreams Using the GUP", 《EIGHTH INTERNATIONAL WORKSHOP ON IMAGE ANALYSIS FOR MULTIMEDIA INTERACTIVE SERVICES》 *
BOYCE J M: "Weighted Prediction in the H.264/MEPG AVC Video Coding Standard", 《IEEE INTERNATIONAL SYMPOSIUM ON CIRCUITS AND SYSTEMS》 *
EBRAHIMI T ET AL: "MPEG-4 natural video coding-An overview", 《SIGNAL PROCESSING. IMAGE COMMUNICATION》 *
MING-CHIEH LEE ET AL: "A Layered Video Object Coding System Using Sprite and Affine Motion Model", 《IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY》 *
NICOLAS H ET AL: "MOTION AND ILLUMINATION VARIATION ESTIMATION USING A HIERARCHY OF MODELS", 《JOURNAL OF VISUAL COMMUNICATION AND IMAGE REPRESENTATION》 *
RIBAS-CORBERA J ET AL: "OPTIMIZING BLOCK SIZE IN MOTION-COMPENSATED VIDEO CODING", 《JOURNAL OF ELECTRONIC IMAGING,SPIE/IS&T》 *
SERVAIS M ET AL: "Progressive polygon encoding of segmentation maps", 《INTERNATIONAL COFERENCE ON IMAGE PROCESSING》 *
ZAVACKY J ET AL: "RESAMPLING OF AN IMAGE BY BLOCK-BASED INTERPOLATION OR DECIMATION WITH COMPENSATION", 《RADIOENGINEERING》 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108701241A (zh) * 2016-02-23 2018-10-23 雀巢产品技术援助有限公司 用于制备饮料或食品的系统的代码和容器
CN108701241B (zh) * 2016-02-23 2022-04-15 雀巢产品有限公司 用于制备饮料或食品的系统的代码和容器
CN109313271A (zh) * 2016-03-24 2019-02-05 焦点定位有限公司 一种用于使数字信号和相关码相关的方法、装置、计算机程序、芯片组或数据结构
CN109313271B (zh) * 2016-03-24 2023-09-01 焦点定位有限公司 一种用于使数字信号和相关码相关的方法、装置、计算机程序、芯片组或数据结构
CN110622514A (zh) * 2017-05-05 2019-12-27 高通股份有限公司 用于视频译码的帧内参考滤波器
CN110622514B (zh) * 2017-05-05 2023-11-03 高通股份有限公司 用于视频译码的帧内参考滤波器
CN110288664A (zh) * 2018-03-19 2019-09-27 富士施乐株式会社 编码装置、解码装置以及非暂时性计算机可读介质
CN110288664B (zh) * 2018-03-19 2024-06-04 富士胶片商业创新有限公司 编码装置、解码装置以及非暂时性计算机可读介质
CN108449599A (zh) * 2018-03-23 2018-08-24 安徽大学 一种基于面透射变换的视频编码与解码方法

Also Published As

Publication number Publication date
BR112014028273A2 (pt) 2017-07-18
US20230379470A1 (en) 2023-11-23
JP2015519016A (ja) 2015-07-06
WO2013171182A1 (en) 2013-11-21
US11272181B2 (en) 2022-03-08
ZA201408539B (en) 2016-08-31
JP2015522988A (ja) 2015-08-06
US20210176483A1 (en) 2021-06-10
DK2850832T3 (da) 2022-04-11
US20170041609A1 (en) 2017-02-09
BR112014028274A2 (pt) 2017-07-18
IL235578A0 (en) 2015-01-29
IL235579A0 (en) 2015-01-29
WO2013171175A1 (en) 2013-11-21
DK2850829T3 (da) 2022-03-07
US11683491B2 (en) 2023-06-20
SG11201407472SA (en) 2014-12-30
US9706206B2 (en) 2017-07-11
EP3968638A1 (en) 2022-03-16
EA201492099A1 (ru) 2015-04-30
ZA201408541B (en) 2016-08-31
EP2850829B1 (en) 2021-12-01
IL235576A0 (en) 2015-01-29
EP2850830C0 (en) 2023-08-30
CA2873501A1 (en) 2013-11-21
SG10201710075SA (en) 2018-01-30
AU2013261843A1 (en) 2014-12-11
US20130322530A1 (en) 2013-12-05
ZA201408540B (en) 2016-08-31
HK1203261A1 (zh) 2015-10-23
CA2873496A1 (en) 2013-11-21
PL2850829T3 (pl) 2022-05-16
US20130322537A1 (en) 2013-12-05
WO2013171173A1 (en) 2013-11-21
EP2850830A1 (en) 2015-03-25
WO2013171183A1 (en) 2013-11-21
BR112014028279A2 (pt) 2017-07-18
SG11201407419RA (en) 2014-12-30
US20210099706A1 (en) 2021-04-01
AU2013261853A1 (en) 2014-12-11
ES2907510T3 (es) 2022-04-25
CN110944210B (zh) 2022-03-01
AU2013261838A1 (en) 2014-12-04
MX341203B (es) 2016-08-11
IL235574B (en) 2018-03-29
US20170188032A1 (en) 2017-06-29
US9509990B2 (en) 2016-11-29
KR20150018575A (ko) 2015-02-23
WO2013171184A1 (en) 2013-11-21
US20130321423A1 (en) 2013-12-05
CN104641644A (zh) 2015-05-20
US20130314496A1 (en) 2013-11-28
WO2013171168A1 (en) 2013-11-21
JP2015520575A (ja) 2015-07-16
AU2013261843B2 (en) 2018-02-15
ZA201408538B (en) 2016-08-31
US20190297322A1 (en) 2019-09-26
MX2014013838A (es) 2015-03-03
EA201492090A1 (ru) 2015-05-29
CA2873499A1 (en) 2013-11-21
US10750179B2 (en) 2020-08-18
KR20150014494A (ko) 2015-02-06
US20220038700A1 (en) 2022-02-03
KR20150014495A (ko) 2015-02-06
MX344994B (es) 2017-01-13
MX339635B (es) 2016-06-02
HK1203263A1 (zh) 2015-10-23
EP2850830B1 (en) 2023-08-30
EP2850832B1 (en) 2022-01-05
EA201492098A1 (ru) 2015-04-30
US11153567B2 (en) 2021-10-19
MX2014013850A (es) 2015-05-08
KR20150020568A (ko) 2015-02-26
CN104641643A (zh) 2015-05-20
EP2850835A1 (en) 2015-03-25
KR20150018576A (ko) 2015-02-23
US9621887B2 (en) 2017-04-11
CN104620583A (zh) 2015-05-13
EP2850832A1 (en) 2015-03-25
US10750178B2 (en) 2020-08-18
ZA201408537B (en) 2016-08-31
US10178387B2 (en) 2019-01-08
EP2850831A1 (en) 2015-03-25
HK1203264A1 (zh) 2015-10-23
HK1203260A1 (zh) 2015-10-23
KR20150014496A (ko) 2015-02-06
US9961345B2 (en) 2018-05-01
ES2909879T3 (es) 2022-05-10
EP2850829A1 (en) 2015-03-25
BR112014028276A2 (pt) 2017-07-11
JP6336438B2 (ja) 2018-06-06
AU2013261845A1 (en) 2014-12-11
US11595653B2 (en) 2023-02-28
US20220191497A1 (en) 2022-06-16
MX2014013835A (es) 2015-03-03
CA2873494A1 (en) 2013-11-21
CN104620582B (zh) 2020-01-14
ES2961397T3 (es) 2024-03-11
SG11201407508RA (en) 2014-12-30
CN104620582A (zh) 2015-05-13
JP2015522987A (ja) 2015-08-06
EP2850835B1 (en) 2022-01-05
CA2873487A1 (en) 2013-11-21
EP2850836A1 (en) 2015-03-25
JP2015522986A (ja) 2015-08-06
CN110944210A (zh) 2020-03-31
BR112014028283A2 (pt) 2017-07-18
KR102126886B1 (ko) 2020-06-26
MX2014013846A (es) 2015-05-08
WO2013171182A8 (en) 2014-06-12
EA201492093A1 (ru) 2015-04-30
HK1203265A1 (zh) 2015-10-23
SG11201407484WA (en) 2014-12-30
JP2015522985A (ja) 2015-08-06
US20170310968A1 (en) 2017-10-26
US20210099707A1 (en) 2021-04-01
MX2014013836A (es) 2015-03-03
US11622112B2 (en) 2023-04-04
CN104641643B (zh) 2018-06-19
SG11201407417VA (en) 2014-12-30
CN104620581A (zh) 2015-05-13
CA2873490A1 (en) 2013-11-21
EA201492089A1 (ru) 2015-04-30
IL235574A0 (en) 2015-01-29
AU2013261854A1 (en) 2014-12-11

Similar Documents

Publication Publication Date Title
CN104620580A (zh) 通过运动区对多维信号中的运动信息以及通过辅助区对辅助信息的估计、编码和解码
KR102502277B1 (ko) 계층화된 장면 분해 코덱 시스템 및 방법
US11330244B2 (en) Layered scene decomposition CODEC with asymptotic resolution
CN104170388B (zh) 分层的信号质量层级中的运动映射图和其它辅助映射图的向上采样和向下采样
CN103858427A (zh) 用于空间可伸缩视频编码的自适应插值
Stefanoski et al. Automatic view synthesis by image-domain-warping
CN103931181B (zh) 用于空间可扩展视频编码的自适应上采样
CN104541308A (zh) 使用多边形的3d网格和对应纹理对图像进行编码
JP2015513151A (ja) 入力画像の階層的超解像を実行する方法及び装置
CN104718755A (zh) 减小含有相互类似的信息的多个图像的数据量的方法、程序及装置,以及表现含有相互类似的信息的多个图像的数据结构
CN102497545B (zh) 内容自适应和艺术可引导可缩放视频编码
WO2017020806A1 (en) A multi-overlay variable support and order kernel-based representation for image deformation and view synthesis
CN106664415A (zh) 使用深度块的多层视频编码方法和多层视频解码方法
CN104737539A (zh) 减小含有相互类似的信息的多个图像的数据量的方法、程序及装置
JP2004523178A (ja) 映像を符号化ビットストリームに処理する方法
EP4029267A1 (en) Multiview multiscale methods and apparatus for view synthesis
Chiang et al. Saliency-driven rate-distortion optimization for 360-degree image coding
CN106488150B (zh) 基于异构计算生成高动态范围图像的系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20150513

WD01 Invention patent application deemed withdrawn after publication