CN101677358A - 用于高质量图像和视频升频的系统和方法 - Google Patents
用于高质量图像和视频升频的系统和方法 Download PDFInfo
- Publication number
- CN101677358A CN101677358A CN200910173688A CN200910173688A CN101677358A CN 101677358 A CN101677358 A CN 101677358A CN 200910173688 A CN200910173688 A CN 200910173688A CN 200910173688 A CN200910173688 A CN 200910173688A CN 101677358 A CN101677358 A CN 101677358A
- Authority
- CN
- China
- Prior art keywords
- resolution pixel
- horizontal
- vertical
- diagonal angle
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000001914 filtration Methods 0.000 claims abstract description 43
- 238000004458 analytical method Methods 0.000 claims description 48
- 230000002457 bidirectional effect Effects 0.000 claims description 31
- 230000002146 bilateral effect Effects 0.000 claims description 29
- 230000009466 transformation Effects 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 7
- 239000002131 composite material Substances 0.000 claims description 7
- 238000000844 transformation Methods 0.000 claims description 5
- 230000007704 transition Effects 0.000 abstract description 4
- 230000010339 dilation Effects 0.000 abstract description 2
- 238000000691 measurement method Methods 0.000 abstract 1
- 238000001228 spectrum Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/403—Edge-driven scaling; Edge-based scaling
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Television Systems (AREA)
- Controls And Circuits For Display Device (AREA)
- Editing Of Facsimile Originals (AREA)
Abstract
本发明公开了一种用于高质量图像和视频升频的系统和方法。这里描述了生成具有高质量的较高分辨率图像和视频的低复杂度升频方法。维持了自然的边缘平滑度和尖锐度,同时消除了过冲伪像和“边缘扩张”问题。为了沿着边缘获得边缘平滑度并移除锯齿状伪像,基于两个正交方向的双向滤波被用来生成较高分辨率像素。接近边缘方向的方向被较重地加权,而远离边缘方向的方向被较轻地加权。每个方向的权重是通过所开发出的方向向量差测量方法来确定的。为了消除过冲伪像并解决粗边缘问题,实现了双侧插值方法。通过使用双侧插值方法,插值结果被推向移除了过冲伪像的主导转变所希望的位置。获得了细而尖锐的边缘而非模糊的粗边缘。
Description
技术领域
本发明涉及图像/视频处理领域。更具体地,本发明涉及通过升频(upscaling)来增强图像/视频处理。
背景技术
升频或分辨率增强是图像和视频处理中的重要基础技术。利用升频,能够从所获取的较低分辨率图像或视频生成较高分辨率图像或视频。以前,所关注的是如何产生高质量静态图像。应用存在于医学成像、数字摄影以及其它方面。随着在线视频娱乐的出现以及越来越多的家庭采用大屏幕电视,低复杂度的视频升频变得越发重要。例如,非常需要让电视机从DVD内容产生类似高清晰效果的技术。
由于升频是许多图像处理应用的基础,因此已研究了很多年。已提出了许多种非线性方法。虽然一些提议在所选应用上表现出了令人印象深刻的结果,然而由于高复杂度和一些不切实际的假设,它们未被应用在商业视频产品中。另一方面,诸如像素倍增、双线性插值和双立方插值之类的低复杂度的线性方法因在视频的统计改变的复杂度和健壮性方面的优点而在进行一些变化后被采用。然而,它们具有一些固有缺陷。例如,像素倍增产生块伪像(artifact),双线性插值使细节变模糊,而双立方插值产生跨边缘的过冲(overshoot)问题和沿着边缘的锯齿状(jaggy)伪像。
发明内容
这里描述了生成具有高质量的较高分辨率图像和视频的低复杂度升频方法。维持了自然的边缘平滑度和尖锐度,同时消除了过冲伪像和“边缘扩张”(edge dilation)问题。为了沿着边缘获得边缘平滑度并移除锯齿状伪像,基于两个正交方向的双向滤波被用来生成较高分辨率像素。接近边缘方向的方向被较重地加权,而远离边缘方向的方向被较轻地加权。每个方向的权重是通过所开发出的方向向量差测量方法来确定的。为了消除过冲伪像并解决粗边缘问题,实现了双侧插值方法。通过使用双侧插值方法,插值结果被推向移除了过冲伪像的主导转变(dominant transition)所希望的位置。获得了细而尖锐的边缘而非模糊的粗边缘。
在一个方面,一种计算设备上改善数字内容的质量的方法,包括:对数字内容执行方向性分析;生成对角(diagonal)高分辨率像素;生成水平高分辨率像素;生成垂直高分辨率像素;组合对角高分辨率像素、水平高分辨率像素和垂直高分辨率像素以形成高分辨率数字内容。生成对角高分辨率像素包括:沿着45°方向和135°方向应用双侧自适应插值以获得中间值,并进行双向滤波以组合中间值,从而基于两个对角方向分析生成最终的对角高分辨率像素。双侧自适应插值包括:计算两个单侧插值结果,并且对两个单侧插值结果进行加权滤波以获得最终的插值结果。双侧自适应插值还包括:计算两个单侧转变主导水平,并且基于转变主导水平计算两个单侧权重。双向滤波还包括:计算方向向量差,并且基于方向向量差计算方向权重。对角高分辨率像素是从沿着45°方向和135°方向的邻近低分辨率像素生成的。生成水平高分辨率像素包括:沿着水平方向应用多抽头插值以获得中间值;并且进行双向滤波以组合中间值,从而基于水平方向分析生成最终的水平高分辨率像素。双向滤波还包括:计算方向向量差,并且基于方向向量差计算方向权重。如果在针对垂直高分辨率像素获得方向权重之前针对水平高分辨率像素获得了方向权重,则当生成垂直高分辨率像素时,再使用方向权重。水平高分辨率像素是从沿着水平方向的邻近低分辨率像素以及沿着垂直方向的对角高分辨率像素生成的。生成垂直高分辨率像素包括:沿着垂直方向应用多抽头插值以获得中间值,并且进行双向滤波以组合中间值,从而基于垂直方向分析生成最终的垂直高分辨率像素。双向滤波还包括:计算方向向量差,并且基于方向向量差计算方向权重。如果在针对水平高分辨率像素获得方向权重之前针对垂直高分辨率像素获得了方向权重,则当生成水平高分辨率像素时,再使用方向权重。垂直高分辨率像素是从沿着垂直方向的邻近低分辨率像素以及沿着水平方向的对角高分辨率像素生成的。数字内容是从包括图像和视频的组中选出的。计算设备是从包括如下设备的组中选出的:个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能型家电、游戏控制台、数码相机、数字摄录机(camcorder)、相机电话、视频播放器、DVD刻录机/播放器、电视机以及家庭娱乐系统。
在另一方面,一种利用计算设备实现的用于改善数字内容的质量的系统,包括:方向性分析模块,被配置用于对数字内容执行方向性分析;对角模块,可操作地耦合到方向性分析模块,对角模块被配置用于生成对角高分辨率像素;水平模块,可操作地耦合到对角模块,水平模块被配置用于生成水平高分辨率像素;垂直模块,可操作地耦合到水平模块,垂直模块被配置用于生成垂直高分辨率像素;以及组合模块,可操作地耦合到垂直模块,组合模块被配置用于组合对角高分辨率像素、水平高分辨率像素和垂直高分辨率像素以形成高分辨率数字内容。对角模块还被配置用于:沿着45°方向和135°方向应用双侧自适应插值以获得中间值;并且进行双向滤波以组合中间值,从而基于两个对角方向分析生成最终的对角高分辨率像素。双侧自适应插值包括:计算两个单侧插值结果;并且对两个单侧插值结果进行加权滤波以获得最终的插值结果。双侧自适应插值还包括:计算两个单侧转变主导水平;并且基于转变主导水平计算两个单侧权重。双向滤波还包括:计算方向向量差;并且基于方向向量差计算方向权重。对角高分辨率像素是从沿着45°方向和135°方向的邻近低分辨率像素生成的。水平模块还被配置用于:沿着水平方向应用多抽头插值以获得中间值;并且进行双向滤波以组合中间值,从而基于水平方向分析生成最终的水平高分辨率像素。生成双向滤波还包括:计算方向向量差;并且基于方向向量差计算方向权重。如果在针对垂直高分辨率像素获得方向权重之前针对水平高分辨率像素获得了方向权重,则当生成垂直高分辨率像素时,再使用方向权重。水平高分辨率像素是从沿着水平方向的邻近低分辨率像素以及沿着垂直方向的对角高分辨率像素生成的。垂直模块还被配置用于:沿着垂直方向应用多抽头插值以获得中间值;并且进行双向滤波以组合中间值,从而基于垂直方向分析生成最终的垂直高分辨率像素。生成双向滤波还包括:计算方向向量差;并基于方向向量差计算方向权重。如果在针对水平高分辨率像素获得方向权重之前针对垂直高分辨率像素获得了方向权重,则当生成水平高分辨率像素时,再使用方向权重。垂直高分辨率像素是从沿着垂直方向的邻近低分辨率像素以及沿着水平方向的对角高分辨率像素生成的。数字内容是从包括图像和视频的组中选出的。计算设备是从包括如下设备的组中选出的:个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能型家电、游戏控制台、数码相机、数字摄录机、相机电话、视频播放器、DVD刻录机/播放器、电视机以及家庭娱乐系统。
在另一方面,一种设备,包括:用于存储应用的存储器,以及被耦合到存储器的处理组件,该应用被配置用于:对数字内容执行方向性分析;生成对角高分辨率像素;生成水平高分辨率像素;生成垂直高分辨率像素;组合对角高分辨率像素、水平高分辨率像素和垂直高分辨率像素以形成高分辨率数字内容,该处理组件被配置用于处理该应用。生成对角高分辨率像素包括:沿着45°方向和135°方向应用双侧自适应插值以获得中间值;并且进行双向滤波以组合中间值,从而基于两个对角方向分析生成最终的对角高分辨率像素。双侧自适应插值包括:计算两个单侧插值结果,并且对两个单侧插值结果进行加权滤波以获得最终的插值结果。双侧自适应插值还包括:计算两个单侧转变主导水平,并且基于转变主导水平计算两个单侧权重。双向滤波还包括:计算方向向量差,并且基于方向向量差计算方向权重。对角高分辨率像素是从沿着45°方向和135°方向的邻近低分辨率像素生成的。生成水平高分辨率像素包括:沿着水平方向应用多抽头插值以获得中间值;并且进行双向滤波以组合中间值,从而基于水平方向分析生成最终的水平高分辨率像素。双向滤波还包括:计算方向向量差,并且基于方向向量差计算方向权重。如果在针对垂直高分辨率像素获得方向权重之前针对水平高分辨率像素获得了方向权重,则当生成垂直高分辨率像素时,再使用方向权重。水平高分辨率像素是从沿着水平方向的邻近低分辨率像素以及沿着垂直方向的对角高分辨率像素生成的。生成垂直高分辨率像素包括:沿着垂直方向应用多抽头插值以获得中间值,并且进行双向滤波以组合中间值,从而基于垂直方向分析生成最终的垂直高分辨率像素。双向滤波还包括:计算方向向量差,并且基于方向向量差计算方向权重。如果在针对水平高分辨率像素获得方向权重之前针对垂直高分辨率像素获得了方向权重,则当生成水平高分辨率像素时,再使用方向权重。垂直高分辨率像素是从沿着垂直方向的邻近低分辨率像素以及沿着水平方向的对角高分辨率像素生成的。数字内容是从包括图像和视频的组中选出的。计算设备是从包括如下设备的组中选出的:个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能型家电、游戏控制台、数码相机、数字摄录机、相机电话、视频播放器、DVD刻录机/播放器、电视机以及家庭娱乐系统。
附图说明
图1图示出了升频方法的流程图。
图2图示出了基于双向分析的HR像素生成。
图3图示出了六抽头插值。
图4图示出了现有技术的插值结果。
图5图示出了双侧自适应插值结果。
图6图示出了对角方向性分析。
图7图示出了针对水平位置中的像素生成的方向性分析。
图8图示出了针对垂直位置中的像素生成的方向性分析。
图9图示出了被配置来实现升频方法的示例性计算设备的框图。
具体实施方式
这里描述了生成具有高质量的较高分辨率图像和视频的低复杂度升频方法。为了实现目标,将关注维持自然的边缘平滑度和锐度,消除过冲伪像和“边缘扩张”问题。为了沿着边缘实现边缘平滑并移除锯齿状伪像,基于两个正交方向的双向滤波被用来生成较高分辨率像素。接近边缘方向的方向被较重地加权,而远离边缘方向的方向被较轻地加权。每个方向的权重是通过所开发出的方向向量差测量方法来确定的。为了消除过冲伪像并解决粗边缘问题,实现了双侧插值方法。通过使用双侧插值方法,插值结果被推向主导转变所希望位置。结果,过冲伪像被移除。获得了细而尖锐的边缘而非模糊的粗边缘。
图1图示出了升频方法的整体方案。在步骤100中,对所获得的低分辨率(LR)输入(例如,图像或视频)应用方向性分析。沿着四个方向的像素强度变化被分析并且随后被用在步骤102、104和106中。四个方向包括水平方向、垂直方向、对角45°方向和对角135°方向。具体地,在步骤102,基于沿着对角45°方向和对角135°方向的方向性分析,从邻近的低分辨率像素生成对角较高分辨率(HR)像素。此后,在步骤104,从水平邻近低分辨率像素以及所生成的对角HR像素来生成水平HR像素。在步骤106,从垂直邻近低分辨率像素和所生成的对角HR像素来生成垂直HR像素。当生成了所有HR像素之后,在步骤108,它们被组合以生成HR图片。
图2图示出了HR像素的标记法。在图2中,当在垂直和水平方向上将分辨率增加2倍时,“1”表示所有对角HR像素,“2”表示所有水平HR像素并且“3”表示所有垂直HR像素。位于两个对角45°的邻近较低分辨率像素之间或者两个对角135°的邻近较低分辨率像素之间的所有较高分辨率像素称为对角HR像素。位于两个水平邻近较低分辨率像素之间的所有较高分辨率像素称为水平HR像素。其它较高分辨率像素称为垂直HR像素。
为了生成对角HR像素,沿着45°方向和135°方向应用双侧自适应插值以获得两个中间值。然后,双向滤波被用来组合这些中间值以基于两个对角方向的分析生成最终的对角HR像素。为了生成水平和垂直HR像素,沿着水平方向和水平方向应用多抽头插值以获得两个中间值。然后,双向滤波被用来组合这些中间值以基于水平和垂直方向的分析生成最终的水平和垂直HR像素。
双侧自适应插值
根据Nyquist定理,频谱限于f的任何信号,只要以大于2f的速率被采样,就能够完全恢复。各种插值方法已被开发来基于Nyquist定理仿真恢复处理。在图片的平滑区域中,不存在很多变化。局部频谱被限于较小范围之内。这样的假设是合理的:较低分辨率图片是通过以至少两倍于局部频谱极限的速率来采样HR图片而获得的。在这种状况下,大多数先前的插值方法工作良好。在图片的边缘区域中,空间变化非常大。生成低分辨率图片的采样率低于局部频谱极限的两倍。在此状况下,生成了交叠伪像(aliasing artifact)。最常见的伪像中的两种是过冲伪像和边缘扩张伪像。过冲伪像表现为沿着暗边缘的不自然的明亮线或者沿着明亮边缘的不自然的暗线。边缘扩张伪像表现为将细的尖锐边缘变为扩张的模糊边缘。
为了解决上面的问题,使用了双侧插值方法。利用图3所示的六抽头插值示例来描述该方法的概念。在这样的位置处产生HR像素Y:该位置的三个左边的邻近LR像素为a1、a2、a3,并且该位置的三个右边的邻近LR像素为b1、b2、b3。通过使用现有技术的插值方法,能够通过下式获得插值:
在上面的等式中,w1~w6是插值系数,P是像素强度并且W是w1~w6之和。如果HR像素Y在两个LR像素的中间,则插值是对称的,并且w1=w4,w2=w5,w3=w6。令ai表示对其三个左边的邻近LR像素的插值结果,并且令bi表示对其三个右边的邻近LR像素的插值结果。下面是结果:
图3示出了这种处理。
现有技术的插值结构能够表示为:
如此一来,最终的插值结果在图4中示出,图4清晰地示出了边缘被模糊。类似地,能够表明通过使用现有方法生成了过冲伪像。
为了解决这些问题,对自然图片的特性进行了研究。如果插值结果可以被推向主导强度转变所希望位置,则能够解决问题。单侧插值结果与其邻近LR像素之间的强度差被用来确定如下的转变主导水平。差值越大,主导水平越小。
与具有较低主导水平的结果相比,更需要具有较高主导水平的结果。因此,更高的权重被赋予具有较高主导水平的结果。下面的式子用来计算权重:
Wb=8-Wa
然后,通过下式获得最终插值结果
为了实现自然的平滑度,以不同方式处理单线边缘(single lineedge)。下面的条件检查用来检测单线边缘:
利用单线边缘检测结果,通过下式来执行双侧自适应插值:
在图3中,ai具有较高主导水平,因此在这里描述的方法中被较重地加权。结果,获得了如图5所示的尖锐边缘。
在图5中,六抽头插值被用作说明这里描述的方法的示例实施例。通过遵循相同的推理,本发明的精神能够用在任何插值实施例中。
对角位置中的较高分辨率像素生成
对角HR像素是从沿着45°和135°方向的邻近较低分辨率像素生成的。基于对角方向性分析,不同权重被赋予相对应的方向插值结果。对两个方向插值结果的加权滤波被应用以生成对角HR像素。
图6图示出了对角方向性分析,其中,“1”表示对角HR像素,并且其八个邻近LR像素被用于方向性分析。
在所开发的方法中,通过下面的式子来计算方向向量差:
Ddia45°=|Pb-Pe|+|Pc-Pf|+|Pd-Pg|
Ddia135°=|Pa-Pf|+|Pb-Pg|+|Pc-Ph|
基于向量差,通过下面的式子来计算方向权重:
Wdia135°=4-Wdia45°
两个正交方向插值结果的加权滤波被用来生成对角HR像素,如下:
Y1=(Wdia45°·Pdia45°+Wdia135°·Pdia135°)>>2
在上面的式子中,Pdia45°是沿着45°方向的双侧自适应插值结果,而Pdia135°是沿着135°方向的双侧自适应插值结果。
水平位置中的较高分辨率像素生成
水平HR像素是从沿着水平方向的邻近低分辨率像素以及沿着垂直方向的对角HR像素生成的。基于方向性分析,不同权重被赋予相对应的方向插值结果。对两个方向插值结果的加权滤波被应用以生成水平HR像素。
图7图示出了方向性分析。“1”表示对角HR像素,并且“2”表示水平HR像素。六个邻近LR像素被用于方向性分析。
在所开发的方法中,通过下面的式子来计算方向向量差:
Dhor=(|Pa-Pb|+|Pc-Pd|+|Pe-Pf|)<<2
Dver=(|Pa-Pc|+|Pb-Pd|+|Pc-Pe|+|Pd-Pf|)·3
基于向量差,通过下面的式子来计算方向权重:
Whor=8-Wdia_ver
两个正交方向插值结果的加权滤波被用来生成水平HR像素,如下:
Y2=(Whor·Phor+Wdia_ver·Pdia_ver)>>3
在上面的式子中,Phor是沿着水平方向的传统插值结果,而Pdia_ver是沿着垂直方向的两抽头插值结果,其通过下式来计算:
Pdia_ver=(Pdia_upper+Pdia_lower)>>1
垂直位置中的较高分辨率像素生成
垂直HR像素是从沿着垂直方向的邻近低分辨率像素以及沿着水平方向的对角HR像素生成的。基于方向性分析,不同权重被赋予相对应的方向插值结果。对两个方向插值结果的加权滤波被应用以生成垂直HR像素。
图8图示出了方向性分析。“1”表示对角HR像素,并且“3”表示垂直HR像素。六个邻近LR像素被用于方向性分析。每个LR像素由多个HR像素共享。整体方向性分析的复杂度显著地减小。
在上面的描述中,针对垂直HR像素和水平HR像素生成分离地计算水平权重和垂直权重。由于垂直HR像素和水平HR像素都紧邻相同的LR像素,因此,这样的假设是合理的:针对它们的方向性是相同的。为了进一步减小复杂度,可以再使用权重信息。即,如果首先获得了垂直HR像素的权重,则这些权重也用于水平HR像素的生成。如果首先获得了水平HR像素的权重,则这些权重也应用于垂直HR像素的生成。
图9图示出了被配置来实现升频方法的示例计算设备900的框图。计算设备900能够用来获取、存储、计算、传送和/或显示诸如图像和视频之类的信息。例如,计算设备900获取图像或视频,然后升频方法改善图像/视频的表现。一般地,适合于实现计算设备900的硬件结构包括网络接口902、存储器904、处理器906、一个或多个I/O设备908、总线910和存储设备912。处理器的选择不是关键性的,只要选择具有足够速度的合适处理器即可。存储器904可以是本领域公知的任何传统计算机存储器。存储设备912可以包括硬盘驱动、CDROM、CDRW、DVD、DVDRW、闪存卡或任何其它存储设备。计算设备900可以包括一个或多个网络接口902。网络接口的示例包括连接到以太网或其它类型的LAN的网络卡。一个或多个I/O设备908可以包括一个或多个下述设备:键盘、鼠标、监视器、显示器、打印机、调制解调器、触敏屏、按钮接口以及其它设备。用来执行升频方法的一个或多个升频应用930有可能被存储在存储设备912和存储器904中,并且如应用通常被处理那样被处理。图9所示的更多或更少的组件可以包括在计算设备900中。在一些实施例中,包括升频硬件920。虽然图9中的计算设备900包括用于升频的应用930和硬件920,然而,可以在计算设备上用硬件、固件、软件或它们的任意组合来实现升频方法。
在一些实施例中,一个或多个升频应用930包括若干个应用和/或模块。在一些实施例中,一个或多个升频应用930包括方向性分析模块932、对角模块934、水平模块936、垂直模块938和组合模块940。
如上所述,方向性分析模块932确定每个像素的方向。对角模块934生成对角高分辨率像素。水平模块936生成水平高分辨率像素。垂直模块938生成垂直高分辨率像素。组合模块940将对角高分辨率像素、水平高分辨率像素和垂直高分辨率像素组合起来以形成高分辨率数字内容。
合适的计算设备的示例包括个人计算机、膝上型计算机、计算机工作站、服务器、大型计算机、手持计算机、个人数字助理、蜂窝/移动电话、智能型家电、游戏控制台、数码相机、数字摄录机、相机电话、视频播放器、DVD刻录机/播放器、电视机、家庭娱乐系统或任何其它合适的计算设备。
为了利用升频方法,计算设备照常操作,但是视频/图像被改善了,因为图像或视频被改善为更高质量。从用户的角度看,计算设备的使用与使用标准操作的计算设备类似或相同。例如,用户仍然简单地打开数字摄录机并使用该摄录机记录视频。升频方法能够自动地改善视频的质量而不用用户干预。升频方法能够被用在需要图像和/或视频处理的任何地方。许多应用能够使用升频方法,包括但不限于DVD视频质量改善、数字图像质量改善以及数字视频质量改善。
在操作时,升频实现方式使能了与图像/视频处理有关的许多改善。通过对较低质量的图像/视频进行升频,尤其在边缘,获得了更好的图像/视频结果。这里描述的低复杂度升频实现方式包括:利用双向滤波、双侧自适应插值、使用向量差的方向性分析、使用权重生成的方向性分析以及信息再使用来生成高分辨率像素。实现方式还包括对角HR像素生成、水平HR像素生成和垂直HR像素生成。另外,双侧自适应插值包括:计算两个单侧插值结果以确定转变主导水平,从而确定两个单侧插值结果的权重。双侧自适应插值利用转变主导水平来确定两个单侧插值结果的权重。双侧自适应插值还包括对两个单侧插值结果进行加权滤波以获得最终插值结果。双侧自适应插值包括单线边缘检测。基于向量差的方向性分析包括计算对角HR像素的对角方向差。基于向量差的方向性分析还包括计算水平HR像素的水平和垂直方向差。基于向量差的方向性分析还包括计算垂直HR像素的水平和垂直方向差。基于方向性分析的权重生成包括计算用于对角HR像素生成的权重。基于方向性分析的权重生成也包括计算用于水平和垂直HR像素生成的权重。因此,升频的具体实现方式通过避免交叠伪像同时保持复杂度较低而成为在现有技术上的改进实现方式。
已根据包括了辅助理解本发明的构建原理和操作的细节的具体实施例描述了本发明。这里对具体实施例及其细节的这种引用不希望限制所附权利要求的范围。在不脱离如权利要求所限定的本发明的精神和范围的情况下,本领域技术人员容易想到可以对被选择用于说明的实施例进行其它的各种修改。
Claims (15)
1.一种计算设备上改善数字内容的质量的方法,包括:
a.对所述数字内容执行方向性分析;
b.生成对角高分辨率像素;
c.生成水平高分辨率像素;
d.生成垂直高分辨率像素;
e.组合所述对角高分辨率像素、所述水平高分辨率像素和所述垂直高分辨率像素以形成高分辨率数字内容。
2.如权利要求1所述的方法,其中
a.生成对角高分辨率像素包括:
i.沿着45°方向和135°方向应用双侧自适应插值以获得对角中间值;并且
ii.进行双向滤波以组合所述对角中间值,从而基于两个对角方向分析生成最终的对角高分辨率像素;以及
b.生成垂直高分辨率像素包括:
i.沿着垂直方向应用多抽头插值以获得垂直中间值;并且
ii.进行双向滤波以组合所述垂直中间值,从而基于垂直方向分析生成最终的垂直高分辨率像素;以及
c.生成水平高分辨率像素包括:
i.沿着水平方向应用多抽头插值以获得水平中间值;并且
ii.进行双向滤波以组合所述水平中间值,从而基于水平方向分析生成最终的水平高分辨率像素。
3.如权利要求2所述的方法,其中,所述双侧自适应插值包括:
a.计算两个单侧插值结果;
b.对所述两个单侧插值结果进行加权滤波以获得最终的插值结果;
c.计算两个单侧转变主导水平;并且
d.基于所述转变主导水平计算两个单侧权重。
4.如权利要求1所述的方法,其中,所述对角高分辨率像素是从沿着45°方向和135°方向的邻近低分辨率像素生成的。
5.如权利要求1所述的方法,其中,所述水平高分辨率像素是从沿着水平方向的邻近低分辨率像素以及沿着垂直方向的对角高分辨率像素生成的。
6.如权利要求2所述的方法,其中,双向滤波还包括:
a.计算方向向量差;并且
b.基于所述方向向量差计算方向权重。
7.如权利要求6所述的方法,其中,如果在针对所述垂直高分辨率像素获得所述方向权重之前针对所述水平高分辨率像素获得了所述方向权重,则当生成所述垂直高分辨率像素时,再使用所述方向权重。
8.如权利要求6所述的方法,其中,如果在针对所述水平高分辨率像素获得所述方向权重之前针对所述垂直高分辨率像素获得了所述方向权重,则当生成所述水平高分辨率像素时,再使用所述方向权重。
9.如权利要求1所述的方法,其中,所述垂直高分辨率像素是从沿着垂直方向的邻近低分辨率像素以及沿着水平方向的对角高分辨率像素生成的。
10.一种利用计算设备实现的用于改善数字内容的质量的系统,包括:
a.方向性分析模块,所述方向性分析模块被配置为对所述数字内容执行方向性分析;
b.对角模块,所述对角模块可操作地耦合到所述方向性分析模块,所述对角模块被配置为生成对角高分辨率像素;
c.水平模块,所述水平模块可操作地耦合到所述对角模块,所述水平模块被配置为生成水平高分辨率像素;
d.垂直模块,所述垂直模块可操作地耦合到所述水平模块,所述垂直模块被配置为生成垂直高分辨率像素;以及
e.组合模块,所述组合模块可操作地耦合到所述垂直模块,所述组合模块被配置为组合所述对角高分辨率像素、所述水平高分辨率像素和所述垂直高分辨率像素以形成高分辨率数字内容。
11.如权利要求10所述的系统,其中
a.所述对角模块还被配置为:
i.沿着45°方向和135°方向应用双侧自适应插值以获得对角中间值;并且
ii.进行双向滤波以组合所述对角中间值,从而基于两个对角方向分析生成最终的对角高分辨率像素;以及
b.所述垂直模块还被配置为:
i.沿着垂直方向应用多抽头插值以获得垂直中间值;并且
ii.进行双向滤波以组合所述垂直中间值,从而基于垂直方向分析生成最终的垂直高分辨率像素;以及
c.所述水平模块还被配置为:
i.沿着水平方向应用多抽头插值以获得水平中间值;并且
ii.进行双向滤波以组合所述水平中间值,从而基于水平方向分析生成最终的水平高分辨率像素。
12.如权利要求11所述的系统,其中,所述双侧自适应插值包括:
a.计算两个单侧插值结果;
b.对所述两个单侧插值结果进行加权滤波以获得最终的插值结果;
c.计算两个单侧转变主导水平;并且
d.基于所述转变主导水平计算两个单侧权重,
其中,所述对角高分辨率像素是从沿着45°方向和135°方向的邻近低分辨率像素生成的。
13.如权利要求11所述的系统,其中,生成所述双向滤波还包括:
a.计算方向向量差;并且
b.基于所述方向向量差计算方向权重。
14.如权利要求13所述的系统,其中:
a.如果在针对所述水平高分辨率像素获得所述方向权重之前针对所述垂直高分辨率像素获得了所述方向权重,则当生成所述水平高分辨率像素时,再使用所述方向权重;以及
b.如果在针对所述垂直高分辨率像素获得所述方向权重之前针对所述水平高分辨率像素获得了所述方向权重,则当生成所述垂直高分辨率像素时,再使用所述方向权重。
15.如权利要求11所述的系统,其中:
a.所述垂直高分辨率像素是从沿着垂直方向的邻近低分辨率像素以及沿着水平方向的对角高分辨率像素生成的。
b.所述水平高分辨率像素是从沿着水平方向的邻近低分辨率像素以及沿着垂直方向的对角高分辨率像素生成的。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/283,855 | 2008-09-15 | ||
US12/283,855 US20100067818A1 (en) | 2008-09-15 | 2008-09-15 | System and method for high quality image and video upscaling |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101677358A true CN101677358A (zh) | 2010-03-24 |
CN101677358B CN101677358B (zh) | 2012-08-08 |
Family
ID=41130234
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2009101736882A Expired - Fee Related CN101677358B (zh) | 2008-09-15 | 2009-09-15 | 用于高质量图像和视频升频的系统和方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20100067818A1 (zh) |
EP (1) | EP2164040B1 (zh) |
JP (2) | JP2010067272A (zh) |
CN (1) | CN101677358B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107993213A (zh) * | 2017-12-14 | 2018-05-04 | 北京慧摩尔科技有限公司 | 一种去锯齿图像缩放器及其去锯齿方法 |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012191465A (ja) | 2011-03-11 | 2012-10-04 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP2012208553A (ja) * | 2011-03-29 | 2012-10-25 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP2012234507A (ja) | 2011-04-20 | 2012-11-29 | Sony Corp | 画像処理装置および方法、並びにプログラム |
CN102521803B (zh) * | 2011-11-29 | 2013-12-11 | 青岛海信信芯科技有限公司 | 图像缩放中的抗锯齿失真方法及装置 |
CN102750668B (zh) * | 2012-07-04 | 2014-07-02 | 西南交通大学 | 结合局部方向特征的数字图像三倍插值放大方法 |
JP6009903B2 (ja) | 2012-10-24 | 2016-10-19 | シャープ株式会社 | 画像処理装置 |
CN104871206A (zh) * | 2012-12-19 | 2015-08-26 | 马维尔国际贸易有限公司 | 用于数字图像的自适应缩放的系统和方法 |
US9317903B1 (en) * | 2013-08-27 | 2016-04-19 | Pixelworks, Inc. | Self-similarity based single frame super-resolution |
KR101506396B1 (ko) | 2013-09-13 | 2015-03-26 | 조선대학교산학협력단 | 영상 보간 시스템 및 그 영상 보간 방법 |
US9269129B1 (en) * | 2013-12-13 | 2016-02-23 | Pixelworks, Inc. | Two-dimensional digital transient improvement |
US9305338B1 (en) * | 2013-12-13 | 2016-04-05 | Pixelworks, Inc. | Image detail enhancement and edge sharpening without overshooting |
WO2020184461A1 (ja) * | 2019-03-08 | 2020-09-17 | 株式会社Jvcケンウッド | 動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム、動画像復号装置、動画像復号方法及び動画像復号プログラム |
US10849723B1 (en) * | 2019-05-07 | 2020-12-01 | Sdc U.S. Smilepay Spv | Scanning device |
WO2023154109A1 (en) * | 2022-02-10 | 2023-08-17 | Innopeak Technology, Inc. | Methods and systems for upscaling video graphics |
Family Cites Families (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5094899A (en) * | 1990-09-06 | 1992-03-10 | Owens-Corning Fiberglas Corporation | High r super insulation panel |
JPH05207271A (ja) * | 1992-01-24 | 1993-08-13 | Matsushita Electric Ind Co Ltd | 画像拡大装置 |
DE4342305A1 (de) * | 1993-12-11 | 1995-06-29 | Thomson Brandt Gmbh | Verfahren zur hierarchischen Bewegungsschätzung in einem Fernsehsignal |
KR100287211B1 (ko) * | 1994-08-30 | 2001-04-16 | 윤종용 | 양방향 움직임 추정방법 및 장치 |
US5638128A (en) * | 1994-11-08 | 1997-06-10 | General Instrument Corporation Of Delaware | Pixel interpolation filters for video decompression processor |
US5852475A (en) * | 1995-06-06 | 1998-12-22 | Compression Labs, Inc. | Transform artifact reduction process |
WO1997023844A1 (en) * | 1995-12-21 | 1997-07-03 | Philips Electronics N.V. | Directional adaptive noise reduction |
JP4159606B2 (ja) * | 1996-05-24 | 2008-10-01 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 動き推定 |
KR100204334B1 (ko) * | 1996-07-05 | 1999-06-15 | 윤종용 | 표시모드 변환기능을 갖는 비디오신호 변환장치 및 그 장치를 구비한 표시장치 |
JP4065462B2 (ja) * | 1997-12-26 | 2008-03-26 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP4097815B2 (ja) * | 1998-11-24 | 2008-06-11 | 株式会社リコー | 画像処理装置および画像処理方法 |
US6658059B1 (en) * | 1999-01-15 | 2003-12-02 | Digital Video Express, L.P. | Motion field modeling and estimation using motion transform |
EP1050850A1 (en) * | 1999-05-03 | 2000-11-08 | THOMSON multimedia | Process for estimating a dominant motion between two frames |
JP2002024815A (ja) * | 2000-06-13 | 2002-01-25 | Internatl Business Mach Corp <Ibm> | 拡大画像データに変換するための画像変換方法、画像処理装置、および画像表示装置 |
JP2002077595A (ja) * | 2000-08-24 | 2002-03-15 | Seiko Epson Corp | ディジタル画像変倍方法およびディジタル画像変倍処理プログラムを記録した記録媒体 |
US6987893B2 (en) * | 2001-01-05 | 2006-01-17 | Lg Electronics Inc. | Image interpolation method and apparatus thereof |
JP4806849B2 (ja) * | 2001-01-15 | 2011-11-02 | ソニー株式会社 | 画像処理装置および方法、プログラム、並びに記録媒体 |
JP2002319020A (ja) * | 2001-04-24 | 2002-10-31 | Fuji Xerox Co Ltd | 画像処理装置および画像処理方法 |
EP1294194B8 (en) * | 2001-09-10 | 2010-08-04 | Texas Instruments Incorporated | Apparatus and method for motion vector estimation |
JP2003230010A (ja) * | 2001-11-30 | 2003-08-15 | Ricoh Co Ltd | 画像処理装置及び画像処理方法 |
JP2005538464A (ja) * | 2002-09-11 | 2005-12-15 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 画像変換のためのユニット及びその方法 |
KR20050085554A (ko) * | 2002-12-10 | 2005-08-29 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 코딩된 디지털 영상에 대한 해상도 또는 선명도 향상과아티팩트 감소의 결합 |
US7349583B2 (en) * | 2003-09-05 | 2008-03-25 | The Regents Of The University Of California | Global motion estimation image coding and processing |
US20050094899A1 (en) * | 2003-10-29 | 2005-05-05 | Changick Kim | Adaptive image upscaling method and apparatus |
JP4133746B2 (ja) * | 2003-11-06 | 2008-08-13 | 富士フイルム株式会社 | 補間画素値算出方法および装置並びにプログラム |
US20050100235A1 (en) * | 2003-11-07 | 2005-05-12 | Hao-Song Kong | System and method for classifying and filtering pixels |
US7437013B2 (en) * | 2003-12-23 | 2008-10-14 | General Instrument Corporation | Directional spatial video noise reduction |
US7545391B2 (en) * | 2004-07-30 | 2009-06-09 | Algolith Inc. | Content adaptive resizer |
EP1647937A1 (en) * | 2004-10-15 | 2006-04-19 | Sony Deutschland GmbH | Method for motion estimation |
ES2307210T3 (es) * | 2004-11-16 | 2008-11-16 | Koninklijke Philips Electronics N.V. | Renderizacion de imagenes basandose en segmentacion de imagenes. |
US7620261B2 (en) * | 2004-11-23 | 2009-11-17 | Stmicroelectronics Asia Pacific Pte. Ltd. | Edge adaptive filtering system for reducing artifacts and method |
JP4600011B2 (ja) * | 2004-11-29 | 2010-12-15 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
FR2887711A1 (fr) * | 2005-06-23 | 2006-12-29 | Thomson Licensing Sa | Procede de codage et decodage hierarchique |
US9013511B2 (en) * | 2006-08-09 | 2015-04-21 | Qualcomm Incorporated | Adaptive spatial variant interpolation for image upscaling |
-
2008
- 2008-09-15 US US12/283,855 patent/US20100067818A1/en not_active Abandoned
-
2009
- 2009-08-18 EP EP09252006A patent/EP2164040B1/en not_active Not-in-force
- 2009-09-14 JP JP2009211283A patent/JP2010067272A/ja active Pending
- 2009-09-15 CN CN2009101736882A patent/CN101677358B/zh not_active Expired - Fee Related
-
2012
- 2012-12-25 JP JP2012280978A patent/JP2013109769A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107993213A (zh) * | 2017-12-14 | 2018-05-04 | 北京慧摩尔科技有限公司 | 一种去锯齿图像缩放器及其去锯齿方法 |
CN107993213B (zh) * | 2017-12-14 | 2021-08-27 | 天津鹿鹿通健康科技有限公司 | 一种去锯齿图像缩放器及其去锯齿方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2010067272A (ja) | 2010-03-25 |
JP2013109769A (ja) | 2013-06-06 |
US20100067818A1 (en) | 2010-03-18 |
EP2164040B1 (en) | 2013-01-16 |
EP2164040A1 (en) | 2010-03-17 |
CN101677358B (zh) | 2012-08-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101677358B (zh) | 用于高质量图像和视频升频的系统和方法 | |
US6928196B1 (en) | Method for kernel selection for image interpolation | |
US7151863B1 (en) | Color clamping | |
JP2609263B2 (ja) | テレビジョン画像における運動の測定方法及び装置 | |
WO2009130820A1 (ja) | 画像処理装置、表示装置、画像処理方法、プログラムおよび記録媒体 | |
US8335394B2 (en) | Image processing method for boundary resolution enhancement | |
US20130034299A1 (en) | Robust Patch Regression based on In-Place Self-similarity for Image Upscaling | |
US9565414B2 (en) | Efficient stereo to multiview rendering using interleaved rendering | |
JP2000188680A (ja) | 高解像度画像の生成方法及びシステム | |
US8730268B2 (en) | Image processing systems and methods | |
KR100860968B1 (ko) | 해상도 향상 장치 및 방법 | |
CN101491080A (zh) | 用于图像去噪和可控去模糊的保曲率滤波器 | |
JPH0793927B2 (ja) | 超音波カラードプラ診断装置 | |
CN103685858A (zh) | 视频实时处理的方法及设备 | |
CN101087436A (zh) | 视频信号的时间噪声分析 | |
US20100260435A1 (en) | Edge Directed Image Processing | |
He et al. | An approach of canny edge detection with virtual hexagonal image structure | |
Chang et al. | Edge directional interpolation for image upscaling with temporarily interpolated pixels | |
Okuhata et al. | Implementation of super-resolution scaler for Full HD and 4K video | |
Feng et al. | Applying holo360 video and image super-resolution generative adversarial networks to virtual reality immersion | |
Yang et al. | Video frame interpolation based on depthwise over-parameterized recurrent residual convolution | |
US20170287206A1 (en) | Method and apparatus for processing three-dimensional image data | |
RJ et al. | A Detailed Study on Image Super Resolution for Satellite and Medical Application. | |
AU759341B2 (en) | Method for kernel selection for image interpolation | |
Jahnavi et al. | A Comparative Study Of Super-Resolution Interpolation Techniques: Insights For Selecting The Most Appropriate Method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C17 | Cessation of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20120808 Termination date: 20130915 |