CN102484726A - 块假象减少器 - Google Patents

块假象减少器 Download PDF

Info

Publication number
CN102484726A
CN102484726A CN2010800332562A CN201080033256A CN102484726A CN 102484726 A CN102484726 A CN 102484726A CN 2010800332562 A CN2010800332562 A CN 2010800332562A CN 201080033256 A CN201080033256 A CN 201080033256A CN 102484726 A CN102484726 A CN 102484726A
Authority
CN
China
Prior art keywords
intensity
frame
signal
filter
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2010800332562A
Other languages
English (en)
Other versions
CN102484726B (zh
Inventor
福-图厄·莱丁
肖恩-塔姆·莱丁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of CN102484726A publication Critical patent/CN102484726A/zh
Application granted granted Critical
Publication of CN102484726B publication Critical patent/CN102484726B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Picture Signal Circuits (AREA)

Abstract

本发明提供一种块假象减少系统。根据本发明一些实施例的用于减少图像序列中的块假象的设备包含:运动检测单元,其从图像信号的第一帧和所述图像信号的第二帧检测运动信号;块边界偏移与基于运动的校正确定BOMCS单元,其基于所述第二帧确定块边界位置且基于所述第二帧和所述运动信号确定校正强度;以及强度滤波器,其基于所述块边界位置和所述校正强度对所述第二帧进行滤波以输出经校正图像信号。

Description

块假象减少器
相关申请案
本申请案主张2009年7月21日申请的第61/227,415号美国临时申请案和2010年7月12日申请的第12/834,731号美国非临时申请案的优先权,以上两个申请案以全文引用的方式并入本文。
技术领域
本发明涉及数字图像处理,且更具体来说涉及减少经块编码的图像中的块假象。
背景技术
基于块的离散余弦变换(DCT)是用于包含ITU-T H261、H263、H264、ISO JPEG、MPEG-1和MPEG-2的许多标准视频压缩方法的压缩技术。为了执行DCT,首先将图像划分为若干块。将DCT应用于所述块中的每一者的每一行和列以产生变换系数矩阵。在典型的变换系数矩阵中,每一块中的(0,0)元素是DC(零频率)分量,且具有增加的垂直和水平索引值的条目表示图像的较高的垂直和水平空间频率。
基于块的DCT的一个常见问题在于其在以低位速率压缩图像时可产生可感知的假象。一种此类假象是在图像的平滑色调区中尤其可见的块结构外观。在图像序列中,压缩编码器中的不足够的位速率分配也可加剧快速移动区中或场景改变期间的成块假象。虽然存在用于块假象减少(BAR)的现存技术,但大多数现存方法需要已知的或可容易检测的块边界和/或块大小。然而,例如剪切和多代再编码等一些常见的图像操纵可使得难以检测块边界位置。当未使用适当的操纵技术来产生图像(在例如在线视频流式传输等媒体中常见)时,块边界信息经常失真或丢失。由此,无法使用许多已知的用于BAR的方法。
因此,需要提供有效的块假象减少方法,其较适合于具有未知块大小的图像序列且还能够减少快速移动区中的成块假象。
发明内容
提供一种块假象减少系统。根据本发明一些实施例的用于减少图像序列中的块假象的设备包含:运动检测单元,其从图像信号的第一帧和所述图像信号的第二帧检测运动信号;块边界偏移与基于运动的校正确定(BOMCS)单元,其基于所述第二帧确定块边界位置且基于所述第二帧和所述运动信号确定校正强度;以及强度滤波器,其基于所述块边界位置和所述校正强度对所述第二帧进行滤波以输出经校正图像信号。
根据本发明一些实施例的用于减少图像序列中的块假象的方法包含:根据图像信号的第一帧和图像信号的第二帧确定运动信号;根据所述第二帧确定块边界位置;根据所述第二帧和所述运动信号确定校正强度;以及根据所述块边界位置和所述校正强度对所述第二帧进行滤波以输出经校正图像信号。
下文参见附图进一步论述本发明的这些和其它实施例。
附图说明
图1a展示与本发明一致的块假象减少器的实施例的框图。
图1b展示与本发明一致的块假象减少器的另一实施例的框图。
图2展示与本发明一致的高运动检测的实施例的框图。
图3展示与本发明一致的嵌入运动估计和高运动检测单元的实施例的框图。
图4展示与本发明一致的块边界偏移与基于运动的校正强度检测单元的框图。
图5a展示可与本发明的一些实施例一起利用的高频和边缘保留自适应滤波器的框图。
图5b展示与本发明一致的高频和边缘保留自适应滤波器的实施例的框图。
图6展示与本发明一致的垂直强度自适应窗滤波单元的实施例的框图。
图7展示与本发明一致的水平强度自适应窗滤波单元的实施例的框图。
具体实施方式
成块效应是通常因基于块的编解码器在相对低的位速率下工作引起的视觉假象。在经解码图像上可见的正方形或矩形结构使原始图像失真。块结构在相对平色调区中和快速移动区中尤其显著。
与本发明一致的块假象减少(BAR)滤波器的一些实施例提供了使成块假象与运动信息相关而无需明显知晓图像的块边界位置的方法。因此,根据本发明的一些实施例的BAR滤波器能够将通常仅空间的BAR变换为时间和空间自适应算法以用于成块假象检测和校正两者。为了减少成块假象,根据本发明的BAR滤波器的一些实施例还取决于图像分段、块边界的强度以及全局和局部运动量来调整每像素滤波强度。
图1a展示与本发明一致的用于减少成块效应的BAR滤波器10的实施例。BAR滤波器10包含运动检测单元6、块边界偏移与基于运动的校正强度确定(BOMCS)单元7,以及强度滤波单元5。BAR滤波器10接收图像信号X(t)12和所述信号的经帧延迟版本X(t-1)11。运动检测单元16将信号X(t)10与X(t-1)11进行比较以输出运动估计信号EMEC 21。EMEC 21表示图像信号X(t)10与X(t-1)11之间的运动估计。BOMCS单元17使用线检测来检测图像信号X(t)的块边界位置Bloc 17。将线检测的结果累加以确定图像信号X(t)10中的块边界的普遍性。将块边界的普遍性与一组预定值进行比较以确定图像信号X(t)的压缩等级。随后通过根据运动估计信号EMEC 21按比例缩放压缩等级来确定校正强度CS 22信号。强度滤波单元15从BOMCS 7接收块边界位置Bloc 17和校正强度CS 22。强度滤波单元15根据CS 22对图像信号X(t)10中的由Bloc 17识别为在块边界上的像素进行滤波以产生经块假象校正的图像信号Xout 16。由此,Xout 16是基于时间和空间信息两者来校正,其与常规的仅空间BAR方法相比可较有效地减少成块假象。
图1b展示与本发明一致的用于减少成块假象的BAR滤波器100的另一实施例。Bar滤波器100包含预滤波单元101、图像强度分段(IIS)单元102、高频与边缘保留自适应滤波器(HEPAF)103、垂直强度自适应窗滤波器(VIAWF)104、水平强度自适应窗滤波器(HIAWF)105、高运动检测单元106,以及块边界偏移与基于运动的校正强度确定(BOMCS)单元107。
图1b中所示的BAR滤波器100具有两个输入:图像数据Y(t)112和经帧延迟的图像数据Y(t-1)111。将经帧延迟的图像数据Y(t-1)111供应到高运动检测单元106;将图像数据Y(t)112供应到BOMCS单元107和预滤波单元101。预滤波单元101是噪声减少滤波器,其对图像数据Y(t)112进行滤波以产生经预滤波的图像数据Ytmp 113供IIS单元102、VIAWF单元104和HFEPAF 103使用。预滤波单元101可为若干已知的噪声滤波器,例如随机噪声或蚊式噪声滤波器,或多个滤波器的组合。
高运动检测单元106将两个图像数据信号Y(t)与Y(t-1)进行比较以产生局部高运动选择信号120和嵌入运动估计计数(EMEC)信号121。IIS单元102接收经预滤波图像信号113和局部高运动选择信号120以产生自适应阈值119。BOMCS单元107接收EMEC信号121和图像数据Y(t)以产生水平块边界位置信号117和垂直块边界位置信号118,以及块边界检测强度CS信号122。HFEPAF单元103对经预滤波的图像信号Ytmp 113进行滤波以将经自适应强度滤波信号Yadp 114供应到VIAWF 104。VIAWF 104根据经自适应强度滤波信号Yadp 114、自适应阈值119、校正强度信号112和水平块边界位置信号117对经预滤波图像信号Ytmp 113进行滤波以产生垂直校正值Yvert 115。HIAWF单元105根据自适应阈值119、垂直块边界位置信号118和校正强度信号112进一步对垂直校正值Yvert 115进行滤波。HIAWF 105产生输出信号116,输出信号116是经校正图像信号且是来自BAR系统100的输出信号。
在图1b中,表示图像Y(t)111及其帧延迟版本Y(t-1)112的输入数据是图像亮度强度信号。图像数据的色度输入是以类似于亮度输入的方式来处理,但色度输入使用不同的取样模式。由此,省略针对色度信号对BAR系统的详细描述,因为其与BAR系统100大体上相同。
参考图2到7进一步详细描述可在图1b中利用的元件102到107中的每一者的实施例。
虽然图1b中的BAR系统100的实施例包含用于随机噪声和蚊式噪声减少的预滤波单元101,但在另一实施例中可省略预滤波单元101,且可将图像信号Y(t)直接供应到IIS单元102、VIAWF单元104和HFEPAF单元103。BAR系统100也可为用于处理各种假象的后解码器处理器的一部分。
图2展示与本发明的一些实施例一致的高运动检测(HDM)单元106的实施例。HMD单元106利用了在高对比度和快速移动区中变得较明显的成块效应。虽然真实运动向量估计可执行类似的功能,但其在大多数实例中成本都不必要地高,即使在MPEG位流存取的情况下也是如此。HDM单元106利用图像差和形状自适应窗平均技术来用于运动强度估计。将图像信号Y(t)111及其帧延迟版本Y(t-1)112应用于HMD 106。由于图像信号大体上噪声较高,因此通过2D LP滤波器602对从Y(t)和Y(t-1)产生的图像差Yd 611进行滤波以产生经滤波差信号Yfd 612。
滤波器602可为提供适当衰减的任一低通滤波器。在一些实施例中,在LP滤波器602中可利用以下脉冲响应中的一者:
7 7 7 7 8 7 7 7 7 / 256 . - - - ( 1 )
3 4 3 4 4 4 3 4 3 / 32 . - - - ( 2 )
将经滤波信号Yfd 612提供到形状自适应窗(SAW)603。SAW 603操作以将窗中的像素分类为2组:具有在低于或高于中心参考像素的给定阈值(SAW阈值)内的值的像素,和不在所述范围内的像素。形状自适应窗的第一输出613是像素相似度ωs。第二输出614是窗中的相似像素的数目Ns的倒数值。举例来说,如果Y是对窗603的输入信号,那么这些定义可如下表达:
1 / Ns = 1 / ( Σ i Σ j ω s ) .
SAW 603的输出信号613和614由局部平均值计算单元604使用以用于计算高噪声图像差Yd 611的局部平均值。因为输出信号615可能仍噪声较高,所以即使在静止区中,也可使用具有阈值MTh 616的取心系统605。取心系统605以绝对值输出Mest-Y-abs617,其可为在运动向量长度和信号强度方面的估计运动强度。取心系统利用的技术可类似于嵌入运动估计。将局部运动估计信号Mest-Y-abs 617提供到局部运动检测单元609,其使用阈值Local-Mot-Th来产生局部运动检测(LMOT)信号618。Mest-Y-abs 617还经过具有阈值Bar-Mot-Th的基于帧的运动检测单元606。累加器607对检测到的运动事件进行计数,且输出嵌入运动估计计数(EMEC)信号121,所述EMEC信号121提供到全局检测单元608和参看图3更详细描述的微处理器731。具有预定阈值Global-Th的全局运动检测单元608接收EMEC信号121且输出全局运动检测(GMOT)信号619。对于低等待时间操作,全局检测单元619的结果可用于下一输入图像帧。AND门610组合LMOT 618与GMOT 619以产生高运动选择信号120。将高运动选择信号120提供到如图1b中所示的强度自适应窗滤波单元104和103。
在一些实施例中,基于帧的运动检测单元606使用32的阈值Bar-Mot-Th。在一些实施例中,局部运动检测单元609使用8的阈值Local-Mot-Th。在一些实施例中,局部运动检测单元608使用32的阈值Global-Th。其它阈值也可用于这些单元。大体上,较大的阈值导致对输入图像的较多校正。
图3说明如图1b中所示的块边界偏移与基于运动的校正强度(BOMCS)单元107。高噪声图像Y(t)111和来自HDM 106的基于帧的嵌入运动估计计数EMEC 121是BOMCS 107的两个输入。BOMCS 107产生块边界位置信号117和118以及基于帧的校正强度信号122。图1b中所示的经滤波和噪声减少的Ytmp 113可在一些实施例中代替Y(t)用作输入。
将传入的图像信号Y(t)提供到垂直线检测器701和水平线检测器702。垂直线检测器701和水平线检测器702可利用任何边缘检测滤波器。举例来说,可分别利用以下脉冲响应:
- 1 2 - 1 - 2 4 - 2 - 1 2 - 1 - 1 - 2 - 1 2 4 2 - 1 - 2 - 1 - - - ( 4 )
或者,垂直和水平线检测器也可通过以下对来描述:
- 1 2 - 1 - 1 2 - 1 - 1 2 - 1 - 1 - 1 - 1 2 2 2 - 1 - 1 - 1 - - - ( 5 )
将滤波器输出751发送到垂直边界测试703以用初步方式确定像素是否在垂直边界上。垂直边界测试703操作以减少错误检测,且可基于信号751的振幅和正负号。将针对像素坐标(x,y)的所得二进制输出753发送到水平计数器705到720。每次对应于[x]模数的一个水平计数器705到720是作用中的。每一计数器存储图像的一个像素列中的可能在垂直边界上的像素的数目的计数。类似地,将滤波器输出752发送到水平边界测试704以初步地确定像素是否在水平边界上。将针对像素坐标(x,y)的所得二进制输出754发送到垂直计数器721到736。每次对应于[y]模数的仅一个垂直计数器是作用中的。每一计数器存储图像的一个像素行中的可能在水平边界上的像素的数目的计数。
将计数器输出Ch0-15和Cv0-15发送到集成微处理器731用于进一步分析。分析包含两个部分:块边界偏移检测(BOD)750和自动块假象索引(ABAI)750。
自动块假象索引ABAI 752计算主要是基于两个类型的指示器:1)基于帧的嵌入运动估计计数器EMEC 121和2)基于帧的计数器Ch0-Ch15和Cv0-Cv15的群组。确定基于帧的计数器Ch0-Ch15和Cv0-Cv15中的最普遍者可指示最可能的块假象偏移。为此,ABAI首先使经累加计数器的值相关以凭经验预先确定表示各种“成块”等级的值。通过测量在整个标准内容集合中从多个压缩等级发源的主观成块假象来获得这些预定值。通过使块偏移计数器集合匹配于最佳地表示压缩等级或(相反地)成块程度的集合,可获得自动的基于帧的块校正强度。
然而,由于此自动块校正强度值可能出于若干原因(图片群组(GOP)结构、过敏感检测模块等等)而在两个或两个以上连续帧之间显著波动,因此可在微处理器731中维持自动块校正强度历史。通过自动块校正强度历史,跨越多个帧保持自动块校正强度以在较简单的应用中获得渐进平均值以最小化处理波动。而且,如果已知成块假象在第一组帧上与在第二组帧上相比更明显,那么可将其应用的块校正强度映射到检测到的GOP结构。这可使用检测所获取值的周期性(如果存在)的二次存储历史来实现。
EMEC信号121随后可用以调制自动块校正强度以产生校正强度(CS)。在一些实施例中,CS保持在渐进平均值的某一范围内。通过表示从帧到帧存在的运动量,考虑EMEC 121以:1)当检测到高运动时提升所应用的校正强度,或2)缓和GOP周期性检测。
BOD 750提供边界偏移,且根据在基于帧的计数器Ch0-15和Cv0-15中恢复的值来产生水平边界位置信号117和垂直边界位置信号118。高计数器值指示块边界的可能位置。来自GOP和BOD的输出用以控制图1b中所示的垂直强度自适应窗滤波单元(VIAWF)104和水平强度自适应窗滤波单元(HIAWF)105。
BOD 750可通过软件来实施。ABAI 752的软件实施方案可与BOD 750并行地执行,且结合嵌入运动估计计数器121使用相同的计数器来决定基于每帧所需的滤波强度。
图4展示图1b中所示的图像强度分段(IIS)单元102的框图。IIS单元102提供图像分类卡204和阈值图205以确定用于图1b中所示的两个强度自适应窗滤波单元104和105的自适应阈值119。IIS单元102具有输入信号Ytmp 113,其提供到边缘检测(ED)单元201、局部标准偏差估计器(LSDE)202和受保护高频检测器(PHFD)203。
ED单元201可为高性能边缘检测器。或者,ED单元201可简单地基于索贝尔(Sobel)或普瑞维特(Prewitt)算子或者索贝尔或普瑞维特罗盘。索贝尔和普瑞维特算子在切里·阿卜杜拉·K(Cherri,Abdallah K)和卡里姆·默罕默德(Karim,Mohammad)的“光学符号代换——使用普瑞维特、索贝尔和罗伯茨算子的边缘检测(Optical symbolic substitution-Edge detection using Prewitt,Sobel,and Roberts operators)”(应用光学(ISSN0003-6935),1989年11月1日,第28卷,第4644-4648页)中详细描述,其以全文引用方式并入本文。在ED单元201的一些实施例中,可利用用于4个方向的3x3索贝尔罗盘。将输入信号Ytmp 113与索贝尔或普瑞维特算子进行卷积以计算输入信号Ytmp 113在每一像素处的图像强度。结果展示图像在所述像素处改变的“突然”或“平滑”程度,且因此展示图像的所述部分表示边缘的可能程度。
索贝尔和普瑞维特算子均使用两个3×3核心(一个用于水平改变,且一个用于垂直改变),所述核心与原始图像进行卷积以计算导数的近似。如果我们将A界定为源图像,且Gx和Gy是在每一点处含有水平和垂直导数近似的两个图像,那么如下计算索贝尔算子:
G y = + 1 + 2 + 1 0 0 0 - 1 - 2 - 1 * A G x = + 1 0 - 1 + 2 0 - 2 + 1 0 - 1 * A - - - ( 6 )
如下计算普瑞维特算子:
G x = - 1 0 + 1 - 1 0 + 1 - 1 0 + 1 * A G y = - 1 - 1 - 1 0 0 0 + 1 + 1 + 1 * A - - - ( 7 )
在通过计算的索贝尔或普瑞维特卷积的绝对值的和输出之后,可应用阈值比较器和一些基于二进制上下文的滤波器以移除经隔离的决策和/或添加丢失的决策。ED单元201随后将边缘检测的结果作为二进制信号211提供到强度图像分类(IIC)单元204。
LSDE单元202估计输入信号Ytmp 113的局部标准偏差。可利用滑动窗来改善估计的精度。LSDE 202中的滑动窗可利用将像素分为两个群组的局部分段:具有在距中心参考像素的阈值内的值的像素,和在所述范围外的像素。仅关于经分类为在阈值范围内的像素来计算平均值和标准偏差。LSDE输出212应用于IIC单元204。
PHFD单元203产生保护图信号213,其识别高频图像区中待受保护以免受校正的像素。PHFD 203接收输入信号Ytmp 113,且可基于拉普拉斯3x3滤波器、阈值比较器,以及添加和移除二进制滤波器。举例来说,在PHFD 203中使用的可能的拉普拉斯滤波器的脉冲响应可如下给出:
- 1 - 2 - 1 - 2 12 - 2 - 1 - 2 - 1 / 8 . - - - ( 8 )
在使用8位图像数据的实施例中,阈值可设定为48。对于10位图像输入,阈值可乘以4以实现相似结果。也可使用其它高频检测方法。PHFD 203输出检测图213,其指示图像输入Ytmp的像素高频区域。
强度图像分类(IIC)单元204使用来自ED 201、LSDE 202和PHFD 203的输入来将图像信号Ytmp的像素分段为若干类。在五类的实施例中,类或区可为:无校正、纹理、边缘、低纹理和平坦区。由保护图213识别的像素处于无校正类中。ED单元201识别为在边缘上的像素处于边缘类中。其余像素被分为纹理、低纹理和平坦区的类,这取决于其与由LSDE 202计算的局部平均值和局部标准偏差的值相比的相对值。随后将IIC 204的输出信号214发送到阈值图设定单元205。
阈值图设定单元205将IIC 204输出214转换为一组基本阈值215。在八位图像输入实施例中,基本阈值可如下:
无校正-阈值=0
纹理-阈值=2
边缘-阈值=3
低纹理-阈值=6
平坦-阈值=12                                    (9)
在替代实施例中可使用不同的值。
在运动增益控制单元206中进一步调整阈值信号215,运动增益控制单元206组合基本阈值与运动信息。运动增益可为例如1、1.5、2或4,这取决于可变增益值216。可变增益可例如通过用户接口获得,通过确定输入图像的一般质量(又影响增益)的预处理分析块来选择,或者可以软件或其它方式预设。由图1b和2中所示的高运动检测单元106供应的局部高运动选择信号120控制是否应用可变增益。局部高运动选择信号120确定是否将阈值215乘以运动增益216或输出图像分段基本值215作为自适应阈值119。将图像强度分段(IIS)102的自适应阈值信号输出119发送到如图1b中说明的垂直强度自适应窗滤波(VIAWF)单元104和水平强度自适应窗滤波(HIAWF)单元105。
图5a展示边缘保留自适应滤波器103a的框图。大体上,边缘保留自适应滤波器103a可用作细节保留高性能噪声减少器(NR)。图5a中说明的边缘保留自适应滤波器接收Ytmp 113作为输入信号,且是基于并联连接的四个方向性低通(LP)滤波器LP0°320、LP45°322、LP90°324和LP135°326。这些滤波器的滤波器脉冲响应包括三个分支(1,2,1)/4。细节保留自适应滤波器在B·拉玛莫西(B.Ramamurthi)和A·格申(A.Gersho)的“经块编码图像的非线性空间变型(Nonlinear Space-variant for block coded images)”(1986年10月,ASSP-34卷,第1258-1268页)中描述且以全文引用方式并入本文。将来自LP滤波器320、322、324和326的输出信号和未经滤波的输入信号Ytmp 113应用于基于方向的滤波器选择器328,其是通过由方向与保护决策单元223输出的方向图301来驱动。作为噪声减少器,图5a中所示的配置具有一些缺点。首先,滤波是在除明显受保护区之外的所有其它区上实施。另外,仅对块边界进行滤波可能不足以抵消成块假象。因此需要更有效地减少成块假象的系统。
图5b展示与本发明的解决图3a所示实施例的缺点的某个实施例一致的高频与边缘保留自适应滤波器(HEPAF)103b的实施例的框图。图5b中所示的HEPAF单元103b是基于使均方误差最小且适合于蚊式噪声减少的形状自适应窗滤波器的噪声减少单元。在HEPAF 103b中,将输入信号Ytmp 113应用于2D低通滤波器301、平均值计算单元303、减法器306以及方差计算单元304。3x3低通滤波器301的实例可通过以下脉冲响应来实现:
1 2 1 2 4 2 1 2 1 / 4 . - - - ( 10 )
也可使用其它噪声减少滤波器。将低通信号输出Y 311提供到滑动形状自适应窗(SAW)302。SAW 302操作以将窗中的像素分类为2组,类似于先前参见图2描述的SAW 603。SAW 302输出表示像素相似度的第一输出ωij 312和作为窗中的相似像素数目N的倒数值的第二输出313。将来自SAW 302的两个输出提供到方差计算单元304和平均值计算单元303。
平均值计算单元303提供在相似强度像素组上界定的局部平均值强度输出Ym 314:
Y m = Σ i Σ j Y ij ω ij / N . - - - ( 11 )
方差计算单元304是在相似强度像素组上界定以提供信号方差值315。大体上,信号方差可如下界定
Figure BPA00001498574500111
也可使用平均值和方差计算的其它方法。
将信号方差315、噪声方差316和图2中所示的保护图213应用于增益计算单元305。噪声方差316可由用户输入界定且提供对滤波的强度的调整。由于SAWF是边缘保留滤波器,因此针对高频保护的修改(如果需要)包括在增益计算单元305中将增益K 317设定为等于1。更具体来说,增益的表达可如下给出:
如果保护图213=1,那么K=1                                (9)
否则,
Figure BPA00001498574500112
由于噪声方差不会超过信号方差,因此K约束于0与1之间。因此,噪声方差直接控制由保护图213界定的区域中除‘1’之外的‘混和’因数K。
如图5b说明,信号输出Yadp 114如下给出:
Yadp=Ym+K(Ytmp-Ym)。(11)
其由功能单元306、307和308实施。由此,如果像素在保护图213上,K 317等于1,且Yadp=Ytmp,意味着信号Ytemp 113未经滤波且输出作为信号Yadp 114。否则,根据增益值K来调整Ym以产生Yadp。将Yadp发送到如图1b中所示的垂直强度自适应窗滤波单元104。虽然在图1b中展示HEPAF 103b,但在一些实施例中,如果Y(t)噪声足够低或单独的预滤波单元101足以用于噪声减少,那么可省略HEPAF(103a或103b)。在此情况下,可通过添加用于等待时间补偿的适当延迟来旁路HEPAF 103,且经延迟的Y(t)111或Ytmp 113可直接用作Yadp 114。
图6展示垂直强度自适应窗滤波(VIAWF)单元104的实施例。将图像信号输入Ytmp 113应用于垂直强度自适应窗(VIAW)401和垂直平均值计算(VMC)单元402。VIAWF单元104是基于具有等于0的增益K的SAWF和垂直1D滑动窗。滑动窗的尺寸是根据经优化的系统性能来选择;所述尺寸可为例如5x1。VIAW 401取决于像素与中心参考像素强度是否具有相似强度而将像素分类为两个群组。基于像素的分类阈值是从先前描述的图像分段单元102和高运动检测单元106提供的自适应阈值信号119。如果阈值足够高,那么窗中的相似像素的数目可大于1。VIAW 401提供两个输出410和411,类似于等式(3)中呈现的描述相似SAW滤波器的VIAW。输出410和411由垂直平均值计算单元402使用以计算垂直局部平均值Yvm 412。将垂直局部平均值Yvm 412和来自HFEPAF单元103的经自适应强度滤波Yadp 114与校正强度(CS)122和来自BOMCS单元107的水平块边界位置信号117通过混合器403进行组合以提供垂直校正值Yvert115,使得
在水平边界处,Yvert=Yadp+(Yvm-Yadp).CS                    (12)
在别处,Yvert=Yadp。                                      (13)
由此,当CS经最大化且等于1时,校正最大化(Yvert=Yvm)。
现在参见图7,将来自VIAWF 104的垂直校正信号Yvert 115应用于水平强度自适应窗滤波HIAWF单元105。HIAWF 105包含水平强度自适应窗501和水平平均值计算单元502。HIAWF 501类似于参见图6描述的VIAWF而起作用,但不同的是在水平强度自适应窗501中使用的窗501是1D水平窗。而且,由于两个垂直和水平滤波系统是串联耦合,因此仅供应垂直校正图像信号Yvert 115作为图像输入。Yhm表示平均值计算单元502的水平平均值信号输出512,且信号输出Yout 116由以下表达式给出:
在垂直边界遮蔽处,Yout=Yvert+(Yhm-Yvert).CS,             (17)
在别处,Yout=Yvert。                                      (18)
通过垂直强度自适应窗滤波单元104和水平强度自适应窗滤波单元105,在块边界隅角处垂直和水平地执行校正两次。
水平强度自适应窗滤波单元105输出Yout 116,其为Bar系统100的块假象经校正图像信号输出。
Bar系统100使用时间信息来按比例缩放块边界校正的校正强度122。还利用时间信息来调整分别应用于VIAWF 104和HFEPAF 105中的自适应阈值强度自适应窗401和502的增益。通过在通常仅空间BAR中使用运动信息,BAR系统100能够在成块假象的检测和校正方面利用时间和空间自适应算法来减少图像序列中的块假象。
上文仅出于说明性目的描述本发明的实施例。虽然描述实施例的元件,但这些元件可通过硬件、软件来实施。大体上,本发明的实施例可在能够处理图像的任一装置上实施。虽然在实施例的描述中给出示范性阵列维度和各种值,但在不脱离本发明精神的情况下可利用其它维度和值。所属领域的技术人员可从具体揭示的那些实施例中认识到各种替代实施例。那些替代实施例既定在本发明的范围内。由此,本发明仅受所附权利要求书的限制。

Claims (20)

1.一种用于减少图像序列中的块假象的设备,其包括:
运动检测单元,其从图像信号的第一帧和所述图像信号的第二帧检测运动信号;
块边界偏移与基于运动的校正确定BOMCS单元,其基于所述第二帧确定块边界位置且基于所述第二帧和所述运动信号确定校正强度;以及
强度滤波器,其基于所述块边界位置和所述校正强度对所述第二帧进行滤波以输出经校正图像信号。
2.根据权利要求1所述的设备,其中所述BOMCS单元基于在所述第二帧中检测到的块边界的普遍性而确定所述第二帧的压缩等级,且通过调制与所述压缩等级和所述运动信号相关联的校正值来确定所述校正强度。
3.根据权利要求1所述的设备,其中所述BOMCS单元存储所述图像信号的多个帧上的校正强度历史,且至少部分地基于所述校正强度历史来确定所述校正强度。
4.根据权利要求3所述的设备,其中所述BOMCS单元存储校正强度周期性历史,且至少部分地基于所述校正强度周期性历史来确定所述校正强度。
5.根据权利要求1所述的设备,其中所述强度滤波器包含垂直强度自适应窗滤波器和水平强度自适应窗滤波器,所述垂直强度自适应窗滤波器和水平强度自适应窗滤波器顺序地对所述第二帧进行滤波。
6.根据权利要求1所述的设备,其进一步包括:
图像强度分段单元,其使用所述图像信号的所述第一帧确定自适应阈值信号;
其中所述强度滤波器包含强度自适应窗滤波器,且所述自适应阈值信号用作所述强度自适应窗滤波器的自适应阈值。
7.根据权利要求6所述的设备,其中所述运动检测单元确定局部高运动选择信号,且增益被施加于用于通过所述局部高运动选择信号选择的像素的所述自适应阈值信号。
8.根据权利要求6所述的设备,其中所述图像强度分段单元将所述第二帧分段为各自对应于一自适应阈值信号值的区。
9.根据权利要求1所述的设备,其进一步包括预滤波单元,所述预滤波单元减少所述图像信号的原始第二帧的噪声以输出所述第二帧。
10.根据权利要求1所述的设备,其进一步包括细节保留自适应滤波器,所述细节保留自适应滤波器对所述图像信号进行滤波且将自适应图像信号输出到所述强度滤波器,其中所述强度滤波器针对所述图像信号的未由所述块边界位置指示为在块边界上的区输出所述自适应图像信号。
11.一种用于减少图像序列中的块假象的方法,其包括:
根据图像信号的第一帧和图像信号的第二帧确定运动信号;
根据所述第二帧确定块边界位置;
根据所述第二帧和所述运动信号确定校正强度;以及
根据所述块边界位置和所述校正强度对所述第二帧进行滤波以输出经校正图像信号。
12.根据权利要求11所述的方法,其中确定所述校正强度包括:
基于在所述第二帧中检测到的块边界的普遍性而确定所述第二帧的压缩等级;以及
调制与所述压缩等级和所述运动信号相关联的校正值以输出所述校正强度。
13.根据权利要求11所述的方法,其进一步包括:
存储所述图像信号的多个帧上的校正强度历史;其中所述确定所述校正强度是至少部分地基于所述校正强度历史。
14.根据权利要求13所述的方法,其进一步包括:
存储校正强度周期性历史;
其中所述确定所述校正强度是至少部分地基于所述校正强度周期性历史。
15.根据权利要求11所述的方法,其中所述对所述第二帧进行滤波包括:
使用垂直强度自适应窗滤波器对所述第二帧进行滤波以输出垂直校正第二帧;以及
使用水平强度自适应窗滤波器对所述第二帧进行滤波以输出所述经校正图像。
16.根据权利要求11所述的方法,其进一步包括:
将所述第二帧分段为若干区;以及
向每一区指派自适应阈值信号值以输出自适应阈值信号;
其中强度滤波器包含强度自适应窗滤波器,且所述自适应阈值信号用作所述强度自适应窗滤波器的自适应阈值。
17.根据权利要求16所述的方法,其进一步包括:
根据所述第一和第二帧确定局部高运动选择信号;以及
将增益施加于用于通过所述局部高运动选择信号选择的像素的所述自适应阈值信号。
18.根据权利要求16所述的方法,其进一步包括:
对原始图像信号进行滤波以输出所述图像信号的所述第二帧。
19.根据权利要求11所述的方法,其进一步包括:使用保留自适应滤波器对图像数据进行滤波且将自适应图像信号输出到所述强度滤波器,其中输出所述自适应图像信号作为针对所述图像信号的未由块边界位置信号指示为在块边界上的区的所述经校正图像信号。
20.一种用于减少基于块的代码图像中的成块假象的设备,其包括:
运动检测单元,其根据图像信号的第一帧和图像信号的第二帧确定运动估计信号和局部高运动选择信号;
块边界偏移与基于运动的校正确定BOMCS单元,其基于所述第二帧确定垂直和水平块边界位置且基于所述第二帧和所述运动信号确定校正强度;
图像强度分段单元,其将所述第二帧分段为若干区且输出向所述区中的每一者指派阈值的自适应阈值信号;以及
垂直强度自适应窗滤波器和水平强度自适应窗滤波器,其根据所述自适应阈值信号和所述校正强度来顺序地对由所述块边界位置指示的像素进行滤波。
CN201080033256.2A 2009-07-21 2010-07-20 块假象减少器 Expired - Fee Related CN102484726B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US22741509P 2009-07-21 2009-07-21
US61/227,415 2009-07-21
US12/834,731 2010-07-12
US12/834,731 US8363974B2 (en) 2009-07-21 2010-07-12 Block artifact reducer
PCT/US2010/042650 WO2011011449A1 (en) 2009-07-21 2010-07-20 Block artifact reducer

Publications (2)

Publication Number Publication Date
CN102484726A true CN102484726A (zh) 2012-05-30
CN102484726B CN102484726B (zh) 2015-03-25

Family

ID=43497380

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080033256.2A Expired - Fee Related CN102484726B (zh) 2009-07-21 2010-07-20 块假象减少器

Country Status (6)

Country Link
US (1) US8363974B2 (zh)
EP (1) EP2457380A4 (zh)
JP (1) JP5512813B2 (zh)
KR (1) KR101284469B1 (zh)
CN (1) CN102484726B (zh)
WO (1) WO2011011449A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102890823B (zh) * 2011-07-19 2016-04-27 株式会社东芝 运动对象轮廓提取及左心室图像分割方法和装置
IN2013MU01146A (zh) * 2013-03-26 2015-04-24 Tektronix Inc
KR102211592B1 (ko) * 2014-03-19 2021-02-04 삼성전자주식회사 전자 장치 및 이의 영상 처리 방법
US10834349B2 (en) * 2017-07-06 2020-11-10 Canon Kabushiki Kaisha Solid-state image sensor, image capturing apparatus and image capturing method
CN114022433B (zh) * 2021-10-28 2023-12-29 大连理工大学 碳纤维复合材料出口分层损伤鲁棒性视觉检测方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1272286A (zh) * 1998-05-22 2000-11-01 松下电器产业株式会社 数据块噪声检测装置及数据块噪声消除装置
CN1286575A (zh) * 1999-08-25 2001-03-07 松下电器产业株式会社 噪声检测方法、噪声检测装置及图象编码装置
JP2005012641A (ja) * 2003-06-20 2005-01-13 Matsushita Electric Ind Co Ltd ブロックノイズ検出装置及びそれを用いたブロックノイズ除去装置
US20050207492A1 (en) * 2004-03-18 2005-09-22 Sony Corporation And Sony Electronics Inc. Methods and apparatus to reduce blocking noise and contouring effect in motion compensated compressed video
US20060050783A1 (en) * 2004-07-30 2006-03-09 Le Dinh Chon T Apparatus and method for adaptive 3D artifact reducing for encoded image signal
CN101047858A (zh) * 2006-03-27 2007-10-03 富士通株式会社 块噪声检测方法和设备以及块噪声降低方法和设备
CN101123726A (zh) * 2006-08-07 2008-02-13 株式会社东芝 视频解码设备和方法

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9214664D0 (en) * 1992-07-10 1992-08-19 Wiggins Teape Group Ltd Watermark detection
EP0585573A3 (en) * 1992-08-31 1994-07-13 Ibm System and method for suppressing blocking artifacts in decoded transform coded images
US6122065A (en) * 1996-08-12 2000-09-19 Centre De Recherche Industrielle Du Quebec Apparatus and method for detecting surface defects
JPH11205792A (ja) * 1998-01-14 1999-07-30 Sony Corp ブロック歪低減方法及び装置
JP4383581B2 (ja) * 1998-05-22 2009-12-16 パナソニック株式会社 ブロックノイズ検出装置およびブロックノイズ除去装置
US7054500B1 (en) * 2000-12-06 2006-05-30 Realnetworks, Inc. Video compression and decompression system with postfilter to filter coding artifacts
JP2002204457A (ja) * 2000-12-28 2002-07-19 Matsushita Electric Ind Co Ltd 映像信号処理装置
DE02744176T1 (de) * 2001-05-24 2005-01-13 New Objective, Inc., Woburn Verfahren und vorrichtung für elektrospray mit rückkopplungsregelung
WO2002102086A2 (en) * 2001-06-12 2002-12-19 Miranda Technologies Inc. Apparatus and method for adaptive spatial segmentation-based noise reducing for encoded image signal
US6919892B1 (en) * 2002-08-14 2005-07-19 Avaworks, Incorporated Photo realistic talking head creation system and method
US7027054B1 (en) * 2002-08-14 2006-04-11 Avaworks, Incorporated Do-it-yourself photo realistic talking head creation system and method
WO2006010275A2 (en) * 2004-07-30 2006-02-02 Algolith Inc. Apparatus and method for adaptive 3d noise reduction
US7865035B2 (en) * 2005-10-06 2011-01-04 Samsung Electronics Co., Ltd. Video quality adaptive coding artifact reduction
JP4455487B2 (ja) * 2005-12-16 2010-04-21 株式会社東芝 復号化装置及び復号化方法及びプログラム
US7911538B2 (en) * 2006-04-06 2011-03-22 Samsung Electronics Co., Ltd. Estimation of block artifact strength based on edge statistics
JP2007336075A (ja) * 2006-06-13 2007-12-27 Victor Co Of Japan Ltd ブロック歪み低減装置
JP4931215B2 (ja) * 2007-01-24 2012-05-16 キヤノン株式会社 画像処理装置及びその方法
JP4847890B2 (ja) 2007-02-16 2011-12-28 パナソニック株式会社 符号化方式変換装置
JP5082549B2 (ja) * 2007-03-30 2012-11-28 ソニー株式会社 映像信号処理装置と映像信号処理方法
JP2009088867A (ja) * 2007-09-28 2009-04-23 Victor Co Of Japan Ltd 画像処理装置
US20090129473A1 (en) * 2007-11-19 2009-05-21 Samsung Electronics Co., Ltd. System and method for adjusting compression noise reduction based on global and local motion detection
US8295367B2 (en) 2008-01-11 2012-10-23 Csr Technology Inc. Method and apparatus for video signal processing

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1272286A (zh) * 1998-05-22 2000-11-01 松下电器产业株式会社 数据块噪声检测装置及数据块噪声消除装置
CN1286575A (zh) * 1999-08-25 2001-03-07 松下电器产业株式会社 噪声检测方法、噪声检测装置及图象编码装置
JP2005012641A (ja) * 2003-06-20 2005-01-13 Matsushita Electric Ind Co Ltd ブロックノイズ検出装置及びそれを用いたブロックノイズ除去装置
US20050207492A1 (en) * 2004-03-18 2005-09-22 Sony Corporation And Sony Electronics Inc. Methods and apparatus to reduce blocking noise and contouring effect in motion compensated compressed video
US20060050783A1 (en) * 2004-07-30 2006-03-09 Le Dinh Chon T Apparatus and method for adaptive 3D artifact reducing for encoded image signal
CN101047858A (zh) * 2006-03-27 2007-10-03 富士通株式会社 块噪声检测方法和设备以及块噪声降低方法和设备
CN101123726A (zh) * 2006-08-07 2008-02-13 株式会社东芝 视频解码设备和方法

Also Published As

Publication number Publication date
WO2011011449A1 (en) 2011-01-27
JP5512813B2 (ja) 2014-06-04
EP2457380A4 (en) 2015-07-29
EP2457380A1 (en) 2012-05-30
JP2013500624A (ja) 2013-01-07
KR20120034808A (ko) 2012-04-12
US20110019934A1 (en) 2011-01-27
CN102484726B (zh) 2015-03-25
KR101284469B1 (ko) 2013-07-09
US8363974B2 (en) 2013-01-29

Similar Documents

Publication Publication Date Title
US7542623B2 (en) Image processing apparatus and method, and computer program and computer-readable storage medium
CN1170304A (zh) 用于减少阻塞效应和跳动噪声的信号自适应后处理方法
CN101478637A (zh) 基于历史的空间-时间噪声降低
US8780976B1 (en) Method and apparatus for encoding video using granular downsampling of frame resolution
US8885969B2 (en) Method and apparatus for detecting coding artifacts in an image
US6975777B1 (en) Apparatus and method of block noise detection and reduction
EP2294829A1 (en) Video quality measurement
US20130279598A1 (en) Method and Apparatus For Video Compression of Stationary Scenes
CN102484726A (zh) 块假象减少器
US20150237375A1 (en) Moving image coding apparatus, moving image coding method, storage medium, and integrated circuit
US7054500B1 (en) Video compression and decompression system with postfilter to filter coding artifacts
US8265138B2 (en) Image processing apparatus, method and integrated circuit used in liquid crystal display by processing block velocity of noisy blocks
US20120177301A1 (en) Method and apparatus for removing image blocking artifact by using transformation coefficient
US5787207A (en) Method and apparatus for minimizing blockiness in reconstructed images
US20040223652A1 (en) Characterization of motion of moving objects in video
US20050078873A1 (en) Movement detection and estimation in wavelet compressed video
JPH04321391A (ja) 画像符号化装置
EP1402736B1 (en) Method and decoder for processing a digital video signal
US6980599B2 (en) Video decoding system and method having post-processing to reduce sharpness prediction drift
GB2207829A (en) Transform coding a video signal
JP2015091126A (ja) 画像及びビデオの視知覚変換コーディング
US20080187237A1 (en) Method, medium, and system reducing image block noise
KR100212124B1 (ko) 저비트율 부호화된 영상 데이터의 복호화 방법
KR20070026507A (ko) 디코딩된 비디오에서 아티팩트들을 감소시키기 위한알고리즘
US20090060361A1 (en) Method for processing a macro block of image data

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20150325

Termination date: 20190720