CN101272495B - 用于传输基于分组的图像帧的方法和装置 - Google Patents

用于传输基于分组的图像帧的方法和装置 Download PDF

Info

Publication number
CN101272495B
CN101272495B CN2008100881329A CN200810088132A CN101272495B CN 101272495 B CN101272495 B CN 101272495B CN 2008100881329 A CN2008100881329 A CN 2008100881329A CN 200810088132 A CN200810088132 A CN 200810088132A CN 101272495 B CN101272495 B CN 101272495B
Authority
CN
China
Prior art keywords
frame
prediction frame
data partition
prediction
fec
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2008100881329A
Other languages
English (en)
Other versions
CN101272495A (zh
Inventor
权世颜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of CN101272495A publication Critical patent/CN101272495A/zh
Application granted granted Critical
Publication of CN101272495B publication Critical patent/CN101272495B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/65Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M13/00Coding, decoding or code conversion, for error detection or error correction; Coding theory basic assumptions; Coding bounds; Error probability evaluation methods; Channel models; Simulation or testing of codes
    • H03M13/35Unequal or adaptive error protection, e.g. by providing a different level of protection according to significance of source information or by adapting the coding according to the change of transmission channel characteristics
    • H03M13/356Unequal error protection [UEP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/65Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience
    • H04N19/66Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience involving data partitioning, i.e. separation of data into packets or partitions according to importance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/65Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience
    • H04N19/67Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience involving unequal error protection [UEP], i.e. providing protection according to the importance of the data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

一种用于传输基于分组的图像帧的方法和装置,该方法包括:将输入图像划分为帧内预测帧和帧间预测帧,并编码帧内预测帧和帧间预测帧;对帧内预测帧和帧间预测帧应用不同的错误恢复算法;并且根据相应的错误恢复算法,对帧内预测帧和帧间预测帧执行前向纠错(FEC)。根据本发明的各方面,当图像数据被传输时,可依照各帧的特性执行最佳纠错。因此,可以简单并有效地实现用于防止移动环境的错误的强大的图像流传输业务。

Description

用于传输基于分组的图像帧的方法和装置
技术领域
本发明的各方面涉及一种用于传输基于分组的图像帧的方法和装置,并且更具体地涉及一种方法和装置,其用于通过将输入图像划分为帧内(intra)预测帧和帧间(inter)预测帧、对帧内预测帧和帧间预测帧应用不同的错误恢复(resilience)算法、并且对每个帧执行前向纠错(FEC)而传输图像帧。
背景技术
在有线或无线的环境中,在流传输(streaming)视频时,随着时间的推移通信信道改变并且突发错误频繁发生。因此,可能难以确保视频数据的服务质量(QoS)或者体验质量(QoE)。
而且,通常,在预定时间内输入和输出数据的实时流传输系统中,接收端的视频数据的呈现时间受限。并且,接收端的视频数据的呈现时间通过利用在预设时间内操作并依赖于时间特性的外部设备的系统操作(如互操作)而限制。因此,通过自动重复请求(ARQ)的QoS可能同样难以确保。
因此,已经提出防止音频/视频(A/V)数据在错误信道环境中传输时出现错误的各种方法。特别地,这些方法大多数可应用于移动环境(如因特网协议电视(IPTV)和移动电视(TV))中,其中视频流传输数据基于因特网协议(IP)网络传输。
在基于分组的网络环境中,前向纠错(FEC)是一种编码传输数据以允许数据的错误可被检测并可被校正的算法。因此,接收端可以对该数据执行纠错。通常,当错误在网络环境中产生时,接收端执行ARQ。然而大多数的A/V数据(如流传输数据)按照远程桌面协议(RDP)或用户数据报协议(UDP)传输,因此防止ARQ执行。尽管A/V数据可以被重发,但是如果分组晚于其要显示的时间到达,则该分组实际上为丢失分组。如上所述,FEC在数据重发不被允许或无效时执行。
图1是示出传统的传输图像帧的方法的图。参照图1,网络系统包括发送端110和接收端120。在发送端110中,当图像源111输入图像时,图像编码器112编码该输入图像。然后,分组处理单元113根据实时传送协议(RTP)分组该编码的图像数据以便传输该编码的图像数据。接下来,在图像数据被通过网络接口单元115向外传输前,FEC处理单元114将纠错所需的代码插入图像数据中。在接收端120中执行相反处理。从网络接口单元121到FEC处理单元122到分组处理单元123到图像解码器124执行相反处理。最后,该图像数据被显示单元125再现。
在此情形中,发送端110的图像编码器112可对N个相邻图像数据块执行运动预测,并且通过接收关于网络信道环境的报告而控制帧内更新率。该帧内更新为对少量宏块执行帧内编码以防止错误在各传输的帧之间传播的算法。
FEC处理单元114可以通过接收关于各帧之间的运动和网络信道环境的报告而确定FEC编码类型。在传统的传输方法中,应用了通过使用依照比特率、分组丢失率和突发错误长度而预先确定的操作表格而固定的FEC类型和帧内更新率。
然而,上述的传统方法存在下述问题。首先,传统方法不考虑应用到视频编码器(特别的,H.264技术)的错误恢复算法。错误恢复算法包括:冗余分片方法,其中冗余数据以片单元传输;帧内刷新(refresh)方法,其中帧内编码依照预先定义的标准被执行;备用画面方法,其中如果参考画面中存在与具有错误的宏块类似的宏块,则通过使用包括相应的宏块的画面执行重建(restoration);灵活宏块排序(FMO)方法,其中画面被划分为8片或更少的片组;多参考画面方法,其中通过从多个参考图像中选择来防止错误传播;拟定(draft)噪声建模方法,其中噪声的传播程序基于错误率而建模;和多解码方法,其中编码器在假定多个解码器的情况下统计地计算错误。
通常,视频数据传输中画面组(GOP)的结构是:多个P帧置于I帧后,而该I帧以预定的间隔频繁安排。此处,I帧和P帧具有完全不同的特性。因此,纠错必须根据I帧和P帧的特性而适当地执行。
此外,传统方法贯注于实时传输并且不适于先前存储的内容,如视频点播(video on demand,VOD)数据。另一方面,如果方法贯注于VOD数据,则该FEC可能不适合应用于网络环境中。
发明内容
本发明的各方面提供了一种用于传输图像帧的方法和装置,该图像帧通过将输入图像划分为帧内和帧间预测帧、对帧内和帧间预测帧应用不同的错误恢复算法、并且对每帧执行前向纠错(FEC)而适当纠错。
根据本发明的一方面,提供了一种传输基于分组的图像帧的方法,上述方法包括:将输入图像划分为一个或多个帧内预测帧和一个或多个帧间预测帧,并编码上述帧内预测帧和帧间预测帧;对上述一个或多个帧内预测帧应用第一错误恢复算法,和对上述一个或多个帧间预测帧应用第二错误恢复算法;并且对基于该第一错误恢复算法的该一个或多个帧内预测帧、和对基于第二错误恢复算法的该一个或多个帧间预测帧执行FEC。
该第一错误恢复算法可以是灵活(flexible)宏块排序(FMO)方法。
该FEC的执行可包括插入Reed-Solomon(R-S)码,并且该R-S码基于在帧传输时分组的多个突发错误、传输带宽和分组的错误率而确定。
该第二错误恢复算法可以是数据分区(DP)方法。
该FEC的执行可包括:计算帧间预测帧的运动等级;基于该运动等级对该帧间预测帧执行该FEC;并且对多个帧间预测帧中第一数据分区到第三数据分区中的每一个执行该FEC。
依照本发明的另一方面,提供了一种用于传输基于分组的图像帧的装置,该装置包括:图像编码器,用于将输入图像划分为一个或多个帧内预测帧和一个或多个帧间预测帧,并且编码该帧内和帧间预测帧;预处理单元,对一个或多个帧内预测帧应用第一错误恢复算法,和对一个或多个帧间预测帧应用第二错误恢复算法;和后处理单元,对基于该第一错误恢复算法的一个或多个帧内预测帧、和对基于该第二错误恢复算法的一个或多个帧间预测帧执行前向纠错(FEC)。
该预处理单元的第一错误恢复算法可以为灵活宏块排序(FMO)方法。
该后处理单元可以对从预处理单元接收的帧插入Reed-Solomon(R-S)码,并且该R-S码可基于在帧传输时分组的多个突发错误、传输带宽和分组的错误率而确定。
该预处理单元的第二错误恢复算法可以是数据分区(DP)方法。
该DP方法可以包括将一帧间预测帧划分为:第一数据分区,其包括该帧间预测帧的运动向量;第二数据分区,其包括该帧内预测的剩余数据;和第三数据分区,其包括该帧间预测的剩余数据。
该后处理单元可以包括:运动等级分类器,以计算该帧间预测帧的运动等级;第一纠错单元,基于运动等级对该帧间预测帧执行FEC;和第二纠错单元,对多个帧间预测帧中的第一数据分区到第三数据分区中的每一个执行该FEC。
该运动等级分类器可以通过使用在帧间预测帧中具有非零运动向量的多个宏块、该帧间预测帧的宏块的运动向量的平均值、以及帧间预测帧的分组大小中的至少一个来计算该运动等级。
当该运动等级大于预定的阈值时,该第一纠错单元可以执行FEC。
该第二纠错单元可以基于R-S码来执行FEC,该R-S码通过使用在帧间预测帧中具有比阈值更大运动等级的多个帧、该帧间预测帧的宏块的运动向量平均值、以及帧间预测帧的分组大小的至少一个而确定。
该第二纠错单元可以对帧间预测帧中的第一数据分区执行更密集(intensive)的FEC。
依照本发明的另一方面,提供了一种计算机可读记录介质,其上记录用于执行传输基于分组的图像帧的方法的计算机程序。
依照本发明的另一方面,提供了一种用于传输基于分组的图像帧的系统,该系统包括:发送该基于分组的图像帧的发送端,该发送端包括:图像编码器,用于将输入图像划分为一个或多个帧内预测帧和一个或多个帧间预测帧,并且编码该一个或多个帧内预测帧和该一个或多个帧间预测帧;预处理单元,用于对该一个或多个帧内预测帧执行第一错误恢复算法,并且对该一个或多个帧间预测帧执行第二错误恢复算法;和后处理单元,对依照第一错误恢复算法的一个或多个帧内预测帧、和依照第二错误恢复算法的一个或多个帧间预测帧执行前向纠错(FEC);以及接收端,用于接收该一个或多个帧内预测帧和一个或多个帧间预测帧,其中如果帧内预测帧未被接收或损坏,则该接收端执行空间隐藏(concealment)方法,并且如果帧间预测帧未被接收或损坏,则该接收端执行空间隐藏和/或时间隐藏方法。
依照本发明的另一方面,提供了一种用于传输基于分组的图像帧的方法,该方法包括:划分输入图像为一个或多个帧内预测帧和一个或多个帧间预测帧,并且编码上述一个或多个帧内预测帧和一个或多个帧间预测帧;对一个或多个帧内预测帧应用第一错误恢复算法,并且对一个或多个帧间预测帧应用第二错误恢复算法;对依照第一错误恢复算法的一个或多个帧内预测帧、和依照第二错误恢复算法的一个或多个帧间预测帧执行前向纠错(FEC);发送该一个或多个帧内预测帧和该一个或多个帧间预测帧;在接收端接收该一个或多个帧内预测帧和该一个或多个帧间预测帧;并且如果帧内预测帧未被接收或损坏,则该接收端执行空间隐藏方法,并且如果帧间预测帧未被接收或损坏,则该接收端执行空间隐藏方法和/或时间隐藏方法。
依照本发明的另一方面,提供了一种传输基于分组的图像帧的方法,该方法包括:将输入图像划分为具有第一特性的第一帧和具有区别于第一特性的第二特性的第二帧,并且编码该第一帧和该第二帧;对第一帧执行第一错误恢复算法,并且对第二帧执行第二错误恢复算法;和对依照第一错误恢复算法的该第一帧和依照第二错误恢复算法的该第二帧执行前向纠错(FEC)。
本发明的其他方面和/或优点部分地将在下面的说明中提出,并且部分地将从说明而显而易见,或者可以通过本发明的实践而学习到。
附图说明
从下面结合附图对各实施例的描述,本发明的这些和/或其他方面将变得明显和更易于理解,附图中:
图1是示出传统的传输图像帧的方法的图;
图2是示出根据本发明的实施例、传输基于分组的图像帧的方法的流程图;
图3是示出根据本发明的实施例、周期性地包括参考宏块的P帧的示意图;
图4是示出根据本发明的实施例、网络抽象层(NAL)的报头的数据结构的图;
图5是示出根据本发明的实施例、传输基于分组的图像帧的详细方法的流程图;
图6是示出根据本发明的实施例、当错误恢复算法应用于I帧和P帧时的示例的图;
图7是示出根据本发明的实施例、当对I帧执行前向纠错(FEC)时的示例的图;
图8是示出根据本发明的实施例、当对P帧执行FEC时的示例的图;
图9是示出根据本发明的另一实施例、当对P帧执行FEC时的示例的图;
图10是示出根据本发明的实施例、用于传输基于分组的图像帧的装置的框图。
具体实施方式
现在将详细参照本发明的本实施例,其示例在附图中示出,其中遍及全文相同的参考标记指代相同的元件。以下,通过参照附图描述各实施例以便解释本发明。
图2是示出根据本发明的实施例、传输基于分组的图像帧的方法的流程图。参照图2,输入图像被划分为帧内预测帧和帧间预测帧。在操作210中该帧内预测帧和帧间预测帧被编码。然后,在操作220中对上述帧内预测帧和帧间预测帧应用不同的错误恢复算法。接下来,在操作230中根据应用的错误恢复算法对各帧执行前向纠错(FEC)。更详细地,上述H.264技术中使用的错误恢复算法依照图像数据的类型和图像数据是帧内预测帧还是帧间预测帧而应用。并且,考虑帧内预测帧和帧间预测帧的不同特性,通过对每个帧最优来对帧内预测帧和帧间预测帧执行FEC。现在将描述对每个帧内预测帧和帧间预测帧应用错误恢复算法和执行FEC。
图3是示出根据本发明的实施例、周期性地包括参考宏块的P帧的图。依照本发明的各方面,帧内预测帧可以为I帧,并且帧间预测帧可以为P帧或者B帧,虽然并不限于此。然而,为便于表述,将仅描述帧间预测帧为P帧的情形。
在编码帧的画面组(GOP)的结构中,多个P帧被置于I帧之后,使得从在前帧执行预测的P帧中出现的错误通过其他P帧而被连续传播至下一个I帧。为了防止该问题,可使用多种方法。依照当前的实施例,应用了对P帧周期性地插入预定数量的帧内宏块的方法,和从除了在前帧外的帧周期性地执行预定数量的宏块的预测的方法。
参照图3,I帧310和多个P帧320、330、340、350和360按相继顺序排列。通常的P帧320、340和360分别指直接在前的帧,如I帧310和其他P帧330和350。另一方面,其他P帧330和350分别指其他在前帧,如I帧310和P帧330。
图4是示出根据本发明的实施例、网络抽象层(NAL)的报头的数据结构的图。如图4中所示,在NAL单元中存在一字节的报头。
参照图4,error_flag 410是用于检查NAL单元的位,并且必须总是为0。
nal_ref_idc 420是给出NAL单元的优先级的字段。例如,该NAL单元的优先级可以依照NAL单元的重要性而给出。重要的NAL(如序列参数集(SPS)或者画面参数集(PPS))的nal_ref_idc 420可被设定为例如“b11”,其可以表示最高的优先级。NAL(如下文将述的即时解码器刷新(IDR)(I帧)和第一数据分区(所谓的数据分区A)的nal_ref_idc 420可以被设置为例如“b10”。此外,如下文将述的第二数据分区(所谓的数据分区B)或第三数据分区(所谓的数据分区C)的NAL的nal_ref_idc 420可以被设置为例如“b01”。因此,可以表示NAL的优先级。
nal_unit_type 430是表示NAL的类型的字段,并且使用由H.264标准定义的值。例如,IDR是5,并且第一数据分区到第三数据分区分别是2、3和4。
如上所述,数据的类型可以仅通过分析NAL的报头而表示。
图5是示出根据本发明的实施例、传输基于分组的图像帧的详细方法的流程图。参照图5,在操作510中输入源图像后,在操作520中确定是否通过使用帧内预测方法或帧间预测方法编码输入图像。
I帧通过独立地编码帧而无论在前或在后帧产生。即,来自另一参考图像的预测编码不对I帧执行。因此,I帧的图像传输和错误隐藏应当考虑I帧通过使用仅仅一帧的信息而编码的事实来执行。在H.264技术中可以反映此事实的算法为灵活宏块排序(FMO)方法。在该FMO方法中,图像通过将该图像划分为多个宏块单元的片段而编码。因此,如果考虑到图像片段间的相关性而划分图像,则当错误发生时,该错误可以被容易地隐藏。由于I帧中的大量数据,I帧可以被划分成大量片段以便适于最大传输单元(MTU)。通过使用FMO方法,帧可以被划分为例如最大8个片组。如果该8组中的组的数据大小大于MTU,则各片可以通过限制每片的宏块的数量而重新划分。在H.264技术中,划分的数据被编码进NAL单元中,并且该编码的NAL通过实时传送协议(RTP)分组而传输给网络。
因为通过使用在前图像和当前图像之间的差别而对P帧执行预测编码,所以对P帧,运动向量是重要的元素。在H.264技术中可以反映上述特征的算法是数据分区(DP)方法。如果该DP方法被应用,则一帧被划分为3个NAL单元。更详细地,该帧被划分为:第一数据分区,其包括运动向量和其他报头信息;第二数据分区,其包括帧内宏块的剩余数据;和第三数据分区,其包括帧间宏块的剩余数据。
因此,如果在操作520中确定输入图像将被编码为帧内预测帧(如I帧),则在操作530中FMO方法被作为错误隐藏算法应用于预处理。当FMO方法被应用时,该I帧被划分为例如八(k=7)片。然后在操作540中Reed-Solomon(R-S)码被插入以便执行FEC。如上所述的应用FMO和将R-S码插入帧内预测帧的结果将在下文参照图6和7描述。
由Irving S.Reed和G.Solomon提出的R-S码是非二进制的Bose、Ray-Chaudhuri、Hocquenghem(BCH)码之一。R-S(n,k,t)=R-S(204,188,8)表示:如果k=188字节的输入数据通过增加n-k=16字节的数据而传输,则t=8字节的错误被完全校正。R-S码方法执行突发纠错,并且广泛应用于移动通信系统、扩频系统和数字存储介质(如存储器)的纠错。并且R-S码方法是作为数字视频广播(DVB)的传输标准而采用的FEC算法。R-S码根据该帧被传输时分组的突发错误的数量、传输带宽和/或分组的错误率而确定。
同时,在操作520中如果确定输入图像要被编码为帧间预测帧(如P帧),则在操作550中DP方法被作为错误恢复算法而应用。因此,如上所述,在操作560中,P帧被划分为:第一分区,其包括运动向量和其他报头信息;第二数据分区,其包括帧内宏块的剩余数据;和第三数据分区,其包括帧间宏块的剩余数据。
为了对帧间预测帧执行FEC,在操作570中计算相应的P帧的运动等级。执行该运动等级的计算是因为P帧是通过使用基于运动估计的帧间预测编码方法而得到的。因此,关于运动向量的信息是相关的。关于运动等级,当帧丢失数据时,具有小运动等级的帧可能容易隐藏错误,因此对用户隐藏了错误。然而,具有大运动等级的帧可能不容易隐藏错误。因此依照运动等级的自适应编码可以通过计算运动等级和对下一操作(例如纠错)使用运动等级而启用。
依照传统方法计算在前帧和当前帧之间的差别以便执行运动预测。然而,本发明的各方面提供了一种基于具有非零运动向量的多个宏块、P帧的宏块的运动向量的平均值、和/或P帧的分组大小执行运动预测的方法。因为具有非零运动向量的多个宏块、P帧的宏块的运动向量的平均值、和P帧的分组大小在编码过程中自动计算并且不要求附加计算(如传统方法中的),所以与传统方法相比,算法的复杂性降低。
然后,在操作580中对P帧执行FEC。网络信道具有高错误率,因此传输分组可能容易在该网络信道中丢失。通常,对物理(PHY)层和介质访问控制(MAC)层执行错误保护。然而,对数据传输未被执行并且丢失分组的错误传播频繁发生的视频流,错误保护需要被进一步增强。
因此,对P帧执行FEC,并且对第一数据分区到第三数据分区的每个再次执行FEC。对多个P帧执行上述操作。
图6是示出根据本发明的实施例、当错误恢复算法应用于I帧和P帧时的示例的图。如上所述,根据本发明的各方面,各帧被划分为I帧和P帧,并且对其可变执行FEC。I帧610通过使用FMO方法620被编码,并且被划分为例如8(k=7)组,因此产生多个NAL数据分组630。因此,I帧610通过使用R-S(n,8)方法被FEC编码。此处,n可以是能够根据网络环境而不同地应用的值。例如,如果网络信息要被反馈以便使用,则当错误未发生时n=9,而当错误发生时n大于9。通常,n依照分组的多个突发错误和网络的分组错误率而确定。最大值n可以根据传输带宽而确定。
P帧640和650具有比I帧610更小的分组大小,并且具有有不同的分组的图像特性。P帧640和650分别划分为第一数据分区到第三数据分区670和680。然后,对每个数据分区执行FEC。
图7是示出根据本发明的实施例、当对I帧执行FEC时的示例的图。参照图7,如参考标号720和730所示,R-S码730被插入NAL数据710,该NAL数据710被划分成8个分片用于FEC。插入的R-S码730的数量为m+1,其中m=n-k-1。
图8是示出根据本发明的实施例、对P帧810、820和830执行FEC时的示例的图。参考图8,为了后处理,对于每个数据分区,通过计算运动等级和使用运动等级以便产生每个数据分区的FEC数据870来适当地执行FEC。更具体地,依照计算的运动等级,最初对P帧810、820和830的每个执行FEC,以便生成FEC数据870,该FEC数据数据870被加到P帧840、850和860的每个。然后,对P帧840、850和860的第一数据分区到第三数据分区的每个执行二次FEC。理解到,依照本发明的其他方面,最初和二次FEC可以被逆序执行。R-S码871和872的最大长度可以依照接收端的缓冲器大小而在之前确定。
图9是示出根据本发明的另一实施例、当对P帧910、920和930执行FEC时的示例的图。参照图9,如果P帧910、920和930的每个的运动等级大于阈值,则如参考标号940和960所示通过异或(XOR)方法执行FEC。相反,如果P帧910、920和930的每个的运动等级小于阈值,则如参考标号950所示不执行FEC。此外,如果每个数据分区包括大量具有大运动等级的帧,则对每个数据分区的FEC可以被增强。相反,如果数据分区包括少量具有大运动等级的帧,则可减少FEC。通过参考标号970和980图示了通过使用R-S(n,k)方法的该情形。增强还是减少FEC也可以例如由各帧中宏块的运动向量的平均值和/或各帧的分组大小来确定。
同时,FEC可以更关注于具有最高优先级的第一数据分区,因为该第一数据分区具有P帧的重要的运动向量。相反,对具有相对较低优先级的第二分区和第三分区FEC可以减少。
图10是示出根据本发明的实施例、用于传输基于分组的图像帧的装置的框图。参考图10,该装置包括图像源1100、图像编码器1200、预处理单元1300、和后处理单元1400。图像编码器1200将输入图像划分为帧内预测帧(如I帧)和帧间预测帧(如P帧),并编码帧内预测帧和帧间预测帧。预处理单元1300对帧内预测帧和帧间预测帧应用不同的错误恢复算法。后处理单元1400对从预处理单元1300接收的帧内预测帧和帧间预测帧执行FEC。
后处理单元1400可以包括:运动等级分类器1410,其计算帧间预测帧的运动等级;第一纠错单元1420,其依照运动等级对帧间预测帧执行FEC;和第二纠错单元1430,其对帧间预测帧的每个数据分区执行FEC。
实时编码系统包括图像编码器1200,而使用在前编码的数据的视频点播(VOD)系统可能不包括或不使用图像编码器1200。在此情形下,如果依照算法确保发送端系统的充分执行,则运动等级分类器1410可以从压缩和编码图像计算相应的输入图像帧的运动。
通过上述装置传输的基于分组的数据由接收端以传输的逆序而解码。对于视频接收端系统的错误隐藏方法,当其中分组由FMO方法划分的I帧丢失一个或多个分组时,可以使用空间隐藏方法,并且当P帧丢失运动向量时,空间隐藏方法和/或时间隐藏方法可以被适当地组合和使用。
本发明的各方面可以体现为计算机可读记录介质上的计算机可读代码。计算机可读记录介质是可以存储其后可以被计算机系统读取的数据的任何数据存储设备。计算机可读记录介质的示例包括只读存储器(ROM)、随机存取存储器(RAM)、CD-ROM、磁带、软盘、光数据存储设备、和以包括含有代码的压缩源代码段和含有代码的加密源代码段的载波体现的计算机数据信号(如通过因特网的数据传输)。计算机可读记录介质也可以在网络耦合的计算机系统上分布,使得计算机可读代码以分布式方式存储和执行。本发明的各方面也可以被实现为数据信号,该数据信号以载波体现并且包括可由计算机读取并可在因特网上传输的程序。
如上所述,在依照本发明的各方面用于传输基于分组的图像帧的方法和装置中,当图像数据传输时,可以按照I和P帧的特性执行最佳纠错。因此,可以比传统方法更简单和有效地实现一种用于防止移动环境(如IP移动电视)的错误的强大的图像流传输业务。
尽管已示出并描述了本发明的一些实施例,但是本领域技术人员将认识到,在该实施例中可进行改变而不背离本发明的原理和精神,本发明的范围由权利要求书及其等效限定。
相关申请的交叉引用
本申请要求于2007年3月23日向韩国知识产权局提交的韩国申请No.2007-28871的权益,该申请的公开在此通过引用并入。

Claims (16)

1.一种传输基于分组的图像帧的方法,所述方法包括:
将输入图像划分为帧内预测帧和帧间预测帧,并且编码该帧内预测帧和帧间预测帧;
对该帧内预测帧应用第一错误恢复算法,并且对该帧间预测帧应用第二错误恢复算法;以及
对依照第一错误恢复算法的帧内预测帧和依照第二错误恢复算法的帧间预测帧执行前向纠错FEC,
其中第一错误恢复算法是灵活的宏块排序FMO方法,
其中第二错误恢复算法是数据分区DP方法,
其中该DP方法包括:将帧间预测帧划分为包括上述帧间预测帧的运动向量的第一数据分区、包括帧内宏块的剩余数据的第二数据分区、和包括帧间宏块的剩余数据的第三数据分区,
其中对帧间预测帧执行FEC包括:
计算帧间预测帧的运动等级;
依照相应的计算的运动等级对帧间预测帧执行FEC;以及
对多个帧间预测帧的第一数据分区、第二数据分区和第三数据分区的每个执行FEC。
2.如权利要求1所述的方法,其中对帧内预测帧执行FEC包括:将Reed-Solomon R-S码插入帧内预测帧中。
3.如权利要求2所述的方法,其中R-S码依照当帧内预测帧被传输时分组的多个突发错误、传输带宽和分组的错误率中的至少一个而确定。
4.如权利要求1所述的方法,其中运动等级通过使用在帧间预测帧中具有非零运动向量的多个宏块、帧间预测帧的各宏块的运动向量的平均值、和帧间预测帧的分组大小中的至少一个来计算。
5.如权利要求4所述的方法,其中对具有大于或等于预定阈值的运动等级的第一帧间预测帧执行该FEC,并且对具有小于预定阈值的运动等级的第二帧间预测帧不执行该FEC。
6.如权利要求4所述的方法,其中对多个帧间预测帧中的第一数据分区、第二数据分区和第三数据分区的每个执行FEC包括:插入依照具有大于阈值的运动等级的多个帧、帧间预测帧的各宏块的运动向量的平均值、和帧间预测帧的分组大小中的一个或多个而确定的R-S码。
7.如权利要求1所述的方法,其中对帧间预测帧的第一数据分区、第二数据分区和第三数据分区的每个执行FEC包括:与第二数据分区和第三数据分区相比,对帧间预测帧的第一数据分区执行更密集的FEC。
8.一种用于传输基于分组的图像帧的装置,所述装置包括:
图像编码器,将输入图像划分为帧内预测帧和帧间预测帧,并且编码该帧内预测帧和帧间预测帧;
预处理单元,对帧内预测帧应用第一错误恢复算法,并且对帧间预测帧应用第二错误恢复算法;以及
后处理单元,对依照第一错误恢复算法的帧内预测帧和依照第二错误恢复算法的帧间预测帧执行前向纠错FEC,
其中预处理单元的第一错误恢复算法是灵活的宏块排序FMO方法,
其中预处理单元的第二错误恢复算法是数据分区DP方法,
其中DP方法包括:将帧间预测帧划分为包括帧间预测帧的运动向量的第一数据分区、包括帧内宏块的剩余数据的第二数据分区、和包括帧间宏块的剩余数据的第三数据分区,
其中后处理单元包括:
运动等级分类器,计算帧间预测帧的运动等级;
第一纠错单元,依照相应的计算的运动等级对帧间预测帧执行FEC;
第二纠错单元,对多个帧间预测帧的第一数据分区、第二数据分区和第三数据分区的每个执行FEC。
9.如权利要求8所述的装置,其中后处理单元将Reed-Solomon R-S码插入到帧内预测帧中。
10.如权利要求9所述的装置,其中R-S码依照当帧内预测帧被传输时分组的多个突发错误、传输带宽和分组的错误率中的至少一个而确定。
11.如权利要求8所述的装置,其中运动等级分类器通过使用在帧间预测帧中具有非零运动向量的多个宏块、帧间预测帧的各宏块的运动向量的平均值、和帧间预测帧的分组大小中的至少一个来计算运动等级。
12.如权利要求11所述的装置,其中第一纠错单元对具有大于或等于预定阈值的运动等级的第一帧间预测帧执行该FEC,并且对具有小于预定阈值的运动等级的第二帧间预测帧不执行该FEC。
13.如权利要求11所述的装置,其中第二纠错单元基于通过使用具有大于阈值的运动等级的多个帧、帧间预测帧的宏块的运动向量的平均值、和帧间预测帧的分组大小中的至少一个而确定的R-S码,对多个帧间预测帧的第一数据分区、第二数据分区和第三数据分区的每个执行FEC。
14.如权利要求8所述的装置,其中与第二数据分区和第三数据分区相比,第二纠错单元对帧间预测帧的第一数据分区执行更密集的FEC。
15.一种用于传输基于分组的图像帧的系统,该系统包括:
发送端,发送基于分组的图像帧,该发送端包括:
图像编码器,将输入图像划分为帧内预测帧和帧间预测帧,并且编码所述帧内预测帧和帧间预测帧;
预处理单元,对帧内预测帧应用第一错误恢复算法,并且对帧间预测帧应用第二错误恢复算法;以及
后处理单元,对依照第一错误恢复算法的帧内预测帧和依照第二错误恢复算法的帧间预测帧执行前向纠错FEC;以及
接收端,接收帧内预测帧和帧间预测帧,其中如果帧内预测帧未被接收或者损坏,则接收端应用空间隐藏方法,并且如果帧间预测帧未被接收或损坏,则应用空间隐藏方法和/或时间隐藏方法,
其中预处理单元的第一错误恢复算法是灵活的宏块排序FMO方法,
其中预处理单元的第二错误恢复算法是数据分区DP方法,
其中DP方法包括:将帧间预测帧划分为包括帧间预测帧的运动向量的第一数据分区、包括帧内宏块的剩余数据的第二数据分区、和包括帧间宏块的剩余数据的第三数据分区,
其中后处理单元包括:
运动等级分类器,计算帧间预测帧的运动等级;
第一纠错单元,依照相应的计算的运动等级对帧间预测帧执行FEC;
第二纠错单元,对多个帧间预测帧的第一数据分区、第二数据分区和第三数据分区的每个执行FEC。
16.如权利要求15所述的系统,其中后处理单元将Reed-Solomon R-S码插入帧内预测帧,该R-S码依照当帧内预测帧被传输时分组的多个突发错误、传输带宽和分组的错误率中的至少一个而确定。
CN2008100881329A 2007-03-23 2008-01-03 用于传输基于分组的图像帧的方法和装置 Expired - Fee Related CN101272495B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020070028871A KR101125846B1 (ko) 2007-03-23 2007-03-23 패킷 기반의 영상 프레임 전송 방법 및 장치
KR28871/07 2007-03-23

Publications (2)

Publication Number Publication Date
CN101272495A CN101272495A (zh) 2008-09-24
CN101272495B true CN101272495B (zh) 2012-05-23

Family

ID=39774665

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2008100881329A Expired - Fee Related CN101272495B (zh) 2007-03-23 2008-01-03 用于传输基于分组的图像帧的方法和装置

Country Status (3)

Country Link
US (1) US8233539B2 (zh)
KR (1) KR101125846B1 (zh)
CN (1) CN101272495B (zh)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101345295B1 (ko) * 2007-06-11 2013-12-27 삼성전자주식회사 인트라 픽처만을 이용한 동영상 시퀀스의 부호화시의비트율 제어 방법 및 장치
US8332736B2 (en) * 2007-11-29 2012-12-11 Texas Instruments Incorporated Decoder with resiliency to handle errors in a received data stream
US8170123B1 (en) * 2008-04-15 2012-05-01 Desktone, Inc. Media acceleration for virtual computing services
KR101118591B1 (ko) * 2008-12-11 2012-02-27 한국전자통신연구원 트랜스코더
US20100225655A1 (en) * 2009-03-06 2010-09-09 Microsoft Corporation Concurrent Encoding/Decoding of Tiled Data
US20100226441A1 (en) * 2009-03-06 2010-09-09 Microsoft Corporation Frame Capture, Encoding, and Transmission Management
US8638337B2 (en) * 2009-03-16 2014-01-28 Microsoft Corporation Image frame buffer management
US20110085592A1 (en) * 2009-10-13 2011-04-14 Ching-Lung Chang Video frame loss recovery scheme
KR101142982B1 (ko) * 2010-02-22 2012-05-08 한국과학기술원 송신국, 송신국의 패킷 송신 방법, 수신국, 그리고 수신국의 손실 복구 방법
WO2011137576A1 (zh) * 2010-05-03 2011-11-10 上海贝尔股份有限公司 无线网络中用于发送缓冲状态报告的方法和装置
JP5672932B2 (ja) * 2010-10-13 2015-02-18 富士ゼロックス株式会社 通信装置、通信システム及びプログラム
US10362327B2 (en) 2011-01-14 2019-07-23 Sony Corporation B-picture syntax change for generalized bi-prediction in high efficiency video coding (HEVC)
KR101744355B1 (ko) * 2011-01-19 2017-06-08 삼성전자주식회사 상호 계층 최적화를 이용한 멀티미디어 데이터 패킷을 송신하는 방법 및 장치
US8681866B1 (en) 2011-04-28 2014-03-25 Google Inc. Method and apparatus for encoding video by downsampling frame resolution
US9106787B1 (en) 2011-05-09 2015-08-11 Google Inc. Apparatus and method for media transmission bandwidth control using bandwidth estimation
EP2719182B1 (en) * 2011-06-07 2018-05-02 Thomson Licensing Method for encoding and/or decoding images on macroblock level using intra-prediction
US8615698B1 (en) * 2011-09-28 2013-12-24 Google Inc. Skewed orthogonal coding techniques
US9490850B1 (en) 2011-11-28 2016-11-08 Google Inc. Method and apparatus for decoding packetized data
CN103379320B (zh) * 2012-04-16 2016-11-23 华为技术有限公司 视频图像码流处理方法和设备
US9185429B1 (en) 2012-04-30 2015-11-10 Google Inc. Video encoding and decoding using un-equal error protection
JP5885604B2 (ja) * 2012-07-06 2016-03-15 株式会社Nttドコモ 動画像予測符号化装置、動画像予測符号化方法、動画像予測符号化プログラム、動画像予測復号装置、動画像予測復号方法及び動画像予測復号プログラム
US10034023B1 (en) 2012-07-30 2018-07-24 Google Llc Extended protection of digital video streams
TWI505699B (zh) * 2012-11-23 2015-10-21 Inst Information Industry 資料串流傳輸方法
US9172740B1 (en) 2013-01-15 2015-10-27 Google Inc. Adjustable buffer remote access
US9311692B1 (en) 2013-01-25 2016-04-12 Google Inc. Scalable buffer remote access
US9225979B1 (en) 2013-01-30 2015-12-29 Google Inc. Remote access encoding
US20150124873A1 (en) * 2013-11-01 2015-05-07 Microsoft Corporation Chroma Down-Conversion and Up-Conversion Processing
CN104506959A (zh) * 2014-12-15 2015-04-08 广东威创视讯科技股份有限公司 一种h264码流分包传输方法及系统
US9781488B2 (en) * 2015-07-30 2017-10-03 Adi Rozenberg Controlled adaptive rate switching system and method for media streaming over IP networks
KR101772472B1 (ko) * 2017-04-20 2017-08-30 한화시스템(주) 적응적으로 프레임 압축 모드를 적용한 동영상 압축 장치 및 방법, 그리고, 동영상 복원 장치 및 방법
CN109446967B (zh) * 2018-10-22 2022-01-04 深圳市梦网视讯有限公司 一种基于压缩信息的人脸检测方法和系统
KR102140398B1 (ko) * 2019-05-27 2020-07-31 한국항공대학교산학협력단 영상 처리 장치 및 영상 처리 방법
KR102330781B1 (ko) * 2020-01-17 2021-11-24 주식회사 와이젯 무선 환경 영상처리 방법
CN112529895B (zh) * 2020-12-23 2023-07-25 北京百度网讯科技有限公司 用于处理图像的方法、装置、设备以及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1679330A (zh) * 2001-08-23 2005-10-05 宝利通公司 视频错误隐藏的系统和方法
CN1757191A (zh) * 2003-03-05 2006-04-05 诺基亚公司 前向纠错的方法和系统
CN1897711A (zh) * 2005-07-13 2007-01-17 宝利通公司 视频错误隐藏方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6798834B1 (en) * 1996-08-15 2004-09-28 Mitsubishi Denki Kabushiki Kaisha Image coding apparatus with segment classification and segmentation-type motion prediction circuit
JP3658011B2 (ja) * 1994-04-19 2005-06-08 キヤノン株式会社 画像符号化装置及びその方法、並びに画像復号化装置及びその方法
US5903313A (en) * 1995-04-18 1999-05-11 Advanced Micro Devices, Inc. Method and apparatus for adaptively performing motion compensation in a video processing apparatus
US6317462B1 (en) * 1998-10-22 2001-11-13 Lucent Technologies Inc. Method and apparatus for transmitting MPEG video over the internet
US7133455B2 (en) * 2000-12-29 2006-11-07 Intel Corporation Providing error resilience and concealment for video data
KR100730383B1 (ko) * 2001-07-19 2007-06-19 에스케이 텔레콤주식회사 영상 압축 시스템에서 오류 전파 방지를 위한 공간 예측방법
US7693220B2 (en) * 2002-01-03 2010-04-06 Nokia Corporation Transmission of video information
US20040057465A1 (en) * 2002-09-24 2004-03-25 Koninklijke Philips Electronics N.V. Flexible data partitioning and packetization for H.26L for improved packet loss resilience
CN1323553C (zh) 2003-01-10 2007-06-27 汤姆森许可贸易公司 隐藏由宏块流构成的编码图像中的空间差错的方法
KR20050076155A (ko) * 2004-01-19 2005-07-26 삼성전자주식회사 영상 프레임의 에러 은닉 장치 및 방법
US7228154B2 (en) * 2004-11-03 2007-06-05 Sony Corporation Method and system for processing wireless digital multimedia

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1679330A (zh) * 2001-08-23 2005-10-05 宝利通公司 视频错误隐藏的系统和方法
CN1757191A (zh) * 2003-03-05 2006-04-05 诺基亚公司 前向纠错的方法和系统
CN1897711A (zh) * 2005-07-13 2007-01-17 宝利通公司 视频错误隐藏方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
吕静.基于H.264视频通信的差错隐藏技术研究.《中国优秀博硕士学位论文全文数据库(硕士)信息技术辑》.2006, *
梅峥.视频流化自适应错误控制技术研究.《中国优秀博硕士学位论文全文数据库(博士)信息技术辑》.2007, *

Also Published As

Publication number Publication date
KR101125846B1 (ko) 2012-03-28
US20080232472A1 (en) 2008-09-25
CN101272495A (zh) 2008-09-24
US8233539B2 (en) 2012-07-31
KR20080086764A (ko) 2008-09-26

Similar Documents

Publication Publication Date Title
CN101272495B (zh) 用于传输基于分组的图像帧的方法和装置
KR102133930B1 (ko) 데이터 패킷 송수신 장치 및 방법
US6490705B1 (en) Method and apparatus for receiving MPEG video over the internet
KR101367886B1 (ko) 브로드캐스트 채널 상에서의 고속 채널 재핑 및 고품질 스트리밍 보호
US9178535B2 (en) Dynamic stream interleaving and sub-stream based delivery
CN110943800B (zh) 数据包的发送方法、装置及系统、存储介质、电子装置
CN106937134B (zh) 一种数据传输的编码方法、编码发送装置及系统
JP5374768B2 (ja) 追加的なネットワーク抽象化層(nal)を用いるマルチメディア・データの保護方法
US8365034B2 (en) Forward error correction (FEC) encoding and decoding method of variable length packet based on three-dimensional storage apparatus
KR100908646B1 (ko) 포워드 에러 정정 프레임 어셈블링
US20090222709A1 (en) Universal packet loss recovery system for delivery of real-time streaming multimedia content over packet-switched networks
US20050249240A1 (en) Multimedia server with simple adaptation to dynamic network loss conditions
JP2008527862A (ja) Fecフィードバックを使用する適応型情報配送システム
JP2004517534A (ja) パケット・チャネルを介するマルチメディア通信のための方法
JP2010246120A (ja) ホームネットワークにおいてインターネットプロトコルテレビを使用して通信するための装置及び方法
KR20130140938A (ko) 방송 및 통신 시스템에서 패킷 송수신 장치 및 방법
KR101286419B1 (ko) 데이터 패킷 처리 방법 및 장치
JP7408152B2 (ja) メディア内容に基づく自己適応システムコードfec符号化および復号化方法、装置、システムおよび媒体
US20150006991A1 (en) Graceful degradation-forward error correction method and apparatus for performing same
Hussain et al. Adaptive video-aware forward error correction code allocation for reliable video transmission
KR101259659B1 (ko) 중요도에 따라 손실 복원율을 차별화하는 비균일 랩터 코딩방법
Nazir et al. Unequal error protection for data partitioned H. 264/AVC video broadcasting
KR101953580B1 (ko) 영상회의 시스템에서 데이터 송수신 장치 및 방법
CN113301387B (zh) 数据编解码方法、相关设备及系统
Lee et al. A robust luby transform encoding pattern-aware symbol packetization algorithm for video streaming over wireless network

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20120523

Termination date: 20190103