CN101494785A - 一种h.264感兴趣区域编码的方法 - Google Patents

一种h.264感兴趣区域编码的方法 Download PDF

Info

Publication number
CN101494785A
CN101494785A CN 200810244057 CN200810244057A CN101494785A CN 101494785 A CN101494785 A CN 101494785A CN 200810244057 CN200810244057 CN 200810244057 CN 200810244057 A CN200810244057 A CN 200810244057A CN 101494785 A CN101494785 A CN 101494785A
Authority
CN
China
Prior art keywords
interest
rate control
area
level
coding method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN 200810244057
Other languages
English (en)
Other versions
CN101494785B (zh
Inventor
李恒中
夏卫平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JIANGSU RULINGTONG CULTURE INDUSTRY GROUP CO., LTD.
Original Assignee
WUXI EPUDE TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by WUXI EPUDE TECHNOLOGY Co Ltd filed Critical WUXI EPUDE TECHNOLOGY Co Ltd
Priority to CN 200810244057 priority Critical patent/CN101494785B/zh
Publication of CN101494785A publication Critical patent/CN101494785A/zh
Application granted granted Critical
Publication of CN101494785B publication Critical patent/CN101494785B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明涉及一种H.264感兴趣区域编码的方法,尤其是一种通过码率控制实现感兴趣区域编码的方法,包括图像组级、图像级和基本单元级三个层次的编码方法。本发明的优点是:通过码率控制算法来做感兴趣区域的编码不需要在码流中添加额外的信息,对感兴趣区域的数目、形状等没有限制,不增加编码算法的复杂度,是一种比较灵活的感兴趣区域编码方法,它可以应用在H.264的各个Profile中,在对整体压缩比要求高的领域,如视频监控等有重要的应用价值;实验表明,该方法是一种有效的H.264感兴趣区域编码的方法,适用于恒定码率控制算法和可变码率控制算法。

Description

一种H.264感兴趣区域编码的方法
技术领域
本发明涉及一种H.264感兴趣区域编码的方法,尤其是一种通过码率控制实现感兴趣区域编码的方法。
背景技术
感兴趣区域(ROI)编码可以在有效地保留用户感兴趣区域数据的基础之上尽可能得压缩背景区域的数据,它作为JPEG2000的一个特性越来越收到了人们的重视。H.264是国际电信联盟(ITU:InternationalTelecommunication Union)推出的最新视频编码标准,它集成了以往视频编码器的很多优点,如I帧宏块的多模式选择、1/4象素的运动矢量、多参考帧、采用了De-blocking技术等,这些特性使得H.264的编码效率有了很高的提升。在所有的码率上,H.264比H.263节省50%的比特率,尤其在极低码率下H.264的优点更加明显,但是这也带来了计算复杂度的提高。随着处理器能力的提高,H.264得到越来越广泛的应用。然而,在视频监控领域监控设备整天处于工作状态,记录的视频数据量仍然很大,这就需要极高的压缩比,有时候压缩比要能够达到350倍以上。这就需要使用H.264与感兴趣区域压缩相结合的办法来编码视频监控中感兴趣的区域,如人脸、车牌等,同时尽可能的压缩背景图像。
JPEG2000中采用小波变换的方法压缩图像,由于小波变化具有时频分析的二重性,用它来实现感兴趣编码非常方便。H.264采用了类似于MPEG2、MPEG4的离散余弦变换(DCT:Discrete Cosine Transform)的方法,它不具有空间域的特性,因此在H.264中并没有提感兴趣区域编码的概念。根据H.264编码的特性,一些学者提出了使用灵活的宏块排序(FMO)来实现H.264感兴趣区域编码的方法。
感兴趣区域编码就是要求能够对某些特定的区域做特别的处理,尽可能的保留该区域的数据。为此,可以通过H.264宏块模式选择时的帧内无损编码模式(I_PCM)和灵活的宏块排序两种方法处理。I_PCM模式可以对图像中的某些宏块不压缩直接传输,这种模式是无损的,但是并不能够降低数据,可适用于车牌等小区域的图像。灵活的宏块排序最初是用来做容错用的,它将图像区域分成不同的切片,使得切片内的宏块相关性降低,这样如果图像的某些组数据丢失,就可以通过其它的切片做一定程度的恢复。灵活的宏块排序的另一个用途就是用作感兴趣区域编码,它对这些切片做不同的处理,尽量保留感兴趣区域的信息。灵活的宏块排序总共提高了七种类型,其中类型2将图像区域用矩形划分成不同的块,一般用它来做感兴趣区域编码。由于H.264的一帧图像最多有8个图像切片,因此使用该方法最能能够编码7个感兴趣区域,而且它需要在图像参数中加入灵活的宏块排序FMO的数据集,需要额外的比特开销,只能够在H.264的基本版本中使用。
H.264和其它编解码器一样,分为不同的版本(Profile)和等级(Level),H.264中的Profile用于限制Decoder(解码器)必须支持的算法,而Level用于限制比特流的具体参数,共有7个Profile,16级Level。不同的Profile支持的算法集是不同的。
发明内容
本发明针对帧内无损编码模式(I_PCM)和FMO用于感兴趣区域编码的缺点,提供一种使用码率控制实现H.264感兴趣区域编码的方法,该方法在编码时将码率按照一定的比例分成两个部分,一部分为感兴趣区域的码率,一部分为其余部分的码率,然后在码率控制中根据要求给相应的宏块分配比特数。
按照本发明提供的技术方案,一种H.264感兴趣区域编码的方法,包括图像组级、图像级和基本单元级三个层次的编码方法。
所述图像组级的编码方法是,根据带宽的要求计算出每一个图像组需要分配的比特数。
所述图像级的编码方法包括如下步骤,
(1)首先,根据图像组级的码率控制算法算出本帧图像所需要的码流。
(2)根据预先设定的感兴趣区域与普通区域带宽的比例计算出感兴趣区域的码率和普通区域的码率。
(3)根据某一个基本单元处于感兴趣区域还是普通区域进行相应的编码方法。
所述基本单元级的编码方法包括如下步骤,
(1)首先决定该基本单元的宏块是否在感兴趣区域内,然后进入相应的宏块级码率控制,感兴趣区域的宏块采用感兴趣区域的码率控制控制,背景区域进入背景区域的码率控制,两者的码率控制相互独立。
(2)经过码率控制后的量化步长最后统一传送给编码器。
本发明的优点是:通过码率控制算法来做感兴趣区域的编码不需要在码流中添加额外的信息,对感兴趣区域的数目、形状等没有限制,不增加编码算法的复杂度,是一种比较灵活的感兴趣区域编码方法,它可以应用在H.264的各个Profile中,在对整体压缩比要求高的领域,如视频监控等有重要的应用价值;实验表明,该方法是一种有效的H.264感兴趣区域编码的方法,适用于恒定码率控制算法和可变码率控制算法。
附图说明
图1为感兴趣区域压缩的流程图。
具体实施方式
下面结合附图和实施例对本实用新型作进一步说明。
如图1所示,对于每一帧图像,我们根据指定的ROI区域计算该图像上感兴趣区域和背景区域的大小比例,按照码率控制中设定的ROI区域与背景区域码率分配的比例来分配该图像中感兴趣区域的比特数、宏块数和背景区域的比特数、宏块数。在基本单元级,码率控制算法首先决定该基本单元的宏块是否在感兴趣区域内,然后进入相应的宏块级码率控制,感兴趣区域的宏块采用感兴趣区域的码率控制控制,背景区域进入背景区域的码率控制,两者的码率控制相互独立。经过码率控制后的量化步长最后统一传送给编码器。为了避免感兴趣区域与背景区域的边界处码率变化过大,需要对量化步长做一定的限制,防止量化步长出界。感兴趣区域的码率控制算法和背景区域的码率控制算法可以采用相同的码率控制算法,也可以采用不同的码率控制算法,它们的初始状态已经在图像级的码率控制中分配了,可以应用与恒定码率控制和可变码率控制算法。
本发明包括图像组级、图像级和基本单元级三个层次的编码方法。
图像组级的编码方法是,根据带宽的要求计算出每一个图像组需要分配的比特数。
图像级的编码方法包括如下步骤,
(1)首先,根据图像组级的码率控制算法算出本帧图像所需要的码流。
(2)根据预先设定的感兴趣区域与普通区域带宽的比例计算出感兴趣区域的码率和普通区域的码率。
(3)根据某一个基本单元处于感兴趣区域还是普通区域进行相应的编码方法。它们可以是不同的码率控制算法也可以是相同的码率控制算法。
所述基本单元级的编码方法包括如下步骤,
(1)首先决定该基本单元的宏块是否在感兴趣区域内,然后进入相应的宏块级码率控制,感兴趣区域的宏块采用感兴趣区域的码率控制控制,背景区域进入背景区域的码率控制,两者的码率控制相互独立。
(2)经过码率控制后的量化步长最后统一传送给编码器。
为了避免感兴趣区域与背景区域的边界处码率变化过大,需要对量化步长做一定的限制。
感兴趣区域的码率控制算法和背景区域的码率控制算法可以采用相同的码率控制算法,也可以采用不同的码率控制算法,它们的初始状态已经在图像级的码率控制中分配了,可以应用与恒定码率控制和可变码率控制算法。
码率控制算法可以在图像组级、图像级和基本单元级三个层次进行,如果基本单元的宏块数为1就是一个宏块。H.264的码率控制算法在这三个层次分别做了码率控制。对于感兴趣区域的编码,我们在一个图像上进行的。因此,使用码率控制的方法来做感兴趣编码需要在图像级和基本单元级分别做处理。
在图像级,码率控制算法首先统一给该图像分配一定的比特数目,然后根据指定的ROI区域计算该图像上感兴趣区域和背景区域的大小比例,按照码率控制中设定的ROI区域与背景区域码率分配的比例来分配该图像中感兴趣区域的比特数、宏块数和背景区域的比特数、宏块数。图像级将比特分别分给了ROI区域和背景区域,每一个部分就可以单独的控制相应区域的比特分配,在一帧图像编码结束后再做相应的总结。计算感兴趣区域的比特数和背景区域的比特数的公式如下:
fbitroi = fbits * roibitratio * roiregionratio 1 + ( roibitratio - 1 ) * roiregionratio fbitbg = fbits - fbitroi - - - ( 1 )
其中fbitroi、fbitbg分别表示感兴趣区域的比特数和背景区域的比特数,fbits表示码率控制算法分配给当前帧的比特数,roibitratio表示感兴趣区域对背景区域码率分配的权重比例,可以作为参数调整,roibitratio越大表示对感兴趣区域分配的比特数越多,roiregionratio表示感兴趣区域这整幅图片上的比例,由感兴趣区域面积大小来决定。
在基本单元级,码率控制算法首先决定该基本单元的宏块是否在感兴趣区域内,然后进入相应的宏块级码率控制,感兴趣区域的宏块采用感兴趣区域的码率控制控制,背景区域进入背景区域的码率控制,两者的码率控制相互独立。经过码率控制后的量化步长最后统一传送给编码器。为了避免感兴趣区域与背景区域的边界处码率变化过大,需要对量化步长做如下限制:
QPl,i(j)=max(QPl-1,i(j)-3,min(QPl,i(j),QPl-1,i(j)+3))(2)
其中QPl,i(j)表示第i个GOP中第j帧的第1个宏块的量化步长。感兴趣区域的码率控制算法和背景区域的码率控制算法可以采用相同的码率控制算法,也可以采用不同的码率控制算法,它们的初始状态已经在图像级的码率控制中分配了,可以应用与恒定码率控制和可变码率控制算法。
通过码率控制算法来做感兴趣区域的编码不需要在码流中添加额外的信息,对感兴趣区域的数目没有限制,不增加算法的复杂度,能够有效的保存感兴趣区域,是一种比较灵活的感兴趣区域编码方法,它可以应用在H.264的各个Profile中。该方法在不提高H.264视频编码复杂度的情况下可以编码视频中的感兴趣区域,适用于H.264的各种版本,在对整体压缩比要求高的领域,如视频监控等有重要的应用价值。

Claims (1)

1、一种H.264感兴趣区域编码的方法,包括图像组级、图像级和基本单元级三个层次的编码方法,其特征是:
所述图像组级的编码方法是,根据带宽的要求计算出每一个图像组需要分配的比特数;
所述图像级的编码方法包括如下步骤,
(1)首先,根据图像组级的码率控制算法算出本帧图像所需要的码流;
(2)根据预先设定的感兴趣区域与普通区域带宽的比例计算出感兴趣区域的码率和普通区域的码率;
(3)根据某一个基本单元处于感兴趣区域还是普通区域进行相应的编码方法;
所述基本单元级的编码方法包括如下步骤,
(1)首先决定该基本单元的宏块是否在感兴趣区域内,然后进入相应的宏块级码率控制,感兴趣区域的宏块采用感兴趣区域的码率控制控制,背景区域进入背景区域的码率控制,两者的码率控制相互独立;
(2)经过码率控制后的量化步长最后统一传送给编码器。
CN 200810244057 2008-12-19 2008-12-19 一种h.264感兴趣区域编码的方法 Expired - Fee Related CN101494785B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN 200810244057 CN101494785B (zh) 2008-12-19 2008-12-19 一种h.264感兴趣区域编码的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN 200810244057 CN101494785B (zh) 2008-12-19 2008-12-19 一种h.264感兴趣区域编码的方法

Publications (2)

Publication Number Publication Date
CN101494785A true CN101494785A (zh) 2009-07-29
CN101494785B CN101494785B (zh) 2012-05-09

Family

ID=40925141

Family Applications (1)

Application Number Title Priority Date Filing Date
CN 200810244057 Expired - Fee Related CN101494785B (zh) 2008-12-19 2008-12-19 一种h.264感兴趣区域编码的方法

Country Status (1)

Country Link
CN (1) CN101494785B (zh)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102395030A (zh) * 2011-11-18 2012-03-28 杭州海康威视数字技术股份有限公司 基于视频压缩码流的运动分析方法、码流转换方法及其装置
CN102656886A (zh) * 2009-12-14 2012-09-05 汤姆逊许可证公司 知晓对象的视频编码策略
CN103391439A (zh) * 2013-07-18 2013-11-13 西安交通大学 一种基于主动宏块隐藏的h.264/avc码率控制方法
CN103974071A (zh) * 2013-01-29 2014-08-06 富士通株式会社 基于感兴趣区域的视频编码方法和设备
CN104980740A (zh) * 2014-04-08 2015-10-14 富士通株式会社 图像处理方法、装置和电子设备
CN105516721A (zh) * 2014-10-20 2016-04-20 广东中星电子有限公司 一种视频编码器及其码率控制方法
CN106358040A (zh) * 2016-08-30 2017-01-25 上海交通大学 一种基于显著性的码率控制比特分配方法
CN107205163A (zh) * 2017-06-30 2017-09-26 努比亚技术有限公司 一种图片处理的方法和设备
CN107396108A (zh) * 2017-08-15 2017-11-24 西安万像电子科技有限公司 码率分配方法和装置
CN109474824A (zh) * 2018-12-04 2019-03-15 深圳市华星光电半导体显示技术有限公司 图像压缩方法
CN109698957A (zh) * 2017-10-24 2019-04-30 腾讯科技(深圳)有限公司 图像编码方法、装置、计算设备及存储介质
CN109792546A (zh) * 2016-09-30 2019-05-21 英国电讯有限公司 观看者重视度自适应比特率传送
CN110022463A (zh) * 2019-04-11 2019-07-16 重庆紫光华山智安科技有限公司 动态场景下实现视频感兴趣区域智能编码方法及系统
CN110708570A (zh) * 2019-10-21 2020-01-17 腾讯科技(深圳)有限公司 视频的编码码率确定方法、装置、设备及存储介质
CN111866485A (zh) * 2019-04-25 2020-10-30 中国移动通信有限公司研究院 立体画面投影和传输方法、装置和计算机可读存储介质
US11317171B2 (en) 2016-09-30 2022-04-26 British Telecommunications Public Limited Company Viewer importance adaptive bit rate delivery

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101164342B (zh) * 2005-03-01 2011-03-02 高通股份有限公司 使用ρ域位分配的视频电话中的关注区编码方法及装置
EP1862010A4 (en) * 2005-03-25 2011-08-17 Korea Electronics Telecomm HIERARCHICAL VIDEO ENCODING / DECODING METHOD FOR COMPLETE SCALE VARIABILITY AND APPARATUS THEREOF
KR100823145B1 (ko) * 2006-07-10 2008-04-18 주식회사 어니언텍 관심영역 기반의 영상 화질개선장치 및 양자화기기 및 그동작 방법
CN101282479B (zh) * 2008-05-06 2011-01-19 武汉大学 基于感兴趣区域的空域分辨率可调整编解码方法

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9118912B2 (en) 2009-12-14 2015-08-25 Thomson Licensing Object-aware video encoding strategies
CN102656886A (zh) * 2009-12-14 2012-09-05 汤姆逊许可证公司 知晓对象的视频编码策略
CN102395030A (zh) * 2011-11-18 2012-03-28 杭州海康威视数字技术股份有限公司 基于视频压缩码流的运动分析方法、码流转换方法及其装置
US9380309B2 (en) 2011-11-18 2016-06-28 Hangzhou Hikvision Digital Technology Co. Ltd Motion analysis method and code stream conversion method based on video compression code stream and apparatus thereof
CN102395030B (zh) * 2011-11-18 2014-05-07 杭州海康威视数字技术股份有限公司 基于视频压缩码流的运动分析方法、码流转换方法及其装置
CN103974071A (zh) * 2013-01-29 2014-08-06 富士通株式会社 基于感兴趣区域的视频编码方法和设备
CN103391439A (zh) * 2013-07-18 2013-11-13 西安交通大学 一种基于主动宏块隐藏的h.264/avc码率控制方法
CN103391439B (zh) * 2013-07-18 2016-08-10 西安交通大学 一种基于主动宏块隐藏的h.264/avc码率控制方法
CN104980740A (zh) * 2014-04-08 2015-10-14 富士通株式会社 图像处理方法、装置和电子设备
CN105516721A (zh) * 2014-10-20 2016-04-20 广东中星电子有限公司 一种视频编码器及其码率控制方法
CN106358040A (zh) * 2016-08-30 2017-01-25 上海交通大学 一种基于显著性的码率控制比特分配方法
CN106358040B (zh) * 2016-08-30 2020-07-14 上海交通大学 一种基于显著性的码率控制比特分配方法
US11317171B2 (en) 2016-09-30 2022-04-26 British Telecommunications Public Limited Company Viewer importance adaptive bit rate delivery
CN109792546B (zh) * 2016-09-30 2022-01-04 英国电讯有限公司 从服务器向客户端设备传送视频内容的方法
CN109792546A (zh) * 2016-09-30 2019-05-21 英国电讯有限公司 观看者重视度自适应比特率传送
US11044507B2 (en) 2016-09-30 2021-06-22 British Telecommunications Public Limited Company Viewer importance adaptive bit rate delivery
CN107205163A (zh) * 2017-06-30 2017-09-26 努比亚技术有限公司 一种图片处理的方法和设备
CN107396108A (zh) * 2017-08-15 2017-11-24 西安万像电子科技有限公司 码率分配方法和装置
CN109698957A (zh) * 2017-10-24 2019-04-30 腾讯科技(深圳)有限公司 图像编码方法、装置、计算设备及存储介质
CN109698957B (zh) * 2017-10-24 2022-03-29 腾讯科技(深圳)有限公司 图像编码方法、装置、计算设备及存储介质
CN109474824B (zh) * 2018-12-04 2020-04-10 深圳市华星光电半导体显示技术有限公司 图像压缩方法
CN109474824A (zh) * 2018-12-04 2019-03-15 深圳市华星光电半导体显示技术有限公司 图像压缩方法
CN110022463A (zh) * 2019-04-11 2019-07-16 重庆紫光华山智安科技有限公司 动态场景下实现视频感兴趣区域智能编码方法及系统
CN111866485A (zh) * 2019-04-25 2020-10-30 中国移动通信有限公司研究院 立体画面投影和传输方法、装置和计算机可读存储介质
CN110708570A (zh) * 2019-10-21 2020-01-17 腾讯科技(深圳)有限公司 视频的编码码率确定方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN101494785B (zh) 2012-05-09

Similar Documents

Publication Publication Date Title
CN101494785B (zh) 一种h.264感兴趣区域编码的方法
ZainEldin et al. Image compression algorithms in wireless multimedia sensor networks: A survey
CN101420618B (zh) 基于感兴趣区域的自适应可伸缩视频编解码结构设计方法
CN101257628B (zh) 一种实现视频码流帧率可调整的压缩方法
CN101282479B (zh) 基于感兴趣区域的空域分辨率可调整编解码方法
CN103179405B (zh) 一种基于多级感兴趣区域的多视点视频编码方法
CN101854548B (zh) 一种面向无线多媒体传感器网络的视频压缩方法
CN106210721B (zh) 一种hevc快速码率转码方法
CN101272489B (zh) 视频图像质量增强的编解码装置与编解码方法
CN101133649A (zh) 编码装置、编码方法、编码程序、解码装置、解码方法和解码程序
CN102281446B (zh) 一种分布式视频编码中基于视觉感知特性的量化方法
CN100574447C (zh) 基于avs视频编码的快速帧间预测模式选择方法
CN101977323B (zh) 基于视频时空相关性约束的分布式视频编码重构方法
CN101909211B (zh) 基于快速模式判决的h.264/avc高效转码器
CN101977316A (zh) 一种可伸缩编码方法
CN103533359A (zh) 一种h.264码率控制方法
Fang et al. Interpolation-based direction-adaptive lifting DWT and modified SPIHT for image compression in multimedia communications
CN1319382C (zh) 可伸缩视频编解码器体系结构设计方法
CN102186077A (zh) 基于Wyner-Ziv视频编码的Wyner-Ziv帧码率控制系统和方法
CN101631243B (zh) 一种基于小波变换的图像编和解码的方法
CN100502507C (zh) 视频数据压缩编码方法
CN101977313A (zh) 视频信号编码装置和方法
CN106131573B (zh) 一种hevc空间分辨率转码方法
CN109391816A (zh) 基于cpu+gpu异构平台实现hevc中熵编码环节的并行处理方法
CN101998117B (zh) 视频转码方法和装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: WUXI YUNSHIJIE TECHNOLOGY CO., LTD.

Free format text: FORMER OWNER: WUXI EPUDE TECHNOLOGY CO., LTD.

Effective date: 20100305

C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20100305

Address after: 214101 Jiangsu city of Wuxi province Chunhui road Xishan District Xishan Development Zone No. 155

Applicant after: Wuxi Yunsj Technology Co., Ltd.

Address before: 214101 Jiangsu city of Wuxi province Chunhui road Xishan District Xishan Development Zone No. 155

Applicant before: Wuxi Epude technology Co., Ltd.

C14 Grant of patent or utility model
GR01 Patent grant
C56 Change in the name or address of the patentee
CP03 Change of name, title or address

Address after: 214070, No. 599, West Building Road, Wuxi, Jiangsu, three, B building, No. 11, No. 1101

Patentee after: JIANGSU RULINGTONG CULTURE INDUSTRY GROUP CO., LTD.

Address before: 214101 Jiangsu city of Wuxi province Chunhui road Xishan District Xishan Development Zone No. 155

Patentee before: Wuxi Yunsj Technology Co., Ltd.

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20120509

Termination date: 20171219