CN102096931B - 基于分层背景建模的运动目标实时检测方法 - Google Patents
基于分层背景建模的运动目标实时检测方法 Download PDFInfo
- Publication number
- CN102096931B CN102096931B CN 201110052980 CN201110052980A CN102096931B CN 102096931 B CN102096931 B CN 102096931B CN 201110052980 CN201110052980 CN 201110052980 CN 201110052980 A CN201110052980 A CN 201110052980A CN 102096931 B CN102096931 B CN 102096931B
- Authority
- CN
- China
- Prior art keywords
- background
- code word
- pixel
- value
- coupling
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本发明公开了一种基于分层背景建模的运动目标实时检测方法,为每一个像素点创建一个背景字典,所有像素点的背景字典构成一个完整的背景模型,当前输入像素点在背景字典中找到匹配即为背景点,否则为前景点,最后并采用候选背景模型来更新主背景模型。具体实现步骤为:首先利用前若干帧初始图像,建立背景模型,其次利用当前输入图像与背景模型做差,检测运动目标区域,然后对运动目标区域进行形态学滤波后,输出运动目标,最后再对背景模型进行实时更新,以供下一帧目标检测用。本发明方法解决了背景差法中背景构造更新的困难,对光照变化、背景扰动不敏感,具有很好的鲁棒性和实时性。
Description
技术领域
本发明属于计算机视觉领域,涉及一种基于分层背景建模的运动目标实时检测方法。
背景技术
运动目标检测的基本任务是从序列图像中将运动目标从背景图像中提取出来,其目的是通过提取出运动信息,简化图像处理过程。在计算机视觉、智能视频监控领域,运动目标检测是一项关键技术,检测结果的好坏将对运动目标能否被正确分类、能否被准确跟踪与识别等后续处理产生重要影响。然而,由于实际场景中存在各种复杂因素,使得目标检测算法如何快速、准确地适应背景局部或全局的变化成为一个难题。
现有的运动目标检测方法有:时间差分法、光流法、背景差法等。时间差分法通过比较相邻的2帧或3帧图像的差异实现场景变化检测,它对动态环境具有较强的自适应性,但一般不能完整提取运动目标,在运动实体内部容易产生空洞现象。光流法利用运动目标随时间变化的光流特性,优点是在摄像机运动的情况下也能检测出运动目标,缺点是大多数的光流法计算方法相当复杂,且抗噪性能差,如果没有特别的硬件装置,则无法实时处理。背景差法主要是利用背景的像素特征进行背景建模,背景模型的好坏直接影响目标检测的效果。基于混合高斯(MOG)建立背景模型的方法以及在混合高斯基础上融合贝叶斯框架、颜色和梯度信息,目标场均值分析和区域信息等改进方法是近年来流行的背景建模方法。它们能适应一定的复杂环境,但是该类方法是假定像素值服从高斯分布,且需要预先设定两个重要参数,参数设置的好坏会严重影响检测效果,背景的快速变化使得模型只能建立少数准确的高斯子,不能提供鲁棒的前景检测,且存在学习时间长,计算量大,无法区分运动目标和运动阴影等缺点。
由于现有背景建模方法在背景更新、背景扰动、虚假目标判断以及阴影抑制等方面存在许多不足,使得目标检测具有不稳定性。因此,寻求一种更有效的背景建模方法是提高检测运动目标准确性的途径之一。
发明内容
本发明所要解决的技术问题是提出一种基于分层背景建模的运动目标实时检测方法,该基于分层背景建模的运动目标实时检测方法,能适应不同复杂环境下监控场所的运动目标检测,而且能有效地抑制运动阴影。
本发明的技术解决方案如下:
一种基于分层背景建模的运动目标实时检测方法,包括以下步骤:
步骤1:采集前N帧初始图像,建立基于背景字典的背景模型;
步骤2:利用当前输入图像与背景模型作差,检测运动目标区域;
步骤3:目标区域的形态学滤波,输出运动目标;
步骤4:更新背景模型,并返回步骤2进行下一次检测循环。
所述步骤1中,采集前N帧初始图像,建立背景模型方法为,设前N个序列中单个像素坐标为(x,y)的序列采样值为:I中的每一个元素都是一个YUV向量即t=1,…,N;设为像素点(x,y)的背景字典,背景字典中含有L个码字;【背景字典中含有L个码字,L具体确定如下,在样本的训练阶段,拿当前像素与码字进行匹配,匹配成功,则更新码字(具体操作见后文);匹配不成功,则码字个数加1。按如此规则处理完后,得到的码字个数用L表示]每个码字由两部分组成:YUV向量Avgi=(Yi,Ui,Vi)和特征向量Auxi=(fi,ri,pi,qi),其中,i=1,…,L,f表示该码字出现的次数;r表示码字在训练中没有再次出现的最大时间间隔;p和q分别表示该码字出现后的第一次和最后一次匹配时间,用帧序数表示;
每一个采样值都和已有的码字进行比较,如果找到码字与其匹配,将匹配的码字进行更新;如果找不到匹配码字,则为其创建一个新的码字存入背景字典中,具体过程如下所示:(1):初始化,将每个像素的背景字典置空,每个背景字典中码字的个数为零,即L=0;(2):对于训练视频帧中的每个像素的序列采样值中每一个值根据以下条件来找出匹配的码字设的原内容为Avgm=(Ym,Um,Vm)和Auxm=(fm,rm,pm,qm):
High和Low为背景建模上下边界参数,High取值为[30~40,10~20,10~20],Low取值为[20~25,8~13,8~13];
AuxL=(1,t-1,t,t);
Auxm={fm+1,max(rm,t-qm),pm,t};
所述步骤2的具体过程为:
a:当前输入帧图像的像素与上一帧图像的像素作差,将当前输入帧图像分为变化区域与非变化区域:
其中S指当前输入帧图像,S1指非变化区域,S2指变化区域,ε指变化阀值;定义BGt-1(x,y)表示第t帧(x,y)像素点的二值化值,其取值只有0和1两种,其中第t帧中属于前景的像素点,被二值化为0;属于背景的像素点被二值化为1;
b:非变化区域S1内像素点的BGt(x,y)取与上一帧的BGt-1(x,y)相同的值,即
BGt(x,y)=BGt-1(x,y)if(x,y)∈S1;
其中i=1,…,L,为像素点(x,y)的第i个码字的YUV向量,Max和Min为目标检测上下边界参数,取Max为[5~15,1~11,1~11],Low为[5~11,1~7,1~7];c:判断前景运动目标像素
利用BG(x,y)的值,得到运动目标区域
所述步骤3中目标区域的形态学滤波方法为:利用形态学”开”操作和”闭”操作对运动目标区域作形态学滤波,清除小的像素噪声。
所述步骤4中更新背景模型方法为:
在背景模型M训练完成后,创建第二层背景模型M′,如果一个新输入的采样值与已有背景字典M找不到匹配,则为该新输入的采样值创建一个新的码字到M′中,然后把M’中满足条件{码元出现的次数f>Tadd}的码字增加到背景模型M中,把超过阈值Tdel还没被匹配访问的码字【设置Tdel用于精简背景字典,节省内存】从M中删除,具体步骤为:
Auxm={fm+1,max(rm,t-qm),pm,t},其中α是学习率;
②:如果在M中没有匹配的码字,则在M′中进行查找,如果找到,按步骤①中的公式更新;如果找不到,则创建一个新的码字c′添加到M′;
③:根据TM′精练M′,其中TM′是阈值,表示码字未出现的最长时间间隔,设为训练帧数的一半,即:
M′=M′-{c′k|c′k∈M′,rk>TM′};
④:将在M′中出现次数超过阈值Tadd的码字移到M中,以解决运动目标长时间停止转化为背景的问题即:
M=M+{c′k|c′k∈M′,fk>Tadd};
⑤:从M中删除超过时间Tdel未被匹配的码字,即:
M=M-{ck|ck∈M,rk>Tdel};
其中TM′和Tdel分别表示背景模型M′和M中码字未匹配的最大时间阈值,设为训练帧数的一半;Tadd表示码字在背景模型M′中出现最大次数,取值为400~600。
有益效果:
本发明公开了一种基于分层背景建模的运动目标实时检测方法,为每一个像素点创建一个背景字典,所有像素点的背景字典构成一个完整的背景模型,有效地解决了背景差法中背景构造更新的困难。根据当前输入像素点在背景字典中找到匹配即为背景点,否则为前景点,并采用候选背景模型来更新主背景模型,有效克服帧间差分法提取目标不精细和混合高斯背景建模方法对场景中光照变化敏感的缺点。在不同复杂环境下的实验结果表明本发明方法能够快速、精确地对监控场景中运动目标进行检测,对光照变化、背景扰动不敏感,对运动目标转化为背景的情况可以很好的处理,具有很好的鲁棒性和实时性。
附图说明
图1是本发明的方法流程图;
图2是背景模型更新流程图;
图3是室外运动目标检测结果图;
图4是室内运动目标检测结果图;
图3中,(a)原始室外场景图,(b).利用混合背景高斯建模方法检测出的运动目标区域,明显可见其还包含了阴影区域,所以比原运动目标要大,(c).利用本发明检测出的运动目标区域,很好地抑制了阴影。
图4中,(a).原始室内场景图,(b).利用混合高斯背景建模方法检测出的运动目标区域,由于运动目标引起局部光照变化,运动目标检测出错,(c).利用本发明检测出的运动目标区域,可见能克服局部光照变化,正确检测运动目标。
具体实施方式
以下将结合附图和具体实施例对本发明做进一步详细说明,但不作为本发明的限定:
实施例1:
本发明所提供的基于分层背景建模的运动目标实时检测方法流程如图1所示,包括以下步骤:
步骤1:采集前N帧初始图像,建立背景模型
步骤2:检测运动目标
步骤3:目标区域的形态学滤波
步骤4:更新背景模型,并重复步骤2操作。
在步骤1中采集前N=100(N可取值的范围为100~500,此处取100)帧初始图像,每一个采样值(1≤t≤100)都和已有的码字进行比较,如果找到码字与其匹配,将匹配的码字进行更新;如果找不到匹配码字,则为其创建一个新的码字存入背景字典中,具体过程如下所示:
(1):初始化,将每个像素的背景字典置空,每个背景字典中码字的个数为零,即L=0。
High和Low为背景建模上下边界参数,且包含YUV三个通道,它们的取值分别为High=(10,10,10),Low=(-10,-10,-10)。
Auxi=(1,t-1,t,t)(3)
否则,更新匹配的码字cm,设cm的原内容为Avgm=(Ym,Um,Vm)和Auxm=(fm,rm,pm,qm),那么把cm更新为:
Auxm={fm+1,max(rm,t-qm),pm,t}(5)
ri=max(ri,pi-1+N-qi)(6)
在步骤2中检测运动目标具体操作为:
a:当前输入帧的像素与上一帧的像素做差,将图像分为变化区域与非变化区域。
其中S指当前输入视频帧,S1指非变化区域,S2指变化区域,变化阀值ε=(7,7,7)。
b:非变化区域内像素点的BGt(x,y)取值与上一帧的BGt-1(x,y)相同,即
BGt(x,y)=BGt-1(x,y)if(x,y)∈S1(8)
变化区域内像素点根据公式(9)从M中找出与其匹配的码字ci,如果找到,则BGt(x,y)=1;否则BGt(x,y)=0
其中i=1,…,L,Max和Min为检测上下边界,且包含YUV三个通道,它们的取值为Min=(-25,-6,-6),Max=(35,6,6)。
c:判断前景运动目标像素
利用BG(x,y)的值,得到运动目标区域模板
步骤3中目标区域的形态学滤波方法为,利用形态学”开”操作和”闭”操作对运动目标区域做形态学滤波,我们选择3*3像素大小的结构元素采用于“开”操作和“闭”操作,结果如图3中的S3和图4中的S7所示。可见本发明准确地检测出了运动目标。先腐蚀后膨胀的过程称为开运算。用来消除小物体、在纤细点处分离物体、平滑较大物体的边界的同时并不明显改变其面积。先膨胀后腐蚀的过程称为闭运算。用来填充物体内细小空洞、连接邻近物体、平滑其边界的同时并不明显改变其面积。
步骤4中更新背景模型方法流程如图2所示,在背景模型M训练完成后,创建第二层背景模型M’,如果一个新输入的采样值与在已有背景字典M找不到匹配,则为其创建一个新的码字到M’中,然后把重新出现次数超过Tadd的码字增加到背景模型M中,把超过时间Tdel还没被匹配访问的码字从M中删除。具体步骤为:
Auxm按(5)式更新,其中α是学习率取值范围为0.4到0.7,本实施例中取0.5。
②:如果在M中没有匹配的码字,则在M’中进行查找,如果找到,按公式(11)和公式(5)更新;
如果找不到,则创建一个新的码字C’添加到M’。
③:根据TM′精练M’,即:
M’=M’-{c′k|c′k∈M′,rk>TM′}(12)
④:将在M’中出现次数超过Tadd的码字移到M中,即:
M=M与{c′k|c′k∈M′,fk>Tadd}(13)
⑤:从M中删除超过一定时间未被匹配的码字,即:
M=M-{ck|ck∈M,rk>Tdel}(14)
其中参数的取值分别为TM′=100、Tdel=200和Tadd=500。
Claims (2)
1.一种基于分层背景建模的运动目标实时检测方法,其特征在于,包括以下步骤:
步骤1:采集前N帧初始图像,建立基于背景字典的背景模型;
步骤2:利用当前输入图像与背景模型作差,检测运动目标区域;
步骤3:目标区域的形态学滤波,输出运动目标;
步骤4:更新背景模型,并返回步骤2进行下一次检测循环;
所述步骤1中,采集前N帧初始图像,建立背景模型方法为,设前N个序列中单个像素坐标为(x,y)的序列采样值为:I中的每一个元素都是一个YUV向量即 设 为像素点(x,y)的背景字典,背景字典中含有L个码字;每个码字由两部分组成:YUV向量Avgi=(Yi,Ui,Vi)和特征向量Auxi=(fi,ri,pi,qi),其中,i=1,...,L,f表示该码字出现的次数;r表示码字在训练中没有再次出现的最大时间间隔;p和q分别表示该码字出现后的第一次和最后一次匹配时间,用帧序数表示;
(1):初始化,将每个像素的背景字典置空,每个背景字典中码字的个数为零,即L=0;
High和Low为背景建模上下边界参数,High取值为(10,10,10),Low取值为(-10,-10,-10);
AuxL=(1,t-1,t,t);
Auxm={fm+1,max(rm,t-qm),pm,t};
所述步骤2的具体过程为:
a:当前输入帧图像的像素与上一帧图像的像素作差,将当前输入帧图像分为变化区域与非变化区域:
其中S指当前输入帧图像,S1指非变化区域,S2指变化区域,ε指变化阀值;
定义BGt-1(x,y)表示第t帧(x,y)像素点的二值化值,其取值只有0和1两种,其中第t帧中属于前景的像素点,被二值化为0;属于背景的像素点被二值化为1;
b:非变化区域S1内像素点的BGt(x,y)取与上一帧的BGt-1(x,y)相同的值,即
BGt(x,y)=BGt-1(x,y) if(x,y)∈S1;
c:判断前景运动目标像素
利用BG(x,y)的值,得到运动目标区域
所述步骤4中更新背景模型方法为:
在背景模型M训练完成后,创建第二层背景模型M′,如果一个新输入的采样值与已有背景字典M找不到匹配,则为该新输入的采样值创建一个新的码字到M′中,然后把M’中满足条件“码元出现的次数f>Tadd”的码字增加到背景模型M中,把超过阈值Tdel还没被匹配访问的码字从M中删除,具体步骤为:
Auxm={fm+1,max(rm,t-qm),pm,t},其中α是学习率;
②:如果在M中没有匹配的码字,则在M′中进行查找,如果找到,按步骤①中的公式更新;如果找不到,则创建一个新的码字c′添加到M′;
③:根据TM′精练M′,其中TM′是阈值,表示码字未出现的最长时间间隔,设为训练帧数的一半,即:
M′=M′-{c′k|c′k∈M′,rk>TM′};
④:将在M′中出现次数超过阈值Tadd的码字移到M中,以解决运动目标长时间停止转化为背景的问题即:
M=M+{c′k|c′k∈M′,fk>Tadd};
⑤:从M中删除超过时间Tdel未被匹配的码字,即:
M=M-{ck|ck∈M,rk>Tdel};
其中TM′和Tdel分别表示背景模型M′和M中码字未匹配的最大时间阈值,设为训练帧数的一半;Tadd表示码字在背景模型M′中出现最大次数,取值为400~600。
2.根据权利要求1所述的基于分层背景建模的运动目标实时检测方法,其特征在于:所述步骤3中目标区域的形态学滤波方法为:利用形态学”开”操作和”闭”操作对运动目标区域作形态学滤波,清除小的像素噪声。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201110052980 CN102096931B (zh) | 2011-03-04 | 2011-03-04 | 基于分层背景建模的运动目标实时检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201110052980 CN102096931B (zh) | 2011-03-04 | 2011-03-04 | 基于分层背景建模的运动目标实时检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102096931A CN102096931A (zh) | 2011-06-15 |
CN102096931B true CN102096931B (zh) | 2013-01-09 |
Family
ID=44130008
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN 201110052980 Expired - Fee Related CN102096931B (zh) | 2011-03-04 | 2011-03-04 | 基于分层背景建模的运动目标实时检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102096931B (zh) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102298844A (zh) * | 2011-08-15 | 2011-12-28 | 无锡中星微电子有限公司 | 自动违章车辆检测系统和方法 |
CN103020980A (zh) * | 2011-09-20 | 2013-04-03 | 佳都新太科技股份有限公司 | 一种基于改进双层码本模型的运动目标检测方法 |
CN102799191B (zh) * | 2012-08-07 | 2016-07-13 | 通号通信信息集团有限公司 | 基于动作识别技术的云台控制方法及系统 |
CN103810502B (zh) * | 2012-11-09 | 2017-09-19 | 阿里巴巴集团控股有限公司 | 一种图像匹配方法和系统 |
CN102968766B (zh) * | 2012-11-23 | 2015-04-08 | 上海交通大学 | 基于字典数据库的自适应图像超分辨率重构方法 |
CN106778540B (zh) * | 2013-03-28 | 2019-06-28 | 南通大学 | 停车检测准确的基于双层背景的停车事件检测方法 |
CN103414855B (zh) * | 2013-08-23 | 2017-06-20 | 北京奇艺世纪科技有限公司 | 一种视频处理方法及系统 |
CN104952083B (zh) * | 2015-06-26 | 2018-01-23 | 兰州理工大学 | 一种基于显著性目标背景建模的视频显著性检测方法 |
CN105321190A (zh) * | 2015-10-28 | 2016-02-10 | 上海大学 | 基于结构相似背景建模的运动目标检测方法 |
CN110378928B (zh) * | 2019-04-29 | 2022-01-04 | 北京佳讯飞鸿电气股份有限公司 | 一种动静匹配的目标检测与跟踪方法 |
CN110378927B (zh) * | 2019-04-29 | 2022-01-04 | 北京佳讯飞鸿电气股份有限公司 | 一种基于肤色的目标检测与跟踪方法 |
CN111917976A (zh) * | 2020-07-21 | 2020-11-10 | 青岛聚好联科技有限公司 | 电子设备及图像中运动对象提取方法 |
CN112101135A (zh) * | 2020-08-25 | 2020-12-18 | 普联国际有限公司 | 一种运动目标检测方法、装置及终端设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101038671A (zh) * | 2007-04-25 | 2007-09-19 | 上海大学 | 基于立体视觉三维手指运动轨迹跟踪方法 |
CN101290682A (zh) * | 2008-06-25 | 2008-10-22 | 北京中星微电子有限公司 | 一种运动目标检测方法及装置 |
CN101315701A (zh) * | 2008-07-11 | 2008-12-03 | 天津大学 | 运动目标图像分割方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6888891B2 (en) * | 2002-01-09 | 2005-05-03 | Octa Technology, Inc. | Wavelet domain half-pixel motion compensation |
-
2011
- 2011-03-04 CN CN 201110052980 patent/CN102096931B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101038671A (zh) * | 2007-04-25 | 2007-09-19 | 上海大学 | 基于立体视觉三维手指运动轨迹跟踪方法 |
CN101290682A (zh) * | 2008-06-25 | 2008-10-22 | 北京中星微电子有限公司 | 一种运动目标检测方法及装置 |
CN101315701A (zh) * | 2008-07-11 | 2008-12-03 | 天津大学 | 运动目标图像分割方法 |
Non-Patent Citations (3)
Title |
---|
Kyungnain Kim等.《BACKGROUND MODELING AND SUBTRACTION BY CODEBOOK CONSTRUCTION》.《2004 International Conference on Image Processing》.2005,全文. * |
李莉.《视频序列中运动目标检测技术研究》.《中国优秀硕士学位论文全文数据库信息科技辑》.2009,第39-44页. * |
甘新胜.《基于码书的运动目标检测方法》.《中国图象图形学报》.2008,第13卷(第2期),全文. * |
Also Published As
Publication number | Publication date |
---|---|
CN102096931A (zh) | 2011-06-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102096931B (zh) | 基于分层背景建模的运动目标实时检测方法 | |
CN105261037B (zh) | 一种自适应复杂场景的运动目标检测方法 | |
CN108537147B (zh) | 一种基于深度学习的手势识别方法 | |
CN111274921B (zh) | 一种利用姿态掩模进行人体行为识别的方法 | |
Li et al. | Example-based image colorization using locality consistent sparse representation | |
CN109685045B (zh) | 一种运动目标视频跟踪方法及系统 | |
CN102024146B (zh) | 猪舍监控视频中前景提取方法 | |
CN107452005A (zh) | 一种结合边缘帧差和高斯混合模型的运动目标检测方法 | |
CN105513053B (zh) | 一种用于视频分析中背景建模方法 | |
CN107895379A (zh) | 一种视频监控中前景提取的改进算法 | |
CN113792635A (zh) | 一种基于轻量化卷积神经网络的手势识别方法 | |
CN110288538A (zh) | 一种多特征融合的运动目标阴影检测及消除方法 | |
CN112418134A (zh) | 基于行人解析的多流多标签行人再识别方法 | |
CN110310238A (zh) | 一种基于重用原始信息的压缩奖惩神经网络的单幅图像去雨方法 | |
CN102063727A (zh) | 一种基于协方差匹配的主动轮廓跟踪方法 | |
CN107871315B (zh) | 一种视频图像运动检测方法和装置 | |
CN103020980A (zh) | 一种基于改进双层码本模型的运动目标检测方法 | |
CN104253994B (zh) | 一种基于稀疏编码融合的夜间监控视频实时增强方法 | |
CN105205834A (zh) | 一种基于混合高斯及阴影检测模型的目标检测与提取方法 | |
CN114943894A (zh) | 一种基于ConvCRF的高分遥感影像建筑物提取优化方法 | |
CN114359626A (zh) | 基于条件生成对抗网络的可见光-热红外显著目标检测方法 | |
Guo et al. | Small aerial target detection using trajectory hypothesis and verification | |
CN110348305B (zh) | 一种基于监控视频的运动目标提取方法 | |
CN115311456A (zh) | 基于改进DeepLabv3+的风口焦炭分割方法 | |
CN105872859A (zh) | 基于对象的运动目标轨迹提取的视频浓缩方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20130109 Termination date: 20160304 |
|
CF01 | Termination of patent right due to non-payment of annual fee |