CN101833760A - 一种基于图像块的背景建模方法及背景建模装置 - Google Patents

一种基于图像块的背景建模方法及背景建模装置 Download PDF

Info

Publication number
CN101833760A
CN101833760A CN 201010138088 CN201010138088A CN101833760A CN 101833760 A CN101833760 A CN 101833760A CN 201010138088 CN201010138088 CN 201010138088 CN 201010138088 A CN201010138088 A CN 201010138088A CN 101833760 A CN101833760 A CN 101833760A
Authority
CN
China
Prior art keywords
background
macro block
fritter
image
background modeling
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN 201010138088
Other languages
English (en)
Inventor
罗笑南
陆晴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
GUANGZHOU ZHONGHENG ELECTRONIC TECHNOLOGY Co Ltd
Sun Yat Sen University
National Sun Yat Sen University
Original Assignee
GUANGZHOU ZHONGHENG ELECTRONIC TECHNOLOGY Co Ltd
National Sun Yat Sen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by GUANGZHOU ZHONGHENG ELECTRONIC TECHNOLOGY Co Ltd, National Sun Yat Sen University filed Critical GUANGZHOU ZHONGHENG ELECTRONIC TECHNOLOGY Co Ltd
Priority to CN 201010138088 priority Critical patent/CN101833760A/zh
Publication of CN101833760A publication Critical patent/CN101833760A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本发明公开了一种基于图像块的背景建模方法及背景建模装置。该方法包括步骤:(1)对每帧图像进行分块;(2)对每个分块划分出16个4*4的小块;(3)对每个4*4的小块求均值;(4)将每个均值作为特征值与高斯模型进行匹配;(5)根据运算判断出每个宏块为前景块或背景块。本发明还相应提供一种背景建模装置。本发明提供的技术方案不仅可以克服传统方法中背景模型以单个像素的形式建立造成系统执行效率不高的缺点,而且采用简便有效的方法对宏块进行判断,运算复杂度低并且检测准确。

Description

一种基于图像块的背景建模方法及背景建模装置
技术领域
本发明涉及视频图像处理技术领域,具体涉及一种基于图像块的背景建模方法及背景建模装置。
背景技术
从一个视频序列中检测动态目标是视频监控的首要而基本的任务。目前,许多跟踪系统对运动目标的检测都依赖于背景提取技术,也就是将当前输入的图像帧与参考的背景模型相比较,根据当前帧的像素值与背景模型的偏离程度,来判断该像素是目标像素还是背景像素。然后,对那些被认为是目标的像素做进一步处理以便识别目标、确定目标的位置,进而实现跟踪。
背景的提取技术被广泛应用于诸如视频监控这样的跟踪系统。目前已提出了许多构建背景模型的方法。简单的背景模型可以是一幅没有移动物体的图像,而复杂的背景模型则是一种不断更新的统计量模型。然而,现实世界是复杂多变的,例如晃动的树、水中的波纹、闪烁的显示器、变化的照明等。为了处理这些复杂的情况,背景模型变得越来越复杂,这对系统所要求的实时处理提出了挑战。
然而,现实中的视频监控要求背景模型不但能很好地处理环境中的复杂情况,而且还要考虑实时计算能否得到满足。目前所提出的背景模型多数是以像素为单位建立的,这些像素被看成是相互独立的随机变量,每个像素被单独地决策成背景或前景(目标)。但是单个像素本身有时不能说明太多的问题,比如噪声点。事实上,对没有目标的区域,图像本身的结构具有相对的稳定性,因此在目标提取过程中仅对单像素进行分析会产生大量冗余信息,不可避免地会对算法的实际执行效率产生影响。
发明内容
本发明要解决的技术问题是于提供一种基于图像块的背景建模方法及背景建模装置,不仅可以克服传统方法中背景模型以单个像素的形式建立造成系统执行效率不高的缺点,而且采用简便有效的方法对宏块进行判断,运算复杂度低并且检测准确。
本发明提供一种基于图像块的背景建模方法,包括步骤:
(1)对每帧图像进行分块;
(2)对每个分块划分出16个4*4的小块;
(3)对每个4*4的小块求均值;
(4)将每个均值作为特征值与高斯模型进行匹配;
(5)根据运算判断出每个宏块为前景块或背景块。
优选的,所述对每帧图像进行分块具体是对图像进行16*16宏块的划分。
优选的,所述对每个4*4小块求均值是对每个4*4的小块的16个像素点求均值。
优选的,所述根据运算判断出每个宏块为前景块或背景块,具体是将每个宏块中4*4的小块与背景模型匹配的个数,与设定的阈值进行比较,若个数大于设定的阈值,则判定此宏块是背景块,否则判定为前景块。
本发明提供一种背景建模装置,包括:
划分模块,用于对每帧图像进行分块;对每个分块划分出16个4*4的小块;
计算模块,用于对每个4*4的小块求均值;
匹配模块,用于将每个均值作为特征值与高斯模型进行匹配;
判断模块,用于根据运算判断出每个宏块为前景块或背景块。
优选的,所述划分模块对每帧图像进行分块具体是对图像进行16*16宏块的划分。
优选的,所述判断模块根据运算判断出每个宏块为前景块或背景块,具体是将每个宏块中4*4的小块与背景模型匹配的个数,与设定的阈值进行比较,若个数大于设定的阈值,则判定此宏块是背景块,否则判定为前景块。
上述技术方案可以看出,本发明技术方案具有以下有益效果:
(1)传统方法中背景模型是以单个像素的形式建立的,尽管单个像素形式的模型具有准确、灵活等优点,但同时存在系统执行效率不高的缺点,本发明方法以图像块作为基本的检测单位,可以克服这个缺点。
(2)操作上:本发明方法对每个16*16的宏块又细分成16个4*4的小块,对小块求均值来进行计算,并且最终以4*4小块与背景模型匹配的个数来决定此16*16宏块是前景还是背景,这样运算单位划分适当,不会因16*16宏块过大造成计算误差,又克服了单一像素计算效率低下的缺点,并且计算简单,又判断准确性高。
因此,如上所述,本发明方法不仅可以克服传统方法中背景模型是以单个像素的形式建立的造成系统执行效率不高的缺点,而且采用简便有效的判定方法进行宏块属于前、背景块的判断,运算复杂度低并且检测准确。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1是本发明的方法流程图;
图2是本发明实施例的具体流程图;
图3是本发明的背景建模装置结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
下面结合附图对本发明的基于图像块的高斯模型背景建模方法作详细描述。
如图1所示是本发明的方法流程图,主要包括以下步骤:
步骤101、对每帧图像进行分块;
所述对每帧图像进行分块是对图像进行16*16宏块的划分。
步骤102、对每个分块划分出16个4*4的小块;
该步骤对每个16*16宏块划分出16个4*4的小块。
步骤103、对每个4*4的小块求均值;
该步骤对每个4*4小块求均值,是对每个4*4的小块的16个像素点求均值。
步骤104、将每个均值作为特征值与高斯模型进行匹配;
步骤105、根据运算判断出每个宏块为前景块或背景块。
该步骤根据运算判断出每个宏块为前景块或背景块,具体是将每个宏块中4*4的小块与背景模型匹配的个数,与设定的阈值进行比较,若个数大于设定的阈值,则判定此宏块是背景块,否则判定为前景块。
下面对本发明方案作详细介绍。
(1)对每帧图像进行16*16宏块的划分;
在算法中,实时的对输入的每一帧图像从上到下,从左到右进行16*16宏块的划分,以每个宏块为基本的检测单位。
(2)对每个16*16宏块划分出16个4*4的小块;
在算法中,对每个划分的16*16宏块,从上到下,从左到右,划分出16个4*4的小块,以每个4*4的小块作为计算单位。
(3)求每个4*4小块的均值;
如果直接对16*16的宏块进行计算,图像块较大,虽然要处理的块数较少,效率会越高,但对局部目标敏感度就越小,目标的精确度就会变差,因为前景所占比例小的图像块的个数会增加。因此,将每个16*16宏块进一步划分成16个4*4的小块,这样运算单位大小适当,计算每个小块的均值,以均值作为运算的对象。
(4)将每个均值作为特征值与高斯模型进行匹配
以每个4*4小块的均值作为特征值λ,令特征向量Λ=[λ]。
本方法采用现有的混合高斯分布的形式和参数更新方法进行模型的建立和更新。
选择一个时间周期(Λ1,....Λt),给出Λt具有K个分量的高斯混合密度:
p ( Λ t ) = Σ i = 1 K p ( Λ t | ω i , μ i , t , U i , t ) p ( ω i ) = Σ i = 1 K w i , t p ( Λ t | ω i , μ i , t , U i , t ) 公式(1)
其中,
p ( Λ t , μ i , t , U i , t ) = 1 ( 2 π ) n 2 | U i , t | 1 2 e - 1 2 Q 公式(2)
Q=(Ati,t)TUi,t -1(Ati,t)                        公式(3)
p(ωi)或wi,t为第i个分量在总体分布中所占的权值。
假设像素间是相互独立的,可以得出特征值之间也是相互独立的。
为了简化计算,进一步假设它们具有同样的方差,因而协方差矩阵Ui,t可以简化为Ui,t=σi,t 2E,其中E为单位矩阵。这种假设可以避免复杂计算引起误差加大。
公式(1)说明了每一图像块的特征向量Λ的当前观察值的概率分布可由一个高斯混合函数所刻画,也就是说图像块的特征向量的某种状态可由混合模型的某个分量来描述。
基于前面的假设,从前向后将新的图像块的特征值与现存的K个高斯分布进行匹配,如果特征值落在某个分布的标准方差的某一倍数范围内,就认为此4*4小块匹配成功,即如果|Λ1i,t|≤τσi,t,则认为与该分布匹配成功。实验表明τ取4比较合适。
将现存的K个高斯函数按比率w/σ排序,这一顺序是按高斯优先权值增大和方差减小来排列的。与顺序在后的分量相比,顺序在前的分量是背景的可能性大于顺序在后的分量。从前向后对优先权值取和,将其和占据T部分的前B个分布定义为背景。
其中,
Figure GSA00000071189800061
T表示在整个分布中背景最小部分的度量。这里取最好的分布直到其权值的和占数据T部分为止。如果图像块的特征与前B个分量匹配成功,就判定为背景块,否则为前景块。
当对此16*16宏块的16个4*4小块都匹配结束后,设匹配的小块个数为match_num,设定阈值M,实验中M可以取12或取其他值,当X.A.i.match_num>=M时,则判定此16*16宏块与背景模型匹配,属于背景块,否则为前景块。
在上述匹配工作完成后,利用现有的混合高斯分布的形式和参数更新方法对模型进行更新。
以下结合图2进行更详细介绍。图2是本发明实施例的具体流程图。如图2所示,包括以下步骤:
步骤201、进行初始化,X=1,A=1,i=1;
其中,X表示第X帧,A表示第A个宏块,i表示A宏块中的第i个小块。
步骤202、检测第X帧的第A个16*16宏块;
步骤203、计算A的第i个4*4小块的均值X.A.i_mean;
步骤204、初始化X.A.i.match_num=0;
步骤205、A的第i个4*4小块的均值X.A.i_mean是否与前B个高斯分布中的一个匹配,若否,进入步骤206,若是,进入步骤208;
步骤206、更新模型参数,进入步骤208;
步骤207、X.A.i.match_num递增,即X.A.i.match_num++;
步骤208、i增加,即i++;
步骤209、判断i是否小于或等于16,若是,返回步骤203,若否,进入步骤210;
步骤210、判断X.A.i.match_num是否大于或等于阈值M,若否,进入步骤211,若是,进入步骤212;
步骤211、将A判定为前景块,进入步骤213;
步骤212、将A判定为背景块,进入步骤213;
步骤213、判断A是否是X帧最后一块,若否,进入步骤214,若是,进入步骤215;
步骤214、A=A+1,再返回步骤202;
步骤215、判断X是否为最后一帧,若否,进入步骤216,若是,进入步骤217;
步骤216、X=X+1,再返回步骤202;
步骤217、结束。
上述详细介绍了本发明的方法,相应的,本发明提供一种背景建模装置。
图3是本发明的背景建模装置结构示意图。如图3所示,背景建模装置包括:
划分模块301,用于对每帧图像进行分块;对每个分块划分出16个4*4的小块;
计算模块302,用于对每个4*4的小块求均值;
匹配模块303,用于将每个均值作为特征值与高斯模型进行匹配;
判断模块304,用于根据运算判断出每个宏块为前景块或背景块。
所述划分模块301对每帧图像进行分块具体是对图像进行16*16宏块的划分。
所述判断模块304根据运算判断出每个宏块为前景块或背景块,具体是将每个宏块中4*4的小块与背景模型匹配的个数,与设定的阈值进行比较,若个数大于设定的阈值,则判定此宏块是背景块,否则判定为前景块。
上述技术方案可以看出,本发明技术方案具有以下有益效果:
(1)传统方法中背景模型是以单个像素的形式建立的,尽管单个像素形式的模型具有准确、灵活等优点,但同时存在系统执行效率不高的缺点,本发明方法以图像块作为基本的检测单位,可以克服这个缺点。
(2)操作上:本发明方法对每个16*16的宏块又细分成16个4*4的小块,对小块求均值来进行计算,并且最终以4*4小块与背景模型匹配的个数来决定此16*16宏块是前景还是背景,这样运算单位划分适当,不会因16*16宏块过大造成计算误差,又克服了单一像素计算效率低下的缺点,并且计算简单,又判断准确性高。
因此,如上所述,本发明方法不仅可以克服传统方法中背景模型是以单个像素的形式建立的造成系统执行效率不高的缺点,而且采用简便有效的判定方法进行宏块属于前、背景块的判断,运算复杂度低并且检测准确。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁盘或光盘等。
以上对本发明实施例所提供的一种基于图像块的背景建模方法及背景建模装置,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (7)

1.一种基于图像块的背景建模方法,其特征在于,包括步骤:
(1)对每帧图像进行分块;
(2)对每个分块划分出16个4*4的小块;
(3)对每个4*4的小块求均值;
(4)将每个均值作为特征值与高斯模型进行匹配;
(5)根据运算判断出每个宏块为前景块或背景块。
2.根据权利要求1所述的基于图像块的背景建模方法,其特征在于:
所述对每帧图像进行分块具体是对图像进行16*16宏块的划分。
3.根据权利要求1或2所述的基于图像块的背景建模方法,其特征在于:
所述对每个4*4小块求均值是对每个4*4的小块的16个像素点求均值。
4.根据权利要求1或2所述的基于图像块的背景建模方法,其特征在于:
所述根据运算判断出每个宏块为前景块或背景块,具体是将每个宏块中4*4的小块与背景模型匹配的个数,与设定的阈值进行比较,若个数大于设定的阈值,则判定此宏块是背景块,否则判定为前景块。
5.一种背景建模装置,其特征在于,包括:
划分模块,用于对每帧图像进行分块;对每个分块划分出16个4*4的小块;
计算模块,用于对每个4*4的小块求均值;
匹配模块,用于将每个均值作为特征值与高斯模型进行匹配;
判断模块,用于根据运算判断出每个宏块为前景块或背景块。
6.根据权利要求5所述的背景建模装置,其特征在于:
所述划分模块对每帧图像进行分块具体是对图像进行16*16宏块的划分。
7.根据权利要求5或6所述的背景建模装置,其特征在于:
所述判断模块根据运算判断出每个宏块为前景块或背景块,具体是将每个宏块中4*4的小块与背景模型匹配的个数,与设定的阈值进行比较,若个数大于设定的阈值,则判定此宏块是背景块,否则判定为前景块。
CN 201010138088 2010-03-29 2010-03-29 一种基于图像块的背景建模方法及背景建模装置 Pending CN101833760A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN 201010138088 CN101833760A (zh) 2010-03-29 2010-03-29 一种基于图像块的背景建模方法及背景建模装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN 201010138088 CN101833760A (zh) 2010-03-29 2010-03-29 一种基于图像块的背景建模方法及背景建模装置

Publications (1)

Publication Number Publication Date
CN101833760A true CN101833760A (zh) 2010-09-15

Family

ID=42717821

Family Applications (1)

Application Number Title Priority Date Filing Date
CN 201010138088 Pending CN101833760A (zh) 2010-03-29 2010-03-29 一种基于图像块的背景建模方法及背景建模装置

Country Status (1)

Country Link
CN (1) CN101833760A (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102169538A (zh) * 2011-04-12 2011-08-31 广州市威宝网络科技有限公司 一种基于像素置信度的背景建模方法
CN102708572A (zh) * 2010-12-23 2012-10-03 佳能株式会社 更新场景模型的方法和系统、使用该方法的照相机系统
CN104683765A (zh) * 2015-02-04 2015-06-03 上海依图网络科技有限公司 一种基于移动物体侦测的视频浓缩方法
CN104702956A (zh) * 2015-03-24 2015-06-10 武汉大学 一种面向视频编码的背景建模方法
TWI629666B (zh) * 2017-03-27 2018-07-11 銘傳大學 用於影像物件分割之區塊錯誤量測方法
CN110136150A (zh) * 2018-02-08 2019-08-16 北京深境智能科技有限公司 物体图像自动抠取方法和系统
CN114358599A (zh) * 2022-01-05 2022-04-15 国网江苏省电力有限公司营销服务中心 一种基于混合密度深度学习的居配现场检测系统的任务时序分配方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101290661A (zh) * 2008-05-30 2008-10-22 林进灯 二维信号的时变背景建立方法
US20090060277A1 (en) * 2007-09-04 2009-03-05 Objectvideo, Inc. Background modeling with feature blocks
CN101470809A (zh) * 2007-12-26 2009-07-01 中国科学院自动化研究所 一种基于扩展混合高斯模型的运动目标检测方法
CN101489121A (zh) * 2009-01-22 2009-07-22 北京中星微电子有限公司 一种基于视频监控的背景模型初始化和更新方法
CN101533515A (zh) * 2009-04-13 2009-09-16 浙江大学 一种面向视频监控的基于块的背景建模方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090060277A1 (en) * 2007-09-04 2009-03-05 Objectvideo, Inc. Background modeling with feature blocks
CN101470809A (zh) * 2007-12-26 2009-07-01 中国科学院自动化研究所 一种基于扩展混合高斯模型的运动目标检测方法
CN101290661A (zh) * 2008-05-30 2008-10-22 林进灯 二维信号的时变背景建立方法
CN101489121A (zh) * 2009-01-22 2009-07-22 北京中星微电子有限公司 一种基于视频监控的背景模型初始化和更新方法
CN101533515A (zh) * 2009-04-13 2009-09-16 浙江大学 一种面向视频监控的基于块的背景建模方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
《全国第18届计算机技术与应用学术会议论文集》 20071231 陈宜稳等 分块建模和点建模联合的背景重建方法 正文第1-3页 1-7 , 2 *

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102708572A (zh) * 2010-12-23 2012-10-03 佳能株式会社 更新场景模型的方法和系统、使用该方法的照相机系统
CN102708572B (zh) * 2010-12-23 2015-08-05 佳能株式会社 更新场景模型的方法和系统、使用该方法的照相机系统
CN102169538A (zh) * 2011-04-12 2011-08-31 广州市威宝网络科技有限公司 一种基于像素置信度的背景建模方法
CN102169538B (zh) * 2011-04-12 2012-12-05 广州市威宝网络科技有限公司 一种基于像素置信度的背景建模方法
CN104683765A (zh) * 2015-02-04 2015-06-03 上海依图网络科技有限公司 一种基于移动物体侦测的视频浓缩方法
CN104702956A (zh) * 2015-03-24 2015-06-10 武汉大学 一种面向视频编码的背景建模方法
CN104702956B (zh) * 2015-03-24 2017-07-11 武汉大学 一种面向视频编码的背景建模方法
TWI629666B (zh) * 2017-03-27 2018-07-11 銘傳大學 用於影像物件分割之區塊錯誤量測方法
CN110136150A (zh) * 2018-02-08 2019-08-16 北京深境智能科技有限公司 物体图像自动抠取方法和系统
CN110136150B (zh) * 2018-02-08 2021-03-16 北京深境智能科技有限公司 物体图像自动抠取方法和系统
CN114358599A (zh) * 2022-01-05 2022-04-15 国网江苏省电力有限公司营销服务中心 一种基于混合密度深度学习的居配现场检测系统的任务时序分配方法

Similar Documents

Publication Publication Date Title
CN101883209B (zh) 一种背景模型与三帧差分相结合进行视频背景检测的方法
CN101833760A (zh) 一种基于图像块的背景建模方法及背景建模装置
CN110108258B (zh) 一种单目视觉里程计定位方法
CN101470809B (zh) 一种基于扩展混合高斯模型的运动目标检测方法
CN103098111B (zh) 行驶道路推定装置及程序
CN104517275A (zh) 对象检测方法和系统
CN110827320B (zh) 基于时序预测的目标跟踪方法和装置
CN108182695B (zh) 目标跟踪模型训练方法及装置、电子设备和存储介质
CN102110293A (zh) 基于模型的赛场配准
CN102142147A (zh) 场地内容分析装置和方法及目标检测与跟踪装置和方法
CN103237197B (zh) 用于鲁棒跟踪的自适应多特征融合的方法
CN111027505B (zh) 一种基于显著性检测的分层多目标跟踪方法
CN101324958A (zh) 一种目标跟踪方法及装置
CN102222339A (zh) 一种基于纹理和强度特征融合的多尺度背景建模方法
CN102750522B (zh) 一种目标跟踪的方法
CN101572770B (zh) 一种可用于实时监控的运动检测方法与装置
CN104751466A (zh) 一种基于视觉显著性的形变物体跟踪算法及其系统
CN104318559A (zh) 用于视频图像匹配的特征点快速检测方法
CN101908214A (zh) 基于邻域相关的背景重构的运动目标检测方法
CN102930559A (zh) 图像处理的方法及装置
CN107871315B (zh) 一种视频图像运动检测方法和装置
CN102214301A (zh) 自适应运动相关协作多目标跟踪方法
CN102800105B (zh) 基于运动矢量的目标检测方法
CN105224914A (zh) 一种基于图的无约束视频中显著物体检测方法
CN103839280A (zh) 一种基于视觉信息的人体姿态跟踪方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C12 Rejection of a patent application after its publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20100915