CN110490141A - 一种填涂信息的识别方法、装置、终端及存储介质 - Google Patents
一种填涂信息的识别方法、装置、终端及存储介质 Download PDFInfo
- Publication number
- CN110490141A CN110490141A CN201910774959.3A CN201910774959A CN110490141A CN 110490141 A CN110490141 A CN 110490141A CN 201910774959 A CN201910774959 A CN 201910774959A CN 110490141 A CN110490141 A CN 110490141A
- Authority
- CN
- China
- Prior art keywords
- full
- filling
- telltale mark
- filling region
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种填涂信息的识别方法、装置、终端及存储介质。该方法包括:获取填涂单的目标图像和预先存储的模板图像,及模板图像中第一待填涂区域和第一定位标记的位置关系,其中,模板图像未存在偏移和非线性失真,第一定位标记包括与第一待填涂区域对应的定位标记;识别目标图像中与第一定位标记对应的第二定位标记,根据第二定位标记和位置关系,确定目标图像中与第一待填涂区域对应的第二待填涂区域;确定第二待填涂区域中的填涂痕迹,并根据填涂痕迹识别第二待填涂区域中的填涂信息。本发明实施例的技术方案,可以准确识别待填涂区域,在填涂者无需涂满填涂单上的待填涂区域的情况下,可以自动且精准识别填涂单上的填涂信息。
Description
技术领域
本发明实施例涉及图像处理技术领域,尤其涉及一种填涂信息的识别方法、装置、终端及存储介质。
背景技术
很多领域中都涉及到基于填涂单搜集信息的情况,填涂者可以将待搜集信息填涂在填涂单上,然后,基于机器自动识别填涂单上的填涂信息。比如,在考试中,考生可以将客观题的答案填涂在答题卡上,进而,通过光标阅读机或是图像识别系统自动识别答题卡上的答案,由此搜集学生的学习情况。
在自动识别填涂信息过程中,通常是先确定填涂单中的各个待填涂区域,然后,确定待填涂区域中是否存在填涂痕迹,以及,该填涂痕迹对应的像素个数是否大于预设阈值。但是,填涂单在印刷或是扫描过程中,很可能出现水平/垂直方向、旋转角度的偏移,以及非线性失真,这很可能会影响待填涂区域的精准识别。需要说明的是,若存在填涂痕迹的某个待填涂区域的识别结果存在偏差,那么,识别到的待填涂区域中填涂痕迹对应的像素个数很可能小于实际的像素个数,甚至小于预设阈值,这就会导致填涂信息识别错误的情况。
对于上述问题,常用的解决方案是要求填涂者将待填涂区域涂满,比如,如图2a所示,考试中每道试题有A、B、C和D四个选项,考生需要将这四个选项中的某个选项所在区域涂满。这样一来,即使待填涂区域的识别结果存在偏差,识别到的待填涂区域中填涂痕迹对应的像素个数也是可以大于预设阈值。但是,该解决方案对填涂者的友好性较低,因为涂满待填涂区域会耗费较多时间,而且,在修改填涂信息时,还需要使用橡皮擦掉已有的填涂信息,在时间较为紧张的环境中,这无疑会给填涂者带来干扰。
发明内容
本发明实施例提供了一种填涂信息的识别方法、装置、终端及存储介质,以实现在准确识别待填涂区域的基础上,自动识别填涂单上的填涂信息。
第一方面,本发明实施例提供了一种填涂信息的识别方法,可以包括:
获取填涂单的目标图像和预先存储的模板图像,及模板图像中第一待填涂区域和第一定位标记的位置关系,其中,模板图像未存在偏移和非线性失真,第一定位标记包括与第一待填涂区域对应的定位标记;
识别目标图像中与第一定位标记对应的第二定位标记,根据第二定位标记和位置关系,确定目标图像中与第一待填涂区域对应的第二待填涂区域;
确定第二待填涂区域中的填涂痕迹,并根据填涂痕迹识别第二待填涂区域中的填涂信息。
可选的,通过如下步骤可以获取与模板图像中第一待填涂区域对应的第一定位标记:
根据模板图像中第一待填涂区域和模板图像中多个定位标记的距离,从多个定位标记中提取出第一定位标记。
可选的,获取模板图像中第一待填涂区域和第一定位标记的位置关系,可以包括:
以第一定位标记为原点,分别以模板图像中两条互相垂直的图像边缘所在方向为X方向和Y方向,建立第一坐标系,确定模板图像中第一待填涂区域在第一坐标系中的坐标;
相应的,识别目标图像中与第一定位标记对应的第二定位标记,根据第二定位标记和位置关系,确定目标图像中与第一待填涂区域对应的第二待填涂区域,可以包括:
识别目标图像中与第一定位标记对应的第二定位标记,并以第二定位标记为原点,分别以目标图像中两条互相垂直的图像边缘所在方向为X方向和Y方向,建立第二坐标系;
在第二坐标系中,根据坐标确定目标图像中与第一待填涂区域对应的第二待填涂区域。
可选的,当模板图像中存在至少两个第一定位标记,至少两个第一定位标记分别对应于第一待填涂区域中至少两条区域边缘,且分别以至少两个第一定位标记中的一个定位标记为原点时,第一待填涂区域包括第一待填涂区域中与至少两个第一定位标记中的一个定位标记对应的区域边缘。
可选的,在获取填涂单的目标图像和预先存储的模板图像之后,该方法还可以包括:
获取模板图像中至少两个第三定位标记,以及,目标图像中与第三定位标记分别对应的第四定位标记;
根据第三定位标记在模板图像中的基准位置,以及,第四定位标记在目标图像中的待调整位置,调整目标图像中各个像素点的位置,并基于调整结果更新目标图像。
可选的,在获取填涂单的目标图像之后,该方法还可以包括:
得到目标图像的二值图像,并将二值图像更新为目标图像,其中,目标图像由背景像素和字迹像素构成;
相应的,确定第二待填涂区域中的填涂痕迹,并根据填涂痕迹识别第二待填涂区域中的填涂信息,包括:
根据第二待填涂区域中字迹像素的个数,识别第二待填涂区域中的填涂信息,其中,填涂信息包括已填涂或是未填涂。
可选的,根据第二待填涂区域中字迹像素的个数,识别第二待填涂区域中的填涂信息,可以包括:
识别出第二待填涂区域中各字迹像素构成的实线痕迹,确定实线痕迹对应的像素的个数;
根据第二待填涂区域中实线痕迹对应的像素的个数,识别第二待填涂区域中的填涂信息。
第二方面,本发明实施例还提供了一种填涂信息的识别装置,该装置可以包括:
位置关系获取模块,用于获取填涂单的目标图像和预先存储的模板图像,以及,模板图像中第一待填涂区域和第一定位标记的位置关系,模板图像未存在偏移和非线性失真,第一定位标记包括与第一待填涂区域对应的定位标记;
第二待填涂区域确定模块,用于识别目标图像中与第一定位标记对应的第二定位标记,根据第二定位标记和位置关系,确定目标图像中与第一待填涂区域对应的第二待填涂区域;
填涂信息识别模块,用于确定第二待填涂区域中的填涂痕迹,并根据填涂痕迹识别第二待填涂区域中的填涂信息。
第三方面,本发明实施例还提供了一种终端,该终端可以包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现本发明任意实施例所提供的填涂信息的识别方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现本发明任意实施例所提供的填涂信息的识别方法。
本发明实施例的技术方案,通过获取填涂单的目标图像和预先存储的模板图像,模板图像中设置有与第一待填涂区域对应的第一定位标记,目标图像中设置有与第一待填涂区域对应的第二待填涂区域,与第一定位标记对应的第二定位标记,由此可以确定出第一待填涂区域和第一定位标记的位置关系,由于该位置关系也是第二待填涂区域和第二定位标记的位置关系,因此,根据该位置关系和第二定位标记可以精准定位第二待填涂区域,进而确定第二待填涂区域中的填涂痕迹,并根据填涂痕迹识别第二待填涂区域中的填涂信息。上述技术方案可以准确识别待填涂区域,在填涂者无需涂满填涂单上的待填涂区域的情况下,可以自动且精准识别填涂单上的填涂信息。
附图说明
图1是本发明实施例一中的一种填涂信息的识别方法的流程图;
图2a是现有技术中的填涂单的第一种示意图;
图2b是本发明实施例一中的填涂单的第二种示意图;
图2c是本发明实施例一中的填涂单的第三种示意图;
图2d是现有技术中的填涂单的第四种示意图;
图3是本发明实施例一中的模板图像的示意图;
图4a是本发明实施例一中的目标图像的第一种示意图;
图4b是本发明实施例一中的目标图像的第二种示意图;
图5是本发明实施例二中的一种填涂信息的识别装置的结构框图;
图6是本发明实施例三中的一种终端的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
在介绍本发明实施例之前,先对本发明实施例的应用场景进行说明:现有技术中要求填涂者将待填涂区域涂满的原因是待填涂区域无法准确识别,那么,如果可以准确识别待填涂区域,则填涂者无需涂满待填涂区域,只需在待填涂区域中留有简单的填涂痕迹,根据该填涂痕迹就可以准确识别待填涂区域中的填涂信息,该填涂痕迹可以是圆圈、直线、对勾等简单的易于填涂者填涂的痕迹。因此,下述各技术方案的一个重点在于如何准确识别待填涂区域。
实施例一
图1是本发明实施例一中提供的一种填涂信息的识别方法的流程图。本实施例可适用于准确定位待填涂区域的情况,尤其适用于根据与待填涂区域距离较近的定位标记来定位待填涂区域的情况。该方法可以由本发明实施例提供的填涂信息的识别装置来执行,该装置可以由软件和/或硬件的方式实现,该装置可以集成在各种用户终端或服务器上。
参见图1,本发明实施例的方法具体包括如下步骤:
S110、获取填涂单的目标图像和预先存储的模板图像,及模板图像中第一待填涂区域和第一定位标记的位置关系,其中,模板图像未存在偏移和非线性失真,第一定位标记包括与第一待填涂区域对应的定位标记。
其中,获取填涂单的目标图像的方式有很多种,例如,可以扫描或是拍照已经填涂完成的填涂单以获取填涂单的目标图像;可以从数据库中直接获取已经填涂完成的填涂单的目标图像;当然,还可以通过其他的现有技术的方式获取,在此不再赘述。进一步,可以对该目标图像进行预处理,比如,归一化处理、去除噪声、缩放校正、纠偏校正、图文分析处理等,以使填涂单和目标图像具有高度一致性并去除噪声干扰。需要说明的是,该填涂单包括多个待填涂区域以及多个定位标记,则目标图像和模板图像上可以包括多个待填涂区域以及多个定位标记。该填涂单可以通过各种形式呈现,比如,学校考试中的答题卡(如图2a所示),调查问卷中的调查表(如图2b所示),素质测评中的测评表(如图2c所示)等等;待填涂区域也可以通过多种形式呈现,比如,矩形区域、圆形区域、三角区域、直线区域、曲线区域等等;这定位标记也可以通过多种形式呈现,比如,黑色标记块、特定文字、特定图形等等。即,对于填涂单的具体形式,在此均不做限定。
对于预先存储的填涂单的模板图像,应当未存在偏移和非线性失真,这可以理解为,与模板图像对应的填涂单在印刷过程中未存在偏移和非线性失真,在获取该填涂单的模板图像的过程中,也未存在偏移和非线性失真,这样才能保证预先存储的模板图像未存在偏移和非线性失真。需要说明的是,偏移可以理解为水平方向、垂直方向和/或旋转角度的偏移,非线性失真可以理解为局部的非现实失真,比如,填涂单上的2个待填涂区域的大小本应当相同,但是,在模板图像上,这2个待填涂区域呈现出一大一小的状态;再比如,填涂单上的1个待填涂区域是矩形区域,该矩形区域本应当由4条直线构成,但是,在模板图像上,这4条直线中的至少1条出现了弯曲。相较于模板图像,目标图像中可能存在偏差和/或非线性失真,这可能是在目标图像获取过程中造成的,也可能是在印刷填涂单的过程中造成的。
模板图像中第一待填涂区域可以是多个待填涂区域中的任一待填涂区域,实际上,可以将模板图像中的每个待填涂区域逐个作为第一待填涂区域来处理,由此实现目标图像中每个待填涂区域的精准定位。与第一待填涂区域对应的第一定位标记可以是多个定位标记中的任一定位标记,也可以是以第一待填涂区域为依据而确定的特定的定位标记。比如,如果通过第一定位标记对第一待填涂区域的位置进行定位,那么,为了降低非线性失真的影响并提高第一待填涂区域的定位精准性,可以通过与第一待填涂区域距离较近的第一定位标记来定位该第一待填涂区域,这样一来,即使存在非线性失真,有此定位出的第一待填涂区域也是相对精准的。
因此,可选的,可以通过如下步骤获取与模板图像中第一待填涂区域对应的第一定位标记:根据模板图像中第一待填涂区域和模板图像中多个定位标记的距离,从多个定位标记中提取出第一定位标记。具体的,对于模板图像中第一待填涂区域和模板图像中多个定位标记的距离,可以通过多种方式计算,比如,可以先确定第一待填涂区域的中心点和每个定位标记的中心点,再以第一待填涂区域的中心点和定位标记的中心点的距离来计算第一待填涂区域和每个定位标记的距离;再比如,可以先确定第一待填涂区域的重心和每个定位标记的重心,再以第一待填涂区域的重心和定位标记的重心的距离来计算第一待填涂区域和每个定位标记的重心;等等。进而,在得到第一待填涂区域和多个定位标记的距离后,可以将满足预设距离条件的那些定位标记作为第一定位标记。比如,可以将距离最小值对应的定位标记作为第一定位标记,可以对距离进行由小到大的排序,并将排序前三的距离对应的定位标记作为第一定位标记。即,对于每个第一待填涂区域,可以对应有一个或是多个第一定位标记。
示例性的,如图3所示,模板图像中包括多个待填涂区域和多个定位标记,以待填涂区域10为第一待填涂区域为例,可以将与第一待填涂区域距离最近的定位标记20作为第一定位标记,也可以将与第一待填涂区域距离最近的定位标记20和次近的定位标记21同时作为第一定位标记。
在获取到模板图像中的第一待填涂区域和第一定位标记后,可以确定第一待填涂区域和第一定位标记的位置关系,该位置关系可通过下方3厘米、斜上方5厘米、右斜下方30°的3.5厘米等等来表示,还可以第一定位标记原点,分别以模板图像中两条互相垂直的图像边缘所在方向为X方向和Y方向,建立第一坐标系,根据第一待填涂区域在第一坐标系中的坐标来表示,等等。示例性的,参见图3,以定位标记22为第一定位标记为例,该第一坐标系可以如图3中所示的X-Y坐标系。当然,待填涂区域是一个区域,并非是一个点,因此,待填涂区域在第一坐标系中的坐标,可以是待填涂区域的中心点在第一坐标系中的坐标,可以是待填涂区域的各个顶点在第一坐标系中的坐标,等等。
S120、识别目标图像中与第一定位标记对应的第二定位标记,根据第二定位标记和位置关系,确定目标图像中与第一待填涂区域对应的第二待填涂区域。
其中,目标图像中定位标记的个数和模板图像中定位标记的个数是相同的,即模板图像中的每个定位标记在目标图像都存在对应的定位标记,因此,可以在目标图像中识别出与模板图像中第一定位标记对应的第二定位标记,具体的识别方式可以是,比如,以第一定位标记是黑色方块为例,虽然目标图像可能存在偏移和/或非线性失真,但是,第一定位标记在该模板图像中的位置,以及,第二定位标记在目标图像中的位置应当是接近的,因此,在目标图像中,可以以第一定位标记在模板图像中的位置为中心向四周搜索,以距离中心最近的黑色方块为第二定位标记。
进一步的,根据第二定位标记和位置关系,可以确定目标图像中与第一待填涂区域对应的第二待填涂区域。比如,如果位置关系是第一待填涂区域在第一定位标记的斜上方5厘米,则第二待填涂区域也在第二定位标记的斜上方5厘米。当然,如果位置关系是第一待填涂区域的中心点在第一定位标记的中心点的斜上方5厘米,则第二待填涂区域的中心点也在第二定位标记的中心点的斜上方5厘米。当识别到第二待填涂区域的中心点后,还可以结合第二待填涂区域的尺寸和/或形状,再次确定第二待填涂区域中各个点所在的位置。
再比如,位置关系可以通过如下方式呈现,以第一定位标记为原点,分别以模板图像中两条互相垂直的图像边缘所在方向为X方向和Y方向,建立第一坐标系来确定模板图像中第一待填涂区域在第一坐标系中的坐标,上述两条互相垂直的图像边缘可以认为是模板图像的上侧边缘和左侧边缘。那么,相应的,在目标图像中,可以以第二定位标记为原点,分别以目标图像中两条互相垂直的图像边缘所在方向为X方向和Y方向,建立第二坐标系,进而,在第二坐标系中,根据坐标和第二定位标记确定目标图像中与第一待填涂区域对应的第二待填涂区域。当然,这样确定的第二待填涂区域可能还是一个点,正如上文所述,还可以结合第二待填涂区域的尺寸和/或形状,再次确定第二待填涂区域中各个点所在的位置,这也就确定出第二待填涂区域的各条边框所在的位置。在实际应用中,上文所述的识别第二待填涂区域,就是确定第二待填涂区域中各个点所在的位置,进而就可以确定第二待填涂区域中是否存在填涂痕迹。
需要说明的是,上文所述的第二待填涂区域的确定过程是将第二待填涂区域作为整体来论述,实际上,该第二待填涂区域也可以认为是由几条边框构成的封闭区域,那么,如果可以确定几条边框的位置,第二待填涂区域的位置自然可以确定。因此,可选的,当模板图像中存在至少两个第一定位标记,至少两个第一定位标记分别对应于第一待填涂区域中至少两条区域边缘,且分别以至少两个第一定位标记中的一个定位标记为原点时,第一待填涂区域包括第一待填涂区域中与至少两个第一定位标记中的一个定位标记对应的区域边缘,通常情况下,该区域边缘可以理解为边框。即,可以基于一个或多个定位标记定位一条区域边缘,在构成第二待填涂区域的各条区域边缘均定位后,该第二待填涂区域自然也可以定位。
示例性的,如图3所示,以待填涂区域11为第一待填涂区域为例,该第一待填涂区域中包括区域边缘111和区域边缘112,由图示可知,与区域边缘111对应的是定位标记23,与区域边缘112对应的是定位标记24。那么,首先,可以将定位标记23作为第一定位标记,采用上述步骤确定目标图像中的第二待填涂区域中与区域边缘111对应的区域边缘的位置;然后,可以将定位标记24作为第一定位标记,采用上述步骤确定目标图像中的第二待填涂区域中与区域边缘112对应的区域边缘的位置。当然,图3仅是示出了第一待填涂区域的两条区域边缘,如果第一待填涂区域由N条区域边缘构成,N为大于等于3的整数,仍然可以采用类似的步骤确定出目标图像中的第二待填涂区域中N条区域边缘的位置,进而,就可以确定出该第二待填涂区域的位置。
S130、确定第二待填涂区域中的填涂痕迹,并根据填涂痕迹识别第二待填涂区域中的填涂信息。
其中,当第二待填涂区域准确定位后,可以确定该第二待填涂区域中是否存在填涂痕迹,若存在,可以确定该填涂痕迹的具体内容,进而可以识别该第二待填涂区域中的填涂信息。在不同的应用领域中,该填涂痕迹可能有不同的表现形式,比如,数字、文字、图形等等。或者,当第二待填涂区域中存在填涂痕迹时,可以认为填涂信息是已填涂或是已选中;相应的,当第二待填涂区域中未存在填涂痕迹时,可以认为填涂信息是未填涂或是未选中,等等。
在实际应用中,经常可以将“对勾”“圆圈”“直线”等简单笔画作为填涂痕迹,这有利于减少填涂者的填涂时间。在此基础上,可以认为若第二待填涂区域中填涂痕迹的像素个数在一个预设阈值范围内时,该第二待填涂区域是已填涂的。由此,可以先得到目标图像的二值图像,并将二值图像更新为目标图像,这是因为目标图像中可能存在一些干扰像素,比如,当填涂单不是纯白色时,基于该填涂单得到的目标图像很可能有些泛黄或是泛灰,这些就是干扰像素。则,二值图像可以认为是已过滤目标图像中的干扰像素,只保留有效像素的图像,该有效像素可以由背景像素和字迹像素构成,该字迹像素可能是填涂者的填涂痕迹,也可能是填涂单中自带的痕迹,比如边框、文字说明等等。
进一步,根据第二待填涂区域中字迹像素的个数,就可以识别第二待填涂区域中的填涂信息,该填涂信息可以包括已填涂或是未填涂,即若第二待填涂区域中字迹像素的个数在预设阈值范围内时,认为是已填涂;相应的,若第二待填涂区域中字迹像素的个数未在预设阈值范围内,可以认为是未填涂。对于未填涂的情况,有可能是未存在填涂痕迹,也有可能是存在填涂痕迹,但该填涂痕迹是类似于黑色实心圆的形式,该黑色实心圆对应的像素的个数亦是在预设阈值范围之外,出现这种情况的场景可以是,比如,填涂者在该第二待填涂区域画了个“对勾”,然后,填涂者发现填涂错误,就又在该第二待填涂区域画了个“黑圈”。即,在本发明实施例中,无需使用橡皮取消填涂,可以通过“黑圈”的方式取消填涂,由此简化填涂步骤,示例性的,如图4a所示。
当然,有些应用中,为了在有限的纸张空间内体现出更多的信息,可能会在填涂单的待填涂区域内设置有提示信息,该提示信息多是以虚线痕迹的形式呈现,示例性的,如图4b所示。在该种情况下,由于虚线痕迹是由孤立点阵构成,而实线痕迹即填涂痕迹是由连续点阵构成,则可以区分出虚线痕迹和实线痕迹。在此基础上,可选的,可以先识别出第二待填涂区域中各字迹像素构成的实线痕迹,确定实线痕迹对应的像素的个数;根据第二待填涂区域中实线痕迹对应的像素的个数,识别第二待填涂区域中的填涂信息。
综上所述,可以理解,第一方面,本发明实施例是基于模板图像中第一定位标和第一待填涂区域的位置关系,以及,目标图像中的第二定位标记,定位目标图像中的第二待填涂区域,这就使得填涂单或是填涂笔的颜色或是类型没有任何限制,只要清楚即可,比如,填涂单可以是普通的Excel表格,填涂笔可以是任何颜色的铅笔、油性笔等等,而且,无需使用橡皮取消填涂,这有效降低了印刷成本并简化了填涂工具。第二方面,在待填涂区域内可以存在提示信息,这有效提高了填涂单中可利用的纸张空间。第三方面,每个待填涂区域可以依次相连,中间无需设置如图2d所示的空白区域,这是因为,第二待填涂区域的准确定位有效提高了填涂信息的识别准确率,即使如图4a所示的情况,在第二待填涂区域的四周的很近位置处均存在填涂痕迹时,亦不会认为第二待填涂区域中存在填涂痕迹,抗干扰性较强。
本发明实施例的技术方案,通过获取填涂单的目标图像和预先存储的模板图像,模板图像中设置有与第一待填涂区域对应的第一定位标记,目标图像中设置有与第一待填涂区域对应的第二待填涂区域,与第一定位标记对应的第二定位标记,由此可以确定出第一待填涂区域和第一定位标记的位置关系,由于该位置关系也是第二待填涂区域和第二定位标记的位置关系,因此,根据该位置关系和第二定位标记可以精准定位第二待填涂区域,进而确定第二待填涂区域中的填涂痕迹,并根据填涂痕迹识别第二待填涂区域中的填涂信息。上述技术方案可以准确识别待填涂区域,在填涂者无需涂满填涂单上的待填涂区域的情况下,可以自动且精准识别填涂单上的填涂信息。
一种可选的技术方案,在获取填涂单的目标图像和预先存储的模板图像之后,该方法具体还可以包括:获取模板图像中至少两个第三定位标记,以及,目标图像中与第三定位标记分别对应的第四定位标记;根据第三定位标记在模板图像中的基准位置,以及,第四定位标记在目标图像中的待调整位置,调整目标图像中各个像素点的位置,并基于调整结果更新目标图像。
其中,该第三定位标记可以认为是位于模板图像的图像边缘的定位标记,示例性的,如图3中所示的定位标记25-27。设置第三定位标记的意义在于,图像边缘是最容易出现偏移的地方,比如水平方向的偏移、垂直方向的偏移和/或旋转角度的偏移,则在分别定位目标图像中的每个第二待填涂区域之前,可以先基于该第三定位标记从整体上调整一下目标图像。
因此,可以根据至少两个第三定位标记在模板图像中的基准位置,以及,目标图像中与这至少两个第三定位标记分别对应的第四定位标记在目标图像中的待调整位置,调整目标图像中各个像素点的位置。当第三定位标记和第四定位标记分别对齐后,模板图像中每个第一待填涂区域和目标图像中每个第二待填涂区域可能对齐,也可能未对齐,这些未对齐的待填涂区域可能就是由于非线性失真造成的。这样一来,当从整体上先调整一下目标图像中各个像素点的位置后,再基于本发明实施例一中的各步骤逐个定位各第二待填涂区域,这样可以加快处理速度,并且提高处理精度。
需要说明的是,“第一定位标记”、“第二定位标记”、“第三定位标记”和“第四定位标记”,以及,“第一待填涂区域”和“第二待填涂区域”中的“第一”、“第二”、“第三”以及“第四”仅仅是用于区分各个定位标记或是各个待填涂区域,并非对各个定位标记或是各个待填涂区域的顺序或者内容的限定。它们的区别在于,“第一定位标记”和“第三定位标记”是模板图像中的定位标记,“第二定位标记”和“第四定位标记”是目标图像中的定位标记;相应的,“第一待填涂区域”是模板图像中的待填涂区域,“第二待填涂区域”是目标图像中的待填涂区域。
实施例二
图5为本发明实施例二提供的填涂信息的识别装置的结构框图,该装置用于执行上述任意实施例所提供的填涂信息的识别方法。该装置与上述各实施例的填涂信息的识别方法属于同一个发明构思,在填涂信息的识别装置的实施例中未详尽描述的细节内容,可以参考上述填涂信息的识别方法的实施例。参见图5,该装置具体可包括:位置关系获取模块310、第二待填涂区域确定模块320和填涂信息识别模块330。
其中,位置关系获取模块310,用于获取填涂单的目标图像和预先存储的模板图像,以及,模板图像中第一待填涂区域和第一定位标记的位置关系,其中,模板图像未存在偏移和非线性失真,第一定位标记包括与第一待填涂区域对应的定位标记;
第二待填涂区域确定模块320,用于识别目标图像中与第一定位标记对应的第二定位标记,根据第二定位标记和位置关系,确定目标图像中与第一待填涂区域对应的第二待填涂区域;
填涂信息识别模块330,用于确定第二待填涂区域中的填涂痕迹,并根据填涂痕迹识别第二待填涂区域中的填涂信息。
可选的,位置关系获取模块310,具体可以用于:
根据模板图像中第一待填涂区域和模板图像中多个定位标记的距离,从多个定位标记中提取出第一定位标记。
可选的,位置关系获取模块310,具体可以用于:
以第一定位标记为原点,分别以模板图像中两条互相垂直的图像边缘所在方向为X方向和Y方向,建立第一坐标系,确定模板图像中第一待填涂区域在第一坐标系中的坐标;
相应的,第二待填涂区域确定模块320,具体可以包括:
第二坐标系建立单元,用于识别目标图像中与第一定位标记对应的第二定位标记,并以第二定位标记为原点,分别以目标图像中两条互相垂直的图像边缘所在方向为X方向和Y方向,建立第二坐标系;
第二待填涂区域确定单元,用于在第二坐标系中,根据坐标确定目标图像中与第一待填涂区域对应的第二待填涂区域。
可选的,当模板图像中存在至少两个第一定位标记,至少两个第一定位标记分别对应于第一待填涂区域中至少两条区域边缘,且分别以至少两个第一定位标记中的一个定位标记为原点时,第一待填涂区域包括第一待填涂区域中与至少两个第一定位标记中的一个定位标记对应的区域边缘。
可选的,在上述装置的基础上,该装置还可包括:
定位标记获取模块,用于获取模板图像中至少两个第三定位标记,以及,目标图像中与第三定位标记分别对应的第四定位标记;
像素点位置调整模块,用于根据第三定位标记在模板图像中的基准位置,以及,第四定位标记在目标图像中的待调整位置,调整目标图像中各个像素点的位置,并基于调整结果更新目标图像。
可选的,在上述装置的基础上,该装置还可包括:
二值图像得到模块,用于得到目标图像的二值图像,并将二值图像更新为目标图像,其中,目标图像由背景像素和字迹像素构成;
相应的,填涂信息识别模块330,具体可以包括:
填涂信息识别单元,用于根据第二待填涂区域中字迹像素的个数,识别第二待填涂区域中的填涂信息,其中,填涂信息包括已填涂或是未填涂。
可选的,填涂信息识别单元,可以包括:
实线痕迹识别子单元,用于识别出第二待填涂区域中各字迹像素构成的实线痕迹,确定实线痕迹对应的像素的个数;
填涂信息识别子单元,用于根据第二待填涂区域中实线痕迹对应的像素的个数,识别第二待填涂区域中的填涂信息。
本发明实施例二提供的填涂信息的识别装置,通过位置关系获取模块和第二待填涂区域确定模块相互配合,获取填涂单的目标图像和预先存储的模板图像,模板图像中设置有与第一待填涂区域对应的第一定位标记,目标图像中设置有与第一待填涂区域对应的第二待填涂区域,与第一定位标记对应的第二定位标记,由此可以确定出第一待填涂区域和第一定位标记的位置关系,而且,由于该位置关系也是第二待填涂区域和第二定位标记的位置关系,可以根据该位置关系和第二定位标记可以精准定位第二待填涂区域;填涂信息识别模块可以确定第二待填涂区域中的填涂痕迹,并根据填涂痕迹识别第二待填涂区域中的填涂信息。上述装置可以准确识别待填涂区域,在填涂者无需涂满填涂单上的待填涂区域的情况下,可以自动且精准识别填涂单上的填涂信息。
本发明实施例所提供的填涂信息的识别装置可执行本发明任意实施例所提供的填涂信息的识别方法,具备执行方法相应的功能模块和有益效果。
值得注意的是,上述填涂信息的识别装置的实施例中,所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。
实施例三
图6为本发明实施例三提供的一种终端的结构示意图,如图6所示,该终端包括存储器410、处理器420、输入装置430和输出装置440。终端中的处理器420的数量可以是一个或多个,图6中以一个处理器420为例;终端中的存储器410、处理器420、输入装置430和输出装置440可以通过总线或其它方式连接,图6中以通过总线450连接为例。
存储器410作为一种计算机可读存储介质,可用于存储软件程序、计算机可执行程序以及模块,如本发明实施例中的填涂信息的识别方法对应的程序指令/模块(例如,填涂信息的识别装置中的位置关系获取模块310、第二待填涂区域确定模块320和填涂信息识别模块330)。处理器420通过运行存储在存储器410中的软件程序、指令以及模块,从而执行终端的各种功能应用以及数据处理,即实现上述的填涂信息的识别方法。
存储器410可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序;存储数据区可存储根据终端的使用所创建的数据等。此外,存储器410可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中,存储器410可进一步包括相对于处理器420远程设置的存储器,这些远程存储器可以通过网络连接至设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入装置430可用于接收输入的数字或字符信息,以及产生与装置的用户设置以及功能控制有关的键信号输入。输出装置440可包括显示屏等显示设备。
实施例四
本发明实施例四提供一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行一种填涂信息的识别方法,该方法包括:
获取填涂单的目标图像和预先存储的模板图像,及模板图像中第一待填涂区域和第一定位标记的位置关系,其中,模板图像未存在偏移和非线性失真,第一定位标记包括与第一待填涂区域对应的定位标记;
识别目标图像中与第一定位标记对应的第二定位标记,根据第二定位标记和位置关系,确定目标图像中与第一待填涂区域对应的第二待填涂区域;
确定第二待填涂区域中的填涂痕迹,并根据填涂痕迹识别第二待填涂区域中的填涂信息。
当然,本发明实施例所提供的一种包含计算机可执行指令的存储介质,其计算机可执行指令不限于如上所述的方法操作,还可以执行本发明任意实施例所提供的填涂信息的识别方法中的相关操作。
通过以上关于实施方式的描述,所属领域的技术人员可以清楚地了解到,本发明可借助软件及必需的通用硬件来实现,当然也可以通过硬件实现,但很多情况下前者是更佳的实施方式。依据这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如计算机的软盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、闪存(FLASH)、硬盘或光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种填涂信息的识别方法,其特征在于,包括:
获取填涂单的目标图像和预先存储的模板图像,及所述模板图像中第一待填涂区域和第一定位标记的位置关系,其中,所述模板图像未存在偏移和非线性失真,所述第一定位标记包括与所述第一待填涂区域对应的定位标记;
识别所述目标图像中与所述第一定位标记对应的第二定位标记,根据所述第二定位标记和所述位置关系,确定所述目标图像中与所述第一待填涂区域对应的第二待填涂区域;
确定所述第二待填涂区域中的填涂痕迹,并根据所述填涂痕迹识别所述第二待填涂区域中的填涂信息。
2.根据权利要求1所述的方法,其特征在于,通过如下步骤获取与所述模板图像中第一待填涂区域对应的第一定位标记,包括:
根据所述模板图像中第一待填涂区域和所述模板图像中多个定位标记的距离,从所述多个定位标记中提取出第一定位标记。
3.根据权利要求1所述的方法,其特征在于,所述获取所述模板图像中第一待填涂区域和第一定位标记的位置关系,包括:
以所述第一定位标记为原点,分别以所述模板图像中两条互相垂直的图像边缘所在方向为X方向和Y方向,建立第一坐标系,确定所述模板图像中第一待填涂区域在所述第一坐标系中的坐标;
相应的,所述识别所述目标图像中与所述第一定位标记对应的第二定位标记,根据所述第二定位标记和所述位置关系,确定所述目标图像中与所述第一待填涂区域对应的第二待填涂区域,包括:
识别所述目标图像中与所述第一定位标记对应的第二定位标记,并以所述第二定位标记为原点,分别以所述目标图像中两条互相垂直的图像边缘所在方向为X方向和Y方向,建立第二坐标系;
在所述第二坐标系中,根据所述坐标确定所述目标图像中与所述第一待填涂区域对应的第二待填涂区域。
4.根据权利要求3所述的方法,其特征在于,当所述模板图像中存在至少两个第一定位标记,所述至少两个第一定位标记分别对应于所述第一待填涂区域中至少两条区域边缘,且分别以所述至少两个第一定位标记中的一个定位标记为原点时,所述第一待填涂区域包括所述第一待填涂区域中与所述至少两个第一定位标记中的一个定位标记对应的所述区域边缘。
5.根据权利要求1所述的方法,其特征在于,在所述获取填涂单的目标图像和预先存储的模板图像之后,还包括:
获取所述模板图像中至少两个第三定位标记,以及,所述目标图像中与所述第三定位标记分别对应的第四定位标记;
根据所述第三定位标记在所述模板图像中的基准位置,以及,所述第四定位标记在所述目标图像中的待调整位置,调整所述目标图像中各个像素点的位置,并基于调整结果更新所述目标图像。
6.根据权利要求1所述的方法,其特征在于,在所述获取填涂单的目标图像之后,还包括:
得到所述目标图像的二值图像,并将所述二值图像更新为所述目标图像,其中,所述目标图像由背景像素和字迹像素构成;
相应的,所述确定所述第二待填涂区域中的填涂痕迹,并根据所述填涂痕迹识别所述第二待填涂区域中的填涂信息,包括:
根据所述第二待填涂区域中字迹像素的个数,识别所述第二待填涂区域中的填涂信息,其中,所述填涂信息包括已填涂或是未填涂。
7.根据权利要求6所述的方法,其特征在于,所述根据所述第二待填涂区域中字迹像素的个数,识别所述第二待填涂区域中的填涂信息,包括:
识别出所述第二待填涂区域中各所述字迹像素构成的实线痕迹,确定所述实线痕迹对应的像素的个数;
根据所述第二待填涂区域中所述实线痕迹对应的像素的个数,识别所述第二待填涂区域中的填涂信息。
8.一种填涂信息的识别装置,其特征在于,包括:
位置关系获取模块,用于获取填涂单的目标图像和预先存储的模板图像,及所述模板图像中第一待填涂区域和第一定位标记的位置关系,其中,所述模板图像未存在偏移和非线性失真,所述第一定位标记包括与所述第一待填涂区域对应的定位标记;
第二待填涂区域确定模块,用于识别所述目标图像中与所述第一定位标记对应的第二定位标记,根据所述第二定位标记和所述位置关系,确定所述目标图像中与所述第一待填涂区域对应的第二待填涂区域;
填涂信息识别模块,用于确定所述第二待填涂区域中的填涂痕迹,并根据所述填涂痕迹识别所述第二待填涂区域中的填涂信息。
9.一种终端,其特征在于,所述终端包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的填涂信息的识别方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-7中任一所述的填涂信息的识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910774959.3A CN110490141B (zh) | 2019-08-21 | 2019-08-21 | 一种填涂信息的识别方法、装置、终端及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910774959.3A CN110490141B (zh) | 2019-08-21 | 2019-08-21 | 一种填涂信息的识别方法、装置、终端及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110490141A true CN110490141A (zh) | 2019-11-22 |
CN110490141B CN110490141B (zh) | 2023-06-09 |
Family
ID=68552563
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910774959.3A Active CN110490141B (zh) | 2019-08-21 | 2019-08-21 | 一种填涂信息的识别方法、装置、终端及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110490141B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112200097A (zh) * | 2020-10-14 | 2021-01-08 | 广州大学 | 基于建筑图纸的室内管线自动识别方法 |
CN112200098A (zh) * | 2020-10-14 | 2021-01-08 | 广州大学 | 基于建筑图纸的阀门自动识别方法 |
CN113065554A (zh) * | 2021-04-08 | 2021-07-02 | 读书郎教育科技有限公司 | 一种用于智慧课堂智能批阅的批改区域自动识别方法 |
CN113392824A (zh) * | 2021-06-10 | 2021-09-14 | 上海钧正网络科技有限公司 | 质检单录入方法、装置及计算机存储介质 |
CN113822196A (zh) * | 2021-09-23 | 2021-12-21 | 天津易客满国际物流有限公司 | 一种方便复制传播的omr运输面单制作及识别方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180018893A1 (en) * | 2016-07-17 | 2018-01-18 | Perserverance It Solutions Private Limited | Method and system for identifying marked response data on a manually filled paper form |
CN108009536A (zh) * | 2017-12-01 | 2018-05-08 | 广州摩翼信息科技有限公司 | 扫描阅卷方法及系统 |
CN109711404A (zh) * | 2018-12-20 | 2019-05-03 | 中科院成都信息技术股份有限公司 | 印章选票填涂的识别方法、装置及计算机可读存储介质 |
-
2019
- 2019-08-21 CN CN201910774959.3A patent/CN110490141B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180018893A1 (en) * | 2016-07-17 | 2018-01-18 | Perserverance It Solutions Private Limited | Method and system for identifying marked response data on a manually filled paper form |
CN108009536A (zh) * | 2017-12-01 | 2018-05-08 | 广州摩翼信息科技有限公司 | 扫描阅卷方法及系统 |
CN109711404A (zh) * | 2018-12-20 | 2019-05-03 | 中科院成都信息技术股份有限公司 | 印章选票填涂的识别方法、装置及计算机可读存储介质 |
Non-Patent Citations (1)
Title |
---|
杨青燕等: "基于灰度图像的答题卡识别技术", 《山东科技大学学报(自然科学版)》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112200097A (zh) * | 2020-10-14 | 2021-01-08 | 广州大学 | 基于建筑图纸的室内管线自动识别方法 |
CN112200098A (zh) * | 2020-10-14 | 2021-01-08 | 广州大学 | 基于建筑图纸的阀门自动识别方法 |
CN112200098B (zh) * | 2020-10-14 | 2024-04-12 | 广州大学 | 基于建筑图纸的阀门自动识别方法 |
CN112200097B (zh) * | 2020-10-14 | 2024-05-03 | 广州大学 | 基于建筑图纸的室内管线自动识别方法 |
CN113065554A (zh) * | 2021-04-08 | 2021-07-02 | 读书郎教育科技有限公司 | 一种用于智慧课堂智能批阅的批改区域自动识别方法 |
CN113392824A (zh) * | 2021-06-10 | 2021-09-14 | 上海钧正网络科技有限公司 | 质检单录入方法、装置及计算机存储介质 |
CN113822196A (zh) * | 2021-09-23 | 2021-12-21 | 天津易客满国际物流有限公司 | 一种方便复制传播的omr运输面单制作及识别方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110490141B (zh) | 2023-06-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110490141A (zh) | 一种填涂信息的识别方法、装置、终端及存储介质 | |
CN110008944B (zh) | 基于模板匹配的ocr识别方法及装置、存储介质 | |
US11450081B2 (en) | Examination paper correction method and apparatus, electronic device, and storage medium | |
CN109634961B (zh) | 一种试卷样本生成方法、装置、电子设备和存储介质 | |
CN107657255B (zh) | 网络阅卷方法、装置、可读存储介质以及电子设备 | |
CN107908612A (zh) | 答题卡生成方法、答题卡识别方法、作业系统 | |
CN110705534B (zh) | 一种适用于电子助视器的错题本生成方法 | |
CN110956138B (zh) | 一种基于家教设备的辅助学习方法及家教设备 | |
CN104134072A (zh) | 一种答题卡识别方法 | |
CN111563512B (zh) | 一种答案自动涂抹的方法、装置、电子设备及存储介质 | |
CN107239390B (zh) | 校对应用界面信息的方法和装置 | |
CN107590495A (zh) | 答题卡图片纠偏方法、装置、可读存储介质以及电子设备 | |
CN105718438A (zh) | 一种通用答题卡的排版样式生成方法 | |
CN110321837A (zh) | 一种试题得分的识别方法、装置、终端及存储介质 | |
CN104143082A (zh) | 一种基于图像模糊识别的试卷信息定位方法及系统 | |
CN110705442A (zh) | 一种试卷答案自动获取方法、终端设备及存储介质 | |
CN111046644A (zh) | 一种答题卡模板生成方法、识别方法、装置及存储介质 | |
CN112529548B (zh) | 一种在线教育平台云资源管理系统 | |
CN110334647A (zh) | 一种基于图像识别的参数格式化方法 | |
CN106682670A (zh) | 一种台标识别方法及系统 | |
CN110889262B (zh) | 教学系统、点阵教学课件 | |
CN113221897B (zh) | 图像矫正方法、图像文本识别方法、身份验证方法及装置 | |
CN113095312A (zh) | 一种基于标识码采集试卷中手写答案区域的方法 | |
CN108549509A (zh) | 用于书写内容的文档处理方法及装置 | |
CN103854020A (zh) | 文字识别方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |