CN113191251A - 一种笔顺检测方法、装置、电子设备和存储介质 - Google Patents
一种笔顺检测方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN113191251A CN113191251A CN202110468994.XA CN202110468994A CN113191251A CN 113191251 A CN113191251 A CN 113191251A CN 202110468994 A CN202110468994 A CN 202110468994A CN 113191251 A CN113191251 A CN 113191251A
- Authority
- CN
- China
- Prior art keywords
- target
- image
- stroke
- learning model
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/32—Digital ink
- G06V30/333—Preprocessing; Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/32—Digital ink
- G06V30/36—Matching; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/28—Character recognition specially adapted to the type of the alphabet, e.g. Latin alphabet
- G06V30/287—Character recognition specially adapted to the type of the alphabet, e.g. Latin alphabet of Kanji, Hiragana or Katakana characters
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Character Discrimination (AREA)
Abstract
本公开实施例公开了一种笔顺检测方法、装置、电子设备和存储介质,该方法包括:根据用户的输入确定待处理图像,其中,所述待处理图像包含文字;对所述待处理图像进行识别,得到目标文字;根据识别到的所述目标文字和所述用户的输入进行笔顺检测。本公开实施例的技术方案,能够对包含文字的待处理图像进行识别,根据文字识别结果和用户的输入进行笔顺检测,避免了由于用户书写规范性较差,进而导致识别误判的情况,提高了文字识别结果的准确率,鲁棒性更好,同时提高了笔顺检测的准确率。
Description
技术领域
本公开实施例涉及图像识别技术,尤其涉及一种笔顺检测方法、装置、电子设备和存储介质。
背景技术
随着电子设备的快速发展,越来越多的用户选择使用学习类电子设备进行学习。
目前,很多电子设备可以获取到用户手写的文字。然而,在实践中发现,当前的电子设备通常只能对用户写的规范的文字图像进行识别,但是,由于电子设备面向用户多为书写常存在一些规范性的问题的用户,例如,将汉字“好”写的过于分开,使得“好”的“女”和“子”写的空隙很大,或者,将其写的扭曲、倾斜或者颠倒等,会严重影响汉字识别的准确率,很容易导致识别误判,进而降低笔顺检测的准确度。
发明内容
本公开提供了一种笔顺检测方法、装置、电子设备和存储介质,以实现能够对包含文字的待处理图像进行识别,得到目标文字,根据目标文字和用户的输入进行笔顺检测,避免了由于用户书写规范性较差,进而导致识别误判的情况,提高了文字识别结果的准确率,同时提高笔顺检测鲁棒性。
第一方面,本公开实施例提供了一种笔顺检测方法,包括:
根据用户的输入确定待处理图像,其中,所述待处理图像包含文字;
对所述待处理图像进行识别,得到目标文字;
根据识别到的所述目标文字和所述用户的输入进行笔顺检测。
第二方面,本公开实施例提供了一种笔顺检测装置,包括:
确定模块,用于根据用户的输入确定待处理图像,其中,所述待处理图像包含文字;
识别模块,用于对所述待处理图像进行识别,得到目标文字;
检测模块,用于根据识别到的所述目标文字和所述用户的输入进行笔顺检测。
第三方面,本公开实施例提供了一种电子设备,包括存储器、处理装置及存储在存储器上并可在处理装置上运行的计算机程序,处理装置执行程序时实现本公开任意实施例的笔顺检测方法。
第四方面,本公开实施例提供了一种包含计算机可执行指令的存储介质,计算机可执行指令在由计算机处理器执行时用于执行本公开任意实施例的笔顺检测方法。
本公开实施例的技术方案,能够对包含文字的待处理图像进行识别,得到文字识别结果,根据识别到的目标文字和用户的输入进行笔顺检测,避免了由于用户书写规范性较差,进而导致识别误判的情况,提高了文字识别结果的准确率,同时提高笔顺检测的准确率。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1是本公开的一种笔顺检测方法的一个实施例的流程图;
图1a是现有的手写界面的示意图;
图1b是本公开的一种手写界面的示意图;
图2是本公开的一种笔顺检测方法的另一个实施例的流程图;
图3是本公开的一种笔顺检测方法的另一个实施例的流程图;
图4是本公开的一种笔顺检测装置的一个实施例的结构框图;
图5是适于用来实现本公开实施例的一种电子设备的结构框图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
实施例一
图1是本公开实施例一提供的一种笔顺检测方法的流程图,本实施例可适用于对包含文字的待处理图像进行识别,根据识别到的目标文字和用户的输入进行笔顺检测,该方法可以由本公开实施例中的笔顺检测装置来执行,该装置可以通过软件和/或硬件实现,并集成在终端设备中,该方法具体包括如下步骤:
S110、根据用户的输入确定待处理图像,其中,所述待处理图像包含文字。
其中,所述待处理图像为用户手写文字对应的图像,所述待处理图像的获取方式可以为用户通过平板输入的手写信息,也可以为用户通过其他电子设备输入的手写信息,例如可以是,用户的作业是让用户在平板上写几个白天学习过的汉字,当用户在平板上写字的时候,获取用户写的汉字对应的图像,并将获取到的图像确定为待处理图像。
示例性的,根据用户的输入确定待处理图像的方式可以为,获取从用户手指或者智能笔触摸电子设备的触摸屏直至用户手指或者智能笔离开电子设备的触摸屏的过程中的图像;根据用户的输入确定待处理图像的方式也可以为,获取用户手指或者智能笔触摸电子设备的触摸屏直至用户手指或者智能笔离开电子设备的触摸屏预设时间的过程中的图像,例如可以是,获取用户手指触摸平板直至用户手指离开平板过程中的图像。或者可以为,获取用户手指触摸平板直至用户手指离开平板30秒过程中的图像。
示例性的,根据用户的输入确定待处理图像的方式可以为预先获取从用户手指或者智能笔触摸电子设备的触摸屏直至用户手指或者智能笔离开电子设备的触摸屏的过程中的图像,然后对获取到的图像进行识别,根据识别结果对获取到的图像进行分割,将包含文字的区域对应的图像确定为待处理图像。根据用户的输入确定待处理图像的方式也可以为,预先获取用户手指或者智能笔触摸电子设备的触摸屏直至用户手指或者智能笔离开电子设备的触摸屏预设时间的过程中的图像,然后对获取到的图像进行识别,根据识别结果对获取到的图像进行分割,将包含文字的区域对应的图像确定为待处理图像。
S120、对所述待处理图像进行识别,得到目标文字。
示例性的,对所述待处理图像进行识别,得到目标文字的方式可以为,对所述待处理图像进行识别,得到识别结果,识别结果为目标文字;对所述待处理图像进行识别,得到目标文字的方式也可以为,对所述待处理图像进行识别,得到目标文字和目标调整信息。
示例性的,对所述待处理图像进行识别,得到目标文字的方式可以为,预先根据教师留的作业建立数据库,数据库中存储有作业中的汉字对应的图像,数据库中存储的图像可以包括:标准汉字图像、对标准汉字图像旋转预设角度后得到的汉字图像、标准汉字图像移动预设距离后得到的汉字图像、标准汉字图像拉伸第一预设倍数后得到的汉字图像以及标准汉字图像压缩第二预设倍数后得到的汉字图像。将待处理图像与数据库中的图像进行匹配,根据匹配结果确定待处理图像对应的目标文字。对所述待处理图像进行识别,得到目标文字的方式也可以为,预先获取训练样本集,建立待训练模型,基于训练样本集对待训练模型进行训练,得到目标多任务学习模型,将待处理图像输入目标多任务学习模型,对待处理图像进行识别,得到目标文字,本公开实施例对此不进行限制。
S130、根据识别到的所述目标文字和所述用户的输入进行笔顺检测。
示例性的,根据识别到的目标文字和用户的输入进行笔顺检测的方式可以为,根据目标文字和待处理图像进行笔顺检测,也可以为根据识别到的目标文字、目标调整信息和待处理图像进行笔顺检测。
可选的,在本公开实施例中,所述对所述待处理图像进行识别,得到目标文字,包括:
对所述待处理图像进行识别,得到目标文字和目标调整信息;
所述根据识别到的所述目标文字和所述用户的输入进行笔顺检测,包括:
根据识别到的所述目标文字、所述目标调整信息和所述用户的输入进行笔顺检测。
其中,所述目标调整信息为对待处理图像的识别结果,目标调整信息可以为旋转预设角度、移动预设距离、拉伸第一预设倍数和压缩第二预设倍数中的至少一种,例如可以是,将“好”字旋转45度,将“好”字的“女”和“子”写的空隙很大。
示例性的,对所述待处理图像进行识别,得到目标文字和目标调整信息,例如可以是,对待处理图像进行识别,得到待处理图像对应的文字为“好”字,旋转了45度。
示例性的,对所述待处理图像进行识别,得到目标文字和目标调整信息的方式可以为,预先根据教师留的作业建立数据库,数据库中存储有作业中的汉字对应的图像,数据库中存储的图像可以包括:标准汉字图像、对标准汉字图像旋转预设角度后得到的汉字图像、标准汉字图像移动预设距离后得到的汉字图像、标准汉字图像拉伸第一预设倍数后得到的汉字图像以及标准汉字图像压缩第二预设倍数后得到的汉字图像。将待处理图像与数据库中的图像进行匹配,根据匹配结果确定待处理图像对应的目标文字和目标调整信息。对所述待处理图像进行识别,得到目标文字和目标调整信息的方式也可以为,预先获取训练样本集,建立待训练模型,基于训练样本集对待训练模型进行训练,得到目标多任务学习模型,将待处理图像输入目标多任务学习模型,对待处理图像进行识别,得到目标文字和目标调整信息,本公开实施例对此不进行限制。
示例性的,将待处理图像进行识别,例如可以是,用户的作业是让用户在平板上写“好”字,用户在平板上写“好”这个汉字,获取用户写“好”这个汉字对应的图像,并将用户写“好”这个汉字对应的图像确定为待处理图像,预先在数据库中存储“好”字的标准图像,将待处理图像与数据库中的标准图像进行匹配,得到待处理图像相比标准图像旋转了45度,(由于用户年纪小,写的汉字不规范,写的“好”字与标准的“好”字相比旋转了45度)。
示例性的,根据识别到的所述目标文字、所述目标调整信息和所述用户的输入进行笔顺检测,例如可以是,根据待处理图像中的第一笔画图像确定第一特征信息,根据第一笔画图像对应的标准笔画图像确定第二特征信息,根据目标文字、第一特征信息和第二特征信息进行笔顺检测。
可选的,在本公开实施例中,所述根据用户的输入确定待处理图像,包括:
于检测到用户对目标控件的触控操作时,显示手写界面,其中,所述手写界面由待书写区域组成;
根据用户在所述待书写区域中的输入确定所述待处理图像。
如图1a所示,现有的书写界面包括标准区域1和待书写区域2,如图1b所示,本公开中的书写界面仅包括待书写区域2。其中,待书写区域2可以有多个。
示例性的,用户在待书写区域2中进行书写,得到待处理图像。
可选的,在本公开实施例中,对所述待处理图像进行识别,得到目标文字和目标调整信息之后,还包括:
获取预先存储的第一文字;
根据所述第一文字和所述目标文字的匹配结果生成第一提醒信息,并将所述第一提醒信息进行显示。
其中,所述第一文字为用户执行的书写任务对应的文字,例如:用户的作业为让用户在平板上写“好”字,并预先写一个“好”字,预先写的“好”字也就是第一文字。
其中,所述第一文字和所述目标文字的匹配结果可以为第一文字和所述目标文字相同,也可以为第一文字和所述目标文字不同。
其中,所述第一提醒信息可以为书写正确对应的特效,也可以为书写错误对应的特效,或者可以为在书写错误的情况下,书写正确的第一文字,也可以为对书写错误的目标文字进行批注,本公开实施例对此不进行限制。
示例性的,若第一文字和所述目标文字相同,则显示书写正确,或者显示一个小红花,或者显示一个对号,若第一文字和所述目标文字不同,则显示书写错误,或者在显示书写错误的同时显示正确的第一文字,以便于用户根据第一文字进行修改,本公开实施例对此不进行限制。
本公开实施例的技术方案,能够对包含文字的待处理图像进行识别,得到文字识别结果和用户的输入进行笔顺检测,避免了由于用户书写规范性较差,进而导致识别误判的情况,提高了文字识别结果的准确率,同时提高笔顺检测的准确率。
实施例二
图2是本公开实施例二提供的一种笔顺检测方法的流程图,本实施例以上述实施例为基础进行具体化,在本实施例中,对所述待处理图像进行识别,得到目标文字和目标调整信息包括:将所述待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息,其中,所述目标多任务学习模型通过目标图像样本集迭代训练待训练模型得到,所述目标图像样本集通过调整原始图像样本得到,本实施例的方法具体包括如下步骤:
S210、根据用户的输入确定待处理图像,其中,所述待处理图像包含文字。
S220、将所述待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息,其中,所述目标多任务学习模型通过目标图像样本集迭代训练待训练模型得到,所述目标图像样本集通过调整原始图像样本得到。
其中,所述目标图像样本集用于对待训练模型进行训练,所述目标图像样本包括:图像样本和图像样本对应的调整信息,例如可以是,目标图像样本包括:“好”字对应的图像样本和调整信息:将“好”字旋转45度。
其中,所述待训练模型可以为CNN神经网络模型,也可以为ResNet(ResidualNeural Network)网络,本公开实施例对此不进行限制。
示例性的,将所述待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息的方式可以为,预先获取目标图像样本集,建立待训练模型,通过目标图像样本集迭代训练待训练模型得到目标多任务学习模型,将待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息,例如可以是,用户的作业为让用户在平板上写“好”字,用户在平板上写“好”字,获取用户写“好”字对应的图像,并将用户写“好”字对应的图像确定为待处理图像,将“好”字对应的图像输入目标多任务学习模型,得到待处理图像对应的文字为“好”字,调整信息为“旋转45度”。
其中,目标图像样本集通过调整原始图像样本得到的方式可以为,获取原始图像样本,对原始图像样本进行增强操作,得到增强后的图像样本,将增强后的图像样本和原始图像样本确定为目标图像样本,例如可以是,获取原始图像样本:“好”字对应的图像、“学”字对应的图像、“生”字对应的图像以及“川”字对应的图像,将“好”字对应的图像旋转预设角度、将“好”字对应的图像移动预设距离、将“好”字对应的图像拉伸第一预设倍数、将“好”字对应的图像压缩第二预设倍数。将“学”字对应的图像旋转预设角度、将“学”字对应的图像移动预设距离、将“学”字对应的图像拉伸第一预设倍数、将“学”字对应的图像压缩第二预设倍数。将“生”字对应的图像旋转预设角度、将“生”字对应的图像移动预设距离、将“生”字对应的图像拉伸第一预设倍数、将“生”字对应的图像压缩第二预设倍数。将“川”字对应的图像旋转预设角度、将“川”字对应的图像移动预设距离、将“川”字对应的图像拉伸第一预设倍数、将“川”字对应的图像压缩第二预设倍数。得到增强后的图像样本。将增强后的图像样本和原始图像样本确定为目标图像样本。需要说明的是,在获取增强后的图像样本的过程中,也可以为将“学”字对应的图像旋转预设角度后,再移动预设距离,在移动预设距离之后,还可以将图像拉伸第一预设倍数,本公开实施例对此不进行限制。
由于用户书写的字体不规范,因此,对原始图像进行调整的方式也可以为其他将标准字体调整为不规范的方式,本公开实施例对此不进行限制。
其中,目标图像样本集通过调整原始图像样本得到的方式也可以为,预先获取用户的历史作业图像数据,并对用户的历史作业图像数据进行标记,例如可以是,对用户的历史作业图像数据进行标记,标记图像数据对应的文字为“好”字,旋转90度。
S230、根据识别到的所述目标文字、所述目标调整信息和所述用户的输入进行笔顺检测。
示例性的,根据识别到的目标文字、目标调整信息和用户的输入进行笔顺检测的方式可以为,根据用户的输入确定待处理图像,待处理图像包括至少一个第一笔画图像,将第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息;获取所述第一笔画图像对应的标准笔画图像,将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息,根据所述目标文字、第一特征信息和第二特征信息进行笔顺检测。根据识别到的目标文字、目标调整信息和用户的输入进行笔顺检测的方式还可以为,根据用户的输入确定待处理图像,对所述待处理图像进行识别,得到目标文字,待处理图像包括至少一个第一笔画图像;若目标文字和预先存储的文字相同,则将第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息;获取所述第一笔画图像对应的标准笔画图像,将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息,根据所述目标文字、第一特征信息和第二特征信息进行笔顺检测。
可选的,在本公开实施例中,通过目标图像样本集迭代训练待训练模型包括:
获取原始图像样本;
对所述原始图像样本进行调整,得到目标图像样本集,其中,所述目标图像样本集携带标识;
将目标图像样本输入待训练模型,得到预测字和预测调整信息;
根据所述预测字、预测调整信息以及目标图像样本携带的标识形成的目标函数训练所述待训练模型的参数;
返回执行将目标图像样本输入待训练模型,得到预测字和预测调整信息的操作,直至得到目标多任务学习模型。
其中,所述原始图像样本可以为预先存储的包含文字的图像样本,本公开实施例对原始图像样本的获取方式不进行限制。
示例性的,对所述原始图像样本进行调整,得到目标图像样本集的方式可以为:根据调整信息对原始图像进行调整,得到目标图像样本集,其中,所述调整信息包括:旋转预设角度、移动预设距离、拉伸第一预设倍数和压缩第二预设倍数中的至少一种。对所述原始图像样本进行调整,得到目标图像样本集的方式也可以为:原始图像为用户的历史作业对应的图像,对用户的历史作业对应的图像进行标记,得到目标图像样本集。本公开实施例对此不进行限制。
其中,所述目标图像样本集携带标识,例如可以是,所述目标图像样本集携带调整信息,所述调整信息包括:旋转预设角度、移动预设距离、拉伸第一预设倍数和压缩第二预设倍数中的至少一种。
本公开实施例通过调整后的原始图像样本对待训练模型进行训练,得到目标多任务学习模型,能够在将待处理图像输入目标多任务学习模型后,得到目标文字和目标调整信息,防止出现由于用户写字不规范,进而导致识别率低的情况,能够提升文字识别率。
可选的,在本公开实施例中,对所述原始图像样本进行调整,得到目标图像样本集,包括:
获取调整信息,其中,所述调整信息包括:旋转预设角度、移动预设距离、拉伸第一预设倍数和压缩第二预设倍数中的至少一种;
根据所述调整信息对所述原始图像样本进行调整,得到目标图像样本集,并将所述调整信息确定为所述目标图像样本集的标识。
其中,所述预设角度可以为多个角度,例如可以是,旋转0度,旋转45度,旋转90度以及旋转180度等,同理,所述预设距离也可以为多个距离,所述第一预设倍数也可以为多个,所述第二预设倍数也可以为多个,本公开实施例对此不进行限制。
其中,所述预设角度、预设距离、第一预设倍数和第二预设倍数可以根据用户情况进行设定,本公开实施例对此不进行限制。
其中,所述目标图像样本集的标识为调整操作对应的调整信息,例如可以是,旋转“45度”,旋转“90度”。
示例性的,根据所述调整信息对所述原始图像样本进行调整,得到目标图像样本集,并将所述调整信息确定为所述目标图像样本集的标识,例如可以是,若调整信息为旋转45度、旋转90度和旋转180度,则将原始图像样本旋转45度得到第一目标图像样本,将原始图像样本旋转90度得到第二目标图像样本,将原始图像样本旋转180度得到第三目标图像样本,对第一目标图像样本标记“旋转45度”,对第二目标图像样本标记“旋转90度”,对第三目标图像样本标记“旋转180度”。
本公开实施例的技术方案,通过调整原始图像样本得到目标图像样本集,通过目标图像样本集迭代训练待训练模型得到目标多任务学习模型,将包含文字的待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息,根据识别到的所述目标文字和所述用户的输入进行笔顺检测,避免了由于用户书写规范性较差,进而导致识别误判的情况,提高了文字识别结果的准确率,同时提高了笔顺检测的准确率。
实施例三
图3是本公开实施例三提供的一种笔顺检测方法的流程图,本实施例以上述实施例为基础进行具体化,在本实施例中,所述待处理图像包括:至少一个第一笔画图像,相应的,根据识别到的所述目标文字、所述目标调整信息和所述用户的输入进行笔顺检测包括:将所述第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息;获取所述第一笔画图像对应的标准笔画图像;将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息;根据所述目标文字、第一特征信息和第二特征信息进行笔顺检测,本实施例的方法具体包括如下步骤:
S310、根据用户的输入确定待处理图像,其中,所述待处理图像包含文字。
其中,所述待处理图像包括:至少一个第一笔画图像。
S320、将所述待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息,其中,所述目标多任务学习模型通过目标图像样本集迭代训练待训练模型得到,所述目标图像样本集通过调整原始图像样本得到。
S330、将第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息。
其中,所述目标层为卷积层,所述目标层可以为目标多任务学习模型的第N层,具体目标层的确定和目标多任务学习模型的结构有关。
其中,所述第一笔画图像为所述待处理图像的一部分,也就是说,所述待处理图像包括:至少一个第一笔画图像,所述第一笔画图像的获取方式可以为:获取从用户手指或者智能笔触摸电子设备的触摸屏直至用户手指或者智能笔离开电子设备的触摸屏的过程中的图像;获取用户输入的待处理图像的方式也可以为,获取用户手指或者智能笔触摸电子设备的触摸屏直至用户手指或者智能笔离开电子设备的触摸屏预设时间的过程中的图像,本公开实施例对此不进行限制。
其中,所述第一特征信息为笔画特征信息。
示例性的,将所述第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息,例如可以是,若目标多任务学习模型为N层神经网络模型,将第一笔画图像输入目标多任务学习模型的第一层,得到第一层的输出数据,并将第一层的输出数据输入至第二层,将第二层的输出数据输入至第三层,重复执行上述操作,直至将目标层前一层的输出数据输入至目标层,得到目标层的输出数据,将目标层的输出数据确定为第一特征信息。
S340、获取所述第一笔画图像对应的标准笔画图像。
其中,获取所述第一笔画图像对应的标准笔画图像的方式可以为,预先在数据库中存储多个笔画图像对应的标准笔画图像,根据所述第一笔画图像查询数据库,得到所述第一笔画图像对应的标准笔画图像;获取所述第一笔画图像对应的标准笔画图像的方式还可以为,用户的作业为让用户在平板上写几个白天学习过的汉字,并将作业中的汉字预先书写标准版本,并将教师书写标准笔画图像进行存储,在获取到第一笔画图像后,根据第一笔画图像查询预先存储的标准笔画图像,得到第一笔画图像对应的标准笔画图像。例如可以是,用户的作业为让用户在平板上写“好”字,并预先写一个“好”字,将预先存储的“好”字对应的标准笔画图像进行存储,用户在平板上写“好”这个汉字,获取用户写“好”这个汉字对应的第一笔画图像,根据第一笔画图像查询预先存储的标准笔画图像,得到第一笔画图像对应的标准笔画图像。
需要说明的是,教师预先书写的标准笔画图像的获取方式可以为,获取从教师手指或者智能笔触摸电子设备的触摸屏直至教师手指或者智能笔离开电子设备的触摸屏的过程中的图像;获取教师预先书写的标准笔画图像的获取方式也可以为,获取教师手指或者智能笔触摸电子设备的触摸屏直至教师手指或者智能笔离开电子设备的触摸屏预设时间的过程中的图像,本公开实施例对此不进行限制。
S350、将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息。
其中,所述第二特征信息为笔画特征信息。
示例性的,将所述标准笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息,例如可以是,若目标多任务学习模型为N层神经网络模型,将标准笔画图像输入目标多任务学习模型的第一层,得到第一层的输出数据,并将第一层的输出数据输入至第二层,将第二层的输出数据输入至第三层,重复执行上述操作,直至将目标层前一层的输出数据输入至目标层,得到目标层的输出数据,将目标层的输出数据确定为第二特征信息。
可选的,在本公开实施例中,将所述第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息包括:
将所述第一笔画图像输入目标多任务学习模型;
获取所述目标多任务学习模型的结构信息;
根据所述结构信息确定所述目标多任务学习模型的目标层;
获取所述目标层输出的第一特征信息。
其中,所述目标多任务学习模型的结构信息可以为所述目标多任务学习模型包括的层结构,以及层结构的属性信息,本公开实施例对此不进行限制。
示例性的,本公开实施例对“将所述第一笔画图像输入目标多任务学习模型”和“获取所述目标多任务学习模型的结构信息”两个步骤的顺序不进行限制,需要说明的是,也可以先获取所述目标多任务学习模型的结构信息,再将所述第一笔画图像输入目标多任务学习模型。获取所述目标多任务学习模型的结构信息的前提是通过目标图像样本集迭代训练待训练模型得到目标多任务学习模型。
示例性的,将所述第一笔画图像输入目标多任务学习模型;获取所述目标多任务学习模型的结构信息;根据所述结构信息确定所述目标多任务学习模型的目标层;获取所述目标层输出的第一特征信息,例如可以是,用户的作业为让用户在平板上写“好”字,并预先写一个“好”字,将预先存储的“好”字对应的标准笔画图像进行存储,用户在平板上写“好”这个汉字,获取用户写“好”这个汉字对应的第一笔画图像,将第一笔画图像输入目标多任务学习模型,根据目标多任务学习模型的结构信息,确定所述目标多任务学习模型的目标层为第N层,获取目标多任务学习模型的第N层输出的第一特征信息。
可选的,在本公开实施例中,将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息包括:
将所述标准笔画图像输入所述目标多任务学习模型;
获取所述目标多任务学习模型的结构信息;
根据所述结构信息确定所述目标多任务学习模型的目标层;
获取所述目标层输出的第二特征信息。
其中,所述目标多任务学习模型的结构信息可以为所述目标多任务学习模型包括的层结构,以及层结构的属性信息,本公开实施例对此不进行限制。
示例性的,本公开实施例对“将所述标准笔画图像输入所述目标多任务学习模型”和“获取所述目标多任务学习模型的结构信息”两个步骤的顺序不进行限制,需要说明的是,也可以先获取所述目标多任务学习模型的结构信息,再将所述标准笔画图像输入所述目标多任务学习模型。获取所述目标多任务学习模型的结构信息的前提是通过目标图像样本集迭代训练待训练模型得到目标多任务学习模型。
示例性的,将所述标准笔画图像输入所述目标多任务学习模型;获取所述目标多任务学习模型的结构信息;根据所述结构信息确定所述目标多任务学习模型的目标层;获取所述目标层输出的第二特征信息,例如可以是,用户的作业为让用户在平板上写“好”字,并预先写一个“好”字,将预先存储的“好”字对应的标准笔画图像进行存储,用户在平板上写“好”这个汉字,获取用户写“好”这个汉字对应的第一笔画图像,根据第一笔画图像查询预先存储的标准笔画图像,得到第一笔画图像对应的标准笔画图像,将标准笔画图像输入目标多任务学习模型,根据目标多任务学习模型的结构信息,确定所述目标多任务学习模型的目标层为第N层,获取目标多任务学习模型的第N层输出的第二特征信息。
可选的,在本公开实施例中,所述目标层为卷积层。
S360、根据所述目标文字、第一特征信息和第二特征信息进行笔顺检测。
示例性的,若所述目标文字与预设文字相同,则根据第一特征信息和第二特征信息进行笔顺检测,若所述目标文字和预设文字不同,则无需进行笔顺检测操作,其中,所述预设文字与场景有关,例如可以是,用户的作业为让用户在平板上写“好”字,用户在平板上写“好”字,获取用户写“好”字对应的待处理图像,将“好”字对应的待处理图像输入目标多任务学习模型,得到目标文字为“好”字和目标调整信息为旋转45度,若目标文字和作业中的“好”字相同,则根据第一特征信息和第二特征信息进行笔顺检测。
在手写汉字的笔画顺序检测场景上,如果用户写的字事先是未知的(已知的例如,临摹),那么就需要模型能够先识别出用户写的字属于哪个字,然后对应这个字的标准笔画顺序进行判断,在实际情况中,无法预先知道用户将要书写哪个汉字,从而无法预先对用户的书写提前加上先验(例如,正确的“好”字书写笔画为6笔,其中包含两横),所以需要预先对书写的汉字进行识别,然后再进行笔顺检测。由于面向用户的书写通常存在一些规范性的问题,例如:将汉字写的过于分开,例如“好”字的“女”和“子”写的空隙很大,或者,将其写的扭曲、倾斜或者颠倒等,会严重影响汉字识别的准确率。如何训练能够提高汉字识别的准确率,又不会影响后续beam search的准确率,则成为当前急需解决的问题。
目前,孤立字识别的模型基本是神经网络加上分类器的做法,将置信度最大的候选值当做识别结果,然后进行后续的笔顺检测功能。但是,考虑用户写字的规范性较差,很容易导致识别误判,而一些通用的提供识别鲁棒性的方法又可能会损害后续的笔顺检测的准确率。因此,并本公开实施例提出了一种基于联合训练的方法,既能够提高孤立字识别的准确率,同时可以提高后续笔顺检测的准确率。
在一个示例的例子中,预先增强训练孤立字识别的数据。随机的对某一个训练样本(标准,较规范)随机做以下一种或多种调整操作。调整操作包括:旋转一定的角度、位移一定的位置、对字形做拉升或压缩,并打上标签(例如,左旋30、左上移10、无等)。定义待训练模型的基础模型框架,本公开实施例采用ResNet框架的CNN神经网络结构。需要说明的是,基本框架也可选择RNN等其他常见神经网络结构。直接将增强后得到的目标图像样本用于训练待训练模型,能够大幅度的提升模型对于用户书写的汉字的识别准确率,但是,由于模型泛化性能的增强,导致对于笔画的倾斜、相对位置信息以及形状变得很不敏感(因为模型更加倾向于识别出是哪个字,增强了整体的信息敏感,而忽略了局部的信息敏感),导致该模型提取的特征信息embedding无法应用于笔顺检测。例如:川字,如果模型忽略了撇的倾斜信息和形状信息,则会将其误判为竖;如果模型忽略了第二笔竖和第三笔竖的相对位置信息,则很容易误判顺序。若用增强后的目标图像样本训练待训练模型,用原始图像样本训练提取embedding和后续beam search的模型,会严重影响速度(需要分别通过两个模型进行数据处理)和增加模型的大小(模型的参数和大小都是一个模型的两倍)。利用多任务学习模型,进行多任务学习。例如:倾斜的分类任务,例如左倾30,左倾10,不倾斜,右倾10,右倾30,位移的分类任务,拉升还是压缩的分类任务。将上述目标多任务学习模型同时用于孤立字识别和embedding的提取,并基于识别结果和提取的embedding做笔顺检测任务,除了可以提高孤立字的识别率,也能够对参与多任务学习的信息(例如倾斜、位移等)更为敏感,鲁棒性更好,从而提高了笔顺检测的准确率。
可选的,在本公开实施例中,在进行笔顺检测之后,还包括:
确定笔顺检测结果;
根据所述笔顺检测结果生成第二提醒信息,并将所述第二提醒信息进行显示。
其中,所述笔顺检测结果可以为书写笔顺正确,也可以为书写笔顺错误,若书写笔顺正确,则可以显示书写笔顺正确对应的特效,例如可以是,显示一个小红花,或者可以为打一个对号,本公开实施例对此不进行限制。若书写笔顺错误,则可以在待书写区域附近空白区域进行正确笔顺的书写,以便用户基于正确的书写笔顺进行修改和临摹,也可以在用户书写的错误笔顺的字体上进行标注,标注错误笔顺的位置,以便于用户根据标注内容进行修改,若用户修改后的文字的笔顺依旧错误,则在待书写区域附近空白区域进行正确笔顺的书写,以便用户基于正确的书写笔顺进行修改和临摹。本公开实施例对此不进行限制。
其中,所述第二提醒信息可以为书写笔顺正确对应的特效信息,也可以为书写笔顺错误对应的特效信息,还可以为书写笔顺错误对应的正确笔顺的图像信息,或者可以为书写笔顺错误对应的文字描述信息,也可以为正确的书写笔顺,本公开实施例对此不进行限制。
可选的,所述确定笔顺检测结果,包括:
确定所述用户的输入的笔顺是否正确;
所述根据所述笔顺检测结果生成第二提醒信息,并将所述第二提醒信息进行显示,包括:
如果笔顺错误,则生成并显示提醒笔顺错误的第二提醒信息。
示例性的,显示提醒笔顺错误的第二提醒信息的方式可以为,将正确笔顺显示在空白区域;显示提醒笔顺错误的第二提醒信息的方式还可以为,将错误笔顺进行标注;显示提醒笔顺错误的第二提醒信息的方式还可以为,先提示笔顺错误,将待书写区域清空,以便用户重新书写,若用户重新书写后的笔顺依旧错误,则将错误笔顺进行标注,或者将正确笔顺显示在空白区域。
本公开实施例的技术方案,通过调整原始图像样本得到目标图像样本集,通过目标图像样本集迭代训练待训练模型得到目标多任务学习模型,将包含文字的待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息,将待处理图像包含的至少一个第一笔画图像依次输入目标多任务学习模型,得到至少一个第一笔画图像对应的第一特征信息,获取第一笔画图像对应的标准笔画图像;将所述标准笔画图像输入所述目标多任务学习模型,得到所述标准笔画图像对应的第二特征信息;根据所述目标文字、第一特征信息和第二特征信息进行笔顺检测,解决了由于使用现有的模型进行笔顺检测识别率低的问题,能够提高笔顺检测的准确率。
实施例四
图4是本公开实施例四提供的一种笔顺检测装置的结构框图,具体包括:图像确定模块410、识别模块420和检测模块430;
图像确定模块410,用于根据用户的输入确定待处理图像,其中,所述待处理图像包含文字;
识别模块420,用于对所述待处理图像进行识别,得到目标文字;
检测模块430,用于根据识别到的所述目标文字和所述用户的输入进行笔顺检测。
本公开实施例的技术方案,能够对包含文字的待处理图像进行识别,根据文字识别结果和用户的输入进行笔顺检测,避免了由于用户书写规范性较差,进而导致识别误判的情况,提高了文字识别结果的准确率,鲁棒性更好,同时提高了笔顺检测的准确率。
可选的,在上述技术方案的基础上,所述识别模块420具体用于:
对所述待处理图像进行识别,得到目标文字和目标调整信息;
所述根据识别到的所述目标文字和所述用户的输入进行笔顺检测,包括:
根据识别到的所述目标文字、所述目标调整信息和所述用户的输入进行笔顺检测。
可选的,在上述技术方案的基础上,所述识别模块420具体用于:
将所述待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息,其中,所述目标多任务学习模型通过目标图像样本集迭代训练待训练模型得到,所述目标图像样本集通过调整原始图像样本得到。
可选的,在上述技术方案的基础上,所述识别模块420具体用于:
获取原始图像样本;
对所述原始图像样本进行调整,得到目标图像样本集,其中,所述目标图像样本集携带标识;
将目标图像样本输入待训练模型,得到预测字和预测调整信息;
根据所述预测字、预测调整信息以及目标图像样本携带的标识形成的目标函数训练所述待训练模型的参数;
返回执行将目标图像样本输入待训练模型,得到预测字和预测调整信息的操作,直至得到目标多任务学习模型。
可选的,在上述技术方案的基础上,所述识别模块420还用于:
获取调整信息,其中,所述调整信息包括:旋转预设角度、移动预设距离、拉伸第一预设倍数和压缩第二预设倍数中的至少一种;
根据所述调整信息对所述原始图像样本进行调整,得到目标图像样本集,并将所述调整信息确定为所述目标图像样本集的标识。
可选的,在上述技术方案的基础上,所述待处理图像包括:至少一个第一笔画图像,相应的,所述检测模块430还用于:
将所述第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息;
获取所述第一笔画图像对应的标准笔画图像;
将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息;
根据所述目标文字、第一特征信息和第二特征信息进行笔顺检测。
可选的,在上述技术方案的基础上,所述检测模块430还用于:
将所述第一笔画图像输入目标多任务学习模型;
获取所述目标多任务学习模型的结构信息;
根据所述结构信息确定所述目标多任务学习模型的目标层;
获取所述目标层输出的第一特征信息。
可选的,在上述技术方案的基础上,所述检测模块430还用于:
将所述标准笔画图像输入所述目标多任务学习模型;
获取所述目标多任务学习模型的结构信息;
根据所述结构信息确定所述目标多任务学习模型的目标层;
获取所述目标层输出的第二特征信息。
可选的,在上述技术方案的基础上,所述目标层为卷积层。
可选的,在上述技术方案的基础上,所述图像确定模块410具体用于:
于检测到用户对目标控件的触控操作时,显示手写界面,其中,所述手写界面由待书写区域组成;
根据用户在所述待书写区域中的输入确定所述待处理图像。
可选的,在上述技术方案的基础上,所述识别模块420还用于:
获取预先存储的第一文字;
根据所述第一文字和所述目标文字的匹配结果生成第一提醒信息,并将所述第一提醒信息进行显示。
可选的,在上述技术方案的基础上,还包括:
结果确定模块,用于确定笔顺检测结果;
显示模块,用于根据所述笔顺检测结果生成第二提醒信息,并将所述第二提醒信息进行显示。
可选的,在上述技术方案的基础上,所述结果确定模块具体用于:
确定所述用户的输入的笔顺是否正确;
所述显示模块具体用于:
如果笔顺错误,则生成并显示提醒笔顺错误的第二提醒信息。
上述装置可执行本公开任意实施例所提供的笔顺检测方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本公开任意实施例提供的方法。
实施例五
图5示出了适于用来实现本公开实施例的电子设备500的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图5示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示,电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置508被安装,或者从ROM 502被安装。在该计算机程序被处理装置501执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是,但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(Hyper Text TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:根据用户的输入确定待处理图像,其中,所述待处理图像包含文字;对所述待处理图像进行识别,得到目标文字;根据识别到的所述目标文字和所述用户的输入进行笔顺检测。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块的名称在某种情况下并不构成对该模块本身的限定,例如,图像确定模块,可以被描述为“用于根据用户的输入确定待处理图像,其中,所述待处理图像包含文字”。本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,【示例1】提供了一种笔顺检测方法,包括:
根据用户的输入确定待处理图像,其中,所述待处理图像包含文字;
对所述待处理图像进行识别,得到目标文字;
根据识别到的所述目标文字和所述用户的输入进行笔顺检测。
根据本公开的一个或多个实施例,【示例2】提供了示例1的方法,所述对所述待处理图像进行识别,得到目标文字,包括:
对所述待处理图像进行识别,得到目标文字和目标调整信息;
所述根据识别到的所述目标文字和所述用户的输入进行笔顺检测,包括:
根据识别到的所述目标文字、所述目标调整信息和所述用户的输入进行笔顺检测。
根据本公开的一个或多个实施例,【示例3】提供了示例2的方法,对所述待处理图像进行识别,得到目标文字和目标调整信息包括:
将所述待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息,其中,所述目标多任务学习模型通过目标图像样本集迭代训练待训练模型得到,所述目标图像样本集通过调整原始图像样本得到。
根据本公开的一个或多个实施例,【示例4】提供了示例3的方法,通过目标图像样本集迭代训练待训练模型包括:
获取原始图像样本;
对所述原始图像样本进行调整,得到目标图像样本集,其中,所述目标图像样本集携带标识;
将目标图像样本输入待训练模型,得到预测字和预测调整信息;
根据所述预测字、预测调整信息以及目标图像样本携带的标识形成的目标函数训练所述待训练模型的参数;
返回执行将目标图像样本输入待训练模型,得到预测字和预测调整信息的操作,直至得到目标多任务学习模型。
根据本公开的一个或多个实施例,【示例5】提供了示例4的方法,对所述原始图像样本进行调整,得到目标图像样本集,包括:
获取调整信息,其中,所述调整信息包括:旋转预设角度、移动预设距离、拉伸第一预设倍数和压缩第二预设倍数中的至少一种;
根据所述调整信息对所述原始图像样本进行调整,得到目标图像样本集,并将所述调整信息确定为所述目标图像样本集的标识。
根据本公开的一个或多个实施例,【示例6】提供了示例3的方法,所述待处理图像包括:至少一个第一笔画图像,相应的,根据识别到的所述目标文字、所述目标调整信息和所述用户的输入进行笔顺检测包括:
将所述第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息;
获取所述第一笔画图像对应的标准笔画图像;
将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息;
根据所述目标文字、第一特征信息和第二特征信息进行笔顺检测。
根据本公开的一个或多个实施例,【示例7】提供了示例6的方法,将所述第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息包括:
将所述第一笔画图像输入目标多任务学习模型;
获取所述目标多任务学习模型的结构信息;
根据所述结构信息确定所述目标多任务学习模型的目标层;
获取所述目标层输出的第一特征信息。
根据本公开的一个或多个实施例,【示例8】提供了示例6的方法,将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息包括:
将所述标准笔画图像输入所述目标多任务学习模型;
获取所述目标多任务学习模型的结构信息;
根据所述结构信息确定所述目标多任务学习模型的目标层;
获取所述目标层输出的第二特征信息。
根据本公开的一个或多个实施例,【示例9】提供了示例7或8的方法,所述目标层为卷积层。
根据本公开的一个或多个实施例,【示例10】提供了示例1的方法,所述根据用户的输入确定待处理图像,包括:
于检测到用户对目标控件的触控操作时,显示手写界面,其中,所述手写界面由待书写区域组成;
根据用户在所述待书写区域中的输入确定所述待处理图像。
根据本公开的一个或多个实施例,【示例11】提供了示例2的方法,对所述待处理图像进行识别,得到目标文字和目标调整信息之后,还包括:
获取预先存储的第一文字;
根据所述第一文字和所述目标文字的匹配结果生成第一提醒信息,并将所述第一提醒信息进行显示。
根据本公开的一个或多个实施例,【示例12】提供了示例1-11任一示例的方法,在进行笔顺检测之后,还包括:
确定笔顺检测结果;
根据所述笔顺检测结果生成第二提醒信息,并将所述第二提醒信息进行显示。
根据本公开的一个或多个实施例,【示例13】提供了示例12的方法,所述确定笔顺检测结果,包括:
确定所述用户的输入的笔顺是否正确;
所述根据所述笔顺检测结果生成第二提醒信息,并将所述第二提醒信息进行显示,包括:
如果笔顺错误,则生成并显示提醒笔顺错误的第二提醒信息。
根据本公开的一个或多个实施例,【示例14】提供了一种笔顺检测装置,包括:
图像确定模块,用于根据用户的输入确定待处理图像,其中,所述待处理图像包含文字;
识别模块,用于对所述待处理图像进行识别,得到目标文字;
检测模块,用于根据识别到的所述目标文字和所述用户的输入进行笔顺检测。
根据本公开的一个或多个实施例,【示例15】提供了示例14的装置,所述识别模块具体用于:
对所述待处理图像进行识别,得到目标文字和目标调整信息;
所述检测模块具体用于:
根据识别到的所述目标文字、所述目标调整信息和所述用户的输入进行笔顺检测。
根据本公开的一个或多个实施例,【示例16】提供了示例15的装置,所述识别模块具体用于:
将所述待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息,其中,所述目标多任务学习模型通过目标图像样本集迭代训练待训练模型得到,所述目标图像样本集通过调整原始图像样本得到。
根据本公开的一个或多个实施例,【示例17】提供了示例16的装置,所述识别模块具体用于:
获取原始图像样本;
对所述原始图像样本进行调整,得到目标图像样本集,其中,所述目标图像样本集携带标识;
将目标图像样本输入待训练模型,得到预测字和预测调整信息;
根据所述预测字、预测调整信息以及目标图像样本携带的标识形成的目标函数训练所述待训练模型的参数;
返回执行将目标图像样本输入待训练模型,得到预测字和预测调整信息的操作,直至得到目标多任务学习模型。
根据本公开的一个或多个实施例,【示例18】提供了示例17的装置,所述识别模块还用于:
获取调整信息,其中,所述调整信息包括:旋转预设角度、移动预设距离、拉伸第一预设倍数和压缩第二预设倍数中的至少一种;
根据所述调整信息对所述原始图像样本进行调整,得到目标图像样本集,并将所述调整信息确定为所述目标图像样本集的标识。
根据本公开的一个或多个实施例,【示例19】提供了示例16的装置,所述待处理图像包括:至少一个第一笔画图像,相应的,所述检测模块还用于:
将所述第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息;
获取所述第一笔画图像对应的标准笔画图像;
将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息;
根据所述目标文字、第一特征信息和第二特征信息进行笔顺检测。
根据本公开的一个或多个实施例,【示例20】提供了示例19的装置,所述检测模块还用于:
将所述第一笔画图像输入目标多任务学习模型;
获取所述目标多任务学习模型的结构信息;
根据所述结构信息确定所述目标多任务学习模型的目标层;
获取所述目标层输出的第一特征信息。
根据本公开的一个或多个实施例,【示例21】提供了示例19的装置,所述检测模块还用于:
将所述标准笔画图像输入所述目标多任务学习模型;
获取所述目标多任务学习模型的结构信息;
根据所述结构信息确定所述目标多任务学习模型的目标层;
获取所述目标层输出的第二特征信息。
根据本公开的一个或多个实施例,【示例22】提供了示例20或21的装置,所述目标层为卷积层。
根据本公开的一个或多个实施例,【示例23】提供了示例14的装置,所述图像确定模块具体用于:
于检测到用户对目标控件的触控操作时,显示手写界面,其中,所述手写界面由待书写区域组成;
根据用户在所述待书写区域中的输入确定所述待处理图像。
根据本公开的一个或多个实施例,【示例24】提供了示例15的装置,所述识别模块还用于:
获取预先存储的第一文字;
根据所述第一文字和所述目标文字的匹配结果生成第一提醒信息,并将所述第一提醒信息进行显示。
根据本公开的一个或多个实施例,【示例25】提供了示例14-24任一示例的装置,还包括:
结果确定模块,用于确定笔顺检测结果;
显示模块,用于根据所述笔顺检测结果生成第二提醒信息,并将所述第二提醒信息进行显示。
根据本公开的一个或多个实施例,【示例26】提供了示例25的装置,所述结果确定模块具体用于:
确定所述用户的输入的笔顺是否正确;
所述显示模块具体用于:
如果笔顺错误,则生成并显示提醒笔顺错误的第二提醒信息。
根据本公开的一个或多个实施例,【示例27】提供了一种电子设备,包括存储器、处理装置及存储在存储器上并可在处理装置上运行的计算机程序,处理装置执行程序时实现如示例1-13中任一所述的笔顺检测方法。
根据本公开的一个或多个实施例,【示例28】提供了一种包含计算机可执行指令的存储介质,计算机可执行指令在由计算机处理器执行时用于执行如示例1-13中任一所述的笔顺检测方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (16)
1.一种笔顺检测方法,其特征在于,包括:
根据用户的输入确定待处理图像,其中,所述待处理图像包含文字;
对所述待处理图像进行识别,得到目标文字;
根据识别到的所述目标文字和所述用户的输入进行笔顺检测。
2.根据权利要求1所述的方法,其特征在于,所述对所述待处理图像进行识别,得到目标文字,包括:
对所述待处理图像进行识别,得到目标文字和目标调整信息;
所述根据识别到的所述目标文字和所述用户的输入进行笔顺检测,包括:
根据识别到的所述目标文字、所述目标调整信息和所述用户的输入进行笔顺检测。
3.根据权利要求2所述的方法,其特征在于,对所述待处理图像进行识别,得到目标文字和目标调整信息包括:
将所述待处理图像输入目标多任务学习模型,得到目标文字和目标调整信息,其中,所述目标多任务学习模型通过目标图像样本集迭代训练待训练模型得到,所述目标图像样本集通过调整原始图像样本得到。
4.根据权利要求3所述的方法,其特征在于,通过目标图像样本集迭代训练待训练模型包括:
获取原始图像样本;
对所述原始图像样本进行调整,得到目标图像样本集,其中,所述目标图像样本集携带标识;
将目标图像样本输入待训练模型,得到预测字和预测调整信息;
根据所述预测字、预测调整信息以及目标图像样本携带的标识形成的目标函数训练所述待训练模型的参数;
返回执行将目标图像样本输入待训练模型,得到预测字和预测调整信息的操作,直至得到目标多任务学习模型。
5.根据权利要求4所述的方法,其特征在于,对所述原始图像样本进行调整,得到目标图像样本集,包括:
获取调整信息,其中,所述调整信息包括:旋转预设角度、移动预设距离、拉伸第一预设倍数和压缩第二预设倍数中的至少一种;
根据所述调整信息对所述原始图像样本进行调整,得到目标图像样本集,并将所述调整信息确定为所述目标图像样本集的标识。
6.根据权利要求3所述的方法,其特征在于,所述待处理图像包括:至少一个第一笔画图像,相应的,根据识别到的所述目标文字、所述目标调整信息和所述用户的输入进行笔顺检测包括:
将所述第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息;
获取所述第一笔画图像对应的标准笔画图像;
将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息;
根据所述目标文字、第一特征信息和第二特征信息进行笔顺检测。
7.根据权利要求6所述的方法,其特征在于,将所述第一笔画图像输入目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第一特征信息包括:
将所述第一笔画图像输入目标多任务学习模型;
获取所述目标多任务学习模型的结构信息;
根据所述结构信息确定所述目标多任务学习模型的目标层;
获取所述目标层输出的第一特征信息。
8.根据权利要求6所述的方法,其特征在于,将所述标准笔画图像输入所述目标多任务学习模型,并获取所述目标多任务学习模型的目标层输出的第二特征信息包括:
将所述标准笔画图像输入所述目标多任务学习模型;
获取所述目标多任务学习模型的结构信息;
根据所述结构信息确定所述目标多任务学习模型的目标层;
获取所述目标层输出的第二特征信息。
9.根据权利要求7或8所述的方法,其特征在于,所述目标层为卷积层。
10.根据权利要求1所述的方法,其特征在于,所述根据用户的输入确定待处理图像,包括:
于检测到用户对目标控件的触控操作时,显示手写界面,其中,所述手写界面由待书写区域组成;
根据用户在所述待书写区域中的输入确定所述待处理图像。
11.根据权利要求2所述的方法,其特征在于,对所述待处理图像进行识别,得到目标文字和目标调整信息之后,还包括:
获取预先存储的第一文字;
根据所述第一文字和所述目标文字的匹配结果生成第一提醒信息,并将所述第一提醒信息进行显示。
12.根据权利要求1-11任一项所述的方法,其特征在于,在进行笔顺检测之后,还包括:
确定笔顺检测结果;
根据所述笔顺检测结果生成第二提醒信息,并将所述第二提醒信息进行显示。
13.根据权利要求12所述的方法,其特征在于,所述确定笔顺检测结果,包括:
确定所述用户的输入的笔顺是否正确;
所述根据所述笔顺检测结果生成第二提醒信息,并将所述第二提醒信息进行显示,包括:
如果笔顺错误,则生成并显示提醒笔顺错误的第二提醒信息。
14.一种笔顺检测装置,其特征在于,包括:
图像确定模块,用于根据用户的输入确定待处理图像,其中,所述待处理图像包含文字;
识别模块,用于对所述待处理图像进行识别,得到目标文字;
检测模块,用于根据识别到的所述目标文字和所述用户的输入进行笔顺检测。
15.一种电子设备,包括存储器、处理装置及存储在存储器上并可在处理装置上运行的计算机程序,其特征在于,所述处理装置执行所述程序时实现如权利要求1-13中任一所述的笔顺检测方法。
16.一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-13中任一所述的笔顺检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110468994.XA CN113191251B (zh) | 2021-04-28 | 2021-04-28 | 一种笔顺检测方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110468994.XA CN113191251B (zh) | 2021-04-28 | 2021-04-28 | 一种笔顺检测方法、装置、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113191251A true CN113191251A (zh) | 2021-07-30 |
CN113191251B CN113191251B (zh) | 2023-04-07 |
Family
ID=76980186
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110468994.XA Active CN113191251B (zh) | 2021-04-28 | 2021-04-28 | 一种笔顺检测方法、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113191251B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114494512A (zh) * | 2021-12-31 | 2022-05-13 | 深圳市优必选科技股份有限公司 | 样本数据生成方法、装置、终端设备及可读存储介质 |
WO2023202543A1 (zh) * | 2022-04-18 | 2023-10-26 | 北京字跳网络技术有限公司 | 文字处理方法、装置、电子设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130121581A1 (en) * | 2010-07-20 | 2013-05-16 | Qingdao Hisense Transtech Co., Ltd. | Identification method and apparatus of confusable character |
CN103606305A (zh) * | 2013-11-29 | 2014-02-26 | 西安辉盛科技发展有限责任公司 | 一种汉字书写学习系统 |
CN108681735A (zh) * | 2018-03-28 | 2018-10-19 | 中科博宏(北京)科技有限公司 | 基于卷积神经网络深度学习模型的光学字符识别方法 |
CN111027443A (zh) * | 2019-12-04 | 2020-04-17 | 华南理工大学 | 一种基于多任务深度学习的票据文本检测方法 |
CN111753802A (zh) * | 2020-07-06 | 2020-10-09 | 北京猿力未来科技有限公司 | 识别方法及装置 |
CN112016547A (zh) * | 2020-08-20 | 2020-12-01 | 上海天壤智能科技有限公司 | 基于深度学习的图像文字识别方法、系统及介质 |
-
2021
- 2021-04-28 CN CN202110468994.XA patent/CN113191251B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130121581A1 (en) * | 2010-07-20 | 2013-05-16 | Qingdao Hisense Transtech Co., Ltd. | Identification method and apparatus of confusable character |
CN103606305A (zh) * | 2013-11-29 | 2014-02-26 | 西安辉盛科技发展有限责任公司 | 一种汉字书写学习系统 |
CN108681735A (zh) * | 2018-03-28 | 2018-10-19 | 中科博宏(北京)科技有限公司 | 基于卷积神经网络深度学习模型的光学字符识别方法 |
CN111027443A (zh) * | 2019-12-04 | 2020-04-17 | 华南理工大学 | 一种基于多任务深度学习的票据文本检测方法 |
CN111753802A (zh) * | 2020-07-06 | 2020-10-09 | 北京猿力未来科技有限公司 | 识别方法及装置 |
CN112016547A (zh) * | 2020-08-20 | 2020-12-01 | 上海天壤智能科技有限公司 | 基于深度学习的图像文字识别方法、系统及介质 |
Non-Patent Citations (2)
Title |
---|
KARTIK DUTTA 等: "Improving CNN-RNN hybrid networks for handwriting recognition", 《2018 16TH INTERNATIONAL CONFERENCE ON FRONTIERS IN HANDWRITING RECOGNITION (ICFHR)》 * |
余海涛: "汉字笔顺书写学习系统的设计与实现", 《中国优秀博硕士学位论文全文数据库(硕士) 信息科技辑(月刊)》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114494512A (zh) * | 2021-12-31 | 2022-05-13 | 深圳市优必选科技股份有限公司 | 样本数据生成方法、装置、终端设备及可读存储介质 |
WO2023202543A1 (zh) * | 2022-04-18 | 2023-10-26 | 北京字跳网络技术有限公司 | 文字处理方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113191251B (zh) | 2023-04-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109961009B (zh) | 基于深度学习的行人检测方法、系统、装置及存储介质 | |
US10366313B2 (en) | Activation layers for deep learning networks | |
CN109584276B (zh) | 关键点检测方法、装置、设备及可读介质 | |
CN110059596B (zh) | 一种图像识别方法、装置、介质和电子设备 | |
US9098888B1 (en) | Collaborative text detection and recognition | |
CN111930622B (zh) | 基于深度学习的界面控件测试方法及系统 | |
CN113191251B (zh) | 一种笔顺检测方法、装置、电子设备和存储介质 | |
CN111539412A (zh) | 一种基于ocr的图像分析方法、系统、设备及介质 | |
CN111950570B (zh) | 目标图像提取方法、神经网络训练方法及装置 | |
CN112183046A (zh) | 一种手写字的质量评价方法、装置、设备和存储介质 | |
CN112396032B (zh) | 书写检测方法、装置、存储介质及电子设备 | |
CN112749695A (zh) | 文本识别的方法和装置 | |
CN111783626A (zh) | 图像识别方法、装置、电子设备及存储介质 | |
US11631262B2 (en) | Semantic segmentation for stroke classification in inking application | |
CN113221718A (zh) | 公式识别方法、装置、存储介质和电子设备 | |
CN112306235A (zh) | 一种手势操作方法、装置、设备和存储介质 | |
CN113140012A (zh) | 图像处理方法、装置、介质及电子设备 | |
CN114444508A (zh) | 日期识别方法、装置、可读介质及电子设备 | |
CN113033377A (zh) | 字符位置修正方法、装置、电子设备和存储介质 | |
CN112712036A (zh) | 交通标志识别方法、装置、电子设备及计算机存储介质 | |
CN111459443A (zh) | 一种文字点读方法、装置、设备和可读介质 | |
WO2022206404A1 (zh) | 练字格检测方法、装置、可读介质及电子设备 | |
CN112309389A (zh) | 信息交互方法和装置 | |
CN116503596A (zh) | 图片分割方法、装置、介质和电子设备 | |
CN111462548A (zh) | 一种段落点读方法、装置、设备和可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |