CN114399772A - 样本生成、模型训练和轨迹识别方法、装置、设备和介质 - Google Patents
样本生成、模型训练和轨迹识别方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN114399772A CN114399772A CN202111566778.5A CN202111566778A CN114399772A CN 114399772 A CN114399772 A CN 114399772A CN 202111566778 A CN202111566778 A CN 202111566778A CN 114399772 A CN114399772 A CN 114399772A
- Authority
- CN
- China
- Prior art keywords
- training
- coding
- preset
- chinese characters
- library
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012549 training Methods 0.000 title claims abstract description 439
- 238000000034 method Methods 0.000 title claims abstract description 141
- 238000003062 neural network model Methods 0.000 claims description 28
- 238000004590 computer program Methods 0.000 claims description 9
- 230000004927 fusion Effects 0.000 claims description 9
- 238000010276 construction Methods 0.000 claims description 7
- 239000000126 substance Substances 0.000 claims description 5
- 238000005516 engineering process Methods 0.000 abstract description 12
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000003058 natural language processing Methods 0.000 abstract description 2
- 230000008569 process Effects 0.000 description 24
- 238000012545 processing Methods 0.000 description 17
- 230000006870 function Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 238000010606 normalization Methods 0.000 description 6
- 239000003999 initiator Substances 0.000 description 5
- 238000010801 machine learning Methods 0.000 description 5
- 230000014509 gene expression Effects 0.000 description 4
- 239000000463 material Substances 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000005065 mining Methods 0.000 description 2
- 239000000047 product Substances 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 108091026890 Coding region Proteins 0.000 description 1
- PEDCQBHIVMGVHV-UHFFFAOYSA-N Glycerine Chemical compound OCC(O)CO PEDCQBHIVMGVHV-UHFFFAOYSA-N 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 230000003924 mental process Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
- G06F40/53—Processing of non-Latin text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/126—Character encoding
- G06F40/129—Handling non-Latin characters, e.g. kana-to-kanji conversion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/12—Use of codes for handling textual entities
- G06F40/123—Storage facilities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
- G06N5/022—Knowledge engineering; Knowledge acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Character Discrimination (AREA)
Abstract
本公开提供了一种样本生成、模型训练和轨迹识别方法、装置、设备和介质,涉及人工智能技术领域,尤其涉及自然语言处理、深度学习技术。具体实现方法为:根据预设编码库,确定训练汉字的编码结果;其中,所述预设编码库基于五笔编码语料中的编码字符生成;将所述编码结果作为所述训练汉字的训练标签;根据所述训练汉字的书写轨迹和所述训练汉字的训练标签,生成训练样本。根据本公开的技术,丰富了训练样本中所携带的信息量。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及自然语言处理、深度学习技术,具体涉及一种样本生成、模型训练和轨迹识别方法、装置、设备和介质。
背景技术
随着智能终端的全面普及,如何进行方便快捷的人机交互显得日趋重要。相比于键盘等传统的输入方式,手写输入无需改变用户的书写习惯,且无需记忆任何编码,能够使用户按照最自然方便的方式进行文字输入,易学易用,可用性和适应性好。
发明内容
本公开提供了一种样本生成、模型训练和轨迹识别方法、装置、设备和介质。
根据本公开的一方面,提供了一种训练样本生成方法,包括:
根据预设编码库,确定训练汉字的编码结果;其中,所述预设编码库基于五笔编码语料中的编码字符生成;
将所述编码结果作为所述训练汉字的训练标签;
根据所述训练汉字的书写轨迹和所述训练汉字的训练标签,生成训练样本。
根据本公开的另一方面,还提供了一种轨迹识别模型训练方法,包括:
获取训练样本;其中,所述训练样本基于本公开实施例提供的任意一种训练样本生成方法得到;
根据所述训练样本中训练汉字的书写轨迹和所述训练汉字的训练标签,对预先构建的神经网络模型进行训练,得到轨迹识别模型。
根据本公开的另一方面,还提供了一种轨迹识别方法,包括:
获取待识别轨迹;
根据轨迹识别模型,确定所述待识别轨迹的编码预测结果;其中,所述轨迹识别模型基于本公开实施例提供的任意一种轨迹识别模型训练方法得到;
根据所述预设编码库,确定所述编码预测结果对应的汉字识别结果。
根据本公开的另一方面,还提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开实施例所提供的各训练样本生成方法、轨迹识别模型训练方法和轨迹识别方法中的任意一种。
根据本公开的另一方面,还提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使计算机执行本公开实施例所提供的各训练样本生成方法、轨迹识别模型训练方法和轨迹识别方法中的任意一种。
根据本公开的技术,丰富了训练样本中所携带的信息量。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是本公开实施例提供的一种训练样本生成方法的流程图;
图2A是本公开实施例提供的另一种训练样本生成方法的流程图;
图2B是本公开实施例提供的语料汉字的五笔编码拆分过程示意图;
图3是本公开实施例提供的另一种训练样本生成方法的流程图;
图4是本公开实施例提供的一种轨迹识别模型训练方法的流程图;
图5A是本公开实施例提供的另一种轨迹识别模型训练方法的流程图;
图5B是本公开实施例提供的一种神经网络模型的结构图;
图6是本公开实施例提供的一种轨迹识别方法的流程图;
图7是本公开实施例提供的一种训练样本生成装置的结构图;
图8是本公开实施例提供的一种轨迹识别模型训练装置的结构图;
图9是本公开实施例提供的一种轨迹识别装置的结构图;
图10是用来实现本公开实施例的训练样本生成方法、轨迹识别模型训练方法、或轨迹识别方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本公开提供的各训练样本生成方法,适用于在基于训练汉字的书写轨迹进行轨迹识别模型训练的情况下,进行训练样本生成的场景中。本公开提供的各训练样本生成方法,可以由训练样本生成装置执行,该装置可以采用软件和/或硬件实现,并具体配置于电子设备中。
参见图1所示的一种训练样本生成方法,包括:
S101、根据预设编码库,确定训练汉字的编码结果;其中,预设编码库基于五笔编码语料中的编码字符生成。
其中,五笔编码语料中包括各语料汉字的五笔编码,其中,五笔编码是依据汉字的笔画和字形特征,对汉字进行编码后得到的形码结果。其中,五笔编码由至少一个编码字符按照设定顺序组合得到。其中,编码字符即为五笔编码中的构成单元。举例说明,五笔编码语料中包括“令”这一汉字对应的五笔编码“wyc”。其中,“w”、“y”和“c”可以作为单个编码字符;“wy”、“yc”、和“wyc”等中的至少一个,可作为组合编码字符,也即非单个编码字符。
其中,训练汉字可以理解为待生成训练样本的汉字。
可以理解的是,由于预设编码库基于五笔编码语料中的编码字符生成,因此预设编码库中的各编码结果。因此,基于预设编码库进行训练汉字的编码结果的确定,使得所确定的编码结果中携带有训练汉字的笔画和字形特征,提高了编码结果中所携带信息的丰富性。
示例性的,将训练汉字按照字形进行拆解,得到至少一个待查询字形;确定各待查询字形的字形编码;根据笔画顺序,将各待查询字形的字形编码顺序组合,得到训练汉字的编码结果。
S102、将编码结果作为训练汉字的训练标签。
在人工智能领域中的机器学习模型的训练阶段,通常采用有监督学习方式,从标签化训练数据集中推理出函数的机器学习任务。本公开中的训练样本即为有监督学习过程中携带标签信息的样本数据,也即将训练汉字的编码结果作为该训练汉字的训练标签。
需要说明的是,一个训练标签对应的训练汉字可以是一个汉字,也可以是至少两个汉字,本公开对一组训练汉字所表征的汉字数量不作任何限定。
S103、根据训练汉字的书写轨迹和训练汉字的训练标签,生成训练样本。
其中,训练汉字的书写轨迹可以理解为书写训练汉字时产生的轨迹点坐标序列。其中,书写轨迹中携带有各笔画的长度和角度等内容信息,以及书写顺序和相对位置等位置信息。
由于训练汉字的书写轨迹携带有内容信息和位置信息等,训练标签中携带有笔画信息和字形信息等,因此,根据训练汉字的书写轨迹和训练汉字的训练标签生成训练样本,提高了训练样本中所携带信息的丰富性。相应的,基于训练样本进行后续轨迹识别模型训练时,有助于提高轨迹识别模型的模型精度,进而有助于提高轨迹识别模型使用时的轨迹识别结果的准确度。
在上述各技术方案的基础上,本公开还提供了一个可选实施例。在该可选实施例中,对预设编码库的生成过程进行了优化改进。在本公开未详述部分,可参见其他实施例相关表述。
参见图2A所示的一种训练样本生成方法,包括:
S201、将五笔编码语料中各语料汉字的五笔编码拆分。
示例性的,可以直接根据五笔编码语料中各语料汉字的五笔编码所携带单个编码字符的数量,将各五笔编码进行拆分,得到多个单个编码字符;并对各单个编码字符进行去重,以更新单个编码字符。
示例性的,还可以按照预设字符窗,对五笔编码语料中各语料汉字的五笔编码进行滑窗拆分,得到拆分结果;其中,预设字符窗的窗口大小可以根据单个编码字符的大小确定。例如,可以是单个编码字符的整数倍。示例性的,若整数数值为1,则得到的拆分结果为单个编码字符;若整数数值不小于2,则得到的拆分结果为包括至少两个连续单个编码字符的相邻字符序列。
S202、根据拆分结果,构建预设编码库。
示例性的,可以预先构建空的预设编码库,并将各拆分结果添加至预设编码库中。其中,所述拆分结果包括各单个编码字符。为了进一步丰富所述预设编码库中的数据量,可选的,还可以将至少一个相邻字符序列添加至预设编码库中;或者可选的,还可以将至少两个单个编码字符的组合结果,添加至预设编码库中。
图2B示例性给出了对不同语料汉字的五笔编码进行拆分,得到单个编码字符拆分结果的拆分过程示意图。其中,语料汉字“日”的五笔编码为“jjjj”,语料汉字“月”的五笔编码为“eee”,语料汉字“明”的五笔编码为“je”,语料汉字“胆”的五笔编码为“ej”,语料汉字“朋”的五笔编码为“ee”。相应的,对各五笔编码进行拆分并去重后,得到的单个编码字符分别为“j”和“e”。将“j”和“e”添加至预设编码库中,通过对单个编码字符进行排列组合,即可得到相同或相似字形的不同的语料汉字,减少了预设编码库中的元素数量,减少了预设编码库的存储资源占用,同时有助于减少后续进行轨迹识别模型训练的计算量。
S203、根据候选字符序列在五笔编码语料中的出现频次,更新预设编码库。其中,候选字符序列由至少两个单个编码字符组成。
可选的,候选字符序列可以是基于至少两个单个编码字符顺序组合得到的字符串。举例说明,“令”对应的五笔编码“wyc”,按照上述方式所生成的候选字符序列由单个编码字符“w”、“y”和“c”中的至少两个组合得到,也即候选字符序列包括“wy”、“wc”、“yw”、“yc”、“cw”、“cy”、“wyc”、“wcy”、“ywc”、“ycw”、“cwy”和“cyw”。当然,为了避免无关信息的干扰,还可以从上述各组合结果中选取通用的字符串作为候选字符序列,例如“wy”和“wycn”。
可选的,候选字符序列可以是对五笔编码语料中各语料汉字的五笔编码进行拆分,得到的相邻字符序列。如“令”对应的五笔编码“wyc”,按照上述方式所生成的候选字符序列可以包括“wy”、“yc”、和“wyc”。
其中,候选字符序列在五笔编码语料中的出现频次,表征了候选字符序列在五笔编码语料中的复现情况,因此,可以通过该出现频次,衡量候选字符序列的通用性;相应的,选取出现频次较高,也即通用性较好的候选字符序列,添加至预设编码库,以对预设编码库进行增量处理;或者,选取出现频次较低,也即通用性较差的候选字符序列,从预设编码库中剔除,以对预设编码库进行减量处理。
S204、根据预设编码库,确定训练汉字的编码结果。
S205、将编码结果作为训练汉字的训练标签。
S206、根据训练汉字的书写轨迹和训练汉字的训练标签,生成训练样本。
本公开实施例通过基于对五笔编码语料中各五笔编码的拆分结果构建预设编码库;根据由至少两个单个编码字符组成的候选字符序列,在五笔编码语料中的出现频次,更新预设编码库,从而使得预设编码库中所携带的编码字符更具备通用性,从而提高了针对不同训练汉字的训练样本生成过程的普适性。
在一个可选实施例中,前述拆分结果可以包括单个编码字符和相邻字符序列;相应的,根据拆分结果,构建预设编码库,可以是:生成包括各单个编码字符的预设编码库,从而通过对预设编码库进行增量处理的方式,丰富预设编码库中的编码字符。
示例性的,根据候选字符序列在五笔编码语料中的出现频次,更新预设编码库,可以是:将相邻字符序列作为候选字符序列;将在五笔编码语料中的出现频次满足预设频次条件的候选字符序列,添加至预设编码库中,以更新预设编码库。
其中,预设编码条件可以由技术人员根据实际情况调整确定。
在一个可选实现方式中,可以确定不同候选字符序列在五笔编码语料中的出现频次;选取出现频次大于预设频次阈值的候选字符序列,和/或,选取出现频次较高的设定数量阈值的候选字符序列,添加至预设编码库中,以更新预设编码库。其中,预设频次阈值和/或设定数量阈值的具体数值,可以由技术人员根据需要或经验值进行确定,或通过大量试验调整确定。
在一个可选实施方式中,为了减少五笔编码语料中的数据量,同时减少基于预设编码库进行训练汉字编码时的编码长度,还可以采用预设编码库中未使用过的新的单个编码字符替代满足预设频次条件的候选字符序列,并将该新的单个编码字符添加至预设编码库中,以更新预设编码库。
可选的,当更新后的预设编码库中编码字符的数量达到预设数量阈值,则停止向预设编码库中添加候选字符序列,从而停止对预设编码库的更新操作。其中,预设数量阈值可以由技术人员根据需要或经验值进行确定。
或者可选的,当满足预设频次条件的候选字符序列的出现频次为1,则停止向预设编码库中添加候选字符序列,从而停止对预设编码库的更新操作。
本公开实施例通过生成包括各单个编码字符的预设编码库,同时引入在五笔编码语料中出现频次满足预设频次条件的相邻字符序列作为单个编码字符的补充,添加至预设编码库中,丰富了预设编码库中的编码信息,为后续基于预设编码库进行训练汉字的编码结果的确定,提供了便利。
在上述各技术方案的基础上,本公开还提供了一个可选实施例。在该可选实施例中,对预设编码库的构建过程进行了详细说明。在本公开实施例未详述部分,可参见其他实施例的相关表述。
参见图3所示的一种训练样本生成方法,包括:
S301、将五笔编码语料中各语料汉字的五笔编码拆分,得到单个编码字符。
S302、将至少两个单个编码字符组合,得到候选字符序列,并生成包括单个编码字符和候选字符序列的预设编码库。
其中,预设编码库基于单个编码字符和至少两个单个编码字符组合得到的候选字符序列生成,提高了预设编码库中的编码信息的丰富性和多样性。
由于至少两个单个编码字符组合得到的候选字符序列中,存在大量通用性较差甚至不会出现的字形组合,因此,采用上述方式生成的预设编码库中携带有大量无效信息,影响后续基于预设编码库进行训练汉字的编码结果确定时的确定效率。后续将采用对预设编码库中的候选编码字符进行减量处理的方式,提高预设编码库的有效性和通用性。
S303、根据候选字符序列在五笔编码语料中的出现频次,确定从预设编码库中移除候选字符序列产生的似然概率损失。
其中,似然概率损失用于表征所移除候选字符序列在预设编码库中的重要程度,从而直接反映出所移除候选字符序列直接作为编码字符的通用性。
示例性的,可以确定未从预设编码库中移除候选字符序列所产生的第一似然概率;确定从预设编码库中移除候选字符序列后产生的第二似然概率;根据第一似然概率与第二似然概率的差值,确定似然概率损失。也即,根据候选字符序列在五笔编码语料中的出现频次,确定预设编码库的第一似然概率;确定移除候选字符序列后的预设编码库的第二似然概率;将第一似然概率和第二似然概率的差值,作为候选字符序列产生的似然概率损失。
其中,第一似然概率和/或第二似然概率的确定,可以基于现有技术的至少一种加以确定。例如可以基于EM(Expectation-Maximum,算法也称期望最大化)算法进行第一似然概率和/或第二似然概率的确定。
可以理解的是,将预设编码库中移除其中一个候选字符序列前后的似然概率的差值,作为似然概率损失,用于表征被移除的候选字符序列在后续编码过程的重要性和通用性。上述技术方案完善了似然概率损失的确定机制,为预设编码库的更新提供了数据支撑。
可选的,可以根据候选字符序列在五笔编码语料中的出现频次,确定候选字符序列的参考概率;将预设编码库中不同候选字符序列的参考概率的最高和值,作为第一似然概率。其中,候选字符序列的参考概率用于表征候选字符序列在后续编码过程中独立出现的可能性。
示例性的,可以根据候选字符序列在五笔编码语料中的出现频次、候选字符序列拆分所得的各单个编码字符分别在五笔编码语料中的出现频次,确定该候选字符序列的参考概率。
以“明”的五笔编码为“je”为例,对参考概率的确定过程进行详细说明。其中,“明”对应的候选字符序列为“je”,候选字符序列拆分所得的单个编码字符为“j”和“e”。那么,相应的,候选编码序列“je”的参考概率为:P’(je)=P(j)×P(e)+P(je)。其中P(*)表示“*”在五笔编码语料中的出现频次所确定的概率;P’(*)表示“*”的参考概率。
示例性的,基于不同候选字符序列的参考概率构建似然函数,并将似然函数的函数值最大时对应的函数结果作为第一似然概率。为了便于计算,可以基于不同候选字符序列的参考概率的和值,构建似然函数。
上述技术方案通过引入参考概率以及参考概率的最大和值,进行第一似然概率的确定,完善了第一似然概率的确定机制,上述方式计算简便快捷,有助于提高似然概率损失的确定效率,进而有助于提高预设编码库的更新效率。
需要说明的是,第二似然概率的确定过程与第一似然概率的确定过程相一致。示例性的,可以将剔除其中一个候选字符序列后,根据预设编码库中其他候选字符序列在五笔编码语料中的出现频次,确定该其他候选字符序列的参考概率;将预设编码库中各其他候选字符序列的参考概率的最高和值,作为第二似然概率。其中,其他候选字符序列的参考概率用于表征其他候选字符序列在后续编码过程中独立出现的可能性。
示例性的,可以根据其他候选字符序列在五笔编码语料中的出现频次、其他候选字符序列拆分所得的各单个编码字符分别在五笔编码语料中的出现频次,确定该候选字符序列的参考概率;基于不同其他候选字符序列的参考概率构建似然函数,并将似然函数的函数值最大时对应的函数结果作为第二似然概率。为了便于计算,可以基于不同候选字符序列的参考概率的和值,构建似然函数。
S304、根据似然概率损失,更新预设编码库。
示例性的,从预设编码库中剔除似然概率损失满足预设损失条件的候选字符序列,以更新预设编码库。其中,预设损失条件可以由技术人员根据需要或经验值进行确定,或通过大量试验加以调整。
可选的,可以从预设编码库中剔除似然概率损失小于预设损失阈值的候选字符序列,和/或,从预设编码库中剔除似然概率损失较低的预设数量阈值的候选字符序列,从而达到对预设编码库中的编码字符进行减量处理的目的。其中,预设损失阈值和/或预设数量阈值可以由技术人员根据需要或经验值进行确定,或通过大量试验加以调整。
可以理解的是,基于该似然概率损失进行预设编码库中通用性较差或重要性较低的候选字符序列的剔除,能够显著减少预设编码库的存储空间占用量,同时避免了无效编码字符(通用性较差或重要性较低的候选字符序列)在编码过程中带来的运算量的增加和计算效率的降低,有助于提高后续训练样本的生成效率、降低运算量。
示例性的,当更新后的预设编码库中编码字符的数量达到预设数量阈值,则可以停止进行预设编码库的更新。其中,预设数量阈值可以由技术人员根据需要或经验值进行确定。
S305、根据预设编码库,确定训练汉字的编码结果。
S306、将编码结果作为训练汉字的训练标签。
S307、根据训练汉字的书写轨迹和训练汉字的训练标签,生成训练样本。
本公开实施例通过生成保留单个编码字符,以及由至少两个单个编码字符组合得到的候选编码字符,从而实现了全量预设编码库的构建。同时引入似然概率损失,对全量预设编码库进行精减,丰富了预设编码库的更新方式,同时避免了预设编码库中无关编码信息的存在,提高了预设编码库的合理性,有助于减少后续基于预设编码库进行训练汉字的编码结果的确定带来的运算量和运算时长,为编码结果的确定提供了便利。
在上述各技术方案的基础上,本公开还提供了实现轨迹识别模型训练方法的可选实施例。本公开所提供的各轨迹识别模型训练方法,适用于根据前述实施例所提供的训练样本,进行用于书写轨迹识别的轨迹识别模型的训练的场景。本公开所提供的各轨迹识别模型训练方法,可以由轨迹识别模型训练装置执行,该装置可以采用软件和/或硬件实现,并具体可配置于电子设备中。需要说明的是,在本公开未详述部分,可参见其他实施例的相关表述。
值得注意的是,执行轨迹识别模型训练方法的电子设备与前述执行训练样本生成方法的电子设备,可以相同或不同,本公开对此不作任何限定。
参见图4所示的一种轨迹识别模型训练方法,包括:
S401、获取训练样本。
其中,训练样本基于本公开实施例所提供的任意一种训练样本生成方法得到。
其中,训练样本可以预先存储在执行轨迹识别模型训练方法的电子设备本地、或者存储在与该电子设备关联的其他存储设备或云端中,并在需要时进行训练样本的获取,本公开对训练样本的具体获取位置不作任何限定。
其中,训练样本的数量可以为至少一个,为了保证训练所得的模型性能,通常训练样本的数量可以为多个。其具体数量可以由技术人员根据实际需要或经验值进行确定,或根据训练的实际情况加以调整,本公开对比不作任何限定。
S402、根据训练样本中训练汉字的书写轨迹和训练汉字的训练标签,对预先构建的神经网络模型进行训练,得到轨迹识别模型。
示例性的,将训练汉字的手写估计和训练汉字的训练标签输入至预先构建的神经网络模型中,以优化神经网络模型中的网络参数,并将满足训练截止条件时得到的神经网络模型,作为轨迹识别模型,以供后续进行书写轨迹对应编码结果的识别。其中,训练介质条件可以是训练样本数量达到预设数量阈值、训练后的模型精度达到预设精度阈值、和训练后的模型趋于平稳等中的至少一种。其中,预设数量阈值、预设精度阈值可以由技术人员根据实际需要或经验值进行设定或调整。
其中,预先构建的神经网络模型可以基于现有技术中的至少一个机器学习模型或深度学习模型组合得到,本公开对该预先构建的神经网络模型的具体网络结构不作任何限定。
需要说明的是,由于不同用户的书写习惯不同,例如部分用户习惯单字书写,部分用户习惯多字叠写或多字连写,因此,可以按照书写习惯对训练汉字加以划分,并采用不同书写习惯对应的训练汉字分别训练对应的神经网络模型,得到适配相应书写习惯的轨迹识别模型。可以理解的是,为了便于对不同训练汉字的编码结果进行区分,还可以在各单个汉字对应的编码结果之前添加标签起始符。举例说明,若一组训练汉字为“明天”,则相应的训练标签为“_je_gd”,其中“_”即为标签起始符。相应的,在后续使用轨迹识别模型进行编码结果预测时,也会通过编码预测结果中是否存在该标签起始符,来确定所预测结果是否对应一个汉字。值得注意的是,在添加标签起始符后,相同编码字符对应添加前后对应的结果可被认定为不同的编码单元。例如“明”对应训练标签为“_je”,“胆”对应训练标签为“_ej”,两者中的“_j”与“j”为不同的编码单元,“_e”和“e”也是不同的编码单元。
本公开引入携带有笔画信息和字形信息的训练标签,以及携带有内容信息和位置信息的书写轨迹,对预先构建的神经网络模型进行训练,使得训练得到的轨迹识别模型具备基于汉字的书写轨迹进行相应编码结果的预测能力。由于在模型训练时的训练标签具备笔画信息和字形信息,从而在模型训练过程中能够充分考虑不同训练汉字之间的隐含关系(如字形、语义和语法等),无需引入语义模型进行隐含关系的挖掘,减少了模型参数量和运算量,同时避免了无法枚举所有汉字而出现的OOV(Out Of Vocabulary,超出词表外的词)问题。
在上述各技术方案的基础上,本公开实施例还提供了一个可选实施例。在该实施例中,对轨迹识别模型的生成过程进行详细说明。需要说明的是,在本公开未详述部分,可参见其他实施例的相关表述。
参见图5A所示的一种轨迹识别模型训练方法,包括:
S501、获取训练样本;其中训练样本中包括至少一组训练汉字。
其中,各组训练汉字中的汉字数量相同或不同。
S502、根据训练汉字的汉字数量,确定训练汉字的训练书写模式。
其中,训练书写模式用于表征生成训练汉字的书写轨迹时所使用的书写模式。其中,书写模式可以包括单字写模式,也即单次仅能生成一个汉字的书写轨迹,也就是说该组训练汉字仅包括一个汉字;书写模式可以包括多字写模式,也即单次可以生成至少一个汉字的书写轨迹,也就是说该组训练汉字可以包括至少一个汉字。其中,多字写模式下可以采用连写或叠写的方式,进行掷筛一个汉字的书写轨迹的生成,本公开对多字写模式下的具体书写方式不作任何限定。
示例性的,可以根据训练汉字的汉字数量,确定训练汉字所对应的训练书写模式为单字写模式或多字写模式。
在一个具体实现方式中,若汉字数量大于1,则确定训练汉字的训练书写模式为多字写模式;若汉字数量为1,则随机确定训练汉字的训练书写模式为多字写模式或单字写模式。这样做的好处在于,可以进行训练书写模式的自动化确定,减少了时间成本投入和人力成本投入。
S503、根据训练汉字的书写轨迹、训练汉字的训练标签和训练汉字的训练书写模式,对预先构建的神经网络模型进行训练,得到轨迹识别模型。
需要说明的是,为了区分不同组训练汉字的书写轨迹,可以在相同组训练汉字的起始位置添加预设起始符,以及在终止位置添加预设停止符。
可以理解的是,引入训练书写模式进行模型训练,使得在模型训练过程中,学习不同模式下的书写轨迹与训练标签之间的对应关系,从而使得训练得到的轨迹识别模型能够区分不同书写模式下的书写轨迹,具备不同书写模式的区分能力,提高了所训练模型对不同书写模式的适配度。
示例性的,可以根据训练汉字的训练书写模式,更新训练汉字的训练标签;根据训练汉字的书写轨迹和更新后的训练标签,对预先构建的神经网络模型进行训练,得到轨迹识别模型。
在一个可选实施例中,可以根据训练汉字的训练书写模式和训练汉字的训练标签,确定训练汉字的标签编码特征;根据训练汉字的标签编码特征和训练汉字的书写轨迹对应的内容编码特征,对预先构建的神经网络模型进行训练。
其中,标签编码特征用于表征训练汉字对应的理论输出结果所携带的特征数据;内容编码特征用于表征训练汉字的书写轨迹所携带的特征数据。
需要说明的是,本公开对标签编码特征和内容编码特征的具体确定方式不作任何限定,可以采用现有技术中的至少一种编码模块加以实现,例如可以采用预设数量的卷积层进行特征提取,并将特征提取结果作为相应的编码特征。
本公开通过引入内容编码特征和标签编码特征进行模型训练,建立内容编码特征与标签编码特征之间的映射关系,使得训练得到的轨迹识别模型能够基于该映射关系,对不同书写模式下未知的汉字书写轨迹进行相应标签的识别。这样做的好处在于,可以复用现有的编码模块分别进行标签编码特征和内容编码特征的提取,后续直接根据标签编码特征和内容编码特征进行神经网络模型的训练,减少了所训练的模型参数的数量,从而提升了模型训练效率。
在一个具体实现方式中,根据训练汉字的训练书写模式和训练汉字的训练标签,确定训练汉字的标签编码特征,可以是:对训练汉字的训练标签进行编码,得到训练汉字的初始编码特征;对训练汉字的训练书写模式进行编码,得到训练汉字的模式编码特征;将训练汉字的初始编码特征与训练汉字的模式编码特征进行特征融合,得到训练汉字的标签编码特征。
由于初始编码特征基于训练标签编码得到,使得标签编码特征中携带有笔画信息和字形信息等;模式编码特征基于训练书写模式编码得到,使得模式编码特征中携带有书写模式信息;通过将训练汉字的初始编码特征与训练汉字的模式编码特征进行融合,得到标签编码特征,使得提高了标签编码特征的内容丰富性和多样性,有助于提高模型训练效率和所训练模型的模型精度。
以下将结合图5B所示的神经网络模型的结构图,对模型训练过程进行详细说明。
示例性的,神经网络模型包括输入层、编码层、解码层和输出层。
在一个可选实施例中,输入层包括输入嵌入模块、输入融合模块、输出嵌入模块、模式嵌入模块和输出融合模块。
示例性的,输入嵌入模块,用于对训练汉字的书写轨迹进行编码处理,得到轨迹编码结果;输入融合模块,用于将轨迹编码结果与书写轨迹的内容位置编码进行融合,得到内容编码特征。其中,内容位置编码可以采用正余弦位置编码对书写轨迹进行编码得到。
示例性的,输出嵌入模块,用于对训练汉字的训练标签进行编码处理,得到初始编码特征;模式嵌入模块,用于对训练汉字的训练书写模式进行编码处理的,得到模式编码特征;输出融合模块,用于将初始编码特征、标签位置编码和标签位置编码进行融合,得到标签编码特征。其中,标签位置编码可以采用正余弦位置编码对训练标签进行编码得到。
在一个可选实施例中,编码层可以包括多头注意力模块、前馈模块和归一化模块。
示例性的,多头注意力模块,用于对内容编码特征进行全局上下文融合,得到全局内容编码特征,从而提高了编码特征所携带信息的丰富性和多样性。
示例性的,前馈模块,用于对输入的全局内容编码特征进行非线性处理,得到目标内容编码特征,以增加非线性特征。
示例性的,归一化模块,用于对所输入数据进行残差归一化处理,以更新输入数据,从而加速模型收敛提高模型整体稳定性,防止模型退化。其中,输入数据可以是多头注意力模块输出的全局内容编码特征,或者前馈模块输出的目标内容编码特征。
在一个可选实施例中,解码层可以包括隐藏多头注意力模块、多头注意力模块、前馈模块和归一化模块。
示例性的,隐层多头注意力模块,用于对标签编码特征进行全局上下文融合,从而丰富标签编码特征部分所携带的信息,得到目标标签编码特征。该模块在多头注意力模块的基础上增加了掩码(mask),从而在处理过程中对部分数据进行掩盖,使其参数更新时不产生效果。需要说明的是,隐层多头注意力模块每一个时间步都融合了之前时间步的字符信息,有效建模了语法关系,从而进一步丰富了目标标签编码特征中的信息携带量。
示例性的,多头注意力模块,用于提取编码层输出的目标内容编码特征中与基于目标标签编码特征相关的预测编码特征。
示例性的,前馈模块用于对输入数据进行非线性处理,得到目标预测编码特征,以增加非线性特征。
示例性的,归一化模块,用于对所输入数据进行残差归一化处理,以更新输入数据,从而加速模型收敛提高模型整体稳定性,防止模型退化。其中,输入数据可以是隐藏多头注意力模块输出的目标标签编码特征、多头注意力模块输出的预测编码特征、或前馈模块输出的目标预测编码特征。
在一个可选实施例中,输出层可以包括全连接模块和激活模块。
示例性的,全连接模块,用于对目标预测编码特征进行一次线性变换,从而将手写轨迹中的样本特征应设置训练标签和训练书写模式对应的样本标记空间。
示例性的,激活模块,用于对全连接模块的输出结果进行激活处理,从而将输出结果的数值映射到0-1之间,得到概率输出,并通过预设编码库,输出概率最大时对应的编码结果作为预测输出。
可以理解的是,由于上述模型结构在编码时能够进行并行计算,不存在任何的时序循环;在解码时有效建立了字符间的语法关系,无需额外接入语言模型,有效减少了资源消耗与延时。同时,训练标签基于五笔编码语料的编码结果生成,能够反映不同汉字的字形之间的区别与联系,同时减少了训练标签的编码长度,大大降低了模型参数量和运算量,降低了对训练设备和后续轨迹识别设备的算力要求,且有效避免了OOV问题。进一步的,在训练阶段引入训练书写模式,有效的建立了不同书写模式的差异,模型能够自适应地根据不同的模式设置输出不同的结果,去除了人工经验值,准确率更高,普适性更好。
需要说明的是,上述模型结构仅作为对预设的神经网络模型进行示例性说明,不应理解为对神经网络模型具体网络结构的限定。
在上述各技术方案的基础上,本公开还提供了实现轨迹识别方法的可选实施例。本公开所提供的各轨迹识别方法,适用于根据前述实施例所提供的轨迹识别模型,进行轨迹识别的场景。本公开所提供的各轨迹识别方法,可以由轨迹识别装置执行,该装置可以采用软件和/或硬件实现,并具体配置于电子设备中。需要说明的是,在本公开未详述部分,可参见其他实施例的相关表述。
值得注意的是,执行轨迹识别模型训练方法的电子设备、执行训练样本生成方法的电子设备、以及执行轨迹识别方法的电子设备,三者可以至少部分不同或相同,本公开对此不作任何限定。
参见图6所示的一种轨迹识别方法,包括:
S601、获取待识别轨迹。
其中,由于仅有汉字存在五笔编码,因此,本公开中的待识别轨迹为书写汉字所产生的书写轨迹。
可选的,待识别轨迹可以预先存储在电子设备本地或其他存储设备中,并在需要进行轨迹识别时进行待识别轨迹的获取;或者可选的,还可以在用户终端中进行汉字输入时,实时采集所输入的汉字书写轨迹作为待识别轨迹;或者可选的,通过提取图片等载体中携带的书写轨迹作为待识别轨迹。其中,待识别轨迹可以通过书写单个汉字生成,或者可以通过连写或叠写的方式书写至少一个汉字生成,本公开对待识别轨迹的生成方式不作任何限定。
S602、根据轨迹识别模型,确定待识别轨迹的编码预测结果。
其中,轨迹识别模型基于本公开实施例所提供的任意一种轨迹识别模型训练方法得到。
可以将待识别轨迹输入至轨迹识别模型,得到待识别轨迹的编码预测结果。
在一个可选实施例中,若针对不同书写模式对应训练有不同的轨迹识别模型,则可以根据待识别轨迹生成时的书写模式,选取相应的轨迹识别模型,并将待识别轨迹输入至相应的轨迹识别模型中,得到待识别轨迹的编码预测结果。
在另一可选实施例中,若轨迹识别模型使用不同的训练书写模式下的训练样本训练得到,则还可以获取待识别轨迹的预测书写模式;相应的,根据轨迹识别模型,确定待识别轨迹的编码预测结果,可以是:基于轨迹识别模型,根据待识别轨迹和预测书写模式,确定待识别轨迹的编码预测结果。
其中,预测书写模式可以理解为生成待识别轨迹时所采用的书写模型,可以是单字写模式或多字写模式。
可以理解的是,通过使用不同训练书写模式下混合训练得到的轨迹识别模型进行编码预测,并在编码预测过程中引入待识别轨迹的预测书写模式,从而无需进行不同书写模式下的轨迹识别模型的选取,减少了模型训练数量和模型存储成本,提高了用户使用体验。
示例性的,若预测书写模式为单字写模式,则将待识别轨迹输入至轨迹识别模型,输出编码预测结果。
示例性的,若预测书写模式为多字写模式,则将预设起始符和已识别编码预测结果作为预测标签;将预测标签和待识别轨迹输入轨迹识别模型,得到本次识别的编码预测结果;其中,首次识别对应的已识别编码预测结果为空。
由于在多字写模式下,需要根据在先书写汉字对应轨迹之间的字形和语义等信息,进行在后书写汉字的编码结果预测,因此,需要按照书写顺序依次进行不同书写汉字对应编码预测结果的确定,并将在先编码预测结果作为在后编码预测结果确定时的确定依据,从而提高了多字写模式下的编码预测结果的准确度,同时为后续汉字识别结果的逐字确定,提供了便利。
示例性的,若预测书写模式为多字写模式,则还可以在本次识别的编码预测结果为预设停止符时,停止确定待识别轨迹的编码预测结果,结束对待识别轨迹中对应整组汉字对应编码结果的预测。可以理解的是,上述技术方案通过引入预设停止符确定停止编码结果预测的触发时机,避免了运算资源的浪费。
S603、根据预设编码库,确定编码预测结果对应的汉字识别结果。
从预设编码库中,查找编码预测结果对应的笔画字形,从而得到编码预测结果对应的汉字识别结果。
若编码预测结果包括至少两个汉字的编码预测结果,则可以按照预测顺序,依次确定各编码预测结果对应的汉字识别结果。
其中,预测编码库的生成方式可参见前述实施例的相关表述。
需要说明的是,若轨迹识别模型训练阶段所使用的训练标签中若添加有标签起始符,则在确定编码预测结果时,同样会在预测的单个汉字首个编码单元前添加标签起始符。相应的,在进行汉字识别结果确定时,通过标签起始符,来进行汉字独立划分,提高汉字识别结果准确度。
本公开实施例通过基于前述实施例所提供的轨迹识别模型,确定待识别轨迹的编码预测结果,提高了编码预测结果的确定效率和确定结果准确度。相应的,根据预设编码库确定编码预测结果对应的汉字识别结果,有助于提高汉字识别结果的识别效率和识别结果准确度,同时提高了生僻字的识别结果准确度。
作为上述各训练样本生成方法的实现,本公开还提供了一种实施训练样本生成方法的执行装置的可选实施例。进一步参见图7所示的一种训练样本生成装置700,包括:编码结果确定模块701、训练标签确定模块702和训练样本生成模块703。其中,
编码结果确定模块701,用于根据预设编码库,确定训练汉字的编码结果;其中,所述预设编码库基于五笔编码语料中的编码字符生成;
训练标签确定模块702,用于将所述编码结果作为所述训练汉字的训练标签;
训练样本生成模块703,用于根据所述训练汉字的书写轨迹和所述训练汉字的训练标签,生成训练样本。
由于训练汉字的书写轨迹携带有内容信息和位置信息等,训练标签中携带有笔画信息和字形信息等,因此,根据训练汉字的书写轨迹和训练汉字的训练标签生成训练样本,提高了训练样本中所携带信息的丰富性。相应的,基于训练样本进行后续轨迹识别模型训练时,有助于提高轨迹识别模型的模型精度,进而有助于提高轨迹识别模型使用时的轨迹识别结果的准确度。
在一个可选实施例中,该装置,还包括:
五笔编码拆分模块,用于将所述五笔编码语料中各语料汉字的五笔编码拆分;
预设编码库构建模块,用于根据拆分结果,构建预设编码库;
预设编码库更新模块,用于根据候选字符序列在所述五笔编码语料中的出现频次,更新所述预设编码库;
其中,所述候选字符序列由至少两个单个编码字符组成。
在一个可选实施例中,所述拆分结果包括单个编码字符和相邻字符序列;
其中,所述预设编码库构建模块,包括:
第一预设编码库生成单元,用于生成包括各所述单个编码字符的预设编码库;
其中,所述预设编码库更新模块,包括:
第一候选字符序列确定单元,用于将相邻字符序列作为所述候选字符序列;
第一预设编码库更新单元,用于将在所述五笔编码语料中的出现频次满足预设频次条件的候选字符序列,添加至所述预设编码库中,以更新所述预设编码库。
在一个可选实施例中,所述拆分结果包括单个编码字符;
其中,所述预设编码库构建模块,包括:
第二候选字符序列生成单元,用于将所述至少两个单个编码字符组合,得到所述候选字符序列;
第二预设编码库生成单元,用于生成包括所述单个编码字符和所述候选字符序列的预设编码库;
其中,所述预设编码库更新模块,包括:
似然概率损失确定单元,用于根据所述候选字符序列在所述五笔编码语料中的出现频次,确定从所述预设编码库中移除所述候选字符序列产生的似然概率损失;
第二预设编码库更新单元,用于根据所述似然概率损失,更新所述预设编码库。
在一个可选实施例中,所述似然概率损失确定单元,包括:
第一似然概率确定子单元,用于根据所述候选字符序列在所述五笔编码语料中的出现频次,确定所述预设编码库的第一似然概率;
第二似然概率确定子单元,用于确定移除所述候选字符序列后的预设编码库的第二似然概率;
似然概率损失确定子单元,用于将所述第一似然概率和所述第二似然概率的差值,作为所述候选字符序列产生的似然概率损失。
在一个可选实施例中,所述第一似然概率确定子单元,包括:
参考概率确定从单元,用于根据所述候选字符序列在所述五笔编码语料中的出现频次,确定所述候选字符序列的参考概率;
第一似然概率确定从单元,用于将所述预设编码库中不同候选字符序列的参考概率的最大和值,作为所述第一似然概率。
在一个可选实施例中,所述第二预设编码库更新单元,包括:
第二预设编码库更新子单元,用于从所述预设编码库中剔除似然概率损失满足预设损失条件的候选字符序列,以更新所述预设编码库。
上述训练样本生成装置可执行本公开任意实施例所提供的训练样本生成方法,具备执行各训练样本生成方法相应的功能模块和有益效果。
作为上述各轨迹识别模型训练方法的实现,本公开还提供了一种实施轨迹识别模型训练方法的执行装置的可选实施例。进一步参见图8所示的一种轨迹识别模型训练装置800,包括:训练样本获取模块801和轨迹识别模型训练模块802。其中,
训练样本获取模块801,用于获取训练样本;其中,所述训练样本基于本公开实施例提供的任意一种训练样本生成装置得到;
轨迹识别模型训练模块802,用于根据所述训练样本中训练汉字的书写轨迹和所述训练汉字的训练标签,对预先构建的神经网络模型进行训练,得到轨迹识别模型。
本公开引入携带有笔画信息和字形信息的训练标签,以及携带有内容信息和位置信息的书写轨迹,对预先构建的神经网络模型进行训练,使得训练得到的轨迹识别模型具备基于汉字的书写轨迹进行相应编码结果的预测能力。由于在模型训练时的训练标签具备笔画信息和字形信息,从而在模型训练过程中能够充分考虑不同训练汉字之间的隐含关系(如字形、语义和语法等),无需引入语义模型进行隐含关系的挖掘,减少了模型参数量和运算量,同时避免了无法枚举所有汉字而出现的OOV(Out Of Vocabulary,超出词表外的词)问题。
在一个可选实施例中,所述轨迹识别模型训练模块802,包括:
训练书写模式确定单元,用于根据所述训练汉字的汉字数量,确定所述训练汉字的训练书写模式;
轨迹识别模型训练单元,用于根据所述训练汉字的书写轨迹、所述训练汉字的训练标签和所述训练汉字的训练书写模式,对预先构建的神经网络模型进行训练。
在一个可选实施例中,所述轨迹识别模型训练单元,包括:
标签编码特征确定子单元,用于根据所述训练汉字的训练书写模式和所述训练汉字的训练标签,确定所述训练汉字的标签编码特征;
轨迹识别模型训练子单元,用于根据所述训练汉字的所述标签编码特征和所述训练汉字的书写轨迹对应的内容编码特征,对预先构建的神经网络模型进行训练。
在一个可选实施例中,所述标签编码特征确定子单元,包括:
初始编码特征得到从单元,用于对所述训练汉字的训练标签进行编码,得到所述训练汉字的初始编码特征;
模式编码特征得到从单元,用于对所述训练汉字的所述训练书写模式进行编码,得到所述训练汉字的模式编码特征;
标签编码特征确定从单元,用于将所述训练汉字的所述初始编码特征与所述训练汉字的所述模式编码特征进行特征融合,得到所述训练汉字的所述标签编码特征。
在一个可选实施例中,所述训练书写模式确定单元,包括:
第一训练书写模式确定子单元,用于若所述汉字数量大于1,则确定所述训练汉字的训练书写模式为多字写模式;
第二训练书写模式确定子单元,用于若所述汉字数量为1,则随机确定所述训练汉字的训练书写模式为多字写模式或单字写模式。
上述轨迹识别模型训练装置可执行本公开任意实施例所提供的轨迹识别模型训练方法,具备执行各轨迹识别模型训练方法相应的功能模块和有益效果。
作为上述各轨迹识别方法的实现,本公开还提供了一种实施轨迹识别方法的执行装置的可选实施例。进一步参见图9所示的一种轨迹识别装置900,包括:待识别轨迹获取模块901、编码预测结果确定模块902和汉字识别结果确定模块903。其中,
待识别轨迹获取模块901,用于获取待识别轨迹;
编码预测结果确定模块902,用于根据轨迹识别模型,确定所述待识别轨迹的编码预测结果;其中,所述轨迹识别模型基于权利要求24-28任一项所述的轨迹识别模型训练装置得到;
汉字识别结果确定模块903,用于根据所述预设编码库,确定所述编码预测结果对应的汉字识别结果。
本公开实施例通过基于前述实施例所提供的轨迹识别模型,确定待识别轨迹的编码预测结果,提高了编码预测结果的确定效率和确定结果准确度。相应的,根据预设编码库确定编码预测结果对应的汉字识别结果,有助于提高汉字识别结果的识别效率和识别结果准确度,同时提高了生僻字的识别结果准确度。
在一个可选实施例中,该装置,还包括:
预测书写模式获取模块,用于获取所述待识别轨迹的预测书写模式;
其中,所述编码预测结果确定模块,包括:
编码预测结果确定单元,用于基于所述轨迹识别模型,根据所述待识别轨迹和所述预测书写模式,确定所述待识别轨迹的编码预测结果。
在一个可选实施例中,所述编码预测结果确定单元,包括:
预测标签确定子单元,用于若所述预测书写模式为多字写模式,则将预设起始符和已识别编码预测结果作为预测标签;
编码预测结果确定子单元,用于将所述预测标签和所述待识别轨迹输入所述轨迹识别模型,得到本次识别的编码预测结果;
其中,首次识别所对应的已识别编码预测结果为空。
在一个可选实施例中,所述编码预测结果确定单元,还包括:
停止确定子单元,用于若本次识别的编码预测结果为预设停止符,则停止确定所述待识别轨迹的编码预测结果。
上述轨迹识别装置可执行本公开任意实施例所提供的轨迹识别方法,具备执行各轨迹识别方法相应的功能模块和有益效果。
本公开的技术方案中,所涉及的训练汉字的书写轨迹、待识别轨迹的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图10示出了可以用来实施本公开的实施例的示例电子设备1000的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图10所示,设备1000包括计算单元1001,其可以根据存储在只读存储器(ROM)1002中的计算机程序或者从存储单元1008加载到随机访问存储器(RAM)1003中的计算机程序,来执行各种适当的动作和处理。在RAM 1003中,还可存储设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
设备1000中的多个部件连接至I/O接口1005,包括:输入单元1006,例如键盘、鼠标等;输出单元1007,例如各种类型的显示器、扬声器等;存储单元1008,例如磁盘、光盘等;以及通信单元1009,例如网卡、调制解调器、无线通信收发机等。通信单元1009允许设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理,例如训练样本生成方法、轨迹识别模型训练方法和轨迹识别方法中的至少一种。例如,在一些实施例中,训练样本生成方法、轨迹识别模型训练方法、和轨迹识别方法中的至少一种,可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1008。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1002和/或通信单元1009而被载入和/或安装到设备1000上。当计算机程序加载到RAM 1003并由计算单元1001执行时,可以执行上文描述的方法(训练样本生成方法、轨迹识别模型训练方法或、和轨迹识别方法中的至少一种)的一个或多个步骤。备选地,在其他实施例中,计算单元1001可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行训练样本生成方法、轨迹识别模型训练方法、和轨迹识别方法中的至少一种。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术及机器学习/深度学习技术、大数据处理技术、知识图谱技术等几大方向。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开提供的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (23)
1.一种训练样本生成方法,包括:
根据预设编码库,确定训练汉字的编码结果;其中,所述预设编码库基于五笔编码语料中的编码字符生成;
将所述编码结果作为所述训练汉字的训练标签;
根据所述训练汉字的书写轨迹和所述训练汉字的训练标签,生成训练样本。
2.根据权利要求1所述的方法,其中,所述方法还包括:
将所述五笔编码语料中各语料汉字的五笔编码拆分;
根据拆分结果,构建预设编码库;
根据候选字符序列在所述五笔编码语料中的出现频次,更新所述预设编码库;
其中,所述候选字符序列由至少两个单个编码字符组成。
3.根据权利要求2所述的方法,其中,所述拆分结果包括单个编码字符和相邻字符序列;
其中,所述根据拆分结果,构建预设编码库,包括:
生成包括各所述单个编码字符的预设编码库;
其中,所述根据候选字符序列在所述五笔编码语料中的出现频次,更新所述预设编码库,包括:
将相邻字符序列作为所述候选字符序列;
将在所述五笔编码语料中的出现频次满足预设频次条件的候选字符序列,添加至所述预设编码库中,以更新所述预设编码库。
4.根据权利要求2所述的方法,其中,所述拆分结果包括单个编码字符;
其中,所述根据拆分结果,构建预设编码库,包括:
将所述至少两个单个编码字符组合,得到所述候选字符序列,并生成包括所述单个编码字符和所述候选字符序列的预设编码库;
其中,所述根据候选字符序列在所述五笔编码语料中的出现频次,更新所述预设编码库,包括:
根据所述候选字符序列在所述五笔编码语料中的出现频次,确定从所述预设编码库中移除所述候选字符序列产生的似然概率损失;
根据所述似然概率损失,更新所述预设编码库。
5.根据权利要求4所述的方法,其中,所述根据所述候选字符序列在所述五笔编码语料中的出现频次,确定从所述预设编码库中移除所述候选字符序列产生的似然概率损失,包括:
根据所述候选字符序列在所述五笔编码语料中的出现频次,确定所述预设编码库的第一似然概率;
确定移除所述候选字符序列后的预设编码库的第二似然概率;
将所述第一似然概率和所述第二似然概率的差值,作为所述候选字符序列产生的似然概率损失。
6.根据权利要求5所述的方法,其中,所述根据所述候选字符序列在所述五笔编码语料中的出现频次,确定所述预设编码库的第一似然概率,包括:
根据所述候选字符序列在所述五笔编码语料中的出现频次,确定所述候选字符序列的参考概率;
将所述预设编码库中不同候选字符序列的参考概率的最大和值,作为所述第一似然概率。
7.根据权利要求4所述的方法,其中,所述根据所述似然概率损失,更新所述预设编码库,包括:
从所述预设编码库中剔除似然概率损失满足预设损失条件的候选字符序列,以更新所述预设编码库。
8.一种轨迹识别模型训练方法,包括:
获取训练样本;其中,所述训练样本基于权利要求1-7任一项所述的训练样本生成方法得到;
根据所述训练样本中训练汉字的书写轨迹和所述训练汉字的训练标签,对预先构建的神经网络模型进行训练,得到轨迹识别模型。
9.根据权利要求8所述的方法,其中,所述根据所述训练样本中训练汉字的书写轨迹和所述训练汉字的训练标签,对预先构建的神经网络模型进行训练,包括:
根据所述训练汉字的汉字数量,确定所述训练汉字的训练书写模式;
根据所述训练汉字的书写轨迹、所述训练汉字的训练标签和所述训练汉字的训练书写模式,对预先构建的神经网络模型进行训练。
10.根据权利要求9所述的方法,其中,所述根据所述训练汉字的书写轨迹、所述训练汉字的训练标签和所述训练汉字的训练书写模式,对预先构建的神经网络模型进行训练,包括:
根据所述训练汉字的训练书写模式和所述训练汉字的训练标签,确定所述训练汉字的标签编码特征;
根据所述训练汉字的所述标签编码特征和所述训练汉字的书写轨迹对应的内容编码特征,对预先构建的神经网络模型进行训练。
11.根据权利要求10所述的方法,其中,所述根据所述训练汉字的训练书写模式和所述训练汉字的训练标签,确定所述训练汉字的标签编码特征,包括:
对所述训练汉字的训练标签进行编码,得到所述训练汉字的初始编码特征;
对所述训练汉字的所述训练书写模式进行编码,得到所述训练汉字的模式编码特征;
将所述训练汉字的所述初始编码特征与所述训练汉字的所述模式编码特征进行特征融合,得到所述训练汉字的所述标签编码特征。
12.根据权利要求9所述的方法,其中,所述根据所述训练汉字的汉字数量,确定所述训练汉字的训练书写模式,包括:
若所述汉字数量大于1,则确定所述训练汉字的训练书写模式为多字写模式;
若所述汉字数量为1,则随机确定所述训练汉字的训练书写模式为多字写模式或单字写模式。
13.一种轨迹识别方法,包括:
获取待识别轨迹;
根据轨迹识别模型,确定所述待识别轨迹的编码预测结果;其中,所述轨迹识别模型基于权利要求8-12任一项所述的轨迹识别模型训练方法得到;
根据所述预设编码库,确定所述编码预测结果对应的汉字识别结果。
14.根据权利要求13所述的方法,还包括:
获取所述待识别轨迹的预测书写模式;
其中,所述根据轨迹识别模型,确定所述待识别轨迹的编码预测结果,包括:
基于所述轨迹识别模型,根据所述待识别轨迹和所述预测书写模式,确定所述待识别轨迹的编码预测结果。
15.根据权利要求14所述的方法,其中,所述基于所述轨迹识别模型,根据所述待识别轨迹和所述预测书写模式,确定所述待识别轨迹的编码预测结果,包括:
若所述预测书写模式为多字写模式,则将预设起始符和已识别编码预测结果作为预测标签;
将所述预测标签和所述待识别轨迹输入所述轨迹识别模型,得到本次识别的编码预测结果;
其中,首次识别所对应的已识别编码预测结果为空。
16.根据权利要求15所述的方法,其中,若本次识别的编码预测结果为预设停止符,则停止确定所述待识别轨迹的编码预测结果。
17.一种训练样本生成装置,包括:
编码结果确定模块,用于根据预设编码库,确定训练汉字的编码结果;其中,所述预设编码库基于五笔编码语料中的编码字符生成;
训练标签确定模块,用于将所述编码结果作为所述训练汉字的训练标签;
训练样本生成模块,用于根据所述训练汉字的书写轨迹和所述训练汉字的训练标签,生成训练样本。
18.根据权利要求17所述的装置,其中,所述装置还包括:
五笔编码拆分模块,用于将所述五笔编码语料中各语料汉字的五笔编码拆分;
预设编码库构建模块,用于根据拆分结果,构建预设编码库;
预设编码库更新模块,用于根据候选字符序列在所述五笔编码语料中的出现频次,更新所述预设编码库;
其中,所述候选字符序列由至少两个单个编码字符组成。
19.一种轨迹识别模型训练装置,包括:
训练样本获取模块,用于获取训练样本;其中,所述训练样本基于权利要求17或18所述的训练样本生成装置得到;
轨迹识别模型训练模块,用于根据所述训练样本中训练汉字的书写轨迹和所述训练汉字的训练标签,对预先构建的神经网络模型进行训练,得到轨迹识别模型。
20.一种轨迹识别装置,包括:
待识别轨迹获取模块,用于获取待识别轨迹;
编码预测结果确定模块,用于根据轨迹识别模型,确定所述待识别轨迹的编码预测结果;其中,所述轨迹识别模型基于权利要求19所述的轨迹识别模型训练装置得到;
汉字识别结果确定模块,用于根据所述预设编码库,确定所述编码预测结果对应的汉字识别结果。
21.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中所述的训练样本生成方法、权利要求8-12中所述的轨迹识别模型训练方法和权利要求13-16中所述的轨迹识别方法中的任一项。
22.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使计算机执行根据权利要求1-7中所述的训练样本生成方法、权利要求8-12中所述的轨迹识别模型训练方法和权利要求13-16中所述的轨迹识别方法中的任一项。
23.一种计算机程序产品,包括计算机程序/指令,所述计算机程序/指令被处理器执行时实现权利要求1-7中所述的训练样本生成方法、权利要求8-12中所述的轨迹识别模型训练方法和权利要求13-16中所述的轨迹识别方法中的任一项的步骤。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111566778.5A CN114399772B (zh) | 2021-12-20 | 2021-12-20 | 样本生成、模型训练和轨迹识别方法、装置、设备和介质 |
US17/952,556 US20230195998A1 (en) | 2021-12-20 | 2022-09-26 | Sample generation method, model training method, trajectory recognition method, device, and medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111566778.5A CN114399772B (zh) | 2021-12-20 | 2021-12-20 | 样本生成、模型训练和轨迹识别方法、装置、设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114399772A true CN114399772A (zh) | 2022-04-26 |
CN114399772B CN114399772B (zh) | 2024-02-27 |
Family
ID=81227261
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111566778.5A Active CN114399772B (zh) | 2021-12-20 | 2021-12-20 | 样本生成、模型训练和轨迹识别方法、装置、设备和介质 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20230195998A1 (zh) |
CN (1) | CN114399772B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115497107A (zh) * | 2022-09-30 | 2022-12-20 | 江西师范大学 | 一种基于笔画和部首分解的零样本汉字识别方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117254819B (zh) * | 2023-11-20 | 2024-02-27 | 深圳市瑞健医信科技有限公司 | 一种医疗废物智能监管系统 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180082105A1 (en) * | 2016-09-22 | 2018-03-22 | Gracious Eloise, Inc. | Digitized handwriting sample ingestion systems and methods |
CN110032920A (zh) * | 2018-11-27 | 2019-07-19 | 阿里巴巴集团控股有限公司 | 文字识别匹配方法、设备和装置 |
WO2019232853A1 (zh) * | 2018-06-04 | 2019-12-12 | 平安科技(深圳)有限公司 | 中文模型训练、中文图像识别方法、装置、设备及介质 |
CN110795935A (zh) * | 2020-01-06 | 2020-02-14 | 广东博智林机器人有限公司 | 文字词向量模型的训练方法、装置、终端及存储介质 |
CN110795986A (zh) * | 2019-07-26 | 2020-02-14 | 广东小天才科技有限公司 | 一种手写输入的识别方法和系统 |
CN111126160A (zh) * | 2019-11-28 | 2020-05-08 | 天津瑟威兰斯科技有限公司 | 基于五笔输入法构建的智能汉字结构评价方法及系统 |
CN111931710A (zh) * | 2020-09-17 | 2020-11-13 | 开立生物医疗科技(武汉)有限公司 | 一种联机手写文字识别方法、装置、电子设备及存储介质 |
CN112036290A (zh) * | 2020-08-27 | 2020-12-04 | 哈尔滨工业大学(深圳) | 一种基于类标编码表示的复杂场景文字识别方法及系统 |
CN112699780A (zh) * | 2020-12-29 | 2021-04-23 | 上海臣星软件技术有限公司 | 对象识别方法、装置、设备及存储介质 |
CN113064497A (zh) * | 2021-03-23 | 2021-07-02 | 上海臣星软件技术有限公司 | 语句识别的方法、装置、设备及计算机存储介质 |
CN113792854A (zh) * | 2021-09-09 | 2021-12-14 | 北京百度网讯科技有限公司 | 一种模型训练及字库建立方法、装置、设备及存储介质 |
-
2021
- 2021-12-20 CN CN202111566778.5A patent/CN114399772B/zh active Active
-
2022
- 2022-09-26 US US17/952,556 patent/US20230195998A1/en active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180082105A1 (en) * | 2016-09-22 | 2018-03-22 | Gracious Eloise, Inc. | Digitized handwriting sample ingestion systems and methods |
WO2019232853A1 (zh) * | 2018-06-04 | 2019-12-12 | 平安科技(深圳)有限公司 | 中文模型训练、中文图像识别方法、装置、设备及介质 |
CN110032920A (zh) * | 2018-11-27 | 2019-07-19 | 阿里巴巴集团控股有限公司 | 文字识别匹配方法、设备和装置 |
CN110795986A (zh) * | 2019-07-26 | 2020-02-14 | 广东小天才科技有限公司 | 一种手写输入的识别方法和系统 |
CN111126160A (zh) * | 2019-11-28 | 2020-05-08 | 天津瑟威兰斯科技有限公司 | 基于五笔输入法构建的智能汉字结构评价方法及系统 |
CN110795935A (zh) * | 2020-01-06 | 2020-02-14 | 广东博智林机器人有限公司 | 文字词向量模型的训练方法、装置、终端及存储介质 |
CN112036290A (zh) * | 2020-08-27 | 2020-12-04 | 哈尔滨工业大学(深圳) | 一种基于类标编码表示的复杂场景文字识别方法及系统 |
CN111931710A (zh) * | 2020-09-17 | 2020-11-13 | 开立生物医疗科技(武汉)有限公司 | 一种联机手写文字识别方法、装置、电子设备及存储介质 |
CN112699780A (zh) * | 2020-12-29 | 2021-04-23 | 上海臣星软件技术有限公司 | 对象识别方法、装置、设备及存储介质 |
CN113064497A (zh) * | 2021-03-23 | 2021-07-02 | 上海臣星软件技术有限公司 | 语句识别的方法、装置、设备及计算机存储介质 |
CN113792854A (zh) * | 2021-09-09 | 2021-12-14 | 北京百度网讯科技有限公司 | 一种模型训练及字库建立方法、装置、设备及存储介质 |
Non-Patent Citations (7)
Title |
---|
MUHAMMAD SADIQ AMIN 等: "Recognition of Pashto Handwritten Characters Based on Deep Learning", 《SENSORS》, vol. 20, no. 20, pages 1 - 23 * |
SABEGHI SAROUI, B 等: "Trajectory Recovery and Stroke Reconstruction of Handwritten Mathematical Symbols", 《2015 13TH IAPR INTERNATIONAL CONFERENCE ON DOCUMENT ANALYSIS AND RECOGNITION》, pages 1051 - 1055 * |
XIANGPING WU 等: "LCSegNet: An Efficient Semantic Segmentation Network for Large-Scale Complex Chinese Character Recognition", 《IEEE TRANSACTIONS ON MULTIMEDIA》, vol. 23, pages 3427 - 3440, XP011879664, DOI: 10.1109/TMM.2020.3025696 * |
廖逸群: "多模型融合在手写数字识别中的应用研究", 《中国优秀硕士学位论文全文数据库 信息科技辑(月刊)》, no. 03, pages 138 - 7007 * |
祁俊辉;龙华;邵玉斌;杜庆治;: "基于特征向量和笔顺编码的字形相似算法研究", 重庆邮电大学学报(自然科学版), vol. 31, no. 06, pages 147 - 153 * |
薛瑞恒: "基于计算机视觉的手写字符输入及识别", 《中国优秀硕士学位论文全文数据库 信息科技辑(月刊)》, no. 1, pages 138 - 1884 * |
黄襄念 等: "自然手写汉字五笔码识别法", 《重庆大学学报(自然科学版)》, vol. 23, no. 3, pages 87 - 90 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115497107A (zh) * | 2022-09-30 | 2022-12-20 | 江西师范大学 | 一种基于笔画和部首分解的零样本汉字识别方法 |
CN115497107B (zh) * | 2022-09-30 | 2023-04-18 | 江西师范大学 | 一种基于笔画和部首分解的零样本汉字识别方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114399772B (zh) | 2024-02-27 |
US20230195998A1 (en) | 2023-06-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110717339B (zh) | 语义表示模型的处理方法、装置、电子设备及存储介质 | |
CN111241245B (zh) | 人机交互处理方法、装置及电子设备 | |
CN112507735A (zh) | 机器翻译模型的训练方法、装置和电子设备 | |
US20230195998A1 (en) | Sample generation method, model training method, trajectory recognition method, device, and medium | |
CN111339759A (zh) | 领域要素识别模型训练方法、装置及电子设备 | |
CN113553412B (zh) | 问答处理方法、装置、电子设备和存储介质 | |
CN113836925B (zh) | 预训练语言模型的训练方法、装置、电子设备及存储介质 | |
CN111339268A (zh) | 实体词识别方法和装置 | |
CN113722493A (zh) | 文本分类的数据处理方法、设备、存储介质及程序产品 | |
CN113641830B (zh) | 模型预训练方法、装置、电子设备和存储介质 | |
CN115688920A (zh) | 知识抽取方法、模型的训练方法、装置、设备和介质 | |
CN112541070A (zh) | 槽位更新语料的挖掘方法、装置、电子设备和存储介质 | |
CN114416943A (zh) | 对话模型的训练方法、装置、电子设备及存储介质 | |
CN116737908A (zh) | 知识问答方法、装置、设备和存储介质 | |
CN111858905A (zh) | 模型训练方法、信息识别方法、装置、电子设备及存储介质 | |
CN114416976A (zh) | 文本标注方法、装置及电子设备 | |
CN112560499A (zh) | 语义表示模型的预训练方法、装置、电子设备及存储介质 | |
CN112434536A (zh) | 文档理解方法、设备和存储介质 | |
CN113408273B (zh) | 文本实体识别模型的训练与文本实体识别方法、装置 | |
CN114417878A (zh) | 语义识别方法、装置、电子设备及存储介质 | |
CN112559715B (zh) | 态度的识别方法、装置、设备及存储介质 | |
CN112232089B (zh) | 语义表示模型的预训练方法、设备和存储介质 | |
CN112270169B (zh) | 对白角色预测方法、装置、电子设备及存储介质 | |
CN111522928A (zh) | 一种知识抽取方法、装置、设备和介质 | |
CN115909376A (zh) | 文本识别方法、文本识别模型训练方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |