CN114332873A - 一种识别模型的训练方法及装置 - Google Patents
一种识别模型的训练方法及装置 Download PDFInfo
- Publication number
- CN114332873A CN114332873A CN202111579413.6A CN202111579413A CN114332873A CN 114332873 A CN114332873 A CN 114332873A CN 202111579413 A CN202111579413 A CN 202111579413A CN 114332873 A CN114332873 A CN 114332873A
- Authority
- CN
- China
- Prior art keywords
- training sample
- target
- recognition model
- training
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
本说明书公开了一种识别模型的训练方法及装置,通过从各文字识别的场景中,确定目标场景和其他场景,并将所述目标场景对应的各图像,作为各第一训练样本,针对每个其他场景,确定该其他场景对应的训练完成的识别模型,作为候选识别模型,针对每个第一训练样本,将该第一训练样本作为输入,输入至少一个候选识别模型,确定该第一训练样本的标注,将各第一训练样本输入待训练的目标识别模型中,得到目标识别模型输出的各目标识别结果,并基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。不需要人工对样本进行标注,减少了训练样本的生成时间与成本,提高了目标识别模型的训练效率。
Description
技术领域
本说明书涉及计算机技术领域,尤其涉及一种识别模型的训练方法及装置。
背景技术
文字作为人类用符号记录表达信息以传之久远的方式和工具,被广泛应用在人们生活中。而文字识别由于能将图片中的文字识别为文字文本,可提高信息输入效率的特点,被应用于各个领域中。
在现有技术中,一种常用的文字识别方法是基于识别模型实现的。具体的,文字识别的场景有多个,如,路牌识别场景、试卷识别场景等,而由于不同场景的文字的特点存在较大差异,因此,每个场景需确定其对应的识别模型。则部署识别模型的服务器可先接收文字识别请求,并根据该文字识别请求确定需要识别文字的图像以及对应的场景。然后,确定该场景对应的识别模型,并将该图像输入到该识别模型中,得到该识别模型输出的该图像对应的识别结果。最后,该服务器可根据该文字识别请求将识别结果返回。
但是,现有技术中的识别模型,通常是基于人工标注的样本训练得到的,人工标注时间周期长、成本高的特点,使得识别模型的训练效果较差。
发明内容
本说明书提供一种识别模型的训练方法及装置,以部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案:
本说明书提供了一种识别模型的训练方法,包括:
从各文字识别的场景中,确定目标场景和其他场景,并根据所述目标场景对应的各图像,确定各第一训练样本;
针对每个其他场景,确定该其他场景对应的训练完成的识别模型,作为候选识别模型;
针对每个第一训练样本,将该第一训练样本作为输入,输入至少一个候选识别模型,得到所述至少一个候选识别模型输出的该第一训练样本的候选识别结果,确定该第一训练样本的标注;
将各第一训练样本输入所述目标场景对应的待训练的目标识别模型中,得到所述目标识别模型输出的各目标识别结果,并基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。
可选地,所述候选识别结果包括所述第一训练样本包含的各字符属于各预设字符的概率;
确定该第一训练样本的标注,具体包括:
针对每个候选识别结果,确定该候选识别结果的权重;
根据各候选识别结果及其权重,确定所述第一训练样本的标注。
可选地,所述候选识别结果包括所述第一训练样本包含的各字符属于各预设字符的概率;
在对所述目标识别模型进行训练前,所述方法还包括:
针对每个第一训练样本,根据该第一训练样本的标注和预设的概率阈值,确定标注不低于所述概率阈值的第一训练样本,作为用于训练所述目标识别模型的目标训练样本;
基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练,具体包括:
基于各目标训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。
可选地,基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练,具体包括:
针对每个其他场景,根据该其他场景中的图像,确定各第二训练样本及其标注;
将各第二训练样本输入所述目标识别模型,确定各第二训练样本的目标识别结果;
根据各第一训练样本的标注和目标识别结果,以及各第二训练样本的标注和目标识别结果,确定损失,并根据所述损失调整所述目标识别模型的模型参数。
可选地,根据各第一训练样本的标注和目标识别结果,以及各第二训练样本的标注和目标识别结果,确定损失,具体包括:
根据所述第一训练样本的标注和目标识别结果,确定第一损失;
根据所述第二训练样本的标注和目标识别结果,确定第二损失;
分别确定第一损失和第二损失对应的权重;
根据所述第一损失及其权重,以及第二损失及其权重,确定总损失。
可选地,所述方法还包括:
获取目标场景对应的有标注的图像,作为各第三训练样本;
将各第三训练样本作为输入,输入所述目标识别模型和所述至少一个候选识别模型中,确定所述目标识别模型和所述至少一个候选识别模型分别输出的各第三训练样本的目标识别结果和候选识别结果;
根据各第三训练样本的目标识别结果及其标注,确定所述目标识别模型对应的准确率,以及根据各三训练样本的各候选识别结果及其标注,确定所述至少一个候选识别模型分别对应的准确率;
根据所述准确率,对所述目标识别模型和所述各候选识别模型进行排序;
根据所述排序,重新确定用于确定第一训练样本的标注的各候选识别模型。
可选地,所述方法还包括:
根据所述目标场景对应的有标注的图像,确定各第三训练样本及其标注;
将各第三训练样本作为输入,输入所述目标识别模型中,确定所述目标识别模型输出的所述各第三训练样本的目标识别结果;
根据各第三训练样本的标注以及目标识别结果,确定所述目标识别模型的准确率;
当所述准确率高于预设的准确率阈值时,确定目标识别模型训练完成。
本说明书提供一种识别模型的训练装置,包括:
样本确定模块,用于从各文字识别的场景中,确定目标场景和其他场景,并将所述目标场景对应的各图像,作为各第一训练样本;
第一确定模块,用于针对每个其他场景,确定该其他场景对应的训练完成的识别模型,作为候选识别模型;
标注确定模块,用于针对每个第一训练样本,将该第一训练样本作为输入,输入至少一个候选识别模型,得到所述至少一个候选识别模型输出的该第一训练样本的候选识别结果,确定该第一训练样本的标注;
训练模块,用于将各第一训练样本输入所述目标场景对应的待训练的目标识别模型中,得到所述目标识别模型输出的各目标识别结果,并基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。
本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述识别模型的训练方法。
本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述识别模型的训练方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果:
在本说明书提供的识别模型的训练方法中,通过从各文字识别的场景中,确定目标场景和其他场景,并将所述目标场景对应的各图像,作为各第一训练样本,针对每个其他场景,确定该其他场景对应的训练完成的识别模型,作为候选识别模型,针对每个第一训练样本,将该第一训练样本作为输入,输入至少一个候选识别模型,确定该第一训练样本的标注,将各第一训练样本输入待训练的目标识别模型中,得到目标识别模型输出的各目标识别结果,并基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。
从上述方法中可以看出,本方法不需要人工对样本进行标注,减少了训练样本的生成时间与成本,提高了目标识别模型的训练效率。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:
图1为本说明书中提供的识别模型的训练方法的流程示意图;
图2为本说明书提供的确定损失的结构图;
图3为本说明书提供的识别模型的训练装置;
图4为本说明书提供的对应于图1的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本说明书保护的范围。
一般的,文字识别的场景有多个,如,快递单识别场景、银行卡识别场景、菜单识别场景、路牌识别场景、试卷识别场景等。而不同的场景对应的文字的字体、格式、背景等多种因素各不相同,因此,针对每个场景,该场景需训练得到其对应的识别模型,才可对该场景中各包含文字的图像进行识别。
而针对每个场景,训练该场景对应的识别模型,通常需要大量人工标注的训练样本。
为了解决现有技术中需要大量人工标注的训练样本的方法,一般存在以下两种解决方式:
第一种、根据目标场景的图像中文字的特点合成图像数据,以基于合成的图像和标注对模型进行训练。缺点是合成数据与真实数据差距较大,使得训练出的识别模型的识别效果较差。其中,目标场景为需要训练识别模型的场景。
第二种、半监督训练,对无标注的图像进行模糊处理,确定模糊图像,将无标注的图像输入模型,得到识别结果,作为模糊图像的标注,根据模糊图像的标注以及有标注的图像,对模型进行训练。
缺点是原图像进行处理难度较高,模糊图像识别难度更高,导致效果较差。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
图1为本说明书中提供的识别模型的训练方法的流程示意图,具体包括以下步骤:
S100:从各文字识别的场景中,确定目标场景和其他场景,并根据所述目标场景对应的各图像,确定各第一训练样本。
一般的,在文字识别领域,可通过识别模型对包含文字的图像进行识别,确定图像中的文字,以根据确定出的文字,执行其他步骤。
通常,识别模型是由用于训练模型的服务器,基于训练样本预先训练得到的。而本说明书提供了一种识别模型的训练方法,同样的,可由用于训练模型的服务器执行该训练识别模型的过程。
训练模型可以分为样本生成阶段以及训练模型阶段,在样本生成阶段可根据模型需要以及训练需要,确定用于训练模型的样本。在本说明书中,该服务器首先可确定用于训练识别模型的训练样本,并且由于通常识别模型是基于目标场景中的图像对图像中包含的内容进行识别的,因此,该服务器可首先确定目标场景中包含文字的图像,以确定训练样本。
基于此,可首先从各文字识别的场景中,确定目标场景和其他场景。
具体的,该服务器可首先接收训练请求,该训练请求中包含需确定识别模型的目标场景,则文字识别的场景中除目标场景外的场景都为其他场景。其中,该目标场景和其他场景,都为文字识别的场景中的场景。该目标场景为需要对该场景对应的识别模型进行训练的场景,其他场景为文字识别的各场景中,已经训练得到较为准确的识别模型的各场景。
于是,在确定出目标场景后,该服务器可将目标场景对应的各图像,作为各第一训练样本。其中,该目标场景对应的各图像,为目标场景中无标注的图像。
S102:针对每个其他场景,确定该其他场景对应的训练完成的识别模型,作为候选识别模型。
区别于对现有技术中对包含文字的图像进行模糊处理,并将原图像的识别结果作为模糊图像的标注,再基于模糊图像的识别结果和标注对识别模型进行训练,识别难度过高导致识别效果较差,本方案提出一种新的识别模型的训练方法,可基于文字识别的场景中,其他场景中的识别模型,训练得到目标场景中的识别模型。
基于此,该服务器可针对每个其他场景,确定该其他场景对应的训练完成的识别模型。
具体的,针对每个其他场景,该服务器可确定该其他场景对应的有标注的图像。
然后,该服务器可根据确定出的该其他场景中有标注的图像,确定第二训练样本及其标注。
最后,该服务器可根据确定出的第二训练样本,对该其他场景中的识别模型进行训练。
当然,该其他场景的识别模型可以其他服务器预先根据该其他场景中的有标注的图像训练得到,并将模型参数等进行存储的,则该服务器在确定候选识别模型时,可基于该其他场景的标识,从预存的各其他场景的模型结构和模型参数中,确定该其他场景对应的识别模型的模型结构和模型参数。
另外,由于模型训练是一个阶段,因此,针对,每个其他场景,该服务器还可获取该其他场景不同阶段的对应的训练完成的识别模型。
具体的,在该场景的识别模型的训练过程中,当该识别模型训练完成后,该训练模型的服务器还可继续对该识别模型进行训练,但后续任一时刻的识别模型都可认为是收敛的,也就是说,该识别模型对该其他场景中的图像的准确率较高。则该服务器可在该识别模型训练完成后,选择任意时刻的识别模型作为候选识别模型。
S104:针对每个第一训练样本,将该第一训练样本作为输入,输入至少一个候选识别模型,得到所述至少一个候选识别模型输出的该第一训练样本的候选识别结果,确定该第一训练样本的标注。
在本说明书提供的一个或多个实施例中,文字识别的每个场景中,其对应的识别模型不仅可学习到该场景中文字的特点,还可学习到文字本身的特点,因此,针对该目标场景中的每个第一训练样本,通过其他场景对应的候选识别模型,其结果都携带有目标场景中各第一训练样本中文字本身特征的结果。因此,可基于其他场景的候选识别模型,确定第一训练样本的标注,并基于各第一训练样本及其标注,对该目标场景对应的目标识别模型进行训练。
具体的,该服务器可针对每个第一训练样本,将该第一训练样本输入至少一个候选识别模型中,得到该至少一个候选识别模型输出的该第一训练样本的候选识别结果。
其中,该至少一个候选识别模型可为一个其他场景对应的多个候选识别模型,也可为多个其他场景分别对应的候选识别模型。
然后,针对每个第一训练样本,该服务器可将该第一训练样本的候选识别结果作为该第一训练样本的标注。
当然,由于该第一训练样本的候选识别结果可能存在多个,因此,该服务器可将该第一训练样本的候选结果相加,并将相加的结果作为该第一训练样本的标注。
进一步的,因为确定出的第一训练样本的候选识别结果为第一训练样本中的文字分别属于各预设分类的概率,而通常文字属于预设的某一分类,如,图像中包含的文字为“小时”,而不是图像中包含的文字为“小-80%,个-20%”和“时-60%,对-35%,尀-5%”等。于是,该服务器可根据第一训练样本对应的候选识别结果及其置信度,从该候选识别结果中,确定概率最高的状态,作为该第一训练样本的标注。如,第一训练样本中包含的第一个字符对应分类为时、对、尀的概率分别为60%、30%、5%,则可确定该第一训练样本的标注为时。当然,该标注也可为时-60%,则该服务器可基于该第一训练样本的目标识别结果及其标注对该目标场景的目标识别模型进行训练。
更进一步的,由于不同场景的图像的字体之间的相似度不同,如,快递单识别场景和菜单识别场景中的图像之间的相似度,高于快递单识别场景和路牌识别场景中的图像之间的相似度。则不同其他场景的图像与目标场景的图像之间的相似度不同,则不同其他场景的候选识别模型对目标场景中的第一训练样本的识别结果的准确率不同。因此,可预先对其他场景对应的候选识别结果预设权重。
则该服务器在确定第一训练样本的标注时,可针对每个候选识别结果,确定该候选识别结果的权重,并根据各候选识别结果及其权重进行加权求和,确定该第一训练样本的标注。
当然,该服务器还可将各候选识别结果及其权重相乘,并从各乘积中选择概率最高的状态,将该状态作为第一训练样本的标注。
在本说明书提供的一个或多个实施例中,由于与目标场景的图像中的文字特点相近的其他场景的识别模型的置信度较高,因此,该服务器可确定一个其他场景,并获取该其他场景对应的多个识别模型,作为各候选识别模型。
于是,该服务器可将训练样本作为输入,输入各候选识别模型中,确定各候选识别模型输出的第一训练样本的候选识别结果,并根据各候选识别结果,确定该第一训练样本的标注。
S106:将各第一训练样本输入所述目标场景对应的待训练的目标识别模型中,得到所述目标识别模型输出的目标识别结果。
在本说明书提供的一个或多个实施例中,模型训练,需要基于训练样本的标注和通过模型得到的训练样本的结果进行训练,因此,该服务器可将各第一训练样本输入目标场景的目标识别模型中,得到第一训练样本的目标识别结果。
具体的,该服务器可将各第一训练样本作为输入,输入该目标场景对应的待训练的目标识别模型中,得到该目标识别模型输出的各第一训练样本的目标识别结果,并基于各第一训练样本的标注和目标识别结果,确定第一损失,并根据第一损失对该目标识别模型的模型参数进行调整。以完成对该目标识别模型的训练。如图2所示。
图2为本说明书提供的确定损失的结构图,将第一训练样本输入候选识别模型1和候选识别模型2中,确定该第一训练样本的候选识别结果1和候选识别结果2,并根据候选识别结果1和候选识别结果2,确定第一训练样本的标注,进而将该第一训练样本输入目标识别模型中,确定该目标模型输出的目标识别结果,基于第一训练样本的目标识别结果和标注确定损失,并以损失最小为优化目标,对该识别模型进行训练。
另外,由于候选识别模型对第一训练样本的置信度可能不够,因此,该服务器还可基于各第一训练样本的标注的置信度,对各第一训练样本进行筛选。
具体的,针对每个第一训练样本,该服务器可确定该第一训练样本的标注以及该第一训练样本中包含的字符属于该标注的概率。以标注为“时-60%”为例,则该标注对应的第一训练样本中包含的字符为“时”的概率为60%。
然后,该服务器可根据预设的概率阈值和各第一训练样本中的字符属于其标注的概率,确定概率高于该概率阈值的第一训练样本为目标训练样本。
最后,该服务器可将各目标训练样本作为输入,输入该目标场景对应的目标识别模型,得到该目标识别模型输出的目标识别结果,并基于该目标训练样本的目标识别结果及其标注,对该目标识别模型进行训练。
基于图1的识别模型的训练方法,通过从各文字识别的场景中,确定目标场景和其他场景,并将所述目标场景对应的各图像,作为各第一训练样本,针对每个其他场景,确定该其他场景对应的训练完成的识别模型,作为候选识别模型,针对每个第一训练样本,将该第一训练样本作为输入,输入至少一个候选识别模型,确定该第一训练样本的标注,将各第一训练样本输入待训练的目标识别模型中,得到目标识别模型输出的各目标识别结果,并基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。本方案不需要人工进行标注,模型训练的效率较高。
另外,相较于根据目标场景的图像中文字的特点合成图像数据,并基于图像数据对模型进行训练的方法,本方案使用的是目标场景中的真实数据训练模型,因此,本说明书中训练得到的识别模型的效果更好。相较于对图像进行模糊处理,再基于模糊图像的识别结果和原图像的识别结果进行模型训练的方法,本说明书中的识别模型不需要对模糊图像进行识别,识别难度更低,效果更好。
进一步的,由于第一训练样本的标注可能不够准确,因此,在训练该目标识别模型时,还可采用其他场景中的有标注的图像对该模型进行训练。
具体的,该服务器可针对每个其他场景,根据该其他场景中的图像,确定各第二训练样本及其标注。
然后,该服务器可将各第二训练样本输入该目标场景对应的目标识别模型中,确定各第二训练样本的目标识别结果。
最后,该服务器可根据该第一训练样本的标注和目标识别结果,确定第一损失,并根据该第二训练样本的标注的目标识别结果,确定第二损失,再根据该第一损失和第二损失之和确定总损失,进而根据该总损失调整该目标识别模型的模型参数。
当然,由于第二训练样本是其他场景的图像确定的,为了减少其他场景对该场景的影响导致的目标识别模型的准确率较低,该服务器还可对该场景和其他场景预设权重。则该服务器可根据预设的第一损失及其权重,以及第二损失及其权重,确定总损失,进而根据该总损失调整该目标识别模型的模型参数。
进一步的,上述权重可根据训练次数进行变化。具体的,第一损失的权重与训练次数正相关,第二损失的权重与训练次数负相关。
另外,在训练过程中,由于其他场景对应的候选识别模型的识别结果的置信度可能不高,而基于该候选识别结果确定的标注训练得到的目标识别模型的置信度可能较低,因此,在训练过程中,该服务器还可对用于确定第一训练样本的标注的候选识别结果进行更换。
具体的,该服务器可根据该目标场景中有标注的图像,确定各第三训练样本及其标注。
其次,该服务器可将各第三训练样本作为输入,输入该目标识别模型和用于确定第一训练样本的标注的候选识别模型中,确定各第三训练样本的目标识别结果和各候选识别结果。
然后,该服务器可根据各第三训练样本的目标识别结果和标注,以及各第三训练样本的候选识别结果和标注,分别确定该目标识别模型的准确率,以及各候选识别模型的准确率。
最后,该服务器可对各准确率进行排序,确定该排序中准确率在指定排位前的模型,作为用于确定第一训练样本的标注的模型。以候选识别模型1的准确率为60%,候选识别模型2的准确率为70%,目标识别模型的准确率为75%为例,则该服务器可确定候选识别模型2和目标识别模型为用于确定第一训练样本的标注的模型,即,候选识别模型。
则重新确定出各候选识别模型后,该服务器可基于各候选识别模型,重新执行步骤S104,确定第一训练样本的标注。
进一步的,由于用于训练目标识别模型的第一训练样本的标注时由其他场景的候选识别模型确定的,因此,该服务器在训练该目标识别模型时,还可用第三训练样本判断该目标识别模型的准确率是否足够,即,是否完成训练。
具体的,该服务器可将各第三训练样本作为输入,输入该目标识别模型中,确定该目标识别模型输出的各第三训练样本的目标识别结果。
然后,该服务器可基于该第三训练样本的目标识别结果及其标注,确定该目标识别模型的准确率。
最后,该服务器可判断该准确率是否高于预设的准确率阈值。若是,则该服务器可确定该目标识别模型训练完成。
若否,该服务器可确定该目标识别模型训练未完成,仍需训练。
以上为本说明书的一个或多个实施例提供的识别模型的训练方法基于同样的思路,本说明书还提供了相应的识别模型的训练装置,如图3所示。
图3为本说明书提供的识别模型的训练装置,包括:
样本确定模块200,用于从各文字识别的场景中,确定目标场景和其他场景,并将所述目标场景对应的各图像,作为各第一训练样本。
第一确定模块202,用于针对每个其他场景,确定该其他场景对应的训练完成的识别模型,作为候选识别模型。
标注确定模块204,用于针对每个第一训练样本,将该第一训练样本作为输入,输入至少一个候选识别模型,得到所述至少一个候选识别模型输出的该第一训练样本的候选识别结果,确定该第一训练样本的标注。
训练模块206,用于将各第一训练样本输入所述目标场景对应的待训练的目标识别模型中,得到所述目标识别模型输出的各目标识别结果,并基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。
可选地,所述候选识别结果包括所述第一训练样本包含的各字符属于各预设字符的概率,所述标注确定模块204,用于针对每个候选识别结果,确定该候选识别结果的权重,根据各候选识别结果及其权重,确定所述第一训练样本的标注。
可选地,所述候选识别结果包括所述第一训练样本包含的各字符属于各预设字符的概率,所述标注确定模块204,用于针对每个第一训练样本,根据该第一训练样本的标注和预设的概率阈值,确定标注不低于所述概率阈值的第一训练样本,作为用于训练所述目标识别模型的目标训练样本,基于各目标训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。
可选地,所述标注确定模块204,用于针对每个其他场景,根据该其他场景中的图像,确定各第二训练样本及其标注,将各第二训练样本输入所述目标识别模型,确定各第二训练样本的目标识别结果,根据各第一训练样本的标注和目标识别结果,以及各第二训练样本的标注和目标识别结果,确定损失,并根据所述损失调整所述目标识别模型的模型参数。
可选地,所述标注确定模块204,用于根据所述第一训练样本的标注和目标识别结果,确定第一损失,根据所述第二训练样本的标注和目标识别结果,确定第二损失,分别确定第一损失和第二损失对应的权重,根据所述第一损失及其权重,以及第二损失及其权重,确定总损失。
可选地,所述标注确定模块204,用于获取目标场景对应的有标注的图像,作为各第三训练样本,将各第三训练样本作为输入,输入所述目标识别模型和所述至少一个候选识别模型中,确定所述目标识别模型和所述至少一个候选识别模型分别输出的各第三训练样本的目标识别结果和候选识别结果,根据各第三训练样本的目标识别结果及其标注,确定所述目标识别模型对应的准确率,以及根据各三训练样本的各候选识别结果及其标注,确定所述至少一个候选识别模型分别对应的准确率,根据所述准确率,对所述目标识别模型和所述各候选识别模型进行排序,根据所述排序,重新确定用于确定第一训练样本的标注的各候选识别模型。
可选地,所述标注确定模块204,用于根据所述目标场景对应的有标注的图像,确定各第三训练样本及其标注,将各第三训练样本作为输入,输入所述目标识别模型中,确定所述目标识别模型输出的所述各第三训练样本的目标识别结果,根据各第三训练样本的标注以及目标识别结果,确定所述目标识别模型的准确率,当所述准确率高于预设的准确率阈值时,确定目标识别模型训练完成。
本说明书还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1提供的识别模型的训练方法。
本说明书还提供了图4所示的电子设备的示意结构图。如图4所述,在硬件层面,该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1所述的识别模型的训练方法。当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (10)
1.一种识别模型的训练方法,其特征在于,包括:
从各文字识别的场景中,确定目标场景和其他场景,并根据所述目标场景对应的各图像,确定各第一训练样本;
针对每个其他场景,确定该其他场景对应的训练完成的识别模型,作为候选识别模型;
针对每个第一训练样本,将该第一训练样本作为输入,输入至少一个候选识别模型,得到所述至少一个候选识别模型输出的该第一训练样本的候选识别结果,确定该第一训练样本的标注;
将各第一训练样本输入所述目标场景对应的待训练的目标识别模型中,得到所述目标识别模型输出的各目标识别结果,并基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。
2.如权利要求1所述的方法,其特征在于,所述候选识别结果包括所述第一训练样本包含的各字符属于各预设字符的概率;
确定该第一训练样本的标注,具体包括:
针对每个候选识别结果,确定该候选识别结果的权重;
根据各候选识别结果及其权重,确定该第一训练样本的标注。
3.如权利要求1所述的方法,其特征在于,所述候选识别结果包括所述第一训练样本包含的各字符属于各预设字符的概率;
在对所述目标识别模型进行训练前,所述方法还包括:
针对每个第一训练样本,根据该第一训练样本的标注和预设的概率阈值,确定标注不低于所述概率阈值的第一训练样本,作为用于训练所述目标识别模型的目标训练样本;
基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练,具体包括:
基于各目标训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。
4.如权利要求1所述的方法,其特征在于,基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练,具体包括:
针对每个其他场景,根据该其他场景中的图像,确定各第二训练样本及其标注;
将各第二训练样本输入所述目标识别模型,确定各第二训练样本的目标识别结果;
根据各第一训练样本的标注和目标识别结果,以及各第二训练样本的标注和目标识别结果,确定损失,并根据所述损失调整所述目标识别模型的模型参数。
5.如权利要求4所述的方法,其特征在于,根据各第一训练样本的标注和目标识别结果,以及各第二训练样本的标注和目标识别结果,确定损失,具体包括:
根据所述第一训练样本的标注和目标识别结果,确定第一损失;
根据所述第二训练样本的标注和目标识别结果,确定第二损失;
分别确定第一损失和第二损失对应的权重;
根据所述第一损失及其权重,以及第二损失及其权重,确定总损失。
6.如权利要求1所述的方法,其特征在于,所述方法还包括:
获取目标场景对应的有标注的图像,作为各第三训练样本;
将各第三训练样本作为输入,输入所述目标识别模型和所述至少一个候选识别模型中,确定所述目标识别模型和所述至少一个候选识别模型分别输出的各第三训练样本的目标识别结果和候选识别结果;
根据各第三训练样本的目标识别结果及其标注,确定所述目标识别模型对应的准确率,以及根据各三训练样本的各候选识别结果及其标注,确定所述至少一个候选识别模型分别对应的准确率;
根据所述准确率,对所述目标识别模型和所述各候选识别模型进行排序;
根据所述排序,重新确定用于确定第一训练样本的标注的各候选识别模型。
7.如权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述目标场景对应的有标注的图像,确定各第三训练样本及其标注;
将各第三训练样本作为输入,输入所述目标识别模型中,确定所述目标识别模型输出的所述各第三训练样本的目标识别结果;
根据各第三训练样本的标注以及目标识别结果,确定所述目标识别模型的准确率;
当所述准确率高于预设的准确率阈值时,确定目标识别模型训练完成。
8.一种识别模型的训练装置,其特征在于,包括:
样本确定模块,用于从各文字识别的场景中,确定目标场景和其他场景,并将所述目标场景对应的各图像,作为各第一训练样本;
第一确定模块,用于针对每个其他场景,确定该其他场景对应的训练完成的识别模型,作为候选识别模型;
标注确定模块,用于针对每个第一训练样本,将该第一训练样本作为输入,输入至少一个候选识别模型,得到所述至少一个候选识别模型输出的该第一训练样本的候选识别结果,确定该第一训练样本的标注;
训练模块,用于将各第一训练样本输入所述目标场景对应的待训练的目标识别模型中,得到所述目标识别模型输出的各目标识别结果,并基于各第一训练样本的标注和目标识别结果,对目标场景对应的目标识别模型进行训练。
9.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~7任一项所述的方法。
10.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现上述权利要求1~7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111579413.6A CN114332873A (zh) | 2021-12-22 | 2021-12-22 | 一种识别模型的训练方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111579413.6A CN114332873A (zh) | 2021-12-22 | 2021-12-22 | 一种识别模型的训练方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114332873A true CN114332873A (zh) | 2022-04-12 |
Family
ID=81054232
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111579413.6A Pending CN114332873A (zh) | 2021-12-22 | 2021-12-22 | 一种识别模型的训练方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114332873A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114972893A (zh) * | 2022-07-12 | 2022-08-30 | 浙江大华技术股份有限公司 | 一种数据标注方法、装置、电子设备和存储介质 |
CN115618964A (zh) * | 2022-10-26 | 2023-01-17 | 支付宝(杭州)信息技术有限公司 | 一种模型训练的方法、装置、存储介质及电子设备 |
CN115828022A (zh) * | 2023-02-21 | 2023-03-21 | 中国电子科技集团公司第十五研究所 | 一种数据识别方法、联邦训练模型、装置和设备 |
-
2021
- 2021-12-22 CN CN202111579413.6A patent/CN114332873A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114972893A (zh) * | 2022-07-12 | 2022-08-30 | 浙江大华技术股份有限公司 | 一种数据标注方法、装置、电子设备和存储介质 |
CN115618964A (zh) * | 2022-10-26 | 2023-01-17 | 支付宝(杭州)信息技术有限公司 | 一种模型训练的方法、装置、存储介质及电子设备 |
CN115618964B (zh) * | 2022-10-26 | 2023-10-24 | 支付宝(杭州)信息技术有限公司 | 一种模型训练的方法、装置、存储介质及电子设备 |
CN115828022A (zh) * | 2023-02-21 | 2023-03-21 | 中国电子科技集团公司第十五研究所 | 一种数据识别方法、联邦训练模型、装置和设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114332873A (zh) | 一种识别模型的训练方法及装置 | |
CN113221555B (zh) | 一种基于多任务模型的关键词识别方法、装置及设备 | |
CN112308113A (zh) | 一种基于半监督的目标识别方法、设备及介质 | |
CN110191150B (zh) | 一种信息的处理系统、方法、装置及设备 | |
CN112966577B (zh) | 一种模型训练以及信息提供的方法及装置 | |
CN115146601A (zh) | 语言处理任务的执行方法、装置、可读存储介质以及设备 | |
CN113887206A (zh) | 一种模型训练及关键词提取方法及装置 | |
CN115130621B (zh) | 一种模型训练方法、装置、存储介质及电子设备 | |
CN112949642B (zh) | 一种文字生成方法、装置、存储介质及电子设备 | |
CN114926437A (zh) | 一种图像质量评价方法及装置 | |
CN113344078B (zh) | 一种模型训练的方法及装置 | |
CN115689676A (zh) | 一种行业识别的方法、装置、存储介质及电子设备 | |
CN114996570A (zh) | 一种信息推荐的方法及装置 | |
CN114116816A (zh) | 一种推荐方法及装置 | |
CN113344590A (zh) | 一种模型训练以及投诉率预估的方法及装置 | |
CN113344197A (zh) | 一种识别模型的训练方法、业务执行的方法以及装置 | |
CN111539962A (zh) | 一种目标图像分类方法、装置以及介质 | |
CN112287130A (zh) | 一种图形题目的搜索方法、装置以及设备 | |
CN111523539A (zh) | 一种文字检测方法及装置 | |
CN111539520A (zh) | 增强深度学习模型鲁棒性的方法及装置 | |
CN115017915B (zh) | 一种模型训练、任务执行的方法及装置 | |
CN113011424A (zh) | 一种训练样本的生成方法及生成装置 | |
CN111881967A (zh) | 一种图片分类模型训练方法、装置、介质及电子设备 | |
CN115017905A (zh) | 一种模型训练和信息推荐的方法及装置 | |
CN113673601A (zh) | 一种行为识别方法、装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |