CN117195871A - 一种模型训练的方法、装置、存储介质及电子设备 - Google Patents
一种模型训练的方法、装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN117195871A CN117195871A CN202311008555.6A CN202311008555A CN117195871A CN 117195871 A CN117195871 A CN 117195871A CN 202311008555 A CN202311008555 A CN 202311008555A CN 117195871 A CN117195871 A CN 117195871A
- Authority
- CN
- China
- Prior art keywords
- character
- representative
- language model
- characters
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012549 training Methods 0.000 title claims abstract description 77
- 238000000034 method Methods 0.000 title claims abstract description 54
- 238000002372 labelling Methods 0.000 claims abstract description 62
- 239000013598 vector Substances 0.000 claims description 61
- 238000004590 computer program Methods 0.000 claims description 15
- 238000010586 diagram Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 10
- 230000006872 improvement Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 238000010801 machine learning Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000011161 development Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 229920001296 polysiloxane Polymers 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000010979 ruby Substances 0.000 description 1
- 229910001750 ruby Inorganic materials 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Machine Translation (AREA)
Abstract
本说明书公开了一种模型训练的方法、装置、存储介质和电子设备,获取样本文本,并确定所述样本文本中的每个字符的标注实体类别,针对每个标注实体类别,获得该标注实体类别对应的代表字符集,所述代表字符集中包含至少两个代表字符,获取预训练的语言模型,将所述样本文本输入所述语言模型,确定所述语言模型针对每个字符识别出的代表字符,针对所述样本文本中的每个字符,判断所述语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集中,若否,则对所述语言模型进行微调训练。本方法通过语言模型识别文本中字符的实体类别,并利用多个代表字符代表一个实体类别,提高语言模型输出文本中字符的实体类别的准确性。
Description
技术领域
本说明书涉及机器学习,尤其涉及一种模型训练的方法、装置、存储介质及电子设备。
背景技术
随着机器学习技术的发展,人们可以通过机器学习训练出的模型执行各类任务。例如,在自然语言处理领域,可利用模型获取文本中的信息,其中,文本中可能包括用户的隐私。但如何利用模型提取文本中的字符的实体类别是个亟待解决的问题。
基于此,本说明书提供一种模型训练的方法。
发明内容
本说明书提供一种模型训练的方法、装置、存储介质及电子设备,以至少部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案:
本说明书提供一种模型训练的方法,包括:
获取样本文本,并确定所述样本文本中的每个字符的标注实体类别;
针对每个标注实体类别,获得该标注实体类别对应的代表字符集,所述代表字符集中包含至少两个代表字符;
获取预训练的语言模型;
将所述样本文本输入所述语言模型,确定所述语言模型针对每个字符识别出的代表字符;
针对所述样本文本中的每个字符,判断所述语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集中;
若否,则对所述语言模型进行微调训练。
可选地,获得该标注实体类别对应的代表字符集,具体包括:
针对每个字符,在所述样本文本中,确定该字符出现的次数;
判断该字符出现的次数是否小于预设次数;
若否,则将该字符作为该字符自身的实体类别的代表字符,并添加到该字符所属的标注实体类别对应的代表字符集中。
可选地,获得该标注实体类别对应的代表字符集,具体包括:
确定该标注实体类别对应的代表字符集中所有代表字符的字向量,得到字向量集;
根据所述字向量集,确定该实体类别的虚拟字向量;并添加至所述字向量集中。
可选地,确定所述语言模型针对每个字符识别出的代表字符,具体包括:
针对所述样本文本中的每个字符,确定所述语言模型识别出的该字符的置信度最高的代表字符,作为该字符的实体类别对应的代表字符。
可选地,确定所述语言模型针对每个字符识别出的代表字符,具体包括:
针对所述样本文本中的每个字符,在所述语言模型识别出的该字符的代表字符中,确定置信度大于预设置信度的代表字符;
在置信度大于预设置信度的代表字符中,根据置信度及属于同一实体类别的代表字符的数量,确定该字符的实体类别对应的代表字符。
可选地,判断所述语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集中,具体包括:
确定所述语言模型针对该字符识别出的代表字符的字向量;
判断所述语言模型针对该字符识别出的代表字符的字向量是否位于所述字向量集中。
可选地,所述方法还包括:
获取待识别文本;
将所述待识别文本输入微调训练后的语言模型,以根据所述微调训练后的语言模型,确定所述待识别文本中每个字符的代表字符。
可选地,所述方法还包括:
判断所述待识别文本中每两个相邻位置的字符的代表字符是否属于同一实体类别;
若是,则将所述两个相邻位置的字符的代表字符调整为所述同一实体类别对应的代表字符集中同一代表字符。
本说明书提供了一种模型训练的装置,所述装置包括:
标注实体类别确定模块,用于获取样本文本,并确定所述样本文本中的每个字符的标注实体类别;
代表字符集获取模块,用于针对每个标注实体类别,获得该标注实体类别对应的代表字符集,所述代表字符集中包含至少两个代表字符;
语言模型获取模块,用于获取预训练的语言模型;
代表字符确定模块,用于将所述样本文本输入所述语言模型,确定所述语言模型针对每个字符识别出的代表字符;
判断模块,用于针对所述样本文本中的每个字符,判断所述语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集中;
微调训练模块,用于若否,则对所述语言模型进行微调训练。
可选地,所述代表字符集获取模块具体用于,针对每个字符,在所述样本文本中,确定该字符出现的次数;判断该字符出现的次数是否小于预设次数;若否,则将该字符作为该字符自身的实体类别的代表字符,并添加到该字符所属的标注实体类别对应的代表字符集中。
可选地,所述代表字符集获取模块具体用于,确定该标注实体类别对应的代表字符集中所有代表字符的字向量,得到字向量集;根据所述字向量集,确定该实体类别的虚拟字向量;并添加至所述字向量集中。
可选地,所述代表字符确定模块具体用于,针对所述样本文本中的每个字符,确定所述语言模型识别出的该字符的置信度最高的代表字符,作为该字符的实体类别对应的代表字符。
可选地,所述代表字符确定模块具体用于,针对所述样本文本中的每个字符,在所述语言模型识别出的该字符的代表字符中,确定置信度大于预设置信度的代表字符;在置信度大于预设置信度的代表字符中,根据置信度及属于同一实体类别的代表字符的数量,确定该字符的实体类别对应的代表字符。
可选地,所述判断模块具体用于,确定所述语言模型针对该字符识别出的代表字符的字向量;判断所述语言模型针对该字符识别出的代表字符的字向量是否位于所述字向量集中
可选地,所述装置还包括:
识别模块,用于获取待识别文本;将所述待识别文本输入微调训练后的语言模型,以根据所述微调训练后的语言模型,确定所述待识别文本中每个字符的代表字符。
可选地,所述装置还包括:
代表字符统一模块,用于判断所述待识别文本中每两个相邻位置的字符的代表字符是否属于同一实体类别;若是,则将所述两个相邻位置的字符的代表字符调整为所述同一实体类别对应的代表字符集中同一代表字符。
本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述模型训练的方法。
本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述模型训练的方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果:
从本说明书提供的模型训练的方法可以看出,由于一个字符可属于多个不同的实体类别中,因此,若使用一个可属于不同实体类别的字符作为实体类别的代表字符,则语言模型输出字符的实体类别的准确性较低,因此,利用多个代表字符代表一个实体类别,提高了语言模型输出文本中字符的实体类别的准确性。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附
图中:
图1为本说明书提供的一种模型训练的方法的流程示意图;
图2为本说明书提供的一种同实体类别合并示意图;
图3为本说明书提供的一种模型训练的装置示意图;
图4为本说明书提供的对应于图1的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
图1为本说明书提供的一种模型训练的方法的流程示意图,具体包括以下步骤:
S100:获取样本文本,并确定所述样本文本中的每个字符的标注实体类别。
随着机器学习技术的发展,可通过机器学习训练出的模型提取文本中的字符的实体类别,例如,将用户发送文本输入训练好的语言模型中,该语言模型会输出该文本中每个字符的实体类别。在对语言模型进行训练时,需要标注出每个字符的实体类别。其中,实体是指客观存在并且可以相互区分的任何事物,可以是实际对象,也可以是抽象概念。当训练文本为中文时,由于有些实体抽取模型是以字为粒度输入输出的,因此语言模型输出的中文文本中的每一个字符的实体类别是用一个字表示的,例如,表示地点用“州”。但中文文本中需要确定类别的某个字可能属于不同实体类别,例如,“国”可能为“中国”,那么这个字的实体类别为地点,还可能为“王建国”,那么这个字的实体类别为人名。那么,由于一个字可能属于多个实体类别,选取该字作为某个实体类别的代表字符,可能导致语言模型的输出结果的准确性较低。因此,本说明书提供一种模型训练的方法,在本说明书实施例中的执行主体可以是可识别字符实体类别的服务器,也可以是用于训练语言模型的服务器或其他电子设备,本说明书对此不作限制。为了方便说明,下面以服务器为执行主体进行说明。
为了得到具有目标功能的模型,需要对模型进行训练。在对模型进行训练时,需要获取用于模型训练的训练样本及训练样本对应的标签。且由于该模型为语言模型,因此,训练样本的类型为文本。那么,服务器获取样本文本,并确定该样本文本中的每个字符的标注实体类别。其中,该样本文本可以从各类已公开的语料库中获取,并且可通过人工标注,确定该样本文本中的每个字符的标注实体类别,本说明书对此不作限制。
S102:针对每个标注实体类别,获得该标注实体类别对应的代表字符集,所述代表字符集中包含至少两个代表字符。
由于中文文本中的一个字符可属于多种不同的实体类别,因此,若使用该字符代表一个实体类别,则语言模型输出字符的实体类别的准确性可能较低。沿用上述例子,将“国”作为实体类别为地点的代表字符,若“国”出现在“王建国”这个词中,则语言模型输出该词中的“国”的实体类别为地点显然是错误的。因此,可将选择两个或两个以上的代表字符代表一个实体类别,例如,针对地点这个实体类别,可选择“国”、“州”、“省”等多个字符作为代表字符,则语言模型输出该实体类别中的任一代表字符即可。也就是说,为了提高语言模型输出的字符的实体类别的准确性,服务器可针对每个标注实体类别,获得该标注实体类别对应的代表字符集,该代表字符集中包含至少两个代表字符。
具体的,针对每个字符,在该样本文本中,先确定该字符出现的次数。再判断该字符出现的次数是否小于预设次数。若否,则将该字符作为该字符自身的实体类别的代表字符,并添加到该字符所属的标注实体类别对应的代表字符集中。其中,预设次数需使得最终每个标注实体类别的代表字符集中的代表字符的数量至少为2,且不同的标注实体类别的代表字符集中的代表字符不相同。当然,也可人工设定每个标注实体类别的代表字符集中的代表字符。
此外,服务器还可确定该标注实体类别对应的代表字符集中所有代表字符的字向量,得到字向量集。再根据该字向量集,确定该实体类别的虚拟字向量,并添加至该字向量集中,以便后续根据该字向量集判断语言模型输出的字符的实体类别是否正确。其中,本说明书不限制确定字向量的方式,以及得到虚拟字向量的方式。例如,获得字向量集后,将字向量集中的每个字向量的每个维度的向量相加,并平均,平均后的字向量即为该实体类别的虚拟字向量,虚拟字向量对应的字符可能为特殊符号、非中文字符、自创字等。
S104:获取预训练的语言模型。
由于预训练可使模型学习到更丰富和泛化性强的特征表示,提升模型的表达能力。并且,预训练通常可使模型学习相关通用知识,并利用该通用知识,辅助后续的微调训练。此外,基于预训练模型进行微调训练可以显著减少训练迭代次数及训练时间,加速模型的收敛。因此,可先对该语言模型进行预训练,再进行微调训练。针对该语言模型,由于该语言模型预训练时的目标,与微调训练时的目标相似,则该语言模型在预训练后及微调训练后的模型参数也是相似的。因此,对该语言模型进行预训练后,仅需要对该语言模型的模型参数进行微调即可。此外,由于对该语言模型进行了预训练,即使微调训练的训练样本及训练样本的标注较少,该语言模型也能获得较好的输出结果。
例如,预训练时,目标为预测文本中被遮盖的字符。微调训练时,目标为预测文本中字符的实体类别。实际上,由于该语言模型是以字为粒度输入输出的,因此语言模型输出的中文文本中的每一个字符的实体类别是用一个字表示的,那么,微调训练的目标为预测文本中的字符对应的输出字符。也就是说,该语言模型预训练时的目标,与微调训练时的目标相似。此外,无论是预训练还是微调训练,都需要确定文本中实体的位置,以便进行后续预测。因此,经过预训练的该语言模型具有确定文本中实体位置的功能,该功能便于后续微调训练。
需要说明的是,本说明书不限制如何获取预训练的语言模型,也就是说,服务器可直接获取开源的预训练的语言模型,也可以利用已有的大规模语料库,进行预训练,获得预训练后的语言模型。
S106:将所述样本文本输入所述语言模型,确定所述语言模型针对每个字符识别出的代表字符。
在本说明书一个或多个实施例中,针对每个字符,该语言模型可输出该字符的若干个代表字符,因此,在确定该字符的代表字符时,可从若干个代表字符中选择置信度最高的代表字符,以根据该置信度最高的代表字符,确定该字符的实体类别。也就是说,针对该样本文本中的每个字符,确定该语言模型识别出的该字符的置信度最高的代表字符,作为该字符的实体类别对应的代表字符。
S108:针对所述样本文本中的每个字符,判断所述语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集,若否,则执行步骤S110。
由于该语言模型针对该字符识别出的代表字符可能为特殊符号、自创字等,而非真实存在的中文单字。因此,服务器可通过判断该语言模型针对该字符识别出的代表字符的字向量是否位于该字向量集中,进而判断该语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集。即先确定该语言模型针对该字符识别出的代表字符的字向量。再判断该语言模型针对该字符识别出的代表字符的字向量是否位于该字向量集中。
当然,若该语言模型针对该字符识别出的代表字符为真实存在的中文字符,那么,服务器可直接判断该语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集。也就是说,在该字符的标注实体类别对应的代表字符集中查询是否存在该语言模型针对该字符识别出的代表字符。若存在,则说明该语言模型针对该字符识别出的代表字符正确。若不存在,则执行步骤S110。
S110:对所述语言模型进行微调训练。
由于该语言模型针对该字符识别出的代表字符不在该字符的标注实体类别对应的代表字符集中,说明该该语言模型针对该字符识别出的代表字符并不准确,需要对该语言模型进行微调训练。
具体的,服务器确定该语言模型针对该字符识别出的代表字符与该字符的标注实体类别对应的代表字符集中的代表字符的差异,以最小化该差异为训练目标,对该语言模型进行微调训练。其中,由于代表字符集中的代表字符的数量至少为2,因此,该差异可为该语言模型针对该字符识别出的代表字符与代表字符集中每个代表字符的差异进行加权平均后的差异和,本说明书对此不做限制。
基于图1所示的模型训练的方法,由于一个字符可属于多个不同的实体类别中,因此,若使用一个可属于不同实体类别的字符作为实体类别的代表字符,则导致语言模型输出的字符的实体类别准确性较低,因此,利用多个代表字符代表一个实体类别,提高了语言模型输出文本中字符的实体类别的准确性。
针对步骤S106,在确定该字符的代表字符时,服务器还可针对该样本文本中的每个字符,在该语言模型识别出的该字符的代表字符中,确定置信度大于预设置信度的代表字符。在置信度大于预设置信度的代表字符中,根据置信度及属于同一实体类别的代表字符的数量,确定该字符的实体类别对应的代表字符。
具体的,服务器可预设同类数量,在置信度大于预设置信度的代表字符中,若属于同一实体类别的代表字符的数量不小于预设同类数量,则在该语言模型输出的若干个代表字符中,选择该同一实体类别中任一代表字符,作为该字符的代表字符。若符合属于同一实体类别的代表字符的数量不小于预设同类数量的条件的实体类别大于等于两种,则在置信度大于预设置信度的代表字符中,选择置信度最高的代表字符,作为该字符的代表字符。
例如,假设预设置信度为4%,预设同类数量为3,针对样本文本中的“京”这一实体,该语言模型输出的代表字符分别为“省”、“州”、“藏”、“名”“姓”……,置信度分别为31%、25%、5%、29%、8%……。其中,“省”、“州”、为地点这个的实体类别的代表字符,“名”“姓”为人名这个的实体类别的代表字符。置信度大于预设置信度的代表字符有五个,若“藏”为地点这个的实体类别的代表字符,则属于同一实体类别的代表字符的数量最多有三个,不小于预设同类数量,那么,“京”的代表字符可为“省”、“州”、“藏”中的任意一个,也可为实体类别为地名的代表字符集中的任意一个。若预设同类数量为2,其他条件不变,则符合属于同一实体类别的代表字符的数量不小于预设同类数量条件的实体类别有两个,分别为地名和人名,则选择取置信度最高的代表字符,作为该字符的代表字符,即选择“省”作为“京”这个字符的代表字符。
执行步骤S110之后,响应于用户的业务请求,服务器获取待识别文本,将该待识别文本输入微调训练后的语言模型,以根据该微调训练后的语言模型,确定该待识别文本中每个字符的代表字符,以便后续根据代表字符确定每个字符的实体类别。
为了便于用户查看识别结果,服务器还可将相邻位置且属于同一实体类别的代表字符进行合并,即判断该待识别文本中每两个相邻位置的字符的代表字符是否属于同一实体类别。若是,则将该两个相邻位置的字符的代表字符调整为该同一实体类别对应的代表字符集中同一代表字符。最后,将待识别文本中的每个字符的实体类别展示给用户。
图2为本说明书提供的一种同实体类别合并示意图,如图2所示。
待识别文本为“我在人民广场”,“人、民、广、场”这四个字符的代表字符分别为“省”、“州”、“藏”、“江”,均属于地名这个实体类别,因此,可选择“省”作为“人、民、广、场”这四个字的代表字符。
以上为本说明书的一个或多个实施例提供的模型训练的方法,基于同样的思路,本说明书还提供了相应的模型训练的装置,如图3所示。
图3本说明书提供的一种模型训练的装置示意图,所述装置包括:
标注实体类别确定模块300,用于获取样本文本,并确定所述样本文本中的每个字符的标注实体类别;
代表字符集获取模块302,用于针对每个标注实体类别,获得该标注实体类别对应的代表字符集,所述代表字符集中包含至少两个代表字符;
语言模型获取模块304,用于获取预训练的语言模型;
代表字符确定模块306,用于将所述样本文本输入所述语言模型,确定所述语言模型针对每个字符识别出的代表字符;
判断模块308,用于针对所述样本文本中的每个字符,判断所述语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集中;
微调训练模块310,用于若否,则对所述语言模型进行微调训练。
可选地,所述代表字符集获取模块302具体用于,针对每个字符,在所述样本文本中,确定该字符出现的次数;判断该字符出现的次数是否小于预设次数;若否,则将该字符作为该字符自身的实体类别的代表字符,并添加到该字符所属的标注实体类别对应的代表字符集中。
可选地,所述代表字符集获取模块302具体用于,确定该标注实体类别对应的代表字符集中所有代表字符的字向量,得到字向量集;根据所述字向量集,确定该实体类别的虚拟字向量;并添加至所述字向量集中。
可选地,所述代表字符确定模块306具体用于,针对所述样本文本中的每个字符,确定所述语言模型识别出的该字符的置信度最高的代表字符,作为该字符的实体类别对应的代表字符。
可选地,所述代表字符确定模块306具体用于,针对所述样本文本中的每个字符,在所述语言模型识别出的该字符的代表字符中,确定置信度大于预设置信度的代表字符;在置信度大于预设置信度的代表字符中,根据置信度及属于同一实体类别的代表字符的数量,确定该字符的实体类别对应的代表字符。
可选地,所述判断模块308具体用于,确定所述语言模型针对该字符识别出的代表字符的字向量;判断所述语言模型针对该字符识别出的代表字符的字向量是否位于所述字向量集中
可选地,所述装置还包括:
识别模块312,用于获取待识别文本;将所述待识别文本输入微调训练后的语言模型,以根据所述微调训练后的语言模型,确定所述待识别文本中每个字符的代表字符。
可选地,所述装置还包括:
代表字符统一模块314,用于判断所述待识别文本中每两个相邻位置的字符的代表字符是否属于同一实体类别;若是,则将所述两个相邻位置的字符的代表字符调整为所述同一实体类别对应的代表字符集中同一代表字符。
本说明书还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1提供的模型训练的方法。
本说明书还提供了图4所示的电子设备的结构示意图。如图4所示,在硬件层面,该无人驾驶设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1所述的模型训练的方法。当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (18)
1.一种模型训练的方法,所述方法包括:
获取样本文本,并确定所述样本文本中的每个字符的标注实体类别;
针对每个标注实体类别,获得该标注实体类别对应的代表字符集,所述代表字符集中包含至少两个代表字符;
获取预训练的语言模型;
将所述样本文本输入所述语言模型,确定所述语言模型针对每个字符识别出的代表字符;
针对所述样本文本中的每个字符,判断所述语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集中;
若否,则对所述语言模型进行微调训练。
2.如权利要求1所述的方法,获得该标注实体类别对应的代表字符集,具体包括:
针对每个字符,在所述样本文本中,确定该字符出现的次数;
判断该字符出现的次数是否小于预设次数;
若否,则将该字符作为该字符自身的实体类别的代表字符,并添加到该字符所属的标注实体类别对应的代表字符集中。
3.如权利要求1所述的方法,获得该标注实体类别对应的代表字符集,具体包括:
确定该标注实体类别对应的代表字符集中所有代表字符的字向量,得到字向量集;
根据所述字向量集,确定该实体类别的虚拟字向量;并添加至所述字向量集中。
4.如权利要求2或3所述的方法,确定所述语言模型针对每个字符识别出的代表字符,具体包括:
针对所述样本文本中的每个字符,确定所述语言模型识别出的该字符的置信度最高的代表字符,作为该字符的实体类别对应的代表字符。
5.如权利要求2或3所述的方法,确定所述语言模型针对每个字符识别出的代表字符,具体包括:
针对所述样本文本中的每个字符,在所述语言模型识别出的该字符的代表字符中,确定置信度大于预设置信度的代表字符;
在置信度大于预设置信度的代表字符中,根据置信度及属于同一实体类别的代表字符的数量,确定该字符的实体类别对应的代表字符。
6.如权利要求3所述的方法,判断所述语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集中,具体包括:
确定所述语言模型针对该字符识别出的代表字符的字向量;
判断所述语言模型针对该字符识别出的代表字符的字向量是否位于所述字向量集中。
7.如权利要求1所述的方法,所述方法还包括:
获取待识别文本;
将所述待识别文本输入微调训练后的语言模型,以根据所述微调训练后的语言模型,确定所述待识别文本中每个字符的代表字符。
8.如权利要求7所述的方法,所述方法还包括:
判断所述待识别文本中每两个相邻位置的字符的代表字符是否属于同一实体类别;
若是,则将所述两个相邻位置的字符的代表字符调整为所述同一实体类别对应的代表字符集中同一代表字符。
9.一种模型训练的装置,所述装置包括:
标注实体类别确定模块,用于获取样本文本,并确定所述样本文本中的每个字符的标注实体类别;
代表字符集获取模块,用于针对每个标注实体类别,获得该标注实体类别对应的代表字符集,所述代表字符集中包含至少两个代表字符;
语言模型获取模块,用于获取预训练的语言模型;
代表字符确定模块,用于将所述样本文本输入所述语言模型,确定所述语言模型针对每个字符识别出的代表字符;
判断模块,用于针对所述样本文本中的每个字符,判断所述语言模型针对该字符识别出的代表字符是否位于该字符的标注实体类别对应的代表字符集中;
微调训练模块,用于若否,则对所述语言模型进行微调训练。
10.如权利要求9所述的装置,所述代表字符集获取模块具体用于,针对每个字符,在所述样本文本中,确定该字符出现的次数;判断该字符出现的次数是否小于预设次数;若否,则将该字符作为该字符自身的实体类别的代表字符,并添加到该字符所属的标注实体类别对应的代表字符集中。
11.如权利要求9所述的装置,所述代表字符集获取模块具体用于,确定该标注实体类别对应的代表字符集中所有代表字符的字向量,得到字向量集;根据所述字向量集,确定该实体类别的虚拟字向量;并添加至所述字向量集中。
12.如权利要求10或11所述的装置,所述代表字符确定模块具体用于,针对所述样本文本中的每个字符,确定所述语言模型识别出的该字符的置信度最高的代表字符,作为该字符的实体类别对应的代表字符。
13.如权利要求10或11所述的装置,所述代表字符确定模块具体用于,针对所述样本文本中的每个字符,在所述语言模型识别出的该字符的代表字符中,确定置信度大于预设置信度的代表字符;在置信度大于预设置信度的代表字符中,根据置信度及属于同一实体类别的代表字符的数量,确定该字符的实体类别对应的代表字符。
14.如权利要求11所述的装置,所述判断模块具体用于,确定所述语言模型针对该字符识别出的代表字符的字向量;判断所述语言模型针对该字符识别出的代表字符的字向量是否位于所述字向量集中。
15.如权利要求9所述的装置,所述装置还包括:
识别模块,用于获取待识别文本;将所述待识别文本输入微调训练后的语言模型,以根据所述微调训练后的语言模型,确定所述待识别文本中每个字符的代表字符。
16.如权利要求15所述的装置,所述装置还包括:
代表字符统一模块,用于判断所述待识别文本中每两个相邻位置的字符的代表字符是否属于同一实体类别;若是,则将所述两个相邻位置的字符的代表字符调整为所述同一实体类别对应的代表字符集中同一代表字符。
17.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~8任一项所述的方法。
18.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述权利要求1~8任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311008555.6A CN117195871A (zh) | 2023-08-10 | 2023-08-10 | 一种模型训练的方法、装置、存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311008555.6A CN117195871A (zh) | 2023-08-10 | 2023-08-10 | 一种模型训练的方法、装置、存储介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117195871A true CN117195871A (zh) | 2023-12-08 |
Family
ID=88998743
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311008555.6A Pending CN117195871A (zh) | 2023-08-10 | 2023-08-10 | 一种模型训练的方法、装置、存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117195871A (zh) |
-
2023
- 2023-08-10 CN CN202311008555.6A patent/CN117195871A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113221555B (zh) | 一种基于多任务模型的关键词识别方法、装置及设备 | |
CN116502176A (zh) | 一种语言模型的预训练方法、装置、介质及电子设备 | |
CN112417093B (zh) | 一种模型训练的方法及装置 | |
CN115238826B (zh) | 一种模型训练的方法、装置、存储介质及电子设备 | |
CN115618964B (zh) | 一种模型训练的方法、装置、存储介质及电子设备 | |
CN116127305A (zh) | 一种模型训练的方法、装置、存储介质及电子设备 | |
CN117332282B (zh) | 一种基于知识图谱的事件匹配的方法及装置 | |
CN117828360A (zh) | 一种模型训练、代码生成方法、装置、存储介质及设备 | |
CN117591622A (zh) | 一种模型训练和业务执行方法、装置、存储介质及设备 | |
CN117935915A (zh) | 一种基因表达量的检测数据管理方法及装置 | |
CN117573913A (zh) | 一种提示语扩写方法、装置、存储介质及电子设备 | |
CN117113174A (zh) | 一种模型训练的方法、装置、存储介质及电子设备 | |
CN115017915B (zh) | 一种模型训练、任务执行的方法及装置 | |
CN116861976A (zh) | 一种异常检测模型的训练方法、装置、设备及存储介质 | |
CN113887221B (zh) | 一种模型训练以及关键词分类方法及装置 | |
CN117195871A (zh) | 一种模型训练的方法、装置、存储介质及电子设备 | |
CN111242195B (zh) | 模型、保险风控模型训练方法、装置及电子设备 | |
CN113344197A (zh) | 一种识别模型的训练方法、业务执行的方法以及装置 | |
CN116501852B (zh) | 一种可控对话模型训练方法、装置、存储介质及电子设备 | |
CN117494068B (zh) | 一种结合深度学习与因果推断的网络舆情分析方法及装置 | |
CN117252183B (zh) | 一种基于语义的多源表格自动匹配方法、装置及存储介质 | |
CN117079646B (zh) | 一种语音识别模型的训练方法、装置、设备及存储介质 | |
CN117992600B (zh) | 一种业务执行方法、装置、存储介质以及电子设备 | |
CN116451808B (zh) | 一种模型训练的方法、装置、存储介质及电子设备 | |
CN117875413B (zh) | 一种知识图谱本体中概念构建方法、装置、介质及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |