WO2022142123A1 - 命名实体模型的训练方法、装置、设备及介质 - Google Patents

命名实体模型的训练方法、装置、设备及介质 Download PDF

Info

Publication number
WO2022142123A1
WO2022142123A1 PCT/CN2021/097545 CN2021097545W WO2022142123A1 WO 2022142123 A1 WO2022142123 A1 WO 2022142123A1 CN 2021097545 W CN2021097545 W CN 2021097545W WO 2022142123 A1 WO2022142123 A1 WO 2022142123A1
Authority
WO
WIPO (PCT)
Prior art keywords
training samples
target
incompletely
labeled
estimated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/CN2021/097545
Other languages
English (en)
French (fr)
Inventor
阮鸿涛
郑立颖
胡沛弦
徐亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Publication of WO2022142123A1 publication Critical patent/WO2022142123A1/zh
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G06F40/295—Named entity recognition

Definitions

  • the estimation rule refers to satisfying both the consistent marked entity information and all the estimated markings of the unmarked part
  • the adaptive loss function is a loss function that can be adjusted according to the training process, so as to avoid distracting attention to a large number of label sequences during training.
  • S31 Obtain one of the incompletely labeled training samples from the plurality of incompletely labeled training samples, as a target incompletely labeled training sample;
  • An embodiment of the present application also provides a computer-readable storage medium on which a computer program is stored.
  • a method for training a named entity model is implemented, including the step of: acquiring a plurality of incompletely labeled training
  • the incompletely labeled training samples include: text sample data and incompletely labeled label sequences; each of the incompletely labeled training samples is determined by using preset prediction rules to estimate the label sequence, and the obtained
  • the set of estimated label sequences corresponding to each of the plurality of incompletely labeled training samples, and the preset prediction rule refers to satisfying the consistent information of the labeled entities and all the predicted labels of the unlabeled parts at the same time; obtaining the initially trained named entity model , adopt the adaptive loss function, the initially trained named entity model, the plurality of incompletely labeled training samples, and the estimated label sequence set corresponding to each of the plurality of incompletely labeled training samples to be trained.
  • the named entity model is trained to obtain the target named entity model.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Pure & Applied Mathematics (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Evolutionary Biology (AREA)
  • Operations Research (AREA)
  • Probability & Statistics with Applications (AREA)
  • Algebra (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Machine Translation (AREA)

Abstract

本申请涉及人工智能技术领域，揭示了一种命名实体模型的训练方法、装置、设备及介质，其中方法包括：获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合；获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。从而减少了对标注质量的依赖，采用自适应损失函数避免在训练时将注意力分散到大量的标签序列上。

Description

命名实体模型的训练方法、装置、设备及介质
本申请要求于2020年12月31日提交中国专利局、申请号为2020116266180，发明名称为“命名实体模型的训练方法、装置、设备及介质”的中国专利申请的优先权，其全部内容通过引用结合在本申请中。
技术领域
本申请涉及到人工智能技术领域，特别是涉及到一种命名实体模型的训练方法、装置、设备及介质。
背景技术
目前命名实体识别模型训练都依赖于大量的完全标注的数据，然而现实情况是大量的、高质量的完全标注的数据的获取极其昂贵且困难。为了解决这个问题，很多情况下由标注人员输出的命名实体数据都是标注不完全的，即仅标注了一部分实体，然后利用不完全标注的数据训练命名实体识别模型。发明人意识到不完全标注的数据的未被标注为实体的内容可以为任何标签，而文本中命名实体一般是稀疏的，导致可能的标签序列的数量随着未标注文本内容的长度增加而呈现指数增加，因为现有利用不完全标注的数据训练命名实体识别模型时将注意力分散到大量的标签序列上，使得模型在搜索真实标签序列的时候遇到较大的困难。
技术问题
旨在解决现有技术利用不完全标注的数据训练命名实体识别模型时将注意力分散到大量的标签序列上，使得模型在搜索真实标签序列的时候遇到较大的困难的技术问题。
技术解决方案
本申请的主要目的为提供一种命名实体模型的训练方法、装置、设备及介质，旨在解决现有技术利用不完全标注的数据训练命名实体识别模型时将注意力分散到大量的标签序列上，使得模型在搜索真实标签序列的时候遇到较大的困难的技术问题。
为了实现上述发明目的，本申请提出一种命名实体模型的训练方法，所述方法包括：
获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；
采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；
获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
本申请还提出了一种命名实体模型的训练装置，所述装置包括：
训练样本获取模块，用于获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；
预估标签序列集合确定模块，用于采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各 自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；
模型训练模块，用于获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
本申请还提出了一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现如下方法步骤：
获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；
采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；
获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。本申请还提出了一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如下方法步骤：
获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；
采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；
获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
有益效果
本申请的命名实体模型的训练方法、装置、设备及介质，首先采用预设预估规则分别对每个不完全标注的训练样本进行预估标签序列确定，得到多个不完全标注的训练样本各自对应的预估标签序列集合，预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注，然后采用自适应损失函数、初步训练的命名实体模型、多个不完全标注的训练样本、多个不完全标注的训练样本各自对应的预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型，通过采用不完全标注的训练样本，减少了对标注质量的依赖，采用自适应损失函数避免在训练时将注意力分散到大量的标签序列上，从而使采用多个不完全标注的训练样本训练模型也可以取得较好的效果。
附图说明
图1为本申请一实施例的命名实体模型的训练方法的流程示意图；
图2为本申请一实施例的命名实体模型的训练装置的结构示意框图；
图3为本申请一实施例的计算机设备的结构示意框图。
本申请目的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
本发明的实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
为了解决现有技术利用不完全标注的数据训练命名实体识别模型时将注意力分散到大量的标签序列上，使得模型在搜索真实标签序列的时候遇到较大的困难的技术问题，本申请提出了一种命名实体模型的训练方法，所述方法应用于人工智能技术领域。所述命名实体模型的训练方法通过采用不完全标注的训练样本，减少了对标注质量的依赖，采用自适应损失函数避免在训练时将注意力分散到大量的标签序列上，从而使采用多个不完全标注的训练样本训练模型也可以取得较好的效果。
参照图1，本申请实施例中提供一种命名实体模型的训练方法，所述方法包括：
S1：获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；
S2：采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；
S3：获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
本实施例首先通过采用预设预估规则分别对每个不完全标注的训练样本进行预估标签序列确定，得到多个不完全标注的训练样本各自对应的预估标签序列集合，预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注，然后采用自适应损失函数、初步训练的命名实体模型、多个不完全标注的训练样本、多个不完全标注的训练样本各自对应的预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型，通过采用不完全标注的训练样本，减少了对标注质量的依赖，采用自适应损失函数避免在训练时将注意力分散到大量的标签序列上，从而使采用多个不完全标注的训练样本训练模型也可以取得较好的效果。
对于S1，可以从数据库中获取多个不完全标注的训练样本，也可以是用户输入的多个不完全标注的训练样本，还可以是第三方应用系统发送的多个不完全标注的训练样本。
文本样本数据中包括多个文字。
在每个不完全标注的训练样本中，不完全标注的标签序列是对文本样本数据的实体进行不完全标注的结果。
比如，不完全标注的训练样本的文本样本数据x＝(x 1,x 2,…,x n)，其中每个x i(i＝1,2,…,n)代表文本样本数据中的一个字，x对应的不完全标注的标签序列为y u＝(-,y 2,-,…y i,…,-)，其中y i代表标注人员标注的字x i对应的标签，“-”代表未被标注，即“-”对应文本样本数据中的字可能为实体或非实体，在此举例不做具体限定。
对于S2，分别对每个所述不完全标注的训练样本进行所有可能的预估标签序列确定，预估标签序列中包含了预估标签序列对应的所述不完全标注的训练样本的不完全标注的标签序列的已标注实体信息，并且预估标签序列是完全标注(包括：可能标注和不完全标注的标签序列的已标注实体信息)的。
比如，不完全标注的训练样本x的不完全标注的标签序列为y u＝(-,y 2,-,…y i,…,-)，一条与y u中已标注实体信息一致未标注部分全部预估标注的预估标签序列为y c＝(y c1,y 2,y c3,…y i,…,y cn),其中y c2表示未标注的位置2上一种可能的标签，将所有符合y u的已标注实体信息未标注部分全部预估标注的预估标签序列y c组成的集合为C(y u)，C(y u)即为所述不完全标注的训练样本x对应的预估标签序列集合，在此举例不做具体限定。
对于S3，可以从数据库中获取初步训练的命名实体模型，也可以是用户输入的初步训练的命名实体模型，还可以是第三方应用系统发送的初步训练的命名实体模型；采用所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，训练时采用自适应损失函数作为损失函数，将训练结束的待训练的命名实体模型作为目标命名实体模型。
初步训练的命名实体模型，是指采用少量的完全标注的训练样本对预训练模型和条件随机场模型训练得到的模型。
待训练的命名实体模型包括：预训练模型、条件随机场模型。预训练模型是基于Bert网络训练得到的模型。
自适应损失函数，是根据训练的进程可以调整的损失函数，从而避免在训练时将注意力分散到大量的标签序列上。
在一个实施例中，上述所述采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合的步骤，包括的步骤，包括：
S21：从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本，作为目标不完全标注的训练样本；
S22：从所述目标不完全标注的训练样本的所述不完全标注的标签序列中提取出已标注实体信息，得到所述目标不完全标注的训练样本对应的已标注实体信息；
S23：采用所述目标不完全标注的训练样本对应的所述已标注实体信息从所述目标不完全标注的训练样本的所述文本样本数据中找出未标注的文字，得到所述目标不完全标注的训练样本对应的未标注文本数据；
S24：分别对所述目标不完全标注的训练样本对应的所述未标注文本数据中每个文字进行所有可能的标签预估，得到所述目标不完全标注的训练样本对应的所述未标注文本数据的各个文字各自对应的预估标签集合；
S25：分别将所述目标不完全标注的训练样本对应的所述未标注文本数据的各个文字各自对应的所述预估标签集合和所述目标不完全标注的训练样本对应的所述已标注实体信息进行所有可能的标签序列组合，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合；
S26：重复执行所述从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本作为目标不完全标注的训练样本的步骤，直至确定所述多个不完全标注的训练样本各自对应的所述预估标签序列集合。
本实施例实现了确定预估标签序列，为后续进行模型训练提供了数据基础。
对于S21，从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本，将获取的所述不完全标注的训练样本作为目标不完全标注的训练样本。
对于S22，从所述目标不完全标注的训练样本对应的所述不完全标注的标签序列中提取出所有的已标注实体的信息，将提取得到的已标注实体的信息作为所述目标不完全标注的训练样本对应的已标注实体信息。
已标注实体信息包括：被标注为实体的文字在文本样本数据中的位置数据。
对于S23，采用所述目标不完全标注的训练样本对应的所述已标注实体信息从所述目标不完全标注的训练样本的所述文本样本数据中找出未标注的文字，将找出的未标注的文字作为所述目标不完全标注的训练样本对应的未标注文本数据。
未标注文本数据包括：在文本样本数据中的位置数据、未标注的文字，在未标注文本数据中每个在文本样本数据中的位置数据对应一个未标注的文字。
对于S24，分别对所述目标不完全标注的训练样本对应的所述未标注文本数据中每个文字(也就是未标注的文字)进行所有可能的标签预估，将一个文字(也就是未标注的文字)对应的所有可能的标签预估结果作为一个预估标签集合。
对于S25，从所述目标不完全标注的训练样本对应的所述未标注文本数据的各个文字各自对应的所述预估标签集合中的每个所述预估标签集合中挑出一个预估标签，将挑选出的预估标签作为可能的待组合预估标签集合；将所述目标不完全标注的训练样本对应的所述已标注实体信息和所述多个可能的待组合预估标签集合中每个可能的待组合预估标签集合按位置数据的先后顺序进行组合，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合。
对于S26，重复执行步骤S21至步骤S26，直至确定所述多个不完全标注的训练样本各自对应的所述预估标签序列集合。
在一个实施例中，上述获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型的步骤，包括：
S31：从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本，作为目标不完全标注的训练样本；
S32：采用所述初步训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列进行概率分布计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析概率分布数据；
S33：采用所述待训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个所述预估标签序列进行条件概率计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析条件概率数据；
S34：采用所述待训练的命名实体模型，对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的所有所述预估标签序列进行最有可能的标签序列解析，得到所述目标不完全标注的训练样本对应的最有可能标签序列集合；
S35：将所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据、所述目标不完全标注 的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析条件概率数据和所述目标不完全标注的训练样本对应的所述最有可能标签序列集合输入所述自适应损失函数进行计算，得到所述待训练的命名实体模型的损失值，根据所述损失值更新所述待训练的命名实体模型的参数，更新后的所述待训练的命名实体模型被用于下一次计算所述待分析条件概率数据、所述最有可能标签序列集合；
S36：重复执行上述方法步骤直至所述损失值达到第一收敛条件或迭代次数达到第二收敛条件，将所述损失值达到所述第一收敛条件或迭代次数达到所述第二收敛条件的所述待训练的命名实体模型，确定为所述目标命名实体模型。
本实施例实现了采用自适应损失函数避免在训练时将注意力分散到大量的标签序列上，从而使采用多个不完全标注的训练样本训练模型也可以取得较好的效果。
对于S31，从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本，将获取的所述不完全标注的训练样本作为目标不完全标注的训练样本。
对于S32，分别将所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列输入所述初步训练的命名实体模型进行概率分布预测，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析概率分布数据。也就是说，待分析概率分布数据的数量和目标不完全标注的训练样本对应的所述预估标签序列集合的预估标签序列的数量相同。
对于S33，分别将所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个所述预估标签序列输入所述待训练的命名实体模型，获取所述待训练的命名实体模型的条件随机场模型输出的条件概率，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析条件概率数据。也就是说，待分析条件概率数据的数量与目标不完全标注的训练样本对应的所述预估标签序列集合的预估标签序列的数量相同。
对于S34，采用当前的所述待训练的命名实体模型的条件随机场模型的状态转移矩阵和当前的所述待训练的命名实体模型的预训练模型的输出进行最有可能的标签序列解析，将解析得到的所有所述最有可能标签序列作为所述目标不完全标注的训练样本对应的最有可能标签序列集合。
对于S35，根据所述损失值更新所述待训练的命名实体模型的参数的方法可以从现有技术中选择，在此不做赘述。
对于S36，重复执行步骤S31至S36，直至所述损失值达到第一收敛条件或迭代次数达到第二收敛条件。
所述第一收敛条件是指相邻两次计算的损失的大小满足lipschitz条件(利普希茨连续条件)。
所述迭代次数达到第二收敛条件是指所述待训练的命名实体模型被用于计算所述待分析条件概率数据、所述最有可能标签序列集合的次数，也就是说，计算一次所述待分析条件概率数据、所述最有可能标签序列集合，迭代次数增加1。
在一个实施例中，上述采用所述初步训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列进行概率分布计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析概率分布数据的步骤，包括：
S321：基于前向-后向算法和所述初步训练的命名实体模型，分别对所述目标不完全标注的训练样本的所述文本样本数据的每个字进行各个标签的边缘概率计算，得到所述目标不完全标注的训练样本的所述文本样本数据的各个字各自对应的各个标签的边缘概率数据；
S322：分别根据所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列、所述目标不完全标注的训练样本的所述文本样本数据的各个字各自对应的各个标签的所述边缘概率数据进行各个字各自对应的所述边缘概率数据的相乘计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据。
本实施例实现了计算所有所述预估标签序列各自对应的待分析概率分布数据，为后续进行模型训练提供了数据基础。
对于S321，将所述目标不完全标注的训练样本的所述文本样本数据输入所述初步训练的命名实体模型，并且采用前向-后向算法计算出所述目标不完全标注的训练样本的所述文本样本数据的每个字对应各个标签的边缘概率(边缘分布)。也就是说，每个字对应的边缘概率和标签总数量相同。比如，标签包括：实体、非实体，则标签总数量为2，在此举例不做具体限定。
对于S322，从所述目标不完全标注的训练样本对应的所述预估标签序列集合中提取出一个预估标签序列作为目标预估标签序列；将目标预估标签序列的每个标签依次在所述目标不完全标注的训练样本的所述文本样本数据的各个字各自对应的各个标签的所述边缘概率数据中进行查找，将查找到的所述边缘概率数据相乘，将相乘结果作为所述目标预估标签序列对应的所述待分析概率分布数据；重复执行所述从所述目标不完全标注的训练样本对应的所述预估标签序列集合中提取出一个预估标签序列作为目标预估标签序列的步骤，直至确定所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据。
比如，所述目标不完全标注的训练样本的目标预估标签序列有10个预估标签，目标预估标签序列第二个位置的预估标签是实体，将所述目标不完全标注的训练样本的所述文本样本数据的第二个字(与目标预估标签序列第二个位置对应)对应的标签为实体(与目标预估标签序列第二个位置的预估标签对应)的所述边缘概率数据作为目标预估标签序列第二个位置的预估标签对应的边缘概率数据，然后将目标预估标签序列10个位置(与10个预估标签对应)的预估标签对应的边缘概率数据进行相乘(也就是10个边缘概率数据相乘)，将相乘结果作为所述目标不完全标注的训练样本的目标预估标签序列对应的所述待分析概率分布数据，在此举例不做具体限定。
在一个实施例中，上述采用所述待训练的命名实体模型，对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的所有所述预估标签序列进行最有可能的标签序列解析，得到所述目标不完全标注的训练样本对应的最有可能标签序列集合的步骤，包括：
S341：将所述目标不完全标注的训练样本的所述文本样本数据输入所述待训练的命名实体模型进行计算，获取所述目标不完全标注的训练样本的预训练模型输出的所述目标不完全标注的训练样本对应的概率预测结果；
S342：采用k-best Viterbi Decoding算法根据所述待训练的命名实体模型的条件随机场模型的状态转移矩阵、所述目标不完全标注的训练样本的所述概率预测 结果进行最有可能的标签序列的解码计算，得到所述目标不完全标注的训练样本对应的所述最有可能标签序列集合。
本实施例实现了采用k-best Viterbi Decoding算法进行最有可能的标签序列的解码计算，从而为后续进行模型训练提供了数据基础。
对于S341，将所述目标不完全标注的训练样本的所述文本样本数据输入所述待训练的命名实体模型进行计算，将所述目标不完全标注的训练样本的预训练模型输出的概率作为所述目标不完全标注的训练样本对应的概率预测结果。
对于S342，从当前的所述待训练的命名实体模型中提取出条件随机场模型的状态转移矩阵；采用k-best Viterbi Decoding算法将提取出的状态转移矩阵和所述目标不完全标注的训练样本的所述概率预测结果进行最有可能的标签序列的解码计算，得到所述目标不完全标注的训练样本对应的所述最有可能标签序列集合。
采用k-best Viterbi Decoding算法进行最有可能的标签序列的解码计算的方法可以从现有技术中选择，在此不做赘述。
在一个实施例中，上述自适应损失函数的计算公式L(w,x)为：
L(w,x)＝(1-λ)L 1(w,x)+λL 2(w,x)
Figure PCTCN2021097545-appb-000001
Figure PCTCN2021097545-appb-000002
其中，q(y′|x)是所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据，p w(y′|x)是所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析条件概率数据，C(y u)是所述目标不完全标注的训练样本对应的所述预估标签序列集合，K w(x)所述目标不完全标注的训练样本对应的所述最有可能标签序列集合，log()是对数函数，λ是自适应参数，λ从0逐步增加到1。
本实施例实现了采用自适应损失函数避免在训练时将注意力分散到大量的标签序列上，从而使采用多个不完全标注的训练样本训练模型也可以取得较好的效果。
在训练初期，模型能够利用所有所述预估标签序列各自对应的所述待分析概率分布数据和标签信息进行训练，此时使自适应损失函数中的L 1(w,x)权重偏大，L 2(w,x)的权重偏小；在训练过程中，通过λ逐步调整损失函数，增加最有可能的所述预估标签序列的权重，此时使自适应损失函数中的L 1(w,x)权重偏小，L 2(w,x)的权重偏大，使模型更易把握住真实的标签序列，从而使采用多个不完全标注的训练样本训练模型也可以取得较好的效果。
在一个实施例中，上述自适应参数λ的计算公式为：
Figure PCTCN2021097545-appb-000003
其中，exp[]是以自然常数e为底的指数函数，b是所述目标不完全标注的训练样本训练所述待训练的命名实体模型时对应的训练步数，B是预设的总训练步数，γ为控制λ增长速度的常数。
本实施例通过训练步数、总训练步数、控制λ增长速度的常数来控制自适应参数的值从0逐步增加到1，实现了根据训练进度从小到大调整自适应参数。
参照图2，本申请提出了一种命名实体模型的训练装置，所述装置包括：
训练样本获取模块100，用于获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；
预估标签序列集合确定模块200，用于采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；
模型训练模块300，用于获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
本实施例首先通过采用预设预估规则分别对每个不完全标注的训练样本进行预估标签序列确定，得到多个不完全标注的训练样本各自对应的预估标签序列集合，预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注，然后采用自适应损失函数、初步训练的命名实体模型、多个不完全标注的训练样本、多个不完全标注的训练样本各自对应的预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型，通过采用不完全标注的训练样本，减少了对标注质量的依赖，采用自适应损失函数避免在训练时将注意力分散到大量的标签序列上，从而使采用多个不完全标注的训练样本训练模型也可以取得较好的效果。
参照图3，本申请实施例中还提供一种计算机设备，该计算机设备可以是服务器，其内部结构可以如图3所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中，该计算机设计的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于储存命名实体模型的训练方法等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种命名实体模型的训练方法。所述命名实体模型的训练方法，包括：获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
本实施例首先通过采用预设预估规则分别对每个不完全标注的训练样本进行预估标签序列确定，得到多个不完全标注的训练样本各自对应的预估标签序列集合，预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注，然后采用自适应损失函数、初步训练的命名实体模型、多个不完全标注的训 练样本、多个不完全标注的训练样本各自对应的预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型，通过采用不完全标注的训练样本，减少了对标注质量的依赖，采用自适应损失函数避免在训练时将注意力分散到大量的标签序列上，从而使采用多个不完全标注的训练样本训练模型也可以取得较好的效果。
本申请一实施例还提供一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现一种命名实体模型的训练方法，包括步骤：获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
上述执行的命名实体模型的训练方法，首先通过采用预设预估规则分别对每个不完全标注的训练样本进行预估标签序列确定，得到多个不完全标注的训练样本各自对应的预估标签序列集合，预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注，然后采用自适应损失函数、初步训练的命名实体模型、多个不完全标注的训练样本、多个不完全标注的训练样本各自对应的预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型，通过采用不完全标注的训练样本，减少了对标注质量的依赖，采用自适应损失函数避免在训练时将注意力分散到大量的标签序列上，从而使采用多个不完全标注的训练样本训练模型也可以取得较好的效果。
所述计算机可读存储介质可以是非易失性，也可以是易失性。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的和实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双速据率SDRAM(SSRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。
以上所述仅为本申请的优选实施例，并非因此限制本申请的专利范围，凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本申请的专利保护范围内。

Claims (20)

  1. 一种命名实体模型的训练方法，其中，所述方法包括：
    获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；
    采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；
    获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
  2. 根据权利要求1所述的命名实体模型的训练方法，其中，所述采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合的步骤，包括：
    从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本，作为目标不完全标注的训练样本；
    从所述目标不完全标注的训练样本的所述不完全标注的标签序列中提取出已标注实体信息，得到所述目标不完全标注的训练样本对应的已标注实体信息；
    采用所述目标不完全标注的训练样本对应的所述已标注实体信息从所述目标不完全标注的训练样本的所述文本样本数据中找出未标注的文字，得到所述目标不完全标注的训练样本对应的未标注文本数据；
    分别对所述目标不完全标注的训练样本对应的所述未标注文本数据中每个文字进行所有可能的标签预估，得到所述目标不完全标注的训练样本对应的所述未标注文本数据的各个文字各自对应的预估标签集合；
    分别将所述目标不完全标注的训练样本对应的所述未标注文本数据的各个文字各自对应的所述预估标签集合和所述目标不完全标注的训练样本对应的所述已标注实体信息进行所有可能的标签序列组合，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合；
    重复执行所述从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本作为目标不完全标注的训练样本的步骤，直至确定所述多个不完全标注的训练样本各自对应的所述预估标签序列集合。
  3. 根据权利要求1所述的命名实体模型的训练方法，其中，所述获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型的步骤，包括：
    从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本，作为目标不完全标注的训练样本；
    采用所述初步训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列进行概率分布计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析概率分布数据；
    采用所述待训练的命名实体模型分别对所述目标不完全标注的训练样本对 应的所述预估标签序列集合中的每个所述预估标签序列进行条件概率计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析条件概率数据；
    采用所述待训练的命名实体模型，对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的所有所述预估标签序列进行最有可能的标签序列解析，得到所述目标不完全标注的训练样本对应的最有可能标签序列集合；
    将所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据、所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析条件概率数据和所述目标不完全标注的训练样本对应的所述最有可能标签序列集合输入所述自适应损失函数进行计算，得到所述待训练的命名实体模型的损失值，根据所述损失值更新所述待训练的命名实体模型的参数，更新后的所述待训练的命名实体模型被用于下一次计算所述待分析条件概率数据、所述最有可能标签序列集合；
    重复执行上述方法步骤直至所述损失值达到第一收敛条件或迭代次数达到第二收敛条件，将所述损失值达到所述第一收敛条件或迭代次数达到所述第二收敛条件的所述待训练的命名实体模型，确定为所述目标命名实体模型。
  4. 根据权利要求3所述的命名实体模型的训练方法，其中，所述采用所述初步训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列进行概率分布计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析概率分布数据的步骤，包括：
    基于前向-后向算法和所述初步训练的命名实体模型，分别对所述目标不完全标注的训练样本的所述文本样本数据的每个字进行各个标签的边缘概率计算，得到所述目标不完全标注的训练样本的所述文本样本数据的各个字各自对应的各个标签的边缘概率数据；
    分别根据所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列、所述目标不完全标注的训练样本的所述文本样本数据的各个字各自对应的各个标签的所述边缘概率数据进行各个字各自对应的所述边缘概率数据的相乘计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据。
  5. 根据权利要求3所述的命名实体模型的训练方法，其中，所述采用所述待训练的命名实体模型，对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的所有所述预估标签序列进行最有可能的标签序列解析，得到所述目标不完全标注的训练样本对应的最有可能标签序列集合的步骤，包括：
    将所述目标不完全标注的训练样本的所述文本样本数据输入所述待训练的命名实体模型进行计算，获取所述目标不完全标注的训练样本的预训练模型输出的所述目标不完全标注的训练样本对应的概率预测结果；
    采用k-best Viterbi Decoding算法根据所述待训练的命名实体模型的条件随机场模型的状态转移矩阵、所述目标不完全标注的训练样本的所述概率预测结果进行最有可能的标签序列的解码计算，得到所述目标不完全标注的训练样本对应的所述最有可能标签序列集合。
  6. 根据权利要求3所述的命名实体模型的训练方法，其中，所述自适应损失函数的计算公式L(w,x)为：
    L(w,x)＝(1-λ)L 1(w,x)+λL 2(w,x)
    Figure PCTCN2021097545-appb-100001
    Figure PCTCN2021097545-appb-100002
    其中，q(y′|x)是所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据，p w(y′|x)是所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析条件概率数据，C(y u)是所述目标不完全标注的训练样本对应的所述预估标签序列集合，K w(x)所述目标不完全标注的训练样本对应的所述最有可能标签序列集合，log()是对数函数，λ是自适应参数，λ从0逐步增加到1。
  7. 根据权利要求6所述的命名实体模型的训练方法，其中，所述自适应参数λ的计算公式为：
    Figure PCTCN2021097545-appb-100003
    其中，exp[]是以自然常数e为底的指数函数，b是所述目标不完全标注的训练样本训练所述待训练的命名实体模型时对应的训练步数，B是预设的总训练步数，γ为控制λ增长速度的常数。
  8. 一种命名实体模型的训练装置，其中，所述装置包括：
    训练样本获取模块，用于获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；
    预估标签序列集合确定模块，用于采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；
    模型训练模块，用于获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
  9. 一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，其中，所述处理器执行所述计算机程序时实现如下方法步骤：
    获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；
    采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；
    获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
  10. 根据权利要求9所述的计算机设备，其中，所述采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标 注的训练样本各自对应的预估标签序列集合的步骤，包括：
    从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本，作为目标不完全标注的训练样本；
    从所述目标不完全标注的训练样本的所述不完全标注的标签序列中提取出已标注实体信息，得到所述目标不完全标注的训练样本对应的已标注实体信息；
    采用所述目标不完全标注的训练样本对应的所述已标注实体信息从所述目标不完全标注的训练样本的所述文本样本数据中找出未标注的文字，得到所述目标不完全标注的训练样本对应的未标注文本数据；
    分别对所述目标不完全标注的训练样本对应的所述未标注文本数据中每个文字进行所有可能的标签预估，得到所述目标不完全标注的训练样本对应的所述未标注文本数据的各个文字各自对应的预估标签集合；
    分别将所述目标不完全标注的训练样本对应的所述未标注文本数据的各个文字各自对应的所述预估标签集合和所述目标不完全标注的训练样本对应的所述已标注实体信息进行所有可能的标签序列组合，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合；
    重复执行所述从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本作为目标不完全标注的训练样本的步骤，直至确定所述多个不完全标注的训练样本各自对应的所述预估标签序列集合。
  11. 根据权利要求9所述的计算机设备，其中，所述获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型的步骤，包括：
    从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本，作为目标不完全标注的训练样本；
    采用所述初步训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列进行概率分布计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析概率分布数据；
    采用所述待训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个所述预估标签序列进行条件概率计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析条件概率数据；
    采用所述待训练的命名实体模型，对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的所有所述预估标签序列进行最有可能的标签序列解析，得到所述目标不完全标注的训练样本对应的最有可能标签序列集合；
    将所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据、所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析条件概率数据和所述目标不完全标注的训练样本对应的所述最有可能标签序列集合输入所述自适应损失函数进行计算，得到所述待训练的命名实体模型的损失值，根据所述损失值更新所述待训练的命名实体模型的参数，更新后的所述待训练的命名实体模型被用于下一次计算所述待分析条件概率数据、所述最有可能标签序列集合；
    重复执行上述方法步骤直至所述损失值达到第一收敛条件或迭代次数达到 第二收敛条件，将所述损失值达到所述第一收敛条件或迭代次数达到所述第二收敛条件的所述待训练的命名实体模型，确定为所述目标命名实体模型。
  12. 根据权利要求11所述的计算机设备，其中，所述采用所述初步训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列进行概率分布计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析概率分布数据的步骤，包括：
    基于前向-后向算法和所述初步训练的命名实体模型，分别对所述目标不完全标注的训练样本的所述文本样本数据的每个字进行各个标签的边缘概率计算，得到所述目标不完全标注的训练样本的所述文本样本数据的各个字各自对应的各个标签的边缘概率数据；
    分别根据所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列、所述目标不完全标注的训练样本的所述文本样本数据的各个字各自对应的各个标签的所述边缘概率数据进行各个字各自对应的所述边缘概率数据的相乘计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据。
  13. 根据权利要求11所述的计算机设备，其中，所述采用所述待训练的命名实体模型，对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的所有所述预估标签序列进行最有可能的标签序列解析，得到所述目标不完全标注的训练样本对应的最有可能标签序列集合的步骤，包括：
    将所述目标不完全标注的训练样本的所述文本样本数据输入所述待训练的命名实体模型进行计算，获取所述目标不完全标注的训练样本的预训练模型输出的所述目标不完全标注的训练样本对应的概率预测结果；
    采用k-best Viterbi Decoding算法根据所述待训练的命名实体模型的条件随机场模型的状态转移矩阵、所述目标不完全标注的训练样本的所述概率预测结果进行最有可能的标签序列的解码计算，得到所述目标不完全标注的训练样本对应的所述最有可能标签序列集合。
  14. 根据权利要求11所述的计算机设备，其中，所述自适应损失函数的计算公式L(w,x)为：
    L(w,x)＝(1-λ)L 1(w,x)+λL 2(w,x)
    Figure PCTCN2021097545-appb-100004
    Figure PCTCN2021097545-appb-100005
    其中，q(y′|x)是所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据，p w(y′|x)是所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析条件概率数据，C(y u)是所述目标不完全标注的训练样本对应的所述预估标签序列集合，K w(x)所述目标不完全标注的训练样本对应的所述最有可能标签序列集合，log()是对数函数，λ是自适应参数，λ从0逐步增加到1。
  15. 一种计算机可读存储介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如下方法步骤：
    获取多个不完全标注的训练样本，所述不完全标注的训练样本包括：文本样本数据、不完全标注的标签序列；
    采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合，所述预设预估规则是指同时满足已标注实体信息一致和未标注部分全部预估标注；
    获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型。
  16. 根据权利要求15所述的计算机可读存储介质，其中，所述采用预设预估规则分别对每个所述不完全标注的训练样本进行预估标签序列确定，得到所述多个不完全标注的训练样本各自对应的预估标签序列集合的步骤，包括：
    从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本，作为目标不完全标注的训练样本；
    从所述目标不完全标注的训练样本的所述不完全标注的标签序列中提取出已标注实体信息，得到所述目标不完全标注的训练样本对应的已标注实体信息；
    采用所述目标不完全标注的训练样本对应的所述已标注实体信息从所述目标不完全标注的训练样本的所述文本样本数据中找出未标注的文字，得到所述目标不完全标注的训练样本对应的未标注文本数据；
    分别对所述目标不完全标注的训练样本对应的所述未标注文本数据中每个文字进行所有可能的标签预估，得到所述目标不完全标注的训练样本对应的所述未标注文本数据的各个文字各自对应的预估标签集合；
    分别将所述目标不完全标注的训练样本对应的所述未标注文本数据的各个文字各自对应的所述预估标签集合和所述目标不完全标注的训练样本对应的所述已标注实体信息进行所有可能的标签序列组合，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合；
    重复执行所述从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本作为目标不完全标注的训练样本的步骤，直至确定所述多个不完全标注的训练样本各自对应的所述预估标签序列集合。
  17. 根据权利要求15所述的计算机可读存储介质，其中，所述获取初步训练的命名实体模型，采用自适应损失函数、所述初步训练的命名实体模型、所述多个不完全标注的训练样本、所述多个不完全标注的训练样本各自对应的所述预估标签序列集合对待训练的命名实体模型进行训练，得到目标命名实体模型的步骤，包括：
    从所述多个不完全标注的训练样本中获取一个所述不完全标注的训练样本，作为目标不完全标注的训练样本；
    采用所述初步训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列进行概率分布计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析概率分布数据；
    采用所述待训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个所述预估标签序列进行条件概率计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析条件概率数据；
    采用所述待训练的命名实体模型，对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的所有所述预估标签序列进行最有可能的标签序列解析，得到所述目标不完全标注的训练样本对应的最有可能标签序列集合；
    将所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据、所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析条件概率数据和所述目标不完全标注的训练样本对应的所述最有可能标签序列集合输入所述自适应损失函数进行计算，得到所述待训练的命名实体模型的损失值，根据所述损失值更新所述待训练的命名实体模型的参数，更新后的所述待训练的命名实体模型被用于下一次计算所述待分析条件概率数据、所述最有可能标签序列集合；
    重复执行上述方法步骤直至所述损失值达到第一收敛条件或迭代次数达到第二收敛条件，将所述损失值达到所述第一收敛条件或迭代次数达到所述第二收敛条件的所述待训练的命名实体模型，确定为所述目标命名实体模型。
  18. 根据权利要求17所述的计算机可读存储介质，其中，所述采用所述初步训练的命名实体模型分别对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列进行概率分布计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的待分析概率分布数据的步骤，包括：
    基于前向-后向算法和所述初步训练的命名实体模型，分别对所述目标不完全标注的训练样本的所述文本样本数据的每个字进行各个标签的边缘概率计算，得到所述目标不完全标注的训练样本的所述文本样本数据的各个字各自对应的各个标签的边缘概率数据；
    分别根据所述目标不完全标注的训练样本对应的所述预估标签序列集合中的每个预估标签序列、所述目标不完全标注的训练样本的所述文本样本数据的各个字各自对应的各个标签的所述边缘概率数据进行各个字各自对应的所述边缘概率数据的相乘计算，得到所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据。
  19. 根据权利要求17所述的计算机可读存储介质，其中，所述采用所述待训练的命名实体模型，对所述目标不完全标注的训练样本对应的所述预估标签序列集合中的所有所述预估标签序列进行最有可能的标签序列解析，得到所述目标不完全标注的训练样本对应的最有可能标签序列集合的步骤，包括：
    将所述目标不完全标注的训练样本的所述文本样本数据输入所述待训练的命名实体模型进行计算，获取所述目标不完全标注的训练样本的预训练模型输出的所述目标不完全标注的训练样本对应的概率预测结果；
    采用k-best Viterbi Decoding算法根据所述待训练的命名实体模型的条件随机场模型的状态转移矩阵、所述目标不完全标注的训练样本的所述概率预测结果进行最有可能的标签序列的解码计算，得到所述目标不完全标注的训练样本对应的所述最有可能标签序列集合。
  20. 根据权利要求17所述的计算机可读存储介质，其中，所述自适应损失函数的计算公式L(w,x)为：
    L(w,x)＝(1-λ)L 1(w,x)+λL 2(w,x)
    Figure PCTCN2021097545-appb-100006
    Figure PCTCN2021097545-appb-100007
    其中，q(y′|x)是所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析概率分布数据，p w(y′|x)是所述目标不完全标注的训练样本对应的所述预估标签序列集合中所有所述预估标签序列各自对应的所述待分析条件概率数据，C(y u)是所述目标不完全标注的训练样本对应的所述预估标签序列集合，K w(x)所述目标不完全标注的训练样本对应的所述最有可能标签序列集合，log()是对数函数，λ是自适应参数，λ从0逐步增加到1。
PCT/CN2021/097545 2020-12-31 2021-05-31 命名实体模型的训练方法、装置、设备及介质 Ceased WO2022142123A1 (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202011626618.0 2020-12-31
CN202011626618.0A CN112766485B (zh) 2020-12-31 2020-12-31 命名实体模型的训练方法、装置、设备及介质

Publications (1)

Publication Number Publication Date
WO2022142123A1 true WO2022142123A1 (zh) 2022-07-07

Family

ID=75698970

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2021/097545 Ceased WO2022142123A1 (zh) 2020-12-31 2021-05-31 命名实体模型的训练方法、装置、设备及介质

Country Status (2)

Country Link
CN (1) CN112766485B (zh)
WO (1) WO2022142123A1 (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115730602A (zh) * 2022-11-23 2023-03-03 中国人民解放军国防科技大学 文本关键要素抽取方法、系统、存储介质和电子设备
CN116089830A (zh) * 2022-12-13 2023-05-09 北京中电飞华通信有限公司 标签标注模型的训练方法、文本标签标注方法及相关设备
CN117251650A (zh) * 2023-11-20 2023-12-19 之江实验室 地理热点中心识别方法、装置、计算机设备和存储介质
CN118690751A (zh) * 2024-07-24 2024-09-24 北京睿企信息科技有限公司 一种获取命名实体识别模型的数据处理方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112766485B (zh) * 2020-12-31 2023-10-24 平安科技（深圳）有限公司 命名实体模型的训练方法、装置、设备及介质
CN116956915A (zh) * 2023-02-02 2023-10-27 腾讯科技（深圳）有限公司 实体识别模型训练方法、装置、设备、存储介质及产品
US20260073278A1 (en) * 2024-09-09 2026-03-12 Mastercard International Incorporated Computer-implemented methods, systems comprising computer-readable media, and electronic devices for generative ai assisted labeling in open banking

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110032649A (zh) * 2019-04-12 2019-07-19 北京科技大学 一种中医文献的实体间关系抽取方法及装置
CN110287480A (zh) * 2019-05-27 2019-09-27 广州多益网络股份有限公司 一种命名实体识别方法、装置、存储介质及终端设备
US20200050662A1 (en) * 2018-08-09 2020-02-13 Oracle International Corporation System And Method To Generate A Labeled Dataset For Training An Entity Detection System
CN111382572A (zh) * 2020-03-03 2020-07-07 北京香侬慧语科技有限责任公司 一种命名实体识别方法、装置、设备以及介质
CN112766485A (zh) * 2020-12-31 2021-05-07 平安科技（深圳）有限公司 命名实体模型的训练方法、装置、设备及介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109741347B (zh) * 2018-12-30 2021-03-16 北京工业大学 一种基于卷积神经网络的迭代学习的图像分割方法
CN110348017B (zh) * 2019-07-15 2022-12-23 苏州大学 一种文本实体检测方法、系统及相关组件
CN111222393A (zh) * 2019-10-12 2020-06-02 浙江大学 一种基于自学习神经网络的病理切片中印戒细胞检测方法
CN110851597A (zh) * 2019-10-28 2020-02-28 青岛聚好联科技有限公司 一种基于同类实体替换的语句标注的方法及装置
CN111062215B (zh) * 2019-12-10 2024-02-13 金蝶软件（中国）有限公司 基于半监督学习训练的命名实体识别方法和装置
CN111553164B (zh) * 2020-04-29 2024-11-19 平安科技（深圳）有限公司 命名实体识别模型的训练方法、装置、计算机设备
CN111985239B (zh) * 2020-07-31 2024-04-26 杭州远传新业科技股份有限公司 实体识别方法、装置、电子设备及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200050662A1 (en) * 2018-08-09 2020-02-13 Oracle International Corporation System And Method To Generate A Labeled Dataset For Training An Entity Detection System
CN110032649A (zh) * 2019-04-12 2019-07-19 北京科技大学 一种中医文献的实体间关系抽取方法及装置
CN110287480A (zh) * 2019-05-27 2019-09-27 广州多益网络股份有限公司 一种命名实体识别方法、装置、存储介质及终端设备
CN111382572A (zh) * 2020-03-03 2020-07-07 北京香侬慧语科技有限责任公司 一种命名实体识别方法、装置、设备以及介质
CN112766485A (zh) * 2020-12-31 2021-05-07 平安科技（深圳）有限公司 命名实体模型的训练方法、装置、设备及介质

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115730602A (zh) * 2022-11-23 2023-03-03 中国人民解放军国防科技大学 文本关键要素抽取方法、系统、存储介质和电子设备
CN116089830A (zh) * 2022-12-13 2023-05-09 北京中电飞华通信有限公司 标签标注模型的训练方法、文本标签标注方法及相关设备
CN117251650A (zh) * 2023-11-20 2023-12-19 之江实验室 地理热点中心识别方法、装置、计算机设备和存储介质
CN117251650B (zh) * 2023-11-20 2024-02-06 之江实验室 地理热点中心识别方法、装置、计算机设备和存储介质
CN118690751A (zh) * 2024-07-24 2024-09-24 北京睿企信息科技有限公司 一种获取命名实体识别模型的数据处理方法

Also Published As

Publication number Publication date
CN112766485B (zh) 2023-10-24
CN112766485A (zh) 2021-05-07

Similar Documents

Publication Publication Date Title
WO2022142123A1 (zh) 命名实体模型的训练方法、装置、设备及介质
CN109446514B (zh) 新闻实体识别模型的构建方法、装置和计算机设备
CN110457675B (zh) 预测模型训练方法、装置、存储介质及计算机设备
CN110688853B (zh) 序列标注方法、装置、计算机设备和存储介质
CN110019471B (zh) 从结构化数据生成文本
CN111553164A (zh) 命名实体识别模型的训练方法、装置、计算机设备
CN112861518B (zh) 文本纠错方法、装置和存储介质及电子装置
US20230076658A1 (en) Method, apparatus, computer device and storage medium for decoding speech data
CN110019736B (zh) 基于语言模型的问答匹配方法、系统、设备及存储介质
CA3117833A1 (en) Regularization of recurrent machine-learned architectures
WO2022142043A1 (zh) 课程推荐方法、装置、设备及存储介质
CN108170739A (zh) 问题匹配方法、终端和计算机可读存储介质
JP7121819B2 (ja) 画像処理方法及び装置、電子機器、コンピュータ可読記憶媒体並びにコンピュータプログラム
CN112699923A (zh) 文档分类预测方法、装置、计算机设备及存储介质
WO2020215694A1 (zh) 一种基于深度学习的中文分词方法、装置、存储介质及计算机设备
WO2020073532A1 (zh) 客服机器人对话状态识别方法及装置、电子设备、计算机可读存储介质
CN109977394B (zh) 文本模型训练方法、文本分析方法、装置、设备及介质
CN110175273B (zh) 文本处理方法、装置、计算机可读存储介质和计算机设备
CN112417848A (zh) 语料生成方法、装置及计算机设备
CN112633002A (zh) 样本标注、模型训练、命名实体识别方法和装置
WO2022142122A1 (zh) 实体识别模型的训练方法、装置、设备和存储介质
CN113642707A (zh) 基于联邦学习的模型训练方法、装置、设备及存储介质
CN112989788A (zh) 关系三元组的提取方法、装置、设备及介质
CN112765985A (zh) 一种面向特定领域专利实施例的命名实体识别方法
CN108073704B (zh) 一种liwc词表扩展方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21912884

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21912884

Country of ref document: EP

Kind code of ref document: A1