CN111666771A - 文书的语义标签抽取、装置、电子设备及可读存储介质 - Google Patents
文书的语义标签抽取、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN111666771A CN111666771A CN202010507207.3A CN202010507207A CN111666771A CN 111666771 A CN111666771 A CN 111666771A CN 202010507207 A CN202010507207 A CN 202010507207A CN 111666771 A CN111666771 A CN 111666771A
- Authority
- CN
- China
- Prior art keywords
- extraction model
- initial extraction
- information
- semantic
- recognition task
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000605 extraction Methods 0.000 title claims abstract description 222
- 238000012549 training Methods 0.000 claims abstract description 81
- 238000000034 method Methods 0.000 claims abstract description 50
- 239000013598 vector Substances 0.000 claims description 44
- 238000012545 processing Methods 0.000 claims description 24
- 230000015654 memory Effects 0.000 claims description 19
- 238000002372 labelling Methods 0.000 claims description 15
- 230000006403 short-term memory Effects 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims 1
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000003058 natural language processing Methods 0.000 abstract 1
- 230000008569 process Effects 0.000 description 15
- 230000006870 function Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 206010039203 Road traffic accident Diseases 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006698 induction Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 206010012601 diabetes mellitus Diseases 0.000 description 1
- 208000019622 heart disease Diseases 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/18—Legal services; Handling legal documents
Abstract
本申请公开了文书的语义标签抽取、装置、电子设备及可读存储介质，涉及知识图谱、自然语言处理、深度学习领域。具体实现方案为：获取待抽取语义标签的目标文书；将所述目标文书输入目标抽取模型中，得到所述目标文书的语义标签，所述目标抽取模型通过对初始抽取模型进行训练得到，所述初始抽取模型用于执行语义标签识别任务以及角色信息识别任务，所述语义标签识别任务的结果和所述角色信息识别任务的结果用于调整所述初始抽取模型的参数；输出所述目标文书的语义标签。该方法能够使得语义标签的准确率高。
Description
技术领域
本申请实施例涉及计算机领域中的深度学习技术，尤其涉及一种文书的语义标签抽取、装置、电子设备及可读存储介质。
背景技术
法律文书中蕴含着丰富的知识，通过对法律文书的知识进行正确的归纳和抽取，能够加深对法律文书的理解，从而在检索相关性、推荐及辅助庭审等应用场景中发挥重要的作用。其中，归纳法律文书的语义标签，是一种重要的法律文书知识归纳和抽取方式。示例性的，对于“张三驾驶车辆A在路口发生交通事故”，可以将其归纳为“侵权人驾驶机动车”这一语义标签。
现有技术中，可以通过多分类的方式抽取法律文书的语义标签。具体的，将每个语义标签作为分类目标，通过机器学习计算原文分类到每个语义标签的概率，所有语义标签的概率之和为1，将概率最高的一个或多个语义标签作为原文的语义标签。
但是，使用现有技术的方法可能导致所抽取出的语义标签的准确率较低。
发明内容
本申请提供了一种文书的语义标签抽取、装置、电子设备及可读存储介质。
根据本申请的一方面，提供了一种文书的语义标签抽取方法，包括：
获取待抽取语义标签的目标文书；将所述目标文书输入目标抽取模型中，得到所述目标文书的语义标签，所述目标抽取模型通过对初始抽取模型进行训练得到，所述初始抽取模型用于执行语义标签识别任务以及角色信息识别任务，所述语义标签识别任务的结果和所述角色信息识别任务的结果用于调整所述初始抽取模型的参数；输出所述目标文书的语义标签。
根据本申请的另一方面，提供了一种文书的语义标签抽取装置，包括：
获取模块，用于获取待抽取语义标签的目标文书；处理模块，用于将所述目标文书输入目标抽取模型中，得到所述目标文书的语义标签，所述目标抽取模型通过对初始抽取模型进行训练得到，所述初始抽取模型用于执行语义标签识别任务以及角色信息识别任务，所述语义标签识别任务的结果和所述角色信息识别任务的结果用于调整所述初始抽取模型的参数；输出模块，用于输出所述目标文书的语义标签。
根据本申请的另一方面，提供了一种电子设备，包括：
至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述第一方面所述的方法。
根据本申请的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行上述第一方面所述的方法。
根据本申请的技术，将目标文书输入目标抽取模型后，可以得到目标文书的语义标签，该目标抽取模型是由初始抽取模型训练得到的，该初始抽取模型包括语义标签识别任务和角色信息识别任务，这两个任务的执行结果能够用来调整初始抽取模型的参数，而语义标签识别任务和角色信息识别任务是基于模型的参数执行的。因此，由于加入了角色信息识别这一任务，使得角色识别任务对模型的参数产生影响，进而，对基于该模型的参数执行的语义标签识别任务的执行结果产生影响，即使得模型在识别文书的语义标签时能够结合角色信息来识别。因此，训练得到的目标抽取模型抽取输入的目标文书的语义标签时，能够结合角色信息来识别，因此，能够使得语义标签的准确率高。另外，本实施例仅需要使用一个目标抽取模型即可完成对特定领域的所有语义标签的抽取，因此，相比于现有技术，还能够极大降低计算和存储的成本。
应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1为本申请实施例提供的文书的语义标签抽取方法的一种示例性的系统架构图；
图2为本申请实施例提供的文书的语义标签抽取方法的流程示意图；
图3为本申请实施例提供的文书的语义标签抽取方法的流程示意图；
图4为本申请实施例提供的文书的语义标签抽取方法的流程示意图；
图5为将训练文书输入初始抽取模型后得到语义标签识别任务的结果以及角色信息识别任务的结果的处理示意图；
图6为本申请实施例提供的一种文书的语义标签抽取装置的模块结构图；
图7是根据本申请实施例的文书的语义标签抽取的方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
现有技术中可以通过多分类的方式抽取法律文书的语义标签。具体是将每个语义标签作为分类目标，通过机器学习计算原文分类到每个语义标签的概率，所有语义标签的概率之和为1，将概率最高的一个或多个语义标签作为原文的语义标签。
现有技术的方法至少存在如下两个问题。
第一，在抽取语义标签时，未考虑角色信息，可能会导致所抽取出的语义标签不准确。因此，使用现有技术的方法可能导致语义标签的准确率较低。
例如，某个法律文书的原文为“张三驾驶车辆A在路口发生交通事故”，现有技术中未考虑“张三”的角色信息，因此抽取到的语义标签为“侵权人驾驶机动车”，但实际上“张三”的角色为受害人，即原文的正确语义标签应该为“受害人驾驶机动车”，因此，现有技术抽取的语义标签可能不准确。
第二，可能导致存储和计算成本过高。
现有技术将每个语义标签作为分类目标，因此，每个语义标签均需要一个模型进行判断。例如，对于100个语义标签，需要训练100个模型，每个模型用于识别特定的一个语义标签。实际应用中，语义标签的数量可能较多。语义标签的数量越多，则需要的模型越多，相应的，模型的计算和存储的成本越高。因此，使用现有技术的方法还可能导致模型的计算和存储成本过高。
考虑到现有技术中通过多分类方式抽取法律文书的语义标签所导致的语义标签准确率低以及计算和存储成本过高的问题，本申请实施例通过构建支持多任务的目标抽取模型，使得模型在识别文书的语义标签时能够结合角色信息，即将角色信息纳入语义标签识别过程中的影响因素，从而极大提升语义标签的准确率。同时，仅需要一个模型即可实现对所有语义标签的识别，因此，还可以极大降低模型的计算和存储成本。
图1为本申请实施例提供的文书的语义标签抽取方法的一种示例性的系统架构图，如图1所示，本申请实施例的方法涉及初始抽取模型和目标抽取模型。这两个模型的关系为：首先构建初始抽取模型，利用预先标注的数据训练该初始抽取模型，在初始抽取模型中执行语义标签识别任务和角色信息识别任务，根据两个任务的执行结果更新初始抽取模型的参数。当初始抽取模型训练完成后，将训练后的初始抽取模型作为上述目标抽取模型。该目标抽取模型进而可以用于本申请实施例的语义标签抽取的方法中。
在具体实施过程中，上述初始抽取模型和目标抽取模型可以运行在同一电子设备上，例如，训练上述初始抽取模型以得到上述目标抽取模型以及使用上述目标抽取模型进行文书的语义识别均在同一服务器中进行，或者，也可以运行在不同的电子设备上。本申请实施例对此不作具体限定。
图2为本申请实施例提供的文书的语义标签抽取方法的流程示意图，该方法的执行主体为运行上述目标抽取模型的电子设备，例如上述的服务器。如图2所示，该方法包括：
S201、获取待抽取语义标签的目标文书。
可选的，本申请实施例中所涉及的文书，可以是指法律文书，或者，也可以是指合同文书，或者，还可以是医疗领域的文书等。无论是何种领域的文书，只需要预先采集该领域的语义标签和角色信息，即可得到适用于该领域的目标抽取模型，并利用该领域的目标抽取模型完成该领域的海量文书的语义标签抽取。
示例性的，目标抽取模型运行在服务器上，则可以预先将文书保存在该服务器上。实际应用过程中，文书的数量可能较多甚至是海量的。服务器可以按照预设的顺序逐个将文书输入目标抽取模型中进行语义标签的抽取。该预设的顺序例如可以为文书创建的时间顺序、文书的名称顺序等。上述目标文书可以是指服务器需要使用目标抽取模型进行处理的任意一个文书。
示例性的，上述目标文书可以是包含较多文字的文件，或者，还可以是包含较多文字的图片，本申请实施例对于文书的具体形式不做限定。
S202、将上述目标文书输入目标抽取模型中，得到上述目标文书的语义标签，该目标抽取模型通过对初始抽取模型进行训练得到，该初始抽取模型用于执行语义标签识别任务以及角色信息识别任务，该语义标签识别任务的结果和该角色信息识别任务的结果用于调整上述初始抽取模型的参数。
示例性的，上述目标文书为包含“张三驾驶车辆A在路口发生交通事故”这一信息的法律文书，则将目标文书输入目标抽取模型后，可以由模型输出“受害人驾驶机动车”这一语义标签。
目标抽取模型是由初始抽取模型训练得到的。初始抽取模型为多任务模型，其中包括语义标签识别和角色信息识别这两个任务。对于输入初始抽取模型的一个文书，这两个任务均会产生一个执行结果，可以根据这两个任务的执行来修改初始抽取模型的参数。上述语义标签识别任务和角色信息识别这两个任务在执行时均是基于初始抽取模型的参数执行并得到执行结果的，因此，由于加入了角色信息识别这一任务，使得角色识别任务对模型的参数产生影响，进而，对基于该模型的参数执行的语义标签识别任务的执行结果产生影响，即使得模型在识别文书的语义标签时能够结合角色信息来识别。因此，训练得到的目标抽取模型抽取输入的目标文书的语义标签时，能够结合角色信息来识别，因此得到的语义标签的准确率高。
当应用在不同的领域时，上述角色信息识别任务所识别的角色的含义可以不同。示例性的，当文书为法律文书时，上述角色识别任务所识别的角色可以包括：侵权人、受害人等。当文书为合同文书时上述角色识别任务所识别的角色可以包括：原告、被告等。
值得说明的是，与初始抽取模型相同，目标抽取模型在接收到目标文书后，分别执行语义标签识别任务和角色信息识别任务，并分别得到执行结果。也就是说，目标抽取模型在输出语义标签的同时，也可以输出目标文书对应的角色信息。本申请实施例中，基于实际的需要，仅使用语义标签。在某些场景下，还可以使用目标抽取模型所输出的角色信息。
S203、输出上述目标文书的语义标签。
示例性的，假设目标文书为法律文书，则由上述目标抽取模型得到的语义标签例如可以为：原告诉请赔偿医疗费、原告诉请赔偿误工费、被告驾驶机动车、被告酒后驾驶、机动车与行人发生交通事故、支持医疗费诉请、支持误工费诉请等。假设目标文书为合同文书，则由上述目标抽取模型得到的语义标签例如可以为：原告违约、被告违约等。假设目标文书为医疗文书，则由上述目标抽取模型得到的语义标签例如可以为：心脏病的信息、糖尿病的信息等。
服务器输出上述目标文书的语义标签，例如可以是将目标文书的语义标签发送给终端设备，由终端设备进行显示。或者，由终端设备对语义标签进行统计分析等后续处理。
本实施例中，将目标文书输入目标抽取模型后，可以得到目标文书的语义标签，该目标抽取模型是由初始抽取模型训练得到的，该初始抽取模型包括语义标签识别任务和角色信息识别任务，这两个任务的执行结果能够用来调整初始抽取模型的参数，而语义标签识别任务和角色信息识别任务是基于模型的参数执行的。因此，由于加入了角色信息识别这一任务，使得角色识别任务对模型的参数产生影响，进而，对基于该模型的参数执行的语义标签识别任务的执行结果产生影响，即使得模型在识别文书的语义标签时能够结合角色信息来识别。因此，训练得到的目标抽取模型抽取输入的目标文书的语义标签时，能够结合角色信息来识别，因此，能够使得语义标签的准确率高。另外，本实施例仅需要使用一个目标抽取模型即可完成对特定领域的所有语义标签的抽取，因此，相比于现有技术，还能够极大降低计算和存储的成本。
以下说明对上述初始抽取模型进行训练以得到上述目标抽取模型的过程。
图3为本申请实施例提供的文书的语义标签抽取方法的流程示意图，如图3所示，训练初始抽取模型以得到目标抽取模型的过程包括：
S301、将预先标注的训练文书输入上述初始抽取模型，得到初始抽取模型的语义标签识别任务的结果以及角色信息识别任务的结果。
可选的，在预先标注文书时，可以标注文书的语义标签以及角色信息。例如，标注包含“张三驾驶车辆A在路口发生交通事故”这一信息的法律文书时，可以标注法律文书的语义标签为“受害人驾驶机动车”这一语义标签，同时，标注法律文书对应的角色信息为“受害人”。其中，针对一个特定的领域，可以预先梳理该领域的语义标签集合，该集合中可以包含该领域所有可能的语义标签，在标注文书时，所标注的文书的语义标签可以均是该语义标签集合中的语义标签。
相应的，上述训练文书的标注信息可以包括语义标签标注信息以及角色标注信息。
初始抽取模型具有当前的参数，将训练文书输入初始抽取模型后，初始抽取模型中的语义标签识别任务基于该当前的参数执行并得到一语义标签，同时，初始抽取模型中的角色信息识别任务基于该初始出参数执行并得到一角色信息。初始抽取模型将该语义标签以及该角色信息输出。
值得说明的是，具体实施时，初始抽取模型实际输出的可能为多个语义标签以及每个语义标签的概率信息，和/或，多个角色信息以及每个角色信息的概率信息，本实施例选择的为概率最大的一个语义标签以及角色信息。
S302、根据上述训练文书的标注信息、上述初始抽取模型当前的参数、上述语义标签识别任务的结果以及上述角色信息识别任务的结果，调整上述初始抽取模型当前的参数。
如前所述，训练文书的标注信息可以包括语义标签标注信息以及角色标注信息，代表了训练文书预期的语义标签以及角色信息，而语义标签识别任务的结果以及角色信息识别任务的结果是基于初始抽取模型当前的参数得到的，代表了初始抽取模型实际得到的结果，基于这些信息，可以对模型当前的参数进行调整，并作用于下一次的训练。
值得说明的是，具体实施过程中，初始抽取模型的训练为多次循环的过程。每一次循环时，均是基于模型当前的参数执行上述两个任务，并根据任务执行的结果调整模型的参数，将调整后的参数作为新的当前的参数并进入下一次循环训练，直至某一次训练结果足够收敛，即任务实际执行结果与训练文书的标注信息足够接近时，不再调整模型的参数，并将该次训练所使用的初始抽取模型作为目标抽取模型。
本实施例中，初始抽取模型在每一次训练时，首先基于当前的参数执行语义标签识别任务和角色信息识别任务并分别得到执行结果，进而，基于训练文书的标注信息、当前的参数以及模型的实际执行结果，调整模型的参数，即将角色信息识别的结果作用于模型参数的调整，进而使得模型参数更加的准确。
以下说明上述步骤S302中调整初始抽取模型的参数的一种可选方式。
图4为本申请实施例提供的文书的语义标签抽取方法的流程示意图，如图4所示，上述步骤S302中调整模型参数的一种可选方式包括：
S401、根据上述训练文书的标注信息、上述初始抽取模型当前的参数以及上述语义标签识别任务的结果，确定上述语义标签识别任务的损失信息。
可选的，可以基于预设的语义标签损失函数计算得到语义标签识别任务的损失信息。具体的，以上述训练文书的标注信息、初始抽取模型当前的参数以及语义标签识别任务的结果作为语义标签损失函数的输入参数，可以计算出语义标签损失函数的结果，该结果即为语义标签识别任务的损失信息。
S402、根据上述训练文书的标注信息、上述初始抽取模型当前的参数以及上述角色信息识别任务的结果，确定上述角色信息识别任务的损失信息。
可选的，可以基于预设的角色信息损失函数计算得到角色信息识别任务的损失信息。具体的，以上述训练文书的标注信息、初始抽取模型当前的参数以及角色信息识别任务的结果作为角色信息损失函数的输入参数，可以计算出角色信息损失函数的结果，该结果即为角色信息识别任务的损失信息。
S403、根据上述语义标签识别任务的损失信息以及上述角色信息识别任务的损失信息，调整上述初始抽取模型当前的参数。
在得到上述语义标签识别任务的损失信息以及上述角色信息识别任务的损失信息后，可以将这两种损失信息同时作用于初始抽取模型以调整初始抽取模型的参数。
本实施例中，分别确定出语义标签识别任务的损失信息以及上述角色信息识别任务的损失信息，其中，语义标签识别任务的损失信息能够表征模型的参数在语义标签识别上所达到的准确性，而角色信息识别任务的损失信息能够表征模型的参数在角色识别上所达到的准确性，同时基于这两种损失信息调整模型的参数，能够使得调整后的参数在语义标签识别时能够基于更加正确的角色信息进行识别，进而使得模型参数更加的准确。
作为一种可选的实施方式，上述步骤S403中在根据上述语义标签识别任务的损失信息以及上述角色信息识别任务的损失信息，调整上述初始抽取模型当前的参数时，可以按照如下方式处理。
首先，将上述语义标签识别任务的损失信息与角色损失信息相加，得到上述初始抽取模型的损失信息，上述角色损失信息为上述角色信息识别任务的损失信息与预设权重值的乘积。进而，使用上述初始抽取模型的损失信息，调整上述初始抽取模型当前的参数。
在上述过程中，为角色识别任务的损失信息乘以预设权重值后与语义标签识别任务的损失信息相加，作为整个初始抽取模型的损失信息。
示例性的，假设语义标签识别任务的损失信息为loss1，角色识别任务的损失信息为loss2，预设权重值为α。则可以使用下述公式(1)计算得到初始抽取模型的损失信息final_loss。
final_loss＝loss1+αγloss2 (1)
上述预设权重值可以根据实际场景的需要进行灵活设置，如果场景对于角色信息的要求较高，则可以将预设权重值设置的较高，以使得角色信息在模型处理中发挥更加重要的作用。
本实施例中，通过为角色识别任务的损失信息乘以预设权重值，可以控制角色信息在模型输出结果中的作用，进而，可以极大提升模型处理的灵活性。
作为一种可选的实施方式，上述预设权重值可以为大于0且小于1的数值。
将上述预设权重值设置为大于0且小于1的数值，可以使得角色信息在模型处理中的重要程度小于或者等于语义标签信息，进而使得模型在保证语义标签信息的准确率的同时角色信息的准确率也得以保证。
以下说明上述步骤S301中将训练文书输入初始抽取模型后，初始抽取模型的处理过程。
可选的，将上述训练文书输入上述初始抽取模型，由上述初始抽取模型生成上述初始抽取模型待学习的参数个数以及表征上述训练文书的向量，并以上述训练文书的向量和基于上述参数个数所得到的上述初始抽取模型当前的参数，分别作为上述语义标签识别任务的输入信息以及上述角色信息识别任务的输入信息，执行上述语义标签识别任务以及上述角色信息识别任务，上述语义标签识别任务的结果以及上述角色信息识别任务的结果。
可选的，上述语义标签识别任务和角色信息识别任务可以以向量作为输入，因此，初始抽取模型可以在执行这两个任务之前，首先生成训练文书的向量。通过这种方式，可以使得语义标签识别任务和角色信息识别任务的执行效率有极大提升。初始抽取模型在生成训练文书的向量的同时，还同时生成参数个数，假设该参数为m，则表明本次的训练文书需要模型基于m个参数来处理得到上述两个任务的结果，因此，模型可以从上一次训练所得到的参数中选择m个参数并用于上述两个任务的执行，可以进一步提升任务结果的准确性。
作为一种可选的实施方式，初始抽取模型可以利用一个子网络生成待学习的参数个数以及训练文书的向量。该子网络可以称为第一网络。初始抽取模型可以使用该第一网络生成上述待学习的参数个数以及表征上述训练文书的向量集合，该向量集合包括至少一个向量，每个向量对应至少一个子参数，各向量的子参数之和为上述待学习的参数个数。
可选的，模型中包括上述第一网络，模型接收到训练文书后，首先经由该第一网络对训练文书进行处理，得到训练文书对应的向量集合以及待学习的参数个数。
示例性的，第一网络基于训练文书输出的向量集合为下述公式(2)所示。
y＝(k11+k12+k13)x1+(k21+k22+k23)x2 (2)
则说明该向量集合中包括2个向量，分别为x1和x2，其中，x1的参数个数为3个，x1的参数个数为3个，待学习的参数个数为6个。
本实施例中，初始抽取模型利用第一网络生成上述待学习的参数个数以及表征上述训练文书的向量集合，使得这些信息可以直接用于后续的任务处理，从而使得模型的耦合性小，处理效率高。
在具体实施过程中，上述第一网络例如可以为长短期记忆网络(Long Short-TermMemory，简称LSTM)、卷积神经网络(Convolutional Neural Networks，简称CNN)等网络。以LSTM网络为例，将训练文书输入该网络后，该网络可以输出包含前向向量和后向向量的向量集合。
图5为将训练文书输入初始抽取模型后得到语义标签识别任务的结果以及角色信息识别任务的结果的处理示意图，如图5所示，假设第一网络为LSTM网络，将训练文书输入初始抽取模型后，首先由LSTM网络对训练文书进行处理，得到训练文书的前向向量和后向向量，模型基于该两个向量，得到对应数量的当前的参数，并将该当前的参数作为语义标签识别任务以及角色信息识别任务的输入，分别得到这两个任务的执行结果。在此之后，还可以继续基于该执行结果计算本次训练的损失信息，基于损失信息调整模型的参数并用于下一次的训练。
图6为本申请实施例提供的一种文书的语义标签抽取装置的模块结构图，如图6所示，该装置包括：
获取模块601，用于获取待抽取语义标签的目标文书。
处理模块602，用于将所述目标文书输入目标抽取模型中，得到所述目标文书的语义标签，所述目标抽取模型通过对初始抽取模型进行训练得到，所述初始抽取模型用于执行语义标签识别任务以及角色信息识别任务，所述语义标签识别任务的结果和所述角色信息识别任务的结果用于调整所述初始抽取模型的参数。
输出模块603，用于输出所述目标文书的语义标签。
作为一种可选的实施方式，处理模块602还用于：
将预先标注的训练文书输入所述初始抽取模型，得到初始抽取模型的语义标签识别任务的结果以及所述角色信息识别任务的结果；以及，根据所述训练文书的标注信息、所述初始抽取模型当前的参数、所述语义标签识别任务的结果以及所述角色信息识别任务的结果，调整所述初始抽取模型当前的参数。
作为一种可选的实施方式，处理模块602具体用于：
根据所述训练文书的标注信息、所述初始抽取模型当前的参数以及所述语义标签识别任务的结果，确定所述语义标签识别任务的损失信息；以及，根据所述训练文书的标注信息、所述初始抽取模型当前的参数以及所述角色信息识别任务的结果，确定所述角色信息识别任务的损失信息；以及，根据所述语义标签识别任务的损失信息以及所述角色信息识别任务的损失信息，调整所述初始抽取模型当前的参数。
作为一种可选的实施方式，处理模块602具体用于：
将所述语义标签识别任务的损失信息与角色损失信息相加，得到所述初始抽取模型的损失信息，所述角色损失信息为所述角色信息识别任务的损失信息与预设权重值的乘积；以及，使用所述初始抽取模型的损失信息，调整所述初始抽取模型当前的参数。
作为一种可选的实施方式，所述预设权重值为大于0且小于1的数值。
作为一种可选的实施方式，处理模块602具体用于：
将所述训练文书输入所述初始抽取模型，由所述初始抽取模型生成所述初始抽取模型待学习的参数个数以及表征所述训练文书的向量，并以所述训练文书的向量和基于所述参数个数所得到的所述初始抽取模型当前的参数，分别作为所述语义标签识别任务的输入信息以及所述角色信息识别任务的输入信息，执行所述语义标签识别任务以及所述角色信息识别任务，得到所述语义标签识别任务的结果以及所述角色信息识别任务的结果。
作为一种可选的实施方式，处理模块602具体用于：
由所述初始抽取模型使用第一网络生成所述待学习的参数个数以及表征所述训练文书的向量集合，所述向量集合包括至少一个向量，每个向量对应至少一个子参数，各向量的子参数之和为所述待学习的参数个数。
作为一种可选的实施方式，所述第一网络为LSTM。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图7所示，是根据本申请实施例的文书的语义标签抽取的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示，该电子设备包括：一个或多个处理器701、存储器702，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图7中以一个处理器701为例。
存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的文书的语义标签抽取的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的文书的语义标签抽取的方法。
存储器702作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的文书的语义标签抽取的方法对应的程序指令/模块(例如，附图6所示的获取模块601、处理模块602和输出模块603)。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的文书的语义标签抽取的方法。
存储器702可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据文书的语义标签抽取的电子设备的使用所创建的数据等。此外，存储器702可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器702可选包括相对于处理器701远程设置的存储器，这些远程存储器可以通过网络连接至文书的语义标签抽取的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
文书的语义标签抽取的方法的电子设备还可以包括：输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接，图7中以通过总线连接为例。
输入装置703可接收输入的数字或字符信息，以及产生与文书的语义标签抽取的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。
Claims (18)
1.一种文书的语义标签抽取方法，包括：
获取待抽取语义标签的目标文书；
将所述目标文书输入目标抽取模型中，得到所述目标文书的语义标签，所述目标抽取模型通过对初始抽取模型进行训练得到，所述初始抽取模型用于执行语义标签识别任务以及角色信息识别任务，所述语义标签识别任务的结果和所述角色信息识别任务的结果用于调整所述初始抽取模型的参数；
输出所述目标文书的语义标签。
2.根据权利要求1所述的方法，所述将所述目标文书输入目标抽取模型中，得到所述目标文书的语义标签之前，还包括：
将预先标注的训练文书输入所述初始抽取模型，得到初始抽取模型的语义标签识别任务的结果以及所述角色信息识别任务的结果；
根据所述训练文书的标注信息、所述初始抽取模型当前的参数、所述语义标签识别任务的结果以及所述角色信息识别任务的结果，调整所述初始抽取模型当前的参数。
3.根据权利要求2所述的方法，其中，所述根据所述训练文书的标注信息、所述初始抽取模型当前的参数、所述语义标签识别任务的结果以及所述角色信息识别任务的结果，调整所述初始抽取模型当前的参数，包括：
根据所述训练文书的标注信息、所述初始抽取模型当前的参数以及所述语义标签识别任务的结果，确定所述语义标签识别任务的损失信息；
根据所述训练文书的标注信息、所述初始抽取模型当前的参数以及所述角色信息识别任务的结果，确定所述角色信息识别任务的损失信息；
根据所述语义标签识别任务的损失信息以及所述角色信息识别任务的损失信息，调整所述初始抽取模型当前的参数。
4.根据权利要求3所述的方法，其中，所述根据所述语义标签识别任务的损失信息以及所述角色信息识别任务的损失信息，调整所述初始抽取模型当前的参数，包括：
将所述语义标签识别任务的损失信息与角色损失信息相加，得到所述初始抽取模型的损失信息，所述角色损失信息为所述角色信息识别任务的损失信息与预设权重值的乘积；
使用所述初始抽取模型的损失信息，调整所述初始抽取模型当前的参数。
5.根据权利要求4所述的方法，其特征在于，所述预设权重值为大于0且小于1的数值。
6.根据权利要求2-5任一项所述的方法，其中，所述将预先标注的训练文书输入所述初始抽取模型，得到初始抽取模型的语义标签识别任务的结果以及所述角色信息识别任务的结果，包括：
将所述训练文书输入所述初始抽取模型，由所述初始抽取模型生成所述初始抽取模型待学习的参数个数以及表征所述训练文书的向量，并以所述训练文书的向量和基于所述参数个数所得到的所述初始抽取模型当前的参数，分别作为所述语义标签识别任务的输入信息以及所述角色信息识别任务的输入信息，执行所述语义标签识别任务以及所述角色信息识别任务，得到所述语义标签识别任务的结果以及所述角色信息识别任务的结果。
7.根据权利要求6所述的方法，其中，所述由所述初始抽取模型生成所述初始抽取模型待学习的参数个数以及表征所述训练文书的向量，包括：
由所述初始抽取模型使用第一网络生成所述待学习的参数个数以及表征所述训练文书的向量集合，所述向量集合包括至少一个向量，每个向量对应至少一个子参数，各向量的子参数之和为所述待学习的参数个数。
8.根据权利要求7所述的方法，其中，所述第一网络为长短期记忆网络LSTM。
9.一种文书的语义标签抽取装置，包括：
获取模块，用于获取待抽取语义标签的目标文书；
处理模块，用于将所述目标文书输入目标抽取模型中，得到所述目标文书的语义标签，所述目标抽取模型通过对初始抽取模型进行训练得到，所述初始抽取模型用于执行语义标签识别任务以及角色信息识别任务，所述语义标签识别任务的结果和所述角色信息识别任务的结果用于调整所述初始抽取模型的参数；
输出模块，用于输出所述目标文书的语义标签。
10.根据权利要求9所述的装置，其中，所述处理模块还用于：将预先标注的训练文书输入所述初始抽取模型，得到初始抽取模型的语义标签识别任务的结果以及所述角色信息识别任务的结果；
根据所述训练文书的标注信息、所述初始抽取模型当前的参数、所述语义标签识别任务的结果以及所述角色信息识别任务的结果，调整所述初始抽取模型当前的参数。
11.根据权利要求10所述的装置，其中，所述处理模块具体用于根据所述训练文书的标注信息、所述初始抽取模型当前的参数以及所述语义标签识别任务的结果，确定所述语义标签识别任务的损失信息；
根据所述训练文书的标注信息、所述初始抽取模型当前的参数以及所述角色信息识别任务的结果，确定所述角色信息识别任务的损失信息；
根据所述语义标签识别任务的损失信息以及所述角色信息识别任务的损失信息，调整所述初始抽取模型当前的参数。
12.根据权利要求11所述的装置，其中，所述处理模块具体用于将所述语义标签识别任务的损失信息与角色损失信息相加，得到所述初始抽取模型的损失信息，所述角色损失信息为所述角色信息识别任务的损失信息与预设权重值的乘积；
使用所述初始抽取模型的损失信息，调整所述初始抽取模型当前的参数。
13.根据权利要求12所述的装置，其特征在于，所述预设权重值为大于0且小于1的数值。
14.根据权利要求10-13任一项所述的装置，其中，所述处理模块具体用于将所述训练文书输入所述初始抽取模型，由所述初始抽取模型生成所述初始抽取模型待学习的参数个数以及表征所述训练文书的向量，并以所述训练文书的向量和基于所述参数个数所得到的所述初始抽取模型当前的参数，分别作为所述语义标签识别任务的输入信息以及所述角色信息识别任务的输入信息，执行所述语义标签识别任务以及所述角色信息识别任务，得到所述语义标签识别任务的结果以及所述角色信息识别任务的结果。
15.根据权利要求14所述的装置，其中，所述处理模块具体用于由所述初始抽取模型使用第一网络生成所述待学习的参数个数以及表征所述训练文书的向量集合，所述向量集合包括至少一个向量，每个向量对应至少一个子参数，各向量的子参数之和为所述待学习的参数个数。
16.根据权利要求15所述的装置，其中，所述第一网络为长短期记忆网络LSTM。
17.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010507207.3A CN111666771B (zh) | 2020-06-05 | 2020-06-05 | 文书的语义标签抽取、装置、电子设备及可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010507207.3A CN111666771B (zh) | 2020-06-05 | 2020-06-05 | 文书的语义标签抽取、装置、电子设备及可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111666771A true CN111666771A (zh) | 2020-09-15 |
| CN111666771B CN111666771B (zh) | 2024-03-08 |
Family
ID=72386894
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010507207.3A Active CN111666771B (zh) | 2020-06-05 | 2020-06-05 | 文书的语义标签抽取、装置、电子设备及可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111666771B (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112269884A (zh) * | 2020-11-13 | 2021-01-26 | 北京百度网讯科技有限公司 | 信息抽取方法、装置、设备及存储介质 |
| CN113051926A (zh) * | 2021-03-01 | 2021-06-29 | 北京百度网讯科技有限公司 | 文本抽取方法、设备和存储介质 |
| CN113591917A (zh) * | 2021-06-29 | 2021-11-02 | 深圳市捷顺科技实业股份有限公司 | 一种数据增强的方法及装置 |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20120315009A1 (en) * | 2011-01-03 | 2012-12-13 | Curt Evans | Text-synchronized media utilization and manipulation |
| CN108009284A (zh) * | 2017-12-22 | 2018-05-08 | 重庆邮电大学 | 采用半监督卷积神经网络的法律文本分类方法 |
| CN109543178A (zh) * | 2018-11-01 | 2019-03-29 | 银江股份有限公司 | 一种司法文本标签体系构建方法及系统 |
| CN109992782A (zh) * | 2019-04-02 | 2019-07-09 | 深圳市华云中盛科技有限公司 | 法律文书命名实体识别方法、装置及计算机设备 |
| CN110192203A (zh) * | 2016-11-03 | 2019-08-30 | 易享信息技术有限公司 | 用于多个自然语言处理(nlp)任务的联合多任务神经网络模型 |
| CN110347839A (zh) * | 2019-07-18 | 2019-10-18 | 湖南数定智能科技有限公司 | 一种基于生成式多任务学习模型的文本分类方法 |
| CN110472235A (zh) * | 2019-07-22 | 2019-11-19 | 北京航天云路有限公司 | 一种面向中文文本的端到端实体关系联合抽取方法 |
| US20190355366A1 (en) * | 2018-05-18 | 2019-11-21 | Emotech Ltd | Speaker recognition |
| CN110688856A (zh) * | 2019-10-08 | 2020-01-14 | 杭州费尔斯通科技有限公司 | 一种裁判文书信息提取方法 |
| US20200097718A1 (en) * | 2018-09-26 | 2020-03-26 | Leverton Holding Llc | Named entity recognition with convolutional networks |
| CN111104520A (zh) * | 2019-11-21 | 2020-05-05 | 新华智云科技有限公司 | 一种基于人物身份的人物实体链接方法 |
| US20200143162A1 (en) * | 2017-10-20 | 2020-05-07 | Alibaba Group Holding Limited | Document verification and identity verification method and device |
-
2020
- 2020-06-05 CN CN202010507207.3A patent/CN111666771B/zh active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20120315009A1 (en) * | 2011-01-03 | 2012-12-13 | Curt Evans | Text-synchronized media utilization and manipulation |
| CN110192203A (zh) * | 2016-11-03 | 2019-08-30 | 易享信息技术有限公司 | 用于多个自然语言处理(nlp)任务的联合多任务神经网络模型 |
| US20200143162A1 (en) * | 2017-10-20 | 2020-05-07 | Alibaba Group Holding Limited | Document verification and identity verification method and device |
| CN108009284A (zh) * | 2017-12-22 | 2018-05-08 | 重庆邮电大学 | 采用半监督卷积神经网络的法律文本分类方法 |
| US20190355366A1 (en) * | 2018-05-18 | 2019-11-21 | Emotech Ltd | Speaker recognition |
| US20200097718A1 (en) * | 2018-09-26 | 2020-03-26 | Leverton Holding Llc | Named entity recognition with convolutional networks |
| CN109543178A (zh) * | 2018-11-01 | 2019-03-29 | 银江股份有限公司 | 一种司法文本标签体系构建方法及系统 |
| CN109992782A (zh) * | 2019-04-02 | 2019-07-09 | 深圳市华云中盛科技有限公司 | 法律文书命名实体识别方法、装置及计算机设备 |
| CN110347839A (zh) * | 2019-07-18 | 2019-10-18 | 湖南数定智能科技有限公司 | 一种基于生成式多任务学习模型的文本分类方法 |
| CN110472235A (zh) * | 2019-07-22 | 2019-11-19 | 北京航天云路有限公司 | 一种面向中文文本的端到端实体关系联合抽取方法 |
| CN110688856A (zh) * | 2019-10-08 | 2020-01-14 | 杭州费尔斯通科技有限公司 | 一种裁判文书信息提取方法 |
| CN111104520A (zh) * | 2019-11-21 | 2020-05-05 | 新华智云科技有限公司 | 一种基于人物身份的人物实体链接方法 |
Non-Patent Citations (4)
| Title |
|---|
| WEI QUAN: "End-to-End Joint Opinion Role Labeling with BERT", 《2019 IEEE INTERNATIONAL CONFERENCE ON BIG DATA (BIG DATA)》, pages 398 - 400 * |
| 杨泽: "面向司法领域的多标签分类的研究与实现", 《中国优秀硕士学位论文全文数据库 社会科学Ⅰ辑》 * |
| 焦李成等: "《简明人工智能》", pages: 398 - 400 * |
| 贺瑞芳;段绍杨;: "基于多任务学习的中文事件抽取联合模型", 软件学报, no. 04 * |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112269884A (zh) * | 2020-11-13 | 2021-01-26 | 北京百度网讯科技有限公司 | 信息抽取方法、装置、设备及存储介质 |
| CN112269884B (zh) * | 2020-11-13 | 2024-03-05 | 北京百度网讯科技有限公司 | 信息抽取方法、装置、设备及存储介质 |
| CN113051926A (zh) * | 2021-03-01 | 2021-06-29 | 北京百度网讯科技有限公司 | 文本抽取方法、设备和存储介质 |
| CN113051926B (zh) * | 2021-03-01 | 2023-06-23 | 北京百度网讯科技有限公司 | 文本抽取方法、设备和存储介质 |
| CN113591917A (zh) * | 2021-06-29 | 2021-11-02 | 深圳市捷顺科技实业股份有限公司 | 一种数据增强的方法及装置 |
| CN113591917B (zh) * | 2021-06-29 | 2024-04-09 | 深圳市捷顺科技实业股份有限公司 | 一种数据增强的方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111666771B (zh) | 2024-03-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111967268A (zh) | 文本中的事件抽取方法、装置、电子设备和存储介质 | |
| CN111639710A (zh) | 图像识别模型训练方法、装置、设备以及存储介质 | |
| CN111221984A (zh) | 多模态内容处理方法、装置、设备及存储介质 | |
| CN111625635A (zh) | 问答处理、语言模型的训练方法、装置、设备及存储介质 | |
| CN111666771B (zh) | 文书的语义标签抽取、装置、电子设备及可读存储介质 | |
| CN111325020A (zh) | 一种事件论元抽取方法、装置以及电子设备 | |
| CN112001180A (zh) | 多模态预训练模型获取方法、装置、电子设备及存储介质 | |
| CN111104514A (zh) | 文档标签模型的训练方法及装置 | |
| CN112241764A (zh) | 图像识别方法、装置、电子设备及存储介质 | |
| CN111259671A (zh) | 文本实体的语义描述处理方法、装置及设备 | |
| CN111695519B (zh) | 关键点定位方法、装置、设备以及存储介质 | |
| CN111241838B (zh) | 文本实体的语义关系处理方法、装置及设备 | |
| CN111127191B (zh) | 风险评估方法及装置 | |
| CN112001169A (zh) | 文本纠错的方法、装置、电子设备和可读存储介质 | |
| CN111680517A (zh) | 用于训练模型的方法、装置、设备以及存储介质 | |
| CN112149741A (zh) | 图像识别模型的训练方法、装置、电子设备及存储介质 | |
| CN111078878A (zh) | 文本处理方法、装置、设备及计算机可读存储介质 | |
| CN111782785B (zh) | 自动问答方法、装置、设备以及存储介质 | |
| CN111090991A (zh) | 场景纠错方法、装置、电子设备和存储介质 | |
| CN111241810A (zh) | 标点预测方法及装置 | |
| CN112270168A (zh) | 对白情感风格预测方法、装置、电子设备及存储介质 | |
| CN111582477B (zh) | 神经网络模型的训练方法和装置 | |
| CN112580666A (zh) | 图像特征的提取方法、训练方法、装置、电子设备及介质 | |
| CN111967591A (zh) | 神经网络自动剪枝方法、装置及电子设备 | |
| CN112270169B (zh) | 对白角色预测方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |