CN112001169B - 文本纠错的方法、装置、电子设备和可读存储介质 - Google Patents
文本纠错的方法、装置、电子设备和可读存储介质 Download PDFInfo
- Publication number
- CN112001169B CN112001169B CN202010692628.8A CN202010692628A CN112001169B CN 112001169 B CN112001169 B CN 112001169B CN 202010692628 A CN202010692628 A CN 202010692628A CN 112001169 B CN112001169 B CN 112001169B
- Authority
- CN
- China
- Prior art keywords
- text
- word
- processed
- error correction
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/232—Orthographic correction, e.g. spell checking or vowelisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Abstract
本申请公开了一种文本纠错的方法、装置、电子设备和可读存储介质,涉及深度学习、自然语言处理技术领域。本申请在进行文本纠错时所采用的实现方案为:获取待处理文本,并从所述待处理文本中提取语义向量;将所述语义向量输入至文本纠错模型,得到所述文本纠错模型输出的文本纠错信息,所述文本纠错信息包含所述待处理文本中每个字的检错信息以及候选字信息;根据所述检错信息,确定所述待处理文本中出现错误的字作为目标字;根据所述目标字对应的候选字信息,从预设字表中选取相应的候选字替换所述目标字,得到所述待处理文本的纠错结果。本申请能够提升文本纠错的准确性以及效率。
Description
技术领域
本申请涉及人工智能技术领域,尤其涉及自然语言处理技术领域中的一种文本纠错的方法、装置、电子设备和可读存储介质。
背景技术
文本纠错是指对文本中出现错误的内容进行纠正的过程。现有技术在进行文本纠错时通常采用错误检测以及候选召回这两个步骤实现文本纠错。但是错误检测和候选召回通常是两个独立的任务,即先进行错误检测找到文本中的“可疑位置”,然后再进行候选召回针对“可疑位置”找到正确的候选。因此现有技术在进行文本纠错时,无法保证错误检测以及候选召回的一致性,从而导致文本纠错的效率、准确性较低。
发明内容
本申请为解决技术问题所采用的技术方案是提供一种文本纠错的方法,包括:获取待处理文本,并从所述待处理文本中提取语义向量;将所述语义向量输入至文本纠错模型,得到所述文本纠错模型输出的文本纠错信息,所述文本纠错信息包含所述待处理文本中每个字的检错信息以及候选字信息;根据所述检错信息,确定所述待处理文本中出现错误的字作为目标字;根据所述目标字对应的候选字信息,从预设字表中选取相应的候选字替换所述目标字,得到所述待处理文本的纠错结果。
本申请为解决技术问题所采用的技术方案是提供一种文本纠错的装置,包括:提取单元,用于获取待处理文本,并从所述待处理文本中提取语义向量;处理单元,用于将所述语义向量输入至文本纠错模型,得到所述文本纠错模型输出的文本纠错信息,所述文本纠错信息包含所述待处理文本中每个字的检错信息以及候选字信息;检错单元,用于根据所述检错信息,确定所述待处理文本中出现错误的字作为目标字;纠正单元,用于根据所述目标字对应的候选字信息,从预设字表中选取相应的候选字替换所述目标字,得到所述待处理文本的纠错结果。
一种电子设备,其特征在于,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述方法。
一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行上述方法。
一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现上述方法。
上述申请中的一个实施例具有如下优点或有益效果:本申请能够保证文本纠错中的错误检测与候选召回具有一致性,并提升文本纠错的准确性以及效率。因为采用了通过文本纠错模型得到待处理文本中每个字所对应的检错信息以及候选字信息的技术手段,所以克服了现有技术中错误检测以及候选召回通常是独立进行的技术问题,实现了保证文本纠错中的错误检测与候选召回具有一致性的同时,提升文本纠错的准确性以及效率的技术效果。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请第一实施例的示意图;
图2是根据本申请第二实施例的示意图;
图3是根据本申请第三实施例的示意图;
图4是用来实现本申请实施例的文本纠错方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本申请第一实施例的示意图。如图1中所示,本实施例的文本纠错的方法,具体可以包括如下步骤:
S101、获取待处理文本,并从所述待处理文本中提取语义向量;
S102、将所述语义向量输入至文本纠错模型,得到所述文本纠错模型输出的文本纠错信息,所述文本纠错信息包含所述待处理文本中每个字的检错信息以及候选字信息;
S103、根据所述检错信息,确定所述待处理文本中出现错误的字作为目标字;
S104、根据所述目标字对应的候选字信息,从预设字表中选取相应的候选字替换所述目标字,得到所述待处理文本的纠错结果。
本实施例的文本纠错的方法,通过文本纠错模型得到待处理文本中每个字所对应的检错信息以及候选字信息,对待处理文本中出现错误的字进行纠正,从而得到待处理文本的纠错结果,在保证了文本纠错中的错误检测与候选召回具有一致性的同时,提升了文本纠错的准确性以及效率。
本实施例在执行S101获取待处理文本时,可以将用户输入的文本作为待处理文本,也可以将用户输入的图像进行OCR光学字符识别所得到的文本作为待处理文本,还可以将用户输入的语音进行语音识别所得到的文本作为待处理文本。因此,本实施例的文本纠错方法可以适用于多种应用场景,例如用户进行文本编辑、用户进行语音交互等。
本实施例的S101在获取了待处理文本之后,从所获取的待处理文本中提取语义向量,提取得到的语义向量用于表示待处理文本的语义信息。
本实施例在执行S101从待处理文本中提取语义向量时,可以以词粒度对待处理文本进行切分之后,获取待处理文本中各词语的语义向量,例如使用基于词粒度的预训练语言模型来提取待处理文本中各词语的语义向量。但是,由于中文词语的数量要远远大于中文字的数量,导致在以词粒度提取文本的语义向量时,过程较为复杂、且准确性较低。
因此,本实施例在执行S101从待处理文本中提取语义向量时,可以采用的可选实现方式为:对待处理文本进行字粒度的切分,得到待处理文本中的每个字;将待处理文本中的每个字输入预训练语言模型,得到预训练语言模型输出的对应各字的语义向量。
其中,本实施例所使用的预训练语言模型通过在大量的优质文本上基于字粒度的建模而训练得到,因此该预训练语言模型无需依赖其他信息,即可学习到文本中各字的语义信息。因此,本实施例通过预训练语言模型来基于字粒度对待处理文本中的语义向量进行提取,能够提升语义向量提取的准确性以及便捷性,从而进一步提高文本纠错的准确性。
本实施例在执行S101从待处理文本中提取语义向量之后,执行S102将所提取的语义向量输入至文本纠错模型,从而得到文本纠错模型输出的文本纠错信息,所得到的文本纠错信息包含待处理文本中每个字的检错信息以及每个字的候选字信息。其中,本实施例中所使用的文本纠错模型是预先训练得到的,具体的训练过程在本申请第二实施例中描述。
本实施例执行S102所获取的文本纠错信息中的检错信息,用于表明待处理文本中的各字是正确还是错误,可以使用1表示当前字正确,使用0表示当前字错误;本实施例执行S102所获取的文本纠错信息中的候选字信息,用于表明待处理文本中的各字与预设字表中各候选字对应的概率值,因此本实施例所获取的对应各字的候选字信息中所包含概率值的数量与预设字表中候选字的数量相同。
举例来说,若本实施例中的预设字表包含有4个候选字(萌,们,我,莪),若所获取的待处理文本为“我门”,在将从待处理文本“我门”提取的语义向量输入至文本纠错模型之后,文本纠错模型针对“我”字输出的文本纠错信息可以为{1;(0,0,0.9,0.1)},针对“门”字输出的文本纠错信息可以为{0;(0.2,0.8,0,0)}。
在针对“我”字的文本纠错信息中,第1个数字“1”为检错信息,用于表明该字正确,括号内的4个数字为候选字信息,用于表明“我”字分别与预设字表中各候选字对应的概率值,例如与“萌”对应的概率值为0、与“们”对应的概率值为0、与“我”对应的概率值为0.9、与“莪”对应的概率值为0.1;类似地,在针对“门”字的文本纠错信息中,第1个数字“0”表明该字错误,括号内的4个数字分别表明“门”字与预设字表中各候选字对应的概率值为0.2、0.8、0以及0。
本实施例在执行S102得到待处理文本中对应各字的文本纠错信息之后,执行S103根据文本纠错信息中的检错信息,将待处理文本中出现错误的字作为目标字。
若本实施例中以“1”表示正确,“0”表示错误的形式来表示检错信息,则本实施例执行S103时是将待处理文本中检错信息为“0”的字查找出来,作为需要进行纠正的目标字。
本实施例的S103在确定了待处理文本中出现错误的目标字之后,执行S104根据目标字对应的候选字信息,从预设字表中选取相应的候选字对目标字进行替换,从而得到待处理文本的纠错结果。其中,本实施例中的预设字表中包含多个候选字。
本实施例在执行S104根据目标字对应的候选字信息,从预设字表中选取相应的候选字替换所述目标字时,可以根据候选字信息选取预设字表中对应最高概率值的候选字来替换目标词。
举例来说,若预设字表为(萌,们,我,莪),针对“门”字输出的文本纠错信息为{0;(0.2,0.8,0,0)},则可以使用预设字表中对应最高概率值0.8的“们”字来替换“门”字。
为了避免文本纠错模型输出的文本纠错信息有误,从而提升文本纠错的准确性,本实施例在执行S104根据目标字对应的候选字信息,从预设字表中选取相应的候选字替换所述目标字时,可以采用的可选实现方式为:根据目标字对应的候选字信息,从预设字表中选取多个候选字,例如从预设字表中选取概率值超过预设阈值的候选字;计算所选取的候选字与待处理文本之间的语义相似度;选取与待处理文本具有最高语义相似度的候选字,替换目标字。
采用本实施例所提供的上述方法,通过文本纠错模型得到待处理文本中每个字所对应的检错信息以及候选字信息之后,首先根据检错信息确定待处理文本中出现错误的字,然后再根据候选字信息从预设字表中选取相应的字进行替换,从而得到待处理文本的纠错结果,从而在保证了文本纠错中的错误检测与候选召回具有一致性的同时,提升了文本纠错的准确性以及效率。
图2是根据本申请第二实施例的示意图。如图2中所示,本实施例在训练得到文本纠错模型时,具体可以包括如下步骤:
S201、获取训练文本,并从所述训练文本中提取语义向量;
S202、对所述训练文本中每个字的检错信息以及候选字信息进行标注;
S203、根据所述训练文本的语义向量、所述训练文本中每个字的检错信息以及候选字信息训练神经网络模型,得到文本纠错模型。
其中,本实施例在执行S201从训练文本中提取语义向量时,可以采用的可选实现方式为:对训练文本进行字粒度的切分,得到训练文本中的每个字;将训练文本中的每个字输入预训练语言模型,得到预训练语言模型输出的对应各字的语义向量。
本实施例在执行S202对训练文本中每个字的检测信息进行标注时,将训练文本中错误的字标注为“0”,正确的字标注为“1”。
本实施例在执行S202对训练文本中每个字的候选字信息进行标注时,若当前字正确,则将预设字表中对应该字的候选字标注为“1”,其他候选字则标注为“0”;若当前字为错误,则将预设字表中对应该字的正确候选字标注为“1”,其他候选字则标注为“0”。
举例来说,若预设字表为(你,我,他,门,们,萌),若训练文本为“我门”,则训练文本中“我”字的标注结果为{1;(0,1,0,0,0,0)},训练文本中“门”字的标注结果为{0;(0,0,0,0,1,0)}。
本实施例在执行S203时,将训练文本的语义向量作为输入,将训练文本中各字的检错信息以及候选字信息作为输出,从而训练神经网络模型,得到文本纠错模型。
由于本实施例同时对训练文本的检错结果以及候选字结果进行了标注,使得训练得到的文本纠错模型根据所输入的待处理文本的语义向量,能够同时输出待处理文本中各字的检错信息以及候选字信息,从而提升了文本纠错中的错误检测与候选召回的一致性。
可以理解的是,本实施例S203所使用的神经网络模型可以为深度学习神经网络模型。
图3是根据本申请第三实施例的示意图。如图3中所示,本实施例的文本纠错的装置,包括:
提取单元301、用于获取待处理文本,并从所述待处理文本中提取语义向量;
处理单元302、用于将所述语义向量输入至文本纠错模型,得到所述文本纠错模型输出的文本纠错信息,所述文本纠错信息包含所述待处理文本中每个字的检错信息以及候选字信息;
检错单元303、用于根据所述检错信息,确定所述待处理文本中出现错误的字作为目标字;
纠正单元304、用于根据所述目标字对应的候选字信息,从预设字表中选取相应的候选字替换所述目标字,得到所述待处理文本的纠错结果。
提取单元301在获取待处理文本时,可以将用户输入的文本作为待处理文本,也可以将用户输入的图像进行OCR光学字符识别所得到的文本作为待处理文本,还可以将用户输入的语音进行语音识别所得到的文本作为待处理文本。
提取单元301在获取了待处理文本之后,从所获取的待处理文本中提取语义向量,提取得到的语义向量用于表示待处理文本的语义信息。
提取单元301在从待处理文本中提取语义向量时,可以以词粒度对待处理文本进行切分之后,获取待处理文本中各词语的语义向量。
提取单元301在从待处理文本中提取语义向量时,可以采用的可选实现方式为:对待处理文本进行字粒度的切分,得到待处理文本中的每个字;将待处理文本中的每个字输入预训练语言模型,得到预训练语言模型输出的对应各字的语义向量。
因此,提取单元301通过预训练语言模型来基于字粒度对待处理文本中的语义向量进行提取,能够提升语义向量提取的准确性以及便捷性,从而进一步提高文本纠错的准确性。
提取单元301在从待处理文本中提取语义向量之后,由处理单元302将所提取的语义向量输入至文本纠错模型,从而得到文本纠错模型输出的文本纠错信息,所得到的文本纠错信息包含待处理文本中每个字的检错信息以及每个字的候选字信息。其中,处理单元302所使用的文本纠错模型是由训练单元305预先训练得到的。
具体地,训练单元305可以采用以下方式预先训练得到文本纠错模型:获取训练文本,并从训练文本中提取语义向量;对训练文本中每个字的检错信息以及候选字信息进行标注;根据训练文本的语义向量、训练文本中每个字的检错信息以及候选字信息训练神经网络模型,得到文本纠错模型。
其中,训练单元305在从训练文本中提取语义向量时,可以采用的可选实现方式为:对训练文本进行字粒度的切分,得到训练文本中的每个字;将训练文本中的每个字输入预训练语言模型,得到预训练语言模型输出的对应各字的语义向量。
训练单元305在对训练文本中每个字的检测信息进行标注时,将训练文本中错误的字标注为“0”,正确的字标注为“1”。
训练单元305在对训练文本中每个字的候选字信息进行标注时,若当前字正确,则将预设字表中对应该字的候选字标注为“1”,其他候选字则标注为“0”;若当前字为错误,则将预设字表中对应该字的正确候选字标注为“1”,其他候选字则标注为“0”。
训练单元305将训练文本的语义向量作为输入,将训练文本中各字的检错信息以及候选字信息作为输出,从而训练神经网络模型,得到文本纠错模型。
由于训练单元305同时对训练文本的检错结果以及候选字结果进行了标注,使得训练得到的文本纠错模型根据所输入的待处理文本的语义向量,能够同时输出待处理文本中各字的检错信息以及候选字信息,从而提升了文本纠错中的错误检测与候选召回的一致性。
处理单元302所获取的文本纠错信息中的检错信息,用于表明待处理文本中的各字是正确还是错误;处理单元302所获取的文本纠错信息中的候选字信息,用于表明待处理文本中的各字与预设字表中各候选字对应的概率值,因此处理单元302所获取的对应各字的候选字信息中所包含概率值的数量与预设字表中候选字的数量相同。
处理单元302在得到待处理文本中对应各字的文本纠错信息之后,由检错单元303根据文本纠错信息中的检错信息,将待处理文本中出现错误的字作为目标字。
检错单元303在确定了待处理文本中出现错误的目标字之后,由纠正单元304根据目标字对应的候选字信息,从预设字表中选取相应的候选字对目标字进行替换,从而得到待处理文本的纠错结果。
纠正单元304在根据目标字对应的候选字信息,从预设字表中选取相应的候选字替换所述目标字时,可以根据候选字信息选取预设字表中对应最高概率值的候选字来替换目标词。
为了进一步提升文本纠错的准确性,纠正单元304在根据目标字对应的候选字信息,从预设字表中选取相应的候选字替换所述目标字时,可以采用的可选实现方式为:根据目标字对应的候选字信息,从预设字表中选取多个候选字,例如选取概率值超过预设阈值的候选字;计算所选取的候选字与待处理文本之间的语义相似度;选取与待处理文本具有最高语义相似度的候选字,替换目标字。
根据本申请的实施例,本申请还提供了一种电子设备、一种计算机可读存储介质以及一种计算机程序产品。
如图4所示,是根据本申请实施例的文本纠错的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图4所示,该电子设备包括:一个或多个处理器401、存储器402,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图4中以一个处理器401为例。
存储器402即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的文本纠错的方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的文本纠错的方法。
存储器402作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的文本纠错的方法对应的程序指令/模块(例如,附图3所示的提取单元301、处理单元302、检错单元303、纠正单元304以及训练单元305)。处理器401通过运行存储在存储器402中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的文本纠错的方法。
存储器402可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据的电子设备的使用所创建的数据等。此外,存储器402可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器402可选包括相对于处理器401远程设置的存储器,这些远程存储器可以通过网络连接至文本纠错的方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
文本纠错的方法的电子设备还可以包括:输入装置403和输出装置404。处理器401、存储器402、输入装置403和输出装置404可以通过总线或者其他方式连接,图4中以通过总线连接为例。
输入装置403可接收输入的数字或字符信息,以及产生与文本纠错的方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置404可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,通过文本纠错模型得到待处理文本中每个字所对应的检错信息以及候选字信息,对待处理文本中出现错误的字进行纠正,从而得到待处理文本的纠错结果,在保证了文本纠错中的错误检测与候选召回具有一致性的同时,提升了文本纠错的准确性以及效率。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (10)
1.一种文本纠错的方法,包括:
获取待处理文本,并从所述待处理文本中提取语义向量;
将所述语义向量输入至文本纠错模型,得到所述文本纠错模型输出的所述待处理文本中每个字的文本纠错信息,所述每个字的文本纠错信息包含每个字的检错信息以及每个字分别对应预设字表中各候选字的概率值;
根据所述检错信息,确定所述待处理文本中出现错误的字作为目标字;
根据所述目标字分别对应预设字表中各候选字的概率值,从预设字表中选取相应的候选字替换所述目标字,得到所述待处理文本的纠错结果。
2.根据权利要求1所述的方法,其中,所述从所述待处理文本中提取语义向量包括:
将所述待处理文本进行字粒度的切分,得到所述待处理文本中的每个字;
将所得到的每个字输入预训练语言模型,得到所述预训练语言模型输出的对应各字的语义向量。
3.根据权利要求1所述的方法,还包括,
采用如下方式预先训练得到所述文本纠错模型:
获取训练文本,并从所述训练文本中提取语义向量;
对所述训练文本中每个字的检错信息以及每个字分别对应预设字表中各候选字的概率值进行标注;
根据所述训练文本的语义向量、所述训练文本中每个字的检错信息以及每个字分别对应预设字表中各候选字的概率值训练神经网络模型,得到文本纠错模型。
4.根据权利要求1所述的方法,其中,所述根据所述目标字分别对应候选字表中各候选字的概率值,从预设字表中选取相应的候选字替换所述目标字包括:
根据所述目标字分别对应预设字表中各候选字的概率值,从预设字表中选取多个候选字;
计算所选取的候选字与所述待处理文本之间的语义相似度;
选取与所述待处理文本具有最高语义相似度的候选字,替换所述目标字。
5.一种文本纠错的装置,包括:
提取单元,用于获取待处理文本,并从所述待处理文本中提取语义向量;
处理单元,用于将所述语义向量输入至文本纠错模型,得到所述文本纠错模型输出的所述待处理文本中每个字的文本纠错信息,所述每个字的文本纠错信息包含每个字的检错信息以及每个字分别对应预设字表中各候选字的概率值;
检错单元,用于根据所述检错信息,确定所述待处理文本中出现错误的字作为目标字;
纠正单元,用于根据所述目标字分别对应预设字表中各候选字的概率值,从预设字表中选取相应的候选字替换所述目标字,得到所述待处理文本的纠错结果。
6.根据权利要求5所述的装置,其中,所述提取单元在从所述待处理文本中提取语义向量时,具体执行:
将所述待处理文本进行字粒度的切分,得到所述待处理文本中的每个字;
将所得到的每个字输入预训练语言模型,得到所述预训练语言模型输出的对应各字的语义向量。
7.根据权利要求5所述的装置,还包括训练单元,用于采用如下方式预先训练得到所述文本纠错模型:
获取训练文本,并从所述训练文本中提取语义向量;
对所述训练文本中每个字的检错信息以及每个字分别对应预设字表中各候选字的概率值进行标注;
根据所述训练文本的语义向量、所述训练文本中每个字的检错信息以及每个字分别对应预设字表中各候选字的概率值训练神经网络模型,得到文本纠错模型。
8.根据权利要求5所述的装置,其中,所述纠正单元在根据所述目标字分别对应预设字表中各候选字的概率值,从预设字表中选取相应的候选字替换所述目标字时,具体执行:
根据所述目标字分别对应预设字表中各候选字的概率值,从预设字表中选取多个候选字;
计算所选取的候选字与所述待处理文本之间的语义相似度;
选取与所述待处理文本具有最高语义相似度的候选字,替换所述目标字。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-4中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-4中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010692628.8A CN112001169B (zh) | 2020-07-17 | 2020-07-17 | 文本纠错的方法、装置、电子设备和可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010692628.8A CN112001169B (zh) | 2020-07-17 | 2020-07-17 | 文本纠错的方法、装置、电子设备和可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112001169A CN112001169A (zh) | 2020-11-27 |
CN112001169B true CN112001169B (zh) | 2022-03-25 |
Family
ID=73467558
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010692628.8A Active CN112001169B (zh) | 2020-07-17 | 2020-07-17 | 文本纠错的方法、装置、电子设备和可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112001169B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112597768B (zh) * | 2020-12-08 | 2022-06-28 | 北京百度网讯科技有限公司 | 文本审核方法、装置、电子设备、存储介质及程序产品 |
CN112541342B (zh) * | 2020-12-08 | 2022-07-22 | 北京百度网讯科技有限公司 | 文本纠错方法、装置、电子设备及存储介质 |
CN112597753A (zh) * | 2020-12-22 | 2021-04-02 | 北京百度网讯科技有限公司 | 文本纠错处理方法、装置、电子设备和存储介质 |
CN113553834B (zh) * | 2021-06-30 | 2023-09-22 | 北京百度网讯科技有限公司 | 文本纠错方法、装置、电子设备及存储介质 |
CN113255332B (zh) * | 2021-07-15 | 2021-12-24 | 北京百度网讯科技有限公司 | 文本纠错模型的训练与文本纠错方法、装置 |
CN114239559B (zh) * | 2021-11-15 | 2023-07-11 | 北京百度网讯科技有限公司 | 文本纠错和文本纠错模型的生成方法、装置、设备和介质 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140214401A1 (en) * | 2013-01-29 | 2014-07-31 | Tencent Technology (Shenzhen) Company Limited | Method and device for error correction model training and text error correction |
CN104615591B (zh) * | 2015-03-10 | 2019-02-05 | 上海触乐信息科技有限公司 | 基于上下文的前向输入纠错方法和装置 |
CN107665190A (zh) * | 2017-09-29 | 2018-02-06 | 李晓妮 | 一种文本校对错误词库的自动构造方法和装置 |
CN107678561A (zh) * | 2017-09-29 | 2018-02-09 | 百度在线网络技术(北京)有限公司 | 基于人工智能的语音输入纠错方法及装置 |
CN108108349A (zh) * | 2017-11-20 | 2018-06-01 | 北京百度网讯科技有限公司 | 基于人工智能的长文本纠错方法、装置及计算机可读介质 |
CN109271526A (zh) * | 2018-08-14 | 2019-01-25 | 阿里巴巴集团控股有限公司 | 文本检测方法、装置、电子设备及计算机可读存储介质 |
CN109543022B (zh) * | 2018-12-17 | 2020-10-13 | 北京百度网讯科技有限公司 | 文本纠错方法和装置 |
CN110347821B (zh) * | 2019-05-29 | 2023-08-25 | 华东理工大学 | 一种文本类别标注的方法、电子设备和可读存储介质 |
CN110428822B (zh) * | 2019-08-05 | 2022-05-03 | 重庆电子工程职业学院 | 一种语音识别纠错方法及人机对话系统 |
CN110502754B (zh) * | 2019-08-26 | 2021-05-28 | 腾讯科技(深圳)有限公司 | 文本处理方法和装置 |
CN110489760B (zh) * | 2019-09-17 | 2023-09-22 | 达观数据有限公司 | 基于深度神经网络文本自动校对方法及装置 |
CN110717031B (zh) * | 2019-10-15 | 2021-05-18 | 南京摄星智能科技有限公司 | 一种智能会议纪要生成方法和系统 |
CN110765996B (zh) * | 2019-10-21 | 2022-07-29 | 北京百度网讯科技有限公司 | 文本信息处理方法及装置 |
CN111126045A (zh) * | 2019-11-25 | 2020-05-08 | 泰康保险集团股份有限公司 | 一种文本纠错方法和装置 |
CN111310447B (zh) * | 2020-03-18 | 2024-02-02 | 河北省讯飞人工智能研究院 | 语法纠错方法、装置、电子设备和存储介质 |
CN111859921B (zh) * | 2020-07-08 | 2024-03-08 | 金蝶软件(中国)有限公司 | 文本纠错方法、装置、计算机设备和存储介质 |
-
2020
- 2020-07-17 CN CN202010692628.8A patent/CN112001169B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN112001169A (zh) | 2020-11-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112001169B (zh) | 文本纠错的方法、装置、电子设备和可读存储介质 | |
CN111967268A (zh) | 文本中的事件抽取方法、装置、电子设备和存储介质 | |
CN111144115B (zh) | 预训练语言模型获取方法、装置、电子设备和存储介质 | |
CN111507104B (zh) | 建立标签标注模型的方法、装置、电子设备和可读存储介质 | |
CN111241819B (zh) | 词向量生成方法、装置及电子设备 | |
CN112036509A (zh) | 用于训练图像识别模型的方法和装置 | |
CN111079945B (zh) | 端到端模型的训练方法及装置 | |
CN112926306B (zh) | 文本纠错方法、装置、设备以及存储介质 | |
US20220067439A1 (en) | Entity linking method, electronic device and storage medium | |
CN111859997B (zh) | 机器翻译中的模型训练方法、装置、电子设备及存储介质 | |
CN112633017B (zh) | 翻译模型训练、翻译处理方法、装置、设备和存储介质 | |
CN111339759A (zh) | 领域要素识别模型训练方法、装置及电子设备 | |
CN112149741B (zh) | 图像识别模型的训练方法、装置、电子设备及存储介质 | |
EP3896595A1 (en) | Text key information extracting method, apparatus, electronic device, storage medium, and computer program product | |
CN111259671A (zh) | 文本实体的语义描述处理方法、装置及设备 | |
CN111241810A (zh) | 标点预测方法及装置 | |
CN111783760A (zh) | 文字识别的方法、装置、电子设备及计算机可读存储介质 | |
CN111753532B (zh) | 西文文本的纠错方法和装置、电子设备及存储介质 | |
CN111160013A (zh) | 文本纠错方法及装置 | |
CN111079449B (zh) | 平行语料数据的获取方法、装置、电子设备和存储介质 | |
CN113723278A (zh) | 表格信息提取模型的训练方法及装置 | |
CN111090991A (zh) | 场景纠错方法、装置、电子设备和存储介质 | |
CN111666771B (zh) | 文书的语义标签抽取、装置、电子设备及可读存储介质 | |
CN111143564B (zh) | 无监督的多目标篇章级情感分类模型训练方法和装置 | |
CN111967591A (zh) | 神经网络自动剪枝方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |