CN111753532A - 西文文本的纠错方法和装置、电子设备及存储介质 - Google Patents
西文文本的纠错方法和装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111753532A CN111753532A CN202010605249.0A CN202010605249A CN111753532A CN 111753532 A CN111753532 A CN 111753532A CN 202010605249 A CN202010605249 A CN 202010605249A CN 111753532 A CN111753532 A CN 111753532A
- Authority
- CN
- China
- Prior art keywords
- western
- word
- case
- sentence
- distinguished
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 238000012937 correction Methods 0.000 title claims abstract description 32
- 238000012549 training Methods 0.000 claims abstract description 49
- 230000014509 gene expression Effects 0.000 claims abstract description 16
- 239000013598 vector Substances 0.000 claims description 29
- 230000015654 memory Effects 0.000 claims description 19
- 238000002372 labelling Methods 0.000 claims description 8
- 230000002457 bidirectional effect Effects 0.000 claims description 7
- 230000011218 segmentation Effects 0.000 claims description 7
- 125000004122 cyclic group Chemical group 0.000 claims description 4
- 238000006243 chemical reaction Methods 0.000 claims description 2
- 239000000126 substance Substances 0.000 claims 1
- 238000003058 natural language processing Methods 0.000 abstract description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 238000012545 processing Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 101100289061 Drosophila melanogaster lili gene Proteins 0.000 description 3
- 241000234435 Lilium Species 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 241000220317 Rosa Species 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 101150052147 ALLC gene Proteins 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/232—Orthographic correction, e.g. spell checking or vowelisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Machine Translation (AREA)
- Character Discrimination (AREA)
Abstract
本申请公开了西文文本的纠错方法和装置、电子设备及存储介质,涉及人工智能和自然语言处理技术领域。具体实现方案为:将待判别的西文语句中的单词转为小写后输入至已训练的大小写识别模型,得到待判别的西文语句中的单词在西文语句的标准表述中的大小写类型标签;根据待判别的西文语句中的单词的大小写类型标签对待判别的西文语句中的单词的大小写进行纠正;其中,大小写识别模型基于与待判别的西文语句相同语言类型的西文标准语料训练得出。该方案提升了西文语句大小写识别和纠错的准确性。
Description
技术领域
本公开涉及计算机技术领域,具体涉及自然语言处理技术,尤其涉及西文文本的纠错方法和装置、电子设备及存储介质。
背景技术
自然语言处理是人工智能的一个分支,是研究计算机理解和处理人类语言的技术。自然语言处理的对象是人类语言文本,具体的应用方式包括机器翻译、文本分类、中文分词、实体识别等等,可以应用于舆情监控、智能对话等场景中。
文本的纠错对机器准确理解文本含义、正确分类有重要的意义。在诸如英语、德语等以字母为基本文字单元的文本中,单词的大小写错误是一种常见的错误类型。大小写但是单词大小写错误涉及的面比较广,比如,人名、地名大写、专有名词大写等等。目前的方法是使用规则和词典对大小写错误进行识别,若语句中包含命中词典的词,则进行大小写识别。
发明内容
本公开提供了一种西文文本的纠错方法、装置、电子设备以及存储介质。
根据本公开的一方面,提供了一种西文文本的纠错方法,包括:将待判别的西文语句中的单词转为小写后输入至已训练的大小写识别模型,得到待判别的西文语句中的单词在西文语句的标准表述中的大小写类型标签;根据待判别的西文语句中的单词的大小写类型标签对待判别的西文语句中的单词的大小写进行纠正;其中,大小写识别模型基于与待判别的西文语句相同语言类型的西文标准语料训练得出。
根据本公开的第二方面,提供了一种西文文本的纠错装置,包括:
预测单元,被配置为将待判别的西文语句中的单词转为小写后输入至已训练的大小写识别模型,得到待判别的西文语句中的单词在西文语句的标准表述中的大小写类型标签;纠正单元,被配置为根据待判别的西文语句中的单词的大小写类型标签对待判别的西文语句中的单词的大小写进行纠正;其中,大小写识别模型基于与待判别的西文语句相同语言类型的西文标准语料训练得出。
根据本公开的第三方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行第一方面提供的西文文本的纠错方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行第一方面提供的西文文本的纠错方法。
根据本申请的技术实现了西文文本中单词大小写的纠正。。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请的西文文本的纠错方法的一个实施例的流程示意图;
图2是根据本申请的实施例中大小写识别模型的训练流程的示意图;
图3是根据本申请实施例中的大小写识别模型的结构示意图;
图4是根据本申请的西文文本的纠错装置的一个实施例的结构示意图;
图5是用来实现本申请实施例的西文文本的纠错方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本申请提供的西文文本的纠错方法可以应用于包含客户端、网络、服务端的系统架构中。在该系统架构中,客户端将待判别的西文语句通过网络传输至服务端。服务端运行西文大小写识别模型,对客户端发送的西文语句进行分词后利用西文大小写识别模型识别西文语句的标准表述中各单词的大小写情况,可以将识别结果返回至客户端,或者基于识别结果纠正待判别的西文语句后向客户端返回单词大小写表述正确的西文语句。
服务端还可以获取标准表述的西文语料,利用西文语料来训练大小写识别模型。
上述客户端可以是软件或硬件。当客户端实现为硬件时,其可以为手机、电脑等终端设备。当客户端实现为软件时,其可以是安装在手机、电脑等电子设备中的实现西文文本的纠错方法的专用客户端,或者可以是内嵌在客户端中的程序,还可以实现为分布式的多个软件模块。
上述服务端也可以实现为硬件或软件。服务端实现为硬件时,其可以是服务器。当服务端实现为软件时,其可以实现为提供分布式服务的多个软件模块。
一般地,本申请实施例的西文文本的纠错方法可以应用于上述服务端或客户端。
请参考图1,其示出了本申请的西文文本的纠错方法的一个实施例的流程示意图。如图1所示,本实施例的西文文本的纠错方法的流程100,包括以下步骤:
步骤101,将待判别的西文语句中的单词转为小写后输入至已训练的大小写识别模型,得到待判别的西文语句中的单词在西文语句的标准表述中的大小写类型标签。
在本实施例中,西文文本的纠错方法的执行主体(例如客户端或服务端)可以首先获取待判别的西文语句。待判别的西文语句可以是英文、法文、德文等语言的文本语句。上述执行主体可以接收终端发送的待判别的西文语句,或者,上述执行主体可以获取用户指定的西文语句作为待判别的西文语句。
在实际场景中,例如新闻稿件的核查场景中,可以将编辑好的西文新闻稿中的语句作为待判别的西文语句。依次针对新闻稿中的每一个西文语句进行大小写纠正。
上述执行主体可以首先将待判别的西文语句中的单词全部转为小写,以将所有单词都归一化为不包含大小写信息的格式。这样在利用大小写识别模型处理待判别的西文语句时,不会受到待判别的西文语句中的单词的大小写的影响,因而可以避免待判别的西文语句中的错误的大小写表述影响大小写识别模型的识别结果。
上述大小写识别模型可以是基于与待判别的西文语句相同语言类型的西文标准语料训练得出的。在这里,西文标准语料可以通过抓取权威媒体的新闻文本语料、标准字典或工具书等资料中的对应语言类型的语句文本来获取。可以针对每一种语言类型分别构建一个大小写识别模型,并基于该语言类型的标准语料训练该大小写识别模型。或者,可以构建可判别两种以上语言的西文语句的单词大小写格式的大小写识别模型,即单个大小写识别模型可识别两种以上语言类型的语句中的单词的大小写,这时训练数据需要收集两种以上语言类型的标准语料。
大小写识别模型可以首先对待判别的语句拆分为单词序列,并针对单词序列中的各个单词,结合上下文识别单词在该待判别的西文语句的标准表述中的大小写类型,得出各单词的大小写类型标签。其中大小写类型标签可以包括:首字母大写标签、全部字母大写标签、全部字母小写标签,如FirstC(首字母大写标签)、AllC(全部字母大写标签)、O(全部字母小写标签)。可选地,还可以包括“other”标签,对应其他类型,如中间字母大写且首尾字母小写等。
作为示例,待判别语句“lili goes home”将其输入大小写识别模型后,得出语句中三个单词分别对应的标签为:FirstC、O、O。
步骤102,根据待判别的西文语句中的单词的大小写类型标签对待判别的西文语句中的单词的大小写进行纠正。
在利用大小写识别模型识别出待判别的西文语句中的单词的大小写类型之后,可以根据各单词的大小写类型标签对待判别的西文语句中的单词的大小写进行纠正。
具体地,可以依次判断待判别的西文语句中的单词的大小写格式与步骤101中大小写识别模型识别出的该单词的大小写类型标签是否一致,若不一致,则按照大小写类型标签修正待判别的西文语句中的对应单词。例如,待判别语句“lili goes home”中第一个单词“lili”为全部字母小写的格式,而大小写识别模型识别出该单词的大小写类型标签为“首字母大写”。对该单词纠正后的语句为“Lily goes home”。
通过本实施例的方法,利用经过训练的大小写识别模型对待判别的西文语句中的单词的标准大小写表述进行更全面和准确的识别,从而可以更准确地纠正西文语句中的单词大小写,将不规范的西文表述转换为标准表述,实现了西文文本的自动纠错。并且,该方法中大小写识别模型基于西文标准语料训练得出,能够学习到西文语句中各单词的上下文信息,因而可以更准确地识别各个单词的大小写。例如,对于“Rose”用作人名时首字母需大写,用于表达“玫瑰”的含义且不位于句首时全部字母小写。本实施例的大小写模型能够根据上下文学习各单词的语境和语义,从而针对基于词表可能发生混淆的单词有更好的纠正效果,能够提升西文语句中大小写纠正的召回率。
在一些实施例中,上述方法还包括基于与待判别的西文语句相同语言类型的西文标准语料训练大小写识别模型的步骤。为了提升训练效率和提升训练数据的有效性,上述大小写识别模型的训练语料可以被处理为适合大小写识别模型处理的数据。
具体地,请参考图2,其示出了训练大小写识别模型的一个流程的示意图。如图2所示,训练大小写识别模型的流程200包括以下步骤:
步骤201,对西文标准语料中的语句进行分词,并按照每个单词的大小写类型对每个单词打标签。
上述执行主体可以基于词语间的分隔符(例如空格、连接符“-”等)对获取到的西文标准语料中的语句进行分词,得到西文标准语料中的语句对应的单词序列。
然后可以根据步骤201得到的单词序列中的每个单词的大小写类型对每个单词打标签。在这里,标签表征单词的大小写类型,可选的标签可以包括“首字母大写”、“全部字母大写”、“全部字母小写”、“其他”。每个单词的标签为上述可选的标签中的一个。
上述执行主体可以采用对单词中的字母逐个匹配大小写格式的方式识别每个单词的大小写类型,从而自动地为每个单词打标签。或者,上述单词的打标签可以由标注人员完成后由上述执行主体获取。标注人员仅需从可选的标签中选出一个作为单词的标签,标注效率较高。
步骤202,将西文标准语料中的语句所包含的单词转换为全部字母小写的单词,得到归一化的西文训练数据。
在本实施例中,可以将西文标准语料中的语句所包含的单词都转换为全部字母小写的单词,即将该语句中所有的大写字母都转换为对应的小写字母,由此实现训练数据的归一化,得到归一化的西文训练数据。
归一化的西文训练数据本身不包含单词的大小写类型信息,由此待大小写识别模型在训练中不会受到原语句中单词大小写的影响,可以较准确地学习基于上下文语境判定单词的大小写类型的方法。
步骤203,基于归一化的西文训练数据以及对应的语句中每个单词的标签训练大小写识别模型。
可以将归一化的西文训练数据输入至待训练的大小写识别模型,待训练的大小写识别模型可以对归一化的西文训练数据进行分词,然后预测每个单词的大小写标签。在这里,待训练的大小写识别模型可以是基于注意力的神经网络模型,例如基于注意力的循环神经网络模型。可以将基于待训练的大小写识别模型预测出的上述西文训练数据中每个语句中的单词的大小写类型标签与步骤202中位对应的单词打的大小写标签进行比对以确定大小写模型的预测误差,并基于预测误差来监督待训练的大小写识别模型进行迭代更新。
图3示出了本申请实施例的大小写识别模型的一个结构示意图。如图3所示,大小写识别模型可以包括词嵌入层。词嵌入对由输入的西文语句转换得到的西文单词序列中的每个单词在词表中的编号进行嵌入得到第一嵌入向量,对由输入的西文语句转换得到的西文单词序列中的每个单词中包含的字母序列进行嵌入得到第二嵌入向量,对第一嵌入向量和第二嵌入向量拼接得到输入大小写模型的西文语句的特征向量。其中,第二嵌入向量可以通过采用字符卷积神经网络(char CNN)处理对应的单词得到。该字符卷积神经网络可以基于单个字母的词嵌入结果生成由字母按序组合成对应单词的第二嵌入向量。对第一嵌入向量和第二嵌入向量拼接形成对应单词的嵌入向量。
上述词嵌入层可以对单词的编号进行嵌入、且对单词所包含的字母序列进行字符嵌入,由此得到的嵌入向量包含了单词的总体特征以及单词中各字母之间的关系特征,能够帮助大小写识别模型更准确地对单词的大小写类型进行学习和识别。
进一步地,大小写识别模型还包括编码层和分类层。编码层对西文语句的特征向量进行双向循环编码,分类层对西文语句中的各单词进行大小写类型的分类。图3中以双向LSTM(Long Short Term Memory networks,长短期记忆网络)编码器作为编码层的示例。编码层可以进一步对单词的词嵌入结果进行编码,提取单词的对于大小写识别有用的特征。双向LSTM可以对词嵌入结果进行建模,构建的模型中涵盖语句中所有的语言信息。分类层可以基于编码层的输出对输入的单词序列进行大小写类型的分类,输出单词序列中的各单词的大小写类型标签。图3中以CRF(Conditional Random Field,条件随机场)层作为分类层的示例。CRF层对双向LSTM层的结果使用基于条件随机场的方法进行建模,得出各单词对应的大小写类型标签。
从图3可以看出,采用基于序列式处理的大小写模型结构,利用词嵌入层和编码层分级对单词序列的特征进行建模,能够提取出更准确的单词及上下文特征,从而帮助提升大小写识别模型的识别结果的准确性。
当基于归一化的西文训练数据迭代调整后的大小写识别模型的性能(如精度、延时等)达到一定的条件,或者迭代次数达到次数阈值时,可以停止训练,这时得到的大小写识别模型即为上述已训练的大小写识别模型。
本实施例的训练大小写识别模型的流程通过构建标准训练语料,对标准训练语料进行处理以使训练数据适合输入至大小写识别模型进行处理,由于西文标准语料的随机性强,覆盖面广,训练完成的大小写识别模型可以准确识别各种情况的单词大小写类型。
在上述实施例的一些可选的实现方式中,上述对待判别的西文语句中的单词的大小写进行纠正的步骤可以按照如下方式实现:标记待判别的语句中大小写与对应的大小写类型标签不一致的单词在待判别的语句中的位置,以及按照大小写类型标签对单词的纠正结果。
待判别语句中的大小写与对应的大小写类型标签不一致的单词在待判别的语句中的位置可以由单词在语句中的序号标记,单词的纠正结果为该单词在对应语句中的标准表述。
例如,对于上述示例“lili goes home”,纠正结果为:(“lili”,0,“Lily”),其中“Lily”是对“lili”纠正后的标准表述,“0”标识“lili”这个单词在整个语句中的位置。
这种实现方式可以简单明确地标记语句中大小写错误的单词的位置和对应的正确表述,这样后续在纠正整个语句时可以根据位置标记准确找到出错的单词,利用对应的正确标识替换单词,快速完成西语语句的大小写修正。
请参考图4,作为对上述西文文本的纠错方法的实现,本公开提供了一种西文文本的纠错装置的一个实施例,该装置实施例与上述各方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图4所示,本实施例的西文文本的纠错装置400包括预测单元401和纠正单元402。其中,预测单元401为将待判别的西文语句中的单词转为小写后输入至已训练的大小写识别模型,得到待判别的西文语句中的单词在西文语句的标准表述中的大小写类型标签;纠正单元402为根据待判别的西文语句中的单词的大小写类型标签对待判别的西文语句中的单词的大小写进行纠正;其中,大小写识别模型基于与待判别的西文语句相同语言类型的西文标准语料训练得出。
在一些实施例中,上述装置还包括:训练单元,被配置为基于与待判别的西文语句相同语言类型的西文标准语料训练大小写识别模型;训练单元包括:标注模块,被配置为对西文标准语料中的语句进行分词,并按照每个单词的大小写类型对每个单词打标签;
转换模块,被配置为将西文标准语料中的语句所包含的单词转换为全部字母小写的单词,得到归一化的西文训练数据;训练子模块,被配置为基于归一化的西文训练数据以及对应的语句中每个单词的标签训练大小写识别模型。
在一些实施例中,上述大小写识别模型包括词嵌入层;词嵌入层对由输入的西文语句转换得到的西文单词序列中的每个单词在词表中的编号进行嵌入得到第一嵌入向量、以及对由输入的西文语句转换得到的西文单词序列中的每个单词中包含的字母序列进行嵌入得到第二嵌入向量,对第一嵌入向量和第二嵌入向量拼接得到输入大小写模型的西文语句的特征向量。
在一些实施例中,上述大小写训练模型还包括编码层和分类层;编码层对西文语句的特征向量进行双向循环编码,分类层对西文语句中的各单词进行大小写类型的分类。
在一些实施例中,上述纠正单元402包括:标记模块,配置为标记待判别的语句中大小写与对应的大小写类型标签不一致的单词在待判别的语句中的位置,以及按照大小写类型标签对单词的纠正结果。
上述装置400与前述方法实施例中的步骤相对应。由此,上文针对西文文本的纠错方法描述的操作、特征及所能达到的技术效果同样适用于装置400及其中包含的单元,在此不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图5所示,是根据本申请实施例的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图5所示,该电子设备包括:一个或多个处理器501、存储器502,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图5中以一个处理器501为例。
存储器502即为本申请所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本申请所提供的西文文本的纠错方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的西文文本的纠错方法。
存储器502作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的西文文本的纠错方法对应的程序指令/模块(例如,附图4所示的预测单元401和纠正单元402)。处理器501通过运行存储在存储器502中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的西文文本的纠错方法。
存储器502可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据执行西文文本的纠错方法的电子设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器502可选包括相对于处理器501远程设置的存储器,这些远程存储器可以通过网络连接至执行西文文本的纠错方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
执行西文文本的纠错方法的电子设备还可以包括:输入装置503和输出装置504。处理器501、存储器502、输入装置503和输出装置504可以通过总线或者其他方式连接,图5中以通过总线505连接为例。
输入装置503可接收输入的数字或字符信息,以及产生与执行西文文本的纠错方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,实现了西文语句中大小写不标准情况的准确识别和纠正。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (12)
1.一种西文文本的纠错方法,包括:
将待判别的西文语句中的单词转为小写后输入至已训练的大小写识别模型,得到待判别的西文语句中的单词在所述西文语句的标准表述中的大小写类型标签;
根据所述待判别的西文语句中的单词的大小写类型标签对待判别的西文语句中的单词的大小写进行纠正;
其中,所述大小写识别模型基于与所述待判别的西文语句相同语言类型的西文标准语料训练得出。
2.根据权利要求1所述的方法,其中,所述方法还包括:
基于与所述待判别的西文语句相同语言类型的西文标准语料训练所述大小写识别模型,包括:
对所述西文标准语料中的语句进行分词,并按照每个单词的大小写类型对每个单词打标签;
将所述西文标准语料中的语句所包含的单词转换为全部字母小写的单词,得到归一化的西文训练数据;
基于所述归一化的西文训练数据以及对应的语句中每个单词的标签训练所述大小写识别模型。
3.根据权利要求1所述的方法,其中,所述大小写识别模型包括词嵌入层;
所述词嵌入层对由输入的西文语句转换得到的西文单词序列中的每个单词在词表中的编号进行嵌入得到第一嵌入向量、以及对由输入的西文语句转换得到的西文单词序列中的每个单词中包含的字母序列进行嵌入得到第二嵌入向量,对所述第一嵌入向量和所述第二嵌入向量拼接得到输入所述大小写模型的西文语句的特征向量。
4.根据权利要求3所述的方法,其中,所述大小写训练模型还包括编码层和分类层;
所述编码层对所述西文语句的特征向量进行双向循环编码,所述分类层对所述西文语句中的各单词进行大小写类型的分类。
5.根据权利要求1-4任一项所述的方法,其中,所述根据所述待判别的西文语句中的单词的大小写类型标签对待判别的西文语句中的单词的大小写进行纠正,包括:
标记所述待判别的语句中大小写与对应的大小写类型标签不一致的单词在所述待判别的语句中的位置,以及按照所述大小写类型标签对所述单词的纠正结果。
6.一种西文文本的纠错装置,包括:
预测单元,被配置为将待判别的西文语句中的单词转为小写后输入至已训练的大小写识别模型,得到待判别的西文语句中的单词在所述西文语句的标准表述中的大小写类型标签;
纠正单元,被配置为根据所述待判别的西文语句中的单词的大小写类型标签对待判别的西文语句中的单词的大小写进行纠正;
其中,所述大小写识别模型基于与所述待判别的西文语句相同语言类型的西文标准语料训练得出。
7.根据权利要求6所述的装置,其中,所述装置还包括:
训练单元,被配置为基于与所述待判别的西文语句相同语言类型的西文标准语料训练所述大小写识别模型;
所述训练单元包括:
标注模块,被配置为对所述西文标准语料中的语句进行分词,并按照每个单词的大小写类型对每个单词打标签;
转换模块,被配置为将所述西文标准语料中的语句所包含的单词转换为全部字母小写的单词,得到归一化的西文训练数据;
训练子模块,被配置为基于所述归一化的西文训练数据以及对应的语句中每个单词的标签训练所述大小写识别模型。
8.根据权利要求6所述的装置,其中,所述大小写识别模型包括词嵌入层;
所述词嵌入层对由输入的西文语句转换得到的西文单词序列中的每个单词在词表中的编号进行嵌入得到第一嵌入向量、以及对由输入的西文语句转换得到的西文单词序列中的每个单词中包含的字母序列进行嵌入得到第二嵌入向量,对所述第一嵌入向量和所述第二嵌入向量拼接得到输入所述大小写模型的西文语句的特征向量。
9.根据权利要求8所述的装置,其中,所述大小写训练模型还包括编码层和分类层;
所述编码层对所述西文语句的特征向量进行双向循环编码,所述分类层对所述西文语句中的各单词进行大小写类型的分类。
10.根据权利要求6-9任一项所述的装置,其中,所述纠正单元包括:
标记模块,配置为标记所述待判别的语句中大小写与对应的大小写类型标签不一致的单词在所述待判别的语句中的位置,以及按照所述大小写类型标签对所述单词的纠正结果。
11.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010605249.0A CN111753532B (zh) | 2020-06-29 | 2020-06-29 | 西文文本的纠错方法和装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010605249.0A CN111753532B (zh) | 2020-06-29 | 2020-06-29 | 西文文本的纠错方法和装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111753532A true CN111753532A (zh) | 2020-10-09 |
CN111753532B CN111753532B (zh) | 2024-04-16 |
Family
ID=72677999
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010605249.0A Active CN111753532B (zh) | 2020-06-29 | 2020-06-29 | 西文文本的纠错方法和装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111753532B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112214965A (zh) * | 2020-10-21 | 2021-01-12 | 科大讯飞股份有限公司 | 大小写规整方法、装置、电子设备和存储介质 |
CN112905737A (zh) * | 2021-01-28 | 2021-06-04 | 平安科技(深圳)有限公司 | 文本纠错方法、装置、设备及存储介质 |
CN113642318A (zh) * | 2021-10-14 | 2021-11-12 | 江西风向标教育科技有限公司 | 英语文章的纠错方法、系统、存储介质及设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090148073A1 (en) * | 2007-12-07 | 2009-06-11 | International Business Machines Corporation | Allowing users to automatically change typographical letter case using application independent functionality |
CN109190131A (zh) * | 2018-09-18 | 2019-01-11 | 北京工业大学 | 一种基于神经机器翻译的英语单词及其大小写联合预测方法 |
CN111091004A (zh) * | 2019-12-18 | 2020-05-01 | 上海风秩科技有限公司 | 一种语句实体标注模型的训练方法、训练装置及电子设备 |
-
2020
- 2020-06-29 CN CN202010605249.0A patent/CN111753532B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090148073A1 (en) * | 2007-12-07 | 2009-06-11 | International Business Machines Corporation | Allowing users to automatically change typographical letter case using application independent functionality |
CN109190131A (zh) * | 2018-09-18 | 2019-01-11 | 北京工业大学 | 一种基于神经机器翻译的英语单词及其大小写联合预测方法 |
CN111091004A (zh) * | 2019-12-18 | 2020-05-01 | 上海风秩科技有限公司 | 一种语句实体标注模型的训练方法、训练装置及电子设备 |
Non-Patent Citations (1)
Title |
---|
老万;: "如何自动纠正文档里面字母的大小写", 电脑爱好者, no. 02, 15 January 2017 (2017-01-15) * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112214965A (zh) * | 2020-10-21 | 2021-01-12 | 科大讯飞股份有限公司 | 大小写规整方法、装置、电子设备和存储介质 |
CN112905737A (zh) * | 2021-01-28 | 2021-06-04 | 平安科技(深圳)有限公司 | 文本纠错方法、装置、设备及存储介质 |
CN113642318A (zh) * | 2021-10-14 | 2021-11-12 | 江西风向标教育科技有限公司 | 英语文章的纠错方法、系统、存储介质及设备 |
CN113642318B (zh) * | 2021-10-14 | 2022-01-28 | 江西风向标教育科技有限公司 | 英语文章的纠错方法、系统、存储介质及设备 |
Also Published As
Publication number | Publication date |
---|---|
CN111753532B (zh) | 2024-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111967268B (zh) | 文本中的事件抽取方法、装置、电子设备和存储介质 | |
US11663404B2 (en) | Text recognition method, electronic device, and storage medium | |
CN112560912B (zh) | 分类模型的训练方法、装置、电子设备和存储介质 | |
CN110717327B (zh) | 标题生成方法、装置、电子设备和存储介质 | |
CN111709248B (zh) | 文本生成模型的训练方法、装置及电子设备 | |
CN112036162B (zh) | 文本纠错的适配方法、装置、电子设备及存储介质 | |
JP7159248B2 (ja) | レビュー情報の処理方法、装置、コンピュータ機器及び媒体 | |
CN111753532B (zh) | 西文文本的纠错方法和装置、电子设备及存储介质 | |
CN111859951A (zh) | 语言模型的训练方法、装置、电子设备及可读存储介质 | |
CN110797005B (zh) | 韵律预测方法、装置、设备和介质 | |
JP7312799B2 (ja) | 情報抽出方法、抽出モデル訓練方法、装置及び電子機器 | |
CN112001169B (zh) | 文本纠错的方法、装置、电子设备和可读存储介质 | |
CN111950292B (zh) | 文本纠错模型的训练方法、文本纠错处理方法和装置 | |
CN112633017B (zh) | 翻译模型训练、翻译处理方法、装置、设备和存储介质 | |
CN111950256A (zh) | 断句处理方法、装置、电子设备和计算机存储介质 | |
CN112000792A (zh) | 自然灾害事件的抽取方法、装置、设备以及存储介质 | |
CN111079945B (zh) | 端到端模型的训练方法及装置 | |
CN114495130B (zh) | 基于跨模态信息的文档阅读理解模型训练方法及装置 | |
CN112489637A (zh) | 语音识别方法和装置 | |
CN111783443A (zh) | 文本扰动检测方法、扰动还原方法、扰动处理方法和装置 | |
CN113743101B (zh) | 文本纠错方法、装置、电子设备和计算机存储介质 | |
US20220139386A1 (en) | System and method for chinese punctuation restoration using sub-character information | |
CN111858883A (zh) | 三元组样本的生成方法、装置、电子设备及存储介质 | |
CN111831814A (zh) | 摘要生成模型的预训练方法、装置、电子设备和存储介质 | |
CN112528605A (zh) | 文本风格处理方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |