CN1195142A - 汉语文档自动校正方法及其装置 - Google Patents
汉语文档自动校正方法及其装置 Download PDFInfo
- Publication number
- CN1195142A CN1195142A CN98104404A CN98104404A CN1195142A CN 1195142 A CN1195142 A CN 1195142A CN 98104404 A CN98104404 A CN 98104404A CN 98104404 A CN98104404 A CN 98104404A CN 1195142 A CN1195142 A CN 1195142A
- Authority
- CN
- China
- Prior art keywords
- word
- candidate word
- string
- pronunciation symbol
- mentioned
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Document Processing Apparatus (AREA)
- Machine Translation (AREA)
Abstract
提供一种自动检测、修正汉语文档中的错别字、丢字的汉语文档自动校正方法及其装置。该装置包括:字转音变换部200;候选词检测部300;相似候选词检测部400;最佳候选字串确定部500;和选配部600。
Description
本发明涉及文档自动校正方法及其装置,特别是涉及自动地检测、修正汉语文档中的错字、丢字的汉语文档自动校正方法及其装置。
中国人写文章时容易写错字的原因如下所述:
(一)同音异义字或同音异形字
例如,[幼苗长得象笔]中的[得],容易误写为“的”。另外,[清澈极了]中的[极],容易误写为“急”。
(二)笔画错误
例如,[帽子]中的[帽],一不小心就容易误写为“昌”等字。另外,“目”也容易误写为“日”。除此之外,笔画复杂的字、例如“龜”、“鬱”等也容易写错。
(三)字形相似
例如,[宰相]中的[宰],其部首“宀”容易误写为“冖”。或者“辛”容易误写为“幸”。此外,[吵鬧]中的[鬧],其部首“門”容易误写为“門”,[猫]的部首为[豸]也容易误写为部首“犬”。
(四)丢字
由于书写的速度太快,或不小心,容易造成丢字。例如将[辛辛苦苦]误写为[辛苦苦]。
(五)别字
使用别字。例如,[家庭]容易误写为[家廷],[亭亭玉立]容易误写为[婷玉立]。
近十几年来,伴随电子计算机的进步和普及,汉语输入法也已创立了多种方案。汉语输入法按照编码方式大体可分为一般键盘输入和专用输入装置输入等。利用一般键盘的输入方式有如下几种:(一)按汉字的读音输入的方式,(二)按汉字的字形输入的方式,(三)字形和读音相结合的输入方式,(四)按文字码输入的方式,(五)按部首或笔画数输入的方式等。专用输入装置有例如专用的大键盘或OCR(光学字符识别装置)等。
汉语输入法提供了一种能消除书写汉字时的困难的方法。可是,在用计算机输入的汉语文档文件中,虽然能解决以往容易犯的错误中的例如笔画错误等问题,但其它错误仍然不可避免。一般而言,造成汉语文档文件中的错别字的原因可分为以下几种:
(一)不能正确地输入读音符号和字形的组合
一般可将汉语的读音符号分为声母、韵母、介音和声调。
声母:b、p、m、……
介音:i、u、yu、iu、……
韵母:a、o、e、……
声调:1(一声)、2(二声)、3(三声)、4(四声)、0(轻声)
例如,[形]的读音符号为[xing2]。
[字]的读音符号为[z4]。
其中,中国人容易混淆读音组如下:
声母部分:[sh]和[s],或[q]和[x]等
介音部分:[i]和[yu]
韵母部分:[eng]和[en],或[an]和[ang]等
声调部分:很容易混淆。特别是对外国人来说,很难发出正确的声调。
例如,[兴趣](xing4qyu4)容易发成(xing4qi4)的音,所以如果输入时,常被输入成“性器”。[学生](xyue2sheng1)和[写生](xie3sheng1)也容易互相误用。
另外,在字形输入的情况下,如果输入相似的字形组合或错误的组合,就不能得到正确的结果。例如,[日]和[曰]、[受]和[爱]等字形组合码极其相似。
(二)同音异义字
选择错误的同音异义字、词。例如,[同音异义字]容易选择成[同音意义字]、或[同音异议字]。
(三)参照词典的错误
无论采用哪一种输入法,都要利用参照词典进行变换。如果该参照词典的内容有错误,那么输入结果当然也就会错。例如在参照词典中,如果将[形影不离]这一成语登录为[行影不离],在输入了前一个读音符号后,其变换结果必然是[行影不离]这样的误变换。
(四)输入操作的错误
通常在编辑文档时,都要利用各种文档编辑软件。可是,在执行[插入]或[删除]等功能时,如果不特别注意地进行操作,很可能在文档中造成多字或丢字的现象。
在汉语文档文件中,错字会极大地影响文档的质量。所以,如何能有效地检测、并自动地修正汉语文档文件中的错误已成为重要课题。作为现有的汉语文档自动校正方法及其装置,有例如中华民国专利公告第260772号所述的方法及装置。图17就是该现有例的结构图。在该图中,100是输入欲处理的汉语文档的输入装置。110是存储欲处理的汉语文档的汉语文档文件。120是参照综合相似字集,将输入的汉语文档中的每个字变换成相似字,根据变换后的相似字组合成多个候选字串的综合相似字形变换装置。130是存储汉字的字形、字音、字义或输入码相似字的综合相似字集。以下所示就是该例(S:字形相似,P:字音相似,M:字义相似,I:输入码相似)。
人:入S
力:歷P、勵P、刀S、
S
己:已S、巳S、乙S
干:甘P、乾P、千S
弋:戈S
冶:治S
140是对各候选字串进行评价,根据评价过的各候选字串,检测评价最高的候选字串的语言模型评价装置。150是评价装置,它由(a)语言模型统计数据库和(b)评价装置构成。(a)语言模型统计数据库包含记录各语言单位的使用频度、语言单位之间的连续使用频度,且记录各词的频度的汉语知识库。(b)评价装置对于一字串来说,根据语言单位及语言模型统计数据库,对该字串加分。此后,对该原始文档文件中没有的字减分。160是用动态规划法检测评价最高的候选字串的最高评价候选字串检测装置。170是以逐字选配方式对照该最高评价候选字串和该文档文件中的字串,将不同的字作为错字并进行显示的错别字判断装置。180是将显示过的字串输出给显示后的文档文件的显示结果输出装置。190是存储所显示的字串的显示后文档文件。
以下说明该现有例的工作情况。
利用输入装置100从汉语文档文件110输入欲处理的汉语文档。根据标点符号的位置,将上述输入的汉语文档分成若干个处理单位,输入综合相似字形变换装置120。在综合相似字形变换装置120中,按照各处理单位参照综合相似字集130,取出全部字形、字音、字义或输入码相似的字,组合成多个候选字串,然后输入语言模型评价装置140。在语言模型评价装置140中,根据评价装置150中的统计的语言模型,评价各候选字串,根据语言模型评价情况,对原始文档文件中没有的字减分。在最高评价候选字串检测装置160中,利用动态规划法检测最高评价候选字串,之后输入到错别字判断装置170。在错别字判断装置170中,依次对照(选配)最高评价候选字串和输入的原始文档文件,将不同的字作为错别字显示,输入到显示结果输出装置180。显示结果输出装置180将显示字串输出给显示后文档文件190。
可是,与上述现有的技术有关的方法及其装置存在以下问题:
(1)不能检测、修正综合相似字集中未登录的字。因此,为了制作、保存知识库,就需要花费大量的人力、物力或经费。
(2)在语言模型评价装置中,只考虑了各词的出现频度和语言单位之间的连续使用频度,而没有利用词义信息,所以检测率和修正率不高。
(3)不能消除汉语文档中的丢字、多字、字的顺序错误等问题。
为了达到上述目的,本发明的第一方面是关于用计算机自动校正电子化的汉语文档的汉语文档自动校正方法,其特征在于包括以下步骤:
词典制作步骤,在该步骤中预先编制以下各词典:将存储汉语中的各字的排列顺序的字顺序排列表和存储与其对应的读音符号的读音符号表同与上述读音符号表对应的全部候选词及其读音符号一起存储起来的破音字典;存储汉语中的文字符号和与其对应的错误读音符号及其它可能的读音符号的字音词典;以及存储汉语读音符号和与其对应的全部同音异义字、词及该全部同音异义字、词的使用频度加权和词义码的音字词典;
参照上述破音字典及字音词典,将由输入装置输入的原始文档中的字串变换成读音符号串的字转音变换步骤;
对在上述字转音变换步骤中获得的读音符号串分出音节,将上述分出的音节作为检索关键字,参照上述音字词典,检测出全部可能的候选词及其关连信息的候选词检测步骤;
利用掩蔽装置对连续汉字候选音节的相似位进行掩蔽,将掩蔽后的读音符号串作为检索关键字,参照上述音字词典,检测全部可能的候选词及其关连信息的相似候选词检测步骤;
将与原始文档中的字串对应的各候选词的开始位置、结束位置作为检索关键字,连接各候选词,形成有向网路,然后利用计算装置计算各候选词的相似度加权和词长加权,将使用频度加权、词长加权和原始文档相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径的最佳候选字串确定步骤;
以及对上述取出的最佳路径中的字串和原始文档字串进行选配,检测出不同的字后加以标记的选配步骤。
本发明的第二方面是关于用计算机自动校正电子化的汉语文档的汉语文档自动校正装置,其特征在于包括以下部分:
将存储汉语中的各字的排列顺序的字顺序排列表和存储与其对应的读音符号的读音符号表同与上述读音符号表对应的全部候选词及其读音符号一起存储起来的破音字典;
存储文字符号和与其对应的错误读音符号及其它可能的读音符号的字音词典;
存储读音符号和与其对应的全部同音异义字、词及该全部同音异义字、词的使用频度加权和词义码的音字词典;
参照上述破音字典及字音词典,将由输入装置输入的原始文档中的字串变换成读音符号串的字转音变换部;
对在上述字转音变换步骤中获得的读音符号串分出音节,将上述分出的音节作为检索关键字,参照上述音字词典,检测全部可能的候选词及其关连信息的候选词检测部;
利用掩蔽装置对连续汉字候选音节的相似位进行掩蔽,将掩蔽后的读音符号串作为检索关键字,参照上述音字词典,检测全部可能的候选词及其关连信息的相似候选词检测部;
将与原始文档中的字串对应的各候选词的开始位置、结束位置作为检索关键字,连接各候选词,形成有向网路,然后利用计算装置计算各候选词的相似度加权和词长加权,将使用频度加权、词长加权和原始文档相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径的最佳候选字串确定部;
以及对上述取出的最佳路径中的字串和原始文档字串进行选配,检测不同的字后加以标记的选配部。
本发明的第三方面是第二方面所述的汉语文档自动校正装置,其特征在于:设有在存储器中存储着学习过的相邻接的后继词的词义码和前一词的词义码的组合的词义学习词典,上述最佳候选字串确定装置将与原始文档中的字串对应的各候选词的开始位置、结束位置作为检索关键字,连接各候选词,形成有向网路后,利用计算装置计算各候选词的相似度加权和词长加权,参照上述词义学习词典,将使用频度加权、词长加权、原始文档相似度加权和词义相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径。
由于如上构成,本发明的第一方面所述的用计算机自动校正电子化的汉语文档的汉语文档自动校正方法,是在词典制作步骤中编制将存储汉语中的各字的排列顺序的字顺序排列表和存储与其对应的读音符号的读音符号表同与上述读音符号表对应的全部候选词及其读音符号一起存储起来的破音字典;另外编制存储汉语中的文字符号和与其对应的错误读音符号及其它可能的读音符号的字音词典;还编制存储汉语读音符号和与其对应的全部同音异义字、词及该全部同音异义字、词的使用频度加权和词义码的音字词典。在字转音变换步骤中,参照上述破音字典及字音词典,将由输入装置输入的原始文档中的字串变换成读音符号串。在候选词检测步骤中,对在上述字转音变换步骤中获得的读音符号串分出音节,将上述分出的音节作为检索关键字,参照上述音字词典,检测全部可能的候选词及其关连信息。在相似候选词检测步骤中,利用掩蔽装置对连续汉字候选音节的相似位进行掩蔽,将掩蔽后的读音符号串作为检索关键字,参照上述音字词典,检测全部可能的候选词及其关连信息。在最佳候选字串确定步骤中,将与原始文档中的字串对应的各候选词的开始位置、结束位置作为检索关键字,连接各候选词,形成有向网路,然后利用计算装置计算各候选词的相似度加权和词长加权,将使用频度加权、词长加权和原始文档相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径。在选配步骤中,对上述取出的最佳路径中的字串和原始文档字串进行选配,检测不同的字后加以标记。
在本发明的第二方面所述的用计算机自动校正电子化的汉语文档的汉语文档自动校正装置中,破音字典将存储汉语中的各字的排列顺序的字顺序排列表和存储与其对应的读音符号的读音符号表同与上述读音符号表对应的全部候选词及其读音符号一起存储起来。字音词典存储文字符号和与其对应的错误读音符号及其它可能的读音符号。音字词典存储读音符号和与其对应的全部同音异义字、词及该全部同音异义字、词的使用频度加权和词义码。字转音变换部参照上述破音字典及字音词典,将由输入装置输入的原始文档中的字串变换成读音符号串。候选词检测部对在上述字转音变换步骤中获得的读音符号串分出音节,将上述分出的音节作为检索关键字,参照上述音字词典,检测全部可能的候选词及其关连信息。相似候选词检测部利用掩蔽装置对连续汉字候选音节的相似位进行掩蔽,将掩蔽后的读音符号串作为检索关键字,参照上述音字词典,检测全部可能的候选词及其关连信息。最佳候选字串确定部将与原始文档中的字串对应的各候选词的开始位置、结束位置作为检索关键字,连接各候选词,形成有向网路,然后利用计算装置计算各候选词的相似度加权和词长加权,将使用频度加权、词长加权和原始文档相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径。选配部对上述取出的最佳路径中的字串和原始文档字串进行选配,检测不同的字后加以标记。
在本发明的第三方面中,词义学习词典存储着学习过的相邻接的后继词的词义码和前一词的词义码的组合。上述最佳候选字串确定装置将与原始文档中的字串对应的各候选词的开始位置、结束位置作为检索关键字,连接各候选词,形成有向网路后,利用计算装置计算各候选词的相似度加权和词长加权,参照上述词义学习词典,将使用频度加权、词长加权、原始文档相似度加权和词义相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径。
图1是表示2字节的汉语中的汉字读音结构的结构图。
图2是举例说明相似的音韵要素之间的位图之间的距离的说明图。
图3是本发明的一实施例的结构图。
图4是上述实施例中的字转音变换部的工作流程图。
图5是上述实施例中的候选词检测部的工作流程图。
图6是上述实施例中的相似候选词检测部的工作流程图。
图7是上述实施例中的最佳候选字串确定部的工作流程图。
图8是上述实施例中的选配部的工作流程图。
图9是上述实施例中的破音字典的示意图。
图10是上述实施例中的字音词典中的数据结构的示意图。
图11是上述实施例中的音字词典中的数据结构的示意图。
图12是上述实施例中的词义学习词典中的数据结构的示意图。
图13是上述实施例中的呈层次的词义分类的示意图。
图14是根据具体例说明上述实施例中的处理内容的说明图。
图15是继图14的说明图。
图16是继图14的说明图。
图17是现有的汉语文档自动校正方法及其装置的结构图。
“词义”是形态要素本身的意义(或称词义码)。在以下所述的实施例中,采用了由角川书店出版的相似词词典(1985年)中记载的词义分类方法。该词义分类方法是用大类(第一位)、中类(第二位)、小类(第三位)、细类(第四位)这种16进制的数字表示一个形态要素的全部分类信息。另外,这里之所以采用16进制的数字,是因为计算机中广泛地采用16进制(2字节)的数字,而且如果是16进制,那么用1位就能充分地对应各种分类。该相似词词典将全部汉字、单词等分成“自然”、“性状”、“变动”、“行动”、“心情”、“人物”、“成功”、“社会”、“学术”、“物品”等十大类,另外将各大类分成十个中类,各中类、小类也用同样的方法分成更细的类。在本实施例中,在该四位数字之前加s,如下表示:
s0 (属于“自然”类)
s02 (属于“自然”类的“气象”)
s028 (属于“自然”类的“风”)
s028a (属于“自然”类的“强弱”)
这样的层次分类码举例示于图13。在这样的层次分类码中,高位的词义码的意义范围比低位的广。就是说越是低位的词义码的意义范围越窄。因此,可以配合实际的需要来利用词义码,由于预先没有必要,所以也不需要一一登录,能节省存储器。另外,由于该词义码用数字表示,所以在通过数学运算、例如用集合逻辑积处理词义码的情况下,有可能获得由词义码生成的更有价值的信息。另外,关于词义码的详细说明发表于特开平3-202954号公报中,故这里从略。
汉语中的汉字的读音的种类约有1300种,如果对其编码的话,最多使用2字节(以字节为单位的情况)就够了,但其中声母(子音)有22个,介音有3个,韵母(母音)有14个,声调有5个。2字节的汉语中的汉字读音的结构示于图1。第一字节含有声母(位2~位6)和介音(位0~1),第二字节含有声调(位4~位6)和韵母(位0~3)。因此,例如将第一字节的介音区掩蔽起来,使用逻辑积运算装置就能检测具有相同的声母、韵母和声调的字。
为了利用掩蔽方法处理各区的相似音,则使各区中的相似的音韵要素之间的位图之间的距离为1。将该例示于图2。
关于汉语读音压缩码和相似位配置的详细说明请参照特公平7-60433号“汉字变换装置”。在欲处理由于编辑上的错误而造成的多字、丢字、字的顺序错误等问题的情况下,本实施例中的掩蔽方法除了能进行上述的位的掩蔽之外,还能将字完全掩蔽。以“ting2* yu4 li4”为例,将“ting2 yu4 li4”或“*ting2 yu4 li4”(*表示被掩蔽的字。即,任何字都可以)作为检索关键字,通过参照音字词典,能检测“亭亭玉立”。
另外,如果参照特公平7-60434号“汉字变换装置”,可知在将读音符号串(表音符号串)变换为字串(汉字串)时,字数多的单词(单词的长度,这里称作词长)成为一个重要的评价要素。因此,在本实施例中,词长加权也作为一个评价函数。其计算式如下所示。例如在候选词为“大家”的情况下,其词长加权为(2-1)*2=2。
词长加权=(候选词的字数-1)*2
另外,为了利用原始文档中的字信息,有效地取出最佳路径,在本实施例中,将原始文档相似度加权作为一个评价函数。其计算式如下所示。
原始文档相似度加权=(选配原始文档中的字和与其对应的候选词而具有相同的字的个数)/候选词的字数
例如,与原始文档中的字“亭玉立”对应的候选词为“亭亭玉立”时,该候选词的原始文档相似度加权为3/4(0.75)。
在本实施例中,还导入前一词、后继词的词义信息。例如,如图12所示,该单词的词义是根据作了标记后的大型词库(コパス),参照前后词的词义,自动学习后获得的。或者是根据对不同的区作了标记后的文档集学习获得的。由于采用层次定义方式,所以通过集合逻辑集的运算,进行前后词的词义相似度计算,可获得词义码。例如,词义码[7140]和[714a]的集合逻辑集的运算结果为[714]。这时,由于三个码一致,所以词义码相似度为3/4。另外,当全部码一致时,词义相似度为1,在两个码一致的情况下,词义相似度为2/4,在一个码一致的情况下,词义相似度为1/4,完全不一致的情况下为0。
图3是本发明的一实施例的结构图。在该图中,250是将存储汉语中的各字的排列顺序的字顺序排列表和存储与其对应的读音符号的读音符号表同与上述读音符号表对应的全部候选词及其读音符号一起存储起来的破音字典。破音字典的示意图示于图9。260是存储文字符号和与其对应的错误读音符号及其它可能的读音符号的字音词典。字音词典的数据结构示意图示于图10。450是存储读音符号和与其对应的全部同音异义字、词及该全部同音异义字、词的使用频度加权(长期学习)和词义码的音字词典。音字词典的数据结构示意图示于图11。550是存储着学习过的相邻接的后继词的词义码和前一词的词义码的组合的词义学习词典。词义学习词典的示意图示于图12。350是暂时记录中间处理数据的缓冲器。100是例如硬盘、键盘等输入装置,是输入原始文档的输入部。200是参照上述破音字典250及字音词典260,将由输入装置输入的原始文档中的字串变换成读音符号串的字转音变换部。300是对由上述字转音变换部200获得的读音符号串分出音节,将上述分出的音节作为检索关键字,参照上述音字词典450,检测全部可能的候选词及其关连信息的候选词检测部。400是利用掩蔽装置对连续汉字候选音节的相似位进行掩蔽,将掩蔽后的读音符号串作为检索关键字,参照上述音字词典450,检测全部可能的候选词及其关连信息的相似候选词检测部。500是将与原始文档中的字串对应的各候选词的开始位置、结束位置作为检索关键字,连接各候选词,形成有向网路,然后利用计算装置计算各候选词的相似度加权和词长加权,参照上述词义学习词典550,将使用频度加权+词长加权+原始文档相似度加权+词义相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径的最佳候选字串确定部。600是对上述取出的最佳路径中的字串和原始文档字串进行选配,检测不同的字后加以标记的选配部。700是输出上述最佳字串和标记后的原始文档的字串的输出部。
本实施例中的字转音变换部200的工作流程示于图4。
以下,参照该图说明其工作情况。
(S201)由输入部100将原始文档中的字输入后,记录在缓冲器350中。
(S202)参照字音词典260,按每一音节分出原始文档中的字,然后进入(S203)的处理。
(S203)分别取出记录在缓冲器350中的各音节,参照字音词典260,将非破音字变换成读音符号后记录在缓冲器350中。
(S204)参照破音字典250,将记录在缓冲器350中的有破音字的字变换成适合于破音字的读音符号。
(S205)参照缓冲器350中的原始文档中的字,根据汉语语法修正缓冲器350中的各字的读音符号。例如,“妈”的读音为“mal”,但“妈妈”中的第二个“妈”的声调不用1声(四声中的最高声)读,而应该用轻声(由于音节连续而失去固有的声调,轻轻地发音)读成“mao”,所以修正第二个“妈”的读音符号。
至此,字转音变换部200的处理结束。
图5示出了本实施例中的候选词检测部300的工作流程。
以下,参照该图说明其工作情况。
(S301) 输入由字转音变换部200获得的原始文档的读音符号。参照音字词典450,将读音符号分成可能成为音节的全部音节,然后进入(S302)的处理。
(S302)将分出的音节作为检索关键字,从音字词典450中取出全部候选词及其使用频度加权、以及词义码。
(S303)将候选词及其关连信息记录在缓冲器350中后,结束处理。
图6示出了本实施例中的相似候选词检测部400的工作流程。
以下,参照该图说明其工作情况。
(S401)由候选词检测部300输入读音符号串和全部候选词及其关连信息,然后进入(S402)。
(S402)判断是否有未处理的连续单音节候选。在还有未处理的连续单音节候选的情况下,进入(S403)。在没有未处理的连续单音节候选的情况下,结束相似候选词检测部400的处理。
(S403)由连续单音节的候选读音和相似音掩蔽装置参照音字词典450,取出相似词及其关连信息,然后进入(S404)。
(S404)参照读音符号串,对上述取出的相似候选词计算各相似候选词的开始位置、结束位置,然后返回(S402)的处理。
图7示出了本实施例中的最佳候选字串确定部500的工作流程。以下,参照该图说明其工作情况。
(S501)而由相似候选词检测部400输入相似候选词及其关连信息,然后进入(S502)。
(S502)从缓冲器350取出候选词及其关连信息,然后进入(S503)的处理。
(S503)将各候选词的开始、结束位置作为检索关键字,作成候选词的有向网路。
(S504)从缓冲器350取出原始文档的字串,将各候选词的开始位置、结束位置作为检索关键字,计算原始文档的相似度加权、词长加权,然后进入(S505)的处理。
(S505)将使用频度加权+词长加权+原始文档相似度加权+词义相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径。然后进入(S506)。
(S5056)取出最佳路径中的候选词,然后将其输出。
图8示出了本实施例中的参照选配部600的工作流程。
以下,参照该图说明其工作情况。
(S601)由最佳候选字串确定部500输入最佳路径中的字串A,然后进入(S602)。
(S602)取出缓冲器350中记录的原始文档的字串B,然后进入(S603)的处理。
(S603)由掩蔽装置对字串A和字串B进行掩蔽后,再对原始文档中的错别字、词进行掩蔽,然后进入(S604)的处理。
(S604)上述掩蔽后的原始文档的字串和最佳路径中的字串被送给输出部700。
以下,以输入了“多词资料库系统”的情况为例,具体地说明如上构成的本实施例的工作情况。如果从输入部100输入了称为“多词资料库系统”的原始文档,则字转音变换部200参照字音词典260和破音字典250,将上述输入的原始文档变换成如下所示的读音符号“duo1yu3z1liao4ku4xi4tueng3”,然后记录在缓冲器350中。其次,候选词检测部将上面所示的读音符号分成可能成为音节的全部音节。如图14(3)所示,将上述分出的音节作为检测关键字,参照音字词典450,检测出全部可能的候选词及其关连信息。然后输入到相似候选词检测部400。由于只在“duo1 yu3”音节中有候选字,所以由上述的音节压缩装置和掩蔽装置参照音字词典450,对上述两个音节检测图14(4)所示的相似候选词及其关连信息,然后进入最佳候选字串确定部500的处理。最佳候选字串确定部500首先将与原始文档的字串对应的开始位置、结束位置作为检索关键字,连接各候选词,作成图15(5)所示的有向网路。然后,参照词义学习词典550,将使用频度加权+词长加权+原始文档相似度加权+词义相似度加权的累计最大值作为评价函数,利用动态规划法,能检测出图15(5)所示的最佳路径。由此进入选配部600的处理。选配部600取出缓冲器350中记录的原始文档的字串。由选配装置对上述取出的原始文档的字串和上述最佳路径中的字串进行选配。如图16(6)所示,用标记符号(*表示丢字,[]表示错别字)将在上述选配时发现的不同的地方作上标记。然后,由输出部700输出上述最佳路径中的字串和作了标记后的字串。
以上根据实施例说明了本发明,但本发明并不限定于上述实施例,在不变更其主要意思的范围内,当然可以适当方式变形后来实施。即,例如词典中的读音符号可以直接用2字节的压缩符号表示。另外,也可以将字音词典和破音字典合并起来使用。
如上所述,如果采用本发明的汉语文档自动校正方法及其装置,则能解决现有的问题,能获得如下效果。
(1)能有效地对汉语文档进行错误检测和修正等。从由小学课本构成的词库取出实验数据一万字。然后,人为地造成有错误的文档后,记录该有错误的位置。如果采用本发明,则错误检测率及修正率至少能达到87%以上。
(2)不需要准备语言模型和特殊的知识数据库。进而在知识数据库的收集和维护方面能节省大量的工时和经费。
(3)能应用于汉语输入法或文字识别装置中的后处理。例如,欲输入“流血事件是可怕的。”这一字串时,直至“流血事件”是正确的变换,但如果输入“是可怕的。”时,就会产生“流血是见识可怕的。”这样的错误变换。如果采用本发明,则在如上所述那样输入后继词的话,可解决正确地变换过的前面的词被误变换的问题。
由以上所述可知,本发明的实用性非常强。
Claims (3)
1.一种用计算机自动校正电子化的汉语文档的汉语文档自动校正方法,其特征在于包括以下步骤:
词典制作步骤,在该步骤中预先编制以下各词典:将存储汉语中的各字的排列顺序的字顺序排列表和存储与其对应的读音符号的读音符号表同与上述读音符号表对应的全部候选词及其读音符号一起存储起来的破音字典;存储汉语中的文字符号和与其对应的错误读音符号及其它可能的读音符号的字音词典;以及存储汉语读音符号和与其对应的全部同音异义字、词及该全部同音异义字、词的使用频度加权和词义码的音字词典;
参照上述破音字典及字音词典,将由输入装置输入的原始文档中的字串变换成读音符号串的字转音变换步骤;
对在上述字转音变换步骤中获得的读音符号串分出音节,将上述分出的音节作为检索关键字,参照上述音字词典,检测出全部可能的候选词及其关连信息的候选词检测步骤;
利用掩蔽装置对连续汉字候选音节的相似位进行掩蔽,将掩蔽后的读音符号串作为检索关键字,参照上述音字词典,检测全部可能的候选词及其关连信息的相似候选词检测步骤;
将与原始文档中的字串对应的各候选词的开始位置、结束位置作为检索关键字,连接各候选词,形成有向网路,然后利用计算装置计算各候选词的相似度加权和词长加权,将使用频度加权、词长加权和原始文档相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径的最佳候选字串确定步骤;
以及对上述取出的最佳路径中的字串和原始文档字串进行选配,检测出不同的字后加以标记的选配步骤。
2.一种用计算机自动校正电子化的汉语文档的汉语文档自动校正装置,其特征在于包括以下部分:
将存储汉语中的各字的排列顺序的字顺序排列表和存储与其对应的读音符号的读音符号表同与上述读音符号表对应的全部候选词及其读音符号一起存储起来的破音字典;
存储文字符号和与其对应的错误读音符号及其它可能的读音符号的字音词典;
存储读音符号和与其对应的全部同音异义字、词及该全部同音异义字、词的使用频度加权和词义码的音字词典;
参照上述破音字典及字音词典,将由输入装置输入的原始文档中的字串变换成读音符号串的字转音变换部;
对在上述字转音变换步骤中获得的读音符号串分出音节,将上述分出的音节作为检索关键字,参照上述音字词典,检测出全部可能的候选词及其关连信息的候选词检测部;
利用掩蔽装置对连续汉字候选音节的相似位进行掩蔽,将掩蔽后的读音符号串作为检索关键字,参照上述音字词典,检测出全部可能的候选词及其关连信息的相似候选词检测部;
将与原始文档中的字串对应的各候选词的开始位置、结束位置作为检索关键字,连接各候选词,形成有向网路,然后利用计算装置计算各候选词的相似度加权和词长加权,将使用频度加权、词长加权和原始文档相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径的最佳候选字串确定部;
以及对上述取出的最佳路径中的字串和原始文档字串进行选配,检测出不同的字后加以标记的选配部。
3.根据权利要求2所述的汉语文档自动校正装置,其特征在于:
备有在存储器中存储着学习过的相邻接的后继词的词义码和前一词的词义码的组合的词义学习词典,
上述最佳候选字串确定装置将与原始文档中的字串对应的各候选词的开始位置、结束位置作为检索关键字,连接各候选词,形成有向网路后,利用计算装置计算各候选词的相似度加权和词长加权,参照上述词义学习词典,将使用频度加权、词长加权、原始文档相似度加权和词义相似度加权的累计最大值作为评价函数,利用动态规划法,取出最佳路径。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP77354/97 | 1997-03-28 | ||
JP9077354A JPH10269204A (ja) | 1997-03-28 | 1997-03-28 | 中国語文書自動校正方法及びその装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN1195142A true CN1195142A (zh) | 1998-10-07 |
Family
ID=13631584
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN98104404A Pending CN1195142A (zh) | 1997-03-28 | 1998-02-12 | 汉语文档自动校正方法及其装置 |
Country Status (3)
Country | Link |
---|---|
JP (1) | JPH10269204A (zh) |
CN (1) | CN1195142A (zh) |
TW (1) | TW420774B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100452025C (zh) * | 2002-06-28 | 2009-01-14 | 微软公司 | 自动检测文件中搭配错误的系统和方法 |
CN104750672A (zh) * | 2013-12-27 | 2015-07-01 | 重庆新媒农信科技有限公司 | 一种应用于搜索中的中文词汇纠错方法及其装置 |
CN105760359A (zh) * | 2014-11-21 | 2016-07-13 | 财团法人工业技术研究院 | 问句处理系统及其方法 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050289463A1 (en) * | 2004-06-23 | 2005-12-29 | Google Inc., A Delaware Corporation | Systems and methods for spell correction of non-roman characters and words |
CN110427619B (zh) * | 2019-07-23 | 2022-06-21 | 西南交通大学 | 一种基于多通道融合与重排序的中文文本自动校对方法 |
CN110807319B (zh) * | 2019-10-31 | 2023-07-25 | 北京奇艺世纪科技有限公司 | 一种文本内容检测方法、检测装置、电子设备及存储介质 |
CN111008531B (zh) * | 2019-12-06 | 2023-05-26 | 北京金山数字娱乐科技有限公司 | 语句选词模型的训练方法及装置、语句选词方法及装置 |
-
1997
- 1997-03-28 JP JP9077354A patent/JPH10269204A/ja active Pending
- 1997-12-30 TW TW86119972A patent/TW420774B/zh not_active IP Right Cessation
-
1998
- 1998-02-12 CN CN98104404A patent/CN1195142A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100452025C (zh) * | 2002-06-28 | 2009-01-14 | 微软公司 | 自动检测文件中搭配错误的系统和方法 |
CN104750672A (zh) * | 2013-12-27 | 2015-07-01 | 重庆新媒农信科技有限公司 | 一种应用于搜索中的中文词汇纠错方法及其装置 |
CN104750672B (zh) * | 2013-12-27 | 2017-11-21 | 重庆新媒农信科技有限公司 | 一种应用于搜索中的中文词汇纠错方法及其装置 |
CN105760359A (zh) * | 2014-11-21 | 2016-07-13 | 财团法人工业技术研究院 | 问句处理系统及其方法 |
Also Published As
Publication number | Publication date |
---|---|
JPH10269204A (ja) | 1998-10-09 |
TW420774B (en) | 2001-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1205572C (zh) | 对拼写、打字和转换错误具有容错能力的将一种文本形式转换为另一种文本形式的语言输入体系结构 | |
CN1145872C (zh) | 手写汉字自动分割和识别方法以及使用该方法的系统 | |
CN1207664C (zh) | 对语音识别结果中的错误进行校正的方法和语音识别系统 | |
CN110363194A (zh) | 基于nlp的智能阅卷方法、装置、设备及存储介质 | |
CN1197525A (zh) | 交互式语言训练设备 | |
CN1912803A (zh) | 信息处理方法和信息处理设备 | |
CN1384940A (zh) | 以无模式输入将一种文本形式转换成另一种文本形式的语言输入体系结构 | |
CN1457002A (zh) | 表意语言的多模式输入 | |
CN101067766A (zh) | 输入法中取消字符串的方法及文字输入系统 | |
CN1195142A (zh) | 汉语文档自动校正方法及其装置 | |
CN103324607A (zh) | 一种泰语文本切词方法及装置 | |
CN1256650C (zh) | 一种中文整句输入法 | |
CN1471025A (zh) | 使用韵律控制的中文文本至语音拼接合成系统及方法 | |
CN1108572C (zh) | 汉语和日语的双向机械翻译机 | |
CN1102779C (zh) | 中文简繁体字文件转换装置 | |
CN1424665A (zh) | 具有听写测验及自动评分功能的装置及其操作方法 | |
CN1963753A (zh) | 多维汉宇通中文学习应用系统与方法 | |
EP2336850A1 (en) | Guixi input method and system for splitting word letters | |
CN1136496C (zh) | 简化拼音-触摸屏鼠标式汉字输入方法 | |
CN1645356A (zh) | 多维汉语学习系统 | |
CN1116343A (zh) | 中文错别字自动订正方法及装置 | |
CN1156811C (zh) | 伴随发音显示字幕的方法及其装置 | |
CN101488044A (zh) | 一种语音和单笔混合式计算机汉字输入法 | |
CN1679023A (zh) | 创建和使用中文语言数据和用户自纠正数据的方法和系统 | |
CN1494026A (zh) | 具有语音辨识辅助功能的中文输入方法及其系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C06 | Publication | ||
PB01 | Publication | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: GR Ref document number: 1039167 Country of ref document: HK |