CN106527757A - 一种输入纠错方法及装置 - Google Patents
一种输入纠错方法及装置 Download PDFInfo
- Publication number
- CN106527757A CN106527757A CN201610970625.XA CN201610970625A CN106527757A CN 106527757 A CN106527757 A CN 106527757A CN 201610970625 A CN201610970625 A CN 201610970625A CN 106527757 A CN106527757 A CN 106527757A
- Authority
- CN
- China
- Prior art keywords
- word
- error correction
- character string
- pinyin
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/02—Input arrangements using manually operated switches, e.g. using keyboards or dials
- G06F3/023—Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
- G06F3/0233—Character input methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/232—Orthographic correction, e.g. spell checking or vowelisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Artificial Intelligence (AREA)
- Human Computer Interaction (AREA)
- Document Processing Apparatus (AREA)
- Machine Translation (AREA)
Abstract
本发明提出了一种输入纠错方法及装置,该方法包括:判断输入的词语字符串是否为全拼音;若是,则对所述词语字符串的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到第一纠错结果;否则,对所述词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,将所述词语字符串转成全拼音,并对转成的所述全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到第二纠错结果。本发明巧妙地将相似度计算方法应用于拼音字符的相似度计算和中文字符的相似度计算中,将本发明应用于中文搜索引擎和智能问答系统中,可以显著提高中文搜索引擎和智能问答系统中针对词语输入的信息查询和问答的准确率。
Description
技术领域
本发明涉及自然语音处理和机器学习技术领域,尤其涉及一种输入纠错方法及装置。
背景技术
目前用户常常会通过中文搜索引擎或智能问答系统进行信息查询,其中很大一部分查询是以词语的形式输入的。以百度为代表的中文搜索引擎和以小i机器人为代表的智能问答系统均能对用户输入的中文词语进行相应的响应和反馈。但是,当用户输入错误的词语时,主要有:同音别字、近音别字、形近别字、拼音、多字漏字等情况,以上搜索引擎或智能问答系统就可能会无法正确或有效处理此类词语,致使用户无法获取需要的信息。例如,原词为:火中取栗,对于存在同音别字、近音别字、拼音等错误的“火宗去li”或存在同音别字、多字漏字等错误的“火中去”,以上的搜索引擎或智能问答系统均无法正确处理。
发明内容
本发明要解决的技术问题是,提供一种输入纠错方法及装置,对输入的同音别字、近音别字、拼音、形近别字、多字漏字等情况进行有效的纠错处理。
本发明采用的技术方案是,所述输入纠错方法,包括:
判断输入的词语字符串是否为全拼音;
若是,则对所述词语字符串的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到第一纠错结果;否则,对所述词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,将所述词语字符串转成全拼音,并对转成的所述全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到第二纠错结果。
进一步的,根据拼音反查表将纠错后的全拼音反查为汉字;
所述方法还包括:预先建立拼音反查表,包括:
提供训练语料;
对训练语料进行分词以得到词语列表;
在词语列表的基础上利用拼音反查表生成工具生成拼音反查表。
进一步的,在分词处理的结果中分词个数大于1时,所述将所述词语字符串转成全拼音,包括:
在不改变所述词语字符串中各分词出现顺序的情况下,将所述词语字符串中的汉字分词转换成拼音,再与所述词语字符串中已有的拼音一起,组成所述词语字符串对应的全拼音。
进一步的,所述方法还包括:预先建立词频表,包括:
提供训练语料;
对训练语料进行分词以得到词语列表;
采用统计的方式根据词语列表得到词频表;
对任一词语字符串的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到纠错结果,包括:
根据拼音反查表判断所述任一词语字符串的全拼音的拼写是否正确;
若是,则根据所述任一词语字符串的全拼音获取同音的词语列表,基于获取的同音的词语列表得到纠错结果;
若否,则根据所述任一词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果。
进一步的,所述基于获取的同音的词语列表得到纠错结果,包括:
判断获取的同音的词语列表是否为空,若是,则得到的纠错结果为空,否则将获取的同音的词语列表中的词语作为纠错结果;
所述根据所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果,包括:
依次计算所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度;
对于计算出的相似度大于设定相似度阈值的情况,将拼音反查表中的拼音对应的词语列表中的词语作为纠错结果。
进一步的,所述方法,还包括:
若分词处理的结果中分词的个数为1,则将用户输入的词语字符串作为第二纠错结果。
进一步的,所述方法还包括:
根据第一纠错结果或者第二纠错结果进行相应的提示。
进一步的,根据第一纠错结果进行相应的提示,包括:
判断第一纠错结果是否为空,若是,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串有误,否则将纠错结果中的词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户。
进一步的,根据第二纠错结果进行相应的提示,包括:
若第二纠错结果为空,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串中的拼音有误;
若第二纠错结果中词语的个数为1,则将第二纠错结果中的词语输出以提示给用户;
若第二纠错结果中词语的个数大于1,则根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式,并进行提示。
进一步的,所述根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式,并进行提示,包括:
分别计算第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度;
若计算出的第二纠错结果中各词语对应的所述相似度数值均一致,则将第二纠错结果中的各词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户,否则将第二纠错结果中的各词语按照相似度从大到小输出设定个数的词语以提示给用户。
进一步的,所述输入的词语字符串中的汉字词语字符串的获取过程包括:在分词处理的结果中分词个数大于1的情况下,依次记录所述输入的词语字符串的分词中的所有汉字分词并组成汉字词语字符串。
本发明还提供一种输入纠错装置,包括:
判断模块,用于判断输入的词语字符串是否为全拼音;若是,则将所述词语字符串的全拼音发送给纠错模块进行处理,得到第一纠错结果;否则,将所述词语字符串发送给分词模块进行分词处理;
分词模块,用于对判断模块发来的词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,将所述词语字符串发送给转换模块;
转换模块,用于将分词模块发来的词语字符串转成全拼音并将转成的全拼音发送给纠错模块进行处理,得到第二纠错结果;
纠错模块,用于对判断模块或者转换模块发来的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到相应的纠错结果。
进一步的,所述纠错模块,具体用于:根据拼音反查表将纠错后的全拼音反查为汉字;
所述装置还包括:
建立模块,用于:提供训练语料;对训练语料进行分词以得到词语列表;在词语列表的基础上利用拼音反查表生成工具生成拼音反查表。
进一步的,所述转换模块,具体用于:
在不改变所述词语字符串中各分词出现顺序的情况下,将所述词语字符串中的汉字分词转换成拼音,再与所述词语字符串中已有的拼音一起,组成所述词语字符串对应的全拼音。
进一步的,所述建立模块,还用于:采用统计的方式根据词语列表得到词频表;
所述纠错模块,包括:
拼写检查单元,用于对任一词语字符串的全拼音进行拼音纠错处理时,根据拼音反查表判断所述任一词语字符串的全拼音的拼写是否正确;若是,则调用第一处理单元,否则调用第二处理单元;
第一处理单元,用于根据所述任一词语字符串的全拼音获取同音的词语列表,基于获取的同音的词语列表得到纠错结果;
第二处理单元,用于根据所述任一词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果。
进一步的,所述第一处理单元,具体用于:
判断获取的同音的词语列表是否为空,若是,则得到的纠错结果为空,否则将获取的同音的词语列表中的词语作为纠错结果;
所述第二处理单元,具体用于:
依次计算所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度;对于计算出的相似度大于设定相似度阈值的情况,将拼音反查表中的拼音对应的词语列表中的词语作为纠错结果。
进一步的,所述分词模块,还用于:若分词处理的结果中分词的个数为1,则将用户输入的词语字符串作为第二纠错结果。
进一步的,所述装置还包括:
提示模块,用于根据第一纠错结果或者第二纠错结果进行相应的提示。
进一步的,所述提示模块,具体用于:
判断第一纠错结果是否为空,若是,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串有误,否则将纠错结果中的词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户。
进一步的,所述提示模块,具体用于:
若第二纠错结果为空,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串中的拼音有误;
若第二纠错结果中词语的个数为1,则将第二纠错结果中的词语输出以提示给用户;
若第二纠错结果中词语的个数大于1,则根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式,并进行提示。
进一步的,所述提示模块,在根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式时,具体用于:
分别计算第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度;
若计算出的第二纠错结果中各词语对应的所述相似度数值均一致,则将第二纠错结果中的各词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户,否则将第二纠错结果中的各词语按照相似度从大到小输出设定个数的词语以提示给用户。
进一步的,所述分词模块,还用于:在分词处理的结果中分词个数大于1的情况下,依次记录所述输入的词语字符串的分词中的所有汉字分词并组成汉字词语字符串,发送给所述提示模块。
采用上述技术方案,本发明所述输入纠错方法及装置至少具有下列优点:
1、本发明提供的输入纠错方法中,拼音纠错处理可有效处理同音别字、近音别字、拼音、形近别字、多字漏字等词语输入错误问题,中文字符相似度计算和拼音纠错处理相结合可以进一步提高纠错的准确性。
2、本发明实施例中在建立词语列表、拼音反查表和词频表的过程中,充分有效的利用训练语料所提供的词语信息,能够快速适用于不同领域的自定义词语纠错。
3、本发明巧妙地将相似度计算方法应用于拼音字符的相似度计算和中文字符的相似度计算中,并采用了不同的评价指标,分别是在进行拼音字符的相似度计算时使用的相似度阈值、以及在向用户提示纠错结果时用到相似度从大到小排列后按照设定个数进行输出,以得到比较准确的计算结果和输出结果。
4、本发明所提供的所述输入纠错方法及装置,应用于中文搜索引擎和智能问答系统中,可以显著提高中文搜索引擎和智能问答系统中针对词语输入的信息查询和问答的准确率。
附图说明
图1为本发明第一实施例的输入纠错方法流程图;
图2为本发明第二实施例的输入纠错方法流程图;
图3为本发明第三实施例的输入纠错方法流程图;
图4为本发明第四实施例的输入纠错装置组成结构示意图;
图5为本发明第五实施例的输入纠错装置组成结构示意图;
图6为本发明第六实施例的输入纠错装置组成结构示意图;
图7为本发明第七实施例的基于分词和相似度计算的输入纠错方法流程图;
图8为本发明第七实施例的基于分词和相似度计算的输入纠错系统示意图。
具体实施方式
为更进一步阐述本发明为达成预定目的所采取的技术手段及功效,以下结合附图及较佳实施例,对本发明进行详细说明如后。
本发明第一实施例,一种输入纠错方法,如图1所示,包括以下具体步骤:
步骤S101,判断输入的词语字符串是否为全拼音;若是,则执行步骤S102,否则,执行步骤S103。
步骤S102,对所述词语字符串的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到第一纠错结果,流程结束。
步骤S103,对所述词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,执行步骤S104;若分词处理的结果中分词的个数为1,则将用户输入的词语字符串作为第二纠错结果,流程结束。
步骤S104,将所述词语字符串转成全拼音。
具体的,步骤S104包括:
在不改变所述词语字符串中各分词出现顺序的情况下,将所述词语字符串中的汉字分词转换成拼音,再与所述词语字符串中已有的拼音一起,组成所述词语字符串对应的全拼音。
步骤S105,对转成的所述全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到第二纠错结果,流程结束。
本发明实施例的所述输入纠错方法中,通过拼音纠错处理,可有效处理出现同音别字、近音别字、拼音、形近别字、多字漏字等词语输入错误问题,将本发明实施例的所述方法应用于中文搜索引擎和智能问答系统中,可以显著提高中文搜索引擎和智能问答系统中针对词语输入的信息查询和问答的准确率。
本发明第二实施例,一种输入纠错方法,如图2所示,包括以下具体步骤:
步骤S201,预先建立词语列表、拼音反查表和词频表。
具体的,步骤S201包括:
提供训练语料;
对训练语料进行分词以得到词语列表;
在词语列表的基础上利用拼音反查表生成工具生成拼音反查表,采用统计的方式根据词语列表得到词频表。
本发明实施例中在建立词语列表、拼音反查表和词频表的过程中,充分有效的利用训练语料所提供的词语信息,能够快速适用于不同领域的自定义词语纠错。
步骤S202,判断输入的词语字符串是否为全拼音;若是,则执行步骤S203,否则,执行步骤S204。
步骤S203,根据词语列表、拼音反查表和词频表对所述词语字符串的全拼音进行拼音纠错处理,根据拼音反查表将纠错后的全拼音反查为汉字,得到第一纠错结果,流程结束。
步骤S204,对所述词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,执行步骤S205;若分词处理的结果中分词的个数为1,则将用户输入的词语字符串作为第二纠错结果,流程结束。
步骤S205,将所述词语字符串转成全拼音。
具体的,步骤S205包括:
在不改变所述词语字符串中各分词出现顺序的情况下,将所述词语字符串中的汉字分词转换成拼音,再与所述词语字符串中已有的拼音一起,组成所述词语字符串对应的全拼音。
步骤S206,根据词语列表、拼音反查表和词频表对转成的所述全拼音进行拼音纠错处理,根据拼音反查表将纠错后的全拼音反查为汉字,得到第二纠错结果,流程结束。
具体的,在步骤S203和步骤S206中,进行拼音纠错处理、反查汉字以得到纠错结果的方式均相同,这里统一进行详细描述如下:
对任一词语字符串的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到纠错结果,包括:
根据拼音反查表判断所述任一词语字符串的全拼音的拼写是否正确;具体是用所述任一词语字符串的全拼音在拼音反查表中进行比对查找,若有一致的,则表明拼写正确,否则拼写错误。
若是,则根据所述任一词语字符串的全拼音获取同音的词语列表,基于获取的同音的词语列表得到纠错结果;
若否,则根据所述任一词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果。
进一步的,所述基于获取的同音的词语列表得到纠错结果,包括:
判断获取的同音的词语列表是否为空,若是,则得到的纠错结果为空,否则将获取的同音的词语列表中的词语作为纠错结果;
所述根据所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果,包括:
依次计算所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度;对于计算出的相似度大于设定相似度阈值的情况,将拼音反查表中的拼音对应的词语列表中的词语作为纠错结果。
下面以正确的原词为“火中取栗”为例,介绍一下本发明实施例的所述方法的应用过程:若用户输入存在近音别字且混有拼音的词语字符串“火宗去li”,因为该词语字符串中同时包含汉字和拼音,所以判定输入的词语字符串不是全拼音,然后对“火宗去li”进行分词处理,得到的分词为“火”“宗”“去”“li”,由于分词的个数大于1,将“火宗去li”转成全拼音为“huozongquli”,再对“huozongquli”进行拼音纠错处理,具体是首选判断该全拼音拼写是否正确,由于在拼音反查表中包含的都是正确的拼音,在拼音反查表中没有找到“huozongquli”,故该全拼音拼写错误,则根据“huozongquli”与拼音反查表中的每个拼音之间的相似度中最高者“huozhongquli”,得到与“huozhongquli”对应的词语“火中取栗”,以询问用户。
若用户输入全拼音的词语字符串“huozhongquli”,因为该词语字符串是全拼音,所以直接对该全拼音进行拼音纠错处理,具体是在确定“huozhongquli”的拼音拼写正确的情况下,根据该全拼音获取同音的词语列表,基于获取的同音的词语列表可以得到至少包含“火中取栗”的提示内容,以询问用户。
若用户输入存在多字和近音别字的词语字符串“火中去栗了”,由于该词语字符串不是全拼音,对“火中取栗了”进行分词处理,得到的分词为“火”“中”“去”“栗”“了”,由于分词的个数大于1,将“火中去栗了”转成全拼音为“huozhongqulile”,再对“huozhongqulile”进行拼音纠错处理,具体是首选判断该全拼音拼写是否正确,由于在拼音反查表中包含的都是正确的拼音,在拼音反查表中没有找到“huozhongqulile”,故该全拼音拼写错误,则根据“huozhongqulile”与拼音反查表中的每个拼音之间的相似度中最高者“huozhongquli”,得到与“huozhongquli”对应的词语“火中取栗”,以询问用户。
若用户输入存在漏字和近音别字的词语字符串“火中去”,由于该词语字符串不是全拼音,对“火中去”进行分词处理,得到的分词为“火”“中”“去”,由于分词的个数大于1,将“火中去”转成全拼音为“huozhongqu”,再对“huozhongqu”进行拼音纠错处理,具体是首选判断该全拼音拼写是否正确,由于在拼音反查表中包含的都是正确的拼音,在拼音反查表中没有找到“huozhongqu”,故该全拼音拼写错误,则根据“huozhongqu”与拼音反查表中的每个拼音之间的相似度中最高者“huozhongquli”,得到与“huozhongquli”对应的词语“火中取栗”,以询问用户。
下面以正确的原词为“十二生肖”为例,介绍一下本发明实施例的所述方法的应用过程:若用户输入存在同音别字的词语字符串“使二生效”,因为该词语字符串不是全拼音,对“使二生效”进行分词处理,得到的分词为“使”“二”“生效”,由于分词的个数大于1,将“使二生效”转成全拼音为“shiershengxiao”,再对“shiershengxiao”进行拼音纠错处理,具体是确定拼音正确时,找同音词语列表,其中必然包含“十二生肖”,从而得到至少包含“十二生肖”的提示内容,以询问用户。
若用户输入存在近音别字的词语字符串“十而僧小”,因为该词语字符串不是全拼音,对“十而僧小”进行分词处理,得到的分词为“十”“而”“僧”“小”,由于分词的个数大于1,将“十而僧小”转成全拼音为“shiersengxiao”,再对“shiersengxiao”进行拼音纠错处理,具体是首选判断该全拼音拼写是否正确,由于在拼音反查表中包含的都是正确的拼音,在拼音反查表中没有找到“shiersengxiao”,故该全拼音拼写错误,则根据“shiersengxiao”与拼音反查表中的每个拼音之间的相似度中最高者“shiershengxiao”,得到与“shiershengxiao”对应的词语“十二生肖”,以询问用户。
本发明实施例的所述输入纠错方法中,通过拼音纠错处理,可有效处理出现同音别字、近音别字、拼音、形近别字、多字漏字等词语输入错误问题,将本发明实施例的所述方法应用于中文搜索引擎和智能问答系统中,可以显著提高中文搜索引擎和智能问答系统中针对词语输入的信息查询和问答的准确率。
本发明第三实施例,一种输入纠错方法,如图3所示,包括以下具体步骤:
步骤S201,预先建立词语列表、拼音反查表和词频表。
具体的,步骤S201包括:
提供训练语料;
对训练语料进行分词以得到词语列表;
在词语列表的基础上利用拼音反查表生成工具生成拼音反查表,采用统计的方式根据词语列表得到词频表。
步骤S202,判断输入的词语字符串是否为全拼音;若是,则执行步骤S203,否则,执行步骤S204。
步骤S203,根据词语列表、拼音反查表和词频表对所述词语字符串的全拼音进行拼音纠错处理,根据拼音反查表将纠错后的全拼音反查为汉字,得到第一纠错结果,执行步骤S207。
步骤S204,对所述词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,执行步骤S205;若分词处理的结果中分词的个数为1,则将用户输入的词语字符串作为第二纠错结果,执行步骤S207。
步骤S205,将所述词语字符串转成全拼音。
具体的,步骤S205包括:
在不改变所述词语字符串中各分词出现顺序的情况下,将所述词语字符串中的汉字分词转换成拼音,再与所述词语字符串中已有的拼音一起,组成所述词语字符串对应的全拼音。
步骤S206,根据词语列表、拼音反查表和词频表对转成的所述全拼音进行拼音纠错处理,根据拼音反查表将纠错后的全拼音反查为汉字,得到第二纠错结果,执行步骤S207。
具体的,在步骤S203和步骤S206中,进行拼音纠错处理、反查汉字以得到纠错结果的方式均相同,这里统一进行详细描述如下:
对任一词语字符串的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到纠错结果,包括:
根据拼音反查表判断所述任一词语字符串的全拼音的拼写是否正确;实际上就是,用所述任一词语字符串的全拼音在拼音反查表中进行比对查找,若有一致的,则表明拼写正确,否则拼写错误。
若是,则根据所述任一词语字符串的全拼音获取同音的词语列表,基于获取的同音的词语列表得到纠错结果;
若否,则根据所述任一词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果。
进一步的,所述基于获取的同音的词语列表得到纠错结果,包括:
判断获取的同音的词语列表是否为空,若是,则得到的纠错结果为空,否则将获取的同音的词语列表中的词语作为纠错结果;
所述根据所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果,包括:
依次计算所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度;对于计算出的相似度大于设定相似度阈值的情况,将拼音反查表中的拼音对应的词语列表中的词语作为纠错结果。
步骤S207,根据第一纠错结果或者第二纠错结果进行相应的提示。
具体的,在步骤S207中,根据第一纠错结果进行相应的提示,包括:
判断第一纠错结果是否为空,若是,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串有误,否则将纠错结果中的词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户。
在步骤S207中,根据第二纠错结果进行相应的提示,包括:
1)若第二纠错结果为空,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串中的拼音有误;
2)若第二纠错结果中词语的个数为1,则将第二纠错结果中的词语输出以提示给用户;
3)若第二纠错结果中词语的个数大于1,则根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式,并进行提示。
进一步的,在上述的第3)种情况中,根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式,并进行提示,包括:
分别计算第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度;
若计算出的第二纠错结果中各词语对应的所述相似度数值均一致,则将第二纠错结果中的各词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户,否则将第二纠错结果中的各词语按照相似度从大到小输出设定个数的词语以提示给用户。
在上述的第1)种和第3)种情况中,所述输入的词语字符串中的汉字词语字符串的获取过程包括:在分词处理的结果中分词个数大于1的情况下,依次记录所述输入的词语字符串的分词中的所有汉字分词并组成汉字词语字符串。
下面以正确的原词为“火中取栗”为例,介绍一下本发明实施例的所述方法的应用过程:
若用户输入存在近音别字且混有拼音的词语字符串“火中确li”,因为该词语字符串中同时包含汉字和拼音,所以判定输入的词语字符串不是全拼音,然后对“火中确li”进行分词处理,得到的分词为“火”“中”“确”“li”,由于分词的个数大于1,将“火中确li”转成全拼音为“huozhongqueli”,再对“huozhongqueli”进行拼音纠错处理,具体是首选根据拼音反查表判断该全拼音拼写是否正确,由于在拼音反查表中包含的都是正确的拼音,在拼音反查表中没有找到“huozhongqueli”,故该全拼音拼写错误,则根据“huozhongqueli”与拼音反查表中的每个拼音之间的相似度中最高者“huozhongquli”,得到与“huozhongquli”对应的词语“火中取栗”作为第二纠错结果。假设第二纠错结果中还包括“火种取栗”,接下来,用第二纠错结果中的“火中取栗”、“火种取栗”分别与由“火中确li”的分词中的所有汉字分词组成的汉字词语字符串“火中确”计算相似度,从而确定出“火中取栗”才是最终的提示内容,以询问用户。
本发明实施例巧妙地将相似度计算方法应用于拼音字符的相似度计算和中文字符的相似度计算中,并采用了不同的评价指标,分别是在进行拼音字符的相似度计算时使用的相似度阈值、以及在向用户提示纠错结果时用到相似度从大到小排列后按照设定个数进行输出,以得到比较准确的计算结果和输出结果。
本发明实施例的所述输入纠错方法中,通过拼音纠错处理和中文字符的相似度计算相结合,比第一、二实施例更加准确、有效的处理同音别字、近音别字、拼音形近别字、多字漏字等词语输入错误问题,将本发明实施例的所述方法应用于中文搜索引擎和智能问答系统中,可以显著提高中文搜索引擎和智能问答系统中针对词语输入的信息查询和问答的准确率。
本发明第四实施例,与第一实施例对应,本实施例介绍一种输入纠错装置,如图4所示,包括以下组成部分:
1)判断模块401,用于判断输入的词语字符串是否为全拼音;若是,则将所述词语字符串的全拼音发送给纠错模块404进行处理,得到第一纠错结果;否则,将所述词语字符串发送给分词模块402进行分词处理;
2)分词模块402,用于对判断模块401发来的词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,将所述词语字符串发送给转换模块403;若分词处理的结果中分词的个数为1,则将用户输入的词语字符串作为第二纠错结果。
3)转换模块403,用于将分词模块402发来的词语字符串转成全拼音并将转成的全拼音发送给纠错模块404进行处理,得到第二纠错结果;
具体的,转换模块403用于:
在不改变所述词语字符串中各分词出现顺序的情况下,将所述词语字符串中的汉字分词转换成拼音,再与所述词语字符串中已有的拼音一起,组成所述词语字符串对应的全拼音。
4)纠错模块404,用于对判断模块401或者转换模块403发来的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到相应的纠错结果。
本发明实施例的所述输入纠错装置,通过拼音纠错处理,可有效处理出现同音别字、近音别字、拼音、形近别字、多字漏字等词语输入错误问题,将本发明实施例的所述装置应用于中文搜索引擎和智能问答系统中,可以显著提高中文搜索引擎和智能问答系统中针对词语输入的信息查询和问答的准确率。
本发明第五实施例,与第二实施例对应,本实施例介绍一种输入纠错装置,如图5所示,包括以下组成部分:
1)建立模块501,用于:提供训练语料;对训练语料进行分词以得到词语列表;在词语列表的基础上利用拼音反查表生成工具生成拼音反查表,采用统计的方式根据词语列表得到词频表。
2)判断模块502,用于判断输入的词语字符串是否为全拼音;若是,则将所述词语字符串的全拼音发送给纠错模块505进行处理,得到第一纠错结果;否则,将所述词语字符串发送给分词模块503进行分词处理;
3)分词模块503,用于对判断模块502发来的词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,将所述词语字符串发送给转换模块504;若分词处理的结果中分词的个数为1,则将用户输入的词语字符串作为第二纠错结果。
4)转换模块504,用于将分词模块503发来的词语字符串转成全拼音并将转成的全拼音发送给纠错模块505进行处理,得到第二纠错结果;
具体的,转换模块504用于:
在不改变所述词语字符串中各分词出现顺序的情况下,将所述词语字符串中的汉字分词转换成拼音,再与所述词语字符串中已有的拼音一起,组成所述词语字符串对应的全拼音。
5)纠错模块505,用于对判断模块502或者转换模块504发来的全拼音进行拼音纠错处理,并根据拼音反查表将纠错后的全拼音反查为汉字,得到相应的纠错结果。
具体的,纠错模块505,包括:
拼写检查单元51,用于对任一词语字符串的全拼音进行拼音纠错处理时,根据拼音反查表判断所述任一词语字符串的全拼音的拼写是否正确;若是,则调用第一处理单元51,否则调用第二处理单元52;具体是用所述任一词语字符串的全拼音在拼音反查表中进行比对查找,若有一致的,则表明拼写正确,否则拼写错误。
第一处理单元52,用于根据所述任一词语字符串的全拼音获取同音的词语列表,基于获取的同音的词语列表得到纠错结果;获取同音的词语列表会用到建立模块501所建立的词语列表和拼音反查表。
第二处理单元53,用于根据所述任一词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果。
进一步的,第一处理单元52用于:
判断获取的同音的词语列表是否为空,若是,则得到的纠错结果为空,否则将获取的同音的词语列表中的词语作为纠错结果;
第二处理单元53用于:
依次计算所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度;对于计算出的相似度大于设定相似度阈值的情况,将拼音反查表中的拼音对应的词语列表中的词语作为纠错结果。
本发明实施例巧妙地将相似度计算应用于拼音字符的相似度计算和中文字符的相似度计算中,并采用了不同的评价指标,分别是在进行拼音字符的相似度计算时使用的相似度阈值、以及在向用户提示纠错结果时用到基于中文相似度从大到小排列纠错结果中的词语进行输出,以得到比较准确的计算结果和输出结果。
本发明实施例的所述输入纠错装置,通过拼音纠错处理,可有效处理出现同音别字、近音别字、拼音、形近别字、多字漏字等词语输入错误问题,将本发明实施例的所述装置应用于中文搜索引擎和智能问答系统中,可以显著提高中文搜索引擎和智能问答系统中针对词语输入的信息查询和问答的准确率。
本发明第六实施例,与第三实施例对应,本实施例介绍一种输入纠错装置,如图6所示,包括以下组成部分:
1)建立模块501,用于:提供训练语料;对训练语料进行分词以得到词语列表;在词语列表的基础上利用拼音反查表生成工具生成拼音反查表,采用统计的方式根据词语列表得到词频表。
2)判断模块502,用于判断输入的词语字符串是否为全拼音;若是,则将所述词语字符串的全拼音发送给纠错模块505进行处理,得到第一纠错结果;否则,将所述词语字符串发送给分词模块503进行分词处理;
3)分词模块503,用于对判断模块502发来的词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,将所述词语字符串发送给转换模块504;若分词处理的结果中分词的个数为1,则将用户输入的词语字符串作为第二纠错结果。
4)转换模块504,用于将分词模块503发来的词语字符串转成全拼音并将转成的全拼音发送给纠错模块505进行处理,得到第二纠错结果;
具体的,转换模块504用于:
在不改变所述词语字符串中各分词出现顺序的情况下,将所述词语字符串中的汉字分词转换成拼音,再与所述词语字符串中已有的拼音一起,组成所述词语字符串对应的全拼音。
5)纠错模块505,用于对判断模块502或者转换模块504发来的全拼音进行拼音纠错处理,并根据拼音反查表将纠错后的全拼音反查为汉字,得到相应的纠错结果。
具体的,纠错模块505,包括:
拼写检查单元51,用于对任一词语字符串的全拼音进行拼音纠错处理时,根据拼音反查表判断所述任一词语字符串的全拼音的拼写是否正确;若是,则调用第一处理单元51,否则调用第二处理单元52;具体是用所述任一词语字符串的全拼音在拼音反查表中进行比对查找,若有一致的,则表明拼写正确,否则拼写错误。
第一处理单元52,用于根据所述任一词语字符串的全拼音获取同音的词语列表,基于获取的同音的词语列表得到纠错结果;获取同音的词语列表会用到建立模块501所建立的词语列表和拼音反查表。
第二处理单元53,用于根据所述任一词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果。
进一步的,第一处理单元52用于:
判断获取的同音的词语列表是否为空,若是,则得到的纠错结果为空,否则将获取的同音的词语列表中的词语作为纠错结果;
第二处理单元53用于:
依次计算所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度;对于计算出的相似度大于设定相似度阈值的情况,将拼音反查表中的拼音对应的词语列表中的词语作为纠错结果。
6)提示模块506,用于根据第一纠错结果或者第二纠错结果进行相应的提示。
具体的,提示模块506一方面用于:
判断第一纠错结果是否为空,若是,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串有误,否则将纠错结果中的词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户。
提示模块506另一方面用于:
若第二纠错结果为空,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串中的拼音有误;
若第二纠错结果中词语的个数为1,则将第二纠错结果中的词语输出以提示给用户;
若第二纠错结果中词语的个数大于1,则根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式,并进行提示。
进一步的,提示模块506在根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式时,用于:
分别计算第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度;
若计算出的第二纠错结果中各词语对应的所述相似度数值均一致,则将第二纠错结果中的各词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户,否则将第二纠错结果中的各词语按照相似度从大到小输出设定个数的词语以提示给用户。
在本发明实施例中,分词模块503,还用于:在分词处理的结果中分词个数大于1的情况下,依次记录所述输入的词语字符串的分词中的所有汉字分词并组成汉字词语字符串,发送给提示模块506。
本发明实施例巧妙地将相似度计算方法应用于拼音字符的相似度计算和中文字符的相似度计算中,并采用了不同的评价指标,分别是在进行拼音字符的相似度计算时使用的相似度阈值、以及在向用户提示纠错结果时用到相似度从大到小排列后按照设定个数进行输出,以得到比较准确的计算结果和输出结果。
本发明实施例的所述输入纠错装置,通过拼音纠错处理和中文字符的相似度计算相结合,比第四、五实施例更加准确、有效的处理同音别字、近音别字、拼音形近别字、多字漏字等词语输入错误问题,将本发明实施例的所述装置应用于中文搜索引擎和智能问答系统中,可以显著提高中文搜索引擎和智能问答系统中针对词语输入的信息查询和问答的准确率。
本发明第七实施例,本实施例是在上述实施例的基础上,结合附图7~8介绍一个本发明的应用实例。
本发明实施例提供一种基于分词和相似度计算的输入纠错方法及系统,可以用于解决用户在输入词语时可能会发生的因为同音别字、近音别字、形近别字、拼音、多字漏字等导致的词语输入错误问题,从而提高用户查询的准确率,使用户得到所需要的信息。
如图7所示,为实现上述的目的,本发明实施例提供了一种基于分词和相似度计算的输入纠错方法,包括:
步骤1:输入待查的词语字符串。
步骤2:判断词语纠错模型是否已构建,如果是则进入步骤4,否则进入步骤3。
步骤3:根据训练语料构建词语纠错模型。
步骤4:根据词语纠错模型获取词语列表、词频表和拼音反查表。该拼音反查表是指根据拼音反查中文词语的列表。
步骤5:判断所输入的词语字符串是否为全拼音,如果是则进入步骤6,否则进入步骤9。
步骤6:对所输入的词语字符串进行拼音纠错处理,得到词语纠错结果列表;
步骤7:判断词语纠错结果列表是否为空,如果是,则进入步骤8,否则进入步骤18;
步骤8:提示用户所输入的拼音所对应的汉字词语数目超过一个或者用户所输入的拼音有误,进入步骤20;
步骤9:对所输入的词语字符串进行分词处理;
步骤10:判断分词处理结果中分词的个数是否等于1,如果是则进入步骤11,否则表明分词的个数大于1,进入步骤12;
步骤11:将分词处理结果中的分词输出,并提示用户所输入的词语没有错误,进入步骤20;
步骤12:按顺序记录所输入的词语字符串中出现的中文字符,将所输入的词语字符串转换为全拼音;
步骤13:对转换后的全拼音字符串进行拼音纠错处理,得到词语纠错结果列表;
步骤14:判断词语纠错结果列表是否为空,如果是则进入步骤8,否则进入步骤15;
步骤15:判断词语纠错结果列表中的词语个数是否为1,如果是则进入步骤18,否则进入步骤16;
步骤16:计算词语纠错结果列表中的词语和步骤12中所记录的中文字符之间的相似度;
步骤17:判断词语纠错结果列表中的各词语对应的相似度值是否一样,如果是则进入步骤18,否则进入步骤19;
步骤18:按照所得到的词语纠错结果列表中的词语在词频表中的词频从大到小进行结果输出并提示用户,进入步骤20;
步骤19:提示并输出相似度值最大的词语,输入纠错流程结束;
步骤20:输入纠错流程结束。
优选地,所述步骤3中的词语纠错模型的构建,主要包括:
步骤3.1:判断训练语料的分词结果文件是否存在,如果是则进入步骤3.3,否则进入步骤3.2;
步骤3.2:对训练语料进行分词并将分词结果保存至分词结果文件;
步骤3.3:基于分词结果文件统计词语列表和词频表;
步骤3.4:判断拼音反查文件是否存在,如果是则进入步骤3.5,否则进入步骤3.6;
步骤3.5:读取拼音反查表,进入步骤3.7;
步骤3.6:在词语列表的基础上利用拼音反查工具获取拼音反查表,并保存至拼音反查文件中;
步骤3.7:词语纠错模型构建完成。
优选地,所述步骤6和步骤13中的拼音纠错处理,主要包括:
步骤6.1:接收所输入的全拼音字符串;
步骤6.2:判断拼音拼写是否正确,如果是则进入步骤6.3,否则进入步骤6.10;
步骤6.3:根据拼音获取同音词语列表;
步骤6.4:判断获取的同音词语列表是否为空,如果是则进入步骤6.8,否则进入步骤6.6;
步骤6.5:输出空的同音词语列表作为词语纠错结果列表,进入步骤6.10;
步骤6.6:根据词频表按词频从大到小重新排序所获取的词语列表;
步骤6.7:输出获取的词语列表中设定个数的词语作为词语纠错结果列表,进入步骤6.10;
步骤6.8:计算所输入的拼音分别与拼音反查表中的拼音之间的相似度,并按相似度大小排序;
步骤6.9:获取相似度大于设定阈值的近音词语列表,输出获取的近音词语列表中设定个数的词语作为词语纠错结果列表;
步骤6.10:拼音纠错处理结束。
为实现上述的目的,本发明还提供了一种基于分词和相似度计算的中文词语纠错系统,采用下述的技术方案。
如图8所示,一种基于分词和相似度计算的中文词语纠错系统,包括:文本输入模块、中文分词模块、拼音转化模块、词语纠错模型构建模块、相似度计算模块、拼音纠错处理模块、纠错结果筛选模块和用户提示模块;
所述的文本输入模块,提供一个文本输入框,用于接收用户输入词语字符串;
所述的中文分词模块,用于对训练语料进行分词以获取词语列表,以及用于对文本输入模块中所输入的词语字符串进行分词;
所述的拼音转化模块,用于提供拼音转换功能,对词语列表进行拼音转换以得到拼音反查表,以及对文本输入模块中所输入的词语进行拼音转换从而得到拼音字符串;
所述的词语纠错模型构建模块,用于构建词语纠错模型,接收中文分词模块对训练语料处理后的词语列表和统计相应的词频表,并将词语列表保存至分词结果文件中,以及接收拼音转化模块所得到的拼音反查表并保存至拼音反查文件中;
本发明实施例中提供的词语纠错模型构建模块,可以有效充分利用训练语料所提供的词语信息,并从中获取到词语列表、词频表和拼音反查表,可快速适应不同领域的自定义词语纠错模型的构建。
所述的相似度计算模块,采用了基于编辑距离的相似度计算方法,用于对拼音字符串和词语纠错模型构建模块中所得到的拼音反查表中的拼音进行相似度计算并取其中大于设定阈值的词语集合,以及对拼音纠错处理模块所得到的词语纠错结果列表中各词语与所述用户输入词语字符串中的汉字词语字符串之间的相似度并取其中相似度值最大的一个或几个词语;
所述的拼音纠错处理模块,用于对拼音转换模块所得到的拼音字符串进行纠错处理,包括同音词语处理、近音词语处理和拼音处理,从而获得词语纠错结果列表;
所述的纠错结果筛选模块,用于对拼音纠错处理模块所得到的词语纠错结果列表进行筛选、排序等处理,可分别按照相似度大小和词频大小进行排序输出供用户提示模块所使用的词语纠错结果列表;
所述的用户提示模块,用于对中文词语纠错结果进行输出并提示用户,包括不存在错误时提示用户输入的词语没有错误、词语纠错结果列表为空时提示用户输入拼音有误或不是输入的词语不只一个,按照纠错结果筛选模块处理后的词语纠错结果列表输出。
通过具体实施方式的说明,应当可对本发明为达成预定目的所采取的技术手段及功效得以更加深入且具体的了解,然而所附图示仅是提供参考与说明之用,并非用来对本发明加以限制。
Claims (22)
1.一种输入纠错方法,其特征在于,包括:
判断输入的词语字符串是否为全拼音;
若是,则对所述词语字符串的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到第一纠错结果;否则,对所述词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,将所述词语字符串转成全拼音,并对转成的所述全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到第二纠错结果。
2.根据权利要求1所述的输入纠错方法,其特征在于,根据拼音反查表将纠错后的全拼音反查为汉字;所述方法还包括:预先建立拼音反查表,包括:
提供训练语料;
对训练语料进行分词以得到词语列表;
在词语列表的基础上利用拼音反查表生成工具生成拼音反查表。
3.根据权利要求1所述的输入纠错方法,其特征在于,在分词处理的结果中分词个数大于1时,所述将所述词语字符串转成全拼音,包括:
在不改变所述词语字符串中各分词出现顺序的情况下,将所述词语字符串中的汉字分词转换成拼音,再与所述词语字符串中已有的拼音一起,组成所述词语字符串对应的全拼音。
4.根据权利要求2所述的输入纠错方法,其特征在于,所述方法还包括:预先建立词频表,包括:
提供训练语料;
对训练语料进行分词以得到词语列表;
采用统计的方式根据词语列表得到词频表;
对任一词语字符串的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到纠错结果,包括:
根据拼音反查表判断所述任一词语字符串的全拼音的拼写是否正确;
若是,则根据所述任一词语字符串的全拼音获取同音的词语列表,基于获取的同音的词语列表得到纠错结果;
若否,则根据所述任一词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果。
5.根据权利要求4所述的输入纠错方法,其特征在于,所述基于获取的同音的词语列表得到纠错结果,包括:
判断获取的同音的词语列表是否为空,若是,则得到的纠错结果为空,否则将获取的同音的词语列表中的词语作为纠错结果;
所述根据所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果,包括:
依次计算所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度;
对于计算出的相似度大于设定相似度阈值的情况,将拼音反查表中的拼音对应的词语列表中的词语作为纠错结果。
6.根据权利要求4所述的输入纠错方法,其特征在于,所述方法,还包括:
若分词处理的结果中分词的个数为1,则将用户输入的词语字符串作为第二纠错结果。
7.根据权利要求6所述的输入纠错方法,其特征在于,所述方法还包括:
根据第一纠错结果或者第二纠错结果进行相应的提示。
8.根据权利要求7所述的输入纠错方法,其特征在于,根据第一纠错结果进行相应的提示,包括:
判断第一纠错结果是否为空,若是,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串有误,否则将纠错结果中的词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户。
9.根据权利要求7所述的输入纠错方法,其特征在于,根据第二纠错结果进行相应的提示,包括:
若第二纠错结果为空,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串中的拼音有误;
若第二纠错结果中词语的个数为1,则将第二纠错结果中的词语输出以提示给用户;
若第二纠错结果中词语的个数大于1,则根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式,并进行提示。
10.根据权利要求9所述的输入纠错方法,其特征在于,所述根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式,并进行提示,包括:
分别计算第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度;
若计算出的第二纠错结果中各词语对应的所述相似度数值均一致,则将第二纠错结果中的各词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户,否则将第二纠错结果中的各词语按照相似度从大到小输出设定个数的词语以提示给用户。
11.根据权利要求9或10所述的输入纠错方法,其特征在于,所述输入的词语字符串中的汉字词语字符串的获取过程包括:在分词处理的结果中分词个数大于1的情况下,依次记录所述输入的词语字符串的分词中的所有汉字分词并组成汉字词语字符串。
12.一种输入纠错装置,其特征在于,包括:
判断模块,用于判断输入的词语字符串是否为全拼音;若是,则将所述词语字符串的全拼音发送给纠错模块进行处理,得到第一纠错结果;否则,将所述词语字符串发送给分词模块进行分词处理;
分词模块,用于对判断模块发来的词语字符串进行分词处理,在分词处理的结果中分词个数大于1时,将所述词语字符串发送给转换模块;
转换模块,用于将分词模块发来的词语字符串转成全拼音并将转成的全拼音发送给纠错模块进行处理,得到第二纠错结果;
纠错模块,用于对判断模块或者转换模块发来的全拼音进行拼音纠错处理,并将纠错后的全拼音反查为汉字,得到相应的纠错结果。
13.根据权利要求12所述的输入纠错装置,其特征在于,所述纠错模块,具体用于:根据拼音反查表将纠错后的全拼音反查为汉字;
所述装置还包括:
建立模块,用于:提供训练语料;对训练语料进行分词以得到词语列表;在词语列表的基础上利用拼音反查表生成工具生成拼音反查表。
14.根据权利要求12所述的输入纠错装置,其特征在于,所述转换模块,具体用于:
在不改变所述词语字符串中各分词出现顺序的情况下,将所述词语字符串中的汉字分词转换成拼音,再与所述词语字符串中已有的拼音一起,组成所述词语字符串对应的全拼音。
15.根据权利要求13所述的输入纠错装置,其特征在于,所述建立模块,还用于:采用统计的方式根据词语列表得到词频表;
所述纠错模块,包括:
拼写检查单元,用于对任一词语字符串的全拼音进行拼音纠错处理时,根据拼音反查表判断所述任一词语字符串的全拼音的拼写是否正确;若是,则调用第一处理单元,否则调用第二处理单元;
第一处理单元,用于根据所述任一词语字符串的全拼音获取同音的词语列表,基于获取的同音的词语列表得到纠错结果;
第二处理单元,用于根据所述任一词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度,确定出纠错结果。
16.根据权利要求15所述的输入纠错装置,其特征在于,所述第一处理单元,具体用于:
判断获取的同音的词语列表是否为空,若是,则得到的纠错结果为空,否则将获取的同音的词语列表中的词语作为纠错结果;
所述第二处理单元,具体用于:
依次计算所述词语字符串的全拼音与拼音反查表中的每个拼音之间的相似度;对于计算出的相似度大于设定相似度阈值的情况,将拼音反查表中的拼音对应的词语列表中的词语作为纠错结果。
17.根据权利要求15所述的输入纠错装置,其特征在于,所述分词模块,还用于:若分词处理的结果中分词的个数为1,则将用户输入的词语字符串作为第二纠错结果。
18.根据权利要求17所述的输入纠错装置,其特征在于,所述装置还包括:
提示模块,用于根据第一纠错结果或者第二纠错结果进行相应的提示。
19.根据权利要求18所述的输入纠错装置,其特征在于,所述提示模块,具体用于:
判断第一纠错结果是否为空,若是,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串有误,否则将纠错结果中的词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户。
20.根据权利要求18所述的输入纠错装置,其特征在于,所述提示模块,具体用于:
若第二纠错结果为空,则提示用户所输入的词语字符串所对应的汉字词语数目超过一个或者用户所输入的词语字符串中的拼音有误;
若第二纠错结果中词语的个数为1,则将第二纠错结果中的词语输出以提示给用户;
若第二纠错结果中词语的个数大于1,则根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式,并进行提示。
21.根据权利要求20所述的输入纠错装置,其特征在于,所述提示模块,在根据第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度确定将第二纠错结果中的各词语向用户进行提示的方式时,具体用于:
分别计算第二纠错结果中各词语与所述输入的词语字符串中的汉字词语字符串之间的相似度;
若计算出的第二纠错结果中各词语对应的所述相似度数值均一致,则将第二纠错结果中的各词语按照在词频表中的词频从大到小的排列输出设定个数的词语以提示给用户,否则将第二纠错结果中的各词语按照相似度从大到小输出设定个数的词语以提示给用户。
22.根据权利要求20或21所述的输入纠错装置,其特征在于,所述分词模块,还用于:在分词处理的结果中分词个数大于1的情况下,依次记录所述输入的词语字符串的分词中的所有汉字分词并组成汉字词语字符串,发送给所述提示模块。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610970625.XA CN106527757A (zh) | 2016-10-28 | 2016-10-28 | 一种输入纠错方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610970625.XA CN106527757A (zh) | 2016-10-28 | 2016-10-28 | 一种输入纠错方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106527757A true CN106527757A (zh) | 2017-03-22 |
Family
ID=58325862
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610970625.XA Pending CN106527757A (zh) | 2016-10-28 | 2016-10-28 | 一种输入纠错方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106527757A (zh) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109426354A (zh) * | 2017-08-25 | 2019-03-05 | 北京搜狗科技发展有限公司 | 一种输入方法、装置和用于输入的装置 |
CN109508391A (zh) * | 2018-12-28 | 2019-03-22 | 北京金山安全软件有限公司 | 基于知识图谱的输入预测方法、装置和电子设备 |
CN109508390A (zh) * | 2018-12-28 | 2019-03-22 | 北京金山安全软件有限公司 | 基于知识图谱的输入预测方法、装置和电子设备 |
CN109656385A (zh) * | 2018-12-28 | 2019-04-19 | 北京金山安全软件有限公司 | 基于知识图谱的输入预测方法、装置和电子设备 |
CN109739368A (zh) * | 2018-12-29 | 2019-05-10 | 咪咕文化科技有限公司 | 一种汉语拼音的拆分的方法、装置 |
CN109901727A (zh) * | 2019-03-06 | 2019-06-18 | 上海依智医疗技术有限公司 | 一种获取文字纠错信息的方法和装置 |
CN109961791A (zh) * | 2017-12-22 | 2019-07-02 | 北京搜狗科技发展有限公司 | 一种语音信息处理方法、装置及电子设备 |
CN110633463A (zh) * | 2018-06-22 | 2019-12-31 | 鼎复数据科技(北京)有限公司 | 一种应用于垂直领域的专业词汇纠错方法及系统 |
CN111694985A (zh) * | 2020-06-17 | 2020-09-22 | 北京字节跳动网络技术有限公司 | 搜索方法、装置、电子设备及计算机可读存储介质 |
CN111859089A (zh) * | 2019-04-30 | 2020-10-30 | 北京智慧星光信息技术有限公司 | 一种用于互联网信息的错词检测控制方法 |
CN112560452A (zh) * | 2021-02-25 | 2021-03-26 | 智者四海(北京)技术有限公司 | 一种自动生成纠错语料的方法和系统 |
CN112668311A (zh) * | 2019-09-29 | 2021-04-16 | 北京国双科技有限公司 | 文本错误的检测方法及装置 |
WO2023030105A1 (zh) * | 2021-08-30 | 2023-03-09 | 京东方科技集团股份有限公司 | 训练自然语言处理模型和自然语言处理的方法、电子设备 |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101206673A (zh) * | 2007-12-25 | 2008-06-25 | 北京科文书业信息技术有限公司 | 网络搜索过程中关键词的智能纠错系统及方法 |
CN101241514A (zh) * | 2008-03-21 | 2008-08-13 | 北京搜狗科技发展有限公司 | 一种生成纠错数据库的方法、自动纠错的方法和系统 |
WO2008131527A1 (en) * | 2007-04-25 | 2008-11-06 | Research In Motion Limited | Keystroke error correction method and apparatus |
CN102156551A (zh) * | 2011-03-30 | 2011-08-17 | 北京搜狗科技发展有限公司 | 一种字词输入的纠错方法及系统 |
CN102915314A (zh) * | 2011-08-05 | 2013-02-06 | 腾讯科技(深圳)有限公司 | 一种纠错对自动生成方法及系统 |
CN102930063A (zh) * | 2012-12-05 | 2013-02-13 | 电子科技大学 | 一种基于特征项选择与权重计算的文本分类方法 |
WO2013184599A1 (en) * | 2012-06-06 | 2013-12-12 | Apple Inc. | Multi-word autocorrection |
CN103678674A (zh) * | 2013-12-25 | 2014-03-26 | 乐视网信息技术(北京)股份有限公司 | 通过拼音进行纠错搜索的方法、装置及系统 |
CN103914455A (zh) * | 2012-12-30 | 2014-07-09 | 高德软件有限公司 | 一种兴趣点检索方法和装置 |
CN103914444A (zh) * | 2012-12-29 | 2014-07-09 | 高德软件有限公司 | 一种纠错方法及其装置 |
CN104050255A (zh) * | 2014-06-13 | 2014-09-17 | 上海交通大学 | 基于联合图模型的纠错方法及系统 |
CN104252484A (zh) * | 2013-06-28 | 2014-12-31 | 重庆新媒农信科技有限公司 | 一种拼音纠错方法及系统 |
CN104991889A (zh) * | 2015-06-26 | 2015-10-21 | 江苏科技大学 | 一种基于模糊分词的非多字词错误自动校对方法 |
CN105205045A (zh) * | 2015-09-21 | 2015-12-30 | 上海智臻智能网络科技股份有限公司 | 一种用于智能交互的语义模型方法 |
CN105975625A (zh) * | 2016-05-26 | 2016-09-28 | 同方知网数字出版技术股份有限公司 | 一种面向英文搜索引擎的中式英文查询纠错方法和系统 |
-
2016
- 2016-10-28 CN CN201610970625.XA patent/CN106527757A/zh active Pending
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008131527A1 (en) * | 2007-04-25 | 2008-11-06 | Research In Motion Limited | Keystroke error correction method and apparatus |
CN101206673A (zh) * | 2007-12-25 | 2008-06-25 | 北京科文书业信息技术有限公司 | 网络搜索过程中关键词的智能纠错系统及方法 |
CN101241514A (zh) * | 2008-03-21 | 2008-08-13 | 北京搜狗科技发展有限公司 | 一种生成纠错数据库的方法、自动纠错的方法和系统 |
CN102156551A (zh) * | 2011-03-30 | 2011-08-17 | 北京搜狗科技发展有限公司 | 一种字词输入的纠错方法及系统 |
CN102915314A (zh) * | 2011-08-05 | 2013-02-06 | 腾讯科技(深圳)有限公司 | 一种纠错对自动生成方法及系统 |
WO2013184599A1 (en) * | 2012-06-06 | 2013-12-12 | Apple Inc. | Multi-word autocorrection |
CN102930063A (zh) * | 2012-12-05 | 2013-02-13 | 电子科技大学 | 一种基于特征项选择与权重计算的文本分类方法 |
CN103914444A (zh) * | 2012-12-29 | 2014-07-09 | 高德软件有限公司 | 一种纠错方法及其装置 |
CN103914455A (zh) * | 2012-12-30 | 2014-07-09 | 高德软件有限公司 | 一种兴趣点检索方法和装置 |
CN104252484A (zh) * | 2013-06-28 | 2014-12-31 | 重庆新媒农信科技有限公司 | 一种拼音纠错方法及系统 |
CN103678674A (zh) * | 2013-12-25 | 2014-03-26 | 乐视网信息技术(北京)股份有限公司 | 通过拼音进行纠错搜索的方法、装置及系统 |
CN104050255A (zh) * | 2014-06-13 | 2014-09-17 | 上海交通大学 | 基于联合图模型的纠错方法及系统 |
CN104991889A (zh) * | 2015-06-26 | 2015-10-21 | 江苏科技大学 | 一种基于模糊分词的非多字词错误自动校对方法 |
CN105205045A (zh) * | 2015-09-21 | 2015-12-30 | 上海智臻智能网络科技股份有限公司 | 一种用于智能交互的语义模型方法 |
CN105975625A (zh) * | 2016-05-26 | 2016-09-28 | 同方知网数字出版技术股份有限公司 | 一种面向英文搜索引擎的中式英文查询纠错方法和系统 |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109426354A (zh) * | 2017-08-25 | 2019-03-05 | 北京搜狗科技发展有限公司 | 一种输入方法、装置和用于输入的装置 |
CN109961791A (zh) * | 2017-12-22 | 2019-07-02 | 北京搜狗科技发展有限公司 | 一种语音信息处理方法、装置及电子设备 |
CN110633463A (zh) * | 2018-06-22 | 2019-12-31 | 鼎复数据科技(北京)有限公司 | 一种应用于垂直领域的专业词汇纠错方法及系统 |
CN109656385A (zh) * | 2018-12-28 | 2019-04-19 | 北京金山安全软件有限公司 | 基于知识图谱的输入预测方法、装置和电子设备 |
CN109508390A (zh) * | 2018-12-28 | 2019-03-22 | 北京金山安全软件有限公司 | 基于知识图谱的输入预测方法、装置和电子设备 |
CN109508391A (zh) * | 2018-12-28 | 2019-03-22 | 北京金山安全软件有限公司 | 基于知识图谱的输入预测方法、装置和电子设备 |
CN109508391B (zh) * | 2018-12-28 | 2022-04-08 | 北京金山安全软件有限公司 | 基于知识图谱的输入预测方法、装置和电子设备 |
CN109739368A (zh) * | 2018-12-29 | 2019-05-10 | 咪咕文化科技有限公司 | 一种汉语拼音的拆分的方法、装置 |
CN109901727A (zh) * | 2019-03-06 | 2019-06-18 | 上海依智医疗技术有限公司 | 一种获取文字纠错信息的方法和装置 |
CN111859089A (zh) * | 2019-04-30 | 2020-10-30 | 北京智慧星光信息技术有限公司 | 一种用于互联网信息的错词检测控制方法 |
CN111859089B (zh) * | 2019-04-30 | 2024-02-06 | 北京智慧星光信息技术有限公司 | 一种用于互联网信息的错词检测控制方法 |
CN112668311A (zh) * | 2019-09-29 | 2021-04-16 | 北京国双科技有限公司 | 文本错误的检测方法及装置 |
CN111694985A (zh) * | 2020-06-17 | 2020-09-22 | 北京字节跳动网络技术有限公司 | 搜索方法、装置、电子设备及计算机可读存储介质 |
CN112560452A (zh) * | 2021-02-25 | 2021-03-26 | 智者四海(北京)技术有限公司 | 一种自动生成纠错语料的方法和系统 |
WO2023030105A1 (zh) * | 2021-08-30 | 2023-03-09 | 京东方科技集团股份有限公司 | 训练自然语言处理模型和自然语言处理的方法、电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106527757A (zh) | 一种输入纠错方法及装置 | |
CN104536881B (zh) | 基于自然语言分析的众测错误报告优先级排序方法 | |
CN109360550B (zh) | 语音交互系统的测试方法、装置、设备和存储介质 | |
CN107818164A (zh) | 一种智能问答方法及其系统 | |
CN104598611B (zh) | 对搜索条目进行排序的方法及系统 | |
CN106844658A (zh) | 一种中文文本知识图谱自动构建方法及系统 | |
CN106855853A (zh) | 基于深度神经网络的实体关系抽取系统 | |
CN104573000B (zh) | 基于排序学习的自动问答装置及方法 | |
CN106997341B (zh) | 一种创新方案匹配方法、装置、服务器及系统 | |
CN104809103A (zh) | 一种人机对话的语义分析方法及系统 | |
CN110517664A (zh) | 多方言识别方法、装置、设备及可读存储介质 | |
CN110795913B (zh) | 一种文本编码方法、装置、存储介质及终端 | |
CN108733644B (zh) | 一种文本情感分析方法、计算机可读存储介质及终端设备 | |
CN110825850B (zh) | 一种自然语言主题分类方法及装置 | |
CN106611604A (zh) | 一种基于深度神经网络的自动语音叠音检测方法 | |
CN108804526A (zh) | 兴趣确定系统、兴趣确定方法及存储介质 | |
CN105989849A (zh) | 一种语音增强方法、语音识别方法、聚类方法及装置 | |
CN107886231A (zh) | 客服的服务质量评价方法与系统 | |
CN110992988B (zh) | 一种基于领域对抗的语音情感识别方法及装置 | |
CN112000772A (zh) | 面向智能问答基于语义特征立方体的句子对语义匹配方法 | |
CN110059220A (zh) | 一种基于深度学习与贝叶斯概率矩阵分解的电影推荐方法 | |
CN105609116A (zh) | 一种语音情感维度区域的自动识别方法 | |
CN103955714A (zh) | 基于水军检测模型构建方法和系统及水军检测方法 | |
CN110780878A (zh) | 一种基于深度学习进行JavaScript类型推断的方法 | |
CN109615009A (zh) | 一种学习内容推荐方法及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20170322 |
|
RJ01 | Rejection of invention patent application after publication |