CN111753542B - 文本语句的处理方法和装置、电子设备及存储介质 - Google Patents
文本语句的处理方法和装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111753542B CN111753542B CN202010606337.2A CN202010606337A CN111753542B CN 111753542 B CN111753542 B CN 111753542B CN 202010606337 A CN202010606337 A CN 202010606337A CN 111753542 B CN111753542 B CN 111753542B
- Authority
- CN
- China
- Prior art keywords
- language
- proper noun
- proper
- noun
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title abstract description 21
- 230000014509 gene expression Effects 0.000 claims abstract description 73
- 238000000034 method Methods 0.000 claims abstract description 37
- 230000004044 response Effects 0.000 claims abstract description 12
- 238000012545 processing Methods 0.000 claims description 22
- 230000015654 memory Effects 0.000 claims description 19
- 238000012937 correction Methods 0.000 claims description 15
- 238000006243 chemical reaction Methods 0.000 claims description 5
- 238000003058 natural language processing Methods 0.000 abstract description 5
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 7
- 238000013519 translation Methods 0.000 description 6
- 230000014616 translation Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000010276 construction Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000002372 labelling Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/31—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Machine Translation (AREA)
Abstract
本申请公开了文本语句的处理方法和装置、电子设备及存储介质,涉及人工智能、自然语言处理技术领域。具体实现方案为:利用已训练的专有名词识别模型对第一语言的文本语句进行专有名词识别,得出待判定专有名词;将识别出的待判定专有名词转换为第二语言的目标专有名词;在预设的专有名词库中匹配出第二语言的目标专有名词对应的第一语言的目标专有名词,其中预设的专有名词库存储第二语言的专有名词与第一语言的专有名词的标准表述之间的对应关系;响应于确定待判定专有名词与第一语言的目标专有名词不一致,基于第一语言的目标专有名词对第一语言的语句中的对应待判定专有名词进行错误标记。该方法实现了文本中专有名词的错误表述的自动标记。
Description
技术领域
本公开涉及计算机技术领域,具体涉及人工智能、自然语言处理技术,尤其涉及文本语句的处理方法和装置、电子设备及存储介质。
背景技术
自然语言处理是人工智能的一个子领域。自然语言处理技术是研究计算机理解和处理人类语言的技术。自然语言处理的对象是人类语言文本,具体的应用方式包括机器翻译、文本分类、中文分词、实体识别等等,可以应用于舆情监控、智能对话等场景中。
在一些场景中,语言文本中包含容易发生表述错误或不规范的专有名词,例如“清华大学”的正式英文表述是“Tsinghua University”,非正规的表述是“QinghuaUniversity”。在诸如新闻稿等正式的文本稿件中,需要修正这些专有名词的非正式表述。
发明内容
本公开提供了一种文本语句的处理方法、装置、电子设备以及存储介质。
根据本公开的第一方面,提供了一种文本语句的处理方法,包括:利用已训练的专有名词识别模型对第一语言的文本语句进行专有名词识别,得出待判定专有名词;将识别出的待判定专有名词转换为第二语言的目标专有名词;在预设的专有名词库中匹配出第二语言的目标专有名词对应的第一语言的目标专有名词,其中预设的专有名词库存储第二语言的专有名词与第一语言的专有名词的标准表述之间的对应关系;响应于确定待判定专有名词与第一语言的目标专有名词不一致,基于第一语言的目标专有名词对第一语言的语句中的对应待判定专有名词进行错误标记。
根据本公开的第二方面,提供了一种文本语句的处理装置,包括:识别单元,被配置为利用已训练的专有名词识别模型对第一语言的文本语句进行专有名词识别,得出待判定专有名词;转换单元,被配置为将识别出的待判定专有名词转换为第二语言的目标专有名词;第一匹配单元,被配置为在预设的专有名词库中匹配出第二语言的目标专有名词对应的第一语言的目标专有名词,其中预设的专有名词库存储第二语言的专有名词与第一语言的专有名词的标准表述之间的对应关系;标记单元,被配置为响应于确定待判定专有名词与第一语言的目标专有名词不一致,基于第一语言的目标专有名词对第一语言的语句中的对应待判定专有名词进行错误标记。
根据本公开的第三方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行第一方面提供的文本语句的处理方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行第一方面提供的文本语句的处理方法。
根据本申请的技术实现了文本中专有名词的错误表述的自动标记和纠正,提升了文本表述的纠正效率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请的文本语句的处理方法的一个实施例的流程示意图;
图2是根据本申请的文本语句的处理方法中预设的专有名词库的构建流程示意图;
图3是根据本申请的文本语句的处理方法的另一个实施例的流程示意图;
图4是根据本申请的文本语句的处理装置的一个实施例的结构示意图;
图5是用来实现本申请实施例的文本语句的处理方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本申请提供的文本语句的处理方法可以应用于包含客户端、网络、服务端的系统架构中。在该系统架构中,客户端将处理的文本语句通过网络传输至服务端。服务端对客户端发送的文本语句进行分词、识别其中的标准表述或非标准表述的专有名词,然后基于预设的专有名词库对待处理的文本语句中的非标准表述的专有名词进行识别和标记。服务端可以将识别结果返回至客户端,或者基于识别结果和标记结果对待处理的文本语句进行专有名词表述的纠正后返回至客户端。
服务端可以运行经过训练的专有名词识别模型,对指定语言的文本语句中的专有名词进行识别。服务端还可以获取标准表述的文本语料,利用文本语料来训练专有名词识别模型。
上述客户端可以是软件或硬件。当客户端实现为硬件时,其可以为手机、电脑等终端设备。当客户端实现为软件时,其可以是安装在手机、电脑等电子设备中的实现文本语句的处理方法的专用客户端,或者可以是内嵌在客户端中的程序,还可以实现为分布式的多个软件模块。
上述服务端也可以实现为硬件或软件。服务端实现为硬件时,其可以是服务器。当服务端实现为软件时,其可以实现为提供分布式服务的多个软件模块。
一般地,本申请实施例的文本语句的处理方法可以应用于上述服务端或客户端。
请参考图1,其示出了本申请的文本语句的处理方法的一个实施例的流程示意图。如图1所示,本实施例的文本语句的处理方法的流程100,包括以下步骤:
步骤101,利用已训练的专有名词识别模型对第一语言的文本语句进行专有名词识别,得出待判定专有名词。
在本实施例中,文本语句的处理方法的执行主体(例如服务器或终端设备)可以首先获取待处理的第一语言的文本语句。其中,第一语言的文本语句可以是指定的一种语言类型的文本语句,例如英文语句。
可以将上述第一语言的文本语句输入至经过训练的专有名词识别模型进行专有名词识别。该经过训练的专有名词识别模型可以用于识别第一语言的专有名词,其可以基于第一语言的包含专有名词的文本训练语料训练得出。
在本实施例中,专有名词是指某个实体对象或抽象概念的专有名称。例如,专有名词“Tsinghua University”是清华大学的专有英文名称。专有名词识别模型的训练语料可以包括第一语言的专有名词的标准表述,还可以包括第一语言的专有名词的非标准表述,例如可以包括“Tsinghua University”和“Qinghua University”,因而专有名词识别模型可以识别出第一语言的文本语句中的标准表述的专有名词和非标准表述的专有名词。
可以将专有名词识别模型识别出的各专有名词作为待判定专有名词。该待判定专有名词是以第一语言文本表述的专有名词。
步骤102,将识别出的待判定专有名词转换为第二语言的目标专有名词。
可以采用文本翻译模型将识别出的待判定专有名词翻译为第二语言的目标专有名词。在这里,第二语言可以是预先指定的语言。具体地,可以根据预设的专有名词库中存储的第一语言的专有名词的标准表述对应的其他语言的专有名词之间的对应关系,将该其他语言确定为第二语言,进而选定对应语言的翻译模型来对第一语言的文本你语句中的待判定专有名词进行翻译。例如,第一语言为英语,预设的专有名词库中存储了英语专有名词的标准表述与对应的中文专有名词的标准表述之间的对应关系,则将第二语言确定为中文。继而在步骤102中将从英文文本语句中识别出的待判定专有名词翻译为中文专有名词。作为示例,可以将从英文文本语句中识别出的“Qinghua University”转换为中文专有名词“清华大学”。
步骤103,在预设的专有名词库中匹配出第二语言的目标专有名词对应的第一语言的目标专有名词。
预设的专有名词库存储第二语言的专有名词与第一语言的专有名词的标准表述之间的对应关系。预设的专有名词库可以是离线构建的专有名词库,该预设的专有名词库可以通过收集专有名词在不同语言中的表述并建立对应关系来构建,例如可以人工构建专有名词词表,该词表包括第二语言的专有名词与第一语言的专有名词的标准表述之间的对应关系。
在本实施例中,上述执行主体可以通过在预设的专有名词库中对第二语言的目标专有名词进行匹配,得到第二语言的目标专有名词对应的第一语言的目标专有名词。该第一语言的目标专有名词是第二语言的目标专有名词在第一语言中的标准表述。
可选地,在预设的专有名词库中查找第二语言的目标专有名词时,可以对步骤102转换得到的第二语言的目标专有名词与预设的专有名词库中的专有名词进行语义分析,根据语义匹配程度来确定第二语言的目标专有名词与预设的专有名词库中的第二语言的专有名词的匹配度。这样,当翻译模型的误差或其他原因导致第一语言的专有名词在转换为第二语言的专有名词时出现与预设的专有名词库中的第二语言的专有名词之间的表述差异时,或者当第一语言的语句文本中存在笔误等不影响语义的错误时,上述执行主体也可以通过语义匹配在预设的专有名词库中匹配出第二语言的专有名词。由此可以提升专有名词纠错的召回率。
步骤104,响应于确定待判定专有名词与第一语言的目标专有名词不一致,基于第一语言的目标专有名词对第一语言的语句中的对应待判定专有名词进行错误标记。
针对上述第一语言的文本语句中的各待判定专有名词,可以判断对应的第一语言的目标专有名词是否一致。若不一致,则对该待判定专有名词进行错误标记,还可以标示出对应的第一语言的目标专有名词。这样,通过对第一语言的文本语句进行专有名词识别、语言转换和在预设的专有名词库中匹配,不仅可以识别出该文本语句中表述错误的专有名词,还可以提供专有名词的正确表述,实现对文本语句的纠正。
上述文本语句的处理方法,通过识别第一语言的文本语句中的专有名词,利用预设专有名词库中的第二语言的专有名词对该专有名词和该专有名词的标准表述进行对齐,能够实现大规模的专有名词错误表述的识别和标记,提升了文本纠错效率。
请参考图2,其示出了专有名词库的构建方法的一个流程示意图。如图2所示,专有名词的构建流程200包括以下步骤:
步骤201,获取第一语言的标准表述语料。
在本实施例中,可以通过权威媒体发布的信息、报纸、工具书、教科书等收集第一语言的标准表述语料。或者,可以对通过各种途径直接收集到的第一语言的语料进行人工校正后形成第一语言的标准表述语料。在这里标准表述是指标准书面表述,其中包含语句中各单词的标准表述。
步骤202,利用已训练的专有名词识别模型对第一语言的标准表述语料进行专有名词识别,得到至少一个第一语言的专有名词。
接着,可以利用已训练的专有名词识别模型识别第一语言的标准表述语料中的专有名词。该已训练的专有名词识别模型可以基于包含专有名词标注信息的第一语言的训练语料训练得出。对第一语言的标准表述语料中的语句,采用专有名词识别模型识别出其中的第一语言的专有名词。
需要说明的是,上述专有名词识别模型对第一语言的标准表述语料进行专有名词识别出的专有名词是该专有名词的标准表述。在本实施例中,可以将专有名词识别模型识别出的第一语言的专有名词添加至预设的专有名词库中。
步骤203,将第一语言的专有名词翻译为第二语言,得到对应的第二语言的专有名词。
可以采用对应语言的文本翻译模型将步骤202识别出的第一语言的专有名词翻译为第二语言,作为对应的第二语言的专有名词。
步骤204,将第二语言的专有名词和对应的第一语言的专有名词成对存储在专有名词库中。
之后可以将第二语言的专有名词和对应的第一语言的专有名词以键值对的方式存储在专有名词库中。其中第二语言的专有名词为键、对应的第一语言的专有名词为值。这样,根据专有名词库可以查询第二语言的专有名词对应的第一语言的专有名词,从而实现对第一语言的专有名词的错误表述的纠正。
本实施例的专有名词库的构建方式可以构建大规模的专有名词正确表述词表,能够覆盖更多的专有名词表述错误的情况,从而实现大规模纠正专有名词的表述错误。采用该专有名词库可以实现基于第二语言对第一语言的非标准表述与标准表述的对齐,实现非标准表述对应的标准表述的自动识别。
在一个具体的示例中,第一语言为英文,第二语言为中文。可以构建英文专有名词库,在该英文专有名词库中以中文专有名词(如“清华大学”)作为键值对中的键、以中文专有名词的标准英文翻译(如“Tsinghua University”)作为键值对中的值,存储二者的对应关系。在应用至图1所示的方法中时,可以首先利用英文专有名词识别模型识别出英文语句中的专有名词,并对识别出的英文专有名词进行翻译得到对应的中文专有名词,然后在英文专有名词库中以该中文专有名词为查询条件查询对应的英文专有名词的标准表述。
在上述实施例的一些可选的实现方式中,当待判定专有名词与第一语言的目标专有名词不一致时,可以按照如下方式对第一语言的语句中的对应待判定专有名词进行错误标记:标记待判定专有名词在第一语言的语句中的位置,以及对应的第一语言的目标专有名词。
具体地,针对第一语言的文本语句中的每个待判定专有名词,若该待判定专有名词与基于预设的专有名词库查找出的对应的第一语言的目标专有名词不一致,则标记该专有名词在该文本语句中的单词序号、字母序号等位置索引。还可以标记该专有名词对应的从预设的专有名词库中匹配出的第一语言的目标专有名词。
作为示例,英文文本语句“She goes to Qinghua University”的错误表述的专有名词的标记结果为:“3”,其中“3”表示单词的索引位置,为所有单词中的第4个单词(第一个单词的索引为“0”)。
或者,可以标记待判定专有名词的起始字符和结束字符在第一语言的语句中的索引位置。即当专有名词的表述有误时,可以标记专有名词在文本语句中的起始字母序号和结束字母序号。
作为示例,英文文本语句“She goes to Qinghua University”的标记结果为“12,29”,或者还可以将表述错误的专有名词“Qinghua”以及对应的正确表述“Tsinghua”标记出来,即标记结果可以为:(“Qinghua University”,12,29,“Tsinghua university”),其中,12,29分别为专有名词“Qinghua University”的首尾字母的序号索引(单词之间的空格也有序号索引),“Tsinghua university”为专有名词的正确表述。
或者,还可以标记待判定专有名词的起始字符在第一语言的语句中的索引位置以及待判定专有名词的字符长度。即在上述示例中,标记结果可以是“12,18”,其中“12”是“Qinghua University”的首字母在语句中的索引序号,18是“Qinghua University”的字符长度,在这里,字符长度是指起始字符到结束字符之间的索引距离。
上述各种方式可以简单、直接地标记出第一语言文本中的表述不标准的专有名词,通过多种方式对第一语言的文本语句中表述不正确或不标准的转用名词进行错误标记,能够准确提取出第一语言的文本语句中的专有名词表述错误的数据,并且该数据为计算机可直接处理的数据,便于后续基于该标记结果进行进一步的语句修正等操作。
可选地,上述方法还可以包括:基于错误标记的结果对第一语言的文本语句进行修正。具体可以利用匹配出的标准表述的专有名词替换第一语言的文本语句中对应的非标准表述的专有名词。这样实现了文本语句的专有名词自动纠正,可以大规模应用于大量的待校正文本中,提升了文本语句的专有名词纠正的效率。
继续参考图3,其示出了本申请的文本语句的处理方法的另一个实施例的流程图。
如图3所示,本实施例的文本语句的处理方法的流程300,包括以下步骤:
步骤301,利用已训练的专有名词识别模型对第一语言的文本语句进行专有名词识别,得出待判定专有名词;
步骤302,将识别出的待判定专有名词转换为第二语言的目标专有名词;
步骤303,在预设的专有名词库中匹配出第二语言的目标专有名词对应的第一语言的目标专有名词,预设的专有名词库存储第二语言的专有名词与第一语言的专有名词的标准表述之间的对应关系;
本实施例的步骤301至步骤303分别与前述实施例的步骤101至步骤103一致,此处不在赘述。
步骤304,响应于确定在预设的专有名词库中未匹配到第二语言的目标专有名词,将预设的专有名词库中包含的专有名词所属的语言类型中除了第一语言和第二语言之外的一种确定为第三语言,将第二语言的目标专有名词/或待判定专有名词翻译为第三语言的目标专有名词;在预设的专有名词库中匹配第三语言的目标专有名词对应的第一语言的目标专有名词。
在本实施例中,当在预设的专有名词库中未匹配到第二语言的目标专有名词时,可以根据预设的专有名词库确定第三语言,该第三语言是预设的专有名词库所包含的专有名词的语言类型,且不同于第一语言和第二语言。也即,预设的专有名词库还存储了第三语言的专有名词与第一语言的专有名词之间的对应关系。
这时,可以将第一语言的语句中的待判定专有名词或第二语句的目标专有名词翻译为第三语言的目标专有名词。之后,利用第三语言的目标专有名词在预设的专有名词库中进行匹配,具体可以采用精确匹配或模糊匹配(如语义匹配)的方式,从而查找到预设的专有名词库中的第三语言的目标专有名词对应的第一语言的专有名词,作为第一语言的目标专有名词,即作为上述第一语言的文本语句中的待判定专有名词的标准表述。
步骤305,响应于确定待判定专有名词与第一语言的目标专有名词不一致,基于第一语言的目标专有名词对第一语言的语句中的对应待判定专有名词进行错误标记。
本实施例的步骤305与前述实施例的步骤104一致,此处不再赘述。
本实施例的文本语句的处理方法,通过在预设的专有名词库中无法匹配到第二语言的专有名词时利用第三语言进行切换,实现了不同语种专有名词的灵活匹配。上述预设的专有名词库可以针对不同的专有名词以不同的语言类型的关系进行存储。例如专有名词1以第一语言与第二语言的对应关系存储,专有名词2以第一语言与第三语言的对应关系存储,从而可以进一步提升专有名词纠错的召回率。
请参考图4,作为对上述文本语句的处理方法的实现,本公开提供了一种文本语句的处理装置的一个实施例,该装置实施例与上述各方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图4所示,本实施例的文本语句的处理装置400包括识别单元401、转换单元402、第一匹配单元403以及标记单元404。其中,识别单元4011被配置为利用已训练的专有名词识别模型对第一语言的文本语句进行专有名词识别,得出待判定专有名词;转换单元402被配置为将识别出的待判定专有名词转换为第二语言的目标专有名词;第一匹配单元403被配置为在预设的专有名词库中匹配出第二语言的目标专有名词对应的第一语言的目标专有名词,其中预设的专有名词库存储第二语言的专有名词与第一语言的专有名词的标准表述之间的对应关系;标记单元404被配置为响应于确定待判定专有名词与第一语言的目标专有名词不一致,基于第一语言的目标专有名词对第一语言的语句中的对应待判定专有名词进行错误标记。
在一些实施例中,上述预设的专有名词库按照如下方式构建:获取第一语言的标准表述语料;利用已训练的专有名词识别模型对第一语言的标准表述语料进行专有名词识别,得到至少一个第一语言的专有名词;将第一语言的专有名词翻译为第二语言,得到对应的第二语言的专有名词;将第二语言的专有名词和对应的第一语言的专有名词成对存储在专有名词库中。
在一些实施例中,上述标记单元404被进一步配置为标记待判定专有名词在第一语言的语句中的位置,以及对应的第一语言的目标专有名词。
在一些实施例中,上述标记单元404包括:第一子标记模块,被配置为标记待判定专有名词的起始字符和结束字符在第一语言的语句中的索引位置,或者第二子标记模块,被配置为标记待判定专有名词的起始字符在第一语言的语句中的索引位置以及待判定专有名词的字符长度。
在一些实施例中,上述装置还包括:修正单元,被配置为基于错误标记的结果对第一语言的文本语句进行修正。
在一些实施例中,上述装置还包括:第二匹配单元,被配置为响应于确定在预设的专有名词库中未匹配到第二语言的目标专有名词,将预设的专有名词库中包含的专有名词所属的语言类型中除了第一语言和第二语言之外的一种确定为第三语言,将第二语言的目标专有名词/或待判定专有名词翻译为第三语言的目标专有名词;在预设的专有名词库中匹配第三语言的目标专有名词对应的第一语言的目标专有名词。
上述装置400与前述方法实施例中的步骤相对应。由此,上文针对文本语句的处理方法描述的操作、特征及所能达到的技术效果同样适用于装置400及其中包含的单元,在此不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图5所示,是根据本申请实施例的文本语句的处理方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图5所示,该电子设备包括:一个或多个处理器501、存储器502,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图5中以一个处理器501为例。
存储器502即为本申请所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本申请所提供的文本语句的处理方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的文本语句的处理方法。
存储器502作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的文本语句的处理方法对应的程序指令/模块(例如,附图4所示的识别单元401、转换单元402、第一匹配单元403以及标记单元404)。处理器501通过运行存储在存储器502中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的文本语句的处理方法。
存储器502可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据执行文本语句的处理方法的电子设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器502可选包括相对于处理器501远程设置的存储器,这些远程存储器可以通过网络连接至执行文本语句的处理方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
执行文本语句的处理方法的电子设备还可以包括:输入装置503和输出装置504。处理器501、存储器502、输入装置503和输出装置504可以通过总线或者其他方式连接,图5中以通过总线505连接为例。
输入装置503可接收输入的数字或字符信息,以及产生与执行文本语句的处理方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置504可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,实现了文本中专有名词的错误表述的自动纠正,提升了文本表述的纠正效率。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (12)
1.一种文本语句的处理方法,包括:
利用已训练的专有名词识别模型对第一语言的文本语句进行专有名词识别,得出待判定专有名词;
将识别出的所述待判定专有名词转换为第二语言的目标专有名词;
在预设的专有名词库中匹配出所述第二语言的目标专有名词对应的第一语言的目标专有名词,所述预设的专有名词库存储第二语言的专有名词与第一语言的专有名词的标准表述之间的对应关系;
响应于确定所述待判定专有名词与所述第一语言的目标专有名词不一致,基于所述第一语言的目标专有名词对所述第一语言的语句中的对应待判定专有名词进行错误标记;
所述方法还包括:响应于确定在预设的专有名词库中未匹配到所述第二语言的目标专有名词,将所述预设的专有名词库中包含的专有名词所属的语言类型中除了所述第一语言和所述第二语言之外的一种确定为第三语言,将所述第二语言的目标专有名词/或所述待判定专有名词翻译为第三语言的目标专有名词;在所述预设的专有名词库中匹配所述第三语言的目标专有名词对应的第一语言的目标专有名词。
2.根据权利要求1所述的方法,其中,所述预设的专有名词库按照如下方式构建:
获取第一语言的标准表述语料;
利用所述已训练的专有名词识别模型对所述第一语言的标准表述语料进行专有名词识别,得到至少一个第一语言的专有名词;
将所述第一语言的专有名词翻译为第二语言,得到对应的第二语言的专有名词;
将所述第二语言的专有名词和对应的第一语言的专有名词成对存储在所述专有名词库中。
3.根据权利要求1所述的方法,其中,所述基于所述第一语言的目标专有名词对所述第一语言的语句中的对应待判定专有名词进行错误标记,包括:
标记所述待判定专有名词在所述第一语言的语句中的位置,以及对应的第一语言的目标专有名词。
4. 根据权利要求3所述的方法,其中,所述标记所述待判定专有名词在所述第一语言的语句中的位置,包括:
标记所述待判定专有名词的起始字符和结束字符在所述第一语言的语句中的索引位置,或者
标记所述待判定专有名词的起始字符在所述第一语言的语句中的索引位置以及所述待判定专有名词的字符长度。
5.根据权利要求3或4所述的方法,所述方法还包括:基于所述错误标记的结果对所述第一语言的文本语句进行修正。
6.一种文本语句的处理装置,包括:
识别单元,被配置为利用已训练的专有名词识别模型对第一语言的文本语句进行专有名词识别,得出待判定专有名词;
转换单元,被配置为将识别出的所述待判定专有名词转换为第二语言的目标专有名词;
第一匹配单元,被配置为在预设的专有名词库中匹配出所述第二语言的目标专有名词对应的第一语言的目标专有名词,所述预设的专有名词库存储第二语言的专有名词与第一语言的专有名词的标准表述之间的对应关系;
标记单元,被配置为响应于确定所述待判定专有名词与所述第一语言的目标专有名词不一致,基于所述第一语言的目标专有名词对所述第一语言的语句中的对应待判定专有名词进行错误标记;
所述装置还包括:第二匹配单元,被配置为响应于确定在预设的专有名词库中未匹配到所述第二语言的目标专有名词,将所述预设的专有名词库中包含的专有名词所属的语言类型中除了所述第一语言和所述第二语言之外的一种确定为第三语言,将所述第二语言的目标专有名词/或所述待判定专有名词翻译为第三语言的目标专有名词;在所述预设的专有名词库中匹配所述第三语言的目标专有名词对应的第一语言的目标专有名词。
7.根据权利要求6所述的装置,其中,所述预设的专有名词库按照如下方式构建:
获取第一语言的标准表述语料;
利用所述已训练的专有名词识别模型对所述第一语言的标准表述语料进行专有名词识别,得到至少一个第一语言的专有名词;
将所述第一语言的专有名词翻译为第二语言,得到对应的第二语言的专有名词;
将所述第二语言的专有名词和对应的第一语言的专有名词成对存储在所述专有名词库中。
8.根据权利要求6所述的装置,其中,所述标记单元被进一步配置为标记所述待判定专有名词在所述第一语言的语句中的位置,以及对应的第一语言的目标专有名词。
9. 根据权利要求8所述的装置,其中,所述标记单元包括:
第一子标记模块,被配置为标记所述待判定专有名词的起始字符和结束字符在所述第一语言的语句中的索引位置,或者
第二子标记模块,被配置为标记所述待判定专有名词的起始字符在所述第一语言的语句中的索引位置以及所述待判定专有名词的字符长度。
10.根据权利要求8或9所述的装置,其中,所述装置还包括:
修正单元,被配置为基于所述错误标记的结果对所述第一语言的文本语句进行修正。
11. 一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010606337.2A CN111753542B (zh) | 2020-06-29 | 2020-06-29 | 文本语句的处理方法和装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010606337.2A CN111753542B (zh) | 2020-06-29 | 2020-06-29 | 文本语句的处理方法和装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111753542A CN111753542A (zh) | 2020-10-09 |
CN111753542B true CN111753542B (zh) | 2023-07-14 |
Family
ID=72678033
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010606337.2A Active CN111753542B (zh) | 2020-06-29 | 2020-06-29 | 文本语句的处理方法和装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111753542B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112927676A (zh) * | 2021-02-07 | 2021-06-08 | 北京有竹居网络技术有限公司 | 一种语音信息的获取方法、装置、设备和存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9342503B1 (en) * | 2013-03-12 | 2016-05-17 | Amazon Technologies, Inc. | Correlation across languages |
CN107832301A (zh) * | 2017-11-22 | 2018-03-23 | 北京百度网讯科技有限公司 | 分词处理方法、装置、移动终端及计算机可读存储介质 |
-
2020
- 2020-06-29 CN CN202010606337.2A patent/CN111753542B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9342503B1 (en) * | 2013-03-12 | 2016-05-17 | Amazon Technologies, Inc. | Correlation across languages |
CN107832301A (zh) * | 2017-11-22 | 2018-03-23 | 北京百度网讯科技有限公司 | 分词处理方法、装置、移动终端及计算机可读存储介质 |
Non-Patent Citations (2)
Title |
---|
Text mining for proper identification of noun using Conceptual Dependency;Sanah Nashir Sayyed;IEEE;全文 * |
一种基于框架结构的专有名词自动识别方法;王蕾;李培峰;朱巧明;杨季文;;计算机工程与科学(第07期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN111753542A (zh) | 2020-10-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111221983B (zh) | 时序知识图谱生成方法、装置、设备和介质 | |
CN106537370B (zh) | 在存在来源和翻译错误的情况下对命名实体鲁棒标记的方法和系统 | |
CN110991196B (zh) | 多义词的翻译方法、装置、电子设备及介质 | |
US11423222B2 (en) | Method and apparatus for text error correction, electronic device and storage medium | |
CN111401033B (zh) | 事件抽取方法、事件抽取装置和电子设备 | |
WO2022095563A1 (zh) | 文本纠错的适配方法、装置、电子设备及存储介质 | |
CN111611468B (zh) | 页面交互方法、装置和电子设备 | |
US11907671B2 (en) | Role labeling method, electronic device and storage medium | |
CN112528001B (zh) | 一种信息查询方法、装置及电子设备 | |
KR20130018205A (ko) | 언어 변환에 있어서 다중 리딩 모호성 해결을 위한 방법 | |
CN112001169B (zh) | 文本纠错的方法、装置、电子设备和可读存储介质 | |
CN113553414B (zh) | 智能对话方法、装置、电子设备和存储介质 | |
CN111708800A (zh) | 查询方法、装置及电子设备 | |
CN111831814B (zh) | 摘要生成模型的预训练方法、装置、电子设备和存储介质 | |
Jia et al. | A joint graph model for pinyin-to-chinese conversion with typo correction | |
CN111753532B (zh) | 西文文本的纠错方法和装置、电子设备及存储介质 | |
CN111241302B (zh) | 职位信息图谱生成方法、装置、设备和介质 | |
CN111753542B (zh) | 文本语句的处理方法和装置、电子设备及存储介质 | |
CN110728156A (zh) | 翻译方法、装置、电子设备及可读存储介质 | |
CN111339314B (zh) | 一种三元组数据的生成方法、装置和电子设备 | |
CN111310481B (zh) | 语音翻译方法、装置、计算机设备和存储介质 | |
US20210216710A1 (en) | Method and apparatus for performing word segmentation on text, device, and medium | |
US11893977B2 (en) | Method for recognizing Chinese-English mixed speech, electronic device, and storage medium | |
CN110473551B (zh) | 一种语音识别方法、装置、电子设备及存储介质 | |
EP3825897A2 (en) | Method, apparatus, device, storage medium and program for outputting information |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |