CN114169326A - 基于分词的文本处理方法、装置、电子设备和存储介质 - Google Patents
基于分词的文本处理方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN114169326A CN114169326A CN202111446906.2A CN202111446906A CN114169326A CN 114169326 A CN114169326 A CN 114169326A CN 202111446906 A CN202111446906 A CN 202111446906A CN 114169326 A CN114169326 A CN 114169326A
- Authority
- CN
- China
- Prior art keywords
- word
- segments
- word combination
- combination
- text
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/335—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/216—Parsing using statistical methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Data Mining & Analysis (AREA)
- Machine Translation (AREA)
Abstract
本公开提供了一种基于分词的文本处理方法、装置、电子设备和存储介质,涉及数据处理技术领域,尤其涉及大数据技术领域和云服务技术领域。具体实现方案为:对原始文本进行分词处理,得到多个字组合片段;确定多个字组合片段中每个字组合片段的关联度;去除多个字组合片段中的目标字组合片段,生成至少一个目标文本,其中,目标字组合片段包含的两个字组合片段的关联度小于预设阈值。容易注意到的是,通过计算字组合片段的关联度,过滤目标字组合片段,得到至少一个由至少一个过滤后字组合片段生成的目标文本,无需预先设置目标文本字段长度,进而解决了相关技术中难以得到多字短语的技术问题,达到了可以获取多字短语的技术效果。
Description
技术领域
本公开涉及数据处理技术领域,尤其涉及大数据技术领域和云服务技术领域,具体涉及一种基于分词的文本处理方法、装置、电子设备和存储介质。
背景技术
随着互联网的普及和飞速发展,网络词语层出不穷,热点词汇是伴随着网络普及而出现的一种词汇现象,它通常反应了某一段时间内社会中发生的重大事件或是被社会大众所关注的热点问题。但是互联网存储了海量的信息,如何从复杂的网络信息中挖掘热点词汇是一个难以解决的技术问题。
发明内容
本公开提供了一种基于分词的文本处理方法、装置、电子设备和存储介质。
根据本公开的第一方面,提供了一种基于分词的文本处理方法,包括:对原始文本进行分词处理,得到多个字组合片段;确定多个字组合片段中每个字组合片段的关联度,其中,关联度用于表征相邻两个字组合片段组成词语的概率;去除多个字组合片段中的目标字组合片段,生成至少一个目标文本,其中,目标字组合片段包含的两个字组合片段的关联度小于预设阈值。
根据本公开的第二方面,提供了一种基于分词的文本处理装置,包括:分词模块,用于对原始文本进行分词处理,得到多个字组合片段;第一确定模块,用于确定多个字组合片段中每个字组合片段的关联度,其中,关联度用于表征相邻两个字组合片段组成词语的概率;生成模块,用于去除多个字组合片段中的目标字组合片段,生成至少一个目标文本,其中,目标字组合片段包含的两个字组合片段的关联度小于预设阈值。
根据本公开的第三方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行第一方面中基于分词的文本处理方法。
根据本公开的第三方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行实现第一方面中基于分词的文本处理方法。
根据本公开的第四方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现第一方面中基于分词的文本处理方法。
本公开上述实施例可以得到不固定长度的文本。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例的一种基于分词的文本处理方法的流程图;
图2是根据本公开实施例的一种基于分词的文本处理装置的结构示意图;
图3示出了可以用来实施本公开的实施例的示例电子设备300的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在相关技术中,在中文热词的发现流程中,往往是通过使用jieba等分词工具包对本文进行分词处理,然后用n-gram(n元语法)模型或TF-IDF(Term Frequency-InverseDocument Frequency,词频-逆向文件频率)技术对分词结果的组合进行判断,最终筛选出符合预设要求的发分词组合作为新词结果。例如,对“共享”和“单车”进行判断,整合出“共享单车”作为新词结果。但通过上述方法获得新词结果,获取的新词的长度需要在计算之前设定好,因此,难以获得较长的信息短语。例如,使用n-gram模型计算时,若将新词长度的参数设置在2~5,则无法获得新词长度为6的词。同时,由于在计算多个字词的统计学参数时,需要计算各种长度词语的参数,计算量较大,导致统计新词经常需要消耗大量的时间,存在效率低的技术问题。
需要说明的是,jieba是一个基于Python的中文分词工具。其中,Python是一种高级编程语言。
根据本公开实施例,提供了一种基于分词的文本处理方法,图1是根据本公开实施例的一种基于分词的文本处理方法的流程图。需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。如图1所示,该方法包括以下步骤:
步骤S102,对原始文本进行分词处理,得到多个字组合片段。
一种可选方案中,可以从数据库中获取需要进行处理的原始文本,并在获取原始文本后,可以采取词法分析器(Lexical analyzer,简称Lexer)对原始文本进行分析处理,分析步骤可以包括:将原始文本进行分割为多个字组合片段,以及确定字组合片段的词性。
步骤S104,确定多个字组合片段中每个字组合片段的关联度,其中,关联度用于表征相邻两个字组合片段组成词语的概率。
一种可选方案中,可以在确定多个字组合片段的关联度之前,需要对多个字组合片段进行预处理,例如,去除多个字组合片段中的停用词,此处需要说明的是,该停用词可以包括但不限于词性为助词和语气词的字组合片段和工作人员设定的停用词。
上述关联度可以是凝固度和/或自由度。其中,凝固度可以通过相邻字组合片段的概率得到,表征一个字组合片段中字与字之间的紧密程度;自由度可以通过相邻字组合片段的信息熵得到,表征一个字组合片段与相邻的字组合片段间的固定程度。
步骤S106,去除多个字组合片段中的目标字组合片段,生成至少一个目标文本,其中,目标字组合片段包含的两个字组合片段的关联度小于预设阈值。
一种可选方案中,上述实施步骤中的目标字组合片段可以是相邻两个字组合片段不符合关联度预设阈值的字组合片段。其中,关联度可以是自由度和/或自由度。例如,若A字组合片段的自由度未达到预设阈值,则过滤掉与该字组合片段相邻的两个字组合片段;若A字组合片段与其相邻的B字组合片段的凝固度未达到预设阈值,则过滤掉A字组合片段和B字组合字段这两个字组合片段。
在本公开上述实施例中,对原始文本进行分词处理,得到多个字组合片段;确定多个字组合片段中每个字组合片段的关联度;去除多个字组合片段中的目标字组合片段,生成至少一个目标文本。容易注意到的是,通过计算字组合片段的关联度,过滤目标字组合片段,得到至少一个由至少一个过滤后字组合片段生成的目标文本,无需预先设置目标文本字段长度,进而解决了相关技术中难以得到多字短语的技术问题,达到了可以获取多字短语的技术效果。
可选地,对原始文本进行分词处理,得到多个字组合片段的步骤可以包括:对原始文本进行分词处理,得到分词结果,其中,分词结果包括:多个初始片段,及每个初始片段的词性;基于每个初始片段的词性对多个初始片段进行过滤,得到多个字组合片段。
一种可选方案中,可以采用词法分析器对原始文本进行分词处理,词法分析器可以先对原始文本进行分割,得到多个初始字组合片段。然后,过滤多个字组合片段中的停用词,停用词可以包括但不限于词性为助词和语气词的字组合片段和人工设定的停用词,得到多个字组合片段。
在上述可选实施例中,过滤掉部分字组合片段,只对保留的字组合字段进行关联度计算,进而达到了提高文本生成效率的技术效果。
可选地,确定多个字组合片段中相邻两个字组合片段的关联度包括:基于相邻两个字组合片段的出现概率,确定相邻两个字组合片段的凝固度;基于相邻两个字组合片段的信息熵,确定相邻两个字组合片段的自由度;基于凝固度和/或自由度,得到关联度。
一种可选方案中,在获取相邻的像个字组合片段的凝固度之前,需要获取两个字段在文本中所出现的概率,例如,需要获取字组合片段“字段1”和“字段2”的凝固度,可以采用如下计算方式:
N(“字段1”,“字段2”)=P(“字段1字段2”)/P(“字段1”)*P(“字段2”),
其中,N(“字段1”,“字段2”)表示“字段1”和“字段2”的凝固度,P(“字段1”)*P(“字段2”)表示“字段1字段2”在文本中出现的频率,P(“字段1”)和P(“字段2”)分别表示“字段1”在文本中出现的频率和“字段2”在文本中出现的频率。需要说明的是,上述文本可以是多个字组合片段所构成的文本。若需要计算“字段2”的自由度,其左边的相邻的字组合片段是“字段1”,右边相邻的字组合片段可以是“字段2”。在计算“字段2”的自由度之前,需要计算“字段1”和“字段3”的信息熵,然后取其中较小的信息熵作为“字段2”的自由度。
在上述可选实施例中,结合自由度和/或凝固度对初始字组合片段进行筛选,可以得到更准确的目标文本,进而提高了生成文本的准确率。
可选地,去除多个字组合片段中的目标字组合片段,生成至少一个目标文本包括:将相邻两个字组合片段的关联度与预设阈值进行比较;响应于关联度小于预设阈值,去除相邻两个字组合片段,得到过滤后的字组合片段;对过滤后的字组合片段进行整合,生成至少一个目标文本。
一种可选方案中,上述关联度可以是自由度和/或自由度。工作人员可以根据实际的需要设定关联度的预设阈值。若A字组合片段的自由度未达到预设阈值,则过滤掉与该字组合片段相邻的两个字组合片段;若A字组合片段与其相邻的B字组合片段的凝固度未达到预设阈值,则过滤掉A字组合片段和B字组合字段这两个字组合片段。在得到过滤后的字组合片段后,对过滤后的字组合片段中相邻的字组合片段进行组合,所得到的至少一个文本,就是目标文本。需要说明的是,组成目标文本的字组合片段的个数可以是一个或多个,以得到不固定长度的目标文本。
在上述可选实施例中,结合关联度及其预设阈值过滤掉部分字组合片段,并可以至少一个字组合片段构成目标文本,在可以得到更准确的目标文本的同时,可以得到不固定长度的目标文本,并且提高了生成文本的准确率。
可选地,对过滤后的字组合片段进行整合,生成至少一个目标文本包括:将过滤后的字组合片段中相邻的字组合片段进行合并,生成至少一个目标文本。
一种可选方案中,过滤后的字组合片段可以有一个或多个,将过滤后的字组合片段中相邻的字组合片段进行组合,并且,组成目标文本的字组合片段的个数可以是一个或多个,因此,可以得到至少一个目标文本。
在上述可选实施例中,达到了可以得到不固定长度的多字短语的技术效果。
可选地,在去除多个字组合片段中的目标字组合片段,生成至少一个目标文本之后,方法还包括:确定每个目标文本的词频;按照词频从大到小的顺序对至少一个目标文本进行排序,得到排序后的文本。
一种可选方案中,在对多个原始文本进行处理,分别得到每个原始文本所对应的至少一个目标文本之后,可以执行将全部的目标文本汇总,得到目标文本库。然后,利用召回模型确定每个目标文本在文本库中的词频,然后按照词频的大小对至少一个目标文本进行排序,得到排序后的文本,其中,排序较为靠前的文本可以是热词。
在上述可选实施例中,对根据关联度筛选后的字组合片段构成的目标文本的词频进行排序,无需再次目标文本计算目标文本的统计参数,并且可以得到不固定长度的热词,进而达到了提高热词、新词的召回效率和准确率的效果。
根据本公开的实施例,本公开还可以提供一种基于分词的文本处理装置,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的,术语“模块”、“单元”、“子单元”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
根据本公开实施例,提供了一种基于分词的文本处理装置,图2是根据本公开实施例的一种基于分词的文本处理装置的结构示意图,如图2所示,该装置可以包括:
分词模块20,用于对原始文本进行分词处理,得到多个字组合片段。
第一确定模块22,用于确定多个字组合片段中每个字组合片段的关联度,其中,关联度用于表征相邻两个字组合片段组成词语的概率。
生成模块24,用于去除多个字组合片段中的目标字组合片段,生成至少一个目标文本,其中,目标字组合片段包含的两个字组合片段的关联度小于预设阈值。
在本公开上述实施例中,对原始文本进行分词处理,得到多个字组合片段;确定多个字组合片段中每个字组合片段的关联度;去除多个字组合片段中的目标字组合片段,生成至少一个目标文本。容易注意到的是,通过计算字组合片段的关联度,过滤目标字组合片段,得到至少一个由至少一个过滤后字组合片段生成的目标文本,无需预先设置目标文本字段长度,进而解决了相关技术中难以得到多字短语的技术问题,达到了可以获取多字短语的技术效果。
可选地,分词模块包括:分词单元,用于对原始文本进行分词处理,得到分词结果,其中,分词结果包括:多个初始片段,及每个初始片段的词性;过滤单元,用于基于每个初始片段的词性对多个初始片段进行过滤,得到多个字组合片段。
可选地,第一确定模块包括:第一确定单元,用于基于相邻两个字组合片段的出现概率,确定相邻两个字组合片段的凝固度;第二确定单元,用于基于相邻两个字组合片段的信息熵,确定相邻两个字组合片段的自由度;处理单元,用于基于凝固度和/或自由度,得到关联度。
可选地,生成模块包括:比较单元,用于将相邻两个字组合片段的关联度与预设阈值进行比较;去除单元,用于响应于关联度小于预设阈值,去除相邻两个字组合片段,得到过滤后的字组合片段;整合单元,用于对过滤后的字组合片段进行整合,生成至少一个目标文本。
可选地,整合单元还用于将过滤后的字组合片段中相邻的字组合片段进行合并,生成至少一个目标文本。
可选地,该装置还包括:第二确定模块,用于确定每个目标文本的词频;排序模块,用于按照词频从大到小的顺序对至少一个目标文本进行排序,得到排序后的文本。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图3示出了可以用来实施本公开的实施例的示例电子设备300的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图3所示,设备300包括计算单元301,其可以根据存储在只读存储器(ROM)302中的计算机程序或者从存储单元308加载到随机访问存储器(RAM)303中的计算机程序,来执行各种适当的动作和处理。在RAM 303中,还可存储设备300操作所需的各种程序和数据。计算单元301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
设备300中的多个部件连接至I/O接口305,包括:输入单元306,例如键盘、鼠标等;输出单元307,例如各种类型的显示器、扬声器等;存储单元308,例如磁盘、光盘等;以及通信单元309,例如网卡、调制解调器、无线通信收发机等。通信单元309允许设备300通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元301可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元301的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元301执行上文所描述的各个方法和处理,例如基于分词的文本处理方法。例如,在一些实施例中,基于分词的文本处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元308。在一些实施例中,计算机程序的部分或者全部可以经由ROM 302和/或通信单元309而被载入和/或安装到设备300上。当计算机程序加载到RAM 303并由计算单元301执行时,可以执行上文描述的基于分词的文本处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元301可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行基于分词的文本处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (15)
1.一种基于分词的文本处理方法,包括:
对原始文本进行分词处理,得到多个字组合片段;
确定所述多个字组合片段中每个字组合片段的关联度,其中,所述关联度用于表征相邻两个字组合片段组成词语的概率;
去除所述多个字组合片段中的目标字组合片段,生成至少一个目标文本,其中,所述目标字组合片段包含的两个字组合片段的关联度小于预设阈值。
2.根据权利要求1所述的方法,其中,对所述原始文本进行分词处理,得到所述多个字组合片段包括:
对所述原始文本进行分词处理,得到分词结果,其中,所述分词结果包括:多个初始片段,及每个初始片段的词性;
基于所述每个初始片段的词性对所述多个初始片段进行过滤,得到所述多个字组合片段。
3.根据权利要求1所述的方法,其中,确定所述多个字组合片段中所述相邻两个字组合片段的所述关联度包括:
基于所述相邻两个字组合片段的出现概率,确定所述相邻两个字组合片段的凝固度;
基于所述相邻两个字组合片段的信息熵,确定所述相邻两个字组合片段的自由度;
基于所述凝固度和/或所述自由度,得到所述关联度。
4.根据权利要求1所述的方法,其中,去除所述多个字组合片段中的所述目标字组合片段,生成所述至少一个目标文本包括:
将所述相邻两个字组合片段的关联度与所述预设阈值进行比较;
响应于所述关联度小于所述预设阈值,去除所述相邻两个字组合片段,得到过滤后的字组合片段;
对所述过滤后的字组合片段进行整合,生成所述至少一个目标文本。
5.根据权利要求4所述的方法,其中,对所述过滤后的字组合片段进行整合,生成所述至少一个目标文本包括:
将所述过滤后的字组合片段中相邻的字组合片段进行合并,生成所述至少一个目标文本。
6.根据权利要求1至5中任意一项所述的方法,在去除所述多个字组合片段中的所述目标字组合片段,生成所述至少一个目标文本之后,所述方法还包括:
确定每个目标文本的词频;
按照词频从大到小的顺序对所述至少一个目标文本进行排序,得到排序后的文本。
7.一种基于分词的文本处理装置,包括:
分词模块,用于对原始文本进行分词处理,得到多个字组合片段;
第一确定模块,用于确定所述多个字组合片段中每个字组合片段的关联度,其中,所述关联度用于表征相邻两个字组合片段组成词语的概率;
生成模块,用于去除所述多个字组合片段中的目标字组合片段,生成至少一个目标文本,其中,所述目标字组合片段包含的两个字组合片段的关联度小于预设阈值。
8.根据权利要求7所述的装置,其中,所述分词模块包括:
分词单元,用于对所述原始文本进行分词处理,得到分词结果,其中,所述分词结果包括:多个初始片段,及每个初始片段的词性;
过滤单元,用于基于所述每个初始片段的词性对所述多个初始片段进行过滤,得到所述多个字组合片段。
9.根据权利要求7所述的装置,其中,所述第一确定模块包括:
第一确定单元,用于基于所述相邻两个字组合片段的出现概率,确定所述相邻两个字组合片段的凝固度;
第二确定单元,用于基于所述相邻两个字组合片段的信息熵,确定所述相邻两个字组合片段的自由度;
处理单元,用于基于所述凝固度和/或所述自由度,得到所述关联度。
10.根据权利要求7所述的装置,其中,所述生成模块包括:
比较单元,用于将所述相邻两个字组合片段的关联度与所述预设阈值进行比较;
去除单元,用于响应于所述关联度小于所述预设阈值,去除所述相邻两个字组合片段,得到过滤后的字组合片段;
整合单元,用于对所述过滤后的字组合片段进行整合,生成所述至少一个目标文本。
11.根据权利要求10所述的装置,其中,所述整合单元还用于将所述过滤后的字组合片段中相邻的字组合片段进行合并,生成所述至少一个目标文本。
12.根据权利要求7至11中任意一项所述的装置,所述装置还包括:
第二确定模块,用于确定每个目标文本的词频;
排序模块,用于按照词频从大到小的顺序对所述至少一个目标文本进行排序,得到排序后的文本。
13.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。
15.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111446906.2A CN114169326A (zh) | 2021-11-30 | 2021-11-30 | 基于分词的文本处理方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111446906.2A CN114169326A (zh) | 2021-11-30 | 2021-11-30 | 基于分词的文本处理方法、装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114169326A true CN114169326A (zh) | 2022-03-11 |
Family
ID=80481808
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111446906.2A Pending CN114169326A (zh) | 2021-11-30 | 2021-11-30 | 基于分词的文本处理方法、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114169326A (zh) |
-
2021
- 2021-11-30 CN CN202111446906.2A patent/CN114169326A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113590645A (zh) | 搜索方法、装置、电子设备及存储介质 | |
CN112528641A (zh) | 建立信息抽取模型的方法、装置、电子设备和可读存储介质 | |
CN114579104A (zh) | 数据分析场景的生成方法、装置、设备及存储介质 | |
CN112989235A (zh) | 基于知识库的内链构建方法、装置、设备和存储介质 | |
CN111861596A (zh) | 一种文本分类方法和装置 | |
CN113128209A (zh) | 用于生成词库的方法及装置 | |
CN113836314A (zh) | 知识图谱构建方法、装置、设备以及存储介质 | |
CN115145924A (zh) | 数据处理方法、装置、设备及存储介质 | |
CN114861059A (zh) | 资源推荐方法、装置、电子设备及存储介质 | |
CN114490160A (zh) | 一种数据倾斜优化因子自动调整方法、装置、设备和介质 | |
CN114064925A (zh) | 知识图谱的构建方法、数据查询方法、装置、设备和介质 | |
CN112784050A (zh) | 主题分类数据集生成方法、装置、设备和介质 | |
CN115952258A (zh) | 政务标签库的生成方法、政务文本的标签确定方法和装置 | |
CN115454261A (zh) | 输入法候选词生成方法、装置、电子设备及可读存储介质 | |
CN115309867A (zh) | 一种文本处理方法、装置、设备及介质 | |
CN114817223A (zh) | 业务数据提取方法、装置、电子设备和存储介质 | |
CN114169326A (zh) | 基于分词的文本处理方法、装置、电子设备和存储介质 | |
CN114818736A (zh) | 文本处理方法、用于短文本的链指方法、装置及存储介质 | |
CN114417862A (zh) | 文本匹配方法、文本匹配模型的训练方法和装置 | |
CN114329210A (zh) | 信息推荐方法、装置及电子设备 | |
CN114048315A (zh) | 确定文档标签的方法、装置、电子设备和存储介质 | |
CN114492409B (zh) | 文件内容的评价方法、装置、电子设备及程序产品 | |
CN113377922B (zh) | 用于匹配信息的方法、装置、电子设备以及介质 | |
CN113377921B (zh) | 用于匹配信息的方法、装置、电子设备以及介质 | |
EP4123999A2 (en) | Method and apparatus for pushing a resource, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |