CN114780821A - 文本处理方法、装置、设备、存储介质和程序产品 - Google Patents

Abstract

本公开提供了一种文本处理方法、装置、设备、存储介质和程序产品，涉及人工智能技术领域，具体为自然语言处理、深度学习和知识图谱技术领域。在本公开的一些实施例中，对目标应用领域的原始文本进行切分，得到目标文本片段；自动确定与目标文本片段关联的目标应用领域文本；根据原始文本，自动从目标网页文本包含的设定类型文本中筛选出目标应用领域的目标应用领域文本，相对于人工获取领域文本的方式，本公开自动获取领域文本，提高对领域文本的获取效率。

Description

文本处理方法、装置、设备、存储介质和程序产品

技术领域

本公开提供了一种文本处理方法、装置、设备、存储介质和程序产品，涉及人工智能技术领域，具体为自然语言处理、深度学习和知识图谱技术领域。

背景技术

随着计算机技术的蓬勃发展，人工智能技术也得到了迅速发展。

目前，对领域文本的获取，主要依靠人工搜集，领域文本的获取效率较低。

发明内容

本公开提供了一种文本处理方法、装置、设备、存储介质和程序产品。

本公开的一方面，提供了一种文本处理方法，包括：

对原始文本进行切分，得到目标文本片段，其中，所述原始文本为目标应用领域的文本；

从目标数据库中搜索与所述目标文本片段关联的目标网页文本；

根据所述原始文本，从所述目标网页文本包含的设定类型文本中筛选出所述目标应用领域文本。

本公开的另一方面，提供了一种文本处理装置，包括：

切分模块，用于对原始文本进行切分，得到目标文本片段，其中，所述原始文本为目标应用领域的文本；

搜索模块，用于从目标数据库中搜索与所述目标文本片段关联的目标网页文本；

筛选模块，用于根据所述原始文本，从所述目标网页文本包含的设定类型文本中筛选出所述目标应用领域文本。

本公开的另一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述的方法。

本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行上述的方法。

本公开的另一方面，提供了一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令在被处理器执行时实现上述方法中的步骤。

在本公开的一些实施例中，对目标应用领域的原始文本进行切分，得到目标文本片段；自动确定与目标文本片段关联的目标应用领域文本；根据原始文本，自动从目标网页文本包含的设定类型文本中筛选出目标应用领域的目标应用领域文本，相对于人工获取领域文本的方式，本公开自动获取领域文本，提高对领域文本的获取效率。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1为本公开实施例一提供的一种文本处理方法的流程示意图；

图2为本公开实施例二提供的一种预训练语言文本处理方法的流程示意图；

图3为本公开实施例三提供的一种文本处理方法的流程示意图；

图4为本公开实施例四提供的一种文本处理方法的流程示意图；

图5a为本公开示例性实施例提供的一种文本处理装置的结构示意图；

图5b为本公开示例性实施例提供的一种文本处理装置的结构示意图；

图6示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

目前，在自然语言处理领域的预训练，按所使用的语料不同，可以分为通用预训练和领域预训练。其中，通用预训练，是指使用不区分应用领域的通用语料进行模型训练；领域预训练，是指使用特征应用领域的语料进行模型训练，特征应用领域的语料，例如：医疗领域语料，化工领域语料，法律领域语料等。采用领域预训练方式得到的预训练模型，在对应应用领域的下游任务上，例如，在医疗命名实体识别任务上，能够获得比通用预训练更好的识别效果。

对于领域预训练来说，所使用的预训练语料越贴近目标领域，数量越多，则预训练效果越好，在下游任务上的效果越好。

目前对领域语料的获取，主要依靠人工搜集，比如对特定网站的爬取与人工清洗，以及对电子文档的获取和处理等，领域语料的获取效率较低，且训练得到的预训练模型的模型精度较低。

针对上述存在的技术问题，在本公开的一些实施例中，对目标应用领域的原始文本进行切分，得到目标文本片段；自动确定与目标文本片段关联的目标应用领域文本；根据原始文本，自动从目标网页文本包含的设定类型文本中筛选出目标应用领域的目标应用领域文本，相对于人工获取领域文本的方式，本公开自动获取领域文本，提高对领域文本的获取效率。

以下结合附图，详细说明本公开各实施例提供的技术方案。

图1为本公开实施例一提供的一种文本处理方法的流程示意图。如图1所示，该方法包括：

S101：对原始文本进行切分，得到目标文本片段，其中，原始文本为目标应用领域的文本；

S102：从目标数据库中搜索与目标文本片段关联的目标网页文本；

S103：根据原始文本，从目标网页文本包含的设定类型文本中筛选出目标应用领域文本。

在本实施例中，并不限定上述执行主体文本处理设备的具体实现形式。文本处理设备包括但不限于以下任意一种：个人计算机，平板电脑、智能手机、智能电视、智能音响、智能穿戴设备和服务器。

当文本处理设备为服务器时，并不限定服务器的实现形态。例如，服务器可以是常规服务器、云服务器、云主机、虚拟中心等服务器设备。其中，服务器10b的构成主要包括处理器、硬盘、内存、系统总线等，和通用的计算机架构类型。

在本实施例中，文本处理设备自动对目标应用领域的原始文本进行切分，得到目标文本片段；自动从目标数据库中搜索与目标文本片段关联的目标应用领域文本；根据原始文本，自动从目标网页文本包含的设定类型文本中筛选出目标应用领域的目标应用领域文本，相对于人工获取领域文本的方式，本公开自动获取领域文本，提高对领域文本的获取效率。

需要说明的是，本公开对目标应用领域的类型不作限定。目标应用领域包括但不限于：医疗领域，化工领域，金融领域，文学领域，计算机领域和法律领域。

相应地，本公开对目标应用领域文本的类型不作限定。目标应用领域文本包括但不限定：医疗领域文本，化工领域文本，金融领域文本，文学领域文本，计算机领域文本和法律领域文本。

以下结合医疗领域对本公开文本处理方法作出说明。

对原始医疗领域文本进行切分，得到目标文本片段，其中，目标文本片段为医疗领域文本片段；以目标文本片段为关键词，自动从目标数据库中搜索与目标文本片段关联的目标网页文本，得到的目标网页文本为医疗领域的网页文本；根据原始医疗领域文本自动从目标网页文本中筛选出医疗领域的医疗领域文本，提高对医疗领域文本的获取效率。

同理，化工领域文本，金融领域文本，文学领域文本和计算机领域文本和法律领域文本的获取方式均可参见上述医疗领域的获取方式，在此不再赘述。

在本公开上述实施例中，对原始文本进行切分，得到目标文本片段。一种可实现的方式为，根据预设分隔符和/或第一预设文本长度，对原始文本进行切分，得到目标文本片段。本公开采用预设分隔符和/或第一预设文本长度对原始文本进行切分，在保证文本语义完整性的同时，对过长的文本切分，以使目标文本片段的长度整齐化。

在一种可选实施例中，根据预设分隔符和第一预设文本长度，对原始文本进行切分，得到目标文本片段。一种可实现的方式为，根据预设分隔符，对原始文本进行切分，得到多个第一文本片段；将多个第一文本片段中文本长度大于第一预设文本长度的文本片段进行切分，得到多个第二文本片段，其中，每个第二文本片段的文本长度小于等于第一预设文本长度；将多个第二文本片段中文本长度小于第二预设文本长度的文本片段进行去除，得到目标文本片段。需要说明的是，本公开对第一预设文本长度和第二预设文本长度不作限定，第一预设文本长度和第二预设文本长度可以根据实际情况作出调整。第一预设文本长度，例如，5个汉字长度、10个汉字长度和10个英文字母长度等；第二预设文本长度，例如，5个汉字长度、10个汉字长度和10个英文字母长度等。

需要说明的是，在上述及下述各实施例中，预设分隔符包括但不限于：标点符号，数字，字母和特殊符号。

例如，医疗领域的原始文本如下：肝右叶下段可见类圆形混杂信号影，其内可见不规则长t1长t2信号区，增强扫描动脉期病灶实性成份明显不均匀强化，内可见迂曲小血管影，后强化程度下降。

根据标点符号对原始文本进行切分，得到5个第一文本片段：“肝右叶下段可见类圆形混杂信号影”，“其内可见不规则长t1长t2信号区”，“增强扫描动脉期病灶实性成份明显不均匀强化”，“内可见迂曲小血管影”和“后强化程度下降”。

其中，第一文本片段“肝右叶下段可见类圆形混杂信号影”的文本长度大于10个字符长度，将“肝右叶下段可见类圆形混杂信号影”分为两个第二文本片段“肝右叶下段可见类圆形”和“混杂信号影”，同理，将“其内可见不规则长t1长t2信号区”分为两个第二文本片段“其内可见不规则长t1”和“长t2信号区”；将“增强扫描动脉期病灶实性成份明显不均匀强化”分为两个第二文本片段“增强扫描动脉期病灶实”和“性成份明显不均匀强化”。

其中，上述第二文本片段中不存在文本长度小于5个字符长度的文本片段。因此，原始文本进行切分后，得到共计8个目标文本片段“肝右叶下段可见类圆形”、“混杂信号影”、“其内可见不规则长t1”、“长t2信号区”、“增强扫描动脉期病灶实”、“性成份明显不均匀强化”、“内可见迂曲小血管影”和“后强化程度下降”。

在另一种可选实施例中，根据预设分隔符，对原始文本进行切分，得到目标文本片段。

例如，医疗领域的原始文本如下：肝右叶下段可见类圆形混杂信号影，其内可见不规则长t1长t2信号区，增强扫描动脉期病灶实性成份明显不均匀强化，内可见迂曲小血管影，后强化程度下降。

根据标点符号对原始文本进行切分，得到5个目标文本片段：“肝右叶下段可见类圆形混杂信号影”，“其内可见不规则长t1长t2信号区”，“增强扫描动脉期病灶实性成份明显不均匀强化”，“内可见迂曲小血管影”和“后强化程度下降”。

在另一种可选实施例中，根据第一预设文本长度，原始文本进行切分，得到目标文本片段。

例如，医疗领域的原始文本如下：肝右叶下段可见类圆形混杂信号影，其内可见不规则长t1长t2信号区，增强扫描动脉期病灶实性成份明显不均匀强化，内可见迂曲小血管影，后强化程度下降。

根据10个字符长度对原始文本进行切分，得到目标文本片段“肝右叶下段可见类圆形”、“混杂信号影其内可见不”、“规则长t1长t2信号”、“区增强扫描动脉期病灶”、“实性成份明显不均匀强”、“化内可见迂曲小血管影”和“后强化程度下降”。

在本公开上述实施例中，从目标数据库中搜索与目标文本片段关联的目标网页文本。一种可实现的方式为，从目标数据库中搜索与目标文本片段关联的网页地址；根据网页地址，爬取原始网页文本；对原始网页文本进行数据清洗，得到目标网页文本。将目标文本片段作为搜索关键词，从目标数据库中搜索与目标文本片段关联的网页地址；可以选取排序位于设定序列的网页地址，再利用爬虫工具从位于设定序列的网页地址中爬取网页正文内容，得到原始网页文本；对原始网页文本进行数据清洗，得到目标网页文本。爬虫工具根据网页地址爬取的是网页源代码，使用转换工具，将源代码转换为可读文本。

例如，将目标文本片段作为搜索关键词，从目标数据库中搜索与目标文本片段关联的网页地址共计有100条，选择排序位于前10条的网页地址；利用爬虫工具从10个网页地址中爬取网页正文内容，得到10个网页地址对应的10个原始网页文本；对原始网页文本进行数据清洗，得到目标网页文本。

在上述实施例中，对原始网页文本进行数据清洗，包括以下至少一种清洗操作：

清洗操作方式一：统计原始网页文本满足设定条件的第一段落文本的数量，若第一段落文本的数量大于设定数量阈值，则去除第一段落文本。需要说明的是，本公开实施例对设定数量阈值不作限定，设定数量阈值可以根据实际情况作出调整。设定数量阈值例如，3个、5个等。原因在于，出现频率较高的相似度较高的段落文本一般是网站声明等无意义的重复内容，因此，这部分段落文本应当去除。

例如，统计原始网页文本中相似度大于95％的第一段落文本的数量，若第一段落文本的数量大于3个，则去除该3个第一段落文本。

清洗操作方式二：分别统计原始网页文本中的各段落文本的设定文字占比；去除设定文字占比大于设定比例阈值的第二段落文本。

例如，针对每个原始网页文本，统计每个领域文本的数字，字母和特殊符号占整个段落文本的总字符长度的占比，若存在占比大于50％的设定比例阈值的第二段落文本，则去除第二段落文本。

在本公开的另一实施例中，根据原始文本，从目标网页文本包含的设定类型文本中筛选出目标应用领域文本。一种可实现的方式为，计算原始文本与目标网页文本包含的各设定类型文本的相似度，从各设定类型文本中选择出相似度大于设定相似度阈值的设定类型文本，作为目标应用领域文本。其中，设定类型文本可以为句子文本或者段落文本。需要说明的是，本公开对相似度阈值不作限定，可以根据实际情况作出调整。

例如，计算原始文本与目标网页文本包含的10000个段落文本的相似度，从10000个段落文本选择出相似度大于80％的1000个段落文本，作为目标应用领域文本。

在上述实施例中，根据目标应用领域文本对初始模型进行训练，得到预训练模型。利用与目标应用领域关联度较高的目标应用领域文本对目标应用领域关联的初始模型进行模型训练，提高预训练模型的模型精度。

以下结合医疗领域对本公开文本处理方法作出进一步说明。

将医疗领域原始文本切分成多条5－10个字的目标文本片段，依次放入搜索引擎中搜索，每个获取10－100个网页地址。利用爬取工具，对网页地址爬取得到医疗领域文本。假设有1000条医疗领域原始文本，100万条医疗领域文本。将每条医疗领域原始文本作为检索的关键词，将所有的医疗领域文本作为检索的候选库。每条医疗领域原始文本，可以从检索引擎中检索到100万条领域文本中最相关的若干条目标应用领域文本，这些检索出的目标应用领域文本与医疗领域原始文本的文本内容较为接近，且属于同一个应用领域。

因此，1000条原始文本，如果每条从领域文本中检索出1000条医疗领域文本，那么就可以得到10万量级的目标应用领域文本，为医疗领域的预训练模型提供足够的训练样本。

图2为本公开实施例二提供的一种预训练语言文本处理方法的流程示意图。如图2所示，该训练方法包括：

S201：对目标应用领域文本进行标记，得到预训练样本；

S202：根据预训练样本，对预训练语言模型进行训练，得到预训练模型。

在本实施例中，对预训练模型的训练过程作出说明：

首先，收集大量的目标应用领域文本；接着，对目标应用领域文本中的部分文本片段替换为设定标识，作为训练样本集。在收集目标应用领域文本时，尽可能地覆盖多种类型的目标应用领域文本，以提升样本覆盖率。

接着，将训练样本集输入已搭建完成的初始模型。在初始模型内部，根据初始模型的网络参数对训练样本集进行计算等操作，并由初始模型的输出层输出修正文本。接着，初始模型的损失函数层，可以根据输出的修正文本和目标应用领域文本之间的差别，计算损失函数。若损失函数不满足设定的要求，则可调整模型参数，继续迭代训练。

最后，当初始模型的损失函数满足设定的要求时，可得到训练完成的预训练模型。

在本实施例中，预训练语言模型的输入为被遮盖的文本，输出为模型输出的完整文本。经过上面的模型训练，可以得到一个训练好的预训练语言模型。

结合上述各实施例的描述，图3为本公开实施例三提供的一种文本处理方法的流程示意图。该方法包括：

S301：根据预设分隔符和/或第一预设文本长度，对原始文本进行切分，得到目标文本片段；

S302：从目标数据库中搜索与目标文本片段关联的目标网页文本；

S303：根据目标应用领域文本对初始模型进行训练，得到预训练模型。

在本实施例中，并不限定上述执行主体文本处理设备的具体实现形式。文本处理设备包括但不限于以下任意一种：个人计算机，平板电脑、智能手机、智能电视、智能音响、智能穿戴设备和服务器。

在本实施例中，关于本公开实施例中的各步骤的实现方式可参见前述各实施例的描述，在此不再赘述。

结合上述各实施例的描述，图4为本公开实施例四提供的一种文本处理方法的流程示意图。该方法包括：

S401：对原始医疗领域文本进行切分，得到目标文本片段；

S402：从目标数据库中搜索与目标文本片段关联的网页地址；

S403：根据网页地址，爬取原始网页文本；

S404：对原始网页文本进行数据清洗，得到目标网页文本；

S405：根据原始文本，从目标网页文本包含的设定类型文本中筛选出目标应用领域的目标应用领域文本。

在本实施例中，并不限定上述执行主体文本处理设备的具体实现形式。文本处理设备包括但不限于以下任意一种：个人计算机，平板电脑、智能手机、智能电视、智能音响、智能穿戴设备和服务器。

在本实施例中，关于本公开实施例中的各步骤的实现方式可参见前述各实施例的描述，在此不再赘述。

在本公开上述方法实施例中，对目标应用领域的原始文本进行切分，得到目标文本片段；自动确定与目标文本片段关联的目标应用领域文本；根据原始文本，自动从目标网页文本包含的设定类型文本中筛选出目标应用领域的目标应用领域文本，相对于人工获取领域文本的方式，本公开自动获取领域文本，提高对领域文本的获取效率。

图5a为本公开示例性实施例提供的一种文本处理装置50的结构示意图。该文本处理装置50包括切分模块51、搜索模块52和筛选模块53。

其中，切分模块51，用于对原始文本进行切分，得到目标文本片段，其中，原始文本为目标应用领域的文本；

搜索模块52，用于从目标数据库中搜索与目标文本片段关联的目标网页文本；

筛选模块53，用于根据原始文本，从目标网页文本包含的设定类型文本中筛选出目标应用领域文本。

可选地，切分模块51在对原始文本进行切分，得到目标文本片段时，用于：

根据预设分隔符和/或第一预设文本长度，对原始文本进行切分，得到目标文本片段。

可选地，切分模块51在根据预设分隔符和第一预设文本长度，对原始文本进行切分，得到目标文本片段时，用于：

根据预设分隔符，对原始文本进行切分，得到多个第一文本片段；

将多个第一文本片段中文本长度大于第一预设文本长度的文本片段进行切分，得到多个第二文本片段，其中，每个第二文本片段的文本长度小于等于第一预设文本长度；

将多个第二文本片段中文本长度小于第二预设文本长度的文本片段进行去除，得到目标文本片段。

可选地，搜索模块52在从目标数据库中搜索与目标文本片段关联的目标网页文本时，用于：

从目标数据库中搜索与目标文本片段关联的网页地址；

根据网页地址，爬取原始网页文本；

对原始网页文本进行数据清洗，得到目标网页文本。

可选地，搜索模块52在对原始网页文本进行数据清洗，包括以下至少一种清洗操作：

统计原始网页文本满足设定条件的第一段落文本的数量，若第一段落文本的数量大于设定数量阈值，则去除第一段落文本；

分别统计原始网页文本中的各段落文本的设定文字占比；去除设定文字占比大于设定比例阈值的第二段落文本。

可选地，图5b为本公开示例性实施例提供的一种文本处理装置50的结构示意图，装置还包括预训练模块54；

预训练模块54，用于根据目标应用领域文本对初始模型进行训练，得到预训练模型，其中，初始模型与目标应用领域关联。

关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。同时，本公开文本处理装置也能取的与上述文本处理方法相应的有益效果。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图6所示，设备600包括计算单元601，其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序，来执行各种适当的动作和处理。在RAM 603中，还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

设备600中的多个部件连接至I/O接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如文本处理方法。例如，在一些实施例中，文本处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时，可以执行上文描述的文本处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行文本处理方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD－ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、互联网和区块链网络。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端－服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务(＂Virtual Private Server＂，或简称＂VPS＂)中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。

在本公开上述装置、设备、存储设备及计算机程序产品实施例中，对目标应用领域的原始文本进行切分，得到目标文本片段；自动确定与目标文本片段关联的目标应用领域文本；根据原始文本，自动从目标网页文本包含的设定类型文本中筛选出目标应用领域的目标应用领域文本，相对于人工获取领域文本的方式，本公开自动获取领域文本，提高对领域文本的获取效率。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (15)

1.一种文本处理方法，包括：

对原始文本进行切分，得到目标文本片段，其中，所述原始文本为目标应用领域的文本；

从目标数据库中搜索与所述目标文本片段关联的目标网页文本；

根据所述原始文本，从所述目标网页文本包含的设定类型文本中筛选出所述目标应用领域文本。

2.根据权利要求1所述的方法，其中，所述对原始文本进行切分，得到目标文本片段，包括：

根据预设分隔符和/或第一预设文本长度，对所述原始文本进行切分，得到所述目标文本片段。

3.根据权利要求2所述的方法，其中，所述根据预设分隔符和第一预设文本长度，对所述原始文本进行切分，得到所述目标文本片段，包括：

根据预设分隔符，对所述原始文本进行切分，得到多个第一文本片段；

将所述多个第一文本片段中文本长度大于所述第一预设文本长度的文本片段进行切分，得到多个第二文本片段，其中，每个所述第二文本片段的文本长度小于等于所述第一预设文本长度；

将所述多个第二文本片段中文本长度小于第二预设文本长度的文本片段进行去除，得到所述目标文本片段。

4.根据权利要求1所述的方法，其中，所述从目标数据库中搜索与所述目标文本片段关联的目标网页文本，包括：

从目标数据库中搜索与所述目标文本片段关联的网页地址；

根据所述网页地址，爬取原始网页文本；

对所述原始网页文本进行数据清洗，得到所述目标网页文本。

5.根据权利要求4所述的方法，其中，所述对所述原始网页文本进行数据清洗，包括以下至少一种清洗操作：

统计所述原始网页文本满足设定条件的第一段落文本的数量，若所述第一段落文本的数量大于设定数量阈值，则去除所述第一段落文本；

分别统计所述原始网页文本中的各段落文本的设定文字占比；去除所述设定文字占比大于设定比例阈值的第二段落文本。

6.根据权利要求1所述的方法，其中，所述方法还包括：

根据所述目标应用领域文本对初始模型进行训练，得到预训练模型，其中，所述初始模型与所述目标应用领域关联。

7.一种文本处理装置，包括：

切分模块，用于对原始文本进行切分，得到目标文本片段，其中，所述原始文本为目标应用领域的文本；

搜索模块，用于从目标数据库中搜索与所述目标文本片段关联的目标网页文本；

筛选模块，用于根据所述原始文本，从所述目标网页文本包含的设定类型文本中筛选出所述目标应用领域文本。

8.根据权利要求7所述的装置，其中，所述切分模块在对原始文本进行切分，得到目标文本片段时，用于：

根据预设分隔符和/或第一预设文本长度，对所述原始文本进行切分，得到所述目标文本片段。

9.根据权利要求8所述的装置，其中，所述在根据预设分隔符和第一预设文本长度，对所述原始文本进行切分，得到所述目标文本片段时，用于：

根据预设分隔符，对所述原始文本进行切分，得到多个第一文本片段；

将所述多个第一文本片段中文本长度大于所述第一预设文本长度的文本片段进行切分，得到多个第二文本片段，其中，每个所述第二文本片段的文本长度小于等于所述第一预设文本长度；

将所述多个第二文本片段中文本长度小于第二预设文本长度的文本片段进行去除，得到所述目标文本片段。

10.根据权利要求7所述的装置，其中，所述搜索模块在从目标数据库中搜索与所述目标文本片段关联的目标网页文本时，用于：

从目标数据库中搜索与所述目标文本片段关联的网页地址；

根据所述网页地址，爬取原始网页文本；

对所述原始网页文本进行数据清洗，得到所述目标网页文本。

11.根据权利要求10所述的装置，其中，所述搜索模块在对所述原始网页文本进行数据清洗，包括以下至少一种清洗操作：

统计所述原始网页文本满足设定条件的第一段落文本的数量，若所述第一段落文本的数量大于设定数量阈值，则去除所述第一段落文本；

分别统计所述原始网页文本中的各段落文本的设定文字占比；去除所述设定文字占比大于设定比例阈值的第二段落文本。

12.根据权利要求7所述的装置，其中，所述装置还包括预训练模块；

所述预训练模块，用于根据所述目标应用领域文本对初始模型进行训练，得到预训练模型，其中，所述初始模型与所述目标应用领域关联。

13.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。

14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。

15.一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令在被处理器执行时实现根据权利要求1-6中任一项所述的方法中的步骤。

Images