CN112686053A - 一种数据增强方法、装置、计算机设备及存储介质 - Google Patents

Abstract

本申请实施例属于人工智能中的自然语言处理技术领域，涉及一种数据增强方法、装置、计算机设备及存储介质。此外，本申请还涉及区块链技术，用户的原始文本信息可存储于区块链中。本申请通过识别原始文本中可替换的非关键词文本，并对该非关键词文本进行语义识别，获得与上下文相关联的真实语义词文本，将原始文本信息中的该非关键词文本替换成真实语义词文本，使得替换后的目标文本信息依然保留有原始的语义，同时避免无用数据和错误数据的产生，有效提高文本数据增强的语义准确性，提高了文本分类模型的识别率，增强了模型的泛化能力。

Description

一种数据增强方法、装置、计算机设备及存储介质

技术领域

本申请涉及人工智能中的自然语言处理技术领域，尤其涉及一种数据增强方法、装置、计算机设备及存储介质。

背景技术

在机器学习技术领域，数据增强技术是扩充训练集的重要手段，常用于产生更多的新数据去训练模型，以使得模型更加精准，且更具泛化能力。

现有一种数据增强方法，通过将原有数据翻译为其他语言再翻译回原语言；或者随机替换同义词的方式，达到数据增强的目的。

然而，申请人发现传统的数据增强方法普遍不智能，对于应用于文本的数据增强技术，由于文本的上下文之间存在前后关联，如果盲目地对原始文本进行反转、截取或者替换等操作，将改变原始文本的语义，使得文本数据增强的语义准确性不高，由此可见，传统的数据增强方法存在文本数据增强的语义准确性较低的问题。

发明内容

本申请实施例的目的在于提出一种数据增强方法、装置、计算机设备及存储介质，以解决传统的数据增强方法存在文本数据增强的语义准确性较低的问题。

为了解决上述技术问题，本申请实施例提供一种数据增强方法，采用了如下所述的技术方案：

接收用户终端发送的数据增强请求，所述数据增强请求至少携带有原始文本信息；

对所述原始文本信息进行关键词过滤操作，得到非关键词文本；

将所述非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本；

基于所述真实词义文本对所述原始文本信息进行非关键词替换操作，得到目标文本信息；

向所述用户终端输出所述目标文本信息。

为了解决上述技术问题，本申请实施例还提供一种数据增强装置，采用了如下所述的技术方案：

请求接收模块，用于接收用户终端发送的数据增强请求，所述数据增强请求至少携带有原始文本信息；

关键词过滤模块，用于对所述原始文本信息进行关键词过滤操作，得到非关键词文本；

词义识别模块，用于将所述非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本；

非关键词替换模块，用于基于所述真实词义文本对所述原始文本信息进行非关键词替换操作，得到目标文本信息；

目标文本输出模块，用于向所述用户终端输出所述目标文本信息。

为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：

包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如上所述的数据增强方法的步骤。

为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：

所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如上所述的数据增强方法的步骤。

与现有技术相比，本申请实施例主要有以下有益效果：

本申请提供的应用于文本的数据增强方法，包括：接收用户终端发送的数据增强请求，所述数据增强请求至少携带有原始文本信息；对所述原始文本信息进行关键词过滤操作，得到非关键词文本；将所述非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本；基于所述真实词义文本对所述原始文本信息进行非关键词替换操作，得到目标文本信息；向所述用户终端输出所述目标文本信息。通过识别原始文本中可替换的非关键词文本，并对该非关键词文本进行语义识别，获得与上下文相关联的真实语义词文本，将原始文本信息中的该非关键词文本替换成真实语义词文本，使得替换后的目标文本信息依然保留有原始的语义，同时避免无用数据和错误数据的产生，有效提高文本数据增强的语义准确性，提高了文本分类模型的识别率，增强了模型的泛化能力。

附图说明

为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请实施例一提供的数据增强方法的实现流程图；

图2是图1中步骤S102的一种具体实施方式的流程图；

图3是本申请实施例一提供的训练语义分析模型的实现流程图；

图4是图3中步骤S301的一种具体实施方式的流程图；

图5是图3中步骤S302的一种具体实施方式的流程图；

图6是图3中步骤S303的一种具体实施方式的流程图；

图7是本申请实施例一提供的数据增强装置的结构示意图：

图8是图7中关键词过滤模块120的结构示意图；

图9是根据本申请的计算机设备的一个实施例的结构示意图。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。

如图1所示，示出了本申请实施例一提供的数据增强方法的实现流程图，为了便于说明，仅示出与本申请相关的部分。

上述的数据增强方法，包括以下步骤：

步骤S101：接收用户终端发送的数据增强请求，数据增强请求至少携带有原始文本信息。

在本申请实施例中，用户终端指的是用于执行本申请提供的预防证件滥用的图像处理方法的终端设备，该用户终端可以是诸如移动电话、智能电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、导航装置等等的移动终端以及诸如数字TV、台式计算机等等的固定终端，应当理解，此处对用户终端的举例仅为方便理解，不用于限定本申请。

步骤S102：对原始文本信息进行关键词过滤操作，得到非关键词文本。

在本申请实施例中，关键词过滤操作主要用于将原始文本信息中的字词分类为关键词以及非关键词，该关键词过滤操作的实现方式可以是基于TF-IDF统计方法对原始文本信息进行词频统计操作，得到词频统计结果；基于预设词频阈值对词频统计结果进行分类操作，得到非关键词。

步骤S103：将非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本。

在本申请实施例中，词义分析模型主要用于预测上述原始文本信息中各个非关键词文本的真实词义，具体的，该词义分析模型可以根据输入的非关键词文本预测处最为接近的词义内容，并输出该最为接近的词义内容。

在本申请实施例中，真实词义文本指的是上述词义分析模型预测处的最为接近的词义内容。

步骤S104：基于真实词义文本对原始文本信息进行非关键词替换操作，得到目标文本信息。

在本申请实施例中，当得到真实词义文本之后，进行替换操作，使得原始文本中的非关键词替换成真实词义信息的真实词义文本，使得原始文本信息在不改变文本词义的情况下进行数据增强的目的。

步骤S105：向用户终端输出目标文本信息。

本申请提供的应用于文本的数据增强方法，包括：接收用户终端发送的数据增强请求，数据增强请求至少携带有原始文本信息；对原始文本信息进行关键词过滤操作，得到非关键词文本；将非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本；基于真实词义文本对原始文本信息进行非关键词替换操作，得到目标文本信息；向用户终端输出目标文本信息。通过识别原始文本中可替换的非关键词文本，并对该非关键词文本进行语义识别，获得与上下文相关联的真实语义词文本，将原始文本信息中的该非关键词文本替换成真实语义词文本，使得替换后的目标文本信息依然保留有原始的语义，同时避免无用数据和错误数据的产生，有效提高文本数据增强的语义准确性，提高了文本分类模型的识别率，增强了模型的泛化能力。

继续参阅图2，示出了图1中步骤S102的实现流程图，为了便于说明，仅示出与本申请相关的部分。

在本实施例的一些可选的实现方式中，步骤S102具体包括：步骤S201以及步骤S202。

步骤S201：基于TF-IDF统计方法对原始文本信息进行词频统计操作，得到词频统计结果。

在本申请实施例中，TF-IDF指的是Term Frequency-Inverse DocumentFrequency的缩写，即“词频-逆文本频率”。它由两部分组成，TF和IDF,它可以根据字词在文本中出现的次数和在整个语料中出现的文档频率来计算一个字词在整个语料中的重要程度。

在本申请实施例中，词频统计结果指的是上述原始文本信息中各个字词出现的频率，该频率携带有该字词在原始文本信息中的重要程度。

步骤S202：基于预设词频阈值对词频统计结果进行分类操作，得到非关键词。

在本申请实施例中，预设词频阈值主要用于唯一辨别上述词频统计结果中各个字词的重要程度，进而区分为关键词或者非关键词，该预设词频阈值可以根据实际用户需要进行动态设置。

在本申请实施例中，通过将低于预设的词频阈值的字词划分为非关键词，因此对于得分较低的词替换后也不影响该原始文本信息的整体语义。

继续参阅图3，示出了本申请实施例一提供的训练语义分析模型的实现流程图，为了便于说明，仅示出与本申请相关的部分。

在本实施例的一些可选的实现方式中，在步骤S103之前，还包括步骤S301、步骤S302、步骤S303以及步骤S304。

步骤S301：在本地数据库中获取样本文本，并确定样本文本中包含的每个分词。

在本申请实施例中，本地数据库是指驻留于运行客户应用程序的机器的数据库。本地数据库提供最快的响应时间。因为在客户(应用程序)和服务器之间没有网络转输。该本地数据库预先存储有为训练语义分析模型所标注的各个样本文本。

在本申请实施例中，可以先从上述本地数据库中获取多个文本，确定由获取的多个文本所构成的训练集，则，针对训练集中的每个文本，可将该文本作为样本文本。

在本申请实施例中，确定该样本文本中包含的分词时，可先对该样本文本进行分词处理，以得到该样本文本中包含的每个分词。在对样本文本进行分词处理时，可采用任何分词方法，当然，也可将该样本文本中的每个字符都作为一个分词进行处理，应当理解，此处对分词处理的举例仅为方便理解，不用于限定本申请。

步骤S302：基于待训练的语义分析模型确定每个分词对应的词向量。

在本申请实施例中，语义分析模型可至少包括四层，分别是：语义表征层、属性表征层、属性相关性表示层、分类层。

在本申请实施例中，语义表征层中至少包括用于输出双向语义表示向量的子模型，如BERT(Bidirectional Encoder Representations from Transformers)模型等。可将每个分词输入语义分析模型中的语义表征层，得到语义表征层输出的每个分词分别对应的双向语义表示向量，作为每个分词对应的词向量。应当理解，用于输出双向语义表示向量的模型除了上述的BERT模型以外，还包括其他模型，此处对用于输出双向语义表示向量的模型的举例仅为方便理解，不用于限定本申请。

步骤S302：在本地数据库中获取每个语义属性，根据待训练的语义分析模型中包含语义属性对应的注意力矩阵，以及每个分词对应的词向量，确定样本文本涉及语义属性的第一特征表示向量。

在本申请实施例中，可将每个分词对应的词向量输入语义分析模型中的属性表征层，通过属性表征层中包含的该语义属性对应的注意力矩阵，对每个分词对应的词向量进行注意力加权，根据注意力加权后的每个分词对应的词向量，确定样本文本涉及该语义属性的第一特征表示向量。

步骤S303：根据待训练的语义分析模型中包含的用于表示不同语义属性之间的相关性的自注意力矩阵，以及样本文本涉及每个语义属性的第一特征表示向量，确定样本文本涉及每个语义属性的第二特征表示向量。

在本申请实施例中，可将样本文本涉及每个语义属性的第一特征表示向量输入语义分析模型中的属性相关性表示层，通过属性相关性表示层中包含的上述自注意力矩阵，对样本文本涉及每个语义属性的第一特征表示向量进行自注意力加权，根据自注意力加权后的各第一特征表示向量，确定样本文本涉及每个语义属性的第二特征表示向量。

步骤S304：根据待训练的语义分析模型以及样本文本涉及每个语义属性的第二特征表示向量，确定待训练的语义训练模型输出的分类结果，分类结果包括样本文本所属的语义属性以及样本文本所属的语义属性对应的情感极性。

在本申请实施例中，分类层至少包括隐层、全连接层和softmax层。

在本申请实施例中，可将样本文本涉及每个语义属性的第二特征表示向量依次输入分类层中的隐层、全连接层和softmax层，根据每个第二特征表示向量以及分类层的隐层、全连接层和softmax层中包含的与每个语义属性对应的分类参数，对样本文本进行分类，得到分类层输出的分类结果。

在本申请实施例中，的分类结果至少包括样本文本所属的语义属性以及样本文本在其所属的语义属性上对应的情感极性。

在本申请实施例中，该情感极性可以采用数值进行量化，例如，数值越接近于1，则表示情感极性越倾向于正面，数值越接近于-1，则表示情感极性越倾向于负面，数值接近于0，则表示情感极性倾向于中性。

步骤S305：根据分类结果和针对样本文本预设的标注，对语义分析模型中的模型参数进行调整，以完成对语义分析模型的训练。

在本申请实施例中，需要调整的模型参数至少包括上述的分类参数，还可包括上述的注意力矩阵和自注意力矩阵。可采用传统的训练方法对语义分析模型中的模型参数进行调整。即，直接根据步骤S108得到的分类结果和针对样本文本预设的标注，确定分类结果对应的损失(以下将其称之为第一损失)，并以该第一损失最小化为训练目标对语义分析模型中的模型参数进行调整，以完成对语义分析模型的训练。

在本申请实施例中，由于上述语义分析模型中已经加入了用于表示不同语义属性之间相关性的自注意力矩阵，因此，采用上述传统的训练方法训练得到的语义分析模型可更加准确的对非关键词文本的语义进行分析。

继续参阅图4，示出了图3中步骤S301的实现流程图，为了便于说明，仅示出与本申请相关的部分。

在本实施例的一些可选的实现方式中，步骤S301具体包括：步骤S401。

步骤S401：将每个分词输入语义分析模型中的语义表征层，得到语义表征层输出的每个分词分别对应的双向语义表示向量，作为每个分词对应的词向量。

在本申请实施例中，语义表征层至少包括用于输出双向语义表示向量的子模型，该子模型包括BERT模型。

继续参阅图5，示出了图3中步骤S302的实现流程图，为了便于说明，仅示出与本申请相关的部分。

在本实施例的一些可选的实现方式中，在步骤S302中，具体包括：步骤S501、步骤S502以及步骤S503。

步骤S501：将每个分词对应的词向量输入语义分析模型中的属性表征层。

在本申请实施例中，在本申请实施例中，属性表征层中至少包含每个语义属性各自对应的注意力矩阵。

步骤S502：通过属性表征层中包含的该语义属性对应的注意力矩阵，对每个分词对应的词向量进行注意力加权。

在本申请实施例中，可将每个分词对应的词向量输入语义分析模型中的属性表征层，通过属性表征层中包含的该语义属性对应的注意力矩阵，对每个分词对应的词向量进行注意力加权，根据注意力加权后的每个分词对应的词向量，确定样本文本涉及该语义属性的第一特征表示向量。

步骤S503：根据注意力加权后的每个分词对应的词向量，确定样本文本涉及该语义属性的第一特征表示向量。

在本申请实施例中，上述的第一特征表示向量可以表征该样本文本涉及该语义属性的概率以及在该语义属性上的情感极性。

继续参阅图6，示出了图3中步骤S303的实现流程图，为了便于说明，仅示出与本申请相关的部分。

在本实施例的一些可选的实现方式中，步骤S303具体包括：步骤S601、步骤S602以及步骤S603。

步骤S601：将样本文本涉及每个语义属性的第一特征表示向量输入语义分析模型中的属性相关性表示层。

在本申请实施例中，语义分析模型中的属性相关性表示层中至少包含自注意力矩阵，该自注意力矩阵用于表示不同语义属性之间的相关性，该自注意力矩阵的形式可以为：矩阵中的元素R_ij表示第i个语义属性与第j个语义属性的相关性，相关性越强，R_ij的值越大，反之越小。

步骤S602：通过属性相关性表示层中包含的用于表示不同语义属性之间的相关性的自注意力矩阵，对样本文本涉及每个语义属性的第一特征表示向量进行自注意力加权。

步骤S603：根据自注意力加权后的各第一特征表示向量，确定样本文本涉及每个语义属性的第二特征表示向量。

在本申请实施例中，第二特征表示向量同样可以表征该样本文本涉及每个语义属性的概率以及在该语义属性上的情感极性，但与第一特征表示向量不同的是，第一特征表示向量是采用各自独立的每个语义属性对应的注意力矩阵对词向量加权得到的，因此，其表征的样本文本涉及每个语义属性的概率以及在该语义属性上的情感极性并未考虑不同语义属性之间的相关性。而第二特征表示向量是采用用于表示不同语义属性之间相关性的自注意力矩阵对第一特征表示向量加权得到的，相当于由自注意力矩阵引入了不同语义属性之间相关性的因素，因此，其表征的样本文本涉及每个语义属性的概率以及在该语义属性上的情感极性考虑了不同语义属性之间的相关性。

综上，本申请提供的应用于文本的数据增强方法，包括：接收用户终端发送的数据增强请求，数据增强请求至少携带有原始文本信息；对原始文本信息进行关键词过滤操作，得到非关键词文本；将非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本；基于真实词义文本对原始文本信息进行非关键词替换操作，得到目标文本信息；向用户终端输出目标文本信息。通过识别原始文本中可替换的非关键词文本，并对该非关键词文本进行语义识别，获得与上下文相关联的真实语义词文本，将原始文本信息中的该非关键词文本替换成真实语义词文本，使得替换后的目标文本信息依然保留有原始的语义，同时避免无用数据和错误数据的产生，有效提高文本数据增强的语义准确性，提高了文本分类模型的识别率，增强了模型的泛化能力。同时，通过将低于预设的词频阈值的字词划分为非关键词，因此对于得分较低的词替换后也不影响该原始文本信息的整体语义。

需要强调的是，为进一步保证上述原始文本信息的私密和安全性，上述原始文本信息还可以存储于一区块链的节点中。

本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

本申请可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该计算机可读指令在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

实施例二

进一步参考图7，作为对上述图1所示方法的实现，本申请提供了一种数据增强装置的一个实施例，该装置实施例与图1所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图7所示，本实施例的数据增强装置100包括：请求接收模块110、关键词过滤模块120、词义识别模块130、非关键词替换模块140以及目标文本输出模块150。其中：

请求接收模块110，用于接收用户终端发送的数据增强请求，数据增强请求至少携带有原始文本信息；

关键词过滤模块120，用于对原始文本信息进行关键词过滤操作，得到非关键词文本；

词义识别模块130，用于将非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本；

非关键词替换模块140，用于基于真实词义文本对原始文本信息进行非关键词替换操作，得到目标文本信息；

目标文本输出模块150，用于向用户终端输出目标文本信息。

在本申请实施例中，用户终端指的是用于执行本申请提供的预防证件滥用的图像处理方法的终端设备，该用户终端可以是诸如移动电话、智能电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、导航装置等等的移动终端以及诸如数字TV、台式计算机等等的固定终端，应当理解，此处对用户终端的举例仅为方便理解，不用于限定本申请。

在本申请实施例中，关键词过滤操作主要用于将原始文本信息中的字词分类为关键词以及非关键词，该关键词过滤操作的实现方式可以是基于TF-IDF统计方法对原始文本信息进行词频统计操作，得到词频统计结果；基于预设词频阈值对词频统计结果进行分类操作，得到非关键词。

在本申请实施例中，词义分析模型主要用于预测上述原始文本信息中各个非关键词文本的真实词义，具体的，该词义分析模型可以根据输入的非关键词文本预测处最为接近的词义内容，并输出该最为接近的词义内容。

在本申请实施例中，真实词义文本指的是上述词义分析模型预测处的最为接近的词义内容。

在本申请实施例中，当得到真实词义文本之后，进行替换操作，使得原始文本中的非关键词替换成真实词义信息的真实词义文本，使得原始文本信息在不改变文本词义的情况下进行数据增强的目的。

本申请提供的应用于文本的数据增强装置，包括：请求接收模块，用于接收用户终端发送的数据增强请求，数据增强请求至少携带有原始文本信息；关键词过滤模块，用于对原始文本信息进行关键词过滤操作，得到非关键词文本；词义识别模块，用于将非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本；非关键词替换模块，用于基于真实词义文本对原始文本信息进行非关键词替换操作，得到目标文本信息；目标文本输出模块，用于向用户终端输出目标文本信息。通过识别原始文本中可替换的非关键词文本，并对该非关键词文本进行语义识别，获得与上下文相关联的真实语义词文本，将原始文本信息中的该非关键词文本替换成真实语义词文本，使得替换后的目标文本信息依然保留有原始的语义，同时避免无用数据和错误数据的产生，有效提高文本数据增强的语义准确性，提高了文本分类模型的识别率，增强了模型的泛化能力。

继续参阅图8，示出了图7中关键词过滤模块120的结构示意图，为了便于说明，仅示出与本申请相关的部分。

在本实施例的一些可选的实现方式中，上述关键词过滤模块120包括：词频统计子模块121以及分类子模块122。其中：

词频统计子模块121，用于基于TF-IDF统计方法对原始文本信息进行词频统计操作，得到词频统计结果；

分类子模块122，用于基于预设词频阈值对词频统计结果进行分类操作，得到非关键词。

在本申请实施例中，TF-IDF指的是Term Frequency-Inverse DocumentFrequency的缩写，即“词频-逆文本频率”。它由两部分组成，TF和IDF,它可以根据字词在文本中出现的次数和在整个语料中出现的文档频率来计算一个字词在整个语料中的重要程度。

在本申请实施例中，词频统计结果指的是上述原始文本信息中各个字词出现的频率，该频率携带有该字词在原始文本信息中的重要程度。

在本申请实施例中，预设词频阈值主要用于唯一辨别上述词频统计结果中各个字词的重要程度，进而区分为关键词或者非关键词，该预设词频阈值可以根据实际用户需要进行动态设置。

在本申请实施例中，通过将低于预设的词频阈值的字词划分为非关键词，因此对于得分较低的词替换后也不影响该原始文本信息的整体语义。

在本实施例的一些可选的实现方式中，上述数据增强装置100还包括：分词确定模块、词向量确定模块、第一特征表示向量确定模块、第二特征表示向量确定模块、分类结果确定模块以及模型获取模块。其中：

分词确定模块，用于在本地数据库中获取样本文本，并确定样本文本中包含的每个分词；

词向量确定模块，用于基于待训练的语义分析模型确定每个分词对应的词向量；

第一特征表示向量确定模块，用于在本地数据库中获取每个语义属性，根据待训练的语义分析模型中包含语义属性对应的注意力矩阵，以及每个分词对应的词向量，确定样本文本涉及语义属性的第一特征表示向量；

第二特征表示向量确定模块，用于根据待训练的语义分析模型中包含的用于表示不同语义属性之间的相关性的自注意力矩阵，以及样本文本涉及每个语义属性的第一特征表示向量，确定样本文本涉及每个语义属性的第二特征表示向量；

分类结果确定模块，用于根据待训练的语义分析模型以及样本文本涉及每个语义属性的第二特征表示向量，确定待训练的语义训练模型输出的分类结果，分类结果包括样本文本所属的语义属性以及样本文本所属的语义属性对应的情感极性；

模型获取模块，用于根据分类结果和针对样本文本预设的标注，对语义分析模型中的模型参数进行调整，以完成对语义分析模型的训练。

在本申请实施例二的一些可选的实现方式中，上述词向量确定模块具体包括：语义表征子模块。其中：

语义表征子模块，用于将每个分词输入语义分析模型中的语义表征层，得到语义表征层输出的每个分词分别对应的双向语义表示向量，作为每个分词对应的词向量。

在本申请实施例二的一些可选的实现方式中，上述第一特征表示向量确定模块具体包括：属性表征子模块、注意力加权子模块以及第一特征表示向量确定子模块。其中：

属性表征子模块，用于将样本文本涉及每个语义属性的第一特征表示向量输入语义分析模型中的属性相关性表示层；

注意力加权子模块，用于通过属性相关性表示层中包含的用于表示不同语义属性之间的相关性的自注意力矩阵，对样本文本涉及每个语义属性的第一特征表示向量进行自注意力加权；

第一特征表示向量确定子模块，用于根据自注意力加权后的各第一特征表示向量，确定样本文本涉及每个语义属性的第二特征表示向量。

综上，本申请提供的应用于文本的数据增强装置，包括：请求接收模块，用于接收用户终端发送的数据增强请求，数据增强请求至少携带有原始文本信息；关键词过滤模块，用于对原始文本信息进行关键词过滤操作，得到非关键词文本；词义识别模块，用于将非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本；非关键词替换模块，用于基于真实词义文本对原始文本信息进行非关键词替换操作，得到目标文本信息；目标文本输出模块，用于向用户终端输出目标文本信息。通过识别原始文本中可替换的非关键词文本，并对该非关键词文本进行语义识别，获得与上下文相关联的真实语义词文本，将原始文本信息中的该非关键词文本替换成真实语义词文本，使得替换后的目标文本信息依然保留有原始的语义，同时避免无用数据和错误数据的产生，有效提高文本数据增强的语义准确性，提高了文本分类模型的识别率，增强了模型的泛化能力。同时，通过将低于预设的词频阈值的字词划分为非关键词，因此对于得分较低的词替换后也不影响该原始文本信息的整体语义。

为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图9，图9为本实施例计算机设备基本结构框图。

所述计算机设备200包括通过系统总线相互通信连接存储器210、处理器220、网络接口230。需要指出的是，图中仅示出了具有组件210-230的计算机设备200，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

所述存储器210至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器210可以是所述计算机设备200的内部存储单元，例如该计算机设备200的硬盘或内存。在另一些实施例中，所述存储器210也可以是所述计算机设备200的外部存储设备，例如该计算机设备200上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。当然，所述存储器210还可以既包括所述计算机设备200的内部存储单元也包括其外部存储设备。本实施例中，所述存储器210通常用于存储安装于所述计算机设备200的操作系统和各类应用软件，例如数据增强方法的计算机可读指令等。此外，所述存储器210还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器220在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器220通常用于控制所述计算机设备200的总体操作。本实施例中，所述处理器220用于运行所述存储器210中存储的计算机可读指令或者处理数据，例如运行所述数据增强方法的计算机可读指令。

所述网络接口230可包括无线网络接口或有线网络接口，该网络接口230通常用于在所述计算机设备200与其他电子设备之间建立通信连接。

本申请提供的应用于文本的数据增强方法，通过识别原始文本中可替换的非关键词文本，并对该非关键词文本进行语义识别，获得与上下文相关联的真实语义词文本，将原始文本信息中的该非关键词文本替换成真实语义词文本，使得替换后的目标文本信息依然保留有原始的语义，同时避免无用数据和错误数据的产生，有效提高文本数据增强的语义准确性，提高了文本分类模型的识别率，增强了模型的泛化能力。

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的数据增强方法的步骤。

本申请提供的应用于文本的数据增强方法，通过识别原始文本中可替换的非关键词文本，并对该非关键词文本进行语义识别，获得与上下文相关联的真实语义词文本，将原始文本信息中的该非关键词文本替换成真实语义词文本，使得替换后的目标文本信息依然保留有原始的语义，同时避免无用数据和错误数据的产生，有效提高文本数据增强的语义准确性，提高了文本分类模型的识别率，增强了模型的泛化能力。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种数据增强方法，其特征在于，包括下述步骤：

接收用户终端发送的数据增强请求，所述数据增强请求至少携带有原始文本信息；

对所述原始文本信息进行关键词过滤操作，得到非关键词文本；

将所述非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本；

基于所述真实词义文本对所述原始文本信息进行非关键词替换操作，得到目标文本信息；

向所述用户终端输出所述目标文本信息。

2.根据权利要求1所述的数据增强方法，其特征在于，所述对所述原始文本信息进行关键词过滤操作，得到非关键词文本的步骤，具体包括：

基于TF-IDF统计方法对所述原始文本信息进行词频统计操作，得到词频统计结果；

基于预设词频阈值对所述词频统计结果进行分类操作，得到所述非关键词。

3.根据权利要求1所述的数据增强方法，其特征在于，在所述将所述非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本的步骤之前，还包括：

在本地数据库中获取样本文本，并确定所述样本文本中包含的每个分词；

基于待训练的语义分析模型确定所述每个分词对应的词向量；

在所述本地数据库中获取每个语义属性，根据所述待训练的语义分析模型中包含所述语义属性对应的注意力矩阵，以及所述每个分词对应的词向量，确定所述样本文本涉及所述语义属性的第一特征表示向量；

根据所述待训练的语义分析模型中包含的用于表示不同语义属性之间的相关性的自注意力矩阵，以及所述样本文本涉及每个语义属性的第一特征表示向量，确定所述样本文本涉及每个语义属性的第二特征表示向量；

根据所述待训练的语义分析模型以及所述样本文本涉及每个语义属性的第二特征表示向量，确定所述待训练的语义训练模型输出的分类结果，所述分类结果包括所述样本文本所属的语义属性以及所述样本文本所属的语义属性对应的情感极性；

根据所述分类结果和针对所述样本文本预设的标注，对所述语义分析模型中的模型参数进行调整，以完成对所述语义分析模型的训练。

4.根据权利要求3所述的数据增强方法，其特征在于，所述在本地数据库中获取样本文本，并确定所述样本文本中包含的每个分词的步骤，具体包括：

将所述每个分词输入所述语义分析模型中的语义表征层，得到所述语义表征层输出的每个分词分别对应的双向语义表示向量，作为每个分词对应的词向量。

5.根据权利要求3所述的数据增强方法，其特征在于，所述基于待训练的语义分析模型确定所述每个分词对应的词向量的步骤，具体包括：

将每个分词对应的词向量输入所述语义分析模型中的属性表征层；

通过所述属性表征层中包含的该语义属性对应的注意力矩阵，对每个分词对应的词向量进行注意力加权；

根据注意力加权后的每个分词对应的词向量，确定所述样本文本涉及该语义属性的第一特征表示向量。

6.根据权利要求5所述的数据增强方法，其特征在于，所述在所述本地数据库中获取每个语义属性，根据所述待训练的语义分析模型中包含所述语义属性对应的注意力矩阵，以及所述每个分词对应的词向量，确定所述样本文本涉及所述语义属性的第一特征表示向量的步骤，具体包括：

将所述样本文本涉及每个语义属性的第一特征表示向量输入所述语义分析模型中的属性相关性表示层；

通过所述属性相关性表示层中包含的用于表示不同语义属性之间的相关性的自注意力矩阵，对所述样本文本涉及每个语义属性的第一特征表示向量进行自注意力加权；

根据自注意力加权后的各第一特征表示向量，确定所述样本文本涉及每个语义属性的第二特征表示向量。

7.一种数据增强装置，其特征在于，包括：

请求接收模块，用于接收用户终端发送的数据增强请求，所述数据增强请求至少携带有原始文本信息；

关键词过滤模块，用于对所述原始文本信息进行关键词过滤操作，得到非关键词文本；

词义识别模块，用于将所述非关键词文本输入至词义分析模型进行词义识别操作，得到真实词义文本；

非关键词替换模块，用于基于所述真实词义文本对所述原始文本信息进行非关键词替换操作，得到目标文本信息；

目标文本输出模块，用于向所述用户终端输出所述目标文本信息。

8.根据权利要求7所述的数据增强装置，其特征在于，所述关键词过滤模块包括：

词频统计子模块，用于基于TF-IDF统计方法对所述原始文本信息进行词频统计操作，得到词频统计结果；

分类子模块，用于基于预设词频阈值对所述词频统计结果进行分类操作，得到所述非关键词。

9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至6中任一项所述的数据增强方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至6中任一项所述的数据增强方法的步骤。

Images