CN113064964A - 文本分类方法、模型训练方法、装置、设备以及存储介质 - Google Patents

文本分类方法、模型训练方法、装置、设备以及存储介质 Download PDF

Info

Publication number
CN113064964A
CN113064964A CN202110301953.1A CN202110301953A CN113064964A CN 113064964 A CN113064964 A CN 113064964A CN 202110301953 A CN202110301953 A CN 202110301953A CN 113064964 A CN113064964 A CN 113064964A
Authority
CN
China
Prior art keywords
text
text classification
sample
training
key
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110301953.1A
Other languages
English (en)
Inventor
黄深能
赵茜
利啟东
佟博
叶凯亮
高玮
胡盼盼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Lingdong Shuzhi Technology Co ltd
Original Assignee
Guangdong Bozhilin Robot Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Bozhilin Robot Co Ltd filed Critical Guangdong Bozhilin Robot Co Ltd
Priority to CN202110301953.1A priority Critical patent/CN113064964A/zh
Publication of CN113064964A publication Critical patent/CN113064964A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G06F16/353—Clustering; Classification into predefined classes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3344—Query execution using natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明实施例公开了一种文本分类方法、模型训练方法、装置、设备以及存储介质。该训练方法包括：通过训练样本以及训练样本的关键句标签向量和类别标签向量，训练得到具有关键句预测以及类别预测功能的文本分类模型，能够对待处理文本同步预测关键句和各语句类型，即关键句提取结果与文本分类结果，以得到待处理文本的关键句类型。在模型的训练过程中，对训练样本以及标签进行向量形式的预处理；同时基于关键句标签向量和类别标签向量得到损失函数，对待训练的文本分类模型进行训练，得到同时具有关键句预测以及类别预测功能的文本分类模型实现了增加对文本内容多种标签分类的准确性。

Description

文本分类方法、模型训练方法、装置、设备以及存储介质
技术领域
本发明实施例涉及自然语义分析技术领域，尤其涉及一种文本分类方法、模型训练方法、装置、设备以及存储介质。
背景技术
目前，单标签文本分类计数已经趋向成熟，并广泛应用于病例本分类，评论分区等行业。但是现实场景中，多标签文本情况出现比较多，而目前对应多标签的文本分类主要分两类，一种是传统的传统机器学习，依赖人工设计特征，算法稳定性不强；另外一种是深度学习，常用的网络模型有LSTM(long-short term memory，长短期记忆模型)，Bert，Transformer等。
基于深度学习的多标签文本分类，虽然具有较强的文本处理能力，但是由于需要把每个词向量拼接起来，当文本较长时，会因为拼接起来向量过长造成显存占用过大。针对该情况，目前的做法是固定文本的词向量长度512维，对于多出的词向量直接丢弃，而当关键信息在丢弃部分，往往会影响文本的分类。同时，长文本中一般会带有其他和分类无关的信息，引入这些信息进行训练，会使得模型提取关键信息的能力降低。
发明内容
本发明提供一种文本分类方法、装置、电子设备以及存储介质，以实现增加对文本内容多种标签分类的准确性。
第一方面，本发明实施例提供了一种文本分类模型训练方法，该方法包括：
获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量；
基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型；
其中，所述对待训练的文本分类模型进行迭代训练，包括：
将所述样本文本向量输入所述文本分类模型，得到所述样本文本向量的关键句预测结果以及文本分类预测结果；基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数，并基于所述损失函数对所述文本分类模型进行参数调节。
第二方面，本发明实施例还提供了一种文本分类方法，该方法包括：
获取待分类文本，确定所述待分类文本的文本向量；
基于文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果，其中，所述文本分类模型为基于本发明任意实施例提供的文本分类模型训练方法训练得到；
根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果。
第三方面，本发明实施例还提供了一种文本分类模型训练装置，该装置包括：
样本文本向量获取模块，用于获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量；
模型训练模块，用于基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型；
其中，所述对待训练的文本分类模型进行迭代训练，包括：
将所述样本文本向量输入所述文本分类模型，得到所述样本文本向量的关键句预测结果以及文本分类预测结果；基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数，并基于所述损失函数对所述文本分类模型进行参数调节。
第四方面，本发明实施例还提供了一种文本分类装置，该装置包括：
文本向量获取模块，用于获取待分类文本，确定所述待分类文本的文本向量；
模型输出结果获取模块，用于基于文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果，其中，所述文本分类模型为基于本发明任意实施例提供的文本分类模型训练方法训练得到；
分类结果确定模块，用于根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果。
第五方面，本发明实施例还提供了一种电子设备，所述电子设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任意实施例提供的文本分类模型训练方法或文本分类方法。
第六方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本发明任意实施例提供的文本分类模型训练方法或文本分类方法。
本发明实施例的技术方案，通过训练样本以及训练样本的关键句标签向量和类别标签向量，训练得到具有关键句预测以及类别预测功能的文本分类模型，能够对待处理文本同步预测关键句和各语句类型，即关键句提取结果与文本分类结果，以得到待处理文本的关键句类型，实现多标签的高精度分类预测，降低非关键句对文本分类的干扰。在模型的训练过程中，对训练样本以及标签进行向量形式的预处理，便于包括多个句子的训练样本的多个标签进行管理和应用；同时基于关键句标签向量和类别标签向量得到损失函数，对待训练的文本分类模型进行训练，得到同时具有关键句预测以及类别预测功能的文本分类模型实现了增加对文本内容多种标签分类的准确性。
附图说明
为了更加清楚地说明本发明示例性实施例的技术方案，下面对描述实施例中所需要用到的附图做一简单介绍。显然，所介绍的附图只是本发明所要描述的一部分实施例的附图，而不是全部的附图，对于本领域普通技术人员，在不付出创造性劳动的前提下，还可以根据这些附图得到其他的附图。
图1是本发明实施例一提供的文本分类模型训练方法的流程示意图；
图2是本发明实施例一涉及的文本分类模型的模型结构示意图；
图3是本发明实施例三提供的文本分类方法的流程示意图；
图4是本发明实施例四提供的文本分类模型训练装置的结构示意图；
图5是本发明实施例五提供的文本分类装置的结构示意图；
图6为本发明实施例六提供的电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一提供的一种文本分类模型训练方法的流程图，本实施例可适用于对待训练的文本分类模型进行训练的情况。该方法可以由文本分类模型训练装置来执行，该装置可以由软件和/或硬件的方式来实现。如图1所示，该方法具体包括以下步骤：
S110、获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量。
在本发明实施例中，训练样本为用于训练当前文本分类模型的样本数据，具体的可以是已经进行关键句提取和分类处理并设置标签的文本数据。获取训练样本的标签数据，其中标签数据包括关键句标签和类别标签。具体的，关键句标签具体可以设置为：关键句样本的标签为1，非关键句样本的标签为0。具体的，当类别标签只有两种类别时，可以将类别的标签分别设置为1和0，当类别标签有多种类别时，可以根据类别的种类设置不同的标签，例如可以设置标签1、标签2和标签3等标签方式，也可以是设置标签A、标签B、标签C等标签方式，当然本实施例对关键句标签和类别标签的设置方式不加以限制。
具体的，获取训练样本中的文本‘没有人通知业主去签收车位，物业是否有通知业主，业主要求拿出证据，管家却一直催促缴纳物管费，管家表示可以减免车位管理费滞纳金，业主表示不会进行缴纳车位管理费，请跟进处理’，其中，将‘通知业务不及时’和‘频繁催促缴纳’设置为关键句标签1，即表示上述两句为关键句样本，其他句子的关键句标签可以是0，为非关键句；将各个句子设置类别标签1-7，即表示该段文本有7个类别，当然文本中的不同句子可以对应同一类别。
在一些实施例中，关键句标签和类别标签可以是向量标签，示例性的，上述训练样本的关键句标签可以是[0,1,0,1,0,0,0]，即第二句和第四句为关键句，其他句为非关键句，同理，类别标签可以是[1,2,3,4,5,6,7]，即第一个句子至第七个句子对应的类别分别为类别1-7。当然在另外一些实施例中也可以根据句子的内容将两个及以上的句子设置为同样的标签，即类别标签可以是[1,2,3,2,3,2,1]。
通过将训练样本的关键句标签和类别标签设置为向量标签形式，便于包括多个句子的训练样本的多个标签进行管理和应用。
在本实施例中，预设数据格式可以是预先设置的符合文本分类模型的输入需求的数据格式，该数据格式可以是预设的向量格式，该预设数据格式可以是限定了向量格式中各向量元素的数量和位置等。相应的，对训练样本进行预处理可以是包括将训练样本转换为初始向量数据，将初始向量数据转换为预设数据格式的样本文本向量。
可选的，对训练样本进行预处理的方法可以是：预先建立所述训练样本对应的样本语料库；根据所述样本语料库对所述训练样本进行分词，生成所述训练样本中的各句子的第一预设长度的句向量；基于所述各预设长度的句向量生成第二预设长度的文本向量。
其中，语料库可以是存储当前训练样本中各个分词以及该分词在语料库中的存储序号的数据库。第一预设长度和第二预设长度分别为预先设置的句向量和文本向量的长度，第一预设长度可以是5、10和20等其他长度，第二预设长度可以是第一预设长度一致，也可以不一致，本实施例对第一预设长度和第二预设长度的具体长度数值不加以限制。
具体的，获取训练样本中的所有词，对所有词进行去重处理并对去重后的词设置数字标识，该数字标识可以是词的序号，例如对去重后的词进行预设方式的排序以获得当前训练样本的语料库，该预料库中包括各词与排序序号的对应关系，其中，预设排序方式可以是按照文字在样本中出现的顺序进行排序，也可以按照文字的笔画，以及拼音进行排序，本实施例对排序方式不加以限制。
将训练样本中的每条句子都进行分词，生成所述训练样本中的各句子的长度为n的句向量，当句子长度不够时，在句末处填充为0使每个句子的长度保持一致。示例性的，‘没有人通知业主去签收车位’通过分词变成：‘没有’、‘人’、‘通知’、‘业主’、‘去’、‘签收’、‘车位’。通过查询语料库可知‘没有’该词在语料库的顺序是329，同理可以获得其他词在语料库的顺序，将这些数字按照词在句子中的顺序组合起来，则句子‘没有人通知业主去签收车位’转成句向量[329,11,43,69,344,92,87]。如果定义每条句子长度为12，则该句向量剩下的位置用0来填充，最终变成[329,11,43,69,344,92,87,0,0,0,0,0]。
预先设置句向量数量为m的文本向量，将上述步骤中得到的长度为n的句向量按照首尾相接的方式拼接成文本向量，当句向量的数量不够时，在文本向量末尾处填充为0使每个文本向量的数量保持一致。示例性的，当m的值为10，而当前文本的句向量数量为7，则剩下3句的句向量是长度为的全为0的向量，最终该条文本向量为[[句向量1],[句向量2],...[句向量7]，[0,0,..0],[0,0,..0],[0,0,..0]]。
S120、基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型。
在本发明实施例中，对待训练的文本分类模型进行迭代训练，包括：将样本文本向量输入文本分类模型，得到样本文本向量的关键句预测结果以及文本分类预测结果；基于关键句预测结果、文本分类预测结果以及训练样本的关键句标签和分类标签生成损失函数，并基于损失函数对文本分类模型进行参数调节。
具体的，将各训练样本的样本文本向量输入至待训练的文本分类模型中进行迭代训练，使得关键句预测结果尽可能为1或者趋近于1，非关键句预测结果为0或者趋近于0。将训练样本中的样本数据循环执行上述训练，直至训练满足上述迭代停止条件，完成模型训练。
在本发明实施例中，文本分来模型包括特征提取子模型，关键句提取子模型和文本分类子模型。其中，所述特征提取子模型用于提取所述样本文本向量的特征信息。具体的，文本分类模型的结构如图2所示，所述关键句提取子模型与所述特征提取子模型连接，用于基于所述特征信息确定所述训练样本中的关键句预测结果；所述文本分类子模型与所述特征提取子模型连接，用于基于所述特征信息确定所述训练样本的文本分类预测结果。
具体的，将样本文本向量输入至文本分类模型中的特征提取子模型，其中，特征提取子模型可以是利用transformer的decode模块来搭建的backbone网络，以获取文本向量的基础特征。将该基础特征输入至关键句提取子模型中，其中，关键句提取子模型可以是利用全连接层搭建的sense extract网络，以提取句特征，并预测关键句得到所述文本向量的关键句预测结果。将该基础特征输入至文本分类子模型中，其中，文本分类子模型可以是全连接层搭建的分类网络classification网络，以预测文本向量中各句向量的类别信息。
在本发明实施例中，损失函数包括关键句第一损失函数、关键句第二损失函数和文本分类损失函数。
可选的，关键句第一损失函数根据各训练样本中各句子的关键句预测结果与关键句标签生成。关键句第二损失函数根据各训练样本中的关键句预测结果中关键句数量与关键句标签中的关键句数量生成。文本分类损失函数根据各训练样本中的文本分类预测结果与类别标签中生成。基于所述关键句第一损失函数、所述关键句第二损失函数、所述文本分类损失函数和所述困难样本损失函数生成目标损失函数。
具体的，将维度为1×m×n(1表示batchsize的大小)的文本向量输入至backbone网络获得基础特征F，将基础特征F输入到sense extract网络经过句特征提取后，输出维度为1×m×n的关键句预测结果，采用如下公式确定各训练样本中的关键句预测结果pre与关键句标签label之间的第一损失函数loss_1：
Figure BDA0002986667240000091
其中，
Figure BDA0002986667240000092
是关键句预测结果，y_sen是关键句标签。
为了解决当前训练样本中由于非关键句比关键句多而造成关键句的正负样本在一定程度的失衡的问题，本发明实施例的技术方案提出利用关键句预测结果中关键句的数量和关键句标签中关键句的数量来得到关键句第二损失函数，以提高模型对关键句的拟合能力，提高模型的分类准确性。具体的关键句第二损失函数的表达式为：
loss_2＝1-(pre∩label)/(pre∪label)
其中，(pre∩label)是关键句预测结果pre与关键句标签label中关键句的交集，(pre∩label)是关键句预测结果pre与关键句标签label中关键句的并集。示例性的，当关键句预测结果pre为[1,1,0,0,0,0,1]、关键句标签label为[0,1,0,0,0,0,1]时，可知pre和label关键句相同处有2个(交集)，pre和label的关键句之和为3(并集)，所以该loss_2值为loss_iou＝1-2/3＝0.33，且当loss_2的值越低时，说明模型对关键句的拟合能力越强。
将基础特征F输入到classification网络，经过类别信息特征提取后输出维度为1×m×c的类别预测结果，其中c表示类别数量。通过关键句标签位置所对的向量和类别标签
Figure BDA0002986667240000101
采用下述公式确定各训练样本中文本分类预测结果与类别标签的损失函数：
Figure BDA0002986667240000102
其中，
Figure BDA0002986667240000103
表示第i个位置的类别预测值，clsi表示第i个位置的类别标值，y_seni表示第i个位置的关键句标签值，并且当y_seni为1时，该位置是关键句，才计算文本分类预测结果与类别标签的损失函数；当y_seni为0时，则不计算文本分类预测结果与类别标签的损失函数。
在本发明实施例中，可以顺序生成关键句第一损失函数、关键句第二损失函数和文本分类损失函数，当然也可以同时生成关键句第一损失函数、关键句第二损失函数和文本分类损失函数，本实施例对各损失函数的生成顺序不加以限制。将上述步骤中的关键句第一损失函数、关键句第二损失函数和文本分类损失函数进行求和得到文本分类模型的目标损失函数，基于目标损失函数对该模型进行参数调节，以得到训练完成的文本分类模型。
本发明实施例的技术方案，通过训练样本以及训练样本的关键句标签向量和类别标签向量，训练得到具有关键句预测以及类别预测功能的文本分类模型，能够对待处理文本同步预测关键句和各语句类型，即关键句提取结果与文本分类结果，以得到待处理文本的关键句类型，实现多标签的高精度分类预测，降低非关键句对文本分类的干扰。在模型的训练过程中，对训练样本以及标签进行向量形式的预处理，便于包括多个句子的训练样本的多个标签进行管理和应用；同时基于关键句标签向量和类别标签向量得到损失函数，对待训练的文本分类模型进行训练，得到同时具有关键句预测以及类别预测功能的文本分类模型实现了增加对文本内容多种标签分类的准确性。
实施例二
本实施例在上述各实施例的基础上，基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数，并基于所述损失函数对所述待训练的文本分类模型进行参数调节中的目标损失函数在关键句第一损失函数、关键句第二损失函数和文本分类损失函数的基础上还包括困难样本损失函数；将困难样本损失函数增加至目标损失函数，进一步提升了模型对预测困难样本的学习能力，以使进一步的提高模型的关键句提取能力。其中与上述各实施例相同或相应的术语的解释在此不再赘述。本实施例提供的文本分类方法包括：
S210、获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量。
S220、基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型。
为了进一步提高文本分类模型对非关键句的学习能力，提高模型分类的准确性，本发明实施例提供的技术方案中用于调节训练模型参数的损失函数在包括关键句第一损失函数、关键句第二损失函数和文本分类损失函数的基础上，还包括困难样本损失函数。其中，困难样本是预设数量的关键句预测结果概率大的训练样本。
可选的，基于关键句预测结果与关键句标签确定困难样本，根据困难样本的关键句预测结果与关键句标签生成困难样本损失函数。具体的，确定困难样本的方法可以是：通过确定所述训练样本的关键句预测结果中的预测负样本，并基于所述预测负样本的预测结果与关键句标签的差异值从而确定预设数量的困难样本。
示例性的，采用下述公式确定文本分类预测结果和类别标签差异值较大的非关键句样本的损失函数：
Figure BDA0002986667240000121
其中，1-y_seni表示如果该位置为关键句，则该值为0。
对所有的非关键句的损失函数按从大到小的顺序进行排序，选取预设数量的非关键句的损失函数作为困难样本的损失函数。其中，预设数量的选取可以是关键值的3倍，以限制非关键句的个数，使非关键句样本和关键句样本数量保持平衡，以提高模型对关键句的拟合能力。
本发明实施例中的基于所述损失函数对所述待训练的文本分类模型进行参数调节中的目标损失函数在包括关键句第一损失函数、关键句第二损失函数和文本分类损失函数的基础上还增加了困难样本损失函数；本技术方案通过将困难样本损失函数增加至目标损失函数，进一步提升了模型对预测困难样本的学习能力，以使进一步的提高模型的关键句提取能力。
实施例三
图3为本发明实施例三提供的一种文本分类方法的流程图，本实施例可适用于对文本内容进行多类别分类的情况。该方法可以由文本分类装置来执行，该装置可以由软件和/或硬件的方式来实现。如图3所示，该方法具体包括以下步骤：
S310、获取待分类文本，确定所述待分类文本的文本向量。
在本发明实施例中，获取待分类文本，采用上述任一实施例中提到的文本向量确定方式确定待分类文本的文本向量，本实施例在此对文本向量的确定方式不再加以赘述。
S320、基于文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果。
在本发明实施例中，文本分类模型为基于上述各实施例介绍的文本分类模型训练方法得到。具体的，该文本分类模型包括特征提取子模型，关键句提取子模型和文本分类子模型。
具体的，所述基础特征提取子模型用于提取所述文本向量的特征向量。关键句提取子模型用于确定所述特征向量中的关键句，生成所述文本向量的至少一个关键句。所述文本分类子模型用于确定所述特征向量中的各句特征向量的类别信息。通过文本分类模型确定关键句和类别信息的步骤在上述实施例中已进行详细的解释，本实施例在此不再重复赘述。
S330、根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果。
在本发明实施例中，于所述文本向量的各句特征向量的类别信息以及所述各句特征向量中的关键句向量的位置信息确定所述文本向量的至少一个文本类别。
具体的，当待分类的文本为‘没有人通知业主去签收车位，物业是否有通知业主，业主要求拿出证据，管家却一直催促缴纳物管费，管家表示可以减免车位管理费滞纳金，业主表示不会进行缴纳车位管理费，请跟进处理’时，将该文本内容进行分词得到该文本内容的文本向量，将文本向量输入至文本分类模型的关键句提取子模型中，得到关键句预测结果为[0.3,0.4,0,6,0.1,0.8,0.9,0.2,0.1,0.3],可知该向量中关键句预测值大于0.7的有位置4和5，表示该文本第4和第5句为关键句。根据文本分类模型的文本分子子模型输出的类别信息确定第4句和第5句的类别预测分别为2和5，则该文本的类别预测分别为2和5。
本发明实施例的技术方案通过确定获取到的待分类文本的文本向量，并基于上述的文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果，根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果，增加了对文本内容多种标签分类的准确性。以下是本发明实施例提供的文本分类装置的实施例，该装置与上述各实施例的文本分类方法属于同一个发明构思，在文本分类装置的实施例中未详尽描述的细节内容，可以参考上述文本分类方法的实施例。
实施例四
图4为本发明实施例四提供的文本分类模型训练装置的结构示意图，本实施例可适用于对待训练的文本分类模型进行训练的情况。该文本分类模型训练装置的具体结构包括：样本文本向量获取模块410和模型训练模块420；其中，
样本文本向量获取模块410，用于获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量；
模型训练模块420，用于基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型；
其中，所述对待训练的文本分类模型进行迭代训练，包括：
将所述样本文本向量输入所述文本分类模型，得到所述样本文本向量的关键句预测结果以及文本分类预测结果；基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数，并基于所述损失函数对所述文本分类模型进行参数调节。
本发明实施例的技术方案，通过训练样本以及训练样本的关键句标签向量和类别标签向量，训练得到具有关键句预测以及类别预测功能的文本分类模型，能够对待处理文本同步预测关键句和各语句类型，即关键句提取结果与文本分类结果，以得到待处理文本的关键句类型，实现多标签的高精度分类预测，降低非关键句对文本分类的干扰。在模型的训练过程中，对训练样本以及标签进行向量形式的预处理，便于包括多个句子的训练样本的多个标签进行管理和应用；同时基于关键句标签向量和类别标签向量得到损失函数，对待训练的文本分类模型进行训练，得到同时具有关键句预测以及类别预测功能的文本分类模型实现了增加对文本内容多种标签分类的准确性。
在上述技术方案的基础上，文本分类模型包括特征提取子模型，关键句提取子模型和文本分类子模型；
其中，所述特征提取子模型用于提取所述样本文本向量的特征信息；
所述关键句提取子模型用于基于所述特征信息确定所述训练样本中的关键句预测结果。
所述文本分类子模型用于基于所述特征信息确定所述训练样本的文本分类预测结果。
在上述技术方案的基础上，样本文本向量获取模块410，包括：
样本语料库建立单元，用于预先建立所述训练样本对应的样本语料库；
句向量生成单元，用于根据所述样本语料库对所述训练样本进行分词，生成所述训练样本中的各句子的第一预设长度的句向量；
文本向量生成单元，用于基于所述各预设长度的句向量生成第二预设长度的文本向量。
在上述技术方案的基础上，损失函数包括关键句第一损失函数、关键句第二损失函数和文本分类损失函数；
其中，模型训练模块420，包括：
所述关键句第一损失函数根据各训练样本中各句子的关键句预测结果与关键句标签生成。
所述关键句第二损失函数根据各训练样本中的关键句预测结果中关键句数量与关键句标签中的关键句数量生成。
所述文本分类损失函数根据各训练样本中的文本分类预测结果与类别标签生成。
在上述技术方案的基础上，损失函数还包括困难样本损失函数；所述困难样本损失函数根据困难样本的关键句预测结果与关键句标签生成；
其中，模型训练模块420，还包括：
困难样本损失函数生成单元，用于在所述基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数之前，基于关键句预测结果与关键句标签确定困难样本。
在上述技术方案的基础上，困难样本损失函数生成单元，包括：
困难样本生成子单元，用于确定所述训练样本的关键句预测结果中的预测负样本，并基于所述预测负样本的预测结果与关键句标签的差异值确定预设数量的困难样本。
本发明实施例所提供的文本分类装置可执行本发明任意实施例所提供的文本分类方法，具备执行方法相应的功能模块和有益效果。
值得注意的是，上述文本分类装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。
实施例五
图5为本发明实施例五提供的文本分类装置的结构示意图，本实施例可适用于对文本内容进行多类别分类的情况。该文本分类装置的具体结构包括：文本向量获取模块510、模型输出结果获取模块520和分类结果确定模块530；其中：
文本向量获取模块510，用于获取待分类文本，确定所述待分类文本的文本向量；
模型输出结果获取模块520，用于基于文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果，其中，所述文本分类模型为基于权利要求1-6任一所述的文本分类模型训练方法训练得到；
分类结果确定模块530，用于根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果。
本发明实施例的技术方案基于上述训练完成的文本分类模型对获取到的待分类文本的文本向量进行分类，得到待分类文本的的关键句提取结果与文本分类结果，根据该关键句提取结果与文本分类结果确定该待分类文本的分类结果，增加了对文本内容多种标签分类的准确性。。
在上述技术方案的基础上，模型输出结果获取模块520，包括：
基础特征向量提取单元，用于所述特征提取子模型用于提取所述样本文本向量的特征信息；
关键句生成单元，用于所述关键句提取子模型用于确定所述特征向量中的关键句，生成所述文本向量的至少一个关键句；
类别信息生成单元，用于所述文本分类子模型用于确定所述基础特征向量中各句特征向量的类别信息。
在上述技术方案的基础上，分类结果确定模块530，包括：
分类结果确定单元，用于基于所述文本向量的各句特征向量的类别信息以及所述各句特征向量中的关键句向量的位置信息确定所述文本向量的至少一个文本类别。
本发明实施例所提供的文本分类装置可执行本发明任意实施例所提供的文本分类方法，具备执行方法相应的功能模块和有益效果。
值得注意的是，上述文本分类装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。
实施例六
图6为本发明实施例四提供的一种电子设备的结构示意图。图6示出了适于用来实现本发明实施方式的示例性电子设备12的框图。图6显示的电子设备12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示，电子设备12以通用计算电子设备的形式表现。电子设备12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
电子设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。电子设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图6未显示，通常称为“硬盘驱动器”)。尽管图6中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如系统存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
电子设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该电子设备12交互的设备通信，和/或与使得该电子设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，电子设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图6所示，网络适配器20通过总线18与电子设备12的其它模块通信。应当明白，尽管图6中未示出，可以结合电子设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及样本数据获取，例如实现本发实施例所提供的一种文本分类模型训练方法和文本分类方法步骤，文本分类模型训练方法包括：
获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量；
基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型；
其中，所述对待训练的文本分类模型进行迭代训练，包括：
将所述样本文本向量输入所述文本分类模型，得到所述样本文本向量的关键句预测结果以及文本分类预测结果；基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数，并基于所述损失函数对所述文本分类模型进行参数调节。
文本分类方法包括：
获取待分类文本，确定所述待分类文本的文本向量；
基于文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果，其中，所述文本分类模型为基于权利要求1-6任一所述的文本分类模型训练方法训练得到；
根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果。
当然，本领域技术人员可以理解，处理器还可以实现本发明任意实施例所提供的样本数据获取方法的技术方案。
实施例七
本实施例七提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现例如实现本发实施例所提供的一种文本分类模型训练方法和文本分类方法步骤，文本分类模型训练方法包括：
获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量；
基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型；
其中，所述对待训练的文本分类模型进行迭代训练，包括：
将所述样本文本向量输入所述文本分类模型，得到所述样本文本向量的关键句预测结果以及文本分类预测结果；基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数，并基于所述损失函数对所述文本分类模型进行参数调节。
文本分类方法包括：
获取待分类文本，确定所述待分类文本的文本向量；
基于文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果，其中，所述文本分类模型为基于权利要求1-6任一所述的文本分类模型训练方法训练得到；
根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果。
本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于：电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
本领域普通技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个计算装置上，或者分布在多个计算装置所组成的网络上，可选地，他们可以用计算机装置可执行的程序代码来实现，从而可以将它们存储在存储装置中由计算装置来执行，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件的结合。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (13)

1.一种文本分类模型训练方法，其特征在于，包括：
获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量；
基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型；
其中，所述对待训练的文本分类模型进行迭代训练，包括：
将所述样本文本向量输入所述文本分类模型，得到所述样本文本向量的关键句预测结果以及文本分类预测结果；基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数，并基于所述损失函数对所述文本分类模型进行参数调节。
2.根据权利要求1所述的方法，其特征在于，所述文本分类模型包括特征提取子模型，关键句提取子模型和文本分类子模型；
其中，所述特征提取子模型用于提取所述样本文本向量的特征信息；
所述关键句提取子模型，用于基于所述特征信息确定所述训练样本中的关键句预测结果；
所述文本分类子模型，用于基于所述特征信息确定所述训练样本的文本分类预测结果。
3.根据权利要求1所述的方法，其特征在于，所述对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量，包括：
预先建立所述训练样本对应的样本语料库；
根据所述样本语料库对所述训练样本进行分词，生成所述训练样本中的各句子的第一预设长度的句向量；
基于所述各预设长度的句向量生成第二预设长度的文本向量。
4.根据权利要求1所述的方法，其特征在于，所述损失函数包括关键句第一损失函数、关键句第二损失函数和文本分类损失函数；
所述关键句第一损失函数根据各训练样本中各句子的关键句预测结果与关键句标签生成；
所述关键句第二损失函数根据各训练样本中的关键句预测结果中关键句数量与关键句标签中的关键句数量生成；
所述文本分类损失函数根据各训练样本中的文本分类预测结果与类别标签生成。
5.根据权利要求4所述的方法，其特征在于，所述损失函数还包括困难样本损失函数，所述困难样本损失函数根据困难样本的关键句预测结果与关键句标签生成；
在所述基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数之前，还包括：
基于关键句预测结果与关键句标签确定困难样本。
6.根据权利要求5所述的方法，其特征在于，所述基于关键句预测结果与关键句标签确定困难样本，包括：
确定所述训练样本的关键句预测结果中的预测负样本，并基于所述预测负样本的预测结果与关键句标签的差异值确定预设数量的困难样本。
7.一种文本分类方法，其特征在于，包括：
获取待分类文本，确定所述待分类文本的文本向量；
基于文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果，其中，所述文本分类模型由权利要求1-6任一所述的文本分类模型训练方法训练得到；
根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果。
8.根据权利要求7所述的方法，其特征在于，所述基于文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果，包括：
所述特征提取子模型提取所述样本文本向量的特征信息；
所述关键句提取子模型确定所述文本向量的关键句，生成所述文本向量的至少一个关键句；
所述文本分类子模型用于确定所述基础特征向量中各句特征向量的类别信息。
9.根据权利要求8所述的方法，其特征在于，所述根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果，包括：
基于所述文本向量的各句特征向量的类别信息以及所述各句特征向量中的关键句向量的位置信息确定所述文本向量的至少一个文本类别。
10.一种文本分类模型训练装置，其特征在于，包括：
样本文本向量获取模块，用于获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量；
模型训练模块，用于基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型；
其中，所述对待训练的文本分类模型进行迭代训练，包括：
将所述样本文本向量输入所述文本分类模型，得到所述样本文本向量的关键句预测结果以及文本分类预测结果；基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数，并基于所述损失函数对所述文本分类模型进行参数调节。
11.一种文本分类装置，其特征在于，包括：
文本向量获取模块，用于获取待分类文本，确定所述待分类文本的文本向量；
模型输出结果获取模块，用于基于文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果，其中，所述文本分类模型为基于权利要求1-6任一所述的文本分类模型训练方法训练得到；
分类结果确定模块，用于根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果。
12.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-6中任一所述的文本分类模型训练方法或7-9任一所述的文本分类方法。
13.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-6中任一所述的文本分类模型训练方法或7-9任一所述的文本分类方法。
CN202110301953.1A 2021-03-22 2021-03-22 文本分类方法、模型训练方法、装置、设备以及存储介质 Pending CN113064964A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110301953.1A CN113064964A (zh) 2021-03-22 2021-03-22 文本分类方法、模型训练方法、装置、设备以及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110301953.1A CN113064964A (zh) 2021-03-22 2021-03-22 文本分类方法、模型训练方法、装置、设备以及存储介质

Publications (1)

Publication Number Publication Date
CN113064964A true CN113064964A (zh) 2021-07-02

Family

ID=76562739

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110301953.1A Pending CN113064964A (zh) 2021-03-22 2021-03-22 文本分类方法、模型训练方法、装置、设备以及存储介质

Country Status (1)

Country Link
CN (1) CN113064964A (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113486178A (zh) * 2021-07-12 2021-10-08 恒安嘉新（北京）科技股份公司 文本识别模型训练方法、文本识别方法、装置以及介质
CN113553401A (zh) * 2021-07-28 2021-10-26 网易传媒科技（北京）有限公司 一种文本处理方法、装置、介质和电子设备
CN113806538A (zh) * 2021-09-17 2021-12-17 平安银行股份有限公司 标签提取模型训练方法、装置、设备与存储介质
CN113806536A (zh) * 2021-09-14 2021-12-17 广州华多网络科技有限公司 文本分类方法及其装置、设备、介质、产品
CN114818891A (zh) * 2022-04-14 2022-07-29 人民网股份有限公司 小样本多标签文本分类模型训练方法及文本分类方法
CN115687625A (zh) * 2022-11-14 2023-02-03 五邑大学 文本分类方法、装置、设备及介质
CN116226382A (zh) * 2023-02-28 2023-06-06 北京数美时代科技有限公司 一种给定关键词的文本分类方法、装置、电子设备及介质
CN116450813A (zh) * 2023-06-19 2023-07-18 深圳得理科技有限公司 文本关键信息提取方法、装置、设备以及计算机存储介质
WO2023142809A1 (zh) * 2022-01-27 2023-08-03 北京字节跳动网络技术有限公司 文本分类、文本处理方法、装置、计算机设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012134180A2 (ko) * 2011-03-28 2012-10-04 가톨릭대학교 산학협력단 문장에 내재한 감정 분석을 위한 감정 분류 방법 및 컨텍스트 정보를 이용한 다중 문장으로부터의 감정 분류 방법
CN108549636A (zh) * 2018-04-09 2018-09-18 北京信息科技大学 一种赛事文字直播关键句抽取方法
CN108932229A (zh) * 2018-06-13 2018-12-04 北京信息科技大学 一种金融新闻倾向性分析方法
CN109614490A (zh) * 2018-12-21 2019-04-12 北京信息科技大学 基于lstm的金融新闻倾向性分析方法
CN110209806A (zh) * 2018-06-05 2019-09-06 腾讯科技（深圳）有限公司 文本分类方法、文本分类装置及计算机可读存储介质
CN111046171A (zh) * 2019-08-29 2020-04-21 成都信息工程大学 一种基于细粒度标注数据的情感判别方法
CN112329836A (zh) * 2020-11-02 2021-02-05 成都网安科技发展有限公司 基于深度学习的文本分类方法、装置、服务器及存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012134180A2 (ko) * 2011-03-28 2012-10-04 가톨릭대학교 산학협력단 문장에 내재한 감정 분석을 위한 감정 분류 방법 및 컨텍스트 정보를 이용한 다중 문장으로부터의 감정 분류 방법
CN108549636A (zh) * 2018-04-09 2018-09-18 北京信息科技大学 一种赛事文字直播关键句抽取方法
CN110209806A (zh) * 2018-06-05 2019-09-06 腾讯科技（深圳）有限公司 文本分类方法、文本分类装置及计算机可读存储介质
CN108932229A (zh) * 2018-06-13 2018-12-04 北京信息科技大学 一种金融新闻倾向性分析方法
CN109614490A (zh) * 2018-12-21 2019-04-12 北京信息科技大学 基于lstm的金融新闻倾向性分析方法
CN111046171A (zh) * 2019-08-29 2020-04-21 成都信息工程大学 一种基于细粒度标注数据的情感判别方法
CN112329836A (zh) * 2020-11-02 2021-02-05 成都网安科技发展有限公司 基于深度学习的文本分类方法、装置、服务器及存储介质

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113486178B (zh) * 2021-07-12 2023-12-01 恒安嘉新（北京）科技股份公司 文本识别模型训练方法、文本识别方法、装置以及介质
CN113486178A (zh) * 2021-07-12 2021-10-08 恒安嘉新（北京）科技股份公司 文本识别模型训练方法、文本识别方法、装置以及介质
CN113553401A (zh) * 2021-07-28 2021-10-26 网易传媒科技（北京）有限公司 一种文本处理方法、装置、介质和电子设备
CN113806536A (zh) * 2021-09-14 2021-12-17 广州华多网络科技有限公司 文本分类方法及其装置、设备、介质、产品
CN113806536B (zh) * 2021-09-14 2024-04-16 广州华多网络科技有限公司 文本分类方法及其装置、设备、介质、产品
CN113806538A (zh) * 2021-09-17 2021-12-17 平安银行股份有限公司 标签提取模型训练方法、装置、设备与存储介质
CN113806538B (zh) * 2021-09-17 2023-08-22 平安银行股份有限公司 标签提取模型训练方法、装置、设备与存储介质
WO2023142809A1 (zh) * 2022-01-27 2023-08-03 北京字节跳动网络技术有限公司 文本分类、文本处理方法、装置、计算机设备及存储介质
CN114818891A (zh) * 2022-04-14 2022-07-29 人民网股份有限公司 小样本多标签文本分类模型训练方法及文本分类方法
CN114818891B (zh) * 2022-04-14 2022-11-18 人民网股份有限公司 小样本多标签文本分类模型训练方法及文本分类方法
CN115687625A (zh) * 2022-11-14 2023-02-03 五邑大学 文本分类方法、装置、设备及介质
CN115687625B (zh) * 2022-11-14 2024-01-09 五邑大学 文本分类方法、装置、设备及介质
CN116226382B (zh) * 2023-02-28 2023-08-01 北京数美时代科技有限公司 一种给定关键词的文本分类方法、装置、电子设备及介质
CN116226382A (zh) * 2023-02-28 2023-06-06 北京数美时代科技有限公司 一种给定关键词的文本分类方法、装置、电子设备及介质
CN116450813A (zh) * 2023-06-19 2023-07-18 深圳得理科技有限公司 文本关键信息提取方法、装置、设备以及计算机存储介质
CN116450813B (zh) * 2023-06-19 2023-09-19 深圳得理科技有限公司 文本关键信息提取方法、装置、设备以及计算机存储介质

Similar Documents

Publication Publication Date Title
CN113064964A (zh) 文本分类方法、模型训练方法、装置、设备以及存储介质
CN109657054B (zh) 摘要生成方法、装置、服务器及存储介质
CN110580308B (zh) 信息审核方法及装置、电子设备、存储介质
CN111177319B (zh) 风险事件的确定方法、装置、电子设备和存储介质
CN110245348A (zh) 一种意图识别方法及系统
CN110941951B (zh) 文本相似度计算方法、装置、介质及电子设备
CN111858843B (zh) 一种文本分类方法及装置
CN113159010A (zh) 视频分类方法、装置、设备和存储介质
US20230206670A1 (en) Semantic representation of text in document
CN113158656B (zh) 讽刺内容识别方法、装置、电子设备以及存储介质
CN113220999B (zh) 用户特征的生成方法、装置、电子设备和存储介质
CN115982376A (zh) 基于文本、多模数据和知识训练模型的方法和装置
CN111738791B (zh) 一种文本处理方法、装置、设备和存储介质
CN112070093A (zh) 生成图像分类模型的方法、图像分类方法、装置和设备
CN114861758A (zh) 多模态数据处理方法、装置、电子设备及可读存储介质
CN110929499B (zh) 文本相似度获取方法、装置、介质及电子设备
CN111460224B (zh) 评论数据的质量标注方法、装置、设备及存储介质
CN112711943A (zh) 一种维吾尔文语种识别方法、装置及存储介质
CN114036921A (zh) 一种政策信息匹配方法和装置
CN114880520B (zh) 视频标题生成方法、装置、电子设备和介质
CN114743012B (zh) 一种文本识别方法及装置
CN115730591A (zh) 基于知识图谱的用户服务方法、装置、设备和存储介质
CN115017385A (zh) 一种物品搜索方法、装置、设备和存储介质
CN112528674B (zh) 文本处理方法、模型的训练方法、装置、设备及存储介质
CN113434695A (zh) 金融事件抽取方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20230323

Address after: 528311 no.l203 Country Garden International Club, Beijiao Town, Shunde District, Foshan City, Guangdong Province

Applicant after: Zero Hole Technology Co.,Ltd.

Address before: 528000 a2-05, 2nd floor, building A1, 1 Panpu Road, Biguiyuan community, Beijiao Town, Shunde District, Foshan City, Guangdong Province

Applicant before: GUANGDONG BOZHILIN ROBOT Co.,Ltd.

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20231226

Address after: Room 01, Floor 9, Xinlihua Center Building, 151 Mount Taishan Road, Jianye District, Nanjing, Jiangsu 210004

Applicant after: Nanjing Lingdong Shuzhi Technology Co.,Ltd.

Address before: 528311 no.l203 Country Garden International Club, Beijiao Town, Shunde District, Foshan City, Guangdong Province

Applicant before: Zero Hole Technology Co.,Ltd.

TA01 Transfer of patent application right
RJ01 Rejection of invention patent application after publication

Application publication date: 20210702