CN115587185B - 文本分类方法、装置、电子设备及存储介质 - Google Patents

文本分类方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN115587185B
CN115587185B CN202211488075.XA CN202211488075A CN115587185B CN 115587185 B CN115587185 B CN 115587185B CN 202211488075 A CN202211488075 A CN 202211488075A CN 115587185 B CN115587185 B CN 115587185B
Authority
CN
China
Prior art keywords
text
frequency
reverse file
category
word frequency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211488075.XA
Other languages
English (en)
Other versions
CN115587185A (zh
Inventor
王磊
赵盟盟
吴文哲
谭韬
肖京
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN202211488075.XA priority Critical patent/CN115587185B/zh
Publication of CN115587185A publication Critical patent/CN115587185A/zh
Application granted granted Critical
Publication of CN115587185B publication Critical patent/CN115587185B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/216—Parsing using statistical methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Probability & Statistics with Applications (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请提供了一种文本分类方法、装置、电子设备及存储介质。文本分类方法包括：获取待分类文本，通过预设带转换器的双向编码器表征模型对所述待分类文本的类别进行预测，得到所述待分类文本的参考类别；获取词频逆向文件频率的预设映射函数，通过所述词频逆向文件频率的预设映射函数，对所述待分类文本在所述参考类别下的属性进行映射，得到参考词频逆向文件频率；获取满足召回率要求和准确率要求的词频逆向文件频率阈值，若所述参考词频逆向文件频率大于或者等于所述词频逆向文件频率阈值，则将所述参考类别识别为所述待分类文本的目标类别。本申请能够在使得文本分类的准确率较高的基础上，还避免文本分类的召回率过低。

Description

文本分类方法、装置、电子设备及存储介质
技术领域
本申请涉及文本分类技术领域，具体涉及一种文本分类方法、装置、电子设备及存储介质。
背景技术
文本分类技术应用于多种场景下，用于分析各种问题，比如通过各文本分类，对金融领域中的经济问题、政策调控问题进行分析，提高问题的处理效率。相较于人工分类，采用机器学习中的分类模型可以提高对各种文本的类别识别的速度。目前已存在许多进行文本分类的方式，这些文本分类方式在实际进行文本分类时，仅注重获得最高的准确率的分类结果。但是，在实际应用中，仅考虑分类结果的准确率最高，会导致召回率偏低，召回率低的情况下，文本分类的查全效果较差。目前的文本分类方式无法在保持准确率较高的基础上，同时避免文本分类的召回率过低。
发明内容
本申请的一个目的在于提出一种文本分类方法、装置、电子设备及存储介质，用以在使得文本分类的准确率较高的基础上，避免文本分类的召回率过低。
根据本申请实施例的一方面，提供了一种文本分类方法，该方法包括：
获取待分类文本，通过预设带转换器的双向编码器表征模型对所述待分类文本的类别进行预测，得到所述待分类文本的参考类别；
获取词频逆向文件频率的预设映射函数，通过所述词频逆向文件频率的预设映射函数，对所述待分类文本在所述参考类别下的属性进行映射，得到参考词频逆向文件频率；
获取满足召回率要求和准确率要求的词频逆向文件频率阈值，若所述参考词频逆向文件频率大于或者等于所述词频逆向文件频率阈值，则将所述参考类别识别为所述待分类文本的目标类别。
根据本申请实施例的一个方面，提供了一种文本分类装置，该装置包括：
预测模块，用于获取待分类文本，通过预设带转换器的双向编码器表征模型对所述待分类文本的类别进行预测，得到所述待分类文本的参考类别；
映射模块，用于获取词频逆向文件频率的预设映射函数，通过所述词频逆向文件频率的预设映射函数，对所述待分类文本在所述参考类别下的属性进行映射，得到参考词频逆向文件频率；
识别模块，用于获取满足召回率要求和准确率要求的词频逆向文件频率阈值，若所述参考词频逆向文件频率大于或者等于所述词频逆向文件频率阈值，则将所述参考类别识别为所述待分类文本的目标类别。
在本申请的一些实施例中，基于以上技术方案，该装置被配置为：
获取语料库中每条预设文本对应的实际类别和每条所述预设文本对应的非实际类别；
获取每条所述预设文本在对应的所述实际类别下的第一词频逆向文件频率，以及每条所述预设文本在对应的所述非实际类别下的第二词频逆向文件频率；
获取所述第一词频逆向文件频率对应的第一文本数量，以及所述第二词频逆向文件频率对应的第二文本数量；
根据所述第一文本数量以及所述第二文本数量，对所述第一词频逆向文件频率进行筛选，得到目标词频逆向文件频率；
根据所述目标词频逆向文件频率中的最小值，确定所述词频逆向文件频率阈值。
在本申请的一些实施例中，基于以上技术方案，该装置被配置为：
获取所述语料库中的总文本数量；
对所述第一文本数量与所述总文本数量求比值，得到第一比值；
对所述第二文本数量与所述总文本数量求比值，得到第二比值；
对所述第一比值和所述第二比值进行比较，得到大于所述第二比值的第一比值，将大于所述第二比值的第一比值作为目标比值；
根据所述目标比值对应的第一词频逆向文件频率，确定所述目标词频逆向文件频率。
在本申请的一些实施例中，基于以上技术方案，该装置被配置为：
以所述第一词频逆向文件频率的值作为横轴的坐标值，以所述第一文本数量作为纵轴的坐标值，构建所述实际类别对应的实际二维统计图；
以所述第二词频逆向文件频率的值作为横轴的坐标值，以所述第二文本数量作为纵轴的坐标值，构建所述非实际类别对应的非实际二维统计图；
若所述实际二维统计图呈现先上升后下降的统计趋势，且所述非实际二维统计图呈现下降的统计趋势，则将所述实际二维统计图中呈现下降趋势的横轴坐标值作为目标词频逆向文件频率。
在本申请的一些实施例中，基于以上技术方案，该装置被配置为：
若所述参考词频逆向文件频率均小于所述词频逆向文件频率阈值，则获取所述待分类文本在非参考类别下的其它词频逆向文件频率；
若所述参考词频逆向文件频率大于各所述其它词频逆向文件频率，则将所述参考类别识别为所述待分类文本的目标类别。
在本申请的一些实施例中，基于以上技术方案，该装置被配置为：
获取与所述待分类文本对应的多个目标词语；
针对每个所述目标词语，基于所述预设映射函数，对所述目标词语的属性进行映射处理，得到所述目标词语的词频逆向文件频率；
对所述待分类文本下所有目标词语的词频逆向文件频率求和，得到所述待分类文本在所述参考类别下的词频逆向文件频率。
在本申请的一些实施例中，基于以上技术方案，该装置被配置为：
针对每个所述目标词语，获取所述目标词语在对应所述参考类别的文本中出现的次数；
获取语料库中所有类别的文本包括所述目标词语的类别数；
获取所述语料库中所有类别的总数量；
基于所述预设映射函数，对所述次数、所述类别数和所述总数量进行映射处理，得到所述目标词语的词频逆向文件频率。
根据本申请实施例的一方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述电子设备实现上述各种可选实现方式中提供的方法。
根据本申请实施例的一方面，提供了一种计算机程序介质，其上存储有计算机可读指令，当所述计算机可读指令被计算机的处理器执行时，使计算机执行上述各种可选实现方式中提供的方法。
根据本申请实施例的一个方面，提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述各种可选实现方式中提供的方法。
在本申请实施例提供的技术方案中，通过带转换器的双向编码器表征模型和词频逆文件频率结合，得到待分类文本在通过带转换器的双向编码器表征模型分类所得类别下的词频逆向文件频率，并且结合满足准确率和召回率要求的词频逆向文件频率阈值在所得类别下的词频逆向文件频率大于该词频逆向文件频率阈值时，将该参考类别识别为目标类别。一方面结合了带转换器的双向编码器表征模型泛化能力强的优点和词频逆向文件频率的可解释性强的优点，从而大幅提高了文本分类的准确度。另一方面，通过词频逆向文件频率阈值对参考类别的逆向文件频率进一步检验，从而还保证了文本分类的召回率处于较高的范围。
附图说明
通过参考附图详细描述其示例实施例，本申请的上述和其它目标、特征及优点将变得更加显而易见。
图1示出了根据本申请实施例一的文本分类方法的流程示意图。
图2示出了根据本申请实施例一涉及的BERT模型的分类原理示意图。
图3示出了根据本申请实施例一涉及的对BERT的分类进行处理的流程示意图。
图4示出了根据本申请实施例一涉及的一具体实现中对TFIDF进行横向比较的流程示意图。
图5示出了根据本申请实施例二的文本分类方法的流程示意图。
图6示出了根据本申请实施例二的实际类别的TFIDF值和非实际类别的TFIDF值的统计图。
图7示出了根据本申请实施例三的文本分类方法的流程示意图。
图8示出了根据本申请实施例四的文本分类装置的结构示意图。
图9示出了根据本申请实施例五的电子设备的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些示例实施方式使得本申请的描述将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。附图仅为本申请的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。
此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多示例实施方式中。在下面的描述中，提供许多具体细节从而给出对本申请的示例实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本申请的技术方案而省略特定细节中的一个或更多，或者可以采用其它的方法、组元、步骤等。在其它情况下，不详细示出或描述公知结构、方法、实现或者操作以避免喧宾夺主而使得本申请的各方面变得模糊。
附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
图1示出了根据本申请实施例一的文本分类方法的流程示意图。文本分类方法包括：
步骤S101：获取待分类文本，通过预设带转换器的双向编码器表征模型对待分类文本的类别进行预测，得到待分类文本的参考类别。
待分类文本是需要识别类别的文本。参考类别是预设带转换器的双向编码器表征模型预测得到的文本类别。通过预设带转换器的双向编码器表征模型预先通过语料库作为训练集，对带转换器的双向编码器表征训练模型训练得到的，用于对文本进行分类的模型。带转换器的双向编码器表征模型（BidirectionalEncoder Representations fromTransformers，BERT）具有泛化能力强的优点，能够提高对文本进行分类的准确性。
作为一种可选的实施方式，待分类文本为金融领域的经济政策文本。上述文本分类过程应用于金融领域，以对经济政策文本的标签进行快速分类打标，提高金融领域文本分类的准确性和召回率。
参照图2所示，图2示出了BERT模型的分类原理示意图。在该BERT模型中，[CLS]放在第一个句子的首位，经过BERT模型得到的表征向量C可以用于后续的分类任务。[SEP]用于分开两个输入句子，例如输入句子A和B，要在句子A、B后面增加[SEP]标志。Softmax层用于判断分类结果。w1、w2、w3为文本中的字符。
步骤S102：获取词频逆向文件频率的预设映射函数，通过词频逆向文件频率的预设映射函数，对待分类文本在参考类别下的属性进行映射，得到参考词频逆向文件频率。
预设映射函数是文本属性与词频逆向文件频率之间的映射函数，参考词频逆向文件频率是参考类别对应的词频逆向文件频率。
作为一种可选的实施方式，文本属性包括词语在对应类别的文本中出现的次数、文本包括的词语的类别数以及类别总数。
步骤S103：获取满足召回率要求和准确率要求的词频逆向文件频率阈值，若参考词频逆向文件频率大于或者等于词频逆向文件频率阈值，则将参考类别识别为待分类文本的目标类别。
目标类别是待分类文本所对应的类别。
作为一种可选的实施方式，词频逆向文件频率阈值是预先对语料库中文本类别的词频逆向文件频率进行筛选和比较，得到的满足准确率要求的词频逆向文件频率中的最小值。通过将该最小值作为词频逆向文件频率阈值，能够在满足准确率要求的基础上，使得文本分类结果具有最高的召回率。
作为一种可选的实施方式，词频逆向文件频率阈值是预先对语料库中文本类别的词频逆向文件频率进行筛选和比较，得到的满足准确率要求的词频逆向文件频率中符合召回率标准的一个值，比如，可以选取相对于最小值较大的一个词频逆向文件频率作为该阈值，也能够在一定程度上提高文本分类结果的召回率，同时能够使得准确率更高。
作为一种可选的实施方式，词频逆向文件频率阈值是预先测定并保存的。获取该词频逆向文件频率阈值时直接从存储器获取即可。
对于某条文本在多个类别对应的多个词频逆向文件频率（term frequency–inverse document frequency，TFIDF）中，词频逆向文件频率越大则准确率越高，但是召回率越低。为了避免所得类别的准确率或者召回率过低，本实施例在满足准确率要求的词频逆向文件频率中获取最小值，以避免召回率过低。同时，也避免准确率过低。在提高文本分类准确率的基础上，提高文本分类的召回率。
作为一种可选的实施方式，语料库中包括经济政策文本。金融领域中，经济调控场景中出台调控政策，可以通过模型自动化为政策文本打标分类，提高政策标签化效率和政策整理速度。相较于采用准确率或者F1值评估文本分类效果的方式，本实施例通过结合深度学习和TFIDF的方式，并采用词频逆文件频率阈值对分类结果进行进一步比较，得到最终分类结果。能够以大幅度的提升经济政策文本分类的精准度，同时一定程度上保证较高的召回率。可有效提升经济政策标签化效率和准确度，并保证召回率，为经济调控场景中的工作降本增效。
在一实施例中，对待分类文本在参考类别下的属性进行映射之后，还包括：若参考词频逆向文件频率均小于词频逆向文件频率阈值，则获取待分类文本在非参考类别下的其它词频逆向文件频率。非参考类别是语料库中除参考类别的各文本对应类别，其它词频逆向文件频率是待分类文本在非参考类别下的词频逆向文件频率；若参考词频逆向文件频率大于各其它词频逆向文件频率，则将参考类别识别为待分类文本的目标类别。采用上述方式，通过横向对比的方式，一定程度上保证了文本分类的准确率。
参照图3所示，在采用上述方式结合BERT以及TFIDF进行分类的过程中，首先使用BERT对文本进行分类得到类别，计算该类别下的TFIDF值，然后判断BERT得出类别的TFIDF值是否大于此前选择的阈值，如果大于则保留BERT的分类结果，否则进一步判断该类别的TFIDF值是否大于其它类别的TFIDF值，是则保留BERT的分类结果，否则丢弃该条分类结果。
请参照图4所示，在一具体实现中，采用BERT模型对文本进行分类，得到类别A。并计算所有类别A、B、C下TFIDF值。计算得到的TFIDF值分别为A：1，B：0.9，C：0.8。词频逆文件频率阈值为1.5。由于1小于1.5，此时对A、B和C之间的大小进行比较，通过比较得到1大于0.9，且1大于0.8，从而将A类别识别为该文本最终的类别。这种方式为横向比较。
另外，若参考词频逆向文件频率小于词频逆向文件频率阈值，且小于其它词频逆向文件频率，则丢弃该条分类结果。
在本实施例中，通过带转换器的双向编码器表征模型和词频逆文件频率结合，得到待分类文本在通过带转换器的双向编码器表征模型分类所得类别下的词频逆向文件频率，并且结合满足准确率和召回率要求的词频逆向文件频率阈值在所得类别下的词频逆向文件频率大于该词频逆向文件频率阈值时，将该参考类别识别为目标类别。一方面结合了带转换器的双向编码器表征模型泛化能力强的优点和词频逆向文件频率的可解释性强的优点，从而大幅提高了文本分类的准确度，另一方面通过词频逆向文件频率阈值对参考类别的逆向文件频率进一步检验，从而还保证了文本分类的召回率处于较高的范围。
图5示出了根据本申请实施例二的文本分类方法的流程示意图。文本分类方法包括：
步骤S201：获取待分类文本，通过预设带转换器的双向编码器表征模型对待分类文本的类别进行预测，得到待分类文本的参考类别。
步骤S202：获取词频逆向文件频率的预设映射函数，通过词频逆向文件频率的预设映射函数，对待分类文本在参考类别下的属性进行映射，得到参考词频逆向文件频率。
步骤S203：获取语料库中每条预设文本对应的实际类别和每条预设文本对应的非实际类别。
预设文本是预先设置在语料库中的文本，实际类别是预设文本被标注的类别，非实际类别是预设文本未被标注的类别。实际类别也可以视作正确类别，非实际类别可以视作错误类别。
步骤S204：获取每条预设文本在对应的实际类别下的第一词频逆向文件频率，以及每条预设文本在对应的非实际类别下的第二词频逆向文件频率。
第一词频逆向文件频率是实际类别下预设文本的词频逆向文件频率，第二词频逆向文件频率是非实际类别下预设文本的词频逆向文件频率。
此外，可以采用如下方式，计算每个类别下每个词对应的TFIDF值：将包括训练文本数据的训练集作为TFIDF方法的语料库，文本标记的每个类别代表语料的不同主题。对语料进行分词去除从而构建词库，并计算每个类别下每个词对应的TFIDF值。
步骤S205：获取第一词频逆向文件频率对应的第一文本数量，以及第二词频逆向文件频率对应的第二文本数量。
第一文本数量是第一词频逆向文件频率所对应文本的数量，第二文本数量是第二词频逆向文件频率所对应文本的数量。
步骤S206：根据第一文本数量以及第二文本数量，对第一词频逆向文件频率进行筛选，得到目标词频逆向文件频率。
目标词频逆向文件频率是满足准确性要求的第一词频逆向文件频率。
在一实施例中，根据第一文本数量以及第二文本数量，对第一词频逆向文件频率进行筛选，得到满足准确率要求的目标词频逆向文件频率，包括：获取语料库中的总文本数量；对第一文本数量与总文本数量求比值，得到第一比值；对第二文本数量与总文本数量求比值，得到第二比值；对第一比值和第二比值进行比较，得到大于第二比值的第一比值，将大于第二比值的第一比值作为目标比值；目标比值是满足准确性要求的第一比值；根据目标比值对应的第一词频逆向文件频率，确定目标词频逆向文件频率。
第一比值是第一文本数量比总文本数量的比值，第二比值是第二文本数量比总文本数量的比值。
采用上述方式，去掉大量大概率判断错误的情况并保留一定的大概率判断为正确的情况，从而得到满足准确性要求的词频逆向文件频率作为目标词频逆向文件频率。
在一实施例中，根据第一文本数量以及第二文本数量，对第一词频逆向文件频率进行筛选，得到满足准确率要求的目标词频逆向文件频率，包括：以第一词频逆向文件频率的值作为横轴的坐标值，以第一文本数量作为纵轴的坐标值，构建实际类别对应的实际二维统计图；以第二词频逆向文件频率的值作为横轴的坐标值，以第二文本数量作为纵轴的坐标值，构建非实际类别对应的非实际二维统计图；若实际二维统计图呈现先上升后下降的统计趋势，且非实际二维统计图呈现下降的统计趋势，则将实际二维统计图中呈现下降趋势的横轴坐标值作为目标词频逆向文件频率。
在一具体实现中，将语料库构成的训练集作为输入，采用BERT模型进行分类，并计算每条文本在每个类别下的TFIDF值。分别记录实际类别的TFIDF值以及其它（错误）类别的TFIDF值。分别对收集的数值绘制频率直方图，并计算每个TFIDF值所占总数的比例，去掉大量大概率判断错误的情况仍保留一定的量大概率判断正确的情况。
参照图6所示，图6中左侧为实际类别TFIDF值的统计，右侧为其它类别TFIDF值的统计。图6左侧和右侧均有20个TFIDF值。
其中，对应正确的比例依次为：0.029、0.034、0.051、0.088、0.12、0.095、0.068、0.098、0.081、0.064、0.066、0.054、0.044、0.037、0.022、0.02、0.01、0.005、0.002、0.0012。对应错误的比例依次为：0.244、0.224、0.178、0.118、0.078、0.053、0.033、0.023、0.015、0.011、0.007、0.004、0.003、0.003、0.002、0、0、0、0、0。
从上述数据可以看出，从第5个TFIDF对应的比例开始，正确的比例开始大于错误的比例（可以理解为概率），于是可以选择第5个TFIDF值作为判断的阈值。该阈值选的越大，准确率会越高，召回率会越低，为避免召回率过低，同时保证准确率，选择正确的比例开始大于错误的比例对应的TFIDF值作为阈值。
步骤S207：根据目标词频逆向文件频率中的最小值，确定词频逆向文件频率阈值。
步骤S208：若参考词频逆向文件频率大于或者等于词频逆向文件频率阈值，则将参考类别识别为待分类文本的目标类别。
在本实施例中，通过获取每条预设文本对应的实际类别和每条预设文本对应的非实际类别，获取每条预设文本在对应的实际类别下的第一词频逆向文件频率，以及每条预设文本在对应的非实际类别下的第二词频逆向文件频率，获取第一词频逆向文件频率对应的第一文本数量，以及第二词频逆向文件频率对应的第二文本数量，根据第一文本数量和第二文本数量，对第一词频逆向文件频率进行筛选，得到目标词频逆向文件频率，根据目标词频逆向文件频率的最小值，确定词频逆向文件频率阈值，从而根据该阈值筛选出满足准确率和召回率要求的文本分类结果。
图7示出了根据本申请实施例三的文本分类方法的流程示意图。文本分类方法包括：
步骤S301：获取待分类文本，通过预设带转换器的双向编码器表征模型对待分类文本的类别进行预测，得到待分类文本的参考类别。
步骤S302：获取与待分类文本对应的多个目标词语。
目标词语是待分类文本所包括的词语。可以通过对待分类文本进行分词处理，得到多个目标词语。
步骤S303：获取词频逆向文件频率的预设映射函数，针对每个目标词语，基于预设映射函数，对目标词语的属性进行映射处理，得到目标词语的词频逆向文件频率。
在一实施例中，针对每个目标词语，基于预设映射函数，对目标词语的属性进行映射处理，得到目标词语的词频逆向文件频率，包括：针对每个目标词语，获取目标词语在对应参考类别的文本中出现的次数；获取语料库中所有类别的文本包括目标词语的类别数；获取语料库中所有类别的总数量；基于预设映射函数，对次数、类别数和总数量进行映射处理，得到目标词语的词频逆向文件频率。
可以采用如下映射函数映射得到目标词语对应的词频逆向文件频率：
Figure 394249DEST_PATH_IMAGE001
其中，wij表示第j个词在第i个类别的分值，即TFIDF值。tfij代表表示第j个词在第i个类别（语料）中出现的次数。dfj表示所有类别（语料）中包含第j个词的类别数，N为类别的数量。
步骤S304：对待分类文本下所有目标词语的词频逆向文件频率求和，得到待分类文本在参考类别下的词频逆向文件频率。
预设映射函数是文本属性与词频逆向文件频率之间的映射函数，参考词频逆向文件频率是参考类别对应的词频逆向文件频率。
采用如下方式得到待分类文本在参考类别下的词频逆向文件频率：
Figure 908407DEST_PATH_IMAGE002
Si为该待分类文本的词频逆向文件频率。计算一条文本在i个类别中的得分Si只需在文本分词去重后，计算每个词的wij（未在词库中出现的词记作0分）后进行累加，从而得到该文本在第i类别的得分。
步骤S305：获取满足召回率要求和准确率要求的词频逆向文件频率阈值，若参考词频逆向文件频率大于或者等于词频逆向文件频率阈值，则将参考类别识别为待分类文本的目标类别。
在本实施例中，通过获取与待分类文本对应的多个目标词语，针对每个目标词语，基于预设映射函数，对目标词语的属性进行映射处理，得到目标词语的词频逆向文件频率，对待分类文本下所有目标词语的词频逆向文件频率求和，得到待分类文本在参考类别下的词频逆向文件频率，若参考词频逆向文件频率大于或者等于词频逆向文件频率阈值，则将参考类别识别为目标类别，利用了词频逆向文件频率解释性强的特点，能够很好地辅助进行文本分类结果的比较，得到满足准确率和召回率的文本分类结果。
图8示出了根据本申请实施例四的文本分类装置的结构示意图。文本分类装置包括：
预测模块401，用于获取待分类文本，通过预设带转换器的双向编码器表征模型对待分类文本的类别进行预测，得到待分类文本的参考类别；
映射模块402，用于获取词频逆向文件频率的预设映射函数，通过词频逆向文件频率的预设映射函数，对待分类文本在参考类别下的属性进行映射，得到参考词频逆向文件频率；
识别模块403，用于获取满足召回率要求和准确率要求的词频逆向文件频率阈值，若参考词频逆向文件频率大于或者等于词频逆向文件频率阈值，则将参考类别识别为待分类文本的目标类别。
在本申请的一示例性实施例中，文本分类装置配置为：
获取语料库中每条预设文本对应的实际类别和每条预设文本对应的非实际类别；
获取每条预设文本在对应的实际类别下的第一词频逆向文件频率，以及每条预设文本在对应的非实际类别下的第二词频逆向文件频率；
获取第一词频逆向文件频率对应的第一文本数量，以及第二词频逆向文件频率对应的第二文本数量；
根据第一文本数量以及第二文本数量，对第一词频逆向文件频率进行筛选，得到目标词频逆向文件频率；
根据目标词频逆向文件频率中的最小值，确定词频逆向文件频率阈值。
在本申请的一示例性实施例中，文本分类装置配置为：
获取语料库中的总文本数量；
对第一文本数量与总文本数量求比值，得到第一比值；
对第二文本数量与总文本数量求比值，得到第二比值；
对第一比值和第二比值进行比较，得到大于第二比值的第一比值，将大于第二比值的第一比值作为目标比值；目标比值是满足准确性要求的第一比值；
根据目标比值对应的第一词频逆向文件频率，确定目标词频逆向文件频率。
在本申请的一示例性实施例中，文本分类装置配置为：
以第一词频逆向文件频率的值作为横轴的坐标值，以第一文本数量作为纵轴的坐标值，构建实际类别对应的实际二维统计图；
以第二词频逆向文件频率的值作为横轴的坐标值，以第二文本数量作为纵轴的坐标值，构建非实际类别对应的非实际二维统计图；
若实际二维统计图呈现先上升后下降的统计趋势，且非实际二维统计图呈现下降的统计趋势，则将实际二维统计图中呈现下降趋势的横轴坐标值作为目标词频逆向文件频率。
在本申请的一示例性实施例中，文本分类装置配置为：
若参考词频逆向文件频率均小于词频逆向文件频率阈值，则获取待分类文本在非参考类别下的其它词频逆向文件频率；
若参考词频逆向文件频率大于各其它词频逆向文件频率，则将参考类别识别为待分类文本的目标类别。
在本申请的一示例性实施例中，文本分类装置配置为：
获取与待分类文本对应的多个目标词语；
针对每个目标词语，基于预设映射函数，对目标词语的属性进行映射处理，得到目标词语的词频逆向文件频率；
对待分类文本下所有目标词语的词频逆向文件频率求和，得到待分类文本在参考类别下的词频逆向文件频率。
在本申请的一示例性实施例中，文本分类装置配置为：
针对每个目标词语，获取目标词语在对应参考类别的文本中出现的次数；
获取语料库中所有类别的文本包括目标词语的类别数；
获取语料库中所有类别的总数量；
基于预设映射函数，对次数、类别数和总数量进行映射处理，得到目标词语的词频逆向文件频率。
下面参考图9来描述根据本申请实施例五的电子设备50。图9显示的电子设备50仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图9所示，电子设备50以通用计算设备的形式表现。电子设备50的组件可以包括但不限于：上述至少一个处理单元510、上述至少一个存储单元520、连接不同系统组件（包括存储单元520和处理单元510）的总线530。
其中，存储单元存储有程序代码，程序代码可以被处理单元510执行，使得处理单元510执行本说明书上述示例性方法的描述部分中描述的根据本申请各种示例性实施方式的步骤。例如，处理单元510可以执行如图1中所示的各个步骤。
存储单元520可以包括易失性存储单元形式的可读介质，例如随机存取存储单元（RAM）5201和/或高速缓存存储单元5202，还可以进一步包括只读存储单元（ROM）5203。
存储单元520还可以包括具有一组（至少一个）程序模块5205的程序/实用工具5204，这样的程序模块5205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线530可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备50也可以与一个或多个外部设备600（例如键盘、指向设备、蓝牙设备等）通信，还可与一个或者多个使得用户能与该电子设备50交互的设备通信，和/或与使得该电子设备50能与一个或多个其它计算设备进行通信的任何设备（例如路由器、调制解调器等等）通信。这种通信可以通过输入/输出（I/O）接口550进行。输入/输出（I/O）接口550与显示单元540相连。并且，电子设备50还可以通过网络适配器560与一个或者多个网络（例如局域网（LAN），广域网（WAN）和/或公共网络，例如因特网）通信。如图所示，网络适配器560通过总线530与电子设备50的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备50使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质（可以是CD-ROM，U盘，移动硬盘等）中或网络上，包括若干指令以使得一台计算设备（可以是个人计算机、服务器、终端装置、或者网络设备等）执行根据本申请实施方式的方法。
在本申请的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有计算机可读指令，当计算机可读指令被计算机的处理器执行时，使计算机执行上述方法实施例部分描述的方法。
根据本申请的一个实施例，还提供了一种用于实现上述方法实施例中的方法的程序产品，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本申请的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本申请操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如JAVA、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网（LAN）或广域网（WAN），连接到用户计算设备，或者，可以连接到外部计算设备（例如利用因特网服务提供商来通过因特网连接）。
应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本申请的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外，尽管在附图中以特定顺序描述了本申请中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质（可以是CD-ROM，U盘，移动硬盘等）中或网络上，包括若干指令以使得一台计算设备（可以是个人计算机、服务器、移动终端、或者网络设备等）执行根据本申请实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本申请的真正范围和精神由所附的权利要求指出。

Claims (9)

1.一种文本分类方法，其特征在于，所述方法包括：
获取待分类文本，通过预设带转换器的双向编码器表征模型对所述待分类文本的类别进行预测，得到所述待分类文本的参考类别；
获取词频逆向文件频率的预设映射函数，通过所述词频逆向文件频率的预设映射函数，对所述待分类文本在所述参考类别下的属性进行映射，得到参考词频逆向文件频率；
获取语料库中每条预设文本对应的实际类别和每条所述预设文本对应的非实际类别；
获取每条所述预设文本在对应的所述实际类别下的第一词频逆向文件频率，以及每条所述预设文本在对应的所述非实际类别下的第二词频逆向文件频率；所述实际类别是所述预设文本被标注的类别，所述非实际类别是所述预设文本未被标注的类别；
获取所述第一词频逆向文件频率对应的第一文本数量，以及所述第二词频逆向文件频率对应的第二文本数量；
根据所述第一文本数量以及所述第二文本数量，对所述第一词频逆向文件频率进行筛选，得到满足准确率要求的目标词频逆向文件频率；
根据所述目标词频逆向文件频率中的最小值，确定所述词频逆向文件频率阈值；
若所述参考词频逆向文件频率大于或者等于所述词频逆向文件频率阈值，则将所述参考类别识别为所述待分类文本的目标类别。
2.根据权利要求1所述的方法，其特征在于，根据所述第一文本数量以及所述第二文本数量，对所述第一词频逆向文件频率进行筛选，得到满足准确率要求的目标词频逆向文件频率，包括：
获取所述语料库中的总文本数量；
对所述第一文本数量与所述总文本数量求比值，得到第一比值；
对所述第二文本数量与所述总文本数量求比值，得到第二比值；
对所述第一比值和所述第二比值进行比较，得到大于所述第二比值的第一比值，将大于所述第二比值的第一比值作为目标比值；
根据所述目标比值对应的第一词频逆向文件频率，确定所述目标词频逆向文件频率。
3.根据权利要求1所述的方法，其特征在于，根据所述第一文本数量以及所述第二文本数量，对所述第一词频逆向文件频率进行筛选，得到满足准确率要求的目标词频逆向文件频率，包括：
以所述第一词频逆向文件频率的值作为横轴的坐标值，以所述第一文本数量作为纵轴的坐标值，构建所述实际类别对应的实际二维统计图；
以所述第二词频逆向文件频率的值作为横轴的坐标值，以所述第二文本数量作为纵轴的坐标值，构建所述非实际类别对应的非实际二维统计图；
若所述实际二维统计图呈现先上升后下降的统计趋势，且所述非实际二维统计图呈现下降的统计趋势，则将所述实际二维统计图中呈现下降趋势的横轴坐标值作为所述目标词频逆向文件频率。
4.根据权利要求1所述的方法，其特征在于，对所述待分类文本在所述参考类别下的属性进行映射之后，所述方法还包括：
若所述参考词频逆向文件频率均小于所述词频逆向文件频率阈值，则获取所述待分类文本在非参考类别下的其它词频逆向文件频率；
若所述参考词频逆向文件频率大于各所述其它词频逆向文件频率，则将所述参考类别识别为所述待分类文本的目标类别。
5.根据权利要求1所述的方法，其特征在于，通过所述词频逆向文件频率的预设映射函数，对所述待分类文本在所述参考类别下的属性进行映射，得到参考词频逆向文件频率，包括：
获取与所述待分类文本对应的多个目标词语；
针对每个所述目标词语，基于所述预设映射函数，对所述目标词语的属性进行映射处理，得到所述目标词语的词频逆向文件频率；
对所述待分类文本下所有目标词语的词频逆向文件频率求和，得到所述待分类文本在所述参考类别下的词频逆向文件频率。
6.根据权利要求5所述的方法，其特征在于，针对每个所述目标词语，基于所述预设映射函数，对所述目标词语的属性进行映射处理，得到所述目标词语的词频逆向文件频率，包括：
针对每个所述目标词语，获取所述目标词语在对应所述参考类别的文本中出现的次数；
获取语料库中所有类别的文本包括所述目标词语的类别数；
获取所述语料库中所有类别的总数量；
基于所述预设映射函数，对所述次数、所述类别数和所述总数量进行映射处理，得到所述目标词语的词频逆向文件频率。
7.一种文本分类装置，其特征在于，所述装置包括：
预测模块，用于获取待分类文本，通过预设带转换器的双向编码器表征模型对所述待分类文本的类别进行预测，得到所述待分类文本的参考类别；
映射模块，用于获取词频逆向文件频率的预设映射函数，通过所述词频逆向文件频率的预设映射函数，对所述待分类文本在所述参考类别下的属性进行映射，得到参考词频逆向文件频率；
识别模块，用于获取语料库中每条预设文本对应的实际类别和每条所述预设文本对应的非实际类别；获取每条所述预设文本在对应的所述实际类别下的第一词频逆向文件频率，以及每条所述预设文本在对应的所述非实际类别下的第二词频逆向文件频率；所述实际类别是所述预设文本被标注的类别，所述非实际类别是所述预设文本未被标注的类别；获取所述第一词频逆向文件频率对应的第一文本数量，以及所述第二词频逆向文件频率对应的第二文本数量；根据所述第一文本数量以及所述第二文本数量，对所述第一词频逆向文件频率进行筛选，得到满足准确率要求的目标词频逆向文件频率；根据所述目标词频逆向文件频率中的最小值，确定所述词频逆向文件频率阈值，若所述参考词频逆向文件频率大于或者等于所述词频逆向文件频率阈值，则将所述参考类别识别为所述待分类文本的目标类别。
8.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述电子设备实现如权利要求1至6中任一项所述的方法。
9.一种计算机可读存储介质，其特征在于，其上存储有计算机可读指令，当所述计算机可读指令被计算机的处理器执行时，使计算机执行权利要求1至6中任一项所述的方法。
CN202211488075.XA 2022-11-25 2022-11-25 文本分类方法、装置、电子设备及存储介质 Active CN115587185B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211488075.XA CN115587185B (zh) 2022-11-25 2022-11-25 文本分类方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211488075.XA CN115587185B (zh) 2022-11-25 2022-11-25 文本分类方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN115587185A CN115587185A (zh) 2023-01-10
CN115587185B true CN115587185B (zh) 2023-03-14

Family

ID=84783333

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211488075.XA Active CN115587185B (zh) 2022-11-25 2022-11-25 文本分类方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN115587185B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113011533A (zh) * 2021-04-30 2021-06-22 平安科技（深圳）有限公司 文本分类方法、装置、计算机设备和存储介质
CN115309857A (zh) * 2022-05-16 2022-11-08 中国安全生产科学研究院 突发事件的智能分类及快速画像方法和应用

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105893444A (zh) * 2015-12-15 2016-08-24 乐视网信息技术（北京）股份有限公司 情感分类方法及装置
WO2020018812A1 (en) * 2018-07-18 2020-01-23 The Dun & Bradstreet Corporation Artificial intelligence engine for generating semantic directions for websites for automated entity targeting to mapped identities
CN112528022A (zh) * 2020-12-09 2021-03-19 广州摩翼信息科技有限公司 主题类别对应的特征词提取和文本主题类别识别方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113011533A (zh) * 2021-04-30 2021-06-22 平安科技（深圳）有限公司 文本分类方法、装置、计算机设备和存储介质
CN115309857A (zh) * 2022-05-16 2022-11-08 中国安全生产科学研究院 突发事件的智能分类及快速画像方法和应用

Also Published As

Publication number Publication date
CN115587185A (zh) 2023-01-10

Similar Documents

Publication Publication Date Title
US11238381B2 (en) Method and apparatus for talent-post matching and computer readable storage medium
US10777192B2 (en) Method and apparatus of recognizing field of semantic parsing information, device and readable medium
US10776578B2 (en) Method and apparatus for building synonymy discriminating model and method and apparatus for discriminating synonymous text
CN111460250B (zh) 用于画像的数据的清洗方法、装置、介质及电子设备
CN109857556B (zh) 内存回收方法及装置、存储介质和电子设备
CN109726661B (zh) 图像处理方法及装置、介质和计算设备
CN111177186B (zh) 基于问题检索的单句意图识别方法、装置和系统
CN113064964A (zh) 文本分类方法、模型训练方法、装置、设备以及存储介质
CN111368878B (zh) 一种基于ssd目标检测的优化方法、计算机设备和介质
CN112380981A (zh) 人脸关键点的检测方法、装置、存储介质及电子设备
CN107861948B (zh) 一种标签提取方法、装置、设备和介质
CN112445775B (zh) 一种光刻机的故障分析方法、装置、设备和存储介质
CN110457683A (zh) 模型优化方法、装置、计算机设备及存储介质
CN112906823A (zh) 目标对象识别模型训练方法、识别方法及识别装置
CN112182220A (zh) 基于深度学习的客服预警分析方法、系统、设备及介质
CN111179055B (zh) 授信额度调整方法、装置和电子设备
CN110806962A (zh) 日志级别的预测方法、设备及存储介质
CN112989050B (zh) 一种表格分类方法、装置、设备及存储介质
CN112818667B (zh) 地址纠正方法、系统、设备及存储介质
CN111460224B (zh) 评论数据的质量标注方法、装置、设备及存储介质
CN113936232A (zh) 一种碎屏识别方法、装置、设备和存储介质
CN113591998A (zh) 分类模型的训练和使用方法、装置、设备以及存储介质
CN115587185B (zh) 文本分类方法、装置、电子设备及存储介质
CN108920715B (zh) 客服的智能化辅助方法、装置、服务器和存储介质
CN110910905B (zh) 静音点检测方法及装置、存储介质、电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant