CN113064973A - 文本分类方法、装置、设备及存储介质 - Google Patents

文本分类方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN113064973A
CN113064973A CN202110389823.8A CN202110389823A CN113064973A CN 113064973 A CN113064973 A CN 113064973A CN 202110389823 A CN202110389823 A CN 202110389823A CN 113064973 A CN113064973 A CN 113064973A
Authority
CN
China
Prior art keywords
text
policy
target
sample
preset
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110389823.8A
Other languages
English (en)
Inventor
雷田子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An International Smart City Technology Co Ltd
Original Assignee
Ping An International Smart City Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An International Smart City Technology Co Ltd filed Critical Ping An International Smart City Technology Co Ltd
Priority to CN202110389823.8A priority Critical patent/CN113064973A/zh
Publication of CN113064973A publication Critical patent/CN113064973A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3344—Query execution using natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明涉及人工智能，提供一种文本分类方法、装置、设备及存储介质。该方法能够获取文本数据样本；从所述文本数据样本中筛选出已标注样本及未标注样本；训练所述已标注样本，得到初始模型；基于所述初始模型从所述未标注样本中筛选出目标样本；获取预设对象对所述目标样本的标注结果；根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型；获取政策文本，并切割所述政策文本，得到多个文本语句；将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别。本发明能够快速并准确地对政策文本进行分类。此外，本发明还涉及区块链技术，所述政策类别可存储于区块链中。

Description

文本分类方法、装置、设备及存储介质
技术领域
本发明涉及人工智能技术领域，尤其涉及一种文本分类方法、装置、设备及存储介质。
背景技术
为了提高政府工作人员在公共事务上的处理效率，通常需要对政策文本进行分类。然而，当前的文本分类方法存在特征维度高、缺乏上下文信息、语义相似较难区分等缺点，同时由于政策文本专业程度较高，对标注人员的专业素质具有极高的要求，造成无法快速并准确地对政策文本进行分类。
发明内容
鉴于以上内容，有必要提供一种文本分类方法、装置、设备及存储介质，能够快速并准确地对政策文本进行分类。
一方面，本发明提出一种文本分类方法，所述文本分类方法包括：
获取文本数据样本；
从所述文本数据样本中筛选出已标注样本及未标注样本；
训练所述已标注样本，得到初始模型；
基于所述初始模型从所述未标注样本中筛选出目标样本；
获取预设对象对所述目标样本的标注结果；
根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型；
获取政策文本，并切割所述政策文本，得到多个文本语句；
将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别。
根据本发明优选实施例，所述获取文本数据样本包括：
接收预设网站基于爬取请求生成的校验结果，并根据所述校验结果从所述预设网站爬取与预设标签匹配的信息作为所述文本数据样本；及/或
获取预设书籍，并利用光学字符识别算法从所述预设书籍中识别出与所述预设标签匹配的信息作为所述文本数据样本。
根据本发明优选实施例，所述基于所述初始模型从所述未标注样本中筛选出目标样本包括：
将所述未标注样本输入至所述初始模型中，得到预测结果，所述预测结果包括预测类别及所述预测类别对应的预测概率；
将所述预测概率为预设阈值的未标注样本确定为所述目标样本。
根据本发明优选实施例，所述获取预设对象对所述目标样本的标注结果包括：
获取所述预设对象的绑定终端作为对象终端；
将所述目标样本发送至所述对象终端，并获取所述对象终端基于所述目标样本生成的反馈包；
从所述反馈包中获取指示类别的信息作为所述标注结果。
根据本发明优选实施例，所述根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型包括：
基于所述目标样本及所述标注结果调整所述初始模型的学习率，并基于所述目标样本对调整后的初始模型进行验证，得到验证结果；
将与所述标注结果相同的验证结果确定为目标结果；
计算所述验证结果的第一数量，并计算所述目标结果的第二数量；
将所述第二数量除以所述第一数量，得到所述调整后的初始模型的预测准确率；
若所述预测准确率大于配置值，将所述调整后的初始模型确定为所述目标模型。
根据本发明优选实施例，所述切割所述政策文本，得到多个文本语句包括：
对所述政策文本进行分词处理，得到文本分词；
确定所述文本分词在所述政策文本中的分词位置；
根据所述分词位置拼接所述文本分词，直至拼接后的语句的字符总量与预设长度的差值小于或者等于长度限度，得到所述多个文本语句，所述多个文本语句中任意两个相邻的文本语句存在相同的所述文本分词。
根据本发明优选实施例，所述将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别包括：
所述目标模型包括BERT网络、LSTM网络；
获取所述多个文本语句的语句向量；
利用所述BERT网络提取所述语句向量的特征，得到特征向量；
基于所述LSTM网络分析所述特征向量，得到所述多个文本语句的语义向量；
将所述语义向量乘以预设矩阵，并加上预设偏置值，得到分数向量；
对所述分数向量进行归一化处理，得到概率向量；
将所述概率向量中概率值最大的维度对应的类别确定为所述政策类别。
另一方面，本发明还提出一种文本分类装置，所述文本分类装置包括：
获取单元，用于获取文本数据样本；
筛选单元，用于从所述文本数据样本中筛选出已标注样本及未标注样本；
训练单元，用于训练所述已标注样本，得到初始模型；
所述筛选单元，还用于基于所述初始模型从所述未标注样本中筛选出目标样本；
所述获取单元，还用于获取预设对象对所述目标样本的标注结果；
调整单元，用于根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型；
切割单元，用于获取政策文本，并切割所述政策文本，得到多个文本语句；
输入单元，用于将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别。
另一方面，本发明还提出一种电子设备，所述电子设备包括：
存储器，存储计算机可读指令；及
处理器，执行所述存储器中存储的计算机可读指令以实现所述文本分类方法。
另一方面，本发明还提出一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机可读指令，所述计算机可读指令被电子设备中的处理器执行以实现所述文本分类方法。
由以上技术方案可以看出，本发明通过所述初始模型从所述未标注样本中筛选出所述目标样本，由于无需对所有未标注样本进行标注，因此提高所述目标模型的生成效率，同时，利用所述目标样本及所述标注结果对所述初始模型的参数进行调整，提高了所述目标模型的准确性，通过对所述政策文本进行重叠切割，能够使输入到所述目标模型中的所述多个文本语句相互之间具有一定的关联信息，从而能够提高所述政策类别的确定准确率。
附图说明
图1是本发明文本分类方法的较佳实施例的流程图。
图2是本发明文本分类装置的较佳实施例的功能模块图。
图3是本发明实现文本分类方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。
如图1所示，是本发明文本分类方法的较佳实施例的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。
所述文本分类方法应用于智慧政务场景中，从而推动智慧城市的建设。所述文本分类方法应用于一个或者多个电子设备中，所述电子设备是一种能够按照事先设定或存储的计算机可读指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字信号处理器(Digital SignalProcessor，DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品，例如，个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant，PDA)、游戏机、交互式网络电视(Internet Protocol Television，IPTV)、智能穿戴式设备等。
所述电子设备可以包括网络设备和/或用户设备。其中，所述网络设备包括，但不限于单个网络电子设备、多个网络电子设备组成的电子设备组或基于云计算(CloudComputing)的由大量主机或网络电子设备构成的云。
所述电子设备所处的网络包括，但不限于：互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network，VPN)等。
S10，获取文本数据样本。
在本发明的至少一个实施例中，所述文本数据样本中包括已经标注的政策文本，以及，未经标注的政策文本。
在本发明的至少一个实施例中，所述电子设备获取文本数据样本包括：
(1)接收预设网站基于爬取请求生成的校验结果，并根据所述校验结果从所述预设网站爬取与预设标签匹配的信息作为所述文本数据样本。
其中，所述预设网站可以是任意政府网站。
所述校验结果携带的信息包括，但不限于：所述预设标签等。
所述预设标签用于指示政策性文本。
通过所述校验结果能够确保所述文本数据样本的获取合法性。
(2)获取预设书籍，并利用OCR(Optical Character Recognition，光学字符识别)算法从所述预设书籍中识别出与所述预设标签匹配的信息作为所述文本数据样本。
其中，所述预设书籍可以是与政府部门相关的书刊。
通过所述预设书籍能够快速获取到所述文本数据样本。
S11，从所述文本数据样本中筛选出已标注样本及未标注样本。
在本发明的至少一个实施例中，所述已标注样本是指已经标注好的样本，所述已标注样本中包括政策样本及文本类别。
所述未标注样本是指没有进行标注的政策文本。
在本发明的至少一个实施例中，所述电子设备从所述文本数据样本中筛选出已标注样本及未标注样本包括：
检测所述文本数据样本中是否包含有文本类别；
将包含有所述文本类别的所述文本数据样本确定为所述已标注样本，并将所述文本数据样本中除所述已标注样本外的其余文本数据样本确定为所述未标注样本。
其中，所述文本类别是指所述文本数据样本的类别。
通过对所述文本类别的检测，能够准确的从所述文本数据中确定出所述已标注样本及所述未标注样本。
S12，训练所述已标注样本，得到初始模型。
在本发明的至少一个实施例中，所述初始模型是指适用于政务领域中的文本分类的模型。
在本发明的至少一个实施例中，所述电子设备训练所述已标注样本，得到初始模型包括：
获取预设学习器；
将所述已标注样本输入至所述预设学习器进行训练，得到所述初始模型。
其中，所述预设学习器用于对任何领域的文本进行分类。
通过所述预设学习器，由于无需重建所述预设学习器，因此，提高所述初始模型的生成效率，同时，通过所述已标注样本对所述预设学习器进行训练，使生成的所述初始模型能够更准确的预测出政策类文本的类别。
S13，基于所述初始模型从所述未标注样本中筛选出目标样本。
在本发明的至少一个实施例中，所述目标样本是指需要预设对象进行标注的未标注样本。
在本发明的至少一个实施例中，所述电子设备基于所述初始模型从所述未标注样本中筛选出目标样本包括：
将所述未标注样本输入至所述初始模型中，得到预测结果，所述预测结果包括预测类别及所述预测类别对应的预测概率；
将所述预测概率为预设阈值的未标注样本确定为所述目标样本。
其中，所述预设阈值通常设置为0.5。
需要说明的是，所述预测概率越接近所述预设阈值，表示所述初始模型对未标注样本的预测具有不确定性。
通过所述初始模型对所述未标注样本的预测结果，能够快速从所述未标注样本中筛选出需要进行标注的样本，从而能够提高所述目标模型的生成效率。
S14，获取预设对象对所述目标样本的标注结果。
在本发明的至少一个实施例中，所述预设对象可以是指对政策文本具有一定的专业素养的用户。
在本发明的至少一个实施例中，所述电子设备获取预设对象对所述目标样本的标注结果包括：
获取所述预设对象的绑定终端作为对象终端；
将所述目标样本发送至所述对象终端，并获取所述对象终端基于所述目标样本生成的反馈包；
从所述反馈包中获取指示类别的信息作为所述标注结果。
其中，所述标注结果是指所述目标样本的类别。
通过所述对象终端能够准确获取到所述反馈包，从而能够准确地从所述反馈包中获取到所述标注结果。
S15，根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型。
在本发明的至少一个实施例中，所述目标模型是指所述预测准确率大于配置值的模型。
在本发明的至少一个实施例中，所述电子设备根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型包括：
基于所述目标样本及所述标注结果调整所述初始模型的学习率，并基于所述目标样本对调整后的初始模型进行验证，得到验证结果；
将与所述标注结果相同的验证结果确定为目标结果；
计算所述验证结果的第一数量，并计算所述目标结果的第二数量；
将所述第二数量除以所述第一数量，得到所述调整后的初始模型的预测准确率；
若所述预测准确率大于配置值，将所述调整后的初始模型确定为所述目标模型。
其中，所述配置值是根据对所述目标模型的准确度需求而设置的。
通过所述目标样本及所述标注结果对所述初始模型进行调整并验证，提高所述目标模型的拟合度。
S16，获取政策文本，并切割所述政策文本，得到多个文本语句。
在本发明的至少一个实施例中，所述政策文本是指因政策活动而产生的记录文献。
所述多个文本语句是指对所述政策文本切割后得到的语句。
在本发明的至少一个实施例中，所述电子设备获取政策文本包括：
从配置库中获取任意文本作为所述政策文本，所述配置库中存储有多个因政策活动而产生的记录文献。所述记录文献是指未经标注的文本。
在本发明的至少一个实施例中，所述电子设备切割所述政策文本，得到多个文本语句包括：
对所述政策文本进行分词处理，得到文本分词；
确定所述文本分词在所述政策文本中的分词位置；
根据所述分词位置拼接所述文本分词，直至拼接后的语句的字符总量与预设长度的差值小于或者等于长度限度，得到所述多个文本语句，所述多个文本语句中任意两个相邻的文本语句存在相同的所述文本分词。
其中，所述字符总量是指所述拼接后的语句中所有字符的数量。
所述预设长度是指输入所述目标模型的最大文本长度。例如，所述预设长度可以为11。
所述长度限度可以自定义配置。例如，所述长度限度可以为2。
例如，所述政策文本为：“以基层政务公开标准化规范化为抓手”，经切割处理，得到所述多个文本语句为：“以基层政务公开标准化”、“标准化规范化为抓手”。
通过上述实施方式，不仅能够使切割后的文本语句满足所述目标模型的输入要求，还能够使切割后的文本语句相互之间存在一定的关联关系。
具体地，所述电子设备对所述政策文本进行分词处理，得到文本分词包括：
根据预设词典对所述政策文本进行切分，得到多个切分路径及每个切分路径对应的路径分词；
根据所述多个切分路径构建有向无环图；
根据所述预设词典中的权值计算每个有向无环图的概率；
将所述概率最大的有向无环图对应的切分路径确定为目标路径；
将所述目标路径对应的所述路径分词确定为所述文本分词。
其中，所述预审词典中存储有每个自定义词汇及每个自定义词汇对应的权值。
通过上述实施，能够根据需求快速对所述政策文本进行分词。
S17，将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别。
需要强调的是，为进一步保证上述政策类别的私密和安全性，上述政策类别还可以存储于一区块链的节点中。
在本发明的至少一个实施例中，所述电子设备将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别包括：
所述目标模型包括BERT网络、LSTM网络；
获取所述多个文本语句的语句向量；
利用所述BERT网络提取所述语句向量的特征，得到特征向量；
基于所述LSTM网络分析所述特征向量，得到所述多个文本语句的语义向量；
将所述语义向量乘以预设矩阵，并加上预设偏置值，得到分数向量；
对所述分数向量进行归一化处理，得到概率向量；
将所述概率向量中概率值最大的维度对应的类别确定为所述政策类别。
通过所述BERT网络能够准确提取出所述语句向量的特征，进而通过所述LSTM网络能够获取到所述特征向量的语义，从而能够根据所述多个文本语句的语义准确的确定出所述政策类别。
在本发明的至少一个实施例中，所述方法还包括：
获取所述政策文本的文本编号；
根据所述文本编号及所述政策类别生成提示信息；
采用对称加密算法对所述提示信息进行加密处理，得到密文；
将所述密文发送至指定联系人的终端设备中。
由以上技术方案可以看出，本发明通过所述初始模型从所述未标注样本中筛选出所述目标样本，由于无需对所有未标注样本进行标注，因此提高所述目标模型的生成效率，同时，利用所述目标样本及所述标注结果对所述初始模型的参数进行调整，提高了所述目标模型的准确性，通过对所述政策文本进行重叠切割，能够使输入到所述目标模型中的所述多个文本语句相互之间具有一定的关联信息，从而能够提高所述政策类别的确定准确率。
如图2所示，是本发明文本分类装置的较佳实施例的功能模块图。所述文本分类装置11包括获取单元110、筛选单元111、训练单元112、调整单元113、切割单元114、输入单元115、生成单元116、加密单元117及发送单元118。本发明所称的模块/单元是指一种能够被处理器13所获取，并且能够完成固定功能的一系列计算机可读指令段，其存储在存储器12中。在本实施例中，关于各模块/单元的功能将在后续的实施例中详述。
获取单元110获取文本数据样本。
在本发明的至少一个实施例中，所述文本数据样本中包括已经标注的政策文本，以及，未经标注的政策文本。
在本发明的至少一个实施例中，所述获取单元110获取文本数据样本包括：
(1)接收预设网站基于爬取请求生成的校验结果，并根据所述校验结果从所述预设网站爬取与预设标签匹配的信息作为所述文本数据样本。
其中，所述预设网站可以是任意政府网站。
所述校验结果携带的信息包括，但不限于：所述预设标签等。
所述预设标签用于指示政策性文本。
通过所述校验结果能够确保所述文本数据样本的获取合法性。
(2)获取预设书籍，并利用OCR(Optical Character Recognition，光学字符识别)算法从所述预设书籍中识别出与所述预设标签匹配的信息作为所述文本数据样本。
其中，所述预设书籍可以是与政府部门相关的书刊。
通过所述预设书籍能够快速获取到所述文本数据样本。
筛选单元111从所述文本数据样本中筛选出已标注样本及未标注样本。
在本发明的至少一个实施例中，所述已标注样本是指已经标注好的样本，所述已标注样本中包括政策样本及文本类别。
所述未标注样本是指没有进行标注的政策文本。
在本发明的至少一个实施例中，所述筛选单元111从所述文本数据样本中筛选出已标注样本及未标注样本包括：
检测所述文本数据样本中是否包含有文本类别；
将包含有所述文本类别的所述文本数据样本确定为所述已标注样本，并将所述文本数据样本中除所述已标注样本外的其余文本数据样本确定为所述未标注样本。
其中，所述文本类别是指所述文本数据样本的类别。
通过对所述文本类别的检测，能够准确的从所述文本数据中确定出所述已标注样本及所述未标注样本。
训练单元112训练所述已标注样本，得到初始模型。
在本发明的至少一个实施例中，所述初始模型是指适用于政务领域中的文本分类的模型。
在本发明的至少一个实施例中，所述训练单元112训练所述已标注样本，得到初始模型包括：
获取预设学习器；
将所述已标注样本输入至所述预设学习器进行训练，得到所述初始模型。
其中，所述预设学习器用于对任何领域的文本进行分类。
通过所述预设学习器，由于无需重建所述预设学习器，因此，提高所述初始模型的生成效率，同时，通过所述已标注样本对所述预设学习器进行训练，使生成的所述初始模型能够更准确的预测出政策类文本的类别。
所述筛选单元111基于所述初始模型从所述未标注样本中筛选出目标样本。
在本发明的至少一个实施例中，所述目标样本是指需要预设对象进行标注的未标注样本。
在本发明的至少一个实施例中，所述筛选单元111基于所述初始模型从所述未标注样本中筛选出目标样本包括：
将所述未标注样本输入至所述初始模型中，得到预测结果，所述预测结果包括预测类别及所述预测类别对应的预测概率；
将所述预测概率为预设阈值的未标注样本确定为所述目标样本。
其中，所述预设阈值通常设置为0.5。
需要说明的是，所述预测概率越接近所述预设阈值，表示所述初始模型对未标注样本的预测具有不确定性。
通过所述初始模型对所述未标注样本的预测结果，能够快速从所述未标注样本中筛选出需要进行标注的样本，从而能够提高所述目标模型的生成效率。
获取单元110获取预设对象对所述目标样本的标注结果。
在本发明的至少一个实施例中，所述预设对象可以是指对政策文本具有一定的专业素养的用户。
在本发明的至少一个实施例中，所述获取单元110获取预设对象对所述目标样本的标注结果包括：
获取所述预设对象的绑定终端作为对象终端；
将所述目标样本发送至所述对象终端，并获取所述对象终端基于所述目标样本生成的反馈包；
从所述反馈包中获取指示类别的信息作为所述标注结果。
其中，所述标注结果是指所述目标样本的类别。
通过所述对象终端能够准确获取到所述反馈包，从而能够准确地从所述反馈包中获取到所述标注结果。
调整单元113根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型。
在本发明的至少一个实施例中，所述目标模型是指所述预测准确率大于配置值的模型。
在本发明的至少一个实施例中，所述调整单元113根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型包括：
基于所述目标样本及所述标注结果调整所述初始模型的学习率，并基于所述目标样本对调整后的初始模型进行验证，得到验证结果；
将与所述标注结果相同的验证结果确定为目标结果；
计算所述验证结果的第一数量，并计算所述目标结果的第二数量；
将所述第二数量除以所述第一数量，得到所述调整后的初始模型的预测准确率；
若所述预测准确率大于配置值，将所述调整后的初始模型确定为所述目标模型。
其中，所述配置值是根据对所述目标模型的准确度需求而设置的。
通过所述目标样本及所述标注结果对所述初始模型进行调整并验证，提高所述目标模型的拟合度。
切割单元114获取政策文本，并切割所述政策文本，得到多个文本语句。
在本发明的至少一个实施例中，所述政策文本是指因政策活动而产生的记录文献。
所述多个文本语句是指对所述政策文本切割后得到的语句。
在本发明的至少一个实施例中，所述切割单元114获取政策文本包括：
从配置库中获取任意文本作为所述政策文本，所述配置库中存储有多个因政策活动而产生的记录文献。所述记录文献是指未经标注的文本。
在本发明的至少一个实施例中，所述切割单元114切割所述政策文本，得到多个文本语句包括：
对所述政策文本进行分词处理，得到文本分词；
确定所述文本分词在所述政策文本中的分词位置；
根据所述分词位置拼接所述文本分词，直至拼接后的语句的字符总量与预设长度的差值小于或者等于长度限度，得到所述多个文本语句，所述多个文本语句中任意两个相邻的文本语句存在相同的所述文本分词。
其中，所述字符总量是指所述拼接后的语句中所有字符的数量。
所述预设长度是指输入所述目标模型的最大文本长度。例如，所述预设长度可以为11。
所述长度限度可以自定义配置。例如，所述长度限度可以为2。
例如，所述政策文本为：“以基层政务公开标准化规范化为抓手”，经切割处理，得到所述多个文本语句为：“以基层政务公开标准化”、“标准化规范化为抓手”。
通过上述实施方式，不仅能够使切割后的文本语句满足所述目标模型的输入要求，还能够使切割后的文本语句相互之间存在一定的关联关系。
具体地，所述切割单元114对所述政策文本进行分词处理，得到文本分词包括：
根据预设词典对所述政策文本进行切分，得到多个切分路径及每个切分路径对应的路径分词；
根据所述多个切分路径构建有向无环图；
根据所述预设词典中的权值计算每个有向无环图的概率；
将所述概率最大的有向无环图对应的切分路径确定为目标路径；
将所述目标路径对应的所述路径分词确定为所述文本分词。
其中，所述预审词典中存储有每个自定义词汇及每个自定义词汇对应的权值。
通过上述实施，能够根据需求快速对所述政策文本进行分词。
输入单元115将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别。
需要强调的是，为进一步保证上述政策类别的私密和安全性，上述政策类别还可以存储于一区块链的节点中。
在本发明的至少一个实施例中，所述输入单元115将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别包括：
所述目标模型包括BERT网络、LSTM网络；
获取所述多个文本语句的语句向量；
利用所述BERT网络提取所述语句向量的特征，得到特征向量；
基于所述LSTM网络分析所述特征向量，得到所述多个文本语句的语义向量；
将所述语义向量乘以预设矩阵，并加上预设偏置值，得到分数向量；
对所述分数向量进行归一化处理，得到概率向量；
将所述概率向量中概率值最大的维度对应的类别确定为所述政策类别。
通过所述BERT网络能够准确提取出所述语句向量的特征，进而通过所述LSTM网络能够获取到所述特征向量的语义，从而能够根据所述多个文本语句的语义准确的确定出所述政策类别。
在本发明的至少一个实施例中，所述获取单元110获取所述政策文本的文本编号；
生成单元116根据所述文本编号及所述政策类别生成提示信息；
加密单元117采用对称加密算法对所述提示信息进行加密处理，得到密文；
发送单元118将所述密文发送至指定联系人的终端设备中。
由以上技术方案可以看出，本发明通过所述初始模型从所述未标注样本中筛选出所述目标样本，由于无需对所有未标注样本进行标注，因此提高所述目标模型的生成效率，同时，利用所述目标样本及所述标注结果对所述初始模型的参数进行调整，提高了所述目标模型的准确性，通过对所述政策文本进行重叠切割，能够使输入到所述目标模型中的所述多个文本语句相互之间具有一定的关联信息，从而能够提高所述政策类别的确定准确率。
如图3所示，是本发明实现文本分类方法的较佳实施例的电子设备的结构示意图。
在本发明的一个实施例中，所述电子设备1包括，但不限于，存储器12、处理器13，以及存储在所述存储器12中并可在所述处理器13上运行的计算机可读指令，例如文本分类程序。
本领域技术人员可以理解，所述示意图仅仅是电子设备1的示例，并不构成对电子设备1的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。
所述处理器13可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，所述处理器13是所述电子设备1的运算核心和控制中心，利用各种接口和线路连接整个电子设备1的各个部分，及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。
示例性的，所述计算机可读指令可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器12中，并由所述处理器13执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段，该计算机可读指令段用于描述所述计算机可读指令在所述电子设备1中的执行过程。例如，所述计算机可读指令可以被分割成获取单元110、筛选单元111、训练单元112、调整单元113、切割单元114、输入单元115、生成单元116、加密单元117及发送单元118。
所述存储器12可用于存储所述计算机可读指令和/或模块，所述处理器13通过运行或执行存储在所述存储器12内的计算机可读指令和/或模块，以及调用存储在存储器12内的数据，实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据电子设备的使用所创建的数据等。存储器12可以包括非易失性和易失性存储器，例如：硬盘、内存、插接式硬盘，智能存储卡(SmartMedia Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他存储器件。
所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地，所述存储器12可以是具有实物形式的存储器，如内存条、TF卡(Trans-flash Card)等等。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机可读指令来指令相关的硬件来完成，所述的计算机可读指令可存储于一计算机可读存储介质中，该计算机可读指令在被处理器执行时，可实现上述各个方法实施例的步骤。
其中，所述计算机可读指令包括计算机可读指令代码，所述计算机可读指令代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机可读指令代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
结合图1，所述电子设备1中的所述存储器12存储计算机可读指令实现一种文本分类方法，所述处理器13可执行所述计算机可读指令从而实现：
获取文本数据样本；
从所述文本数据样本中筛选出已标注样本及未标注样本；
训练所述已标注样本，得到初始模型；
基于所述初始模型从所述未标注样本中筛选出目标样本；
获取预设对象对所述目标样本的标注结果；
根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型；
获取政策文本，并切割所述政策文本，得到多个文本语句；
将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别。
具体地，所述处理器13对上述计算机可读指令的具体实现方法可参考图1对应实施例中相关步骤的描述，在此不赘述。
在本发明所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述计算机可读存储介质上存储有计算机可读指令，其中，所述计算机可读指令被处理器13执行时用以实现以下步骤：
获取文本数据样本；
从所述文本数据样本中筛选出已标注样本及未标注样本；
训练所述已标注样本，得到初始模型；
基于所述初始模型从所述未标注样本中筛选出目标样本；
获取预设对象对所述目标样本的标注结果；
根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型；
获取政策文本，并切割所述政策文本，得到多个文本语句；
将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。所述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种文本分类方法，其特征在于，所述文本分类方法包括：
获取文本数据样本；
从所述文本数据样本中筛选出已标注样本及未标注样本；
训练所述已标注样本，得到初始模型；
基于所述初始模型从所述未标注样本中筛选出目标样本；
获取预设对象对所述目标样本的标注结果；
根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型；
获取政策文本，并切割所述政策文本，得到多个文本语句；
将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别。
2.如权利要求1所述的文本分类方法，其特征在于，所述获取文本数据样本包括：
接收预设网站基于爬取请求生成的校验结果，并根据所述校验结果从所述预设网站爬取与预设标签匹配的信息作为所述文本数据样本；及/或
获取预设书籍，并利用光学字符识别算法从所述预设书籍中识别出与所述预设标签匹配的信息作为所述文本数据样本。
3.如权利要求1所述的文本分类方法，其特征在于，所述基于所述初始模型从所述未标注样本中筛选出目标样本包括：
将所述未标注样本输入至所述初始模型中，得到预测结果，所述预测结果包括预测类别及所述预测类别对应的预测概率；
将所述预测概率为预设阈值的未标注样本确定为所述目标样本。
4.如权利要求1所述的文本分类方法，其特征在于，所述获取预设对象对所述目标样本的标注结果包括：
获取所述预设对象的绑定终端作为对象终端；
将所述目标样本发送至所述对象终端，并获取所述对象终端基于所述目标样本生成的反馈包；
从所述反馈包中获取指示类别的信息作为所述标注结果。
5.如权利要求1所述的文本分类方法，其特征在于，所述根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型包括：
基于所述目标样本及所述标注结果调整所述初始模型的学习率，并基于所述目标样本对调整后的初始模型进行验证，得到验证结果；
将与所述标注结果相同的验证结果确定为目标结果；
计算所述验证结果的第一数量，并计算所述目标结果的第二数量；
将所述第二数量除以所述第一数量，得到所述调整后的初始模型的预测准确率；
若所述预测准确率大于配置值，将所述调整后的初始模型确定为所述目标模型。
6.如权利要求1所述的文本分类方法，其特征在于，所述切割所述政策文本，得到多个文本语句包括：
对所述政策文本进行分词处理，得到文本分词；
确定所述文本分词在所述政策文本中的分词位置；
根据所述分词位置拼接所述文本分词，直至拼接后的语句的字符总量与预设长度的差值小于或者等于长度限度，得到所述多个文本语句，所述多个文本语句中任意两个相邻的文本语句存在相同的所述文本分词。
7.如权利要求1所述的文本分类方法，其特征在于，所述将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别包括：
所述目标模型包括BERT网络、LSTM网络；
获取所述多个文本语句的语句向量；
利用所述BERT网络提取所述语句向量的特征，得到特征向量；
基于所述LSTM网络分析所述特征向量，得到所述多个文本语句的语义向量；
将所述语义向量乘以预设矩阵，并加上预设偏置值，得到分数向量；
对所述分数向量进行归一化处理，得到概率向量；
将所述概率向量中概率值最大的维度对应的类别确定为所述政策类别。
8.一种文本分类装置，其特征在于，所述文本分类装置包括：
获取单元，用于获取文本数据样本；
筛选单元，用于从所述文本数据样本中筛选出已标注样本及未标注样本；
训练单元，用于训练所述已标注样本，得到初始模型；
所述筛选单元，还用于基于所述初始模型从所述未标注样本中筛选出目标样本；
所述获取单元，还用于获取预设对象对所述目标样本的标注结果；
调整单元，用于根据所述目标样本及所述标注结果调整所述初始模型，得到目标模型；
切割单元，用于获取政策文本，并切割所述政策文本，得到多个文本语句；
输入单元，用于将所述多个文本语句输入至所述目标模型中，得到所述政策文本的政策类别。
9.一种电子设备，其特征在于，所述电子设备包括：
存储器，存储有计算机可读指令；及
处理器，执行所述存储器中存储的计算机可读指令以实现如权利要求1至7中任意一项所述的文本分类方法。
10.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质中存储有计算机可读指令，所述计算机可读指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的文本分类方法。
CN202110389823.8A 2021-04-12 2021-04-12 文本分类方法、装置、设备及存储介质 Pending CN113064973A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110389823.8A CN113064973A (zh) 2021-04-12 2021-04-12 文本分类方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110389823.8A CN113064973A (zh) 2021-04-12 2021-04-12 文本分类方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
CN113064973A true CN113064973A (zh) 2021-07-02

Family

ID=76566443

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110389823.8A Pending CN113064973A (zh) 2021-04-12 2021-04-12 文本分类方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113064973A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114020877A (zh) * 2021-11-18 2022-02-08 中科雨辰科技有限公司 一种用于标注文本的数据处理系统
CN115129861A (zh) * 2022-04-08 2022-09-30 腾讯科技（深圳）有限公司 文本分类方法、装置和存储介质及电子设备
CN115544213A (zh) * 2022-11-28 2022-12-30 上海朝阳永续信息技术股份有限公司 获取文本中的信息的方法、设备和存储介质
WO2023040145A1 (zh) * 2021-09-17 2023-03-23 平安科技（深圳）有限公司 基于人工智能的文本分类方法、装置、电子设备及介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109460795A (zh) * 2018-12-17 2019-03-12 北京三快在线科技有限公司 分类器训练方法、装置、电子设备及计算机可读介质
CN110928997A (zh) * 2019-12-04 2020-03-27 北京文思海辉金信软件有限公司 意图识别方法、装置、电子设备及可读存储介质
CN111310846A (zh) * 2020-02-28 2020-06-19 平安科技（深圳）有限公司 一种选取样本图像的方法、装置、存储介质和服务器
CN111324743A (zh) * 2020-02-14 2020-06-23 平安科技（深圳）有限公司 文本关系抽取的方法、装置、计算机设备及存储介质
CN111476256A (zh) * 2019-01-24 2020-07-31 北京京东尚科信息技术有限公司 基于半监督学习的模型训练方法、装置及电子设备
CN111639181A (zh) * 2020-04-30 2020-09-08 深圳壹账通智能科技有限公司 基于分类模型的论文分类方法、装置、电子设备及介质
CN112307208A (zh) * 2020-11-05 2021-02-02 Oppo广东移动通信有限公司 长文本的分类方法、终端及计算机存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109460795A (zh) * 2018-12-17 2019-03-12 北京三快在线科技有限公司 分类器训练方法、装置、电子设备及计算机可读介质
CN111476256A (zh) * 2019-01-24 2020-07-31 北京京东尚科信息技术有限公司 基于半监督学习的模型训练方法、装置及电子设备
CN110928997A (zh) * 2019-12-04 2020-03-27 北京文思海辉金信软件有限公司 意图识别方法、装置、电子设备及可读存储介质
CN111324743A (zh) * 2020-02-14 2020-06-23 平安科技（深圳）有限公司 文本关系抽取的方法、装置、计算机设备及存储介质
CN111310846A (zh) * 2020-02-28 2020-06-19 平安科技（深圳）有限公司 一种选取样本图像的方法、装置、存储介质和服务器
CN111639181A (zh) * 2020-04-30 2020-09-08 深圳壹账通智能科技有限公司 基于分类模型的论文分类方法、装置、电子设备及介质
CN112307208A (zh) * 2020-11-05 2021-02-02 Oppo广东移动通信有限公司 长文本的分类方法、终端及计算机存储介质

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023040145A1 (zh) * 2021-09-17 2023-03-23 平安科技（深圳）有限公司 基于人工智能的文本分类方法、装置、电子设备及介质
CN114020877A (zh) * 2021-11-18 2022-02-08 中科雨辰科技有限公司 一种用于标注文本的数据处理系统
CN114020877B (zh) * 2021-11-18 2024-05-10 中科雨辰科技有限公司 一种用于标注文本的数据处理系统
CN115129861A (zh) * 2022-04-08 2022-09-30 腾讯科技（深圳）有限公司 文本分类方法、装置和存储介质及电子设备
CN115129861B (zh) * 2022-04-08 2024-04-12 腾讯科技（深圳）有限公司 文本分类方法、装置和存储介质及电子设备
CN115544213A (zh) * 2022-11-28 2022-12-30 上海朝阳永续信息技术股份有限公司 获取文本中的信息的方法、设备和存储介质

Similar Documents

Publication Publication Date Title
CN111695033B (zh) 企业舆情分析方法、装置、电子设备及介质
WO2022105122A1 (zh) 基于人工智能的答案生成方法、装置、计算机设备及介质
CN111694826B (zh) 基于人工智能的数据增强方法、装置、电子设备及介质
CN113064973A (zh) 文本分类方法、装置、设备及存储介质
US10073834B2 (en) Systems and methods for language feature generation over multi-layered word representation
JP7289047B2 (ja) ブロックに基づく文書メタデータの抽出のための方法、コンピュータ・プログラム及びシステム
CN105378732B (zh) 一种表格数据的主题分析的方法和系统
CN112613501A (zh) 信息审核分类模型的构建方法和信息审核方法
CN112989826B (zh) 基于人工智能的试题分数确定方法、装置、设备及介质
CN112686036B (zh) 风险文本识别方法、装置、计算机设备及存储介质
CN113656547B (zh) 文本匹配方法、装置、设备及存储介质
CN113032528B (zh) 案件分析方法、装置、设备及存储介质
CN111680634A (zh) 公文文件处理方法、装置、计算机设备及存储介质
US20210209358A1 (en) Methods and systems for facilitating classification of portions of a regulatory document using multiple classification codes
CN111639487A (zh) 基于分类模型的字段抽取方法、装置、电子设备及介质
CN113408278B (zh) 意图识别方法、装置、设备及存储介质
CN113268597B (zh) 文本分类方法、装置、设备及存储介质
CN114037545A (zh) 客户推荐方法、装置、设备及存储介质
CN113283389A (zh) 手写文字质量检测方法、装置、设备及存储介质
CN113705468A (zh) 基于人工智能的数字图像识别方法及相关设备
CN114281984A (zh) 一种风险检测方法、装置、设备及计算机可读存储介质
CN112989820B (zh) 法律文书定位方法、装置、设备及存储介质
CN113420143B (zh) 文书摘要生成方法、装置、设备及存储介质
CN113486680B (zh) 文本翻译方法、装置、设备及存储介质
CN112949305B (zh) 负反馈信息采集方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210702