CN113239200B - 内容识别分类方法、装置、系统及存储介质 - Google Patents
内容识别分类方法、装置、系统及存储介质 Download PDFInfo
- Publication number
- CN113239200B CN113239200B CN202110551482.XA CN202110551482A CN113239200B CN 113239200 B CN113239200 B CN 113239200B CN 202110551482 A CN202110551482 A CN 202110551482A CN 113239200 B CN113239200 B CN 113239200B
- Authority
- CN
- China
- Prior art keywords
- content
- title
- participles
- result
- classified
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/353—Clustering; Classification into predefined classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/254—Fusion techniques of classification results, e.g. of results related to same input data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/258—Heading extraction; Automatic titling; Numbering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
Abstract
本发明实施例公开了内容识别分类方法、装置、系统及存储介质,方法包括:获取待分类内容;提取待分类内容的标题,对标题进行第一特征识别,得到第一识别结果,第一识别结果为标题属于预定类别的第一概率;提取与第一概率大于等于第一阈值的标题对应的待分类内容的正文,对正文进行第二特征识别,得到第二识别结果,第二识别结果为正文属于预定类别的第二概率;融合第一识别结果和第二识别结果,得到融合结果,根据融合结果确定待分类内容是否属于预定类型。内容识别分类方法先对待分类内容的标题进行识别,只对标题属于预定类别的概率大于阈值的待分类内容的正文进行识别,减少了对待分类内容识别分类时的工作量,提高了对待分类内容的分类效率。
Description
技术领域
本发明涉及计算机软件技术领域,具体涉及一种内容识别分类方法、装置、系统及存储介质。
背景技术
随着内容的爆炸性增长,为用户进行内容推荐的应用越来越多;这些应用,尤其是个性化Feed流推荐APP(Application,应用程序)会将内容源产生的内容不断的推荐给用户,使得用户获取内容的途径更为便捷。这里需要说明的是,Feed 是一种信息流,其信息流机制是:当用户关注、点赞、收藏、甚至经常阅读一些内容源后,这些内容源产生的内容就会流向用户,并被动态聚合后呈现给用户。
然而,由于内容源、内容制作者的素质参差不齐,这些内容中往往会涉及低俗、标题党、惊悚等类型的低质量内容。当用户阅读到这些低质量内容时,通常会产生反感情绪,导致用户的内容阅读体验降低。因此在面对一个内容时,对该内容进行分类,准确的识别出该内容是否为某一类型的低质量内容显得尤为必要。
发明内容
针对现有技术中的技术缺陷,本发明实施例的目的在于提供一种内容识别分类方法、装置、系统及存储介质,以解决背景技术中所提出的技术问题。
为实现上述目的,第一方面,本发明提供了一种内容识别分类方法,包括步骤:
获取待分类内容;
提取待分类内容的标题,对所述标题进行第一特征识别,得到第一识别结果,所述第一识别结果为所述标题属于预定类别的第一概率;
提取与所述第一概率大于等于第一阈值的标题对应的待分类内容的正文,对所述正文进行第二特征识别,得到第二识别结果,所述第二识别结果为所述正文属于预定类别的第二概率;
融合所述第一识别结果和第二识别结果,得到融合结果,根据所述融合结果确定所述待分类内容是否属于预定类型。
可选的,对所述标题进行第一特征识别,得到第一识别结果,具体包括:
对所述标题进行分词处理,提取组成所述标题的所有第一分词;
统计所有第一分词中第一特征分词的数量,并计算所述第一特征分词在所有第一分词中所占的比例数值,将所述比例数值作为所述第一识别结果,其中,
所述第一特征分词存储在预构建的第一特征分词库中。
可选的,对所述正文进行第二特征识别,得到第二识别结果,具体包括:
对所述正文进行分词处理,提取组成所述正文的所有第二分词;
统计所有第二分词中第二特征分词的数量,并计算所述第二特征分词在所有第二分词中所占的比例数值,将所述比例数值作为所述第二识别结果,其中,
所述第二特征分词存储在预构建的第二特征分词库中。
可选的,融合所述第一识别结果和第二识别结果,得到融合结果,根据所述融合结果确定所述待分类内容是否属于预定类型,具体包括:
将所述第一识别结果和第二识别结果分别进行加权计算,得到第一加权计算值和第二加权计算值;
将所述第一加权计算值和第二加权计算值相加,得到融合计算值;
若所述融合计算值大于等于第二阈值,判定所述待分类内容属于预定类型。
第二方面,本发明还提供了一种内容识别分类装置,包括:
内容获取模块,用于获取待分类内容;
第一识别模块,用于提取待分类内容的标题,对所述标题进行第一特征识别,得到第一识别结果,所述第一识别结果为所述标题属于预定类别的第一概率;
第二识别模块,用于提取与所述第一概率大于等于第一阈值的标题对应的待分类内容的正文,对所述正文进行第二特征识别,得到第二识别结果,所述第二识别结果为所述正文属于预定类别的第二概率;
类型判定模块,用于融合所述第一识别结果和第二识别结果,得到融合结果,根据所述融合结果确定所述待分类内容是否属于预定类型。
可选的,所述第一识别模块对所述标题进行第一特征识别,得到第一识别结果,具体包括:
对所述标题进行分词处理,提取组成所述标题的所有第一分词;
统计所有第一分词中第一特征分词的数量,并计算所述第一特征分词在所有第一分词中所占的比例数值,将所述比例数值作为所述第一识别结果,其中,
所述第一特征分词存储在预构建的第一特征分词库中。
可选的,所述第二识别模块对所述正文进行第二特征识别,得到第二识别结果,具体包括:
对所述正文进行分词处理,提取组成所述正文的所有第二分词;
统计所有第二分词中第二特征分词的数量,并计算所述第二特征分词在所有第二分词中所占的比例数值,将所述比例数值作为所述第二识别结果,其中,
所述第二特征分词存储在预构建的第二特征分词库中。
可选的,所述类型判定模块具体用于:
将所述第一识别结果和第二识别结果分别进行加权计算,得到第一加权计算值和第二加权计算值;
将所述第一加权计算值和第二加权计算值相加,得到融合计算值;
若所述融合计算值大于等于第二阈值,判定所述待分类内容属于预定类型。
第三方面,本发明还提供了一种内容识别分类系统,包括处理器、输入设备、输出设备和存储器,所述处理器、输入设备、输出设备和存储器相互连接,其中,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行如第一方面所述的方法。
第四方面,本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如第一方面所述的方法。
通过本申请的技术方案,具有以下优点:
本申请的内容识别分类方法先对待分类内容的标题进行第一特征识别,得到第一识别结果,然后对与第一识别结果大于第一阈值的标题对应的的正文进行第二特征识别,得到第二识别结果,将第一识别结果和第二识别结果融合后得到融合结果,根据融合结果确定待分类内容是否属于预定类型。
可见,本申请的内容识别分类方法先对待分类内容的标题进行识别,只对标题属于预定类别的概率大于阈值的待分类内容的正文进行识别,减少了对待分类内容识别分类时的工作量,有效地提高了对待分类内容的分类效率。最后,融合标题分类结果和内容识别分类结果,根据融合结果确定待分类内容是否属于预定类型,从而基于多维度的素材,实现对待分类内容的内容识别分类,有效提升了待分类内容的分类结果的准确性。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍。
图1是本发明实施例提供的内容识别分类方法的流程示意图;
图2是本发明实施例提供的内容识别分类装置的结构示意图;
图3是本发明实施例提供的内容识别分类系统的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
需要注意的是,除非另有说明,本申请使用的技术术语或者科学术语应当为本发明所属领域技术人员所理解的通常意义。
对于任一条待分类内容,识别该待分类内容是否为预定类型的低质量内容,即识别该待分类内容的内容类型是否为预定类型。预定类型可以是设定的任一低质量内容类型,如低俗、广告、标题党、惊悚等设定的低质量内容类型中的任一种,显然低质量内容类型并不限于上述描述,可以根据实际情况设定,如也可将婚恋、考试、读后感、日志等仅符合极少部分人兴趣的内容类型,也认为是低质量内容类型。
本申请的内容识别分类方法的主要目的是判断待分类内容的内容类型是否为预定类型,如设定预定类型为标题党,基于本发明实施例提供的内容识别分类方法,可实现待分类内容的内容类型是否为标题党的判断,如设定预定类型为广告,基于本发明实施例提供的内容识别分类方法,可实现待分类内容的内容类型是否为广告的判断。
在本发明实施例中,判断待分类内容的内容类型是否为标题党,是否为广告等低质量内容类型的处理流程原理是一致的,因此本发明实施例以设定的某一种内容类型例如标题党(即预定类型)下的内容识别分类的处理流程进行说明。
图1为本申请实施例提供的内容识别分类方法的流程图,该内容识别分类方法可应用于服务器。本实施例中,该服务器可选用内容推荐应用的服务器实现,也可是单独设置的服务于本发明实施例的内容识别分类方法的服务器。
参照图1所示,本发明实施例提供的内容识别分类方法可以包括:
S100:获取待分类内容。
本实施例中,待分类内容为文章或者网页内容,是需要进行分类的内容。待分类内容可以是内容源产生的内容,内容源产生的内容可先经过本发明实施例提供的内容识别分类方法的处理,再进行内容推荐;内容源可以是在内容推荐应用中注册或者与内容推荐应用相合作的自媒体、官方媒体等可产生文章、新闻等内容的账号主体。
S200:提取待分类内容的标题,对标题进行第一特征识别,得到第一识别结果,第一识别结果为标题属于预定类别的第一概率。
待分类内容一般由标题和正文组成,获取到待分类内容后,先提取待分类内容的标题,然后对提取到的标题进行第一特征识别,得到第一识别结果。具体包括:
S201:对标题进行分词处理,提取组成标题的所有第一分词。
通过分词算法,对标题进行分词处理,将标题分割为分词的组合,提取组成标题的所有第一分词。例如,某篇文章的标题是“震惊!朋友圈这6个坑千万不要踩”,将该标题拆分为分词的组合,拆分后为“震惊”、“!”、“朋友圈”、“这6个坑”、“千万不要”、“踩”,则该标题中第一分词的数量为6个。
S202:统计所有第一分词中第一特征分词的数量,并计算第一特征分词在所有第一分词中所占的比例数值,将比例数值作为第一识别结果,其中,第一特征分词存储在预构建的第一特征分词库中。
具体到本实施例中,“震惊”、“!”、“千万不要”为第一特征分词,则该标题中第一特征分词的数量为3个,因此,第一特征分词在所有第一分词中所占的比例数值为3/6=0.5,即第一识别结果为0.5。
第一特征分词库中的第一特征分词可以通过人工对标记为标题党的内容的标题进行分词拆分后和统计每个分词出现的次数,将出现次数大于设定值的分词筛选出来作为第一特征分词,输入第一特征分词库中储存。或者,将标记为标题党的内容的标题输入训练好的神经网络模型中,利用神经网络模型自动对标题进行分词拆分后和统计每个分词出现的次数,将出现次数大于设定值的分词筛选出来作为第一特征分词,输入第一特征分词库中存储。
将标题拆分为分词的组合后,服务器根据第一特征分词库中存储的第一特征分词判断构成标题的分词中含有的第一特征分词。
S300:提取与第一概率大于等于第一阈值的标题对应的待分类内容的正文,对正文进行第二特征识别,得到第二识别结果,第二识别结果为正文属于预定类别的第二概率。
例如,本实施例中,第一阈值设定为0.3,上述标题的第一识别结果为0.5,则需要对该内容的正文进行第二特征识别,得到第二识别结果。具体包括:
S301:对正文进行分词处理,提取组成正文的所有第二分词。
通过分词算法,对正文进行分词处理,将正文分割为分词的组合,提取组成正文的所有第二分词。
S302:统计所有第二分词中第二特征分词的数量,并计算第二特征分词在所有第二分词中所占的比例数值,将比例数值作为第二识别结果,其中,第二特征分词存储在预构建的第二特征分词库中。
第二特征分词库中的第二特征分词可以通过人工对标记为标题党的内容的正文进行分词拆分后和统计每个分词出现的次数,将出现次数大于设定值的分词筛选出来作为第二特征分词,输入第二特征分词库中储存。或者,将标记为标题党的内容的正文输入训练好的神经网络模型中,利用神经网络模型自动对正文进行分词拆分后和统计每个分词出现的次数,将出现次数大于设定值的分词筛选出来作为第二特征分词,输入第二特征分词库中存储。
将正文拆分为分词的组合后,服务器根据第二特征分词库中存储的第二特征分词判断构成正文的分词中含有的第二特征分词。
例如,构成正文的第二分词有300个,其中,属于第二特征分词的有24个,那么第二特征分词在所有第二分词中所占的比例数值为24/300=0.08,即第二识别结果为0.08。
S400:融合第一识别结果和第二识别结果,得到融合结果,根据融合结果确定待分类内容是否属于预定类型。
计算得到第一识别结果和第二识别结果之后,为保证分类准确,需要对第一识别结果和第二识别结果进行融合,根据融合结果判断待分类内容是否属于预定类型,具体包括:
S401:将第一识别结果和第二识别结果分别进行加权计算,得到第一加权计算值和第二加权计算值。
本实施例中,若标题的第一识别结果大于0.4,则可以判定该标题为标题党类型。但是,在正文中由于不同作者的行文方式不同,极有可能喜欢用含有第二特征分词的句子进行表达。正常来说,正常表述时正文中含有第二特征分词的句子比例会很少,或者说正文中第二特征分词所占比例对该内容是否为标题党类型的影响权重并没有标题中第一特征分词所占比例的影响权重大。因此,需要对第一识别结果和第二识别结果分别进行加权计算,得到第一加权计算值和第二加权计算值,以使判断结果更加准确。
例如,本实施例中,第一识别结果对该待分类内容的分类结果影响权重为 0.7,而第二识别结果对该待分类内容的分类结果影响权重为0.3。
因此,本实施例中,第一加权计算值为0.5*0.7=0.35;第二加权计算值为 0.08*0.3=0.024。
S402:将第一加权计算值和第二加权计算值相加,得到融合计算值。
本实施例中,融合计算值为0.35+0.024=0.374。
S403:若融合计算值大于等于第二阈值,判定待分类内容属于预定类型。
例如,设定第二阈值为0.36,由于该内容的识别计算后的融合结果为0.374,大于0.36,所以可以判定该待分类内容属于标题党类型。
综上,本申请的内容识别分类方法先对待分类内容的标题进行第一特征识别,得到第一识别结果,然后对与第一识别结果大于第一阈值的标题对应的的正文进行第二特征识别,得到第二识别结果,将第一识别结果和第二识别结果融合后得到融合结果,根据融合结果确定待分类内容是否属于预定类型。
可见,本申请的内容识别分类方法先对待分类内容的标题进行识别,只对标题属于预定类别的概率大于阈值的待分类内容的正文进行识别,减少了对待分类内容识别分类时的工作量,有效地提高了对待分类内容的分类效率。最后,融合标题分类结果和内容识别分类结果,根据融合结果确定待分类内容是否属于预定类型,从而基于多维度的素材,实现对待分类内容的内容识别分类,有效提升了待分类内容的分类结果的准确性。
基于相同的发明构思,本发明实施例还提供一种内容识别分类装置,包括:
内容获取模块201,用于获取待分类内容;
第一识别模块202,用于提取待分类内容的标题,对标题进行第一特征识别,得到第一识别结果,第一识别结果为标题属于预定类别的第一概率;
第二识别模块203,用于提取与第一概率大于等于第一阈值的标题对应的待分类内容的正文,对正文进行第二特征识别,得到第二识别结果,第二识别结果为正文属于预定类别的第二概率;
类型判定模块204,用于融合第一识别结果和第二识别结果,得到融合结果,根据融合结果确定待分类内容是否属于预定类型。
本实施例中,待分类内容为文章或者网页内容,是需要进行分类的内容。待分类内容可以是内容源产生的内容,内容源产生的内容可先经过本发明实施例提供的内容识别分类方法的处理,再进行内容推荐;内容源可以是在内容推荐应用中注册或者与内容推荐应用相合作的自媒体,官方媒体等可产生文章、新闻等内容的账号主体。
可选的,第一识别模块202对标题进行第一特征识别,得到第一识别结果,具体包括:
对标题进行分词处理,提取组成标题的所有第一分词。
待分类内容一般由标题和正文组成,获取到待分类内容后,先提取待分类内容的标题。然后通过分词算法,对标题进行分词处理,将标题分割为分词的组合,提取组成标题的所有第一分词。
统计所有第一分词中第一特征分词的数量,并计算第一特征分词在所有第一分词中所占的比例数值,将比例数值作为第一识别结果,其中,第一特征分词存储在预构建的第一特征分词库中。
第一特征分词库中的第一特征分词可以通过人工对标记为标题党的内容的标题进行分词拆分后和统计每个分词出现的次数,将出现次数大于设定值的分词筛选出来作为第一特征分词,输入第一特征分词库中储存。或者,将标记为标题党的内容的标题输入训练好的神经网络模型中,利用神经网络模型自动对标题进行分词拆分后和统计每个分词出现的次数,将出现次数大于设定值的分词筛选出来作为第一特征分词,输入第一特征分词库中存储。
将标题拆分为分词的组合后,第一识别模块202根据第一特征分词库中存储的第一特征分词判断构成标题的分词中含有的第一特征分词。
可选的,第二识别模块203对正文进行第二特征识别,得到第二识别结果,具体包括:
对正文进行分词处理,提取组成正文的所有第二分词。
通过分词算法,对正文进行分词处理,将正文分割为分词的组合,提取组成正文的所有第二分词。
统计所有第二分词中第二特征分词的数量,并计算第二特征分词在所有第二分词中所占的比例数值,将比例数值作为第二识别结果,其中,第二特征分词存储在预构建的第二特征分词库中。
第二特征分词库中的第二特征分词可以通过人工对标记为标题党的内容的正文进行分词拆分后和统计每个分词出现的次数,将出现次数大于设定值的分词筛选出来作为第二特征分词,输入第二特征分词库中储存。或者,将标记为标题党的内容的正文输入训练好的神经网络模型中,利用神经网络模型自动对正文进行分词拆分后和统计每个分词出现的次数,将出现次数大于设定值的分词筛选出来作为第二特征分词,输入第二特征分词库中存储。
将正文拆分为分词的组合后,第二识别模块203根据第二特征分词库中存储的第二特征分词判断构成正文的分词中含有的第二特征分词。
可选的,类型判定模块204具体用于:
将第一识别结果和第二识别结果分别进行加权计算,得到第一加权计算值和第二加权计算值。
若标题的第一识别结果大于第一阈值时,则可以判定该标题为标题党类型。但是,在正文中由于不同作者的行文方式不同,极有可能喜欢用含有第二特征分词的句子进行表达。正常来说,正常表述时正文中含有第二特征分词的句子比例会很少,或者说正文中第二特征分词所占比例对该内容是否为标题党类型的影响权重并没有标题中第一特征分词所占比例的影响权重大。因此,需要对第一识别结果和第二识别结果分别进行加权计算,得到第一加权计算值和第二加权计算值,以使判断结果更加准确。
将第一加权计算值和第二加权计算值相加,得到融合计算值。
若融合计算值大于等于第二阈值,判定待分类内容属于预定类型。
基于相同的发明构思,本发明实施例提供一种内容识别分类系统。如图2 所示,该系统可以包括:一个或多个处理器101、一个或多个输入设备102、一个或多个输出设备103和存储器104,上述处理器101、输入设备102、输出设备103和存储器104通过总线105相互连接。存储器104用于存储计算机程序,计算机程序包括程序指令,处理器101被配置用于调用程序指令执行上述内容识别分类方法实施例部分的方法。
应当理解,在本发明实施例中,所称处理器101可以是中央处理单元 (CentralProcessing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array, FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
输入设备102可以包括键盘等,输出设备103可以包括显示器(LCD等)、扬声器等。
该存储器104可以包括只读存储器和随机存取存储器,并向处理器101提供指令和数据。存储器104的一部分还可以包括非易失性随机存取存储器。例如,存储器104还可以存储设备类型的信息。
具体实现中,本发明实施例中所描述的处理器101、输入设备102、输出设备103可执行本发明实施例提供的内容识别分类方法的实施例中所描述的实现方式,在此不再赘述。
需要说明的是,关于内容识别分类系统的具体工作流程,可参考前述方法实施例部分,在此不再赘述。
进一步地,本发明实施例还提供了一种可读存储介质,存储有计算机程序,计算机程序包括程序指令,程序指令被处理器执行时实现:上述内容识别分类方法的实施例中的方法步骤。
计算机可读存储介质可以是前述实施例的后台服务器的内部存储单元,例如系统的硬盘或内存。计算机可读存储介质也可以是系统的外部存储设备,例如系统上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,计算机可读存储介质还可以既包括系统的内部存储单元也包括外部存储设备。计算机可读存储介质用于存储计算机程序以及系统所需的其他程序和数据。计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (6)
1.一种内容识别分类方法,其特征在于,包括步骤:
获取待分类内容;
提取待分类内容的标题,对所述标题进行第一特征识别,得到第一识别结果,所述第一识别结果为所述标题属于预定类别的第一概率;
提取与所述第一概率大于等于第一阈值的标题对应的待分类内容的正文,对所述正文进行第二特征识别,得到第二识别结果,所述第二识别结果为所述正文属于预定类别的第二概率;
融合所述第一识别结果和第二识别结果,得到融合结果,根据所述融合结果确定所述待分类内容是否属于预定类型;
对所述标题进行第一特征识别,得到第一识别结果,具体包括:
对所述标题进行分词处理,提取组成所述标题的所有第一分词;
统计所有第一分词中第一特征分词的数量,并计算所述第一特征分词在所有第一分词中所占的比例数值,将所述比例数值作为所述第一识别结果,其中,
所述第一特征分词存储在预构建的第一特征分词库中;
对所述正文进行第二特征识别,得到第二识别结果,具体包括:
对所述正文进行分词处理,提取组成所述正文的所有第二分词;
统计所有第二分词中第二特征分词的数量,并计算所述第二特征分词在所有第二分词中所占的比例数值,将所述比例数值作为所述第二识别结果,其中,
所述第二特征分词存储在预构建的第二特征分词库中。
2.根据权利要求1所述的一种内容识别分类方法,其特征在于,融合所述第一识别结果和第二识别结果,得到融合结果,根据所述融合结果确定所述待分类内容是否属于预定类型,具体包括:
将所述第一识别结果和第二识别结果分别进行加权计算,得到第一加权计算值和第二加权计算值;
将所述第一加权计算值和第二加权计算值相加,得到融合计算值;
若所述融合计算值大于等于第二阈值,判定所述待分类内容属于预定类型。
3.一种内容识别分类装置,其特征在于,包括:
内容获取模块,用于获取待分类内容;
第一识别模块,用于提取待分类内容的标题,对所述标题进行第一特征识别,得到第一识别结果,所述第一识别结果为所述标题属于预定类别的第一概率;
第二识别模块,用于提取与所述第一概率大于等于第一阈值的标题对应的待分类内容的正文,对所述正文进行第二特征识别,得到第二识别结果,所述第二识别结果为所述正文属于预定类别的第二概率;
类型判定模块,用于融合所述第一识别结果和第二识别结果,得到融合结果,根据所述融合结果确定所述待分类内容是否属于预定类型;
所述第一识别模块对所述标题进行第一特征识别,得到第一识别结果,具体包括:
对所述标题进行分词处理,提取组成所述标题的所有第一分词;
统计所有第一分词中第一特征分词的数量,并计算所述第一特征分词在所有第一分词中所占的比例数值,将所述比例数值作为所述第一识别结果,其中,
所述第一特征分词存储在预构建的第一特征分词库中;
所述第二识别模块对所述正文进行第二特征识别,得到第二识别结果,具体包括:
对所述正文进行分词处理,提取组成所述正文的所有第二分词;
统计所有第二分词中第二特征分词的数量,并计算所述第二特征分词在所有第二分词中所占的比例数值,将所述比例数值作为所述第二识别结果,其中,
所述第二特征分词存储在预构建的第二特征分词库中。
4.根据权利要求3所述的一种内容识别分类装置,其特征在于,所述类型判定模块具体用于:
将所述第一识别结果和第二识别结果分别进行加权计算,得到第一加权计算值和第二加权计算值;
将所述第一加权计算值和第二加权计算值相加,得到融合计算值;
若所述融合计算值大于等于第二阈值,判定所述待分类内容属于预定类型。
5.一种内容识别分类系统,其特征在于,包括处理器、输入设备、输出设备和存储器,所述处理器、输入设备、输出设备和存储器相互连接,其中,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行如权利要求1-2任一项所述的方法。
6.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如权利要求1-2任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110551482.XA CN113239200B (zh) | 2021-05-20 | 2021-05-20 | 内容识别分类方法、装置、系统及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110551482.XA CN113239200B (zh) | 2021-05-20 | 2021-05-20 | 内容识别分类方法、装置、系统及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113239200A CN113239200A (zh) | 2021-08-10 |
CN113239200B true CN113239200B (zh) | 2022-07-12 |
Family
ID=77137954
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110551482.XA Active CN113239200B (zh) | 2021-05-20 | 2021-05-20 | 内容识别分类方法、装置、系统及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113239200B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114691867A (zh) * | 2022-03-09 | 2022-07-01 | 电子科技大学 | 一种内容分类方法、装置、系统及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100979865B1 (ko) * | 2009-03-31 | 2010-09-02 | 웹싱크 주식회사 | Iptv 환경에서 컨텐츠 서비스 제공 방법 및 그 장치 |
CN108304379A (zh) * | 2018-01-15 | 2018-07-20 | 腾讯科技(深圳)有限公司 | 一种文章识别方法、装置及存储介质 |
CN109471937A (zh) * | 2018-10-11 | 2019-03-15 | 平安科技(深圳)有限公司 | 一种基于机器学习的文本分类方法及终端设备 |
CN110083832A (zh) * | 2019-04-17 | 2019-08-02 | 北大方正集团有限公司 | 文章转载关系的识别方法、装置、设备及可读存储介质 |
CN111680155A (zh) * | 2020-05-13 | 2020-09-18 | 新华网股份有限公司 | 文本分类方法、装置、电子设备及计算机存储介质 |
CN112347255A (zh) * | 2020-11-06 | 2021-02-09 | 天津大学 | 基于图网络的标题和正文结合的文本分类方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110104815A (ko) * | 2010-03-17 | 2011-09-23 | (주)광개토연구소 | 특허 정보를 활용한 융합 정보 생성 방법 및 그 시스템 |
CN110069625B (zh) * | 2017-09-22 | 2022-09-23 | 腾讯科技(深圳)有限公司 | 一种内容分类方法、装置及服务器 |
CN110209805B (zh) * | 2018-04-26 | 2023-11-28 | 腾讯科技(深圳)有限公司 | 文本分类方法、装置、存储介质和计算机设备 |
CN109543032A (zh) * | 2018-10-26 | 2019-03-29 | 平安科技(深圳)有限公司 | 文本分类方法、装置、计算机设备和存储介质 |
CN110210022B (zh) * | 2019-05-22 | 2022-12-27 | 北京百度网讯科技有限公司 | 标题识别方法及装置 |
CN110569361B (zh) * | 2019-09-06 | 2021-10-19 | 腾讯科技(深圳)有限公司 | 一种文本识别方法及设备 |
CN110598046B (zh) * | 2019-09-17 | 2021-03-02 | 腾讯科技(深圳)有限公司 | 一种基于人工智能的标题党识别方法和相关装置 |
-
2021
- 2021-05-20 CN CN202110551482.XA patent/CN113239200B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100979865B1 (ko) * | 2009-03-31 | 2010-09-02 | 웹싱크 주식회사 | Iptv 환경에서 컨텐츠 서비스 제공 방법 및 그 장치 |
CN108304379A (zh) * | 2018-01-15 | 2018-07-20 | 腾讯科技(深圳)有限公司 | 一种文章识别方法、装置及存储介质 |
CN109471937A (zh) * | 2018-10-11 | 2019-03-15 | 平安科技(深圳)有限公司 | 一种基于机器学习的文本分类方法及终端设备 |
CN110083832A (zh) * | 2019-04-17 | 2019-08-02 | 北大方正集团有限公司 | 文章转载关系的识别方法、装置、设备及可读存储介质 |
CN111680155A (zh) * | 2020-05-13 | 2020-09-18 | 新华网股份有限公司 | 文本分类方法、装置、电子设备及计算机存储介质 |
CN112347255A (zh) * | 2020-11-06 | 2021-02-09 | 天津大学 | 基于图网络的标题和正文结合的文本分类方法 |
Non-Patent Citations (2)
Title |
---|
Intelligent fusion of structural and citation-based evidence for text classification;Baoping Zhang et al.;《Proceedings of the 28th annual international ACM SIGIR conference on Research and development in information retrieval》;20050815;667–668 * |
结构特征和内容分析融合的博客文章分类;张永 等;《计算机工程与应用》;20111114;第49卷(第5期);1-5 * |
Also Published As
Publication number | Publication date |
---|---|
CN113239200A (zh) | 2021-08-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Girgis et al. | Deep learning algorithms for detecting fake news in online text | |
WO2019200806A1 (zh) | 文本分类模型的生成装置、方法及计算机可读存储介质 | |
CN110069625B (zh) | 一种内容分类方法、装置及服务器 | |
US10037491B1 (en) | Context-based sentiment analysis | |
US9092789B2 (en) | Method and system for semantic analysis of unstructured data | |
Teso et al. | Application of text mining techniques to the analysis of discourse in eWOM communications from a gender perspective | |
US9058308B2 (en) | System and method for identifying text in legal documents for preparation of headnotes | |
Basiri et al. | A framework for sentiment analysis in persian | |
CN111639177B (zh) | 文本提取方法和装置 | |
US9361377B1 (en) | Classifier for classifying digital items | |
CN112231484B (zh) | 一种新闻评论审核方法、系统、装置和存储介质 | |
CN109508373B (zh) | 企业舆情指数的计算方法、设备及计算机可读存储介质 | |
KR20120109943A (ko) | 문장에 내재한 감정 분석을 위한 감정 분류 방법 | |
CN110264315B (zh) | 介绍信息生成方法和装置 | |
CN110569502A (zh) | 一种违禁广告语的识别方法、装置、计算机设备及存储介质 | |
WO2018028065A1 (zh) | 一种短信息分类方法、装置及计算机存储介质 | |
US20190065626A1 (en) | Entity viewpoint determinations | |
CN112528007A (zh) | 一种招商项目的目标企业的确认方法及确认装置 | |
Almuqren et al. | Framework for sentiment analysis of Arabic text | |
CN113239200B (zh) | 内容识别分类方法、装置、系统及存储介质 | |
CN112307336A (zh) | 热点资讯挖掘与预览方法、装置、计算机设备及存储介质 | |
CN110750983A (zh) | 语料识别方法、装置、设备及计算机可读存储介质 | |
US20200302076A1 (en) | Document processing apparatus and non-transitory computer readable medium | |
CN112487132A (zh) | 关键词的确定方法和相关设备 | |
US11748573B2 (en) | System and method to quantify subject-specific sentiment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |