CN109471920A - 一种文本标识的方法、装置、电子设备及存储介质 - Google Patents

一种文本标识的方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN109471920A
CN109471920A CN201811377862.0A CN201811377862A CN109471920A CN 109471920 A CN109471920 A CN 109471920A CN 201811377862 A CN201811377862 A CN 201811377862A CN 109471920 A CN109471920 A CN 109471920A
Authority
CN
China
Prior art keywords
text
identified
rule
preset
rubbish
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811377862.0A
Other languages
English (en)
Inventor
万月亮
火莽
火一莽
任众
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Ruian Technology Co Ltd
Original Assignee
Beijing Ruian Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Ruian Technology Co Ltd filed Critical Beijing Ruian Technology Co Ltd
Priority to CN201811377862.0A priority Critical patent/CN109471920A/zh
Publication of CN109471920A publication Critical patent/CN109471920A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明实施例公开了一种文本标识的方法、装置、电子设备及存储介质,该方法包括:基于预设的判别模型确定待标识文本的初始标识;基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识;其中,所述标识包括:垃圾文本或非垃圾文本。在判别模型确定待标识文本标识的基础上,进一步利用过滤规则进行再次的核查并确认是为垃圾文本还是非垃圾文本,避免判别模型由于没有及时更新造成错误判别的问题,实现更准确的对待标识文本的垃圾判断标识,可以高效的对海量文本数据实现数据清洗。

Description

一种文本标识的方法、装置、电子设备及存储介质
技术领域
本发明涉及数据挖掘技术领域,尤其涉及一种文本标识的方法、装置、电子设备及存储介质。
背景技术
垃圾文本标识的目的是为了将用户不关注的文章进行标识,在进行文章检索时,过滤与领域关注无关文本,从而降低用户的无效信息浏览时长,提升用户的浏览效率,该技术广泛应用于海量文本数据的数据清洗技术中。
对于垃圾文本标识,现有技术常采用以下几种方式来进行处理:
1.采用非领域关注词库的方法,对文章内容进行关键词匹配。通过预设的“垃圾”关键词,匹配文章是否存在垃圾词,从而判断当前文本是否属于垃圾文本。显然,该方法严重依赖于垃圾词库,且当垃圾词出现于文本中时,即被判断为垃圾文本,而在实际中人工在对垃圾文本判断时,远复杂于当前判断逻辑,具有很高的误判率,导致较多的有价值文本被误判为垃圾文本而被遗漏。
2.采用向量空间模型的方法,对垃圾文本进行标识。通过人工标注垃圾文本,建立行业相关的垃圾文本语料库,基于机器学习算法,建立垃圾文本向量空间模型,基于该模型,判断文本是否为垃圾文本。但是由于垃圾文本的形式不断增加,若要保持向量模型的有效性,需要持续的对模型进行更新迭代,导致较高的人工成本用于更新行业相关的垃圾文本语料库。
发明内容
本发明提供一种文本标识的方法、装置、电子设备及存储介质,提升垃圾文本标识的准确性,同时,降低了相关判别模型的维护成本。
第一方面,本发明实施例提供了一种文本标识的方法,包括:
基于预设的判别模型确定待标识文本的初始标识;
基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识;
其中,所述标识包括:垃圾文本或非垃圾文本。
第二方面,本发明实施例还提供了一种文本标识的装置,包括:
初始标识模块,用于基于预设的判别模型确定待标识文本的初始标识;
最终标识模块,用于基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识;
其中,所述标识包括:垃圾文本或非垃圾文本。
第三方面,本发明实施例还提供了一种电子设备,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明任意实施例所述的文本标识的方法。
第四方面,本发明实施例还提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如本发明任意实施例所述的文本标识的方法。
本发明实施例的技术方案,通过基于预设的判别模型确定待标识文本的初始标识;基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识其中,所述标识包括:垃圾文本或非垃圾文本。通过该实施例的方案,在模型判别的基础上,进一步利用过滤规则进行识别,实现无需频繁维护垃圾文本标识模型,同时降低标识误判率的目的。
附图说明
图1是本发明实施例一中的一种文本标识的方法的流程图。
图2是本发明实施例二中的一种文本标识的方法的流程图。
图3是本发明实施例二中的另一种文本标识的方法的流程图。
图4是本发明实施例三中的一种文本标识的装置的结构示意图。
图5是本发明实施例四中的一种电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一提供的一种文本标识的方法的流程图,本实施例可适用于垃圾文本标识的情况,该方法可以由文本标识的装置来执行,该装置可以采用硬件和/或软件实现,可以配置于电子设备中,该方法具体包括如下步骤:
S110、基于预设的判别模型确定待标识文本的初始标识。
待标识文本可以是需要确定该文本是否为垃圾文本的数据,比如可以是从互联网上获取到的文本数据,也可以是从其他数据源获取到的文本数据。示例性的,数据库维护人员可以通过将其他来源的文本数据进行标识以后才可以存入数据库,以方便用户使用或进行后续其他操作。预设的判别模型可以是预先训练好的用于判断待标识文本是否为垃圾文本的模型,比如可以是通过机器学习算法或神经网络训练得到的空间向量判别模型。通过判别模型确定待标识文本是否为垃圾文本的结果作为初始标识,其中,所述标识包括:垃圾文本或非垃圾文本。例如,通过判别模型确定了待标识文本为垃圾文本,则待标识文本的初始标识即为垃圾文本。
S120、基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识。
具体的,结合预设判别模型对待标识文本的初始标识以及预设的过滤规则共同确定待标识文本的最终标识。其中,最终标识可以是通过本实施例的方案最终确定的待标识文本是为垃圾文本还是非垃圾文本。预设的过滤规则可以是预先设定的用于判断待标识文本是否属于垃圾文本或非垃圾文本的规则,比如白名单规则和/或黑名单规则等。在判别模型确定标识基础上,进一步利用过滤规则进行再次确认是否为垃圾文本或非垃圾文本,避免判别模型由于没有及时更新造成的错误判别的问题,提高标识的准确度。
可选的,在基于预设的垃圾判别模型确定待标识文本的初始标识之前,所述方法还包括:
利用预设的分词规则对所述待标识文本进行分词;
相应的,基于预设的垃圾判别模型确定待标识文本的初始标识,包括:
基于分词结果和预设的判别模型确定待标识文本的初始标识。
在本实施例中,在接收到待标识的文本之后,可以基于预设的分词规则对待标识文本进行分词,其中预设的分词规则可以是利用预设的分词词库对所述待标识的文本执行分词操作。预设的分词词库是由预先从行业相关文本样本库中的行业相关文本中提取的容易产生分词歧义的关键词组成的词库。需要说明的是,所述分词词库不仅包括关键词,还可以包括各关键词对应的分词权重值信息。例如,所述分词词库中包含行业关键词“红黄蓝”,所述分词词库还可以以进一步的包括该关键词的相关分词权重值(比如,0-100之间)。
在进行分词操作以后,得到的分词结果可以是按照分词规则从待标识文本提取出相关的关键词。在本实施例中,可以利用预置的行业相关文本样本库中的行业相关样本文本训练判别模型,具体的,该判别模型可以包括一个分类器,该分类器在接收到所述待标识的文本及分词结果后,能够给出所述待标识的文本是为垃圾文本或非垃圾文本的判别结果,并且对待标识文本进行相应的垃圾或非垃圾标识。
可选的,基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识,包括:
如果所述初始标识为垃圾文本,则基于预设的白名单词库规则确定所述待标识文本的最终标识。
当判别模型确定待标识文本为垃圾文本时,需要利用白名单词库规则再次确认是否确实为垃圾文本,避免有价值文本被误判为垃圾文本而被遗漏等问题。
其中,白名单词库规则可以是通过判断待标识文本是否与白名单词库中的非垃圾的关键词匹配或相似,来确定待标识文本是否为垃圾文本的规则。示例性的,如果待标识文本与白名单词库中的非垃圾的关键词匹配,则认为是非垃圾文本。反之,则认为是垃圾文本。其中,白名单词库中包括了可以视为非垃圾文本的关键词,可以根据行业领域的具体需求设计白名单词库。当然,在白名单词库规则中也可以预先设定关键词匹配的具体规则,比如预设数量的关键词同时匹配即认为是非垃圾文本,或者预设数量的关键词中只要有一个匹配即认为是非垃圾文本,还可以是其他关键词与非关系的组合形成的规则,或可以根据具体的业务需要或行业领域来设计适当的白名单规则。
本实施例的技术方案,通过基于预设的判别模型确定待标识文本的初始标识;基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识;其中,所述标识包括:垃圾文本或非垃圾文本。在判别模型确定待标识文本标识的基础上,进一步利用过滤规则进行再次的核查并确认是为垃圾文本还是非垃圾文本,避免判别模型由于没有及时更新造成的错误判别的问题,实现更准确的对待标识文本的垃圾判断标识,可以高效的对海量文本数据实现数据清洗。
实施例二
图2是本发明实施例二提供的一种文本标识的方法的流程图,在上述实施例的基础上,可选的,对步骤S120做了进一步的优化,如图2所示,该方法具体包括:
S210、基于预设的判别模型确定待标识文本的初始标识。
S220、如果所述初始标识为非垃圾文本,则基于预设的黑名单规则确定所述待标识文本的最终标识。
当判别模型确定待标识文本是非垃圾文本,即初始标识是非垃圾文本的情况下,需要利用预设的黑名单规则进一步核查并确定待标识文本是否为垃圾文本或非垃圾文本,并做最终标识。避免由于判别模型没有及时更新,而将无价值的文本进行非垃圾标识的误判。其中,所述预设的黑名单规则包括:黑名单词库规则、黑名单域名规则和黑名单正则规则中的一个或多个。
对于黑名单规则使用一个或多个可以预先设定使用规则,比如不同规则的使用优先级。具体的,如果在利用黑名单规则中的规则进行确定待标识文本过程中,当其中一个黑名单规则确定待标识文本为非垃圾文本,则按照规则的优先级顺序继续利用黑名单规则中的其他规则确定待标识文本的标识情况,直至某一个规则确定待标识文本为垃圾文本,便不需要黑名单规则中的后续规则再确认待标识文本的标识情况。
其中,黑名单词库规则是可以通过判断待标识文本是否与黑名单词库中的垃圾的关键词匹配或相似,来确定待标识文本是否为垃圾文本的规则,具体还可以针对文本正文和/或标题设计更具体的黑名单词库。其中,黑名单词库中包括了可以视为垃圾文本的关键词,可以根据行业领域的具体需求设计黑名单词库。当然在黑名单词库规则中也可以预先设定关键词匹配的具体规则,比如预设数量的关键词同时匹配即认为是垃圾文本,或者预设数量的关键词中只要有一个匹配即认为是垃圾文本,当然还可以是其他关键词与非关系的组合形成的规则。
黑名单域名判别规则可以是通过判断待标识文本的来源网站是否与黑名单域名词库中的域名匹配或相似,来确定待标识文本是否为垃圾文本的规则。黑名域名词库中包括预先的设定的视为垃圾文本来源的网站域名,比如可以是直播平台的网站域名,恶意网站的域名以及其他与行业领域无关的域名等。示例性的,当判断待标识文本的数据来源是某些恶意网站时,则将待标识文本判断为垃圾文本。
黑名单正则规则可以是通过判断待标识文本的内容或格式等是否符合设定的具体正则规则,来确定待标识文本是否为垃圾文本。示例性的,正则规则中包括:存在连续11位是数字字符,即如果待标识文本中存在连续11为是数字字符时,则认为待标识文本为垃圾文本。具体的,黑名单正则规则还可以包括专门针对文本标题,正文和/或数据来源相关的正则规则。
在一种具体的实施方式中,设定优先级高低依次是黑名单词库规则、白名单词库规则和黑名单正则规则。即先使用黑名单词库规则进行待标识文本的识别,如果确定待标识文本为垃圾文本,则无需再利用其他规则进行判断。如果黑名单词库规则确定待标识文本为非垃圾文本,则再次利用黑名单域名规则进行确定,如果再次确定为非垃圾文本,则最后使用黑名单正则规则中进行确定,如果确定待标识文本为非垃圾文本则确定待标识的文本的最终标识为非垃圾文本;如果确定待标识文本是垃圾文本,则确定最终标识为垃圾文本。图3是本发明实施例提供的另一种文本标识的方法的流程图。示例性的,如图3所示,假设待标识文本是中文文本,预设判别模型具体使用空间向量模型,执行对待标识文本的判别以及标识是垃圾文本或非垃圾文本的整个流程。
可选的,基于预设的黑名单规则确定所述待标识文本的最终标识,包括:
如果基于预设的黑名单规则确定所述待标识文本为垃圾文本,则基于预设的白名单词库规则确定所述待标识文本的最终标识。
在上述实施例的基础上,如果利用黑名单规则确定待标识文本为垃圾文本,则增加标识的准确度,可以利用白名单词库规则对所述待标识文本进一步核查以及确定最终标识,避免有价值文本被误判为垃圾文本而被遗漏等问题。另外,判别模型在对文本进行垃圾标识的作用上,仅作为判断逻辑的一部分,因此无需频繁维护判别模型,从而降低了维护成本。同时,增加了基于正则、基于域名的判断方式,以及通过白名单词库规则对已判定为“垃圾”的文本进行校验,一定程度上降低了垃圾文本标识的误判率。
本实施例的技术方案,通过基于预设的判别模型确定待标识文本的初始标识;如果所述初始标识为非垃圾文本,则基于预设的黑名单规则确定所述待标识文本的最终标识。其中,所述预设的黑名单规则包括:黑名单词库规则、黑名单域名规则和黑名单正则规则中的一个或多个。在判别模型确定待标识文本为非垃圾文本标识的基础上,进一步利用过滤规则进行再次核查并确认是为垃圾文本还是非垃圾文本,如果为垃圾文本,则再次由白名单词库规则确定待标识文本的最终标识。避免判别模型由于没有及时更新造成的错误判别的问题,实现更准确的对待标识文本的垃圾判断标识,可以高效的对海量文本数据实现数据清洗。
实施例三
图4为本发明实施例三提供的一种文本标识的装置的结构示意图,如图4所示,所述装置包括:
初始标识模块410,用于基于预设的判别模型确定待标识文本的初始标识;
最终标识模块420,用于基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识;
其中,所述标识包括:垃圾文本或非垃圾文本。
可选的,所述最终标识模块420,具体用于:如果所述初始标识为非垃圾文本,则基于预设的黑名单规则确定所述待标识文本的最终标识;
其中,所述预设的黑名单规则包括:黑名单词库规则、黑名单域名规则和黑名单正则规则中的一个或多个。
可选的,所述最终标识模块420,还具体用于:如果所述初始标识为垃圾文本,则基于预设的白名单词库规则确定所述待标识文本的最终标识。
可选的,所述最终标识模块420,还用于如果基于预设的黑名单规则确定所述待标识文本为垃圾文本,则基于预设的白名单词库规则确定所述待标识文本的最终标识。
可选的,所述装置还包括:文本分词模块,用于在基于预设的垃圾判别模型确定待标识文本的初始标识之前,利用预设的分词规则对所述待标识文本进行分词;
相应的,所述初始标识模块410,具体用于基于分词结果和预设的判别模型确定待标识文本的初始标识。
本发明实施例所提供的文本标识的装置,可执行本发明任意实施例所提供的文本标识的方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本发明任意实施例提供的一种文本标识的方法。
实施例四
参见图5,本实施例提供了一种电子设备500,其包括:一个或多个处理器520;存储装置510,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器520执行,使得所述一个或多个处理器520实现本发明实施例所提供的一种文本标识的方法,包括:
基于预设的判别模型确定待标识文本的初始标识;
基于所述初始标识情况和预设的过滤规则确定所述待标识文本的最终标识;
其中,所述标识包括:垃圾文本或非垃圾文本。
当然,本领域技术人员可以理解,处理器520还可以实现本发明任意实施例所提供的一种文本标识的方法的技术方案。
图5显示的电子设备500仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,电子设备500以通用计算设备的形式表现。电子设备500的组件可以包括但不限于:一个或者多个处理器520,存储装置510,连接不同系统组件(包括存储装置510和处理器520)的总线550。
总线550表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
电子设备500典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备500访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储装置510可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)511和/或高速缓存存储器512。电子设备500可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统513可以用于读写不可移动的、非易失性磁介质(图5未显示,通常称为“硬盘驱动器”)。尽管图5中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线550相连。存储装置510可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块515的程序/实用工具514,可以存储在例如存储装置510中,这样的程序模块515包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块515通常执行本发明所描述的任意实施例中的功能和/或方法。
电子设备500也可以与一个或多个外部设备560(例如键盘、指向设备、显示器570等)通信,还可与一个或者多个使得用户能与该电子设备500交互的设备通信,和/或与使得该电子设备500能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口530进行。并且,电子设备500还可以通过网络适配器540与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图5所示,网络适配器540通过总线550与电子设备500的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备500使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理器520通过运行存储在存储装置510中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的一种文本标识的方法。
实施例五
本发明实施例五提供一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行一种文本标识的方法,该方法包括:
基于预设的判别模型确定待标识文本的初始标识;
基于所述初始标识情况和预设的过滤规则确定所述待标识文本的最终标识;
其中,所述标识包括:垃圾文本或非垃圾文本。
当然,本发明实施例所提供的一种包含计算机可执行指令的存储介质,其计算机可执行指令不限于如上所述的方法操作,还可以执行本发明任意实施例所提供的一种文本标识的方法中的相关操作。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。

Claims (10)

1.一种文本标识的方法,其特征在于,所述方法包括:
基于预设的判别模型确定待标识文本的初始标识;
基于所述初始标识情况和预设的过滤规则确定所述待标识文本的最终标识;
其中,所述标识包括:垃圾文本或非垃圾文本。
2.根据权利要求1所述的方法,其特征在于,基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识,包括:
如果所述初始标识为非垃圾文本,则基于预设的黑名单规则确定所述待标识文本的最终标识;
其中,所述预设的黑名单规则包括:黑名单词库规则、黑名单域名规则和黑名单正则规则中的一个或多个。
3.根据权利要求1所述的方法,其特征在于,基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识,包括:
如果所述初始标识为垃圾文本,则基于预设的白名单词库规则确定所述待标识文本的最终标识。
4.根据权利要求2所述的方法,其特征在于,基于预设的黑名单规则确定所述待标识文本的最终标识,包括:
如果基于预设的黑名单规则确定所述待标识文本为垃圾文本,则基于预设的白名单词库规则确定所述待标识文本的最终标识。
5.根据权利要求1-4中任一所述的方法,其特征在于,在基于预设的垃圾判别模型确定待标识文本的初始标识之前,所述方法还包括:
利用预设的分词规则对所述待标识文本进行分词;
相应的,基于预设的垃圾判别模型确定待标识文本的初始标识,包括:
基于分词结果和预设的判别模型确定待标识文本的初始标识。
6.一种文本标识的装置,其特征在于,包括:
初始标识模块,用于基于预设的判别模型确定待标识文本的初始标识;
最终标识模块,用于基于所述初始标识和预设的过滤规则确定所述待标识文本的最终标识;
其中,所述标识包括:垃圾文本或非垃圾文本。
7.根据权利要求6所述的装置,其特征在于,所述最终标识模块,具体用于:如果所述初始标识为非垃圾文本,则基于预设的黑名单规则确定所述待标识文本的最终标识;
其中,所述预设的黑名单规则包括:黑名单词库规则、黑名单域名规则和黑名单正则规则中的一个或多个。
8.根据权利要求6所述的装置,其特征在于,所述最终标识模块,还具体用于:如果所述初始标识为垃圾文本,则基于预设的白名单词库规则确定所述待标识文本的最终标识。
9.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的文本标识的方法。
10.一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-5中任一所述的文本标识的方法。
CN201811377862.0A 2018-11-19 2018-11-19 一种文本标识的方法、装置、电子设备及存储介质 Pending CN109471920A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811377862.0A CN109471920A (zh) 2018-11-19 2018-11-19 一种文本标识的方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811377862.0A CN109471920A (zh) 2018-11-19 2018-11-19 一种文本标识的方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN109471920A true CN109471920A (zh) 2019-03-15

Family

ID=65673029

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811377862.0A Pending CN109471920A (zh) 2018-11-19 2018-11-19 一种文本标识的方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN109471920A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111339768A (zh) * 2020-02-27 2020-06-26 携程旅游网络技术(上海)有限公司 敏感文本检测方法、系统、电子设备及介质
CN112199948A (zh) * 2020-09-28 2021-01-08 中国互联网金融协会 文本内容识别和违规广告识别方法、装置及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1809821A (zh) * 2003-03-03 2006-07-26 微软公司 用于防止垃圾邮件的反馈循环
CN101069175A (zh) * 2003-10-03 2007-11-07 考维枸有限公司 动态消息过滤
CN101784022A (zh) * 2009-01-16 2010-07-21 北京炎黄新星网络科技有限公司 短信过滤、分类方法及系统
US20140047543A1 (en) * 2012-08-07 2014-02-13 Electronics And Telecommunications Research Institute Apparatus and method for detecting http botnet based on densities of web transactions

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1809821A (zh) * 2003-03-03 2006-07-26 微软公司 用于防止垃圾邮件的反馈循环
CN101069175A (zh) * 2003-10-03 2007-11-07 考维枸有限公司 动态消息过滤
CN101784022A (zh) * 2009-01-16 2010-07-21 北京炎黄新星网络科技有限公司 短信过滤、分类方法及系统
US20140047543A1 (en) * 2012-08-07 2014-02-13 Electronics And Telecommunications Research Institute Apparatus and method for detecting http botnet based on densities of web transactions

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111339768A (zh) * 2020-02-27 2020-06-26 携程旅游网络技术(上海)有限公司 敏感文本检测方法、系统、电子设备及介质
CN111339768B (zh) * 2020-02-27 2024-03-05 携程旅游网络技术(上海)有限公司 敏感文本检测方法、系统、电子设备及介质
CN112199948A (zh) * 2020-09-28 2021-01-08 中国互联网金融协会 文本内容识别和违规广告识别方法、装置及电子设备

Similar Documents

Publication Publication Date Title
CN110020422B (zh) 特征词的确定方法、装置和服务器
US9626622B2 (en) Training a question/answer system using answer keys based on forum content
CN109614625B (zh) 标题正文相关度的确定方法、装置、设备及存储介质
JP2019125343A (ja) 曖昧なエンティティワードに基づくテキスト処理方法及び装置
WO2015185019A1 (zh) 一种基于语义理解的表情输入方法和装置
CN108304375A (zh) 一种信息识别方法及其设备、存储介质、终端
US20200285808A1 (en) Synonym dictionary creation apparatus, non-transitory computer-readable recording medium storing synonym dictionary creation program, and synonym dictionary creation method
CN109325201A (zh) 实体关系数据的生成方法、装置、设备及存储介质
CN107229731B (zh) 用于分类数据的方法和装置
WO2021174812A1 (zh) 用于画像的数据的清洗方法、装置、介质及电子设备
EP3204872A1 (en) Linking thumbnail of image to web page
CN113486664A (zh) 文本数据可视化分析方法、装置、设备及存储介质
CN109388696A (zh) 删除谣言文章的方法、装置、存储介质及电子设备
US20220365956A1 (en) Method and apparatus for generating patent summary information, and electronic device and medium
CN108268602A (zh) 分析文本话题点的方法、装置、设备和计算机存储介质
KR102166102B1 (ko) 개인 정보 보호를 위한 장치 및 기록 매체
CN109471920A (zh) 一种文本标识的方法、装置、电子设备及存储介质
CN109614481A (zh) 对象识别方法、装置、电子设备及计算机可读存储介质
CN108112026B (zh) WiFi识别方法及装置
CN111354354A (zh) 一种基于语义识别的训练方法、训练装置及终端设备
CN108268443A (zh) 确定话题点转移以及获取回复文本的方法、装置
CN112148837A (zh) 维修方案的获取方法、装置、设备及存储介质
CN115858776A (zh) 一种变体文本分类识别方法、系统、存储介质和电子设备
CN109582846A (zh) 通过文章进行搜索的方法、装置、电子设备及存储介质
JP2005202924A (ja) 対訳判断装置、方法及びプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20190315

RJ01 Rejection of invention patent application after publication