CN116956897B - 隐性广告处理方法、装置、计算机设备及存储介质 - Google Patents
隐性广告处理方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN116956897B CN116956897B CN202311213345.0A CN202311213345A CN116956897B CN 116956897 B CN116956897 B CN 116956897B CN 202311213345 A CN202311213345 A CN 202311213345A CN 116956897 B CN116956897 B CN 116956897B
- Authority
- CN
- China
- Prior art keywords
- text
- advertisement
- word
- hidden
- words
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 113
- 238000000034 method Methods 0.000 title claims abstract description 43
- 238000013145 classification model Methods 0.000 claims abstract description 16
- 230000011218 segmentation Effects 0.000 claims description 32
- 239000013598 vector Substances 0.000 claims description 21
- 238000012216 screening Methods 0.000 claims description 17
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000003672 processing method Methods 0.000 claims description 7
- 238000010276 construction Methods 0.000 claims description 4
- 238000003058 natural language processing Methods 0.000 abstract description 2
- 238000013461 design Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/90335—Query processing
- G06F16/90344—Query processing by using string matching techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/216—Parsing using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0241—Advertisements
- G06Q30/0277—Online advertisement
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- General Health & Medical Sciences (AREA)
- Finance (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Artificial Intelligence (AREA)
- Strategic Management (AREA)
- Databases & Information Systems (AREA)
- Health & Medical Sciences (AREA)
- Accounting & Taxation (AREA)
- Development Economics (AREA)
- Data Mining & Analysis (AREA)
- Entrepreneurship & Innovation (AREA)
- Game Theory and Decision Science (AREA)
- Probability & Statistics with Applications (AREA)
- Economics (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请实施例属于自然语言处理技术领域，涉及一种隐性广告处理方法、装置、计算机设备及存储介质，方法包括：获取各待处理文本，并获取敏感词集合和关键词集合；将与敏感词集合实现文本匹配的待处理文本作为第一文本；将与关键词集合未实现文本匹配的第一文本作为第二文本；根据各第二文本的文本长度确定隐性广告识别方式，从而对第二文本进行广告识别得到识别结果；当根据识别结果确定第二文本为隐性广告文本时，通过行业分类模型识别第二文本中隐性广告的行业类型；选取与行业类型相对应的规则引擎，并根据规则引擎对第二文本进行违规判别，得到违规判别结果。本申请提高了隐性广告的识别和违规判别效率，并实现了违规判别的可解释性。
Description
技术领域
本申请涉及自然语言处理技术领域，尤其涉及一种隐性广告处理方法、装置、计算机设备及存储介质。
背景技术
隐性广告又叫软广告（Soft Advertising），是相较于传统的硬广告而言的概念。软广告更为间接、隐晦，往往在内容中融入广告元素，不像硬广告那样直接推销产品，而是通过情感、故事、娱乐等方式来传递广告信息。随着互联网技术的发展，隐性广告在网络中广泛传播。为了对网络环境进行规范和管理，需要对隐性广告进行识别，以避免用户受到不良广告信息的侵害。
现有的隐性广告识别技术，通常使用深度学习或者机器学习的模型对舆情信息进行判定。然而，互联网中的舆情信息数量很大，通过深度学习或机器学习模型进行隐性广告识别会消耗大量资源，且效率较低。并且，单一模型只能判断舆情信息是否包含隐性广告，而其中的隐性广告是否违规，需要额外的模型进行判断，进一步影响了处理效率，并且缺乏可解释性。
发明内容
本申请实施例的目的在于提出一种隐性广告处理方法、装置、计算机设备及存储介质，以解决隐性广告识别处理效率较低的技术问题。
为了解决上述技术问题，本申请实施例提供一种隐性广告处理方法，采用了如下所述的技术方案：
获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，其中，敏感词为与隐性广告相关的词语，关键词为与隐性广告科普教育相关的词语；
将所述敏感词集合与各待处理文本进行文本匹配处理，并将实现文本匹配的待处理文本作为第一文本；
将所述关键词集合与各第一文本进行文本匹配处理，并将未实现文本匹配的第一文本作为第二文本；
对于每个第二文本，获取所述第二文本的文本长度；
根据所述文本长度确定所述第二文本的隐性广告识别方式，并根据确定的隐性广告识别方式对所述第二文本进行广告识别，得到识别结果；
当根据所述识别结果确定所述第二文本为隐性广告文本时，通过行业分类模型识别所述第二文本中隐性广告的行业类型；
选取与所述行业类型相对应的规则引擎，并根据所述规则引擎对所述第二文本进行违规判别，得到违规判别结果。
为了解决上述技术问题，本申请实施例还提供一种隐性广告处理装置，采用了如下所述的技术方案：
获取模块，用于获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，其中，敏感词为与隐性广告相关的词语，关键词为与隐性广告科普教育相关的词语；
第一匹配模块，用于将所述敏感词集合与各待处理文本进行文本匹配处理，并将实现文本匹配的待处理文本作为第一文本；
第二匹配模块，用于将所述关键词集合与各第一文本进行文本匹配处理，并将未实现文本匹配的第一文本作为第二文本；
长度获取模块，用于对于每个第二文本，获取所述第二文本的文本长度；
广告识别模块，用于根据所述文本长度确定所述第二文本的隐性广告识别方式，并根据确定的隐性广告识别方式对所述第二文本进行广告识别，得到识别结果；
类型获取模块，用于当根据所述识别结果确定所述第二文本为隐性广告文本时，通过行业分类模型识别所述第二文本中隐性广告的行业类型；
违规判别模块，用于选取与所述行业类型相对应的规则引擎，并根据所述规则引擎对所述第二文本进行违规判别，得到违规判别结果。
为了解决上述技术问题，本申请实施例还提供一种计算机设备， 所述计算机设备包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如上所述的隐性广告处理方法的步骤。
为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如上所述的隐性广告处理方法的步骤。
与现有技术相比，本申请实施例主要有以下有益效果：获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，敏感词是与隐性广告相关的词语，关键词是与隐性广告科普教育相关的词语；将敏感词集合与各待处理文本进行文本匹配处理，若能够文本匹配，表示待处理文本中可能包含隐性广告，将待处理文本作为第一文本；将关键词集合与各第一文本进行文本匹配处理，若不能实现文本匹配，表示第一文本可能不是隐性广告科普教育文本，而是隐性广告，需要进行识别处理；两步匹配对文本进行两轮筛选，得到有较高概率包含隐性广告的文本，减少了需要处理的数据量，提高了处理效率；获取各第二文本的文本长度，文本长度与文本特征和文本处理难度相关，根据文本长度确定隐性广告识别方式，隐性广告识别方式根据文本长度进行了针对性设计，可以准确高效地对相应的第二文本进行广告识别；当识别结果表明第二文本为隐性广告文本时，通过行业分类模型识别第二文本中隐性广告的行业类型，不同行业中广告的法律法规不同，根据行业类型获取对应的规则引擎，从而对第二文本进行违规判别，得到违规判别结果；本申请实现了隐性广告从识别到是否违规的完整判断流程，提高了隐性广告的识别和违规判别效率，并实现了违规判别的可解释性。
附图说明
为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性系统架构图；
图2是根据本申请的隐性广告处理方法的一个实施例的流程图；
图3是根据本申请的隐性广告处理装置的一个实施例的结构示意图；
图4是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。
在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器( Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3 )、MP4( Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4 )播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
需要说明的是，本申请实施例所提供的隐性广告处理方法一般由服务器执行，相应地，隐性广告处理装置一般设置于服务器中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
继续参考图2，示出了根据本申请的隐性广告处理方法的一个实施例的流程图。所述的隐性广告处理方法，包括以下步骤：
步骤S201，获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，其中，敏感词为与隐性广告相关的词语，关键词为与隐性广告科普教育相关的词语。
在本实施例中，隐性广告处理方法运行于其上的电子设备(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式与终端设备进行通信。需要指出的是，上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB( ultra wideband )连接、以及其他现在已知或将来开发的无线连接方式。
具体地，获取多个待处理文本，并获取敏感词集合和关键词集合。待处理文本是需要进行隐性广告识别以及违规判别的文本，可以从需要监控的网络或其他环境中采集舆情信息，并根据舆情信息生成待处理文本，以识别舆情信息中是否包含隐性广告。
敏感词集合包含多个敏感词，敏感词是与隐性广告相关、可能与隐性广告相关、涉及隐性广告特性的词语，例如“限时”、“免费”、“优惠”、“购买”等。
关键词集合包含多个关键词，舆情信息中有些是对隐性广告（例如涉及非法集资、传销、诈骗等违规的隐性广告）等进行科普教育的信息，这些舆情信息科普什么是隐性广告，如何识别隐性广告，以及违规隐性广告可能带来的危害，因此这些舆情信息是正向的，这些舆情信息中包含的与隐性广告科普教育相关的词语我们称为关键词。关键词集合可以视为白名单，其中的关键词能够使得待处理文本免去后续隐性广告识别以及违规判别的处理。
敏感词集合和关键词集合可以是预先构建好的，例如预先人工构建敏感词集合和关键词集合；敏感词集合和关键词集合也可以自动或人工进行更新。敏感词集合和关键词集合的更新将在后文进行详细论述。
步骤S202，将敏感词集合与各待处理文本进行文本匹配处理，并将实现文本匹配的待处理文本作为第一文本。
具体地，根据敏感词集合中的各敏感词对各待处理文本进行第一轮初筛。对于每个待处理文本，将待处理文本与各敏感词进行文本匹配，如果待处理文本中存在一个敏感词，则认为实现文本匹配，将待处理文本确定为第一文本；或者，如果待处理文本中存在N（N为正整数）个敏感词，则认为实现文本匹配，将待处理文本确定为第一文本。可以理解，如果待处理文本未能实现文本匹配，则认为待处理文本有较高的几率不包含隐性广告，可以将其剔除，以减少需要处理的数据量，提高隐性广告处理效率。
步骤S203，将关键词集合与各第一文本进行文本匹配处理，并将未实现文本匹配的第一文本作为第二文本。
具体地，根据关键词集合中的各关键词对各第一文本进行第二轮初筛。对于每个第一文本，将第一文本与各关键词进行文本匹配，如果第一文本中存在一个关键词，则认为实现文本匹配；或者，如果第一文本中存在M（M为正整数）个关键词，则认为实现文本匹配。前文提到，关键词是隐性广告科普教育相关的词语，当第一文本与关键词集合实现文本匹配时，认为第一文本有较高概率关联于隐性广告的科普教育，因此可以不用对这些第一文本进行后续的隐性广告处理。如果第一文本与关键词集合未实现文本匹配，则认为第一文本可能是隐性广告，需要进行后续的隐性广告处理，并将其标记为第二文本。
通过关键词集合进行第二轮初筛，可以避免对科普教育相关的待处理文本进行后续的隐性广告处理，减少了需要处理的数据量，提高了隐性广告处理效率。
步骤S204，对于每个第二文本，获取第二文本的文本长度。
具体地，对于每个第二文本，分别获取第二文本的文本长度，文本长度可以是第二文本中字符的数量。可以理解，不同第二文本的文本长度不同，有些第二文本较短，如微博和大部分论坛回帖，有些第二文本较长，如新闻、微信公众号的内容。
步骤S205，根据文本长度确定第二文本的隐性广告识别方式，并根据确定的隐性广告识别方式对第二文本进行广告识别，得到识别结果。
具体地，文本长度不同会使得文本特征不同，对第二文本的处理时间以及处理难度也会不同。为了提高对第二文本的处理效率，本申请预先设置了多种隐性广告识别方式，不同的文本长度对应不同的隐性广告识别方式。每种隐性广告识别方式针对文本长度进行了针对性设计，可以兼顾处理效率以及识别的准确性。
根据文本长度确定第二文本的隐性广告识别方式，并根据确定的隐性广告识别方式对第二文本进行广告识别，可以准确而高效地得到识别结果。
步骤S206，当根据识别结果确定第二文本为隐性广告文本时，通过行业分类模型识别第二文本中隐性广告的行业类型。
具体地，识别结果可以表示第二文本为隐性广告文本还是非隐性广告文本；可以理解，隐性广告文本是指文本中包含了隐性广告，非隐性广告文本是指文本中不包含隐性广告。
当第二文本为隐性广告文本时，通过行业分类模型（例如TextCNN模型）识别第二文本中隐性广告的行业类型。行业分类模型可以是多分类模型，实现隐性广告的行业分类，如食品广告、药品广告、金融广告等。
步骤S207，选取与行业类型相对应的规则引擎，并根据规则引擎对第二文本进行违规判别，得到违规判别结果。
具体地，规则引擎用于判断第二文本中的隐性广告是否违规，以及具体违反了哪一条规定。由于不同行业的广告有不同的法律法规、行业规定，因此，需要根据行业类型选取相应的规则引擎，并根据规则引擎对第二文本进行违规判别，得到违规判别结果。
违规判别主要依据法律法规进行，需要与相关的法律法规和司法解释强关联，如果通过深度学习模型或机器学习模型进行违规判别，当司法有变动时，模型也需要改动和重新训练，成本较高，因而规则引擎较为合适。并且在实际操作中，违规广告的样本量较少，较难满足模型的训练样本需求。违规判别的结果经常需要具备很高的可解释性，深度学习模型在这方面有短板。规则引擎可以由针对传统广告的规则引擎迁移而来，可以降低构建和维护成本。
本实施例中，获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，敏感词是与隐性广告相关的词语，关键词是与隐性广告科普教育相关的词语；将敏感词集合与各待处理文本进行文本匹配处理，若能够文本匹配，表示待处理文本中可能包含隐性广告，将待处理文本作为第一文本；将关键词集合与各第一文本进行文本匹配处理，若不能实现文本匹配，表示第一文本可能不是隐性广告科普教育文本，而是隐性广告，需要进行识别处理；两步匹配对文本进行两轮筛选，得到有较高概率包含隐性广告的文本，减少了需要处理的数据量，提高了处理效率；获取各第二文本的文本长度，文本长度与文本特征和文本处理难度相关，根据文本长度确定隐性广告识别方式，隐性广告识别方式根据文本长度进行了针对性设计，可以准确高效地对相应的第二文本进行广告识别；当识别结果表明第二文本为隐性广告文本时，通过行业分类模型识别第二文本中隐性广告的行业类型，不同行业中广告的法律法规不同，根据行业类型获取对应的规则引擎，从而对第二文本进行违规判别，得到违规判别结果；本申请实现了隐性广告从识别到是否违规的完整判断流程，提高了隐性广告的识别和违规判别效率，并实现了违规判别的可解释性。
进一步的，上述的隐性广告处理方法还可以包括：获取由多个隐性广告文本和多个非隐性广告文本构成的库存文本集；对各隐性广告文本进行分词处理，得到多个分词；基于各隐性广告文本计算各分词的第一逆文件词频，基于库存文本集计算各分词的第二逆文件词频，以根据各分词的第一逆文件词频和第二逆文件词频计算各分词的词频比；根据各分词的词频比、预设的第一阈值和初始敏感词集合对各分词进行筛选，得到多个潜在扩充词，潜在扩充词的词频比大于第一阈值，且不存在于初始敏感词集合；根据各潜在扩充词采集舆情文本，得到潜在舆情集合；获取潜在舆情集合中包含隐性广告的舆情文本，得到扩充舆情集合；对于扩充舆情集合中的各潜在扩充词，根据扩充舆情集合计算各潜在扩充词的第三逆文件词频；获取预设的第二阈值，以选取第三逆文件词频大于第二阈值的潜在扩充词；根据选取到的潜在扩充词和初始敏感词集合，构建敏感词集合。
具体地，可以通过敏感词扩充得到敏感词集合。获取由已知的多个隐性广告文本和多个非隐性广告文本构成的库存文本集。对各隐性广告文本进行分词处理，得到多个分词。在一个实施例中，还可以去除特殊字符、停用词、高频词以及低频词；高频词和低频词可以是预先设置好的，根据查表确定，也可以实时对分词结果进行计算，以确定高频词和低频词。
对于每个分词，以各隐性广告文本为第一范围，计算分词的第一逆文件词频；以库存文本集为第二范围，计算分词的第二逆文件词频。逆文件词频又称逆向文档频率(inverse document frequency, IDF)，是一种度量词语在文档中重要性的方式。可以理解，第一逆文件词频和第二逆文件词频的计算方式相同，仅仅在于计算时的考虑范围不同。然后，令分词的第一逆文件词频除以第二逆文件词频，得到分词的词频比。
获取预设的第一阈值和初始敏感词集合。初始敏感词集合是由已知敏感词构成的集合，可以人工构建，或者是上一轮敏感词扩充后得到的敏感词集合（敏感词扩充是一个迭代的过程，可以进行多次迭代，每次迭代都进行敏感词的更新和扩充）。
将各分词按照词频比从高到底进行排序，然后从队列头部开始选取A（A为正整数）个大于第一阈值，且不存在于初始敏感词集合的分词，并将选取到的分词作为潜在扩充词。
将网络或其他环境中的舆情文本与各潜在扩充词进行文本匹配处理，该文本匹配的过程可以参考上文中敏感词集合与各待处理文本的文本匹配处理，或者关键词集合与各第一文本的文本匹配处理。采集能够实现文本匹配的舆情文本，得到潜在舆情集合。然后判断潜在舆情集合中是否存在与库存文本集中隐性广告文本相同的舆情文本，如果有，则需要将其剔除。
然后获取潜在舆情集合中包含隐性广告的舆情文本，例如，通过人工/规则模型/规则引擎/隐性广告识别方式识别包含隐性广告的舆情文本，得到扩充舆情集合。
在上文中已经得到了多个潜在扩充词，对于存在于扩充舆情集合中的潜在扩充词，以扩充舆情集合为计算范围，计算这些潜在扩充词的第三逆文件词频（inversedocument frequency, IDF）；获取预设的第二阈值，选取第三逆文件词频大于第二阈值的潜在扩充词，并根据选取到的潜在扩充词和初始敏感词集合，构建得到新的敏感词集合，实现了敏感词扩充。
本申请在隐性广告的识别过程中，先用到了敏感词集合，并通过隐性广告识别方式识别到了隐性广告文本和非隐性广告文本。然后，可以根据识别到的隐性广告文本和非隐性广告文本对敏感词集合进行更新和扩充，得到新的敏感词集合，从而实时补充最新的敏感词。当然，敏感词扩充时使用到的隐性广告文本和非隐性广告文本还可以有其他获取方式，例如人工添加。
对于某些特定行业，且过滤出该行业的敏感舆情（如使用该行业的企业关联）时，可以只对该行业的敏感词进行扩充，可以生成该行业的行业敏感词，提高了敏感词的行业针对性。
可以理解，本申请也可以参照敏感词扩充的方式，对关键词进行扩充，只需要将每一步的数据换成科普教育相关的特征即可。关键词扩充可以确保关键词集合的实时性和准确性，确保能够准确剔除与科普教育相关的第一文本。
本实施例中，获取由多个隐性广告文本和多个非隐性广告文本构成的库存文本集；对各隐性广告文本进行分词处理，得到多个分词；以各隐性广告文本为范围计算各分词的第一逆文件词频，以库存文本集为范围计算各分词的第二逆文件词频，根据各分词的第一逆文件词频和第二逆文件词频计算各分词的词频比；根据各分词的词频比、预设的第一阈值和初始敏感词集合对各分词进行筛选，得到多个新的、不存在于初始敏感词集合的潜在扩充词；根据各潜在扩充词采集舆情文本得到潜在舆情集合；获取潜在舆情集合中包含隐性广告的舆情文本，得到扩充舆情集合；对于扩充舆情集合中的各潜在扩充词，以扩充舆情集合为范围计算各潜在扩充词的第三逆文件词频；获取第二阈值，选取第三逆文件词频大于第二阈值的潜在扩充词，并根据选取到的潜在扩充词和初始敏感词集合构建敏感词集合，完成了敏感词的扩充，确保了敏感词集合的实时性和准确性，从而确保了隐性广告识别的准确性。
进一步的，上述根据确定的隐性广告识别方式对第二文本进行广告识别，得到识别结果的步骤可以包括：当文本长度处于第一长度区间时，对第二文本进行分词处理，得到多个第二分词；分别计算每个第二分词在第二文本中的词频；基于各第二分词及其对应的词频，生成第二文本的词向量；将词向量输入线性模型以进行广告识别，得到识别结果。
具体地，本申请预先设置了三个长度区间，根据第二文本的文本长度，可以将第二文本划分至第一长度区间、第二长度区间或第三长度区间；当建立以右为正方向的一维坐标系时，从左到右分别是第一长度区间、第二长度区间和第三长度区间。
当文本长度处于第一长度区间时，表示第二文本为较短文本（例如少于200字），此时文本的词特征较为明显，隐性广告识别方式通过词频实现。
具体可以对第二文本进行分词处理，得到多个第二分词。分别计算每个第二分词在第二文本中的词频。然后获取预设词库，预设词库中包含了多个词语。本申请需要基于预设词库、各第二分词及其对应的词频生成第二文本的词向量。具体地，可以预先构建由0构成的初始向量，初始向量的维度与预设词库中词语数量相同，每个词语对应于初始向量中的一个位置。如果第二分词属于词库中的词语，则将第二分词的词频填入初始向量中对应位置处。在一个实施例中，还可以将词向量中每个元素设置为key-value的形式，这里的key表示初始向量中的位置，如果该位置对应的词语是第二分词，则将该位置的编号填入key，将第二分词的词频作为value，不存在于第二文本的词语所对应的元素位置不填写，这样可以得到非稀疏的词向量。
然后，将词向量输入线性模型（本申请中的线性模型包括线性分类模型和支持向量机SVM，线性模型需要预先经过训练）以进行广告识别，得到识别结果。
本实施例中，当文本长度处于第一长度区间时，对第二文本进行分词处理，得到多个第二分词；分别计算每个第二分词在第二文本中的词频；基于各第二分词及其对应的词频，生成第二文本的词向量；将词向量输入线性模型以进行广告识别得到识别结果，通过词特征快速实现较短文本的广告识别。
在一个实施例中，当文本长度处于第一长度区间时，还可以对第二文本进行分词处理，得到多个第二分词；遍历敏感词集合中的每个敏感词，并以各第二分词为范围，确定敏感词的词频。对各敏感词的词频进行累加得到词频总和，并获取预设的第三阈值，将词频总和与第三阈值进行比较以进行广告识别，并根据比较结果生成识别结果。通常，如果词频总和大于等于第三阈值，则认为第二文本为隐性广告文本；否则，认为第二文本为非隐性广告文本。在一个实施例中，也可以对各敏感词的词频求平均值，将平均值与第三阈值进行比较以进行广告识别，如果平均值大于等于第三阈值，则认为第二文本为隐性广告文本。
举例说明，现有第二文本“限时免费优惠，立即购买！”和敏感词集合：[“限时”,“免费”, “优惠”, “购买”]。对第二文本去除标点符号和特殊字符后进行分词处理，得到文本1“限时免费优惠立即购买”。
遍历敏感词集合中的每个敏感词，并根据文本1计算出每个敏感词的词频为：
"限时"在文本1中出现1次；
"免费"在文本1中出现1次；
"优惠"在文本1中出现1次；
"购买"在文本1中出现1次；
假设第三阈值为2。计算敏感词集合中各敏感词的词频总和为1 +1+1+1=4，词频总和“4”超过了第三阈值“2”，判断第二文本包含隐性广告。
进一步的，上述根据确定的隐性广告识别方式对第二文本进行广告识别，得到识别结果的步骤又可以包括：当文本长度处于第二长度区间时，获取语义模型；将第二文本输入语义模型以进行广告识别，得到识别结果。
具体地，当文本长度处于第二长度区间时，表明第二文本为短文本（例如为200-1000字）。此时，可以获取语义模型，语义模型可以由基于人工智能的模型构建得到，例如根据TextCNN构建语义模型。将第二文本输入语义模型以进行广告识别，得到识别结果。
可以理解，对于较短文本，也可以通过语义模型进行广告识别，但计算开销较高，且速度相对词频计算较慢。
本实施例中，当文本长度处于第二长度区间时，获取语义模型；将第二文本输入语义模型，通过语义实现广告识别，可以准确生成识别结果。
进一步的，上述根据确定的隐性广告识别方式对第二文本进行广告识别，得到识别结果的步骤还可以包括：当文本长度处于第三长度区间时，对第二文本进行分句处理，得到多个分句；按照各分句在第二文本中的位置，对各分句进行组合得到多个短文本，其中，各短文本包含预设数量的分句，且相邻的短文本包含至少一条相同的分句；根据语义模型对各短文本进行广告识别，得到识别结果。
具体地，当文本长度处于第三长度区间时，表示第二文本为长文本（例如大于等于1000字），需要对第二文本进行分句处理，得到多个分句。按照各分句在第二文本中的位置，对各分句进行组合得到多个短文本。
各短文本包含相同预设数量的分句；在组合时，只允许在第二文本中前后顺序相连的若干个分句进行组合，这也使得短文本具有前后顺序。且相邻的短文本包含至少一条相同的分句，以降低上下文割裂造成的语义影响。举例说明，第二文本分句后分别得到A、B、C、D四个分句，以2个分句为一组，且不同组之间重复分句的数量为1，可以分别得到AB、BC、CD三个短文本。
通过分句与重组，将长文本解构为多个短文本；再根据上述的语义模型对各短文本进行广告识别，根据对各短文本的识别情况生成识别结果。
本实施例中，当文本长度处于第三长度区间时，表示第二文本为长文本，对第二文本进行分句处理以及分句组合，将长文本解构为多个短文本；相连短文本之间具有重复的分句，减少了上下文割裂造成的语义丢失；根据语义模型对各短文本进行广告识别，避免了对长文本进行语义解析准确性较低的缺陷，提高了识别结果的准确性。
进一步的，上述根据语义模型对各短文本进行广告识别，得到识别结果的步骤可以包括：将各短文本分别输入语义模型以进行广告识别，得到各短文本的短文本识别结果；当存在表示包含隐性广告的短文本识别结果时，生成表示第二文本为隐性广告文本的识别结果。
具体地，将各短文本分别输入语义模型以进行广告识别，得到各短文本的短文本识别结果。当存在表示短文本包含隐性广告的短文本识别结果时，即可认为该第二文本包含隐性广告，生成表示第二文本为隐性广告文本的识别结果。如果此时还有未识别的短文本，可以停止识别，以减少资源浪费。
本实施例中，将各短文本分别输入语义模型以进行广告识别，得到各短文本的短文本识别结果；当存在表示短文本包含隐性广告的短文本识别结果时，即可认为第二文本包含隐性广告，而不必对全部短文本都进行识别，提高了隐性广告的识别效率。
进一步的，上述的隐性广告处理方法还可以包括：当根据识别结果确定第二文本为隐性广告文本时，提取第二文本中的广告实体；根据广告实体和违规判别结果生成告警信息；将告警信息发送至目标账号所登录的终端。
具体地，当根据识别结果确定第二文本为隐性广告文本时，提取第二文本中的广告实体，例如通过正则表达式提取广告实体，或者由正则表达式提取到广告实体后再人工核验。广告实体可以是多维度的实体信息，包括机构简称或全称、隐性广告涉及的产品名称、隐性广告中关键链接的落地页归属信息、隐性广告中的联系方式等。可以理解，广告实体涉及隐性广告相关的主体，可以用于隐性广告的管理。
根据广告实体和违规判别结果生成告警信息，告警信息可以显示待处理文本中是否包含隐性广告，隐性广告的违规情况以及隐性广告相关的实体。将告警信息发送至目标账号所登录的终端，目标账号可以是隐性广告管理人员或监管人员的账号，隐性广告管理人员或监管人员可以查看告警信息，从而对舆情中的隐性广告进行监管。
本实施例中，当第二文本为隐性广告文本时，提取第二文本中的广告实体；根据广告实体和违规判别结果生成告警信息，告警信息显示舆情信息中是否包含隐性广告，隐性广告的违规情况以及隐性广告相关的实体；将告警信息发送至目标账号所登录的终端，方便管理或监管人员对舆情信息进行查看与监管。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体（Read-Only Memory，ROM）等非易失性存储介质，或随机存储记忆体（Random Access Memory，RAM）等。
应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种隐性广告处理装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图3所示，本实施例所述的隐性广告处理装置300包括：获取模块301、第一匹配模块302、第二匹配模块303、长度获取模块304、广告识别模块305、类型获取模块306以及违规判别模块307，其中：
获取模块301，用于获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，其中，敏感词为与隐性广告相关的词语，关键词为与隐性广告科普教育相关的词语。
第一匹配模块302，用于将敏感词集合与各待处理文本进行文本匹配处理，并将实现文本匹配的待处理文本作为第一文本。
第二匹配模块303，用于将关键词集合与各第一文本进行文本匹配处理，并将未实现文本匹配的第一文本作为第二文本。
长度获取模块304，用于对于每个第二文本，获取第二文本的文本长度。
广告识别模块305，用于根据文本长度确定第二文本的隐性广告识别方式，并根据确定的隐性广告识别方式对第二文本进行广告识别，得到识别结果。
类型获取模块306，用于当根据识别结果确定第二文本为隐性广告文本时，通过行业分类模型识别第二文本中隐性广告的行业类型。
违规判别模块307，用于选取与行业类型相对应的规则引擎，并根据规则引擎对第二文本进行违规判别，得到违规判别结果。
本实施例中，获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，敏感词是与隐性广告相关的词语，关键词是与隐性广告科普教育相关的词语；将敏感词集合与各待处理文本进行文本匹配处理，若能够文本匹配，表示待处理文本中可能包含隐性广告，将待处理文本作为第一文本；将关键词集合与各第一文本进行文本匹配处理，若不能实现文本匹配，表示第一文本可能不是隐性广告科普教育文本，而是隐性广告，需要进行识别处理；两步匹配对文本进行两轮筛选，得到有较高概率包含隐性广告的文本，减少了需要处理的数据量，提高了处理效率；获取各第二文本的文本长度，文本长度与文本特征和文本处理难度相关，根据文本长度确定隐性广告识别方式，隐性广告识别方式根据文本长度进行了针对性设计，可以准确高效地对相应的第二文本进行广告识别；当识别结果表明第二文本为隐性广告文本时，通过行业分类模型识别第二文本中隐性广告的行业类型，不同行业中广告的法律法规不同，根据行业类型获取对应的规则引擎，从而对第二文本进行违规判别，得到违规判别结果；本申请实现了隐性广告从识别到是否违规的完整判断流程，提高了隐性广告的识别和违规判别效率，并实现了违规判别的可解释性。
在本实施例的一些可选的实现方式中，隐性广告处理装置300还可以包括：库存获取模块、分词处理模块、词频计算模块、分词筛选模块、文本采集模块、扩充生成模块、第三计算模块、扩充词选取模块以及集合构建模块，其中：
库存获取模块，用于获取由多个隐性广告文本和多个非隐性广告文本构成的库存文本集。
分词处理模块，用于对各隐性广告文本进行分词处理，得到多个分词。
词频计算模块，用于基于各隐性广告文本计算各分词的第一逆文件词频，基于库存文本集计算各分词的第二逆文件词频，以根据各分词的第一逆文件词频和第二逆文件词频计算各分词的词频比。
分词筛选模块，用于根据各分词的词频比、预设的第一阈值和初始敏感词集合对各分词进行筛选，得到多个潜在扩充词，潜在扩充词的词频比大于第一阈值，且不存在于初始敏感词集合。
文本采集模块，用于根据各潜在扩充词采集舆情文本，得到潜在舆情集合。
扩充生成模块，用于获取潜在舆情集合中包含隐性广告的舆情文本，得到扩充舆情集合。
第三计算模块，用于对于扩充舆情集合中的各潜在扩充词，根据扩充舆情集合计算各潜在扩充词的第三逆文件词频。
扩充词选取模块，用于获取预设的第二阈值，以选取第三逆文件词频大于第二阈值的潜在扩充词。
集合构建模块，用于根据选取到的潜在扩充词和初始敏感词集合，构建敏感词集合。
本实施例中，获取由多个隐性广告文本和多个非隐性广告文本构成的库存文本集；对各隐性广告文本进行分词处理，得到多个分词；以各隐性广告文本为范围计算各分词的第一逆文件词频，以库存文本集为范围计算各分词的第二逆文件词频，根据各分词的第一逆文件词频和第二逆文件词频计算各分词的词频比；根据各分词的词频比、预设的第一阈值和初始敏感词集合对各分词进行筛选，得到多个新的、不存在于初始敏感词集合的潜在扩充词；根据各潜在扩充词采集舆情文本得到潜在舆情集合；获取潜在舆情集合中包含隐性广告的舆情文本，得到扩充舆情集合；对于扩充舆情集合中的各潜在扩充词，以扩充舆情集合为范围计算各潜在扩充词的第三逆文件词频；获取第二阈值，选取第三逆文件词频大于第二阈值的潜在扩充词，并根据选取到的潜在扩充词和初始敏感词集合构建敏感词集合，完成了敏感词的扩充，确保了敏感词集合的实时性和准确性，从而确保了隐性广告识别的准确性。
在本实施例的一些可选的实现方式中，广告识别模块305可以包括：分词处理子模块、词频计算子模块、词向量生成子模块以及线性识别子模块，其中：
分词处理子模块，用于当文本长度处于第一长度区间时，对第二文本进行分词处理，得到多个第二分词。
词频计算子模块，用于分别计算每个第二分词在第二文本中的词频。
词向量生成子模块，用于基于各第二分词及其对应的词频，生成第二文本的词向量。
线性识别子模块，用于将词向量输入线性模型以进行广告识别，得到识别结果。
本实施例中，当文本长度处于第一长度区间时，对第二文本进行分词处理，得到多个第二分词；分别计算每个第二分词在第二文本中的词频；基于各第二分词及其对应的词频，生成第二文本的词向量；将词向量输入线性模型以进行广告识别得到识别结果，通过词特征快速实现较短文本的广告识别。
在本实施例的另一些可选的实现方式中，广告识别模块305可以包括：模型获取子模块以及模型识别子模块，其中：
模型获取子模块，用于当文本长度处于第二长度区间时，获取语义模型。
模型识别子模块，用于将第二文本输入语义模型以进行广告识别，得到识别结果。
本实施例中，当文本长度处于第二长度区间时，获取语义模型；将第二文本输入语义模型，通过语义实现广告识别，可以准确生成识别结果。
在本实施例的又一些可选的实现方式中，广告识别模块305可以包括：分句处理子模块、分句组合子模块以及短文本识别子模块，其中：
分句处理子模块，用于当文本长度处于第三长度区间时，对第二文本进行分句处理，得到多个分句。
分句组合子模块，用于按照各分句在第二文本中的位置，对各分句进行组合得到多个短文本，其中，各短文本包含预设数量的分句，且相邻的短文本包含至少一条相同的分句。
短文本识别子模块，用于根据语义模型对各短文本进行广告识别，得到识别结果。
本实施例中，当文本长度处于第三长度区间时，表示第二文本为长文本，对第二文本进行分句处理以及分句组合，将长文本解构为多个短文本；相连短文本之间具有重复的分句，减少了上下文割裂造成的语义丢失；根据语义模型对各短文本进行广告识别，避免了对长文本进行语义解析准确性较低的缺陷，提高了识别结果的准确性。
在本实施例的一些可选的实现方式中，短文本识别子模块可以包括：短文本识别单元以及结果生成单元，其中：
短文本识别单元，用于将各短文本分别输入语义模型以进行广告识别，得到各短文本的短文本识别结果。
结果生成单元，用于当存在表示包含隐性广告的短文本识别结果时，生成表示第二文本为隐性广告文本的识别结果。
本实施例中，将各短文本分别输入语义模型以进行广告识别，得到各短文本的短文本识别结果；当存在表示短文本包含隐性广告的短文本识别结果时，即可认为第二文本包含隐性广告，而不必对全部短文本都进行识别，提高了隐性广告的识别效率。
在本实施例的一些可选的实现方式中，隐性广告处理装置300还可以包括：实体提取模块、告警生成模块以及信息发送模块，其中：
实体提取模块，用于当根据识别结果确定第二文本为隐性广告文本时，提取第二文本中的广告实体。
告警生成模块，用于根据广告实体和违规判别结果生成告警信息。
信息发送模块，用于将告警信息发送至目标账号所登录的终端。
本实施例中，当第二文本为隐性广告文本时，提取第二文本中的广告实体；根据广告实体和违规判别结果生成告警信息，告警信息显示舆情信息中是否包含隐性广告，隐性广告的违规情况以及隐性广告相关的实体；将告警信息发送至目标账号所登录的终端，方便管理或监管人员对舆情信息进行查看与监管。
为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。
所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有存储器41、处理器42、网络接口43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器 (Digital Signal Processor，DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器（例如，SD或DX存储器等）、随机访问存储器（RAM）、静态随机访问存储器（SRAM）、只读存储器（ROM）、电可擦除可编程只读存储器（EEPROM）、可编程只读存储器（PROM）、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡（Smart Media Card, SMC），安全数字（Secure Digital, SD）卡，闪存卡（FlashCard）等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如隐性广告处理方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器42在一些实施例中可以是中央处理器（Central Processing Unit，CPU）、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述隐性广告处理方法的计算机可读指令。
所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
本实施例中提供的计算机设备可以执行上述隐性广告处理方法。此处隐性广告处理方法可以是上述各个实施例的隐性广告处理方法。
本实施例中，获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，敏感词是与隐性广告相关的词语，关键词是与隐性广告科普教育相关的词语；将敏感词集合与各待处理文本进行文本匹配处理，若能够文本匹配，表示待处理文本中可能包含隐性广告，将待处理文本作为第一文本；将关键词集合与各第一文本进行文本匹配处理，若不能实现文本匹配，表示第一文本可能不是隐性广告科普教育文本，而是隐性广告，需要进行识别处理；两步匹配对文本进行两轮筛选，得到有较高概率包含隐性广告的文本，减少了需要处理的数据量，提高了处理效率；获取各第二文本的文本长度，文本长度与文本特征和文本处理难度相关，根据文本长度确定隐性广告识别方式，隐性广告识别方式根据文本长度进行了针对性设计，可以准确高效地对相应的第二文本进行广告识别；当识别结果表明第二文本为隐性广告文本时，通过行业分类模型识别第二文本中隐性广告的行业类型，不同行业中广告的法律法规不同，根据行业类型获取对应的规则引擎，从而对第二文本进行违规判别，得到违规判别结果；本申请实现了隐性广告从识别到是否违规的完整判断流程，提高了隐性广告的识别和违规判别效率，并实现了违规判别的可解释性。
本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的隐性广告处理方法的步骤。
本实施例中，获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，敏感词是与隐性广告相关的词语，关键词是与隐性广告科普教育相关的词语；将敏感词集合与各待处理文本进行文本匹配处理，若能够文本匹配，表示待处理文本中可能包含隐性广告，将待处理文本作为第一文本；将关键词集合与各第一文本进行文本匹配处理，若不能实现文本匹配，表示第一文本可能不是隐性广告科普教育文本，而是隐性广告，需要进行识别处理；两步匹配对文本进行两轮筛选，得到有较高概率包含隐性广告的文本，减少了需要处理的数据量，提高了处理效率；获取各第二文本的文本长度，文本长度与文本特征和文本处理难度相关，根据文本长度确定隐性广告识别方式，隐性广告识别方式根据文本长度进行了针对性设计，可以准确高效地对相应的第二文本进行广告识别；当识别结果表明第二文本为隐性广告文本时，通过行业分类模型识别第二文本中隐性广告的行业类型，不同行业中广告的法律法规不同，根据行业类型获取对应的规则引擎，从而对第二文本进行违规判别，得到违规判别结果；本申请实现了隐性广告从识别到是否违规的完整判断流程，提高了隐性广告的识别和违规判别效率，并实现了违规判别的可解释性。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质（如ROM/RAM、磁碟、光盘）中，包括若干指令用以使得一台终端设备（可以是手机，计算机，服务器，空调器，或者网络设备等）执行本申请各个实施例所述的方法。
显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。
Claims (9)
1.一种隐性广告处理方法，其特征在于，包括下述步骤：
获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，其中，敏感词为与隐性广告相关的词语，关键词为与隐性广告科普教育相关的词语；
将所述敏感词集合与各待处理文本进行文本匹配处理，并将实现文本匹配的待处理文本作为第一文本；
将所述关键词集合与各第一文本进行文本匹配处理，并将未实现文本匹配的第一文本作为第二文本；
对于每个第二文本，获取所述第二文本的文本长度；
根据所述文本长度确定所述第二文本的隐性广告识别方式，并根据确定的隐性广告识别方式对所述第二文本进行广告识别，得到识别结果；
当根据所述识别结果确定所述第二文本为隐性广告文本时，通过行业分类模型识别所述第二文本中隐性广告的行业类型；
选取与所述行业类型相对应的规则引擎，并根据所述规则引擎对所述第二文本进行违规判别，得到违规判别结果；
所述隐性广告处理方法还包括：
获取由多个隐性广告文本和多个非隐性广告文本构成的库存文本集；
对各隐性广告文本进行分词处理，得到多个分词；
基于所述各隐性广告文本计算各分词的第一逆文件词频，基于所述库存文本集计算所述各分词的第二逆文件词频，以根据所述各分词的第一逆文件词频和第二逆文件词频计算所述各分词的词频比；
根据所述各分词的词频比、预设的第一阈值和初始敏感词集合对所述各分词进行筛选，得到多个潜在扩充词，潜在扩充词的词频比大于所述第一阈值，且不存在于所述初始敏感词集合；
根据各潜在扩充词采集舆情文本，得到潜在舆情集合；
获取所述潜在舆情集合中包含隐性广告的舆情文本，得到扩充舆情集合；
对于所述扩充舆情集合中的各潜在扩充词，根据所述扩充舆情集合计算所述各潜在扩充词的第三逆文件词频；
获取预设的第二阈值，以选取第三逆文件词频大于所述第二阈值的潜在扩充词；
根据选取到的潜在扩充词和所述初始敏感词集合，构建敏感词集合。
2.根据权利要求1所述的隐性广告处理方法，其特征在于，所述根据确定的隐性广告识别方式对所述第二文本进行广告识别，得到识别结果的步骤包括：
当所述文本长度处于第一长度区间时，对所述第二文本进行分词处理，得到多个第二分词；
分别计算每个第二分词在所述第二文本中的词频；
基于各第二分词及其对应的词频，生成所述第二文本的词向量；
将所述词向量输入线性模型以进行广告识别，得到识别结果。
3.根据权利要求2所述的隐性广告处理方法，其特征在于，所述根据确定的隐性广告识别方式对所述第二文本进行广告识别，得到识别结果的步骤包括：
当所述文本长度处于第二长度区间时，获取语义模型；
将所述第二文本输入所述语义模型以进行广告识别，得到识别结果。
4.根据权利要求3所述的隐性广告处理方法，其特征在于，所述根据确定的隐性广告识别方式对所述第二文本进行广告识别，得到识别结果的步骤包括：
当所述文本长度处于第三长度区间时，对所述第二文本进行分句处理，得到多个分句；
按照各分句在所述第二文本中的位置，对所述各分句进行组合得到多个短文本，其中，各短文本包含预设数量的分句，且相邻的短文本包含至少一条相同的分句；
根据所述语义模型对各短文本进行广告识别，得到识别结果。
5.根据权利要求4所述的隐性广告处理方法，其特征在于，所述根据所述语义模型对各短文本进行广告识别，得到识别结果的步骤包括：
将各短文本分别输入所述语义模型以进行广告识别，得到所述各短文本的短文本识别结果；
当存在表示包含隐性广告的短文本识别结果时，生成表示所述第二文本为隐性广告文本的识别结果。
6.根据权利要求1所述的隐性广告处理方法，其特征在于，所述方法还包括：
当根据所述识别结果确定所述第二文本为隐性广告文本时，提取所述第二文本中的广告实体；
根据所述广告实体和所述违规判别结果生成告警信息；
将所述告警信息发送至目标账号所登录的终端。
7.一种隐性广告处理装置，其特征在于，包括：
获取模块，用于获取多个待处理文本，并获取包含多个敏感词的敏感词集合，以及包含多个关键词的关键词集合，其中，敏感词为与隐性广告相关的词语，关键词为与隐性广告科普教育相关的词语；
第一匹配模块，用于将所述敏感词集合与各待处理文本进行文本匹配处理，并将实现文本匹配的待处理文本作为第一文本；
第二匹配模块，用于将所述关键词集合与各第一文本进行文本匹配处理，并将未实现文本匹配的第一文本作为第二文本；
长度获取模块，用于对于每个第二文本，获取所述第二文本的文本长度；
广告识别模块，用于根据所述文本长度确定所述第二文本的隐性广告识别方式，并根据确定的隐性广告识别方式对所述第二文本进行广告识别，得到识别结果；
类型获取模块，用于当根据所述识别结果确定所述第二文本为隐性广告文本时，通过行业分类模型识别所述第二文本中隐性广告的行业类型；
违规判别模块，用于选取与所述行业类型相对应的规则引擎，并根据所述规则引擎对所述第二文本进行违规判别，得到违规判别结果；
所述隐性广告处理装置还包括：
库存获取模块，用于获取由多个隐性广告文本和多个非隐性广告文本构成的库存文本集；
分词处理模块，用于对各隐性广告文本进行分词处理，得到多个分词；
词频计算模块，用于基于所述各隐性广告文本计算各分词的第一逆文件词频，基于所述库存文本集计算所述各分词的第二逆文件词频，以根据所述各分词的第一逆文件词频和第二逆文件词频计算所述各分词的词频比；
分词筛选模块，用于根据所述各分词的词频比、预设的第一阈值和初始敏感词集合对所述各分词进行筛选，得到多个潜在扩充词，潜在扩充词的词频比大于所述第一阈值，且不存在于所述初始敏感词集合；
文本采集模块，用于根据各潜在扩充词采集舆情文本，得到潜在舆情集合；
扩充生成模块，用于获取所述潜在舆情集合中包含隐性广告的舆情文本，得到扩充舆情集合；
第三计算模块，用于对于所述扩充舆情集合中的各潜在扩充词，根据所述扩充舆情集合计算所述各潜在扩充词的第三逆文件词频；
扩充词选取模块，用于获取预设的第二阈值，以选取第三逆文件词频大于所述第二阈值的潜在扩充词；
集合构建模块，用于根据选取到的潜在扩充词和所述初始敏感词集合，构建敏感词集合。
8.一种计算机设备，包括存储器和处理器，其特征在于，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至6中任一项所述的隐性广告处理方法的步骤。
9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至6中任一项所述的隐性广告处理方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311213345.0A CN116956897B (zh) | 2023-09-20 | 2023-09-20 | 隐性广告处理方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311213345.0A CN116956897B (zh) | 2023-09-20 | 2023-09-20 | 隐性广告处理方法、装置、计算机设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116956897A CN116956897A (zh) | 2023-10-27 |
| CN116956897B true CN116956897B (zh) | 2023-12-15 |
Family
ID=88442889
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311213345.0A Active CN116956897B (zh) | 2023-09-20 | 2023-09-20 | 隐性广告处理方法、装置、计算机设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116956897B (zh) |
Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110704615A (zh) * | 2019-09-04 | 2020-01-17 | 北京航空航天大学 | 互联网金融非显性广告识别方法及装置 |
| CN111738011A (zh) * | 2020-05-09 | 2020-10-02 | 完美世界(北京)软件科技发展有限公司 | 违规文本的识别方法及装置、存储介质、电子装置 |
| CN112307175A (zh) * | 2020-12-02 | 2021-02-02 | 龙马智芯（珠海横琴）科技有限公司 | 一种文本处理方法、装置、服务器及计算机可读存储介质 |
| CN113836305A (zh) * | 2021-09-29 | 2021-12-24 | 有米科技股份有限公司 | 基于文本的行业类别识别方法及装置 |
| CN114219514A (zh) * | 2021-10-29 | 2022-03-22 | 浙江省民营经济发展中心(浙江省广告监测中心) | 违法广告识别方法、装置和电子设备 |
| CN114254636A (zh) * | 2021-12-21 | 2022-03-29 | 北京百度网讯科技有限公司 | 文本处理方法、装置、设备及存储介质 |
| CN114677178A (zh) * | 2022-03-31 | 2022-06-28 | 飞书深诺数字科技(上海)股份有限公司 | 一种违规广告检测方法、装置和电子设备 |
| WO2022134575A1 (zh) * | 2020-12-23 | 2022-06-30 | 深圳壹账通智能科技有限公司 | 业务关键词的提取方法、装置、设备及存储介质 |
| WO2022142613A1 (zh) * | 2020-12-28 | 2022-07-07 | 深圳壹账通智能科技有限公司 | 训练语料扩充方法及装置、意图识别模型训练方法及装置 |
| CN115293817A (zh) * | 2022-08-17 | 2022-11-04 | 广州华多网络科技有限公司 | 广告文本生成方法及其装置、设备、介质、产品 |
| CN115396549A (zh) * | 2021-05-25 | 2022-11-25 | 中国联合网络通信集团有限公司 | 通话违规业务处理方法、装置及电子设备 |
| CN115394318A (zh) * | 2022-08-24 | 2022-11-25 | 广州趣丸网络科技有限公司 | 一种音频检测方法和装置 |
| CN116151266A (zh) * | 2022-10-26 | 2023-05-23 | 马上消费金融股份有限公司 | 新词发现方法及装置、电子设备、存储介质 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11501068B2 (en) * | 2013-12-16 | 2022-11-15 | Fairwords, Inc. | Message sentiment analyzer and feedback |
| US11397954B2 (en) * | 2018-04-16 | 2022-07-26 | International Business Machines Corporation | Providing analytics on compliance profiles of type organization and compliance named entities of type organization |
| US11182539B2 (en) * | 2018-11-30 | 2021-11-23 | Thomson Reuters Enterprise Centre Gmbh | Systems and methods for event summarization from data |
-
2023
- 2023-09-20 CN CN202311213345.0A patent/CN116956897B/zh active Active
Patent Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110704615A (zh) * | 2019-09-04 | 2020-01-17 | 北京航空航天大学 | 互联网金融非显性广告识别方法及装置 |
| CN111738011A (zh) * | 2020-05-09 | 2020-10-02 | 完美世界(北京)软件科技发展有限公司 | 违规文本的识别方法及装置、存储介质、电子装置 |
| CN112307175A (zh) * | 2020-12-02 | 2021-02-02 | 龙马智芯（珠海横琴）科技有限公司 | 一种文本处理方法、装置、服务器及计算机可读存储介质 |
| WO2022134575A1 (zh) * | 2020-12-23 | 2022-06-30 | 深圳壹账通智能科技有限公司 | 业务关键词的提取方法、装置、设备及存储介质 |
| WO2022142613A1 (zh) * | 2020-12-28 | 2022-07-07 | 深圳壹账通智能科技有限公司 | 训练语料扩充方法及装置、意图识别模型训练方法及装置 |
| CN115396549A (zh) * | 2021-05-25 | 2022-11-25 | 中国联合网络通信集团有限公司 | 通话违规业务处理方法、装置及电子设备 |
| CN113836305A (zh) * | 2021-09-29 | 2021-12-24 | 有米科技股份有限公司 | 基于文本的行业类别识别方法及装置 |
| CN114219514A (zh) * | 2021-10-29 | 2022-03-22 | 浙江省民营经济发展中心(浙江省广告监测中心) | 违法广告识别方法、装置和电子设备 |
| CN114254636A (zh) * | 2021-12-21 | 2022-03-29 | 北京百度网讯科技有限公司 | 文本处理方法、装置、设备及存储介质 |
| CN114677178A (zh) * | 2022-03-31 | 2022-06-28 | 飞书深诺数字科技(上海)股份有限公司 | 一种违规广告检测方法、装置和电子设备 |
| CN115293817A (zh) * | 2022-08-17 | 2022-11-04 | 广州华多网络科技有限公司 | 广告文本生成方法及其装置、设备、介质、产品 |
| CN115394318A (zh) * | 2022-08-24 | 2022-11-25 | 广州趣丸网络科技有限公司 | 一种音频检测方法和装置 |
| CN116151266A (zh) * | 2022-10-26 | 2023-05-23 | 马上消费金融股份有限公司 | 新词发现方法及装置、电子设备、存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 利用深度学习融合模型提升文本内容安全的研究;汪少敏;王铮;任华;;电信科学(第05期);29-34 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116956897A (zh) | 2023-10-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109271512B (zh) | 舆情评论信息的情感分析方法、装置及存储介质 | |
| CN107679039B (zh) | 用于确定语句意图的方法和装置 | |
| US11062089B2 (en) | Method and apparatus for generating information | |
| CN108629043B (zh) | 网页目标信息的提取方法、装置及存储介质 | |
| JP6661790B2 (ja) | テキストタイプを識別する方法、装置及びデバイス | |
| CN109815487B (zh) | 文本质检方法、电子装置、计算机设备及存储介质 | |
| CN106960030B (zh) | 基于人工智能的推送信息方法及装置 | |
| CN110263248B (zh) | 一种信息推送方法、装置、存储介质和服务器 | |
| JP2019519019A5 (zh) | ||
| CN113095076B (zh) | 敏感词识别方法、装置、电子设备及存储介质 | |
| CN114780727A (zh) | 基于强化学习的文本分类方法、装置、计算机设备及介质 | |
| US20180329985A1 (en) | Method and Apparatus for Compressing Topic Model | |
| CN110427453B (zh) | 数据的相似度计算方法、装置、计算机设备及存储介质 | |
| CN111753087A (zh) | 舆情文本分类方法、装置、计算机设备和存储介质 | |
| CN111782793A (zh) | 智能客服处理方法和系统及设备 | |
| CN112905753A (zh) | 一种判别文本信息的方法和装置 | |
| CN113569118B (zh) | 自媒体推送方法、装置、计算机设备及存储介质 | |
| CN111191011B (zh) | 一种文本标签的搜索匹配方法、装置、设备及存储介质 | |
| WO2018205459A1 (zh) | 获取目标用户的方法、装置、电子设备及介质 | |
| CN116956897B (zh) | 隐性广告处理方法、装置、计算机设备及存储介质 | |
| CN113095073B (zh) | 语料标签生成方法、装置、计算机设备和存储介质 | |
| CN114817478A (zh) | 基于文本的问答方法、装置、计算机设备及存储介质 | |
| CN113743721A (zh) | 营销策略生成方法、装置、计算机设备及存储介质 | |
| CN113392218A (zh) | 文本质量评估模型的训练方法和确定文本质量的方法 | |
| CN113792549B (zh) | 一种用户意图识别的方法、装置、计算机设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |