CN113536087A - 作弊站点的识别方法、装置、设备、存储介质及程序产品 - Google Patents
作弊站点的识别方法、装置、设备、存储介质及程序产品 Download PDFInfo
- Publication number
- CN113536087A CN113536087A CN202110742347.3A CN202110742347A CN113536087A CN 113536087 A CN113536087 A CN 113536087A CN 202110742347 A CN202110742347 A CN 202110742347A CN 113536087 A CN113536087 A CN 113536087A
- Authority
- CN
- China
- Prior art keywords
- cheating
- site
- link relation
- link
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/955—Retrieval from the web using information identifiers, e.g. uniform resource locators [URL]
- G06F16/9566—URL specific, e.g. using aliases, detecting broken or misspelled links
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开公开了作弊站点的识别方法、装置、设备、存储介质及程序产品,涉及涉及计算机技术领域,特别是涉及内容推荐领域。具体实现方案为:提取待识别站点中各个网页的链接关系;基于链接关系构造链接关系图;基于链接关系图,通过预先训练好的模型确定识别结果,识别结果包括待识别站点是作弊站点或者待识别站点不是作弊站点。本公开公开的作弊站点的识别方法、装置、设备、存储介质及程序产品,能够扩展识别范围。
Description
技术领域
本公开涉及计算机技术领域,特别是涉及内容推荐领域。
背景技术
互联网中,各种各样的站点给人们带来了丰富的知识,提供了大量的服务,这些知识和服务是搜索引擎用来满足用户的关键资源。同时,网络中也存在着一些作弊站点,企图通过各种作弊手段,让搜索引擎收录并索引,从而被用户访问到,以达到其作弊目的。
发明内容
本公开提供了一种作弊站点的识别方法、装置、设备、存储介质及程序产品。
根据本公开的第一方面,提供了一种作弊站点的识别方法,包括:
提取待识别站点中各个网页的链接关系;
基于所述链接关系构造链接关系图;
基于所述链接关系图,通过预先训练好的模型确定识别结果,所述识别结果包括所述待识别站点是作弊站点或者所述待识别站点不是作弊站点。
根据本公开的第二方面,提供了一种作弊站点的识别装置,包括:
第一提取模块,用于提取待识别站点中各个网页的链接关系;
第一构造模块,用于基于所述链接关系构造链接关系图;
识别模块,用于基于所述链接关系图,通过预先训练好的模型确定识别结果,所述识别结果包括所述待识别站点是作弊站点或者所述待识别站点不是作弊站点。
根据本公开的第三方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面中任一项所述的方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行第一方面中任一项所述的方法。
根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现第一方面任一项所述的方法。
本公开实施例提供的作弊站点的识别方法、装置、设备、存储介质及程序产品,可以提取待识别站点中各个网页的链接关系;基于链接关系构造链接关系图;基于链接关系图,通过预先训练好的模型,得到识别结果,识别结果包括待识别站点是作弊站点或者待识别站点不是作弊站点。
因为正常站点(非作弊站点)的链接关系一般是逐级指向一些网页,会存在一些较好的组织的目录结构,而作弊站点在作弊过程中的核心目标是作弊站点希望在爬虫爬取过程中,爬虫在本站来索引更多内容,如此会生成较多的互相链接的网页,从而导致链接关系比较混乱,简单理解,作弊站点的链接关系不同于正常站点的链接关系。本公开实施例提取待识别站点中网页的链接关系;基于链接关系构造链接关系图;基于链接关系图,通过预先训练好的模型确定识别结果,网页的链接关系是每个站点均具有的信息,利用站点中链接关系构成的链接关系图进行作弊站点的识别,可以识别任何形式的作弊站点,扩展识别范围。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的作弊站点的识别方法的流程图;
图2A是用于说明本公开实施例中网页链接关系的一种流程图;
图2B是用于说明本公开实施例中网页链接关系的另一种流程图;
图3A是本公开实施例中正常站点链接关系图的示意图;
图3B是本公开实施例中作弊站点链接关系图的示意图;
图4是本公开实施例中训练得到模型的流程图;
图5是本公开实施例中基于链接关系图,通过预先训练好的模型确定识别结果的流程图;
图6是本公开实施例中作弊站点的识别装置的一种结构示意图;
图7是本公开实施例中作弊站点的识别装置的另一种结构示意图;
图8是用来实现本公开实施例的作弊站点的识别方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
作弊,是指利用各种技术手段,欺骗搜索引擎和用户,获取不符合自身价值的收录和分发。
已有技术中有针对站点中的网页,提取网页的标题、正文,然后,判断网页的标题、正文中是否包含重复出现的内容,如果包含,则继续判断重复出现的内容重复出现的概率是否符合预设规律,如重复出现的概率大于预设值,则判断该网页作弊。现有这种方式仅能识别出利用关键词重复这种形式导致的作弊,识别范围有限。当有其他形式的作弊时,识别的准确度低甚至无法进行识别。
为了扩展对作弊站点识别的识别范围,本公开实施例利用作弊站点链接关系的异常进行作弊站点的识别。因为正常站点(非作弊站点)的链接关系一般是逐级指向一些网页,会存在一些组织较好的目录结构,而作弊站点在作弊过程中的核心目标是作弊站点希望在爬虫爬取过程中,爬虫在本站来索引更多内容,如此会生成较多的互相链接的网页,从而导致链接关系比较混乱,简单理解,作弊站点的链接关系不同于正常站点的链接关系。本公开实施例可以利用作弊站点中网页链接关系的异常进行作弊站点的识别,提取待识别站点中网页的链接关系;基于链接关系构造链接关系图;基于链接关系图,通过预先训练好的模型,得到识别结果,如此可以识别任何形式的作弊站点,扩展对作弊站点的识别范围,能够应对作弊的多样性以及变化性,提高对作弊站点识别的普适性和鲁棒性。
本公开提供了一种作弊站点的识别方法,如图1所示,可以包括:
S101,提取待识别站点中各个网页的链接关系;
S102,基于链接关系构造链接关系图;
S103,基于链接关系图,通过预先训练好的模型确定识别结果,识别结果包括待识别站点是作弊站点或者待识别站点不是作弊站点。
本公开中可以利用作弊站点中网页链接关系的异常进行作弊站点的识别,提取待识别站点中网页的链接关系;基于链接关系构造链接关系图;基于链接关系图,通过预先训练好的模型,得到识别结果,如此可以识别任何形式的作弊站点,扩展对作弊站点的识别范围,能够应对作弊的多样性以及变化性,提高对作弊站点识别的普适性和鲁棒性。
参照图1,对本公开提供的作弊站点的识别方法进行详细说明。
S101,提取待识别站点中各个网页的链接关系。
一个站点由多个网页组成,而这些网页之间根据链接关系确定相互之间的导航关系。针对每个网页,链接关系用于表示网页与其他网页的指向关系。具体地,链接关系可以包括网页分别与各个指向网页的指向关系,各个指向网页为网页中存在的各个选项分别指向的网页。
例如,当前是网页1,参见图2A,网页1中存在选项11、选项12……选项1N,点击每个选项后,均可以跳转至另一个网页,如点击选项11后就跳转到网页2,点击选项后跳转到的网页则为该选项指向的网页,如网页2即为网页1中选项11指向的网页。其中,N为网页1中存在的选项的数量。参见图2B,网页2中存在选项21、选项22……选项2M,M为网页2中存在的选项的数量,M与N可以相同,也可以不同。
网页的链接关系可以通过网页的地址与各个指向网页的网址来表示,如,针对网址为A的网页,其链接关系可以包括A->B1(表示A指向B1)、A->B2(表示A指向B2)和A->B3(表示A指向B3),B1为网页的一指向网页的网址,B2为网页的另一指向网页的网址,B3为网页的又一指向网页的网址,其中,A、B1、B2和B3可以为统一资源定位符(Uniform ResourceLocator,URL)地址。
一种可实现方式中,可以通过爬虫抓取待识别站点中的各个网页;提取各个网页上存在的链接,链接可以理解为网页的网址,网页上存在的链接即可以理解为网页中选项所指向的网址。然后,针对每个网页,建立该网页分别与网页中存在的各个链接的链接关系。
S102,基于链接关系构造链接关系图。
待识别站点中每个网页均有链接关系,将待识别站点中各个网页的链接关系组合起来以得到链接关系图。
可以按照各个网页的链接关系,对待识别站点中网页进行链接,得到链接关系图。
链接关系用于表示网页与其他网页的指向关系,针对各个网页,将该网页与该网页指向的其他网页建立链接,如此可以得到链接关系图。
如此,通过链接关系图中网页之间是否有链接反映各个网页的链接关系,能够更直观地反映网页之间的链接关系。
一种可实现方式中,可以以至少一个网页分别作为一个节点,并在节点对应的网页与其他网页存在链接关系时,对节点与其他网页对应的节点建立链接,得到链接关系图。将网页作为节点,可以更方便地对有链接关系的网页建立链接,即可以更方便地得到链接关系图。
具体地,可以以至少一个网页分别作为一个节点,并在节点对应的网页与其他网页存在链接关系时,以节点与其他网页对应的节点作为端点作有向边,得到链接关系图。
有向边为节点指向其他网页对应的节点的边。
链接关系图包括待识别站点中各个网页分别与其他网页的指向关系。
通过这种方式构造的链接关系图可以清楚、全面地反映站点中网页的链接关系。
因为正常站点(非作弊站点)的链接关系一般是逐级指向一些网页,会存在一些较好的组织的目录结构,而作弊站点在作弊过程中的核心目标是作弊站点希望在爬虫爬取过程中,爬虫在本站来索引更多内容,如此会生成较多的互相链接的网页,从而导致链接关系比较混乱,即作弊站点的链接关系相比较于正常站点的链接关系是异常的,而链接关系图是基于链接关系构成的,如此会使得针对作弊站点得到的链接图不同于针对正常站点得到的链接关系图。
图3A是本公开实施例中正常站点链接关系图的示意图。正常站点网页之间的链接关系有一定的组织和关联,一般都是跟本网页内容相关的一些其他网页的内容,所以会成簇聚集在一起,如此,在构成的链接关系图中会形成成簇聚集非对称的成团结构,如图3A所示。
图3B是本公开实施例中作弊站点链接关系图的示意图。作弊站点的网页之间,随机产生链接关系,没有组织,如此会使得形成的链接关系图中网页不聚集而是分散的,会对称性很强,如图3B所示。
作弊站点作弊的核心目标希望在爬虫爬取过程中,爬虫在本站来索引更多内容,如此会生成较多的互相链接的网页,从而导致链接关系比较混乱。本公开实施例中利用作弊站点链接关系混乱的特性对作弊站点进行识别。
S103,基于链接关系图,通过预先训练好的模型确定识别结果。
识别结果包括待识别站点是作弊站点或者待识别站点不是作弊站点。
简单理解,利用模型对链接关系图进行分类。每一站点都可以得到对应的链接关系图,即可以理解为利用模型对站点是否作弊进行分类,实现对作弊站点的识别。
为了利用模型确定识别结果,可以预先训练得到模型。获取多个样本站点的作弊真值,并提取每个样本站点网页中的链接关系,将所提取出的链接关系作为样本链接关系,基于样本链接关系构造样本链接关系图,基于各个样本站点的作弊真值和样本链接关系图训练得到模型。
一种可实现方式中,训练得到模型的过程如图4所示,可以包括如下步骤:
S401,获取多个样本站点的作弊真值,并提取每个样本站点网页中的链接关系,将所提取出的链接关系作为样本链接关系。
作弊真值可以是人工标记的标签值,或者,也可以是通过自动标记的方式进行标记的标签值。本公开实施例不对得到作弊真值的方式进行限定,任何可以实现标记的方式均包含在本公开实施例的保护范围内。
一种可实现方式中,标记人员可以明确样本站点是否作弊,则可以直接标记出样本站点是否作弊。作弊真值可以表示样本站点是否作弊,如1表示作弊,0表示没有作弊。
另一种可实现方式中,标记人员有可能无法明确作弊站点是否作弊或者仅粗略分析了作弊站点,这种情况下,也可以仅分析作弊站点作弊的概率,标记样本站点是作弊站点的概率值,即作弊真值可以表示样本站点是作弊站点的概率值,如35%、50%、67%、76%、85%、90%,等等。
S402,基于样本链接关系构造样本链接关系图。
提取样本站点网页中的链接关系,基于样本链接关系构造样本链接关系图与S101至S102中提取待识别站点中各个网页的链接关系,基于链接关系构造链接关系图的过程类似,参照上述S101至S102即可。
S403,基于多个样本站点分别对应的作弊真值和样本链接关系图,对初始模型进行训练,得到训练好的模型,训练好的模型包括满足预设训练结束条件的模型参数。
具体地,将样本站点对应的作弊真值和样本链接关系图输入初始模型,并将初始模型的输出与作弊真值进行比较,基于比较结果调整初始模型的模型参数。
初始模型可以为基于有监督学习的模型、半监督学习的模型或无监督学习的模型。例如,可以为深度神经网络、深度信念网络、循环神经网络和卷积神经网络,等等。
可以理解为,将一样本站点的作弊真值和样本链接关系图作为一个样本对,多个样本站点即对应多个样本对,通过多个样本对初始模型进行调参。
调整模型参数的目的是为了使得初始模型的输出无限逼近于作弊真值,理想结果是初始模型的输出与作弊真值相同。
比较结果即初始模型的输出与作弊真值的差异,通过调整初始模型的模型参数使得该差异足够小,具体可以是该差异小于预设差异阈值,或者可以是该差异达到收敛时,停止针对该比较结果调整初始模型的模型参数的过程,其中,预设差异阈值可以根据实际需求或者经验值等确定,如可以是0.01、0.02、0.001等。
判断是否满足训练结束条件。
如果满足,则将满足训练结束条件时的模型参数作为最终模型参数,得到包括最终模型参数的模型。
如果不满足,则继续通过将样本站点对应的作弊真值和样本链接关系图输入初始模型,并将初始模型的输出与作弊真值进行比较,基于比较结果调整初始模型的模型参数。
训练结束条件可以是迭代次数达到预设迭代次数,该预设迭代次数可以根据实际需求或者经验值等确定,如500次、1000次等等。或者,也可以初始模型的输出与作弊真值的差异达到收敛。
训练得到模型后,可以基于链接关系图,通过预先训练好的模型确定识别结果。利用预先训练好的模型直接确定识别结果,可以降低计算复杂度。
一种可实现方式中,作弊真值可以表示样本站点是否作弊,可以理解为,通过训练过程模型学习到链接关系图与站点是否作弊的对应关系,如此,将一链接关系图输入模型,该模型可以直接输出站点是否作弊的结果。
这种情况下,S103可以包括:
将链接关系图输入预先训练好的模型,通过预先训练好的模型输出作弊标识信息,并将作弊标识信息作为识别结果。
其中,作弊标识是表示待识别站点是否作弊的标识。
另一种可实现方式中,作弊真值表示样本站点是作弊站点的概率值;可以理解为,通过训练过程模型学习到链接关系图与站点作弊概率值的对应关系,如此,将一链接关系图输入模型,该模型可以输出站点作弊的概率值,然后再基于该概率值确定识别结果。
这种情况下,如图5所示,S103可以包括:
S1031,将链接关系图输入预先训练好的模型,通过预先训练好的模型输出待识别站点是作弊站点的概率。
S1032,判断输出的概率是否大于等于作弊概率阈值。
如果输出的概率是否大于等于作弊概率阈值,则执行S1033;如果输出的概率是否小于作弊概率阈值,则执行S1034。
S1033,确定识别结果为待识别站点是作弊站点。
S1034,确定识别结果为待识别站点不是作弊站点。
作弊阈值可以根据实际需求或者经验值等确定,例如可以为80%、90%等等。
因模型训练过程中有可能无法明确作弊站点是否作弊或者仅粗略分析了作弊站点等,标记的作弊真值表示的是样本站点是作弊站点的概率值,如此,利用样本站点的该作弊真值训练得到的模型学习到链接关系图与站点作弊概率值的对应关系,这种情况下,也可以利用模型确定识别结果,避免仅能利用模型直接输出识别结果的局限性,使得利用模型确定识别结果的应用更广泛。
本公开中可以利用作弊站点中网页链接关系的异常进行作弊站点的识别,即利用作弊站点链接关系混乱的特性对作弊站点进行识别,作弊站点为了实现其目标:希望在爬虫爬取过程中,爬虫在本站来索引更多内容,就会导致其链接关系比较混乱,无论是以何种方式作弊均会导致这样的结果,如此,利用作弊站点链接关系混乱的特性对作弊站点进行识别,即可以识别任何形式的作弊站点,如此可以扩展对作弊站点的识别范围,能够应对作弊的多样性以及变化性,提高对作弊站点识别的普适性和鲁棒性。且本公开实施例可以预先训练得到模型,得到链接关系图后可以直接通过模型对站点进行分类,即通过预先训练好的模型确定识别结果,如此还可以降低计算复杂度。
本公开还公开了一种作弊站点的识别装置,如图6所示,可以包括:
第一提取模块601,用于提取待识别站点中各个网页的链接关系;
第一构造模块602,用于基于链接关系构造链接关系图;
识别模块603,用于基于链接关系图,通过预先训练好的模型确定识别结果,识别结果包括待识别站点是作弊站点或者待识别站点不是作弊站点。
可选的,其中,链接关系包括网页分别与各个指向网页的指向关系,各个指向网页为网页中存在的各个选项分别指向的网页;
第一构造模块602,具体用于可以按照各个网页的链接关系,对待识别站点中网页进行链接,得到链接关系图。
可选的,第一构造模块602,具体用于以至少一个网页作为一个节点,并在节点对应的网页与其他网页存在链接关系时,对节点与其他网页对应的节点建立链接,得到链接关系图。
可选的,如图7所示,装置还包括:
获取模块701,用于获取多个样本站点的作弊真值;
第二提取模块702,用于提取每个样本站点网页中的链接关系,将所提取出的链接关系作为样本链接关系;
第二构造模块703,用于基于样本链接关系构造样本链接关系图;
训练模块704,用于将各个样本站点分别对应的作弊真值和样本链接关系图输入初始模型,并将初始模型的输出与作弊真值进行比较,基于比较结果调整初始模型的模型参数;判断是否满足训练结束条件,如果满足,则将满足训练结束条件时的模型参数作为最终模型参数,得到包括最终模型参数的模型。
可选的,作弊真值表示样本站点是否作弊;
识别模块603,具体用于将链接关系图输入预先训练好的模型,通过预先训练好的模型输出作弊标识信息,并将作弊标识信息作为识别结果,其中,作弊标识是表示待识别站点是否作弊的标识。
可选的,作弊真值表示样本站点是作弊站点的概率值;
识别模块603,具体用于将链接关系图输入预先训练好的模型,通过预先训练好的模型输出待识别站点是作弊站点的概率;当概率大于等于作弊概率阈值时,则确定识别结果为待识别站点是作弊站点;当概率小于作弊概率阈值时,则确定识别结果为待识别站点不是作弊站点。
本公开实施例提供的作弊站点的识别装置是应用上述作弊站点的识别方法的装置,则上述作弊站点的识别方法的所有实施例均适用于该装置,且均能达到相同或相似的有益效果。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示,设备800包括计算单元801,其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序,来执行各种适当的动作和处理。在RAM 803中,还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元808,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如作弊站点的识别方法。例如,在一些实施例中,作弊站点的识别方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时,可以执行上文描述的作弊站点的识别方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行作弊站点的识别方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (15)
1.一种作弊站点的识别方法,包括:
提取待识别站点中各个网页的链接关系;
基于所述链接关系构造链接关系图;
基于所述链接关系图,通过预先训练好的模型确定识别结果,所述识别结果包括所述待识别站点是作弊站点或者所述待识别站点不是作弊站点。
2.根据权利要求1所述的方法,其中,所述链接关系包括所述网页分别与各个指向网页的指向关系,各个指向网页为所述网页中存在的各个选项分别指向的网页;
所述基于所述链接关系构造链接关系图,包括:
按照各个网页的所述链接关系,对所述待识别站点中网页进行链接,得到所述链接关系图。
3.根据权利要求2所述的方法,其中,所述按照各个网页的所述链接关系,对所述待识别站点中网页进行链接,得到所述链接关系图,包括:
以至少一个网页作为节点,并在所述节点对应的网页与其他网页存在所述链接关系时,对所述节点与所述其他网页对应的节点建立链接,得到链接关系图。
4.根据权利要求1所述的方法,在所述基于所述链接关系图,通过预先训练好的模型确定识别结果之前,所述方法还包括:
获取多个样本站点的作弊真值,并提取每个样本站点网页中的链接关系,将所提取出的链接关系作为样本链接关系;
基于所述样本链接关系构造样本链接关系图;
基于多个样本站点分别对应的所述作弊真值和所述样本链接关系图,对初始模型进行训练,得到训练好的模型,所述训练好的模型包括满足预设训练结束条件的模型参数。
5.根据权利要求4所述的方法,其中,所述作弊真值表示样本站点是否作弊;
所述基于所述链接关系图,通过预先训练好的模型确定识别结果,包括:
将所述链接关系图输入预先训练好的模型,通过预先训练好的模型输出作弊标识信息,并将所述作弊标识信息作为所述识别结果,其中,所述作弊标识是表示所述待识别站点是否作弊的标识。
6.根据权利要求4所述的方法,其中,所述作弊真值表示样本站点是作弊站点的概率值;
所述基于所述链接关系图,通过预先训练好的模型确定识别结果,包括:
将所述链接关系图输入预先训练好的模型,通过预先训练好的模型输出所述待识别站点是作弊站点的概率;
当所述概率大于等于作弊概率阈值时,则确定识别结果为所述待识别站点是作弊站点;
当所述概率小于所述作弊概率阈值时,则确定识别结果为所述待识别站点不是作弊站点。
7.一种作弊站点的识别装置,包括:
第一提取模块,用于提取待识别站点中各个网页的链接关系;
第一构造模块,用于基于所述链接关系构造链接关系图;
识别模块,用于基于所述链接关系图,通过预先训练好的模型确定识别结果,所述识别结果包括所述待识别站点是作弊站点或者所述待识别站点不是作弊站点。
8.根据权利要求7所述的装置,其中,所述链接关系包括所述网页分别与各个指向网页的指向关系,各个指向网页为所述网页中存在的各个选项分别指向的网页;
所述第一构造模块,具体用于按照各个网页的所述链接关系,对所述待识别站点中网页进行链接,得到所述链接关系图。
9.根据权利要求7所述的装置,其中,所述第一构造模块,具体用于以至少一个网页分别作为一个节点,并在所述节点对应的网页与其他网页存在所述链接关系时,对所述节点与所述其他网页对应的节点建立链接,得到链接关系图。
10.根据权利要求7所述的装置,所述装置还包括:
获取模块,用于获取多个样本站点的作弊真值;
第二提取模块,用于提取每个样本站点网页中的链接关系,将所提取出的链接关系作为样本链接关系;
第二构造模块,用于基于所述样本链接关系构造样本链接关系图;
训练模块,用于将样本站点对应的所述作弊真值和所述样本链接关系图输入初始模型,并将所述初始模型的输出与所述作弊真值进行比较,基于比较结果调整所述初始模型的模型参数;判断是否满足训练结束条件,如果满足,则将满足所述训练结束条件时的模型参数作为最终模型参数,得到包括所述最终模型参数的模型。
11.根据权利要求10所述的装置,其中,所述作弊真值表示样本站点是否作弊;
所述识别模块,具体用于将所述链接关系图输入预先训练好的模型,通过预先训练好的模型输出作弊标识信息,并将所述作弊标识信息作为所述识别结果,其中,所述作弊标识是表示所述待识别站点是否作弊的标识。
12.根据权利要求10所述的装置,其中,所述作弊真值表示样本站点是作弊站点的概率值;
所述识别模块,具体用于将所述链接关系图输入预先训练好的模型,通过预先训练好的模型输出所述待识别站点是作弊站点的概率;当所述概率大于等于作弊概率阈值时,则确定识别结果为所述待识别站点是作弊站点;当所述概率小于所述作弊概率阈值时,则确定识别结果为所述待识别站点不是作弊站点。
13.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。
15.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110742347.3A CN113536087B (zh) | 2021-06-30 | 2021-06-30 | 作弊站点的识别方法、装置、设备、存储介质及程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110742347.3A CN113536087B (zh) | 2021-06-30 | 2021-06-30 | 作弊站点的识别方法、装置、设备、存储介质及程序产品 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113536087A true CN113536087A (zh) | 2021-10-22 |
CN113536087B CN113536087B (zh) | 2022-05-17 |
Family
ID=78097499
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110742347.3A Active CN113536087B (zh) | 2021-06-30 | 2021-06-30 | 作弊站点的识别方法、装置、设备、存储介质及程序产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113536087B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114172725A (zh) * | 2021-12-07 | 2022-03-11 | 百度在线网络技术(北京)有限公司 | 非法网站的处理方法、装置、电子设备和存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101350011A (zh) * | 2007-07-18 | 2009-01-21 | 中国科学院自动化研究所 | 一种基于小样本集的搜索引擎作弊检测方法 |
CN107545179A (zh) * | 2017-07-11 | 2018-01-05 | 宁波大学 | 一种垃圾网页识别方法 |
CN113011167A (zh) * | 2021-02-09 | 2021-06-22 | 腾讯科技(深圳)有限公司 | 基于人工智能的作弊识别方法、装置、设备及存储介质 |
-
2021
- 2021-06-30 CN CN202110742347.3A patent/CN113536087B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101350011A (zh) * | 2007-07-18 | 2009-01-21 | 中国科学院自动化研究所 | 一种基于小样本集的搜索引擎作弊检测方法 |
CN107545179A (zh) * | 2017-07-11 | 2018-01-05 | 宁波大学 | 一种垃圾网页识别方法 |
CN113011167A (zh) * | 2021-02-09 | 2021-06-22 | 腾讯科技(深圳)有限公司 | 基于人工智能的作弊识别方法、装置、设备及存储介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114172725A (zh) * | 2021-12-07 | 2022-03-11 | 百度在线网络技术(北京)有限公司 | 非法网站的处理方法、装置、电子设备和存储介质 |
CN114172725B (zh) * | 2021-12-07 | 2023-11-14 | 百度在线网络技术(北京)有限公司 | 非法网站的处理方法、装置、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113536087B (zh) | 2022-05-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114329201B (zh) | 深度学习模型的训练方法、内容推荐方法和装置 | |
CN112579729B (zh) | 文档质量评价模型的训练方法、装置、电子设备和介质 | |
CN112231592A (zh) | 基于图的网络社团发现方法、装置、设备以及存储介质 | |
CN114363019A (zh) | 钓鱼网站检测模型的训练方法、装置、设备及存储介质 | |
CN112650910A (zh) | 确定网站更新信息的方法、装置、设备和存储介质 | |
CN113704420A (zh) | 文本中的角色识别方法、装置、电子设备及存储介质 | |
CN113392920B (zh) | 生成作弊预测模型的方法、装置、设备、介质及程序产品 | |
CN113536087B (zh) | 作弊站点的识别方法、装置、设备、存储介质及程序产品 | |
CN113919424A (zh) | 文本处理模型的训练、文本处理方法、装置、设备和介质 | |
CN114090601A (zh) | 一种数据筛选方法、装置、设备以及存储介质 | |
CN114037059A (zh) | 预训练模型、模型的生成方法、数据处理方法及装置 | |
CN113190746A (zh) | 推荐模型的评估方法、装置及电子设备 | |
CN112528146A (zh) | 内容资源推荐方法、装置、电子设备及存储介质 | |
CN117271884A (zh) | 确定推荐内容的方法、装置、电子设备及存储介质 | |
CN114647739B (zh) | 实体链指方法、装置、电子设备及存储介质 | |
US20230052623A1 (en) | Word mining method and apparatus, electronic device and readable storage medium | |
CN114662469B (zh) | 情感分析方法、装置、电子设备及存储介质 | |
CN113961811B (zh) | 基于事件图谱的话术推荐方法、装置、设备及介质 | |
JP2024507029A (ja) | ウェブページ識別方法、装置、電子機器、媒体およびコンピュータプログラム | |
CN109299353A (zh) | 一种网页信息搜索方法及装置 | |
CN115131058A (zh) | 账号识别方法、装置、设备及存储介质 | |
CN114254028A (zh) | 事件属性抽取方法、装置、电子设备和存储介质 | |
CN114707638A (zh) | 模型训练、对象识别方法及装置、设备、介质和产品 | |
CN114048315A (zh) | 确定文档标签的方法、装置、电子设备和存储介质 | |
CN114841172A (zh) | 文本匹配双塔模型的知识蒸馏方法、装置及程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |