CN106487759A - 一种检测推广url有效性和安全性的方法和装置 - Google Patents

一种检测推广url有效性和安全性的方法和装置 Download PDF

Info

Publication number
CN106487759A
CN106487759A CN201510541920.9A CN201510541920A CN106487759A CN 106487759 A CN106487759 A CN 106487759A CN 201510541920 A CN201510541920 A CN 201510541920A CN 106487759 A CN106487759 A CN 106487759A
Authority
CN
China
Prior art keywords
url
popularization
detection
service device
detection service
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201510541920.9A
Other languages
English (en)
Inventor
潘青
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Qihoo Technology Co Ltd
Qizhi Software Beijing Co Ltd
Original Assignee
Beijing Qihoo Technology Co Ltd
Qizhi Software Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Qihoo Technology Co Ltd, Qizhi Software Beijing Co Ltd filed Critical Beijing Qihoo Technology Co Ltd
Priority to CN201510541920.9A priority Critical patent/CN106487759A/zh
Publication of CN106487759A publication Critical patent/CN106487759A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • H04L63/1416—Event detection, e.g. attack signature detection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1441—Countermeasures against malicious traffic
    • H04L63/145—Countermeasures against malicious traffic the attack involving the propagation of malware through the network, e.g. viruses, trojans or worms

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Virology (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明公开了一种检测推广URL有效性和安全性的方法和装置，包括：获取待检测的推广URL；将每个推广URL下发给爬虫程序，由爬虫程序通过访问收到的推广URL，获得推广URL的有效性的检测结果；以及，对于每个待检测的推广URL，查询缓存中是否存在该推广URL；如果不存在则通过调用安全检测接口，对该推广URL进行安全检测，获得该推广URL的安全性检测结果，如果安全性检测结果表示该推广URL非恶意，则将该推广URL保存到缓存中；如果存在则直接确定该推广URL为非恶意。本方案能够快速、准确地获知推广URL的有效性和安全性检测结果，并且对于已检测出为非恶意的推广URL，无需重复调用第三方安全检测接口进行检测，大大减轻了安全检测服务器的负荷，大幅提高检测效率。

Description

一种检测推广URL有效性和安全性的方法和装置
技术领域
本发明涉及互联网技术领域，具体涉及一种检测推广URL有效性和安全性的方法和装置。
背景技术
随着互联网技术的不断发展，互联网用户日益增多，形成巨大的推广受众，越来越多的具有推广需求的推广方希望通过互联网进行推广和宣传，以提高推广效率。通常情况下，推广方通过URL链接的方式将推广内容发布给浏览者，该URL表征了一个具体的推广内容在互联网上的地址，被称作“推广URL”，当浏览者点击推广URL时，对应的目标推广内容将显示在浏览器上，并且根据目标推广内容的类型进行打开和运行，实现了向浏览者推送推广内容的方案。
然而，当推广URL中包含的目标推广内容的信息发生异常，如信息过期或信息删除等情况时，将导致浏览者无法访问该推广URL，即该推广URL失效，成为失效的推广URL。此外，如果推广URL被植入恶意代码或被挂载木马，成为恶意的推广URL，浏览者在访问该推广URL时，这些恶意程序会侵入浏览者的计算机系统使之感染恶意代码或计算机病毒。大量的失效的推广URL和恶意的推广URL在白白占用互联网资源的同时，不仅无法满足推广方的推广需求、无法满足浏览者对推广内容的浏览需求，还对浏览者的信息安全造成极大的威胁；因此，对推广URL有效性和安全性的检测至关重要。
目前，在发布的推广URL中，有相当一部分推广URL尤其是人工维护的推广URL，只通过人工来检测推广URL的有效性和安全性，该检测方案效率较低且检测结果误差较大。
发明内容
鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的一种检测推广URL有效性和安全性的方法和装置。
依据本发明的一个方面，提供了一种检测推广URL有效性和安全性的方法，该方法包括：
获取待检测的推广URL；
将每个待检测的推广URL下发给爬虫程序，由爬虫程序通过访问收到的推广URL，获得推广URL的有效性的检测结果；以及，
对于每个待检测的推广URL，查询缓存中是否存在该推广URL；如果不存在则通过调用安全检测服务器的安全检测接口，对该推广URL进行安全检测，获得该推广URL的安全性检测结果，如果安全性检测结果表示该推广URL非恶意，则将该推广URL保存到缓存中；如果存在则直接确定该推广URL为非恶意。
可选地，所述将该推广URL保存到缓存中包括：将该推广URL以布隆过滤器的数据结构形式保存到缓存中。
可选地，所述将每个待检测的推广URL下发给爬虫程序包括：按照预设策略从检测服务器集群中选择一个检测服务器，将该推广URL发送给该选择的检测服务器；检测服务器将收到的推广URL下发给爬虫调度器；爬虫调度器将收到的推广URL下发给相应的爬虫程序；
在所述获得推广URL的有效性的检测结果之后，该方法进一步包括：爬虫程序将获得的推广URL有效性的检测结果返回给相应的爬虫调度器，再由爬虫调度器返回给相应的检测服务器。
可选地，所述检测服务器集群中包括多个检测服务器组，每个检测服务器组中包括多个检测服务器；
则所述按照预设策略从检测服务器集群中选择一个检测服务器包括：根据该推广URL的域名的哈希值从检测服务器集群中选择一个检测服务器组，从选择的该检测服务器组中选择一个检测服务器。
可选地，所述从选择的该检测服务器组中选择一个检测服务器包括：向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间，选择当前响应时间最短的检测服务器。
可选地，所述从选择的该检测服务器组中选择一个检测服务器包括：
向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间；
将当前响应时间最短的检测服务器与前一次检测所述推广URL时选择的检测服务器的当前响应时间进行比较，如果二者差距超过预设范围，则选择当前响应时间最短的检测服务器；如果二者差距未超过预设范围，则沿用前一次检测所述推广URL时选择的检测服务器。
可选地，所述方法进一步包括：所述选择的该检测服务器组中的各检测服务器同步保存爬虫调度器返回的推广URL有效性的检测结果。
可选地，所述检测服务器将收到的推广URL下发给爬虫调度器包括：检测服务器将收到的推广URL分发到与该推广URL的IP地址属于同一地区的爬虫调度器上。
依据本发明的另一个方面，提供了一种检测推广URL有效性和安全性的装置，该装置包括：
获取单元，适于获取待检测的推广URL；
有效性检测单元，适于将每个待检测的推广URL下发给爬虫程序，由爬虫程序通过访问收到的推广URL，获得推广URL的有效性的检测结果；
安全性检测单元，适于对于每个待检测的推广URL，查询缓存中是否存在该推广URL；如果不存在则通过调用安全检测服务器的安全检测接口，对该推广URL进行安全检测，获得该推广URL的安全性检测结果，如果安全性检测结果表示该推广URL非恶意，则将该推广URL保存到缓存中；如果存在则直接确定该推广URL为非恶意。
可选地，所述安全性检测单元，适于将该推广URL以布隆过滤器的数据结构形式保存到缓存中。
可选地，所述有效性检测单元，适于按照预设策略从检测服务器集群中选择一个检测服务器，将该推广URL发送给该选择的检测服务器；利用检测服务器将收到的推广URL下发给爬虫调度器；利用爬虫调度器将收到的推广URL下发给相应的爬虫程序；
所述有效性检测单元，进一步适于利用爬虫程序将获得的推广URL有效性的检测结果返回给相应的爬虫调度器，再由爬虫调度器返回给相应的检测服务器。
可选地，所述检测服务器集群中包括多个检测服务器组，每个检测服务器组中包括多个检测服务器；
所述有效性检测单元，适于根据该推广URL的域名的哈希值从检测服务器集群中选择一个检测服务器组，从选择的该检测服务器组中选择一个检测服务器。
可选地，所述有效性检测单元，适于向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间，选择当前响应时间最短的检测服务器。
可选地，所述有效性检测单元，适于向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间；将当前响应时间最短的检测服务器与前一次检测所述推广URL时选择的检测服务器的当前响应时间进行比较，如果二者差距超过预设范围，则选择当前响应时间最短的检测服务器；如果二者差距未超过预设范围，则沿用前一次检测所述推广URL时选择的检测服务器。
可选地，所述有效性检测单元，进一步适于在检测服务器接收到爬虫调度器返回的推广URL有效性的检测结果时，将该推广URL有效性的检测结果在该检测服务器所属的检测服务器组中进行广播，使得同一检测服务器组中的各检测服务器均保存该推广URL有效性的检测结果。
可选地，所述有效性检测单元，适于利用检测服务器将收到的推广URL分发到与该推广URL的IP地址属于同一地区的爬虫调度器上。
由上述可知，在通过推广URL推送推广内容的场景中，需要对推广URL的有效性和安全性进行高效、准确地检测，以保证推送的有效性；本发明提供的技术方案对于待检测的推广URL，一方面，将待检测的推广URL下发给爬虫程序，通过爬虫程序访问推广URL的方式检测推广URL的有效性；另一方面，建立在缓存中保存已检测安全性且安全性检测结果为非恶意的推广URL的机制，通过先在缓存中查找待检测的推广URL，若不存在再调用安全检测服务器的安全检测接口的方式检测推广URL的安全性。依据本方案对推广URL进行检测，能够快速、准确地获知推广URL的有效性和安全性检测结果，并且对于已检测安全性且安全性检测结果为非恶意的推广URL，在对其进行多次检测时，无需重复调用第三方安全检测服务器的安全检测接口，大大减轻了安全检测服务器的负荷，大幅提高检测效率。
上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1示出了根据本发明一个实施例的一种检测推广URL有效性和安全性的方法流程图；
图2示出了根据本发明一个实施例的一种检测推广URL有效性的数据流示意图；
图3示出了根据本发明一个实施例的一种检测推广URL有效性和安全性的装置的示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。
在互联网领域中，对于推广方利用推广URL向浏览者推送推广内容的场景，为保证推送过程的有效性和安全性，需要定期检测推广URL的有效性和安全性，以避免由于推广URL失效和/或推广URL被恶意攻击而给推广方和浏览方带来的不便与损失。基于此，本发明提供了一种检测推广URL有效性和安全性的方法和系统，下文将通过具体的实施例对其进行详细的说明。
图1示出了根据本发明一个实施例的一种检测推广URL有效性和安全性的方法流程图。如图1所示，该方法包括：
步骤S110，获取待检测的推广URL。
步骤S120，将每个待检测的推广URL下发给爬虫程序，由爬虫程序通过访问收到的推广URL，获得推广URL的有效性的检测结果。
步骤S130，对于每个待检测的推广URL，查询缓存中是否存在该推广URL。
步骤S140，如果不存在则通过调用安全检测服务器的安全检测接口，对该推广URL进行安全检测，获得该推广URL的安全性检测结果，如果安全性检测结果表示该推广URL非恶意，则将该推广URL保存到缓存中。
步骤S150，如果存在则直接确定该推广URL为非恶意。
可见，图1所示的方法对于待检测的推广URL，一方面，将待检测的推广URL下发给爬虫程序，通过爬虫程序访问推广URL的方式检测推广URL的有效性；另一方面，建立在缓存中保存已检测安全性且安全性检测结果为非恶意的推广URL的机制，通过先在缓存中查找待检测的推广URL，若不存在再调用安全检测服务器的安全检测接口的方式检测推广URL的安全性。依据本方案对推广URL进行检测，能够快速、准确地获知推广URL的有效性和安全性检测结果，并且对于已检测安全性且安全性检测结果为非恶意的推广URL，在对其进行多次检测时，无需重复调用第三方安全检测服务器的安全检测接口，大大减轻了安全检测服务器的负荷，大幅提高检测效率。
在本发明的一个实施例中，图1所示方法的步骤S140，将安全性检测结果为非恶意的推广URL保存到缓存中包括：将安全性检测结果为非恶意的推广URL以布隆过滤器的数据结构形式保存到缓存中。
其中，所述布隆过滤器是一种空间效率很高的随机数据结构，它利用位组很简洁地表示一个集合，并能判断一个元素是否属于这个集合。在本实施例中，将每个安全性检测结果为非恶意的推广URL经过多个哈希函数映射到布隆过滤器中的多个位上，只需标记推广URL的映射位即可将该推广URL的信息保存下来。
例如，设置一个m位的位组(BitSet)，BitSet相当于是一个二进制容器，容器中每一位上的元素都是一位二进制码，或为0，或为1，先将所有位初始化为0，然后选择k个不同的哈希函数，第i个哈希函数对待保存的推广URL哈希的结果记为h(i,推广URL)，且h(i,推广URL)的范围是0到m-1。对于待保存的推广URL，分别计算h(1,推广URL)，h(2,推广URL)，……，h(k,推广URL)，然后将BitSet的第h(1,推广URL)，h(2,推广URL)，……，h(k,推广URL)位均设为1，这样就将待保存的推广URL映射到BitSet中的k个二进制位上了。
则与之对应地，对于每个待检测的推广URL，查询缓存中是否存在该推广URL的过程即为检查该推广URL是否被BitSet记录过的过程：对于该推广URL，分别计算h(1,推广URL)，h(2,推广URL)，……，h(k,推广URL)，然后检查BitSet的第h(1,推广URL)，h(2,推广URL)，……，h(k,推广URL)位是否均为1，是则认为该推广URL被BitSet记录过，直接确定该推广URL为非恶意；否则认为该推广URL没有被BitSet记录过，需要进一步调用安全检测服务器的安全检测接口，对该推广URL进行安全检测，获得该推广URL的安全性检测结果。
图2示出了根据本发明一个实施例的一种检测推广URL有效性的数据流示意图。如图2所示，一个或多个任务代理器获取待检测推广URL，对于获取的每个推广URL，按照预设策略从检测服务器集群中选择一个检测服务器，将该推广URL发送给该选择的检测服务器；各检测服务器将收到的推广URL分发到多个爬虫调度器上；各爬虫调度器将收到的推广URL分发给相应的多个爬虫程序，由爬虫程序通过访问收到的推广URL，获得推广URL的有效性的检测结果；此外，各爬虫程序将获得的推广URL有效性的检测结果返回给相应的爬虫调度器，再由爬虫调度器返回给相应的检测服务器。
需要说明的是，图2中可以包括一个或多个任务代理器，多个任务代理器的地位是等价的，且其中的每个任务代理器与一个任务代理器的执行逻辑是一致的，因此，图2中仅示出一个任务代理器作为代表进行说明；检测服务器集群中的各检测服务器与爬虫调度器的交互关系对应相同，各爬虫调度器与爬虫程序的交互关系也对应相同；因此，图2中仅示出第一个检测服务器与多个爬虫调度器的交互关系作为代表进行说明，以及第一个爬虫调度器与多个爬虫程序的交互关系作为代表进行说明。
在本实施例中，图2所示的检测服务器集群中包括多个检测服务器组，每个检测服务器组中包括多个检测服务器；则所述按照预设策略从检测服务器集群中选择一个检测服务器包括：根据该推广URL的域名的哈希值从检测服务器集群中选择一个检测服务器组，从选择的该检测服务器组中选择一个检测服务器。通过这样的设置，大量待检测推广URL被分散到多个检测服务器组中的多个检测服务器上进行处理，大大减轻了各检测服务器的检测压力，提高检测效率，降低检测故障发生率。
具体地，上述从选择的该检测服务器组中选择一个检测服务器包括：向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间，选择当前响应时间最短的检测服务器；即从选择的该检测服务器中选择当前响应最快的一个检测服务器，用于接收当前待检测推广URL。在一些情况下，在上述向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间的过程中，经常会由于网络抖动而导致各检测服务器的当前响应时间不稳定，为此，在获得各检测服务器的当前响应时间后，可以将当前响应时间最短的检测服务器与前一次检测所述推广URL时选择的检测服务器的当前响应时间进行比较，如果二者差距超过预设范围，则选择当前响应时间最短的检测服务器；如果二者差距未超过预设范围，则沿用前一次检测所述推广URL时选择的检测服务器。
例如，任务代理器向一个检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的响应时间，在上一个时间段，响应时间最短的检测服务器为A检测服务器，而在当前时间段，响应时间最短的检测服务器为B服务器，为去除网络抖动造成的影响，预设T0，将A检测服务器的当前响应时间TA和B检测服务器的当前响应时间TB进行比较，如果TA-TB≥T0，则表明在当前时间段内B检测服务器的性能确实优于A检测服务器，因此选择B检测服务器；如果TA-TB<T0，则表明在当前时间段内B检测服务器的响应速度快于A检测服务器可能是网络抖动所造成的，不能确定B检测服务器的性能确实优于A检测服务器，因此依然沿用A检测服务器。
在本实施例中，在各爬虫程序获得的推广URL有效性的检测结果最终将返回给相应的检测服务器之后，进一步地，相应的检测服务器所在的检测服务器组中的所有检测服务器同步保存返回的推广URL有效性的检测结果。通过这样的设置，使得同一个检测服务器组中的所有检测服务器能够分享其中任一个检测服务器所得到的推广URL有效性的检测结果，保持组内同步更新的状态，当调用同一个检测服务器组中的任一个检测服务器时，即可获知历史检测结果，无需对相同的推广URL进行重复检测。
本实施例中，爬虫调度器可以是检测服务器中的模块，也可以是硬件上独立于检测服务器的机器，当爬虫调度器是硬件上独立于检测服务器的机器时，图2中的各检测服务器将收到的推广URL分发到多个爬虫调度器上包括：各检测服务器将收到的每个推广URL进行DNS解析，得到该推广URL对应的IP地址，将该推广URL分发到与其IP地址属于同一地区的爬虫调度器上。其中，各检测服务器可以监测到多个爬虫调度器的运行状况，当一个爬虫调度器发生故障时，检测服务器会将该爬虫调度器上的待检测推广URL转移分配给附近的其他爬虫调度器。
在本实施例中，各爬虫程序具有等价的地位，各爬虫调度器基于负载均衡的原则将收到的推广URL分发给相应的多个爬虫程序，即将收到的推广URL均匀地分配给多个爬虫程序。
图3示出了根据本发明一个实施例的一种检测推广URL有效性和安全性的装置的示意图。如图3所示，该检测推广URL有效性和安全性的装置300包括：
获取单元310，适于获取待检测的推广URL。
有效性检测单元320，适于将每个待检测的推广URL下发给爬虫程序，由爬虫程序通过访问收到的推广URL，获得推广URL的有效性的检测结果。
安全性检测单元330，适于对于每个待检测的推广URL，查询缓存中是否存在该推广URL；如果不存在则通过调用安全检测服务器的安全检测接口，对该推广URL进行安全检测，获得该推广URL的安全性检测结果，如果安全性检测结果表示该推广URL非恶意，则将该推广URL保存到缓存中；如果存在则直接确定该推广URL为非恶意。
可见，图3所示的装置在各单元的配合下，对于待检测的推广URL，一方面，将待检测的推广URL下发给爬虫程序，通过爬虫程序访问推广URL的方式检测推广URL的有效性；另一方面，建立在缓存中保存已检测安全性且安全性检测结果为非恶意的推广URL的机制，通过先在缓存中查找待检测的推广URL，若不存在再调用安全检测服务器的安全检测接口的方式检测推广URL的安全性。依据本方案对推广URL进行检测，能够快速、准确地获知推广URL的有效性和安全性检测结果，并且对于已检测安全性且安全性检测结果为非恶意的推广URL，在对其进行多次检测时，无需重复调用第三方安全检测服务器的安全检测接口，大大减轻了安全检测服务器的负荷，大幅提高检测效率。
在本发明的一个实施例中，图3所示装置的安全性检测单元330，适于将该推广URL以布隆过滤器的数据结构形式保存到缓存中。
在本发明的一个实施例中，图3所示装置的有效性检测单元320，适于按照预设策略从检测服务器集群中选择一个检测服务器，将该推广URL发送给该选择的检测服务器；利用检测服务器将收到的推广URL下发给爬虫调度器；利用爬虫调度器将收到的推广URL下发给相应的爬虫程序；进一步地，有效性检测单元320利用爬虫程序将获得的推广URL有效性的检测结果返回给相应的爬虫调度器，再由爬虫调度器返回给相应的检测服务器。
其中，所述检测服务器集群中包括多个检测服务器组，每个检测服务器组中包括多个检测服务器；则图3所示装置的有效性检测单元320，适于根据该推广URL的域名的哈希值从检测服务器集群中选择一个检测服务器组，从选择的该检测服务器组中选择一个检测服务器。
在本发明的一个实施例中，图3所示装置的有效性检测单元320按照预设策略从检测服务器集群中选择一个检测服务器的过程是：向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间，选择当前响应时间最短的检测服务器。在一些情况下，在上述向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间的过程中，经常会由于网络抖动而导致各检测服务器的当前响应时间不稳定，为此，有效性检测单元320，适于向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间；将当前响应时间最短的检测服务器与前一次检测所述推广URL时选择的检测服务器的当前响应时间进行比较，如果二者差距超过预设范围，则选择当前响应时间最短的检测服务器；如果二者差距未超过预设范围，则沿用前一次检测所述推广URL时选择的检测服务器。
在本发明的一个实施例中，图3所示装置的有效性检测单元320，进一步适于在检测服务器接收到爬虫调度器返回的推广URL有效性的检测结果时，将该推广URL有效性的检测结果在该检测服务器所属的检测服务器组中进行广播，使得同一检测服务器组中的各检测服务器均保存该推广URL有效性的检测结果。
在本发明的一个实施例中，图3所示装置的有效性检测单元320，适于利用检测服务器将收到的推广URL分发到与该推广URL的IP地址属于同一地区的爬虫调度器上。
需要说明的是，图3所示装置的各实施例与上文中图1-图2所示各实施例对应相同，上文中已详细说明，在此不再赘述。
综上所述，在通过推广URL推送推广内容的场景中，需要对推广URL的有效性和安全性进行高效、准确地检测，以保证推送的有效性；本发明提供的技术方案对于待检测的推广URL，一方面，将待检测的推广URL下发给爬虫程序，通过爬虫程序访问推广URL的方式检测推广URL的有效性；另一方面，建立在缓存中保存已检测安全性且安全性检测结果为非恶意的推广URL的机制，通过先在缓存中查找待检测的推广URL，若不存在再调用安全检测服务器的安全检测接口的方式检测推广URL的安全性。依据本方案对推广URL进行检测，能够快速、准确地获知推广URL的有效性和安全性检测结果，并且对于已检测安全性且安全性检测结果为非恶意的推广URL，在对其进行多次检测时，无需重复调用第三方安全检测服务器的安全检测接口，大大减轻了安全检测服务器的负荷，大幅提高检测效率；本方案提供了高效、准确、可靠的检测推广URL的有效性和安全性的方案，保证了推广内容的推送过程的有效性和安全性，能够更完美地满足当前互联网领域的推广需求，保护互联网用户的信息安全。
需要说明的是：
在此提供的算法和显示不与任何特定计算机、虚拟装置或者其它设备固有相关。各种通用装置也可以与基于在此的示教一起使用。根据上面的描述，构造这类装置所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一种检测推广URL有效性和安全性的装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
本发明公开了A1、一种检测推广URL有效性和安全性的方法，其中，该方法包括：
获取待检测的推广URL；
将每个待检测的推广URL下发给爬虫程序，由爬虫程序通过访问收到的推广URL，获得推广URL的有效性的检测结果；以及，
对于每个待检测的推广URL，查询缓存中是否存在该推广URL；如果不存在则通过调用安全检测服务器的安全检测接口，对该推广URL进行安全检测，获得该推广URL的安全性检测结果，如果安全性检测结果表示该推广URL非恶意，则将该推广URL保存到缓存中；如果存在则直接确定该推广URL为非恶意。
A2、如A1所述的方法，其中，所述将该URL保存到缓存中包括：将该推广URL以布隆过滤器的数据结构形式保存到缓存中。
A3、如A1所述的方法，其中，
所述将每个待检测的推广URL下发给爬虫程序包括：按照预设策略从检测服务器集群中选择一个检测服务器，将该推广URL发送给该选择的检测服务器；检测服务器将收到的推广URL下发给爬虫调度器；爬虫调度器将收到的推广URL下发给相应的爬虫程序；
在所述获得推广URL的有效性的检测结果之后，该方法进一步包括：爬虫程序将获得的推广URL的有效性的检测结果返回给相应的爬虫调度器，再由爬虫调度器返回给相应的检测服务器。
A4、如A3所述的方法，其中，所述检测服务器集群中包括多个检测服务器组，每个检测服务器组中包括多个检测服务器；
则所述按照预设策略从检测服务器集群中选择一个检测服务器包括：根据该推广URL的域名的哈希值从检测服务器集群中选择一个检测服务器组，从选择的该检测服务器组中选择一个检测服务器。
A5、如A4所述的方法，其中，所述从选择的该检测服务器组中选择一个检测服务器包括：
向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间，选择当前响应时间最短的检测服务器。
A6、如A4所述的方法，其中，所述从选择的该检测服务器组中选择一个检测服务器包括：
向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间；
将当前响应时间最短的检测服务器与前一次检测所述推广URL时选择的检测服务器的当前响应时间进行比较，如果二者差距超过预设范围，则选择当前响应时间最短的检测服务器；如果二者差距未超过预设范围，则沿用前一次检测所述推广URL时选择的检测服务器。
A7、如A4所述的方法，其中，该方法进一步包括：
所述选择的该检测服务器组中的各检测服务器同步保存爬虫调度器返回的推广URL的有效性的检测结果。
A8、如A3所述的方法，其中，所述检测服务器将收到的推广URL下发给爬虫调度器包括：
检测服务器将收到的推广URL分发到与该URL的IP地址属于同一地区的爬虫调度器上。
本发明还公开了B9、一种检测推广URL有效性和安全性的装置，其中，该装置包括：
获取单元，适于获取待检测的推广URL；
有效性检测单元，适于将每个待检测的推广URL下发给爬虫程序，由爬虫程序通过访问收到的推广URL，获得推广URL的有效性的检测结果；
安全性检测单元，适于对于每个待检测的URL，查询缓存中是否存在该推广URL；如果不存在则通过调用安全检测服务器的安全检测接口，对该推广URL进行安全检测，获得该URL的安全性检测结果，如果安全性检测结果表示该推广URL非恶意，则将该推广URL保存到缓存中；如果存在则直接确定该推广URL为非恶意。
B10、如B9所述的装置，其中，
所述安全性检测单元，适于将该推广URL以布隆过滤器的数据结构形式保存到缓存中。
B11、如B9所述的装置，其中，
所述有效性检测单元，适于按照预设策略从检测服务器集群中选择一个检测服务器，将该推广URL发送给该选择的检测服务器；利用检测服务器将收到的推广URL下发给爬虫调度器；利用爬虫调度器将收到的推广URL下发给相应的爬虫程序；
所述有效性检测单元，进一步适于利用爬虫程序将获得的推广URL有效性的检测结果返回给相应的爬虫调度器，再由爬虫调度器返回给相应的检测服务器。
B12、如B11所述的装置，其中，所述检测服务器集群中包括多个检测服务器组，每个检测服务器组中包括多个检测服务器；
所述有效性检测单元，适于根据该推广URL的域名的哈希值从检测服务器集群中选择一个检测服务器组，从选择的该检测服务器组中选择一个检测服务器。
B13、如B12所述的装置，其中，
所述有效性检测单元，适于向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间，选择当前响应时间最短的检测服务器。
B14、如B12所述的装置，其中，
所述有效性检测单元，适于向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间；将当前响应时间最短的检测服务器与前一次检测所述推广URL时选择的检测服务器的当前响应时间进行比较，如果二者差距超过预设范围，则选择当前响应时间最短的检测服务器；如果二者差距未超过预设范围，则沿用前一次检测所述推广URL时选择的检测服务器。
B15、如B12所述的装置，其中，
所述有效性检测单元，进一步适于在检测服务器接收到爬虫调度器返回的推广URL的有效性的检测结果时，将该推广URL的有效性的检测结果在该检测服务器所属的检测服务器组中进行广播，使得同一检测服务器组中的各检测服务器均保存该推广URL的有效性的检测结果。
B16、如B11所述的装置，其中，
所述有效性检测单元，适于利用检测服务器将收到的推广URL分发到与该推广URL的IP地址属于同一地区的爬虫调度器上。

Claims (10)

1.一种检测推广URL有效性和安全性的方法，其中，该方法包括：
获取待检测的推广URL；
将每个待检测的推广URL下发给爬虫程序，由爬虫程序通过访问收到的推广URL，获得推广URL的有效性的检测结果；以及，
对于每个待检测的推广URL，查询缓存中是否存在该推广URL；如果不存在则通过调用安全检测服务器的安全检测接口，对该推广URL进行安全检测，获得该推广URL的安全性检测结果，如果安全性检测结果表示该推广URL非恶意，则将该推广URL保存到缓存中；如果存在则直接确定该推广URL为非恶意。
2.如权利要求1所述的方法，其中，所述将该URL保存到缓存中包括：将该推广URL以布隆过滤器的数据结构形式保存到缓存中。
3.如权利要求1所述的方法，其中，
所述将每个待检测的推广URL下发给爬虫程序包括：按照预设策略从检测服务器集群中选择一个检测服务器，将该推广URL发送给该选择的检测服务器；检测服务器将收到的推广URL下发给爬虫调度器；爬虫调度器将收到的推广URL下发给相应的爬虫程序；
在所述获得推广URL的有效性的检测结果之后，该方法进一步包括：爬虫程序将获得的推广URL的有效性的检测结果返回给相应的爬虫调度器，再由爬虫调度器返回给相应的检测服务器。
4.如权利要求3所述的方法，其中，所述检测服务器集群中包括多个检测服务器组，每个检测服务器组中包括多个检测服务器；
则所述按照预设策略从检测服务器集群中选择一个检测服务器包括：根据该推广URL的域名的哈希值从检测服务器集群中选择一个检测服务器组，从选择的该检测服务器组中选择一个检测服务器。
5.如权利要求4所述的方法，其中，所述从选择的该检测服务器组中选择一个检测服务器包括：
向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间，选择当前响应时间最短的检测服务器。
6.一种检测推广URL有效性和安全性的装置，其中，该装置包括：
获取单元，适于获取待检测的推广URL；
有效性检测单元，适于将每个待检测的推广URL下发给爬虫程序，由爬虫程序通过访问收到的推广URL，获得推广URL的有效性的检测结果；
安全性检测单元，适于对于每个待检测的URL，查询缓存中是否存在该推广URL；如果不存在则通过调用安全检测服务器的安全检测接口，对该推广URL进行安全检测，获得该URL的安全性检测结果，如果安全性检测结果表示该推广URL非恶意，则将该推广URL保存到缓存中；如果存在则直接确定该推广URL为非恶意。
7.如权利要求6所述的装置，其中，
所述安全性检测单元，适于将该推广URL以布隆过滤器的数据结构形式保存到缓存中。
8.如权利要求6所述的装置，其中，
所述有效性检测单元，适于按照预设策略从检测服务器集群中选择一个检测服务器，将该推广URL发送给该选择的检测服务器；利用检测服务器将收到的推广URL下发给爬虫调度器；利用爬虫调度器将收到的推广URL下发给相应的爬虫程序；
所述有效性检测单元，进一步适于利用爬虫程序将获得的推广URL有效性的检测结果返回给相应的爬虫调度器，再由爬虫调度器返回给相应的检测服务器。
9.如权利要求8所述的装置，其中，所述检测服务器集群中包括多个检测服务器组，每个检测服务器组中包括多个检测服务器；
所述有效性检测单元，适于根据该推广URL的域名的哈希值从检测服务器集群中选择一个检测服务器组，从选择的该检测服务器组中选择一个检测服务器。
10.如权利要求9所述的装置，其中，
所述有效性检测单元，适于向该检测服务器组中的各检测服务器发送Ping请求，获得各检测服务器的当前响应时间，选择当前响应时间最短的检测服务器。
CN201510541920.9A 2015-08-28 2015-08-28 一种检测推广url有效性和安全性的方法和装置 Pending CN106487759A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510541920.9A CN106487759A (zh) 2015-08-28 2015-08-28 一种检测推广url有效性和安全性的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510541920.9A CN106487759A (zh) 2015-08-28 2015-08-28 一种检测推广url有效性和安全性的方法和装置

Publications (1)

Publication Number Publication Date
CN106487759A true CN106487759A (zh) 2017-03-08

Family

ID=58235041

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510541920.9A Pending CN106487759A (zh) 2015-08-28 2015-08-28 一种检测推广url有效性和安全性的方法和装置

Country Status (1)

Country Link
CN (1) CN106487759A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113824693A (zh) * 2021-08-25 2021-12-21 北京达佳互联信息技术有限公司 多媒体数据分享方法、装置、系统、电子设备和存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101582887A (zh) * 2009-05-20 2009-11-18 成都市华为赛门铁克科技有限公司 安全防护方法、网关设备及安全防护系统
CN103336834A (zh) * 2013-07-11 2013-10-02 北京京东尚科信息技术有限公司 一种网页爬虫抓取方法及装置
CN103383665A (zh) * 2013-07-12 2013-11-06 北京奇虎科技有限公司 适于url数据抓取中对数据缓存的方法及装置
CN103605764A (zh) * 2013-11-26 2014-02-26 Tcl集团股份有限公司 一种网络爬虫系统及网络爬虫多任务执行和调度方法
CN103812840A (zh) * 2012-11-13 2014-05-21 腾讯科技（深圳）有限公司 鉴别恶意网址的方法和系统
US20140173730A1 (en) * 2012-12-14 2014-06-19 F-Secure Corporation Security Method and Apparatus

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101582887A (zh) * 2009-05-20 2009-11-18 成都市华为赛门铁克科技有限公司 安全防护方法、网关设备及安全防护系统
CN103812840A (zh) * 2012-11-13 2014-05-21 腾讯科技（深圳）有限公司 鉴别恶意网址的方法和系统
US20140173730A1 (en) * 2012-12-14 2014-06-19 F-Secure Corporation Security Method and Apparatus
CN103336834A (zh) * 2013-07-11 2013-10-02 北京京东尚科信息技术有限公司 一种网页爬虫抓取方法及装置
CN103383665A (zh) * 2013-07-12 2013-11-06 北京奇虎科技有限公司 适于url数据抓取中对数据缓存的方法及装置
CN103605764A (zh) * 2013-11-26 2014-02-26 Tcl集团股份有限公司 一种网络爬虫系统及网络爬虫多任务执行和调度方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113824693A (zh) * 2021-08-25 2021-12-21 北京达佳互联信息技术有限公司 多媒体数据分享方法、装置、系统、电子设备和存储介质
CN113824693B (zh) * 2021-08-25 2023-04-07 北京达佳互联信息技术有限公司 多媒体数据分享方法、装置、系统、电子设备和存储介质

Similar Documents

Publication Publication Date Title
US9509715B2 (en) Phishing and threat detection and prevention
US9723016B2 (en) Detecting web exploit kits by tree-based structural similarity search
US7904345B2 (en) Providing website hosting overage protection by transference to an overflow server
CN102801697B (zh) 基于多url的恶意代码检测方法和系统
CN106453436B (zh) 一种网络安全的检测方法和装置
CN103607385A (zh) 基于浏览器进行安全检测的方法和装置
CN104933363A (zh) 检测恶意文件的方法和装置
US20080243536A1 (en) Providing website hosting overage protection by storage on an independent data server
CN106709341B (zh) 一种针对文件包的病毒处理方法及装置
CN103632096A (zh) 一种对设备进行安全检测方法和装置
CN103685307A (zh) 基于特征库检测钓鱼欺诈网页的方法及系统、客户端、服务器
US20180131708A1 (en) Identifying Fraudulent and Malicious Websites, Domain and Sub-domain Names
US20140250221A1 (en) Methods, Systems, and Computer Program Products for Detecting Communication Anomalies in a Network Based on Overlap Between Sets of Users Communicating with Entities in the Network
CN105959371A (zh) 网页分享系统
CN105554137B (zh) 一种备份系统及方法
CN106294368B (zh) 网络爬虫识别方法和装置
Marchal et al. On designing and evaluating phishing webpage detection techniques for the real world
CN102938766A (zh) 恶意网址提示方法和装置
CN109981415A (zh) 状态判定方法、电子设备、系统及介质
Li et al. Double and nothing: Understanding and detecting cryptocurrency giveaway scams
CN109660552A (zh) 一种将地址跳变和WAF技术相结合的Web防御方法
CN102946391B (zh) 一种浏览器中提示恶意网址的方法和一种浏览器
CN105337776B (zh) 一种生成网站指纹的方法、装置及电子设备
CN104346460B (zh) 进行文件下载的方法、装置及浏览器客户端
CN103036895B (zh) 一种状态跟踪方法及系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20170308