CN106254579B - 一种动态ip代理池及其搭建及管理方法 - Google Patents
一种动态ip代理池及其搭建及管理方法 Download PDFInfo
- Publication number
- CN106254579B CN106254579B CN201610874527.6A CN201610874527A CN106254579B CN 106254579 B CN106254579 B CN 106254579B CN 201610874527 A CN201610874527 A CN 201610874527A CN 106254579 B CN106254579 B CN 106254579B
- Authority
- CN
- China
- Prior art keywords
- agent
- client
- pool
- dynamic
- central server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/50—Address allocation
- H04L61/5061—Pools of addresses
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/50—Address allocation
- H04L61/5007—Internet protocol [IP] addresses
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/59—Network arrangements, protocols or services for addressing or naming using proxies for addressing
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种动态IP代理池及其搭建及管理方法,具体包含:中央服务器接收心跳请求,当发送心跳请求的客户端在不可用代理池中时,发送获取指令至客户端;客户端获得代理IP地址,将代理IP地址发送至中央服务器;中央服务器将客户端的属性信息及其对应的代理IP地址放入可用代理池。当发送心跳请求的客户端在可用代理池时,发送相关执行指令至客户端。本发明通过上述技术方案能够提供一种稳定且高效的IP代理系统及服务;并有针对性地对目标网站进行动态配置和优化,加快访问速度;有效地提高了数据采集效率、稳定性及灵活性。
Description
技术领域
本发明涉及网络通信领域,具体涉及一种动态IP代理池及其搭建及管理方法。
背景技术
动态IP地址指用户在访问互联网时,通过运营商随机分配的IP地址进行网络访问。目前使用动态IP的方式分为Modem、ISDN、ADSL、有线宽频、小区宽带等。动态IP地址的用途广泛,例如:网络投票、数据采集、上网加速等方式。
现有技术中,以数据采集来说,通过固定的IP访问目标网站进行大规模的数据采集时,很容易造成IP封锁。此时如果采用动态IP地址访问,目标网站无法分析IP访问特征,并且难以封锁当前的数据采集行为。
现有技术中,由于一些免费的代理IP使用时,难以保证使用的稳定性以及可控制方案。并且这种代理没有针对目标网站进行优化,导致访问速度慢或者匿名性较差。因此不能稳定的保障大规模数据采集问题,无法完成动态IP代理的使用简单方便的特性。
发明内容
本发明的目的在于为了解决现有技术中在数据采集过程中遇到的IP被封锁情况的出现;提供一种动态IP代理池及其搭建及管理方法。
为了达到上述目的,本发明通过以下技术方案实现:
一种动态IP代理池的搭建方法,所述动态IP代理池的搭建方法包含:
中央服务器接收心跳请求,当发送所述心跳请求的客户端在不可用代理池中时,发送获取指令至所述客户端;所述获取指令包含命令所述客户端获取相应的代理IP地址;
所述客户端获得所述代理IP地址,将所述代理IP地址发送至所述中央服务器;
所述中央服务器将所述客户端的属性信息及其对应的所述代理IP地址放入可用代理池。
较佳地,所述中央服务器内设有所述不可用代理池、可用代理池;
所述可用代理池内包含多个可用的所述客户端的属性信息、所述代理IP地址,所述不可用代理池内设有多个不可用的所述客户端的所述属性信息。
较佳地,所述中央服务器接收心跳请求,当发送所述心跳请求的客户端在不可用代理池中时,发送获取指令至所述客户端,具体包含:
当所述心跳请求包含的所述客户端的属性信息存在于所述不可用代理池中时,所述中央服务器发送所述获取指令至所述客户端。
较佳地,在所述中央服务器接收心跳请求,当发送所述心跳请求的客户端在不可用代理池中时,发送获取指令至所述客户端之前,所述动态IP代理池的搭建方法还包含:
当任一所述客户端发送的最新的所述心跳请求的时间超过设定心跳请求阈值时,将所述客户端的属性信息从所述可用代理池移动至所述不可用代理池;
当调用端反馈任一所述客户端存在网络连接问题时,将所述客户端的属性信息从所述可用代理池移动至所述不可用代理池;
当任一所述客户端到达更换代理IP地址时间阈值时,将所述客户端的属性信息从所述可用代理池移动至所述不可用代理池。
较佳地,所述中央服务器将所述客户端及其对应的所述代理IP地址放入可用代理池,具体包含:
将所述客户端的属性信息从所述不可用代理池移动至所述可用代理池,并在所述可用代理池中保存所述客户端的所述代理IP地址。
较佳地,所述动态IP代理池的搭建方法还包含:
一个或多个调用端获取所述中央服务器的所述可用代理池中的一个或多个所述代理IP地址进行网络访问。
一种动态IP代理池的管理方法,所述动态IP代理池的管理方法包含:
中央服务器接收心跳请求;
当发送所述心跳请求的客户端在可用代理池时,所述中央服务器发送相关执行指令至所述客户端;所述相关执行指令包含:客户端重启、拨号指令、关闭代理服务、更新配置文件、目标网站访问黑白名单之中任意一项。
一种动态IP代理池,所述动态IP代理池包含:至少一个客户端、至少一个中央服务器;
至少一个客户端,发送心跳请求;
至少一个中央服务器,包含可用代理池、不可用代理池;
在动态IP代理池的搭建的过程中:
所述至少一个中央服务器接收所述至少一个客户端发送的所述心跳请求,当所述至少一个客户端是在所述不可用代理池时,发送获取指令至所述客户端;所述获取指令包含命令所述客户端获取相应的代理IP地址;
所述至少一个客户端,获得所述代理IP地址,将所述代理IP地址发送至所述至少一个中央服务器;
所述至少一个中央服务器,将所述至少一个客户端及其对应的所述代理IP地址放入所述可用代理池;
在动态IP代理池的管理过程中:
所述至少一个中央服务器接收所述至少一个客户端发送的所述心跳请求,当所述至少一个客户端是在所述可用代理池时,发送相关执行指令至所述至少一个客户端;所述相关执行指令包含:客户端重启、所述获取指令、关闭代理服务、更新配置文件、目标网站访问黑白名单之中任意一项。
较佳地,所述动态IP代理池还包含:至少一个调用端,用于获取所述中央服务器的所述可用代理池中所述代理IP地址、以及向所述中央服务器反馈任一所述客户端存在网络连接问题。
在符合本领域常识的基础上,上述各优选条件,可任意组合,即得本发明各较佳实例。
本发明的积极进步效果在于:
本发明公开的一种动态IP代理池及其搭建及管理方法,通过至少一个客户端、至少一个中央服务器以及至少一个调用端建立动态IP代理池。动态IP代理池的搭建及管理具体包含:中央服务器接收心跳请求,当发送心跳请求的客户端在不可用代理池中时,发送获取指令至客户端;客户端进行获得代理IP地址,将代理IP地址发送至中央服务器;中央服务器将客户端的属性信息及其对应的代理IP地址放入可用代理池。当发送心跳请求的客户端在可用代理池时,发送相关执行指令至客户端;相关执行指令包含:客户端重启、获取指令、关闭代理服务、更新配置文件、目标网站访问黑白名单之中任意一项。本发明通过上述技术方案能够提供一种稳定且高效的IP代理系统及服务;并有针对性地对目标网站进行动态配置和优化,加快访问速度;有效地提高了数据采集效率、稳定性及灵活性。
附图说明
图1为本发明一种动态IP代理池的搭建方法的整体流程示意图。
图2为本发明一种动态IP代理池的管理方法的整体流程示意图。
图3为本发明一种动态IP代理池的实施例示意图。
具体实施方式
下面通过实施例的方式进一步说明本发明,但并不因此将本发明限制在所述的实施例范围之中。
实施例1
如图1、图3所示,一种动态IP代理池的搭建方法,动态IP代理池的搭建方法包含:
本发明中,中央服务器1内设有不可用代理池、可用代理池。其中,可用代理池内包含多个可用的客户端2的属性信息、每个客户端2对应的代理IP地址,不可用代理池内设有多个不可用的客户端2的属性信息。
本实施例中,在中央服务器1中,基于缓存数据库定义了不可用代理池、可用代理池的概念。
在步骤S1之前,具体包含:
当任一客户端2发送的最新的心跳请求的时间超过设定心跳请求阈值时,将客户端2的属性信息从可用代理池移动至不可用代理池。
本实施例中,当任一客户端2发送的最新的心跳请求的时间超过设定心跳请求阈值时,该客户端2被标记为不可用代理,并将该客户端2的属性信息从可用代理池移动至不可用代理池。从而能够有效地保证调用端3获取的代理IP地址均是稳定、有效的。
本实施例中,中央服务器1通过计算当前可用代理池中客户端2的数量和代理IP地址的使用时间,主动进行代理IP地址的更换。通过定时任务的方式,将部分客户端2移动至不可用代理池,此时该调用端3不会继续获取到该客户端2的代理IP地址。
当调用端3反馈任一客户端2存在网络连接问题时,该客户端2被标记为不可用代理,将该客户端2的属性信息从可用代理池移动至不可用代理池。
当任一客户端2到达更换代理IP地址时间阈值时,该客户端2被标记为不可用代理,将该客户端2的当前代理IP地址删除、并将属性信息从可用代理池移动至不可用代理池。
本实施例中,可用代理池、不可用代理池的信息实际保存至数据库4中。当查看可用代理池、不可用代理池中的信息时,实际通过数据库4进行查看。
S1,中央服务器1接收心跳请求,当发送心跳请求的客户端2在不可用代理池中时,发送获取指令至客户端2。该步骤S1具体包含:
当心跳请求包含的客户端2的属性信息存在于不可用代理池中时,中央服务器1发送获取指令至客户端2。
本发明中,获取指令包含命令客户端获取相应的代理IP地址。
本实施例中,客户端2通过定时轮训,定时向中央服务器1发送心跳请求进行心跳汇报。
心跳请求包含客户端2的属性信息。中央服务器1根据心跳请求中的属性信息判断该客户端2是否在不可用代理池中,当判断客户端2是在不可用代理池时,中央服务器1发送获取指令至客户端2。
S2,客户端2获得代理IP地址,将代理IP地址发送至中央服务器1。
本实施例中,客户端2执行获取命令,采用拨号的方式获取代理IP地址。
S3,中央服务器1将客户端2的属性信息及其对应的代理IP地址放入可用代理池。步骤S3具体包含:
将客户端2的属性信息从不可用代理池移动至可用代理池,并在可用代理池中保存客户端2的代理IP地址。
本实施例中,在步骤S3之后还包含:
当一个或多个调用端3进行互联网访问时,调用端3通过获取中央服务器1的可用代理池中的一个或多个代理IP地址进行网络访问。
实施例2
如图2、图3所示,一种动态IP代理池的管理方法,动态IP代理池的管理方法包含:
M1,接收并显示心跳请求。
本实施例中,客户端2通过定时轮训,定时向中央服务器1发送心跳请求进行心跳汇报。中央服务器1接收并显示客户端2发送的心跳请求。
M2,当发送心跳请求的客户端2在可用代理池时,发送相关执行指令至客户端2;相关执行指令包含:客户端2重启、拨号指令、关闭代理服务、更新配置文件、目标网站访问黑白名单之中任意一项。
本实施例中,相关执行指令包含:客户端2重启、进行ADSL拨号等。
实施例3
如图3所示,一种动态IP代理池,动态IP代理池包含:至少一个客户端2、至少一个中央服务器1、调用端3以及数据库4。其中,至少一个中央服务器1,包含可用代理池、不可用代理池。
调用端3用于向中央服务器1反馈任一客户端2存在网络连接问题时,中央服务器1将该客户端2被标记为不可用代理,将该客户端2的属性信息从可用代理池移动至不可用代理池。
数据库4用于分别存储可用代理池、不可用代理池中的相应信息。
当进行动态IP代理池搭建时,至少一个客户端2发送心跳请求至到至少一个中央服务器1。当判断至少一个客户端2是在不可用代理池时,发送获取指令到至少一个客户端2;至少一个客户端2,获得代理IP地址,将代理IP地址发送到至少一个中央服务器1。至少一个调用端3,用于获取中央服务器1的可用代理池中代理IP地址、以及向所述中央服务器反馈任一所述客户端存在网络连接问题。
当进行动态IP代理池管理时,至少一个客户端2发送心跳请求;至少一个中央服务器1接收至少一个客户端2发送的心跳请求,当至少一个客户端2是在可用代理池时,发送相关执行指令到至少一个客户端2;相关执行指令包含:客户端2重启、获取指令、关闭代理服务、更新配置文件、目标网站访问黑白名单之中任意一项。
本发明中,动态IP代理池管理还包含多个中央服务器1形成中央服务器集群;多个客户端2分别与对应的中央服务器1进行信息通信。
虽然以上描述了本发明的具体实施方式,但是本领域的技术人员应当理解,这些仅是举例说明,本发明的保护范围是由所附权利要求书限定的。本领域的技术人员在不背离本发明的原理和实质的前提下,可以对这些实施方式做出多种变更或修改,但这些变更和修改均落入本发明的保护范围。
Claims (8)
1.一种动态IP代理池的搭建方法,其特征在于,所述动态IP代理池的搭建方法包含:
中央服务器接收心跳请求,当发送所述心跳请求的客户端在不可用代理池中时,发送获取指令至所述客户端;所述获取指令包含命令所述客户端获取相应的代理IP地址;
所述客户端获得所述代理IP地址,将所述代理IP地址发送至所述中央服务器;
所述中央服务器将所述客户端的属性信息及其对应的所述代理IP地址放入可用代理池。
2.如权利要求1所述的动态IP代理池的搭建方法,其特征在于,所述中央服务器内设有所述不可用代理池、所述可用代理池;
所述可用代理池内包含多个可用的所述客户端的属性信息、所述代理IP地址,所述不可用代理池内设有多个不可用的所述客户端的所述属性信息。
3.如权利要求2所述的动态IP代理池的搭建方法,其特征在于,所述中央服务器接收心跳请求,当发送所述心跳请求的客户端在不可用代理池中时,发送获取指令至所述客户端,具体包含:
当所述心跳请求包含的所述客户端的属性信息存在于所述不可用代理池中时,所述中央服务器发送所述获取指令至所述客户端。
4.如权利要求2所述的动态IP代理池的搭建方法,其特征在于,在所述中央服务器接收心跳请求,当发送所述心跳请求的客户端在不可用代理池中时,发送获取指令至所述客户端之前,所述动态IP代理池的搭建方法还包含:
当任一所述客户端发送的最新的所述心跳请求的时间超过设定心跳请求阈值时,将所述客户端的属性信息从所述可用代理池移动至所述不可用代理池;
当调用端反馈任一所述客户端存在网络连接问题时,将所述客户端的属性信息从所述可用代理池移动至所述不可用代理池;
当任一所述客户端到达更换代理IP地址时间阈值时,将所述客户端的属性信息从所述可用代理池移动至所述不可用代理池。
5.如权利要求2所述的动态IP代理池的搭建方法,其特征在于,所述中央服务器将所述客户端及其对应的所述代理IP地址放入可用代理池,具体包含:
将所述客户端的属性信息从所述不可用代理池移动至所述可用代理池,并在所述可用代理池中保存所述客户端的所述代理IP地址。
6.如权利要求2所述的动态IP代理池的搭建方法,其特征在于,所述动态IP代理池的搭建方法还包含:
一个或多个调用端获取所述中央服务器的所述可用代理池中的一个或多个所述代理IP地址进行网络访问。
7.一种动态IP代理池,其特征在于,所述动态IP代理池包含:至少一个客户端、至少一个中央服务器;
至少一个客户端,发送心跳请求;
至少一个中央服务器,包含可用代理池、不可用代理池;
在动态IP代理池的搭建的过程中:
所述至少一个中央服务器接收所述至少一个客户端发送的所述心跳请求,当所述至少一个客户端是在所述不可用代理池时,发送获取指令至所述客户端;所述获取指令包含命令所述客户端获取相应的代理IP地址;
所述至少一个客户端,获得所述代理IP地址,将所述代理IP地址发送至所述至少一个中央服务器;
所述至少一个中央服务器,将所述至少一个客户端及其对应的所述代理IP地址放入所述可用代理池;
在动态IP代理池的管理过程中:
所述至少一个中央服务器接收所述至少一个客户端发送的所述心跳请求,当所述至少一个客户端是在所述可用代理池时,发送相关执行指令至所述至少一个客户端;所述相关执行指令包含:客户端重启、所述获取指令、关闭代理服务、更新配置文件、目标网站访问黑白名单之中任意一项。
8.如权利要求7所述的动态IP代理池,其特征在于,所述动态IP代理池还包含:至少一个调用端,用于获取所述中央服务器的所述可用代理池中所述代理IP地址、以及向所述中央服务器反馈任一所述客户端存在网络连接问题。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610874527.6A CN106254579B (zh) | 2016-09-30 | 2016-09-30 | 一种动态ip代理池及其搭建及管理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610874527.6A CN106254579B (zh) | 2016-09-30 | 2016-09-30 | 一种动态ip代理池及其搭建及管理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106254579A CN106254579A (zh) | 2016-12-21 |
CN106254579B true CN106254579B (zh) | 2019-09-24 |
Family
ID=57612208
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610874527.6A Active CN106254579B (zh) | 2016-09-30 | 2016-09-30 | 一种动态ip代理池及其搭建及管理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106254579B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109743411B (zh) * | 2018-12-10 | 2022-03-01 | 厦门市美亚柏科信息股份有限公司 | 一种在分布式环境下动态调度ip代理池的方法、装置及存储介质 |
CN110826001A (zh) * | 2019-10-30 | 2020-02-21 | 深圳前海环融联易信息科技服务有限公司 | 数据获取请求处理方法、装置、计算机设备及存储介质 |
CN110798470B (zh) * | 2019-10-31 | 2022-08-23 | 北京金堤科技有限公司 | 代理ip地址管理方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101102313A (zh) * | 2007-06-21 | 2008-01-09 | 潘晓梅 | 自动更换代理服务器的网络下载系统及方法 |
CN101510874A (zh) * | 2009-03-20 | 2009-08-19 | 腾讯科技(深圳)有限公司 | 网络连接设置系统及方法、网络通讯工具及方法 |
CN103902386A (zh) * | 2014-04-11 | 2014-07-02 | 复旦大学 | 一种基于连接代理优化管理的多线程网络爬虫处理方法 |
CN103916936A (zh) * | 2013-01-04 | 2014-07-09 | 中国移动通信集团公司 | 实现数据长连接的方法、系统及移动终端、服务器 |
CN105162830A (zh) * | 2015-07-23 | 2015-12-16 | 浪潮软件集团有限公司 | 一种提高代理ip利用率的采集方法 |
-
2016
- 2016-09-30 CN CN201610874527.6A patent/CN106254579B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101102313A (zh) * | 2007-06-21 | 2008-01-09 | 潘晓梅 | 自动更换代理服务器的网络下载系统及方法 |
CN101510874A (zh) * | 2009-03-20 | 2009-08-19 | 腾讯科技(深圳)有限公司 | 网络连接设置系统及方法、网络通讯工具及方法 |
CN103916936A (zh) * | 2013-01-04 | 2014-07-09 | 中国移动通信集团公司 | 实现数据长连接的方法、系统及移动终端、服务器 |
CN103902386A (zh) * | 2014-04-11 | 2014-07-02 | 复旦大学 | 一种基于连接代理优化管理的多线程网络爬虫处理方法 |
CN105162830A (zh) * | 2015-07-23 | 2015-12-16 | 浪潮软件集团有限公司 | 一种提高代理ip利用率的采集方法 |
Also Published As
Publication number | Publication date |
---|---|
CN106254579A (zh) | 2016-12-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103929507B (zh) | 一种实现可离线化dns服务的方法及装置 | |
CN106131086B (zh) | 一种访问控制列表的匹配方法及装置 | |
CN106254579B (zh) | 一种动态ip代理池及其搭建及管理方法 | |
CN102388632B (zh) | 应用信息推送方法、系统和网元 | |
CN105656997B (zh) | 基于移动用户关系的热度缓存内容主动推送方法 | |
CN104780210B (zh) | 负载均衡方法以及装置 | |
CN104135460B (zh) | 一种推送通道保活方法和推送服务器 | |
CN108965007A (zh) | Api网关接口配置更新方法及装置 | |
CN103283209A (zh) | 一种应用服务平台系统及其实现方法 | |
WO2014120582A1 (en) | Systems and methods of automatically ordering and selecting recipients for electronic mail | |
CN107251533A (zh) | 用于对等匹配的位于一处的对等设备 | |
CN104601702B (zh) | 集群远程过程调用方法及系统 | |
CN103517405B (zh) | 一种网络定位的方法及系统、移动终端和网络侧设备 | |
CN107278365A (zh) | 可扩展的对等匹配 | |
CN109040243A (zh) | 一种报文处理方法及装置 | |
CN108881516A (zh) | 一种调度多cdn服务系统的方法和装置 | |
CN112583895B (zh) | Tcp通信方法、系统及装置 | |
CN105327508B (zh) | 网络游戏运行系统及方法 | |
CN102158406A (zh) | 面向计算机网络链路的智能选路方法 | |
CN110233774B (zh) | 一种Socks代理服务器的探测方法、分布式探测方法和系统 | |
CN107835095A (zh) | 一种日志的处理方法及装置 | |
CN109120556B (zh) | 一种云主机访问对象存储服务器的方法及系统 | |
CN104410511A (zh) | 一种服务器管理方法及系统 | |
CN102023997B (zh) | 一种数据查询系统及其构建方法与相应的数据查询方法 | |
JP6148661B2 (ja) | セルラレキシコンをプッシュするための方法及びサーバ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |