CN109327556B - 一种网吧客户机ip范围识别方法 - Google Patents
一种网吧客户机ip范围识别方法 Download PDFInfo
- Publication number
- CN109327556B CN109327556B CN201811122944.0A CN201811122944A CN109327556B CN 109327556 B CN109327556 B CN 109327556B CN 201811122944 A CN201811122944 A CN 201811122944A CN 109327556 B CN109327556 B CN 109327556B
- Authority
- CN
- China
- Prior art keywords
- client
- range
- internet
- internet bar
- gap2
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L2101/00—Indexing scheme associated with group H04L61/00
- H04L2101/60—Types of network addresses
- H04L2101/668—Internet protocol [IP] address subnets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/50—Address allocation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/50—Address allocation
- H04L61/5007—Internet protocol [IP] addresses
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/50—Address allocation
- H04L61/5061—Pools of addresses
Abstract
本发明公开了一种网吧客户机IP范围识别方法,包括:(1)数据采集;(2)获取全部IP和安装客户端IP(3)识别客户机IP的规则;(4)需断网的客户机IP范围的识别,具体为:(4‑1)确定样本;(4‑2)确定网吧全部IP和真实客户机IP;(4‑3)提取变量;(4‑4)预测客户机IP;(4‑5)确定客户机IP范围;(4‑6)预测正确率;(4‑7)调参;(5)根据步骤(4‑1)至(4‑7)循环设置β、gap1和gap2的参数,并从整体预测效果最佳的角度确定β、gap1和gap2的取值,获取客户机IP范围。本发明建立了网吧客户机IP范围与全部IP之间的识别规则,识别出网吧的客户机IP范围,从而实现对安装率不达标的网吧采取客户机IP断网的惩罚措施。
Description
技术领域
本发明涉及网吧行为监管领域,具体的说是涉及一种网吧客户机IP范围识别方法。
背景技术
文网卫士监控系统(路由器、服务端、网吧助手、终端客户端)是文化部门依法行使监管职责的重要技术手段,为了提高执法人员对网吧行为监管的力度和对网吧的监管效率,则必须保证文网卫士监管系统(路由器、服务端、网吧助手、终端客户端)的正确安装。而对于安装率不达标的网吧,很大程度上降低了执法人员对网吧行为监管的力度和对网吧的监管效率。针对这种情况,提出通过断网的惩罚措施来提升网吧安装率。而网吧存在客户机和非客户机,客户机为网吧的上网电脑、非客户机有如:无盘服务器、摄像头、收银机、WiFi等设备,首先非客户机为不用安装客户端的设备,其次非客户机重启耗时对网吧经营有一定影响,故断网只考虑断网吧的客户机设备,故需识别出客户机地址,地址有Mac和IP地址,因断网策略仅能针对IP进行设置,故需要识别客户机IP地址。
发明内容
为解决上述背景技术中提出的问题,本发明的目的在于提供一种网吧客户机IP范围识别方法。
为实现上述目的,本发明采取的技术方案为:
本发明提供了一种网吧客户机IP范围识别方法,包括以下步骤:
(1)数据采集:有两种数据采集方式,其中,第一种数据采集是通过路由器每隔半小时监控网吧在线IP地址、mac地址和是否安装客户端;第二种数据采集是网吧中安装了客户端的电脑,每次开机关机都会通过客户端上传上网人员信息、客户机IP信息,数据采集次数不固定,且为累计数据;
(2)获取全部IP和安装客户端IP:通过步骤(1)中的两种数据采集方式获得数据后合并得到网吧的全部IP,并从网吧全部IP中去识别客户机IP范围;将两种数据中安装客户端的IP进行合并,得到网吧全部安装客户端的IP;
(4)需断网的客户机IP范围的识别
根据步骤(3)的客户机IP规则识别出客户机IP,进而识别出需断网的客户机IP范围,包括下述子步骤:
(4-1)确定样本:选择湖北省、湖南省、广东省、四川省中受文网卫士监管且客户端安装率为100%的所有网吧在某一时间段的第一种采集数据和第二种采集数据作为样本;
(4-2)确定网吧全部IP和真实客户机IP:采用步骤(2)的方法获取网吧全部IP和全部安装客户端的IP,而安装率100%的网吧,即每台客户机都安装客户端,全部安装客户端的IP即为客户机IP的全量范围,即网吧的真实客户机IP。
(4-3)提取变量:使用步骤(1)中的第一种采集数据,能每隔半小时获取网吧在线mac地址和ip地址,统计出样本中每个网吧每个mac地址对应的IP数以及Mac地址被采集的次数;
(4-4)预测客户机IP:根据(4-3)中提取的变量,筛选出MAC地址对应出现的且MAC地址被采集比例≤β的MAC地址,将其对应的IP地址当做预测的客户机IP;其中,取值范围大于等于1,β取值范围在0-1之间;
(4-5)确定客户机IP范围:剔除预测的客户机IP中不属于连续区间范围内的离群IP值,对步骤(4-4)中使用和β参数得到的客户机IP进行分段,根据取值比较连续的IP分成一段,IP间隔较大的进行分段的原则,确定分段间隔gap1和段内数量gap2,得到不同的IP段并确定划分的段是否为非离群的个体或区间,也即只有达到一定样本量的区间才被当做客户机IP范围;
(4-6)预测正确率:将根据步骤(4-1)至(4-5)后所得的预测的客户机IP范围与真实客户机IP使用第一正确率和第二错误率来衡量最终的正确率;
其中,第一种正确率:真实客户机IP中被预测为客户机IP的比例=真实客户机中落入预测的客户机IP范围中的IP数/真实客户机中IP总数;
第二种错误率:预测的客户机IP中非真实客户机IP的比例=预测的客户机IP在预测的客户机IP范围中但不在真实客户机IP中的IP总数/预测的客户机IP在预测的客户机IP范围中的总数;
(4-7)调参:根据(4-6)中的公式计算所有网吧所有网段的第一种正确率的均值和第二种错误率的均值,去衡量整体预测效果;其中,第一个正确率越高、第二个错误率越低表明预测效果越好;
(5)根据步骤(4-1)至(4-7)循环设置β、gap1和gap2的参数,并从整体预测效果最佳的角度确定β、gap1和gap2的取值,确定四个参数后,使用和β参数筛选MAC地址对应出现的 且MAC地址被采集比例≤β的MAC地址,其对应的IP地址即为预测的客户机IP,然后将预测的客户机IP由小到大排序,将相邻间隔超过gap1的进行分段,将IP数量超过gap2的段当做客户机IP范围。
上述技术方案中,第一种采集方式的具体方法为:路由器通过UDP广播包通知客户端,客户端收到广播包后回应约定的消息给路由器,路由器根据客户端的回应来判断是否安装,并将网吧在线Mac地址、IP地址和是否安装客户端的标识变量上传到Hadoop平台,一天共采集网吧48次数据。
上述技术方案中,所述MAC地址被采集比例为在第一种数据采集中MAC地址被采集的次数与固定采集次数的比值。
与现有技术相比,本发明的有益效果是:
本发明建立了网吧客户机IP范围与全部IP之间的识别规则,识别出网吧的客户机IP范围,从而用于对安装率不达标的网吧进行客户机IP断网。
1、将第一种数据采集方式与第二种数据采集方式合并应用,能够更全面的覆盖网吧所有设备的IP以及已经安装客户端的客户机IP,对于安装率100%的网吧,已经安装客户端的客户机IP即为真实客户机IP,在获取全部IP和真实客户机IP的情况下,使用有监督的识别方法,能够提高识别客户机IP的准确度。
附图说明
图1为实施例1中第一种正确率和第二种错误率的关系图。
具体实施方式
为使本发明实现的技术手段、创作特征、达成目的与功效易于明白了解,下面结合附图和具体实施方式,进一步阐述本发明是如何实施的。
本发明提供了一种网吧客户机IP范围识别方法,包括以下步骤:
(1)数据采集:有两种数据采集方式,其中,第一种数据采集是通过路由器每隔半小时监控网吧在线IP地址、Mac地址和是否安装客户端;第一种采集方式的具体方法为:路由器通过UDP广播包通知客户端,客户端收到广播包后回应约定的消息给路由器,路由器根据客户端的回应来判断是否安装,并将网吧在线Mac地址、IP地址和是否安装客户端的标识变量上传到Hadoop平台,一天共采集网吧48次数据。
第二种数据采集是网吧中安装了客户端的电脑,每次开机关机都会通过客户端上传上网人员信息、客户机IP信息,数据采集次数不固定,且为累计数据;
以上两种数据来源,当数据采集时间足够长时,比如半个月,第一种能获取网吧全部IP,包括:已安装客户端的客户机IP和未安装客户端的IP(可能为客户机或非客户机),原因是时间足够长时,网吧的每台设备(可能为电脑,也可能为摄像头等非客户机)都应该有被使用过,若被使用过则一定会被识别出IP,若长时间未在线则可认为该设备基本处于闲置的状态,做断网策略时可以不予考虑,也即不用识别该设备为客户机IP或非客户机IP。
同样的,采集时间足够长时,全部非闲置的客户机都应当被使用过,则第二种能获取全部已安装客户端的客户机IP。
将第一种与第二种合并,能够更全面的覆盖网吧所有设备的IP以及已经安装客户端的客户机IP,故从第一种与第二种数据合并得到的网吧全部IP中去识别出客户机IP范围。
(2)获取全部IP和安装客户端IP:通过步骤(1)中的两种数据采集方式获得数据后合并得到网吧的全部IP,并从网吧全部IP中去识别客户机IP范围;将两种数据中安装客户端的IP进行合并,得到网吧全部安装客户端的IP;
(4)需断网的客户机IP范围的识别
根据步骤(3)的客户机IP规则识别出客户机IP,进而识别出需断网的客户机IP范围,包括下述子步骤:
(4-1)确定样本:选择湖北省、湖南省、广东省、四川省中受文网卫士监管且客户端安装率为100%的所有网吧在某一时间段的第一种采集数据和第二种采集数据作为样本;
(4-2)确定网吧全部IP和真实客户机IP:采用步骤(2)中的数据采集方法获取网吧全部IP和全部安装客户端的IP;而安装率100%的网吧,即每台客户机都安装客户端,全部安装客户端的IP即为客户机IP的全量范围,即网吧的真实客户机IP;
其中,根据数据来源的说明可知,第一种与第二种数据合并能获得网吧全部IP,包括:已安装客户端的客户机IP、未安装客户端的IP(可能为客户机或非客户机),当网吧客户端安装率较低时,即不是每台客户机都安装了客户端,则获取到的未安装客户端的IP会包含部分客户机,而当网吧客户端安装率100%时,每台客户机都安装了客户端,则检测到的已安装客户端的客户机IP即为客户机IP的全量范围。即只有安装率100%的网吧,能够获得客户机IP的真实范围;
(4-3)提取变量:根据步骤(1)中的第一种采集数据,能每隔半小时获取网吧在线mac地址和ip地址,统计出样本中每个网吧每个mac地址对应的IP数以及Mac地址被采集的次数;
(4-4)预测客户机IP:根据(4-3)中提取的变量,筛选出MAC地址对应出现的且MAC地址被采集比例≤β的MAC地址,将其对应的IP地址当做预测的客户机IP;其中,取值范围大于等于1,β取值范围在0-1之间;
(4-5)确定客户机IP范围:剔除预测的客户机IP中不属于连续区间范围内的离群IP值,对步骤(4-4)中使用和β参数得到的客户机IP进行分段,根据取值比较连续的IP分成一段,IP间隔较大的进行分段的原则,确定分段间隔gap1和段内数量gap2,得到不同的IP段并确定划分的段是否为非离群的个体或区间,也即只有达到一定样本量的区间才被当做客户机IP范围;
(4-6)预测正确率:将根据步骤(4-1)至(4-5)后所得的预测的客户机IP范围与真实客户机IP使用第一正确率和第二错误率来衡量最终的正确率;
其中,第一种正确率:真实客户机IP中被预测为客户机IP的比例=真实客户机中落入预测的客户机IP范围中的IP数/真实客户机中IP总数;
第二种错误率:预测的客户机IP中非真实客户机IP的比例=预测的客户机IP在预测的客户机IP范围中但不在真实客户机IP中的IP总数/预测的客户机IP在预测的客户机IP范围中的总数;
(4-7)调参:根据(4-6)中的公式计算所有网吧所有网段的第一种正确率的均值和第二种错误率的均值,去衡量整体预测效果;其中,第一个正确率越高、第二个错误率越低表明预测效果越好;
(5)根据步骤(4-1)至(4-7)循环设置β、gap1和gap2的参数,并从整体预测效果最佳的角度确定β、gap1和gap2的取值,确定四个参数后,使用和β参数筛选MAC地址对应出现的 且MAC地址被采集比例≤β的MAC地址,其对应的IP地址即为预测的客户机IP,然后将预测的客户机IP由小到大排序,将相邻间隔超过gap1的进行分段,将IP数量超过gap2的段当做客户机IP范围。
本发明中,所述采集比例为在第一种数据采集中MAC地址被采集的次数与固定采集次数的比值。
实施例1
本实施例使用20180709-20180723期间共15天的采集数据,对湖北省、湖南省、广东省、四川省中受文网卫士监管且客户端安装率为100%的所有网吧且IP数大于2的网段的全部IP和真实客户机IP进行有监督的识别训练,筛选MAC地址对应出现的且MAC地址被采集比例≤β的MAC地址,从而筛选出客户机IP,再使用gap1和gap2参数识别出客户机IP范围,将其与真实客户机IP进行对比,以客户机IP范围预测正确率最佳的角度确定四个参数。有监督的识别训练需要具备:全部客户机IP、真实客户机IP、MAC地址对应IP数及MAC地址采集次数三种数据条件。具体方法如下:
一种网吧客户机IP范围识别方法,包括以下步骤:
(1)数据采集、获取全部IP和安装客户端IP:通过两种数据采集方式获得数据后合并得到网吧全部IP,并从网吧全部IP中去识别客户机IP范围;将两种数据中安装客户端的IP进行合并,得到网吧全部安装客户端的IP;
其中,第一种数据采集是通过路由器每隔半小时监控网吧在线IP地址、mac地址和是否安装客户端;第一种采集方式的具体方法为:路由器通过UDP广播包通知客户端,客户端收到广播包后回应约定的消息给路由器,路由器根据客户端的回应来判断是否安装,并将网吧在线Mac地址、IP地址和是否安装客户端的标识变量上传到Hadoop平台,一天共采集网吧48次数据。
第二种数据采集是网吧中安装了客户端的电脑,每次开机关机都会通过客户端上传上网人员信息、客户机IP信息,数据采集次数不固定,且为累计数据;
设备地址分Mac地址(物理地址)和IP地址,Mac地址属于设备唯一标识,是固定的,但IP地址由网络位置决定的,非设备的唯一标识。识别出客户机的Mac地址做断网策略或许会更准确,但因断网策略仅能针对IP地址进行设置,故需找出客户机IP。
但Mac地址与IP地址间存在一定的对应关系,如WIFI设备(非客户机),能被多个用户的手机设备使用,也即WiFi设备的MAC地址会对应很多个IP地址,而客户机、监控、收银机、服务器等设备,IP地址相对较稳定,并不会频繁变动,MAC地址对应的IP地址个数较少,故筛选出IP数较少的MAC地址,其对应的IP地址非WIFI设备,然后,再结合时长连续性筛选出客户机,原因为:服务器、监控、收银机等非客户机设备,并不会频繁的开机关机,会在一个较长段时间内一直在线,而客户机主要用于用户上网,用户上网大概在几个小时以内,也即客户机不会在一个较长的时间段内一直在线,数据表现为:
在第一种数据采集中,同一采集时间段内,非客户机MAC地址被采集到的次数更多,客户机MAC地址被采集到的次数相对较少,将采集次数少的MAC地址对应的IP地址当做客户机IP。
故客户机有以下两个特征:1、MAC地址对应的IP个数更少;2、第一种数据采集中,客户机MAC地址被采集的次数更少。筛选出MAC地址对应出现的且MAC地址被采集比例≤β的MAC地址,MAC地址对应的IP地址即为客户机IP,其中和β为待确定的参数。MAC地址的采集比例=被采集的次数/固定采集次数(第一种数据采集的采集次数)。
(3)需断网的客户机IP范围的识别
根据步骤(2)的客户机IP规则识别出客户机IP,进而识别出需断网的客户机IP范围,包括下述子步骤:
(3-1)确定样本、获取网吧全部IP和全部安装客户端的IP:选择湖北省、湖南省、广东省、四川省中受文网卫士监管且客户端安装率为100%的所有网吧在20180709-20180723期间的数据作为样本,采用步骤(1)中的数据采集方法获取网吧全部IP和全部安装客户端的IP;
如表1所示,为部分网吧的第一种(A)数据和第二种(B)数据中安装了客户端的IP,如网吧4302810044的网段192.168.2,Ip_addressA与Ip_addressB合并后得到的192.168.2.2-21范围间的IP为安装了客户端的IP,又因为筛选的安装率为100%的网吧,故192.168.2.2-21范围间的IP即为网吧4302810044在网段192.168.2中的真实客户机IP范围;另外,如网吧4419710014存在两个网段192.168.1、192.168.0,首先192.168.1的网段,仅192.168.1.1的IP安装了客户端,为客户机真实IP,经查询该网吧该网段仅有192.168.1.1,对于这种网段内的IP数过少的,不适合参与模型计算,主要是IP数少的网段,不易建立客户机IP与全部IP之间的识别规则,偶然性太多,可能是全部为客户机、也可能全部不为客户机或者随机的某几个为客户机,而IP较多的网段,为了便于管理,网吧业主在设置客户机和非客户机时,一般会划分范围,某个范围内属于客户机,另个范围属于非客户机,而不会将客户机与非客户机随机的混合在一起,也即具有一定的设置规则;故筛选IP数大于2的网段识别客户机IP范围。
表1部分网吧的第一种(A)数据和第二种(B)数据中安装了客户
端的IP
(3-2)提取变量:根据步骤(1)中的第一种采集数据,能每隔半小时获取网吧在线mac地址和ip地址,统计出样本中每个网吧每个mac地址对应的IP数以及Mac地址被采集的次数;因采集时长共15天,第一种数据每天采集48次,故每个网吧最多采集720次。如表2所示,为部分网吧部分Mac地址的指标数据,其中ip_num表示Mac地址对应的IP数,online_count表示Mac地址被采集的次数,ip_address表示Mac地址对应出现的IP地址,因每次采集数据均会采集Mac和IP地址,当IP地址变动时,Mac地址不会变动,故会存在一个Mac地址对应多个IP地址的情况,ip_address即汇总了Mac地址对应的所有出现过的IP地址。
表2部分网吧部分Mac地址的指标数据
以上三种Mac地址属于比较典型的三种特征,第一种:Mac地址为40-C6-2A-85-58-2E,对应的IP数较多,属于之前提到了WiFi设备的特征,同一Mac被多个设备使用;第二种:Mac地址为B8-97-5A-64-24-BB,Mac地址与IP地址唯一对应且采集次数并不算多,仅60%的采集比例(437/720),比较像客户机IP;第三种:Mac地址为40-8D-5C-99-F4-35,Mac地址与IP地址唯一对应且采集次数很多,达99.6%(717/720),即15天中,每隔半小时采集一次数据,该Mac地址均在线,比较像服务器之类的非客户机IP。
故将且online_count/固定采集次数≤β的当做客户机。因一个Mac地址至少对应出现过一个IP地址,故取值范围大于等于1;因网吧固定采集次数为720次,而online_count并不能很直观的体现Mac地址被采集的算多还是少,故将β作为采集比例,也即将且online_count/720≤β的mac地址对应的IP地址当做客户机,β取值范围在0-1之间,和β需确定最佳参数使得客户机IP的预测效果最佳。
(3-3)预测客户机IP:根据(3-2)中提取的变量,筛选出MAC地址对应出现的且MAC地址被采集比例≤β的MAC地址,将其对应的IP地址当做预测的客户机IP;其中,取值范围大于等于1,β取值范围在0-1之间;
以且β=0.7为例,筛选ip_num≤1且online_count≤0.7的mac_address,将其对应的ip_address当做客户机IP,并将网吧的所有客户机IP按照网段分别汇总,得到客户机IP估计值ip_address_e,并与每个网吧的每个网段的真实客户机IP进行对比,其中真实客户机IP即为上述中的Ip_addressA与Ip_addressB的并集。如表3所示,为部分网吧部分网段的估计与真实的客户机IP。
表3部分网吧部分网段的估计与真实的客户机IP
从以上结果中可以看出估计的客户机IP大部分与真实客户机IP吻合,说明使用MAC地址对应的IP数、MAC地址被采集的次数去识别客户机IP具有一定的合理性。从真实客户机IP中可以看出,客户机IP是在某个范围内的连续取值或者非连续但小间断的取值,可以认为客户机IP是存在一个范围的。而估计的客户机IP也大致都在连续范围内,如网吧4202020084的网段192.168.0,估计的客户机IP基本都落在1-96范围间且取值连续,133、218比较脱离于该范围,属于比较特殊的存在,其更可能是非客户机IP,也即可能在收银机之类的非客户机上安装了客户端,可以认为该网吧该网段的客户机IP范围为192.168.0.1-96;网吧4202030021的网段192.168.1,估计的客户机IP大部分落在100-121、150-175之间,65、201均不在这两个连续或近似连续区间内,因从真实客户机IP中可大概看出客户机IP落在一个连续范围内,故65、201脱离连续区间,并不将其当做客户机IP,而150-175区间,后续通过调参(β、gap1和gap2)使整体预测效果最佳的角度去确定其是否为客户机IP范围;网吧4302810103的网段192.168.0,估计的客户机IP落在2-51的连续范围内,可以认为该网吧的客户机IP范围为192.168.0.2-51;网吧4311030107的网段192.168.1,估计的客户机IP主要落在1-74的连续范围内,244比较脱离该连续范围,并不将其当做客户机IP。
可以看出使用和β筛选出客户机IP后,会存在一定的估计误差,这种误差主要来源于:有些是非客户机的设备安装了客户端,比如收银机安装客户端,但非用户上网设备,非客户机,但被认为是客户机(因为一般只有客户机才安装客户端),即ip_addressAB当真实客户机IP也存在一定误差;另外某些非客户机Mac可能开机时间并没有那么长,或者采集的那段时间并不是一直在线,导致online_count的采集比例在的阈值β以下。故基于这些原因,将估计得到的客户机IP不属于连续区间范围内的离群IP值剔除。
(3-4)确定客户机IP范围:剔除预测的客户机IP中不属于连续区间范围内的离群IP值,对步骤(3-3)中使用和β参数得的客户机IP进行分段,根据取值比较连续的IP分成一段,IP间隔较大的进行分段的原则,确定分段间隔gap1和段内数量gap2,得到不同的IP段并确定划分的段是否为非离群的个体或区间,也即只有达到一定样本量的区间才被当做客户机IP范围;
离群即离IP取值数量较多的连续区间比较远,而独自或者与其他IP又难以形成具有一定IP数量的连续区间。在确定离群之前需要先将IP分段,将取值比较连续的IP分成一段,IP间隔较大的进行分段。
假设以20作为分段间隔(gap1),以表3中的网吧4202030021的网段192.168.1估计出的客户机IP为例,65与100、121与150、175与201之间均间隔超过20,在两两之间进行分段,最后得到的段为65、[100,121]、[150,175]、201,每个段内的样本量分别为:1、18、11、1,离群表示不能独自成段或段内样本量过少,65和201独自不能成段,不被当做客户机IP,而[150,175]是否成段主要取决于11的样本量是否被当做一个段,也即11是否达到了成段的数量临界值(gap2),该临界值由后续调参确定。
从以上例子可知,得到客户机IP范围除了需要确定和β参数,也需要确定分段间隔gap1和段内数量gap2,得到不同的IP段并确定划分的段是否为非离群的个体或区间,也即只有达到一定样本量的区间才被当做客户机IP范围。
(3-5)预测正确率:将根据步骤(3-1)至(3-4)后所得的预测的客户机IP范围与真实客户机IP使用第一正确率和第二错误率来衡量最终的正确率;其中,第一种正确率:真实客户机IP中被预测为客户机IP的比例(正确率)=真实客户机Ip_addressAB中落入预测的客户机IP范围中的IP数/真实客户机Ip_addressAB中IP总数;
第二种错误率:预测的客户机IP中非真实客户机IP的比例(错误率)=预测的客户机IP在预测的客户机IP范围中但不在真实客户机Ip_addressAB中的IP总数/预测的客户机IP在预测的客户机IP范围中的总数;
不使用预测的客户机IP的IP总数做分母而使用客户机IP范围内的IP数做分母,是因为客户机IP范围是最终的预测结果,应该在这个结果中去判断非客户机被预测成客户机的比例。
第一个正确率越高、第二个错误率越低表明预测效果越好,如果单纯的提升第一个比例,会导致客户机IP范围比较大,因为这样真实的客户机IP落入预测的客户机IP范围中的比例会更高,但是客户机IP范围越大,纳入非客户机IP的数量也会增加(比例如何改变并不清楚)。故提出使用第一正确率和第二错误率来衡量最终的正确率。(3-6)调参:根据(3-5)中的公式计算所有网吧所有网段的第一种正确率的均值和第二种错误率的均值,去衡量整体预测效果;其中,第一个正确率越高、第二个错误率越低表明预测效果越好;
(4)根据步骤(3-1)至(3-6)循环设置β、gap1和gap2的参数,并从整体预测效果最佳的角度确定β、gap1和gap2的取值,确定四个参数后,使用和β参数筛选MAC地址对应出现的 且MAC地址被采集比例≤β的MAC地址,其对应的IP地址即为预测的客户机IP,然后将预测的客户机IP由小到大排序,将相邻间隔超过gap1的进行分段,将IP数量超过gap2的段当做客户机IP范围。
以β=0.7、gap1=20、gap2=8为例,即首先筛选出ip_num<=1且online_count<=0.7的Mac地址,将其对应的IP地址当做客户机IP,按照网吧的网段分别汇总,网段内将IP由小到大排序,以20作为分段间隔,筛选样本量大于8的段,作为客户机IP范围。如表4所示,为部分网吧部分网段预测的客户机IP范围ip_address_bin以及第一种正确率(correct_ratio)和第二种错误率(false_ratio)的结果。
表4一组参数下部分网吧部分网段预测的第一种正确率和第二种错
误率
从结果中可以看出网吧4202020084、4302810103、4311030107各自的网段第一种正确率接近100%、第二种错误率又为0,属于预测效果最好的一种;而因gap2设置为8,样本量大于8的段就被保留,故网吧4202030021的网段192.168.1预测的客户机IP范围有[100,121]、[150,175]两段范围,第一种正确率为100%,但第二种错误率达37%,错误率比较高。
故计算所有网吧所有网段的第一种正确率的均值和第二种错误率的均值,去衡量整体预测效果。在调参中各参数取值范围为:以1为间隔在[1,3]间取值、β以0.05为间隔在[0.55,0.9]间取值、gap1以5为间隔在[5,25]间取值、gap2以1为间隔在[5,15]间取值。因参数组合有1320种,数量较多,仅展示第一种正确率高、第二种错误率低的参数组合,第二种错误率仅出现了0.01、0.02、0.03三种情况,选取这三种情况下第一种正确率最高的部分参数组合进行展示,如表5所示。
表5不同参数组合下的第一种正确率和第二种错误率
从结果中可以看出第一种正确率的最高值为98%,但是最高值对应的第二种错误率为2%或3%,非最低错误率;而且同一正确率或错误率会有多种可能的参数组合。
然后使用所有参数组合下计算得到的正确率和错误率绘制散点图,观察提高第一种正确率的时候对第二种错误率的影响,见图1。
从图中可以看出提高第一种正确率时,对第二种错误率的影响微弱。也即提高第一种正确率可能会或多或少的扩大预测出的客户机IP范围,但因大部分网吧客户机IP和非客户机IP的ip_num和online_count具有很大区别,如网吧的非客户机IP的在线时长一直很长,而客户机IP的在线时长很短,则通过β对采集次数进行约束就很容易筛选出客户机IP,甚至设置0.6、0.7、0.8的不同阈值均能筛选出客户机IP,也即很多网吧的网段通过和β参数筛选出的IP可能就是真实的客户机IP,甚至与真实客户机IP完全相同(类似网吧4202020084的网段192.168.0)且筛选出的IP具有连续取值的特征或者脱离连续区间的离群值并不多,即筛选出的IP即为一个连续区间的取值,gap1和gap2的约束对客户机IP范围并无影响,故大部分网吧通过和β筛选出的IP中包含非客户机IP的比例很少,所以第二种错误率的平均值并没有大的变化,更不会受第一种正确率的影响。
而鉴于无法筛选第一种正确率高、第二种错误率低的最佳结果,则通过业务的角度去确定,因识别客户机IP的目的是对安装率低的网吧进行客户机IP断网的惩罚,而又不能断掉服务器、收银机之类的非客户机IP,故客户机IP可以漏识别但不能误识别,即不能将非客户机IP识别成客户机IP,而可以将客户机IP识别成非客户机IP,即需要第二种错误(预测的客户机IP中非真实客户机IP的比例)尽可能低,故在第二种错误为最低值1%的情况下,筛选出第一种正确率最高值97%对应的参数组合。因有几组不同参数组合达到的效果一样,故本文任意选一参数组合作为最终的参数:β=0.75、gap1=20、gap2=14。使用该组参数计算客户机IP范围,部分网吧部分网段的客户机IP范围预测值和真实值的结果,如表6所示:
表6部分网吧部分网段的客户机IP范围预测值和真实值的结果(其
可以看出该组参数下预测的客户机IP范围包含了大部分真实客户机IP,预测效果比较好,整体预测第一种正确率平均为97%,第二种错误率平均为1%。
本发明采用安装率100%的网吧数据作为训练样本,并非预测样本(因为只有100%的网吧能获取真实的客户机IP,才能用有监督的方法识别客户机);使用训练样本做有监督的训练后,得到参数β、gap1和gap2的值,然后使用4个参数值(β、gap1和gap2)去预测新的网吧的客户机范围(安装率达标或不达标的都可预测);
本发明提供的方法适用范围:监控网吧的客户端安装率,对于安装率未达到60%的网吧实施客户机IP断网的惩罚措施;本发明提高了识别网吧的客户机IP范围的准确率,保障了后续网吧安装率不达标断网措施的监管,提高了执法人员对网吧行为监管的力度和对网吧的监管效率。
最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的宗旨和范围,其均应涵盖在本发明的权利要求范围中。
Claims (5)
1.一种网吧客户机IP范围识别方法,其特征在于,包括以下步骤:
(1)数据采集:有两种数据采集方式,其中,第一种数据采集是通过路由器每隔半小时监控网吧在线IP地址、mac地址和是否安装客户端;第二种数据采集是网吧中安装了客户端的电脑,每次开机关机都会通过客户端上传上网人员信息、客户机IP信息,数据采集次数不固定,且为累计数据;
(2)获取全部IP和安装客户端IP:通过步骤(1)中的两种数据采集方式获得数据后合并得到网吧的全部IP,并从网吧全部IP中去识别客户机IP范围;将两种数据中安装客户端的IP进行合并,得到网吧全部安装客户端的IP;
(4)需断网的客户机IP范围的识别
根据步骤(3)的客户机IP规则识别出客户机IP,进而识别出需断网的客户机IP范围,包括下述子步骤:
(4-1)确定样本:选择湖北省、湖南省、广东省、四川省中受文网卫士监管且客户端安装率为100%的所有网吧在某一时间段的第一种采集数据和第二种采集数据作为样本;
(4-2)确定网吧全部IP和真实客户机IP:采用步骤(2)的方法获取网吧全部IP和全部安装客户端的IP,而安装率100%的网吧,即每台客户机都安装客户端,全部安装客户端的IP即为客户机IP的全量范围,即网吧的真实客户机IP;
(4-3)提取变量:使用步骤(1)中的第一种采集数据,能每隔半小时获取网吧在线mac地址和ip地址,统计出样本中每个网吧每个mac地址对应的IP数以及Mac地址被采集的次数;
(4-4)预测客户机IP:根据(4-3)中提取的变量,筛选出MAC地址对应出现的且MAC地址被采集比例≤β的MAC地址,将其对应的IP地址当做预测的客户机IP;其中,取值范围大于等于1,β取值范围在0-1之间;
(4-5)确定客户机IP范围:剔除预测的客户机IP中不属于连续区间范围内的离群IP值,对步骤(4-4)中使用和β参数得到的客户机IP进行分段,根据取值比较连续的IP分成一段,IP间隔较大的进行分段的原则,确定分段间隔gap1和段内数量gap2,得到不同的IP段并确定划分的段是否为非离群的个体或区间,也即只有达到一定样本量的区间才被当做客户机IP范围;
(4-6)预测正确率:将根据步骤(4-1)至(4-5)后所得的预测的客户机IP范围与真实客户机IP使用第一正确率和第二错误率来衡量最终的正确率;
其中,第一种正确率:真实客户机IP中被预测为客户机IP的比例=真实客户机中落入预测的客户机IP范围中的IP数/真实客户机中IP总数;
第二种错误率:预测的客户机IP中非真实客户机IP的比例=预测的客户机IP在预测的客户机IP范围中但不在真实客户机IP中的IP总数/预测的客户机IP在预测的客户机IP范围中的总数;
(4-7)调参:根据(4-6)中的公式计算所有网吧所有网段的第一种正确率的均值和第二种错误率的均值,去衡量整体预测效果;其中,第一个正确率越高、第二个错误率越低表明预测效果越好;
2.根据权利要求1所述的一种网吧客户机IP范围识别方法,其特征在于,第一种采集方式的具体方法为:路由器通过UDP广播包通知客户端,客户端收到广播包后回应约定的消息给路由器,路由器根据客户端的回应来判断是否安装,并将网吧在线Mac地址、IP地址和是否安装客户端的标识变量上传到Hadoop平台,一天共采集网吧48次数据。
3.根据权利要求1所述的一种网吧客户机IP范围识别方法,其特征在于,所述MAC地址被采集比例为在第一种数据采集中MAC地址被采集的次数与固定采集次数的比值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811122944.0A CN109327556B (zh) | 2018-09-26 | 2018-09-26 | 一种网吧客户机ip范围识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811122944.0A CN109327556B (zh) | 2018-09-26 | 2018-09-26 | 一种网吧客户机ip范围识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109327556A CN109327556A (zh) | 2019-02-12 |
CN109327556B true CN109327556B (zh) | 2021-06-01 |
Family
ID=65265219
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811122944.0A Active CN109327556B (zh) | 2018-09-26 | 2018-09-26 | 一种网吧客户机ip范围识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109327556B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102118283A (zh) * | 2011-03-30 | 2011-07-06 | 大唐移动通信设备有限公司 | 一种对通信设备进行测试的方法及装置 |
CN102684897A (zh) * | 2011-03-14 | 2012-09-19 | 上海宝信软件股份有限公司 | Tcp/ip网络私接设备发现方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3583539A4 (en) * | 2017-02-14 | 2020-10-28 | Systems and Software Enterprises, LLC | PROCEDURE FOR IDENTIFICATION, LOCALIZATION AND STATUS INQUIRIES OF LRU UNITS |
-
2018
- 2018-09-26 CN CN201811122944.0A patent/CN109327556B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102684897A (zh) * | 2011-03-14 | 2012-09-19 | 上海宝信软件股份有限公司 | Tcp/ip网络私接设备发现方法 |
CN102118283A (zh) * | 2011-03-30 | 2011-07-06 | 大唐移动通信设备有限公司 | 一种对通信设备进行测试的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN109327556A (zh) | 2019-02-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108322347B (zh) | 数据检测方法、装置、检测服务器及存储介质 | |
CN111935170B (zh) | 一种网络异常流量检测方法、装置及设备 | |
US9201953B2 (en) | Filtering information using targeted filtering schemes | |
CN104717124B (zh) | 一种好友推荐方法、装置及服务器 | |
US8370930B2 (en) | Detecting spam from metafeatures of an email message | |
CN107070930B (zh) | 一种面向主机的可疑网络连接识别方法 | |
CN110969215A (zh) | 聚类处理方法和装置、存储介质及电子装置 | |
Skaperas et al. | Real-time video content popularity detection based on mean change point analysis | |
CN106130806A (zh) | 数据层实时监控方法 | |
CN108777805B (zh) | 一种非法访问请求的检测方法、装置、中控服务器及系统 | |
CN109495378A (zh) | 检测异常帐号的方法、装置、服务器及存储介质 | |
CN110717551A (zh) | 流量识别模型的训练方法、装置及电子设备 | |
CN106375295A (zh) | 数据存储监控方法 | |
CN111667144A (zh) | 用户的识别方法及装置 | |
CN109952743B (zh) | 用于低内存和低流量开销大流量对象检测的系统和方法 | |
CN111934954A (zh) | 宽带的检测方法、装置、电子设备及存储介质 | |
CN109327556B (zh) | 一种网吧客户机ip范围识别方法 | |
CN113901441A (zh) | 一种用户异常请求检测方法、装置、设备及存储介质 | |
CN106357445B (zh) | 一种用户体验监控方法及监控服务器 | |
CN106850272A (zh) | 中央服务器、业务服务器及其异常检测方法和系统 | |
CN108141377B (zh) | 网络流早期分类 | |
WO2023045434A1 (zh) | 访问检测方法、系统及装置 | |
CN110213209B (zh) | 一种推送信息点击的作弊检测方法、装置及存储介质 | |
Gladkykh et al. | Fuzzy logic inference for unsupervised anomaly detection | |
CN108063764B (zh) | 一种网络流量处理方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |