CN111541793A - 内容分发网络调度过程分析方法、装置与电子设备 - Google Patents
内容分发网络调度过程分析方法、装置与电子设备 Download PDFInfo
- Publication number
- CN111541793A CN111541793A CN202010260930.6A CN202010260930A CN111541793A CN 111541793 A CN111541793 A CN 111541793A CN 202010260930 A CN202010260930 A CN 202010260930A CN 111541793 A CN111541793 A CN 111541793A
- Authority
- CN
- China
- Prior art keywords
- domain name
- directed graph
- data
- main
- distribution network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 80
- 238000004458 analytical method Methods 0.000 title claims abstract description 34
- 238000009826 distribution Methods 0.000 title claims abstract description 31
- 238000011144 upstream manufacturing Methods 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 8
- 238000003860 storage Methods 0.000 claims description 8
- 238000004140 cleaning Methods 0.000 claims description 5
- 238000005406 washing Methods 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 7
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000012804 iterative process Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 244000089409 Erythrina poeppigiana Species 0.000 description 1
- 235000009776 Rathbunia alamosensis Nutrition 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 238000013024 troubleshooting Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/45—Network directories; Name-to-address mapping
- H04L61/4505—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols
- H04L61/4511—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols using domain name system [DNS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/09—Mapping addresses
- H04L61/10—Mapping addresses of different types
- H04L61/103—Mapping addresses of different types across network layers, e.g. resolution of network layer into physical layer addresses or address resolution protocol [ARP]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明实施例提供一种内容分发网络调度过程分析方法、装置与电子设备;方法包括:对域名解析服务器日志数据中的域名解析服务器记录进行拆分,得到待分析数据;根据所述待分析数据生成第一有向图。本发明实施例提供的内容分发网络调度过程分析方法、装置与电子设备通过从查询域名和CNAME域名中分别提取主域名,以主域名构造有向图,从而将调度关系抽象、简化到主域名级别,实现了对内容分发网络调度过程的分析。
Description
技术领域
本发明涉及通信领域,特别涉及一种内容分发网络调度过程分析方法、装置与电子设备。
背景技术
在通信领域的一些应用场景中,需要对ICP(Internet Content Provider,网络内容服务商)和CDN(Content Delivery Network,内容分发网络)的业务调度过程进行分析,从而精准的了解从ICP调度到CDN入口,CDN内部从全局调度到边缘节点的多次DNS迭代过程。
例如,某省的移动通信运营商需要引入布置在外省网络、外网网络的内容源,以提高响应速度,改善服务质量。这些内容源普遍通过第三方CDN网络实现内容分发和业务调度,深入了解ICP和第三方CDN的业务调度过程对运营商具有以下意义:
1、对未引入的质差业务进行问题排查。通过分析业务调度的具体过程发现问题,并采取相应手段处理优化。
2、当通过资源引入提升内容源质量时,需充分了解ICP域名目前使用第三方CDN的业务合作情况,才能提出合理方案。
现有技术中常见的CDN调度分析方法,主要是通过构建IP地址和CDN节点的映射关系,对业务IP翻译其CDN归属。存在以下缺点:
只能分析最终调度结果,无法洞察调度过程中,从ICP到CDN入口,从CDN全局调度到边缘节点的多次DNS迭代过程。
发明内容
本发明实施例提供一种内容分发网络调度过程分析方法、装置与电子设备,用于解决现有技术中的CDN调度分析方法无法洞察调度过程的缺陷。
本发明第一方面实施例提供一种内容分发网络调度过程分析方法,包括:
对域名解析服务器日志数据中的域名解析服务器记录进行拆分,得到待分析数据;其中,
所述域名解析服务器记录包括查询域名和CNAME链条;所述待分析数据包括查询域名以及CNAME链条中的首CNAME;
根据所述待分析数据生成第一有向图;其中,
所述第一有向图用于反映主域名之间的调度关系;所述主域名是用于表示ICP服务商或CDN服务商的域名。
上述技术方案中,还包括:
对域名解析服务器日志数据进行清洗,得到域名解析服务器记录;其中,所述对域名解析服务器日志数据进行清洗进一步包括:
在域名解析服务器日志数据中剔除以下数据中的一种或多种:失败记录、异常记录、类型不符的记录以及无CNAME调度过程的记录。
上述技术方案中,所述根据所述待分析数据生成第一有向图包括:
从所述待分析数据中提取主域名对;其中,所述主域名对包括上游主域名和下游主域名,所述上游主域名是从第一域名解析服务器记录的查询域名中提取出来的主域名,所述下游主域名是从第一域名解析服务器记录的首CNAME中提取出来的主域名;
根据所述主域名对生成第一有向图;进一步包括:
将所述主域名对中的上游主域名和下游主域名作为所述第一有向图的顶点;将所述主域名对中的上游主域名和下游主域名之间的联系作为所述第一有向图的有向边,所述有向边的方向为从所述上游主域名到所述下游主域名,所述上游主域名和所述下游主域名之间的调度次数为所述有向边的权重;所述顶点的权重为与该顶点相连的所有有向边的权重之和。
上述技术方案中,还包括:
对所生成的第一有向图进行裁剪,所述裁剪包括删除所述第一有向图中业务量小于预设值的顶点和有向边。
上述技术方案中,还包括:
根据第一网站域名在所述第一有向图中选取第一顶点,基于所述第一顶点生成出向的连通子图,根据所述出向的连通子图得到服务于所述第一网站域名的CDN服务商。
上述技术方案中,还包括:
根据第一CDN服务域名在所述第一有向图中选取第二顶点,基于所述第二顶点生成入向的连通子图,根据所述入向的连通子图得到所述第一CDN服务域名所服务的网站的域名。
上述技术方案中,还包括:
根据第二网站域名或第二CDN服务域名在所述第一有向图中选取第三顶点,以所述第三顶点作为起始点生成弱连通子图,根据所述弱连通子图得到与所述第二网站域名或第二CDN服务域名相关联的域名。
本发明第二方面实施例提供一种内容分发网络调度过程分析装置,包括:
数据拆分模块,用于对域名解析服务器日志数据中的域名解析服务器记录进行拆分,得到待分析数据;其中,
所述域名解析服务器记录包括查询域名和CNAME链条;所述待分析数据包括查询域名以及CNAME链条中的首个CNAME;
有向图生成模块,用于根据所述待分析数据生成第一有向图;其中,所述第一有向图用于反映主域名之间的调度关系;所述主域名是用于表示ICP服务商或CDN服务商的域名。
本发明第三方面实施例提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如本发明第一方面实施例所述内容分发网络调度过程分析方法的步骤。
本发明第四方面实施例提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如本发明第一方面实施例所述内容分发网络调度过程分析方法的步骤。
本发明实施例提供的内容分发网络调度过程分析方法、装置与电子设备通过从查询域名和CNAME域名中分别提取主域名,以主域名构造有向图,从而将调度关系抽象、简化到主域名级别,实现了对内容分发网络调度过程的分析。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的内容分发网络调度过程分析方法的流程图;
图2为一个实例中的某一网站域名的CDN服务关系的示意图;
图3为一个实例中的某一CDN服务域名的网站域名关系的示意图;
图4为一个实例中的关联域名的网络关系示意图;
图5为本发明实施例提供的内容分发网络调度过程分析装置的示意图;
图6示例了一种电子设备的实体结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在对本发明实施例做详细说明之前,首先对本发明实施例中所涉及的相关概念进行说明。
本领域技术人员都知道,域名是为了方便记忆而专门建立的一套地址转换系统,要访问一台互联网上的服务器,最终还必须通过IP地址来实现。域名解析就是将域名重新转换为IP地址的过程。
域名解析的基本流程为:域名-DNS(Domain Name Server,域名解析服务器)-网站空间。其中,DNS在解析域名时通常需要做递归解析,使得域名解析结果中包括了多次DNS迭代的结果。CDN将内容分发到边缘节点后,当用户访问该内容时,在域名解析过程中,通过一系列CNAME记录的查询解析的迭代过程,将业务访问调度到合适的边缘节点。
例如,当用户访问域名www.people.cn时,发生以下DNS解析过程:
第1步,查询域名www.people.cn的IP地址,people.cn的权威域名服务器返回CNAME记录www.people.chinacache.net.,ICP完成调度至CDN服务商chinacache.net;
第2步,迭代查询该CNAME(www.people.chinacache.net.),chinacache.cn的权威域名服务器返回新的CNAME记录hpcc-page-ipv6.cncssr.chinacache.net.,CDN内部完成调度至局部服务器;
第3步,迭代查询新的CNAME域名(hpcc-page-ipv6.cncssr.chinacache.net.),最终返回IP地址。
在本发明实施例中,称www.people.cn为查询域名,www.people.chinacache.net和hpcc-page-ipv6.cncssr.chinacache.net为CNAME域名,其中前者为首CNAME域名。
DNS解析的结果,包括CNAME迭代过程,被保存在DNS日志中,本发明实施例通过对DNS日志CNAME记录的分析实现了对业务调度过程的分析。
图1为本发明实施例提供的内容分发网络调度过程分析方法的流程图,如图1所示,本发明实施例提供的内容分发网络调度过程分析方法包括:
步骤101、对域名解析服务器日志数据中的域名解析服务器记录进行拆分,得到待分析数据。
在本发明实施例中,域名解析服务器日志数据包括有域名解析服务器记录,每个域名解析服务器记录包括一个查询域名和一个CNAME链条。其中,查询域名是指用户在做查询操作时所输入的域名。
在本发明实施例中,更希望了解CDN服务商的服务情况,而CNAME链条中的首CNAME通常是从ICP调度指向CDN服务商的入口。因此在本步骤中,对DNS日志数据进行拆分,得到“查询域名+首CNAME”的拆分后结果,这一拆分结果也就是后续步骤中的分析对象,因此将拆分后的结果称为待分析数据。
步骤102、基于待分析数据生成第一有向图。
在本发明实施例中,所述的第一有向图能够反映主域名的调度关系。
具体的说,基于待分析数据生成第一有向图的过程包括:
步骤102-1、从待分析数据中提取主域名对。
主域名,是用于代表ICP服务商或CDN服务商的域名。主域名可以从任何域名中提取。例如,从查询域名中提取主域名,从CNAME链条中的首CNAME中提取主域名,从CNAME链条中除首CNAME之外的其他CNAME提取主域名。但在本发明实施例中,待分析数据包括“查询域名+首CNAME”,因此只能从查询域名与首CNAME提取主域名。从查询域名中所提取的主域名代表ICP服务商,从首CNAME中提取的主域名代表CDN服务商。
在之前的例子中,www.people.cn的主域名为people.cn,www.people.chinacache.net的主域名为chinacache.net。
主域名对,在本发明实施例中,表示查询域名主域名和首CNAME主域名的对应关系。其中查询域名主域名为上游主域名,首CNAME主域名为下游主域名。在上面例子中,主域名对为people.cn–chinacache.net,表示从ICP–CDN的调度关系。
在本发明实施例中,在提取主域名时需要分情况考虑:
对于以.cn结束的域名,如果顶级域名为cn并且二级域名为通用域名(如.com,.edu,.gov,.net,.org),则截取后3段作为主域名,例如sina.com.cn;否则截取后2段作为主域名,例如10086.cn。
对于以国际顶级域名(gTLD)结束的域名,截取后2段作为主域名,例如qq.com。
从待分析数据中提取主域名有助于对日志中海量的域名进行合并,便于分析内容分发网络的调度过程。
步骤102-2、根据主域名对生成第一有向图。
基于待分析数据得到主域名对之后,将主域名对中的上游主域名和下游主域名分别作为顶点,两者之间为有向边,边的方向为从上游主域名到下游主域名,上游主域名和下游主域名之间的调度次数作为边的权重。
在之前的描述中已经提到,一个域名可以出现在多个主域名对中,但在生成第一有向图时,一个域名只能对应图上的一个顶点。基于待分析数据,如果一个域名与另一个域名之间的调度关系出现了多次,就记录调度次数,将最终得到的调度次数作为两个域名所代表的两个顶点之间的边的权重。
在得到边的权重以后,就可以设置顶点的权重。在本发明实施例中,可采用strength算法计算顶点的权重,即一个顶点所有边(包括入和出)的权重之和就是这个顶点的权重。
为了使得顶点权重以及边权重的描述更为统一,作为一个优选实现方式,在本发明实施例中,可将顶点权重与边权重分别做归一化处理。
以顶点权重为例,在对顶点权重做归一化处理时采用了min-max归一化方法,即(x-min)/(max-min),将顶点权重映射到[0,1]的范围内。
经过上述处理后,所得到的第一有向图为DNW类型的有向图,即:
D:有方向。从上游主域名指向下游主域名;
N:顶点有名字,即主域名;
W:顶点和边有权重。
本发明实施例提供的内容分发网络调度过程分析方法从查询域名和CNAME域名中分别提取主域名,以主域名构造有向图,从而将调度关系抽象、简化到主域名级别,实现了对内容分发网络调度过程的分析。
基于上述任一实施例,在本发明实施例中,还包括:
对域名解析服务器日志数据进行清洗,得到域名解析服务器记录。
在本发明前一实施例中,DNS日志数据被默认为是“干净”的,即不包括重复、无用或错误的数据,但实际上,多数情况下DNS日志数据并不是“干净”的,因此在本发明实施例中需要对DNS日志数据进行清洗。
具体的说,对数据的清洗包括:剔除失败记录、异常记录、类型不符的记录、无CNAME调度过程的记录。其中,失败记录是指DNS响应码指示失败的记录,例如服务器失败。异常记录是指查询域名为空的记录。类型不符的记录是指非IPv4或非IPv6类型的查询记录。无CNAME调度过程的记录是指记录中未包含CNAME调度过程。
如何对数据进行清洗为本领域技术人员所公知,因此不在此处对具体的实现步骤做进一步的说明。
本发明实施例提供的内容分发网络调度过程分析方法通过对DNS日志数据的清洗,能够去除错误、无用的数据,有助于提高内容分发网络调度过程分析的准确性。
基于上述任一实施例,在本发明实施例中,还包括:
对所生成的第一有向图进行裁剪。
由于在互联网中存在海量域名,不同域名的业务访问量差异很大,大量业务集中在少数域名。基于互联网的这一特点,在生成第一有向图后,可根据权重,删除业务量小的顶点和边。
本发明实施例提供的内容分发网络调度过程分析方法有助于缩小第一有向图的规模,一方面使得用户能够将注意力集中在互联网中的重要域名上,另一方面也有助于降低对存储资源的需求。
基于上述任一实施例,在本发明实施例中,内容分发网络调度过程分析方法还包括:
根据第一网站域名在所述第一有向图中选取第一顶点,基于所述第一顶点生成出向的连通子图,得到所述第一网站域名的CDN服务关系。
由于在第一有向图中描述了主域名所调度的CDN服务商的情况,因此在第一有向图中为所要查询的网站域名(即第一网站域名)选取对应的顶点(即第一顶点)后,查询该顶点的出向连通子图,即可得到所要查询的网站域名的CDN服务商。
图2为一个实例中的某一网站域名的CDN服务关系的示意图。如图2所示,主域名taobao.com主要使用的CDN服务主域名包括alibabadns.com以及tbcache.com。
本发明实施例提供的内容分发网络调度过程分析方法通过对第一有向图的操作,能够快速地查询到网站域名的CDN服务商,提高了调度分析的效率。
基于上述任一实施例,在本发明实施例中,内容分发网络调度过程分析方法还包括:
根据第一CDN服务域名在所述第一有向图中选取第二顶点,基于所述第二顶点生成入向的连通子图,得到所述第一CDN服务域名的网站域名关系。
由于在第一有向图中描述了主域名所调度的CDN服务商的情况,因此在第一有向图中为所要查询的CDN服务域名(即第一CDN服务域名)选取对应的顶点(即第二顶点)后,查询该顶点的入向连通子图,即可得到所要查询的CDN服务域名所服务的网站的域名。
图3为一个实例中的某一CDN服务域名的网站域名关系的示意图,如图3所示,主域名为alibabadns.com的CDN服务商,其服务的主要ICP或网站包括taobao.com、umeng.com。
本发明实施例提供的内容分发网络调度过程分析方法通过对第一有向图的操作,能够快速地查询到CDN服务商所服务的ICP或网站,提高了调度分析的效率。基于上述任一实施例,在本发明实施例中,还包括:
根据第二网站域名或第二CDN服务域名在所述第一有向图中选取第三顶点,以所述第三顶点作为起始点生成弱连通子图,得到关联域名的网络关系。
按照数学定义,将有向图的所有的有向边替换为无向边,所得到的图称为原图的基图。如果一个有向图的基图是连通图,则有向图是弱连通图。通过为一个顶点(该顶点可以代表网站域名,也可以代表CDN服务域名)生成弱连通子图,可以得到关联域名的网络关系。
图4为一个实例中的关联域名的网络关系示意图,如图4所示,诸如taobao.com、umeng.com、alibabadns.com以及tbcache.com等域名都属于关联域名。
本发明实施例提供的内容分发网络调度过程分析方法通过对第一有向图的操作,能够快速地查询到与某一域名(可以是网站域名,也可以是CDN服务域名)相关联的域名,提高了调度分析的效率。
基于上述任一实施例,图5为本发明实施例提供的内容分发网络调度过程分析装置的示意图,如图5所示,本发明实施例提供的内容分发网络调度过程分析装置包括:
数据拆分模块501,用于对域名解析服务器日志数据中的域名解析服务器记录进行拆分,得到待分析数据;其中,
所述域名解析服务器记录包括查询域名和CNAME链条;所述待分析数据包括查询域名以及CNAME链条中的首个CNAME;
有向图生成模块502,用于根据所述待分析数据生成第一有向图;其中,所述第一有向图用于反映主域名之间的调度关系;所述主域名是用于表示ICP服务商或CDN服务商的域名。
本发明实施例提供的内容分发网络调度过程分析装置从查询域名和CNAME域名中分别提取主域名,以主域名构造有向图,从而将调度关系抽象、简化到主域名级别,实现了对内容分发网络调度过程的分析。
图6示例了一种电子设备的实体结构示意图,如图6所示,该电子设备可以包括:处理器(processor)610、通信接口(Communications Interface)620、存储器(memory)630和通信总线640,其中,处理器610,通信接口620,存储器630通过通信总线640完成相互间的通信。处理器610可以调用存储器630中的逻辑指令,以执行如下方法:对域名解析服务器日志数据中的域名解析服务器记录进行拆分,得到待分析数据;根据所述待分析数据生成第一有向图。
此外,上述的存储器630中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面,本发明实施例还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各实施例提供的方法,例如包括:对域名解析服务器日志数据中的域名解析服务器记录进行拆分,得到待分析数据;根据所述待分析数据生成第一有向图。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种内容分发网络调度过程分析方法,其特征在于,包括:
对域名解析服务器日志数据中的域名解析服务器记录进行拆分,得到待分析数据;其中,
所述域名解析服务器记录包括查询域名和CNAME链条;所述待分析数据包括查询域名以及CNAME链条中的首CNAME;
根据所述待分析数据生成第一有向图;其中,
所述第一有向图用于反映主域名之间的调度关系;所述主域名是用于表示ICP服务商或CDN服务商的域名。
2.根据权利要求1所述的内容分发网络调度过程分析方法,其特征在于,还包括:
对域名解析服务器日志数据进行清洗,得到域名解析服务器记录;其中,所述对域名解析服务器日志数据进行清洗进一步包括:
在域名解析服务器日志数据中剔除以下数据中的一种或多种:失败记录、异常记录、类型不符的记录以及无CNAME调度过程的记录。
3.根据权利要求1或2所述的内容分发网络调度过程分析方法,其特征在于,所述根据所述待分析数据生成第一有向图包括:
从所述待分析数据中提取主域名对;其中,所述主域名对包括上游主域名和下游主域名,所述上游主域名是从第一域名解析服务器记录的查询域名中提取出来的主域名,所述下游主域名是从第一域名解析服务器记录的首CNAME中提取出来的主域名;
根据所述主域名对生成第一有向图;进一步包括:
将所述主域名对中的上游主域名和下游主域名作为所述第一有向图的顶点;将所述主域名对中的上游主域名和下游主域名之间的联系作为所述第一有向图的有向边,所述有向边的方向为从所述上游主域名到所述下游主域名,所述上游主域名和所述下游主域名之间的调度次数为所述有向边的权重;所述顶点的权重为与该顶点相连的所有有向边的权重之和。
4.根据权利要求1或2所述的内容分发网络调度过程分析方法,其特征在于,还包括:
对所生成的第一有向图进行裁剪,所述裁剪包括删除所述第一有向图中业务量小于预设值的顶点和有向边。
5.根据权利要求1或2所述的内容分发网络调度过程分析方法,其特征在于,还包括:
根据第一网站域名在所述第一有向图中选取第一顶点,基于所述第一顶点生成出向的连通子图,根据所述出向的连通子图得到服务于所述第一网站域名的CDN服务商。
6.根据权利要求1或2所述的内容分发网络调度过程分析方法,其特征在于,还包括:
根据第一CDN服务域名在所述第一有向图中选取第二顶点,基于所述第二顶点生成入向的连通子图,根据所述入向的连通子图得到所述第一CDN服务域名所服务的网站的域名。
7.根据权利要求1或2所述的内容分发网络调度过程分析方法,其特征在于,还包括:
根据第二网站域名或第二CDN服务域名在所述第一有向图中选取第三顶点,以所述第三顶点作为起始点生成弱连通子图,根据所述弱连通子图得到与所述第二网站域名或第二CDN服务域名相关联的域名。
8.一种内容分发网络调度过程分析装置,其特征在于,包括:
数据拆分模块,用于对域名解析服务器日志数据中的域名解析服务器记录进行拆分,得到待分析数据;其中,
所述域名解析服务器记录包括查询域名和CNAME链条;所述待分析数据包括查询域名以及CNAME链条中的首个CNAME;
有向图生成模块,用于根据所述待分析数据生成第一有向图;其中,所述第一有向图用于反映主域名之间的调度关系;所述主域名是用于表示ICP服务商或CDN服务商的域名。
9.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至7任一项所述内容分发网络调度过程分析方法的步骤。
10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至7任一项所述内容分发网络调度过程分析方法的步骤。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010260930.6A CN111541793B (zh) | 2020-04-03 | 2020-04-03 | 内容分发网络调度过程分析方法、装置与电子设备 |
PCT/CN2020/101824 WO2021196446A1 (zh) | 2020-04-03 | 2020-07-14 | 内容分发网络调度过程分析方法、装置与电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010260930.6A CN111541793B (zh) | 2020-04-03 | 2020-04-03 | 内容分发网络调度过程分析方法、装置与电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111541793A true CN111541793A (zh) | 2020-08-14 |
CN111541793B CN111541793B (zh) | 2021-10-22 |
Family
ID=71974963
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010260930.6A Active CN111541793B (zh) | 2020-04-03 | 2020-04-03 | 内容分发网络调度过程分析方法、装置与电子设备 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111541793B (zh) |
WO (1) | WO2021196446A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112671866A (zh) * | 2020-12-15 | 2021-04-16 | 上海牙木通讯技术有限公司 | Dns分流解析方法、dns服务器及计算机可读存储介质 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115037510A (zh) * | 2022-04-27 | 2022-09-09 | 新华三信息安全技术有限公司 | 一种页面访问方法及装置 |
CN115361358B (zh) * | 2022-08-19 | 2024-02-06 | 山石网科通信技术股份有限公司 | Ip的提取方法、装置、存储介质及电子装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011040947A1 (en) * | 2009-09-30 | 2011-04-07 | Prime Networks Limited | Content delivery utilizing multiple content delivery networks |
CN104038363A (zh) * | 2013-10-24 | 2014-09-10 | 南京汇吉递特网络科技有限公司 | 一种对ccdn提供商信息进行采集及统计的方法 |
CN104202418A (zh) * | 2014-09-17 | 2014-12-10 | 北京瑞汛世纪科技有限公司 | 为内容提供商推荐商业的内容分发网络的方法和系统 |
CN106375492A (zh) * | 2016-08-31 | 2017-02-01 | 贵州白山云科技有限公司 | 一种cdn业务的处理方法、相关设备及通信系统 |
CN109361575A (zh) * | 2018-12-20 | 2019-02-19 | 哈尔滨工业大学(威海) | 一种获取分析dns流量数据的方法及其系统 |
CN109379426A (zh) * | 2018-10-19 | 2019-02-22 | 中国联合网络通信集团有限公司 | 基于x-dns的x-cdn调度方法、设备及系统 |
CN109981765A (zh) * | 2019-03-18 | 2019-07-05 | 北京百度网讯科技有限公司 | 用于确定内容分发网络的访问路径的方法和装置 |
CN110474872A (zh) * | 2019-07-05 | 2019-11-19 | 中国科学院信息工程研究所 | 一种基于dns解析依赖的域名服务风险评估方法与系统 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8473635B1 (en) * | 2003-05-19 | 2013-06-25 | Akamai Technologies, Inc. | Provisioning tool for a distributed computer network |
US9548874B2 (en) * | 2012-12-07 | 2017-01-17 | Verizon Patent And Licensing Inc. | Selecting a content delivery network |
CN108804576B (zh) * | 2018-05-22 | 2021-08-20 | 华中科技大学 | 一种基于链接分析的域名层级结构探测方法 |
CN109698820A (zh) * | 2018-09-03 | 2019-04-30 | 长安通信科技有限责任公司 | 一种域名相似性计算及分类方法和系统 |
-
2020
- 2020-04-03 CN CN202010260930.6A patent/CN111541793B/zh active Active
- 2020-07-14 WO PCT/CN2020/101824 patent/WO2021196446A1/zh active Application Filing
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011040947A1 (en) * | 2009-09-30 | 2011-04-07 | Prime Networks Limited | Content delivery utilizing multiple content delivery networks |
CN104038363A (zh) * | 2013-10-24 | 2014-09-10 | 南京汇吉递特网络科技有限公司 | 一种对ccdn提供商信息进行采集及统计的方法 |
CN104202418A (zh) * | 2014-09-17 | 2014-12-10 | 北京瑞汛世纪科技有限公司 | 为内容提供商推荐商业的内容分发网络的方法和系统 |
CN106375492A (zh) * | 2016-08-31 | 2017-02-01 | 贵州白山云科技有限公司 | 一种cdn业务的处理方法、相关设备及通信系统 |
CN109379426A (zh) * | 2018-10-19 | 2019-02-22 | 中国联合网络通信集团有限公司 | 基于x-dns的x-cdn调度方法、设备及系统 |
CN109361575A (zh) * | 2018-12-20 | 2019-02-19 | 哈尔滨工业大学(威海) | 一种获取分析dns流量数据的方法及其系统 |
CN109981765A (zh) * | 2019-03-18 | 2019-07-05 | 北京百度网讯科技有限公司 | 用于确定内容分发网络的访问路径的方法和装置 |
CN110474872A (zh) * | 2019-07-05 | 2019-11-19 | 中国科学院信息工程研究所 | 一种基于dns解析依赖的域名服务风险评估方法与系统 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112671866A (zh) * | 2020-12-15 | 2021-04-16 | 上海牙木通讯技术有限公司 | Dns分流解析方法、dns服务器及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2021196446A1 (zh) | 2021-10-07 |
CN111541793B (zh) | 2021-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111541793B (zh) | 内容分发网络调度过程分析方法、装置与电子设备 | |
CN109033471B (zh) | 一种信息资产识别方法及装置 | |
US8825750B2 (en) | Application server management system, application server management method, management apparatus, application server and computer program | |
JP2019204264A (ja) | 信頼度算出装置、信頼度算出方法及びプログラム | |
CN108965337B (zh) | 规则匹配方法、装置、防火墙设备及机器可读存储介质 | |
CN105227386B (zh) | 用于分群体统计在线用户数的方法、装置及系统 | |
CN109510883A (zh) | 域名查询方法、装置、设备及存储介质 | |
CN111865628A (zh) | 家宽故障影响用户的统计系统、方法、服务器和存储介质 | |
US20230006956A1 (en) | Spam forecasting and preemptive blocking of predicted spam origins | |
CN111159702B (zh) | 一种进程名单生成方法和装置 | |
CN115333966A (zh) | 一种基于拓扑的Nginx日志分析方法、系统及设备 | |
CN108833424B (zh) | 一种获取域名所有资源记录的系统 | |
WO2024139862A1 (zh) | 一种基于聚类分析的域名滥用检测方法及系统 | |
JP2015076892A (ja) | 権威ネームサーバの変化に基づくドメイン名の特徴付け | |
CN114791927A (zh) | 一种数据分析方法和装置 | |
US11805146B2 (en) | System and method for detection promotion | |
CN112860810A (zh) | 域名多重图嵌入表示方法、装置、电子设备及介质 | |
CN113556407B (zh) | 标识解析节点的接口调用方法、装置和电子设备 | |
CN114615015A (zh) | 服务系统修复优先级的确定方法、装置、设备及介质 | |
CN111885220B (zh) | 一种目标单位ip资产主动获取与验证方法 | |
CN109889619B (zh) | 基于区块链的异常域名监测方法及装置 | |
GB2522433A (en) | Efficient decision making | |
CN116955709A (zh) | 一种用户数据融合处理方法及系统 | |
CN113760864A (zh) | 数据模型的生成方法和装置 | |
CN115460177B (zh) | 域名检测方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |