CN113220967B - 互联网环境的生态健康程度衡量方法、装置和电子设备 - Google Patents
互联网环境的生态健康程度衡量方法、装置和电子设备 Download PDFInfo
- Publication number
- CN113220967B CN113220967B CN202110512232.5A CN202110512232A CN113220967B CN 113220967 B CN113220967 B CN 113220967B CN 202110512232 A CN202110512232 A CN 202110512232A CN 113220967 B CN113220967 B CN 113220967B
- Authority
- CN
- China
- Prior art keywords
- website
- internet environment
- measurement
- productivity
- granularity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/955—Retrieval from the web using information identifiers, e.g. uniform resource locators [URL]
Abstract
本申请公开了互联网环境的生态健康程度衡量方法、装置和电子设备,涉及计算机技术领域,具体涉及自然语言处理、大数据等技术领域。具体实现方案为:获取多个网站的生产力;对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度;获取多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据;以及根据生产数据,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。由此,能够有效地降低衡量互联网环境生态健康程度的复杂度,且成本低、准确率高。
Description
技术领域
本申请涉及计算机技术领域,具体涉及自然语言处理、大数据等技术领域,尤其涉及一种互联网环境的生态健康程度衡量方法、装置和电子设备。
背景技术
互联网每天生产了海量数据,这些数据又可反复follow(跟随)出更多的页面,给用户带来了大量的信息。但如何从这些数据中筛选出有价值的信息,如果衡量数据源的质量和互联网生态健康程度一直是一件复杂困难的工作。
发明内容
本申请提供一种互联网环境的生态健康程度衡量方法、装置和电子设备。
根据本申请的一方面,提供了一种互联网环境的生态健康程度衡量方法,包括:
获取多个网站的生产力;
对每个所述网站对应的生产力进行拆分,以生成所述每个网站对应的多种粒度;
获取所述多个网站在至少一个时间段内分别在每种所述粒度下所产生的生产数据;以及
根据所述生产数据,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
根据本申请的另一方面,提供了一种互联网环境的生态健康程度衡量装置,包括:
第一获取模块,用于获取多个网站的生产力;
拆分模块,用于对每个所述网站对应的生产力进行拆分,以生成所述每个网站对应的多种粒度;
第二获取模块,用于获取所述多个网站在至少一个时间段内分别在每种所述粒度下所产生的生产数据;以及
衡量模块,用户根据所述生产数据,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
根据本申请的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述一方面实施例所述的互联网环境的生态健康程度衡量方法。
根据本申请的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行上述一方面实施例所述的互联网环境的生态健康程度衡量方法。
根据本申请的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现上述一方面实施例所述的互联网环境的生态健康程度衡量方法。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请实施例提供的一种互联网环境的生态健康程度衡量方法的流程示意图;
图2是本申请实施例提供的站点粒度生产能力分布图;
图3是本申请实施例提供的另一种互联网环境的生态健康程度衡量方法的流程示意图;
图4是本申请实施例提供的另一种互联网环境的生态健康程度衡量方法的流程示意图;
图5是本申请实施例提供的一种互联网环境的生态健康程度衡量装置的结构示意图;以及
图6是根据本申请实施例的互联网环境的生态健康程度衡量方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
下面参考附图描述本申请实施例的互联网环境的生态健康程度衡量方法、装置和电子设备。
自然语言处理是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。
大数据(big data),IT行业术语,是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》中大数据指不用随机分析法(抽样调查)这样捷径,而采用所有数据进行分析处理。大数据的5V特点(IBM提出):Volume(大量)、Velocity(高速)、Variety(多样)、Value(低价值密度)、Veracity(真实性)。
本申请实施例提供的互联网环境的生态健康程度衡量方法,可以由电子设备来执行,该电子设备可为PC(Personal Computer,个人计算机)电脑、平板电脑、掌上电脑或服务器等,此处不做任何限定。
在本申请实施例中,电子设备中可以设置有处理组件、存储组件和驱动组件。可选的,该驱动组件和处理组件可以集成设置,该存储组件可以存储操作系统、应用程序或其他程序模块,该处理组件通过执行存储组件中存储的应用程序来实现本申请实施例提供的互联网环境的生态健康程度衡量方法。
图1是本申请实施例提供的一种互联网环境的生态健康程度衡量方法的流程示意图。
本申请实施例的互联网环境的生态健康程度衡量方法,还可由本申请实施例提供的互联网环境的生态健康程度衡量装置执行,该装置可配置于电子设备中,以实现获取多个网站的生产力,并对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度,而后获取多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据,并根据生产数据,对互联网环境进行生态健康程度衡量,以生成互联网环境数据,从而能够有效地降低衡量互联网环境生态健康程度的复杂度,且成本低、准确率高。
作为一种可能的情况,本申请实施例的互联网环境的生态健康程度衡量方法还可以在服务器端执行,服务器可以为云服务器,可以在云端执行该互联网环境的生态健康程度衡量方法。
如图1所示,该互联网环境的生态健康程度衡量方法,可包括:
步骤S101,获取多个网站的生产力。
需要说明的是,该实施例中所描述的生产力,可为网站的数据(信息)的生产能力,其中,该生产能力可包括网站生产链接的能力,即在一个时间段内网站产生链接的数量,以及该链接对应网页具体数据的能力,即链接对应的网页所包含的数据量。
在本申请实施例中,获取多个网站的生产力的途径有可多条,其中,可通过相关的API(Application Programming Interface,应用程序接口)接口从网站中读取,也可通过相关的工具(例如,网络爬虫)从网站中获取,此处不做任何限定。
具体地,电子设备可通过相关的API接口和/或相关的工具获取多个网站的生产力。
步骤S102,对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度。
需要说明的是,该实施例中所描述的粒度可以是同一维度下,数据统计的粗细程度,其中,该实施例中所描述的多种粒度,可为生产力在多个维度下的粗细程度。其中,细化程度越高,粒度级就越小;相反,细化程度越低,粒度级就越大。
在本申请实施例中,可根据生产力拆分模型分别对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度。
需要说明的是,该实施例中所描述的生产力拆分模型可以是提前训练好的,并将其预存于电子设备(例如,电脑)的存储空间中,以方便调取使用。其中,该存储空间不仅限于基于实体的存储空间,例如,硬盘,该存储空间还可以是连接电子设备的网络硬盘的存储空间(云存储空间)。
其中,生产力拆分模型的训练与生成可由相关的服务器进行,该服务器可以是云端服务器,也可以是一台电脑的主机,该服务器与可执行本申请实施例提供的互联网环境的生态健康程度衡量方法的电子设备之间,建立有通信连接,该通信连接可以是无线网络连接和有线网络连接中的至少一种。服务器可将训练完成的生产力拆分模型发送给电子设备,以便电子设备在需要时调用,从而大大减少电子设备的计算压力。
具体地,电子设备在获取到多个网站的生产力之后,可分别将该多个网站的生产力输入至上述的生产力拆分模型,从而通过该生产力拆分模型分别对多个网站的生产力进行拆分(处理),以获取(生成)该生产力拆分模型输出的每个网站对应的多种粒度。
作为一种可能的情况,电子设备还可根据预设的生产力拆分算法和每个网站对应的生产力生成每个网站对应的多种粒度。其中,预设的生产力拆分算法可根据实际情况进行标定。
具体地,电子设备在获取到多个网站的生产力之后,可通过预设的生产力拆分算法对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度。
步骤S103,获取多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据。其中,至少一个时间段可包括一周、一个季度、一天和一年等等中的至少一个,另外,生产数据可包括生成数据量信息。
在本申请实施例中,电子设备可通过预设的统计算法,可对多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据进行统计,从而得到多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据,其中,预设的统计算法可根据实际情况进行标定,应说明的是,该实施例中所描述的预设的统计算法可预先存储在电子设备的存储空间中,以方便调取应用。
具体地,电子设备在生成每个网站对应的多种粒度之后,可根据上述的预设的统计算法进行数据统计,以得到多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据。
举例而言,参见图2,其示出了对站点粒度两种时间维度下网站的生产数据,以及生产的全部生产数据(即,全量)进行统计得到的站点粒度生产能力的分布情况,其中,横坐标为站点量,纵坐标为生产数据,两种时间维度分别为:一周和一个季度。
需要说明的是,上述实施例中的时间维度可为多个,可包括:年、季度、月、周和天等,此处不做任何限定。
步骤S104,根据生产数据,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
在本申请实施例中,可根据预设的方法将上述的生产数据转换成某种系数(例如,基尼系数接)进行生态健康程度衡量,以生成互联网环境数据。其中,预设的方法可根据实际情况进行标定,应说明的是,该实施例中所描述的预设的方法也可预先存储在电子设备的存储空间中,以方便调取应用。
具体地,电子设备在获取到上述的生产数据之后,可根据预设的方法分别对上述多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据进行处理,从而得到每个网站对应的互联网环境生态健康程度的衡量分数,并基于该衡量分数对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
进一步地,相关工作人员可根据该互联网环境数据,对当下的互联网的管理进行调整。
在本申请实施例中,首先获取多个网站的生产力,并对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度,然后获取多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据,最后根据生产数据,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。由此,能够有效地降低衡量互联网环境生态健康程度的复杂度,且成本低、准确率高。
为了清楚说明上一实施例,在本申请的一个实施例中,网站的生产力可包括链接生产力和网页生产力,获取多个网站的生产力可包括通过网络爬虫抓取多个网站的链接以得到链接生产力,并通过网络爬虫抓取链接对应网页的数据以得到网页的生产力。
需要说明的是,该实施例中所描述的链接生产力可为上述的网站生产链接的能力,该实施例中所描述的网页生产力可为上述的链接对应网页具体数据的能力。
具体地,电子设备在对互联网环境的生态健康程度进行衡量的过程中,可先获取多个网站的链接生产力和网页生产力,其中,对于链接生产力的获取可通过spider(蜘蛛)链接抓取数据的统计分布实现;对于网页生产力的获取,可通过对链接进行调度抓取或渲染得到网页数据的统计分布实现。由此,可获取每个网站的链接生产力和网页生产力,进而获取该网站的生产力,并且本申请通过网络爬虫进行相关数据抓取,降低了抓取数据的复杂度。
进一步地,在本申请的一个实施例中,多种粒度可包括主域粒度、站点粒度、目录粒度和正则粒度。
具体地,电子设备在对每个网站对应的生产力进行拆分的过程中,可将每个网站对应的生产力进行拆分,以生成主域粒度、站点粒度、目录粒度和正则粒度。
需要说明的是,该实施例中所描述的主域粒度可指的是网站域名下的粒度;该实施例中所描述的站点粒度可以是在主域粒度的基础上继续细化得到的,其中,站点粒度为本申请实际应用最主要的粒度;该实施例中所描述的目录粒度可以是在站点粒度的基础上继续细化得到的;该实施例中所描述的目录粒度正则粒度可以是在目录粒度的基础上继续细化得到的。
由此,能够为互联网环境的生态健康程度的衡量提供充足的数据保障,从而提高衡量的准确性。
在本申请的一个实施例中,如图3所示,根据生产数据对互联网环境进行生态健康程度衡量,以生成互联网环境数据,可包括:
步骤S301,根据生产数据,分别合并每个网站在至少一个时间段内分别在每种粒度下所产生的生产数据,以生成每个网站对应的衡量数据。
在本申请实施例中,可通过下述公式(1)分别合并每个网站在至少一个时间段内分别在每种粒度下所产生的生产数据,以得到每个网站对应的衡量数据:
psdr->power()=∑log(w*(value-avg)/(max-min)) (1)
其中,psdr可为网站对应的衡量数据,power()可为函数值(即,预设函数值),psdr->power()可表示指针psdr指向power(),w可为连续性、稳定性参数(即,即网站在至少一个时间段内分别在每种粒度下所产生的生产数据,例如,一个季度内主域粒度、站点粒度、目录粒度和正则粒度对应的生产数据),value可为当前粒度下生产数据统计值,avg可为当前粒度下生产数据均值,max可为当前粒度下最大生产数据量,min可为当前粒度下最小生产数据量。
具体地,电子设备在获取到多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据之后,可通过上述的公式(1),分别计算出每个网站对应的衡量数据。
需要说明的是,上述实施例中所描述的参数w具体数值还可由每个网站的生产力的连续性和稳定性得到,对于不同网站,参数w的数值可以不同,此处不做限定。
步骤S302,分别对每个网站对应的衡量数据进行归一化处理,以得到每个网站对应的衡量分数。
在本申请实施例中,可通过下述公式(2)分别对每个网站对应的衡量数据进行归一化处理,计算得到每个网站对应的衡量分数:
score=sigmoid(psdr->power()) (2)
其中,score可为网站对应的衡量分数,psdr可为网站对应的衡量数据,power()可为函数值,psdr->power()可表示指针psdr指向power(),sigmoid()函数为神经网络中的激活函数。
具体地,电子设备在通过上述的公式(1)计算出每个网站对应的衡量数据之后,可通过上述的公式(2)分别对每个网站对应的衡量数据进行归一化处理,从而得到每个网站对应的衡量分数。
需要说明的是,该实施例中所描述的衡量分数的数值距离坐标轴的原点越远,表示网站的生产力越强(异常),数据越倾向低质;距离坐标轴的原点越近,表示网站的生产力越弱(正常),数据越倾向优质。由此,可通过衡量分数来判断网站数据质量的优劣,进而优化网站数据的质量。
需要说明的是,上述实施例中的归一化方法还可包括最值归一化和均值方差归一化等方法,此处不做限定。
步骤S303,根据每个网站对应的衡量分数,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
具体地,电子设备在得到每个网站对应的衡量分数之后,可根据每个网站对应的衡量分数对每个网站生产数据的质量进行衡量,从而可基于每个网站生产数据的质量对互联网环境进行生态健康程度衡量,以生成互联网环境数据。由此,能够进一步降低衡量互联网环境生态健康程度的复杂度。
为了清楚说明上一实施例,在本申请的一个实施例中,如图4所示,根据每个网站对应的衡量分数,对互联网环境进行生态健康程度衡量,以生成互联网环境数据,可包括:
步骤S401,获取衡量策略。其中,衡量策略可根据实际情况进行标定,应说明的是,该实施例中所描述的衡量策略也可预先存储在电子设备的存储空间中,以方便调取应用。
步骤S402,根据衡量策略,合并每个网站对应的衡量分数以生成互联网环境的衡量系数,其中,衡量系数包括基尼系数。
在本申请实施例中,可通过下述公式(3)合并每个网站对应的衡量分数,以计算得到互联网环境的衡量系数:
all_score=∑log(sigmoid(psdr->power()) (3)
其中,all_score可可为互联网环境数据,psdr可为每个网站对应的衡量数据,power()可为函数值,psdr->power()可表示指针psdr指向power(),sigmoid()函数可为神经网络中的激活函数。
步骤S403,根据互联网环境的衡量系数,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
具体地,电子设备在得到每个网站对应的衡量分数之后,可从自身的存储空间中获取衡量策略,然后可在该衡量策略的指导下,通过上述公式(3)合并每个网站对应的衡量分数,计算得到互联网环境的衡量系数,最后电子设备可根据该互联网环境的衡量系数,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
需要说明的是,该实施例中所描述的衡量系数可为基尼系数,通过该基尼系数表达整体生态指标,其中,基尼系数越小表示生态越健康,实际生态情况正好相反,基尼系数接近于1,生态问题严峻,被垃圾站和部分大站点把持。通过此打分值进行生态环境刻画从而生成互联网环境数据,用于优化互联网生态环境。
图5是本申请实施例提供的一种互联网环境的生态健康程度衡量装置的方框示意图。
本申请实施例的互联网环境的生态健康程度衡量装置,可配置于电子设备中,以实现获取多个网站的生产力,并对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度,而后获取多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据,并根据生产数据,对互联网环境进行生态健康程度衡量,以生成互联网环境数据,从而能够有效地降低衡量互联网环境生态健康程度的复杂度,且成本低、准确率高。
如图5所示,该互联网环境的生态健康程度衡量装置500可包括:第一获取模块510、拆分模块520、第二获取模块530和衡量模块540。
其中,第一获取模块510用于获取多个网站的生产力。
需要说明的是,该实施例中所描述的生产力,可为网站的数据(信息)的生产能力,其中,该生产能力可包括网站生产链接的能力,即在一个时间段内网站产生链接的数量,以及该链接对应网页具体数据的能力,即链接对应的网页所包含的数据量。
在本申请实施例中,第一获取模块510获取多个网站的生产力的途径有可多条,其中,可通过相关的API接口从网站中读取,也可通过相关的工具(例如,网络爬虫)从网站中获取,此处不做任何限定。
具体地,第一获取模块510可通过相关的API接口和/或相关的工具获取多个网站的生产力。
拆分模块520用于对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度。
需要说明的是,该实施例中所描述的粒度可以是同一维度下,数据统计的粗细程度,其中,该实施例中所描述的多种粒度,可为生产力在多个维度下的粗细程度。其中,细化程度越高,粒度级就越小;相反,细化程度越低,粒度级就越大。
在本申请实施例中,拆分模块520可根据生产力拆分模型分别对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度。
需要说明的是,该实施例中所描述的生产力拆分模型可以是提前训练好的,并将其预存于电子设备(例如,电脑)的存储空间中,以方便调取使用。其中,该存储空间不仅限于基于实体的存储空间,例如,硬盘,该存储空间还可以是连接电子设备的网络硬盘的存储空间(云存储空间)。
其中,生产力拆分模型的训练与生成可由相关的服务器进行,该服务器可以是云端服务器,也可以是一台电脑的主机,该服务器与可配置本申请实施例提供的互联网环境的生态健康程度衡量装置的电子设备之间,建立有通信连接,该通信连接可以是无线网络连接和有线网络连接中的至少一种。服务器可将训练完成的生产力拆分模型发送给电子设备,以便电子设备在需要时调用,从而大大减少电子设备的计算压力。
具体地,在第一获取模块510获取到多个网站的生产力之后,拆分模块520可分别将该多个网站的生产力输入至上述的生产力拆分模型,从而通过该生产力拆分模型分别对多个网站的生产力进行拆分(处理),以获取(生成)该生产力拆分模型输出的每个网站对应的多种粒度。
作为一种可能的情况,拆分模块520还可根据预设的生产力拆分算法和每个网站对应的生产力生成每个网站对应的多种粒度。其中,预设的生产力拆分算法可根据实际情况进行标定。
具体地,在第一获取模块510获取到多个网站的生产力之后,拆分模块520可通过预设的生产力拆分算法对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度。
第二获取模块530用于获取多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据。其中,至少一个时间段可包括一周、一个季度、一天和一年等等中的至少一个,另外,生产数据可包括生成数据量信息。
在本申请实施例中,第二获取模块530可通过预设的统计算法,可对多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据进行统计,从而得到多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据,其中,预设的统计算法可根据实际情况进行标定,应说明的是,该实施例中所描述的预设的统计算法可预先存储在电子设备的存储空间中,以方便调取应用。
具体地,在拆分模块520生成每个网站对应的多种粒度之后,第二获取模块530可根据上述的预设的统计算法进行数据统计,以得到多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据。
举例而言,参见图2,其示出了对站点粒度两种时间维度下网站的生产数据,以及生产的全部生产数据(即,全量)进行统计得到的站点粒度生产能力的分布情况,其中,横坐标为站点量,纵坐标为生产数据,两种时间维度分别为:一周和一个季度。
需要说明的是,上述实施例中的时间维度可为多个,可包括:年、季度、月、周和天等,此处不做任何限定。
衡量模块540用于根据生产数据,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
在本申请实施例中,衡量模块540可根据预设的方法将上述的生产数据转换成某种系数(例如,基尼系数接)进行生态健康程度衡量,以生成互联网环境数据。其中,预设的方法可根据实际情况进行标定,应说明的是,该实施例中所描述的预设的方法也可预先存储在电子设备的存储空间中,以方便调取应用。
具体地,在第二获取模块530获取到上述的生产数据之后,衡量模块540可根据预设的方法分别对上述多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据进行处理,从而得到每个网站对应的互联网环境生态健康程度的衡量分数,并基于该衡量分数对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
进一步地,相关工作人员可根据该互联网环境数据,对当下的互联网的管理进行调整。
在本申请实施例中,首先通过第一获取模块获取多个网站的生产力,并通过拆分模块对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度,然后通过第二获取模块获取多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据,最后通过衡量模块根据生产数据,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。由此,能够有效地降低衡量互联网环境生态健康程度的复杂度,且成本低、准确率高。
在本申请的一个实施例中,生产力可包括链接生产力和网页生产力,第一获取模块510具体用于通过网络爬虫抓取所述多个网站的链接以得到所述链接生产力,并通过所述网络爬虫抓取所述链接对应网页的数据以得到所述网页生产力。
在本申请的一个实施例中,多种粒度可包括主域粒度、站点粒度、目录粒度和正则粒度。
在本申请的一个实施例中,如图5所示,衡量模块540可包括:合并单元541、处理单元542和衡量单元543。
其中,合并单元541用于根据生产数据,分别合并每个网站在至少一个时间段内分别在每种粒度下所产生的生产数据,以生成每个网站对应的衡量数据。
处理单元542用于分别对每个网站对应的衡量数据进行归一化处理,以得到每个网站对应的衡量分数。
衡量单元543用于根据每个网站对应的衡量分数,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
在本申请的一个实施例中,衡量单元543具体用于:获取衡量策略;根据衡量策略,合并每个网站对应的衡量分数以生成互联网环境数据的系数,其中,衡量系数包括基尼系数;根据互联网环境的衡量系数,对互联网环境进行生态健康衡量。
需要说明的是,前述对互联网环境的生态健康程度衡量方法实施例的解释说明也适用于该实施例的互联网环境的生态健康程度衡量装置,此处不再赘述。
本申请实施例的互联网环境的生态健康程度衡量装置,首先通过第一获取模块获取多个网站的生产力,并通过拆分模块对每个网站对应的生产力进行拆分,以生成每个网站对应的多种粒度,然后通过第二获取模块获取多个网站在至少一个时间段内分别在每种粒度下所产生的生产数据,最后通过衡量模块根据生产数据,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。由此,能够有效地降低衡量互联网环境生态健康程度的复杂度,且成本低、准确率高。
根据本申请的实施例,本申请还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图6示出了可以用来实施本申请的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,设备600包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM603中,还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
设备600中的多个部件连接至I/O接口605,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储单元608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理,例如互联网环境的生态健康衡量方法。例如,在一些实施例中,互联网环境的生态健康衡量方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时,可以执行上文描述的互联网环境的生态健康衡量方法的一个或多个步骤。备选地,在其他实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行互联网环境的生态健康衡量方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本申请的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本申请的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (6)
1.一种互联网环境的生态健康程度衡量方法,包括:
通过网络爬虫抓取多个网站的链接以得到链接生产力,并通过所述网络爬虫抓取所述链接对应网页的数据以得到网页生产力;
对每个所述网站对应的所述链接生产力和所述网页生产力进行拆分,以生成每个所述网站对应的多种粒度,所述多种粒度包括主域粒度、站点粒度、目录粒度和正则粒度;
获取所述多个网站在至少一个时间段内分别在每种所述粒度下所产生的生产数据;以及
根据所述生产数据,分别合并每个所述网站在所述至少一个时间段内分别在每种所述粒度下所产生的生产数据,以生成每个所述网站对应的衡量数据;
分别对每个所述网站对应的衡量数据进行归一化处理,以得到每个所述网站对应的衡量分数;
根据每个所述网站对应的衡量分数,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
2.根据权利要求1所述的方法,其中,所述根据每个所述网站对应的衡量分数,对互联网环境进行生态健康程度衡量,以生成互联网环境数据,包括:
获取衡量策略;
根据所述衡量策略,合并每个所述网站对应的衡量分数以生成所述互联网环境的衡量系数,其中,所述衡量系数包括基尼系数;
根据所述互联网环境的衡量系数,对所述互联网环境进行生态健康程度衡量,以生成所述互联网环境数据。
3.一种互联网环境的生态健康程度衡量装置,包括:
第一获取模块,用于通过网络爬虫抓取多个网站的链接以得到链接生产力,并通过所述网络爬虫抓取所述链接对应网页的数据以得到网页生产力;
拆分模块,用于对每个所述网站对应的所述链接生产力和所述网页生产力进行拆分,以生成每个所述网站对应的多种粒度,所述多种粒度包括主域粒度、站点粒度、目录粒度和正则粒度;
第二获取模块,用于获取所述多个网站在至少一个时间段内分别在每种所述粒度下所产生的生产数据;以及
衡量模块,用于根据所述生产数据,分别合并每个所述网站在所述至少一个时间段内分别在每种所述粒度下所产生的生产数据,以生成每个所述网站对应的衡量数据;分别对每个所述网站对应的衡量数据进行归一化处理,以得到每个所述网站对应的衡量分数;根据每个所述网站对应的衡量分数,对互联网环境进行生态健康程度衡量,以生成互联网环境数据。
4.根据权利要求3所述的装置,其中,所述衡量单元,具体用于:
获取衡量策略;
根据所述衡量策略,合并每个所述网站对应的衡量分数以生成所述互联网环境的衡量系数,其中,所述衡量系数包括基尼系数;
根据所述互联网环境的衡量系数,对所述互联网环境进行生态健康程度衡量,以生成所述互联网环境数据。
5.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-2中任一项所述的互联网环境的生态健康程度衡量方法。
6.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-2中任一项所述的互联网环境的生态健康程度衡量方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110512232.5A CN113220967B (zh) | 2021-05-11 | 2021-05-11 | 互联网环境的生态健康程度衡量方法、装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110512232.5A CN113220967B (zh) | 2021-05-11 | 2021-05-11 | 互联网环境的生态健康程度衡量方法、装置和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113220967A CN113220967A (zh) | 2021-08-06 |
CN113220967B true CN113220967B (zh) | 2023-09-22 |
Family
ID=77094736
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110512232.5A Active CN113220967B (zh) | 2021-05-11 | 2021-05-11 | 互联网环境的生态健康程度衡量方法、装置和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113220967B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106570168A (zh) * | 2016-11-08 | 2017-04-19 | 恒安嘉新(北京)科技有限公司 | 一种基于大数据分析的互联网+发展指数计算方法 |
CN106572110A (zh) * | 2016-11-08 | 2017-04-19 | 恒安嘉新(北京)科技有限公司 | 一种基于大数据分析的互联网信息安全态势指数计算方法 |
CN107122467A (zh) * | 2017-04-26 | 2017-09-01 | 努比亚技术有限公司 | 一种搜索引擎的检索结果评价方法及装置、计算机可读介质 |
CN109768899A (zh) * | 2018-12-26 | 2019-05-17 | 北京奇安信科技有限公司 | 网站可用性监测方法、装置、设备及介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10290377B2 (en) * | 2016-05-04 | 2019-05-14 | International Business Machines Corporation | Social health risk estimation |
-
2021
- 2021-05-11 CN CN202110512232.5A patent/CN113220967B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106570168A (zh) * | 2016-11-08 | 2017-04-19 | 恒安嘉新(北京)科技有限公司 | 一种基于大数据分析的互联网+发展指数计算方法 |
CN106572110A (zh) * | 2016-11-08 | 2017-04-19 | 恒安嘉新(北京)科技有限公司 | 一种基于大数据分析的互联网信息安全态势指数计算方法 |
CN107122467A (zh) * | 2017-04-26 | 2017-09-01 | 努比亚技术有限公司 | 一种搜索引擎的检索结果评价方法及装置、计算机可读介质 |
CN109768899A (zh) * | 2018-12-26 | 2019-05-17 | 北京奇安信科技有限公司 | 网站可用性监测方法、装置、设备及介质 |
Non-Patent Citations (3)
Title |
---|
Despoina Petsani ; Evdokimos I. Kostantinidis * |
Vasiliki I. Zilidou ; Panagiotis D. Bamidis.Exploring health profiles from physical and cognitive serious game analytics.《2018 2nd International Conference on Technology and Innovation in Sports, Health and Wellbeing (TISHW)》.2018,摘要. * |
自动结构化数据的电商网站主题爬虫研究;张倩;林安成;廖秀秀;;计算机系统应用(07);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113220967A (zh) | 2021-08-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114021156A (zh) | 漏洞自动化聚合的整理方法、装置、设备以及存储介质 | |
CN114064925A (zh) | 知识图谱的构建方法、数据查询方法、装置、设备和介质 | |
CN113220967B (zh) | 互联网环境的生态健康程度衡量方法、装置和电子设备 | |
CN112580800A (zh) | 数据趋势预测模型的训练方法、数据趋势的预测方法 | |
EP4116889A2 (en) | Method and apparatus of processing event data, electronic device, and medium | |
CN115344495A (zh) | 批量任务测试的数据分析方法、装置、计算机设备及介质 | |
CN114021642A (zh) | 数据处理方法、装置、电子设备和存储介质 | |
CN113052325A (zh) | 在线模型的优化方法、装置、设备、存储介质及程序产品 | |
CN113612777A (zh) | 训练方法、流量分级方法、装置、电子设备以及存储介质 | |
CN113408632A (zh) | 提高图像分类准确性的方法、装置、电子设备及存储介质 | |
CN111582648A (zh) | 用户策略生成方法、装置及电子设备 | |
CN115292339B (zh) | 数据库更新方法、装置、电子设备和存储介质 | |
CN113779098B (zh) | 数据处理方法、装置、电子设备以及存储介质 | |
US20230004774A1 (en) | Method and apparatus for generating node representation, electronic device and readable storage medium | |
CN113239296B (zh) | 小程序的展示方法、装置、设备和介质 | |
CN113553407A (zh) | 事件追溯方法、装置、电子设备及存储介质 | |
US20220237388A1 (en) | Method and apparatus for generating table description text, device and storage medium | |
US20230009941A1 (en) | Method of processing data for target model, electronic device, and storage medium | |
EP4199456A1 (en) | Traffic classification method and apparatus, training method and apparatus, device and medium | |
US20230145408A1 (en) | Method of processing feature information, electronic device, and storage medium | |
CN115965817A (zh) | 图像分类模型的训练方法、装置及电子设备 | |
CN116167519A (zh) | 一种监测量预测方法、装置、设备及介质 | |
CN116974621A (zh) | 一种参数配置方法、装置及设备 | |
CN116304796A (zh) | 一种数据分类方法、装置、设备及介质 | |
CN116703109A (zh) | 一种配电网项目选取方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |