CN113612777B - 训练方法、流量分级方法、装置、电子设备以及存储介质 - Google Patents
训练方法、流量分级方法、装置、电子设备以及存储介质 Download PDFInfo
- Publication number
- CN113612777B CN113612777B CN202110893872.5A CN202110893872A CN113612777B CN 113612777 B CN113612777 B CN 113612777B CN 202110893872 A CN202110893872 A CN 202110893872A CN 113612777 B CN113612777 B CN 113612777B
- Authority
- CN
- China
- Prior art keywords
- data
- flow
- result corresponding
- target
- flow data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 225
- 238000000034 method Methods 0.000 title claims abstract description 98
- 238000003860 storage Methods 0.000 title claims abstract description 21
- 238000013145 classification model Methods 0.000 claims abstract description 73
- 238000012545 processing Methods 0.000 claims abstract description 53
- 238000004138 cluster model Methods 0.000 claims description 28
- 238000006243 chemical reaction Methods 0.000 claims description 23
- 238000012544 monitoring process Methods 0.000 claims description 11
- 238000003066 decision tree Methods 0.000 claims description 7
- 239000000203 mixture Substances 0.000 claims description 7
- 238000004590 computer program Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 12
- 238000004891 communication Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 8
- 235000014510 cooky Nutrition 0.000 description 6
- 238000007726 management method Methods 0.000 description 5
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 206010000117 Abnormal behaviour Diseases 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000005242 forging Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/353—Clustering; Classification into predefined classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2148—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/24323—Tree-organised classifiers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
- H04L63/1425—Traffic logging, e.g. anomaly detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Security & Cryptography (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Mathematical Physics (AREA)
- Computer Hardware Design (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computational Linguistics (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种训练方法、流量分级方法、装置、电子设备以及存储介质,涉及计算机技术领域,尤其涉及信息安全领域。具体实现方案为:对多个初始训练样本进行处理,得到多个目标训练样本;利用多个目标训练样本训练预设模型,得到离线分类模型;其中,每个目标训练样本包括第一关键字和与第一关键字对应的第一值,第一关键字包括目标训练浏览器指纹数据,第一值包括目标流量相关训练特征数据。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及信息安全领域。具体地,涉及一种训练方法、流量分级方法、装置、电子设备以及存储介质。
背景技术
流量分级是网络流量工程、网络管理与安全监测或网络设计与规划等网络行为的前提和基础。如何较为高效、准确和实时地对流量进行分级对分析网络发展趋势、实现动态访问控制和路由决策、实现合法有效地网络管理和控制、检测网络异常行为与提高网络安全性等都有较为重要的意义,同时,也为互联网的进一步发展提供自适应能力。
发明内容
本公开提供了一种训练方法、流量分级方法、装置、电子设备以及存储介质。
根据本公开的一方面,提供了一种离线分类模型的训练方法,包括:对多个初始训练样本进行处理,得到多个目标训练样本;以及,利用上述多个目标训练样本训练预设模型,得到上述离线分类模型;其中,每个上述目标训练样本包括第一关键字和与上述第一关键字对应的第一值,上述第一关键字包括目标训练浏览器指纹数据,上述第一值包括目标流量相关训练特征数据。
根据本公开的另一方面,提供了一种流量分级方法,包括:一种流量分级方法,包括:将多个第一流量数据中的每个第一流量数据输入离线分类模型,得到与上述每个第一流量数据对应的预测结果;根据与上述每个第一流量数据对应的预测结果,从上述多个第一流量数据中确定至少一个目标流量数据;根据第二流量数据包括的第二浏览器指纹数据和目标浏览器指纹数据集,确定针对上述第二流量数据的分级结果;其中,上述第一流量数据包括第二关键字和与上述第二关键字对应的第二值,上述第二关键字包括第一浏览器指纹数据,上述第二值包括第一流量相关特征数据,上述第二流量数据包括第三关键字和与上述第三关键字对应的第三值,上述第三关键字包括第二浏览器指纹数据,上述第三值包括第二流量相关特征数据,上述目标浏览器指纹数据集包括上述至少一个目标流量数据中的每个目标流量数据中的第一浏览器指纹数据,其中,上述离线分类模型是利用根据如上所述的方法训练的。
根据本公开的实施例,提供了一种离线分类模型的训练装置,包括:处理模块,用于对多个初始训练样本进行处理,得到多个目标训练样本;以及,训练模块,用于利用上述多个目标训练样本训练预设模型,得到上述离线分类模型;其中,每个目标训练样本包括第一关键字和与第一关键字对应的第一值,第一关键字包括目标训练浏览器指纹数据,第一值包括目标流量相关训练特征数据。
根据本公开的实施例,提供了一种流量分级装置,包括:获得模块,用于将多个第一流量数据中的每个第一流量数据输入离线分类模型,得到与上述每个第一流量数据对应的预测结果;第一确定模块,用于根据与上述每个第一流量数据对应的预测结果,从上述多个第一流量数据中确定至少一个目标流量数据;第二确定模块,用于根据第二流量数据包括的第二浏览器指纹数据和目标浏览器指纹数据集,确定针对上述第二流量数据的分级结果;其中,上述第一流量数据包括第二关键字和与上述第二关键字对应的第二值,上述第二关键字包括第一浏览器指纹数据,上述第二值包括第一流量相关特征数据,上述第二流量数据包括第三关键字和与上述第三关键字对应的第三值,上述第三关键字包括第二浏览器指纹数据,上述第三值包括第二流量相关特征数据,上述目标浏览器指纹数据集包括上述至少一个目标流量数据中的每个目标流量数据中的第一浏览器指纹数据,其中,上述离线分类模型是利用根据如上所述的装置训练的。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与上述至少一个处理器通信连接的存储器;其中,上述存储器存储有可被上述至少一个处理器执行的指令,上述指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行如上所述的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,上述计算机指令用于使所述计算机执行如上所述的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现如上所述的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示意性示出了根据本公开实施例的可以离线分类模型的训练方法、流量分级方法及装置的示例性系统架构;
图2示意性示出了根据本公开实施例的离线分类模型的方法的流程图;
图3示意性示出了根据本公开实施例的离线分类模型生成过程的示意图;
图4示意性示出了根据本公开实施例的流量分级方法的流程图;
图5示意性示出了根据本公开实施例的流量分级过程的示意图;
图6示意性示出了根据本公开实施例的离线分类模型的训练装置的框图;
图7示意性示出了根据本公开实施例的流量分级装置的框图;以及
图8示出了根据本公开实施例的适用于离线分类模型的训练方法或流量分级方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
流量分类可以是指对用户的网络请求进行分类。流量分级可以根据流量分类确定。用户的网络请求可以包括来自服务器的网络请求或来自客户端的网络请求。针对流量分类,可以包括如下操作,即,数据清洗、特征提取、特征组合和流量分类等,并且是在线上执行上述操作的。选择的特征数据可以包括IP(Internet Protocol Address,互联网协议)地址、UA(User-Agent,用户代理)或Cookies。
在小流量场景中,例如,日均处理量在千万级别的流量场景,上述操作涉及的资源消耗还可以在可控制的范围内,资源消耗可以包括中间件的资源消耗、数据存储空间的消耗和流计算资源的消耗。但是,在大流量场景中,例如,日均处理量在十亿甚至百亿级别的流量场景,上述操作涉及的资源消耗可能会增长到一个难以接受的地步。
在实现本公开构思的过程中,发现上述资源消耗可能并非都是有意义的,例如,来自正常用户的流量可能并不需要对消耗大量资源来确定其流量分级。还发现针对选择的特征数据包括IP地址,由于IP地址的基数较大,约为232,因此,使得针对利用IP地址来实现流量分级,需要消耗较多的资源来存储IP地址清单,IP地址清单包括具有风险的IP地址。而且,由于具有风险的IP地址的更新速度较快,即,IP地址较容易伪造,而IP地址清单更新的速度比较慢,因此,使得流量分级的准确性不高。此外,由于可能存在正常用户和风险用户共用网络的情况,即,IP地址相同,因此,使得流量分级的准确性不高。
针对选择的特征数据包括UA,由于具有风险的流量可能并不会体现在UA中,即,具有风险的流量和不具有风险的流量包括的UA可能是相同的,因此,可以说明选择的UA的覆盖率不高,使得流量分级的准确性不高。
针对选择的特征数据包括Cookies,由于Cookies是一个难以跨越业务存在的凭证,因此,使得不同用户在不同时段对应的Cookies都需要存储,如果用户的数量较大,则Cookies的数量也较大,相应的,需要消耗较多的存储资源。
为了降低资源消耗,发现可以利用离线生成流量清单和线上查询的方式,这是由于线上查询的时间复杂度为O(1),因此,可以降低资源消耗。同时,为了提高流量分类的准确性,发现可以利用具有覆盖率较高、较难以准确伪造和稳定性较强的特点的特征,并进一步发现浏览器指纹数据具有上述特点,由此,可以利用浏览器指纹数据来作为流量清单的关键字。
为此,本公开实施例提供了一种利用包括浏览器指纹数据的训练样本训练训练用于离线生成流量清单的离线分类模型和线上与流量清单进行比对分级的方案。由于流量清单是线下生成的,线上需要查询一次即可,因此,可以降低资源消耗。由于浏览器指纹数据具有覆盖率较高、较难以准确伪造和稳定性较强的特点的特征,因此,可以提高流量分级的准确性,进而提高流量分级的准确性。
基于上述内容,本公开实施例提供了一种离线分类模型的训练方法、流量分级方法、离线分类模型的训练装置、流量分级装置、电子设备、存储有计算机指令的非瞬时计算机可读存储介质及计算机程序产品。该离线分类模型的训练方法可以包括:对多个初始训练样本进行处理,得到多个目标训练样本,并利用多个目标训练样本训练预设模型,得到离线分类模型,其中,每个目标训练样本包括第一关键字和与第一关键字对应的第一值,第一关键字包括目标训练浏览器指纹数据,第一值包括目标流量相关训练特征数据。
图1示意性示出了根据本公开实施例的可以离线分类模型的训练方法、流量分级方法及装置的示例性系统架构。
需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。例如,在另一实施例中,可以应用离线分类模型的训练方法、流量分级方法及装置的示例性系统架构可以包括终端设备,但终端设备可以无需与服务器进行交互,即可实现本公开实施例提供的离线分类模型的训练方法、流量分级方法及装置。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如知识阅读类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的内容提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
服务器105可以是提供各种服务的各种类型的服务器。例如,服务器105可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(Virtual Private Server,VPS)中,存在的管理难度大,业务扩展性弱的缺陷。服务器105也可以为边缘服务器。服务器105也可以为分布式系统的服务器,或者是结合了区块链的服务器。
需要说明的是,本公开实施例所提供的离线分类模型的训练方法和流量分级方法一般可以由终端设备101、102、或103执行。相应地,本公开实施例所提供的离线分类模型的训练装置和流量分级装置也可以设置于终端设备101、102、或103中。
或者,本公开实施例所提供的离线分类模型的训练方法和流量分级方法一般也可以由服务器105执行。相应地,本公开实施例所提供的离线分类模型的训练装置和流量分级装置一般可以设置于服务器105中。本公开实施例所提供的离线分类模型的训练方法和流量分级方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的离线分类模型的训练装置和流量分级装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
例如,服务器105对多个初始训练样本进行处理,得到多个目标训练样本,利用多个目标训练样本训练预设模型,得到离线分类模型。或者由能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群对多个初始训练样本进行处理,得到多个目标训练样本,利用多个目标训练样本训练预设模型,得到离线分类模型。
服务器105将多个第一流量数据中的每个第一流量数据输入离线分类模型,得到与每个第一流量数据对应的预测结果,根据与每个第一流量数据对应的预测结果,从多个第一流量数据中确定至少一个目标流量数据,根据第二流量数据包括的第二浏览器指纹数据和目标浏览器指纹数据集,确定针对第二流量数据的分级结果。或者由能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群将多个第一流量数据中的每个第一流量数据输入离线分类模型,得到与每个第一流量数据对应的预测结果,根据与每个第一流量数据对应的预测结果,从多个第一流量数据中确定至少一个目标流量数据,根据第二流量数据包括的第二浏览器指纹数据和目标浏览器指纹数据集,确定针对第二流量数据的分级结果。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的离线分类模型的方法的流程图。
如图2所示,该方法200包括操作S210~S220。
在操作S210,对多个初始训练样本进行处理,得到多个目标训练样本。
在操作S220,利用多个目标训练样本训练预设模型,得到离线分类模型,其中,每个目标训练样本包括第一关键字和与第一关键字对应的第一值,第一关键字包括目标训练浏览器指纹数据,第一值包括目标流量相关训练特征数据。
根据本公开的实施例,初始训练样本可以包括初始训练浏览器指纹数据和初始流量相关训练特征数据。初始流量相关训练特征数据可以理解为与流量相关的其他特征数据。初始训练浏览器指纹数据和初始流量相关训练特征数据的数据类型可以包括数值类型数据或文本类型数据。
根据本公开的实施例,指纹可以指软件类型、配置和硬件参数中存在差异的数据形成的特征参数集合,可以根据指纹区分不同的实体或缩小实体的范围。浏览器指纹数据可以包括硬件设备数据、浏览器配置数据、网络设置数据、用户操作数据和字体数据中的至少一项。硬件设备数据可以包括运行平台、CPU类型和屏幕分辨率中的至少一项。浏览器配置数据可以包括浏览器名称、浏览器版本、浏览器厂商、编译版本、用户代理、superCookies支持情况和HTTP(HyperText Transfer Protocol,超文本传输协议)消息头中的至少一项。用户操作数据集可以包括语言设置数据、Cookies可用数据、时区数据和屏幕数据中的至少一项。与流量相关的其他特征数据可以包括是否点击页面和页面点击量中的至少一项。
根据本公开的实施例,预设训练模型可以包括聚类模型和回归模型中的至少一项。
根据本公开的实施例,可以获取多个初始训练样本,对多个初始训练样本中的每个初始训练样本进行处理,得到以目标训练浏览器指纹数据为第一关键字,以目标流量相关训练特征数据为第一值的目标训练样本,第一值与第一关键字相对应。
根据本公开的实施例,在获得多个目标训练样本之后,可以利用多个目标训练样本对预设模型进行训练,得到离线分类模型。
根据本公开的实施例,由于是利用以目标训练浏览器指纹数据为第一关键字以目标流量相关训练特征数据为第一值的目标训练样本训练预设模型,得到离线分类模型的,浏览器指纹数据具有覆盖率较高、较难以准确伪造和稳定性较强的特点的特征,因此,可以提高流量分类的准确性,进而提高流量分级的准确性。
根据本公开的实施例,操作S210可以包括如下操作。
针对多个初始训练样本中的每个初始训练样本,将初始训练样本包括的文本类型数据转换为数值类型的数据,得到类型转换训练样本,其中,每个初始训练样本包括初始训练浏览器指纹数据和初始流量相关训练特征数据。对类型转换训练样本进行键值处理,得到目标训练样本。
根据本公开的实施例,由于初始训练样本中包括数值类型的特征数据和文本类型的特征数据,而预设模型对文本类型的数据的处理能力较弱,这样会增加模型训练的难度和响应时间,因此,为了降低模型训练的难度和响应时间,可以针对将文本类型数据转换为数值类型的数据。
根据本公开的实施例,可以利用类型转换方法,将初始训练文本包括的文本类型数据转换为数值类型数据,得到类型转换训练样本。类型转换方法可以包括数据分桶、频率统计和数据编码中的至少一项。数据编码可以包括独热编码。例如,利用频率统计确定页面点击量。类型转换训练样本可以包括转换训练浏览器指纹数据和转换流量相关训练特征数据。
根据本公开的实施例,在获得类型转换训练样本之后,可以利用键值处理方法对类型转换训练样本进行键值处理,得到以目标训练浏览器指纹数据为第一关键字,以目标流量相关训练特征数据为第一值的目标训练样本。
根据本公开的实施例,对类型转换训练样本进行键值处理,得到目标训练样本,可以包括如下操作。
利用并行编程模型对类型转换训练样本进行处理,得到目标训练样本。
根据本公开的实施例,并行编程模型(即MapReduce)是一种分布式计算框架,可以用于大规模数据集的并行运算。可以利用并行编程模型的映射(即Map)函数和归约(即Reduce)函数来处理类型转换训练样本,得到目标训练样本。上述目标训练样本的生成方式仅是示例性实施例,但不限于此,还可以包括本领域已知的生成方式,只要能够实现目标训练样本的生成即可。
根据本公开的实施例,预设模型包括聚类模型和回归模型中的至少一项。利用多个目标训练样本训练预设模型,可以包括以下至少一项:利用多个目标训练样本训练聚类模型。将每个目标训练样本输入回归模型,得到与目标训练样本对应的预测概率值。利用与目标训练样本对应的预测概率值和标签训练回归模型,其中,与目标训练样本对应的标签表征与目标训练样本对应的线上真实概率值。
根据本公开的实施例,预设模型可以包括聚类模型、回归模型或聚类模型和回归模型。
根据本公开的实施例,如果预设模型包括聚类模型,则可以利用多个目标训练样本训练聚类模型,得到离线分类模型。聚类模型可以包括层次化聚类模型、划分式聚类模型、基于密度的聚类模型、基于网格的聚类模型或基于模型的聚类模型。基于划分式聚类模型可以包括K均值聚类模型、高斯混合模型或K中心聚类模型。聚类模型的类型可以根据实际业务需求进行配置,在此不作限定。
根据本公开的实施例,利用多个目标训练样本训练聚类模型,得到离线分类模型可以包括:确定每个目标分类的初始聚类中心。确定每个目标训练样本与每个初始聚类中心之间的初始距离。根据初始距离确定每个目标训练样本所属的目标分类。确定每个目标分类中的各个初始距离的距离均值,将距离均值作为目标分类的新的初始聚类中心。重复执行确定初始距离以及确定目标分类的新的初始聚类中心的操作,直至满足预设条件。将满足预设条件时得到的每个目标分类的新的初始聚类中心作为对应的目标分类的目标聚类中心。根据各个目标聚类中心,确定离线分类模型。预设条件可以包括每个新的初始聚类中心在每次迭代前后变化在预设范围内或达到预设迭代次数。
如果预设模型包括回归模型,则可以将多个目标训练样本中的每个目标训练样本输入回归模型,得到与目标训练样本对应的预测概率值,将与目标训练样本对应的预测概率值和标签输入损失函数,得到输出值,根据输出值,调整回归模型的模型参数,直至输出值收敛,将在满足输出值收敛条件的情况下得到的回归模型确定为离线分类模型。回归模型可以包括决策树模型、逻辑回归模型、随机森林模型或神经网络模型。回归模型的类型可以根据实际业务需求进行配置,在此不作限定。
由于利用回归模型得到的预测结果为预测概率值,根据预测概率值不但可以确定流量数据的风险度,还可以确定流量数据的变化程度,能够较为细致的评估流量数据的风险度。
如果预设模型包括聚类模型和回归模型,则可以利用多个目标训练样本训练聚类模型,利用多个目标训练样本训练回归模型,将训练完成的聚类模型和回归模型确定为离线分类模型。利用包括聚类模型和回归模型的离线分类模型可以使得离线分类模型具有较高的召回率和较高的准确率。
根据本公开的实施例,可以利用混淆矩阵对聚类模型的预测效果进行评价。标签表征真实的分类结果,标签0表征目标训练样本是高风险度的训练样本。标签1表征低风险度的训练样本。
表1
根据如上表1可知,在无监督训练的前提下,96%的目标训练样本被自动聚成一类,还有539个目标训练样本与它们的统计值分布相似,但还无法确认这批目标训练样本的性质,如果将被标记为具有高风险度的635个目标训练样本跟线上模型的标记结果进行校对,则可以发现共约2700万流量数据中有2000万流量数据在线被标记为具有高风险度,标黑比例达到74%。
此外,在99%线上标记率的情况下,如果利用回归模型,则可以过滤掉80%的低风险度的流量数据。
根据本公开的实施例,聚类模型包括高斯混合模型,回归模型包括梯度提升决策树模型。
根据本公开的实施例,高斯混合模型(Gaussian Mixture Model,GMM)是由多个高斯模型线性叠加混合而成的。梯度提升决策树(Gradient Boosting Decision Tree,GBDT)模型是一种集成学习中的提升模型。GBDT的迭代思路是使用前向分布算法,即,根据上一轮学习器的损失函数的负梯度来训练本轮的学习器,本轮学习器的优化的目标是将上一轮学习器的损失函数优化得到一个最小值。
下面参考图3,结合具体实施例对根据本公开实施例所述的离线分类模型的训练方法做进一步说明。
图3示意性示出了根据本公开实施例的离线分类模型生成过程的示意图。
如图3所示,离线分类模型生成过程300可以包括:将初始训练样本301包括的文本类型数据转换为数值类型的数据,得到类型转换训练样本302。利用并行编程模型对类型转换训练样本302进行处理,得到目标训练样本303。
利用目标训练样本303训练聚类模型304。利用目标训练样本303训练回归模型305。将训练完成的聚类模型304和回归模型305确定为离线分类模型306。
图4示意性示出了根据本公开实施例的流量分级方法的流程图。
如图4所示,该方法400包括操作S410~S430。
在操作S410,将多个第一流量数据中的每个第一流量数据输入离线分类模型,得到与每个第一流量数据对应的预测结果。
在操作S420,根据与每个第一流量数据对应的预测结果,从多个第一流量数据中确定至少一个目标流量数据。
在操作S430,根据第二流量数据包括的第二浏览器指纹数据和目标浏览器指纹数据集,确定针对第二流量数据的分级结果。
根据本公开的实施例,第一流量数据可以包括第二关键字和与第二关键字对应的第二值,第二关键字可以包括第一浏览器指纹数据,第二值可以包括第一流量相关特征数据。第二流量数据可以包括第三关键字和与第三关键字对应的第三值,第三关键字可以包括第二浏览器指纹数据,第三值可以包括第二流量相关特征数据。目标浏览器指纹数据集可以包括至少一个目标流量数据中的每个目标流量数据中的第一浏览器指纹数据,离线分类模型可以是利用根据本公开实施例所述的离线分类模型的训练方法训练的。
根据本公开的实施例,第一流量数据可以是第二流量数据之前的预设时段内的流量数据。预设时间段的数值可以根据实际业务需求进行配置,在此不作限定。例如,预设时间段可以包括24小时,即,第一流量数据是2021年7月3日的流量数据,第二流量数据是2021年7月4日的流量数据。
根据本公开的实施例,与每个第一流量数据对应的预测结果可以用于表征与每个第一流量数据对应的分级结果。与每个第一流量数据对应的预测结果可以包括第一等级结果、第二等级结果或第三等级结果,第一等级结果可以表征高风险度的结果、第二等级结果可以表征低风险度的结果,第三等级结果可以表征中风险度的结果。
根据本公开的实施例,可以利用离线分类模型处理每个第一流量数据,得到与每个第一流量数据对应的预测结果,再根据多个预测结果,从多个第一流量数据中确定目标流量数据,目标流量数据可以包括至少一个。可以将每个目标流量数据包括的第一浏览器指纹数据作为目标浏览器指纹数据。例如,可以将多个预测结果中与表征高风险度的结果对应的第一浏览器指纹数据和与表征低风险度的结果对应的第一浏览器指纹数据确定为目标浏览器指纹数据。
根据本公开的实施例,在确定目标浏览器指纹数据集之后,可以根据第二流量数据包括的第二浏览器指纹数据,确定是否可以从目标浏览器指纹数据集集中查找到第二浏览器指纹数据,即,确定目标浏览器指纹数据集中是否存在与第二浏览器指纹数据相匹配的第一浏览器指纹数据,如果确定目标浏览器指纹数据集中存在与第二浏览器指纹数据相匹配的第一浏览器指纹数据,则可以根据与第二浏览器指纹数据相匹配的第一浏览器指纹数据的预测结果,确定针对第二流量数据的分级结果。如果确定目标浏览器指纹数据集中不存在与第二浏览器指纹数据相匹配的第一浏览器指纹数据,则可以根据实际情况,确定针对第二流量数据的分级结果。实际情况可以包括预设业务处理逻辑。
根据本公开的实施例,针对第一天的流量数据,可以利用离线分类模型处理第一天的流量数据,得到与第一天的流量数据对应的预测结果,以便可以利用与第一天的流量数据对应的预测结果来生成用于确定第二天的流量数据的分级结果的浏览器指纹数据集。
根据本公开的实施例,由于离线分类模型是利用以目标训练浏览器指纹数据为第一关键字以目标流量相关训练特征数据为第一值的目标训练样本训练预设模型得到的,浏览器指纹数据具有覆盖率较高、较难以准确伪造和稳定性较强的特点的特征,因此,可以提高流量分类的准确性,进而提高流量分级的准确性。由于目标浏览器指纹数据集是线下生成的,线上需要查询一次即可,因此,可以降低资源消耗。
根据本公开的实施例,上述流量分级方法还可以包括如下操作。
在从目标浏览器指纹数据集中查找到与第二浏览器指纹数据相匹配的第一浏览器指纹数据的情况下,将第一浏览器指纹数据的预测结果确定为针对第二流量数据的分级结果。在从目标浏览器指纹数据集中未查找到与第二浏览器指纹数据相匹配的第一浏览器指纹数据的情况下,根据预设业务处理逻辑,确定针对第二流量数据的分级结果。
根据本公开的实施例,预设业务处理逻辑可以理解为正常处理流量数据的逻辑。如果确定从目标浏览器指纹数据集中查找到与第二浏览器指纹数据相匹配的第一浏览器指纹数据,则可以将与第二浏览器指纹数据相匹配的第一浏览器指纹数据的预测结果确定为针对第二流量数据的分级结果。例如,与第二浏览器指纹数据相匹配的第一浏览器指纹数据对应的预测结果为表征高风险度的结果,则可以确定针对第二流量数据的分级结果为表征高风险度的结果。与第二浏览器指纹数据相匹配的第一浏览器指纹数据对应的预测结果为低风险度的结果,则可以确定针对第二流量数据的分级结果为表征低风险度的结果。
如果确定从目标浏览器指纹数据集中未查找到与第二浏览器指纹数据相匹配的第一浏览器指纹数据,则可以按照正常处理流量数据的逻辑,确定针对第二流量数据的分级结果为正常进入规则判定逻辑。
根据本公开的实施例,上述流量分级方法还可以包括如下操作。
在确定针对第二流量数据的分级结果是第一等级结果的情况下,根据预设业务风控逻辑,确定针对第二流量数据的第一处理方式,其中,第一处理方式包括执行第一等级监控或执行第二等级监控。在确定针对第二流量数据的分级结果是第二等级结果的情况下,确定针对第二流量数据的第二处理方式,其中,第二处理方式包括正常处理,其中,第二等级结果表征的风险度小于第一等级结果表征的风险度。
根据本公开的实施例,第一等级结果可以表征高风险度的结果、第二等级结果可以表征低风险度的结果。执行第一等级监控可以包括执行根据验证码进行验证的操作。执行第二等级监控可以包括执行增加流特征数据计算频率的设置操作和增加计算资源和存储资源的设置操作中的至少一项。
根据本公开的实施例,预设业务风控逻辑可以用于表征业务对流量分级要求的严格程度的逻辑。例如,针对同一分级结果,如果确定第二流量数据是针对第一类业务的流量数据,第一类业务对流量分级要求的严格程度是第一程度,则可以确定针对第二流量数据的第一处理方式是执行第一等级监控。如果确定第二流量数据是针对第二类业务的流量数据,第二类业务对流量分级要求的严格程度是第二程度,则可以确定针对第二流量数据的第一处理方式是执行第二等级监控。第一程度所表征的严格程度大于第二程度所表征的严格程度。
根据本公开的实施例,上述流量分级方法还可以包括如下操作。
获取与多个第三流量数据中的每个第三流量数据对应的预测结果。
操作S420可以包括如下操作。
根据与每个第一流量数据对应的预测结果和与每个第三流量数据对应的预测结果,从多个第一流量数据中确定至少一个目标流量数据。
根据本公开的实施例,可以利用离线分类模型处理多个第三流量数据,得到与多个第三流量数据中的每个第三流量数据对应的预测结果。第三流量数据可以是第一流量数据之前的预设时段内的流量数据。预设时间段的数值可以根据实际业务需求进行配置,在此不作限定。例如,预设时间段可以包括24小时,即,第一流量数据是2021年7月3日的流量数据,第三流量数据是2021年7月4日的流量数据。
根据本公开的实施例,为了获得目标浏览器指纹数据集,可以根据与第一流量数据对应的预测结果和与第三流量数据对应的预测结果,从多个第一流量数据中确定至少一个目标流量数据。
例如,可以利用与第一天和第二天的流量数据对应的预测结果来生成针对第三天的流量数据的目标浏览器指纹数据集,第一天是2021年7月2日,第二天是2021年7月3日,第三天是2021年7月4日,第三流量数据是第一天的流量数据,第一流量数据是第二天的流量数据,第二流量数据是第三天的流量数据。在当天(即第二天),可以利用离线分类模型处理多个第一流量数据,得到与每个第一流量数据对应的预测结果,再将与每个第一流量数据对应的预测结果和已获得的与多个第三流量数据中的每个第三流量数据对应的预测结果,从多个第一流量数据中确定至少一个目标流量数据,即,将与当天的流量数据对应的预测结果与前一天的流量数据对应的预测结果进行比较,从与当天的流量数据中确定目标流量数据,将目标流量数据包括的浏览器指纹数据确定为目标浏览器指纹数据。
根据本公开的实施例,离线分类模型包括聚类模型和回归模型。
操作S410可以包括如下操作。
针对多个第一流量数据中的每个第一流量数据,将第一流量数据输入聚类模型,得到与第一流量数据对应的第一预测结果,其中,第一预测结果用于表征第一流量数据的第一预测分类结果。将第一流量数据输入回归模型,得到与第一流量数据对应的第二预测结果,其中,第二预测结果包括预测概率值。根据与第一流量数据对应的第一预测结果和第二预测结果,确定与第一流量数据对应的预测结果。
根据本公开的实施例,聚类模型可以包括高斯混合模型,回归模型可以包括梯度提升决策树模型。第一预测分类结果可以包括具有高风险度的标黑结果或具有低风险度的标白结果。
针对每个第一流量数据,可以根据利用聚类模型得到的与第一流量数据对应的第一预测结果和利用回归模型得到的与第一流量数据对应的第二预测结果,得到与第一流量数据对应的预测结果。
根据本公开的实施例,与多个第三流量数据中的每个第三流量数据对应的预测结果包括第三预测结果,第三预测结果是将第三流量数据输入回归模型得到的。
根据与每个第一流量数据对应的预测结果和与每个第三流量数据对应的预测结果,从多个第一流量数据中确定至少一个目标流量数据,可以包括如下操作。
根据与每个第一流量数据对应的第二预测结果、与每个第三流量数据对应的第三预测结果和预设概率阈值,确定与每个第一流量数据对应的第二预测分类结果。根据与每个第一流量数据对应的第一预测分类结果和第二预测分类结果,从多个第一流量数据中确定至少一个目标流量数据。
根据本公开的实施例,第二预测分类结果可以包括具有高风险度的标黑结果或具有低风险度的标白结果。
可以利用回归模型处理多个第三流量数据中的每个第三流量数据,得到与第三流量数据对应的第三预测结果,与第三流量数据对应的第三预设结果可以表征与第三流量数据对应的预测概率值。
根据本公开的实施例,在获得与第三流量数据对应的第三预测结果和与第一流量数据对应的第二预测结果之后,可以将与第三流量数据对应的第三预测结果、第二预测结果和预设概率阈值进行比较,根据比较结果,确定与第一流量数据对应的第二预测分类结果。预设概率阈值可以根据实际业务需求进行配置,在此不作限定。例如,预设概率阈值可以为0.1。
根据本公开的实施例,可以利用聚类模型和回归模型训练生成的离线分类模型生成目标浏览器指纹集,并将其运用于针对线上流量数据的分级,可以实现在保证较高的准确率和召回率的基础上,既能够较为细致的评估流量数据的风险度,又可以缓解资源消耗有效的降低资源消耗,例如,降低规则引擎的负荷,减少规则引擎的调用次数。同时,也可以方便策略人员较为精准地了解流量数据的风险度。
根据本公开的实施例,预设概率阈值包括第一预设概率阈值和第二预设概率阈值。
根据与每个第一流量数据对应的第二预测结果、与每个第三流量数据对应的第三预测结果和预设概率阈值,确定与每个第一流量数据对应的第二预测分类结果,可以包括如下操作。
针对多个第一流量数据中的每个第一流量数据,在确定多个第三流量数据中存在第一流量数据的情况下,根据第一预设条件,确定与第一流量数据对应的第二预测分类结果,其中,第一预设条件包括以下至少一项:与第一流量数据对应的第二预测结果是否大于或等于第一预设概率阈值。与第一流量数据对应的第二预测结果和与第一流量数据对应的第三预测结果之间的差值的绝对值是否大于或等于第二预设概率阈值。在确定多个第三流量数据中不存在第一流量数据的情况下,根据第二预设条件,确定与第一流量数据对应的第二预测分类结果,其中,第二预设条件包括与第一流量数据对应的第二预测结果是否大于或等于第一预设概率阈值。
根据本公开的实施例,第一预设概率阈值和第二预设概率阈值可以根据实际业务需求进行配置,在此不作限定。例如,第一预设概率阈值可以为0.1,第二预设概率阈值可以为0.5。
针对多个第一流量数据中的每个第一流量数据,如果确定多个第三流量数据中存在第一流量数据,则可以确定是否满足第一预设条件,根据第一确定结果,确定与第一流量数据对应的第二预测分类结果。满足第一预设条件可以包括以下至少一项:与第一流量数据对应的第二预测结果大于或等于第一预设概率阈值。与第一流量数据对应的第二预测结果和与第一流量数据对应的第三预测结果之间的差值的绝对值大于或等于第二预设概率阈值。
如果确定多个第三流量数据中不存在第一流量数据,则可以确定是否满足第二预设条件,根据第二确定结果,确定与第一流量数据对应的第二预测分类结果。满足第二预设条件包括与可以第一流量数据对应的第二预测结果大于或等于第一预设概率阈值。
根据本公开的实施例,根据第一预设条件,确定与第一流量数据对应的第二预测分类结果,可以包括如下操作。
在确定包括以下至少一项的情况下,确定与第一流量数据对应的第二预测分类结果是表征高风险度的标黑结果,其中,以下至少一项包括:与第一流量数据对应的第二预测结果大于或等于第一预设概率阈值。与第一流量数据对应的第二预测结果和与第一流量数据对应的第三预测结果之间的差值的绝对值大于或等于第二预设概率阈值。
在确定与第一流量数据对应的第二预测结果小于第一预设概率阈值且与第一流量数据对应的第二预测结果和与第一流量数据对应的第三预测结果之间的差值的绝对值小于第二预设概率阈值的情况下,确定与第一流量数据对应的第二预测分类结果是表征低风险度的标白结果。
根据本公开的实施例,如果确定与第一流量数据对应的第二预测结果大于或等于第一预设概率阈值、与第一流量数据对应的第二预测结果和与第一流量数据对应的第三预测结果之间的差值的绝对值大于或等于第二预设概率阈值中的至少一项,则可以确定与第一流量数据对应的第二预测分类结果是表征高风险度的标黑结果。
如果确定与第一流量数据对应的第二预测结果小于第一预设概率阈值切断与第一流量数据对应的第二预测结果和与第一流量数据对应的第三预测结果之间的差值的绝对值小于第二预设概率阈值,则可以确定与第一流量数据对应的第二预测分类结果是表征低风险度的标白结果。
根据本公开的实施例,根据第二预设条件,确定与第一流量数据对应的第二预测分类结果,可以包括如下操作。
在确定与第一流量数据对应的第二预测结果大于或等于第一预设概率阈值的情况下,确定与第一流量数据对应的第二预测分类结果是标黑结果。在确定与第一流量数据对应的第二预设结果小于第一预设概率阈值的情况下,确定与第一流量数据对应的第二预设分类结果是标白结果。
根据本公开的实施例,具有高风险度的标白结果可以用1表征,具有低风险度的标白结果可以0表征。与第一流量数据对应的预测结果可以用X1X2表征,X1表征第一预测分类结果,X2表征第二预测分类结果。由于X1可以包括0或1,与X2可以包括0或1,因此,X1X2可以包括00、01、10或11。可以根据实际业务需求,确定目标流量数据,在此不作限定。例如,可以将预测结果为00和11的第一流量数据确定为目标流量数据。也可以将预测结果为11的第一流量数据确定为目标流量数据。
例如,第一预设概率阈值设置为0.1,第二预设概率阈值设置为0.5。具有高风险度的标白结果用1表征,具有低风险度的标白结果用0表征。与第一流量数据对应的第一预测结果是表征高风险度的标黑结果,即,与第一流量数据对应的第一预测结果用1表征。与第一流量数据对应的第二预测结果是0.2,与第一流量数据对应的第三预测结果是0.8。与第一流量数据对应的第二预测结果与第一流量数据对应的第三预测结果之间的差值的绝对值是0.6。
由于与第一流量数据对应的第二预测结果大于第一预设概率阈值,并且与第一流量数据对应的第二预测结果和与第一流量数据对应的第三预测结果之间的差值的绝对值大于第二预设概率阈值,因此,确定与第一流量数据对应的第二预测分类结果是表征高风险度的标黑结果,即,用1表征与第二流量数据对应的第二预测分类结果。
根据与第一流量数据对应的第一预测分类结果和第二预测分类结果,确定用11表征与第一流量数据对应的预测结果为高风险度的结果。
下面参考图5,结合具体实施例对根据本公开实施例所述的流量分级方法做进一步说明。
图5示意性示出了根据本公开实施例的流量分级过程的示意图。
如图5所示,流量分级过程500可以包括:将第一流量数据501输入聚类模型502,得到与第一流量数据对应的第一预测分类结果503。将第一流量数据501输入回归模型504,得到与第一流量数据501对应的第二预测结果505。将第三流量数据506输入回归模型504,得到与第三流量数据506对应的第三预测结果507。
根据与第一流量数据501对应的第二预测结果505、与每个第三流量数据对应的第三预测结果507和预设概率阈值508,确定与第一流量数据501对应的第二预测分类结果509。
根据与第一流量数据501对应的第一预测分类结果503和第二预测分类结果509,得到与第一流量数据501对应的预测结果510。
根据多个预测结果510,从多个第一流量数据501中确定至少一个目标流量数据,根据至少一个目标流量数据得到目标浏览器指纹数据集511。
根据第二流量数据512包括的第二浏览器指纹数据和目标浏览器指纹数据集511,确定针对第二流量数据512的分级结果513。
需要说明的是,在本公开实施例的技术方案中,所涉及的初始训练样本、第一流量数据、第二流量数据和第三流量数据的获取、存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
图6示意性示出了根据本公开实施例的离线分类模型的训练装置的框图。
如图6所示,离线分类模型的训练装置600可以包括处理模块610和训练模块620。
处理模块610,用于对多个初始训练样本进行处理,得到多个目标训练样本。
训练模块620,用于利用多个目标训练样本训练预设模型,得到离线分类模型。
其中,每个目标训练样本包括第一关键字和与第一关键字对应的第一值,第一关键字包括目标训练浏览器指纹数据,第一值包括目标流量相关训练特征数据。
根据本公开的实施例,处理模块可以包括转换子模块和处理子模块。
转换子模块,用于针对多个初始训练样本中的每个初始训练样本,将初始训练样本包括的文本类型数据转换为数值类型的数据,得到类型转换训练样本,其中,每个初始训练样本包括初始训练浏览器指纹数据和初始流量相关训练特征数据。
处理子模块,用于对类型转换训练样本进行键值处理,得到目标训练样本。
根据本公开的实施例,处理子模块可以包括处理单元。
处理单元,用于利用并行编程模型对类型转换训练样本进行处理,得到目标训练样本。
根据本公开的实施例,预设模型包括聚类模型和回归模型中的至少一项。
利用多个目标训练样本训练预设模型,包括以下至少一项:
利用多个目标训练样本训练聚类模型。
将每个目标训练样本输入回归模型,得到与目标训练样本对应的预测概率值。
利用与目标训练样本对应的预测概率值和标签训练回归模型,其中,与目标训练样本对应的标签表征与目标训练样本对应的线上真实概率值。
根据本公开的实施例,聚类模型包括高斯混合模型,回归模型包括梯度提升决策树模型。
图7示意性示出了根据本公开实施例的流量分级装置的框图。
如图7所示,流量分级装置700可以包括获得模块710、第一确定模块720和第二确定模块730。
获得模块710,用于将多个第一流量数据中的每个第一流量数据输入离线分类模型,得到与每个第一流量数据对应的预测结果。
第一确定模块720,用于根据与每个第一流量数据对应的预测结果,从多个第一流量数据中确定至少一个目标流量数据。
第二确定模块730,用于根据第二流量数据包括的第二浏览器指纹数据和目标浏览器指纹数据集,确定针对第二流量数据的分级结果。
其中,第一流量数据包括第二关键字和与第二关键字对应的第二值,第二关键字包括第一浏览器指纹数据,第二值包括第一流量相关特征数据,第二流量数据包括第三关键字和与第三关键字对应的第三值,第三关键字包括第二浏览器指纹数据,第三值包括第二流量相关特征数据,目标浏览器指纹数据集包括至少一个目标流量数据中的每个目标流量数据中的第一浏览器指纹数据,其中,离线分类模型是利用根据本公开实施例所述的离线分类装置训练的。
根据本公开的实施例,上述流量分级装置700还可以包括获取模块。
获取模块,用于获取与多个第三流量数据中的每个第三流量数据对应的预测结果。
第一确定模块720可以包括第一确定子模块。
第一确定子模块,用于根据与每个第一流量数据对应的预测结果和与每个第三流量数据对应的预测结果,从多个第一流量数据中确定至少一个目标流量数据。
根据本公开的实施例,离线分类模型包括聚类模型和回归模型。
获得模块710可以包括第一获得子模块、第二获得子模块和第二确定子模块。
第一获得子模块,用于针对多个第一流量数据中的每个第一流量数据,将第一流量数据输入聚类模型,得到与第一流量数据对应的第一预测结果,其中,第一预测结果用于表征第一流量数据的第一预测分类结果。
第二获得子模块,用于将第一流量数据输入回归模型,得到与第一流量数据对应的第二预测结果,其中,第二预测结果包括预测概率值。
第二确定子模块,用于根据与第一流量数据对应的第一预测结果和第二预测结果,确定与第一流量数据对应的预测结果。
根据本公开的实施例,与多个第三流量数据中的每个第三流量数据对应的预测结果包括第三预测结果,第三预测结果是将第三流量数据输入回归模型得到的。
第一确定子模块可以包括第一确定单元和第二确定单元。
第一确定单元,用于根据与每个第一流量数据对应的第二预测结果、与每个第三流量数据对应的第三预测结果和预设概率阈值,确定与每个第一流量数据对应的第二预测分类结果。
第二确定单元,用于根据与每个第一流量数据对应的第一预测分类结果和第二预测分类结果,从多个第一流量数据中确定至少一个目标流量数据。
根据本公开的实施例,预设概率阈值包括第一预设概率阈值和第二预设概率阈值。
第一确定单元可以包括第一确定子单元。
第一确定子单元,用于针对多个第一流量数据中的每个第一流量数据,在确定多个第三流量数据中存在第一流量数据的情况下,根据第一预设条件,确定与第一流量数据对应的第二预测分类结果,其中,第一预设条件包括以下至少一项:与第一流量数据对应的第二预测结果是否大于或等于第一预设概率阈值;与第一流量数据对应的第二预测结果和与第一流量数据对应的第三预测结果之间的差值的绝对值是否大于或等于第二预设概率阈值。
第二确定子单元,用于在确定多个第三流量数据中不存在第一流量数据的情况下,根据第二预设条件,确定与第一流量数据对应的第二预测分类结果,其中,第二预设条件包括与第一流量数据对应的第二预测结果是否大于或等于第一预设概率阈值。
根据本公开的实施例,根据第一预设条件,确定与第一流量数据对应的第二预测分类结果,可以包括如下操作。
在确定包括以下至少一项的情况下,确定与第一流量数据对应的第二预测分类结果是表征高风险度的标黑结果,其中,以下至少一项包括:与第一流量数据对应的第二预测结果大于或等于第一预设概率阈值。与第一流量数据对应的第二预测结果和与第一流量数据对应的第三预测结果之间的差值的绝对值大于或等于第二预设概率阈值。
在确定与第一流量数据对应的第二预测结果小于第一预设概率阈值且与第一流量数据对应的第二预测结果和与第一流量数据对应的第三预测结果之间的差值的绝对值小于第二预设概率阈值的情况下,确定与第一流量数据对应的第二预测分类结果是表征低风险度的标白结果。
根据本公开的实施例,根据第二预设条件,确定与第一流量数据对应的第二预测分类结果,可以包括如下操作。
在确定与第一流量数据对应的第二预测结果大于或等于第一预设概率阈值的情况下,确定与第一流量数据对应的第二预测分类结果是标黑结果。在确定与第一流量数据对应的第二预设结果小于第一预设概率阈值的情况下,确定与第一流量数据对应的第二预设分类结果是标白结果。
根据本公开的实施例,第二确定模块730可以包括第二确定子模块和第三确定子模块。
第二确定子模块,用于在从目标浏览器指纹数据集中查找到与第二浏览器指纹数据相匹配的第一浏览器指纹数据的情况下,将第一浏览器指纹数据的预测结果确定为针对第二流量数据的分级结果。
第三确定子模块,用于在从目标浏览器指纹数据集中未查找到与第二浏览器指纹数据相匹配的第一浏览器指纹数据的情况下,根据预设业务处理逻辑,确定针对第二流量数据的分级结果。
根据本公开的实施例,上述流量分级装置700还可以包括第三确定模块和第四确定模块。
第三确定模块,用于在确定针对第二流量数据的分级结果是第一等级结果的情况下,根据预设业务风控逻辑,确定针对第二流量数据的第一处理方式,其中,第一处理方式包括执行第一等级监控或执行第二等级监控。
第四确定模块,用于在确定针对第二流量数据的分级结果是第二等级结果的情况下,确定针对第二流量数据的第二处理方式,其中,第二处理方式包括正常处理,其中,第二等级结果表征的风险度小于第一等级结果表征的风险度。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
根据本公开的实施例,一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如上所述的方法。
根据本公开的实施例,一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如上所述的方法。
根据本公开的实施例,一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如上所述的方法。
图8示出了根据本公开实施例的适用于离线分类模型的训练方法或流量分级方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示,电子设备800包括计算单元801,其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序,来执行各种适当的动作和处理。在RAM 803中,还可存储电子设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
电子设备800中的多个部件连接至I/O接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元808,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许电子设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如离线分类模型的训练方法或流量分级方法。例如,在一些实施例中,离线分类模型的训练方法或流量分级方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到电子设备800上。当计算机程序加载到RAM 803并由计算单元801执行时,可以执行上文描述的XXX方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行离线分类模型的训练方法或流量分级方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以是分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (16)
1.一种流量分级方法,包括:
将多个第一流量数据中的每个第一流量数据输入离线分类模型,得到与所述每个第一流量数据对应的预测结果;
根据与所述每个第一流量数据对应的预测结果,从所述多个第一流量数据中确定至少一个目标流量数据;以及
根据第二流量数据包括的第二浏览器指纹数据和目标浏览器指纹数据集,确定针对所述第二流量数据的分级结果;
其中,所述第一流量数据包括第二关键字和与所述第二关键字对应的第二值,所述第二关键字包括第一浏览器指纹数据,所述第二值包括第一流量相关特征数据,所述第二流量数据包括第三关键字和与所述第三关键字对应的第三值,所述第三关键字包括第二浏览器指纹数据,所述第三值包括第二流量相关特征数据,所述目标浏览器指纹数据集包括所述至少一个目标流量数据中的每个目标流量数据中的第一浏览器指纹数据,
其中,所述离线分类模型是利用多个目标训练样本训练预设模型得到的,多个所述目标训练样本是对多个初始训练样本进行处理得到的;
其中,每个所述目标训练样本包括第一关键字和与所述第一关键字对应的第一值,所述第一关键字包括目标训练浏览器指纹数据,所述第一值包括目标流量相关训练特征数据。
2.根据权利要求1所述的方法,还包括:
获取与多个第三流量数据中的每个第三流量数据对应的预测结果;
所述根据与所述每个第一流量数据对应的预测结果,从所述多个第一流量数据中确定至少一个目标流量数据,包括:
根据与所述每个第一流量数据对应的预测结果和与所述每个第三流量数据对应的预测结果,从所述多个第一流量数据中确定所述至少一个目标流量数据。
3.根据权利要求2所述的方法,其中,所述离线分类模型包括聚类模型和回归模型;
所述将多个第一流量数据中的每个第一流量数据输入离线分类模型,得到与所述每个第一流量数据对应的预测结果,包括:
针对所述多个第一流量数据中的每个第一流量数据,将所述第一流量数据输入所述聚类模型,得到与所述第一流量数据对应的第一预测结果,其中,所述第一预测结果用于表征所述第一流量数据的第一预测分类结果;
将所述第一流量数据输入所述回归模型,得到与所述第一流量数据对应的第二预测结果,其中,所述第二预测结果包括预测概率值;以及
根据与所述第一流量数据对应的第一预测结果和第二预测结果,确定与所述第一流量数据对应的预测结果。
4.根据权利要求3所述的方法,其中,与所述多个第三流量数据中的每个第三流量数据对应的预测结果包括第三预测结果,所述第三预测结果是将所述第三流量数据输入所述回归模型得到的;
所述根据与所述每个第一流量数据对应的预测结果和与所述每个第三流量数据对应的预测结果,从所述多个第一流量数据中确定所述至少一个目标流量数据,包括:
根据与所述每个第一流量数据对应的第二预测结果、与所述每个第三流量数据对应的第三预测结果和预设概率阈值,确定与所述每个第一流量数据对应的第二预测分类结果;以及
根据与所述每个第一流量数据对应的第一预测分类结果和第二预测分类结果,从所述多个第一流量数据中确定所述至少一个目标流量数据。
5.根据权利要求4所述的方法,其中,所述预设概率阈值包括第一预设概率阈值和第二预设概率阈值;
所述根据与所述每个第一流量数据对应的第二预测结果、与所述每个第三流量数据对应的第三预测结果和预设概率阈值,确定与所述每个第一流量数据对应的第二预测分类结果,包括:
针对所述多个第一流量数据中的每个第一流量数据,在确定所述多个第三流量数据中存在所述第一流量数据的情况下,根据第一预设条件,确定与所述第一流量数据对应的第二预测分类结果,
其中,所述第一预设条件包括以下至少一项:
与所述第一流量数据对应的第二预测结果是否大于或等于所述第一预设概率阈值;
与所述第一流量数据对应的第二预测结果和与所述第一流量数据对应的第三预测结果之间的差值的绝对值是否大于或等于所述第二预设概率阈值;
在确定所述多个第三流量数据中不存在所述第一流量数据的情况下,根据第二预设条件,确定与所述第一流量数据对应的第二预测分类结果,其中,所述第二预设条件包括与所述第一流量数据对应的第二预测结果是否大于或等于所述第一预设概率阈值。
6.根据权利要求5所述的方法,其中,所述根据第一预设条件,确定与所述第一流量数据对应的第二预测分类结果,包括:
在确定包括以下至少一项的情况下,确定与所述第一流量数据对应的第二预测分类结果是表征高风险度的标黑结果,
其中,所述以下至少一项包括:与所述第一流量数据对应的第二预测结果大于或等于所述第一预设概率阈值;
与所述第一流量数据对应的第二预测结果和与所述第一流量数据对应的第三预测结果之间的差值的绝对值大于或等于所述第二预设概率阈值;
在确定与所述第一流量数据对应的第二预测结果小于所述第一预设概率阈值且与所述第一流量数据对应的第二预测结果和与所述第一流量数据对应的第三预测结果之间的差值的绝对值小于所述第二预设概率阈值的情况下,确定与所述第一流量数据对应的第二预测分类结果是表征低风险度的标白结果。
7.根据权利要求5或6所述的方法,其中,所述根据第二预设条件,确定与所述第一流量数据对应的第二预测分类结果,包括:
在确定与所述第一流量数据对应的第二预测结果大于或等于所述第一预设概率阈值的情况下,确定与所述第一流量数据对应的第二预测分类结果是标黑结果;以及
在确定与所述第一流量数据对应的第二预设结果小于所述第一预设概率阈值的情况下,确定与所述第一流量数据对应的第二预设分类结果是标白结果。
8.根据权利要求1~6中任一项所述的方法,其中,所述根据第二流量数据包括的第二浏览器指纹数据和所述目标浏览器指纹数据集,确定针对所述第二流量数据的分级结果,包括:
在从所述目标浏览器指纹数据集中查找到与所述第二浏览器指纹数据相匹配的第一浏览器指纹数据的情况下,将所述第一浏览器指纹数据的预测结果确定为针对所述第二流量数据的分级结果;以及
在从所述目标浏览器指纹数据集中未查找到与所述第二浏览器指纹数据相匹配的第一浏览器指纹数据的情况下,根据预设业务处理逻辑,确定针对所述第二流量数据的分级结果。
9.根据权利要求8所述的方法,还包括:
在确定针对所述第二流量数据的分级结果是第一等级结果的情况下,根据预设业务风控逻辑,确定针对所述第二流量数据的第一处理方式,其中,所述第一处理方式包括执行第一等级监控或执行第二等级监控;以及
在确定针对所述第二流量数据的分级结果是第二等级结果的情况下,确定针对所述第二流量数据的第二处理方式,其中,所述第二处理方式包括正常处理,其中,所述第二等级结果表征的风险度小于所述第一等级结果表征的风险度。
10.根据权利要求1所述的方法,还包括:
针对所述多个初始训练样本中的每个初始训练样本,将所述初始训练样本包括的文本类型数据转换为数值类型的数据,得到类型转换训练样本,其中,每个所述初始训练样本包括初始训练浏览器指纹数据和初始流量相关训练特征数据;以及
对所述类型转换训练样本进行键值处理,得到所述目标训练样本。
11.根据权利要求10所述的方法,其中,所述对所述类型转换训练样本进行键值处理,得到所述目标训练样本,包括:
利用并行编程模型对所述类型转换训练样本进行处理,得到所述目标训练样本。
12.根据权利要求1、10~11中任一项所述的方法,其中,所述预设模型包括聚类模型和回归模型中的至少一项;
该方法还包括以下至少其中一项:
利用所述多个目标训练样本训练所述聚类模型;
将每个所述目标训练样本输入所述回归模型,得到与所述目标训练样本对应的预测概率值;利用与所述目标训练样本对应的预测概率值和标签训练所述回归模型,其中,与所述目标训练样本对应的标签表征与所述目标训练样本对应的线上真实概率值。
13.根据权利要求12所述的方法,其中,所述聚类模型包括高斯混合模型,所述回归模型包括梯度提升决策树模型。
14.一种流量分级装置,包括:
获得模块,用于将多个第一流量数据中的每个第一流量数据输入离线分类模型,得到与所述每个第一流量数据对应的预测结果;
第一确定模块,用于根据与所述每个第一流量数据对应的预测结果,从所述多个第一流量数据中确定至少一个目标流量数据;
第二确定模块,用于根据第二流量数据包括的第二浏览器指纹数据和目标浏览器指纹数据集,确定针对所述第二流量数据的分级结果;
其中,所述第一流量数据包括第二关键字和与所述第二关键字对应的第二值,所述第二关键字包括第一浏览器指纹数据,所述第二值包括第一流量相关特征数据,所述第二流量数据包括第三关键字和与所述第三关键字对应的第三值,所述第三关键字包括第二浏览器指纹数据,所述第三值包括第二流量相关特征数据,所述目标浏览器指纹数据集包括所述至少一个目标流量数据中的每个目标流量数据中的第一浏览器指纹数据,
其中,所述离线分类模型是利用多个目标训练样本训练预设模型得到的,多个所述目标训练样本是对多个初始训练样本进行处理得到的;
其中,每个所述目标训练样本包括第一关键字和与所述第一关键字对应的第一值,所述第一关键字包括目标训练浏览器指纹数据,所述第一值包括目标流量相关训练特征数据。
15.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1~13中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1~13中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110893872.5A CN113612777B (zh) | 2021-08-04 | 2021-08-04 | 训练方法、流量分级方法、装置、电子设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110893872.5A CN113612777B (zh) | 2021-08-04 | 2021-08-04 | 训练方法、流量分级方法、装置、电子设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113612777A CN113612777A (zh) | 2021-11-05 |
CN113612777B true CN113612777B (zh) | 2023-07-11 |
Family
ID=78306911
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110893872.5A Active CN113612777B (zh) | 2021-08-04 | 2021-08-04 | 训练方法、流量分级方法、装置、电子设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113612777B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114205164B (zh) * | 2021-12-16 | 2023-07-18 | 北京百度网讯科技有限公司 | 流量分类方法及装置、训练方法及装置、设备和介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108768986A (zh) * | 2018-05-17 | 2018-11-06 | 中国科学院信息工程研究所 | 一种加密流量分类方法及服务器、计算机可读存储介质 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107426181B (zh) * | 2017-06-20 | 2019-09-17 | 竞技世界(北京)网络技术有限公司 | 恶意Web访问请求的拦截方法及装置 |
CN107483488B (zh) * | 2017-09-18 | 2021-04-30 | 济南互信软件有限公司 | 一种恶意Http检测方法及系统 |
US11005839B1 (en) * | 2018-03-11 | 2021-05-11 | Acceptto Corporation | System and method to identify abnormalities to continuously measure transaction risk |
EP3903209A4 (en) * | 2018-12-28 | 2022-08-31 | Plaid Inc. | SYSTEM AND METHOD FOR FILTERING INTERNET TRAFFIC VIA A CUSTOMER FINGERPRINT |
CN111311334A (zh) * | 2020-03-13 | 2020-06-19 | 广州万唯邑众信息科技有限公司 | 一种应用于api广告的作弊流量识别方法和系统 |
CN111786966A (zh) * | 2020-06-15 | 2020-10-16 | 中国建设银行股份有限公司 | 浏览网页的方法和装置 |
CN112070226B (zh) * | 2020-09-02 | 2023-06-27 | 北京百度网讯科技有限公司 | 在线预测模型的训练方法、装置、设备及存储介质 |
CN112769796B (zh) * | 2020-12-30 | 2021-10-19 | 华北电力大学 | 一种基于端侧边缘计算的云网端协同防御方法及系统 |
-
2021
- 2021-08-04 CN CN202110893872.5A patent/CN113612777B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108768986A (zh) * | 2018-05-17 | 2018-11-06 | 中国科学院信息工程研究所 | 一种加密流量分类方法及服务器、计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113612777A (zh) | 2021-11-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107392259B (zh) | 构建不均衡样本分类模型的方法和装置 | |
CN114444619B (zh) | 样本生成方法、训练方法、数据处理方法以及电子设备 | |
US11775894B2 (en) | Intelligent routing framework | |
CN115632874A (zh) | 一种实体对象的威胁检测方法、装置、设备及存储介质 | |
CN114065864B (zh) | 联邦学习方法、联邦学习装置、电子设备以及存储介质 | |
CN113612777B (zh) | 训练方法、流量分级方法、装置、电子设备以及存储介质 | |
Sumathi et al. | Machine learning algorithm-based spam detection in social networks | |
WO2021174814A1 (zh) | 众包任务的答案验证方法、装置、计算机设备及存储介质 | |
CN113657249A (zh) | 训练方法、预测方法、装置、电子设备以及存储介质 | |
CN113657538A (zh) | 模型训练、数据分类方法、装置、设备、存储介质及产品 | |
CN109951859B (zh) | 无线网络连接推荐方法、装置、电子设备及可读介质 | |
CN116755974A (zh) | 云计算平台运维方法、装置、电子设备及存储介质 | |
CN114692778B (zh) | 用于智能巡检的多模态样本集生成方法、训练方法及装置 | |
CN116309002B (zh) | 图数据存储、访问、处理方法、训练方法、设备及介质 | |
CN116155541A (zh) | 面向网络安全应用的自动化机器学习平台以及方法 | |
CN115665783A (zh) | 一种异常指标溯源方法、装置、电子设备及存储介质 | |
CN114598443A (zh) | 恶意软件检测器训练方法、检测器、电子设备及存储介质 | |
CN114610953A (zh) | 一种数据分类方法、装置、设备及存储介质 | |
CN113052325A (zh) | 在线模型的优化方法、装置、设备、存储介质及程序产品 | |
CN114037057B (zh) | 预训练模型的生成方法、装置、电子设备以及存储介质 | |
CN117574146B (zh) | 文本分类标注方法、装置、电子设备和存储介质 | |
CN116151392B (zh) | 训练样本生成方法、训练方法、推荐方法以及装置 | |
CN114037058B (zh) | 预训练模型的生成方法、装置、电子设备以及存储介质 | |
CN117454204A (zh) | Api请求功能的确定方法、装置、设备及存储介质 | |
CN116319972A (zh) | 页面推送方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |