CN113765738B - 基于多任务学习和层次分类的加密流量QoE检测方法及系统 - Google Patents

Abstract

本发明公开一种基于多任务学习和层次分类的加密流量QoE检测方法及系统，属于计算机软件技术领域，选择将视频流量随着时间达到本地的数据包的数量绘制成流量趋势图，通过对趋势图使用CNN进行自动特征提取来实现加密流量QoE指标的分类，同时利用多任务学习算法和层次分类，联合利用多个QoE指标互相辅助学习，从而可以自动识别出QoE指标中的隐式特征，达到更高的QoE指标分类的准确率，可以很好地应对时间和网络变化产生的流量特征变化，在多个不同的视频流量数据集下均取得了非常好的分类效果。

Description

基于多任务学习和层次分类的加密流量QoE检测方法及系统

技术领域

本发明针对的是加密流量场景下的利用深度学习进行流量QoE检测的方法及系统，属于计算机软件技术领域。

背景技术

据CNNIC(中国互联网络信息中心)第46次中国互联网发展状况统计报告显示，截至2020年6月，我国网民规模达9.40亿，较2020年3月增长3625万，互联网普及率达67.0％，较2020年3月提升2.5个百分点。在这样的市场环境下，国内一度出现过300余家网络视频网站，经过这几年BAT巨头和资本的并购淘汰之后，如今只留下了10家左右有规模的视频网站。

在如此激烈的竞争格局下，无论是业界还是学界都清楚地意识到，传统的网络性能指标已不足以评判用户对服务的满意程度，而由ITU-T定义的用户体验质量(QoE)则成为了被广泛采用的评价指标，它代表了一个应用或一项服务的整体可接受性，由终端用户的主观感知决定，综合考虑了端到端的服务质量(QoS)和用户主观因素。其中的服务质量分为视音频媒体压缩方面、视音频同步方面、网络传输性能方面、频道切换时间方面、VoD特技模式方面、元数据方面、内容导航方面、浏览器方面；主观因素则包括资费、移动性、节目库丰富程度、即时性等。这诸多因素中有的具有可客观测量的指标，有的则必须使用主观测量方法来评定，同时，各因素对QoE最终结果的影响程度也不一致，必须要分配以相应的权重。可以看到，现在有关用户体验质量评估方法的研究无一例外都采用了伪主观评价法。在这种方法中要先根据应用特点确定QoE的相应指标，然后找出影响每个评价指标的全部或关键QoS参数，接着准备测试环境、样本、人员进行测试，获取数据，最后筛选数据再利用关系模型从QoS得到QoE。

随着5G技术的普及和家庭宽带技术的发展，网络电影、直播、短视频等网络内容愈发普及，整个互联网中的视频流量占比也逐年增长。QoE可以用来评判各网络视频供应商的服务质量，从而帮助用户选择能带来最佳体验的供应商，也可以让各供应商之间的竞争更趋理性；另一方面可以反过来由特定的QoE值为目标计算相应的网络性能指标，从而帮助供应商选择正确的设备和方法有效提升自身的竞争力。

但是目前绝大多数的视频流量是加密流量，这意味着流量中的载荷内容和传输层都是不可读的，从而对监控视频流量的QoE指标工作造成了很大的困难。数据表明目前全球互联网流量中约60％为加密流量而其中的视频流量占比约为66.7％，并且这一比例还在以极快的速度增长。

目前已有的QoE检测方法主要分为三类：对非加密流量的QoE检测、基于机器学习的QoE检测、基于深度学习的QoE检测。在针对非加密的流量的QoE检测中，研究者主要通过DPI(Deep Packet Inspect)技术来提取视频流量中的载荷内容和传输层的信息，通过解析载荷内容和传输层的信息来判断流量类型，从而判断是否需要限流或是增大带宽保证数据传输的稳定性。DPI检测法非常依赖于处理的数据是否为加密数据，这也意味着DPI技术极易窃取用户的个人隐私，这与目前主流的呼声隐私安全是相悖的，所以DPI技术在目前加密流量日趋普及的大环境下已经失去了它的作用。基于机器学习的QoE检测，通常是采用提取加密流量的传输层特征比如包长、包间隔、RTT时长、带宽延迟等不同维度的字段进行统计和分析，侧面反映出QoE的各个指标所对应的流量特征，从而实现对QoE的检测和分类。这种基于机器学习的方法虽然可以取得非常好的分类精确度，但是要求大量的人工提取特征工作和专家经验，并且这种方式训练出来的模型可能在迁移到别的数据库上不能保持如此高的精准度，并不具有足够的鲁棒性。基于深度学习的QoE检测，使用深度学习来做QoE检测不再需要人工提取流量特征，这避免了大量的人工操作，并且在自动提取特征和准确率方面，深度学习的方法都展现出了更好的效果，有研究者提出使用CNN和LSTM(长短期记忆网络)来提取流量特征(M.Lopez-Martin,B.Carro,A.Sanchez-Esguevillas,and J.Lloret,“Network traffic classifier with convolutional and recurrent neural networksfor internet of things,”IEEE Access,vol.5,pp.18 04218 050,2017.)，将流量从一维的数据转变成了二维的图像后采用CNN来进行处理，可以解决传统处理图片数据遇到的耗时长效率低的问题，配合上LSTM可以达到非常高的QoE指标分类准确率，然而其缺点在于对于不同网站的视频流量的QoE的鲁棒性不够好。

发明内容

本发明的目的在于提供一种基于多任务学习和层次分类的加密流量QoE检测方法及系统，针对现在主流视频流量均为加密流量的场景，不需要从加密流量的载荷提取明文内容，即可对加密视频流量实现QoE指标分类。

为实现上述目的，本发明采用以下技术方案：

一种基于多任务学习和层次分类的加密流量QoE检测方法，包括以下步骤：

模拟真实网络环境重复播放训练用的视频，并对视频质量、是否中断缓冲、初始缓冲时长这三个特征打上QoE指标标签，并根据播放期间下达的流量包个数绘制流量趋势图；

利用训练数据对卷积神经网络CNN进行分类训练，并利用训练好的CNN按照视频质量、是否中断缓冲以及初始缓冲时长进行分类；

利用训练好的CNN所分类出的初始缓冲时长指标对分层算法进行训练，利用分层算法将一较短初始缓冲时长的原特征与其经训练好的CNN分类出的指标特征相连接，推断一较长初始缓冲时长的特征，以此推断得到不同初始缓冲时长指标；

利用训练好的CNN分类出的视频质量、是否中断缓冲、最低初始缓冲时长指标与分层算法推断出的不同初始缓冲时长指标对多任务学习算法进行训练，分类出视频质量、是否中断缓冲以及不同初始缓冲时长的QoE指标；

统计待测视频流量不同时间段下达的流量包个数，绘制流量趋势图，并将该流量趋势图输入到训练好的CNN中，通过训练好的CNN、分层算法和多任务学习算法进行处理，最终得到所述待测视频流量的QoE指标。

进一步地，训练用的视频为来自于不同网站和不同类别的视频，储存在一视频地址集中。

进一步地，使用Selenium Webdrive编写视频自动播放脚本，来播放训练用的视频。

进一步地，使用Network Emulation去模拟真实网络环境。

进一步地，模拟的真实网络环境包括不同网速的网络和不稳定网络。

进一步地，在远程服务器上使用TCPDUMP捕捉播放训练用的视频时产生的数据流量，并滤除掉播放失败的数据包或播放环境与设定环境不一致的数据包。

进一步地，使用IFrame API工具给要播放的训练用的视频数据打上QoE指标标签。

进一步地，训练用的视频长度优选2分钟，视频质量包括360P、720P、1080P、4K中的几种，初始缓冲时长包括1s、3s和5s。

一种基于多任务学习和层次分类的加密流量QoE检测系统，包括存储器和处理器，在该存储器上存储有计算机程序，该处理器执行该程序时实现上述方法的步骤。

一种计算机可读存储介质，存储有计算机程序，该程序被处理器执行时实现上述方法的步骤。

本发明方法选择将视频流量随着时间达到本地的数据包的数量绘制成流量趋势图，通过对趋势图使用CNN进行自动特征提取来实现加密流量QoE指标的分类，同时利用多任务学习算法和层次分类，联合利用多个QoE指标互相辅助学习，从而可以自动识别出QoE指标中的隐式特征，达到更高的QoE指标分类的准确率，并且可以很好地应对时间和网络变化产生的流量特征变化，在多个不同的视频流量数据集下均取得了非常好的分类效果。

与现有技术相比，本发明的有益效果是：

1.从流量包到达本地的速度趋势角度来入手实现QoE指标的分类，有别于传统方法中需要深度解析数据包或是提取包长、包间隔等数据的方法，并将流量包达到本地的速度趋势画成了流量趋势图，以一种可视化的方法来使用CNN进行数据的处理。这种做法不仅更加避免了人工筛选特征的复杂性，同时也更有效的利用了数据之间的特征，从而达到了更好的分类效果。

2.不在限制流量数据必须为非加密数据，也就是不再使用传统的DPI方式来推断QoE指标，也不需要人工提取特征，从而节省了大量的人力，并且训练好后在不同的数据集上也拥有更好的鲁棒性，解决了传统方法在新的未知数据集上准确率大幅度下降的弊端。

3.很好的利用了多个QoE指标之间的相似性和协同性，进一步提高了加密视频流量QoE指标分类的准确率，相对于使用了CNN和LSTM的现有技术，准确率更高，对于不同网站的视频流量的QoE的鲁棒性也更好。

附图说明

图1是进行流量采集和预处理的步骤图。

图2是使用多任务学习和层次算法来对QoE指标分类图。

具体实施方式

为使本发明的技术方案能更明显易懂，特举实施例并结合附图详细说明如下。

本实施例提供一种基于多任务学习和层次分类的加密流量QoE指标检测方法，包括以下几个步骤：

步骤1：进行流量采集和预处理如图1所示，包括如下步骤：

1-1：使用Selenium Webdrive编写视频自动播放脚本，每个视频的长度约为2分钟，事先构建好一个视频地址集，包含各个视频网址以及不同类别的视频，确保视频来源以及种类足够丰富。

1-2：使用Network Emulation去模拟真实网络环境下的各种场景，模拟高速网络(20Mbps以上)、中速网络(4～20Mbps)、低速网络(4Mbps以下)和不稳定网络的状况，并在不同的网络状况下重复播放相同类型的视频，并使用IFrame API工具给对应的视频数据打上QoE指标标签(视频质量{360P、720P、1080P、4K}、是否中断缓冲、视频初始缓冲时长{1s、3s、5s})。

1-3：在远程服务器上使用TCPDUMP捕捉播放视频时产生的流量，并检测滤除掉播放失败的数据包或播放环境与设定环境不一致的数据包。

1-4：对播放一个完整的视频产生的数据流量包绘制成对应的流量趋势图，流量趋势图的横坐标为秒(s)，纵坐标为当前时间段下达到的流量包(package)的个数，最终生成的流量趋势图和对应的QoE指标作为训练数据。

步骤2：利用训练数据训练CNN，使用CNN对训练数据的流量趋势图进行分类，设置好CNN的卷积层和全连接层的层数，初始可以使用默认参数，后期可根据预测的结果，对相应算法的不同参数进行微调以确定最优值，从而获得训练好的CNN网络，作为最优分类器。利用最优分类器按照视频质量、是否中断缓冲、初始缓冲时长进行分类。

步骤3：对步骤2中训练好的CNN即最优分类器分类出来的视频初始缓冲时长指标使用分层算法，对分层算法进行训练，该分层算法将初始缓冲时长为1s的特征在经过训练好的CNN全连接层分类后的特征与其原特征相连接，用于推断缓冲时长为3s的特征。同理，缓冲时长为3s的特征在经过全连接层后的特征与原特征相连接，用于推断初始缓冲时长为5s的特征。

步骤4：将步骤2分类得到的视频质量、是否中断缓冲以及最短初始缓冲时长(1s)这三个指标与步骤3推断得到的两个初始缓冲时长指标(3s、5s)，利用这五个指标对多任务学习算法进行分类训练，该多任务学习算法是一种常用机器学习方法，多任务学习是指把多个相关的任务放在一起学习，学习过程中通过一个在浅层的共享(sharedrepresentation)表示来互相分享、互相补充学习到的领域相关的信息(domaininformation)，互相促进学习，提升泛化的效果，从而得到更好的分类效果。通过多任务学习算法与分层算法的互相协助，最终得到对应的五个QoE指标。

步骤5：利用训练好的CNN网络、分类算法和多任务学习算法对待测视频流量进行QoE指标检测，通过统计待测视频流量不同时间段下达的流量包个数，绘制流量趋势图，并将该流量趋势图输入到训练好的CNN中，通过训练好的CNN、分层算法和多任务学习算法进行处理，最终得到所述待测视频流量的QoE指标。

图2为对应于上述步骤1-4的训练流程图。步骤5在对待测视频流量进行QoE指标检测时，其过程大致如图2所示，例如先利用训练好的CNN进行分类，再利用训练好的分层算法对初始缓冲时长进行推断，最后利用训练好的多任务学习算法对训练好的CNN分类的结果和训练好的分层算法推断的结果进行最终QoE指标检测。

本实施例针对加密视频流量QoE指标的分类，提出了将加密流量的包随着时间变化从服务器到达本地的数量画成流量趋势图，并使用CNN来处理趋势图，从而实现了利用流量趋势图来对QoE指标进行分类。通过选取视频质量、是否中断缓冲和初始缓冲时长这三个QoE指标来进行分类，在视频质量上，考虑到视频质量越高，流量包在前期的数量也会越大，流量趋势图在前期也会在一个较高的值上。在首次缓冲延迟上，在相同视频质量的前提下，流量包前期的数量越大，延迟时间越短，流量趋势图保持较高值的时间也会越短。在是否存在中断缓存上，一旦存在中断，流量趋势图中也会出现明显的中断。

本实施例提供了一个数据集的采集和标注方案，除了采用公开数据集来验证算法的分类准确率，也自行提供了一个庞大的加密流量的数据集。所有的数据均使用SeleniumWebdriver编写脚本自动采集，采集的数据来源为主流视频网站，视频长度保持在2分钟左右，使用YouTube提供的IFrame API工具来实现对视频数据打QoE指标标签，使用NetworkEmulation来模拟真实网络环境下的各种可能存在的场景，比如低网速、网络不稳定等场景，从而保证数据类型的广度。

本实施例使用多任务学习算法和层次算法来推断视频流量的QoE指标，因为选取的视频质量、首次缓冲延迟和是否中断缓存这几个QoE指标彼此之间是存在联系的，使用多任务学习算法，可以辅助推断这几个QoE指标。在首次缓冲延迟这一QoE指标上，本发明提出了1秒、3秒和5秒三个维度的QoE指标，这几个纬度之间可以利用层次算法来辅助推断彼此，从而能得到更好的分类准确率。

为了测试本发明所提出的方法的效果，2019年3月15日起捕获某视频流量网站上的加密流量进行流量捕捉(共计5980个视频，6w+个流，35w+个数据包)作为标注的训练数据集，使用IFrame API分别对这些视频数据进行QoE标签的标注，并使用网络环境模拟软件来模拟各种真实的网络环境，在不同的网络环境下播放同一类型的视频，将流量数据包生成流量趋势图后整理成对应的训练数据集，并将训练数据集输入到CNN网络中，对CNN网络、分层算法和多任务学习算法进行训练，并采用同样标注的测试集对训练出的CNN网络、分层算法和多任务学习算法进行测试，最终分类的准确率和召回率均达到90％以上。

以上所述实施例仅表达了本发明的实施方式，其描述较为具体，但并不能因此理解为对本发明专利范围的限制。应当指出，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应当以所附权利要求为准。

Claims (10)

1.一种基于多任务学习和层次分类的加密流量QoE检测方法，其特征在于，包括以下步骤：

模拟真实网络环境重复播放训练用的视频，并对视频质量、是否中断缓冲、初始缓冲时长这三个特征打上QoE指标标签，并根据播放期间下达的流量包个数绘制流量趋势图；

利用训练数据对卷积神经网络CNN进行分类训练，并利用训练好的CNN按照视频质量、是否中断缓冲以及初始缓冲时长进行分类；

利用训练好的CNN所分类出的初始缓冲时长指标对分层算法进行训练，利用分层算法将一较短初始缓冲时长的原特征与其经训练好的CNN分类出的指标特征相连接，推断一较长初始缓冲时长的特征，以此推断得到不同初始缓冲时长指标；

利用训练好的CNN分类出的视频质量、是否中断缓冲、最低初始缓冲时长指标与分层算法推断出的不同初始缓冲时长指标对多任务学习算法进行训练，分类出视频质量、是否中断缓冲以及不同初始缓冲时长的QoE指标；

统计待测视频流量不同时间段下达的流量包个数，绘制流量趋势图，并将该流量趋势图输入到训练好的CNN中，通过训练好的CNN、分层算法和多任务学习算法进行处理，最终得到所述待测视频流量的QoE指标。

2.如权利要求1所述的方法，其特征在于，训练用的视频为来自于不同网站和不同类别的视频，储存在一视频地址集中。

3.如权利要求1所述的方法，其特征在于，使用Selenium Webdrive编写视频自动播放脚本，来播放训练用的视频。

4.如权利要求1所述的方法，其特征在于，使用Network Emulation去模拟真实网络环境。

5.如权利要求1所述的方法，其特征在于，模拟的真实网络环境包括不同网速的网络和不稳定网络。

6.如权利要求1所述的方法，其特征在于，在远程服务器上使用TCPDUMP捕捉播放训练用的视频时产生的数据流量，并滤除掉播放失败的数据包或播放环境与设定环境不一致的数据包。

7.如权利要求1所述的方法，其特征在于，使用IFrame API工具给要播放的训练用的视频数据打上QoE指标标签。

8.如权利要求1所述的方法，其特征在于，训练用的视频长度优选2分钟，视频质量包括360P、720P、1080P、4K中的几种，初始缓冲时长包括1s、3s和5s。

9.一种基于多任务学习和层次分类的加密流量QoE检测系统，其特征在于，包括存储器和处理器，在该存储器上存储有计算机程序，该处理器执行该程序时实现权利要求1-8任一项所述的方法的步骤。

10.一种计算机可读存储介质，存储有计算机程序，该程序被处理器执行时实现权利要求1-8任一项所述的方法的步骤。

Images