CN116132347A - 算网融合环境下基于Bi-LSTM的服务QoS预测方法 - Google Patents

算网融合环境下基于Bi-LSTM的服务QoS预测方法 Download PDF

Info

Publication number
CN116132347A
CN116132347A CN202310356312.5A CN202310356312A CN116132347A CN 116132347 A CN116132347 A CN 116132347A CN 202310356312 A CN202310356312 A CN 202310356312A CN 116132347 A CN116132347 A CN 116132347A
Authority
CN
China
Prior art keywords
service
user
qos
similarity
lstm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310356312.5A
Other languages
English (en)
Other versions
CN116132347B (zh
Inventor
黄华
杨子仪
李小龙
李闯
张敏
张卫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hunan University of Technology
Original Assignee
Hunan University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hunan University of Technology filed Critical Hunan University of Technology
Priority to CN202310356312.5A priority Critical patent/CN116132347B/zh
Publication of CN116132347A publication Critical patent/CN116132347A/zh
Application granted granted Critical
Publication of CN116132347B publication Critical patent/CN116132347B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14—Network analysis or design
    • H04L41/147—Network analysis or design for predicting network behaviour
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了算网融合环境下基于Bi‑LSTM的服务QoS预测方法，属于数据处理技术领域，具体包括：提取算网融合系统中用户调用服务产生的服务质量日志信息，并提取用户调用算网产生的服务数据；将预处理后的数据生成QoS三维矩阵，基于不同时间序列上的三维矩阵计算用户/服务之间的相似度；基于邻居特征学习获得用户/服务深度特征的矩阵，基于用户/服务相似邻居信息进行服务QoS预测；生成的嵌入式时间特征作为输入，构建AtBi‑LSTM网络模型，训练得到时间序列的服务QoS预测；基于两种服务QoS预测结果计算出最终QoS预测值并对用户进行服务推荐；本发明实现了高效准确的服务推荐方法。

Description

算网融合环境下基于Bi-LSTM的服务QoS预测方法
技术领域
本发明属于数据处理技术领域，具体涉及算网融合环境下基于Bi-LSTM的服务QoS预测方法。
背景技术
在互联网产业规模不断扩大的背景之下，海量的数据在日常的生活生产中产生，大量数据冗余繁杂为用户和服务提供商带来了许多的困难，海量数据的传输、异构数据的分析和存储对传统网络和云计算提出了巨大挑战；用户难以快速准确地找到符合兴趣爱好或需要使用的服务，同时管理者难以对自己所提供的服务合理地进行资源分配以及向目标用户准确推送。
在算网融合环境下，为了打造云网边端的一体化，需要对各地的服务实现高速、准确、无损的QoS预测，而服务质量指标包含多个方面，例如安全性、可用性、准确性等，QoS指标是通过将服务与服务提供者结合在一起的网络服务程序观察并提供的。因此在整个算网融合的技术中，提高QoS指标预测的准确性有助于分析用户对于服务的判断，从而提高服务推荐的性能。因此，本发明提出了一种利用Bi-LSTM解决算网融合中的服务QoS预测方法。
发明内容
本发明的目的在于提供算网融合环境下基于Bi-LSTM的服务QoS预测方法，解决以下技术问题：
如何提高整个算网融合的技术中QoS指标预测的准确性？有助于更好分析用户对于服务的判断，从而提高服务推荐的性能。
本发明的目的可以通过以下技术方案实现：
算网融合环境下基于Bi-LSTM的服务QoS预测方法，包括以下步骤：
S1：提取算网融合系统中用户调用服务产生的服务质量日志信息，并提取用户调用算网产生的服务数据，将日志信息和服务数据整合形成数据包，并对数据包进行预处理；
S2：将通过预处理之后的数据生成对应的QoS三维矩阵，并根据在不同的时间序列上的多个三维矩阵做相似度计算准备，在此基础之上计算用户/服务之间的相似度；
S3：基于邻居特征学习获得用户/服务深度特征的矩阵，结合用户/服务的相似度和对应的经纬度信息，通过haversine距离公式筛选出相似度最高的前k个用户/服务的集合，k为预设数值，并基于用户/服务相似邻居信息进行服务QoS预测；
S4：基于S3生成的用户和服务的嵌入式时间特征表示作为输入，使用Bi-LSTM双向长短期记忆网络模型进行训练，并结合注意力机制过滤关键信息构建AtBi-LSTM网络模型，训练得到时间序列的服务QoS预测；
S5：分别为S3和S4的服务QoS的预测结果分配对应的权重系数，组合计算出最终的服务QoS预测值，根据最终的QoS预测值对目标用户进行服务推荐。
作为本发明进一步的方案：所述服务数据包括:算力的能力、吞吐量、响应时间，以及用户和服务的ip地址、经纬度、云边服务器的整体部署。
作为本发明进一步的方案：步骤S1中所述的预处理包括以下步骤：
S101：数据描述，利用线性归一化的方法，将QoS值的范围转换到[0,1]之间，具体计算公式为：
其中，rt u,i代表了用户u在时间序列t中调用服务i所产生的QoS数据，max(r)与min(r)分别代表所有QoS数据中的最大值与最小值；
S102：获取缺失值相邻时间序列内的QoS值填充缺失值，通过缺失值缓解数据稀疏，具体计算公式为：
其中，当rt u,i=0时，对其QoS值置空添置，表示用户在该时间序列上从未调用过服务，t为时间序列。
作为本发明进一步的方案：S2中所述相似度计算包括以下步骤：
S201：将三维矩阵R分成多个时间序列，通过矩阵分解技术与相似邻居特征来提取深层特征，计算公式为：R=Ui(Sj)T；R=｛rt u,i｝；
其中R=｛rt u,i｝是一个三维QoS矩阵，每个条目rt u,i表示用户u在时间序列t调用服务i时的QoS值；将QoS三维矩阵R按时间序列划分为多个子矩阵，分别对每个子矩阵进行矩阵分解，得到对应的用户和服务的潜在特征矩阵；
S202：基于距离约束进行相似度度量计算，对于任意两个坐标M和N，针对地球的经纬度进行欧式距离的公式为：
；
其中，Lon代表经度，Lat代表纬度，d1为欧式距离；
S203：从矩阵分解之后的用户矩阵Ui和服务矩阵Sj中获取对应的特征向量进行相似度计算，对于Sj中任意两个真实数据向量su和sv，采用余弦相似度计算服务之间的相似性，具体计算公式为：
；
其中，su和sv为服务的特征向量，‖su‖和‖sv‖为向量的模，Simu,v即为服务相似度；
作为本发明进一步的方案：基于用户/服务相似邻居信息进行服务QoS预测的过程为：
S204：选取任意一个目标用户，用户的二值化特征向量pu由时间序列上的调用信息确定，目标服务的相似性特征向量qu由调用QoS记录表示，将两个特征向量按位相乘获得用户的综合时间特征xu，计算公式为： xu=pu⊙qu；
其中，⊙表示两个特征向量中的对应条目相乘，xu是用户的综合时间特征向量。
S205：服务数据在某个时间序列的调用信息得到二值化特征向量ps，采用余弦相似度计算用户之间的相似性，具体计算公式为：
其中，Ue和Uw都属于用户特征向量Ui，‖Ue‖和‖Uw‖为向量的模，Sime,w即为用户之间的相似度。
S206：提取用户qs的相似性特征向量，将服务特征向量与用户特征向量按位相乘以生成服务的综合时间特征xs表示，计算公式为：xs=ps⊙qs ；
将用户的综合时间特征和服务的综合时间特征xs进行连接操作，生成用户和服务的嵌入式时间特征Xu,s，计算公式为：
；时间序列t的综合时间特征表示即为Xu,s t。
作为本发明进一步的方案：步骤S3中结合距离筛选取前K个用户/服务的集合的步骤为：
S301：选取最相似的用户和服务的相似邻居进行预测计算；若相似用户/服务数量小于k，则扩大筛选范围，进入下一步；若相似用户/服务数量大于k，在这个集合内利用Top-k算法筛选出相似用户/服务，并排除相似度小于0的用户/服务。
若筛选完后的用户数量小于k，则扩大筛选范围；若筛选完后的用户数量不小于k，则返回寻找相似用户/服务集合；
通过以下公式寻找基于距离的相似用户的集合：
；
通过以下公式寻找基于距离的相似服务的集合：
；
其中，i表示用户的序号,j表示算网融合中服务的序号，K表示范围内总的用户的数量，B为范围内总的服务的数量；d2(u,ui)，d2(b,bj)表示各自的距离；
S302：距离d2基于使用haversine公式计算两经纬度间距离，对此用户以及服务之间的距离由(lon1,lat1),(lon2,lat2)进行计算，公式如下：
其中,d2即为haversine距离，R为地球半径；
S303：在基于用户的相似性的情况下，使用下列公式预测用户u的服务QoS值：
;
;
其中，为活动用户u调用不同服务的平均QoS值，表示由相似用户ui调用的不同服务业务的平均QoS，S是由用户ui所调用的服务的总数，Simu,ui为上述用户之间的相似性。
基于服务的相似性的情况下，使用以下公式预测服务s的服务QoS值：
;
其中，表示服务之间的相似性，表示用户调用的服务的数学期望；
S304：于是基于相似度进行预测的QoS值计算公式为
;
其中，依据用户相似邻居信息进行预测结果输出为，依据服务相似邻居信息进行预测输出结果为。
作为本发明进一步的方案：步骤S4中注意力机制的Bi-LSTM的模型训练以及对于QoS值的预测包括以下步骤：
S401：在通过邻居特征学习以及矩阵分解得到用户/服务的潜在特征矩阵之后，根据不同时间序列下的用户服务调用记录的数据集，通过数据集训练AtBi-LSTM网络模型，得到目标用户在特定时间序列下调用目标服务所产生的QoS值；
S402：基于用户和服务的嵌入式时间特征作为输入，再利用其训练AtBi-LSTM网络模型，输出用户调用在特定时间序列调用目标服务所产生的QoS预测值；
S403：Bi-LSTM门的输入均为当前时间步输入与上一时间步隐藏状态，输出由激活函数sigmoid函数(σ)的全连接层计算得到，计算公式如下所示：
输入门：;
遗忘门：;
门控单元：;
;
输出门：;
其中，Xu,s t为给定时间步t的小批量输入向量；Wxi和Whi输入门的权重矩阵；bi为输入门的偏置项；Wxf和Whf为遗忘门的权重矩阵，bf为遗忘门的偏置项；为短期记忆需要计算的候选记忆细胞；Wxc和Whc为门控单元的权重矩阵；bc为门控单元的偏置项；Ct为当前时刻门控单元的状态；Ct-1表示上一次的单元状态；Wxo和Who为输入门的权重矩阵，bo为输入门的偏置项；
输出门Ot控制记忆细胞到隐藏状态的信息流动，得到最终输出为
;
为前向LSTM的最终结果，后向LSTM的最终结果为；其中中代表经由Bi-LSTM前向操作时基于用户服务综和时间特征在t时调用服务i产生的QoS预测值，则代表经由后向操作时用户服务综合时间特征在t时调用服务i产生的QoS预测值；
通过公式获得使用Bi-LSTM产生的结果值Bilstmt；
S404：注意力层操作，计算公式如下：
;
;
再利用训练出的权重对隐藏层输出向量求加权平均和，计算公式如下：
；
其中,Bilstmt为最后Bi-LSTM隐藏层的输出，AtBilstmt为加入注意力机制后隐藏层的得分，αt为权重系数，Ct为加权求和后的结果，softmax为激活函数；
对于用户在时间序列k对整个算网融合中所提供的服务QoS预测，将Ct馈入全连接网络以预测缺失的QoS值，计算公式为:；
其中,是最终预测的服务QoS，W和b均为模型训练的预设的超参数。
作为本发明进一步的方案：S5中分配对应的权重系数的过程为：
S501:根据计算的比例进行权重赋值，针对与进行对比，计算公式为：和；
其中，ω1和ω2分别为S3和S4的服务QoS的预测结果的权重值，与分别为基于用户/服务相似邻居信息和AtBi-LSTM所得出的预测值；
于是，最终的QoS预测值：。
本发明的有益效果：
1、本发明利用时间序列问题的QoS值填充部分缺失QoS值，有效缓解了数据稀疏性的问题，提升了预测的准确性，解决了现如今算网融合中的整体的一个服务QoS的预测问题，提升了整个算网融合的部署；
2、本发明在计算相似度和相似邻居的基础之上，引入矩阵分解技术，提升了用户/服务的深度特征矩阵，提升了预测的准确性；
3、本发明利用注意力机制的双向长短期记忆网络进行QoS预测，有效学习了时间序列的QoS变化规律，提高了服务推荐的准确性，并采用组合预测算式进行综合预测，使预测效果达到最优化。
附图说明
下面结合附图对本发明作进一步的说明。
图1是本发明相似度预测的流程示意图；
图2是本发明AtBi-LSTM预测模型的框架示意图；
图3是本发明QoS预测模型的基本结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
请参阅图1所示，本发明为算网融合环境下基于Bi-LSTM的服务QoS预测方法，包括以下步骤：
S1：提取算网融合系统中用户调用服务产生的服务质量日志信息，并提取用户调用算网产生的服务数据，将日志信息和服务数据整合形成数据包，并对数据包进行预处理；
S2：将通过预处理之后的数据生成对应的QoS三维矩阵，并根据在不同的时间序列上的多个三维矩阵做相似度计算准备，在此基础之上计算用户/服务之间的相似度；
S3：基于邻居特征学习获得用户/服务深度特征的矩阵，结合用户/服务的相似度和对应的经纬度信息，通过haversine距离公式筛选出相似度最高的前k个用户/服务的集合，k为预设数值，并基于用户/服务相似邻居信息进行服务QoS预测；
S4：基于S3生成的用户和服务的嵌入式时间特征表示作为输入，使用Bi-LSTM双向长短期记忆网络模型进行训练，并结合注意力机制过滤关键信息构建AtBi-LSTM网络模型，训练得到时间序列的服务QoS预测；
S5：分别为S3和S4的服务QoS的预测结果分配对应的权重系数，组合计算出最终的服务QoS预测值，根据最终的QoS预测值对目标用户进行服务推荐。
在本发明的一种优选的实施例中，所述服务数据包括:算力的能力、吞吐量、响应时间，以及用户和服务的ip地址、经纬度、云边服务器的整体部署；
本发明基于S3生成的用户和服务的嵌入式时间特征表示作为输入，使用Bi-LSTM双向长短期记忆网络模型进行训练，在此基础之上结合注意力机制从而过滤出关键信息，从而提高预测准确率。本发明简称Attention+Bi-LSTM网络模型为AtBi-LSTM，并通过此模型训练得到时间序列的服务QoS预测。
在本发明的另一种优选的实施例中，步骤S1中所述的预处理包括以下步骤：
S101：数据描述，利用线性归一化的方法，将QoS值的范围转换到[0,1]之间，具体计算公式为：
；
其中，rt u,i代表了用户u在时间序列t中调用服务i所产生的QoS数据，max(r)与min(r)分别代表所有QoS数据中的最大值与最小值；
S102：获取缺失值相邻时间序列内的QoS值填充缺失值，通过缺失值缓解数据稀疏，具体计算公式为：
；
其中，当rt u,i=0时，对其QoS值置空添置，表示用户在该时间序列上从未调用过服务，t为时间序列。
在本发明的另一种优选的实施例中，S2中所述相似度计算包括以下步骤：
S201：将三维矩阵R分成多个时间序列，通过矩阵分解技术与相似邻居特征来提取深层特征，计算公式为：R=Ui(Sj)T；R=｛rt u,i｝；
其中R=｛rt u,i｝是一个三维QoS矩阵，每个条目rt u,i表示用户u在时间序列t调用服务i时的QoS值；将QoS三维矩阵R按时间序列划分为多个子矩阵，分别对每个子矩阵进行矩阵分解，得到对应的用户和服务的潜在特征矩阵；
在不同时间序列的 QoS 值下，矩阵R变得非常稀疏。为了处理这个问题，采用矩阵分解（MF）技术，将R分解成具有高阶特征的线性组合向量，从而能够得到最合适的用户潜在特征矩阵Ui和服务潜在特征矩阵Sj，使两者内积尽可能接近R； 获得之后，利用用户潜在特征向量与服务潜在特征向量，在此基础之上，计算每个时间序列上的用户和服务的相似度；
S202：基于距离约束进行相似度度量计算，对于任意两个坐标M和N，针对地球的经纬度进行欧式距离的公式为：
；
其中，Lon代表经度，Lat代表纬度，d1为欧式距离；
利用邻居特征来学习用户/服务的深度特征矩阵；继而利用相似邻居的历史调用信息进行预测。对于在一确定的时间序列之内进行相似度进行计算时；对于整个算网融合的大环境来说，由于云网边端分配的不均匀；因此要考虑用户以及服务提供者的动态性、稀疏性等。提出基于距离约束进行相似度度量计算，距离计算采用欧式距离公式，针对地球的经纬度进行欧式距离的计算；
S203：从矩阵分解之后的用户矩阵Ui和服务矩阵Sj中获取对应的特征向量进行相似度计算，对于Sj中任意两个真实数据向量su和sv，采用余弦相似度计算服务之间的相似性，具体计算公式为：；
其中，su和sv为服务的特征向量，‖su‖和‖sv‖为向量的模，Simu,v即为服务相似度；
在本发明的另一种优选的实施例中，基于用户/服务相似邻居信息进行服务QoS预测的过程为：
S204：选取任意一个目标用户，用户的二值化特征向量pu由时间序列上的调用信息确定，目标服务的相似性特征向量qu由调用QoS记录表示，将两个特征向量按位相乘获得用户的综合时间特征xu，计算公式为：xu=pu⊙qu；
其中，⊙表示两个特征向量中的对应条目相乘，xu是用户的综合时间特征向量。
S205：服务数据在某个时间序列的调用信息得到二值化特征向量ps，采用余弦相似度计算用户之间的相似性，具体计算公式为：；
其中，Ue和Uw都属于用户特征向量Ui，‖Ue‖和‖Uw‖为向量的模，Sime,w即为用户之间的相似度。
因此，提取可能希望调用该服务的用户qs的相似性特征向量。具体来说，服务的二值化特征表示哪些用户调用了目标用户，而服务的相似度特征进一步反映了这些用户与目标用户之间的相似关系。
S206：提取用户qs的相似性特征向量，将服务特征向量与用户特征向量按位相乘以生成服务的综合时间特征xs表示，计算公式为：xs=ps⊙qs ；
将用户的综合时间特征和服务的综合时间特征xs进行连接操作，生成用户和服务的嵌入式时间特征Xu,s，计算公式为：；时间序列t的综合时间特征表示即为Xu,s t。
在本发明的另一种优选的实施例中，步骤S3中结合距离筛选取前K个用户/服务的集合的步骤为：
S301：选取最相似的用户和服务的相似邻居进行预测计算；整个算网融合的分布中，不管是用户的移动性还是服务的移动性，如果距离较大可能对于预测结果产生巨大的影响；基于这种情况，提出了一种基于距离的增强式Top-K选择策略；若相似用户/服务数量小于k，则扩大筛选范围，进入下一步；若相似用户/服务数量大于k，在这个集合内利用Top-k算法筛选出相似用户/服务，并排除相似度小于0的用户/服务。
若筛选完后的用户数量小于k，则扩大筛选范围；若筛选完后的用户数量不小于k，则返回寻找相似用户/服务集合；
通过以下公式寻找基于距离的相似用户的集合：
;
通过以下公式寻找基于距离的相似服务的集合：
;
其中，i表示用户的序号,j表示算网融合中服务的序号，K表示范围内总的用户的数量，B为范围内总的服务的数量；d2(u,ui)，d2(b,bj)表示各自的距离；
S302：距离d2基于使用haversine公式计算两经纬度间距离，对此用户以及服务之间的距离由(lon1,lat1),(lon2,lat2)进行计算，公式如下：
其中,d2即为haversine距离，R为地球半径:；
S303：在基于用户的相似性的情况下，使用下列公式预测用户u的服务QoS值：
;
;
其中，为活动用户u调用不同服务的平均QoS值，表示由相似用户ui调用的不同服务业务的平均QoS，S是由用户ui所调用的服务的总数，Simu,ui为上述用户之间的相似性。
基于服务的相似性的情况下，使用以下公式预测服务s的服务QoS值：
;
其中，表示服务之间的相似性，表示用户调用的服务的数学期望；
S304：于是基于相似度进行预测的QoS值计算公式为：
;
其中，依据用户相似邻居信息进行预测结果输出为，依据服务相似邻居信息进行预测输出结果为。
在本发明的另一种优选的实施例中，步骤S4中注意力机制的Bi-LSTM的模型训练以及对于QoS值的预测包括以下步骤：
S401：在通过邻居特征学习以及矩阵分解得到用户/服务的潜在特征矩阵之后，根据不同时间序列下的用户服务调用记录的数据集，通过数据集训练AtBi-LSTM网络模型，得到目标用户在特定时间序列下调用目标服务所产生的QoS值；
S402：基于用户和服务的嵌入式时间特征作为输入，再利用其训练AtBi-LSTM网络模型，输出用户调用在特定时间序列调用目标服务所产生的QoS预测值；
S403：Bi-LSTM门的输入均为当前时间步输入与上一时间步隐藏状态，输出由激活函数sigmoid函数(σ)的全连接层计算得到，计算公式如下所示：
输入门：;
遗忘门：;
门控单元：;
;
输出门：;
其中，Xu,s t为给定时间步t的小批量输入向量；Wxi和Whi输入门的权重矩阵；bi为输入门的偏置项；Wxf和Whf为遗忘门的权重矩阵，bf为遗忘门的偏置项；为短期记忆需要计算的候选记忆细胞；Wxc和Whc为门控单元的权重矩阵；bc为门控单元的偏置项；Ct为当前时刻门控单元的状态；Ct-1表示上一次的单元状态；Wxo和Who为输入门的权重矩阵，bo为输入门的偏置项；
输出门Ot控制记忆细胞到隐藏状态的信息流动，得到最终输出为;
为前向LSTM的最终结果，后向LSTM的最终结果为;其中中代表经由Bi-LSTM前向操作时基于用户服务综和时间特征在t时调用服务i产生的QoS预测值，则代表经由后向操作时用户服务综合时间特征在t时调用服务i产生的QoS预测值；
通过公式获得使用Bi-LSTM产生的结果值Bilstmt；
S404：注意力层操作，计算公式如下：
;
;
再利用训练出的权重对隐藏层输出向量求加权平均和，计算公式如下：
;
其中,Bilstmt为最后Bi-LSTM隐藏层的输出，AtBilstmt为加入注意力机制后隐藏层的得分，αt为权重系数，Ct为加权求和后的结果，softmax为激活函数；
对于用户在时间序列k对整个算网融合中所提供的服务QoS预测，将Ct馈入全连接网络以预测缺失的QoS值，计算公式为:;
其中, 是最终预测的服务QoS，W和b均为模型训练的预设的超参数。
在本发明的另一种优选的实施例中，S5中分配对应的权重系数的过程为：
S501：根据计算的比例进行权重赋值，针对与进行对比，计算公式为：和；
其中，ω1和ω2分别为S3和S4的服务QoS的预测结果的权重值，与分别为基于用户/服务相似邻居信息和AtBi-LSTM所得出的预测值；
于是，最终的QoS预测值：。从而能够得到准确的预测结果值，又能够对整个算网融合中的服务QoS进行较为准确的服务推荐；实现国家战略部署。
以上对本发明的一个实施例进行了详细说明，但所述内容仅为本发明的较佳实施例，不能被认为用于限定本发明的实施范围。凡依本发明申请范围所作的均等变化与改进等，均应仍归属于本发明的专利涵盖范围之内。

Claims (8)

1.算网融合环境下基于Bi-LSTM的服务QoS预测方法，其特征在于，包括以下步骤：
S1：提取算网融合系统中用户调用服务产生的服务质量日志信息，并提取用户调用算网产生的服务数据，将日志信息和服务数据整合形成数据包，并对数据包进行预处理；
S2：将通过预处理之后的数据生成对应的QoS三维矩阵，并根据在不同的时间序列上的多个三维矩阵做相似度计算准备，并基于所述相似度计算准备计算用户/服务之间的相似度；
S3：基于邻居特征学习获得用户/服务深度特征的矩阵，结合用户/服务的相似度和对应的经纬度信息，通过haversine距离公式筛选出相似度最高的前k个用户/服务的集合，K为预设数值，并基于用户/服务相似邻居信息进行服务QoS预测；
S4：基于S3生成的用户和服务的嵌入式时间特征表示作为输入，使用Bi-LSTM双向长短期记忆网络模型进行训练，并结合注意力机制过滤关键信息构建AtBi-LSTM网络模型，训练得到时间序列的服务QoS预测；
S5：分别为S3和S4的服务QoS的预测结果分配对应的权重系数，组合计算出最终的服务QoS预测值，根据最终的QoS预测值对目标用户进行服务推荐。
2.根据权利要求1所述的算网融合环境下基于Bi-LSTM的服务QoS预测方法,其特征在于，所述服务数据包括算力的能力、吞吐量、响应时间，以及用户和服务的ip地址、经纬度、云边服务器的整体部署。
3.根据权利要求1所述的算网融合环境下基于Bi-LSTM的服务QoS预测方法,其特征在于，步骤S1中所述的预处理包括以下步骤：
S101：数据描述，利用线性归一化的方法，将QoS值的范围转换到[0,1]之间，具体计算公式为：
；
其中，r t u,i 代表了用户u在时间序列t中调用服务i所产生的QoS数据，max(r)与min(r)分别代表所有QoS数据中的最大值与最小值；
S102：获取缺失值相邻时间序列内的QoS值填充缺失值，通过缺失值缓解数据稀疏，具体计算公式为：
；
其中，当r t u,i =0时，对其QoS值置空添置，表示用户在该时间序列上从未调用过服务，t为时间序列。
4.根据权利要求1所述的算网融合环境下基于Bi-LSTM的服务QoS预测方法,其特征在于，S2中所述相似度计算包括以下步骤：
S201：将三维矩阵R分成多个时间序列，通过矩阵分解技术与相似邻居特征来提取深层特征，计算公式为: R=Ui(Sj)T；R=｛rt u,i｝；
其中R=｛rt u,i｝是一个三维QoS矩阵，每个条目rt u,i表示用户u在时间序列t调用服务i时的QoS值；将QoS三维矩阵R按时间序列划分为多个子矩阵，分别对每个子矩阵进行矩阵分解，得到对应的用户和服务的潜在特征矩阵；
S202：基于距离约束进行相似度度量计算，对于任意两个坐标M和N，针对地球的经纬度进行欧式距离的公式为：
；
其中，Lon代表经度，Lat代表纬度，d1为欧式距离；
S203：从矩阵分解之后的用户矩阵Ui和服务矩阵Sj中获取对应的特征向量进行相似度计算，对于Sj中任意两个真实数据向量su和sv，采用余弦相似度计算服务之间的相似性，具体计算公式为：
；
其中，su和sv为服务的特征向量，‖su‖和‖sv‖为向量的模，Simu,v即为服务相似度。
5.根据权利要求1所述的算网融合环境下基于Bi-LSTM的服务QoS预测方法,其特征在于，基于用户/服务相似邻居信息进行服务QoS预测的过程为：
S204：选取任意一个目标用户，用户的二值化特征向量p u 由时间序列上的调用信息确定，目标服务的相似性特征向量q u 由调用QoS记录表示，将两个特征向量按位相乘获得用户的综合时间特征xu，计算公式为：xu=pu⊙qu ；
其中，⊙表示两个特征向量中的对应条目相乘，xu是用户的综合时间特征向量；S205：服务数据在某个时间序列的调用信息得到二值化特征向量ps，采用余弦相似度计算用户之间的相似性，具体计算公式为：
；
其中，Ue和Uw都属于用户特征向量Ui，‖Ue‖和‖Uw‖为向量的模，Sime,w即为用户之间的相似度；S206：提取用户qs的相似性特征向量，将服务特征向量与用户特征向量按位相乘以生成服务的综合时间特征xs表示，计算公式为：xs=ps⊙qs ；
将用户的综合时间特征和服务的综合时间特征xs进行连接操作，生成用户和服务的嵌入式时间特征Xu,s，计算公式为：；时间序列t的综合时间特征表示即为Xu,s t。
6.根据权利要求1所述的算网融合环境下基于Bi-LSTM的服务QoS预测方法,其特征在于，步骤S3中结合距离筛选取前k个用户/服务的集合的步骤为：
S301：选取最相似的用户和服务的相似邻居进行预测计算；若相似用户/服务数量小于K，则扩大筛选范围，进入下一步；若相似用户/服务数量大于K，在这个集合内利用Top-K算法筛选出相似用户/服务，并排除相似度小于0的用户/服务； 若筛选完后的用户数量小于K，则扩大筛选范围；若筛选完后的用户数量不小于K，则返回寻找相似用户/服务集合；
通过以下公式寻找基于距离的相似用户的集合：
；
通过以下公式寻找基于距离的相似服务的集合：
；
其中，i表示用户的序号,j表示算网融合中服务的序号，k表示范围内总的用户的数量，B为范围内总的服务的数量；d2(u,ui)，d2(b,bj)表示各自的距离；
S302：距离d2基于使用haversine公式计算两经纬度间距离，对此用户以及服务之间的距离由(lon1,lat1),(lon2,lat2)进行计算，公式如下：
；
其中,d2即为haversine距离，R为地球半径；
S303：在基于用户的相似性的情况下，使用下列公式预测用户u的服务QoS值：
；
；
其中，为活动用户u调用不同服务的平均QoS值，表示由相似用户ui调用的不同服务业务的平均QoS，S是由用户ui所调用的服务的总数，Simu,ui为上述用户之间的相似性； 基于服务的相似性的情况下，使用以下公式预测服务s的服务QoS值：
；
其中，表示服务之间的相似性，表示用户调用的服务的数学期望；
S304：于是基于相似度进行预测的QoS值计算公式为:
；
其中，依据用户相似邻居信息进行预测结果输出为，依据服务相似邻居信息进行预测输出结果为。
7.根据权利要求1所述的算网融合环境下基于Bi-LSTM的服务QoS预测方法,其特征在于，步骤S4中注意力机制的Bi-LSTM的模型训练以及对于QoS值的预测包括以下步骤：
S401：在通过邻居特征学习以及矩阵分解得到用户/服务的潜在特征矩阵之后，根据不同时间序列下的用户服务调用记录的数据集，通过数据集训练AtBi-LSTM网络模型，得到目标用户在特定时间序列下调用目标服务所产生的QoS值；
S402：基于用户和服务的嵌入式时间特征作为输入，再利用其训练AtBi-LSTM网络模型，输出用户在特定时间序列调用目标服务所产生的QoS预测值；
S403：Bi-LSTM门的输入均为当前时间步输入与上一时间步隐藏状态，输出由激活函数sigmoid函数(σ)的全连接层计算得到，计算公式如下所示：
输入门：；
遗忘门：；
门控单元：；
；
输出门：；
其中，Xu,s t为给定时间步t的小批量输入向量；Wxi和Whi输入门的权重矩阵；bi为输入门的偏置项；Wxf和Whf为遗忘门的权重矩阵，bf为遗忘门的偏置项；为短期记忆需要计算的候选记忆细胞；Wxc和Whc为门控单元的权重矩阵；bc为门控单元的偏置项；Ct为当前时刻门控单元的状态；Ct-1表示上一次的单元状态；Wxo和Who为输入门的权重矩阵，bo为输入门的偏置项；
输出门Ot控制记忆细胞到隐藏状态的信息流动，得到最终输出为
；
为前向LSTM的最终结果，后向LSTM的最终结果为；其中中代表经由Bi-LSTM前向操作时基于用户服务综和时间特征在t时调用服务i产生的QoS预测值，则代表经由后向操作时用户服务综合时间特征在t时调用服务i产生的QoS预测值；
通过公式获得使用Bi-LSTM产生的结果值Bilstmt；
S404：注意力层操作，计算公式如下：
；；
再利用训练出的权重对隐藏层输出向量求加权平均和，计算公式为
；
其中,Bilstmt为最后Bi-LSTM隐藏层的输出，AtBilstmt为加入注意力机制后隐藏层的得分，αt为权重系数，Ct为加权求和后的结果，softmax为激活函数；
对于用户在时间序列k对整个算网融合中所提供的服务QoS预测，将Ct馈入全连接网络以预测缺失的QoS值，计算公式为:；
其中,是最终预测的服务QoS，W和b均为模型训练的预设的超参数。
8.根据权利要求1所述的算网融合环境下基于Bi-LSTM的服务QoS预测方法,其特征在于，S5中分配对应的权重系数的进行组合预测过程为：
S501:根据计算的比例进行权重赋值，针对与进行对比，计算公式为：和；
其中，ω1和ω2分别为S3和S4的服务QoS的预测结果的权重值，与分别为基于用户/服务相似邻居信息和AtBi-LSTM所得出的预测值；
于是，最终的QoS预测值：。
CN202310356312.5A 2023-04-06 2023-04-06 算网融合环境下基于Bi-LSTM的服务QoS预测方法 Active CN116132347B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310356312.5A CN116132347B (zh) 2023-04-06 2023-04-06 算网融合环境下基于Bi-LSTM的服务QoS预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310356312.5A CN116132347B (zh) 2023-04-06 2023-04-06 算网融合环境下基于Bi-LSTM的服务QoS预测方法

Publications (2)

Publication Number Publication Date
CN116132347A true CN116132347A (zh) 2023-05-16
CN116132347B CN116132347B (zh) 2023-06-27

Family

ID=86308444

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310356312.5A Active CN116132347B (zh) 2023-04-06 2023-04-06 算网融合环境下基于Bi-LSTM的服务QoS预测方法

Country Status (1)

Country Link
CN (1) CN116132347B (zh)

Citations (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6125105A (en) * 1997-06-05 2000-09-26 Nortel Networks Corporation Method and apparatus for forecasting future values of a time series
US6959265B1 (en) * 2003-10-07 2005-10-25 Serden Technologies, Inc. User-centric measurement of quality of service in a computer network
US7197038B1 (en) * 2002-10-21 2007-03-27 Sprint Communications Company L.P. Internetwork quality of service provisioning with reciprocal compensation
JP2010250377A (ja) * 2009-04-10 2010-11-04 Internatl Business Mach Corp <Ibm> リンク予測システム、方法及びプログラム
US20130290525A1 (en) * 2010-10-29 2013-10-31 Telefonaktiebolaget L M Ericsson (Publ) Service Performance in Communications Network
CN104601385A (zh) * 2013-10-31 2015-05-06 浙江大学 基于地理位置的WebService服务质量预测方法
CN105117325A (zh) * 2015-08-26 2015-12-02 湖南科技大学 一种基于随机游走的Web服务质量预测方法
CN107070704A (zh) * 2017-03-22 2017-08-18 东南大学 一种基于QoS的可信Web服务组合优化方法
US20180137412A1 (en) * 2016-11-16 2018-05-17 Cisco Technology, Inc. Network traffic prediction using long short term memory neural networks
WO2019056573A1 (zh) * 2017-09-25 2019-03-28 深圳大学 隐私保护协同Web服务质量的差分隐私预测系统及方法
WO2019056571A1 (zh) * 2017-09-25 2019-03-28 深圳大学 一种web服务质量预测方法
US20190109776A1 (en) * 2016-05-30 2019-04-11 Huawei Technologies Co., Ltd. Network device service quality detection method and apparatus
CN109873726A (zh) * 2019-03-07 2019-06-11 西安交通大学 Sdn中基于深度学习的鲁棒服务质量预测与保障方法
CN111327480A (zh) * 2020-03-02 2020-06-23 河海大学 移动边缘环境下的Web服务多元QoS监控方法
CN111553401A (zh) * 2020-04-22 2020-08-18 北京交通大学 一种应用在云服务推荐中基于图模型的QoS预测方法
CN112532429A (zh) * 2020-11-11 2021-03-19 北京工业大学 一种基于位置信息的多变量QoS预测方法
CN112564954A (zh) * 2020-11-30 2021-03-26 锐捷网络股份有限公司 一种网络质量的预测方法及装置
US20210314238A1 (en) * 2020-04-07 2021-10-07 Assia Spe, Llc Systems and methods for remote collaboration
US20210366025A1 (en) * 2020-05-25 2021-11-25 National University Of Defense Technology Item recommendation method based on user intention in session and system thereof
CN114168861A (zh) * 2021-12-07 2022-03-11 华东师范大学 一种基于时间感知的服务推荐方法
CN114721835A (zh) * 2022-06-10 2022-07-08 湖南工商大学 边缘数据中心服务器能耗预测方法、系统、设备及介质
CN114762295A (zh) * 2019-11-27 2022-07-15 谷歌有限责任公司 用于广播和多播通信的机器学习架构
DE102021100938A1 (de) * 2021-01-18 2022-07-21 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Vorrichtung zur Vorhersage von QoS-Daten für ein Funknetz
CN115102868A (zh) * 2022-05-27 2022-09-23 昆明理工大学 一种基于SOM聚类与深度自编码器的web服务QoS预测方法
CN115438249A (zh) * 2022-08-17 2022-12-06 武汉大学 QoS预测模型构建方法、装置、设备及可读存储介质
WO2022252251A1 (zh) * 2021-06-04 2022-12-08 浙江大学 服务网络环境下的服务质量预测方法
EP4113381A1 (en) * 2021-06-28 2023-01-04 Yasar Universitesi An end-to-end trainable feature selection-forecasting architecture for internet of things traffic forecasting to achieve predictive quality of service routing in software-defined networks
CN115632939A (zh) * 2022-12-23 2023-01-20 浩鲸云计算科技股份有限公司 一种实现算力网络多目标达成的自动选网选路的方法

Patent Citations (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6125105A (en) * 1997-06-05 2000-09-26 Nortel Networks Corporation Method and apparatus for forecasting future values of a time series
US7197038B1 (en) * 2002-10-21 2007-03-27 Sprint Communications Company L.P. Internetwork quality of service provisioning with reciprocal compensation
US6959265B1 (en) * 2003-10-07 2005-10-25 Serden Technologies, Inc. User-centric measurement of quality of service in a computer network
JP2010250377A (ja) * 2009-04-10 2010-11-04 Internatl Business Mach Corp <Ibm> リンク予測システム、方法及びプログラム
US20130290525A1 (en) * 2010-10-29 2013-10-31 Telefonaktiebolaget L M Ericsson (Publ) Service Performance in Communications Network
CN104601385A (zh) * 2013-10-31 2015-05-06 浙江大学 基于地理位置的WebService服务质量预测方法
CN105117325A (zh) * 2015-08-26 2015-12-02 湖南科技大学 一种基于随机游走的Web服务质量预测方法
US20190109776A1 (en) * 2016-05-30 2019-04-11 Huawei Technologies Co., Ltd. Network device service quality detection method and apparatus
US20180137412A1 (en) * 2016-11-16 2018-05-17 Cisco Technology, Inc. Network traffic prediction using long short term memory neural networks
CN107070704A (zh) * 2017-03-22 2017-08-18 东南大学 一种基于QoS的可信Web服务组合优化方法
WO2019056573A1 (zh) * 2017-09-25 2019-03-28 深圳大学 隐私保护协同Web服务质量的差分隐私预测系统及方法
WO2019056571A1 (zh) * 2017-09-25 2019-03-28 深圳大学 一种web服务质量预测方法
CN109873726A (zh) * 2019-03-07 2019-06-11 西安交通大学 Sdn中基于深度学习的鲁棒服务质量预测与保障方法
CN114762295A (zh) * 2019-11-27 2022-07-15 谷歌有限责任公司 用于广播和多播通信的机器学习架构
CN111327480A (zh) * 2020-03-02 2020-06-23 河海大学 移动边缘环境下的Web服务多元QoS监控方法
US20210314238A1 (en) * 2020-04-07 2021-10-07 Assia Spe, Llc Systems and methods for remote collaboration
CN111553401A (zh) * 2020-04-22 2020-08-18 北京交通大学 一种应用在云服务推荐中基于图模型的QoS预测方法
US20210366025A1 (en) * 2020-05-25 2021-11-25 National University Of Defense Technology Item recommendation method based on user intention in session and system thereof
CN112532429A (zh) * 2020-11-11 2021-03-19 北京工业大学 一种基于位置信息的多变量QoS预测方法
CN112564954A (zh) * 2020-11-30 2021-03-26 锐捷网络股份有限公司 一种网络质量的预测方法及装置
DE102021100938A1 (de) * 2021-01-18 2022-07-21 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Vorrichtung zur Vorhersage von QoS-Daten für ein Funknetz
WO2022252251A1 (zh) * 2021-06-04 2022-12-08 浙江大学 服务网络环境下的服务质量预测方法
EP4113381A1 (en) * 2021-06-28 2023-01-04 Yasar Universitesi An end-to-end trainable feature selection-forecasting architecture for internet of things traffic forecasting to achieve predictive quality of service routing in software-defined networks
CN114168861A (zh) * 2021-12-07 2022-03-11 华东师范大学 一种基于时间感知的服务推荐方法
CN115102868A (zh) * 2022-05-27 2022-09-23 昆明理工大学 一种基于SOM聚类与深度自编码器的web服务QoS预测方法
CN114721835A (zh) * 2022-06-10 2022-07-08 湖南工商大学 边缘数据中心服务器能耗预测方法、系统、设备及介质
CN115438249A (zh) * 2022-08-17 2022-12-06 武汉大学 QoS预测模型构建方法、装置、设备及可读存储介质
CN115632939A (zh) * 2022-12-23 2023-01-20 浩鲸云计算科技股份有限公司 一种实现算力网络多目标达成的自动选网选路的方法

Non-Patent Citations (7)

* Cited by examiner, † Cited by third party
Title
XIAOLONG LI等: "Performance Analysis of Delay Distribution and Packet Loss Ratio for Body-to-Body Networks", IEEE INTERNET OF THINGS JOURNAL, vol. 8, no. 2 *
卢凤;李海荣;韩艳;: "基于时空相似度感知的Web服务QoS协同过滤推荐", 计算机工程, no. 04 *
李小龙;张海玲;刘洋;: "基于动态网络分析的中国高绩效科研合作网络共性特征研究", 科技管理研究, no. 07 *
洪朝群;陈亮;冯怡鹏;吴健;: "一种融合反向交叉预测的QoS预测方法", 华中科技大学学报(自然科学版), no. 2 *
王珂;刘勇;: "基于用户位置与反向预测的QoS预测方法", 计算机工程与设计, no. 02 *
申利民;陈真;李峰;: "基于时序分析的Web服务QoS协同预测", 小型微型计算机系统, no. 09 *
马明杰;杜跃进;李凤华;刘佳文;: "基于语义的位置服务隐私保护综述", 网络与信息安全学报, no. 12 *

Also Published As

Publication number Publication date
CN116132347B (zh) 2023-06-27

Similar Documents

Publication Publication Date Title
Zhu et al. From federated learning to federated neural architecture search: a survey
CN112364242B (zh) 针对上下文感知型的图卷积推荐系统
Wang et al. A multitask learning-based network traffic prediction approach for SDN-enabled industrial internet of things
Joseph et al. Supervised compression of big data
CN113191530B (zh) 一种具有隐私保护的区块链节点可靠性预测方法及系统
Chen et al. Predicting quality of service via leveraging location information
CN116566842A (zh) 一种基于集中式的云边协同无线通信流量预测方法
Gao et al. A deep learning framework with spatial-temporal attention mechanism for cellular traffic prediction
Wang et al. QoS prediction of web services based on reputation-aware network embedding
Liu et al. Data adaptive functional outlier detection: Analysis of the Paris bike sharing system data
Chen et al. Locally differentially private high-dimensional data synthesis
Lin et al. Evolutionary search with multiple utopian reference points in decomposition‐based multiobjective optimization
CN116132347B (zh) 算网融合环境下基于Bi-LSTM的服务QoS预测方法
Hegedűs et al. Fully distributed robust singular value decomposition
Elmi et al. Feature selection method based on fuzzy entropy for regression in QSAR studies
CN117078312A (zh) 一种基于人工智能的广告投放管理方法及系统
Dulhare et al. An efficient hybrid clustering to predict the risk of customer churn
CN113256024B (zh) 一种融合群体行为的用户行为预测方法
Shi et al. A clonal selection optimization system for multiparty secure computing
Venugopal et al. A proficient web recommender system using hybrid possiblistic fuzzy clustering and Bayesian model approach
Cui et al. Deep Bayesian optimization on attributed graphs
CN115102868A (zh) 一种基于SOM聚类与深度自编码器的web服务QoS预测方法
CN114092269A (zh) 基于改进广义网络向量模型的时序数据预测方法及装置
Zhang et al. A novel hybrid forecasting system based on data augmentation and deep learning neural network for short-term wind speed forecasting
CN113590691A (zh) 目标对象处理方法以及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CB03 Change of inventor or designer information
CB03 Change of inventor or designer information

Inventor after: Huang Hua

Inventor after: Zhang Wei

Inventor after: Li Xiaolong

Inventor after: Li Chuang

Inventor after: Zhang Min

Inventor after: Yang Ziyi

Inventor before: Huang Hua

Inventor before: Yang Ziyi

Inventor before: Li Xiaolong

Inventor before: Li Chuang

Inventor before: Zhang Min

Inventor before: Zhang Wei