CN117274616A - 一种多特征融合深度学习服务QoS预测系统及预测方法 - Google Patents
一种多特征融合深度学习服务QoS预测系统及预测方法 Download PDFInfo
- Publication number
- CN117274616A CN117274616A CN202311248410.3A CN202311248410A CN117274616A CN 117274616 A CN117274616 A CN 117274616A CN 202311248410 A CN202311248410 A CN 202311248410A CN 117274616 A CN117274616 A CN 117274616A
- Authority
- CN
- China
- Prior art keywords
- feature
- service
- user
- fusion
- feature map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000004927 fusion Effects 0.000 title claims abstract description 157
- 238000000034 method Methods 0.000 title claims abstract description 85
- 238000013135 deep learning Methods 0.000 title claims abstract description 20
- 239000011159 matrix material Substances 0.000 claims abstract description 77
- 238000013528 artificial neural network Methods 0.000 claims abstract description 45
- 238000006243 chemical reaction Methods 0.000 claims abstract description 34
- 238000000605 extraction Methods 0.000 claims abstract description 26
- 238000013507 mapping Methods 0.000 claims description 129
- 239000013598 vector Substances 0.000 claims description 80
- 238000010586 diagram Methods 0.000 claims description 38
- 238000012549 training Methods 0.000 claims description 24
- 230000008569 process Effects 0.000 claims description 21
- 230000006870 function Effects 0.000 claims description 10
- 230000009466 transformation Effects 0.000 claims description 7
- 238000011478 gradient descent method Methods 0.000 claims description 6
- 239000012530 fluid Substances 0.000 claims description 4
- 230000009467 reduction Effects 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 239000010410 layer Substances 0.000 description 165
- 230000004044 response Effects 0.000 description 14
- 238000001914 filtration Methods 0.000 description 10
- 238000002474 experimental method Methods 0.000 description 8
- 238000013461 design Methods 0.000 description 6
- 238000000354 decomposition reaction Methods 0.000 description 5
- 230000000052 comparative effect Effects 0.000 description 3
- 230000007423 decrease Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 238000002679 ablation Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000011229 interlayer Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Medical Informatics (AREA)
- Computational Linguistics (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种多特征融合深度学习服务QoS预测系统及预测方法,该方法包括:获取用户潜在特征矩阵及服务潜在特征矩阵,并进行初始化,将初始化后的用户潜在特征矩阵和服务潜在特征矩阵经过深度神经网络提取特征图,得到用户特征图和服务特征图;将特征图提取过程中的数据流经过特征转化块处理,与用户特征图/服务特征图归并处理,分别得到用户融合特征图/服务融合特征图;将用户融合特征图及服务融合特征图通过训练后的多特征融合QoS预测网络,得到QoS预测值,提高预测准确度。
Description
技术领域
本发明涉及一种多特征融合深度学习服务QoS预测系统及预测方法,属于技术领域。
背景技术
随着服务计算的快速发展,不同的服务提供商提供了大量功能相似的服务,这增加了为用户推荐适当服务的难度。如何从众多的相似候选服务中选择最合适的服务成为一个关键的问题。在这种情况下,服务质量(Quality of Service,QoS)成为了服务选择和推荐的重要参考。服务计算中经常使用QoS来描述服务的非功能属性,例如吞吐量、响应时间及成本等。不同的用户通常网络状态、地理位置和个人偏好也互不相同,因此他们调用同一个服务的QoS也会有所不同。由于服务的数量过于庞大,用户不可能调用所有的服务,许多服务的QoS是未知的。因此,如何准确预测未知的QoS在服务推荐中起着至关重要的作用。
随着服务计算的快速发展,服务数量不断增加,在众多功能相似的服务中,用户很难选择符合其需求的候选服务。QoS是用于描述服务非功能属性的一组参数,是服务计算中经常使用的用来评价服务性能的关键指标。由于用户信息,如网络状态、个人偏好等的不确定性,不同用户调用同一个服务时,对服务的QoS评价值(简称QoS值)也会有较大的差异。对于使用过的服务,用户可以通过其历史QoS记录来进行评估。而对于未调用过的服务,用户将无法获取该服务的QoS值,从而判断它的性能。如何对服务的QoS值进行准确的预测,帮助用户选择更优质更合适的服务成为了主要挑战之一。
发明内容
本发明的目的在于克服现有技术中的不足,提供一种多特征融合深度学习服务QoS预测系统及预测方法,提高服务QoS预测的准确度。
为达到上述目的,本发明所采用的技术方案是:
第一方面,本发明提供一种多特征融合深度学习服务QoS预测方法,包括如下步骤:
获取用户潜在特征矩阵及服务潜在特征矩阵,并进行初始化;
将初始化后的用户潜在特征矩阵和服务潜在特征矩阵经过深度神经网络提取特征图,得到用户特征图和服务特征图;
将特征图提取过程中的数据流经过特征转化块处理,与用户特征图/服务特征图归并处理,分别得到用户融合特征图/服务融合特征图;
将用户融合特征图及服务融合特征图通过训练后的多特征融合QoS预测网络,得到QoS预测值。
结合第一方面,进一步的,所述深度神经网络包括特征映射块和特征推理块,
所述特征映射块对用户潜在特征矩阵中的用户潜在特征向量集,或服务潜在特征矩阵中的服务潜在特征向量集进行升维,得到高维的用户特征图或服务特征图;
所述特征推理块对用户特征图或服务特征图进行降维,得到用户推理特征向量或服务推理特征向量,
通过用户推理特征向量或服务推理特征向量对深度神经网络训练迭代至预设迭代次数,获得训练完成的深度神经网络。
进一步的,所述将特征图提取过程中的数据流经过特征转化块处理包括:
将用户潜在特征向量集或服务潜在特征向量集输入特征映射块,获得特征映射块中第一层特征映射流和中间层特征映射流;
将第一层特征映射流输入特征转化块,经过特征映射块中若干层全连接层,及形状变换操作,得到转化后的第一层特征映射流;
将转化后的第一层特征映射流和中间层特征映射流进行归并,经过特征映射块中若干层卷积层,得到用户映射特征图或服务映射特征图;
将用户特征图或服务特征图输入特征推理块,获得特征推理块中第一层特征推理流和中间层特征推理流;
将第一层特征推理流和中间层特征推理流输入特征转化块,得到用户推理特征图或服务推理特征图。
进一步的,得到所述用户融合特征图/服务融合特征图的过程包括:
将用户推理特征图与用户特征图及用户映射特征图归并处理,得到用户融合特征图或服务融合特征图;
将服务推理特征图与服务特征图及服务映射特征图归并处理,得到用户融合特征图或服务融合特征图。
进一步的,所述多特征融合QoS预测网络包括一层卷积层和若干层全连接层,
所述卷积层用于将用户融合特征图和服务融合特征图转换为一维向量;
所述若干层全连接层用于对一维向量进行学习,得到QoS预测值。
进一步的,所述多特征融合QoS预测网络的训练过程包括:
将特征图提取过程中的数据流经过特征转化块处理,与用户特征图/服务特征图连接,分别得到用户融合特征图/服务融合特征图;
将用户融合特征图及服务融合特征图通过多特征融合QoS预测网络,输出当前QoS预测值;
若多特征融合QoS预测网络当前迭代次数小于设定最大迭代次数,利用随机梯度下降法对特征转化块和多特征融合QoS预测网络的参数进行更新,输出更新后的QoS预测值;
若多特征融合QoS预测网络当前迭代次数等于设定最大迭代次数,停止训练,将此时更新过参数的多特征融合QoS预测网络作为训练完成的多特征融合QoS预测网络。
进一步的,所述多特征融合QoS预测网络的参数的更新采用最小绝对偏差作为损失函数。
第二方面,本发明提供一种多特征融合深度学习服务QoS预测系统,所述系统包括:
初始化模块:用于对用户潜在特征矩阵及服务潜在特征矩阵进行初始化;
提取模块:用于通过设计深度神经网络对初始化后的用户潜在特征矩阵和服务潜在特征矩阵提取特征图,得到用户特征图/服务特征图;
融合模块:用于对特征图提取过程中的数据流经过特征转化块处理,与用户特征图/服务特征图归并处理,得到用户融合特征图/服务融合特征图;
预测模块:用于通过设计服务QoS预测神经网络对用户融合特征图及服务融合特征图进行训练,得到QoS预测值。
第三方面,本发明提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时,实现上述任一所述预测方法。
第四方面,本发明提供一种计算机设备,包括:
存储器,用于存储指令;
处理器,用于执行所述指令,使得所述设备执行实现上述任一所述预测方法的操作。
与现有技术相比,本发明所达到的有益效果:
本发明提供的深度神经网络用于增强特征提取的能力,提高特征的可靠性;通过深度神经网络中的特征映射块对用户潜在特征向量/服务潜在特征向量进行升维,得到更高维的用户特征图/服务特征图;以及通过特征推理块对用户特征图/服务特征图进行降维,获得用户推理特征向量及服务的推理特征向量来对网络进行训练。
本发明设计了特征转化块,有效解决在特征映射和特征推理过程中出现的特征信息损失的问题。在提取用户特征图/服务特征图之后,将特征映射和特征推理的深度神经网络中的特征映射块的第一层和中间层的多个输出,经过特征转化块的处理后,与用户特征图/服务特征图进行连接,对特征进行补偿,获得用户融合特征图/服务融合特征图,有效提高特征的可靠性。
本发明提供的多特征融合QoS预测网络对用户融合特征图及服务融合特征图进行融合,该多特征融合QoS预测网络由卷积层和若干层全连接层构成,通过将用户和服务的融合特征图同时输入进卷积层,将该图转换为一维向量,再通过全连接层对特征进行学习,进一步提高特征的可靠度和服务QoS预测的准确度。
附图说明
图1是本发明实施例提供的特征之间的关系图;
图2是本发明实施例基于特征映射和特征推理的多特征融合深度学习服务QoS预测方法流程图;
图3是本发明实施例提供的特征映射和特征推理的深度神经网络结构图;
图4是本发明实施例提供的用户融合特征获取过程流程图;
图5是本发明实施例提供的多特征融合QoS预测流程图;
图6是本发明实施例提供的提出的多特征融合QoS预测系统的训练流程图;
图7是本发明实施例提供的本发明预测系统的预测过程流程图;
图8是本发明实施例提供的用户的原始特征向量维度/服务的原始特征向量维度对预测准确度的影响树状图,其中(a)为不同维度对响应时间中MAE指标的影响,(b)为不同维度对响应时间中RMSE指标的影响;
图9是本发明实施例提供的特征映射/推理块中网络层数对预测准确度的影响树状图,其中(a)为特征映射/推理块中不同网络层数对响应时间中MAE指标的影响,(b)为特征映射/推理块中不同网络层数对响应时间中RMSE指标的影响;
图10是本发明实施例提供的多特征融合QoS预测网络全连接层数对预测准确度的影响树状图,其中(a)为全连接层数对响应时间中MAE指标的影响,(b)为全连接层数对响应时间中RMSE指标的影响;
图11是本发明实施例提供的相似用户数量/相似服务数量对预测准确度的影响树状图,其中(a)为相似用户数量/相似服务数量对响应时间中MAE指标的影响,(b)为相似用户数量/相似服务数量对响应时间中RMSE指标的影响。
具体实施方式
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
许多应用程序以互联网为中心,为客户提供安全快捷的服务。通常一个用户可以调用一组服务,而一个服务可以由不同的用户调用。由于服务的数量不断增加,出现了众多功能相似的服务,用户很难直接选择出符合个性需求的候选服务。在这种情况下,可以通过比较服务的QoS来获得更好的选择。用户每次调用一个服务,便会反馈服务调用时的QoS值,用来表示用户观察到的服务性能。通过收集用户观察到的QoS值,构造用户-服务QoS原始矩阵Q,如表1所示。
表1:
s1 | s2 | s3 | s4 | s5 | |
u1 | 1.984 | 0.301 | 0.256 | ||
u2 | 6.892 | 0.276 | 0.364 | ||
u3 | 0.264 | 0.255 | 0.255 |
在表1所示矩阵中,行表示用户,列表示服务,已知项表示该行用户对该列服务反馈的QoS值,缺失项表示该行用户还未使用过该列服务。由于QoS值受到用户信息和服务特性的影响,可以通过已有的QoS值来预测缺失的QoS值。
本发明针对目前方法特征提取不够准确的问题,设计一种新的神经网络系统进行QoS预测,本发明基于卷积神经网络的特征映射和特征推理方法,提取用户和服务的深层特征,为了进一步提高预测准确度,基于深度神经网络进行多特征融合,以获得所需要的QoS值。
本发明提出的一种多特征融合深度学习服务QoS预测系统,该系统包括:
初始化模块:用于对用户潜在特征矩阵及服务潜在特征矩阵进行初始化;
提取模块:用于通过设计深度神经网络对初始化后的用户潜在特征矩阵和服务潜在特征矩阵提取特征图,得到用户特征图/服务特征图;
融合模块:用于对特征图提取过程中的数据流经过特征转化块处理,与用户特征图/服务特征图归并处理,得到用户融合特征图/服务融合特征图;
预测模块:用于通过设计服务QoS预测神经网络对用户融合特征图及服务融合特征图进行训练,得到QoS预测值。
本发明所涉及到的特征之间的关系如图1所示,涉及的基本概念主要如下:
1)特征映射:通过神经网络将二维特征映射到高维特征图。
2)特征推理:从映射得到的高维特征图提取用户和服务的特征。
3)用户的潜在特征矩阵:通过对用户-服务QoS原始矩阵Q进行非负矩阵分解(Non-negative Matrix Factorization,NMF)后得到用户的潜在特征矩阵U,包含了所有用户的潜在特征。
4)服务的潜在特征矩阵:通过对用户-服务QoS原始矩阵Q进行非负矩阵分解后得到服务的潜在特征矩阵S,分别包含了所有服务的潜在特征。
5)用户的潜在特征向量:为U中的一列。即:U的第i列记为Ui,表示用户i的潜在特征向量。
6)服务的潜在特征向量:为S中的一列。即:S的第j列记为Sj,表示服务j的潜在特征向量。
7)用户的相似特征向量集:由相似用户的潜在特征向量构成。即:用户i的相似用户的潜在特征向量构成了用户i的相似特征向量集
8)服务的相似特征向量集:由相似服务的潜在特征向量构成。即:服务j的相似服务的潜在特征向量构成了服务j的相似特征向量集
9)用户的推理特征向量:由用户的相似特征向量集送入特征映射和特征推理的深度神经网络而得到的向量。如:将输入特征映射和特征推理的深度神经网络,其中的特征推理块输出用户i的推理特征向量U′i。
10)服务的推理特征向量:由服务的相似特征向量集送入特征映射和特征推理的深度神经网络而得到的向量。如:将输入进特征映射和特征推理的深度神经网络,其中的特征推理块输出服务j的推理特征向量Sj′。
11)特征映射流:在特征映射和特征推理的深度神经网络(Feature Mapping andFeature Inference Network,FMFINet)中,特征映射块某一层的输出的特征。以用户i为例,将输入进特征映射和特征推理的深度神经网络,特征映射块中第一层卷积层输出第一层特征映射流e1,中间层卷积层输出中间层特征映射流eM。
12)特征推理流:在特征映射和特征推理的深度神经网络中,特征推理块中某一层的输出的特征。特征推理块中第一层全连接层输出第一层特征推理流d1,特征推理块的中间层全连接层输出中间层特征推理流dM。
13)用户特征图:由特征映射块得到最后层的二维用户特征,可以被特征推理块转换为一维的用户特征。将用户i的相似特征向量集输入进特征映射和特征推理的深度神经网络,特征映射块最后一层输出用户i的特征图
14)服务特征图:由特征映射块得到最后层的二维服务特征,可以被特征推理块转换为一维的服务特征。将服务j的相似特征向量集输入进特征映射和特征推理的深度神经网络,特征映射块最后一层输出服务j的特征图
15)特征转化块:由两层全连接层和两层卷积层构成。通过特征转化块对第一层特征映射/推理流和中间层特征映射/推理流进行进一步的处理,转化为与用户特征图/服务特征图相同大小的二维特征图,从而能够与用户特征图/服务特征图进行归并,一起输入到网络进行进一步的预测。
16)映射特征图:将第一层特征映射流和中间层特征映射流输入进特征转化块中,输出的二维特征。以用户i为例,将第一层特征映射流e1和中间层特征映射流eM输入进特征转化块中,经过若干层全连接层和卷积层得到用户i的映射特征图服务j的映射特征图的获取与用户i类似。
17)推理特征图:将第一层特征推理流和中间层特征推理流输入进特征转化块中,输出的二维特征。以用户i为例,将第一层特征推理流d1和中间层特征推理流dM输入进特征转化块中,经过若干层全连接层和卷积层得到用户i的推理特征图服务j的推理特征图的获取与用户i类似。
18)用户融合特征图:将用户的特征图、映射特征图、推理特征图进行归并获得的特征。将进行归并,获得用户i的融合特征图
19)服务融合特征图:将服务的特征图、映射特征图、推理特征图进行归并获得的特征。将进行归并,获得服务j的融合特征图
如图2所示,为本发明提供的基于特征映射和特征推理的一种多特征融合深度学习服务QoS预测方法流程图,主要分为两个阶段:基于特征映射和特征推理的深度神经网络的特征图获取;基于用户融合特征图/服务融合特征图的服务QoS预测神经网络设计、训练与预测。
实施例一:
本实施例基于特征映射和特征推理,获取深度神经网络的特征图,具体过程包括:
步骤1:进行用户潜在特征矩阵/服务潜在特征矩阵的初始化。
本发明使用非负矩阵分解对用户潜在特征向量/服务潜在特征向量进行初始化。非负矩阵分解将用户-服务QoS原始矩阵分解为两个低秩矩阵和分别表示用户的潜在特征矩阵/服务的潜在特征矩阵。其中qij∈Q为用户i对服务j的原始QoS值,U的每一列Ui即为用户i的潜在特征向量,S的每一列Sj即为服务j的潜在特征向量,m为用户数量,n为服务数量,l为用户潜在特征向量维度/服务潜在特征向量维度。
非负矩阵分解需要寻找合适的U和S,使它们的乘积最接近用户-服务QoS原始矩阵Q,如式(1)所示:
Q≈UTS (1)
为了获得最合适的U和S,本发明通过最小化以下目标函数来使U和S的乘积逼近Q:
式(2)中,||·||F为Frobenius范数,用于计算原始QoS值和之间的误差。由于式(2)为非凸目标函数,很难找到全局最小值,本发明采用随机梯度下降法求次优解:
式(4)中,γ为迭代过程中控制梯度下降快慢的学习率。
步骤2:设计包括特征映射和特征推理的深度神经网络。
由于一维的用户特征区/服务特征区分度较低,很难进一步挖掘有用的信息,为了能够提高用户特征/服务特征的区分度,本发明将用户特征映射/服务特征映射到更高维的二维空间,设计一种特征映射和特征推理的深度神经网络提高用户特征表达/服务特征表达的性能。由于用户和服务的特征图提取使用的特征映射和特征推理的深度神经网络结构相同,本发明以用户为例,给出了特征映射和特征推理的深度神经网络的结构。
如图3所示,为本发明实施例提供的特征映射和特征推理的深度神经网络结构图,该深度神经网络由两部分组成:特征映射块和特征推理块,分别用于特征映射和特征推理。
图3中,用户i的相似特征向量集为网络的输入,ek为特征映射块中第k层卷积层的输出,dk为特征推理块中第k层全连接层的输出,k∈{1,2,…,L}。特征映射块最后一层输出用户i的高维特征图特征推理块最后一层输出用户i的推理特征向量U′i。
2.1)基于特征映射块的用户特征图提取
本发明使用相似用户(包括自身)的特征来进行学习,获得用户特征图,避免仅使用单个用户的特征可能会忽略掉一些用户信息。
目前,已有许多相似度度量方法来计算两个用户或服务之间的相似度,如皮尔逊相关系数(Pearson correlation coefficient,PCC)、向量余弦法、Jaccard系数等。由于PCC高效快捷,同时在计算相似度时考虑了用户的个性化差异,在推荐系统中得到了广泛的应用,本发明使用PCC计算不同用户之间的相似度,如式(5)所示:
式(5)中,Similarity(i,a)为用户i和a的相似度,Gi和Ga分别表示用户i和用户a使用的服务集合,G=Gi∩Ga,,qif和qaf分别表示用户i和用户a观察到的服务f的QoS值,和分别表示用户i和用户a观察到的所有服务的平均QoS值。Similarity(i,a)的变化范围为[-1,1],值越大表示两个用户越相似。
计算完用户相似度之后,选择与用户i相似度最高的K个用户,将他们的潜在特征向量构成用户i的相似特征向量集
使用特征映射块对用户i的相似特征向量集进行升维,获得二维用户特征图。特征映射块包括L层卷积层,L的大小可以通过参数设置来确定。将用户i的特征向量Ui输入进特征映射块,然后经过L层卷积层,输出用户i的高维特征图具体过程如式(6)~式(8)所示:
ek=conv(ek-1,Wk,Bk,Sk),k∈{1,2,…,L} (7)
式(6)中,e0为特征映射块的输入。式(7)中,ek为特征映射块中第k层卷积层的输出,Wk、Bk和Sk分别为特征映射块中第k层卷积层的权重矩阵、偏置和步长,conv()为卷积运算。图3中的特征映射块的最后一层输出用户i的特征图
2.2)基于特征推理块的用户特征图降维
使用特征推理块对用户特征图进行降维,获得用户的推理特征向量,通过用户的推理特征向量来对网络进行训练。
特征推理块包括L层全连接层。将上述获得的用户i的特征图输入进特征推理块中,经过L层全连接层,得到用户的推理特征向量U′i,具体过程如式(9)~式(11)所示:
dk=φ(ωkdk-1+λk),k∈{1,2,…,L} (10)
U′i=dL (11)
式(9)中,d0为特征推理块的输入。式(10)中,dk为特征推理块中第k层全连接层的输出,ωk和λk分别表示第k层的权重和偏置,φ()为激活函数ReLU(RectifiedLinearUnit,ReLU),即φ(x)=max(0,x)。最后一层输出用户i的推理特征向量U′i。
该模型的参数训练过程中采用均方误差(Mean Square Error,MSE)作为损失函数,如式(12)所示:
为了优化式(7)和(10)中的参数,采用随机梯度下降法来进行训练该特征映射和特征推理的深度神经网络,使损失最小化,如式(13)~式(16)所示:
当网络的迭代次数达到最大迭代次数时,获得训练完成的特征映射和特征推理的深度神经网络,输出用户i的最终的特征图
服务j的特征图的提取过程与用户特征图的提取类似,可以采用以上步骤进行提取。
步骤3:多特征融合
由于特征映射和特征推理的深度神经网络在进行特征提取的时候,会损失一部分特征信息,本发明为了充分利用用户/服务特征在特征映射和特征推理过程中的冗余信息,提高预测准确度,在提取用户特征图/服务特征图之后,通过使用特征映射和特征推理的深度神经网络处理用户服务过程中产生的数据流,经过特征转化块的处理后,与用户特征图/服务特征图进行连接,对特征进行补偿,获得用户融合特征图/服务融合特征图来进一步提高特征的可靠性。通过多特征融合QoS预测网络对多特征进行融合和学习,获得最终的QoS预测值。
由于特征转化块只用于进行维度转换,因此本实施例中仅使用了两层全连接层和两层卷积层。
3.1)用户融合特征图获取
以用户i为例,用户i的融合特征图的获取过程如图4所示,其中为归并操作,为形状变换操作,用户融合特征图获取过程步骤如下:
a)将用户i的相似特征向量集输入进特征映射块,获得特征映射块中第一层卷积层的输出e1(即第一层特征映射流)和中间层的输出eM(即中间层特征映射流)。其中,M计算如式(17)所示:
在式(17)中,M为中间层特征映射流的层数,L为特征映射块的层数。
b)将第一层特征映射流e1输入进特征转化块,经过两层全连接层,通过形状变换操作,将一维特征转换成二维特征,获得转化后的第一层特征映射流e1',如式(18)所示:
e1'=(φ(η2(φ(η1e1+θ1))+θ2)) (18)
式(18)中,η1和η2分别为第一层和第二层全连接层的权重,θ1和θ2分别为第一层和第二层全连接层的偏置,为形状变换操作。
c)将e1'和中间层特征映射流eM进行归并,输入进两层卷积层中,输出用户i的映射特征图
式(19)中,Y1和Y2分别为第一层和第二层卷积层的权重矩阵,C1和C2分别为第一层和第二层卷积层的偏置,T1和T2分别为第一层和第二层卷积层的步长,为归并操作。
d)因为特征推理所用的特征转化块与特征映射相同,将特征推理块中第一层全连接层的输出d1(即第一层特征推理流)和中间层的输出dM(即中间层特征推理流)输入进特征转化块,输出用户i的推理特征图
d1'=(φ(η2(φ(η1d1+θ1))+θ2)) (20)
e)将获得的用户i的映射特征图用户i的推理特征图和用户i的特征图进行归并,得到最终的用户i的融合特征图
3.2)服务融合特征图获取
服务j的融合特征图的获取过程与用户类似。首先将服务j的特征向量Sj输入进特征映射块,获得第一层特征映射流和中间层特征映射流,通过特征转化块对其进行转换,获得服务j的映射特征图再将服务特征图输入进特征推理块,获得第一层特征推理流和中间层特征推理流,通过特征转化块对其进行转换,获得服务j的推理特征图最后将服务j的特征图、映射特征图和推理特征图进行归并获得融合特征图
实施例二:
本实施例进行基于用户融合特征图/服务融合特征图的服务QoS预测神经网络的设计、训练与预测,具体过程如下:
1)进行多特征融合QoS预测网络设计
为了对服务质量进行预测,提出一个多特征融合QoS预测网络,通过对用户融合特征图/服务融合特征图进行学习,最终输出QoS预测值,该多特征融合QoS预测网络结构如图5所示,由一层卷积层和R层全连接层构成。先将用户i的融合特征图和服务j的融合特征图一起输入进卷积层,将它转换为一维向量,再通过R层全连接层对特征进行学习,最后输出服务QoS预测值。
多特征融合QoS预测网络的前馈过程如式(23)~式(25)所示:
y1=conv(y0,V,D,E) (24)
yk=φ(αkyk-1+βk),k∈{2,3,…,R+1} (25)
式(23)中,y0为网络的输入。式(24)中,V为卷积层的权重矩阵,D为卷积层的偏置,E为卷积层的步长。式(25)中,yk为网络第k层的输出,αk和βk分别表示第k层的权重和偏置,R为全连接层层数。最后一层的输出yR+1即为QoS预测值
2)进行多特征融合QoS预测网络的训练和预测,具体包括如下过程:
a)训练
为了对QoS进行预测,需要对特征转化块和多特征融合QoS预测网络进行训练,如图6所示,具体过程如下:
i.通过特征转化块分别获取用户映射/推理特征图和服务的映射/推理特征图,分别与用户和服务的特征图进行融合,获得用户和服务的融合特征图。将用户和服务的融合特征图同时输入进多特征融合QoS预测网络中,输出当前的QoS预测值。
ii.当网络当前的迭代次数t小于最大迭代次数T,则利用随机梯度下降法对特征转化块和多特征融合QoS预测网络的参数进行更新,进入新一轮训练。
iii.当网络的迭代次数t达到最大迭代次数T,则停止训练,获得训练完成的网络。
该模型的参数训练过程中采用最小绝对偏差(Least Absolute Deviations,LAD)作为损失函数,如式(26)所示:
为了优化网络中的参数,采用随机梯度下降法来进行训练该多特征融合QoS预测网络,使损失最小化,与式(3)~式(4)类似。
b)预测
本发明提供的一种多特征融合深度学习服务QoS预测系统的预测过程如图7所示,以预测用户i对服务j的QoS值为例,在获得训练完成的模型之后,首先将用户i的相似特征向量集和服务j的相似特征向量集分别同时输入进两个特征映射和特征推理的深度神经网络中,获得用户i的融合特征图和服务j的融合特征图其次将获得的融合特征图输入进多特征融合QoS预测网络,最后输出用户i对服务j的QoS预测值
基于特征映射和特征推理的多特征融合深度学习服务QoS预测系统的算法流程包括:基于FMFINet的用户特征图提取和多特征融合/服务特征图提取和多特征融合(算法1)和基于用户融合特征图/服务融合特征图的服务QoS预测(算法2);
通过算法1获得用户融合特征图/服务融合特征图,将其作为算法2的输入,通过多特征融合QoS预测网络返回用户对云服务的QoS预测值;
算法1以用户i为例给出了基于FMFINet的用户特征图提取和多特征融合/服务特征图提取和多特征融合,具体算法过程如下:
本发明关于算法1的说明如下:
1)计算中间层的序号(第1~5行)。
2)通过特征映射块中L层卷积层提取第一层特征映射流和中间层特征映射流(第6~9行),以及用户i的特征图(第10行)。
3)通过特征推理块中L层全连接层提取第一层特征推理流和中间层特征推理流(第11~14行),以及用户i的推理特征向量(第15行)。
4)通过特征转化块中两层全连接层,将第一层特征映射流进行形状变化,获得转化后的第一层特征映射流(第16行),再将其与中间层特征映射流归并,通过两层卷积层获得用户i的映射特征图(第17行)。
5)通过特征转化块中两层全连接层,将第一层特征推理流进行形状变化,获得转化后的第一层特征推理流(第18行),再将其与中间层特征推理流归并,通过两层卷积层获得用户i的推理特征图(第19行)。
6)将获得的用户i的映射特征图用户i的推理特征图和用户i的特征图进行归并,得到最终的用户i的融合特征图并返回(第20~21行)。
服务j的融合特征图的获取与算法1类似。在获得用户融合特征图/服务融合特征图之后,通过多特征融合QoS预测网络来进行QoS预测,具体算法2如下所示:
本发明关于算法2的说明如下:
1)将用户i的融合特征图和服务j的融合特征图进行归并,作为多特征融合QoS预测网络的输入(第1行)。
2)通过一层卷积层将输入转换为一维向量(第2行),再通过R层全连接层对特征进行学习(第3~5行),最后输出并返回服务QoS预测值(第6行)。
实施例三:
本实施例进行参数设置和方法比较,具体实验参数设置如表2所示。
表2:
在VI-D中,本发明通过实验在以上设置的参数范围中确定使多特征融合深度学习服务QoS预测系统性能最优的参数,网络中所有参数的初始值使用随机数确定。在VI-G中使用最优参数对多特征融合深度学习服务QoS预测系统性能进行评估。
为了评估本发明提供的多特征融合深度学习服务QoS预测系统,与以下典型方法进行了比较:
1)UPCC(User-based CF using Pearson correlation coefficient):该方法是一种基于用户的协同过滤算法,使用PCC计算用户相似度,利用其他用户的有关相似性的数据,来预测用户缺失的QoS值。
2)IPCC(Item-based CF using Pearson correlation coefficient):该方法是一种基于服务的协同过滤算法,使用PCC计算服务相似度,利用其他服务的有关相似性的数据,来预测服务缺失的QoS值。
3)UIPCC(Hybrid user-based and item-based CF using Pearson correlationcoefficient):该方法是一种混合的协同过滤方法,利用相似用户和相似服务的数据进行QoS预测。
4)NMF:该方法是一种经典的基于模型的协同过滤方法,使用非负矩阵分解来预测QoS值。
5)PMF(Probabilistic matrix factorization):该方法是一种经典的基于模型的协同过滤方法,使用概率矩阵分解来预测QoS值。
6)SPP+LLMF(Similarity-maintaining privacy preservation with location-aware low-rank matrix factorization):该方法是一种相似性维护隐私保护策略,旨在保护用户的隐私,同时利用一种位置感知低秩矩阵分解算法进行QoS预测。
7)NDMF(Neighborhood-integrated deep matrix factorization):该方法是一种基于深度神经网络的QoS预测协同过滤方法,通过复杂的非线性交互函数揭示用户和服务的隐含特征,通过融合用户地理信息和用户服务调用记录找出用户领域来预测QoS值。
8)CNMF(Covering-based web service quality prediction vianeighborhood-aware matrix factorization):该方法是一种基于邻域感知矩阵分解的QoS协同过滤方法,将用户和服务的邻居信息整合到矩阵分解模型中进行QoS预测。
9)LDCF(Location-aware deep collaborative filtering):该方法是一种新的服务推荐深度协同过滤方法,将多层感知机与相似性自适应校正器集成在一起,学习高维非线性交互以及用户与服务之间的位置相关性来预测QoS值。
在四个不同矩阵密度(5%、10%、15%、20%)下,比较了10种方法的MAE和RMSE。其中UPCC、IPCC、UIPCC、NMF和PMF经常作为QoS预测的基准方法,SPP+LLMF、NDMF、CNMF、LDCF为近年来基于协同过滤的先进方法。
表3为不同预测方法的响应时间的MAE和RMSE,表4为不同预测方法的吞吐量的MAE和RMSE。
表3:
表4:
表3给出了10种方法响应时间的MAE和RMSE。在矩阵密度为5%的情况下,FMFINet只在MAE上比LDCF下降了1.14%,但在RMSE上提升了5.97%,同时优于LDCF以外的其他9种方法。在其他的矩阵密度下,FMFINet在预测准确度方面优于其他方法4.36%至10.36%。
表4给出了10种方法的吞吐量的MAE和RMSE。FMFINet的吞吐量比其他方法高4.34%到24.68%。从表3和表4可以看出,对于不同的QoS属性(响应时间和吞吐量),FMFINet在比较方法中实现了最高的预测精度。在不同的矩阵密度下也达到了最好的效果。随着矩阵密度的增加,预测精度会提高,因为更多数据可以用于训练更准确的模型,从而提高预测精度。
具体可实施的,本发明设置实验环境为AMD Ryzen 7 5800X CPU@3.8GHz Windows10 64bit,采用Python 3.7和Pytorch 1.8.0进行编程实现。
为了评估QoS深度学习预测模型的性能,对真实QoS数据集WS-DREAM进行了实验。该真实QoS数据集WS-DREAM包括5825个Web服务上339个用户的1,947,675条调用的QoS记录,包括吞吐量和响应时间。该真实QoS数据集WS-DREAM在QoS预测工作中被广泛使用。
令μ为矩阵密度,即:
μ=ξ/|Q|×100% (27)
ξ为用户-服务原始矩阵Q中已知项的个数.|Q|是Q中所有项的个数。
在矩阵密度分别为5%、10%、15%、20%的情况下进行实验,将不同矩阵密度下的已知项作为训练集,随机选择每个密度下的200000个数据作为测试集。
评价指标采用平均绝对误差(MAE)和均方根误差(RMSE)作为评价预测结果质量的指标,它们是QoS预测工作中使用最广泛的评价指标,如式(28)~式(29)所示:
式(28)~式(29)中,qij为用户i对服务j的原始QoS值,为QoS预测系统得出的用户i对服务j的QoS预测值,N为需要预测的QoS的个数。MAE为误差绝对值的平均值,可以表示预测值与真实值之间的平均距离,它的值越小,说明QoS预测越准确。RMSE是预测值与真实值之间偏差的平方和均值的平方根,值越小,说明QoS预测误差幅度越小。
实施例四:
为了研究映射特征图和推理特征图对QoS预测系统的影响,本实施例进行了消融实验,比较以下四种不同设置:
1)用户特征图/服务特征图:只使用用户特征图/服务特征图进行QoS预测。
2)用户特征图+映射特征图/服务特征图+映射特征图:只融合用户特征图/服务特征图和映射特征图和获得用户融合特征图/服务融合特征图进行QoS预测。
3)用户特征图+推理特征图/服务特征图+推理特征图:只融合用户特征图/服务特征图和推理特征图获得用户融合特征图/服务融合特征图进行QoS预测。
4)用户特征图+映射特征图+推理特征图/服务特征图+映射特征图+推理特征图:融合用户特征图、映射特征图和推理特征图/服务特征图、映射特征图和推理特征图获得用户融合特征图/服务融合特征图进行QoS预测,即本发明提出的模型。
表5为在矩阵密度为15%的情况下四种设置的MAE和RMSE。
表5:
从表5可以看出,从第一行到第四行,响应时间和吞吐量的MAE和RMSE都逐渐下降。因此,融合三种特征能获得最好的结果。这是由于在特征映射和特征推理的过程中,会损失一部分特征信息,从而降低特征的可靠性,进而影响QoS预测准确度。
本发明通过融合用户特征图、映射特征图和推理特征图/服务特征图、映射特征图和推理特征图,可以充分利用特征映射和特征推理过程中的冗余信息,对特征进行补偿,获得用户融合特征图/服务融合特征图来进一步提高特征的可靠性,提高预测准确度。通过以上消融实验可以看出,不同的特征有助于预测结果的提升。因此,使用所有特征的模型在QoS预测准确度方面达到最优。
实施例五:
本发明提供一种计算机设备,包括存储器,用于存储指令;
处理器,用于执行所述指令,使得所述设备执行实现上述任一所述多特征融合深度学习服务QoS预测方法的操作。
以及提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时,实现如上述任一所述多特征融合深度学习服务QoS预测方法。
实施例六:
为分析不同的参数设置对本发明模型预测准确度的影响,本发明进行如下设置,以确定模型参数的最佳取值。
1)用户的原始特征向量维度/服务的原始特征向量维度l:用户原始特征向量维度和服务原始特征向量维度表示用户-服务原始矩阵Q分解出的用户和服务个体特征的数量,其中两者维度相同,决定了有多少个体特征被用来进行QoS预测。为了研究l对本发明模型预测准确度的影响,在矩阵密度分别为5%、10%、15%、20%的情况下,将L设置为4,R设置为3,K设置为30,l设置为40,50,60,70,80,90。
实验结果如图8所示,随着l的增加,QoS的预测准确率不断提高。这是因为越高的维度可以挖掘出更多的特征,使模型对特征学习更有效,实现更高的预测准确度。随着矩阵密度从5%增加到20%,预测准确度显著提高。因为当用户-服务原始QoS矩阵过于稀疏时,无法通过非负矩阵分解得到较为准确的用户潜在特征向量/服务潜在特征向量,进而影响用户特征图/服务特征图的提取。而随着用户-服务原始QoS矩阵的密度增大,非负矩阵分解可以更准确的获得用户潜在特征向量/服务潜在特征向量,从而提高模型的预测准确度。由于更高的维度会带来更多的数据,导致更大的计算量,因此在后面的对比实验中将l取值为90。
2)特征映射/推理块中网络层数L:为了研究L对预测准确度的影响,将矩阵密度设置为5%、10%、15%、20%,将l设置为90,R设置为3,K设置为30,L设置为3,4,5,6。
实验结果如图9所示,当L<4时,随着L的增加,预测准确度也会增加。这是因为较深的网络能更好的学习样本中的内在联系。但是,当L>4时,预测准确度随着L的增加而下降,因为随着网络加深,过拟合的风险也会提高。因此在对比实验中将L设置为4。
3)多特征融合QoS预测网络全连接层数R:为了研究本发明多特征融合QoS预测网络中,将l设置为90,L设置为4,K设置为30,R设置为2,3,4,5。
实验结果如图10所示,随着R的增加,QoS的预测准确率不断降低。这是因为随着全连接层数增加,网络陷入了过拟合,使模型的预测准确率降低,因此在后面的对比实验中将R取值为2。
4)相似用户数量/相似服务数量K:参数K表示构建用户的相似特征向量集/服务的相似特征向量集时使用的相似用户数量/相似服务数量。为了研究其对本发明模型预测准确度的影响,在矩阵密度分别为5%、10%、15%、20%的情况下,将l设置为90,R设置为3,L设置为4,K设置为10,15,20,25,30,35。
实验结果如图11所示,当K=15时,模型的预测准确度达到最佳。之后,预测准确度随着相似用户的增加而下降。因为在模型训练中,选取更多类似的用户或服务可以提供更多有用的信息,从而提高模型的预测性能。但是随着相似用户或相似服务数量的增加,一些与目标用户或服务相似度不高的用户或服务提供的冗余信息会影响QoS的预测准确度。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。
Claims (10)
1.一种多特征融合深度学习服务QoS预测方法,其特征在于,包括如下步骤:
获取用户潜在特征矩阵及服务潜在特征矩阵,并进行初始化;
将初始化后的用户潜在特征矩阵和服务潜在特征矩阵经过深度神经网络提取特征图,得到用户特征图和服务特征图;
将特征图提取过程中的数据流经过特征转化块处理,与用户特征图/服务特征图归并处理,分别得到用户融合特征图/服务融合特征图;
将用户融合特征图及服务融合特征图通过训练后的多特征融合QoS预测网络,得到QoS预测值。
2.根据权利要求1所述的预测方法,其特征在于,所述深度神经网络包括特征映射块和特征推理块,
所述特征映射块对用户潜在特征矩阵中的用户潜在特征向量集,或服务潜在特征矩阵中的服务潜在特征向量集进行升维,得到高维的用户特征图或服务特征图;
所述特征推理块对用户特征图或服务特征图进行降维,得到用户推理特征向量或服务推理特征向量,
通过用户推理特征向量或服务推理特征向量对深度神经网络训练迭代至预设迭代次数,获得训练完成的深度神经网络。
3.根据权利要求2所述的预测方法,其特征在于,所述将特征图提取过程中的数据流经过特征转化块处理包括:
将用户潜在特征向量集或服务潜在特征向量集输入特征映射块,获得特征映射块中第一层特征映射流和中间层特征映射流;
将第一层特征映射流输入特征转化块,经过特征映射块中若干层全连接层,及形状变换操作,得到转化后的第一层特征映射流;
将转化后的第一层特征映射流和中间层特征映射流进行归并,经过特征映射块中若干层卷积层,得到用户映射特征图或服务映射特征图;
将用户特征图或服务特征图输入特征推理块,获得特征推理块中第一层特征推理流和中间层特征推理流;
将第一层特征推理流和中间层特征推理流输入特征转化块,得到用户推理特征图或服务推理特征图。
4.根据权利要求3所述的预测方法,其特征在于,得到所述用户融合特征图/服务融合特征图的过程包括:
将用户推理特征图与用户特征图及用户映射特征图归并处理,得到用户融合特征图或服务融合特征图;
将服务推理特征图与服务特征图及服务映射特征图归并处理,得到用户融合特征图或服务融合特征图。
5.根据权利要求1所述的预测方法,其特征在于,所述多特征融合QoS预测网络包括一层卷积层和若干层全连接层,
所述卷积层用于将用户融合特征图和服务融合特征图转换为一维向量;
所述若干层全连接层用于对一维向量进行学习,得到QoS预测值。
6.根据权利要求1所述的预测方法,其特征在于,所述多特征融合QoS预测网络的训练过程包括:
将特征图提取过程中的数据流经过特征转化块处理,与用户特征图/服务特征图连接,分别得到用户融合特征图/服务融合特征图;
将用户融合特征图及服务融合特征图通过多特征融合QoS预测网络,输出当前QoS预测值;
若多特征融合QoS预测网络当前迭代次数小于设定最大迭代次数,利用随机梯度下降法对特征转化块和多特征融合QoS预测网络的参数进行更新,输出更新后的QoS预测值;
若多特征融合QoS预测网络当前迭代次数等于设定最大迭代次数,停止训练,将此时更新过参数的多特征融合QoS预测网络作为训练完成的多特征融合QoS预测网络。
7.根据权利要求6所述的预测方法,其特征在于,所述多特征融合QoS预测网络的参数的更新采用最小绝对偏差作为损失函数。
8.一种多特征融合深度学习服务QoS预测系统,其特征在于,所述系统包括:
初始化模块:用于对用户潜在特征矩阵及服务潜在特征矩阵进行初始化;
提取模块:用于通过设计深度神经网络对初始化后的用户潜在特征矩阵和服务潜在特征矩阵提取特征图,得到用户特征图/服务特征图;
融合模块:用于对特征图提取过程中的数据流经过特征转化块处理,与用户特征图/服务特征图归并处理,得到用户融合特征图/服务融合特征图;
预测模块:用于通过设计服务QoS预测神经网络对用户融合特征图及服务融合特征图进行训练,得到QoS预测值。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时,实现如权利要求1-7中任一所述预测方法。
10.一种计算机设备,其特征在于,包括:
存储器,用于存储指令;
处理器,用于执行所述指令,使得所述设备执行实现如权利要求1-7中任一所述预测方法的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311248410.3A CN117274616B (zh) | 2023-09-26 | 2023-09-26 | 一种多特征融合深度学习服务QoS预测系统及预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311248410.3A CN117274616B (zh) | 2023-09-26 | 2023-09-26 | 一种多特征融合深度学习服务QoS预测系统及预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117274616A true CN117274616A (zh) | 2023-12-22 |
CN117274616B CN117274616B (zh) | 2024-03-29 |
Family
ID=89219283
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311248410.3A Active CN117274616B (zh) | 2023-09-26 | 2023-09-26 | 一种多特征融合深度学习服务QoS预测系统及预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117274616B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110263912A (zh) * | 2019-05-14 | 2019-09-20 | 杭州电子科技大学 | 一种基于多目标关联深度推理的图像问答方法 |
CN114117945A (zh) * | 2022-01-26 | 2022-03-01 | 南京信息工程大学 | 基于用户-服务交互图的深度学习云服务QoS预测方法 |
CN114283137A (zh) * | 2021-12-24 | 2022-04-05 | 河北工业大学 | 基于多尺度特征图推理网络的光伏组件热斑缺陷检测方法 |
CN114757391A (zh) * | 2022-03-17 | 2022-07-15 | 重庆大学 | 一种基于网络数据空间设计的服务质量预测方法 |
CN116760735A (zh) * | 2023-05-15 | 2023-09-15 | 重庆邮电大学 | 一种基于多关系概率矩阵分解的服务质量快速预测方法 |
-
2023
- 2023-09-26 CN CN202311248410.3A patent/CN117274616B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110263912A (zh) * | 2019-05-14 | 2019-09-20 | 杭州电子科技大学 | 一种基于多目标关联深度推理的图像问答方法 |
CN114283137A (zh) * | 2021-12-24 | 2022-04-05 | 河北工业大学 | 基于多尺度特征图推理网络的光伏组件热斑缺陷检测方法 |
CN114117945A (zh) * | 2022-01-26 | 2022-03-01 | 南京信息工程大学 | 基于用户-服务交互图的深度学习云服务QoS预测方法 |
CN114757391A (zh) * | 2022-03-17 | 2022-07-15 | 重庆大学 | 一种基于网络数据空间设计的服务质量预测方法 |
CN116760735A (zh) * | 2023-05-15 | 2023-09-15 | 重庆邮电大学 | 一种基于多关系概率矩阵分解的服务质量快速预测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN117274616B (zh) | 2024-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Zhang et al. | A cross-domain recommender system with kernel-induced knowledge transfer for overlapping entities | |
CN112529168B (zh) | 一种基于gcn的属性多层网络表示学习方法 | |
CN108829763B (zh) | 一种基于深度神经网络的影评网站用户的属性预测方法 | |
CN113705772A (zh) | 一种模型训练方法、装置、设备及可读存储介质 | |
US20150254554A1 (en) | Information processing device and learning method | |
CN106897254B (zh) | 一种网络表示学习方法 | |
CN113743675B (zh) | 一种云服务QoS深度学习预测模型的构建方法和系统 | |
CN112418482A (zh) | 一种基于时间序列聚类的云计算能耗预测方法 | |
CN110138595A (zh) | 动态加权网络的时间链路预测方法、装置、设备及介质 | |
CN113190688B (zh) | 基于逻辑推理和图卷积的复杂网络链接预测方法及系统 | |
Shi et al. | Artificial bee colony Based Bayesian Regularization Artificial Neural Network approach to model transient flammable cloud dispersion in congested area | |
JP6892606B2 (ja) | 位置特定装置、位置特定方法及びコンピュータプログラム | |
CN111178986B (zh) | 用户-商品偏好的预测方法及系统 | |
CN118094018B (zh) | 一种增强的图对比学习推荐系统方法、设备及存储介质 | |
Pham et al. | Unsupervised training of Bayesian networks for data clustering | |
CN110232151B (zh) | 一种混合概率分布检测的QoS预测模型的构建方法 | |
CN117252665B (zh) | 业务推荐方法、装置、电子设备及存储介质 | |
Zhan et al. | Neural networks for geospatial data | |
CN117274616B (zh) | 一种多特征融合深度学习服务QoS预测系统及预测方法 | |
Zhou et al. | Online recommendation based on incremental-input self-organizing map | |
CN116680456A (zh) | 基于图神经网络会话推荐系统的用户偏好预测方法 | |
CN114757391B (zh) | 一种面向服务质量预测的网络数据空间设计与应用方法 | |
CN114861739A (zh) | 一种特征通道可选择的多组件系统退化预测方法及系统 | |
CN112508351A (zh) | 攻击环境下的强鲁棒性项目推荐方法、系统、设备及介质 | |
CN110011833A (zh) | 一种基于深度学习的服务系统在线可靠性预测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB03 | Change of inventor or designer information |
Inventor after: Zhang Peiyun Inventor after: Fan Jiajun Inventor after: Huang Wenjun Inventor after: Chen Yutong Inventor after: Xie Rongjian Inventor before: Zhang Peiyun Inventor before: Chen Yutong Inventor before: Huang Wenjun Inventor before: Fan Jiajun Inventor before: Xie Rongjian |
|
CB03 | Change of inventor or designer information | ||
GR01 | Patent grant | ||
GR01 | Patent grant |