CN111881345B - 基于位置上下文感知的神经协同过滤服务质量预测方法 - Google Patents

Abstract

本发明实施例公开了一种基于位置上下文感知的神经协同过滤服务质量预测方法，结合用户的地理位置上下文信息，以及被调用服务的地理位置上下文信息，提供更准确，更加个性化的服务推荐，有效降低了因为地理信息缺失带来的较大预测误差，以及提供偏置修正项，能结合用户和服务的实际情况，给予个性化的预测修正，有效降低了预测的方均根误差，提升了算法的鲁棒性。

Description

基于位置上下文感知的神经协同过滤服务质量预测方法

技术领域

本发明涉及一种，尤其涉及一种基于位置上下文感知的神经协同过滤服务质量预测方法。

背景技术

现如今，网络服务正在成为最重要的互操作技术之一，用于连接因特网上的异构应用程序，以实现跨平台、跨系统和跨语言的交互。根据网络服务的功能，用户可以查找和调用网络服务中的具体模块，这种方式构建了高质量的面向服务的系统，无需担心它的编程语言、操作平台以及实现方式等各种问题，在应用和推广中具有诸多优势。因此，网络服务正迅速成为部署分布式计算和协作的重要方式，极大地促进了网络资源的有效使用。现如今，网络服务已广泛应用于电子经济、电子科学和电子政府等领域，然而，随着网络服务的开发和应用的增加，如何从大量的服务中选择最合适的服务来满足用户的需求就成为一个需要解决的关键问题。许多研究人员认为，用户在选择服务时，不仅要考虑用户的功能需求，还要考虑服务提供的非功能指标，即服务质量(QoS)。值得注意的是，服务质量是一组非功能属性，例如可用性、响应时间、执行时间和吞吐量。从服务器的角度来看，服务质量属性是独立于用户的，因为服务器端的服务质量向所有用户呈现相同的属性值，例如价格、注意事项和可用性等。从用户的角度来看，服务质量属性是与用户相关的，不同的属性值呈现给不同的用户，如响应时间、吞吐量等。这种用户端的服务质量属性只能在用户调用网络服务时进行测量，这些属性称为个性化服务质量属性。因此，当用户构建面向服务的应用系统时，需要选择具有最佳个性化服务质量的服务。

因特网上有许多网络服务可以满足用户相同的功能需求。然而，即使具有相同的功能需求，许多网络服务也具有不同的服务质量属性，用户常常需要过滤服务来选择最佳服务。在大多数情况下，用户不可能在过滤之前逐个调用所有网络服务来获得它们的服务质量属性，因为这既昂贵又耗时。在这种情况下，要选择具有最佳服务质量的网络服务，用户必须提前预测那些未使用的服务的服务质量，为最终的服务优化提供依据。为了保证服务质量预测的客观性和准确性，一种被广泛采用的策略是使用已调用该服务的其他用户的服务质量值历史去预测当用户访问这个服务时将要产生的服务质量值。近年来，已有大量的此类预测方法，但这些方法大都存在一定的问题，比如，协同过滤的向量内积是线性的，考虑到实际场景中用户与服务的复杂关系，线性模型存在表达能力的不足，难以表达服务与用户之间的复杂交互关系；在矩阵分解模型计算预测值是，没有加入偏置项的修正，导致模型的预测精度受限；传统矩阵分解方法对响应速度和吞吐速率的建模只能分开而不能单模型多任务。

近年来，深度学习的发展吸引了众多学者的关注。深度学习在计算机视觉、信息检索、语音识别、自然语言处理等方面都取得了很好的效果。受深度学习的启发，我们采用深度学习技术进行个性化的服务质量的预测，充分利用用户和服务的空间上下文信息。在此基础上，建立了基于Web服务的服务质量预测矩阵分解模型，得到了准确的预测结果。

服务质量预测作为网络服务选择的一项关键技术，在过去的十年中得到了广泛的研究。协同过滤(CF)方法是应用最广泛的个性化服务质量预测技术。协同过滤的主要思想是基于皮尔逊相关系数(PCC)确定一组相似的用户或服务。然后根据不同用户提供的过去的服务质量值进行预测。通常，协同过滤可以分为基于邻居的(或基于内存的)协同过滤和基于模型的协同过滤。基于内存的协同过滤本身又分为基于用户的协同过滤和基于项目的协同过滤。基于用户的协同过滤使用PCC查找一组兴趣相似的最近的相邻用户，基于项目的协同过滤计算项目的相似度。为了提高服务质量预测的准确性，郑子彬等人提出了一种基于邻域的混合模型，该模型结合了基于用户和基于项目的协同过滤方法。这种基于邻域的方法容易受到数据稀疏性的影响，导致相似性计算的不准确。此外，当面对大型数据集时，基于邻域的方法是无效的，因为相似度计算的时间复杂度随着网络服务的规模而增加。基于模型的协同过滤使用训练数据集来构建预定义的框架，用这种框架的方法包括基于聚类模型的协同过滤和基于隐语义模型的协同过滤。矩阵因子分解是一种基于模型的协同过滤方法，它将用户项得分矩阵分解为几个部分的组合。由于其准确性和抗稀疏性，许多学者将矩阵因子分解应用于服务质量预测。例如，郑子彬等人采用基于概率矩阵因子分解(PMF)的方法进行可靠的、个性化的预测。

除此之外，还有一些混合方法将基于邻居的方法和基于模型的方法结合起来。郑子彬等人提出了邻域综合矩阵分解模型，该模型系统地将基于邻域的协同过滤与基于模型的协同过滤方法相结合，达到了较高的预测精度。魏咯等人提出了一个扩展矩阵分解框架，利用相关正则化对服务质量进行预测。近年来，为了进一步提高预测精度，许多基于协同过滤的预测模型也考虑了上下文信息(如位置和时间上下文)。何品佳等人提出的模型考虑了位置信息，采用层次矩阵分解模型进行服务质量值的预测。张一磊等人将时间信息集成到一个网络服务的服务质量预测模型中。范晓亮等人考虑了时空信息，提出了基于时空有效性的上下文感知服务建议。更重要的是一些研究人员考虑到了用户的信誉值。例如，邱玮玮等人提出了一种感知信誉的服务质量值预测方法。许建龙等提出了一种基于信誉值矩阵因子(RMF)的个性化服务质量预测方法。李顺等人在其基础上，提出了一种同时考虑用户声誉和位置信息的位置感知矩阵因子分解(LRMF)预测模型。

但是以上的这些方法都没有很好的应对在协同过滤计算相似性时候的可扩展性，以及不同位置因子之间的潜在的不同权重，这样就会影响到模型的通用型、表现力。我们的方法可以方便的进行特征的拓展，以及利用神经网络的强大的非线性建模能力，构建更为有效、扩展性更强的基于神经网络的矩阵分解方法。

发明内容

本发明实施例所要解决的技术问题在于，提供一种基于位置上下文感知的神经协同过滤服务质量预测方法。可结合用户的地理位置上下文信息，以及被调用服务的地理位置上下文信息，提供更准确，更加个性化的服务推荐，有效降低了因为地理信息缺失带来的较大预测误差，以及提供偏置修正项，能结合用户和服务的实际情况，给予个性化的预测修正，有效降低了预测的方均根误差，提升了算法的鲁棒性。

为了解决上述技术问题，本发明实施例提供了一种基于位置上下文感知的神经协同过滤服务质量预测方法，其特征在于，包括以下步骤：

S1：用户调用工作服务，并上传服务质量值到网络服务推荐系统；

S2：所述用户添加自己的服务质量值到所述网络服务推荐系统中，并记录吞吐率和响应时间；

S3：结合矩阵分解以及神经协同过滤，个性化偏置修正、计算用户与服务之间的预测值；

S4：用户使用相应的预测结果来选择要调用的最佳网络服务。

其中，所述矩阵分解包括以下步骤：

S31：将包括所述用户所在的国家或服务所在国家、用户ID、用户自治系统的非数值化特征进行数字编码表示；

S32：将所述数字编码作为索引号，查询对应的特征表示向量；

S33：将用户嵌入特征与包括上下文因子特征进行拼接，作为本次预测的上下文信息向量；

S34：将所述上下文信息向量经过一个多层神经网络，得融整合上下文向量。

其中，所述神经协同过滤包括以下步骤：

S35：使用神经协同过滤模块根据用户向量、服务向量、所述融合上下文向量，计算得到QoS属性的标准评分；根据所述用户向量、融合上下文向量计算用户偏置项、服务偏置项，将所述标准评分、用户偏置项、服务偏置项相加得到最终的预测评分；

S36：将多任务学习机制获得多个QoS属性预测值的输出。

其中，所述多任务学习机制在神经协同过滤模块和偏置项部分做了复制，形成两个结构完全一致的任务特定层，两个任务特定层分别负责预测响应时间和吞吐速率。

实施本发明实施例，具有如下有益效果：

1、本发明将神经协同过滤方法运用到云服务的服务质量值的预测中，使云服务QoS值预测效果得到大幅提升。

2、本发明在协同过滤的基础上引入了偏置项，提高了预测精度，预测误差得到一定程度的减小。

3、本发明采用多任务学习的方式，无需分别部署两个预测模型，只需要一个模型就可以完成响应时间、吞吐率的同时预测。

4、在数据非常稀疏的情况下，能够达到优于其他方法的精度，适用于数据稀疏的场景。

附图说明

图1是本发明方法的示意图；

图2是模型的总体结构；

图3服务质量(QoS)指标中响应时间，不同方法的对比实验，本发明的方法命名为NFMF方法；

图4是网络结构对实验结果的影响；

图5是参数Matrix Density对实验结果的影响(a:指标MAE b:指标RMSE)。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步地详细描述。

为实现本发明的目的，本发明实施例通过以下步骤进行实施。

步骤一：收集观测到的服务质量数据。

当用户调用工作服务时，通过向用户提供服务来收集它们的服务质量值，并将这些数据保存在预测服务器中。

步骤二：用户请求加入预测系统

为了正常接收服务，用户必须请求添加自己的服务质量值到预测系统中。这些由用户调用服务到预测系统的实际服务质量值是获得未知结果的基础。具体地，就是需要用户向服务器提供在服务过程中记录下来的吞吐率和响应时间。

步骤三：利用预测系统得到未知的服务质量值

本发明结合了矩阵分解以及神经协同过滤，个性化偏置修正，计算用户与服务之间的预测值。具体方法如下。

1.对于用户所在国家，服务所在国家，用户ID，服务ID，用户自治系统等所有的非数值化特征，需要先对他们进行数字编码表示。如用户所在国家的集合{China,Italy,Norway,United States,Canada}，给每个国家指定一个编号，即{China:1,Italy:2,Norway:3,United States:4,Canada:5}，将国家转换为数字表示。其他特征同理。而对于如用户所在经纬度、服务器所在经纬度这些已经是数值化的特征，则无需转换。

2.通过转换后的数字，将其作为索引号，查询对应的特征表示向量。该过程称为Embedding(嵌入)。Embedding相当于一个字典，将用户Index与用户向量一一对应。如用户Embedding表示为如下：

在查询1号用户的特征表示时，则从Embedding中寻找Index为1的位置，该Vector<0.1,0.2,0.9>即为用户的特征表示。其他类型特征如用户自治系统，服务ID等同理。

3.将除用户Embedding、服务Embedding以外的其他特征拼接起来，作为本次预测的用户-服务上下文，称为上下文信息向量特征(feature)。拼接方式如下：设特征f1＝<0.01,0.02,0.03>,特征f2＝<0.4,0.5,0.6>则拼接得到的上下文信息向量feature＝<0.01,0.02,0.03,0.4,0.5,0.6>。该信息合成的方式是无损的，能使后续的神经网络直接处理每一个特征。

服务Embedding以外的其他特征是上下文因子,包括，服务提供商，用户所在自治系统，服务所在自治系统，用户IP地址，IP地址类别(根据IP地址的用途分类，国际标准)，用户所在地区，服务所在地区。

4.将上下文信息向量经过一个多层神经网络ContextEncoder，得到一个维度小于上下文信息向量维度的高阶特征表示，称为融合上下文向量CtxInfo。该步骤的作用是，获取众多上下文特征之间的高阶交互，并且降低上下文信息的维度，起信息筛选的作用，同时能够有效降低后面介绍的神经网络的参数数量。

上述一个多层神经网络，以上下文信息向量f为输入，输出为CtxInfo。CtxInfo就是上下文向量f的高阶表示，CtxInfo是神经网络学习出的抽象编码，没有实际的表现形式。多层神经网络是一个全连接网络。

上述的多层神经网络是一个4层全连接网络(4层，参数个数分别是{64,32,16,1})。

5.使用神经协同过滤模块，根据用户向量、服务向量、融合上下文向量，计算得到QoS属性的标准评分。再根据用户向量、融合上下文向量计算用户偏置项，同理计算服务偏置项。将标准评分、用户偏置项、服务偏置项相加得到最终的预测评分。

神经协同过滤模块，是一个神经网络，接受的输入为(用户向量，服务向量，融合上下文向量)，输出为QoS属性的标准评分。服务偏置项的计算计算方式也是通过一个多层感知机，输入为(用户向量，融合上下文向量)，输出为偏置项的数值。上述两个模块的计算方式都是使用神经网络多层感知机计算。

上述的一个神经网络使用普通的全连接层的神经网络(4层，参数个数分别是{64,32,16,1})

6.我们采取了多任务学习机制，多任务学习机制共享了前面所述的所有Embedding层和ContextEncoder，仅在神经协同过滤模块和偏置项部分做了复制，形成两个结构完全一致的任务特定层，两个任务特定层分别负责预测响应时间和吞吐速率。

这个图给出了模型的整个设计方案。

(1)Embedding层不重要，他只是实现机器学习中一个常见的网络层而已，他把整数数值下标转换为向量。

(2)MLP0表示的是是ContextEncoder，他是一个多层感知机，每一层的参数是{128,64}

(3)NFCF也是一个多层神经网络，每一层参数是{64,32,16,1}

(4)Bias是一个参数个数为{64,32,1}的多层神经网络

(4)RT和TP的结果是NFCF+Bias得到的

上边所谓的共享，就是说，ContextEncoder和Embedding产生的向量，是多个NFCF和多个Bias模块的共同输入来源。

如图2模型的总体结构，多任务学习机制通过叠加多个Task-Specific Layers完成。每个Task-Specific Layers由NFCF和Bias两部分构成。要预测N个指标，则需要N个Task-Specific Layers。Task-Specific Layers共享了用户向量，服务向量和融合上下文信息。在计算时，模型只需根据输入做一次前向计算，即可获得多个QoS属性预测值的输出。

图2给出了模型的整个设计方案。

(1)Embedding层实现机器学习中一个常见的网络层，把整数数值下标转换为向量；

(2)MLP0表示的是是ContextEncoder，是一个多层感知机，每一层的参数是{128,64}；

(3)NFCF是一个多层神经网络，每一层参数是{64,32,16,1}；

(4)Bias是一个参数个数为{64,32,1}的多层神经网络；

(4)RT和TP的结果是NFCF+Bias得到的；

上边所谓的共享，即ContextEncoder和Embedding产生的向量，是多个NFCF和多个Bias模块的共同输入来源

图2中：

Task-Specific Layers：任务特定层(一个TSL负责一个任务的结果输出)；

NFCF：融合神经网络协同过滤；

Output Layer:输出层；

Embedding Layer：嵌入层；

Input Layer：输入层；

Task-Specific Outputs：多任务输出，即所有的输出结果。

步骤四：将预测结果进行运用。

图3是本发明的方法与其他方法的性能对比，其中，RMSE、MAE越低性能越好。

图4是本方法的多任务、位置上下文信息和神经协同过滤模块的有效性验证。

图5是矩阵密度对的模型性能的影响，分别在响应时间、吞吐速率上用RMSE、MAE评价。

用户使用相应的预测结果来选择要调用的最佳网络服务，如果用户对响应时间的要求比较大，则根据候选服务的预测的响应时间从低到高来排序，取出响应时间最短的服务，同样的，如果希望最大化吞吐量而对响应时间要求不高，则对吞吐量排序，选择吞吐量最高的。

以上所揭露的仅为本发明一种较佳实施例而已，当然不能以此来限定本发明之权利范围，因此依本发明权利要求所作的等同变化，仍属本发明所涵盖的范围。

Claims (1)

1.一种基于位置上下文感知的神经协同过滤服务质量预测方法，其特征在于，包括以下步骤：

S1：用户调用工作服务，并上传服务质量值到网络服务推荐系统；

S2：所述用户添加自己的服务质量值到所述网络服务推荐系统中，并记录吞吐率和响应时间；

S3：结合矩阵分解以及神经协同过滤，个性化偏置修正、计算用户与服务之间的预测值；

所述矩阵分解包括以下步骤：

S31：将包括所述用户所在的国家或服务所在国家、用户ID、用户自治系统的非数值化特征进行数字编码表示；

S32：将所述数字编码作为索引号，查询所述用户对应的用户嵌入特征；

S33：将所述用户嵌入特征与包括上下文因子特征进行拼接，作为本次预测的上下文信息向量；

S34：将所述上下文信息向量经过一个多层神经网络，得到融合上下文向量；

所述神经协同过滤包括以下步骤：

S35：使用神经协同过滤模块根据用户向量、服务向量、所述融合上下文向量，计算得到QoS属性的标准评分；根据所述用户向量、融合上下文向量计算用户偏置项、服务偏置项，将所述标准评分、用户偏置项、服务偏置项相加得到最终的预测评分；

S36：由多任务学习机制获得多个QoS属性预测值的输出；

所述多任务学习机制在神经协同过滤模块和偏置项部分做了复制，形成两个结构完全一致的任务特定层，两个任务特定层分别负责预测响应时间和吞吐速率；

S4：用户使用相应的预测结果来选择要调用的最佳网络服务。

Images