CN103338467A - 无线网络中基于pst的用户行为学习方法 - Google Patents

Abstract

本发明提出一种无线网络中基于PST的用户行为学习方法，其依据无线网络中的业务对网络QoS要求的不同，将基于业务的用户行为分为4类：无业务、会话类业务、交互类业务、流媒体类业务，产生4进制用户行为状态序列；通过学习构建概率后缀树（PST）训练用户行为序列，并采用可变长Markov模型预测下时段可能发生的用户行为，即可根据预测的业务行为选择适合的网络资源为用户提供高质量的业务，该方法可提高用户行为预测的准确性，简单并于实现，具有很好的应用前景。

Description

无线网络中基于PST的用户行为学习方法

技术领域

本发明涉及无线网络中对用户行为进行基于PST的训练学习和基于可变长Markov模型的预测，属于无线通信技术领域。

背景技术

未来泛在网络将呈现出融合与智能等特点，而环境感知是实现网络融合与智能的前提与关键。环境感知是指将复杂网络的各种资源信息提取出来，通过感知获得终端、网络、业务和用户等上下文信息，对上述信息加以分析以用于网络决策，从而达到提高网络利用率和用户体验质量的目的。环境感知可分为用户感知、业务感知、网络感知和终端感知。

用户感知实际上就是在无线网络中，以用户为中心的上下文感知。它是指无线网络需根据用户需求，主动、动态的感知用户环境信息，并根据用户所处的环境自动进行业务调用和适配，达到实现增强用户体验的目标。为了给用户提供个性化的业务，需要获取用户信息，如位置、周围环境（温度、湿度、光线）、用户基本信息（年龄、性别）以及用户偏好（爱好、兴趣）等。综合以上信息加以推理决策，才能为用户提供适合的个性化业务。

业务感知是环境感知中最为重要的一部分。新业务的大量出现对网络的流量模型和应用模式产生了很大的冲击，极大地增加了网络负担。简单的扩容无法满足业务容量增长的需要，因此对业务进行主动的感知、分析、决策和控制是解决目前网络问题的根本途径之一。在业务感知技术领域，网络具备了分析与决策能力，具有了很好的智能性，其能够根据用户的偏好来为用户提供“量身定制”的服务，能够感知甚至是预测影响业务行为的周围环境信息，然后根据环境的变化代表用户的立场智能地做出调整、适应和变化。

网络感知是指通信网络能够感知现存的网络环境，通过对所处环境的理解，实时调整通信网络的配置，智能地适应专业环境的变化。同时，它还具备从变化中学习的能力，它能够感知网络自身的状态，然后分析、决策并对网络做出自适应的规划和调整，直到达到预期的端到端目标和网络整体性能的提高。在网络感知中，频谱资源、网络资源的高效利用都是研究重点。

终端感知是环境感知中不可或缺的一部分。随着通信网络的不断发展，用户使用的终端设备层出不穷。通过这这些终端的感知，可以方便快捷地获取环境上下文信息，以便快速准确地作出网络决策。未来的终端将包括能为用户提供移动业务和个性化业务的所有设备，因此一个用户会拥有诸如台式机、笔记本、移动电话、PDA等多个终端，而且不同的终端具有不同的网络连接能力、数据处理能力、存储能力以及显示能力等。对终端的感知可以为用户提供实时、高效、高质量的服务。

其中，业务感知成为环境感知中研究的热点。随着无线网络的不断发展，用户对网络服务的要求不断提高，当前网络并不能满足所有用户的需求。新业务的大量出现对网络的流量模型和应用模式产生了很大的冲击，极大地增加了网络负担，使无线网络拥塞现象日趋严重。简单的扩容无法满足业务容量增长的需要，因此对业务进行主动的感知、分析、决策和控制是解决目前网络问题的根本途径之一。

发明内容

发明目的：提出一种新颖的基于PST的用户行为学习算法。该方案考虑基于业务的用户行为差异，对无线网络中的用户行为进行学习和预测，可有效地提高预测的准确性，适用于网络决策中。

技术方案：对业务进行主动的感知、分析、决策和控制是解决目前网络问题的根本途径之一。在业务感知中，可以根据用户的偏好来为用户提供“量身定制”的业务。因此可对无线网络中用户行为进行建模、学习、预测，研究用户的行为特征和规律，可以为其提供准确、实时的网络业务，提高用户体验质量和网络性能。

概率后缀树（Probabilistic Suffix Tree，PST）用于描述一个序列集合的概率特征。在一个符号集上的PST是一个非空的树。树上的每一条边用符号集中的一个符号标记。节点的标记通过从这个节点回溯到根节点所经过的边的标记生成。每个节点都有一个概率分布向量。根节点概率向量是符号集中每个符号的无条件概率。其他节点的概率向量是该节点的标记符号序列的下一个符号出现的条件概率向量。根据这种特性，PST可以应用于Markov预测算法中。

可变长Markov模型是Markov模型的一种，其针对特征序列个体之间的相关性，对待测序列进行动态变长处理，即序列由初始长度向前或向后扩展，其目标是：利用最短的序列将其最快的进行分类预测，提高了处理速度和识别准确率。可变长Markov模型可以对复杂的序列进行数据建模。同时，其方法简单，便于分析，学习过程具有很好的理论性能保证。可变长Markov模型在学习预测方面表现出良好的性能。

为此，本发明利用可变长Markov模型中概率后缀树（Probabilistic Suffix Tree，PST）用户行为进行预测，并在此基础上提出一种新颖的PST的用户行为学习算法。

一种基于PST的用户行为学习方法，该方案首先将可变长Markov预测算法应用于用户行为序列的预测，针对特征序列个体之间的相关性，对训练序列进行动态变长处理，提高了处理速度和识别准确率。同时，根据用户行为状态建立4进制序列学习构建PST状态树，对用户行为状态进行预测，从而有效地提高预测算法地准确性。

本发明即基于PST的用户行为学习算法，该方案的具体的内容为：

a、依据无线网络中的业务对网络QoS要求的不同，将基于业务的用户行为分为4类：无业务（未进行业务）、会话类业务（话音业务、电视会议）、交互类业务（网页浏览、下载）、流媒体类业务（视频、音频），单个用户在一段时间内即可产生4进制用户行为序列。训练行为序列用来预测下时段可能发生的行为，从而判定业务类型，即可选择适合的网络资源为用户提供高质量的业务，同时，根据用户行为状态建立4进制序列学习构建PST状态树，对用户行为状态进行预测，从而有效地提高预测算法地准确性。

b、建立概率后缀树(PST)对用户的历史行为四进制序列进行训练。

PST构建算法Build-PST(p_min，γ，r，L)如下:

1.初始化PST只包含一个根节点，根结点的概率向量值为每个符号在所有符号序列中出现的相对频率。将所有相对频率超过阈值p_min的符号作为候选子节点。

2.递归扩充每一个候选节点。

（1）计算该候选节点的后续符号概率向量。

（2）候选节点的标记字符串为s。如果存在一个σ∈∑，p(σ|s)≥γ，p(σ|s)/p(σ|suff(s))≥r或者p(σ|s)/p(σ|suff(s))≥1/r，则添加该子节点到树中。其中suff(s)代表候父节点的标记。

（3）如果该节点的深度小于PST的最大深度L，则对于每个σ∈∑，如果σs的相对频率超过p_min，则标记为σs的节点作为该节点的候选子节点。

c、采用可变长Markov模型对已建立概率后缀树的用户行为序列进行预测。

对已建立PST状态树的用户行为序列进行预测采用可变长Markov模型，对于D阶可变长Markov模型，当样本中包含一个训练序列长度为m的字符串q时，对于任意长度不大于L的字符串s，训练序列中字符串s发生的概率P(s)定义如公式：

$P\left(s\right)=\frac{1}{m-D+1}\underset{j=L}{\overset{m}{\mathrm{\Σ}}}{x}_j\left(s\right)$

$x_j\left(s\right)=\left\{\begin{array}{c}1,{\mathrm{\σ}}_{j-\left|s\right|+1}...{\mathrm{\σ}}_j=s\\ 0,{\mathrm{\σ}}_{j-\left|s\right|+1}...{\mathrm{\σ}}_j\≠s\end{array}\right.$

根据包括当前时段t在内的过去n个时段的历史用户行为状态，预测在下一个时段t+1用户行为各个状态出现的概率P(σ|s)，其中各状态出现概率最大的为

概率门限值为

如果

那么认为时段t+1出现该行为状态。对于可变长Markov模型，当样本中包含一个训练序列长度为m的序列q时，对于任意长度不大于L的序列s，定义在行为序列s后状态符号发生的概率为P(σ|s)为：

$P\left(\mathrm{\σ}\right|s)=\frac{{\mathrm{\Σ}}_{j=L}^{m-1}{x}_{j+1}\left(\mathrm{s\σ}\right)}{{\mathrm{\Σ}}_{j=L}^m{x}_j\left(s\right)}$

有益效果：

1、本发明提出了无线网络中基于PST的用户行为学习算法，利用可变长Markov模型中PST对用户行为进行预测，从而有效提高预测算法的准确性。

2、本发明中的PST遍历速度快，可以对相当复杂的序列数据建模，方法简单适合用于分析，并且学习过程具有很好的理论性能保证。

3、Markov模型在用户行为序列的选择上实现了变阶，使得模型更具灵活性和动态性，预测准确度高。

4、本发明通过PST算法对用户行为进行预测，通过研究用户已有的无线网络中的业务行为规律，来预测用户即将发生的业务行为状态。

5、通过PST的学习训练以及可变长Markov模型的概率预测，从而达到提高用户行为预测准确性的目标。

6、本发明产生的基于PST的用户行为学习方法非常简单而易于实现，具有很好的应用前景。

附图说明

图1为用户行为状态序列。

图2为PST学习过程示意图。

图3为Markov模型预测结构图。

图4为基于PST的用户行为算法流程图。

具体实施方式

下面结合附图对发明的技术方案进行详细说明：

本发明提出了一种基于PST的用户行为学习算法，将基于业务的用户行为分为4类：无业务（未进行业务）、会话类业务（话音业务、电视会议）、交互类业务（网页浏览、下载）、流媒体类业务（视频、音频），单个用户在一段时间内即可产生4进制用户行为序列。训练行为序列用于预测下时段可能发生的行为，从而判定业务类型，即可选择适合的网络资源为用户提供高质量的业务。该方案融合了PST状态树的学习训练方法和基于可变长Markov模型预测方法，有效地提高了用户行为预测的准确性。

本发明主要包括两个内容：一是PST状态树的构建，利用训练序列（用户行为状态序列）学习构建PST状态树；二是序列预测，采用可变长Markov模型预测方法。

1.构建PST状态树

无线网络中用户行为是基于业务的。因此将用户行为分为无业务（未进行业务）、进行会话类业务、进行交互类业务、进行流媒体类业务四种，并转换为一组行为序列，即可建4进制的PST状态树。

图1表示对用户行为历史状态进行采样得到四进制序列，0表示无业务，1表示进行会话类业务（电视会议），2表示进行交互类业务（网页浏览），3表示进行流媒体类业务（看视频）。训练序列为=2323102131，构建PST状态树的部分过程如图2所示。

状态树就可以根据用户历史行为序列预测下一时段的状态，对于给定的状态树

和过去τ个时段的行为状态信息，从根节点R开始遍历PST状态树。首先，从历史信息最近的状态开始，根据相应的序列选择子树。然后，取前一个时段的状态，根据取到的状态遍历当前节点的子树。当所有给定的τ个时段内的历史状态遍历完或者遍历到状态树的叶子节点时，此叶子节点花括号中的概率就分别表示下一个时段用户行为发生的概率,该概率即由Markov模型求解得出。根据设定的门限值I_min和下一个时段{0,1,2,3}的概率，就可以判定下一时段的用户行为。

例如，假设过去3个的时段历史行123，根据得到的状态树，如图3在遍历完历史信息序列之前遍历到节点23就结束了。根据花括号中的概率，可以发现在状态序列23后状态0、1、2、3、发生的概率分别为0、0.5、0.5、0。如果门限值是0.5，那么就可以预测下一个时段用户行为为1或2。

构架PST状态树Build-PST(p_min，γ，r，L)，过程如下：

1.初始化PST只包含一个根节点，根结点的概率向量值为每个符号在所有符号序列中出现的相对频率。将所有相对频率超过阈值p_min的符号作为候选子节点。

2.递归扩充每一个候选节点。

（1）计算该候选节点的后续符号概率向量。

（2）候选节点的标记字符串为s。如果存在一个σ∈∑，p(σ|s)≥γ，p(σ|s)/p(σ|suff(s))≥r或者p(σ|s)/p(σ|suff(s))≥1/r，则添加该子节点到树中。其中suff(s)代表候父节点的标记。

（3）如果该节点的深度小于PST的最大深度L，则对于每个σ∈∑，如果σs的相对频率超过p_min，则标记为σs的节点作为该节点的候选子节点。

2.用户行为预测

采用可变长Markov模型进行行为预测，在n阶Markov模型中阶数是固定不变的，对序列元素间相关性不确定的情况，不能很好的分类识别。所以，本发明提出了一种用PST来训练Markov模型的方法，PST的一个主要用途是可以用来计算序列之间的相似度。这里定义的相似度为一个序列与一个序列集合之间的相似度。首先我们计算一个序列在某个序列集合S中出现的概率，这些条件概率可以通过构造PST模型得到。显然，如果P(δ)很大时，这表示δ在序列集合S中出现的概率很大，也表示δ与这一序列集合的相似度很大。

可变长Markov模型预测流程如下，流程图如图3所示：

（1）提取样本数据，构建组成相应的训练样本集和测试样本集；

（2）样本数据序列中的每个元素进行编码，使识别模型能够记忆和识别序列数据；

（3）对样本序列进行学习训练，得出分布规律；

（4）对未知序列进行识别预测。

对于D阶可变长Markov模型，当样本中包含一个训练序列长度为m的字符串q时，对于任意长度不大于L的字符串s，训练序列中字符串s发生的概率P(s)定义如公式1：

$P\left(s\right)=\frac{1}{m-D+1}\underset{j=L}{\overset{m}{\mathrm{\Σ}}}{x}_j\left(s\right)---\left(1\right)$

$x_j\left(s\right)=\left\{\begin{array}{c}1,{\mathrm{\σ}}_{j-\left|s\right|+1}...{\mathrm{\σ}}_j=s\\ 0,{\mathrm{\σ}}_{j-\left|s\right|+1}...{\mathrm{\σ}}_j\≠s\end{array}\right.---\left(2\right)$

其中，L＝|s|，|s|是字符串s的长度，并且

是长度为m的训练序列，如果σ_j-|s|+1...σ_j＝s，那么指标函数x_j(s)＝1，否则x_j(s)＝0如公式2。P(s)并不是一个均匀的分布，但它展示了字符串s在训练序列

中相对的丰富性。定义在字符串序列s后符号σ发生的概率为P(σ|s)，如公式3：

$P\left(\mathrm{\σ}\right|s)=\frac{{\mathrm{\Σ}}_{j=L}^{m-1}{x}_{j+1}\left(\mathrm{s\σ}\right)}{{\mathrm{\Σ}}_{j=L}^m{x}_j\left(s\right)}---\left(3\right)$

本发明即基于PST的用户行为学习算法具体的流程图如图4所示，实现过程如下：

第一步，感知获取用户历史行为信息，将用户行为分为四类，经采样转换为四进制序列，建立用户行为状态序列。

第二步：根据利用用户行为四进制序列训练得到PST状态树，使其适用于用户行为预测；

第三步：根据当前时段和过去n个时段的历史用户行为状态，预测在下一个时段用户行为的概率p_i；

第四步：判断p_i是否大于门限值p_min，若大于则继续，若小于p_min则返回第二步重新执行；

第五步：形成预测序列，应用于网络决策中。

本行业的技术人员应了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内，本发明要求保护范围由所附的权利要求书其等效物界定。

Claims (3)

1.一种无线网络中基于PST的用户行为学习方法，其特征在于，依据无线网络中的业务对网络QoS要求的不同，将基于业务的用户行为分为4类：无业务、会话类业务、交互类业务、流媒体类业务，单个用户在一段时间内即可产生4进制用户行为序列；训练行为序列用来预测下时段可能发生的行为，从而判定业务类型，即可选择适合的网络资源为用户提供高质量的业务，同时，根据用户行为状态建立4进制序列学习构建PST状态树，对用户行为状态进行预测，从而有效地提高预测算法地准确性。

2.根据权利要求1所述的无线网络中基于PST的用户行为学习方法，其特征在于，PST状态树：建立PST状态树对用户的历史行为四进制序列进行训练，将历史信息最近的状态序列作为PST的根节点，将所有相对频率超过阈值p_min的状态符号作为候选子节点，递归扩充每一个候选节点，计算该候选节点的后续符号概率向量，候选节点的序列记为s，如果存在一个σ∈Σ，p(σ|s)≥γ，p(σ|s)/p(σ|suff(s))≥r或者p(σ|s)/p(σ|suff(s))≥1/r，则添加该子节点到树中，其中suff(s)代表候父节点的标记，如果该节点的深度小于PST的最大深度L，则对于每个σ∈Σ，如果σs的相对频率超过p_min，则标记为σs的节点作为该节点的候选子节点。

3.根据权利要求1或2所述的无线网络中基于PST的用户行为学习方法，其特征在于，对已建立PST状态树的用户行为序列进行预测采用可变长Markov模型，对于D阶可变长Markov模型，当样本中包含一个训练序列长度为m的字符串q时，对于任意长度不大于L的字符串s，训练序列中字符串s发生的概率P(s)定义如公式：

$P\left(s\right)=\frac{1}{m-D+1}\underset{j=L}{\overset{m}{\mathrm{\Σ}}}{x}_j\left(s\right)$

$x_j\left(s\right)=\left\{\begin{array}{c}1,{\mathrm{\σ}}_{j-\left|s\right|+1}\·\·\·{\mathrm{\σ}}_j=s\\ 0,{\mathrm{\σ}}_{j-\left|s\right|+1}\·\·\·{\mathrm{\σ}}_j\≠s\end{array}\right.$

根据包括当前时段t在内的过去n个时段的历史用户行为状态，预测在下一个时段t+1用户行为各个状态出现的概率P(σ|s)，其中各状态出现概率最大的为

概率门限值为

如果那么认为时段t+1出现该行为状态；对于可变长Markov模型，当样本中包含一个训练序列长度为m的序列q时，对于任意长度不大于L的序列s，定义在行为序列s后状态符号发生的概率为P(σ|s)为：

$P\left(\mathrm{\σ}\right|s)=\frac{{\mathrm{\Σ}}_{j=L}^{m-1}{x}_{j+1}\left(\mathrm{s\σ}\right)}{{\mathrm{\Σ}}_{j=L}^m{x}_j\left(s\right)}.$

Images