CN103595568A - 一种基于ls-svm的互联网实时信号传输方法 - Google Patents

Abstract

本发明涉及一种基于LS-SVM的互联网实时信号传输方法，属于计算机网络、信号处理两个技术领域的交叉。步骤包括：初始化阶段，模型信息的交互过程，发送端模型更新，应用端信号重建的过程。优点是：在发送端和应用端同时创建的基于LS-SVM的DPS双预测模型，采用DPS机制，在期望的误差范围内，用预测模型的传输来替代采样数据的传输，大大减少网络传输数据量，有效的减少了网络带宽的占有率。用LS-SVM在线预测提高互联网中非线性信号的预测精度，解决传统DPS方法在非线性信号网络传输中存在的可靠性问题；大大的减少了模型的训练的时间，只需要计算更新的拉格朗日乘子和偏置值。

Description

一种基于LS-SVM的互联网实时信号传输方法

技术领域

本发明属于计算机网络、信号处理两个技术领域的交叉，尤其涉及到基于LS-SVM在线双预测机制（DPS，Dual Prediction Scheme）来解决实时信号在网络中传输的问题，通过预测的方法来缓解由于网络传输造成的数据丢失、时延对实时信号影响。

背景技术

随着传感器、微电子、嵌入式计算和通信等几种技术的融合和汇聚，具有感知信息、数据处理、存储和通信能力的微型传感器被应用于国防军事、工业生产、环境监测等多个领域。无线传感器节点协作地感知、采集和处理网络覆盖的地理区域内感知大量的实时信号，并将其通过互联网传输给用户。在实际的监控应用场景中，从传感器采集的数据通常是连续的，例如温度、湿度等数据都是连续的，不可能发生跳跃现象。一般来说，所获得的信号值在一个给定的时期内表现出稳定性。由于受传感器节点失效、无线通信的不可靠以及能量的限制，传感数据的获取、处理和传送过程难免会出错，所以传感信号值在一定程度上是不可靠的，存在着一定范围的误差。在互联网传输大量的实时信号，受到网络带宽、时延、数据包丢失、网络拥塞的制约，无法满足用户对信号实时性与可靠性的要求。这使得传感器信号的处理变得更加的复杂。

在传统的方法中，采用的是以固定的时间间隔向应用端发送采样数据，需要在网络中传输大量的采样信号，增加网络的引入的不确定性因素的影响更加难以满足用户对信号实时性和可靠性的要求。在满足预测精度的前提下，选择有效的预测模型，能够有效的减少信号的网络传输，因而在信号的网络传输中引入预测的方法是必要的。实时信号的网络传输对其影响是动态的、随机和难以预知的，具有较强的非线性特性，传统的预测模型Kalman滤波、ARMA模型应用受到了很大的限制。双指数平滑技术虽然能够有效减少预测过程中波动因素对趋势的干扰，提高预测精度，但是由于其计算复杂度高，不适合在资源受限的传感器节点上使用。LS-SVM模型预测较好地解决了小样本、非线性、局部极小点等实际问题,具有很强的泛化能力、算法简单、学习速度快的特点。从应用端来看，信号采样是随着时间序列获得的或在线采集的，采用LS-SVM在线学习算法来处理非线性信号的方法是可行的。它会使信号传输过程具有在线自适应的能力，能够随着时间而进化；具有更高的预测精度，更好的外推能力，计算效率最高，能够较理想地适应传感器信号网络传输的特性。由于其是一种较为成熟的预测方法，并已经成功到模式识别、建模、软测量、故障诊断、控制等研究领域，取得了良好的效果。特别是在混沌信号序列的预测方面的成功应用，使得其在实时信号网络传输方面具有强大的优势。

在互联网传输实时信号的应用场合中，用户关心的是在预先指定的，与应用相关的精确度下观测物理现象。这样，所收集到的传感器信号数据若位于已知的误差阈值范围[-ε，+ε]，ε∈R⁺内时将会被接受。传感器节点按照固定的时间间隔收集本地信号值，利用这些信号建立预测模型，并将模型信息传输到应用端，应用端通过模型计算估计出当前或者未来时刻的传感器读数。由于传感器节点同样可以预测出读数的估计值，并且仅当在预测值与测量值的误差超过±ε时，才将模型的最新信息发送到应用端，这样就避免了不必要的通信。如果未接收到更新的模型，应用端将直接认为其使用相同预测模型获得的估计值符合要求的误差范围。这种不发送采样数据，而发送预测模型的机制被称为双预测机制（DPS）。本发明选用DPS的主要目是降低传感器节点与应用间信息更新的次数，节省节点能耗。在传感器和应用两端运行同一预测模型h，并使用其生成未来传感器读数的估计值，给出今后的信号预测值。如果预测值与传感器实际测量值的误差值超过所给误差阈值ε，更新的模型信息发送到应用端。与传统方案相比，DPS在确保收集到的数据满足用户需求的精确性的前提下，显著地降低了传感器与应用间的通信负载。然而由DPS所降低的通信负载取决于由传感器捕获到的时间序列的特性与所用预测模型间的恰当性。

在采用DPS来处理非线性信号在互联网中传输的问题时，互联网的引入已经让原有的线性时间序列的分析方法难以应付经由网络传输的传感器信号预测恢复问题，因此使用非线性模型分析处理网络传输的传感器信号是必要的。到目前为止的采用DPS方式的有AMIAR模型、Kalman滤波等，但是都无法满足其非线性的要求。基于此，本发明采用了基于LS-SVM在线预测的DPS，而此种方法尚未见到报道。

回归型的LS-SVM描述如下：观测到的传感器时间序列是窗式滑动。设在t时刻的滑动窗口中的观测样本为{(x₁，t₁)，…，(x_N，t_N)}x_i∈R^Nt_i∈R^Ni=1，…，N，N为滑动窗口中的样本数。

根据结构风险最小化原理，回归问题可以表示为约束优化问题：

$\underset{w,b,e}{\min }(w,e)=\frac{1}{2}{w}^{T}w+\frac{\mathrm{\γ}}{2}\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{e}_i^2---\left(1\right)$

s.t:x_i=w^TΦ(t_i)+b+e_i    （2）

其中γ为正则化参数（惩罚因子），b为常值偏差，e_i为误差变量。为了求解上述优化问题，建立Lagrange函数：

其中α_i为Lagrange乘子，根据Karush-Kuhn-Tucker(KKT)最优条件，并对于i=1,2LN消去e_i和w后，得到如下线性方程组：

$\left[\begin{array}{cc}0& {\mathrm{\Γ}}^T\\ \mathrm{\Γ}& Q+1/\mathrm{\γ}\end{array}\right]\left[\begin{array}{c}b\\ \mathrm{\α}\end{array}\right]=\left[\begin{array}{c}0\\ X\end{array}\right]---\left(4\right)$

其中X=[x₁,x₂,…,x_N]，Γ=[1,1,…,1]^T，α=[α₁,α₂,…,α_N]，

有多种核函数可以选择，包括多项式核、多层感知高斯器(MLP)核、样条生成核、RBF核等。其中RBF核

由公式(4)可以求解出α_i和b，最后可得如下回归型LS-SVM模型：

$\hat{x}(t+1)x\left(t\right)=\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{\mathrm{\α}}_{i}K(t_j,t)+b---\left(5\right)$

发明内容

本发明提供一种基于LS-SVM的互联网实时信号传输方法，以解决非线性信号在互联网中的预测与传输的问题。

本发明采取的技术方案是，包括下列步骤：

（一）、初始化阶段

（1）首先，选择N个均匀的采样数据，使用粒子群算法PSO，对核函数参数δ和常数γ进行优化，建立LS-SVM模型，即算出核函数、α_i和b；由于采用的是均匀的采样，N值的大小也是固定的，由RBF核函数的计算公式可知核函数在整个预测过程中不受时间因素影响，是时不变的，在发送端存储已经算好的核函数和核函数的逆矩阵，能够有效的减少数据的计算量，其中核函数被用来预测数据，核函数的逆矩阵被用来计算预测模型参数α_i和b的，依据建立的LS-SVM模型对采样数据进行预测，如果预测值和真实的采样数据值得误差超出用户期望误差ε时，计算发送数据的压缩率，由于在模型的信息交互过程中，选择三次的“握手”机制，在时钟同步的过程，和传输模型的更新信息，共需要发送6个数据帧，故：

（2）随着预测数据的个数的增加，压缩率随之增大，当数据的压缩率大于用户期望压缩率P时，选择压缩率最接近P时刻对应的预测误差阈值作为发送端的预测误差阈值ε_s，向应用端发送核函数创建所需的初始时间和时间间隔信息的数据帧；否则，向应用端发送无法进行该精度下预测的信息反馈；

二、模型信息的交互过程

发送端先发送同步请求，应用端收到后计算处理延迟，并将该值随同步响应帧和确认帧返回至发送端；发送端计算初始发送时刻和发送端接收到响应的时刻的差值，将其与接收端上的处理延迟相减，除以2即得到本次的同步帧传输时间，发送端向应用端发送携带同步帧传输时间的同步包和确认包，之后传输模型的更新信息，故一次的模型更新需要传输6个数据帧；

三、发送端模型更新

模型信息的更新，并将更新的模型信息发送到应用端，具体的模型更新条件是：

（1）误差在[0,ε_s]时，LS-SVM进行了很好的数据预测，不需要更新模型；

（2）误差在[ε_s，ε_r]，预测误差在此范围的采样数据的个数超出训练样本

时，才更新模型，并选取这之后连续的N个均匀的采样数据建立模型；

（3）误差大于ε_r时由于数据的剧烈动荡，需要立即更新更新模型；

采用两个阈值的方式，在保证模型的预测精度的同时，减少了模型的更新次数，可以有效的减少网络带宽的占有率；

四、应用端信号重建的过程；

（1）应用端首先等待模型信息交互过程，接收同步帧，回复同步帧和确认帧，接收确认帧和同步帧后，解析同步帧，更新本地时钟信息；

（2）应用端将用户定义的预测误差阈值ε_r发送到发送端，等待接收发送端的反馈信息，如果是无法满足该精度的预测时，需将此信息反馈给用户；否则，接收模型的核函数信息帧，依据初始时间和时间间隔生成核函数，保存核函数，利用预测模型计算信号采样值，并直接使用；

（3）接收模型的更新信息后，建立LS-SVM模型，对未传输的训练样本数据和采样值不满足更新条件的数据进行信号的恢复。

本发明的优点是：在发送端和应用端同时创建的基于LS-SVM的DPS双预测模型，（1）采用DPS机制，在期望的误差范围内，用预测模型的传输来替代采样数据的传输，大大减少网络传输数据量，有效的减少了网络带宽的占有率。（2）用LS-SVM在线预测提高互联网中非线性信号的预测精度，解决传统DPS方法在非线性信号网络传输中存在的可靠性问题；（3）在LS-SVM构建的DPS处理非线性信号时，采用的是自学习的方式调整系数，更适应环境的变化；（4）采用时间均匀的样本建立采样的模型，由于时间的间隔是均匀的，核函数是相同的，保存核函数矩阵。大大的减少了模型的训练的时间，只需要计算更新的拉格朗日乘子和偏置值。

附图说明

图1是基于LS-SVM在线学习的DPS原理框图；

图2是基于LS-SVM在线学习的DPS具体的算法的流程图；

图3实验一的仿真结果示意图；

图4实验二的仿真结果示意图。

具体实施方式

在DPS框架下，使用LS-SVM模型对信号进行预测。如图1所示。物理传感器周期性地对真实的物理现象进行测量和采样，并将均匀采样信号发送到LS-SVM预测模型；在LS-SVM预测模型中，利用训练样本对参数和核函数进行学习，确定适合的模型参数，在这个部分完成了采样数据到预测模型的转化；通过数据发送模块将模型参数以数据帧的格式发送到互联网中；接收模块接收到数据帧并解析得到预测模型参数信息，并将这些信息送给LS-SVM预测模型；LS-SVM更新预测模型，并进行采样数据的估计。

本发明所涉及的符号说明如下：

ε_s发送端与应用端定义的预测误差阈值；

ε_r应用端定义的预测误差阈值

Count_pre初始阶段LS-SVM模型预测的数据数量；

Count_err预测误差在[ε_s，ε_r]数量

发送端接收回复的同步确认帧接收时间

应用端同步帧接收时间

应用端同步帧响应回复时间

为发送端发送同步帧时间

Δ_trans数据帧网络传输的时间

θ(α,b)模型参数信息帧α为Lagrange乘子；b为常值偏差

f(t,0,θ)网络中传输的数据帧：第一位t表示时间；第二位是0表示同步帧、1表示同步的确认帧；第三位θ为模型参数信息。

本发明包括下列步骤：

（一）、初始化阶段

发送的LS-SVM模型更新信息是应用端建模的基础，如何在满足应用端的误差的前提下，有效的减少模型信息的更新和数据更新的延迟称为亟待解决的问题，虽然在应用端定义用户级的预测误差能够有效的减少数据的传输，但是由于发送端与应用端选用的是相同的LS-SVM模型，当发送端的误差超出用户定义的预测误差阈值时，才进行模型的更新，增加了延迟的时间，本发明选择的方式在双预测误差阈值的方式，即在发送端和应用端分别定义预测的误差阈值，在发送端的预测误差阈值是依据应用端的预测误差阈值创建的，并且比应用端的预测误差阈值更加的严苛，采用此种方法，在减少数据的传输的同时，能够减少由于建模而引起的延时；模型信息交互传输过程是由应用端发起的，在接收应用端定义的预测误差阈值ε_r后，才能确定发送端的预测误差阈值ε_s；

具体算法过程描述为：

1、首先，选择N个均匀的采样数据，使用粒子群算法PSO，对核函数参数δ和常数γ进行优化，建立LS-SVM模型，由于本项目采用的是均匀的采样，N值的大小也是固定的，由RBF的计算公式得到，核函数是不变的，存储核函数（用于预测）和核函数的逆矩阵（用于计算α_i和b的），能够有效的减少数据的计算的量，依据建立的LS-SVM模型对采样数据进行预测，如果预测值和真实的采样数据值得误差超出ε时，计算数据的压缩率，由于在模型的信息交互过程中，选择三次的“握手”机制，在时钟同步的过程，和传输模型的更新信息，共需要发送6个数据帧，故：

2、随着预测数据的个数的增加，压缩率随之增大，当数据的压缩率大于P时，选择压缩率最接近P时对应的预测误差阈值作为发送端的ε_s，向应用端发送核函数创建所需的初始时间和时间间隔信息的数据帧；否则，向应用端发送无法进行该精度下的预测；

二、模型信息的交互过程

对于传统的传感器采样实时传输来说，一般不采用可靠的面向连接的传输协议，如TCP/IP，因为应用程序一般要求最新时刻的采样数据，丢失后重传没有太多实用意义。而对于本方法来说，由于用预测模型替代了传感器采样，如果模型丢失将会带来很大的预测误差。所以，采用“握手”机制保证发送的模型信息成功的传输的同时实现时钟的同步；

具体实现为：发送端先发送同步请求，应用端收到后计算处理延迟，并将该值随同步响应帧和确认帧返回至发送端；发送端计算初始发送时刻和发送端接收到响应的时刻的差值，将其与接收端上的处理延迟相减，除以2即得到本次的同步帧传输时间，发送端向应用端发送携带同步帧传输时间的同步包和确认包，之后传输模型的更新信息，故一次的模型更新需要传输6个数据帧；

三、发送端模型更新

模型信息的更新，并将更新的模型信息发送到应用端，我们考虑定义两个预测阈值：ε_s和ε_p，LS-SVM的预测模型中，由于噪音的干扰，导致预测值和真实的采样值的误差超出了ε_s并不进行更新，当前预测模型信息进行预测所产生在[ε_s，ε_r]范围内，不立即进行模型的更新；只有连续预测误差在[ε_s，ε_r]范围内时，或误差值超出ε_r时才进行模型的更新；

具体的模型更新条件是：

1、误差在[0,ε_s]时，LS-SVM进行了很好的数据预测，不需要更新模型；

2、误差在[ε_s，ε_r]，预测误差在此范围的采样数据的个数超出训练样本

时，才更新模型。选取是之后的N个均匀的采样数据建立模型；

3、误差大于ε_r时由于数据的剧烈动荡，需要立即更新更新模型；

采用两个阈值的方式，在保证模型的预测精度的同时，减少了模型的更新次数，可以有效的减少网络带宽的占有率；

四、应用端信号重建的过程；

应用端接收的不是真实的采样数据，而是LS-SVM的模型的信息，应用端依据接收的模型信息，建立LS-SVM模型，拟合原始的采样数据信号，在新的模型的更新的信息未到之前，根据最后接收的更新模型的信息，进行采样数据的预测；

具体的算法描述过程：

1、首先，等待模型信息交互过程，接收同步帧，回复同步帧和确认帧，接收确认帧和同步帧后，解析同步帧，更新本地时钟信息；

2、应用端将用户定义的预测误差阈值ε_r发送到发送端，等待接收发送端的反馈信息，如果是无法满足该精度的预测时，需将此信息反馈给用户；否则，接收模型的核函数信息帧，依据初始时间和时间间隔生成核函数，保存核函数，并利用模型信息计算信号采样值。

3、接收模型的更新信息后，建立LS-SVM模型，对未传输的训练样本数据和采样值不满足更新条件的数据进行信号的恢复。

下边结合具体实例进一步说明本发明：

1.初始化阶段算法步骤：

1.1、接收应用端发送的预测误差ε_r，由均匀的采样信号形成训练样本，PSO算法优化核函数参数δ和常数γ，建立LS-SVM的预测模型。

1.2、

IFe(t+1)>ε_r则结束数据的预测，e(t+1)是t+1时刻的实际预测误差；ELSE Count_pre=Count_pre+1，t=t+1返回1.1；

则此时刻对应的误差值为发送端的误差ε_s；ELSE向应用端发送无法进行该精度下的预测；

2.模型信息交互过程算法步骤。发送端向应用端的监听程序发送同步帧f(0,0,0)，记录（

为发送端发送同步帧时间）并等待接收端的回复。

2.1、2.IF在截止时间前收到确认帧，则转到步骤三；ELSE，检查重传次数计数器中的值，IF小于3，回到2.1、1；ELSE更新状态为应用端不可达，退出监听程序.；

2.1、3.接收应用端发送来的回应并解析，同时记录

（

为回复接收时间）；计算

发送确认帧和同步帧f(Δ_trans,1,0)。更新状态为可以传输数据。

2.2、1.发送用户定义的预测误差阈值ε_r，对接下接收的数据帧进行解码，如果是无法进行该精度下的预测，告知用户；否则根据初试时间和时间间隔和采样样本的数据大小N，依据RBF公式，计算核函数和核函数逆矩阵，并存储。

2.2、2.接收同步的数据帧f(0,0,0)，回复

分别为同步帧接收时间和响应回复时间。

2.2、3.接收发送端的确认包f(T_s,1,Δ_trans)，更新系统同步时钟信息为T_s+Δ_trans。

3.1、依据公式（5）LS-SVM预测模型得到t+1时刻的估计值

IFe(t+1)<ε_rANDe(t+1)>ε_sTHENCount_err=Count_err+1；ELSE IF e(t+1)>ε_rOR

THEN回1.2更新模型；ELSE THEN t=t+1，返回3.1。

3.2、计算得到拉格朗日乘子α_i和b。

3.3、等待监听程序返回的值，如果状态是可以传输数据，则传输模型的更新信息f(0,0,θ)。否则为应用端是不可达的。

4.应用端信号重建过程：

4.1、IF接收到了模型的更新信息f(0,0,θ)，THEN4.2；否则4.3；

4.2、更新应用端的LS-SVM的预测模型。

4.3、依据LS-SVM进行模型信息的预测。

下边通过具体仿真实验来进一步说明本发明效果：

本发明目前已完成仿真实验，具体的实验环境为。在互联网的实验中，以自主开发的实时信号网络传输软件为实验的软件环境，分为发送端和接收端两个部分。发送端主要对给定的信号进行均匀的采样，并根据LS-SVM模型进行选择性的信号发送。接收端主要负责的是对接收到的数据帧中的信号重建。Matlab7.0作为实验的仿真的工具，并且完成信号的图形化的显示的工作。选择TCP作为通信的协议，一个数据包包含一次模型更新的信息。

在互联网传输的实验，实验一给定的信号为

仿真的区间为[0s,20s],采样的周期为0.05s。实验二给定的信号为x=cos(2πt)，仿真的区间为[0s,20s],采样的周期同样为0.05s。实验的结果如图3、图4所示，图的最下端显示实线部分为选用传统周期性的传输采样信号，在应用端重建信号的输出值与原始信号间的误差；虚线部分是采用的LS-SVM在线学习的DPS的信号的输出与原始的信号间的误差。仿真接收表明采用LS-SVM在线学习的DPS的方法明显的优于直接发送采样信号。

表1实验结果分析

从以上的实验结果分析可以得出以下的结论，采用LS-SVM在线学习的DPS方式处理非线性的信号，可以有效的减少网络带宽的占有率；能够很很大程度弥补网络传输丢包、延时造成的误差。

Claims (1)

1.一种基于LS-SVM的互联网实时信号传输方法，其特征在于包括下列步骤：

（一）、初始化阶段

（1）、首先，选择N个均匀的采样数据，使用粒子群算法PSO，对核函数参数δ和常数γ进行优化，建立LS-SVM模型，即算出核函数、α_i和b，由于采用的是均匀的采样，N值的大小也是固定的，由RBF核函数的计算公式可知核函数在整个预测过程中不受时间因素影响，是时不变的，在发送端存储已经算好的核函数和核函数的逆矩阵，能够有效的减少数据的计算量，其中核函数被用来预测数据，核函数的逆矩阵被用来计算预测模型参数α_i和b的，依据建立的LS-SVM模型对采样数据进行预测，如果预测值和真实的采样数据值得误差超出用户期望误差ε时，计算发送数据的压缩率，由于在模型的信息交互过程中，选择三次的“握手”机制，在时钟同步的过程，和传输模型的更新信息，共需要发送6个数据帧，故：

（2）、随着预测数据的个数的增加，压缩率随之增大，当数据的压缩率大于用户期望压缩率P时，选择压缩率最接近P时刻对应的预测误差阈值作为发送端的预测误差阈值ε_s，向应用端发送核函数创建所需的初始时间和时间间隔信息的数据帧；否则，向应用端发送无法进行该精度下预测的信息反馈；

（二）、模型信息的交互过程

发送端先发送同步请求，应用端收到后计算处理延迟，并将该值随同步响应帧和确认帧返回至发送端；发送端计算初始发送时刻和发送端接收到响应的时刻的差值，将其与接收端上的处理延迟相减，除以2即得到本次的同步帧传输时间，发送端向应用端发送携带同步帧传输时间的同步包和确认包，之后传输模型的更新信息，故一次的模型更新需要传输6个数据帧；

（三）、发送端模型更新

模型信息的更新，并将更新的模型信息发送到应用端，具体的模型更新条件是：

（1）、误差在[0,ε_s]时，LS-SVM进行了很好的数据预测，不需要更新模型；

（2）、误差在[ε_s，ε_r]，预测误差在此范围的采样数据的个数超出训练样本

时，才更新模型。选取是之后的N个均匀的采样数据建立模型；

（3）、误差大于ε_r时由于数据的剧烈动荡，需要立即更新更新模型；

采用两个阈值的方式，在保证模型的预测精度的同时，减少了模型的更新次数，可以有效的减少网络带宽的占有率；

（四）、应用端信号重建的过程；

（1）、首先，等待模型信息交互过程，接收同步帧，回复同步帧和确认帧，接收确认帧和同步帧后，解析同步帧，更新本地时钟信息；

（2）应用端将用户定义的预测误差阈值ε_r发送到发送端，等待接收发送端的反馈信息，如果是无法满足该精度的预测时，需将此信息反馈给用户；否则，接收模型的核函数信息帧，依据初始时间和时间间隔生成核函数，保存核函数，并利用模型信息计算信号采样值；

（3）、接收模型的更新信息后，建立LS-SVM模型，对未传输的训练样本数据和采样值不满足更新条件的数据进行信号的恢复。

Images