CN102932847B - 基于稀疏表示分类器的分布式压缩感知数据分类方法 - Google Patents

Abstract

本发明请求保护一种基于稀疏表示分类器的分布式压缩感知数据分类方法，涉及无线网络领域。针对传统分类方法应用于规模较大或应用较多的传感器网络时，未充分考虑传感节点数据传输和处理负担过重以及数据稀疏相关的特点，设计了一种适用于相关稀疏数据的分类方法，将数据稀疏系数的共有部分和特有部分作为分类依据，合理地对传感器数据进行处理。本发明提出的数据分类方法对于传感器网络数据分类结果比较准确，同时利用稀疏系数的策略能够有效地降低网络能耗，提高算法效率和数据处理性能，利于用户管理，便于网络应用及规模的拓展。

Description

基于稀疏表示分类器的分布式压缩感知数据分类方法

技术领域

本发明涉及无线网络领域，尤其涉及传感器网络的数据分类机制。

背景技术

传感器网络（Wireless Sensing Networks，WSNs）是一种由大量传感器节点构成的自组织网络。随着硬件和软件技术的发展，其应用范围得到了极大发展。然而，传感器节点在存储空间、处理能力和能量等方面存在一定的局限性，使得数据融合技术成为大规模传感器网络的研究方向之一。

数据融合技术是指对若干观测信息，在一定准则下加以分析、综合，以完成所需的决策和评估任务而进行的信息处理技术，能够有效地均衡并降低传感器网络中的节点能量消耗。压缩感知（Compressive Sensing，CS）方法是新兴的数据融合技术之一，通过对原始数据进行测量编码与重构译码，达到降低其维数的目的，同时保留数据重要信息，其融合效果已得到大量验证。分布式压缩感知理论（Distribution Compressive Sensing，DCS)提出了相应的联合稀疏模型（Joint Sparsity Models，JSMs）将数据表示为共有和特有两部分，合理地表示多个相关联的数据，打破了分布式网络中的数据采样和传输的发展瓶颈。实际传感器网络中任务目标存在多样性，导致网络中的数据呈现出多样化和复杂化，同时传感器网络的节点随机分布于应用场景中，相邻节点的感知数据之间存在一定关联性，其冗余数据加重了节点的处理负担。考虑到传感器网络的多应用场景以及数据之间的相关性，通过分析任务目标数据，数据分类机制可根据一定的准则将以上数据分为若干个类别，有效处理节点的感知数据。精准的分类可以大大降低节点的处理效率和能耗，并适应传感网能量受限的特性。

目前传感器网络中的数据分类技术主要包括支持向量机（Support Vector Machine，SVM），K最邻近（K-NN），贝叶斯回归等算法。K.Flouri，B. BeferullLozano，P. Tsakalides在“Training aSVM-basd classifier in distributed sensor networks” 【Proceedings of the 14th European Signal Conference (EUSIPCO 2006), Florence, Italy, 2006】利用稀疏表示的边界性原理，提出了一种基于SVM的分布式分类算法。Liu Chun Ting, HUO Hong, FANG Tao等在“Classification Fusion in Wireless Sensor Networks” 【Acta Automatica Sinica, vol. 32, no. 6, pp. 947–955, 2006】中提出在传感节点处，利用K-NN算法分别对获取的任务数据独立分类后，再将分类结果传送至汇聚节点。Shihao Ji,David Dunson,Lawrence Carin在“MultitaskCompressive Sensing” 【IEEE Transactions on Signal Processing, vol. 57, no. 1, JAN, 2009】中构造了一种基于多任务的压缩感知分类模型，在压缩感知模型中结合了贝叶斯的后验参数估计方法。

以上分类方法都包括训练样本学习和测试样本分类两个阶段，但是，计算复杂度过高，且未充分考虑传感网络数据的稀疏性和相关性特点。基于表示的分类器SRC（Sparse Representation-based Classifier）是一种非参数的学习方法，可在不经过训练样本学习阶段，且不需要假设函数和参数的情况下，直接给测试样本分配一个类别标签。为了有效地提高传感器网络数据的分类性能，本发明提出一种基于稀疏表示分类器的分布式压缩感知数据分类方法，通过将训练数据分为共有和特有部分，准确地获取类别数据的特征，作为分类的重要依据，能够有效提高算法效率和数据处理性能等。

发明内容

本发明所要解决的技术问题是：当传感器网络规模增大或应用增多时，对于能量受限的传感节点来说，数据传输和处理负担过重，此外，网络中所传输的数据具有稀疏性和相关性特点，传统分类方法难以精准地对该类数据进行分类。针对此问题，本发明依据传感器网络的数据特点，将同类数据分为共有与特有两个部分，设计了一种适用于相关稀疏数据的分类方法，避免了传统分类方法学习阶段的额外开销，更有利于传感器网络的数据处理。

本发明解决其技术问题所采用的技术方案是：利用压缩感知技术，将压缩变换所得的稀疏系数作为分类过程中的重要参数。由于稀疏系数的非零值的数值和位置与原始数据存在一一对应的关系，则数据在固定稀疏基下的稀疏系数具有惟一性，且稀疏系数的维数远低于原始数据，可见，在分类算法过程中，将稀疏系数作为主要参数可以有效地节省计算开销。因此，在相同稀疏基下，利用不同类别数据的稀疏系数作为数据分类依据。显然，属于同一类别的数据在稀疏系数的表示下属于相关数据，则该类别任意数据的稀疏系数可由其它数据的稀疏系数集合以线性方式进行描述。因此，本发明将同一类别数据的共同特点以共有部分来表示，而同一类别数据的共有稀疏系数部分在相同稀疏基的情况下，也同样表示了该类别数据的共同特点。

同时，本发明将感知数据分为两部分，一部分数据作为训练样本，一部分数据作为分类用的测试样本，以检验分类算法的准确性。将所有训练样本都按照上述方法表示，按照所属类别将共有和特有部分分别依次排列成两个新的矩阵。在相同稀疏基的条件下，若测试样本稀疏系数的共有和特有部分，能够被训练样本相对应的部分线性表示，同时满足线性表示时的非零系数所对应的类别相同，则可以确定该测试样本的类别。具体为：

一种基于稀疏表示分类器的分布式压缩感知的传感器网络数据分类方法，汇聚节点将传感器节点的感知数据作为训练样本数据，不同的监测任务样本数据均在同一稀疏基Ψ下进行系数变换，将每个训练样本数据表示为公共部分和特有部分；采用与训练样本相同的稀疏基Ψ，根据公式x=Ψα，给定一个属于c个类别的测试样本x的类别标签；根据训练样本的公共部分和特有部分的稀疏系数，构造所有训练样本的特有稀疏系数矩阵α_s和公共稀疏系数矩阵α_cm；用训练样本的稀疏基矩阵将测试样本的稀疏基矩阵表示为方程：α=α_cmk₁+α_sk₂，求解上述方程为测试样本的数据x寻找类别标签y，其中，α为测试样本的稀疏基矩阵。将训练样本中的每个数据根据公式：x_j,q=z_cm,j+z_j,q=Ψα_cm,j+Ψα_s,j表示为两个部分，其中，z_cm,j和z_j,q分别表示j类别训练样本x_j,q(q=1,2,…,n_j)的共有部分和特有部分（n_j为j类别训练样本的数据数目），且z_cm,j=Ψα_cm,j，z_j,q=Ψα_s,j，Ψ是稀疏基，α_cm,j和α_s,j分别表示公共部分和特有部分维数为m的稀疏系数。根据公式：，确定所有训练样本的特有稀疏系数矩阵α_s,j，根据公式确定所有训练样本的公共稀疏系数矩阵α_cm。利用l₁范数下的优化问题求解方程：α=α_cmk₁+α_sk₂，k₁和k₂需满足以下条件：k₁≠0且j₁=j₂，获得的j₁或者j₂即为测试样本数据x的类别标签，其中， ，，是训练样本的j类别数据对应的共有稀疏系数， 是对应训练样本数据x_j,q的特有稀疏系数。

本发明的有益效果是：本发明提出了一种基于稀疏表示分类器的分布式压缩感知数据分类方法，充分考虑了传感器网络数据的稀疏性和相关性，利用稀疏表示以及在固定稀疏基下的稀疏系数的唯一确定性，设计了分类矩阵和分类过程，从而准确地判断了测试样本的类别标签。同时将同一类别数据的共有和特有部分作为分类过程中的重要参数。与现有的传感器网络数据分类方法相比较，本专利提出的方法能够有效地将高维数据表示为低维的稀疏系数，能够有效地降低网络能耗，提高算法效率和数据处理性能，利于用户管理，便于网络应用及规模的拓展。

附图说明

图1 传感器网络数据分类流程图；

图2  j类别训练数据的表示图；

图3 所有训练数据的分类参数α_cm和α_s的表示图；

图4 基于稀疏系数的数据分类方法流程图。

具体实施方式

在实际的传感器网络中，由于应用范围的扩展，节点数量众多，并且同一场景中可能存在多种监测传感器节点和监测任务，合理地分析和处理这些数据将有效地提高传感器网络的扩展性。数据分类方法利用数据相关的特性，能够有效地降低数据处理量，减少节点能耗，实现高效处理网络数据的目的。

在传感器网络中，节点大体上分为两类：大量的传感节点和少数的汇聚节点。传感节点负责收集周边的任务数据，汇聚节点负责收集传感节点的数据。并且，汇聚节点的能量比较充沛，因此把汇聚节点看作是能量不受限的节点。

本发明的网络数据分类流程如图1所示：传感节点压缩处理收集的原始数据，获取特征数据，汇聚节点再根据以下分类方法对上述数据进行分类，以便管理者的分析与处理。

汇聚节点将传感器节点的感知数据作为训练样本数据，不同的监测任务样本数据均在同一稀疏基Ψ下进行系数变换，将每个训练样本数据表示为公共部分和特有部分；采用与训练样本相同的稀疏基Ψ，根据公式x=Ψα，给定一个属于c个类别的测试样本x的类别标签；根据训练样本的公共部分和特有部分的稀疏系数，构造所有训练样本的特有稀疏系数矩阵α_s和公共稀疏系数矩阵α_cm；用训练样本的稀疏基矩阵将测试样本的稀疏基矩阵表示为方程：α=α_cmk₁+α_sk₂，求解上述方程为测试样本的数据x寻找类别标签y，其中，α为测试样本的稀疏基矩阵。

如图2所示为 j类别训练数据的表示图。

汇聚节点将传感器节点的感知数据作为训练样本数据，不同的监测任务样本数据，均在同一稀疏基Ψ下进行系数变换，将每个训练样本数据表示为公共部分和特有部分。采用与训练样本相同的稀疏基Ψ，基于压缩感知模型，根据公式x=Ψα，判断属于c个类别的测试样本的类别标签。

一、训练数据表示

本发明根据监测任务将数据x_i（其中i表示数据序号）进行分类，把一种监测任务的数据归为同一类别的数据。假设网络中有c个类别，共n个训练数据，数据维数为M，其集合表示为：

上式中，c是类别数目，M是样本数据所属空间域χ的维数，y_i是数据x_i相对应的类别标签。对于训练样本中的j类别数据用列矩阵X_j来表示：

其中，x_j,q表示j类别训练样本中的样本数据，n_j为j类别训练样本的数据数目，且。根据压缩感知理论，自然信号数据都是可压缩的，而目前信号研究领域研究的信号数据都是由自然信号数据以各种形式组合而成的，因此样本数据都是可压缩的。

压缩样本数据，属于同类别的所有数据均在同一稀疏基Ψ下进行稀疏变换，将训练样本中的每个数据表示为公共部分和特有部分。如图2所示，j类别训练样本中的每个数据都可以用JSM1表示为以下两个部分：

$x_{j,q}=z_{\mathrm{cm},j}+z_{j,q}=\mathrm{\Ψ}{\mathrm{\α}}_{\mathrm{cm},j}+\mathrm{\Ψ}{\mathrm{\α}}_{s,j}(q=\mathrm{1,2},...,n_j,j=\mathrm{1,2},...,c)---\left(3\right)$

上式中，z_cm,j和z_j,q分别表示j类别训练样本x_j,q的公共部分和特有部分，且z_cm,j=Ψα_cm,j，z_j,q=Ψα_s,j，其中，Ψ是稀疏基，α_cm,j和α_s,j分别表示公共和特有部分的稀疏系数，维数为m且m<<M。由于属于j类别的所有数据均在同一稀疏基Ψ下进行稀疏变换，因此，各个感知数据的共有部分z_cm,j均相同，而特有部分z_j,q均不相同，显然，与之对应，j类别训练样本变换后的α_cm,j也全部相同，α_s,j各不相同。共有部分的稀疏系数描述了同类数据所共有的数据特征，特有部分的稀疏系数则表示同类数据各自所特有的数据特征，两者结合唯一可确定类别中的数据。

本发明根据公式：

将j类别的训练样本的特有稀疏系数表示为矩阵α_s,j。（4）式中表示j类别数据的第n_j个数据的特有稀疏系数。

图3所示为所有训练数据的分类参数α_cm和α_s的表示图。如图3所示，根据上述训练样本的公共部分和特有部分的稀疏系数，构造所有训练样本的特有稀疏系数矩阵α_s和公共稀疏系数矩阵α_cm。所有训练样本的特有稀疏系数矩阵为：

上式中，α_s,c指的是c类别数据的特有稀疏系数。类似地，为所有的训练样本构造的共有稀疏系数矩阵α_cm为：

上式中，α_cm,c表示的是c类别数据的公共稀疏系数。

二、测试样本表示

本发明的目标是准确地判断测试样本x的类别标签y。根据SRC，将测试样本用训练样本线性地表示。由于属于同一类别的数据在稀疏系数的表示下属于相关数据。

本实施例中，稀疏基可选择具有通用性的Fourier函数，若所有任务具有一定的共通性，可根据其通用性调换合适的稀疏基。节点选取固定的稀疏基，其稀疏系数与节点的感知数据存在一一对应的关系，则节点的任意感知数据的稀疏系数也可由该类别其它数据的稀疏系数集合来线性表示。

为了利用测试样本作为分类参数，则在压缩感知模型下，采用与训练样本相同的稀疏基Ψ，根据公式：

$x=\mathrm{\&Psi;\&alpha;}---\left(7\right)$

给定一个属于c个类别的测试样本。（其中，α为测试样本的稀疏基矩阵）。

三、基于稀疏系数的分类

用训练样本的特有稀疏系数矩阵α_s和共有稀疏系数矩阵αcm调用公式：

$\mathrm{\&alpha;}={\mathrm{\&alpha;}}_{\mathrm{cm}}{k}_1+{\mathrm{\&alpha;}}_s{k}_2---\left(8\right)$

线性表示测试样本的稀疏基矩阵。其中，是系数向量。若测试样本x属于j类别，则k₁和k₂可以分别表示为：

$k_1={[0,...,0,k_{j_1},0,...,0]}^T---\left(9\right)$

$k_2={[0,...,0,k_{j_2,1},...,k_{j_2,q},0,...,0]}^T,q=\mathrm{1,2},...,n_j---\left(10\right)$

（9）式中的是训练样本的j类别数据对应的共有稀疏系数，（10）式中的是对应于训练样本数据x_j,q的特有稀疏系数。显然，系数向量k₁和k₂是稀疏的。由于压缩感知的求解是NP难问题，而零范数更具有现实意义，为了解决找到它的近似解，引出l₁范数最小化问题，用1范数代替0范数。因此，根据SRC的原理，k₁和k₂的求解可以化为l₁范数下的优化问题：

$\underset{k_1}{\min }{\left|\right|\mathrm{\&alpha;}-{\mathrm{\&alpha;}}_{\mathrm{cm}}{k}_1-{\mathrm{\&alpha;}}_{\mathrm{cm}}{k}_2\left|\right|}_{l_1}s.t.\mathrm{\&alpha;}={\mathrm{\&alpha;}}_{\mathrm{cm}}{k}_1+{\mathrm{\&alpha;}}_s{k}_2---\left(11\right)$

为了寻找到最合适的k₁和k₂，则公式（11）满足以下条件：

k₁≠0且j₁=j₂  (12)

测试样本x的共有稀疏系数和特有稀疏系数都能够由j类别的训练样本的稀疏基矩阵表示，则上式中的j₁或者j₂即为测试样本数据x的类别标签y。

以上分类流程见图4所示。测试样本x被表示为：x=Ψα，用训练样本的稀疏基矩阵表示其稀疏基α：α=α_cmk₁+α_sk₂。其中，α_cm为训练样本的共有稀疏系数矩阵，α_s为训练样本的特有稀疏系数矩阵，，，是训练样本的j类别数据对应的共有稀疏系数， 是对应训练样本数据x_j,q的特有稀疏系数。当k₁和k₂满足条件k₁≠0且j₁=j₂的时候，j₁或者j₂即为测试样本数据x的类别标签。

Claims (2)

1.一种基于稀疏表示分类器的分布式压缩感知的传感器网络数据分类方法，汇聚节点将传感器节点的感知数据作为训练样本数据，不同的监测任务样本数据均在同一稀疏基Ψ下进行系数变换，将每个训练样本数据表示为公共部分和特有部分；采用与训练样本相同的稀疏基Ψ，根据公式x＝Ψα，给定一个属于c个类别的测试样本x的类别标签；根据训练样本的公共部分和特有部分的稀疏系数，构造所有训练样本的特有稀疏系数矩阵α_s和公共稀疏系数矩阵α_cm；用训练样本的特有稀疏系数矩阵α_s和公共稀疏系数矩阵α_cm将测试样本的稀疏系数矩阵α表示为方程：α＝α_cmk₁+α_sk₂，根据公式：s.t. α＝α_cmk₁+α_sk₂寻找最合适的k₁和k₂，k₁和k₂满足条件：k₁≠0且j₁＝j₂，获得的j₁或者j₂即为测试样本数据x的类别标签y，其中， $k_1={[0,L,0,k_{j_1},0,L,0]}^T,$ $k_2={[0,L,0,k_{j_2,1},L,k_{j_2,q},0,L,0]}^T,$ 是训练样本的j类别数据对应的公共稀疏系数，是对应训练样本数据x_j,q的特有稀疏系数，l₁为范数。

2.根据权利要求1所述的数据分类方法，其特征在于，根据公式：α_s＝[α_s,1,α_s,2,L,α_s,c]∈^m×n，确定所有训练样本的特有稀疏系数矩阵α_s，根据公式确定所有训练样本的公共稀疏系数矩阵α_cm，其中，m为稀疏系数的维数，n为训练数据个数。