CN107798383B - 改进的核极限学习机定位方法 - Google Patents
改进的核极限学习机定位方法 Download PDFInfo
- Publication number
- CN107798383B CN107798383B CN201711020650.2A CN201711020650A CN107798383B CN 107798383 B CN107798383 B CN 107798383B CN 201711020650 A CN201711020650 A CN 201711020650A CN 107798383 B CN107798383 B CN 107798383B
- Authority
- CN
- China
- Prior art keywords
- sample
- matrix
- subspace
- learning machine
- positioning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 40
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 79
- 239000011159 matrix material Substances 0.000 claims abstract description 70
- 238000012549 training Methods 0.000 claims abstract description 44
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000005259 measurement Methods 0.000 claims description 9
- 238000012360 testing method Methods 0.000 claims description 9
- 238000004458 analytical method Methods 0.000 claims description 4
- 230000002596 correlated effect Effects 0.000 claims description 3
- 238000000354 decomposition reaction Methods 0.000 claims description 3
- 238000000638 solvent extraction Methods 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 description 23
- 238000004088 simulation Methods 0.000 description 17
- 239000010410 layer Substances 0.000 description 9
- 238000000513 principal component analysis Methods 0.000 description 6
- 238000009826 distribution Methods 0.000 description 5
- 238000002474 experimental method Methods 0.000 description 4
- 210000002569 neuron Anatomy 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 230000000875 corresponding effect Effects 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 239000002356 single layer Substances 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 230000002068 genetic effect Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及无线定位,为提高定位精度又能降低样本数据维度,提高定位速度,得到定位预测模型。本发明采用的技术方案是,改进的核极限学习机定位方法,首先,采取在同一位置进行多次测量的方法得到训练数据;然后,再把同一位置测得的数据划分为一个样本子空间并提取样本子空间的特征,以样本子空间的特征代替原来的训练数据;同时,利用矩阵近似及矩阵扩展的相关理论改进核极限学习机算法;最后,将得到的处理过的训练数据利用改进的核极限学习机进行训练,得到定位预测模型,用得到的定位预测模型进行位置估计,达到定位目的。本发明主要应用于无线定位场合。
Description
技术领域
本发明涉及无线定位,机器学习行和神经网路算法研究领域,具体讲,涉及改进的核极限学习机定位方法。
背景技术
近年来,随着神经网络的发展越来越成熟,神经网络被广泛应用于人工控制、图像分析、智能预测等各个领域。由于神经网络具有抗干扰能力强、非线性映射能力强、自学习能力强等优点,许多学者将神经网络应用在无线定位领域。例如:RBF神经网络、BP神经网络、SVM支持向量机、ELM(extreme learning machine)极限学习机等神经网络都被应用到了无线定位中。神经网络定位主要分为两部分:训练和预测。训练阶段,主要是将样本数据输入到神经网络中进行训练,得到预测模型;预测阶段,主要是将预测数据输入预测模型中得到预测结果。其中,样本数据主要由测量点到各个接收点的信号强度(received signalstrength,RSS)和测量点的位置坐标组成。
极限学习机(ELM)是由Huang等提出的一种新的神经网络算法,相较于其他神经网络算法,ELM神经网络具有泛化能力强和学习速度快的优点。因此被广泛应用在室内无线定位领域。基于ELM神经网络的定位方法主要分为两类:1)、利用ELM的分类特性,针对预测区域建立指纹数据库,通过指纹匹配的方式得到定位结果。然而,这种建立指纹库的方法存在一个严重的缺点,没有充分考虑到信号强度(RSS)受噪声的干扰导致指纹与位置坐标不是唯一对应的问题。为此,采用序贯极限学习机对指纹数据库进行不定时的更新,这一做法在一定程度上避免了噪声的干扰,但是仍然对指纹的不唯一性考虑不足,定位精度不高。2)、利用ELM的强大的泛化能力,进行非线性拟合,进而估计出位置。在同一位置测得的数据受噪声干扰可能有多组,不是唯一不变的,导致定位误差较大,以及目前神经网络无线定位算法还有参数设置复杂、训练耗时较长等问题。
发明内容
为克服现有技术的不足,本发明旨在针对目前神经网络无线定位耗时较长,且定位结果易受噪声干扰的问题提出了一种改进的核极限学习机的定位算法。既能提高定位精度又能降低样本数据维度,提高定位速度。为了进一步提高定位速度,利用改进的核极限学习机学习降维之后的样本,得到定位预测模型。本发明采用的技术方案是,改进的核极限学习机定位方法,首先,采取在同一位置进行多次测量的方法得到训练数据;然后,再把同一位置测得的数据划分为一个样本子空间并提取样本子空间的特征,以样本子空间的特征代替原来的训练数据;同时,利用矩阵近似及矩阵扩展的相关理论改进核极限学习机算法;最后,将得到的处理过的训练数据利用改进的核极限学习机进行训练,得到定位预测模型,用得到的定位预测模型进行位置估计,达到定位目的。
首先,采取在同一位置进行多次测量的方法得到训练数据;然后,再把同一位置测得的数据划分为一个样本子空间并提取样本子空间的特征,以样本子空间的特征代替原来的训练数据,具体是,采用样本子空间降维算法SSDR(sample subspace dimensionreduction,)以样本子空间的中心和该子空间的簇的中心与该子空间的中心的余弦相似度来代替原来的训练数据:
在一个周围有M个固定信号接收点的场景中,对N个位置进行训练样本采集,M<<N,且针对同一个位置测量k次,那么得到的样本集用N×k行M列的矩阵表示;
根据位置将这些样本划分为N个不同的样本子空间,在求各个子空间的中心时,利用子空间投影的方法来求高维子空间的聚类中心,先将子空间中的点投影到各个平面上,再用k-means聚类得到平面上的聚类中心,再由各个平面中心坐标得到子空间中心坐标为oi;
同理,求得任意一个样本子空间中划分出的m个簇的中心坐标Bj,m<k,利用余弦相似度公式cosθ=oi·Bj/|oi|·|Bj|度量簇与子空间中心的相似度,并利用子空间中心与余弦相似度的度量值代替原来的样本特征,得到新的样本,以此达到降维目的。
SSDR降维算法具体步骤是:
输入:样本矩阵S=[x1,x2,…,xN]T其中xi=[xi1,xi2,…,xiM],其中xi是第i个样本,xi1表示第i个样本里的第一个属性,N为样本总数,M为固定信号接收点数,即样本特征数;
输出:降维之后的样本矩阵S';
1)将样本按测量位置分为N子矩阵,即N个M维子空间
2)i从1开始记起,循环计算到N
从S中划分出子矩阵Ai,i=1,2,…,N
3)j从1开始记起,循环计算到M
①取特征1与特征j构成矩阵将样本投影到平面上得Pj←[Ai(:,1),Ai(:,j)]
②利用k-means求平面上聚类中心oij←kmeans(Pj,1)
③同理得到Ai子空间的m(m<k)个簇,其中m的值根据网格搜索法搜索{1,2,…,k/10}得到坐标Br←[br1,br2,…,brM],r=1,2,…,m
4)结束j循环
5)得到Ai聚类中心oi←[oi1,oi2(:,2),…,oiM(:,2)]
7)得到S′i←[oi,θi]
8)结束i循环
9)得到降维之后样本S'←[S′1,…,S'N]T
改进的核极限学习机IMP-KELM(improved kernel extreme learning machine)具体是,由于核极限学习机算法的核矩阵Ω的大小与输入样本数N正相关,采用计算Ω的近似矩阵h的方法来降低计算复杂度;
根据主向量分析法(PCA),以样本为特征,得到样本的贡献度。取贡献度较大的n个样本组成样本矩阵Xn×M;
最后,将hN×N=GGT,代入公式(8)再根据Woodbury公式得到网络输出权重矩阵为:
1)取样本的特征信息组成矩阵S←[x1,x2,…,xN]T;
2)调用SSDR降维算法,得S'←[S′1,…,S'N]T;
5)测试样本输入到预测模型;
6)T'←H·β得到预测位置坐标。
本发明的特点及有益效果是:
在相同数据集下,本发明提出的改进的核极限学习机训练用时短,定位速度快;在相同噪声干扰情况下,此算法定位预测误差小。经验证,该算法不但能提高网络的训练速度,定位速度,还能有效地降低噪声的干扰,提高定位精度。
附图说明:
图1.样本子空间。
图2.定位算法流程图。
图3.室外实际测量某一信号RSS变化统计图。
图4.仿真场景图。
图5.某一点仿真得到的RSS统计图。
图6.误差累计分布图。
具体实施方式
针对目前神经网络无线定位耗时较长,且定位结果易受噪声干扰的问题提出了一种改进的核极限学习机的定位算法。因为测量RSS数据时易受各种噪声的干扰导致定位精度不高,本发明采用以样本子空间特征代替原来样本的方法处理数据,这样既提高了定位精度又降低了样本数据维度,提高了定位速度。为了进一步提高定位速度,我们提出了一种改进的核极限学习机,利用改进的核极限学习机学习降维之后的样本,得到定位预测模型。仿真实验验证了本算法具有定位速度快,定位精度高的优点。
本发明提出了一种改进的核极限学习机无线定位算法。
首先,采取在同一位置进行多次测量的方法得到训练数据;然后,再把同一位置测得的数据划分为一个样本子空间并提取样本子空间的特征,以样本子空间的特征代替原来的训练数据;同时,利用矩阵近似及矩阵扩展的相关理论改进核极限学习机算法;最后,将得到的处理过的训练数据利用改进的核极限学习机进行训练,得到定位预测模型。
1核极限学习机(KELM)
由于核极限学习机算法需要设置的参数较少,训练速度快,泛化能力强,所以选用KELM。
核极限学习机(KELM)是由黄广斌等提出的一种新的单层前馈神经网络算法。极限学习机具有训练速度快,预测精度高的优点。
对于N个任意不同的样本(xi,ti),其中xi=[xi1,xi2,…,xin]T∈Rn,坐标ti=[ti1,ti2,…,tim]T∈Rm,对于具有L个隐层神经元数的单层前馈神经网络,网络的输出可以用以下公式表示:
其中,xj=[xj1,xj2,…,xjn]T∈Rn为输入样本,wi=[wi1,wi2,…win]T∈Rn为输入层到隐藏层的权重,wi·xj为wi和xj的内积,βi=[βi1,βi2,…,βim]T为隐层到输出层的权重,bi为第i个隐层神经元的偏置,h(·)为隐层神经元的激励函数,tj为第j个样本的输出。
公式(1)可以写成矩阵相乘的形式:
Hβ=T (2)
对式(2)求最小二乘法得到下式:
其中,C为惩罚系数,ξj为实际输出与理论输出的差,ξj=[ξj1,…,ξjm],αj为Lagrange乘子,αj=[αj1,…,αjm],h(xj)=[h(w1·xj+b 1),…h(wL·xj+b 1)]为矩阵H的行向量。
公式(4)由KKT条件得:
其中,α=[α1,α2,…,αN]T,ξ=[ξ1,ξ2,…,ξN]T。
由公式(5)得:
求解(6)式得:
定义核矩阵表达式如下:Ω=HHT,K(xi,xj)=h(xi)×h(xj),代入式(5)得:
将式(8)代入式(2)得:
由此得到核极限学习机的输出权值为:
2本发明的算法
2.1样本子空间降维(SSDR)
为了充分考虑噪声对样本的干扰,本发明采取对同一个位置进行多次测量的方法得到样本数据,然后将这些对应同一位置的数据划分为一个样本子空间,之后用该样本子空间的特征代替原来的样本数据,这样不仅充分考虑了噪声对样本数据的干扰,同时也起到了降低样本维度的效果。本发明考虑到不同的干扰源可能引起样本数据聚集出不同的簇,如图1所示,圆Ai表示在任意一个位置测得样本数据,圆B1、B2、B3代表受不同干扰影响形成的簇。本发明提出了一种样本子空间降维算法(sample subspace dimensionreduction,SSDR),算法以样本子空间的中心和该子空间的簇的中心与该子空间的中心的余弦相似度来代替原来的训练数据。
假设在一个周围有M个固定信号接收点的场景中,对N(M<<N)个位置进行训练样本采集,且针对同一个位置测量k次,那么得到的样本集可以用N×k行M列的矩阵表示。
根据位置将这些样本划分为N个不同的样本子空间,在求各个子空间的中心时,考虑到这些子空间属于高维子空间,一般的低维空间求聚类中心的方法不再适用,因此本发明利用子空间投影的方法来求高维子空间的聚类中心,先将子空间中的点投影到各个平面上,再用k-means聚类得到平面上的聚类中心,再由各个平面中心坐标得到子空间中心坐标为oi。
同理,求得任意一个样本子空间中划分出的m(m<k)个簇(通过网格搜索法得m=4)的中心坐标Bj。利用余弦相似度公式cosθ=oi·Bj/|oi|·|Bj|度量簇与子空间中心的相似度,并利用子空间中心与余弦相似度的度量值代替原来的样本特征,得到新的样本,以此达到降维目的。算法具体实现过程如下:
算法1SSDR降维算法。
SSDR降维算法具体步骤是:
输入:样本矩阵S=[x1,x2,…,xN]T其中xi=[xi1,xi2,…,xiM],其中xi是第i个样本,xi1表示第i个样本里的第一个属性,N为样本总数,M为固定信号接收点数,即样本特征数;
输出:降维之后的样本矩阵S';
1)将样本按测量位置分为N子矩阵,即N个M维子空间
2)i从1开始记起,循环计算到N
从S中划分出子矩阵Ai,i=1,2,…,N
3)j从1开始记起,循环计算到M
①取特征1与特征j构成矩阵将样本投影到平面上得Pj←[Ai(:,1),Ai(:,j)]
②利用k-means求平面上聚类中心oij←kmeans(Pj,1)
③同理得到Ai子空间的m(m<k)个簇,其中m的值根据网格搜索法搜索{1,2,…,k/10}得到坐标Br←[br1,br2,…,brM],r=1,2,…,m
4)结束j循环
5)得到Ai聚类中心oi←[oi1,oi2(:,2),…,oiM(:,2)]
7)得到S′i←[oi,θi]
8)结束i循环
9)得到降维之后样本S'←[S1',…,S'N]T。
2.2改进核极限学习机算法
提出一种改进的核极限学习机(improved kernel extreme learning machine,IMP-KELM)。由于核极限学习机算法的核矩阵Ω的大小与输入样本数N正相关。在N较大的情况下,计算核Ω会花费较长的时间,为了降低计算复杂度,本发明采用计算Ω的近似矩阵h的方法来降低计算复杂度。
考虑到矩阵ΩN×N是根据输入样本计算得来的,所以可以通过减少参与计算的样本数量来达到降低计算复杂度的目的。又因为输入的样本对算法的贡献度不同,本发明根据主向量分析法(PCA),以样本为特征,得到样本的贡献度。取贡献度较大的n个样本组成样本矩阵Xn×M。
最后,将hN×N=GGT,代入公式(8)再根据Woodbury公式得到网络输出权重矩阵为:
算法具体实现过程如下:
算法2改进的KELM算法(IMP-KELM)。
输入:训练样本(xi,yi),其中xi=[xi1,xi2,…,xiM]T∈RM,ti=[ti1,ti2]T∈R2,ti表示第i个样本的位置坐标,N为样本总数,M为固定信号接收点数,即样本特征数。
输出:最终定位预测模型
1)利用主向量分析法(PCA),以样本个数为特征,得到样本的贡献度。取前n个贡献度大的样本构成矩阵Xn×M。
2)加载KELM训练模型。
3)选择RBF核函数则
求得ΩN×n。
6)得到最终预测模型。
2.3改进的核极限学习机定位算法
本发明以SSDR-IMP-KELM表示该定位算法。首先,根据样本子空间降维算法对样本进行降维,得到以子空间特征组成的新的样本;然后,将这些新的样本数据输入到核极限学习机中训练神经网络,得到预测模型;最后,用得到的预测模型进行位置估计,达到定位目的。
算法具体实现过程如下:
算法3改进核极限学习机定位算法。
输入:样本(xi,yi),其中xi=[xi1,xi2,…,xiM]T∈RM,ti=[ti1,ti2]T∈R2,N为样本总数,M为固定信号接收点数,即样本特征数。
输出:定位预测结果,即预测位置的坐标。
1)取样本的特征信息组成矩阵S←[x1,x2,…,xN]T。
2)调用SSDR降维算法,得S'←[S′1,…,S'N]T。
5)测试样本输入到预测模型。
6)T'←H·β得到预测位置坐标。
算法流程图如图2所示。
2.4计算复杂度分析
本发明的算法的计算复杂度主要由两部分组成:SSDR降维算法的计算复杂度、改进的KELM算法的计算复杂度。统计加、减、乘、除的运算总次数来度量算法的计算复杂度。遵循以下两个原则:
1)矩阵的加、减、乘和求逆计算的计算统计
若矩阵A∈Rm×n,B∈Rm×n,C∈Rn×l,D∈Rn×n则A±B的计算复杂度为mn,AC为2mnl-ml;D-1为n3。
2)消减原则
只保留最高次幂项且忽略每一项前的系数。
依据以上原则统计实现SSDR降维算法的运算总次数,得到计算复杂度为o((Nk)2NM(M-1)/2)。
同理,改进的KEM的计算复杂度为o(Nn2+n3)。
改进的核极限学习机定位算法的复杂度主要由SSDR降维算法与改进的KELM算法的复杂度组成则计算复杂度为o((Nk)2NM(M-1)/2+Nn2+n3)。
同理,未改进的KELM算法计算复杂度为o((Nk)3)。n为样本经过PCA分析,得到的n个贡献度较大的样本。
3实验与仿真
3.1实测数据分析
为了使仿真实验与实际联系起来,本发明首先对实际环境下得到的数据进行分析,并以此为依据进行仿真实验。实测数据来源:于2016年8月29日,在天津市无线电管理委员会频谱资源监控中心,利用位于天津市南开区天津大学西侧的白堤路上的编号为UMS300-101487的监测站,对南开大学校园广播的信号强度进行连续3天的检测得到的数据。我们取每一天的上午一分钟和下午一分钟得到的测量统计图如图3。
如图3所示,在实际环境中,针对同一个点进行多次测量,得到的RSS值不是固定不变的,RSS值是变化的。同时,由于测得的数据是在一分钟内完成的,所以在实际应用中,可以利用较短的时间得到大量的RSS值。为了使仿真更符合实际,本发明采用了以下仿真方法。
3.2场景仿真
应用MATLAB R2013b在CPU型号为intel(R)Core(TM)i5-2450M,主频2.50GHz,内存为4GB,Windows7 64位系统的环境下进行仿真实验。仿真一个2000×2000(m)范围的室外环境,且周围有四个接收点,具体仿真场景如图4,利用信号路径损耗模型,根据到参考点距离计算RSS值,公式如下:
其中,PL0为路径损耗系数,在本发明中被设为-40dBm,d0是与PL0对应的测量距离,d为到参考点的距离,α为路径损耗指数取2,X为由服从高斯分布、伽马分布和均匀分布的噪声组成。
如图5所示,为对某一点仿真得到的RSS统计图。在仿真场景范围内随机取200个点,对每个点进行100次的测量,得到仿真数据,从中随机选取100个点作为训练集,剩余100个点为测试集。
3.3实验涉及参数设置
1)算法1涉及到的参数
在同一位置重复测量次数k,k=100;任意一个样本子空间中划分出m(m<k)个簇,设定m∈{1,2,…,k/10},通过网格搜索,得到m=4。
2)算法2涉及参数
选择贡献度大的前n个样本,n的选取通过多次实验得到,n=82;核极限学习机的核参数设为RBF核,公式如式(13);惩罚参数C,设C∈{2-10,2-9,…,240,250},进行网格搜索得到C=220;RBF核的参数μ,设μ∈{2-10,2-9,…,240,250},网格搜索得到μ=210。
K(u,v)=exp[-(||u-v||2/μ)] (13)
其中,μ为核参数。
3)遗传算法优化的BP神经网络算法(GA-BP)
GA-BP用于与本发明算法对比,网络参数设置为:隐层数3,隐层节点数取20(经过多次实验得到),迭代次数设为1000次。
4)RBF神经网络参数设置
RBF用于与本发明算法对比,RBF神经网络网络参数设置为:隐层节点数70,迭代次数1000次。
3.4定位仿真实验
衡量性能的指标一般选取均方根误差作为衡量测试性能的标准,如式(14)。
KELM与改进后IMP-KELM相比,只是在训练时间方面,改进的KELM算法明显耗时较短,其他方面相差不大。因此,改进KELM算法的方法是有效的。KELM与本发明算法SSDR-IMP-KELM相比,在时间方面,训练耗时和测试耗时都要比本发明算法用时长,训练耗时是本发明算法SSDR-IMP-KELM的十倍左右;在误差方面,本发明算法误差明显小于KELM算法,约为KELM误差的1/4。GA-BP算法和RBF算法与本发明算法相比,训练耗时长,误差较大,误差是本发明算法的四倍左右。
KELM算法的时间复杂度为o((N×k)3),改进的KEM的计算复杂度为o(Nkp2+p3),SSDR-IMP-KELM算法复杂度为o((Nk)2NM(M-1)/2+Nn2+n3)。仿真实验中k=100,N=100,n=82,M=4,p=3000则o((N×k)3)=o(1012),o(Nkp2+p3)=o(9.27×1010),o((Nk)2NM(M-1)/2+Nn2+n3)≈o(6.0×1010)。
为了更直观的比较SSRD-IMP-KELM算法与其它算法的误差,我们给出了误差累计分布图,如图6所示。
从图6中可以看出,本发明算法在误差为75m左右累计误差分布率接近100%,而KELM算法在误差为200m时误差累计分布率刚刚达到76%左右。GA-BP与RBF算法在误差为200m时误差累积分布率刚刚达到74%左右。由此可以看出,本发明算法误差更小,且分布较为集中。
Claims (4)
1.一种改进的核极限学习机定位方法,其特征是,首先,采取在同一位置进行多次测量的方法得到训练数据;然后,再把同一位置测得的数据划分为一个样本子空间并提取样本子空间的特征,以样本子空间的特征代替原来的训练数据;同时,利用矩阵近似及矩阵扩展的相关理论改进核极限学习机算法;最后,将得到的处理过的训练数据利用改进的核极限学习机进行训练,得到定位预测模型,用得到的定位预测模型进行位置估计,达到定位目的;改进的核极限学习机IMP-KELM(improved kernel extreme learning machine)具体是,由于核极限学习机算法的核矩阵Ω的大小与输入样本数N正相关,采用计算Ω的近似矩阵h的方法来降低计算复杂度;具体步骤如下:
根据主向量分析法PCA,以样本为特征,得到样本的贡献度,取贡献度较大的n个样本组成样本矩阵Xn×M;
最后,将hN×N=GGT,代入公式(8)
再根据Woodbury公式得到网络输出权重矩阵为:
T为输出层输出矩阵,H隐层输出矩阵,C为惩罚系数,I为单位矩阵。
2.如权利要求1所述的改进的核极限学习机定位方法,其特征是,首先,采取在同一位置进行多次测量的方法得到训练数据;然后,再把同一位置测得的数据划分为一个样本子空间并提取样本子空间的特征,以样本子空间的特征代替原来的训练数据,具体是,采用样本子空间降维算法SSDR(sample subspace dimension reduction,)以样本子空间的中心和该子空间的簇的中心与该子空间的中心的余弦相似度来代替原来的训练数据:
在一个周围有M个固定信号接收点的场景中,对N个位置进行训练样本采集,M<<N,且针对同一个位置测量k次,那么得到的样本集用N×k行M列的矩阵表示;
根据位置将这些样本划分为N个不同的样本子空间,在求各个子空间的中心时,利用子空间投影的方法来求高维子空间的聚类中心,先将子空间中的点投影到各个平面上,再用k-means聚类得到平面上的聚类中心,再由各个平面中心坐标得到子空间中心坐标为Oi;
同理,求得任意一个样本子空间中划分出的m个簇的中心坐标Bj,m<k,利用余弦相似度公式cosθ=Oi·Bj/|Oi|·|Bj|度量簇与子空间中心的相似度,并利用子空间中心与余弦相似度的度量值代替原来的样本特征,得到新的样本,以此达到降维目的。
3.如权利要求2所述的改进的核极限学习机定位方法,其特征是,SSDR降维算法具体步骤是:输入:样本矩阵S=[x1,x2,…,xN]T其中xi=[xi1,xi2,…,xiM],其中xi是第i个样本,xi1表示第i个样本里的第一个属性,N为样本总数,M为固定信号接收点数,即样本特征数;输出:降维之后的样本矩阵S';
1)将样本按测量位置分为N子矩阵,即N个M维子空间;
2)i从1开始记起,循环计算到N;
从S中划分出子矩阵Ai,i=1,2,…,N;
3)j从1开始记起,循环计算到M;
①取特征1与特征j构成矩阵将样本投影到平面上得Pj←[Ai(:,1),Ai(:,j)];
②利用k-means求平面上聚类中心oij←kmeans(Pj,1);
③同理得到Ai子空间的m(m<k)个簇,其中m的值根据网格搜索法搜索{1,2,…,k/10}得到坐标Br←[br1,br2,…,brM],r=1,2,…,m;
4)结束j循环;
5)得到Ai聚类中心Oi←[oi1,oi2(:,2),…,oiM(:,2)];
7)得到S'i←[Oi,θi];
8)结束i循环;
9)得到降维之后样本S'←[S'1,…,S'N]T。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711020650.2A CN107798383B (zh) | 2017-10-27 | 2017-10-27 | 改进的核极限学习机定位方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711020650.2A CN107798383B (zh) | 2017-10-27 | 2017-10-27 | 改进的核极限学习机定位方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107798383A CN107798383A (zh) | 2018-03-13 |
CN107798383B true CN107798383B (zh) | 2021-11-26 |
Family
ID=61547872
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711020650.2A Expired - Fee Related CN107798383B (zh) | 2017-10-27 | 2017-10-27 | 改进的核极限学习机定位方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107798383B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108664992B (zh) * | 2018-03-30 | 2022-02-15 | 广东工业大学 | 一种基于遗传优化和核极限学习机的分类方法及装置 |
CN109116300B (zh) * | 2018-06-28 | 2020-09-25 | 江南大学 | 一种基于非充分指纹信息的极限学习定位方法 |
CN109195110B (zh) * | 2018-08-23 | 2020-12-15 | 南京邮电大学 | 基于层次聚类技术和在线极限学习机的室内定位方法 |
CN109325613B (zh) * | 2018-08-23 | 2021-10-15 | 东北大学 | 用平行序贯极限学习机对静态电压稳定裕度在线预测方法 |
CN109598320A (zh) * | 2019-01-16 | 2019-04-09 | 广西大学 | 一种基于蝗虫算法和极限学习机的rfid室内定位方法 |
CN109886350A (zh) * | 2019-02-25 | 2019-06-14 | 东北农业大学 | 一种基于核极限学习机奶牛日粮消化能预测方法 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101267374A (zh) * | 2008-04-18 | 2008-09-17 | 清华大学 | 基于神经网络和无线局域网基础架构的2.5d定位方法 |
US20110050421A1 (en) * | 2009-08-28 | 2011-03-03 | Symbol Technologies, Inc. | Systems, methods and apparatus for determining direction of motion of a radio frequency identification (rfid) tag |
CN102291817A (zh) * | 2011-07-11 | 2011-12-21 | 北京邮电大学 | 移动通信网络中的基于位置测量样本的群定位方法 |
CN102402225A (zh) * | 2011-11-23 | 2012-04-04 | 中国科学院自动化研究所 | 一种实现移动机器人同时定位与地图构建的方法 |
CN102426562A (zh) * | 2011-08-15 | 2012-04-25 | 天津大学 | 一种基于支持向量机的核矩阵近似方法 |
CN103945533A (zh) * | 2014-05-15 | 2014-07-23 | 济南嘉科电子技术有限公司 | 基于大数据的无线实时位置定位方法 |
CN103941156A (zh) * | 2014-04-16 | 2014-07-23 | 华北电力大学 | 基于极限学习机的多信息融合区段定位方法 |
CN106792562A (zh) * | 2017-02-16 | 2017-05-31 | 南京大学 | 基于反向传播神经网络模型的室内无线网络定位方法 |
CN107273926A (zh) * | 2017-06-12 | 2017-10-20 | 大连海事大学 | 一种基于余弦相似度加权的线性判别分析降维方法 |
-
2017
- 2017-10-27 CN CN201711020650.2A patent/CN107798383B/zh not_active Expired - Fee Related
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101267374A (zh) * | 2008-04-18 | 2008-09-17 | 清华大学 | 基于神经网络和无线局域网基础架构的2.5d定位方法 |
US20110050421A1 (en) * | 2009-08-28 | 2011-03-03 | Symbol Technologies, Inc. | Systems, methods and apparatus for determining direction of motion of a radio frequency identification (rfid) tag |
CN102291817A (zh) * | 2011-07-11 | 2011-12-21 | 北京邮电大学 | 移动通信网络中的基于位置测量样本的群定位方法 |
CN102426562A (zh) * | 2011-08-15 | 2012-04-25 | 天津大学 | 一种基于支持向量机的核矩阵近似方法 |
CN102402225A (zh) * | 2011-11-23 | 2012-04-04 | 中国科学院自动化研究所 | 一种实现移动机器人同时定位与地图构建的方法 |
CN103941156A (zh) * | 2014-04-16 | 2014-07-23 | 华北电力大学 | 基于极限学习机的多信息融合区段定位方法 |
CN103945533A (zh) * | 2014-05-15 | 2014-07-23 | 济南嘉科电子技术有限公司 | 基于大数据的无线实时位置定位方法 |
CN106792562A (zh) * | 2017-02-16 | 2017-05-31 | 南京大学 | 基于反向传播神经网络模型的室内无线网络定位方法 |
CN107273926A (zh) * | 2017-06-12 | 2017-10-20 | 大连海事大学 | 一种基于余弦相似度加权的线性判别分析降维方法 |
Non-Patent Citations (5)
Title |
---|
"A robust indoor positioning system based on the procrustes analysis and weighted extreme learning machine";Han Zou et al.;《IEEE TRANSACTIONS ON WIRELESS COMMUNICATIONS》;20160228;第15卷(第2期);第1252-1266页 * |
"PCA and Kernel-based extreme learning machine for side-scan sonar image classification";Mingcui Zhu et al.;《2017 IEEE Underwater Technology (UT)》;20170430;第1-4页 * |
"基于主成分估计的极限学习机方法";曾林 等;《计算机工程与应用》;20161231;第110-114页 * |
"高精度低复杂度的无线定位新方法";杨小凤 等;《计算机应用》;20140210;第34卷(第2期);第322-325页 * |
A. Castaño et al.."PCA-ELM: A Robust and Pruned Extreme Learning Machine Approach Based on Principal Component Analysis".《Neural Process Letter》.2012, * |
Also Published As
Publication number | Publication date |
---|---|
CN107798383A (zh) | 2018-03-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107798383B (zh) | 改进的核极限学习机定位方法 | |
CN109492822B (zh) | 空气污染物浓度时空域关联预测方法 | |
Li et al. | A directed acyclic graph network combined with CNN and LSTM for remaining useful life prediction | |
CN109063911B (zh) | 一种基于门控循环单元网络的负荷聚合体分组预测方法 | |
CN111860982A (zh) | 一种基于vmd-fcm-gru的风电场短期风电功率预测方法 | |
CN111148118A (zh) | 基于时间序列的流量预测和载波关断方法和系统 | |
CN109635245A (zh) | 一种鲁棒宽度学习系统 | |
CN113177356B (zh) | 一种基于深度学习的目标电磁散射特性快速预测方法 | |
CN108495263B (zh) | 一种基于广义多核函数的室内定位方法 | |
Zhang et al. | Adaptive spatio-temporal graph convolutional neural network for remaining useful life estimation | |
CN112884012A (zh) | 基于支持向量机原理的建筑能耗预测方法 | |
CN111222689A (zh) | 基于多尺度时间特征的lstm负荷预测方法、介质及电子装置 | |
CN116187835A (zh) | 一种基于数据驱动的台区理论线损区间估算方法及系统 | |
Zeng et al. | Short-term load forecasting of smart grid systems by combination of general regression neural network and least squares-support vector machine algorithm optimized by harmony search algorithm method | |
Yang et al. | A prediction model of aquaculture water quality based on multiscale decomposition | |
Liu et al. | Soil water content forecasting by ANN and SVM hybrid architecture | |
CN111797979A (zh) | 基于lstm模型的振动传递系统 | |
CN117131654A (zh) | 基于预分析初猜值条件非线性最优扰动的目标观测方法 | |
Khan et al. | Forecasting renewable energy for environmental resilience through computational intelligence | |
Wang et al. | Codinet: Path distribution modeling with consistency and diversity for dynamic routing | |
Hu et al. | Grain yield predict based on GRA-AdaBoost-SVR model | |
CN116384586A (zh) | 一种基于vmd-svr的风速预测方法 | |
Zhang et al. | A hierarchical multivariate denoising diffusion model | |
CN112990603B (zh) | 考虑频域分解后数据特征的空调冷负荷预测方法及系统 | |
Hosseini et al. | The design of robust soft sensor using ANFIS network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20211126 |