CN106482738A - 基于在线增量超限学习机的室内指纹定位算法 - Google Patents

Abstract

本发明涉及一种基于在线增量超限学习机的室内指纹定位算法，解决了传统室内定位算法定位精度低、自适应性差的问题。在线增量超限学习机是在超限学习机的基础上进行改进，主要包括增量学习和在线学习两方面，其特征为隐含层节点增量添加至定位模型中，为每个隐含层节点选取最优的参数，构建一个紧凑的位置估计模型，并且充分利用最新的位置指纹信息来进行在线学习，对训练好的模型进行动态调整。本发明使得算法对于环境的动态变化有自适应能力，同时有效地提高了定位精度。

Description

基于在线增量超限学习机的室内指纹定位算法

技术领域

本发明涉及一种基于在线增量超限学习机的室内指纹定位算法。

背景技术

随着无线通信网络及移动设备的普及与运用，人们对于位置服务(Locationbased Service，LBS)的需求与日俱增，其中室内定位的应用场景也变得越来越广泛，如消防救援、广告投放、物流管理等。因此，国内外许多学者及机构提出了利用UWB、RFID、蓝牙、红外等技术进行室内定位。但上述定位技术有一个共同缺陷，它们都依赖部署专用的硬件设施，成本昂贵，只能应用在有限的范围内。近年来,随着以WiFi为代表的无线局域网络(WLAN)被广泛部署于室内环境之中,基于WLAN技术进行室内定位恰好能够利用现有的无线局域网架构，降低了部署难度及成本，目前已经成长为室内定位技术中的绝对主流。

根据定位原理的不同，室内定位主要可以分为三类：最近AP定位、几何计算定位和位置指纹定位。最近AP定位主要是通过寻找目标附近最近AP点，并将其位置近似为目标所在位置，定位准确性不高。几何定位包括TOA法、TDOA法、AOA法，这些方法的共同点是利用几何原理计算目标的位置，对于设备要及环境要求苛刻；位置指纹定位主要过程是将指纹信号与数据库中的指纹信号进行匹配从而估算出位置。与另外两种定位技术相比，位置指纹定位精度较高、对环境及设备要求低，因此成为室内定位技术中的热点。

超限学习机(Extreme Learning Machine，ELM)作为一种新兴的机器学习算法被提出，并且凭借其快速学习能力以及良好的泛化能力，引起了广泛的关注，与此同时，基于ELM的室内指纹定位算法也受到了研究者的青睐。假设训练样本输入为输出为其中，N：输入数据个数，d：输入数据维数，c：输出数据维数。基于ELM的室内指纹定位算法的步骤如下：

Step1：随机分配隐含层节点参数，包括权值w_i与偏差b_i，并选取隐含层节点的激活函数G；

Step2：计算隐含层输出矩阵H：

Step3：利用公式Hβ＝T计算输出权值矩阵，建立定位模型。

β＝H^-1T＝(H^TH)^-1H^TT

其中：

Step4：将测试点收集到的指纹信号，输入到建立好的定位模型之中，估计出位置。

所以一旦输入权值和偏差被初始化，那么隐含层输出矩阵H就被固定，那么训练一个ELM定位模型就等同于寻找最小二乘的解β，然而，由于ELM网络结构不够紧凑及室内环境复杂，导致基于ELM的室内指纹定位算法的精度较低，自适应性较差。

发明内容：

针对上述问题，本文发明的目的是解决基于ELM的室内定位算法精度差和对环境的动态调整能力弱的问题，提出一种基于在线增量超限学习机的室内指纹定位算法。

为实现上述目的，本发明采取以下技术方案：

(1)通过增量学习，逐个添加隐含层节点至定位模型之中；

(2)计算经过增量学习后的隐含层输出权值向量，构建初始化的位置估计模型；

(3)通过在线学习方法对初始化的位置估计模型进行动态调整；

(4)计算经过在线学习后的隐含层输出权值向量，得到最终的位置估计模型。

本发明采取以上技术方案，具有以下优点：

(1)本发明通过增量学习，逐个增加隐含层节点并寻找最佳的隐含层节点参数，使得定位模型变得更加紧凑并减少无关节点的干扰，提高定位的精度。

(2)在室内环境中，指纹数据往往受到较大的干扰，位置估计模型的自适应能力就变得尤为重要。本发明融入在线学习方法，利用最新的指纹数据对先前建立好的位置估计模型进行动态调整，而不需要对整个指纹数据库进行重新训练，提高了算法的自适应能力。

附图说明

图1为基于OS-IELM的指纹定位算法基本流程。

图2为定位误差与隐含层节点个数的关系图。

图3为离线训练时间与隐含层节点个数的关系图。

图4为不同算法的累计误差分布。

图5为OS-IELM和OS-ELM算法在线学习性能对比。

具体实施方式

OS-IELM算法首先利用增量超限学习机(IELM)对输入的训练数据进行训练，得出一个初步的位置估计模型。IELM算法步骤概括如下：

Step 1：初始化阶段，首先初始化隐含层节点个数L＝1，最大化隐含层节点个数L_max，初始残留误差E＝T,T＝[t₁,...,t_N]^T，期望的学习精度ε；

Step 2：增量学习阶段：当L_k<L_max或者||E||>ε,当新的隐含层节点加入后，分别训练k次，效果最好的那一次的训练参数作为该隐含层节点的参数。

a、L＝L+1；

b、给新添加的隐含层节点随机分配输入权值和偏差a_L和b_L；

c、新隐含层节点输出权值向量其中H_L代表加入节点后的隐含层输出向量；

当给定一个SLFN，激活函数是非常数间断连续函数，对于任意连续目标函数f随机产生的函数序列{h_n}以及正整数k，要使得则输出权值向量必须满足

其中，e是残留物差。

d、计算加入新节点后的残差E_L＝f-f_L＝E_L-1-β_LH_L,E_L-1代表新节点添加前的残差向量，E_L代表新节点添加后的残差向量。

基于OS-IELM的指纹定位算法在基于IELM算法的基础之上，又加入在线学习的功能。该算法在拥有紧凑的定位模型前提下，充分利用在线校准点数据，对定位模型进行动态调整，而无需对整个训练数据库重新进行训练，大大节省了训练时间，提高了算法对于动态环境的自适应能力。

在线学习过程中，将新的数据模块加入到初始化的定位模型时，假设新加入的训练样本为N_k+1，输入为输出为那么对应的隐含层输出矩阵为

隐含层输出矩阵H_k+1对应的输出权值向量β^(k+1)为

其中，中间量为了避免在迭代过程中产生的像K^-1 _k+1一样的逆矩阵无法正常求解，在求逆过程中满足

由于P_k+1＝K^-1 _k+1，所以可得

即

算法分析

1)算法定位精度

本文采用的指纹数据的采集点位于里加工业大学的实验楼5楼，是一个自然场景而非人为特意布置，增加算法的普适性。实验的测试区域面积达860m²，包括8个教室、4个办公室以及一个走廊。由表1可知，基于OS-IELM的室内指纹定位算法应用增量学习方法使得定位模型变得更加紧凑，定位精度达到1.301m，相比KNN、BP、ELM算法，性能分别提高了47.96％,70.96％,46.23％。4种算法的距离误差累计百分比如图3所示,可以看出本文提出的OS-IELM算法性能明显好于其他三种算法。

表1 不同算法性能对比

Table 1 Comparison of different algorithm performance

2)算法复杂度

算法的复杂度主要依据算法的学习时间及测试时间。由表1可知OS-IELM算法的所需的学习时间高于ELM算法，低于BP神经网络，需要2.176s来进行模型的学习，但是一旦模型建立，在线测试时间耗时非常短，仅需0.009s，完全符合实时定位的需要，而KNN的测试时间相对其他三种算法较长，因此OS-IELM的算法复杂度相对适中。

3)算法的自适应性

本文提出的基于OS-IELM的定位算法另一个特点就是能够进行在线学习，它能够对已经建立好的定位模型根据新加入的测试数据不断更新网络动态参数从而进行动态调整，最终提高算法对环境的自适应性，并降低离线阶段的数据采集工作量。与OS-ELM算法性能对比如表2所示，两种算法的总的校准点数量都相同，在线调整次数都分为8次和20次两种情况，得出改进后的OS-IELM算法在定位精度上都有一定提高。距离误差累计分布图如图4所示，可以看出当OS-IELM算法动态调整次数越多，精度越好，对环境的自适应能力也就越强。

表2 在线学习时的性能对比

Table 2 Performance comparison in online learning

Claims (5)

1.基于在线增量超限学习机的室内指纹定位算法，其特征在于包括以下几个方面：

(1)通过增量学习，逐个添加隐含层节点至定位模型之中；

(2)计算经过增量学习后的隐含层输出权值向量，构建初始化的位置估计模型；

(3)通过在线学习方法对初始化的位置估计模型进行动态调整；

(4)计算经过在线学习后的隐含层输出权值向量，得到最终的位置估计模型。

2.根据权利要求1所述的基于在线增量超限学习机的室内指纹定位算法，其特征在于隐含层节点是逐个被添加到位置估计模型中，并且每个隐含层节点被添加后进行多次训练，根据残留误差的大小选取最优的隐含层节点参数。

3.根据权利要求1所述的基于在线增量超限学习机的室内指纹定位算法，其特征在于每个新添加的隐含层节点所对应的输出权值向量必须满足

${\mathrm{\&beta;}}_n^{*}=\frac{<e_{n-1}^{*},h_n^{*}>}{\left|\right|h_n^{*}|{|}^2}$

其中，是残留误差，隐含层输出。

4.根据权利要求1所述的基于在线增量超限学习机的室内指纹定位算法，其特征在于新加入的训练样本对于训练好的位置估计模型进行动态调整，其中，对应的隐含层输出矩阵必须满足:

$H_{k+1}={\left[\begin{array}{ccc}G(w_1,b_1,x_{\left({\&Sigma;}_{j=0}^k{N}_j\right)+1})& \mathrm{...}& G(w_L,b_L,x_{\left({\&Sigma;}_{j=0}^k{N}_j\right)+1})\\ .& & .\\ .& \mathrm{...}& .\\ .& & .\\ G(w_1,b_1,x_{\left({\&Sigma;}_{j=0}^{k+1}{N}_j\right)})& \mathrm{...}& G(w_L,b_L,x_{\left({\&Sigma;}_{j=0}^{k+1}{N}_j\right)})\end{array}\right]}_{N_{k+1}\&times;L}$

隐含层输出矩阵H_k+1对应的输出权值向量β^(k+1)必须为

${\mathrm{\&beta;}}^{(k+1)}={\mathrm{\&beta;}}^{\left(k\right)}+{K^{-1}}_{k+1}{H}_{k+1}^T(T_{k+1}-H_{k+1}{\mathrm{\&beta;}}^{\left(k\right)})$

其中，中间量

5.根据权利要求1所述的基于在线增量超限学习机的室内指纹定位算法，其特征在于在计算隐含层输出权值向量时，存在求逆过程，需服从：

${K^{-1}}_{k+1}={K^{-1}}_k-{K^{-1}}_k{H}_{k+1}^T{(I+H_{k+1}{K^{-1}}_k{H}_{k+1}^T)}^{-1}{H}_{k+1}{K^{-1}}_k$

由于P_k+1＝K^-1 _k+1，所以可得

$\begin{array}{c}{P}_{k+1}=P_k-P_k{H}_{k+1}^T{(I+H_{k+1}{P}_k{H}_{k+1}^T)}^{-1}{H}_{k+1}{P}_k\\ =P_k-\frac{P_k{H}_{k+1}^T{H}_{k+1}{P}_k}{I+H_{k+1}{P}_k{H}_{k+1}^T}\end{array}$

即

${\mathrm{\&beta;}}^{(k+1)}={\mathrm{\&beta;}}^{\left(k\right)}+P_{k+1}{H}_{k+1}^T(T_{k+1}-H_{k+1}{\mathrm{\&beta;}}^{\left(k\right)})$