CN107423762A - 基于流形正则化的半监督指纹定位算法 - Google Patents

基于流形正则化的半监督指纹定位算法 Download PDF

Info

Publication number
CN107423762A
CN107423762A CN201710617715.5A CN201710617715A CN107423762A CN 107423762 A CN107423762 A CN 107423762A CN 201710617715 A CN201710617715 A CN 201710617715A CN 107423762 A CN107423762 A CN 107423762A
Authority
CN
China
Prior art keywords
mrow
msub
msup
mfrac
mtd
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710617715.5A
Other languages
English (en)
Inventor
卢先领
朱顺涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangnan University
Original Assignee
Jiangnan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangnan University filed Critical Jiangnan University
Priority to CN201710617715.5A priority Critical patent/CN107423762A/zh
Publication of CN107423762A publication Critical patent/CN107423762A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Other Investigation Or Analysis Of Materials By Electrical Means (AREA)

Abstract

本发明提供一种基于流形正则化的半监督指纹定位算法，包括以下步骤：步骤一：从实际环境中取得带标签训练数据和无标签训练数据，共同作为半监督学习的训练数据集；步骤二：在带标签和无标签训练数据的输入空间建立图拉普拉斯算子；步骤三：引入高斯核函数来计算邻接图权重矩阵；步骤四：将流形正则化框架与随机特征映射的极限学习机相结合，求解隐含层输出权值矩阵，构建位置估计模型。本发明将流形正则化框架与极限学习机相结合，充分利用容易获得的无标签训练数据，降低定位成本。

Description

基于流形正则化的半监督指纹定位算法
技术领域
本发明属于无线传感器网络技术领域，涉及一种基于流形正则化的半监督指纹定位算法。
背景技术
近年来，随着人们对于室内位置服务的需求日益迫切，室内定位技术受到广泛关注。其中指纹定位法凭借易部署、精度高、非视距等优点，逐步成为室内定位技术中研究的热点。该方法主要分为离线训练和在线定位两个阶段。在离线训练阶段，首先将实际应用场景按一定间距划分为规则的网格，然后在每个网格上采集一定数量的接收信号强度(received signal strength，RSS)，构建位置指纹数据库，并利用机器学习算法构建定位模型；在在线定位阶段，根据待定位目标实时观测到的RSS，通过定位模型进行位置计算，从而实现对待定位目标的定位。由于在指纹定位的离线阶段，采集带有位置标签的指纹数据将会耗费大量的人力物力，而大量无标签的指纹数据则可以通过定位区域中的移动终端轻松采集。因此，能够充分利用带标签和无标签数据的半监督指纹算法逐渐被运用到室内定位技术之中。
杨斌等人提出了一种基于流形半监督学习的移动节点定位算法，该算法利用一定量的带标签数据和无标签数据，通过基于流形学习的半监督方法，直接建立物理位置与RSS值之间的映射关系，由于其引入了大量的无标签数据，减少了数据采集的工作量，提高了算法的实用性；S Sorour等人提出了基于半监督流形对齐的Radio map的快速建立方法；夏颖等人提出了一种基于半监督流形学习的降维判别嵌入定位算法，该算法利用无标签数据，对高维接收信号进行维数约减，保留最具判别力的定位特征，通过半监督流形学习找到定位特征与位置坐标的映射关系，但是上述算法训练时间较长。唐晓亮等人将训练速度极快的极限学习机从监督学习模式扩展到半监督学习模式，采用输出阈值向量和“换位”策略扩充标记数据，有效减小对标记数据的依赖程度。Li等人提出基于协同训练的半监督极限学习机，降低了训练成本，但是学习过程中重复循环训练会造成学习速度降低和累计误差增加的后果。Huang等人在流形正则极限学习机二分类基础上，提出了基于流形正则化极限学习机半监督学习算法，通过与支持向量机、拉普拉斯偏最小二乘法、拉普拉斯支持向量机等方法比较，实验验证了基于流形正则化半监督的极限学习机方法具有较高的准确性和泛化性，但缺点是速度较慢。
发明内容
本发明的目的是是为了解决传统指纹定位算法在采集训练数据时代价成本较高的问题，而提出一种基于流形正则化的半监督指纹定位算法(manifold regularizationextreme learning machine，简称MR-ELM)。本发明采用的技术方案是：
一种基于流形正则化的半监督指纹定位算法，包括以下步骤：
步骤一：从实际环境中取得带标签训练数据和无标签训练数据，共同作为半监督学习的训练数据集；
步骤二：在带标签和无标签训练数据的输入空间建立图拉普拉斯算子；
步骤三：引入高斯核函数来计算邻接图权重矩阵；
步骤四：将流形正则化框架与随机特征映射的极限学习机相结合，求解隐含层输出权值矩阵，构建位置估计模型。
更优地，步骤三中，引入高斯核函数来计算邻接图权重矩阵，从而更好地反映样本空间的流形，提高预测精度，公式如下：
其中，xi和xj表示两个不同训练样本点的信号接收强度向量，Wij为训练样本点xi和xj之间的边权值矩阵，knn(xj)表示xj的最近邻点集合，knn(xi)表示xi的最近邻点集合。
进一步地，步骤四中具体包括：
基于流形正则化框架，根据训练数据及最近邻相似度建立一个图拉普拉斯算子，
Lm表示图拉普拉斯算子；xi和xj表示两个不同训练样本点的训练样本点的信号接收强度向量，x1的条件概率P(y|x1)，x2的条件概率P(y|x2)；
由于条件概率不容易求得，可将式(7)简化为
yi和yj表示不同样本点的位置；
上式(9)用矩阵形式可表示为
Lm＝Tr(YTLY) (10)
其中，Tr(.)是矩阵的迹，L＝D-W是图拉普拉斯算子，W＝[Wij]为邻接图权重矩阵；D是对角矩阵，对角元素为l为带标签数据个数，u为无标签数据个数；
将公式(10)表示的流形正则化项添加到ELM目标函数中，MR-ELM算法的目标函数表现形式为
fi＝h(xi)β,i＝1,2,...,l+u (11)
其中fi代表第i个训练数据通过位置估计模型所得到的预测位置，L∈R(l+u)*(l+u)表示在l个带标签数据和u个无标签数据空间中建立的图的拉普拉斯算子，表示经过模型运算的输出矩阵，nh是隐含层节点个数，no是输出层节点个数，C和λ是惩罚参数，h()是隐含层输出函数；
将式(11)中的约束因子代入目标函数即式(11)中第一行的函数，则MR-ELM目标函数的矩阵形式可简写为
对上式关于β求导，并令其等于0，得
▽L＝β+HTC(Y-Hβ)+λHTLHβ＝0 (14)
当带标签数据的个数大于隐含层节点的个数时，
当带标签数据的个数小于隐含层节点的个数时，
β＝HT(Il+u+CHHT+λLHHT)-1CY (16)
其中，I是单位矩阵，C是惩罚矩阵；
β求出后，根据式f＝h(x)β可求出测试样本的估计位置坐标；
f代表预测位置坐标。
本发明的优点在于：传统的监督型指纹定位算法在离线训练过程中需要采集大量带标签训练数据，耗费大量人力物力；而本文提出基于流形正则化的半监督指纹定位算法，将流形正则化框架与极限学习机相结合，充分利用容易获得的无标签训练数据，降低定位成本。
附图说明
图1为本发明在不同数量的带标签训练数据情况下所需训练时间比较图。
图2为本发明在不同数量的带标签训练数据情况下定位误差比较图。
图3为带标签训练数据个数为100个各算法在不同距离误差下定位准确率比较图。
图4为带标签训练数据个数为3000个各算法在不同距离误差下定位准确率比较图。
具体实施方式
下面结合具体附图和实施例对本发明作进一步说明。
传统的指纹定位算法采集带标签训练数据代价较高，因此本文提出一种基于流形正则化的半监督指纹定位算法；该算法充分利用大量无标签数据，减少采集带标签数据的工作量，同时继承了极限学习机无需迭代、模型执行高效的优点；
极限学习机即ELM(extreme learning machine)是由Huang等人提出的一种基于单隐含层前馈神经网络的机器学习算法；该算法摒弃了梯度下降算法的迭代调整策略，通过随机产生隐含层的输入权值和偏移量来计算相应的输出权值矩阵，在保证学习精度的前提下比传统的学习算法速度更快；
对于任意N个训练样本集{(xj,tj)}j＝1，2，...，N，ELM回归模型
其中，ωi是连接输入节点和第i个隐含层节点之间的权值，bi是第i个隐含层节点的偏移量，g(.)是激活函数，βi是i隐含层节点输出权值，L是隐含层节点个数；
xj是第j个训练样本的接收信号强度向量，tj是第j个训练样本的位置向量；
将式(1)写成矩阵向量形式，如式(2)所示，
Hβ＝T (2)
其中，隐含层输出矩阵H、位置输出矩阵T及隐含层输出权值矩阵β分别为
T＝[t1,t2,...,tN]T (4)
β＝[β1,β2,...,βL]T (5)
ELM模型通过最小化训练误差函数及隐含层输出权值矩阵的模，来计算隐含层的输出权值矩阵，从而完成相应模型的构建；ELM的目标函数可以表示为
其中，e是误差向量，C是训练误差中的惩罚系数，h()是隐含层输出函数，xi是位置估计模型的输入值；yi是位置估计模型的输出值；
流形正则化是一种通过构建图拉普拉斯算子来进行半监督学习的方法；该方法建立在流形假设基础之上；流形假设可概括为：假设所有样本处于一个很小的局部邻域，那么它们就应该具有相近的标记；用数学语言表达如下：如果x1和x2在同一个局部邻域内，那么x1的的条件概率P(y|x1)和x2的条件概率P(y|x2)也应该相近；
流形正则化框架的数学表达式如下：
Lm表示图拉普拉斯算子；
其中，xi和xj表示两个不同训练样本点的训练样本点的信号接收强度向量，Wij为训练样本点xi和xj之间的边权值矩阵，knn(xj)表示xj的最近邻点集合，knn(xi)表示xi的最近邻点集合；
由于条件概率不容易求得，可将式(7)简化为
yi和yj表示不同样本点的位置；
上式(9)用矩阵形式可表示为
Lm＝Tr(YTLY) (10)
其中，Tr(.)是矩阵的迹，L＝D-W是图拉普拉斯算子，W＝[Wij]为邻接图权重矩阵；D是对角矩阵，对角元素为l为带标签数据个数，u为无标签数据个数；
本发明提出的基于流形正则化的半监督指纹定位算法，将流形正则化框架与极限学习机相结合，充分利用大量无标签数据，减少采集带标签数据的工作量，同时继承了极限学习机无需迭代、执行高效的优点；
如果模型的训练数据集中包含带标签和无标签训练数据，带标签数据集为无标签数据集为xi表示训练样本点的信号接收强度向量，yi分别表示训练样本点的位置坐标，其中l和u分别为带标签和无标签数据的个数。在机器学习中目标函数以及对目标函数所使用的解决方法往往决定了一个算法的模型。MR-ELM算法的目标函数将采用最最小二乘法来解，通过调整极限学习机本身的目标函数，加入流形正则化，得到流形正则化极限学习机的目标函数。具体过程是将公式(10)表示的流形正则化项添加到ELM目标函数(6)中，使得MR-ELM算法既继承了极限学习机的优点，又能利用无标签数据；依上所述，MR-ELM算法的目标函数表现形式为
fi＝h(xi)β,i＝1,2,...,l+u (11)
其中fi代表第i个训练数据通过位置估计模型所得到的预测位置，L∈R(l+u)*(l+u)表示在l个带标签数据和u个无标签数据空间中建立的图的拉普拉斯算子，表示经过模型运算的输出矩阵，nh是隐含层节点个数，no是输出层节点个数，C和λ是惩罚参数，h()是隐含层输出函数；当利用k近邻方法构建邻接图时，权重矩阵计算如式(8)所示，该方法虽然减少了计算量，便于实现，但是节点的位置预测更偏向于它邻居节点的位置，从而降低了预测精度。为了解决这个问题，引入高斯核函数进行邻接图权重矩阵计算，从而更好地反映样本空间的流形，提高预测精度，公式如下
将式(11)中的约束因子代入目标函数即式(11)中第一行的函数，则MR-ELM目标函数的矩阵形式可简写为
对上式关于β求导，并令其等于0，得
▽L＝β+HTC(Y-Hβ)+λHTLHβ＝0 (14)
当带标签数据的个数大于隐含层节点的个数时，
当带标签数据的个数小于隐含层节点的个数时，
β＝HT(Il+u+CHHT+λLHHT)-1CY(16)
其中，I是单位矩阵，C是惩罚矩阵；
β求出后，根据式f＝h(x)β可求出测试样本的估计位置坐标；
f代表预测位置坐标，与上面的fi一样，只是没有具体指第i个测试数据。

Claims (3)

1.一种基于流形正则化的半监督指纹定位算法，其特征在于，包括以下步骤：
步骤一：从实际环境中取得带标签训练数据和无标签训练数据，共同作为半监督学习的训练数据集；
步骤二：在带标签和无标签训练数据的输入空间建立图拉普拉斯算子；
步骤三：引入高斯核函数来计算邻接图权重矩阵；
步骤四：将流形正则化框架与随机特征映射的极限学习机相结合，求解隐含层输出权值矩阵，构建位置估计模型。
2.如权利要求1所述的基于流形正则化的半监督指纹定位算法，其特征在于，
步骤三中，引入高斯核函数来计算邻接图权重矩阵，从而更好地反映样本空间的流形，提高预测精度，公式如下：
<mrow> <msub> <mi>W</mi> <mrow> <mi>i</mi> <mi>j</mi> </mrow> </msub> <mo>=</mo> <mfenced open = "{" close = ""> <mtable> <mtr> <mtd> <mrow> <mi>exp</mi> <mrow> <mo>(</mo> <mo>-</mo> <mo>|</mo> <mo>|</mo> <msub> <mi>x</mi> <mi>i</mi> </msub> <mo>-</mo> <msub> <mi>x</mi> <mi>j</mi> </msub> <mo>|</mo> <msup> <mo>|</mo> <mn>2</mn> </msup> <mo>/</mo> <mn>2</mn> <mo>)</mo> </mrow> <mo>,</mo> <mi>i</mi> <mi>f</mi> <mi> </mi> <msub> <mi>x</mi> <mi>i</mi> </msub> <mo>&amp;Element;</mo> <mi>k</mi> <mi>n</mi> <mi>n</mi> <mrow> <mo>(</mo> <msub> <mi>x</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <msub> <mi>orx</mi> <mi>j</mi> </msub> <mo>&amp;Element;</mo> <mi>k</mi> <mi>n</mi> <mi>n</mi> <mrow> <mo>(</mo> <msub> <mi>x</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> </mrow> </mtd> </mtr> <mtr> <mtd> <mn>0</mn> </mtd> </mtr> </mtable> </mfenced> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>12</mn> <mo>)</mo> </mrow> </mrow>
其中，xi和xj表示两个不同训练样本点的信号接收强度向量，Wij为训练样本点xi和xj之间的边权值矩阵，knn(xj)表示xj的最近邻点集合，knn(xi)表示xi的最近邻点集合。
3.如权利要求2所述的基于流形正则化的半监督指纹定位算法，其特征在于，
步骤四中具体包括：
基于流形正则化框架，根据训练数据及最近邻相似度建立一个图拉普拉斯算子，
<mrow> <msub> <mi>L</mi> <mi>m</mi> </msub> <mo>=</mo> <mfrac> <mn>1</mn> <mn>2</mn> </mfrac> <munder> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>,</mo> <mi>j</mi> </mrow> </munder> <msub> <mi>W</mi> <mrow> <mi>i</mi> <mi>j</mi> </mrow> </msub> <mo>|</mo> <mo>|</mo> <mi>P</mi> <mrow> <mo>(</mo> <mi>y</mi> <mo>|</mo> <msub> <mi>x</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <mo>-</mo> <mi>P</mi> <mrow> <mo>(</mo> <mi>y</mi> <mo>|</mo> <msub> <mi>x</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <mo>|</mo> <msup> <mo>|</mo> <mn>2</mn> </msup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>7</mn> <mo>)</mo> </mrow> </mrow>
<mrow> <msub> <mi>W</mi> <mrow> <mi>i</mi> <mi>j</mi> </mrow> </msub> <mo>=</mo> <mfenced open = "{" close = ""> <mtable> <mtr> <mtd> <mrow> <mi>exp</mi> <mrow> <mo>(</mo> <mo>-</mo> <mo>|</mo> <mo>|</mo> <msub> <mi>x</mi> <mi>i</mi> </msub> <mo>-</mo> <msub> <mi>x</mi> <mi>j</mi> </msub> <mo>|</mo> <msup> <mo>|</mo> <mn>2</mn> </msup> <mo>/</mo> <mn>2</mn> <mo>)</mo> </mrow> <mo>,</mo> <mi>i</mi> <mi>f</mi> <mi> </mi> <msub> <mi>x</mi> <mi>i</mi> </msub> <mo>&amp;Element;</mo> <mi>k</mi> <mi>n</mi> <mi>n</mi> <mrow> <mo>(</mo> <msub> <mi>x</mi> <mi>j</mi> </msub> <mo>)</mo> </mrow> <msub> <mi>orx</mi> <mi>j</mi> </msub> <mo>&amp;Element;</mo> <mi>k</mi> <mi>n</mi> <mi>n</mi> <mrow> <mo>(</mo> <msub> <mi>x</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> </mrow> </mtd> </mtr> <mtr> <mtd> <mn>0</mn> </mtd> </mtr> </mtable> </mfenced> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>12</mn> <mo>)</mo> </mrow> </mrow>
Lm表示图拉普拉斯算子；xi和xj表示两个不同训练样本点的训练样本点的信号接收强度向量，x1的条件概率P(y|x1)，x2的条件概率P(y|x2)；
由于条件概率不容易求得，可将式(7)简化为
<mrow> <msub> <mi>L</mi> <mi>m</mi> </msub> <mo>=</mo> <mfrac> <mn>1</mn> <mn>2</mn> </mfrac> <munder> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>,</mo> <mi>j</mi> </mrow> </munder> <msub> <mi>W</mi> <mrow> <mi>i</mi> <mi>j</mi> </mrow> </msub> <mo>|</mo> <mo>|</mo> <msub> <mi>y</mi> <mi>i</mi> </msub> <mo>-</mo> <msub> <mi>y</mi> <mi>j</mi> </msub> <mo>|</mo> <msup> <mo>|</mo> <mn>2</mn> </msup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>9</mn> <mo>)</mo> </mrow> </mrow>
yi和yj表示不同样本点的位置；
上式(9)用矩阵形式可表示为
Lm＝Tr(YTLY) (10)
其中，Tr(.)是矩阵的迹，L＝D-W是图拉普拉斯算子，W＝[Wij]为邻接图权重矩阵；D是对角矩阵，对角元素为l为带标签数据个数，u为无标签数据个数；
将公式(10)表示的流形正则化项添加到ELM目标函数中，MR-ELM算法的目标函数表现形式为
<mrow> <msub> <mi>L</mi> <mi>m</mi> </msub> <mo>=</mo> <munder> <mrow> <mi>m</mi> <mi>i</mi> <mi>n</mi> </mrow> <mrow> <mi>&amp;beta;</mi> <mo>&amp;Element;</mo> <msup> <mi>R</mi> <mrow> <msub> <mi>n</mi> <mi>h</mi> </msub> <mo>*</mo> <msub> <mi>n</mi> <mi>o</mi> </msub> </mrow> </msup> </mrow> </munder> <mfrac> <mn>1</mn> <mn>2</mn> </mfrac> <mo>|</mo> <mo>|</mo> <mi>&amp;beta;</mi> <mo>|</mo> <msup> <mo>|</mo> <mn>2</mn> </msup> <mo>+</mo> <mfrac> <mn>1</mn> <mn>2</mn> </mfrac> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>l</mi> </munderover> <msub> <mi>C</mi> <mi>i</mi> </msub> <mo>|</mo> <mo>|</mo> <msub> <mi>e</mi> <mi>i</mi> </msub> <mo>|</mo> <msup> <mo>|</mo> <mn>2</mn> </msup> <mo>+</mo> <mfrac> <mi>&amp;lambda;</mi> <mn>2</mn> </mfrac> <mi>T</mi> <mi>r</mi> <mrow> <mo>(</mo> <msup> <mi>F</mi> <mi>T</mi> </msup> <mi>L</mi> <mi>F</mi> <mo>)</mo> </mrow> </mrow>
<mfenced open = "" close = ""> <mtable> <mtr> <mtd> <mrow> <mi>s</mi> <mo>.</mo> <mi>t</mi> <mo>.</mo> </mrow> </mtd> <mtd> <mrow> <mi>h</mi> <mrow> <mo>(</mo> <msub> <mi>x</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <mi>&amp;beta;</mi> <mo>=</mo> <msubsup> <mi>y</mi> <mi>i</mi> <mi>T</mi> </msubsup> <mo>-</mo> <msubsup> <mi>e</mi> <mi>i</mi> <mi>T</mi> </msubsup> <mo>,</mo> <mi>i</mi> <mo>=</mo> <mn>1</mn> <mo>,</mo> <mn>2</mn> <mo>,</mo> <mo>...</mo> <mo>,</mo> <mi>l</mi> </mrow> </mtd> </mtr> </mtable> </mfenced>
fi＝h(xi)β,i＝1,2,...,l+u(11)
其中fi代表第i个训练数据通过位置估计模型所得到的预测位置，L∈R(l+u)*(l+u)表示在l个带标签数据和u个无标签数据空间中建立的图的拉普拉斯算子，表示经过模型运算的输出矩阵，nh是隐含层节点个数，no是输出层节点个数，C和λ是惩罚参数，h()是隐含层输出函数；
将式(11)中的约束因子代入目标函数即式(11)中第一行的函数，则MR-ELM目标函数的矩阵形式可简写为
<mrow> <munder> <mi>min</mi> <mrow> <mi>&amp;beta;</mi> <mo>&amp;Element;</mo> <msup> <mi>R</mi> <mrow> <msub> <mi>n</mi> <mi>h</mi> </msub> <mo>*</mo> <msub> <mi>n</mi> <mi>o</mi> </msub> </mrow> </msup> </mrow> </munder> <mfrac> <mn>1</mn> <mn>2</mn> </mfrac> <mo>|</mo> <mo>|</mo> <mi>&amp;beta;</mi> <mo>|</mo> <msup> <mo>|</mo> <mn>2</mn> </msup> <mo>+</mo> <mfrac> <mn>1</mn> <mn>2</mn> </mfrac> <mo>|</mo> <mo>|</mo> <msup> <mi>C</mi> <mfrac> <mn>1</mn> <mn>2</mn> </mfrac> </msup> <mrow> <mo>(</mo> <mi>Y</mi> <mo>-</mo> <mi>H</mi> <mi>&amp;beta;</mi> <mo>)</mo> </mrow> <mo>|</mo> <mo>|</mo> <mo>+</mo> <mfrac> <mi>&amp;lambda;</mi> <mn>2</mn> </mfrac> <mi>T</mi> <mi>r</mi> <mrow> <mo>(</mo> <msup> <mi>&amp;beta;</mi> <mi>T</mi> </msup> <msup> <mi>H</mi> <mi>T</mi> </msup> <mi>L</mi> <mi>H</mi> <mi>&amp;beta;</mi> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>13</mn> <mo>)</mo> </mrow> </mrow>
对上式关于β求导，并令其等于0，得
<mrow> <mo>&amp;dtri;</mo> <mi>L</mi> <mo>=</mo> <mi>&amp;beta;</mi> <mo>+</mo> <msup> <mi>H</mi> <mi>T</mi> </msup> <mi>C</mi> <mrow> <mo>(</mo> <mi>Y</mi> <mo>-</mo> <mi>H</mi> <mi>&amp;beta;</mi> <mo>)</mo> </mrow> <mo>+</mo> <msup> <mi>&amp;lambda;H</mi> <mi>T</mi> </msup> <mi>L</mi> <mi>H</mi> <mi>&amp;beta;</mi> <mo>=</mo> <mn>0</mn> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>14</mn> <mo>)</mo> </mrow> </mrow>
当带标签数据的个数大于隐含层节点的个数时，
<mrow> <mi>&amp;beta;</mi> <mo>=</mo> <msup> <mrow> <mo>(</mo> <msub> <mi>I</mi> <msub> <mi>n</mi> <mi>h</mi> </msub> </msub> <mo>+</mo> <msup> <mi>H</mi> <mi>T</mi> </msup> <mi>C</mi> <mi>H</mi> <mo>+</mo> <mi>&amp;lambda;</mi> <mi>L</mi> <mi>H</mi> <mo>)</mo> </mrow> <mrow> <mo>-</mo> <mn>1</mn> </mrow> </msup> <msup> <mi>H</mi> <mi>T</mi> </msup> <mi>C</mi> <mi>Y</mi> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>15</mn> <mo>)</mo> </mrow> </mrow>
当带标签数据的个数小于隐含层节点的个数时，
β＝HT(Il+u+CHHT+λLHHT)-1CY (16)
其中，I是单位矩阵，C是惩罚矩阵；
β求出后，根据式f＝h(x)β可求出测试样本的估计位置坐标；
f代表预测位置坐标。
CN201710617715.5A 2017-07-26 2017-07-26 基于流形正则化的半监督指纹定位算法 Pending CN107423762A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710617715.5A CN107423762A (zh) 2017-07-26 2017-07-26 基于流形正则化的半监督指纹定位算法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710617715.5A CN107423762A (zh) 2017-07-26 2017-07-26 基于流形正则化的半监督指纹定位算法

Publications (1)

Publication Number Publication Date
CN107423762A true CN107423762A (zh) 2017-12-01

Family

ID=60431373

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710617715.5A Pending CN107423762A (zh) 2017-07-26 2017-07-26 基于流形正则化的半监督指纹定位算法

Country Status (1)

Country Link
CN (1) CN107423762A (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109116300A (zh) * 2018-06-28 2019-01-01 江南大学 一种基于非充分指纹信息的极限学习定位方法
CN109239603A (zh) * 2018-10-24 2019-01-18 江苏理工学院 一种流形正则化框架下的极限学习机预测动力电池soc方法
CN109246598A (zh) * 2018-08-23 2019-01-18 南京邮电大学 基于岭回归和极限学习机的室内定位方法
CN109581282A (zh) * 2018-11-06 2019-04-05 宁波大学 基于贝叶斯半监督深度学习的室内定位方法
CN109598283A (zh) * 2018-10-22 2019-04-09 中南大学 一种基于半监督极限学习机的铝电解过热度识别方法
CN110501674A (zh) * 2019-08-20 2019-11-26 长安大学 一种基于半监督学习的声信号非视距识别方法
CN110598728A (zh) * 2019-07-23 2019-12-20 杭州电子科技大学 基于图平衡正则化的半监督超限学机分类方法
CN110675382A (zh) * 2019-09-24 2020-01-10 中南大学 基于CNN-LapsELM的铝电解过热度识别方法
CN111932287A (zh) * 2019-05-13 2020-11-13 阿里巴巴集团控股有限公司 数据合作处理方法、装置、电子设备及计算机存储介质
CN117744128A (zh) * 2024-02-21 2024-03-22 广州久零区块链技术有限公司 基于区块链的电商交易数据安全管理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101695152A (zh) * 2009-10-12 2010-04-14 中国科学院计算技术研究所 室内定位的方法及其系统
US20130243309A1 (en) * 2009-03-31 2013-09-19 Nbcuniversal Media, Llc System and method for automatic landmark labeling with minimal supervision
CN104540221A (zh) * 2015-01-15 2015-04-22 哈尔滨工业大学 基于半监督sde算法的wlan室内定位方法
CN106815576A (zh) * 2017-01-20 2017-06-09 中国海洋大学 基于连续时空置信图和半监督极限学习机的目标追踪方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130243309A1 (en) * 2009-03-31 2013-09-19 Nbcuniversal Media, Llc System and method for automatic landmark labeling with minimal supervision
CN101695152A (zh) * 2009-10-12 2010-04-14 中国科学院计算技术研究所 室内定位的方法及其系统
CN104540221A (zh) * 2015-01-15 2015-04-22 哈尔滨工业大学 基于半监督sde算法的wlan室内定位方法
CN106815576A (zh) * 2017-01-20 2017-06-09 中国海洋大学 基于连续时空置信图和半监督极限学习机的目标追踪方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
GAO HUANG等: "Semi-Supervised and Unsupervised Extreme Learning Machines", 《IEEE TRANSACTIONS ON CYBERNETICS》 *
夏颖等: "基于半监督流形学习的WLAN室内定位算法", 《系统工程与电子技术》 *

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109116300A (zh) * 2018-06-28 2019-01-01 江南大学 一种基于非充分指纹信息的极限学习定位方法
CN109246598A (zh) * 2018-08-23 2019-01-18 南京邮电大学 基于岭回归和极限学习机的室内定位方法
CN109598283A (zh) * 2018-10-22 2019-04-09 中南大学 一种基于半监督极限学习机的铝电解过热度识别方法
CN109239603A (zh) * 2018-10-24 2019-01-18 江苏理工学院 一种流形正则化框架下的极限学习机预测动力电池soc方法
CN109581282A (zh) * 2018-11-06 2019-04-05 宁波大学 基于贝叶斯半监督深度学习的室内定位方法
CN111932287A (zh) * 2019-05-13 2020-11-13 阿里巴巴集团控股有限公司 数据合作处理方法、装置、电子设备及计算机存储介质
CN111932287B (zh) * 2019-05-13 2022-05-17 阿里巴巴集团控股有限公司 数据合作处理方法、装置、电子设备及计算机存储介质
CN110598728A (zh) * 2019-07-23 2019-12-20 杭州电子科技大学 基于图平衡正则化的半监督超限学机分类方法
CN110598728B (zh) * 2019-07-23 2021-11-09 杭州电子科技大学 基于图平衡正则化的半监督超限学习机分类方法
CN110501674A (zh) * 2019-08-20 2019-11-26 长安大学 一种基于半监督学习的声信号非视距识别方法
CN110675382A (zh) * 2019-09-24 2020-01-10 中南大学 基于CNN-LapsELM的铝电解过热度识别方法
CN117744128A (zh) * 2024-02-21 2024-03-22 广州久零区块链技术有限公司 基于区块链的电商交易数据安全管理方法
CN117744128B (zh) * 2024-02-21 2024-05-14 广州久零区块链技术有限公司 基于区块链的电商交易数据安全管理方法

Similar Documents

Publication Publication Date Title
CN107423762A (zh) 基于流形正则化的半监督指纹定位算法
CN103927394B (zh) 一种基于svm的多标签主动学习分类方法及系统
CN102819663B (zh) 一种基于优化的支持向量回归参数的船舶航迹预测方法
CN103648106B (zh) 一种基于类别匹配的半监督流形学习的WiFi室内定位方法
CN107330396A (zh) 一种基于多属性和多策略融合学习的行人再识别方法
CN110234085B (zh) 基于对抗迁移网络的室内位置指纹地图生成方法及系统
CN103455610B (zh) 基于多目标密母计算的网络社区检测方法
CN107396322A (zh) 基于路径匹配与编码译码循环神经网络的室内定位方法
CN109165540A (zh) 一种基于先验候选框选择策略的行人搜索方法和装置
CN102708327A (zh) 一种基于谱优化的网络社区发现方法
CN103020485B (zh) 基于beta噪声核岭回归技术的短期风速预报方法
CN109756842A (zh) 基于注意力机制的无线室内定位方法及系统
CN105046714A (zh) 一种非监督的基于超像素和目标发现机制的图像分割方法
CN104363654A (zh) 基于Tunneling method的无线传感器网络三维节点定位方法
CN116596095B (zh) 基于机器学习的碳排放量预测模型的训练方法及装置
CN113626612A (zh) 一种基于知识图谱推理的预测方法和系统
Zhao et al. WiFi indoor positioning algorithm based on machine learning
CN114861747A (zh) 多层网络关键节点的识别方法、装置、设备和存储介质
CN108470189A (zh) 基于对偶相似度模型的多域辐射源信息融合方法
CN103313386B (zh) 基于信息一致性权值优化的无线传感网络目标跟踪方法
CN114707635A (zh) 基于网络架构搜索的模型构建方法、装置及存储介质
Liu et al. Analysis of memory capacity for deep echo state networks
CN110489616A (zh) 一种基于Ranknet和Lambdamart算法的搜索排序方法
Li et al. Extremal optimization-based semi-supervised algorithm with conflict pairwise constraints for community detection
CN106503386A (zh) 评估光功率预测算法性能优劣的方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20171201

RJ01 Rejection of invention patent application after publication