CN106289364B - 一种传感器漂移的自适应调节方法 - Google Patents

Abstract

本发明公开了一种传感器漂移的自适应调节方法，由于在原始空间里，原域和目标域样本的每维特征分布都不一致，学习一组变换基P，将源域和目标域的原始空间映射到某子空间，在子空间里，原域样本和目标域样本的每维特征分布都趋于一致，然后用同一分类器对其进行分类。本发明的技术效果：提高了识别精度。

Description

一种传感器漂移的自适应调节方法

技术领域

本发明属于传感器检测技术领域，具体涉及一种传感器漂移的自适应调节方法。

背景技术

在仪器和测量技术领域，传感器漂移属于本领域的技术难题。传感器漂移通常具有非线性动态特性(例如，模拟嗅觉感知系统的传感器)。引起传感器漂移的客观因素有很多，其中包括老化、中毒以及使用环境的变化(如：温度，湿度，大气压)。所以即使同一仪器在相同环境下对同一气体浓度的响应是有差异的。传感器漂移可以视为随机的或者不确定的，若用某种方法直接对传感器漂移进行估计和补偿是很难实现的。

针对传感器漂移问题，有很多漂移补偿方法。如：集成分类器，成分校正，域适应超限学习机等。但是，集成分类器需要很多标签样本，实际应用中，获取大量的标签样本是及其困难的且费时；成分校正的代表方法有CPCA、OSC和CCPCA，这些方法企图通过参照气体找到传感器的漂移方向，并减去漂移成分，因为传感器漂移是随机的，不可能通过参照气体找出传感器对所有气体的漂移方向；域适应超限学习机是通过学习自适应的分类器。而本专利是从数据处理角度对传感器漂移进行处理，然后可以用各种分类器进行分类，如：支持向量机(SVM)、超限学习机(ELM)等。可用正确分类率直接观察其自适应漂移补偿的效果，本发明属于一种域适应判别子空间学习。

本发明中，对传感器没有漂移的数据称为源域，已漂移的数据称为目标域。通过分析源域和目标域的数据，发现不同的传感器随时间的漂移程度可能是不同的。且当传感器发生漂移后，由于漂移后的数据与漂移前的数据分布已经不一致，从而导致检测系统的性能降低。所以，本发明根据不同传感器的漂移程度不同，从源域和目标域分布一致性的角度，提出一种传感器漂移自适应调节方法。

发明内容

本发明所要解决的技术问题就是提供一种传感器漂移的自适应调节方法，它能根据传感器的漂移情况自适应地进行漂移校正，从而提高检测系统的性能。

为了描述简便，本说明书中规定以下符号为：

用下角标“S”和“T”分别表示源域和目标域，为源域训练样本，R表示Xs是一个大小为D×Ns的矩阵；

为目标域训练样本，其中，D表示每个样本的维数，N_S和N_T分别表示源域和目标域的训练样本数。

是源域样本的类别标签。

是把源域和目标域样本的原始空间映射到某个d维的子空间一组变换基。

||·||_F和||·||₂分别是F范数和l₂范数。

Tr(·)是计算子，(·)^T表示转置运算。

大写的粗黑体表示矩阵，小写的粗黑体表示向量，变量用斜体表示。

本发明所要解决的技术问题是通过这样的技术方案实现的，它包括有以下步骤：

步骤1、输入源域样本(X_S，t_S)和目标域样本其中，

步骤2、根据传感器数，确定复合特征的数量M；

步骤3、计算源域样本的第i个复合特征的中心和目标域样本的第i个复合特征的中心j为源域的第j个样本；k为目标域的第k个样本；

步骤4、计算源域样本的类内散布矩阵和类间散布矩阵

μ_c表示第c个类别的均值，μ是源域所有样本的均值，G_c表示源域的所有属于类别c的样本集合，x是源域的一个样本,C是总的类别数；

步骤5、计算权重w_i，

式中， r、i、q都是复合特征的序号；

步骤6、设置变量v和u的调节范围，v∈[V_min，V_max]，u∈[U_min，U_max],并初始化v＝V_min，u＝U_min；

步骤7、令λ₀＝N^v和λ₁＝N^u，N为正整数；

步骤8、计算矩阵A：

步骤9、根据AP＝ρP对矩阵A进行特征分解；P为转换基，由矩阵A特征分解后的特征向量组成；ρ是对角矩阵，对角线上为其特征值；

步骤10、计算最优的子空间P^*＝[P₁，...，P_d]，P₁,…P_d是对A进行特征分解的前d个最大特征值所对应的特征向量；

步骤11、计算在子空P^*间里源域样本和目标域样本的表达：

X′_S＝(P^*)^TX_S

X′_T＝(P^*)^TX_T

步骤12、进行模式分类，计算识别精度(正确识别类别的百分比)；

步骤13、u＝u+1

若u≤U_max，则执行步骤7～12；

否则执行步骤14；

步骤14、v＝v+1

若v≤V_max，令u＝U_min，执行步骤7～13；

否则执行步骤15；

步骤15、输出最优的转换基P和漂移自适应调节后的识别精度。

与现有技术相比，本发明的技术效果是：提高了识别精度。

附图说明

本发明的附图说明如下：

图1为本发明的数据处理的示意图；

图2为主板、第一从板和第二从板的PCA散点图；

图3为主板经本发明转换后映射到第一从板和第二从板的PCA散点图；

图4为当固定参数λ₁，调节λ₀时的识别精度曲线图；

图5为当固定参数λ₀，调节λ₁时的识别精度曲线图。

具体实施方式

下面结合附图和实施例对本发明作进一步说明：

如图1所示，在原始空间里，原域和目标域样本的每维特征分布都不一致，图示上部的两个域的每维特征中心距离较远。而经过映射后，在子空间里，原域样本和目标域样本的每维特征分布都趋于一致，图示下部的两个域的每维特征中心距离缩短，(表明两域的特征分布一致)，然后用同一分类器对其进行分类。

本发明的构思是：学习一组变换基P将源域和目标域的原始空间映射到某子空间，使得映射后的源域样本和目标域样本在子空间里的特征分布相似。由于源域、目标域两个域的样本集的特征分布相似，由此推理：对于每个特征，目标域样本和源域样本在子空间里的分布是一致的。本发明规定：同一个传感器的特征为一个子特征，而子特征间可以任意组合成一个复合特征，且复合特征的维数应与样本的维数保持一致(维数是样本的大小，本文为D)，例如：

一个样本其中x_i，j表示第i个传感器的第j个特征，i∈[1，m],j∈[1，n_i]，m是传感器数，n_i是第i个传感器的总的特征数；x也可表示成x＝[x₁，x₂，...，x_m]，其中，根据上述规定，x_i为第i个传感器对应的子特征。因为复合特征的维数与样本的维数一致，则有：第t个复合特征，如其由2个子特征组合而成，分别是x₁和x₃，则此复合特征为其中，n₂是第二个传感器的总的特征数，且各个复合特征间不能有相同的子特征。

因为目标域样本和源域样本都是由同一传感器采集到的数据，只是目标域的数据是漂移数据，而源域数据不含漂移，此时目标域样本的均值与源域样本的均值的差异很大；经过本方法发明处理后，均值差异应尽可能的小，以达到漂移自适应的效果，所以对于同一复合特征，目标域样本的均值与源域样本的均值的差异应尽可能的小。

本发明定义两个域的同一复合特征中心的距离(其中和的定义见步骤3)。由于不同特征受传感器漂移的影响程度不同，应给予不同的权重，则建立数学模型(该数学模型使数据处理后目标域样本的均值与源域样本的均值的差异应尽可能的小)如下：

式(1)中，表示在新的子空间里源域样本的第i个复合特征的中心，表示在新的子空间里目标域样本的第i个复合特征的中心，y_S ^ij、y_T ^ik是样本x_S ^ij、x_T ^ik经过本发明方法处理后的值，M是复合特征的个数(M的最大值由传感器决定，M≤m(传感器数))。

权重w_i的计算如下

式中分别是原始空间源域的第r,q,i个复合特征的均值,分别是原始空间目标域的第r,q,i个复合特征的均值，其中，

是原始空间源域第i(r,q)个复合特征对应的第j个样本，是原始空间目标域第i(r,q)个复合特征对应的第k个样本；r、i、q是复合特征的序号，为了公式表达，取不同的变量名。

原始空间的数据经变换基P映射后,在新的子空间里，第i个复合特征的源域样本和目标域样本的重新表示如下：

即

X_S ⁱ表示原始空间源域所有样本的第i个复合特征，X_T ⁱ表示原始空间目标域所有样本的第i个复合特征，Y_S ⁱ和Y_T ⁱ分别表示新的子空间里源域样本和目标域样本的第i个复合特征。

把(2)式和(3)式代入(1)式得：

式(4)中只能保证源域和目标域经一组转换基P映射后，在新的子空间里源域和目标域样本的新表达的均值差异小；但并不意味经转换基P映射后，在新的子空间里源域样本表达不丢失原始的有用信息，且还能被很好的分类。所以，在新的子空间里，原始空间的源域数据的绝大部分信息应被保留下来，且满足源域的类间距大，类内距小(同类的样本距离叫类内距，不同类的样本的距离为类间距)。因此，有表达式如下：

式(5)中，为源域样本的类间散布矩阵，

为源域样本的类内散布矩阵，

μ_c表示第c个类别的均值，μ是源域所有样本的均值，G_c表示源域的所有属于类别c的样本集合，x是源域的一个样本,C是总的类别数。

学习得到的一组转换基P，经转换基P后应能使目标域样本经其映射后不会失真，即新的子空间表示能保留映射前的绝大部分的有用信息。因此，对于目标域数据，应最大化下式：

为了学习到一个漂移自适应的线性子空间，本发明进一步采用目标域正则化方差最大和两个域的所有特征的中心距离正则化最小的思想，能有效避免偏重学习，则用折衷参数联合(4)式、(5)式和(6)式，得如下的模型：

式(7)中，λ₀、λ₁为折衷(正则化)参数，S^S _W源域样本的类内散布矩阵，w_i是权重。

令为原始空间源域样本的第i个复合特征的中心，为原始空间目标域样本的第i个复合特征的中心，则(7)式可改写为：

在(8)式的最大化优化中，P的解有很多，即解不唯一。为了保证解的唯一性，对分母进行约束，使其值为正的常数，从而使得无约束的优化问题转成约束优化问题(以保证解的唯一性和有效性)。则(8)式可改写成下式：

式(9)中，是正的常数矩阵(该常数矩阵可任意设定，且可未知，因为其并不影响最终的求解结果)。

用拉格朗日乘子法求解式(9)，具体如下：

式(10)中，ρ是拉格朗日乘子系数。

对求关于P的偏导数并令其等于0，

令则(11)式可写成下式：

AP＝ρP (12)

由(12)式可知，通过对矩阵A进行特征值分解从而获得转换基P，P由特征分解后的特征向量组成，且ρ是对角矩阵，对角线上为其特征值。

最优的子空间P^*取对矩阵A进行特征分解后的前d个最大的特征值[ρ₁，...，ρ_d]所对应的特征向量(d≤D)，具体表示如下：

P^*＝[P₁，...，P_d] (13)

P₁,…P_d是对矩阵A进行特征分解后的前d个最大的特征值[ρ₁，...，ρ_d]所对应的特征向量。

本发明通过上述推导过程求得最优化的子空间P^*，然后将源域数据X_S和目标域数据X_T映射到子空间P^*上再用分类器进行分类。本发明选用支持向量机作为分类器，且选用高斯核函数。

由此得本发明的一种传感器漂移的自适应调节方法，包括以下步骤：

步骤1、输入源域样本(X_S，t_S)和目标域样本其中，

步骤2、根据传感器个数，确定复合特征的数量M；

步骤3、计算源域样本的第i个复合特征的中心和目标域样本的第i个复合特征的中心j为源域的第j个样本，k为目标域的第k个样本；

步骤4、计算源域样本的类内散布矩阵和类间散布矩阵

μ_c表示第c个类别的均值，μ是源域所有样本的均值，G_c表示源域的所有属于类别c的样本集合，x是源域的一个样本,C是总的类别数；

步骤5、计算权重w_i，

步骤6、设置变量v和u的调节范围，v∈[V_min，V_max]，u∈[U_min，U_max],并初始化v＝V_min，u＝U_min；

步骤7、令λ₀＝N^v和λ₁＝N^u，N为正整数；

步骤8、计算矩阵A：

步骤9、根据AP＝ρP对矩阵A进行特征分解；P为转换基，由矩阵A特征分解后的特征向量组成；ρ是对角矩阵，对角线上为其特征值；

步骤10、计算最优的子空间P^*＝[P₁，...，P_d]，P₁,…P_d是对A进行特征分解的前d个最大特征值所对应的特征向量；

步骤11、计算在子空P^*间里源域样本和目标域样本的表达：

X′_S＝(P^*)^TX_S

X′_T＝(P^*)^TX_T

步骤12、进行模式分类，计算识别精度(正确识别类别的百分比)；

步骤13、u＝u+1

若u≤U_max，则执行步骤7～12；

否则执行步骤14；

步骤14、v＝v+1

若v≤V_max，令u＝U_min，执行步骤7～13；

否则执行步骤15；

步骤15、输出最优的转换基P和漂移自适应调节后的识别精度。

实施例

一、源域样本和目标域样本

实验数据集有3部分：主板数据(5年前采集的样本集)、第一从板(现在采集的样本集)和第二从板(现在采集的样本集)，主板数据代表源域，从板数据代表目标域。采集样本的电子鼻系统包含4个气体传感器和一个温湿度模块。数据集由6种化合物数据组成，化合物分别是甲醛，甲苯，苯，氨，CO和NO₂，这样，每个样本的维数是6(温湿度模块采集温度、湿度信息，4个传感器各一个信息)。数据集的详细信息见表1：

表1实验数据集

电子鼻系统	甲醛	苯	甲苯	CO	NO2	氨	总数
								主板	126	72	66	58	38	60	420
从板1	108	108	106	98	107	81	608
								从板2	108	87	94	95	108	84	576

如图2所示，主板、第一从板和第二从板的PCA散点图，图中class1，class2，class3，class4，class5和class6分别是甲苯，苯，氨，CO，NO₂和甲醛。从图2可以看出，不同类别的点相互交错。

本发明通过学得一组转换基P，使得在新的子空间里训练样本和测试样本的特征分布一致；若两域分布一致，则有以下判断：在新的子空间里，对于同一复合特征，目标域样本的该特征的中心与源域样本的该特征的中心相隔很近。

本电子鼻系统由一个温湿度模块和4个气体传感器组成，其中一个气体传感器分为2路。由前所述，本实施例的数据样本集有6个子特征，分别命名为CF1，CF2，CF3，CF4，CF5和CF6。本发明通过设置复合特征数分别为1，2，3，4，5，6时，对每个复合特征数，各复合特征组成的子特征的具体情况如表2：

表2复合特征组成描述

在表2中，针对复合特征数为5时，本发明研究了2种复合特征情况。

复合特征的构成：复合特征可由子特征随意进行组合，如：样本x由6个传感器采集的信息组成，且每个传感器只提取一个特征(提取的该特征能表征该传感器对这种化合物浓度的特有信息)，则样本x＝[x₁,x₂,x₃,x₄,x₅,x₆]，x_i(i≤6)为第i个传感器提取的特征；那么x₁,x₂,x₃,x₄,x₅,x₆都是子特征，子特征间可随意组合成复合特征或者可单独组成一个复合特征，如：子特征x₁和x₄可组成复合特征1为[x₁,0,0,x₄,0,0],子特征x₂和x₃可组成复合特征2为[0,x₂,x₃,0,0,0]，子特征x₅可不与其它子特征进行组合而单独组成一个复合特征3为[0,0,0,0,x₅,0]，此时只剩下子特征x₆，所以，同x₅，子特征x₆单独组成一个复合特征4为[0,0,0,0,0,x₆]，每个子特征只属于一个复合特征，可单独组成一个复合特征。

设置1

通过式(12)求得P后，用源域样本(X_S，t_S)训练分类器，并用目标域样本(X_T，t_T)测试分类器的性能，

设置2

通过式(12)求得P后，向源域训练样本中加入6*n_t(本数据集有6种化合物)个目标域样本，其中，n_t为向训练样本集中加入的每种化合物的数据个数(即在目标域中，每种化合物取n_t个加入训练样本集)，用表示加入到训练样本的样本集，为其相应的标签；则用训练分类器，并用测试分类器的性能，本实施中，n_t取了1,3,5,7,9。

二、实验测试结果

在设置1下，将本方法发明应用于主板→第一从板，主板→第二从板，其散点图如图3所示。从图3可以看出：使用本方法发明的转换后，在子空间里更易于分类。用2块从板的数据对本方法发明的验证结果见表3，表3采用了SVM、PCA和LDA与本方法发明进行了对比，运用PCA和LDA时，都选用SVM作为分类器。

表3识别精度(设置1)

由表3可知：用两块从板的数据进行验证，本方法发明的识别精度最高，比现有技术SVM、PCA和LDA的识别精度高至少10％，这证明本方法发明在处理传感器漂移的问题具有显著技术效果。

在设置2下，同样用了2块从板的数据对本方法发明进行验证，表4为主板→第一从板的实验结果，表5为主板→第二从板实验结果，实验中同样采用了SVM、PCA、LDA与本方法发明进行了对比。

表4主板→第一从板的识别精度(设置2)

表5主板→第二从板的识别精度(设置2)

从表4和表5可知：在设置2下，本方法发明同样优于现有技术。且无论样本的复合特征是何种表达，它们的平均识别精度都比其他方法好。

从表4和表5看出：识别精度随加入到训练样本的目标域样本数的变化情况，具体的目标域样本的取值情况见设置2，目标域样本数越多，识别精度越高，因为目标域样本数增多，可利用的有效信息也就越多，从而训练的分类器的性能也就越好。

尽管表5表明当复合特征数为2时，其识别结果最好，但它比复合特征数为1的识别精度不超过1％，所以，我们可认为第二从板与表4的效果相似，两块从板都是在复合特征数为1时结果最优。对每个传感器，用目标域样本的该传感器的特征中心与源域样本的同样传感器的特征中心的距离来衡量此传感器的漂移程度，得出6个子特征的漂移程度相当；这一结论与本发明的实验验证结果吻合，即复合特征数为1时，识别精度最高。

本发明提出的模型有2个参数λ₀和λ₁。为了观察2个调节参数对分类结果的影响，我们设置了λ₀和λ₁的调节范围分别是λ₀＝{10^v，v＝-6，-4，...，4，6}，λ₁＝{10^u，u＝-6，-4，...，4，6}。

当固定参数λ₁，调节λ₀时的结果如图4所示；当固定参数λ₀，调节λ₁时的结果如图5所示。图4和图5中，纵坐标为识别精度，横坐标为调节变量v和u。由图4和图5可知：参数对模型的识别结果的影响很大，且当λ₁偏大时，识别精度更好，从而表明了复合特征项(即式(8)中分母的第二项)的重要性。

Claims (1)

1.一种传感器漂移的自适应调节方法，其特征是，包括以下步骤：

步骤1、输入源域样本(X_s，t_s)和目标域样本其中，为源域训练样本，为源域样本的类别标签；D表示每个样本的维数，N_S表示源域训练样本数，N_T为目标域的训练样本数；

步骤2、根据传感器的个数，确定复合特征的数量M；

步骤3、计算源域样本的第i个复合特征的中心和目标域样本的第i个复合特征的中心j为源域的第j个样本；k为目标域的第k个样本；是源域第i个复合特征对应的第j个样本，是目标域第i个复合特征对应的第k个样本；

步骤4、计算源域样本的类内散布矩阵和类间散布矩阵

μ_c表示第c个类别的均值，μ是源域所有样本的均值，G_c表示源域的所有属于类别c的样本集合，x是源域的一个样本,C是总的类别数；

步骤5、计算权重w_i，

式中， r、i、q是复合特征的序号；

步骤6、设置变量v和u的调节范围，v∈[V_min，V_max]，u∈[U_min，U_max],并初始化v＝V_min，u＝U_min；

步骤7、令λ₀＝N^v和λ₁＝N^u，N为正整数；

步骤8、计算矩阵A：

步骤9、根据AP＝ρP对矩阵A进行特征分解；P为转换基，由矩阵A特征分解后的特征向量组成；ρ是对角矩阵，对角线上为其特征值；

步骤10、计算最优的子空间P^*＝[P₁，...，P_d]，P₁,…P_d是对A进行特征分解的前d个最大特征值所对应的特征向量；

步骤11、计算在子空P^*间里源域样本和目标域样本的表达：

X′_S＝(P^*)^TX_S

X′_T＝(P^*)^TX_T

步骤12、进行模式分类，计算识别精度；

步骤13、u＝u+1

若u≤U_max，则执行步骤7～12；

否则执行步骤14；

步骤14、v＝v+1

若v≤V_max，令u＝U_min，执行步骤7～13；

否则执行步骤15；

步骤15、输出最优的转换基P和漂移自适应调节后的识别精度。