CN108764320A - 基于分数阶特征线分析的特征提取方法 - Google Patents

Abstract

本发明适用于人工智能领域，提供基于分数阶特征线分析的特征提取方法，所述特征提取方法利用特征线度量来衡量训练样本的类内散度和类间散度，提出了分数阶特征线类内散度和分数阶特征线类间散度，目标是最大化分数阶特征线类间散度，同时最小化分数阶特征线类内散度，从而达到提高特征提取的灵活性，改善特征提取性能的目的。

Description

基于分数阶特征线分析的特征提取方法

技术领域

本发明属于人工智能领域，尤其涉及基于分数阶特征线分析的特征提取方法。

背景技术

两类分类问题在计算机辅助诊断等实际应用中有广泛的应用，在分类过程中特征提取是一个很重要的步骤，目前存在的子空间学习方法对小样本问题效果显著，子空间学习方法就是要寻找一个最优变换，然后将原始样本变换到特征空间，从而完成特征提取的过程，并在此过程中同时完成降维。

发明内容

本发明的目的在于提供基于分数阶特征线分析的特征提取方法，旨在解决两类分类任务中的特征提取的技术问题。

本发明是这样实现的基于分数阶特征线分析的特征提取方法，所述脑电信号特征选择方法包括以下步骤：

步骤S1：将训练样本数据集中的训练样本进行分析并计算训练样本到本类别和其他类别特征线上的特征点，l(X_i)表示X_i的类别标签，假设包含2个类别，即l(X_i)∈{1,2}，每个类别包括n个训练样本，总训练样本个数为2n；

首先构造特征点矩阵，最近特征线的计算方式：给定一个样本X_q∈R^m，该样本在同一类别的两个样本X_i,X_j所生成的特征线上的特征点X_p∈R^m为

X_p＝X_i+t(X_j-X_i)

其中

t＝＜X_q-X_i,X_j-X_i＞/＜X_j-X_i,X_j-X_i＞，<·>表示内积；

则X_q到该特征线的距离为||X_q-X_p||₂，这里||·||₂为2范数；

对于训练样本X_i，则该训练样本的类内特征点是指X_i到l(X_i)类别中除了X_i之外的其他训练样本两两生成的特征线的特征点，则训练样本X_i的类内特征点个数为这里表示组合数，则对于第i类训练样本，所有训练样本的类内特征点总数应为将所有第1类训练样本的类内特征点放在一起，可以构成一个矩阵，记作Y¹＝[Y₁Y₂…Y_N]∈R^{m ×N}，将所有第2类训练样本的类内特征点放在一起，可以构成一个矩阵，记作Y²＝[Y₁'Y₂'…Y_N']∈R^m×N；

步骤S2：利用步骤S1中计算出的第1类训练样本的矩阵及第2类训练样本的矩阵计算分数阶散度矩阵，

记G_i＝YⁱY^iT/N为类内散度矩阵，这里T表示矩阵的转置，i＝1,2，则G_i为对称矩阵，对G_i进行特征分解得到：

G_i＝V_iD_iV_i ^T

这里，V_i是G_i的特征向量组成的矩阵，D_i是一个对角线为G_i特征值的对角矩阵，即D_i＝diag(μ₁,μ₂,…,μ_m)，其中μ₁,μ₂,…,μ_m为G_i的特征值，diag()表示由括号中的向量生成的对角矩阵，

记为第i类的分数阶特征线类内散度矩阵，α是阶数为一个常数，i＝1,2，其中

记G₁₂＝Y¹Y^2T/N为类间散度矩阵，对G₁₂进行奇异值分解得到：G₁₂＝PΛQ^T，这里P和Q分别为左右奇异向量矩阵，Λ是一个对角线为降序排列的奇异值的对角矩阵，其中Λ＝diag(v₁,v₂,…,v_m)，v₁,v₂,…,v_m为矩阵G₁₂的奇异值；

记为分数阶特征线类间散度矩阵，其中β是阶数为一个常数；

步骤S3：根据步骤S2中计算的出的分数阶特征线类内散度矩阵和分数阶特征线类间散度矩阵计算投影矩阵；投影矩阵可以通过最大化下面的优化目标函数J得到

对J(u)关于u求导，并令之为0，可以得到J(u)取得最大值的条件为

和为两个标量，所以该条件可以转化为

即说明u为矩阵相对于矩阵的广义特征向量，当满秩时，广义特征向量问题可以转化为求解矩阵的普通特征向量问题，即

Gu＝λu，当G₁₂不满秩时，令G₁₂＝εI+G₁₂，其中ε是一个常数，I为单位矩阵，然后就可以转化为矩阵G的普通矩阵特征值向量问题，

记U＝[u₁,u₂,…,u_d]，其中u₁,u₂,…,u_d是矩阵G的对应于特征值λ₁,λ₂,…,λ_d的特征向量，且λ₁≥λ₂≥…≥λ_d，则U即为所需的投影矩阵；

步骤S4：根据步骤S3中的投影矩阵计算训练样本特征矩阵，对于训练样本X_i，F_i＝U^TX_i即为利用分数阶特征线分析提取的特征，F＝[F₁,F₂,…,F_2n]即为训练样本特征矩阵，与投影矩阵U一起备用，以备在分类任务中使用。

本发明的有益效果是：对两类分类任务中的特征提取进行优化，让计算机自主通过我们设计的学习机制对样本进行特征提取。

附图说明

具体实施方式

本发明的基于L2,1范数的脑电信号特征选择方法，所述脑电信号特征选择方法包括以下步骤：

步骤S1：将训练样本数据集中的训练样本进行分析并计算训练样本到本类别和其他类别特征线上的特征点，l(X_i)表示X_i的类别标签，假设包含2个类别，即l(X_i)∈{1,2}，每个类别包括n个训练样本，总训练样本个数为2n；

首先构造特征点矩阵，最近特征线的计算方式：给定一个样本X_q∈R^m，该样本在同一类别的两个样本X_i,X_j所生成的特征线上的特征点X_p∈R^m为

X_p＝X_i+t(X_j-X_i)

其中

t＝＜X_q-X_i,X_j-X_i＞/＜X_j-X_i,X_j-X_i＞，<·>表示内积；

则X_q到该特征线的距离为||X_q-X_p||₂，这里||·||₂为2范数；

对于训练样本X_i，则该训练样本的类内特征点是指X_i到l(X_i)类别中除了X_i之外的其他训练样本两两生成的特征线的特征点，则训练样本X_i的类内特征点个数为这里表示组合数，则对于第i类训练样本，所有训练样本的类内特征点总数应为将所有第1类训练样本的类内特征点放在一起，可以构成一个矩阵，记作Y¹＝[Y₁Y₂…Y_N]∈R^{m ×N}，将所有第2类训练样本的类内特征点放在一起，可以构成一个矩阵，记作Y²＝[Y₁'Y₂'…Y_N']∈R^m×N；

步骤S2：利用步骤S1中计算出的第1类训练样本的矩阵及第2类训练样本的矩阵计算分数阶散度矩阵，

记G_i＝YⁱY^iT/N为类内散度矩阵，这里T表示矩阵的转置，i＝1,2，则G_i为对称矩阵，对G_i进行特征分解得到：

G_i＝V_iD_iV_i ^T

这里，V_i是G_i的特征向量组成的矩阵，D_i是一个对角线为G_i特征值的对角矩阵，即D_i＝diag(μ₁,μ₂,…,μ_m)，其中μ₁,μ₂,…,μ_m为G_i的特征值，diag()表示由括号中的向量生成的对角矩阵，

记为第i类的分数阶特征线类内散度矩阵，α是阶数为一个常数，i＝1,2，其中

记G₁₂＝Y¹Y^2T/N为类间散度矩阵，对G₁₂进行奇异值分解得到：G₁₂＝PΛQ^T，这里P和Q分别为左右奇异向量矩阵，Λ是一个对角线为降序排列的奇异值的对角矩阵，其中Λ＝diag(v₁,v₂,…,v_m)，v₁,v₂,…,v_m为矩阵G₁₂的奇异值；

记为分数阶特征线类间散度矩阵，其中β是阶数为一个常数；

步骤S3：根据步骤S2中计算的出的分数阶特征线类内散度矩阵和分数阶特征线类间散度矩阵计算投影矩阵；投影矩阵可以通过最大化下面的优化目标函数J得到

对J(u)关于u求导，并令之为0，可以得到J(u)取得最大值的条件为

和为两个标量，所以该条件可以转化为

即说明u为矩阵相对于矩阵的广义特征向量，当满秩时，广义特征向量问题可以转化为求解矩阵的普通特征向量问题，即

Gu＝λu，当G₁₂不满秩时，令G₁₂＝εI+G₁₂，其中ε是一个常数，I为单位矩阵，然后就可以转化为矩阵G的普通矩阵特征值向量问题，

记U＝[u₁,u₂,…,u_d]，其中u₁,u₂,…,u_d是矩阵G的对应于特征值λ₁,λ₂,…,λ_d的特征向量，且λ₁≥λ₂≥…≥λ_d，则U即为所需的投影矩阵；

步骤S4：根据步骤S3中的投影矩阵计算训练样本特征矩阵，对于训练样本X_i，F_i＝U^TX_i即为利用分数阶特征线分析提取的特征，F＝[F₁,F₂,…,F_2n]即为训练样本特征矩阵，与投影矩阵U一起备用，以备在分类任务中使用。

对两类分类任务中的特征提取进行优化，让计算机自主通过我们设计的学习机制对样本进行特征提取。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (1)

1.基于分数阶特征线分析的特征提取方法，其特征在于，所述特征提取方法包括以下步骤：

步骤S1：将训练样本数据集中的训练样本进行分析并计算训练样本到本类别和其他类别特征线上的特征点，l(X_i)表示X_i的类别标签，假设包含2个类别，即l(X_i)∈{1,2}，每个类别包括n个训练样本，总训练样本个数为2n；

首先构造特征点矩阵，最近特征线的计算方式：给定一个样本X_q∈R^m，该样本在同一类别的两个样本X_i,X_j所生成的特征线上的特征点X_p∈R^m为

X_p＝X_i+t(X_j-X_i)

其中

t＝＜X_q-X_i,X_j-X_i＞/＜X_j-X_i,X_j-X_i＞，<·>表示内积；

则X_q到该特征线的距离为||X_q-X_p||₂，这里||·||₂为2范数；

对于训练样本X_i，则该训练样本的类内特征点是指X_i到l(X_i)类别中除了X_i之外的其他训练样本两两生成的特征线的特征点，则训练样本X_i的类内特征点个数为这里表示组合数，则对于第i类训练样本，所有训练样本的类内特征点总数应为将所有第1类训练样本的类内特征点放在一起，可以构成一个矩阵，记作Y¹＝[Y₁ Y₂…Y_N]∈R^m×N，将所有第2类训练样本的类内特征点放在一起，可以构成一个矩阵，记作Y²＝[Y₁' Y₂'…Y_N']∈R^{m ×N}；

步骤S2：利用步骤S1中计算出的第1类训练样本的矩阵及第2类训练样本的矩阵计算分数阶散度矩阵，

记G_i＝YⁱY^iT/N为类内散度矩阵，这里T表示矩阵的转置，i＝1,2，则G_i为对称矩阵，对G_i进行特征分解得到：

G_i＝V_iD_iV_i ^T

这里，V_i是G_i的特征向量组成的矩阵，D_i是一个对角线为G_i特征值的对角矩阵，即D_i＝diag(μ₁,μ₂,…,μ_m)，其中μ₁,μ₂,…,μ_m为G_i的特征值，diag(·)表示由括号中的向量生成的对角矩阵，

记为第i类的分数阶特征线类内散度矩阵，α是阶数为一个常数，i＝1,2，其中

记G₁₂＝Y¹Y^2T/N为类间散度矩阵，对G₁₂进行奇异值分解得到：G₁₂＝PΛQ^T，这里P和Q分别为左右奇异向量矩阵，Λ是一个对角线为降序排列的奇异值的对角矩阵，其中Λ＝diag(v₁,v₂,…,v_m)，v₁,v₂,…,v_m为矩阵G₁₂的奇异值；

记为分数阶特征线类间散度矩阵，其中β是阶数为一个常数；

步骤S3：根据步骤S2中计算的出的分数阶特征线类内散度矩阵和分数阶特征线类间散度矩阵计算投影矩阵；投影矩阵可以通过最大化下面的优化目标函数J得到

对J(u)关于u求导，并令之为0，可以得到J(u)取得最大值的条件为

和为两个标量，所以该条件可以转化为

即说明u为矩阵相对于矩阵的广义特征向量，当满秩时，广义特征向量问题可以转化为求解矩阵的普通特征向量问题，即

Gu＝λu，当G₁₂不满秩时，令G₁₂＝εI+G₁₂，其中ε是一个常数，I为单位矩阵，然后就可以转化为矩阵G的普通矩阵特征值向量问题，

记U＝[u₁,u₂,…,u_d]，其中u₁,u₂,…,u_d是矩阵G的对应于特征值λ₁,λ₂,…,λ_d的特征向量，且λ₁≥λ₂≥…≥λ_d，则U即为所需的投影矩阵；

步骤S4：根据步骤S3中的投影矩阵计算训练样本特征矩阵，对于训练样本X_i，F_i＝U^TX_i即为利用分数阶特征线分析提取的特征，F＝[F₁,F₂,…,F_2n]即为训练样本特征矩阵，与投影矩阵U一起备用，以备在分类任务中使用。