CN105654110A - 一种张量模式下的有监督学习优化方法及系统 - Google Patents

Abstract

本发明适用于模式识别技术领域，提供了一种张量模式下的有监督学习优化方法、系统，包括：接收输入的训练张量数据集；将类内散布矩阵引入目标函数，使得目标函数最大化类间距离的同时最小化类内距离；构建OPSTM子问题的目标函数的优化框架；构建OPSTM问题的目标函数的优化框架；求解修改后的对偶问题，输出拉格朗日的最优组合及偏移标量b；计算投影张量W_*；计算最优投影张量W；根据W和b构建决策函数；待预测张量数据经过秩一分解后，输入到决策函数中进行预测。本发明，克服了向量模式算法在处理张量数据时出现的维度灾难、过学习、小样本等问题，并且有效地避免了现有的张量模式算法耗时的交替投影迭代过程。

Description

一种张量模式下的有监督学习优化方法及系统

技术领域

本发明属于模式识别技术领域，尤其涉及一种张量模式下的有监督学习优化方法及系统。

背景技术

随着大数据时代的到来，数据的张量表达逐渐成为主流。然而，在实现本发明过程中，发明人发现现有技术还是采用向量模式算法处理张量数据。根据向量模式算法的观点，须在预处理阶段对原始数据进行特征提取(向量化)，这样，一是容易破坏张量数据特有的空间信息及内在相关性，二是模型参数过多，容易导致维度灾难、过学习、小样本等问题。

许多张量模式算法成为时代的新宠。然而，STM的目标函数求解是非凸优化问题，需要利用交替投影方法求解，算法的时间复杂度很高，并且常遭遇局部最小值问题。

发明内容

有鉴于此，本发明实施例提供一种张量模式下的有监督学习优化方法及系统，以解决现有技术提供的向量模式算法，在处理张量数据时出现的维度灾难、过学习、小样本等问题，克服现有的张量模式算法，本发明的算法是为了解决现有算法的局限，比如存在算法的时间复杂度很高，并且常遭遇局部最小值等问题。

第一方面，提供一种张量模式下的有监督学习优化方法，所述方法包括：

接收输入的训练张量数据集；

将类内散布矩阵引入目标函数，使得目标函数最大化类间距离的同时最小化类内距离；

构建最优投影张量机OPSTM子问题的目标函数的优化框架；

将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建OPSTM问题的目标函数的优化框架；

根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题，并将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题；

利用序列最小优化SMO算法，求解修改后的对偶问题，输出拉格朗日的最优组合及偏移标量b；

计算投影张量W_*；

对投影张量W_*进行秩一分解；

对投影张量W_*进行秩一分解后得到的分量进行逆投影；

对经过逆投影后的分量，进行秩一分解逆运算，得到训练张量数据集对应的最优投影张量W；

构建决策函数阶段，将最优投影张量W经过秩一分解后和偏移标量b一起构建决策函数；

在应用预测阶段，待预测张量数据经过秩一分解后，输入到所述决策函数中，进行预测。

进一步地，通过eta系数η将类内散布矩阵引入STM子问题的目标函数后，第n个子问题的二次规划问题的目标函数变为：

其中，是训练张量数据集沿第n阶展开后估计的第n阶类内散布矩阵，w⁽ⁿ⁾是训练张量数据集的第n阶的最优投影向量，n＝1,2，……N，C是惩罚因子，是松弛变量，eta系数η用于衡量类内散布矩阵的重要性。

进一步地，OPSTM问题的目标函数的优化框架是N个向量模式二次规划问题的组合，分别对应着一个子问题，其中，第n个子问题的二次规划问题为：

其中，为训练张量数据集的第n阶的投影向量，Λ⁽ⁿ⁾和P⁽ⁿ⁾满足E是单位矩阵，是训练张量数据集中的张量输入数据X_m沿各阶投影后得到的张量输入数据，×_i是i-mode乘运算符，b⁽ⁿ⁾为训练张量数据集的第n阶的偏移标量。

进一步地，根据公式和公式将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建的OPSTM问题的目标函数的优化框架满足：

其中，<>是内积运算符，

进一步地，根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题为：

0<α_m<Cm＝1，2，…M；

将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题为：

0<α_m<Cm＝1，2，…M。

进一步地，根据公式计算投影张量W_*。

第二方面，提供一种张量模式下的有监督学习优化系统，所述系统包括：

数据接收单元，用于接收输入的训练张量数据集；

类内散布引入单元，用于将类内散布矩阵引入目标函数，使得目标函数最大化类间距离的同时最小化类内距离；

子问题优化框架构建单元，用于构建最优投影张量机OPSTM子问题的目标函数的优化框架；

问题优化框架构建单元，用于将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建OPSTM问题的目标函数的优化框架；

对偶问题获得单元，用于根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题，并将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题；

对偶问题求解单元，用于利用序列最小优化SMO算法，求解修改后的对偶问题，输出拉格朗日的最优组合及偏移标量b；

投影张量计算单元，用于计算投影张量W_*；

投影张量分解单元，用于对投影张量W_*进行秩一分解；

逆投影单元，用于对投影张量W_*进行秩一分解后得到的分量进行逆投影；

最优投影张量计算单元，用于对经过逆投影后的分量，进行秩一分解逆运算，得到训练张量数据集对应的最优投影张量W；

决策函数构建单元，用于构建决策函数阶段，将最优投影张量W经过秩一分解后和偏移标量b一起构建决策函数；

预测单元，用于在应用预测阶段，待预测张量数据经过秩一分解后，输入到所述决策函数中，进行预测。

进一步地，所述类内散布引入单元通过eta系数η将类内散布矩阵引入STM子问题的目标函数后，第n个子问题的二次规划问题的目标函数变为：

其中，是训练张量数据集沿第n阶展开后估计的第n阶类内散布矩阵，w⁽ⁿ⁾是训练张量数据集的第n阶的最优投影向量，n＝1,2，……N，C是惩罚因子，是松弛变量，eta系数η用于衡量类内散布矩阵的重要性。

进一步地，所述子问题优化框架构建单元中，OPSTM问题的目标函数的优化框架是N个向量模式二次规划问题的组合，分别对应着一个子问题，其中，第n个子问题的二次规划问题为：

其中，为训练张量数据集的第n阶的投影向量，Λ⁽ⁿ⁾和P⁽ⁿ⁾满足E是单位矩阵，是训练张量数据集中的张量输入数据X_m沿各阶投影后得到的张量输入数据，×_i是i-mode乘运算符，b⁽ⁿ⁾为训练张量数据集的第n阶的偏移标量。

进一步地，所述问题优化框架构建单元根据公式和公式将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建的OPSTM问题的目标函数的优化框架满足：

其中，<>是内积运算符，

进一步地，所述对偶问题求解单元根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题为：

0<α_m<Cm＝1，2，…M；

所述对偶问题求解单元将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题为：

进一步地，所述投影张量计算单元根据公式计算投影张量W_*。

在本发明实施例，将N个向量模式的二次规划问题转化为单个张量模式下的多重二次规划问题，转化后的目标函数的优化框架即为OPSTM问题的目标函数的优化框架，可以大幅降低模型的参数数量，克服了传统的向量模式算法在处理张量数据时出现的维度灾难、过学习、小样本等问题，在保证高效处理的同时，凸显其极优的分类效果。综上，本发明的实施例提供的算法能够直接在张量领域高效处理张量数据，同时具备最优的分类能力的特点，具有较强的实用性和推广性。

附图说明

图1是本发明张量模式下的有监督学习优化方法实施例的实现流程图；

图2是本发明张量模式下的有监督学习优化系统实施例的结构框图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

在本发明实施例中，接收输入的训练张量数据集；将类内散布矩阵引入目标函数，使得目标函数最大化类间距离的同时最小化类内距离；构建最优投影张量机OPSTM子问题的目标函数的优化框架；构建OPSTM问题的目标函数的优化框架；根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题，并将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题；利用序列最小优化SMO算法，求解修改后的对偶问题，输出拉格朗日的最优组合及偏移标量；计算投影张量；对投影张量进行秩一分解；对投影张量进行秩一分解后得到的分量进行逆投影；对经过逆投影后的分量，进行秩一分解逆运算，得到训练张量数据集对应的最优投影张量W；构建决策函数阶段，将最优投影张量W经过秩一分解后和偏移标量一起构建决策函数；在应用预测阶段，待预测张量数据经过秩一分解后，输入到所述决策函数中，进行预测。

以下结合具体实施例对本发明的实现进行详细描述：

实施例一

图1示出了本发明实施例一提供的张量模式下的有监督学习优化方法的实现流程，详述如下：

在步骤S101中，接收输入的训练张量数据集。

在本发明实施例中，假设训练张量数据集为{Xm,ym|m＝1,2.....M}，其中，X_m表示张量输入数据，y_m∈{+1，-1}表示标签。

以灰度图像为例，样本点以二阶张量(矩阵)的形式进行数据存储，所有样本点以列向量形式组成输入数据集，同理，标签集也是列向量，并且，每个标签的位置对应着相应样本点的位置。

在步骤S102中，将类内散布矩阵引入目标函数，使得目标函数最大化类间距离的同时最小化类内距离。

在本发明实施例中，支持张量机(SupportTensorMachine，STM)问题的目标函数优化框架是N个向量模式二次规划问题的组合，分别对应着一个子问题，其中，第n个子问题的二次规划问题为：

其中，w⁽ⁿ⁾：训练张量数据集的第n阶的最优投影向量，n＝1,2，……N；

b⁽ⁿ⁾：训练张量数据集的第n阶的偏移标量，n＝1,2，……N。

C：是惩罚因子；

松弛变量。

通过eta系数η将类内散布矩阵引入STM子问题的目标函数后，第n个子问题的二次规划问题的目标函数变为：

其中，是训练张量数据集沿第n阶展开后估计的第n阶类内散布矩阵，此时的w⁽ⁿ⁾，在训练张量数据集的第n阶具有Fisher准则效果“最大化类间距，最小化类内距”，eta系数η用于衡量类内散布的重要性。

在步骤S103中，构建最优投影张量机OPSTM子问题的目标函数的优化框架。

在本发明实施例中，最优投影张量机OPSTM问题的目标函数的优化框架是N个向量模式二次规划问题的组合，分别对应着一个子问题，其中，第n个子问题的二次规划问题为：

其中，训练张量数据集的第n阶的投影向量，n＝1,2，……N；w⁽ⁿ⁾是公式(1-4)中的训练张量数据集的第n阶的最优投影向量；Λ⁽ⁿ⁾和P⁽ⁿ⁾满足E是单位矩阵。

是张量输入数据X_m沿各阶投影后得到的张量输入数据，×_i是i-mode乘运算符。

在步骤S104中，将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建OPSTM问题的目标函数的优化框架。

在本发明实施例中，

其中，表示范数，“ο”是外积运算符。根据公式Eq.1和Eq.2，有因此，可以将N个子问题的向量模式二次规划问题转化为单个张量模式下的多重二次规划问题，即OPSTM问题的目标函数的优化框架为：

其中，W_*是投影张量，<>是内积运算符，

通过Eq.1和Eq.2，将N个向量模式的二次规划问题转化为单个张量模式下的多重二次规划问题，转化后目标函数优化框架即为OPSTM问题的目标函数优化框架。大幅度降低了模型的参数数量，克服了向量算法在处理张量数据时出现的维度灾难、过学习、小样本等问题。

在步骤S105中，根据拉格朗日乘子法，得到所述目标函数优化框架的对偶问题，并将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题。

在本发明实施例中，根据拉格朗日乘子法，得到OPSTM问题的目标函数的优化框架[(3-1)、(3-2、(3-3)]的对偶问题，其中，α_m是拉格朗日乘子。

将张量CP(CANDECOMP/PARAFAC)分解引入到张量内积的计算。

张量数据V_i、V_j的秩一分解分别为：

又

所以对偶问题可以修改为：

0<α_m<Cm＝1，2，…M(4-3)

修改后的对偶问题的目标函数(4-1)中，张量内积计算部分，引入张量秩一分解辅助计算，进一步降低计算复杂度及储存代价，同时张量秩一分解能够获得张量对象更加紧凑和更有意义的表示，能够更有效提取张量数据的结构信息及内在相关性，并且有效地避免了现有的张量模式算法耗时的交替投影迭代过程。

在步骤S106中，利用序列最小优化SMO算法，求解修改后的对偶问题，输出拉格朗日的最优组合α＝[α₁，α₂，……α_M]及偏移标量b。

在步骤S107中，计算投影张量W_*。

在本发明实施例中，根据公式计算影张量W_*。

在步骤S108中，对投影张量W_*进行秩一分解。

在本发明实施例中，对投影张量W_*进行秩一分解，得到

在步骤S109中，对投影张量W_*进行秩一分解后得到的分量进行逆投影。

在本发明实施例中，对投影张量W_*进行秩一分解后的分量进行逆投影，得到w⁽ⁿ⁾对应(1-4)的最优投影向量，是训练张量数据集的第n阶的最优投影向量，n＝1,2，……N。

在步骤S110中，对经过逆投影后的分量，进行秩一分解逆运算，得到训练张量数据集对应的最优投影张量W。

在本发明实施例中，将逆投影后得到的分量融合(秩一分解逆运算)成最优投影张量W，所以，最优投影张量W在各阶都能体现Fisher准则。

在步骤S111中，构建决策函数阶段，最优投影张量W经过秩一分解后和偏移标量b一起构建决策函数。

在本发明实施例中，构建决策函数阶段，最优投影张量W须经过秩一分解，分解后和偏移标量b一起构建决策函数:

在步骤S112中，在应用预测阶段，待预测张量数据经过秩一分解后，输入到决策函数中，进行预测。

在本发明实施例中，在应用预测阶段，待预测张量数据须经过秩一分解后，输入到决策函数中进行预测。

本实施例，相比现有的技术，具有以下的优点：1)、将N个向量模式的二次规划问题转化为单个张量模式下的多重二次规划问题，转化后的目标函数的优化框架即为OPSTM问题的目标函数的优化框架，可以大幅降低模型的参数数量，克服了传统的向量模式算法在处理张量数据时出现的维度灾难、过学习、小样本等问题，在保证高效处理的同时，凸显其极优的分类效果。综上，本发明的实施例提供的算法能够直接在张量领域高效处理张量数据，同时具备最优的分类能力的特点，具有较强的实用性和推广性。2)、将类内散布矩阵引入目标函数，，能够直接在张量领域接收处理张量数据，输出的最优投影张量W在各阶都能体现Fisher准则“最大化类间距，最小化类内距”。3)、对偶问题的目标函数(4-1)中，张量内积计算部分，引入张量秩一分解辅助计算，进一步降低计算复杂度及储存代价，同时张量秩一分解能够获得张量对象更加紧凑和更有意义的表示，能够更有效提取张量数据的结构信息及内在相关性，并且有效地避免了耗时的交替投影迭代过程。

应理解，在本发明实施例中，上述各过程的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。

本领域普通技术人员可以理解实现上述各实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，相应的程序可以存储于一计算机可读取存储介质中，所述的存储介质，如ROM/RAM、磁盘或光盘等。

实施例二

图2示出了本发明实施例二提供的张量模式下的有监督学习优化系统的具体结构框图，为了便于说明，仅示出了与本发明实施例相关的部分。该张量模式下的有监督学习优化系统2包括：数据接收单元21、类内散布引入单元22、子问题优化框架构建单元23、问题优化框架构建单元24、对偶问题获得单元25、对偶问题求解单元26、投影张量计算单元27、投影张量分解单元28、逆投影单元29、最优投影张量计算单元210、决策函数构建单元211和预测单元212。

其中，数据接收单元21，用于接收输入的训练张量数据集；

类内散布引入单元22，用于将类内散布矩阵引入目标函数，使得目标函数最大化类间距离的同时最小化类内距离；

子问题优化框架构建单元23，用于构建最优投影张量机OPSTM子问题的目标函数的优化框架；

问题优化框架构建单元24，用于将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建OPSTM问题的目标函数的优化框架；

对偶问题获得单元25，用于根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题，并将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题；

对偶问题求解单元26，用于利用序列最小优化SMO算法，求解修改后的对偶问题，输出拉格朗日的最优组合及偏移标量b；

投影张量计算单元27，用于计算投影张量W_*；

投影张量分解单元28，用于对投影张量W_*进行秩一分解；

逆投影单元29，用于对投影张量W_*进行秩一分解后得到的分量进行逆投影；

最优投影张量计算单元210，用于对经过逆投影后的分量，进行秩一分解逆运算，得到训练张量数据集对应的最优投影张量W；

决策函数构建单元211，用于构建决策函数阶段，将最优投影张量W经过秩一分解后和偏移标量b一起构建决策函数；

预测单元212，用于在应用预测阶段，待预测张量数据经过秩一分解后，输入到所述决策函数中，进行预测。

进一步地，所述类内散布引入单元22通过eta系数η将类内散布矩阵引入STM子问题的目标函数后，第n个子问题的二次规划问题的目标函数变为：

其中，是训练张量数据集沿第n阶展开后估计的第n阶类内散布矩阵，w⁽ⁿ⁾是训练张量数据集的第n阶的最优投影向量，n＝1,2，……N，C是惩罚因子，是松弛变量，eta系数η用于衡量类内散布矩阵的重要性。

进一步地，所述子问题优化框架构建单元23中，OPSTM问题的目标函数的优化框架是N个向量模式二次规划问题的组合，分别对应着一个子问题，其中，第n个子问题的二次规划问题为：

其中，为训练张量数据集的第n阶的投影向量，Λ⁽ⁿ⁾和P⁽ⁿ⁾满足E是单位矩阵，是训练张量数据集中的张量输入数据X_m沿各阶投影后得到的张量输入数据，×_i是i-mode乘运算符，b⁽ⁿ⁾为训练张量数据集的第n阶的偏移标量。

进一步地，所述问题优化框架构建单元24根据公式和公式将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建的OPSTM问题的目标函数的优化框架满足：

其中，<>是内积运算符，

进一步地，所述对偶问题求解单元26根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题为：

0<α_m<Cm＝1，2，…M；

所述对偶问题求解单元26将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题为：

进一步地，所述投影张量计算单元27根据公式计算投影张量W_*。

本发明实施例提供的张量模式下的有监督学习优化系统2可以应用在前述对应的方法实施例一中，详情参见上述实施例一的描述，在此不再赘述。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-OnlyMemory)、随机存取存储器(RAM，RandomAccessMemory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (12)

1.一种张量模式下的有监督学习优化方法，其特征在于，所述方法包括：

接收输入的训练张量数据集；

将类内散布矩阵引入目标函数，使得目标函数最大化类间距离的同时最小化类内距离；

构建最优投影张量机OPSTM子问题的目标函数的优化框架；

将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建OPSTM问题的目标函数的优化框架；

根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题，并将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题；

利用序列最小优化SMO算法，求解修改后的对偶问题，输出拉格朗日的最优组合及偏移标量b；

计算投影张量W_*；

对投影张量W_*进行秩一分解；

对投影张量W_*进行秩一分解后得到的分量进行逆投影；

对经过逆投影后的分量，进行秩一分解逆运算，得到训练张量数据集对应的最优投影张量W；

构建决策函数阶段，将最优投影张量W经过秩一分解后和偏移标量b一起构建决策函数；

在应用预测阶段，待预测张量数据经过秩一分解后，输入到所述决策函数中，进行预测。

2.如权利要求1所述的方法，其特征在于，通过eta系数η将类内散布矩阵引入STM子问题的目标函数后，第n个子问题的二次规划问题的目标函数变为：

$\begin{array}{cc}\underset{w^{\left(n\right)},b^{\left(n\right)},{\mathrm{\&xi;}}^{\left(n\right)}}{\min }& \frac{1}{2}\&lsqb;\left(\right|\left|w^{\left(n\right)}\right|{|}_F^2+\mathrm{\&eta;}\left({\left(w^{\left(n\right)}\right)}^T{S}_w^{\left(n\right)}{w}^{\left(n\right)})\right){\&Pi;}_{1<i<N}^{i\&NotEqual;n}\left(\right|\left|w^{\left(i\right)}\right|{|}_F^2+\mathrm{\&eta;}\left({\left(w^{\left(i\right)}\right)}^T{S}_w^{\left(n\right)}{w}^{\left(i\right)})\right)\end{array}\&rsqb;+C\underset{m=1}{\overset{M}{\&Sigma;}}{\mathrm{\&xi;}}_m^{\left(n\right)}$

其中，是训练张量数据集沿第n阶展开后估计的第n阶类内散布矩阵，w⁽ⁿ⁾是训练张量数据集的第n阶的最优投影向量，n＝1,2，……N，C是惩罚因子，是松弛变量，eta系数η用于衡量类内散布矩阵的重要性。

3.如权利要求2所述的方法，其特征在于，OPSTM问题的目标函数的优化框架是N个向量模式二次规划问题的组合，分别对应着一个子问题，其中，第n个子问题的二次规划问题为：

$\begin{array}{cc}\underset{w_{*}^{\left(n\right)},b^{\left(n\right)},{\mathrm{\&xi;}}^{\left(n\right)}}{\min }& \frac{1}{2}\left|\right|w_{*}^{\left(n\right)}\left|{|}_F^2{\&Pi;}_{1\&le;i\&le;N}^{i\&NotEqual;n}\right|\left|w_{*}^{\left(i\right)}\right|{|}_F^2+\end{array}C\underset{m=1}{\overset{M}{\&Sigma;}}{\mathrm{\&xi;}}_m^{\left(n\right)}$

$\begin{array}{cc}S.t& \begin{array}{c}{y}_m\left({\left(w_{*}^{\left(n\right)}\right)}^T\right(V_m{\&Pi;}_{1\&le;i\&le;N}^{i\&NotEqual;n}\&times;w_{*}^{\left(i\right)}{}_i)+b^{\left(n\right)})\&GreaterEqual;1-{\mathrm{\&xi;}}_m^{\left(n\right)}\\ {\mathrm{\&xi;}}_m^{\left(n\right)}\&GreaterEqual;0,m=1,2,...M\end{array}\end{array}$

其中，为训练张量数据集的第n阶的投影向量， $w_{*}^{\left(n\right)}={\mathrm{\&Lambda;}}^{\left(n\right)1/2}{P}^{\left(n\right)T}{w}^{\left(n\right)},$ Λ⁽ⁿ⁾和P⁽ⁿ⁾满足 $P^{\left(n\right)T}(E+{\mathrm{\&eta;S}}_w^{\left(n\right)})P^{\left(n\right)}={\mathrm{\&Lambda;}}^{\left(n\right)},$ E是单位矩阵，是训练张量数据集中的张量输入数据X_m沿各阶投影后得到的张量输入数据，×_i是i-mode乘运算符，b⁽ⁿ⁾为训练张量数据集的第n阶的偏移标量。

4.如权利要求3所述的方法，其特征在于，根据公式和公式将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建的OPSTM问题的目标函数的优化框架满足：

$\begin{array}{cc}\underset{W_{*},b,\mathrm{\&xi;}}{min}& \frac{1}{2}\left|\right|W_{*}|{|}_F^2+C\underset{m=1}{\overset{M}{\&Sigma;}}{\mathrm{\&xi;}}_m\end{array}$

$\begin{array}{cc}S.t& \begin{array}{c}{y}_m(<W_{*},V_m>+b)\&GreaterEqual;1-{\mathrm{\&xi;}}_m\\ {\mathrm{\&xi;}}_m\&GreaterEqual;0,m=1,2,...M\end{array}\end{array}$

其中，<>是内积运算符，

5.如权利要求4所述的方法，其特征在于，根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题为：

$\begin{array}{cc}\underset{\mathrm{\&alpha;}}{max}& \underset{m=1}{\overset{M}{\&Sigma;}}{\mathrm{\&alpha;}}_m-\frac{1}{2}\underset{i,j=1}{\overset{M}{\&Sigma;}}{\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j{y}_i{y}_j<V_i,V_j>\end{array}$

$\begin{array}{cc}S.t& \begin{array}{c}\underset{m=1}{\overset{M}{\&Sigma;}}\left({\mathrm{\&alpha;}}_m{y}_m\right)=0\\ 0<{\mathrm{\&alpha;}}_m<C,m=1,2,...M;\end{array}\end{array}$

将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题为：

$\begin{array}{cc}\underset{\mathrm{\&alpha;}}{max}& \underset{m=1}{\overset{M}{\&Sigma;}}{\mathrm{\&alpha;}}_m-\frac{1}{2}\underset{i,j=1}{\overset{M}{\&Sigma;}}\underset{p=1}{\overset{R}{\&Sigma;}}\underset{q=1}{\overset{R}{\&Sigma;}}{\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j{y}_i{y}_j\underset{n=1}{\overset{N}{\&Sigma;}}<v_{ip}^{\left(n\right)},v_{jp}^{\left(n\right)}>\end{array}$

$\begin{array}{cc}S.t& \begin{array}{c}\underset{m=1}{\overset{M}{\&Sigma;}}\left({\mathrm{\&alpha;}}_m{y}_m\right)=0\\ 0<{\mathrm{\&alpha;}}_m<C,m=1,2,...M.\end{array}\end{array}$

6.如权利要求5所述的方法，其特征在于，根据公式计算投影张量W_*。

7.一种张量模式下的有监督学习优化系统，其特征在于，所述系统包括：

数据接收单元，用于接收输入的训练张量数据集；

类内散布引入单元，用于将类内散布矩阵引入目标函数，使得目标函数最大化类间距离的同时最小化类内距离；

子问题优化框架构建单元，用于构建最优投影张量机OPSTM子问题的目标函数的优化框架；

问题优化框架构建单元，用于将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建OPSTM问题的目标函数的优化框架；

对偶问题获得单元，用于根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题，并将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题；

对偶问题求解单元，用于利用序列最小优化SMO算法，求解修改后的对偶问题，输出拉格朗日的最优组合及偏移标量b；

投影张量计算单元，用于计算投影张量W_*；

投影张量分解单元，用于对投影张量W_*进行秩一分解；

逆投影单元，用于对投影张量W_*进行秩一分解后得到的分量进行逆投影；

最优投影张量计算单元，用于对经过逆投影后的分量，进行秩一分解逆运算，得到训练张量数据集对应的最优投影张量W；

决策函数构建单元，用于构建决策函数阶段，将最优投影张量W经过秩一分解后和偏移标量b一起构建决策函数；

预测单元，用于在应用预测阶段，待预测张量数据经过秩一分解后，输入到所述决策函数中，进行预测。

8.如权利要求7所述的系统，其特征在于，所述类内散布引入单元通过eta系数η将类内散布矩阵引入STM子问题的目标函数后，第n个子问题的二次规划问题的目标函数变为：

$\begin{array}{cc}\underset{w^{\left(n\right)},b^{\left(n\right)},{\mathrm{\&xi;}}^{\left(n\right)}}{\min }& \frac{1}{2}\&lsqb;\left(\right|\left|w^{\left(n\right)}\right|{|}_F^2+\mathrm{\&eta;}\left({\left(w^{\left(n\right)}\right)}^T{S}_w^{\left(n\right)}{w}^{\left(n\right)})\right){\&Pi;}_{1<i<N}^{i\&NotEqual;n}\left(\right|\left|w^{\left(i\right)}\right|{|}_F^2+\mathrm{\&eta;}\left({\left(w^{\left(i\right)}\right)}^T{S}_w^{\left(n\right)}{w}^{\left(i\right)})\right)\end{array}\&rsqb;+C\underset{m=1}{\overset{M}{\&Sigma;}}{\mathrm{\&xi;}}_m^{\left(n\right)}$

其中，是训练张量数据集沿第n阶展开后估计的第n阶类内散布矩阵，w⁽ⁿ⁾是训练张量数据集的第n阶的最优投影向量，n＝1,2，……N，C是惩罚因子，是松弛变量，eta系数η用于衡量类内散布矩阵的重要性。

9.如权利要求8所述的系统，其特征在于，所述子问题优化框架构建单元中，OPSTM问题的目标函数的优化框架是N个向量模式二次规划问题的组合，分别对应着一个子问题，其中，第n个子问题的二次规划问题为：

$\begin{array}{cc}\underset{w_{*}^{\left(n\right)},b^{\left(n\right)},{\mathrm{\&xi;}}^{\left(n\right)}}{\min }& \frac{1}{2}\left|\right|w_{*}^{\left(n\right)}\left|{|}_F^2{\&Pi;}_{1\&le;i\&le;N}^{i\&NotEqual;n}\right|\left|w_{*}^{\left(i\right)}\right|{|}_F^2+\end{array}C\underset{m=1}{\overset{M}{\&Sigma;}}{\mathrm{\&xi;}}_m^{\left(n\right)}$

$\begin{array}{cc}S.t& \begin{array}{c}{y}_m\left({\left(w_{*}^{\left(n\right)}\right)}^T\right(V_m{\&Pi;}_{1\&le;i\&le;N}^{i\&NotEqual;n}\&times;w_{*}^{\left(n\right)}{}_i)+b^{\left(n\right)})\&GreaterEqual;1-{\mathrm{\&xi;}}_m^{\left(n\right)}\\ {\mathrm{\&xi;}}_m^{\left(n\right)}\&GreaterEqual;0,m=1,2,...M\end{array}\end{array}$

其中，为训练张量数据集的第n阶的投影向量， $w_{*}^{\left(n\right)}={\mathrm{\&Lambda;}}^{\left(n\right)1/2}{P}^{\left(n\right)T}{w}^{\left(n\right)},$ Λ⁽ⁿ⁾和P⁽ⁿ⁾满足 $P^{\left(n\right)T}(E+{\mathrm{\&eta;S}}_w^{\left(n\right)})P^{\left(n\right)}={\mathrm{\&Lambda;}}^{\left(n\right)},$ E是单位矩阵，是训练张量数据集中的张量输入数据X_m沿各阶投影后得到的张量输入数据，×_i是i-mode乘运算符，b⁽ⁿ⁾为训练张量数据集的第n阶的偏移标量。

10.如权利要求9所述的系统，其特征在于，所述问题优化框架构建单元根据公式 $\left|\right|W_{*}|{|}_F^2=\underset{n=1}{\overset{N}{\&Pi;}}|\left|w_{*}^{\left(n\right)}\right|{|}_F^2$ 和公式 ${\left(w_{*}^{\left(n\right)}\right)}^T(V_m{\&Pi;}_{1<i<N}^{i\&NotEqual;n}\&times;w_{*}^{\left(n\right)}{}_i)=<W_{*},V_m>,$ 将N个向量模式的二次规划子问题转化为单个张量模式下的多重二次规划问题，构建的OPSTM问题的目标函数的优化框架满足：

$\begin{array}{cc}\underset{W_{*},b,\mathrm{\&xi;}}{min}& \frac{1}{2}\left|\right|W_{*}|{|}_F^2+C\underset{m=1}{\overset{M}{\&Sigma;}}{\mathrm{\&xi;}}_m\end{array}$

$\begin{array}{cc}S.t& \begin{array}{c}{y}_m(<W_{*},V_m>+b)\&GreaterEqual;1-{\mathrm{\&xi;}}_m\\ {\mathrm{\&xi;}}_m\&GreaterEqual;0,m=1,2,...M\end{array}\end{array}$

其中，<>是内积运算符，

11.如权利要求10所述的系统，其特征在于，所述对偶问题求解单元根据拉格朗日乘子法，得到所述目标函数的优化框架的对偶问题为：

$\begin{array}{cc}\underset{\mathrm{\&alpha;}}{max}& \underset{m=1}{\overset{M}{\&Sigma;}}{\mathrm{\&alpha;}}_m-\frac{1}{2}\underset{i,j=1}{\overset{M}{\&Sigma;}}{\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j{y}_i{y}_j<V_i,V_j>\end{array}$

$\begin{array}{cc}S.t& \begin{array}{c}\underset{m=1}{\overset{M}{\&Sigma;}}\left({\mathrm{\&alpha;}}_m{y}_m\right)=0\\ 0<{\mathrm{\&alpha;}}_m<C,m=1,2,...M;\end{array}\end{array}$

所述对偶问题求解单元将张量秩一分解引入到张量内积的计算，得到修改后的对偶问题为：

$\begin{array}{cc}\underset{\mathrm{\&alpha;}}{max}& \underset{m=1}{\overset{M}{\&Sigma;}}{\mathrm{\&alpha;}}_m-\frac{1}{2}\underset{i,j=1}{\overset{M}{\&Sigma;}}\underset{p=1}{\overset{R}{\&Sigma;}}\underset{q=1}{\overset{R}{\&Sigma;}}{\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j{y}_i{y}_j\underset{n=1}{\overset{N}{\&Sigma;}}<v_{ip}^{\left(n\right)},v_{jq}^{\left(n\right)}>\end{array}$

$\begin{array}{cc}S.t& \begin{array}{c}\underset{m=1}{\overset{M}{\&Sigma;}}\left({\mathrm{\&alpha;}}_m{y}_m\right)=0\\ 0<{\mathrm{\&alpha;}}_m<C,m=1,2,...M.\end{array}\end{array}$

12.如权利要求11所述的系统，其特征在于，所述投影张量计算单元根据公式计算投影张量W_*。