CN114970682A - 基于多项正则化约束的伪标签传播优化时间序列聚类方法 - Google Patents

Abstract

本发明公开了基于多项正则化约束的伪标签传播优化时间序列聚类方法，涉及工程应用与信息科学的交叉领域，该方法包括：采用动态优化的伪邻接矩阵作为时间序列之间的传播信息，并使其与真实邻接矩阵差异最小化；利用动态优化的伪标签分类器作为时间序列划分依据，并使其与伪邻接矩阵相结合得到与伪标签矩阵的差异最小化；利用正则化的伪邻接矩阵与伪标签分类器的动态优化学习作为约束条件，指导伪标签传播优化，并建立多目标优化函数，利用梯度下降策略使其快速收敛到最优解，实现时间序列聚类目的。本申请利用正则化约束为伪标签传播优化提供了有效信息，得到更好的时间序列聚类结果，充分利用了时间序列之间的相关性，提高了聚类精度与效率。

Description

基于多项正则化约束的伪标签传播优化时间序列聚类方法

技术领域

本发明涉及工程应用与信息科学的交叉领域，尤其是基于多项正则化约束的伪标签传播优化时间序列聚类方法。

背景技术

随着数据存储与处理技术的不断发展，现实生活中的应用数据可以随着时间推移一直被采集和存储，这就形成了具有时间顺序特性的时间序列数据，例如气象数据、金融数据(如股票价格)、生物信号数据(如脑电信号)等。可见，针对时间序列的分析可以应用到诸多场景，也是数据挖掘领域的研究热点，挖掘时间序列数据的规律有利于其在相关领域中的应用拓展，从而能更好地服务社会。随着诸如上述类型时间序列的与日剧增，无标签的时间序列也随之增加。有监督分析方法，如分类，依赖大量的数据先验知识，如数据标签，这类方法并不适用于缺少标签的时间序列数据。为了分析无标签时间序列数据，无监督分析技术，如聚类，是一种有效的解决策略，所以被广泛应用于分析处理这类无标签数据。同样，时间序列聚类也是数据挖掘领域的研究热点。针对具有一定规律或周期性特征的气象数据、金融数据，传统的无监督聚类方法种类繁多，也取得了相应的效果；但对于一些非周期性、信噪比弱、高振荡、高维度的时间序列而言，如脑电信号等，传统的聚类方法效果欠佳，这也为这类时间序列的分析和应用带来了新的挑战。

具体而言，利用聚类方法可以将具有较高相似度或较高相似模式的无标签时间序列划分到同一聚簇中，实现无标签时间序列的有效分析和标签化，从而提高和拓展这类数据在上述领域中的应用效力。如何将相似度较高或具有相似模式的时间序列高效准确地划分到相应聚类中，不仅需要一个有效的能充分利用时间序列自身相关性进行识别和学习的策略，还需要一个高效的解决方案来实施该学习策略。

发明内容

本发明人针对上述问题及技术需求，提出了基于多项正则化约束的伪标签传播优化时间序列聚类方法，为无标签时间序列数据，例如气象数据、金融数据、脑电信号等类型的数据分析提供一种新的解决方案。该方法充分利用时间序列之间的有效信息传播，构建由多项正则化约束的多目标优化函数，对无标签时间序列进行聚类。该方法充分利用了时间序列之间的相互关系，解决了传统聚类算法未能充分利用时间序列数据自身关系以及过于依赖中心选择、特征选择导致的聚类性能差的问题。

本发明的技术方案如下：

一种基于多项正则化约束的伪标签传播优化时间序列聚类方法，包括如下步骤：

计算由原始时间序列相似度构成的真实邻接矩阵，并用其初始化n条无标签时间序列的伪邻接矩阵、伪标签、伪标签分类器和伪标签传播矩阵；

将由伪邻接矩阵与伪标签分类器正则化约束的伪标签传播优化模型转化为一个多项正则化约束的多目标优化函数；

计算时间序列相似度拉普拉斯矩阵，并对多目标优化函数进行偏导来更新伪邻接矩阵、伪标签分类器、伪标签传播矩阵和伪标签；

获取两次迭代更新后得到的多目标优化函数值的差值，若差值未达到收敛阈值，则重复计算时间序列相似度拉普拉斯矩阵的步骤，直至满足收敛要求，输出时间序列聚类结果。

其进一步技术方案为，伪邻接矩阵的正则化约束条件为：

该约束的意义为：利用最小化伪邻接矩阵与真实邻接矩阵之间的误差作为约束，该约束能为伪标签传播过程提供符合实际情况的传播信息，有利于得到符合实际情况的伪邻接矩阵，从而有利于无标签时间序列的聚类；

其中，

为伪邻接矩阵，

为真实邻接矩阵，||·||_F为Frobenius范数；1_n＝[1,…,1]^T；

表示为：与伪邻接矩阵相关的拉普拉斯矩阵中特征值为0的个数与聚类个数相同，故用来约束拉普拉斯矩阵，获得满足条件的聚类；

为拉普拉斯矩阵，n为无标签时间序列的个数，c为聚类个数。

其进一步技术方案为，伪标签分类器的正则化约束条件为：

该约束的意义为：通过最小化伪标签正则化误差，学习最优伪标签分类器

并约束伪标签传播优化进行时间序列聚类；

其中，

为伪标签矩阵；

为伪邻接矩阵；γ为正则化参数，用以平衡伪标签分类器权重；||·||_F为Frobenius范数；W^TS1_n＝1_n用以归一化伪标签分类器与伪邻接矩阵，1_n＝[1,…,1]^T。

其进一步技术方案为，伪标签传播优化模型包括：

其中，

为无标签时间序列相似度构成的拉普拉斯矩阵，即

为伪邻接矩阵的度矩阵，

为伪邻接矩阵；

为伪标签矩阵；

为伪标签传播矩阵；γ为正则化参数，用以平衡模型中的约束权重；||·||_F为Frobenius范数。

其进一步技术方案为，计算时间序列相似度拉普拉斯矩阵，并对多目标优化函数进行偏导来更新伪邻接矩阵，包括：

计算第t次迭代更新后的伪邻接矩阵的拉普拉斯矩阵，记为

其中D_t为第t次更新的伪邻接矩阵的度矩阵，S_t为第t次更新的伪邻接矩阵；

计算多目标优化函数关于伪邻接矩阵的偏导，表达式为：

其中，

为多目标优化函数，S为伪邻接矩阵，M为真实邻接矩阵，P为伪标签传播矩阵，L为伪标签矩阵，W为伪标签分类器，

为拉普拉斯矩阵；γ₁,γ₂,γ₄为正则化参数，用以平衡各约束项的权重；

根据多项正则化约束的多目标优化函数的约束条件：S1_n＝1_n，得到伪邻接矩阵的度矩阵D＝diag(S1_n)＝I，其中diag为矩阵的对角矩阵函数，进而得到伪邻接矩阵的拉普拉斯矩阵为

得到：

根据伪标签传播矩阵最优解P^*的表达式

得到：

最终，伪邻接矩阵的第i+1次更新由梯度下降策略实现，即：

其中η为学习率；将第t次迭代更新的拉普拉斯矩阵和t-1次迭代更新的伪标签传播矩阵、伪标签分类器、伪标签以及真实邻接矩阵代入上式的偏导项中更新伪邻接矩阵；

重复计算偏导的步骤，直到迭代次数达到上限i_max为止，并得到第t+1次迭代更新的伪邻接矩阵为S_t+1＝S_imax+1，其中，i_max为梯度下降优化伪邻接矩阵的最大迭代次数；同时，结合第t+1次更新的伪邻接矩阵，更新拉普拉斯矩阵为

其进一步技术方案为，对多目标优化函数进行偏导来更新伪标签分类器，包括：

计算多目标优化函数关于伪标签分类器的偏导，表达式为：

其中，γ₃为正则化参数，用以平衡各约束项的权重；

令

得到伪标签分类器的最优解W^*为：

W^*＝γ₂(γ₂SS^T+γ₃I)^-1SL^T；

将第t+1次迭代更新的伪邻接矩阵S_t+1和t次迭代更新的伪标签L_t代入最优解W^*中，得到伪标签分类器的第t+1次迭代更新策略为：

其进一步技术方案为，对多目标优化函数进行偏导来更新伪标签传播矩阵，包括：

计算多目标优化函数关于伪标签传播矩阵的偏导，表达式为：

令

得到伪标签传播矩阵的最优解P^*为：

将第t+1次迭代更新的拉普拉斯矩阵

与第t次迭代更新的伪标签L_t代入最优解P^*中，得到伪标签传播矩阵的第t+1次更新策略为：

其进一步技术方案为，对多目标优化函数进行偏导来更新伪标签，包括：

计算多目标优化函数关于伪标签的偏导，表达式为：

根据伪标签传播矩阵最优解P^*的表达式

得到：

令

得到伪标签的最优解L^*为：

将第t+1次迭代更新的伪邻接矩阵S_t+1和拉普拉斯矩阵

第t+1次迭代更新的伪标签分类器W_t+1代入最优解L^*中，得到伪标签的第t+1次更新策略为：

其进一步技术方案为，初始化n条无标签时间序列的伪邻接矩阵、伪标签、伪标签分类器和伪标签传播矩阵，包括：

将n条无标签时间序列的伪邻接矩阵初始化为真实邻接矩阵，记为S₀＝M，并利用S₀1_n＝M1_n＝1_n将初始化的伪邻接矩阵归一化，其中：S₀为初始化的伪邻接矩阵，且

M为真实邻接矩阵，1_n＝[1,…,1]^T；

设无标签时间序列聚类个数为c，采用聚类算法将n条无标签时间序列初步分配到c个聚类中，得到初始化的伪标签记为

结合初始化的伪标签和真实邻接矩阵，将伪标签分类器初始化为W₀＝(L₀M^-1)^T，其中：W₀为初始化的伪标签分类器，且

结合初始化的伪邻接矩阵和初始化的伪标签，将伪标签传播矩阵初始化为P₀＝(1-α)L₀(I-αS₀)^-1，其中：I为单位矩阵，α为平衡权重，P₀为初始化的伪标签传播矩阵，且

其进一步技术方案为，将由伪邻接矩阵与伪标签分类器正则化约束的伪标签传播优化模型转化为一个多项正则化约束的多目标优化函数，包括：

定义由多项正则化约束的多目标优化函数表达式为：

该多目标优化函数的意义为：基于伪标签传播优化模型建立多项正则化约束下的多目标优化模型，以确保时间序列之间的信息传播正确性与聚类准确性，函数中的前两项为正则化的伪标签传播矩阵优化学习目标，用以在时间序列相似度构成的伪邻接矩阵的优化约束下得到接近真实结果的伪标签；第三、四项为正则化约束的伪标签分类器优化学习目标，用于在时间序列相似度构成的伪邻接矩阵约束下学习得到最优的伪标签；最后一项为正则化的时间序列相似度构成的伪邻接矩阵优化学习目标，用以学习接近原始时间序列相似度构成的真实邻接矩阵的伪邻接矩阵，同时也为优化伪标签传播矩阵与伪标签分类器提供所需的传播信息。

本发明的有益技术效果是：

本发明从无监督分析角度，对无标签时间序列进行聚类，基于正则化约束，提出了一种基于多项正则化约束的伪标签传播优化时间序列聚类方法。利用时间序列相似度伪邻接矩阵与伪标签分类器进行优化约束，充分利用时间序列之间的相关性，为伪标签传播矩阵的优化提供更符合实际、更有效、更准确的信息；并将该多项正则化约束的伪标签传播优化模型转化为一个高效的多目标优化函数；利用梯度下降策略求解该目标函数的最优解，最后实现无标签时间序列的高效、高质量聚类；该方法适合用于多种时间序列数据的聚类分析，包括气象数据、金融数据、生物信号如脑电信号等。

附图说明

图1是本申请提供的方法总体流程图。

图2是本申请提供的伪标签、伪标签传播矩阵、伪标签分类器和伪邻接矩阵的初始化流程图。

图3是本申请提供的伪邻接矩阵、伪标签分类器、伪标签传播矩阵和伪标签的迭代更新流程图。

具体实施方式

下面结合附图对本发明的具体实施方式做进一步说明。

本发明针对无标签、误标记时间序列进行聚类分析，采用动态优化的伪相似度邻接矩阵作为时间序列之间的传播信息，使其与最初时间序列相似度真实邻接矩阵差异最小化，并用其约束伪标签传播优化学习模型，该约束充分利用了时间序列之间的相互关系及信息传播；利用动态优化伪标签分类器，使其与伪标签矩阵的差异最小化，并同样用其约束伪标签传播优化学习模型，该约束有利于引导伪标签传播矩阵的优化过程，提供更有利于聚类的分类器，最终实现时间序列的聚类目的。

如图1所示，一种基于多项正则化约束的伪标签传播优化时间序列聚类方法，具体包括如下步骤：

步骤1：计算由原始时间序列相似度构成的真实邻接矩阵。

利用距离衡量方法或相似度衡量方法计算原始时间序列之间的相似度，如欧式距离、高斯距离、改进的皮尔逊相关系数、互相关衡量、动态时间规整等；利用S1_n＝1_n，1_n＝[1,…,1]^T将其归一化，得到原始时间序列相似度构成的真实邻接矩阵。

步骤2：初始化n条无标签时间序列的伪邻接矩阵、伪标签、伪标签分类器和伪标签传播矩阵。

本发明将时间序列聚类转化为一个多项正则化约束的多目标优化函数，包括伪标签、伪标签传播矩阵、伪标签分类器和伪邻接矩阵多个变量，一个良好的变量初始化能更高效地、更准确地帮助目标函数收敛到最优解，从而得到最优聚类结果，初始化的详细流程如图2所示，具体包括：

(21)作为多目标优化函数中的一个正则化约束条件，即，使得伪邻接矩阵S与真实邻接矩阵M之间的误差最小化，故将n条无标签时间序列的伪邻接矩阵初始化为真实邻接矩阵，记为S₀＝M，并利用S₀1_n＝M1_n＝1_n将初始化的伪邻接矩阵归一化，其中：S₀为初始化的伪邻接矩阵，且

M为真实邻接矩阵，1_n＝[1,…,1]^T。

(22)设无标签时间序列聚类个数为c，采用聚类算法将n条无标签时间序列初步分配到c个聚类中，得到初始化的伪标签记为

可选的，聚类算法为k-means算法或其他一些高效的聚类算法。

(23)作为多目标优化函数中的一个正则化约束条件，伪标签分类器的优化学习可提升时间序列之间的信息传播可信度，并最终将n条时间序列更准确地划分到c个聚类中，结合初始化的伪标签和真实邻接矩阵，将伪标签分类器初始化为W₀＝(L₀M^-1)^T，其中：W₀为初始化的伪标签分类器，且

(24)结合初始化的伪邻接矩阵和初始化的伪标签，将伪标签传播矩阵初始化为P₀＝(1-α)L₀(I-αS₀)^-1，其中：I为单位矩阵，α为平衡权重，通常情况下设定α＝0.99；P₀为初始化的伪标签传播矩阵，且

具体的：

迭代t次计算伪标签传播矩阵

P^t＝αP^t-1S+(1-α)L；

其中，

为伪邻接矩阵；

为伪标签矩阵，即时间序列标签指示器，其定义为：对于一个c聚类问题，当一条时间序列x_i划分到第j类中，则有L_ij＝1，否则L_ij＝0。在迭代优化过程中，L也会不断更新；0<α<1为权重参数，用以平衡伪标签传播矩阵更新与伪标签之间的权重。

为了不失一般性，定义P₀＝L，上述式子的迭代更新过程等价为：

利用极限求解策略，因为0<α<1，

以及

其中I为单位矩阵；最终得到伪标签传播矩阵：

P＝(1-α)L(I-αS)^-1。

步骤3：将由伪邻接矩阵与伪标签分类器正则化约束的伪标签传播优化模型转化为一个多项正则化约束的多目标优化函数。

(31)伪邻接矩阵的正则化约束条件为：

该约束的意义为：利用最小化伪邻接矩阵与真实邻接矩阵之间的误差作为约束，该约束能为伪标签传播过程提供符合实际情况的传播信息，有利于得到符合实际情况的伪邻接矩阵，从而有利于无标签时间序列的聚类。

其中，

为真实邻接矩阵，||·||_F为Frobenius范数；1_n＝[1,…,1]^T；

表示为：与伪邻接矩阵相关的拉普拉斯矩阵中特征值为0的个数与聚类个数相同，故用来约束拉普拉斯矩阵，获得满足条件的聚类；

为拉普拉斯矩阵，n为无标签时间序列的个数，c为聚类个数。

(32)伪标签分类器的正则化约束条件为：

该约束的意义为：通过最小化伪标签正则化误差，学习最优伪标签分类器

并约束伪标签传播优化进行时间序列聚类。

其中，γ为正则化参数，用以平衡伪标签分类器权重；W^TS1_n＝1_n用以归一化伪标签分类器与伪邻接矩阵。

(33)为了充分利用时间序列之间的相关性，更好地划分无标签时间序列，利用正则化约束来指导伪标签传播矩阵的优化学习，从而构成正则化伪标签传播优化模型为：

(34)根据步骤(31)(32)(33)，由伪邻接矩阵与伪标签分类器约束的伪标签传播优化学习模型转化为一个多项正则化约束的多目标优化函数来实现时间序列聚类，表达式为：

该多目标优化函数的意义为：基于伪标签传播优化模型建立多项正则化约束下的多目标优化模型，以确保时间序列之间的信息传播正确性与聚类准确性，函数中的前两项为正则化的伪标签传播矩阵优化学习目标，用以在时间序列相似度构成的伪邻接矩阵的优化约束下得到接近真实结果的伪标签；第三、四项为正则化约束的伪标签分类器优化学习目标，用于在时间序列相似度构成的伪邻接矩阵约束下学习得到最优的伪标签；最后一项为正则化的时间序列相似度构成的伪邻接矩阵优化学习目标，用以学习接近原始时间序列相似度构成的真实邻接矩阵的伪邻接矩阵，同时也为优化伪标签传播矩阵与伪标签分类器提供所需的传播信息。其中，γ₁,γ₂,γ₃,γ₄为正则化参数，用以平衡各约束项的权重。

步骤4：计算时间序列相似度拉普拉斯矩阵，并对多目标优化函数进行偏导来更新伪邻接矩阵、伪标签分类器、伪标签传播矩阵和伪标签。

本发明提出的多项正则化约束的伪标签传播优化时间序列聚类方法，由一个多项正则化约束的多目标优化函数来实现，在该目标函数求解过程中需要不断迭代更新伪邻接矩阵、伪标签分类器、伪标签传播矩阵和伪标签，更新的详细流程如图3所示，具体包括：

(41)计算第t次迭代更新后的伪邻接矩阵的拉普拉斯矩阵，为更新伪邻接矩阵、伪标签传播矩阵和伪标签做准备。

拉普拉斯矩阵记为

其中D_t为第t次更新的伪邻接矩阵的度矩阵，S_t为第t次更新的伪邻接矩阵。

(42)计算多目标优化函数关于伪邻接矩阵的偏导，表达式为：

根据多项正则化约束的多目标优化函数的约束条件：S1_n＝1_n，得到伪邻接矩阵的度矩阵D＝diag(S1_n)＝I，其中diag为矩阵的对角矩阵函数，进而得到伪邻接矩阵的拉普拉斯矩阵为

得到：

根据伪标签传播矩阵最优解P^*的表达式

得到：

最终，伪邻接矩阵的第i+1次更新由梯度下降策略实现，即：

其中η为学习率，通常为一个非常小的数值，如0.01等；将第t次迭代更新的拉普拉斯矩阵和t-1次迭代更新的伪标签传播矩阵、伪标签分类器、伪标签以及真实邻接矩阵代入上式的偏导项中更新伪邻接矩阵。

重复计算偏导的步骤，直到迭代次数达到上限i_max为止，并得到第t+1次迭代更新的伪邻接矩阵为S_t+1＝S_imax+1，其中，i_max为梯度下降优化伪邻接矩阵的最大迭代次数；同时，结合第t+1次更新的伪邻接矩阵，更新拉普拉斯矩阵为

(43)计算多目标优化函数关于伪标签分类器的偏导，表达式为：

令

得到伪标签分类器的最优解W^*为：

W^*＝γ₂(γ₂SS^T+γ₃I)^-1SL^T；

将第t+1次迭代更新的伪邻接矩阵S_t+1和t次迭代更新的伪标签L_t代入最优解W^*中，得到伪标签分类器的第t+1次迭代更新策略为：

(44)计算多目标优化函数关于伪标签传播矩阵的偏导，表达式为：

令

得到伪标签传播矩阵的最优解P^*为：

将第t+1次迭代更新的拉普拉斯矩阵

与第t次迭代更新的伪标签L_t代入最优解P^*中，得到伪标签传播矩阵的第t+1次更新策略为：

(45)计算多目标优化函数关于伪标签的偏导，表达式为：

根据伪标签传播矩阵最优解P^*的表达式

得到：

令

得到伪标签的最优解L^*为：

将第t+1次迭代更新的伪邻接矩阵S_t+1和拉普拉斯矩阵

第t+1次迭代更新的伪标签分类器W_t+1代入最优解L^*中，得到伪标签的第t+1次更新策略为：

步骤5：根据步骤4的更新策略，获取两次迭代更新后得到的多目标优化函数值的差值来判断函数是否收敛。若差值未达到收敛阈值，则重复步骤4，直至满足收敛要求，输出时间序列聚类结果。

在本实施例中，正则化的伪邻接矩阵与伪标签分类器为伪标签传播优化模型提供了有效信息，利于伪标签传播优化得到更好的时间序列聚类结果，充分利用了时间序列之间的相关性，无需其他信息辅助聚类，无需搜寻聚类中心，克服了传统聚类方法未能充分利用时间序列自身信息以及过分依赖聚类中心搜寻策略的问题，提高了时间序列聚类精度与效率。本发明适用于包括传统气象数据、金融数据、生物脑电信号数据等多种时间序列的聚类，具有普适性。

以上所述的仅是本申请的优选实施方式，本发明不限于以上实施例。可以理解，本领域技术人员在不脱离本发明的精神和构思的前提下直接导出或联想到的其他改进和变化，均应认为包含在本发明的保护范围之内。

Claims (10)

1.一种基于多项正则化约束的伪标签传播优化时间序列聚类方法，其特征在于，所述方法包括：

计算由原始时间序列相似度构成的真实邻接矩阵，并用其初始化n条无标签时间序列的伪邻接矩阵、伪标签、伪标签分类器和伪标签传播矩阵；

将由伪邻接矩阵与伪标签分类器正则化约束的伪标签传播优化模型转化为一个多项正则化约束的多目标优化函数；

计算时间序列相似度拉普拉斯矩阵，并对所述多目标优化函数进行偏导来更新所述伪邻接矩阵、伪标签分类器、伪标签传播矩阵和伪标签；

获取两次迭代更新后得到的多目标优化函数值的差值，若所述差值未达到收敛阈值，则重复所述计算时间序列相似度拉普拉斯矩阵的步骤，直至满足收敛要求，输出时间序列聚类结果。

2.根据权利要求1所述的伪标签传播优化时间序列聚类方法，其特征在于，所述伪邻接矩阵的正则化约束条件为：

该约束的意义为：利用最小化伪邻接矩阵与真实邻接矩阵之间的误差作为约束，该约束能为伪标签传播过程提供符合实际情况的传播信息，有利于得到符合实际情况的伪邻接矩阵，从而有利于无标签时间序列的聚类；

其中，

为伪邻接矩阵，

为所述真实邻接矩阵，||·||_F为Frobenius范数；1_n＝[1,…,1]^T；

表示为：与伪邻接矩阵相关的拉普拉斯矩阵中特征值为0的个数与聚类个数相同，故用来约束所述拉普拉斯矩阵，获得满足条件的聚类；

为所述拉普拉斯矩阵，n为无标签时间序列的个数，c为聚类个数。

3.根据权利要求1所述的伪标签传播优化时间序列聚类方法，其特征在于，所述伪标签分类器的正则化约束条件为：

该约束的意义为：通过最小化伪标签正则化误差，学习最优伪标签分类器

并约束伪标签传播优化进行时间序列聚类；

其中，

为伪标签矩阵；

为伪邻接矩阵；γ为正则化参数，用以平衡伪标签分类器权重；||·||_F为Frobenius范数；W^TS1_n＝1_n用以归一化伪标签分类器与伪邻接矩阵，1_n＝[1,…,1]^T。

4.根据权利要求1所述的伪标签传播优化时间序列聚类方法，其特征在于，所述伪标签传播优化模型包括：

其中，

为无标签时间序列相似度构成的拉普拉斯矩阵，即

为伪邻接矩阵的度矩阵，

为伪邻接矩阵；

为伪标签矩阵；

为伪标签传播矩阵；γ为正则化参数，用以平衡模型中的约束权重；||·||_F为Frobenius范数。

5.根据权利要求1所述的伪标签传播优化时间序列聚类方法，其特征在于，计算时间序列相似度拉普拉斯矩阵，并对所述多目标优化函数进行偏导来更新所述伪邻接矩阵，包括：

计算第t次迭代更新后的伪邻接矩阵的拉普拉斯矩阵，记为

其中D_t为第t次更新的伪邻接矩阵的度矩阵，S_t为第t次更新的伪邻接矩阵；

计算所述多目标优化函数关于所述伪邻接矩阵的偏导，表达式为：

其中，

为所述多目标优化函数，S为伪邻接矩阵，M为真实邻接矩阵，P为伪标签传播矩阵，L为伪标签矩阵，W为伪标签分类器，

为拉普拉斯矩阵；γ₁,γ₂,γ₄为正则化参数，用以平衡各约束项的权重；

根据多项正则化约束的多目标优化函数的约束条件：S1_n＝1_n，得到所述伪邻接矩阵的度矩阵D＝diag(S1_n)＝I，其中diag为矩阵的对角矩阵函数，进而得到所述伪邻接矩阵的拉普拉斯矩阵为

得到：

根据伪标签传播矩阵最优解P^*的表达式

得到：

最终，伪邻接矩阵的第i+1次更新由梯度下降策略实现，即：

其中η为学习率；将第t次迭代更新的拉普拉斯矩阵和t-1次迭代更新的伪标签传播矩阵、伪标签分类器、伪标签以及所述真实邻接矩阵代入上式的偏导项中更新伪邻接矩阵；

重复计算偏导的步骤，直到迭代次数达到上限i_max为止，并得到第t+1次迭代更新的伪邻接矩阵为

其中，i_max为梯度下降优化伪邻接矩阵的最大迭代次数；同时，结合第t+1次更新的伪邻接矩阵，更新拉普拉斯矩阵为

6.根据权利要求5所述的伪标签传播优化时间序列聚类方法，其特征在于，对所述多目标优化函数进行偏导来更新所述伪标签分类器，包括：

计算所述多目标优化函数关于所述伪标签分类器的偏导，表达式为：

其中，γ₃为正则化参数，用以平衡各约束项的权重；

令

得到伪标签分类器的最优解W^*为：

W^*＝γ₂(γ₂SS^T+γ₃I)^-1SL^T；

将第t+1次迭代更新的伪邻接矩阵S_t+1和t次迭代更新的伪标签L_t代入最优解W^*中，得到所述伪标签分类器的第t+1次迭代更新策略为：

7.根据权利要求5所述的伪标签传播优化时间序列聚类方法，其特征在于，对所述多目标优化函数进行偏导来更新所述伪标签传播矩阵，包括：

计算所述多目标优化函数关于所述伪标签传播矩阵的偏导，表达式为：

令

得到伪标签传播矩阵的最优解P^*为：

将第t+1次迭代更新的拉普拉斯矩阵

与第t次迭代更新的伪标签L_t代入最优解P^*中，得到所述伪标签传播矩阵的第t+1次更新策略为：

8.根据权利要求6所述的伪标签传播优化时间序列聚类方法，其特征在于，对所述多目标优化函数进行偏导来更新所述伪标签，包括：

计算所述多目标优化函数关于所述伪标签的偏导，表达式为：

根据伪标签传播矩阵最优解P^*的表达式

得到：

令

得到伪标签的最优解L^*为：

将第t+1次迭代更新的伪邻接矩阵S_t+1和拉普拉斯矩阵

第t+1次迭代更新的伪标签分类器W_t+1代入最优解L^*中，得到所述伪标签的第t+1次更新策略为：

9.根据权利要求1所述的伪标签传播优化时间序列聚类方法，其特征在于，初始化n条无标签时间序列的伪邻接矩阵、伪标签、伪标签分类器和伪标签传播矩阵，包括：

将n条无标签时间序列的伪邻接矩阵初始化为所述真实邻接矩阵，记为S₀＝M，并利用S₀1_n＝M1_n＝1_n将初始化的伪邻接矩阵归一化，其中：S₀为所述初始化的伪邻接矩阵，且

M为所述真实邻接矩阵，1_n＝[1,…,1]^T；

设无标签时间序列聚类个数为c，采用聚类算法将所述n条无标签时间序列初步分配到c个聚类中，得到初始化的伪标签记为

结合所述初始化的伪标签和真实邻接矩阵，将伪标签分类器初始化为W₀＝(L₀M^-1)^T，其中：W₀为初始化的伪标签分类器，且

结合所述初始化的伪邻接矩阵和初始化的伪标签，将伪标签传播矩阵初始化为P₀＝(1-α)L₀(I-αS₀)^-1，其中：I为单位矩阵，α为平衡权重，P₀为初始化的伪标签传播矩阵，且

10.根据权利要求1-8任一所述的伪标签传播优化时间序列聚类方法，其特征在于，所述将由伪邻接矩阵与伪标签分类器正则化约束的伪标签传播优化模型转化为一个多项正则化约束的多目标优化函数，包括：

定义由多项正则化约束的多目标优化函数表达式为：

该多目标优化函数的意义为：基于伪标签传播优化模型建立多项正则化约束下的多目标优化模型，以确保时间序列之间的信息传播正确性与聚类准确性，函数中的前两项为正则化的伪标签传播矩阵优化学习目标，用以在时间序列相似度构成的伪邻接矩阵的优化约束下得到接近真实结果的伪标签；第三、四项为正则化约束的伪标签分类器优化学习目标，用于在时间序列相似度构成的伪邻接矩阵约束下学习得到最优的伪标签；最后一项为正则化的时间序列相似度构成的伪邻接矩阵优化学习目标，用以学习接近原始时间序列相似度构成的真实邻接矩阵的伪邻接矩阵，同时也为优化伪标签传播矩阵与伪标签分类器提供所需的传播信息。

Images