CN109446231B - 一种基于模式关联分析的实值时间序列规则发现方法和装置 - Google Patents

Abstract

本发明涉及一种基于模式关联分析的实值时间序列规则发现方法和装置。该方法包括以下步骤：1)针对一个或多个实数值的目标时间序列，利用主题发现技术从中自动提取多种长度的主题模式；2)针对每一对主题模式，根据其在时间序列中出现的位置以及间隔，分析两者之间的配对关系；3)根据一对主题模式的配对结果，对该对主题模式所构成的候选规则进行评分，并选择评分超过预设的阈值的候选规则作为规则。该装置包括主题模式发现模块、主题模式关联分析模块和规则评分模块。本发明能够高效地自动提取蕴含有意义信息的模式；可以根据使用者需求调整模式的偏好；通过模式间的关联关系能够找到有一定关联关系规则，避免了无效规则。

Description

一种基于模式关联分析的实值时间序列规则发现方法和装置

技术领域

本发明涉及一种实值时间序列规则发现方法，属于时间序列数据挖掘领域，具体涉及一种基于模式关联分析的实值时间序列规则发现方法和装置。

背景技术

随着传感器和物联网技术的发展，我们可以轻松地感知收集信息空间和物理空间中对象的感知数据。这些数据往往随时间采样得到，天然形成了实值时间序列数据。由于感知对象之间往往存在着关联关系，这些关系也会相应地体现在它们的时间序列数据上。这种时间序列上存在的关联关系称之为规则。挖掘这些规则能够发掘数据背后对象间的相互作用关系，有助于理解对象间的关联关系。此外，利用这些规则也可以实现预测等任务。

1998年Das等人最早提出了一种针对实值时间序列数据规则发现的方法。该方法首先利用子序列聚类符号化原始的实值时间序列，然后基于J-measure为所有可能的规则进行评分，最终选择分高的作为规则。然而，这种方法理论上虽然可行，但是在实际使用中子序列聚类会丢失原始时间序列中的大量信息，导致最终找到的规则完全无法使用。

2015年，Yekta等人在KDD数据挖掘会议上提出了一种基于子序列划分的规则发现方法。该方法假定规则位于时间序列的子序列中，然后把子序列切分为两段，前段是规则的前件，而后段则是规则的后件。为了快速定位规则可能存在的子序列，该方法进一步采用了主题发现(motif discovery)技术，把主题子序列作为待切分的目标子序列，从而加快规则的发现过程。然而，规则前件和后件之间通常会存在一定的时间间隔，这种基于切分的方法会把间隔中的子序列划分到规则的前件或后件当中，从而使得规则不准确。除此之外，这一方法也无法应用于多时间序列的情景。

发明内容

本发明主要是解决现有技术所存在的问题，提出了一种基于模式关联分析的实值时间序列规则发现方法和装置。利用该方法，可以自动地从实数值时间序列中提取有意义的关联规则，进而可以实现数据的理解或预测。

本发明的上述技术问题主要是通过下述技术方案得以解决的：

一种基于模式关联分析的实值时间序列规则发现方法，包括：

主题模式发现步骤，针对一个或多个实数值的目标时间序列，利用主题发现技术，从中自动提取多种长度的主题模式；

主题模式关联分析步骤，针对每一对主题模式，根据其在时间序列中出现的位置以及间隔，分析两者之间的配对关系；

规则评分步骤，根据一对主题模式的配对结果，对该对主题模式所构成的候选规则进行评分，根据评分高低排列候选规则，根据实际应用问题设定阈值，选择评分超过阈值的候选规则作为最终规则。

优化的，上述的一种基于模式关联分析的时间序列规则发现方法，所述主题模式发现步骤中，所述主题发现技术基于MK算法：

给定主题模式长度参数m，用长为m的滑动窗口提取目标时间序列的全部子序列，选择其中一个子序列作为参考点，记为s₀，计算其他子序列到该子序列的z变换后的欧氏距离，z变换和欧氏距离的具体公式是(1)、(2)，其中s表示一个子序列，mean(s)表示子序列s的平均值，std(s)表示子序列s的标准差。

结果记为d₁,d₂,…,d_N，其中然后根据距离d₁,d₂,…,d_N的大小，从小到大排列子序列s₁,s₂,…,s_N得到/>(a₁,a₂,…,a_N是1到N的某种排序)，计算排序中相邻两个子序列/>到参考子序列距离的差的绝对值，即/>初始化距离最小值为正无穷，记为d_min，按dd_i从小到大的顺序计算其对应两子序列/>的真实距离/>并更新距离最小值d_min，当d_min小于当前待计算的dd_i时，停止计算，此时d_min所对应的两个子序列则是主题模式。原因是两个子序列到参考子序列距离的差的绝对值构成了真实距离的一个下界，这可以根据三角不等式(3)得到。

优化的，上述的一种基于模式关联分析的时间序列规则发现方法，所述主题模式发现步骤中，在应用MK算法时，需要排除时间窗口相邻的子序列。

设置一个排除区间，区间长度是子序列长度的一半，即m/2，当两个子序列的起始位置之差小于m/2时，这两个子序列的真实距离记为正无穷。

优化的，上述的一种基于模式关联分析的时间序列规则发现方法，所述主题模式发现步骤中，在应用MK算法之前，对不感兴趣的子序列进行过滤，是否感兴趣即度量子序列是否有意义，一种度量子序列是否有意义的公式是(4)。

该公式度量了该时间序列子序列的曲折程度Roughness(s)，其中diff表示子序列s的一阶差分子序列，表示模平方，曲线越曲折，该值越大；该公式假设时间序列所描述的对象没有事件发生时，感知信号是平坦的，而当有意义事件发生时，感知信号是曲折的。通过这一步过滤，可以大大加速MK算法的运行时间。

优化的，上述的一种基于模式关联分析的时间序列规则发现方法，所述主题模式发现步骤中，在应用MK算法时，一次只找到属于同一个主题中的最近的两个子序列。

为了寻找其他同样属于该主题的子序列，给定一个范围参数R(R＞1)，记两个已经找到的子序列为s₁,s₂。考虑满足如下公式(5)(6)中任意一个的子序列s

遍历这些子序列，计算它们到s₁或s₂的真实距离，如果该距离满足公式(7)，则将这些子序列加入该主题的子序列中。

通过公式(5)(6)限制了搜索的空间，从而大大加速了搜索速度。

优化的，上述的一种基于模式关联分析的时间序列规则发现方法，所述主题模式发现步骤中，在应用MK算法找到同属于同一个主题的子序列之后，进一步寻找相同长度的其他主题的子序列。

寻找其他主题的子序列可以结合MK算法和过滤，当找到一个主题的全部子序列之后，将这些子序列过滤掉，然后对剩余子序列重新利用MK算法，则可以找到次好的主题子序列。

优化的，上述的一种基于模式关联分析的时间序列规则发现方法，所述主题模式关联分析步骤中，针对两个主题的子序列是否可能构成规则，需要建立起两者子序列之间的对应关系。

记x_i,j是待关联的两个主题中分别第i个子序列和第j个子序列的关联关系，取值是1或0。1代表两者存在配对关系，而0则代表两者不存在配对关系，另外记这两个子序列之间的时间间隔为w_i,j。分别计算如下两个优化问题。

第一个优化问题：

x_i，j∈{0，1}(8-4)

第二个优化问题：

x_i,j∈{0,1}(9-4)

∑x_i,j＝p(9-5)

第一个优化问题((8-1)～(8-4))试图寻找尽可能多的配对数目，记求解该问题能够找到最多配对数目是p；然后求解第二个优化问题((9-1)～(9-4))，该问题试图寻找配对个数是p时，平均时间间隔最小的配对情形。上述两个优化问题的约束条件中，约束(8-2)、(9-2)是限制每一个子序列至多只能和一个其他子序列配对，约束(8-3)、(9-3)限制配对情况中不允许出现交叉，即先出现的子序列要与先出现的子序列配对，约束(8-4)、(9-4)是整数规划约束，约束(9-5)要求必须满足最大配对个数。

该问题是一个整数规划问题，本质上是NP难的问题，但是其可以构成一个二部图匹配问题，利用KM算法可以高效地求解该问题，算法的复杂度是三次方级别。此外，可以证明如果存在交叉连线，可以通过交换连线的方式，在保持匹配个数不变且平均时间间隔不变的情况下，使得结果能够满足约束(8-4)、(9-4)。

优化的，上述的一种基于模式关联分析的时间序列规则发现方法，所述规则评分步骤中，根据配对结果进行评分。

评分基于上一步中成功配对的结果。每一对配对分为前后两项，分别是规则的前件和规则的后件。任意选择其中一对配对为标准配对，计算其他配对中后项以标准配对后项为字典进行编码时所节省的比特数，具体公式是(10)

其中，s_c是标准后项，s是成功配对的其他后项，Huffman(·)是哈夫曼编码。后项是指配对结果中的后件，标准后项是指标准配对的后项。

优化的，上述的一种基于模式关联分析的时间序列规则发现方法，所述规则评分步骤中，根据配对结果进行评分中，需要进一步考虑成功配对的占比情况，具体公式是(11)。

其中FinalScore是最终评分，2p/(n_s1+n_s2)是成功配对的主题模式个数与所有主题模式个数的比值，p表示配对成功的个数，n_s1、n_s2分别表示规则前项和规则后项的个数，该比值越接近于1说明配对成功的主题模式占所有主题模式个数越多，那么规则就越可信；如果比值接近于0，这意味着成功配对的规则数目少。结合该比例，可以排除掉一些非真正规则的情况，如一种主题模式频繁出现，而另一种主题模式罕见，该比例也会趋近于零，两者不应该构成规则。

一种基于模式关联分析的实值时间序列规则发现装置，其包括：

主题模式发现模块，用于针对一个或多个实数值的目标时间序列，利用主题发现技术从中自动提取多种长度的主题模式；

主题模式关联分析模块，用于针对每一对主题模式，根据其在时间序列中出现的位置以及间隔，分析两者之间的配对关系；

规则评分模块，用于根据一对主题模式的配对结果，对该对主题模式所构成的候选规则进行评分，并最终选择评分超过预设的阈值的候选规则作为规则。

因此，本发明具有如下优点：1.能够高效地自动提取蕴含有意义信息的模式；2.可以根据使用者需求调整模式的偏好；3.通过模式间的关联关系能够找到有一定关联关系规则，避免了无效规则。

附图说明

图1是本发明的流程图。

具体实施方式

为使本发明的上述目的、特征和优点能够更加明显易懂，下面通过具体实施例和附图，对本发明做进一步详细说明。

实施例1：

图1是本发明实值时间序列数据规则发现方法的流程图。目标时间序列数据来自公开电力数据集AMPds，该数据集记录了时间跨度达一年的以一分钟为采样间隔的多种电器的功率时间序列。

本实施例的实值时间序列数据规则发现方法，包括：

1)主题模式发现步骤。

利用现有的MK主题发现算法，从电力时间序列中提取的目标时间序列，在具体提取之前，过滤掉了均值mean(s)太小的子序列，对应于电器不工作的状态。此外，主题模式的长度从20开始步长为10直到200。

2)主题模式关联分析步骤。

针对每一对主题模式，根据其在时间序列中出现的位置以及间隔，分析两者之间的配对关系。

3)规则评分步骤。

根据配对结果，对候选规则进行评分。最终，在AMPds数据集中，评分高的规则大多属于洗衣机和烘干机相关的用电功率曲线之间。它们之间存在规则是容易理解的，因为洗衣机和烘干机之间存在使用上的先后关系。

选择由Yekta等人于15年提出的当前最先进的方法(称为Y15)作为比较基准，将本发明的方法和该方法做了实验比较。首先，分别用本发明的方法和Y15从AMPds训练数据集中找到最优的5个规则；然后在AMPds测试数据集上，应用这5个规则进行预测并计算预测的准确率。结果发现，本发明提出的方法找到的规则的平均预测准确率为67.6％，而Y15方法的平均预测准确率只有57.4％，平均预测准确率提高了约10％。

上述过程中，主题模式发现算法MK可以替换为其他主题模式发现算法，或者采用专家人工提取的方法获得主题模式；此外，过滤可以选择用roughness复杂度度量替换平均值度量mean。

以上实施例仅用以说明本发明的技术方案而非对其进行限制，本领域的普通技术人员可以对本发明的技术方案进行修改或者等同替换，而不脱离本发明的精神和范围，本发明的保护范围应以权利要求书所述为准。

Claims (9)

1.一种基于模式关联分析的感知对象之间关联关系发现方法，其特征在于，包括以下步骤：

1)针对获取的感知对象的一个或多个实数值的目标时间序列，利用主题发现技术从中自动提取多种长度的主题模式；所述感知对象为多种电器；所述目标时间序列是多种电器的功率时间序列；

2)针对每一对主题模式，根据其在时间序列中出现的位置以及间隔，分析两者之间的配对关系；

3)根据一对主题模式的配对结果，对该对主题模式所构成的候选规则进行评分，并选择评分超过预设的阈值的候选规则作为规则，即多种电器间的关联关系；

其中，步骤1)所述主题发现技术基于MK算法提取主题模式，其步骤包括：

1-1)给定主题模式长度参数m，用长为m的滑动窗口提取目标时间序列即多种电器的功率时间序列的全部子序列，选择其中一个子序列作为参考点，计算其他子序列到该子序列的z变换后的欧氏距离；

1-2)将得到的欧式距离按照从小到大排列，然后计算相邻两点的到参考点距离的差；按距离差从小到大的顺序计算相应两点的真实距离，并记录当前最小值，当该最小值小于当前待计算的两点相对距离的差时，停止计算，当前最小值所对应的两个子序列则是主题模式。

2.如权利要求1所述的方法，其特征在于，步骤1)在应用MK算法时，排除时间窗口相邻的子序列，其方法是：设置一个排除区间，该排除区间的长度是子序列长度的一半，即m/2，当两个子序列的起始位置之差小于m/2时，这两个子序列的真实距离记为正无穷。

3.如权利要求1所述的方法，其特征在于，步骤1)在应用MK算法之前，对不感兴趣的子序列进行过滤；通过度量子序列是否有意义来判断是否为感兴趣的子序列，度量子序列是否有意义的公式是：

其中Roughness(s)表示时间序列子序列s的曲折程度，曲线越曲折，该值越大；该公式假设时间序列所描述的对象没有事件发生时，感知信号是平坦的，而当有意义事件发生时，感知信号是曲折的。

4.如权利要求1所述的方法，其特征在于，步骤1)在应用MK算法时，一次只找到属于同一个主题中的最近的两个子序列，然后寻找其他同样属于该主题的子序列；找到同属于同一个主题的子序列之后，进一步寻找相同长度的其他主题的子序列。

5.如权利要求4所述的方法，其特征在于，所述寻找其他同样属于该主题的子序列的方法是：给定一个范围参数R，R>1，记两个已经找到的子序列为s₁,s₂，考虑满足如下公式中任意一个的子序列s：

其中，是对子序列s₀、s₁、s₂、s进行z变换后的子序列，s₀是作为参考点的子序列；d表示欧氏距离；

遍历这些子序列，计算它们到s₁或s₂的真实距离，如果该距离满足以下公式，则将这些子序列加入该主题的子序列中，

6.如权利要求4所述的方法，其特征在于，所述寻找相同长度的其他主题的子序列，结合MK算法和过滤，当找到一个主题的全部子序列之后，将这些子序列过滤掉，然后对剩余子序列重新利用MK算法。

7.如权利要求1所述的方法，其特征在于，步骤2)通过计算以下两个优化问题来分析一对主题模式的配对关系，其中x_i,j是待关联的两个主题中第i个子序列和第j个子序列的关联关系，取值是1或0；1代表两者存在配对关系，0代表两者不存在配对关系；w_i,j为这两个子序列之间的时间间隔；x_k,l是待关联的两个主题中第k个子序列和第l个子序列的关联关系；

第一个优化问题：

x_i,j∈{0,1}；

第二个优化问题：

x_i,j∈{0,1}，

∑x_i,j＝p；

其中，第一个优化问题试图寻找尽可能多的配对数目，记求解该问题能够找到最多配对数目是p；然后求解第二个优化问题，该问题试图寻找配对个数是p时，平均时间间隔最小的配对情形。

8.如权利要求1所述的方法，其特征在于，步骤3)进行评分的方法是：

3-1)基于步骤2)中成功配对的结果，选择其中一对配对为标准，采用以下公式计算其他配对中后项以标准配对后项为字典进行编码时所节省的比特数：

其中，s_c是标准后项，s是成功配对的其他后项，Huffman(·)是哈夫曼编码；

3-2)考虑成功配对的占比情况，采用以下公式计算最终评分：

其中FinalScore是最终评分，p表示配对成功的个数，n_s1、n_s2分别表示规则前项和规则后项的个数，2p/(n_s1+n_s2)是成功配对的主题模式个数与所有主题模式个数的比值，该比值越接近于1说明配对成功的主题模式占所有主题模式个数越多，那么规则就越可信；如果比值接近于0，则意味着成功配对的规则数目少。

9.一种采用权利要求1～8中任一权利要求所述方法的基于模式关联分析的感知对象之间关联关系发现装置，其特征在于，包括：

主题模式发现模块，用于针对获取的感知对象的一个或多个实数值的目标时间序列，利用主题发现技术从中自动提取多种长度的主题模式；所述感知对象为多种电器；所述目标时间序列是多种电器的功率时间序列；

主题模式关联分析模块，用于针对每一对主题模式，根据其在时间序列中出现的位置以及间隔，分析两者之间的配对关系；

规则评分模块，用于根据一对主题模式的配对结果，对该对主题模式所构成的候选规则进行评分，并选择评分超过预设的阈值的候选规则作为规则，即多种电器间的关联关系；

其中，所述主题发现技术基于MK算法提取主题模式，其步骤包括：

1-1)给定主题模式长度参数m，用长为m的滑动窗口提取目标时间序列的全部子序列，选择其中一个子序列作为参考点，计算其他子序列到该子序列的z变换后的欧氏距离；

1-2)将得到的欧式距离按照从小到大排列，然后计算相邻两点的到参考点距离的差；按距离差从小到大的顺序计算相应两点的真实距离，并记录当前最小值，当该最小值小于当前待计算的两点相对距离的差时，停止计算，当前最小值所对应的两个子序列则是主题模式。