CN112035792A - 一种实时判断大数据自身给定延迟重复性的方法 - Google Patents
一种实时判断大数据自身给定延迟重复性的方法 Download PDFInfo
- Publication number
- CN112035792A CN112035792A CN201910478187.9A CN201910478187A CN112035792A CN 112035792 A CN112035792 A CN 112035792A CN 201910478187 A CN201910478187 A CN 201910478187A CN 112035792 A CN112035792 A CN 112035792A
- Authority
- CN
- China
- Prior art keywords
- window
- autocorrelation
- delay
- computing
- components
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/15—Correlation function computation including computation of convolution operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Computational Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Computational Linguistics (AREA)
- Probability & Statistics with Applications (AREA)
- Fuzzy Systems (AREA)
- Computing Systems (AREA)
- Algebra (AREA)
- Complex Calculations (AREA)
Abstract
给定延迟的自相关可用于判断大数据自身给定延迟的重复性。本发明公开了一种通过迭代计算给定规模的计算窗口的指定延迟的自相关从而可以实时地判断大数据自身给定延迟重复性的方法,系统和计算系统程序产品。本发明的实施方案包括基于调整前计算窗口的指定延迟的自相关的二个以上组件迭代计算调整后计算窗口的指定延迟的自相关的二个以上组件,然后根据需要基于迭代计算的二个以上组件生成调整后计算窗口的指定延迟的自相关。迭代计算自相关避免访问调整后计算窗口中的所有数据元素和执行重复计算从而提高计算效率,节省计算资源和降低计算系统能耗,使得实时判断大数据自身给定延迟重复性高效低耗及一些实时判断大数据自身给定延迟重复性的场景从不可能变为可能。
Description
技术领域
大数据或流数据分析。
背景技术
互联网,移动通讯,导航,在线游戏,感知技术和大规模计算基础设施每天都生成海量的数据。大数据就是由于其巨大规模,快速变化及增长速度而超出了传统数据库系统的处理能力及传统分析方法的分析能力的数据。目前的大数据分析方法涉及应用大量计算资源,非常昂贵但仍不能满足利用最新的数据信息做出实时决策的需求,特别是在物联网,金融行业等。如何高效实时并节省资源地处理和分析大数据,对数据分析师和计算机科学家是一个艰难的挑战。
自相关,也被称为延迟相关或序列相关,是一个特定的时间序列与延迟了l个时间点的该时间序列本身的相关程度的一个度量。它可以通过一个时间序列的相隔了l个时间点的观察值的协相关除以其标准方差来得到。某个延迟的自相关值为1或接近1可认为大数据在该延迟后出现自身重复规律,因此基于给定延迟的自相关判断大数据自身给定延迟的重复性显而易见,而困难和挑战在于如何实时地在大数据上计算自相关。
自相关在大数据有一些数据变化后可能需要被重新计算以反映最新的数据状况。例如,也许要为包含最新加入存储媒体上的大数据集的n个数据元素的一个计算窗口计算自相关,这样每接收或访问两个数据元素,其中一个数据元素被加入计算窗口而另一个数据元素被移出计算窗口,计算窗口中的n个数据元素就会被访问来重新计算自相关。这样,每次数据变化可能只改变了计算窗口中的一小部分数据。使用计算窗口中的所有数据元素来重新计算自相关涉及重复数据访问和计算,因此耗时并浪费资源。
取决于需要,计算窗口的规模可能非常大,例如计算窗口中的数据元素可能分布在云平台的成千上万台计算设备上。在一些数据变化后的大数据上用传统方法重新计算自相关无法做到实时处理并且占用和浪费大量计算资源,也使得一些实时地判断大数据自身给定延迟的重复性无法满足需求地实现。
发明内容
本发明拓展到方法,系统和计算设备程序产品以迭代方式计算大数据的给定延迟的自相关从而可以实时地判断大数据自身给定延迟的重复性。为一个调整后计算窗口迭代计算指定延迟l(l>0)的自相关包括基于调整前计算窗口的指定延迟的自相关的两个以上(p(p>1))组件迭代计算调整后计算窗口的指定延迟的自相关的两个以上组件然后根据需要基于迭代计算的两个以上组件生成调整后计算窗口的指定延迟的自相关。迭代计算自相关只需要访问和使用迭代计算的组件,新加入和去除的数据元素,以及计算窗口两边分别与新加入和去除数据元素相邻的各l个数据元素而避免访问调整后计算窗口中的所有数据元素和执行重复计算从而降低数据访问延迟,提高计算效率,节省计算资源和降低计算系统能耗,使得实时判断大数据自身给定延迟重复性高效低耗及一些实时判断大数据自身给定延迟重复性的场景从不可能变为可能。
计算系统初始化存储在一个或多个存储媒体上的一个大数据集的一个调整前计算窗口的自相关的两个以上(p(p>1)个)组件。该两个以上组件的初始化包括基于调整前计算窗口中的数据元素通过组件的定义计算两个以上组件或从计算设备可读媒体上接收或访问已计算的两个以上组件。
计算系统访问一个要被从调整前计算窗口中去除的数据元素和一个要被加入到调整前计算窗口的数据元素。
计算系统通过从调整前计算窗口中去除要去除的数据元素和向调整前计算窗口加入要加入的数据元素来调整调整前计算窗口。
计算系统直接迭代计算调整后计算窗口的指定延迟的自相关的一个或多个(设v(1≤v≤p)个)组件。直接迭代计算这一个或多个组件包括:访问调整前计算窗口的指定延迟的v个组件;从访问的每个组件中数学地去除被去除的数据元素的贡献;以及向访问的每个组件数学地加入被加入的数据元素的贡献。
计算系统根据需要间接迭代计算调整后计算窗口的指定延迟的自相关的w=p-v个组件。间接迭代计算指定延迟的w个组件包括一个一个地间接迭代计算w个组件中的每一个组件。间接迭代计算指定延迟的一个组件包括:访问并使用除该组件之外的指定延迟的一个或多个组件来计算该组件。这一个或多个组件可能是经过初始化的,直接迭代计算的或间接迭代计算的。
计算系统基于一个或多个迭代计算的调整后计算窗口的指定延迟的自相关的组件生成一个调整后计算窗口的指定延迟的自相关。
计算系统可以持续地访问一个要去除的数据元素和一个要加入的数据元素,调整计算窗口,直接迭代计算指定延迟的v个组件,根据需要间接迭代计算w=p-v个指定延迟的组件和计算指定延迟的自相关。计算系统可以根据需要多次重复这个过程。
本简述是以简化的方式介绍一些选择的概念,它们将在下面被进一步详细描述。本简述即不是为了鉴定权利要求的主题的关键特点或必要特点,也不是为了用于帮助确认权利要求的主题所包括的范围。
本发明的其它特征和优点将在下面的描述中体现出来,会部分地从描述中明显体现,或从本发明的实践中学到。本发明的特征和优点可从附加的权利要求书中特别指出的方法设备及其组合中实现和得到。本发明的这些和其它特征将在下面的描述和附加的权利要求书或本发明的实践中变得更加全面清晰。
附图说明
为描述能够获得本发明的上述的和其它的优点和特点的方式,上面简述的本发明的一个更具体的描述将通过参照附加的图表中所显示的特定的实施方案来展现出来。这些图表只是描述了本发明的典型实施方案,因此它们不应被理解为对本发明的范围的限制:
图1图示了一个支持迭代计算自相关的例子计算系统的高层概括。
图1-1显示了支持迭代计算大数据的自相关并且所有组件以直接迭代方式计算的一个例子计算系统架构。
图1-2显示了支持迭代计算大数据的自相关并且部分组件以直接迭代方式计算而部分组件以间接迭代方式计算的一个例子计算系统架构。
图2显示了迭代计算大数据的自相关的一个例子方法的流程图。
图3-1显示了当计算窗口300A向右移动时去除的数据和加入的数据。
图3-2显示了当计算窗口300A向右移动时为迭代计算自相关而访问的数据。
图3-3显示了当计算窗口300B向左移动时去除的数据和加入的数据。
图3-4显示了当计算窗口300B向左移动时为迭代计算自相关而访问的数据。
图4-1显示了自相关的定义及计算自相关的传统方程。
图4-2显示了第一个自相关迭代计算算法(迭代算法1)。
图4-3显示了第二个自相关迭代计算算法(迭代算法2)。
图4-4显示了第三个自相关迭代计算算法(迭代算法3)。
图5-1显示了用于一个计算实例的第一个计算窗口。
图5-2显示了用于一个计算实例的第二个计算窗口。
图5-3显示了用于一个计算实例的第三个计算窗口。
图6-1显示了计算窗口规模为4延迟为1时传统和迭代自相关算法的计算量对比。
图6-2显示了计算窗口规模为1000000延迟为1时传统和迭代自相关算法的计算量对比。
具体实施方式
计算自相关是判断时间序列或流化大数据自身给定延迟重复性的有效方法。本发明拓展到通过迭代大数据的计算规模为n(n>1)的计算窗口的指定延迟l(1≤l<n)的自相关从而可实时地判断大数据自身给定延迟重复性的方法,系统和计算设备程序产品。一个计算系统包含一个或多个基于处理器的计算设备。每个计算设备包含一个或多个处理器。该计算系统包含一个或多个存储媒体。该一个或多个存储媒体中的至少一个上有一个数据集。来自该数据集的,涉及到自相关计算的多个数据元素组成一个调整前的计算窗口。计算窗口规模n(n>l)指明数据集的一个计算窗口中的数据元素个数。延迟l指明用于自相关计算时使用的延迟。本发明的实施方案包括基于调整前计算窗口的指定延迟的自相关的两个以上(p(p>1))组件迭代计算调整后计算窗口的指定延迟的自相关的两个以上组件,然后根据需要基于迭代计算的两个以上组件生成调整后计算窗口的指定延迟的自相关。迭代计算自相关避免访问调整后计算窗口中的所有数据元素和执行重复计算从而提高计算效率,节省计算资源和降低计算系统能耗,使得实时判断大数据自身给定延迟重复性高效低耗及一些实时判断大数据自身给定延迟重复性的场景从不可能变为可能。
自相关,也被称为延迟相关或序列相关,是一个特定的时间序列与延迟了l个时间点的该时间序列本身的相关程度的一个度量。它可以通过一个时间序列的相隔了l个时间点的观察值的协相关除以其标准方差来得到。如果计算了一个时间序列的所有不同延迟值的自相关就得到该时间序列的自相关函数。对于一个不随时间变化的时间序列,其自相关值会指数地减少到0。自相关的值的范围是-1和+1之间。值+1表明时间序列的过去和未来的值有一个完全的正线性关系,而值-1表明时间序列的过去和未来的值有一个完全的负线性关系。
在本文中,大数据包括有一定顺序并存在一个或多个计算设备可读媒体上的多个数据元素。大数据和流数据的差别在于处理大数据时,所有的历史数据都可被访问,因此也许不必创建另一个数据缓冲区来存放新接收的数据元素。
在本文中,一个计算窗口是大数据集上包含了自相关计算所涉及的数据的一个移动窗口。计算窗口可以向左或向右移动。例如,当处理新加入大数据集的数据时计算窗口向右移动。这时,一个数据被加入到计算窗口的右边而计算窗口左边的一个数据元素被从计算窗口中去除。当重新计算先前加入大数据集的数据元素的自相关时,计算窗口移向左边。这时,一个数据被加入到计算窗口的左边而计算窗口右边的一个数据元素被从计算窗口中去除。目标是每当计算窗口向左或向右移动一个或多个数据时迭代地计算计算窗口中的数据元素的给定延迟的自相关。这两种情况都可以用同样的方式来处理但只是迭代计算使用的方程不同。用于举例而不是限制,在以下的描述中将以第一种情况(计算窗口向右移动)作为例子来描述和解释本发明的实现方案。
在本文中,自相关的一个组件是出现在自相关定义公式中或其定义公式的任何转换中的一个量或表达式。自相关是它自己最大的组件。以下是一些自相关的组件的例子。
自相关可基于一个或多个组件或它们的组合被计算,所以多个算法支持迭代自相关计算。
一个组件可以被直接迭代计算或间接迭代计算。它们的区别是当一个组件被直接迭代计算时该组件是通过该组件在前一轮计算的值来计算的,而当该组件被间接迭代计算时该组件是用该组件之外的其它组件计算的。
对于一个给定的组件,它也许在一个算法中被直接迭代计算但在另一个算法中被间接迭代计算。
对于任意一个算法,至少会有两个组件被迭代计算,其中一个组件被直接迭代计算,另一个组件被直接或间接迭代计算。对于一个给定的算法,假设使用的不同组件的总数是p(p>1),如果直接迭代计算的组件个数是v(1≤v≤p),那么间接迭代计算的组件的个数是w=p-v(0≤w<p)。可能所有的组件都被直接迭代计算(这种情况下v=p>1并且w=0)。但是,无论自相关的结果是否在一个特定的轮次被需要和访问,直接迭代计算的组件都必须被计算。
对于一个给定算法,如果一个组件被直接迭代计算,则该组件必须被计算(即每当一个已有的数据元素被从计算窗口中去除和每当一个数据元素被加入到计算窗口中时)。但是,如果一个组件被间接迭代计算,则该组件可以通过使用该组件之外的其它一个或多个组件来根据需要,即只有当自相关需要被计算和访问时,被计算。这样,当自相关在某一个计算轮次不被访问时,只有少量的组件需要被迭代地计算。一个间接迭代计算的组件也许会被用于一个组件的直接迭代计算,在这种情况下,该间接迭代计算的组件的计算不可省略。
本发明的实现方案包括基于为前一个计算窗口计算的两个以上(p(p>2))组件迭代地计算自相关的两个以上(p(p>2))组件。
计算系统初始化一个给定规模n(n>1)的计算窗口的给定延迟l(l≥1)的自相关的两个以上(p(p>2))组件。该两个以上组件的初始化包括根据其定义基于该计算窗口中的数据元素来计算或从一个或多个计算设备可读媒体上访问或接收已经计算过的组件。
计算系统访问一个要从该计算窗口中去除的数据元素和一个要被加入到该计算窗口中的数据元素。
计算系统调整计算窗口通过:从该计算窗口中去除要被去除的数据元素和向该计算窗口中加入要被加入的数据元素。
计算系统迭代计算调整后计算窗口的一个和或一个平均值或一个和及一个平均值。
计算系统直接迭代计算调整后计算窗口的指定延迟的自相关的除和及平均值之外的一个或多个(设v(1≤v<p)个)组件。在给定延迟l直接迭代计算v个组件包括:访问被去除的数据元素,该调整前计算窗口中与去除的数据元素相邻的l个数据元素,被加入的数据元素,该调整后计算窗口中与被加入的数据元素相邻的l个数据元素,以及为调整前计算窗口计算的给定延迟l的v个组件;从访问的每个组件中数学地去除被去除的数据元素的任何贡献;向访问的每个组件数学地加入被加入的数据元素的任何贡献。
计算系统根据需要为调整后计算窗口间接迭代计算给定延迟l的自相关的w=p-v个组件。间接迭代计算给定延迟l的自相关的w个组件包括一个一个分别间接地迭代计算给定延迟l的w个组件中的每一个。间接迭代计算给定延迟l的一个组件包括:访问该组件之外的给定延迟l的一个或多个组件并基于访问的组件计算该组件。这些给定延迟l的一个或多个组件可以是被初始化过的,直接迭代计算过的或间接迭代计算过的。
计算系统根据需要用一个或多个初始化或迭代计算的延迟为l的组件生成延迟为l的自相关。
计算系统可以持续访问要从该计算窗口中去除的数据元素和要加入到该计算窗口的数据元素,调整该计算窗口,迭代计算调整后计算窗口的一个和或一个平均值或一个和及一个平均值,直接迭代计算一个或多个即v个指定延迟的组件,根据需要间接迭代计算w=p-v个指定延迟的组件,根据需要用一个或多个迭代计算的组件生成给定延迟的自相关,并根据需要多次重复这个过程。
本发明的实施方案可以包括或利用包含计算设备硬件,例如一个或多个处理器和以下更详细描述的存储设备,专用的或通用的计算设备。本发明实施方案的范围也包括物理的及其它用于携带或存储计算设备可运行指令和/或数据结构的计算设备可读媒体。这些计算设备可读媒体可以是通用或专用计算设备可访问的任何媒体。存储计算设备可运行指令的计算设备可读媒体是存储媒体(设备)。携带计算设备可运行指令的计算设备可读媒体是传输媒体。因此,以举例而非限制的方式,本发明的实施方案可以包括至少两种不同类型的计算设备可读媒体:存储媒体(设备)和传输媒体。
存储媒体(设备)包括随机存取存储器(RAM),只读存储器(ROM),电可擦除可编程只读存储器(EEPROM),只读光盘存储器(CD-ROM),固态硬盘(SSD),闪存(Flash Memory),相变存储器(PCM),其它类型存储器,其它光学磁盘存储,磁盘存储器或其它磁性存储设备,或任何其它能用于存储所需要的以计算设备可运行指令或数据结构形式构成的程序代码并且其可以被通用或专用计算设备访问的媒体。
一个“网络”被定义为使计算设备和/或模块和/或其它电子设备能够传输电子数据的一个或多个数据链接。当信息被网络或另外的通讯连接(有线,无线,或有线和无线的组合)传输或提供给计算设备时,计算设备把连接视为传输媒体。传输媒体可包括用于携带所需要的以计算设备可运行指令或数据结构形式构成的程序代码,并且其可以被通用或专用计算设备访问的一个网络和/或数据链接。以上的组合也应包括在计算设备可读媒体的范围之内。
此外,在应用不同计算设备组件时,计算设备可运行指令或数据结构形式的程序代码可以从传输媒体自动传输到存储媒体(设备)(或反过来)。例如,从网络或数据链接上接收的计算设备可运行指令或数据结构可以被暂存进网络接口模块(例如,NIC)中的随机存取存储器中,然后最终传输到计算设备的随机存取存储器和/或到计算设备的一个较小易变的存储媒体(设备)。所以,应当理解存储媒体(设备)可以被包括在也(或甚至主要)应用传输媒体的计算设备组件里。
计算设备可运行指令包括,例如,指令和数据,当被处理器运行时,使得通用计算设备或专用计算设备去执行一个特定功能或一组功能。计算设备可运行指令可以是,例如,二进制,中间格式指令例如汇编代码,或甚至源代码。虽然描述的客体是用结构特征和/或方法动作的具体语言描述的,应当理解在附加的权利要求书中定义的客体不一定局限于以上描述的特征或动作。而是,描述的特征或动作仅是以实现权利要求的例子形式而公开的。
本发明的实施方案可以在由多种类型的计算设备配置的网络计算环境中实现,这些计算设备包括个人电脑,台式机,笔记本电脑,信息处理器,手持设备,多处理系统,基于微处理器或可编程的电子消费品,网络电脑,小型计算机,主计算机,超级计算机,移动电话,掌上电脑,平板电脑,呼机,路由器,交换机及类似产品。本发明的实施方案也可以应用于通过网络互联(即可通过有线数据链接,无线数据链接,也可以是有线数据链接与无线数据链接的结合)的执行任务的本地或远程计算设备构成的分布式系统环境。在分布式系统环境中,程序模块可以被存储在本地或远程存储设备上。
本发明的实施方案也可以在云计算环境里实现。在本描述及后续的权利要求书中,“云计算”被定义为一个使得能够按需通过网络访问到可配置计算资源的共享池的模型。例如,云计算可以被市场利用去提供普及和方便的按需访问可配置计算资源的共享池。可配置计算资源的共享池可以通过虚拟化很快预备并且以低管理开销或低服务提供商互动来提供,然后做相应的调整。
云计算模型可以包括各种特征例如,按需自服务,宽带网络访问,资源收集,快速收放,计量服务等等。云计算模型也可以各种服务模式来体现,例如,软件做为服务(“SaaS”),平台做为服务(“PaaS”),以及设施做为服务(“IaaS”)。云计算模型也可以通过不同的部署模型例如私有云,社区云,公共云,混合云等等来部署。
由于本发明有效地降低了对计算能力的要求,其实施方案也可应用于边缘计算。
下面的章节中会给出几个例子。
图1图示了为大数据迭代计算自相关的一个例子计算系统100的高层概述。参考图1,计算系统100包括由不同网络,例如局域网1021,无线网1022和互联网1023等等,连接的多个设备。多个设备包括,例如,数据分析引擎1007,存储系统1011,实时数据流1006,以及可以安排数据分析任务和/或查询数据分析结果的多台分布的计算设备,例如个人电脑1016,手持设备1017和台式机1018等等。
数据分析引擎1007可以包括一个或多个处理器,例如CPU 1009和CPU1010,一个或多个系统内存,例如系统内存1008,及组件计算模块131和自相关计算模块192。模块131的细节会在其它图表中更详细地图示(例如,图1-1和图1-2)。存储系统1011可以包括一个或多个存储媒体,例如存储媒体1012和存储媒体1014,其可以用于存放大数据集。例如,1012和或1014可以包括数据集123。存储系统1011里的数据集可以被数据分析引擎1007访问。
通常,数据流1006可以包括来自不同数据源的流数据,例如,股价,音频数据,视频数据,地理空间数据,互联网数据,移动通讯数据,网游数据,银行交易数据,传感器数据,和/或闭合字幕数据等。这里举例描绘了几个,实时数据1000可以包括从感应器1001,股票1002,通讯1003和银行1004等等实时收集的数据。数据分析引擎1007可以接收来自数据流1006的数据元素。来自不同数据源的数据可以被存储在存储系统1011并且为大数据分析所访问,例如数据集123可以来自不同的数据源并且为大数据分析所访问。
请理解图1是以非常简化的形式介绍一些概念,例如,分布设备1016和1017可能经过防火墙才联到数据分析引擎1007,数据分析引擎1007从数据流1006和/或存储系统1011访问或接收的数据可能经过数据过滤器筛选,等等。
图1-1图示了为大数据集迭代计算自相关,其所有(v=p>1)组件被直接迭代计算,的例子计算系统架构100A。关于计算系统架构100A,这里将先只介绍该架构中的主要部件的功能和相互关系,而关于这些部件如何协作共同完成迭代自相关计算的过程将在后面结合图2中描述的流程图一起介绍。图1-1图示了图1显示的1006和1007。参考图1-1,计算系统架构100A包括组件计算模块131和自相关计算模块192。组件计算模块131可以是通过高速数据总线与一个或多个存储媒体紧密耦合的或通过一个网络,如局域网,广域网,甚至互联网与由存储系统管理的一个或多个存储媒体松散耦合的。相应地,组件计算模块131和任何其它连接的计算设备和它们的组件,可以在网络上发送和接收消息相关数据(例如,互联网协议(“IP”)数据报和其它使用IP数据报的高层协议,例如,用户数据报协议(“UDP”),实时流协议(“RTSP”),实时传输协议(“RTP”),微软媒体服务器(“MMS”),传输控制协议(“TCP”),超文本传送协议(“HTTP”),简单邮件传送协议(“SMTP”),等等)。组件计算模块131的输出会被作为自相关计算模块192的输入,自相关计算模块192可以生成自相关193。
通常,存储媒体121可以是一个单个局部存储媒体也可以是一个被一个存储管理系统管理的由多个物理上分布的存储设备组成的复杂存储系统。
存储媒体121包含一个数据集123。通常,数据集123可以包含来源于不同种类的数据,例如,股价,音频数据,视频数据,地理空间数据,互联网数据,移动通讯数据,网游数据,银行交易数据,传感器数据,闭合字幕数据,和实时文字等。
如图所示,数据集123包括存储在存储媒体121的多个存储单元的多个数据元素。例如,数据元素101,102,103,104,105,106,107,108,109,和110分别存储在存储单元121A,121B,121C,121D,121E,121F,121G,121H,121I,以及121J,等等,……还有多个数据元素存储在其它存储单元。
参考计算系统架构100A,通常组件计算模块131包含为直接迭代计算计算窗口的一组n个数据元素的v(v=p>1)个组件的v个组件计算模块。v是一个在给定延迟迭代计算自相关的给定算法中直接迭代计算的组件的个数,它随着使用的迭代算法不同而不同。如图1-1中所示,组件计算模块131包含一个组件Cd1计算模块161和一个组件Cdv计算模块162,它们之间还有v-2个其它组件计算模块,它们可以是组件Cd2计算模块,组件Cd3计算模块,......,以及组件Cdv-1计算模块。每个组件计算模块计算一个给定延迟的特定的组件。每个组件计算模块包含一个为第一个计算窗口初始化一个组件的初始化模块和一个为调整后计算窗口直接迭代计算该组件的算法。例如,组件Cd1计算模块161包含初始化模块132来初始化给定延迟的组件Cd1和迭代算法133来迭代计算给定延迟的组件Cd1,组件Cdv计算模块162包含初始化模块138来初始化给定延迟的组件Cdv和迭代算法139来迭代计算给定延迟的组件Cdv。
初始化模块132可以在初始化组件Cd1时使用或在自相关计算被重置时使用。同样,初始化模块138可以在初始化组件Cdv时使用或在自相关计算被重置时使用。
参考图1-1,计算系统架构100A还包括自相关计算模块192。自相关计算模块192可根据需要基于一个或多个迭代计算的给定延迟的组件计算给定延迟的自相关。
图1-2图示了为一个大数据集迭代计算自相关并且部分(v(1≤v<p))组件直接迭代计算,部分(w=p-v)组件间接迭代计算的一个例子计算系统架构100B。在一些实现中,计算系统架构100B和100A之间的区别是架构100B包括组件计算模块135。除此之外,和100A有同样标记号的部分都按同样的方式工作。为了不重复之前在100A描述里面解释过的东西,只有不同的部分会在这里讨论。100B里面的数字v和100A里面的数字v可能不同,因为有些100A里被直接迭代计算的组件会在100B里被间接迭代计算。在100A中,v=p>1,但在100B中,1≤v<p。参考图1-2,计算系统架构100B包括组件计算模块135。组件计算模块131的输出可以作为组件计算模块135的输入,计算模块131和135的输出可以作为自相关计算模块192的输入,自相关计算模块192可以生成自相关193。组件计算模块135通常包括w=p-v个组件计算模块来间接迭代计算w个组件。例如,组件计算模块135包括组件计算模块163用于间接迭代计算组件Ci1,组件计算模块164用于间接迭代计算组件Ciw,以及它们之间的其它w-2个组件计算模块。间接迭代计算w个组件包括一个一个地间接迭代计算w个组件的每一个。间接迭代计算一个组件包括访问和使用除该组件本身之外的一个或多个组件。那一个或多个组件可以是被初始化,直接迭代计算或间接迭代计算过的。
图2图示了为大数据迭代计算自相关的一个例子方法200的流程图。方法200会分别结合计算系统架构100A和100B的组件和数据一起描述。
方法200包括初始化一个数据集的指定规模为n(n>1)的计算窗口的指定延迟为l(0<l<n)的自相关的v(1≤v≤p,p>1)个组件(201)。例如,对于计算设备100A和100B,方法200可根据组件的定义访问和利用存储在存储媒体121上的数据集123的一个计算窗口中的数据元素初始化该计算窗口的v个组件。组件计算模块131可以访问计算窗口122中的数据元素101,102,103,104,105,106,107,和108。初始化模块132可以用数据元素101到108初始化给定延迟的组件Cd1 141。如图所示,组件Cd1 141包含贡献151,贡献152和其它贡献153。贡献151是数据元素101对给定延迟的组件Cd1 141的贡献。贡献152是数据元素102对给定延迟的组件Cd1 141的贡献。其它贡献153是数据元素103到108对给定延迟的组件Cd1141的贡献。同样,初始化模块138可以用101到108初始化给定延迟的组件Cdv 145。如图所示,组件Cdv 145包含贡献181,贡献182和其它贡献183。贡献181是数据元素101对给定延迟的组件Cdv 145的贡献。贡献182是数据元素102对给定延迟的组件Cdv 145的贡献。其它贡献183是数据元素103到108对给定延迟的组件Cdv 145的贡献。
方法200包括当v<p即不是所有组件都被直接迭代计算时,根据需要一个一个地间接迭代计算w=p-v个组件中的每一个组件基于要计算组件之外的一个或多个组件。这w个组件只有当自相关被访问时才会被计算。例如,参考图1-2其部分组件被直接迭代计算而部分组件被间接迭代计算,计算模块163可基于组件Ci1之外的一个或多个组件来间接迭代计算组件Ci1,计算模块164可基于组件Ciw之外的一个或多个组件来间接迭代计算组件Ciw。这一个或多个组件可以是初始化,直接迭代计算,或间接迭代计算过的。
方法200包括根据需要用一个或多个初始化或迭代计算的延迟为l的组件计算延迟为l的自相关(210),否则只有那v个组件被迭代计算。
方法200包括访问一个要被从计算窗口中去除的数据元素和一个要被加入到计算窗口的数据元素(202)。例如,参考100A和100B,数据元素101和数据元素109可在数据元素101-108被访问后被访问。数据元素101被从存储媒体121的121A位置访问。数据元素109被从存储媒体121的121I位置访问。
方法200包括调整计算窗口,包括:从计算窗口中去除要去除的数据元素和向计算窗口中加入要加入的数据元素(203)。例如,数据元素101被从计算窗口122去除,数据元素109被加入到计算窗口122,然后计算窗口122转变成调整后计算窗口122A。
方法200包括为调整后计算窗口直接迭代计算延迟为l的自相关的v个组件(204),包括:访问计算窗口中与去除的数据元素相邻的l个数据元素和与加入的数据元素相邻的l个数据元素(205);访问延迟为l的自相关的v个组件(206);从v个组件中的每一个组件数学地去除去除的数据元素的任何贡献(207);及向v个组件中的每一个组件数学地加入加入的数据元素的任何贡献(208)。细节描述如下。
为调整后计算窗口直接迭代计算指定延迟l的自相关的v个组件包括访问计算窗口中与去除的数据元素相邻的l个数据元素和与加入的数据元素相邻的l个数据元素(205)。例如,如果指定延迟l=1,迭代算法133可访问数据元素102其与去除的数据元素101相邻及数据元素108其与加入的数据元素109相邻。如果指定延迟l=2,迭代算法133可访问数据元素102和103其与去除的数据元素101相邻及数据元素107和108其与加入的数据元素109相邻......。类似地,如果指定延迟l=1,迭代算法139可访问数据元素102其与去除的数据元素101相邻及数据元素108其与加入的数据元素109相邻。如果指定延迟l=2,迭代算法139可访问数据元素102和103其与去除的数据元素101相邻及数据元素107和108其与加入的数据元素109相邻......。
为调整后计算窗口直接迭代计算延迟为l的自相关的v个组件包括访问调整前计算窗口的延迟为l的自相关的v(1≤v≤p)个组件(206)。例如,如果指定延迟l=1,迭代算法133可访问延迟为1的组件Cd1 141,如果指定延迟l=2,迭代算法133可访问延迟为2的组件Cd1 141......。类似地,如果指定延迟l=1,迭代算法139可访问延迟为1的组件Cdv 145,如果指定延迟l=2,迭代算法139可访问延迟为2的组件Cdv 145......。
为调整后计算窗口直接迭代计算指定延迟l的自相关的v个组件包括从v个组件中的每一个组件数学地去除去除的数据元素的任何贡献(207)。例如,如果指定延迟l=2,直接迭代计算延迟为2的组件Cd1 143可包括贡献去除模块133A从延迟为2的组件Cd1 141中数学地去除贡献151。类似地,直接迭代计算延迟为2的组件Cdv 147可包括贡献去除模块139A从延迟为2的组件Cdv 145中数学地去除贡献181。贡献151和181来自于数据元素101。
为调整后计算窗口直接迭代计算延迟为l的自相关的v个组件包括从v个组件中的每一个组件数学地加入被加入的数据元素的任何贡献(208)。例如,如果指定延迟l=2,直接迭代计算延迟为2的组件Cd1 143可包括贡献加入模块133B向延迟为2的组件Cd1 141中数学地加入贡献154。类似地,直接迭代计算延迟为2的组件Cdv 147可包括贡献加入模块139B向延迟为2的组件Cdv 145中数学地加入贡献184。贡献154和184来自于数据元素109。
如图1-1和1-2所示,组件Cd1 143包括贡献152(来自数据元素102的贡献),其它贡献153(来自数据元素103-108的贡献),以及贡献154(来自数据元素109的贡献)。类似地,组件Cdv 147包括贡献182(来自数据元素102的贡献),其它贡献183(来自数据元素103-108的贡献),以及贡献184(来自数据元素109的贡献)。
当自相关被访问并且v<p(即,不是所有组件都被直接迭代计算)时,方法200包括通过用一个或多个除了组件本身的其它组件根据需要一个一个的间接迭代计算w=p-v个延迟为l的组件(209)。这w个组件只有当自相关被访问时才会计算。例如,参考图1-2其部分组件直接迭代计算,部分组件间接迭代计算,计算模块163可以基于组件Ci1之外的一个或多个组件来间接迭代计算组件Ci1,计算模块164可以基于组件Ciw之外的一个或多个组件来间接迭代计算组件Ciw。这一个或多个组件可以是初始化,直接迭代计算,或间接迭代计算过的。
方法200包括在需要的基础上计算自相关。当自相关被访问时,自相关会被计算基于一个或多个迭代计算的组件;否则只有v个组件会被直接迭代计算。当自相关被访问时,方法200包括可根据需要间接迭代计算延迟为l的w个组件(209)。例如,在架构100A中,自相关模块192可计算给定延迟的自相关193。在架构100B中,计算模块163可基于组件Ci1之外的一个或多个组件间接迭代计算Ci1,及计算模块164可基于组件Ciw之外的一个或多个组件间接迭代计算Ciw,…...,自相关计算模块192可计算给定延迟的自相关193(210)。一旦给定延迟的的自相关被计算,方法200包括访问下一个要被去除的数据元素和下一个要被加入的数据元素开始下一轮迭代计算。每开始新一轮迭代计算,上一轮的调整后计算窗口就变成新一轮迭代计算的调整前计算窗口。
随着更多数据元素的访问202-208可以被重复,209-210可以根据需要被重复。例如,在数据元素101和109被访问或接收以及组件Cd1 143到组件Cdv147范围内的组件被计算之后,数据元素102和数据元素110可以被访问(202)。一旦一个要去除的数据元素和一个要加入的数据元素被访问或接收,方法200包括从计算窗口中去除要去除的数据元素和向计算窗口加入要加入的数据元素来调整计算窗口(203)。例如,计算窗口122A可在去除数据元素102和加入数据元素110之后转变为计算窗口122B。
方法200包括基于调整前计算窗口的v个组件为调整后计算窗口直接迭代计算延迟为l的自相关的v个组件(204),这包括访问或接收计算窗口中与去除的数据元素相邻的l个数据元素和与加入的数据元素相邻的l个数据元素(205),访问v个组件(206),从v个组件中的每一个组件数学地去除去除的数据元素的任何贡献(207),及向v个组件中的每一个组件数学地加入加入的数据元素的任何贡献(208)。例如,参考100A和100B,在指定延迟如l=1,迭代算法133可用于为计算窗口122B直接迭代计算延迟为1的组件Cd1 144基于为计算窗口122A计算的延迟为1的组件Cd1 143(204)。迭代算法133可访问数据元素103其与去除的数据元素102相邻及数据元素109其与加入的数据元素110相邻(205)。迭代算法133可访问延迟为1的组件Cd1 143(206)。直接迭代计算延迟为1的组件Cd1 144包括贡献去除模块133A从延迟为1的组件Cd1 143中数学地去除贡献152也即数据元素102的贡献(207)。直接迭代计算延迟为1的组件Cd1 144包括贡献加入模块133B向延迟为1的组件Cd1 143中数学地加入贡献155也即数据元素110的贡献(208)。类似地,在指定延迟如l=1,迭代算法139可用于为计算窗口122B直接迭代计算延迟为1的组件Cdv 148基于为计算窗口122A计算的延迟为1的组件Cdv 147。迭代算法139可访问数据元素103其与去除的数据元素102相邻及数据元素109其与加入的数据元素110相邻。迭代算法139可访问延迟为1的组件Cdv 147。直接迭代计算延迟为1的组件Cdv 148包括贡献去除模块139A从延迟为1的组件Cdv 147中数学地去除贡献182也即数据元素102的贡献。直接迭代计算延迟为1的组件Cdv 148包括贡献加入模块139B向延迟为1的组件Cdv 147中数学地加入贡献185也即数据元素110的贡献。
如图所示,延迟为l的组件Cd1 144包括其它贡献153(来自数据元素103-108的贡献),贡献154(来自数据元素109的贡献),及贡献155(来自数据元素110的贡献),延迟为l的组件Cdv 148包括其它贡献183(来自数据元素103-108的贡献),贡献184(来自数据元素109的贡献),及贡献185(来自数据元素110的贡献)。
方法200包括根据需要间接迭代计算给定延迟的w个组件和自相关。
方法200包括,根据需要即只有自相关被访问时,间接迭代计算给定延迟的w个组件和自相关。如果自相关不被访问,方法200包括继续为下一个计算窗口访问或接收下一个要去除的数据元素和下一个要加入的数据元素(202)。如果自相关被访问,方法200包括间接迭代计算给定延迟的w个组件(209),基于一个或多个迭代计算的给定延迟的组件计算给定延迟的自相关(210)。
当下一个要去除的数据元素和要加入的数据元素被访问,组件Cd1 144可被用来直接迭代计算下一个组件Cd1,组件Cdv 148可被用来直接迭代计算下一个组件Cdv。
图3-1图示了在大数据上迭代计算自相关时从计算窗口300A中去除的数据元素和加入到计算窗口300A中的数据元素。计算窗口300A向右边移动。参考图3-1,一个已有的数据元素总是从计算窗口300A的左边被去除,一个数据元素总是被加入到计算窗口300A的右边。
图3-2图示了在大数据上迭代计算自相关时计算窗口300A中被访问的数据。对于计算窗口300A,头n个数据元素被访问用来为第一个计算窗口初始化给定延迟的两个或多个组件,然后根据需要间接迭代计算w=p-v个组件及自相关。随着时间推移,一个最老的数据元素如第(m+1)个数据元素被从计算窗口300A中去除,一个数据元素如第(m+n+1)个数据元素被加入到计算窗口300A。调整后计算窗口的给定延迟的一个或多个组件然后被直接迭代计算基于为第一个计算窗口计算的两个或多个组件。如果指定的延迟为1,则共有4个数据元素被访问,包括去除的数据元素,一个与去除的数据元素相邻的数据元素,加入的数据元素,以及一个与加入的数据元素相邻的数据元素。如果指定的延迟为2,则共有6个数据元素被访问,包括去除的数据元素,2个与去除的数据元素相邻的数据元素,加入的数据元素,以及2个与加入的数据元素相邻的数据元素。如果指定的延迟为l,则共有2*(l+1)个数据元素被访问,包括去除的数据元素,l个与去除的数据元素相邻的数据元素,加入的数据元素,以及l个与加入的数据元素相邻的数据元素。然后根据需要间接迭代计算给定延迟的w=p-v个组件及自相关。然后计算窗口300A通过去除一个老数据元素和加入一个新数据元素再次被调整,......。对于一个给定的迭代算法,v是个常数,间接迭代w=p-v个组件的操作数也是一个常数,所以对于一个给定的延迟,数据访问量和计算量被减少并且是常数。计算窗口规模n越大,则数据访问量和计算量的减少就越显著。
图3-3图示了在大数据上迭代计算自相关时从计算窗口300B中去除的数据元素和加入到计算窗口300B中的数据元素。计算窗口300B向左边移动。参考图3-3,一个新数据元素总是从计算窗口300B的右边被去除,一个老数据元素总是被加入到计算窗口300B的左边。
图3-4图示了在大数据上迭代计算自相关时计算窗口300B中被访问的数据。对于计算窗口300B,头n个数据元素被访问用来为第一个计算窗口初始化给定延迟的两个或多个组件,然后根据需要间接迭代计算w=p-v个组件及自相关。随着时间推移,一个数据元素如第(m+n)个数据元素被从计算窗口300B中去除,一个数据元素如第m个数据元素被加入到计算窗口300B。调整后计算窗口的给定延迟的一个或多个组件然后被直接迭代计算基于为第一个计算窗口计算的两个或多个组件。如果指定的延迟为1,则共有4个数据元素被访问,包括去除的数据元素,一个与去除的数据元素相邻的数据元素,加入的数据元素,以及一个与加入的数据元素相邻的数据元素。如果指定的延迟为2,则共有6个数据元素被访问,包括去除的数据元素,2个与去除的数据元素相邻的数据元素,加入的数据元素,以及2个与加入的数据元素相邻的数据元素。如果指定的延迟为l,则共有2*(l+1)个数据元素被访问,包括去除的数据元素,l个与去除的数据元素相邻的数据元素,加入的数据元素,以及l个与加入的数据元素相邻的数据元素。然后根据需要间接迭代计算给定延迟的w=p-v个组件及自相关。然后计算窗口300B通过去除一个新数据元素和加入一个老数据元素再次被调整,......。对于一个给定的迭代算法,v是个常数,间接迭代w=p-v个组件的操作数也是一个常数,所以对于一个给定的延迟,数据访问量和计算量被减少并且是常数。计算窗口规模n越大,则数据访问量和计算量的减少就越显著。
图4-1图示了自相关的定义。假设X=(xm+1,xm+2,......,xm+n)是一个大数据集的包含涉及自相关计算的数据的一个规模为n的计算窗口。该计算窗口可以向右或向左两个方向移动。例如,当要计算最新数据的自相关时,该计算窗口向右移动。这时,一个数据被从该计算窗口的左侧去除,一个数据被加入到该计算窗口的右侧。当要复查老数据的自相关时,该计算窗口向左移动。这时,一个数据被从该计算窗口的右侧去除,一个数据被加入到该计算窗口的左侧。这两种情况下用于迭代计算组件的方程是不同的。为了区别它们,定义前种情况调整后计算窗口为XI,后种情况调整后计算窗口为XII。方程401是为第k轮计算规模为n的计算窗口X里所有数据元素的总和Sk的传统方程。方程402是为第k轮计算计算窗口X里所有数据元素的平均值的传统方程。方程403是为第k轮计算计算窗口X的给定延迟为l的自相关ρ(k,l)的传统方程。方程404是为第k+1轮计算规模为n的调整后计算窗口XI里所有数据元素的总和SI k+1的传统方程。方程405是为第k+1轮计算调整后计算窗口XI里所有数据元素的平均值的传统方程。方程406是为第k+1轮计算调整后计算窗口XI的给定延迟为l的自相关ρI (k+1,l)的传统方程。如前所述,当计算窗口向左测移动时,调整后计算窗口定义为XII。方程407是为第k+1轮计算规模为n的调整后计算窗口XII里所有数据元素的总和SII k+1的传统方程。方程408是为第k+1轮计算调整后计算窗口XII里所有数据元素的平均值的传统方程。方程409是为第k+1轮计算调整后计算窗口XII的给定延迟为l的自相关ρII (k+1,l)的传统方程。
为展示如何利用组件迭代计算自相关,三个不同的迭代自相关算法被提供作为例子。每当计算窗口有一个数据变化时新的一轮计算就开始了(例如,122→122A→122B)。一个和或平均值是计算自相关的基本组件。迭代计算一个和或平均值的方程是被所有例子迭代自相关计算算法都用到的迭代组件方程。
图4-2说明第一个例子迭代自相关计算算法(迭代算法1)。方程401和402可分别被用来初始化组件Sk和/或方程410,411,和412可分别被用来初始化组件SSk,SXk,和covX(k,l)。方程413可用来计算自相关ρ(k,l)。当计算窗口向右移动时,迭代算法1包括组件SI k+1或SSI k+1,SXI k+1,和covXI (k+1,l)的迭代计算,一旦组件SXI k+1和covXI (k+1,l)被计算,自相关ρI (k+1,l)可以基于它们来计算。一旦组件Sk和/或可用,方程414和415可分别被用来迭代计算调整后计算窗口XI的组件SI k+1和一旦组件SSk可用,方程416可用于直接迭代计算调整后计算窗口XI的组件SSI k+1。一旦组件SI k+1或和SSI k+1可用,方程417可用于间接迭代计算调整后计算窗口XI的组件SXI k+1。一旦组件covX(k,l),SSI k+1,Sk或和SI k+1或可用,方程418可用于直接迭代计算调整后计算窗口XI的组件covXI (k+1,l)。414,415,417,和418分别包含多个方程但分别只需要其中一个取决于是否和或平均值或两者都可用。一旦组件covXI (k+1,l)和SXI k+1被计算,方程420可用于间接迭代计算调整后计算窗口XI的给定延迟为l的自相关ρI (k+1,l)。当计算窗口向左移动时,迭代算法1包括组件SII k+1或SSII k+1,SXII k+1,和covXII (k+1,l)的迭代计算,一旦组件SXII k+1和covXII (k+1,l)被计算,自相关ρII (k+1,l)可以基于它们来计算。方程420和421可分别被用来迭代计算调整后计算窗口XII的组件SII k+1和一旦组件Sk和/或可用。方程422可用于直接迭代计算调整后计算窗口XII的组件SSII k+1一旦组件SSk可用。423可用于间接迭代计算调整后计算窗口XII的组件SXII k+1一旦组件SII k+1或和SSII k+1可用。方程424可用于直接迭代计算调整后计算窗口XII的组件covXII (k+1,l)一旦组件covX(k,l),SSII k+1,Sk或和SII k+1或可用。420,421,423,和424分别包含多个方程但分别只需要其中一个取决于是否和或平均值或两者可用。方程425可用于间接迭代计算调整后计算窗口XII的给定延迟为l的自相关ρII (k+1,l)一旦组件covXII (k+1,l)和SXII k+1被计算。
图4-3说明第二个例子迭代自相关计算算法(迭代算法2)。方程401和402可分别被用来初始化组件Sk和/或方程426和427可分别被用来初始化组件SXk和covX(k,l)。方程428可用来计算自相关ρ(k,l)。当计算窗口向右移动时,迭代算法2包括组件SI k+1或SXI k+1,和covXI (k+1,l)的迭代计算,一旦组件SXI k+1和covXI (k+1,l)被计算,自相关ρI (k+1,l)可以基于它们来计算。一旦组件Sk和/或可用,方程429和430可分别被用来迭代计算调整后计算窗口XI的组件SI k+1和一旦组件SXk,SI k+1和/或可用,方程431可用于直接迭代计算调整后计算窗口XI的组件SXI k+1。方程432可用于直接迭代计算调整后计算窗口XI的组件covXI (k+1,l)一旦组件covX(k,l),Sk或和SI k+1或可用。429,430,431,和432分别包含多个方程但分别只需要其中一个取决于是否和或平均值或两者都可用。一旦组件covXI (k+1,l)和SXI k+1被计算,方程433可用于间接迭代计算调整后计算窗口XI的给定延迟为l的自相关ρI (k+1,l)。当计算窗口向左移动时,迭代算法2包括组件SII k+1或SXII k+1,和covXII (k+1,l)的迭代计算,一旦组件SXII k+1和covXII (k+1,l)被计算,自相关ρII (k+1,l)可以基于它们被计算。方程434和435可分别被用来迭代计算调整后计算窗口XII的组件SII k+1和一旦组件Sk和/或可用。方程436可用于直接迭代计算调整后计算窗口XII的组件SXII k+1一旦组件SXII k,SII k+1和/或可用。方程437可用于直接迭代计算调整后计算窗口XII的组件covXII (k+1,l)一旦组件covX(k,l),Sk或以及SII k+1或可用。434,435,436,和437分别包含多个方程但分别只需要其中一个取决于是否和或平均值或两者可用。方程438可用于间接迭代计算调整后计算窗口XII的给定延迟为l的自相关ρII (k+1,l)一旦组件covXII (k+1,l)和SXII k+1被计算。
图4-4说明第三个例子迭代自相关计算算法(迭代算法3)。方程401和402可分别被用来初始化组件Sk和/或方程439和440可分别被用来初始化组件SXk和covX(k,l)。方程441可用来计算自相关ρ(k,l)。当计算窗口向右移动时,迭代算法3包括组件SI k+1或SXI k+1,和covXI (k+1,l)的迭代计算,一旦组件SXI k+1和covXI (k+1,l)被计算,自相关ρI (k+1,l)可以基于它们来计算。方程442和443可分别被用来迭代计算调整后计算窗口XI的组件SI k+1和一旦组件Sk和/或可用。方程444可用于直接迭代计算调整后计算窗口XI的组件SXI k+1一旦组件SXk,Sk和/或以及SI k+1和/或可用。方程445可用于直接迭代计算调整后计算窗口XI的组件covXI (k+1,l)一旦组件covX(k,l),Sk或以及SI k+1或可用。442,443,444,和445分别包含多个方程但分别只需要其中一个取决于是否和或平均值或两者都可用。方程446可用于间接迭代计算调整后计算窗口XI的给定延迟为l的自相关ρI (k+1,l)一旦组件covXI (k+1,l)和SXI k+1被计算。当计算窗口向左移动时,迭代算法3包括组件SII k+1或SXII k+1,和covXII (k+1,l)的迭代计算,一旦组件SXII k+1和covXII (k+1,l)被计算,自相关ρII (k+1,l)可以基于它们被计算。方程447和448可分别被用来迭代计算调整后计算窗口XII的组件SII k+1和一旦组件Sk和/或可用。方程449可用于直接迭代计算调整后计算窗口XII的组件SXII k+1一旦组件SXk,Sk和/或以及SII k+1和/或可用。方程450可用于直接迭代计算调整后计算窗口XII的组件covXII (k+1,l)一旦组件covX(k,l),Sk或以及SII k+1或可用。447,448,449,和450分别包含多个方程但分别只需要其中一个取决于是否和或平均值或两者都可用。一旦组件covXII (k+1,l)和SXII k+1被计算,方程451可用于间接迭代计算调整后计算窗口XII的给定延迟为l的自相关ρII (k+1,l)。
为展示迭代自相关算法以及它们与传统算法的比较,下面给出三个例子。使用3个移动计算窗口的数据。对于传统算法,所有3个计算窗口的计算过程完全相同。对于迭代算法,第一个计算窗口进行两个或多个组件的初始化,第二个和第三个计算窗口进行迭代计算。
图5-1,图5-2,图5-3分别显示了用于一个计算实例的第一个计算窗口,第二个计算窗口,和第三个计算窗口。计算窗口503包括大数据集501的头4个数据元素:8,3,6,1。计算窗口504包括大数据集501的4个数据元素:3,6,1,9。计算窗口505包括大数据集501的4个数据元素:6,1,9,2。该计算实例假设计算窗口从左向右移动。大数据集501可以是大数据或流数据。计算窗口规模502(n)是4。
首先用传统算法分别计算计算窗口503,504,和505的延迟为1的自相关。
为计算窗口503计算延迟为1的自相关:
没有任何优化的情况下,为规模为4的计算窗口计算延迟为1的自相关共有2次除法,7次乘法,8次加法和10次减法。
相同的方程和过程可被用来分别为图5-2显示的计算窗口504计算延迟为1的自相关和为图5-3显示的计算窗口505计算延迟为1的自相关。计算窗口504延迟为1的自相关计算窗口505延迟为1的自相关 这两个计算中的每一个在没有优化的情况下都包括2次除法,7次乘法,8次加法和10次减法。传统算法在没有优化的情况下计算计算窗口规模为n给定延迟为l的自相关时通常需要完成2次除法,2n-l次乘法,3n-(l+3)次加法,和3n-2l次减法。
下面用迭代算法1分别计算计算窗口503,504,和505的延迟为1的自相关。
为计算窗口503计算延迟为1的自相关:
covX(1,1):
2.用方程413计算第1轮的自相关ρ(1,1):
为计算窗口503计算延迟为1的自相关时共有2个除法,9个乘法,8个加法和7个减法。
为计算窗口504计算延迟为1的自相关:
2.用方程419计算第2轮的自相关ρ(2,1):
计算窗口504迭代计算延迟为1的自相关时共有2个除法,10个乘法,8个加法和7个减法。
为计算窗口505计算延迟为1的自相关:
2.用方程419计算第3轮的自相关ρ(3,1):
为计算窗口505计算延迟为1的自相关时共有2个除法,10个乘法,8个加法和7个减法。
下面用迭代算法2分别计算计算窗口503,504,和505的延迟为1的自相关。
为计算窗口503计算延迟为1的自相关:
2.用方程428计算第1轮的自相关ρ(1,1):
为计算窗口503计算延迟为1的自相关时共有2个除法,7个乘法,8个加法,和10个减法。
为计算窗口504计算延迟为1的自相关:
2.用方程433计算第2轮的自相关ρ(2,1):
计算窗口504迭代计算延迟为1的自相关时共有2个除法,7个乘法,10个加法,和7个减法。
为计算窗口505计算延迟为1的自相关:
2.用方程433计算第3轮的自相关ρ(3,1):
计算窗口505迭代计算延迟为1的自相关时共有2个除法,7个乘法,10个加法,和7个减法。
下面用迭代算法3分别计算计算窗口503,504,和505的延迟为1的自相关。
为计算窗口503计算延迟为1的自相关:
2.用方程441计算第1轮的自相关ρ(1,1):
为计算窗口503计算延迟为1的自相关时共有2个除法,7个乘法,8个加法,和10个减法。
为计算窗口504计算延迟为1的自相关:
2.用方程446计算第2轮的自相关ρ(2,1):
计算窗口504迭代计算延迟为1的自相关时共有2个除法,7个乘法,9个加法,和8个减法。
为计算窗口505计算延迟为1的自相关:
2.用方程446计算第3轮的自相关ρ(3,1):
计算窗口505迭代计算延迟为1的自相关时共有2个除法,7个乘法,9个加法,和8个减法。
在以上三个例子中,平均值被用于迭代自相关计算。和也可被用于自相关迭代计算,只是操作数不同。另外,上述三个例子中的计算窗口是从左向右移动。当计算窗口从右向左移动时其计算过程类似只是应用一组不同的方程。
图6-1图示了n=4延迟为1时,传统自相关算法和迭代自相关算法的计算量对比。如图所示,任何一个迭代算法和传统算法的除法操作,乘法操作,加法操作和减法操作都差不多。
图6-2图示了n=1,000,000延迟为1时,传统自相关算法和迭代自相关算法的计算量对比。如图所示,任何一个迭代算法都比传统算法少很多乘法操作,加法操作和减法操作。迭代自相关算法把需要在成千上万台计算机上处理的数据只在单机上就能完成。大大提高计算效率,减少计算资源,降低计算设备能耗,使得实时判断大数据自身给定延迟重复性高效低耗及一些实时判断大数据自身给定延迟重复性的场景从不可能变为可能。
本发明可以在不脱离其思想或本质特征的情况下以其它特定的方式来实现。本申请描述的实现方案从各个方面来说是仅作为示范性的而不是限制性的。因此,本发明的范围由附加的权利要求书而不是前面的描述来指明。与权利要求书中权利要求的含义和范围等价的所有变化都包含在它们的范围内。
Claims (10)
1.一种由基于一台或多台计算设备构成的计算系统实现的方法,其特征在于:
由基于计算设备的一个计算系统,为一个数据集的一个指定规模为n(n>1)的调整前计算窗口,初始化一个延迟l(0<l<n),以及延迟为l的自相关的两个以上组件;
由基于计算设备的该计算系统,访问一个要从该调整前计算窗口中去除的数据元素和一个要加入到该调整前计算窗口的数据元素;
由基于计算设备的该计算系统,调整该调整前计算窗口,通过:
从该调整前计算窗口中去除要去除的数据元素;以及
向该调整前计算窗口加入要加入的数据元素;
由基于计算设备的该计算系统,为调整后计算窗口迭代计算一个和,一个平均值,或一个和及一个平均值;
由基于计算设备的该计算系统,至少基于该调整前计算窗口的延迟为l的自相关的两个以上组件,为调整后计算窗口迭代计算延迟为l的自相关的两个以上组件,并且在迭代计算该两个以上组件的过程中避免访问和使用该调整后计算窗口中的所有数据元素来降低数据访问延迟,提高计算效率,节省计算资源和降低该计算系统能耗;以及
由基于计算设备的该计算系统,基于一个或多个为调整后计算窗口迭代计算的组件,为调整后计算窗口生成延迟为l的自相关。
2.按照权利要求1所述的由计算系统实现的该方法,其特征在于:所述访问一个要去除的数据元素和一个要加入的数据元素包括访问多个要从调整前计算窗口去除的数据元素和多个要加入调整前计算窗口的数据元素,该方法也进一步包括对于多个要去除的数据元素中的每一个数据元素和多个要加入的数据元素中的每一个数据元素进行调整计算窗口,迭代计算两个以上组件,以及为调整后计算窗口生成延迟为l的自相关。
3.按照权利要求2所述的由计算系统实现的该方法,其特征在于:所述为调整后计算窗口生成延迟为l的自相关当且仅当该自相关被访问时。
4.按照权利要求3所述的由计算系统实现的该方法,其特征在于:所述为调整后计算窗口生成延迟为l的自相关进一步包括由基于计算设备的计算系统为调整后计算窗口间接迭代计算延迟为l的自相关的一个或多个组件,间接迭代计算该一个或多个组件包括基于要计算的组件之外的一个或多个组件来逐个分别计算该一个或多个组件。
5.一个计算系统,其特征在于:
一个或多个处理器;
一个或多个存储媒体,其中至少一个存储媒体存储了一个数据集;以及
一个或多个计算模块,当它们被一个或多个处理器中的至少一个处理器执行时,执行一个方法,该方法包括:
a.为该数据集的一个指定规模为n(n>1)的调整前计算窗口,初始化一个延迟l(0<l<n),以及延迟为l的自相关的两个以上组件;
b.访问一个要从该调整前计算窗口中去除的数据元素和一个要加入到该调整前计算窗口的数据元素;
c.调整该调整前计算窗口,包括:
从调整前计算窗口中去除要去除的数据元素;以及
向调整前计算窗口中加入要加入的数据元素;
d.至少基于该调整前计算窗口的延迟为l的自相关的两个以上组件,为该调整后计算窗口迭代计算延迟为l的自相关的两个以上组件,并且在迭代计算该两个以上组件的过程中避免访问和使用调整后计算窗口中的所有数据元素来降低数据访问延迟,提高计算效率,节省计算资源和降低该计算系统能耗;以及
e.基于一个或多个为调整后计算窗口迭代计算的组件,为调整后计算窗口生成延迟为l的自相关。
6.按照权利要求5所述的计算系统,其特征在于:该一个或多个计算模块,当它们被一个或多个处理器中的至少一个处理器执行时,多次执行b,c,d,和e。
7.按照权利要求6所述的该计算系统,其特征在于:执行e当且仅当该调整后计算窗口的延迟为l的自相关被访问时。
8.按照权利要求7所述的该计算系统,其特征在于:所述e进一步包括由该计算系统为调整后计算窗口间接迭代计算延迟为l的自相关的一个或多个组件,间接迭代计算该一个或多个组件包括基于要计算的组件之外的一个或多个组件来逐个分别计算该一个或多个组件。
9.一个计算系统程序产品,运行于一个包含一个或多个计算设备的计算系统,该计算系统包括一个或多个处理器以及存储了一个数据集的一个或多个存储媒体,该计算系统程序产品包含多条计算设备可执行指令,当这些计算设备可执行指令被该计算系统运行时,执行一个方法,其特征在于:
为一个数据集的一个指定规模为n(n>1)的调整前计算窗口,初始化一个延迟l(0<l<n),以及延迟为l的自相关的两个以上组件;
访问一个要从该调整前计算窗口中去除的数据元素和一个要加入到该调整前计算窗口的数据元素;
调整该调整前计算窗口,通过:
从该调整前计算窗口中去除要去除的数据元素;以及
向该调整前计算窗口加入要加入的数据元素;
至少基于该调整前计算窗口的延迟为l的自相关的两个以上组件,为该调整后计算窗口迭代计算延迟为l的自相关的两个以上组件,并且在迭代计算该两个以上组件的过程中避免访问和使用该调整后计算窗口中的所有数据元素来降低数据访问延迟,提高计算效率,节省计算资源和降低该计算系统能耗;以及
基于一个或多个为调整后计算窗口迭代计算的组件,为调整后计算窗口生成延迟为l的自相关。
10.权利要求9所述的计算系统程序产品,其特征在于:所述为调整后计算窗口生成延迟为l的自相关进一步包括为调整后计算窗口间接迭代计算延迟为l的自相关的一个或多个组件,间接迭代计算该一个或多个组件包括基于要计算的组件之外的一个或多个组件来逐个分别计算该一个或多个组件。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910478187.9A CN112035792A (zh) | 2019-06-03 | 2019-06-03 | 一种实时判断大数据自身给定延迟重复性的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910478187.9A CN112035792A (zh) | 2019-06-03 | 2019-06-03 | 一种实时判断大数据自身给定延迟重复性的方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112035792A true CN112035792A (zh) | 2020-12-04 |
Family
ID=73576059
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910478187.9A Pending CN112035792A (zh) | 2019-06-03 | 2019-06-03 | 一种实时判断大数据自身给定延迟重复性的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112035792A (zh) |
-
2019
- 2019-06-03 CN CN201910478187.9A patent/CN112035792A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9430444B2 (en) | Iteratively calculating standard deviation for streamed data | |
US9959248B1 (en) | Iterative simple linear regression coefficient calculation for big data using components | |
US9760539B1 (en) | Incremental simple linear regression coefficient calculation for big data or streamed data using components | |
US10659369B2 (en) | Decremental autocorrelation calculation for big data using components | |
US10394809B1 (en) | Incremental variance and/or standard deviation calculation for big data or streamed data using components | |
US10394810B1 (en) | Iterative Z-score calculation for big data using components | |
CN112035521A (zh) | 一种实时判断流数据自身给定延迟重复性的方法 | |
CN112035792A (zh) | 一种实时判断大数据自身给定延迟重复性的方法 | |
US10310910B1 (en) | Iterative autocorrelation calculation for big data using components | |
US10318530B1 (en) | Iterative kurtosis calculation for big data using components | |
US10235415B1 (en) | Iterative variance and/or standard deviation calculation for big data using components | |
CN110457340B (zh) | 一种实时寻找大数据自身重复规律的方法 | |
CN112035520A (zh) | 一种实时判断流数据自身给定延迟重复性的方法 | |
CN110515680B (zh) | 一种实时判断大数据自身给定延迟重复性的方法 | |
CN110515681B (zh) | 一种实时判断流数据自身给定延迟重复性的方法 | |
CN112035791A (zh) | 一种实时判断大数据自身给定延迟重复性的方法 | |
US10282445B1 (en) | Incremental kurtosis calculation for big data or streamed data using components | |
CN110363321B (zh) | 一种实时预测大数据变化趋势的方法 | |
US10079910B1 (en) | Iterative covariance calculation for streamed data using components | |
CN112035505A (zh) | 一种实时判断大数据分布密度集中程度的方法 | |
CN111708979A (zh) | 一种实时判断大数据离散程度的方法 | |
CN111488380A (zh) | 一种实时判断流数据分布不对称性的方法 | |
CN112434258A (zh) | 一种实时判断选定数据以标准方差为单位偏离平均值的相对距离的方法 | |
CN110909305B (zh) | 一种实时判断数据流变化同向性及其程度的方法 | |
CN111708972A (zh) | 一种实时判断流数据分布密度集中程度的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |