TWI748989B - 資料聚合方法及裝置 - Google Patents
資料聚合方法及裝置 Download PDFInfo
- Publication number
- TWI748989B TWI748989B TW106104789A TW106104789A TWI748989B TW I748989 B TWI748989 B TW I748989B TW 106104789 A TW106104789 A TW 106104789A TW 106104789 A TW106104789 A TW 106104789A TW I748989 B TWI748989 B TW I748989B
- Authority
- TW
- Taiwan
- Prior art keywords
- data
- business data
- time stamp
- aggregation
- business
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24553—Query execution of query operations
- G06F16/24554—Unary operations; Data partitioning operations
- G06F16/24556—Aggregation; Duplicate elimination
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Debugging And Monitoring (AREA)
- Information Transfer Between Computers (AREA)
- Computer And Data Communications (AREA)
Abstract
本發明公開了一種資料聚合方法及裝置,關於資訊技術領域,可以解決的一個技術問題是資料聚合統計精確度較低;另一個技術問題是資料聚合操作延遲較高,從而可以提高資料聚合的效率,保證資料聚合的即時性。本發明的主要技術方案為:當需要對雲端環境中儲存的海量業務資料進行聚合時,首先資料聚合伺服器接收業務資料伺服器發送的業務資料,然後即時檢測業務資料中攜帶的時間戳記是否大於該資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記,若大於,則將時間戳記與資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記相同的業務資料進行資料聚合。本發明主要用於對雲端環境中儲存的海量業務資料進行聚合。
Description
本發明關於資訊技術領域,尤其關於一種資料聚合方法及裝置。
隨著網際網路的不斷發展,在雲端環境下進行業務資料的儲存與統計也越來越普遍。例如,對QPS(Query Per Second,每秒查詢率)、PV(Page View,頁面流覽量)等不同類別的業務資料進行儲存與統計。由於在雲端環境下儲存的資料量很大,因此在對雲端環境中儲存的海量業務資料進行統計時,需要對海量的業務資料進行聚合。
目前,在對雲端環境中儲存的海量業務資料進行聚合時,首先將不同時間段接收到的各個類別的業務資料寫入到檔中,然後從檔中讀取需要聚合的某一類別的全部業務資料,最後將讀取的業務資料按照時間進行排序後發送給計算伺服器進行資料聚合,例如發送給MapReduce(映射歸約)伺服器進行資料聚合,具體可以如圖5所示。然而,由於在進行資料聚合時,需要對檔進行讀寫操作,而為了解決進行檔讀寫操作過程中存在的文件鎖衝突的問
題,會在資料聚合時進行一次保存有待聚合資料的文件複製過程,從而造成資料計算的延遲較高,並且由於還需要將讀取的業務資料按照時間進行一次排序,從而造成資料聚合的過程較為繁瑣,資料聚合操作的效率較低,資料聚合操作延遲較高;同時由於業務資料在從文件中讀取並完成聚合操作後,如果再次接收到與進行聚合操作的業務資料時間相同或者時間更早的業務資料,再次接收到的這部分業務資料將被丟棄,從而造成資料聚合統計的精確度較低。
有鑑於此,本發明提供一種資料聚合方法及裝置,主要目的是解決在對雲端環境中儲存的海量業務資料進行聚合時存在資料聚合操作延遲較高的技術問題。
與此同時,本發明還提供一種資料聚合方法及裝置,主要目的是解決資料聚合統計精確度較低的技術問題。
為達到上述目的,本發明提供如下技術方案:一方面,本發明提供一種資料聚合方法,包括:資料聚合伺服器接收業務資料伺服器發送的業務資料,該業務資料攜帶有時間戳記,該時間戳記用於標識該業務伺服器接收到該業務資料的時間;檢測該時間戳記是否大於目標時間戳記,該目標時間戳記為該資料聚合伺服器上一次接收到該業務資料伺服器發送的業務資料攜帶的時間戳記;
若該時間戳記大於該目標時間戳記,則將時間戳記為該目標時間戳記的業務資料進行資料聚合,該目標時間戳記對應的業務資料保存在預置儲存位置。
另一方面,本發明提供一種資料聚合裝置,包括:接收單元,用於接收業務資料伺服器發送的業務資料,該業務資料攜帶有時間戳記,該時間戳記用於標識該業務伺服器接收到該業務資料的時間;檢測單元,用於檢測該接收單元接收的該時間戳記是否大於目標時間戳記,該目標時間戳記為上一次接收到該業務資料伺服器發送的業務資料攜帶的時間戳記;聚合單元,用於若該檢測單元檢測該時間戳記大於該目標時間戳記,則將時間戳記為該目標時間戳記的業務資料進行資料聚合,該目標時間戳記對應的業務資料保存在預置儲存位置。
借由上述技術方案,本發明實施例提供的技術方案至少具有下列優點:本發明提供的一種資料聚合方法及裝置,當需要對雲端環境中儲存的海量業務資料進行聚合時,首先資料聚合伺服器接收業務資料伺服器發送的業務資料,然後即時檢測業務資料中攜帶的時間戳記是否大於該資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記,若大於,則將時間戳記與資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記相同的業務資料進行資料聚合。與目前在對雲端環境中儲存的
海量業務資料進行聚合時,都需要對用於儲存業務資料的檔進行讀寫操作,並且還需要將讀取的業務資料按照時間進行一次排序,同時如果再次接收到與進行聚合操作的業務資料時間相同或者時間更早的業務資料,這部分業務資料將被丟棄相比,本發明由於只需要藉由檢測目前業務資料的時間戳記是否大於資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記,即可實現對不同時間段的業務資料進行聚合,提高資料聚合的效率,並且由於檢測操作是即時進行的,可以降低資料聚合操作的延遲,提高資料聚合的即時性;同時由於本發明中設置了時間容忍期,可以對目前接收到的時間較早的業務資料進行聚合操作,進而提高了資料聚合統計的精確度。
上述說明僅是本發明技術方案的概述,為了能夠更清楚瞭解本發明的技術手段,而可依照說明書的內容予以實施,並且為了讓本發明的上述和其它目的、特徵和優點能夠更明顯易懂,以下特舉本發明的具體實施方式。
101~103‧‧‧步驟
201~205‧‧‧步驟
31‧‧‧接收單元
32‧‧‧檢測單元
33‧‧‧聚合單元
41‧‧‧接收單元
42‧‧‧檢測單元
43‧‧‧聚合單元
4301‧‧‧獲取模組
4302‧‧‧聚合模組
44‧‧‧判斷單元
45‧‧‧確認單元
46‧‧‧緩存單元
47‧‧‧刪除單元
48‧‧‧建立單元
藉由閱讀下文優選實施方式的詳細描述,各種其他的優點和益處對於本領域普通技術人員將變得清楚明瞭。圖式僅用於示出優選實施方式的目的,而並不認為是對本發明的限制。而且在整個圖式中,用相同的參考符號表示相同的部件。在圖式中:圖1示出了本發明實施例提供的一種資料聚合方法的
流程圖;圖2示出了本發明實施例提供的另一種資料聚合方法的流程圖;圖3示出了本發明實施例提供的一種資料聚合裝置的結構示意圖;圖4示出了本發明實施例提供的另一種資料聚合裝置的結構示意圖;圖5示出了本發明提供的現有資料聚合流程示意圖;圖6示出了本發明實施例提供的不同業務資料伺服器中業務資料時間戳記示意圖;圖7示出了本發明實施例提供的不同資料聚合伺服器本地時間示意圖;圖8示出了本發明實施例提供的資料聚合伺服器中不同業務資料的時間戳記示意圖;圖9示出了本發明實施例提供的業務資料伺服器時間與資料聚合伺服器時間的映射方式示意圖。
下面將參照圖式更詳細地描述本公開的示例性實施例。雖然圖式中顯示了本公開的示例性實施例,然而應當理解,可以以各種形式實現本公開而不應被這裡闡述的實施例所限制。相反,提供這些實施例是為了能夠更透徹地理解本公開,並且能夠將本公開的範圍完整的傳達給本領域的技術人員。
本發明實施例提供的一種資料聚合方法,如圖1所示,該方法包括:
101、資料聚合伺服器接收業務資料伺服器發送的業務資料。
其中,該業務資料攜帶有時間戳記,該時間戳記用於標識該業務伺服器接收到該業務資料的時間。例如,業務資料伺服器接收到業務資料的時間為10:01,則資料聚合伺服器接收到的業務資料中攜帶的時間戳記為10:01。該資料聚合伺服器用於對業務資料伺服器發送的業務資料進行聚合處理;該業務資料可以為QPS(Query Per Second,每秒查詢率)、PV(Page View,頁面流覽量)等不同類別的業務資料,也可以為同一類別不同應用的業務資料,如應用A和應用B的PV資料,本發明實施例不做限定。
102、檢測該時間戳記是否大於目標時間戳記。
其中,該目標時間戳記為該資料聚合伺服器上一次接收到該業務資料伺服器發送的業務資料時該業務資料攜帶的時間戳記。不同時間戳記可以按照時間順序以清單、時間軸等方式進行展示,本發明實施例不做限定,例如,當不同時間戳記按照時間順序以時間軸等方式進行展示時,時間軸上的時間會不斷向前滾動,以保證時間軸上的時間為目前時間。對於本發明實施例,藉由檢測該時間戳記是否大於目標時間戳記,即檢測目前接收到的業務資料的時間與上一次接收到業務資料的時間是否發生變化,從而確定是否觸發業務資料聚合操作,從而保證了對業務資料進
行聚合操作的即時性。
對於本發明實施例,可以以秒為單位配置時間戳記、以分鐘為單位配置時間戳記等,本發明實施例不做限定。當以秒為單位配置時間戳記時,不同時間戳記以秒來進行區分,如10:01:01、10:01:02、10:01:03等;當以分鐘為單位配置時間戳記時,不同時間戳記以分鐘來進行區分,如10:01、10:02、10:03,其中,10:01:01-10:01:59都歸為10:01,以此類推。
例如,業務資料伺服器以分鐘為單位配置時間戳記,若資料聚合伺服器目前接收業務資料伺服器發送的業務資料攜帶的時間戳記為10:01,資料聚合伺服器上一次接收業務資料伺服器發送的業務資料攜帶的時間戳記同為10:01,則確定不觸發業務資料聚合操作;若資料聚合伺服器目前接收業務資料伺服器發送的業務資料攜帶的時間戳記為10:02,大於資料聚合伺服器上一次接收業務資料伺服器發送的業務資料攜帶的時間戳記10:01,則確定觸發業務資料聚合操作。
103、若該時間戳記大於該目標時間戳記,則將時間戳記為該目標時間戳記的業務資料進行資料聚合。
其中,該目標時間戳記對應的業務資料保存在預置儲存位置。該預置儲存位置可以為預置映射關係表、預置佇列等,本發明實施例不做限定。對於本發明實施例,若該時間戳記大於該目標時間戳記,如由10:01變為了10:02、或者由10:01:01變為了10:01:02,說明目前業務
資料攜帶的時間戳記向前發生了變化,即即時觸發對上一時間戳記的全部業務資料進行聚合操作,從而保證了業務資料聚合操作的即時性,提高了業務資料的聚合操作效率。
本發明實施例提供的一種資料聚合方法,當需要對雲端環境中儲存的海量業務資料進行聚合時,首先資料聚合伺服器接收業務資料伺服器發送的業務資料,然後即時檢測業務資料中攜帶的時間戳記是否大於該資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記,若大於,則將時間戳記與資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記相同的業務資料進行資料聚合。與目前在對雲端環境中儲存的海量業務資料進行聚合時,都需要對用於儲存業務資料的檔進行讀寫操作,並且還需要將讀取的業務資料按照時間進行一次排序相比,本發明由於只需要藉由檢測目前業務資料的時間戳記是否大於資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記,即可實現對不同時間段的業務資料進行聚合,提高資料聚合的效率,並且由於檢測操作是即時進行的,可以降低資料聚合操作的延遲,同時可以提高資料聚合的即時性。
進一步地,本發明實施例提供另一種資料聚合方法,如圖2所示,該方法包括:
201、資料聚合伺服器接收業務資料伺服器發送的業務資料。
其中,該業務資料攜帶有時間戳記,該時間戳記用於標識該業務伺服器接收到該業務資料的時間。該資料聚合伺服器和該業務資料的相應描述可以參照圖1該實施例的對應描述,在此不再贅述。
202、檢測該時間戳記是否大於目標時間戳記。
其中,該目標時間戳記為該資料聚合伺服器上一次接收到該業務資料伺服器發送的業務資料時該業務資料攜帶的時間戳記。該時間戳記的配置方式的具體描述可以參照圖1該實施例的對應描述,在此不再贅述。
對於本發明實施例,藉由檢測該時間戳記是否大於目標時間戳記,即檢測目前接收到的業務資料的時間與上一次接收到業務資料的時間是否向前發生變化,從而確定是否觸發業務資料聚合操作,從而保證了對業務資料進行聚合操作的即時性。
進一步地,步驟202之後還可以包括:若該時間戳記與該目標時間戳記相同,則將目前接收到的該業務資料緩存到與該目標時間戳記對應的預置佇列中。其中,該預置佇列中緩存有時間戳記為該目標時間戳記的全部業務資料。不同預置佇列分別緩存有時間戳記不同的業務資料,由於對佇列進行緩存和讀取操作的延遲較低,因此,將業務資料緩存到佇列中,可以進一步降低資料聚合操作的延遲,提高資料聚合操作的即時性。若該時間戳記小於該目標時間戳記,則將目前接收到的該業務資料刪除。如時間戳記由10:01變為了09:50,則將目前接收到的時間戳記
為09:50的業務資料刪除,從而保證資料聚合的準確性。
203、若該時間戳記大於該目標時間戳記,則將時間戳記為該目標時間戳記的業務資料進行資料聚合。
其中,該目標時間戳記對應的業務資料保存在預置儲存位置。該預置儲存位置可以為預置映射關係表、預置佇列等,本發明實施例不做限定。
對於本發明實施例,步驟203之前還可以包括:判斷目前接收到該業務資料之後的第一預置時間段內,是否接收到時間戳記為該目標時間戳記的業務資料。需要說明的是,當某一個時間戳記的業務資料進行聚合後,由於傳輸資料延遲等原因,業務資料伺服器有可能再次接收到該時間戳記的業務資料,此時,如果不對延遲接收到的業務資料進行處理,會造成業務資料的丟失,進而使得業務資料聚合的準確性較低,因此,在進行資料聚合之前,藉由配置時間容忍期,即第一預置時間段,可以避免延遲接收到的業務資料的丟失,提高業務資料聚合統計的準確性。
其中,該第一預置時間段可以根據時間戳記的配置單位進行配置。例如,若時間戳記的配置單位為秒,則第一預置時間段可以為1秒、2秒等,若時間戳記的配置單位為分鐘,則第一預置時間段可以為1分鐘、2分鐘等。藉由根據時間戳記的配置單位配置第一預置時間段,可以進一步提高時間容忍期的配置準確性,進而進一步提高業務資料聚合的準確性。
此時,步驟203具體可以包括:若未接收到,則將時
間戳記為該目標時間戳記的業務資料進行資料聚合;若接收到,則將在該第一預置時間段內接收到的該業務資料和時間戳記為該目標時間戳記的業務資料進行資料聚合。
例如,業務資料伺服器以分鐘為單位配置時間戳記,則此時將第一預置時間段配置為5分鐘。若資料聚合伺服器目前接收業務資料伺服器發送的業務資料攜帶的時間戳記為10:02,資料聚合伺服器上一次接收業務資料伺服器發送的業務資料攜帶的時間戳記為10:01,則在對時間戳記為10:01的業務資料進行聚合前,判斷從目前時間開始後的五分鐘內是否接收到攜帶的時間戳記為10:01的業務資料,若接收到,則將在五分鐘內接收到的時間戳記為10:01的業務資料和之前接收到的時間戳記為10:01的業務資料進行資料聚合;若未接收到,說明此時不存在延遲的業務資料,將時間戳記為10:01的業務資料進行資料聚合,從而保證了資料聚合的準確性。
進一步地,步驟203之後還可以包括:建立與目前接收到的業務資料的時間戳記對應的佇列;將該業務資料緩存在該佇列中。由於不同時間戳記對應不同的佇列,因此藉由新建佇列對目前接收到的業務資料進行保存。
204、判斷該業務資料伺服器是否終止接收與該目前接收到的業務資料類型相同的業務資料。
其中,類型相同的業務資料具體可以為業務資料類型相同的業務資料,例如,判斷是否終止接收類別為QPS的業務資料;類型相同的業務資料具體還可以為相同應用
的業務資料,例如,判斷是否終止接收應用A的業務資料。
對於本發明實施例,步驟204具體可以包括:判斷在目前接收到該業務資料之後的第二預置時間段內,是否接收到與該業務資料類型相同的業務資料;若未接收到,則確認該業務資料伺服器終止接收與該業務資料類型相同的業務資料。需要說明的是,若在目前接收到該業務資料之後的一定時間段內,未接收到與該業務資料類型相同的業務資料,可以確定業務資料伺服器終止接收與該目前接收到的業務資料類型相同的業務資料。
其中,第二預置時間段具體可以根據時間戳記的配置單位進行配置。例如,若時間戳記的配置單位為秒,則第二預置時間段可以為1秒、2秒等,若時間戳記的配置單位為分鐘,則第二預置時間段可以為1分鐘、2分鐘等。藉由根據時間戳記的配置單位配置第二預置時間段,可以進一步提高終止接收業務資料的判斷精度,進而提高業務資料聚合操作的準確性。
205、若該業務資料伺服器終止接收與該業務資料類型相同的業務資料,則對目前接收到的業務資料進行資料聚合。
對於本發明實施例,當業務資料伺服器終止接收與該業務資料類型相同的業務資料時,說明資料聚合伺服器不再接收該類型業務資料,即此時無法藉由再次接收到該類型業務資料來判斷該類型業務資料的時間戳記是否發生變
化,因此在該種情況下,直接對目前接收到的業務資料進行資料聚合,可以保證當業務資料伺服器終止接收與該業務資料類型相同的業務資料時,也可以完成對目前接收到的業務資料進行資料聚合。
對於本發明實施例,步驟205具體可以包括:若該業務資料伺服器終止接收與該業務資料類型相同的業務資料,則獲取與目前時間戳記不同的下一個相鄰時間戳記對應的聚合計算伺服器的本地時間,該業務資料伺服器配置的每一個不同的時間戳記分別對應一個聚合計算伺服器的本地時間,具體可以如圖9所示;根據該聚合計算伺服器的本地時間對目前接收到的業務資料進行資料聚合。其中,資料聚合伺服器的本地時間可以按照時間順序以清單、時間軸等方式進行展示,本發明實施例不做限定。
需要說明的是,由於網路狀況條件、不同伺服器的時間存在差異等問題,會使得資料聚合伺服器的本地時間與業務資料伺服器配置的時間戳記並不相同,例如,如圖6和圖7所示,業務資料伺服器1的業務資料由資料聚合伺服器1處理,可以看出業務資料伺服器1配置的時間戳記為10:01:01,而此時對應的資料聚合伺服器1的本地時間為10:03:01,可見資料聚合伺服器的本地時間與對應的業務資料伺服器配置的時間戳記並不相同;並且在資料聚合伺服器中,在同一時刻同一個監控項目的不同業務資料到達資料聚合伺服器的時間戳記也可能不同,不同監控項目的時間戳記也可能不同,例如,如圖8所示,對於監控項
目相同的業務資料PV,在同一時刻應用A中該業務資料的時間戳記10:00:00與應用B中該業務資料的時間戳記10:01:10不同;對於監控項目不同的業務資料PV與RT,業務資料的時間戳記也不相同。另外,由於業務資料收集手段的原因,業務資料到達資料聚合伺服器的時間與該業務資料到達業務資料伺服器的時間不同,例如,如圖9所示,某一個業務資料到達業務資料伺服器的時間為10:01,該業務資料到達資料聚合伺服器的時間為10:03,因此,在做即時資料聚合時,藉由採用業務資料伺服器配置的時間戳記作為觸發時間,而不同時採用資料聚合伺服器本地時間作為觸發時間,可以保證資料聚合的準確。並且藉由按照時間順序建立業務資料伺服器配置的每一個不同的時間戳記與資料聚合伺服器的本地時間之間的一一對應關係,可以保證時間的一致性,當業務資料伺服器終止接收某一類別的業務資料時,藉由資料聚合伺服器的本地時間依然可以保證準確進行該類別業務資料的聚合操作。
對於本發明實施例,具體的應用場景可以如下所示,但不限於此,包括:如圖9所示,資料聚合伺服器在時間軸SB點接收業務資料伺服器發送的業務資料,獲取該業務資料攜帶的時間戳記為11:02,檢測到大於上一次在時間軸SA點接收業務資料伺服器發送的業務資料攜帶的時間戳記11:01,此時對時間戳記為11:01的業務資料進行資料集合。進一步地,判斷在從目前時間開始的5分鐘內,未接收到與時間戳記為11:02的業務資料類型相同的業務資
料,可以確定業務資料伺服器終止接收與時間戳記為11:02的業務資料類型相同的業務資料,此時當資料聚合伺服器的本地時間到達11:07時(對應業務資料伺服器的11:03),對時間戳記為11:02的業務資料進行資料聚合,從而保證對時間戳記為11:02的業務資料進行資料聚合。
本發明實施例提供的另一種資料聚合方法,當需要對雲端環境中儲存的海量業務資料進行聚合時,首先資料聚合伺服器接收業務資料伺服器發送的業務資料,然後即時檢測業務資料中攜帶的時間戳記是否大於該資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記,若大於,則將時間戳記與資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記相同的業務資料進行資料聚合。與目前在對雲端環境中儲存的海量業務資料進行聚合時,都需要對用於儲存業務資料的檔進行讀寫操作,並且還需要將讀取的業務資料按照時間進行一次排序,同時如果再次接收到與進行聚合操作的業務資料時間相同或者時間更早的業務資料,這部分業務資料將被丟棄相比,本發明實施例由於只需要藉由檢測目前業務資料的時間戳記是否大於資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記,即可實現對不同時間段的業務資料進行聚合,提高資料聚合的效率,並且由於檢測操作是即時進行的,可以降低資料聚合操作的延遲,提高資料聚合的即時性;同時由於本發明實施例中設置了時間容忍期,可以對目前接收到的時間
較早的業務資料進行聚合操作,進而提高了資料聚合統計的精確度。
進一步地,作為圖1所示方法的具體實現,本發明實施例提供一種資料聚合裝置,如圖3所示,該裝置可以包括:接收單元31、檢測單元32、聚合單元33。
接收單元31,用於接收業務資料伺服器發送的業務資料,該業務資料攜帶有時間戳記,該時間戳記用於標識該業務伺服器接收到該業務資料的時間;檢測單元32,用於檢測該接收單元31接收的該時間戳記是否大於目標時間戳記,該目標時間戳記為上一次接收到該業務資料伺服器發送的業務資料攜帶的時間戳記;聚合單元33,用於若該檢測單元32檢測該時間戳記大於該目標時間戳記,則將時間戳記為該目標時間戳記的業務資料進行資料聚合,該目標時間戳記對應的業務資料保存在預置儲存位置。
需要說明的是,該裝置實施例與前述方法實施例對應,為便於閱讀,本裝置實施例不再對前述方法實施例中的細節內容進行逐一贅述,但應當明確,本實施例中的裝置能夠對應實現前述方法實施例中的全部內容。
本發明實施例提供的一種資料聚合裝置,當需要對雲端環境中儲存的海量業務資料進行聚合時,首先資料聚合伺服器接收業務資料伺服器發送的業務資料,然後即時檢測業務資料中攜帶的時間戳記是否大於該資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間
戳記,若大於,則將時間戳記與資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記相同的業務資料進行資料聚合。與目前在對雲端環境中儲存的海量業務資料進行聚合時,都需要對用於儲存業務資料的檔進行讀寫操作,並且還需要將讀取的業務資料按照時間進行一次排序相比,本發明由於只需要藉由檢測目前業務資料的時間戳記是否大於資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記,即可實現對不同時間段的業務資料進行聚合,提高資料聚合的效率,並且由於檢測操作是即時進行的,可以降低資料聚合操作的延遲,同時可以提高資料聚合的即時性。
進一步地,作為圖2所示方法的具體實現,本發明實施例提供一種資料聚合裝置,如圖4所示,該裝置可以包括:接收單元41、檢測單元42、聚合單元43。
接收單元41,用於接收業務資料伺服器發送的業務資料,該業務資料攜帶有時間戳記,該時間戳記用於標識該業務伺服器接收到該業務資料的時間;檢測單元42,用於檢測該接收單元41接收的該時間戳記是否大於目標時間戳記,該目標時間戳記為上一次接收到該業務資料伺服器發送的業務資料攜帶的時間戳記;聚合單元43,用於若該檢測單元42檢測該時間戳記是否大於該目標時間戳記,則將時間戳記為該目標時間戳記的業務資料進行資料聚合,該目標時間戳記對應的業務資料保存在預置儲存位置。
進一步地,該裝置還包括:判斷單元44。
該判斷單元44,用於判斷目前接收到該業務資料之後的第一預置時間段內,是否接收到時間戳記為該目標時間戳記的業務資料;該聚合單元43,具體用於若目前接收到該業務資料之後的第一預置時間段內未接收到時間戳記為該目標時間戳記的業務資料,則將時間戳記為該目標時間戳記的業務資料進行資料聚合;或者若目前接收到該業務資料之後的第一預置時間段內接收到時間戳記為該目標時間戳記的業務資料,則將在該第一預置時間段內接收到的該業務資料和時間戳記為該目標時間戳記的業務資料進行資料聚合。
進一步地,該判斷單元44,還用於判斷該業務資料伺服器是否終止接收與該目前接收到的業務資料類型相同的業務資料;該聚合單元43,還用於若該業務資料伺服器終止接收與該業務資料類型相同的業務資料,則對目前接收到的業務資料進行資料聚合。
進一步地,該裝置還包括:確認單元45。
該判斷單元44,具體用於判斷在目前接收到該業務資料之後的第二預置時間段內,是否接收到與該業務資料類型相同的業務資料;該確認單元45,用於若未接收到,則確認該業務資料伺服器終止接收與該業務資料類型相同的業務資料。
進一步地,該聚合單元43具體可以包括:獲取模組4301、聚合模組4302。
獲取模組4301,用於若該業務資料伺服器終止接收與該業務資料類型相同的業務資料,則獲取與目前時間戳記不同的下一個相鄰時間戳記對應的聚合計算伺服器的本地時間,該業務資料伺服器配置的每一個不同的時間戳記分別對應一個聚合計算伺服器的本地時間;聚合模組4302,用於根據該聚合計算伺服器的本地時間對目前接收到的業務資料進行資料聚合。
進一步地,該裝置還包括:緩存單元46、刪除單元47。
緩存單元46,用於若該時間戳記與該目標時間戳記相同,則將目前接收到的該業務資料緩存到與該目標時間戳記對應的預置佇列中,該預置佇列中緩存有時間戳記為該目標時間戳記的全部業務資料;刪除單元47,用於若該時間戳記小於該目標時間戳記,則將目前接收到的該業務資料刪除。
進一步地,該裝置還包括:建立單元48。
該建立單元48,用於建立與目前接收到的業務資料的時間戳記對應的佇列;該緩存單元46,還用於將該業務資料緩存在該佇列中。
需要說明的是,該裝置實施例與前述方法實施例對應,為便於閱讀,本裝置實施例不再對前述方法實施例中
的細節內容進行逐一贅述,但應當明確,本實施例中的裝置能夠對應實現前述方法實施例中的全部內容。
本發明實施例提供的另一種資料聚合裝置,當需要對雲端環境中儲存的海量業務資料進行聚合時,首先資料聚合伺服器接收業務資料伺服器發送的業務資料,然後即時檢測業務資料中攜帶的時間戳記是否大於該資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記,若大於,則將時間戳記與資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記相同的業務資料進行資料聚合。與目前在對雲端環境中儲存的海量業務資料進行聚合時,都需要對用於儲存業務資料的檔進行讀寫操作,並且還需要將讀取的業務資料按照時間進行一次排序,同時如果再次接收到與進行聚合操作的業務資料時間相同或者時間更早的業務資料,這部分業務資料將被丟棄相比,本發明實施例由於只需要藉由檢測目前業務資料的時間戳記是否大於資料聚合伺服器上一次接收到業務資料伺服器發送的業務資料攜帶的時間戳記,即可實現對不同時間段的業務資料進行聚合,提高資料聚合的效率,並且由於檢測操作是即時進行的,可以降低資料聚合操作的延遲,提高資料聚合的即時性;同時由於本發明實施例中設置了時間容忍期,可以對目前接收到的時間較早的業務資料進行聚合操作,進而提高了資料聚合統計的精確度。
該資料聚合裝置包括處理器和儲存器,上述接收單
元、檢測單元、聚合單元、判斷單元、確認單元、緩存單元、刪除單元、建立單元等均作為程式單元儲存在儲存器中,由處理器執行儲存在儲存器中的上述程式單元來實現相應的功能。
處理器中包含內核,由內核去儲存器中調取相應的程式單元。內核可以設置一個或以上,藉由調整內核參數來解決在對圖表中被選中的圖形進行顯示時存在顯示卡頓的問題。
儲存器可能包括電腦可讀介質中的非永久性儲存器,隨機存取儲存器(RAM)和/或非易失性內存等形式,如唯讀儲存器(ROM)或閃存(flash RAM),儲存器包括至少一個儲存晶片。
本發明還提供了一種電腦程式產品,當在資料處理設備上執行時,適於執行初始化有如下方法步驟的程式碼:資料聚合伺服器接收業務資料伺服器發送的業務資料,該業務資料攜帶有時間戳記,該時間戳記用於標識該業務伺服器接收到該業務資料的時間;檢測該時間戳記是否大於目標時間戳記,該目標時間戳記為該資料聚合伺服器上一次接收到該業務資料伺服器發送的業務資料攜帶的時間戳記;若該時間戳記大於該目標時間戳記不相同,則將時間戳記為該目標時間戳記的業務資料進行資料聚合,該目標時間戳記對應的業務資料保存在預置儲存位置。
本領域內的技術人員應明白,本發明的實施例可提供為方法、系統、或電腦程式產品。因此,本發明可採用完
全硬體實施例、完全軟體實施例、或結合軟體和硬體方面的實施例的形式。而且,本發明可採用在一個或多個其中包含有電腦可用程式碼的電腦可用儲存介質(包括但不限於磁碟儲存器、CD-ROM、光學儲存器等)上實施的電腦程式產品的形式。
本發明是參照根據本發明實施例的資料聚合方法、裝置、和電腦程式產品的流程圖和/或方塊圖來描述的。應理解可由電腦程式指令實現流程圖和/或方塊圖中的每一流程和/或方塊、以及流程圖和/或方塊圖中的流程和/或方塊的結合。可提供這些電腦程式指令到通用電腦、專用電腦、嵌入式處理機或其他可程式設計資料處理設備的處理器以產生一個機器,使得藉由電腦或其他可程式設計資料處理設備的處理器執行的指令產生用於實現在流程圖一個流程或多個流程和/或方塊圖一個方塊或多個方塊中指定的功能的裝置。
這些電腦程式指令也可儲存在能引導電腦或其他可程式設計資料處理設備以特定方式工作的電腦可讀儲存器中,使得儲存在該電腦可讀儲存器中的指令產生包括指令裝置的製造品,該指令裝置實現在流程圖一個流程或多個流程和/或方塊圖一個方塊或多個方塊中指定的功能。
這些電腦程式指令也可裝載到電腦或其他可程式設計資料處理設備上,使得在電腦或其他可程式設計設備上執行一系列操作步驟以產生電腦實現的處理,從而在電腦或其他可程式設計設備上執行的指令提供用於實現在流程圖
一個流程或多個流程和/或方塊圖一個方塊或多個方塊中指定的功能的步驟。
在一個典型的配置中,計算設備包括一個或多個處理器(CPU)、輸入/輸出介面、網路介面和內部記憶體。
儲存器可能包括電腦可讀介質中的非永久性儲存器,隨機存取記憶體(RAM)和/或非揮發性內部記憶體等形式,如唯讀記憶體(ROM)或快閃記憶體(flash RAM)。儲存器是電腦可讀介質的示例。
電腦可讀介質包括永久性和非永久性、可移動和非可移動媒體可以由任何方法或技術來實現資訊儲存。資訊可以是電腦可讀指令、資料結構、程式的模組或其他資料。電腦的儲存介質的例子包括,但不限於相變記憶體(PRAM)、靜態隨機存取記憶體(SRAM)、動態隨機存取記憶體(DRAM)、其他類型的隨機存取記憶體(RAM)、唯讀記憶體(ROM)、電可擦除可程式設計唯讀記憶體(EEPROM)、快閃記憶體或其他內部記憶體技術、唯讀光碟記憶體(CD-ROM)、數位多功能光碟(DVD)或其他光學儲存、磁盒式磁帶,磁帶磁片儲存或其他磁性儲存設備或任何其他非傳輸介質,可用於儲存可以被計算設備訪問的資訊。按照本文中的界定,電腦可讀介質不包括暫存電腦可讀媒體(transitory media),如調變的資料信號和載波。
以上僅為本發明的實施例而已,並不用於限制本發明。對於本領域技術人員來說,本發明可以有各種更改和變化。凡在本發明的精神和原理之內所作的任何修改、等
同替換、改進等,均應包含在本發明的申請專利範圍的範圍之內。
Claims (14)
- 一種資料聚合方法,其特徵在於,包括:資料聚合伺服器接收業務資料伺服器發送的業務資料,該業務資料攜帶有時間戳記,該時間戳記用於標識該業務伺服器接收到該業務資料的時間;檢測該時間戳記是否大於目標時間戳記,該目標時間戳記為該資料聚合伺服器上一次接收到該業務資料伺服器發送的業務資料攜帶的時間戳記;若該時間戳記大於該目標時間戳記,則將時間戳記為該目標時間戳記的業務資料進行資料聚合,該目標時間戳記對應的業務資料保存在預置儲存位置。
- 根據申請專利範圍第1項所述的資料聚合方法,其中,該將時間戳記為該目標時間戳記的業務資料進行資料聚合之前,該方法還包括:判斷目前接收到該業務資料之後的第一預置時間段內,是否接收到時間戳記為該目標時間戳記的業務資料;該將時間戳記為該目標時間戳記的業務資料進行資料聚合包括:若未接收到,則將時間戳記為該目標時間戳記的業務資料進行資料聚合;若接收到,則將在該第一預置時間段內接收到的該業務資料和時間戳記為該目標時間戳記的業務資料進行資料聚合。
- 根據申請專利範圍第1項所述的資料聚合方法,其 中,該若該時間戳記大於該目標時間戳記,則將時間戳記為該目標時間戳記的業務資料進行資料聚合之後,該方法還包括:判斷該業務資料伺服器是否終止接收與目前接收到的該業務資料的業務資料類型相同的業務資料;若該業務資料伺服器終止接收與該業務資料類型相同的業務資料,則對目前接收到的業務資料進行資料聚合。
- 根據申請專利範圍第3項所述的資料聚合方法,其中,該判斷該業務資料伺服器是否終止接收與該目前接收到的業務資料類型相同的業務資料包括:判斷在目前接收到該業務資料之後的第二預置時間段內,是否接收到與該業務資料類型相同的業務資料;若未接收到,則確認該業務資料伺服器終止接收與該業務資料類型相同的業務資料。
- 根據申請專利範圍第3或4項所述的資料聚合方法,其中,若該業務資料伺服器終止接收與該業務資料類型相同的業務資料,該對目前接收到的業務資料進行資料聚合包括:若該業務資料伺服器終止接收與該業務資料類型相同的業務資料,則獲取與目前時間戳記不同的下一個相鄰時間戳記對應的聚合計算伺服器的本地時間,該業務資料伺服器配置的每一個不同的時間戳記分別對應一個聚合計算伺服器的本地時間;根據該聚合計算伺服器的本地時間對目前接收到的業 務資料進行資料聚合。
- 根據申請專利範圍第1項所述的資料聚合方法,其中,該檢測該時間戳記是否大於目標時間戳記之後,該方法還包括:若該時間戳記與該目標時間戳記相同,則將目前接收到的該業務資料緩存到與該目標時間戳記對應的預置佇列中,該預置佇列中緩存有時間戳記為該目標時間戳記的全部業務資料;若該時間戳記小於該目標時間戳記,則將目前接收到的該業務資料刪除。
- 根據申請專利範圍第1項所述的資料聚合方法,其中,該若該時間戳記大於目標時間戳記,則將時間戳記為該目標時間戳記的業務資料進行資料聚合之後,該方法還包括:建立與目前接收到的業務資料的時間戳記對應的佇列;將該業務資料緩存在該佇列中。
- 一種資料聚合裝置,其特徵在於,包括:接收單元,用於接收業務資料伺服器發送的業務資料,該業務資料攜帶有時間戳記,該時間戳記用於標識該業務伺服器接收到該業務資料的時間;檢測單元,用於檢測該接收單元接收的該時間戳記是否大於目標時間戳記,該目標時間戳記為上一次接收到該業務資料伺服器發送的業務資料攜帶的時間戳記; 聚合單元,用於若該檢測單元檢測該時間戳記大於該目標時間戳記,則將時間戳記為該目標時間戳記的業務資料進行資料聚合,該目標時間戳記對應的業務資料保存在預置儲存位置。
- 根據申請專利範圍第8項所述的資料聚合裝置,其中,該裝置還包括:判斷單元;該判斷單元,用於判斷目前接收到該業務資料之後的第一預置時間段內,是否接收到時間戳記為該目標時間戳記的業務資料;該聚合單元,具體用於若目前接收到該業務資料之後的第一預置時間段內未接收到時間戳記為該目標時間戳記的業務資料,則將時間戳記為該目標時間戳記的業務資料進行資料聚合;或者若目前接收到該業務資料之後的第一預置時間段內接收到時間戳記為該目標時間戳記的業務資料,則將在該第一預置時間段內接收到的該業務資料和時間戳記為該目標時間戳記的業務資料進行資料聚合。
- 根據申請專利範圍第9項所述的資料聚合裝置,其中,該判斷單元,還用於判斷該業務資料伺服器是否終止接收與該目前接收到的業務資料類型相同的業務資料;該聚合單元,還用於若該業務資料伺服器終止接收與該業務資料類型相同的業務資料,則對目前接收到的業務資料進行資料聚合。
- 根據申請專利範圍第10項所述的資料聚合裝置,其中,該裝置還包括:確認單元;該判斷單元,具體用於判斷在目前接收到該業務資料之後的第二預置時間段內,是否接收到與該業務資料類型相同的業務資料;該確認單元,用於若未接收到,則確認該業務資料伺服器終止接收與該業務資料類型相同的業務資料。
- 根據申請專利範圍第10或11項所述的資料聚合裝置,其中,該聚合單元包括:獲取模組,用於若該業務資料伺服器終止接收與該業務資料類型相同的業務資料,則獲取與目前時間戳記不同的下一個相鄰時間戳記對應的聚合計算伺服器的本地時間,該業務資料伺服器配置的每一個不同的時間戳記分別對應一個聚合計算伺服器的本地時間;聚合模組,用於根據該聚合計算伺服器的本地時間對目前接收到的業務資料進行資料聚合。
- 根據申請專利範圍第8項所述的資料聚合裝置,其中,該裝置還包括:緩存單元,用於若該時間戳記與該目標時間戳記相同,則將目前接收到的該業務資料緩存到與該目標時間戳記對應的預置佇列中,該預置佇列中緩存有時間戳記為該目標時間戳記的全部業務資料;刪除單元,用於若該時間戳記小於該目標時間戳記,則將目前接收到的該業務資料刪除。
- 根據申請專利範圍第13項所述的資料聚合裝置,其中,該裝置還包括:建立單元;該建立單元,用於建立與目前接收到的業務資料的時間戳記對應的佇列;該緩存單元,還用於將該業務資料緩存在該佇列中。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610147522.3A CN107193839A (zh) | 2016-03-15 | 2016-03-15 | 数据聚合方法及装置 |
CN201610147522.3 | 2016-03-15 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW201734860A TW201734860A (zh) | 2017-10-01 |
TWI748989B true TWI748989B (zh) | 2021-12-11 |
Family
ID=59850094
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW106104789A TWI748989B (zh) | 2016-03-15 | 2017-02-14 | 資料聚合方法及裝置 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20190012348A1 (zh) |
EP (1) | EP3432158A1 (zh) |
JP (1) | JP2019510305A (zh) |
CN (1) | CN107193839A (zh) |
TW (1) | TWI748989B (zh) |
WO (1) | WO2017157164A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108427725B (zh) * | 2018-02-11 | 2021-08-03 | 华为技术有限公司 | 数据处理方法、装置和系统 |
CN110505252A (zh) * | 2018-05-16 | 2019-11-26 | 中南大学 | 一种面向服务网络的服务聚合与缓存方法 |
WO2020078395A1 (zh) * | 2018-10-16 | 2020-04-23 | 杭州海康威视数字技术股份有限公司 | 数据存储方法、装置及存储介质 |
WO2021179122A1 (zh) * | 2020-03-09 | 2021-09-16 | 深圳市欢太科技有限公司 | 数据处理方法及相关产品 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8775556B1 (en) * | 2011-07-20 | 2014-07-08 | Google Inc. | Automated segmentation and processing of web site traffic data over a rolling window of time |
TW201606541A (zh) * | 2014-07-09 | 2016-02-16 | 高通公司 | 用於使用流動分散式儲存來可靠地儲存資料的系統和方法(一) |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7496590B2 (en) * | 2005-07-26 | 2009-02-24 | Invensys Systems, Inc. | System and method for applying deadband filtering to time series data streams to be stored within an industrial process manufacturing/production database |
US7698251B2 (en) * | 2006-04-27 | 2010-04-13 | International Business Machines Corporation | Fault tolerant facility for the aggregation of data from multiple processing units |
US8484269B2 (en) * | 2008-01-02 | 2013-07-09 | At&T Intellectual Property I, L.P. | Computing time-decayed aggregates under smooth decay functions |
US8676756B2 (en) * | 2010-05-17 | 2014-03-18 | Invensys Systems, Inc. | Replicating time-series data values for retrieved supervisory control and manufacturing parameter values in a multi-tiered historian server environment |
CN101854399A (zh) * | 2010-06-09 | 2010-10-06 | 宇龙计算机通信科技(深圳)有限公司 | 一种网络数据的聚合方法及装置 |
US8725462B2 (en) * | 2011-05-13 | 2014-05-13 | Fujitsu Limited | Data aggregation platform |
US9922102B2 (en) * | 2013-07-31 | 2018-03-20 | Splunk Inc. | Templates for defining fields in machine data |
-
2016
- 2016-03-15 CN CN201610147522.3A patent/CN107193839A/zh active Pending
-
2017
- 2017-02-14 TW TW106104789A patent/TWI748989B/zh active
- 2017-02-27 JP JP2018544936A patent/JP2019510305A/ja active Pending
- 2017-02-27 EP EP17765706.1A patent/EP3432158A1/en not_active Withdrawn
- 2017-02-27 WO PCT/CN2017/075069 patent/WO2017157164A1/zh active Application Filing
-
2018
- 2018-09-14 US US16/131,872 patent/US20190012348A1/en not_active Abandoned
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8775556B1 (en) * | 2011-07-20 | 2014-07-08 | Google Inc. | Automated segmentation and processing of web site traffic data over a rolling window of time |
TW201606541A (zh) * | 2014-07-09 | 2016-02-16 | 高通公司 | 用於使用流動分散式儲存來可靠地儲存資料的系統和方法(一) |
Also Published As
Publication number | Publication date |
---|---|
CN107193839A (zh) | 2017-09-22 |
WO2017157164A1 (zh) | 2017-09-21 |
EP3432158A4 (en) | 2019-01-23 |
TW201734860A (zh) | 2017-10-01 |
EP3432158A1 (en) | 2019-01-23 |
JP2019510305A (ja) | 2019-04-11 |
US20190012348A1 (en) | 2019-01-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI748989B (zh) | 資料聚合方法及裝置 | |
WO2020233015A1 (zh) | 一种链路跟踪方法及装置 | |
CN107690616B (zh) | 受限的存储器环境中的流式传输联接 | |
WO2017148293A1 (zh) | 一种基于云平台的客户端应用的信息统计方法和装置 | |
US8145859B2 (en) | Method and system for spilling from a queue to a persistent store | |
US8527458B2 (en) | Logging framework for a data stream processing server | |
WO2017071134A1 (zh) | 分布式跟踪系统 | |
US20110029485A1 (en) | Log visualization tool for a data stream processing server | |
US9792231B1 (en) | Computer system for managing I/O metric information by identifying one or more outliers and comparing set of aggregated I/O metrics | |
EP3282643B1 (en) | Method and apparatus of estimating conversation in a distributed netflow environment | |
JP6564532B2 (ja) | クライアント−サーバトランザクションをアノテーションするためのシステム及び方法 | |
CN109379305B (zh) | 一种数据下发方法、装置、服务器及存储介质 | |
US9942272B2 (en) | Handling out of order events | |
US10877988B2 (en) | Real-time change data from disparate sources | |
TWI677210B (zh) | 一種企業物件的資訊加載方法和裝置 | |
US20190361607A1 (en) | Providing combined data from a cache and a storage device | |
WO2019057193A1 (zh) | 数据删除方法及分布式存储系统 | |
US11507277B2 (en) | Key value store using progress verification | |
US11892976B2 (en) | Enhanced search performance using data model summaries stored in a remote data store | |
US9893972B1 (en) | Managing I/O requests | |
CN113094154A (zh) | 一种基于阿里云的大数据处理方法及系统 | |
CN107798009A (zh) | 数据聚合方法、装置及系统 | |
WO2021056716A1 (zh) | 一种云服务质量监控方法及相关产品 | |
CN116383207A (zh) | 一种数据标签管理方法、装置、电子设备和存储介质 | |
US11055267B2 (en) | Handling time series index updates at ingestion |