JP5439014B2 - データ処理システム、その処理方法、及び計算機 - Google Patents
データ処理システム、その処理方法、及び計算機 Download PDFInfo
- Publication number
- JP5439014B2 JP5439014B2 JP2009095632A JP2009095632A JP5439014B2 JP 5439014 B2 JP5439014 B2 JP 5439014B2 JP 2009095632 A JP2009095632 A JP 2009095632A JP 2009095632 A JP2009095632 A JP 2009095632A JP 5439014 B2 JP5439014 B2 JP 5439014B2
- Authority
- JP
- Japan
- Prior art keywords
- tuple
- recovery point
- unit
- stream data
- computer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1471—Saving, restoring, recovering or retrying involving logging of persistent data for recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1415—Saving, restoring, recovering or retrying at system level
- G06F11/1438—Restarting or rejuvenating
Description
ストリームデータ受信部112は、ストリームデータ送信部102から受信したタプルを制御部113に送信するプログラムである。
101…データ管理部
102…ストリームデータ(タプル)送信部
103…バックアップ制御部
104…回復ポイント受信部
105…ハートビート受信部
106…オペレーティングシステム
107…CPU
108…ストリームバックアップファイル
109…チェックポイントファイル
110…Disk
111…計算機
112…ストリームデータ受信部
113…制御部
114…クエリ管理テーブル
115…回復ポイント送信部
117…ハートビート送信部
118…ストリームデータ送信部
119…回復ポイント管理部
120…タイマ
121…オペレーティングシステム
122…CPU
123…チェックポイントファイル
124…クエリ定義ファイル
125…Disk
126…クエリ回復ポイント管理テーブル
127…タプル管理テーブル
128…出力先設定ファイル
129…出力先設定ファイル
130…ネットワーク
131…ストリームデータソース。
Claims (14)
- タイムスタンプが付与されたストリームデータであるタプルを処理するストリームデータ処理システムであって、
第1のタプルを受信するストリームデータ受信部と、
前記第1のタプルに対するデータ処理を実行して第2のタプルを生成するクエリ実行部と、
前記クエリ実行部によって生成された前記第2のタプルを送信するストリームデータ送信部と、
前記第2のタプルの生成に用いられた前記第1のタプルのうち最古のタプル、又はそれ以前のタプルを特定する情報であるシステムの回復ポイントを決定する回復ポイント管理部と、
を備え、
前記クエリ実行部は、生成した前記第2のタプルに対して、前記第2のタプルの生成に用いられた前記第1のタプルのうち最古のタプル、又はそれ以前のタプルを特定する情報であるタプルの回復ポイントの属性値を付与し、
前記回復ポイント管理部は、前記システムが管理する全ての前記タプルの回復ポイントの属性値から最古の回復ポイントを検索し、前記システムの回復ポイントを決定する、
ことを特徴とするストリームデータ処理システム。 - 請求項1記載のストリームデータ処理システムであって、
前記ストリームデータ受信部または前記クエリ実行部から前記タプルを受信し、前記クエリ実行部または前記ストリームデータ送信部に、受信した前記タプルを送信する制御部を更に備え、
前記制御部は、前記ストリームデータ受信部から受信した前記第1のタプルに対して、前記第1のタプルを特定する情報を、タプルの回復ポイントの属性値として設定し、
前記クエリ実行部は、前記クエリ実行部がデータ処理の対象とする前記タプルの回復ポイントのうち最古のタプル、又はそれ以前のタプルを特定する情報を、前記クエリ実行部の回復ポイントの属性値として設定し、生成する前記第2のタプルの回復ポイントの属性値として、前記クエリ実行部の前記回復ポイントの属性値を設定し、
前記回復ポイント管理部は、全ての前記クエリ実行部の前記回復ポイントの属性値から、最古の回復ポイントを検索し、前記システムの回復ポイントを決定する、
ことを特徴とするストリームデータ処理システム。 - 請求項2記載のストリームデータ処理システムであって、
前記回復ポイント管理部は、前記クエリ実行部に対して、前記クエリ実行部の回復ポイントの更新を指示し、
更新指示を受けた前記クエリ実行部は、前記クエリ実行部の回復ポイントの属性値を、前記クエリ実行部が管理している前記タプルの回復ポイントのうち、最古の回復ポイントに更新し、
前記回復ポイント管理部は、全ての前記クエリ実行部の回復ポイントから、最古の回復ポイントを検索して、前記システムの回復ポイントを決定し、決定した前記システムの回復ポイントを記憶する、
ことを特徴とするストリームデータ処理システム。 - 請求項2記載のストリームデータ処理システムであって、
ネットワークを介して接続される第一の計算機と第二の計算機とを備え、
前記第一の計算機は、
記憶部と、
前記第1のタプルの送信を指示するデータ管理部と、
前記第1のタプルを送信するタプル送信部と、
送信した前記第1のタプルを前記記憶部に格納するバックアップ制御部と、
前記第二の計算機から回復ポイントの情報を受信する回復ポイント受信部を備え、
前記第二の計算機は、前記ストリームデータ受信部と、前記制御部と、前記クエリ実行部と、前記回復ポイント管理部と、更に前記システムの回復ポイントの情報を前記回復ポイント受信部に送信する回復ポイント送信部を備え、
前記回復ポイント受信部は、受信した前記回復ポイントの情報を、前記バックアップ制御部に通知し、
前記バックアップ制御部は、受信した前記システムの回復ポイント以前のタプルを前記記憶部から消去する、
ことを特徴とするストリームデータ処理システム。 - 請求項4記載のストリームデータ処理システムであって、
前記第二の計算機は、前記第一の計算機に一定の時間間隔で通信を行うハートビート送信部を備え、
前記第一の計算機では、前記第二の計算機からの通信を受信するハートビート受信部を備え、
前記第一の計算機の前記ハートビート受信部は、予め定められた時間、前記第一の計算機から通信を受信できない場合に、前記第二の計算機に障害が発生したと判断し、前記第二の計算機に障害が発生した後に、再び前記第二の計算機から通信を受信した場合に、前記第二の計算機が復旧したと判断し、前記第二の計算機が復旧したことを前記データ管理部に通知し、
前記データ管理部は、前記第二の計算機が復旧したとの通知を受けた場合、最近に受信した前記システムの回復ポイントが特定するタプルから、前記第二の計算機に送信することを指示する、
ことを特徴とするストリームデータ処理システム。 - 請求項2記載のストリームデータ処理システムであって、
第一の計算機を備え、
前記第一の計算機は、
記憶部と、
前記第1のタプルの送信を指示するデータ管理部と、
前記第1のタプルを前記ストリームデータ受信部に送信するストリームデータ送信部と、
送信した前記第1のタプルを前記記憶部に格納するバックアップ制御部とを備える、
ことを特徴とするストリームデータ処理システム。 - 請求項2記載のストリームデータ処理システムであって、
ネットワークを介して接続される第一の計算機と第二の計算機と第三の計算機とを備え、前記第一の計算機は、
前記第1のタプルの送信を指示するデータ管理部と、
前記第1のタプルを前記第二の計算機と前記第三の計算機に送信するストリームデータ送信部とを備え、
前記第二の計算機は、前記ストリームデータ受信部と、前記制御部と、前記クエリ実行部と、前記回復ポイント管理部とを備え、更に
前記システムの回復ポイントの情報を前記第三の計算機に送信する回復ポイント送信部を有し、
前記第三の計算機は、前記ストリームデータ受信部と、前記制御部と、前記クエリ実行部と、前記回復ポイント管理部とを備え、更に
前記第三の計算機は、前記第三の計算機がストリームデータ処理を開始してから、
最初に受信した前記第1のタプルを特定する情報である開始ポイントを管理する開始ポイント管理部と、前記第二の計算機から前記回復ポイントに関する情報を受信する回復ポイント受信部と、前記第三の計算機の使用可否を判断する判断部と有し、
前記判断部は、前記第二の計算機から受信した前記回復ポイントに関する情報と前記第1のタプルを特定する情報である開始ポイントとを比較し、当該開始ポイントより前記第二の計算機から受信した前記回復ポイントの方が新しい場合に、前記第三の計算機が使用可能な状態になったと判断する、
ことを特徴とするストリームデータ処理システム。 - 請求項2記載のストリームデータ処理システムであって、
前記制御部が、前記ストリームデータ受信部から受信した前記第1のタプルに対して設定する前記タプルの回復ポイントの属性値は、前記第1のタプルのタイムスタンプである、
ことを特徴とするストリームデータ処理システム。 - 請求項2記載のストリームデータ処理システムであって、
前記ストリームデータ受信部が受信する前記第1のタプルには、受信するストリームデータを識別するストリームデータ識別子が付与されており、
前記制御部は、前記ストリームデータ受信部から受信した前記第1のタプルに対して、前記第1のタプルのタイムスタンプを前記タプルの回復ポイントの属性値として設定し、
前記クエリ実行部は、生成する前記第2のタプルの回復ポイントとして、前記クエリ実行部の回復ポイントの属性値を前記ストリームデータ識別子ごとに設定し、
前記回復ポイント管理部は、前記ストリームデータ識別子ごとに最古の回復ポイントを検索し、前記システムの回復ポイントを決定する、
ことを特徴とするストリームデータ処理システム。 - 請求項2記載のストリームデータ処理システムであって、
ネットワークを介して接続される第一の計算機と第二の計算機とを備え、
前記第一の計算機は、
前記第1のタプルの送信を指示するデータ管理部と、
前記第1のタプルを送信するタプル送信部を備え、
前記第二の計算機は、記憶部と、前記ストリームデータ受信部と、前記制御部と、前記クエリ実行部と、前記回復ポイント管理部と、更に前記システムの回復ポイントの情報を前記ストリームデータ受信部に送信する回復ポイント送信部を備え、
前記ストリームデータ受信部は、受信した前記第1のタプルを前記記憶部に格納し、更に前記ストリームデータ受信部は、受信した前記システムの回復ポイント以前の前記タプルを前記記憶部から消去する、
ことを特徴とするストリームデータ処理システム。 - タイムスタンプが付与されたデータである第1のタプルを受信し、前記第1のタプルに対するデータ処理であるクエリを実行して第2のタプルを生成する処理部を備えたストリーム処理システムのデータ処理方法であって、
前記処理部は、前記システムが管理している前記第2のタプルの生成に用いられた前記第1のタプルのうち最古のタプル、又はそれ以前のものを特定する情報であるタプルの回復ポイントを、属性値として前記第2のタプルに付与しておき、
前記システムが管理する全ての前記タプルの回復ポイントから、最も古い回復ポイントを検索することにより前記システムの回復ポイントを決定する、
ことを特徴とするストリームデータ処理方法。 - 請求項11記載のストリームデータ処理方法であって、
前記処理部は、
前記処理部が実行する前記クエリに対し、前記クエリが処理の対象とする前記第2のタプルの前記回復ポイントのうち最古のタプル、又はそれ以前のタプルを特定する情報であるクエリの回復ポイントを属性値として付与し、
前記クエリが生成する前記第2のタプルに対して、付与された前記クエリの回復ポイントを、前記タプルの回復ポイントに設定し、
全ての前記クエリの回復ポイントから最古の回復ポイントを検索して、前記システムの回復ポイントを決定する、
ことを特徴とするストリームデータ処理方法。 - タイムスタンプが付与されたデータである第1のタプルを受信し、前記第1のタプルに対するデータ処理であるクエリを実行して第2のタプルを生成する処理部と記憶部とを備えたシステムの計算機であって、
前記処理部は、
前記第1のタプルを受信するストリームデータ受信部と、
前記第1のタプルに対するデータ処理を実行して第2のタプルを生成するクエリ実行部と、
前記クエリ実行部によって生成された前記第2のタプルを送信するストリームデータ送信部と、
前記第2のタプルの生成に用いられた前記第1のタプルのうち最古のタプル、又はそれ以前のタプルを特定する情報であるシステムの回復ポイントを決定する回復ポイント管理部と、
を備え、
前記クエリ実行部は、生成した前記第2のタプルに対して、前記第2のタプルの生成に用いられた前記第1のタプルのうち最古のタプル、又はそれ以前のタプルを特定する情報であるタプルの回復ポイントの属性値を付与し、
前記回復ポイント管理部は、前記システムが管理する全ての前記タプルの回復ポイントの属性値から最古の回復ポイントを検索し、前記システムの回復ポイントを決定する、
ことを特徴とする計算機。 - 請求項13記載の計算機であって、
前記処理部は、
前記ストリームデータ受信部または前記クエリ実行部から前記タプルを受信し、前記クエリ実行部または前記ストリームデータ送信部に、受信した前記タプルを送信する制御部を更に備え、
前記制御部は、前記ストリームデータ受信部から受信した前記第1のタプルに対して、前記第1のタプルを特定する情報を、タプルの回復ポイントの属性値として設定し、
前記クエリ実行部は、前記クエリ実行部がデータ処理の対象とする前記タプルの回復ポイントのうち最古のタプル、又はそれ以前のタプルを特定する情報を、前記クエリ実行部の回復ポイントの属性値として設定し、生成する前記第2のタプルの回復ポイントの属性値として、前記クエリ実行部の前記回復ポイントの属性値を設定し、
前記回復ポイント管理部は、全ての前記クエリ実行部の前記回復ポイントの属性値から、最古の回復ポイントを検索し、前記システムの回復ポイントを決定する、
ことを特徴とする計算機。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009095632A JP5439014B2 (ja) | 2009-04-10 | 2009-04-10 | データ処理システム、その処理方法、及び計算機 |
US12/536,601 US8276019B2 (en) | 2009-04-10 | 2009-08-06 | Processing method, and computer for fault recovery |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009095632A JP5439014B2 (ja) | 2009-04-10 | 2009-04-10 | データ処理システム、その処理方法、及び計算機 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010244486A JP2010244486A (ja) | 2010-10-28 |
JP5439014B2 true JP5439014B2 (ja) | 2014-03-12 |
Family
ID=42935298
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009095632A Active JP5439014B2 (ja) | 2009-04-10 | 2009-04-10 | データ処理システム、その処理方法、及び計算機 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8276019B2 (ja) |
JP (1) | JP5439014B2 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8433716B2 (en) * | 2009-08-31 | 2013-04-30 | Sap Ag | Runtime query modification in data stream management |
JP5308403B2 (ja) * | 2010-06-15 | 2013-10-09 | 株式会社日立製作所 | データ処理の障害回復方法、システムおよびプログラム |
WO2012059976A1 (ja) * | 2010-11-02 | 2012-05-10 | 株式会社日立製作所 | プログラム、ストリームデータ処理方法及びストリームデータ処理計算機 |
US9325757B2 (en) * | 2010-11-30 | 2016-04-26 | Adello Inc. | Methods and systems for fault-tolerant distributed stream processing |
US9372756B2 (en) * | 2013-05-22 | 2016-06-21 | Telefonaktiebolaget Lm Ericsson (Publ) | Recovery of operational state values for complex event processing based on a time window defined by an event query |
US9886486B2 (en) * | 2014-09-24 | 2018-02-06 | Oracle International Corporation | Enriching events with dynamically typed big data for event processing |
KR102396822B1 (ko) * | 2015-06-04 | 2022-05-13 | 삼성전자주식회사 | 디바이스 및 그의 제어 방법 |
US10601881B1 (en) | 2015-10-05 | 2020-03-24 | Amazon Technologies, Inc. | Idempotent processing of data streams |
US10514952B2 (en) * | 2016-09-15 | 2019-12-24 | Oracle International Corporation | Processing timestamps and heartbeat events for automatic time progression |
EP3605340B1 (en) | 2017-05-31 | 2021-03-31 | Mitsubishi Electric Corporation | Data replicator and data replication program |
US11188534B2 (en) * | 2020-01-14 | 2021-11-30 | Microsoft Technology Licensing, Llc | Optimizing input streams for a stream join model having a threshold function |
JP7425300B2 (ja) | 2020-03-09 | 2024-01-31 | 富士通株式会社 | 実行制御方法及び実行制御プログラム |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4665520A (en) * | 1985-02-01 | 1987-05-12 | International Business Machines Corporation | Optimistic recovery in a distributed processing system |
US5280611A (en) * | 1991-11-08 | 1994-01-18 | International Business Machines Corporation | Method for managing database recovery from failure of a shared store in a system including a plurality of transaction-based systems of the write-ahead logging type |
US5864849A (en) * | 1996-12-16 | 1999-01-26 | Lucent Technologies Inc. | System and method for restoring a multiple checkpointed database in view of loss of volatile memory |
US7305421B2 (en) * | 2001-07-16 | 2007-12-04 | Sap Ag | Parallelized redo-only logging and recovery for highly available main memory database systems |
JP4139642B2 (ja) * | 2002-07-29 | 2008-08-27 | 株式会社日立製作所 | データベース管理方法およびシステム |
JP4551096B2 (ja) * | 2004-02-03 | 2010-09-22 | 株式会社日立製作所 | ストレージサブシステム |
US7111139B2 (en) * | 2004-03-02 | 2006-09-19 | Hitachi, Ltd. | Data synchronization of multiple remote storage |
JP4710380B2 (ja) * | 2005-03-31 | 2011-06-29 | 日本電気株式会社 | 分散処理システム及び分散処理方法 |
JP4687253B2 (ja) | 2005-06-03 | 2011-05-25 | 株式会社日立製作所 | ストリームデータ処理システムのクエリ処理方法 |
JP4871213B2 (ja) * | 2007-05-24 | 2012-02-08 | 日本電信電話株式会社 | ストリームデータ処理方法、ストリームデータ処理プログラムおよびストリームデータ処理システム |
-
2009
- 2009-04-10 JP JP2009095632A patent/JP5439014B2/ja active Active
- 2009-08-06 US US12/536,601 patent/US8276019B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20100262862A1 (en) | 2010-10-14 |
JP2010244486A (ja) | 2010-10-28 |
US8276019B2 (en) | 2012-09-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5439014B2 (ja) | データ処理システム、その処理方法、及び計算機 | |
JP5075736B2 (ja) | 仮想サーバのシステム障害回復方法及びそのシステム | |
US9251008B2 (en) | Client object replication between a first backup server and a second backup server | |
US7644301B2 (en) | Fault management system in multistage copy configuration | |
JP4483342B2 (ja) | システム復旧方法 | |
JP5156682B2 (ja) | ストレージシステムにおけるバックアップ方法 | |
JP5091894B2 (ja) | ストリーム回復方法、ストリーム回復プログラム、および、障害回復装置 | |
JP6048038B2 (ja) | 情報処理装置,プログラム,情報処理方法 | |
JP5467625B2 (ja) | トランザクションを処理する本番システムと該本番システムのバックアップ・システムである代行システムとを含む本番−代行システム | |
JP6447258B2 (ja) | 管理プログラム、管理方法、および管理装置 | |
US8417669B2 (en) | Auto-correction in database replication | |
JP2006004031A (ja) | データ処理方法およびシステム並びにストレージ装置方法およびその処理プログラム | |
US7783742B2 (en) | Dynamic process recovery in a distributed environment | |
JP2009536403A (ja) | ワーク・アイテム・イベント処理 | |
US10423625B2 (en) | Exactly-once semantics for streaming analytics in non-idempotent output operations | |
US10049021B2 (en) | Redundant system and redundancy method | |
JP2008033778A (ja) | コンピュータシステム、データベース復旧方法、データベース復旧プログラム | |
JP2009217587A (ja) | バッチ処理装置及び方法 | |
US20140108367A1 (en) | Client apparatus and database server for resumable transaction and method thereof | |
JP2006350411A (ja) | 分散データベースリカバリ方法及び同リカバリシステム及び同リカバリプログラム | |
US8775371B2 (en) | Synchronizing an auxiliary data system with a primary data system | |
JP2007133795A (ja) | クラスタ構成の業務システム | |
JP2012230721A (ja) | 仮想サーバのシステム障害回復方法及びそのシステム | |
JP2009098715A (ja) | 冗長システム装置並びに冗長システム装置におけるジョブの実行方法及び実行プログラム | |
JP6504611B2 (ja) | 監視装置、情報監視システム、監視装置の制御方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120118 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130624 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130702 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130828 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131126 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131216 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5439014 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |