JP7018435B2 - スナップショットおよび状態のマイクロバッチ方式による管理 - Google Patents
スナップショットおよび状態のマイクロバッチ方式による管理 Download PDFInfo
- Publication number
- JP7018435B2 JP7018435B2 JP2019512634A JP2019512634A JP7018435B2 JP 7018435 B2 JP7018435 B2 JP 7018435B2 JP 2019512634 A JP2019512634 A JP 2019512634A JP 2019512634 A JP2019512634 A JP 2019512634A JP 7018435 B2 JP7018435 B2 JP 7018435B2
- Authority
- JP
- Japan
- Prior art keywords
- event
- query
- processing
- stream
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
- G06F16/24534—Query rewriting; Transformation
- G06F16/24542—Plan optimisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/11—File system administration, e.g. details of archiving or snapshots
- G06F16/113—Details of archiving
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/11—File system administration, e.g. details of archiving or snapshots
- G06F16/128—Details of file system snapshots on the file-level, e.g. snapshot creation, administration, deletion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24568—Data stream processing; Continuous queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9024—Graphs; Linked lists
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/9032—Query formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/90335—Query processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/90335—Query processing
- G06F16/90344—Query processing by using string matching techniques
Description
本出願は、「スナップショットおよび状態のマイクロバッチ方式による管理(MANAGING SNAPSHOTS AND STATE WITH MICRO-BATCHING)」と題される、2016年9月15日に出願されたインド仮出願番号第201641031479号の優先権および利益を主張し、その全内容を、すべての目的のためにここに引用により援用する。
従来のデータベースシステムにおいて、データは、通常はテーブルの形態である1つ以上のデータベースに記憶される。そして、記憶されるデータは、構造化照会言語(SQL)などのデータ管理言語を使用して照会および操作される。たとえば、SQLクエリは、データベースに記憶されるデータから関連するデータを識別するために定義および実行され得る。したがって、SQLクエリは、データベースに記憶されるデータの有限集合に対して実行される。さらに、SQLクエリが実行される時、それはひとたび有限データ集合に対して実行され、有限の静的結果(finite static result)を作成する。したがって、データベースは、有限の記憶されるデータ集合に対してクエリを実行するように最良に実装される。
イベントストリームのイベントを処理するための技術(例えば方法、システム、1つ以上のプロセッサによって実行可能なコードまたは命令を格納する非一時的なコンピュータ可読媒体)が提供される。一実施形態では、イベント処理システムが開示される。1つ以上のコンピュータからなるシステムは、システムにインストールされ、動作中にシステムにアクションを実行させるソフトウェア、ファームウェア、ハードウェア、またはそれらの組合せを有することによって、特定の動作またはアクションを実行するように構成することができる。1つ以上のコンピュータプログラムは、データ処理装置によって実行されるとデータ処理装置にアクションを実行させる命令を含むことによって、特定の動作またはアクションを実行するように構成することができる。1つの一般的な態様は、連続クエリ言語(CQL)エンジンから作成されるスナップショットを管理するための方法であって、コンピューティングデバイスが、アプリケーションに関連する入力イベントのマイクロバッチストリームを受信することを備える。この方法はさらに、コンピューティングデバイスが、CQLエンジンを用いて、入力イベントを処理して、アプリケーションに関連する出力イベントのセットを生成することを備える。この方法はさらに、コンピューティングデバイスが、CQLエンジンによって実現されるスナップショット管理アルゴリズムを用いて、アプリケーションに関連する出力イベントのセットに少なくとも部分的に基づいて、システムの現在の状態のスナップショットを生成することを備える。この方法はさらに、コンピューティングデバイスが、システムの現在の状態のスナップショットに関連付けられるスナップショット情報にアクセスするために第1のディレクトリ構造を生成することを含む。この方法はさらに、コンピューティングデバイスが、システムの現在の状態に関連付けられるスナップショットのリストを生成するために第2のディレクトリ構造を生成することを含む。この方法はさらに、コンピューティングデバイスが、システムの現在の状態に関連付けられるスナップショットのリストを取得、追加、またはクリーンにするためにスナップショット管理アルゴリズムに少なくとも部分的に基づいてプロセスを決定することを備える。この態様の他の実施形態は、各々が方法のアクションを実行するように構成される、対応するコンピュータシステム、装置、および1つ以上のコンピュータ記憶装置に記録されるコンピュータプログラムを含む。
以下の説明では、さまざまな実施形態について説明する。説明のために、具体的な構成および詳細は、実施形態の完全な理解を提供するために記載される。しかしながら、実施形態が具体的な詳細なしに実施されてもよいことも、当業者には明らかであろう。さらに、周知の特徴は、説明される実施形態を不明瞭にしないために省略または簡略化されてもよい。
複合イベント処理(CEP)は、イベント駆動型アーキテクチャに基づいてアプリケーションを構築するためのモジュール式プラットフォームを提供する。CEPプラットフォームの中心には、アプリケーションが宣言型SQL状言語を使用してデータのストリームに対してパターンマッチング操作をフィルタリング、照会および実行できるようにする連続問い合わせ言語(CQL)がある。開発者はアプリケーションを書くためにCQLを軽量なJava(登録商標)プログラミングモデルと組み合わせて使用できる。他のプラットフォームモジュールには、機能豊富なIDE、管理コンソール、クラスタ化、分散キャッシュ化、イベントリポジトリ、およびモニタリングなどがある。
(<timestamp_N>,<NVDA,4>)
(<timestamp_N+1>,<ORCL,62>)
(<timestamp_N+2>,<PCAR,38>)
(<timestamp_N+3>,<SPOT,53>)
(<timestamp_N+4>,<PDCO,44>)
(<timestamp_N+5>,<PTEN,50>)
…
上記のストリームにおいて、ストリーム要素(<timestamp_N+1>,<ORCL,62>)については、イベントは、「stock_symbol」および「stock_value」を伴う<ORCL,62>である。ストリーム要素に関連付けられるタイムスタンプは、「timestamp_N+1」である。したがって、連続イベントストリームはイベントのフローであり、各イベントは同じ一連の属性を有する。
ローインフラストラクチャおよびビジネスイベントの両方の量ならびに速度は、IT環境で急激に増加している。それは、金融サービスのために株式データをストリーミングするのであれ、軍事用に衛星データをストリーミングするのであれ、運輸および物流ビジネスのためにリアルタイムの車両位置データをストリーミングするのであれ、複数の業界の企業が大量の複雑なデータをリアルタイムで処理しなければならない。さらに、モバイル機器の急増および高速接続の普及は、モバイルデータの急増を助長する。同時に、ビジネスプロセスの俊敏性および実行に対する需要も高まっている。これら2つの傾向は、組織に対して、組織の、実装のイベント駆動型アーキテクチャパターンをサポートする能力を高めるよう、圧力をかけている。リアルタイムのイベント処理では、インフラストラクチャおよびアプリケーション開発環境の両方がイベント処理要件を実行する必要がある。これらの要件には、おそらくは秒単位ではなくマイクロ秒単位の応答時間で測定されるレイテンシで日常のユースケースから非常に高速のデータおよびイベントのスループットへ基準化するニーズが含まれることがよくある。さらに、イベント処理アプリケーションは、これらのイベントの流れの中で複雑なパターンを検出しなければならないことがよくある。
ITシステム:故障したアプリケーションやサーバをリアルタイムで検出し、是正措置をトリガする能力。
接続デバイス数の増加によるデータの爆発的増加に伴い、大量の動的に変化するデータが増加しており、データは組織内だけでなく、ファイアウォールの外側にも移動する。高速データは、特に変わり易いビジネスプロセスに高い価値をもたらす。しかしながら、このデータの一部は短い時間枠でその運用上の価値を失う。ビッグデータは、有効な洞察のための処理において時間的な余裕がある。一方、ファストデータでは、非常に動的で戦略的なデータから最大値を抽出する必要がある。それははるかに速く処理することを必要とし、生成されたデータのできるだけ近くでタイムリーなアクションをとることを容易にする。Oracle Stream Analyticsプラットフォームは、即応性のあるファストデータを実現する。Oracle Edge Analyticsは、リアルタイムで実践的な洞察を得るために、ネットワークエッジに対するデータの処理、相関付け、フィルタリング、および分析をプッシュする。
近年、データストリーム管理システム(DSM)が開発されてきており、これは潜在的に無限のリアルタイムデータストリーム上で連続的にクエリを実行することができる。新たなDSMの中で、これらのシステムは一般に、単一のフレームワークからバッチ処理とストリーム処理との組み合わせを提供するためにマイクロバッチ方式ベースのストリーム処理を採用する。そのようなシステムの例は、Spark(登録商標)プラットフォーム上で動作するSpark Streamingアプリケーションである。マイクロバッチ方式ストリーム処理は、ステートフル処理が複雑になる可能性があるシステムの設計の性質上、いくつかの欠点がある。そのような欠点の1つは、「パターンマッチング」操作を実行できないことである。パターンマッチングは、ストリーム処理システムがサポートすることが望ましい重要な機能であり、パターンマッチングでは、ステートマシンを実行してアンバウンド(unbound)のイベントストリームからパターンを検出するために、非常にステートフルな処理が必要である。
近年、データストリーム管理システム(DSM)が開発されてきており、これは潜在的に無限のリアルタイムデータストリーム上で連続的にクエリを実行することができる。新たなDSMの中で、これらのシステムは一般に、単一のフレームワークからバッチ処理とストリーム処理との組み合わせを提供するためにマイクロバッチ方式ベースのストリーム処理を採用する。そのようなシステムの例は、Spark(登録商標)プラットフォーム上で動作するSpark Streamingアプリケーションである。マイクロバッチ方式ストリーム処理は、ステートフル処理が複雑になる可能性があるシステムの設計の性質上、いくつかの欠点がある。そのような欠点の1つは、「パターンマッチング」操作を実行できないことである。パターンマッチングは、ストリーム処理システムがサポートすることが望ましい重要な機能であり、パターンマッチングでは、ステートマシンを実行してアンバウンドのイベントストリームからパターンを検出するために、非常にステートフルな処理が必要である。
近年、データストリーム管理システム(DSM)が開発されてきており、これは潜在的に無限のリアルタイムデータストリーム上で連続的にクエリを実行することができる。新たなDSMの中で、これらのシステムは一般に、単一のフレームワークからバッチ処理とストリーム処理との組み合わせを提供するためにマイクロバッチ方式ベースのストリーム処理を採用する。そのようなシステムの例は、Spark(登録商標)プラットフォーム上で動作するSpark Streamingアプリケーションである。
val s1 = cc.cql(inputs, "select * from stream")
val producerConfig = KafkaMonitorConfig(outputTopic, brokerList)
val s1output = s1.monitor(KafkaMonitorOutput(producerConfig));
val s2output = cc.cql(s1output, "select * from s1")
上記の例のフローは、以下のように説明され得る。(i)'s1' DStreamに対して'monitor'を呼び出すことによって、MonitorDStreamが、's1'のCQLDStreamの後でDAGに追加される。MonitorDStreamは、KafkaMonitorOutputに関する情報を、構成とともに担持する。(ii)ジョブ生成ステップは、MonitorDStreamからMonitorRDDを作成する。(iii)ジョブが実行されると、MonitorRDD.computeが呼び出される。(iv)タプルを次のパイプラインに返す一方で、pathThroughIteratorが、構成されたモニタ出力に出力を書き込む。
図9~図7は、さまざまな実施形態による本開示の態様を実施するための例示的環境の態様を示す。図9は、本開示の一実施形態を実施するための分散型システム900の簡略図を示す。図示の実施形態では、分散型システム900は、1つ以上のネットワーク910でウェブブラウザ、所有権を主張できるクライアント(たとえばOracle Forms)などのクライアントアプリケーションを実行し動作させるように構成された1つ以上のクライアントコンピューティングデバイス902,904,906および908を含む。サーバ912は、ネットワーク910を介してリモートクライアントコンピューティングデバイス902,904,906および908と通信可能に結合されてもよい。
Claims (15)
- 連続クエリ言語(CQL)エンジンから作成されるスナップショットを管理するための方法であって、
コンピューティングデバイスが、アプリケーションに関連する入力イベントのマイクロバッチストリームを受信することと、
前記コンピューティングデバイスが、前記CQLエンジンを用いて、前記入力イベントを処理して、前記アプリケーションに関連する出力イベントのセットを生成することと、
前記コンピューティングデバイスが、前記CQLエンジンによって実現されるスナップショット管理アルゴリズムを用いて、前記アプリケーションに関連する前記出力イベントのセットに少なくとも部分的に基づいて、システムの現在の状態のスナップショットを生成することと、
前記コンピューティングデバイスが、前記システムの前記現在の状態の前記スナップショットに関連付けられるスナップショット情報にアクセスするために第1のディレクトリ構造を生成することと、
前記コンピューティングデバイスが、前記システムの前記現在の状態に関連付けられるスナップショットのリストを生成するために第2のディレクトリ構造を生成することと、
前記コンピューティングデバイスが、前記システムの前記現在の状態に関連付けられる前記スナップショットのリストを取得、追加、またはクリーンにするために前記スナップショット管理アルゴリズムに少なくとも部分的に基づいてプロセスを決定することと、
前記コンピューティングデバイスが、前記アプリケーションに関連する前記出力イベントのセットを出力待ち行列に格納することと、
前記入力イベントのすべてが処理されたときに、前記コンピューティングデバイスが前記出力待ち行列内の前記出力イベントを送信することとを備える、方法。 - 前記マイクロバッチストリームは、1秒未満のマイクロバッチに離散化されたデータの連続ストリームである、請求項1に記載の方法。
- 前記入力イベントを処理することは、変換されたクエリプランに少なくとも部分的に基づいて、前記入力イベントを処理することを含む、請求項2に記載の方法。
- 前記マイクロバッチストリームは、マイクロバッチのデータまたはレジリエント分散データセット(RDD)を含む、請求項1~3のいずれかに記載の方法。
- 前記入力イベントの各々を処理することは、前記変換されたクエリプランに少なくとも部分的に基づいて、前記入力イベントの各々に対して計算を実行することを含む、請求項4に記載の方法。
- 前記コンピューティングデバイスが、連続クエリを受信することと、前記連続クエリに変換を適用して前記連続クエリについてクエリプランを生成することと、変換アルゴリズムを用いて前記クエリプランを変換して前記変換されたクエリプランを生成することとをさらに備え、前記連続クエリはパターンマッチングを含む、請求項5に記載の方法。
- システムであって、
コンピュータ実行可能命令を格納するように構成されたメモリと、
前記メモリにアクセスし、前記コンピュータ実行可能命令を実行して、
アプリケーションに関連する入力イベントのマイクロバッチストリームを受信し、
CQLエンジンを用いて、前記入力イベントを処理して、前記アプリケーションに関連する出力イベントのセットを生成し、
前記CQLエンジンによって実現されるスナップショット管理アルゴリズムを用いて、前記アプリケーションに関連する前記出力イベントのセットに少なくとも部分的に基づいて、システムの現在の状態のスナップショットを生成し、
前記システムの前記現在の状態の前記スナップショットに関連付けられるスナップショット情報にアクセスするために第1のディレクトリ構造を生成し、
前記システムの前記現在の状態に関連付けられるスナップショットのリストを生成するために第2のディレクトリ構造を生成し、
前記システムの前記現在の状態に関連付けられる前記スナップショットのリストを取得、追加、またはクリーンにするために前記スナップショット管理アルゴリズムに少なくとも部分的に基づいてプロセスを決定し、
前記アプリケーションに関連する前記出力イベントのセットを出力待ち行列に格納し、
前記入力イベントのすべてが処理されたときに、前記出力待ち行列内の前記出力イベントを送信するよう構成されるプロセッサとを備える、システム。 - 完全にステートフルなクエリ処理をサポートするようマイクロバッチ方式ストリームを処理するための方法であって、
コンピューティングデバイスが、連続クエリを受信することと、
前記コンピューティングデバイスが、前記連続クエリに対して変換を適用して、前記連続クエリについてクエリプランを生成することと、
前記コンピューティングデバイスが、モニタリング変換プロセスを用いて前記連続クエリを監視することと、
前記コンピューティングデバイスが、アプリケーションに関連する入力イベントのマイクロバッチストリームを受信することと、
前記コンピューティングデバイスが、前記モニタリング変換プロセスに少なくとも部分的に基づいて、前記マイクロバッチストリームの前記入力イベントを処理して、前記アプリケーションに関連する出力イベントのセットを生成することと、
前記コンピューティングデバイスが、前記アプリケーションに関連する前記出力イベントのセットを出力待ち行列に格納することと、
前記入力イベントのすべてが処理されたときに、前記コンピューティングデバイスが前記出力待ち行列内の前記出力イベントを送信することを備える、方法。 - 前記処理は連続クエリ処理エンジンを用いて実行され、前記処理は前記出力イベントを生成するために前記入力イベントの各々を増分的に処理することを含む、請求項8に記載の方法。
- 前記変換は有向非巡回グラフ(DAG)変換である、請求項9に記載の方法。
- 前記マイクロバッチストリームはマイクロバッチのデータまたはレジリエント分散データセット(RDD)を含み、前記DAG変換は頂点と辺とのセットであり、前記頂点は前記RDDを表し、前記辺は前記RDDに適用されるべき操作を表す、請求項10に記載の方法。
- 前記入力イベントの各々を処理することは、変換されたクエリプランに少なくとも部分的に基づいて、前記入力イベントの各々に対して計算を実行することを含む、請求項11に記載の方法。
- 前記連続クエリはパターンマッチングを含む、請求項12に記載の方法。
- システムであって、
コンピュータ実行可能命令を格納するように構成されたメモリと、
前記メモリにアクセスし、前記コンピュータ実行可能命令を実行して、
連続クエリを受信し、
前記連続クエリに対して変換を適用して、前記連続クエリについてクエリプランを生成し、
モニタリング変換プロセスを用いて前記連続クエリを監視し、
アプリケーションに関連する入力イベントのマイクロバッチストリームを受信し、
前記モニタリング変換プロセスに少なくとも部分的に基づいて、前記マイクロバッチストリームの前記入力イベントを処理して、前記アプリケーションに関連する出力イベントのセットを生成し、
前記アプリケーションに関連する前記出力イベントのセットを出力待ち行列に格納し、
前記入力イベントのすべてが処理されたときに、前記出力待ち行列内の前記出力イベントを送信するよう構成されるプロセッサとを備える、システム。 - 請求項1~5および8~13のいずれか1項に記載の方法をプロセッサに実行させるためのコンピュータ可読プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
IN201641031479 | 2016-09-15 | ||
IN201641031479 | 2016-09-15 | ||
PCT/US2017/051897 WO2018053343A1 (en) | 2016-09-15 | 2017-09-15 | Managing snapshots and state with micro-batching |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019535058A JP2019535058A (ja) | 2019-12-05 |
JP2019535058A5 JP2019535058A5 (ja) | 2020-07-30 |
JP7018435B2 true JP7018435B2 (ja) | 2022-02-10 |
Family
ID=59955760
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019512634A Active JP7018435B2 (ja) | 2016-09-15 | 2017-09-15 | スナップショットおよび状態のマイクロバッチ方式による管理 |
JP2019511926A Active JP7005600B2 (ja) | 2016-09-15 | 2017-09-15 | マイクロバッチストリーミングのための複合イベント処理 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019511926A Active JP7005600B2 (ja) | 2016-09-15 | 2017-09-15 | マイクロバッチストリーミングのための複合イベント処理 |
Country Status (5)
Country | Link |
---|---|
US (3) | US10789250B2 (ja) |
EP (3) | EP3584715B1 (ja) |
JP (2) | JP7018435B2 (ja) |
CN (2) | CN109716322B (ja) |
WO (2) | WO2018053338A1 (ja) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10956422B2 (en) | 2012-12-05 | 2021-03-23 | Oracle International Corporation | Integrating event processing with map-reduce |
JP7018435B2 (ja) | 2016-09-15 | 2022-02-10 | オラクル・インターナショナル・コーポレイション | スナップショットおよび状態のマイクロバッチ方式による管理 |
US11657056B2 (en) | 2016-09-15 | 2023-05-23 | Oracle International Corporation | Data serialization in a distributed event processing system |
WO2018169430A1 (en) | 2017-03-17 | 2018-09-20 | Oracle International Corporation | Integrating logic in micro batch based event processing systems |
WO2018169429A1 (en) | 2017-03-17 | 2018-09-20 | Oracle International Corporation | Framework for the deployment of event-based applications |
CN108228356B (zh) * | 2017-12-29 | 2021-01-15 | 华中科技大学 | 一种流数据的分布式动态处理方法 |
WO2020128596A1 (en) * | 2018-12-21 | 2020-06-25 | Pratik Sharma | Continuous event stream processor |
CN110929623A (zh) * | 2019-11-15 | 2020-03-27 | 北京达佳互联信息技术有限公司 | 多媒体文件的识别方法、装置、服务器和存储介质 |
US20210373914A1 (en) * | 2020-05-29 | 2021-12-02 | Intuit Inc. | Batch to stream processing in a feature management platform |
CN112019605B (zh) * | 2020-08-13 | 2023-05-09 | 上海哔哩哔哩科技有限公司 | 数据流的数据分发方法和系统 |
CN113139658A (zh) * | 2021-04-23 | 2021-07-20 | 上海中通吉网络技术有限公司 | 基于变更和告警事件流处理故障的管道理论方法 |
US11593367B1 (en) * | 2021-09-29 | 2023-02-28 | Amazon Technologies, Inc. | Selecting between hydration-based scanning and stateless scale-out scanning to improve query performance |
US11695696B2 (en) | 2021-11-23 | 2023-07-04 | Capital One Services, Llc | Prepopulation of caches |
US11765252B2 (en) | 2021-11-23 | 2023-09-19 | Capital One Services, Llc | Prepopulation of call center cache |
US11916787B2 (en) | 2021-11-23 | 2024-02-27 | Capital One Services, Llc | Stream listening cache updater |
WO2023141303A2 (en) * | 2022-01-21 | 2023-07-27 | Slingshot Aerospace, Inc. | Methods and systems for streaming buffer numerical propagation |
CN114625794A (zh) * | 2022-03-10 | 2022-06-14 | 北京国电高科科技有限公司 | 一种卫星物联网Spark数据处理方法、系统、终端及存储介质 |
CN114490780B (zh) * | 2022-03-31 | 2022-07-22 | 北京数变科技有限公司 | 一种数据流的调度方法、装置、电子设备、介质及产品 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006338432A (ja) | 2005-06-03 | 2006-12-14 | Hitachi Ltd | ストリームデータ処理システムのクエリ処理方法 |
JP2013058221A (ja) | 2012-10-18 | 2013-03-28 | Hitachi Ltd | 会議分析システム |
US20140095444A1 (en) | 2012-09-28 | 2014-04-03 | Oracle International Corporation | State initialization for continuous queries over archived views |
Family Cites Families (116)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2335514B (en) | 1998-03-18 | 2003-01-22 | Ibm | A method and component for serialisation of images |
US6633867B1 (en) | 2000-04-05 | 2003-10-14 | International Business Machines Corporation | System and method for providing a session query within the context of a dynamic search result set |
US7139844B2 (en) | 2000-08-04 | 2006-11-21 | Goldman Sachs & Co. | Method and system for processing financial data objects carried on broadcast data streams and delivering information to subscribing clients |
US7139977B1 (en) | 2001-01-24 | 2006-11-21 | Oracle International Corporation | System and method for producing a virtual online book |
JP2003208323A (ja) * | 2002-01-11 | 2003-07-25 | Hitachi Ltd | バッチジョブの実行方法、システムおよびプログラム |
US7840550B2 (en) | 2002-08-13 | 2010-11-23 | International Business Machines Corporation | System and method for monitoring database queries |
US20040060054A1 (en) | 2002-09-20 | 2004-03-25 | International Business Machines Corporation | Composition service for autonomic computing |
JP2004280283A (ja) | 2003-03-13 | 2004-10-07 | Hitachi Ltd | 分散ファイルシステム、分散ファイルシステムサーバ及び分散ファイルシステムへのアクセス方法 |
US6986019B1 (en) | 2003-04-21 | 2006-01-10 | Maxtor Corporation | Method and apparatus for detection and management of data streams |
US7546284B1 (en) | 2003-06-11 | 2009-06-09 | Blue Titan Software, Inc. | Virtual message persistence service |
US7047252B2 (en) | 2003-12-02 | 2006-05-16 | Oracle International Corporation | Complex computation across heterogenous computer systems |
US7194451B2 (en) | 2004-02-26 | 2007-03-20 | Microsoft Corporation | Database monitoring system |
WO2006081474A2 (en) | 2005-01-27 | 2006-08-03 | Intel Corp. | Multi-path simultaneous xpath evaluation over data streams |
US8126870B2 (en) | 2005-03-28 | 2012-02-28 | Sybase, Inc. | System and methodology for parallel query optimization using semantic-based partitioning |
US20070168154A1 (en) | 2005-12-23 | 2007-07-19 | Ericson Richard E | User interface for statistical data analysis |
GB0606776D0 (en) | 2006-04-03 | 2006-05-10 | Novartis Pharma Ag | Predictive biomarkers for chronic allograft nephropathy |
US7974984B2 (en) | 2006-04-19 | 2011-07-05 | Mobile Content Networks, Inc. | Method and system for managing single and multiple taxonomies |
US20080016095A1 (en) | 2006-07-13 | 2008-01-17 | Nec Laboratories America, Inc. | Multi-Query Optimization of Window-Based Stream Queries |
US8077059B2 (en) | 2006-07-21 | 2011-12-13 | Eric John Davies | Database adapter for relational datasets |
US8099452B2 (en) | 2006-09-05 | 2012-01-17 | Microsoft Corporation | Event stream conditioning |
US7921416B2 (en) | 2006-10-20 | 2011-04-05 | Yahoo! Inc. | Formal language and translator for parallel processing of data |
US10152687B2 (en) | 2006-12-01 | 2018-12-11 | Goldman Sachs & Co. LLC | Application directory |
US7899904B2 (en) | 2007-04-30 | 2011-03-01 | Lsi Corporation | Hardware processing of regular expressions |
US20080301125A1 (en) | 2007-05-29 | 2008-12-04 | Bea Systems, Inc. | Event processing query language including an output clause |
US20090070786A1 (en) | 2007-09-11 | 2009-03-12 | Bea Systems, Inc. | Xml-based event processing networks for event server |
US20090089078A1 (en) | 2007-09-28 | 2009-04-02 | Great-Circle Technologies, Inc. | Bundling of automated work flow |
US7996388B2 (en) | 2007-10-17 | 2011-08-09 | Oracle International Corporation | Adding new continuous queries to a data stream management system operating on existing queries |
US8073826B2 (en) | 2007-10-18 | 2011-12-06 | Oracle International Corporation | Support for user defined functions in a data stream management system |
US7870167B2 (en) | 2007-11-09 | 2011-01-11 | Oracle America, Inc. | Implementing event processors |
US9275353B2 (en) | 2007-11-09 | 2016-03-01 | Oracle America, Inc. | Event-processing operators |
JP5643654B2 (ja) | 2008-02-26 | 2014-12-17 | アビニシオ テクノロジー エルエルシー | データ関連性のグラフ表現 |
US7818370B2 (en) | 2008-05-20 | 2010-10-19 | Bea Systems, Inc. | Event server using clustering |
US8291006B2 (en) | 2008-05-30 | 2012-10-16 | International Business Machines Corporation | Method for generating a distributed stream processing application |
US20100030896A1 (en) * | 2008-06-19 | 2010-02-04 | Microsoft Corporation | Estimating latencies for query optimization in distributed stream processing |
US7945565B2 (en) | 2008-11-20 | 2011-05-17 | Yahoo! Inc. | Method and system for generating a hyperlink-click graph |
US8725707B2 (en) * | 2009-03-26 | 2014-05-13 | Hewlett-Packard Development Company, L.P. | Data continuous SQL process |
US8713038B2 (en) | 2009-04-02 | 2014-04-29 | Pivotal Software, Inc. | Integrating map-reduce into a distributed relational database |
US8180801B2 (en) | 2009-07-16 | 2012-05-15 | Sap Ag | Unified window support for event stream data management |
US20110035253A1 (en) | 2009-08-07 | 2011-02-10 | onFucus Healthcare | Systems and Methods for Optimizing Enterprise Performance Relationships to Other Applications |
JP5395565B2 (ja) | 2009-08-12 | 2014-01-22 | 株式会社日立製作所 | ストリームデータ処理方法及び装置 |
JP4992945B2 (ja) | 2009-09-10 | 2012-08-08 | 株式会社日立製作所 | ストリームデータ生成方法、ストリームデータ生成装置及びストリームデータ生成プログラム |
US20110084967A1 (en) | 2009-10-09 | 2011-04-14 | International Business Machines Corporation | Visualization of Datasets |
US8195648B2 (en) | 2009-10-21 | 2012-06-05 | Microsoft Corporation | Partitioned query execution in event processing systems |
US9977702B2 (en) | 2009-11-23 | 2018-05-22 | International Business Machines Corporation | Event processing networks |
US8959106B2 (en) | 2009-12-28 | 2015-02-17 | Oracle International Corporation | Class loading using java data cartridges |
US9805101B2 (en) | 2010-02-26 | 2017-10-31 | Ebay Inc. | Parallel data stream processing system |
JP5331737B2 (ja) | 2010-03-15 | 2013-10-30 | 株式会社日立製作所 | ストリームデータ処理障害回復方法および装置 |
US8484243B2 (en) | 2010-05-05 | 2013-07-09 | Cisco Technology, Inc. | Order-independent stream query processing |
US8595234B2 (en) | 2010-05-17 | 2013-11-26 | Wal-Mart Stores, Inc. | Processing data feeds |
US8935232B2 (en) | 2010-06-04 | 2015-01-13 | Yale University | Query execution systems and methods |
US8886631B2 (en) | 2010-06-04 | 2014-11-11 | Yale University | Query execution systems and methods |
JP5605109B2 (ja) | 2010-09-14 | 2014-10-15 | 日本電気株式会社 | プログラム生成装置、方法及びプログラム並びに遠隔管理システム |
US8260803B2 (en) | 2010-09-23 | 2012-09-04 | Hewlett-Packard Development Company, L.P. | System and method for data stream processing |
US9189280B2 (en) | 2010-11-18 | 2015-11-17 | Oracle International Corporation | Tracking large numbers of moving objects in an event processing system |
US8510284B2 (en) | 2010-12-20 | 2013-08-13 | Microsoft Corporation | Large-scale event evaluation using realtime processors |
US9201754B2 (en) | 2011-01-19 | 2015-12-01 | Red Hat, Inc. | Recording application consumption details |
US20130073586A1 (en) | 2011-05-02 | 2013-03-21 | Amadeus S.A.S. | Database system using batch-oriented computation |
US8880493B2 (en) | 2011-09-28 | 2014-11-04 | Hewlett-Packard Development Company, L.P. | Multi-streams analytics |
US9424150B2 (en) | 2011-12-06 | 2016-08-23 | Sap Se | Fault tolerance based query execution |
US9652502B2 (en) | 2012-03-30 | 2017-05-16 | Khalifa University Of Science, Technology And Research | Method and system for continuous query processing |
US10931735B2 (en) | 2012-06-28 | 2021-02-23 | Netflix, Inc. | Application discovery |
US9607045B2 (en) * | 2012-07-12 | 2017-03-28 | Microsoft Technology Licensing, Llc | Progressive query computation using streaming architectures |
US9009213B2 (en) | 2012-08-27 | 2015-04-14 | Sap Se | Distributing pre-rendering processing tasks |
US8892484B2 (en) | 2012-09-28 | 2014-11-18 | Sphere Of Influence, Inc. | System and method for predicting events |
US9563663B2 (en) | 2012-09-28 | 2017-02-07 | Oracle International Corporation | Fast path evaluation of Boolean predicates |
US9183271B2 (en) | 2012-12-04 | 2015-11-10 | Pivotal Software, Inc. | Big-fast data connector between in-memory database system and data warehouse system |
US10956422B2 (en) * | 2012-12-05 | 2021-03-23 | Oracle International Corporation | Integrating event processing with map-reduce |
US20140172506A1 (en) | 2012-12-17 | 2014-06-19 | Microsoft Corporation | Customer segmentation |
KR20140090769A (ko) | 2013-01-10 | 2014-07-18 | 한국전자통신연구원 | 연속질의 언어 기반의 네트워크 제어 시스템 |
US10298444B2 (en) | 2013-01-15 | 2019-05-21 | Oracle International Corporation | Variable duration windows on continuous data streams |
US9098587B2 (en) | 2013-01-15 | 2015-08-04 | Oracle International Corporation | Variable duration non-event pattern matching |
WO2014124686A1 (en) | 2013-02-15 | 2014-08-21 | Telefonaktiebolaget L M Ericsson (Publ) | Optimized query execution in a distributed data stream processing environment |
US9298788B1 (en) | 2013-03-11 | 2016-03-29 | DataTorrent, Inc. | Checkpointing in distributed streaming platform for real-time applications |
US9674249B1 (en) | 2013-03-11 | 2017-06-06 | DataTorrent, Inc. | Distributed streaming platform for real-time applications |
US20140324530A1 (en) | 2013-04-30 | 2014-10-30 | Liveops, Inc. | Method and system for detecting patters in data streams |
US9418113B2 (en) * | 2013-05-30 | 2016-08-16 | Oracle International Corporation | Value based windows on relations in continuous data streams |
US10091282B2 (en) | 2013-06-12 | 2018-10-02 | Sap Se | Metadata-driven dynamic load balancing in multi-tenant systems |
US10296305B2 (en) | 2013-09-27 | 2019-05-21 | Rudolf Markus PETRI | Method and device for the automated production and provision of at least one software application |
US10663609B2 (en) | 2013-09-30 | 2020-05-26 | Saudi Arabian Oil Company | Combining multiple geophysical attributes using extended quantization |
US9313134B2 (en) | 2013-10-15 | 2016-04-12 | Cisco Technology, Inc. | Leveraging hardware accelerators for scalable distributed stream processing in a network environment |
EP2866144B1 (en) | 2013-10-28 | 2020-03-25 | Software AG | Self-correcting complex event processing system and corresponding method for error correction |
US9405854B2 (en) | 2013-12-16 | 2016-08-02 | Sybase, Inc. | Event stream processing partitioning |
US9697262B2 (en) | 2013-12-17 | 2017-07-04 | Microsoft Technology Licensing, Llc | Analytical data processing engine |
WO2015094269A1 (en) | 2013-12-19 | 2015-06-25 | Hewlett-Packard Development Company, L.P. | Hybrid flows containing a continuous flow |
US9817851B2 (en) * | 2014-01-09 | 2017-11-14 | Business Objects Software Ltd. | Dyanmic data-driven generation and modification of input schemas for data analysis |
US9791485B2 (en) | 2014-03-10 | 2017-10-17 | Silver Spring Networks, Inc. | Determining electric grid topology via a zero crossing technique |
US8918371B1 (en) | 2014-05-27 | 2014-12-23 | Flexera Software Llc | Systems and methods for event log compensation |
US9244978B2 (en) | 2014-06-11 | 2016-01-26 | Oracle International Corporation | Custom partitioning of a data stream |
US9712645B2 (en) | 2014-06-26 | 2017-07-18 | Oracle International Corporation | Embedded event processing |
US10235436B2 (en) | 2014-08-29 | 2019-03-19 | Microsoft Technology Licensing, Llc | Event stream transformations |
US10025802B2 (en) | 2014-09-19 | 2018-07-17 | Amazon Technologies, Inc. | Automated configuration of log-coordinated storage groups |
US10120907B2 (en) | 2014-09-24 | 2018-11-06 | Oracle International Corporation | Scaling event processing using distributed flows and map-reduce operations |
US9886486B2 (en) | 2014-09-24 | 2018-02-06 | Oracle International Corporation | Enriching events with dynamically typed big data for event processing |
US9613110B2 (en) | 2014-12-12 | 2017-04-04 | Sap Se | Fast serialization for data transfer |
US9894147B1 (en) | 2014-12-23 | 2018-02-13 | EMC IP Holding Company LLC | Application plugin framework for big-data clusters |
WO2016118979A2 (en) * | 2015-01-23 | 2016-07-28 | C3, Inc. | Systems, methods, and devices for an enterprise internet-of-things application development platform |
US10521460B2 (en) | 2015-02-11 | 2019-12-31 | Ab Initio Technology Llc | Filtering data lineage diagrams |
US10095547B1 (en) | 2015-03-13 | 2018-10-09 | Twitter, Inc. | Stream processing at scale |
US20160306827A1 (en) | 2015-04-15 | 2016-10-20 | International Business Machines Corporation | Synchronizing data rules and corresponding metadata to implement data governance |
US20160328432A1 (en) | 2015-05-06 | 2016-11-10 | Squigglee LLC | System and method for management of time series data sets |
WO2017018901A1 (en) | 2015-07-24 | 2017-02-02 | Oracle International Corporation | Visually exploring and analyzing event streams |
US10657134B2 (en) * | 2015-08-05 | 2020-05-19 | Ab Initio Technology Llc | Selecting queries for execution on a stream of real-time data |
US10198298B2 (en) * | 2015-09-16 | 2019-02-05 | Salesforce.Com, Inc. | Handling multiple task sequences in a stream processing framework |
US9672082B2 (en) | 2015-10-21 | 2017-06-06 | Oracle International Corporation | Guaranteeing the event order for multi-stage processing in distributed systems |
US10303695B2 (en) | 2015-10-21 | 2019-05-28 | Oracle International Corporation | Query decomposition for scalability of continuous query processing |
US10127120B2 (en) | 2015-10-22 | 2018-11-13 | Oracle International Corporation | Event batching, output sequencing, and log based state storage in continuous query processing |
US10795935B2 (en) | 2016-02-05 | 2020-10-06 | Sas Institute Inc. | Automated generation of job flow definitions |
US10437635B2 (en) | 2016-02-10 | 2019-10-08 | Salesforce.Com, Inc. | Throttling events in entity lifecycle management |
US10402256B2 (en) * | 2016-05-03 | 2019-09-03 | Gopro, Inc. | Systems and methods for micro-batch processing of data |
US11657056B2 (en) | 2016-09-15 | 2023-05-23 | Oracle International Corporation | Data serialization in a distributed event processing system |
JP7018435B2 (ja) | 2016-09-15 | 2022-02-10 | オラクル・インターナショナル・コーポレイション | スナップショットおよび状態のマイクロバッチ方式による管理 |
US10891326B2 (en) | 2017-01-05 | 2021-01-12 | International Business Machines Corporation | Representation of a data analysis using a flow graph |
US10554577B2 (en) | 2017-03-14 | 2020-02-04 | International Business Machines Corporation | Adaptive resource scheduling for data stream processing |
WO2018169430A1 (en) | 2017-03-17 | 2018-09-20 | Oracle International Corporation | Integrating logic in micro batch based event processing systems |
WO2018169429A1 (en) | 2017-03-17 | 2018-09-20 | Oracle International Corporation | Framework for the deployment of event-based applications |
US10552161B2 (en) | 2017-06-21 | 2020-02-04 | International Business Machines Corporation | Cluster graphical processing unit (GPU) resource sharing efficiency by directed acyclic graph (DAG) generation |
-
2017
- 2017-09-15 JP JP2019512634A patent/JP7018435B2/ja active Active
- 2017-09-15 CN CN201780057260.4A patent/CN109716322B/zh active Active
- 2017-09-15 EP EP19190843.3A patent/EP3584715B1/en active Active
- 2017-09-15 WO PCT/US2017/051887 patent/WO2018053338A1/en unknown
- 2017-09-15 JP JP2019511926A patent/JP7005600B2/ja active Active
- 2017-09-15 EP EP17772289.9A patent/EP3513322B1/en active Active
- 2017-09-15 US US15/706,407 patent/US10789250B2/en active Active
- 2017-09-15 US US15/706,329 patent/US10713249B2/en active Active
- 2017-09-15 WO PCT/US2017/051897 patent/WO2018053343A1/en unknown
- 2017-09-15 US US15/706,226 patent/US11615088B2/en active Active
- 2017-09-15 EP EP17772287.3A patent/EP3513321B1/en active Active
- 2017-09-15 CN CN201780055812.8A patent/CN109690517B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006338432A (ja) | 2005-06-03 | 2006-12-14 | Hitachi Ltd | ストリームデータ処理システムのクエリ処理方法 |
US20140095444A1 (en) | 2012-09-28 | 2014-04-03 | Oracle International Corporation | State initialization for continuous queries over archived views |
JP2013058221A (ja) | 2012-10-18 | 2013-03-28 | Hitachi Ltd | 会議分析システム |
Also Published As
Publication number | Publication date |
---|---|
EP3513321A1 (en) | 2019-07-24 |
US20180075099A1 (en) | 2018-03-15 |
EP3584715B1 (en) | 2023-08-16 |
US11615088B2 (en) | 2023-03-28 |
EP3584715A1 (en) | 2019-12-25 |
WO2018053343A1 (en) | 2018-03-22 |
EP3513322A1 (en) | 2019-07-24 |
US10789250B2 (en) | 2020-09-29 |
JP2019535056A (ja) | 2019-12-05 |
JP7005600B2 (ja) | 2022-01-21 |
CN109716322A (zh) | 2019-05-03 |
US20180075100A1 (en) | 2018-03-15 |
CN109716322B (zh) | 2023-03-21 |
EP3513322B1 (en) | 2021-07-21 |
US20180075046A1 (en) | 2018-03-15 |
WO2018053338A1 (en) | 2018-03-22 |
CN109690517A (zh) | 2019-04-26 |
JP2019535058A (ja) | 2019-12-05 |
EP3513321B1 (en) | 2021-07-21 |
US10713249B2 (en) | 2020-07-14 |
CN109690517B (zh) | 2023-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7018435B2 (ja) | スナップショットおよび状態のマイクロバッチ方式による管理 | |
JP7333424B2 (ja) | 分散イベント処理システムのためのグラフ生成 | |
JP7316341B2 (ja) | ストリームデータにおける空間変化検出器 | |
US10349210B2 (en) | Scaling out moving objects for geo-fence proximity determination | |
US10958714B2 (en) | Framework for the deployment of event-based applications | |
JP7013450B2 (ja) | 自動時間進行についての処理タイムスタンプおよびハートビートイベント |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200622 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200622 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210513 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210518 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210806 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220104 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220131 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7018435 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |