JP2019523462A - マルチタスクスケジューリング方法、システム、アプリケーションサーバ及びコンピュータの読み取り可能な記憶媒体 - Google Patents
マルチタスクスケジューリング方法、システム、アプリケーションサーバ及びコンピュータの読み取り可能な記憶媒体 Download PDFInfo
- Publication number
- JP2019523462A JP2019523462A JP2018537644A JP2018537644A JP2019523462A JP 2019523462 A JP2019523462 A JP 2019523462A JP 2018537644 A JP2018537644 A JP 2018537644A JP 2018537644 A JP2018537644 A JP 2018537644A JP 2019523462 A JP2019523462 A JP 2019523462A
- Authority
- JP
- Japan
- Prior art keywords
- task
- data
- type
- source
- synchronization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/214—Database migration support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/273—Asynchronous replication or reconciliation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Stored Programmes (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
本願は、2017年6月25日に中国国家知識産権局に出願された、中国特許出願第201710490454.5号の「マルチタスクスケジューリング方法、アプリケーションサーバ及びコンピュータの読み取り可能な記憶媒体」と題する中国特許出願の優先権を主張し、当該出願の全体が参照によりここに組み込まれる。
データプラットフォームと少なくとも1つのデータソースとの第1の接続を確立し、且つ前記データプラットフォームと前記アプリケーションサーバとの第2の接続を確立するステップと、
ユーザーの選択した同期する必要のあるソーステーブルとデータソースのタイプを受信し、予め解析して取得された各データソースのソーステーブル構造に基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを生成し、且つ前記生成された各データソースの対応するテーブル作成タスクとデータ同期タスクを予め設定されたワークフロースケジューリングエンジンに発行するステップと、
ユーザーの選択した同期開始時刻になると、前記予め設定されたワークフロースケジューリングエンジンによって特定のファイルシステムから予め設定されたタスクスケジューリングインタフェーステンプレートを呼び出し、且つ前記予め設定されたワークフロースケジューリングエンジンによって各データソースの対応するデータ同期タスクの同期パラメータを前記タスクスケジューリングインタフェーステンプレートに伝達するステップと、
各データソースの対応するデータ同期タスクの同期パラメータに基づき、前記タスクスケジューリングインタフェーステンプレートにおける対応するタスク実行スクリプトを呼び出し、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行するステップと、を実現する。
データプラットフォームと少なくとも1つのデータソースとの第1の接続を確立し、且つ前記データプラットフォームと前記アプリケーションサーバとの第2の接続を確立し、
ユーザーの選択した同期する必要のあるソーステーブルとデータソースのタイプを受信し、予め解析して取得された各データソースのソーステーブル構造に基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを生成し、且つ前記生成された各データソースの対応するテーブル作成タスクとデータ同期タスクを予め設定されたワークフロースケジューリングエンジンに発行し、
ユーザーの選択した同期開始時刻になると、前記予め設定されたワークフロースケジューリングエンジンによって特定のファイルシステムから予め設定されたタスクスケジューリングインタフェーステンプレートを呼び出し、且つ前記予め設定されたワークフロースケジューリングエンジンによって各データソースの対応するデータ同期タスクの同期パラメータを前記タスクスケジューリングインタフェーステンプレートに伝達し、及び
各データソースの対応するデータ同期タスクの同期パラメータに基づき、前記タスクスケジューリングインタフェーステンプレートにおける対応するタスク実行スクリプトを呼び出し、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行する。
データプラットフォームと少なくとも1つのデータソースとの第1の接続を確立し、且つ前記データプラットフォームと前記アプリケーションサーバとの第2の接続を確立するステップと、
ユーザーの選択した同期する必要のあるソーステーブルとデータソースのタイプを受信し、予め解析して取得された各データソースのソーステーブル構造に基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを生成し、且つ前記生成された各データソースの対応するテーブル作成タスクとデータ同期タスクを予め設定されたワークフロースケジューリングエンジンに発行するステップと、
ユーザーの選択した同期開始時刻になると、前記予め設定されたワークフロースケジューリングエンジンによって特定のファイルシステムから予め設定されたタスクスケジューリングインタフェーステンプレートを呼び出し、且つ前記予め設定されたワークフロースケジューリングエンジンによって各データソースの対応するデータ同期タスクの同期パラメータを前記タスクスケジューリングインタフェーステンプレートに伝達するステップと、
各データソースの対応するデータ同期タスクの同期パラメータに基づき、前記タスクスケジューリングインタフェーステンプレートにおける対応するタスク実行スクリプトを呼び出し、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行するステップと、を実現する。
データプラットフォームと少なくとも1つのデータソースとの第1の接続を確立し、且つ前記データプラットフォームと前記アプリケーションサーバとの第2の接続を確立するための接続モジュールと、
ユーザーの選択した同期する必要のあるソーステーブルとデータソースのタイプを受信し、予め解析して取得された各データソースのソーステーブル構造に基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを生成し、且つ前記生成された各データソースの対応するテーブル作成タスクとデータ同期タスクを予め設定されたワークフロースケジューリングエンジンに発行するためのタスク発行モジュールと、
ユーザーの選択した同期開始時刻になると、前記予め設定されたワークフロースケジューリングエンジンによって特定のファイルシステムから予め設定されたタスクスケジューリングインタフェーステンプレートを呼び出し、且つ前記予め設定されたワークフロースケジューリングエンジンによって各データソースの対応するデータ同期タスクの同期パラメータを前記タスクスケジューリングインタフェーステンプレートに伝達するためのスケジューリングモジュールと、
各データソースの対応するデータ同期タスクの同期パラメータに基づき、前記タスクスケジューリングインタフェーステンプレートにおける対応するタスク実行スクリプトを呼び出し、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行するための実行モジュールと、を含む。
ユーザーの選択した同期する必要のある開始時刻と終了時刻に基づき、各ソーステーブルからのデータ抽出の開始時刻とデータ抽出の終了時刻を確定し、
ユーザーの選択した同期する必要のあるソーステーブル数及び同期する目標側のユーザーに基づき、データ同期の各タスクに必要なリソース配置(例えば、CPU、メモリ及び磁気ディスクなど)とリソース管理ノードを確定し、ただし、前記リソース配置はリストの方式によって実現することができ、前記リソース管理ノードはHadoopリソース表現モデルとリソース割当モデルによって実現することができ、
前記同期する必要のあるソーステーブルの該当するフィールドと前記生成された各目標テーブルの該当するフィールドとの対応関係を確立し、且つソーステーブルと目標テーブルの該当するフィールドの対応関係に基づき、各ソーステーブルの対応するデータ抽出タスクを生成することを含む。
前記タスクスケジューリングインタフェーステンプレートにおける各データソースの対応するタスク実行スクリプトを呼び出し、データ同期の各タスクに必要なリソース配置を取得し、各ソーステーブルから該当するフィールドに対応するデータ(メタデータ情報)をそれぞれ抽出し、且つ抽出されたデータを各目標テーブルの該当するフィールドにそれぞれ記憶することを含む。
並列スケジューリングメカニズムによって、前記タスクスケジューリングインタフェーステンプレートにおける対応するタスク実行スクリプトを呼び出し、各データソースの対応するテーブル作成タスクとデータ同期タスクを並列実行し、各ソーステーブルから該当するフィールドに対応するデータをそれぞれ抽出し、且つ抽出されたデータを各目標テーブルの該当するフィールドにそれぞれ記憶するステップを実現する。
ユーザーの選択した同期する必要のある開始時刻と終了時刻に基づき、各ソーステーブルからのデータ抽出の開始時刻とデータ抽出の終了時刻を確定し、
ユーザーの選択した同期する必要のあるソーステーブル数及び同期する目標側のユーザーに基づき、データ同期の各タスクに必要なリソース配置(例えば、CPU、メモリ及び磁気ディスクなど)とリソース管理ノードを確定し、ただし、前記リソース配置はリストの方式によって実現することができ、前記リソース管理ノードはHadoopリソース表現モデルとリソース割当モデルによって実現することができ、
前記同期する必要のあるソーステーブルの該当するフィールドと前記生成された各目標テーブルの該当するフィールドとの対応関係を確立し、且つソーステーブルと目標テーブルの該当するフィールドの対応関係に基づき、各ソーステーブルの対応するデータ抽出タスクを生成することを含む。
前記タスクスケジューリングインタフェーステンプレートにおける各データソースの対応するタスク実行スクリプトを呼び出し、データ同期の各タスクに必要なリソース配置を取得し、各ソーステーブルから該当するフィールドに対応するデータ(メタデータ情報)をそれぞれ抽出し、且つ抽出されたデータを各目標テーブルの該当するフィールドにそれぞれ記憶することを含む。
並列スケジューリングメカニズムによって、前記タスクスケジューリングインタフェーステンプレートにおける対応するタスク実行スクリプトを呼び出し、各データソースの対応するテーブル作成タスクとデータ同期タスクを並列実行し、各ソーステーブルから該当するフィールドに対応するデータをそれぞれ抽出し、且つ抽出されたデータを各目標テーブルの該当するフィールドにそれぞれ記憶するステップを含む。
ネットワーク 3
データプラットフォーム 4
データソース 5
記憶装置 21
プロセッサ 22
ネットワークインタフェース 23
マルチタスクスケジューリングシステム 20
接続モジュール 201
タスク発行モジュール 202
スケジューリングモジュール 203
実行モジュール 204
処理ステップ S41―S44
Claims (20)
- アプリケーションサーバであって、プロセッサ上で動作可能なマルチタスクスケジューリングシステムが記憶されている記憶装置と、プロセッサと、を含み、前記マルチタスクスケジューリングシステムが前記プロセッサによって実行される時、
データプラットフォームと少なくとも1つのデータソースとの第1の接続を確立し、且つ前記データプラットフォームと前記アプリケーションサーバとの第2の接続を確立するステップと、
ユーザーの選択した同期する必要のあるソーステーブルとデータソースのタイプを受信し、予め解析して取得された各データソースのソーステーブル構造に基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを生成し、且つ前記生成された各データソースの対応するテーブル作成タスクとデータ同期タスクを予め設定されたワークフロースケジューリングエンジンに発行するステップと、
ユーザーの選択した同期開始時刻になると、前記予め設定されたワークフロースケジューリングエンジンによって特定のファイルシステムから予め設定されたタスクスケジューリングインタフェーステンプレートを呼び出し、且つ前記予め設定されたワークフロースケジューリングエンジンによって各データソースの対応するデータ同期タスクの同期パラメータを前記タスクスケジューリングインタフェーステンプレートに伝達するステップと、
各データソースの対応するデータ同期タスクの同期パラメータに基づき、前記タスクスケジューリングインタフェーステンプレートにおける対応するタスク実行スクリプトを呼び出し、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行するステップと、を実現する
ことを特徴とするアプリケーションサーバ。 - 前記タスクスケジューリングインタフェーステンプレートは、前記ワークフロースケジューリングエンジンから伝達された同期パラメータを受信するためのパラメータ設定スクリプトと、各データソースの対応するデータ同期タスクの同期パラメータに基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行するためのタスク実行スクリプトと、各データソースの対応するデータ同期タスクの実行順序を管理するためのタスクスケジューリングスクリプトと、を含む
ことを特徴とする請求項1に記載のアプリケーションサーバ。 - 前記タスク実行スクリプトは、第1タイプのディメンションテーブルからデータを抽出するための第1実行スクリプトと、第2タイプのタスクテーブルからデータを抽出するための第2実行スクリプトと、第3タイプのフローテーブルからデータを抽出するための第3実行スクリプトと、を含む
ことを特徴とする請求項2に記載のアプリケーションサーバ。 - 前記データ同期タスクの実行は、
前記タスクスケジューリングインタフェーステンプレートにおける各データソースの対応するタスク実行スクリプトを呼び出し、データ同期の各タスクに必要なリソース配置を取得し、各ソーステーブルから該当するフィールドに対応するデータをそれぞれ抽出し、且つ抽出されたデータを各目標テーブルの該当するフィールドにそれぞれ記憶することを含む
ことを特徴とする請求項2又は3に記載のアプリケーションサーバ。 - 前記データ同期タスクの実行は、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第1タイプのディメンションテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第1実行スクリプトを呼び出し、各第1タイプのディメンションテーブルから該当するフィールドに対応する第1データをそれぞれ抽出し、且つ抽出された第1データを各第1タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第2タイプのタスクテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第2実行スクリプトを呼び出し、各第2タイプのタスクテーブルから該当するフィールドに対応する第2データをそれぞれ抽出し、且つ抽出された第2データを各第2タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第3タイプのフローテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第3実行スクリプトを呼び出し、各第3タイプのフローテーブルから該当するフィールドに対応する第3データをそれぞれ抽出し、且つ抽出された第3データを各第3タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、を含む
ことを特徴とする請求項4に記載のアプリケーションサーバ。 - アプリケーションサーバに適用されるマルチタスクスケジューリング方法において、
データプラットフォームと少なくとも1つのデータソースとの第1の接続を確立し、且つ前記データプラットフォームと前記アプリケーションサーバとの第2の接続を確立し、
ユーザーの選択した同期する必要のあるソーステーブルとデータソースのタイプを受信し、予め解析して取得された各データソースのソーステーブル構造に基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを生成し、且つ前記生成された各データソースの対応するテーブル作成タスクとデータ同期タスクを予め設定されたワークフロースケジューリングエンジンに発行し、
ユーザーの選択した同期開始時刻になると、前記予め設定されたワークフロースケジューリングエンジンによって特定のファイルシステムから予め設定されたタスクスケジューリングインタフェーステンプレートを呼び出し、且つ前記予め設定されたワークフロースケジューリングエンジンによって各データソースの対応するデータ同期タスクの同期パラメータを前記タスクスケジューリングインタフェーステンプレートに伝達し、及び
各データソースの対応するデータ同期タスクの同期パラメータに基づき、前記タスクスケジューリングインタフェーステンプレートにおける対応するタスク実行スクリプトを呼び出し、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行する
ことを特徴とするマルチタスクスケジューリング方法。 - 前記タスクスケジューリングインタフェーステンプレートは、前記ワークフロースケジューリングエンジンから伝達された同期パラメータを受信するためのパラメータ設定スクリプトと、各データソースの対応するデータ同期タスクの同期パラメータに基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行するためのタスク実行スクリプトと、各データソースの対応するデータ同期タスクの実行順序を管理するためのタスクスケジューリングスクリプトと、を含む
ことを特徴とする請求項6に記載のマルチタスクスケジューリング方法。 - 前記タスク実行スクリプトは、第1タイプのディメンションテーブルからデータを抽出するための第1実行スクリプトと、第2タイプのタスクテーブルからデータを抽出するための第2実行スクリプトと、第3タイプのフローテーブルからデータを抽出するための第3実行スクリプトと、を含む
ことを特徴とする請求項7に記載のマルチタスクスケジューリング方法。 - 前記データ同期タスクの実行は、
前記タスクスケジューリングインタフェーステンプレートにおける各データソースの対応するタスク実行スクリプトを呼び出し、データ同期の各タスクに必要なリソース配置を取得し、各ソーステーブルから該当するフィールドに対応するデータをそれぞれ抽出し、且つ抽出されたデータを各目標テーブルの該当するフィールドにそれぞれ記憶することを含む
ことを特徴とする請求項8又は7に記載のマルチタスクスケジューリング方法。 - 前記データ同期タスクの実行は、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第1タイプのディメンションテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第1実行スクリプトを呼び出し、各第1タイプのディメンションテーブルから該当するフィールドに対応する第1データをそれぞれ抽出し、且つ抽出された第1データを各第1タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第2タイプのタスクテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第2実行スクリプトを呼び出し、各第2タイプのタスクテーブルから該当するフィールドに対応する第2データをそれぞれ抽出し、且つ抽出された第2データを各第2タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第3タイプのフローテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第3実行スクリプトを呼び出し、各第3タイプのフローテーブルから該当するフィールドに対応する第3データをそれぞれ抽出し、且つ抽出された第3データを各第3タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、を含む
ことを特徴とする請求項9に記載のマルチタスクスケジューリング方法。 - コンピュータの読み取り可能な記憶媒体であって、前記コンピュータの読み取り可能な記憶媒体にマルチタスクスケジューリングシステムが記憶されており、前記マルチタスクスケジューリングシステムが少なくとも1つのプロセッサによって実行されることにより、
データプラットフォームと少なくとも1つのデータソースとの第1の接続を確立し、且つ前記データプラットフォームとアプリケーションサーバとの第2の接続を確立するステップと、
ユーザーの選択した同期する必要のあるソーステーブルとデータソースのタイプを受信し、予め解析して取得された各データソースのソーステーブル構造に基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを生成し、且つ前記生成された各データソースの対応するテーブル作成タスクとデータ同期タスクを予め設定されたワークフロースケジューリングエンジンに発行するステップと、
ユーザーの選択した同期開始時刻になると、前記予め設定されたワークフロースケジューリングエンジンによって特定のファイルシステムから予め設定されたタスクスケジューリングインタフェーステンプレートを呼び出し、且つ前記予め設定されたワークフロースケジューリングエンジンによって各データソースの対応するデータ同期タスクの同期パラメータを前記タスクスケジューリングインタフェーステンプレートに伝達するステップと、
各データソースの対応するデータ同期タスクの同期パラメータに基づき、前記タスクスケジューリングインタフェーステンプレートにおける対応するタスク実行スクリプトを呼び出し、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行するステップと、を実現する
ことを特徴とするコンピュータの読み取り可能な記憶媒体。 - 前記タスクスケジューリングインタフェーステンプレートは、前記ワークフロースケジューリングエンジンから伝達された同期パラメータを受信するためのパラメータ設定スクリプトと、各データソースの対応するデータ同期タスクの同期パラメータに基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行するためのタスク実行スクリプトと、各データソースの対応するデータ同期タスクの実行順序を管理するためのタスクスケジューリングスクリプトと、を含む
ことを特徴とする請求項11に記載のコンピュータの読み取り可能な記憶媒体。 - 前記タスク実行スクリプトは、第1タイプのディメンションテーブルからデータを抽出するための第1実行スクリプトと、第2タイプのタスクテーブルからデータを抽出するための第2実行スクリプトと、第3タイプのフローテーブルからデータを抽出するための第3実行スクリプトと、を含む
ことを特徴とする請求項12に記載のコンピュータの読み取り可能な記憶媒体。 - 前記データ同期タスクの実行は、
前記タスクスケジューリングインタフェーステンプレートにおける各データソースの対応するタスク実行スクリプトを呼び出し、データ同期の各タスクに必要なリソース配置を取得し、各ソーステーブルから該当するフィールドに対応するデータをそれぞれ抽出し、且つ抽出されたデータを各目標テーブルの該当するフィールドにそれぞれ記憶することを含む
ことを特徴とする請求項13又は12に記載のコンピュータの読み取り可能な記憶媒体。 - 前記データ同期タスクの実行は、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第1タイプのディメンションテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第1実行スクリプトを呼び出し、各第1タイプのディメンションテーブルから該当するフィールドに対応する第1データをそれぞれ抽出し、且つ抽出された第1データを各第1タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第2タイプのタスクテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第2実行スクリプトを呼び出し、各第2タイプのタスクテーブルから該当するフィールドに対応する第2データをそれぞれ抽出し、且つ抽出された第2データを各第2タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第3タイプのフローテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第3実行スクリプトを呼び出し、各第3タイプのフローテーブルから該当するフィールドに対応する第3データをそれぞれ抽出し、且つ抽出された第3データを各第3タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、を含む
ことを特徴とする請求項14に記載のコンピュータの読み取り可能な記憶媒体。 - マルチタスクスケジューリングシステムであって、
データプラットフォームと少なくとも1つのデータソースとの第1の接続を確立し、且つ前記データプラットフォームとアプリケーションサーバとの第2の接続を確立するための接続モジュールと、
ユーザーの選択した同期する必要のあるソーステーブルとデータソースのタイプを受信し、予め解析して取得された各データソースのソーステーブル構造に基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを生成し、且つ前記生成された各データソースの対応するテーブル作成タスクとデータ同期タスクを予め設定されたワークフロースケジューリングエンジンに発行するためのタスク発行モジュールと、
ユーザーの選択した同期開始時刻になると、前記予め設定されたワークフロースケジューリングエンジンによって特定のファイルシステムから予め設定されたタスクスケジューリングインタフェーステンプレートを呼び出し、且つ前記予め設定されたワークフロースケジューリングエンジンによって各データソースの対応するデータ同期タスクの同期パラメータを前記タスクスケジューリングインタフェーステンプレートに伝達するためのスケジューリングモジュールと、
各データソースの対応するデータ同期タスクの同期パラメータに基づき、前記タスクスケジューリングインタフェーステンプレートにおける対応するタスク実行スクリプトを呼び出し、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行するための実行モジュールと、
を含むことを特徴とするマルチタスクスケジューリングシステム。 - 前記タスクスケジューリングインタフェーステンプレートは、前記ワークフロースケジューリングエンジンから伝達された同期パラメータを受信するためのパラメータ設定スクリプトと、各データソースの対応するデータ同期タスクの同期パラメータに基づき、各データソースの対応するテーブル作成タスクとデータ同期タスクを実行するためのタスク実行スクリプトと、各データソースの対応するデータ同期タスクの実行順序を管理するためのタスクスケジューリングスクリプトと、を含む
ことを特徴とする請求項16に記載のマルチタスクスケジューリングシステム。 - 前記タスク実行スクリプトは、第1タイプのディメンションテーブルからデータを抽出するための第1実行スクリプトと、第2タイプのタスクテーブルからデータを抽出するための第2実行スクリプトと、第3タイプのフローテーブルからデータを抽出するための第3実行スクリプトと、を含む
ことを特徴とする請求項17に記載のマルチタスクスケジューリングシステム。 - 前記データ同期タスクの実行は、
前記タスクスケジューリングインタフェーステンプレートにおける各データソースの対応するタスク実行スクリプトを呼び出し、データ同期の各タスクに必要なリソース配置を取得し、各ソーステーブルから該当するフィールドに対応するデータをそれぞれ抽出し、且つ抽出されたデータを各目標テーブルの該当するフィールドにそれぞれ記憶することを含む
ことを特徴とする請求項17又は18に記載のマルチタスクスケジューリングシステム。 - 前記データ同期タスクの実行は、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第1タイプのディメンションテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第1実行スクリプトを呼び出し、各第1タイプのディメンションテーブルから該当するフィールドに対応する第1データをそれぞれ抽出し、且つ抽出された第1データを各第1タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第2タイプのタスクテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第2実行スクリプトを呼び出し、各第2タイプのタスクテーブルから該当するフィールドに対応する第2データをそれぞれ抽出し、且つ抽出された第2データを各第2タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、
ユーザーの選択した同期する必要のあるソーステーブルのタイプが第3タイプのフローテーブルである場合、前記タスクスケジューリングインタフェーステンプレートにおける第3実行スクリプトを呼び出し、各第3タイプのフローテーブルから該当するフィールドに対応する第3データをそれぞれ抽出し、且つ抽出された第3データを各第3タイプの目標テーブルの該当するフィールドにそれぞれ記憶することと、を含む
ことを特徴とする請求項19に記載のマルチタスクスケジューリングシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710490454.5A CN107766132B (zh) | 2017-06-25 | 2017-06-25 | 多任务调度方法、应用服务器及计算机可读存储介质 |
CN201710490454.5 | 2017-06-25 | ||
PCT/CN2017/100052 WO2019000630A1 (zh) | 2017-06-25 | 2017-08-31 | 多任务调度方法、系统、应用服务器及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019523462A true JP2019523462A (ja) | 2019-08-22 |
JP6695984B2 JP6695984B2 (ja) | 2020-05-20 |
Family
ID=61264944
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018537644A Active JP6695984B2 (ja) | 2017-06-25 | 2017-08-31 | マルチタスクスケジューリング方法、システム、アプリケーションサーバ及びコンピュータの読み取り可能な記憶媒体 |
Country Status (7)
Country | Link |
---|---|
US (1) | US11061925B2 (ja) |
EP (1) | EP3454209A4 (ja) |
JP (1) | JP6695984B2 (ja) |
KR (1) | KR102162872B1 (ja) |
CN (1) | CN107766132B (ja) |
AU (1) | AU2017409830B2 (ja) |
WO (1) | WO2019000630A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220162466A (ko) * | 2021-06-01 | 2022-12-08 | 성균관대학교산학협력단 | 스케줄러 기반의 워크플로우 프로세스 자동화 모델 장치 |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108763341B (zh) * | 2018-05-14 | 2023-07-25 | 中国平安人寿保险股份有限公司 | 电子装置、自动化建表方法及存储介质 |
CN110866062B (zh) * | 2018-08-09 | 2023-11-24 | 菜鸟智能物流控股有限公司 | 基于分布式集群的数据同步方法以及装置 |
CN109684053B (zh) * | 2018-11-05 | 2023-08-01 | 广东岭南通股份有限公司 | 大数据的任务调度方法和系统 |
CN109542920B (zh) * | 2018-11-23 | 2021-11-19 | 泰康保险集团股份有限公司 | 一种数据传输方法、装置、介质和电子设备 |
CN109614446A (zh) * | 2018-11-23 | 2019-04-12 | 金色熊猫有限公司 | 数据同步方法、装置、电子设备及存储介质 |
CN110209652B (zh) * | 2019-05-20 | 2024-02-02 | 平安科技(深圳)有限公司 | 数据表迁移方法、装置、计算机设备和存储介质 |
CN110780937B (zh) * | 2019-09-16 | 2023-12-08 | 腾讯大地通途(北京)科技有限公司 | 任务发布方法、装置、计算机可读存储介质及设备 |
CN110716987B (zh) * | 2019-10-18 | 2023-06-20 | 浪潮软件股份有限公司 | 一种同步任务异步执行的方法和调度系统 |
CN111708750A (zh) * | 2019-12-27 | 2020-09-25 | 山东鲁能软件技术有限公司 | 一种基于大数据平台存储适配方法,系统,设备及可读存储介质 |
CN111177247B (zh) * | 2019-12-30 | 2023-10-20 | 腾讯科技(深圳)有限公司 | 一种数据转换的方法、装置及存储介质 |
CN111324434B (zh) * | 2020-02-04 | 2023-03-21 | 支付宝(杭州)信息技术有限公司 | 计算任务的配置方法、装置及执行系统 |
CN111258742B (zh) * | 2020-02-17 | 2023-08-04 | 杭州依图医疗技术有限公司 | 一种数据同步的方法、系统、计算设备及存储介质 |
KR102298342B1 (ko) * | 2020-05-11 | 2021-09-06 | 주식회사제이앤케이씨 | 정보 연동 시스템 및 정보 연동 방법 |
CN111625331B (zh) * | 2020-05-20 | 2023-06-16 | 拉扎斯网络科技(上海)有限公司 | 任务调度方法、装置、平台、服务器及存储介质 |
US11113105B1 (en) * | 2020-06-09 | 2021-09-07 | Infosys Limited | Computer implemented system and method for generating platform agnostic digital worker |
CN111913791B (zh) * | 2020-07-02 | 2023-10-13 | 北京和瑞精湛医学检验实验室有限公司 | 任务调度方法、装置、设备和计算机可读存储介质 |
CN113760240A (zh) * | 2020-09-02 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 一种生成数据模型的方法和装置 |
CN112487090A (zh) * | 2020-11-30 | 2021-03-12 | 乐刷科技有限公司 | 数据同步方法、数据展示平台及计算机可读存储介质 |
CN112597242B (zh) * | 2020-12-16 | 2023-06-06 | 四川新网银行股份有限公司 | 一种基于涉及批量任务的应用系统数据切片的抽取方法 |
CN112905339B (zh) * | 2021-02-08 | 2024-02-13 | 中国工商银行股份有限公司 | 任务调度执行方法、装置及系统 |
CN112925622A (zh) * | 2021-02-26 | 2021-06-08 | 北信源系统集成有限公司 | 系统定时任务处理方法、装置、电子设备及存储介质 |
CN113238846A (zh) * | 2021-05-20 | 2021-08-10 | 浙江网商银行股份有限公司 | 任务调度的方法以及装置 |
CN113220694A (zh) * | 2021-06-02 | 2021-08-06 | 中国农业银行股份有限公司 | 数据表的处理方法、装置、服务器及存储介质 |
CN113296915B (zh) * | 2021-06-18 | 2023-07-18 | 瀚云科技有限公司 | 一种基于工业互联网平台的任务生成方法及系统 |
CN113918636B (zh) * | 2021-10-21 | 2024-04-19 | 中通服公众信息产业股份有限公司 | 一种基于etl的数据处理量分析方法 |
WO2023101610A2 (en) * | 2021-12-01 | 2023-06-08 | Shopee IP Singapore Private Limited | Device and method for synchronizing data between data sources |
CN115834605B (zh) * | 2023-02-20 | 2023-05-12 | 塔比星信息技术(深圳)有限公司 | 数据采集方法、装置、设备及存储介质 |
CN116860227B (zh) * | 2023-07-12 | 2024-02-09 | 北京东方金信科技股份有限公司 | 一种基于大数据etl脚本编排的数据开发系统及方法 |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6151608A (en) * | 1998-04-07 | 2000-11-21 | Crystallize, Inc. | Method and system for migrating data |
US7107589B1 (en) * | 2001-09-28 | 2006-09-12 | Siebel Systems, Inc. | Infrastructure for the automation of the assembly of schema maintenance scripts |
KR100491541B1 (ko) * | 2003-08-01 | 2005-05-25 | 니트젠테크놀러지스 주식회사 | 네트웍 환경에서의 컨텐츠 동기화 시스템 및 동기화 방법 |
US7865574B1 (en) * | 2003-10-09 | 2011-01-04 | Sprint Communications Company L.P. | System for processing data retrieved from an information service layer |
CA2558892A1 (en) * | 2004-03-13 | 2005-09-29 | Cluster Resources, Inc. | System and method for a self-optimizing reservation in time of compute resources |
EP2438537A4 (en) * | 2009-06-05 | 2013-05-01 | Hewlett Packard Development Co | SYSTEM AND METHOD FOR REPRESENTING USER INTERACTION WITH A WEB SERVICE |
JP4959774B2 (ja) * | 2009-11-30 | 2012-06-27 | インターナショナル・ビジネス・マシーンズ・コーポレーション | アプリケーション生成システム、方法及びプログラム |
US9430505B2 (en) * | 2011-04-18 | 2016-08-30 | Infosys Limited | Automated data warehouse migration |
CN102339323B (zh) * | 2011-11-11 | 2015-12-16 | 江苏鸿信系统集成有限公司 | 一种针对db2数据仓库进行数据抽取、调度及展现的方法 |
CN104781774A (zh) * | 2012-09-12 | 2015-07-15 | 格林伊登美国控股有限责任公司 | 利用模板动态配置联络中心的系统和方法 |
JP2014106907A (ja) * | 2012-11-29 | 2014-06-09 | Ricoh Co Ltd | 情報処理装置およびプログラム |
US9805070B2 (en) | 2013-07-09 | 2017-10-31 | Oracle International Corporation | Dynamic migration script management |
US9607020B1 (en) * | 2013-09-17 | 2017-03-28 | Amazon Technologies, Inc. | Data migration system |
CN105095327A (zh) * | 2014-05-23 | 2015-11-25 | 深圳市珍爱网信息技术有限公司 | 一种分布式etl系统及调度方法 |
CN104317843B (zh) * | 2014-10-11 | 2017-08-25 | 上海瀚之友信息技术服务有限公司 | 一种数据同步etl系统 |
CN104410875B (zh) * | 2014-11-25 | 2018-08-24 | 上海赛特斯信息科技股份有限公司 | 实现iptv盒端业务零配置自动开通的系统及方法 |
CN106156165A (zh) * | 2015-04-16 | 2016-11-23 | 阿里巴巴集团控股有限公司 | 异构数据源之间的数据同步方法和装置 |
CN105045602B (zh) * | 2015-08-24 | 2019-07-23 | 北京金山安全软件有限公司 | 一种构建Hadoop应用开发框架的方法、装置及电子装置 |
CN106528070B (zh) * | 2015-09-15 | 2019-09-03 | 阿里巴巴集团控股有限公司 | 一种数据表生成方法及设备 |
US20170098180A1 (en) * | 2015-10-05 | 2017-04-06 | Yahoo! Inc. | Method and system for automatically generating and completing a task |
US10620974B2 (en) * | 2017-02-13 | 2020-04-14 | Microsoft Technology Licensing, Llc | Gallery control with dynamically determined control template replica sizes |
-
2017
- 2017-06-25 CN CN201710490454.5A patent/CN107766132B/zh active Active
- 2017-08-31 WO PCT/CN2017/100052 patent/WO2019000630A1/zh active Application Filing
- 2017-08-31 KR KR1020187024858A patent/KR102162872B1/ko active IP Right Grant
- 2017-08-31 US US16/084,980 patent/US11061925B2/en active Active
- 2017-08-31 EP EP17904352.6A patent/EP3454209A4/en not_active Ceased
- 2017-08-31 JP JP2018537644A patent/JP6695984B2/ja active Active
- 2017-08-31 AU AU2017409830A patent/AU2017409830B2/en active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220162466A (ko) * | 2021-06-01 | 2022-12-08 | 성균관대학교산학협력단 | 스케줄러 기반의 워크플로우 프로세스 자동화 모델 장치 |
KR102566983B1 (ko) * | 2021-06-01 | 2023-08-14 | 성균관대학교산학협력단 | 스케줄러 기반의 워크플로우 프로세스 자동화 모델 장치 |
Also Published As
Publication number | Publication date |
---|---|
EP3454209A1 (en) | 2019-03-13 |
CN107766132B (zh) | 2019-03-15 |
EP3454209A4 (en) | 2020-01-01 |
US11061925B2 (en) | 2021-07-13 |
AU2017409830B2 (en) | 2019-10-03 |
US20210124757A1 (en) | 2021-04-29 |
JP6695984B2 (ja) | 2020-05-20 |
KR20190038750A (ko) | 2019-04-09 |
WO2019000630A1 (zh) | 2019-01-03 |
CN107766132A (zh) | 2018-03-06 |
AU2017409830A1 (en) | 2019-01-17 |
KR102162872B1 (ko) | 2020-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6695984B2 (ja) | マルチタスクスケジューリング方法、システム、アプリケーションサーバ及びコンピュータの読み取り可能な記憶媒体 | |
CN107689982B (zh) | 多数据源数据同步方法、应用服务器及计算机可读存储介质 | |
CN106557470B (zh) | 数据提取方法和装置 | |
CN107423404B (zh) | 流程实例数据同步处理方法和装置 | |
CN107294750B (zh) | 一种云集群能自识别的分布配置管理方法和装置 | |
CN111190823A (zh) | Ui自动化测试方法、电子装置及计算机可读存储介质 | |
CN110569250A (zh) | 一种物联网网元的解析库的管理方法及装置 | |
CN111580948A (zh) | 任务调度方法、装置及计算机设备 | |
CN112286664A (zh) | 任务调度方法、装置、计算机设备及可读存储介质 | |
CN108399095B (zh) | 支持动态管理定时任务的方法、系统、设备和存储介质 | |
CN110647564A (zh) | Hive建表方法、电子装置及计算机可读存储介质 | |
US10129328B2 (en) | Centralized management of webservice resources in an enterprise | |
CN110908644B (zh) | 状态节点的配置方法、装置、计算机设备和存储介质 | |
CN111988429A (zh) | 算法调度方法以及系统 | |
CN111767126A (zh) | 分布式批量处理的系统和方法 | |
CN114675940A (zh) | 应用实例构建方法、装置和设备 | |
CN111400396A (zh) | 数据同步脚本的生成方法、装置及计算机可读存储介质 | |
CN113129049B (zh) | 用于模型训练和应用的文件配置方法和系统 | |
CN103297479A (zh) | 一种插件升级的分布式检测方法及装置 | |
CN113626007B (zh) | 连接器模型的应用方法、装置及服务器 | |
CN111708751B (zh) | 一种基于Hue实现数据加载的方法,系统,设备及可读存储介质 | |
CN108984992B (zh) | 一种电路板设计方法和装置 | |
CN115509513A (zh) | Grpc服务层代码生成方法、装置、设备及存储介质 | |
CN106557359B (zh) | 一种任务调度方法及系统 | |
CN113449035A (zh) | 数据同步方法、装置、计算机设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180919 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180919 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191030 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191227 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200421 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200422 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6695984 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |