JP6338817B2 - データベースミドルウェアを用いたデータ管理システム及びその方法 - Google Patents
データベースミドルウェアを用いたデータ管理システム及びその方法 Download PDFInfo
- Publication number
- JP6338817B2 JP6338817B2 JP2013008599A JP2013008599A JP6338817B2 JP 6338817 B2 JP6338817 B2 JP 6338817B2 JP 2013008599 A JP2013008599 A JP 2013008599A JP 2013008599 A JP2013008599 A JP 2013008599A JP 6338817 B2 JP6338817 B2 JP 6338817B2
- Authority
- JP
- Japan
- Prior art keywords
- shard
- database
- hint
- databases
- key
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 58
- 238000013523 data management Methods 0.000 title claims description 33
- 238000012545 processing Methods 0.000 claims description 32
- 230000008569 process Effects 0.000 claims description 12
- 238000012544 monitoring process Methods 0.000 claims description 10
- 238000011176 pooling Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 14
- 238000011156 evaluation Methods 0.000 description 5
- 238000007796 conventional method Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/278—Data partitioning, e.g. horizontal or vertical partitioning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/283—Multi-dimensional databases or data warehouses, e.g. MOLAP or ROLAP
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0608—Saving storage space on storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Human Computer Interaction (AREA)
Description
WHERE emp_no=/*+SHARD_KEY*/?
SELECT*FROM emp_評価
WHERE emp_no=/*+SHARD_KEY*/1
SELECT*FROM emp_経歴
WHERE emp_no IN{/*+SHARD_KEY*/?、/*+SHARD_KEY*/?}
WHERE emp_no=/*+SHARD_KEY*/?
…
SELECT*FROM without_shard_table
WHERE/*+SHARD_VAL1*/no=「a」
WHERE emp_no=/*+SHARD_KEY*/?
…
SELECT*FROM emp/*+SHARD_ALL*/
WHERE emp_no=/*+SHARD_KEY(emp_no)*/?
SELECT*FROM emp_評価
WHERE emp_no=/*+SHARD_KEY(emp_no)*/1
…
SELECT*FROM力量レベル
WHERE level=/*+SHARD_KEY (level)*/?
231:シャードプロセシングモジュール
Claims (9)
- データベースミドルウェアを含むデータ管理システムにおいて、
前記データベースミドルウェアは、
入力されるクエリに基づいてシャードキー識別子を生成し、前記生成されたシャードキー識別子とシャードメタデータと、前記入力されるクエリに含まれる予め設定されたヒントとを用いて選択されたシャード識別子によって複数のデータベースのうち1つのデータベースを選択するシャードプロセシングモジュールを含む、
データ管理システム。 - 前記複数のデータベースは、異種のデータベースを含み、
前記データベースミドルウェアは、
前記異種のデータベースの各々のために、クエリを実行する複数のクライアントライブラリーモジュールをさらに含むことを特徴とする請求項1に記載のデータ管理システム。 - 前記データベースミドルウェアは、
アプリケーション側の接続要求を容認したプロセスに分配するためのジョブキューモジュール、同時に複数のユーザ及びデータベースとの接続を保持して、必要時に接続を再使用するためのコネクションプーリングモジュール、リアルタイムモニタリングによって状態及び統計情報を収集するモニタリングモジュール、ユーザからのデータベース命令を処理するためのデータベースインターフェースモジュール、エラーまたは実行したクエリに対するイベントログを生成するロギングモジュールのうち少なくとも1つのモジュールをさらに含むことを特徴とする請求項1または請求項2に記載のデータ管理システム。 - 前記予め設定されたヒントは、
1つのデータベースが1つのシャードキーを有する場合、
(1)前記入力されるクエリを処理するシャード識別子を選択するためにバインド変数またはリテラル値の前に位置するヒント、
(2)シャードキーを有さないテーブルの処理のためのヒント、及び
(3)すべてのシャードにあるデータを選択するためのヒント、
のうち、少なくとも1つを含み、
1つのデータベースがいくつかのシャードキーを有する場合、
(4)特定のシャードキーを選択してデータを選択するためのヒントを含む、ことを特徴とする請求項1に記載のデータ管理システム。 - データベースミドルウェアを含むデータ管理システムでデータを管理する方法であって、
前記データベースミドルウェアが含むシャードプロセシングモジュールにおいて、
シャードキーに基づいてシャードキー識別子を得るための関数を実行し、
前記関数のリターン値と、前記データベースミドルウェアに設定されたシャードメタデータと、入力されるクエリに含まれる予め設定されたヒントとを用いて複数のデータベースの各々を識別するシャード識別子のうち1つのシャード識別子を選択すること、
を含む、
データ管理方法。 - 前記複数のデータベースは、異種のデータベースを含み、
前記データベースミドルウェアは、
前記異種のデータベースの各々のために、クエリを実行する複数のクライアントライブラリーモジュールをさらに含むことを特徴とする請求項5に記載のデータ管理方法。 - 前記データベースミドルウェアは、
アプリケーション側の接続要求を容認したプロセスに分配するためのジョブキューモジュール、同時に複数のユーザ及びデータベースとの接続を保持して、必要時に接続を再使用するためのコネクションプーリングモジュール、リアルタイムモニタリングによって状態及び統計情報を収集するモニタリングモジュール、ユーザからのデータベース命令を処理するためのデータベースインターフェースモジュール、エラーまたは実行したクエリに対するイベントログを生成するロギングモジュールのうち少なくとも1つのモジュールをさらに含むことを特徴とする請求項5または請求項6に記載のデータ管理方法。 - 前記予め設定されたヒントは、
1つのデータベースが1つのシャードキーを有する場合、
(1)前記入力されるクエリを処理するシャード識別子を選択するためにバインド変数またはリテラル値の前に位置するヒント、
(2)シャードキーを有さないテーブルの処理のためのヒント、及び
(3)すべてのシャードにあるデータを選択するためのヒント、
のうち少なくとも1つの含み、
1つのデータベースがいくつかのシャードキーを有する場合、
(4)特定のシャードキーを選択してデータを選択するためのヒントを含む、ことを特徴とする請求項5に記載のデータ管理方法。 - 請求項5から請求項8のいずれか一項に係る方法を実行するためのプログラムを記録したコンピュータ読み出し可能記録媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2012-0022434 | 2012-03-05 | ||
KR1020120022434A KR101365464B1 (ko) | 2012-03-05 | 2012-03-05 | 데이터베이스 미들웨어를 이용한 데이터 관리 시스템 및 방법 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013186890A JP2013186890A (ja) | 2013-09-19 |
JP6338817B2 true JP6338817B2 (ja) | 2018-06-06 |
Family
ID=47678575
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013008599A Active JP6338817B2 (ja) | 2012-03-05 | 2013-01-21 | データベースミドルウェアを用いたデータ管理システム及びその方法 |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP2637111B1 (ja) |
JP (1) | JP6338817B2 (ja) |
KR (1) | KR101365464B1 (ja) |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105264521B (zh) * | 2014-02-18 | 2018-10-30 | 华为技术有限公司 | 一种数据表的导入方法、数据管理器以及服务器 |
US9659079B2 (en) | 2014-05-30 | 2017-05-23 | Wal-Mart Stores, Inc. | Shard determination logic for scalable order and inventory management architecture with a sharded transactional database |
US10043208B2 (en) | 2014-05-30 | 2018-08-07 | Walmart Apollo, Llc | Smart order management and database sharding |
US10346897B2 (en) | 2014-05-30 | 2019-07-09 | Walmart Apollo, Llc | Method and system for smart order management and application level sharding |
US10410169B2 (en) | 2014-05-30 | 2019-09-10 | Walmart Apollo, Llc | Smart inventory management and database sharding |
WO2016172195A1 (en) | 2015-04-20 | 2016-10-27 | Oracle International Corporation | System and method for providing access to a sharded database using a cache and a shard topology |
US10254980B1 (en) | 2015-09-22 | 2019-04-09 | Amazon Technologies, Inc. | Scheduling requests from data sources for efficient data decoding |
US9672110B1 (en) | 2015-09-22 | 2017-06-06 | Amazon Technologies, Inc. | Transmission time refinement in a storage system |
US10909211B2 (en) * | 2016-08-12 | 2021-02-02 | Oracle International Corporation | System and method for control of maximum connections in a connection pool environment |
US11290540B2 (en) | 2016-08-12 | 2022-03-29 | Oracle International Corporation | System and method for use of server-side connection pool tagging in a multi-tenant environment |
CN108090056B (zh) * | 2016-11-21 | 2021-06-15 | 中兴通讯股份有限公司 | 数据查询方法、装置及系统 |
CN108874837B (zh) * | 2017-05-16 | 2021-09-03 | 北京京东尚科信息技术有限公司 | 数据库分库方法、装置、中间件及存储介质和电子设备 |
KR101885554B1 (ko) * | 2017-09-01 | 2018-08-06 | 한화시스템 주식회사 | e-내비게이션 서비스를 위한 이종 데이터 처리 시스템 또는 데이터 서비스 플랫폼의 이종 데이터 처리 방법 |
US11061905B2 (en) * | 2017-12-08 | 2021-07-13 | International Business Machines Corporation | Job management in data processing system |
KR102276600B1 (ko) * | 2019-03-28 | 2021-07-13 | 한국전자기술연구원 | 열처리 공정의 전력 빅데이터 분석을 위한 데이터 분산처리 관리방법 및 시스템 |
KR20200136151A (ko) | 2019-05-27 | 2020-12-07 | 삼성에스디에스 주식회사 | 동적 샤드 선택 장치 및 방법 |
CN111400285B (zh) * | 2020-03-25 | 2023-06-20 | 杭州浮云网络科技有限公司 | mySQL数据分片处理方法、装置、计算机设备和可读存储介质 |
CN111813573B (zh) * | 2020-06-29 | 2022-09-20 | 中国平安人寿保险股份有限公司 | 管理平台与机器人软件的通信方法及其相关设备 |
CN115803733A (zh) * | 2020-08-12 | 2023-03-14 | 阿里巴巴集团控股有限公司 | 无服务器架构中工作流应用的分片 |
CN112417044B (zh) * | 2020-11-20 | 2023-10-31 | 中国平安人寿保险股份有限公司 | 新增附加险系统的数据处理方法、装置及计算机设备 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3786233B2 (ja) * | 1996-09-11 | 2006-06-14 | 日本電信電話株式会社 | 情報検索方法および情報検索システム |
JP3515050B2 (ja) * | 2000-07-07 | 2004-04-05 | 三菱電機株式会社 | データベース演算処理装置 |
KR100516046B1 (ko) * | 2003-12-01 | 2005-09-22 | 김강인 | 효율적인 로드 밸런싱을 통하여 클라이언트 요청을처리하는 미들웨어 시스템 |
KR20050121778A (ko) * | 2004-06-23 | 2005-12-28 | 육상수 | 데이터베이스 시스템의 감사, 통제 방법 및 시스템 |
JP2008090404A (ja) * | 2006-09-29 | 2008-04-17 | Just Syst Corp | 文書検索装置、文書検索方法および文書検索プログラム |
JP2008165293A (ja) * | 2006-12-27 | 2008-07-17 | Seiko Epson Corp | データ検索装置、デバイス管理装置、データ検索方法、およびコンピュータプログラム |
JP4821783B2 (ja) | 2008-02-08 | 2011-11-24 | 日本電気株式会社 | グリッドコンピューティングシステム及びデータ処理方法 |
US8229945B2 (en) * | 2008-03-20 | 2012-07-24 | Schooner Information Technology, Inc. | Scalable database management software on a cluster of nodes using a shared-distributed flash memory |
KR20100132752A (ko) * | 2009-06-10 | 2010-12-20 | (주)자이네스 | 데이터베이스 분산을 통한 서비스 성능 향상을 위한 질의 데이터 분산 처리시스템 |
-
2012
- 2012-03-05 KR KR1020120022434A patent/KR101365464B1/ko active IP Right Grant
-
2013
- 2013-01-11 EP EP13151082.8A patent/EP2637111B1/en active Active
- 2013-01-21 JP JP2013008599A patent/JP6338817B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
EP2637111A1 (en) | 2013-09-11 |
EP2637111B1 (en) | 2019-05-29 |
KR20130101349A (ko) | 2013-09-13 |
JP2013186890A (ja) | 2013-09-19 |
KR101365464B1 (ko) | 2014-02-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6338817B2 (ja) | データベースミドルウェアを用いたデータ管理システム及びその方法 | |
US11281669B2 (en) | Parallel processing database system | |
EP3285178B1 (en) | Data query method in crossing-partition database, and crossing-partition query device | |
US9336263B2 (en) | Data loading systems and methods | |
CN101727465B (zh) | 分布式列存储数据库索引建立、查询方法及装置与系统 | |
US9239741B2 (en) | System and method for flexible distributed massively parallel processing (MPP) | |
US8150836B2 (en) | System, method, and computer-readable medium for reducing row redistribution costs for parallel join operations | |
US8812492B2 (en) | Automatic and dynamic design of cache groups | |
JP6898320B2 (ja) | インデックス確立の方法およびデバイス | |
CN104182405A (zh) | 一种连接查询方法及装置 | |
CN104408159A (zh) | 一种数据关联、加载、查询方法及装置 | |
CN110399368B (zh) | 一种定制数据表的方法、数据操作方法及装置 | |
CN104268298A (zh) | 一种创建数据库索引及其查询的方法 | |
CN106471501A (zh) | 数据查询的方法、数据对象的存储方法和数据系统 | |
US11226986B2 (en) | Data table partitioning management method and apparatus | |
CN116701443A (zh) | 一种数据查询方法、装置、计算机设备及存储介质 | |
CN112632116B (zh) | 一种k-db数据库多节点集群调度的方法、系统、设备及介质 | |
CN112417225A (zh) | 一种多源异构数据的联合查询方法与系统 | |
CN108228654A (zh) | 一种大数据分布式存储方法和系统 | |
US10963426B1 (en) | Method of providing access controls and permissions over relational data stored in a hadoop file system | |
KR101648707B1 (ko) | 큐브리드 기반 미들웨어, 및 큐브리드 기반 미들웨어를 이용한 분산 병렬 질의 처리 방법 | |
Bhaskar et al. | An Analysis of Vertical Splitting Algorithm | |
CN113742346A (zh) | 资产大数据平台架构优化方法 | |
Cao et al. | Efficient and Flexible Index Access in MapReduce. | |
CN114297260A (zh) | 分布式rdf数据查询方法、装置和计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20141010 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150115 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170328 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170628 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171024 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20180124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180326 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180410 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180509 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6338817 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |