JP2013186890A - データベースミドルウェアを用いたデータ管理システム及びその方法 - Google Patents
データベースミドルウェアを用いたデータ管理システム及びその方法 Download PDFInfo
- Publication number
- JP2013186890A JP2013186890A JP2013008599A JP2013008599A JP2013186890A JP 2013186890 A JP2013186890 A JP 2013186890A JP 2013008599 A JP2013008599 A JP 2013008599A JP 2013008599 A JP2013008599 A JP 2013008599A JP 2013186890 A JP2013186890 A JP 2013186890A
- Authority
- JP
- Japan
- Prior art keywords
- shard
- database
- key
- hint
- data management
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000013523 data management Methods 0.000 title claims abstract description 37
- 238000012545 processing Methods 0.000 claims abstract description 34
- 230000008569 process Effects 0.000 claims description 12
- 238000012544 monitoring process Methods 0.000 claims description 10
- 238000011176 pooling Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 14
- 238000011156 evaluation Methods 0.000 description 5
- 238000007796 conventional method Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/278—Data partitioning, e.g. horizontal or vertical partitioning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/283—Multi-dimensional databases or data warehouses, e.g. MOLAP or ROLAP
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0608—Saving storage space on storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Human Computer Interaction (AREA)
Abstract
【解決手段】データベースミドルウェアを含むデータ管理システムにおいて、前記データベースミドルウェアは、入力されるクエリに基づいてシャードキー識別子を生成し、生成されたシャードキー識別子とデータベースミドルウェアに設定されたシャードメタデータとを用いて決定されたシャード識別子によって複数のデータベースのうち1つのデータベースを選択するシャードプロセシングモジュールを含む。
【選択図】図2
Description
WHERE emp_no=/*+SHARD_KEY*/?
SELECT*FROM emp_評価
WHERE emp_no=/*+SHARD_KEY*/1
SELECT*FROM emp_経歴
WHERE emp_no IN{/*+SHARD_KEY*/?、/*+SHARD_KEY*/?}
WHERE emp_no=/*+SHARD_KEY*/?
…
SELECT*FROM without_shard_table
WHERE/*+SHARD_VAL1*/no=「a」
WHERE emp_no=/*+SHARD_KEY*/?
…
SELECT*FROM emp/*+SHARD_ALL*/
WHERE emp_no=/*+SHARD_KEY(emp_no)*/?
SELECT*FROM emp_評価
WHERE emp_no=/*+SHARD_KEY(emp_no)*/1
…
SELECT*FROM力量レベル
WHERE level=/*+SHARD_KEY (level)*/?
231:シャードプロセシングモジュール
Claims (11)
- データベースミドルウェアを含むデータ管理システムにおいて、
前記データベースミドルウェアは、
入力されるクエリに基づいてシャードキー識別子を生成し、前記生成されたシャードキー識別子とシャードメタデータとを用いて決定されたシャード識別子によって複数のデータベースのうち1つのデータベースを選択するシャードプロセシングモジュールを含むことを特徴とするデータ管理システム。 - 前記複数のデータベースは、異種のデータベースを含み、
前記データベースミドルウェアは、
前記異種のデータベースの各々のために、クエリを実行する複数のクライアントライブラリーモジュールをさらに含むことを特徴とする請求項1に記載のデータ管理システム。 - 前記データベースミドルウェアは、
アプリケーション側の接続要求を容認したプロセスに分配するためのジョブキューモジュール、同時に複数のユーザ及びデータベースとの接続を保持して、必要時に接続を再使用するためのコネクションプーリングモジュール、リアルタイムモニタリングによって状態及び統計情報を収集するモニタリングモジュール、ユーザからのデータベース命令を処理するためのデータベースインターフェースモジュール、エラーまたは実行したクエリに対するイベントログを生成するロギングモジュールのうち少なくとも1つのモジュールをさらに含むことを特徴とする請求項1または請求項2項に記載のデータ管理システム。 - 前記シャードプロセシングモジュールは、
前記入力されるクエリに含まれる予め設定されたヒントをさらに用いて前記シャード識別子を選択することを特徴とする請求項1から請求項3のいずれか一項に記載のデータ管理システム。 - 前記予め設定されたヒントは、
(1)1つのデータベースが1つのシャードキーを有する場合、前記入力されるクエリを処理するシャード識別子を選択するためにバインド変数またはリテラル値の前に位置するヒントを含み、
(2)1つのデータベースが1つのシャードキーを有する場合、シャードキーを有さないテーブルの処理のためのヒントを含み、
(3)1つのデータベースが1つのシャードキーを有する場合、すべてのシャードにあるデータを選択するためのヒントを含み、
(4)1つのデータベースがいくつかのシャードキーを有する場合、特定のシャードキーを選択してデータを選択するためのヒントを含む、ことを特徴とする請求項4に記載のデータ管理システム。 - データベースミドルウェアを含むデータ管理システムでデータを管理する方法であって、
前記データベースミドルウェアが含むシャードプロセシングモジュールにおいて、
シャードキー値を得るための関数とシャードキー識別子を得るための関数とを実行し、
前記関数のリターン値と、前記データベースミドルウェアに設定されたシャードメタデータとを用いて前記複数のデータベースの各々を識別するシャード識別子のうち1つのシャード識別子を選択すること、
を含むデータ管理方法。 - 前記複数のデータベースは、異種のデータベースを含み、
前記データベースミドルウェアは、
前記異種のデータベースの各々のために、クエリを実行する複数のクライアントライブラリーモジュールをさらに含むことを特徴とする請求項6に記載のデータ管理方法。 - 前記データベースミドルウェアは、
アプリケーション側の接続要求を容認したプロセスに分配するためのジョブキューモジュール、同時に複数のユーザ及びデータベースとの接続を保持して、必要時に接続を再使用するためのコネクションプーリングモジュール、リアルタイムモニタリングによって状態及び統計情報を収集するモニタリングモジュール、ユーザからのデータベース命令を処理するためのデータベースインターフェースモジュール、エラーまたは実行したクエリに対するイベントログを生成するロギングモジュールのうち少なくとも1つのモジュールをさらに含むことを特徴とする請求項6または請求項7項に記載のデータ管理方法。 - 前記シャード識別子を選択することは、
前記入力されるクエリに含まれる予め設定されたヒントをさらに用いて前記シャード識別子を選択することを特徴とする請求項6から請求項8のいずれか一項に記載のデータ管理方法。 - 前記予め設定されたヒントは、
(1)1つのデータベースが1つのシャードキーを有する場合、前記入力されるクエリを処理するシャード識別子を選択するためにバインド変数またはリテラル値の前に位置するヒントを含み、
(2)1つのデータベースが1つのシャードキーを有する場合、シャードキーを有さないテーブルの処理のためのヒントを含み、
(3)1つのデータベースが1つのシャードキーを有する場合、すべてのシャードにあるデータを選択するためのヒントを含み、
(4)1つのデータベースがいくつかのシャードキーを有する場合、特定のシャードキーを選択してデータを選択するためのヒントを含む、ことを特徴とする請求項9に記載のデータ管理方法。 - 請求項6から請求項10のいずれか一項に係る方法を実行するプログラムを記録したコンピュータ読み出し可能記録媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020120022434A KR101365464B1 (ko) | 2012-03-05 | 2012-03-05 | 데이터베이스 미들웨어를 이용한 데이터 관리 시스템 및 방법 |
KR10-2012-0022434 | 2012-03-05 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013186890A true JP2013186890A (ja) | 2013-09-19 |
JP6338817B2 JP6338817B2 (ja) | 2018-06-06 |
Family
ID=47678575
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013008599A Active JP6338817B2 (ja) | 2012-03-05 | 2013-01-21 | データベースミドルウェアを用いたデータ管理システム及びその方法 |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP2637111B1 (ja) |
JP (1) | JP6338817B2 (ja) |
KR (1) | KR101365464B1 (ja) |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105264521B (zh) * | 2014-02-18 | 2018-10-30 | 华为技术有限公司 | 一种数据表的导入方法、数据管理器以及服务器 |
US10410169B2 (en) | 2014-05-30 | 2019-09-10 | Walmart Apollo, Llc | Smart inventory management and database sharding |
US10346897B2 (en) | 2014-05-30 | 2019-07-09 | Walmart Apollo, Llc | Method and system for smart order management and application level sharding |
US9659079B2 (en) | 2014-05-30 | 2017-05-23 | Wal-Mart Stores, Inc. | Shard determination logic for scalable order and inventory management architecture with a sharded transactional database |
US10043208B2 (en) | 2014-05-30 | 2018-08-07 | Walmart Apollo, Llc | Smart order management and database sharding |
EP3286664B1 (en) * | 2015-04-20 | 2021-10-13 | Oracle International Corporation | System and method for providing access to a sharded database using a cache and a shard topology |
US9672110B1 (en) | 2015-09-22 | 2017-06-06 | Amazon Technologies, Inc. | Transmission time refinement in a storage system |
US10254980B1 (en) | 2015-09-22 | 2019-04-09 | Amazon Technologies, Inc. | Scheduling requests from data sources for efficient data decoding |
US10909211B2 (en) * | 2016-08-12 | 2021-02-02 | Oracle International Corporation | System and method for control of maximum connections in a connection pool environment |
US11290540B2 (en) | 2016-08-12 | 2022-03-29 | Oracle International Corporation | System and method for use of server-side connection pool tagging in a multi-tenant environment |
CN108090056B (zh) * | 2016-11-21 | 2021-06-15 | 中兴通讯股份有限公司 | 数据查询方法、装置及系统 |
CN108874837B (zh) * | 2017-05-16 | 2021-09-03 | 北京京东尚科信息技术有限公司 | 数据库分库方法、装置、中间件及存储介质和电子设备 |
KR101885554B1 (ko) * | 2017-09-01 | 2018-08-06 | 한화시스템 주식회사 | e-내비게이션 서비스를 위한 이종 데이터 처리 시스템 또는 데이터 서비스 플랫폼의 이종 데이터 처리 방법 |
US11061905B2 (en) * | 2017-12-08 | 2021-07-13 | International Business Machines Corporation | Job management in data processing system |
KR102276600B1 (ko) * | 2019-03-28 | 2021-07-13 | 한국전자기술연구원 | 열처리 공정의 전력 빅데이터 분석을 위한 데이터 분산처리 관리방법 및 시스템 |
KR20200136151A (ko) | 2019-05-27 | 2020-12-07 | 삼성에스디에스 주식회사 | 동적 샤드 선택 장치 및 방법 |
CN111400285B (zh) * | 2020-03-25 | 2023-06-20 | 杭州浮云网络科技有限公司 | mySQL数据分片处理方法、装置、计算机设备和可读存储介质 |
CN111813573B (zh) * | 2020-06-29 | 2022-09-20 | 中国平安人寿保险股份有限公司 | 管理平台与机器人软件的通信方法及其相关设备 |
CN115803733A (zh) * | 2020-08-12 | 2023-03-14 | 阿里巴巴集团控股有限公司 | 无服务器架构中工作流应用的分片 |
CN112417044B (zh) * | 2020-11-20 | 2023-10-31 | 中国平安人寿保险股份有限公司 | 新增附加险系统的数据处理方法、装置及计算机设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10143539A (ja) * | 1996-09-11 | 1998-05-29 | Nippon Telegr & Teleph Corp <Ntt> | 情報検索方法および情報検索システムおよび情報資源辞書データを記録した記録媒体および情報検索プログラムを記録した記録媒体 |
JP2002024281A (ja) * | 2000-07-07 | 2002-01-25 | Mitsubishi Electric Corp | データベース演算処理装置 |
JP2008090404A (ja) * | 2006-09-29 | 2008-04-17 | Just Syst Corp | 文書検索装置、文書検索方法および文書検索プログラム |
JP2008165293A (ja) * | 2006-12-27 | 2008-07-17 | Seiko Epson Corp | データ検索装置、デバイス管理装置、データ検索方法、およびコンピュータプログラム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100516046B1 (ko) * | 2003-12-01 | 2005-09-22 | 김강인 | 효율적인 로드 밸런싱을 통하여 클라이언트 요청을처리하는 미들웨어 시스템 |
KR20050121778A (ko) * | 2004-06-23 | 2005-12-28 | 육상수 | 데이터베이스 시스템의 감사, 통제 방법 및 시스템 |
JP4821783B2 (ja) | 2008-02-08 | 2011-11-24 | 日本電気株式会社 | グリッドコンピューティングシステム及びデータ処理方法 |
US8229945B2 (en) * | 2008-03-20 | 2012-07-24 | Schooner Information Technology, Inc. | Scalable database management software on a cluster of nodes using a shared-distributed flash memory |
KR20100132752A (ko) * | 2009-06-10 | 2010-12-20 | (주)자이네스 | 데이터베이스 분산을 통한 서비스 성능 향상을 위한 질의 데이터 분산 처리시스템 |
-
2012
- 2012-03-05 KR KR1020120022434A patent/KR101365464B1/ko active IP Right Grant
-
2013
- 2013-01-11 EP EP13151082.8A patent/EP2637111B1/en active Active
- 2013-01-21 JP JP2013008599A patent/JP6338817B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10143539A (ja) * | 1996-09-11 | 1998-05-29 | Nippon Telegr & Teleph Corp <Ntt> | 情報検索方法および情報検索システムおよび情報資源辞書データを記録した記録媒体および情報検索プログラムを記録した記録媒体 |
JP2002024281A (ja) * | 2000-07-07 | 2002-01-25 | Mitsubishi Electric Corp | データベース演算処理装置 |
JP2008090404A (ja) * | 2006-09-29 | 2008-04-17 | Just Syst Corp | 文書検索装置、文書検索方法および文書検索プログラム |
JP2008165293A (ja) * | 2006-12-27 | 2008-07-17 | Seiko Epson Corp | データ検索装置、デバイス管理装置、データ検索方法、およびコンピュータプログラム |
Also Published As
Publication number | Publication date |
---|---|
EP2637111A1 (en) | 2013-09-11 |
EP2637111B1 (en) | 2019-05-29 |
JP6338817B2 (ja) | 2018-06-06 |
KR101365464B1 (ko) | 2014-02-20 |
KR20130101349A (ko) | 2013-09-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6338817B2 (ja) | データベースミドルウェアを用いたデータ管理システム及びその方法 | |
CN109299102B (zh) | 一种基于Elastcisearch的HBase二级索引系统及方法 | |
US11120022B2 (en) | Processing a database query using a shared metadata store | |
EP3285178B1 (en) | Data query method in crossing-partition database, and crossing-partition query device | |
CN104182405B (zh) | 一种连接查询方法及装置 | |
JP6898320B2 (ja) | インデックス確立の方法およびデバイス | |
CN105550274B (zh) | 双副本并行数据库的查询方法和装置 | |
WO2018040722A1 (zh) | 表数据查询方法及装置 | |
US8150836B2 (en) | System, method, and computer-readable medium for reducing row redistribution costs for parallel join operations | |
US8812492B2 (en) | Automatic and dynamic design of cache groups | |
CN108664516A (zh) | 查询优化方法及相关装置 | |
CN104408159A (zh) | 一种数据关联、加载、查询方法及装置 | |
CN104268298A (zh) | 一种创建数据库索引及其查询的方法 | |
WO2017088666A1 (zh) | 一种数据存储方法和协调节点 | |
CN107102995B (zh) | 一种sql执行计划的确定方法及装置 | |
CN110399368B (zh) | 一种定制数据表的方法、数据操作方法及装置 | |
CN106471501A (zh) | 数据查询的方法、数据对象的存储方法和数据系统 | |
CN112417225A (zh) | 一种多源异构数据的联合查询方法与系统 | |
CN116701443A (zh) | 一种数据查询方法、装置、计算机设备及存储介质 | |
CN108228654A (zh) | 一种大数据分布式存储方法和系统 | |
US10042957B2 (en) | Devices and methods for implementing dynamic collaborative workflow systems | |
CN114297260A (zh) | 分布式rdf数据查询方法、装置和计算机设备 | |
CN103748578A (zh) | 数据分布的方法、装置及系统 | |
KR101648707B1 (ko) | 큐브리드 기반 미들웨어, 및 큐브리드 기반 미들웨어를 이용한 분산 병렬 질의 처리 방법 | |
US20190370259A1 (en) | Devices and methods for implementing dynamic collaborative workflow systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20141010 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150115 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170328 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170628 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171024 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20180124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180326 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180410 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180509 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6338817 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |