KR102008446B1 - 하이브리드샤딩시스템 - Google Patents
하이브리드샤딩시스템 Download PDFInfo
- Publication number
- KR102008446B1 KR102008446B1 KR1020170053564A KR20170053564A KR102008446B1 KR 102008446 B1 KR102008446 B1 KR 102008446B1 KR 1020170053564 A KR1020170053564 A KR 1020170053564A KR 20170053564 A KR20170053564 A KR 20170053564A KR 102008446 B1 KR102008446 B1 KR 102008446B1
- Authority
- KR
- South Korea
- Prior art keywords
- shard
- sharding
- query
- hybrid
- metanode
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2219—Large Object storage; Management thereof
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
본 발명의 바람직한 일 실시예로서, 하이브리드샤딩(Hybrid-Sharding)시스템으로, 상기 시스템은 분산된 데이터를 저장하는 적어도 하나 이상의 샤드DB;및 하이브리드샤딩부;를 포함하고, 상기 하이브리드샤딩부는 샤드라이브러리 및 메타노드를 포함하는 것을 특징으로 한다.
Description
본 발명은 데이터베이스의 샤딩방법에 관한 것이다. 보다 상세히, 서버측 샤딩기술과 클라이언트측 샤딩기술을 통합한 하이브리드샤딩시스템에 관한 것이다.
최근 비즈니스 환경에서 폭발적인 데이터의 증가로 데이터 분산 처리 및 저장 기술과 함께 발전된 분산 데이터 베이스 기술이 각광을 받고 있다. 다양한 데이터 처리 기술 가운데 샤딩(Sharding)기술은 대용량의 데이터를 쉽게 나누어 처리하므로서 고성능의 시스템을 도입하지 않고서도 저가의 시스템을 이용한 Scale out 방식의 시스템 증설로 대용량 데이터 처리를 할 수 있다.
데이터베이스 분야에서 샤딩은 물리적으로 다른 데이터베이스에 데이터를 수평 분할 방식으로 분산 저장하고 조회하는 방법을 의미하며, 샤드(shard)라고 부르는 각각의 개별 파티션이 있는 하나의 데이터베이스의 수평적인 파티셔닝을 의미한다. 샤딩을 수행하는 경우 하나의 큰 데이터베이스를 관리하는 것에 비하여, 각 샤드가 연산 자원의 지원을 더 많이 받을 수 있으므로, 데이터 처리 속도가 빨라지고, 이중화 기술이 적용되는 경우 하나의 샤드에 장애가 발생하더라도 다른 샤드에서 서비스를 제공할 수 있으므로 신뢰도가 향상되는 등의 효과가 있다.
서버측 샤딩 시스템의 경우 추가되는 데이터 노드가 증가할수록 성능향상을 기대하기 어려운 문제점이 있고, 클라이언트 샤딩 시스템의 경우 데이터 분산 정책이 변경되면 시스템 재구축 비용이 큰 단점이 있다.
본 발명의 바람직한 일 실시예로서, 하이브리드샤딩(Hybrid-Sharding)시스템으로, 상기 시스템은 분산된 데이터를 저장하는 적어도 하나 이상의 샤드DB;및 하이브리드샤딩부;를 포함하고, 상기 하이브리드샤딩부는 사용자 쿼리를 분석하여 샤드 객체가 포함된 샤드쿼리인지 판단하고, 샤드쿼리인 경우 샤드키(Shard Key)를 기준으로 데이터를 상기 적어도 하나 이상의 샤드DB 각각에 분산처리하는 메타노드;및 클라이언트 단말기의 어플리케이션에 라이브러리 형태로 설치되어, 상기 어플리케이션과 상기 적어도 하나 이상의 샤드DB 간의 코디네이터 역할을 수행하며, 사용자 쿼리를 상기 메타 노드에 전달하고, 상기 메타노드에 등록된 상기 적어도 하나 이상의 샤드DB의 정보를 수신하여 상기 클라이언트 단말기와 상기 적어도 하나 이상의 샤드DB의 연결을 수행하는 샤드라이브러리;를 포함하는 것을 특징으로 한다.
바람직하게, 상기 하이브리드샤딩부는 서버측 샤딩모드 또는 클라이언트측 샤딩모드를 선택하는 선택부;를 더 포함하는 것을 특징으로 한다.
바람직하게, 상기 하이브리드샤딩부에서 상기 샤드라이브러리는 사용자 질의문을 해석할 때 최초 1회 접속시 상기 메타노드에 상기 샤드DB들 각각에 있는 테이블 정보를 요청하여, 상기 샤드DB 중 어느 곳에 데이터가 있는지를 문의하고 상기 메타노드로부터 이에 대한 답변을 수신함으로써 이후에는 상기 샤드라이브러리가 직접 상기 샤드DB 각각에 접속을 수행하는 것을 특징으로 한다.
본 발명의 또 다른 바람직한 일 실시예로서, 하이브리드샤딩(Hybrid-Sharding)시스템에서 샤딩을 수행하는 방법은 클라이언트 단말기의 어플리케이션에 라이브러리 형태로 설치되어, 상기 어플리케이션과 적어도 하나 이상의 샤드DB 간의 코디네이터 역할을 수행하는 샤드라이브러리에서 사용자 쿼리를 메타 노드에 전달하는 단계; 샤드라이브러리에서 상기 메타노드에 등록된 적어도 하나 이상의 샤드DB의 정보를 수신하여 클라이언트 단말기와 적어도 하나 이상의 샤드DB의 연결을 수행하는 단계; 메타노드에서 상기 사용자 쿼리를 분석하여 샤드 객체가 포함된 샤드쿼리인지 판단하는 단계; 및 메타노드에서 판단결과 샤드쿼리인 경우 샤드키(Shard Key)를 기준으로 데이터를 적어도 하나 이상의 샤드DB 각각에 분산처리하는 단계;를 포함한다.
본 발명의 바람직한 일 실시예로서 하이브리드 샤딩장치는 저장 용량과 시간당 처리량을 향상시켜 대용량의 데이터베이스를 분산 처리할 수 있는 효과가 있다.
도 1 은 본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템(100)을 도시한다.
도 2 는 서버측 샤딩을 수행하는 시스템의 일 예를 도시한다.
도 3 는 클라이언트측 샤딩을 수행하는 시스템의 일 예를 도시한다.
도 4 는 본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템의 동작 방식을 도시한다.
도 5는 기존의 샤딩 시스템에서 샤딩을 수행하기 위한 단계를 도시한 시스템도를 도시한다.
도 6 은 본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템에서 샤딩을 수행하기 위한 단계를 도시한다.
도 7 은 본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템에서 샤딩을 수행하는 흐름도를 도시한다.
도 2 는 서버측 샤딩을 수행하는 시스템의 일 예를 도시한다.
도 3 는 클라이언트측 샤딩을 수행하는 시스템의 일 예를 도시한다.
도 4 는 본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템의 동작 방식을 도시한다.
도 5는 기존의 샤딩 시스템에서 샤딩을 수행하기 위한 단계를 도시한 시스템도를 도시한다.
도 6 은 본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템에서 샤딩을 수행하기 위한 단계를 도시한다.
도 7 은 본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템에서 샤딩을 수행하는 흐름도를 도시한다.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명한다. 본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시 예들을 참조하면 명확해질 것이다.
샤딩(Sharding)은 한 대의 데이터베이스에 저장했던 데이터를 여러 대의 데이터베이스에 분산하여 저장 및 처리하는 스케일 아웃(Scale-out) 기술이다. 샤딩기술은 대용량의 데이터를 쉽게 나누어 처리하므로서 고성능의 시스템을 도입하지 않고서도 저가의 시스템을 이용한 스케일 아웃 방식의 시스템 증설로 대용량 데이터 처리를 할 수 있다.
샤딩기술은 일반적으로 코디네이터를 이용하여 데이터를 분리하여 처리하는 서버측(Server-side)샤딩 방식과 어플리케이션에서 데이터를 분리하여 처리하는 클라이언트측(Client-side) 샤딩 방식으로 나눌 수 있다.
도 1 은 본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템(100)을 도시한다. 본 발명의 바람직한 일 실시예에로서, 하이브리드샤딩시스템은 서버측 샤딩기능과 클라이언트측 샤딩 기능을 동시에 지원할 수 있다. 또한, 필요에 따라 서버측 샤딩기능만을 선택하거나 또는 클라이언트측 샤딩기능만을 선택하도록 구현이 가능하다.
본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템(100)에서 서버측 샤딩은 샤드DB(130, 132, 134, 136)의 수가 증가하더라도 전체 성능향상에 무리가 없으며, 데이터 분산 정책을 변경하는 경우에도 클라이언트 단말기의 어플리케이션을 수정하지 않을 수 있는 장점이 있다.
본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템(100)에서 클라이언트측 샤딩은 기존 어플리케이션 소스나 기존 SQL을 수정하지 않은 채, 샤드 전용 라이브러리만 교체하는 것만으로 구현이 가능하다.
본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템(100)은 클라이언트 단말기(110), 클라이언트 단말기(110)에 설치된 적어도 하나의 어플리케이션(112, 114, 116) 그리고, 각각의 어플리케이션(112, 114, 116)마다 설치된 샤드라이브러리(Shard Library)(113, 115, 117), 메타노드(120), 분산된 데이터를 저장하는 적어도 하나의 샤드DB(130, 132, 134, 136)를 포함한다.
본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템(100)은 하이브리드샤딩부를 포함한다. 하이브리드샤딩부는 메타노드(120) 및 적어도 하나의 샤드라이브러리(113, 115, 117)을 포함하는 것으로 한다.
본 발명의 바람직한 일 실시예로서, 메타노드(120)는 데이터 노드 및 샤딩 정보를 관리하고, 사용자 쿼리를 분석하며, 도 2 에 도시된 일 예에서와 같이 서버측샤딩기능 수행시 통합 쿼리 제공 등의 코디네이터 역할을 수행한다. 또한, 데이터를 샤드DB들에 재분배하는 기능을 수행한다.
본 발명의 바람직한 일 실시예로서, 적어도 하나의 샤드라이브러리(113, 115, 117)는 클라이언트단말기에 라이브러리(Library) 형태로 설치되어 샤딩 기능을 수행하며, 기존의 ODBC와 동일한 API인터페이스를 제공한다.
본 발명의 바람직한 일 실시예로서, 적어도 하나의 샤드라이브러리(113, 115, 117)는 또한 클라이언트 단말기에 설치된 어플리케이션(112, 114, 116)과 샤드DB(130, 132, 134, 136)간에 코디네이터 역할을 수행한다.
본 발명의 바람직한 일 실시예에서는 하이브리드샤딩부를 이용하여, 서버측샤딩기능과 클라이언트측 샤딩 기능을 동시에 지원할 수 있다. 또한, 샤드 관리자는 하이브리드샤딩부에 추가로, 서버측 샤딩 기능과 클라이언트측 샤딩 기능 중 하나를 선택할 수 있는 선택기능을 더 구비할 수 있다.
도 2 는 서버측 샤딩을 수행하는 시스템의 일 예를 도시한다. 도 2와 같은 서버측 샤딩은 클라이언트 단말기(200, 212, 214)에 설치된 어플리케이션과의 호환을 위해 분할된 샤드DB(230, 232, 234)를 통합하는 코디네이터(220)가 필요하다.
코디네이터(220)는 어플리케이션에서 요청받은 질의에 해당하는 데이터의 위치를 파악하고, 해당 샤드DB(230, 232, 234)에 재접속하여 질의를 재수행한 후 결과를 어플리케이션에 반환한다.
이러한 서버측 샤딩 시스템은 데이터 분산 정책이 변경되는 경우, 클라이언트 단말기에 설치된 어플리케이션의 수정이 불필요한 이점이 있으나, 코디네이터에 부하가 집중되어 샤드DB노드가 추가될수록 성능향상이 저하되는 단점이 있다.
도 3 는 클라이언트측 샤딩을 수행하는 시스템의 일 예를 도시한다. 도 3와 같은 클라이언트측 샤딩은 클라이언트 단말기(310, 312, 314)에 설치된 어플리케이션에서 데이터가 위치한 샤드DB(330, 332, 334)를 미리 알고 있으므로, 직접 해당 샤드DB(330, 332, 334)에 접속이 가능하다. 따라서, 클라이언트측 샤딩은 별도의 코디네이터가 필요없다는 이점이 있고, 샤드DB 노드의 수가 증가할수록 전체 처리량(throughput) 성능이 증가되는 이점이 있다.
그러나, 클라이언트측 샤딩은 어플리케이션을 작성하기가 어렵고, 데이터 분산정책이 변경될 경우 클라이언트 측의 어플리케이션 수정 및 데이터 재분배 작업을 수행이 요구되어 시스템 재구축 비용이 큰 단점이 있다.
도 4 는 본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템의 동작 방식을 도시한다.
본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템은 서버측샤딩기능 및 클라이언트측샤딩기능을 모두 구현할 수 있다.
먼저, 도 4를 참고하여 하이브리드샤딩시스템의 서버측샤딩기능을 기술한다.
하이브리드샤딩시스템의 서버측 샤딩은 클라이언트 단말기에 설치된 어떤 응용프로그래도 수정할 필요없이 사용할 수 있는 이점이 있다. 서버측샤딩기능 구현시 샤드 커넥션 관리는 다음과 같이 이루어진다.
클라이언트 단말기(410)에 설치된 어플리케이션(412)에서 샤드라이브러리(413)를 통해 메타노드(420)에 접속을 시도한다. 일반적인 데이터베이스 접속 방식과 동일한 방식으로 접속이 가능하다.
메타노드(420)에서 세션을 생성한다. 어플리케이션(412)에서 메타노드(420)에 샤드 객체가 포함된 사용자 쿼리를 요청한다
샤드객체가 포함된 샤드쿼리인지를 판단하는 일 예는 다음과 같다.
/* 노드 구성 완료 후 각 노드에 테이블 생성 */
CREATE TABLE t1(id INTEGER, name VARCHAR(50));
/*
T1
을
샤드
테이블로 설정 */
EXEC DBMS_SHARD.SET_SHARD_TABLE('SYS', 'T1', 'R', 'ID', 'NODE1');
EXEC DBMS_SHARD.SET_SHARD_RANGE('SYS', 'T1', 3, 'NODE2');
EXEC DBMS_SHARD.SET_SHARD_RANGE('SYS', 'T1', 6, 'NODE3');
/* 각 노드에 데이터 입력 */
INSERT INTO t1 VALUES(1, 'Kim');
INSERT INTO t1 VALUES(2, 'Lee');
INSERT INTO t1 VALUES(3, 'Park');
INSERT INTO t1 VALUES(4, 'Choi');
INSERT INTO t1 VALUES(5, 'Jeong');
INSERT INTO t1 VALUES(6, 'Kang');
INSERT INTO t1 VALUES(7, 'Joe');
INSERT INTO t1 VALUES(8, 'Yoon');
INSERT INTO t1 VALUES(9, 'Jang');
/* 쿼리 테스트 */
iSQL
> SELECT * FROM
t1
WHERE id = 2;
특정 노드에서만 조회가 가능하므로 정상수행이 이루어진다.
ID NAME
-------------------------------------------------------------------
2 Lee
1 row selected.
iSQL
> SELECT * FROM
t1
; --
샤드
테이블이므로
단일쿼리
조회시 오류발생
[ERR-E1385 : The shard table is only available inside the shard view.:
0001 : SELECT * FROM T1
]
iSQL
> SHARD SELECT * FROM
t1
; -- 분산 저장된 모든 데이터 조회시 "SHARD" 구문 사용
ID NAME
-------------------------------------------------------------------
7 Joe
8 Yoon
9 Jang
1 Kim
2 Lee
3 Park
4 Choi
5 Jeong
6 Kang
9 rows selected.
iSQL
> SELECT * FROM
t1
WHERE id = 2 OR id = 3; -- 특정 노드에서만 조회 가능하므로 정상수행
ID NAME
-------------------------------------------------------------------
2 Lee
3 Park
2 rows selected.
iSQL
> SELECT COUNT(*) FROM
t1
; --
모든 노드의 합을 구하여 조회해야 하므로
단일쿼리
사용시 오류 발생
[ERR-E1385 : The shard table is only available inside the shard view.:
0001 : SELECT COUNT(*) FROM T1
]
iSQL
>
SHARD SELECT COUNT(*) FROM
t1
;
--모든 노드의 합을 구하여 조회해야 하므로 "SHARD" 구문 사용하여 조회
COUNT(*)
-----------------------
3
3
3
3 rows selected.
iSQL
>
SELECT SUM(
c1
) FROM SHARD(SELECT COUNT(*)
c1
FROM
t1
);
--모든 노드의 합을 구하여 조회해야 하므로 "SHARD" 구문 사용하여 조회
SUM(C1)
-----------------------
9
1 row selected.
메타노드(420)는 메타노드에 등록된 모든 샤드DB(430, 432, 434, 436, 438)에 대해 샤드 커넥션을 세션마다 생성한다. 세션이 종료되면 샤드커넥션도 종료된다.
위와 같이 하이브리드샤딩시스템에서 샤드 커넥션 관리를 수행하고(S410), 그 과정에서 입력된 사용자 쿼리는 아래와 같이 분석한다(S420).
메타노드(420)는 어플리케이션(412)에서 요청한 사용자 쿼리를 분석한다. 사용자 쿼리가 샤드쿼리인 경우 분석 결과가 생성되고, 분석 결과에 의해 질의 최적화를 수행하여 plan tree를 생성한다. 메타노드(420)는 사용자 쿼리가 샤드쿼리인 경우와 샤드쿼리가 아닌 경우를 분류하여 처리할 수 있다. 샤드쿼리가 아닌 사용자 쿼리는 메타노드(420)에서 코디네이터의 역할로써 해당 사용자 쿼리를 처리한다.
샤드쿼리를 수행하면, 메타노드(420)는 생성된 plan tree를 수행하고, 쿼리 수행 이후 plan을 조회하면 각 샤드DB(430, 432, 434, 436, 438)에서 수행한 샤드SQL의 plan을 조회할 수 있다. 메타노드(420)는 샤드쿼리의 수행결과를 어플리케이션(412)에 반환한다.
다음으로, 도 4를 참고하여 하이브리드샤딩시스템의 클라이언트측샤딩기능을 기술한다.
본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템의 클라이언트측샤딩기능은 샤드 전용 라이브러리(413)와 메타노드(420)를 이용함으로써, 어플리케이션의 변경이나 SQL 수정이 필요하지 않다.
본 발명의 바람직한 일 실시예로서, 하이브리드샤딩시스템이 클라이언트측샤딩기능을 구현할 경우, 메타노드(420)는 어플리케이션에서 처음으로 질의를 준비하는(442) 경우에만 분석을 통해 샤드DB들의 스키마 정보를 포함하는 메타정보를 생성한다. 어플리케이션(412)은 메타노드(420)에 최초 1회 접속시 샤드 스키마(Shard Schema) 조회를 통해 샤드DB(430, 432, 434)에 어떤 테이블들이 있는지 정보를 파악한다. 최초 1회만 분석이 요구될 뿐 추가적인 분석이 요구되지 않는다.
메타노드(420)는 생성한 메타정보와 어플리케이션(412)의 바인드 정보만으로 질의를 반복적으로 수행할 수 있다. 그 결과 클라이언트측샤딩의 성능확장성을 그대로 유지하면서도 어플리케이션을 수정하거나 재작성할 필요가 없는 이점이 발생한다.
메타노드(420)는 사용자 쿼리를 분석하여 샤드 객체가 포함된 샤드쿼리인 경우 샤드키(Shard Key)(450)를 기준으로 데이터를 적어도 하나 이상의 샤드DB(430, 432, 434, 436, 438) 각각에 분산처리를 수행한다. 본 발명의 바람직한 일 실시예에서는 샤드키(Shard Key)(450)를 이용하는 방식으로 Range, List, Hash 등의 방식을 이용할 수 있다.
하이브리드샤딩시스템이 클라이언트측샤딩기능 구현시 어플리케이션(412)에서 메타노드(420)로 SQLDriverConnect() 함수(S414)를 호출하면 샤드라이브러리(413)가 메타노드(420)에 접속한다. 샤드라이브러리(413)는 메타노드(420)에 등록되어 있는 데이터 노드의 역할을 수행하는 모든 샤드DB(430, 432, 434, 436, 438)들의 정보를 수신한다. 그 후, 모든 샤드DB(430, 432, 434, 436, 438)에 접속하면 어플리케이션(412)에 접속에 성공했음을 알린다. 그러나, 샤드DB(430, 432, 434, 436, 438)들 중 하나라도 접속이 실패하면, 이미 접속이 성공한 샤드DB들의 연결을 종료하고 어플리케이션(412)에 접속에 실패했음을 알린다.
샤드 커넥션이 생성되면, 어플리케이션(412)에서 SQLPrepare() 함수를 호출한다(442). 샤드라이브러리(413)는 사용자 쿼리를 메타노드(420)에 전달한다. 메타노드(420)는 어플리케이션(412)에서 수신한 사용자쿼리가 샤드쿼리인지를 분석하여 분석결과를 샤드라이브러리(413)에 전달한다.
사용자쿼리가 샤드라이브러리(413)에서 수행할 수 없는 쿼리인 경우에는 오류메시지를 어플리케이션(412)에 전달한다. 사용자 쿼리 분석 결과는 사용자 쿼리가 샤드쿼리인지 여부, 샤드쿼리인 경우 샤드쿼리가 수행될 수 있는 샤드DB의 리스트, 샤드키와 관련한 호스트 변수 및 바인드 값에 대한 해석 방법등을 포함할 수 있다.
샤드쿼리가 분석되면 샤드라이브러리(413)는 사용자 쿼리 분석 결과에 포함된 샤드DB들에 대하여 SQLPrepare()(442) 작업을 수행한다. 어플리케이션(412)에서 SQLBindParameter() 함수(444)를 호출하면 사용자 쿼리 분석 결과에 포함된 샤드DB들에 대하여 SQLBindParameter()(444)를 수행한다.
어플리케이션(412)에서 SQLExecute()(446)를 수행하면, 샤드라이브러리(413)는 바인드된 값들 중에서 샤드키와 관련된 값을 찾고, 그 후 바인드값을 해석하여 샤드 쿼리를 수행할 샤드DB(430, 432, 434, 436, 438)를 선택한다. 선택된 샤드DB에 대하여 SQLExecute()(446)를 수행하고, 수행 결과를 어플리케이션(412)에 전달한다.
도 5는 기존의 샤딩 시스템에서 샤딩을 수행하는 시스템도를 도시한다.
종래에는 클라이언트(510)가 코디네이터(520)에 사용자쿼리를 전달하고(S510), 결과를 코디네이터(520)로부터 수신한 후(S511), 코디네티어(520)가 데이터 노드(530, 532,534)에 재차 사용자 쿼리를 전달하고(S512), 그에 대한 결과값을 수신해야만 했다(S513). 따라서, 데이터 처리를 수행할 때마다, 네트워크를 2회 거쳐야 하는 불편함이 있었다.
그러나, 도 6에 도시된 본 발명의 바람직한 일 실시예로서 하이브리드샤딩 시스템은 최초에만 메타노드와 통신이 요구되며(S610 S611), 그 이후의 데이터 처리 수행시에는 클라이언트 단말기에서 직접 데이터 노드 또는 샤드 노드(630, 632, 634)에 액세스가 가능하여(S612, S613) 통신 비용이 줄어들고, 샤드노드가 추가되더라도 성능향상에 제약이 없는 이점이 있다.
도 7 은 본 발명의 바람직한 일 실시예로서, 하이브리드샤딩(Hybrid-Sharding)시스템에서 샤딩을 수행하는 방법의 흐름도를 도시한다.
클라이언트 단말기의 샤드라이브러리(도 4, 413 참고)는 사용자 쿼리를 메타 노드(도 4, 420 참고)에 전달한다(S710). 샤드라이브러리에서 메타노드에 등록된 적어도 하나 이상의 샤드DB의 정보를 수신하여 클라이언트 단말기와 적어도 하나 이상의 샤드DB의 연결을 수행한다(S720). 그 후 메타노드에서 사용자 쿼리를 분석하여 샤드 객체가 포함된 샤드쿼리인지 판단한 후, 샤드쿼리인 경우 샤드키(Shard Key)를 기준으로 데이터를 적어도 하나 이상의 샤드DB 각각에 분산처리를 수행한다(S730).
본 발명은 또한 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플라피디스크, 광데이터 저장장치 등이 있다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.
이상 도면과 명세서에서 최적 실시예들이 개시되었다. 여기서 특정한 용어들이 사용되었으나, 이는 단지 본 발명을 설명하기 위한 목적에서 사용된 것이지 의미 한정이나 특허청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 그러므로 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다.
Claims (11)
- 하이브리드샤딩(Hybrid-Sharding)시스템으로, 상기 시스템은
분산된 데이터를 저장하는 적어도 하나 이상의 샤드DB;및
하이브리드샤딩부;를 포함하고, 상기 하이브리드샤딩부는
사용자 쿼리를 분석하여 샤드 객체가 포함된 샤드쿼리인지 판단하고, 샤드쿼리인 경우 샤드키(Shard Key)를 기준으로 데이터를 상기 적어도 하나 이상의 샤드DB 각각에 분산처리하는 메타노드;및
클라이언트 단말기의 어플리케이션에 라이브러리 형태로 설치되어, 상기 어플리케이션과 상기 적어도 하나 이상의 샤드DB 간의 코디네이터 역할을 수행하며, 사용자 쿼리를 상기 메타 노드에 전달하고, 상기 메타노드에 등록된 상기 적어도 하나 이상의 샤드DB의 정보를 수신하여 상기 클라이언트 단말기와 상기 적어도 하나 이상의 샤드DB의 연결을 수행하는 샤드라이브러리;를 포함하는 것을 특징으로 하는 하이브리드샤딩시스템. - 제 1 항에 있어서, 상기 하이브리드샤딩부는
서버측 샤딩모드 또는 클라이언트측 샤딩모드를 선택하는 선택부;를 더 포함하는 것을 특징으로 하는 하이브리드샤딩시스템. - 제 1 항에 있어서, 상기 하이브리드샤딩부에서
상기 샤드라이브러리는 사용자 쿼리를 해석할 때 상기 메타노드에 최초 1회 접속시 상기 메타노드에 상기 샤드DB들 각각에 있는 테이블 정보를 요청하여, 상기 샤드DB 중 어느 곳에 데이터가 있는지를 문의하고 상기 메타노드로부터 이에 대한 답변을 수신함으로써 이후에는 상기 샤드라이브러리가 직접 상기 샤드DB 각각에 접속을 수행하는 것을 특징으로 하는 하이브리드샤딩시스템. - 제 1 항에 있어서, 상기 하이브리드샤딩부가 서버측 샤딩모드로 구현되는 경우, 상기 메타노드는 추가적인 그룹핑(grouping), 오더링(ordering), 데이터 노드간 조인(join) 등을 포함하는 복합 구문을 구현할 수 있고, 상기 샤드DB간의 데이터 이동 및 데이터 재분배를 구현할 수 있는 것을 특징으로 하는 하이브리드샤딩시스템.
- 제 1 항에 있어서, 상기 하이브리드샤딩부가 서버측 샤딩모드로 구현되는 경우, 상기 클라이언트 단말기의 어플리케이션에서 메타노드에 접속하고, 상기 메타노드는 세션을 생성하며, 상기 클라이언트 단말기의 어플리케이션에서 상기 메타노드에 상기 샤드쿼리를 요청하면, 상기 메타노드에 등록된 상기 적어도 하나의 샤드DB 각각에 대해 샤드 커넥션이 세션마다 생성되는 것을 특징으로 하는 하이브리드샤딩시스템.
- 삭제
- 제 1 항에 있어서, 상기 하이브리드샤딩부가 클라이언트측 샤딩모드로 구현되는 경우, 상기 클라이언트 단말기의 어플리케이션에 설치된 샤드라이브러리가 상기 메타노드에 접속하여 상기 메타노드에 등록된 상기 적어도 하나의 샤드DB 각각의 정보를 수신하고, 상기 적어도 하나의 샤드DB 각각에 모두 접속하는 경우 샤드 커넥션을 생성하는 것을 특징으로 하는 하이브리드샤딩시스템.
- 제 7항에 있어서, 상기 메타노드는 사용자 쿼리가 샤드쿼리인 경우 상기 클라이언트 단말기의 어플리케이션에 샤드쿼리 분석 결과를 반환하고, 상기 샤드쿼리 분석 결과는 사용자 쿼리가 샤드쿼리인지 여부, 샤드쿼리인 경우 샤드 쿼리가 수행될 수 있는 샤드DB 리스트, 샤드 키와 관련한 호스트 변수 및 바이드 값에 대한 정보를 포함하는 것을 특징으로 하는 하이브리드샤딩시스템.
- 하이브리드샤딩(Hybrid-Sharding)시스템에서 샤딩을 수행하는 방법으로서,
클라이언트 단말기의 어플리케이션에 라이브러리 형태로 설치되어, 상기 어플리케이션과 적어도 하나 이상의 샤드DB 간의 코디네이터 역할을 수행하는 샤드라이브러리에서 사용자 쿼리를 메타 노드에 전달하는 단계;
샤드라이브러리에서 상기 메타노드에 등록된 적어도 하나 이상의 샤드DB의 정보를 수신하여 클라이언트 단말기와 적어도 하나 이상의 샤드DB의 연결을 수행하는 단계;
메타노드에서 상기 사용자 쿼리를 분석하여 샤드 객체가 포함된 샤드쿼리인지 판단하는 단계; 및
메타노드에서 판단결과 샤드쿼리인 경우 샤드키(Shard Key)를 기준으로 데이터를 적어도 하나 이상의 샤드DB 각각에 분산처리하는 단계;를 포함하는 것을 특징으로 하는 방법. - 제 9 항에 있어서, 상기 하이브리드샤딩 시스템은
서버측 샤딩모드 또는 클라이언트측 샤딩모드를 선택하는 단계;를 더 지원하는 것을 특징으로 하는 방법. - 제 9항에 있어서,
상기 샤드라이브러리는 사용자 쿼리를 해석할 때 상기 메타노드에 최초 1회 접속시 상기 메타노드에 상기 샤드DB들 각각에 있는 테이블 정보를 요청하여, 상기 적어도 하나의 샤드DB 중 어느 곳에 데이터가 있는지를 문의하고 상기 메타노드로부터 이에 대한 답변을 수신함으로써 이후에는 상기 샤드라이브러리가 직접 상기 샤드DB 각각에 접속을 수행하는 것을 특징으로 하는 방법.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170053564A KR102008446B1 (ko) | 2017-04-26 | 2017-04-26 | 하이브리드샤딩시스템 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170053564A KR102008446B1 (ko) | 2017-04-26 | 2017-04-26 | 하이브리드샤딩시스템 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20180119888A KR20180119888A (ko) | 2018-11-05 |
KR102008446B1 true KR102008446B1 (ko) | 2019-08-07 |
Family
ID=64328956
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170053564A KR102008446B1 (ko) | 2017-04-26 | 2017-04-26 | 하이브리드샤딩시스템 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102008446B1 (ko) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11074129B2 (en) | 2019-10-31 | 2021-07-27 | Western Digital Technologies, Inc. | Erasure coded data shards containing multiple data objects |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101544356B1 (ko) | 2012-10-31 | 2015-08-13 | 삼성에스디에스 주식회사 | 메타데이터 및 트랜잭션 발생량을 고려한 동적 샤딩 기능을 지원하는 분산 데이터베이스 관리 방법 및 그 구성 노드 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101527634B1 (ko) * | 2012-08-10 | 2015-06-10 | 네이버 주식회사 | 샤딩 서비스를 제공하는 방법 및 장치 |
-
2017
- 2017-04-26 KR KR1020170053564A patent/KR102008446B1/ko active IP Right Grant
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101544356B1 (ko) | 2012-10-31 | 2015-08-13 | 삼성에스디에스 주식회사 | 메타데이터 및 트랜잭션 발생량을 고려한 동적 샤딩 기능을 지원하는 분산 데이터베이스 관리 방법 및 그 구성 노드 |
Also Published As
Publication number | Publication date |
---|---|
KR20180119888A (ko) | 2018-11-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101727465B (zh) | 分布式列存储数据库索引建立、查询方法及装置与系统 | |
US10311055B2 (en) | Global query hint specification | |
US8495013B2 (en) | Distributed storage system and method for storing objects based on locations | |
US7054852B1 (en) | Performance of join operations in parallel database systems | |
US7475058B2 (en) | Method and system for providing a distributed querying and filtering system | |
KR101365464B1 (ko) | 데이터베이스 미들웨어를 이용한 데이터 관리 시스템 및 방법 | |
US20150234896A1 (en) | Adaptive distribution method for hash operations | |
US20060106759A1 (en) | Computer system, computer, data access method and database system | |
EP3373158B1 (en) | Data storage method and coordinator node | |
US20220215053A1 (en) | Efficient and scalable time-series data storage and retrieval over a network | |
US9984081B2 (en) | Workload aware data placement for join-based query processing in a cluster | |
CN110347718B (zh) | 一种redis分片方法、装置、计算机设备和存储介质 | |
JP2007025785A (ja) | データベース処理方法、システム及びプログラム | |
US11567969B2 (en) | Unbalanced partitioning of database for application data | |
CN106415534B (zh) | 一种分布式数据库中关联表分区的方法和设备 | |
US20190266278A1 (en) | IoT Data Management System and Method | |
CN110399368B (zh) | 一种定制数据表的方法、数据操作方法及装置 | |
CN112416908A (zh) | 基于Handle标识解析前缀分库存储数据的方法及系统 | |
US11494500B1 (en) | Account security configuration replication | |
KR102008446B1 (ko) | 하이브리드샤딩시스템 | |
CN102117305B (zh) | 查询数据的系统、方法和数据管理系统 | |
US11106667B1 (en) | Transactional scanning of portions of a database | |
KR20170096302A (ko) | 이종 데이터 처리를 위한 분산 병렬 처리 시스템 | |
KR101648401B1 (ko) | 데이터 관리 및 분석을 위한 데이터베이스 장치, 스토리지 유닛 및 그 방법 | |
CN105022796A (zh) | 一种文件遍历方法、装置及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |