KR20160037761A - 동적 샤딩을 위한 컴퓨터 구현 방법 - Google Patents

Abstract

적어도 하나의 키(12)의 데이터(11)에 대한 요청(13)을 처리할 때:
- 미리 결정된 샤드 저장소(shard store)(20)에 이 요청(13)을 제공하고;
- 이러한 미리 결정된 샤드 저장소(20)가, 자신의 로컬 서브레인지 콜렉션(42)에 의하여, 이러한 미리 결정된 샤드 저장소(20)에 저장된 샤드(30)의 로컬 서브레인지(40)에 이러한 적어도 하나의 키(12)가 존재하는지 여부를 확인하며;
- 적어도 하나의 키(12)가 이러한 미리 결정된 샤드 저장소(20)에 저장된 샤드(30)의 로컬 서브레인지(40)에 존재하지 않을 때, 이러한 미리 결정된 샤드 저장소(20)의 로컬 서브레인지 콜렉션(42)을 포함하는 메시지를 리턴한다.

Description

동적 샤딩을 위한 컴퓨터 구현 방법{A COMPUTER IMPLEMENTED METHOD FOR DYNAMIC SHARDING}

본 발명은 일반적으로 글로벌 정렬 범위(global ordered range) 내에 포함된 키에 의해 식별 가능한 데이터를 포함하는 데이터베이스의 동적 샤딩(dynamic sharding)을 위한 컴퓨터 구현 방법에 관한 것이다.

데이터베이스 샤드(shard)는 데이터베이스의 수평 파티션(partition)이다. 각각의 이와 같은 개별 파티션은 샤드 또는 데이터베이스 샤드라 한다. 수평 파티셔닝은 데이터베이스의 로우(row)의 상이한 서브세트가 개별 수평 파티션에 유지되게 하는 데이터베이스 설계 원리이다. 따라서, 각각의 이와 같은 수평 파티션은 샤드를 형성한다. 데이터베이스가 복수의 샤드로 수평으로 파티셔닝될 때, 샤드가 예를 들어 데이터베이스 서버인 상이한 샤드 저장소(shard store)에 위치될 수 있기 때문에 이는 확장성(scalability)의 측면에서 잠재적인 이점을 제공하며, 이에 따라, 데이터베이스가 단일 데이터베이스 서버의 성능 및 저장 용량 한계를 넘어 성장할 수 있게 한다.

이와 같은 확장을 충족하기 위해 데이터베이스를 샤딩하는 다양한 방법이 사용될 수 있고, 샤딩을 더 쉽게 만들기 위하여 상이한 샤드 저장소에 걸친 샤딩 및 부하 균형을 자동화하는 파티셔닝된 데이터베이스 아키텍처가 출현하였다. 이와 같은 아키텍처는 데이터베이스를 저장하는 분산 컴퓨팅 시스템의 샤드 저장소에 데이터를 할당하기 위하여 통상적으로 키 기반 해시(key-based hash) 파티셔닝 또는 범위 파티셔닝을 사용한다. 키 기반의 해시 파티셔닝의 예는 예를 들어 모듈러스(modulus) 형태의 해시 또는 키의 더욱 정교한 해시가 계산되고 샤드 저장소의 각각이 분포가 균형을 맞추는 것으로 기대되는 이와 같은 계산된 해시의 특정 범위에 할당되는 US2014/0108421호에서 설명된다. 이와 같은 접근 방식의 첫 번째 문제는 대형 데이터베이스 시스템에서 키의 함수에서의 이와 같은 해시의 계산은 상당한 계산력과 시간을 필요로 하며, 따라서 이와 같은 키의 데이터에 대한 요청을 다룰 때 증가된 지연 속도(latency)를 야기한다는 것이다. 또한, 복잡한 해싱 메커니즘을 사용할 때에도, 상이한 데이터 저장소 사이에서, 특히 키와 이와 관련된 데이터가 이전에 신뢰성 있게 평가될 수 없는 대형 분산 데이터베이스에 대하여, 균형을 이루는 분포를 보증하는 것은 어렵다.

또 다른 문제는, 예를 들어 US2014/0108421호에서 언급된 바와 같이, 높은 비율의 분산된 동작을 갖는 이와 같은 분산 데이터베이스 시스템의 감소된 성능이다. 이와 같은 분산된 동작 동안, 예를 들어 단일 고객의 주문 레코드 리스트와 같은 복수의 키의 데이터를 필요로 하는 요청을 수행하기 위하여 복수의 샤드 저장소가 액세스되어야 한다. 분산된 동작의 공유를 감소시키고 단일 샤드 판독(read) 및 기록(write) 동작의 공유를 증가시키기 위하여, US2014/0108421호는 단조 키(monotonic key) 범위를 레코드 또는 로우가 부수적인 해싱 방법을 이용하여 분산되는 복수의 샤드 저장소에 상관시키는 샤드 제어 레코드의 사용을 제안한다. 이것이 도 3에 도시된 바와 같이 특정 고객 ID에 상관된 데이터를 다룰 때 단일 샤드 판독 및 기록 동작의 증가된 공유를 야기하고, 샤드 제어 레코드가 개별 키 레벨로 이와 같은 메타 데이터를 저장할 필요 대신에 키 범위와 관련된 샤드 리스트를 제공하지만, 데이터가 검색될 필요가 있는 리스트의 모든 키에 대하여 여전히, 샤드 리스트의 어느 샤드 저장소에 액세스 되어야 하는지 결정하기 위하여 보조 해시가 계산될 필요가 있다. 또한, 단조 키, 예를 들어 고객 ID의 사용은 예를 들어 고객의 정렬된 리스트가 사용자에 의한 검색 및/또는 선택에 대하여 생성될 필요가 있는 표준 애플리케이션 레벨 상황에서 열악한 성능을 초래한다. 이와 같은 표준적인 경우, 예를 들어 사용자가 고객의 알파벳 순으로 분류된 리스트를 읽기 위한 사용자 인터페이스를 제공 받는 경우에, 알파벳 순으로 분류된 리스트에서 이웃하는 고객의 단조로운 고객 ID가 동일한 고객 id 범위에 반드시 있지는 않기 때문에, 샤드 제어 레코드에 대한 많은 횟수의 액세스 요청을 야기할 것이며, 동일한 범위 내에 있더라도, 샤드 리스트에서 동일한 샤드 저장소에 저장될 것이라는 보증이 없다. 또한, US2014/0108421호의 접근 방식은 시스템의 모든 샤드 저장소에 액세스 가능한 중앙 위치에 항상 최신의 샤드 제어 레코드를 필요로 하며, 이는 단일 실패 포인트를 형성하며 이와 같은 시스템, 특히 많은 개수의 샤드 저장소가 연관되는 대형 분산 데이터베이스 시스템의 확장성 및 응답성에 대하여 제한을 가한다.

데이터베이스를 샤딩하는 다른 방법은, 복제된 객체 저장 시스템에 대한 인덱스가 저장 노드 사이에서 객체를 분산하기 위하여 사용하기 위한 것과 동일한 해시 기반 샤딩 방법을 이용하여 샤딩되고, 그 뒤에 이와 같은 인덱스 샤드가 시스템 내의 모든 저장 노드 사이에서 분산되는 WO2013/147785호에 공지되어 있다. 또한, 여기에서 상이한 저장 노드에 저장된 모든 인덱스 샤드를 동기화하여 유지하는 것이 요구되고, 이는 증가된 지연 속도를 야기하며, 이와 같은 시스템의 확장성에 제한을 가한다. 또한, 인덱스는 해시 기반 샤드를 생성하며, 이는 예를 들어 폴더, 그룹, 라벨 등과 같은 선택된 컨테이너에 저장된 데이터 객체의 알파벳 순으로 분류된 리스트를 열거하는 것과 같은 표준 동작을 수행할 때 복수의 상이한 샤드 저장소가 액세스될 필요가 있는 높은 레이트의 분산된 동작을 야기한다. 이 결과는 샤딩된 인덱스에 대하여 이루어진 요청 및 데이터 객체 자체에 관련된 요청 모두의 레벨에서 밝혀지는 바와 같이 더 악화된다.

데이터베이스를 샤딩하는 또 다른 방법은 좌표 서비스가 전체 키 범위의 일부인 로컬 키 서브레인지(subrange)에 대하여 각각 책임이 있는 복수의 노드에 대한 전체 키 범위의 키에 관련되는 요청의 분포를 관리하는 US2012/0271795호에 공지되어 있다. 각각의 노드의 로컬 키 서브레인지는 데이터베이스 테이블에서의 로우 또는 키의 개수 및 노드의 개수에 따라 선택된다. 이와 같은 시스템은 노드에서의 모든 로컬 키 서브레인지가 서로 그리고 좌표 서비스와 동기화되는 것을 필요로 하고, 이는 확장성에 대하여 제한을 가한다. 또한, 전체 키 범위에 대한 데이터베이스 내의 키 분포에 관한 정보가 사용 가능하지 않으면, 선택된 로컬 키 서브레인지가 노드 사이에서 데이터의 불균형 분포를 야기할 위험이 높다.

데이터베이스를 샤딩하는 또 다른 방법은 데이터베이스가 글로벌 정렬 범위 내에 포함된 키에 의해 식별 가능한 데이터를 포함하는 US2012/0254175호에 공지되어 있다. 청크(chunk)라고도 하는 복수의 샤드가 제공되며, 각각의 샤드는 로컬 서브레인지 내에서 적어도 하나의 키의 데이터에 대한 요청을 처리하도록 구성되고, 이 로컬 서브레인지는 예를 들어 키의 최소값과 키의 최대값 사이의 범위에 의해 정의되는 상기 글로벌 정렬 범위의 정렬된 서브레인지를 포함한다. 요청을 정확한 샤드에 라우팅하는 라우터 프로세스는, 저장하는 구성 서버로부터의 정보 및 예를 들어 최소 및 최대 키 값 및 이 샤드가 저장된 샤드 저장소와 같은 각각의 샤드에 관한 정보를 액세스한다. 항상 구성 서버의 이와 같은 정보가 샤드 저장소의 각각에서 실제 상황과 동기화되어야 한다는 것은 명백하며, 이는 증가된 지연 속도를 야기하고 확장성에 제한을 가한다. 시스템을 다시 밸런싱하는 데 있어서 유연성을 개선하기 위하여, 각각의 샤드의 최대 크기는 예를 들어 200 MB로 제한되며, 샤드가 이 최대 크기에 도달할 때, 이는 각각이 분할된 샤드의 로컬 서브레인지의 공유를 포함하는 2개의 새로운 샤드로 분할된다. 이와 같은 방식으로, 많은 개수의 작은 샤드가 시스템의 샤드 저장소의 각각에서 사용 가능하며, 해당 샤드 저장소로부터 덜 부하가 걸린 또 다른 샤드 저장소로 이와 같은 작은 샤드를 단순히 이동시켜 재밸런싱이 수행될 수 있다. 그러나 이것은 많은 개수의 샤드, 빈번하게 생성된 새로운 샤드 및 샤드 저장소 중에서의 샤드의 빈번한 재배치로부터 발생하는 이와 같은 빈번한 갱신과 구성 서버가 끊임없이동기화되는 것을 필요로 하며, 요청이 실행될 수 있기 전에 가장 최근의 구성 정보로 구성 서버에 의해 라우터가 갱신되어야 하기 때문에 이는 시스템의 확장성에 제한을 가하며, 지연 속도를 증가시킨다. 또한, 샤드의 크기가 더 작을수록, 예를 들어 컨테이너 내의 데이터 객체, 폴더 내의 파일, 테이블 내의 고객 등의 알파벳 순으로 정렬된 리스트와 같은 키의 정렬된 서브세트에 관한 정보를 제공하는 표준 요청이 복수의 샤드 저장소에 분산된 복수의 샤드에 액세스할 필요성을 야기할 가능성이 더 높고, 이에 의해, 단일 샤드 동작의 공유를 감소시키고 대응하는 성능 감소를 초래한다.

동적으로 확장 가능한 리던던트(redundant) 분산 저장 시스템이 또한 WO2012/068184호에 개시된다. 이는 소정 레벨의 리던던시를 획득하기 위하여, 복제(replication), 예를 들어 RAID를 이용하는, 또는 예를 들어 삭제(erasure code)와 같은 오류 정정 코드(ECC: error correcting code)를 이용하는 저장(storage) 시스템을 개시한다. 저장 시스템은 파일 관리자 컨트롤러와 저장 관리자 컨트롤러를 포함하여, 파일 식별자 및 데이터 블록을 파일 및 데이터 블록을 저장하는 저장 장치에 상관시킨다. 이 파일 관리자 컨트롤러는, 예를 들어 이 특허 문헌의 도 2C에 도시된 바와 같이 파일 관리자가 책임을 지는 고유 파일 식별자 값의 범위를 상관시키는 엔트리를 포함하는 해시 테이블 리스트로서 구현되는, 분산된 해시 테이블을 이용하여 구현될 수 있다. 도시된 바와 같이, 각각의 파일 관리자는 순환하는 전체 키 범위의 공유인 키 값에 대한 자신의 로컬 서브레인지를 알고 있어야 한다. 또한, 자신의 로컬 서브레인지에 선행하는 로컬 서브레인지를 관리하는 파일 관리자와 자신의 로컬 서브레인지에 후행하는 서브레인지를 관리하는 파일 관리자에 관한 최소한의 정보를 알고 있어야 한다. 리스트를 구축하는 데 시간이 걸리고 그동안 노드 불량 또는 분산된 해시 테이블 재밸런싱이 발생할 수 있기 때문에, 분산된 해시 테이블의 분산된 성질 때문에, 노드에 사용 가능한 이와 같은 해시 테이블 리스트는 사용될 때 완벽하게 정확하지 않을 수 있다는 것이 인정된다. 시스템은 정보가 오래된 것이더라도 이 오래된 정보가 어떠한 경우에도 원하는 노드에 더 가까운 범위로 노드를 안내하여, 이에 의해 궁극적으로 하나 이상의 중간 호프(hop)를 통해 원하는 노드로의 액세스에 이르게 한다는 가정에 의존한다. 그러나 대형 분산 데이터베이스 시스템에서, 이 가정은 항상 참이지는 않으며, 예를 들어 이웃하는 노드 및/또는 이의 대응하는 로컬 서브레인지에 관한 정보가 오래된 것일 수 있을 때 회복시킬 수 없는 데이터 또는 허용할 수 없는 지연 속도를 야기할 수 있을 것이다. 요청이 이웃하는 노드로서 여전히 서로 식별된 2개의 오래된 노드 사이에 전전하는 상황을 상상하는 것은 어렵지 않다. 또한, 해시 기반 샤딩은 각각의 키, 예를 들어 파일 식별자에 대하여 적합한 해시가 형성되는 것을 필요로 하며, 이는 위에서 설명된 바와 같이 예를 들어 컨테이너 내의 데이터 객체, 폴더 내의 파일, 테이블 내의 고객 등의 알파벳 순으로 정렬된 리스트를 형성하는 것과 같은 표준 요청을 수행할 때 단일 샤드 동작의 감소된 공유를 초래할 수 있다. 소정 레벨의 재밸런싱 유연성을 허용하기 위하여 하나는 파일 메타 데이터의 관리에 책임이 있는 파일 관리자를 위한 것이고 하나는 저장 장치의 관리에 책임이 있는 저장 관리자를 위한 것인 2개의 분산 해시 테이블 시스템을 시스템이 사용하기 때문에 이 성능 열화는 WO2012/068184호의 시스템에서 훨씬 더 악화된다.

따라서, 전술한 종래 기술의 단점을 극복하고 강력하고 간단한 방식으로 확장성을 보장하여 표준 요청을 다룰 때 증가된 성능을 보증하고 키의 정렬된 서브세트에 관련된 데이터를 야기하는, 데이터베이스의 동적 샤딩을 위한 개선된 컴퓨터 구현 방법에 대한 요구가 여전히 있다.

본 발명의 일 양태에 따라, 글로벌 정렬 범위 내에서 포함되는 키에 의해 식별 가능한 데이터를 포함하는 데이터베이스의 동적 샤딩을 위한 컴퓨터 구현 방법이 제공되고, 이 방법은,

- 각각이 샤드 저장소 식별자를 포함하고 각각이 저장 용량 한계에 의해 제한되는 복수의 샤드 저장소를 제공하는 단계;

- 상기 글로벌 정렬 범위의 정렬된 서브레인지를 포함하는 로컬 서브레인지 내에서 적어도 하나의 키의 데이터에 대한 요청을 처리하도록 각각 구성된 복수의 샤드를 제공하는 단계;

- 단일 샤드가 단일 샤드 저장소를 넘어 확장하지 않도록 샤드 저장소에 샤드를 제공하는 단계;

- 각각의 샤드 저장소에, 대응하는 샤드 저장소에 저장된 샤드의 하나 이상의 로컬 서브레인지를 포함하는 각각의 로컬 서브레인지 수집부를 제공하는 단계;

- 적어도 하나의 키의 데이터에 대하여 상기 요청을 다룰 때:

- 미리 정해진 샤드 저장소에 상기 요청을 제공하는 단계;

- 미리 정해진 샤드 저장소가, 이의 로컬 서브레인지 수집부를 이용하여, 적어도 하나의 키가 미리 정해진 샤드 저장소에 저장된 샤드의 로컬 서브레인지에 존재하는지 검증하는 단계; 및

- 적어도 하나의 키가 미리 정해진 샤드 저장소에 저장된 샤드의 로컬 서브레인지에 존재하지 않을 때, 미리 정해진 샤드 저장소의 로컬 서브레인지 수집부를 포함하는 메시지를 리턴하는 단계를 포함한다.

이와 같은 방식으로, 각각의 샤드 저장소가 자신의 로컬 서브레인지 수집부를 알 필요만 있기 때문에, 대형 데이터베이스와 연계하여, 강력한 동작이 보장될 수 있다. 이것은 시스템 범위 레벨에서의 이와 같은 정보를 모든 샤드 저장소 사이에서, 그리고/또는 중앙 관리 애플리케이션과 동기화하는 데 요구되는 시스템에서 존재하는 임의의 지연 속도를 방지한다. 그 로컬 서브레인지 중 하나에 존재하지 않는 키를 포함하는 요청에 응답하여 이 로컬 서브레인지 수집부를 포함하는 메시지를 리턴함으로써, 샤드 저장소는 이것이 저장하는 서브레인지에 관한 최신 피드백을 요청자에 관련된 시간에만 이 요청자에게 동적으로 제공한다. 더하여, 이의 로컬 서브레인지 수집부의 이의 로컬 서브레인지 내에 키가 존재하는지의 여부를 체크할 필요만 있기 때문에, 정렬된 키 서브레인지 내의 키를 저장하는 샤드의 사용은 샤드 저장소에 의해 요청의 하나 이상의 키가 다룰 수 있는지의 여부를 체크하기 위한 복잡성을 감소시킨다. 이와 같은 로컬 서브레인지가 정렬된 서브레인지이기 때문에, 이 체크는 간단히 서브레인지의 경계 사이에 키가 위치되는지, 예를 들어, 이것이 이와 같은 정렬된 서브레인지의 최소 한계보다 더 크고 최대 한계보다 더 작은지 체크함으로써 수행될 수 있다. 이 체크를 수행하기 위해, 키의 해싱 또는 임의의 다른 변환이 수행될 필요가 없다.

글로벌 정렬 범위의 정렬된 서브레인지에 대한 요청을 처리하도록 구성된 샤드를 이용함으로써, 키의 정렬된 서브세트에 관련된 데이터에 대한 표준 요청을 효율적인 방식으로 처리하는 것이 가능하다. 키의 이와 같은 서브세트를 포함하는 단일 샤드에 가장 최적인 경우에, 그러나 최대한으로는 키의 이와 같은 정렬된 서브세트에 걸쳐있는 서브레인지에 관련된 샤드에 대하여 임의의 경우에, 키의 이와 같은 정렬된 서브세트를 생산하도록 참고될 필요가 있는 샤드의 개수가 최소화될 것이라는 것은 명백하다. 이것은 예를 들어 분산 객체 저장 시스템에 연계하여, 정렬된 키가 예를 들어 더 높은 레벨의 계층 그룹의 하나 이상의 이름이 선행하는 객체의 이름에 의해 형성되는 고유 객체 식별자를 이용하여 제공된다는 것을 의미한다. 이와 같은 방식으로, 알파벳 순으로 정렬된 리스트의 형태로 데이터 객체를 보는 데 필요한 데이터를 위한 이와 같은 표준 요청의 경우에, 이 요청은 키 서브레인지가 디스플레이될 제1 키를 포함하는 샤드에 액세스하고, 예를 들어 이 샤드로부터 미리 정해진 개수의 연속하는 키에 대한 데이터를 포함하는 이 샤드의 알파벳 순으로 정렬된 서브세트의 검색을 계속함으로써 처리될 수 있다.

다른 실시예에 따라, 이 미리 정해진 샤드 저장소가 상기 메시지를 리턴할 때, 이어서 요청이 추가 샤드 저장소에 제공된다.

이와 같은 방식으로, 데이터베이스의 동적 샤딩을 위한 강력하고 간단하고 매우 확장 가능한 방법이 실현되고, 이는 샤드 저장소 사이의 또는 중앙 관리 프로세스와의 과도한 동기화를 필요로 하지 않는다. 각각의 샤드 저장소는 그에 저장된 샤드에 존재하는 키에 관련된 요청을 효율적으로 처리할 수 있고, 존재하지 않는 임의의 키의 이의 로컬 서브레인지 수집부를 이용하여 효율적인 방식으로 요청자를 갱신하여, 요청의 이 부분은 동일한 효율적인 방식으로 처리되기 위하여 추가 샤드 저장소로 캐스케이드 될 수 있다. 이와 같은 방식으로, 샤드의 매우 동적인 분산 재밸런싱이 여전히 발생하는 대형 분산 시스템에서도, 요청이 제공되는 각각의 샤드 저장소는 효율적으로 그리고 이의 로컬 서브레인지 수집부의 형태로 최신의 로컬 정보에 기초하여 요청을 처리할 수 있는지 그리고 그렇지 않다면 이의 현재 로컬 상태에 대한 최신의 데이터 정보를 요청자에게 제공할 수 있는지 판단할 수 있을 것이다.

다른 실시예에 따르면, 이 방법은,

- 상기 복수의 샤드 저장소에 연결 가능하고, 적어도 하나의 키의 데이터에 대한 요청을 처리하도록 맞추어진 샤드 라우터를 제공하는 단계;

- 글로벌 정렬 범위의 글로벌 서브레인지를 샤드 저장소 식별자에 상관시키도록 맞추어진 글로벌 서브레인지 수집부를 상기 샤드 라우터에 제공하는 단계;

- 적어도 하나의 키의 데이터에 대한 요청을 처리할 때:

- 샤드 라우터에 이 요청을 제공하는 단계;

- 샤드 라우터가 요청의 적어도 하나의 키를 포함하는 글로벌 서브레인지에 상관된 샤드 저장소 식별자를 결정하는 단계;

- 샤드 라우터가 이 상관된 샤드 저장소 식별자의 미리 정해진 샤드 저장소에 요청을 제공하는 단계;

- 이 미리 정해진 샤드 저장소가, 이의 로컬 서브레인지 수집부를 이용하여, 적어도 하나의 키가 이 미리 정해진 샤드 저장소에 저장된 샤드의 로컬 서브레인지에 존재하는지 검증하는 단계;

- 적어도 하나의 키가 이 미리 정해진 샤드 저장소에 저장된 샤드의 상기 하나 이상의 로컬 서브레인지에 존재하지 않을 때

- 미리 정해진 샤드 저장소의 로컬 서브레인지 수집부를 포함하는 메시지를 리턴하는 단계; 및

- 샤드 라우터가 미리 정해진 샤드 저장소의 샤드 저장소 식별자를 상기 메시지의 로컬 서브레인지 수집부의 로컬 서브레인지에 대응하는 글로벌 서브레인지에 상관시킴으로써 상기 메시지의 함수에서 이의 글로벌 서브레인지 수집부를 갱신하는 단계를 더 포함한다.

이와 같은 방식으로, 글로벌 서브레인지 수집부는, 로컬 서브레인지 수집부를 포함하는 메시지를 이용하여, 글로벌 서브레인지 수집부에 수행되는 갱신이 데이터베이스 시스템에 제공되고 있는 실제 요청에 연관된 키에 대한 서브레인지의 갱신에 초점을 두는 효율적인 방식으로 동적으로 갱신된다. 라우터는 이와 같은 방식으로, 스크래치(scratch)로부터 시작할 때에도, 데이터에 대한 요청을 처리하는 동안 이의 글로벌 서브레인지 수집부를 동적으로 생성할 수 있고, 이에 의해, 불필요한 동기화 비용 및 지연 속도를 생성하지 않으면서 신뢰성 있는 방식으로 임의의 샤드 저장소에서의 샤드에 대한 분산된 로컬 변화에 대처하기에 충분한 견고성을 유지하면서 그 라우팅 효율을 체계적으로 개선한다.

다른 실시예에 따르면, 요청을 처리하는 미리 정해진 샤드 저장소의 로컬 서브레인지 수집부는, 각각의 샤드 저장소 식별자에 상관된 다른 샤드 저장소에 저장된 샤드의 하나 이상의 외부 서브레인지를 포함하는 외부 서브레인지 수집부를 더 포함하고, 이 방법은,

미리 정해진 샤드 저장소에 의해 요청을 처리할 때, 적어도 하나의 키가 이 미리 정해진 샤드 저장소에 저장된 샤드의 하나 이상의 로컬 서브레인지에 존재하지 않는 경우에:

- 로컬 서브레인지 수집부를 포함하는 메시지를 리턴하는 단계;

- 요청의 적어도 하나의 키가 이 로컬 서브레인지 수집부의 외부 서브레인지 수집부의 미리 정해진 외부 서브레인지 내에 포함되는지 검증하는 단계;

- 이어서 샤드 저장소 식별자가 이 외부 서브레인지에 상관된 추가 샤드 저장소에 요청을 제공하는 단계를 더 포함한다.

이와 같은 방식으로, 대형 분산 데이터베이스 상황에서의 견고성이 손상되지 않으면서 라우팅 효율이 더욱더 최적화된다. 요청자가 그 로컬 서브레인지 수집부에 더 이상 존재하지 않는 키에 대하여 샤드 저장소에 요청을 전송할 때, 예를 들어, 이 샤드 저장소에 저장된 샤드에 관한 오래된 정보에 기초하여 요청자가 요청하였기 때문에, 이것이 샤드의 데이터의 적어도 일부가 추가 샤드로부터 이동된 동안인 재밸런싱 동작의 결과일 가능성이 상대적으로 높다. 외부 서브레인지의 형태로 다른 샤드 저장소의 서브레인지에 관한 정보를 저장하는 것은 특정 샤드 저장소 자체에 저장된 샤드의 로컬 서브레인지에 관한 정보를 요청자에게 제공하는 데 사용되는 동일한 메시징 메커니즘을 이용하여 요청자에게 이 특정 샤드 저장소에 의해 이 정보를 제공하는 간단한 방식을 제공한다. 다른 샤드 저장소에 저장된 샤드에 관한 이 정보는 요청에 관련된 샤드를 포함하는 것으로 예측되는 이 추가 샤드 저장소에 효율적인 라우팅을 제공할 수 있다.

다른 실시예에 따르면, 방법은, 적어도 하나의 키가 미리 정해진 샤드 저장소에 저장된 샤드의 하나 이상의 로컬 서브레인지에 존재하지 않을 때:

- 샤드 라우터가 추가 샤드 저장소의 샤드 저장소 식별자를 상기 메시지의 외부 서브레인지 수집부의 미리 정해진 외부 서브레인지에 대응하는 글로벌 서브레인지에 상관시킴으로써 상기 메시지의 함수에서 이의 글로벌 서브레인지 수집부를 추가로 갱신하는 단계를 더 포함한다.

이와 같은 방식으로, 글로벌 서브레인지 수집부도 요청의 처리 동안 효율적이고 동적인 방식으로 외부 서브레인지를 이용하여 갱신되기 때문에, 라우팅 효율에서의 추가적인 증가가 실현된다. 외부 서브레인지에 기초하는 글로벌 서브레인지 수집부의 갱신 이후, 이 갱신은 이어서 이 외부 서브레인지에 상관된 샤드 저장소에 요청을 라우팅한 후에 검증되고, 이는 키가 이의 로컬 서브레인지 수집부에 존재하지 않는 경우에 글로벌 서브레인지 수집부를 갱신하기 위한 추가 메시지를 제공할 것이다.

다른 실시예에 따르면, 미리 정해진 샤드 저장소로부터 추가 샤드 저장소로의 이동 서브레인지 내의 모든 키의 데이터를 포함하는 이동 샤드의 이동 동작은, 이동 서브레인지가 미리 정해진 샤드 저장소의 로컬 서브레인지 수집부로부터 제거되고 추가 샤드 저장소의 샤드 저장소 식별자에 상관된 외부 서브레인지로서 미리 정해진 샤드 저장소의 외부 서브레인지 수집부에 추가되게 한다.

이와 같은 방식으로, 이동 동작으로부터 제공되는 정보는 라우팅 동작의 효율을 증가시키기 위하여 이동 동작이 유래하는 샤드 저장소에 여전히 사용 가능하다.

다른 실시예에 따르면, 미리 정해진 샤드 저장소로부터 추가 샤드 저장소로의 이동 서브레인지 내의 모든 키의 데이터를 포함하는 이동 샤드의 상기 이동 동작은, 이동 서브레인지가 로컬 서브레인지로서 추가 샤드 저장소의 로컬 서브레인지 수집부에 추가되게 한다.

이와 같은 방식으로, 이동 동작으로부터 제공되는 정보는 일관성이 이와 같은 분산 상황에서 보증될 수 있는 방식으로 이동 동작이 예정된 샤드 저장소에 사용 가능하게 된다.

다른 실시예에 따르면, 이동 동작 동안, 이동 동작에 연관된 미리 정해진 샤드 저장소 및/또는 추가 샤드 저장소의 로컬 서브레인지 수집부만이 이동 서브레인지의 함수에서 갱신된다.

이와 같은 방식으로, 재밸런싱 동작이 이동 동작에 연관된 샤드 저장소에서 로컬 갱신만을 야기하며, 이에 의해, 임의의 동기화 비용 및 지연 속도를 감소시킨다.

다른 실시예에 따르면, 이동 동작에 연관된 미리 정해진 샤드 저장소 및 추가 샤드 저장소는, 공용 로컬 서브레인지 수집부 및 전용 로컬 서브레인지 수집부를 포함하고, 이 방법은, 이와 같은 이동 동작 동안,

- 미리 정해진 샤드 저장소가 이동 서브레인지의 함수에서 이의 공용 로컬 서브레인지 수집부를 갱신하는 단계;

- 미리 정해진 샤드 저장소가 추가 샤드 저장소에 이동 샤드를 전송하는 단계;

- 추가 샤드 저장소가 미리 정해진 샤드 저장소로부터 이동 샤드를 수신하는 단계;

- 이동 샤드가 정확하게 수신되면, 추가 샤드 저장소가:

- 이동 서브레인지의 함수에서 이의 공용 로컬 서브레인지 수집부 및 이의 전용 로컬 서브레인지 수집부 모두를 갱신하는 단계;

- 미리 정해진 샤드 저장소에 이동 인정 메시지를 전송하는 단계;

- 미리 정해진 샤드 저장소가 추가 샤드 저장소로부터 상기 이동 인정 메시지를 수신할 때, 미리 정해진 데이터 저장소가 이의 전용 로컬 서브레인지 수집부를 갱신하고, 미리 정해진 샤드 저장소가 이동 샤드를 삭제하는 단계를 더 포함한다.

이와 같은 방식으로, 빈번한 이동 동작을 야기하는 자동화되고 동적인 재밸런싱 동작으로 심지어 대형 분산 데이터베이스에서도, 최대 사용 가능성 및 일관성을 보장하는 간단하고 강력하고 효율적인 구현 이동 동작이 제공된다.

다른 실시예에 따르면, 미리 정해진 샤드 저장소가 이동 동작을 수행한 후 미리 정해진 기간에 이의 공용 로컬 서브레인지 수집부가 이의 전용 로컬 서브레인지 수집부와 상이한 것을 검출할 때, 미리 정해진 샤드 저장소는 추가 샤드 저장소에 이동 샤드를 재전송한다.

이와 같은 방식으로, 예를 들어 네트워크 문제 때문에 또는 이동 동작에 연관된 샤드 저장소가 일시적으로 사용 가능하지 않기 때문에, 예를 들어 이동 동작이 인터럽트될 때에도, 일관성을 보장하기 위한 효율적인 메커니즘이 제공된다. 샤드 저장소가 네트워크에 관련된 상태 정보 또는 다른 샤드 저장소의 동작 상태를 알 필요가 없고, 이는 이동 동작에 대한 재시도가 필요한지를 평가하기 위하여 이의 공용 로컬 서브레인지 수집부 및 전용 로컬 서브레인지 수집부의 형태의 로컬 정보에 의존할 수 있다.

다른 실시예에 따르면, 이동 서브레인지가 이의 공용 로컬 서브레인지 수집부에 이미 존재하고 있는 미리 정해진 샤드 저장소에 의해 추가 샤드 저장소가 이동 샤드를 제공 받을 때; 추가 샤드 저장소는 이동 샤드를 수신하지 않고 미리 정해진 샤드 저장소에 이동 인정 메시지를 전송한다.

이것은, 특히 이동 동작의 목적지인 추가 샤드 저장소가 이동 샤드를 정확하게 수신하였지만, 이어지는 이동 인정 메시지가 미리 정해진 샤드 저장소에 도달하지 않은 상황에서, 효율적인 재밸런싱 동작을 보장한다. 미리 정해진 샤드 저장소가 이어서 이동 동작을 재시도하면, 추가 샤드 저장소는 정상 이동 동작 동안에서와 동일한 메커니즘으로 미리 정해진 샤드 저장소에 이동 샤드의 존재를 확인하지만, 동일한 이동 동작의 반복된 처리에 대한 어떠한 불필요한 자원도 소비하지 않는다.

다른 실시예에 따르면, 이동 샤드는 미리 정해진 샤드 저장소의 샤드의 적어도 일부를 포함하도록 생성된다.

다른 실시예에 따르면, 이동 동작의 각각의 이동 샤드의 크기가 미리 정해진 이동 크기 임계값 이하가 되도록 복수의 이동 동작이 이동 작업의 함수에서 생성되고, 이동 작업은 복수의 이동 동작이,

- 이동 작업 키 범위;

- 키의 이동 작업량; 및/또는

- 데이터의 이동 작업 크기

를 이동시키게 할 때까지, 미리 정해진 샤드 저장소로부터 추가 샤드 저장소로 모든 데이터를 이동시키기 위한 요청을 포함한다.

다른 실시예에 따르면, 미리 정해진 샤드에 대하여, 로컬 서브레인지가 미리 정해진 샤드의 로컬 서브레인지에 인접한 동일한 샤드 저장소에 추가 샤드가 사용 가능하다고 검출될 때, 이 미리 정해진 샤드는 추가 샤드와 병합되어 병합된 샤드를 형성하고, 로컬 서브레인지 수집부는 미리 정해진 샤드와 추가 샤드의 인접한 로컬 서브레인지를 모두 병합된 샤드의 병합된 로컬 서브레인지로 병합함으로써 갱신된다. 바람직하게, 미리 정해진 샤드의 크기는 병합 크기 임계값을 초과하지 않는다. 바람직하는, 병합 크기 임계값은 이동 크기 임계값보다 더 크다.

이와 같은 방식으로, 대형 분산 데이터베이스에서도, 이동 동작 동안 견고성과 사용 가능성을 최적화하기 위한 많은 개수의 소형 이동 샤드와의 재밸런싱 동작은, 단일 샤드 동작의 공유가 개선될 수 있고 대응하는 성능 개선이 실현될 수 있도록, 샤드 저장소에 로컬로 저장된 샤드에 대한 정보만을 필요로 하는 방식으로, 샤드를 동적으로 증가시키기 위한 자동화된 메커니즘과 결합된다.

본 발명의 제2 양태에 따르면, 프로세서에 의해 실행될 때 본 발명의 제1 양태에 따른 방법을 수행하도록 맞추어진 소프트웨어 코드를 포함하는 컴퓨터 프로그램이 제공된다.

본 발명의 제3 양태에 따르면, 본 발명의 제2 양태에 따른 컴퓨터 프로그램을 포함하는 컴퓨터 판독 가능한 저장 매체가 제공된다.

도 1은 본 발명에 따른 데이터베이스의 동적 샤딩을 위한 컴퓨터 구현 방법을 구현하기 위한 적합한 시스템의 일 실시예를 개략적으로 도시한다;
도 2는 도 1의 시스템을 동작시키는 방법의 일 실시예를 개략적으로 도시한다;
도 3은 샤드 라우터를 포함하는 도 1의 실시예에 대안적인 일 실시예를 개략적으로 도시한다;
도 4는 도 3의 시스템을 동작시키는 방법의 일 실시예를 개략적으로 도시한다;
도 5는 이동 동작에 대한 개략적인 도면을 도시한다;
도 6은 도 3의 시스템을 동작시키는 방법의 일 대체예를 개략적으로 도시한다;
도 7은 이동 동작 동안 로컬 서브레인지 수집부의 공용 및 전용 버전을 포함하는 대안적인 실시예를 개략적으로 도시한다;
도 8은 도 7의 이동 동작에 관한 방법의 일 실시예를 개략적으로 도시한다; 그리고,
도 9는 이웃하는 로컬 서브레인지에 대한 개략적인 도면을 도시한다.

도 1은 예를 들어 도 2를 참조하여 설명되는 바와 같이 데이터베이스(10)의 동적 샤딩을 위한 컴퓨터 구현 방법을 구현하기 위한 적합한 시스템을 도시한다. 데이터베이스(10)는 글로벌 정렬 범위(14) 내에 포함된 키(12)에 의해 식별 가능한 데이터(11)를 포함한다. 데이터베이스는, 예를 들어, 리던던트로 인코딩된 서브블록이 데이터 객체의 검색을 위하여 사용 가능한 저장 노드에 관련된 데이터 객체 데이터(11)의 모든 키(12)가 저장되는, 예를 들어 EP2469411 또는 EP2672387에 공지된 바와 같은, 대형 분산 객체 저장 시스템의 메타 데이터를 저장하는 적합한 키 값 저장소일 수 있다. 이와 같은 대형 분산 객체 저장 시스템이 기존의 한계를 넘어 성장하기 때문에, 이와 같은 시스템의 성능 및 견고성을 증가하는 것에 대한 요구가 증가하고 있다. 예를 들어 플래시 저장 장치를 포함하는 것과 같은 이와 같은 데이터베이스를 저장하기 위한 고용량의 전용 고성능 저장 장치를 사용할 때에도, 분산 객체 저장 시스템이 증가할 때, 이 메타 데이터의 키 값 저장소도 증가하고, 궁극적으로 이와 같은 저장 장치의 저장 용량 한계에 도달할 것이고, 메타 데이터는 지연 속도, 쓰루풋, 신뢰성, 입도(granularity) 등의 측면에서 성능을 가능한 한 많이 유지하는 방식으로 복수의 이와 같은 저장 시스템에서 확산될 필요가 있다. 지연 속도는 통상적으로 밀리 초로 표현되는 메타테이터 저장소에서 저장되는 특정 데이터에 액세스하는 데 걸리는 시간이다. 쓰루풋은 초당 입/출력 동작(input/output operations per second; IOPS)의 횟수 및/또는 초당 메가바이트(megabytes per second; MB/s)에 관하여 보통 표현되는, 데이터가 메타 데이터 저장소로부터 판독되거나 메타 데이터 저장소에 기록될 수 있는 레이트이다. 입도는 임의의 추가 지연 속도를 도입하지 않으면서 단일 유닛으로서 효율적으로 액세스 될 수 있는 데이터의 가장 큰 수집부(collection)의 크기를 말한다. 그리고 신뢰성은 하나 이상의 저장 또는 네트워크 컴포넌트의 임시적인 사용 불가능과 같은 분산 저장 시스템에서의 일반적인 장애에 대처하는 능력을 말한다. 키 값 저장소가 일반적으로 고성능 데이터베이스 구조이지만, 대안적인 실시예는, 예를 들어 컬럼 기반, 그래프 기반, 문서 기반 등인 데이터 구조; 또는 예를 들어 테이블 기반인 데이터 구조와 같은, 예를 들어, 다른 NoSQL 메커니즘과 같은 데이터베이스에 대하여도 가능하다. 또한, 아래에서 더욱 상세히 설명되는 바와 같은 데이터베이스(10)의 동적 샤딩을 위한 방법이 대형 분산 객체 저장 시스템에 대하여 메타 데이터 저장소와 연계하여 유익하지만, 다른 적합하고 유익한 데이터베이스 애플리케이션이, 특히, 예를 들어 인터넷 검색 서비스 인덱스 등과 같은 강력한 고성능 대형 분산 데이터베이스를 필요로 하는 상황에서 본 방법으로부터 이익을 얻을 수 있다.

그러나 이 방법은, 메타 데이터 저장소가 컨트롤러 노드로 하여금 특정 데이터 객체의 리던던트로 인코딩된 서브블록이 어느 저장소 요소에서 효율적인 방식으로 검색될 수 있는지 결정할 수 있게 하는, 예를 들어 EP2469411호 또는 EP2672387호에 개시된 바와 같은 삭제 인코딩(erasure encoding) 기반 분산 객체 저장 시스템의 메타 데이터 저장소에 대하여 더욱 특별하게 유익하다. 이 특허 문헌에서 설명된 삭제 인코딩 분산 객체 저장 시스템에 따르면, 클러스터링 모듈은, 예를 들어, 컨트롤러 노드에 중점적으로 상주하는 메타 데이터 저장소로부터, 특정 데이터 객체의 어느 특정 저장 요소 서브블록이 저장되는지 효율적인 방식으로 확인할 수 있다. 또한, 이는 어느 인코딩 정책이 사용되었는지 디코딩 모듈이 효율적으로 확인할 수 있게 한다. 더욱이, 이와 같은 메타 데이터 저장소는 또한 매 데이터 객체 기반으로 인코딩 정책의 결정에 있어서 유연성을 허용하며, 이는 리던던시 정책이 분산 객체 저장 시스템에 저장된 모든 데이터 객체에 대하여 고정될 필요는 없고 각각의 특정 데이터 객체에 대하여 개별적으로 설정될 수 있다는 것을 의미한다. 메타 데이터 저장소의 또 다른 실시예에 따르면, 데이터 객체에 대하여 저장된 메타 데이터가, 예를 들어 버전 정보 또는 데이터 객체의 상태와 같은, 데이터 객체의 특성을 포함하는 다른 적합한 엔트리를 포함할 수 있다는 것이 명백하다. 이와 같은 시스템에서, 컨트롤러 노드는 복수의 저장 노드를 관리할 수 있고, 이와 같은 저장 노드는 예를 들어 저전력 프로세서를 포함하고 10개 또는 12개의 3 TB SATA 디스크 드라이브가 구비된 1U 랙 마운트 서버 인클로저(server enclosure)에서 36 TB 저장 용량을 제공한다. 컨트롤러 노드에는 예를 들어 백엔드(back-end) 저장 노드에 대한 고속 연결을 허용하도록 10 Gb 이더넷 네트워크 인터페이스가 구비될 수 있다. 복수의 저장 노드, 예를 들어 10개 이상의 저장 노드를 포함하는 랙에 대하여 하나의 컨트롤러 노드가 일반적으로 마련된다. 그 다음, 예를 들어 US2012/0271795로부터 알려진 것과 유사하게, 복수의, 예를 들어 3개의, 상이한 SSD(solid-state drive)에 걸친 복제를 이용하여 예를 들어 다수결 시스템을 허용하는 적합한 레벨의 리던던시를 갖는 예를 들어 고성능 SSD에서, 몇 개의 이와 같은 랙의 컨트롤러 노드는 컨트롤러 노드의 매우 가용성이 있는 클러스터에서 결합되어, 저장 노드에 대한 완전하게 공유된 액세스를 제공하고, 분산 메타 데이터 저장소에 대한 액세스를 제공한다. 이와 같은 방식으로 수백 테라바이트 내지 제타바이트의 글로벌 객체 명칭 공간(namespace) 용량으로 확장 가능한 저장 용량을 제공하도록 여러 랙에 걸친 단일 시스템의 확장성이 실현될 수 있다. 일부 실시예에 따라 분산 메타 데이터 저장소는 컨트롤러 노드 자체를 이용하여 구현될 수 있고, 또는 예를 들어, 복수의 이와 같은 컨트롤러 노드에 대하여 공유되는 방식으로 사용 가능한 복수의 스케일러(scaler)의 형태로 구현될 수 있다. 일반적으로, 예를 들어, 분산 메타 데이터 저장소와 같은 이와 같은 분산 데이터베이스는, 예를 들어 분산된 방식으로 메타 데이터 저장소를 저장하기 위하여 전술한 분산 객체 저장 시스템의 컨트롤러 노드에 대한 복수의 스케일러와 같은, 복수의 샤드 저장소(20)에 상주한다.

도시된 바와 같이, 키(12)에 대한 글로벌 정렬 범위(14)는, 도 1의 실시예에서 실시예를 설명하는 데 있어서 간단하게 하기 위하여 단일 캐릭터 알파벳 데이터 객체 식별자를 이용하는 특히 간단한 표현의 형태로 키를 지칭하는 바와 같이, 알파벳 범위 [a,z]로서 개략적으로 표현된다. 그러나 대안적이고 더욱 현실적인 실시예에 따라 키(12)에 대한 글로벌 정렬 범위(14)는, 알파벳 순으로 정렬될 수 있는 다중 캐릭터 알파벳 데이터 객체 식별자의 형태로, 그리고 클라우드 저장 서비스의 사용자에 의해 선택되는 컨테이너에 저장된, 예를 들어, 알파벳 순서로 처음 50개의 데이터 객체에 대한 링크를 포함하는 웹페이지를 나타내기 위한, 알파벳 순으로 정렬된 데이터 객체의 서브세트에 대하여 표준 요청이 종종 질의되는 동안, 적합한 알파벳 범위, 예를 들어 키에 대한 [a,z[를 포함할 수 있다는 것이 명백하여야 한다. 그러나 데이터베이스의 모든 키를 포함하기에 적합한, 끝단이 닫혀 있거나 열려 있는 임의의 다른 적합한 정렬 범위가 가능하다는 것이 명백하다. 다중 캐릭터 알파벳 숫자 키에 대하여, 범위는 예를 들어 [", +inf[로 표현될 수 있으며, 이는 실제로는 데이터베이스 시스템의 상황 내에서 실현될 수 있는 키(12)에 대한 최대값을 의미하는, 비워진 스트링에서 시작하는 오른쪽의 끝단이 열린 범위와, 양의 무한대까지 끝단이 열린 것을 의미한다. 예를 들어, 대응하는 정렬 알고리즘을 이용하여 키가 미리 결정된 정렬 관계에 종속될 수 있는 한, 글로벌 범위는, 예를 들어 이의 최소 및/또는 최대 허용 가능 키 값을 이용하여 정의될 수 있거나, 또는 범위가 일 측 또는 양측에서 끝단이 열린 경우에 단순히 데이터베이스의 키 사이의 정렬 관계를 구축하기 위한, 바람직하게는 빈번하게 그리고/또는 데이터베이스에 의한 최소 지연 속도를 가지면서 수행될 필요가 있는 표준 요청 동안 키가 제공되는 방식에 부합하는 미리 정해진 알고리즘을 이용하여 정의될 수 있다. 따라서, 이것은 키가 전체 정렬 관계가 정의되는 집합의 원소인 것을 의미한다. 다른 적합한 실시예는, 적합한 정렬 알고리즘이 정의될 수 있는 한, 예를 들어, 알파벳 범위, 예를 들어 십진수 범위, 16진수 범위, 2진수 범위 등과 같은 숫자 범위, 및/또는 이와 같은 범위의 임의의 적합한 조합을 포함할 수 있다.

도 1에 도시된 바와 같이, 복수의 이와 같은 샤드 저장소(20)가 제공된다. 샤드 저장소의 각각은 샤드 저장소 식별자(22)를 포함한다. 도시된 바와 같이, 제1 샤드 저장소(20)는 샤드 저장소 식별자(20.1)를 포함하고, 제2 샤드 저장소(20)는 샤드 저장소 식별자(20.2)를 포함한다. 이와 같은 샤드 저장소(20)는 적합한 데이터 구조, 종종 예를 들어 SSD 또는 임의의 다른 적합한 형태 또는 저장 장치의 조합과 같은 하나 이상의 적합한 고성능 저장 장치에 저장된 데이터베이스 구조에 대한 액세스를 제공하는 적합한 컴퓨팅 장치이다. 일반적으로 샤드 저장소(20)의 각각은, 예를 들어, 전술한 바와 같이 저장된 데이터의 양이 예를 들어 컨트롤러 노드 또는 스케일러에서 사용 가능한 모든 SSD인 컴퓨팅 장치에서 제공되는 모든 저장 장치의 최대 용량에 도달할 때 도달되는 저장 용량 한계에 의해 제한되고 있다는 것은 명백하다. 그러나 저장 용량이 복수의 이와 같은 컴퓨팅 장치에 걸쳐 공유되는 방식으로 확장되는 실시예에서도, 궁극적으로 이와 같은 공유된 액세스에 관련된 성능 열화가 더 이상 허용 가능하지 않은 저장 용량 한계를 겪는다. 바람직하게는, 샤드 저장소는 로컬의 높은 쓰루풋 데이터 버스에 걸쳐 저장 장치에 대한 고성능의 저 레벨 액세스를 제공하여, 초당 최대 레벨의 입/출력 동작을 가능하게 한다.

도 1에 더 도시된 바와 같이, 복수의 샤드(30)가 제공된다. 각각의 샤드(30)는 로컬 서브레인지(40) 내의 적어도 하나의 키(12)의 데이터(11)에 대한 요청(13)을 처리한다. 이것은 각각의 샤드(30)가 키(12)가 로컬 서브레인지(40) 내에 있는 데이터베이스(10)의 데이터(11)의 서브세트에 대한 판독 및 저장 요청을 처리한다는 것을 의미한다. 도시된 바와 같이, 샤드 저장소 식별자(20.1)로 샤드 저장소(20)에 저장된 샤드(30)의 로컬 서브레인지(40)는 [a,d)로 표시된다. 따라서, 이 로컬 서브레인지(40)는 a부터 z까지 z를 포함하는 알파벳 순으로 정렬된 모든 키를 포함하는 글로벌 정렬 범위(14) [a,z] 중에서 a로부터 d까지이지만 d를 포함하지 않는 알파벳 순으로 정렬된 모든 키를 포함하는 정렬된 서브레인지를 포함한다. 샤드 저장소 식별자(20.2)로 샤드 저장소(20)에 저장된 샤드(30)의 로컬 서브레인지(40)는 [d,g) 및 [i,n)으로 표시된다. 따라서, 이 로컬 서브레인지(40)는, 각각, a부터 z까지 z를 포함하는 알파벳 순으로 정렬된 모든 키를 포함하는 글로벌 정렬 범위(14) [a,z] 중에서, 각각, d로부터 g까지이지만 g를 포함하지 않는 알파벳 순으로 정렬된 모든 키와, i로부터 n까지이지만 n을 포함하지 않는 알파벳 순으로 정렬된 모든 키를 포함하는 정렬된 서브레인지를 포함한다. 샤드(30)의 로컬 서브레인지 사이에 중첩이 없고, 샤드(30)의 모든 로컬 서브레인지가 근접해 있다는 것이 명백하여야 하며, 이는 데이터베이스(10) 내에 저장된 모든 키(12)가 특정 샤드(30)의 로컬 서브레인지(40)에 할당될 수 있다는 것을 의미한다. 따라서, 단순함을 위하여 도 1에서 보이지 않더라도, 다른 샤드(30)는 식별자(20.1 및 20.2)로 샤드 저장소(20)에서 샤드(30)에 의해 커버 되지 않은 글로벌 정렬 범위(14)의 모든 서브레인지를 커버하는 로컬 서브레인지를 포함하여야 한다는 것을 의미한다. 도시된 바와 같이, 샤드 저장소(20)에서의 샤드(30)는 단일 샤드(30)가 단일 샤드 저장소(20)를 넘어 확장하지 않도록 제공된다. 이것은, 일반적으로 대부분의 샤드 저장소(20)가 이와 같은 샤드(30) 중 하나 이상의 샤드를 저장한다는 것을 의미하지만, 또한, 일부 샤드 저장소(20)가 샤드(30)를 포함하지 않는 것도 가능하다. 이것은, 예를 들어, 저장 용량이 현재 아직 사용되고 있지 않은 시스템에 대하여 하나 이상의 샤드 저장소(20)가 사용 가능한 경우, 또는 이 대신에, 시스템에 여전히 사용 가능하지만 가까운 미래에 시스템으로부터 해제되도록 예정된 하나 이상의 샤드 저장소(20)에 대한 경우일 수 있다.

도 1에 도시된 바와 같이, 샤드 저장소(20)의 각각은 로컬 서브레인지 수집부(42)를 포함한다. 이 로컬 서브레인지 수집부(42)는 이의 대응하는 샤드 저장소(20)에 저장된 샤드(30)의 하나 이상의 로컬 서브레인지(40)를 포함한다. 따라서, 도시된 바와 같이, 샤드 저장소 식별자(20.1)를 갖는 샤드 저장소(20)의 로컬 서브레인지 수집부(42)는 이의 단일 샤드(30)의 로컬 서브레인지(40) [a,d)를 포함한다. 샤드 저장소 식별자(20.2)를 갖는 샤드 저장소(20)의 로컬 서브레인지 수집부(42)는 이의 양 샤드(30)의 양 로컬 서브레인지(40) [d,f) 및 [l,n)을 포함한다. 도시된 예들은 단지 예시적인 것이며, 임의의 적합한 개수의 샤드(30)를 포함하는 임의의 적합한 개수의 샤드 저장소(20)가 제공될 수 있으며, 그 다음, 대응하는 로컬 서브레인지 수집부(42)는 그에 저장된 적합한 개수의 로컬 서브레인지(40)를 포함한다. 도시된 바와 같이, 샤드(30)의 각각은, 예를 들어, 알파벳 데이터 객체 식별자인 키(12)와, 예를 들어, 이 데이터 객체의 리던던트로 인코딩된 서브블록이 저장되는 분산 저장 시스템의 저장 노드의 저장 노드 식별자 리스트를 제공하는 이 데이터 객체에 관련된 메타 데이터인 상관 데이터(11)를 포함하는, 키 값 저장소 또는 다른 적합한 데이터베이스 구조를 포함한다. 따라서, 이와 같은 방식으로, 샤드 저장소(20.1)에 저장된 샤드(30)는, 예를 들어 a, c, 등과 같이, [a,d)인 이의 로컬 서브레인지(40) 내의 키(12)를 포함하는 데이터베이스(10)의 서브세트를 포함한다. 바람직하게는, 키(12)의 이와 같은 서브세트와 이의 상관 데이터(11)는, 정렬된 리스트, 시퀀스, 예를 들어 노드가 2개보다 더 많은 아들(children)을 가질 수 있는 바이너리 검색 트리의 일반화인 B-트리와 같은 트리 데이터 구조, 또는 클라이언트 애플리케이션(1)으로부터의 요청(13)에 응답하여 샤드(30)로부터 연속하는 키(12)의 적합한 선택 및 이의 대응하는 데이터(11)를 제공하기 위한 다른 적합한 구조의 형태로, 이와 같은 샤드(30)에 저장되거나 이로부터 효율적으로 검색될 수 있다.

도 1에 도시된 바와 같이, 모든 샤드 저장소(20)는, 바람직하게는 데이터 센터에서 사용 가능한 고속 네트워크인, 적합한 네트워크(3)에 연결 가능하다; 그러나 데이터베이스가 여러 지리적으로 분산된 데이터 센터 사이에서 분산될 수 있기 때문에, 이 네트워크(3)도 이와 같은 상이한 데이터 센터 사이에 예를 들어 적합한 인터넷 연결일 수 있는 외부 네트워크 링크를 포함할 수 있다. 더 도시된 바와 같이, 예를 들어 적합한 API 인터페이스 또는 심지어 클라우드 저장 시스템의 웹 기반 사용자 인터페이스에 액세스하는 사용자의 브라우저일 수 있는 클라이언트 애플리케이션(1)이, 동일한 방식으로, 예를 들어 인터넷 연결과 같은 적합한 네트워크 연결(2)을 이용하여, 이 네트워크(3)에 연결된다. 클라이언트 애플리케이션(1)은, 일반적으로 하나 이상의 키(12)의 데이터(11)에 대한 분산 데이터베이스에 요청을 발행할 필요가 있는 기능을 제공하는 한, 시스템의 임의의 적합한 레벨의 임의의 적합한 애플리케이션 또는 모듈일 수 있다는 것이 명백하다.

도 1에 도시된 바와 같이, 이와 같은 요청(13) 'get('f')'은 예를 들어 키 'f'의 데이터(11)에 대한 검색 요청을 포함하지만, 예를 들어 데이터베이스(10)의 하나 이상의 키(12)의 데이터(11)를 생성, 갱신, 삭제, 열거 등을 하기 위한 요청과 같은 다른 적합한 요청이 발행될 수 있다는 것이 명백하다. 도시된 바와 같이, 키 'f'의 데이터(11)에 대한 이 검색 요청(13)은 클라이언트 애플리케이션(1)에 의해 샤드 저장소(20.1)에 제공된다. 도 3의 실시예를 참조하여 아래에서 더욱 상세히 설명되는 바와 같이, 클라이언트 애플리케이션(1)은 어느 샤드 저장소에 요청을 전송할지에 대한 선택을 하기 위하여 적합한 라우터를 이용할 수 있지만, 동적으로 확장 가능한 대형 분산 데이터베이스에서, 임의의 이와 같은 시스템은 이미 구식이고, 시스템의 신뢰성 있는 글로벌 상태를 평가하는 것에 관련된 지연 속도는 더 이상 허용 가능하지 않을 것이다. 따라서, 도 1의 특히 간단한 실시예에 따라, 사용 가능한 샤드 저장소(20) 중의 하나에 요청(13)을 단순히 발행함으로써, 요청은 심지어 샤드 저장소(20)에 관한 로컬 상태 정보가 클라이언트 애플리케이션(1)에 사용 가능하지 않는 순간에 개시될 수 있다. 도 1에 도시된 바와 같이, 검색 요청(13)을 수신하는 이와 같은 미리 정해진 샤드 저장소(20)는 샤드 저장소 식별자(22)로서 20.1을 포함하며, 이는 도 2에 도시된 바와 같은 방법의 단계 102에 대응한다. 이어서, 단계 104에서, 이와 같은 미리 정해진 샤드 저장소(20.1)는, 이의 로컬 서브레인지 수집부(42)를 이용하여, 이와 같은 적어도 하나의 키(12)가 이와 같은 미리 정해진 샤드 저장소(20.1)에 저장된 샤드(30)의 로컬 서브레인지(40)에 존재하는지 검증할 것이다. 도 1에 도시된 바와 같이, 로컬 서브레인지 수집부(42)는 요청(13)의 키 'f'를 포함하지 않는 하나의 로컬 서브레인지(40) [a,d)만을 포함한다. 따라서, 이것은, 요청(13)이 이와 같은 미리 정해진 샤드 저장소(20.1)에 저장된 샤드(30)의 로컬 서브레인지(40)에 존재하지 않는 적어도 하나의 키(12)에 관련되기 때문에, 도 2의 방법이 단계 108로 진행한다는 것을 의미한다. 단계 108에서, 샤드 저장소(20.1)는 이와 같은 미리 저장된 샤드 저장소(20.1)의 로컬 서브레인지 수집부(42)를 포함하는 메시지(60)를 리턴한다. 본 실시예에서, 그 다음, 클라이언트 애플리케이션(1)은, 샤드 저장소(20.1)가 로컬 서브레인지 수집부에서 정의된 바와 같이, 로컬 서브레인지(40) [a, d)의 키(12)에 대한 데이터(11)를 갖는 샤드(30)만을 포함한다는 사실을 인식하게 된다. 예를 들어 아래에서 더 설명되는 바와 같이, 메시지(60) 및/또는 로컬 서브레인지 수집부(42)가 로컬 서브레인지(40)에 더하여 추가 정보를 포함할 수 있다는 것이 명백하다. 메시지(60)는, 예를 들어, "20.1:[a:20.1:d:...:z]"로서 표현될 수 있으며, 여기에서, "20.1:"은 메시지(60)를 전송하는 샤드 저장소의 샤드 저장소 식별자(22)에 대한 표시를 제공하며, "[a:20.1:d"는 로컬 서브레인지(40) [a,d)의 표시를 제공하며, ":...:z]"는 샤드 저장소(20.1)가 이 로컬 서브레인지 수집부(42)에서 사용 가능한 정보를 갖지 않는 글로벌 정렬 범위(14)의 일부에 대한 표시를 제공한다. 도 2에 더 도시된 바와 같이, 그 다음, 본 실시예에 따라, 단계 110에서, 요청(13)은 이어서 예를 들어 샤드 저장소(20.2)인 추가 샤드 저장소(20)에 제공될 수 있다. 도 1에 도시된 바와 같이, 메시지(60)가 제공되고 이에 따라 아마도 추가 샤드 저장소에 대한 요청(13)을 그에 응답하여 개시하는 것은 클라이언트 애플리케이션(1)이지만, 대안적인 실시예에 따라, 다른 컴포넌트 또는 모듈, 또는 심지어 이전에 요청을 수신한 샤드 저장소가 추가 샤드 저장소(20)에 대한 요청(13) 제공의 개시자일 수 있다는 것이 명백하며, 또한, 아래에서 더욱 상세히 설명되는 바와 같이, 메시지(60)가 예를 들어 하나 이상의 다른 샤드 저장소(20), 라우터 등과 같은 클라이언트 애플리케이션(1)이 아닌 다른 엔티티 또는 모듈로 전송될 수 있다는 것이 명백하다.

도 2의 단계 110에서 샤드 저장소(20.2)가 키 'f'에 대한 검색 요청(13)을 제공 받으면, 다시 단계 104로 진행하고, 로컬 서브레인지 수집부(42)를 이용하여, 이 키(12)가 이와 같은 미리 정해진 샤드 저장소(20.2)에 저장된 샤드(30)의 로컬 서브레인지(40)에 존재하는지 검증한다. 도 1에 도시된 바와 같이, 로컬 서브레인지 수집부(42)는 2개의 로컬 서브레인지(40) [d,g) 및 [i,n)을 포함하고, 이 중 하나인 [d,g)는 검색 요청(13)의 키 'f'를 포함한다. 따라서, 이것은 도 2의 방법이 샤드 저장소(20.2)가, 예를 들어, 클라이언트 애플리케이션(1) 또는 키 'g'의 형태로 데이터 객체 식별자에 의해 식별되는 데이터 객체의 리던던트로 인코딩된 서브블록의 검색을 위하여 예를 들어 저장 노드의 식별자를 갖는 임의의 다른 적합한 엔티티 또는 모듈을 제공하는 로컬 서브레인지 [d,g)의 샤드(30) 내에서 샤드 저장소(20.2)에 저장된 바와 같은 키 'f'와 관련된 데이터(11)를 제공함으로써, 요청(13)을 수행할 것이라는 것을 의미한다.

도 3은 도 1의 실시예와 유사하지만 샤드 라우터를 추가로 포함하는 일 실시예를 개략적으로 도시한다; 그리고 도 4는 도 3의 실시예를 동작시키는 방법의 일 실시예를 개략적으로 도시한다. 예를 들어, 데이터베이스(10), 샤드(30), 샤드 저장소(20) 등과 관련된 유사한 요소는 동일한 도면 부호로 참조될 것이며, 도 1에 관하여 위에서 제공된 바와 같은 이들의 상세한 설명은 도 4의 동작 방법을 나타내는 데 필요한 상세 내용의 수준으로만 반복될 것이다. 도 3에 도시된 바와 같이, 동일한 예시적인 데이터베이스(10)는 a로부터 z까지이고 z를 포함하는 알파벳 순으로 정렬된 모든 키를 포함하는 글로벌 정렬 범위(14) [a,z]를 제공 받으며, 도 1에서와 같이, 동일한 샤드(30)를 저장하는 동일한 샤드 저장소(20)는 동일한 각각의 로컬 서브레인지(40) 내에 키(12)가 있는 데이터베이스(10)의 데이터(11)의 서브세트에 대한 판독 및 저장 요청을 처리한다. 따라서, 이와 같은 샤드 저장소(20)가 도 1을 참조하여 위에서 설명된 바와 같이, 동일한 로컬 서브레인지 수집부(42)를 포함한다는 것이 명백하다. 그러나 클라이언트 애플리케이션(1)은, 예를 들어, 샤드 라우터(50)에 대한 인터넷과 같이 적합한 네트워크 연결(2)을 이용하여 연결된다. 이 샤드 라우터(50)는, 샤드 저장소(20)에 대한 적합한 네트워크 연결(3)을 이용하여 연결 가능하며, 예를 들어, 분산 방식으로 분산된 객체 저장소의 메타 데이터를 저장하기 위하여 전술된 분산 객체 저장 시스템의 복수의 컨트롤러 노드에 대하여 하나 이상의 스케일러에서 동작하는 적합한 모듈로서 구현될 수 있다. 도시된 바와 같이, 도 1을 참조하여 전술된 바와 같이, 검색 요청 'get('f')'의 형태로 클라이언트 애플리케이션(1)에 의해 발행된 적어도 하나의 키(12)의 데이터(11)에 대한 요청(13)을 처리하는 것은 이제 샤드 라우터(50)다. 도시된 바와 같이, 이 요청(13)은 클라이언트 애플리케이션(1)에 의해 샤드 라우터(50)에 제공되지만, 일반적으로 임의의 다른 적합한 애플리케이션 또는 모듈도 그러할 수 있다는 것이 명백하다.

도 3에 도시된 바와 같이, 샤드 라우터(50)는 글로벌 서브레인지 수집부(52)를 제공 받는다. 'a:20.1:g: ... :i:20.2:n: ... :z'로서 표현되는 이 글로벌 서브레인지 수집부(52)는 글로벌 정렬 범위(14)의 글로벌 서브레인지(54)를 샤드 저장소 식별자(22)에 상관시킨다. 이와 같은 방식으로, 로컬 서브레인지 수집부를 참조하여 전술된 것과 유사하게, 이와 같은 표현은 글로벌 정렬 범위(14) '[a,z]' 중에서의 글로벌 서브레인지(54) '[a,g)'와 샤드 저장소 식별자(22) '20.1' 사이의 상관을 제공한다. 동일한 방식으로, 글로벌 정렬 범위(14) '[a,z]' 중에서의 글로벌 서브레인지(54) '[i,m)'과 샤드 저장소 식별자(22) '20.2' 사이의 상관을 제공한다. 'g:...:n'은 글로벌 서브레인지(54)에 대하여 샤드 라우터(50)에 사용 가능한 정보가 없다는 것을 나타낸다. 이 글로벌 서브레인지(54)는 예를 들어 샤드 라우터(50)에 의해 저장되었거나 그에 제공된 이전 정보의 결과일 수 있지만, 아래에서 더욱 상세히 설명되는 바와 같이, 도 3에 개략적으로 도시된 바와 같은 시스템의 상태에 관하여 현재로서는 오래된 것이다. 키 'f'의 데이터(11)에 대한 클라이언트 애플리케이션(1)으로부터의 요청(13) 'get('f')'가 도 4의 단계 202에서 샤드 라우터(50)에 제공되기 때문에, 샤드 라우터(50)는, 도 4의 단계 204에 대응하는, 이 키(12) 'f'를 포함하는 글로벌 서브레인지(54)에 상관된 샤드 저장소 식별자(22)를 결정한다. 따라서, 도 3에 도시된 경우에, 이것은 표현 '[a:20.1:g:'로부터 유도된 바와 같이 글로벌 서브레인지(54) [a,g)가 샤드 저장소 식별자(20.1)에 상관되는 것을 의미하며; 그리고 샤드 라우터(50)가 이와 같은 상관된 샤드 저장소 식별자(20.1)의 이와 같은 미리 정해진 샤드 저장소(20)에 대한 이와 같은 요청(13) '20.1:get('f')'을 제공한다. 그 다음, 이와 같은 미리 정해진 샤드 저장소(20.1)는 단계 206에서, 이의 로컬 서브레인지 수집부(42)를 이용하여, 이 키(12) 'f'가 이와 같은 미리 정해진 샤드 저장소(20)에 저장된 샤드(30)의 로컬 서브레인지(40)에 존재하는지 검증한다. 키 'f'가 이와 같은 미리 정해진 샤드 저장소(20.1)의 로컬 서브레인지 수집부(42)의 로컬 서브레인지(40) [a,d)에만 존재하지 않기 때문에, 방법은 미리 정해진 샤드 저장소(20.1)가 이의 로컬 서브레인지 수집부(42)를 포함하는 메시지(60)를 샤드 라우터(50)에 리턴할 단계 210으로 진행할 것이다. 예를 들어 아래에서 더 설명되는 바와 같이, 메시지(60) 및/또는 로컬 서브레인지 수집부(42)는 로컬 서브레인지(40)에 더하여 추가 정보를 포함할 수 있다는 것이 명백하다. 그 다음, 단계 212에서, 샤드 라우터(50)는 미리 정해진 샤드 저장소(20)의 샤드 저장소 식별자(22)를 이 메시지(60)의 로컬 서브레인지 수집부(42)의 로컬 서브레인지(40)에 대응하는 글로벌 서브레인지(54)에 상관시키는 것으로 이 메시지(60)의 함수에서 글로벌 서브레인지 수집부(52)를 갱신한다. 그 다음, 도시된 바와 같이, 도 3에서의 글로벌 서브레인지 수집부(52)는, 예를 들어 '[a:20.1:d: ... :z]'로서 표현될 수 있는 샤드 저장소(20.1)의 로컬 서브레인지 수집부(42)로부터, 샤드 라우터(50)의 글로벌 서브레인지 수집부(52)의 오래된 정보에 이전에 제공된 바와 같은 서브레인지 [d:g)에 대한 샤드(30)를 포함하지 않는다는 것이 명백하기 때문에, '[a:20.1:g: ... :i:20.2:n: ... :z]'로부터 '[a:20.1:d: ... :g: ... :i:20.2:n: ... :z]'로 수정된다.

도 4에 더 도시된 바와 같이, 본 실시예에 따르면, 단계 214에서, 요청(13)은 이어서 예를 들어 샤드 저장소(20.2)인 추가 샤드 저장소(20)에 제공될 수 있다. 도 3에 도시된 바와 같이, 메시지(60)를 제공 받고, 따라서 추가 샤드 저장소(20)에 대한 요청(13)을 이에 응답하여 아마도 개시하는 것은 샤드 라우터(50)지만, 대안적인 실시예에 따라, 다른 컴포넌트 또는 모듈, 또는 심지어 샤드 라우터(50)로부터 요청(13)을 이전에 수신한 샤드 저장소(20.1)가 추가 샤드 저장소(20)에 대한 요청(13) 제공의 개시자일 수 있다는 것이 명백하며, 또한, 메시지(60)가 예를 들어 하나 이상의 다른 샤드 저장소(20), 클라이언트 애플리케이션(1) 등과 같은 샤드 라우터(50)가 아닌 다른 엔티티 또는 모듈로 추가로 전송될 수 있다는 것이 명백하다.

도 4의 단계 214에서 샤드 저장소(20.2)가 키 'f'에 대한 검색 요청(13)을 제공 받으면, 단계 206으로 다시 진행하여, 이의 로컬 서브레인지 수집부(42)를 이용하여, 이와 같은 미리 정해진 샤드 저장소(20.2)에 저장된 샤드(30)의 로컬 서브레인지(40)에 이 키(12)가 존재하는지 검증한다. 도 3에 도시된 바와 같이, 로컬 서브레인지 수집부(42)가 2개의 로컬 서브레인지(40) [d,g) 및 [i,n)을 포함하고, 그 중 하나인 [d,g)가 검색 요청(13)의 키 'f'를 포함한다. 따라서, 이것은 도 4의 방법이 샤드 저장소(20.2)가, 예를 들어 샤드 라우터(50) 또는 클라이언트 애플리케이션(1), 또는 예를 들어 키 'g'의 형태의 데이터 객체 식별자에 의해 식별되는 데이터 객체의 리던던트로 인코딩된 서브블록의 검색을 위한 저장 노드의 식별자를 갖는 임의의 다른 적합한 엔티티 또는 모듈을 제공하는, 로컬 서브레인지 [d,g)의 샤드(30)에서의 샤드 저장소(20.2)에 저장된 바와 같은 키 'f'에 관련된 데이터(11)를 제공함으로써, 요청(13)을 수행할 것이라는 것을 의미한다. 선택적으로, 도 4에 더 도시된 바와 같이, 역시 로컬 서브레인지 수집부(42)에 키를 포함하는 샤드 저장소(20.2)에 대하여도, 단계 210 및 212를 참조하여 전술된 바와 유사한 단계 216 및 218가 수행될 수 있다. 이것은, 이 경우에서도, 단계 216에서, 샤드 저장소(20.2)는 샤드 라우터(50)에 대한 이의 로컬 서브레인지 수집부(42)를 포함하는 메시지(60)를 리턴할 것임을 의미한다. 그 다음, 단계 218에서, 샤드 라우터(50)는 미리 정해진 샤드 저장소(20)의 샤드 저장소 식별자(22)를 이 메시지(60)의 로컬 서브레인지 수집부(42)의 로컬 서브레인지(40)에 대응하는 글로벌 서브레인지(54)에 상관시키는 것으로 이 메시지(60)의 함수에서 이의 글로벌 서브레인지 수집부(52)를 갱신한다. 그 다음, 예를 들어 '[a:...:d:20.2:g:...:i:20.2:n...:z]'로서 표현될 수 있는 샤드 저장소(20.2)의 로컬 서브레인지 수집부(42)로부터 샤드 저장소(20.2)가 샤드 라우터(50)의 글로벌 서브레인지 수집부(52)에서 최신 데이터 정보가 사용 가능하지 않은 서브레인지 [d,g)에 대한 샤드(30)를 포함하는 것이 명백하기 때문에, 전술된 바와 같이 이전에 '[a:20.1:d: ... :g: ... :i:20.2:n: ... :z]'로 수정된 글로벌 서브레인지 수집부(52)는, '[a:20.1:d:20.2:g:...:i:20.2:n:...:z]'로 추가 수정될 것이다.

일반적으로, 미리 정해진 샤드 저장소(20)의 로컬 서브레인지 수집부(42)를 포함하는 메시지(60)에 응답하여 샤드 라우터(50)의 글로벌 서브레인지 수집부(52)를 갱신하는 과정은,

- 메시지(60)의 로컬 서브레인지(40)로서 로컬 서브레인지 수집부(42)에 존재하지 않는 이와 같은 미리 정해진 샤드 저장소(20)의 샤드 저장소 식별자(22)에 상관되는 임의의 글로벌 서브레인지(54)의 글로벌 서브레인지 수집부(52)로부터의 제거; 및

- 이와 같은 미리 정해진 샤드 저장소(20)의 샤드 저장소 식별자(22)에 상관된 글로벌 서브레인지(54)로서, 메시지(60)의 로컬 서브레인지 수집부(42)의 로컬 서브레인지(40)의 글로벌 서브레인지 수집부(52)로의 추가를 포함한다. 특정 실시예에 따라, 이와 같은 삭제 및 추가가 갱신 동작으로 결합될 수 있어, 예를 들어, 메시지의 수신된 로컬 서브레인지(40)와 중첩할 때 기존의 글로벌 서브레인지(54)를 갱신하거나; 또는 예를 들어 수신된 로컬 서브레인지에 동일하다는 것이 검출된 글로벌 서브레인지(54)에 대하여 기존의 글로벌 서브레인지(54)를 수정하지 않는 동작으로서 이와 같은 제거 및 추가가 실행될 수 있거나; 또는 이와 같은 제거 및 추가가 메시지(60)의 로컬 서브레인지 수집부(42)에 관하여 필요할 때 글로벌 서브레인지 수집부(52)를 효율적으로 갱신하는 임의의 다른 적합한 동작으로서 구현될 수 있다는 것이 명백하다.

도 5는 이동 동작(80)에 대한 개략적인 그림을 도시한다. 데이터베이스(10)의 왼쪽 그림은 이동 동작(80) 전의 상태를 도시하고, 오른쪽은 이동 동작(80) 후의 동일한 데이터베이스(10)의 상태를 도시한다. 도 5에 도시된 바와 같이, 이동 동작(80) 동안, 샤드 저장소(20.1)에서 서브레인지 [a,g)인 샤드(30)의 정렬된 서브세트는 이동된다. 이동 샤드(72)로 참조될 것이고 또한 프린지(fringe)(72)로 참조될 수 있는 이와 같은 정렬된 서브세트는, 미리 정해진 샤드 저장소(20.1)에서 추가 샤드 저장소(20.2)로, 이동 서브레인지(70) 또는 프린지 서브레인지(70)로 참조될 서브레인지 [d,g) 내의 모든 키(12)의 데이터(11)를 포함한다. 이 이동 동작(80)은, 예를 들어, 이의 서브레인지(40) 내의 키에 대하여 데이터(11)를 공급받을 때 샤드(30)의 각각이 동적으로 증가함에 따라, 상이한 샤드 저장소(20) 사이에서 저장 용량을 재밸런싱하기 위하여 실행될 수 있다. 도 5에 도시된 바와 같이 이 이동 동작이 이동 서브레인지(70) 및 대응하는 이동 샤드(72)가 샤드 저장소(20)에 저장된 샤드(30) 정렬된 서브세트인 경우에 관련되지만, 하나의 샤드 저장소의 전체 샤드(30)가 다른 것에 이동되는 것도 가능하며, 이에 의해 이동 샤드(72)는 이 샤드(30)와 동일하고, 이동 서브레인지(70)는 이 샤드(30)의 서브레인지(40)와 동일하다. 도 5에 도시된 바와 같이, 이동 동작 전에, 미리 정해진 샤드 저장소(20.1)의 로컬 서브레인지 수집부(42)는 로컬 서브레인지(40) [a,g)를 포함하고, 추가 샤드 저장소(20.2)의 로컬 서브레인지 수집부(42)는 로컬 서브레인지(40) [i,n)을 포함한다. 더 도시된 바와 같이, 이동 동작(80) 후에, 이동 서브레인지(70) [d,g)는 미리 정해진 샤드 저장소(20.1)의 로컬 서브레인지 수집부(42)로부터 로컬 서브레인지(40)로서 더 이상 존재하지 않는다. 이제 로컬 서브레인지 수집부(42)는 로컬 서브레인지(40) [a,d)를 포함한다. 아래에서 더 상세히 설명되는 바와 같이, 이동 서브레인지(70) [d,g)는 미리 정해진 샤드 저장소(20.1)의 로컬 서브레인지 수집부(42)에 포함된 외부 서브레인지 수집부(46)에 추가되는 외부 서브레인지(44) [d,g)로서 추가된다. 도시된 바와 같이, 외부 서브레인지(44) [d,g)는 이동 샤드(72)가 이동되는 추가 샤드 저장소(20.2)의 샤드 저장소 식별자(22) '20.2'에 상관된다. 더하여, 미리 정해진 샤드 저장소(20.1)로부터 추가 샤드 저장소(20.2)로의 이동 서브레인지(70) [d,g)인 이동 샤드(72)의 이동 동작(80)은, 이동 서브레인지(70) [d,g)가 로컬 서브레인지(40)로서 추가 샤드 저장소(20)의 로컬 서브레인지 수집부(42)에 추가되게 한다. 따라서, 이동 동작(80) 동안, 미리 정해진 샤드 저장소(20) 및 이동 동작(80)에 연관된 추가 샤드 저장소(20)의 로컬 서브레인지 수집부(42)만이 이동 서브레인지(70)의 함수에서 갱신된다는 것이 명백하다. 이것은, 예를 들어, 저장 용량을 단지 연관된 샤드 저장소로서만 사용 가능한 샤드 저장소 중에 더욱 효율적으로 재분배하고, 이동 동작 동안, 동기화 메시지의 증가 및 응답성 및 가용성의 대응하는 감소를 초래할 수 있는 다른 샤드 저장소 또는 중앙 관리 서비스와의 동기화에 대한 어떠한 추가적인 필요성 없이 이의 로컬 상태를 갱신하기 위하여, 이동 동작의 자동화된 실행을 제공하는 동적 샤딩을 허용하는 대형 분산 데이터베이스 시스템과 연계하여 특히 유익하다. 이동 동작에 연관된 샤드 저장소의 로컬 서브레인지 수집부의 로컬 서브레인지에 대한 갱신만이 전술한 바와 같은 방법에 따라 요청을 계속 처리하기에 충분하다는 것이 명백하다. 임의의 오래된 정보는 이 요청에 관련된 샤드 저장소의 로컬 서브레인지 수집부의 로컬 서브레인지와 동기화된다. 따라서, 시스템의 최신 글로벌 상태가 허용할 수 없는 지연 속도를 도입하지 않고서는 획득되기 어려운 대형 분산 데이터베이스 상황에서도, 예를 들어 전술한 이동 동작과 같은 임의의 분산된 재밸런싱 동작을 처리하기에 충분히 강력하면서, 동기화 비용은 실제 요청을 처리하는 데 필요한 것에 제한되고 그에 대하여 최적화된다.

도 5에 도시된 바와 같이, 이동 동작 후의 상태에서, 미리 정해진 샤드 저장소(20.1)의 로컬 서브레인지 수집부(42)는 외부 서브레인지 수집부(46)를 더 포함한다. 이 외부 서브레인지 수집부(46)는 해당하는 샤드 저장소 식별자(22) "20.2"에 상관된 다른 샤드 저장소(20.2)에 저장된 샤드(30)의 외부 서브레인지(44) "[d,g)"를 포함한다. 단지 하나의 샤드 식별자(22)에만 상관된 단지 하나의 외부 서브레인지(44)만을 포함하는 외부 서브레인지 수집부(46)가 도시되지만, 대안적인 실시예에 따라, 외부 서브레인지 수집부(46)는, 예를 들어 복수의 이전 이동 동작의 결과로서, 또는 미리 정해진 샤드 저장소(20.1)가 샤드(30) 또는 로컬 서브레인지(40)에 관련되는 다른 샤드 저장소(20)에 관한 정보를 수집할 수 있었던 임의의 다른 적합한 방식으로 수집될 수 있었던 임의의 적합한 개수의 대응하는 샤드 저장소 식별자(22)에 상관된 임의의 적합한 개수의 외부 서브레인지(44)를 포함할 수 있다는 것이 명백하다. 그 다음, 이와 같은 외부 서브레인지 수집부(46)는 이의 로컬 서브레인지 수집부의 로컬 서브레인지(40)에 존재하지 않거나 더 이상 존재하지 않는 키에 대한 샤드 저장소(20)로 전송된 요청(13)의 경우에 추가 샤드 저장소(20)로의 효율적인 라우팅을 허용한다. 이와 같은 최적화된 방법의 일례는, 추가 단계 220 및 222를 제외하고는 도 4에 도시된 것과 유사한 도 6에 도시된다. 이미 위에서 설명된 단계는 동일한 도면 부호로 식별되었고, 이와 같은 추가 단계에 대하여 필요한 상황을 제공하는 한에서만 반복될 것이다. 도 6에 도시된 바와 같이, 샤드 저장소(20)가 그에 저장된 샤드의 로컬 서브레인지(40) 중 하나에 존재하지 않는 키(12)에 대한 요청을 처리할 때, 예를 들어 유사하게, 이동 동작 후의 이의 상태에서 도 5의 샤드 저장소(20.1)의 로컬 서브레인지 수집부의 로컬 서브레인지(40) [a,d)에 존재하지 않는 키 'f'에 대한 요청을 처리할 때, 방법은 단계 202, 204 및 206으로부터 전술한 바와 같이 샤드 저장소(20.1)가 로컬 서브레인지 수집부(42)를 포함하는 메시지(60)를 리턴하는 단계 210으로 진행할 것이다. 이 로컬 서브레인지 수집부(42)가 이제 또한 외부 서브레인지(44) '[d,g)'인 외부 서브레인지 수집부(46)를 포함한다는 것이 명백하다. 새로운 단계 220에서, 예를 들어, 샤드 라우터(50)는 요청(13)의 키(12)가 이 로컬 서브레인지 수집부(42)의 외부 서브레인지 수집부(46)의 미리 정해진 외부 서브레인지(44) 내에서 포함되는지 검증한다. 키 'f'에 대한 요청의 경우에, 외부 서브레인지(44) '[d,g)'에 존재하기 때문에, 이는 그러한 경우이다. 외부 서브레인지(44)는, 도 5에 도시된 바와 같이, 상관된 샤드 저장소 식별자(22)로서 "20.2"를 가진다. 그 다음 단계 222에서, 이 샤드 저장소 식별자 '20.2'는 단계 214에서 요청(13)을 이어서 제공하기 위해 사용될 추가 샤드 저장소(20)를 선택하기 위해서 사용된다.

글로벌 서브레인지 수집부(52)를 갱신하고, 또한 추가 샤드 저장소(20)의 샤드 저장소 식별자(22)를 메시지(60)의 외부 서브레인지 수집부(46)의 미리 정해진 외부 서브레인지(44)에 대응하는 글로벌 서브레인지(54)에 상관시킴으로써 이의 글로벌 서브레인지 수집부(52)를 추가로 갱신하기 위하여 메시지(60)의 로컬 서브레인지 수집부(42)의 로컬 서브레인지(40)를 사용하는 것에 추가하여, 샤드 라우터(50)를 위하여 이와 같은 미리 정해진 샤드 저장소(20)의 로컬 서브레인지(40)에 요청의 키(12)가 존재하지 않는 이와 같은 상황에서, 이는 선택적으로 유익할 것이다. 이 경우에, 도 3에 대하여 설명된 동일한 예를 참조하면, 이것은, 단계 212에서 역시 외부 서브레인지(44) 'd:20.2:g'도 고려될 것이기 때문에, 글로벌 서브레인지 수집부(52)도 '[a:20.1:g: ... :i:20.2:n: ... :z]'에서 '[a:20.1:d:20.2:g: ... :i:20.2:n: ... :z]'로 갱신될 것이라는 것을 의미한다. 이어서, 요청이 이와 같은 추가 샤드 저장소(20.2)로 라우팅 될 때, 요청이 그 로컬 서브레인지 수집부에 대하여 검증될 것이고, 틀리거나 오래된 것이라면, 글로벌 서브레인지 수집부의 추가 갱신을 제공할 것이기 때문에, 이와 같은 갱신은 강력한 방식으로 수행될 수 있다. 그러나 맞다면, 샤드 라우터(50)에 도착하는 샤드 저장소(20.1)의 이 외부 서브레인지(44) 내의 키에 대한 모든 요청은 추가 샤드 저장소(20.2)에 더욱 최적으로 이미 라우팅되었을 것이다. 이미 언급된 것과 유사하게, 로컬 서브레인지 수집부(42)의 도 5에서의 표현은 단지 개략적인 것이고, 임의의 적합한 표현이 사용될 수 있다. 이동 동작 후에 20.1의 로컬 서브레인지 수집부는, 예를 들어, 글로벌 서브레인지 수집부에 대하여 전술한 바와 유사하게, '[a:20.1:d:20.2:g:...:z]'로서 표현될 수 있으며, '[a:20.1:d'는 미리 정해진 샤드 저장소(20.1)의 샤드 저장소 식별자를 포함하기 때문에 로컬 서브레인지 [a,d)를 나타내고, 'd:20.2:g'는 추가 샤드 저장소(20.2)의 샤드 저장소 식별자에 상관된 외부 서브레인지 [d,g)를 나타내고, 'g:...:n'는 글로벌 정렬 범위의 이 서브레인지에 대하여 샤드 저장소(20.1)에 사용 가능한 정보가 없다는 것을 나타낸다.

시스템의 견고성을 더욱 증가시키기 위하여, 특히, 예를 들어 도 5를 참조하여 전술된 바와 같이 미리 정해진 샤드 저장소(20.1)와 추가 샤드 저장소(20.2)가 이동 동작(80)에 연관되는 상황에서, 샤드 저장소(20)의 각각은 공용 및 전용 버전인 2개 버전의 로컬 서브레인지 수집부(42)를 포함한다. 이와 같은 공용 로컬 서브레인지 수집부(42PU)는 전술한 바와 같이 요청(13)을 처리하고 메시지(60)를 전송하기 위하여 외부로 노출된 버전이다. 전용 로컬 서브레인지 수집부(42PR)는, 아래에서 더욱 상세히 설명되는 바와 같이, 다른 컴포넌트에 대하여 액세스 가능하지 않지만 샤드 저장소(20) 자체에 액세스 가능하다. 아니면, 샤드 저장소의 공용 로컬 서브레인지 수집부(42PU)와 전용 로컬 서브레인지 수집부(42PR)의 구조 및 내용 모두는 일반적으로 대응하는 샤드 저장소(20)에 저장된 샤드(30)의 하나 이상의 로컬 서브레인지(40)를 포함하고, 선택적으로는, 하나 이상의 외부 서브레인지(44)를 포함하는 외부 서브레인지 수집부(46)를 또한 포함하는 로컬 서브레인지 수집부(42)에 대하여 전술한 바와 유사하다. 도 7은 도 5를 참조하여 설명된 바와 유사하게, 이와 같은 이동 동작(80) 동안, 양 샤드 저장소(20.1, 20.2)의 공용 로컬 서브레인지 수집부(42PU) 및 전용 로컬 서브레인지 수집부(42PR)를 개략적으로 도시하고, 이동 서브레인지(70) [d,g)인 이동 샤드(72)가 미리 정해진 샤드 저장소(20.1)에서 추가 샤드 저장소(20.2)로 이동된다. 도시된 바와 같이, 이동 동작(80) 동안, 제1 단계(302)에서, 미리 정해진 샤드 저장소(20.1)는 '20.1PU->[a:20.1:g:...:z]'에서 '20.1PU->[a:20.1:d:20.2:g:...:z]'로 이동 서브레인지(70) 'd:20.2:g'의 함수에서 공용 로컬 서브레인지 수집부(42PU)를 갱신하고, 따라서 이는 이동 서브레인지가 로컬 서브레인지(40)로서 제거되고, 외부 서브레인지(44)로서 추가된다는 것을 의미한다. 이어서, 단계 304에서, 미리 정해진 샤드 저장소(20.1)는, 통신이 성공적으로 구축될 수 있다면, 추가 샤드 저장소(20.2)가 미리 정해진 샤드 저장소(20.1)로부터 이동 샤드(72)를 수신하기 시작하는 추가 샤드 저장소(20.2)에 이동 샤드(72)를 전송한다. 이동 샤드(72)가 정확하게 수신될 때, 추가 샤드 저장소(20.2)는, 단계 304에서, '20.2PU->[a:...:i:20.2:n:...:z]'에서 '20.2PU->[a:...:d:20.2:g:...i:20.2:n:...:z]로 이동 서브레인지(70)의 함수에서 이의 공용 로컬 서브레인지 수집부(42PU) 및 이의 전용 로컬 서브레인지 수집부(42PR) 모두를 갱신할 것이고, 따라서, 이는 이동 서브레인지(70)가 로컬 서브레인지(40)로서 추가되는 것을 의미한다. 또한, 그 다음, 추가 샤드 저장소(20.2)는 미리 정해진 샤드 저장소(20)에 이동 인정(acknowledgement) 메시지(74)를 전송할 것이다. 미리 정해진 샤드 저장소(20.2)가 단계 306에서 상기 이동 인정 메시지(74)를 추가 샤드 저장소(20)로부터 수신할 때, 미리 정해진 샤드 저장소(20.1)도 '20.1PU->[a:20.1:g:...:z]'에서 '20.1PU->[a:20.1:d:20.2:g:...:z]'로 공용 버전을 이전에 갱신한 것과 유사한 방식으로 이의 전용 로컬 서브레인지 수집부(42PR)를 갱신할 것이다. 또한, 그 다음, 미리 정해진 샤드 저장소(20.1)는 이동 샤드(72)를 삭제할 것이고, 이에 의해 안전한 방식으로 저장 용량을 풀어준다.

이동 샤드를 전송하는 것, 이동 샤드를 수신하는 것, 인정하는 것 등의 어떤 것이 잘못되어 갈 수 있는 이동 동작의 모든 스테이지가 일관되지 않은 상태로 시스템을 벗어나지 않으면서 커버되기 때문에, 이 설정은 견고성을 증가시킨다. 이것이 분산 데이터베이스 상황에서 검출되지 않은 상태로 유지될 수 있고 예를 들어 이 키의 데이터에 대한 일관성없는 갱신을 초래할 수 있는, 동일한 키에 대한 데이터베이스 내의 중복된 엔트리를 초래할 수 있기 때문에, 이것은 심지어 이동 동작에 실패하는 것이 데이터가 데이터베이스의 하나보다 많은 샤드에 존재하는 것을 야기하지 않을 수 있다는 것을 의미한다. 따라서, 이동 동작(80)이 시작되자마자, 미리 정해진 샤드 저장소(20.1)의 공용 로컬 서브레인지 수집부(42PU)에 대한 갱신은 이동 서브레인지에서의 키의 요청이 이 샤드 저장소(20.1)에 의해 더 이상 처리되지 않는다는 것을 보장한다. 더하여, 추가 샤드 저장소(20.2)의 로컬 서브레인지 수집부(42PU, 42PR)의 갱신은 이동 샤드(72)를 정확하게 수신할 때에만 추가 샤드 저장소(20.2)가 이와 같은 요청을 처리하기 시작한다는 것을 보장한다. 또한, 미리 정해진 샤드 저장소(20.1)의 전용 로컬 서브레인지 수집부(42PR)를 갱신하는 것만이 이동 동작(80) 동안 발생한 임의의 변칙이 임의의 외부 정보에 대한 필요성 없이 그 로컬 상태의 검증을 이용하여 이 샤드 저장소(20.1)에 의해 검출 가능하다는 것을 보장한다. 이와 같은 방식으로, 미리 정해진 샤드 저장소(20.1)가 이동 동작(80)을 수행하고 나서 미리 정해진 기간 후에 이의 공용 로컬 서브레인지 수집부(42PU)가 이의 전용 로컬 서브레인지 수집부(42PR)와 상이한 것을 검출할 때, 이 샤드 저장소(20.1)는 이동 동작(80)의 임의의 스테이지 동안 발생한 장애를 의심할 수 있다. 바람직하게는, 그 다음, 미리 정해진 샤드 저장소(20)는 이동 샤드(72)를 추가 샤드 저장소(20.2)에 재전송한다. 이동 샤드(72)를 전송하거나 수신하는 데 있어서, 이동 동작에 연관된 양 샤드 저장소 사이의 네트워크 연결이 장애가 있는 경우 또는 연관된 샤드 저장소 중 하나가 일시적으로 사용 불가능한 경우와 같은 문제가 있었다면, 그리고 이 문제가 이동 샤드(72)를 재전송할 때 더 이상 존재하지 않는다면, 추가 이동 샤드는 이동 샤드(72)를 성공적으로 수신하고, 이의 로컬 서브레인지 수집부를 갱신하고, 이동 인정 메시지(74)를 전송하는 것을 진행할 것이다.

그러나 문제가 단순히 이동 샤드(72)가 추가 샤드 저장소(20.2)에서 이미 성공적으로 수신된 이 이동 인정 메시지(74)의 전송 또는 수신에 있었을 때에는, 바람직하게 재전송이 더욱 효율적으로 처리될 수 있다. 추가 샤드 저장소(20.2)는, 이동 서브레인지(70)가 이의 공용 로컬 서브레인지 수집부(42PU)에 이미 존재하는 미리 정해진 샤드 저장소(20.1)에 의해 추가 샤드 저장소(20.2)가 이동 샤드(72)를 제공 받는 상황, 예를 들어 이 이동 샤드(72)의 이전의 정확한 수신과 그 후에 이동 인정 메시지(74)가 미리 정해진 샤드 저장소(20.1)에 도달하는 데 실패한 것의 결과로서 이의 공용 로컬 서브레인지 수집부(42PU)가 이미 '20.2PU->[a:...:d:20.2:g:...i:20.2:n:...:z]'로 수정되는 동안 이동 서브레인지(70) 'd:20.2:g'가 다시 제공되는 상황을 검출할 수 있을 것이다. 이 경우에, 추가 샤드 저장소(20.2)는 바람직하게는 이동 샤드(72)를 수신하지 않으면서 미리 정해진 샤드 저장소(20)에 이동 인정 메시지(74)를 전송한다. 이것은 예를 들어 선단 메시지, 헤더, 적합한 식별자 또는 임의의 다른 적합한 형태에 이동 샤드에 관한 정보를 제공함으로써 이동 동작 동안 이동 샤드를 전송할 때 구현될 수 있고, 따라서, 이 이동 샤드(72)를 체크한 후에 추가 샤드 저장소(20.2)는 이동 샤드(72)를 전송하고 수신하는 통신 과정의 개시를 차단 또는 방지할 수 있다.

도 8에 도시된 바와 같이, 재밸런싱 동작에 연관된 데이터가 사용 가능하지 않은 기간 및 양을 감소시키면서 일관된 방식으로 샤드 저장소(20) 사이에서 데이터베이스(10)의 자동화되고 효율적인 재밸런싱을 허용하기 위하여, 이동 작업(82)이 단계 402에서 적어도 샤드(30)의 정렬된 서브세트를 이동시키기 위하여 제공될 때, 단계 404에서 이동 작업(82)과 관련된 샤드의 정렬된 서브세트의 크기가 이동 크기 임계값(90)을 초과하는지 먼저 체크된다. 이 이동 작업(82)과 관련된 샤드의 정렬된 서브세트가 이동 크기 임계값(90)을 초과하지 않는다면, 방법은 단계 406으로 진행하고, 이동 작업은 전술한 바와 유사하게 이동 동작(80)으로서 처리된다. 이동 작업(82)이 크기가 이동 크기 임계값(90)을 초과하는 샤드의 정렬된 서브세트와 관련되면, 단계 408에서 도시된 바와 같이, 이동 동작(80)의 각각의 이동 샤드(72)의 크기가 이동 크기 임계값(90) 이하가 되도록 상기 이동 작업(82)의 함수에서 복수의 이동 동작(80)이 생성될 것이다. 그러나 특정의 효율적인 구현예에 따라, 임의의 이동 작업(82)은, 예를 들어 임의의 선불의(upfront) 크기 계산을 할 필요성 없이, 전체 이동 작업(82)이 처리될 때까지, 예를 들어 이동 크기 임계값(90), 예를 들어 10 MB와 동일한 미리 정해진 프린지 크기의 하나 이상의 이동 샤드(72) 또는 프린지(72)를 생성함으로써 항상 처리될 수 있다. 이동 작업(82)은, 일반적으로 복수의 이동 동작(80)이 이동 작업 키 범위; 로컬 서브레인지 [a,d)인 샤드(30)의 정렬된 범위 [b,d)에서 키의 정렬된 서브세트의 이동 데이터; 또는 키(12)의 이동 작업량, 예를 들어 100,000 키를 포함하는 샤드(30)의 마지막 10,000 키의 정렬된 서브세트; 또는 샤드(30)의 정렬된 서브세트의 이동 작업 크기, 예를 들어 5 GB보다 더 큰 미리 정해진 샤드 저장소의 샤드의 임의의 적합한 정렬된 서브세트의 이동 작업 크기를 이동시키게 할 때까지, 미리 정해진 샤드 저장소(20)로부터 추가 샤드 저장소(20)로 샤드(30)의 정렬된 서브세트를 이동시키기 위한 임의의 적합한 요청일 수 있다. 이와 같은 방식으로, 데이터의 사용 불가능이 각각의 개별 이동 동작에 대해 필요한 전송 시간에 제한되는 상태를 유지하면서, 많고 그리고/또는 빈번한 이동 작업이 일관된 방식으로 분산 데이터베이스 시스템의 동적 재밸런싱 동안 실행될 수 있다. 이동 작업이 예를 들어 밸런서(balancer) 또는 데이터베이스(10) 내에 포함되거나 데이터베이스(10)와 연결된 다른 적합한 시스템 또는 모듈의 제어하에 있다면, 예를 들어 샤드의 5 GB의 정렬된 서브세트를 이동시키기 위한 대형 이동 작업이, 이동 크기 임계값(90)이 예를 들어 10 MB로 설정되어 있을 때, 연관된 양 샤드 저장소의 로컬 상태 정보를 갱신하는 것을 이용하여 강력하고 효율적인 방식으로 처리되는 모든 결과적인 10 MB 이동 동작의 상세한 실행을 이 밸런서가 따를 필요성 없이 발행될 수 있다. 대안적인 실시예에 따라 이동 크기 임계값(90)이 키의 미리 정해진 개수, 키의 범위의 미리 정해진 폭 등으로서 정의될 수 있다는 것이 명백하다.

예를 들어 전술한 이동 동작의 결과로서 야기되는 많은 개수의 소형 샤드(30)의 급증을 방지하기 위하여, 분산 데이터베이스를 동적으로 재밸런싱하는 동안, 바람직하게는, 미리 정해진 샤드(30)에 대하여 검출될 때, 로컬 서브레인지(40)가 미리 정해진 샤드(30)의 로컬 서브레인지(40)에 인접한 동일한 샤드 저장소(20)에 추가 샤드(30)가 사용 가능하다. 인접하다는 것은, 공통 경계를 터치하거나 공유한다는 것을 의미하고, 따라서 예를 들어 로컬 서브레인지는, 도 9에 도시된 예에서와 같이, 경계로서의 그 범위의 최대 또는 최소 한계값을 이웃하는 범위와 공유한다. 로컬 서브레인지 [d,e)인 미리 정해진 샤드(30)는 예를 들어 샤드 저장소 식별자(20.2)를 갖는 샤드 저장소(20)에서 수신된 이동 작업 동안 생성된 이동 샤드이다. 양 범위의 경계에 있는 범위 한계 'e'의 형태로 공통 경계를 공유하기 때문에 추가 샤드 [e,j)는 이와 같은 미리 정해진 샤드와 인접한다. 또한, 이는 '20.2->[a:...:d:20.2:e:20.2:j:...:z]'로 표현되는 바와 같이 로컬 서브레인지 수집부(42)의 상태로부터 명백하다. 병합 동작(84) 동안, 이와 같은 미리 정해진 샤드(30) [d,e)는 추가 샤드(30) [e,j)와 병합되어 이에 따라 병합된 샤드(30) [d,j)를 형성하고, 로컬 서브레인지 수집부(42)는 미리 정해진 샤드(30)와 추가 샤드(30)의 인접한 로컬 서브레인지(40) 'd:20.2:e:20.2:j'를 병합된 샤드(30)의 병합된 로컬 서브레인지(40) "d:20.2:j"로 병합함으로써 갱신된다. 병합 동작의 횟수를 특정 레벨로 제한하기 위하여, 예를 들어, 복수의 작은 이동 샤드를 생성하는 복수의 이동 동작을 야기한 이동 작업 후에 이 이동 샤드가 다시 병합되도록, 이동 크기 임계값(90)보다 바람직하게 더 큰 병합 크기 임계값보다 크기가 더 작은 미리 정해진 샤드로의 병합 동작을 제한하는 것이 가능하다.

위에서 주어진 예가 종종 단일 키를 수반하는 요청을 참조하지만, 위에서 설명된 시스템 및 방법은 복수의 키를 포함하는 요청에 대한 단일 샤드 룩업(lookup)의 공유를 최대화하는 데 특히 유익하다는 것이 명백하다. 전술된 바와 같이, 이와 같은 요청은 예를 들어 대형 분산 저장 시스템과 연계하여 공통으로 발생하고, 사용자에 의해 이루어진 빈번한 요청 중 하나는 예를 들어 특정 클라우드 저장 서비스의 미리 정해진 사용자 계정의 특정 폴더로 이전에 업로드된 파일을 열거하는 적합한 컨테이너의 내용을 보기 위한 정렬된 리스트의 제공이다. 이와 같은 표준 요청에 응답하여, 사용자는 예를 들어 브라우저 내에 알파벳 순으로 정렬된 파일 이름 리스트를 선택된 파일을 검색하기 위한 링크와 함께 제공 받는다. 이와 같은 대형 분산 저장 시스템에서, 예를 들어 모든 저장된 내용의 메타 데이터의 균형을 이루는 분산을 달성하기 위하여 어느 해싱 함수가 선택되어야 하는지 미리 평가하기 어렵고, 최적화된 해싱 방법을 선택할 때, 이와 같은 정렬된 리스트에서 연속하는 키의 이와 같은 샤드가 상이한 샤드에 종종 할당될 수 있다는 사실뿐만 아니라, 각각의 키가 저장되는 샤드를 결정하기 위하여, 이는 종종 데이터에 대한 요청이 이와 같은 키의 정렬된 리스트에 대하여 발행될 때 각각의 개별 키를 질의할 필요성을 야기한다. 성능을 증가시키기 위하여, 전술한 실시예는 요청이 복수의 정렬된 키에 대하여 수신될 때, 이것이 단일 샤드(30)의 정렬된 서브세트의 검색에 대한 요청을 야기할 확률이 증가된다는 것을 보장한다. 더하여, 샤드 자체의 각각이 글로벌 키 범위의 정렬된 서브세트를 형성할 때, 키의 이와 같은 정렬된 서브세트에 대한 데이터의 검색을 계속하기 위하여 어느 샤드가 인접한지를 정할 필요만 있는 이의 로컬 서브레인지의 한계에 도달할 때까지 요청의 가장 낮은 키에 대하여 요청의 정렬된 서브세트에서의 모든 연속된 키가 이와 같은 동일한 샤드에 존재할 것이라고 결정되기 때문에, 각각의 개별 키에 대하여 어느 샤드가 그 데이터를 유지할지를 정하는 것이 더 이상 필요하지 않다.

위의 예에서 키의 정렬된 서브세트에 상관된 하한 및 상한에 의해 정의되는 키의 알파벳 순으로 정렬된 범위에 대하여 주로 언급되었지만, 일반적으로 데이터베이스에 대한 요청의 대규모 공유에 요구되는 키의 정렬 관계에 근접하게 관련되는 한, 임의의 다른 적합한 정렬 관계가 선택될 수 있다는 것이 명백하다.

일반적으로 전술한 방법 및 시스템이 예를 들어 적합한 서버 또는 범용 컴퓨터와 같은 적합한 컴퓨팅 시스템의 프로세서에 의해 실행될 때 본 방법을 수행하도록 맞추어진 소프트웨어 코드를 포함하는 컴퓨터 프로그램으로서 대체로 구현될 수 있다는 것이 명백하다.

본 발명이 특정 실시예를 참조하여 예시되었지만, 본 발명이 전술한 예시적인 실시예의 상세에 한정되지 않으며, 본 발명이 그 범위를 벗어나지 않으면서 다양한 변경 및 수정으로 구체화될 수 있다는 것이 당업자에게 명백할 것이다. 따라서, 본 실시예들은 모든 관점에서 예시적이고 비한정적인 것으로 고려되어야 하며, 본 발명의 범위는 전술한 설명이 아니라 첨부된 청구범위에 의해 표시되며, 청구범위의 의미 및 균등 범위 내에 있는 모든 변경은 이에 따라 그 내에 포함되는 것으로 의도된다. 다른 말로 하면, 기본적으로 기초를 이루는 원리의 범위 내에 있고 본질적인 속성이 본 특허 출원에서 청구되는 임의의 그리고 모든 수정, 변경 또는 균등물을 포함하는 것이 고려된다. "포함하는" 또는 "포함한다"라는 단어는 다른 요소 또는 단계를 배제하지 않으며, 단수를 나타내는 단어는 복수를 배제하지 않으며, 컴퓨터 시스템, 프로세서 또는 다른 통합된 유닛과 같은 단일 요소는 청구범위에서 언급된 여러 수단의 기능을 충족할 수 있다는 것이 본 특허 출원을 읽는 자에 의해 추가로 이해될 것이다. 청구범위에서의 임의의 참조 부호는 관련된 각각의 청구범위를 제한하는 것으로 고려되어서는 안 된다. "제1", "제2", "제3", "a", "b", "c" 등과 같은 용어는, 상세한 설명 또는 청구범위에서 사용될 때, 유사한 요소 또는 단계를 구별하기 위하여 도입되는 것으로, 반드시 순차적이거나 연혁적인 순서를 설명하지는 않는다. 유사하게, "상부", "하부", "위", "아래" 등과 같은 용어는 설명적 목적을 위하여 도입되며, 반드시 관련된 위치를 나타내지는 않는다. 이와 같이 사용된 용어는 적합한 환경하에서 상호 변경 가능하며, 본 발명의 실시예는 위에서 설명되거나 예시된 것(들)과는 상이한 다른 순서 또는 방향으로 본 발명에 따라 동작할 수 있다는 것이 이해되어야 한다.

Claims (15)

1. 글로벌 정렬 범위(global ordered range)(14) 내에서 포함되는 키(12)에 의해 식별 가능한 데이터(11)를 포함하는 데이터베이스(10)의 동적 샤딩(dynamic sharding)을 위한 컴퓨터 구현 방법에 있어서,
   - 각각이 샤드 저장소 식별자(22)를 포함하고 각각이 저장 용량 한계에 의해 제한되는 복수의 샤드 저장소(20)를 제공하는 단계;
   - 상기 글로벌 정렬 범위(14)의 정렬된 서브레인지를 포함하는 로컬 서브레인지(local subrange)(40) 내에서 적어도 하나의 키(12)의 데이터(11)에 대한 요청(13)을 처리하도록 각각 구성된 복수의 샤드(30)를 제공하는 단계;
   - 단일 샤드(30)가 단일 샤드 저장소(20)를 넘어 확장하지 않도록 상기 샤드 저장소(20)에 상기 샤드(30)를 제공하는 단계;
   - 각각의 상기 샤드 저장소(20)에, 각각이 대응하는 샤드 저장소(20)에 저장된 상기 샤드(30)의 하나 이상의 상기 로컬 서브레인지(40)를 포함하는 로컬 서브레인지 수집부(collection)(42)를 제공하는 단계;
   - 적어도 하나의 키(12)의 데이터(11)에 대하여 상기 요청(13)을 처리할 때:
   - 미리 정해진 샤드 저장소(20)에 상기 요청(13)을 제공하는 단계;
   - 상기 미리 정해진 샤드 저장소(20)가, 이의 로컬 서브레인지 수집부(42)를 이용하여, 상기 적어도 하나의 키(12)가 상기 미리 정해진 샤드 저장소(20)에 저장된 샤드(30)의 로컬 서브레인지(40)에 존재하는지를 검증하는 단계; 및
   - 적어도 하나의 키(12)가 상기 미리 정해진 샤드 저장소(20)에 저장된 샤드(30)의 로컬 서브레인지(40)에 존재하지 않을 때, 상기 미리 정해진 샤드 저장소(20)의 상기 로컬 서브레인지 수집부(42)를 포함하는 메시지(60)를 리턴하는 단계를 포함하는, 동적 샤딩을 위한 컴퓨터 구현 방법.
2. 제1항에 있어서,
   상기 미리 정해진 샤드 저장소(20)가 상기 메시지(60)를 리턴할 때, 이어서 상기 요청(13)이 추가 샤드 저장소(20)에 제공되는, 동적 샤딩을 위한 컴퓨터 구현 방법.
3. 제1항 또는 제2항에 있어서,
   - 상기 복수의 샤드 저장소(20)에 연결 가능하고, 적어도 하나의 키(12)의 데이터(11)에 대한 요청을 처리하도록 맞추어진 샤드 라우터(50)를 제공하는 단계;
   - 상기 글로벌 정렬 범위(14)의 글로벌 서브레인지(54)를 샤드 저장소 식별자(22)에 상관시키도록 맞추어진 글로벌 서브레인지 수집부(52)를 상기 샤드 라우터(50)에 제공하는 단계;
   - 적어도 하나의 키(12)의 데이터(11)에 대한 요청(13)을 처리할 때:
   - 상기 샤드 라우터(50)에 상기 요청을 제공하는 단계;
   - 상기 샤드 라우터(50)가 상기 요청(13)의 적어도 하나의 키(12)를 포함하는 글로벌 서브레인지(54)에 상관된 샤드 저장소 식별자(22)를 결정하는 단계;
   - 상기 샤드 라우터(50)가 상관된 상기 샤드 저장소 식별자(22)의 상기 미리 정해진 샤드 저장소(20)에 상기 요청을 제공하는 단계;
   - 상기 미리 정해진 샤드 저장소(20)가, 이의 로컬 서브레인지 수집부(42)를 이용하여, 상기 적어도 하나의 키(12)가 상기 미리 정해진 샤드 저장소(20)에 저장된 샤드(30)의 로컬 서브레인지(40)에 존재하는지를 검증하는 단계;
   - 적어도 하나의 키(12)가 상기 미리 정해진 샤드 저장소(20)에 저장된 상기 샤드(30)의 상기 하나 이상의 로컬 서브레인지(40)에 존재하지 않을 때:
   - 상기 미리 정해진 샤드 저장소(20)의 상기 로컬 서브레인지 수집부(42)를 포함하는 메시지(60)를 리턴하는 단계; 및
   - 상기 샤드 라우터(50)가 상기 미리 정해진 샤드 저장소(20)의 상기 샤드 저장소 식별자(22)를 상기 메시지(60)의 상기 로컬 서브레인지 수집부(42)의 로컬 서브레인지(40)에 대응하는 글로벌 서브레인지(54)에 상관시킴으로써 상기 메시지(60)의 함수에서 이의 글로벌 서브레인지 수집부(52)를 갱신하는 단계를 더 포함하는, 동적 샤딩을 위한 컴퓨터 구현 방법.
4. 제1항 내지 제3항 중 어느 한 항에 있어서,
   상기 요청(13)을 처리하는 상기 미리 정해진 샤드 저장소(20)의 상기 로컬 서브레인지 수집부(42)는, 그들 각각의 샤드 저장소 식별자(22)에 상관된 다른 샤드 저장소(20)에 저장된 샤드(30)의 하나 이상의 외부 서브레인지(44)를 포함하는 외부 서브레인지 수집부(46)를 더 포함하고, 상기 방법은,
   상기 미리 정해진 샤드 저장소(20)에 의해 상기 요청(13)을 처리할 때, 적어도 하나의 키(12)가 상기 미리 정해진 샤드 저장소(20)에 저장된 상기 샤드(30)의 상기 하나 이상의 로컬 서브레인지(40)에 존재하지 않는 경우에:
   - 상기 로컬 서브레인지 수집부(42)를 포함하는 메시지(60)를 리턴하는 단계;
   - 상기 요청(13)의 적어도 하나의 키(12)가 상기 로컬 서브레인지 수집부(42)의 상기 외부 서브레인지 수집부(46)의 미리 정해진 외부 서브레인지(44) 내에 포함되는지를 검증하는 단계;
   - 이어서 상기 샤드 저장소 식별자(22)가 상기 외부 서브레인지(44)에 상관된 상기 추가 샤드 저장소(20)에 상기 요청(13)을 제공하는 단계를 더 포함하는, 동적 샤딩을 위한 컴퓨터 구현 방법.
5. 제3항에 종속되는 제4항에 있어서,
   적어도 하나의 키(12)가 상기 미리 정해진 샤드 저장소(20)에 저장된 상기 샤드(30)의 상기 하나 이상의 로컬 서브레인지(40)에 존재하지 않을 때:
   - 상기 샤드 라우터(50)가 상기 추가 샤드 저장소(20)의 상기 샤드 저장소 식별자(22)를 상기 메시지(60)의 상기 외부 서브레인지 수집부(46)의 미리 정해진 상기 외부 서브레인지(44)에 대응하는 글로벌 서브레인지(54)에 상관시킴으로써 상기 메시지(60)의 함수에서 이의 글로벌 서브레인지 수집부(52)를 추가로 갱신하는 단계를 더 포함하는, 동적 샤딩을 위한 컴퓨터 구현 방법.
6. 제4항 또는 제5항에 있어서,
   상기 미리 정해진 샤드 저장소(20)로부터 추가 샤드 저장소(20)로의 이동 서브레인지(70) 내의 모든 키(12)의 데이터(11)를 포함하는 이동 샤드(72)의 이동 동작(80)은, 상기 이동 서브레인지(70)가 상기 미리 정해진 샤드 저장소(20)의 상기 로컬 서브레인지 수집부(42)로부터 제거되고 상기 추가 샤드 저장소(20)의 상기 샤드 저장소 식별자(22)에 상관된 외부 서브레인지(44)로서 상기 미리 정해진 샤드 저장소(20)의 상기 외부 서브레인지 수집부(46)에 추가되게 하는, 동적 샤딩을 위한 컴퓨터 구현 방법.
7. 제6항에 있어서,
   상기 미리 정해진 샤드 저장소(20)로부터 추가 샤드 저장소(20)로의 이동 서브레인지(70) 내의 모든 키(12)의 데이터(11)를 포함하는 이동 샤드(72)의 상기 이동 동작(80)은, 상기 이동 서브레인지(70)가 로컬 서브레인지(40)로서 상기 추가 샤드 저장소(20)의 상기 로컬 서브레인지 수집부(42)에 추가되게 하는, 동적 샤딩을 위한 컴퓨터 구현 방법.
8. 제7항에 있어서,
   이동 동작(80) 동안, 상기 이동 동작(80)에 연관된 상기 미리 정해진 샤드 저장소(20) 및/또는 상기 추가 샤드 저장소(20)의 상기 로컬 서브레인지 수집부(42)만이 상기 이동 서브레인지(70)의 함수에서 갱신되는, 동적 샤딩을 위한 컴퓨터 구현 방법.
9. 제6항 내지 제8항 중 어느 한 항에 있어서,
   상기 이동 동작(80)에 연관된 상기 미리 정해진 샤드 저장소(20) 및 상기 추가 샤드 저장소(20)는, 공용 로컬 서브레인지 수집부(42PU) 및 전용 로컬 서브레인지 수집부(42PR)를 포함하고, 상기 방법은, 이와 같은 이동 동작(80) 동안,
   - 상기 미리 정해진 샤드 저장소(20)가 상기 이동 서브레인지(70)의 함수에서 이의 공용 로컬 서브레인지 수집부(42PU)를 갱신하는 단계;
   - 상기 미리 정해진 샤드 저장소(20)가 상기 추가 샤드 저장소(20)에 상기 이동 샤드(72)를 전송하는 단계;
   - 상기 추가 샤드 저장소(20)가 상기 미리 정해진 샤드 저장소(20)로부터 상기 이동 샤드(72)를 수신하는 단계;
   - 상기 이동 샤드(72)가 정확하게 수신되면, 상기 추가 샤드 저장소(20)가:
   - 상기 이동 서브레인지(70)의 함수에서 이의 공용 로컬 서브레인지 수집부(42PU) 및 이의 전용 로컬 서브레인지 수집부(42PR) 모두를 갱신하고;
   - 상기 미리 정해진 샤드 저장소(20)에 이동 인정(acknowledgement) 메시지(74)를 전송하며;
   - 상기 미리 정해진 샤드 저장소(20)가 상기 추가 샤드 저장소(20)로부터 상기 이동 인정 메시지(74)를 수신할 때, 상기 미리 정해진 샤드 저장소(20)가 이의 전용 로컬 서브레인지 수집부(42PR)를 갱신하고, 상기 미리 정해진 샤드 저장소(20)가 상기 이동 샤드(72)를 삭제하는 단계를 더 포함하는, 동적 샤딩을 위한 컴퓨터 구현 방법.
10. 제9항에 있어서,
    상기 미리 정해진 샤드 저장소(20)가 이동 동작(80)을 수행하고 나서 미리 정해진 기간 후 이의 공용 로컬 서브레인지 수집부(42PU)가 이의 전용 로컬 서브레인지 수집부(42PR)와 상이한 것을 검출할 때, 상기 미리 정해진 샤드 저장소(20)는 상기 추가 샤드 저장소(20)에 상기 이동 샤드(72)를 재전송하는, 동적 샤딩을 위한 컴퓨터 구현 방법.
11. 제10항에 있어서,
    상기 이동 서브레인지(70)가 이의 공용 로컬 서브레인지 수집부(42PU)에 이미 존재하고 있는 상기 미리 정해진 샤드 저장소(20)에 의해 상기 추가 샤드 저장소(20)가 이동 샤드(72)를 제공 받을 때; 상기 추가 샤드 저장소(20)는 상기 이동 샤드(72)를 수신하지 않고 상기 미리 정해진 샤드 저장소(20)에 이동 인정 메시지(74)를 전송하는, 동적 샤딩을 위한 컴퓨터 구현 방법.
12. 제6항 내지 제11항 중 어느 한 항에 있어서,
    상기 이동 샤드(72)는 적어도 상기 미리 정해진 샤드 저장소(20)의 샤드(30)의 정렬된 서브세트를 포함하도록 생성되는, 동적 샤딩을 위한 컴퓨터 구현 방법.
13. 제6항 내지 제12항 중 어느 한 항에 있어서,
    적어도 크기가 이동 크기 임계값(90)을 초과하는 샤드(30)의 정렬된 서브세트를 이동하기 위하여 이동 작업(82)이 제공될 때, 상기 이동 동작(80)의 각각의 상기 이동 샤드(72)의 크기가 상기 이동 크기 임계값(90) 이하가 되도록 복수의 이동 동작(80)이 상기 이동 작업(82)의 함수에서 생성되고, 상기 이동 작업(82)은 상기 복수의 이동 동작(80)이,
    - 이동 작업 키 범위;
    - 키(12)의 이동 작업량; 및/또는
    - 상기 샤드(30)의 상기 정렬된 서브세트의 이동 작업 크기를 이동시키게 할 때까지, 상기 미리 정해진 샤드 저장소(20)로부터 추가 샤드 저장소(20)로 샤드(30)의 정렬된 서브세트를 이동시키기 위한 요청을 포함하는, 동적 샤딩을 위한 컴퓨터 구현 방법.
14. 제1항 내지 제13항 중 어느 한 항에 있어서,
    미리 정해진 샤드(30)에 대하여, 로컬 서브레인지(40)가 상기 미리 정해진 샤드(30)의 로컬 서브레인지(40)에 인접한 동일한 샤드 저장소(20)에 추가 샤드(30)가 사용 가능하다고 검출될 때, 상기 미리 정해진 샤드(30)는 상기 추가 샤드(30)와 병합되어 병합된 샤드(30)를 형성하고, 상기 로컬 서브레인지 수집부(42)는 상기 미리 정해진 샤드(30)와 상기 추가 샤드(30)의 인접한 로컬 서브레인지(40)를 모두 상기 병합된 샤드(30)의 병합된 로컬 서브레인지(40)로 병합함으로써 갱신되는, 동적 샤딩을 위한 컴퓨터 구현 방법.
15. 프로세서에 의해 실행될 때 제1항 내지 제14항 중 어느 한 항에 따른 방법을 수행하도록 맞추어진 소프트웨어 코드를 포함하는 컴퓨터 프로그램.

Images