KR101970864B1 - 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법 - Google Patents

총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법 Download PDF

Info

Publication number
KR101970864B1
KR101970864B1 KR1020160158480A KR20160158480A KR101970864B1 KR 101970864 B1 KR101970864 B1 KR 101970864B1 KR 1020160158480 A KR1020160158480 A KR 1020160158480A KR 20160158480 A KR20160158480 A KR 20160158480A KR 101970864 B1 KR101970864 B1 KR 101970864B1
Authority
KR
South Korea
Prior art keywords
data
parity
disk
parity data
deduplication
Prior art date
Application number
KR1020160158480A
Other languages
English (en)
Other versions
KR20180059197A (ko
Inventor
김덕환
허희성
Original Assignee
인하대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 인하대학교 산학협력단 filed Critical 인하대학교 산학협력단
Priority to KR1020160158480A priority Critical patent/KR101970864B1/ko
Publication of KR20180059197A publication Critical patent/KR20180059197A/ko
Application granted granted Critical
Publication of KR101970864B1 publication Critical patent/KR101970864B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
    • G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
    • G06F11/1076—Parity data used in redundant arrays of independent storages, e.g. in RAID systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0638—Organizing or formatting or addressing of data
    • G06F3/064—Management of blocks
    • G06F3/0641—De-duplication techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2211/00—Indexing scheme relating to details of data-processing equipment not covered by groups G06F3/00 - G06F13/00
    • G06F2211/10—Indexing scheme relating to G06F11/10
    • G06F2211/1002—Indexing scheme relating to G06F11/1076
    • G06F2211/1057—Parity-multiple bits-RAID6, i.e. RAID 6 implementations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/26—Using a specific storage system architecture
    • G06F2212/261—Storage comprising a plurality of storage devices
    • G06F2212/262—Storage comprising a plurality of storage devices configured as RAID

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Quality & Reliability (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

본 발명은 오픈스택 클라우드 서비스를 위한 블록 스토리지 또는 신더(Cinder)에서 SSD로 구성된 RAID 기반 총 플래시 어레이(All Flash Array) 디스크에 패리티 데이터 중복제거를 적용하는, 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법에 관한 것으로서, (a) 쓰기를 위한 데이터를 입력받는 단계; (b) 상기 데이터를 청크 단위로 분할하여 다수의 데이터 청크를 생성하는 단계; (c) 각 데이터 청크에 대하여 중복제거를 수행하여, 데이터 디스크에 저장하는 단계; (d) 상기 각 데이터 청크에 대한 패리티 데이터를 생성하는 단계; 및, (e) 상기 패리티 데이터에 대하여 중복제거를 수행하여, 패리티 디스크에 저장하는 단계를 포함하는 구성을 마련한다.
상기와 같은 방법에 의하여, 중복되는 데이터를 갖는 워크로드 처리 시에 효율적으로 패리티 쓰기 연산 횟수를 감소시킬 수 있다.

Description

총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법 { A parity data deduplication method in All Flash Array based OpenStack cloud block storage }
본 발명은 오픈스택 클라우드 서비스를 위한 블록 스토리지 또는 신더(Cinder)에서 SSD로 구성된 RAID 기반 총 플래시 어레이(All Flash Array) 디스크에 패리티 데이터 중복제거를 적용하는, 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법에 관한 것이다.
최근 인터넷에서 생성되는 데이터의 양이 급격하게 증가하였으며, 많은 양의 데이터를 신속하게 처리하기 위해 고성능 클라우드 스토리지 시스템을 구축하여 활용하는 경우가 많아지고 있다. 이러한 클라우드 스토리지 시스템의 성능 및 신뢰성을 향상시키기 위한 방법 중 하나는 스토리지에 RAID를 구성하여 사용하는 것이다.
고성능 클라우드 스토리지를 구성하기 위해서는 주로 NAND 플래시 메모리(Flash memory) 기반의 SSD를 사용하고 있는데, SSD는 HDD에 비해 높은 성능을 갖지만 단점으로는 용량 당 가격이 HDD에 비해 높으며, 수명이 존재하여 일정 횟수 이상 쓰기/지우기 연산을 수행하면 사용이 불가능하다는 단점이 있다. SSD를 사용하여 RAID 기반 고성능 클라우드 스토리지를 구성해야 하는 경우는 이러한 단점들이 문제가 될 수 있으며. RAID가 적용된 디스크에 작은 크기의 쓰기 연산이 발생한 경우에는 디스크에 쓰여진 데이터 뿐 아니라 패리티 데이터도 지속적으로 갱신해야 하므로 SSD의 마모는 더욱 빠르게 진행된다.
위와 같은 문제의 해결을 위해서 스토리지에 데이터 중복제거 기법을 적용할 수 있다. SSD들로 이루어진 RAID 디스크에 중복제거를 적용하면 중복되는 데이터에 대한 쓰기 연산을 제거할 수 있으므로 중복제거를 적용하지 않았을 때에 비해 SSD의 수명을 증가시킬 수 있다는 장점이 있다. 그러나 중복제거를 전체 디스크에 적용할 때는 디스크로 들어오는 모든 데이터에 대한 핑거프린트를 생성해야 하므로 연산량이 많아지며 해시테이블이 차지하는 DRAM 용량도 증가하게 된다.
Voras, Ivan, et al., "Evaluating open-source cloud computing solutions", Proc. of the 34th Intl. Convention on MIPRO 2011, pp.209-214, May. 2011. Wen, Xiaolong, et al., "Comparison of Open-Source Cloud Management Platforms: OpenStack and OpenNebula", Proc. of the 9th Intl. Conference on Fuzzy Systems and Knowledge Discovery(FSKD), pp.2457-2461, May. 2012. Hui-Seong Heo, Mehdi Pirahandeh, Kwang-Soo Lee, Deok-Hwan Kim, "All Flash Array Storage Virtualisation using SCST", KIISE Transactions on Computing Practices, Vol.20, No.10, pp.525-533, Oct. 2014. Nil Mistry, et al., "Throughput Studies on an InfiniBand Interconnect via All-to-All Communications", Proc. of the 23rd High Performance Computing Symposium, Apr. 2015 Liu, Jiuxing, Jiesheng Wu and Dhabaleswar K. Panda., "High performance RDMA-based MPI implementation over InfiniBand", Intl. Journal of Parallel Programming, Vol.32, No.3, Jun. 2004
본 발명의 목적은 상술한 바와 같은 문제점을 해결하기 위한 것으로,오픈스택 클라우드 서비스를 위한 블록 스토리지 또는 신더(Cinder)에서 SSD로 구성된 RAID 기반 총 플래시 어레이(All Flash Array) 디스크에 패리티 데이터 중복제거를 적용하는, 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법을 제공하는 것이다.
상기 목적을 달성하기 위해 본 발명은 오픈스택 프레임워크에 의한 신더(Cinder)가 다수의 SSD(Solid-State Drive)를 이용하여 블록 스토리지를 가상화하여 제공하는, 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법에 관한 것으로서, (a) 쓰기를 위한 데이터를 입력받는 단계; (b) 상기 데이터를 청크 단위로 분할하여 다수의 데이터 청크를 생성하는 단계; (c) 각 데이터 청크에 대하여 중복제거를 수행하여, 데이터 디스크에 저장하는 단계; (d) 상기 각 데이터 청크에 대한 패리티 데이터를 생성하는 단계; 및, (e) 상기 패리티 데이터에 대하여 중복제거를 수행하여, 패리티 디스크에 저장하는 단계를 포함하는 것을 특징으로 한다.
또한, 본 발명은 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법에 있어서, 상기 (c)단계에서, 상기 패리티 데이터의 중복 여부를 판단하기 위하여 해시 테이블(hash table)을 이용하되, 상기 데이터 청크의 중복 여부를 판단하기 위해 사용되는 해쉬 테이블을 같이 이용하는 것을 특징으로 한다.
또한, 본 발명은 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법에 있어서, 상기 (c)단계에서, 상기 패리티 데이터의 중복 여부를 판단하기 위하여 해시 테이블(hash table)을 이용하되, 상기 데이터 청크의 중복 여부를 판단하기 위해 사용되는 해쉬 테이블을 같이 이용하는 것을 특징으로 한다.
또한, 본 발명은 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법에 있어서, 상기 블록 스토리지는 다수의 SSD로 구성되고, 상기 다수의 SSD를 레이드(RAID)-6 에 의해 데이터 디스크와 패리티 디스크로 분할하여, 데이터 청크 또는 패리티 데이터를 저장하는 것을 특징으로 한다.
또한, 본 발명은 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법을 수행하는 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체에 관한 것이다.
상술한 바와 같이, 본 발명에 따른 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법에 의하면, 중복되는 데이터를 갖는 워크로드 처리 시에 효율적으로 패리티 쓰기 연산 횟수를 감소시킬 수 있는 효과가 얻어진다.
도 1은 본 발명에서 사용하는 오픈스택 클라우드 시스템에 대한 구성의 예시도.
도 2는 본 발명을 실시하기 위한 전체 시스템에 대한 구성도.
도 3은 본 발명의 일실시예에 따른 사선 패리티 방식을 사용하는 RAID-6 스토리지에 대한 구성도.
도 4는 본 발명의 일실시예에 따른 패러티 데이터(Parity data) 중복제거 방법을 설명하는 슈도코드.
도 5는 본 발명의 일실시예에 따른 패리티 디스크에 대한 중복제거 방법을 나타낸 블록도.
도 6은 본 발명의 일실시예에 따른 클라우드 블록 스토리지 환경에서의 패리티 디스크 중복제거 방법을 설명하는 예시도.
도 7은 본 발명의 실험에 따른 기존의 사선 패리티를 사용하는 방법과 패리티 디스크에 중복제거를 사용한 방법의 입출력 성능을 비교한 결과 그래프.
도 8은 본 발명의 실험에 따른 기존의 사선 패리티를 사용하는 방법과 패리티 디스크에 중복제거를 사용한 방법의 쓰기 횟수를 비교한 결과 그래프.
도 9는 본 발명의 실험에 따른 해시테이블을 위한 DRAM 사용량을 측정한 결과를 나타낸 그래프.
도 10은 본 발명의 실험에 따른 데이터를 복구하기 위한 디코딩 시간을 측정한 결과를 나타낸 그래프.
이하, 본 발명의 실시를 위한 구체적인 내용을 도면에 따라서 설명한다.
또한, 본 발명을 설명하는데 있어서 동일 부분은 동일 부호를 붙이고, 그 반복 설명은 생략한다.
먼저, 본 발명에서 사용되는 레이드(RAID)에 대하여 설명한다.
레이드(RAID)는 여러 개의 디스크를 사용하여 고성능 또는 고신뢰성을 갖는 디스크를 구성하는 방법이다. 일반적으로 클라우드 스토리지 시스템을 구축하는 경우에는 다수의 디스크를 사용하는 경우가 많으므로, 디스크의 고장에 대비하여 한 개의 디스크가 손상되어도 데이터의 복원이 가능한 RAID-5 또는 두 개의 디스크 고장까지 견딜 수 있는 RAID-6를 사용한다. 여기서 RAID-6의 경우 데이터 디스크가 N개 일 때 2개의 패리티(parity) 디스크를 추가적으로 사용해야 하므로 N+2개의 디스크를 사용하게 되며, 두 개의 패리티 데이터를 생성하는 복잡한 연산으로 인해 RAID-5에 비해 성능 면에서는 조금 떨어지지만 RAID-5에 비해 높은 신뢰성을 가지는 장점이 있다. 따라서, RAID-6는 다수의 디스크를 사용하는 환경에서 고성능과 고신뢰성을 갖는 디스크를 구현하기 위해 사용된다.
다음으로, 본 발명에서 사용되는 오픈스택 블록 스토리지에 대하여 도 1을 참조하여 설명한다. 도 1은 본 발명에서 사용되는 오픈스택 프레임워크에 대한 구성도이다.
도 1에서 보는 바와 같이, 오픈스택은 컴퓨팅 서비스를 제공하는 노바(Nova), 오브젝트 스토리지 서비스를 제공하는 스위프트(Swift), 이미지 서비스를 제공하는 글랜스(Glance), 블록 스토리지 서비스를 제공하는 신더(Cinder) 등의 서비스 등으로 구성되어 있으며, 운영 네트워크(Management network)를 통해 서비스 컴포넌트들을 연동하여 클라우드 서비스를 제공한다.
컴퓨팅 서비스를 제공하는 노바(Nova)는 데이터의 입출력이 많은 스토리지 시스템과 빠른 처리속도를 요구하는 서버 등의 고성능 컴퓨팅 시스템 구축에 사용할 수 있다. 스토리지 시스템에서 노바(Nova)는 가상화된 스토리지 자원을 스케줄러를 통해 관리하며, 노바(Nova) 컴퓨트 노드에서 하이퍼바이저를 통해 서버를 가상화하고 가상화된 자원에 대한 컴퓨팅 작업을 진행한다.
또한 블록 스토리지 서비스를 제공하기 위한 신더(Cinder)는 데이터베이스 구성을 위한 스토리지, 블록 레벨 디스크로의 직접 접근을 제공하는 파일서버 등 입출력 성능에 민감한 시스템에 적합하다. 신더(Cinder)는 LVM(Logical Volume Manager)을 통해 여러 개의 물리 디스크들을 하나의 볼륨 그룹으로 묶어 블록 스토리지로써 사용하고, 이 블록 스토리지들은 가상화되어 사용자에게 제공된다.
다음으로, 본 발명에서 사용되는 총 플래시 메모리(All Flash Array)에 대하여 설명한다.
총 플래시 메모리(All Flash Array)는 플래시 메모리를 사용하는 SSD (Solid-State Drive)만으로 구성된 스토리지이다. SSD는 자기 디스크를 사용하는 하드디스크와는 달리 반도체를 이용하여 정보를 저장한다.[비특허문헌 3] 이는 순수 전자식으로 동작하기 때문에 기계적으로 헤드를 이동시켜 데이터를 읽어야 하는 하드디스크에 비해 탐색 시간이 매우 빠르다. 입/출력 속도 또한 순차 읽기/쓰기의 경우는 하드디스크의 몇 배, 랜덤 읽기/쓰기의 경우는 수십 배 이상 빠르다는 장점이 있다. 그러나, SSD는 하드디스크와는 달리 디스크를 구성하는 셀에 마모도가 존재하여 제한된 횟수만 쓸 수 있다는 단점이 있다.[비특허문헌 ]
다음으로, 본 발명에서 사용되는 데이터 중복제거 방법에 대하여 설명한다.
중복제거 방법은 입력되는 데이터에 해시 값을 부여하고 기존의 데이터와 비교하여 해시 값이 같으면 동일 데이터로 인식한다. 따라서 동일한 데이터는 디스크에 저장하기 전에 제거되므로, 공간 활용도를 높일 수 있다는 장점이 있다.
여기서 데이터의 중복 제거를 수행하는 방식에 따라 인라인 방식과 포스트 프로세스 방식으로 분류할 수 있다. 인라인 방식의 경우 데이터가 저장되기 전에 중복제거를 수행하는 방식으로 디스크 용량을 줄일 수 있다는 장점이 있지만, 데이터 입력이 많은 경우 해시 연산의 오버헤드로 인한 병목 현상이 발생하는 단점이 있다. 포스트 프로세스 방식의 경우 임시 디스크에 저장 후, 유휴(idle) 시간에 중복된 데이터를 찾아 제거해주는 방식이며, 공간 활용 면에서 단점을 가진다. SSD를 이용한 시스템의 경우 디스크에 저장되기 전에 제거하는 인라인 방식을 사용하여 쓰기 횟수를 감소시킬 수 있다.
다음으로, 본 발명의 일실시예에 따른 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법을 도 2를 참조하여 설명한다.
도 2에서 보는 바와 같이, 본 발명의 패리티 데이터 중복제거 방법은 (a) 데이터 수신 단계(S10), (b) 데이터 청크를 생성하는 단계(S20), (c) 데이터 청크에 대하여 중복제거를 하여 저장하는 단계(S30), (d) 각 데이터 청크에 대한 패리티 데이터를 생성하는 단계(S40), 및, (e) 패리티 데이터를 중복제거하여 저장하는 단계(S50)로 구성된다.
본 발명에서는 오픈스택의 신더(Cinder)에서 할당한 SSD들에 RAID를 적용하고, 이 중 패리티가 저장되는 디스크에 대해 중복제거를 적용한다.
앞서 설명한 바와 같이, 본 발명을 실시하기 위한 전체 시스템은 오픈스택 프레임워크에 의한 시스템으로서, 신더(Cinder)가 다수의 SSD 스토리지(또는 총플래시 어레이)를 이용하여 저장장치(또는 스토리지)를 구성한다. 그리고 이하에서 설명하듯이, RAID-6 방식을 적용하여, SSD 스토리지를 데이터 디스크와 패리티 디스크로 구분하여, 사선 패리티 방식으로 구성한다.
즉, 소거 코딩(Erasure Codes)을 이용하여 패리티 정보를 저장하는 경우, 청크 단위로 패리티 데이터를 생성하고, 청크 단위로 데이터 및 패리티 데이터를 저장한다. 도 3에서 보는 바와 같이, 데이터 청크와 패리티 청크(또는 패리티 데이터)는 스트라이프 방식으로 각각의 데이터 노드(또는 SSD 디스크)에 저장된다. 바람직하게는, 청크 크기의 범위는 32∼128KB이다. RAID에서 스트라이프 방식은 데이터를 청크 사이즈 단위로 나누고 RAID 수 만큼의 청크를 하나의 세트로 구성하여 저장하는 방법이다. SSD 디스크의 손상 등에 의해 데이터가 손실되는 경우, 다른 데이터 노드(또는 SSD 디스크)에 복제된 데이터 청크를 이용하거나, 패리티 데이터를 이용하여 데이터를 복구할 수 있다.
먼저, 패리티 데이터 중복제거에 대하여 보다 구체적으로 설명한다.
RAID가 적용된 스토리지에 쓰기 연산 발생 시 블록에 대한 쓰기 작업이 일어나고 추가적으로 패리티 디스크에 대한 쓰기 작업이 발생한다. 이는 읽기(Read)-수정(Modify)-쓰기(Write) 연산을 수행하여 패리티 데이터를 갱신하게 되는데, 작은 데이터의 쓰기 연산 시에도 패리티 데이터의 갱신이 같이 이루어져야 하므로 패리티 디스크가 전체 RAID가 적용된 디스크에 대한 병목지점이 된다.
따라서 기존의 RAID-6 방식에서는 지속적인 패리티 갱신으로 인해 패리티 디스크에 쓰기 연산이 집중된다. 이를 방지하기 위해 도 3과 같이 사선 패리티를 이용한 방식을 사용한다. 이는 패리티 데이터를 여러 디스크에 걸쳐 저장하므로, 쓰기 연산 시 갱신해야 하는 패리티 데이터로 인한 디스크의 마모를 RAID가 적용된 전체의 디스크에 분산시킬 수 있다는 장점이 있다. 그러나 이는 디스크에 대한 쓰기횟수를 감소시키지는 못하므로 디스크 전체에 대한 마모도는 패리티를 저장하기 위한 독립적인 디스크를 사용하는 방법과 같다.
따라서 디스크에 대한 쓰기횟수를 줄이기 위하여 데이터 중복제거를 적용해야 하는데, 기존의 RAID에서는 각각의 디스크가 데이터와 패리티를 저장하기 위해 사용되므로 RAID로 사용될 디스크 전체에 대해 중복제거를 적용해야 한다. 이는 디스크로 들어오는 모든 데이터에 대해 해시함수를 적용하여 핑거프린트를 생성해야 하므로 많은 연산을 필요로 하고, 해시테이블이 차지하는 DRAM 용량이 증가하게 된다.
또한 모든 디스크에 대해 중복제거를 적용해야 하므로 중복제거를 적용한 디스크의 수에 비례하여 CPU, DRAM 자원을 필요로 한다는 단점이 있으며, 클라우드 환경에서는 사용자가 요청하는 만큼의 디스크를 바로 제공하기 위해 대규모의 스토리지 시스템을 구축하기 때문에 이러한 단점이 더욱 부각된다.
따라서, 이보다 효율적으로 RAID 디스크에 대한 쓰기 횟수를 감소시키기 위해 패리티 디스크에 대한 중복제거를 적용할 수 있다. 도 4의 표는 RAID 디스크에서의 패리티 데이터 중복제거의 알고리즘을 나타내고, 도 5는 RAID가 적용된 스토리지들 중에서 패리티 디스크에 대해 중복제거가 적용된 모습을 나타낸다.
도 4의 표에서 Generate_parity() 함수는 RAID 디스크에서 패리티 데이터(Reed solomon, even odd, etc.)를 생성하는 함수이고, Generate_hash_value() 함수는 중복제거를 위해 해시 값(SHA-1, murmur3, etc.)을 생성하는 함수이다.
패리티 디스크에 대해 중복제거를 적용하지 않았을 때는, 도 5와 같은 구조의 RAID 디스크에서 패리티 데이터 저장 시 패리티 디스크가 전체 RAID가 적용된 디스크에 대한 병목지점이 된다. 그러나 패리티 디스크에 대해 중복제거를 적용한 경우에 중복된 데이터가 많은 데이터에 대한 쓰기 연산 시에는 중복되는 패리티 데이터에 대한 쓰기연산을 수행하지 않는다. 따라서 이때, 패리티 디스크에 쓰기연산이 집중적으로 수행되는 것을 방지하므로, RAID 디스크에서의 패리티 데이터 생성으로 인한 병목지점을 제거할 수 있다. 또한, RAID 디스크 전체에 대해 중복제거를 적용하는 방법에 비해 해시 값 계산을 위한 CPU 연산량과 해시테이블을 위한 DRAM 사용량을 효율적으로 감소시킬 수 있다. 또한 RAID를 구성하는 디스크의 스트라이프 크기에 비해 중복제거를 수행하기 위한 청크의 크기를 작게 함으로써, 갱신된 패리티 청크의 변경된 부분이 거의 없을 때 디스크에 실제로 저장되는 패리티 데이터를 최소화할 수 있게 된다.
다음으로, 본 발명의 일실시예에 따른 패리티 데이터 중복제거 방법이 적용된 오픈스택 클라우드 블록 스토리지 시스템을 설명한다.
오픈스택의 신더(Cinder)는 노바(Nova)에서 생성하는 가상머신에 블록 스토리지를 제공하는 역할을 한다. 이는 SCSI 이니시에이터-타겟 구조로 연결되는데, 신더(Cinder) 블록 스토리지 노드가 스토리지를 제공하는 타겟 시스템이 되고 노바(Nova)에서 생성한 가상머신이 이니시에이터 시스템이 되어 신더(Cinder)에서 제공하는 스토리지를 받아 사용하게 된다. 플래시 메모리 기반의 SSD를 사용하는 오픈스택 블록 스토리지 시스템에 제안하는 패리티 데이터 중복제거를 적용하는 경우에는 SSD로의 쓰기 연산을 줄여 내부 셀의 마모를 효율적으로 감소시킬 수 있으며, 컴퓨트 노드에서 블록 스토리지 노드로 전송되는 데이터의 양이 감소하게 된다.
본 발명에서 제안하는 패리티 데이터 중복제거를 적용한 오픈스택 클라우드 블록 스토리지 시스템의 구조는 도 6과 같다.
오픈스택 클라우드 블록 스토리지 노드인 신더(Cinder)에서는 SSD를 가상화하여 노바(Nova) 컴퓨트 노드에서 생성된 가상머신에 제공하고, 노바(Nova) 컴퓨트 노드에서 생성한 가상머신에서는 제공받은 가상의 디스크에 대해 입출력 작업을 수행할 때 패리티 데이터의 중복제거를 실시한다.
다음으로, 본 발명의 효과를 실험을 통해 설명한다.
본 발명에서는 1개의 블록 스토리지 노드에서 총 6개의 SSD를 가상화하여 컴퓨트 노드에서 생성한 가상머신에 마운트하고, Jerasure 프로그램을 사용하여 RAID-6 디스크를 시뮬레이션한다. 여기서 기존의 방법인 사선 패리티를 이용하는 방법과 사선 패리티 방법을 사용하는 RAID-6 디스크에 데이터 중복제거를 적용한 방법, 패리티 디스크에만 데이터 중복제거를 적용한 경우 각각에 대하여 쓰기성능 및 디스크의 쓰기횟수, 디코딩 성능, DRAM 사용량을 측정하였다. 실험에 사용한 Workload는 웹에서[www.kernel.org] 다운로드 하였으며, 리눅스 커널 2.6.0 버전 ~ 2.6.39 버전에 해당하는 총 40개 버전의 소스 코드를 묶은 2.19GB 크기의 파일이며, 해시 값을 생성하기 위한 청크 사이즈는 4KB로 설정하였다.
도 7은 기존의 사선 패리티를 사용하는 방법과 패리티 디스크에 중복제거를 사용한 방법의 입출력 성능을 5회씩 반복하고, 평균을 계산하여 비교한 결과이다. 여기서 RAID-6 디스크의 스트라이프 크기는 각각 32KB, 1024KB로 설정하였다.
또한 도 8은 쓰기 횟수를 비교한 결과를 보인다.
기존의 사선 패리티를 사용한 RAID 디스크에 중복제거를 적용한 결과는 중복제거를 적용하지 않은 디스크에 비해 32KB, 1024KB 청크 사이즈에서 각각 75%, 89%의 성능만을 나타내었지만, 제안하는 패리티 중복제거를 적용한 결과는 32KB 청크 사이즈에서 95%, 1024KB에서 96%의 성능을 보였다. 이는 기존의 사선 패리티를 사용한 RAID 디스크에 중복제거를 적용한 경우 제안하는 패리티 디스크에 대한 중복제거 적용 시 보다 계산해야 할 해시 값이 많아 중복제거로 인한 오버헤드가 더 높기 때문이다.
기존의 사선 패리티를 사용한 RAID 디스크에 중복제거를 적용한 결과는 중복제거를 적용하지 않은 디스크에 비해 32KB, 1024KB 청크 사이즈에서 각각 75%, 89%의 성능만을 나타내었지만, 제안하는 패리티 중복제거를 적용한 결과는 32KB 청크 사이즈에서 95%, 1024KB에서 96%의 성능을 보였다. 이는 기존의 사선 패리티를 사용한 RAID 디스크에 중복제거를 적용한 경우 제안하는 패리티 디스크에 대한 중복제거 적용 시 보다 계산해야 할 해시 값이 많아 중복제거로 인한 오버헤드가 더 높기 때문이다.
또한 패리티 디스크로의 쓰기 횟수를 비교하면, 기존의 RAID 디스크에 중복제거를 적용한 경우 쓰기 횟수가 중복제거를 적용하지 않은 경우에 비해 32KB, 1024KB의 청크 사이즈에서 각각 8%, 13%만큼 낮았지만, 제안하는 패리티 중복제거를 적용한 방법은 쓰기 횟수가 각각 22%, 19%만큼 낮았다. 이는 제안하는 기법을 사용하는 경우 패리티 데이터의 중복만을 제거하지만, 기존의 중복제거 방식은 데이터와 패리티가 여러 디스크에 저장되기 때문에 디스크 당 중복제거의 효율이 떨어지기 때문이다.
도 9와 도 10은 각각 해시테이블을 위한 DRAM 사용량을 측정한 결과와, 데이터를 복구하기 위한 디코딩 시간을 측정한 결과이다.
해시테이블을 위한 DRAM 사용량은 제안하는 패리티 중복제거를 적용한 경우가 기존의 중복제거를 적용한 경우에 비해 32KB, 1024KB 청크 사이즈에서 각각 72%, 69%만큼 적었다. 이는 제안하는 방법이 RAID 디스크 중 갱신이 자주 일어나는 패리티 데이터의 중복만 제거하지만, 기존의 방법은 일반 데이터와 패리티 데이터에 대한 해시 값을 동시에 해시테이블에 유지하기 때문이다. 또한 디코딩 성능의 경우에는 중복제거를 적용하지 않은 RAID 디스크가 가장 높았으며, 기존의 중복제거 방법을 적용한 RAID 디스크의 경우 중복제거를 적용하지 않은 RAID 디스크보다 32KB, 1024KB 청크 사이즈에서 각각 4%, 5% 많은 시간을 필요로 하였으며 제안하는 패리티 중복제거를 적용한 RAID 디스크의 경우 7%, 11% 더 많은 시간을 소모하였다. 이는 제안하는 중복제거 방법이 더 많은 중복된 데이터를 제거하였기 때문에, 데이터 복원 시 참조해야 할 데이터가 더 많기 때문이다.
이상, 본 발명자에 의해서 이루어진 발명을 실시 예에 따라 구체적으로 설명하였지만, 본 발명은 실시 예에 한정되는 것은 아니고, 그 요지를 이탈하지 않는 범위에서 여러 가지로 변경 가능한 것은 물론이다.
10 : 스토리지풀 관리부 11 : 가상머신 스토리지
12 : 총플래시 어레이 20 : 논리구조 설정부
21 : RAID 설정부 22 : 논리볼륨 설정부
23 : 파일시스템 설정부 30 : 성능 모니터부
40 : 파라미터 매니저

Claims (5)

  1. 오픈스택 프레임워크에 의한 신더(Cinder)가 다수의 SSD(Solid-State Drive)를 이용하여 블록 스토리지를 가상화하여 제공하는, 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법에 있어서,
    (a) 쓰기를 위한 데이터를 수신하는 단계;
    (b) 수신된 데이터를 청크 단위로 분할하여 다수의 데이터 청크를 생성하는 단계;
    (c) 각 데이터 청크를 데이터 디스크에 저장하는 단계;
    (d) 상기 각 데이터 청크에 대한 패리티 데이터를 생성하는 단계; 및,
    (e) 상기 패리티 데이터에 대하여 중복제거를 수행하여, 패리티 디스크에 저장하는 단계를 포함하고,
    상기 오픈스택 프레임워크에 의한 신더(Cinder)에서 할당한 다수의 SSD를 레이드(RAID)에 의해 다수의 데이터 디스크와 두 개의 패리티 디스크로 분할하여, 상기 다수의 데이터 디스크에 데이터 청크를 저장하고 상기 두 개의 패리티 디스크에 패리티 데이터를 저장하며,
    상기 (d)단계에서, 상기 패리티 데이터는 상기 청크 단위로 생성되고,
    상기 청크의 크기는 상기 데이터 디스크 및 패리티 디스크의 스트라이프 크기 보다 작고,
    상기 (e)단계에서, 상기 패리티 데이터에 대해 해시 값을 생성하여, 상기 패리티 데이터에 대하여 중복제거를 수행하는 것을 특징으로 하는 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법.
  2. 제1항에 있어서,
    상기 (e)단계에서, 상기 패리티 데이터의 중복 여부를 판단하기 위하여 해시 테이블(hash table)을 이용하는 것을 특징으로 하는 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법.
  3. 삭제
  4. 삭제
  5. 제1항 또는 제2항의 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법을 수행하는 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
KR1020160158480A 2016-11-25 2016-11-25 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법 KR101970864B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160158480A KR101970864B1 (ko) 2016-11-25 2016-11-25 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160158480A KR101970864B1 (ko) 2016-11-25 2016-11-25 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법

Publications (2)

Publication Number Publication Date
KR20180059197A KR20180059197A (ko) 2018-06-04
KR101970864B1 true KR101970864B1 (ko) 2019-04-19

Family

ID=62628587

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160158480A KR101970864B1 (ko) 2016-11-25 2016-11-25 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법

Country Status (1)

Country Link
KR (1) KR101970864B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI748609B (zh) * 2020-08-25 2021-12-01 慧榮科技股份有限公司 全快閃陣列儲存裝置與資料處理方法
KR20220019924A (ko) 2020-08-11 2022-02-18 숭실대학교산학협력단 다중 쿠버네티스 클러스터 구축 방법 및 그 장치

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210050661A (ko) 2019-10-29 2021-05-10 에스케이하이닉스 주식회사 메모리 시스템, 메모리 컨트롤러 및 그 동작 방법
KR102599116B1 (ko) * 2023-02-20 2023-11-07 서강대학교산학협력단 데이터 중복 제거 방법 및 데이터 중복 제거를 수행하는 스토리지 장치

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101532283B1 (ko) * 2013-11-04 2015-06-30 인하대학교 산학협력단 Ｓｓｄ 기반 ｒａｉｄ 스토리지에서 데이터 및 패리티 디스크의 복합적 중복제거 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
허희성 외 3인, "인피니밴드 스토리지 네트워크를 적용한 오픈스택 클라우드 스토리지 시스템의 설계 및 스토리지 가상화 성능평가", 정보과학회 컴퓨팅의 실제 논문지, 제21권, 제7호, 2015.07.

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220019924A (ko) 2020-08-11 2022-02-18 숭실대학교산학협력단 다중 쿠버네티스 클러스터 구축 방법 및 그 장치
TWI748609B (zh) * 2020-08-25 2021-12-01 慧榮科技股份有限公司 全快閃陣列儲存裝置與資料處理方法
US11630728B2 (en) 2020-08-25 2023-04-18 Silicon Motion, Inc. Data processing method for AFA storage device to restore data protection capability and the AFA storage device utilizing the same

Also Published As

Publication number Publication date
KR20180059197A (ko) 2018-06-04

Similar Documents

Publication Publication Date Title
US11797386B2 (en) Flexible RAID layouts in a storage system
US11579974B1 (en) Data protection using intra-device parity and intra-device parity
US10210045B1 (en) Reducing concurrency bottlenecks while rebuilding a failed drive in a data storage system
US20230315346A1 (en) Utilizing Multiple Redundancy Schemes Within A Unified Storage Element
CN109726033B (zh) 提供raid数据保护的方法、数据存储系统和计算机可读介质
KR101533340B1 (ko) 클라우드 스토리지 시스템에서 데이터 접근빈도와 소거 코드를 이용한 데이터 복제 방법
KR101970864B1 (ko) 총 플래시 어레이 기반 오픈스택 클라우드 블록 스토리지에서의 패리티 데이터 중복제거 방법
US20150199235A1 (en) Optimizing and Enhancing Performance for Parity Based Storage
CN110096218B (zh) 用于为存储对象提供raid数据保护的方法、系统和介质
US11614881B2 (en) Calculating storage consumption for distinct client entities
CN116601596A (zh) 使用数据相似度来选择分段进行垃圾收集
US11042519B2 (en) Reinforcement learning for optimizing data deduplication
US20180307439A1 (en) Lock-free raid implementation in multi-queue architecture
US20190107954A1 (en) Data Integrity and Acceleration in Compressed Storage Environments in Combination With Software Defined Native RAID
WO2016068877A1 (en) Determine unreferenced page in deduplication store for garbage collection
KR101525453B1 (ko) 데이터 접근빈도를 이용한 ｒａｉｄ 시스템의 데이터 복제 방법
US11150991B2 (en) Dynamically adjusting redundancy levels of storage stripes
Heo et al. Parity data de-duplication in all flash array-based openstack cloud block storage
US11809274B2 (en) Recovery from partial device error in data storage system
US9645745B2 (en) I/O performance in resilient arrays of computer storage devices
Maciel et al. Performance evaluation of sheepdog distributed storage system
US20240119162A1 (en) Drive cryptographic value management
Thomasian RAID Organizations for Improved Reliability and Performance: A Not Entirely Unbiased Tutorial (1st revision)
Chandrashekhara et al. Cider: A Case for Block Level Variable Redundancy on a Distributed Flash Array
Haddock A Scalable Nearline Disk Archive Storage Architecture for Extreme Scale High Performance Computing

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant