KR101679512B1 - 대용량 데이터 처리를 위한 레거시 데스크탑 기반 파일의 분산 저장 시스템 및 방법 - Google Patents
대용량 데이터 처리를 위한 레거시 데스크탑 기반 파일의 분산 저장 시스템 및 방법 Download PDFInfo
- Publication number
- KR101679512B1 KR101679512B1 KR1020150067800A KR20150067800A KR101679512B1 KR 101679512 B1 KR101679512 B1 KR 101679512B1 KR 1020150067800 A KR1020150067800 A KR 1020150067800A KR 20150067800 A KR20150067800 A KR 20150067800A KR 101679512 B1 KR101679512 B1 KR 101679512B1
- Authority
- KR
- South Korea
- Prior art keywords
- server
- client
- clients
- storage
- reference value
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 238000003860 storage Methods 0.000 claims abstract description 106
- 238000007689 inspection Methods 0.000 claims description 7
- 238000010586 diagram Methods 0.000 description 4
- 230000014759 maintenance of location Effects 0.000 description 2
- 230000001174 ascending effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- G06F17/30194—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1034—Reaction to server failures by a load balancer
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
도 2는 서버에 장애가 발생하여 각 클라이언트와 서버와의 접속이 종료되는 과정을 설명하기 위한 도면
도 3은 본 발명의 일 실시예에 따른 파일의 분산 저장 방법을 설명하기 위한 흐름도
도 4는 도 3의 S612 단계를 설명하기 위한 흐름도
속성 | 내용 |
name | 대상 파일의 이름 |
size | 대상 파일의 크기 |
owner | 대상 파일의 소유자 |
type | 대상 파일의 유형 또는 종류(예를 들어, 대상 파일의 확장자) |
location | 대상 파일이 저장된 위치 |
date | 대상 파일의 저장 일자(또는 시간) |
index | Location의 서브 메타 정보로서, 분할된 대상 파일의 인덱스 |
pil (path information list) |
Location의 서브 메타 정보로서, 분할된 대상 파일이 저장된 위치 |
sfn (split file name) |
Location의 서브 메타 정보로서, 분할된 대상 파일의 고유 이름 |
rdl (redundant data location) |
Pil의 서브 메타 정보로서, 분할된 대상 파일의 중복 저장 위치 |
count | Pil의 서브 메타 정보로서, 분할된 대상 파일의 중복 저장 횟수 |
102 : 서버
104 : 클라이언트
Claims (20)
- 스토리지를 구비하는 복수의 클라이언트; 및
저장하고자 하는 대상 파일을 분할하고, 분할된 상기 대상 파일을 복수의 상기 클라이언트 내 스토리지 내에 분산 저장하는 서버를 포함하며,
상기 클라이언트는, 상기 서버의 장애 여부의 판별을 위한 점검 메시지를 설정된 주기마다 상기 서버에 송신하며, 설정된 기간 동안 상기 점검 메시지에 대한 응답 메시지를 상기 서버로부터 수신하지 않는 경우 상기 서버에 장애가 발생한 것으로 판단하며,
상기 서버는, 클라이언트 메타 정보를 복수의 상기 클라이언트에 각각 송신하며,
상기 클라이언트는, 상기 서버에 장애가 발생한 것으로 판단된 경우 상기 클라이언트 메타 정보를 이용하여 복수의 상기 클라이언트를 정렬하고, 정렬된 복수의 상기 클라이언트 중 최상단에 위치한 클라이언트를 대체 서버로 선정하는, 파일의 분산 저장 시스템.
- 삭제
- 청구항 1에 있어서,
상기 클라이언트 메타 정보는, 상기 서버에서 복수의 상기 클라이언트 각각에 호출 메시지를 송신한 경우 복수의 상기 클라이언트 각각으로부터 상기 호출 메시지에 대한 응답 메시지를 수신하는 데까지 걸리는 시간, 복수의 상기 클라이언트 각각의 CPU 점유율, 복수의 상기 클라이언트 각각의 CPU의 데이터 처리 속도, 복수의 상기 클라이언트 각각의 RAM 용량 및 복수의 상기 클라이언트 내 스토리지에 저장된 상기 대상 파일의 총 크기 중 하나 이상을 포함하는, 파일의 분산 저장 시스템.
- 청구항 3에 있어서,
상기 클라이언트는, 상기 클라이언트 메타 정보를 이용하여 복수의 상기 클라이언트 각각에 대해 정렬 기준값을 계산하고, 상기 정렬 기준값의 크기 순으로 복수의 상기 클라이언트를 정렬하는, 파일의 분산 저장 시스템.
- 청구항 4에 있어서,
상기 정렬 기준값은, 상기 응답 메시지를 수신하는 데까지 걸리는 시간이 짧을수록 큰, 파일의 분산 저장 시스템.
- 청구항 4에 있어서,
상기 정렬 기준값은, 상기 CPU 점유율이 낮을수록 큰, 파일의 분산 저장 시스템.
- 청구항 4에 있어서,
상기 정렬 기준값은, 상기 CPU의 데이터 처리 속도가 빠를수록 큰, 파일의 분산 저장 시스템.
- 청구항 4에 있어서,
상기 정렬 기준값은, 상기 RAM 용량이 클수록 큰, 파일의 분산 저장 시스템.
- 청구항 4에 있어서,
상기 정렬 기준값은, 상기 스토리지에 저장된 상기 대상 파일의 총 크기가 작을수록 큰, 파일의 분산 저장 시스템.
- 청구항 1에 있어서,
상기 대체 서버는, 상기 대체 서버에 저장된 대상 파일을 상기 대체 서버를 제외한 클라이언트 내 스토리지에 저장하는, 파일의 분산 저장 시스템.
- 서버에서, 저장하고자 하는 대상 파일을 분할하는 단계;
상기 서버에서, 분할된 상기 대상 파일을 복수의 클라이언트 내 스토리지에 분산 저장하는 단계;
상기 클라이언트에서, 상기 서버의 장애 여부의 판별을 위한 점검 메시지를 설정된 주기마다 상기 서버에 송신하는 단계;
상기 클라이언트에서, 설정된 기간 동안 상기 점검 메시지에 대한 응답 메시지를 상기 서버로부터 수신하지 않는 경우 상기 서버에 장애가 발생한 것으로 판단하는 단계;
상기 서버에서, 클라이언트 메타 정보를 복수의 상기 클라이언트에 각각 송신하는 단계;
상기 클라이언트에서, 상기 서버에 장애가 발생한 것으로 판단된 경우 상기 클라이언트 메타 정보를 이용하여 복수의 상기 클라이언트를 정렬하는 단계; 및
상기 클라이언트에서, 정렬된 복수의 상기 클라이언트 중 최상단에 위치한 클라이언트를 대체 서버로 선정하는 단계를 포함하는, 파일의 분산 저장 방법.
- 삭제
- 청구항 11에 있어서,
상기 클라이언트 메타 정보는, 상기 서버에서 복수의 상기 클라이언트 각각에 호출 메시지를 송신한 경우 복수의 상기 클라이언트 각각으로부터 상기 호출 메시지에 대한 응답 메시지를 수신하는 데까지 걸리는 시간, 복수의 상기 클라이언트 각각의 CPU 점유율, 복수의 상기 클라이언트 각각의 CPU의 데이터 처리 속도, 복수의 상기 클라이언트 각각의 RAM 용량 및 복수의 상기 클라이언트 내 스토리지에 저장된 상기 대상 파일의 총 크기 중 하나 이상을 포함하는, 파일의 분산 저장 방법.
- 청구항 13에 있어서,
복수의 상기 클라이언트를 정렬하는 단계는,
상기 클라이언트 메타 정보를 이용하여 복수의 상기 클라이언트 각각에 대해 정렬 기준값을 계산하는 단계; 및
상기 정렬 기준값의 크기 순으로 복수의 상기 클라이언트를 정렬하는 단계를 포함하는, 파일 분산 저장 파일의 분산 저장 방법.
- 청구항 14에 있어서,
상기 정렬 기준값은, 상기 응답 메시지를 수신하는 데까지 걸리는 시간이 짧을수록 큰, 파일의 분산 저장 방법.
- 청구항 14에 있어서,
상기 정렬 기준값은, 상기 CPU 점유율이 낮을수록 큰, 파일의 분산 저장 방법.
- 청구항 14에 있어서,
상기 정렬 기준값은, 상기 CPU의 데이터 처리 속도가 빠를수록 큰, 파일의 분산 저장 방법.
- 청구항 14에 있어서,
상기 정렬 기준값은, 상기 RAM 용량이 클수록 큰, 파일의 분산 저장 방법.
- 청구항 14에 있어서,
상기 정렬 기준값은, 상기 스토리지에 저장된 상기 대상 파일의 총 크기가 작을수록 큰, 파일의 분산 저장 방법.
- 청구항 11에 있어서,
상기 대체 서버에서, 상기 대체 서버에 저장된 대상 파일을 상기 대체 서버를 제외한 클라이언트 내 스토리지에 저장하는 단계를 더 포함하는, 파일의 분산 저장 방법.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020150067800A KR101679512B1 (ko) | 2015-05-15 | 2015-05-15 | 대용량 데이터 처리를 위한 레거시 데스크탑 기반 파일의 분산 저장 시스템 및 방법 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020150067800A KR101679512B1 (ko) | 2015-05-15 | 2015-05-15 | 대용량 데이터 처리를 위한 레거시 데스크탑 기반 파일의 분산 저장 시스템 및 방법 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20160134173A KR20160134173A (ko) | 2016-11-23 |
KR101679512B1 true KR101679512B1 (ko) | 2016-11-24 |
Family
ID=57541850
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020150067800A KR101679512B1 (ko) | 2015-05-15 | 2015-05-15 | 대용량 데이터 처리를 위한 레거시 데스크탑 기반 파일의 분산 저장 시스템 및 방법 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101679512B1 (ko) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106855930B (zh) * | 2017-01-04 | 2019-12-31 | 成都四方伟业软件股份有限公司 | 一种安全可靠的大数据存储系统及方法 |
KR102418251B1 (ko) * | 2020-11-24 | 2022-07-07 | 주식회사 이노그리드 | 장애 대비를 위한 멀티클라우드 서비스 시스템 및 방법 |
-
2015
- 2015-05-15 KR KR1020150067800A patent/KR101679512B1/ko active IP Right Grant
Also Published As
Publication number | Publication date |
---|---|
KR20160134173A (ko) | 2016-11-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10776396B2 (en) | Computer implemented method for dynamic sharding | |
US9542404B2 (en) | Subpartitioning of a namespace region | |
US9483482B2 (en) | Partitioning file system namespace | |
US9378067B1 (en) | Automated load balancing across the distributed system of hybrid storage and compute nodes | |
AU2014212780B2 (en) | Data stream splitting for low-latency data access | |
US9507676B2 (en) | Cluster creation and management for workload recovery | |
US10915409B2 (en) | Caching of backup chunks | |
US12058210B2 (en) | Multichannel virtual internet protocol address affinity | |
CN1602480A (zh) | 管理附装在数据网络上的存储器资源 | |
US20120078946A1 (en) | Systems and methods for monitoring files in cloud-based networks | |
KR101704928B1 (ko) | Gpu를 이용한 파일의 분산 저장 시스템 및 방법 | |
KR101718397B1 (ko) | 파일의 분산 저장 시스템 및 방법 | |
KR101679512B1 (ko) | 대용량 데이터 처리를 위한 레거시 데스크탑 기반 파일의 분산 저장 시스템 및 방법 | |
US8903871B2 (en) | Dynamic management of log persistence | |
US20190303021A1 (en) | Rebalancing of user accounts among partitions of a storage service | |
JP6059558B2 (ja) | 負荷分散判定システム | |
US9495257B2 (en) | Networking support for zone clusters based on virtualization of servers | |
US10275467B2 (en) | Multi-level high availability model for an object storage service | |
US9697241B1 (en) | Data fabric layer having nodes associated with virtual storage volumes of underlying storage infrastructure layer | |
CN107948226A (zh) | 一种许可管理方法和系统 | |
US10855767B1 (en) | Distribution of batch data to sharded readers | |
US20230185631A1 (en) | Embedded capacity-computer module for microservice load balancing and distribution | |
Prabavathy et al. | A load balancing algorithm for private cloud storage | |
JP6237388B2 (ja) | 特定プログラム、特定方法、及び特定装置 | |
CN116910158A (zh) | 基于复制组的数据处理、查询方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20150515 |
|
PA0201 | Request for examination | ||
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20160317 Patent event code: PE09021S01D |
|
E601 | Decision to refuse application | ||
PE0601 | Decision on rejection of patent |
Patent event date: 20160922 Comment text: Decision to Refuse Application Patent event code: PE06012S01D Patent event date: 20160317 Comment text: Notification of reason for refusal Patent event code: PE06011S01I |
|
AMND | Amendment | ||
PX0901 | Re-examination |
Patent event code: PX09011S01I Patent event date: 20160922 Comment text: Decision to Refuse Application |
|
PX0701 | Decision of registration after re-examination |
Patent event date: 20161115 Comment text: Decision to Grant Registration Patent event code: PX07013S01D Patent event date: 20161024 Comment text: Amendment to Specification, etc. Patent event code: PX07012R01I Patent event date: 20160922 Comment text: Decision to Refuse Application Patent event code: PX07011S01I |
|
X701 | Decision to grant (after re-examination) | ||
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20161118 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20161118 End annual number: 3 Start annual number: 1 |
|
PG1501 | Laying open of application | ||
PG1601 | Publication of registration | ||
FPAY | Annual fee payment |
Payment date: 20191029 Year of fee payment: 4 |
|
PR1001 | Payment of annual fee |
Payment date: 20191029 Start annual number: 4 End annual number: 4 |
|
PR1001 | Payment of annual fee |
Payment date: 20201102 Start annual number: 5 End annual number: 5 |
|
PR1001 | Payment of annual fee |
Payment date: 20211101 Start annual number: 6 End annual number: 6 |
|
PR1001 | Payment of annual fee |
Payment date: 20221101 Start annual number: 7 End annual number: 7 |
|
PR1001 | Payment of annual fee |
Payment date: 20231031 Start annual number: 8 End annual number: 8 |