KR102191224B1 - 범용 병렬 정보 액세스를 위한 시스템 및 그것의 동작 방법 - Google Patents

범용 병렬 정보 액세스를 위한 시스템 및 그것의 동작 방법 Download PDF

Info

Publication number
KR102191224B1
KR102191224B1 KR1020150103118A KR20150103118A KR102191224B1 KR 102191224 B1 KR102191224 B1 KR 102191224B1 KR 1020150103118 A KR1020150103118 A KR 1020150103118A KR 20150103118 A KR20150103118 A KR 20150103118A KR 102191224 B1 KR102191224 B1 KR 102191224B1
Authority
KR
South Korea
Prior art keywords
local
remote
data
servers
queues
Prior art date
Application number
KR1020150103118A
Other languages
English (en)
Other versions
KR20160040081A (ko
Inventor
시야마크 하지지
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Publication of KR20160040081A publication Critical patent/KR20160040081A/ko
Application granted granted Critical
Publication of KR102191224B1 publication Critical patent/KR102191224B1/ko

Links

Images

Classifications

    • H04L67/28
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1097Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0604Improving or facilitating administration, e.g. storage management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0658Controller construction arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/067Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1095Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/14Multichannel or multilink protocols

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

범용 병렬 정보 액세스 시스템은 로컬 범용 액세스 로직 영역을 포함하고, 하나 이상의 원격 서버들과 통신하기 위한 하나 이상의 로컬 서버들 그리고 상기 하나 이상의 로컬 서버들과 연결되고, 상기 하나 이상의 로컬 서버들의 상기 로컬 범용 액세스 로직 영역과 동작하도록 구성되고, 상기 하나 이상의 로컬 서버들에 저장된 제1 데이터에 대한 코히런트 액세스(coherent access)를 상기 하나 이상의 원격 서버들로 제공하는 제1 코히런시 노드(coherency node)를 포함한다.

Description

범용 병렬 정보 액세스를 위한 시스템 및 그것의 동작 방법{SYSTEM FOR UNIVERSAL PARALLEL INFORMATION ACCESS AND OPERATING METHOD THEREOF}
본 발명은 범용 병렬 정보 액세스를 제공하기 위한 메커니즘에 관한 것으로, 좀 더 구체적으로, 본질적으로 여러 곳에 위치한 컴퓨터 서버들을 걸쳐서 데이터를 공유하기 위해 코히런트 액세스를 제공하는 시스템 및 방법을 제공한다.
데이터 센터 또는 엔터프라이즈 컴퓨팅(enterprise computing) 조직들은 인터넷을 통한 리얼 타임(real time) 또는 저장 정보, 솔리드 스테이트 드라이브(Solid State Drive, 이하: SSD)와 같은 로컬(local) 저장 장치들 또는 이더넷(Ethernet)을 통한 원격 드라이브, 스토리지 어레이들에 부착된 페브릭(fabric), 또는 다른 서버들을 액세스 및 저장한다.
데이터 센터 및 엔터프라이즈 컴퓨팅 환경에서, 리얼 타임 및/또는 저장된 정보는 필수이다. 실제 시간 정보는 사용자, 외부의 컴퓨팅 요소들 및/또는 하드 디스크 드라이브(Hard Disk Drive, 이하: HDD)와 같은 미디어 내의 스토리지 시스템들, SSD, 테이프들, 또는 스토리지 어레이들일 수 있다.
공유된 데이터에 액세스하기 위한 일반적인 접근들은, 스토리지에 부착된 호스트 버스 어댑터(adapter), 스토리지 영역 네트워크들(storage area networks, SANs) 또는 네트워크 부착 스토리지(network attached storage, NAS) 장치들의 차이점들 때문에, 정보 처리 상호 운용이 복잡하다. 복수의 상이한 컴퓨터 서버들 사이의 데이터 및 스토리지 리소스들을 효율적으로 액세스 또는 공유를 가능하게 하는 엔터프라이즈 시스템의 배치를 어렵게 한다. 본 발명의 실시 예들은 종래 기술에서의 문제점을 해결한다.
본 발명의 목적은 코히런시 노드를 이용하여 로컬 서버 및 원격 서버 사이의 범용 병렬 정보 액세스를 제공하는 시스템 및 그것의 동작 방법을 제공하는 데에 있다.
본 발명의 실시 예에 따른 범용 병렬 정보 액세스 시스템은 로컬 범용 액세스 로직 영역을 포함하고, 하나 이상의 원격 서버들과 통신하기 위한 하나 이상의 로컬 서버들 그리고 상기 하나 이상의 로컬 서버들과 연결되고, 상기 하나 이상의 로컬 서버들의 상기 로컬 범용 액세스 로직 영역과 동작하도록 구성되고, 상기 하나 이상의 로컬 서버들에 저장된 제1 데이터에 대한 코히런트 액세스(coherent access)를 상기 하나 이상의 원격 서버들로 제공하는 제1 코히런시 노드(coherency node)를 포함한다.
실시 예로서, 상기 하나 이상의 원격 서버들 각각은 원격 범용 액세스 로직 영역을 포함하고, 상기 코히런시 노드는 상기 하나 이상의 원격 서버들과 연결되고, 상기 하나 이상의 원격 서버들의 상기 원격 범용 액세스 로직 영역과 동작하도록 구성되고, 상기 하나 이상의 원격 서버들에 저장된 제2 데이터에 대한 코히런트 액세스를 상기 하나 이상의 로컬 서버들로 제공한다.
본 발명의 실시 예에 따른 범용 병렬 정보 액세스를 제공하기 위한 시스템의 동작 방법은 로컬 서버에 의해, 복수의 로컬 쓰기 스토리지 큐들의 제1 서브 세트와 복수의 로컬 쓰기 데이터 큐들 각각을 연관짓는 단계, 상기 로컬 서버에 의해, 복수의 로컬 독출 스토리지 큐들의 제1 서브 세트와 복수의 로컬 독출 데이터 큐들 각각을 연관짓는 단계, 상기 로컬 서버에 의해, 상기 복수의 로컬 쓰기 스토리지 큐들의 제2 서브 세트와 네트워크 인터페이스 카드(NIC)와 관련된 하나 이상의 로컬 발신 데이터 큐들을 연관짓는 단계, 및 상기 로컬 서버에 의해, 상기 복수의 로컬 독출 스토리지 큐들의 제2 서브 세트와 상기 네트워크 인터페이스 카드(NIC)와 관련된 하나 이상의 로컬 인커밍 데이터 큐들을 연관짓는 단계를 포함한다.
본 발명은 코히런시 노드를 통해 통해 로컬 서버들에 저장된 데이터를 원격 서버들로 코히런트 액세스를 제공함으로써, 향상된 액세스 효율을 제공한다.
도 1은 본 발명의 실시 예에 따른 하나 이상의 로컬 서버들, 하나 이상의 원격 서버들, 및 로컬 서버 및 네트워크와 연결된 코히런시 노드를 포함하는 시스템을 보여주는 블록도이다.
도 2는 본 발명의 실시 예에 따른 하나 이상의 로컬 서버들, 하나 이상의 원격 서버들 및 네트워크와 연결된 코히런시 노드를 포함하는 시스템을 보여주는 블록도이다.
도 3은 본 발명의 실시 예에 따른 코히런시 노드를 갖는 하나 이상의 로컬 서버들 및 코히런시 노드를 갖는 하나 이상의 원격 서버들을 포함하는 시스템을 보여주는 블록도이다.
도 4는 본 발명의 실시 예에 따른 복수의 프로세서들, 저장 장치들, 네트워크 인터페이스 카드, 메모리 및 허브 및/또는 브릿지를 포함하는 서버를 보여주는 블록도이다.
도 5는 본 발명의 실시 예에 따른 네트워크에서 도 4의 서버들로 구성된 복수의 서버들에 대한 블록도이다.
도 6은 본 발명의 실시 예에 따른 하나 이상의 로컬 서버들 및 하나 이상의 원격 서버들을 구체적으로 보여주는 블록도이다.
도 7 및 도 8은 범용 병렬 정보 액세스를 제공하기 위한 기술에 대한 순서도이다.
도 9는 범용 액세스 로직 영역 및 이와 관련된 큐들(queues)을 포함하는 컴퓨팅 시스템을 보여주는 블록도이다.
참조는 본 발명의 실시 예들을 상세히 설명하기로 하고, 예시들은 첨부 도면을 통해 도시된다. 다음의 상세한 설명에서, 다수의 특정 세부 사항들이 본 발명의 개념의 이해를 가능하도록 개시된다. 이 기술 분야에서 통상의 지식을 가진 사람은 이들 특정 세부 사항 없이 본 발명의 개념을 수행할 수 있음을 이해해야 한다. 다른 예로서, 잘 알려진 방법, 절차, 요소, 회로 및 네트워크는 실시 예들의 불필요한 양상들을 분명하게 하기 위해서, 상세히 설명되지 않는다.
제1, 제2 와 같은 용어들은 다양한 구성 요소들을 설명하는데 사용될 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되지 않는다. 이러한 용어들은 하나의 요소를 다른 요소로부터 구분하기 위해서 사용된다. 본 발명의 개념의 범위를 벗어나지 않고, 제1 서버는 는 제2 서버로 명명될 수 있고, 유사하게 제2 서버는 제1 서버로 명명될 수 있다.
본 발명의 개념의 설명에서 사용된 용어는 본 발명의 특정 실시 예들을 설명하기 위한 것이며, 본 발명의 개념을 제한하는 것으로 의도되지 않는다. 본 발명의 개념의 설명 및 첨부된 청구 범위에서 사용된 바와 같이, "a", "an" 및 "the"와 같은 단수 형태들은 명백하게 제시되지 않는 한, 복수형을 포함하는 것으로 의도된다. "및/또는"과 같은 용어는 열거된 항목들의 하나 이상의 모든 가능한 조합들을 포함한다. 본 발명의 상세한 설명에서 사용되는 "포함하는" 또는 "구성되는"과 같은 용어는 설명된 특징, 단계, 동작, 성분, 및/또는 구성요소의 존재를 명시하나, 추가적인 하나 이상의 특징, 단계, 동작, 성분, 구성요소 및/또는 그들의 그룹의 존재를 가능하게 한다.
본 발명의 실시 예들은 구성을 위한 메커니즘을 포함하고, 데이터 센터 컴퓨팅 환경에 대한 범용 스토리지 시스템을 제공한다. 로컬 스토리지는 솔리드 스테이트 장치들 또는 드라이브들(Solid State devices or drives, SSDs), 하드 디스크 드라이브들(Hard Disk Drives, HDDs)와 같은 스토리지 장치들을 통해 이용 가능하다. 원격 스토리지는 인터넷, 이더넷 네트워크 또는 다른 이더넷 부착 HDD, SSD 기기와 같은 페브릭(fabric) 기술들을 통해 액세스될 수 있다. 로컬 및 원격 스토리지는 시스템 메모리 또는 네트워크 인터페이스 카드에 속해있는 큐된(queued) 커맨드 및/또는 데이터를 통해 액세스될 수 있다. 본 발명의 실시 예들은 로컬 스토리지, 원격 스토리지 및 컴퓨팅 시스템들 사이의 일관성을 확인하기 위해 콘시스턴시 테이블 및/또는 세마포어 로직(semaphore logic)과 같은 코히런시(coherency) 메커니즘을 포함한다.
본 발명의 실시 예들은 균일하게 구성하기 위한 메커니즘을 포함하고, 데이터 센터의 컴퓨팅 노드들 또는 서버들 사이에 정보 액세스를 균일하게 제공한다. 정보는 파일들, 블록들, 논리 블록 어드레스(logical block address, LBA), 논리 유닛 넘버(logical unit number, LUN)를 통해 스토리지 시스템들에 액세스되거나 저장되거나 구성될 수 있다. 로컬 및 원격 정보는 컴퓨팅 노드 시스템 메모리 또는 네트워크 인터페이스 카드들에 속해있는 하나 이상의 커맨드/데이터 큐들을 통해 액세스될 수 있다. 범용 액세스 메커니즘은 어플리케이션들에 대한 인터페이스 및 정보를 저장, 공유 및 액세스하기 위한 유저들을 제공할 수 있고, 일관성을 유지하는 동안, 저장된 정보의 위치에 상관없이 저장할 수 있다.
직접 또는 지원형(호스트 버스 어댑터(adapter), 호스트 제어 인터페이스)장치들은 커맨드, 데이터, 및 컴퓨팅 노드의 상태 커맨드 또는 큐들을 통해 액세스될 수 있다. 예를 들어, 하나는 열을 작성하고, 파일을 닫을 수 있다. 이러한 동작들은 운영 체제 스토리지 스택들(stacks), 스토리지 장치 드라이버 및/또는 장치 컨트롤러를 통해 수행될 수 있다. 운영 시스템 소프트웨어 장치 드라이버를 사용하여 작은 동작으로 처리 및 개폐 및 유사한 관리 기능들을 수행할 수 있다.
이러한 운영은 시스템 메모리에 위치한 관리 큐들에 배치될 수 있다. 유사하게, 쓰기 동작에 대해, OS 또는 장치 드라이버는 메모리 큐들에 커맨드 엔트리들을 배치할 수 있고, 다른 큐들에 정보 또는 상태를 쓸 수 있다. 스토리지 장치들 및 장치 드라이버들은 메모리 큐들에 액세스할 수 있고, 적절한 기능들을 수행할 수 있다.
원격 부착 장치들에 대해, 네트워크 또는 페브릭 장치는 외부 엔티티들과 정보를 교환하기 위한 장치에 위치한 유사한 커맨드들 및 데이터 큐들을 사용할 수 있다. 직접 연결 스토리지 메커니즘에 비해 가장 큰 차이점은 네트워크 어댑터와 관련된 소프트웨어 드라이버와 같은 특수 목적의 하드웨어 또는 서브 시스템의 사용이다.
본 발명의 실시 예들은 커맨드, 데이터, 상태 및 완료 메모리 큐들을 통해 범용 직접 및 원격 연결 장치들에 대한 하드웨어 또는 소프트웨어 메커니즘(들)을 사용하는 것이다. 어플리케이션들 및 운영 시스템들은 관리를 위한 범용 액세스 인터페이스, 커맨드, 데이트 및 큐들 및/또는 새로운 파일 시스템의 상태 앤트리들을 통해 나타내질 수 있다. 새로운 파일 시스템은 내부적으로 추적하고 차별화 및 선택과 경로 교환 엔티티를 통해 내부 및 원격 장치에 액세스하는 로컬 및 원격 스토리지 장치를 구별할 수 있다. 나아가, 운영 체제 및 컴퓨팅 장치는 하나 이상의 락/세마포어 또는 다른 적절한 메커니즘을 통해 공유된 액세스 로컬 및 원격 장치들 사이의 일관성을 제공할 수 있다.
도 1은 본 발명의 실시 예에 따른 하나 이상의 로컬 서버들(105), 하나 이상의 원격 서버들(110), 및 로컬 서버 및 네트워크와 연결된 코히런시 노드(125)를 포함하는 시스템(100)을 보여주는 블록도이다. 코히런시 노드(coherency node)(125)는 네트워크(130)를 통해 하나 이상의 원격 서버들(110)과 연결될 수 있다. 하나 이상의 로컬 서버(105) 각각은 로컬 범용 액세스 로직 영역(135)을 포함할 수 있다. 하나 이상의 원격 서버들(110) 각각은 원격 범용 액세스 로직 영역(140)을 포함할 수 있다.
하나 이상의 로컬 서버들(105)은 하나 이상의 어플리케이션들 및/또는 라이브러리들(libraries)(155), 운영 시스템(145), 범용 액세스 로직 영역(135), 메모리(165)(예를 들어, 시스템 메모리) 및 저장 장치(185)를 포함할 수 있다. 메모리(165)는 저장 장치(185)에 저장된 데이터에 액세스하기 위한 큐들(queues)(175)을 포함할 수 있다. 하나 이상의 원격 서비스들(110)은 하나 이상의 어플리케이션들 및/또는 라이브러리들(160), 운영 시스템(150), 범용 액세스 로직 영역(140), 메모리(170), 저장 장치(190)를 포함할 수 있다. 메모리(170)는 저장 장치(190)에 저장된 데이터를 액세스하기 위한 큐들(180)을 포함할 수 있다.
코히런시 노드(125)는 통신을 통하여 하나 이상의 로컬 서버들(105) 및 하나 이상의 원격 서버들(110)과 연결될 수 있다. 코히런시 노드(125)는 하나 이상의 로컬 서버들(105)의 로컬 범용 액세스 로직 영역(local universal access logic section)(135)을 조정하고, 하나 이상의 원격 서버들(110)의 원격 범용 액세스 로직 영역(remote universal access logic section)(140)을 조정할 수 있다. 추가적으로, 코히런시 노드(125)는 하나 이상의 원격 서버들(110)에 저장된 데이터에 대한 코히런트 액세스(coherent access)를 하나 이상의 로컬 서버들(105)에게 제공한다.
코히런시 노드(125)는 하나 이상의 로컬 서버들(105)에 저장된 데이터 및 하나 이상의 원격 서버들(110)에 저장된 데이터로 코히런트 액세스를 제공하기 위한 콘시스턴시 테이블(consistency table)(127)을 포함할 수 있다. 콘시스턴시 테이블(127)은 하나 이상의 로컬 서버들(105) 및 하나 이상의 원격 서버들(110) 사이의 데이터로 코히런트 액세스를 제공할 수 있다. 몇몇 실시 예들로서, 제2 코히런시 노드(195)는, 제1 코히런시 노드(125)에서 실패(failure)가 발생하는 경우, 하나 이상의 로컬 서버들(105)에 저장된 데이터 및 하나 이상의 원격 서버들(110)에 저장된 데이터로 데이터 액세스를 제공할 수 있는 제2 콘시스턴시 테이블(197)을 포함할 수 있다. 제2 콘시스턴시 테이블(127)은 하나 이상의 로컬 서버들(105) 및 하나 이상의 원격 서버들(110) 사이의 데이터로 코히런트 액세스를 제공할 수 있다.
제1 코히런시 노드(125) 및/또는 제2 코히런시 노드(195)는 네트워크 스위치(network switch), 컴퓨터 서버, 라우터(router), 브릿지, 또는 네트워크(130)와 연결될 수 있는 다른 적절한 컴퓨팅 장치일 수 있다.
도 2는 본 발명의 실시 예에 따른 하나 이상의 로컬 서버들(105), 하나 이상의 원격 서버들(110) 및 네트워크와 연결된 코히런시 노드(125)를 포함하는 시스템(200)을 보여주는 블록도이다. 시스템(200)은 제1 코히런시 노드(125)와 직접 연결되는 대신에 네트워크(103)에 연결된 하나 이상의 로컬 서버들(105)을 제외하고, 도 1의 시스템(100)과 유사한 구조를 갖는다. 도 1의 시스템(100)과 공유되는 도 2의 시스템(200)의 다른 요소들은 도 1을 통해 설명되었고, 이러한 요소들의 상세한 설명은 생략된다.
도 3은 본 발명의 실시 예에 따른 코히런시 노드(125)를 갖는 하나 이상의 로컬 서버들(105) 및 코히런시 노드(125)를 갖는 하나 이상의 원격 서버들(110)을 포함하는 시스템(300)을 보여주는 블록도이다. 시스템(300)은 코히런시 노드(125)가 하나 이상의 로컬 서버들(105) 및 하나 이상의 원격 서버들(110) 사이에 분산되어 있는 것을 제외하고, 도 2의 시스템(200)의 구조와 유사하다. 일 실시 예로서, 별도로 독립된 형태의 코히런시 노드는 도 3의 시스템(300)의 일부분으로 필요하지 않다. 따라서, 서버들의 범용 액세스 로직 사이의 코히런시는 중앙 코히런시 노드 없이 분산될 수 있다. 도 2의 시스템(200)과 공유되는 도 3의 시스템(300)의 다른 요소들은 도 2를 통해 설명되었고, 이러한 요소들의 상세한 설명은 생략된다.
도 4는 본 발명의 실시 예에 따른 복수의 프로세서들(410, 415), 저장 장치들(430, 435), 네트워크 인터페이스 카드(420), 메모리(425) 및 허브 및/또는 브릿지(405)를 포함하는 서버(105, 110)를 보여주는 블록도이다. 하나 이상의 로컬 서버들(105) 또는 하나 이상의 원격 서버들(110) 중 어떤 것이라도 도 4에 개시된 요소들을 포함할 수 있다.
도 5는 본 발명의 실시 예에 따른 네트워크에서 도 4의 서버들로 구성된 복수의 서버들에 대한 블록도이다. 서버들(505, 510, 515 및 520) 각각은 네트워크 스위치(525)에 의해 상호 연결된 각각의 서버들을 나타낸다. 서버들(505, 510, 515 및 520) 각각은 서버들 중 어떤 것에라도 저장된 데이터를 독출할 수 있다. 더욱이, 서버들(505, 510, 515 및 520) 각각은 서버들 중 어떠한 것의 저장 장치에 데이터를 기입할 수 있다.
도 6은 본 발명의 실시 예에 따른 하나 이상의 로컬 서버들 및 하나 이상의 원격 서버들을 구체적으로 보여주는 블록도이다. 시스템(600)은 네트워크 장치(605)를 포함한다. 네트워크 장치(605)는 하나 이상의 로컬 서버들(105) 및 하나 이상의 원격 서버들(110)과 통신할 수 있게 연결된 스위치, 브릿지 및/또는 라우터를 포함할 수 있다. 네트워크 장치(605)는 클라우드(cloud)(130)와 통신할 수 있다. 하나 이상의 로컬 서버들(105) 및 하나 이상의 원격 서버들(110)과 네트워크 장치(605)를 연결하기 위한 네트워크 연결들(665, 670)은 직접적인 연결 또는 클라우드(130)를 통한 연결일 수 있다. 네트워크 장치(605)(예를 들어, 스위치, 브릿지 및/또는 라우터)는 자체적으로 또는 다른 하드웨어 엔티티(685)를 통하여 수신되는 요청을 처리하거나 라우트(route)할 수 있으며, 또한 이들을 다른 적절한 목적지(destination)로 라우트할 수도 있다.
"로컬" 또는 "원격" 용어들은 로컬 및 원격 서버들 사이의 거리, 네트워크 장치(605)와의 거리 및/또는 이러한 서버들 또는 장치들의 지리적 분리를 반영한 용어들이다. 예를 들어, 원격 서버들이 로컬 서버들로부터 수 마일 떨어져 있는 상이한 빌딩에 위치한 것과 반대로, 로컬 서버들의 그룹은 랙(rack) 공간을 공유하거나, 단일 빌딩 내에 중앙에 위치하거나, 적정한 빌딩들 가까이에 위치할 수 있다.
하나 이상의 로컬 서버들(105)(도 1 및 도 6)은 하나 이상의 프로세서들(605), 하나 이상의 프로세서들(605)을 제어하기 위한 운영 시스템(도 1의 145) 및/또는 운영 시스템을 실행하기 위한 하나 이상의 로컬 어플리케이션들(155)(도 1 및 도 6)을 포함할 수 있다. 하나 이상의 로컬 서버들(105) 각각은 네트워크 인터페이스 카드(network interface card, NIC) 또는 유닛(645)을 포함할 수 있다.
하나 이상의 로컬 서버들(105)은 하나 이상의 프로세서들(605)과 관련된 복수의 로컬 쓰기 데이터 큐들(606, 608)을 포함할 수 있다. 본 발명을 설명하기 위해 두 개의 로컬 쓰기 데이터 큐들이 도시되어 있지만, 세 개 또는 그 이상의 로컬 쓰기 데이터 큐들이 사용될 수 있다. 로컬 쓰기 데이터 큐들(606, 608)은 로컬 서버(105)의 하나 이상의 로컬 어플리케이션들(155)에 대한 로컬 저장 장치들(635)에 쓰기 위한 로컬 쓰기 데이터(636, 638)를 큐할 수 있다. 실선들은 데이터에 대한 큐들 사이의 경로를 가리킨다. 반대로, 파선들은 스토리지로부터 독출하는 데이터에 대한 큐들 사이의 경로는 나타낸다.
하나 이상의 로컬 서버들(105)은 NIC(645)와 관련된 하나 이상의 로컬 인커밍(incoming) 데이터 큐들(667)을 포함할 수 있다. 하나 이상의 로컬 인커밍 데이터 큐들(667)은 원격 서버(110)의 하나 이상의 원격 어플리케이션들(160)로부터 로컬 저장 장치들(635)로 쓰기에 대한 로컬 쓰기 데이터(636, 638)를 큐할 수 있다.
몇몇 실시 예들로서, 하나 이상의 로컬 서버들(105)는 하나 이상의 프로세서들(605)과 관련된 복수의 로컬 쓰기 데이터 큐들(607, 609)을 포함할 수 있다. 로컬 독출 데이터 큐들(607, 609)은 로컬 서버(105)의 하나 이상의 로컬 어플리케이션들(155)에 대한 로컬 독출 데이터(637, 639)를 큐 할 수 있다.
몇몇 실시 예들로서, 하나 이상의 로컬 서버들(105)의 각각은 NIC(645)와 관련된 하나 이상의 로컬 발신 데이터 큐들(677)을 포함할 수 있다. 하나 이상의 로컬 발신 데이터 큐들(677)은 원격 서버(110)의 하나 이상의 원격 어플리케이션들(160)에 대한 로컬 독출 데이터(637, 639)를 큐할 수 있다.
하나 이상의 로컬 서버들(105)은 로컬 범용 액세스 로직 영역(135)을 통해 하나 이상의 원격 어플리케이션들(160) 및 하나 이상의 로컬 어플리케이션들(155)로부터 접근 가능한 복수의 로컬 메모리 채널들(615)을 포함할 수 있다. 하나 이상의 로컬 서버들(105) 각각은 하나 이상의 로컬 메모리 어레이들(625)을 포함할 수 있다. 예를 들어, 하나 이상의 메모리 어레이들(625) 각각은 복수의 로컬 쓰기 스토리지 큐들(626, 628, 622) 및 복수의 로컬 독출 스토리지 큐들(627, 629 623)을 포함할 수 있다. 큐들은 세 개 이상일 수 있다.
로컬 쓰기 스토리지 큐들 (626, 628, 622)의 제1 서브 세트(626, 628)는 하나 이상의 프로세서들(605)과 관련된 로컬 쓰기 데이터 큐들(606, 608)의 각각과 관련된다. 다시 말해서, 로컬 쓰기 스토리지 큐들 (626, 628, 622)의 제1 서브 세트(626, 628)의 각각의 큐는 로컬 쓰기 큐들(606, 608)의 각각과 교차 연결된다.
로컬 독출 스토리지 큐들(627, 629, 623)의 제1 서브 세트(627, 629)는 하나 이상의 프로세서들(605)과 관련된 로컬 읽기 데이터 큐들(607, 609)의 각각과 관련된다. 다시 말해서, 로컬 독출 스토리지 큐들(627, 629, 623)의 제1 서브 세트(627, 629)의 각각의 큐는 로컬 읽기 데이터 큐들(607, 609)의 각각과 교차 연결된다.
로컬 쓰기 스토리지 큐들 (626, 628, 622)의 제2 서브 세트(622)는 NIC(645)와 관련된 하나 이상의 로컬 발신 데이터 큐들(677)과 관련된다. 다시 말해서, 로컬 쓰기 스토리지 큐들 (626, 628, 622)의 제2 서브 세트(622)의 큐는 로컬 발신 데이터 큐(677)와 교차 연결된다.
로컬 독출 스토리지 큐들(627, 629, 623)의 제2 서브 세트(623)는 NIC(645)와 관련된 로컬 인커밍 데이터 큐들(667)과 관련된다. 다시 말해서, 로컬 독출 스토리지 큐들(627, 629, 623)의 제2 서브 세트(623)의 큐는 로컬 인커밍 데이터 큐(667)와 교차 연결된다.
하나 이상의 로컬 서버들(105)은 로컬 쓰기 스토리지 큐들의 제1 서브 세트(626, 628) 및 로컬 읽기 스토리지 큐들의 제1 서브 세트(627, 629)와 교차 연결된 하나 이상의 로컬 스토리지 장치들(635)을 포함할 수 있다. 하나 이상의 로컬 스토리지 장치들(635)은 로컬 쓰기 스토리지 큐들의 제1 서브 세트(626, 628)로부터 수신된 로컬 쓰기 데이터(636, 638)를 쓸 수 있고, 하나 이상의 로컬 스토리 장치들(635)에 저장된 로컬 독출 데이터(637, 639)를 독출할 수 있고, 로컬 읽기 데이터(637, 639)를 로컬 읽기 스토리지 큐들의 제1 서브 세트(627, 629)로 제공할 수 있다.
NIC(645)와 관련된 하나 이상의 로컬 발신 데이터 큐들(677)은 로컬 쓰기 스토리지 큐들의 제2 서브 세트(622)로부터 원격 쓰기 데이터 (626, 628)를 수신하고, 원격 쓰기 데이터(646, 648)를 원격 스토리지 장치들(640)에 쓰기 위해서, 하나 이상의 원격 서버들(110)로 전송할 수 있다. NIC(645)와 관련된 하나 이상의 로컬 인커밍 데이터 큐들(667)은 하나 이상의 원격 서버들(110)로부터 원격 쓰기 데이터(647, 649)를 수신할 수 있고, 로컬 어플리케이션들(155)이 원격 읽기 데이터에 액세스할 수 있도록, 로컬 읽기 스토리지 큐들의 제2 서브 세트(623)로 원격 읽기 데이터(647, 649)를 전송할 수 있다.
하나 이상의 메모리 어레이들(625)은 각각의 데이터 파일을 제어하기 위해 하나 이상의 스토리지 장치들(635)에 세마포어 로킹 영역(semaphore locking section)(655)을 포함할 수 있다. 이러한 로킹은 코히런시 노드(도 1의 125)에 빠른 반응을 발생시킬 수 있다. 예를 들어, 스토리지 장치가 업데이트 되면, 범용 액세스 인터페이스(또는 쓰기 동작)는 원격 프로세서들 내의 모든 프로세서들로부터 알려진 메시지를 발생시킨다. 이러한 메시지는 정보가 변경된 모든 서버 프로세서들을 나타낼 수 있고, 그것들은 특정 데이터와 관련된 경우 인식할 필요가 있다. 메시지가 전송된 경우, 세마포어/락은 일관성의 필요를 나타내는 수정된 스토리지 내에 설정될 수 있다. 다른 서버들로부터 응답이 수신된 경우, 스토리지는 세마포어/락을 지울 수 있다.
하나 이상의 원격 서버들(110)은 하나 이상의 프로세서들(610) 하나 이상의 프로세서들(610)을 제어하기 위한 운영 시스템(도 1의 150) 및/또는 운영 시스템을 실행하기 위한 하나 이상의 원격 어플리케이션들(160)을 포함할 수 있다. 하나 이상의 원격 서버들(110) 각각은 네트워크 인터페이스 카드(NIC)(650)를 포함할 수 있다.
하나 이상의 원격 서버들(110)은 하나 이상의 프로세서들(610)과 관련된 복수의 원격 쓰기 데이터 큐들(611, 613)을 포함할 수 있다. 원격 쓰기 데이터 큐들(611, 613)은 원격 서버(110)의 하나 이상의 원격 어플리케이션들(160)에 대한 원격 스토리지 장치들(640)에 쓰기 위한 원격 쓰기 데이터(646, 648)를 큐 할 수 있다. 파선들은 스토리지로부터 읽고 있는 데이터에 대한 큐들 사이의 경로를 나타낸다. 반대로, 실전들은 저장장치에 기입하고 있는 데이터에 대한 큐들 사이의 경로들을 나타낸다.
하나 이상의 원격 서버들(110)은 NIC(650)와 관련된 하나 이상의 인커밍 데이터 큐들(672)을 포함할 수 있다. 하나 이상의 원격 인커밍 데이터 큐들(672)은 로컬 서버(105)의 하나 이상의 로컬 어플리케이션들(155)로부터 원격 스토리지 장치들(640)에 쓰기 위한 원격 쓰기 데이터(646, 648)를 큐 할 수 있다.
몇몇 실시 예들로서, 하나 이상의 원격 서버들(110)은 하나 이상의 프로세서들(610)과 관련된 복수의 원격 독출 데이터 큐들(612, 614)을 포함할 수 있다. 원격 독출 데이터 큐들(612, 614)은 원격 서버(110)의 하나 이상의 원격 어플리케이션들(160)에 대한 원격 독출 데이터(647, 649)를 큐 할 수 있다.
몇몇 실시 예들로서, 하나 이상의 원격 서버들(110) 각각은 NIC(650)와 관련된 하나 이상의 원격 발신 데이터 큐들(682)을 포함할 수 있다. 하나 이상의 원격 발신 데이터 큐들(682)은 로컬 서버(105)의 하나 이상의 로컬 어플리케이션들(155)에 대한 원격 독출 데이터(647, 649)를 큐 할 수 있다.
하나 이상의 원격 서버들(110)은 원격 범용 액세스 로직 영역(140)을 통해, 하나 이상의 원격 어플리케이션들(160) 및 하나 이상의 로컬 어플리케이션들(155)로부터 접근 가능한 복수의 원격 메모리 채널들(620)을 포함할 수 있다. 하나 이상의 원격 메모리 어레이들(630)의 각각은 복수의 스토리지 큐들(631)을 포함할 수 있다. 예를 들어, 하나 이상의 원격 메모리 어레이들(630)의 각각은 복수의 원격 쓰기 스토리지 큐들(636, 638, 632) 및 복수의 원격 독출 스토리지 큐들(637, 639, 633)을 포함할 수 있다.
원격 쓰기 스토리지 큐들(636, 638, 632)의 제1 서브 세트(636, 638)는 하나 이상의 프로세서들(610)과 관련된 원격 쓰기 데이터 큐들(611, 613) 각각과 관련된다. 다시 말해서, 원격 쓰기 스토리지 큐들(636, 638, 632)의 제1 서브 세트(636, 638)의 각각의 큐는 원격 쓰기 데이터 큐들(611, 613) 각각과 교차 연결된다.
원격 독출 스토리지 큐들(637, 639, 633)의 제1 서브 세트(637, 639)는 하나 이상의 프로세서들(610)과 관련된 원격 읽기 데이터 큐들(612, 614)의 각각과 관련된다. 다시 말해서, 원격 독출 스토리지 큐들(637, 639, 633)의 제1 서브 세트(637, 639) 각각은 원격 읽기 데이터 큐들(612, 614)의 각각과 교차 연결된다.
원격 쓰기 스토리지 큐들(636, 638, 632)의 제2 서브 세트(632)는 NIC(650)와 관련된 하나 이상의 원격 발신 데이터 큐들(682)과 관련된다. 다시 말해서, 원격 쓰기 스토리지 큐들(636, 638, 632)의 제2 서브 세트(632)의 큐는 원격 발신 데이터 큐(682)와 교차 연결된다.
원격 독출 스토리지 큐들(637, 639, 633)의 제2 서브 세트(633)는 NIC(650)와 관련하여 하나 이상의 원격 인커밍 데이터 큐들(672)과 연결된다. 다시 말해서, 원격 독출 스토리지 큐들(637, 639, 633)의 제2 서브 세트(633)의 큐는 원격 인커밍 데이터 큐(672)와 교차 연결된다.
하나 이상의 원격 서버들(110)의 각각은 원격 독출 스토리지 큐들의 제1 서브 세트(637, 639) 및 원격 쓰기 스토리지 큐들의 제1 서브 세트(636, 638)와 교차 연결된 하나 이상의 원격 스토리지 장치들(640)을 포함할 수 있다. 하나 이상의 원격 스토리지 장치들(640)은 원격 쓰기 스토리지 큐들의 제1 서브 세트(636, 638)로부터 수신된 원격 쓰기 데이터(646, 648)를 쓸 수 있고, 하나 이상의 원격 스토리지 장치들(640)에 저장된 원격 독출 데이터(647, 649)를 독출할 수 있고, 원격 독출 스토리지 큐들의 제1 서브 세트(637, 639)로 원격 독출 데이터(647, 649)를 제공할 수 있다.
NIC(650)와 관련된 하나 이상의 원격 발신 데이터 큐들(682)은 로컬 스토리지 장치들(635)에 쓰기 위해, 원격 쓰기 스토리지 큐들의 제2 서브 세트(632)로부터 로컬 쓰기 데이터(636, 638)를 수신할 수 있다. NIC(650)와 관련된 하나 이상의 원격 인커밍 데이터 큐들(672)은 원격 독출 스토리지 큐들의 제2 서브 세트(633)로 로컬 독출 데이터(647, 649)를 전송할 수 있다.
하나 이상의 메모리 어레이들(630)은 각각의 데이터 파일을 로킹(locking)하기 위해 하나 이상의 스토리지 장치들(640)에 세마포어 로킹 영역(semaphore locking section)(655)을 포함할 수 있다. 이러한 로킹은 코히런시 노드(도 1의 125)에 반응하여 발생할 수 있다. 예를 들어, 스토리지 장치가 업데이트 되면, 범용 액세스 인터페이스(또는 쓰기 동작)는 원격 프로세서들 내의 모든 프로세서들로부터 알려진 메시지를 발생시킨다. 이러한 메시지는 정보가 변경된 모든 서버 프로세서들을 나타낼 수 있고, 그것들은 특정 데이터와 관련된 경우 인식할 필요가 있다. 메시지가 전송된 경우, 세마포어/락은 일관성의 필요를 나타내는 수정된 스토리지 내에 설정될 수 있다. 다른 서버들로부터 응답이 수신된 경우, 스토리지는 세마포어/잠금 해제를 지울(clear) 수 있다.
삭제
이러한 방법으로, 로컬 서버들에서 동작하는 로컬 어플리케이션들은 로컬 서버들 및 원격 서버들의 어떠한 데이터에도 접근할 수 있다. 그리고, 원격 서버들에서 동작하는 원격 어플리케이션들은 원격 서버들 및 로컬 서버들의 어떤 데이터에도 접근할 수 있다. 더 나아가, 범용 액세스 로직 영역들은 서버로부터 데이터에 대한 액세스에 대한 균일하고 통합된 방법을 제공한다.
각각의 서버는 로컬 스토리지를 포함하고 다른 서버들의 스토리지에 액세스할 수 있다. 범용 액세스 인터페이스 및 로직 영역들은 모든 서버들이 로컬 및 원격 스토리지를 사용하는 것을 허용한다. 범용 액세스 인터페이스 및 로직 영역들은 로컬 또는 원격 서버에 상관없이 어떤 스토리지라도 액세스를 허용한다. 추가적으로, "로컬 및 원격" 개념은 서버들 사이의 메시지들을 제공한다. 예를 들어, 서버 프로세서는 같은 서버 또는 멀리 떨어진 다른 서버의 프로세서와 통신할 수 있다.
범용 액세스 인터페이스 어플리케이션 프로그래밍 인터페이스(API), 커맨드, 또는 세만틱(semantics)는, 같은 서버의 프로세서들, 다른 서버들에서의 원격 프로세서 액세스, 프로세서 및 같은 서버의 스토리지 및/또는 다른 서버들의 원격 스토리지 액세스 사이의 정보 교환이 발생하는 경우, 다를 수 있다. 각각의 서버는 범용 액세스 인터페이스 및 다른 엔티티들(같은 원격 서버의 다른 프로세서, 로컬 및/또는 원격 스토리지)에 액세스하기 위한 로직 영역들을 사용할 수 있다. 액세스들은 어플리케이션 실행 동안 동적이기 때문에, 범용 액세스 인터페이스 및 로직 영역들은 API를 포함할 수 있다. AGUI 인터페이스는 프로세서 및 스토리지 액세스의 연결 맵을 설정하기 위해 제공될 수 있다.
도 7 및 도 8은 범용 병렬 정보 액세스를 제공하기 위한 기술에 대한 순서도이다. 기술은 로컬 서버로부터, 복수의 로컬 쓰기 스토리지 큐들의 제1 서브 세트를 복수의 로컬 쓰기 데이터 큐들과 연관짓는 단계(705)를 포함한다. 기술은 로컬 서버로부터, 복수의 로컬 독출 스토리지 큐들을 복수의 로컬 독출 데이터 큐들과 연관짓는 단계(710)를 포함한다. 기술은 로컬 서버로부터, 복수의 로컬 쓰기 스토리지 큐들의 제2 서브 세트를 네트워크 인터페이스 카드(NIC)와 관련된 하나 이상의 로컬 발신 데이터 큐들과 연관짓는 단계(715)를 포함한다. 기술은 로컬 서버로부터, 복수의 로컬 독출 스토리지 큐들의 제2 서브 세트를 NIC와 관련된 하나 이상의 로컬 인커밍 데이터 큐들과 연관짓는 단계(720)를 포함한다.
기술은 로컬 서버의 하나 이상의 로컬 어플리케이션에 대해 로컬 서버의 로컬 스토리지 장치에 쓰기 위해, 복수의 로컬 쓰기 데이터 큐들로부터 로컬 쓰기 데이터를 큐하는 단계(725)를 포함한다. 기술은 원격 서버의 하나 이상의 원격 어플리케이션들에 대한 로컬 스토리지 장치로 쓰기 위해 NIC와 관련된 하나 이상의 로컬 인커밍 데이터 큐들로부터 로컬 쓰기 데이터를 큐하는 단계(730)를 포함한다. 기술은 로컬 서버의 하나 이상의 로컬 어플리케이션들에 대한 로컬 서버와 관련된 복수의 로컬 독출 데이터 큐들로부터 로컬 독출 데이터를 큐하는 단계(735)를 포함한다. 기술은 원격 서버의 하나 이상의 원격 어플리케이션들에 대한 NIC와 관련된 하나 이상의 로컬 발신 데이터 큐들로부터 로컬 독출 데이터를 큐하는 단계(740)를 포함한다.
도 8을 참조하면, 순서도는 A, B, C 또는 D 중 하나 이상의 경로를 통해 처리될 수 있다. 기술은 복수의 로컬 쓰기 스토리지 큐들의 제1 서브 세트로부터 로컬 서버의 로컬 스토리지로 로컬 쓰기 데이터를 쓰는 단계(805)를 포함한다. 기술은 복수의 로컬 쓰기 스토리지 큐들의 제2 서브 세트로부터 원격 서버의 원격 스토리지로 로컬 쓰기 데이터를 쓰는 단계(810)를 포함한다. 기술은 복수의 로컬 독출 스토리지 큐들의 제1 서브 세트로부터 로컬 서버의 하나 이상의 로컬 어플리케이션들로 로컬 독출 데이터를 제공하는 단계(815)를 포함한다. 기술은 복수의 로컬 독출 스토리지 큐들의 제2 서브 세트로부터 원격 서버의 하나 이상의 원격 어플리케이션들로 로컬 독출 데이터를 제공하는 단계(820)를 포함한다.
단계들은 도시된 순서대로 발생할 필요는 없지만, 상이한 순서 및/또는 사이에 끼여있는 단계들로 발생할 수 있다. 또한, 단계들은 로컬 서버의 관점에서 도시되었지만, 유사한 단계들은 원격 서버들에 수행될 수 있다. 일 실시 예로서, "로컬" 요소들은 "원격" 요소들로 대체될 수 있고, "원격" 요소들은 "로컬" 요소들로 대체될 수 있다.
도 9는 범용 액세스 로직 영역 및 이와 관련된 큐들(queues)(950)을 포함하는 컴퓨팅 시스템(900)을 보여주는 블록도이다. 도 9를 참조하면, 컴퓨팅 시스템(900)은 클럭(clock)(910), 랜덤 액세스 메모리(Random access memory, RAM)(915), 사용자 인터페이스(920), 베이스밴드 칩 세트(baseband chipset)와 같은 모뎀(modem)(925), 솔리드 스테이트 드라이브/디스크(solid state drive/disk)(SSD)(940), 메모리 컨트롤러(945), 및/또는 프로세서(935), 전기적으로 연결된 시스템 버스(905)를 포함한다.
아래의 설명은 본 발명의 개념의 특정 양상들이 구현될 수 있는 기계 또는 적합한 기계의 간략하고 일반적인 설명을 제공한다. 일반적으로, 기계는 프로세서들, 메모리(RAM, 판독 전용 메모리(read-only memory, ROM) 또는 다른 보존 저장 매체), 스토리지 장치들, 비디오 인터페이스 및/또는 입/출력 인터페이스 포트들(ports)에 접근하기 위한 시스템 버스를 포함한다.
기계(machine)는 키보드들, 마우스들과 같은 일반적인 입력 장치들의 입력으로부터 제어될 수 있다. 뿐만 아니라. 기계는 다른 기계로부터 수신된 가상 현실(virtual reality, VR) 환경, 생체 인식 피드백, 또는 다른 입력 신호와의 상호작용 지시로부터 제어될 수 있다. 본 발명에서 사용된 "기계"라는 용어는 신호 기계, 가상 기계 또는 기계들과 통신에 대하여 연결된 시스템, 가상 기계들 또는 함께 동작하는 장치들을 아울러서 사용된다. 예시적은 기계들은 개인 컴퓨터, 워크스테이션들(workstations), 서버들, 휴대용 컴퓨터들, 핸드헬드(handheld) 장치들, 휴대폰들, 테블렛들(tablets)과 같은 컴퓨팅 장치들뿐만 아니라, 개인 또는 공용 수송 장치(자동차, 기차, 택시)와 같은 수송 장치들을 포함한다.
장치는 프로그래머블(programmable) 또는 프로그램할 수 없는(non-programmable) 로직 장치들 또는 어레이들, 응용 주문형 집적 회로들(Application Specific Integrated Circuits, ASICs), 임베디드 컴퓨터들, 스마트 카드들과 같은 임베디드 컨트롤러들(embedded controllers)을 포함할 수 있다. 기계는 네트워크 인터페이스, 모뎀 또는 다른 통신에 대한 연결을 통해 하나 이상의 원격 기계들과 하나 이상의 연결들을 이용할 수 있다. 기계들은 인트라넷(intranet), 로컬 영역 네트워크들, 광역 네트워크들과 같은 물리적 및/또는 논리적 네트워크 방법을 통해 상호 연결될 수 있다. 당업자는, 무선 주파수(RF), 위성, 마이크로파(microwave), 전기 전자 기술자 협회(Institute of Electrical and Electronics Engineer, IEEE) 545.11, 블루투스, 광, 적외선, 케이블, 레이저를 포함하는 네트워크 통신이 다양한 연결 및/또는 무선 단거리 또는 장거리 수송 및 프로토콜임을 이해할 수 있다.
본 발명의 실시 예들은 기능들, 절차들, 데이터 구조들, 어플리케이션 프로그램들을 포함하는 관련 데이터와 함께 또는 언급하여 설명될 수 있다. 관련 데이터는 RAM, ROM과 같은 휘발성 및/또는 비휘발성 메모리 또는 다른 스토리지 장치들 및 하드 드라이브들, 플로피 디스크들(floppy-disks), 광 스토리지, 테이블들, 플래시 메모리 스틱들(memory sticks), 생체 정보 스토리지 등을 포함하는 관련 저장 미디어에 저장될 수 있다. 관련 데이터는 압축 또는 암호화 포맷에서 사용될 수 있는 패킷들, 시리얼 데이터(serial data), 병렬 데이터, 전파 신호 등과 같은 형태의 물리적 및/또는 논리적 네트워크를 포함하는 운송 환경들을 통해 전송될 수 있다. 관련 데이터는 분산 환경에서 사용되고, 기계 액세스에 대해 국부적으로 및/또는 원격적으로 저장될 수 있다.
이상에서와 같이 도면과 명세서에서 최적 실시 예가 개시되었다. 여기서 특정한 용어들이 사용되었으나, 이는 단지 본 발명을 설명하기 위한 목적에서 사용된 것이지 의미 한정이나 특허청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 그러므로 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시 예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다.
100, 200, 300: 시스템 410, 415: 프로세서
105: 로컬 서버들 420: NIC
110: 원격 서버들 425: 메모리
125: 코히런시 노드 430, 435: 저장 장치
127: 콘시스턴시 테이블 905: 버스
130: 네트워크 910: 클록
135: 로컬 범용 액세스 로직 영역 915: 램
140: 원격 범용 액세스 로직 영역 920: 사용자 인터페이스
145, 150: 운영 시스템 925: 메모리
155, 160: 어플리케이션들 935: 프로세서
165, 170: 메모리 940: SSD
175, 180: 큐들 945: 메모리 컨트롤러
185, 190: 저장 장치 950: 큐들
405: 브릿지

Claims (10)

  1. 범용 병렬 정보 액세스 시스템에 있어서:
    로컬 범용 액세스 로직 영역을 각각 포함하고, 하나 이상의 원격 서버들과 통신하기 위한 하나 이상의 로컬 서버들; 및
    상기 하나 이상의 로컬 서버들과 연결되고, 상기 하나 이상의 로컬 서버들의 상기 로컬 범용 액세스 로직 영역과 동작하도록 구성되고, 상기 하나 이상의 로컬 서버들의 하나 이상의 로컬 데이터-지속 스토리지 장치들에 저장된 제1 데이터에 대한 코히런트 액세스(coherent access)를 상기 하나 이상의 원격 서버들로 제공하는 코히런시 노드(coherency node)를 포함하고,
    상기 하나 이상의 로컬 서버들 각각은:
    하나 이상의 로컬 프로세서들;
    상기 하나 이상의 로컬 프로세서들을 제어하는 운영 시스템;
    상기 운영 시스템에서 실행되는 하나 이상의 로컬 어플리케이션들;
    네트워크 인터페이스 카드(NIC);
    상기 하나 이상의 로컬 프로세서들과 연관되고, 상기 하나 이상의 어플리케이션들에 대한 로컬 쓰기 데이터를 큐(queue)하는 복수의 로컬 쓰기 데이터 큐들;
    상기 네트워크 인터페이스 카드(NIC)와 연관되고, 하나 이상의 원격 어플리케이션들에 의하여, 상기 하나 이상의 로컬 서버들에 기입될 상기 로컬 쓰기 데이터를 큐하는 하나 이상의 로컬 인커밍 데이터 큐들;
    상기 하나 이상의 로컬 프로세서들과 연관되고, 상기 하나 이상의 로컬 어플리케이션들에 대한 로컬 읽기 데이터를 큐하는 복수의 로컬 독출 데이터 큐들;
    상기 네트워크 인터페이스 카드(NIC)와 연관되고, 상기 하나 이상의 원격 어플리케이션들에 대한 상기 로컬 독출 데이터를 큐하는 하나 이상의 로컬 발신 데이터 큐들; 및
    상기 로컬 범용 액세스 로직 영역을 통해 상기 하나 이상의 원격 어플리케이션들 및 상기 하나 이상의 로컬 어플리케이션들에 의하여 액세스 가능한 복수의 로컬 메모리 채널들을 포함하고,
    상기 코히런시 노드는 제1 코히런시 노드로 지칭되고,
    상기 시스템은 상기 제1 코히런시 노드의 실패의 이벤트에서, 상기 하나 이상의 로컬 서버들 및 상기 하나 이상의 원격 서버들 사이에서 상기 제1 데이터 및 제2 데이터에 대한 상기 코히런트 액세스를 제공하는 제2 콘시스턴시 테이블을 포함하는 제2 코히런시 노드를 더 포함하고,
    상기 하나 이상의 원격 서버들 각각은,
    원격 범용 액세스 로직 영역;
    하나 이상의 원격 프로세서들;
    상기 하나 이상의 원격 프로세서들을 제어하기 위한 운영 시스템;
    상기 하나 이상의 원격 서버들의 상기 운영 시스템에서 실행되는 하나 이상의 원격 어플리케이션들;
    네트워크 인터페이스 카드(NIC);
    상기 하나 이상의 원격 프로세서들과 연관되고, 상기 하나 이상의 원격 어플리케이션들에 대한 원격 쓰기 데이터를 큐(queue)하는 복수의 원격 쓰기 데이터 큐들;
    복수의 원격 쓰기 스토리지 큐들 및 복수의 원격 독출 스토리지 큐들을 각각 포함하는 하나 이상의 원격 메모리 어레이들;
    상기 하나 이상의 원격 서버들의 상기 네트워크 인터페이스 카드(NIC)와 연관되고, 상기 하나 이상의 로컬 어플리케이션들에 의하여 상기 하나 이상의 원격 서버들에 기입될 상기 원격 쓰기 데이터를 큐하는 하나 이상의 원격 인커밍 데이터 큐들;
    상기 하나 이상의 원격 프로세서들과 연관되고, 상기 하나 이상의 원격 어플리케이션들에 대한 원격 독출 데이터를 큐하는 복수의 원격 독출 데이터 큐들;
    상기 하나 이상의 원격 서버들의 상기 네트워크 인터페이스 카드(NIC)와 연관되고, 상기 하나 이상의 로컬 어플리케이션들에 대한 상기 원격 독출 데이터를 큐하는 하나 이상의 원격 발신 데이터 큐들;
    상기 원격 범용 액세스 로직 영역을 통해 상기 하나 이상의 원격 어플리케이션들 및 상기 하나 이상의 로컬 어플리케이션들에 의하여 액세스 가능한 복수의 원격 메모리 채널들; 및
    하나 이상의 원격 데이터-지속 스토리지 장치들을 포함하고,
    상기 복수의 원격 쓰기 스토리지 큐들의 제1 서브 세트는 상기 하나 이상의 원격 프로세서들과 관련된 상기 복수의 원격 쓰기 데이터 큐들의 각각과 연관되고;
    상기 복수의 원격 독출 스토리지 큐들의 제1 서브 세트는 상기 하나 이상의 원격 프로세서들과 관련된 상기 복수의 원격 독출 데이터 큐들의 각각과 연관되고;
    상기 복수의 원격 쓰기 스토리지 큐들의 제2 서브 세트는 상기 하나 이상의 원격 서버들의 상기 네트워크 인터페이스 카드(NIC)와 관련된 상기 하나 이상의 원격 발신 데이터 큐들과 연관되고;
    상기 복수의 원격 독출 스토리지 큐들의 제2 서브 세트는 상기 하나 이상의 원격 서버들의 상기 네트워크 인터페이스 카드(NIC)와 관련된 상기 하나 이상의 원격 인커밍 데이터 큐들과 연관되고;
    상기 하나 이상의 원격 데이터-지속 스토리지 장치들은, 상기 원격 쓰기 스토리지 큐들의 제1 서브 세트 및 상기 원격 독출 스토리지 큐들의 제1 서브 세트와 상호 연결되고, 상기 원격 쓰기 스토리지 큐들의 제1 서브 세트로부터 수신된 상기 원격 쓰기 데이터를 기입하고, 상기 하나 이상의 원격 데이터-지속 스토리지 장치들에 저장된 상기 원격 독출 데이터를 독출하고, 상기 원격 독출 스토리지 큐들의 제1 서브 세트로 상기 원격 독출 데이터를 제공하고;
    상기 하나 이상의 로컬 서버들 각각은 복수의 로컬 쓰기 스토리지 큐들 및 복수의 로컬 독출 스토리지 큐들을 각각 포함하는 하나 이상의 로컬 메모리 어레이들을 포함하고;
    상기 제1 코히런시 노드는 상기 하나 이상의 원격 서버들과 연결되고; 상기 제1 코히런시 노드는 상기 하나 이상의 원격 서버들의 상기 원격 범용 액세스 로직 영역과 동작하도록 구성되고;
    상기 제1 코히런시 노드는 상기 하나 이상의 원격 서버들의 상기 하나 이상의 원격 데이터-지속 스토리지 장치들에 저장된 제2 데이터에 대한 코히런트 액세스를 상기 하나 이상의 로컬 서버들로 제공하고;
    상기 제1 코히런시 노드는 상기 하나 이상의 로컬 서버들과 상기 하나 이상의 원격 서버들 사이에서 상기 제1 데이터 및 상기 제2 데이터에 대한 상기 코히런트 액세스를 제공하는 제1 콘시스턴시 테이블(consistency table)을 포함하고;
    상기 복수의 로컬 쓰기 스토리지 큐들의 제1 서브 세트는 상기 하나 이상의 로컬 프로세서들과 관련된 상기 복수의 로컬 쓰기 데이터 큐들 각각과 연관되고;
    상기 복수의 로컬 독출 스토리지 큐들의 제1 서브 세트는 상기 하나 이상의 로컬 프로세서들과 관련된 상기 복수의 로컬 독출 데이터 큐들 각각과 연관되고;
    상기 복수의 로컬 쓰기 스토리지 큐들의 제2 서브 세트는 상기 하나 이상의 로컬 서버들의 상기 네트워크 인터페이스 카드(NIC)와 관련된 상기 하나 이상의 로컬 발신 데이터 큐들과 연관되고;
    상기 복수의 로컬 독출 스토리지 큐들의 제2 서브 세트는 상기 하나 이상의 로컬 서버들의 상기 네트워크 인터페이스 카드(NIC)와 관련된 상기 하나 이상의 로컬 인커밍 데이터 큐들과 연관되고;
    상기 하나 이상의 로컬 데이터-지속 스토리지 장치들은 상기 로컬 쓰기 스토리지 큐들의 제1 서브 세트 및 상기 로컬 독출 스토리지 큐들의 제1 서브 세트와 상호 연결되고, 상기 로컬 쓰기 스토리지 큐들의 제1 서브 세트로부터 수신된 상기 로컬 쓰기 데이터를 기입하고, 상기 하나 이상의 로컬 데이터-지속 스토리지 장치들에 저장된 상기 로컬 독출 데이터를 독출하고, 상기 로컬 독출 스토리지 큐들의 제1 서브 세트로 상기 로컬 독출 데이터를 제공하고;
    상기 하나 이상의 로컬 서버들의 상기 네트워크 인터페이스 카드(NIC)와 관련된 상기 하나 이상의 로컬 발신 데이터 큐들은 상기 복수의 로컬 쓰기 스토리지 큐들의 제2 서브 세트로부터 상기 원격 쓰기 데이터를 수신하고, 상기 하나 이상의 원격 서버들로 상기 원격 쓰기 데이터를 전송하고;
    상기 하나 이상의 로컬 서버들의 상기 네트워크 인터페이스 카드(NIC)와 관련된 상기 하나 이상의 로컬 인커밍 데이터 큐들은 상기 하나 이상의 원격 서버들로부터 상기 원격 독출 데이터를 수신하고, 상기 복수의 로컬 독출 스토리지 큐들의 제2 서브 세트로 상기 원격 독출 데이터를 전송하고;
    상기 하나 이상의 로컬 메모리 어레이들은 상기 제1 코히런시 노드에 응답하여 상기 하나 이상의 로컬 데이터-지속 스토리지 장치들의 개별적인 데이터 파일들에 락을 설정하는 세마포어 락킹(semaphore locking) 영역을 포함하고;
    상기 하나 이상의 원격 서버들의 상기 네트워크 인터페이스 카드(NIC)와 관련된 상기 하나 이상의 원격 발신 데이터 큐들은 상기 복수의 원격 쓰기 스토리지 큐들의 제2 서브 세트로부터 상기 로컬 쓰기 데이터를 수신하고, 상기 하나 이상의 로컬 서버들로 상기 로컬 쓰기 데이터를 전송하고;
    상기 하나 이상의 원격 서버들의 상기 네트워크 인터페이스 카드(NIC)와 관련된 상기 하나 이상의 원격 인커밍 데이터 큐들은 상기 하나 이상의 로컬 서버들로부터 상기 로컬 독출 데이터를 수신하고, 상기 복수의 원격 독출 스토리지 큐들의 제2 서브 세트로 상기 로컬 독출 데이터를 전송하는 시스템.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 삭제
  6. 삭제
  7. 삭제
  8. 삭제
  9. 삭제
  10. 삭제
KR1020150103118A 2014-10-02 2015-07-21 범용 병렬 정보 액세스를 위한 시스템 및 그것의 동작 방법 KR102191224B1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201462059141P 2014-10-02 2014-10-02
US62/059,141 2014-10-02
US14/601,228 US10003648B2 (en) 2014-10-02 2015-01-20 Mechanism for universal parallel information access
US14/601,228 2015-01-20

Publications (2)

Publication Number Publication Date
KR20160040081A KR20160040081A (ko) 2016-04-12
KR102191224B1 true KR102191224B1 (ko) 2020-12-15

Family

ID=55633690

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150103118A KR102191224B1 (ko) 2014-10-02 2015-07-21 범용 병렬 정보 액세스를 위한 시스템 및 그것의 동작 방법

Country Status (2)

Country Link
US (1) US10003648B2 (ko)
KR (1) KR102191224B1 (ko)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11354568B2 (en) * 2017-06-30 2022-06-07 Intel Corporation In-memory spiking neural networks for memory array architectures
KR20190112446A (ko) * 2018-03-26 2019-10-07 삼성전자주식회사 네트워크 페브릭에 장착되는 스토리지 장치 및 그것의 큐 관리 방법
US11307980B2 (en) * 2018-04-20 2022-04-19 Seagate Technology Llc Distributed data storage system with passthrough operations
US11323514B2 (en) * 2019-04-30 2022-05-03 EMC IP Holding Company LLC Data tiering for edge computers, hubs and central systems
US11144461B2 (en) * 2020-03-09 2021-10-12 EMC IP Holding Company LLC Bandwidth efficient access to persistent storage in a distributed storage system
JP2023045927A (ja) * 2021-09-22 2023-04-03 キオクシア株式会社 ストレージシステム
US12008259B1 (en) * 2021-09-29 2024-06-11 Ethernovia Inc. Data processing and transmission using hardware serialization and deserialization functions

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7725669B1 (en) 2006-09-28 2010-05-25 Emc Corporation Backup and restore operations using coherency groups for ISB protocol systems
US20100146068A1 (en) 2008-12-04 2010-06-10 Yaron Haviv Device, system, and method of accessing storage
US20120207165A1 (en) 2009-10-30 2012-08-16 Calxeda, Inc. System and Method for Using a Multi-Protocol Fabric Module Across a Distributed Server Interconnect Fabric
US8607004B2 (en) 2009-11-13 2013-12-10 Richard S. Anderson Distributed symmetric multiprocessing computing architecture
US20140189032A1 (en) 2012-12-28 2014-07-03 Hitachi, Ltd. Computer system and method of controlling computer system

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020107990A1 (en) 2000-03-03 2002-08-08 Surgient Networks, Inc. Network connected computing system including network switch
US6857036B2 (en) * 2001-07-17 2005-02-15 Hewlett Packard Development Company, L.P. Hardware method for implementing atomic semaphore operations using code macros
JP3759048B2 (ja) * 2002-02-04 2006-03-22 日本電気株式会社 ディスクアレイ装置のディスクキャッシュ管理方法
US7613882B1 (en) * 2007-01-29 2009-11-03 3 Leaf Systems Fast invalidation for cache coherency in distributed shared memory system
US9497039B2 (en) 2009-05-28 2016-11-15 Microsoft Technology Licensing, Llc Agile data center network architecture
US9047351B2 (en) * 2010-04-12 2015-06-02 Sandisk Enterprise Ip Llc Cluster of processing nodes with distributed global flash memory using commodity server technology
US20120324068A1 (en) 2011-06-17 2012-12-20 Microsoft Corporation Direct networking for multi-server units
US9008113B2 (en) * 2010-12-20 2015-04-14 Solarflare Communications, Inc. Mapped FIFO buffering
US9244846B2 (en) * 2012-07-06 2016-01-26 International Business Machines Corporation Ensuring causality of transactional storage accesses interacting with non-transactional storage accesses
US9208094B2 (en) * 2013-08-06 2015-12-08 GlobalFoudries, Inc. Managing and sharing storage cache resources in a cluster environment
US9626316B2 (en) * 2013-12-27 2017-04-18 Intel Corporation Managing shared resources between multiple processing devices
US10061743B2 (en) * 2015-01-27 2018-08-28 International Business Machines Corporation Host based non-volatile memory clustering using network mapped storage

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7725669B1 (en) 2006-09-28 2010-05-25 Emc Corporation Backup and restore operations using coherency groups for ISB protocol systems
US20100146068A1 (en) 2008-12-04 2010-06-10 Yaron Haviv Device, system, and method of accessing storage
US20120207165A1 (en) 2009-10-30 2012-08-16 Calxeda, Inc. System and Method for Using a Multi-Protocol Fabric Module Across a Distributed Server Interconnect Fabric
US8607004B2 (en) 2009-11-13 2013-12-10 Richard S. Anderson Distributed symmetric multiprocessing computing architecture
US20140189032A1 (en) 2012-12-28 2014-07-03 Hitachi, Ltd. Computer system and method of controlling computer system

Also Published As

Publication number Publication date
US20160100027A1 (en) 2016-04-07
KR20160040081A (ko) 2016-04-12
US10003648B2 (en) 2018-06-19

Similar Documents

Publication Publication Date Title
KR102191224B1 (ko) 범용 병렬 정보 액세스를 위한 시스템 및 그것의 동작 방법
US11042311B2 (en) Cluster system with calculation and storage converged
US10284430B2 (en) Storage provisioning and configuration of network protocol parameters
CN102469025B (zh) 多存储系统上的多路径交换
US9948566B2 (en) Selective network traffic throttling
US7437462B2 (en) Method for zoning data storage network using SAS addressing
CN100396065C (zh) 一种iSCSI存储系统的实现方法
US7921185B2 (en) System and method for managing switch and information handling system SAS protocol communication
JP6175311B2 (ja) ストレージエリアネットワーク構成の引き継ぎを行うストレージボリューム移行方法および装置
US8732381B2 (en) SAS expander for communication between drivers
US10678437B2 (en) Method and device for managing input/output (I/O) of storage device
US20060155831A1 (en) Network topology based storage allocation for virtualization
US20080022120A1 (en) System, Method and Computer Program Product for Secure Access Control to a Storage Device
US10708140B2 (en) Automatically updating zone information in a storage area network
CN104901923A (zh) 一种虚拟机访问装置和方法
WO2017088342A1 (zh) 业务割接方法、存储控制装置及存储设备
US9875059B2 (en) Storage system
US9268493B2 (en) Systems and methods for smart storage interconnection in a heterogeneous storage environment
US11405455B2 (en) Elastic scaling in a storage network environment
US9395926B2 (en) Storage system and management computer
US9047122B2 (en) Integrating server and storage via integrated tenant in vertically integrated computer system
US9319350B2 (en) Virtual address for virtual port
US9965407B2 (en) Task management
US10496305B2 (en) Transfer of a unique name to a tape drive
WO2014077451A1 (ko) Iscsi 스토리지 시스템을 이용한 네트워크 분산 파일 시스템 및 방법

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant