JP6696315B2 - 並列処理装置及びメモリキャッシュ制御方法 - Google Patents
並列処理装置及びメモリキャッシュ制御方法 Download PDFInfo
- Publication number
- JP6696315B2 JP6696315B2 JP2016121212A JP2016121212A JP6696315B2 JP 6696315 B2 JP6696315 B2 JP 6696315B2 JP 2016121212 A JP2016121212 A JP 2016121212A JP 2016121212 A JP2016121212 A JP 2016121212A JP 6696315 B2 JP6696315 B2 JP 6696315B2
- Authority
- JP
- Japan
- Prior art keywords
- cache
- server
- node
- data
- client
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 47
- 238000000034 method Methods 0.000 title claims description 25
- 238000007726 management method Methods 0.000 claims description 169
- 238000012546 transfer Methods 0.000 claims description 13
- 238000004891 communication Methods 0.000 claims description 12
- 230000005540 biological transmission Effects 0.000 claims description 11
- 238000013523 data management Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 22
- 235000008694 Humulus lupulus Nutrition 0.000 description 9
- 238000013468 resource allocation Methods 0.000 description 5
- 230000004044 response Effects 0.000 description 4
- 230000002457 bidirectional effect Effects 0.000 description 3
- 238000013500 data storage Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 231100000989 no adverse effect Toxicity 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
- G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
- G06F12/0806—Multiuser, multiprocessor or multiprocessing cache systems
- G06F12/0813—Multiuser, multiprocessor or multiprocessing cache systems with a network or matrix configuration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/133—Protocols for remote procedure calls [RPC]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/2866—Architectures; Arrangements
- H04L67/2885—Hierarchically arranged intermediate devices, e.g. for hierarchical caching
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/568—Storing data temporarily at an intermediate stage, e.g. caching
- H04L67/5682—Policies or rules for updating, deleting or replacing the stored data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
- G06F2212/10—Providing a specific technical effect
- G06F2212/1016—Performance improvement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
- G06F2212/15—Use in a specific computing environment
- G06F2212/154—Networked environment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
- G06F2212/60—Details of cache memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
- G06F2212/62—Details of cache specific to multiprocessor cache arrangements
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Memory System Of A Hierarchy Structure (AREA)
Description
2,8 ファイルサーバ
2a ディスク装置
3 マスターメモリキャッシュサーバ
4 主スレーブメモリキャッシュサーバ
5 他スレーブメモリキャッシュサーバ
6 ジョブスケジューラ
7 並列処理装置
8a キャッシュサーバ
8c ネットワーク
9a キャッシュサーバ
10 ノード
10a CPU
10b メインメモリ
10c インターコネクト部
11 OS
11a ファイル管理部
11b リモートドライバ
11c 記憶部
11d メモリ仮想ディスク
11e リモートキャッシュ管理表
11f CPUメモリ位置情報
21 OS
21a,81 ファイル管理部
21b リモートドライバ
21c 記憶部
21d リモートメモリ仮想ディスク
21e リモートキャッシュ管理表
21f CPUメモリ位置情報
21g 受信部
21h 制御部
30 記憶部
30a スレーブ管理表
30b CPUメモリ位置情報
30c リモートキャッシュ管理表
31 キャッシュ管理部
32 切替マスターデーモン
33 スレーブ管理部
34 バッキングストア管理部
40 記憶部
40a リモートキャッシュ管理表
40b CPUメモリ位置情報
40c,93 クライアントキャッシュ
40d,82 サーバキャッシュ
41 切替サブデーモン
42 クライアント対応部
43 サーバ対応部
44 バッキングストアアクセス部
45 マスター対応部
46 フレンド対応部
61 資源割当マップ
91 クライアントアプリケーション
92 ファイルキャッシュ
Claims (6)
- 複数のノードを有する並列処理装置において、
第1ノードは、
第1データを記憶する第1記憶装置と、
送信部と、
クライアントキャッシュとして記憶した前記第1データをサーバキャッシュに切り替える切替部と
を有し、
第2ノードは、
前記第1記憶装置より低速な記憶装置であって前記第1データを記憶する第2記憶装置と、
前記第1データを前記第1ノードが前記第1記憶装置に記憶中であることを示すデータ管理情報を記憶する管理情報記憶部と、
第3ノードから前記第1データの送信要求を受信する受信部と、
前記切替部が前記第1データをサーバキャッシュに切り替えた場合に、前記受信部が前記送信要求を受信すると、前記データ管理情報を参照し、前記第1データが前記第1ノードの前記第1記憶装置に記憶されていた場合は、前記第1ノードに前記第1データを前記第3ノードに送信するように指示を行う制御部と
を有することを特徴とする並列処理装置。 - 前記送信部は、MPIの集団通信インタフェースを利用してRDMA転送により前記第1データを前記第2ノードに送信することを特徴とする請求項1に記載の並列処理装置。
- 前記送信部は、MPIのREDUCEインタフェースの排他的論理和の演算を利用して前記第1データの前記第1ノードと前記第2ノードとの間の一致を確認することを特徴とする請求項2に記載の並列処理装置。
- 前記切替部は、前記第1データの前記第1ノードと前記第2ノードとの間の一致が確認されると、前記第1データをサーバキャッシュに切り替えることを特徴とする請求項3に記載の並列処理装置。
- 前記切替部は、前記第1ノードに割り当てられたクライアントキャッシュ用の空き領域の割合が所定の閾値より小さくなった場合に、前記第1データをサーバキャッシュに切り替えることを特徴とする請求項3に記載の並列処理装置。
- 第1ノードは、第1データを第1記憶装置に記憶し、
前記第1ノードは、クライアントキャッシュとして記憶した前記第1データをサーバキャッシュに切り替え、
第2ノードは、前記第1データを前記第1記憶装置より低速な第2記憶装置に記憶し、
前記第2ノードは、前記第1データを前記第1ノードが前記第1記憶装置に記憶中であることを示すデータ管理情報を記録し、
前記第2ノードは、第3ノードから前記第1データの送信要求を受信し、
前記第2ノードは、前記第1ノードが前記第1データをサーバキャッシュに切り替えた場合に、前記データ管理情報を参照し、前記第1データが前記第1ノードの前記第1記憶装置に記憶されていた場合は、前記第1ノードに前記第1データを前記第3ノードに送信するように指示を行う
ことを特徴とするメモリキャッシュ制御方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016121212A JP6696315B2 (ja) | 2016-06-17 | 2016-06-17 | 並列処理装置及びメモリキャッシュ制御方法 |
US15/597,550 US20170366612A1 (en) | 2016-06-17 | 2017-05-17 | Parallel processing device and memory cache control method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016121212A JP6696315B2 (ja) | 2016-06-17 | 2016-06-17 | 並列処理装置及びメモリキャッシュ制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017224253A JP2017224253A (ja) | 2017-12-21 |
JP6696315B2 true JP6696315B2 (ja) | 2020-05-20 |
Family
ID=60660540
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016121212A Expired - Fee Related JP6696315B2 (ja) | 2016-06-17 | 2016-06-17 | 並列処理装置及びメモリキャッシュ制御方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20170366612A1 (ja) |
JP (1) | JP6696315B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108920092B (zh) * | 2018-05-07 | 2021-07-20 | 北京奇艺世纪科技有限公司 | 内存数据的数据操作方法、装置及电子设备 |
KR102126896B1 (ko) * | 2018-10-25 | 2020-06-25 | 상명대학교산학협력단 | 메모리 중심 컴퓨터를 위한 mpi 프로그램 변환 방법 및 장치 |
US10963323B2 (en) | 2018-10-25 | 2021-03-30 | Sangyung University Industry-Academy Cooperation Foundation | Method and apparatus for transformation of MPI programs for memory centric computers |
CN111198662B (zh) * | 2020-01-03 | 2023-07-14 | 腾讯云计算(长沙)有限责任公司 | 一种数据存储方法、装置和计算机可读存储介质 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3831587B2 (ja) * | 2000-07-31 | 2006-10-11 | 日本電信電話株式会社 | キャッシング手段を用いた配信システム |
WO2004027625A1 (ja) * | 2002-09-20 | 2004-04-01 | Fujitsu Limited | ストレージ制御装置、ストレージ制御プログラムおよびストレージ制御方法 |
US20050166086A1 (en) * | 2002-09-20 | 2005-07-28 | Fujitsu Limited | Storage control apparatus, storage control method, and computer product |
US20110078410A1 (en) * | 2005-08-01 | 2011-03-31 | International Business Machines Corporation | Efficient pipelining of rdma for communications |
US8065503B2 (en) * | 2006-12-15 | 2011-11-22 | International Business Machines Corporation | Iteratively processing data segments by concurrently transmitting to, processing by, and receiving from partnered process |
WO2009032711A1 (en) * | 2007-08-29 | 2009-03-12 | Nirvanix, Inc. | Policy-based file management for a storage delivery network |
US8799367B1 (en) * | 2009-10-30 | 2014-08-05 | Netapp, Inc. | Using logical block addresses with generation numbers as data fingerprints for network deduplication |
JP5491932B2 (ja) * | 2010-03-30 | 2014-05-14 | 株式会社インテック | ネットワーク・ストレージ・システム、方法、クライアント装置、キャッシュ装置、管理サーバ、及びプログラム |
US8621446B2 (en) * | 2010-04-29 | 2013-12-31 | International Business Machines Corporation | Compiling software for a hierarchical distributed processing system |
JP5900088B2 (ja) * | 2012-03-27 | 2016-04-06 | 富士通株式会社 | 並列計算機、並列計算機の制御方法及び制御プログラム |
US8869168B2 (en) * | 2012-05-14 | 2014-10-21 | International Business Machines Corporation | Scheduling synchronization in association with collective operations in a parallel computer |
US9772793B2 (en) * | 2013-09-20 | 2017-09-26 | Oracle International Corporation | Data block movement offload to storage systems |
US9311230B2 (en) * | 2013-04-23 | 2016-04-12 | Globalfoundries Inc. | Local direct storage class memory access |
US9851919B2 (en) * | 2014-12-31 | 2017-12-26 | Netapp, Inc. | Method for data placement in a memory based file system |
-
2016
- 2016-06-17 JP JP2016121212A patent/JP6696315B2/ja not_active Expired - Fee Related
-
2017
- 2017-05-17 US US15/597,550 patent/US20170366612A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
JP2017224253A (ja) | 2017-12-21 |
US20170366612A1 (en) | 2017-12-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6696315B2 (ja) | 並列処理装置及びメモリキャッシュ制御方法 | |
US9218299B2 (en) | Recovering data segment contents in a distributed shared memory | |
US20050234867A1 (en) | Method and apparatus for managing file, computer product, and file system | |
EP3580649B1 (en) | Optimizing content storage through stubbing | |
JP2021012476A (ja) | 分散ストレージシステム、分散ストレージシステムの制御方法及び記憶媒体 | |
EP1465072A2 (en) | Computer system with distributed file system for managing distributed files | |
JP2007279898A (ja) | ストレージシステム及び同システムに適用されるアクセス処理方法 | |
KR20000048772A (ko) | 중간 데이타 기억장치 시스템을 사용한 파일 전송 유틸리티 | |
EP2144167B1 (en) | Remote file system, terminal device, and server device | |
KR100423225B1 (ko) | 클러스터링된 컴퓨터 시스템을 위한 통합 프로토콜 | |
WO2006020045A1 (en) | Role-based node specialization within a distributed processing system | |
WO2015118865A1 (ja) | 情報処理装置、情報処理システム及びデータアクセス方法 | |
US11609716B2 (en) | Implementing coherency and page cache support for a storage system spread across multiple data centers | |
CN111124255A (zh) | 数据存储方法、电子设备和计算机程序产品 | |
JP6406027B2 (ja) | 情報処理システム、情報処理装置、メモリアクセス制御方法 | |
JP2004302556A (ja) | 複数の計算機システム間でのデータ共有方法およびディスク制御装置 | |
CN107577733B (zh) | 一种数据复制的加速方法及系统 | |
JP5182162B2 (ja) | 計算機システム及びi/o制御方法 | |
JP2006164218A (ja) | ストレージシステム及びそのキャッシュ制御方法 | |
EP2090976A2 (en) | Method of substituting process in storage system | |
JP7435735B2 (ja) | 分散処理システム、分散処理システムの制御方法、及び、分散処理システムの制御装置 | |
CN113568749B (zh) | 基于Elasticsearch集群的shard分配方法 | |
JP2005352833A (ja) | 共有排他制御方法 | |
JP4343056B2 (ja) | ストレージ装置割当て方法ならびにそのための管理サーバおよびプログラム | |
CN113434290A (zh) | 基于raft协议的数据处理方法和设备,及计算机存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190311 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200121 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200311 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200324 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200406 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6696315 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |