JP2010152846A - ファイル共有方法、計算機システム及びジョブスケジューラ - Google Patents
ファイル共有方法、計算機システム及びジョブスケジューラ Download PDFInfo
- Publication number
- JP2010152846A JP2010152846A JP2008333135A JP2008333135A JP2010152846A JP 2010152846 A JP2010152846 A JP 2010152846A JP 2008333135 A JP2008333135 A JP 2008333135A JP 2008333135 A JP2008333135 A JP 2008333135A JP 2010152846 A JP2010152846 A JP 2010152846A
- Authority
- JP
- Japan
- Prior art keywords
- job
- host
- file
- calculation
- processor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/176—Support for shared access to files; File sharing support
- G06F16/1767—Concurrency control, e.g. optimistic or pessimistic approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/2147—Locking files
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
【解決手段】複数の計算ホストを含み、要求されたジョブを実行する計算機システムで、複数の計算ホストによってジョブが実行される場合には、ジョブを実行する各計算ホストが、ジョブの実行に必要なファイルを共有し、共有されたファイルにアクセスして、要求されたジョブを実行し、要求されたジョブの実行が完了した後、ファイルの共有を解除する。
【選択図】図1
Description
A.Uno、"Software of the Earth Simulator"、Journal of the Earth Simulator、Volume 3、September 2005、52−59 R.Sandberg、"The Sun Network Filesystem: Design, Implementation and Experien"、in Proceedings of the Summer 1986 USENIX Technical Conference and Exhibition
図1は、本発明の第1の実施の形態の計算機システムの構成の一例を示す図である。
本発明の第1の実施の形態の計算機システムでは、ログインホスト110及び計算ホスト120によって構成されていたが、第2の実施の形態の計算機システムでは、ファイルアクセスの性能が計算ホスト120よりも高い計算機であるI/Oホストをさらに含む。第2の実施の形態では、I/Oホストがファイルにアクセスすることによって、ジョブの処理に必要な時間を短縮させる。
110 ログインホスト
111 CPU
112 メモリ
113 記憶デバイス
114 NIC
120 計算ホスト
121 CPU
122 メモリ
123 記憶デバイス
124 NIC
200 ジョブ
210 ジョブスケジューラ
211 ジョブ受付部
212 ジョブスケジュール部
213 ファイルシステム構成要求部
214 ファイルシステム解除要求部
215 ジョブキュー
216 計算ホスト管理テーブル
220 プログラム
230 ファイルシステムプログラム
231 ファイルシステム構成部
232 ファイルシステム解除部
233 マスタサーバ部
234 サブサーバ部
235 クライアント部
236 ファイルシステム構成ファイル
300 実行推定時間
310 使用計算ホスト数
320 共有ディレクトリ名
330 ステージインファイルリスト
340 ステージアウトファイルリスト
400 計算ホスト識別子
410 計算ホスト名
420 IPアドレス
430 実行ジョブ識別子
500 マスタサーバ計算ホスト名
510 サブサーバ計算ホスト名リスト
520 クライアント計算ホスト名リスト
530 共有ディレクトリ名
1600 I/Oホスト
1601 CPU
1602 メモリ
1603 記憶デバイス
1604 NIC
1700 I/Oホスト管理テーブル
1800 I/Oホスト識別子
1810 I/Oホスト名
1820 IPアドレス
1830 割り当てジョブ識別子
1900 マスタサーバI/Oホスト名
1910 サブサーバI/Oホスト名リスト
Claims (16)
- 複数の計算機を含み、要求されたジョブを実行する計算機システムにおけるファイル共有方法であって、
前記複数の計算機には、前記ジョブを実行する複数の計算ホストが含まれ、
前記各計算ホストは、他の前記計算ホストに接続される第1のインタフェースと、前記第1のインタフェースに接続される第1のプロセッサと、前記第1のプロセッサに接続される第1のメモリと、を備え、
前記方法は、
前記ジョブが複数の計算ホストによって実行される場合には、前記ジョブを実行する各計算ホストの第1のプロセッサが、前記ジョブの実行に必要なファイルを共有し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記ファイルにアクセスすることによって、前記要求されたジョブを実行し、
前記要求されたジョブの実行が完了した後、前記要求されたジョブを実行する各計算ホストの第1のプロセッサが、前記ファイルの共有を解除することを特徴とするファイル共有方法。 - 前記複数の計算機には、前記ジョブの実行要求を受け付けるジョブスケジューラがさらに含まれ、
前記ジョブスケジューラは、前記計算ホストに接続される第2のインタフェースと、前記第2のインタフェースに接続される第2のプロセッサと、前記第2のプロセッサに接続される第2のメモリと、を備え、
前記方法は、
前記第2のプロセッサが、前記ジョブの実行要求を受け付け、
前記第2のプロセッサが、前記受け付けられたジョブの実行要求に基づいて、前記ジョブを実行する前記計算ホストを選択し、
前記第2のプロセッサが、前記ジョブの実行に必要なファイルの複製を生成し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記生成されたファイルの複製を共有することを特徴とする請求項1に記載のファイル共有方法。 - 前記各計算ホストは、前記ファイルを格納する記憶装置をさらに備え、
前記方法は、
前記第2のプロセッサが、前記ジョブを実行する計算ホストのうちの一つの計算ホストに前記ファイルの複製を転送し、
前記ファイルの複製が転送された計算ホストの第1のプロセッサが、前記記憶装置に前記ファイルの複製を格納することを特徴とする請求項2に記載のファイル共有方法。 - 前記方法は、
前記第2のプロセッサが、前記ファイルを格納する計算ホストを特定するための情報を保持するマスタサーバを、前記計算ホストから選択し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記ジョブの実行に必要なファイルにアクセスする場合には、前記マスタサーバに問い合わせることによって、前記ファイルが格納された計算ホストを特定し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記特定された計算ホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項3に記載のファイル共有方法。 - 前記方法は、
前記第2のプロセッサが、前記ファイルの複製を転送する前に、前記ジョブを実行する計算ホストの一覧を含むファイル共有システム構成情報を前記マスタサーバに送信し、
前記マスタサーバの第1のプロセッサが、前記ファイル共有システム構成情報に基づいて、前記ジョブの実行に必要なファイルが格納された計算ホストを特定することを特徴とする請求項4に記載のファイル共有方法。 - 前記複数の計算機には、ファイルにアクセスする性能が前記計算ホストより高い複数のI/Oホストがさらに含まれ、
前記各I/Oホストは、前記ジョブスケジューラ及び前記計算ホストと通信可能な第3のインタフェースと、前記第3のインタフェースに接続される第3のプロセッサと、前記第3のプロセッサに接続される第3のメモリと、前記ファイルを格納する記憶装置と、を備え、
前記方法は、
前記第2のプロセッサが、前記受け付けられたジョブの実行要求に基づいて、前記ファイルを格納する少なくとも一つ以上の前記I/Oホストを選択し、
前記第2のプロセッサが、前記選択されたI/Oホストに前記生成されたファイルの複製を転送し、
前記選択されたI/Oホストの第3のプロセッサが、前記複製されたファイルを前記記憶装置に格納し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記選択されたI/Oホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項2に記載のファイル共有方法。 - 前記方法は、
前記第2のプロセッサが、前記ファイルを格納するI/Oホストを特定するための情報を保持するマスタサーバを、前記選択されたI/Oホストから選択し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記ジョブの実行に必要なファイルにアクセスする場合には、前記マスタサーバに問い合わせることによって、前記ファイルが格納されたI/Oホストを特定し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記特定されたI/Oホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項6に記載のファイル共有方法。 - 前記方法は、
前記第2のプロセッサが、前記ファイルの複製を転送する前に、前記ファイルを格納するI/Oホストの一覧を含むファイル共有システム構成情報を前記マスタサーバに送信し、
前記マスタサーバの第3のプロセッサが、前記ファイル共有システム構成情報に基づいて、前記ジョブの実行に必要なファイルが格納されたI/Oホストを特定することを特徴とする請求項7に記載のファイル共有方法。 - 前記方法は、前記第2のプロセッサが、前記複数の計算機に含まれる前記計算ホストの数と前記I/Oホストの数との比率に基づいて、前記選択されるI/Oホストの数を決定することを特徴とする請求項6に記載のファイル共有方法。
- 複数の計算機を含み、要求されたジョブを実行する計算機システムであって、
前記複数の計算機には、前記ジョブを実行する複数の計算ホストが含まれ、
前記各計算ホストは、他の前記計算ホストに接続される第1のインタフェースと、前記第1のインタフェースに接続される第1のプロセッサと、前記第1のプロセッサに接続される第1のメモリと、を備え、
前記ジョブを実行する各計算ホストは、
前記ジョブが複数の計算ホストによって実行される場合には、前記ジョブの実行に必要なファイルを共有し、
前記ファイルにアクセスすることによって、前記要求されたジョブを実行し、
前記要求されたジョブの実行が完了した後、前記ファイルの共有を解除することを特徴とする計算機システム。 - 前記複数の計算機には、前記ジョブの実行要求を受け付けるジョブスケジューラがさらに含まれ、
前記ジョブスケジューラは、前記計算ホストに接続される第2のインタフェースと、前記第2のインタフェースに接続される第2のプロセッサと、前記第2のプロセッサに接続される第2のメモリと、を備え、
前記ジョブスケジューラは、
前記ジョブの実行要求を受け付け、
前記受け付けられたジョブの実行要求に基づいて、前記ジョブを実行する前記計算ホストを選択し、
前記ジョブの実行に必要なファイルの複製を生成し、
前記ジョブを実行する各計算ホストは、前記生成されたファイルの複製を共有することを特徴とする請求項10に記載の計算機システム。 - 前記各計算ホストは、前記ファイルを格納する記憶装置をさらに備え、
前記ジョブスケジューラは、
前記ジョブを実行する計算ホストのうちの一つの計算ホストに前記ファイルの複製を転送し、
前記ファイルの複製が転送された計算ホストは、前記記憶装置に前記ファイルの複製を格納することを特徴とする請求項11に記載の計算機システム。 - 前記ジョブスケジューラは、
前記ファイルを格納する計算ホストを特定するための情報を保持するマスタサーバを、前記計算ホストから選択し、
前記ジョブを実行する各計算ホストは、
前記ジョブの実行に必要なファイルにアクセスする場合には、前記マスタサーバに問い合わせることによって、前記ファイルが格納された計算ホストを特定し、
前記特定された計算ホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項12に記載の計算機システム。 - 前記複数の計算機には、ファイルにアクセスする性能が前記計算ホストより高い複数のI/Oホストがさらに含まれ、
前記各I/Oホストは、前記ジョブスケジューラ及び前記計算ホストと通信可能な第3のインタフェースと、前記第3のインタフェースに接続される第3のプロセッサと、前記第3のプロセッサに接続される第3のメモリと、前記ファイルを格納する記憶装置と、を備え、
前記ジョブスケジューラは、
前記第2のプロセッサが、前記受け付けられたジョブの実行要求に基づいて、前記ファイルを格納する少なくとも一つ以上の前記I/Oホストを選択し、
前記第2のプロセッサが、前記選択されたI/Oホストに前記生成されたファイルの複製を転送し、
前記選択されたI/Oホストは、前記複製されたファイルを前記記憶装置に格納し、
前記ジョブを実行する各計算ホストは、前記選択されたI/Oホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項11に記載の計算機システム。 - 前記ジョブスケジューラは、
前記ファイルを格納するI/Oホストを特定するための情報を保持するマスタサーバを、前記選択されたI/Oホストから選択し、
前記ジョブを実行する各計算ホストは、
前記ジョブの実行に必要なファイルにアクセスする場合には、前記マスタサーバに問い合わせることによって、前記ファイルが格納されたI/Oホストを特定し、
前記特定されたI/Oホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項14に記載の計算機システム。 - 複数の計算機を含み、要求されたジョブを実行する計算機システムにおいて、前記ジョブの実行を受け付けるジョブスケジューラであって、
前記複数の計算機には、前記ジョブを実行する計算ホストが含まれ、
前記計算ホストに接続されるインタフェースと、前記インタフェースに接続されるプロセッサと、前記プロセッサに接続されるメモリと、を備え、
前記プロセッサは、
前記ジョブの実行要求を受け付け、
前記受け付けられたジョブの実行要求に基づいて、前記ジョブを実行する少なくとも1つの前記計算ホストを選択し、
前記ジョブの実行に必要なファイルを複製し、
複数の前記計算ホストが選択された場合には、前記選択された各計算ホストに、前記複製されたファイルを共有するファイル共有システムの構築を指示し、
前記選択された各計算ホストに、前記受け付けられたジョブの実行を指示し、
前記ジョブの実行が完了した後、前記選択された各計算ホストに、前記構築されたファイル共有システムの解除を指示することを特徴とするジョブスケジューラ。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008333135A JP5294014B2 (ja) | 2008-12-26 | 2008-12-26 | ファイル共有方法、計算機システム及びジョブスケジューラ |
US12/388,174 US8442939B2 (en) | 2008-12-26 | 2009-02-18 | File sharing method, computer system, and job scheduler |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008333135A JP5294014B2 (ja) | 2008-12-26 | 2008-12-26 | ファイル共有方法、計算機システム及びジョブスケジューラ |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010152846A true JP2010152846A (ja) | 2010-07-08 |
JP5294014B2 JP5294014B2 (ja) | 2013-09-18 |
Family
ID=42286100
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008333135A Expired - Fee Related JP5294014B2 (ja) | 2008-12-26 | 2008-12-26 | ファイル共有方法、計算機システム及びジョブスケジューラ |
Country Status (2)
Country | Link |
---|---|
US (1) | US8442939B2 (ja) |
JP (1) | JP5294014B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014505910A (ja) * | 2011-05-31 | 2014-03-06 | 株式会社日立製作所 | 計算機及び計算機によるデータ管理方法 |
WO2017217653A1 (ko) * | 2016-06-16 | 2017-12-21 | 재단법인 실감교류인체감응솔루션연구단 | 다중 사용자간 데이터 공유를 위한 데이터 처리 장치, 방법 및 컴퓨터 프로그램 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10305910B2 (en) | 2010-01-15 | 2019-05-28 | Apple Inc. | Accessing specialized fileserver |
WO2016069037A1 (en) * | 2014-11-01 | 2016-05-06 | Hewlett Packard Enterprise Development Lp | File system configuration data storage |
EP3948555A4 (en) * | 2019-03-29 | 2022-11-16 | Micron Technology, Inc. | COMPUTER STORAGE AND NETWORK BASED SYSTEM |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS60209858A (ja) * | 1984-04-04 | 1985-10-22 | Hitachi Ltd | フアイル処理方式 |
JPS63301352A (ja) * | 1987-06-02 | 1988-12-08 | Nec Corp | 通信制御によるフアイル共有デ−タ交換方式 |
JPH0713823A (ja) * | 1993-06-24 | 1995-01-17 | Nec Corp | 仮想計算機システムにおけるファイル資源管理方式 |
JPH0785020A (ja) * | 1993-09-20 | 1995-03-31 | Hitachi Ltd | 文書管理方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5386517A (en) * | 1993-01-26 | 1995-01-31 | Unisys Corporation | Dual bus communication system connecting multiple processors to multiple I/O subsystems having a plurality of I/O devices with varying transfer speeds |
CA2453082A1 (en) * | 2001-07-06 | 2003-01-16 | Computer Associates Think, Inc. | Systems and methods of information backup |
AU2002304842A1 (en) * | 2001-08-20 | 2003-03-10 | Datacentertechnologies N.V. | File backup system and method |
JP4603256B2 (ja) * | 2003-12-01 | 2010-12-22 | 日本電気株式会社 | ユーザ認証システム |
JP4992408B2 (ja) * | 2006-12-19 | 2012-08-08 | 富士通株式会社 | ジョブ割当プログラム、方法及び装置 |
JP4370336B2 (ja) * | 2007-03-09 | 2009-11-25 | 株式会社日立製作所 | 低消費電力ジョブ管理方法及び計算機システム |
EP2269136B1 (en) * | 2008-04-15 | 2016-11-02 | International Business Machines Corporation | Method, system and computer program for workload scheduling |
US8209299B2 (en) * | 2008-04-28 | 2012-06-26 | International Business Machines Corporation | Selectively generating program objects on remote node of a multi-node computer system |
-
2008
- 2008-12-26 JP JP2008333135A patent/JP5294014B2/ja not_active Expired - Fee Related
-
2009
- 2009-02-18 US US12/388,174 patent/US8442939B2/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS60209858A (ja) * | 1984-04-04 | 1985-10-22 | Hitachi Ltd | フアイル処理方式 |
JPS63301352A (ja) * | 1987-06-02 | 1988-12-08 | Nec Corp | 通信制御によるフアイル共有デ−タ交換方式 |
JPH0713823A (ja) * | 1993-06-24 | 1995-01-17 | Nec Corp | 仮想計算機システムにおけるファイル資源管理方式 |
JPH0785020A (ja) * | 1993-09-20 | 1995-03-31 | Hitachi Ltd | 文書管理方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014505910A (ja) * | 2011-05-31 | 2014-03-06 | 株式会社日立製作所 | 計算機及び計算機によるデータ管理方法 |
WO2017217653A1 (ko) * | 2016-06-16 | 2017-12-21 | 재단법인 실감교류인체감응솔루션연구단 | 다중 사용자간 데이터 공유를 위한 데이터 처리 장치, 방법 및 컴퓨터 프로그램 |
Also Published As
Publication number | Publication date |
---|---|
JP5294014B2 (ja) | 2013-09-18 |
US20100169271A1 (en) | 2010-07-01 |
US8442939B2 (en) | 2013-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220075643A1 (en) | Unified resource management for containers and virtual machines | |
EP3347816B1 (en) | Extension of resource constraints for service-defined containers | |
WO2018001004A1 (zh) | 一种基于Docker的云平台控制方法及装置 | |
JP2005056391A (ja) | コンピューティング環境の作業負荷を均衡させる方法およびシステム | |
JP2010500673A (ja) | リモート・コピー・データの整合性を保持するストレージ管理システム、(ストレージ管理システム、ストレージ管理方法、およびコンピュータ・プログラム) | |
JP2005018782A (ja) | 分散ビルド環境におけるソフトウェアイメージ作成 | |
JP2008293149A (ja) | 予知型データ移行を行う階層ストレージシステム | |
JP5862359B2 (ja) | シンクライアントシステム、接続管理サーバ、接続管理方法、及び接続管理プログラム | |
JP2022549527A (ja) | データ処理方法、装置、分散型データフロープログラミングフレームワーク及び関連コンポーネント | |
JP2005276175A (ja) | 拡張性のあるプリントスプーラ | |
Mohamed et al. | KOALA: a co‐allocating grid scheduler | |
JP5294014B2 (ja) | ファイル共有方法、計算機システム及びジョブスケジューラ | |
WO2015083255A1 (ja) | 計算機システム及び仮想マシンの制御方法 | |
JP2017068480A (ja) | ジョブ管理方法、ジョブ管理装置及びプログラム | |
JP2006099307A (ja) | 分散サーバへのアプリケーションセットのインストール方法 | |
JP2008107966A (ja) | 計算機システム | |
US20170366612A1 (en) | Parallel processing device and memory cache control method | |
JP5549189B2 (ja) | 仮想マシン管理装置、仮想マシン管理方法、及び仮想マシン管理プログラム | |
US9336049B2 (en) | Method, system, and program for scheduling jobs in a computing system | |
JP5377231B2 (ja) | ジョブネット制御プログラムおよびジョブネット制御装置 | |
Solt et al. | Scalable, fault-tolerant job step management for high-performance systems | |
JP2007141056A (ja) | 情報処理システムおよびライセンス管理方法 | |
WO2016017219A1 (ja) | データ処理システム及びデータ処理方法及びプログラム | |
Chazapis et al. | Running Kubernetes Workloads on HPC | |
US20180159720A1 (en) | Dynamic agent deployment in a data processing system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111027 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120309 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121002 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121003 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121126 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130514 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130529 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5294014 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |