JP5294014B2 - ファイル共有方法、計算機システム及びジョブスケジューラ - Google Patents
ファイル共有方法、計算機システム及びジョブスケジューラ Download PDFInfo
- Publication number
- JP5294014B2 JP5294014B2 JP2008333135A JP2008333135A JP5294014B2 JP 5294014 B2 JP5294014 B2 JP 5294014B2 JP 2008333135 A JP2008333135 A JP 2008333135A JP 2008333135 A JP2008333135 A JP 2008333135A JP 5294014 B2 JP5294014 B2 JP 5294014B2
- Authority
- JP
- Japan
- Prior art keywords
- job
- host
- file
- calculation
- processor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/176—Support for shared access to files; File sharing support
- G06F16/1767—Concurrency control, e.g. optimistic or pessimistic approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/2147—Locking files
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
A.Uno、"Software of the Earth Simulator"、Journal of the Earth Simulator、Volume 3、September 2005、52−59 R.Sandberg、"The Sun Network Filesystem: Design, Implementation and Experien"、in Proceedings of the Summer 1986 USENIX Technical Conference and Exhibition
複数の計算機を含み、要求されたジョブを実行する計算機システムにおけるファイル共有方法であって、前記複数の計算機の一部は、それぞれ、前記ジョブを実行する計算ホストであり、前記複数の計算機の一つは、前記ジョブの実行要求を受け付けるジョブスケジューラを構成する計算機であり、前記各計算ホストは、他の前記計算ホストに接続される第1のインタフェースと、前記第1のインタフェースに接続される第1のプロセッサと、前記第1のプロセッサに接続される第1のメモリと、を備え、前記ジョブスケジューラを構成する計算機は、前記計算ホストに接続される第2のインタフェースと、前記第2のインタフェースに接続される第2のプロセッサと、前記第2のプロセッサに接続される第2のメモリと、を備え、前記方法は、前記第2のプロセッサが、前記ジョブの実行要求を受け付け、前記第2のプロセッサが、前記受け付けられたジョブの実行要求に基づいて、前記ジョブを実行する前記計算ホストを選択し、前記第2のプロセッサが、前記ジョブの実行に必要なファイルの複製を指示し、前記ジョブが複数の計算ホストによって実行される場合には、前記ジョブを実行する各計算ホストの第1のプロセッサが、前記指示されたファイルの複製を共有し、前記ジョブを実行する各計算ホストの第1のプロセッサが、前記ファイルにアクセスすることによって、前記要求されたジョブを実行し、
前記要求されたジョブの実行が完了した後、前記要求されたジョブを実行する各計算ホストの第1のプロセッサが、前記ファイルの共有を解除することを特徴とするファイル共有方法。
図1は、本発明の第1の実施の形態の計算機システムの構成の一例を示す図である。
本発明の第1の実施の形態の計算機システムでは、ログインホスト110及び計算ホスト120によって構成されていたが、第2の実施の形態の計算機システムでは、ファイルアクセスの性能が計算ホスト120よりも高い計算機であるI/Oホストをさらに含む。第2の実施の形態では、I/Oホストがファイルにアクセスすることによって、ジョブの処理に必要な時間を短縮させる。
110 ログインホスト
111 CPU
112 メモリ
113 記憶デバイス
114 NIC
120 計算ホスト
121 CPU
122 メモリ
123 記憶デバイス
124 NIC
200 ジョブ
210 ジョブスケジューラ
211 ジョブ受付部
212 ジョブスケジュール部
213 ファイルシステム構成要求部
214 ファイルシステム解除要求部
215 ジョブキュー
216 計算ホスト管理テーブル
220 プログラム
230 ファイルシステムプログラム
231 ファイルシステム構成部
232 ファイルシステム解除部
233 マスタサーバ部
234 サブサーバ部
235 クライアント部
236 ファイルシステム構成ファイル
300 実行推定時間
310 使用計算ホスト数
320 共有ディレクトリ名
330 ステージインファイルリスト
340 ステージアウトファイルリスト
400 計算ホスト識別子
410 計算ホスト名
420 IPアドレス
430 実行ジョブ識別子
500 マスタサーバ計算ホスト名
510 サブサーバ計算ホスト名リスト
520 クライアント計算ホスト名リスト
530 共有ディレクトリ名
1600 I/Oホスト
1601 CPU
1602 メモリ
1603 記憶デバイス
1604 NIC
1700 I/Oホスト管理テーブル
1800 I/Oホスト識別子
1810 I/Oホスト名
1820 IPアドレス
1830 割り当てジョブ識別子
1900 マスタサーバI/Oホスト名
1910 サブサーバI/Oホスト名リスト
Claims (13)
- 複数の計算機を含み、要求されたジョブを実行する計算機システムにおけるファイル共有方法であって、
前記複数の計算機の一部は、それぞれ、前記ジョブを実行する計算ホストであり、
前記複数の計算機の一つは、前記ジョブの実行要求を受け付けるジョブスケジューラを構成する計算機であり、
前記各計算ホストは、他の前記計算ホストに接続される第1のインタフェースと、前記第1のインタフェースに接続される第1のプロセッサと、前記第1のプロセッサに接続される第1のメモリと、を備え、
前記ジョブスケジューラを構成する計算機は、前記計算ホストに接続される第2のインタフェースと、前記第2のインタフェースに接続される第2のプロセッサと、前記第2のプロセッサに接続される第2のメモリと、を備え、
前記方法は、
前記第2のプロセッサが、前記ジョブの実行要求を受け付け、
前記第2のプロセッサが、前記受け付けられたジョブの実行要求に基づいて、前記ジョブを実行する前記計算ホストを選択し、
前記第2のプロセッサが、前記ジョブの実行に必要なファイルの複製を指示し、
前記ジョブが複数の計算ホストによって実行される場合には、前記ジョブを実行する各計算ホストの第1のプロセッサが、前記指示されたファイルの複製を共有し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記ファイルにアクセスすることによって、前記要求されたジョブを実行し、
前記要求されたジョブの実行が完了した後、前記要求されたジョブを実行する各計算ホストの第1のプロセッサが、前記ファイルの共有を解除することを特徴とするファイル共有方法。 - 前記各計算ホストは、前記ファイルを格納する記憶装置をさらに備え、
前記方法は、
前記第2のプロセッサが、前記ジョブを実行する計算ホストのうちの一つの計算ホストに前記ファイルの複製を転送し、
前記ファイルの複製が転送された計算ホストの第1のプロセッサが、前記記憶装置に前記ファイルの複製を格納することを特徴とする請求項1に記載のファイル共有方法。 - 前記方法は、
前記第2のプロセッサが、前記ファイルを格納する計算ホストを特定するための情報を保持するマスタサーバを、前記計算ホストから選択し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記ジョブの実行に必要なファイルにアクセスする場合には、前記マスタサーバに問い合わせることによって、前記ファイルが格納された計算ホストを特定し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記特定された計算ホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項2に記載のファイル共有方法。 - 前記方法は、
前記第2のプロセッサが、前記ファイルの複製を転送する前に、前記ジョブを実行する計算ホストの一覧を含むファイル共有システム構成情報を前記マスタサーバに送信し、
前記マスタサーバの第1のプロセッサが、前記ファイル共有システム構成情報に基づいて、前記ジョブの実行に必要なファイルが格納された計算ホストを特定することを特徴とする請求項3に記載のファイル共有方法。 - 前記複数の計算機には、ファイルにアクセスする性能が前記計算ホストより高い複数のI/Oホストがさらに含まれ、
前記各I/Oホストは、前記ジョブスケジューラ及び前記計算ホストと通信可能な第3のインタフェースと、前記第3のインタフェースに接続される第3のプロセッサと、前記第3のプロセッサに接続される第3のメモリと、前記ファイルを格納する記憶装置と、を備え、
前記方法は、
前記第2のプロセッサが、前記受け付けられたジョブの実行要求に基づいて、前記ファイルを格納する少なくとも一つ以上の前記I/Oホストを選択し、
前記第2のプロセッサが、前記選択されたI/Oホストに前記生成されたファイルの複製を転送し、
前記選択されたI/Oホストの第3のプロセッサが、前記複製されたファイルを前記記憶装置に格納し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記選択されたI/Oホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項1に記載のファイル共有方法。 - 前記方法は、
前記第2のプロセッサが、前記ファイルを格納するI/Oホストを特定するための情報を保持するマスタサーバを、前記選択されたI/Oホストから選択し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記ジョブの実行に必要なファイルにアクセスする場合には、前記マスタサーバに問い合わせることによって、前記ファイルが格納されたI/Oホストを特定し、
前記ジョブを実行する各計算ホストの第1のプロセッサが、前記特定されたI/Oホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項5に記載のファイル共有方法。 - 前記方法は、
前記第2のプロセッサが、前記ファイルの複製を転送する前に、前記ファイルを格納するI/Oホストの一覧を含むファイル共有システム構成情報を前記マスタサーバに送信し、
前記マスタサーバの第3のプロセッサが、前記ファイル共有システム構成情報に基づいて、前記ジョブの実行に必要なファイルが格納されたI/Oホストを特定することを特徴とする請求項6に記載のファイル共有方法。 - 前記方法は、前記第2のプロセッサが、前記複数の計算機に含まれる前記計算ホストの数と前記I/Oホストの数との比率に基づいて、前記選択されるI/Oホストの数を決定することを特徴とする請求項5に記載のファイル共有方法。
- 複数の計算機を含み、要求されたジョブを実行する計算機システムであって、
前記複数の計算機の一部は、それぞれ、前記ジョブを実行する複数の計算ホストであり、
前記複数の計算機の一つは、前記ジョブの実行要求を受け付けるジョブスケジューラを構成する計算機であり、
前記各計算ホストは、他の前記計算ホストに接続される第1のインタフェースと、前記第1のインタフェースに接続される第1のプロセッサと、前記第1のプロセッサに接続される第1のメモリと、を備え、
前記ジョブスケジューラを構成する計算機は、前記計算ホストに接続される第2のインタフェースと、前記第2のインタフェースに接続される第2のプロセッサと、前記第2のプロセッサに接続される第2のメモリと、を備え、
前記ジョブスケジューラを構成する計算機は、
前記ジョブの実行要求を受け付け、
前記受け付けられたジョブの実行要求に基づいて、前記ジョブを実行する前記計算ホストを選択し、
前記ジョブの実行に必要なファイルの複製を指示し、
前記ジョブを実行する各計算ホストは、
前記ジョブが複数の計算ホストによって実行される場合には、前記指示されたファイルの複製を共有し、
前記ファイルにアクセスすることによって、前記要求されたジョブを実行し、
前記要求されたジョブの実行が完了した後、前記ファイルの共有を解除することを特徴とする計算機システム。 - 前記各計算ホストは、前記ファイルを格納する記憶装置をさらに備え、
前記ジョブスケジューラを構成する計算機は、
前記ジョブを実行する計算ホストのうちの一つの計算ホストに前記ファイルの複製を転送し、
前記ファイルの複製が転送された計算ホストは、前記記憶装置に前記ファイルの複製を格納することを特徴とする請求項9に記載の計算機システム。 - 前記ジョブスケジューラを構成する計算機は、
前記ファイルを格納する計算ホストを特定するための情報を保持するマスタサーバを、前記計算ホストから選択し、
前記ジョブを実行する各計算ホストは、
前記ジョブの実行に必要なファイルにアクセスする場合には、前記マスタサーバに問い合わせることによって、前記ファイルが格納された計算ホストを特定し、
前記特定された計算ホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項10に記載の計算機システム。 - 前記複数の計算機には、ファイルにアクセスする性能が前記計算ホストより高い複数のI/Oホストがさらに含まれ、
前記各I/Oホストは、前記ジョブスケジューラ及び前記計算ホストと通信可能な第3のインタフェースと、前記第3のインタフェースに接続される第3のプロセッサと、前記第3のプロセッサに接続される第3のメモリと、前記ファイルを格納する記憶装置と、を備え、
前記ジョブスケジューラを構成する計算機は、
前記第2のプロセッサが、前記受け付けられたジョブの実行要求に基づいて、前記ファイルを格納する少なくとも一つ以上の前記I/Oホストを選択し、
前記第2のプロセッサが、前記選択されたI/Oホストに前記生成されたファイルの複製を転送し、
前記選択されたI/Oホストは、前記複製されたファイルを前記記憶装置に格納し、
前記ジョブを実行する各計算ホストは、前記選択されたI/Oホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項9に記載の計算機システム。 - 前記ジョブスケジューラを構成する計算機は、
前記ファイルを格納するI/Oホストを特定するための情報を保持するマスタサーバを、前記選択されたI/Oホストから選択し、
前記ジョブを実行する各計算ホストは、
前記ジョブの実行に必要なファイルにアクセスする場合には、前記マスタサーバに問い合わせることによって、前記ファイルが格納されたI/Oホストを特定し、
前記特定されたI/Oホストから前記ジョブの実行に必要なファイルを取得することを特徴とする請求項12に記載の計算機システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008333135A JP5294014B2 (ja) | 2008-12-26 | 2008-12-26 | ファイル共有方法、計算機システム及びジョブスケジューラ |
US12/388,174 US8442939B2 (en) | 2008-12-26 | 2009-02-18 | File sharing method, computer system, and job scheduler |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008333135A JP5294014B2 (ja) | 2008-12-26 | 2008-12-26 | ファイル共有方法、計算機システム及びジョブスケジューラ |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010152846A JP2010152846A (ja) | 2010-07-08 |
JP5294014B2 true JP5294014B2 (ja) | 2013-09-18 |
Family
ID=42286100
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008333135A Expired - Fee Related JP5294014B2 (ja) | 2008-12-26 | 2008-12-26 | ファイル共有方法、計算機システム及びジョブスケジューラ |
Country Status (2)
Country | Link |
---|---|
US (1) | US8442939B2 (ja) |
JP (1) | JP5294014B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8307134B2 (en) | 2010-01-15 | 2012-11-06 | Apple Inc. | Multiple communication interfaces on a portable storage device |
JP5640151B2 (ja) * | 2011-05-31 | 2014-12-10 | 株式会社日立製作所 | 計算機及び計算機によるデータ管理方法 |
US20170308542A1 (en) * | 2014-11-01 | 2017-10-26 | Hewlett Packard Enterprise Development Lp | File system configuration data storage |
WO2017217653A1 (ko) * | 2016-06-16 | 2017-12-21 | 재단법인 실감교류인체감응솔루션연구단 | 다중 사용자간 데이터 공유를 위한 데이터 처리 장치, 방법 및 컴퓨터 프로그램 |
CN113678113A (zh) * | 2019-03-29 | 2021-11-19 | 美光科技公司 | 计算存储装置与基于网络化的系统 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS60209858A (ja) * | 1984-04-04 | 1985-10-22 | Hitachi Ltd | フアイル処理方式 |
JPS63301352A (ja) * | 1987-06-02 | 1988-12-08 | Nec Corp | 通信制御によるフアイル共有デ−タ交換方式 |
US5386517A (en) * | 1993-01-26 | 1995-01-31 | Unisys Corporation | Dual bus communication system connecting multiple processors to multiple I/O subsystems having a plurality of I/O devices with varying transfer speeds |
JPH0713823A (ja) * | 1993-06-24 | 1995-01-17 | Nec Corp | 仮想計算機システムにおけるファイル資源管理方式 |
JPH0785020A (ja) * | 1993-09-20 | 1995-03-31 | Hitachi Ltd | 文書管理方法 |
WO2003005247A2 (en) * | 2001-07-06 | 2003-01-16 | Computer Associates Think, Inc. | Systems and methods of information backup |
CN1294514C (zh) * | 2001-08-20 | 2007-01-10 | 信息中心科技有限公司 | 高效的计算机文件备份系统和方法 |
JP4603256B2 (ja) * | 2003-12-01 | 2010-12-22 | 日本電気株式会社 | ユーザ認証システム |
JP4992408B2 (ja) * | 2006-12-19 | 2012-08-08 | 富士通株式会社 | ジョブ割当プログラム、方法及び装置 |
JP4370336B2 (ja) * | 2007-03-09 | 2009-11-25 | 株式会社日立製作所 | 低消費電力ジョブ管理方法及び計算機システム |
KR20100133418A (ko) * | 2008-04-15 | 2010-12-21 | 인터내셔널 비지네스 머신즈 코포레이션 | 워크로드 스케줄링을 위한 방법, 시스템 및 컴퓨터 프로그램 |
US8209299B2 (en) * | 2008-04-28 | 2012-06-26 | International Business Machines Corporation | Selectively generating program objects on remote node of a multi-node computer system |
-
2008
- 2008-12-26 JP JP2008333135A patent/JP5294014B2/ja not_active Expired - Fee Related
-
2009
- 2009-02-18 US US12/388,174 patent/US8442939B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US8442939B2 (en) | 2013-05-14 |
JP2010152846A (ja) | 2010-07-08 |
US20100169271A1 (en) | 2010-07-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10275851B1 (en) | Checkpointing for GPU-as-a-service in cloud computing environment | |
JP5191062B2 (ja) | ストレージ制御システム、ストレージ制御システムに関する操作方法、データ・キャリア及びコンピュータ・プログラム | |
JP4375435B2 (ja) | 予知型データ移行を行う階層ストレージシステム | |
JP6963168B2 (ja) | 情報処理装置、メモリ制御方法およびメモリ制御プログラム | |
US20190235900A1 (en) | Automated data migration of services of a virtual machine to containers | |
JP2005056391A (ja) | コンピューティング環境の作業負荷を均衡させる方法およびシステム | |
WO2012163245A1 (zh) | 一种基于事务的服务控制系统及其控制方法 | |
JP5862359B2 (ja) | シンクライアントシステム、接続管理サーバ、接続管理方法、及び接続管理プログラム | |
JP2005018782A (ja) | 分散ビルド環境におけるソフトウェアイメージ作成 | |
WO2015083255A1 (ja) | 計算機システム及び仮想マシンの制御方法 | |
JP5294014B2 (ja) | ファイル共有方法、計算機システム及びジョブスケジューラ | |
Mohamed et al. | KOALA: a co‐allocating grid scheduler | |
US20190356541A1 (en) | Apparatuses and methods for zero touch computing node initialization | |
JP2012103879A (ja) | セッション管理方法、セッション管理システム及びプログラム | |
JP2008107966A (ja) | 計算機システム | |
JP2006099307A (ja) | 分散サーバへのアプリケーションセットのインストール方法 | |
JP2017068480A (ja) | ジョブ管理方法、ジョブ管理装置及びプログラム | |
JP5549189B2 (ja) | 仮想マシン管理装置、仮想マシン管理方法、及び仮想マシン管理プログラム | |
US20150067689A1 (en) | Method, system, and program for scheduling jobs in a computing system | |
JP2018041274A (ja) | 情報処理装置その制御方法、印刷システム及びプログラム | |
Solt et al. | Scalable, fault-tolerant job step management for high-performance systems | |
JP2007141056A (ja) | 情報処理システムおよびライセンス管理方法 | |
WO2011117921A1 (en) | Method for concurrency control in a file versioning system | |
WO2016017219A1 (ja) | データ処理システム及びデータ処理方法及びプログラム | |
JP2007179100A (ja) | ジョブキューシステムおよびジョブ管理方法、制御プログラム、可読記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111027 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120309 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121002 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121003 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121126 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130514 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130529 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5294014 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |