JP2004094755A - データ転送装置およびデータ転送方法 - Google Patents
データ転送装置およびデータ転送方法 Download PDFInfo
- Publication number
- JP2004094755A JP2004094755A JP2002257137A JP2002257137A JP2004094755A JP 2004094755 A JP2004094755 A JP 2004094755A JP 2002257137 A JP2002257137 A JP 2002257137A JP 2002257137 A JP2002257137 A JP 2002257137A JP 2004094755 A JP2004094755 A JP 2004094755A
- Authority
- JP
- Japan
- Prior art keywords
- data
- storage device
- control information
- disk
- disk device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
【課題】本発明は、記憶装置上のデータを他の記憶装置へ転送するデータ転送装置およびデータ転送方法に関し、記憶装置の制御情報および所定の部分のみを読み出して転送して送信先の記憶装置に書き込み、記憶装置上のファイルを意識することなくアクセス時に必要な制御情報および所定の部分のみをコピーし、ヘッドシークなどの多発を抑止して多量データの高速転送を実現することを目的とする。
【解決手段】記憶装置上のデータのアクセス時に必要な制御情報および所定の部分のみを読み出す手段と、読み出した制御情報および所定の部分を転送して相手の記憶装置に書き込ませてコピーさせる手段とを備える。
【選択図】 図1
【解決手段】記憶装置上のデータのアクセス時に必要な制御情報および所定の部分のみを読み出す手段と、読み出した制御情報および所定の部分を転送して相手の記憶装置に書き込ませてコピーさせる手段とを備える。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、記憶装置上のデータを他の記憶装置へ転送するデータ転送装置およびデータ転送方法に関するものである。
【0002】
【従来の技術】
従来、FTP(File Transfer Protocol)やNFS(Network File System)で代表される汎用通信プロトコルを用いて、送信元のディスク装置からファイルのデータを順次読み出し、ネットワークを介して送信先のディスク装置に転送して順次格納していた(例えば特許文献1参照)。
【0003】
【特許文献1】
特開平4−127336号公報(第3頁、第1図)
【0004】
【発明が解決しようとする課題】
しかしながら、送信元で、データを管理するファイルシステムと呼ばれるソフトウェアがハードディスク装置のメタ情報(制御情報)を参照しつつ該当するファイルのデータが格納されている当該ハードディスク装置上の該当位置(ブロック)にヘッドシークを繰り返しつつファイルのデータを順次読み出し、ネットワークを介して送信先に転送し、転送先では、逆に、ディスク装置上のメタ情報を書き込み(参照し)該当位置にデータを順次格納することを繰り返していたため、送信元でのディスク装置からデータの読み出し時および送信先でのディスク装置への書き込み時に、メタ情報を参照(アクセス)しつつファイルのデータを該当位置から読み出す(書き込む)ときにヘッドシークが多発し、多量のデータ(例えば〜数百Mバイト、数Gバイトのデータ)の高速転送ができないという問題があった。
【0005】
本発明は、上述の問題を解決するため、ディスク装置のメタ情報(制御情報)および有意なブロックのみを読み出して転送して送信先のディスク装置に書き込み、ディスク装置上のファイルを意識することなくアクセス時に必要なメタ情報および有意ブロックのみをコピーし、ヘッドシークの多発を抑止して多量データの高速転送を実現することを目的としている。
【0006】
【課題を解決するための手段】
図1を参照して課題を解決するための手段を説明する。
【0007】
図1において、送信元サーバ1は、各種処理を行うものであって、ここでは、ディスク装置2からアクセスに必要なメタ情報(制御情報)および有意なブロックを読み出しネットワーク5を介して送信先サーバ3に転送し、送信先サーバ3のディスク装置4に格納させてコピーしたりなどするものである。
【0008】
ディスク装置2,4は、データを格納するものである。
ネットワーク5は、送信元サーバ1と送信先サーバ3とを接続してデータの送受信を行うためのネットワークである。
【0009】
次に、動作を説明する。
送信元サーバ1がディスク装置2上のデータのアクセス時に必要なメタ情報(制御情報)21および有意なブロックのみを読み出し、読み出したメタ情報21および有意なブロックをネットワーク5を介して送信先サーバ3に転送し、当該送信先サーバ3のディスク装置4に書き込ませてコピーさせるようにしている。
【0010】
この際、ディスク装置2上に、データのアクセス時に必要なメタ情報(制御情報)21および有意なブロックからなる組が複数あるときは、指定された1つまたは複数の組、あるいは全組についてそれぞれ読み出して送信先サーバ3に転送してディスク装置4にコピーさせるようにしている。
【0011】
また、送信先サーバ3では、転送されたアクセス時に必要なメタ情報(制御情報)21および有意なブロックを受信し、受信したメタ情報21およびブロックを自ディスク装置4の、送信元と同一場所にコピーするようにしている。
【0012】
この際、送信先サーバ3は、データのアクセス時に必要なメタ情報21および有意なブロックからなる組あるいは複数組について自ディスク装置4の、送信元と同一場所にコピーするようにしている。
【0013】
また、送信先サーバ3は、受信したアクセス時に必要なメタ情報21および有意なブロックを自ディスク装置4に書き込むときに、送信元サーバ1のディスク装置2の場所と異なる、指定場所にコピーしてパーティションを任意に変更するようにしている。
【0014】
従って、ディスク装置2のメタ情報(制御情報)21および有意なブロックのみを読み出して転送して送信先のディスク装置4に書き込み、ディスク装置2、4上のファイルを意識することなくアクセス時に必要なメタ情報21および有意ブロックのみをコピーすることにより、ディスク装置2,4へのアクセス時のヘッドシークの多発を抑止して多量データの高速転送を実現することが可能となる。
【0015】
【発明の実施の形態】
次に、図1から図5を用いて本発明の実施の形態および動作を順次詳細に説明する。
【0016】
図1は、本発明のシステム構成図を示す。
図1において、送信元サーバ1は、各種処理を行うものであって、ここでは、ディスク装置2からアクセスに必要な制御情報(メタ情報)21および有意なブロックを読み出したり、ネットワーク5を介して送信先サーバ3に転送して送信先サーバ3のディスク装置4に格納させてコピーしたりなどするものであって、CPU11、メモリ12、NIC13などから構成されるものである。
【0017】
CPU11は、プログラムに従い各種処理を実行するものであって、ここでは、ディスク装置2からアクセスに必要なメタ情報(制御情報)21および有意なブロックを読み出したりなどするものである。
【0018】
メモリ12は、プログラムを格納したり、データを一時的に格納したりなどするものである。
【0019】
NIC13は、Network I/Fカードであって、ネットワーク5を介して送信先サーバ3のNIC33と通信して所定のプロトコル(例えばiSCSIプロトコルなど)を用いてデータの高速送受信を行うものである。
【0020】
ディスク装置2は、円盤状のディスクを回転させてデータを書き込んだり、読み出したりなどするものであって、ここでは、制御情報(メタ情報)21および記憶領域22を設けたものである。
【0021】
制御情報(メタ情報)21は、ディスク上の記憶領域22にデータをブロック単位に書き込んだり、読み出したりするために必要な情報を記憶するものである(図2、図3を用いて後述する)。
【0022】
記憶領域22は、データをブロック単位に書き込んだり、読み出したりする記憶領域である。
【0023】
送信先サーバ3は、ここでは、送信元サーバ1からネットワーク5を介して転送されてきた制御情報21および有意なブロックを受信し、ディスク装置4に格納したりなどするものであって、CPU31,メモリ32、NIC33などから構成されるものである。
【0024】
CPU31は、プログラムに従い各種処理を実行するものであって、ここでは、受信したアクセスに必要な制御情報(メタ情報)21および有意なブロックをディスク装置4の制御情報41および記憶領域42に書き込んだりなどするものである。
【0025】
メモリ32は、プログラムを格納したり、データを一時的に格納したりなどするものである。
【0026】
NIC33は、Network I/Fカードであって、ネットワーク5を介して送信元サーバ1のNIC13と通信して所定のプロトコル(例えばiSCSIプロトコルなど)を用いてデータの高速送受信を行うものである。
【0027】
ディスク装置4は、円盤状のディスクを回転させてデータを書き込んだり、読み出したりなどするものであって、ここでは、制御情報(メタ情報)41および記憶領域42を設けたものである。
【0028】
制御情報(メタ情報)41は、ディスク上の記憶領域42にデータをブロック単位に書き込んだり、読み出したりするために必要な情報を記憶するものである(図2、図3を用いて後述する)。
【0029】
記憶領域42は、データをブロック単位に書き込んだり、読み出したりする記憶領域である。
【0030】
ネットワーク5は、送信元サーバ1と送信先サーバ3とを接続して高速にデータの送受信を行うものである。
【0031】
次に、図1の構成の動作を詳細に説明する。
(1) オペレータがデータ送信指示を行う。これは、オペレータが例えば図1の送信元サーバ1のディスク装置2上の全データを、ネットワーク5を介して送信先サーバ3のディスク装置4へ転送してコピーする旨の指示を行う。
【0032】
(2) 送信元サーバ1は、送信指示されたディスク装置2の制御情報21を読み込む。
【0033】
(3) (2)で読み込んだ制御情報21を解析し、当該ディスク装置2に記録されているユーザデータ部(記憶領域)22の有意なブロックを特定する(図3の(a)参照)。
【0034】
(4) 送信元サーバ1は、制御情報21およびユーザデータ部(記憶領域)22から有意なブロックを読み出し、ネットワークを介して送信先サーバ3に転送し、同位置に書き込むように要求する。
【0035】
(5) 送信先サーバ3は、制御情報21および有意なブロックの全てを、ディスク装置4に書き込むことを繰り返し、全てが完了するまで繰り返す。全て完了したときに、一連のデータ転送(データ交換)を終了する。
【0036】
以上のように、送信元サーバ1のディスク装置2のアクセスに必要な制御情報21および有意なブロックのみを読み出してネットワーク5を介して送信先サーバ3に送信し、送信先サーバ3はディスク装置4の同位置に制御情報および有意なブロックのみを書き込むことにより、ディスク装置2,4のファイルを意識することなく、当該ディスク装置2,4へのアクセス時のヘッドシークの多発を抑止して多量データの高速転送を実現することが可能となる。
【0037】
次に、図2から図5を用いて、図1の構成の具体例を詳細に説明する。
図2は、本発明のディスク装置の説明図を示す。ここで、OS(オペレーティングシステム)としてLinuxのファイルシステム(EXT2)を例に以下説明する。
【0038】
図2において、ブロックグループ23は、ブロックをアクセスするために必要な情報を記録するメタ情報21およびユーザデータ部22(図1の記憶領域22に対応)から構成されるものである。ブロックグループ23のサイズは、ファイルシステムのブロックサイズによって変わる。ディスクフォーマットを行う場合、4種類のブロックサイズを選択でき、そのときのブロックグループ23のサイズは下記のようになります。図示の下記のいずれか1つをフォーマット時に選択すると、選択されたブロックサイズ、ブロックグループのサイズで指定された(選択された)全体のディスク容量を当該ブロックサイズ、ブロックグループのサイズでフォーマットされます。
【0039】
ブロックサイズ ブロックグループのサイズ
512バイト 16MB
1024バイト 32MB
2048バイト 64MB
4096バイト 128MB
メタ情報21は、ユーザデータ部22中のブロックをアクセスするための情報を記録するものであって、ここでは、図示の下記の情報を記録するものである。
【0040】
・Super Block:ファイルシステムの管理情報(例えば、ファイルシステム(ext2)によるフォーマット形式である、Block Group数やBlockサイズなど)
・Block Group Descriptor:ブロックグループの管理情報(例えば、ブロックグループの番号、開始アドレスのオフセット、空きブロック数など)
・Data Block Bit Map:ブロックグループ内のデータブロックの使用情報(例えば、使用領域がビットマップでON(”1”)とする使用情報(図3参照))
・Inode Bit Map:inodeの使用情報(inode tableの空き(使用)情報
・Inode Table:ファイルとディレクトリの情報(ファイル名、ディレクトリ名、ファイルのデータブロックアドレスなど)
ユーザデータ部22は、ブロック毎に区切ってデータを記録する部分である。
【0041】
全体のディスク容量は、ブロックグループ23を複数設けて当該設けた数に対応する容量である。例えば全体のディスク容量が10GBの場合に、ブロックサイズ4096(ブロックグループのサイズ128MB)が選択されると、10GB÷128MB=78個のブロックグループ23がフォーマットされます。
【0042】
図3は、本発明の説明図を示す。
図3の(a)は、ディスク装置(コピー元)のブロックの有意(データが書き込まれている)あるいは有意でない(データが書き込まれていない)の状態を示す。ここで、斜線のブロックが有意のデータが書き込まれている部分(ブロック)である。
【0043】
図3の(b)は、ディスク装置(コピー先)のブロックの状態(有意、有意でない)を示す。ここでは、図3の(a)のディスク装置(コピー元)のブロックグループ毎に有意なブロックのみを転送してコピーしたものである。これにより、ファイルを意識することなく、ディスク装置(コピー元)内のブロックグループの有意なブロックのみを読み出し、ディスク装置(コピー先)の同一位置のブロックに書き込むことで、高速データ転送できる。
【0044】
図4は、本発明のRAID(ストライプ)の説明図を示す。
図4において、ファイル6は、データを格納したファイルであって、ここでは、チャンクサイズでブロックに分割した様子を示す。
【0045】
チャンクサイズは、PC(パソコン)上で動作するソフトウェアによるRAIDシステム(ストライプ)がデータを分割し、ここでは、2つのディスク装置(DISK#0とDISK#1)に交互に図示のように格納するブロックのサイズである。
【0046】
PC7は、パソコン上で動作するソフトウェアによるRAIDシステムである。
【0047】
ディスク装置(仮想)8は、PC7上で動作するソフトウェアRAIDがファイルをチャンクサイズに分割して格納する仮想的なディスク装置である。
【0048】
DISK#0,DISK#1は、実際のディスク装置であって、ここでは、PC7上で動作するソフトウェアによるRAIDシステムが、ファイル6をチャンクサイズで分割し、交互にDISK#0とDISK#1に格納している。
【0049】
以上のようにDISK#0とDISK#1に格納されているブロック(サイズはチャンクサイズ)を読み出し、送信先の同様なDISK#0とDISK#1の同一位置に書き込みコピーすることにより、送信先のPC7上で動作するソフトウェアによりRAIDシステムはコピーされたDISK#0とDISK#1をアクセスしてファイル6の任意部分のデータを読み出すことが可能となる。
【0050】
図5は、本発明の説明図(パーティション変更)を示す。
図5において、送信元のディスク装置2は、制御情報21と、2つのパーティションA,パーティションBとから構成されている。パーティションA中の有意なブロックのみを読み出し、送信先のディスク装置4のパーティションBの領域にコピーする例を示す。例えば送信元のCドライブ(パーティションA)から送信先のDドライブ(パーティションB)にデータをコピーすることが可能となる。この場合には、送信元サーバ1から送信先サーバ3に、書き込み指示を行う際に、パーティションBのオフセット(例えば+1000)を加算したアドレス(ブロックアドレス)から書き込むように指示してコピーさせる。
【0051】
以上により、送信元サーバ1はディスク装置2の制御情報21とパーティションAから読み出した有意なブロックのみを転送および書き込むパーティションのオフセットを指示することにより、送信先サーバ1のディスク装置4の指示されたオフセットの位置例えばパーティションBにコピーすることが可能となる。
【0052】
尚、パーティションは、図示外のOSのファイルシステムが管理し、ディスク装置の全サイズを例えば8GB,8GBというように分割してそれぞれにパーティションA(ドライブC),パーティションB(ドライブD)を割り当てて管理している。本実施例では、送信元のディスク装置の当該パーティションAとして割り当てられた領域(1つあるいは複数のブロックグループから構成される図2の全体のディスク容量の領域)内の有意なブロックについて、送信先のディスク装置の異なる場所(パーティションBの場所)にコピーする。
【0053】
また、パーティションが複数あるときは、1つあるいは指定した複数あるいは全部の当該各パーティションに含まれるメタ情報および有意なブロックの組をそれぞれ読み出し、送信先のディスク装置の同一場所あるいは指定した任意のパーティションの場所にコピーしてデータ転送することが可能となる。コピーは、コピー先の容量がコピー元と同一あるいは大きいければよい(大きい場合は、コピーされた領域のみが使用され、残りの部分は使用されないこととなる)。
【0054】
(付記1)
記憶装置上のデータを他の記憶装置へ転送するデータ転送装置において、
記憶装置上のデータのアクセス時に必要な制御情報および所定の部分のみを読み出す手段と、
前記読み出した制御情報および所定の部分を転送して相手の記憶装置に書き込ませてコピーさせる手段と
を備えたことを特徴とするデータ転送装置。
【0055】
(付記2)
記憶装置上に、前記データのアクセス時に必要な制御情報および所定の部分からなる組が複数あるときは、指定された1つまたは複数の組、あるいは全組についてそれぞれ前記読み出して転送して前記コピーさせることを特徴とする付記1記載のデータ転送装置。
【0056】
(付記3)
他の記憶装置から読み出されて転送されたデータを自記憶装置上に書き込むデータ転送装置において
転送されたアクセス時に必要な制御情報および所定の部分を受信する手段と、前記受信した制御情報および所定の部分を自記憶装置の、送信元と同一場所にコピーする手段と
を備えたことを特徴とするデータ転送装置。
【0057】
(付記4)
前記データのアクセス時に必要な制御情報および所定の部分からなる組あるいは複数組について自記憶装置の、送信元と同一場所にコピーすることを特徴とする付記3記載のデータ転送装置。
【0058】
(付記5)
前記受信したアクセス時に必要な制御情報および所定の部分を自記憶装置に書き込むときに、送信元の記憶装置の場所と異なる、指定場所にコピーしてパーティションを任意に変更することを特徴とする付記3記載のデータ転送装置。
【0059】
(付記6)
記憶装置上のデータを他の記憶装置へ転送するデータ転送方法において、
記憶装置上のデータのアクセス時に必要な制御情報および所定の部分のみを読み出すステップと、
前記読み出した制御情報および所定の部分を転送して相手の記憶装置の、送信元と同一場所に書き込ませてコピーさせるステップと
を有するデータ転送方法。
【0060】
(付記7)
記憶装置から読み出されて転送されたデータを自記憶装置上に書き込むデータ転送方法において
前記転送されたアクセス時に必要な制御情報および所定の部分を受信するステップと、
前記受信した所定の部分を自記憶装置の、送信元と同一場所にコピーするステップと
を有するデータ転送方法。
【0061】
【発明の効果】
以上説明したように、本発明によれば、ディスク装置2の制御情報(メタ情報)21および有意なブロックのみを読み出して転送して送信先のディスク装置4に書き込み、ディスク装置2、4上のファイルを意識することなくアクセス時に必要な制御情報21および有意ブロックのみをコピーする構成を採用しているため、ディスク装置2,4へのアクセス時のヘッドシークの多発を抑止して多量データの高速転送を実現することが可能となる。
【図面の簡単な説明】
【図1】本発明のシステム構成図である。
【図2】本発明のディスク装置の説明図である。
【図3】本発明の説明図である。
【図4】本発明のRAID(ストライプ)である。
【図5】本発明の説明図(パーティション変更)である。
【符号の説明】
1:送信元サーバ
11、31:CPU
12、32:メモリ
13、33:NIC
2,4:ディスク装置
21,41:制御情報(メタ情報)
22,42:記憶領域
3:送信先サーバ
5:ネットワーク
6:ファイル
7:PC(パソコン)
8:ディスク装置(仮想)
【発明の属する技術分野】
本発明は、記憶装置上のデータを他の記憶装置へ転送するデータ転送装置およびデータ転送方法に関するものである。
【0002】
【従来の技術】
従来、FTP(File Transfer Protocol)やNFS(Network File System)で代表される汎用通信プロトコルを用いて、送信元のディスク装置からファイルのデータを順次読み出し、ネットワークを介して送信先のディスク装置に転送して順次格納していた(例えば特許文献1参照)。
【0003】
【特許文献1】
特開平4−127336号公報(第3頁、第1図)
【0004】
【発明が解決しようとする課題】
しかしながら、送信元で、データを管理するファイルシステムと呼ばれるソフトウェアがハードディスク装置のメタ情報(制御情報)を参照しつつ該当するファイルのデータが格納されている当該ハードディスク装置上の該当位置(ブロック)にヘッドシークを繰り返しつつファイルのデータを順次読み出し、ネットワークを介して送信先に転送し、転送先では、逆に、ディスク装置上のメタ情報を書き込み(参照し)該当位置にデータを順次格納することを繰り返していたため、送信元でのディスク装置からデータの読み出し時および送信先でのディスク装置への書き込み時に、メタ情報を参照(アクセス)しつつファイルのデータを該当位置から読み出す(書き込む)ときにヘッドシークが多発し、多量のデータ(例えば〜数百Mバイト、数Gバイトのデータ)の高速転送ができないという問題があった。
【0005】
本発明は、上述の問題を解決するため、ディスク装置のメタ情報(制御情報)および有意なブロックのみを読み出して転送して送信先のディスク装置に書き込み、ディスク装置上のファイルを意識することなくアクセス時に必要なメタ情報および有意ブロックのみをコピーし、ヘッドシークの多発を抑止して多量データの高速転送を実現することを目的としている。
【0006】
【課題を解決するための手段】
図1を参照して課題を解決するための手段を説明する。
【0007】
図1において、送信元サーバ1は、各種処理を行うものであって、ここでは、ディスク装置2からアクセスに必要なメタ情報(制御情報)および有意なブロックを読み出しネットワーク5を介して送信先サーバ3に転送し、送信先サーバ3のディスク装置4に格納させてコピーしたりなどするものである。
【0008】
ディスク装置2,4は、データを格納するものである。
ネットワーク5は、送信元サーバ1と送信先サーバ3とを接続してデータの送受信を行うためのネットワークである。
【0009】
次に、動作を説明する。
送信元サーバ1がディスク装置2上のデータのアクセス時に必要なメタ情報(制御情報)21および有意なブロックのみを読み出し、読み出したメタ情報21および有意なブロックをネットワーク5を介して送信先サーバ3に転送し、当該送信先サーバ3のディスク装置4に書き込ませてコピーさせるようにしている。
【0010】
この際、ディスク装置2上に、データのアクセス時に必要なメタ情報(制御情報)21および有意なブロックからなる組が複数あるときは、指定された1つまたは複数の組、あるいは全組についてそれぞれ読み出して送信先サーバ3に転送してディスク装置4にコピーさせるようにしている。
【0011】
また、送信先サーバ3では、転送されたアクセス時に必要なメタ情報(制御情報)21および有意なブロックを受信し、受信したメタ情報21およびブロックを自ディスク装置4の、送信元と同一場所にコピーするようにしている。
【0012】
この際、送信先サーバ3は、データのアクセス時に必要なメタ情報21および有意なブロックからなる組あるいは複数組について自ディスク装置4の、送信元と同一場所にコピーするようにしている。
【0013】
また、送信先サーバ3は、受信したアクセス時に必要なメタ情報21および有意なブロックを自ディスク装置4に書き込むときに、送信元サーバ1のディスク装置2の場所と異なる、指定場所にコピーしてパーティションを任意に変更するようにしている。
【0014】
従って、ディスク装置2のメタ情報(制御情報)21および有意なブロックのみを読み出して転送して送信先のディスク装置4に書き込み、ディスク装置2、4上のファイルを意識することなくアクセス時に必要なメタ情報21および有意ブロックのみをコピーすることにより、ディスク装置2,4へのアクセス時のヘッドシークの多発を抑止して多量データの高速転送を実現することが可能となる。
【0015】
【発明の実施の形態】
次に、図1から図5を用いて本発明の実施の形態および動作を順次詳細に説明する。
【0016】
図1は、本発明のシステム構成図を示す。
図1において、送信元サーバ1は、各種処理を行うものであって、ここでは、ディスク装置2からアクセスに必要な制御情報(メタ情報)21および有意なブロックを読み出したり、ネットワーク5を介して送信先サーバ3に転送して送信先サーバ3のディスク装置4に格納させてコピーしたりなどするものであって、CPU11、メモリ12、NIC13などから構成されるものである。
【0017】
CPU11は、プログラムに従い各種処理を実行するものであって、ここでは、ディスク装置2からアクセスに必要なメタ情報(制御情報)21および有意なブロックを読み出したりなどするものである。
【0018】
メモリ12は、プログラムを格納したり、データを一時的に格納したりなどするものである。
【0019】
NIC13は、Network I/Fカードであって、ネットワーク5を介して送信先サーバ3のNIC33と通信して所定のプロトコル(例えばiSCSIプロトコルなど)を用いてデータの高速送受信を行うものである。
【0020】
ディスク装置2は、円盤状のディスクを回転させてデータを書き込んだり、読み出したりなどするものであって、ここでは、制御情報(メタ情報)21および記憶領域22を設けたものである。
【0021】
制御情報(メタ情報)21は、ディスク上の記憶領域22にデータをブロック単位に書き込んだり、読み出したりするために必要な情報を記憶するものである(図2、図3を用いて後述する)。
【0022】
記憶領域22は、データをブロック単位に書き込んだり、読み出したりする記憶領域である。
【0023】
送信先サーバ3は、ここでは、送信元サーバ1からネットワーク5を介して転送されてきた制御情報21および有意なブロックを受信し、ディスク装置4に格納したりなどするものであって、CPU31,メモリ32、NIC33などから構成されるものである。
【0024】
CPU31は、プログラムに従い各種処理を実行するものであって、ここでは、受信したアクセスに必要な制御情報(メタ情報)21および有意なブロックをディスク装置4の制御情報41および記憶領域42に書き込んだりなどするものである。
【0025】
メモリ32は、プログラムを格納したり、データを一時的に格納したりなどするものである。
【0026】
NIC33は、Network I/Fカードであって、ネットワーク5を介して送信元サーバ1のNIC13と通信して所定のプロトコル(例えばiSCSIプロトコルなど)を用いてデータの高速送受信を行うものである。
【0027】
ディスク装置4は、円盤状のディスクを回転させてデータを書き込んだり、読み出したりなどするものであって、ここでは、制御情報(メタ情報)41および記憶領域42を設けたものである。
【0028】
制御情報(メタ情報)41は、ディスク上の記憶領域42にデータをブロック単位に書き込んだり、読み出したりするために必要な情報を記憶するものである(図2、図3を用いて後述する)。
【0029】
記憶領域42は、データをブロック単位に書き込んだり、読み出したりする記憶領域である。
【0030】
ネットワーク5は、送信元サーバ1と送信先サーバ3とを接続して高速にデータの送受信を行うものである。
【0031】
次に、図1の構成の動作を詳細に説明する。
(1) オペレータがデータ送信指示を行う。これは、オペレータが例えば図1の送信元サーバ1のディスク装置2上の全データを、ネットワーク5を介して送信先サーバ3のディスク装置4へ転送してコピーする旨の指示を行う。
【0032】
(2) 送信元サーバ1は、送信指示されたディスク装置2の制御情報21を読み込む。
【0033】
(3) (2)で読み込んだ制御情報21を解析し、当該ディスク装置2に記録されているユーザデータ部(記憶領域)22の有意なブロックを特定する(図3の(a)参照)。
【0034】
(4) 送信元サーバ1は、制御情報21およびユーザデータ部(記憶領域)22から有意なブロックを読み出し、ネットワークを介して送信先サーバ3に転送し、同位置に書き込むように要求する。
【0035】
(5) 送信先サーバ3は、制御情報21および有意なブロックの全てを、ディスク装置4に書き込むことを繰り返し、全てが完了するまで繰り返す。全て完了したときに、一連のデータ転送(データ交換)を終了する。
【0036】
以上のように、送信元サーバ1のディスク装置2のアクセスに必要な制御情報21および有意なブロックのみを読み出してネットワーク5を介して送信先サーバ3に送信し、送信先サーバ3はディスク装置4の同位置に制御情報および有意なブロックのみを書き込むことにより、ディスク装置2,4のファイルを意識することなく、当該ディスク装置2,4へのアクセス時のヘッドシークの多発を抑止して多量データの高速転送を実現することが可能となる。
【0037】
次に、図2から図5を用いて、図1の構成の具体例を詳細に説明する。
図2は、本発明のディスク装置の説明図を示す。ここで、OS(オペレーティングシステム)としてLinuxのファイルシステム(EXT2)を例に以下説明する。
【0038】
図2において、ブロックグループ23は、ブロックをアクセスするために必要な情報を記録するメタ情報21およびユーザデータ部22(図1の記憶領域22に対応)から構成されるものである。ブロックグループ23のサイズは、ファイルシステムのブロックサイズによって変わる。ディスクフォーマットを行う場合、4種類のブロックサイズを選択でき、そのときのブロックグループ23のサイズは下記のようになります。図示の下記のいずれか1つをフォーマット時に選択すると、選択されたブロックサイズ、ブロックグループのサイズで指定された(選択された)全体のディスク容量を当該ブロックサイズ、ブロックグループのサイズでフォーマットされます。
【0039】
ブロックサイズ ブロックグループのサイズ
512バイト 16MB
1024バイト 32MB
2048バイト 64MB
4096バイト 128MB
メタ情報21は、ユーザデータ部22中のブロックをアクセスするための情報を記録するものであって、ここでは、図示の下記の情報を記録するものである。
【0040】
・Super Block:ファイルシステムの管理情報(例えば、ファイルシステム(ext2)によるフォーマット形式である、Block Group数やBlockサイズなど)
・Block Group Descriptor:ブロックグループの管理情報(例えば、ブロックグループの番号、開始アドレスのオフセット、空きブロック数など)
・Data Block Bit Map:ブロックグループ内のデータブロックの使用情報(例えば、使用領域がビットマップでON(”1”)とする使用情報(図3参照))
・Inode Bit Map:inodeの使用情報(inode tableの空き(使用)情報
・Inode Table:ファイルとディレクトリの情報(ファイル名、ディレクトリ名、ファイルのデータブロックアドレスなど)
ユーザデータ部22は、ブロック毎に区切ってデータを記録する部分である。
【0041】
全体のディスク容量は、ブロックグループ23を複数設けて当該設けた数に対応する容量である。例えば全体のディスク容量が10GBの場合に、ブロックサイズ4096(ブロックグループのサイズ128MB)が選択されると、10GB÷128MB=78個のブロックグループ23がフォーマットされます。
【0042】
図3は、本発明の説明図を示す。
図3の(a)は、ディスク装置(コピー元)のブロックの有意(データが書き込まれている)あるいは有意でない(データが書き込まれていない)の状態を示す。ここで、斜線のブロックが有意のデータが書き込まれている部分(ブロック)である。
【0043】
図3の(b)は、ディスク装置(コピー先)のブロックの状態(有意、有意でない)を示す。ここでは、図3の(a)のディスク装置(コピー元)のブロックグループ毎に有意なブロックのみを転送してコピーしたものである。これにより、ファイルを意識することなく、ディスク装置(コピー元)内のブロックグループの有意なブロックのみを読み出し、ディスク装置(コピー先)の同一位置のブロックに書き込むことで、高速データ転送できる。
【0044】
図4は、本発明のRAID(ストライプ)の説明図を示す。
図4において、ファイル6は、データを格納したファイルであって、ここでは、チャンクサイズでブロックに分割した様子を示す。
【0045】
チャンクサイズは、PC(パソコン)上で動作するソフトウェアによるRAIDシステム(ストライプ)がデータを分割し、ここでは、2つのディスク装置(DISK#0とDISK#1)に交互に図示のように格納するブロックのサイズである。
【0046】
PC7は、パソコン上で動作するソフトウェアによるRAIDシステムである。
【0047】
ディスク装置(仮想)8は、PC7上で動作するソフトウェアRAIDがファイルをチャンクサイズに分割して格納する仮想的なディスク装置である。
【0048】
DISK#0,DISK#1は、実際のディスク装置であって、ここでは、PC7上で動作するソフトウェアによるRAIDシステムが、ファイル6をチャンクサイズで分割し、交互にDISK#0とDISK#1に格納している。
【0049】
以上のようにDISK#0とDISK#1に格納されているブロック(サイズはチャンクサイズ)を読み出し、送信先の同様なDISK#0とDISK#1の同一位置に書き込みコピーすることにより、送信先のPC7上で動作するソフトウェアによりRAIDシステムはコピーされたDISK#0とDISK#1をアクセスしてファイル6の任意部分のデータを読み出すことが可能となる。
【0050】
図5は、本発明の説明図(パーティション変更)を示す。
図5において、送信元のディスク装置2は、制御情報21と、2つのパーティションA,パーティションBとから構成されている。パーティションA中の有意なブロックのみを読み出し、送信先のディスク装置4のパーティションBの領域にコピーする例を示す。例えば送信元のCドライブ(パーティションA)から送信先のDドライブ(パーティションB)にデータをコピーすることが可能となる。この場合には、送信元サーバ1から送信先サーバ3に、書き込み指示を行う際に、パーティションBのオフセット(例えば+1000)を加算したアドレス(ブロックアドレス)から書き込むように指示してコピーさせる。
【0051】
以上により、送信元サーバ1はディスク装置2の制御情報21とパーティションAから読み出した有意なブロックのみを転送および書き込むパーティションのオフセットを指示することにより、送信先サーバ1のディスク装置4の指示されたオフセットの位置例えばパーティションBにコピーすることが可能となる。
【0052】
尚、パーティションは、図示外のOSのファイルシステムが管理し、ディスク装置の全サイズを例えば8GB,8GBというように分割してそれぞれにパーティションA(ドライブC),パーティションB(ドライブD)を割り当てて管理している。本実施例では、送信元のディスク装置の当該パーティションAとして割り当てられた領域(1つあるいは複数のブロックグループから構成される図2の全体のディスク容量の領域)内の有意なブロックについて、送信先のディスク装置の異なる場所(パーティションBの場所)にコピーする。
【0053】
また、パーティションが複数あるときは、1つあるいは指定した複数あるいは全部の当該各パーティションに含まれるメタ情報および有意なブロックの組をそれぞれ読み出し、送信先のディスク装置の同一場所あるいは指定した任意のパーティションの場所にコピーしてデータ転送することが可能となる。コピーは、コピー先の容量がコピー元と同一あるいは大きいければよい(大きい場合は、コピーされた領域のみが使用され、残りの部分は使用されないこととなる)。
【0054】
(付記1)
記憶装置上のデータを他の記憶装置へ転送するデータ転送装置において、
記憶装置上のデータのアクセス時に必要な制御情報および所定の部分のみを読み出す手段と、
前記読み出した制御情報および所定の部分を転送して相手の記憶装置に書き込ませてコピーさせる手段と
を備えたことを特徴とするデータ転送装置。
【0055】
(付記2)
記憶装置上に、前記データのアクセス時に必要な制御情報および所定の部分からなる組が複数あるときは、指定された1つまたは複数の組、あるいは全組についてそれぞれ前記読み出して転送して前記コピーさせることを特徴とする付記1記載のデータ転送装置。
【0056】
(付記3)
他の記憶装置から読み出されて転送されたデータを自記憶装置上に書き込むデータ転送装置において
転送されたアクセス時に必要な制御情報および所定の部分を受信する手段と、前記受信した制御情報および所定の部分を自記憶装置の、送信元と同一場所にコピーする手段と
を備えたことを特徴とするデータ転送装置。
【0057】
(付記4)
前記データのアクセス時に必要な制御情報および所定の部分からなる組あるいは複数組について自記憶装置の、送信元と同一場所にコピーすることを特徴とする付記3記載のデータ転送装置。
【0058】
(付記5)
前記受信したアクセス時に必要な制御情報および所定の部分を自記憶装置に書き込むときに、送信元の記憶装置の場所と異なる、指定場所にコピーしてパーティションを任意に変更することを特徴とする付記3記載のデータ転送装置。
【0059】
(付記6)
記憶装置上のデータを他の記憶装置へ転送するデータ転送方法において、
記憶装置上のデータのアクセス時に必要な制御情報および所定の部分のみを読み出すステップと、
前記読み出した制御情報および所定の部分を転送して相手の記憶装置の、送信元と同一場所に書き込ませてコピーさせるステップと
を有するデータ転送方法。
【0060】
(付記7)
記憶装置から読み出されて転送されたデータを自記憶装置上に書き込むデータ転送方法において
前記転送されたアクセス時に必要な制御情報および所定の部分を受信するステップと、
前記受信した所定の部分を自記憶装置の、送信元と同一場所にコピーするステップと
を有するデータ転送方法。
【0061】
【発明の効果】
以上説明したように、本発明によれば、ディスク装置2の制御情報(メタ情報)21および有意なブロックのみを読み出して転送して送信先のディスク装置4に書き込み、ディスク装置2、4上のファイルを意識することなくアクセス時に必要な制御情報21および有意ブロックのみをコピーする構成を採用しているため、ディスク装置2,4へのアクセス時のヘッドシークの多発を抑止して多量データの高速転送を実現することが可能となる。
【図面の簡単な説明】
【図1】本発明のシステム構成図である。
【図2】本発明のディスク装置の説明図である。
【図3】本発明の説明図である。
【図4】本発明のRAID(ストライプ)である。
【図5】本発明の説明図(パーティション変更)である。
【符号の説明】
1:送信元サーバ
11、31:CPU
12、32:メモリ
13、33:NIC
2,4:ディスク装置
21,41:制御情報(メタ情報)
22,42:記憶領域
3:送信先サーバ
5:ネットワーク
6:ファイル
7:PC(パソコン)
8:ディスク装置(仮想)
Claims (5)
- 記憶装置上のデータを他の記憶装置へ転送するデータ転送装置において、
記憶装置上のデータのアクセス時に必要な制御情報および所定の部分のみを読み出す手段と、
前記読み出した制御情報および所定の部分を転送して相手の記憶装置に書き込ませてコピーさせる手段と
を備えたことを特徴とするデータ転送装置。 - 記憶装置上に、前記データのアクセス時に必要な制御情報および所定の部分からなる組が複数あるときは、指定された1つまたは複数の組、あるいは全組についてそれぞれ前記読み出して転送して前記コピーさせることを特徴とする請求項1記載のデータ転送装置。
- 他の記憶装置から読み出されて転送されたデータを自記憶装置上に書き込むデータ転送装置において
転送されたアクセス時に必要な制御情報および所定の部分を受信する手段と、前記受信した制御情報および所定の部分を自記憶装置の、送信元と同一場所にコピーする手段と
を備えたことを特徴とするデータ転送装置。 - 前記受信したアクセス時に必要な制御情報および所定の部分を自ディスク装置に書き込むときに、送信元の記憶装置の場所と異なる、指定場所にコピーしてパーティションを任意に変更することを特徴とする請求項3記載のデータ転送装置。
- 記憶装置上のデータを他の記憶装置へ転送するデータ転送方法において、
記憶装置上のデータのアクセス時に必要な制御情報および所定の部分のみを読み出すステップと、
前記読み出した制御情報および所定の部分を転送して相手の記憶装置の、送信元と同一場所に書き込ませてコピーさせるステップと
を有するデータ転送方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002257137A JP2004094755A (ja) | 2002-09-02 | 2002-09-02 | データ転送装置およびデータ転送方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002257137A JP2004094755A (ja) | 2002-09-02 | 2002-09-02 | データ転送装置およびデータ転送方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004094755A true JP2004094755A (ja) | 2004-03-25 |
Family
ID=32062145
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002257137A Withdrawn JP2004094755A (ja) | 2002-09-02 | 2002-09-02 | データ転送装置およびデータ転送方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004094755A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005301627A (ja) * | 2004-04-09 | 2005-10-27 | Hitachi Ltd | 記憶制御システム及び方法 |
EP1757903A2 (en) | 2005-08-25 | 2007-02-28 | Sony Corporation | On-vehicle device |
JP2010191989A (ja) * | 2010-04-26 | 2010-09-02 | Hitachi Ltd | 記憶制御システム及び方法 |
-
2002
- 2002-09-02 JP JP2002257137A patent/JP2004094755A/ja not_active Withdrawn
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005301627A (ja) * | 2004-04-09 | 2005-10-27 | Hitachi Ltd | 記憶制御システム及び方法 |
US7801933B2 (en) | 2004-04-09 | 2010-09-21 | Hitachi, Ltd. | Storage control system and method |
US8041682B2 (en) | 2004-04-09 | 2011-10-18 | Hitachi, Ltd. | Storage control system and method |
US8433686B2 (en) | 2004-04-09 | 2013-04-30 | Hitachi, Ltd. | Storage control system and method |
US8812449B2 (en) | 2004-04-09 | 2014-08-19 | Hitachi, Ltd. | Storage control system and method |
EP1757903A2 (en) | 2005-08-25 | 2007-02-28 | Sony Corporation | On-vehicle device |
US7848862B2 (en) | 2005-08-25 | 2010-12-07 | Sony Corporation | On-vehicle device |
US8027754B2 (en) | 2005-08-25 | 2011-09-27 | Sony Corporation | On-vehicle device |
US8527112B2 (en) | 2005-08-25 | 2013-09-03 | Sony Corporation | On-vehicle device |
US8588994B2 (en) | 2005-08-25 | 2013-11-19 | Sony Corporation | On-vehicle device |
JP2010191989A (ja) * | 2010-04-26 | 2010-09-02 | Hitachi Ltd | 記憶制御システム及び方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8078819B2 (en) | Arrangements for managing metadata of an integrated logical unit including differing types of storage media | |
JP5343166B2 (ja) | 通信ネットワークを介してリモートのファイルサーバにファイルを転送するローカルのファイルサーバ、及び、それらのファイルサーバを有するストレージシステム | |
JP4943081B2 (ja) | ファイル格納制御装置及び方法 | |
US8341199B2 (en) | Storage system, a method of file data back up and a method of copying of file data | |
US7409522B1 (en) | Method and system for reallocating data in a file system | |
US5894585A (en) | System for recording processing operations of one processing apparatus and reflecting contents of the operations which have not been reflected since the previous reflecting | |
JPWO2004049167A1 (ja) | ファイル管理装置、ファイル管理方法、ファイル管理プログラム、及び、記録媒体 | |
US20080301363A1 (en) | Virtual tape library device | |
KR100449485B1 (ko) | 스트라이핑 시스템 및 이의 매핑 및 처리방법 | |
US20050038850A1 (en) | Storage system, and data transfer method for use in the system | |
JP2804115B2 (ja) | ディスクファイルシステム | |
JP4722704B2 (ja) | 情報記録媒体、情報記録媒体に対するアクセス装置及びアクセス方法 | |
CN103917962A (zh) | 读取存储在存储系统上的文件 | |
US7251708B1 (en) | System and method for maintaining and reporting a log of multi-threaded backups | |
JP4502375B2 (ja) | ファイルシステムおよびその制御方法 | |
US10387043B2 (en) | Writing target file including determination of whether to apply duplication elimination | |
JP2005202942A (ja) | 情報記録媒体、データ処理装置及びデータ処理方法 | |
JP3800903B2 (ja) | 記憶装置及びそのアクセス制御方法 | |
JPH1185655A (ja) | 計算機システム | |
JP2004094755A (ja) | データ転送装置およびデータ転送方法 | |
JP4324993B2 (ja) | データ転送方法および装置 | |
US20050086249A1 (en) | Method for logical volume conversions | |
EP1686451A1 (en) | Virtual tape library device | |
JP4211563B2 (ja) | 再生記録装置 | |
JP2008523485A (ja) | システムと共有バッファ内のストレージとの間でデータを転送する方法、システム、及びコンピュータ・プログラム(システムと共有バッファ内ストレージとの間のデータ転送) |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060110 |