JP2008097112A - Storage system, and logical volume management method applied to the system - Google Patents

Storage system, and logical volume management method applied to the system Download PDF

Info

Publication number
JP2008097112A
JP2008097112A JP2006275236A JP2006275236A JP2008097112A JP 2008097112 A JP2008097112 A JP 2008097112A JP 2006275236 A JP2006275236 A JP 2006275236A JP 2006275236 A JP2006275236 A JP 2006275236A JP 2008097112 A JP2008097112 A JP 2008097112A
Authority
JP
Japan
Prior art keywords
address
logical
node
physical
extent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006275236A
Other languages
Japanese (ja)
Other versions
JP4388052B2 (en
Inventor
Makoto Obara
誠 小原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Digital Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Solutions Corp filed Critical Toshiba Corp
Priority to JP2006275236A priority Critical patent/JP4388052B2/en
Publication of JP2008097112A publication Critical patent/JP2008097112A/en
Application granted granted Critical
Publication of JP4388052B2 publication Critical patent/JP4388052B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To reduce the information amount that each node must hold. <P>SOLUTION: An LPMT 122-i (i=1 to 3) of the node 10-i holds IP addresses assigned to logical extents out of a plurality of logical extents constructing a logical volume which are stored in physical extents in physical volumes of the node 10-i, in association with the physical extents. According to the location in the logical volume of a logical address representing the destination of access requested by a host, an IO manager 112-i of the node 10-i identifies the IP address assigned to the corresponding logical extent. If the identified IP address is not in the LPMT 122-i, a TCP/IP module 113-i of the node 10-i broadcasts an ARP request to acquire, from another node containing the LPMT in which the IP address specified in the ARP request is, a physical address unique to the node. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、複数の論理エクステントから構成される論理ボリュームをホストに対して提供するストレージシステム及び同システムに適用される論理ボリューム管理方法に関する。   The present invention relates to a storage system that provides a host with a logical volume composed of a plurality of logical extents, and a logical volume management method applied to the system.

近年、ネットワークにより相互に接続された複数のストレージ装置(例えばディスクストレージ装置)を有するストレージシステムが開発されている。この種のストレージシステムの1つとして、ストレージクラスタ(ストレージクラスタシステム)が知られている。   In recent years, a storage system having a plurality of storage devices (for example, disk storage devices) connected to each other via a network has been developed. A storage cluster (storage cluster system) is known as one of this type of storage system.

ストレージクラスタの特徴は、複数のストレージ装置(以下、ノードと称する)の各々に存在する記憶領域(以下、物理ボリュームと称する)を、当該ノードを超えて統合する(束ねる)ことで、ノード間にまたがった横断的・仮想的な少なくとも1つの記憶領域(以下、論理ボリュームと称する)をホストに提供することにある。ここでのボリュームは、ブロック単位でアクセスされるブロックボリュームであるとする。   A feature of storage clusters is that storage areas (hereinafter referred to as physical volumes) that exist in each of a plurality of storage devices (hereinafter referred to as nodes) are integrated (bundled) across the nodes, so that Another object is to provide a host with at least one cross-sectional / virtual storage area (hereinafter referred to as a logical volume). The volume here is assumed to be a block volume accessed in block units.

ストレージクラスタを構成するノードは、常時稼動のストレージ装置である。つまり、ノードの参加・離脱は、運用中の計画的参加・離脱や、故障による突然の離脱による程度である。このためストレージクラスタでは、例えば毎日の電源ON/OFFによるような、頻繁なノードの参加・離脱はない。   The nodes constituting the storage cluster are always-on storage devices. That is, the participation / removal of a node is a degree due to planned participation / removal during operation or a sudden retirement due to a failure. For this reason, in the storage cluster, there is no frequent participation / detachment of nodes, for example, due to daily power ON / OFF.

ストレージクラスタにおいては、データ(の断片)を物理ボリューム内や、別のノードの物理ボリュームをまたがって、(自動/手動を問わず)適切に移動/コピーすることは、頻繁に起きる。これは、ホストからの論理ボリュームへのアクセス透過性を保障しながら、ストレージクラスタを構成するノードの突発的停止やディスク故障などに備えたデータの冗長化や、アクセス性能・信頼性の向上などの目的による。   In a storage cluster, data (fragments) is frequently moved / copied appropriately (whether automatically or manually) within a physical volume or across a physical volume of another node. This guarantees access transparency to the logical volume from the host, makes the data redundant in case of a sudden stop of the nodes constituting the storage cluster, disk failure, etc., and improves access performance and reliability. Depending on purpose.

一方、ホストは、ストレージクラスタ内の任意の1つのノードに対してパスを張ってアクセスするだけで、複数のノードをまたがって構成された論理ボリューム全体に対してアクセスすることができる。ここで、ホストがパスを張っているノードで障害が発生して、当該障害が発生したノード(障害ノード)が停止したものとする。この場合でも、障害ノードに格納されているデータがストレージクラスタ内の他のノード(生存ノード)に冗長化されていれば、ホストは任意の生存ノードに対してパスを張り直すことで、論理ボリュームに対するアクセスを継続することができる。   On the other hand, the host can access the entire logical volume configured across a plurality of nodes only by establishing a path and accessing any one node in the storage cluster. Here, it is assumed that a failure has occurred in a node where the host has a path, and the node in which the failure has occurred (failed node) has stopped. Even in this case, if the data stored in the failed node is made redundant by another node (surviving node) in the storage cluster, the host can re-establish the path to any surviving node, and the logical volume Can continue to access.

このようなストレージクラスタを構築するには、論理ボリューム上のデータが、どのノードのどの物理ボリューム上の、どの位置に配置されているかを管理するための仕組みが必要になる。   In order to construct such a storage cluster, it is necessary to have a mechanism for managing data on a logical volume at which position on which physical volume of which node.

一般に、ストレージクラスタのノードは、機能的にコントローラ部とストレージ部とから構成される。コントローラ部はホストとのパスを管理しアクセスを受け付ける。ホストはどのコントローラ部に対してパスを張っても、同じ論理ボリュームにアクセスすることができる。ストレージ部はデータを蓄える物理ボリュームを有する。   In general, a node of a storage cluster is functionally composed of a controller unit and a storage unit. The controller unit manages the path with the host and accepts access. The host can access the same logical volume regardless of which controller unit has a path. The storage unit has a physical volume for storing data.

ボリューム(ブロックボリューム)は、エクステントと呼ばれる、固定長のブロックの集合により構成される。各ノードのストレージ部は少なくとも1つの物理ボリュームを管理する。一方、各ノードのコントローラ部は、物理ボリュームを構成する物理エクステントと、論理ボリュームの論理エクステント(論理ボリュームを構成する任意長の領域)とをマッピングテーブルにより対応付けて管理する。これにより、論理ボリューム(論理ボリューム空間)が構成される。このようなマッピングテーブルによる物理エクステントと論理エクステントとの対応付けは、例えば特許文献1にも記載されている。   A volume (block volume) is composed of a set of fixed-length blocks called extents. The storage unit of each node manages at least one physical volume. On the other hand, the controller unit of each node manages the physical extents constituting the physical volume and the logical extents of the logical volume (arbitrary length areas constituting the logical volume) in association with each other using the mapping table. Thereby, a logical volume (logical volume space) is configured. The association between a physical extent and a logical extent using such a mapping table is also described in Patent Document 1, for example.

上述のマッピングテーブルを、論理エクステント−物理エクステントマッピングテーブル(LPMT:Logical Extent to Physical Extent Mapping Table)と呼ぶ。LPMTは、論理ボリュームの論理エクステントが、どのノード(ストレージ)の物理ボリュームの、どの物理エクステントから構成されているか、その対応付けを管理するのに用いられる。   The above mapping table is called a logical extent-physical extent mapping table (LPMT). The LPMT is used to manage the correspondence between which physical extent of a physical volume of which node (storage) the logical extent of the logical volume is composed of.

ストレージクラスタ内の全てのノードのコントローラ部は、それぞれ同一内容のLPMTを保持する。また各ノードは、LPMTにより全論理ボリューム分を管理する。つまり各ノードのコントローラ部は、全てのノードの物理ボリューム/物理エクステント分のエントリを持ったLPMTを管理する。これらの理由は、ホストからコントローラ部へのパスが、別のコントローラ部に切り替わった際に、直ちに同一の論理ボリュームへのアクセスを継続可能とするためである。論理ボリュームを作成する際には、各ノードのストレージ部及びコントローラ部とは別の手段である構成管理部が、どのノードのどの物理ボリュームの、どの物理エクステントから、論理ボリュームを構成するか決定して、各コントローラ部上にLPMTを設定する。   The controller units of all the nodes in the storage cluster each hold an LPMT having the same content. Each node manages all logical volumes by LPMT. That is, the controller unit of each node manages the LPMT having entries for the physical volumes / physical extents of all nodes. The reason for this is that when the path from the host to the controller unit is switched to another controller unit, it is possible to immediately continue access to the same logical volume. When creating a logical volume, the configuration management unit, which is a means different from the storage unit and controller unit of each node, determines which physical volume of which node and which physical volume constitutes the logical volume. Then, LPMT is set on each controller unit.

さて、ストレージクラスタ(ストレージシステム)では、当該クラスタ内のあるノード(以下、第1のノードと称する)が有する例えば第1の物理ボリュームの第1の物理エクステントに格納(配置)されていた第1の論理エクステントを、別のノード(以下、第2のノードと称する)が有する例えば第2の物理ボリュームの第2の物理エクステントに移動(マイグレーション)することが発生する。このような移動は、第1のノードのストレージの負荷を軽減するなどの目的で行われる。また、上記特許文献1に記載されているように、あるノードのストレージに対するアクセス性能を向上させるために、当該ノードのある物理エクステントに格納されていた第1の論理エクステントを、当該ノードの別の物理エクステントに移動することもある。この移動により、ストレージクラスタのアクセス性能及び信頼性を向上することが可能となる。   In the storage cluster (storage system), the first stored in (arranged), for example, the first physical extent of the first physical volume of a certain node in the cluster (hereinafter referred to as the first node). For example, the second physical extent of the second physical volume of another node (hereinafter referred to as the second node) is migrated. Such movement is performed for the purpose of reducing the storage load of the first node. Further, as described in Patent Document 1, in order to improve the access performance to the storage of a certain node, the first logical extent stored in a certain physical extent of the node is changed to another node of the node. Sometimes moved to a physical extent. This migration can improve the access performance and reliability of the storage cluster.

つまりストレージクラスタでは、当該ストレージクラスタのアクセス性能・信頼性向上のために、論理エクステントを同じストレージ内の別の物理エクステントへ、また別のストレージの物理エクステントへの移動/コピーが発生する。この場合、従来技術では、ストレージクラスタの各コントローラ部が互いに同期をとって、自身が管理するLPMTを一斉(同時)に更新する。例えば、上述したような、第1のノードにおけるの第1の物理ボリュームの第1の物理エクステントに格納されていた第1の論理エクステントを、第2のノードにおける第2の物理ボリュームの第2の物理エクステントに移動する場合であれば、全てのノードのLPMTの、第1のノード/第1の物理ボリューム/第1の物理エクステントのエントリと、第2のノード/第2の物理ボリューム/第2の物理エクステントのエントリとが更新される。
特開平9−62452号公報
That is, in a storage cluster, a logical extent is moved / copied to another physical extent in the same storage and to another physical extent in order to improve the access performance and reliability of the storage cluster. In this case, according to the conventional technique, the controller units of the storage cluster synchronize with each other and update the LPMTs managed by them simultaneously (simultaneously). For example, as described above, the first logical extent stored in the first physical extent of the first physical volume in the first node is changed to the second logical volume of the second physical volume in the second node. If moving to a physical extent, the first node / first physical volume / first physical extent entry and second node / second physical volume / second of the LPMT of all nodes The physical extent entry is updated.
JP-A-9-62452

上記したように従来のストレージクラスタ(ストレージシステム)では、当該クラスタを構成する各ノード(ストレージ装置)のコントローラ部は、論理ボリュームの論理エクステントが、どのノードの物理ボリュームの、どの物理エクステントから構成されているかを示したLMPT(論理エクステント−物理エクステントマッピングテーブル)を管理する。このLMPTは、ストレージクラスタ内の全てのノードの物理ボリューム/物理エクステント分のエントリを持つ。このため、LPMTのサイズは、ストレージクラスタを構成する全てのノードでの物理ボリュームの数と、その物理ボリュームを構成するエクステントの数に比例して大きくなる。つまり各ノードがメモリ上に保持しなければならない情報量が、LPMTのために増大する。   As described above, in a conventional storage cluster (storage system), the controller unit of each node (storage device) that constitutes the cluster is configured with which logical extent of a logical volume is composed of which physical extent of which node's physical volume. LMPT (logical extent-physical extent mapping table) indicating whether or not This LMPT has entries for physical volumes / physical extents of all nodes in the storage cluster. For this reason, the size of the LPMT increases in proportion to the number of physical volumes in all the nodes constituting the storage cluster and the number of extents constituting the physical volume. That is, the amount of information that each node must hold on the memory increases due to LPMT.

また従来のストレージクラスタでは、ノード内、ノード間を問わず、エクステントの移動/コピーが発生した場合、全てのノードのコントローラ部は、自身が管理するLPMTを一斉(同時)に更新する必要がある。しかし、各コントローラ部のLPMTが同一となるように同時に更新することは、更新処理の増大を招き、アクセス性能に悪影響を及ぼす。   Further, in the conventional storage cluster, when an extent move / copy occurs within a node or between nodes, the controller units of all nodes need to update the LPMTs managed by the nodes all at once (simultaneously). . However, simultaneously updating the controller units so that the LPMTs are the same causes an increase in update processing and adversely affects access performance.

本発明は上記事情を考慮してなされたものでその目的は、各ノードが保持しなければならない情報量を少なくできるストレージシステム及び同システムに適用される論理ボリューム管理方法を提供することにある。   The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a storage system that can reduce the amount of information that each node must hold and a logical volume management method applied to the system.

本発明の1つの観点によれば、複数の論理エクステントから構成される論理ボリュームをホストに対して提供するストレージシステムが提供される。このシステムは、前記論理エクステントを格納可能な複数の物理エクステントに分割して管理される物理ボリュームを有する複数のノードであって、固有の物理アドレスを有し、上位レイヤ通信プロトコルにTCP/IPを適用するネットワークによって相互接続される複数のノードと、前記論理ボリュームの構成を管理する構成管理手段であって、当該論理ボリュームに固有のネットワークアドレスを論理ボリュームネットワークアドレスとして割り当てる構成管理手段とを具備する。前記複数のノードの各々は、IPアドレステーブルと、アドレス解決プロトコルモジュールと、入出力マネージャと、TCP/IPモジュールとを含む。前記IPアドレステーブルは、前記論理ボリュームを構成する複数の論理エクステントのうちの当該IPアドレステーブルを含むノード(自ノード)が有する前記物理ボリューム内の物理エクステントに格納される論理エクステントに割り当てられるIPアドレスであって、当該論理エクステントの前記論理ボリューム内の位置に対応する、前記論理ボリュームネットワークアドレスの指定するネットワークアドレス空間内のIPアドレスを、当該物理エクステントに対応付けて保持する。前記アドレス解決プロトコルモジュールは、前記ネットワークを介して送信され、指定のIPアドレスに対応付けられる物理アドレスへの解決を問い合わせるアドレス解決プロトコル要求を受信し、前記指定のIPアドレスが自ノードの前記IPアドレステーブルに保持されている場合に、当該ノードに固有の物理アドレスを前記アドレス解決プロトコル要求の要求元のノードに返す。前記入出力マネージャは、前記ホストから要求されたアクセス先を示す論理アドレスの前記論理ボリューム内の位置に基づいて、当該論理アドレスが属する前記論理ボリューム内の論理エクステントに割り当てられたIPアドレスを特定し、当該特定されたIPアドレスが自ノードの前記IPアドレステーブルに保持されているかを判定する。前記TCP/IPモジュールは、前記特定されたIPアドレスが自ノードの前記IPアドレステーブルに保持されていない場合、前記特定されたIPアドレスに対応付けられる物理アドレスへの解決を問い合わせるアドレス解決プロトコル要求を前記ネットワーク上にブロードキャストして、前記複数のノードのうち、前記特定されたIPアドレスを保持する前記IPアドレステーブルを有するノードの前記アドレス解決プロトコルモジュールから物理アドレスを取得し、当該取得された物理アドレスで特定されるノードに対して、前記特定されたIPアドレスが割り当てられている論理エクステントに対するアクセスを依頼する。   According to one aspect of the present invention, a storage system that provides a host with a logical volume composed of a plurality of logical extents is provided. This system is a plurality of nodes having physical volumes that are managed by dividing the logical extent into a plurality of physical extents that can be stored, have a unique physical address, and set TCP / IP as an upper layer communication protocol. A plurality of nodes interconnected by a network to be applied; and configuration management means for managing the configuration of the logical volume, wherein the configuration management means allocates a network address unique to the logical volume as a logical volume network address. . Each of the plurality of nodes includes an IP address table, an address resolution protocol module, an input / output manager, and a TCP / IP module. The IP address table is an IP address assigned to a logical extent stored in a physical extent in the physical volume of a node (local node) including the IP address table among a plurality of logical extents constituting the logical volume. The IP address in the network address space designated by the logical volume network address corresponding to the position in the logical volume of the logical extent is stored in association with the physical extent. The address resolution protocol module receives an address resolution protocol request that is transmitted via the network and inquires about a resolution to a physical address associated with a specified IP address, and the specified IP address is the IP address of the own node. If it is held in the table, a physical address unique to the node is returned to the requesting node of the address resolution protocol request. The input / output manager specifies an IP address assigned to a logical extent in the logical volume to which the logical address belongs based on a position in the logical volume of a logical address indicating an access destination requested from the host. Then, it is determined whether or not the specified IP address is held in the IP address table of the own node. When the specified IP address is not held in the IP address table of the own node, the TCP / IP module sends an address resolution protocol request for inquiring about a resolution to a physical address associated with the specified IP address. Broadcast on the network, obtain a physical address from the address resolution protocol module of the node having the IP address table that holds the identified IP address among the plurality of nodes, and obtain the physical address The node specified in (1) is requested to access the logical extent to which the specified IP address is assigned.

本発明によれば、ストレージクラスタ内の各ノードが有するIPアドレステーブル(即ち従来技術における論理エクステント−物理エクステントマッピングテーブルに相当するIPアドレステーブル)は、そのノードが管理する論理エクステントに対応する物理ボリューム/物理エクステント分のエントリだけを持てば良いため、各ノードが保持しなければならない情報量を少なくすることができる。これにより、ストレージクラスタを構成するノード数に応じて当該情報量が増加することを抑えることができ、且つ論理エクステントの移動・コピーに際して、各ノードが管理する情報の更新作業量を少なくして、アクセス性能を向上させることができる。   According to the present invention, an IP address table (that is, an IP address table corresponding to a logical extent-physical extent mapping table in the prior art) possessed by each node in a storage cluster is a physical volume corresponding to a logical extent managed by that node. / Since only the entries for the physical extent need be held, the amount of information that each node must hold can be reduced. As a result, it is possible to suppress the increase in the amount of information according to the number of nodes constituting the storage cluster, and to reduce the amount of update work of information managed by each node when moving / copying logical extents. Access performance can be improved.

以下、本発明の実施の形態につき図面を参照して説明する。
図1は本発明の一実施形態に係るストレージクラスタ構成のストレージシステムの構成を示すブロック図である。図1のストレージシステム(以下、ストレージクラスタと称する)は、複数、例えば3台のストレージ装置(以下、ノードと称する)10-1,10-2及び10-3(#1,#2及び#3)から構成される。ノード10-1,10-2及び10-3は、ファイバチャネル、イーサネット(登録商標)、SCSI(Small Computer System Interface)またはiSCSIのようなインタフェイス20によって、ストレージクラスタを利用するホスト(ホストコンピュータ)と接続されている。
Embodiments of the present invention will be described below with reference to the drawings.
FIG. 1 is a block diagram showing the configuration of a storage system having a storage cluster configuration according to an embodiment of the present invention. The storage system of FIG. 1 (hereinafter referred to as a storage cluster) has a plurality of, for example, three storage apparatuses (hereinafter referred to as nodes) 10-1, 10-2 and 10-3 (# 1, # 2 and # 3). ). The nodes 10-1, 10-2, and 10-3 are hosts (host computers) that use a storage cluster through an interface 20 such as Fiber Channel, Ethernet (registered trademark), SCSI (Small Computer System Interface), or iSCSI. Connected with.

ノード10-1,10-2及び10-3は、それぞれ、コントローラ部11-1,11-2及び11-3と、ストレージ部12-1,12-2及び12-3とから構成される。ストレージ部12-i(i=1,2,3)は、論理エクステントを物理ボリューム上に格納する。つまりストレージ部12-iを含むノード10-iは、論理エクステントを所有する。   The nodes 10-1, 10-2, and 10-3 are composed of controller units 11-1, 11-2, and 11-3 and storage units 12-1, 12-2, and 12-3, respectively. The storage unit 12-i (i = 1, 2, 3) stores the logical extent on the physical volume. That is, the node 10-i including the storage unit 12-i owns a logical extent.

コントローラ部11-i(i=1,2,3)は、ストレージ部12-1,12-2及び12-3の物理ボリュームを統合することで、ホストに対して論理ボリュームを提供する。つまり、コントローラ部11-iを含む各ノード10-iは、ホストに対して論理エクステントから構成される論理ボリュームを提供する。換言するならば、各ノード10-iは論理ボリュームを構成する。コントローラ部11-iはホストからのアクセス要求を受け付ける。アクセス要求は、アクセスされるべき論理ボリューム内の位置を示す論理アドレス、例えばアクセスされるべき論理ボリューム内の論理ブロックを示す論理ブロックアドレス(LBA)を含む。コントローラ部11-iは、要求された論理ブロックを含む論理エクステントが格納されている(物理ボリュームを有する)ノードを探し出し、そのノードのストレージに対してアクセスを行う。   The controller unit 11-i (i = 1, 2, 3) provides the logical volume to the host by integrating the physical volumes of the storage units 12-1, 12-2, and 12-3. That is, each node 10-i including the controller unit 11-i provides a logical volume composed of logical extents to the host. In other words, each node 10-i constitutes a logical volume. The controller unit 11-i receives an access request from the host. The access request includes a logical address indicating a position in the logical volume to be accessed, for example, a logical block address (LBA) indicating a logical block in the logical volume to be accessed. The controller unit 11-i searches for a node (having a physical volume) in which a logical extent including the requested logical block is stored, and accesses the storage of the node.

図1のストレージクラスタは、当該ストレージクラスタを構成するノード10-1〜10-3とは別に、当該ストレージクラスタの構成(当該ストレージクラスタによってホストに提供される論理ボリュームの構成)を計画・管理する構成管理部30を有する。構成管理部30は、ユーザからの論理ボリュームの作成/削除の要求の受け付け、クラスタ全体の状態監視を行う。構成管理部30はまた、例えばパフォーマンス向上のために、ある論理エクステントを管理するノードを別のノードに変更する場合、つまり、ある論理エクステントを別のノードに移動する場合に、移動元ノード及び移動先ノードの選択と移動元ノード及び移動先ノードへの移動指示を行う。構成管理部30は、パーソナルコンピュータ(PC)などを用いて実現される管理用の端末、或いはノード10-1〜10-3のいずれか1つの上で動作することが好ましい。図1の例では、構成管理部30はノード10-1で動作する。もしノード10-1が故障した場合、構成管理部30は周知のクラスタ制御により、ノード10-2またはノード10-3に移動して動作する。   The storage cluster in FIG. 1 plans and manages the configuration of the storage cluster (the configuration of the logical volume provided to the host by the storage cluster) separately from the nodes 10-1 to 10-3 configuring the storage cluster. A configuration management unit 30 is included. The configuration management unit 30 receives a request for creating / deleting a logical volume from a user, and monitors the status of the entire cluster. For example, in order to improve performance, the configuration management unit 30 changes a node that manages a certain logical extent to another node, that is, when moving a certain logical extent to another node. Selection of a destination node and a movement instruction to a movement source node and a movement destination node are performed. The configuration management unit 30 preferably operates on a management terminal implemented using a personal computer (PC) or the like, or any one of the nodes 10-1 to 10-3. In the example of FIG. 1, the configuration management unit 30 operates on the node 10-1. If the node 10-1 fails, the configuration management unit 30 moves to the node 10-2 or the node 10-3 and operates by well-known cluster control.

コントローラ部11-1,11-2,11-3は、それぞれ、ターゲットインタフェイス111-1,111-2,111-3、IO(入出力)マネージャ112-1,112-2,112-3、TCP/IP(Transmission Control Protocol/Internet Protocol)モジュール113-1,113-2,113-3及びイーサネットコントローラ114-1,114-2,114-3の各処理部と、論理ボリューム管理テーブル(LVMT:Logical Volume Management Table)115-1,115-2,115-3、イーサネットインタフェイス管理テーブル(EIMT:Ethernet(登録商標) Interface Management Table)116-1,116-2,116-3及びアドレス解決プロトコル(ARP:Address Resolution Protocol)テーブル117-1,117-2,117-3の各テーブルを含む。   The controller units 11-1, 11-2, and 11-3 include target interfaces 111-1, 111-2, and 111-3, IO (input / output) managers 112-1, 112-2, and 112-3, respectively. Processing units of TCP / IP (Transmission Control Protocol / Internet Protocol) modules 113-1, 113-2, and 113-3 and Ethernet controllers 114-1, 114-2, and 114-3, and a logical volume management table (LVMT: Logical Volume Management Table) 115-1, 115-2, 115-3, Ethernet Interface Management Table (EIMT: Ethernet (registered trademark) Interface Management Table) 116-1, 116-2, 116-3, and Address Resolution Protocol ( Each table includes an ARP (Address Resolution Protocol) table 117-1, 117-2, and 117-3.

ノード10-1,10-2,10-3は、それぞれイーサネットコントローラ114-1,114-2,114-3を介してネットワーク40に接続されている。本実施形態において、ネットワーク40は、イーサネットと呼ばれる、CSMA/CD(Carrier Sense Multiple Access with Collision Detection)方式のローカルエリアネットワークである。ネットワーク40では、下位レイヤプロトコル(下位レイヤ通信プロトコル)としてイーサネットが用いられ、上位レイヤプロトコル(上位レイヤ通信プロトコル)としてTCP/IPが用いられるものとする。下位レイヤプロトコル(イーサネット)で送受信される情報(イーサネットフレーム)の送信元アドレス及び送信先(宛先)アドレスには、MACアドレスと呼ばれる物理アドレス(下位レイヤアドレス)が用いられる。上位レイヤプロトコル(TCP/IP)で送受信される情報(TCP/IPパケット)の送信元アドレス及び送信先(宛先)アドレスには、IPアドレスと呼ばれる上位レイヤアドレスが用いられる。TCP/IPパケットは、イーサネットフレームに包まれて送信される。   Nodes 10-1, 10-2, and 10-3 are connected to the network 40 via Ethernet controllers 114-1, 114-2, and 114-3, respectively. In the present embodiment, the network 40 is a local area network of CSMA / CD (Carrier Sense Multiple Access with Collision Detection) called Ethernet. In the network 40, Ethernet is used as a lower layer protocol (lower layer communication protocol), and TCP / IP is used as an upper layer protocol (upper layer communication protocol). A physical address (lower layer address) called a MAC address is used as a source address and a destination (destination) address of information (Ethernet frame) transmitted and received by the lower layer protocol (Ethernet). An upper layer address called an IP address is used as a source address and a destination (destination) address of information (TCP / IP packet) transmitted / received by an upper layer protocol (TCP / IP). The TCP / IP packet is transmitted in an Ethernet frame.

ストレージ部12-1,12-2,12-3は、それぞれ、IOドライバ121-1,121-2,121-3、論理エクステント−物理エクステントマッピングテーブル(LPMT:Logical Extent to Physical Extent Mapping Table)122-1,122-2,122-3及びディスク(ディスク装置)123-1,123-2,123-3を含む。ここでは、各ストレージ部12-iに含まれるディスク123-iの数が2であり、各ディスク123-iが物理ボリュームを提供するものとする。   The storage units 12-1, 12-2, 12-3 are respectively IO drivers 121-1, 121-2, 121-3, a logical extent-physical extent mapping table (LPMT) 122. -1, 122-2, 122-3 and disks (disk devices) 123-1, 123-2, 123-3. Here, it is assumed that the number of disks 123-i included in each storage unit 12-i is 2, and each disk 123-i provides a physical volume.

次に、ノード10-i(i=1,2,3)の中で管理・参照される各テーブル、即ちLVMT115-i、EIMT116-i、ARPテーブル117-i及びLPMT122-iについて説明する。   Next, each table managed and referred to in the node 10-i (i = 1, 2, 3), that is, the LVMT 115-i, the EIMT 116-i, the ARP table 117-i, and the LPMT 122-i will be described.

まず、LVMT115-iについて説明する。LVMT115-iは、論理ボリュームの基本的な管理情報(論理ボリューム管理情報)を保持する。構成管理部30は論理ボリュームを作成する際に、ユーザからの指示に従い、論理ボリュームID、論理ボリュームサイズ、論理エクステントサイズ、論理ボリュームに割り当てるネットワークアドレス及び論理ボリュームを構成可能な最大ノード数を決定する。決定された情報は、論理ボリューム管理情報を構成する。構成管理部30は、論理ボリューム管理情報を格納したLVMTを生成し、当該LVMTを、図1のストレージクラスタを構成する全てのノード10-iにLVMT115-iとして一律に配布して設定する。   First, the LVMT 115-i will be described. The LVM 115-i holds basic management information (logical volume management information) of the logical volume. When creating the logical volume, the configuration management unit 30 determines the logical volume ID, the logical volume size, the logical extent size, the network address to be allocated to the logical volume, and the maximum number of nodes that can configure the logical volume in accordance with an instruction from the user. . The determined information constitutes logical volume management information. The configuration management unit 30 generates an LVM that stores logical volume management information, and uniformly distributes and sets the LVMT as the LVM 115-i to all the nodes 10-i configuring the storage cluster of FIG.

図2は、LVMT115-iのデータ構造例を示す。LVMT115-iのエントリは、LVID(Logical Volume ID:論理ボリュームID)、LVSIZE(Logical Volume Size:論理ボリュームサイズ)、LESIZE(Logical Extent Size:論理エクステントサイズ)、LVNA(Logical Volume Network Address)及びLVNODEの各項目を有する。   FIG. 2 shows an example of the data structure of the LVMT 115-i. The entries of LVMT 115-i include LVID (Logical Volume ID), LVSIZE (Logical Volume Size), LESIZE (Logical Extent Size), LVNA (Logical Volume Network Address), and LVNODE. Has each item.

LVIDには、ホストに提供される論理ボリュームに固有のID(論理ボリュームID)が設定される。LVSIZEには、論理ボリュームのサイズ(を表す情報)が設定される。LESIZEには、論理ボリュームを構成する論理エクステントのサイズ(を表す情報)が設定される。LVSIZE/LESIZEにより、論理ボリュームを構成する論理エクステントの数が求められる。   In the LVID, an ID (logical volume ID) unique to the logical volume provided to the host is set. In LVSIZE, the size (information indicating) of the logical volume is set. In LESIZE, the size (information indicating) of the logical extent constituting the logical volume is set. The number of logical extents constituting the logical volume is obtained by LVSIZE / LESIZE.

LVNAには、論理ボリュームに割り当てられたネットワークアドレス(IPネットワークアドレス)及びサブネットマスクが設定される。本実施形態では、ネットワークアドレスで指定される仮想的なネットワークに後述する最大ノード数と論理ボリュームを構成する論理エクステント数(LVSIZE/LESIZE)を収容できるだけのホストアドレス(IPアドレス)の空間(論理ボリュームのネットワークアドレス空間)を確保する必要がある。LVNODEは、論理ボリュームを構成する論理エクステントを所有可能なノード数として最大何ノードまで含めるか(つまり最大ノード数)を定義する。この定義により、論理ボリュームのネットワークアドレス空間(IPネットワークアドレス空間)の中から、先頭からLVNODE個分までのホストアドレス(IPアドレス)が、当該論理ボリュームを提供するストレージクラスタを構成する各ノードに1つずつ割り当てられる。また、LVNODE+1個目以降のホストアドレス(IPアドレス)が、論理ボリュームを構成する各論理エクステントに1つずつ割り当てられる。   In LVNA, a network address (IP network address) and subnet mask assigned to the logical volume are set. In the present embodiment, a space (logical volume) of a host address (IP address) that can accommodate a maximum number of nodes, which will be described later, and the number of logical extents (LVSIZE / LESIZE) constituting a logical volume in a virtual network specified by a network address. Network address space). LVNODE defines the maximum number of nodes (that is, the maximum number of nodes) that can be included as the number of nodes that can own the logical extent that constitutes the logical volume. With this definition, the host addresses (IP addresses) from the beginning to the LVNODE items from the network address space (IP network address space) of the logical volume are 1 for each node constituting the storage cluster that provides the logical volume. Assigned one by one. Further, the LVNODE + 1 and subsequent host addresses (IP addresses) are allocated one by one to each logical extent constituting the logical volume.

図3はLVMT115-iによって管理される論理ボリュームの例を示す。図3に示される論理ボリュームは、2TBのサイズを持ち(LVSIZE=2TB)、そのサイズを512MBの4つの論理エクステントに切り分けることによって管理される(LESIZE=512MB)。この論理ボリュームには、論理ボリュームIDとして1(LVID=1)が割り当てられている。図3の例では、この論理ボリュームを構成する(論理エクステントを所有できる)ノードの最大数(最大ノード数)は、将来の論理エクステント数増加(論理ボリュームサイズの拡張)を見越して10ノード(LVnode=10)と定義されている。論理ボリュームを構成する各論理エクステントには、識別情報としての例えばシリアルの論理エクステント番号が当該論理ボリューム内の配置順に割り当てられる。また論理ボリュームのネットワークアドレス(論理ボリュームネットワークアドレス)として、192.168.1.0/24が割り当てられている。ここでは、IPアドレスとしてIPv4(IP version 4)アドレスが用いられている。192.168.1.0/24における“24”は、サブネットマスクのビット数を示す。なお、IPアドレスに、IPv4アドレス以外のアドレス、例えばIPv6(IP version 6)アドレスを用いることも可能である。   FIG. 3 shows an example of a logical volume managed by the LVMT 115-i. The logical volume shown in FIG. 3 has a size of 2 TB (LVSIZE = 2TB), and is managed by dividing the size into four 512 MB logical extents (LESIZE = 512 MB). This logical volume is assigned 1 (LVID = 1) as the logical volume ID. In the example of FIG. 3, the maximum number of nodes (maximum number of nodes) constituting this logical volume (which can own logical extents) is 10 nodes (LVnode) in anticipation of future increase in the number of logical extents (expansion of logical volume size). = 10). For example, a serial logical extent number as identification information is assigned to each logical extent constituting the logical volume in the arrangement order in the logical volume. Further, 192.168.1.0/24 is assigned as the network address of the logical volume (logical volume network address). Here, an IPv4 (IP version 4) address is used as the IP address. “24” in 192.168.1.0/24 indicates the number of bits of the subnet mask. An IP address other than the IPv4 address, for example, an IPv6 (IP version 6) address can be used as the IP address.

図3の論理ボリュームを管理するLVMT115-iの例を図4に示す。ここでは、図3の論理ボリューム以外の論理ボリュームは図1のストレージクラスタに存在しないものとする。   FIG. 4 shows an example of the LVMT 115-i that manages the logical volume of FIG. Here, it is assumed that logical volumes other than the logical volume of FIG. 3 do not exist in the storage cluster of FIG.

本実施形態において、1つの論理ボリュームには、1つのユニークなネットワークアドレス空間(IPネットワークアドレス空間)を設定しなければならない(この例ではLVNA=192.168.1.0/24)。先に述べたように、このネットワークアドレス空間内のホストアドレス(IPアドレス)のうち、先頭ホストアドレス(この例では192.168.1.1/24)から最大ノード数分(LVNODE=10)のホストアドレスが、論理ボリューム(を提供するストレージクラスタ)を構成するノード1つずつに割り当てられる。このホストアドレス(IPアドレス)を「コンテナIPアドレス」と呼ぶ。この例では、192.168.1.1/24〜192.168.1.10/24までがコンテナIPアドレスとして使用される。   In the present embodiment, one unique network address space (IP network address space) must be set for one logical volume (LVNA = 192.168.1.0 / 24 in this example). As described above, of the host addresses (IP addresses) in this network address space, the maximum number of nodes (LVNODE = 10) from the top host address (in this example, 192.168.1.1/24) A host address is assigned to each node constituting a logical volume (a storage cluster that provides the logical volume). This host address (IP address) is called a “container IP address”. In this example, 192.168.1.1/24 to 192.168.1.10/24 are used as container IP addresses.

また、上述のネットワークアドレス空間内のホストアドレス(IPアドレス)のうち、コンテナIPアドレスとして使用されていないホストアドレス(この例では192.168.1.11/24〜192.168.1.254/24)が、論理エクステントの先頭から順に、1つずつ割り当てられる。このホストアドレス(IPアドレス)を「論理エクステントIPアドレス」と呼ぶ。例えば、図3に示す論理ボリュームの先頭に位置する論理エクステント1、つまり論理エクステント番号が1の論理エクステントは、論理エクステントIPアドレス192.168.1.11/24を持つ。   Of the host addresses (IP addresses) in the network address space described above, host addresses that are not used as container IP addresses (in this example, 192.168.1.11/24 to 192.168.1.254/ 24) are allocated one by one in order from the top of the logical extent. This host address (IP address) is called a “logical extent IP address”. For example, the logical extent 1 located at the head of the logical volume shown in FIG. 3, that is, the logical extent with the logical extent number 1, has the logical extent IP address 192.168.1.11/24.

以上を定式化すると、論理エクステントIPアドレスは、次式
論理エクステントIPアドレス
={ネットワークアドレス,ホストアドレス}
={論理ボリュームネットワークアドレス,最大ノード数+論理エクステント番号}
但し、論理エクステント番号=(LBA/LESIZE)+1
(1)
によって表される。
When the above is formulated, the logical extent IP address is expressed by the following formula: logical extent IP address = {network address, host address}
= {Logical volume network address, maximum number of nodes + logical extent number}
However, logical extent number = (LBA / LESIZE) +1
(1)
Represented by

例えば、図3に示した論理ボリューム1(LVID=1)において、論理ブロックアドレス(LBA)256MBに対するアクセスを行う場合、この論理ボリューム1の論理エクステントサイズは512MBであるため、論理エクステント1に対するアクセスとなる。論理エクステント1の論理エクステントIPアドレスは、上記のように192.168.1.11/24である。   For example, when accessing the logical block address (LBA) 256 MB in the logical volume 1 (LVID = 1) shown in FIG. 3, the logical extent size of this logical volume 1 is 512 MB. Become. The logical extent IP address of the logical extent 1 is 192.168.1.11/24 as described above.

次に、EIMT116-i(i=1,2,3)について説明する。EIMT116-iは、ノード10-i毎に作成される。つまりEIMT116-iは各ノード10-iに固有のテーブルである。ノード10-iのEIMT116-iは、当該ノード10-iが管理する論理エクステント(論理ボリュームを構成する論理エクステント)の1つずつに割り当てられたIPアドレスを当該論理エクステントに対応付けて保持する。   Next, EIMT 116-i (i = 1, 2, 3) will be described. The EIMT 116-i is created for each node 10-i. That is, the EIMT 116-i is a table unique to each node 10-i. The EIMT 116-i of the node 10-i holds the IP address assigned to each logical extent (logical extent constituting the logical volume) managed by the node 10-i in association with the logical extent.

前記したように、構成管理部30は論理ボリュームを作成する際に、各ノード10-iに共通のLVMTを生成して、当該LVMTを各ノード10-iにLVMT115-iとして配布する。その後、構成管理部30は、作成した論理ボリュームを構成する論理エクステントを、それぞれどのノード10-iが管理するかを決定する。構成管理部30はこの決定結果に基づいて、ノード10-i毎に固有のEIMT116-iを生成して、そのノード10-iに配布する。   As described above, when creating a logical volume, the configuration management unit 30 generates an LVM common to each node 10-i and distributes the LVM to each node 10-i as an LVM 115-i. Thereafter, the configuration management unit 30 determines which node 10-i manages each logical extent constituting the created logical volume. Based on the determination result, the configuration management unit 30 generates a unique EIMT 116-i for each node 10-i and distributes it to the node 10-i.

図5はEIMT116-iのデータ構造例を示す。EIMT116-iの各エントリは、LEIP(Logical Extent IP-Address:論理エクステントIPアドレス)/CIP(Container IP-Address:コンテナIPアドレス)及びLEMAC(Logical Extent MAC-Address:論理エクステントMACアドレス)/CMAC(Container MAC-Address:コンテナMACアドレス)の各項目を有する。   FIG. 5 shows an example of the data structure of the EIMT 116-i. Each entry of the EIMT 116-i includes LEIP (Logical Extent IP-Address) / CIP (Container IP-Address: Container IP address) and LEMAC (Logical Extent MAC-Address: logical extent MAC address) / CMAC ( (Container MAC-Address: Container MAC address).

LEIP/CIPには、該当するノード10-iが管理する論理エクステントに割り当てられるIPアドレス(論理エクステントIPアドレス)または当該ノード10-iに割り当てられるIPアドレス(コンテナIPアドレス)が設定される。LEMAC/CMACには、当該LEMAC/CMACと対をなすLEIP/CIPに設定されているIPアドレスに対応付けて該当するノード10-iのイーサネットコントローラ部114-iに割り当てられている物理アドレスとしてのMAC(Media Access Control)アドレスが設定される。なお、以下の説明では、「論理エクステントに割り当てられるIPアドレス」を「論理エクステントが持つ(または有する)IPアドレス」と呼ぶこともある。   In LEIP / CIP, an IP address (logical extent IP address) assigned to a logical extent managed by the corresponding node 10-i or an IP address (container IP address) assigned to the node 10-i is set. The LEMAC / CMAC has a physical address assigned to the Ethernet controller unit 114-i of the corresponding node 10-i in association with the IP address set in the LEIP / CIP paired with the LEMAC / CMAC. A MAC (Media Access Control) address is set. In the following description, “an IP address assigned to a logical extent” may be referred to as “an IP address that a logical extent has (or has)”.

図6はEIMT116-1〜116-3の具体例を説明する際の前提となる、図3のLVID(論理ボリュームID)が1の論理ボリュームを構成するノード10-1〜10-3と当該ノード10-1〜10-3によって管理される当該論理ボリューム内の論理エクステントとの関係とを示す。図6の例では、ノード10-1,10-2,10-3(のイーサネットコントローラ114-1,114-2,114-3)は、それぞれMACアドレスMAC1,MAC2,MAC3を持つ。   FIG. 6 shows the nodes 10-1 to 10-3 constituting the logical volume having the LVID (logical volume ID) 1 of FIG. 3 and the relevant nodes, which are prerequisites for explaining specific examples of the EIMTs 116-1 to 116-3. The relationship with the logical extent in the logical volume managed by 10-1 to 10-3 is shown. In the example of FIG. 6, the nodes 10-1, 10-2, 10-3 (the Ethernet controllers 114-1, 114-2, 114-3) have MAC addresses MAC1, MAC2, and MAC3, respectively.

図6において、ノード10-1、つまりMACアドレスMAC1を持つノード10-1は、コンテナIPアドレス192.168.1.1/24を所有し、論理エクステントIPアドレス192.168.1.11/24を持つ論理エクステント1及び論理エクステントIPアドレス192.168.1.14/24を持つ論理エクステント4を管理する。この場合、ノード10-1が持つMACアドレスMAC1を、コンテナIPアドレス192.168.1.1/24のMACアドレスMAC1、または論理エクステントIPアドレス192.168.1.11/24(を持つ論理エクステント1)のMACアドレスMAC1、または論理エクステントIPアドレス192.168.1.14/24(を持つ論理エクステント4)のMACアドレスMAC1と呼ぶこともある。   In FIG. 6, the node 10-1, that is, the node 10-1 having the MAC address MAC1 has the container IP address 192.168.1.1/24 and the logical extent IP address 192.168.1.11/24. And logical extent 4 having logical extent IP address 192.168.1.14/24. In this case, the MAC address MAC1 of the node 10-1 is changed to the MAC address MAC1 of the container IP address 192.168.1.1/24 or the logical extent IP address 192.168.1.11/24 (with logical extent IP address 192.168.1.11/24). 1) MAC address MAC1 or logical extent IP address 192.168.1.14/24 (logical extent 4 having MAC address MAC1).

ノード10-2、つまりMACアドレスMAC2を持つノード10-2は、コンテナIPアドレス192.168.1.2/24を所有し、論理エクステントIPアドレス192.168.1.12/24を持つ論理エクステント2を管理する。この場合、ノード10-2が持つMACアドレスMAC2を、コンテナIPアドレス192.168.1.2/24のMACアドレスMAC2、または論理エクステントIPアドレス192.168.1.12/24(を持つ論理エクステント1)のMACアドレスMAC2と呼ぶこともある。   The node 10-2, that is, the node 10-2 having the MAC address MAC2, owns the container IP address 192.168.1.2/24 and has the logical extent IP address 192.168.1.12/24. 2 is managed. In this case, the MAC address MAC2 of the node 10-2 is changed to the MAC address MAC2 of the container IP address 192.168.1.2/24 or the logical extent having the logical extent IP address 192.168.1.12/24 ( 1) may be referred to as MAC address MAC2.

ノード10-3、つまりMACアドレスMAC3を持つノード10-3は、コンテナIPアドレス192.168.1.3/24を所有し、論理エクステントIPアドレス192.168.1.13/24を持つ論理エクステント3を管理する。この場合、ノード10-3が持つMACアドレスMAC3を、コンテナIPアドレス192.168.1.3/24のMACアドレスMAC3、または論理エクステントIPアドレス192.168.1.13/24(を持つ論理エクステント1)のMACアドレスMAC3と呼ぶこともある。   The node 10-3, that is, the node 10-3 having the MAC address MAC3 owns the container IP address 192.168.1.3/24 and has the logical extent IP address 192.168.1.13/24. 3 is managed. In this case, the MAC address MAC3 of the node 10-3 is changed to the MAC address MAC3 of the container IP address 192.168.1.3/24 or the logical extent having the logical extent IP address 192.168.1.13/24 ( 1) may be called MAC address MAC3.

図6の状態において、ノード10-1,10-2,10-3が管理するEIMT116-1,116-2,116-3の例を図7に示す。   FIG. 7 shows an example of the EIMTs 116-1, 116-2, and 116-3 managed by the nodes 10-1, 10-2, and 10-3 in the state of FIG.

次に、ARPテーブル117-iについて説明する。ARPテーブル117-iはノード10-iのコントローラ部11-iに含まれているTCP/IPモジュール113-iによって管理される。ARPテーブル117-iは、従来から知られているARP解決済みのアドレス情報、つまりIPアドレス及びMACアドレスの対を保持する。   Next, the ARP table 117-i will be described. The ARP table 117-i is managed by the TCP / IP module 113-i included in the controller unit 11-i of the node 10-i. The ARP table 117-i holds conventionally known ARP resolved address information, that is, a pair of an IP address and a MAC address.

次に、LPMT122-iについて説明する。LPMT122-iは、従来技術で適用されるLPMTとは異なって、各ノード10-iに固有のテーブルである。つまり各ノード10-iは、固有のLPMT122-iを保持・管理する。LPMT122-iは、当該LPMT122-iを保持するノード10-iが管理する論理エクステントを、当該ノード10-iが有するどの物理ボリュームのどの物理エクステントに格納しているかを示すのに用いられる。本実施形態では、論理ボリュームを構成する論理エクステントをどのノード10-iが管理するかは構成管理部30によって決定される。しかし、ノード10-iが管理すると決定された論理エクステントを、当該ノード10-iが有するどの物理ボリュームのどの物理エクステントに格納するかは、構成管理部30が決定しても、ノード10-iのストレージ部12-iが自立的に決定しても良い。構成管理部30またはノード10-iは、上述の決定に基づいてLPMT122-iを生成し、当該LPMT122-iをノード10-iに設定する。   Next, the LPMT 122-i will be described. The LPMT 122-i is a table unique to each node 10-i, unlike the LPMT applied in the prior art. That is, each node 10-i holds and manages its own LPMT 122-i. The LPMT 122-i is used to indicate in which physical extent of which physical volume the node 10-i has the logical extent managed by the node 10-i that holds the LPMT 122-i. In this embodiment, the configuration management unit 30 determines which node 10-i manages the logical extents that make up the logical volume. However, even if the configuration management unit 30 determines which physical extent of which physical volume the node 10-i has to store the logical extent determined to be managed by the node 10-i, the node 10-i The storage unit 12-i may be determined autonomously. The configuration management unit 30 or the node 10-i generates the LPMT 122-i based on the above determination, and sets the LPMT 122-i to the node 10-i.

図8はLPMT122-iのデータ構造例を示す。LPMT122-iの各エントリは、LEIP(Logical Extent IP-Address:論理エクステントIPアドレス)、PVID(Physical Volume ID:物理ボリュームID)及びPEID(Physical Extent ID:物理エクステントID)の各項目を有する。   FIG. 8 shows an example of the data structure of the LPMT 122-i. Each entry of the LPMT 122-i has items of LEIP (Logical Extent IP-Address), PVID (Physical Volume ID), and PEID (Physical Extent ID).

LEIPには、EIMT116-iにおけるLEIPと同様に、該当するノード10-iが管理する論理エクステントに割り当てられたIPアドレス(論理エクステントIPアドレス)が設定される。PVIDには、当該PVIDと組をなすLEIPの示す論理エクステントIPアドレスに対応付けられる物理ボリュームのID(物理ボリュームID)が設定される。PEIDには、当該PEIDと組をなすLEIPの示す論理エクステントIPアドレスに対応付けられる物理エクステントのID(物理エクステントID)が設定される。LEIPの示す論理エクステントIPアドレスの論理エクステントは、当該LEIPと組をなすPVID及びPEIDで示される物理ボリューム内の物理エクステントに格納される。   In the LEIP, an IP address (logical extent IP address) assigned to a logical extent managed by the corresponding node 10-i is set as in the LEIP in the EIMT 116-i. In the PVID, an ID (physical volume ID) of a physical volume associated with a logical extent IP address indicated by LEIP paired with the PVID is set. In the PEID, an ID (physical extent ID) of a physical extent associated with a logical extent IP address indicated by LEIP paired with the PEID is set. A logical extent of a logical extent IP address indicated by LEIP is stored in a physical extent in a physical volume indicated by PVID and PEID paired with the LEIP.

図9はLPMT122-1〜122-3の具体例を説明する際の前提となる、ノード10-1〜10-3によって管理される論理ボリューム内の論理エクステントと当該論理エクステントが格納される物理ボリューム内の物理エクステントとの関係を示す。   FIG. 9 shows a logical extent in a logical volume managed by the nodes 10-1 to 10-3 and a physical volume in which the logical extent is stored, which is a premise for explaining a specific example of the LPMTs 122-1 to 122-3. The relationship with the physical extent in

図9の例では、ノード10-1〜10-3は、いずれもPVID(物理ボリュームID)が1,2の物理ボリュームを有する。各物理ボリュームは、PEID(物理エクステントID)が1,2,3の物理エクステントから構成される。ノード10-iのPVIDが1,2の物理ボリュームは、例えば当該ノード10-iに含まれている2つのディスク(ディスク装置)123-iによって提供される。   In the example of FIG. 9, each of the nodes 10-1 to 10-3 has physical volumes with PVIDs (physical volume IDs) 1 and 2. Each physical volume is composed of physical extents with PEIDs (physical extent IDs) 1, 2, and 3. The physical volumes having the PVIDs 1 and 2 of the node 10-i are provided by, for example, two disks (disk devices) 123-i included in the node 10-i.

図9において、論理エクステントIPアドレス192.168.1.11/24を持つ論理エクステント1及び論理エクステントIPアドレス192.168.1.14/24を持つ論理エクステント4は、それぞれ、ノード10-1に含まれている、PVIDが1の物理ボリューム内のPEIDが3の物理エクステント及びPVIDが2の物理ボリューム内のPEIDが2の物理エクステントに格納される。論理エクステントIPアドレス192.168.1.12/24を持つ論理エクステント2は、ノード10-2に含まれている、PVIDが1の物理ボリューム内のPEIDが2の物理エクステントに格納される。論理エクステントIPアドレス192.168.1.13/24を持つ論理エクステント3は、ノード10-3に含まれている、PVIDが2の物理ボリューム内のPEIDが3の物理エクステントに格納される。   In FIG. 9, the logical extent 1 having the logical extent IP address 192.168.1.11/24 and the logical extent 4 having the logical extent IP address 192.168.1.14/24 are respectively connected to the node 10-1. The physical extent with PEID 3 in the physical volume with PVID 1 and the PEID 2 with physical ID in the physical volume with PVID 2 are included. The logical extent 2 having the logical extent IP address 192.168.1.12/24 is stored in the physical extent having the PEID 2 in the physical volume having the PVID 1 included in the node 10-2. The logical extent 3 having the logical extent IP address 192.168.1.13/24 is stored in the physical extent of PEID 3 in the physical volume of PVID 2 included in the node 10-3.

図9の状態において、ノード10-1,10-2,10-3が管理するLPMT122-1,122-2,122-3の例を図10に示す。   FIG. 10 shows an example of the LPMTs 122-1, 122-2, and 122-3 managed by the nodes 10-1, 10-2, and 10-3 in the state of FIG.

次に、ホストからノード10-1にアクセス要求が与えられた場合の当該ノード10-1の動作について、図11A及び図11Bのフローチャートを参照して説明する。
今、ホストからノード10-1〜10-3のうちの例えばノード10-1に対してパスが張られている状態で、当該ホストからノード10-1に対してアクセス要求が与えられたものとする。するとノード10-1のターゲットインタフェイス111-1は、FC/SCSIやイーサネット/iSCSIなどの任意のメディア/プロトコルによりホストからのアクセス要求を受け付ける(ステップS1)。アクセス要求は、アクセスされるべき論理ボリューム内の論理ブロックを示す論理ブロックアドレスを含む。ここではアクセス要求により、論理ボリュームIDがLVIDの論理ボリューム(以下、論理ボリュームLVIDと称する)の論理ブロックアドレスLBA(で指定される論理ブロック)へのアクセスが要求されているものとする。ターゲットインタフェイス111-1は、このアクセス要求をIOマネージャ112-1に渡すことにより、当該IOマネージャ112-1にアクセスを要求する。
Next, the operation of the node 10-1 when an access request is given from the host to the node 10-1 will be described with reference to the flowcharts of FIGS. 11A and 11B.
Now, it is assumed that an access request is given from the host to the node 10-1 in a state where a path is established from, for example, the node 10-1 among the nodes 10-1 to 10-3. To do. Then, the target interface 111-1 of the node 10-1 receives an access request from the host by an arbitrary medium / protocol such as FC / SCSI or Ethernet / iSCSI (step S1). The access request includes a logical block address indicating a logical block in the logical volume to be accessed. Here, it is assumed that an access request requests access to a logical block address LBA (logical block specified by) of a logical volume whose logical volume ID is LVID (hereinafter referred to as logical volume LVID). The target interface 111-1 requests access to the IO manager 112-1 by passing this access request to the IO manager 112-1.

IOマネージャ112-1は、ターゲットインタフェイス111-1から渡されたアクセス要求で指定される論理ボリュームLVIDの論理ブロックアドレスLBAが属する論理エクステントを特定するための処理を行う。ここでは、IOマネージャ112-1は論理エクステントIPアドレス特定手段として機能してLVMT115-1を参照し、LVID及びLBAに対応する論理エクステントに割り当てられている論理エクステントIPアドレスLEIPを求める(ステップS2)。   The IO manager 112-1 performs processing for specifying the logical extent to which the logical block address LBA of the logical volume LVID specified by the access request passed from the target interface 111-1 belongs. Here, the IO manager 112-1 functions as a logical extent IP address specifying means, refers to the LVM 115-1, and obtains the logical extent IP address LEIP assigned to the logical extent corresponding to the LVID and LBA (step S2). .

具体的には、IOマネージャ112-1はまず、LVMT115-1を参照して、LVIDと対応付けられているLVNA(論理ボリュームネットワークアドレス)、LVSIZE(論理ボリュームサイズ)、LESIZE(論理エクステントサイズ)及びLVNODE(最大ノード数)を取得する。次にIOマネージャ112-1は、アクセス要求で指定されるLBA(論理ブロックアドレス)と上記取得されたLESIZE(論理エクステントサイズ)とに基づき、“論理エクステント番号=(LBA/LESIZE)+1”の演算を行って、アクセスされるべき論理ボリューム内の論理エクステントの論理エクステント番号を求める。そしてIOマネージャ112-1は、上記取得された、LVNA(論理ボリュームネットワークアドレス)及びLVNODE(最大ノード数)と、演算により求められた論理エクステント番号とに基づき、前記(1)式に従う演算を行うことにより、アクセスされるべき論理ボリューム内の論理エクステントに割り当てられている論理エクステントIPアドレスLEIPを求める(特定する)。   Specifically, the IO manager 112-1 first refers to the LVMT 115-1, and refers to the LVNA (logical volume network address), LVSIZE (logical volume size), LESIZE (logical extent size) associated with the LVID, and LVNODE (maximum number of nodes) is acquired. Next, the IO manager 112-1 calculates “logical extent number = (LBA / LESIZE) +1” based on the LBA (logical block address) specified in the access request and the acquired LESIZE (logical extent size). To obtain the logical extent number of the logical extent in the logical volume to be accessed. Then, the IO manager 112-1 performs an operation according to the equation (1) based on the acquired LVNA (logical volume network address) and LVNODE (maximum number of nodes) and the logical extent number obtained by the operation. Thus, the logical extent IP address LEIP assigned to the logical extent in the logical volume to be accessed is obtained (specified).

次にIOマネージャ112-1は判定手段として機能して、ステップS2で求められた論理エクステントIPアドレスLEIPが割り当てられている論理エクステント(以下、論理エクステントLEIPと称する)を、当該IOマネージャ112-1を含むノード10-1(自ノード)が管理しているかを判定する(ステップS3)。この判定は、LPMT122-1を参照して、ステップS2で求められた論理エクステントIPアドレスLEIPが当該LPMT122-1に格納されているかを調べることによって行われる。   Next, the IO manager 112-1 functions as a determination unit, and a logical extent to which the logical extent IP address LEIP obtained in step S2 is assigned (hereinafter referred to as a logical extent LEIP) is designated as the IO manager 112-1. It is determined whether or not the node 10-1 (own node) including the node is managing (step S3). This determination is performed by referring to the LPMT 122-1, and checking whether the logical extent IP address LEIP obtained in step S2 is stored in the LPMT 122-1.

まず、ステップS3において、論理エクステントLEIPをノード10-1(自ノード)が管理していると判定されたものとする。この場合、IOマネージャ112-1はノード10-1内のIOドライバ121-1に、当該論理エクステントLEIPに対するアクセスを指定するアクセス要求(論理エクステントLEIPへのアクセス要求)を渡す(ステップS4)。   First, in step S3, it is determined that the logical extent LEIP is managed by the node 10-1 (own node). In this case, the IO manager 112-1 passes an access request (access request to the logical extent LEIP) designating access to the logical extent LEIP to the IO driver 121-1 in the node 10-1 (step S4).

これに対し、ステップS3において、論理エクステントLEIPをノード10-1(自ノード)が管理していないと判定されたものとする。この場合、IOマネージャ112-1は、ノード10-1以外のノード(他ノード)で管理されている論理エクステントLEIPにアクセスするために、当該論理エクステントLEIPに割り当てられている論理エクステントIPアドレスLEIPをアクセス先とするアクセス(つまり論理エクステントLEIPへのアクセス)を、ノード10-1内のTCP/IPモジュール113-1に要求する(ステップS5)
TCP/IPモジュール113-1は、他ノードとのイーサネット(下位レイヤ)を利用した高信頼通信路を構築するためのTCP/IPの処理を行い、イーサネットコントローラ114-1を制御してTCP/IPパケットを包んだイーサネットフレームの送受信を行う。本実施形態においてTCP/IPモジュール113-1は、IOマネージャ112-1から他ノードが管理する論理エクステントLEIPへのアクセスが要求されると、EIMT116-1を参照して、ノード10-1(自ノードのイーサネットコントローラ114-1)が所有するコンテナIPアドレスCIPを取得する(ステップS6)。このステップS6において、TCP/IPモジュール113-1はTCP/IPパケット生成手段として機能して、取得されたコンテナIPアドレスCIPを送信元とし、論理エクステントIPアドレスLEIPを送信先とする、アクセス要求を含むTCP/IPパケットを生成する。
In contrast, in step S3, it is determined that the node 10-1 (own node) does not manage the logical extent LEIP. In this case, the IO manager 112-1 uses the logical extent IP address LEIP assigned to the logical extent LEIP to access the logical extent LEIP managed by a node (other node) other than the node 10-1. Requesting access to the access destination (that is, access to the logical extent LEIP) is made to the TCP / IP module 113-1 in the node 10-1 (step S5).
The TCP / IP module 113-1 performs TCP / IP processing for constructing a highly reliable communication path using Ethernet (lower layer) with other nodes, and controls the Ethernet controller 114-1 to control TCP / IP. Send and receive Ethernet frames that wrap packets. In this embodiment, when access to the logical extent LEIP managed by another node is requested from the IO manager 112-1, the TCP / IP module 113-1 refers to the EIMT 116-1 and refers to the node 10-1 (self The container IP address CIP owned by the Ethernet controller 114-1) of the node is acquired (step S6). In this step S6, the TCP / IP module 113-1 functions as a TCP / IP packet generation means, and issues an access request with the acquired container IP address CIP as the transmission source and the logical extent IP address LEIP as the transmission destination. Generate a TCP / IP packet containing it.

次にTCP/IPモジュール113-1はアドレス解決処理として機能して、生成されたTCP/IPパケットをイーサネットフレームに包み込むのに必要な、送信先の論理エクステントIPアドレスLEIPに対応するMACアドレスLEMACを解決するためのアドレス解決処理を行う(ステップS7)。このアドレス解決処理の詳細については後述する。   Next, the TCP / IP module 113-1 functions as an address resolution process, and the MAC address LEMAC corresponding to the logical extent IP address LEIP of the transmission destination necessary to wrap the generated TCP / IP packet in the Ethernet frame is obtained. Address resolution processing for solving is performed (step S7). Details of this address resolution processing will be described later.

TCP/IPモジュール113-1は、ステップS7のアドレス解決処理により、送信先の論理エクステントIPアドレスLEIPに対応するMACアドレスLEMACを解決(決定)すると、EIMT116-1を参照して、送信元コンテナIPアドレス(自ノードのコンテナIPアドレス)に対応するMACアドレスCMACを取得する(ステップS8)。次にTCP/IPモジュール113-1は、先に生成されたTCP/IPパケットを包み込むイーサネットフレームであって、上記取得されたMACアドレスCMACを送信元MACアドレスとし、上記解決されたMACアドレスLEMAC(つまり送信先論理エクステントIPアドレスLEIPに対応するMACアドレスLEMAC)を送信先MACアドレスとするイーサネットフレームを生成し、当該イーサネットフレームをイーサネットコントローラ114-1を介してネットワーク40上に送信する(ステップS9)。つまりTCP/IPモジュール113-1は、アクセス要求が含まれるTCP/IPパケットを包み込むイーサネットフレームを送信する。ここで、アクセス要求の複数パケットへの分割、パケット到着順序制御、パケット再送制御などの周知の処理は、TCP/IPモジュール113-1にて行われる。イーサネットコントローラ114-1はMACアドレスを持ち、イーサネットフレームの送受信制御を行う。ノード10-2,10-3のイーサネットコントローラ114-2,114-3も同様である。   When the TCP / IP module 113-1 resolves (determines) the MAC address LEMAC corresponding to the logical extent IP address LEIP of the transmission destination by the address resolution processing in step S7, the TCP / IP module 113-1 refers to the EIMT 116-1 and refers to the transmission source container IP. The MAC address CMAC corresponding to the address (container IP address of the own node) is acquired (step S8). Next, the TCP / IP module 113-1 is an Ethernet frame that wraps the previously generated TCP / IP packet, and uses the acquired MAC address CMAC as a source MAC address and the resolved MAC address LEMAC ( That is, an Ethernet frame having the transmission destination MAC address as the MAC address LEMAC corresponding to the transmission destination logical extent IP address LEIP is generated, and the Ethernet frame is transmitted to the network 40 via the Ethernet controller 114-1 (step S9). . That is, the TCP / IP module 113-1 transmits an Ethernet frame that wraps a TCP / IP packet including an access request. Here, the TCP / IP module 113-1 performs well-known processes such as dividing an access request into a plurality of packets, packet arrival order control, and packet retransmission control. The Ethernet controller 114-1 has a MAC address and performs transmission / reception control of the Ethernet frame. The same applies to the Ethernet controllers 114-2 and 114-3 of the nodes 10-2 and 10-3.

さて、TCP/IPモジュール113-1(ノード10-1のTCP/IPモジュール113-1)からイーサネットコントローラ114-1を介してネットワーク40に送信されたイーサネットフレームの送信先MACアドレス(LEMAC)が、例えばノード10-2(のイーサネットコントローラ114-2)に割り当てられているものとする。この場合、上記イーサネットフレームは、ノード10-2のイーサネットコントローラ114-2で受信される。   Now, the destination MAC address (LEMAC) of the Ethernet frame transmitted from the TCP / IP module 113-1 (the TCP / IP module 113-1 of the node 10-1) to the network 40 via the Ethernet controller 114-1 is: For example, it is assumed that the node 10-2 (the Ethernet controller 114-2) is assigned. In this case, the Ethernet frame is received by the Ethernet controller 114-2 of the node 10-2.

イーサネットコントローラ114-2は、イーサネットフレームを受信すると、即ちアクセス要求が含まれているTCP/IPパケットを包み込むイーサネットフレームを受信すると、ノード10-2のTCP/IPモジュール113-2に当該イーサネットフレームを渡して処理を依頼する(ステップS10)。このステップS10において、TCP/IPモジュール113-2は、イーサネットフレームに包み込まれているTCP/IPパケットからアクセス要求を抽出して、当該アクセス要求をIOドライバ121-2に送ることで、要求されたアクセス処理を依頼する。   When the Ethernet controller 114-2 receives the Ethernet frame, that is, receives the Ethernet frame that wraps the TCP / IP packet including the access request, the Ethernet controller 114-2 sends the Ethernet frame to the TCP / IP module 113-2 of the node 10-2. The process is handed over to request processing (step S10). In step S10, the TCP / IP module 113-2 is requested by extracting the access request from the TCP / IP packet wrapped in the Ethernet frame and sending the access request to the IO driver 121-2. Request access processing.

IOドライバ121-2は、IOマネージャ112-2(自ノードからのアクセス要求時)またはTCP/IPモジュール113-2(他ノードからのアクセス要求時)から論理エクステントに対するアクセス要求を受け付ける。ここでは、TCP/IPモジュール113-2からIOドライバ121-2にアクセス要求が送られたものとする(ステップS10)。この場合、IOドライバ121-2は、TCP/IPモジュール113-2から送られたアクセス要求を受け付けて、当該アクセス要求で指定された論理エクステントLEIPに対するアクセス処理を行う(ステップS11)。このIOドライバ121-2によるアクセス処理の詳細については後述する。   The IO driver 121-2 receives an access request for a logical extent from the IO manager 112-2 (at the time of an access request from its own node) or the TCP / IP module 113-2 (at the time of an access request from another node). Here, it is assumed that an access request is sent from the TCP / IP module 113-2 to the IO driver 121-2 (step S10). In this case, the IO driver 121-2 receives the access request sent from the TCP / IP module 113-2, and performs access processing for the logical extent LEIP specified by the access request (step S11). Details of the access processing by the IO driver 121-2 will be described later.

IOドライバ121-2は、TCP/IPモジュール113-2から送られたアクセス要求の指定するアクセス処理を実行すると、当該アクセス要求に対する応答をTCP/IPモジュール113-2に返す。TCP/IPモジュール113-2は、IOドライバ121-2からアクセス要求に対する応答を受け取ると、イーサネットコントローラ114-2を介して、アクセス要求元のノード10-1のTCP/IPモジュール113-1に応答を返す(ステップS12)。   When the IO driver 121-2 executes an access process specified by the access request sent from the TCP / IP module 113-2, the IO driver 121-2 returns a response to the access request to the TCP / IP module 113-2. When receiving a response to the access request from the IO driver 121-2, the TCP / IP module 113-2 responds to the TCP / IP module 113-1 of the access request source node 10-1 via the Ethernet controller 114-2. Is returned (step S12).

アクセス要求元のノード10-1のTCP/IPモジュール113-1は、アクセス要求先のノード10-2のTCP/IPモジュール113-2からの応答をイーサネットコントローラ114-1を介して受け取ると、IOマネージャ112-1に対して応答を返す(ステップS13)。するとIOマネージャ112-1は、TCP/IPモジュール113-1からの応答(つまりアクセス要求に対する応答)を受け取る(ステップS14)。ターゲットインタフェイス111-1は、IOマネージャ112-1がアクセス要求に対する応答を受け取ると、ホストに対して応答(アクセス応答)を返す(ステップS15)。   When receiving the response from the TCP / IP module 113-2 of the access request destination node 10-2 via the Ethernet controller 114-1, the TCP / IP module 113-1 of the access request source node 10-1 receives the IO A response is returned to the manager 112-1 (step S13). Then, the IO manager 112-1 receives a response (that is, a response to the access request) from the TCP / IP module 113-1 (step S14). When the IO manager 112-1 receives a response to the access request, the target interface 111-1 returns a response (access response) to the host (step S15).

一方、ステップS3で論理エクステントLEIPをノード10-1(自ノード)が管理していると判定された結果、当該ノード10-1内でIOマネージャ112-1からIOドライバ121-1にアクセス要求が送られた場合には(ステップS4)、当該IOドライバ121-1が論理エクステントLEIPに対するアクセス処理を行う(ステップS16)。このIOドライバ121-1によるアクセス処理の詳細については後述する。   On the other hand, when it is determined in step S3 that the logical extent LEIP is managed by the node 10-1 (own node), an access request is sent from the IO manager 112-1 to the IO driver 121-1 in the node 10-1. If it is sent (step S4), the IO driver 121-1 performs access processing to the logical extent LEIP (step S16). Details of the access processing by the IO driver 121-1 will be described later.

IOドライバ121-1は、IOマネージャ112-1から送られたアクセス要求の指定するアクセス処理を実行すると、当該アクセス要求に対する応答をIOマネージャ112-1に返す。するとIOマネージャ112-1は、IOドライバ121-1からの応答(つまりアクセス要求に対する応答)を受け取る(ステップS17)。ターゲットインタフェイス111-1は、IOマネージャ112-1がアクセス要求に対する応答を受け取ると、ホストに対して応答(アクセス応答)を返す(ステップS15)。   When the IO driver 121-1 executes the access process specified by the access request sent from the IO manager 112-1, the IO driver 121-1 returns a response to the access request to the IO manager 112-1. Then, the IO manager 112-1 receives a response (that is, a response to the access request) from the IO driver 121-1 (step S17). When the IO manager 112-1 receives a response to the access request, the target interface 111-1 returns a response (access response) to the host (step S15).

次に、TCP/IPモジュール113-1による論理エクステントIPアドレスLEIPに対応するMACアドレスLEMACを解決するためのアドレス解決処理(図11AステップS7)の詳細について、図12のフローチャートを参照して説明する。   Next, details of the address resolution process (step S7 in FIG. 11A) for resolving the MAC address LEMAC corresponding to the logical extent IP address LEIP by the TCP / IP module 113-1 will be described with reference to the flowchart of FIG. .

まずTCP/IPモジュール113-1は、ARPテーブル参照手段として機能してARPテーブル117-1を参照することにより、当該ARPテーブル117-1に論理エクステントIPアドレスLEIPのARP解決済みのエントリが既に存在する(キャッシュされている)かを判定する(ステップS21)。もし、存在するならば、TCP/IPモジュール113-1は、ARPテーブル117-1の該当するエントリから、論理エクステントIPアドレスLEIPに対応するMACアドレスLEMACを取得する(ステップS22)。TCP/IPモジュール113-1は、このMACアドレスLEMACを論理エクステントLEIPのMACアドレスLEMACとする(ステップS23)。   First, the TCP / IP module 113-1 functions as an ARP table reference unit and refers to the ARP table 117-1 so that an ARP-resolved entry for the logical extent IP address LEIP already exists in the ARP table 117-1. It is determined whether it is cached (step S21). If it exists, the TCP / IP module 113-1 acquires the MAC address LEMAC corresponding to the logical extent IP address LEIP from the corresponding entry of the ARP table 117-1 (step S22). The TCP / IP module 113-1 sets the MAC address LEMAC as the MAC address LEMAC of the logical extent LEIP (step S23).

これに対し、ARPテーブル117-1に論理エクステントIPアドレスLEIPのARP解決済みのエントリが存在しないならば(ステップS21)、TCP/IPモジュール113-1はARP要求手段として機能して、EIMT116-1を参照することによりノード10-1(自ノード)が持つコンテナIPアドレスCIP及びMACアドレスCMACを取得する(ステップS24)。このステップS24において、TCP/IPモジュール113-1は、取得されたコンテナIPアドレスCIP及びMACアドレスCMACを送信元とし、論理エクステントIPアドレスLEIPを送信先とするARP要求パケットを生成し、当該ARP要求パケットをイーサネットコントローラ114-1によりネットワーク40上にブロードキャストさせるために、当該ARP要求パケットをイーサネットコントローラ114-1に送る。   On the other hand, if there is no ARP-resolved entry for the logical extent IP address LEIP in the ARP table 117-1 (step S21), the TCP / IP module 113-1 functions as an ARP request unit, and the EIMT 116-1 Is obtained, the container IP address CIP and the MAC address CMAC possessed by the node 10-1 (own node) are acquired (step S24). In this step S24, the TCP / IP module 113-1 generates an ARP request packet having the acquired container IP address CIP and MAC address CMAC as the transmission source and the logical extent IP address LEIP as the transmission destination, and the ARP request In order to broadcast the packet on the network 40 by the Ethernet controller 114-1, the ARP request packet is sent to the Ethernet controller 114-1.

イーサネットコントローラ114-1は、TCP/IPモジュール113-1からARP要求パケットを受け取ると、当該ARP要求パケット(ARP要求フレーム)をネットワーク40上にブロードキャストする(ステップS25)。そしてイーサネットコントローラ114-1は、ARP要求に対する応答を待つ。   When receiving the ARP request packet from the TCP / IP module 113-1, the Ethernet controller 114-1 broadcasts the ARP request packet (ARP request frame) on the network 40 (step S25). Then, the Ethernet controller 114-1 waits for a response to the ARP request.

ノード10-1のイーサネットコントローラ114-1からネットワーク40上にブロードキャストされたARP要求パケットは、ストレージクラスタ内の他のノードのイーサネットコントローラ、即ちノード10-2,10-3のイーサネットコントローラ114-2,114-3で受信される。すると、ノード10-2,10-3ではARP要求に対する処理が行われ、ノード10-2,10-3のうちARP要求パケットの送信先のIPアドレスLEIPで指定される論理エクステントを管理するノード、例えばノード10-2が、ARP応答パケット(ARP応答フレーム)をARP要求パケットの送信元に返す。このARP応答パケットは、当該ARP応答パケットの送信元(ARP要求パケットに対する応答元)として、論理エクステントIPアドレスLEIP及び当該IPアドレスLEIPに対応付けてEIMTに保持されているMACアドレスLEMACを含む。ARP要求に対する処理の詳細は後述する。   The ARP request packet broadcast on the network 40 from the Ethernet controller 114-1 of the node 10-1 is the Ethernet controller of another node in the storage cluster, that is, the Ethernet controllers 114-2 of the nodes 10-2 and 10-3. 114-3. Then, the nodes 10-2 and 10-3 perform processing for the ARP request, and the nodes 10-2 and 10-3 manage the logical extent specified by the IP address LEIP of the destination of the ARP request packet. For example, the node 10-2 returns an ARP response packet (ARP response frame) to the transmission source of the ARP request packet. The ARP response packet includes a logical extent IP address LEIP and a MAC address LEMAC held in the EIMT in association with the IP address LEIP as a transmission source of the ARP response packet (response source to the ARP request packet). Details of processing for an ARP request will be described later.

ノード10-1のイーサネットコントローラ114-1は、論理エクステントLEIPを管理するノードのイーサネットコントローラ(ここではノード10-2のイーサネットコントローラ114-2)から返されたARP応答パケットを受信する(ステップS26)。イーサネットコントローラ114-1で受信されたARP応答パケットはTCP/IPモジュール113-1に渡される。TCP/IPモジュール113-1は、イーサネットコントローラ114-1からARP応答パケットを受け取るとARPテーブル登録手段として機能して、当該ARP応答パケットの送信元の論理エクステントIPアドレスLEIP及びMACアドレスLMAC、即ちアクセスされるべき論理エクステントIPアドレスLEIP及び当該IPアドレスLEIPで指定される論理エクステントLEIPを管理するノードのMACアドレスLMAC(論理エクステントLEIPのMACアドレスLMAC)を、ARPテーブル117-1に追加(登録)する(ステップS27)。このようにしてTCP/IPモジュール113-1は、論理エクステントLEIPを管理するノードのMACアドレスLMACを論理エクステントLEIPのMACアドレスLEMACとして取得する(ステップS23)。   The Ethernet controller 114-1 of the node 10-1 receives the ARP response packet returned from the Ethernet controller of the node that manages the logical extent LEIP (here, the Ethernet controller 114-2 of the node 10-2) (step S26). . The ARP response packet received by the Ethernet controller 114-1 is passed to the TCP / IP module 113-1. When the TCP / IP module 113-1 receives the ARP response packet from the Ethernet controller 114-1, the TCP / IP module 113-1 functions as an ARP table registration unit, and the logical extent IP address LEIP and MAC address LMAC of the transmission source of the ARP response packet, that is, access The logical extent IP address LEIP to be performed and the MAC address LMAC of the node that manages the logical extent LEIP specified by the IP address LEIP (the MAC address LMAC of the logical extent LEIP) are added (registered) to the ARP table 117-1. (Step S27). In this way, the TCP / IP module 113-1 acquires the MAC address LMAC of the node that manages the logical extent LEIP as the MAC address LEMAC of the logical extent LEIP (step S23).

次に、ARP要求に対する処理(ARP要求処理)の詳細について、当該処理がノード10-2で行われる場合を例に、図13のフローチャートを参照して説明する。
前記ステップS25(図12参照)で、ノード10-1のイーサネットコントローラ114-1からARP要求パケットがブロードキャストされると、ノード10-2のイーサネットコントローラ114-2は当該ARP要求パケットを受信する(ステップS31)。このARP要求パケットはノード10-3のイーサネットコントローラ114-3でも受信される。
Next, details of the processing for the ARP request (ARP request processing) will be described with reference to the flowchart of FIG. 13 by taking as an example the case where the processing is performed in the node 10-2.
In step S25 (see FIG. 12), when the ARP request packet is broadcast from the Ethernet controller 114-1 of the node 10-1, the Ethernet controller 114-2 of the node 10-2 receives the ARP request packet (step). S31). This ARP request packet is also received by the Ethernet controller 114-3 of the node 10-3.

イーサネットコントローラ114-2で受信されたARP要求パケットはノード10-2のTCP/IPモジュール113-2に渡される。これにより、イーサネットコントローラ114-2からTCP/IPモジュール113-2にARP要求に対する応答処理が依頼される。すると、TCP/IPモジュール113-2はARPモジュール(ARP要求処理モジュール)として機能する。   The ARP request packet received by the Ethernet controller 114-2 is passed to the TCP / IP module 113-2 of the node 10-2. As a result, the Ethernet controller 114-2 requests the TCP / IP module 113-2 to respond to the ARP request. Then, the TCP / IP module 113-2 functions as an ARP module (ARP request processing module).

まずTCP/IPモジュール113-2は、ARPテーブル117-2にARP要求パケットの送信元のコンテナIPアドレスCIPのエントリが既に存在する場合、当該ARP要求パケットの送信元のMACアドレスCMACで当該ARPテーブル117-2を更新する(ステップS32)。   First, when the entry of the container IP address CIP of the transmission source of the ARP request packet already exists in the ARP table 117-2, the TCP / IP module 113-2 uses the MAC address CMAC of the transmission source of the ARP request packet as the ARP table. 117-2 is updated (step S32).

次にTCP/IPモジュール113-2は、ARP要求パケットの送信先の論理エクステントIPアドレスLEIPのエントリがEIMT116-2に存在するかにより、ノード10-2(自ノード)が当該論理エクステントIPアドレスLEIPで指定される論理エクステントLEIPを管理しているかを判定する(ステップS33)。もし、論理エクステントIPアドレスLEIPのエントリがEIMT116-2に存在するならば、即ちノード10-2(自ノード)が論理エクステントLEIPを管理しているならば、TCP/IPモジュール113-2は、ARP要求パケットの送信元のIPアドレス(コンテナIPアドレス)CIP及び送信元のMACアドレスCMACの対をARPテーブル117-2に登録する(ステップS34)。   Next, the TCP / IP module 113-2 determines whether the node 10-2 (own node) has the logical extent IP address LEIP depending on whether the entry of the logical extent IP address LEIP of the transmission destination of the ARP request packet exists in the EIMT 116-2. It is determined whether the logical extent LEIP specified in (1) is managed (step S33). If the entry of the logical extent IP address LEIP exists in the EIMT 116-2, that is, if the node 10-2 (local node) manages the logical extent LEIP, the TCP / IP module 113-2 A pair of the source IP address (container IP address) CIP of the request packet and the source MAC address CMAC is registered in the ARP table 117-2 (step S34).

論理エクステントIPアドレスLEIPのエントリがEIMT116-2に存在する場合、LPMT122-2にも論理エクステントIPアドレスLEIPのエントリが存在する。したがってステップS33の判定は、LPMT122-2を参照することによって、ノード10-2(自ノード)が当該論理エクステントIPアドレスLEIPで指定される論理エクステントLEIPを管理しているかを判定することと等価である。   When an entry for the logical extent IP address LEIP exists in the EIMT 116-2, an entry for the logical extent IP address LEIP also exists in the LPMT 122-2. Therefore, the determination in step S33 is equivalent to determining whether the node 10-2 (own node) manages the logical extent LEIP specified by the logical extent IP address LEIP by referring to the LPMT 122-2. is there.

TCP/IPモジュール113-2はステップS34を実行すると、EIMT116-2を参照して、ARP要求パケットの送信先のIPアドレス、即ち論理エクステントIPアドレスLEIPに対応付けられているMACアドレスLEMACを取得する(ステップS35)。このステップS35において、TCP/IPモジュール113-2はARP要求に対して論理エクステントIPアドレスLEIPのMACアドレス(つまり取得されたMACアドレスLEMAC)を応答するために、論理エクステントIPアドレスLEIP及びMACアドレスLEMACを送信元とし、IPアドレスCIP及びMACアドレスCMACを送信先とするARP応答パケットを組み立てて、当該ARP応答パケットをイーサネットコントローラ114-2に渡す。するとイーサネットコントローラ114-2は、TCP/IPモジュール113-2から渡されたARP応答パケットをネットワーク40上に送信する(ステップS36)。   When executing step S34, the TCP / IP module 113-2 refers to the EIMT 116-2 and acquires the IP address of the transmission destination of the ARP request packet, that is, the MAC address LEMAC associated with the logical extent IP address LEIP. (Step S35). In step S35, the TCP / IP module 113-2 responds to the ARP request with the MAC address of the logical extent IP address LEIP (that is, the acquired MAC address LEMAC), and then the logical extent IP address LEIP and the MAC address LEMAC. ARP response packet having the IP address CIP and MAC address CMAC as the transmission destination is assembled, and the ARP response packet is passed to the Ethernet controller 114-2. Then, the Ethernet controller 114-2 transmits the ARP response packet passed from the TCP / IP module 113-2 to the network 40 (step S36).

一方、論理エクステントIPアドレスLEIPのエントリがEIMT116-2(LPMT122-2)に存在しないならば、即ちノード10-2(自ノード)が論理エクステントLEIPを管理していないならば(ステップS33)、TCP/IPモジュール113-2はARP要求を無視し、応答不要をイーサネットコントローラ114-2に通知する(ステップS37)。この場合、ARP要求パケットの送信元にはイーサネットコントローラ114-2から何も応答は返されない。   On the other hand, if the entry of the logical extent IP address LEIP does not exist in the EIMT 116-2 (LPMT 122-2), that is, if the node 10-2 (own node) does not manage the logical extent LEIP (step S33), the TCP The / IP module 113-2 ignores the ARP request and notifies the Ethernet controller 114-2 that no response is required (step S37). In this case, no response is returned from the Ethernet controller 114-2 to the transmission source of the ARP request packet.

次に、IOドライバによるアクセス処理(図11BステップS11またはS16)の詳細について、図14のフローチャートを参照して説明する。
今、ノード10-2のTCP/IPモジュール113-2からIOドライバ121-2に対して、論理エクステントLEIPへのアクセス要求(論理エクステントIPアドレスLEIPが割り当てられた論理エクステントLEIPに対するアクセスを指定するアクセス要求)が渡されたものとする(図11BステップS10)。するとIOドライバ121-2は、図11BのステップS11の処理(アクセス処理)を、図14のフローチャートに従って次のように実行する。
Next, details of the access processing (step S11 or S16 in FIG. 11B) by the IO driver will be described with reference to the flowchart of FIG.
Now, the TCP / IP module 113-2 of the node 10-2 gives an access request to the logical extent LEIP to the IO driver 121-2 (access designating access to the logical extent LEIP to which the logical extent IP address LEIP is assigned. Request) is passed (step S10 in FIG. 11B). Then, the IO driver 121-2 performs the process (access process) of step S11 of FIG. 11B as follows according to the flowchart of FIG.

まず、IOドライバ121-2は、TCP/IPモジュール113-2から渡された論理エクステントLEIPへのアクセス要求を受け付ける(ステップS41)。次にIOドライバ121-2は、論理エクステントIPアドレスLEIPをキーとしてLPMT122-2を検索することにより、当該IPアドレスLEIPに対応付けられている、物理ボリュームID(PVID)及び物理エクステントID(PEID)を取得する(ステップS42)。   First, the IO driver 121-2 receives an access request to the logical extent LEIP passed from the TCP / IP module 113-2 (step S41). Next, the IO driver 121-2 searches the LPMT 122-2 using the logical extent IP address LEIP as a key, and thereby associates the physical volume ID (PVID) and physical extent ID (PEID) associated with the IP address LEIP. Is acquired (step S42).

論理エクステントIPアドレスLEIPが割り当てられている論理エクステントLEIPは、取得されたPVIDで指定される物理ボリュームの取得されたPEIDで指定される物理エクステントに格納されている。そこでIOドライバ121-2は、PVIDで指定される物理ボリュームのPEIDで指定される物理エクステントに対してアクセスする(ステップS43)。そしてIOドライバ121-2はアクセスが完了すると、アクセス要求に対する応答(アクセス処理完了の応答)を当該アクセス要求の直接の要求元、つまりTCP/IPモジュール113-2に返す(ステップS44)。   The logical extent LEIP to which the logical extent IP address LEIP is assigned is stored in the physical extent specified by the acquired PEID of the physical volume specified by the acquired PVID. Therefore, the IO driver 121-2 accesses the physical extent specified by the PEID of the physical volume specified by PVID (step S43). When the access is completed, the IO driver 121-2 returns a response to the access request (access processing completion response) to the direct request source of the access request, that is, the TCP / IP module 113-2 (step S44).

以上、図11BステップS11のアクセス処理の詳細について説明した。次に図11BステップS16のアクセス処理について説明する。今、ノード10-1のIOマネージャ112-1からIOドライバ121-1に対して、論理エクステントLEIPへのアクセス要求が渡されたものとする(図11AステップS4)。この場合、IOドライバ121-1は、図11BステップS16のアクセス処理を、上述したIOドライバ121-2による図11BステップS11のアクセス処理と同一手順(図14ステップS41〜S44)で実行する。但し、IOドライバ121-1は、アクセス要求をTCP/IPモジュール113-1ではなくてIOマネージャ112-1から受け取り(ステップS41)、アクセス要求に対する応答をTCP/IPモジュール113-1ではなくてIOマネージャ112-1に返す(ステップS44)。   The details of the access process in step S11 of FIG. 11B have been described above. Next, the access process in step S16 of FIG. 11B will be described. Assume that an access request to the logical extent LEIP is passed from the IO manager 112-1 of the node 10-1 to the IO driver 121-1 (step S4 in FIG. 11A). In this case, the IO driver 121-1 executes the access process of FIG. 11B step S16 in the same procedure as the access process of FIG. 11B step S11 by the IO driver 121-2 (steps S41 to S44 in FIG. 14). However, the IO driver 121-1 receives an access request from the IO manager 112-1 instead of the TCP / IP module 113-1 (step S41), and a response to the access request is received from the IO / not the TCP / IP module 113-1. It returns to the manager 112-1 (step S44).

図15は、図1のストレージクラスタにおいて、LVMT115-1〜115-3、EIMT116-1〜116-3及びLPMT122-1〜122-3が、それぞれ図4、図7及び図10のように構成され、ARPテーブル117-1〜117-3のエントリが空である状態において、ホストからノード10-1に対して、論理ボリューム1の論理ブロックアドレス(LBA)768MBへのアクセスを指定するアクセス要求が与えられた場合の動作の流れを示す。以下、図15の動作の流れについて、図11A及び図11Bのフローチャートを併用して説明する。   FIG. 15 shows that in the storage cluster of FIG. 1, LVMTs 115-1 to 115-3, EIMTs 116-1 to 116-3 and LPMTs 122-1 to 122-3 are configured as shown in FIGS. 4, 7, and 10, respectively. In the state where the entries in the ARP tables 117-1 to 117-3 are empty, an access request designating access to the logical block address (LBA) 768MB of the logical volume 1 is given from the host to the node 10-1. The flow of the operation when Hereinafter, the operation flow of FIG. 15 will be described with reference to the flowcharts of FIGS. 11A and 11B.

今、図15において矢印501で示されるように、ホストからストレージクラスタ内のノード10-1に対して、論理ボリューム1(LVID=1)の論理ブロックアドレス(LBA)“768MB”(LBA=768MB)へのアクセスを指定するアクセス要求が与えられたものとする。   As shown by an arrow 501 in FIG. 15, the logical block address (LBA) “768 MB” (LBA = 768 MB) of the logical volume 1 (LVID = 1) from the host to the node 10-1 in the storage cluster. Assume that an access request specifying access to is given.

ノード10-1のターゲットインタフェイス111-1は、ホストからの上記アクセス要求を受け付け、当該アクセス要求に対する処置を、矢印502で示されるように当該ノード10-1のIOマネージャ112-1に要求する(図11AステップS1)。   The target interface 111-1 of the node 10-1 receives the access request from the host, and requests the IO manager 112-1 of the node 10-1 to take action for the access request as indicated by an arrow 502. (FIG. 11A step S1).

IOマネージャ112-1は、図4に示されるLVMT115-1に基づき、論理ボリューム1の論理ブロックアドレス(LBA)“768MB”が、論理エクステントIPアドレス(LEIP)“192.168.1.12/24”を持つ論理エクステントに位置することを求める(図11AステップS2)。   The IO manager 112-1 uses the logical block address (LBA) “768MB” of the logical volume 1 as the logical extent IP address (LEIP) “192.168.1.12/24, based on the LVM 115-1 shown in FIG. Is located in a logical extent having "" (step S2 in FIG. 11A).

次にIOマネージャ112-1は、図10に示すLPMT122-1を参照することで、論理エクステントIPアドレス(LEIP)“192.168.1.12/24”(を持つ論理エクステントLEIP)をノード10-1(自ノード)が管理しているかを判定する(図11AステップS3)。図10に示すLPMT122-1の例では、“192.168.1.12/24”はノード10-1(自ノード)では管理されていない(他ノードで管理されている)ことから、IOマネージャ112-1は矢印503で示されるように、ノード10-1のTCP/IPモジュール113-1にアクセス要求の処理を依頼する(図11AステップS5)。   Next, the IO manager 112-1 refers to the LPMT 122-1 shown in FIG. 10, and assigns the logical extent IP address (LEIP) “192.168.1.12/24” (the logical extent LEIP) having the node 10. -1 (own node) is managed (step S3 in FIG. 11A). In the example of the LPMT 122-1 shown in FIG. 10, "192.168.1.12/24" is not managed by the node 10-1 (own node) (managed by another node). 112-1, as indicated by an arrow 503, requests the TCP / IP module 113-1 of the node 10-1 to process the access request (step S5 in FIG. 11A).

TCP/IPモジュール113-1は、図7に示すEIMT116-1を参照して、ノード10-1(自ノード)が所有するコンテナIPアドレス(CIP)“192.168.1.1/24”を取得し、当該コンテナIPアドレスCIP=192.168.1.1/24を送信元とし、論理エクステントIPアドレスLEIP=192.168.1.12を送信先とする、アクセス要求のTCP/IPパケットを生成する(図11AステップS6)。   The TCP / IP module 113-1 refers to the EIMT 116-1 shown in FIG. 7 and determines the container IP address (CIP) “192.168.1.1/24” owned by the node 10-1 (own node). The TCP / IP packet of the access request having the container IP address CIP = 192.168.1.1 / 24 as the transmission source and the logical extent IP address LEIP = 192.168.1.12 as the transmission destination is acquired. (Step S6 in FIG. 11A).

次にTCP/IPモジュール113-1は、送信先の論理エクステントIPアドレスLEIP=192.168.1.12/24のMACアドレスを解決するためのアドレス解決処理を行う(図11AステップS7)。このアドレス解決処理において、TCP/IPモジュール113-1はARPテーブル117-1を参照する。しかし、当該ARPテーブル117-1には“192.168.1.12/24”のMACアドレスはキャッシュされていない(図12ステップS21)。   Next, the TCP / IP module 113-1 performs address resolution processing for resolving the MAC address of the destination logical extent IP address LEIP = 192.168.1.12 / 24 (step S7 in FIG. 11A). In this address resolution process, the TCP / IP module 113-1 refers to the ARP table 117-1. However, the MAC address “192.168.1.12/24” is not cached in the ARP table 117-1 (step S21 in FIG. 12).

そこでTCP/IPモジュール113-1は、EIMT116-1を参照して、ノード10-1(自ノード)のコンテナIPアドレスCIP=192.168.1.1/24とそのMACアドレスCMAC=MAC1を送信元とし、論理エクステントIPアドレスLEIP=192.168.1.12/24を送信先とするARP要求パケットを生成する(図12ステップS24)。TCP/IPモジュール113-1は、生成されたARP要求パケットを、ノード10-1のイーサネットコントローラ114-1により矢印504aで示されるようにブロードキャストさせる(図12ステップS25)。   Therefore, the TCP / IP module 113-1 refers to the EIMT 116-1 and transmits the container IP address CIP = 192.168.1.1 / 24 of the node 10-1 (own node) and its MAC address CMAC = MAC1. An ARP request packet is generated with the logical extent IP address LEIP = 192.168.1.12 / 24 as the transmission destination (step S24 in FIG. 12). The TCP / IP module 113-1 broadcasts the generated ARP request packet by the Ethernet controller 114-1 of the node 10-1 as indicated by an arrow 504a (step S25 in FIG. 12).

すると、図1のストレージクラスタの中で、論理ボリューム1を構成している(つまり192.168.1.0/24のネットワークに参加している)ノード10-1〜10-3 のうち、ノード10-1以外のノード10-2,10-3で当該ノード10-1からのARP要求パケットが受信される(図13ステップS31)。ノード10-2,10-3で受信されたARPパケットは、それぞれ当該ノード10-2,10-3のイーサネットコントローラ114-2,114-3から当該ノード10-2,10-3のTCP/IPモジュール113-2,113-3に矢印504bで示されるように送られる。   Then, among the nodes 10-1 to 10-3 constituting the logical volume 1 (that is, participating in the 192.168.1.0/24 network) in the storage cluster of FIG. The nodes 10-2 and 10-3 other than 10-1 receive the ARP request packet from the node 10-1 (step S31 in FIG. 13). The ARP packets received by the nodes 10-2 and 10-3 are respectively transmitted from the Ethernet controllers 114-2 and 114-3 of the nodes 10-2 and 10-3 to the TCP / IP of the nodes 10-2 and 10-3. Modules 113-2 and 113-3 are sent as indicated by arrow 504b.

ノード10-3のTCP/IPモジュール113-3は、ARPテーブル117-3を参照する。この時点において、ARPテーブル117-3には未だ送信元のIPアドレスCIP=192.168.1.1/24は存在しない。このためTCP/IPモジュール113-3は、ARPテーブル117-3の更新(図13ステップS32)を行わない。また、EIMT116-3には送信先のIPアドレス(論理エクステントIPアドレス)LEIP=192.168.1.12/24のエントリは存在しない(図7参照)。このためTCP/IPモジュール113-3は、ARP要求に対する応答は行わない(図12ステップS37)。   The TCP / IP module 113-3 of the node 10-3 refers to the ARP table 117-3. At this time, the source IP address CIP = 192.168.1.1 / 24 does not yet exist in the ARP table 117-3. Therefore, the TCP / IP module 113-3 does not update the ARP table 117-3 (step S32 in FIG. 13). In addition, the entry of the IP address (logical extent IP address) LEIP = 192.168.1.12 / 24 of the transmission destination does not exist in the EIMT 116-3 (see FIG. 7). For this reason, the TCP / IP module 113-3 does not respond to the ARP request (step S37 in FIG. 12).

一方、ノード10-2のTCP/IPモジュール113-2は、ARPテーブル117-2を参照する。この時点において、ARPテーブル117-2には未だ送信元のIPアドレスCIP=192.168.1.1/24は存在しない。このためTCP/IPモジュール113-2は、ARPテーブル117-3の更新(図13ステップS32)を行わない。次にTCP/IPモジュール113-2はEIMT116-2を参照して、当該EIMT116-2に送信先のIPアドレス(論理エクステントIPアドレス)LEIP=192.168.1.12/24のエントリが存在するか判定する(図13ステップS33)。ここでは、EIMT116-2には、論理エクステントIPアドレスLEIP=192.168.1.12/24のエントリが存在する(図7参照)。この場合、TCP/IPモジュール113-2は、ARPテーブル117-2に送信元のIPアドレスCIP=192.168.1.1/24及びMACアドレスCMAC=MAC1を登録する(図13ステップS34)。そしてTCP/IPモジュール113-2は、EIMT116-2を参照することで、論理エクステントLEIP=192.168.1.12/24に対応付けられているMACアドレスLEMAC=MAC2を取得して、論理エクステントIPアドレスLEIP=192.168.1.12/24及びMACアドレスLEMAC=MAC2を送信元(応答元)とし、IPアドレス(コンテナIPアドレス)CIP=192.168.1.1/24及びMACアドレスCMAC=MAC1を送信先(応答先)とするARP応答パケットを生成する(図13ステップS35)。TCP/IPモジュール113-2は、生成されたARP応答パケットを、ノード10-2のイーサネットコントローラ114-2により矢印505aで示されるようにARP要求パケットの送信元に返す(図13ステップS36)。   On the other hand, the TCP / IP module 113-2 of the node 10-2 refers to the ARP table 117-2. At this time, the source IP address CIP = 192.168.1.1 / 24 does not yet exist in the ARP table 117-2. Therefore, the TCP / IP module 113-2 does not update the ARP table 117-3 (step S32 in FIG. 13). Next, the TCP / IP module 113-2 refers to the EIMT 116-2, and an entry of the destination IP address (logical extent IP address) LEIP = 192.168.1.12 / 24 exists in the EIMT 116-2. (Step S33 in FIG. 13). Here, the entry of the logical extent IP address LEIP = 192.168.1.12 / 24 exists in the EIMT 116-2 (see FIG. 7). In this case, the TCP / IP module 113-2 registers the source IP address CIP = 192.168.1.1 / 24 and the MAC address CMAC = MAC1 in the ARP table 117-2 (step S34 in FIG. 13). The TCP / IP module 113-2 refers to the EIMT 116-2, acquires the MAC address LEMAC = MAC2 associated with the logical extent LEIP = 192.168.1.12 / 24, and obtains the logical extent. IP address LEIP = 192.168.1.12 / 24 and MAC address LEMAC = MAC2 are set as a transmission source (response source), IP address (container IP address) CIP = 192.168.1.1 / 24, and MAC address CMAC = The ARP response packet having MAC1 as the transmission destination (response destination) is generated (step S35 in FIG. 13). The TCP / IP module 113-2 returns the generated ARP response packet to the transmission source of the ARP request packet as indicated by the arrow 505a by the Ethernet controller 114-2 of the node 10-2 (step S36 in FIG. 13).

ノード10-2から返されたARP応答パケットは、ノード10-1のイーサネットコントローラ114-1で受け取られる(図12ステップS26)。イーサネットコントローラ114-1は、受け取ったARP応答パケットの解析を矢印505bで示されるようにTCP/IPモジュール113-1に依頼する。これを受けてTCP/IPモジュール113-1は、ARP応答パケットの送信元(応答元)のIPアドレス(論理エクステントIPアドレス)LEIP=192.168.1.12/24及びMACアドレスLEMAC=MAC2をARPテーブル117-1に登録して(図12ステップS27)、当該IPアドレス(論理エクステントIPアドレス)LEIPで指定される論理エクステントLEIPのMACアドレスLEMAC=MAC2を得る(図12ステップS23)。これにより、TCP/IPモジュール113-1におけるアドレス解決処理(図11AステップS7)は終了する。   The ARP response packet returned from the node 10-2 is received by the Ethernet controller 114-1 of the node 10-1 (step S26 in FIG. 12). The Ethernet controller 114-1 requests the TCP / IP module 113-1 to analyze the received ARP response packet as indicated by an arrow 505b. In response, the TCP / IP module 113-1 sets the IP address (logical extent IP address) LEIP = 192.168.1.12 / 24 and the MAC address LEMAC = MAC2 of the transmission source (response source) of the ARP response packet. It is registered in the ARP table 117-1 (step S27 in FIG. 12), and the MAC address LEMAC = MAC2 of the logical extent LEIP specified by the IP address (logical extent IP address) LEIP is obtained (step S23 in FIG. 12). Thereby, the address resolution process (step S7 in FIG. 11A) in the TCP / IP module 113-1 is completed.

次にTCP/IPモジュール113-1は、論理エクステントLEIP=192.168.1.12/24に対するアクセス要求を含むTCP/IPパケットを、CMAC=MAC1を送信元MACアドレスとし、LEMAC=MAC2を送信先MACアドレスするイーサネットフレームで包む。TCP/IPモジュール113-1は、このイーサネットフレームを、矢印506aで示されるようにノード10-1のイーサネットコントローラ114-1を介して送信する(図12ステップS9)。   Next, the TCP / IP module 113-1 transmits a TCP / IP packet including an access request for the logical extent LEIP = 192.168.1.12 / 24 with CMAC = MAC1 as the source MAC address and LEMAC = MAC2. Wrap it in an Ethernet frame with the destination MAC address. The TCP / IP module 113-1 transmits this Ethernet frame via the Ethernet controller 114-1 of the node 10-1 as indicated by an arrow 506a (step S9 in FIG. 12).

ノード10-1から送信されたイーサネットフレームは、ノード10-2のイーサネットコントローラ114-2で受け取られる。イーサネットコントローラ114-2は、受け取ったイーサネットフレームを矢印506bで示されるようにノード10-2のTCP/IPモジュール113-2に送る。   The Ethernet frame transmitted from the node 10-1 is received by the Ethernet controller 114-2 of the node 10-2. The Ethernet controller 114-2 sends the received Ethernet frame to the TCP / IP module 113-2 of the node 10-2 as indicated by an arrow 506b.

TCP/IPモジュール113-2は、イーサネットフレームを分解して、当該フレーム中のTCP/IPパケットに含まれているアクセス要求を、矢印506cで示されるように、ノード10-2のIOドライバ121-2に渡すことにより、当該アクセス要求で指定されるアクセス処理を当該IOドライバ121-2に依頼する(図12ステップS10)。IOドライバ121-2は、TCP/IPモジュール113-2からアクセス要求を受け取ると、図10に示すLPMT122-2を参照することにより、当該アクセス要求で指定されている論理エクステントLEIP=192.168.1.12/24に対応付けられている物理ボリュームID(PVID)=1及び物理エクステントID(PEID)=2を取得する(図14ステップS41,S42)。これによりIOドライバ121-2は、矢印508で示されるように、ディスク123-2に確保されているPVID=1の物理ボリューム内のPEID=2の物理エクステントにアクセスする(図14ステップS43)。   The TCP / IP module 113-2 disassembles the Ethernet frame and sends the access request contained in the TCP / IP packet in the frame as indicated by the arrow 506c in the IO driver 121- of the node 10-2. 2 is requested to the IO driver 121-2 for access processing specified by the access request (step S10 in FIG. 12). When receiving the access request from the TCP / IP module 113-2, the IO driver 121-2 refers to the LPMT 122-2 shown in FIG. 10, and the logical extent LEIP = 192.168. 1. Physical volume ID (PVID) = 1 and physical extent ID (PEID) = 2 associated with 12/24 are acquired (steps S41 and S42 in FIG. 14). As a result, the IO driver 121-2 accesses the physical extent of PEID = 2 in the physical volume of PVID = 1 reserved in the disk 123-2 as indicated by the arrow 508 (step S43 in FIG. 14).

次にIOドライバ121-2は、アクセスの結果を戻り値として、矢印509aで示すようにノード10-2のTCP/IPモジュール113-2にアクセス要求に対する応答を返す(図14ステップS44)。するとTCP/IPモジュール113-2は、矢印509bで示すように、イーサネットコントローラ114-2を介して、アクセス要求元のノード10-1のTCP/IPモジュール113-1に応答を返す(図11BステップS12)。   Next, the IO driver 121-2 uses the access result as a return value, and returns a response to the access request to the TCP / IP module 113-2 of the node 10-2 as indicated by an arrow 509a (step S44 in FIG. 14). Then, the TCP / IP module 113-2 returns a response to the TCP / IP module 113-1 of the access request source node 10-1 via the Ethernet controller 114-2 as indicated by an arrow 509b (step B in FIG. 11B). S12).

ノード10-1のTCP/IPモジュール113-1はノード10-2のTCP/IPモジュール113-2からの応答をイーサネットコントローラ114-1を介して受け取ると、矢印509cで示すようにIOマネージャ112-1に応答を返す(図11BステップS13)。これを受けてIOマネージャ112-1は、矢印509dで示すようにターゲットインタフェイス111-1に応答を返す(図11BステップS14)。するとターゲットインタフェイス111-1は、矢印509eで示すようにホストに応答を返す(図11BステップS15)。   When the TCP / IP module 113-1 of the node 10-1 receives the response from the TCP / IP module 113-2 of the node 10-2 via the Ethernet controller 114-1, the IO manager 112- A response is returned to 1 (step S13 in FIG. 11B). In response to this, the IO manager 112-1 returns a response to the target interface 111-1 as indicated by an arrow 509d (step S14 in FIG. 11B). Then, the target interface 111-1 returns a response to the host as indicated by an arrow 509e (step S15 in FIG. 11B).

このように本実施形態においては、ノード10-i(i=1,2,3)が有する物理ボリューム/物理エクステント分のエントリだけをLPMT122-iに持たせる構成を適用しながら、当該ノード10-iに対するホストからのアクセス要求に従ってアクセスされるべき論理エクステントが他ノードで管理されている場合でも、当該論理エクステントが格納されている物理ボリューム/物理エクステントにアクセスすることができる。よってストレージクラスタを構成するノード10-1〜10-3の各々は、従来技術とは異なって、全てのノード10-1〜10-3の物理ボリューム/物理エクステント分のエントリを持ったLPMTを管理する必要がない。これにより、従来技術と比較して、ストレージクラスタを構成する各ノード10-1〜10-3が管理しなければならない情報量を減らすことができる。また、以下に述べる論理エクステントの移動(またはコピー)に際して、各ノードが管理する情報の更新作業量を少なくして、アクセス性能を向上させることもできる。   As described above, in the present embodiment, while applying a configuration in which the LPMT 122-i has only entries for the physical volume / physical extent of the node 10-i (i = 1, 2, 3), the node 10- Even when a logical extent to be accessed according to an access request from the host for i is managed by another node, the physical volume / physical extent in which the logical extent is stored can be accessed. Accordingly, each of the nodes 10-1 to 10-3 constituting the storage cluster manages the LPMT having entries corresponding to the physical volumes / physical extents of all the nodes 10-1 to 10-3, unlike the conventional technology. There is no need to do. As a result, the amount of information that must be managed by each of the nodes 10-1 to 10-3 constituting the storage cluster can be reduced as compared with the prior art. Further, when moving (or copying) a logical extent described below, it is possible to improve the access performance by reducing the amount of update work of information managed by each node.

次に、論理エクステントの移動(マイグレーション)について説明する。
ストレージクラスタでは、当該ストレージクラスタの性能向上や運用上の課題解決のために、あるノードの論理エクステントを、当該論理エクステントが含まれる論理ボリュームを(当該ノードと共に)構成する別のノードの物理ボリューム/物理エクステントに移動することが行われる。このときには、ホストからのアクセスを継続させながら高速に且つ安全に移動を実現させるため、移動に必要な、ストレージクラスタ内のノードの更新情報量を極力少なくすることが望ましい。本実施形態では、移動対象論理エクステント(移動元論理エクステント)を含む論理ボリュームのネットワークアドレス空間の中から、未使用のホストアドレス(IPアドレス)を選択し、これを仮論理エクステントIPアドレスとして一時的に使用することで、論理エクステントの移動を実現する。
Next, logical extent migration (migration) will be described.
In a storage cluster, in order to improve the performance of the storage cluster and solve operational problems, the logical extent of one node is combined with the physical volume / volume of another node that constitutes the logical volume containing the logical extent (along with the node). Moving to a physical extent is done. At this time, it is desirable to minimize the amount of update information of the nodes in the storage cluster necessary for migration in order to realize migration at high speed and safely while continuing access from the host. In this embodiment, an unused host address (IP address) is selected from the network address space of the logical volume including the migration target logical extent (migration source logical extent), and this is temporarily used as a temporary logical extent IP address. By using this, logical extent migration is realized.

以下、論理エクステントの移動について、図16A乃至図16C及び図17を参照して説明する。図16A乃至図16Cは論理エクステント移動処理の手順を示すフローチャート、図17は論理エクステント移動を説明するための図である。   Hereinafter, the movement of the logical extent will be described with reference to FIGS. 16A to 16C and FIG. 16A to 16C are flowcharts showing the procedure of logical extent migration processing, and FIG. 17 is a diagram for explaining logical extent migration.

まず、図1のストレージクラスタにおいて、LVMT115-1〜115-3、EIMT116-1〜116-3及びLPMT122-1〜122-3が、それぞれ図4、図7及び図10のように構成されているものとする。この状態で、構成管理部30が、ある論理エクステントLEIP(つまり、論理エクステントIPアドレスLEIPが割り当てられている論理エクステント)を移動対象(移動元)として決定すると共に、当該論理エクステントLEIPの移動先となる、ノード、物理ボリュームTPVID及び物理エクステントTPEIDを決定したものとする(ステップS51)。TPVID及びTPEID中の“T”は移動先を表す記号であり、物理ボリュームTPVID及び物理エクステントTPEIDは、それぞれ物理ボリュームIDがTPVID(PVID)の物理ボリューム及び物理エクステントIDがTPEID(PEID)の物理エクステントを指す。   First, in the storage cluster of FIG. 1, LVMTs 115-1 to 115-3, EIMTs 116-1 to 116-3, and LPMTs 122-1 to 122-3 are configured as shown in FIGS. 4, 7, and 10, respectively. Shall. In this state, the configuration management unit 30 determines a certain logical extent LEIP (that is, a logical extent to which the logical extent IP address LEIP is assigned) as a movement target (movement source), and the movement destination of the logical extent LEIP. It is assumed that the node, the physical volume TPVID, and the physical extent TPEID are determined (step S51). “T” in the TPVID and the TPEID is a symbol representing the migration destination, and the physical volume TPVID and the physical extent TPEID are respectively a physical volume whose physical volume ID is TPVID (PVID) and a physical extent whose physical extent ID is TPEID (PEID). Point to.

本実施形態では、ノード10-1によって管理されている論理エクステント4(論理エクステントIPアドレスLEIP=192.168.1.14)を、ノード10-3の物理ボリューム2(TPVID=2)/物理エクステント1(TPEID=1)に移動することが決定されたものとする。本実施形態において論理エクステント4は、ノード10-1の物理ボリューム2(PVID=2)/物理エクステント2(PEID=2)に格納(配置)されている。即ち、ノード10-1の物理ボリューム2(PVID=2)/物理エクステント2(PEID=2)に格納されている論理エクステント4(論理エクステントIPアドレスLEIP=192.168.1.14)を、図17において矢印700で示されるように、ノード10-3の物理ボリューム2(TPVID=2)/物理エクステント1(TPEID=1)に移動するものとする。   In this embodiment, the logical extent 4 (logical extent IP address LEIP = 192.168.1.14) managed by the node 10-1 is changed to the physical volume 2 (TPVID = 2) / physical extent of the node 10-3. Assume that it is determined to move to 1 (TPEID = 1). In this embodiment, the logical extent 4 is stored (arranged) in the physical volume 2 (PVID = 2) / physical extent 2 (PEID = 2) of the node 10-1. That is, the logical extent 4 (logical extent IP address LEIP = 192.168.1.14) stored in the physical volume 2 (PVID = 2) / physical extent 2 (PEID = 2) of the node 10-1 is shown in FIG. As indicated by an arrow 700 in FIG. 17, it is assumed that the node 10-3 moves to physical volume 2 (TPVID = 2) / physical extent 1 (TPEID = 1).

構成管理部30は、上記ステップS51において、移動に使用する仮論理エクステントIPアドレスTLEIPとして、移動対象(移動元)論理エクステントを含む論理ボリュームLVIDのネットワークアドレス空間の中から未使用のホストアドレスを選択して割り当てる。移動対象論理エクステントが論理エクステント4(LEIP=192.168.1.14/24)の例では、論理ボリューム1(LVID=1)のネットワークアドレス空間192.168.1.0/24の中から未使用のホストアドレスが選択される。ここでは、仮論理エクステントIPアドレスとしてTLEIP(LEIP)=192.168.1.101/24が選択されたものとする。なお、未使用のホストアドレスが存在しない場合には、論理エクステント移動不可と判定される。   In step S51, the configuration management unit 30 selects an unused host address from the network address space of the logical volume LVID including the migration target (source) logical extent as the temporary logical extent IP address TLEIP used for migration. And assign. In the example in which the migration target logical extent is logical extent 4 (LEIP = 192.168.1.14 / 24), the network address space 192.168.1.0/24 of logical volume 1 (LVID = 1) is not yet stored. The host address in use is selected. Here, it is assumed that TLEIP (LEIP) = 192.168.1.101 / 24 is selected as the temporary logical extent IP address. If there is no unused host address, it is determined that the logical extent cannot be moved.

次に構成管理部30は、移動先ノード10-3が有するLPMT122-3の中から移動先とする物理ボリューム2(TPVID=2)/物理エクステント1(TPEID=1)のエントリを探し、当該物理ボリューム2(TPVID=2)/物理エクステント1(TPEID=1)の論理エクステントIPアドレスLEIPとして、仮論理エクステントIPアドレス“192.168.1.101/24”(TLEIP=192.168.1.101/24)を割り当てる(ステップS52)。このときのLPMT122-1〜122-3の状態を図18に示す。図18において、ハッチングが施されている部分が、仮論理エクステントIPアドレスが割り当てられた箇所を示す。   Next, the configuration management unit 30 searches for the entry of the physical volume 2 (TPVID = 2) / physical extent 1 (TPEID = 1) as the migration destination from the LPMT 122-3 of the migration destination node 10-3. As the logical extent IP address LEIP of volume 2 (TPVID = 2) / physical extent 1 (TPEID = 1), the temporary logical extent IP address “192.168.1.101/24” (TLEIP = 192.168.1.101). / 24) is assigned (step S52). The state of the LPMTs 122-1 to 122-3 at this time is shown in FIG. In FIG. 18, the hatched portion indicates a portion to which the temporary logical extent IP address is assigned.

次に構成管理部30は、移動元のノード10-1のEIMT116-1に、仮論理エクステントIPアドレスTLEIP=192.168.1.101/24と、それにバインドするノード10-3の(イーサネットコントローラ114-3が持つ)MACアドレスTLEMAC=MAC3とを含むエントリを追加設定する(ステップS53)。このときのEIMT116-1〜116-3の状態を図19に示す。図19において、ハッチングが施されている部分が、追加設定されたエントリを示す。   Next, the configuration management unit 30 adds the temporary logical extent IP address TLEIP = 192.168.1.101 / 24 to the EIMT 116-1 of the source node 10-1 and the (Ethernet controller) of the node 10-3 bound thereto. An entry including MAC address TLEMAC = MAC3 (which 114-3 has) is additionally set (step S53). The state of EIMTs 116-1 to 116-3 at this time is shown in FIG. In FIG. 19, the hatched portion indicates the additionally set entry.

次に構成管理部30は、移動先のノード10-3のTCP/IPモジュール113-3により、仮論理エクステントIPアドレスTLEIP=192.168.1.101/24とそのMACアドレスTLEMAC=MAC3のGratuitous ARP要求を、イーサネットコントローラ114-3を介してブロードキャストさせる(ステップS54)。Gratuitous ARP(以下、G−ARPと称する)要求は、周知のように、IPアドレスが付け変わったことを他のノードに通知するのに用いられる特別のARPである。   Next, the configuration management unit 30 uses the TCP / IP module 113-3 of the destination node 10-3 to create a temporary logical extent IP address TLEIP = 192.168.1.101 / 24 and its MAC address TLEMAC = MAC3. The ARP request is broadcast via the Ethernet controller 114-3 (step S54). Graftious ARP (hereinafter referred to as G-ARP) request is a special ARP used to notify other nodes that the IP address has been changed, as is well known.

このノード10-3のTCP/IPモジュール113-3によるG−ARP要求の送出により、当該ノード10-3を除くストレージクラスタの全ノード、つまりノード10-1,10-2の、ARPテーブル117-1,117-2の該当するエントリが初期化される。即ち、ARPテーブル117-1,117-2に既に仮論理エクステントIPアドレスTLEIP=192.168.1.101/24を含むエントリが存在する場合、当該エントリ中のMACアドレスがTLEMAC=MAC3に更新される。   By sending a G-ARP request by the TCP / IP module 113-3 of the node 10-3, the ARP table 117- of all nodes of the storage cluster excluding the node 10-3, that is, the nodes 10-1 and 10-2. Corresponding entries 1 and 117-2 are initialized. That is, when an entry including the temporary logical extent IP address TLEIP = 192.168.1.101 / 24 already exists in the ARP tables 117-1 and 117-2, the MAC address in the entry is updated to TLEMAC = MAC3. The

次に構成管理部30は、移動元のノード10-1のIOドライバ121-1に対して、移動元論理エクステントLEIP=192.168.1.14/24のデータを、仮論理エクステントTLEIP=192.168.1.101/24にコピーするよう要求する(ステップS55)。これを受けてIOドライバ121-1は、論理エクステントLEIP=192.168.1.14/24のデータを読み込んで、ノード10-1のTCP/IPモジュール113-1に対して当該データを仮論理エクステントTLEIP=192.168.1.101/24に書き込むように要求する(ステップS56)。   Next, the configuration management unit 30 transfers the data of the migration source logical extent LEIP = 192.168.1.14 / 24 to the IO driver 121-1 of the migration source node 10-1, and the temporary logical extent TLEIP = 192. .168.1.101 / 24 is requested to be copied (step S55). In response to this, the IO driver 121-1 reads the data of the logical extent LEIP = 192.168.1.14 / 24, and sends the data to the TCP / IP module 113-1 of the node 10-1 as temporary logical. A request is made to write to extent TLEIP = 192.168.1.101 / 24 (step S56).

するとTCP/IPモジュール113-1は、移動元論理エクステントLEIP=192.168.1.14/24を管理するノード10-1(自ノード)のコンテナIPアドレスCIP=192.168.1.1/24を送信元とし、移動先の仮論理エクステントIPアドレスTLEIP=192.168.1.101/24を送信先とするTCP/IPパケットを生成する(ステップS57)。このTCP/IPパケットは、移動元論理エクステントLEIP=192.168.1.14/24のデータを仮論理エクステントTLEIPに書き込むための書き込み要求を含む。   Then, the TCP / IP module 113-1 has the container IP address CIP = 192.168.1.1 / of the node 10-1 (own node) that manages the migration source logical extent LEIP = 192.168.1.14 / 24. A TCP / IP packet having 24 as a transmission source and a destination temporary logical extent IP address TLEIP = 192.168.1.101 / 24 as a transmission destination is generated (step S57). This TCP / IP packet includes a write request for writing the data of the migration source logical extent LEIP = 192.168.1.14 / 24 into the temporary logical extent TLEIP.

次にTCP/IPモジュール113-1は、生成されたTCP/IPパケットをイーサネットフレームで包むため、仮論理エクステントIPアドレスTLEIP=192.168.1.101/24のMACアドレスTLEMACを解決するためのアドレス解決処理を行う(ステップS58)。このアドレス解決処理は図10のフローチャートと同様の手順で行われる。即ちノード10-1のARPテーブル117-1に仮論理エクステントTLEIPのエントリ(目的エントリ)が存在するならば、TCP/IPモジュール113-1は当該エントリからMACアドレスTLEMACを取得する。これに対し、ARPテーブル117-1に目的エントリが存在しないならば、TCP/IPモジュール113-1は、仮論理エクステントTLEIPを管理するノード10-3(移動先ノード10-3)に対するARP要求及び当該ノード10-3からのARP応答により、仮論理エクステントTLEIPのMACアドレスTLEMAC=MAC3を取得する。この場合、TCP/IPモジュール113-1は、仮論理エクステントIPアドレスTLEIP=192.168.1.101/24及びMACアドレスTLEMAC=MAC3の対をARPテーブル117-1に登録する。   Next, since the TCP / IP module 113-1 wraps the generated TCP / IP packet in an Ethernet frame, the TCP / IP module 113-1 resolves the MAC address TLEMAC of the temporary logical extent IP address TLEIP = 192.168.1.101 / 24. Address resolution processing is performed (step S58). This address resolution process is performed in the same procedure as in the flowchart of FIG. That is, if there is an entry (target entry) of the temporary logical extent TLEIP in the ARP table 117-1 of the node 10-1, the TCP / IP module 113-1 acquires the MAC address TLEMAC from the entry. On the other hand, if the target entry does not exist in the ARP table 117-1, the TCP / IP module 113-1 sends an ARP request to the node 10-3 (movement destination node 10-3) that manages the temporary logical extent TLEIP and The MAC address TLEMAC = MAC3 of the temporary logical extent TLEIP is acquired by the ARP response from the node 10-3. In this case, the TCP / IP module 113-1 registers the pair of the temporary logical extent IP address TLEIP = 192.168.1.101 / 24 and the MAC address TLEMAC = MAC3 in the ARP table 117-1.

次にTCP/IPモジュール113-1は、送信元(移動元)MACアドレスをコンテナIPアドレスCIP=102.168.1.1/24(を有するノード10-1のイーサネットコントローラ114-1)のMACアドレスCMAC=MAC1とし、送信先(移動先)MACアドレスを仮論理エクステントIPアドレスTLEIP=192.168.1.101/24(を管理するノード10-3のイーサネットコントローラ114-3)のMACアドレスTLEMAC=MAC3とする(つまりノード10-3を宛先とする)、TCP/IPパケットを包んだイーサネットフレームを生成する(ステップS59)。このステップS59においてTCP/IPモジュール113-1は、生成されたイーサネットフレームをイーサネットコントローラ114-1を介して移動先のノード、つまりノード10-3に送信する。このイーサネットフレームは、移動先のノード10-3のイーサネットコントローラ114-3で受信されて、当該ノード10-3のTCP/IPモジュール113-3に渡される。   Next, the TCP / IP module 113-1 sets the MAC address of the transmission source (movement source) MAC address of the container IP address CIP = 102.168.1.1 / 24 (having the Ethernet controller 114-1 of the node 10-1). The address CMAC = MAC1 and the MAC address TLEMAC of the destination (move destination) MAC address as the temporary logical extent IP address TLEIP = 192.168.1.101 / 24 (the Ethernet controller 114-3 of the node 10-3 that manages) = MAC3 (that is, the destination is the node 10-3), an Ethernet frame that wraps the TCP / IP packet is generated (step S59). In step S59, the TCP / IP module 113-1 transmits the generated Ethernet frame to the destination node, that is, the node 10-3 via the Ethernet controller 114-1. This Ethernet frame is received by the Ethernet controller 114-3 of the destination node 10-3, and passed to the TCP / IP module 113-3 of the node 10-3.

移動先のノード10-3のTCP/IPモジュール113-3は、通常のIO処理と同様にして、移動元のノード10-1から送られたイーサネットフレームに包まれているTCP/IPパケットからアクセス要求を抽出し、当該アクセス要求をノード10-3のIOドライバ121-3に送ることで、要求されたアクセス処理を依頼する(ステップS60)。するとIOドライバ121-3は、ノード10-3(自ノード)のLPMT122-3を参照することで、書き込み先の仮論理エクステントTLEIP=192.168.1.101/24が配置(格納)されている物理ボリューム2/物理エクステント1の物理ボリュームID(TPVID=2)/物理エクステントID(TPEID=1)を取得する(ステップS61)。このステップS61において、IOドライバ121-3は、取得された物理ボリュームID(TPVID=2)/物理エクステントID(TPEID=1)で指定される、物理ボリューム2(TPVID=2)内の物理エクステント1(TPEID=1)にデータを書き込む。   The TCP / IP module 113-3 of the movement destination node 10-3 is accessed from the TCP / IP packet included in the Ethernet frame sent from the movement source node 10-1 in the same manner as in the normal IO processing. The request is extracted and the requested access processing is requested by sending the access request to the IO driver 121-3 of the node 10-3 (step S60). Then, the IO driver 121-3 refers to the LPMT 122-3 of the node 10-3 (own node), and the temporary logical extent TLEIP = 192.168.1.101 / 24 as the write destination is arranged (stored). The physical volume 2 / physical extent 1 physical volume ID (TPVID = 2) / physical extent ID (TPEID = 1) is acquired (step S61). In step S61, the IO driver 121-3 determines the physical extent 1 in the physical volume 2 (TPVID = 2) designated by the acquired physical volume ID (TPVID = 2) / physical extent ID (TPEID = 1). Write data to (TPEID = 1).

アクセス要求で指定されたデータ書き込み(アクセス処理)が完了すると、IOドライバ121-3は処理完了をノード10-3のTCP/IPモジュール113-3に応答する(ステップS62)。このステップS62において、TCP/IPモジュール113-3は、処理完了をノード10-3のイーサネットコントローラ114-3、並びに移動元のノード10-1のイーサネットコントローラ114-1及びTCP/IPモジュール113-1を介して、当該移動元のノード10-1のIOドライバ121-1に応答する。これを受けて、IOドライバ121-1から構成管理部30に処理完了(コピー完了)が通知される。   When the data writing (access process) specified by the access request is completed, the IO driver 121-3 responds to the TCP / IP module 113-3 of the node 10-3 with the process completion (step S62). In step S62, the TCP / IP module 113-3 determines that the processing is completed, the Ethernet controller 114-3 of the node 10-3, and the Ethernet controller 114-1 and the TCP / IP module 113-1 of the source node 10-1. To the IO driver 121-1 of the source node 10-1. In response, the IO driver 121-1 notifies the configuration management unit 30 of the completion of processing (copy completion).

構成管理部30は、IOドライバ121-1からコピー完了通知を受け取ると、現在、移動対象論理エクステントLEIP=192.168.1.14/24を含む論理ボリュームLVID=1に対するホストからのアクセス要求を受け付けているターゲットインタフェイス、つまりノード10-1のターゲットインタフェイス111-1を、論理エクステントLEIP=192.168.1.14/24に対するアクセス要求の受け付けの一時待ち状態に設定する(ステップS63)。この一時待ち状態の期間にホストから与えられる論理エクステントLEIP=192.168.1.14/24に対するアクセス要求はターゲットインタフェイス111-1で受け付けられずに待たされる。   Upon receiving the copy completion notification from the IO driver 121-1, the configuration management unit 30 now issues an access request from the host to the logical volume LVID = 1 including the migration target logical extent LEIP = 192.168.1.14 / 24. The accepted target interface, that is, the target interface 111-1 of the node 10-1 is set in a temporary waiting state for accepting an access request for the logical extent LEIP = 192.168.1.14 / 24 (step S63). . An access request for the logical extent LEIP = 192.168.1.14 / 24 given from the host during this temporary waiting state is not accepted by the target interface 111-1, but is waited for.

次に構成管理部30は、移動先のノード10-3のTCP/IPモジュール113-3により、仮論理エクステントIPアドレスTLEIP=192.168.1.101/24とそのMACアドレスをNULLとするG−ARP要求をイーサネットコントローラ114-3を介してブロードキャストさせる(ステップS64)。このノード10-3のTCP/IPモジュール113-3によるG−ARP要求の送出により、既に仮論理エクステントIPアドレスTLEIP=192.168.1.101/24のエントリを含むARPテーブル117-iを持つ(図1のストレージクラスタ内の)全てのノード10-iは、当該エントリを初期化する。   Next, the configuration management unit 30 uses the TCP / IP module 113-3 of the destination node 10-3 to set the temporary logical extent IP address TLEIP = 192.168.1.101 / 24 and its MAC address to NULL. -Broadcast the ARP request via the Ethernet controller 114-3 (step S64). By sending a G-ARP request by the TCP / IP module 113-3 of the node 10-3, the node 10-3 already has an ARP table 117-i including an entry of the temporary logical extent IP address TLEIP = 192.168.1.101 / 24. All nodes 10-i (in the storage cluster of FIG. 1) initialize the entry.

次に構成管理部30は、移動先のノード10-3のEIMT116-3から、仮論理エクステントIPアドレスTLEIP=192.168.1.101/24とそのMACアドレスTLEMAC=MAC3との対が保持されているエントリを検索し、そのエントリ中のIPアドレス“192.168.1.101/24”、つまり仮論理エクステントIPアドレス(192.168.1.101/24)を、移動対象論理エクステントIPアドレスLEIP=192.168.1.14/24で書き換える(ステップS65)。このときのEIMT116-1〜116-3の状態を図20に示す。図20において、ハッチングが施されている部分は、仮論理エクステントIPアドレス(192.168.1.101/24)が移動対象論理エクステントIPアドレスLEIP=192.168.1.14/24で書き換えられたエントリを示す。   Next, the configuration management unit 30 holds a pair of the temporary logical extent IP address TLEIP = 192.168.1.101 / 24 and its MAC address TLEMAC = MAC3 from the EIMT 116-3 of the destination node 10-3. The IP address “192.168.1.101/24” in the entry, that is, the temporary logical extent IP address (192.168.1.101/24), is moved to the logical extent IP address to be moved. Rewrite with LEIP = 192.168.1.14 / 24 (step S65). The state of EIMTs 116-1 to 116-3 at this time is shown in FIG. In FIG. 20, in the hatched portion, the temporary logical extent IP address (192.168.1.101/24) is rewritten with the migration target logical extent IP address LEIP = 192.168.1.14 / 24. Indicates an entry.

次に、構成管理部30は、移動先のノード10-3のLPMT122-3から、物理ボリューム2(TPVID=2)/物理エクステント1(TPEID=1)に付与した仮論理エクステントIPアドレスTLEIP=192.168.1.101/24を検索して、当該仮論理エクステントIPアドレスTLEIP=192.168.1.101/24を移動対象論理エクステントIPアドレスLEIP=192.168.1.14/24で置き換える(ステップS66)。これにより、仮論理エクステントIPアドレスTLEIP=192.168.1.101/24は、未使用として解放される。このときのLPMT122-1〜122-3の状態を図21に示す。図21において、ハッチングが施されている部分は、仮論理エクステントIPアドレスTLEIP=192.168.1.101/24が移動対象論理エクステントIPアドレスLEIP=192.168.1.14/24で置き換えられた箇所を示す。   Next, the configuration management unit 30 provisional logical extent IP address TLEIP = 192 assigned to the physical volume 2 (TPVID = 2) / physical extent 1 (TPEID = 1) from the LPMT 122-3 of the migration destination node 10-3. .168.1.101 / 24 is searched and the temporary logical extent IP address TLEIP = 192.168.1.101 / 24 is replaced with the migration target logical extent IP address LEIP = 192.168.1.14 / 24. (Step S66). As a result, the temporary logical extent IP address TLEIP = 192.168.1.101 / 24 is released as unused. The states of the LPMTs 122-1 to 122-3 at this time are shown in FIG. In FIG. 21, in the hatched portion, the temporary logical extent IP address TLEIP = 192.168.1.101 / 24 is replaced with the migration target logical extent IP address LEIP = 192.168.1.14 / 24. Indicates the location.

次に構成管理部30は、移動元のノード10-1のEIMT116-1から、論理エクステントIPアドレスLEIP=192.168.1.14/24とそのMACアドレスLEMAC=MAC1とを含むエントリを検索して、当該エントリを削除する(ステップS67)。このときのEIMT116-1〜116-3の状態を図22に示す。図22において、ハッチングが施されている部分は、削除されたエントリを示す。   Next, the configuration management unit 30 searches the entry including the logical extent IP address LEIP = 192.168.1.14 / 24 and its MAC address LEMAC = MAC1 from the EIMT 116-1 of the source node 10-1. Then, the entry is deleted (step S67). The state of EIMTs 116-1 to 116-3 at this time is shown in FIG. In FIG. 22, hatched portions indicate deleted entries.

次に構成管理部30は、移動元のノード10-1のLPMT122-1から、論理エクステントIPアドレスLEIP=192.168.1.14/24を含むエントリを検索し、当該論理エクステントIPアドレスLEIPをNULLに設定することで、当該エントリを論理的に削除する(ステップS68)。これにより、論理エクステントLEIP=192.168.1.14/24が配置されていたノード10-1内の物理ボリューム2(PVID=2)の物理エクステント2(PEID=2)が解放される。このときのLPMT122-1〜122-3の状態を図23に示す。図23において、ハッチングが施されている部分は、論理エクステントIPアドレスLEIPがNULLに設定された箇所を示す。   Next, the configuration management unit 30 searches the LPMT 122-1 of the source node 10-1 for an entry including the logical extent IP address LEIP = 192.168.1.14 / 24, and sets the logical extent IP address LEIP to the logical extent IP address LEIP. By setting to NULL, the entry is logically deleted (step S68). As a result, the physical extent 2 (PEID = 2) of the physical volume 2 (PVID = 2) in the node 10-1 where the logical extent LEIP = 192.168.1.14 / 24 has been arranged is released. The state of the LPMTs 122-1 to 122-3 at this time is shown in FIG. In FIG. 23, hatched portions indicate locations where the logical extent IP address LEIP is set to NULL.

次に構成管理部30は、移動先のノード10-3のTCP/IPモジュール113-3により、論理エクステントIPアドレスLEIP=192.168.1.14/24とそのMACアドレスTLEMAC=MAC3に関するG−ARP要求をイーサネットコントローラ114-3を介してブロードキャストさせる(ステップS69)。これにより、論理エクステントLEIP=192.168.1.14/24の移動が完了したことが、ノード10-3を除くストレージクラスタの全ノード、つまりノード10-1,10-2に通知され。この結果、ノード10-1,10-2のARPテーブル117-1,117-2の該当するエントリが初期化される。即ち、ノード10-1,10-2のARPテーブル117-1,117-2に既に論理エクステントIPアドレスTLEIP=192.168.1.14/24を含むエントリが存在する場合、当該エントリ中のMACアドレスがTLEMAC=MAC3に更新される。   Next, the configuration management unit 30 uses the TCP / IP module 113-3 of the destination node 10-3 to perform G-related processing on the logical extent IP address LEIP = 192.168.1.14 / 24 and its MAC address TLEMAC = MAC3. The ARP request is broadcast via the Ethernet controller 114-3 (step S69). As a result, the completion of the migration of the logical extent LEIP = 192.168.1.14 / 24 is notified to all the nodes of the storage cluster except the node 10-3, that is, the nodes 10-1 and 10-2. As a result, the corresponding entries in the ARP tables 117-1 and 117-2 of the nodes 10-1 and 10-2 are initialized. That is, if an entry including the logical extent IP address TLEIP = 192.168.1.14 / 24 already exists in the ARP tables 117-1 and 117-2 of the nodes 10-1 and 10-2, the MAC in the entry The address is updated to TLEMAC = MAC3.

次に構成管理部30は、移動が完了した論理エクステントLEIP=192.168.1.14/24に対するホストからのアクセス要求の受け付けの一時待ち状態にあるターゲットインタフェイス、つまりノード10-1のターゲットインタフェイス111-1に対して、当該一時待ち状態を解除する(ステップS70)。これにより一連の論理エクステント移動処理は終了する。   Next, the configuration management unit 30 sets the target interface that is temporarily waiting to accept an access request from the host for the logical extent LEIP = 192.168.1.14 / 24 that has been moved, that is, the target of the node 10-1. The temporary waiting state is canceled for the interface 111-1 (step S70). As a result, a series of logical extent movement processing is completed.

[変形例]
次に、上記実施形態の変形例について説明する。
上記実施形態では、ホストから要求されたアクセス先を示す論理ブロックアドレス(論理アドレス)LBAが属する論理ボリューム内の論理エクステントに割り当てられたIPアドレス(論理エクステントIPアドレス)LEIPが、前記(1)式に従う演算によって求められる(特定される)。
[Modification]
Next, a modification of the above embodiment will be described.
In the above embodiment, the IP address (logical extent IP address) LEIP assigned to the logical extent in the logical volume to which the logical block address (logical address) LBA indicating the access destination requested by the host belongs is expressed by the equation (1). Is determined (specified) by an operation according to

本変形例の特徴は、このような演算を行うことなく、論理ブロックアドレスLBAが属する論理ボリューム内の論理エクステントに割り当てられた論理エクステントIPアドレスLEIPを求める点にある。そのため、本変形例では、図1に示すストレージクラスタ内の各ノード10-i(i=1,2,3)に、図24に示す構造の論理エクステント管理テーブル(LEMT:Logical Extent Management Table)118-iが設けられる。   The feature of this modification is that the logical extent IP address LEIP assigned to the logical extent in the logical volume to which the logical block address LBA belongs is obtained without performing such an operation. Therefore, in this modification, each node 10-i (i = 1, 2, 3) in the storage cluster shown in FIG. 1 has a logical extent management table (LEMT) 118 having the structure shown in FIG. -i is provided.

LEMT118-iの各エントリは、論理ボリュームを構成する論理エクステントの論理ブロックアドレスLBA(論理アドレス)の範囲(論理ブロックアドレス範囲:Logical Block Address Range)LBARANGEと当該論理エクステントに割り当てられる論理エクステントIPアドレス(Logical Extent IP-Address)LEIPの各項目を有する。IOマネージャ112-iはLEMT118-iから、アクセス要求で指定される論理ブロックアドレスLBAを含む論理ブロックアドレス範囲LBARANGEが設定されているエントリを検索することにより、当該論理ブロックアドレス範囲LBARANGEと対をなす論理エクステントIPアドレスLEIPを取得(特定)する。ここで、LVMT115-iの各エントリに、論理エクステントサイズ(LESIZE)に代えて、論理ボリュームを構成する論理エクステントの数を持たせると良い。   Each entry of the LEMT 118-i has a logical block address LBA (logical address) range (logical block address range) LBARANGE of a logical extent constituting the logical volume and a logical extent IP address ( Logical Extent IP-Address) Each item of LEIP is included. The IO manager 112-i searches the LEMT 118-i for an entry in which the logical block address range LBARANGE including the logical block address LBA specified by the access request is set, and makes a pair with the logical block address range LBARANGE. Obtain (specify) the logical extent IP address LEIP. Here, each entry of the LVM 115-i may have the number of logical extents constituting the logical volume instead of the logical extent size (LESIZE).

本変形例によれば、上記実施形態と異なって、論理ボリュームを構成する複数の論理エクステントのサイズが一定でなくても(つまり論理エクステント毎にサイズが異なっていても)、また論理ボリュームを構成する複数の論理エクステントの配置順に、連続する論理エクステントIPアドレス(ホストアドレス)が割り当てられなくても、論理ブロックアドレスLBAが属する論理ボリューム内の論理エクステントに割り当てられた論理エクステントIPアドレスLEIPを、LEMT118-iから速やかに取得することができる。但し、LEMT118-iのエントリ数は、論理ボリュームを構成する論理エクステントの数に比例する。   According to this modification, unlike the above-described embodiment, the logical volume is configured even if the sizes of the plurality of logical extents constituting the logical volume are not constant (that is, the sizes differ for each logical extent). The logical extent IP address LEIP assigned to the logical extent in the logical volume to which the logical block address LBA belongs is converted into the LEMT 118 even if consecutive logical extent IP addresses (host addresses) are not assigned in the arrangement order of the plurality of logical extents. -i can be acquired promptly from i. However, the number of entries in the LEMT 118-i is proportional to the number of logical extents constituting the logical volume.

なお、本発明は、上記実施形態またはその変形例そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態またはその変形例に開示されている複数の構成要素の適宜な組み合せにより種々の発明を形成できる。例えば、実施形態またはその変形例に示される全構成要素から幾つかの構成要素を削除してもよい。   In addition, this invention is not limited to the said embodiment or its modification example as it is, A component can be deform | transformed and embodied in the range which does not deviate from the summary in an implementation stage. In addition, various inventions can be formed by appropriately combining a plurality of constituent elements disclosed in the embodiment or the modification thereof. For example, you may delete a some component from all the components shown by embodiment or its modification.

本発明の一実施形態に係るストレージクラスタの構成を示すブロック図。The block diagram which shows the structure of the storage cluster which concerns on one Embodiment of this invention. 図1に示される論理ボリューム管理テーブル(LVMT)のデータ構造例を示す図。The figure which shows the example of a data structure of the logical volume management table (LVMT) shown by FIG. 論理ボリュームID(LVID)が1の論理ボリュームの例を示す図。The figure which shows the example of the logical volume whose logical volume ID (LVID) is 1. 図3の論理ボリュームを管理するLVMTの例を示す図。FIG. 4 is a diagram showing an example of an LVM that manages the logical volume of FIG. 3. 図1に示されるイーサネットインタフェイス管理テーブル(EIMT)のデータ構造例を示す図。The figure which shows the example of a data structure of the Ethernet interface management table (EIMT) shown by FIG. ノード毎のEIMTの具体例を説明する際の前提となる、図3の論理ボリュームを構成する各ノードと当該各ノードによって管理される当該論理ボリューム内の論理エクステントとの関係とを示す図。The figure which shows the relationship between each node which comprises the logical volume of FIG. 3, and the logical extent in the said logical volume managed by the said node used as the premise at the time of explaining the specific example of EIMT for every node. 図6の場合における各ノードのEIMTの具体例を示す図。The figure which shows the specific example of EIMT of each node in the case of FIG. 図1に示される論理エクステント−物理エクステントマッピングテーブル(LPMT)のデータ構造例を示す図。The figure which shows the data structure example of the logical extent-physical extent mapping table (LPMT) shown by FIG. ノード毎のLPMTの具体例を説明する際の前提となる、論理ボリュームを構成する複数の論理エクステントと当該論理エクステントが格納される物理ボリューム内の物理エクステントととの関係を示す図。The figure which shows the relationship between the several logical extent which comprises a logical volume, and the physical extent in the physical volume in which the said logical extent is stored used as the premise at the time of explaining the specific example of LPMT for every node. 図9の場合における各ノードのLPMTの具体例を示す図。The figure which shows the specific example of LPMT of each node in the case of FIG. ホストからのアクセス要求に対するアクセス処理の手順を示すフローチャート。The flowchart which shows the procedure of the access process with respect to the access request from a host. ホストからのアクセス要求に対するアクセス処理の手順を示すフローチャート。The flowchart which shows the procedure of the access process with respect to the access request from a host. 論理エクステントIPアドレスに対応するMACアドレスを解決するためのアドレス解決処理の手順を示すフローチャート。The flowchart which shows the procedure of the address resolution process for resolving the MAC address corresponding to a logical extent IP address. ARP要求処理の手順を示すフローチャート。The flowchart which shows the procedure of an ARP request | requirement process. IOドライバによるアクセス処理の手順を示すフローチャート。The flowchart which shows the procedure of the access process by IO driver. ホストから図1のストレージクラスタ内のあるノードにアクセス要求が与えられた場合の動作の流れを示す図。The figure which shows the flow of operation | movement when an access request | requirement is given to a certain node in the storage cluster of FIG. 1 from a host. 論理エクステント移動処理の手順を示すフローチャート。The flowchart which shows the procedure of a logical extent movement process. 論理エクステント移動処理の手順を示すフローチャート。The flowchart which shows the procedure of a logical extent movement process. 論理エクステント移動処理の手順を示すフローチャート。The flowchart which shows the procedure of a logical extent movement process. 論理エクステント移動を説明するための図。The figure for demonstrating a logical extent movement. 図16AステップS52が実行された後の各LPMTの状態例を示す図。FIG. 16A is a diagram showing an example of the state of each LPMT after step S52 is executed. 図16AステップS53が実行された後の各EIMTの状態例を示す図。FIG. 16A is a diagram showing a state example of each EIMT after step S53 is executed. 図16CステップS65が実行された後の各EIMTの状態例を示す図。FIG. 16C is a diagram showing a state example of each EIMT after step S65 is executed. 図16CステップS66が実行された後の各LPMTの状態例を示す図。FIG. 16C is a diagram showing an example of the state of each LPMT after step S66 is executed. 図16CステップS67が実行された後の各EIMTの状態例を示す図。FIG. 16C is a diagram showing a state example of each EIMT after step S67 is executed. 図16CステップS68が実行された後の各LPMTの状態例を示す図。FIG. 16C is a diagram showing an example of the state of each LPMT after step S68 is executed. 上記実施形態の変形例で適用される論理エクステント管理テーブル(LEMT)のデータ構造例を示す図。The figure which shows the example of a data structure of the logical extent management table (LEMT) applied in the modification of the said embodiment.

符号の説明Explanation of symbols

10-1〜10-3…ノード(ストレージ装置)、11-1〜11-3…コントローラ部、12-1〜12-3…ストレージ部、30…構成管理部、40…ネットワーク、111-1〜111-3…ターゲットインタフェイス、112-1〜112-3…IOマネージャ、113-1〜113-3…TCP/IPモジュール(アドレス解決プロトコルモジュール)、114-1〜114-3…イーサネットコントローラ、115-1〜115-3,115-i…論理ボリューム管理テーブル(LVMT)、116-1〜116-3,116-i…イーサネットインタフェイス管理テーブル(EIMT)、117-1〜117-3…アドレス解決プロトコル(ARP)テーブル、118-i…論理エクステント管理テーブル(LEMT)、121-1〜121-3…IOドライバ、122-1〜122-3,122-i…論理エクステント−物理エクステントマッピングテーブル(LPMT、IPアドレステーブル)、123-1〜123-3…ディスク。   10-1 to 10-3 ... node (storage device), 11-1 to 11-3 ... controller unit, 12-1 to 12-3 ... storage unit, 30 ... configuration management unit, 40 ... network, 111-1 ... 111-3 ... Target interface, 112-1 to 112-3 ... IO manager, 113-1 to 113-3 ... TCP / IP module (address resolution protocol module), 114-1 to 114-3 ... Ethernet controller, 115 -1 to 115-3, 115-i ... Logical volume management table (LVMT), 116-1 to 116-3, 116-i ... Ethernet interface management table (EIMT), 117-1 to 117-3 ... Address resolution Protocol (ARP) table, 118-i ... logical extent management table (LEMT), 121-1 to 121-3 ... IO driver, 122-1 to 122-3, 122-i ... logical error Stent - physical extent mapping table (LPMT, IP address table), 123-1~123-3 ... disk.

Claims (9)

複数の論理エクステントから構成される論理ボリュームをホストに対して提供するストレージシステムにおいて、
前記論理エクステントを格納可能な複数の物理エクステントに分割して管理される物理ボリュームを有する複数のノードであって、固有の物理アドレスを有し、上位レイヤ通信プロトコルにTCP/IPを適用するネットワークによって相互接続される複数のノードと、
前記論理ボリュームの構成を管理する構成管理手段であって、当該論理ボリュームに固有のネットワークアドレスを論理ボリュームネットワークアドレスとして割り当てる構成管理手段とを具備し、
前記複数のノードの各々は、
前記論理ボリュームを構成する複数の論理エクステントのうちの当該ノードが有する前記物理ボリューム内の物理エクステントに格納される論理エクステントに割り当てられるIPアドレスであって、当該論理エクステントの前記論理ボリューム内の位置に対応する、前記論理ボリュームネットワークアドレスの指定するネットワークアドレス空間内のIPアドレスを、当該物理エクステントに対応付けて保持するIPアドレステーブルと、
前記ネットワークを介して送信され、指定のIPアドレスに対応付けられる物理アドレスへの解決を問い合わせるアドレス解決プロトコル要求を受信し、前記指定のIPアドレスが当該ノードの前記IPアドレステーブルに保持されている場合に、当該ノードに固有の物理アドレスを前記アドレス解決プロトコル要求の要求元のノードに返すアドレス解決プロトコルモジュールと、
前記ホストから要求されたアクセス先を示す論理アドレスの前記論理ボリューム内の位置に基づいて、当該論理アドレスが属する前記論理ボリューム内の論理エクステントに割り当てられたIPアドレスを特定し、当該特定されたIPアドレスが当該ノードの前記IPアドレステーブルに保持されているかを判定する入出力マネージャと、
前記特定されたIPアドレスが当該ノードの前記IPアドレステーブルに保持されていない場合、前記特定されたIPアドレスに対応付けられる物理アドレスへの解決を問い合わせるアドレス解決プロトコル要求を前記ネットワーク上にブロードキャストして、前記複数のノードのうち、前記特定されたIPアドレスを保持する前記IPアドレステーブルを有するノードの前記アドレス解決プロトコルモジュールから物理アドレスを取得し、当該取得された物理アドレスで特定されるノードに対して、前記特定されたIPアドレスが割り当てられている論理エクステントに対するアクセスを依頼するTCP/IPモジュールとを含む
ことを特徴とするストレージシステム。
In a storage system that provides a host with a logical volume consisting of multiple logical extents,
A plurality of nodes having physical volumes divided and managed into a plurality of physical extents capable of storing the logical extent, having a unique physical address, and applying a TCP / IP to an upper layer communication protocol A plurality of interconnected nodes;
Configuration management means for managing the configuration of the logical volume, comprising configuration management means for assigning a network address unique to the logical volume as a logical volume network address,
Each of the plurality of nodes is
An IP address assigned to a logical extent stored in a physical extent stored in the physical volume of the physical volume of the plurality of logical extents constituting the logical volume, wherein the logical extent is located at a position in the logical volume. An IP address table that holds the corresponding IP address in the network address space designated by the logical volume network address in association with the physical extent;
When an address resolution protocol request is transmitted that is transmitted through the network and inquires about resolution to a physical address associated with a designated IP address, and the designated IP address is held in the IP address table of the node An address resolution protocol module for returning a physical address unique to the node to the requesting node of the address resolution protocol request;
Based on the position in the logical volume of the logical address indicating the access destination requested from the host, the IP address assigned to the logical extent in the logical volume to which the logical address belongs is specified, and the specified IP An input / output manager that determines whether an address is held in the IP address table of the node;
If the specified IP address is not held in the IP address table of the node, an address resolution protocol request for inquiring resolution to a physical address associated with the specified IP address is broadcast on the network. The physical address is acquired from the address resolution protocol module of the node having the IP address table that holds the specified IP address among the plurality of nodes, and the node specified by the acquired physical address is acquired. And a TCP / IP module for requesting access to the logical extent to which the specified IP address is allocated.
前記複数のノードの各々は、前記論理ボリュームを構成する複数の論理エクステントに割り当てられる連続するIPアドレスのうちの先頭IPアドレスを特定するための、前記論理ブロックIPアドレスを有する論理ボリューム管理情報を保持する論理ボリューム管理テーブルを含み、
前記構成管理手段は、前記論理ボリュームを構成する前記複数の論理エクステントに対し、前記論理ボリュームネットワークアドレスの指定するネットワークアドレス空間内のIPアドレスを、前記論理ボリューム管理情報によって特定される先頭IPアドレスから、当該複数の論理エクステントの前記論理ボリューム内の配置順に割り当て、
前記入出力マネージャは、前記ホストから要求されたアクセス先を示す論理アドレスが属する論理エクステントの論理ブロック内の相対位置及び前記論理ボリュームネットワークアドレスの指定するネットワークアドレス空間内の前記論理ボリューム管理情報によって特定される先頭IPアドレスに基づき、当該論理エクステントに割り当てられるIPアドレスを特定する
ことを特徴とする請求項1記載のストレージシステム。
Each of the plurality of nodes retains logical volume management information having the logical block IP address for specifying a head IP address among consecutive IP addresses allocated to a plurality of logical extents constituting the logical volume. Logical volume management table
The configuration management means determines an IP address in a network address space designated by the logical volume network address for the plurality of logical extents constituting the logical volume from a head IP address specified by the logical volume management information. , Assigning the plurality of logical extents in the arrangement order in the logical volume,
The I / O manager is specified by the relative position in the logical block of the logical extent to which the logical address indicating the access destination requested by the host belongs and the logical volume management information in the network address space designated by the logical volume network address. 2. The storage system according to claim 1, wherein an IP address assigned to the logical extent is specified based on the first IP address to be assigned.
前記複数のノードの各々は、前記論理ボリュームを構成する複数の論理エクステントに割り当てられるIPアドレスを、当該論理エクステントに属する論理アドレスの範囲と対応付けて保持する論理エクステント管理テーブルを含み、
前記入出力マネージャは、前記論理エクステント管理テーブルを参照することにより、前記ホストから要求されたアクセス先を示す論理アドレスを含む論理アドレスの範囲と対応付けられている、当該論理アドレスの範囲の論理エクステントに割り当てられているIPアドレスを特定する
ことを特徴とする請求項1記載のストレージシステム。
Each of the plurality of nodes includes a logical extent management table that holds an IP address allocated to a plurality of logical extents constituting the logical volume in association with a range of logical addresses belonging to the logical extent;
The I / O manager refers to the logical extent management table, and is associated with the logical address range including the logical address indicating the access destination requested from the host, and the logical extent in the logical address range. The storage system according to claim 1, wherein an IP address assigned to the server is specified.
前記複数のノードの各々は、前記アドレス解決プロトコル要求による問い合わせに対して取得された、論理エクステントに割り当てられたIPアドレスに対応付けられる物理アドレスを、当該論理エクステントと対応付けて保持するアドレス解決プロトコルテーブルを含み、
前記TCP/IPモジュールは、前記特定されたIPアドレスが当該ノードの前記IPアドレステーブルに保持されていない場合、前記アドレス解決プロトコルテーブルを参照し、前記特定されたIPアドレスに対応付けられる物理アドレスが前記アドレス解決プロトコルテーブルに保持されていないならば前記アドレス解決プロトコル要求を前記ネットワーク上にブロードキャストして前記物理アドレスを取得し、当該取得された物理アドレスを前記特定されたIPアドレスが割り当てられている論理エクステントと対応付けて前記アドレス解決プロトコルテーブルに追加し、前記特定されたIPアドレスに対応付けられる物理アドレスが前記アドレス解決プロトコルテーブルに保持されているならば当該物理アドレスを当該アドレス解決プロトコルテーブルから取得する
ことを特徴とする請求項1記載のストレージシステム。
Each of the plurality of nodes has an address resolution protocol for storing a physical address associated with an IP address assigned to a logical extent, acquired in response to an inquiry by the address resolution protocol request, in association with the logical extent. Including tables,
The TCP / IP module refers to the address resolution protocol table when the specified IP address is not held in the IP address table of the node, and the physical address associated with the specified IP address is If it is not held in the address resolution protocol table, the address resolution protocol request is broadcast on the network to acquire the physical address, and the acquired IP address is assigned to the acquired physical address. Add to the address resolution protocol table in association with the logical extent, and if the physical address associated with the specified IP address is held in the address resolution protocol table, the physical address is related to the address resolution protocol table. The storage system of claim 1, wherein the obtaining the Lotto Col table.
前記複数のノードの各々は、当該ノードに固有のIPアドレスであって、前記論理ボリュームを構成する複数の論理エクステントに割り当てられる前記論理ボリュームネットワークアドレスの指定するネットワークアドレス空間内のIPアドレス以外のIPアドレスと、当該ノードに固有の物理アドレスとの対、及び当該ノードが有する物理ボリューム内の物理エクステントに格納される論理エクステントに割り当てられているIPアドレスと、当該ノードに固有の物理アドレスとの対を保持するインタフェイステーブルを含み、
前記TCP/IPモジュールは、前記特定されたIPアドレスに対応付けられる物理アドレスが前記アドレス解決プロトコルテーブルに保持されていない場合、前記インタフェイステーブルを参照して、当該ノードに固有のIPアドレス及び物理アドレスを取得して、当該取得されたIPアドレス及び物理アドレスを送信元とし、前記特定されたIPアドレスを送信先とする前記アドレス解決プロトコル要求を生成して、当該生成されたアドレス解決プロトコル要求を前記ネットワーク上にブロードキャストし、
前記アドレス解決プロトコルモジュールは、他のノードからブロードキャストされたアドレス解決プロトコル要求を受信した場合、当該アドレス解決プロトコル要求の送信先のIPアドレスが前記インタフェイステーブルに保持されているかを判定し、保持されている場合に、当該アドレス解決プロトコル要求の送信先のIPアドレスを当該アドレス解決プロトコル要求の送信先の物理アドレスと対応付けて前記アドレス解決プロトコルに登録すると共に、前記インタフェイステーブルに保持されている当該アドレス解決プロトコル要求の送信先のIPアドレス及び物理アドレスを送信元とし、当該アドレス解決プロトコル要求の送信元のIPアドレス及び物理アドレスを送信先とする応答を要求元に返す
ことを特徴とする請求項4記載のストレージシステム。
Each of the plurality of nodes is an IP address unique to the node, and is an IP address other than an IP address in a network address space designated by the logical volume network address assigned to the plurality of logical extents constituting the logical volume. A pair of an address and a physical address unique to the node, a pair of an IP address assigned to a logical extent stored in a physical extent in a physical volume of the node and a physical address unique to the node Including an interface table that holds
When the physical address associated with the specified IP address is not held in the address resolution protocol table, the TCP / IP module refers to the interface table and refers to the IP address and physical address unique to the node. Obtaining an address, generating the address resolution protocol request with the acquired IP address and physical address as the transmission source and the specified IP address as the transmission destination, and generating the generated address resolution protocol request Broadcast on the network,
When the address resolution protocol module receives an address resolution protocol request broadcast from another node, the address resolution protocol module determines whether or not the destination IP address of the address resolution protocol request is held in the interface table. The address resolution protocol request destination IP address is registered in the address resolution protocol in association with the address resolution protocol request destination physical address and held in the interface table. A response with the IP address and physical address of the transmission destination of the address resolution protocol request as the transmission source and a response with the IP address and physical address of the transmission source of the address resolution protocol request as the transmission destination is returned to the request source. Item 4 Storage system.
前記複数のノードの各々は、前記特定されたIPアドレスが当該ノードの前記IPアドレステーブルに保持されている場合、前記IPアドレステーブルによって前記特定されたIPアドレスと対応付けられている物理ボリューム内の物理エクステントを特定して、当該特定された物理ボリューム内の物理エクステントに対してアクセスする入出力ドライバを含み、
前記構成管理手段は、前記論理ボリューム内の任意の論理エクステントを移動元として決定すると共に、当該論理エクステントの移動先の、ノード、物理ボリューム及び当該物理ボリューム内の物理エクステントを決定して、前記移動先の物理エクステントに、前記論理ボリュームネットワークアドレスの指定するネットワークアドレス空間内の未使用のIPアドレスを仮論理エクステントIPアドレスとして割り当て、前記移動先のノードの前記IPアドレステーブルに前記仮論理エクステントIPアドレスを前記決定された物理ボリューム内の物理エクステントに対応付けて登録すると共に、前記移動先のノードの前記インタフェイステーブルに前記仮論理エクステントIPアドレスと前記移動先のノードに固有の物理アドレスとの対を登録し
前記移動元のノードの前記入出力ドライバは、前記移動元の論理エクステントのデータを読み込み、
前記移動元のノードの前記TCP/IPモジュールは、前記アドレス解決プロトコルテーブルに前記仮論理エクステントIPアドレスが保持されていない場合、前記仮論理エクステントIPアドレスに対応付けられる物理アドレスへの解決を問い合わせるアドレス解決プロトコル要求を前記ネットワーク上にブロードキャストして、前記仮論理エクステントIPアドレスに対応付けられる物理アドレスを取得することにより、当該物理アドレスで特定される前記移動先のノードに対して、前記仮論理エクステントIPアドレスが割り当てられている論理エクステントに前記読み込まれたデータを書き込むことを依頼し、
前記移動先のノードの前記入出力ドライバは、当該移動先のノードの前記IPアドレステーブルを参照して、前記仮論理エクステントIPアドレスと対応付けられている物理ボリューム内の物理エクステントを特定し、当該特定された物理ボリューム内の物理エクステントに前記依頼されたデータを書き込む
ことを特徴とする請求項5記載のストレージシステム。
Each of the plurality of nodes has a physical volume associated with the identified IP address by the IP address table when the identified IP address is held in the IP address table of the node. Includes an I / O driver that identifies the physical extent and accesses the physical extent in the identified physical volume;
The configuration management means determines an arbitrary logical extent in the logical volume as a migration source, and determines a migration destination of the logical extent, a node, a physical volume, and a physical extent in the physical volume, and moves the migration extent. An unused IP address in the network address space designated by the logical volume network address is assigned to a destination physical extent as a temporary logical extent IP address, and the temporary logical extent IP address is assigned to the IP address table of the destination node. Is registered in association with the physical extent in the determined physical volume, and the pair of the temporary logical extent IP address and the physical address unique to the migration destination node is registered in the interface table of the migration destination node. The The output driver of the recording and the movement source node reads the data of the migration source logical extent,
When the temporary logical extent IP address is not held in the address resolution protocol table, the TCP / IP module of the source node inquires about resolution to a physical address associated with the temporary logical extent IP address. By broadcasting a resolution protocol request on the network and obtaining a physical address associated with the temporary logical extent IP address, the temporary logical extent is sent to the destination node specified by the physical address. Requesting that the read data be written to a logical extent to which an IP address is assigned;
The input / output driver of the migration destination node refers to the IP address table of the migration destination node, identifies a physical extent in a physical volume associated with the temporary logical extent IP address, and 6. The storage system according to claim 5, wherein the requested data is written to a physical extent in the specified physical volume.
前記構成管理手段は、前記移動先のノードの前記入出力ドライバによる書き込み完了に応じて、前記移動先のノードの前記インタフェイステーブルに登録されている前記仮論理エクステントIPアドレスを前記移動元の論理エクステントのIPアドレスに書き換えると共に、前記移動先のノードの前記IPアドレステーブルに前記移動先の物理ボリューム内の物理エクステントに対応付けて保持されている前記仮論理エクステントIPアドレスを前記移動元の論理エクステントのIPアドレスに書き換え、且つ当該書き換え前に前記移動先のノードの前記インタフェイステーブルに既に登録されている前記移動元の論理エクステントのIPアドレス及び物理アドレスの対を削除すると共に、当該書き換え前に前記移動先のノードの前記IPアドレステーブルに既に登録されている前記移動元の論理エクステントのIPアドレスを削除することを特徴とする請求項6記載のストレージシステム。   The configuration management means uses the temporary logical extent IP address registered in the interface table of the migration destination node in response to completion of writing by the input / output driver of the migration destination node. The IP address table of the migration destination node is rewritten with the IP address of the extent, and the temporary logical extent IP address held in association with the physical extent in the migration destination physical volume is changed to the migration source logical extent. And the IP address and physical address pair of the source logical extent already registered in the interface table of the destination node before the rewriting are deleted, and before the rewriting The IP address of the destination node The storage system of claim 6, wherein the deleting the IP address of the migration source logical extents in less table has already been registered. 論理エクステントを格納可能な複数の物理エクステントに分割して管理される物理ボリュームを有する複数のノードであって、固有の物理アドレスを有し、上位レイヤ通信プロトコルにTCP/IPを適用するネットワークによって相互接続される複数のノードと、前記論理ボリュームの構成を管理する構成管理手段であって、当該論理ボリュームに固有のネットワークアドレスを論理ボリュームネットワークアドレスとして割り当てる構成管理手段とを備え、複数の論理エクステントから構成される論理ボリュームをホストに対して提供するストレージシステムに適用される論理ボリューム管理方法において、
前記論理ボリュームの構成時に、前記複数のノードの各々に、前記論理ボリュームを構成する複数の論理エクステントのうちの当該ノードが有する前記物理ボリューム内の物理エクステントに格納される論理エクステントに割り当てられるIPアドレスであって、当該論理エクステントの前記論理ボリューム内の位置に対応する、前記論理ボリュームネットワークアドレスの指定するネットワークアドレス空間内のIPアドレスを、当該物理エクステントに対応付けて保持するIPアドレステーブルを、前記構成管理手段または当該ノード自身が設定するステップと、
前記複数のノードのうち、前記ホストからのアクセス要求を受けたノードが、当該アクセス要求で指定されたアクセス先を示す論理アドレスの前記論理ボリューム内の位置に基づいて、当該論理アドレスが属する前記論理ボリューム内の論理エクステントに割り当てられたIPアドレスを特定するステップと、
前記特定されたIPアドレスが前記アクセス要求を受けたノードの前記IPアドレステーブルに保持されているかを、前記アクセス要求を受けたノードが判定するステップと、
前記特定されたIPアドレスが前記アクセス要求を受けたノードの前記IPアドレステーブルに保持されていない場合、前記特定されたIPアドレスに対応付けられる物理アドレスへの解決を問い合わせるアドレス解決プロトコル要求を前記アクセス要求を受けたノードが前記ネットワーク上にブロードキャストするステップと、
前記複数のノードのうちの前記アドレス解決プロトコル要求を受信したノードの前記IPアドレステーブルに前記特定されたIPアドレスが保持されている場合、当該アドレス解決プロトコル要求を受信したノードに固有の物理アドレスを当該アドレス解決プロトコル要求を受信したノードから前記アドレス解決プロトコル要求の要求元のノードに返すステップと、
前記物理アドレスが返された前記要求元のノードが、当該取得された物理アドレスで特定されるノードに対して、前記特定されたIPアドレスが割り当てられている論理エクステントに対するアクセスを依頼するステップと
を具備することを特徴とする論理ボリューム管理方法。
A plurality of nodes having physical volumes that are managed by dividing a physical extent into a plurality of physical extents that can store logical extents, each having a unique physical address, and mutually connected by a network that applies TCP / IP to an upper layer communication protocol A plurality of nodes connected to each other, and configuration management means for managing the configuration of the logical volume, the configuration management means for assigning a network address unique to the logical volume as a logical volume network address, and comprising a plurality of logical extents In a logical volume management method applied to a storage system that provides a configured logical volume to a host,
When configuring the logical volume, each of the plurality of nodes is assigned an IP address assigned to a logical extent stored in a physical extent in the physical volume of the physical volume of the plurality of logical extents constituting the logical volume. An IP address table that holds an IP address in a network address space designated by the logical volume network address corresponding to a position in the logical volume of the logical extent in association with the physical extent, Steps set by the configuration management means or the node itself;
Of the plurality of nodes, a node that has received an access request from the host, based on the position in the logical volume of the logical address indicating the access destination specified in the access request, the logical address to which the logical address belongs. Identifying an IP address assigned to a logical extent in the volume;
The node receiving the access request determines whether the identified IP address is held in the IP address table of the node receiving the access request;
If the specified IP address is not held in the IP address table of the node that has received the access request, an address resolution protocol request for inquiring resolution to a physical address associated with the specified IP address is sent to the access The node receiving the request broadcasts on the network;
When the specified IP address is held in the IP address table of the node that has received the address resolution protocol request among the plurality of nodes, a physical address unique to the node that has received the address resolution protocol request is set. Returning from the node that received the address resolution protocol request to the requesting node of the address resolution protocol request;
The requesting node to which the physical address is returned requests the node specified by the acquired physical address to access the logical extent to which the specified IP address is assigned. A logical volume management method comprising:
前記特定されたIPアドレスが前記アクセス要求を受けたノードの前記IPアドレステーブルに保持されている場合、前記アクセス要求を受けたノードが、前記IPアドレステーブルによって前記特定されたIPアドレスと対応付けられている物理ボリューム内の物理エクステントを特定して、当該特定された物理ボリューム内の物理エクステントに対してアクセスするステップを更に具備することを特徴とする請求項8記載の論理ボリューム管理方法。   When the identified IP address is held in the IP address table of the node that has received the access request, the node that has received the access request is associated with the identified IP address by the IP address table. 9. The logical volume management method according to claim 8, further comprising the step of specifying a physical extent in the physical volume and accessing the physical extent in the specified physical volume.
JP2006275236A 2006-10-06 2006-10-06 Storage system and logical volume management method applied to the system Expired - Fee Related JP4388052B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006275236A JP4388052B2 (en) 2006-10-06 2006-10-06 Storage system and logical volume management method applied to the system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006275236A JP4388052B2 (en) 2006-10-06 2006-10-06 Storage system and logical volume management method applied to the system

Publications (2)

Publication Number Publication Date
JP2008097112A true JP2008097112A (en) 2008-04-24
JP4388052B2 JP4388052B2 (en) 2009-12-24

Family

ID=39379930

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006275236A Expired - Fee Related JP4388052B2 (en) 2006-10-06 2006-10-06 Storage system and logical volume management method applied to the system

Country Status (1)

Country Link
JP (1) JP4388052B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016143249A (en) * 2015-02-02 2016-08-08 富士通株式会社 Storage system and storage control program

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08163131A (en) * 1994-12-09 1996-06-21 Fuji Facom Corp Network communication system
JP2005276094A (en) * 2004-03-26 2005-10-06 Hitachi Ltd Program, distributed storage system and method for managing file for distributed storage unit

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08163131A (en) * 1994-12-09 1996-06-21 Fuji Facom Corp Network communication system
JP2005276094A (en) * 2004-03-26 2005-10-06 Hitachi Ltd Program, distributed storage system and method for managing file for distributed storage unit

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016143249A (en) * 2015-02-02 2016-08-08 富士通株式会社 Storage system and storage control program

Also Published As

Publication number Publication date
JP4388052B2 (en) 2009-12-24

Similar Documents

Publication Publication Date Title
US7302541B2 (en) System and method for switching access paths during data migration
US7124143B2 (en) Data migration in storage system
JP4859471B2 (en) Storage system and storage controller
US7617318B2 (en) Storage system and a storage management system
JP4438582B2 (en) Data migration method
US7131027B2 (en) Method and apparatus for disk array based I/O routing and multi-layered external storage linkage
JP4632574B2 (en) Storage device, file data backup method, and file data copy method
JP4500057B2 (en) Data migration method
US7272687B2 (en) Cache redundancy for LSI raid controllers
JP4297747B2 (en) Storage device
JP2004192305A (en) METHOD AND SYSTEM FOR MANAGING iSCSI STORAGE
US20020049825A1 (en) Architecture for providing block-level storage access over a computer network
US20080184000A1 (en) Storage module and capacity pool free capacity adjustment method
US20040010563A1 (en) Method for enterprise device naming for storage devices
US7779082B2 (en) Address management device
US20070079098A1 (en) Automatic allocation of volumes in storage area networks
JP2003162377A (en) Disk array system and method for taking over logical unit among controllers
US7155527B2 (en) Storage system and management method of the storage system enabling allocation of storage devices
US20070156763A1 (en) Storage management system and method thereof
JP2007265403A (en) Remote mirroring method between tiered storage systems
JP2004227558A (en) Virtual control unit and method for controlling data migration
JP2003323263A (en) Common memory control method and control system
JP2004334481A (en) Virtualized information management apparatus
JP3848268B2 (en) Computer system, computer apparatus, data access method and program in computer system
JP4388052B2 (en) Storage system and logical volume management method applied to the system

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090908

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091001

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121009

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121009

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131009

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees