JP4382602B2 - リモートコピーシステム - Google Patents

リモートコピーシステム Download PDF

Info

Publication number
JP4382602B2
JP4382602B2 JP2004219482A JP2004219482A JP4382602B2 JP 4382602 B2 JP4382602 B2 JP 4382602B2 JP 2004219482 A JP2004219482 A JP 2004219482A JP 2004219482 A JP2004219482 A JP 2004219482A JP 4382602 B2 JP4382602 B2 JP 4382602B2
Authority
JP
Japan
Prior art keywords
copy
remote copy
pair
group
logical disk
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004219482A
Other languages
English (en)
Other versions
JP2005332354A5 (ja
JP2005332354A (ja
Inventor
卓成 岩村
晋広 牧
孝夫 佐藤
正充 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2004219482A priority Critical patent/JP4382602B2/ja
Priority to US10/942,936 priority patent/US7225190B2/en
Priority to EP07004465A priority patent/EP1785869B1/en
Priority to DE602004006084T priority patent/DE602004006084T2/de
Priority to EP04025419A priority patent/EP1589428B1/en
Priority to DE602004014998T priority patent/DE602004014998D1/de
Publication of JP2005332354A publication Critical patent/JP2005332354A/ja
Priority to US11/345,544 priority patent/US8161009B2/en
Publication of JP2005332354A5 publication Critical patent/JP2005332354A5/ja
Application granted granted Critical
Publication of JP4382602B2 publication Critical patent/JP4382602B2/ja
Priority to US13/428,956 priority patent/US20120191659A1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16Error detection or correction of the data by redundancy in hardware
    • G06F11/20Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
    • G06F11/2053Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant
    • G06F11/2056Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring
    • G06F11/2071Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring using a plurality of controllers
    • G06F11/2074Asynchronous techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16Error detection or correction of the data by redundancy in hardware
    • G06F11/20Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
    • G06F11/2053Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant
    • G06F11/2056Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring
    • G06F11/2064Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring while ensuring consistency
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16Error detection or correction of the data by redundancy in hardware
    • G06F11/20Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
    • G06F11/2053Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant
    • G06F11/2056Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring
    • G06F11/2069Management of state, configuration or failover
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16Error detection or correction of the data by redundancy in hardware
    • G06F11/20Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
    • G06F11/2053Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant
    • G06F11/2056Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring
    • G06F11/2071Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring using a plurality of controllers
    • G06F11/2076Synchronous techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/82Solving problems relating to consistency
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S707/00Data processing: database and file management or data structures
    • Y10S707/99951File or database maintenance
    • Y10S707/99952Coherency, e.g. same view to multiple users
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S707/00Data processing: database and file management or data structures
    • Y10S707/99951File or database maintenance
    • Y10S707/99952Coherency, e.g. same view to multiple users
    • Y10S707/99953Recoverability

Description

本発明は、ストレージシステムを含んだ情報処理システムに関し、さらに詳しくは2台以上のストレージシステム間で、データをコピーするリモートコピーシステムに関する。
ストレージシステムを有する情報処理システムにおいて電源障害や天災等の災害によってストレージシステムに障害が発生した場合、当該情報処理システムを使用する業務が一時的に停止したり、最悪の場合、ストレージシステムに格納されたデータが失われることがある。このような事態を回避するために、当該情報処理システムが設置された場所(以降、正サイトと呼ぶ)とは異なる遠隔地(以降、副サイトと呼ぶ)に用意されたストレージシステムに、正サイトのストレージシステムに格納されたデータを転送して、データの複製を副サイトのストレージシステムに格納しておく技術(以下「リモートコピー」と称する)が存在する。
リモートコピーとは、正サイトの情報処理システムに含まれるホストコンピュータ(以下ホストと呼ぶ。)から正サイトのストレージシステムへ書き込まれた書き込みデータを、副サイトのストレージシステムに対しても転送し、副サイトのストレージシステムにも格納する技術である。リモートコピーには同期方式と非同期方式の二種類ある。
同期方式は、ホストから正サイトのストレージシステム(以降、正ストレージシステムと呼ぶ。)へ書き込み命令があった場合に、まず副サイトのストレージシステム(以降、副ストレージシステムと呼ぶ。)へ書き込みデータを転送した後、正ストレージシステムが書き込み命令に対する返事(即ち書き込み完了報告)を正サイトのホストに返信する方式である。
非同期方式は、ホストから正ストレージシステムに書き込み命令があった場合に、正ストレージシステムはまず書き込み命令に対する完了報告をホストに返信した後、副ストレージシステムへ書き込みデータ転送する方式である。
尚、以後の説明では正ストレージシステムが有する論理ディスクを正論理ディスク、副ストレージシステムが有する論理ディスクであって、リモートコピーによって正論理ディスクのデータのコピーが格納される論理ディスクを副論理ディスクと呼ぶ。
正サイトの情報処理システムに障害が生じた場合、副サイトにおいて、ホストは副ストレージシステムの副論理ディスクに格納されているデータを用いてアプリケーションを再開する。この際、副サイトのホストが副論理ディスクを用いてアプリケーションを再開するためには、副論理ディスクのコンシステンシ(整合性)が保たれている必要がある。ここで、コンシステンシとは論理ディスクに対して書き込まれたデータの順序に関する概念で、以下の2つの条件が満たされる場合にコンシステンシがあるとみなす。
(1)ホストが最初のデータAとその次のデータBをデータA及びデータB間の順序関係を保って論理ディスクへ書き込む場合、ホストはストレージシステムにまずデータAを書き込み、ストレージシステムからデータAの書き込み完了報告を受信するのを待ってからデータBをストレージシステムに書き込まなければならない。
(2)(1)の条件を満たした書き込みについては、データAが全て論理ディスク上に存在したときに限ってデータBの一部または全てのデータが論理ディスクに存在する。
非同期方式の場合、正ストレージシステムがホストから受信した書き込みデータに順序情報(シーケンシャルナンバー)を与えて、シーケンシャルナンバー付きの書き込みデータを副ストレージシステムに転送して、副ストレージシステムがシーケンシャルナンバー順に書き込みデータを副論理ディスクへ格納することで、副論理ディスクのコンシステンシが保たれる。また、ある期間中に正論理ディスクに書き込まれたデータを一つの固まりとし、これを正ストレージシステムがアトミックに副ストレージシステムに転送して副論理ディスクにコピーする方法も考えられる。更に、特許文献1に記載されている方法を用いて、非同期方式のリモートコピーシステムにおいて副論理ディスクの整合性を確保することもできる。
一方同期方式の場合、正論理ディスクと副論理ディスクとのペアが複数存在し、複数のペアが別々にコピーの開始・停止を制御できる場合に整合性が問題となる。
例えば、正サイトと副サイトとの間にペアAとペアBが存在する場合に、ペアAにのみ正論理ディスクと副論理ディスク間に通信障害が生じリモートコピーが停止したとする。この場合に、正サイトのホストが、ペアAの正論理ディスクにデータAを書き込んだ後にペアBの正論理ディスクにデータBを書き込むケースを考えてみる。ペアAについては通信障害のためリモートコピーが停止されているので、ペアAの正論理ディスクを有する正ストレージシステムは正サイトのホストからデータAを受信すると、副ストレージシステムにデータAを送信することなく書き込みの完了報告を正サイトのホストに返信する。完了報告を受信した正サイトのホストは次に、ペアBの正論理ディスクを有する正ストレージシステムにデータBを書き込む。ペアBについてはリモートコピーは停止されていないので、データBを受信した正ストレージシステムは、データBを副ストレージシステムに送信した後に書き込み完了報告を正サイトのホストに返す。この結果データAはペアAの副論理ディスクに書き込まれていないのに、データBはペアBの副論理ディスクに書き込まれている状態が生じてしまい、ペアAとペアBの副論理ディスク間では整合性が保たれない状態が生じてしまう。
特許文献2には、係る問題を解決する方法が記載されている。この方法によれば、以下のステップで副論理ディスクの整合性を確保する。
(1)ホストがリモートコピー中の複数のペアについて、各ペアの正論理ディスクに対するホストからの書き込みを一時保留するよう指示する。
(2)ホストからの指示を受けた正ストレージシステムは、指示を受信する前にホストから受信した書き込み要求に基づくデータの書き込みは実行し、指示を受信した後にホストから受信した書き込み要求に対してはビジーを返す。
(3)ホストは更に複数のペア全てについて、リモートコピーを停止するよう指示し、この指示を受信した正ストレージシステムは、リモートコピー処理を停止する。
米国特許第6,408,370号 米国特許第5,692,155号
特許文献2による技術は、情報処理システムが複数のコンシステンシグループを有する場合が考慮されていない。そのため、情報処理システムに存在する複数のペアのうち、1ペア間でリモートコピーを停止する場合は、他の全てのペア間でリモートコピーを停止することとなり効率が悪い。
計算機システムは、ホスト計算機と、ホスト計算機に接続される複数の第1のストレージシステムと、各々複数の第1のストレージシステムのいずれかに接続される複数の第2のストレージシステムとを有する。複数の第1のストレージシステムは各々、第1の論理ディスクと、第1の論理ディスクへのデータの書き込みを制御する第1の制御装置を有しており、複数の第2のストレージシステムは各々、第2の論理ディスクと、第2の論理ディスクへのデータの書き込みを制御する第2の制御装置を有している。
まず、第1の論理ディスクと、第1の論理ディスクに格納されるデータのコピーが格納される第2の論理ディスクとを有するペアを複数有する第1のコピーグループ、及び第1の論理ディスクと、該第1の論理ディスクに格納されるデータのコピーが格納される第2の論理ディスクとを有するペアを複数有する第2のコピーグループを生成する。
複数の第1のストレージシステムは各々、第1の論理ディスクに書き込まれるデータをホストから受信すると、第1の論理ディスクと同じペアに属する第2の論理ディスクを有する第2のストレージシステムにこのデータを送信し、複数の第2のストレージシステムは各々、第1のストレージシステムから受信したデータをこのデータが格納される第1の論理ディスクと同じペアに属する第2の論理ディスクに格納する。
リモートコピー処理を停止すべきコピーグループとして、前記第1のコピーグループが特定されると、第1のコピーグループに属する複数のペアを特定し、特定された複数のペア各々について、このペアに含まれる第1の論理ディスクを有する第1のストレージシステムは、この第1の論理ディスクに格納されるデータの第2のストレージシステムへの送信を停止する。
あるペアに関するリモートコピーが停止した場合、リモートコピーが停止したペアに関連のあるペアのみを中断し、その他のペアについてはリモートコピーを継続することができる。
また各々ペアを含むコピーグループが複数存在する場合、コピーグループ毎にそのコピーグループに属するペアのリモートコピーを停止させることができる。
以下、本発明に係る実施形態を、図面を用いて説明する。尚、本発明は以下の実施例によって限定されるものではない。
(0)システム構成
先ず、図1を用いて本実施形態に係る計算機システムの構成の一例を説明する。
計算機システムは、複数のホスト100(100a、100b)、複数の正ストレージシステム、複数の副ストレージシステム、及び管理計算機10を有している。図1では正ストレージシステム及び副ストレージシステムがそれぞれ2台存在する例を示したが、正ストレージシステムおよび副ストレージシステムの数は2台に限られることはなく、それ以上存在しても良く、1台しか存在しなくても良い。
複数の正ストレージシステムは各々、正制御装置1000(1000a又は1000b)と正制御装置1000に接続された一又は複数の正ディスク装置1600を有しており、複数の副ストレージシステムも各々、副制御装置2000(2000a又は2000b)と副制御装置2000に接続された一又は複数の副ディスク装置2600を有している。
管理計算機10はCPU、CPUによって実行されるシステム管理ソフトウエア15(プログラム)が格納されているメモリ、及びネットワーク17に接続するためのIOポートを有する計算機であり、計算機システムの管理処理を実行する。
正制御装置1000は、管理計算機10と管理ネットワーク17を介して接続されている。また正制御装置1000は、ホスト100a及びホスト100bとファイバチャネルネットワークやIPネットワーク等の通信路を介して接続されている。更に正制御装置100は副制御装置ともネットワークを介して接続されており、このネットワークを介して正制御装置と副制御装置との間ではディザスタリカバリのためにデータのリモートコピー処理が実行される。
正制御装置1000は、共有メモリ1400、キャッシュメモリ1200、ホスト100若しくは副制御装置2000と接続されるポートアダプタ1100(1100a、1100b、1100c)、正ディスク装置1600と接続されるディスクアダプタ1500(1500a,1500b)、及びこれらを相互に接続するクロスバスイッチ1300を有する。
ディスクアダプタ1500は、ポート1530を有し、ポート1530を介してディスク装置1600に接続されている。ディスクアダプタ1500は、ディスク装置1600内のデータを管理し、必要に応じ他装置との間でデータの転送処理をおこなう。このためディスクアダプタはプロセッサ1520とプロセッサによって実行されるプログラムが格納されたメモリ1510とを備えている。
ポートアダプタ1100は、プロセッサ1110、メモリ1130、IOポート1120を有する。ポートアダプタ1100は、ホストからのIO要求を受け、必要に応じ副制御装置2000へのリモートコピー操作をおこなう。
副制御装置2000も正制御装置1000と同様の構成を有しており、共有メモリ2400、キャッシュメモリ2200、クロスバスイッチ2300、ポートアダプタ2100、ディスクアダプタ2500(2500a、2500b)を有する。
正ディスク装置1600及び副ディスク装置2600はFC(Fibre Channel)ディスクやSATA(Serial ATA)ディスク等である。一または複数の正ディスク装置、一又は複数の副ディスク装置が論理ディスクを構成している。具体的には論理ディスクは、一つのディスク装置の全部または一部の記憶領域で定義されたり、複数のディスク装置の個々の記憶領域(一部でも全てでも構わない)の集合として定義される場合もある。
ホスト100は、プロセッサ120、メモリ130、IOポート110を有する。図示していないが、プロセッサ、メモリ、IOポートは、内部バスなどの通信路で接続されている。各ホスト上で動作するOSが異なっていてもよいし、また、ホストと制御装置間のIO通信方式が異なっていてもよい。ホスト100は管理ネットワーク17を介して管理計算機10と接続されている。
(1)制御装置におけるコピー処理動作
(1.1)同期リモートコピーのコピー処理動作
同期リモートコピーとは前述の様に、正制御装置がホストから正論理ディスクに対する書き込み要求を受け付けた場合、書き込みデータを副制御装置に送信した後に、ホストに対して書き込み完了を返すリモートコピー方法である。
同期リモートコピーが実行される際、正論理ディスクと副論理ディスクとのペア間におけるリモートコピーの状況を管理計算機10に表示したり、リモートコピーの状態を操作するために、ストレージシステムの制御装置はペア状態(Simplex、Initial−Copying、Duplex、Suspend及びDuplex−Pending)と呼ばれる情報を管理する。図2に同期リモートコピーのペア状態に関する状態遷移図を示す。以下、各ペア状態について説明する。
(1.1.1)Simplex状態
Simplex状態は、ペアを構成する正論理ディスクと副論理ディスク間でコピーが開始されていない状態である。
(1.1.2)Duplex状態
Duplex状態は、同期リモートコピーが開始され、後述する初期化コピーも完了してペアを構成する正論理ディスクと副論理ディスクのデータ内容が同一となった状態である。同期リモートコピーの場合、正論理ディスクに対して行われた書き込みの内容が副論理ディスクに対してコピーされた後に、書き込みを行ったホストに対して正常完了のメッセージが返される。従って、書き込み途中の領域を除けば、正論理ディスクのデータと副論理ディスクのデータの内容は同じとなる。
(1.1.3)Initial−Copying状態
Initial−Copying状態は、Simplex状態からDuplex状態へ遷移するまでの中間状態であり、この期間中に、必要ならば正論理ディスクから副論理ディスクへの初期化コピー(正論理ディスクに既に格納されていたデータの副論理ディスクへのコピー)が行われる。初期化コピーが完了し、Duplex状態へ遷移するために必要な処理が終わったら、ペア状態はDuplexとなる。
(1.1.4)Suspend状態
Suspend状態は、正論理ディスクに対する書き込みの内容を副論理ディスクに反映させない状態である。この状態では、ペアを構成している正論理ディスクと副論理ディスクのデータは同じでない。オペレータやホストからの指示を契機に、ペア状態は他の状態からSuspend状態へ遷移する。それ以外に、正ストレージシステムと副ストレージシステム間の通信回線障害等により、同期リモートコピーを行うことが出来なくなった場合に自動的にペア状態がSuspend状態に遷移することが考えられる。
以後の説明では、後者の場合、即ち障害により生じたSuspend状態を障害Suspend状態と呼ぶことにする。障害Suspend状態となる代表的な原因としては、正論理ディスクや副論理ディスクの障害、正制御装置や副制御装置の障害、正制御装置と副制御装置間の通信障害が考えられる。
Suspend状態となった場合正制御装置は、Suspend状態となった時点以降に正論理ディスクに対して書き込み要求があると、書き込み要求に従ってライトデータを受信し、一旦キャッシュメモリに格納した後、正論理ディスクに書き込むが、副制御装置にはライトデータを送信しない。また正制御装置は書き込まれたライトデータの正論理ディスク上での書き込み位置を差分ビットマップ等として記憶する。更に正制御装置はライトデータを受信してキャッシュメモリに格納すると、副制御装置にライトデータを送信することなく、ホストに完了報告を送信する。
尚Suspend状態となった時点移行に副論理ディスクに対して書き込み要求があった場合には、副制御装置が上述の正制御装置と同様に動作する。
(1.1.5)Duplex−Pending状態
Duplex−Pending状態は、Suspend状態からDuplex状態に遷移するまでの中間状態である。この状態では、正論理ディスクと副論理ディスクのデータの内容を一致させるために、正論理ディスクから副論理ディスクへのデータのコピーが実行される。正論理ディスクと副論理ディスクのデータが同一になった後、ペア状態はDuplexとなる。
なお、Duplex−Pending状態におけるデータのコピーは、Suspend状態の間、正制御装置又は副の制御装置が記録した書き込み位置(例えば上述の差分ビットマップ等)を利用して、更新が必要な部分(即ち正論理ディスクと副論理ディスクとのデータの不一致部分)だけをコピーする差分コピーによって実行される。
なお、以上の説明ではInitial−Copying状態とDuplex−Pending状態は別々な状態としたが、これらをまとめて一つの状態として管理計算機10の画面に表示したり、状態を遷移させても良い。
(1.2)非同期リモートコピーのコピー処理動作
非同期リモートコピーの場合、ホストが正制御装置に対して書き込みデータを送信した場合、正制御装置からホストに対する書き込みの完了報告の送信とは独立(非同期)に、正制御装置から副制御装置へ書き込みデータが送信されて副論理ディスクに書き込まれる。
非同期リモートコピーの場合、正制御装置から副制御装置へのデータコピーの方法として、以下の方法がある。
例えば、データが書き込まれる正論理ディスク上の記憶領域のアドレスを含んだ制御情報及び書き込まれるデータの組(以下「ログエントリ」)を、正制御装置がホストからのデータの書き込みの度に作成し、このログエントリを副制御装置へ転送し、副制御装置はログエントリ内の制御情報に基づいて受信したデータを副論理ディスク上の記憶領域へ書き込む方法がある。さらにこの発展形として、ログエントリの制御情報に書き込みの時間順序を示す情報を含め、副制御装置がデータを副論理ディスク上の記憶領域へ書き込む際には、この時間順序を示す情報を利用して時間順序どおりに反映する方法がある。また更に効率的な方法として、正論理ディスク上の同一記憶領域に対する書き込みが連続して発生した場合には、正制御装置は、途中の書き込みに対するログエントリ(即ち後続の書き込みによって上書きされる書き込みに対するログエントリ)は副制御装置へ転送せず、最後の書き込みに対するログエントリのみを転送する方法がある。
また非同期リモートコピーの他の例としては、正制御装置がある一定時間に正論理ディスクに対して書き込まれたデータを差分データとして保持しておき、この差分データを副制御装置に送信し、副論理ディスクへコピーする方法がある。この方法の場合、差分データを副制御装置へ全て転送してから論理ディスクへコピーする。
非同期リモートコピーも、ペア状態(Simplex、Initial−Copying、Duplex、Suspend、Duplex−Pending及びSuspending)を用いて操作と管理を行う。図3に非同期リモートコピーのペア状態に関する状態遷移図を示す。Simplex、Initial−Copying、Suspend及びDuplex−Pending状態については同期リモートコピーと同様である。
(1.2.1)Duplex状態
Duplex状態も基本的には同期リモートコピーの場合と同じであるが、書き込みデータの副論理ディスクへのコピーが非同期に行われるため、副論理ディスクは正論理ディスクより少し遅れながら正論理ディスクに追従する。
(1.2.2)Suspending状態
Suspending状態とは、Duplex状態からSuspend状態へ遷移するまでの中間状態である。非同期リモートコピーの場合は、Suspending状態を経由してSuspend状態へ遷移する。尚、同期リモートコピーのSuspend状態の時と同様、正制御装置及び副制御装置はSuspending状態となった以降に受信した書き込みデータについて、このデータが書き込まれる位置を記録するが、非同期リモートコピーの場合には更に、Suspending状態となる以前に正制御装置がホストから受信した書き込みデータであって、Suspending状態となる以前に正制御装置から副制御装置へコピーできなかった書き込みデータに関するログエントリが有するデータの書き込み位置(またはログエントリそのもの)を、正制御装置が記録しておく。
(2)制御装置におけるコピーグループ作成の手続き
次に、コピーグループおよびサブコピーグループの作成の手順を説明する。
(2.1)コピーグループとサブコピーグループの概念
始めに、コピーグループとサブコピーグループの概念について説明する。
複数のペアを一括して操作するため、ホスト100では「コピーグループ」と「サブコピーグループ」により、ペアを管理し操作する。
「コピーグループ」は、一括して操作するペアをまとめたグループであり、サブコピーグループの集合として定義される。「サブコピーグループ」は、ストレージシステムがグループ操作を提供するペアの集合である。
コピーグループやサブコピーグループの指定は、管理計算機10で実行されるシステム管理ソフト15や、ホスト100で実行されるアプリケーションプログラム140の指示に基づいて、ホスト100で実行されるグループ管理ソフト1が一括操作をしたいペアの集合を指定することで行われる。例えば、ホスト100で実行中のアプリケーションが複数存在する場合、各々のアプリケーションに対して一つずつコピーグループを割り当て、アプリケーションが読み書きする論理ディスクを含むペアは全て当該アプリケーションに対応したコピーグループに含めてしまうことが考えられる。このようにすれば、アプリケーション単位で一括してリモートコピーを停止することができるからである。
ホスト100では、コピーグループおよびサブコピーグループを、コピーグループリスト1420、サブコピーグループリスト1450、ペア情報表1440の三つのリストを用いて管理する。これらのリストは、ホスト100内のメモリ130に置かれる。
以下、図4及び図5を用いてコピーグループ及びサブコピーグループについて説明する。図4は、コピーグループリスト、サブコピーグループリスト、ペア情報表各々の一例と、これらのリストの関係を表す図である。図5はコピーグループの構成の一例を示す図である。
図4に示すコピーグループリスト1420は、ホスト100に定義されたコピーグループの一覧が記録されたリストである。コピーグループリストは、コピーグループ番号、コンシステンシ保障レベル、サブコピーグループリストポインタ、および、状態の情報を持つ。
「コピーグループ番号」は、このコピーグループを一意に識別する番号である。
「コンシステンシ保障レベル」とは、コピーグループに含まれるペアを構成する副論理ディスクのコンシステンシに関する情報である。コンシステンシ保障レベルには、「完全保障」と「サブコピーグループ」と「未保障」のいずれかの値が入る。「完全保障」の場合はコピーグループに属するペアを構成する全副論理ディスク間で整合性を保障する。「サブコピーグループ」の場合はコピーグループに属するサブコピーグループごとに、同じサブコピーグループに属するペアを構成する副論理ディスク間で整合性を保障する。「未保障」の場合は、前述以外の場合で、例えば、ペアを構成する各副論理ディスク単位で整合性を保障する場合がこれに該当する。
「サブコピーグループリストポインタ」は、コピーグループに属するサブコピーグループの一覧を登録しているサブコピーグループリストのメモリ130内でのアドレスを示す。
「状態」はコピーグループの現状の状態を示し、図2若しくは図3に示した状態のいずれかが登録される。
サブコピーグループリスト1450は、コピーグループを構成するサブコピーグループの一覧が記録されたリストである。従って、コピーグループ毎にサブコピーグループリストは存在する。例えば図4に示したコピーグループリストには、三つのコピーグループが登録されているので、この場合には、サブコピーグループリストも三つ存在することになる。
なお、サブコピーグループは、非同期リモートコピーにおけるコンシステンシグループと同等のものであっても良い。コンシステンシグループとは、複数の論理ディスク間でライトデータの更新順序の整合性を保証し、障害停止の保証をおこなうべきペアの集合のことである。またサブコピーグループは、同期リモートコピーにおける操作グループと同等のものであっても良い。操作グループとはストレージシステムの制御装置が、複数のペアをグループ化してまとめて操作する際のグループのことである。
サブコピーグループリストは、サブコピーグループ番号、コピー元制御装置ID、コピー種別、ペアグループ有無、ペアグループ番号・ペア番号、および、状態の情報を持つ。
「サブコピーグループ番号」は、このサブコピーグループをコピーグループ内で一意に識別する番号である。
「コピー元制御装置ID」とは、サブコピーグループに含まれるペアのコピー元制御装置を一意に識別するための情報である。
「コピー種別」とは非同期リモートコピー、同期リモートコピーといったリモートコピーの種別を表す。
「ペアグループ有無」は、当該サブコピーグループが複数のペアを含むか否かを示す。「有り」の場合は、そのサブコピーグループが複数のペアを含むことを、「なし」の場合は、サブコピーグループが単一のペアから構成されていることを示す。
「ペアグループ番号・ペア番号」は、サブコピーグループに属するペアグループの識別番号か、ペアの識別番号を示している。ペアグループの識別番号を示すときは、前述のペアグループ有無の値が「有り」の場合であり、ペアの識別番号を示すときは、前述のペアグループ有無の値が「なし」の場合である。ペアグループ番号はストレージシステム内部でグループ管理を実行するための識別子であり、ストレージシステム内で一意な番号である。典型的には、コンシステンシグループの識別子または操作グループの識別子を、ペアグループ番号に割り当てる。ペア番号とは、各ペアに一意に割り当てられた番号で、ペア情報表1440からペア情報を検索する際に用いる。
状態はサブコピーグループの現状の状態であり、コピー種別が同期の場合には図2に示す状態のいずれかを、コピー種別が非同期の場合には図3に示す状態のいずれかを示す。
ペア情報表1440は、リモートコピーのペアを構成する制御装置と論理ディスク、制御装置によるグループ操作用の識別子等、ペアに関する情報を格納する表である。このペア情報表1440を参照することにより、正制御装置1000が正論理ディスクに格納されるデータを、どの副制御装置2000のどの副論理ディスクにコピーすればよいかを求めることができる。
ペア情報には、ペア番号、コピー元制御装置ID、正論理ディスク番号、コピー先制御装置ID、副論理ディスク番号、コピー種別、コンシステンシ保証レベル、ペアグループ番号、コピーグループ番号、サブコピーグループ番号が記録されている。
ペア番号は、当該ペアを一意に識別するための識別番号である。
「コピー元制御装置ID」と「正論理ディスク番号」は各々、コピー元となる制御装置と論理ディスクの識別子である。「コピー先制御装置ID」と「副論理ディスク番号」は各々、コピー先となる制御装置と論理ディスクの識別子である。
コピー種別とコンテンシ保障レベルは、上述のコピーグループリスト1420や、サブコピーグループリスト1450に記録されているものと同様の情報である。従って、必ずしもペア情報に記録しておく必要はないが、ペア情報表にも係る情報をもたせて情報を冗長化しておけば、アクセスの高速化に寄与する。
「ペアグループ番号」は、ストレージシステム内部でグループ管理を実行するための識別子であり、当該ペアが所属するコンシステンシグループまたは操作グループの識別子を示す。このペアグループ番号は上述のサブコピーグループリスト1450に記録されているペアグループ番号と同じものである。
コピーグループ番号とサブコピーグループ番号は各々、ペアが属するコピーグループとサブコピーグループを示す識別子である。
なお、正制御装置1000と副制御装置2000の共有メモリ(1400及び2400)には、ペア情報表の全て又はペア情報表のうち各正制御装置若しくは各副制御装置に関連のある部分と、リモートコピープログラムが格納されており(図示せず)、リモートコピープログラムがポートアダプタ1110によって実行されることにより、ペア情報表を用いたペアの管理が実行される。
これら三つのリストの関係を示すと、図4のようになる。
図4に示される例では、正サイトに存在する複数の正ストレージシステム内に三つのコピーグループが存在している場合を表している。コピーグループリスト1420には三つのコピーグループが登録されており、当該コピーグループリスト内の各エントリ5A,5B,5Cには、サブコピーグループリストポインタが記録されている。このサブコピーグループポインタが、コピーグループに属するサブコピーグループを示すサブコピーグループリスト(1450a,1450b,1450c)の格納場所(メモリ130上のアドレス)を指している。サブコピーグループリストはコピーグループの登録数分存在し、図4の例では、三つ存在する。
さらに、サブコピーグループのエントリ6Aはペアグループ欄が「有り」となっているため、複数のペアがサブコピーグループに含まれることがわかる。サブコピーグループに含まれるペアは、ペア情報表からコピーグループ番号とサブコピーグループ番号を用いて検索することで分かる。なお、サブコピーグループやコピーグループに含まれるペアを高速に検索できるよう、これらのペアについてインデックスを作成してもよい。
図4に示すコピーグループのうち、コピーグループ番号1のコピーグループの構成を示したのが図5である。コピーグループ番号1のコピーグループには3つのサブコピーグループが含まれる。サブコピーグループ番号1のサブコピーグループは正制御装置2000aがコピー元制御装置となるサブコピーグループ、サブコピーグループ番号2のサブコピーグループは正制御装置2000bがコピー元制御装置となるサブコピーグループ、サブコピーグループ番号3のサブコピーグループは正制御装置2000cがコピー元制御装置となるサブコピーグループである。
サブコピーグループ番号1のサブコピーグループにはペアが複数含まれ、具体的には正制御装置1000aと接続される正論理ディスク1と副制御装置2000aと接続される副論理ディスク1とのペア1、正制御装置1000aと接続される正論理ディスク2と副制御装置2000aと接続される副論理ディスク2とのペア2の2つのペアが含まれる。
サブコピーグループ番号2のサブコピーグループには、正制御装置1000bと接続される正論理ディスク1と副制御装置2000bと接続される副論理ディスク1とのペア3が含まれる。
サブコピーグループ番号3のサブコピーグループには、正制御装置1000cと接続される正論理ディスク2と副制御装置2000cと接続される副論理ディスク2とのペア4が含まれる。
(2.2) コピーグループとサブコピーグループの作成手順
次に、図6および図7を用いてコピーグループ、サブコピーグループ、及びペアの作成手順について説明する。
図6は、コピーグループの作成手順の一例を示すフローチャートである。
図7は、サブコピーグループの作成手順の一例を示すフローチャートである。
はじめに、コピーグループが作成される(図6)。
まず、管理計算機10で実行されるシステム管理ソフト15や、ホスト100で実行されるアプリケーションA140が発行したコピーグループ作成指示を、ホスト100で実行されるグループ管理ソフト1が受信する。
グループ管理ソフト1はメモリ130内にコピーグループリスト1420が存在しているかを確認し(ステップ210)、確認の結果、コピーグループリストが存在していないならば、コピーグループリストを作成する(ステップ220)。
次に、グループ管理ソフトはコピーグループリスト内に新規エントリを追加する(ステップ230)。この新しく追加されたエントリには、グループ管理ソフト1がシステム管理ソフト15若しくはアプリケーションA140から受信したコピーグループ番号、コンシステンシ保障レベルが登録される。また、このエントリ中の状態欄にはSimplexが設定される。
尚、コピーグループ番号については、グループ管理ソフトが既に作成されているコピーグループのコピーグループ番号と重複しない様な番号を選んで、この番号を新しく追加されたエントリに記録するものとしても良い。
また、サブコピーグループリストポインタは、サブコピーグループリストが作成された後に登録される。
新規エントリが追加された後、グループ管理ソフト1はコピーグループ作成指示に基づくコピーグループの作成が成功したことを示すメッセージを作成し、作成指示発行元であるシステム管理ソフト15や、アプリケーションA140に応答する(ステップ235)。この応答には、新規に作成されたコピーグループのコピーグループ番号が含まれていても良い。
次に、サブコピーグループの作成に移る(図7)。
まず、システム管理ソフト15や、アプリケーションA140が発行したサブコピーグループ登録指示をグループ管理ソフト1が受信する。このサブコピーグループ登録指示にはコピーグループ番号が含まれている。
グループ管理ソフト1はコピーグループリスト1420のエントリに、サブコピーグループ登録指示に含まれていたコピーグループ番号が存在しているかどうか確認する(ステップ250)。確認の結果、コピーグループ番号がコピーグループリストに存在していないならば、グループ管理ソフト1は、サブコピーグループ登録指示にて指定されたコピーグループが存在していないことを示すエラーメッセージを作成し、サブコピーグループ登録指示の発行元に返す(ステップ255)。
サブコピーグループ登録指示に含まれていたコピーグループ番号がコピーグループリストに存在しているならば、このコピーグループ用のサブコピーグループリストがメモリ130に存在するか否かを確認する(ステップ260)。この確認処理は、コピーグループリスト内の、サブコピーグループ登録指示に含まれていたコピーグループ番号に対応するエントリのサブコピーグループリストポインタ欄に、ポインタが登録されているか否かにより行う。
サブコピーグループリストがメモリ130内に存在していない場合には(即ちサブコピーグループリストポインタ欄にポインタが登録されていない場合には)、グループ管理ソフト1がサブコピーグループリストを作成し、更にコピーグループリスト内のサブコピーグループリストポインタ欄に、新しく作成したサブコピーグループリストへのポインタ(即ちこのサブコピーグループリストが保存されるメモリ130内のアドレス)を登録する(ステップ270)。
ステップ260にてサブコピーグループリストがメモリ130内に存在している場合(即ちサブコピーグループリストポインタ欄にポインタが登録されている場合)、若しくはステップ270にてサブコピーグループリストが新たに作成された後に、グループ管理ソフト1は受信したサブコピーグループ登録指示の内容に従って、サブコピーグループリストにエントリを追加する(ステップ280)。
このエントリには、サブコピーグループ登録指示によって指定されるサブコピーグループ番号、コピー元制御装置ID、コピー種別、ペアグループ有無、ペアグループ番号・ペア番号、及び状態が登録される。
尚、状態の欄には初期状態としてSimplex状態が登録される。またサブコピーグループ番号については、グループ管理ソフト1が同じコピーグループに属する他のサブコピーグループの番号と重複しないようにサブコピーグループ番号を選択しても良い。
次に、ペアをサブコピーグループに登録する。まずグループ管理ソフト1は、メモリ130内にペア情報表が存在するか否かを確認する(ステップ300)。ペア情報表が存在しない場合には、ペア情報表をグループ管理ソフト1が作成する(ステップ310)。
ステップ300にてペア情報表がある場合、若しくはステップ310にてペア情報表を作成した後、グループ管理ソフトはサブコピーグループ登録指示に従ってペア情報表内にエントリを作成する(ステップ320)。
このエントリには、サブコピーグループ登録指示において指定されるペア番号、コピー元制御装置ID、正論理ディスク番号、コピー先制御装置ID、副論理ディスク番号、コンシステンシ保障レベル、ペアグループ番号、コピーグループ番号、サブコピーグループ番号が登録される。尚サブコピーグループ番号については上述のステップ280で述べた様にグループ管理ソフトが選択した番号であっても良い。
尚、グループ管理ソフトは、上述の様に新規にペアを作成してこのペアの情報をペア情報表に登録するだけでなく、既存のペアを新たに作成されたサブコピーグループに登録することもできる。係る場合には、ペア情報表にはこの既存ペアの情報として、ペア番号、コピー元制御装置ID、正論理ディスクの識別番号、コピー先制御装置ID、副論理ディスクの識別番号が既に登録されているので、ステップ320にてグループ管理ソフト1はペア情報表のこの既存ペアのエントリを更新すれば良い。具体的にはグループ管理ソフト1はペア情報表のコンシステンシ保障レベル、ペアグループ番号、コピーグループ番号、サブコピーグループ番号の欄に、サブコピーグループ登録指示において指定される値を登録すれば良い。
ステップ320によって、ペア情報表に新たにエントリが追加されたり、若しくはペア情報表が更新されたりするので、この後ホスト100から正制御装置及び副制御装置にペア情報表が配布される。尚正制御装置及び副制御装置に配布されるペア情報表はホスト100が有するペア情報表と同じものでなくても、正制御装置若しくは副制御装置に関連のあるペアの情報を有していれば良い。尚、ペア情報表が正制御装置及び副制御装置に配布されるのは、後述する図8に示す初期コピー開始処理中(具体的には後述の図8のステップ12004において)であっても良い。また、ペア情報表の配布形態としては、後ほど説明する制御装置に対するペア作成指示に付随した情報として渡されることが考えられるが、これ以外であってもよい。
最後に、グループ管理ソフト1はサブコピーグループ登録指示に基づくサブコピーグループの登録が成功したことを示すメッセージを作成し、サブコピーグループ登録指示の発行元に当該メッセージを返送する(ステップ340)。
以上の処理により、コピーグループ、サブコピーグループが作成される。コピーグループ、サブコピーグループの作成が終わると、グループ管理ソフト1は、コピーグループを指定することにより、コピーグループごとにコピー処理を開始したり停止したりすることができるようになる。
(3)リモートコピーとグループ管理ソフト1との連携動作
(3.1) 初期コピー開始
図8に、コピーグループ単位でリモートコピーの初期コピーを実行するための処理の一例を示す。
まずグループ管理ソフト1は、図6及び図7に示す処理に従って、コピーグループリスト1420とサブコピーグループリスト1450とペア情報表1440を作成する(ステップ12000)。
グループ管理ソフト1は、システム管理ソフト15やアプリケーションA140から、リモートコピー開始指示を受信する。このリモートコピー開始指示にはコピーグループ番号が含まれている(ステップ12001)。
グループ管理ソフト1は、リモートコピー開始指示において指定されたコピーグループ番号を用いてコピーグループリストを検索し、このコピーグループ番号が示すコピーグループの状態と、このコピーグループに属する全てのサブコピーグループの状態を、initial−Copyingとする(ステップ12002)。
グループ管理ソフト1は、コピーグループリスト1420とサブコピーグループリスト1450とペア情報表1440を参照して、正制御装置に対して初期コピーを指示すべき一つ以上のペア、即ちリモートコピー開始指示において指定されたコピーグループに属する一つ以上のペアを見つける(ステップ12003)。
グループ管理ソフト1は、ステップ12003にて見つけた個々のペアの正制御装置に対して、当該ペアについて初期コピーを実行するようコピー初期化指示を与える。このコピー初期化指示を受信した正制御装置は、コピー初期化指示にて指定されたペアについて初期コピーを開始する(即ちコピー初期化指示にて指定されたペアの正論理ディスクに格納されているデータを副論理ディスクにコピーする)(ステップ12004)。
なお、グループ管理ソフト1がコピー初期化指示を与えるにあたって必要な情報は以下の通りであり、これらの情報はペア情報表を参照することで取得できる。
(A)コピー種別
(B)正制御装置(コピー元制御装置)ID(C)正論理ディスク番号
(D)副制御装置(コピー先制御装置)ID
(E)副論理ディスク番号
(F)サブコピーグループ番号
尚グループ管理ソフト1は、正制御装置に対して上述の(A)から(F)の情報ではなく、ペア番号を指定することでコピー初期化指示を与えることもできる。更にグループ管理ソフト1は正制御装置に対してペア番号ではなくコピーグループ番号とサブコピーグループ番号の組や、ペアグループ番号を指定してコピー初期化指示を発行することもできる。この場合に正制御装置は、受信したペア番号、若しくはコピーグループ番号とサブコピーグループ番号の組、若しくはペアグループ番号に基づいて、自身が有するペア情報表からペアを構成する正論理ディスク、副制御装置、副論理ディスクを特定して、特定されたペア間での初期コピーを実行する。
グループ管理ソフト1は、ステップ12003にて見つけたペアのペア状態を監視する(ステップ12005)。この監視処理は、グループ管理ソフト1が管理ネットワーク17を介してペア状態を問い合わせるための管理コマンドをストレージシステムに送信し、この管理コマンドへの応答をストレージシステムから受信することによって行う。
初期コピー対象のペアの状態が全てがDuplex状態へ遷移したら(ステップ12006)、グループ管理ソフトは、当該コピーグループと当該コピーグループに属する全てのサブコピーグループの状態をDuplexにする(即ちコピーグループリスト及びサブコピーグループリストの状態欄を更新する。)(ステップ12007)。
尚、グループ管理ソフト1は、システム管理ソフト15やアプリケーションA140の要求に基いて、コピーグループやサブコピーグループの状態を要求元に通知し、通知を受けたシステム管理ソフト15やアプリケーションA140はコピーグループやサブコピーグループの状態を出力する。従って、グループ管理ソフト1がコピーグループやサブコピーグループの状態をコピーグループリストやサブコピーグループリストに記録しておくことで、管理者はシステム管理ソフト15やアプリケーションA140を用いてコピーグループやサブコピーグループの状態を把握することができる。
以上図8に示す処理により、グループ管理ソフトはある特定のコピーグループを指定して、このコピーグループに属するペアについてのみストレージシステムに初期コピーを実行させることができる。従ってグループ管理ソフトは、計算機システムに存在する他のペアについては初期コピーを実行させることなく、初期コピーが必要なコピーグループについてのみ初期コピーを実行させることができる。
(3.2)リモートコピー停止処理
図9に、コピーグループ単位でリモートコピーを停止するための処理の一例を示す。
グループ管理ソフト1は、システム管理ソフト15やアプリケーションA140から、リモートコピー停止指示を受信する。このリモートコピー停止指示にはリモートコピーを停止すべきコピーグループを指定するためのコピーグループ番号が含まれている(ステップ13001)。
グループ管理ソフト1は、コピーグループリスト1420とサブコピーグループリスト1450とペア情報表1440を参照して、リモートコピー停止指示にて指定されたコピーグループに属するペアを特定する(ステップ13002)。
グループ管理ソフト1は、ステップ13002にて見つけた個々のペアについて、当該ペアの正論理ディスクを制御する正制御装置に、当該ペアのリモートコピー停止指示を発行する。このリモートコピー停止指示を受信した正制御装置は、リモートコピー停止指示にて指定されたペアについてのリモートコピーを停止する(ステップ13003)。
なお、グループ管理ソフト1が正制御装置に発行するリモートコピー停止指示には、以下の情報が含まれる。
(A)正制御装置(コピー元制御装置)ID
(B)正論理ディスク番号
(C)副制御装置(コピー先制御装置)ID
(D)副論理ディスク番号
しかし、上記情報の変わりとしてリモートコピーを停止すべきペアのペア番号を指定してもよい。また、上述のステップ12004にて説明したのと同様の方法を用いれば、管理ソフト1はコピーグループ番号とサブコピーグループ番号の組や、ペアグループ番号を指定して、リモートコピーの停止を正制御装置に指示することもできる。
正制御装置に対してリモートコピー停止指示を発行すると、グループ管理ソフト1は、リモートコピーの停止対象となっているコピーグループ、及びこのコピーグループに属するサブコピーグループの状態をSuspendingとする(即ちコピーグループリスト及びサブコピーグループリストの状態欄を更新する。)(ステップ13004)。
グループ管理ソフト1は、ステップ13002にて見つけた各ペアのペア状態を監視する。監視の方法は、図8のステップ12005にて述べたのと同様である(ステップ13005)。
リモートコピーの停止対象となっているコピーグループに属する全てのペアがSuspend状態へ遷移したら(ステップ13006)、ステップ13004にて更新したコピーグループ及びサブコピーグループの状態をSuspendとする(ステップ13005)。
図9に示す処理によってグループ管理ソフト1は、ある特定のコピーグループを指定して、このコピーグループに属するペアについてのみストレージシステムにリモートコピーを停止させることができる。従ってグループ管理ソフトは、計算機システムに存在する他のペアについてはリモートコピーを継続させたまま、リモートコピーを停止すべきコピーグループについてのみリモートコピーを停止させることができる。
しかしながら、図9に示す処理においては、リモートコピーを停止するコピーグループに属する複数の副論理ディスク間で整合性を維持することができない場合がある。これは、各正制御装置がこのコピーグループに属するペアについてのリモートコピーを停止するタイミングが、ペアによって異なる可能性があるからである。
例えばあるコピーグループに同期リモートコピー方式のペアA及びペアBが存在し、このコピーグループに対するリモートコピー停止指示をグループ管理ソフト1が受信する場合を考える。尚、まずリモートコピー停止指示に基きペアAに関するリモートコピーが停止し、その後にホスト100がペアAを構成する正論理ディスクAに対してデータ1を書き込み、更にその後にホスト100がペアBを構成する正論理ディスクBに対しデータ2を書き込み、その後にリモートコピー停止指示に基きペアBに関するリモートコピーが停止したものとする。
この場合、データ1についてはペアAのリモートコピーが停止されているので、正論理ディスクAを制御する正制御装置はデータ1をペアAを構成する副論理ディスクAに対して送信することなく、ホストに完了報告を返信する。この完了報告を受信したホストはデータ2を正論理ディスクBに対して書き込む。ペアBのリモートコピーはまだ停止されていないので、正論理ディスクBを制御する正制御装置はデータ2をペアBを構成する副論理ディスクBに対して送信した後に、ホストに対して完了報告を送信する。この結果、データ1は副論理ディスクAに格納されないにも関わらず、データ1より後に正論理ディスクに書き込まれたデータ2が副論理ディスクBに格納される状態が生じてしまい、副論理ディスクAと副論理ディスクBとの間の整合性が崩れてしまう。
(3.3)整合性を保ったリモートコピー停止処理
そこで、図10に、コピーグループ内の全ての副論理ディスク間での整合性を保ちつつ、リモートコピー処理を停止する方法の一例を示す。
グループ管理ソフト1は、システム管理ソフト15やアプリケーションA140から、リモートコピー停止指示を受信する。リモートコピー停止指示にはコピーグループ番号が含まれている(ステップ14001)。
グループ管理ソフト1は、コピーグループリスト1420とサブコピーグループリスト1450とペア情報表1440から、リモートコピー停止指示にて指定されたコピーグループに含まれるペアを見つける(ステップ14002)。
グループ管理ソフト1は、ステップ14002で見つけたペア各々について、ペアを構成する正論理ディスクを制御する正制御装置に対して、アプリケーションA140から当該正論理ディスクへの書き込み要求の処理を一時停止するように指示する。指示を受信した正制御装置は、停止指示を受信する前に既に正制御装置が受信している当該正論理ディスクへの書き込み要求のみを実行し、停止指示を受信した後に受信した当該正制御ディスクへの書き込み要求は実行せずに保留する(ステップ14003)。その後、指示を受信した正制御装置は停止指示に対する完了報告をグループ管理ソフト1に送信する。
ステップ14003にて書き込み要求を一時停止するように指示した正制御装置が全て、指示に従って書き込み処理を保留すると(即ち全ての正制御装置から完了報告が返ってきたら)、グループ管理ソフト1は、ステップ14002にて見つけたペア各々について、ペアを構成する正論理ディスクを制御する正制御装置に対して、当該ペアに関するリモートコピー処理を停止するよう、リモートコピー停止指示を発行する。このリモートコピー停止指示を受信した正制御装置はリモートコピーの停止処理を開始する(ステップ14004)。
ここで、当該ペア間のリモートコピー種別が同期リモートコピーであれば、ステップ14003にて正制御装置が書き込み要求の一時停止指示を受信するよりも前に受信した書き込み要求は、当該正制御装置によって実行され、副ストレージシステムにも当該書き込み要求に基づくライトデータが送信されている。同期リモートコピーにおいては、副ストレージシステムにライトデータが送信された後に正制御装置がホストに対して完了報告を送信し、これによって書き込み要求に対する処理が完了するからである。従って正制御装置は当該ペアについてはすぐリモートコピー処理を停止できる。
一方当該ペア間のリモートコピー種別が非同期リモートコピーであれば、正制御装置は正ストレージシステムにデータを書き込むと、副ストレージシステムにデータを書き込む前にホストに完了報告を送信するから、正制御装置にはステップ14003にて正制御装置が一時停止指示を受信するより前に受信した書き込み要求に基づくライトデータでありながら、未だ副ストレージシステムに送信されていないライトデータ(サイドファイルデータと呼ぶ)が存在し得る。係る場合には正制御装置はこの様なサイドファイルデータを副制御装置に送信した後にリモートコピー処理を停止する。尚、非同期リモートコピーの場合、全ての制御装置が正常に動作しているのであれば、サイドファイルの送信前に書き込みを再開しても良い。
リモートコピー処理の停止指示を発行した後、グループ管理ソフト1は、ステップ14003にて一時保留した書き込み要求処理の再開を、正制御装置に指示する。当該再開指示を受け付けた正制御装置は、ステップ14003にて停止していた書き込み要求処理を再開する(ステップ14005)。尚、再開されるのは正論理ディスクへの書き込み処理であって、ステップ14004にて停止されたリモートコピー処理は再開されない。従って書き込み要求の再開によって正論理ディスクへ書き込まれるデータは、副論理ディスクへはコピーされない。
グループ管理ソフト1は、ステップ14001にて受信したリモートコピー停止指示にて指定されたコピーグループと、このコピーグループに属するサブコピーグループの状態をSuspendingとする(即ち、コピーグループリスト1420とサブコピーグループリスト1450の状態欄を書き換える)(ステップ14006)。
グループ管理ソフト1は、ステップ14002にて見つけたペアのペア状態を監視する(ステップ14007)。監視方法は上述の図8のステップ12005にて述べた方法と同様である。
リモートコピー停止指示にて指定されたコピーグループに属する全てのペアのペア状態がSuspend状態となったら(ステップ14008)、ステップ14006にて更新したコピーグループとサブコピーグループの状態をSuspendとする(14009)。
なお、グループ管理ソフト1が正制御装置に発行する書き込み要求の一時停止指示(ステップ14003)、リモートコピー停止指示(ステップ14004)、書き込み要求の再開指示(ステップ14005)には、以下の情報が含まれる。
(A)正制御装置(コピー元制御装置)ID
(B)正論理ディスク番号
(C)副制御装置(コピー先制御装置)ID
(D)副論理ディスク番号
しかし、上記情報の変わりとして指示の対象となるペアのペア番号を用いてもよいまた、図8のステップ12004にて説明したのと同様の方法を用いれば、管理ソフト1はコピーグループ番号とサブコピーグループ番号の組やペアグループ番号を指定してこれらの指示を正制御装置に発行することもできる。
なお、ステップ14003からステップ14005にて書き込み要求処理が一時停止している間、ホストが正制御装置の機能が停止していると誤解しないように、正制御装置からなんらかの信号をホストに送ることが考えられる。例えば、特許文献2では正制御装置がExtended Long Busyをホストに返しており、本実施形態においてもこの方法を使用することができる。
また、ホストがSCSIを用いて正制御装置に対して正論理ディスクに対するIO要求(書き込み要求も含まれる)を発行している場合は、正制御装置がIO要求に対してホストに返信する返事に含まれるステータスバイトに、Busyステータス若しくはCheck Conditionステータスを設定して、これを受信したホストが書き込み要求を発行しなおす方法も考えられる。この場合書き込み要求の再発行は、ホストで実行されるOS中のSCSIデバイスドライバによって実行されるため、SCSIデバイスドライバより上位層で実行されるホスト上のファイルシステムや、ホストのOS上で実行されるアプリケーションA180に対しては、書き込み要求の再発行を隠すことができる。
また、ホストがiSCSIを用いて正制御装置に対し正論理ディスクへの書き込み要求を発行している場合には、ホストはFibreChannelやFICONより低信頼なIP網をTCPの再送機能を用いて高信頼化しているため、1分程度正制御装置がホストに何も応答を返さなくてもホストが誤解することはない。
図10に示す処理によれば、コピーグループに属する全てのペアについて、一旦正論理ディスクに対する書き込み要求の処理が停止された後に、このコピーグループに属するペアについてのリモートコピーが停止される。従ってコピーグループに属する副論理ディスクの整合性を維持しつつ、コピーグループに属するペアのリモートコピーを停止することができる。
例えば前述と同様、コピーグループに同期リモートコピー方式のペアA及びペアBが存在し、このコピーグループに対するリモートコピー停止指示をグループ管理ソフト1が受信する場合を考える。この場合図10によれば、まずペアAとペアBについて各ペアを構成する正論理ディスクA及び正論理ディスクBへの書き込み処理が一時停止される。この後まずリモートコピー停止指示に基きペアAに関するリモートコピーが停止され、その後にホスト100がペアAを構成する正論理ディスクAに対してデータ1を書き込み、更にその後にホスト100がペアBを構成する正論理ディスクBに対しデータ2を書き込み、その後にリモートコピー停止指示に基きペアBに関するリモートコピーが停止されたものとする(書き込み処理の一時停止以外は図9と同じ)。
この場合、データ1についてはペアAのリモートコピーが停止されているので、正論理ディスクAを制御する正制御装置は、データ1をペアAを構成する副論理ディスクAに対して送信することなく、ホストに完了報告を返信する。一方、ペアBのリモートコピーはまだ停止されていない間にデータ2の書き込みが行われているが、ペアBを構成する正論理ディスクBへの書き込み要求の処理は一時停止されている。従って正論理ディスクBを制御する正制御装置は、データ2を正論理ディスクBに書き込むことも、ペアBを構成する副論理ディスクBに対してデータ2を送信することもない。
この結果データ1及びデータ2は共に副論理ディスクに格納されない。副論理ディスクに格納されるのは、コピーグループに属するペアについて書き込み要求の処理の一時停止指示が発行される前に正制御装置が処理した書き込み要求に基くデータのみとなる。係るデータは同期リモートコピー方式に基き、正論理ディスクへの書き込み順序通りに副論理ディスクにも書き込まれる。従って図10に示す処理によれば、コピーグループに属する複数の副論理ディスク間の整合性を維持しつつコピーグループに属するペアのリモートコピーを停止することができる。
尚、コピーグループに属するペアのコピー種別が非同期リモートコピーである場合には、前述の様にライトデータに付与されたシーケンシャル番号順に副制御装置が副論理ディスクにデータを格納したり、特許文献1に示す技術を用いることにより、リモートコピー処理が停止された場合であっても複数の論理ディスク間の整合性を維持することができる。
(3.4) コピー再開
図9若しくは図10に示す処理によりリモートコピーが停止されたコピーグループについて、リモートコピーを再開するための処理内容は、基本的に図8に示すリモートコピー開始処理と同じである。但し、既にコピーグループ、サブコピーグループは構成されているので、ステップ12000は省略可能である。
また、リモートコピーを停止している間に正論理ディスクに対するライトデータがホストから書き込まれた場合、正制御装置がライトデータの書き込み位置をビットマップ等を用いて記録しておけば、ステップ12004にて正制御装置から副制御装置へコピーすべきデータは、記録しておいた書き込み位置に書き込まれているデータのみで済む。
(3.5) 障害発生によるリモートコピー処理の停止
図11に、複数のペアを含むコピーグループ内で任意のペアが障害Suspendとなった場合に、コピーグループに含まれる全ての副論理ディスクの整合性を保ちつつ残りのペアのコピーを停止する方法を示す。
ホストのアプリケーションが、障害Suspend状態のペアを構成している正論理ディスクに対する、書き込み要求を発行する(ステップ16001)。
書き込み要求を受信した正制御装置は、書き込み要求が障害Suspend状態のペアの正論理ディスクに対する要求だと判断したら、その書き込み要求に対する処理を保留する(ステップ16002)。
ペア状態が障害Suspendである場合、正制御装置は、正論理ディスクの障害によりこの正論理ディスクに対するデータの書き込み処理が実行できなかったり、通信障害により副制御装置へデータを送信できなかったり、副論理ディスクの障害により副ストレージシステムへのライトデータの書き込みが失敗に終わることから、書き込み要求が障害Suspend状態のペアの正論理ディスクに対する要求だと判断することができる。そこで、書き込み要求が障害Suspend状態のペアの正論理ディスクに対する要求であった場合には、正制御装置はその書き込み要求に対する処理を保留する旨をホストに通知する。なお、通知の際はペアである副制御装置と副論理ディスクを識別する情報を合わせて通知してもよい。
グループ管理ソフト1は、正制御装置が発行した通知を検出して、アプリケーションが発行した書き込み要求が保留された旨を検知したら、ペア情報表を参照して一時保留された書き込み要求の対象となっている正論理ディスクと合わせて通知された副論理ディスクを含むコピーグループを見つける(ステップ16003)。
グループ管理ソフト1は、コピーグループリスト1420とサブコピーグループリスト1450とペア情報表1440から、ステップ16003にて見つけたコピーグループに含まれる他のペアを見つける(ステップ16004)。
グループ管理ソフト1は、ステップ16004で見つけた各ペアについて、このペアの正論理ディスクを制御している正制御装置を見つけ、見つけた正制御装置に対してアプリケーションA140からの当該正論理ディスクに対する書き込み要求の処理を保留するよう、書き込み要求の処理の一時停止指示を発行する(ステップ16005)。
この書き込み要求の処理の一時停止指示を受信した正制御装置は、一時停止指示にて指定された正論理ディスクについて、一時停止指示を受信する前に受信した書き込み要求は実行し、一時停止指示を受信した後に受信した書き込み要求の処理は一時保留する。そして一時停止指示を受信した正制御装置は、書き込み要求の処理を保留すると、完了報告をグループ管理ソフト1に返信する。
グループ管理ソフト1は、ステップ16005にて書き込み要求の処理の一時停止を指示した全ての正制御装置から完了報告を受信すると、ステップ16004にて見つけた各ペアの正論理ディスクを制御する正制御装置に対して、当該ペアについてのリモートコピー停止指示を送信する(ステップ16006)。 指示を受けた正制御装置は、指示において指定されたペアについてのリモートコピー処理を停止する。正制御装置におけるリモートコピーの停止処理は前述の図10のステップ14004と同様の方法にて実行される。
グループ管理ソフト1は、ステップ16006においてリモートコピー処理を停止した後、ステップ16004にて保留した書き込み要求の処理を再開するよう正制御装置に指示する(ステップ16007)。当該再開指示を受け付けた正制御装置は書き込み要求処理を再開する。ここで再開される処理は、図10のステップ14005と同様、正論理ディスクへのデータの書き込み処理であって、リモートコピー処理は停止されたままである。従って書き込み要求の再開によって正論理ディスクへ書き込まれるデータは、副論理ディスクへはコピーされない。
グループ管理ソフト1は、ステップ16003にて見つけたコピーグループと、このコピーグループに属するサブコピーグループの状態をSuspendingとする(ステップ16008)。尚ステップ16007とステップ16008の実行順序は逆であっても良い。
更にグループ管理ソフト1はステップ16004にて見つけたペアのペア状態を監視する(ステップ16009)。監視方法は図8にて述べた方法と同様である。監視対象のペアの状態が全てSuspend状態となったら(ステップ16010)、ステップ16008で更新した、コピーグループの状態とサブコピーグループの状態を障害Suspendとする(ステップ16011)。
図11に示した障害発生時におけるリモートコピー処理の停止方法は、コピーグループを構成するペアのリモートコピー種別が同期リモートコピーである場合に有効である。図10と同様、コピーグループ内のあるペアが障害Suspend状態になった場合には、このペアに対する書き込み要求の処理を一時保留すると共に、このペアと同じコピーグループに属する他のペアについての書き込み要求の処理も一時保留してから、各ペアのリモートコピー処理を停止しているからである。従って、コピーグループ内のあるペアが障害Suspend状態となった場合に、このコピーグループ内に属する副論理ディスクの整合性を維持しつつ、このコピーグループに属する他のペアのリモートコピー処理を停止することができる。
一方リモートコピー種別が非同期リモートコピーである場合には、例えば特許文献1に記載の方法等を用いて、障害発生時の整合性を確保する必要がある。
なお、図10にて説明したリモートコピーの停止処理と同様、ステップ16005からステップ16007にて正制御装置が書き込み要求の処理を一時停止している間、ホストが正制御装置の機能が停止していると誤解しない様に、正制御装置からなんらかの信号をホストに送信することが望ましい。この方法としては図10にて説明したのと同様の方法を採用することができる。
また、ステップ16003において、グループ管理ソフト1が正制御装置にて書き込み要求の処理が保留されている旨を知る方法として、以下の方法が考えられる。
(A)ホストが正制御装置からExtended Long Busyを受け取ったら、ホストのOSがExtended Long Busyの受信をコンソールに出力するので、グループ管理ソフト1はコンソールへの出力を監視することにより、書き込み要求処理の保留を検出する。
(B)ホストが正制御装置から、SCSIステータスバイトにBusyステータス若しくはCheck Conditionステータスを含む返信を受信したら、ホストのOSはその旨をコンソールやログファイルへ出力するので、グループ管理ソフト1はコンソール若しくはログファイルを監視することにより、書き込み要求処理の保留を検出する。
尚、グループ管理ソフト1が正制御装置に発行する書き込み要求の一時停止指示(ステップ16005)、リモートコピー停止指示(ステップ16006)、書き込み要求の再開指示(ステップ16007)には、指示の対象となるペアのペア番号が含まれている。また、図8のステップ12004にて説明したのと同様の方法を用いれば、管理ソフト1はコピーグループ番号とサブコピーグループ番号の組やペアグループ番号を指定してこれらの指示を正制御装置に発行することもできる。
更に、ステップ16003からステップ16005に示す、書き込み要求処理の一時保留の監視から、書き込み要求処理の停止処理については、グループ管理ソフト1に代わってホストのOS上で動作するデバイスドライバが実行しても良い。
第2の実施例について説明する。
図12は、第2の実施例における計算機システムの構成例を示す図である。
計算機システムはホスト(100a、100b)と管理計算機10と、ストレージシステム(4010、4020、4030、4040)を有する。各ストレージシステムは実施例1と同様、制御装置と論理ディスク(4011、4021、4031、4041)を含む。
ホスト100a、ホスト100b、管理計算機10はネットワーク17を介して相互に接続されている。またホスト100a、ホスト100b、管理計算機10、正ストレージシステム(4010、4020)もネットワークを介して接続されている。
更に正ストレージシステム4010と副ストレージシステム4030間、正ストレージシステム4020と副ストレージシステム4040間は各々接続されており、これらのストレージシステムはリモートコピーを実行している。
ホスト100aには、メモリにOS170aとアプリケーションA140aが格納されており、これをCPUが実行する。アプリケーションAはSCSI以外のプロトコルに従って論理ディスク4011へデータの読み書きを行う。
ホスト100bでは、メモリにOS170bとアプリケーションB140bが格納されており、これをCPUが実行する。アプリケーションBはSCSIプロトコルに従って論理ディスク4021へ読み書きを行う。
ここで、アプリケーションAとアプリケーションBは、お互いに通信しながら、共同で一つの処理を行っているものとする。従って、もしアプリケーションBのある処理が、アプリケーションAのある処理の完了後に実行する必要がある処理である場合には、アプリケーションAは処理の完了メッセージをネットワーク17を介してアプリケーションBへ転送し、アプリケーションBはアプリケーションAからの完了メッセージを受信してから処理を実行することにより、お互いが同期を取っている。
論理ディスク4011と論理ディスク4031はリモートコピーのペア(4050)である。また、論理ディスク4021と論理ディスク4041もまた、リモートコピーのペア(4060)である。
管理計算機10は、メモリにグループ管理ソフト1が格納されておりCPUがグループ管理ソフト1を実行している。グループ管理ソフト1は、ペア4050とペア4060をコピーグループとして一括操作するものとする。なお、グループ管理ソフトはホスト100aやホスト100bに含まれても良い。
ホストや管理計算機、ストレージシステムの構成については、実施例1と同様であるので、図12では省略する。
実施例2では、SCSIプロトコルを用いるホスト100bがデータを書き込むペア4060と、SCSI以外のプロトコルを用いるホスト100aがデータを書き込むペア4050間において障害発生時のコンシステンシを保つことができる。以下にペア4050若しくはペア4060に障害が発生した場合の手順を示す。
図13は、図12に示すシステムにおいてペア4050に障害が生じた場合の処理の一例を示す図である。
ホスト100aのアプリケーション140aが、非SCSIプロトコルに従って正ストレージシステム4010の正論理ディスク4011に対して書き込み要求を発行する(ステップ18001)。
正ストレージシステム4010の正制御装置は、受信した書き込み要求の対象のペアが障害Suspendであることを検出し、ホスト100aに対してExtended Long Busyステータスを返し、正論理ディスク4011に対する書き込み処理を一時停止する(ステップ18002)。障害Suspendの検出方法は上述の図11にて述べた方法と同様である。
ホスト100aのOS170aは、Extended Long Busyステータスを受信したことを、ネットワークを介して管理計算機10のグループ管理ソフト1へ通知する。この通知には障害Suspendとなったペアの以下の情報が含まれる。
(A)正制御装置(コピー元制御装置)ID
(B)正論理ディスク番号
(C)副制御装置(コピー先制御装置)ID
(D)副論理ディスク番号
しかし、その代わりとしてペア番号を含めてもよい。グループ管理ソフト1は、受信した情報を用いてペア情報表を参照し、障害Suspendとなったペアが所属するコピーグループを見つける(ステップ18003)。
グループ管理ソフト1は更に、コピーグループリスト、サブコピーグループリスト、ペア情報表を用いて、ステップ18003にて見つけたコピーグループに所属する他のペアを見つける(ステップ18004)。
グループ管理ソフト1は、ステップ18004で見つけたペアの正論理ディスクを制御している正制御装置を特定し、この正制御装置に当該正論理ディスクへの書き込み要求の処理を停止するように指示する。この指示を受信した正制御装置は、書き込み要求の処理の停止指示を受信する前に受信した当該正論理ディスクに対する書き込み要求は実行し、停止指示を受信した後に受信した当該正論理ディスクに対する書き込み要求は保留する(ステップ18005)。尚、書き込み処理停止中の正論理ディスクに書き込み要求が到着した場合は、正制御装置は以下の処理を行う。
(A)到着した書き込み要求が、非SCSIプロトコルに従った書き込み要求である場合は、Extended Long Busyステータスを返す。
(B)到着した書き込み要求が、SCSIプロトコルに従った書き込み要求である場合には、BusyステータスまたはCheck Conditionステータスを返す。
即ち、正制御装置は、書き込み停止中の正論理ディスクに対してホスト100aからアクセスがあった場合には、Extended Long Busyステータスを返し、ホスト100bからアクセスがあった場合には、BusyステータスまたはCheck Conditionステータスを返す。
なお正制御装置は、それぞれの正論理ディスクについて、上記方法(A)及び(B)の使い分けを行うために、各正論理ディスクがホストからどのプロトコルに従ってアクセスされるかを記憶している。
書き込み処理が停止されると、正制御装置はグループ管理ソフト1に完了報告を返す。
ステップ18005で書き込み要求の処理の停止指示を発行した全ての正制御装置から完了報告が返ってきたら、グループ管理ソフト1は、ステップ18004にて見つけたペアについて、ペアを構成する正論理ディスクを制御する正制御装置に対してリモートコピーの停止を指示する。このリモートコピー停止指示を受け付けた正制御装置は、指示にて指定されたペアのリモートコピー処理を停止する(ステップ18006)。
リモートコピー停止指示を発行した後にグループ管理ソフト1は、ステップ18005にて書き込み要求の処理を一時停止させた正論理ディスクについて、書き込み要求の処理の再開を指示する。この指示を受信した正制御装置は、書き込み処理を再開する(ステップ18007)。
グループ管理ソフト1は、ステップ18003にて見つけたコピーグループと、このコピーグループに属するサブコピーグループの状態をSuspendingとする(ステップ18008)。
グループ管理ソフトはステップ18003にて見つけたコピーグループに属するペアのペア状態を監視する(ステップ18009)。全てのペアがSuspend状態となったら(ステップ18010)、ステップ18008にて更新した状態をSuspendとする(18011)。
尚、図13においてはSCSIプロトコル以外のプロトコルに従ってアクセスされるペア4050に障害が生じた場合を例に説明したが、SCSIプロトコルでアクセスされるペア4060に障害が生じた場合にも同様の方法によって整合性を確保することができる。この場合にはステップ18002において、正ストレージシステム4020の正制御装置が、受信した書き込み要求の対象のペアが障害Suspendであることを検知し、ホスト100bに対してBusyステータスまたはCheck Conditionステータスを返し、正論理ディスク4021に対する書き込み処理を一時停止する。
また、グループ管理ソフト1が正制御装置に発行する書き込み要求の一時停止指示(ステップ18005)、リモートコピー停止指示(ステップ18006)、書き込み要求の再開指示(ステップ18007)には、指示の対象となる以下の情報が含まれる。
(A)正制御装置(コピー元制御装置)ID
(B)正論理ディスク番号
(C)副制御装置(コピー先制御装置)ID
(D)副論理ディスク番号
しかし、その代わりとしてペアのペア番号を含めてもよい。また、図8のステップ12004にて説明したのと同様の方法を用いれば、管理ソフト1はコピーグループ番号とサブコピーグループ番号の組やペアグループ番号を指定してこれらの指示を正制御装置に発行することもできる。
以上の様に、ストレージシステムの制御装置が、自身が制御する論理ディスクについて、ホストからSCISプロトコルに従ってアクセスされるのか、SCSIプロトコル以外のプロトコルに従ってアクセスされるのかを管理することによって、リモートコピーのペアに障害が生じた場合に適切な方法でホストに障害を通知することができる。従って、SCSIプロトコルでアクセスされる論理ディスクによって構成されるペアと、SCSIプロトコル以外のプロトコルに従ってアクセスされる論理ディスクによって構成されるペアとの間で、障害発生時に整合性を確保しつつ、リモートコピーを停止することが可能となる。
次に実施例3について説明する。
図14は、第3の実施例における3サイト計算機システムの構成例を示す図である。3サイト計算機システムはサイトA、サイトB、サイトCの3つのサイトから構成される。
サイトAには、ホスト100a、ストレージシステムAA17001、ストレージシステムAB17002が含まれる。ストレージシステムAAは正制御装置と正論理ディスク17011を、ストレージシステムABは正制御装置と正論理ディスク17012を有する。ホスト100aはアプリケーションプログラムA140a、グループ管理ソフト1、OS(Operating System)170aを有する。アプリケーションAはサイトAの正論理ディスク(17011、17012)へデータの読み書きを行う。
サイトBにはストレージシステムBA17003とストレージシステムBB17004が存在し、ストレージシステムBAは副制御装置と副論理ディスク17013、ストレージシステムBBは副制御装置と副論理ディスク17014を有する。
サイトCにはストレージシステムCA17005とストレージシステムCB17006が存在し、ストレージシステムCAは副制御装置と副論理ディスク17015、ストレージシステムCBは副制御装置と副論理ディスク17016を有する。
正論理ディスク17011と副論理ディスク17013はリモートコピーのペア(17021)である。正論理ディスク17012と副論理ディスク17014もリモートコピーのペア(17022)である。正論理ディスク17011はまた、副論理ディスク17015とペア(17031)でもある。同様に、正論理ディスク17012は、副論理ディスク17016ともペア(17032)である。ペア17021とペア17022のコピー種別は非同期、ペア17031とペア17032のコピー種別は同期であるものとする。従って、本実施例ではサイトAから、サイトBとサイトCへ並行してリモートコピーが実行される。
尚、ホストや管理計算機、ストレージシステムの構成については、実施例1と同様であるので、図14では省略する。
グループ管理ソフト1は、ペア17021と17022をコピーグループ1と、ペア17031と17032をコピーグループ2とするように、コピーグループ、サブコピーグループ、ペアを設定する。
この結果ホスト100aに設定されるコピーグループリスト、サブコピーグループリスト、ペア情報表の一例を図15に示す。尚、図15に示すコピーグループリスト、サブコピーグループリスト、ペア情報表は、図6及び図7に示す処理に従って作成される。
コピーグループリストには、コピーグループ1とコピーグループ2が登録され、各々のコピーグループにはサブコピーグループリストへのポインタが登録される。
コピーグループが2つ存在するので、サブコピーグループリストは各コピーグループに対応して2つ存在する。サブコピーグループリストには、正制御装置ごとに同じコピーグループに属するペアがサブコピーグループとしてまとめて登録される。図14に示すシステムでは、コピーグループ1には、ストレージシステムAAの正制御装置をコピー元制御装置とするペア17021が属するサブコピーグループ1と、ストレージシステムABの正制御装置をコピー元制御装置とするペア17022が属するサブコピーグループ2が含まれる。この2つのサブコピーグループのコピー種別は共に非同期である。一方コピーグループ2には、ストレージシステムAAの正制御装置をコピー元制御装置とするペア17031が属するサブコピーグループ1と、ストレージシステムABの正制御装置をコピー元制御装置とするペア17032が属するサブコピーグループ2が含まれる。この2つのサブコピーグループのコピー種別は共に同期である。
図14に示すシステムにはペアが4つ存在するので、ペア情報表には4つのペア(ペア17021、17022、17031、17032)が登録されている。
係る状態において、ペア17032に障害が生じてペア状態が障害Suspendとなった場合を想定する。この場合、図11に示す処理が実行されることによって、コピーグループ1に属するペア17031とペア17032のリモートコピー処理は停止される。しかし障害Suspendとなったペア17032とは異なるコピーグループ2に属するペア17021とペア17022については、リモートコピー処理は停止されないので、サイトAからサイトBへのリモートコピーは継続した状態となる。
以上の様に、本実施形態によれば、グループ管理ソフトは、コピーグループ毎に整合性を維持しつつリモートコピー処理を停止することができる。従って3サイト構成の計算機システムにおいて、サイトAとサイトB間のリモートコピーのペアと、サイトAとサイトC間のリモートコピーのペアとを各々別のコピーグループに属するよう管理しておけば、サイトAとサイトC間に障害が生じてリモートコピーが停止してしまった場合に、サイトCの副論理ディスク間の整合性を維持しつつ、サイトAとサイトBとの間のリモートコピー処理は継続させることができる。
実施形態1における計算機システムの一例を示す図である。 同期リモートコピーのペア状態の状態遷移の一例を示す図である。 非同期リモートコピーのペア状態の状態遷移の一例を示す図である。 コピーグループリスト、サブコピーグループリスト、ペア情報表各々の一例と、これらのリストの関係を示す図である。 コピーグループの構成の一例を示す図である。 コピーグループの作成手順の一例を示す図である。 サブコピーグループの作成手順の一例を示す図である。 コピーグループ単位でリモートコピーの初期コピーを実行するための処理の一例を示す図である。 コピーグループ単位でリモートコピーを停止するための処理の一例を示す図である。 副論理ディスク間での整合性を維持しつつ、コピーグループ単位でリモートコピーを停止するための処理の一例を示す図である。 あるペアが障害サスペンドとなった場合に、当該ペアと同じコピーグループに属するペアのリモートコピーを、当該コピーグループに属する副論理ディスクの整合性を維持しつつ停止するための処理の一例を示す図である。 実施形態2における計算機システムの一例を示す図である。 実施形態2において、あるペアに障害が生じた際の処理の一例を示す図である。 実施形態3における3サイト計算機システムの構成例を示す図である。 実施形態3における3サイト計算機システムの、コピーグループリスト、サブコピーグループリスト、ペア情報表の一例を示す図である。
符号の説明
1 グループ管理ソフト
100 ホスト
1000 正制御装置
1420 コピーグループリスト
1440 ペア情報表
1450 サブコピーグループリスト
1600 正ディスク装置
2000 副制御装置
2600 副ディスク装置

Claims (10)

  1. 計算機からデータが書き込まれる複数の第一の論理ディスクを有する第一のシステムと、
    前記第一のシステムに接続され、複数の第二の論理ディスクを有する第二のシステムと、
    前記第一のシステムに接続され、複数の第三の論理ディスクを有する第三のシステムと、
    コピーグループ管理部とを有するシステムにおける、リモートコピーの制御方法であって、
    前記第一のシステムと前記第二のシステムとの間には、各々コピー元である第一の論理ディスク及びコピー先である第二の論理ディスクを有する同期タイプのリモートコピーペアが複数構成されており、当該複数の同期タイプのリモートコピーペアにおいては、第一のシステムから第二のシステムへ送信されるデータが更新順序の整合性を維持しつつ複数の第二の論理ディスクのいずれかに格納され、
    前記コピーグループ管理部は、前記複数の同期タイプのリモートコピーペアを同期タイプのコピーグループとして管理し、
    前記第一のシステムと前記第三のシステムとの間には、各々コピー元である第一の論理ディスク及びコピー先である第三の論理ディスクを有する非同期タイプのリモートコピーペアが複数構成されており、当該複数の非同期タイプのリモートコピーペアにおいては、第一のシステムから第三のシステムへ送信されるデータが更新順序の整合性を維持しつつ複数の第三の論理ディスクのいずれかに格納され、
    前記コピーグループ管理部は、前記複数の非同期タイプのリモートコピーペアを非同期タイプのコピーグループとして管理し、
    前記コピーグループ管理部が、いずれかの第一の論理ディスクに関するリモートコピー処理の障害通知を受信すると、
    前記コピーグループ管理部は、前記障害通知が、前記第一の論理ディスクを有する同期タイプのリモートコピーペア及び前記第一の論理ディスクを有する非同期タイプのリモートコピーペアの内、いずれのリモートコピーペアにおけるリモートコピー処理に関するものであるかを特定するための情報を取得し、
    前記情報を用いて特定されるリモートコピーペアと同じコピーグループに属する他のリモートコピーペアのリモートコピー処理を停止するために、前記コピーグループ管理部は、前記情報を用いて、前記同期タイプのコピーグループ若しくは前記非同期タイプのコピーグループのいずれに属するリモートコピーペアのリモートコピー処理を停止すべきかを決定することを特徴とするリモートコピーの制御方法。
  2. 請求項1記載のリモートコピーの制御方法であって、
    前記障害通知には、障害に係るリモートコピーペアに含まれるコピー先論理ディスクを特定するための情報が含まれており、
    前記コピーグループ管理部は、前記コピー先論理ディスクを特定するための情報を取得して、前記同期タイプのコピーグループ若しくは前記非同期タイプのコピーグループのいずれに属するリモートコピーペアのリモートコピー処理を停止すべきかを決定することを特徴とするリモートコピーの制御方法。
  3. 請求項1記載のリモートコピーの制御方法であって、
    前記コピーグループ管理部が前記同期タイプのコピーグループに属するリモートコピーペアのリモートコピー処理を停止する旨を決定した場合に、
    前記コピーグループ管理部は、当該同期タイプのコピーグループに属する同期タイプのリモートコピーペアを特定し、特定された同期タイプのリモートコピーペアに関するリモートコピー処理を、データの更新順序の整合性を維持しつつ停止するよう前記第一のシステムに指示することを特徴とするリモートコピーの制御方法。
  4. 請求項3記載のリモートコピーの制御方法であって、
    前記コピーグループ管理部は、前記第一のシステムに前記同期タイプのリモートコピーペアに関するリモートコピー処理を停止するよう指示する場合に、前記同期タイプのリモートコピーペアに属する第一の論理ディスクに対する書き込み要求の処理を保留するよう前記第一のシステムに指示し、当該書き込み要求の処理が保留されたことを確認した後に、前記同期タイプのリモートコピーペアに関するリモートコピー処理を停止するよう前記第一のシステムに指示することを特徴とするリモートコピーの制御方法。
  5. 請求項4記載のリモートコピーの制御方法であって、
    前記第一のシステムには、各々第一の論理ディスクを有する複数の第一のストレージシステムが含まれており、
    前記第二のシステムには、各々第二の論理ディスクを有する複数の第二のストレージシステムが含まれており、
    前記第三のシステムには、各々第三の論理ディスクを有する複数の第三のストレージシステムが含まれており、
    前記コピーグループ管理部は、前記第一のシステムに前記同期タイプのリモートコピーペアに関するリモートコピー処理を停止するよう指示する場合に、前記同期タイプのコピーグループに属する同期タイプのリモートコピーペアを構成する第一の論理ディスクを有する第一のストレージシステムに対して、当該第一の論理ディスクに対する書き込み要求の処理を保留するよう指示し、当該指示を行った全ての第一のストレージシステムから当該指示に対する完了報告を受信した後に、前記第一のストレージシステムに対して前記同期タイプのリモートコピーペアに関するリモートコピー処理を停止するよう指示することを特徴とするリモートコピーの制御方法。
  6. 請求項5記載のリモートコピーの制御方法であって、
    前記コピーグループ管理部から書き込み要求の処理を保留するよう指示された第一のストレージシステムは、当該指示を受ける前に受信した前記第一の論理ディスクに対する書き込み要求の処理は実行し、当該指示を受けた後に受信した前記第一の論理ディスクに対する書き込み要求の処理は保留して、前記コピーグループ管理部に完了報告を送信することを特徴とするリモートコピーの制御方法。
  7. 請求項1記載のリモートコピーの制御方法であって、
    前記同期タイプのコピーグループに属する複数のリモートコピーペアに関するリモートコピー処理の停止方法と、前記非同期タイプのコピーグループに属する複数のリモートコピーペアに関するリモートコピー処理の停止方法とは異なることを特徴とするリモートコピーの制御方法。
  8. 複数の第一の論理ディスクを有する第一のシステムと、
    前記第一のシステムに接続され、複数の第二の論理ディスクを有する第二のシステムと、
    前記第一のシステムに接続され、複数の第三の論理ディスクを有する第三のシステムと、
    コピーグループ管理部とを有しており、
    前記第一のシステムと前記第二のシステムとの間には、各々コピー元である第一の論理ディスク及びコピー先である第二の論理ディスクを有する同期タイプのリモートコピーペアが複数構成されており、当該複数の同期タイプのリモートコピーペアにおいては、第一のシステムから第二のシステムへ送信されるデータが更新順序の整合性を維持しつつ複数の第二の論理ディスクのいずれかに格納され、
    前記コピーグループ管理部は、前記複数の同期タイプのリモートコピーペアを有する同期タイプのコピーグループを管理し、
    前記第一のシステムと前記第三のシステムとの間には、各々コピー元である第一の論理ディスク及びコピー先である第三の論理ディスクを有する非同期タイプのリモートコピーペアが複数構成されており、当該複数の非同期タイプのリモートコピーペアにおいては、第一のシステムから第三のシステムへ送信されるデータが更新順序の整合性を維持しつつ複数の第三の論理ディスクのいずれかに格納され、
    前記コピーグループ管理部は、前記複数の非同期タイプのリモートコピーペアを有する非同期タイプのコピーグループを管理し、
    前記コピーグループ管理部が、いずれかの第一の論理ディスクに関するリモートコピー処理の障害通知を受信すると、
    前記コピーグループ管理部は、前記障害通知が、前記第一の論理ディスクを有する同期タイプのリモートコピーペア及び前記第一の論理ディスクを有する非同期タイプのリモートコピーペアの内、いずれのリモートコピーペアにおけるリモートコピー処理に関するものであるかを特定するための情報を取得し、
    前記情報を用いて特定されるリモートコピーペアと同じコピーグループに属する他のリモートコピーペアのリモートコピー処理を停止するために、前記コピーグループ管理部は、前記情報を用いて、前記同期タイプのコピーグループ若しくは前記非同期タイプのコピーグループのいずれに属するリモートコピーペアのリモートコピー処理を停止すべきかを決定し、
    前記同期タイプのコピーグループに属するリモートコピーペアのリモートコピー処理を停止する場合に、前記コピーグループ管理部は、当該同期タイプのコピーグループに属する同期タイプのリモートコピーペアを特定し、特定された同期タイプのリモートコピーペアに関するリモートコピー処理を、データの更新順序の整合性を維持しつつ停止するよう前記第一のシステムに指示することを特徴とするリモートコピーシステム。
  9. 請求項8記載のリモートコピーシステムであって、
    前記障害通知には、障害に係るリモートコピーペアに含まれるコピー先論理ディスクを特定するための情報が含まれており、
    前記コピーグループ管理部は、前記コピー先論理ディスクを特定するための情報を取得して、前記同期タイプのコピーグループ若しくは前記非同期タイプのコピーグループのいずれに属するリモートコピーペアのリモートコピー処理を停止すべきかを決定することを特徴とするリモートコピーシステム。
  10. 請求項8記載のリモートコピーシステムであって、
    前記コピーグループ管理部は、前記第一のシステムに前記同期タイプのリモートコピーペアに関するリモートコピー処理を停止するよう指示する場合に、前記同期タイプのリモートコピーペアに属する第一の論理ディスクに対する書き込み要求の処理を保留するよう前記第一のシステムに指示し、当該書き込み要求の処理が保留されたことを確認した後に、前記同期タイプのリモートコピーペアに関するリモートコピー処理を停止するよう前記第一のシステムに指示することを特徴とするリモートコピーシステム。
JP2004219482A 2004-04-23 2004-07-28 リモートコピーシステム Expired - Fee Related JP4382602B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2004219482A JP4382602B2 (ja) 2004-04-23 2004-07-28 リモートコピーシステム
US10/942,936 US7225190B2 (en) 2004-04-23 2004-09-17 Remote copying system with consistency guaranteed between a pair
DE602004006084T DE602004006084T2 (de) 2004-04-23 2004-10-26 Fernkopiersystem mit garantierter Konsistenz eines Daten-Paares
EP04025419A EP1589428B1 (en) 2004-04-23 2004-10-26 Remote copying system with consistency guaranteed between a pair
EP07004465A EP1785869B1 (en) 2004-04-23 2004-10-26 Remote copying system with consistency guaranteed between a pair
DE602004014998T DE602004014998D1 (de) 2004-04-23 2004-10-26 Fernkopiersystem mit garantierter Konsistenz eines Daten-Paares
US11/345,544 US8161009B2 (en) 2004-04-23 2006-02-02 Remote copying system with consistency guaranteed between a pair
US13/428,956 US20120191659A1 (en) 2004-04-23 2012-03-23 Remote copying system with consistency guaranteed between a pair

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004127562 2004-04-23
JP2004219482A JP4382602B2 (ja) 2004-04-23 2004-07-28 リモートコピーシステム

Publications (3)

Publication Number Publication Date
JP2005332354A JP2005332354A (ja) 2005-12-02
JP2005332354A5 JP2005332354A5 (ja) 2006-11-02
JP4382602B2 true JP4382602B2 (ja) 2009-12-16

Family

ID=34927118

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004219482A Expired - Fee Related JP4382602B2 (ja) 2004-04-23 2004-07-28 リモートコピーシステム

Country Status (4)

Country Link
US (3) US7225190B2 (ja)
EP (2) EP1785869B1 (ja)
JP (1) JP4382602B2 (ja)
DE (2) DE602004014998D1 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7133982B2 (en) * 2003-06-18 2006-11-07 International Business Machines Corporation Method, system, and article of manufacture for consistent copying of storage volumes
JP4382602B2 (ja) * 2004-04-23 2009-12-16 株式会社日立製作所 リモートコピーシステム
JP4728031B2 (ja) * 2005-04-15 2011-07-20 株式会社日立製作所 リモートコピーペアの移行を行うシステム
US7647525B2 (en) * 2006-03-31 2010-01-12 Emc Corporation Resumption of operations following failover in connection with triangular asynchronous replication
JP4835249B2 (ja) * 2006-04-26 2011-12-14 株式会社日立製作所 ストレージシステム、リモートコピー、その管理方法
JP4818843B2 (ja) 2006-07-31 2011-11-16 株式会社日立製作所 リモートコピーを行うストレージシステム
JP4327831B2 (ja) * 2006-09-05 2009-09-09 株式会社日立製作所 ストレージシステム、管理計算機及びコピーペア監視方法
US20080155175A1 (en) * 2006-12-26 2008-06-26 Sinclair Alan W Host System That Manages a LBA Interface With Flash Memory
US7822892B2 (en) 2007-07-19 2010-10-26 International Business Machines Corporation Managing the copying of writes from primary storages to secondary storages across different networks
US7904682B2 (en) 2007-07-19 2011-03-08 International Business Machines Corporation Copying writes from primary storages to secondary storages across different networks
JP5124237B2 (ja) 2007-11-02 2013-01-23 株式会社日立製作所 ストレージシステムおよびストレージサブシステム
WO2009093280A1 (ja) * 2008-01-21 2009-07-30 Fujitsu Limited ストレージ装置
JP4616898B2 (ja) 2008-05-07 2011-01-19 株式会社日立製作所 ストレージ装置制御方法および計算機システム
JP5486793B2 (ja) 2008-11-07 2014-05-07 株式会社日立製作所 リモートコピー管理システム、方法及び装置
US8745006B2 (en) * 2009-04-23 2014-06-03 Hitachi, Ltd. Computing system and backup method using the same
JP2011090550A (ja) 2009-10-23 2011-05-06 Hitachi Ltd コンピュータシステム及びプログラム記録媒体
EP2365462A2 (en) * 2010-03-08 2011-09-14 Kabushiki Kaisha Toshiba Image forming apparatus, authority management method of image forming apparatus, and authority management system of image forming apparatus
JP5652130B2 (ja) * 2010-10-29 2015-01-14 日本電気株式会社 ディスクアレイコントローラ装置及びその制御方法
US8850145B1 (en) * 2012-03-30 2014-09-30 Emc Corporation Managing consistency groups in storage systems
US20130282979A1 (en) * 2012-04-23 2013-10-24 Toru Suzuki Storage system and storage virtualization method
US8935496B2 (en) * 2012-08-31 2015-01-13 Hitachi, Ltd. Management method of virtual storage system and remote copy system
JP6167722B2 (ja) * 2013-07-23 2017-07-26 富士通株式会社 ストレージシステム,ストレージ制御装置及びデータ転送方法
US9213753B2 (en) * 2013-11-18 2015-12-15 Hitachi, Ltd. Computer system
US10007602B2 (en) * 2014-05-06 2018-06-26 International Business Machines Corporation Flash copy relationship management
US10108352B2 (en) 2015-03-03 2018-10-23 International Business Machines Corporation Incremental replication of a source data set
KR102489729B1 (ko) * 2018-02-07 2023-01-18 삼성전자주식회사 연결 정보에 기반하여 외부 장치들과 연결하는 전자 장치 및 그 동작 방법
US11132271B2 (en) * 2018-08-29 2021-09-28 International Business Machines Corporation Determining which target is most ahead in a multi-target mirroring environment
US10783047B2 (en) * 2018-09-06 2020-09-22 International Business Machines Corporation Forming a consistency group comprised of volumes maintained by one or more storage controllers

Family Cites Families (76)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5402428A (en) * 1989-12-25 1995-03-28 Hitachi, Ltd. Array disk subsystem
US5155845A (en) * 1990-06-15 1992-10-13 Storage Technology Corporation Data storage system for providing redundant copies of data on different disk drives
US5544347A (en) * 1990-09-24 1996-08-06 Emc Corporation Data storage system controlled remote data mirroring with respectively maintained data indices
KR0128271B1 (ko) 1994-02-22 1998-04-15 윌리암 티. 엘리스 재해회복을 위한 일관성 그룹 형성방법 및 레코드갱싱의 섀도잉 방법, 주시스템, 원격데이타 섀도잉 시스템과 비동기 원격데이타 복제 시스템
US5504861A (en) * 1994-02-22 1996-04-02 International Business Machines Corporation Remote data duplexing
US5615329A (en) * 1994-02-22 1997-03-25 International Business Machines Corporation Remote data duplexing
JP2682811B2 (ja) * 1994-03-22 1997-11-26 インターナショナル・ビジネス・マシーンズ・コーポレイション データ記憶管理システム及び方法
US5583995A (en) * 1995-01-30 1996-12-10 Mrj, Inc. Apparatus and method for data storage and retrieval using bandwidth allocation
US5692155A (en) 1995-04-19 1997-11-25 International Business Machines Corporation Method and apparatus for suspending multiple duplex pairs during back up processing to insure storage devices remain synchronized in a sequence consistent order
US6973656B1 (en) * 1995-08-16 2005-12-06 International Business Machines Corporation Method and apparatus for linking data in a distributed data processing system
US5901327A (en) * 1996-05-28 1999-05-04 Emc Corporation Bundling of write data from channel commands in a command chain for transmission over a data link between data storage systems for remote data mirroring
US5893140A (en) * 1996-08-14 1999-04-06 Emc Corporation File server having a file system cache and protocol for truly safe asynchronous writes
US6578120B1 (en) * 1997-06-24 2003-06-10 International Business Machines Corporation Synchronization and resynchronization of loosely-coupled copy operations between a primary and a remote secondary DASD volume under concurrent updating
JP3414218B2 (ja) 1997-09-12 2003-06-09 株式会社日立製作所 記憶制御装置
WO1999018505A1 (en) * 1997-10-06 1999-04-15 Powerquest Corporation System and method for transferring one-to-many disk image among computers in a network
US6189079B1 (en) * 1998-05-22 2001-02-13 International Business Machines Corporation Data copy between peer-to-peer controllers
US6260124B1 (en) * 1998-08-13 2001-07-10 International Business Machines Corporation System and method for dynamically resynchronizing backup data
US6308284B1 (en) 1998-08-28 2001-10-23 Emc Corporation Method and apparatus for maintaining data coherency
US6301643B1 (en) 1998-09-03 2001-10-09 International Business Machines Corporation Multi-environment data consistency
JP4689137B2 (ja) 2001-08-08 2011-05-25 株式会社日立製作所 リモートコピー制御方法、及びストレージシステム
US6349304B1 (en) * 1998-12-09 2002-02-19 International Business Machines Corporation Graphical interface for copying settings from network source device to network target devices without transmitting values not usable for features supported by network target devices
US6529944B1 (en) * 1999-01-06 2003-03-04 Emc Corporation Host system for remote control of mass storage volumes using cascading commands
JP2000305856A (ja) * 1999-04-26 2000-11-02 Hitachi Ltd ディスクサブシステム及びこれらの統合システム
EP1192539B1 (en) * 1999-06-11 2003-04-16 BRITISH TELECOMMUNICATIONS public limited company Communication between software elements
US6647399B2 (en) * 1999-11-29 2003-11-11 International Business Machines Corporation Method, system, program, and data structures for naming full backup versions of files and related deltas of the full backup versions
US6904543B2 (en) * 1999-12-24 2005-06-07 Denso Corporation Electronic control having floating-point data check function
DE60134696D1 (de) * 2000-05-23 2008-08-21 Hitachi Ltd Rechnersystem mit Fernkopiereinrichtung
US7325046B1 (en) * 2000-05-31 2008-01-29 International Business Machines Corporation Method, system and program products for managing processing groups of a distributed computing environment
US7328349B2 (en) * 2001-12-14 2008-02-05 Bbn Technologies Corp. Hash-based systems and methods for detecting, preventing, and tracing network worms and viruses
AU6778601A (en) * 2000-06-26 2002-01-08 International Business Machines Corporation Data management application programming interface for a parallel file system
US6990606B2 (en) * 2000-07-28 2006-01-24 International Business Machines Corporation Cascading failover of a data management application for shared disk file systems in loosely coupled node clusters
JP2002189570A (ja) 2000-12-20 2002-07-05 Hitachi Ltd 記憶システムの二重化方法および記憶システム
US6990547B2 (en) * 2001-01-29 2006-01-24 Adaptec, Inc. Replacing file system processors by hot swapping
JP4457184B2 (ja) * 2001-02-13 2010-04-28 ネットアップ,インコーポレイテッド ストレージシステムにおけるフェイルオーバー処理
US6650656B2 (en) * 2001-02-28 2003-11-18 Crossroads Systems, Inc. Method and system for reconciling extended copy command target descriptor lengths
US6728736B2 (en) * 2001-03-14 2004-04-27 Storage Technology Corporation System and method for synchronizing a data copy using an accumulation remote copy trio
US7152096B2 (en) * 2001-08-06 2006-12-19 Hitachi, Ltd. High performance storage access environment
JP2003076592A (ja) 2001-09-04 2003-03-14 Hitachi Ltd データ格納システム
US7827136B1 (en) * 2001-09-20 2010-11-02 Emc Corporation Management for replication of data stored in a data storage environment including a system and method for failover protection of software agents operating in the environment
US7155463B1 (en) * 2001-09-20 2006-12-26 Emc Corporation System and method for replication of one or more databases
US7539745B1 (en) * 2001-12-11 2009-05-26 Emc Corporation Network management for replication of data stored in a data storage environment
US7290017B1 (en) * 2001-09-20 2007-10-30 Emc Corporation System and method for management of data replication
US6880151B2 (en) * 2001-09-27 2005-04-12 International Business Machines Corporation Apparatus and method of providing common distributed services for system management applications across heterogeneous environments
US6910098B2 (en) 2001-10-16 2005-06-21 Emc Corporation Method and apparatus for maintaining data coherency
US7139932B2 (en) 2002-01-03 2006-11-21 Hitachi, Ltd. Data synchronization of multiple remote storage after remote copy suspension
JP4220166B2 (ja) * 2002-02-19 2009-02-04 株式会社日立製作所 ストレージエリアネットワークシステムのアクセス制御方法
US7296237B2 (en) * 2002-03-15 2007-11-13 Shinkuro, Inc. Data replication system and method
US6993635B1 (en) * 2002-03-29 2006-01-31 Intransa, Inc. Synchronizing a distributed mirror
JP4183443B2 (ja) * 2002-05-27 2008-11-19 株式会社日立製作所 データ再配置方法及び装置
JP2004013367A (ja) * 2002-06-05 2004-01-15 Hitachi Ltd データ記憶サブシステム
US6934769B2 (en) * 2002-07-29 2005-08-23 Lsi Logic Corporation Methods and structure for SCSI/IDE translation in a storage subsystem
US6907505B2 (en) * 2002-07-31 2005-06-14 Hewlett-Packard Development Company, L.P. Immediately available, statically allocated, full-logical-unit copy with a transient, snapshot-copy-like intermediate stage
US7134044B2 (en) * 2002-08-16 2006-11-07 International Business Machines Corporation Method, system, and program for providing a mirror copy of data
US7076687B2 (en) * 2002-10-16 2006-07-11 Hitachi, Ltd. System and method for bi-directional failure detection of a site in a clustering system
US7089446B2 (en) * 2003-01-09 2006-08-08 International Business Machines Corporation Method, system, and article of manufacture for creating a consistent copy
US7461131B2 (en) * 2003-03-07 2008-12-02 International Business Machines Corporation Use of virtual targets for preparing and servicing requests for server-free data transfer operations
US7761421B2 (en) * 2003-05-16 2010-07-20 Hewlett-Packard Development Company, L.P. Read, write, and recovery operations for replicated data
US7467168B2 (en) 2003-06-18 2008-12-16 International Business Machines Corporation Method for mirroring data at storage locations
US7043665B2 (en) 2003-06-18 2006-05-09 International Business Machines Corporation Method, system, and program for handling a failover to a remote storage location
US7136974B2 (en) * 2003-06-19 2006-11-14 Pillar Data Systems, Inc. Systems and methods of data migration in snapshot operations
US7130975B2 (en) 2003-06-27 2006-10-31 Hitachi, Ltd. Data processing system
US7526549B2 (en) * 2003-07-24 2009-04-28 International Business Machines Corporation Cluster data port services for clustered computer system
JP4419460B2 (ja) 2003-08-04 2010-02-24 株式会社日立製作所 リモートコピーシステム
JP2005062928A (ja) * 2003-08-11 2005-03-10 Hitachi Ltd 複数のサイトにリモートコピーを行うシステム
US7236322B2 (en) * 2003-08-20 2007-06-26 International Business Machines Corporation Method, system, and program for storing data in a storage medium
JP4021823B2 (ja) * 2003-09-01 2007-12-12 株式会社日立製作所 リモートコピーシステム及びリモートコピーの方法
US7188272B2 (en) * 2003-09-29 2007-03-06 International Business Machines Corporation Method, system and article of manufacture for recovery from a failure in a cascading PPRC system
US7441052B2 (en) 2003-09-29 2008-10-21 Hitachi Data Systems Corporation Methods and apparatuses for providing copies of stored data for disaster recovery and other uses
JP4307982B2 (ja) * 2003-12-19 2009-08-05 株式会社日立製作所 データ多重化制御方法
JP4629342B2 (ja) * 2004-01-09 2011-02-09 株式会社日立製作所 ストレージ装置およびその制御方法
US7383463B2 (en) * 2004-02-04 2008-06-03 Emc Corporation Internet protocol based disaster recovery of a server
JP2005242403A (ja) * 2004-02-24 2005-09-08 Hitachi Ltd 計算機システム
JP2005258850A (ja) 2004-03-12 2005-09-22 Hitachi Ltd 計算機システム
JP4452533B2 (ja) * 2004-03-19 2010-04-21 株式会社日立製作所 システムおよび記憶装置システム
JP4382602B2 (ja) * 2004-04-23 2009-12-16 株式会社日立製作所 リモートコピーシステム
US8185663B2 (en) 2004-05-11 2012-05-22 Hewlett-Packard Development Company, L.P. Mirroring storage interface

Also Published As

Publication number Publication date
DE602004006084T2 (de) 2008-01-03
US7225190B2 (en) 2007-05-29
US20120191659A1 (en) 2012-07-26
EP1785869A1 (en) 2007-05-16
US20060161721A1 (en) 2006-07-20
DE602004014998D1 (de) 2008-08-21
EP1589428B1 (en) 2007-04-25
US8161009B2 (en) 2012-04-17
US20050240634A1 (en) 2005-10-27
EP1589428A1 (en) 2005-10-26
EP1785869B1 (en) 2008-07-09
JP2005332354A (ja) 2005-12-02
DE602004006084D1 (de) 2007-06-06

Similar Documents

Publication Publication Date Title
JP4382602B2 (ja) リモートコピーシステム
US7370228B2 (en) Data processing system and copy processing method thereof
JP5244332B2 (ja) 情報システム、データ転送方法及びデータ保護方法
US8285824B2 (en) Storage system and data replication method that refuses one or more requests for changing the first logical configuration information until the first storage apparatus and second storage apparatus are synchronized
JP4282464B2 (ja) リモートコピーシステム
US8745006B2 (en) Computing system and backup method using the same
JP4756992B2 (ja) ストレージシステム及び記憶制御方法
US8468314B2 (en) Storage system, storage apparatus, and remote copy method for storage apparatus in middle of plural storage apparatuses
JP5286212B2 (ja) ストレージクラスタ環境でのリモートコピー制御方法及びシステム
JP2005202495A (ja) データ移行方法
JP2004013367A (ja) データ記憶サブシステム
JP2006285919A (ja) 計算機システム、計算機及びリモートコピー処理方法
JP2007179342A (ja) ストレージシステム及びスナップショット管理方法
JP2007140601A (ja) 記憶制御システム
JP5409799B2 (ja) リモートコピーシステム及びリモートコピー制御方法
JP4818843B2 (ja) リモートコピーを行うストレージシステム
US9563383B2 (en) Storage system with primary and secondary data storage groups and control method thereof
JP2005301880A (ja) 計算機システムにおけるデータ入出力処理方法、ストレージ装置、ホスト計算機、および計算機システム、

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060424

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060919

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060919

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20090127

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20090204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090908

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090917

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121002

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131002

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees