JP4916420B2 - ストレージシステム及びリモートコピー制御方法 - Google Patents

ストレージシステム及びリモートコピー制御方法 Download PDF

Info

Publication number
JP4916420B2
JP4916420B2 JP2007297712A JP2007297712A JP4916420B2 JP 4916420 B2 JP4916420 B2 JP 4916420B2 JP 2007297712 A JP2007297712 A JP 2007297712A JP 2007297712 A JP2007297712 A JP 2007297712A JP 4916420 B2 JP4916420 B2 JP 4916420B2
Authority
JP
Japan
Prior art keywords
journal
group
storage
groups
storage unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007297712A
Other languages
English (en)
Other versions
JP2009123055A (ja
Inventor
健介 天木
健一 小山田
剛行 今津
義典 松井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2007297712A priority Critical patent/JP4916420B2/ja
Priority to US12/029,139 priority patent/US8078581B2/en
Publication of JP2009123055A publication Critical patent/JP2009123055A/ja
Application granted granted Critical
Publication of JP4916420B2 publication Critical patent/JP4916420B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16Error detection or correction of the data by redundancy in hardware
    • G06F11/20Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
    • G06F11/2053Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant
    • G06F11/2056Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring
    • G06F11/2071Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring using a plurality of controllers
    • G06F11/2074Asynchronous techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16Error detection or correction of the data by redundancy in hardware
    • G06F11/20Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
    • G06F11/2053Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant
    • G06F11/2056Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring
    • G06F11/2064Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring while ensuring consistency
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16Error detection or correction of the data by redundancy in hardware
    • G06F11/20Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
    • G06F11/2053Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant
    • G06F11/2056Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant by mirroring
    • G06F11/2082Data synchronisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/855Details of asynchronous mirroring using a journal to transfer not-yet-mirrored changes

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、ストレージシステム及びリモートコピー制御方法に関し、例えば運用拠点及び遠隔拠点間に設置されたストレージ装置間でデータをリモートコピーするストレージシステムに適用して好適なものである。
現在、地震又はハリケーンなどによる大規模な自然災害や、システム操作者の誤操作又はテロリズム攻撃などによる人的災害、並びに機器及びプログラムの不具合によるデータ破壊からデータを保護するために、特に大企業や政府系のシステムにおいてリモートコピー技術が広く使用されている。
また、近年では業務で扱うデータ量が増大傾向にあり、これに伴ってリモートコピーの対象となるストレージ装置の数も増加しているため、大規模なストレージシステムを対象として入出力データの順序性・一貫性を保ったまま遠隔拠点にデータを複製可能なリモートコピー技術のニーズが高まっている。
このようなニーズに対して、例えば特許文献1及び特許文献2には、運用拠点に設置された複数台のストレージ装置(以下、これを正ストレージ装置と呼ぶ)がそれぞれ提供する複数のデータボリュームを複数のグループ(以下、これを正ジャーナルグループと呼ぶ)に分けると共に、これら正ジャーナルグループと対応させて、遠隔拠点に設置された複数台のストレージ装置(以下、これを副ストレージ装置と呼ぶ)がそれぞれ提供する複数のデータボリュームを複数のグループ(以下、これを副ジャーナルグループと呼ぶ)に分け、対応する正ジャーナル部ループ及び副ジャーナルグループ間で非同期リモートコピーを行なうリモートコピー技術が開示されている。
かかるリモートコピー技術においては、正ストレージ装置内のデータボリュームにデータが書き込まれたときに、書き込まれたデータ自体並びに当該データが書き込まれた位置及びその時刻(タイムスタンプ)などからなるジャーナルと呼ばれるデータボリュームの更新履歴情報を正ストレージ装置において作成する。
一方、副ストレージ装置は、定期的に対応する正ストレージ装置にジャーナルの転送要求(以下、これをジャーナル転送要求と呼ぶ)を送信する。また副ストレージ装置は、かかるジャーナル転送要求に応じて正ストレージ装置から転送されるジャーナルに含まれるデータを自ストレージ装置内の対応するデータボリュームの対応する位置に書き込む(以下、これを「ジャーナルをデータボリュームに反映する」と呼ぶ)。
このとき遠隔拠点側では、複数の副ストレージ装置の中から他のすべての副ストレージ装置と通信可能なマスタが設定される。そしてマスタに設定された副ストレージ装置は、自ストレージ装置内に設定された各ジャーナルグループと、他の副ストレージ装置内に設定された各ジャーナルグループとがそれぞれ持つ滞留中のジャーナルのうちの最新のジャーナルに含まれるタイムスタンプ(以下、これをグループ内最新タイムスタンプと呼ぶ)を取得する。
またマスタに設定された副ストレージ装置は、取得した全ジャーナルグループのグループ内最新タイムスタンプの値を相互に比較し、そのうちの最古のグループ内最新タイムスタンプに合わせて、当該最古のグループ内最新タイムスタンプが示す時刻までのジャーナルを各副データボリュームに一斉に反映するように他の副ストレージ装置を制御する。
このようなリモートコピー技術によれば、複数のジャーナルグループに跨って、ホストからの入出力データの順序性・一貫性を保ったまま遠隔拠点にデータを複製することが可能となる。
しかしながら、かかる特許文献1及び特許文献2に開示されたリモートコピー技術においては、正ストレージ装置のデータ入出力負荷が異なる場合について考慮されておらず、どのジャーナルグループ間のコピーにおいても同レベルでのデータ量及び間隔のデータ転送を定期的に行うため、データ入出力負荷が高いジャーナルグループほど遠隔拠点に転送しきれないジャーナルが増加するという問題がある。
この結果、かかるリモートコピー技術によると、ジャーナルグループ間で最新タイムスタンプの時間差が増大するため、特にデータ入出力負荷の少ないジャーナルグループにおいて、データボリュームにコピーされるデータの最新性が損なわれていく問題があった。
なお、特許文献3にも複数のストレージ装置間で順序性を保ったデータ転送と複製を行うリモートコピー技術が開示されてはいるが、この特許文献3でも上述のような正ストレージ装置間でデータ入出力負荷が異なることに対する配慮は示されていない。
特開2005−267216号公報 特開2006−318491号公報 特開2006−107450号公報
災害や障害によって業務システムがダウンした場合に、システムダウンの影響を最小限にとどめてシステムを回復するためには、可能な限りシステムがダウンした時点に近い状態のデータを、ホスト入出力の一貫性を保証した状態で複製しておく必要がある。
複数のジャーナルグループを一貫性保証の対象とする場合、個々のジャーナルグループの内部だけでなく、業務的に関連するすべてのジャーナルグループを対象としてデータの順序性と整合性を保証しなくてはならないため、業務で扱うデータ量が増えて複製の対象となるジャーナルグループの数が増加するごとに、先述のデータ入出力負荷の差異に伴う問題から、従来技術の範囲ではデータの最新性を確保した一貫性を保証することが困難となる。
そのため、複数のジャーナルグループを一貫性保証の対象とするシステムでは、ジャーナルグループの数が増加するごとに、業務システムが障害から復旧した場合に、より古い時点のデータしか復旧できず、災害発生時に、どの時点のデータまで復旧可能であるかを示す指針であるRPO(Recovery Point Objective)が低下する問題があった。
本発明は以上の点を考慮してなされたもので、障害発生時のRPOを改善し、信頼性の高いストレージシステム及びリモートコピー制御方法を提案しようとするものである。
かかる課題を解決するため本発明においては、上位装置に対して、データを読み書きするための第1のボリュームを提供する、少なくとも1つのストレージ装置から構成される第1のストレージ部と、前記第1のボリュームに書き込まれたデータを複製するための第2のボリュームを提供する、少なくとも1つのストレージ装置から構成される第2のストレージ部とを有するストレージシステムにおいて、前記第1のストレージ部は、1又は複数の前記第1のボリュームを含む複数の第1のグループを設定すると共に、設定した前記第1のグループごとに、前記第1のボリュームに対するデータの書き込みがあったときに、当該データ及び当該データの書き込み時刻を示すタイムスタンプを含むジャーナルを作成するジャーナル作成部を備え、前記第2のストレージ部は、各前記第1のグループにそれぞれ対応させて、それぞれ1又は複数の前記第2のボリュームを含む複数の第2のグループを設定すると共に、設定した前記第2のグループごとに、前記ジャーナルを定期的にかつ作成された順番で前記第1のストレージ装置から取得し、取得した前記ジャーナルを対応する前記第2のグループ内の対応する前記第2のボリュームに反映するジャーナル取得反映部と、前記第2のボリュームに未反映の状態で滞留している前記ジャーナルに含まれる前記第2のグループごとの最新の前記タイムスタンプを比較し、最新及び最古のタイムスタンプの時間差を検出する時間差検出部と、前記時間差が予め設定された閾値を超えた場合に、前記タイムスタンプが最古の前記第2のグループについての前記ジャーナルを、他の前記第2のグループについての前記ジャーナルに優先して取得するための所定の制御処理を実行するジャーナル取得制御部とを備えることを特徴とする。
この結果、このストレージシステムでは、リモートコピーを行う第2のグループの数にかかわりなく、第2のグループ間において一定の時間的範囲内(閾値内)において、第2のグループ間におけるデータの最新性を確保した一貫性を保証することができる。
また本発明においては、上位装置に対して、データを読み書きするための第1のボリュームを提供する、少なくとも1つのストレージ装置から構成される第1のストレージ部と、前記第1のボリュームに書き込まれたデータをリモートコピーするための第2のボリュームを提供する、少なくとも1つのストレージ装置から構成される第2のストレージ部とを有するストレージシステムにおけるリモートコピーを制御方法において、前記第1のストレージ部において、1又は複数の前記第1のボリュームを含む複数の第1のグループを設定すると共に、設定した前記第1のグループごとに、前記第1のボリュームに対するデータの書き込みがあったときに、当該データ及び当該データの書き込み時刻を示すタイムスタンプを含むジャーナルを作成する第1のステップと、前記第2のストレージ部において、各前記第1のグループにそれぞれ対応させて、それぞれ1又は複数の前記第2のボリュームを含む複数の第2のグループを設定すると共に、設定した前記第2のグループごとに、前記ジャーナルを定期的にかつ作成された順番で前記第1のストレージ装置から取得し、取得した前記ジャーナルを対応する前記第2のグループ内の対応する前記第2のボリュームに反映する一方、前記第2のボリュームに未反映の状態で滞留している前記ジャーナルに含まれる前記第2のグループごとの最新の前記タイムスタンプを比較して、最新及び最古の前記タイムスタンプの時間差を検出し、前記時間差が予め設定された閾値を超えた場合に、前記タイムスタンプが最古の前記第2のグループについての前記ジャーナルを、他の前記第2のグループについての前記ジャーナルに優先して取得する第2のステップとを備えることを特徴とする。
この結果、このリモートコピー制御方法によれば、リモートコピーを行う第2のグループの数にかかわりなく、第2のグループ間において一定の時間的範囲内(閾値内)において、第2のグループ間におけるデータの最新性を確保した一貫性を保証することができる。
本発明によれば、障害発生時のRPOを改善し、信頼性の高いストレージシステム及びリモートコピー制御方法を実現できる。
以下図面について、本発明の一実施の形態を詳述する。
(1)第1の実施の形態
(1−1)本実施の形態によるストレージシステムの構成
図1において、1は全体として第1の実施の形態によるストレージシステムを示す。このストレージシステムは、ホスト2及び運用拠点に設置された正ストレージ装置3が接続されると共に、正ストレージ装置3がネットワーク4を介して遠隔拠点に設置された副ストレージ装置5と接続されることにより構成されている。
ホスト2は、CPU(Central Processing Unit)10及びメモリ11等の情報処理資源を備えたメインフレーム系のコンピュータ装置から構成される。CPU10はホスト2全体の動作制御を司るプロセッサであり、メモリ11に格納された業務プログラム12をCPU10が実行することにより、ホスト2全体として業務に関する各種処理を行う。メモリ11は、業務プログラム12を含む各種制御プログラムを保持するために用いられるほか、CPU10のワークメモリとしても用いられる。また、ホスト2は、キーボード、スイッチやポインティングデバイス、マイクロフォン等の情報入力装置(図示せず)と、モニタディスプレイやスピーカ等の情報出力装置(図示せず)とを備える。
ネットワーク4は、例えばSAN(Storage Area Network)、LAN(Local Area Network)、インターネット、公衆回線又は専用回線などから構成される。ネットワーク4を介したホスト2及び正ストレージ装置3間の通信は、例えばネットワーク4がSANである場合にはファイバーチャネルプロトコルに従って行われ、ネットワーク4がLANである場合にはTCP/IP(Transmission Control Protocol/Internet Protocol)プロトコルに従って行われる。
正ストレージ装置3及び副ストレージ装置5は、ホスト2に対してデータを記憶するための記憶領域を提供する複数の記憶デバイス20A,20Bが搭載された記憶ユニット21A,21Bと、各記憶デバイス20A,20Bに対するデータの入出力を制御するコントローラ22A,22Bとを備えて構成される。
記憶デバイス20A,20Bとしては、例えばSCSI(Small Computer System Interface)ディスク等の高価なディスク、又はSATA(Serial AT Attachment)ディスクや光ディスク等の安価なディスクが適用される。なお、記憶デバイス20A,20Bとして、例えばフラッシュメモリなどの半導体メモリを適用するようにしても良い。
各記憶デバイス20A,20Bは、コントローラ22A,22BによりRAID(Redundant Array of Inexpensive Disks)方式で運用される。1又は複数の記憶デバイス20A,20Bにより提供される物理的な記憶領域上に、1又は複数の論理的なボリューム(以下、これを論理ボリュームと呼ぶ)VOLが設定される。そしてホスト2からのデータは、この論理ボリュームVOL内に所定大きさのブロック(以下、これを論理ブロックと呼ぶ)を単位として記憶される。
各論理ボリュームVOLには、それぞれ固有の識別子(以下、これをLUN(Logical Unit number)と呼ぶ)が付与される。本実施の形態の場合、データの入出力は、このLUNと、各論理ブロックにそれぞれ付与されるその論理ブロックに固有の番号(LBA:Logical Block Address)とを組み合わせたものをアドレスとして、当該アドレスを指定して行われる。
本実施の形態の場合、正ストレージ装置3や副ストレージ装置5内に設定される論理ボリュームVOLの属性としては、ホスト2がデータを読み書きするデータボリュームと、ジャーナルを保持するためのジャーナルボリュームとが存在する。ここで、ジャーナルとは、上述のようにデータボリュームの更新履歴情報であり、図2に示すように、そのジャーナル30に付与されたジャーナルグループごとの通し番号(シーケンス番号)でなるジャーナル識別子30Aと、そのときデータボリュームに書き込まれたデータ30B自体と、そのデータ30Bがデータボリュームに格納された時刻を表すタイムスタンプ30Cとなどから構成される。
一方、コントローラ22A,22Bは、複数のチャネルアダプタ23A,23B、接続部24A,24B、共有メモリ25A,25B、キャッシュメモリ26A,26B及び複数のディスクアダプタ27A,27Bを備えて構成される。
各チャネルアダプタ23A,23Bは、それぞれマイクロプロセッサ、メモリ及び通信インタフェース等を備えたマイクロコンピュータシステムとして構成されており、それぞれホスト2やネットワーク4に接続するためのポートを備える。チャネルアダプタ23A,23Bは、ホスト2から与えられる各種コマンドや、正ストレージ装置3又は副ストレージ装置5から送信される各種コマンドを解釈して実行する。各チャネルアダプタ23A,23Bのポートには、それぞれを識別するためのネットワークアドレス(例えば、IPアドレスやWWN)が割り当てられており、これにより各チャネルアダプタ23A,23Bがそれぞれ個別にNAS(Network Attached Storage)として振る舞うことができるようになされている。
接続部24A,24Bは、チャネルアダプタ23A,23B、共有メモリ25A,25B、キャッシュメモリ26A,26B及びディスクアダプタ27A,27Bと接続されている。チャネルアダプタ23A,23B、共有メモリ25A,25B、キャッシュメモリ26A,26B及びディスクアダプタ27A,27B間でのデータやコマンドの授受は、この接続部24A,24Bを介して行われる。接続部24A,24Bは、例えば高速スイッチングによりデータ伝送を行う超高速クロスバススイッチなどのスイッチ又はバス等で構成される。
共有メモリ25A,25B及びキャッシュメモリ26A,26Bは、チャネルアダプタ23A,23B及びディスクアダプタ27A,27Bにより共有される記憶メモリである。共有メモリ25A,25Bは、主に自ストレージ装置全体の構成に関するシステム構成情報等の各種制御情報やコマンド等を記憶するために利用される。またキャッシュメモリ26A,26Bは、主に自ストレージ装置に入出力するデータを一時的に記憶するために利用される。
各ディスクアダプタ27A,27Bは、マイクロプロセッサやメモリ等を備えたマイクロコンピュータシステムとして構成され、記憶ユニット21A,21B内の各記憶デバイス20A,20Bとの通信時におけるプロトコル制御を行うインタフェースとして機能する。またディスクアダプタ27A,27Bは、ホスト2からのリード/ライト要求に応じて対応する記憶デバイス20A,20Bを制御し、要求されたデータを対応する記憶デバイス20A,20Bに読み書きする。
(1−2)本実施の形態によるリモートコピー制御機能
次に、副ストレージ装置5に搭載された本実施の形態によるリモートコピー制御機能について説明する。
図3は、正ストレージ装置3内に設定される正ジャーナルグループ31A及び副ストレージ装置5内に設定される副ジャーナルグループ31Bの構成例を示している。この図3からも明らかなように、正ジャーナルグループ31A及び副ジャーナルグループ31Bは、それぞれ1又は複数のデータボリュームDVOLと、これらデータボリュームDVOLに書き込まれたデータに基づいて作成されたジャーナル30を格納する1つのジャーナルJVOLとから構成される。
そして正ストレージ装置3には、かかる正ジャーナルグループ31Aが複数設定されると共に、副ストレージ装置5には、各正ジャーナルグループ31Aにそれぞれ対応させて、複数の副ジャーナルグループ31Bが設定される。また副ジャーナルグループ31Bには、正ジャーナルグループ31A内の各データボリュームDVOL及びジャーナルボリュームJVOLにそれぞれ対応させて、データボリュームDVOL及びジャーナルボリュームJVOLが定義される。
そして正ストレージ装置3は、自ストレージ装置内のデータボリュームDVOLに対するライト要求及び書込み対象のデータがホスト2から与えられると、かかるデータのジャーナル30を作成すると共に、作成したジャーナル30を対応するデータボリュームDVOLに反映させる。さらに正ストレージ装置3は、かかるジャーナル30を、当該ジャーナル30を反映したデータボリュームDVOLと同じ正ジャーナルグループ31A内のジャーナルボリュームJVOLに格納する。
一方、副ストレージ装置5は、自ストレージ装置内に設けられた各副ジャーナルグループ31Bについて、ジャーナル識別子を指定したジャーナル転送要求を定期的に正ストレージ装置3に送信する。そして正ストレージ装置3は、かかるジャーナル転送要求が与えられると、対応する正ジャーナルグループ31A内のジャーナルボリュームJVOLから指定されたジャーナル30を読み出し、これを副ストレージ装置5に転送する。
副ストレージ装置5は、正ストレージ装置3から転送されるジャーナル30を、対応する副ジャーナルグループ31B内のジャーナルボリュームJVOLに格納すると共に、このジャーナル30を当該副ジャーナルグループ31B内の対応するデータボリュームDVOLに反映する。これにより正ストレージ装置3のデータボリュームDVOLに書き込まれたデータが、副ストレージ装置5内の対応するデータボリュームDVOLに複製されることとなる。
一方、副ストレージ装置5は、かかるリモートコピー処理と並行して、各副ジャーナルグループ31Bにおけるグループ内最新タイムスタンプを一定時間間隔(以下、これをグループ間時間差確認間隔と呼ぶ)で確認する。
そして副ストレージ装置5は、各副ジャーナルグループ31Bのグループ内最新タイムスタンプの時間差が予め定められた閾値(以下、これをグループ間時間差閾値と呼ぶ)を超えた場合に、最もジャーナル転送が遅延している副ジャーナルグループ31B(つまり、グループ内最新タイムスタンプが最も古い副ジャーナルグループ31B)以外の副ジャーナルグループ31Bについてのジャーナル転送を中断する。
また副ストレージ装置5は、かかる他の副ジャーナルグループ31Bについてのジャーナル転送が中断している間に、独占的に回線を使用して、最もジャーナル転送が遅延している副ジャーナルグループ31Bについてのジャーナル30を予め設定された時間量(以下、これをジャーナル転送時間量と呼ぶ)分だけ正ストレージ装置3から取得する。
そして副ストレージ装置5は、この後、各副ジャーナルグループ31Bのグループ内最新タイムスタンプのうちの最古のグループ内最新タイムスタンプに合わせて、当該最古のグループ内最新タイムスタンプが示す時刻までのジャーナル30を各副データボリューム31Bに一斉に反映させる。
以上のようなリモートコピー制御処理を行うための手段として、ホスト2のメモリ11には、図1に示すように、コピー管理プログラム14及びジャーナルグループペア形成プログラム15から構成されるストレージ管理プログラム13が格納されている。
コピー管理プログラム14は、正ストレージ装置3及び副ストレージ装置5間のリモートコピーを制御及び操作するための制御プログラムである。またジャーナルグループペア形成プログラム15は、正ストレージ装置3及び副ストレージ装置5に所望の正ジャーナルグループ31A又は副ジャーナルグループ31Bを設定したり、上述のグループ間時間差閾値、グループ間時間差検出周期及びジャーナル取得時間量等をシステム管理者が指定するための制御プログラムである。
そしてシステム管理者は、ジャーナルグループペア形成プログラム15を起動することによって、ホスト2のモニタディスプレイに図4に示すようなジャーナルグループ設定/管理画面40を表示させることができる。
このジャーナルグループ設定/管理画面40は、正ジャーナルグループ31A及び副ジャーナルグループ31Bの設定や管理を行うためのGUI(Graphical User Interface)画面であり、ジャーナルグループ設定フィールド40A、実施可能アクション表示フィールド40B及び正ジャーナルグループ一覧表示フィールド40Cから構成される。
このうちジャーナルグループ設定フィールド40Aは、上述のようなリモートコピー処理の処理単位となる正ジャーナルグループ31Aの集合体(データの最新性を確保した一貫性保証の対象となる複数の正ジャーナルグループ31Aの集合体であり、以下、これをジャーナルグループ集合体と呼ぶ)に関する概要を設定し又は既に設定された概要を表示するためのフィールドであり、ジャーナルグループ集合体名称フィールド41、ジャーナルグループ総数表示フィールド42、グループ時間差閾値フィールド43、ジャーナル転送時間量フィールド44及びグループ間時間差確認間隔フィールド45が設けられている。
そしてシステム管理者は、かかるジャーナルグループ集合体名称定義フィールド41に所望する名称を入力したり、グループ時間差閾値フィールド43、ジャーナル転送時間量フィールド44及びグループ間時間差確認間隔フィールド45に所望するグループ時間差閾値、ジャーナル転送時間量及びグループ間時間差確認間隔をそれぞれ入力することによって、これらを指定することができる。またジャーナルグループ総数表示フィールド42には、そのとき対象としているジャーナルグループ集合体に属する正ジャーナルグループ31Aの総数が表示される。
例えば図4の例では、現在対象としているジャーナルグループ集合体の名称として「Big Group」という名称が指定され、そのジャーナルグループ集合体には「3」個のジャーナルグループが属しており、そのジャーナルグループ集合体に属する各正ジャーナルグループ31Aについて、グループ時間差閾値として「2分(「02:00」)」、ジャーナル転送時間量として「3分(「03:00」)」、グループ間時間差確認間隔として「1秒(「00:01」)」がそれぞれ指定されていることが示されている。
また実施可能アクション表示フィールド40Bには、後述のように正ジャーナルグループ一覧表示フィールド40Cに一覧表示された、そのとき対象としているジャーナルグループ集合体に属する各正ジャーナルグループ31Aに対して実行可能な処理(アクション)が表示される。
例えば図4の例では、正ジャーナルグループ一覧表示フィールド40Cに一覧表示された正ジャーナルグループ31Aについて、その正ジャーナルグループ31Aが属するジャーナルグループ集合体の変更(「c(Change attributes)」)、そのジャーナルグループ集合体への正ジャーナルグループ31Aの追加若しくは削除又は正ジャーナルグループ31Aの構成変更(「g(add/remove/configure journal Groups)」)などの処理を行ない得ることが示されている。
さらに正ジャーナルグループ一覧表示フィールド40Cには、そのとき対象としているジャーナルグループ集合体に属する正ジャーナルグループ31Aの一覧が表示される。この正ジャーナルグループ一覧表示フィールド40Cでは、所望する正ジャーナルグループ31Aと対応付けられたアクション設定フィールド46に、実施可能アクション表示フィールド40B内に表示された各種処理の中から所望する処理と対応付けられたアルファベット(図4の例では「c」、「g」、「p」、「e」、「s」、「y」、「d」、「r」、「A」)を入力することによって、そのジャーナルグループ集合体又は正ジャーナルグループ31Aに対して対応する操作や編集を行なうことができる。
なお図4は、「Big group」という名称のジャーナルグループ集合体に属するすべての正ジャーナルグループ31Aについて、システム管理者が所望するタイミングでの上述のようなジャーナル転送制御処理の実行(「A(run Arbitration)」)をシステム管理者が選択した場合の例である。この図4の例では、グループ名称フィールド47にそのジャーナルグループ集合体又は当該ジャーナルグループ集合体に属する正ジャーナルグループ31Aの名称が表示され、ジャーナルグループIDフィールド48にこれらの正ジャーナルグループ31Aに付与されたグループIDが表示される。
またペア総数フィールド49には、その正ジャーナルグループ31A内において、対応する副ジャーナルグループ31B内のいずれかのデータボリュームDVOLとペア設定されたデータボリュームDVOLの数が表示され、ジャーナル内最新タイムスタンプフィールド50には、ホスト2が正ストレージ装置3を介して副ストレージ装置5から収集したその正ジャーナルグループ31Aのグループ内最新タイムスタンプが表示される。従って、システム管理者は、この最新タイムスタンプフィールド50に表示された正ジャーナルグループ31Aごとのグループ内最新タイムスタンプに基づいて、副ジャーナルグループ31B間におけるグループ内最新タイムスタンプの時間差を認識することができる。
一方、図5は、図4のジャーナルグループ設定/管理画面40において、正ジャーナルグループ一覧表示フィールド40C内のいずれかのアクション設定フィールド46に「g」を設定したときに表示されるコピーペア追加/削除画面60を示す。
このコピーペア追加/削除画面60は、図4のジャーナルグループ設定/管理画面40において対象としていたジャーナルグループ集合体内に新たな正ジャーナルグループ31Aを作成したり、図4のジャーナルグループ設定/管理画面40において選択した正ジャーナルグループ31A(正ジャーナルグループ一覧表示フィールド40C内の対応するアクション設定フィールド46に「g」を設定した正ジャーナルグループ31A)に対して、リモートコピーを行うデータボリュームDVOLのペア(以下、これをコピーペアと呼ぶ)を追加又は削除するためのGUI画面であり、ジャーナルグループ情報フィールド60A、実施可能アクション表示フィールド60B、コピーペア一覧表示フィールド60C及び新規コピーペア定義フィールド60Dから構成される。
このうちジャーナルグループ情報フィールド60Aには、そのとき対象としている正ジャーナルグループ31Aに関する概要を設定し又は既に設定された概要を表示するためのフィールドであり、ジャーナルグループ名称フィールド61、コピーペア総数表示フィールド62、ジャーナルグループIDフィールド63、正ジャーナルボリュームIDフィールド64及び副ジャーナルボリュームIDフィールド65が設けられている。
そしてジャーナルグループ名称フィールド61には、そのときシステム管理者により入力された新たな正ジャーナルグループ31Aの名称又は図4のジャーナルグループ設定/管理画面40において選択された既存の正ジャーナルグループ31Aの名称が表示される。
また、コピーペア総数表示フィールド62には、かかる正ジャーナルグループ31Aに属するコピーペアの総数が表示され、ジャーナルグループ表示フィールド63には、かかる新たな正ジャーナルグループ31A又はかかる既存の正ジャーナルグループ31Aに対してシステム管理者が付与したグループIDが表示される。
さらに正ジャーナルボリュームIDフィールド64には、かかる新たな又は既存の正ジャーナルグループ31A内の正ジャーナルボリュームJVOLのボリュームIDが表示され、副ジャーナルボリュームIDフィールド65には、かかる新たな又は既存の正ジャーナルグループ31Aと対応付けられた副ジャーナルグループ31B内の副ジャーナルボリュームJVOLのボリュームIDが表示される。
従って、例えば図5では、そのとき対象としている新たな又は既存の正ジャーナルグループ31Aの名称及びグループIDがそれぞれ「グループA(Group A)」及び「01」であり、その正ジャーナルグループ31Aに対応する副ジャーナルグループ31B内のデータボリュームDVOLとの間でコピーペアが設定されたデータボリュームDVOLが「8」個存在し、その正ジャーナルグループ31Aにおける正ジャーナルボリュームJVOLのボリュームIDが「6240」であり、これと対応する副ジャーナルグループ31Bにおける副ジャーナルボリュームJVOLのボリュームIDが「4940」であることが示されている。
また実施可能アクション表示フィールド60Bには、後述のようにコピーペア一覧表示フィールド60Cに一覧表示されたコピーペアに対して実行可能な処理(アクション)が表示される。例えば図5では、コピーペア一覧表示フィールド60Cに一覧表示されたコピーペアの解除(「r(Remove Pair」)及びそのコピーペアの詳細情報の表示(「i(Detail Information)」)を行い得ることが示されている。
さらにコピーペア一覧表示フィールド60Cには、そのとき対象としている正ジャーナルグループ31Aに正側のデータボリュームDVOLが属する各コピーペアに関して、正側のデータボリュームDVOL及び副側のデータボリュームDVOLのボリュームIDがそれぞれ正データボリュームIDフィールド67及び副データボリュームIDフィールド68内に表示される。
例えば図5では、「Group A」という名称の正ジャーナルグループ31Aには、例えばボリュームIDが「5040」の副データボリューム(「S-Volume」)とコピーペアに設定されたボリュームIDが「7340」の正データボリューム(「P-Volume」)が存在することが示されている。
また、このコピーペア一覧表示フィールド60Cでは、実施可能アクション表示フィールド60A内に表示された各種処理の中から所望する処理と対応付けられたアルファベット(図5の例では「r」又は「i」)を、所望するコピーペアと対応付けられたアクション設定フィールド66に入力することによって、そのコピーペアに対して対応する操作や編集を行なうことができる。
一方、新規コピーペア定義フィールド60Dは、そのとき対象としている正ジャーナルグループ31Aに追加しようとする新規のコピーペアを定義するためのフィールドであり、正側ボリュームID入力フィールド69及び副側ボリュームID入力フィールド70が設けられている。
そしてシステム管理者は、この新規コピーペア定義フィールド60D内の正側ボリュームID入力フィールド69に正側のデータボリュームDVOLのボリュームIDを入力し、副側ボリュームID入力フィールド70に副側のデータボリュームDVOLのボリュームIDを入力することによって、新たなコピーペアを定義することができる。
例えば図5では、新たなコピーペアとして、ボリュームIDが「7348」であるデータボリュームDVOLを正側とし、ボリュームIDが「4950」であるデータボリュームDVOLを副側とするコピーペアを定義する場合について示している。
図6は、このようなジャーナルグループ設定/管理画面40及びコピーペア追加/削除画面60において入力された各種定義に従ってリモートコピーを行う正ジャーナルグループ31A又は副ジャーナルグループ31Bのペア(以下、これをジャーナルグループペアと呼ぶ)を作成する場合におけるホスト2内のCPU10(図1)の具体的な処理手順を示している。かかるCPU10は、メモリ11(図1)に格納されたジャーナルグループペア形成プログラム15(図1)に従って、このジャーナルグループペア形成処理を実行する。
すなわちCPU10は、図4について上述したジャーナルグループ設定/管理画面40と、図5について上述したコピーペア追加/削除画面60を介してシステム管理者により必要な情報が入力された後、ジャーナルグループペアを設定すべき旨の入力が与えられるとこのジャーナルグループペア形成処理を開始し、まず、ジャーナルグループ設定/管理画面40においてシステム管理者が入力した各種情報に基づいて図7に示すようなジャーナルグループペア形成要求80を作成する(SP1)。
次いでCPU10は、作成したジャーナルグループペア形成要求80を正ストレージ装置3に送信し(SP2)、この後、このジャーナルグループペア形成処理を終了する。
なお、かかるジャーナルグループペア形成処理のステップSP1におけるCPU10の具体的な処理内容を図9に示す。CPU10は、ジャーナルグループペア形成処理のステップSP1に進むと図9に示すジャーナルグループペア形成要求作成処理手順に従って、まず、ジャーナルグループ設定/管理画面40においてシステム管理者が定義した新たなジャーナルグループ集合体の名称をジャーナルグループペア形成要求80のジャーナルグループ集合体名称格納フィールド80Aに格納する(SP10)。
続いてCPU10は、ジャーナルグループ設定/管理画面40において定義されたそのジャーナルグループ集合体に属する1つの正ジャーナルグループ31Aに関する所定の管理情報(以下、これを正ジャーナルグループ情報と呼ぶ)をジャーナルグループペア形成要求80の正ジャーナルグループ情報格納フィールド80Bに格納する(SP11)。
次いでCPU10は、その正ジャーナルグループ31Aと共にジャーナルグループペアを構成する副ジャーナルグループ31Bに関する所定の管理情報(副ジャーナルグループ情報)を、ジャーナルグループペア形成要求80内のかかる正ジャーナルグループ情報格納フィールド80Aと対応付けられた副ジャーナルグループ情報格納フィールド80Cに格納する(SP12)。
次いでCPU10は、ジャーナルグループ設定/管理画面40において定義されたすべてのジャーナルグループペアについて、正ジャーナルグループ情報及び副ジャーナルグループ情報をジャーナルグループペア形成要求80の正ジャーナルグループ情報格納フィールド80Bや副ジャーナルグループ情報格納フィールド80Cに格納し終えたか否かを判断する(SP13)。
CPU10は、かかる判断において否定結果を得るとステップSP11に戻り、この後、ジャーナルグループ設定/管理画面40において定義された残りのジャーナルグループペアについて同様の処理を繰り返す(SP11〜SP13−SP11)。
そしてCPU10は、ジャーナルグループ設定/管理画面40において定義されたすべてのジャーナルグループペアについて同様の処理を終えると、ジャーナルグループ設定/管理画面40において設定されたグループ間時間差閾値、ジャーナル転送時間量及びグループ間時間差確認間隔をそれぞれジャーナルグループペア形成要求80のグループ間時間差閾値格納フィールド80D、ジャーナル転送時間量格納フィールド80E及びグループ間時間差確認間隔格納フィールド80Fにそれぞれ格納する(SP14〜SP16)。そしてCPU10は、この後、このジャーナルグループペア形成要求作成処理を終了する。
なお、正ジャーナルグループ情報及び副ジャーナルグループ情報の具体例を図8に示す。この図8からも明らかなように、正ジャーナルグループ情報及び副ジャーナルグループ情報は、そのジャーナルグループが正側及び副側のいずれであるかを表す正副判定フラグ81Aと、その正ジャーナルグループ31A又は副ジャーナルグループ31BにおけるジャーナルグループJVOLのボリュームID81Bと、その正ジャーナルグループ31A又は副ジャーナルグループ31Bのグループ内最新タイムスタンプ81Cと、その正ジャーナルグループ31A又は副ジャーナルグループ31Bについて定義された各コピーペアをそれぞれ構成する正側のデータボリュームDVOLのボリュームID81D及び副側のデータボリュームDVOLのボリュームID81Eとから構成される。ただし、グループ内最新タイムスタンプ81Cは、後述のように副ストレージ装置5が正ストレージ装置3からその副ジャーナルグループ31Bについてのジャーナル30を受信するごとに更新する情報であり、ジャーナルグループペア形成要求80では無効なデータがグループ内最新タイムスタンプ81Cとして格納される。
一方、かかるジャーナルグループペア形成要求80を受信した正ストレージ装置3のチャネルアダプタ23Aは、図示しない内部メモリに格納されたコピー処理プログラムに従って、図10に示す正ジャーナルグループ形成処理を実行する。
すなわちチャネルアダプタ23Aは、かかるジャーナルグループペア形成要求80を受信すると、この正ジャーナルグループ形成処理を開始し、まず、受信したジャーナルグループペア形成要求80のジャーナルグループ集合体名称格納フィールド80Aに格納されている、そのとき作成対象としているジャーナルグループ集合体の名称と、各正ジャーナルグループ情報フィールド80Bにそれぞれ格納されたそのジャーナルグループ集合体に属する各正ジャーナルグループ31Aの正ジャーナルグループ情報とを読み出し、読み出した正ジャーナルグループ情報に基づいて必要な正ジャーナルグループ31Aをすべて形成する(SP20)。
具体的に、チャネルアダプタ23Aは、このステップSP20において、受信したジャーナルグループペア形成要求80の各正ジャーナルグループ情報フィールド80Bから読み出した正ジャーナルグループ情報に基づいて、必要なデータボリュームDVOLやジャーナルボリュームJVOLを作成したり、データボリュームDVOLとジャーナルボリュームJVOLの対応付け等を行なうようにして、必要な正ジャーナルグループ31Aをそれぞれ形成する。
続いてチャネルアダプタ23Aは、かかるジャーナルグループペア形成要求80を、ステップSP1において形成した各正ジャーナルグループ31Aと共にジャーナルグループペアを構成する副ジャーナルグループ31Bを形成すべき、すべての副ストレージ装置5に転送する(SP21)。そしてチャネルアダプタ23Aは、この後、この正ジャーナルグループ形成処理を終了する。
他方、かかるジャーナルグループペア形成要求80を受信した副ストレージ装置5のチャネルアダプタ23Bは、図示しない内部メモリに格納されたコピー処理プログラムに従って、図11に示す副ジャーナルグループ形成処理を実行する。
すなわち、かかるチャネルアダプタ23Aは、正ストレージ装置3から転送されたジャーナルグループペア形成要求80を受信すると、この副ジャーナルグループ形成処理を開始し、まず、受信したジャーナルグループペア形成要求80の各副ジャーナルグループ情報フィールド80Cにそれぞれ格納された副ジャーナルグループ情報を読み出し、読み出した副ジャーナルグループ情報に基づいて、必要な副ジャーナルグループ31Bをすべて形成する(SP30)。なお、このステップSP30におけるチャネルアダプタ23Bの具体的な処理内容は、図10のステップSP20について上述したチャネルアダプタ23Aの処理内容と同様であるため、ここでの説明は省略する。
続いてチャネルアダプタ23Bは、データが格納されていない図12に示すような副ジャーナルグループ制御情報管理テーブル82を共有メモリ25B上に生成する(SP31)。この副ジャーナルグループ制御情報管理テーブル82は、副ストレージ装置5が自ストレージ装置内に作成した副ジャーナルグループ31Bを管理するためのテーブルであり、ジャーナルグループ集合体名称格納フィールド82A、1又は複数の正ジャーナルグループ情報フィールド82B及び副ジャーナルグループ情報フィールド82Cと、グループ間時間差閾値格納フィールド82D、ジャーナル転送時間量格納フィールド82E及びグループ間時間差確認間隔格納フィールド82Fとから構成される。
次いでチャネルアダプタ23Bは、ジャーナルグループペア形成要求80に含まれる対応するジャーナルグループ集合体の名称を、かかる副ジャーナルグループ制御情報管理テーブル82のジャーナルグループ集合体名称格納フィールド82Aに格納する(SP32)。
続いてチャネルアダプタ23Bは、ジャーナルグループペア形成要求80に含まれる各副ジャーナルグループ情報を副ジャーナルグループ制御情報管理テーブル82の副ジャーナルグループ情報フィールド82Cにそれぞれ格納すると共に(SP33)、ジャーナルグループペア形成要求80に含まれる各正ジャーナルグループ情報を副ジャーナルグループ制御情報管理テーブル82の対応する正ジャーナルグループ情報フィールド82Bにそれぞれ格納する(SP34)。
続いてチャネルアダプタ23Aは、ジャーナルグループペア形成要求80に含まれるグループ間時間差閾値、ジャーナル転送時間量及びグループ間時間差確認間隔の各情報を、それぞれ副ジャーナルグループ制御情報管理テーブル82のグループ間時間差閾値格納フィールド82D、ジャーナル転送時間量格納フィールド82E及びグループ間時間差確認間隔格納フィールド82Fに格納する(SP35〜SP37)。
次いでチャネルアダプタ23Bは、ステップSP30において形成した各副ジャーナルグループ31Bについてのリモートコピー処理を開始し(SP38)、この後、この副ジャーナルグループ形成処理を終了する。
なお、チャネルアダプタ23Bは、リモートコピー処理を開始すると、各副ジャーナルグループ31Bについて、ジャーナル識別子(シーケンス番号)を指定したジャーナル転送要求を定期的に正ストレージ装置3に送信すると共に、この結果として正ストレージ装置3から転送されるジャーナル30を、対応する副ジャーナルグループ31Bの対応するデータボリュームDVOLに反映する。
この際チャネルアダプタ23Bは、正ストレージ装置3からジャーナル30を受信するごとに、かかる副ジャーナルグループ制御情報管理テーブル82内の対応する副ジャーナルグループ情報におけるグループ内最新タイムスタンプ81Cの値を、そのとき取得したジャーナル30に格納されているタイムスタンプの値に更新する。
他方、チャネルアダプタ23Bは、かかるリモートコピー処理と並行して、図示しない内部メモリに格納されたジャーナル転送制御処理プログラムに従って、各ジャーナルグループ集合体について図13に示すジャーナル転送制御処理を実行する。
すなわちチャネルアダプタ23Bは、このジャーナル転送制御処理をグループ間時間差確認間隔周期で開始し、まず、そのとき対象としているジャーナルグループ集合体と対応付けられた各副ジャーナルグループ31Bについて、副ジャーナルグループ制御情報管理テーブル82(図8)上のこれら副ジャーナルグループ31Bにそれぞれ対応する各副ジャーナルグループ情報内のグループ内最新タイムスタンプ81C(図8)をそれぞれ読み出す(SP40)。
続いてチャネルアダプタ23Bは、ステップSP40において取得した各副ジャーナルグループ31Bのグループ内最新タイムスタンプの値を比較することにより、そのとき対象としているジャーナルグループ集合体内において最も古いグループ内最新タイムスタンプ(以下、これをグループ間最古タイムスタンプと呼ぶ)及び最も新しいグループ内最新タイムスタンプ(以下、これをグループ間最新タイムスタンプと呼ぶ)を決定する(SP41)。
次いでチャネルアダプタ23Bは、ステップSP41において決定したグループ間最古タイムスタンプと、グループ間最新タイムスタンプとの時間差を計算すると共に(SP42)、この時間差が、かかる副ジャーナルグループ制御情報管理テーブル82に格納されているグループ間時間差閾値よりも大きいか否かを判断する(SP43)。
そしてチャネルアダプタ23Bは、この判断において否定結果を得るとステップSP40に戻って、この後ステップSP43において肯定結果を得るまで同様の処理を繰り返す(SP40〜SP43−SP40)。
そしてチャネルアダプタ23Bは、やがてかかる判断において肯定結果を得ると、ジャーナル転送が最も遅れている副ジャーナルグループ31B(グループ内最新タイムスタンプがグループ間最古タイムスタンプである副ジャーナルグループ31B)以外の副ジャーナルグループ31Bについてのジャーナル転送要求を正ストレージ装置3に送信するのを中断する(SP44)。
また、チャネルアダプタ23Bは、この後、ジャーナル転送が最も遅れている副ジャーナルグループ31Bについてのジャーナル30を取得するごとに、副ジャーナルグループ制御情報管理テーブル82に格納されている当該副ジャーナルグループ31Bの副ジャーナルグループ情報に含まれるグループ内最新タイムスタンプの値をそのジャーナル30に含まれるタイムスタンプの値に更新しながら、当該グループ内最新タイムスタンプの値がステップSP41において決定したグループ間最古タイムスタンプの値と、副ジャーナルグループ制御情報管理テーブル82に設定されているジャーナル転送時間量との合計値以上となるのを待ち受ける(SP45)。
そしてチャネルアダプタ23Bは、やがてステップSP45の判断において肯定結果を得ると、副ジャーナルグループ制御情報管理テーブル82上のその副ジャーナルグループ31Bのグループ内最新タイムスタンプの値を最新のジャーナル30に含まれるタイムスタンプの値に更新する(SP46)。
続いてチャネルアダプタ23Bは、各副ジャーナルグループ31Bのグループ内最新タイムスタンプのうちの新たなグループ間最古タイムスタンプに合わせて、当該グループ間最古タイムスタンプが示す時刻までのジャーナル30を各副データボリューム31Bに一斉に反映させる(SP47)。
次いでチャネルアダプタ23Bは、すべての副ジャーナルグループ31Bについてのジャーナル30の取得処理を再開し(SP48)、この後、副ジャーナルグループ制御情報管理テーブル82を参照して、今回のジャーナル転送制御処理を開始してからグループ間時間差確認間隔に達したか否かを判断する(SP49)。
そしてチャネルアダプタ23Bは、この判断において肯定結果を得るとステップSP40に戻り、ステップSP40〜ステップSP49を上述と同様に処理する。これに対してチャネルアダプタ23Bは、かかるステップSP48の判断において否定結果を得ると、このジャーナル転送制御処理を終了する。
(1−3)本実施の形態の効果
以上のように本実施の形態によるストレージシステム1では、副ストレージ装置5において、ジャーナルグループ集合体ごとに、各副ジャーナルグループ31Bのグループ内最新タイムスタンプを監視し、当該時間差がグループ間時間差閾値を超えた場合に、最もジャーナル転送が遅延している副ジャーナルグループ31B以外の副ジャーナルグループ31Bについてのジャーナル転送を中断する。そして副ストレージ装置5は、この後、最もジャーナル転送が遅延している副ジャーナルグループ31Bについてのジャーナル30をジャーナル転送時間量分だけ正ストレージ装置3から取得した上で、各副ジャーナルグループ31Bにジャーナル30を反映する。
従って、本ストレージシステム1によれば、リモートコピーを行う副ジャーナルグループ31Bの数にかかわりなく、副ジャーナルグループ31B間において一定の時間的範囲内(グループ間時間差閾値の範囲内)において、各副ジャーナルグループ31B間におけるデータの最新性を確保した一貫性を保証することができ、その分信頼性の高いストレージシステムを提供することができる。
また本ストレージシステム1は、グループ間時間差確認間隔、グループ間時間差閾値及びジャーナル転送時間量をシステム管理者がホスト2を用いて設定することができるため、かかる効果に加えて運用の柔軟性を高めることができるという効果をも得ることができる。
(2)第2の実施の形態
図1との対応部分に同一符号又は同一符号に添え字「X」又は「Y」を付して示す図14は、第2の実施の形態によるストレージシステム90を示す。このストレージシステム90は、運用拠点に設置された第1及び第2の正ストレージ装置92,93と、遠隔拠点に設置された第1及び第2の副ストレージ装置94,95とがネットワーク4を介して接続されている。また第1の正ストレージ装置92にはホスト91が接続され、さらに第1及び第2の副ストレージ装置94,95が通信回線96を介して接続されている。
第1の正ストレージ装置92内には1又は複数の正ジャーナルグループ31A(図3)が設けられており、これら正ジャーナルグループ31Aにそれぞれ対応させて第1の副ストレージ装置94内に1又は複数の副ジャーナルグループ31B(図3)が設けられている。そして第1の正ストレージ装置92内のいずれかの正ジャーナルグループ31AにおけるいずれかのデータボリュームDVOLにデータが書き込まれた場合、そのデータについてのジャーナル30が第1の正ストレージ装置92において作成され、これがネットワーク4を介して第1の副ストレージ装置94に転送されて、当該第1の副ストレージ装置94内の対応する副ジャーナルグループ31Bにおける対応するデータボリュームDVOLに反映される。
同様に、第2の正ストレージ装置93内には1又は複数の正ジャーナルグループ31Aが設けられており、これら正ジャーナルグループ31Aにそれぞれ対応させて第2の副ストレージ装置95内に1又は複数の副ジャーナルグループ31Bが設けられている。そして第2の正ストレージ装置95内のいずれかの正ジャーナルグループ31AにおけるいずれかのデータボリュームDVOLにデータが書き込まれた場合、そのデータについてのジャーナル30が第2の正ストレージ装置93において作成され、これがネットワーク4を介して第2の副ストレージ装置95に転送されて、当該第2の副ストレージ装置95内の対応する副ジャーナルグループ31Bにおける対応するデータボリュームDVOLに反映される。
この場合において、本実施の形態によるストレージシステム90では、第1及び第2の副ストレージ装置94,95のうち、システム管理者により指定された一方の第1又は第2の副ストレージ装置94,95がマスタとなって、ジャーナルグループ集合体ごとに、自ストレージ装置内の対応する副ジャーナルグループ31Bのグループ内最新タイムスタンプと、他方の第2又は第1の副ストレージ装置95,94内の対応する副ジャーナルグループ31Bの各グループ内最新タイムスタンプとをそれぞれ所定のグループ間時間差確認間隔で確認する。
そして、かかる各副ジャーナルグループ31B間におけるグループ間最古タイムスタンプと、グループ間最新タイムスタンプとの時間差が予め定められたグループ間時間差閾値を超えた場合に、マスタである第1又は第2の副ストレージ装置94,95が他方の第2又は第1の副ストレージ装置95,94を必要に応じて制御することにより、最もジャーナル転送が遅延している副ジャーナルグループ31B以外の副ジャーナルグループ31Bについてのジャーナル転送を中断し又は中断させる。
さらにマスタである第1又は第2の副ストレージ装置94,95は、かかる最もジャーナル転送が遅延している副ジャーナルグループ31B以外の副ジャーナルグループ31Bについてのジャーナル転送が中断している間に、独占的に回線を使用し又は回線を使用させて、かかる最もジャーナル転送が遅延している副ジャーナルグループ31Bについてのジャーナル30を、予め設定されたジャーナル転送時間量分だけ対応する第1又は第2の正ストレージ装置92,93から取得し又は取得させる。
以上のようなリモートコピー制御処理を行うための手段として、ホスト91のメモリ11には、図14に示すように、システム管理者がジャーナルグループペアの設定や、グループ間時間差閾値、グループ間時間差検出周期及びジャーナル取得時間量に加えてマスタとなる副ストレージ装置を設定するための制御プログラムであるジャーナルグループペア形成プログラム100が格納されている。
そしてシステム管理者は、ジャーナルグループペア形成プログラム100を起動することによって、ホスト91のモニタディスプレイに図15に示すようなジャーナルグループ設定/管理画面110を表示させることができる。
このジャーナルグループ設定/管理画面110は、正ジャーナルグループ31A及び副ジャーナルグループ31Bの設定や管理を行うためのGUI画面であり、ジャーナルグループ設定フィールド40にマスタ副ストレージ装置定義フィールド111が設けられている点を除いて図4について上述した第1の実施の形態によるジャーナルグループ設定/管理画面40と同様に構成されている。
かくしてシステム管理者は、かかるマスタ副ストレージ装置定義フィールド111に第1及び第2の副ストレージ装置94,95のうちの所望の第1又は第2の副ストレージ装置94,95の装置IDを入力することによって、その第1又は第2の副ストレージ装置94,95をマスタとして指定することができる。
図16は、このようなジャーナルグループ設定/管理画面110及び図5について上述したコピーペア追加/削除画面60において入力された各種定義に従ってジャーナルグループペアを作成する場合におけるホスト91内のCPU10(図14)の具体的な処理手順を示している。かかるCPU10は、メモリ11(図14)に格納されたジャーナルグループペア形成プログラム100(図14)に従って、このジャーナルグループペア形成処理を実行する。
すなわちCPU10は、図15について上述したジャーナルグループ設定/管理画面110及び図5について上述したコピーペア追加/削除画面60を介してシステム管理者により必要な情報が入力された後、ジャーナルグループペアを設定すべき旨の入力が与えられるとこのジャーナルグループペア形成処理を開始し、まず、ジャーナルグループ設定/管理画面110においてシステム管理者が入力した各種情報に基づいて、図17に示すようなジャーナルグループペア形成要求120を作成する(SP50)。
このジャーナルグループペア形成要求120は、マスタ識別子フィールド120Aを備える点を除いて図7について上述した第1の実施の形態によるジャーナルグループペア形成要求80と同様に構成されている。そして、このマスタ識別子フィールド120Aには、第1及び第2の副ストレージ装置94,95のうちのジャーナルグループ設定/管理画面110においてシステム管理者がマスタとして指定した第1又は第2の副ストレージ装置94,95の装置IDが格納される。
続いてCPU10は、作成したジャーナルグループペア形成要求120を対応する第1及び又は第2の正ストレージ装置92,93に送信し(SP51)、この後、このジャーナルグループペア形成処理を終了する。
なお、かかるジャーナルグループペア形成処理のステップSP50におけるCPU10の具体的な処理内容を図18に示す。CPU10は、ジャーナルグループペア形成処理のステップSP1に進むと、この図18に示すジャーナルグループペア形成要求作成処理を開始し、まず、ジャーナルグループ設定/管理画面110においてシステム管理者が定義した新たなジャーナルグループ集合体の名称をジャーナルグループペア形成要求120のジャーナルグループ集合体名称格納フィールド80Aに格納する(SP60)。
続いてCPU10は、ジャーナルグループ設定/管理画面110(図15)においてシステム管理者が指定した第1及び第2の副ストレージ装置94,95のうちのマスタとすべき第1又は第2の副ストレージ装置94,95の装置IDを、ジャーナルグループ形成要求120のマスタ識別子フィールド120Aに格納する(SP61)。
そしてCPU10は、この後、ステップSP62〜ステップSP67までを図9について上述した第1の実施の形態によるジャーナルグループペア形成要求作成処理のステップSP11〜ステップSP16までと同様に処理することにより、第1及び第2の副ストレージ装置94,95のうちのマスタとすべき第1又は第2のストレージ装置94,95の装置IDを含むジャーナルグループペア形成要求120を作成し、この後このジャーナルグループペア形成要求作成処理を終了する。
一方、かかるジャーナルグループペア作成要求120を受信した第1の正ストレージ装置92のチャネルアダプタ101A(図14)は、図示しない内部メモリに格納されたコピー処理プログラムに従って、図10について上述した正ジャーナルグループ形成処理を実行することにより、自ストレージ装置内に正ジャーナルグループ31Aを形成すると共に、受信したジャーナルグループペア形成要求120を第2の正ストレージ装置93及び第1の副ストレージ装置94に送信する。
またジャーナルグループペア作成要求120を受信した第2の正ストレージ装置93のチャネルアダプタ101Aは、第1の正ストレージ装置92と同様に、図示しない内部メモリに格納されたコピー処理プログラムに従って、図10について上述した正ジャーナルグループ形成処理を実行することにより、自ストレージ装置内に正ジャーナルグループ31Aを形成すると共に、受信したジャーナルグループペア形成要求120を第2の副ストレージ装置95に送信する。
そして、かかるジャーナルグループペア形成要求120を受信した第1及び第2の副ストレージ装置94,95のチャネルアダプタ101Bは、図示しない内部メモリに格納されたコピー処理プログラムに従って、図19に示す副ジャーナルグループ形成処理を実行する。
すなわちかかるチャネルアダプタ101Bは、第1又は第2の正ストレージ装置92,93からのジャーナルグループペア形成要求120を受信すると、この副ジャーナルグループ形成処理を開始し、まず、受信したジャーナルグループペア形成要求120の各副ジャーナルグループ情報フィールド80Cにそれぞれ格納された副ジャーナルグループ情報を読み出し、読み出した副ジャーナルグループ情報に基づいて、図10について上述した正ジャーナルグループ形成処理のステップSP20と同様にして、必要な副ジャーナルグループをすべて形成する(SP80)。
続いてチャネルアダプタ101Bは、データが格納されていない図20に示すような副ジャーナルグループ制御情報管理テーブル130を共有メモリ25BX,25BY上に生成する(SP81)。この副ジャーナルグループ制御情報管理テーブル130は、マスタ判定フラグ格納フィールド130Aが設けられている点を除いて図12について上述した実施の形態による副ジャーナルグループ制御情報管理テーブル82と同様の構成を有する。
次いでチャネルアダプタ101Bは、図11について上述した副ジャーナルグループ形成処理のステップSP32〜ステップSP34と同様にして、ジャーナルグループペア形成要求120に格納されているジャーナルグループ集合体の名称、すべての副ジャーナルグループ情報及びすべての正ジャーナルグループ情報をかかる副ジャーナルグループ制御情報管理テーブル130に保存する(SP82〜SP84)。
続いてチャネルアダプタ101Bは、ジャーナルグループペア形成要求120のマスタ識別子格納フィールド120A(図17)に格納されている装置IDに基づいて、自ストレージ装置がマスタに指定されているか否かを判断する(SP85)。
そしてチャネルアダプタ101Bは、この判断において否定結果を得ると、副ジャーナルグループ制御情報管理テーブル130のマスタ判定フラグ格納フィールド130Aに「偽(「0」)」を設定し(SP86)、この後この副ジャーナルグループ形成処理を終了する。従って、この場合、副ジャーナルグループ制御情報管理テーブル130のグループ間時間差閾値格納フィールド82D、ジャーナル転送時間量格納フィールド82E及びグループ間時間差確認間隔格納フィールド82Fには何らのデータも格納されない。
これに対してチャネルアダプタ101Bは、かかる判断において肯定結果を得ると、副ジャーナルグループ制御情報管理テーブル130のマスタ判定フラグ格納フィールド130Aに「真(「1」)」を設定する(SP87)。
そしてチャネルアダプタ101Bは、この後副ジャーナルグループ形成処理(図11)のステップSP35〜ステップSP37と同様にして、ジャーナルグループペア形成要求120に含まれるグループ間時間差閾値、ジャーナル転送時間量及びグループ間時間差確認間隔をそれぞれ副ジャーナルグループ制御情報管理テーブル120のグループ間時間差閾値格納フィールド82D、ジャーナル転送時間量格納フィールド82E及びグループ間時間差確認間隔格納フィールド82Fに格納する(SP88〜SP90)。従って、本実施の形態の場合、システム管理者によりマスタに指定された第1又は第2の副ストレージ装置94,95の副ジャーナルグループ制御情報管理テーブル130にのみ、グループ間時間差閾値、ジャーナル転送時間量及びグループ間時間差確認間隔が格納されることとなる。
続いてチャネルアダプタ101Bは、ステップSP80において形成した各副ジャーナルグループ31Bについて、対応する第1及び又は第2の正ストレージ装置92,93にジャーナル転送要求を送信するようにしてリモートコピー処理を開始し(SP91)、この後、この副ジャーナルグループ形成処理を終了する。
なお、チャネルアダプタ101Bは、リモートコピー処理を開始すると、各副ジャーナルグループ31Bについて、ジャーナル識別子(シーケンス番号)を指定したジャーナル転送要求を定期的に第1及び又は第2の正ストレージ装置92,93に送信すると共に、この結果として第1及び又は第2の正ストレージ装置92,93から転送されるジャーナル30を、対応する副ジャーナルグループ31Bの対応するデータボリュームDVOLに反映する。
この際チャネルアダプタ101Bは、第1又は第2の正ストレージ装置92,93からジャーナル30を受信するごとに、かかる副ジャーナルグループ制御情報管理テーブル130内の対応する副ジャーナルグループ情報におけるグループ内最新タイムスタンプを、そのとき取得したジャーナル30に格納されているタイムスタンプの値に更新する。
他方、リモートコピー処理を開始した第1及び第2の副ストレージ装置94,95のチャネルアダプタ101Bは、かかるリモートコピー処理と並行して、図示しない内部メモリに格納されたジャーナル転送制御処理プログラムに従って、図21に示すジャーナル転送制御処理をジャーナルグループ集合体ごとに実行する。
すなわちチャネルアダプタ101Bは、このジャーナル転送制御処理をグループ間時間差確認間隔周期で開始し、まず、共有メモリ25BX,25BYに格納された副ジャーナルグループ制御情報管理テーブル130のマスタ判定フラグ格納フィールド130A(図20)に格納されたマスタ判定フラグに基づいて、自ストレージ装置がマスタであるか否かを判断する(SP100)。
そしてチャネルアダプタ101Bは、この判断において否定結果を得ると、このジャーナル転送制御処理を終了する。
これに対してチャネルアダプタ101Bは、かかる判断において肯定結果を得ると、他方の第2又は第1の副ストレージ装置95,94にアクセスして、当該第2又は第1の副ストレージ装置95,94内に設定された対応する各副ジャーナルグループ31Bについて、これら副ジャーナルグループ31Bのグループ内最新タイムスタンプ81C(図8)をそれぞれ聞き出す(SP101)。
またチャネルアダプタ101Bは、自ストレージ装置内の共有メモリ25BX,25BYに格納されている副ジャーナルグループ制御情報管理テーブル130に保存されている対応する副ジャーナルグループ情報内のグループ内最新タイムスタンプ81Cをそれぞれ読み出す(SP102)。
次いでチャネルアダプタ101Bは、図13について上述した第1の実施の形態によるジャーナル転送制御処理のステップSP41〜ステップSP43と同様にして、ジャーナルグループ集合体ごとに、グループ間最新タイムスタンプとグループ間最古タイムスタンプとの時間差を計算すると共に、当該時間差が副ジャーナルグループ制御情報管理テーブル130に格納されているグループ間時間差閾値よりも大きいか否かを判断する(SP103〜SP105)。
そしてチャネルアダプタ101Bは、この判断において否定結果を得ると、ステップSP101に戻って、この後ステップSP105において肯定結果を得るまで同様の処理を繰り返す(SP101〜SP105−SP101)。
そしてチャネルアダプタ101Bは、やがてかかる判断において肯定結果を得ると、最もジャーナル転送が送れている副ジャーナルグループ31Bは自ストレージ装置内に設定された副ジャーナルグループ31Bであるか否かを判断する(SP106)。
チャネルアダプタ101Bは、この判断において肯定結果を得ると、自ストレージ装置内の最もジャーナル転送が遅れている副ジャーナルグループ31B以外のすべての副ジャーナルグループ31Bについてのジャーナル転送要求の発行を停止する。またチャネルアダプタ101Bは、他方の第2又は第1の副ストレージ装置95,94に対して、当該第2又は第1の副ストレージ装置95,94内のすべての副ジャーナルグループ31Bについてのジャーナル転送要求の発行を停止するよう指示を与える(SP107)。
この後、チャネルアダプタ101Bは、ジャーナル転送が最も遅れている副ジャーナルグループ31Bについてのジャーナル30を取得するごとに、副ジャーナルグループ制御情報管理テーブル82に格納されている当該副ジャーナルグループ31Bの副ジャーナルグループ情報に含まれるグループ内最新タイムスタンプの値をそのジャーナル30に含まれるタイムスタンプの値に更新しながら、当該グループ内最新タイムスタンプの値がステップSP103において決定したグループ間最古タイムスタンプの値と、副ジャーナルグループ制御情報管理テーブル130に設定されているジャーナル転送時間量との合計値以上となるのを待ち受ける(SP108)。
そしてチャネルアダプタ101Bは、やがてステップSP108の判断において肯定結果を得ると、副ジャーナルグループ制御情報管理テーブル130上のその副ジャーナルグループ31Bのグループ内最新タイムスタンプの値を、最新のジャーナル30に含まれるタイムスタンプ値に更新する(SP111)。
続いてチャネルアダプタ101Bは、そのとき対象としているジャーナルグループ集合体と対応付けられた各副ジャーナルグループ31Bのグループ内最新タイムスタンプのうちの新たなグループ間最古タイムスタンプに合わせて、当該グループ間最古タイムスタンプが示す時刻までのジャーナル30を自ストレージ装置内のかかる各副データボリューム31Bに一斉に反映させる。またチャネルアダプタ101Bは、他の副ストレージ装置95,94に対して、かかるグループ間最古タイムスタンプに合わせて、当該グループ間最古タイムスタンプが示す時刻までのジャーナル30を当該ジャーナルグループ集合体に対応付けられた各副データボリューム31Bに一斉に反映させるように指示を与える(SP112)。
次いでチャネルアダプタ101Bは、自ストレージ装置内のすべての副ジャーナルグループ31Bについてのジャーナル30の取得処理を再開すると共に、他方の第2又は第1の副ストレージ装置95,94に対して、当該第2又は第1の副ストレージ装置95,94内のすべての副ジャーナルグループ31Bについてのジャーナル30の取得処理を再開するように指示した後(SP113)、今回のジャーナル転送制御処理を開始してからグループ間時間差確認間隔に達したか否かを判断する(SP114)。
そしてチャネルアダプタ101Bは、この判断において肯定結果を得るとステップSP101に戻り、この後ステップSP101以降を同様に処理する。これに対してチャネルアダプタ101Bは、かかる判断において否定結果を得ると、このジャーナル転送制御処理を終了する。
これに対してチャネルアダプタ101Bは、ステップSP106の判断において否定結果を得ると、自ストレージ装置内のすべての副ジャーナルグループ31Bについてのジャーナル転送要求の発行を停止する。またチャネルアダプタ101Bは、他方の第2又は第1の副ストレージ装置95,94に対して、当該第2又は第1の副ストレージ装置95,94内の最もジャーナル転送が遅れている副ジャーナルグループ31Bについてのジャーナル30を取得すべき旨の指示(以下、これをジャーナル継続取得指示と呼ぶ)と、当該副ジャーナルグループ31B以外のすべての副ジャーナルグループ31Bについてのジャーナル転送要求の発行を停止するべき旨の指示とを与える(SP109)。この際チャネルアダプタ101Bは、ステップSP102において取得した最もジャーナル転送が遅れている副ジャーナルグループ31Bのグループ内最新タイムスタンプの値と、そのとき副ジャーナルグループ制御情報管理テーブル130に格納されているジャーナル転送時間量とをその第2又は第1の副ストレージ装置95,94に通知する。
次いでチャネルアダプタ101Bは、図22について後述するように、ジャーナル継続取得指示を与えた第2又は第1の副ストレージ装置95,94から最もジャーナル転送が遅れている副ジャーナルグループ31Bのグループ内最新タイムスタンプの値が送信されてくるのを待ち受ける(SP110)。
そしてチャネルアダプタ101Bは、やがて他方の第2又は第1の副ストレージ装置95,94から最もジャーナル転送が遅れている副ジャーナルグループ31Bについてのグループ内最新タイムスタンプの値が送信されてくると、副ジャーナルグループ制御情報管理テーブル130上のその副ジャーナルグループ31Bについての副ジャーナルグループ情報に含まれるグループ内最新タイムスタンプの値を、そのとき送信されてきたグループ内最新タイムスタンプの値に更新する(SP111)。
続いてチャネルアダプタ101Bは、そのとき対象としているジャーナルグループ集合体と対応付けられた各副ジャーナルグループ31Bのグループ内最新タイムスタンプのうちの新たなグループ間最古タイムスタンプに合わせて、当該グループ間最古タイムスタンプが示す時刻までのジャーナル30を自ストレージ装置内のかかる各副データボリューム31Bに一斉に反映させる。またチャネルアダプタ101Bは、他の副ストレージ装置95,94に対して、かかるグループ間最古タイムスタンプに合わせて、当該グループ間最古タイムスタンプが示す時刻までのジャーナル30を当該ジャーナルグループ集合体に対応付けられた各副データボリューム31Bに一斉に反映させるように指示を与える(SP112)。
この後、チャネルアダプタ101Bは、自ストレージ装置内のすべての副ジャーナルグループ31Bについてのジャーナル30の取得処理を再開すると共に、他方の第2又は第1の副ストレージ装置95,94に対して、当該第2又は第1の副ストレージ装置95,94内のすべての副ジャーナル31Bについてのジャーナル30の取得処理を再開するように指示した後(SP113)、今回のジャーナル転送制御処理を開始してからグループ間時間差確認間隔に達したか否かを判断する(SP114)。
そしてチャネルアダプタ101Bは、この判断において肯定結果を得るとステップSP101に戻り、この後ステップSP101以降を同様に処理する。これに対してチャネルアダプタ101Bは、かかる判断において否定結果を得ると、このジャーナル転送制御処理を終了する。
一方、図22は、図21のステップSP109においてマスタに設定されている第1又は第2の副ストレージ装置94,95からジャーナル継続取得指示が与えられた第2又は第1の副ストレージ装置95,94内のチャネルアダプタ101Bが行なう具体的な処理内容を示している。かかるチャネルアダプタ101Bは、かかるジャーナル継続取得指示が与えられると、内部メモリに格納されているジャーナル転送制御プログラムに従って、この図22に示すジャーナル継続取得処理を実行する。
すなわち、かかるチャネルアダプタ101Bは、マスタに設定されている第1又は第2の副ストレージ装置94,95からジャーナル継続取得指示が与えられると、このジャーナル継続取得処理を開始し、まず、対応する第2又は第1の正ストレージ装置93,92に対して、最もジャーナル転送が遅れている副ジャーナルグループ31Bについてのジャーナル転送要求を送信することによりジャーナル30を1つ取得する(SP120)。
続いてチャネルアダプタ101Bは、取得したジャーナル30にデータが格納されていないか否かを判断する(SP121)。これは第1及び第2の正ストレージ装置92,93が、転送すべきジャーナルが存在しない状態でジャーナル転送要求を与えられたときに、データに代えて所定のダミーデータを格納したジャーナル30を第1又は第2の副ストレージ装置94,95に送信するため、取得したジャーナル30にデータが格納されていないか否かを判断することによって、取得すべきジャーナル30が未だ第1又は第2の正ストレージ装置92,93に残っているか否かを判断するためである。
そしてチャネルアダプタ101Bは、この判断において肯定結果を得ると、自ストレージ装置の共有メモリ25BX,25BYに格納されている副ジャーナルグループ制御情報管理テーブル130上の対応する副ストレージグループ情報内のグループ内最新タイムスタンプの値を、図21のステップSP109について上述したように、そのときジャーナル継続取得指示と共に与えられたグループ内最新タイムスタンプの値及びジャーナル転送時間量を加算した値に更新し(SP122)、この後ステップSP125に進む。
これに対してチャネルアダプタ101Bは、ステップSP121の判断において否定結果を得ると、かかる副ジャーナルグループ制御情報管理テーブル130上の対応する副ストレージグループ情報内のグループ内最新タイムスタンプの値を、そのときステップSP120において取得したジャーナル30に含まれるタイムスタンプの値に更新する(SP123)。
次いでチャネルアダプタ101Bは、かかる更新後のグループ内最新タイムスタンプの値がジャーナル継続取得指示と共に与えられたグループ内最新タイムスタンプの値及びジャーナル転送時間量を加算した値以上であるか否かを判断する(SP124)。
チャネルアダプタ101Bは、この判断において否定結果を得るとステップSP120に戻り、この後、ステップSP124において肯定結果を得るまで同様の処理を繰り返す(SP120〜SP124−SP120)。
チャネルアダプタ101Bは、やがてステップSP124において肯定結果を得ると、ジャーナル継続取得指示が与えられた副ジャーナルグループ31Bのグループ内最新タイムスタンプの値を副ジャーナルグループ制御情報管理テーブル130から読み出し、これをマスタに設定されている第1又は第2の副ストレージ装置94,95に通知した後(SP125)、このジャーナル継続取得処理を終了する。
以上のように本実施の形態によるストレージシステム90では、第1及び第2の副ストレージ装置94,95のうちのマスタに設定された第1又は第2の副ストレージ装置94,95がジャーナルグループ集合体ごとに、自ストレージ装置及び他の第2又は第1の副ストレージ装置95,94内に設定された各副ジャーナルグループ31Bのグループ内最新タイムスタンプを監視し、当該時間差がグループ間時間差閾値を超えた場合に、最もジャーナル転送が遅延している副ジャーナルグループ31B以外の副ジャーナルグループ31Bについてのジャーナル転送を中断するための制御処理を行なう。そしてマスタに設定された第1又は第2の副ストレージ装置94,95は、この後、最もジャーナル転送が遅延している副ジャーナルグループ31Bについてのジャーナル30をジャーナル転送時間量分だけ対応する第1又は第2の正ストレージ装置92,93から取得した上で、自ストレージ装置内の各副ジャーナルグループ31Bにジャーナル30を反映し、他の第2又は第1の副ストレージ装置95,94内の各副ジャーナルグループ31Bにジャーナル30を反映させる。
従って、本ストレージシステム90によれば、第1の実施の形態によるストレージシステム1と同様に、リモートコピーを行う副ジャーナルグループ31Bの数にかかわりなく、副ジャーナルグループ31B間において一定の時間的範囲内(グループ間時間差閾値の範囲内)において、各副ジャーナルグループ31B間におけるデータの最新性を確保した一貫性を保証することができ、その分信頼性の高いストレージシステムを提供することができる。
また本ストレージシステム90においても、第1の実施の形態によるストレージシステム1と同様に、グループ間時間差確認間隔、グループ間時間差閾値及びジャーナル転送時間量をシステム管理者がホスト2を用いて設定することができるため、かかる効果に加えて運用の柔軟性を高めることができるという効果を得ることができる。
(3)他の実施の形態
なお上述の第1の実施の形態においては、データを読み書きするための第1のボリューム(データボリュームDVOL)を提供する第1のストレージ部を1台の正ストレージ装置3により構成し、第1のボリュームに書き込まれたデータを複製するための第2のボリューム(データボリュームDVOL)を提供する第2のストレージ部を1台の副ストレージ装置5により構成する一方、第2の実施の形態においては、かかる第1のストレージ部を2台の正ストレージ装置92,93により構成する一方、かかる第2のストレージ部を2台の副ストレージ装置94,95により構成するようにした場合について述べたが、本発明はこれに限らず、かかる第1のストレージ部や第2のストレージ部を3台以上のストレージ装置により構成するようにしても良い。
また上述の第1及び第2の実施の形態においては、正ストレージ装置3,92,93において、正ジャーナルグループ31A(第1のグループ)を設定すると共に、設定した正ジャーナルグループA31ごとに、データボリュームDVOLに対するデータの書き込みがあったときにジャーナルを作成するジャーナル作成部としての機能をチャネルアダプタ23Aに搭載するようにした場合について述べたが、本発明はこれに限らず、かかる機能を他の回路ブロックに持たせるようにしても良い。
同様に、上述の第1及び第2の実施の形態においては、副ストレージ装置5,94,95において、各正ジャーナルグループ31Aにそれぞれ対応させて副ジャーナルグループ31Bを設定すると共に、設定した副ジャーナルグループ31Bごとに、ジャーナル30を定期的にかつ作成された順番で正ストレージ装置3,92,93から取得し、取得したジャーナル30を対応する副ジャーナルグループ31B内の対応するデータボリュームDVOLに反映するジャーナル取得反映部としての機能と、データボリュームDVOLに未反映の状態で滞留しているジャーナル30に含まれる副ジャーナルグループ31Bごとの最新のタイムスタンプを比較し、最新及び最古のタイムスタンプの時間差を検出する時間差検出部としての機能と、時間差が予め設定された閾値(グループ間時間差閾値)を超えた場合に、タイムスタンプが最古の副ジャーナルグループ31Bについてのジャーナル30を、他の副ジャーナルグループ31Bについてのジャーナル30に優先して取得するための所定の制御処理を実行するジャーナル取得制御部としての機能とを1つのチャネルアダプタ23Aに搭載するようにした場合について述べたが、本発明はこれに限らず、これら機能の一部又は全部を他の回路ブロックに持たせるようにしても良い。
本発明は、運用拠点及び遠隔拠点間に設置されたストレージ装置間でデータをリモートコピーするストレージシステムに広く適用することができる。
第1の実施の形態によるストレージシステムの構成を示すブロック図である。 ジャーナルの説明に供する概念図である。 ジャーナルグループの説明に供する概念図である。 第1の実施の形態によるジャーナルグループ設定/管理画面の構成例を略線的に示す略線図である。 コピーペア追加/削除画面の構成例を略線的に示す略線図である。 第1の実施の形態によるジャーナルグループペア形成処理の処理手順を示すフローチャートである。 第1の実施の形態によるジャーナルグループペア形成要求の説明に供する概念図である。 正ジャーナルグループ情報及び副ジャーナルグループ情報の説明に供する概念図である。 第1の実施の形態によるジャーナルグループペア形成要求作成処理の処理手順を示すフローチャートである。 正ジャーナルグループ形成処理の処理手順を示すフローチャートである。 第1の実施の形態による副ジャーナルグループ形成処理の処理手順を示すフローチャートである。 第1の実施の形態による副ジャーナルグループ制御情報管理テーブルを示す概念図である。 第1の実施の形態によるジャーナル転送制御処理の処理手順を示すフローチャートである。 第2の実施の形態によるストレージシステムの構成を示すブロック図である。 第2の実施の形態によるジャーナルグループ設定/管理画面の構成例を略線的に示す略線図である。 第2の実施の形態によるジャーナルグループペア形成処理の処理手順を示すフローチャートである。 第2の実施の形態によるジャーナルグループペア形成要求の説明に供する概念図である。 第2の実施の形態によるジャーナルグループペア形成要求作成処理の処理手順を示すフローチャートである。 第2の実施の形態による副ジャーナルグループ形成処理の処理手順を示すフローチャートである。 第2の実施の形態による副ジャーナルグループ制御情報管理テーブルを示す概念図である。 第2の実施の形態によるジャーナル転送制御処理の処理手順を示すフローチャートである。 ジャーナル継続取得処理を示すフローチャートである。
符号の説明
1,90……ストレージシステム、2,91……ホスト、3,92,93……正ストレージ装置、5,94,95……副ストレージ装置、10……CPU、11……メモリ、13……ストレージ管理プログラム、14……コピー管理プログラム、15,100……ジャーナルグループペア形成プログラム、23A,23B,101A,101B……チャネルアダプタ、30……ジャーナル、31A……正ジャーナルグループ、31B……副ジャーナルグループ、40,110……ジャーナルグループ設定/管理画面、60……コピーペア追加/削除画面、80,120……ジャーナルグループペア形成要求、82,130……副ジャーナルグループ制御情報管理テーブル。

Claims (14)

  1. 上位装置に対して、データを読み書きするための第1のボリュームを提供する、少なくとも1つのストレージ装置から構成される第1のストレージ部と、前記第1のボリュームに書き込まれたデータを複製するための第2のボリュームを提供する、少なくとも1つのストレージ装置から構成される第2のストレージ部とを有するストレージシステムにおいて、
    前記第1のストレージ部は、
    1又は複数の前記第1のボリュームを含む複数の第1のグループを設定すると共に、設定した前記第1のグループごとに、前記第1のボリュームに対するデータの書き込みがあったときに、当該データ及び当該データの書き込み時刻を示すタイムスタンプを含むジャーナルを作成するジャーナル作成部
    を備え、
    前記第2のストレージ部は、
    各前記第1のグループにそれぞれ対応させて、それぞれ1又は複数の前記第2のボリュームを含む複数の第2のグループを設定すると共に、設定した前記第2のグループごとに、前記ジャーナルを定期的にかつ作成された順番で前記第1のストレージ装置から取得し、取得した前記ジャーナルを対応する前記第2のグループ内の対応する前記第2のボリュームに反映するジャーナル取得反映部と、
    前記第2のボリュームに未反映の状態で滞留している前記ジャーナルに含まれる前記第2のグループごとの最新の前記タイムスタンプを比較し、最新及び最古の前記タイムスタンプの時間差を検出する時間差検出部と、
    前記時間差が予め設定された閾値を超えた場合に、前記タイムスタンプが最古の前記第2のグループについての前記ジャーナルを、他の前記第2のグループについての前記ジャーナルに優先して取得するための所定の制御処理を実行するジャーナル取得制御部と
    を備える
    ことを特徴とするストレージシステム。
  2. 前記第2のストレージ部の前記時間差検出部は、
    前記第2のグループごとの最新の前記タイムスタンプを定期的に比較する
    ことを特徴とする請求項1に記載のストレージシステム。
  3. 前記上位装置は、
    前記時間差検出部が前記第2のグループごとの最新の前記タイムスタンプを比較する周期を任意に設定するための設定画面を表示すると共に、前記設定画面において指定された指定値を前記第1のストレージ部を介して前記第2のストレージ部に通知し、
    前記第2のストレージ部は、
    前記上位装置から通知された前記設定画面において指定された前記指定値を、前記時間差検出部が前記第2のグループごとの最新の前記タイムスタンプを比較する周期として設定する
    ことを特徴とする請求項2に記載のストレージシステム。
  4. 前記第2のストレージ部の前記ジャーナル制御処理部は、
    前記タイムスタンプが最古の前記第2のグループについての前記ジャーナルを、予め定められた所定のジャーナル量だけ取得するまで、当該第2のグループについての前記ジャーナルの取得を優先し、当該第2のグループ以外の前記第2のグループについての前記ジャーナルの取得を抑止する
    ことを特徴とする請求項1に記載のストレージシステム。
  5. 前記上位装置は、
    前記ジャーナル量を任意に設定するための設定画面を表示すると共に、前記設定画面において指定された指定値を前記第1のストレージ部を介して前記第2のストレージ部に通知し、
    前記第2のストレージ部は、
    前記上位装置から通知された前記設定画面において指定された前記指定値を、前記ジャーナル量として設定する
    ことを特徴とする請求項4に記載のストレージシステム。
  6. 前記第2のストレージ部は、
    複数のストレージ装置から構成され、
    前記時間差検出部及び前記ジャーナル取得制御部は、
    前記複数のストレージ装置のうちの予め設定された1つのストレージ装置である
    ことを特徴とする請求項1に記載のストレージシステム。
  7. 前記上位装置は、
    前記時間差検出部により検出される前記時間差の前記閾値を任意に設定するための設定画面を表示すると共に、前記設定画面において指定された指定値を前記第1のストレージ部を介して前記第2のストレージ部に通知し、
    前記第2のストレージ部は、
    前記上位装置から通知された前記設定画面において指定された前記指定値を、前記時間差検出部により検出される前記時間差の前記閾値として設定する
    ことを特徴とする請求項1に記載のストレージシステム。
  8. 上位装置に対して、データを読み書きするための第1のボリュームを提供する、少なくとも1つのストレージ装置から構成される第1のストレージ部と、前記第1のボリュームに書き込まれたデータをリモートコピーするための第2のボリュームを提供する、少なくとも1つのストレージ装置から構成される第2のストレージ部とを有するストレージシステムにおけるリモートコピーを制御方法において、
    前記第1のストレージ部において、1又は複数の前記第1のボリュームを含む複数の第1のグループを設定すると共に、設定した前記第1のグループごとに、前記第1のボリュームに対するデータの書き込みがあったときに、当該データ及び当該データの書き込み時刻を示すタイムスタンプを含むジャーナルを作成する第1のステップと、
    前記第2のストレージ部において、各前記第1のグループにそれぞれ対応させて、それぞれ1又は複数の前記第2のボリュームを含む複数の第2のグループを設定すると共に、設定した前記第2のグループごとに、前記ジャーナルを定期的にかつ作成された順番で前記第1のストレージ装置から取得し、取得した前記ジャーナルを対応する前記第2のグループ内の対応する前記第2のボリュームに反映する一方、前記第2のボリュームに未反映の状態で滞留している前記ジャーナルに含まれる前記第2のグループごとの最新の前記タイムスタンプを比較して、最新及び最古の前記タイムスタンプの時間差を検出し、前記時間差が予め設定された閾値を超えた場合に、前記タイムスタンプが最古の前記第2のグループについての前記ジャーナルを、他の前記第2のグループについての前記ジャーナルに優先して取得する第2のステップと
    を備えることを特徴とするリモートコピー制御方法。
  9. 前記第2のステップでは、
    前記第2のグループごとの最新の前記タイムスタンプを定期的に比較する
    ことを特徴とする請求項8に記載のリモートコピー制御方法。
  10. 前記上位装置は、
    前記第2のステップにおいて前記第2のグループごとの最新の前記タイムスタンプを比較する周期を任意に設定するための設定画面を表示すると共に、前記設定画面において指定された指定値を前記第1のストレージ部を介して前記第2のストレージ部に通知し、
    前記第2のストレージ部は、
    前記上位装置から通知された前記設定画面において指定された前記指定値を、前記第2のステップにおいて前記第2のグループごとの最新の前記タイムスタンプを比較する周期として設定する
    ことを特徴とする請求項9に記載のリモートコピー制御方法。
  11. 前記第2のステップでは、
    前記タイムスタンプが最古の前記第2のグループについての前記ジャーナルを、予め定められた所定のジャーナル量だけ取得するまで、当該第2のグループについての前記ジャーナルを、他の前記第2のグループについての前記ジャーナルよりも優先して取得する
    ことを特徴とする請求項8に記載のリモートコピー制御方法。
  12. 前記上位装置は、
    前記ジャーナル量を任意に設定するための設定画面を表示すると共に、前記設定画面において指定された指定値を前記第1のストレージ部を介して前記第2のストレージ部に通知し、
    前記第2のストレージ部は、
    前記上位装置から通知された前記設定画面において指定された前記指定値を、前記ジャーナル量として設定する
    ことを特徴とする請求項11に記載のリモートコピー制御方法。
  13. 前記第2のストレージ部は、
    複数のストレージ装置から構成され、
    前記第2のステップでは、
    前記複数のストレージ装置のうちの予め設定された1つのストレージ装置が、前記第2のボリュームに未反映の状態で滞留している前記ジャーナルに含まれる前記第2のグループごとの最新の前記タイムスタンプを比較して、最新及び最古のタイムスタンプの時間差を検出し、前記時間差が予め設定された閾値を超えた場合に、前記タイムスタンプが最古の前記第2のグループについての前記ジャーナルを、他の前記第2のグループについての前記ジャーナルに優先して取得するための所定の制御処理を実行する
    ことを特徴とする請求項8に記載のリモートコピー制御方法。
  14. 前記上位装置は、
    前記第2のステップにおける前記時間差の前記閾値を任意に設定するための設定画面を表示すると共に、前記設定画面において指定された指定値を前記第1のストレージ部を介して前記第2のストレージ部に通知し、
    前記第2のストレージ部は、
    前記上位装置から通知された前記設定画面において指定された前記指定値を、前記時間差の前記閾値として設定する
    ことを特徴とする請求項8に記載のリモートコピー制御方法。
JP2007297712A 2007-11-16 2007-11-16 ストレージシステム及びリモートコピー制御方法 Expired - Fee Related JP4916420B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007297712A JP4916420B2 (ja) 2007-11-16 2007-11-16 ストレージシステム及びリモートコピー制御方法
US12/029,139 US8078581B2 (en) 2007-11-16 2008-02-11 Storage system and remote copy control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007297712A JP4916420B2 (ja) 2007-11-16 2007-11-16 ストレージシステム及びリモートコピー制御方法

Publications (2)

Publication Number Publication Date
JP2009123055A JP2009123055A (ja) 2009-06-04
JP4916420B2 true JP4916420B2 (ja) 2012-04-11

Family

ID=40643193

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007297712A Expired - Fee Related JP4916420B2 (ja) 2007-11-16 2007-11-16 ストレージシステム及びリモートコピー制御方法

Country Status (2)

Country Link
US (1) US8078581B2 (ja)
JP (1) JP4916420B2 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4915775B2 (ja) * 2006-03-28 2012-04-11 株式会社日立製作所 ストレージシステム及びストレージシステムのリモートコピー制御方法
US20090204775A1 (en) * 2008-02-12 2009-08-13 Fujitsu Limited Data copying method
US7917592B1 (en) * 2008-03-18 2011-03-29 Symantec Corporation Method for grouping exchange 2007 journal messages
JP4907630B2 (ja) * 2008-10-23 2012-04-04 株式会社日立製作所 ジャーナルを利用したリモートコピーを行う計算機システム
JP5297250B2 (ja) * 2009-03-30 2013-09-25 富士通株式会社 ストレージシステム、および情報格納方法
JP4951652B2 (ja) 2009-06-24 2012-06-13 株式会社日立製作所 コンピュータシステムのリモートコピー方法及びコンピュータシステム
KR101614387B1 (ko) * 2009-12-09 2016-04-21 삼성전자 주식회사 화상형성장치와 연결되는 호스트장치 및 설정정보 관리방법
JP2011134152A (ja) * 2009-12-25 2011-07-07 Hitachi Ltd 情報処理装置及びその制御方法
WO2013076872A1 (ja) * 2011-11-25 2013-05-30 株式会社日立製作所 計算機システム
WO2014184606A1 (en) * 2013-05-13 2014-11-20 Hitachi, Ltd Identifying workload and sizing of buffers for the purpose of volume replication
JP6221564B2 (ja) * 2013-09-25 2017-11-01 富士通株式会社 ストレージ制御装置、制御方法および制御プログラム
JP6229684B2 (ja) * 2015-03-19 2017-11-15 日本電気株式会社 ストレージ装置、ストレージ制御方法、及びストレージ制御プログラム
US10067686B2 (en) * 2015-12-16 2018-09-04 Intel Corporation Apparatus and method for enforcing timing requirements for a memory device
US10552389B2 (en) * 2017-04-28 2020-02-04 Oath Inc. Object and sequence number management
US10558493B2 (en) * 2017-10-31 2020-02-11 Ab Initio Technology Llc Managing a computing cluster using time interval counters
CN110209726B (zh) * 2018-02-12 2023-10-20 金篆信科有限责任公司 分布式数据库集群系统、数据同步方法及存储介质

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5065311A (en) * 1987-04-20 1991-11-12 Hitachi, Ltd. Distributed data base system of composite subsystem type, and method fault recovery for the system
US6463501B1 (en) * 1999-10-21 2002-10-08 International Business Machines Corporation Method, system and program for maintaining data consistency among updates across groups of storage areas using update times
JP4044717B2 (ja) * 2000-03-31 2008-02-06 株式会社日立製作所 記憶サブシステムのデータ二重化方法及びデータ二重化システム
JP2003345523A (ja) * 2002-05-22 2003-12-05 Hitachi Ltd データ多重化システムの制御方法、データ多重化システム、副側記憶装置、および副側記憶装置用プログラム
JP2004062781A (ja) * 2002-07-31 2004-02-26 Fujitsu Ltd 情報管理装置
JP2004259079A (ja) * 2003-02-27 2004-09-16 Hitachi Ltd データ処理システム
JP4124348B2 (ja) 2003-06-27 2008-07-23 株式会社日立製作所 記憶システム
US7130975B2 (en) * 2003-06-27 2006-10-31 Hitachi, Ltd. Data processing system
JP4477370B2 (ja) * 2004-01-30 2010-06-09 株式会社日立製作所 データ処理システム
US7197502B2 (en) * 2004-02-18 2007-03-27 Friendly Polynomials, Inc. Machine-implemented activity management system using asynchronously shared activity data objects and journal data items
JP4422519B2 (ja) 2004-03-18 2010-02-24 株式会社日立製作所 情報処理システム
US7330861B2 (en) * 2004-09-10 2008-02-12 Hitachi, Ltd. Remote copying system and method of controlling remote copying
US8185708B2 (en) 2004-09-30 2012-05-22 Emc Corporation Host implementation of triangular asynchronous replication
JP2006107450A (ja) 2004-09-30 2006-04-20 Emc Corp トライアングル非同期複製(triangularasynchronousreplication)
JP4704893B2 (ja) * 2005-11-15 2011-06-22 株式会社日立製作所 計算機システム及び管理計算機とストレージシステム並びにバックアップ管理方法
JP4856955B2 (ja) * 2006-01-17 2012-01-18 株式会社日立製作所 Nasシステム及びリモートコピー方法
JP2007286860A (ja) * 2006-04-17 2007-11-01 Hitachi Ltd データ転送方法及び情報処理装置
JP4124374B2 (ja) 2006-06-12 2008-07-23 株式会社日立製作所 記憶システム
JP4890160B2 (ja) * 2006-09-06 2012-03-07 株式会社日立製作所 ストレージシステム及びバックアップ/リカバリ方法
JP5244332B2 (ja) * 2006-10-30 2013-07-24 株式会社日立製作所 情報システム、データ転送方法及びデータ保護方法
JP5042644B2 (ja) * 2007-01-24 2012-10-03 株式会社日立製作所 リモートコピーシステム

Also Published As

Publication number Publication date
JP2009123055A (ja) 2009-06-04
US8078581B2 (en) 2011-12-13
US20090132779A1 (en) 2009-05-21

Similar Documents

Publication Publication Date Title
JP4916420B2 (ja) ストレージシステム及びリモートコピー制御方法
JP2007206931A (ja) 記憶システム、データ処理方法並びにストレージ装置
JP4842703B2 (ja) ストレージシステム及びそのリカバリボリューム作成方法
JP5261577B2 (ja) ストレージ装置及びその制御方法
JP5224240B2 (ja) 計算機システム及び管理計算機
TWI307035B (en) Method and system for backing up remote mirror data on internet
US7761732B2 (en) Data protection in storage systems
JP6344798B2 (ja) データ送信方法、データ受信方法、及びストレージデバイス
US7685171B1 (en) Techniques for performing a restoration operation using device scanning
JP2007219609A (ja) スナップショット管理装置及び方法
US7979905B2 (en) Storage system, virus infection spreading prevention method, and virus removal support method
US8041684B2 (en) Techniques for determining an implemented data protection policy
JP5222469B2 (ja) 記憶システム及びデータ管理方法
JP4671399B2 (ja) データ処理システム
JP2005196683A (ja) 情報処理システム、情報処理装置、及び情報処理システムの制御方法
JP2006023889A (ja) リモートコピーシステム及び記憶装置システム
JP2007141043A (ja) ストレージシステムにおける障害管理方法
JP5232406B2 (ja) 情報処理装置及び方法
JP2007140962A (ja) ディスクアレイシステム及びセキュリティ方法
JP2011090550A (ja) コンピュータシステム及びプログラム記録媒体
JP2011248668A (ja) 計算機システム及びリストア方法
JP2008186142A (ja) リモートバックアップ方法及びストレージシステム
JP4937863B2 (ja) 計算機システム、管理計算機及びデータ管理方法
JP2009211401A (ja) ストレージ装置及びその制御方法
JP2003015933A (ja) 記憶装置のファイルレベルリモートコピー方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111227

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120124

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150203

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees