JP2008511064A - データ復旧のためのパリティ情報の記憶 - Google Patents

データ復旧のためのパリティ情報の記憶 Download PDF

Info

Publication number
JP2008511064A
JP2008511064A JP2007528810A JP2007528810A JP2008511064A JP 2008511064 A JP2008511064 A JP 2008511064A JP 2007528810 A JP2007528810 A JP 2007528810A JP 2007528810 A JP2007528810 A JP 2007528810A JP 2008511064 A JP2008511064 A JP 2008511064A
Authority
JP
Japan
Prior art keywords
data
storage unit
location
storage
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007528810A
Other languages
English (en)
Other versions
JP5038897B2 (ja
Inventor
グエン、ルー
チェリアン、ニーナ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2008511064A publication Critical patent/JP2008511064A/ja
Application granted granted Critical
Publication of JP5038897B2 publication Critical patent/JP5038897B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/08Error detection or correction by redundancy in data representation, e.g. by using checking codes
    • G06F11/10Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
    • G06F11/1076Parity data used in redundant arrays of independent storages, e.g. in RAID systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/08Error detection or correction by redundancy in data representation, e.g. by using checking codes
    • G06F11/10Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/14Handling requests for interconnection or transfer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/14Handling requests for interconnection or transfer
    • G06F13/20Handling requests for interconnection or transfer for access to input/output bus
    • G06F13/28Handling requests for interconnection or transfer for access to input/output bus using burst mode transfer, e.g. direct memory access DMA, cycle steal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2211/00Indexing scheme relating to details of data-processing equipment not covered by groups G06F3/00 - G06F13/00
    • G06F2211/10Indexing scheme relating to G06F11/10
    • G06F2211/1002Indexing scheme relating to G06F11/1076
    • G06F2211/1028Distributed, i.e. distributed RAID systems with parity

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Techniques For Improving Reliability Of Storages (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Multi Processors (AREA)

Abstract

第1の場所における第1の記憶ユニットが第2の場所における第2の記憶ユニットと第3の場所における第3の記憶ユニットとに結合されている方法、システム、および製品を提供する。データが、第1の記憶ユニットにおいて受信される。受信されたデータは、第1の部分と第2の部分とに分割される。データの第1の部分は、第1の場所における第1の記憶ユニットに記憶される。データの第2の部分は、第2の場所における第2の記憶ユニットに分配されて記憶される。データの第1の部分およびデータの第2の部分に対応するパリティ・データが計算される。パリティ・データは、第3の場所における第3の記憶ユニットへ分配されて記憶される。加えて、データが第1の記憶ユニットに受信される方法、システム、および製品を提供する。第1の情報部、第2の情報部、および第3の情報部が生成され、第1の情報部、第2の情報部、および第3の情報部は、受信されたデータの一部および計算されたパリティ・データをそれぞれ含む。第1の情報部は、第1の場所における第1の記憶ユニットに記憶される。第2の情報部は、第2の場所における第2の記憶ユニットへ分配されて記憶される。第3の情報部は、第3の場所における第3の記憶ユニットへ分配されて記憶される。
【選択図】図1

Description

本発明は、データ復旧のためにパリティ情報を記憶するための方法、システム、製品に関する。
記憶システムを含む情報技術システムは、現場の災害または停電から保護される必要がある場合があり、停電が予定されている場合も予定されてない場合もある。さらに、情報技術システムは、データ移動、データのバックアップ、またはデータの複製のための機能が必要な場合がある。災害または停電からの復旧、データ移動、データのバックアップ、およびデータの複製のための実施には、記憶システムにおけるデータのミラーリングまたはコピーが含まれることがある。そのようなデータのミラーリングまたはコピーは、情報技術システムのホスト、記憶システム、および接続ネットワーキング・コンポーネント間の相互作用を伴うことがある。
情報技術システムは、第1の場所から第2の場所へデータをコピーすることによって、現場の停電から保護される場合がある。第1の場所は、アプリケーション・サイト、ローカル・サイト、一次サイト、または生産サイトと称されることがある。第2の場所は、復旧サイト、リモート・サイト、二次サイト、またはバックアップ・サイトと称されることがある。
独立したディスクの冗長アレイ(RAID)は、ディスク記憶システムにおける災害からの復旧のために、ディスクを耐障害性のあるものにするための機構である。RAIDは、単一障害エラー点、すなわち、単一のディスクの障害から復旧させるために、パリティとして知られるエラー補正コードを使用することがある。RAIDは、データおよびパリティを複数のディスクに渡ってストライピングして、データの取り出しの速度を向上させると同時に、耐障害性を可能にすることがある。RAIDには、RAIDレベル0,1,2,3,4,5などの数多くの互いに異なるレベルがある。例えば、RAIDレベル5は、バイト・レベルでのデータ・ストライピングを提供し、また、ストライプ・エラー訂正情報をも提供する。RAIDレベル5においては、複数のディスク上のデータに対応するパリティが計算されて、当該パリティを使用して、どのデータも失うことなく、データ障害から復旧するようになる。
以下、本発明を説明していく。
データ復旧のためにパリティ情報を記憶すること。
第1の場所における第1の記憶ユニットが第2の場所における第2の記憶ユニットと第3の場所における第3の記憶ユニットとに結合されている方法、システム、および製品を提供する。データが、第1の記憶ユニットにおいて受信される。受信されたデータは、第1の部分と第2の部分とに分割される。データの第1の部分は、第1の場所における第1の記憶ユニットに記憶される。データの第2の部分は、第2の場所における第2の記憶ユニットに分配されて記憶される。データの第1の部分およびデータの第2の部分に対応するパリティ・データが計算される。パリティ・データは、第3の場所における第3の記憶ユニットへ分配されて記憶される。
他の実施形態において、第1の場所におけるデータ損失に応じて、データの第1の部分は、第2の場所に記憶されたデータの第2の部分および第3の場所に記憶されたパリティ・データから復旧される。さらなる実施形態において、データの第1の部分、データの第2の部分、およびパリティ・データのサイズの合計は、受信されたデータ・サイズの2倍より小さい。さらなる実施形態において、データの第1の部分、データの第2の部分、およびパリティ・データのサイズの合計は、受信されたデータ・サイズの1.5倍である。
さらなる実施形態において、第1の場所、第2の場所、および第3の場所は、互いに10マイル(16090メートル)を超える距離分だけ離れており、第1の部分、第2の部分、および第3の部分は、互いに異なる記憶ディスク・システムに記憶されている。
さらなる実施形態において、第1の場所と第3の場所との間の距離は、第1の場所と第2の場所との間の距離より小さい。
さらなる実施形態において、第1の記憶ユニットは、キャッシュを含む。受信されたデータは、第1の記憶ユニット内のキャッシュに記憶される。受信されたデータを分割する前に、キャッシュに記憶されたデータに対する更新が受信される。キャッシュは、受信された更新で更新され、データの第2の部分およびパリティ・データを分配するステップは非同期で行われ、データの第1の部分、データの第2の部分、およびパリティ・データはタイムスタンプが押される。
さらなる実施形態において、第1の記憶ユニットは、入出力要求を第1の記憶ユニットへ送出するホストに結合されており、ホストからの第1の記憶ユニットに対する更新は、第2の記憶ユニットにおいて非同期で反映され、第3の記憶ユニットにおいて非同期で反映される。
第1の場所における第1の記憶ユニットが第2の場所における第2の記憶ユニットと第3の場所における第3の記憶ユニットとに結合されている方法、システム、および製品をさらに提供する。第1の情報部、第2の情報部、および第3の情報部が生成され、第1の情報部、第2の情報部、および第3の情報部は、受信されたデータの一部および計算されたパリティ・データをそれぞれ含む。第1の情報部は、第1の場所における第1の記憶ユニットに記憶される。第2の情報部は、第2の場所における第2の記憶ユニットへ分配されて記憶される。第3の情報部は、第3の場所における第3の記憶ユニットへ分配されて記憶される。
さらなる実施形態において、第1の場所におけるデータ損失に応じて、受信されたデータは、第2の情報部および第3の情報部から復旧される。さらなる実施形態において、第1の情報部、第2の情報部、および第3の情報部のサイズの合計は、受信されたデータ・サイズの2倍より小さい。
他の実施形態において、第1の場所、第2の場所、および第3の場所は、互いに10マイル(16090メートル)を超える距離分だけ離れており、第1の情報部、第2の情報部、および第3の情報部は、互いに異なる記憶ディスク・システムに記憶されている。
さらなる実施形態において、パリティ・データの大半は、第1の記憶ユニットに記憶され、第1の記憶ユニットは、第2および第3の記憶ユニットより高速でアクセス可能である。
さらなる実施形態において、データは、第1の記憶ユニットにおいてホストから受信され、ホストを第1、第2、および第3の記憶ユニットに結合するために、マルチパス・ハードウェアが使用される。
さらなる実施形態において、第2および第3の情報部の分配は、第1の記憶ユニットから第2および第3の記憶ユニットへの書き込み動作を通じて行われ、第1の記憶ユニットから第2および第3の記憶ユニットへの書き込み動作は、第2および第3の記憶ユニットに並行して書き込まれるフル・ストライド書き込みである。
同様の参照符号は全体に渡って対応部分を表す図面を参照する。
以下の説明において、本明細書の一部を構成し、かつ、いくつかの実施形態を示す添付の図面を参照する。他の実施例を使用してもよく、構造および動作は変更されてもよいことが理解される。
図1は、災害からの復旧のために、ある記憶システムから他へデータをコピーするためのシステムのブロック図を示す。ホストなどのサーバ100は、書き込むべきデータを、二次記憶システム104に結合された一次記憶システム102へ送出してもよい。ホスト100によって一次記憶システム102に書き込まれたデータは、元データと称されてもよい。例えば、元データ106のサイズは、100テラバイトであってもよい。一次記憶システム102におけるデータ損失から復旧できるようにするシステムを管理するために、一次記憶システム102は、元データ106を二次記憶システム104へコピー108してもよい。二次記憶システム104へコピーされたデータは、コピーされたデータ110と称されてもよい。元データ106の任意の部分に損失が生じた場合には、コピーされたデータ110を使用して、損失から復旧してもよい。元データ106のサイズが100テラバイトの場合、コピーされたデータ110も100バイトであってもよく、図1に示すシステムは、200テラバイトの記憶装置を使用して、元データ106の損失から復旧してもよい。図1に示すシステムにおいて、データ損失からの復旧に必要な記憶容量は、元データ106のサイズの2倍である。一次記憶システム102から二次記憶システム104へ元データ106を最初にコピーした後、後続の書き込みもコピーされてもよい。ホスト100が一次記憶システム102上のボリュームに書き込む場合に、一次記憶システム102は、一次記憶システム102に関連したディスクなどのローカル記憶装置へ対応データを書き込み、当該データを二次記憶システム104へ送る。二次記憶システム104は、送られたデータを、二次記憶システム104に関連したローカル記憶装置へ書き込む。二次記憶システム104が一次記憶システム102に対して書き込みが成功した旨を通知すると、一次記憶システム102は、書き込みが成功した旨をホスト100に対して応答する。
図1bは、ある実施形態に係る、データおよびパリティ情報を3つの記憶システムに分配するためのシステムのブロック図である。
第1の記憶システム112、第2の記憶システム114、および第3の記憶システム116は、第1のサーバ118、第2のサーバ120、および第3のサーバ122にそれぞれ結合されている。第1のサーバ118は、データを第1の記憶システム112に書き込んでもよい。データは、現場の停電に対して保護されなければならない場合がある。ある実施形態において、データおよび関連パリティは、第1、第2、および第3の記憶システム112,114,および116のうちの1つ以上に記憶されてもよい。データおよび関連パリティを第1、第2、および第3の記憶システム112,114,および116のうちの1つ以上に記憶するためのある実施形態のさらなる詳細は、図2〜8に説明されている。
図2は、ある実施形態に係る、データおよびパリティ情報を3つの記憶システムに分配するための第1のコンピューティング環境200のブロック図である。
第1の記憶システム202、第2の記憶システム204、および第3の記憶システム206は、第1のサーバ208と、第2のサーバ210と、第3のサーバ212にそれぞれ結合されている。加えて、第1の記憶システム202は、第2の記憶システム204および第3の記憶システム206に結合されている。記憶システム202,204,および206は、記憶装置コントローラと、ディスク・ベースの記憶装置、テープ・ベースの記憶装置など備える任意の記憶システムまたは記憶サブシステムを備えてもよい。サーバ208,210,および212は、ワークステーション、デスクトップ・コンピュータ、ラップトップ、メインフレーム、電話通信装置、携帯型コンピュータなどの任意の計算装置を備えてもよい。
書き込み動作を行っている間に、第1のサーバ208は、第1の記憶システム202へデータ214を送出してもよい。データ214は、現場の停電から保護されていなければならない場合がある。第1の記憶システム202は、データ214の第1の部分216を第1の記憶システム202に記憶し、データ214の第2の部分218を第2の記憶システム204へ送出して記憶させる。第1の記憶システム202は、パリティ・データ220を第1の部分216および第2の部分218から計算して、パリティ・データ220を第3の記憶システム206へ送出して記憶させる。ある実施形態において、第1の記憶システム202からデータが送出された後に、第1の記憶システム202は、遠隔、すなわち、第2および第3の記憶システム204および206のうちの1つからの受領確認を待つ。対応の受領確認が第2の記憶システム204および第3の記憶システム206のうちのいずれかから戻ると、データは保護されて、第1の記憶システム202は、書き込みが成功した旨を第1のサーバ208へ返す。このように、書き込みは、負荷の釣り合いが自動的に取れてもよい。第2の記憶システム206への記憶ネットワークがビジーの場合でも、第1のコンピューティング環境200の性能に対しては悪影響を及ぼさないだろう。なぜならば、第1のサーバ208は、受領確認がなされるべき書き込みのうちの1つを待てばよいからである。
ある実施形態において、データ214のサイズが100テラバイトである場合には、データの第1の部分216は50テラバイトであり、データの第2の部分218は50テラバイトであり、パリティ・データは50テラバイトであってもよい。災害から復旧するために元データ106を記憶するには、2倍の記憶量が必要だった図1と比較して、図2に示す実施形態は、記憶システム202,204,および206のうちのいずれかにおいて損失を生じさせる災害から復旧するためには、データ214のサイズの1.5倍の記憶量が必要であってもよい。
ある実施形態において、第1の記憶システム202、第2の記憶システム204、および第3の記憶システム206は、互いに異なる場所にあってもよい。ある実施形態において、第1の記憶システム202は第1の場所にあり、第2の記憶システム204は第2の場所にあり、第3の記憶システム206は第3の場所にあり、第1の場所、第2の場所、および第3の場所は、地理的に互いに離れており、互いに異なる都市にあってもよい。例えば、第1、第2、および第3の場所は、それぞれ互いに10マイル(16090メートル)を超える距離分だけ離れていてもよい。記憶システム202,204,および206が互いに異なる場所に位置しているので、データ214の第1の部分216、データ214の第2の部分218、およびパリティ・データ220は互いに異なるディスク記憶システムに記憶されている。ある実施形態において、ユーザは、記憶システム202,204,および206を切り離すように選択して、自然災害などの現場全体に渡る災害に対して保護することもできる。しかしながら、記憶システム202,204,および206は、常に地理的に分散されていなくてもよい。例えば、記憶システム202,204,および206は、耐火式のコンクリート製の壁によって分離された同じ部屋にあってもよく、互いに異なる電力送電網およびスプリンクラー・システムに接続されていてもよい。
実施形態例において、ローカル・サイトおよびリモート・サイトを備える2つの場所は、100kmの距離分だけ離れていてもよい。ファイバを通じた光の速度は、約200,000km/秒である。距離が100kmであるとすると、2つの場所間の往復の待ち時間は、1ミリ秒である。ハード・ドライブ例の待ち時間は、約5msである。遠隔地におけるリモート記憶サブシステムのキャッシュに対してデータが読み書きされる場合には、この設定からのアクセス時間は、ハード・ドライブ例のアクセス時間の5分の1となってもよい。しかしながら、データがリモート・キャッシュにない場合には、動作は5ミリ秒ではなく6ミリ秒かかり、性能が20%犠牲となる。第2および第3の記憶サブシステム204および206への書き込みが並行して生じる実施形態例において、書き込み性能は、2つの場所による設定と同一であってもよく、読み出し性能は最悪20%を下回ることはないだろう。ある代替実施形態において、書き込み動作は、フル・ストライド書き込みではない。そのような場合には、記憶サブシステムは、現在のデータを読み出し、新たなデータを追加し、書き込みの前に新たなパリティを計算する必要がある。ある実施形態において、パリティ・データは、最速のアクセス時間で記憶システムに記憶されてもよい。なぜならば、パリティ・データは、他のデータよりも頻繁にアクセスされる場合があるからである。他の実施形態において、パリティ・データは、記憶システム202,204,および206へ分配されてもよい。パリティ・データを分散すると、3つの記憶システム間で作業負荷の釣り合いが均等になって、第1のコンピューティング環境200の性能全体を向上することができる。
図3は、第1のコンピューティング環境200に対応したある実施形態に係る、データおよびパリティ情報を分配するための動作を示す。図3に示す動作は、第1の記憶システム202において実施されてもよい。
制御はブロック300において開始し、第1の記憶システム202は、データ214を書き込む要求を第1のサーバ208から受信する。第1の記憶システム202は、データを第1の部分216と第2の部分218とに分割する(ブロック302)。
第1の記憶システム202は、データの第1の部分216およびデータの第2の部分218からパリティ・データ220を計算する(ブロック304)。例えば、データの第1の部分216およびデータの第2の部分218のバイトのビット単位の排他的論理和演算によって、パリティ・データを提供してもよい。ある実施形態において、パリティ・データ220は、RAIDレベル4におけるパリティ・データの計算と同様のやり方で計算されてもよい。代替実施形態において、パリティ・データ220は、RAIDレベル4におけるパリティ・データの計算とは異なるやり方で計算されてもよい。
制御は、ブロック304からブロック306a,306b,および306cへと同時に進んでもよい。すなわち、ブロック306a,306b,および306cに記載された動作は並行して行われてもよい。第1の記憶システム202は、データ214の第1の部分216を第1の記憶システム202に書き込む(ブロック306a)。第1の記憶システム202は、データ214の第2の部分218を第2の記憶システム204へ分配して記憶させる(ブロック306b)。第2の記憶システム204がデータの第2の部分218を受信して記憶してもよい。加えて、第1の記憶システム202は、パリティ・データ220を第3の記憶システム206へ分配する(ブロック306c)。第3の記憶システム206がパリティ・データ220を受信して記憶してもよい。
図3は、第1の場所における第1の記憶ユニット202が第2の場所における第2の記憶ユニット204と第3の場所における第3の記憶ユニット206とに結合されている一実施形態を示す。第1の記憶ユニット202は、データ214を受信して、受信されたデータを第1の部分216と第2の部分218とに分割する。第1の記憶ユニット202は、データ214の第1の部分216を第1の場所における第1の記憶ユニット202に記憶する。第1の記憶システム202は、データの第2の部分218を第2の場所における第2の記憶システム204へ分配して記憶させる。第1の記憶システム202は、データ214の第1の部分216およびデータ214の第2の部分218に対応するパリティ・データ220を計算する。第1の記憶システム202は、パリティ・データ220を第3の場所における第3の記憶システム206へ分配して記憶させる。
ある実施形態において、第1の場所における第1の記憶システム202でのデータ損失に応じて、データ214の第1の部分216を、第2の記憶システム204に記憶されたデータの第2の部分218および第3の記憶システム206に記憶されたパリティ・データ220から復旧する。ある実施形態においては、第1の場所と第3の場所との間の距離は、第1の場所と第2の場所との間の距離より小さい。なぜならば、パリティ・データ220は、他のデータと比較すると、より頻繁にアクセスおよび書き込みがなされるだろうからである。
ある実施形態において、データ214の第1の部分216、データ214の第2の部分218、およびパリティ・データ220のサイズの合計は、受信されたデータ214のサイズの2倍より小さい。ある実施形態において、データ214の第1の部分216、データ214の第2の部分218、およびパリティ・データ220のサイズの合計は、受信されたデータ214のサイズの1.5倍である。ある代替実施形態において、パリティ・データは、第1の記憶システム202など、最速でアクセス可能な記憶システム上に記憶されてもよい。
図4は、ある実施形態に係る、データおよびパリティ情報を3つの記憶システムに分配するためのシステムの第2のコンピューティング環境400のブロック図である。
第1の記憶システム402、第2の記憶システム404、および第3の記憶システム406は、第1のサーバ408、第2のサーバ410、および第3のサーバ412にそれぞれ結合されている。加えて、第1の記憶システム402は、第2の記憶システム404および第3の記憶システム406に結合されている。
第1のサーバ408は、データ414を書き込み要求を介して第1の記憶システム402へ送出してもよい。データ414は、現場の停電から保護されていなくてはならない場合がある。ある実施形態において、第1の記憶システム402は、データ414を第1のサーバ408から受信し、データ414は、第1のサーバ408からの書き込み要求に関連してもよい。
第1の記憶システム402は、第1の情報部416と、第2の情報部418と、第3の情報部420とを生成し、第1の情報部416と、第2の情報部418と、第3の情報部420は、それぞれ、受信されたデータ414の一部および計算されたパリティ・データとを含む。各情報部416,418,および420は、1つ以上のバイトを記憶する。第1の記憶システム402は、第1の情報部416を第1の場所における第1の記憶システム402に記憶する。第1の記憶システム402は、第2の情報部418を第2の場所における第2の記憶システム404へ分配して記憶し、第3の情報部420を第3の場所における第3の記憶ユニット406へ分配して記憶する。
ある実施形態において、データ414が100テラバイトの場合、第1の情報部416は50テラバイトであり、第2の情報部418は50テラバイトであり、第3の情報部420は50テラバイトであってもよい。災害から復旧するために元データ106を記憶するには、2倍の記憶量が必要だった図1と比較して、コンピューティング環境400において示す実施形態は、記憶システム402,404,および406のうちのいずれかにおいて損失を生じさせる災害から復旧するためには、データ414のサイズの1.5倍の記憶量が必要であってもよい。
ある実施形態において、第1の記憶システム402は第1の場所に位置し、第2の記憶システム404は第2の場所に位置し、第3の記憶システム406は第3の場所に位置し、第1の場所、第2の場所、および第3の場所は、地理的に互いに離れており、互いに異なる都市にあってもよい。第1の情報部416、第3の情報部418、および第3の情報部420は、互いに異なるディスク・システムに記憶されてもよい
図5は、第2のコンピューティング環境400に対応したある実施形態に係る、データおよびパリティ情報を分配するための動作を示す。図5に示す動作は、第1の記憶システム402において実施されてもよい。
制御はブロック500において開始し、第1の記憶システム402は、データ414を書き込む要求を第1のサーバ408から受信する。第1の記憶システム402は、第1の情報部416、第2の情報部418、および第3の情報部420にデータ414を割り当てる(ブロック502)。
第1の記憶システム402は、パリティデータを計算して、第1の情報部416、第2の情報部418、および第3の情報部420に追加する(ブロック504)。ある実施形態において、第1の記憶システム402は、RAIDレベル5と同様のやり方でパリティを計算してもよく、3つの情報部416,418,および420のそれぞれは、受信データ414の一部および少なくともなんらかのパリティ・データを含む。パリティ・データの割り当ておよび追加は、RAIDレベル5において使用されるものとは異なるアルゴリズムを使用して行ってもよい。
制御は、ブロック504からブロック506a,506b,および506cへと同時に進んでもよい。すなわち、ブロック506a,506b,および506cに記載された動作は並行して行われてもよい。第1の記憶システムは、対応パリティ・データを含む第1の情報部416を第1の記憶システム416に書き込む(ブロック506a)。同時に、第1の記憶システム402は、対応パリティ・データを含む第2の情報部418を第2の記憶システム404へ分配する(ブロック506b)。加えて、第1の記憶システム402は、対応パリティ・データを含む第3の情報部420を第2の記憶システム406へ分配する(ブロック506c)。
耐障害性を提供するある実施形態において、記憶システムに記憶されたデータに対応するパリティ・データは、他の記憶システムに記憶される。例えば、第1の記憶システム402に記憶されたデータについてのパリティ・データは、第2の記憶システム404および第3の記憶システム406に記憶され、第2の記憶システム404に記憶されたデータについてのパリティ・データは、第1の記憶システム402および第3の記憶システム406に記憶され、第3の記憶システム406に記憶されたデータについてのパリティ・データは、第1の記憶システム402および第2の記憶システム404に記憶される。
ある実施形態において、第1の場所においてデータ損失がある場合には、受信されたデータ414が第2の情報部418および第3の情報部420から復旧される。ある実施形態において、第1の情報部416、第2の情報部418、および第3の情報部420のサイズの合計は、受信されたデータ414のサイズの2倍より小さい。ある実施形態において、第1の情報部416、第2の情報部418、および第3の情報部420は、互いに異なるディスク・システムに記憶される。
図6は、ある実施形態に係る、データおよびパリティ情報を3つの記憶システムに分配するための第3のコンピューティング環境600のブロック図である。
キャッシュ603を含む第1の記憶システム602、第2の記憶システム604、および第3の記憶システム606は、第1のサーバ608、第2のサーバ610、および第3のサーバ612にそれぞれ結合されている。加えて、第1の記憶システム602は、第2の記憶システム604および第3の記憶システム606に結合されている。ある実施形態において、第1の記憶システム602、第2の記憶システム604、および第3の記憶システム606は、地理的に分散された互いに異なる場所にあってもよい。
第1のサーバ608は、書き込み要求を介して第1の記憶システム602へデータ614を送出してもよい。データ614は、現場の停電に対して保護されなければならない場合がある。第1の記憶システム602は、データ614を受信して、受信されたデータをキャッシュ603に書き込んで、一時的に記憶する。第1の記憶システム602は、第1の情報部616、第2の情報部618、および第3の情報部620を生成してもよく、第1の情報部616、第2の情報部618、および第3の情報部620は、それぞれ、キャッシュ603内に一時的に記憶された受信されたデータ614の一部および計算されたパリティ・データを含む。第1の記憶システム602は、第1の情報部616を第1の場所における第1の記憶システム602に記憶する。第1の記憶システム602は、第2の情報部618を第2の場所における第2の記憶システム604へ非同期転送621を介して分配して記憶し、第3の情報部620を第3の場所における第3の記憶システム606へ非同期転送622を介して分配して記憶する。分散は非同期なのは、受信されたデータ614は、情報部618および620を計算して第2の記憶システム604および第3の記憶システム606へ分配するために、すぐには使用されないからである。すなわち、第1のサーバ608から第1の記憶システム602へ書き込み動作は、3つの記憶ユニット602,604,および606に対応データを分散することなく完了することができる。
図7は、第3のコンピューティング環境600に対応したある実施形態に係る、データおよびパリティ情報を分配するための動作を示す。図7に示す動作は、第1の記憶システム602において実施されてもよい。
制御はブロック700において開始し、第1の記憶システム602は、データを書き込む要求を第1のサーバ608から受信する。第1の記憶システム602は、第1の記憶システム602のキャッシュに603にデータ614を書き込む(ブロック702)。第1の記憶システム602は、キャッシュ603に書き込まれたデータ614に対する追加の更新を受信して、キャッシュ603に書き込まれたデータを更新する(ブロック704)。
第1の記憶システム602は、キャッシュ603に記憶されたデータを使用して、第1、第2および第3の情報部616,618,および620を計算して、記憶システム602,604,および606へ分配し(ブロック706)、第1、第2および第3の情報部616,618,および620は、それぞれ、受信されたデータ614の一部、追加の更新の一部、および計算されたパリティ・データの一部を含んでもよい。
制御は、ブロック706からブロック710a,710b,および710cへと同時に進んでもよい。すなわち、ブロック710a,710b,および710cに記載された動作は並行して行われてもよい。制御がブロック706からブロック710a,710b,および710cへ移る間に、第1の記憶システム602は、非同期でデータ転送動作を開始し、関連データにタイムスタンプを押してもよい(参照番号708)。
第1の記憶システム602は、対応パリティ・データを含む第1の情報部616を第1の記憶システム602に書き込む(ブロック710a)。同時に、第1の記憶システム602は、非同期で、対応パリティ・データを含む第2の情報部618を第2の記憶システム604へ分配して記憶する(ブロック710b)。加えて、第1の記憶システム602は、対応パリティ・データを含む第3の情報部620を第3の記憶システム606へ分配して記憶する。
データおよびパリティを記憶システムに非同期で分配することによって、すべての書き込みが、記憶システム602などのローカル記憶システムのキャッシュに対して最初に書き込まれる。その後、時間があれば、データは他の2つの記憶システムへ分配される。データが他の2つの記憶サブシステムへ分配される前に同データ・ブロックが更新される場合には、送出する必要があるのは最新の変更のみである。以前の変更は、分配する必要がないので、帯域幅が節約される。さらに、分散された書き込みにタイムスタンプを押すことによって、2つのリモート・システム604および606は、ローカル・システム602に障害が生じても整合性が取れている。ローカル・システム602は、分配されていない記憶サブシステムと同様の性能特性を有してもよく、同時に、災害復旧保護を提供してもよい。
ある実施形態において、第1のサーバ608は、ホスト・コンピュータであってもよく、ホスト608から第1の記憶ユニット602への更新は、第2の記憶ユニット604において非同期で反映され、第3の記憶ユニット606において非同期で反映される。
ある実施形態において、第1の記憶ユニット602は、キャッシュ603を含み、第1の記憶ユニット602は、第1の記憶ユニット602内のキャッシュ603に受信されたデータ614を記憶してもよい。受信されたデータ614を情報部に分割する前に、第1の記憶ユニット602は、キャッシュ603に記憶されたデータに対する更新を受信してもよい。第1の記憶ユニット602は、受信された更新でキャッシュ603を更新してもよく、第2の情報部618および第3の情報部620を分配することは、非同期で行われ、第1の情報部616、第2の情報部618、および第3の情報部620は、タイムスタンプが押される。ある実施形態において、パリティ・データを3つの情報部616,618,および620へ分配してもよく、他の実施形態において、パリティ・データは、情報部620などの単一の情報部に常駐してもよい。
ある実施形態において、パリティ・データの大半は、第1の記憶ユニット602に記憶され、第1の記憶ユニット602は、第2および第3の記憶ユニット604および606より高速でアクセス可能である。ある他の実施形態において、データ614は第1の記憶ユニットにおいてホスト608から受信され、マルチパス・ハードウェアを使用して、ホスト608を第1、第2、および第3の記憶ユニット602,604,および606に接続する。すべての記憶ユニット602,604,および606がホスト608に対して同一のボリュームを提示してもよい。記憶ユニット602,604,および606のうちの1つに障害が生じた場合、他の記憶ユニットのうちの1つが、ホストに対してボリュームを提示するために動的に再構築および継続してもよい。その結果、記憶システム障害がコンピューティング環境600の動作を崩壊させることはないだろう。
ある実施形態において、第2および第3の情報部618および620の分配は、第1の記憶ユニット602から第2および第3の記憶ユニット604および606への書き込み動作を通じて行われ、第1の記憶ユニット602から第2および第3の記憶ユニット604および606に対する書き込み動作は、第2および第3の記憶ユニット604および606に並行して書き込まれるフル・ストライド書き込みである。
ある実施形態において、コンピューティング環境600において行われる動作は、コンピューティング環境200または400においても行われてもよい。例えば、フル・ストライド書き込みが、コンピューティング環境200または400において行われてもよい。加えて、上述のある動作が、コンピューティング環境200,400,および600のうちの1つ以上において行われてもよい。
図1bおよび図2〜図7に記載されたある実施形態は、元データのフル・コピーが災害復旧場所104に保持される実施形態と比較して、災害復旧に必要な記憶量を削減する。ある実施形態において、災害復旧に必要な記憶量は、(参照符号106,214、および414によって表されている)元データのサイズの2倍より少ない。ある実施形態において、災害復旧に必要な記憶量は、元データ106,214、および414のサイズの1.5倍である。
代替実施形態において、さらなる記憶ユニットがさらなる場所に追加されてもよい。ある実施形態において、ホスト208,408,および608は、マルチパス・ハードウェアを使用して、すべての記憶システム、すなわち、第1、第2、および第3の記憶システムに対するパスを有してもよい。すべての記憶システムは、ホスト208,408,および608に対して同一のボリュームを提示してもよい。記憶システムのうちの1つに障害が生じた場合、障害が生じてない他の記憶システムのうちの1つが、ホスト208,408,および608に対して同一のボリュームを提示するために、動的に再構築および継続することができる。その結果、ある実施形態は、システム障害から非妨害的に復旧できる。
ある実施形態において、すべての書き込みは、RAID‐5の書き込みを犠牲にすることのないフル・ストライド書き込みとすることができる。ある実施形態において、バックアップおよび災害復旧が本実施形態によって行われてもよい。非同期遠隔ミラーリングを使用して、ある実施形態の動作を拡張してもよい。実施形態は、3つの場所という解決策における1つ以上の地理的に分散された場所にパリティ情報を記憶して、災害復旧を行う。
追加の実施形態の詳細
説明した手法は、ソフトウェア、ファームウェア、マイクロコード、ハードウェア、または任意の組み合わせあるいはそのすべてを伴う方法、装置、および製品として実施されてもよい。本明細書において使用されるような「製品(article of manufacture)」という用語は、プログラム命令、コード、または回路(例えば、集積回路チップ、プログラム可能なゲート・アレイ(PGA)、ASICなど)に実装される論理あるいはそのすべて、またはコンピュータ読み出し可能な媒体(例えば、ハード・ディスク・ドライブ、フロッピー(登録商標)・ディスク、テープなどの磁気記憶媒体)、光学記憶装置(例えば、CD‐ROM,DVD‐ROM,光ディスクなど)、揮発性および不揮発性メモリ装置(例えば、電気消去可能プログラム可能読み出し専用メモリ(EEPROM)、読み出し専用メモリ(ROM)、プログラム可能読み出し専用メモリ(PROM)、ランダム・アクセス・メモリ(RAM)、ダイナミック・ランダム・アクセス・メモリ(DRAM)、スタティック・ランダム・アクセス・メモリ(SRAM),フラッシュ、ファームウェア、プログラム可能な論理など)を指す。コンピュータ読み出し可能な媒体内のコードは、プロセッサなどの機械によってアクセスかつ実行できてもよい。ある実施形態において、実施例が行われるコードは、送信媒体を通じて、またはネットワークを介してファイル・サーバから、さらにアクセス可能であってもよい。そのような場合に、コードが実装される製品は、ネットワーク伝送線路、無線伝送媒体、空間を伝搬する信号、無線電波、赤外線信号などの送信媒体を備えてもよい。当然ながら、数多くの変形が本発明の範囲から逸脱せずになされてもよいこと、また、当該技術で既知の任意の情報搬送媒体を製品が備えてもよいことを、当業者は理解するだろう。例えば、機械によって実行されると動作が行われる命令を記憶する記憶媒体を備える。
図8は、ある実施形態が実施されるシステム800のブロック図を示す。ある実施形態において、記憶システム202,402,および602は、システム800に従って実施されてもよい。システム800は、ある実施形態においてはプロセッサ804を含みうる回路802を含んでもよい。システム800は、メモリ806(例えば、揮発性メモリ装置)と、記憶装置808とを含んでもよい。システム800のある構成要素は、記憶システム202,402,602に見当たってもよいし、見当たらなくてもよい。記憶装置808は、不揮発性メモリ装置(例えば、EEPROM,ROM,PROM,RAM,DRAM,SRAM,フラッシュ、プログラム可能な論理など)、磁気ディスク・ドライブ、光ディスク・ドライブ、テープ・ドライブなどを含んでもよい。記憶装置808は、内部記憶装置、付属の記憶装置、またはネットワークにアクセス可能な記憶装置を備えてもよい。システム800は、メモリ806にロードされプロセッサ804または回路802によって実行されうるコード812を含むプログラム論理810を含んでもよい。ある実施形態において、コード812を含むプログラム論理810を記憶装置808に記憶してもよい。他のある実施形態において、プログラム論理810は、回路802によって実施されてもよい。したがって、図8は、他の構成要素から別個のプログラム論理810を示しており、プログラム論理810は、メモリ806または回路802あるいはその両方において実装されてもよい。
図3、図5および図7の動作のうちの少なくともある動作は、並行的にも連続的にも実行されてもよい。代替実施形態において、動作のうちのある動作は、異なる順番で行われてもよいし、修正または削除されてもよい。
さらに、例示のために、数多くのソフトウェアおよびハードウェア構成要素を別個のモジュールで説明した。そのような構成要素を、より少ない数の構成要素に統合するか、より多くの数の構成要素に分割してもよい。加えて、特定の構成よそによって行われると説明したある動作は、他の構成要素によって行われてもよい。
図1a、図1b、図2〜図8において図示または言及したデータ構造および構成要素は、特定の種類の情報を有するとして説明した。代替実施形態において、データ構造および構成要素は、異なるように構築されてもよく、図面に図示または言及したのより少ない、多い、または異なるフィールドまたは異なる機能を有してもよい。
したがって、本実施形態の以上の説明は、例示および説明の目的のために提示された。本説明は、網羅的でもないし、本発明を開示された厳密な形式に限定するものでもない。上記の教示に鑑み、数多くの修正および変形が可能である。
図1aは、一次記憶システムから二次記憶システムへコピーするためのシステムのブロック図を示し、図1bは、ある実施形態に係る、データおよびパリティ情報を3つの記憶システムに分配するためのシステムのブロック図を示す。 ある実施形態に係る、データおよびパリティ情報を3つの記憶システムに分配するための第1のコンピューティング環境のブロック図である。 第1のコンピューティング環境に対応したある実施形態に係る、データおよびパリティ情報を分配するための動作を示す。 ある実施形態に係る、データおよびパリティ情報を3つの記憶システムに分配するためのシステムの第2のコンピューティング環境のブロック図である。 第2のコンピューティング環境に対応したある実施形態に係る、データおよびパリティ情報を分配するための動作を示す。 ある実施形態に係る、データおよびパリティ情報を3つの記憶システムに分配するための第3のコンピューティング環境のブロック図である。 第3のコンピューティング環境に対応したある実施形態に係る、データおよびパリティ情報を分配するための動作を示す。 ある実施形態が実施されるシステムを示す。

Claims (14)

  1. 第1の記憶ユニットにおいてデータを受信するステップと、前記受信されたデータを第1の部分と第2の部分とに分割するステップと、前記データの前記第1の部分を第1の場所における前記第1の記憶ユニットに記憶するステップと、前記データの前記第2の部分を第2の場所における第2の記憶ユニットへ分配して記憶するステップと、前記データの前記第1の部分および前記データの前記第2の部分に対応するパリティ・データを計算するステップと、前記パリティ・データを第3の場所における第3の記憶ユニットへ分配して記憶するステップとを含む、方法。
  2. 前記第1の場所におけるデータ損失に応じて、前記データの前記第1の部分を、前記第2の場所に記憶された前記データの前記第2の部分および前記第3の場所に記憶された前記パリティ・データから復旧するステップをさらに含む、請求項1に記載の方法。
  3. 前記データの前記第1の部分、前記データの前記第2の部分、および前記パリティ・データのサイズの合計は、前記受信されたデータ・サイズの2倍より小さい、請求項1または2に記載の方法。
  4. 前記データの前記第1の部分、前記データの前記第2の部分、および前記パリティ・データの前記サイズの前記合計は、前記受信されたデータ・サイズの1.5倍である、請求項3に記載の方法。
  5. 前記第1の場所、前記第2の場所、および前記第3の場所は、互いに10マイル(16090メートル)を超える距離分だけ離れており、前記第1の部分、前記第2の部分、および前記第3の部分は、互いに異なる記憶ディスク・システムに記憶されている、請求項1,2,3または4に記載の方法。
  6. 前記第1の場所と前記第3の場所との間の距離は、前記第1の場所と前記第2の場所との間の距離より小さい、請求項1から5のいずれかに記載の方法。
  7. 前記第1の記憶ユニットは、キャッシュを含み、前記受信されたデータを前記第1の記憶ユニット内の前記キャッシュに記憶するステップと、前記受信されたデータを分割する前に、前記キャッシュに記憶された前記データに対する更新を受信するステップと、前記受信された更新で前記キャッシュを更新するステップとをさらに含み、前記データの前記第2の部分および前記パリティ・データを分配するステップは非同期で行われ、前記データの前記第1の部分、前記データの前記第2の部分、および前記パリティ・データは、タイムスタンプが押される、請求項1から6のいずれかに記載の方法。
  8. 前記第1の記憶ユニットは、入出力要求を前記第1の記憶ユニットへ送出するホストに結合されており、前記ホストからの前記第1の記憶ユニットに対する更新は、前記第2の記憶ユニットにおいて非同期で反映され、前記第3の記憶ユニットにおいて非同期で反映される、請求項1から7のいずれかに記載の方法。
  9. 第1の記憶ユニットにおいてデータを受信するステップと、前記受信されたデータの一部および計算されたパリティ・データをそれぞれ含む第1の情報部、第2の情報部、および第3の情報部を生成するステップと、前記第1の情報部を第1の場所における前記第1の記憶ユニットに記憶するステップと、前記第2の情報部を第2の場所における第2の記憶ユニットへ分配して記憶するステップと、前記第3の情報部を第3の場所における第3の記憶ユニットへ分配して記憶するステップとを含む、方法。
  10. 前記パリティ・データの大半は、前記第1の記憶ユニットに記憶され、前記第1の記憶ユニットは、前記第2および第3の記憶ユニットより高速でアクセス可能である、請求項9に記載の方法。
  11. 前記データは、前記第1の記憶ユニットにおいてホストから受信され、前記ホストを前記第1、第2、および第3の記憶ユニットに結合するために、マルチパス・ハードウェアが使用される、請求項9または10に記載の方法。
  12. 前記第2および第3の情報部の分配は、前記第1の記憶ユニットから前記第2および第3の記憶ユニットへの書き込み動作を通じて行われ、前記第1の記憶ユニットから前記第2および第3の記憶ユニットへの前記書き込み動作は、前記第2および第3の記憶ユニットに並行して書き込まれるフル・ストライド書き込みである、請求項9,10,または11に記載の方法。
  13. 第1の場所における第1の記憶ユニットが第2の場所における第2の記憶ユニットと第3の場所における第3の記憶ユニットとに結合されているシステムであって、メモリと、前記メモリに結合された回路とを備え、前記回路は、(i)前記第1の記憶ユニットにおいてデータを受信し、(ii)前記受信されたデータを第1の部分と第2の部分とに分割し、(iii)前記データの前記第1の部分を前記第1の場所における前記第1の記憶ユニットに記憶し、(iv)前記データの前記第2の部分を前記第2の場所における前記第2の記憶ユニットに分配して記憶し、(v)前記データの前記第1の部分および前記データの前記第2の部分に対応するパリティ・データを計算し、(vi)前記パリティ・データを前記第3の場所における前記第3の記憶ユニットへ分配して記憶するように動作可能である、システム。
  14. 第1の場所における第1の記憶ユニットが第2の場所における第2の記憶ユニットと第3の場所における第3の記憶ユニットとに結合されている製品であって、前記第1の記憶ユニットにおいてデータを受信することと、前記受信されたデータを第1の部分と第2の部分とに分割することと、前記データの前記第1の部分を前記第1の場所における前記第1の記憶ユニットに記憶することと、前記データの前記第2の部分を前記第2の場所における前記第2の記憶ユニットへ分配して記憶することと、前記データの前記第1の部分および前記データの前記第2の部分に対応するパリティ・データを計算することと、前記パリティ・データを前記第3の場所における前記第3の記憶ユニットへ分配して記憶することとを含む動作を生じさせることが可能な、製品。
JP2007528810A 2004-08-25 2005-07-21 データ復旧のためのパリティ情報の記憶 Expired - Fee Related JP5038897B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US10/925,825 US7516354B2 (en) 2004-08-25 2004-08-25 Storing parity information for data recovery
US10/925,825 2004-08-25
PCT/EP2005/053556 WO2006021474A2 (en) 2004-08-25 2005-07-21 Storing parity information for data recovery

Publications (2)

Publication Number Publication Date
JP2008511064A true JP2008511064A (ja) 2008-04-10
JP5038897B2 JP5038897B2 (ja) 2012-10-03

Family

ID=35709153

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007528810A Expired - Fee Related JP5038897B2 (ja) 2004-08-25 2005-07-21 データ復旧のためのパリティ情報の記憶

Country Status (7)

Country Link
US (2) US7516354B2 (ja)
EP (1) EP1789881A2 (ja)
JP (1) JP5038897B2 (ja)
KR (1) KR101006324B1 (ja)
CN (1) CN101288052B (ja)
CA (1) CA2574502C (ja)
WO (1) WO2006021474A2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011523144A (ja) * 2008-06-06 2011-08-04 ピボット3 分散型raid実装のための方法およびシステム
WO2016052665A1 (ja) * 2014-09-30 2016-04-07 株式会社日立製作所 分散型ストレージシステム
JP2020518934A (ja) * 2017-06-08 2020-06-25 ヒタチ ヴァンタラ コーポレーションHitachi Vantara Corporation 地理的に分散したオブジェクトデータの高速呼び戻し

Families Citing this family (95)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7577868B2 (en) * 2005-09-30 2009-08-18 Lockheed Martin Corporation No data loss IT disaster recovery over extended distances
US7933987B2 (en) * 2005-09-30 2011-04-26 Lockheed Martin Corporation Application of virtual servers to high availability and disaster recovery solutions
US7934116B2 (en) * 2005-09-30 2011-04-26 Lockheed Martin Corporation Disaster recover/continuity of business adaptive solution framework
US9996413B2 (en) * 2007-10-09 2018-06-12 International Business Machines Corporation Ensuring data integrity on a dispersed storage grid
US8239706B1 (en) * 2007-01-03 2012-08-07 Board Of Governors For Higher Education, State Of Rhode Island And Providence Plantations Data retrieval system and method that provides retrieval of data to any point in time
CN103279181A (zh) 2007-08-28 2013-09-04 Commvault系统公司 如数据存储操作的自适应能耗管理的数据处理资源的能耗管理
US7827439B2 (en) * 2007-09-28 2010-11-02 Symantec Corporation System and method of redundantly storing and retrieving data with cooperating storage devices
US8943357B2 (en) * 2008-10-27 2015-01-27 Kaminario Technologies Ltd. System and methods for RAID writing and asynchronous parity computation
US8639877B2 (en) * 2009-06-30 2014-01-28 International Business Machines Corporation Wear leveling of solid state disks distributed in a plurality of redundant array of independent disk ranks
US8612439B2 (en) 2009-06-30 2013-12-17 Commvault Systems, Inc. Performing data storage operations in a cloud storage environment, including searching, encryption and indexing
US8234520B2 (en) 2009-09-16 2012-07-31 International Business Machines Corporation Wear leveling of solid state disks based on usage information of data and parity received from a raid controller
CN102103834B (zh) * 2009-12-22 2013-10-02 上海天马微电子有限公司 驱动电路的数据维持方法和装置
US8583866B2 (en) * 2010-02-22 2013-11-12 International Business Machines Corporation Full-stripe-write protocol for maintaining parity coherency in a write-back distributed redundancy data storage system
US8103904B2 (en) * 2010-02-22 2012-01-24 International Business Machines Corporation Read-other protocol for maintaining parity coherency in a write-back distributed redundancy data storage system
US8156368B2 (en) * 2010-02-22 2012-04-10 International Business Machines Corporation Rebuilding lost data in a distributed redundancy data storage system
US8103903B2 (en) * 2010-02-22 2012-01-24 International Business Machines Corporation Read-modify-write protocol for maintaining parity coherency in a write-back distributed redundancy data storage system
KR101128998B1 (ko) * 2010-09-15 2012-03-23 케이티하이텔 주식회사 패리티 데이터를 이용한 분산 파일 운용 방법
KR101254179B1 (ko) * 2011-02-07 2013-04-18 케이티하이텔 주식회사 분산 파일 시스템에서 효율적인 자료 복구 방법
EP2702502A4 (en) 2011-04-29 2015-06-03 Tata Consultancy Services Ltd ARCHIVING AND RECOVERY SYSTEM
GB2492981B (en) * 2011-07-18 2014-03-26 Qando Service Inc Data reconstruction
US8566673B2 (en) * 2011-08-04 2013-10-22 Lsi Corporation Method for improving performance in RAID systems
US8950009B2 (en) 2012-03-30 2015-02-03 Commvault Systems, Inc. Information management of data associated with multiple cloud services
US9262496B2 (en) 2012-03-30 2016-02-16 Commvault Systems, Inc. Unified access to personal data
US9634522B2 (en) 2012-09-19 2017-04-25 International Business Machines Corporation Power grid data monitoring and control
KR101441059B1 (ko) 2012-12-20 2014-09-25 케이티하이텔 주식회사 분산 파일 시스템에서 효율적인 자료 저장 방법
US10346259B2 (en) 2012-12-28 2019-07-09 Commvault Systems, Inc. Data recovery using a cloud-based remote data recovery center
JP6260193B2 (ja) * 2013-10-21 2018-01-17 富士通株式会社 ストレージシステム、及びストレージプログラム
CN107250975B (zh) * 2014-12-09 2020-07-10 清华大学 数据存储系统和数据存储方法
US11108858B2 (en) 2017-03-28 2021-08-31 Commvault Systems, Inc. Archiving mail servers via a simple mail transfer protocol (SMTP) server
US11074138B2 (en) 2017-03-29 2021-07-27 Commvault Systems, Inc. Multi-streaming backup operations for mailboxes
US11221939B2 (en) 2017-03-31 2022-01-11 Commvault Systems, Inc. Managing data from internet of things devices in a vehicle
US10552294B2 (en) 2017-03-31 2020-02-04 Commvault Systems, Inc. Management of internet of things devices
US11294786B2 (en) 2017-03-31 2022-04-05 Commvault Systems, Inc. Management of internet of things devices
US10761743B1 (en) 2017-07-17 2020-09-01 EMC IP Holding Company LLC Establishing data reliability groups within a geographically distributed data storage environment
US10817388B1 (en) 2017-07-21 2020-10-27 EMC IP Holding Company LLC Recovery of tree data in a geographically distributed environment
US10684780B1 (en) 2017-07-27 2020-06-16 EMC IP Holding Company LLC Time sensitive data convolution and de-convolution
US10880040B1 (en) 2017-10-23 2020-12-29 EMC IP Holding Company LLC Scale-out distributed erasure coding
US10382554B1 (en) 2018-01-04 2019-08-13 Emc Corporation Handling deletes with distributed erasure coding
US10817374B2 (en) 2018-04-12 2020-10-27 EMC IP Holding Company LLC Meta chunks
US10579297B2 (en) 2018-04-27 2020-03-03 EMC IP Holding Company LLC Scaling-in for geographically diverse storage
US10936196B2 (en) * 2018-06-15 2021-03-02 EMC IP Holding Company LLC Data convolution for geographically diverse storage
US11023130B2 (en) 2018-06-15 2021-06-01 EMC IP Holding Company LLC Deleting data in a geographically diverse storage construct
US10719250B2 (en) 2018-06-29 2020-07-21 EMC IP Holding Company LLC System and method for combining erasure-coded protection sets
US10891198B2 (en) 2018-07-30 2021-01-12 Commvault Systems, Inc. Storing data to cloud libraries in cloud native formats
US11436203B2 (en) 2018-11-02 2022-09-06 EMC IP Holding Company LLC Scaling out geographically diverse storage
US10901635B2 (en) 2018-12-04 2021-01-26 EMC IP Holding Company LLC Mapped redundant array of independent nodes for data storage with high performance using logical columns of the nodes with different widths and different positioning patterns
US10931777B2 (en) 2018-12-20 2021-02-23 EMC IP Holding Company LLC Network efficient geographically diverse data storage system employing degraded chunks
US11119683B2 (en) 2018-12-20 2021-09-14 EMC IP Holding Company LLC Logical compaction of a degraded chunk in a geographically diverse data storage system
US10892782B2 (en) 2018-12-21 2021-01-12 EMC IP Holding Company LLC Flexible system and method for combining erasure-coded protection sets
CN109739777B (zh) * 2018-12-25 2020-08-04 清华大学 本地与分布式协同设计的可靠闪存存储方法及系统
US10768840B2 (en) 2019-01-04 2020-09-08 EMC IP Holding Company LLC Updating protection sets in a geographically distributed storage environment
US11023331B2 (en) 2019-01-04 2021-06-01 EMC IP Holding Company LLC Fast recovery of data in a geographically distributed storage environment
US10942827B2 (en) 2019-01-22 2021-03-09 EMC IP Holding Company LLC Replication of data in a geographically distributed storage environment
US10942825B2 (en) 2019-01-29 2021-03-09 EMC IP Holding Company LLC Mitigating real node failure in a mapped redundant array of independent nodes
US10866766B2 (en) 2019-01-29 2020-12-15 EMC IP Holding Company LLC Affinity sensitive data convolution for data storage systems
US10936239B2 (en) 2019-01-29 2021-03-02 EMC IP Holding Company LLC Cluster contraction of a mapped redundant array of independent nodes
US10846003B2 (en) 2019-01-29 2020-11-24 EMC IP Holding Company LLC Doubly mapped redundant array of independent nodes for data storage
US10768971B2 (en) 2019-01-30 2020-09-08 Commvault Systems, Inc. Cross-hypervisor live mount of backed up virtual machine data
US10944826B2 (en) 2019-04-03 2021-03-09 EMC IP Holding Company LLC Selective instantiation of a storage service for a mapped redundant array of independent nodes
US11029865B2 (en) 2019-04-03 2021-06-08 EMC IP Holding Company LLC Affinity sensitive storage of data corresponding to a mapped redundant array of independent nodes
US11113146B2 (en) 2019-04-30 2021-09-07 EMC IP Holding Company LLC Chunk segment recovery via hierarchical erasure coding in a geographically diverse data storage system
US11119686B2 (en) 2019-04-30 2021-09-14 EMC IP Holding Company LLC Preservation of data during scaling of a geographically diverse data storage system
US11366723B2 (en) 2019-04-30 2022-06-21 Commvault Systems, Inc. Data storage management system for holistic protection and migration of serverless applications across multi-cloud computing environments
US11121727B2 (en) 2019-04-30 2021-09-14 EMC IP Holding Company LLC Adaptive data storing for data storage systems employing erasure coding
US11748004B2 (en) 2019-05-03 2023-09-05 EMC IP Holding Company LLC Data replication using active and passive data storage modes
US11269734B2 (en) 2019-06-17 2022-03-08 Commvault Systems, Inc. Data storage management system for multi-cloud protection, recovery, and migration of databases-as-a-service and/or serverless database management systems
US11561866B2 (en) 2019-07-10 2023-01-24 Commvault Systems, Inc. Preparing containerized applications for backup using a backup services container and a backup services container-orchestration pod
US11209996B2 (en) 2019-07-15 2021-12-28 EMC IP Holding Company LLC Mapped cluster stretching for increasing workload in a data storage system
US11023145B2 (en) 2019-07-30 2021-06-01 EMC IP Holding Company LLC Hybrid mapped clusters for data storage
US11449399B2 (en) 2019-07-30 2022-09-20 EMC IP Holding Company LLC Mitigating real node failure of a doubly mapped redundant array of independent nodes
US11228322B2 (en) 2019-09-13 2022-01-18 EMC IP Holding Company LLC Rebalancing in a geographically diverse storage system employing erasure coding
US11449248B2 (en) 2019-09-26 2022-09-20 EMC IP Holding Company LLC Mapped redundant array of independent data storage regions
KR20210050661A (ko) 2019-10-29 2021-05-10 에스케이하이닉스 주식회사 메모리 시스템, 메모리 컨트롤러 및 그 동작 방법
US11119690B2 (en) 2019-10-31 2021-09-14 EMC IP Holding Company LLC Consolidation of protection sets in a geographically diverse data storage environment
US11435910B2 (en) 2019-10-31 2022-09-06 EMC IP Holding Company LLC Heterogeneous mapped redundant array of independent nodes for data storage
US11288139B2 (en) 2019-10-31 2022-03-29 EMC IP Holding Company LLC Two-step recovery employing erasure coding in a geographically diverse data storage system
US11435957B2 (en) 2019-11-27 2022-09-06 EMC IP Holding Company LLC Selective instantiation of a storage service for a doubly mapped redundant array of independent nodes
JP2021099723A (ja) * 2019-12-23 2021-07-01 株式会社日立製作所 分散ストレージシステム、データ制御方法及び記憶媒体
US11144220B2 (en) 2019-12-24 2021-10-12 EMC IP Holding Company LLC Affinity sensitive storage of data corresponding to a doubly mapped redundant array of independent nodes
US11231860B2 (en) 2020-01-17 2022-01-25 EMC IP Holding Company LLC Doubly mapped redundant array of independent nodes for data storage with high performance
US11467753B2 (en) 2020-02-14 2022-10-11 Commvault Systems, Inc. On-demand restore of virtual machine data
US11321188B2 (en) 2020-03-02 2022-05-03 Commvault Systems, Inc. Platform-agnostic containerized application data protection
US11422900B2 (en) 2020-03-02 2022-08-23 Commvault Systems, Inc. Platform-agnostic containerized application data protection
US11442768B2 (en) 2020-03-12 2022-09-13 Commvault Systems, Inc. Cross-hypervisor live recovery of virtual machines
US11507308B2 (en) 2020-03-30 2022-11-22 EMC IP Holding Company LLC Disk access event control for mapped nodes supported by a real cluster storage system
US11500669B2 (en) 2020-05-15 2022-11-15 Commvault Systems, Inc. Live recovery of virtual machines in a public cloud computing environment
US11288229B2 (en) 2020-05-29 2022-03-29 EMC IP Holding Company LLC Verifiable intra-cluster migration for a chunk storage system
US11314687B2 (en) 2020-09-24 2022-04-26 Commvault Systems, Inc. Container data mover for migrating data between distributed data storage systems integrated with application orchestrators
US11693983B2 (en) 2020-10-28 2023-07-04 EMC IP Holding Company LLC Data protection via commutative erasure coding in a geographically diverse data storage system
KR20220067070A (ko) 2020-11-17 2022-05-24 에스케이하이닉스 주식회사 메모리 시스템 및 메모리 시스템의 동작 방법
US11847141B2 (en) 2021-01-19 2023-12-19 EMC IP Holding Company LLC Mapped redundant array of independent nodes employing mapped reliability groups for data storage
US11625174B2 (en) 2021-01-20 2023-04-11 EMC IP Holding Company LLC Parity allocation for a virtual redundant array of independent disks
US11604706B2 (en) 2021-02-02 2023-03-14 Commvault Systems, Inc. Back up and restore related data on different cloud storage tiers
US11449234B1 (en) 2021-05-28 2022-09-20 EMC IP Holding Company LLC Efficient data access operations via a mapping layer instance for a doubly mapped redundant array of independent nodes
US11354191B1 (en) 2021-05-28 2022-06-07 EMC IP Holding Company LLC Erasure coding in a large geographically diverse data storage system

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05324579A (ja) * 1992-05-25 1993-12-07 Hitachi Ltd 分散ファイルシステム及び記憶装置
JPH06202813A (ja) * 1992-08-03 1994-07-22 Internatl Business Mach Corp <Ibm> 冗長ディスクドライブアレイに対する同期方法
JPH0863298A (ja) * 1994-08-18 1996-03-08 Hitachi Ltd ディスクアレイ装置
JPH09297663A (ja) * 1996-05-08 1997-11-18 Ekushingu:Kk ディスクアレイ装置
JP2000076207A (ja) * 1998-08-28 2000-03-14 Nippon Telegr & Teleph Corp <Ntt> 分散記憶方法及び分散記憶システム及び分散記憶プログラムを記録した記録媒体
US20010044879A1 (en) * 2000-02-18 2001-11-22 Moulton Gregory Hagan System and method for distributed management of data storage
JP2003345523A (ja) * 2002-05-22 2003-12-05 Hitachi Ltd データ多重化システムの制御方法、データ多重化システム、副側記憶装置、および副側記憶装置用プログラム
JP2004139379A (ja) * 2002-10-18 2004-05-13 Jmnet Inc ネットワーク型記憶装置及びその制御装置

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5544347A (en) 1990-09-24 1996-08-06 Emc Corporation Data storage system controlled remote data mirroring with respectively maintained data indices
JP3183719B2 (ja) * 1992-08-26 2001-07-09 三菱電機株式会社 アレイ型記録装置
US5495607A (en) 1993-11-15 1996-02-27 Conner Peripherals, Inc. Network management system having virtual catalog overview of files distributively stored across network domain
US5745671A (en) * 1995-02-28 1998-04-28 International Business Machines Corporation Data storage system with localized XOR function
US5673382A (en) 1996-05-30 1997-09-30 International Business Machines Corporation Automated management of off-site storage volumes for disaster recovery
US6226651B1 (en) 1998-03-27 2001-05-01 International Business Machines Corporation Database disaster remote site recovery
US6178521B1 (en) 1998-05-22 2001-01-23 Compaq Computer Corporation Method and apparatus for disaster tolerant computer system using cascaded storage controllers
US6173415B1 (en) 1998-05-22 2001-01-09 International Business Machines Corporation System for scalable distributed data structure having scalable availability
JP4689137B2 (ja) 2001-08-08 2011-05-25 株式会社日立製作所 リモートコピー制御方法、及びストレージシステム
US6389552B1 (en) 1998-12-31 2002-05-14 At&T Corp Methods and systems for remote electronic vaulting
US6209002B1 (en) 1999-02-17 2001-03-27 Emc Corporation Method and apparatus for cascading data through redundant data storage units
US6725392B1 (en) * 1999-03-03 2004-04-20 Adaptec, Inc. Controller fault recovery system for a distributed file system
US6553401B1 (en) 1999-07-09 2003-04-22 Ncr Corporation System for implementing a high volume availability server cluster including both sharing volume of a mass storage on a local site and mirroring a shared volume on a remote site
US6862692B2 (en) * 2001-01-29 2005-03-01 Adaptec, Inc. Dynamic redistribution of parity groups
US20020178162A1 (en) * 2001-01-29 2002-11-28 Ulrich Thomas R. Integrated distributed file system with variable parity groups
US6961868B2 (en) * 2001-02-16 2005-11-01 Swsoft Holdings, Ltd. Fault tolerant storage system and method using a network of servers
US6985983B2 (en) * 2001-03-01 2006-01-10 Hewlett-Packard Development Company, L.P. Translating device adapter having a common command set for interfacing multiple types of redundant storage devices to a host processor
EP1390854A4 (en) * 2001-05-01 2006-02-22 Rhode Island Education DISTRIBUTED RAID AND LOCAL INDEPENDENCE CACHE SYSTEM
US7076510B2 (en) * 2001-07-12 2006-07-11 Brown William P Software raid methods and apparatuses including server usage based write delegation
US6950966B2 (en) 2001-07-17 2005-09-27 Seachange International, Inc. Data transmission from raid services
US6871263B2 (en) * 2001-08-28 2005-03-22 Sedna Patent Services, Llc Method and apparatus for striping data onto a plurality of disk drives
JP4054182B2 (ja) * 2001-09-25 2008-02-27 株式会社東芝 仮想的なraid装置を有するクラスタシステム及び同システム用のコンピュータ
US7194656B2 (en) 2001-11-28 2007-03-20 Yottayotta Inc. Systems and methods for implementing content sensitive routing over a wide area network (WAN)
FR2846763B1 (fr) * 2002-11-04 2005-02-11 Jean Marc Louis Olivie Alfassa Procede de stockage de donnees informatiques a dispersion/partage
US6990573B2 (en) * 2003-02-05 2006-01-24 Dell Products L.P. System and method for sharing storage to boot multiple servers
JP2005157825A (ja) * 2003-11-27 2005-06-16 Hitachi Ltd 障害復旧機能を有する計算機システム、および、障害復旧方法
US7188222B2 (en) * 2003-09-29 2007-03-06 International Business Machines Corporation Method, system, and program for mirroring data among storage sites
US7328305B2 (en) * 2003-11-03 2008-02-05 Network Appliance, Inc. Dynamic parity distribution technique
US7386663B2 (en) * 2004-05-13 2008-06-10 Cousins Robert E Transaction-based storage system and method that uses variable sized objects to store data
US7353423B2 (en) * 2004-09-24 2008-04-01 International Business Machines Corporation System and method for improving the performance of operations requiring parity reads in a storage array system

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05324579A (ja) * 1992-05-25 1993-12-07 Hitachi Ltd 分散ファイルシステム及び記憶装置
JPH06202813A (ja) * 1992-08-03 1994-07-22 Internatl Business Mach Corp <Ibm> 冗長ディスクドライブアレイに対する同期方法
JPH0863298A (ja) * 1994-08-18 1996-03-08 Hitachi Ltd ディスクアレイ装置
JPH09297663A (ja) * 1996-05-08 1997-11-18 Ekushingu:Kk ディスクアレイ装置
JP2000076207A (ja) * 1998-08-28 2000-03-14 Nippon Telegr & Teleph Corp <Ntt> 分散記憶方法及び分散記憶システム及び分散記憶プログラムを記録した記録媒体
US20010044879A1 (en) * 2000-02-18 2001-11-22 Moulton Gregory Hagan System and method for distributed management of data storage
JP2003345523A (ja) * 2002-05-22 2003-12-05 Hitachi Ltd データ多重化システムの制御方法、データ多重化システム、副側記憶装置、および副側記憶装置用プログラム
JP2004139379A (ja) * 2002-10-18 2004-05-13 Jmnet Inc ネットワーク型記憶装置及びその制御装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011523144A (ja) * 2008-06-06 2011-08-04 ピボット3 分散型raid実装のための方法およびシステム
WO2016052665A1 (ja) * 2014-09-30 2016-04-07 株式会社日立製作所 分散型ストレージシステム
GB2545290A (en) * 2014-09-30 2017-06-14 Hitachi Ltd Distributed storage system
JPWO2016052665A1 (ja) * 2014-09-30 2017-08-10 株式会社日立製作所 分散型ストレージシステム
US10185624B2 (en) 2014-09-30 2019-01-22 Hitachi, Ltd. Distributed storage system
US10496479B2 (en) 2014-09-30 2019-12-03 Hitachi, Ltd. Distributed storage system
US11036585B2 (en) 2014-09-30 2021-06-15 Hitachi, Ltd. Distributed storage system
GB2545290B (en) * 2014-09-30 2021-07-07 Hitachi Ltd Distributed storage system
US11487619B2 (en) 2014-09-30 2022-11-01 Hitachi, Ltd. Distributed storage system
US11886294B2 (en) 2014-09-30 2024-01-30 Hitachi, Ltd. Distributed storage system
JP2020518934A (ja) * 2017-06-08 2020-06-25 ヒタチ ヴァンタラ コーポレーションHitachi Vantara Corporation 地理的に分散したオブジェクトデータの高速呼び戻し

Also Published As

Publication number Publication date
US7516354B2 (en) 2009-04-07
KR20070046835A (ko) 2007-05-03
CN101288052B (zh) 2010-12-08
US7761736B2 (en) 2010-07-20
WO2006021474A3 (en) 2008-05-22
CN101288052A (zh) 2008-10-15
US20060047896A1 (en) 2006-03-02
CA2574502A1 (en) 2006-03-02
KR101006324B1 (ko) 2011-01-06
US20090077443A1 (en) 2009-03-19
JP5038897B2 (ja) 2012-10-03
EP1789881A2 (en) 2007-05-30
WO2006021474A2 (en) 2006-03-02
CA2574502C (en) 2014-04-29

Similar Documents

Publication Publication Date Title
JP5038897B2 (ja) データ復旧のためのパリティ情報の記憶
US11941278B2 (en) Data storage system with metadata check-pointing
JP5390067B2 (ja) データのブロックを伝送するための優先順位方式
JP5031341B2 (ja) 記憶システム及びデータ管理方法
US9317375B1 (en) Managing cache backup and restore for continuous data replication and protection
US6330642B1 (en) Three interconnected raid disk controller data processing system architecture
Chang et al. Myriad: Cost-effective disaster tolerance
US7904684B2 (en) System and article of manufacture for consistent copying of storage volumes
US8060772B2 (en) Storage redundant array of independent drives
US8626722B2 (en) Consolidating session information for a cluster of sessions in a coupled session environment
JPH10111767A (ja) 大容量記憶装置
JP2008046986A (ja) ストレージシステム
JP2018508073A (ja) データ除去、割り当て、及び再構築
JP2011530746A (ja) 現在データ及び再生データに関して異なるraidデータ・ストレージの形式の間でデータを伝送するシステム及び方法
KR19980021384A (ko) 데이타 입/출력 성능을 향상시키기 위한 기억장치 시스템 및 그에 따른 데이타 복구정보 캐시구현방법
EP0657801A1 (en) System and method for supporting reproduction of full motion video on a plurality of playback platforms
JP2014041471A (ja) ストレージシステム、ストレージ制御方法およびストレージ制御プログラム
JP3736134B2 (ja) 分散記憶方法及び分散記憶システム及び分散記憶プログラムを記録した記録媒体
CN113342258B (zh) 用以进行全快闪存储器阵列伺服器的数据存取管理的方法与设备
US7313724B1 (en) Method and apparatus for synchronizing redundant data with a volume
JP6494787B2 (ja) 分散ストレージシステム
JP2011253400A (ja) 分散ミラードディスクシステム、コンピュータ装置、ミラーリング方法およびそのプログラム
US10579282B1 (en) Distributed copy in multi-copy replication where offset and size of I/O requests to replication site is half offset and size of I/O request to production volume
US20160357479A1 (en) Storage control apparatus
JP3699797B2 (ja) ディスクアレイ装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120612

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120706

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150713

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5038897

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees