JP5084551B2 - 重複排除技術を用いたデータバックアップ方法、記憶制御通信装置及びプログラム - Google Patents

重複排除技術を用いたデータバックアップ方法、記憶制御通信装置及びプログラム Download PDF

Info

Publication number
JP5084551B2
JP5084551B2 JP2008043829A JP2008043829A JP5084551B2 JP 5084551 B2 JP5084551 B2 JP 5084551B2 JP 2008043829 A JP2008043829 A JP 2008043829A JP 2008043829 A JP2008043829 A JP 2008043829A JP 5084551 B2 JP5084551 B2 JP 5084551B2
Authority
JP
Japan
Prior art keywords
data block
storage
communication device
control communication
storage control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008043829A
Other languages
English (en)
Other versions
JP2009205201A (ja
Inventor
崇弘 宮本
通秋 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2008043829A priority Critical patent/JP5084551B2/ja
Priority to US12/392,280 priority patent/US8327097B2/en
Publication of JP2009205201A publication Critical patent/JP2009205201A/ja
Application granted granted Critical
Publication of JP5084551B2 publication Critical patent/JP5084551B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1446Point-in-time backing up or restoration of persistent data
    • G06F11/1448Management of the data involved in backup or backup restore
    • G06F11/1453Management of the data involved in backup or backup restore using de-duplication of the data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1446Point-in-time backing up or restoration of persistent data
    • G06F11/1448Management of the data involved in backup or backup restore
    • G06F11/1451Management of the data involved in backup or backup restore by selection of backup contents
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1446Point-in-time backing up or restoration of persistent data
    • G06F11/1456Hardware arrangements for backup
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1446Point-in-time backing up or restoration of persistent data
    • G06F11/1458Management of the backup or restore process
    • G06F11/1464Management of the backup or restore process for networked environments

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、重複排除技術を用いたデータバックアップ方法、記憶制御通信装置及びプログラムに関する。
ホスト装置から記憶装置に対するデータのバックアップは、その性質上、同一のデータブロック(ストレージ技術における「チャンク(Chunk)」(ビット列))を何度も繰り返し記憶する。そのため、システム規模によっては、バックアップ用の記憶装置は、膨大な容量を有する必要がある。
近年、データのバックアップ方法の1つとして、重複排除技術(De-duplication)(別称、コモナリティファクタリング(Commonality factoring)、非冗長ストレージ、重複データ削減)が注目されてきている。重複排除技術とは、同一のデータブロックが記憶装置に既に蓄積されている場合、新たに記憶しようとしている当該データブロックを蓄積しない。その代わりに、既に蓄積されている同一のデータブロックのポインタ情報(アドレス)が蓄積される。その後は、ポインタ情報によってのみ記憶場所が参照される。この技術によれば、データブロックが冗長的に記憶装置に蓄積されることがなく、記憶すべきデータ量が削減される。また、ネットワークを介して遠隔のデータセンタへバックアップする場合、データ転送量も削減される。
図1は、従来技術における重複排除技術を説明するシーケンス図である。
図1によれば、ホスト装置3は、記憶制御装置5を介して記憶装置2に接続されている。装置間の各インタフェースは、周辺装置入出力インタフェースで接続される。例えば、プロトコル的にはSCSI(Small system Computer System Interface)で接続され、物理的にはHBA(Host Bus Adapter)によって接続される。
(S100)ホスト装置3が、第1のファイル(データブロック[A][B][C][A][D])を記憶装置2へ蓄積しようとしている。ホスト装置3から第1のファイルを受信した記憶制御装置5は、データブロック[A]が冗長的であることを認識し、データブロック[A][B][C][D]を記憶装置2へ蓄積する。2回目のデータブロック[A]は、記憶装置2に記憶された1回目のデータブロック[A]のアドレスを指し示すポインタ情報として記憶される。
(S110)ホスト装置3が、第2のファイル(データブロック[A][B][E])を記憶装置2へ蓄積しようとしている。ホスト装置3から第2のファイルを受信した記憶制御装置5は、データブロック[A][B]が既に記憶されていることを認識し、データブロック[E]のみを記憶装置2へ蓄積する。第2のファイルのデータブロック[A][B]は、記憶装置2に既に記憶されたデータブロック[A][B]のアドレスを指し示すポインタ情報として記憶される。
(S120)ホスト装置3が、第3のファイル(データブロック[A][E][F])を記憶装置2へ蓄積しようとしている。ホスト装置3から第3のファイルを受信した記憶制御装置5は、データブロック[A][E]が既に記憶されていることを認識し、データブロック[F]のみを記憶装置2へ蓄積する。第3のファイルのデータブロック[A][E]は、記憶装置2に既に記憶されたデータブロック[A][E]のアドレスを指し示すポインタ情報として記憶される。
(S130)ホスト装置3が、第4のファイル(データブロック[B][G][C][D][E])を記憶装置2へ蓄積しようとしている。ホスト装置3から第4のファイルを受信した記憶制御装置5は、データブロック[B][C][D][E]が既に記憶されていることを認識し、データブロック[G]のみを記憶装置2へ蓄積する。第4のファイルのデータブロック[B][C][D][E]は、記憶装置2に既に記憶されたデータブロック[B][C][D][E]のアドレスを指し示すポインタ情報として記憶される。
従来技術として、複数のハッシュ関数等を用いて、データブロックが既に蓄積されているか否かを判断する技術がある(例えば特許文献1及び2参照)。この技術によれば、既に蓄積されているリスト情報を、複数の機器間で共有することにより、同一データブロックの存在を判定し、冗長的な蓄積を回避する。
また、ハッシュ関数等を用いて、一連のデータに一意の名前を設定し、複数のシステム間で同期する技術もある(例えば特許文献3参照)。同一のハッシュが蓄積されている場合、そのデータの蓄積を回避する。別のシステムから送信されたリストの中にその名前がない場合、新規に追加して自システムが管理するデータのリストを共有する。
更に、第1の記憶装置(メモリ)に全てのデータを蓄積し、第2の記憶装置(ハードディスク)に重複データを排除したデータを蓄積する技術もある(例えば特許文献4参照)。
尚、アクセス頻度の高いデータを、別の記憶媒体にも複製しておく技術(例えば特許文献5参照)や、アクセス頻度を用いて先読みキャッシュ転送の技術もある(例えば特許文献6参照)。これら技術は、他の機器のアクセス頻度を考慮せず、他の機器からデータを事前転送する機能も保持していない。
特表2003−524243号公報 特開2007−079902号公報 特表2003−524968号公報 特開2007−234026号公報 特開平7−271523号公報 特開平4−259048号公報
しかしながら、重複排除技術によれば、1つのデータブロックが消失した場合、当該データブロックを指し示すポインタ情報を持つ多数のバックアップイメージの全てが、復元できないという問題を生じる。これは、多数のバックアップイメージが、1つのデータブロックに依存していることを意味する。
また、重複排除技術は、データのバックアップの用途を想定しているために、基本的にN(原データ保存元):1(記憶装置)の構成を採る。しかしながら、このような構成を、広域ネットワークを介したデータセンタのシステムに採用しようとすると、1つのデータセンタにトラヒックが集中することとなる。重複排除技術は、冗長データの検出とポインタ情報の生成管理とを、ソフトウェアベースで実行するために、CPUへの負荷が高くなる。そのため、1つの装置へのトラヒックの集中は、システム全体のパフォーマンスの低下につながる。
更に、広域ネットワークを介したバックアップシステムについては、1つのデータセンタの障害の影響も考慮して、遠隔に配置された他のデータセンタ又は記憶装置へバックアップする必要もある。即ち、N(原データ保存元):M(記憶装置)の構成を採る必要もある。
そこで、本発明は、データセンタへのバックアップトラヒックの集中によるシステム全体のパフォーマンスの低下を回避すると共に、バックアップデータの分散管理によるシステム全体の復元安定性の確保とを実現することができるデータバックアップ方法、記憶制御通信装置及びプログラムを提供することを目的とする。
本発明によれば、ホスト装置及び記憶装置に接続された複数の記憶制御通信装置を有し、第1の記憶装置に記憶されたデータブロックを、第1の記憶制御通信装置からネットワークを介して第2の記憶制御通信装置を経由して第2の記憶装置へバックアップするデータバックアップ方法であって、
第1の記憶制御通信装置が、重複排除技術(De-duplication)を用いて、第1のホスト装置から第1の記憶装置へ蓄積すべきファイルを複数のデータブロックに区分し、第1の記憶装置へ、実データブロックとしての各データブロックと、当該ファイルに対して引用する各データブロックのポインタ情報とを蓄積する際に、当該データブロックが実データブロックとして当該記憶装置に既に蓄積されている場合、当該ファイルに対する当該データブロックのポインタ情報のみを蓄積する第1のステップと、
第1の記憶制御通信装置が、記憶装置に蓄積されたデータブロック毎に、ポインタ情報の引用回数を記録した統計情報を更新し、該統計情報を、第2の記憶制御通信装置へ送信する第2のステップと、
第2の記憶制御通信装置が、受信した統計情報の中で、引用回数が所定閾値以上となったデータブロックを事前通知データブロックとして、当該データブロックの識別子を含むコピー要求を、第1の記憶制御通信装置へ送信する第3のステップと、
第1の記憶制御通信装置が、コピー要求に含まれた識別子に対応するデータブロックを事前通知データブロックとして、第2の記憶制御通信装置へ送信する第4のステップと、
第2の記憶制御通信装置が、受信した事前通知データブロックを、第2の記憶装置へ蓄積する第5のステップ
有することを特徴とする。
本発明のデータバックアップ方法における他の実施形態によれば、
復元ステップとして、
第1の記憶制御通信装置第1の記憶装置に蓄積された事前通知データブロックに基づく実データブロックを消失した際に、当該実データブロックの識別子を含む復元要求を、事前通知データブロックの送信宛の第2の記憶制御通信装置へ送信し、
第2の記憶制御通信装置が、受信した復元要求に含まれる識別子に対応する実データブロックを第2の記憶装置から取得し、当該実データブロックを第1の記憶制御通信装置へ送信し、
第1の記憶制御通信装置が、受信した実データブロックを、第1の記憶装置へ復元するべく蓄積することも好ましい。
本発明のデータバックアップ方法における他の実施形態によれば、
記憶制御通信装置は、記憶装置が蓄積する全ての事前通知データブロックの容量が、所定の記憶容量以下となるように、事前通知データブロックの受信時刻が古いものから順に削除する第6のステップを更に有することも好ましい。
本発明のデータバックアップ方法における他の実施形態によれば、
記憶制御通信装置は、ネットワークスイッチ装置であることも好ましい。
本発明によれば、ホスト装置及び記憶装置に接続されており、記憶装置に記憶されたデータブロックを、ネットワークを介して他方の記憶制御通信装置を経由して他方の記憶装置へバックアップする記憶制御通信装置であって、
重複排除技術(De-duplication)を用いて、ホスト装置から記憶装置へ蓄積すべきファイルを複数のデータブロックに区分し、記憶装置へ、実データブロックとしての各データブロックと、当該ファイルに対して引用する各データブロックのポインタ情報とを蓄積する際に、当該データブロックが実データブロックとして当該記憶装置に既に蓄積されている場合、当該ファイルに対して当該データブロックのポインタ情報のみを蓄積する重複排除制御手段と、
記憶装置に蓄積されたデータブロック毎に、ポインタ情報の引用回数を記録した統計情報を更新し、該統計情報を、他方の記憶制御通信装置へ送信する統計情報更新制御手段と、
受信した統計情報の中で、引用回数が所定閾値以上となったデータブロックを事前通知データブロックとして、当該データブロックの識別子を含むコピー要求を、他方の記憶制御通信装置へ送信する事前通知データブロック選択要求手段と、
受信した事前通知データブロックを、記憶装置へ蓄積する事前通知データブロック蓄積手段と
を有し、コピー要求を受信した他方の記憶制御通信装置から、当該コピー要求に含まれた識別子に対応する事前通知データブロックを受信することを特徴とする。
本発明の記憶制御通信装置における他の実施形態によれば、
記憶装置に蓄積された事前通知データブロックに基づく実データブロックを消失した際に、実データブロックの復元要求を、事前通知データブロックの送信宛の他方の記憶制御通信装置へ送信し、
他方の記憶制御通信装置から、他方の記憶装置に蓄積された実データブロックを受信し、
受信した実データブロックを、記憶装置へ復元するべく蓄積する
復元手段を更に有することも好ましい。
本発明の記憶制御通信装置における他の実施形態によれば、重複排除制御手段は、記憶装置が蓄積する全ての事前通知データブロックの容量が、所定の記憶容量以下となるように、事前通知データブロックの受信時刻が古いものから順に削除することも好ましい。
本発明の記憶制御通信装置における他の実施形態によれば、ットワークスイッチ装置であることも好ましい。
本発明によれば、ホスト装置及び記憶装置に接続されており、記憶装置に記憶されたデータブロックを、ネットワークを介して他方の記憶制御通信装置を経由して他方の記憶装置へバックアップする記憶制御通信装置に搭載されたコンピュータを機能させるプログラムであって
重複排除技術(De-duplication)を用いて、ホスト装置から記憶装置へ蓄積すべきファイルを複数のデータブロックに区分し、記憶装置へ、実データブロックとしての各データブロックと、当該ファイルに対して引用する各データブロックのポインタ情報とを蓄積する際に、当該データブロックが実データブロックとして当該記憶装置に既に蓄積されている場合、当該ファイルに対して当該データブロックのポインタ情報のみを蓄積する重複排除制御手段と、
記憶装置に蓄積されたデータブロック毎に、ポインタ情報の引用回数を記録した統計情報を更新し、該統計情報を、他方の記憶制御通信装置へ送信する統計情報更新制御手段と、
受信した統計情報の中で、引用回数が所定閾値以上となったデータブロックを事前通知データブロックとして、当該データブロックの識別子を含むコピー要求を、他方の記憶制御通信装置へ送信する事前通知データブロック選択要求手段と、
受信した事前通知データブロックを、記憶装置へ蓄積する事前通知データブロック蓄積手段と
してコンピュータを機能させ、コピー要求を受信した他方の記憶制御通信装置から、当該コピー要求に含まれた識別子に対応する事前通知データブロックを受信することを特徴とする。
本発明のデータバックアップ方法、記憶制御通信装置及びプログラムによれば、比較的引用回数が多いデータブロックを、他の記憶制御通信装置へ事前通知することによって、分散管理を実現し、システム全体の復元安定性を確保する。また、データセンタに対するデータブロックの重複排除も可能となり、データセンタへのバックアップトラヒックの集中を回避することもできる。
以下では、図面を用いて、本発明を実施するための最良の形態について詳細に説明する。
図2は、本発明におけるシステム構成図である。
図2によれば、記憶制御通信装置1に、ホスト装置3及び記憶装置2が接続されている。各記憶制御通信装置1は、広域ネットワーク(例えばインターネット)に接続され、相互に通信することができる。尚、記憶制御通信装置1は、記憶装置2と一体として構成されていてもよい。記憶制御通信装置1は、例えばネットワークスイッチ装置であってもよい。また、広域ネットワークには、データバックアップ用のデータセンタ4も接続されている。
記憶制御通信装置1は、ホスト装置3から出力されたデータを、記憶装置2へ蓄積する。本発明によれば、記憶制御通信装置1は、重複排除技術を用いているので、重複データについては、既に蓄積されている同一のデータブロックを引用し、そのポインタ情報のみを蓄積する。このとき、記憶制御通信装置1は、データブロック毎の引用回数を表す統計情報を更新する(尚、統計情報に、最終アクセス時刻が含まれていてもよい)。そして、比較的引用回数が多いデータブロックを事前通知データブロックとして、広域ネットワークを介して他の記憶制御通信装置へ送信する。また、記憶制御通信装置1は、バックアップ用のデータブロックを、データセンタ4へも送信する。
図3は、本発明における第1のシーケンス図である。
(S300)ホスト装置3が、蓄積すべき第1のファイル(データブロック[A][B][C][A][D])を、第1の記憶制御通信装置へ出力する。
(S301)第1の記憶制御通信装置は、データブロック[A]が冗長的であることを認識し、データブロック[A][B][C][D]を、第1の記憶装置へ出力する。2回目のデータブロック[A]は、記憶装置に記憶された1回目のデータブロック[A]のアドレスを指し示すポインタ情報として記憶される。また、統計情報として、各データブロック[A][B][C][D]の引用回数を、1増分([A]=1、[B]=1、[C]=1、[D]=1)する。尚、多引用回数の所定閾値は「3」に設定されているとする。
(S302)第1の記憶制御通信装置は、第1の記憶装置に蓄積したデータブロック[A][B][C][D]を、データセンタ4へ送信する。これにより、第1のファイルをバックアップすることができる。
(S310)ホスト装置3が、第2のファイル(データブロック[A][B][E])を、第1の記憶制御通信装置へ出力する。
(S311)第1の記憶制御通信装置は、データブロック[A][B]が、既に記憶されていることを認識し、データブロック[E]のみを第1の記憶装置へ出力する。第2のファイルのデータブロック[A][B]は、第1の記憶装置に既に記憶されたデータブロック[A][B]のアドレスを指し示すポインタ情報として記憶される。また、統計情報として、データブロック[A][B]の引用回数を、1増分([A]=2、[B]=2)する。
(S312)第1の記憶制御通信装置は、第1の記憶装置に蓄積したデータブロック[E]を、データセンタ4へ送信する。これにより、第2のファイルをバックアップすることができる。
(S320)ホスト装置3が、第3のファイル(データブロック[A][E][F])を、第1の記憶制御通信装置へ出力する。
(S321)第1の記憶制御通信装置は、データブロック[A][E]が、既に記憶されていることを認識し、データブロック[F]のみを第1の記憶装置へ出力する。第3のファイルのデータブロック[A][E]は、第1の記憶装置に既に記憶されたデータブロック[A][E]のアドレスを指し示すポインタ情報として記憶される。また、統計情報として、データブロック[A][E]の引用回数を、1増分([A]=3、[E]=2)する。
(S322)第1の記憶制御通信装置は、第1の記憶装置に蓄積したデータブロック[F]を、データセンタ4へ送信する。これにより、第3のファイルをバックアップすることができる。
(S323)第1の記憶制御通信装置は、各データブロックの引用回数を含む統計情報を、ネットワークを介して第2の記憶制御通信装置へ送信する。
(S324)第2の記憶制御通信装置は、統計情報の中から、引用回数が所定閾値「3」を超えたデータブロック[A]を選択し、そのデータブロック[A]が第2の記憶装置に記憶されていないことを確認する。このとき、第2の記憶制御通信装置は、データブロック[A]のコピー要求を、第1の記憶制御通信装置へ送信する。
(S325)コピー要求を受信した第1の記憶制御通信装置は、第1の記憶装置へ、データブロック[A]の読み出し要求(例えばSCSI Read)を送信する。
(S326)これに対し、第1の記憶装置は、データブロック[A]を、第1の記憶制御通信装置へ出力する。
(S327)第1の記憶制御通信装置は、事前通知データブロック[A]を、ネットワークを介して第2の記憶制御通信装置へ送信する。(例えばSCSI Write)
(S328)第2の記憶制御通信装置は、受信した事前通知データブロック[A]を、第2の記憶装置へ出力する。
(S330)ホスト装置3が、第4のファイル(データブロック[B][G][C][D][E])を、第1の記憶制御通信装置へ出力する。
(S331)第1の記憶制御通信装置は、データブロック[B][C][D][E]が、既に記憶されていることを認識し、データブロック[G]のみを第1の記憶装置へ出力する。第4のファイルのデータブロック[B][C][D][E]は、第1の記憶装置に既に記憶されたデータブロック[B][C][D][E]のアドレスを指し示すポインタ情報として記憶される。また、統計情報として、各データブロック[B][C][D][E]の引用回数を、1増分([B]=3、[C]=2、[D]=2、[E]=3)する。
(S332)第1の記憶制御通信装置は、第1の記憶装置に蓄積したデータブロック[G]を、データセンタ4へ送信する。これにより、第4のファイルをバックアップすることができる。
(S333)第1の記憶制御通信装置は、各データブロックの引用回数を含む統計情報を、ネットワークを介して第2の記憶制御通信装置へ送信する。
(S334)第2の記憶制御通信装置は、統計情報の中から、引用回数が所定閾値「3」を超えたデータブロック[B][E]を選択し、そのデータブロック[B][E]が第2の記憶装置に記憶されていないことを確認する。このとき、第2の記憶制御通信装置は、データブロック[B][E]のコピー要求を、第1の記憶制御通信装置へ送信する。
(S335)コピー要求を受信した第1の記憶制御通信装置は、第1の記憶装置へ、データブロック[B][E]の読み出し要求を送信する。
(S336)これに対し、第1の記憶装置は、データブロック[B][E]を、第1の記憶制御通信装置へ出力する。
(S337)第1の記憶制御通信装置は、事前通知データブロック[B][E]を、ネットワークを介して第2の記憶制御通信装置へ送信する。
(S338)第2の記憶制御通信装置は、受信した事前通知データブロック[B][E]を、第2の記憶装置へ出力する。
図4は、本発明における第2のシーケンス図である。
図3のシーケンスが終了した時点で、第2の記憶装置には、事前通知データブロック[A][B][E]が蓄積されている。
(S400)ホスト装置3が、第5のファイル(データブロック[A][B][C])を、第2の記憶制御通信装置へ出力する。
(S401)第2の記憶制御通信装置は、事前通知データブロック[A][B]が、既に記憶されていることを認識し、データブロック[C]のみを第2の記憶装置へ出力する。事前通知データブロック[A][B]は、その後、実データブロックとして扱われる(例えば「事前通知フラグ」をリセットする)。第5のファイルのデータブロック[A][B]は、記憶装置に既に記憶されたデータブロック[A][B]のアドレスを指し示すポインタ情報として記憶される。
(S402)第2の記憶制御通信装置は、第2の記憶装置に蓄積したデータブロック[C]を、データセンタ4へ送信する。このとき、第2の記憶制御通信装置は、データブロック[A][B]を、データセンタ4へ送信しない。
(S410)ホスト装置3が、第6のファイル(データブロック[A][H][C])を、第2の記憶制御通信装置へ出力する。
(S411)第2の記憶制御通信装置は、データブロック[A][C]が、既に記憶されていることを認識し、データブロック[H]のみを第2の記憶装置へ出力する。第2のファイルのデータブロック[A][C]は、第2の記憶装置に既に記憶されたデータブロック[A]C]のアドレスを指し示すポインタ情報として記憶される。
(S412)第2の記憶制御通信装置は、第2の記憶装置に蓄積したデータブロック[H]を、データセンタ4へ送信する。このとき、第2の記憶制御通信装置は、データブロック[A][C]を、データセンタ4へ送信しない。
次に、データブロックを消失した際に、復元するシーケンスについて説明する。
(S420)第2の記憶装置が、データブロック[A]を消失したとする。データブロック[A]は、事前通知データブロックに基づいて実データブロックとなったものであり、送信元の記憶制御通信装置のアドレスを備えている。
(S421)このとき、第2の記憶制御通信装置が、データブロック[A]の復元要求を第1の記憶制御通信装置へ送信する。第1の記憶制御通信装置は、データブロック[A]の読み出し要求を第1の記憶装置へ送信する。
(S422)第1の記憶装置は、データブロック[A]を第1の記憶制御通信装置へ出力する。第1の記憶制御通信装置は、データブロック[A]を第2の記憶制御通信装置へ送信する。
(S430)第1の記憶装置が、データブロック[A]を消失したとする。データブロック[A]は、事前通知データブロックとして送信されたものであり、送信先の記憶制御通信装置のアドレスを備えている。
(S431)このとき、第1の記憶制御通信装置が、データブロック[A]の復元要求を第2の記憶制御通信装置へ送信する。第2の記憶制御通信装置は、データブロック[A]の読み出し要求を第2の記憶装置へ送信する。
(S432)第2の記憶装置は、データブロック[A]を第2の記憶制御通信装置へ出力する。第2の記憶制御通信装置は、データブロック[A]を第1の記憶制御通信装置へ送信する。
図5は、本発明における記憶制御通信装置の機能構成図である。
図5によれば、ホストバスアダプタ部101と、周辺装置入出力インタフェース部102と、重複排除制御部103と、WAN側通信インタフェース部111と、SCSIレイヤ部112と、統計情報更新制御部121と、事前通知データブロック選択要求部122と、事前通知データブロック蓄積部123と、復元部124と、バックアップ送信部125とを有する。ホストバスアダプタ部101及びWAN側通信インタフェース部111を除く他の機能構成部は、通信装置に搭載されたコンピュータを機能させるプログラムを実行することによって実現される。
ホストバスアダプタ部101は、記憶装置2及びホスト装置3とパラレルバスを介して接続する。周辺装置入出力インタフェース部102は、例えばSCSIレイヤ部であって、ホストバスアダプタ部101を介して、記憶装置2及びホスト装置3とデータブロックを送受信する。勿論、記憶制御通信装置1とホスト装置3及び記憶装置2との間のインタフェースが、ホストバスアダプタであって且つSCSIプロトコルを用いるものには限られず、イーサネット(登録商標)インタフェースであってIPを用いるものであっても、ファイバチャネルインタフェースであってもよい。
WAN側通信インタフェース部111は、例えばイーサネットインタフェースであって、広域ネットワークに接続する。広域ネットワークが例えばインターネットの場合、ネットワーク・トランスポートプロトコルとして備えられる。WAN側通信インタフェース部はファイバチャネルプロトコルを用いるものであってもよい。SCSIレイヤ部112は、SCSIコマンド又はレスポンスを、相手方の記憶制御通信装置とやりとりする。SCSIコマンド又はレスポンスは、IPパケットでカプセル化して送受信される。
重複排除制御部103は、ホスト装置3から受信したファイルを、重複排除技術を用いて、記憶装置2へ蓄積する。記憶装置2へ蓄積すべき第1のファイルを複数のデータブロックに区分する。そして、既に蓄積されているファイルのデータブロック、及び/又は、第1のファイル内の他のデータブロックとの重複データブロックについては、一方のデータブロックのみを蓄積する。また、他方のデータブロックに対しては、一方のデータブロックを引用するポインタ情報のみを蓄積する。
重複排除制御部103は、記憶装置2が蓄積する全ての事前通知データブロックの容量が、所定の記憶容量以下となるように、所定条件の下、事前通知データブロックを削除する。所定条件は、引用回数、最終アクセス時刻、及び/又は、一定時間におけるアクセス頻度に基づくものである。
例えば、事前通知データブロックの受信時刻が古いものから順に削除するものであってもよい。重複排除制御部103は、ファイルを区分したデータブロックと事前通知データブロックとが同一である場合、事前通知データブロックを実データブロックのアドレス領域へ移動させる(単に「事前通知フラグ」をリセットするものであってもよい)。他の記憶制御通信装置から受信した事前通知データブロックは、既にデータセンタにバックアップされており、当該記憶制御通信装置が、データセンタにあえてバックアップする必要はない。
統計情報更新制御部121は、データブロック毎に、ポインタ情報の引用回数を記録した統計情報を更新する。その統計情報は、他の記憶制御通信装置へ送信される。また、他の記憶制御通信装置からも統計情報を受信する。受信した統計情報は、事前通知データブロック選択要求部122へ出力される。
事前通知データブロック選択要求部122は、受信した統計情報に基づいて、予め蓄積しておくべき事前通知データブロックを選択する。事前通知データブロックは、統計情報の中で、引用回数が所定閾値回数以上となったデータブロックであって、且つ、記憶装置2に未だ記憶されていないデータブロックである。選択された事前通知データブロックのコピー要求を、他の記憶制御通信装置へ送信する。
事前通知データブロック蓄積部123は、他の記憶制御通信装置から、事前通知データブロックを受信する。受信した事前通知データブロックは、記憶装置2へ出力され、一時的に蓄積される。
復元部124は、事前通知データブロックに基づく実データブロックを消失した際に、実データブロックの復元要求を、事前通知データブロックの送信元の記憶制御通信装置へ送信する。これに対し、当該記憶制御通信装置から実データブロックを受信して、その実データブロックを復元する。
バックアップ送信部125は、重複排除制御部103によって記憶装置2に記憶されたデータブロックのみを、データセンタ4へ送信する。
以上、詳細に説明したように、本発明のデータバックアップ方法、記憶制御通信装置及びプログラムによれば、比較的引用回数が多いデータブロックを、他の記憶制御通信装置へ事前通知することによって、分散管理を実現し、システム全体の復元安定性を確保する。また、データセンタに対するデータブロックの重複排除も可能となり、データセンタへのバックアップトラヒックの集中を回避することもできる。
前述した本発明の種々の実施形態において、本発明の技術思想及び見地の範囲の種々の変更、修正及び省略は、当業者によれば容易に行うことができる。前述の説明はあくまで例であって、何ら制約しようとするものではない。本発明は、特許請求の範囲及びその均等物として限定するものにのみ制約される。
従来技術における重複排除技術を説明するシーケンス図である。 本発明におけるシステム構成図である。 本発明における第1のシーケンス図である。 本発明における第2のシーケンス図である。 本発明における記憶制御通信装置の機能構成図である。
符号の説明
1 記憶制御通信装置
101 ホストバスアダプタ部
102 周辺装置入出力インタフェース部
103 重複排除制御部
111 WAN側通信インタフェース部
112 SCSIレイヤ部
121 統計情報更新制御部
122 事前通知データブロック選択要求部
123 事前通知データブロック蓄積部
124 復元部
125 バックアップ送信部
2 記憶装置
3 ホスト装置
4 データセンタ

Claims (9)

  1. ホスト装置及び記憶装置に接続された複数の記憶制御通信装置を有し、第1の記憶装置に記憶されたデータブロックを、第1の記憶制御通信装置からネットワークを介して第2の記憶制御通信装置を経由して第2の記憶装置へバックアップするデータバックアップ方法であって、
    第1の記憶制御通信装置が、重複排除技術(De-duplication)を用いて、第1のホスト装置から第1の記憶装置へ蓄積すべきファイルを複数のデータブロックに区分し、第1の記憶装置へ、実データブロックとしての各データブロックと、当該ファイルに対して引用する各データブロックのポインタ情報とを蓄積する際に、当該データブロックが実データブロックとして当該記憶装置に既に蓄積されている場合、当該ファイルに対する当該データブロックのポインタ情報のみを蓄積する第1のステップと、
    第1の記憶制御通信装置が、前記記憶装置に蓄積された前記データブロック毎に、前記ポインタ情報の引用回数を記録した統計情報を更新し、該統計情報を、第2の記憶制御通信装置へ送信する第2のステップと、
    第2の記憶制御通信装置が、受信した前記統計情報の中で、前記引用回数が所定閾値以上となったデータブロックを事前通知データブロックとして、当該データブロックの識別子を含むコピー要求を、第1の記憶制御通信装置へ送信する第3のステップと、
    第1の記憶制御通信装置が、前記コピー要求に含まれた識別子に対応するデータブロックを事前通知データブロックとして、第2の記憶制御通信装置へ送信する第4のステップと、
    第2の記憶制御通信装置が、受信した前記事前通知データブロックを、第2の記憶装置へ蓄積する第5のステップ
    有することを特徴とするデータバックアップ方法。
  2. 復元ステップとして、
    第1の記憶制御通信装置第1の記憶装置に蓄積された前記事前通知データブロックに基づく実データブロックを消失した際に、当該実データブロックの識別子を含む復元要求を、前記事前通知データブロックの送信宛の第2の記憶制御通信装置へ送信し、
    第2の記憶制御通信装置が、受信した前記復元要求に含まれる識別子に対応する実データブロックを第2の記憶装置から取得し、当該実データブロックを第1の記憶制御通信装置へ送信し、
    第1の記憶制御通信装置が、受信した前記実データブロックを、第1の記憶装置へ復元するべく蓄積する
    ことを特徴とする請求項に記載のデータバックアップ方法。
  3. 前記記憶制御通信装置は、前記記憶装置が蓄積する全ての事前通知データブロックの容量が、所定の記憶容量以下となるように、前記事前通知データブロックの受信時刻が古いものから順に削除する第6のステップを更に有することを特徴とする請求項1又は2に記載のデータバックアップ方法。
  4. 前記記憶制御通信装置は、ネットワークスイッチ装置であることを特徴とする請求項1からのいずれか1項に記載のデータバックアップ方法。
  5. ホスト装置及び記憶装置に接続されており、前記記憶装置に記憶されたデータブロックを、ネットワークを介して他方の記憶制御通信装置を経由して他方の記憶装置へバックアップする記憶制御通信装置であって、
    重複排除技術(De-duplication)を用いて、前記ホスト装置から前記記憶装置へ蓄積すべきファイルを複数のデータブロックに区分し、前記記憶装置へ、実データブロックとしての各データブロックと、当該ファイルに対して引用する各データブロックのポインタ情報とを蓄積する際に、当該データブロックが実データブロックとして当該記憶装置に既に蓄積されている場合、当該ファイルに対して当該データブロックのポインタ情報のみを蓄積する重複排除制御手段と、
    前記記憶装置に蓄積された前記データブロック毎に、前記ポインタ情報の引用回数を記録した統計情報を更新し、該統計情報を、他方の記憶制御通信装置へ送信する統計情報更新制御手段と、
    受信した前記統計情報の中で、前記引用回数が所定閾値以上となったデータブロックを事前通知データブロックとして、当該データブロックの識別子を含むコピー要求を、他方の記憶制御通信装置へ送信する事前通知データブロック選択要求手段と、
    受信した前記事前通知データブロックを前記記憶装置へ蓄積する事前通知データブロック蓄積手段と
    を有し、前記コピー要求を受信した他方の記憶制御通信装置から、当該コピー要求に含まれた識別子に対応する事前通知データブロックを受信することを特徴とする記憶制御通信装置。
  6. 前記記憶装置に蓄積された前記事前通知データブロックに基づく前記実データブロックを消失した際に、前記実データブロックの復元要求を、前記事前通知データブロックの送信宛の他方の記憶制御通信装置へ送信し、
    他方の記憶制御通信装置から、他方の記憶装置に蓄積された前記実データブロックを受信し、
    受信した前記実データブロックを、前記記憶装置へ復元するべく蓄積する
    復元手段を更に有することを特徴とする請求項に記載の記憶制御通信装置。
  7. 前記重複排除制御手段は、前記記憶装置が蓄積する全ての事前通知データブロックの容量が、所定の記憶容量以下となるように、前記事前通知データブロックの受信時刻が古いものから順に削除することを特徴とする請求項5又は6に記載の記憶制御通信装置。
  8. ットワークスイッチ装置であることを特徴とする請求項5から7のいずれか1項に記載の記憶制御通信装置。
  9. ホスト装置及び記憶装置に接続されており、前記記憶装置に記憶されたデータブロックを、ネットワークを介して他方の記憶制御通信装置を経由して他方の記憶装置へバックアップする記憶制御通信装置に搭載されたコンピュータを機能させるプログラムであって
    重複排除技術(De-duplication)を用いて、前記ホスト装置から前記記憶装置へ蓄積すべきファイルを複数のデータブロックに区分し、前記記憶装置へ、実データブロックとしての各データブロックと、当該ファイルに対して引用する各データブロックのポインタ情報とを蓄積する際に、当該データブロックが実データブロックとして当該記憶装置に既に蓄積されている場合、当該ファイルに対して当該データブロックのポインタ情報のみを蓄積する重複排除制御手段と、
    前記記憶装置に蓄積された前記データブロック毎に、前記ポインタ情報の引用回数を記録した統計情報を更新し、該統計情報を、他方の記憶制御通信装置へ送信する統計情報更新制御手段と、
    受信した前記統計情報の中で、前記引用回数が所定閾値以上となったデータブロックを事前通知データブロックとして、当該データブロックの識別子を含むコピー要求を、他方の記憶制御通信装置へ送信すると共に、前記コピー要求を受信した際に、当該コピー要求に含まれた識別子に対応する事前通知データブロックを、他方の記憶制御通信装置へ送信する事前通知データブロック選択要求手段と、
    受信した前記事前通知データブロックを前記記憶装置へ蓄積する事前通知データブロック蓄積手段と
    してコンピュータを機能させることを特徴とする記憶制御通信装置用のプログラム。
JP2008043829A 2008-02-26 2008-02-26 重複排除技術を用いたデータバックアップ方法、記憶制御通信装置及びプログラム Active JP5084551B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008043829A JP5084551B2 (ja) 2008-02-26 2008-02-26 重複排除技術を用いたデータバックアップ方法、記憶制御通信装置及びプログラム
US12/392,280 US8327097B2 (en) 2008-02-26 2009-02-25 Data backing up for networked storage devices using de-duplication technique

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008043829A JP5084551B2 (ja) 2008-02-26 2008-02-26 重複排除技術を用いたデータバックアップ方法、記憶制御通信装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2009205201A JP2009205201A (ja) 2009-09-10
JP5084551B2 true JP5084551B2 (ja) 2012-11-28

Family

ID=40999531

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008043829A Active JP5084551B2 (ja) 2008-02-26 2008-02-26 重複排除技術を用いたデータバックアップ方法、記憶制御通信装置及びプログラム

Country Status (2)

Country Link
US (1) US8327097B2 (ja)
JP (1) JP5084551B2 (ja)

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8645334B2 (en) * 2009-02-27 2014-02-04 Andrew LEPPARD Minimize damage caused by corruption of de-duplicated data
JP5303038B2 (ja) 2009-09-18 2013-10-02 株式会社日立製作所 重複したデータを排除するストレージシステム
JP4838878B2 (ja) * 2009-12-04 2011-12-14 富士通株式会社 データ管理プログラム、データ管理装置、およびデータ管理方法
US9501365B2 (en) * 2009-12-28 2016-11-22 Netapp, Inc. Cloud-based disaster recovery of backup data and metadata
JP4892072B2 (ja) * 2010-03-24 2012-03-07 株式会社東芝 ホスト装置と連携して重複データを排除するストレージ装置、同ストレージ装置を備えたストレージシステム、及び同システムにおける重複排除方法
JP5485866B2 (ja) 2010-12-28 2014-05-07 株式会社日立ソリューションズ 情報管理方法、及び情報提供用計算機
US8874520B2 (en) * 2011-02-11 2014-10-28 Symantec Corporation Processes and methods for client-side fingerprint caching to improve deduplication system backup performance
CN102833294B (zh) 2011-06-17 2015-05-20 阿里巴巴集团控股有限公司 基于云存储的文件处理方法、系统及服务器集群系统
JP5500309B2 (ja) * 2011-09-07 2014-05-21 日本電気株式会社 ストレージ装置
US8620886B1 (en) * 2011-09-20 2013-12-31 Netapp Inc. Host side deduplication
WO2013058747A1 (en) * 2011-10-18 2013-04-25 Hewlett-Packard Development Company, L.P. Index for deduplication
US9275198B2 (en) * 2011-12-06 2016-03-01 The Boeing Company Systems and methods for electronically publishing content
US8923195B2 (en) * 2012-03-20 2014-12-30 Futurewei Technologies, Inc. Method and apparatus for efficient content delivery in radio access networks
WO2013153584A1 (en) * 2012-04-13 2013-10-17 Hitachi, Ltd. Storage device
US8972672B1 (en) 2012-06-13 2015-03-03 Emc Corporation Method for cleaning a delta storage system
US9141301B1 (en) 2012-06-13 2015-09-22 Emc Corporation Method for cleaning a delta storage system
US9116902B1 (en) 2012-06-13 2015-08-25 Emc Corporation Preferential selection of candidates for delta compression
US10135462B1 (en) 2012-06-13 2018-11-20 EMC IP Holding Company LLC Deduplication using sub-chunk fingerprints
US9400610B1 (en) 2012-06-13 2016-07-26 Emc Corporation Method for cleaning a delta storage system
US9026740B1 (en) * 2012-06-13 2015-05-05 Emc Corporation Prefetch data needed in the near future for delta compression
US8712978B1 (en) 2012-06-13 2014-04-29 Emc Corporation Preferential selection of candidates for delta compression
US9495379B2 (en) 2012-10-08 2016-11-15 Veritas Technologies Llc Locality aware, two-level fingerprint caching
CN103873503A (zh) * 2012-12-12 2014-06-18 鸿富锦精密工业(深圳)有限公司 数据块备份系统及方法
JP6094267B2 (ja) * 2013-03-01 2017-03-15 日本電気株式会社 ストレージシステム
US9361028B2 (en) 2013-05-07 2016-06-07 Veritas Technologies, LLC Systems and methods for increasing restore speeds of backups stored in deduplicated storage systems
US9256612B1 (en) * 2013-06-11 2016-02-09 Symantec Corporation Systems and methods for managing references in deduplicating data systems
EP3096501A4 (en) 2014-01-16 2017-02-01 Fujitsu Limited Communication apparatus, communication method, and communication program
JP6326981B2 (ja) * 2014-06-03 2018-05-23 富士通株式会社 リストアプログラム、リストアシステム、およびリストア方法
US9658774B2 (en) * 2014-07-09 2017-05-23 Hitachi, Ltd. Storage system and storage control method
JP6237925B2 (ja) * 2014-10-23 2017-11-29 日本電気株式会社 クラスタシステム及びクラスタ制御方法
US10769104B2 (en) * 2014-12-12 2020-09-08 Aveva Software, Llc Block data storage system in an event historian
US10579601B2 (en) 2014-12-12 2020-03-03 Aveva Software, Llc Data dictionary system in an event historian
US9940234B2 (en) * 2015-03-26 2018-04-10 Pure Storage, Inc. Aggressive data deduplication using lazy garbage collection
JP6724534B2 (ja) 2016-05-09 2020-07-15 富士通株式会社 情報処理装置、重複除去プログラム、及び重複除去方法
JP6747303B2 (ja) * 2017-01-13 2020-08-26 富士通株式会社 通信装置、通信システム、通信方法、および、通信プログラム
KR20210034897A (ko) * 2019-09-23 2021-03-31 삼성전자주식회사 스토리지 장치 및 그것의 동작 방법

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04259048A (ja) 1991-02-14 1992-09-14 Fujitsu Ltd 統計情報による先読みデータ制御方式
JPH07271523A (ja) 1994-03-28 1995-10-20 Toshiba Corp 情報記憶装置
US7194504B2 (en) 2000-02-18 2007-03-20 Avamar Technologies, Inc. System and method for representing and maintaining redundant data sets utilizing DNA transmission and transcription techniques
KR100860821B1 (ko) 2000-02-18 2008-09-30 이엠씨 코포레이션 공통부분 요소분화 시스템에 사용하기 위한 컴퓨팅 시스템, 식별자 설정 방법 및 컴퓨터 판독가능 프로그램을 구비한 기록 매체
JP2003296179A (ja) * 2002-03-29 2003-10-17 Mitsubishi Electric Corp 情報処理装置及びネットワークファイル方法
US8725705B2 (en) * 2004-09-15 2014-05-13 International Business Machines Corporation Systems and methods for searching of storage data with reduced bandwidth requirements
JP4655843B2 (ja) 2005-09-14 2011-03-23 富士ゼロックス株式会社 ログ情報管理システム及びログ情報管理方法
US7831793B2 (en) 2006-03-01 2010-11-09 Quantum Corporation Data storage system including unique block pool manager and applications in tiered storage
US7567188B1 (en) * 2008-04-10 2009-07-28 International Business Machines Corporation Policy based tiered data deduplication strategy

Also Published As

Publication number Publication date
US20090217091A1 (en) 2009-08-27
JP2009205201A (ja) 2009-09-10
US8327097B2 (en) 2012-12-04

Similar Documents

Publication Publication Date Title
JP5084551B2 (ja) 重複排除技術を用いたデータバックアップ方法、記憶制御通信装置及びプログラム
JP4434543B2 (ja) 分散ストレージシステム、ストレージ装置、およびデータのコピー方法
KR101694984B1 (ko) 비대칭 클러스터링 파일시스템에서의 패리티 산출 방법
US20150169665A1 (en) Receiver-side data deduplication in data systems
CN107924354A (zh) 动态镜像
KR101709118B1 (ko) 하이브리드 스토리지 시스템의 파일 관리 방법 및 장치
JP2016513306A (ja) データ格納方法、データストレージ装置、及びストレージデバイス
JP2006048358A (ja) 記憶システム及びデータ処理システム
KR101200453B1 (ko) 통신 네트워크를 통한 데이터 세트 업데이트 시스템, 방법및 장치
KR101983208B1 (ko) 데이터 관리 방법, 노드, 그리고 데이터베이스 클러스터를 위한 시스템
CN102014152A (zh) 一种远程复制系统及其方法
JP2005182683A (ja) データ転送方法及びシステム並びにプログラム
JP5018403B2 (ja) バックアップシステム、サーバ装置及びそれらに用いるバックアップ方法並びにそのプログラム
JP2015052844A (ja) コピー制御装置,コピー制御方法及びコピー制御プログラム
JP6135226B2 (ja) 情報処理装置、情報処理方法、ストレージシステム及びコンピュータプログラム
JP5713267B2 (ja) 伝送装置管理システムおよびデータバックアップ方法
JP6671708B2 (ja) バックアップリストアシステム及びバックアップリストア方法
JP6287308B2 (ja) レプリケーション制御システム、レプリケーション制御方法、及び、レプリケーション制御プログラム
JP6536083B2 (ja) ストレージ装置、ストレージシステム、及びリカバリプログラム
JP6376626B2 (ja) データ格納方法、データストレージ装置、及びストレージデバイス
JP2017532666A (ja) ハイブリッドオブジェクトストレージデバイスのためのデータの再構成を最適化する方法
US11494089B2 (en) Distributed storage system, data control method and storage medium
JP6237925B2 (ja) クラスタシステム及びクラスタ制御方法
JP6891603B2 (ja) バックアップシステム、ストレージ装置、データ転送方法及びプログラム
KR20150010242A (ko) 비대칭 파일 시스템의 데이터 복제 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100712

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120626

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120831

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120904

R150 Certificate of patent or registration of utility model

Ref document number: 5084551

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150914

Year of fee payment: 3