JP2015170345A - ストレージシステム - Google Patents

ストレージシステム Download PDF

Info

Publication number
JP2015170345A
JP2015170345A JP2014047384A JP2014047384A JP2015170345A JP 2015170345 A JP2015170345 A JP 2015170345A JP 2014047384 A JP2014047384 A JP 2014047384A JP 2014047384 A JP2014047384 A JP 2014047384A JP 2015170345 A JP2015170345 A JP 2015170345A
Authority
JP
Japan
Prior art keywords
storage
data
duplicate
duplicate data
destination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014047384A
Other languages
English (en)
Other versions
JP6281333B2 (ja
Inventor
利朗 中島
Toshiro Nakajima
利朗 中島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2014047384A priority Critical patent/JP6281333B2/ja
Publication of JP2015170345A publication Critical patent/JP2015170345A/ja
Application granted granted Critical
Publication of JP6281333B2 publication Critical patent/JP6281333B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】重複排除ストレージシステムの性能低下を抑制する。
【解決手段】本発明のストレージシステムは、記憶対象データが記憶装置に既に記憶されている重複状態であるか否かを判定する重複判定部と、重複していない記憶対象データである非重複データの格納先を決定する格納先決定部と、非重複データは、決定した格納先となる記憶装置に記憶するデータ格納制御部と、を備える。そして、格納先決定部は、非重複データと予め設定された基準により関連すると判断される重複データの格納先を判定し、当該判定結果に基づいて、非重複データの格納先を決定する。
【選択図】図12

Description

本発明は、ストレージシステムにかかり、特に、同一内容のデータの重複記憶を排除するストレージシステムに関する。
近年、コンピュータの発達及び普及に伴い、種々の情報がデジタルデータ化されている。このようなデジタルデータを保存しておく装置として、磁気テープや磁気ディスクなどの記憶装置がある。そして、保存すべきデータは日々増大し、膨大な量となるため、大容量なストレージシステムが必要となっている。また、記憶装置に費やすコストを削減しつつ、信頼性も必要とされる。これに加えて、後にデータを容易に取り出すことが可能であることも必要である。その結果、自動的に記憶容量や性能の増大を実現できると共に、重複記憶を排除して記憶コストを削減し、さらには、冗長性の高いストレージシステムが望まれている。
このような状況に応じて、近年では、コンテンツアドレスストレージシステムが開発されている。このコンテンツアドレスストレージシステムは、データを分散して複数の記憶装置に記憶すると共に、このデータの内容に応じて特定される固有のコンテンツアドレスによって、当該データを格納した格納位置が特定される。また、コンテンツアドレスストレージシステムの中には、所定のデータを複数のフラグメントに分割すると共に、冗長データとなるフラグメントをさらに付加して、これら複数のフラグメントをそれぞれ複数の記憶装置にそれぞれ格納する、というものもある。
そして、上述したようなコンテンツアドレスストレージシステムでは、後に、コンテンツアドレスを指定することにより、当該コンテンツアドレスにて特定される格納位置に格納されているデータつまりフラグメントを読み出し、複数のフラグメントから分割前の所定のデータを復元することができる。
また、上記コンテンツアドレスは、データの内容に応じて固有となるよう生成される値、例えばデータのハッシュ値、に基づいて生成される。このため、重複データであれば同じ格納位置のデータを参照することで、同一内容のデータを取得することができる。従って、重複データを別々に格納する必要がなく、重複記録を排除して、データ容量の削減を図ることができる。
特に、上述したような重複記憶を排除する機能を有するストレージシステムでは、ファイルなど書き込み対象となるデータを所定容量の複数のブロックデータに分割して圧縮し、記憶装置に書き込む。このように、ファイルを分割したブロックデータ単位で重複記憶を排除することで、重複率が増大し、データ容量の削減を図っている。
特開2013−47933号公報
ここで、特許文献1では、複数階層のボリュームを有するストレージシステムにおいて格納データの位置を制御することで、重複記憶排除率を向上させることを提案している。一方で、ストレージシステムを構成する記憶媒体としては、読み書きが低速であるが低コストで実現できるHDD(Hard disk drive)といった低速デバイスや、コストが高いが読み書きが高速であるSSD(Solid State Drive)といった高速デバイスが用いられる。この場合、重複記憶排除率の向上のみを考慮して格納データの格納先を決定すると、格納データの用途や属性に対して不適切なデバイスに格納されることが生じる。すると、低速デバイスに格納したことによる処理遅延や、高速デバイスの利用効率の低下、さらには、デバイス間のデータ移動処理の増大、といった問題が発生する。その結果、ストレージシステムの性能の低下、という問題が生じる。
このため、本発明の目的は、重複排除機能を有するストレージシステムにおける性能の低下、という問題を解決することができるストレージシステムを提供することにある。
本発明の一形態であるストレージシステムは、
記憶対象データが記憶装置に既に記憶されている重複状態であるか否かを判定する重複判定部と、
重複していない前記記憶対象データである非重複データの格納先を決定する格納先決定部と、
前記非重複データは、前記決定した格納先となる記憶装置に記憶し、重複している前記記憶対象データである重複データは、当該重複データと同一のデータ内容であり記憶装置に既に記憶されている他のデータを参照して当該重複データとして用いるデータ格納制御部と、を備え、
前記格納先決定部は、前記非重複データと予め設定された基準により関連すると判断される前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
という構成をとる。
本発明の他の形態であるプログラムは、
情報処理装置に、
記憶対象データが記憶装置に既に記憶されている重複状態であるか否かを判定する重複判定部と、
重複していない前記記憶対象データである非重複データの格納先を決定する格納先決定部と、
前記非重複データは、前記決定した格納先となる記憶装置に記憶し、重複している前記記憶対象データである重複データは、当該重複データと同一のデータ内容であり記憶装置に既に記憶されている他のデータを参照して当該重複データとして用いるデータ格納制御部と、を実現させると共に、
前記格納先決定部は、前記非重複データと予め設定された基準により関連すると判断される前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
ことを実現させる、という構成をとる。
本発明の他の形態であるデータ格納方法は、
記憶対象データが記憶装置に既に記憶されている重複状態であるか否かを判定し、
重複していない前記記憶対象データである非重複データの格納先を決定し、
前記非重複データは、前記決定した格納先となる記憶装置に記憶し、重複している前記記憶対象データである重複データは、当該重複データと同一のデータ内容であり記憶装置に既に記憶されている他のデータを参照して当該重複データとして用いるデータ格納処理を行うデータ格納方法であって、
前記非重複データと予め設定された基準により関連すると判断される前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
という構成をとる。
本発明は、以上のように構成されることにより、重複排除機能を有するストレージシステムにおける性能の向上を図ることができる。
本発明の実施形態1におけるストレージシステムの構成の概略を示すブロック図である。 本発明の実施形態1におけるストレージシステムの構成を示す機能ブロック図である。 図2に開示したストレージシステムに記憶されるデータの一例を示す図である。 図2に開示したストレージシステムに記憶されるデータの一例を示す図である。 図2に開示したストレージシステムにおけるデータ書き込み処理の様子を説明するための説明図である。 図2に開示したストレージシステムにおけるデータ書き込み処理の様子を説明する説明図である。 図2に開示したストレージシステムにおけるデータ書き込み処理の概略を説明する説明図である。 図2に開示したストレージシステムにおけるデータ書き込み処理の動作を示すフローチャートである。 図2に開示したストレージシステムにおけるデータ書き込み処理の動作を示すフローチャートである。 図2に開示したストレージシステムにおけるデータ書き込み処理の動作を示すフローチャートである。 図2に開示したストレージシステムにおけるデータ書き込み処理の動作を示すフローチャートである。 本発明の付記1におけるストレージシステムの構成を示すブロック図である。
<実施形態1>
本発明の第1の実施形態を、図1乃至図11参照して説明する。図1は、ストレージシステムの構成の概略を示すブロック図であり、図2は、ストレージシステムの構成を示す機能ブロック図である。図3乃至図4は、ストレージシステムに記憶されるデータの一例を示す図である。図5乃至図7は、ストレージシステムにおけるデータ書き込み処理の様子を説明するための説明図である。図8乃至図11は、ストレージシステムの動作を示すフローチャートである。
[構成]
図1に示すように、本発明におけるストレージシステム1は、複数のサーバコンピュータが接続された構成を採っている。具体的に、ストレージシステム1は、ストレージシステム1自体における記憶再生動作を制御するサーバコンピュータであるアクセスノード2と、データを格納する記憶装置を備えたサーバコンピュータであるストレージノード3と、を備えている。なお、アクセスノード2の数とストレージノード3の数は、図2に示したものに限定されず、さらに多くの各ノード2,3が接続されて構成されていてもよい。また、本発明のストレージシステム1は、1台のコンピュータで構成されていてもよい。
ここで、本実施形態におけるストレージシステム1を、図2に示すように、重複排除コントローラ20と、階層化ストレージシステム30と、により構成されていることとして説明する。重複排除コントローラ20は、主に上述したアクセスノード2にて構成され、階層化ストレージシステム30は、主に上述したストレージノード3にて構成されている。なお、重複排除コントローラ20と階層化ストレージシステム30とは、必ずしもアクセスノード2とストレージノード3とで構成されていることに限定されない。
図2に示すように、重複排除コントローラ20は、装備された演算装置にプログラムが組み込まれることで構築された、重複排除処理部21と、データ管理部22と、NASインタフェース23と、仮想ファイルシステム24と、データI/OI/F25と、非重複ブロック格納位置判定部26と、を備えている。また、重複排除コントローラ20は、装備された記憶装置に記憶された判定選択ポリシー27を有している。
NASインタフェース23は、NASプロトコル(CIFS, NFS, etc)による接続を受け付けるインタフェースである。ここでは、ストレージシステム1自体がNAS(Network Attached Storage)であり、他のバックアップサーバやアーカイブサーバから記憶対象となるデータを受け付ける。
重複排除処理部21(重複判定部)は、入力データを固定長または可変長のブロックに分割し、ブロックごとにすでに保存されているかどうかを、データ管理部22を参照して判定する。具体的に、重複排除処理部21は、ブロックが既に記憶されている重複状態である重複ブロックであるか、まだ記憶されていない非重複状態である非重複ブロックであるかを判定する。そして、
データ管理部22は、各ブロックのハッシュ値を元に参照されるハッシュテーブルで、各ブロックの格納先アドレスを管理する。
仮想ファイルシステム24は、NASプロトコルで入出力されるデータと、実際に格納されているブロック単位のデータとを紐づけて、リクエストのあるデータを提供する。
非重複データ格納先デバイス判定部26(格納先判定部)は、ストレージ内に存在しない非重複状態である非重複ブロックを、階層化ストレージシステム30のどのデバイスに格納するかを決定し、階層化ストレージシステム30へ要求する。
データI/O I/F25は、階層化ストレージシステム30へデータの受け渡しを行うインタフェースである。例えば、インタフェースは、FC(Fibre Channel),iSCSIなどで実現されている。
判定選択ポリシー27は、非重複ブロックの格納先の決定方法について定義するテーブルである。このポリシーは、外部からの書き換えが可能である。
また、図2に示すように、階層化ストレージシステム30は、装備された演算装置にプログラムが組み込まれることで構築された、データI/OI/F31と、既存データ格納先取得I/F32と、新規データ格納先リクエスト受付I/F33と、階層化管理部34と、を備えている。階層化管理部34は、さらに、データ格納I/O管理部35と、データ格納先リクエスト部36と、データ格納先変更部37と、を備えている。
また、階層化ストレージシステム30は、データを格納する性能の異なる複数の記憶装置であるデバイス41,42,43を備えている。例えば、デバイスは、記憶領域に対するアクセス速度が、所定の基準により高速、中速、低速に分けられている記憶装置である。
データI/O I/F31は、重複排除コントローラ20とのデータの受け渡しを行うインタフェースである。
階層化管理部34(データ格納先制御部)は、複数のデバイスに分散して格納されているデータを管理し、アクセス頻度などをもとにデータの移動を行う機能を有する。具体的に、階層化管理部34を構成するデータ格納I/O管理部35は、上位からI/Oのリクエストが来たときに、上位から来たアドレスと、実際に格納されているデバイスのアドレスとの変換を行い、データの受け渡しをする。例えば、新規のデータの書き込みリクエストがきた場合、「データの格納先リクエスト」に対し、書き込まれるデータに対して格納先デバイスの指定があるかを問い合わせ、指定がある場合はそのデバイスに格納する。また、すでに書き込まれているデータの格納先デバイスの番号を返却する機能を有する。
階層化管理部34を構成するデータ格納先リクエスト部36は、重複排除コントローラ20側から、格納先デバイスを指定するリクエストを受ける。階層化管理部34を構成するデータ格納先変更部37は、格納されているデータの格納先を、定期的にアクセス頻度などから判断して移動させる。
既存データ格納先デバイス取得I/F32は、重複排除コントローラ20から、アドレスとオフセットを受け取り、データ格納I/O管理部35にそのデータが格納されているデバイス番号(高速なものから順に1〜T)を問い合わせて、値を返す。
新規データ格納先リクエスト受付I/F部33は、重複排除コントローラ20から、アドレス、オフセット、格納先デバイスの番号を受け取り、データ格納先リクエスト部36に格納する。
ここで、本実施形態におけるストレージシステム1である重複排除コントローラ20と階層化ストレージシステム30とは、データの重複記憶を排除する機能を有している。かかる重複記憶排除機能は、主に重複排除処理部21、データ管理部22、データ格納I/O管理部35によって実現されるが、かかる機能の詳細について、図5乃至図6を参照して説明する。以下では、重複排除コントローラ20と階層化ストレージシステム30とを区別せず、ストレージシステム1による動作として説明する。なお、重複記憶排除の方法は、以下に説明する方法に限定されない。
まず、図5及び図6の矢印Y1に示すように、ストレージシステム1が書き込み要求されたファイルAの入力を受ける。すると、図5及び図6の矢印Y2に示すように、ファイルAを所定容量(例えば、64KB)あるいは可変長のブロックデータDに分割する。
続いて、分割されたブロックデータDのデータ内容に基づいて、当該データ内容を代表する固有のハッシュ値Hを算出する(図6の矢印Y3)。例えば、ハッシュ値Hは、予め設定されたハッシュ関数を用いて、ブロックデータDのデータ内容から算出する。
続いて、ファイルAのブロックデータDのハッシュ値Hを用いて、当該ブロックデータDが既に格納されているか否かを調べる。具体的には、まず、既に格納されているブロックデータDは、そのハッシュ値Hと格納位置を表すコンテンツアドレスCAとが、関連付けられてMFI(Main Fragment Index)ファイルに登録されている。従って、格納前に算出したブロックデータDのハッシュ値HがMFIファイル内に存在している場合には、既に同一内容のブロックデータDが格納されている重複ブロックと判断できる(図6の矢印Y4)。この場合には、格納前のブロックデータDのハッシュ値Hと一致したMFI内のハッシュ値Hに関連付けられているコンテンツアドレスCAを、当該MFIファイルから取得する。そして、このコンテンツアドレスCAを、書き込み要求されたブロックデータDのコンテンツアドレスCAとして返却する。
そして、返却されたコンテンツアドレスCAが参照する既に格納されているデータを、書き込み要求されたブロックデータDとして使用する。つまり、書き込み要求されたブロックデータDの格納先として、返却されたコンテンツアドレスCAが参照する領域を指定することで、当該書き込み要求されたブロックデータDを記憶したこととする。これにより、書き込み要求にかかるブロックデータDを、実際に記憶装置であるデバイス内に記憶する必要がなくなる。
また、書き込み要求にかかるブロックデータDがまだ記憶されていない非重複ブロックと判断された場合には、以下のようにして書き込み要求にかかるブロックデータDの書き込みを行う。まず、書き込み要求にかかるブロックデータDを圧縮して、図6の矢印Y5に示すように、複数の所定の容量のフラグメントデータに分割する。例えば、図5の符号D1〜D9に示すように、9つのフラグメントデータ(分割データ91)に分割する。そしてさらに、分割したフラグメントデータのうちいくつかが欠けた場合であっても、元となるブロックデータを復元可能なよう冗長データを生成し、上記分割したフラグメントデータ91に追加する。例えば、図5の符号D10〜D12に示すように、3つのフラグメントデータ(冗長データ92)を追加する。これにより、9つの分割データ91と、3つの冗長データ92とにより構成される12個のフラグメントデータからなるデータセット90を生成する。
続いて、上述したように生成されたデータセットを構成する各フラグメントデータを、記憶装置に形成された各記憶領域に、それぞれ分散して格納する。例えば、図5に示すように、12個のフラグメントデータD1〜D12を生成した場合には、複数の記憶装置内にそれぞれ形成したデータ格納ファイルに、各フラグメントデータD1〜D12を1つずつそれぞれ格納する(図6の矢印Y6参照)。
続いて、ストレージシステム1は、上述したように格納したフラグメントデータD1〜D12の格納位置、つまり、当該フラグメントデータD1〜D12にて復元されるブロックデータDの格納位置を表すコンテンツアドレスCAを生成して管理する。具体的には、格納したブロックデータDの内容に基づいて算出したハッシュ値Hの一部(ショートハッシュ)(例えば、ハッシュ値Hの先頭8B(バイト))と、論理格納位置を表す情報と、を組み合わせて、コンテンツアドレスCAを生成する。そして、このコンテンツアドレスCAを、ストレージシステム1内のファイルシステムに返却する(図6の矢印Y7)。すると、ストレージシステム1は、バックアップ対象データのファイル名などの識別情報と、コンテンツアドレスCAとを関連付けてファイルシステムで管理する。
また、ブロックデータDのコンテンツアドレスCAと、当該ブロックデータDのハッシュ値Hと、を関連付けて、各ストレージノード3がMFIファイルにて管理する(図6の矢印8)。このように、上記コンテンツアドレスCAは、ファイルを特定する情報やハッシュ値Hなどと関連付けられて、デバイスに格納される。
以上のように、本実施形態におけるストレージシステム1では、重複ブロックは、同一のデータ内容でありデバイスに記憶されている他のデータを参照することで、実際にデータを記憶することなく記憶処理を行う重複排除処理を行う。また、非重複ブロックについては、フラグメントに分割して冗長化し、複数の記憶装置に分散して記憶する。但し、本発明におけるストレージシステム1は、必ずしも上述した方法にて重複記憶を排除することに限定されず、他の方法で記憶処理を行ってもよい。
ここで、本発明ではさらに、上述したように書き込み要求にかかるブロックデータDがまだ記憶されていない非重複ブロックである場合には、以下のように、格納先のデバイスを決定する処理を行う。その動作について、主に、図7の説明図、及び、図8乃至図11のフローチャートを参照して説明する。なお、図8は、ストレージシステム全体における動作を示し、図9乃至図10は、そのうち、ブロックの格納先を決定するときの動作を示す。
まず、重複排除コントローラ20の動作について説明する。
重複排除コントローラ20にファイルが入力されると、かかるファイルをバッファ領域に一時保存する(図8のステップS1)。そして、重複排除処理部21が、ファイルの先頭から固定長にブロック分割し、各ブロックがすでにストレージ内に格納されているか、重複判定を行う(図8のステップS2)。このとき、ファイルの先頭のブロックから、上述したように重複判定を行う。なお、ブロック分割は、可変長で行ってもよい。
重複判定の結果、重複ブロックは、実データを記憶することなく既存のブロックを参照し、ファイルの終端でなければ、次のブロックの重複判定に進む(図9のステップS11:No,図10のステップS28:No,ステップS29を参照)。
一方、重複判定の結果、非重複ブロックは、格納先のデバイスを決定してから、かかるデバイスに格納する。以下、非重複ブロックの格納先となるデバイスを決定する処理について詳細に説明する。
具体的に、非重複ブロックの格納先を決定する際には、まず、図7(A)に示すように、ファイルの属性が、判定選択ポリシー27において定義されているかどうかを参照する(図8のステップS3)。そして、ファイルを構成する非重複ブロックの格納先を決定するポリシーとして、本発明で設定する「本方式」を用いるか、あるいは、既に階層化ストレージシステム30に設定されている「規定ポリシー」を用いるか、を判定する。なお、「規定ポリシー」は、例えば、初期設定として設定されていたり、アクセス頻度や空き容量などから設定された、非重複ブロックの格納先を決定するポリシーである。
判定選択ポリシー27は、例えば、図3に示すように設定されている。図3において「属性」は、上位から書き込まれたファイルの属性を意味し、この属性に該当する場合の判定方式と判定基準のパラメーターを定義している。このうち、「判定方式」は、ファイルが作成された段階における、ファイルの属性による新規データとなる非重複ブロックの格納先決定の方式を示す。
図3の例のでは、ファイルの拡張子が「.XXX」であった場合、非重複ブロックの格納先を「本方式」で決定すべく、次の処理へと進む(図8のステップS4以降、図9のステップS12以降)。もし満たさない場合は、「既定ポリシー」を用いて格納先を決定し、非重複ブロックを格納する(図8のステップS6)。
なお、上述したようにファイルの「属性」によって格納先決定のポリシーを定義する理由としては、高速にアクセスできた方がよいもの、低速だが安価に保存したほうがよいものと、ファイルの種類によって必要とされる特性が異なるためである。例えば、OS(Operating System)のカーネルやアプリケーションのマイナーバージョン間の差分データ(非重複ブロック)は、他の周辺にある格納済みデータ(重複ブロック)と同様に高速でアクセスすることが期待される。一方、データファイルなどは、低速だが安価なデバイスに常に格納することが許容されることがある。
続いて、ファイルの「属性」から、非重複ブロックの格納先を「本方式」で決定する場合には、以下のようにして非重複ブロックの格納先を決定し、図4に示すような格納先のリストを作成する(図8のステップS4)。以下、非重複ブロックの格納先を「本方式」で決定する場合の動作を、主に図9乃至図10を参照して説明する。
まず、非重複ブロックについて(図9のステップS11:Yes)、判定選択ポリシー27から、ファイルの「属性」に該当する判定基準パラメーター(M,N,P)を取得する(図9のステップS12)。ここで、Mは、非重複ブロックの周辺ブロック数を指定する値である。Nは、本方式を用いるときに判断する、前後Mブロック中の重複ブロック数の割合を指定する値である。Pは、ある特定の格納先デバイスに前後Mブロックの重複ブロックのP%以上が格納されているかどうかを判定するために用いる値である。
続いて、非重複ブロックB1の前後の所定範囲に位置する重複ブロックB2が、すでにストレージ内に存在している率(重複率)が閾値以上であるかどうかを判定する。具体的には、図7(B)に示すように、まず、非重複ブロックB1の前後Mブロックにおいて、重複しているブロックB2の数をカウントする(図9のステップS13)。そして、非重複ブロックB1の前後Mブロックの総数である2M個のうち、重複ブロックB2の数の割合を求め、その割合がN%(閾値)を超えているか否かを調べる(図9のステップS14)。重複ブロックの割合がN%を超えていない場合には(図9のステップS14:No)、規定ポリシーによる設定されるデバイスを非重複ブロックB1の格納先として決定する(図10のステップS25)。
一方、重複ブロックの割合がN%を超えている場合には(図9のステップS14:Yes)、図7(C)に示すように、非重複ブロックの前後Mブロックのうち、重複ブロックの格納先の分布を判定する(図9のステップS15)。具体的には、前後Mブロックのすべての重複ブロックB2に対し、現在の格納先デバイスの番号を取得し、デバイスごとの数をカウントする。
ここで、被重複ブロック格納位置判定部26は、重複ブロックごとに、アドレス・オフセットを階層化ストレージシステム30の既存データ格納先I/F32へ入力すると、そのブロックが格納されているデバイス番号(1〜T)を得られる。なお、デバイスの番号は、階層化ストレージシステム30の各デバイス41〜43に、アクセス性能が高い順に、1〜T(T=デバイスの数)の番号が割り振られている。つまり、デバイス番号1のデバイスが最も高速なデバイスであり、デバイス番号Tが最も低速なデバイスである。
そして、ある特定のデバイスに、非重複ブロックの前後Mブロックのうちの重複ブロックがP%(閾値)以上格納されているかどうかを調べる(図9のステップS16)。ある特定のデバイスに、重複ブロックのP%が格納されていない場合には(図9のステップS16:No)、規定ポリシーにより設定されるデバイスを非重複ブロックB1の格納先として決定する(図10のステップS25)。
一方、ある特定のデバイスに、重複ブロックのP%以上が格納されている場合には(図9のステップS16:Yes)、図7(D)に示すように、当該重複ブロックのP%以上が格納されている格納先と、判定選択ポリシー27とに基づいて、最終的に非重複ブロックの格納先を決定する。具体的には、重複ブロックのP%以上が格納されているデバイスの番号から、当該デバイスが、高速なデバイス(当該デバイス番号<=T/2)であるか、低速なデバイス(当該デバイス番号>T/2)であるか、を判定する(図10のステップS21)。そして、判定選択ポリシー27で定義されている、重複ブロックの格納先が高速デバイスである場合の格納位置、または、低速デバイスである場合の格納位置、を参照して、指定されている格納先に基づいて、非重複ブロックの格納位置を決定する。
例えば、図3の判定選択ポリシー27の例では、「ファイルの容量がZZZバイト以上のファイル」において、「前後Mブロックの重複ブロックのP%以上が高速デバイス」の場合は(図10のステップS21:Yes)、高速デバイスの設定を用いる(図10のステップS22)。この場合は、重複ブロックのP%以上が格納されているデバイスを、非重複ブロックの格納先として決定する(図10のステップS24:Yes,ステップS25)。一方、「前後Mブロックの重複ブロックのP%以上が低速デバイス」の場合は(図10のステップS21:No)、低速デバイスの設定を用いる(図10のステップS23)。この場合は、既定ポリシーに基づくデバイスを格納先として決定する(図10のステップS24:No,ステップS26)。
続いて、上述した処理により、非重複ブロックの格納先が、重複ブロックがP%以上の格納されているデバイスを格納先として決定された場合には(図10のステップS25)、その情報を、階層化ストレージシステム30へリクエストするリストに追加する(図10のステップS27)。例えば、図4に示すように、非重複ブロックの格納先の情報として、アドレス、オフセット、格納先のデバイス番号を、リストに追加する(ステップS27)。
以上の処理を、ファイルの終端のブロックまで実行する(図10のステップS28)。ファイルの終端となった場合には、重複排除コントローラ20は、階層化ストレージシステム30のデータ格納先リクエスト受付I/F33へ、リクエストのリストを送付する(図8のステップS5)。そして、データI/O I/F25,31を通じて、データを階層化ストレージシステム30へ非重複ブロックを書き込む(図8のステップS6)。
次に、図11のフローチャートを参照して、階層化ストレージシステム30の動作について詳細に説明する。
まず、データI/O I/F31にデータの書き込みリクエストが来ると、その書き込みデータについて、重複排除コントローラ20から格納先のデバイスが指定されているかどうか、データの格納先リクエストを参照する(図11のステップS31)。重複排除コントローラ20からリクエストにより格納先デバイスを指定されている場合(図11のステップS31:Yes)、リクエストのあった格納先を取得する(図11のステップS32)。例えば、図4に示すリストのアドレスから、非重複ブロックの格納位置を取得する。
そして、リストにより指定されたデバイス内の、上記取得した格納位置に、非重複ブロックを書き込み、アドレス変換テーブルを更新する(図11のステップS33)。なお、リクエストにより格納先デバイスが指定されていない場合は(図11のステップS31:No)、階層化ストレージシステム30の既定ポリシーで指定されているデバイスに書き込み、アドレス変換テーブルを更新する(図11のステップS34)。
以上の本発明におけるストレージシステムでは、ファイルを構成する非重複ブロックを、同一ファイルに属する関連する重複ブロックが格納されている同一のデバイスに格納することができ、データの用途や属性に応じた適切なデバイスに格納することができる。その結果、処理遅延や記憶装置の利用効率の低下を抑制し、また、記憶装置間のデータ移動処理を抑制でき、ストレージシステムの性能の向上を図ることができる。
ここで、上記では、非重複ブロックの格納先を決定する際に、当該非重複ブロックにし前後する所定範囲の重複ブロックの格納先を参照したが、必ずしも非重複ブロックに前後する所定範囲の重複ブロックを用いることに限定されない。非重複ブロックに対して、他の基準によって関連すると判断される重複ブロックの格納先を参照して、当該非重複ブロックの格納先を決定してもよい。
なお、本発明におけるストレージシステムでは、上述した階層化ストレージシステム30の代わりに、他の記憶装置を構成するデバイスを用いてもよい。例えば、アクセス速度が異なる複数のデータ保存が可能なデバイスを組み合わせたものとして、CPUのキャッシュ、メモリ、HDDの組み合わせ、を用いてもよい。但し、格納先となる記憶装置は、必ずしもアクセス速度が異なるものである必要はなく、同一の性能のものや他の性能が異なるものなど、いかなる記憶装置であってもよい。
<付記>
上記実施形態の一部又は全部は、以下の付記のようにも記載されうる。以下、本発明におけるストレージシステム(図12参照)、プログラム、データ格納方法の構成の概略を説明する。但し、本発明は、以下の構成に限定されない。
(付記1)
記憶対象データが記憶装置に既に記憶されている重複状態であるか否かを判定する重複判定部と、
重複していない前記記憶対象データである非重複データの格納先を決定する格納先決定部と、
前記非重複データは、前記決定した格納先となる記憶装置に記憶し、重複している前記記憶対象データである重複データは、当該重複データと同一のデータ内容であり記憶装置に既に記憶されている他のデータを参照して当該重複データとして用いるデータ格納制御部と、を備え、
前記格納先決定部は、前記非重複データと予め設定された基準により関連すると判断される前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
ストレージシステム。
(付記2)
付記1に記載のストレージシステムであって、
前記記憶対象データを構成する前記非重複データ及び前記重複データは、記憶するデータを複数のブロックに分割したデータであり、
前記格納先決定部は、分割前における前記非重複データの位置に前後する所定範囲に位置する前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
ストレージシステム。
(付記3)
付記2に記載のストレージシステムであって、
前記格納先決定部は、分割前における前記非重複データの位置に前後する所定範囲に位置する全てのブロックに対する前記重複データの割合が閾値以上である場合に、当該重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
ストレージシステム。
(付記4)
付記2又は3に記載のストレージシステムであって、
前記格納先決定部は、分割前における前記非重複データの位置に前後する所定範囲に位置する前記重複データの格納先毎の割合を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
ストレージシステム。
(付記5)
付記4に記載のストレージシステムであって、
前記格納先決定部は、分割前における前記非重複データの位置に前後する所定範囲に位置する前記重複データの格納先毎の割合が、閾値以上である当該格納先となる記憶装置の性能を特定し、当該特定した記憶装置の性能を前記判定結果として、当該判定結果に基づいて前記非重複データの格納先を決定する、
ストレージシステム。
(付記6)
付記5に記載のストレージシステムであって、
前記格納先決定部は、前記重複データの格納先毎の割合が閾値以上である当該格納先となる記憶装置の性能として、当該記憶装置の記憶領域に対するアクセス速度が所定の基準により高速であるか否かを特定し、当該特定した記憶装置の性能を前記判定結果として、当該判定結果に基づいて前記非重複データの格納先を決定する、
ストレージシステム。
(付記7)
付記1乃至6のいずれかに記載のストレージシステムであって、
前記非重複データの格納先を予め設定した規定ポリシーと、前記判定結果に応じて前記非重複データの格納先を設定した判定結果ポリシーと、を記憶し、
前記格納先決定部は、前記判定結果に基づいて、前記規定ポリシーか前記判定結果ポリシーのいずれを用いるか決定し、決定されたポリシーに基づいて、前記非重複データの格納先を決定する、
ストレージシステム。
(付記8)
付記7に記載のストレージシステムであって、
前記格納先決定部は、
記憶するデータの属性に応じて前記規定ポリシーを用いるか否かを決定し、
記憶するデータの属性に応じて前記規定ポリシーを用いることを決定した場合には、当該規定ポリシーに基づいて前記非重複データの格納先を決定し、
記憶するデータの属性に応じて前記規定ポリシーを用いないことを決定した場合には、前記判定結果に基づいて、前記規定ポリシーか前記判定結果ポリシーのいずれを用いるか決定し、決定されたポリシーに基づいて、前記非重複データの格納先を決定する、
ストレージシステム。
上記発明によると、まず、記憶対象データが記憶装置に既に記憶されているか(重複データであるか)、まだ記憶されていないか(非重複データ)、を判定し、重複データは既に記憶装置に記憶されている既存のデータを参照することで、記憶処理を完了する。一方、非重複データについては、当該非重複データと関連のある重複データの格納先を判定して、その判定結果に基づいて非重複データの格納先を決定し、決定した格納先の記憶装置に非重複データを格納する。
このとき、例えば、非重複データに関連する重複データとしては、非重複データであるブロックの分割前のデータ配置における前後の所定範囲に位置するブロックを用いる。そして、非重複データに対する前後の所定範囲に位置するブロックのうち、当該非重複データに関連する重複データの割合や、当該重複データの格納先毎の割合に応じて、非重複データの格納先を決定する。例えば、重複データの格納先となる記憶装置のアクセス性能に応じて、非重複データの格納先を決定する。さらには、記憶するデータの属性や上記判定結果に応じて、規定ポリシーによって設定された格納先とするか、判定結果に応じた格納先とするか、を決定する。
これにより、本発明では、非重複データを、関連する重複データが格納されている記憶装置と同一又は関連する記憶装置に格納することができ、データの用途や属性に応じた適切な記憶装置に格納することができる。その結果、処理遅延や記憶装置の利用効率の低下を抑制し、また、記憶装置間のデータ移動処理を抑制でき、ストレージシステムの性能の向上を図ることができる。
(付記9)
情報処理装置に、
記憶対象データが記憶装置に既に記憶されている重複状態であるか否かを判定する重複判定部と、
重複していない前記記憶対象データである非重複データの格納先を決定する格納先決定部と、
前記非重複データは、前記決定した格納先となる記憶装置に記憶し、重複している前記記憶対象データである重複データは、当該重複データと同一のデータ内容であり記憶装置に既に記憶されている他のデータを参照して当該重複データとして用いるデータ格納制御部と、を実現させると共に、
前記格納先決定部は、前記非重複データと予め設定された基準により関連すると判断される前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
ことを実現させるためのプログラム。
(付記10)
記憶対象データが記憶装置に既に記憶されている重複状態であるか否かを判定し、
重複していない前記記憶対象データである非重複データの格納先を決定し、
前記非重複データは、前記決定した格納先となる記憶装置に記憶し、重複している前記記憶対象データである重複データは、当該重複データと同一のデータ内容であり記憶装置に既に記憶されている他のデータを参照して当該重複データとして用いるデータ格納処理を行うデータ格納方法であって、
前記非重複データと予め設定された基準により関連すると判断される前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
データ格納方法。
(付記11)
付記10に記載のデータ格納方法であって、
前記記憶対象データを構成する前記非重複データ及び前記重複データは、記憶するデータを複数のブロックに分割したデータであり、
分割前における前記非重複データの位置に前後する所定範囲に位置する前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
データ格納方法。
(付記12)
付記11に記載のデータ格納方法であって、
分割前における前記非重複データの位置に前後する所定範囲に位置する全てのブロックに対する前記重複データの割合が閾値以上である場合に、当該重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
データ格納方法。
(付記13)
付記11又は12に記載のデータ格納方法であって、
分割前における前記非重複データの位置に前後する所定範囲に位置する前記重複データの格納先毎の割合を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
データ格納方法。
(付記14)
付記13に記載のデータ格納方法であって、
分割前における前記非重複データの位置に前後する所定範囲に位置する前記重複データの格納先毎の割合が、閾値以上である当該格納先となる記憶装置の性能を特定し、当該特定した記憶装置の性能を前記判定結果として、当該判定結果に基づいて前記非重複データの格納先を決定する、
データ格納方法。
(付記15)
付記14に記載のデータ格納方法であって、
前記重複データの格納先毎の割合が閾値以上である当該格納先となる記憶装置の性能として、当該記憶装置の記憶領域に対するアクセス速度が所定の基準により高速であるか否かを特定し、当該特定した記憶装置の性能を前記判定結果として、当該判定結果に基づいて前記非重複データの格納先を決定する、
データ格納方法。
(付記16)
付記10乃至15のいずれかに記載のデータ格納方法であって、
前記判定結果に基づいて、前記非重複データの格納先を予め設定した規定ポリシーか、前記判定結果に応じて前記非重複データの格納先を設定した判定結果ポリシー、のいずれを用いるか決定し、決定されたポリシーに基づいて、前記非重複データの格納先を決定する、
データ格納方法。
(付記17)
付記16に記載のデータ格納方法であって、
記憶するデータの属性に応じて前記規定ポリシーを用いるか否かを決定し、
記憶するデータの属性に応じて前記規定ポリシーを用いることを決定した場合には、当該規定ポリシーに基づいて前記非重複データの格納先を決定し、
記憶するデータの属性に応じて前記規定ポリシーを用いないことを決定した場合には、前記判定結果に基づいて、前記規定ポリシーか前記判定結果ポリシーのいずれを用いるか決定し、決定されたポリシーに基づいて、前記非重複データの格納先を決定する、
データ格納方法。
なお、上述したプログラムは、記憶装置に記憶されていたり、コンピュータが読み取り可能な記録媒体に記録されている。例えば、記録媒体は、フレキシブルディスク、光ディスク、光磁気ディスク、及び、半導体メモリ等の可搬性を有する媒体である。
以上、上記実施形態等を参照して本願発明を説明したが、本願発明は、上述した実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明の範囲内で当業者が理解しうる様々な変更をすることができる。
1 ストレージシステム
2 アクセスノード
3 ストレージノード
20 重複排除コントローラ
21 重複排除処理部
22 データ管理部
23 NASインタフェース
24 仮想ファイルシステム
25 データI/O I/F
26 非重複ブロック格納位置判定部
27 判定選択ポリシー
30 階層化ストレージシステム
31 データI/O I/F
32 既存データ格納先取得I/F
33 新規データ格納先リクエストI/F
34 階層化管理部
35 データ格納I/F管理部
36 データ格納先リクエスト部
37 データ格納先変更部
41 高速デバイス
42 中速デバイス
43 低速デバイス
100 ストレージシステム
101 重複判定部
102 格納先決定部
103 データ格納制御部
110 記憶装置

Claims (10)

  1. 記憶対象データが記憶装置に既に記憶されている重複状態であるか否かを判定する重複判定部と、
    重複していない前記記憶対象データである非重複データの格納先を決定する格納先決定部と、
    前記非重複データは、前記決定した格納先となる記憶装置に記憶し、重複している前記記憶対象データである重複データは、当該重複データと同一のデータ内容であり記憶装置に既に記憶されている他のデータを参照して当該重複データとして用いるデータ格納制御部と、を備え、
    前記格納先決定部は、前記非重複データと予め設定された基準により関連すると判断される前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
    ストレージシステム。
  2. 請求項1に記載のストレージシステムであって、
    前記記憶対象データを構成する前記非重複データ及び前記重複データは、記憶するデータを複数のブロックに分割したデータであり、
    前記格納先決定部は、分割前における前記非重複データの位置に前後する所定範囲に位置する前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
    ストレージシステム。
  3. 請求項2に記載のストレージシステムであって、
    前記格納先決定部は、分割前における前記非重複データの位置に前後する所定範囲に位置する全てのブロックに対する前記重複データの割合が閾値以上である場合に、当該重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
    ストレージシステム。
  4. 請求項2又は3に記載のストレージシステムであって、
    前記格納先決定部は、分割前における前記非重複データの位置に前後する所定範囲に位置する前記重複データの格納先毎の割合を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
    ストレージシステム。
  5. 請求項4に記載のストレージシステムであって、
    前記格納先決定部は、分割前における前記非重複データの位置に前後する所定範囲に位置する前記重複データの格納先毎の割合が、閾値以上である当該格納先となる記憶装置の性能を特定し、当該特定した記憶装置の性能を前記判定結果として、当該判定結果に基づいて前記非重複データの格納先を決定する、
    ストレージシステム。
  6. 請求項5に記載のストレージシステムであって、
    前記格納先決定部は、前記重複データの格納先毎の割合が閾値以上である当該格納先となる記憶装置の性能として、当該記憶装置の記憶領域に対するアクセス速度が所定の基準により高速であるか否かを特定し、当該特定した記憶装置の性能を前記判定結果として、当該判定結果に基づいて前記非重複データの格納先を決定する、
    ストレージシステム。
  7. 請求項1乃至6のいずれかに記載のストレージシステムであって、
    前記非重複データの格納先を予め設定した規定ポリシーと、前記判定結果に応じて前記非重複データの格納先を設定した判定結果ポリシーと、を記憶し、
    前記格納先決定部は、前記判定結果に基づいて、前記規定ポリシーか前記判定結果ポリシーのいずれを用いるか決定し、決定されたポリシーに基づいて、前記非重複データの格納先を決定する、
    ストレージシステム。
  8. 請求項7に記載のストレージシステムであって、
    前記格納先決定部は、
    記憶するデータの属性に応じて前記規定ポリシーを用いるか否かを決定し、
    記憶するデータの属性に応じて前記規定ポリシーを用いることを決定した場合には、当該規定ポリシーに基づいて前記非重複データの格納先を決定し、
    記憶するデータの属性に応じて前記規定ポリシーを用いないことを決定した場合には、前記判定結果に基づいて、前記規定ポリシーか前記判定結果ポリシーのいずれを用いるか決定し、決定されたポリシーに基づいて、前記非重複データの格納先を決定する、
    ストレージシステム。
  9. 情報処理装置に、
    記憶対象データが記憶装置に既に記憶されている重複状態であるか否かを判定する重複判定部と、
    重複していない前記記憶対象データである非重複データの格納先を決定する格納先決定部と、
    前記非重複データは、前記決定した格納先となる記憶装置に記憶し、重複している前記記憶対象データである重複データは、当該重複データと同一のデータ内容であり記憶装置に既に記憶されている他のデータを参照して当該重複データとして用いるデータ格納制御部と、を実現させると共に、
    前記格納先決定部は、前記非重複データと予め設定された基準により関連すると判断される前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
    ことを実現させるためのプログラム。
  10. 記憶対象データが記憶装置に既に記憶されている重複状態であるか否かを判定し、
    重複していない前記記憶対象データである非重複データの格納先を決定し、
    前記非重複データは、前記決定した格納先となる記憶装置に記憶し、重複している前記記憶対象データである重複データは、当該重複データと同一のデータ内容であり記憶装置に既に記憶されている他のデータを参照して当該重複データとして用いるデータ格納処理を行うデータ格納方法であって、
    前記非重複データと予め設定された基準により関連すると判断される前記重複データの格納先を判定し、当該判定結果に基づいて、前記非重複データの格納先を決定する、
    データ格納方法。
JP2014047384A 2014-03-11 2014-03-11 ストレージシステム Active JP6281333B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014047384A JP6281333B2 (ja) 2014-03-11 2014-03-11 ストレージシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014047384A JP6281333B2 (ja) 2014-03-11 2014-03-11 ストレージシステム

Publications (2)

Publication Number Publication Date
JP2015170345A true JP2015170345A (ja) 2015-09-28
JP6281333B2 JP6281333B2 (ja) 2018-02-21

Family

ID=54202964

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014047384A Active JP6281333B2 (ja) 2014-03-11 2014-03-11 ストレージシステム

Country Status (1)

Country Link
JP (1) JP6281333B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6067819B1 (ja) * 2015-10-21 2017-01-25 株式会社東芝 階層化ストレージシステム、ストレージコントローラ、並びに重複排除及びストレージ階層化のための方法
WO2017109822A1 (ja) * 2015-12-21 2017-06-29 株式会社日立製作所 重複排除機能を有するストレージシステム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011099098A1 (ja) * 2010-02-10 2011-08-18 日本電気株式会社 ストレージ装置
JP2012063902A (ja) * 2010-09-15 2012-03-29 Nec Corp ファイル管理装置、プログラム並びに方法
WO2013134347A1 (en) * 2012-03-07 2013-09-12 Netapp, Inc. Deduplicating hybrid storage aggregate

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011099098A1 (ja) * 2010-02-10 2011-08-18 日本電気株式会社 ストレージ装置
US20120311113A1 (en) * 2010-02-10 2012-12-06 Nec Corporation Storage device
JP2012063902A (ja) * 2010-09-15 2012-03-29 Nec Corp ファイル管理装置、プログラム並びに方法
WO2013134347A1 (en) * 2012-03-07 2013-09-12 Netapp, Inc. Deduplicating hybrid storage aggregate
JP2015511037A (ja) * 2012-03-07 2015-04-13 ネットアップ,インコーポレイテッド ハイブリッドストレージ集合体の複製

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6067819B1 (ja) * 2015-10-21 2017-01-25 株式会社東芝 階層化ストレージシステム、ストレージコントローラ、並びに重複排除及びストレージ階層化のための方法
WO2017109822A1 (ja) * 2015-12-21 2017-06-29 株式会社日立製作所 重複排除機能を有するストレージシステム

Also Published As

Publication number Publication date
JP6281333B2 (ja) 2018-02-21

Similar Documents

Publication Publication Date Title
US11662936B2 (en) Writing data using references to previously stored data
US8843445B2 (en) Storage system for storing data in a plurality of storage devices and method for same
US8996799B2 (en) Content storage system with modified cache write policies
US20200019516A1 (en) Primary Data Storage System with Staged Deduplication
US8769225B2 (en) Optimization of data migration between storage mediums
JP6094267B2 (ja) ストレージシステム
EP3230864A1 (en) Cloud alert to replica
CN103999058A (zh) 带驱动器系统服务器
US8683121B2 (en) Storage system
JP5517224B2 (ja) ストレージ装置
JP6281333B2 (ja) ストレージシステム
JP5929326B2 (ja) ストレージシステム
JP5660617B2 (ja) ストレージ装置
JP6343952B2 (ja) ストレージシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180108

R150 Certificate of patent or registration of utility model

Ref document number: 6281333

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150