JP6841074B2 - 情報処理装置、データ圧縮方法及びデータ圧縮プログラム - Google Patents

情報処理装置、データ圧縮方法及びデータ圧縮プログラム Download PDF

Info

Publication number
JP6841074B2
JP6841074B2 JP2017027056A JP2017027056A JP6841074B2 JP 6841074 B2 JP6841074 B2 JP 6841074B2 JP 2017027056 A JP2017027056 A JP 2017027056A JP 2017027056 A JP2017027056 A JP 2017027056A JP 6841074 B2 JP6841074 B2 JP 6841074B2
Authority
JP
Japan
Prior art keywords
data
compression
unit
compressed
input data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017027056A
Other languages
English (en)
Other versions
JP2018132991A (ja
Inventor
鈴木 康介
康介 鈴木
純 加藤
純 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2017027056A priority Critical patent/JP6841074B2/ja
Priority to US15/890,555 priority patent/US10776052B2/en
Publication of JP2018132991A publication Critical patent/JP2018132991A/ja
Application granted granted Critical
Publication of JP6841074B2 publication Critical patent/JP6841074B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0661Format or protocol conversion arrangements
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0608Saving storage space on storage systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0638Organizing or formatting or addressing of data
    • G06F3/0644Management of space entities, e.g. partitions, extents, pools
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • G06F3/0673Single storage device
    • G06F3/0679Non-volatile semiconductor memory device, e.g. flash memory, one time programmable memory [OTP]
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/3068Precoding preceding compression, e.g. Burrows-Wheeler transformation
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/3084Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction using adaptive string matching, e.g. the Lempel-Ziv method
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/3084Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction using adaptive string matching, e.g. the Lempel-Ziv method
    • H03M7/3091Data deduplication

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Memory System (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、情報処理装置、データ圧縮方法及びデータ圧縮プログラムに関する。
SSD(Solid State Drive)は、ハードディスクに比べて読み書きが早く且つ消費電力が少ないという大きなメリットを有する。そして、近年、SSDの低価格化が進んだことで、SSDの実用性が高まり、SSDを用いたストレージ装置の実用化が進んできた。複数のSSDを連結した大規模な記憶装置は、オールフラッシュアレイ(AFA:All Flash Array)と呼ばれる。AFAを備えたストレージ装置は、例えば、演算処理装置であるCPU(Central Processing Unit)、複数のDRAM(Dynamic Random Access Memory)で構成されたDIMM(Dual Inline Memory Module)及びSSDを有する。
AFAでは、SSDを使用することから、書き込み回数の低減及び保存データ量の縮小が望まれる。それらの要求に答えるため、AFAでは、重複除去及び圧縮の2つの技術が活用されている。
重複除去とは、重複したデータはAFAの中の1カ所にのみ保存し、そのデータを持つ全てのファイルにその箇所を参照させる技術である。圧縮は、メモリからSSDへデータを書き込む際に圧縮して保存し、SSDから圧縮されたデータをメモリ上に読み込み、メモリ上に展開する技術である。圧縮手法としては、前方を参照し、同じパターンを省略して圧縮するLZ(Lempel-Ziv)系の圧縮が用いられる場合が多い。LZ系の圧縮を用いた場合、高速な展開が可能となる。
重複除去の技術では、AFAは、SSDに格納された各データに関する情報が格納されたメタデータを用いてSSDに格納された各データの管理を行う。メタデータは、重複除去や圧縮の処理の高速化のために常にメモリ上に配置される。
例えば、重複除去を実現するにあたり、メタデータは、SSDに保存されたデータのPBA(Physical Block Address)や重複除去に用いるハッシュ値を有する。そして、メタデータを用いてSSDに格納されたデータを管理する場合、各メタデータが管理するデータサイズは、大きすぎても小さすぎても性能低下が生じてしまう。
例えば、データサイズが小さいと、DRAMに配置するメタデータ数が増加し、メタデータが占有するメモリ量も増加するため、他の処理に使用可能なメモリ量が減少し、性能が低下してしまう。また、データサイズが大きいと、メモリ上のキャッシュサイズも大きくなり、使用しないデータをDRAMに置くなどメモリ量の浪費が発生するため、他の処理に使用可能なメモリ量が減少し、性能が低下してしまう。そこで、メタデータが管理するデータサイズは、メタデータ数やキャッシュサイズなどを基に決定されることが好ましい。例えば、メタデータが管理するデータサイズは、8KBとされる。
このように、AFAでは、メタデータが管理するデータサイズの単位で重複除去を行う。例えば、メタデータが管理するデータサイズを8KBとすると、AFAでは、8KB単位で重複除去の処理が行われる。
一方、SSDでは、様々なアプリケーションにおいて4KB単位のデータアクセスが多々発生することから、ページサイズとして4KB単位で性能が最適化されている製品が一般的である。
なお、データを分割し、同一内容のデータは、共通データとして1つにまとめて圧縮する従来技術がある。また、画像を所定のブロックに分割して圧縮し、復元時に部分的に復元が行えるようにする従来技術がある。
特開2010−61518号公報 特開2003−319186号公報
しかしながら、上述したようにAFAにおけるデータの管理サイズとSSDでのデータの単位サイズが異なることが考えられる。その場合、データの読み出し要求に対して、AFAにおいて無駄なデータの読み出しが発生するおそれがある。例えば、AFAが8KB単位でデータを管理し、SSDに格納されたデータへのアクセスが4KBで行われる場合、4KBのデータの読み出し要求に対して、AFAは、8KBのデータを読み出して展開し、展開した中から指定された4KB分のデータを用いて応答することになり、4KB分のデータの読み出し及び展開が無駄になる。このように、従来のAFAにおける圧縮技術を用いた場合、データの取り扱いサイズの不整合のため、圧縮展開での性能が低下し、IOPS(Input Output Per Second)といった処理能力が低下するおそれがある。
そこで、8KBのデータを4KB毎に分割して圧縮し、境界を記憶しておくことが考えられる。この場合、4KBのデータの読み出し要求に対しては、読み出した4KBのデータを読み出して展開することができる。例えば、8KBをまとめて圧縮した場合、4KBのデータの読み出し要求に対するIOPSは、285KIOPSであるのに対して、4KB毎に分割して圧縮した場合、4KBのデータの読み出し要求に対するIOPSは460KIOPSとなる。しかし、4KB毎に分割して圧縮した場合、8KBをまとめて圧縮する場合に比較して圧縮率が低下してしまう。そのため、AFAにおいて格納できるデータ量が低下する。
また、データを分割し、同一内容のデータを共通データとして1つにまとめて圧縮する従来技術を用いても、データの取り扱いサイズが不整合の場合、4KB毎に分割して圧縮する場合と同様のデータの取り扱いとなり、圧縮率は低下してしまうおそれがある。また、復元時に部分的に復元を行う従来技術を用いても、データの取り扱いサイズが不整合の場合の圧縮データに起因する処理能力の低下や圧縮率の低下が発生するおそれがある。
開示の技術は、上記に鑑みてなされたものであって、処理性能及び圧縮率を向上させる情報処理装置、データ圧縮方法及びデータ圧縮プログラムを提供することを目的とする。
本願の開示する情報処理装置、データ圧縮方法及びデータ圧縮プログラムの一つの態様において、特定部は、入力データを所定サイズ毎に分けた場合の1つ又は複数の区分位置を特定する。先圧縮部は、前記入力データを圧縮して生成される圧縮データにおける両端からのサイズが所定サイズ以上となる位置、及び、前記区分位置が複数存在する場合に隣合う前記区分位置を挟みその間のサイズが所定サイズ以上となる位置に対応する前記入力データにおける圧縮位置を特定し、前記入力データにおける前記区分位置を挟んで並ぶ前記圧縮位置の間の第1領域に含まれる第1データの圧縮を行う。後圧縮部は、前記入力データにおける前記第1領域以外の第2領域のそれぞれに含まれる各第2データ圧縮を行い、前記第1データ及び前記第2データを圧縮したデータを含む前記圧縮データを生成する
1つの側面では、本発明は、処理性能及び圧縮率を向上させることができる。
図1は、実施例1に係るAFAのブロック図である。 図2は、実施例1に係るメタデータの一例を示す図である。 図3は、第1圧縮部による圧縮の開始状態を表す図である。 図4は、第1圧縮部による圧縮の開始時におけるデータの状態を詳細に表した図である。 図5は、第1圧縮部がipポインタを移動した状態を表す図である。 図6は、第1圧縮部が同じvalueを有するデータを見つけた状態を表す図である。 図7は、第1圧縮部がマッチする位置を確定させた状態を表す図である。 図8は、第1圧縮部による圧縮が完了した状態を示す図である。 図9は、第2圧縮部による圧縮の開始状態を表す図である。 図10は、第2圧縮部が同じvalueを有するデータを見つけた状態を表す図である。 図11は、第2圧縮部がマッチする位置を確定させた状態を表す図である。 図12は、第2圧縮部による圧縮が完了した状態を示す図である。 図13は、第4圧縮部による圧縮状態を表す図である。 図14は、第3圧縮部による圧縮の開始状態を表す図である。 図15は、第3圧縮部による圧縮の開始状態を表す図である。 図16は、実施例1に係る再圧縮部による入力データの再圧縮について説明するための図である。 図17は、前半データの展開を説明するための図である。 図18は、後半データの展開を説明するための図である。 図19は、実施例1に係るAFAによるデータの重畳圧縮の処理のフローチャートである。 図20は、各圧縮方法を用いた場合の読み出し時のIOPS及び圧縮率の比較を表す図である。 図21は、実施例1の変形例における圧縮の順番を説明するための図である。 図22は、実施例2における前半データの再圧縮について説明するための図である。 図23は、実施例2における後半データの再圧縮について説明するための図である。 図24は、実施例2に係る再圧縮の処理のフローチャートである。 図25は、実施例3に係るAFAによる圧縮処理の概要を説明するための図である。 図26は、実施例4に係るAFAのブロック図である。 図27は、実施例4に係るAFAによる共通領域の圧縮について説明するための図である。 図28は、実施例4に係るAFAによる個別領域の圧縮について説明するための図である。 図29は、実施例4に係るメタデータの一例を表す図である。 図30は、AFAのハードウェア構成の一例の図である。
以下に、本願の開示する情報処理装置、データ圧縮方法及びデータ圧縮プログラムの実施例を図面に基づいて詳細に説明する。なお、以下の実施例により本願の開示する情報処理装置、データ圧縮方法及びデータ圧縮プログラムが限定されるものではない。
図1は、実施例1に係るAFAのブロック図である。図1に示すように、AFA1は、FC(Fibre channel)3を介してサーバ2と接続される。AFA1は、サーバ2からの指示に応じて、データの格納及び読み出しを行う。以下では、AFA1におけるデータの圧縮及び展開を主に説明するが、実際には、AFA1は、重複除去などの処理も実行する。
本実施例では、AFA1が、重複除去を行う場合のメタデータの管理単位としてデータを8KB単位で管理しており、且つ、4KB単位でデータの読み出し及び書き込みを行う場合を例に説明する。この4KBが「所定サイズ」の一例にあたる。
AFA1は、送受信部11、特定部12、圧縮バッファ割当部13、圧縮用情報記憶部14、共通領域圧縮部15、個別領域圧縮部16、圧縮バッファ17、再圧縮部18、格納処理部19、読出部20及び記憶部30を有する。
送受信部11は、FC3を介して、サーバ2との間でデータの送受信を行う。送受信部11は、データの書き込み命令をデータとともにサーバ2から受信する。次に、送受信部11は、メタデータの管理単位に受信したデータを分割する。本実施例では、メタデータの管理単位は8KBなので、送受信部11は、取得したデータを8KB単位に分割する。
その後、送受信部11は、分割したデータのサイズを特定部12へ通知するとともに、分割したデータを共通領域圧縮部15へ出力する。以下では、後述する共通領域圧縮部15が送受信部11から入力されたデータを、「入力データ200」という。
また、送受信部11は、データの読み出し命令をサーバ2から受信する。以下では、読み出し命令で指定されたデータを「読出データ」という。送受信部11は、読み出し命令を読出部20へ通知する。その後、送受信部11は、読み出し命令に対する応答として、読出データの入力を読出部20から受ける。そして、送受信部11は、取得した読出データをサーバ2へ送信する。
特定部12は、入力データ200のサイズの通知を送受信部11から受ける。本実施例では、特定部12は、入力データ200のサイズが8KBであるという通知を送受信部11から受ける。さらに、特定部12は、圧縮バッファ17のサイズの通知を圧縮バッファ割当部13から受ける。次に、特定部12は、入力データ200の中心位置を特定する。ここでは、特定部12は、入力データ200の先頭から4KBの点を入力データ200の中心位置として特定する。さらに、特定部12は、圧縮バッファ17の中心位置を特定する。具体的には、特定部12は、圧縮バッファ17の先頭アドレスから中心位置のアドレスまでのオフセットを特定することで圧縮バッファ17の中心位置を特定する。そして、特定部12は、入力データ200の中心位置の情報及び圧縮バッファ17の中心位置の情報を共通領域圧縮部15へ出力する。この入力データ200の中心位置が、「区分位置」の一例にあたる。
圧縮バッファ割当部13は、圧縮バッファ17のサイズを取得する。そして、圧縮バッファ割当部13は、圧縮バッファ17のサイズを特定部12に通知する。
ここで、圧縮バッファ17は、アドレスが一端から他端に向けてシーケンシャルに振られる。以下では、圧縮バッファ17のアドレスが最も若い側の端部を先端と言い、他端を後端という。また、入力データ200は、データが一列に並ぶデータであり、且つ、圧縮された入力データ200は一端から圧縮バッファ17のアドレス順に格納される。以下では、格納時に最も若いアドレスに格納される側の入力データ200の端部を先端と言い、他端を後端という。
ここで、本実施例では、AFA1は、DRAM上に予め8KBのサイズの圧縮バッファ17が設けられる。これは、入力データ200が8KBであるので、入力データ200を圧縮した圧縮データは8KB以下になるため、圧縮バッファ17として8KBの領域を確保すれば十分であるからである。そして、本実施例では、圧縮バッファ割当部13は、圧縮バッファ17のサイズを予め8KBと記憶しており、その記憶したサイズを特定部12に通知する。以下では、入力データ200を圧縮したデータを「圧縮データ300」という。
ただし、圧縮バッファ17のサイズは動的に変更されてもよく、その場合、圧縮バッファ割当部13は、DRAM上に領域を確保して圧縮バッファ17を形成する。そして、圧縮バッファ割当部13は、確保した領域のサイズを特定部12に通知する。
圧縮用情報記憶部14は、ハッシュテーブル141、ハッシュテーブル142及びメタデータ143を有する。
ハッシュテーブル141は、共通領域圧縮部15が圧縮を行う際に利用するテーブルである。本実施例では、ハッシュテーブル141は、共通領域圧縮部15が圧縮を行う際に共通領域圧縮部15により圧縮用情報記憶部14に作成される。ハッシュテーブル141は、個別領域圧縮部16が圧縮を行う際にも利用される。
ハッシュテーブル142は、個別領域圧縮部16が圧縮を行う際に利用するテーブルである。本実施例では、ハッシュテーブル142は、個別領域圧縮部16が圧縮を行う際に個別領域圧縮部16により圧縮用情報記憶部14に作成される。
メタデータ143は、重複除去の処理に使用されるデータである。図2は、実施例1に係るメタデータの一例を示す図である。メタデータ143は、160bitのハッシュ値を格納する領域を有する。このメタデータ143が有するハッシュ値は、重複除去の処理において用いられる情報である。
さらに、本実施例に係るメタデータ143は、自己が管理する入力データ200を圧縮した圧縮データ300の先頭を表すデータ先頭セクタアドレスを格納する先頭アドレス格納領域311を有する。さらに、メタデータ143は、自己が管理する入力データ200を圧縮した圧縮データ300の先頭から後述する共通領域の先頭までの長さを表すオフセットを格納するオフセット格納領域312を有する。このメタデータが、「管理データ」の一例にあたる。
図1に戻って説明を続ける。本実施例に係る共通領域圧縮部15は、第1圧縮部151及び第2圧縮部152を有する。この共通領域圧縮部15が、「先圧縮部」の一例にあたる。
共通領域とは、入力データ200の内の前半4KBにあたる前半データを読み出す場合に圧縮データ300から読み出す領域と、入力データ200の内の後半4KBにあたる後半データを読み出す場合に圧縮データ300から読み出す領域の重なる領域を指す。共通領域には、以下に説明するように、前半データの一部と後半データの一部とが含まれる。第1圧縮部151は、共通領域のうちの後半データにあたる部分の圧縮を行う。第2圧縮部152は、共通領域のうちの前半データにあたる部分の圧縮を行う。以下に、第1圧縮部151及び第2圧縮部152の詳細について説明する。
第1圧縮部151は、入力データ200の入力を送受信部11から受ける。また、第1圧縮部151は、入力データ200の中心位置の情報及び圧縮バッファ17の中心位置の情報の入力を特定部12から受ける。第1圧縮部151は、ハッシュテーブル141を圧縮用情報記憶部14に作成する。
次に、第1圧縮部151は、入力データ200の中心位置にアンカーポインタ(anchor pointer)及びip(input)ポインタをセットする。さらに、第1圧縮部151は、圧縮バッファ17の中心位置にop(output)ポインタをセットする。図3は、第1圧縮部による圧縮の開始状態を表す図である。図3では、入力データ200上の位置を示す「anchor」及び「ip」の文字が付加された矢印が、それぞれアンカーポインタ及びipポインタを表す。また、圧縮バッファ17上の位置を示す「op」の文字が付加された矢印が、opポインタを表す。図3に示すように、アンカーポインタ及びipポインタは、入力データ200の中心位置、すなわち、先端からのサイズが4KBとなり後端までのサイズが4KBとなる位置に配置される。
さらに、第1圧縮部151は、ハッシュテーブル141を作成する。この状態では、圧縮は開始されていないので、ハッシュテーブル141は、空の状態である。図4は、第1圧縮部による圧縮の開始時におけるデータの状態を詳細に表した図である。以下では、第1圧縮部151による圧縮を圧縮C1という。図4に示すように入力データ200は、その中に1つ1つのデータを格納する。第1圧縮部151は、圧縮C1の開始時に、入力データ200の中心位置のデータにアンカーポインタ及びipポインタをセットする。
次に、第1圧縮部151は、ipポインタがセットされたデータをハッシングする。そして、第1圧縮部151は、ハッシング結果に対応するkeyをハッシュテーブル141に登録する。さらに、第1圧縮部151は、登録したkeyに対応させて、ipポインタの位置をvalueとしてハッシュテーブル141に登録する。例えば、図4では、最初のデータ「p」は1番目なので、第1圧縮部151は、valueを1とする。
次に、第1圧縮部151は、図5に示すように、入力データ200の後端に向けて隣のデータにipポインタを移動する。図5は、第1圧縮部がipポインタを移動した状態を表す図である。そして、第1圧縮部151は、ipポインタが示すデータをハッシングし、そのハッシング結果に対応するvalueが既にハッシュテーブル141に登録されているか否かを判定する。登録されていなければ、第1圧縮部151は、valueを登録し、入力データ200の後端に向けて隣のデータにipポインタを移動させる。このように、ipポインタが示すデータのハッシング結果に対応するvalueがハッシュテーブル141に登録されていない場合、第1圧縮部151は、valueの登録及びipポインタの移動を繰返す。
第1圧縮部151は、図6に示すように、ipポインタが示すデータのハッシング結果に対応するvalueがハッシュテーブル141に登録されたデータを特定する。図6は、第1圧縮部が同じvalueを有するデータを見つけた状態を表す図である。そして、第1圧縮部151は、ipポインタが示すデータと同じvalueを有するデータにマッチポインタをセットする。図6において、入力データ200上の位置を示す「match」の文字が付加された矢印が、マッチポインタを表す。そして、第1圧縮部151は、アンカーポインタからipポインタ間をliteralとしてエンコードを開始する。第1圧縮部151は、ipポインタからアンカーポインタまでの長さを算出する。この算出した長さが、同じパターンのないliteral長なので、第1圧縮部151は、literal長171をopポインタの示す位置から書き込む。さらに、第1圧縮部151は、literal長171の圧縮バッファ17の後端側の隣に、データ201をliteralの実データ172として書き込む。次に、第1圧縮部151は、ipポインタからマッチポインタまでの長さ202を算出する。この算出した長さ202が、ipポインタからvalueが一致したデータまでのオフセットなので、第1圧縮部151は、literalの実データ172の圧縮バッファ17の後端側の隣に、算出した長さ202をmatchのオフセット173として書き込む。第1圧縮部151は、matchのオフセット173の後ろにopポインタをセットする。
次に、第1圧縮部151は、マッチポインタ及びipポインタをそれぞれ入力データ200の後端に向けて移動させ、どこまでvalueが一致するかを確認する。以下では、valueが一致することをマッチするという。図7は、第1圧縮部がマッチする位置を確定させた状態を表す図である。第1圧縮部151は、マッチする位置が確定すると、マッチするデータ長203を取得する。そして、第1圧縮部151は、データ長203を、matchのオフセット173の圧縮バッファ17の後端側の隣にmatch長174として書き込む。第1圧縮部151は、match長174の後ろにopポインタをセットする。
ここで、第1圧縮部151は、この時点での圧縮開始位置から圧縮が完了した位置までの圧縮前サイズx’を取得する。さらに、第1圧縮部151は、その時点での圧縮後サイズc’を取得する。
ここで、圧縮後サイズc’を圧縮前サイズx’で除算することで、その時点での圧縮率である暫定圧縮率y’が算出できる。すなわち、暫定圧縮率y’=c’/x’として算出される。圧縮データ300の先頭から4KBのサイズのデータには、圧縮前の入力データ200の先頭から4KBのサイズの前半データが含まれる。そこで、圧縮データ300の先頭から4KBのサイズまでを展開すれば、入力データ200の前半データが含まれることになる。そして、共通領域は、第1圧縮部151が圧縮したデータの最後までを含む。すなわち、圧縮データ300の先頭から第1圧縮部151が圧縮したデータの最後までを展開すれば前半データが取得できる。そこで、圧縮データ300の先頭から4KBのサイズのデータを読み込んだ場合に、圧縮データ300の先頭から第1圧縮部151が圧縮したデータの最後までを読み込めればよい。すなわち、圧縮データ300の先頭から第1圧縮部151が圧縮したデータの最後までのサイズが4KB以下に収まればよい。このことから、前半データのサイズ4KBに圧縮前サイズx’を加算した値に暫定圧縮率y’を乗算した値が4KB以下、すなわち、(4+x’)×y’≦4となればよい。
このことから、第1圧縮部151は、(4+x’)×y’≦4に算出した暫定圧縮率y’=c/x’を代入した式であるx’≧4c’/(4−c’)を、圧縮前サイズx’が満たすか否かを判定する。以下では、x’≧4c’/(4−c’)を「境界判定式」という。境界判定式を満たす場合、第1圧縮部151は、圧縮C1の処理を継続する。
第1圧縮部151は、アンカーポインタ及びipポインタをマッチしたデータの入力データ200の後端側の隣のデータに設定する。その後、第1圧縮部151は、圧縮C1を入力データ200の後端に向けて進める。そして、第1圧縮部151は、マッチする位置が確定する毎に、その時点での圧縮前サイズ及び圧縮後サイズを算出し、境界判定式を満たすか否かを判定する。境界判定式を満たす場合、第1圧縮部151は、圧縮C1を継続する。これに対して、境界判定式を満たさない場合、第1圧縮部151は、1つ前のマッチを確定した位置を第1圧縮位置として決定する。この場合、第1圧縮部151は、図8に示すように、最後のマッチする位置が確定した位置にアンカーポインタ、ipポインタ及びopポインタを戻す。図8は、第1圧縮部による圧縮が完了した状態を示す図である。これにより、第1圧縮部151は、圧縮バッファ17の領域R1に、入力データ200の中心位置から第1圧縮位置までを圧縮したデータを配置して圧縮C1を終了する。図8において入力データ200のグレーアウトした領域は圧縮が完了した領域を示す。また、入力データ200の太線で囲われた領域は共通領域となる領域を示す。
このように、第1圧縮部151は、入力データ200の中心位置から後端に向けて圧縮C1を行う。そして、圧縮C1を終了すると、第1圧縮部151は、入力データ200を第2圧縮部152へ出力する。
図1に戻って説明を続ける。第2圧縮部152は、入力データ200の入力を第1圧縮部151から受ける。また、第2圧縮部152は、入力データ200の中心位置の情報及び圧縮バッファ17の中心位置の情報の入力を特定部12から受ける。
次に、第2圧縮部152は、入力データ200の中心位置にアンカーポインタ及びipポインタを戻す。さらに、第2圧縮部152は、圧縮バッファ17の中心位置にopポインタを戻し図9の状態とする。図9は、第2圧縮部による圧縮の開始状態を表す図である。そして、第2圧縮部152は、入力データ200の中心位置から先頭に向けて圧縮を開始する。
第2圧縮部152は、図10に示すように、ipポインタを入力データ200の中心位置から先端に向けて移動させながら、ハッシュテーブル141を用いて圧縮C2を実行する。図10は、第2圧縮部が同じvalueを有するデータを見つけた状態を表す図である。
第2圧縮部152は、図10に示すように、ipポインタが示すデータのハッシング結果に対応するvalueの有無をハッシュテーブル141から判定する。ipポインタが示すデータのハッシング結果に対応するvalueがハッシュテーブル141に無ければ、第2圧縮部152は、ipポインタが示すデータのハッシング結果に対応するkey及びvalueをハッシュテーブル141に登録する。
ipポインタが示すデータのハッシング結果に対応するvalueがある場合、第2圧縮部152は、ipポインタが示すデータと同じvalueを有するデータにマッチポインタをセットする。ここで、ハッシュテーブル141には、圧縮C1において作成されたkeyとvalueが登録済みである。そのため、第2圧縮部152は、圧縮対象のデータと圧縮C1で用いられたデータとの重複も圧縮に用いることができる。つまり、第2圧縮部152は、ipポインタが示すデータのハッシング結果に対応するvalueと圧縮C1で用いられたデータとのvalueの一致を判定し、一致しなければ、次に圧縮C2での圧縮対象となるデータのvalueの一致の判定を行うことになる。
そして、第2圧縮部152は、valueが一致したデータにマッチポインタをセットする。そして、第2圧縮部152は、アンカーポインタからipポインタ間をliteralとしてエンコードを開始する。第2圧縮部152は、ipポインタからアンカーポインタまでの長さを算出する。そして、第2圧縮部152は、literal長175をopポインタの示す位置から書き込む。次に、第2圧縮部152は、literal長175の圧縮バッファ17の先頭側の隣に、データ204をliteralの実データ176として書き込む。次に、第2圧縮部152は、literalの実データ176の圧縮バッファ17の先頭側の隣に、ipポインタからマッチポインタまでの長さ205をmatchのオフセット177として、圧縮バッファ17に書き込む。第2圧縮部152は、matchのオフセット177の後ろにopポインタを設定する。
次に、第2圧縮部152は、マッチポインタ及びipポインタをそれぞれ入力データ200の先端に向けて移動させ、どこまでマッチするかを確認する。図11は、第2圧縮部がマッチする位置を確定させた状態を表す図である。第2圧縮部152は、マッチする位置が確定すると、マッチするデータ長206を取得する。そして、第2圧縮部152は、データ長206を、matchのオフセット177の圧縮バッファ17の先端側の隣にmatch長178として書き込む。第2圧縮部152は、match長178の後ろにopポインタをセットする。
ここで、第2圧縮部152は、この時点での圧縮開始位置から圧縮が完了した位置までの圧縮前サイズx’を取得する。さらに、第2圧縮部152は、その時点での圧縮後サイズc’を取得する。そして、第2圧縮部152は、取得した圧縮前サイズx’及び圧縮後サイズc’が境界判定式を満たすか否かを判定する。
第2圧縮部152は、マッチする位置が確定する毎に、その時点での圧縮前サイズ及び圧縮後サイズを算出し、境界判定式を満たすか否かを判定する。境界判定式を満たす場合、第2圧縮部152は、圧縮C2を継続する。これに対して、境界判定式を満たさない場合、第2圧縮部152は、1つ前のマッチを確定した位置を第2圧縮位置として決定する。この場合、第2圧縮部152は、図12に示すように、最後のマッチする位置が確定した位置にアンカーポインタ、ipポインタ及びopポインタを戻す。図12は、第2圧縮部による圧縮が完了した状態を示す図である。これにより、第2圧縮部152は、圧縮バッファ17の領域R2に、入力データ200の中心位置から第2圧縮位置までを圧縮したデータを配置して圧縮C2を終了する。
このように、第2圧縮部152は、入力データ200の中心位置から先端に向けて圧縮C2を行う。そして、圧縮C2を終了すると、第2圧縮部152は、圧縮バッファ17の領域R2の先端側の隣の2byteの領域301に、その位置から圧縮バッファ17の中心位置までのオフセットを格納する。この領域R2の先端の位置が「基準位置」の一例にあたり、このオフセットが、「第1相対距離」にあたる。その後、第2圧縮部152は、入力データ200を個別領域圧縮部16の第4圧縮部162へ出力する。ここで、図12では、分かり易いようにオフセットを格納する領域301を大きく記載したが、実際にはきわめて小さい領域であるので、この後の図では領域301を単に線として記載する。
図1に戻って説明を続ける。個別領域圧縮部16は、第3圧縮部161及び第4圧縮部162を有する。この個別領域圧縮部16が、「後圧縮部」の一例にあたる。
第3圧縮部161は、後半データの残りの領域の圧縮を行う。また、第4圧縮部162は、前半データの残りの領域の圧縮を行う。以下に、第3圧縮部161及び第4圧縮部162の詳細について説明する。
第4圧縮部162は、入力データ200の入力を第2圧縮部152から受ける。そして、第4圧縮部162は、ハッシュテーブル142を圧縮用情報記憶部14に作成する。
図13は、第4圧縮部による圧縮状態を表す図である。第4圧縮部162は、その時点でのアンカーポインタ、ipポインタ及びopポインタの位置から入力データ200の先端に向けて圧縮C3を実行する。圧縮C3において、第4圧縮部162は、ipポインタが示すデータのハッシング結果に対応するvalueの有無をハッシュテーブル141及びハッシュテーブル142から判定する。すなわち、第4圧縮部162は、共通部分のデータも圧縮の対象とするデータとのマッチに利用する。これにより、圧縮C3により生成された圧縮データは、圧縮C1及びC2により生成されたデータとともに展開することで、正しく展開することができる。
ipポインタが示すデータのハッシング結果に対応するvalueがハッシュテーブル141又は142に無ければ、第4圧縮部162は、ipポインタが示すデータのハッシング結果に対応するkey及びvalueをハッシュテーブル142に登録する。ipポインタが示すデータのハッシング結果に対応するvalueがある場合、第4圧縮部162は、マッチした場合の処理を第2圧縮部152と同様に行う。第4圧縮部162は、入力データ200の先端まで圧縮C3を実行する。
このように、第4圧縮部162は、入力データ200の共通領域の先端側の端部から先端に向けて圧縮C3を行う。そして、第4圧縮部162は、圧縮バッファ17の領域R3に、入力データ200の共通領域の先端側の端部から先端までのデータの圧縮データを配置して圧縮C3を終了する。圧縮C3を終了すると、第4圧縮部162は、入力データ200を第3圧縮部161へ出力する。
第3圧縮部161は、入力データ200の入力を第4圧縮部162から受ける。図14は、第3圧縮部による圧縮の開始状態を表す図である。第3圧縮部161は、アンカーポインタ及びipポインタを共通領域の入力データ200の後端側の端部にセットする。また、第3圧縮部161は、opポインタを領域R1の圧縮バッファ17の後端側の端部にセットする。さらに、第3圧縮部161は、ハッシュテーブル142の登録情報をクリアする。
第3圧縮部161は、アンカーポインタ、ipポインタ及びopポインタの位置から入力データ200の後端に向けて圧縮C4を実行する。図15は、第3圧縮部による圧縮の開始状態を表す図である。圧縮C4において、第3圧縮部161は、ipポインタが示すデータのハッシング結果に対応するvalueの有無をハッシュテーブル141及びハッシュテーブル142から判定する。すなわち、第3圧縮部161は、共通部分のデータも圧縮の対象とするデータとのマッチに利用する。ただし、ハッシュテーブル142の登録情報は圧縮C4を実行する前にクリアされているので、圧縮C3で圧縮されたデータはマッチに利用されない。これにより、圧縮C4により生成された圧縮データは、圧縮C1及びC2により生成されたデータとともに展開することで、正しく展開することができる。
ipポインタが示すデータのハッシング結果に対応するvalueがハッシュテーブル141又は142に無ければ、第3圧縮部161は、ipポインタが示すデータのハッシング結果に対応するkey及びvalueをハッシュテーブル142に登録する。ipポインタが示すデータのハッシング結果に対応するvalueがある場合、第3圧縮部161は、マッチした場合の処理を第1圧縮部151と同様に行う。第3圧縮部161は、入力データ200の後端まで圧縮C4を実行する。
このように、第3圧縮部161は、入力データ200の共通領域の後端側の端部から後端に向けて圧縮C4を行う。そして、第3圧縮部161は、圧縮バッファ17の領域R4に、入力データ200の共通領域の後端側の端部から後端までのデータの圧縮データを配置して圧縮C4を終了する。これにより、圧縮データ300が完成する。圧縮C4を終了すると、第4圧縮部162は、圧縮の終了通知を再圧縮部18の第1再圧縮部181へ出力する。
再圧縮部18は、第1圧縮部151及び第2圧縮部152の圧縮率の予測がはずれたか否かを判定する。そして、予測がはずれた場合に、再圧縮部18は、再度圧縮を行う。以下に、第1再圧縮部181及び第2再圧縮部182について詳細に説明する。
第1再圧縮部181は、圧縮の終了通知の入力を第4圧縮部162から受ける。そして、第1再圧縮部181は、圧縮バッファ17に格納された圧縮データ300の領域R1、R2及びR3のそれぞれのサイズの合計が4KBを超えるか否かを判定する。
図16は、実施例1に係る再圧縮部による入力データの再圧縮について説明するための図である。ここでは、共通領域圧縮部15及び個別領域圧縮部16により入力データ200が圧縮され圧縮データ302が生成されたものとする。
この場合、第1再圧縮部181は、圧縮データ302における領域R5のサイズが4KBを超えているか否かを判定する。領域R5のサイズが4KBを超えている場合、第1圧縮部151の圧縮率の予測がはずれたといえる。その場合、圧縮データ302の先端から4KBを読み出して展開しても、領域R1のデータの一部が読み落とされてしまうため、正確な展開が行われない。
そこで、第1再圧縮部181は、圧縮バッファ17に格納された圧縮データ300を破棄する。さらに、第1再圧縮部181は、ハッシュテーブル141及び142の登録情報をクリアする。そして、第1再圧縮部181は、ハッシュテーブル141を用いて、入力データ200の先端から中間位置までの圧縮C’1を行う。この場合、ハッシュテーブル141には他の情報は登録されていないので、第1再圧縮部181は、圧縮C’1の対象となるデータ間でのみマッチを確認する。次に、第1再圧縮部181は、入力データ200の中間位置から後端までの圧縮C’2を行う。この場合も、ハッシュテーブル142には他の情報は登録されていないので、第1再圧縮部181は、圧縮C’2の対象となるデータ間でのみマッチを確認する。すなわち、第1再圧縮部181は、入力データ200を前半データと後半データに分けて、それぞれに対して通常の圧縮を行うことになる。その後、第1再圧縮部181は、再圧縮の完了通知を格納処理部19へ出力する。
これに対して、領域R5のサイズが4KB以下の場合、第1圧縮部151の圧縮率の予測は当たったといえる。その場合、第1再圧縮部181は、圧縮正常の通知を第2再圧縮部182へ出力する。
第2再圧縮部182は、圧縮正常の通知の入力を第1再圧縮部181から受ける。そして、第2再圧縮部182は、圧縮バッファ17に格納された圧縮データ300の領域R1、R2及びR4のそれぞれのサイズの合計が4KBを超えるか否かを判定する。ここでは、共通領域圧縮部15及び個別領域圧縮部16により入力データ200が圧縮され図16における圧縮データ303が生成されたものとする。
この場合、第2再圧縮部182は、圧縮データ303における領域R6のサイズが4KBを超えているか否かを判定する。領域R6のサイズが4KBを超えている場合、第2圧縮部152の圧縮率の予測がはずれたといえる。その場合、領域R2先端から圧縮データ303の後端に向けて4KBの領域を読み出して展開しても、領域R4の一部が読み落とされてしまうため、正確な展開が行われない。
そこで、第2再圧縮部182は、圧縮バッファ17に格納された圧縮データ300を破棄する。さらに、第2再圧縮部182は、ハッシュテーブル141及び142の登録情報をクリアする。そして、第2再圧縮部182は、第1圧縮部151と同様の圧縮C’1及びC’2を実行する。その後、第2再圧縮部182は、再圧縮の完了通知を格納処理部19へ出力する。
これに対して、領域R6のサイズが4KB以下の場合、第1圧縮部151の圧縮率の予測は当たったといえる。その場合、第2再圧縮部182は、圧縮正常の通知を格納処理部19へ出力する。
格納処理部19は、第2再圧縮部182から圧縮正常の通知の入力を受けると、圧縮バッファ17から圧縮データ300を取得する。そして、格納処理部19は、取得した圧縮データ300を記憶部30に格納する。その後、格納処理部19は、共通領域を使用した圧縮である重畳圧縮を表す情報を、例えば、メタデータ143のリザーブ領域の所定の場所に格納する。また、格納処理部19は、圧縮データ300を格納した記憶部30のデータ先頭セクタアドレスをメタデータ143の先頭アドレス格納領域311に格納する。さらに、格納処理部19は、記憶部30における圧縮データ300における領域301が格納された位置の圧縮データ300のデータ先頭セクタアドレスからのオフセットをオフセット格納領域312に格納する。領域301が格納された位置の圧縮データ300のデータ先頭セクタアドレスからのオフセットが、「第2相対距離」にあたる。
また、格納処理部19は、第1再圧縮部181又は第2再圧縮部182から再圧縮完了の通知の入力を受けると、圧縮バッファ17から圧縮データ300を取得する。そして、格納処理部19は、取得した圧縮データ300を記憶部30に格納する。その後、格納処理部19は、入力データ200を前半データと後半データに分割して圧縮した分割圧縮を表す情報を、例えば、メタデータ143のリザーブ領域の所定の場所に格納する。また、格納処理部19は、圧縮データ300を格納した記憶部30のデータ先頭セクタアドレスをメタデータ143の先頭アドレス格納領域311に格納する。さらに、格納処理部19は、記憶部30における圧縮データ300の中心位置の圧縮データ300のデータ先頭セクタアドレスからのオフセットをオフセット格納領域312に格納する。
読出部20は、4KBのデータの読み出し命令の入力を送受信部11から受ける。そして、読出部20は、指定された4KBのデータを管理するメタデータ143を参照する。次に、読出部20は、指定された4KBのデータの圧縮方法をメタデータ143から取得する。
圧縮方法が重畳圧縮の場合、読出部20は、データ先頭セクタアドレス及びオフセットをメタデータ143の先頭アドレス格納領域311及びオフセット格納領域312から取得する。次に、読出部20は、指定された4KBのデータがメタデータ143により管理される8KBのデータの前半データか後半データかを判定する。
指定された4KBのデータが前半データの場合、読出部20は、取得したデータ先頭セクタアドレスを用いて、図17に示すように、メタデータ143により管理される8KBのデータの圧縮データ300における先端から4KB分を記憶部30から読み出す。図17は、前半データの展開を説明するための図である。ここで、図17では、領域R1,R2及びR3を繋いだデータがちょうど4KBのデータになる場合を図示しているが、実際には、領域R1,R2及びR3を繋いだデータは4KBのデータより小さくてもよい。その場合、読出部20は、先端から4KBのデータとなるようにR1の後ろの余剰データも記憶部30から読み出す。
次に、読出部20は、オフセットを用いて、読み出した圧縮されたデータの領域301を特定する。次に、読出部20は、特定した領域301から中心位置までのオフセットを取得する。次に、読出部20は、領域R2の先頭に対して取得した中心位置までのオフセットを加えて中心位置310を特定する。
そして、読出部20は、中心位置310から領域R1の後端に向かってデータを読み出しながら展開E1を実行する。展開E1が完了すると、読出部20は、中心位置310から領域R2の先端に向かって展開E2を実行する。このとき、読出部20は、既に完了しした展開E1により作成された領域R1を展開したデータも展開E2に利用する。その後、展開E2が完了すると、読出部20は、領域R2の先端から領域R3の先端に向かって展開E3を実行する。このとき、読出部20は、既に完了しした展開E1により作成された領域R1を展開したデータ及び展開E2により作成された領域R2を展開したデータも展開E3に利用する。これにより、読出部20は、展開後データ321を取得する。
次に、読出部20は、展開後データ321の先端から4KBのデータを読み出してデータRD21を取得する。このデータRD21が、読み出し命令により指定されたデータにあたる。また、これ以外にも、領域R2と領域R1との境界は、Initial長が連続するので、読出部20は、Initial長が連続する位置までデータを展開して取得することで、読み出し命令により指定されたデータRD21を取得することができる。
これに対して、指定された4KBのデータが後半データの場合、読出部20は、取得したデータ先頭セクタアドレスに取得したオフセットを加えて領域301の位置を特定する。次に、読出部20は、図18に示すように、メタデータ143により管理される8KBのデータの圧縮データ300の領域301の位置の後端から4KB分を記憶部30から読み出す。図18は、後半データの展開を説明するための図である。ここで、図18では、領域R1,R2及びR3を繋いだデータがちょうど4KBのデータになる場合を図示しているが、実際には、領域R1,R2及びR3を繋いだデータは4KBのデータより小さくてもよい。その場合、読出部20は、領域301の位置の後端から圧縮データ300の後端までの4KBより小さいデータを記憶部30から読み出す。
次に、読出部20は、オフセットを用いて、読み出した圧縮されたデータの先端に対して領域301に格納された中心位置までのオフセットを加えて中心位置310を特定する。そして、読出部20は、中心位置310から領域R1の後端に向かってデータを読み出しながら展開E’1を実行する。展開E’1が完了すると、読出部20は、中心位置310から領域R2の先端に向かって展開E’2を実行する。このとき、読出部20は、既に完了しした展開E’1により作成された領域R1を展開したデータも展開E’2に利用する。その後、展開E’2が完了すると、読出部20は、領域R2の先端から領域R3の先端に向かって展開E’3を実行する。このとき、読出部20は、既に完了しした展開E’1により作成された領域R1を展開したデータ及び展開E’2により作成された領域R2を展開したデータも展開E’3に利用する。これにより、読出部20は、展開後のデータ322を取得する。
次に、読出部20は、展開後のデータ322の後端から4KBのデータを読み出してデータRD22を取得する。このデータRD22が、読み出し命令により指定されたデータにあたる。また、この場合も、読出部20は、Initial長が連続する位置までデータを展開して取得することで、読み出し命令により指定されたデータRD22を取得することができる。
一方、圧縮方法が分割圧縮の場合、読出部20は、データ先頭セクタアドレス及び中心位置の圧縮データ300のデータ先頭セクタアドレスからのオフセットをメタデータ143の先頭アドレス格納領域311及びオフセット格納領域312から取得する。次に、読出部20は、指定された4KBのデータがメタデータ143により管理される8KBのデータの前半データか後半データかを判定する。
そして、指定された4KBのデータが前半データの場合、読出部20は、圧縮データ300の先端から中心位置までのデータを読み出し展開を行う。また、指定された4KBのデータが後半データの場合、読出部20は、中心位置から圧縮データ300の後端までのデータを読み出し展開を行う。これにより、読出部20は、読み出し命令により指定されたデータを取得する。
その後、読出部20は、取得した展開済みのデータを、データの読み出し命令の応答として送受信部11へ出力する。このように、読出部20は、データの読み出しを行う場合、前半データ又は後半データのいずれの読み出しであっても、共通領域を含むデータを読み出して展開することで、指定されたデータを取得することができる。この読出部20が、「展開部」の一例にあたる。
次に、図19を参照して、本実施例に係るAFA1によるデータの重畳圧縮の処理の流れについて説明する。図19は、実施例1に係るAFAによるデータの重畳圧縮の処理のフローチャートである。
送受信部11は、データの格納命令とともに入力データ200をサーバ2から受信する。そして、送受信部11は、入力データ200のサイズを特定部12へ出力する。さらに、送受信部11は、入力データ200を第1圧縮部151へ出力する。特定部12は、入力データ200のサイズを送受信部11から取得する。また、特定部12は、圧縮バッファ17のサイズを圧縮バッファ割当部13から取得する(ステップS1)。
次に、特定部12は、入力データ200の中心位置を計算する(ステップS2)。そして、特定部12は、入力データ200の中心位置の情報を第1圧縮部151へ出力する。
第1圧縮部151は、入力データ200の入力を送受信部11から受ける。また、第1圧縮部151は、入力データ200の中心位置の情報の入力を特定部12から受ける。そして、第1圧縮部151は、入力データ200の中心位置にアンカーポインタ及びipポインタをセットする(ステップS3)。
次に、特定部12は、圧縮バッファ17の中心位置310を計算する(ステップS4)。そして、特定部12は、圧縮バッファ17の中心位置310の情報を第1圧縮部151へ出力する。
第1圧縮部151は、圧縮バッファ17の中心位置310の情報の入力を特定部12から受ける。そして、第1圧縮部151は、圧縮バッファ17の中心位置310にоpポインタをセットする(ステップS5)。
次に、第1圧縮部151は、ハッシュテーブル141を圧縮用情報記憶部14に作成する。また、第4圧縮部162は、ハッシュテーブル142を圧縮用情報記憶部14に作成する(ステップS6)。
次に、第1圧縮部151は、ハッシュテーブル141を使用して圧縮C1を実行する(ステップS7)。そして、第1圧縮部151は、アンカーポインタ及びipポインタが配置された入力データ200を第2圧縮部152へ出力する。
次に、第2圧縮部152は、ハッシュテーブル141を使用して圧縮C2を実行する(ステップS8)。そして、第2圧縮部152は、アンカーポインタ及びipポインタが配置された入力データ200を第4圧縮部162へ出力する。
さらに、第2圧縮部152は、圧縮済みのデータの先端から圧縮バッファ17の中心位置310までのオフセットを圧縮済みのデータの先頭の領域301に記録する(ステップS9)。
次に、第4圧縮部162は、ハッシュテーブル141及び142を使用して圧縮C3を実行する(ステップS10)。そして、第4圧縮部162は、アンカーポインタ及びipポインタが配置された入力データ200を第3圧縮部161へ出力する。
次に、第3圧縮部161は、ハッシュテーブル141及び142を使用して圧縮C4を実行する(ステップS11)。そして、第3圧縮部161は、圧縮の完了通知を再圧縮部18へ出力する。
次に、再圧縮部18は、領域R1,R2及びR3のサイズの合計が4KBを超えるか否かを判定する(ステップS12)。領域R1,R2及びR3のサイズの合計が4KBを超えない場合(ステップS12:否定)、再圧縮部18は、領域R1,R2及びR4のサイズの合計が4KBを超えるか否かを判定する(ステップS13)。
領域R1,R2及びR4のサイズの合計が4KBを超えない場合(ステップS13:否定)、再圧縮部18は、圧縮正常の通知を格納処理部19へ出力する。格納処理部19は、圧縮バッファ17に存在する圧縮データ300を記憶部30へ格納し、データ先頭セクタアドレス及び中心位置の情報を格納した領域301のオフセットをメタデータ143に格納する(ステップS14)。
領域R1,R2及びR3のサイズの合計が4KBを超えた場合(ステップS12:肯定)及び領域R1,R2及びR4のサイズの合計が4KBを超えた場合(ステップS13:肯定)、再圧縮部18は、圧縮バッファ17から圧縮データ300を削除する。さらに、再圧縮部18は、入力データ200を4KBの前半データ及び後半データに分割しそれぞれを圧縮する分割圧縮を実行する(ステップS15)。その後、再圧縮部18は、再圧縮完了の通知を格納処理部19へ出力する。
格納処理部19は、圧縮バッファ17に存在する分割圧縮されたデータを記憶部30へ格納し、データ先頭セクタアドレス及び中心位置のオフセットをメタデータ143に格納する(ステップS16)。
図20は、各圧縮方法を用いた場合の読み出し時のIOPS及び圧縮率の比較を表す図である。8KBの入力データ200のデータ全体を圧縮する全体圧縮の場合、4KBのデータの読み出し時のIOPSは、285Kとなる。これに対して、入力データ200を4KBの前半データ及び後半データに分割して圧縮する分割圧縮の場合、4KBのデータの読み出し時のIOPSは、460Kとなる。そして、共通領域を用いて圧縮する重畳圧縮の場合、4KBのデータの読み出し時のIOPSは、460Kとなる。
また、全体圧縮の場合には圧縮率は良好であるが、分割圧縮の場合には圧縮率は悪い。これに対して、重畳圧縮の場合、全体圧縮と分割圧縮との間の圧縮率となり、ある程度良好な圧縮率である。このように、重畳圧縮の場合、読み出し時のIOPSを全体圧縮の場合に比べて改善できるとともに、圧縮率を分割圧縮の場合に比べて改善できる。
以上に説明したように、本実施例に係るAFAは、圧縮データの先端又は後端からの4KBのデータを展開した時に前半又は後半データを含むように、共通領域を用いて入力データを圧縮する。これにより、入力データの半分よりも多くのデータを用いて圧縮を行うので、圧縮率が向上する。また、圧縮データの先端又は後端からの4KBのデータを展開することで前半又は後半のデータを取得することができ、余分なデータの読み出しを削減できるので、読み出し時のIOPSを向上させることができる。すなわち、本実施例に係るAFAは、処理性能及び圧縮率の向上に寄与することができる。
(変形例)
次に、実施例1の変形例について説明する。本変形例に係るAFA1は、実施例1と各領域の圧縮の順番が異なる。図21は、実施例1の変形例における圧縮の順番を説明するための図である。
例えば、例401に示すように、第1圧縮部151は、中心位置から状態401は、ハッシュテーブル141を用いて、入力データ200の中心位置から先端に向かって圧縮C01を実行する。次に、第2圧縮部152は、同じハッシュテーブル141を用いて、入力データ200の中心位置から後端に向かって圧縮C02を実行する。第4圧縮部162及び第3圧縮部161は、実施例1と同様に、それぞれ圧縮C3及び圧縮C4を実行する。このように、共通領域における圧縮C1及びC2の順番を入れ替えても、AFA1は、重複圧縮を実行することができる。
また、例402に示すように、第1圧縮部151及び第2圧縮部152は、実施例1と同様に、それぞれ圧縮C1及びC2を実行する。そして、第4圧縮部162は、ハッシュテーブル141及び142を用いて、共通領域の後端から入力データ200の後端までのデータに対して圧縮C03を実行する。また、第3圧縮部161は、共通領域の先端から入力データ200の先端までのデータに対して圧縮C04を実行する。このように、個別領域における圧縮C3及びC4の順番を入れ替えても、AFA1は、重複圧縮を実行することができる。
また、例403に示すように、第1圧縮部151は、中心位置から状態401は、ハッシュテーブル141を用いて、入力データ200の中心位置から先端に向かって圧縮C01を実行する。次に、第2圧縮部152は、同じハッシュテーブル141を用いて、入力データ200の中心位置から後端に向かって圧縮C02を実行する。そして、第4圧縮部162は、ハッシュテーブル141及び142を用いて、共通領域の後端から入力データ200の後端までのデータに対して圧縮C03を実行する。また、第3圧縮部161は、共通領域の先端から入力データ200の先端までのデータに対して圧縮C04を実行する。このように、共通領域における圧縮C1及びC2の順番を入れ替え、さらに、個別領域における圧縮C3及びC4の順番を入れ替えても、AFA1は、重複圧縮を実行することができる。
以上に説明したように、AFAは、中心位置を含む共通領域を先に圧縮し、その後、共通領域のデータも利用して個別領域の圧縮を行えば、どのような順番でも重畳圧縮を行うことができる。したがって、AFAは、共通領域と個別領域との圧縮順序を守れば、他の圧縮順序に関わらず処理性能及び圧縮率の向上に寄与することができる。
次に、実施例2について説明する。本実施例に係るAFAは、再圧縮時に既に実施した圧縮を利用することが実施例1と異なる。本実施例に係るAFAも図1のブロック図で表される。以下の説明では、実施例1と同様の各部の動作については説明を省略する。
第1圧縮部151は、圧縮C1を実行するにあたり、ハッシュテーブル1411を作成する。そして、第1圧縮部151は、ハッシュテーブル1411を用いて圧縮C1を実行し、圧縮データ300の領域R1を生成する。
第2圧縮部152は、圧縮C2を実行するにあたり、ハッシュテーブル1412を作成する。そして、第2圧縮部152は、ハッシュテーブル1411及び1412を用いて圧縮C2を実行し、圧縮データ300の領域R2を生成する。すなわち、本実施例では、第2圧縮部152は、第1圧縮部151が用いるハッシュテーブル1411とは異なるハッシュテーブル1412を新たに作成して圧縮C2を実行する。
第4圧縮部162及び第3圧縮部161は、ハッシュテーブル1411,1412及び142を用いてそれぞれ圧縮C3及びC4を実行する。ここで、第1圧縮部151、第2圧縮部152、第3圧縮部161及び第4圧縮部162は、図22に示すように入力データ200に対して、圧縮C1〜C4を実行して、圧縮データ300を生成する。図22は、実施例2における前半データの再圧縮について説明するための図である。
第1再圧縮部181は、領域R1,R2及びR3を合計した領域R5のサイズが4KBより大きいか否かを判定する。領域R1,R2及びR3を合計した領域R5のサイズが4KBより大きい場合、第1再圧縮部181は、圧縮データ300の領域R1以外を破棄する。また、第1再圧縮部181は、ハッシュテーブル142の登録情報をクリアする。
そして、第1再圧縮部181は、ハッシュテーブル142を用いて入力データ200の前半の4KBのデータである前半データの圧縮C’2を実行する。この場合、第1再圧縮部181は、前半データのみを用いて圧縮C’2を実行する。
次に、第1再圧縮部181は、ハッシュテーブル142の登録内容をクリアする。そして、第1再圧縮部181は、ハッシュテーブル142及び1411を用いて、位置231から入力データ200の後端までのデータの圧縮C’3を実行する。この場合、第1再圧縮部181は、圧縮C1で用いたデータも用いて圧縮C’3を実行する。
このように、第1再圧縮部181は、領域R1の圧縮を省略して、入力データ200の再圧縮を実行することができる。
第1再圧縮部181から圧縮正常の通知を受けると、第2再圧縮部182は、図23における領域R1,R2及びR4を合計した領域R6のサイズが4KBより大きいか否かを判定する。図23は、実施例2における後半データの再圧縮について説明するための図である。領域R1,R2及びR4を合計した領域R6のサイズが4KBより大きい場合、第2再圧縮部182は、圧縮データ300の領域R4を破棄する。また、第2再圧縮部182は、ハッシュテーブル142の登録情報をクリアする。
そして、第2再圧縮部182は、ハッシュテーブル142及び1411を用いて位置232から入力データ200の後端までのデータの圧縮C’4を実行する。この場合、第2再圧縮部182は、圧縮C1で用いたデータも用いて圧縮C’4を実行する。
このように、第2再圧縮部182は、領域R1〜R3の圧縮を省略して、入力データ200の再圧縮を実行することができる。
次に、図24を参照して、本実施例に係る再圧縮の処理の流れについて説明する。図24は、実施例2に係る再圧縮の処理のフローチャートである。
第1再圧縮部181は、領域R5のサイズが4KBより大きいか否かを判定する(ステップS21)。領域R5のサイズが4KBより大きい場合(ステップS21:肯定)、第1再圧縮部181は、圧縮データ300の領域R2〜R4を破棄する(ステップS22)。また、第1再圧縮部181は、ハッシュテーブル142の登録情報をクリアする。
そして、第1再圧縮部181は、ハッシュテーブル142を用いて圧縮C’2を実行する(ステップS23)。
次に、第1再圧縮部181は、ハッシュテーブル142の登録内容をクリアする。そして、第1再圧縮部181は、ハッシュテーブル142及び1411を用いて圧縮C’3を実行する(ステップS24)。その後、第1再圧縮部181は、再圧縮完了の通知を格納処理部19へ出力し、再圧縮処理を終了する。
一方、領域R5のサイズが4KB以下の場合(ステップS21:否定)、第1再圧縮部181は、圧縮正常の通知を第2再圧縮部182へ出力する。第1再圧縮部181から圧縮正常の通知を受けると、第2再圧縮部182は、領域R6のサイズが4KBより大きいか否かを判定する(ステップS25)。領域R6のサイズが4KB以下の場合(ステップS25:否定)、第2再圧縮部182は、圧縮正常の通知を格納処理部19へ出力し、再圧縮処理を終了する。
これに対して、領域R6のサイズが4KBより大きい場合(ステップS25:肯定)、第2再圧縮部182は、圧縮データ300の領域R4を破棄する。また、第2再圧縮部182は、ハッシュテーブル142の登録情報をクリアする(ステップS26)。
そして、第2再圧縮部182は、ハッシュテーブル142,1411及び1412を用いて圧縮C’4を実行する(ステップS27)。
以上に説明したように、本実施例に係るAFAは、再圧縮時の圧縮処理を軽減することができる。したがって、本実施例に係るAFAは、処理性能をより向上させることができる。
次に、実施例3について説明する。本実施例に係るAFAは、展開時に既に実施した圧縮を利用することが実施例1と異なる。本実施例に係るAFAも図1のブロック図で表される。以下の説明では、実施例1と同様の各部の動作については説明を省略する。
図25は、実施例3に係るAFAによる圧縮処理の概要を説明するための図である。本実施例では、入力データ200が、図25に示すように、データ#1〜#4を有する場合で説明する。データ#1及び#2は、4KBの前半データを形成する。また、データ#3及び#4は、4KBの後半データを形成する。
第1圧縮部151は、入力データ200のデータ#1とデータ#2とを入れ替える。また、第1圧縮部151は、入力データ200のデータ#3とデータ#4とを入れ替える。これにより、第1圧縮部151は、データ210を生成する。そして、第1圧縮部151は、メタデータ143の例えばリザーブ領域の所定領域にデータの入れ替えの情報を書き込む。
その後、第1圧縮部151、第2圧縮部152、第3圧縮部161及び第4圧縮部162は、データ210に対してそれぞれ圧縮C1〜C4を実行し、圧縮データ300を生成する。
読出部20は、圧縮データ300を展開してデータ210を生成した後にメタデータ143からデータの入れ替えの情報を取得する。そして、読出部20は、データの入れ替え情報にしたがってデータ210の入れ替えを行って入力データ200を生成する。
以上に説明したように、本実施例に係るAFAは、入力されたデータを入れ替えたデータを作成し、作成したデータに対して重畳圧縮を施してSSDに保存する。このように、本実施例に係るAFAは、入力されたデータを入れ替えても重畳圧縮を実行することができる。これにより、例えば、共通データを多く含む部分を共通領域に移動させることで、圧縮率を向上させることができる。
ここで、本実施例では、前半データ及び後半データの前後を入れ替えた場合で説明したが、データの入れ替えはこれに限らない。第1圧縮部151は、入力データが復元可能なデータの入れ替えの情報をメタデータに格納すれば、どのようなデータの入れ替えを実行してもよい。
図26は、実施例4に係るAFAのブロック図である。本実施例に係るAFA1は、入力データ200を3つの領域に分けて取り扱うことが実施例1と異なる。図26において、図1と同様の符号を有する各部は特に説明のない限り同様の機能を有する。以下の説明では、実施例1と同様の各部の動作については説明を省略する。本実施例では、メタデータ143により管理される入力データ200が12KBであり、AFA1がその入力データ200を4KBのデータとして3分割したデータのそれぞれを個別に読み出せるように圧縮を行う場合で説明する。この4KBが「所定サイズ」の一例にあたる。
特定部12は、図27に示す、入力データ200を3分割した場合の区分位置221及び222を特定する。また、特定部12は、圧縮バッファ17の中心位置から2KBのサイズとなる両隣の位置331及び332を特定する。ここで、図27は、実施例4に係るAFAによる共通領域の圧縮について説明するための図である。
共通領域圧縮部15は、区分位置221及び222、並びに、位置331及び332の入力を受ける。共通領域圧縮部15は、入力データ200の入力を送受信部11から受ける。次に、共通領域圧縮部15は、ハッシュテーブル141及び142を圧縮用情報記憶部14に生成する。
次に、共通領域圧縮部15は、ハッシュテーブル141を用いて、区分位置221から入力データ200の後端に向けて圧縮C#1を開始する。そして、共通領域圧縮部15は、入力データ200の先頭から圧縮位置223までのデータの圧縮後のサイズが4KBとなる圧縮位置223を、x’≧4c’/(4−c’)と表される境界判定式を用いて予測する。そして、共通領域圧縮部15は、予測した圧縮位置223まで圧縮C#1を実行する。共通領域圧縮部15は、圧縮C#1により、圧縮バッファ17の領域R#1に圧縮したデータを格納する。
次に、共通領域圧縮部15は、圧縮C#1におけるkey及びvalueが登録されたハッシュテーブル141を用いて、区分位置221から入力データ200の先端に向けて圧縮C#2を開始する。そして、共通領域圧縮部15は、圧縮位置224から圧縮位置225までのデータの圧縮後のサイズが4KBとなる圧縮位置224を、x’≧4c’/(4−c’)と表される境界判定式を用いて予測する。そして、共通領域圧縮部15は、予測した圧縮位置224まで圧縮C#2を実行する。共通領域圧縮部15は、圧縮C#2により圧縮バッファ17の領域R#2に圧縮したデータを格納する。
その後、共通領域圧縮部15は、領域R#2の先頭に、その位置から位置331までのオフセットを格納する。
次に、共通領域圧縮部15は、ハッシュテーブル142を用いて、区分位置222から入力データ200の後端に向けて圧縮C#3を開始する。そして、共通領域圧縮部15は、圧縮位置224から圧縮位置225までのデータの圧縮後のサイズが4KBとなる圧縮位置225を、x’≧4c’/(4−c’)と表される境界判定式を用いて予測する。そして、共通領域圧縮部15は、予測した圧縮位置225まで圧縮C#3を実行する。共通領域圧縮部15は、圧縮C#3により、圧縮バッファ17の領域R#3に圧縮したデータを格納する。
次に、共通領域圧縮部15は、圧縮C#3におけるkey及びvalueが登録されたハッシュテーブル142を用いて、区分位置222から入力データ200の先端に向けて圧縮C#4を開始する。そして、共通領域圧縮部15は、圧縮位置226から入力データ200の後端までのデータの圧縮後のサイズが4KBとなる圧縮位置226を、x’≧4c’/(4−c’)と表される境界判定式を用いて予測する。そして、共通領域圧縮部15は、予測した圧縮位置226まで圧縮C#4を実行する。共通領域圧縮部15は、圧縮C#4により圧縮バッファ17の領域R#4に圧縮したデータを格納する。
その後、共通領域圧縮部15は、領域R#4の先頭に、その位置から位置331までのオフセットを格納する。その後、共通領域圧縮部15は、入力データ200を個別領域圧縮部16へ出力する。
個別領域圧縮部16は、入力データ200の入力を共通領域圧縮部15から受けると、ハッシュテーブル144を作成する。
次に、個別領域圧縮部16は、図28に示すように、ハッシュテーブル141及び144を用いて、圧縮位置224から入力データ200の先端までのデータの圧縮C#5を実行する。図28は、実施例4に係るAFAによる個別領域の圧縮について説明するための図である。個別領域圧縮部16は、圧縮C#5により圧縮バッファ17の領域R#5に圧縮したデータを格納する。
次に、個別領域圧縮部16は、ハッシュテーブル144の登録情報をクリアする。そして、個別領域圧縮部16は、ハッシュテーブル142及び144を用いて、圧縮位置225から入力データ200の後端までのデータの圧縮C#6を実行する。個別領域圧縮部16は、圧縮C#6により圧縮バッファ17の領域R#6に圧縮したデータを格納する。
次に、個別領域圧縮部16は、ハッシュテーブル144の登録情報をクリアする。そして、個別領域圧縮部16は、ハッシュテーブル141,142及び144を用いて、圧縮位置223から圧縮位置226までのデータの圧縮C#7を実行する。個別領域圧縮部16は、圧縮C#7により圧縮バッファ17の領域R#7に圧縮したデータを格納する。これにより、個別領域圧縮部16は、圧縮データ300を生成する。その後、個別領域圧縮部16は、圧縮の完了を再圧縮部18へ通知する。
再圧縮部18は、領域R#1,R#2及びR#5の連結領域、領域R#1,R#4及びR#7の連結領域、又は、領域R#3,R#4及びR#6の連結領域のサイズの合計が4KBを超えるか否かを判定する。4KBを超える連結領域がある場合、再圧縮部18は、分割圧縮による再圧縮を実行する。その後、再圧縮部18は、再圧縮の完了を格納処理部19へ通知する。また、4KBを超える連結領域が無い場合、再圧縮部18は、圧縮正常の通知を格納処理部19へ通知する。
格納処理部19は、圧縮正常の通知を再圧縮部18から受けた場合、圧縮バッファ17から圧縮データ300を取得する。そして、格納処理部19は、取得した圧縮データ300を記憶部30に格納する。その後、格納処理部19は、共通領域を使用した圧縮である重畳圧縮を表す情報を、例えば、メタデータ143のリザーブ領域の所定の場所に格納する。
また、格納処理部19は、圧縮データ300を格納した記憶部30のデータ先頭セクタアドレスを、図29に示すようにメタデータ143の先頭アドレス格納領域311に格納する。図29は、実施例4に係るメタデータの一例を表す図である。次に、格納処理部19は、領域R#2の先頭から位置331までのオフセットが格納された領域の圧縮データ300のデータ先頭セクタアドレスからのオフセットをオフセット格納領域312に格納する。さらに、格納処理部19は、領域R#2の先頭から位置331までのオフセットが格納された領域の圧縮データ300のデータ先頭セクタアドレスからのオフセットをオフセット格納領域313に格納する。
また、格納処理部19は、再圧縮部18から再圧縮完了の通知の入力を受けると、圧縮バッファ17から圧縮データ300を取得する。そして、格納処理部19は、取得した圧縮データ300を記憶部30に格納する。その後、格納処理部19は、入力データ200を分割圧縮を表す情報を、例えば、メタデータ143のリザーブ領域の所定の場所に格納する。また、格納処理部19は、圧縮データ300を格納した記憶部30のデータ先頭セクタアドレスをメタデータ143の先頭アドレス格納領域311に格納する。さらに、格納処理部19は、位置331及び332のデータ先頭セクタアドレスからのオフセットをオフセット格納領域312及び313に格納する。
読出部20は、重畳圧縮が行われたデータを展開する場合、メタデータ143を参照することで、圧縮データ300の先端の位置、領域R#1及びR#3の後端の位置、領域R#2及びR#4の先端の位置、並びに、位置331及び332を特定する。そして、読出部20は、例えば、圧縮データ300のうちの領域R#1,R#2及びR#5を読み出して、領域R#1,R#2及びR#5の順に展開し、先端から4KBのデータを取得することで、入力データ200の3分割した場合の先端側のデータを取得する。また、読出部20は、例えば、圧縮データ300のうちの領域R#1〜R#4及びR#7を読み出して、領域R#1〜R#4及びR#7の順に展開し、先端から4KBのデータを取得することで、入力データ200の3分割した場合の中央のデータを取得する。また、読出部20は、例えば、圧縮データ300のうちの領域R#3,R#4及びR#7を読み出して、領域R#3,R#4及びR#7の順に展開し、先端から4KBのデータを取得することで、入力データ200の3分割した場合の後端側のデータを取得する。
以上に説明したように、本実施例に係るAFAは、圧縮データから4KBの領域を展開した時に入力データを3分割することで生成されるデータが含まれるように、共通領域を用いて入力データを圧縮する。これにより、入力データの内の4KB分のデータよりも多くのデータを用いて圧縮を行うので、圧縮率が向上する。また、圧縮データの内の所定の4KBのデータを展開することで入力データを3分割することで生成されるデータを取得することができ、余分なデータの読み出しを削減できるので、読み出し時のIOPSを向上させることができる。すなわち、本実施例に係るAFAは、処理性能及び圧縮率の向上に寄与することができる。
(ハードウェア構成)
図30は、AFAのハードウェア構成の一例の図である。AFA1は、図30に示すように、CPU91、DIMM92及びSSD93を有する。CPU91は、DIMM92及びSSD93とバスで接続される。
DIMM92は、複数のDRAMを有する。そして、DIMM92は、例えば、図1に例示した圧縮用情報記憶部14及び圧縮バッファ17の機能を実現する。また、SSD93は、図1に例示した記憶部30の機能を実現する。
さらに、記憶部30は、図1に例示した、送受信部11、特定部12、圧縮バッファ割当部13、共通領域圧縮部15、個別領域圧縮部16、再圧縮部18、格納処理部19及び読出部20の各機能を実現するためのプログラムを含む各種プログラムを格納する。
CPU91は、記憶部30から各種プログラムを読み出し、DIMM92のDRAM上に展開して実行する。これにより、CPU91及びDIMM92は、図1に例示した、送受信部11、特定部12、圧縮バッファ割当部13、共通領域圧縮部15、個別領域圧縮部16、再圧縮部18、格納処理部19及び読出部20の各機能を実現する。
1 AFA
2 サーバ
3 FC
11 送受信部
12 特定部
13 圧縮バッファ割当部
14 圧縮用情報記憶部
15 共通領域圧縮部
16 個別領域圧縮部
17 圧縮バッファ
18 再圧縮部
19 格納処理部
20 読出部
30 記憶部
141,142,144 ハッシュテーブル
143 メタデータ
151 第1圧縮部
152 第2圧縮部
161 第3圧縮部
162 第4圧縮部
181 第1再圧縮部
182 第2再圧縮部

Claims (8)

  1. 入力データを所定サイズ毎に分けた場合の1つ又は複数の区分位置を特定する特定部と、
    前記入力データを圧縮して生成される圧縮データにおける両端からのサイズが所定サイズ以上となる位置、及び、前記区分位置が複数存在する場合に隣合う前記区分位置を挟みその間のサイズが所定サイズ以上となる位置に対応する前記入力データにおける圧縮位置を特定し、前記入力データにおける前記区分位置を挟んで並ぶ前記圧縮位置の間の第1領域に含まれる第1データの圧縮を行う先圧縮部と、
    前記入力データにおける前記第1領域以外の第2領域のそれぞれに含まれる各第2データ圧縮を行い、前記第1データ及び前記第2データを圧縮したデータを含む前記圧縮データを生成する後圧縮部と
    を備えたことを特徴とする情報処理装置。
  2. 前記所定サイズは、前記入力データの半分のサイズであり、
    前記特定部は、前記入力データの中心位置を特定し、
    前記先圧縮部は、前記圧縮データにおいて前記両端のそれぞれからのサイズが所定サイズとなる位置に対応する前記入力データにおける2つの前記圧縮位置を予測し、前記入力データにおける各前記圧縮位置で挟まれた前記第1データの圧縮を行い、
    前記後圧縮部は、前記入力データにおける前記第1データで分割された2つの前記第2データ毎に、前記第1データ及び各前記第2データを基に圧縮を行う
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 前記先圧縮部は、前記区分位置が複数存在する場合、
    前記圧縮データにおいて前記両端の一方からのサイズが所定サイズとなる位置に対応する前記入力データにおける第1圧縮位置を予測し、前記中心位置から前記第1圧縮位置までの第データに対して、前記中心位置から前記第1圧縮位置に向けて前記第データを基に第1圧縮を行う第1圧縮部と、
    前記圧縮データにおいて前記両端の他方からのサイズが前記所定サイズとなる位置に対応する前記入力データにおける第2圧縮位置を予測し、前記中心位置から前記第2圧縮位置までの第データに対して、前記中心位置から前記第2圧縮位置に向けて前記第データ及び前記第データを基に第2圧縮を行う第2圧縮部とを備え、
    前記後圧縮部は、
    前記第1圧縮位置から、前記入力データにおける先頭又は後尾の近い方の第1端部までの第データに対して、前記第1圧縮位置から前記第1端部に向けて、前記第データ、前記第データ及び前記第データを基に第3圧縮を行う第3圧縮部と、
    前記第2圧縮位置から、前記入力データにおける先頭又は後尾の近い方の第2端部までの第データに対して、前記第2圧縮位置から前記第2端部に向けて、前記第データ、前記第データ及び前記第データを基に第4圧縮を行う第4圧縮部とを備えた
    ことを特徴とする請求項2に記載の情報処理装置。
  4. 前記第1圧縮、前記第2圧縮、前記第3圧縮及び前記第4圧縮により生成された前記圧縮データを記憶部に格納する格納処理部と、
    前記入力データのうちの前半のデータの読み出し要求を受けた場合、前記入力データの管理データを基に、前記圧縮データの先端から所定サイズのデータを読み出して展開し、展開したデータの先端から所定サイズのデータを取得し、前記入力データのうちの後半のデータの読み出し要求を受けた場合、前記管理データを基に、前記第1圧縮位置及び前記第2圧縮位置のうち前記入力データの先端に近い方に対応する前記圧縮データの上の基準位置から前記圧縮データの後端までのデータを読み出して展開し、展開したデータの先端から所定サイズのデータを取得する展開部をさらに備え、
    前記第2圧縮部は、前記基準位置と前記圧縮データの中心位置との第1相対距離を、前記圧縮データの前記基準位置に登録し、
    前記格納処理部は、前記記憶部における前記圧縮データ上の先端の位置及び前記圧縮データの先端の位置から前記基準位置までの第2相対距離を前記管理データに登録する
    ことを特徴とする請求項3に記載の情報処理装置。
  5. 前記第1圧縮部は、前記入力データの圧縮を前記中心位置から前記圧縮データにおける前記両端の前記他方に向けて圧縮を実行していきながら第1圧縮率を算出し、算出した前記第1圧縮率から前記両端の一方から圧縮を終えた位置までの前記圧縮データの第2圧縮率を推測して、前記第1圧縮位置を予測する、
    前記第2圧縮部は、前記入力データの圧縮を前記中心位置から前記圧縮データにおける前記両端の一方に向けて圧縮を実行していきながら第3圧縮率を算出し、算出した前記第3圧縮率から前記両端の前記他方から圧縮を終えた位置までの前記圧縮データの第4圧縮率を推測して、前記第2圧縮位置を予測する
    ことを特徴とする請求項3又は4に記載の情報処理装置。
  6. 前記第1圧縮部、前記第2圧縮部、前記第3圧縮部及び前記第4圧縮部により生成された前記圧縮データにおいて前記第1圧縮位置に対応する位置から前記両端の一方までのサイズが所定サイズを超える場合、又は、前記第2圧縮位置に対応する位置から前記両端の前記他方までのサイズが所定サイズを超える場合、前記第2圧縮部、前記第3圧縮部及び前記第4圧縮部による圧縮結果を破棄して、前記入力データの先端から前記中心位置までの前半のデータに対して、前記前半のデータを基に圧縮を行い、且つ、前記入力データの中心位置から後端までの後半のデータに対して、前記後半のデータを基に圧縮を行う再圧縮部をさらに備えたことを特徴とする請求項3〜5のいずれか一つに記載の情報処理装置。
  7. 入力データを所定サイズ毎に分けた場合の1つ又は複数の区分位置を特定し、
    前記入力データを圧縮して生成される圧縮データにおける両端からのサイズが所定サイズとなる位置、及び、前記区分位置が複数存在する場合に隣合う前記区分位置を挟みその間のサイズが所定サイズ以上となる位置に対応する前記入力データにおける圧縮位置を特定し、
    前記入力データにおける前記区分位置を挟んで並ぶ前記圧縮位置の間の第1領域に含まれる第1データの圧縮を行い、
    前記入力データにおける前記第1領域以外の第2領域のそれぞれに含まれる各第2データ圧縮を行い、前記第1データ及び前記第2データを圧縮したデータを含む前記圧縮データを生成する
    ことを特徴とするデータ圧縮方法。
  8. 入力データを所定サイズ毎に分けた場合の1つ又は複数の区分位置を特定し、
    前記入力データを圧縮して生成される圧縮データにおける両端からのサイズが所定サイズとなる位置、及び、前記区分位置が複数存在する場合に隣合う前記区分位置を挟みその間のサイズが所定サイズ以上となる位置に対応する前記入力データにおける圧縮位置を特定し、
    前記入力データにおける前記区分位置を挟んで並ぶ前記圧縮位置の間の第1領域に含まれる第1データの圧縮を行い、
    前記入力データにおける前記第1領域以外の第2領域のそれぞれに含まれる各第2データ圧縮を行い、前記第1データ及び前記第2データを圧縮したデータを含む前記圧縮データを生成する
    処理をコンピュータに実行させることを特徴とするデータ圧縮プログラム。
JP2017027056A 2017-02-16 2017-02-16 情報処理装置、データ圧縮方法及びデータ圧縮プログラム Active JP6841074B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017027056A JP6841074B2 (ja) 2017-02-16 2017-02-16 情報処理装置、データ圧縮方法及びデータ圧縮プログラム
US15/890,555 US10776052B2 (en) 2017-02-16 2018-02-07 Information processing apparatus, data compressing method, and computer-readable recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017027056A JP6841074B2 (ja) 2017-02-16 2017-02-16 情報処理装置、データ圧縮方法及びデータ圧縮プログラム

Publications (2)

Publication Number Publication Date
JP2018132991A JP2018132991A (ja) 2018-08-23
JP6841074B2 true JP6841074B2 (ja) 2021-03-10

Family

ID=63104664

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017027056A Active JP6841074B2 (ja) 2017-02-16 2017-02-16 情報処理装置、データ圧縮方法及びデータ圧縮プログラム

Country Status (2)

Country Link
US (1) US10776052B2 (ja)
JP (1) JP6841074B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2599566B (en) * 2016-09-08 2022-10-05 V Nova Int Ltd Data processing apparatuses, methods, computer programs and computer-readable media
KR20230012872A (ko) * 2021-07-16 2023-01-26 주식회사 쏠리드 프론트홀 다중화 장치

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003319186A (ja) 2002-04-25 2003-11-07 Nec Micro Systems Ltd 圧縮画像データの復元システム及び復元方法
JP2010061518A (ja) * 2008-09-05 2010-03-18 Nec Corp データ保存装置及びデータ保存方法並びにプログラム
JP5188348B2 (ja) * 2008-09-25 2013-04-24 三菱電機株式会社 データアクセス装置
JP6032292B2 (ja) * 2012-12-19 2016-11-24 富士通株式会社 圧縮プログラム、圧縮装置、伸張プログラムおよび伸張装置
EP3041145B1 (en) * 2013-08-30 2019-04-10 Fujitsu Limited Data compression device, method, and program
JP6471012B2 (ja) * 2015-03-25 2019-02-13 株式会社メガチップス 半導体メモリ、記憶装置、上位装置、データ処理システム、データ書き込み装置、データ書き込みプログラム、制御プログラム及びデータ書き込み方法

Also Published As

Publication number Publication date
US20180232182A1 (en) 2018-08-16
US10776052B2 (en) 2020-09-15
JP2018132991A (ja) 2018-08-23

Similar Documents

Publication Publication Date Title
US20180349030A1 (en) Storage control device, storage control program, and storage system
US9696910B2 (en) Data compression and management
KR101962359B1 (ko) 저장 장치에 의해 데이터를 저장하기 위한 방법 및 저장 장치
US20160335195A1 (en) Storage device
WO2015162681A1 (ja) ストレージシステムおよび記憶デバイスの制御方法
CN110532201B (zh) 一种元数据处理方法及装置
CN108628541B (zh) 一种文件存储的方法、装置及存储系统
JPWO2015128955A1 (ja) 記憶デバイス、記憶デバイスを有する装置、及び記憶制御方法
JP6139711B2 (ja) 情報処理装置
CN107135662B (zh) 一种差异数据备份方法、存储系统和差异数据备份装置
US20180307426A1 (en) Storage apparatus and storage control method
KR20110139956A (ko) 맵핑 테이블을 복구하는 데이터 기억 장치 및 데이터 관리 방법
JP6841074B2 (ja) 情報処理装置、データ圧縮方法及びデータ圧縮プログラム
WO2024098698A1 (zh) 一种磁盘阵列初始化方法、装置、设备及可读存储介质
US9213486B2 (en) Writing new data of a first block size to a second block size using a write-write mode
TWI707234B (zh) 資料儲存裝置與資料處理方法
KR20070031647A (ko) 플래시 메모리 장치에 압축 데이터를 기록하는 방법 및상기 기록된 데이터를 읽는 방법, 그리고 상기 방법을이용하는 플래시 메모리 장치
WO2015162755A1 (ja) データを圧縮して格納するストレージ装置
JP4788492B2 (ja) ストレージ装置の容量拡張方法、プログラム、およびストレージ装置
CN108877862B (zh) 页条带的数据组织以及向页条带写入数据的方法与装置
CN103645995B (zh) 写数据的方法及装置
US20230142948A1 (en) Techniques for managing context information for a storage device
CN110990301A (zh) 多plane存储介质的顺序读方法及相关装置
JP2020135134A (ja) ストレージシステム及び圧縮方法
US20170300381A1 (en) Memory controller and data control method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200825

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201023

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210201

R150 Certificate of patent or registration of utility model

Ref document number: 6841074

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150