JP2023127253A - 符号表生成装置、メモリシステム、および符号表生成方法 - Google Patents

Abstract

【課題】 符号表を生成するための処理量を削減できる符号表生成装置を実現する。【解決手段】 実施形態によれば、符号表生成装置は、頻度テーブル生成部、シンボルマージ部、およびハフマン木生成部を具備する。頻度テーブル生成部は、入力されたシンボルのシンボル毎の出現頻度に基づいて、複数のシンボルと、前記複数のシンボルにそれぞれ関連付けられた複数の出現頻度とを含む頻度テーブルを生成する。シンボルマージ部は、前記複数のシンボルから、出現頻度の降順に上位のＫ個のシンボルと、残りのシンボルとを取得し、前記残りのシンボルを１つ以上のシンボル集合に分割し、前記１つ以上のシンボル集合にそれぞれ対応する１つ以上の部分木それぞれのルートノードに関連付けられる出現頻度を決定する。ハフマン木生成部は、前記Ｋ個のシンボルと、前記１つ以上の部分木それぞれのルートノードとを用いて、ハフマン木を生成する。【選択図】図７

Description

本発明の実施形態は、符号表生成装置、メモリシステム、および符号表生成方法に関する。

動的ハフマン符号化は、符号化対象のシンボルの出現頻度に基づいて動的に符号表を生成する可変長符号化方式である。符号表は、シンボルと、当該シンボルに割り当てられた符号語との対応を示す。動的ハフマン符号化では、出現頻度が大きいシンボルには短い符号語が割り当てられ、出現頻度が小さいシンボルには長い符号語が割り当てられる。

より詳しくは、動的ハフマン符号化では、例えば、出現した１種類以上のシンボルそれぞれをリーフノードとするハフマン木が構築される。そして、構築されたハフマン木を用いて、各シンボルの符号長が決定される。

ハフマン木を構築して、各シンボルの符号長を決定する処理には、出現したシンボルの種類に比例した処理量を要する。したがって、出現したシンボルの種類が多い場合、符号表生成の処理に多くの時間がかかるか、あるいは特定の時間内に符号表生成を完了させるために装置の回路規模（例えば、ゲート数）が増加する。

米国特許第１０６９４２１７号明細書

Ｌ． Ｐｅｔｅｒ Ｄｅｕｔｓｃｈ、"ＤＥＦＬＡＴＥ Ｃｏｍｐｒｅｓｓｅｄ Ｄａｔａ Ｆｏｒｍａｔ Ｓｐｅｃｉｆｉｃａｔｉｏｎ ｖｅｒｓｉｏｎ １．３"、［ｏｎｌｉｎｅ］、ＲＦＣ１９５１、１９９６年５月、［２０２２年１月２０日検索］、インターネット＜ＵＲＬ：ｈｔｔｐｓ：／／ｄａｔａｔｒａｃｋｅｒ．ｉｅｔｆ．ｏｒｇ／ｄｏｃ／ｈｔｍｌ／ｒｆｃ１９５１＞

本発明の一実施形態では、符号表を生成するための処理量を削減できる符号表生成装置、メモリシステム、および符号表生成方法を提供する。

実施形態によれば、符号表生成装置は、頻度テーブル生成部、頻度ソート部、シンボルマージ部、ハフマン木生成部、符号長決定部、および符号決定部を具備する。頻度テーブル生成部は、入力されたシンボルのシンボル毎の出現頻度に基づいて、複数のシンボルと、前記複数のシンボルにそれぞれ関連付けられた複数の出現頻度とを含む頻度テーブルを生成する。頻度ソート部は、前記頻度テーブルにおいて、前記複数のシンボルと前記複数の出現頻度とを、出現頻度の降順に並べ替える。シンボルマージ部は、並べ替えられた前記複数のシンボルから、上位のＫ個のシンボルと、残りのシンボルとを取得し、前記残りのシンボルを１つ以上のシンボル集合に分割し、前記１つ以上のシンボル集合にそれぞれ対応する１つ以上の部分木それぞれのルートノードに関連付けられる出現頻度を決定する。ハフマン木生成部は、前記Ｋ個のシンボルと、前記１つ以上の部分木それぞれのルートノードとを用いて、ハフマン木を生成する。符号長決定部は、前記ハフマン木と前記１つ以上の部分木とに基づいて、前記複数のシンボルにそれぞれ対応する複数の符号長を決定する。符号決定部は、前記複数の符号長に基づいて、前記複数のシンボルにそれぞれ割り当てる複数の符号を決定する。前記Ｋは、１以上であって、前記複数のシンボルの数以下である整数である。

第１実施形態に係る符号表生成装置を含む情報処理システムの構成の例を示すブロック図。 比較例に係る符号表生成装置の構成の例を示すブロック図。 比較例に係る符号表生成装置において実行される符号長決定処理の手順の例を示すフローチャート。 比較例に係る符号表生成装置において用いられる頻度テーブルの構成例を示す図。 比較例に係る符号表生成装置において生成されるハフマン木の例を示す図。 比較例に係る符号表生成装置において決定される符号長の例を示す図。 第１実施形態に係る符号表生成装置を含む圧縮装置の構成例を示すブロック図。 第１実施形態に係る符号表生成装置において生成された頻度テーブル（第０頻度テーブル）の例を示す図。 第１実施形態に係る符号表生成装置においてソートされた頻度テーブル（第１頻度テーブル）の例を示す図。 第１実施形態に係る符号表生成装置において用いられる、（Ａ）第１頻度テーブルの例と、第１頻度テーブルが分割された（Ｂ）第１部分テーブルおよび（Ｃ）第２部分テーブルの例とを示す図。 第１実施形態に係る符号表生成装置において構築されるハフマン木の例を示す図。 第１実施形態に係る符号表生成装置において用いられるマージシンボルの部分木の例を示す図。 第１実施形態に係る符号表生成装置において実行される、シンボルに符号ビット列を割り当てる疑似プログラムの例を示す図。 第１実施形態に係る符号表生成装置を含む圧縮装置において実行される符号化処理の手順の例を示すフローチャート。 第１実施形態に係る符号表生成装置において実行される符号表生成処理の手順の例を示すフローチャート。 第２実施形態に係る符号表生成装置を含む圧縮装置の構成の例を示すブロック図。

以下、実施の形態について図面を参照して説明する。

（第１実施形態）
図１は、第１実施形態に係る符号表生成装置を含む情報処理システムの構成の例を示す。情報処理システム１は、ホストデバイス２（以下、ホスト２と称する）と、メモリシステム３とを含む。

メモリシステム３は、ＮＡＮＤ型フラッシュメモリ５のような不揮発性メモリにデータを書き込み、不揮発性メモリからデータを読み出すように構成された半導体ストレージデバイスである。メモリシステム３は、例えば、ＮＡＮＤ型フラッシュメモリ５を備えるソリッドステートドライブ（ＳＳＤ）として実現される。以下では、メモリシステム３がＳＳＤとして実現される場合について例示するが、メモリシステム３はハードディスクドライブ（ＨＤＤ）として実現されてもよい。

ホスト２は、大量且つ多様なデータをメモリシステム３に保存するストレージサーバであってもよいし、パーソナルコンピュータであってもよい。

メモリシステム３は、ホスト２のストレージとして使用され得る。メモリシステム３はホスト２に内蔵されてもよいし、ホスト２にケーブルまたはネットワークを介して接続されてもよい。

ホスト２とメモリシステム３とを接続するためのインタフェースは、ＳＣＳＩ、Ｓｅｒｉａｌ Ａｔｔａｃｈｅｄ ＳＣＳＩ（ＳＡＳ）、ＡＴＡ（ＡＴ Ａｔｔａｃｈｍｅｎｔ）、Ｓｅｒｉａｌ ＡＴＡ（ＳＡＴＡ）、ＰＣＩ Ｅｘｐｒｅｓｓ（ＰＣＩｅ）（登録商標）、Ｅｔｈｅｒｎｅｔ（登録商標）、Ｆｉｂｒｅ ｃｈａｎｎｅｌ、ＮＶＭ Ｅｘｐｒｅｓｓ（ＮＶＭｅ）（登録商標）等に準拠する。

メモリシステム３は、コントローラ４およびＮＡＮＤ型フラッシュメモリ５を備える。コントローラ４は、Ｓｙｓｔｅｍ－ｏｎ－ａ－ｃｈｉｐ（ＳｏＣ）のような回路によって実現され得る。

メモリシステム３は、揮発性メモリであるランダムアクセスメモリ（ＲＡＭ）、例えばダイナミックランダムアクセスメモリ（ＤＲＡＭ）６を備えていてもよい。あるいは、スタティックランダムアクセスメモリ（ＳＲＡＭ）のようなＲＡＭがコントローラ４に内蔵されていてもよい。なお、ＤＲＡＭ６が、コントローラ４に内蔵されていてもよい。

ＤＲＡＭ６は揮発性のメモリである。ＤＲＡＭ６等のＲＡＭには、例えば、ファームウェア（ＦＷ）の格納領域、論理物理アドレス変換テーブルのキャッシュ領域が設けられる。

ＮＡＮＤ型フラッシュメモリ５は複数のブロックを含む。各ブロックは複数のページを含む。１つのブロックは最小の消去単位として機能する。ブロックは、「消去ブロック」、または「物理ブロック」と称されることもある。各ページは、同一ワード線に接続された複数のメモリセルを含む。１つのページは、データ書き込み動作およびデータ読み出し動作の単位である。なお、ワード線をデータ書き込み動作およびデータ読み出し動作の単位としてもよい。

各ブロックに対して許容できるプログラム／イレーズサイクル数には上限（最大Ｐ／Ｅサイクル数）がある。あるブロックの１回のＰ／Ｅサイクルは、このブロック内のすべてのメモリセルを消去状態にするための消去動作と、このブロックのページそれぞれにデータを書き込む書き込み動作とを含む。

コントローラ４は、例えば、ホストインタフェース（ホストＩ／Ｆ）１１、ＣＰＵ１２、ＮＡＮＤインタフェース（ＮＡＮＤ Ｉ／Ｆ）１３、ＤＲＡＭインタフェース（ＤＲＡＭ Ｉ／Ｆ）１４、および圧縮装置１５を含む。これらホストＩ／Ｆ１１、ＣＰＵ１２、ＮＡＮＤ Ｉ／Ｆ１３、ＤＲＡＭ Ｉ／Ｆ１４、および圧縮装置１５は、バス１０を介して相互接続され得る。

コントローラ４は、Ｔｏｇｇｌｅ ＤＤＲ、Ｏｐｅｎ ＮＡＮＤ Ｆｌａｓｈ Ｉｎｔｅｒｆａｃｅ（ＯＮＦＩ）等のインタフェース規格に対応するＮＡＮＤ Ｉ／Ｆ１３を介して、ＮＡＮＤ型フラッシュメモリ５に電気的に接続されている。ＮＡＮＤ Ｉ／Ｆ１３は、ＮＡＮＤ型フラッシュメモリ５を制御するように構成されたＮＡＮＤ制御回路として機能する。

コントローラ４は、ＮＡＮＤ型フラッシュメモリ５を制御するように構成されたメモリコントローラとして機能する。

コントローラ４は、ＮＡＮＤ型フラッシュメモリ５のデータ管理およびブロック管理を実行するように構成されたフラッシュトランスレーション層（ＦＴＬ）として機能してもよい。このＦＴＬによって実行されるデータ管理には、（１）論理アドレスそれぞれとＮＡＮＤ型フラッシュメモリ５の物理アドレスそれぞれとの間の対応関係を示すマッピング情報の管理、および（２）ページ単位のデータ読み出し動作／データ書き込み動作とブロック単位のデータ消去動作との差異を隠蔽するための処理が含まれる。ブロック管理には、不良ブロックの管理、ウェアレベリング、およびガベージコレクションが含まれる。

論理アドレスは、メモリシステム３の記憶領域をアドレス指定するためにホスト２によって使用されるアドレスである。論理アドレスそれぞれと物理アドレスそれぞれとの間のマッピングの管理は、論理物理アドレス変換テーブルを用いて実行される。コントローラ４は、論理物理アドレス変換テーブルを使用して、論理アドレスそれぞれと物理アドレスそれぞれとの間のマッピングを特定の管理サイズ単位で管理する。ある論理アドレスに対応する物理アドレスは、この論理アドレスのデータが書き込まれたＮＡＮＤ型フラッシュメモリ５内の物理記憶位置を示す。論理物理アドレス変換テーブルは、メモリシステム３の電源オン時にＮＡＮＤ型フラッシュメモリ５からＤＲＡＭ６にロードされてもよい。

１つのページへのデータ書き込みは、１回のＰ／Ｅサイクル当たり１回のみ可能である。このため、コントローラ４は、ある論理アドレスに対応する更新データを、この論理アドレスに対応する以前のデータが格納されている物理記憶位置ではなく、別の物理記憶位置に書き込む。そして、コントローラ４は、この論理アドレスをこの別の物理記憶位置に関連付けるように論理物理アドレス変換テーブルを更新することにより、以前のデータを無効化する。

ホストＩ／Ｆ１１は、メモリシステム３と、メモリシステム３の外部装置であるホスト２との通信を行うハードウェアインタフェースである。ホストＩ／Ｆ１１は、ホスト２から様々なコマンド、例えば、入出力（Ｉ／Ｏ）コマンド、各種制御コマンドを受信する回路を含む。Ｉ／Ｏコマンドには、ライトコマンド、リードコマンド、が含まれ得る。制御コマンドには、アンマップコマンド（トリムコマンド）、フォーマットコマンドが含まれ得る。ホストＩ／Ｆ１１は、コマンドに応じた応答やデータをホスト２に送信する回路を含む。

ＤＲＡＭ Ｉ／Ｆ１４は、ＤＲＡＭ６へのアクセスを制御するように構成されたＤＲＡＭ制御回路として機能する。

ＣＰＵ１２は、ホストＩ／Ｆ１１、ＮＡＮＤ Ｉ／Ｆ１３、ＤＲＡＭ Ｉ／Ｆ１４、および圧縮装置１５を制御するように構成されたプロセッサである。ＣＰＵ１２は、ＤＲＡＭ６にロードされたＦＷを実行することによって様々な処理を行う。つまり、ＦＷはＣＰＵ１２の動作を制御するための制御プログラムである。ＣＰＵ１２は、前述のＦＴＬの処理に加え、ホスト２からの様々なコマンドを処理するためのコマンド処理等を実行することができる。なお、ＦＴＬ処理およびコマンド処理の一部または全部は、コントローラ４内の専用ハードウェアによって実行されてもよい。

圧縮装置１５は、ＮＡＮＤ型フラッシュメモリ５に書き込むべきデータを符号化することにより、そのデータを圧縮するハフマン符号化部である。ＣＰＵ１２は、例えば、ホスト２からライトコマンドを受け付けたことに応じて受信したライトデータを平文データとして圧縮装置１５へ入力する。圧縮装置１５は、ＣＰＵ１２から入力された平文データを、符号化する。圧縮装置１５は、データを圧縮するために、例えば、動的ハフマン符号化を実現するための構成を有する。

動的ハフマン符号化は、符号化対象のシンボルの出現頻度を用いて動的に符号表（符号化テーブル）を生成する可変長符号化方式である。符号表は、Ｎ種類のシンボルと、Ｎ種類のシンボルにそれぞれ関連付けられたＮ個の可変長符号（符号語）とを示す情報を含む。動的ハフマン符号化では、出現頻度が大きいシンボルには短い符号語が割り当てられ、出現頻度が小さいシンボルには長い符号語が割り当てられる。圧縮装置１５は、このような割り当てに従い、入力されたシンボルを符号語に変換する。つまり、変換により得られる符号語は、可変長符号である。なお、シンボルは、例えば、固定長のデータである。

符号化対象のシンボルはＮ種類のシンボルのいずれかである。以下では、Ｎが２５６である場合について主に例示する。

２５６種類のシンボルそれぞれは、例えば、１バイトのデータである。この場合、２５６種類のシンボルは、０から２５５までの値とそれぞれ対応している。２５６種類のシンボルそれぞれに対応する０から２５５までのいずれかの値を、シンボル番号とも称する。なお、このようなシンボルの種類の数とシンボルが対応する値とは一例であって、符号化対象のシンボルを含むデータの特性に応じて変更されてもよい。

圧縮装置１５は符号表生成装置３２を備える。符号表生成装置３２は、シンボルを可変長符号に変換するための符号表を生成する装置である。符号表生成装置３２は、圧縮装置１５内に設けられる装置であってもよいし、圧縮装置１５を実現する回路の一部であってもよい。以下では、符号表生成装置３２を、符号表生成部３２とも称する。

ここで、図２から図６を参照して、比較例に係る符号表生成装置３２Ａにおける符号表の生成について説明する。

図２は、比較例に係る符号表生成装置３２Ａの構成を示すブロック図である。符号表生成装置３２Ａは、例えば、頻度カウント部３２１Ａ、頻度ソート部３２２Ａ、ハフマン木生成部３２４Ａ、符号長決定部３２５Ａ、およびカノニカルハフマン部３２６Ａを備える。

頻度カウント部３２１Ａは、入力されたシンボルを用いて頻度テーブル４０Ａ（以下、第０頻度テーブル４０Ａと称する）を生成する。第０頻度テーブル４０Ａは、複数のシンボルと、複数のシンボルそれぞれの出現頻度とを示すテーブルである。頻度カウント部３２１Ａは、第０頻度テーブル４０Ａを頻度ソート部３２２Ａに送出する。

頻度ソート部３２２Ａは、第０頻度テーブル４０Ａ内のエントリを、出現頻度の降順にソートする。ソートによって得られた頻度テーブルを、第１頻度テーブル４１Ａと称する。頻度ソート部３２２Ａは、第１頻度テーブル４１Ａをハフマン木生成部３２４Ａに送出する。

ハフマン木生成部３２４Ａは、第１頻度テーブル４１Ａを用いてハフマン木を生成する。

図３は、ハフマン木生成部３２４Ａによって実行されるハフマン木生成処理の手順の例を示すフローチャートである。

まず、ハフマン木生成部３２４Ａは、第１頻度テーブル４１Ａにおいて出現頻度が０より大きい全てのシンボルを、ハフマン木上のリーフノードとして追加する（ステップＳ１１）。つまり、ハフマン木生成部３２４Ａは、第１頻度テーブル４１Ａ内の出現頻度が０より大きいシンボルの数に相当するリーフノードを含むハフマン木を生成する。ハフマン木生成部３２４Ａによるハフマン木生成の対象となるシンボルの数（すなわち、生成されるハフマン木のリーフノードの数）は、最大でＮ個である。

次いで、ハフマン木生成部３２４Ａは、ハフマン木において、親ノードを持たない全てのリーフノードおよび中間ノードから、出現頻度が最も小さいノードＡと、次に小さいノードＢを選択する（ステップＳ１２）。ハフマン木生成部３２４Ａは、選択したノードＡとノードＢを子として持つ中間ノードをハフマン木に追加する（ステップＳ１３）。そして、ハフマン木生成部３２４Ａは、追加した中間ノードの出現頻度として、ノードＡとノードＢの出現頻度の和を設定する（ステップＳ１４）。

ハフマン木生成部３２４Ａは、ハフマン木に、親ノードを持たないリーフノードと中間ノードが合わせて２つ以上存在しているか否かを判定する（ステップＳ１５）。ハフマン木に、親ノードを持たないリーフノードと中間ノードが合わせて２つ以上存在している場合（ステップＳ１５のＹＥＳ）、ハフマン木生成部３２４Ａによる処理はステップＳ１２に進む。つまり、ハフマン木生成部３２４Ａは、親ノードを持たないリーフノードおよび中間ノードを子として持つ中間ノードを追加するための手順をさらに行う。

ハフマン木に、親ノードを持たないリーフノードと中間ノードが合わせて２つ未満である場合（ステップＳ１５のＮＯ）、ハフマン木生成部３２４Ａはハフマン木生成処理を終了する。

以上のハフマン木生成処理によって、ハフマン木生成部３２４Ａはハフマン木を生成できる。生成したハフマン木は、出現頻度が０より大きい複数のシンボルにそれぞれ対応する複数のリーフノードを含む。ハフマン木生成部３２４Ａは、出現頻度が小さいシンボルに対応するリーフノードからボトムアップにハフマン木を構築する。

図２に戻る。ハフマン木生成部３２４Ａは、生成したハフマン木を符号長決定部３２５Ａに送出する。

符号長決定部３２５Ａは、ハフマン木生成部３２４Ａから受け取ったハフマン木を用いて、複数のシンボルそれぞれの符号長を決定する。ルートノードを起点とするリーフノードの深さ（すなわち、ルートノードからリーフノードへ至るまでに辿ったエッジの数）は、対応するシンボルの符号長に相当する。よって、符号長決定部３２５Ａはハフマン木を用いて、シンボルの符号長を決定できる。符号長決定部３２５Ａは、決定した複数のシンボルそれぞれの符号長をカノニカルハフマン部３２６Ａに送出する。

カノニカルハフマン部３２６Ａは、符号長決定部３２５Ａから受け取った複数のシンボルそれぞれの符号長を用いて、符号表を生成する。カノニカルハフマン部３２６Ａは、例えばカノニカルハフマン方式により、符号表を生成する。カノニカルハフマン方式は、シンボルの符号長のみを用いて、シンボルに割り当てる符号ビット列（可変長符号）を決定可能な方式である。カノニカルハフマン方式によって符号表を生成する具体的な例については、図１３を参照して後述する。

図４から図６を参照して、第１頻度テーブル４１Ａを用いて符号長が決定される具体的な例を説明する。

図４は、頻度カウント部３２１Ａによって生成され、頻度ソート部３２２によってソートされた第１頻度テーブル４１Ａの構成例を示す。第１頻度テーブル４１Ａは、複数のシンボルにそれぞれ対応する複数のエントリを含む。複数のエントリの各々は、例えば、シンボルフィールドと出現頻度フィールドとを含む。

シンボルフィールドは、対応するシンボルを示す。
出現頻度フィールドは、対応するシンボルの出現頻度を示す。より具体的には、出現頻度フィールドは、例えば、処理対象の入力データにおいて、対応するシンボルが出現した回数を示す。

なお、以下では、シンボルフィールドに示される値を、単に、シンボルとも称する。第１頻度テーブル４１Ａの他の各フィールドに示される値、および他のテーブルの各フィールドに示される値についても同様である。

図４に示す例では、シンボル“ａ”の出現頻度は１２０である。シンボル“ｂ”の出現頻度は６０である。シンボル“ｃ”の出現頻度は２９である。シンボル“ｄ”の出現頻度は１４である。シンボル“ｅ”の出現頻度は４である。シンボル“ｆ”およびシンボル“ｇ”の出現頻度は３である。シンボル“ｈ”の出現頻度は２である。シンボル“ｉ”およびシンボル“ｊ”の出現頻度は０である。

図５は、ハフマン木生成部３２４Ａによって生成されるハフマン木５０の例を示す。ここでは、ハフマン木生成部３２４Ａが、図４に示した第１頻度テーブル４１Ａを用いてハフマン木５０を生成する場合について例示する。

まず、ハフマン木生成部３２４Ａは頻度テーブル４１から、出現頻度が０より大きい８つのシンボル“ａ”，“ｂ”，“ｃ”，“ｄ”，“ｅ”，“ｆ”，“ｇ”，“ｈ”を選択する。ハフマン木生成部３２４Ａは、選択した８つのシンボルをそれぞれ割り当てる８つのリーフノード５１１，５２１，５３１，５４１，５６１，５６２，５６３，５６４を含むハフマン木５０を生成する。各リーフノードには、対応するシンボルの出現頻度が設定される。

ハフマン木生成部３２４Ａは、ハフマン木５０の親ノードを持たない全リーフノードおよび全中間ノードから、出現頻度が最も小さいシンボル“ｈ”のリーフノード５６４と、次に小さいシンボル“ｇ”のリーフノード５６３とを選択する。そして、ハフマン木生成部３２４Ａは、選択したリーフノード５６４とリーフノード５６３とを子として持つ中間ノード５５２を、ハフマン木５０に追加する。ハフマン木生成部３２４Ａは、中間ノード５５２の出現頻度として、リーフノード５６４の出現頻度とリーフノード５６３の出現頻度の和（＝２＋３＝５）を設定する。

次に、ハフマン木生成部３２４Ａは、ハフマン木５０の親ノードを持たない全リーフノードおよび全中間ノードから、出現頻度が最も小さいシンボル“ｆ”のリーフノード５６２と、次に小さいシンボル“ｅ”のリーフノード５６１とを選択する。そして、ハフマン木生成部３２４Ａは、選択したリーフノード５６２とリーフノード５６１とを子として持つ中間ノード５５１を、ハフマン木５０に追加する。ハフマン木生成部３２４Ａは、追加した中間ノード５５１の出現頻度として、リーフノード５６２の出現頻度とリーフノード５６１の出現頻度の和（＝３＋４＝７）を設定する。

次いで、ハフマン木生成部３２４Ａは、ハフマン木５０の親ノードを持たない全リーフノードおよび全中間ノードから、出現頻度が最も小さい中間ノード５５２と、次に小さい中間ノード５５１とを選択する。そして、ハフマン木生成部３２４Ａは、選択した中間ノード５５２と中間ノード５５１とを子として持つ中間ノード５４２を、ハフマン木５０に追加する。ハフマン木生成部３２４Ａは、追加した中間ノード５４２の出現頻度として、中間ノード５５２の出現頻度と中間ノード５５１の出現頻度の和（＝５＋７＝１２）を設定する。

同様にして、ハフマン木生成部３２４Ａは、ハフマン木５０において、親ノードを持たないリーフノードと中間ノードが合わせて１つ以下になるまで（すなわち、親ノードを持たないノードがルートノード５０１のみになるまで）、中間ノードを追加する動作を繰り返し行う。これにより、図５に示すハフマン木５０を構築できる。

符号長決定部３２５Ａは、構築したハフマン木５０を用いて、複数のシンボルにそれぞれ関連付けられる複数の符号長を決定する。具体的には、符号長決定部３２５Ａは、構築したハフマン木５０を用いて、８つのシンボル“ａ”，“ｂ”，“ｃ”，“ｄ”，“ｅ”，“ｆ”，“ｇ”，“ｈ”の各々の符号長を決定する。１つのシンボルに対応するリーフノードの、ルートノード５０１を起点とする深さは、そのシンボルの符号長を示す。例えば、シンボル“ａ”のリーフノード５１１の、ルートノード５０１を起点とする深さは１である。よって、シンボル“ａ”の符号長は、１ビットである。また例えば、シンボル“ｈ”のリーフノード５６４の、ルートノード５０１を起点とする深さは６である。よって、シンボル“ｈ”の符号長は、６ビットである。

図６は、図５に示したハフマン木５０を用いて符号長決定部３２５Ａによって決定されたシンボル毎の符号長の例を示す。

具体的には、シンボル“ａ”の符号長は１ビットである。シンボル“ｂ”の符号長は２ビットであることを示している。シンボル“ｃ”の符号長は３ビットである。シンボル“ｄ”の符号長は４ビットである。また、シンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”のそれぞれの符号長は６ビットである。

このように、比較例に係る符号表生成装置３２Ａにおいて、ハフマン木５０を構築して、各シンボルの符号長を決定する処理には、出現したシンボルの種類に比例した処理量を要する。したがって、比較例に係る符号表生成装置３２Ａでは、出現したシンボルの種類が多い場合、符号表生成の処理に多くの時間がかかるか、あるいは特定の時間内に符号表生成を完了させるために符号表生成装置３２Ａの回路規模（例えば、ゲート数）が増加する。

そのため、本実施形態に係る符号表生成装置３２では、ハフマン木の構築にかかる処理量を削減する。具体的には、符号表生成装置３２では、Ｎ種類のシンボルを、出現頻度の降順の上位Ｋ個のシンボルと、残りの（Ｎ－Ｋ）個のシンボルとに分けて、（Ｎ－Ｋ）個のシンボルをハフマン木上の単一のリーフノードまたはＭ個のリーフノードと見なしてハフマン木の構築処理を行う。なお、Ｋは、１以上であって、且つＮ未満である整数である。よって、（Ｎ－Ｋ）は、１以上であって、且つＮ未満である整数である。Ｍは、（Ｎ－Ｋ）よりも小さい整数である。これにより、符号表生成装置３２では、構築されるハフマン木のリーフノード数が減少するので、ハフマン木の構築にかかる処理量を削減できる。

図７は、圧縮装置１５の一構成例を示す。圧縮装置１５は、例えば、バッファ部３１、符号表生成部３２（符号表生成装置３２）、可変長符号化部３３、符号表圧縮部３４、およびパッキング部３５を備える。

バッファ部３１は、圧縮装置１５に入力されたシンボルを記憶（バッファリング）する。バッファ部３１は、記憶したシンボルを、例えば特定のタイミングまで遅延させて、可変長符号化部３３に送出する。

符号表生成部３２は、圧縮装置１５に入力されたシンボルを用いて、符号表４９を生成する。符号表４９は、複数のシンボルと、複数のシンボルにそれぞれ関連付けられた複数の可変長符号（すなわち複数の符号ビット列）とを示す情報を含む。

より詳しくは、符号表生成部３２は、特定単位の入力データに含まれる複数のシンボルの出現頻度に基づき、符号表４９を生成する。特定単位は、特定のデータ量単位であってもよいし、ファイルのような特定のまとまりを単位としてもよい。特定のまとまりを単位とする場合、符号表生成部３２は、入力データの終端を示すデータを検出することにより、特定単位の入力データを認識する。

符号表生成部３２は、生成した符号表４９を可変長符号化部３３に送出する。また、符号表生成部３２は、符号表４９に示される複数のシンボルにそれぞれ割り当てられる複数の可変長符号の長さ（すなわち、複数の符号長）を、符号表圧縮部３４に送出する。

符号表圧縮部３４は符号表４９を圧縮する。具体的には、符号表圧縮部３４は、符号表生成部３２から受け取った複数の符号長に対する圧縮処理を行う。複数の符号長に対する圧縮処理は、例えば、ＤＥＦＬＡＴＥ規格（ＲＦＣ１９５１）に示されるように、複数の符号長を特定のシンボル順に並べ替え、並べ替えられた複数の符号長をランレングス符号化し、その結果をさらにハフマン符号化する処理である。特定のシンボル順は、例えば、対応する複数のシンボルのアルファベット順に従う順序である。つまり、特定のシンボル順に並べられた複数の符号長は、例えば、アルファベット順に並べられた複数のシンボルとそれぞれ対応するように並べ替えられた複数の符号長である。符号表圧縮部３４は、圧縮処理によって得られたデータ（圧縮された符号表４９）をパッキング部３５に送出する。

可変長符号化部３３は、符号表生成部３２によって送出された符号表４９を用いて、バッファ部３１によって送出されたシンボルを、可変長符号（符号ビット列）に変換する。可変長符号化部３３は、変換により得られた可変長符号をパッキング部３５に送出する。

パッキング部３５は、可変長符号化部３３から出力された１つ以上の可変長符号を順次連結して、特定のデータサイズ毎の圧縮データ（圧縮ストリーム）として出力する。この特定のデータサイズは、例えば、６４ビットである。また、パッキング部３５は、符号表圧縮部３４から出力された、圧縮された符号表４９を、この圧縮データのヘッダとして挿入する。圧縮された符号表４９は、伸張器において圧縮データが復号される際に、符号表４９（復号テーブル）を復元するために用いられる。

以上の構成により、圧縮装置１５は、入力されたシンボルを動的ハフマン符号化して、可変長符号に変換できる。例えば、入力されたシンボルがホスト２によってＮＡＮＤ型フラッシュメモリ５に書き込むことを要求されたデータである場合、ＣＰＵ１２は、１つ以上の可変長符号と圧縮された符号表４９とを含む圧縮データを、ＮＡＮＤ Ｉ／Ｆ１３を介してＮＡＮＤ型フラッシュメモリ５に書き込む。

また、コントローラ４は、さらに、ＥＣＣエンコーダとＥＣＣデコーダを備えてもよい。この場合、ＥＣＣエンコーダが、パッキング部３５から出力される圧縮データに対して誤り訂正用のパリティ（ＥＣＣパリティ）を生成し、生成したＥＣＣパリティと圧縮データとを有する符号語を生成する。そして、ＣＰＵ１２が、符号語をＮＡＮＤ Ｉ／Ｆ１３経由でＮＡＮＤ型フラッシュメモリ５へ書き込むように構成される。つまり、ＣＰＵ１２は、圧縮装置１５から出力される圧縮データに基づくデータを、ＮＡＮＤ Ｉ／Ｆ１３を介してＮＡＮＤ型フラッシュメモリ５に書き込むように構成される。また、ＣＰＵ１２は、例えばホスト２からホストＩ／Ｆ１１を介してリードコマンドを受信する場合、当該リードコマンドに基づくデータをＮＡＮＤ Ｉ／Ｆ１３を介してＮＡＮＤ型フラッシュメモリ５から読み出す。ＥＣＣデコーダは、読み出されたデータに対する誤り訂正処理を実行する。誤り訂正処理が実行された読み出しデータは圧縮データとしてＣＰＵ１２により伸張器へ入力され、伸張器は、入力された圧縮データを伸張する。ＣＰＵ１２は、ホスト２からのリードコマンドに対して、伸張されたデータをホスト２へ送信する。つまり、ホスト２からのリードコマンドに対して、ＣＰＵ１２は、ＮＡＮＤ型フラッシュメモリ５から読み出したデータに基づくデータを伸張し、伸張したデータをホスト２へ送信するように構成される。

なお、圧縮装置１５の一部または全ては、回路のようなハードウェアとして実現されてもよいし、少なくとも１つのプロセッサによって実行されるプログラム（すなわちソフトウェア）として実現されてもよい。

次いで、符号表生成部３２の具体的な構成について説明する。符号表生成部３２は、例えば、頻度カウント部３２１、頻度ソート部３２２、シンボルマージ部３２３、ハフマン木生成部３２４、符号長決定部３２５、およびカノニカルハフマン部３２６を備える。

頻度カウント部３２１は、入力されたシンボルの、シンボル毎の出現頻度に基づいて、頻度テーブル４０（以下、第０頻度テーブル４０と称する）を生成する。頻度カウント部３２１は、例えば、入力されたシンボルの、シンボルの毎の出現回数をカウントして、第０頻度テーブル４０を生成する。頻度カウント部３２１は、例えば、４０９６個のシンボルが入力される毎に、第０頻度テーブル４０を生成する。第０頻度テーブル４０は、複数のシンボルと、複数のシンボルにそれぞれ関連付けられた複数の出現頻度（例えば、出現回数）とを示すテーブルである。頻度カウント部３２１は、第０頻度テーブル４０を頻度ソート部３２２に送出する。

頻度ソート部３２２は、第０頻度テーブル４０内のエントリを、出現頻度の降順にソートする。ソートによって得られた頻度テーブルを、第１頻度テーブル４１と称する。頻度ソート部３２２は、第１頻度テーブル４１をシンボルマージ部３２３に送出する。

図８は、頻度カウント部３２１によって生成された第０頻度テーブル４０の例を示す。第０頻度テーブル４０は、Ｎ種類のシンボルにそれぞれ対応するＮ個のエントリを含む。Ｎ個のエントリには、先頭から順に、０からＮ－１までのインデックスがそれぞれ付与されている。よって、Ｎ個のエントリそれぞれは、インデックスによって特定可能である。図８に示す例では、Ｎは２５６である。各エントリは、シンボル番号フィールドと出現頻度フィールドとを含む。

あるシンボルに対応するエントリにおいて、シンボル番号フィールドは、そのシンボルに対応するシンボル番号を示す。出現頻度フィールドは、入力データに含まれる１つ以上のシンボルにおいて、対応するシンボルが出現した頻度（例えば、回数）を示す。

図８に示す第０頻度テーブル４０において、例えば、インデックスが０であるエントリは、シンボル番号が０であるシンボルの出現頻度が３であることを示す。例えば、インデックスが１であるエントリは、シンボル番号が１であるシンボルの出現頻度が１６であることを示す。また、例えば、インデックスが２５３であるエントリは、シンボル番号が２５３であるシンボルの出現頻度が３０であることを示す。

図９は、頻度ソート部３２２によって取得された第１頻度テーブル４１の例を示す。第１頻度テーブル４１は、第０頻度テーブル４０内の２５６個のエントリが、出現頻度の降順に並べ替えられたテーブルである。第１頻度テーブル４１内の２５６個のエントリには、先頭から順に、０から２５５までのインデックスがそれぞれ付与されている。

図９に示す第１頻度テーブル４１において、例えば、インデックスが０であるエントリは、シンボル番号が６４であるシンボルの出現頻度が５０であることを示す。例えば、インデックスが１であるエントリは、シンボル番号が２５３であるシンボルの出現頻度が３０であることを示す。また、例えば、インデックスが２５５であるエントリは、シンボル番号が８であるシンボルの出現頻度が０であることを示す。

このように、第１頻度テーブル４１では、２５６個のエントリが出現頻度の降順に並べられている。

図７に戻る。

シンボルマージ部３２３は、ハフマン木を構築する際に、第１頻度テーブル４１に含まれる全てのシンボル（すなわち、Ｎ個のシンボル）の内、出現頻度が小さい１つ以上のシンボルを、１つのシンボル（以下、代表シンボルと称する）と見なすための処理を行う。シンボルマージ部３２３は、例えば、シンボル分配部３７１、代表シンボル頻度推定部３７２、マージシンボル数カウント部３７３、およびマージシンボル加算符号長決定部３７４を備える。

シンボル分配部３７１は、第１頻度テーブル４１を、第１部分テーブル４３１と第２部分テーブル４３２とに分割する。第１部分テーブル４３１は、第１頻度テーブル４１に含まれるＮ個のエントリの内、出現頻度の降順に上位Ｋ個のエントリを含む。Ｋ個のエントリは、出現頻度が大きいＫ個のシンボルのエントリである。出現頻度が大きいＫ個のシンボルを、上位シンボルとも称する。第２部分テーブル４３２は、第１頻度テーブル４１に含まれるＮ個のエントリから上位Ｋ個のエントリを除いた残りの（Ｎ－Ｋ）個のエントリを含む。（Ｎ－Ｋ）個のエントリは、出現頻度が小さい（Ｎ－Ｋ）個のシンボルのエントリである。（Ｎ－Ｋ）個のエントリは、上位Ｋ個のエントリよりも、出現頻度が０であるシンボルを含む可能性が高い。出現頻度が小さい（Ｎ－Ｋ）個のシンボルを、下位シンボルとも称する。（Ｎ－Ｋ）個の下位シンボルは、ハフマン木を構築する際に、１つの代表シンボルと見なされる。つまり、代表シンボルは、（Ｎ－Ｋ）個の下位シンボルを代表するシンボルである。

シンボル分配部３７１は、第１部分テーブル４３１をハフマン木生成部３２４に送出する。シンボル分配部３７１は、第２部分テーブル４３２を、代表シンボル頻度推定部３７２、マージシンボル数カウント部３７３、およびマージシンボル加算符号長決定部３７４に送出する。

図１０は、（Ａ）第１頻度テーブル４１の例と、この第１頻度テーブル４１が分割された（Ｂ）第１部分テーブル４３１および（Ｃ）第２部分テーブル４３２の例とを示す。図１０に示す例では、Ｎは２５６であり、Ｋは３２である。

図１０（Ａ）に示す第１頻度テーブル４１は、図９に示した第１頻度テーブル４１と同様に、Ｎ個のエントリが出現頻度の降順に並べられたテーブルである。第１頻度テーブル４１は、第１部分テーブル４３１と第２部分テーブル４３２とに分割される。

図１０（Ｂ）に示すように、第１部分テーブル４３１は、第１頻度テーブル４１に含まれるエントリの内、上位Ｋ個（すなわち、先頭からＫ個）のエントリを含む。第１部分テーブル４３１内のＫ個のエントリには、先頭から順に、０からＫ－１までのインデックスがそれぞれ付与されている。

図１０（Ｃ）に示すように、第２部分テーブル４３２は、第１頻度テーブル４１に含まれるエントリから上位Ｋ個のエントリを除いた残りの（Ｎ－Ｋ）個のエントリ（図１０（Ｃ）では、２２４個のエントリ）を含む。第２部分テーブル４３２内の（Ｎ－Ｋ）個のエントリには、先頭から順に、０からＮ－Ｋ－１までのインデックスがそれぞれ付与されている。

図７に戻る。

代表シンボル頻度推定部３７２は、ハフマン木を構築する際に、第２部分テーブル４３２に含まれる（Ｎ－Ｋ）個の下位シンボルを１つの代表シンボルと見なすために、代表シンボルの出現頻度を推定する。代表シンボル頻度推定部３７２は、例えば、（Ｎ－Ｋ）個の下位シンボルの出現頻度の総和を見積もることによって、代表シンボルの出現頻度を推定する。

ここで、Ｎが２５６であり、且つＫが３２である場合に、（Ｎ－Ｋ）個の下位シンボルの出現頻度の総和の見積り値を算出する例を説明する。代表シンボル頻度推定部３７２は、第２部分テーブル４３２において、インデックスｉで特定されるエントリに示されるシンボルの出現頻度Ｆ（ｉ）を用いて、以下の式（１）により、下位シンボルの出現頻度の総和の見積り値Ｓを算出する。

式（１）による算出では、第２部分テーブル４３２に含まれる２２４個のエントリが、先頭から１６個のインデックス毎に分割されて、１４個の範囲（以下、インデックス範囲と称する）が設定される。１４個のインデックス範囲の内、先頭からｋ番目のインデックス範囲を、ｋ番目のインデックス範囲と称する。ｋは０から１３までのいずれかの値である。

代表シンボル頻度推定部３７２は、０番目から１３番目までのインデックス範囲それぞれについて、出現頻度の見積り値を算出する。具体的には、代表シンボル頻度推定部３７２は、ｋ番目のインデックス範囲の先頭のエントリに示される出現頻度Ｆ（ｋ×１６）と、終端のエントリに示される出現頻度Ｆ（ｋ×１６＋１５）との平均値に、１つのインデックス範囲に含まれるシンボルの数（ここでは、１６）を乗じることによって、ｋ番目のインデックス範囲に対応する出現頻度の見積り値を算出する。そして、代表シンボル頻度推定部３７２は、０番目から１３番目までのインデックス範囲それぞれに対応する出現頻度の見積り値の総和を算出して、下位シンボルの出現頻度の総和の見積り値Ｓを得る。

式（１）による算出では、各インデックス範囲の先頭のエントリから終端のエントリにかけて、インデックスに対応する出現頻度が線形に変化することを仮定することで、見積り値Ｓを算出するために要する加算の回数が削減される。なお、この見積り値Ｓの算出方法は、一例であって、これ以外の方法が用いられてもよい。例えば、第２部分テーブル４３２に含まれる２２４個のエントリを分割して設定されるインデックス範囲の数は、見積り値Ｓの算出に要する計算量と、算出される見積り値Ｓの精度とを考慮して、適宜変更され得る。

代表シンボル頻度推定部３７２は、下位シンボルの出現頻度の総和の見積り値Ｓを、代表シンボルの出現頻度としてハフマン木生成部３２４に送出する。

ハフマン木生成部３２４は、第１部分テーブル４３１と、代表シンボルの出現頻度とを用いて、ハフマン木を生成する。具体的には、第１部分テーブル４３１に含まれるＫ個のシンボルと代表シンボルの内、出現頻度が０より大きいシンボルそれぞれをリーフノードとして配置して、ハフマン木生成処理を行う。このハフマン木生成処理は、図３を参照して前述したハフマン木生成処理と同様である。具体的には、このハフマン木生成処理は、図３を参照して前述したハフマン木生成処理において、ステップＳ１１の第１頻度テーブル４１Ａにおいて出現頻度が０より大きい全てのシンボルを、第１部分テーブル４３１に含まれるＫ個のシンボルと代表シンボルの内、出現頻度が０より大きいシンボルに置き換えた処理である。ハフマン木生成部３２４は、生成されたハフマン木を符号長決定部３２５に送出する。

図１１は、ハフマン木生成部３２４によって生成されたハフマン木６０の例を示す。ハフマン木６０は、ルートノード６００と、中間ノード６１０，６１１，６２１，６３１と、第１タイプのリーフノード６４１，６４２，６４３，６４４と、第２タイプのリーフノード６４５とを含んでいる。

第１タイプのリーフノード６４１，６４２，６４３，６４４それぞれは、第１部分テーブル４３１に含まれるシンボルの内、出現頻度が０より大きいシンボルに対応する。第１タイプのリーフノードの数は、最大でＫ個である。

第２タイプのリーフノード６４５は、出現頻度が０より大きい代表シンボルに対応する。第２タイプのリーフノードの数は、最大で１個である。

したがって、ハフマン木生成部３２４によるハフマン木生成の対象となるシンボルの数（すなわち、生成されるハフマン木のリーフノードの数）は、最大で（Ｋ＋１）個である。これに対して、前述したように、比較例に係る符号表生成装置３２Ａのハフマン木生成部３２４Ａによるハフマン木生成の対象となるシンボルの数は、最大でＮ個である。例えば、Ｎが２５６であり、Ｋが３２である場合、本実施形態の符号表生成装置３２では、比較例のハフマン木生成部３２４Ａと比較して、ハフマン木生成部３２４によるハフマン木生成の対象となるシンボルの数は、最大２５６個から最大３３個（＝３２＋１）に大幅に削減される。これにより、本実施形態の符号表生成装置３２では、符号表生成の処理に要する時間を削減すること、あるいは特定の時間内に符号表生成を完了させるための回路規模（例えば、ゲート数）を削減することが可能になる。

一方で、第２部分テーブル４３２に含まれる全てのシンボルを１つの代表シンボルとして扱うことにより、動的ハフマン符号化の符号化効率が低下する懸念がある。これに対しては、第１部分テーブル４３１に含まれる、出現頻度の大半を占めるＫ個の上位シンボルについては、ハフマン木上でもＫ個のシンボル（すなわち、Ｋ個のリーフノード）として扱うことにより、動的ハフマン符号化の精度を確保する。つまり、動的ハフマン符号化の精度を確保できる範囲内で、第１部分テーブル４３１に含まれるシンボルの数Ｋを少なくする。また、第２部分テーブル４３２に含まれる（Ｎ－Ｋ）個の下位シンボルは、出現頻度が小さいことが多い。そのため、下位シンボルに対して、仮に最適でない符号長が設定されたとしても、符号化効率への影響は小さい。

したがって、本実施形態の符号表生成装置３２は、符号化効率の低下を実用上問題のない範囲に収めながら、符号表生成の処理に要する時間を削減できるか、あるいは特定の時間内に符号表生成を完了させるための回路規模を削減できる。

マージシンボル数カウント部３７３は、第２部分テーブル４３２に含まれている、出現頻度が０より大きいシンボルの数Ｃをカウントする。Ｃは、０以上の整数である。第２部分テーブル４３２に、出現頻度が０より大きいシンボルが含まれていなければ、Ｃは０である。第２部分テーブル４３２に含まれている、出現頻度が０より大きいシンボルを、マージシンボルと称する。マージシンボルは、第２部分テーブル４３２に含まれるシンボルの内、可変長符号を割り当てる必要があるシンボルである。マージシンボル数カウント部３７３によってカウントされたマージシンボルの数Ｃは、代表シンボルが代表しているマージシンボルの数である。マージシンボル数カウント部３７３は、マージシンボル数Ｃをマージシンボル加算符号長決定部３７４に送出する。

マージシンボル加算符号長決定部３７４は、第２部分テーブル４３２とマージシンボル数Ｃとに基づく部分木を用いて、各マージシンボルについて、代表シンボルの符号長に加算すべき符号長（以下、加算符号長と称する）を決定する。マージシンボル加算符号長決定部３７４は、マージシンボル毎の加算符号長を符号長決定部３２５に送出する。

各マージシンボルの符号長は、代表シンボルの符号長に、加算符号長を加算することで得られる。これは、マージシンボルそれぞれに対応するリーフノードを有する部分木を決定して、その部分木のルートノードについて、ハフマン木６０上の位置をハフマン木生成処理で決定することと等価である。

図１２は、マージシンボル加算符号長決定部３７４によって用いられるマージシンボルの部分木６５の例を示す。部分木６５は、ハフマン木６０の１つのリーフノード６４５をルートノードとする二分木である。ここでは、マージシンボル数Ｃが５である場合を例示する。

ハフマン木６０は、図１１を参照して前述したハフマン木６０と同様に、ルートノード６００と、中間ノード６１１，６２１，６３０，６３１と、第１タイプのリーフノード６４０，６４１，６４２，６４３，６４４と、第２タイプのリーフノード６４５とを含んでいる。

第１タイプのリーフノード６４１，６４２，６４３，６４４それぞれは、第１部分テーブル４３１に含まれるシンボルの内、出現頻度が０より大きいシンボルに対応する。

第２タイプのリーフノード６４５は、出現頻度が０より大きい代表シンボルに対応する。第２タイプのリーフノード６４５は、部分木６５のルートノードである。第２タイプのリーフノード６４５に関連付けられた出現頻度は、マージシンボルの出現頻度の総和の見積り値Ｓである。

部分木６５は、ハフマン木６０のリーフノード６４５をルートノードとして、中間ノード６５０，６５１，６６０と、リーフノード６６１，６６２，６６３，６７０，６７１とを含む。リーフノード６６１，６６２，６６３，６７０，６７１は、５個のマージシンボルにそれぞれ対応する。

したがって、リーフノード６４５に対応する代表シンボルの符号長に、部分木６５におけるルードノード（すなわち、リーフノード６４５）を起点とする各リーフノード６６１，６６２，６６３，６７０，６７１の深さ（エッジ数）を加算符号長として加算することによって、各マージシンボルの符号長が決定される。

Ｃ個のマージシンボルにそれぞれ対応するＣ個のリーフノードを含む部分木６５は、マージシンボル数Ｃを用いて、各マージシンボルの加算符号長を容易に得られる構造であることが、処理量削減の観点上望ましい。

そのため、マージシンボル加算符号長決定部３７４は、部分木６５として、バランスされた二分木を採用する。なお、部分木６５として、バランスされた二分木以外の構造が用いられてもよい。バランスされた二分木は、全てのリーフノードについて、リーフノード間の深さの差が高々１である二分木である。マージシンボル加算符号長決定部３７４は、以下の（Ａ１）および（Ａ２）の手順により、各マージシンボルの加算符号長を決定する。

（Ａ１）２^Ｄ≧Ｃを満たす最小の整数Ｄを求める。
（Ａ２）Ｃ個のマージシンボルの内、第２部分テーブル４３２上のインデックスが小さい順に（すなわち、出現頻度が大きい順に）（２^Ｄ－Ｃ）個のマージシンボルの加算符号長を（Ｄ－１）ビットに設定し、残りの（２Ｃ－２^Ｄ）個のマージシンボルの加算符号長をＤビットに設定する。

図１２に示す例では、Ｃ＝５である。よって、上記の手順に従ってＤを求めた場合、マージシンボル加算符号長決定部３７４は、２^３＞５であるので、Ｄ＝３を算出する。そして、マージシンボル加算符号長決定部３７４は、５個のマージシンボルの内、第２部分テーブル４３２上のインデックスが小さい順に３（＝２^３－５）個のマージシンボル（リーフノード６６１，６６２，６６３に相当）の加算符号長を２（＝３－１）ビットに設定する。また、マージシンボル加算符号長決定部３７４は、残りの２（＝２×５－２^３）個のマージシンボル（リーフノード６７０，６７１に相当）の加算符号長を３ビットに設定する。

図７に戻る。

符号長決定部３２５は、ハフマン木生成部３２４によって生成されたハフマン木６０と、マージシンボル加算符号長決定部３７４によって決定されたマージシンボル毎の加算符号長とを用いて、第１部分テーブル４３１に含まれるＫ個の上位シンボルの内、出現頻度が０より大きいシンボルそれぞれの符号長と、Ｃ個のマージシンボルそれぞれの符号長とを決定する。符号長決定部３２５は、例えば、符号長計算部３８１とマージシンボル符号長加算部３８２とを備える。以下では、説明を分かりやすくするために、Ｋ個の上位シンボル全ての出現頻度が０より大きく、Ｃが１以上である場合を例示する。なお、実際には、Ｋ個の上位シンボルに出現頻度が０であるシンボルが含まれていてもよいし、Ｃが０であってもよい。その場合、符号長決定部３２５は、Ｋ個の上位シンボルの内、出現頻度が０であるシンボルの符号長を算出しない。

符号長計算部３８１は、ハフマン木生成部３２４によって生成されたハフマン木６０を用いて、Ｋ個の上位シンボルそれぞれの符号長と、代表シンボルの符号長とを決定する。具体的には、符号長計算部３８１は、ハフマン木６０において、Ｋ個の上位シンボルおよび代表シンボルの各シンボルに対応するリーフノードからエッジを辿ってルートノード６００に到達するまでに通るエッジの本数を、そのシンボルの符号長として決定する。図１２に示す例では、例えば、リーフノード６４０に対応する上位シンボルの符号長は、１である。例えば、リーフノード６４３に対応する上位シンボルの符号長は、４である。また例えば、リーフノード６４５に対応する代表シンボルの符号長は、３である。

符号長計算部３８１は、決定した代表シンボルの符号長４５（以下、第０符号長４５と称する）をマージシンボル符号長加算部３８２に送出する。符号長計算部３８１は、決定したＫ個の上位シンボルにそれぞれ対応するＫ個の符号長４６（以下、第１符号長４６と称する）を、符号表圧縮部３４とカノニカルハフマン部３２６とに送出する。Ｋ個の上位シンボルについては、ハフマン木６０を用いて決定された第１符号長４６がそのまま、符号表圧縮部３４とカノニカルハフマン部３２６とによって利用される。

マージシンボル符号長加算部３８２は、第０符号長４５と、Ｃ個のマージシンボルにそれぞれ対応するＣ個の加算符号長とを用いて、Ｃ個のマージシンボルそれぞれの符号長（以下、マージシンボル符号長とも称する）を決定する。具体的には、マージシンボル符号長加算部３８２は、Ｃ個のマージシンボルそれぞれについて、第０符号長４５に、そのマージシンボルに対応する加算符号長を加算することで、当該マージシンボルの符号長を決定する。マージシンボル符号長加算部３８２は、Ｃ個のマージシンボル符号長を、符号表圧縮部３４とカノニカルハフマン部３２６とに送出する。

カノニカルハフマン部３２６は、符号長計算部３８１によって送出されたＫ個の第１符号長４６と、マージシンボル符号長加算部３８２によって送出されたＣ個のマージシンボル符号長とを用いて、カノニカルハフマン方式により、符号表４９を生成する。カノニカルハフマン方式は、シンボルの符号長のみを用いて、シンボルに割り当てる符号ビット列（可変長符号）を決定可能な方式である。カノニカルハフマン方式では、以下の規則（Ｂ１）および（Ｂ２）に従って、シンボルに符号ビット列を割り当てる。

（Ｂ１）符号長が短いシンボルに割り当てる符号ビット列は、符号長が長いシンボルに割り当てる符号ビット列に対して、辞書順で先行する。
（Ｂ２）符号長が等しい任意の２つのシンボルにおいて、シンボル順序で先行するシンボルに割り当てる符号ビット列は、シンボル順序で後続するシンボルに割り当てる符号ビット列に対して、辞書順で先行する。

例えば、符号ビット列の辞書順を決定するために、ビット値“０”および“１”の辞書順を、“０”，“１”の順序と定義する。この場合、複数の符号ビット列に含まれる対応するビット値の順序（ビット順序）を、上位ビットから順に比較することによって、これら複数の符号ビット列の辞書順を決定できる。

より具体的には、例えば、“１’ｂ０”，“２’ｂ１０”，“３’ｂ１１０”，“３’ｂ１１１”は、辞書順に並んだ４つの符号ビット列である。なお、“Ｘ’ｂ”に後続する０または１のビット値のデータ列は、Ｘビットのビットデータ列を示している。したがって、これら４つの符号ビット列において、１ビットの符号ビット列“１’ｂ０”は、２ビットの符号ビット列“２’ｂ１０”に対して、最上位ビットのビット順序が先行する。２ビットの符号ビット列“２’ｂ１０”は、３ビットの符号ビット列“３’ｂ１１０”に対して、最上位の次のビットのビット順序が先行する。３ビットの符号ビット列“３’ｂ１１０”は、３ビットの符号ビット列“３’ｂ１１１”に対して、最下位ビットのビット順序が先行する。

図１３は、カノニカルハフマン部３２６がシンボルに符号ビット列を割り当てるための疑似プログラムの例を示す。疑似プログラムにおいて、変数ｃｏｄｅは、シンボルに割り当てられる符号ビット列を算出するために用いられる。

まず、カノニカルハフマン部３２６は、ｃｏｄｅに０（＝１’ｂ０）を設定する。なお、このｃｏｄｅのビット数は、符号ビット列を割り当てるべき複数のシンボルにそれぞれ関連付けられた複数の符号長の内、最小の符号長に従う。

次いで、カノニカルハフマン部３２６は、１回のｗｈｉｌｅループにおいて、符号長が短い順、且つ同一符号長の場合は特定のシンボル順に、１つのシンボルに割り当てる符号ビット列を決定する。

例えば、１回目のｗｈｉｌｅループにおいて、カノニカルハフマン部３２６は、符号長が最も短いシンボルであって、且つ同一符号長の別のシンボルがある場合には特定のシンボル順で先になるシンボルを、符号ビット列を割り当てる対象として選択する。そして、カノニカルハフマン部３２６は、選択したシンボルの符号ビット列として、ｃｏｄｅ（＝１’ｂ０）を割り当てる。なお、前述した通り、最初に割り当てるｃｏｄｅのビット数は最小符号長に依存する。この例では、最小符号長が１であることを想定している。そして、カノニカルハフマン部３２６は、ｃｏｄｅに１を加えた値を、次のシンボルの符号長から現在のシンボルの符号長を引いたビット数だけ、左にシフトするシフト演算を行い、このシフト演算により得られた値をｃｏｄｅに設定する。例えば、次のシンボルの符号長から現在のシンボルの符号長を引いたビット数が１である場合、ｃｏｄｅ（＝１’ｂ０）に１を加えた値である１’ｂ１を、１ビット左にシフトした値２’ｂ１０が、ｃｏｄｅに設定される。

また例えば、２回目のｗｈｉｌｅループにおいて、カノニカルハフマン部３２６は、符号長が２番目に短いシンボルか、あるいは符号長が最も短いシンボルであって、且つ同一符号長の別のシンボルがある場合には特定のシンボル順で２番目になるシンボルを、符号ビット列を割り当てる対象として選択する。カノニカルハフマン部３２６は、選択したシンボルの符号ビット列として、ｃｏｄｅ（＝２’ｂ１０）を割り当てる。そして、カノニカルハフマン部３２６は、ｃｏｄｅに１を加えた値を、次のシンボルの符号長から現在のシンボルの符号長を引いたビット数だけ、左にシフトするシフト演算を行い、このシフト演算により得られた値をｃｏｄｅに設定する。例えば、次のシンボルの符号長から現在のシンボルの符号長を引いたビット数が１である場合、ｃｏｄｅ（＝２’ｂ１０）に１を加えた値である２’ｂ１１を、１ビット左にシフトした値３’ｂ１１０が、ｃｏｄｅに設定される。

このようなループ処理を行うことにより、カノニカルハフマン部３２６は、シンボル間の順序関係と、複数のシンボルにそれぞれ対応する複数の符号長とを用いて、複数のシンボルそれぞれに符号ビット列を割り当てることができる。つまり、カノニカルハフマン部３２６は、シンボル間の順序関係と、各シンボルの符号長とが決定されることで、各シンボルに割り当てる符号ビット列を一意に決定できる。

符号表圧縮部３４は、前述した通り、Ｋ個の上位シンボルに対応するＫ個の第１符号長４６と、Ｃ個のマージシンボルに対応するＣ個のマージシンボル符号長とに対する圧縮処理を行う。例えば、符号表圧縮部３４は、Ｋ個の上位シンボルに対応するＫ個の第１符号長４６と、Ｃ個のマージシンボルに対応するＣ個のマージシンボル符号長とを、特定のシンボル順に並べ替え、並べ替えられた複数の符号長をランレングス符号化し、その結果をさらにハフマン符号化する。これにより、圧縮された符号表４９を取得する。

前述した通り、パッキング部３５は、可変長符号化部３３から出力された１つ以上の可変長符号を順次連結して、特定のデータサイズ毎の圧縮データとして出力する。また、パッキング部３５は、圧縮された符号表４９を圧縮データのヘッダとして挿入する。カノニカルハフマン方式では、シンボル間の順序関係と、各シンボルの符号長とが決定されることで、各シンボルに割り当てる符号ビット列を一意に決定できる。そのため、圧縮された符号表４９から、伸張器において復号に用いられる符号表（復号テーブル）を復元可能である。符号表圧縮部３４において複数の符号長を符号化することにより、符号ビット列そのものを符号化する場合と比較して、圧縮データの符号量オーバーヘッドを大幅に削減できる。

図１４は、圧縮装置１５において実行される符号化処理の手順の例を示すフローチャートである。符号化処理は、圧縮装置１５に入力されたデータ（入力データ）に含まれる１つ以上のシンボルそれぞれを可変長符号に変換して、圧縮データを取得する処理である。符号化処理は、例えば、特定単位のデータが圧縮装置１５に入力されたことに応じて実行される。

まず、バッファ部３１は、入力データに含まれる１つ以上のシンボルを記憶する（ステップＳ１０１）。また、符号表生成部３２は符号表生成処理を行う（ステップＳ１０２）。符号表生成処理は、入力データに含まれる１つ以上のシンボルのシンボル毎の出現頻度に基づいて、符号表４９を生成する処理である。符号表生成処理の具体的な手順の例については、図１５のフローチャートを参照して後述する。なお、ステップＳ１０１とステップＳ１０２とは並列に行われてもよい。

次いで、可変長符号化部３３は、生成された符号表４９を用いて、バッファ部３１によって記憶された１つ以上のシンボルそれぞれを可変長符号に変換する（ステップＳ１０３）。また、符号表圧縮部３４は符号表４９を圧縮する（ステップＳ１０４）。具体的には、符号表圧縮部３４は、複数のシンボルにそれぞれ関連付けられる複数の符号長に対して圧縮処理を行う。複数の符号長に対する圧縮処理は、前述した通り、例えば、複数の符号長を特定のシンボル順に並べ替え、並べ替えられた複数の符号長をランレングス符号化し、その結果をさらにハフマン符号化する処理である。なお、ステップＳ１０３とステップＳ１０４とは並列に行われてもよい。

パッキング部３５は、圧縮された符号表４９と、連結された１つ以上の可変長符号とを含む圧縮データを出力し（ステップＳ１０５）、符号化処理を終了する。

以上により、圧縮装置１５は、入力データに含まれる１つ以上のシンボルそれぞれを可変長符号に変換して、圧縮データを取得できる。入力データが、例えば、ホスト２によってＮＡＮＤ型フラッシュメモリ５に書き込むことが要求されたデータである場合、ＣＰＵ１２は、入力データが圧縮された圧縮データを、ＮＡＮＤ Ｉ／Ｆ１３を介してＮＡＮＤ型フラッシュメモリ５に書き込むことができる。

図１５は、符号表生成部３２において実行される符号表生成処理の手順の例を示すフローチャートである。符号表生成処理は、図１４を参照して前述した符号化処理のステップＳ１０２に相当する。符号表生成部３２には、圧縮装置１５に対する入力データが入力される。

まず、符号表生成部３２の頻度カウント部３２１は、入力データに含まれる１つ以上シンボルを用いて、第０頻度テーブル４０を生成する（ステップＳ２０１）。頻度ソート部３２２は、第０頻度テーブルに含まれるＮ個のエントリを、出現頻度の降順にソートして、第１頻度テーブル４１を取得する（ステップＳ２０２）。そして、シンボル分配部３７１は、第１頻度テーブル４１から、上位Ｋ個のエントリを含む第１部分テーブル４３１と、残りの（Ｎ－Ｋ）個のエントリを含む第２部分テーブル４３２とを取得する（ステップＳ２０３）。第１部分テーブル４３１は、ハフマン木生成部３２４に送出される。第２部分テーブル４３２は、代表シンボル頻度推定部３７２、マージシンボル数カウント部３７３、およびマージシンボル加算符号長決定部３７４に送出される。

代表シンボル頻度推定部３７２は、第２部分テーブル４３２内の（Ｎ－Ｋ）個のシンボルを１つのシンボル（代表シンボル）と見なした場合の出現頻度の見積り値を算出する（ステップＳ２０４）。ハフマン木生成部３２４は、代表シンボルの出現頻度の見積り値と、第１部分テーブル４３１内のＫ個の上位シンボルの出現頻度とに基づいて、代表シンボルとＫ個の上位シンボルの内、出現頻度が０より大きいシンボルそれぞれをリーフノードとして有するハフマン木６０を生成する（ステップＳ２０５）。ここでは、代表シンボルとＫ個の上位シンボルの全シンボルの出現頻度が０より大きいことを想定する。符号長計算部３８１は、ハフマン木６０を用いて、代表シンボルの符号長（第０符号長）４５と、Ｋ個の上位シンボルそれぞれの符号長（Ｋ個の第１符号長）４６とを決定する（ステップＳ２０６）。代表シンボルの符号長４５は、マージシンボル符号長加算部３８２に送出される。Ｋ個の上位シンボルそれぞれの符号長４６は、カノニカルハフマン部３２６と符号表圧縮部３４とに送出される。

また、マージシンボル数カウント部３７３は、第２部分テーブル４３２に含まれる（Ｎ－Ｋ）個のシンボルの内、出現頻度が０より大きいシンボル（マージシンボル）の数Ｃを取得する（ステップＳ２０７）。マージシンボル加算符号長決定部３７４は、マージシンボルの数Ｃと第２部分テーブル４３２とに基づく部分木を用いて、Ｃ個のマージシンボルそれぞれの加算符号長（Ｃ個の加算符号長）を決定する（ステップＳ２０８）。Ｃ個の加算符号長は、マージシンボル符号長加算部３８２に送出される。

なお、ステップＳ２０４からステップＳ２０６までの手順と、ステップＳ２０７からステップＳ２０８までの手順とは、並列に行われてもよい。

次いで、マージシンボル符号長加算部３８２は、代表シンボルの符号長４５に、各マージシンボルの加算符号長を加算して、Ｃ個のマージシンボルそれぞれの符号長を決定する（ステップＳ２０９）。Ｃ個のマージシンボルそれぞれの符号長は、カノニカルハフマン部３２６と符号表圧縮部３４とに送出される。

カノニカルハフマン部３２６は、Ｋ個の上位シンボルそれぞれの符号長４６と、Ｃ個のマージシンボルそれぞれの符号長とを用いて、Ｋ個の上位シンボルおよびＣ個のマージシンボルの各シンボルに割り当てる可変長符号を決定し（ステップＳ２１０）、符号表生成処理を終了する。シンボルに割り当てる可変長符号を符号長に基づいて決定する方法については、図１３を参照して前述した通りである。

以上により、符号表生成部３２は、入力データに含まれる１つ以上のシンボルのシンボル毎の出現頻度に基づいて、符号表４９を生成する。符号表生成部３２は、最大で（Ｋ＋１）個のリーフノードを有するハフマン木を生成するので、最大でＮ個のリーフノードを有するハフマン木が生成される場合と比較して、ハフマン木生成の対象となるリーフノード（シンボル）の数が削減される。したがって、符号表生成部３２では、符号表４９を生成するための処理量を削減できる。

（第２実施形態）
第１実施形態に係る符号表生成装置３２は、第２部分テーブル４３２に含まれる１つ以上の下位シンボルを１つの代表シンボルと見なして、ハフマン木６０を生成する。これに対して、第２実施形態に係る符号表生成装置３２は、１つ以上の下位シンボルを２つ以上の代表シンボルと見なして、ハフマン木６０を生成する。第２実施形態の符号表生成装置３２では、代表シンボルの数を増やすことで、符号化効率の低下を小さくすることが期待できる。

第２実施形態の符号表生成装置３２の構成は第１実施形態の符号表生成装置３２と同様である。第２実施形態と第１実施形態とでは、１つ以上の下位シンボルを２つ以上の代表シンボルと見なしてハフマン木６０を生成し、２つ以上の代表シンボルそれぞれが代表するマージシンボルの部分木を用いて加算符号長を決定する処理の手順のみが異なる。以下、第１実施形態と異なる点を主に説明する。

図１６は、代表シンボルがＬ個である場合の符号表生成装置３２（符号表生成部３２）を含む圧縮装置１５の一構成例を示す。Ｌは、２以上の整数である。なお、Ｌが１である場合には、図７に示した第１実施形態の符号表生成装置３２と同様の構成になる。図１６では、代表シンボルが２つ（すなわち、Ｌ＝２）である場合の符号表生成部３２の構成を例示している。以下では、２つの代表シンボルを、第０代表シンボルと第１代表シンボルと称する。

符号表生成部３２は、例えば、頻度カウント部３２１、頻度ソート部３２２、シンボルマージ部３２３、ハフマン木生成部３２４、符号長決定部３２５、およびカノニカルハフマン部３２６を備える。頻度カウント部３２１および頻度ソート部３２２については、第１実施形態において前述した通りである。

シンボルマージ部３２３はシンボル分配部３７１を備える。シンボルマージ部３２３は、さらに、Ｌ個の代表シンボルに対応する数の、代表シンボル頻度推定部３７２、マージシンボル数カウント部３７３、およびマージシンボル加算符号長決定部３７４のセットを備える。図１６に示す例では、第０代表シンボルに対応する第０代表シンボル頻度推定部３７２－０、第０マージシンボル数カウント部３７３－０、および第０マージシンボル加算符号長決定部３７４－０のセットと、第１代表シンボルに対応する第１代表シンボル頻度推定部３７２－１、第１マージシンボル数カウント部３７３－１、および第１マージシンボル加算符号長決定部３７４－１のセットとが設けられている。

符号長決定部３２５は符号長計算部３８１を備える。符号長決定部３２５は、さらに、Ｌ個の代表シンボルに対応する数のマージシンボル符号長加算部３８２を備える。図１６に示す例では、第０代表シンボルに対応する第０マージシンボル符号長加算部３８２－０と、第１代表シンボルに対応する第１マージシンボル符号長加算部３８２－１とが設けられている。

シンボル分配部３７１は、第１頻度テーブル４１を、（Ｌ＋１）個の部分テーブルに分割する。第１部分テーブル４４１は、第１頻度テーブル４１に含まれるＮ個のエントリの内、上位のＫ個のエントリを含む。シンボル分配部３７１は、Ｎ個のエントリから上位のＫ個のエントリを除いた残りの（Ｎ－Ｋ）個のエントリをＬ個の集合（シンボル集合）に分割する。Ｌ個の集合それぞれは、Ｌ個の部分テーブルそれぞれに含まれる。

ここで、Ｎ＝２５６、Ｋ＝３２、Ｌ＝２である場合について例示する。この場合、シンボル分配部３７１は、第１頻度テーブル４１を、第１部分テーブル４４１、第２部分テーブル４４２、および第３部分テーブル４４３に分割する。第１部分テーブル４４１は、第１頻度テーブル４１に含まれる２５６個のエントリの内、インデックス０からインデックス３１までの３２個のエントリを含む。第２部分テーブル４４２は、第１頻度テーブル４１に含まれる２５６個のエントリの内、インデックス３２からインデックス６３までの３２個のエントリを含む。第３部分テーブル４４３は、第１頻度テーブル４１に含まれる２５６個のエントリの内、インデックス６４からインデックス２５５までの１９２個のエントリを含む。

シンボル分配部３７１は、第１部分テーブル４４１をハフマン木生成部３２４に送出する。シンボル分配部３７１は、第２部分テーブル４４２を、第０代表シンボル頻度推定部３７２－０、第０マージシンボル数カウント部３７３－０、および第０マージシンボル加算符号長決定部３７４－０に送出する。シンボル分配部３７１は、第３部分テーブル４４３を、第１代表シンボル頻度推定部３７２－１、第１マージシンボル数カウント部３７３－１、および第１マージシンボル加算符号長決定部３７４－１に送出する。

第０代表シンボル頻度推定部３７２－０および第１代表シンボル頻度推定部３７２－１それぞれの動作は、第１実施形態の代表シンボル頻度推定部３７２と同様である。

具体的には、第０代表シンボル頻度推定部３７２－０は、ハフマン木６０を構築する際に、第２部分テーブル４４２に含まれる１つ以上のシンボル（第０下位シンボル）を１つの第０代表シンボルと見なすために、第０代表シンボルの出現頻度を推定する。第０代表シンボル頻度推定部３７２－０は、例えば、１つ以上の第０下位シンボルの出現頻度の総和を見積もることによって、第０代表シンボルの出現頻度を推定する。第０代表シンボル頻度推定部３７２－０は、第０代表シンボルの出現頻度をハフマン木生成部３２４に送出する。

また、第１代表シンボル頻度推定部３７２－１は、ハフマン木６０を構築する際に、第３部分テーブル４４３に含まれる１つ以上のシンボル（第１下位シンボル）を１つの第１代表シンボルと見なすために、第１代表シンボルの出現頻度を推定する。第１代表シンボル頻度推定部３７２－１は、例えば、１つ以上の第１下位シンボルの出現頻度の総和を見積もることによって、第１代表シンボルの出現頻度を推定する。第１代表シンボル頻度推定部３７２－１は、第１代表シンボルの出現頻度をハフマン木生成部３２４に送出する。

ハフマン木生成部３２４は、第１部分テーブル４４１と、Ｌ個の代表シンボルそれぞれの出現頻度とを用いて、ハフマン木６０を生成する。より詳しくは、ハフマン木生成部３２４は、Ｋ個の上位シンボルとＬ個の代表シンボルの内、出現頻度が０より大きいシンボルそれぞれに対応するリーフノードを有するハフマン木を生成する。よって、ハフマン木生成部３２４は、最大で（Ｋ＋Ｌ）個のリーフノードを有するハフマン木の構築処理を行うことになる。ハフマン木生成部３２４は、生成したハフマン木６０を符号長決定部３２５（より詳しくは、符号長計算部３８１）に送出する。

第０マージシンボル数カウント部３７３－０および第１マージシンボル数カウント部３７３－１それぞれの動作は、第１実施形態のマージシンボル数カウント部３７３と同様である。また、第０マージシンボル加算符号長決定部３７４－０および第１マージシンボル加算符号長決定部３７４－１それぞれの動作は、第１実施形態のマージシンボル加算符号長決定部３７４と同様である。

具体的には、第０マージシンボル数カウント部３７３－０および第０マージシンボル加算符号長決定部３７４－０は、第０代表シンボルが代表するＣ個のマージシンボル（以下、第０マージシンボルと称する）それぞれの加算符号長を決定する。Ｃは、０以上の整数である。第０マージシンボルは、第２部分テーブル４４２に含まれるシンボルの内、出現頻度が０より大きいシンボルである。第０マージシンボル加算符号長決定部３７４－０は、決定した加算符号長を第０マージシンボル符号長加算部３８２－０に送出する。

また、第１マージシンボル数カウント部３７３－１および第１マージシンボル加算符号長決定部３７４－１は、第１代表シンボルが代表するＣ’個のマージシンボル（以下、第１マージシンボルと称する）それぞれの加算符号長を決定する。Ｃ’は、０以上の整数である。第１マージシンボルは、第３部分テーブル４４３に含まれるシンボルの内、出現頻度が０より大きいシンボルである。第１マージシンボル加算符号長決定部３７４－１は、決定した加算符号長を第１マージシンボル符号長加算部３８２－１に送出する。

符号長決定部３２５は、ハフマン木６０と、Ｃ個の第０マージシンボルの加算符号長と、Ｃ’個の第１マージシンボルの加算符号長とを用いて、第１部分テーブル４４１に含まれるＫ個の上位シンボルそれぞれの符号長と、Ｃ個の第０マージシンボルそれぞれの符号長と、Ｃ’個の第１マージシンボルそれぞれの符号長とを決定する。なお、ここでは、Ｋ個の上位シンボル、第０代表シンボル、および第１代表シンボルの全シンボルの出現頻度が０より大きいことを想定する。

具体的には、符号長決定部３２５の符号長計算部３８１は、ハフマン木６０を用いて、Ｋ個の上位シンボルそれぞれの符号長（第１符号長４６）と、第０代表シンボルの符号長（以下、第０符号長４７１と称する）と、第１代表シンボルの符号長（以下、第０’符号長４７２と称する）とを決定する。ハフマン木６０を用いて各シンボルの符号長を決定する方法については、前述した通りである。

符号長計算部３８１は、決定した第０代表シンボルの第０符号長４７１を第０マージシンボル符号長加算部３８２－０に送出する。符号長計算部３８１は、決定した第１代表シンボルの第０’符号長４７２を第１マージシンボル符号長加算部３８２－１に送出する。符号長計算部３８１は、決定したＫ個の上位シンボルにそれぞれ対応するＫ個の第１符号長４６を、符号表圧縮部３４とカノニカルハフマン部３２６とに送出する。

第０マージシンボル符号長加算部３８２－０は、第０符号長４７１と、Ｃ個の第０マージシンボルにそれぞれ対応するＣ個の加算符号長とを用いて、Ｃ個の第０マージシンボルそれぞれの符号長（以下、第０マージシンボル符号長と称する）を決定する。具体的には、第０マージシンボル符号長加算部３８２－０は、Ｃ個の第０マージシンボルそれぞれについて、第０符号長４７１に、その第０マージシンボルに対応する加算符号長を加算することで、当該第０マージシンボルの符号長を決定する。第０マージシンボル符号長加算部３８２－０は、Ｃ個の第０マージシンボル符号長を、符号表圧縮部３４とカノニカルハフマン部３２６に送出する。

第１マージシンボル符号長加算部３８２－１は、第０’符号長４７２と、Ｃ’個の第１マージシンボルにそれぞれ対応するＣ’個の加算符号長とを用いて、Ｃ’個の第１マージシンボルそれぞれの符号長（以下、第１マージシンボル符号長と称する）を決定する。具体的には、第１マージシンボル符号長加算部３８２－１は、Ｃ’個の第１マージシンボルそれぞれについて、第０’符号長４７２に、その第１マージシンボルに対応する加算符号長を加算することで、当該第１マージシンボルの符号長を決定する。第１マージシンボル符号長加算部３８２－１は、Ｃ’個の第１マージシンボル符号長を、符号表圧縮部３４とカノニカルハフマン部３２６に送出する。

カノニカルハフマン部３２６は、Ｋ個の第１符号長４６と、Ｃ個の第０マージシンボル符号長と、Ｃ’個の第１マージシンボル符号長とを用いて、カノニカルハフマン方式により、符号表４９を生成する。符号長に基づく符号表４９の生成方法については、第１実施形態において説明した通りである。

なお、符号表圧縮部３４は、Ｋ個の第１符号長４６と、Ｃ個の第０マージシンボル符号長と、Ｃ’個の第１マージシンボル符号長とに対する圧縮処理を行う。例えば、符号表圧縮部３４は、Ｋ個の第１符号長４６と、Ｃ個の第０マージシンボル符号長と、Ｃ’個の第１マージシンボル符号長とを、特定のシンボル順に並べ替え、並べ替えられた複数の符号長をランレングス符号化し、その結果をさらにハフマン符号化する。これにより、圧縮された符号表４９を取得する。

このように、１つ以上の下位シンボルを代表する代表シンボルの数Ｌは、任意に設定可能である。符号表生成部３２には、代表シンボルの数Ｌに応じて、対応する数の代表シンボル頻度推定部３７２、マージシンボル数カウント部３７３、マージシンボル加算符号長決定部３７４、およびマージシンボル符号長加算部３８２のセットが設けられる。

代表シンボルの数Ｌを増やすことによって、増加したＬ個の部分テーブルをそれぞれ用いてＬ個の代表シンボルの出現頻度が推定される。増加したＬ個の代表シンボルの出現頻度が用いられることにより、例えば、１つ以上の下位シンボルの出現頻度の傾向が途中で大きく変わる場合に、その出現頻度の傾向の変化が、ハフマン木６０の生成に反映されやすくなる。したがって、符号表生成部３２において代表シンボルの数Ｌを増やすことで、圧縮装置１５における符号化効率の低下を小さくし得る。代表シンボルの数Ｌは、例えば、ハフマン木の生成に要する処理量と、符号化効率とを考慮して決定される。

以上説明したように、第１および第２実施形態に係る符号表生成装置３２によれば、符号表を生成するための処理量を削減できる。頻度カウント部３２１は、入力されたシンボルのシンボル毎の出現頻度に基づいて、複数のシンボルと、前記複数のシンボルにそれぞれ関連付けられた複数の出現頻度とを含む頻度テーブルを生成する。頻度ソート部３２２は、頻度テーブルにおいて、複数のシンボルと複数の出現頻度とを、出現頻度の降順に並べ替える。シンボルマージ部３２３（より詳しくは、シンボル分配部３７１）は、並べ替えられた複数のシンボルから、上位のＫ個のシンボルと、残りのシンボルとを取得し、その残りのシンボルを１つ以上のシンボル集合に分割する。シンボルマージ部３２３（より詳しくは、代表シンボル頻度推定部３７２）は、１つ以上のシンボル集合にそれぞれ対応する１つ以上の部分木それぞれのルートノード（すなわち、代表シンボル）に関連付けられる出現頻度を決定する。ハフマン木生成部３２４は、Ｋ個のシンボルと、１つ以上の部分木それぞれのルートノードとを用いて、ハフマン木６０を生成する。符号長決定部３２５は、ハフマン木６０と１つ以上の部分木とに基づいて、複数のシンボルにそれぞれ対応する複数の符号長を決定する。カノニカルハフマン部３２６は、複数の符号長に基づいて、複数のシンボルにそれぞれ割り当てる複数の符号を決定する。なお、Ｋは、１以上であって、複数のシンボルの数以下である整数である。

これにより、符号表生成装置３２では、最大で、Ｋと１つ以上の部分木の数の和に相当する数のリーフノードを有するハフマン木を生成するので、最大で、複数のシンボルの数に相当する数のリーフノードを有するハフマン木を生成する場合と比較して、ハフマン木生成の対象となるリーフノード（シンボル）の数が削減される。したがって、符号表生成装置３２では、符号表を生成するための処理量を削減できる。

第１および第２実施形態に記載された様々な機能の各々は、回路（処理回路）によって実現されてもよい。処理回路の例には、中央処理装置（ＣＰＵ）のような、プログラムされたプロセッサが含まれる。このプロセッサは、メモリに格納されたコンピュータプログラム（命令群）を実行することによって、記載された機能それぞれを実行する。このプロセッサは、電気回路を含むマイクロプロセッサであってもよい。処理回路の例には、デジタル信号プロセッサ（ＤＳＰ）、特定用途向け集積回路（ＡＳＩＣ）、マイクロコントローラ、コントローラ、他の電気回路部品も含まれる。これら実施形態に記載されたＣＰＵ以外の他のコンポーネントの各々もまた処理回路によって実現されてもよい。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

１…情報処理システム、２…ホスト、３…メモリシステム、４…コントローラ、５…ＮＡＮＤ型フラッシュメモリ、１０…バス、１１…ホストＩ／Ｆ、１２…ＣＰＵ、１３…ＮＡＮＤ Ｉ／Ｆ、１４…ＤＲＡＭ Ｉ／Ｆ、１５…圧縮装置、３１…バッファ部、３２…符号表生成装置（符号表生成部）、３３…可変長符号化部、３４…符号表圧縮部、３５…パッキング部、３２１…頻度カウント部、３２２…頻度ソート部、３２３…シンボルマージ部、３２４…ハフマン木生成部、３２５…符号長決定部、３２６…カノニカルハフマン部、３７１…シンボル分配部、３７２…代表シンボル頻度推定部、３７３…マージシンボル数カウント部、３７４…マージシンボル加算符号長決定部、３８１…符号長計算部、３８２…マージシンボル符号長加算部、４０…第０頻度テーブル、４１…第１頻度テーブル、４３１…第１部分テーブル、４３２…第２部分テーブル、４５…第０符号長、４６…第１符号長、４９…符号表。

Claims (11)

1. 入力されたシンボルのシンボル毎の出現頻度に基づいて、複数のシンボルと、前記複数のシンボルにそれぞれ関連付けられた複数の出現頻度とを含む頻度テーブルを生成する頻度テーブル生成部と、
   前記頻度テーブルにおいて、前記複数のシンボルと前記複数の出現頻度とを、出現頻度の降順に並べ替える頻度ソート部と、
   並べ替えられた前記複数のシンボルから、上位のＫ個のシンボルと、残りのシンボルとを取得し、前記残りのシンボルを１つ以上のシンボル集合に分割し、前記１つ以上のシンボル集合にそれぞれ対応する１つ以上の部分木それぞれのルートノードに関連付けられる出現頻度を決定するシンボルマージ部と、
   前記Ｋ個のシンボルと、前記１つ以上の部分木それぞれのルートノードとを用いて、ハフマン木を生成するハフマン木生成部と、
   前記ハフマン木と前記１つ以上の部分木とに基づいて、前記複数のシンボルにそれぞれ対応する複数の符号長を決定する符号長決定部と、
   前記複数の符号長に基づいて、前記複数のシンボルにそれぞれ割り当てる複数の符号を決定する符号決定部とを具備し、
   前記Ｋは、１以上であって、前記複数のシンボルの数以下である整数である
   符号表生成装置。
2. 前記１つ以上の部分木それぞれは、１つ以上のリーフノードを有する部分木であり、
   前記１つ以上のリーフノードは、前記１つ以上のシンボル集合の内の１つのシンボル集合に含まれ、且つ出現頻度が０より大きい１つ以上のシンボルにそれぞれ対応する
   請求項１に記載の符号表生成装置。
3. 前記１つ以上の部分木それぞれは、バランスされた二分木である
   請求項１または請求項２に記載の符号表生成装置。
4. 前記１つ以上の部分木は、第１部分木を含み、
   前記１つ以上のシンボル集合は、前記第１部分木に対応する第１シンボル集合を含み、
   前記シンボルマージ部は、前記第１シンボル集合に含まれる１つ以上のシンボルの内の少なくとも１つに関連付けられた出現頻度を用いて、前記第１部分木のルートノードに関連付けられる出現頻度を決定する
   請求項１乃至請求項３のいずれか一項に記載された符号表生成装置。
5. 前記複数のシンボルそれぞれは、出現頻度が０より大きいシンボルである
   請求項１乃至請求項４のいずれか一項に記載の符号表生成装置。
6. 請求項１乃至請求項５のいずれか一項に記載の符号表生成装置と、
   前記複数のシンボルにそれぞれ割り当てられた前記複数の符号に基づいて、前記入力されたシンボルを符号に変換する符号化部と、
   不揮発性メモリと、
   前記符号を含むデータを前記不揮発性メモリに書き込む制御部とを具備する
   メモリシステム。
7. 入力されたシンボルのシンボル毎の出現頻度に基づいて、複数のシンボルと、前記複数のシンボルにそれぞれ関連付けられた複数の出現頻度とを含む頻度テーブルを生成し、
   前記複数のシンボルから、出現頻度の降順に上位のＫ個のシンボルと、残りのシンボルとを取得し、
   前記残りのシンボルを１つ以上のシンボル集合に分割し、
   前記１つ以上のシンボル集合にそれぞれ対応する１つ以上の部分木それぞれのルートノードに関連付けられる出現頻度を決定し、
   前記Ｋ個のシンボルと、前記１つ以上の部分木それぞれのルートノードとを用いて、ハフマン木を生成し、
   前記ハフマン木と前記１つ以上の部分木とに基づいて、前記複数のシンボルにそれぞれ対応する複数の符号長を決定し、
   前記複数の符号長に基づいて、前記複数のシンボルにそれぞれ割り当てる複数の符号を決定し、
   前記Ｋは、１以上であって、前記複数のシンボルの数以下である整数である
   符号表生成方法。
8. 前記１つ以上の部分木それぞれは、１つ以上のリーフノードを有する部分木であり、
   前記１つ以上のリーフノードは、前記１つ以上のシンボル集合の内の１つのシンボル集合に含まれ、且つ出現頻度が０より大きい１つ以上のシンボルにそれぞれ対応する
   請求項７に記載の符号表生成方法。
9. 前記１つ以上の部分木それぞれは、バランスされた二分木である
   請求項７または請求項８に記載の符号表生成方法。
10. 前記１つ以上の部分木は、第１部分木を含み、
    前記１つ以上のシンボル集合は、前記第１部分木に対応する第１シンボル集合を含み、
    前記１つ以上の部分木それぞれのルートノードに関連付けられる出現頻度を決定することは、前記第１シンボル集合に含まれる１つ以上のシンボルの内の少なくとも１つに関連付けられた出現頻度を用いて、前記第１部分木のルートノードに関連付けられる出現頻度を決定することを含む
    請求項７乃至請求項９のいずれか一項に記載された符号表生成方法。
11. 前記複数のシンボルそれぞれは、出現頻度が０より大きいシンボルである
    請求項７乃至請求項１０のいずれか一項に記載の符号表生成方法。

Images