JP4905562B2 - データ圧縮装置、及びデータ復元装置 - Google Patents
データ圧縮装置、及びデータ復元装置 Download PDFInfo
- Publication number
- JP4905562B2 JP4905562B2 JP2010010949A JP2010010949A JP4905562B2 JP 4905562 B2 JP4905562 B2 JP 4905562B2 JP 2010010949 A JP2010010949 A JP 2010010949A JP 2010010949 A JP2010010949 A JP 2010010949A JP 4905562 B2 JP4905562 B2 JP 4905562B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- compression
- specific
- appearance frequency
- frequency
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
先ず、辞書型符号化方式では、前述のように符号化済みの文字列の中から符号化対象の文字列に最大長に一致する文字部分列を検索し、その文字部分列を複製として符号化を実行する方式であり、高いデータ圧縮率が実現できる。この様なアルゴリズムを実装するには、データの圧縮率をより高めていく構成を採用する必要があると共に、符号化されたデータを利用し易い形式とする必要がある。
(実施形態1)
図1は、本実施形態のデータ圧縮装置のシステム構成図である。
また、第1の圧縮手段を全てバイトデータで取り扱うことにより、第1、第2の圧縮手段共に、全てバイト単位で扱うことができ、ビット操作を極力少なくでき、高速化を図ることができる。
(実施形態2)
次に、本発明の実施形態2について説明する。
(実施形態3)
次に、本発明の実施形態3について説明する。
以上のように、本例によれば第1の圧縮処理を行った後、第2の圧縮処理を行った場合の圧縮データサイズ(圧縮率)を計算し、第1の圧縮処理後の出力データサイズよりデータ量が増加する場合第2の圧縮を行うことなく、第1の圧縮処理の結果よりサイズが増大する圧縮処理を行うことを回避できる。また、無駄な第2の圧縮処理を行わずに済み、効率のよい圧縮処理が可能となる。
(実施形態4)
次に、本発明の実施形態4について説明する。
(実施形態5)
次に、本発明の実施形態5について説明する。
F1テーブルサイズ=(入力データ数+7)/8バイト
F2テーブルサイズ=(Best1〜23の頻度の和+7)/8バイト
F3テーブルサイズ=(Best2〜23の頻度の和+7)/8バイト
F4テーブルサイズ=(Best4〜23の頻度の和+7)/8バイト
F5テーブルサイズ=(Best2〜3の頻度の和+7)/8バイト
F6テーブルサイズ=(Best4〜7の頻度の和+3)/4バイト
F7テーブルサイズ=(Best8〜23の頻度の和+1)/2バイト
F8テーブルサイズ=入力データ数−Best1〜23の頻度の和
次に、上記計算結果から出力データバッファ1(F1テーブル)〜出力データバッファ8(F8テーブル)を圧縮フォーマットに割り当てる(ST11)。また、Best1〜23のコード情報を含むデータを圧縮フォーマットのヘッダ部に出力する(ST12、ST13)。
(実施形態6)
次に、本発明の実施形態6について説明する。
(1)Best1コードとそれ以外のコードの場合、Best1コードは1bitで、他は9bitで符号化され、
(2)Best1コードと次のBest2個(出現頻度が次に多い2個のコードであり、つまりBest2〜3のコード)とそれ以外のコードの場合、Best1コードは2bitで、Best2個(Best2〜3)は3bitで、他は9bitで符号化され、
(3)Best1コードと次のBest4個(出現頻度が次に多い4個のコードであり、つまりBest2〜5のコード)とそれ以外のコードの場合、Best1コードは2bitで、Best4個(Best2〜5)は4bitで、他は9bitで符号化され、
(4)Best1と次のBest16個(出現頻度が次に多い16個のコードであり、つまりBest2〜17のコード)とそれ以外のコードの場合、Best1は2bitで、Best16個(Best2〜17)は6bitで、他は9bitで符号化され、
(5)Best1と次のBest2個(Best2〜3)とその次のBest4個(Best4〜7)とそれ以外のコードの場合、Best1は2bitで、Best2個(Best2〜3)は4bitで、Best4個(Best4〜7)は5bitで、他は9bitで符号化される。
(7)Best1と次のBest4個(Best2〜5)とその次のBest16個(Best6〜21)とそれ以外のコードの場合、Best1は2bitで、Best4個(Best2〜5)は5bitで、Best16個(Best6〜21)は7bitで、他は9bitで符号化され、
(8)Best1と次のBest2個(Best2〜3)とその次のBest4個(Best4〜7)と更にその次のBest16個(Best8〜23)とそれ以外のコードの場合、Best1は2bitで、Best2個(Best2〜3)は4bitで、Best4個(Best4〜7)は6bitで、Best16個(Best8〜23)は8bitで、他は9bitで符号化される。
(実施形態7)
次に、本発明の実施形態7について説明する。尚、本例は上記圧縮効率判定部39によって判定された出力形式4(つまり、(4)Best1と次のBest16個(Best2〜17)とそれ以外の場合)を使用したものである。準備処理部35によってBest1〜Best17までの頻度データを作成した場合の例であり、圧縮フォーマットは図16に示す構成である。したがって、前述の実施形態6における出力データバッファ(Fテーブル)に対して、本例においてテーブル番号は一致しない。
(実施形態8)
次に、本発明の実施形態8について説明する。
(実施形態9)
次に、本発明の実施形態9について説明する。
尚、同図に示す他の構成は、前述の図6の構成と同じであり、説明を省略する。そして、出力データバッファ27に格納された圧縮データは、圧縮結果データ出力手段44によって、出力ファイルに順次出力される。
(実施形態10)
次に、本発明の実施形態10について説明する。
(実施形態11)
次に、本発明の実施形態11について説明する。
図22は本例のデータ復元装置を説明する図である。同図において、第1の復元手段51は、前述と同様準適応型(semi-adaptive)確率統計型符号化データの復号処理を行い、第2の復元手段52は適応型の辞書型符号化データ(Lempel-Ziv法)の復号処理を行う。また、同図において、入力切換手段53は前述の実施形態3の処理によって符号化された(圧縮処理された)データ列を入力し、識別データ判定手段54、又は第1の復号手段51、又は第2の復号手段52のいずれかにデータを受け渡す入力データの切り換え手段である。尚、入力切換手段53は初期状態において、識別データ判定手段54に入力データを受け渡す設定が行われている。
(実施形態12)
次に、本発明の実施形態12について説明する。
図23は本例のデータ復元装置を説明する図である。同図において、第1の復元手段51は、前述と同様準適応型(semi-adaptive)確率統計型符号化データの復号処理を行い、第2の復元手段52は適応型の辞書型符号化データ(Lempel-Ziv法)の復号処理を行う。また、同図において、入力切換手段53、識別データ判定手段54は前述の同じ構成であるが、識別データ判定手段54は後述する4種類のマジックナンバーの識別を行う。すなわち、本例は前述の実施形態4の圧縮装置による圧縮データを復元する構成であり、識別データは前述の4種類のマジックナンバー1〜4の判断を行う。
上記構成において、先ず識別データ判定手段54に入力する識別データがマジックナンバー1である場合、識別データ判定手段54は、判定した識別データを除いて、そのまま受け渡されたデータ列をデータエンドまで出力する。
(実施形態13)
次に、本発明の実施形態13について説明する。
(実施形態14)
次に、本発明の実施形態14について説明する。
図25は本実施形態を説明する図である。本例は膨大な入力データを分割して圧縮処理した圧縮データを復元する処理を説明するものである。同図において、原データ分割・入力手段60は、入力ファイル61に記憶された入力データを分割して入力データバッファ63に出力する。このように構成することにより、圧縮データは分割され入力データバッファ63に供給され、以後識別データを識別データ判定手段65によって識別し、第1の復号手段66、第2の復号手段67、又は元データ出力手段68を選択して圧縮データの復号処理を行うことができる。
(実施形態15)
次に、本発明の実施形態15について説明する。
3・・・入力データバッファ
4・・・Pバッファ
5・・・Qバッファ
11、12・・・圧縮手段
13・・・中間データバッファ
14・・・頻度テーブル
20・・・入力バッファ
21、22・・・圧縮手段
23・・・中間データバッファ
24、24a、24b・・・頻度テーブル
25・・・サイズ算出・判定手段
26・・・元データ出力手段
27・・・出力データバッファ
30・・・入力バッファ
31・・・圧縮手段
32・・・統計モデル処理手段
33・・・頻度テーブル
34・・・エントロピー符号化手段
35・・・準備処理部
36・・・エントロピー符号化処理部
37・・・出力処理手段
39・・・圧縮効率判定部
40・・・原データ分割・入力手段
41・・・入力ファイル
43・・・入力データバッファ
44・・・圧縮結果データ出力手段
51、52・・・復元手段
53・・・入力切換手段
54・・・識別データ判定手段
55、55a、55b・・・切換手段
56・・・切換手段、
58・・・出力切換手段
60・・・原データ分割・入力手段
63・・・入力データバッファ
65・・・識別データ判定手段
66、67・・・復号手段
68・・・元データ出力手段
69・・・出力データバッファ
70・・・復号結果データ出力手段
71、72・・・復元手段
73・・・FIFOメモリ
74・・・出力ファイル
Claims (2)
- 出現頻度に応じて可変長符号化する確率統計型符号化のデータ圧縮装置において、
特定データと該特定データの出現頻度を記憶する頻度テーブルと、
前記特定データを含む入力データを保持する入力データバッファと、
符号化処理部と、
出力処理部と、を有し、
前記符号化処理部は、
前記入力データバッファから順次データを読み出し、前記頻度テーブルを検索し、前記読み出したデータが出現頻度の高い順に上位23個の特定データであるか比較し、特定データである場合は圧縮データと、特定データではない場合は非圧縮データと判定し、圧縮データ又は非圧縮データの識別を1ビットのデータとして第1のテーブルに記憶するとともに、
前記頻度テーブルを検索し、前記読み出したデータが出現頻度の最も高い特定データである時、第2のテーブルに出現頻度の最も高い特定データであることを示す1ビットのデータを記憶し、
出現頻度の次に高い2個の特定データに含まれる時、第2乃至第3のテーブルに前記2個の特定データに含まれることを示す1ビット毎のデータを記憶し、第5のテーブルに前記2個の特定データの中の順序を示すデータを記憶し、
出現頻度が次に高い4個の特定データである時、第2乃至第4のテーブルに出現頻度が次に高い4個の特定データに含まれることを示す1ビット毎のデータを記憶し、第6のテーブルに前記4個の特定データの中の順序を示すデータを記憶し、
出現頻度が次に高い16個の特定データに含まれる時、第2乃至第4のテーブルに出現頻度が次に高い16個の特定データに含まれることを示す1ビット毎のデータを記憶し、
第7のテーブルに前記16個の特定データの中の順序を示すデータを記憶し、
前記判定が非圧縮データの場合は、前記読み出したデータを非圧縮データとして第8のテーブルに記憶し、
前記出力処理部は、
前記出現頻度の高い23個の特定データを少なくとも含むヘッダ部と、前記第1乃至第8のテーブルに記憶されたデータとを符号化データ列として出力する、
ことを特徴とするデータ圧縮装置。 - 請求項1記載のデータ圧縮装置により出現頻度に応じて可変長符号化された確率統計型符号化データの復元装置において、
出現頻度の高い順に上位23個の特定データを少なくとも含む前記ヘッダ部と前記第1乃至第8のテーブルとを含む記憶部と、
符号化データ復元部と、を有し、
該符号化データ復元部は、
前記第1のテーブルから1ビット毎にデータを順次読み出し、非圧縮データであることを示すデータである時、前記第8のテーブルに記憶された非圧縮データを読み出して復号データとし、
前記第1のテーブルから読み出した前記データが圧縮データであることを示すデータである時、前記第2のテーブルに記憶されたデータを読み出し、最も出現頻度の高い特定データであることを示すデータである時、前記ヘッダ部の最も出現頻度の高い特定データを復号データとし、
前記第2のテーブルから読み出した前記データが最も出現頻度の高い特定データではない場合、前記第3のテーブルに記憶されたデータを読み出し、出現頻度が次に高い2個の特定データの中の1つの特定データである時、前記第5のテーブルから前記2個の特定データの中の順序を示すデータを読み出し、前記ヘッダ部の前記2個の特定データの中の前記順序のデータが示す特定データを復号データとし、
前記第3のテーブルから読み出した前記データが前記出現頻度の次に高い2個の特定データではない場合、前記第4のテーブルに記憶されたデータを読み出し、出現頻度の次に高い4個の特定データの中の1つの特定データである時、前記第6のテーブルから前記4個の特定データの中の順序を示すデータを読み出し、前記ヘッダ部の前記4個の特定データの中の前記順序のデータが示す特定データを復号データとし、
前記第4のテーブルから読み出した前記データが出現頻度の次に高い4個の特定データではない時、前記第7のテーブルから出現頻度の次に高い16個の特定データの中の順序を示すデータを読み出し、前記ヘッダ部の前記16個の特定データの中の前記順序のデータが示す特定データを復号データとすることを特徴とする請求項1記載のデータ圧縮装置により符号化された符号化データを復元するデータ復元装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010010949A JP4905562B2 (ja) | 2004-12-28 | 2010-01-21 | データ圧縮装置、及びデータ復元装置 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004379814 | 2004-12-28 | ||
JP2004379814 | 2004-12-28 | ||
JP2010010949A JP4905562B2 (ja) | 2004-12-28 | 2010-01-21 | データ圧縮装置、及びデータ復元装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005039807A Division JP4479530B2 (ja) | 2004-12-28 | 2005-02-16 | データ圧縮装置、及びデータ復元装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010136417A JP2010136417A (ja) | 2010-06-17 |
JP4905562B2 true JP4905562B2 (ja) | 2012-03-28 |
Family
ID=38992628
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010010949A Expired - Fee Related JP4905562B2 (ja) | 2004-12-28 | 2010-01-21 | データ圧縮装置、及びデータ復元装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP4905562B2 (ja) |
CN (1) | CN101095284B (ja) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101547010B (zh) * | 2008-03-24 | 2011-07-06 | 华为技术有限公司 | 编码解码系统、方法及装置 |
JP5149939B2 (ja) | 2010-06-15 | 2013-02-20 | 任天堂株式会社 | 情報処理プログラム、情報処理装置、情報処理システム、及び情報処理方法 |
CN102457283B (zh) * | 2010-10-28 | 2015-10-14 | 阿里巴巴集团控股有限公司 | 一种数据压缩、解压缩方法及设备 |
WO2014055229A1 (en) | 2012-10-01 | 2014-04-10 | Eveready Battery Company, Inc | Fuel unit, gas generator and system |
EP2720376A1 (en) | 2012-10-09 | 2014-04-16 | Alcatel Lucent | Secure and lossless data compression |
TWI490855B (zh) * | 2013-04-02 | 2015-07-01 | Mstar Semiconductor Inc | 解壓縮電路與相關的解壓縮方法 |
US9589496B2 (en) | 2013-08-27 | 2017-03-07 | Samsung Display Co., Ltd. | Temporal dithering technique used in accumulative data compression |
CN108305593B (zh) * | 2013-09-05 | 2020-11-13 | 联咏科技股份有限公司 | 用于液晶显示器的数据压缩系统及其省电方法 |
US9219499B2 (en) * | 2014-05-16 | 2015-12-22 | Robert Bosch Gmbh | Run time compression method for a vehicle communication bus |
JP6363581B2 (ja) * | 2015-05-11 | 2018-07-25 | ヴィア アライアンス セミコンダクター カンパニー リミテッド | 入力ブロックのスキャンと同時にソート済みシンボル・リストを維持するハードウェア・データ圧縮器 |
US10027346B2 (en) | 2015-05-11 | 2018-07-17 | Via Alliance Semiconductor Co., Ltd. | Hardware data compressor that maintains sorted symbol list concurrently with input block scanning |
KR102337966B1 (ko) * | 2017-05-19 | 2021-12-13 | 삼성전자주식회사 | 데이터를 압축하는 전자 장치 및 그 동작 방법 |
CN107065687B (zh) * | 2017-05-26 | 2019-07-26 | 西安工程大学 | 基于lzhuf的嵌入式针织系统控制数据压缩方法 |
CN107911570B (zh) * | 2017-11-27 | 2019-11-29 | 公安部交通管理科学研究所 | 一种对图片特征进行压缩及解压的方法 |
CN108427704B (zh) * | 2018-01-05 | 2022-08-09 | 平安科技(深圳)有限公司 | 压缩工具调用方法、装置及存储介质 |
JP6775558B2 (ja) * | 2018-09-18 | 2020-10-28 | キヤノン株式会社 | 画像伸長装置及びその制御方法及びプログラム |
US10476518B1 (en) * | 2018-12-06 | 2019-11-12 | Nyquist Semiconductor Limited | Hardware friendly data compression |
CN110518917B (zh) * | 2019-07-17 | 2023-01-03 | 华东计算技术研究所(中国电子科技集团公司第三十二研究所) | 基于Huffman编码的LZW数据压缩方法及系统 |
CN111464187B (zh) * | 2020-04-17 | 2023-04-28 | 北京百瑞互联技术有限公司 | 一种主机控制接口命令事件编码方法、存储介质及计算机设备 |
CN112100455B (zh) * | 2020-08-18 | 2022-09-20 | 北京理工大学 | 基于字符串并行搜索的lzw字典搜索方法 |
TWI758897B (zh) * | 2020-10-08 | 2022-03-21 | 大陸商星宸科技股份有限公司 | 卷積計算裝置及方法 |
CN115310409B (zh) * | 2022-06-29 | 2024-07-12 | 杭州似然数据有限公司 | 一种数据编码的方法、系统、电子装置和存储介质 |
CN116886104B (zh) * | 2023-09-08 | 2023-11-21 | 西安小草植物科技有限责任公司 | 一种基于人工智能的智慧医疗数据分析方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4626824A (en) * | 1985-06-11 | 1986-12-02 | International Business Machines Corporation | Apparatus and algorithm for compressing and decompressing data |
JPH0661870A (ja) * | 1992-08-12 | 1994-03-04 | Mitsubishi Electric Corp | 可変長符号復号器 |
JPH07212243A (ja) * | 1994-01-13 | 1995-08-11 | Fuji Photo Film Co Ltd | 可変長符号の符号化方法およびその装置 |
US5861827A (en) * | 1996-07-24 | 1999-01-19 | Unisys Corporation | Data compression and decompression system with immediate dictionary updating interleaved with string search |
US5964842A (en) * | 1997-01-31 | 1999-10-12 | Network Computing Devices, Inc. | Method and apparatus for scaling data compression based on system capacity |
JP3161697B2 (ja) * | 1997-04-18 | 2001-04-25 | 富士ゼロックス株式会社 | 符号化装置、復号装置および符号化復号装置ならびにそれらの方法 |
JP2001044849A (ja) * | 1999-07-27 | 2001-02-16 | Canon Inc | 復号化装置及び方法 |
-
2005
- 2005-12-27 CN CN2005800453617A patent/CN101095284B/zh not_active Expired - Fee Related
-
2010
- 2010-01-21 JP JP2010010949A patent/JP4905562B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
CN101095284A (zh) | 2007-12-26 |
CN101095284B (zh) | 2012-04-18 |
JP2010136417A (ja) | 2010-06-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4905562B2 (ja) | データ圧縮装置、及びデータ復元装置 | |
JP4479530B2 (ja) | データ圧縮装置、及びデータ復元装置 | |
CA2321233C (en) | Block-wise adaptive statistical data compressor | |
US5818877A (en) | Method for reducing storage requirements for grouped data values | |
US6650261B2 (en) | Sliding window compression method utilizing defined match locations | |
US7894532B2 (en) | Variable-length encoding apparatus and method | |
US5001478A (en) | Method of encoding compressed data | |
US5673042A (en) | Method of and an apparatus for compressing/decompressing data | |
US8456332B2 (en) | Systems and methods for compression of logical data objects for storage | |
US7375660B1 (en) | Huffman decoding method | |
JP2006093958A (ja) | プログレッシブjpeg復号化システム | |
Moussalli et al. | A high throughput no-stall golomb-rice hardware decoder | |
WO2001010036A1 (en) | Memory efficient variable-length encoding/decoding system | |
EP0438954B1 (en) | Method of decoding compressed data | |
EP0435802B1 (en) | Method of decompressing compressed data | |
Shah et al. | The improvised GZIP, a technique for real time lossless data compression | |
Haque et al. | Study on data compression technique | |
JP3266419B2 (ja) | データ圧縮・伸長方式 | |
CN1656688B (zh) | 在压缩之前处理数字数据 | |
US20080001790A1 (en) | Method and system for enhancing data compression | |
EP0494038A2 (en) | Run-length encoding in extensible character sets | |
JPH07298062A (ja) | データ圧縮・復号方式 | |
KR100686354B1 (ko) | 가변 트리를 이용한 허프만 복호화 방법 및 장치 | |
JPH0644038A (ja) | データ圧縮方法、データ復元方法、データ圧縮/復元方法 | |
Mesut et al. | ISSDC: Digram coding based lossless data compression algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110427 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110517 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110719 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110920 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111213 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111226 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150120 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4905562 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |