KR100527891B1 - 허프만 디코딩을 수행하는 방법 - Google Patents

Abstract

허프만 디코딩을 수행하는 방법의 실시예가 기재되어 있다. 이러한 일실시예에서는, 데이터 구조가 사용되지만, 물론, 본 발명은 이러한 특정 실시예로 그 범위가 제한되지는 않는다.

Description

허프만 디코딩을 수행하는 방법{METHOD OF PERFORMING HUFFMAN DECODING}

본 발명은 허프만 디코딩에 관한 것이다.

본 특허 출원은 동시 출원된 미국특허출원 제09/704,392호(Acharya 등에 의한 "허프만 디코딩을 수행하는 방법", 본 발명의 양수인에게 양도됨)와 관련된 것이고, 이것은 여기서 레퍼런스로 포함된다.

잘 알려진 바와 같이, 허프만 코딩은 널리 보급된 가변 길이 통계적 인코딩 스킴이다. 주지된 바와 같이, 허프만 코드 생성은 각각의 개별 심볼에 대한 통계적 확률에 의존한다. 예로, D.A. Huffman 저서의 논문, "A Method for the Reconstruction of Minimum-Redundancy Codes"(IRE의 학회지, 40권 제9호, 1098~1101 페이지, 1952)를 참조하라. 적어도 부분적으로, 구현의 효율성 및 용이성으로 인해, 인코딩 스킴에 기반한 전형적인 테이블 룩업이 허프만 인코딩에 널리 사용된다. 그러나, 디코딩에 따른 테이블 검색은 통상적으로 소프트웨어 및 하드웨어 모두에서 비효율적이다. 이것은 특히, 실제 애플리케이션에 대해 전형적인 것과 같이, 테이블내의 엔트리 수가 상당히 높은 경우이다. 허프만 디코딩에 사용되는 다른 접근방법은 "트리 트래버싱 기법"을 사용하는 허프만 트리의 생성이다. 그러나, 이러한 디코딩 기법도 역시 단점이 있다. 이 특정 기법은 비트 순차적이고, 허프만 트리 생성 프로세스 및 디코딩 프로세스에 대한 계산의 실행 및 메모리 할당 관점 모두에서 과도한 "오버헤드"를 초래한다.

도1은 허프만 트리 구조 및 연관된 허프만 트리의 일례를 도시한 도면.

도2는 도1의 허프만 트리에 대해 가능한 허프만 코드를 도시한 테이블.

도3은 허프만 코드를 고유하게 결정하도록 선택된 규칙이 적용되는 허프만 코드의 일례를 도시한 테이블.

도4는 대응하는 디코딩 트리를 갖는 허프만 인코딩 테이블의 일례를 도시한 도면.

도5는 비트 직렬 허프만 디코딩을 위한 ROM 엔트리를 도시한 테이블.

도6은 상이한 구조가 적용된 도3의 테이블로부터 정보를 이용하는 테이블

도7은 본 발명에 따른 데이터 구조의 일실시예를 도시한 테이블.

발명의 요약

허프만 디코딩을 수행하는 방법의 실시예가 기재된다. 이러한 일실시예에서는, 데이터 구조가 사용되지만, 물론, 본 발명은 이러한 특정 실시예로 그 범위가 제한되지는 않는다.

다음의 상세한 설명에서는, 본 발명의 완전한 이해를 제공하기 위해, 여러 가지 특정 세부사항들이 제시되어 있다. 그러나, 이 기술 분야에서 통상의 지식을 가진 자는, 본 발명이 이러한 특정 세부사항들 없이도 실시될 수 있다는 것이 이해될 것이다. 다른 예에서, 주지된 방법, 절차, 구성요소 및 회로는, 본 발명을 모호하지 않게 하기 위해, 상세히 설명되지는 않는다.

전술된 바와 같이, 심볼 세트에 대한 허프만 코드의 생성은 소스 심볼의 발생 확률에 기반한다. 통상적으로 허프만 트리라고 부르는 2진 트리가 사용된다. D.A.Huffman은 상기의 논문에서 다음의 방식으로 프로세스를 기술하고 있다.

. 그 확률을 갖는 모든 가능한 심볼들을 목록으로 만듦.

. 최소 확률을 갖는 2개의 심볼을 찾음

. 그 확률이 각각의 확률의 합인, 두 심볼을 포함하는 단일 세트로 교체함

. 목록이 하나의 멤버만을 포함할 때까지 반복함

이 절차는 세트들의 귀납적 조직 세트를 생성하는데, 이것의 각각은 2개의 멤버를 정확히 포함한다. 그러므로, 이것은 심볼들을 "잎(leaves)"으로 갖는 2진 트리("허프만 트리")로 표현될 수 있다. 그리고, 특정 심볼에 대한 코드("허프만 코드")를 형성하는 것은, 뿌리로부터 그 심볼까지 2진 트리를 좌우로 이동하면서, 좌측 가지에 "0"을, 우측 가지에 "1"을 기록한다. 그러나, 이 절차에 대한 하나의 문제는, 결과로서 생성된 허프만 트리가 고유하지 않다는 점이다. 이러한 코드 애플리케이션의 일례가 GZIP과 같은 텍스트 압축이다. GZIP은, UNIX 운영 체제상에서 "압축(compress)" 텍스트 압축 유틸리티를 대체하기 위한, "자유로운(free)" 또는 자유롭게 이용가능한 UNIX와 같은 운영 체제를 개발하기 위한 목표로 GNU(Gnu's Not Unix) 프로젝트 하에서 개발된 텍스트 압축 유틸리티이다. 예를 들면, 웹사이트 "http"//www.gzip.orh/"에서 gzip-1.2.4로서 이용가능한, Gailly, J.L 및 Adler,M.의 GZIP documentation and sources를 참조하라.

주지된 바와 같이, 결과로서 생성되는 허프만 코드는 프리픽스(prefix) 코드이고, 보다 자주 나타나는 심볼은 가변 길이 허프만 코드를 형성하기 위해 보다 작은 수의 비트로 설정된다. 결과적으로, 평균 코드 길이는 심볼 발생 주파수를 이용하여 급격히 감소된다.

도1은 3개의 소스 심볼을 갖는 허프만 트리의 간단한 예를 도시하고 있다. 상이한 2진 심볼을 트리의 에지에 설정함으로써, 몇몇 2진 코드를 이용하여 동일한 허프만 트리가 표현될 수 있다.

이 허프만 트리에 대한 허프만 코드의 가능한 세트가 도2에 도시되어 있다. 도2로부터, 허프만 코드가 고유하지 않은 것으로 도시되었지만, 이 예로부터, 각 심볼의 개별 코드 길이는 고유하게 나타난다.

대응하는 허프만 트리를 구성함으로써 허프만 코드에 대한 길이 정보를 생성할 수 있다. 그러나, 전술된 바와 같이, 이 방식으로 생성되는 경우, 허프만 코드는 고유하지 않을 수 있다. 그럼에도 불구하고, 2가지 조건을 부과함으로써, 허프만 트리를 사용함으로써 생성된 허프만 코드가 고유한 것으로 보장될 수 있다는 것을 볼 수 있다. 이 조건은 다음과 같다.

1. 주어진 비트 길이의 모든 코드가, 그것이 표현하는 심볼과 동일한 순서로, 사전 편집상(lexicographically) 연속된 값을 가짐; 및

2. 보다 짧은 코드는 사전 편집상 보다 긴 코드를 앞섬.

이러한 조건에 기반하여, 허프만 코드가 고유하게 결정될 수 있다. 예를 들면, 도3은 이러한 조건을 적용한 19개 심볼의 허프만 코드 세트를 도시하고 있는데, 여기서, 코드 길이는 허프만 트리를 이용하여 사전 결정된다. 도3의 테이블에 있어서, 허프만 코드내의 엔트리에서의 대쉬(-)는, 심볼 및 전류원 알파벳에 의한 코드가 존재하지 않고, 그 길이 정보가 0이라는 것을 나타낸다.

본 발명은 이에 대해 제한되지 않지만, 상기의 조건들은, 예를 들면, 전술된 GZIP 유틸리티와 같은, 다양한 압축 방법 및 표준에 적용될 수 있다. 통상적으로, 이러한 애플리케이션에서, 허프만 트리 정보는 압축된 텍스트 데이터에 따라 코드 길이 정보 세트 형태로 전달된다. 그러므로, 고유한 허프만 트리를 복원하는데 코드 길이 정보 세트는 충분하다. 예를 들면, 도3에 도시된 허프만 코드 테이블은, GZIP에서 구현되는 바와 같이, 다음의 프로세스를 이용하여 생성될 수 있다.

코드 길이는 초기에 Length[1];

1) 각 코드 길이에 대한 코드수를 카운트함.

"카운트[N]를 길이 N(N>=1)인 코드수로 함.

2) 각 코드 길이에 대한 최소 코드의 수치값을 찾음

Huffman_code=0; count[0]=0;

for(i=1 to MAX_BITS){

Huffman_code=(Huffman_code + count[i-1])<<1;

next_code[i]=Huffman_code;

}

3) 2에서 결정된 연속값을 이용하여 모든 코드에 대해 수치값을 설정함

전술된 바와 같이, 허프만 디코딩은 테이블 룩업 기법을 이용하여 비교적 쉽게 달성될 수 있다. 그러나, 코드 워드가 디코딩될 압축된 비트 스트림에서 수신되기 때문에, 허프만 코드의 디코딩은 통상적으로 보다 계산 집약적이고, 코드 워드 사이에 경계가 사전 정의되지 않는다. 허프만 코드는 전술된 바와 같이 가변 길이 코드이다.

일정 입력 속도 디코더(constant input rate decoder)로 언급되는 하나의 접근법 또는 기법은 한번에 1비트의 입력 비트 스트림을 직렬로 처리한다. 이 방법은 디코딩 또는 허프만 트리 구조를 사용한다. 그러므로, 이 기법은, 뿌리로부터 시작하여, 최종 노드에 도달할 때까지, 디코딩 트리의 가지를 트래버싱하는 것을 포함한다. 최종 노드에서, 코드 워드가 완전히 디코딩되고, 대응하는 심볼이 요구된 것과 같이 생성되거나 출력될 수 있다. 그리고 나서, 이 프로세스는 트리의 뿌리로부터 다시 시작한다. 예를 들면, B.Bhaskarin 및 K.Konstantinides에 의한 "Image and Video Compressions Standards:Algorithms and Architectures"(Kluwer Academic Publishers, 1995)를 참조하라.

도4는 대응하는 디코딩 트리를 갖는 허프만 인코딩 테이블의 일례이다. 하드웨어 또는 소프트웨어에서 이러한 디코더에 관련된 하나의 문제점은 디코딩 트리를 메모리에 효과적으로 매핑하는 것에 관한 것이다. 예를 들면, 도5는 도4의 디코딩 트리를 이용하여 비트 직렬 허프만 디코딩에 대한 ROM 엔트리 테이블을 도시하고 있다. 메모리를 효과적으로 매핑하는 하나의 방법이, 예를 들면, Mukherjee 등에 의한 "MARVLE:a VLSI chip for data compression using tree-based codes"(IEEE Transactions on Very Large Scale Integration(VLSI) System, 1(2):203-214, June 1993)에 제안되었다.

매우 효과적이지는 않더라도, 허프만 코드를 디코딩하는 다른 방법은, 허프만 테이블의 각 엔트리를 입력 버퍼내의 입력 비트와 비교하는 것이다. 이 방법 하에서, 최악의 경우, 인코딩 테이블내의 N개 엔트리가 비교될 수 있다(N은 심볼의 총 개수). 또한, 엔트리에 대한 코드 길이 정보는 알려진다.

데이터 구조를 이용하여 2진 디지털 신호 시리즈를 디코딩하는 방법의 일실시예에서, 다음과 같은 방법이 사용될 수 있다. 데이터 구조는, 적어도 부분적으로, 디코딩되는 2진 디지털 신호의 서브그룹핑(subgrouping) 길이에 기반하여 검색될 수 있다. 이 특정 실시예에서, 시리즈 2진 디지털 신호는 허프만 인코딩과 같이 인코딩되지만, 본 발명은 허프만 코딩 또는 디코딩으로 그 범위가 제한도지는 않는다. 이 특정 실시예에서는, 이로 제한되지는 않지만, 검색 이전에, 시리즈내의 제1 N개의 2진 디지털 신호가 서브그룹핑으로 선택되는데, 여기서, N은 최단 코드 길이이다. 또한, 길이 N을 갖는 데이터 구조내에 코드가 서브그룹핑에 매칭되지 않는 경우, 후속의 2진 디지털 신호에 의해 증가된다. 마찬가지로, 이 방법이 적용되는 특정 실시예에서, 서브그룹핑과 동일한 길이를 갖는 데이터 구조내의 모든 코드에 대해 매칭이 검사된다. 이후에 보다 상세히 논의되는 바와 같이, 데이터 구조는, 적어도 부분적으로, 코드 길이에 기반하여 구성된다. 또한, 데이터 구조는 동일한 코드 길이를 갖는 코드가 순차적으로 저장되도록 구성된다.

본 발명은 데이터 구조의 특정 실시예로 그 범위가 제한되지는 않지만, 이 특정 실시예는, 테이블의 여분을 보여주기 위해 일부 심볼을 재배열한 후의, 도3의 허프만 코드 테이블에 관련될 수 있다. 이것은, 예를 들면, 도6에 도시되어 있다. 예로, 허프만 코드 길이 0을 갖는 심볼은, 이 심볼이 사용되지 않음을 의미한다. 마찬가지로, 앞의 첫 번째 조건에 기반하여, 주어진 비트 길이의 모든 코드가 사전 편집상 연속값을 가질 수 있다. 따라서, 길이 정보를 추적함으로써, 사전 편집 순서로 이 길이의 허프만 코드를 갖는 첫번째 심볼의 허프만 코드, 및 동일한 길이를 갖는 마지막 심볼에 대한 허프만 코드의 수는 잠재적으로 보다 적은 정보를 제공한다.

데이터 구조의 특정 실시예가 도7에 도시되어 있다. 도7은 도6과 동일한 정보를 운반하지만, 간략하고 쉽게 재배열되는 것을 알 수 있다. 따라서, 도7은, 이후에 보다 상세히 설명되는 바와 같이, 보다 적은 메모리를 사용하고, 비트 병렬 디코딩 스킴이 사용될 수 있도록 한다.

도7에 도시된 데이터 구조의 실시예를 이용하면, 허프만 코드의 디코딩은, 적어도 부분적으로, 도7에 도시된 바와 같이, 각 코드 길이에 대한 허프만 코드의 범위 및 코드 길이의 정보에 기반하여 비트 병렬 접근으로 수행될 수 있다. 이것은 의사-코드 구현을 이용하여 예시 및 후술되지만, 본 발명은 특정 의사-코드로 그 범위가 제한되지는 않는다.

합성 데이터 구조는 여기서 NDS(NDC)로 언급된다. 이것은 C 프로그래밍 언어를 위한 합성 데이터 구조의 정의와 대응되지만, 본 발명은 이러한 특정 프로그래밍 언어로 그 범위가 제한되지는 않는다. 이 특정 실시예에서는, 이에 제한되지는 않지만, NDS의 각 엔트리는, 도7에 도시된 바와 같이, 4개의 필드, 즉, 지시된 길이, 시작 코드, 종료 코드 및 기본 인덱스를 포함한다. 물론, 시작 코드 및 종료 코드 대신에, 시작 코드와 종료 코드 사이에 시작 코드 및 차를 사용하는 것과 같은, 많은 동등한 데이터 구조가 가능하다는 것이 이해될 수 있다.

그러나, 이 특정 실시예에서, NDC는 개별 코드 길이를 갖는 엔트리의 수이다. 각 엔트리는 동일한 코드 길이를 갖는 연속된 허프만 코드의 그룹을 나타낸다. 시작 코드는 이 그룹의 첫번째 허프만 코드이고, 종료 코드는 이 그룹의 마지막 허프만 코드이다. 기본 인덱스는, 도6에 도시된 바와 같이, 대응하는 심볼에 대한 허프만 테이블에서의 첫번째 허프만 코드의 인덱스값이다. 전술된 바와 같이, 본 발명은 이러한 특정 데이터 구조로 그 범위가 제한되지 않는다는 것을 알 수 있다. 명백히, 이 특정 데이터 구조에 대한 많은 변형예가 이루어질 수 있고, 이것은 기술된 사상 및 범위내에 있을 것이다.

도7에 도시된 데이터 구조의 실시예를 사용하면, 2진 디지털 신호를 디코딩하기 위한 본 발명에 따른 실시예의 의사 코드 표현은 다음과 같다.

이 특정 실시예에서는, 데이터 구조를 검색하기 전에, 시리즈내의 첫번째 N개의 2진 디지털 신호가 서브그룹핑으로 선택되는데, 여기서, N은 최단 코드의 길이이다. 그리고 나서, 그 길이를 갖는 모든 코드에 대해 매칭이 체크된다. 매칭이 발생하지 않는 경우, 서브그룹핑 길이는 시리즈내의 후속 2진 디지털 신호에 의해 증가되고, 증가된 길이를 갖는 코드에 대한 매칭이 체크된다. 이 프로세스는 매칭이 발생할 때까지 지속된다. 전술된 바와 같이, 데이터 구조는, 적어도 부분적으로, 동일한 코드 길이를 갖는 코드가 사전 편집상 순차적으로 저장되도록, 코드 길이 및 데이터 구조에 기반하여 구성된다. 이것은 요구된 효과적인 동작을 가능하게 한다.

매칭이 발생하지 않은 경우에, 최장 코드를 이용하여 검색을 시작하고, 서브그룹핑 길이를 감소시키는 대안적인 실시예가 가능하다는 것을 알 수 있다. 그러나, 통상적으로, 보다 짧은 허프만 코드는 보다 높은 발생 확률을 가지며, 이를 수행하면 최단 코드를 형성하는 검색을 시작하기 위해 이러한 상황에서 보다 효과적이 된다.

2진 디지털 신호 시리즈를 디코딩하는 방법의 이 특정 실시예는 메모리 활용, 계산상 복잡성 및 구현의 관점에서 몇몇 장점을 갖는다. 앞서 제안된 바와 같이, 데이터 구조에 대한 엔트리 수는 허프만 코드에 대한 최대 코드 길이에 의존하며, 심볼의 수에는 의존하지 않는다. 그러므로, 이것은 메모리의 감소를 가져온다. 예를 들면, GZIP과 같은, 고정된 제한 코드 길이를 이용한 애플리케이션인 경우, 통상적인 허프만 트리는 285개의 심볼을 갖고, 코드 길이는 15비트로 제한된다. 반면에, 본 실시예에 사용되는 엔트리 수는, 데이터에 따라, 최대 15개 엔트리를 가지며, 이것은 메모리 활용에서 19배의 감소를 초래한다.

마찬가지로, 계산상 복잡성은 비트 직렬 검색 프로세스라기 보다는, 비트 병렬 검색 프로세스를 이용하여 감소된다. 여기서, 본 실시예는, 적어도 부분적으로, 데이터 구조내의 코드 길이 정보에 기반한다. 검색 절차는 코드 길이를 갖는 그룹에 대한 시작 및 종료 코드 범위를 체크함으로써 현재 방법을 개선한다. 19개의 심볼 및 7비트의 최대 코드 길이를 사용하는 이 실시예를 이용한 실험 결과는, 허프만 코드 검색이 사용되는 디코딩과 비교하면, 그 복잡성에서 5.5배 감소를 제공한다. 마찬가지로, 허프만 트리가 구성되는 데 발생하는 것과 같이 2진 트리 구조가 발생하지 않고, 동적 메모리 할당이 적거나 없기 때문에, 본 발명에 따른 디코딩의 구현은 하드웨어 및 소프트웨어 모두에서 비교적 쉽다.

여기에서, 특정 실시예들이 설명되었지만, 본 발명은 이러한 특정 실시예로 그 범위가 제한되지 않는다는 것이 이해될 것이다. 예를 들면, 일실시예는 하드웨어로 이루어질 수 있고, 다른 실시예는 소프트웨어로 이루어질 수 있다. 마찬가지로, 일실시예는 펌웨어, 또는 하드웨어, 소프트웨어 또는 펌웨어의 조합으로 이루어질 수 있다. 그리고, 일실시예는 저장 매체와 같은 물품을 포함할 수 있다. 예를 들면, CD-ROM,디스크와 같은 저장 매체가 그 안에 명령어를 저장할 수 있고, 상기 명령어는 컴퓨터 시스템 또는 플랫폼, 또는 이미징 시스템과 같은 시스템에 의해 실행되는 경우, 전술된 바와 같이, 허프만 디코딩을 수행하는 방법과 같은, 본 발명에 따른 방법의 실시예가 실행될 수 있도록 한다. 또한, 본 발명에 따른, 데이터 구조를 초기화하고, 심볼을 인코딩하고, 및/또는 심볼을 디코딩하는 방법의 실시예가 실행될 수 있다.

본 발명의 특정 형태가 여기서 설명되었지만, 이 기술분야에서 통상의 지식을 가진 자에 의해 많은 변형, 대체, 변경 및 등가물이 발생할 수 있다. 그러므로, 첨부된 청구범위는 본 발명의 진정한 사상안에 있는 이러한 모든 변경 및 변형을 포함하도록 의도된다.

Claims (24)

1. 데이터 구조를 이용하여 인코딩된 2진 디지털 신호 시리즈를 디코딩하는 방법에 있어서,

   적어도 부분적으로, 디코딩될 2진 디지털 신호 시리즈의 2진 디지털 신호의 서브그룹핑(subgrouping) 길이에 기반하여, 상기 데이터 구조를 검색하는 단계; 및

   검색 전에, 상기 시리즈내의 처음 N개의 2진 디지털 신호를 상기 서브그룹핑으로 선택하는 단계 - 여기서, N은 최장 코드의 길이임 -

   를 포함하는 방법.
2. 삭제
3. 삭제
4. 삭제
5. 제1항에 있어서,

   길이 N을 갖는 상기 데이터 구조내의 코드가 상기 서브그룹핑과 매칭되지 않는 경우, 상기 시리즈내의 후속 2진 디지털 신호로 상기 서브그룹핑의 길이를 감소시키는 단계

   를 더 포함하는 방법.
6. 제1항에 있어서,

   상기 2진 디지털 신호는 허프만 코드에 따라 인코딩되는

   방법.
7. 제1항에 있어서,

   상기 데이터 구조는, 적어도 부분적으로, 코드 길이에 기반하여 구성되는

   방법.
8. 제7항에 있어서,

   상기 서브그룹핑과 동일한 길이를 갖는 상기 데이터 구조내의 모든 코드에 대해 매칭이 체크되는

   방법.
9. 제8항에 있어서,

   상기 데이터 구조는 동일한 코드 길이를 갖는 코드의 서브그룹핑으로 구성되고, 상기 서브그룹핑은 순차적으로 저장되는

   방법.
10. 삭제
11. 삭제
12. 삭제
13. 삭제
14. 삭제
15. 삭제
16. 삭제
17. 명령어가 저장된 저장 매체에 있어서,

    상기 명령어는 실행되는 경우 다음의 단계, 즉,

    데이터 구조를 이용하여 인코딩된 2진 디지털 신호 시리즈를 디코딩하기 위해, 적어도 부분적으로, 디코딩될 2진 디지털 신호 시리즈의 2진 디지털 신호의 서브그룹핑의 길이에 기반하여 상기 데이터 구조를 검색하는 단계; 및

    검색 전에, 상기 시리즈내의 처음 N개의 2진 디지털 신호를 상기 서브그룹핑으로 선택하는 단계 - 여기서, N은 최장 코드의 길이임 -를 야기하는

    저장 매체.
18. 삭제
19. 제17항에 있어서,

    상기 명령어는, 실행되는 경우, 길이 N을 갖는 상기 데이터 구조내의 코드가 상기 서브그룹핑과 매칭되지 않는 경우, 상기 시리즈내의 후속 2진 디지털 신호로 상기 서브그룹핑의 길이를 감소시키도록 야기하는

    저장 매체.
20. 삭제
21. 삭제
22. 삭제
23. 제17항에 있어서,

    상기 명령어는, 실행되는 경우, 상기 2진 디지털 신호가 허프만 코드에 따라 인코딩되도록 야기하는

    저장 매체.
24. 제17항에 있어서,

    상기 명령어는, 실행되는 경우, 상기 데이터 구조가 적어도 부분적으로 코드 길이에 기반하여 구성되도록 야기하는

    저장 매체.