KR102543449B1 - 이미지 처리 장치 및 이미지 처리 장치의 동작 방법 - Google Patents

이미지 처리 장치 및 이미지 처리 장치의 동작 방법 Download PDF

Info

Publication number
KR102543449B1
KR102543449B1 KR1020180041781A KR20180041781A KR102543449B1 KR 102543449 B1 KR102543449 B1 KR 102543449B1 KR 1020180041781 A KR1020180041781 A KR 1020180041781A KR 20180041781 A KR20180041781 A KR 20180041781A KR 102543449 B1 KR102543449 B1 KR 102543449B1
Authority
KR
South Korea
Prior art keywords
image data
entry
data
determined
value
Prior art date
Application number
KR1020180041781A
Other languages
English (en)
Other versions
KR20190091178A (ko
Inventor
전성호
임요한
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to SG10201809263UA priority Critical patent/SG10201809263UA/en
Priority to US16/205,900 priority patent/US11190810B2/en
Priority to TW107143583A priority patent/TW201941615A/zh
Priority to CN201910038891.2A priority patent/CN110087074A/zh
Publication of KR20190091178A publication Critical patent/KR20190091178A/ko
Application granted granted Critical
Publication of KR102543449B1 publication Critical patent/KR102543449B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation

Abstract

이미지 처리 장치 및 이미지 처리 장치의 동작 방법이 제공된다. 이미지 처리 장치는 이미지 데이터를 처리하는 멀티미디어 IP; 상기 멀티미디어 IP에 의해 액세스(access)되는 메모리 및; 상기 이미지 데이터에 대해 압축을 수행하여 압축 데이터를 생성하고, 압축 데이터를 상기 메모리에 저장하는 프레임 버퍼 컴프레서(Frame Buffer Compressor, FBC)를 포함하고, 상기 프레임 버퍼 컴프레서는, QP 테이블 및 엔트로피 테이블의 조합을 결정하고 결정된 상기 QP 테이블 및 상기 엔트로피 테이블의 조합에 따라 상기 이미지 데이터의 압축을 제어하는 압축 관리 모듈을 포함한다.

Description

이미지 처리 장치 및 이미지 처리 장치의 동작 방법{IMAGE PROCESSING DEVICE AND METHOD FOR OPERATING IMAGE PROCESSING DEVICE}
본 발명은 이미지 처리 장치 및 이미지 처리 장치의 동작 방법에 관한 것이다.
비디오 고해상도 영상 및 고프레임율(high-frame rate) 영상의 필요성이 대두되면서 이미지 처리 장치의 여러 멀티미디어 IP(Intellectual Property)가 메모리에 액세스(access)되는 양 즉, 밴드위스(bandwidth)가 크게 증가하게 되었다.
밴드위스가 증가하게 되면 이미지 처리 장치의 처리 능력이 한계에 도달하여 비디오 영상의 녹화 및 재생 동작시에 속도가 저하되는 문제가 발생할 수 있다.
이에 따라서, 멀티미디어 IP가 메모리에 액세스할 때, 데이터의 크기를 압축하는 방식이 고려되고 있다. 예를 들어, 메모리에 데이터를 라이트(write)하기 전에 데이터를 압축(compress)하고, 메모리에서 데이터를 리드(read)하기 전에는 압축된 데이터를 압축 해제(decompress)할 수 있다.
본 발명이 해결하고자 하는 기술적 과제는 최적화된 이미지 데이터 압축을 수행하는 이미지 처리 장치를 제공하는 것이다.
본 발명이 해결하고자 하는 다른 기술적 과제는 최적화된 이미지 데이터 압축을 수행하는 이미지 처리 장치의 동작 방법을 제공하는 것이다.
본 발명의 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 해당 기술 분야의 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
상기 기술적 과제를 달성하기 위한 본 발명의 일 실시예에 따른 이미지 처리 장치는, 이미지 데이터를 처리하는 멀티미디어 IP; 상기 멀티미디어 IP에 의해 액세스(access)되는 메모리 및; 상기 이미지 데이터에 대해 압축을 수행하여 압축 데이터를 생성하고, 압축 데이터를 상기 메모리에 저장하는 프레임 버퍼 컴프레서(Frame Buffer Compressor, FBC)를 포함하고, 상기 프레임 버퍼 컴프레서는, QP 테이블 및 엔트로피 테이블의 조합을 결정하고 결정된 상기 QP 테이블 및 상기 엔트로피 테이블의 조합에 따라 상기 이미지 데이터의 압축을 제어하는 압축 관리 모듈을 포함한다.
상기 기술적 과제를 달성하기 위한 본 발명의 다른 실시예에 따른 이미지 처리 장치는, 이미지 데이터를 처리하는 멀티미디어 IP; 상기 멀티미디어 IP에 의해 액세스되는 메모리 및; 상기 이미지 데이터에 대해 압축을 수행하여 압축 데이터를 생성하고, 압축 데이터를 상기 메모리에 저장하는 프레임 버퍼 컴프레서를 포함하고, 상기 프레임 버퍼 컴프레서는, 최대 16 개의 엔트리를 포함하는 QP 테이블 및 최대 4 개의 k값에 의해 결정되는 엔트로피 테이블을 결정하고, 결정된 상기 QP 테이블 및 상기 엔트로피 테이블의 조합에 따라 상기 이미지 데이터의 압축을 제어하는 압축 관리 모듈을 포함한다.
상기 기술적 과제를 달성하기 위한 본 발명의 다른 실시예에 따른 이미지 처리 장치의 동작 방법은, 이미지 데이터에 대해 예측을 수행하고, 미리 결정된 개수의 엔트리를 포함하는 QP 테이블을 결정하고, 상기 결정된 상기 QP 테이블을 이용하여 상기 예측이 완료된 이미지 데이터에 대해 양자화를 수행하고, 미리 결정된 개수의 k값을 이용하여 엔트로피 테이블을 결정하고, 상기 결정된 상기 엔트로피 테이블을 이용하여 상기 양자화가 완료된 이미지 데이터에 대해 엔트로피 코딩을 수행하여 압축 데이터를 생성하는 것을 포함한다.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
도 1 내지 도 3은 본 발명의 몇몇 실시예들에 따른 이미지 처리 장치를 설명하기 위한 블록도이다.
도 4는 도 1 내지 도 3의 프레임 버퍼 컴프레서를 세부적으로 설명하기 위한 블록도이다.
도 5는 도 4의 인코더를 세부적으로 설명하기 위한 블록도이다.
도 6은 도 4의 디코더를 세부적으로 설명하기 위한 블록도이다.
도 7 내지 도 10은 본 발명의 몇몇 실시예들에 따른 이미지 처리 장치의 동작을 설명하기 위한 개략도이다.
도 11 내지 도 14는 본 발명의 몇몇 실시예들에 이미지 처리 장치의 동작을 설명하기 위한 개략도이다.
도 15는 본 발명의 몇몇 실시예들에 따른 이미지 처리 장치 및 이미지 처리 장치의 동작 방법에 의한 유리한 효과를 설명하기 위한 도면이다.
도 16은 본 발명의 몇몇 실시예들에 따른 이미지 처리 장치의 동작 방법을 설명하기 위한 흐름도이다.
도 1 내지 도 3은 본 발명의 몇몇 실시예들에 따른 이미지 처리 장치를 설명하기 위한 블록도이다.
도 1을 참조하면, 본 발명의 몇몇 실시예에 따른 이미지 처리 장치는 멀티미디어 IP(Intellectual Property)(100), 프레임 버퍼 컴프레서(Frame Buffer Compressor, FBC)(200), 메모리(300) 및 시스템 버스(400)를 포함한다.
멀티미디어 IP(100)는 이미지 처리 장치의 이미지 처리를 직접적으로 수행하는 파트일 수 있다. 즉, 멀티미디어 IP(100)는 비디오 영상의 캠코딩(camcoding), 플레이백(play back) 등 영상의 녹화와 재생을 수행하기 위한 여러 모듈을 의미할 수 있다.
멀티미디어 IP(100)는 카메라 등 외부로부터 제1 데이터를 수신하여 제2 데이터로 변환시킬 수 있다. 이 때, 상기 제1 데이터는 동영상 또는 이미지 로(raw) 데이터일 수 있다. 상기 제2 데이터는 멀티미디어 IP(100)에 의해서 생성된 데이터로서 멀티미디어 IP(100)가 처리중인 데이터도 포함할 수 있다. 즉, 멀티미디어 IP(100)는 여러 단계를 거쳐 상기 제2 데이터를 메모리(300)에 저장하고, 다시 갱신하는 것을 반복할 수 있다. 상기 제2 데이터는 이러한 단계 중에 있는 모든 데이터를 포함할 수 있다. 다만, 상기 제2 데이터는 메모리(300)에 저장될 때 제3 데이터의 형태로 저장될 수 있으므로, 메모리(300)에 상기 제2 데이터는 메모리(300)에 저장되기전 또는 메모리(300)에서 리드된 이후의 데이터를 의미할 수 있다. 이에 대해서는 추후에 더 자세히 설명한다.
구체적으로, 멀티미디어 IP(100)는 이미지 신호 프로세서(ISP)(110), 흔들림 보정 모듈(G2D)(120), 멀티 포맷 코덱(MFC)(130), GPU(140) 및 디스플레이(150)를 포함할 수 있다. 단, 본 실시예가 이에 제한되는 것은 아니다. 즉, 멀티미디어 IP(100)는 상술한 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150) 중 적어도 일부만을 포함할 수도 있다. 즉, 멀티미디어 IP(100)는 동영상이나 이미지를 처리하기 위해서 메모리(300)에 액세스해야하는 처리 모듈을 의미할 수 있다.
이미지 신호 프로세서(110)는 상기 제1 데이터를 받아 이를 전처리하여 상기 제2 데이터로 변환시킬 수 있다. 이 때, 상기 제1 데이터는 RGB 방식의 이미지 소스 데이터일 수 있다. 예를 들어, 이미지 신호 프로세서(110)는 RGB 방식의 상기 제1 데이터를 YUV 방식의 상기 제2 데이터로 변환할 수 있다.
이 때, RGB 방식의 데이터란, 빛의 3원색을 기반으로 색을 표현한 데이터 포맷을 의미한다. 즉, 빨강(RED), 초록(GREEN), 파랑(BLUE) 세 종류의 색을 이용하여 이미지를 표현하는 방식이다. 이에 반해서, YUV 방식은 밝기 즉, 휘도(luma) 신호와 색차(chroma) 신호를 분리해서 표현하는 데이터 포맷을 의미한다. 즉, Y는 휘도 신호를 의미하고, U(Cb)와 V(Cr)는 각각 색차 신호를 의미한다. U는 휘도 신호와 청색 신호 성분의 차를 의미하고, V는 휘도 신호와 적색 신호 성분의 차를 의미한다.
이러한 YUV 방식의 데이터는 예를 들어, Y=0.3R+0.59G +0.11B, U=(B-Y)x0.493, V=(R-Y)x0.877와 같은 변환식을 이용하여 RGB 방식의 데이터로부터 변환되어 획득될 수 있다.
사람의 눈은 휘도 신호에는 민감하지만 색 신호에는 덜 민감하므로, YUV 방식의 데이터는 RGB 방식의 데이터에 비해서 압축이 더 용이할 수 있다. 이에 따라서, 이미지 신호 프로세서(110)는 RGB 방식의 상기 제1 데이터를 YUV 방식의 상기 제2 데이터로 변환할 수 있다.
이미지 신호 프로세서(110)는 상기 제1 데이터를 상기 제2 데이터로 변환한 뒤에 메모리(300)에 저장할 수 있다.
흔들림 보정 모듈(120)은 이미지 혹은 동영상 데이터의 흔들림 보정을 수행할 수 있다. 흔들림 보정 모듈(120)은 상기 제1 데이터 혹은 메모리(300)에 저장된 상기 제2 데이터를 리드(read)하여 흔들림 보정을 수행할 수 있다. 이 때, 흔들림 보정이란, 동영상 데이터에서 카메라의 흔들림을 감지하여 이를 제거하는 것을 의미한다.
흔들림 보정 모듈(120)은 상기 제1 데이터 또는 상기 제2 데이터의 흔들림을 보정하여 새로운 상기 제2 데이터를 생성 또는 갱신하고, 이를 메모리(300)에 저장할 수 있다.
멀티 포맷 코덱(130)은 동영상 데이터를 압축하는 코덱일 수 있다. 일반적으로, 동영상 데이터는 크기가 매우 크므로, 이의 크기를 줄이는 압축 모듈이 필요하다. 동영상 데이터는 복수의 프레임 간의 연관관계를 통해서 압축이 가능하고, 이를 수행하는 것이 멀티 포맷 코덱(130)일 수 있다. 멀티 포맷 코덱(130)은 제1 데이터 또는 메모리(300)에 저장된 상기 제2 데이터를 리드(read)하여 압축할 수 있다.
멀티 포맷 코덱(130)은 상기 제1 데이터 또는 상기 제2 데이터를 압축하여 새로운 제2 데이터를 생성하거나 상기 제2 데이터를 갱신하고, 이를 메모리(300)에 저장할 수 있다.
GPU(Graphics Processing Unit)(140)는 이차원 혹은 3차원 그래픽의 연산 및 생성을 할 수 있다. GPU(140)는 상기 제1 데이터 혹은 메모리(300)에 저장된 상기 제2 데이터를 연산 처리할 수 있다. GPU(140) 그래픽 데이터의 처리에 특화되어 병렬적으로 그래픽 데이터를 처리할 수 있다.
GPU(140)는 상기 제1 데이터 또는 상기 제2 데이터를 압축하여 새로운 제2 데이터를 생성하거나 상기 제2 데이터를 갱신하고, 이를 메모리(300)에 저장할 수 있다.
디스플레이(150)는 메모리(300)에 저장된 상기 제2 데이터를 화면에 표시할 수 있다. 디스플레이(150)는 다른 멀티미디어 IP(100) 즉, 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130) 및 GPU(140)가 처리한 이미지 데이터 즉, 상기 제2 데이터를 화면에 표시할 수 있다. 단, 본 실시예가 이에 제한되는 것은 아니다.
멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)는 각각 개별적으로 동작할 수 있다. 즉, 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)는 각각 메모리(300)에 개별적으로 액세스하여 데이터를 라이트 또는 리드할 수 있다.
프레임 버퍼 컴프레서(200)는 멀티미디어 IP(100)가 메모리(300)에 개별적으로 액세스하기 전에 상기 제2 데이터를 압축하여 상기 제3 데이터로 변환시킨다. 프레임 버퍼 컴프레서(200)는 상기 제3 데이터를 멀티미디어 IP(100)로 다시 전송하고, 멀티미디어 IP(100)는 상기 제3 데이터를 메모리(300)로 전송할 수 있다.
이에 따라서, 메모리(300)에는 프레임 버퍼 컴프레서(200)에 의해서 압축된 상기 제3 데이터가 저장될 수 있다. 반대로, 메모리(300)에 저장된 상기 제3 데이터는 멀티미디어 IP(100)에 의해서 로드되고, 프레임 버퍼 컴프레서(200)로 전송될 수 있다. 프레임 버퍼 컴프레서(200)는 상기 제3 데이터를 압축 해제(decompress)하여 상기 제2 데이터로 변환시킬 수 있다. 프레임 버퍼 컴프레서(200)는 상기 제2 데이터를 다시 멀티미디어 IP(100)로 전송할 수 있다.
즉, 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)가 개별적으로 메모리(300)에 액세스할 때마다 프레임 버퍼 컴프레서(200)가 상기 제2 데이터를 상기 제3 데이터로 압축하여 메모리(300)에 전달할 수 있다. 반대로, 메모리(300)에서 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)로 데이터 요청이 있을 때마다 프레임 버퍼 컴프레서(200)는 상기 제3 데이터를 상기 제2 데이터로 압축 해제하여 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)로 각각 전송할 수 있다.
메모리(300)는 프레임 버퍼 컴프레서(200)가 생성한 상기 제3 데이터를 저장하고, 저장된 상기 제3 데이터를 프레임 버퍼 컴프레서(200)가 압축 해제할 수 있도록 프레임 버퍼 컴프레서(200)에 제공할 수 있다.
시스템 버스(400)는 멀티미디어 IP(100)와 메모리(300)가 각각 연결될 수 있다. 구체적으로, 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)는 개별적으로 시스템 버스(400)에 연결될 수 있다. 시스템 버스(400)는 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)와 메모리(300)가 서로 데이터를 전송하는 경로가 될 수 있다.
프레임 버퍼 컴프레서(200)는 시스템 버스(400)와는 연결되지 않고, 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)가 각각 메모리에 액세스할 때 상기 제2 데이터를 상기 제3 데이터로, 상기 제3 데이터를 상기 제2 데이터로 변환시키는 작업을 할 수 있다.
다음으로 도 2를 참조하면, 본 발명의 몇몇 실시예에 따른 이미지 처리 장치의 프레임 버퍼 컴프레서(200)는 시스템 버스(400)와 직접 연결될 수 있다.
프레임 버퍼 컴프레서(200)는 멀티미디어 IP(100)와는 직접적으로 연결되지는 않고, 시스템 버스(400)를 통해서 서로 연결될 수 있다. 구체적으로, 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)가 각각 시스템 버스(400)를 통해서 프레임 버퍼 컴프레서(200)와 데이터를 서로 전송하고, 이를 통해서 메모리(300)에 데이터를 전송할 수 있다.
즉, 압축 과정에서는 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)가 각각 시스템 버스(400)를 통해서 프레임 버퍼 컴프레서(200)로 상기 제2 데이터를 전송할 수 있다. 이어서, 프레임 버퍼 컴프레서(200) 상기 제2 데이터를 상기 제3 데이터로 압축하고, 이를 다시 메모리(300)에 시스템 버스(400)를 통해서 전송할 수 있다.
마찬가지로, 압축 해제 과정에서도 메모리(300)에 저장된 상기 제3 데이터를 시스템 버스(400)를 통해서 프레임 버퍼 컴프레서(200)가 전송받고, 이를 상기 제2 데이터로 압축 해제할 수 있다. 이어서, 프레임 버퍼 컴프레서(200)가 시스템 버스(400)를 통해서, 상기 제2 데이터를 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)로 각각 전송할 수 있다.
다음으로 도 3을 참조하면, 본 발명의 몇몇 실시예에 따른 이미지 처리 장치는 메모리(300)와 시스템 버스(400)가 프레임 버퍼 컴프레서(200)를 통해서 서로 연결될 수 있다.
즉, 메모리(300)는 시스템 버스(400)에 직접적으로 연결되지 못하고, 프레임 버퍼 컴프레서(200)를 통해서만 시스템 버스(400)에 연결될 수 있다. 또한, 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)는 시스템 버스(400)와 직접 연결될 수 있다. 따라서, 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)는 프레임 버퍼 컴프레서(200)를 거쳐서만 메모리(300)에 액세스할 수 있다.
본 명세서에서 제2 데이터는 이미지 데이터(10)로, 제3 데이터는 압축 데이터(20)로도 참조하기로 한다.
도 4는 도 1 내지 도 3의 프레임 버퍼 컴프레서를 세부적으로 설명하기 위한 블록도이다.
도 4를 참조하면, 프레임 버퍼 컴프레서(200)는 인코더(210) 및 디코더(220)를 포함할 수 있다.
인코더(210)는 멀티미디어 IP(100)로부터 이미지 데이터(10)를 받아 압축 데이터(20)를 생성할 수 있다. 이 때, 이미지 데이터(10)는 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)로부터 각각 전송될 수 있다. 압축 데이터(20)는 멀티미디어 IP(100) 및 시스템 버스(400)를 통해서 메모리(300)로 전송될 수 있다.
반대로, 디코더(220)는 메모리(300)에 저장된 압축 데이터(20)를 이미지 데이터(10)로 압축 해제할 수 있다. 이미지 데이터(10)는 멀티미디어 IP로 전달될 수 있다. 이 때, 이미지 데이터(10)는 멀티미디어 IP(100)의 이미지 신호 프로세서(110), 흔들림 보정 모듈(120), 멀티 포맷 코덱(130), GPU(140) 및 디스플레이(150)로 각각 전달될 수 있다.
도 5는 도 4의 인코더를 세부적으로 설명하기 위한 블록도이다.
도 5를 참조하면, 인코더(210)는 제1 모드 셀렉터(219), 예측 모듈(211), 양자화 모듈(213), 엔트로피 인코딩 모듈(215) 및 패딩 모듈(217)을 포함한다.
제1 모드 셀렉터(219)는 인코더(210)가 무손실(loseless) 모드로 동작할 지, 손실(lossy) 모드로 동작할 지를 결정할 수 있다. 제1 모드 셀렉터(219)에 따라서, 인코더(210)가 무손실 모드로 동작하는 경우에는, 이미지 데이터(10)는 도 3의 무손실 경로(Lossless)를 따라서 압축되고, 인코더(210)가 손실 모드로 동작하는 경우에는, 이미지 데이터(10)는 손실 경로(Lossy)를 따라서 압축될 수 있다.
제1 모드 셀렉터(219)는 멀티미디어 IP(100)로부터 무손실 압축을 할것인지 손실 압축을 할 것인지를 결정하는 신호를 수신할 수 있다. 이 때, 무손실 압축이란, 데이터의 손실 없이 압축하는 것을 의미하고, 데이터에 따라서 압축률이 달라지는 방식을 의미한다. 이와 달리 손실 압축이란, 데이터가 일부 손실되는 압축으로서, 무손실 압축에 비해서 압축률이 더 높고, 미리 설정한 고정된 압축률을 가질 수 있다.
제1 모드 셀렉터(219)는 무손실 모드인 경우에는 무손실 경로(Lossless)를 따라서, 예측 모듈(211), 엔트로피 인코딩 모듈(215) 및 패딩 모듈(217)로 이미지 데이터(10)를 유도할 수 있다. 반대로, 제1 모드 셀렉터(219)는 손실 모드인 경우에는 손실 경로(Lossy)를 따라서, 예측 모듈(211), 양자화 모듈(213) 및 엔트로피 인코딩 모듈(215)로 이미지 데이터(10)를 유도할 수 있다.
예측 모듈(211)은 이미지 데이터(10)를 예측 데이터와 잔차 데이터로 나누어 표현할 수 있다. 예를 들어, 하나의 픽셀이 0~255의 값을 가지고 있는 경우에는 이를 표현하기 위해서 픽셀당 8bit의 데이터가 필요할 수 있다. 이에 대해서, 인접한 픽셀이 유사한 값을 가지는 경우에는 인접한 픽셀과의 차이 즉, 잔차만을 표현하여도 데이터의 손실은 없고, 표현하기 위한 데이터 bit의 수는 대폭 감소할 수 있다. 예를 들어, (253, 254, 255)의 값을 가지는 픽셀이 연속한 경우에는 예측 데이터를 253으로 한다면, (253(예측), 1(잔차), 2(잔차))의 잔차 데이터 표현으로 충분하고, 이러한 잔차 데이터 표현을 위한 픽셀당 bit수는 2bit로 매우 작아질 수 있다.
따라서, 예측 모듈(211)은 이미지 데이터(10)를 예측 데이터와 잔차 데이터로 나누어 전체적인 이미지 데이터(10)의 크기를 압축할 수 있다. 물론, 예측 데이터를 무엇으로 하는지에 대해서는 여러가지 방법이 가능할 수 있다.
예측 모듈(211)은 픽셀 단위로 예측을 수행하거나, 블록 단위로 예측을 수행할 수 있다. 이 때, 블록이란 복수의 인접한 픽셀이 이루는 영역을 의미할 수 있다.
양자화 모듈(213)은 예측 모듈(211)에 의해서 압축된 이미지 데이터(10)를 추가적으로 더 압축할 수 있다. 양자화 모듈(213)은 미리 설정된 양자화 계수를 통해서, 이미지 데이터(10)의 하위 비트를 제거할 수 있다. 구체적으로, 데이터를 양자화 계수를 곱함으로써 그 대표값을 선택하되, 소수점 이하를 버림으로서 손실이 발생할 수는 있다. 픽셀 데이터의 값이 0 내지 28-1(=255)사이라면, 양자화 계수는 1/(2n-1)(여기서, n은 8 이하의 정수)로 정의될 수 있다. 단, 본 실시예가 이에 제한되는 것은 아니다.
이 때, 제거된 하위 비트는 추후에 복원되지 않아 손실될 수 있다. 따라서, 양자화 모듈(213)은 손실 모드에서만 활용될 수 있다. 다만 손실 모드는 무손실 모드에 비해서 압축률이 상대적으로 높을 수 있고, 미리 설정된 고정 압축률을 가질 수 있어 추후에 압축률에 대한 정보다 별도로 필요하지 않을 수 있다.
엔트로피 인코딩 모듈(215)은 손실 모드에서의 양자화 모듈(213)에 의해서 압축된 이미지 데이터(10) 또는 무손실 모드에서의 예측 모듈(211)에 의해서 압축된 이미지 데이터(10)를 엔트로피 코딩을 통해서 압축할 수 있다. 이 때, 엔트로피 코딩은 빈도수에 따라서 비트수를 할당하는 방식을 활용할 수 있다.
엔트로피 인코딩 모듈(215)은 허프만 코딩(Huffman coding)을 사용하여 이미지 데이터(10)를 압축할 수 있다. 또는, 엔트로피 인코딩 모듈(215)은 익스포넨셜 골룸 코딩(exponential golomb coding) 또는 골룸 라이스 코딩(golomb rice coding)을 통해서 이미지 데이터(10)를 압축할 수 있다. 이 때, 엔트로피 인코딩 모듈(215)은 k값을 통해서 테이블을 생성할 수 있어 간단하게 이미지 데이터(10)를 압축할 수 있다.
패딩 모듈(217)은 무손실 모드에서 엔트로피 인코딩 모듈(215)에 의해서 압축된 이미지 데이터(10)에 패딩(padding)을 수행할 수 있다. 여기서, 패딩이란 특정한 크기에 맞추기 위해서 무의미한 데이터를 추가하는 것을 의미할 수 있다. 이에 대해서는 추후에 더 자세히 설명한다.
패딩 모듈(217)은 무손실 모드뿐만 아니라 손실 모드에서도 활성화될 수 있다. 손실 모드에서는 이미지 데이터(10)가 양자화 모듈(213)에 의해서 압축될 때 목적하였던 압축률보다 더 많이 압축될 수 있다. 이러한 경우에 손실 모드에서도 패딩 모듈(217)을 거쳐 압축 데이터(20)로 변환되어 메모리(300)로 전송될 수 있다.
압축 관리 모듈(218)은 양자화 및 엔트로피 코딩에 각각 사용되는 QP 테이블 및 엔트로피 테이블의 조합을 결정하고, 결정된 QP 테이블 및 엔트로피 테이블의 조합에 따라 이미지 데이터(10)의 압축을 제어한다.
이 경우 제1 모드 셀렉터(219)는 인코더(210)가 손실(lossy) 모드로 동작하는 것으로 결정하고, 이에 따라, 이미지 데이터(10)는 도 5의 손실 경로(Lossy)를 따라서 압축된다. 즉, 압축 관리 모듈(218)이 QP 테이블 및 엔트로피 테이블의 조합을 결정하고 결정된 QP 테이블 및 엔트로피 테이블의 조합에 따라 이미지 데이터(10)의 압축하는 것은, 프레임 버퍼 컴프레서(200)가 손실 압축 알고리즘(lossy compression algorithm)을 이용하여 이미지 데이터(10)에 대한 압축을 수행하는 경우가 전제된다.
구체적으로, QP 테이블은 하나 이상의 엔트리를 포함하고, 각각의 엔트리는 이미지 데이터(10)를 양자화하기 위해 사용되는 양자화 계수를 포함할 수 있다. 상기 QP 테이블, 양자화 계수와 같은 개념은 이미지 압축 기술로서 이미 공지된 내용에 해당하므로 본 명세서에서는 그 구체적인 설명을 생략하도록 한다.
한편, 엔트로피 테이블은 엔트로피 코딩 알고리즘을 수행하기 위해 k값을 통해 식별되는 복수의 코드 테이블을 의미하며, 본 발명의 몇몇의 실시예에서 사용될 수 있는 엔트로피 테이블은 지수 골롬 코드(exponential golomb code) 및 골롬 라이스 코드(golomb rice code) 중 적어도 하나를 포함할 수 있다. 엔트로피 코딩, 지수 골롬 코딩 알고리즘, 골롬 라이스 코딩 알고리즘 등에 관한 개념은 데이터 압축 기술로서 이미 공지된 내용에 해당하므로 본 명세서에서는 그 구체적인 설명을 생략하도록 한다.
압축 관리 모듈(218)은 미리 결정된 개수의 엔트리를 포함하는 QP 테이블을 결정하고, 프레임 버퍼 컴프레서(200)는 상기 결정된 QP 테이블을 이용하여 예측이 완료된 이미지 데이터(10)에 대해 양자화를 수행한다. 또한 압축 관리 모듈(218)은 미리 결정된 개수의 k값을 이용하여 엔트로피 테이블을 결정하고, 프레임 버퍼 컴프레서(200)는 상기 결정된 엔트로피 테이블을 이용하여 양자화가 완료된 이미지 데이터(10)에 대해 엔트로피 코딩을 수행한다. 즉, 프레임 버퍼 컴프레서(200)는, 압축 관리 모듈(218)에 의해 결정된 상기 QP 테이블 및 상기 엔트로피 테이블의 조합에 기반하여 압축 데이터(20)를 생성한다.
이후, 프레임 버퍼 컴프레서(200)는 생성한 압축 데이터(20)를 메모리(300)에 라이트(write)할 수 있다. 또한, 프레임 버퍼 컴프레서(200)는, 메모리(300)로부터 압축 데이터(20)를 리드(read)하고, 리드한 압축 데이터(20)를 압축 해제하여 멀티미디어 IP(100)에 제공할 수 있다.
이와 같은 동작을 수행하는 압축 관리 모듈(218)에 대한 더욱 세부적인 내용은 도 7 내지 도 16을 참조하여 후술하도록 한다.
도 6은 도 4의 디코더를 세부적으로 설명하기 위한 블록도이다.
도 6을 참조하면, 디코더(220)는 제2 모드 셀렉터(229), 언패딩 모듈(227), 엔트로피 디코딩 모듈(225), 역양자화 모듈(223) 및 예측 보상 모듈(221)을 포함한다.
제2 모드 셀렉터(229)는 메모리(300)에 저장된 압축 데이터(20)가 무손실 압축되었는지 손실 압축되었는지를 판단할 수 있다. 이 때, 제2 모드 셀렉터(229)는 헤더의 유무를 통해서 무손실 모드 및 손실 모드 중 어느 모드에 의해서 압축 데이터(20)가 압축되었는지를 판단할 수 있다. 이에 대해서는 추후에 더 자세히 설명한다.
제2 모드 셀렉터(229)는 무손실 모드인 경우에는 무손실 경로(Lossless)를 따라서, 언패딩 모듈(227), 엔트로피 디코딩 모듈(225) 및 예측 보상 모듈(221)로 압축 데이터(20)를 유도할 수 있다. 반대로, 제2 모드 셀렉터(229)는 손실 모드인 경우에는 손실 경로(Lossy)를 따라서, 엔트로피 디코딩 모듈(225), 역양자화 모듈(223) 및 예측 보상 모듈(221)로 압축 데이터(20)를 유도할 수 있다.
언패딩 모듈(227)은 인코더(210)의 패딩 모듈(217)에 의해서 패딩된 데이터의 패딩된 부분을 제거할 수 있다.
엔트로피 디코딩 모듈(225)은 엔트로피 인코딩 모듈(215)에 의해서 압축된 데이터를 압축 해제할 수 있다. 엔트로피 디코딩 모듈(225)은 허프만 코딩, 익스포넨셜 골룸 코딩 또는 골룸 라이스 코딩을 통해서 압축 해제를 수행할 수 있다. 압축 데이터(20)는 k값을 포함하고 있으므로, 엔트로피 디코딩 모듈(225)은 상기 k값을 이용하여 디코딩을 수행할 수 있다.
역양자화 모듈(223)은 양자화 모듈(213)에 의해서 압축된 데이터를 압축 해제할 수 있다. 역양자화 모듈(223)은 양자화 모듈(213)에서 정해진 양자화 계수를 이용하여 압축된 압축 데이터(20)를 복원할 수 있으나, 압축 과정에서 손실된 부분까지 완벽하게 복원할 수는 없다. 따라서, 역양자화 모듈(223)은 손실 모드에서만 활용될 수 있다.
예측 보상 모듈(221)은 예측 모듈(211)에 의해서 예측 데이터와 잔차 데이터로 표현된 데이터를 복원할 수 있다. 예측 보상 모듈(221)은 예를 들어, (253(예측), 1(잔차), 2(잔차))의 잔차 데이터 표현을 (253, 254, 255)으로 변환시킬 수 있다.
예측 보상 모듈(221)은 예측 모듈(211)에 따라 픽셀 단위 또는 블록 단위로 수행된 예측을 복원할 수 있다. 이에 따라서, 압축 데이터(20)가 복원 혹은 압축 해제되어 멀티미디어 IP(100)로 전송될 수 있다.
압축 해제 관리 모듈(228)은 도 5와 관련하여 앞서 설명한 압축 관리 모듈(218)이 이미지 데이터(10)의 압축을 수행하기 위해 결정했던 QP 테이블 및 엔트로피 테이블의 조합이, 압축 데이터(20)를 압축 해제할 때에 적절하게 반영될 수 있는 작업을 수행할 수 있다.
이제 도 7 내지 도 16를 참조하여, 앞서 설명한 이미지 처리 장치의 동작을 설명하도록 한다.
도 7 내지 도 10은 본 발명의 몇몇 실시예들에 따른 이미지 처리 장치의 동작을 설명하기 위한 개략도이다.
도 7을 참조하면, 압축 관리 모듈(218)은 미리 결정된 개수의 엔트리를 포함하는 QP 테이블(230)을 결정할 수 있다. 본 실시예에서, 압축 관리 모듈(218)은 8 단계의 양자화가 가능하도록 하는 8 개의 엔트리를 갖는 QP 테이블(230)을 결정할 수 있다.
QP 테이블(230)은 제1 엔트리 및 제2 엔트리를 포함한다. 여기서 제1 엔트리는 인덱스 0에 해당하는 양자화 계수이고, 제2 엔트리는 인덱스 7에 해당하는 양자화 계수이다. 그리고 QP 테이블(230)은 제1 엔트리와 제2 엔트리 사이에 하나 이상의 제3 엔트리를 포함한다. 본 실시예에서 하나 이상의 제3 엔트리는 인덱스 1 내지 6에 해당하는 양자화 계수에 해당한다.
제1 엔트리는 미리 정해진 제1 값으로 결정된다. 본 실시예에서 미리 정해진 제1 값은 "MaxShiftValue"라고 표시하도록 한다. 상기 제1 값은 본 발명의 다양한 실시예에 따른 이미지 처리 장치 또는 이미지 처리 장치의 동작 방법을 실제로 구현함에 있어서 필요에 따라 임의로 정해질 수 있는 상수 값이다.
제1 엔트리가 제1 값으로 결정되고 나면, 제2 엔트리는 다음과 같은 식에 의해 결정될 수 있다.
MaxShiftValue >> BitDepth * (1 - CompressionRatio)
여기서, MaxShiftValue는 앞서 설명한 제1 값이고, BitDepth는 이미지 데이터(10)의 비트 뎁스(bit depth)이고, CompressionRatio는 압축률을 나타낸다.
즉, 압축 관리 모듈(218)은 제1 값이 동일하고 목표하는 압축률이 동일한 경우, 이미지 데이터(10)의 비트 뎁스에 따라 QP 테이블(230)의 최종 값을 다르게 설정할 수 있다.
이와 같이 제1 엔트리가 제1 값으로 결정되고, 제2 엔트리가 제2 값으로 결정된 후, 제3 엔트리는 샘플링(sampling)을 통해 결정될 수 있다. 즉, 제3 엔트리는 미리 결정된 개수의 엔트리를 포함하는 QP 테이블(230)에서, 제1 엔트리 및 제2 엔트리를 제외한 나머지 제3 엔트리에 대해, 양자화 계수가 적절히 분포하도록 샘플링될 수 있다.
한편, 압축 관리 모듈(218)은 미리 결정된 개수의 k값을 이용하여 엔트로피 테이블을 결정할 수 있다. 본 발명의 몇몇의 실시예에서, 엔트로피 테이블은 최대 4 개 이하의 k값에 의해 결정될 수 있다.
구체적으로, 엔트로피 테이블은, 제1 비트 뎁스를 갖는 이미지 데이터(10)에 대해 n, n+1, n+2, n+3(단, n은 0 이상의 정수)의 k값에 의해 결정되고, 상기 제1 비트 뎁스보다 큰 제2 비트 뎁스를 갖는 이미지 데이터(10)에 대해 n+a, n+a+1, n+a+2, n+a+3(단, a는 1 이상의 정수)의 k값에 의해 결정될 수 있다.
예를 들어, 엔트로피 테이블은, 8 비트의 제1 비트 뎁스를 갖는 이미지 데이터에 대해서는 0, 1, 2, 3의 k값에 의해 결정될 수 있고, 10 비트의 제2 비트 뎁스를 갖는 이미지 데이터에 대해서는 1, 2, 3, 4의 k값에 의해 결정될 수 있다.
즉, 압축 관리 모듈(218)은 이미지 데이터(10)의 비트 뎁스에 따라 예컨대 4 개의 연속된 k값들을 다르게 설정할 수 있다.
이미지 데이터(10)의 블록 기반의 손실 압축을 수행하는 경우, 앞서 설명한 바와 같이, 예측, 양자화 및 엔트로피 코딩의 단계가 수행된다. 양자화의 경우, 양자화 계수들을 포함하는 QP 테이블이 더 많은 엔트리를 가질수록 더 정교하게 압축을 수행할 수는 있으나, 한편으로는 다수의 엔트리를 갖는 QP 테이블을 유지하기 위해 메모리 자원이 소모되고, 프레임 버퍼 컨트롤러(200)의 인코더(210)와 디코더(220) 사이에서 주고 받는 압축 데이터(20)의 스트림의 헤더의 비트 수가 커질 수 있다. 특히, 이미지 데이터(10)에 대해 블록 단위로 압축을 수행하는 환경에서는 압축 데이터(20)의 스트림의 헤더가 1 비트만 증가하여도 전체 이미지 사이즈를 고려한다면 상당한 양의 밴드위스가 소모될 수 있다.
또한, 엔트로피 코딩의 경우, 잔차 신호(residual)의 분포는 예컨대 8 비트의 비트 뎁스를 갖는 이미지 데이터의 경우와, 예컨대 10 비트의 비트 뎁스를 같은 이미지 데이터의 경우, 다르기 때문에, 엔트로피 코딩에 사용되는 엔트로피 테이블 역시 이에 따라 다르게 결정될 필요가 있다. 예컨대, 8 비트의 비트 뎁스를 갖는 이미지 데이터의 경우보다 10 비트의 비트 뎁스를 같은 이미지 데이터의 경우에 엔트로피 테이블 엔트리의 값이 0으로 몰리는 경향이 낮아지게 되므로, 비트 뎁스에 따라 k값이 다르게 결정될 필요가 있다.
따라서, 압축 품질이 양호하면서도 적절한 사이즈의 QP 테이블을 결정하고, 잔차 신호의 분포를 고려하여 적절한 k값을 선정하여 엔트로피 테이블을 결정함으로써, 이미지 데이터(10)의 압축 성능을 높이면서도, 프레임 버퍼 컴프레서(200)와 메모리(300) 사이의 밴드위스를 절약할 수 있다.
본 발명의 몇몇의 실시예에서, 압축 관리 모듈(218)은 최대 16 개의 엔트리를 포함하는 QP 테이블을 결정할 수 있다. 또한, 본 발명의 몇몇의 실시예에서, 압축 관리 모듈(218)은 8 개 이상의 엔트리를 포함하는 QP 테이블을 결정할 수 있다.
다음으로 도 8을 참조하면, 압축 관리 모듈(218)은 8 개의 엔트리를 포함하는 QP 테이블(232)을 결정한다.
QP 테이블(232)의 제1 엔트리는 4096으로 결정되었다고 가정하자. 압축 관리 모듈(218)은 다음과 같이 제1 값에 해당하는 4096에 대해 BitDepth * (1 - CompressionRatio) 만큼 비트 시프트(bit shift) 연산을 수행한다.
4096 >> 8 X (1 - 0.5) = 256
여기서 8은 이미지 데이터(10)의 비트 뎁스에 해당하는 값이고, 0.5는 목표하는 압축률에 해당하는 값이다.
이와 같이 제1 엔트리가 4096으로 결정되고, 제2 엔트리가 256으로 결정된 후, 제3 엔트리는 샘플링을 통해 결정될 수 있다. 즉, 제3 엔트리는 8 개의 엔트리를 포함하는 QP 테이블(232)에서, 제1 엔트리 4096 및 제2 엔트리 256을 제외한 나머지 인덱스 1 내지 6에 해당하는 제3 엔트리에 대해, 양자화 계수가 적절히 분포하도록, 예컨대 1365, 819, 585, 455, 372, 315로 결정될 수 있다. 이와 같이 결정된 QP 테이블(242)의 엔트리들은 예컨대 MaxShiftValue 값인 4096으로 나누어서 양자화 계수로 사용될 수도 있다.
한편, 압축 관리 모듈(218)은 이미지 데이터(10)가 8 비트의 비트 뎁스를 갖는 경우 k값을 0, 1, 2, 3으로 결정하고, 이미지 데이터(10)가 10 비트의 비트 뎁스를 갖는 경우 k값을 1, 2, 3, 4로 결정할 수 있다.
이와 같이 압축 관리 모듈(218)이 양자화 및 엔트로피 코딩에 각각 사용되는 QP 테이블 및 엔트로피 테이블의 조합을 결정하고, 결정된 QP 테이블 및 엔트로피 테이블의 조합에 따라 이미지 데이터(10)의 압축을 제어함으로써, 이미지 데이터(10)의 압축 성능을 높이면서도, 프레임 버퍼 컴프레서(200)와 메모리(300) 사이의 밴드위스를 절약할 수 있다.
다음으로 도 9를 참조하면, 압축 관리 모듈(218)은 8 개의 엔트리를 포함하는 QP 테이블(234)을 결정한다.
QP 테이블(234)의 제1 엔트리는 4096으로 결정되었다고 가정하자. 압축 관리 모듈(218)은 다음과 같이 제1 값에 해당하는 4096에 대해 BitDepth * (1 - CompressionRatio) 만큼 비트 시프트 연산을 수행한다.
4096 >> 10 X (1 - 0.5) = 128
여기서 10은 이미지 데이터(10)의 비트 뎁스에 해당하는 값이고, 0.5는 목표하는 압축률에 해당하는 값이다.
이와 같이 제1 엔트리가 4096으로 결정되고, 제2 엔트리가 128로 결정된 후, 제3 엔트리는 샘플링을 통해 결정될 수 있다. 즉, 제3 엔트리는 8 개의 엔트리를 포함하는 QP 테이블(234)에서, 제1 엔트리 4096 및 제2 엔트리 128을 제외한 나머지 인덱스 1 내지 6에 해당하는 제3 엔트리에 대해, 양자화 계수가 적절히 분포하도록, 예컨대 819, 455, 293, 216, 171, 146으로 결정될 수 있다. 이와 같이 결정된 QP 테이블(242)의 엔트리들은 예컨대 MaxShiftValue 값인 4096으로 나누어서 양자화 계수로 사용될 수도 있다.
한편, 압축 관리 모듈(218)은 이미지 데이터(10)가 8 비트의 비트 뎁스를 갖는 경우 k값을 0, 1, 2, 3으로 결정하고, 이미지 데이터(10)가 10 비트의 비트 뎁스를 갖는 경우 k값을 1, 2, 3, 4로 결정할 수 있다.
이와 같이 압축 관리 모듈(218)이 양자화 및 엔트로피 코딩에 각각 사용되는 QP 테이블 및 엔트로피 테이블의 조합을 결정하고, 결정된 QP 테이블 및 엔트로피 테이블의 조합에 따라 이미지 데이터(10)의 압축을 제어함으로써, 이미지 데이터(10)의 압축 성능을 높이면서도, 프레임 버퍼 컴프레서(200)와 메모리(300) 사이의 밴드위스를 절약할 수 있다.
이어서 도 10을 참조하면, 위와 같은 과정을 통해 프레임 버퍼 컴프레서(200)의 인코더(210)로부터 생성된 압축 비트 스트림(236)은 4 비트의 QP 테이블 정보와, 2 비트의 k값 정보를 포함하는 헤더를 포함하고, 헤더에 이어서 압축 데이터(20)를 압축 바이너리로서 포함한다.
도 11 내지 도 14는 본 발명의 몇몇 실시예들에 이미지 처리 장치의 동작을 설명하기 위한 개략도이다.
도 11을 참조하면, 압축 관리 모듈(218)은 미리 결정된 개수의 엔트리를 포함하는 QP 테이블(240)을 결정할 수 있다. 본 실시예에서, 압축 관리 모듈(218)은 16 단계의 양자화가 가능하도록 하는 16 개의 엔트리를 갖는 QP 테이블(240)을 결정할 수 있다.
QP 테이블(240)은 제1 엔트리 및 제2 엔트리를 포함한다. 여기서 제1 엔트리는 인덱스 0에 해당하는 양자화 계수이고, 제2 엔트리는 인덱스 15에 해당하는 양자화 계수이다. 그리고 QP 테이블(240)은 제1 엔트리와 제2 엔트리 사이에 하나 이상의 제3 엔트리를 포함한다. 본 실시예에서 하나 이상의 제3 엔트리는 인덱스 1 내지 14에 해당하는 양자화 계수에 해당한다.
제1 엔트리가 제1 값으로 결정되고, 제2 엔트리가 제2 값으로 결정된 후, 제3 엔트리는 샘플링을 통해 결정될 수 있다. 즉, 제3 엔트리는 미리 결정된 개수의 엔트리를 포함하는 QP 테이블(240)에서, 제1 엔트리 및 제2 엔트리를 제외한 나머지 제3 엔트리에 대해, 양자화 계수가 적절히 분포하도록 샘플링될 수 있다.
한편, 압축 관리 모듈(218)은 미리 결정된 개수의 k값을 이용하여 엔트로피 테이블을 결정할 수 있다. 본 발명의 몇몇의 실시예에서, 엔트로피 테이블은 최대 4 개 이하의 k값에 의해 결정될 수 있다.
예를 들어, 엔트로피 테이블은, 8 비트의 제1 비트 뎁스를 갖는 이미지 데이터에 대해서는 0, 1, 2, 3의 k값에 의해 결정될 수 있고, 10 비트의 제2 비트 뎁스를 갖는 이미지 데이터에 대해서는 1, 2, 3, 4의 k값에 의해 결정될 수 있다.
즉, 압축 관리 모듈(218)은 이미지 데이터(10)의 비트 뎁스에 따라 예컨대 4 개의 연속된 k값들을 다르게 설정할 수 있다.
다음으로 도 12를 참조하면, 압축 관리 모듈(218)은 16 개의 엔트리를 포함하는 QP 테이블(242)을 결정한다.
QP 테이블(242)의 제1 엔트리는 4096으로 결정되었다고 가정하자. 압축 관리 모듈(218)은 다음과 같이 제1 값에 해당하는 4096에 대해 BitDepth * (1 - CompressionRatio) 만큼 비트 시프트 연산을 수행한다.
4096 >> 8 X (1 - 0.5) = 256
여기서 8은 이미지 데이터(10)의 비트 뎁스에 해당하는 값이고, 0.5는 목표하는 압축률에 해당하는 값이다.
이와 같이 제1 엔트리가 4096으로 결정되고, 제2 엔트리가 256으로 결정된 후, 제3 엔트리는 샘플링을 통해 결정될 수 있다. 즉, 제3 엔트리는 8 개의 엔트리를 포함하는 QP 테이블(232)에서, 제1 엔트리 4096 및 제2 엔트리 256을 제외한 나머지 인덱스 1 내지 14에 해당하는 제3 엔트리에 대해, 양자화 계수가 적절히 분포하도록, 예컨대 2048, 1365, 1024, 819, 683, 585, 512, 455, 410, 372, 341, 315, 293, 273으로 결정될 수 있다. 이와 같이 결정된 QP 테이블(242)의 엔트리들은 예컨대 MaxShiftValue 값인 4096으로 나누어서 양자화 계수로 사용될 수도 있다.
한편, 압축 관리 모듈(218)은 이미지 데이터(10)가 8 비트의 비트 뎁스를 갖는 경우 k값을 0, 1, 2, 3으로 결정하고, 이미지 데이터(10)가 10 비트의 비트 뎁스를 갖는 경우 k값을 1, 2, 3, 4로 결정할 수 있다.
이와 같이 압축 관리 모듈(218)이 양자화 및 엔트로피 코딩에 각각 사용되는 QP 테이블 및 엔트로피 테이블의 조합을 결정하고, 결정된 QP 테이블 및 엔트로피 테이블의 조합에 따라 이미지 데이터(10)의 압축을 제어함으로써, 이미지 데이터(10)의 압축 성능을 높이면서도, 프레임 버퍼 컴프레서(200)와 메모리(300) 사이의 밴드위스를 절약할 수 있다.
다음으로 도 13를 참조하면, 압축 관리 모듈(218)은 8 개의 엔트리를 포함하는 QP 테이블(244)을 결정한다.
QP 테이블(244)의 제1 엔트리는 4096으로 결정되었다고 가정하자. 압축 관리 모듈(218)은 다음과 같이 제1 값에 해당하는 4096에 대해 BitDepth * (1 - CompressionRatio) 만큼 비트 시프트 연산을 수행한다.
4096 >> 10 X (1 - 0.5) = 128
여기서 10은 이미지 데이터(10)의 비트 뎁스에 해당하는 값이고, 0.5는 목표하는 압축률에 해당하는 값이다.
이와 같이 제1 엔트리가 4096으로 결정되고, 제2 엔트리가 128로 결정된 후, 제3 엔트리는 샘플링을 통해 결정될 수 있다. 즉, 제3 엔트리는 8 개의 엔트리를 포함하는 QP 테이블(234)에서, 제1 엔트리 4096 및 제2 엔트리 128을 제외한 나머지 인덱스 1 내지 14에 해당하는 제3 엔트리에 대해, 양자화 계수가 적절히 분포하도록, 예컨대 1365, 819, 585, 455, 372, 315, 273, 228, 205, 186, 171, 158, 146, 137로 결정될 수 있다. 이와 같이 결정된 QP 테이블(242)의 엔트리들은 예컨대 MaxShiftValue 값인 4096으로 나누어서 양자화 계수로 사용될 수도 있다.
한편, 압축 관리 모듈(218)은 이미지 데이터(10)가 8 비트의 비트 뎁스를 갖는 경우 k값을 0, 1, 2, 3으로 결정하고, 이미지 데이터(10)가 10 비트의 비트 뎁스를 갖는 경우 k값을 1, 2, 3, 4로 결정할 수 있다.
이와 같이 압축 관리 모듈(218)이 양자화 및 엔트로피 코딩에 각각 사용되는 QP 테이블 및 엔트로피 테이블의 조합을 결정하고, 결정된 QP 테이블 및 엔트로피 테이블의 조합에 따라 이미지 데이터(10)의 압축을 제어함으로써, 이미지 데이터(10)의 압축 성능을 높이면서도, 프레임 버퍼 컴프레서(200)와 메모리(300) 사이의 밴드위스를 절약할 수 있다.
이어서 도 14를 참조하면, 위와 같은 과정을 통해 프레임 버퍼 컴프레서(200)의 인코더(210)로부터 생성된 압축 비트 스트림(246)은 4 비트의 QP 테이블 정보와, 2 비트의 k값 정보를 포함하는 헤더를 포함하고, 헤더에 이어서 압축 데이터(20)를 압축 바이너리로서 포함한다.
도 15는 본 발명의 몇몇 실시예들에 따른 이미지 처리 장치 및 이미지 처리 장치의 동작 방법에 의한 유리한 효과를 설명하기 위한 도면이다.
도 15를 참조하면, QP 테이블의 엔트리의 개수가 12이고, k값의 개수가 4개인 경우 가장 양호한 PSNR 게인을 나타내고 있다.
즉, 압축 품질이 양호하면서도 적절한 사이즈의 QP 테이블을 결정하고, 잔차 신호의 분포를 고려하여 적절한 k값을 선정하여 엔트로피 테이블을 결정함으로써, 이미지 데이터(10)의 압축 성능을 높이면서도, 프레임 버퍼 컴프레서(200)와 메모리(300) 사이의 밴드위스를 절약할 수 있다.
도 16은 본 발명의 몇몇 실시예들에 따른 이미지 처리 장치의 동작 방법을 설명하기 위한 흐름도이다.
도 16을 참조하면, 본 발명의 몇몇 실시예들에 따른 이미지 처리 장치의 동작 방법은, 미리 결정된 개수의 엔트리를 포함하는 QP 테이블을 결정(S1601)하는 것을 포함한다.
본 발명의 몇몇의 실시예에서, 미리 결정된 개수의 엔트리를 포함하는 QP 테이블을 결정하는 것은, 최대 16 개의 엔트리를 포함하는 QP 테이블을 결정하는 것을 포함할 수 있다. 또한, 본 발명의 몇몇의 실시예에서, 미리 결정된 개수의 엔트리를 포함하는 QP 테이블을 결정하는 것은, 8 개 이상의 엔트리를 포함하는 QP 테이블을 결정하는 것을 포함할 수 있다.
또한 상기 방법은, 결정된 QP 테이블을 이용하여, 예측이 완료된 이미지 데이터에 대해 양자화를 수행(S1603)하는 것을 포함한다.
또한 상기 방법은, 미리 결정된 개수의 k값을 이용하여 엔트로피 테이블을 결정(S1605)하는 것을 포함한다.
본 발명의 몇몇의 실시예에서, 엔트로피 테이블을 결정하는 것은, 최대 4 개 이하의 k값을 이용하여 상기 엔트로피 테이블을 결정하는 것을 포함할 수 있다.
또한 상기 방법은, 결정된 상기 엔트로피 테이블을 이용하여, 양자화가 완료된 이미지 데이터에 대해 엔트로피 코딩을 수행하여 압축 데이터를 생성(S1607)하는 것을 포함한다.
이상 첨부된 도면을 참조하여 본 발명의 실시예들을 설명하였으나, 본 발명은 상기 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 제조될 수 있으며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다.
100: 멀티미디어 IP
200: 프레임 버퍼 컴프레서
300: 메모리

Claims (20)

  1. 이미지 데이터를 처리하는 멀티미디어 IP;
    상기 멀티미디어 IP에 의해 액세스(access)되는 메모리 및;
    상기 이미지 데이터에 대해 압축을 수행하여 압축 데이터를 생성하고, 압축 데이터를 상기 메모리에 저장하는 프레임 버퍼 컴프레서(Frame Buffer Compressor, FBC)를 포함하고,
    상기 프레임 버퍼 컴프레서는, QP 테이블 및 엔트로피 테이블의 조합을 결정하고 결정된 상기 QP 테이블 및 상기 엔트로피 테이블의 조합에 따라 상기 이미지 데이터의 압축을 제어하는 압축 관리 모듈을 포함하고,
    상기 QP 테이블은 제1 엔트리 및 제2 엔트리를 포함하고,
    상기 제1 엔트리는 미리 정해진 제1 값을 갖고,
    상기 제2 엔트리의 값은 상기 미리 정해진 제1 값을 제2 값만큼 시프팅시켜 결정되되,
    상기 제2 값은 상기 이미지 데이터의 비트 뎁스와 목표하는 압축률로부터 결정되는 이미지 처리 장치.
  2. 제1항에 있어서,
    상기 제2 엔트리의 값은 다음과 같은 식에 의해 결정되되,
    MaxShiftValue >> BitDepth * (1 - CompressionRatio)
    여기서, MaxShiftValue는 상기 제1 값이고, BitDepth는 이미지 데이터의 비트 뎁스이고, CompressionRatio는 이미지 데이터의 목표하는 압축률을 나타내는 이미지 처리 장치.
  3. 제2항에 있어서,
    상기 QP 테이블은 상기 제1 엔트리와 상기 제2 엔트리 사이에 하나 이상의 제3 엔트리를 포함하고,
    상기 제3 엔트리는 샘플링(sampling)을 통해 결정되는 이미지 처리 장치.
  4. 제1항에 있어서,
    상기 QP 테이블은 최대 16 개의 엔트리를 포함하는 이미지 처리 장치.
  5. 제4항에 있어서,
    상기 QP 테이블은 8 개 이상의 엔트리를 포함하는 이미지 처리 장치.
  6. 제1항에 있어서,
    상기 엔트로피 테이블은 최대 4 개 이하의 k값에 의해 결정되는 이미지 처리 장치.
  7. 제6항에 있어서,
    상기 엔트로피 테이블은,
    제1 비트 뎁스를 갖는 이미지 데이터에 대해 n, n+1, n+2, n+3(단, n은 0 이상의 정수)의 k값에 의해 결정되고,
    상기 제1 비트 뎁스보다 큰 제2 비트 뎁스를 갖는 이미지 데이터에 대해 n+a, n+a+1, n+a+2, n+a+3(단, a는 1 이상의 정수)의 k값에 의해 결정되는 이미지 처리 장치.
  8. 제1항에 있어서,
    상기 엔트로피 테이블은 지수 골롬 코드(exponential golomb code) 및 골롬 라이스 코드(golomb rice code) 중 적어도 하나를 포함하는 이미지 처리 장치.
  9. 이미지 데이터를 처리하는 멀티미디어 IP;
    상기 멀티미디어 IP에 의해 액세스(access)되는 메모리 및;
    상기 이미지 데이터에 대해 압축을 수행하여 압축 데이터를 생성하고, 압축 데이터를 상기 메모리에 저장하는 프레임 버퍼 컴프레서(Frame Buffer Compressor, FBC)를 포함하고,
    상기 프레임 버퍼 컴프레서는, 최대 16 개의 엔트리를 포함하는 QP 테이블 및 최대 4 개의 k값에 의해 결정되는 엔트로피 테이블을 결정하고, 결정된 상기 QP 테이블 및 상기 엔트로피 테이블의 조합에 따라 상기 이미지 데이터의 압축을 제어하는 압축 관리 모듈을 포함하고,
    상기 QP 테이블은 제1 엔트리 및 제2 엔트리를 포함하고,
    상기 제1 엔트리는 미리 정해진 제1 값을 갖고,
    상기 제2 엔트리의 값은 다음과 같은 식에 의해 결정되되,
    MaxShiftValue >> BitDepth * (1 - CompressionRatio)
    여기서, MaxShiftValue는 상기 제1 값이고, BitDepth는 이미지 데이터의 비트 뎁스이고, CompressionRatio는 이미지 데이터의 목표하는 압축률을 나타내는 이미지 처리 장치.
  10. 삭제
  11. 제9항에 있어서,
    상기 QP 테이블은 상기 제1 엔트리와 상기 제2 엔트리 사이에 하나 이상의 제3 엔트리를 포함하고,
    상기 제3 엔트리는 샘플링(sampling)을 통해 결정되는 이미지 처리 장치.
  12. 제9항에 있어서,
    상기 QP 테이블은 8 개 이상의 엔트리를 포함하는 이미지 처리 장치.
  13. 제9항에 있어서,
    상기 엔트로피 테이블은,
    제1 비트 뎁스를 갖는 이미지 데이터에 대해 n, n+1, n+2, n+3(단, n은 0 이상의 정수)의 k값에 의해 결정되고,
    상기 제1 비트 뎁스보다 큰 제2 비트 뎁스를 갖는 이미지 데이터에 대해 n+a, n+a+1, n+a+2, n+a+3(단, a는 1 이상의 정수)의 k값에 의해 결정되는 이미지 처리 장치.
  14. 이미지 데이터에 대해 예측을 수행하고,
    미리 결정된 개수의 엔트리를 포함하는 QP 테이블을 결정하고,
    상기 결정된 상기 QP 테이블을 이용하여 상기 예측이 완료된 이미지 데이터에 대해 양자화를 수행하고,
    미리 결정된 개수의 k값을 이용하여 엔트로피 테이블을 결정하고,
    상기 결정된 상기 엔트로피 테이블을 이용하여 상기 양자화가 완료된 이미지 데이터에 대해 엔트로피 코딩을 수행하여 압축 데이터를 생성하는 것을 포함하되,
    상기 QP 테이블은 제1 엔트리 및 제2 엔트리를 포함하고,
    상기 미리 결정된 개수의 엔트리를 포함하는 QP 테이블을 결정하는 것은,
    상기 제1 엔트리를 미리 정해진 제1 값으로 결정하고,
    상기 제2 엔트리의 값을 다음과 같은 식에 의해 결정하는 것을 포함하되,
    MaxShiftValue >> BitDepth * (1 - CompressionRatio)
    여기서, MaxShiftValue는 상기 제1 값이고, BitDepth는 이미지 데이터의 비트 뎁스이고, CompressionRatio는 이미지 데이터의 목표하는 압축률을 나타내는 이미지 처리 장치의 동작 방법.
  15. 제14항에 있어서,
    상기 미리 결정된 개수의 엔트리를 포함하는 QP 테이블을 결정하는 것은,
    최대 16 개의 엔트리를 포함하는 QP 테이블을 결정하는 것을 포함하는 이미지 처리 장치의 동작 방법.
  16. 제15항에 있어서,
    상기 미리 결정된 개수의 엔트리를 포함하는 QP 테이블을 결정하는 것은,
    8 개 이상의 엔트리를 포함하는 QP 테이블을 결정하는 것을 포함하는 이미지 처리 장치의 동작 방법.
  17. 삭제
  18. 제14항에 있어서,
    상기 QP 테이블은 상기 제1 엔트리와 상기 제2 엔트리 사이에 하나 이상의 제3 엔트리를 포함하고,
    상기 미리 결정된 개수의 엔트리를 포함하는 QP 테이블을 결정하는 것은,
    상기 제3 엔트리를 샘플링(sampling)을 통해 결정하는 것을 포함하는 이미지 처리 장치의 동작 방법.
  19. 제14항에 있어서,
    상기 엔트로피 테이블을 결정하는 것은,
    최대 4 개 이하의 k값을 이용하여 상기 엔트로피 테이블을 결정하는 것을 포함하는 이미지 처리 장치의 동작 방법.
  20. 제14항에 있어서,
    상기 엔트로피 테이블을 결정하는 것은,
    제1 비트 뎁스를 갖는 이미지 데이터에 대해 n, n+1, n+2, n+3(단, n은 0 이상의 정수)의 k값을 이용하여 상기 엔트로피 테이블을 결정하고,
    상기 제1 비트 뎁스보다 큰 제2 비트 뎁스를 갖는 이미지 데이터에 대해 n+a, n+a+1, n+a+2, n+a+3(단, a는 1 이상의 정수)의 k값을 이용하여 상기 엔트로피 테이블을 결정하는 것을 포함하는 이미지 처리 장치의 동작 방법.
KR1020180041781A 2018-01-26 2018-04-10 이미지 처리 장치 및 이미지 처리 장치의 동작 방법 KR102543449B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
SG10201809263UA SG10201809263UA (en) 2018-01-26 2018-10-19 Image processing device and method for operating image processing device
US16/205,900 US11190810B2 (en) 2018-01-26 2018-11-30 Device and method for compressing image data using quantization parameter and entropy tables
TW107143583A TW201941615A (zh) 2018-01-26 2018-12-05 影像處理裝置及操作影像處理裝置之方法
CN201910038891.2A CN110087074A (zh) 2018-01-26 2019-01-16 图像处理装置和用于操作图像处理装置的方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180010083 2018-01-26
KR20180010083 2018-01-26

Publications (2)

Publication Number Publication Date
KR20190091178A KR20190091178A (ko) 2019-08-05
KR102543449B1 true KR102543449B1 (ko) 2023-06-14

Family

ID=67615996

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180041781A KR102543449B1 (ko) 2018-01-26 2018-04-10 이미지 처리 장치 및 이미지 처리 장치의 동작 방법

Country Status (3)

Country Link
KR (1) KR102543449B1 (ko)
SG (1) SG10201809263UA (ko)
TW (1) TW201941615A (ko)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SG140441A1 (en) * 2003-03-17 2008-03-28 St Microelectronics Asia Decoder and method of decoding using pseudo two pass decoding and one pass encoding
US9294766B2 (en) * 2013-09-09 2016-03-22 Apple Inc. Chroma quantization in video coding

Also Published As

Publication number Publication date
KR20190091178A (ko) 2019-08-05
TW201941615A (zh) 2019-10-16
SG10201809263UA (en) 2019-08-27

Similar Documents

Publication Publication Date Title
KR102120571B1 (ko) 넌-4:4:4 크로마 서브-샘플링의 디스플레이 스트림 압축 (dsc) 을 위한 엔트로피 코딩 기법들
RU2008150330A (ru) Сжатие видеоданных без видимых потерь
US11445160B2 (en) Image processing device and method for operating image processing device
US10887616B2 (en) Image processing devices having enhanced frame buffer compressors therein
WO2018203202A1 (en) Quantization partitioning for enhanced image compression
US20140010445A1 (en) System And Method For Image Compression
US20210250575A1 (en) Image processing device
US11190810B2 (en) Device and method for compressing image data using quantization parameter and entropy tables
WO2024022039A1 (zh) 一种视频图像解码方法、编码方法、装置及存储介质
US11153586B2 (en) Image processing device and frame buffer compressor
US20210344900A1 (en) Image processing device
US11735222B2 (en) Frame buffer compressing circuitry and image processing apparatus
KR102543449B1 (ko) 이미지 처리 장치 및 이미지 처리 장치의 동작 방법
TWI820063B (zh) 影像處理裝置及影像處理裝置的操作方法
KR102465206B1 (ko) 이미지 처리 장치
TWI795480B (zh) 用於執行資料解壓縮的影像處理裝置及用於執行資料壓縮的影像處理裝置
US20220201340A1 (en) Image processing device and method for operating image processing device
US20220201060A1 (en) Image processing device and method for operating image processing device
JP2020141377A (ja) 画像符号化装置、画像復号化装置、撮像装置、画像符号化方法、画像復号化方法、及びプログラム

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right