KR102403360B1 - 하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치 - Google Patents

하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치 Download PDF

Info

Publication number
KR102403360B1
KR102403360B1 KR1020150085474A KR20150085474A KR102403360B1 KR 102403360 B1 KR102403360 B1 KR 102403360B1 KR 1020150085474 A KR1020150085474 A KR 1020150085474A KR 20150085474 A KR20150085474 A KR 20150085474A KR 102403360 B1 KR102403360 B1 KR 102403360B1
Authority
KR
South Korea
Prior art keywords
information
image
mapping information
correction
dynamic range
Prior art date
Application number
KR1020150085474A
Other languages
English (en)
Other versions
KR20160148836A (ko
Inventor
심동규
박시내
안용조
마종현
임정윤
Original Assignee
광운대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 광운대학교 산학협력단 filed Critical 광운대학교 산학협력단
Priority to KR1020150085474A priority Critical patent/KR102403360B1/ko
Priority to US15/183,492 priority patent/US10477252B2/en
Publication of KR20160148836A publication Critical patent/KR20160148836A/ko
Priority to US16/584,984 priority patent/US10917664B2/en
Priority to US17/143,502 priority patent/US11451837B2/en
Priority to KR1020220063830A priority patent/KR102454142B1/ko
Application granted granted Critical
Publication of KR102403360B1 publication Critical patent/KR102403360B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/98Adaptive-dynamic-range coding [ADRC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression

Abstract

본 발명은 하위 호완성을 고려한 HDR 복호화기에서 하위 계층과 상위 계층간 다이나믹 레인지의 매핑 정보를 다양한 방법으로 이용하여 효율적인 복호화를 가능하게 한다.

Description

하위 호환성을 고려한 HDR 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치{METHOD AND APPARATUS FOR EMPLOYING DYNAMIC RANGE MAPPING DATA FOR HDR VIDEO DECODER CONSIDERING BACKWARD COMPATIBILITY}
본 발명은 영상 처리 기술에 관한 것으로써, 보다 상세하게는 하위 호환성을 고려한 HDR (High Dynamic Range) 영상 복호화기에서 다이나믹 레인지 매핑 정보를 이용하는 방법에 관한 것이다.
최근 FHD (Full High Definition) 및 UHD (Ultra High Definition) 와 같은 고해상도의 영상 서비스 수요와 고품질의 영상 서비스 수요가 증가하였다.
본 발명의 일부 실시예는 하위 호완성을 고려한 HDR 영상 복호화기에서 하위 계층과 상위 계층 간 다이나믹 레인지의 매핑 정보를 이용하는 방법 및 장치를 제공하는 것을 그 목적으로 한다.
다만, 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.
상기 과제를 해결하기 위한 본 발명의 일 실시예에 하위 호환성을 고려한 HDR 영상 복호화기에서 다이나믹 레인지의 매핑 정보를 이용하는 단계와 방법을 포함한다.
전술한 본 발명의 과제 해결 수단에 의하면 하위 호환성을 고려한 HDR 영상 복호화기에서 다이나믹 레인지 매핑 정보를 효율적으로 복호화 및 이용할 수 있다.
도 1은 본 발명의 일 실시예에 따른 하위호환성을 고려한 HDR 영상 복호화 장치의 구성을 도시한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 하위호환성을 고려한 또 다른 HDR 영상 복호화기 장치의 구성을 도시한 블록도이다.
도 3은 본 발명의 일 실시예에 따른 다이나믹 레인지 매핑 정보가 복호화될 수 있는 단계의 예시도이다.
도 4는 본 발명의 일 실시예에 따른 다이나믹 레인지 매핑 정보를 복호화하는 방법을 도시한 블록도이다.
도 5는 다이나믹 레인지 매핑 정보를 복호화하는 방법 일 예에 따른 알고리즘을 도시한 도면이다.
도 6은 본 발명의 일 실시예에 따른 다이나믹 레인지 매핑 정보를 영상의 특성에 따라 선택하는 방법을 도시한 블록도이다.
도 7은 다이나믹 레인지 매핑 정보를 영상의 특성에 따라 선택하는 방법 일 예에 따른 알고리즘을 도시한 도면이다.
도 8은 다이나믹 레인지 매핑 정보를 이용하는 방법에 대한 예시도이다.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 연결되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 전기적으로 연결되어 있는 경우도 포함한다. 또한, 어떤 부분이 어떤 구성요소를 포함한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
본원 명세서 전체에서, 어떤 부분이 어떤 구성요소를 포함한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것을 의미한다. 본원 명세서 전체에서 사용되는 정도의 용어 ~(하는) 단계 또는 ~의 단계는 ~를 위한 단계를 의미하지 않는다.
또한, 제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
덧붙여, 본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 기술되고, 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있다. 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리 범위에 포함된다.
먼저, 본 출원에서 사용되는 용어를 간략히 설명하면 다음과 같다.
이하에서 후술할 복호화 장치 (Video Decoding Apparatus)는 개인용 컴퓨터 (PC, Personal Computer), 노트북 컴퓨터, 휴대형 멀티미디어 플레이어 (PMP, Portable Multimedia Player), 무선 통신 단말기 (Wireless Communication Terminal), 스마트 폰 (Smart Phone), TV 응용 서버와 서비스 서버 등 서버 단말기에 포함된 장치일 수 있으며, 각종 기기 등과 같은 사용자 단말기, 유무선 통신망과 통신을 수행하기 위한 통신 모뎀 등의 통신 장치, 영상을 복호화하거나 복호화를 위해 화면 간 또는 화면 내 예측하기 위한 각종 프로그램과 데이터를 저장하기 위한 메모리, 프로그램을 실행하여 연산 및 제어하기 위한 마이크로프로세서 등을 구비하는 다양한 장치를 의미할 수 있다.
또한, 부호화기에 의해 비트스트림 (bitstream)으로 부호화된 영상은 실시간 또는 비 실시간으로 인터넷, 근거리 무선 통신망, 무선랜망, 와이브로망, 이동통신망 등의 유무선 통신망 등을 통하거나 케이블, 범용 직렬 버스 (USB, Universal Serial Bus) 등과 같은 다양한 통신 인터페이스를 통해 영상 복호화 장치로 전송되어 복호화되어 영상으로 복원되고 재생될 수 있다.
스케일러블 비디오 (Scalable Video)란, 임의의 비트율 (bit rate)에서도 복호가 가능하도록 압축된 비트스트림을 계층적으로 구성한 비디오를 말한다. 단일 계층 복호화 장치는 하나의 비트율, 프레임율, 영상크기만을 지원하는 하나의 비트스트림만을 복호하는데 비하여, 다중 계층 비디오를 위한 복호화 장치는 다양한 비트율, 프레임율, 영상 크기에 대한 scalability를 지원할 수 있다.
스케일러블 비디오 코딩 (SVC, Scalable Video Coding) 표준에서는 하나의 비트스트림을 여러 개의 비디오 계층으로 복호화하며, 각 계층은 각각의 비트율, 프레임율, 영상크기, 화질을 가진다. 즉, 하나의 비트스트림은 하위 계층 (Base layer)과 계층적 (Scalable)인 상위 계층 (Enhancement layer)들로 구성될 수 있다. 일반적으로 상위 계층은 이전의 하위 계층들로 만들어진 비디오보다 높은 화질을 갖도록 부호화할 수 있으며, 본 출원에 사용하는 용어로서 계층적 영상 복호화 장치는 다중 계층 영상 복호화 장치를 포함할 수 있다.
다이나믹 레인지 (DR, Dynamic Range)의 일반적인 의미는 계측시스템에서 동시에 계측할 수 있는 최대, 최소의 신호의 차를 말한다. 영상 처리 및 비디오 압축 분야에서 다이나믹 레인지는 영상을 표현할 수 있는 밝기의 범위를 말할 수 있다.
스탠다드 다이나믹 레인지 (SDR, Standard Dynamic Range)는 1,000:1의 명암비와 100nit의 최대 밝기를 가지며, 일반적으로 표준명암비라 불린다.
하이 다이나믹 레인지 (HDR, High Dynamic Range)는 일반적으로 100,000:1 이상의 고명암비를 의미하며 4,000nits의 최대 밝기를 갖는다. 또한, 인간의 눈이 휘도순응 (Luminance adaptation) 없이 볼 수 있는 밝기 범위에 해당한다.
EDR (Enhanced Dynamic Range)은 SDR과 HDR 중간 수준의 명암비 (1,000:1 이상 ~ 100,000:1 미만)를 의미하며, 최대 밝기 1,000nits를 갖는다.
또한, 본 출원에서 사용하는 HDR 영상이란 하이 다이나믹 레인지를 갖는 영상을 의미하며, SDR 영상과 대조되는 개념으로 HDR 및 EDR의 다이나믹 레인지를 갖는 영상을 포함할 수 있다.
통상적으로 동영상은 일련의 픽쳐 (Picture)로 구성될 수 있으며, 각 픽쳐들은 블록 (Block)과 같은 소정의 영역으로 분할될 수 있다. 또한, 이하에 기재된 픽쳐라는 용어는 영상 (Image), 프레임 (Frame) 등과 같은 동등한 의미를 갖는 다른 용어로 대치되어 사용될 수 있음을 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 이해할 수 있을 것이다.
이하, 첨부한 도면들을 참조하여, 본 발명의 실시예를 보다 상세하게 설명하고자 한다. 본 발명을 설명함에 있어 동일한 구성요소에 대해서 중복된 설명은 생략한다.
도 1은 본 발명의 일 실시예에 따른 하위 호환성을 고려한 HDR 영상 복호화 장치의 구성을 도시한 블록도이다.
입력 비트스트림(100)은 하위 계층 영상에 대한 비트스트림과 상위 계층 영상에 대한 비트스트림을 포함할 수 있다. 또한, 입력 비트스트림(100)은 다이나믹 레인지 매핑 정보 등을 더 포함할 수 있다. 여기서 하위 계층은 LDR, SDR 영상 등 상위 계층의 영상보다 다이나믹 레인지가 좁은 영상을 나타내며, 상위 계층은 EDR, HDR 영상 등 하위 계층의 영상보다 다이나믹 레인지가 넓은 영상을 나타낸다.
하위 계층 복호화부(101)는 비트스트림으로부터 하위 계층 영상에 대한 데이터를 입력받아 복호화를 수행한다. 역 톤매핑부(102)는 하위 계층 복호화부를 통해 복원된 하위 계층 영상의 다이나믹 레인지를 상위 계층 영상의 다이나믹 레인지에 맞게 매핑을 수행하며 이 때, 매핑 정보에 대한 데이터는 비트스트림으로부터 추출되거나 유도될 수 있다.
상위 계층 복호화부(103)는 역톤매핑부(102)를 거쳐 상위 계층의 다이나믹 레인지에 맞게 매핑된 영상과 비트스트림으로부터 상위 계층 영상에 대한 데이터를 입력받아 상위 계층 영상에 대한 복호화를 수행한다.
도 2는 본 발명의 일 실시예에 따른 하위 호환성을 고려한 또 다른 HDR 영상 복호화기 장치의 구성을 도시한 블록도이다.
입력 비트스트림(200)은 상위 계층 영상에 대한 비트스트림과 다이나믹 레인지 매핑 정보를 포함할 수 있다.
상위 계층 복호화부(201)는 비트스트림으로부터 데이터를 입력받아 상위 계층 영상에 대한 복호화를 수행한다.
톤매핑부(202)는 상위 계층 복호화부로부터 복원된 영상을 하위 계층 영상의 다이나믹 레인지에 맞게 매핑을 수행하여 하위 계층의 복원 영상을 생성할 수 있다. 이 때, 매핑 정보에 대한 데이터는 비트스트림으로부터 추출되거나 유도될 수 있다.
도 3은 본 발명의 일 실시예에 따른 다이나믹 레인지 매핑 정보가 전송되는 단위 레벨의 예시도이다.
mapping_syntax(300)는 다이나믹 레인지 매핑 정보에 해당하는 데이터를 나타낸다. 다이나믹 레인지 매핑 정보에는 다이나믹 레인지 매핑 테이블 정보,다이나믹 레인지 파라미터 정보, 다이나믹 레인지 매핑 인덱스 정보 등 하위 계층 영상을 상위 계층 영상으로 또는 상위 계층 영상을 하위 계층 영상으로 다이나믹 레인지를 조정하는데 사용되는 정보가 포함될 수 있다.
다이나믹 레인지 매핑 테이블 정보는 상위 계층과 하위 계층 간의 다이나믹 레인지 매핑 관계를 테이블로 구성한 정보를 의미할 수 있다. 다이나믹 매핑 테이블 정보는 하나의 비디오 시퀀스에 대해서 동일하게 적용되는 하나의 테이블로 정의될 수도 있고, 소정의 단위(예를 들어, 픽쳐, 슬라이스 또는 블록 단위)에서 선택적으로 이용 가능하도록 복수의 테이블로 정의될 수도 있다. 또는, 소정의 단위들 간의 상호 의존성을 고려하여 현재 단위는 이웃 단위의 다이나믹 매핑 테이블 정보를 동일하게 호출하여 이용하도록 제어할 수 있다. 이때 소정 단위들 간의 상호 의존성은 소정의 단위들에 속한 화소값의 레인지를 고려하여 결정될 수 있다.
다이나믹 레인지 파라미터 정보는 상위 계층과 하위 계층 간 다이나믹 레인지 매핑 관계를 모델링하기 위한 파라미터를 의미할 수 있다. 예를 들어, 다이나믹 레인지의 조정을 위한 파라미터, 다이나믹 레인지 매핑을 위해 사용되는 소정의 스케일링 팩터 정보, 다이나믹 레인지를 보상하기 위한 오프셋 정보 등이 있을 수 있다.
다이나믹 레인지 매핑 인덱스 정보는 복수의 다이나믹 레인지 매핑 테이블 또는 다이나믹 레인지 파라미터 정보가 있는 경우, 해당 정보를 선택적으로 이용하기 위한 데이터를 의미할 수 있다. 다이나믹 레인지 매핑 인덱스 정보는 차분 코딩 기법에 기반한 부호화를 통해서 부호화 효율을 높일 수도 있다.
예를 들어, 현재 블록(또는, 현재 슬라이스, 현재 픽쳐 등)에 할당된 다이나믹 레인지 매핑 인덱스 정보는 이전 블록(또는, 이전 슬라이스, 이전 픽쳐 등)에 할당된 다이나믹 레인지 매핑 인덱스 정보를 예측값으로 사용하여 그 차분값만을 부호화할 수 있다. 여기서, 이전 블록은 현재 블록 이전에 부호화된 블록을 의미할 수 있고, 현재 블록의 주변에 위치한 블록 중 적어도 하나를 포함한다.
상술한 mapping_syntax에 대한 설명은 하나의 예시이며, 구체적인 구현 사항은 달라질 수 있다. 또한, 상술한 다이나믹 레인지 매핑 정보 중 적어도 하나는 부호화기에서 부호화된 mapping_syntax를 통해 획득될 수도 있고, 복호화기에서 유도될 수도 있음은 물론이다.
또한, 상술한 다이나믹 레인지 매핑 정보 중 적어도 하나는 비디오 파라미터 셋 (VPS: video parameter set), 시퀀스 파라미터 셋 (SPS: sequence parameter set), 픽쳐 파라미터 셋 (PPS: picture parameter set), 슬라이스 (Slice), 코딩 블록, 예측 블록, 변환 블록 등의 유닛 (Unit), 추가 메시지 (SEI: supplemental enhancement information) 등에서 복호화될 수 있다. 또한, 휘도 성분과 색차 성분에 따라 다르게 복호화 되고 적용될 수 있다.
도 4는 본 발명의 일 실시예에 따른 다이나믹 레인지 매핑 정보를 복호화하는 방법을 도시한 블록도이다.
매핑 정보 결정부(400)는 영상 복호화에 사용될 다이나믹 레인지 매핑 정보를 결정하는 단계로 매핑 정보 복호부(401), 매핑 정보 선택부(402) 또는 매핑 정보 수정부(403)중 적어도 하나를 포함할 수 있다.
매핑 정보 복호부(401)는 다이나믹 레인지 매핑 정보에 관한 데이터 복호화를 수행하며, 매핑 정보 선택부(402)는 매핑 정보 복호부(401)를 통해 얻은 정보를 기반으로 매핑 정보를 선택한다. 이 때, 매핑 정보는 비디오 부호화기로부터 전체 정보가 수신되고, 수신된 전체 정보 중에서 인덱스에 기초하여 특정되는 매핑 정보를 선택할 수 있다. 또는, 영상 복호화기에 복수의 매핑 정보가 기-정의되어 있을 수 있고, 이 경우 인덱스만을 수신 받아 선택할 수도 있다. 여기서, 매핑 정보는 도 3에서 자세히 살펴보았는바, 여기서 자세한 설명은 생략하기로 한다.
매핑 정보 수정부(403)는 매핑 정보 선택부(402)에서 선택한 매핑 정보의 전부 또는 일부 구간에 대해 수정하는 단계이다. 현재 복호화에 사용할 매핑 정보가 기 사용했던 매핑 정보들과 같다면 매핑 정보 선택부(402)로부터 복호된 정보를 이용하여 해당 매핑 정보를 사용하며, 기 사용했던 매핑 정보에서 일부만 다른 경우 수정이 필요한 구간의 데이터만 수신 받음으로써 적은 양의 데이터로 매핑 정보를 재구성하여 사용할 수 있다.
매핑 정보 수정부(403)에서 사용될 수 있는 데이터의 예로는 다이나믹 레인지 매핑 테이블 정보의 경우, 테이블 내 수정할 데이터의 위치, 수정할 값 또는 기존의 테이블 내 값과 현재 사용할 값의 차이 값 중 적어도 하나가 이용될 수 있다.
매핑 정보 적용부(404)는 매핑 정보 결정부(400)를 통해 얻은 매핑 정보를 복호화할 영상에 적용하는 단계이다.
도 5는 다이나믹 레인지 매핑 정보를 복호화하는 방법 일 예에 따른 알고리즘을 도시한 도면이다.
매핑 정보 선택 복호부(500)는 매핑 정보를 선택할 것인지 또는 매핑 정보를 복호화할 것인지에 대한 신택스를 복호화한다. mapping_sel_flag가 0인 경우, 매핑 정보 복호부(501)를 통해 매핑 정보를 복호화하며 mapping_sel_flag가 1인 경우에는 매핑 정보 선택부(502)를 통해 영상 복호화 장치가 기-정의된 매핑 정보 중 일부를 선택한다.
매핑 정보 수정 복호부(503)는 매핑 정보 선택부(502)에서 선택된 매핑 정보를 그대로 사용할지 수정할지를 결정하는 단계이다. mapping_fix_flag가 0인 경우, 매핑 정보를 수정하지 않고 사용하며 mapping_fix_flag가 1인 경우에는 매핑 정보 수정부(504)를 통해 일부 구간의 매핑 정보를 수정 후 사용한다. 일부 구간의 매핑 정보를 수정하는 방법은 도 4에서 살펴보았는바, 여기서 자세한 설명은 생략하기로 한다.
마지막으로 매핑 정보 적용부(505)는 위의 과정에서 결정된 매핑 정보를 복호화할 영상에 적용하는 단계이다.
도 6은 본 발명의 일 실시예에 따른 다이나믹 레인지 매핑 정보를 영상의 특성에 따라 선택하는 방법을 도시한 블록도이다.
매핑 정보 결정부(600)는 영상 복호화에 사용될 다이나믹 레인지 매핑 정보를 결정하는 단계로 영상 특성 분석부(601), 매핑 정보 선택부(602) 또는 매핑 정보 수정부(603) 중 적어도 하나를 포함할 수 있다.
영상 특성 분석부(601)는 현재 복호화할 영상 전체 또는 일부를 분석하는 단계이다. 예를 들어, 현재 복호화 할 영상 위치의 하위 계층 영상 또는 상위 계층 영상에서 픽쳐 또는 블록 등에 대해 히스토그램 등을 사용하여 분석한 결과를 통해 이전의 분석 결과들과 비교하여 유사한 결과를 갖는 위치를 탐색하는 것 등이 있다.
매핑 정보 선택부(602)는 영상 특성 분석부(601)를 통해 얻은 분석 결과를 기반으로 유사한 분석 결과를 갖는 위치의 매핑 정보를 선택한다. 매핑 정보 수정부(603)는 매핑 정보 선택부(602)에서 선택한 매핑 정보의 일부 구간에 대해 수정하는 단계이다. 영상 특성 분석부를 통해 현재 복호화 할 위치의 영상 특성과 선택된 위치의 영상 특성이 유사한 경우, 매핑 정보를 수정 없이 사용하며, 특성이 일부 다른 경우 해당 위치의 정보를 수정하여 사용한다. 수정이 필요한 경우 복호화기에서 분석한 결과를 토대로 매핑 정보의 테이블이나 파라미터 등을 수정하거나 부호화기로부터 수정에 필요한 정보를 받아 수정할 수 있다. 이 경우에도 도 4에서 설명한 수정 방법이 동일/유사하게 적용될 수 있다.
매핑 정보 적용부(604)는 매핑 정보 결정부(600)를 통해 얻은 매핑 정보를 복호화할 영상에 적용하는 단계이다.
도 8은 다이나믹 레인지 매핑 정보를 이용하는 방법에 대한 예시도이다.
예시한 그래프의 가로축은 상위 계층 영상의 다이나믹 레인지이며 세로축은 하위 계층 영상의 다이나믹 레인지를 나타낸다. 이하, 도 8을 참조하여 복호된 데이터를 이용하여 상위 계층 영상에서 하위 계층 영상으로 다이나믹 레인지를 매핑하는 방법에 대해 기술하며 이와 유사한 방법으로 복호된 데이터를 이용하여 하위 계층 영상에서 상위 계층 영상으로 다이나믹 레인지를 매핑할 수도 있다.
델타(δ)(800)는 상위 계층 영상에 해당하는 다이나믹 레인지의 각 구간의 크기를 나타내는 값이며 알파(α)(801)는 각 구간에서의 기울기를 나타낸다. 즉, δ와 α를 통해 상위 계층 영상과 하위 계층 영상 간의 매핑 정보를 나타낼 수 있다. 본 발명의 일 실시예에 따르면 δ와 α는 도 3에서와 같이 다양한 레벨에서 복호화할 수 있으며 복호된 데이터를 사용하는 방법은 다음과 같다.
δ가 모든 구간에서 동일한지 여부를 시그날링할 수 있다. 이는 상위 복호화 레벨(예를 들어, 비디오 파라미터 세트, 시퀀스 파라미터 세트 등)에서 시그날링될 수 있다.
상기 시그날링에 따라 δ가 모든 구간에 걸쳐 동일한 경우에는 해당 복호화 레벨에서 한 번만 복호화할 수 있다. 또는 δ가 각 구간에서 상이한 경우에는 식 (1)과 식 (2)와 같이 δ값을 복호화하여 그대로 사용하거나 이전 정보와의 합을 통해 사용할 수 있다. 이를 위해 δ값이 이전 정보에 기초하여 예측 부호화된 것인지 여부를 시그날링할 수도 있다. 여기서, 이전 정보는 현재 구간 직전에 해당하는 이전 구간의 크기를 의미할 수도 있고, 현재 구간 이전에 존재하는 복수의 구간의 크기의 중간값, 평균값, 최빈값, 최소값 또는 최대값 등을 의미할 수도 있다. 식(1)에서
Figure 112015058270057-pat00001
은 복호화한 시점에서 현재 구간의 크기를 나타낸다. 식(2)에서
Figure 112015058270057-pat00002
는 이전 구간의 크기를 나타내며,
Figure 112015058270057-pat00003
Figure 112015058270057-pat00004
Figure 112015058270057-pat00005
의 차분 값으로 이미 영상 부호화기에서 계산된 결과로 영상 복호화기로 전송된다. 영상 복호화기에서는 복호화된
Figure 112015058270057-pat00006
Figure 112015058270057-pat00007
를 합하여 δ값을 구할 수 있다.
Figure 112015058270057-pat00008
Figure 112015058270057-pat00009
α가 모든 구간에서 동일한지 여부를 시그날링할 수 있다. 이는 상위 복호화 레벨(예를 들어, 비디오 파라미터 세트, 시퀀스 파라미터 세트 등)에서 시그날링될 수 있다.
상기 시그날링에 따라 α가 모든 구간에 걸쳐 동일한 경우에는 해당 복호화 레벨에서 한 번만 복호화할 수 있다. 또는 α가 각 구간에서 상이한 경우에는 식 (3)과 식 (4)와 같이 α 값을 복호화하여 그대로 사용하거나 이전 정보와의 합을 통해 사용할 수 있다. 이를 위해 α 값이 이전 정보에 기초하여 예측 부호화된 것인지 여부를 시그날링할 수도 있다. 여기서, 이전 정보는 현재 구간 직전에 해당하는 이전 구간의 기울기를 의미할 수도 있고, 현재 구간 이전에 존재하는 복수의 구간의 기울기의 중간값, 평균값, 최빈값, 최소값 또는 최대값 등을 의미할 수도 있다. 식(3)에서
Figure 112015058270057-pat00010
은 복호화한 시점에서 현재 구간에 해당하는 기울기를 나타낸다. 식(4)에서
Figure 112015058270057-pat00011
는 이전 구간의 기울기를 나타낸다.
Figure 112015058270057-pat00012
Figure 112015058270057-pat00013
Figure 112015058270057-pat00014
의 차분 값이며 이미 영상 부호화기에서 계산된 결과로 영상 복호화기로 전송된다. 영상 복호화기에서는 복호화된
Figure 112015058270057-pat00015
Figure 112015058270057-pat00016
를 합하여 α 값을 구할 수 있다.
Figure 112015058270057-pat00017
Figure 112015058270057-pat00018
이 때, 복호화된 기울기는 식 (5)와 같이 이미 계산된 결과이거나 또는, y축 값끼리의 차분 값일 수 있으며 이 경우 식(6)과 같이 계산을 통해 α 값을 구할 수 있다. 또는, α 값은 영상 복호화기에서 식(5) 또는 식(6)과 같이 유도될 수도 있다. 예를 들어, α 값은 HDR 구간의 크기와 이에 대응하는 SDR 구간의 크기를 고려하여 결정될 수 있다.
Figure 112015058270057-pat00019
Figure 112015058270057-pat00020

Claims (3)

  1. 영상 복호화 장치가 수행하는 영상 복호화 방법에 있어서,
    이웃 블록의 적어도 하나의 픽셀과 현재 블록의 적어도 하나의 픽셀을 이용하여 현재 이미지의 이미지 특성을 분석하는 단계;
    상기 분석된 이미지 특성에 기반하여 매핑 정보를 결정하는 단계; 및
    상기 매핑 정보에 기반하여 상기 현재 이미지를 복호화하는 단계를 포함하고,
    상기 매핑 정보는 복수의 구간 중 적어도 하나에 대하여 결정되고,
    상기 복수의 구간은 상기 현재 이미지의 휘도 범위를 분할하여 획득되며,
    상기 매핑 정보를 결정하는 단계는, 상기 분석된 이미지 특성에 기반하여, 상기 현재 이미지에 대한 하나의 구간에 대응하는 수정 정보를 사용하여 상기 매핑 정보를 수정하는 단계를 포함하고,
    상기 현재 이미지에 대한 하나의 구간은 상기 복수의 구간 중 어느 하나를 나타내고,
    상기 매핑 정보의 수정은 이미지 부호화 장치로부터 수신된 플래그 정보에 기반하여 수행되며,
    상기 수정 정보는 비트스트림의 시퀀스 파라미터 셋에 포함되어 수신되며,
    상기 수정 정보는 수정이 필요한 구간 또는 상기 복수의 구간 각각에 대하여 상기 비트스트림으로부터 수신되며,
    상기 수정 정보는 상기 수정이 필요한 구간의 위치에 관한 정보와 상기 수정을 위한 수정 값을 포함하는 영상 복호화 방법.
  2. 영상 부호화 장치가 수행하는 영상 부호화 방법에 있어서,
    이웃 블록의 적어도 하나의 픽셀과 현재 블록의 적어도 하나의 픽셀을 이용하여 현재 이미지의 이미지 특성을 분석하는 단계;
    상기 분석된 이미지 특성에 기반하여 매핑 정보를 결정하는 단계; 및
    상기 매핑 정보에 기반하여 상기 현재 이미지를 부호화하는 단계를 포함하고,
    상기 매핑 정보는 복수의 구간 중 적어도 하나에 대하여 결정되고,
    상기 복수의 구간은 상기 현재 이미지의 휘도 범위를 분할하여 획득되며,
    상기 매핑 정보를 결정하는 단계는, 상기 분석된 이미지 특성에 기반하여, 상기 현재 이미지에 대한 하나의 구간에 대응하는 수정 정보를 사용하여 상기 매핑 정보를 수정하는 단계를 포함하고,
    상기 현재 이미지에 대한 하나의 구간은 상기 복수의 구간 중 어느 하나를 나타내고,
    상기 매핑 정보의 수정의 기초가 되는 플래그 정보는 부호화되고,
    상기 수정 정보는 비트스트림의 시퀀스 파라미터 셋에 포함되어 부호화되고,
    상기 수정 정보는 수정이 필요한 구간 또는 상기 복수의 구간 각각에 대하여 부호화되며,
    상기 수정 정보는 상기 수정이 필요한 구간의 위치에 관한 정보와 상기 수정을 위한 수정 값을 포함하는 영상 부호화 방법.
  3. 비트스트림을 저장한 컴퓨터 판독 가능한 기록매체에 있어서,
    상기 비트스트림은 매핑 정보의 수정의 기초가 되는 플래그 정보를 포함하고,
    상기 매핑 정보는 현재 이미지의 복호화에 기초가 되고,
    상기 현재 이미지의 이미지 특성은 이웃 블록의 적어도 하나의 픽셀과 현재 블록의 적어도 하나의 픽셀을 이용하여 분석되고,
    상기 분석된 이미지 특성에 기반하여 상기 매핑 정보는 결정되고,
    상기 매핑 정보는 복수의 구간 중 적어도 하나에 대하여 결정되고,
    상기 복수의 구간은 상기 현재 이미지의 휘도 범위를 분할하여 획득되며,
    상기 매핑 정보의 결정은, 상기 분석된 이미지 특성에 기반하여, 상기 현재 이미지에 대한 하나의 구간에 대응하는 수정 정보를 사용하여 상기 매핑 정보를 수정하여 수행되고,
    상기 현재 이미지에 대한 하나의 구간은 상기 복수의 구간 중 어느 하나를 나타내고,
    상기 수정 정보는 상기 비트스트림의 시퀀스 파라미터 셋에 포함되고,
    수정이 필요한 구간 또는 상기 복수의 구간 각각에 대한 수정 정보는 상기 비트스트림에 포함되며,
    상기 수정 정보는 상기 수정이 필요한 구간의 위치에 관한 정보와 상기 수정을 위한 수정 값을 포함하는 컴퓨터 판독 가능한 기록 매체.
KR1020150085474A 2015-06-16 2015-06-16 하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치 KR102403360B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020150085474A KR102403360B1 (ko) 2015-06-16 2015-06-16 하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치
US15/183,492 US10477252B2 (en) 2015-06-16 2016-06-15 Method and apparatus for employing dynamic range mapping information for HDR image decoder considering backward compatibility
US16/584,984 US10917664B2 (en) 2015-06-16 2019-09-27 Method and apparatus for employing dynamic range mapping information for HDR image decoder considering backward compatibility
US17/143,502 US11451837B2 (en) 2015-06-16 2021-01-07 Method and apparatus for employing dynamic range mapping information for HDR image decoder considering backward compatibility
KR1020220063830A KR102454142B1 (ko) 2015-06-16 2022-05-25 하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150085474A KR102403360B1 (ko) 2015-06-16 2015-06-16 하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020220063830A Division KR102454142B1 (ko) 2015-06-16 2022-05-25 하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20160148836A KR20160148836A (ko) 2016-12-27
KR102403360B1 true KR102403360B1 (ko) 2022-05-30

Family

ID=57587193

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020150085474A KR102403360B1 (ko) 2015-06-16 2015-06-16 하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치
KR1020220063830A KR102454142B1 (ko) 2015-06-16 2022-05-25 하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020220063830A KR102454142B1 (ko) 2015-06-16 2022-05-25 하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치

Country Status (2)

Country Link
US (3) US10477252B2 (ko)
KR (2) KR102403360B1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112040240B (zh) * 2020-11-03 2021-08-27 深圳市大疆创新科技有限公司 数据处理方法、设备和存储介质
WO2023113200A1 (ko) * 2021-12-15 2023-06-22 현대자동차주식회사 잔차신호들의 매핑을 이용하는 비디오 코딩을 위한 방법 및 장치

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011517245A (ja) 2008-04-16 2011-05-26 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン ビット深度スケーラビリティ
US20110235720A1 (en) 2008-07-10 2011-09-29 Francesco Banterle Video Data Compression

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101710623B1 (ko) * 2010-04-05 2017-03-09 삼성전자주식회사 컨텐트에 기반한 다이나믹 레인지 변환을 이용하는 비디오 부호화 방법과 그 장치, 및 컨텐트에 기반한 다이나믹 레인지 변환을 이용하는 비디오 복호화 방법과 그 장치
WO2012004709A1 (en) * 2010-07-06 2012-01-12 Koninklijke Philips Electronics N.V. Generation of high dynamic range images from low dynamic range images
EP2445214A1 (en) * 2010-10-19 2012-04-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Video coding using temporally coherent dynamic range mapping
EP2702766B1 (en) * 2011-04-28 2017-06-14 Koninklijke Philips N.V. Apparatuses and methods for hdr image encoding and decoding
CN104185991B (zh) * 2011-11-09 2018-07-06 弗劳恩霍夫应用研究促进协会 不同动态采样值范围的层之间的层间预测
PT2880624T (pt) * 2012-03-26 2019-08-26 Koninklijke Philips Nv Aparelhos e métodos baseados em região de brilho para codificação e descodificação de imagens hdr
US9704226B2 (en) * 2013-03-14 2017-07-11 Drs Network & Imaging Systems, Llc System and method for fast digital signal dynamic range reduction using adaptive histogram compaction and stabilization
US20160286226A1 (en) * 2015-03-24 2016-09-29 Nokia Technologies Oy Apparatus, a method and a computer program for video coding and decoding

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011517245A (ja) 2008-04-16 2011-05-26 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン ビット深度スケーラビリティ
US20110235720A1 (en) 2008-07-10 2011-09-29 Francesco Banterle Video Data Compression

Also Published As

Publication number Publication date
US10917664B2 (en) 2021-02-09
US20210127142A1 (en) 2021-04-29
US20200029100A1 (en) 2020-01-23
KR102454142B1 (ko) 2022-10-13
US10477252B2 (en) 2019-11-12
KR20160148836A (ko) 2016-12-27
KR20220093052A (ko) 2022-07-05
US20160373768A1 (en) 2016-12-22
US11451837B2 (en) 2022-09-20

Similar Documents

Publication Publication Date Title
US11688038B2 (en) Apparatuses and methods for performing artificial intelligence encoding and artificial intelligence decoding on image
KR102525578B1 (ko) 부호화 방법 및 그 장치, 복호화 방법 및 그 장치
KR102454142B1 (ko) 하위 호환성을 고려한 hdr 영상 복호화 장치에서 다이나믹 레인지 매핑 정보를 이용하는 방법 및 장치
US11232598B2 (en) Distinct encoding and decoding of stable information and transient/stochastic information
JP2021511712A (ja) 点群処理
JP5989934B2 (ja) マルチレイヤvdr符号化における知覚量子化ビデオコンテンツのエンコーディング
CN109996072B (zh) 视频图像的处理方法及装置
US10404982B2 (en) Per-sample prediction encoding apparatus and method
CN107945101B (zh) 图像处理方法和装置
CN107005700B (zh) 用于组成中间视频表示的方法
TW202209890A (zh) 用以選擇內預測模式以供填補之設備
CN116567247A (zh) 视频编码方法、实时通信方法、装置、设备及存储介质
CN111108747B (zh) 获得信号的时间样本的目标表示
KR20210134041A (ko) 포인트 클라우드의 중간 포인트들의 프로세싱
KR20170033471A (ko) Hdr과 sdr 출력 영상을 복호화하기 위한 톤매핑 관련 부가 정보의 전송 방법 및 장치
RU2767775C1 (ru) Обработка облака точек
KR102398232B1 (ko) 참조 영상 필터링을 통한 비디오 신호 복호화 방법 및 장치
CN113163212A (zh) 视频解码方法及装置、视频编码方法及装置、介质和设备
WO2020131984A1 (en) Method and apparatus to encode and decode images of points of a sphere
KR20170032605A (ko) 영상 칼라성분 샘플링 위치 정보 전송을 통한 비디오 신호 복호화 방법 및 장치

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant