KR102142181B1 - 비디오 코딩에서의 팔레트 블록 사이즈에 대한 제한 - Google Patents

비디오 코딩에서의 팔레트 블록 사이즈에 대한 제한 Download PDF

Info

Publication number
KR102142181B1
KR102142181B1 KR1020177021966A KR20177021966A KR102142181B1 KR 102142181 B1 KR102142181 B1 KR 102142181B1 KR 1020177021966 A KR1020177021966 A KR 1020177021966A KR 20177021966 A KR20177021966 A KR 20177021966A KR 102142181 B1 KR102142181 B1 KR 102142181B1
Authority
KR
South Korea
Prior art keywords
block
palette
video
coding
video data
Prior art date
Application number
KR1020177021966A
Other languages
English (en)
Other versions
KR20170116026A (ko
Inventor
바딤 세레긴
라잔 랙스맨 조쉬
웨이 푸
마르타 카르체비츠
Original Assignee
퀄컴 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 퀄컴 인코포레이티드 filed Critical 퀄컴 인코포레이티드
Publication of KR20170116026A publication Critical patent/KR20170116026A/ko
Application granted granted Critical
Publication of KR102142181B1 publication Critical patent/KR102142181B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/93—Run-length coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91—Entropy coding, e.g. variable length coding [VLC] or arithmetic coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

일 예에서, 비디오 데이터를 인코딩하는 방법은 사이즈를 가지는 비디오 데이터의 블록을 수신하는 단계를 포함할 수도 있다. 본 방법은 비디오 데이터의 블록의 사이즈를 결정하는 단계를 포함할 수도 있다. 본 방법은 비디오 데이터의 블록의 결정된 사이즈에 기초하여 비디오 데이터의 블록에 대한 팔레트 모드 인코딩을 디스에이블하는 단계를 포함할 수도 있다.

Description

비디오 코딩에서의 팔레트 블록 사이즈에 대한 제한{RESTRICTION ON PALETTE BLOCK SIZE IN VIDEO CODING}
본 출원은 2015년 2월 10일에 출원된 미국 가특허출원 번호 제 62/114,537호의 이익을 주장하며, 이는 본원에 전체적으로 참고로 포함된다.
기술 분야
본 개시물은 콘텐츠를 인코딩하고 디코딩하는 것, 좀더 구체적으로는, 팔레트-기반의 코딩 모드에 따라서 콘텐츠를 인코딩하고 디코딩하는 것에 관한 것이다.
디지털 비디오 능력들은, 디지털 텔레비전들, 디지털 직접 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인 휴대정보 단말기들 (PDA들), 랩탑 또는 데스크탑 컴퓨터들, 태블릿 컴퓨터들, e-북 리더들, 디지털 카메라들, 디지털 리코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 소위 "스마트폰들", 원격 화상회의 디바이스들, 비디오 스트리밍 디바이스들 등을 포함한, 광범위한 디바이스들에 통합될 수 있다. 디지털 비디오 디바이스들은 MPEG-2, MPEG-4, ITU-T H.263, ITU-T H.264/MPEG-4, 파트 10, AVC (Advanced Video Coding), 현재 개발중인 HEVC (High Efficiency Video Coding) 표준, 및 이런 표준들의 확장판들에 의해 정의된 표준들에서 설명되는 비디오 코딩 기법들과 같은, 비디오 압축 기법들을 구현한다. 비디오 디바이스들은 이런 비디오 압축 기법들을 구현함으로써, 디지털 비디오 정보를 좀더 효율적으로 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.
비디오 압축 기법들은 비디오 시퀀스들에 내재하는 리던던시를 감소시키거나 또는 제거하기 위해 공간 (인트라-픽처) 예측 및/또는 시간 (인터-픽처) 예측을 수행한다. 블록-기반 비디오 코딩에 있어, 비디오 슬라이스 (즉, 비디오 프레임 또는 비디오 프레임의 일부) 는 비디오 블록들로 파티셔닝될 수도 있다. 픽처의 인트라-코딩된 (I) 슬라이스에서의 비디오 블록들은 동일한 픽처의 이웃하는 블록들에서의 참조 샘플들에 대한 공간 예측을 이용하여 인코딩된다. 픽처의 인터-코딩된 (P 또는 B) 슬라이스에서의 비디오 블록들은 동일한 픽처의 이웃하는 블록들에서의 참조 샘플들에 대한 공간 예측, 또는 다른 참조 픽처들에서의 참조 샘플들에 대한 시간 예측을 이용할 수도 있다. 픽처들은 프레임들로 지칭될 수 있으며, 참조 픽처들은 참조 프레임들로서 지칭될 수도 있다.
공간 또는 시간 예측은 코딩될 블록에 대한 예측 블록을 초래한다. 잔차 데이터는 코딩될 원래 블록과 예측 블록 사이의 픽셀 차이들을 나타낸다. 인터-코딩된 블록은 예측 블록을 형성하는 참조 샘플들의 블록을 가리키는 모션 벡터에 따라서 인코딩되며, 잔차 데이터는 코딩된 블록과 예측 블록 사이의 차이를 나타낸다. 인트라-코딩된 블록은 인트라-코딩 모드 및 잔차 데이터에 따라서 인코딩된다. 추가적인 압축을 위해, 잔차 데이터는 픽셀 도메인으로부터 변환 도메인으로 변환될 수도 있으며, 그 결과 잔차 계수들이 되고, 그후 양자화될 수도 있다. 처음에 2차원 어레이로 배열된, 양자화된 계수들은 계수들의 1차원 벡터를 발생하기 위해 스캐닝될 수도 있으며, 엔트로피 코딩이 더욱 더 많은 압축을 달성하기 위해 적용될 수도 있다.
이미지와 같은, 콘텐츠는 팔레트 모드를 이용하여 인코딩되고 디코딩될 수도 있다. 일반적으로, 팔레트 모드는 콘텐츠를 표현하기 위해 칼라 값들의 팔레트의 사용을 수반하는 기법이다. 콘텐츠는 콘텐츠가 팔레트에서의 칼라 값들에 대응하는 값들을 포함하는 인덱스 맵에 의해 표현되도록 인코딩될 수도 있다. 인덱스 맵은 칼라 값들을 획득하여 콘텐츠를 복원하기 위해 디코딩될 수도 있다.
본 개시물의 기법들은 팔레트-기반 콘텐츠 코딩에 관한 것이다. 예를 들어, 팔레트-기반의 콘텐츠 코딩에서, 콘텐츠 코더 (예컨대, 비디오 인코더 또는 비디오 디코더와 같은 콘텐츠 코더) 는 특정의 영역의 비디오 데이터 (예컨대, 주어진 블록) 를 나타내는 칼라들의 테이블로서 "팔레트" 를 형성할 수도 있다. 팔레트-기반의 콘텐츠 코딩은 예를 들어, 상대적으로 적은 개수의 칼라들을 가지는 비디오 데이터의 코딩 영역들에 특히 유용할 수도 있다. 실제 픽셀 값들 (또는, 그들의 잔차들) 을 코딩하는 대신, 콘텐츠 코더는 픽셀들을 픽셀들의 칼라들을 나타내는 팔레트에서의 엔트리들과 관련시키는, 픽셀들 중 하나 이상에 대한 팔레트 인덱스들 (예컨대, 인덱스 값들) 을 코딩할 수도 있다. 본 개시물에서 설명하는 기법들은 팔레트-기반의 코딩 모드들을 시그널링하는 것, 팔레트들을 송신하는 것, 팔레트들을 유도하는 것, 비-송신된 신택스 엘리먼트들의 값을 유도하는 것, 팔레트-기반의 코딩 맵들 및 다른 신택스 엘리먼트들을 송신하는 것, 팔레트 엔트리들을 예측하는 것, 팔레트 인덱스들의 런들을 코딩하는 것, 팔레트 정보를 엔트로피 코딩하는 것, 및 여러 다른 팔레트 코딩 기법들 중 하나 이상의 여러 조합들에 대한 기법들을 포함할 수도 있다.
일 예에서, 본 개시물은 사이즈를 가지는 비디오 데이터의 블록을 수신하는 단계; 비디오 데이터의 블록의 사이즈를 결정하는 단계; 및 비디오 데이터의 블록의 결정된 사이즈에 기초하여 비디오 데이터의 블록에 대한 팔레트 모드 인코딩을 디스에이블하는 단계를 포함하는 방법을 기술한다.
일 예에서, 본 개시물은 비디오 데이터를 저장하도록 구성된 메모리; 및 메모리와 통신하는 비디오 인코더를 포함하는 디바이스를 기술하며, 상기 비디오 인코더는, 메모리로부터 사이즈를 가지는 비디오 데이터의 블록을 수신하고; 비디오 데이터의 블록의 사이즈를 결정하고; 그리고 비디오 데이터의 블록의 결정된 사이즈에 기초하여 비디오 데이터의 블록에 대한 팔레트 모드 인코딩을 디스에이블하도록 구성된다.
일 예에서, 본 개시물은 사이즈를 가지는 비디오 데이터의 블록을 수신하는 수단; 비디오 데이터의 블록의 사이즈를 결정하는 수단; 및 비디오 데이터의 블록의 결정된 사이즈에 기초하여 비디오 데이터의 블록에 대한 팔레트 모드 인코딩을 디스에이블하는 수단을 포함하는 장치를 기술한다.
일 예에서, 본 개시물은 명령들을 안에 저장하고 있는 비일시적 컴퓨터-판독가능 저장 매체를 기술하며, 상기 명령들은, 실행될 때, 하나 이상의 프로세서들로 하여금, 사이즈를 가지는 비디오 데이터의 블록을 수신하고; 비디오 데이터의 블록의 사이즈를 결정하고; 그리고 비디오 데이터의 블록의 결정된 사이즈에 기초하여 비디오 데이터의 블록에 대한 팔레트 모드 인코딩을 디스에이블하도록 한다.
본 개시물의 하나 이상의 예들의 세부 사항들은 첨부도면 및 아래의 설명에서 개시된다. 본 개시물의 다른 특징들, 목적들, 및 이점들은 설명 및 도면들로부터, 그리고 청구범위로부터 명백히 알 수 있을 것이다.
도 1 은 본 개시물에서 설명하는 기법들을 활용할 수도 있는 예시적인 비디오 코딩 시스템을 예시하는 블록도이다.
도 2 는 본 개시물에서 설명하는 기법들을 수행할 수도 있는 예시적인 비디오 인코더를 예시하는 블록도이다.
도 3 은 본 개시물에서 설명하는 기법들을 수행할 수도 있는 예시적인 비디오 디코더를 예시하는 블록도이다.
도 4 는 본 개시물의 기법들에 따른, 팔레트-기반의 비디오 코딩을 위한 팔레트 엔트리들을 결정하는 일 예를 예시하는 개념도이다.
도 5 는 본 개시물의 기법들에 따른, 픽셀들의 블록에 대한 팔레트로의 인덱스들을 결정하는 일 예를 예시하는 개념도이다.
도 6 은 본 개시물의 기법들에 따른, 래스터 스캐닝 순서를 가정하여, 최대 상부 복사 런-길이를 결정하는 일 예를 예시하는 개념도이다.
도 7 은 본 개시물의 팔레트-기반 비디오 코딩을 위한 기법들에 따른, 비디오 데이터를 프로세싱하는 예시적인 프로세스를 예시하는 플로우차트이다.
본 개시물의 양태들은 콘텐츠 코딩 (예컨대, 비디오 코딩) 및 콘텐츠 데이터 압축 (예컨대, 비디오 데이터 압축) 을 위한 기법들에 관한 것이다. 특히, 본 개시물은 콘텐츠 데이터 (예컨대, 비디오 데이터) 의 팔레트-기반 코딩을 위한 기법들을 설명한다. 본 개시물의 여러 예들에서, 본 개시물의 기법들은 아래에서 더 자세히 설명하는 바와 같이 코딩 효율을 향상시키기고 및/또는 코덱 복잡성을 감소시키기 위해, 블록을 팔레트 모드에서 예측하거나 또는 코딩하는 프로세스들에 관한 것이다. 예를 들어, 본 개시물은 팔레트 모드에 대한 팔레트 블록 사이즈를 제한하는 것에 관련된 기법들을 기술한다.
본원에서 사용될 때, 용어 "콘텐츠" 의 경우들은 용어 "비디오" 로 변경될 수도 있으며, 용어 "비디오" 의 경우들은 용어 "콘텐츠" 로 변경될 수도 있다. 이것은 용어들 "콘텐츠" 또는 "비디오" 가 화법의 형용사, 명사, 또는 다른 품사로서 사용되고 있는지 여부에 관계없이 적용된다. 예를 들어, "콘텐츠 코더" 에 대한 참조는 또한 "비디오 코더" 에 대한 참조를 포함하며, "비디오 코더" 에 대한 참조는 또한 "콘텐츠 코더" 에 대한 참조를 포함한다. 이와 유사하게, "콘텐츠" 에 대한 참조는 또한 "비디오" 에 대한 참조를 포함하며, "비디오" 에 대한 참조는 또한 "콘텐츠" 에 대한 참조를 포함한다.
본원에서 사용될 때, "콘텐츠" 는 임의 종류의 콘텐츠를 지칭한다. 예를 들어, "콘텐츠" 는 비디오, 스크린 콘텐츠, 이미지, 임의의 그래픽 콘텐츠, 임의의 디스플레이가능한 콘텐츠, 또는 그에 대응하는 임의의 데이터 (예컨대, 비디오 데이터, 스크린 콘텐츠 데이터, 이미지 데이터, 그래픽 콘텐츠 데이터, 디스플레이가능한 콘텐츠 데이터, 및 기타 등등) 을 지칭할 수도 있다.
본원에서 사용될 때, 용어 "비디오" 는 스크린 콘텐츠, 가동 콘텐츠 (movable content), 시퀀스로 제시될 수도 있는 복수의 이미지들, 또는 그에 대응하는 임의의 데이터 (예컨대, 스크린 콘텐츠 데이터, 가동 콘텐츠 데이터, 비디오 데이터, 이미지 데이터, 및 기타 등등) 을 지칭할 수도 있다.
본원에서 사용될 때, 용어 "이미지" 는 단일 이미지, 하나 이상의 이미지들, 비디오에 대응하는 복수의 이미지들 중 하나 이상의 이미지들, 비디오에 대응하지 않는 복수의 이미지들 중 하나 이상의 이미지들, 비디오에 대응하는 복수의 이미지들 (예컨대, 비디오에 대응하는 이미지들의 모두 또는 비디오에 대응하는 이미지들의 모두 미만), 단일 이미지의 서브-부분, 단일 이미지의 복수의 서브-부분들, 복수의 이미지들에 대응하는 복수의 서브-부분들, 하나 이상의 그래픽스 프리머티브들, 이미지 데이터, 그래픽 데이터 등을 지칭할 수도 있다.
전통적인 비디오 코딩에서, 이미지들은 연속적인-톤이고 공간적으로 매끄러운 것으로 가정된다. 이들 가정들에 기초하여, 블록-기반 변환들, 필터링, 및 다른 코딩 툴들과 같은 여러 툴들이 개발되었으며, 이러한 툴들은 자연 콘텐츠 비디오들에 대해 우수한 성능을 보였다. 그러나, 원격 데스크탑, 협력 작업, 및 무선 디스플레이와 같은, 애플리케이션들에서는, 컴퓨터-발생된 스크린 콘텐츠가 압축될 지배적인 콘텐츠일 수도 있다. 이러한 유형의 스크린 콘텐츠는 이산-톤, 날카로운 라인들, 및 높은 콘트라스트 오브젝트 경계들을 가지는 경향이 있다. 연속적인-톤 및 평활도 (smoothness) 의 가정이 더 이상 적용되지 않을 수도 있으며, 따라서, 전통적인 비디오 코딩 기법들은 콘텐츠 (예컨대, 스크린 콘텐츠) 를 압축할 때에 비효율적일 수도 있다.
팔레트-기반 비디오 코딩의 일 예에서, 비디오 인코더는 블록에 대한 팔레트를 결정하고 (예컨대, 팔레트를 명시적으로 코딩하거나, 팔레트를 예측하거나, 또는 이들의 조합을 행하고), 하나 이상의 픽셀들의 값들을 표시하기 위해 팔레트에서의 엔트리를 로케이트하고, 그리고 그 블록의 픽셀 값들을 나타내는데 사용되는 팔레트에서의 엔트리를 표시하는 인덱스 값들로 그 팔레트 및 블록 양쪽을 인코딩함으로써, 비디오 데이터의 블록을 인코딩할 수도 있다. 일부 예들에서, 비디오 인코더는 팔레트 및/또는 인덱스 값들을 인코딩된 비트스트림으로 시그널링할 수도 있다. 결국, 비디오 디코더는 인코딩된 비트스트림으로부터, 블록에 대한 팔레트 뿐만 아니라, 블록의 개개의 픽셀들에 대한 인덱스 값들을 획득할 수도 있다. 비디오 디코더는 픽셀들의 인덱스 값들을 팔레트의 엔트리들에 관련시켜, 블록의 여러 픽셀 값들을 복원할 수도 있다.
예를 들어, 비디오 데이터의 특정의 영역은 상대적으로 적은 개수의 칼라들을 갖는 것으로 가정될 수도 있다. 비디오 코더 (예컨대, 비디오 인코더 또는 비디오 디코더) 는 특정의 영역의 비디오 데이터를 표현하기 위해 소위 "팔레트" 를 코딩할 (예컨대, 인코딩하거나 또는 디코딩할) 수도 있다. 팔레트는 특정의 영역 (예컨대, 주어진 블록) 의 비디오 데이터를 표시하는, 칼라들 또는 픽셀 값들의 인덱스 (예컨대, 테이블) 로서 표현될 수도 있다. 비디오 코더는 하나 이상의 픽셀 값들을 팔레트에서의 적합한 값에 관련시키는 인덱스를 코딩할 수도 있다. 각각의 픽셀은 픽셀의 칼라를 나타내는 팔레트에서의 엔트리와 연관될 수도 있다. 예를 들어, 팔레트는 주어진 블록에서 가장 지배적인 픽셀 값들을 포함할 수도 있다. 일부의 경우, 가장 지배적인 픽셀 값들은 블록 내에서 가장 빈번하게 발생하는 하나 이상의 픽셀 값들을 포함할 수도 있다. 게다가, 일부의 경우, 비디오 코더는 픽셀 값이 블록에서 가장 지배적인 픽셀 값들 중 하나로서 포함되어야 하는지 여부를 결정하기 위해 임계값을 적용할 수도 있다. 팔레트-기반의 코딩의 여러 양태들에 따르면, 비디오 코더는 비디오 데이터의 현재의 블록에 대한 실제 픽셀 값들 또는 그들의 잔차들을 코딩하는 대신, 현재의 블록의 픽셀들 값들 중 하나 이상을 나타내는 인덱스 값들을 코딩할 수도 있다. 팔레트-기반의 코딩의 상황에서, 인덱스 값들은 현재의 블록의 개개의 픽셀 값들을 표시하는데 사용되는 팔레트에서의 개별 엔트리들을 나타낸다. 상기 설명은 팔레트-기반의 비디오 코딩의 일반적인 설명을 제공하기 위한 것이다.
스크린-발생된 콘텐츠 코딩 또는 하나 이상의 전통적인 코딩 툴들이 비효율적인 다른 콘텐츠에 특히 적합할 수도 있는 팔레트-기반의 코딩. 비디오 데이터의 팔레트-기반의 코딩을 위한 기법들은 인터- 또는 인트라-예측 코딩을 위한 기법들과 같은, 하나 이상의 다른 코딩 기법들과 함께 사용될 수도 있다. 예를 들어, 아래에서 더 자세히 설명하는 바와 같이, 인코더 또는 디코더, 또는 결합된 인코더-디코더 (코덱) 는, 인터- 및 인트라-예측 코딩 뿐만 아니라, 팔레트-기반의 코딩을 수행하도록 구성될 수도 있다.
일부 예들에서, 팔레트-기반의 코딩 기법들은 하나 이상의 비디오 코딩 표준들과 함께 사용하도록 구성될 수도 있다. 예를 들어, 고-효율 비디오 코딩 (HEVC) 은 ITU-T 비디오 코딩 전문가 그룹 (VCEG) 과 ISO/IEC 동화상 전문가 그룹 (MPEG) 의 비디오 코딩에 관한 합동 작업팀 (JCT-VC) 에 의해 개발되고 있는 새로운 비디오 코딩 표준이다. 완결된 HEVC 표준 문서는 2013년 4월, 국제 전기통신 연합 (ITU) 의 전기통신 표준화 부문, "ITU-T H.265, SERIES H: AUDIOVISUAL AND MULTIMEDIA SYSTEMS Infrastructure of audiovisual services - Coding of moving video - High efficiency video coding" 으로서 공개되어 있다.
스크린 발생된 콘텐츠의 좀더 효율적인 코딩을 제공하기 위해서, JCT-VC 는 HEVC 스크린 콘텐츠 코딩 (SCC) 표준으로 지칭되는, HEVC 표준의 확장판을 개발중이다. "HEVC SCC 초안 2" 또는 "WD2" 로서 지칭되는, HEVC SCC 표준의 최신 작업 초안은 ITU-T SG 16 WP 3 과 ISO/IEC JTC 1/SC 29/WG 11 의 JCT-VC (Joint Collaborative Team on Video Coding), 19차 회의: 2014년 10월 17-24일, 프랑스, 스트라스부르크, 문서 JCTVC-S1005, R. Joshi 및 J. Xu, "HEVC screen content coding draft text 2" 에 설명되어 있다.
HEVC 프레임워크에 대해, 일 예로서, 팔레트-기반의 코딩 기법들은 코딩 유닛 (CU) 모드로서 사용되도록 구성될 수도 있다. 다른 예들에서, 팔레트-기반의 코딩 기법들은 HEVC 의 프레임워크에서 예측 유닛 (PU) 모드로서 사용되도록 구성될 수도 있다. 따라서, CU 모드의 상황에서 설명되는 아래에 개시되는 프로세스들 모두가 추가적으로 또는 대안적으로, PU 에 적용될 수도 있다. 그러나, 이들 HEVC-기반의 예들은, 이러한 기법들이 독립적으로 또는 다른 기존 또는 앞으로 개발될 시스템들/표준들의 일부분으로서 동작하도록 적용될 수도 있기 때문에, 본원에서 설명하는 팔레트-기반의 코딩 기법들의 제한 또는 한정으로서, 간주되지 않아야 한다. 이들 경우들에서, 팔레트 코딩을 위한 유닛은 정사각형 블록들, 직사각형의 블록들 또는 심지어 비-직사각형 형태의 영역들일 수 있다.
일부 예들에서, 팔레트는 하나 이상의 CU들, PU들, 또는 데이터의 임의의 영역 (예컨대, 데이터의 임의의 블록) 에 대해 유도될 수도 있다. 예를 들어, 팔레트는 현재의 CU 에서 가장 지배적인 픽셀 값들을 포함할 수도 있으며 (그리고 이루어질 수도 있으며), 여기서, CU 는 이러한 특정의 예에 있어서의 데이터의 영역이다. 팔레트의 사이즈 및 엘리먼트들이 먼저, 비디오 인코더로부터 비디오 디코더로 송신된다. 코딩 중인 현재의 CU 에 대한, 팔레트의 사이즈 및/또는 엘리먼트들은 현재의 CU 에 이웃하는 CU들, 즉, 이웃하는 CU들에서의 팔레트의 사이즈 및/또는 엘리먼트들을 이용하여 예측 코딩될 수 있다 (예컨대, 이웃하는 CU들은 현재의 CU 의 상부에 있거나 및/또는 현재의 CU 의 좌측에 있는 CU 을 포함할 수도 있다). 그후, CU 에서의 픽셀 값들이 어떤 스캐닝 순서에 따라서 팔레트에 기초하여 인코딩된다. CU 에서의 각각의 픽셀 로케이션에 대해, 플래그, 예컨대, palette_flag 가, 먼저, 픽셀 값이 팔레트에 포함되는지 여부를 표시하기 위해 송신된다. 팔레트에서의 엔트리에 맵핑하는 그들 픽셀 값들에 대해, 그 엔트리와 연관된 팔레트 인덱스가 CU 에서의 주어진 픽셀 로케이션에 대해 시그널링된다. 팔레트에 존재하지 않는 그들 픽셀 값들에 대해, 특수 인덱스가 픽셀에 할당될 수도 있으며 실제 픽셀 값이 CU 에서의 주어진 픽셀 로케이션에 대해 송신된다. 이들 픽셀들은 "이스케이프 픽셀들" 로서 지칭된다. 이스케이프 픽셀은 고정 길이 코딩, 1진 코딩, 등과 같은 임의의 기존 엔트로피 코딩 방법을 이용하여 코딩된다.
비디오 데이터의 블록에서의 샘플들은 수평 래스터 스캐닝 순서 또는 다른 스캐닝 순서를 이용하여 프로세싱될 (예컨대, 스캐닝될) 수도 있다. 예를 들어, 비디오 인코더는 수평 래스터 스캐닝 순서를 이용하여 팔레트 인덱스들을 스캐닝함으로써 팔레트 인덱스들의 2차원 블록을 1차원 어레이로 변환할 수도 있다. 이와 유사하게, 비디오 디코더는 수평 래스터 스캐닝 순서를 이용하여 팔레트 인덱스들의 블록을 복원할 수도 있다. 따라서, 본 개시물은 이전 샘플을, 스캐닝 순서에서 현재 코딩중인 샘플에 선행하는 샘플로서 지칭한다. 수직 래스터 스캐닝 순서와 같은, 수평 래스터 스캔 이외의 다른 스캐닝들이 또한 적용가능할 수도 있는 것으로 이해되어야 한다. 상기 예 뿐만 아니라, 본 개시물에서 개시되는 다른 예들은, 팔레트-기반의 비디오 코딩의 일반적인 설명을 제공하기 위한 것이다.
도 1 은 본 개시물의 기법들을 이용할 수도 있는 예시적인 비디오 코딩 시스템 (10) 을 예시하는 블록도이다. 본원에서 사용될 때, 용어 "비디오 코더" 는 비디오 인코더들 및 비디오 디코더들 양쪽을 포괄적으로 지칭한다. 본 개시물에서, 용어들 "비디오 코딩" 또는 "코딩" 은 비디오 인코딩 또는 비디오 디코딩을 포괄적으로 지칭할 수도 있다. 비디오 코딩 시스템 (10) 의 비디오 인코더 (20) 및 비디오 디코더 (30) 는 본 개시물에서 설명된 여러 예들에 따른, 팔레트-기반의 비디오 코딩을 위한 기법들을 수행하도록 구성될 수도 있는 디바이스들의 예들을 나타낸다. 예를 들어, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 팔레트-기반의 코딩 또는 비-팔레트 기반의 코딩을 이용하여, HEVC 코딩에서의 CU들 또는 PU들과 같은, 비디오 데이터의 여러 블록들을 선택적으로 코딩하도록 구성될 수도 있다. 비-팔레트 기반의 코딩 모드들은 HEVC 표준에 의해 규정된 여러 코딩 모드들과 같은, 여러 인터-예측 시간 코딩 모드들 또는 인트라-예측 공간 코딩 모드들을 지칭할 수도 있다.
도 1 에 나타낸 바와 같이, 비디오 코딩 시스템 (10) 은 소스 디바이스 (12) 및 목적지 디바이스 (14) 를 포함한다. 소스 디바이스 (12) 는 인코딩된 비디오 데이터를 발생한다. 따라서, 소스 디바이스 (12) 는 비디오 인코딩 디바이스 또는 비디오 인코딩 장치로서 지칭될 수도 있다. 목적지 디바이스 (14) 는 소스 디바이스 (12) 에 의해 발생된 인코딩된 비디오 데이터를 디코딩할 수도 있다. 따라서, 목적지 디바이스 (14) 는 비디오 디코딩 디바이스 또는 비디오 디코딩 장치로서 지칭될 수도 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 비디오 코딩 디바이스들 또는 비디오 코딩 장치들의 예들일 수도 있다.
소스 디바이스 (12) 및 목적지 디바이스 (14) 는 데스크탑 컴퓨터들, 모바일 컴퓨팅 디바이스들, 노트북 (예컨대, 랩탑) 컴퓨터들, 태블릿 컴퓨터들, 셋-탑 박스들, 소위 "스마트" 폰들과 같은 전화기 핸드셋들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 자동차용 컴퓨터들, 또는 기타 등등을 포함한, 광범위한 디바이스들을 포함할 수도 있다.
목적지 디바이스 (14) 는 소스 디바이스 (12) 로부터 채널 (16) 을 통해서 인코딩된 비디오 데이터를 수신할 수도 있다. 채널 (16) 은 인코딩된 비디오 데이터를 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 이동시키는 것이 가능한 하나 이상의 매체들 또는 디바이스들을 포함할 수도 있다. 일 예에서, 채널 (16) 은 소스 디바이스 (12) 로 하여금, 인코딩된 비디오 데이터를 직접 목적지 디바이스 (14) 로 실시간으로 송신가능하게 하는 하나 이상의 통신 매체들을 포함할 수도 있다. 이 예에서, 소스 디바이스 (12) 는 무선 통신 프로토콜과 같은 통신 표준에 따라서, 인코딩된 비디오 데이터를 변조할 수도 있으며, 변조된 비디오 데이터를 목적지 디바이스 (14) 로 송신할 수도 있다. 하나 이상의 통신 매체들은 무선 및/또는 유선 통신 매체들, 예컨대 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적인 송신 라인들을 포함할 수도 있다. 하나 이상의 통신 매체들은 근거리 네트워크, 광역 네트워크, 또는 글로벌 네트워크 (예컨대, 인터넷) 와 같은, 패킷-기반 네트워크의 일부를 형성할 수도 있다. 하나 이상의 통신 매체들은 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로의 통신을 용이하게 하는 다른 장비를 포함할 수도 있다.
또 다른 예에서, 채널 (16) 은 소스 디바이스 (12) 에 의해 발생되는 인코딩된 비디오 데이터를 저장하는 저장 매체를 포함할 수도 있다. 이 예에서, 목적지 디바이스 (14) 는 예를 들어, 디스크 액세스 또는 카드 액세스를 통해서 저장 매체에 액세스할 수도 있다. 저장 매체는 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 다른 적합한 디지털 저장 매체들과 같은 다양한 로컬-액세스되는 데이터 저장 매체들을 포함할 수도 있다.
추가 예에서, 채널 (16) 은 소스 디바이스 (12) 에 의해 발생된 인코딩된 비디오 데이터를 저장하는 파일 서버 또는 다른 중간 저장 디바이스를 포함할 수도 있다. 이 예에서, 목적지 디바이스 (14) 는 스트리밍 또는 다운로드를 통해서 파일 서버 또는 다른 중간 저장 디바이스에 저장된 인코딩된 비디오 데이터에 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 송신가능한 서버의 형태일 수도 있다. 예시적인 파일 서버들은 (예컨대, 웹사이트용) 웹 서버들, 파일 전송 프로토콜 (FTP) 서버들, NAS (network attached storage) 디바이스들, 및 로컬 디스크 드라이브들을 포함한다.
목적지 디바이스 (14) 는 인코딩된 비디오 데이터에 인터넷 접속과 같은 표준 데이터 접속을 통해서 액세스할 수도 있다. 데이터 접속들의 예시적인 유형들은 무선 채널들 (예컨대, Wi-Fi 접속들), 유선 접속들 (예컨대, DSL, 케이블 모뎀, 등), 또는 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하는데 적합한 양쪽의 조합들을 포함할 수도 있다. 파일 서버로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 이 양쪽의 조합일 수도 있다.
소스 디바이스 (12) 및 목적지 디바이스 (14) 는 본 개시물에 따른, 팔레트-기반의 코딩을 수행하도록 구성될 수도 있다. 그러나, 팔레트-기반의 코딩에 대한 본 개시물의 기법들은 무선 애플리케이션들 또는 환경들에 한정되지는 않는다. 이 기법들은 다양한 멀티미디어 애플리케이션들, 예컨대, 오버-디-에어 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 예컨대, 인터넷을 통한 위성 텔레비전 송신들, 데이터 저장 매체 상의 저장을 위한 비디오 데이터의 인코딩, 데이터 저장 매체 상에 저장된 비디오 데이터의 디코딩, 또는 다른 애플리케이션들의 지원 하에, 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 비디오 코딩 시스템 (10) 은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 비디오 전화 통신과 같은, 애플리케이션들을 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.
도 1 에 예시된 비디오 코딩 시스템 (10) 은 단지 일 예이며, 본 개시물의 기법들은 인코딩 디바이스와 디코딩 디바이스 사이의 임의의 데이터 통신을 반드시 포함하지는 않는 비디오 코딩 환경들 (예컨대, 비디오 인코딩 또는 비디오 디코딩) 에 적용할 수도 있다. 다른 예들에서, 데이터는 로컬 메모리로부터 취출되어, 네트워크 등을 통해서 스트리밍된다. 비디오 인코딩 디바이스는 데이터를 인코딩하여 메모리에 저장할 수도 있거나, 및/또는 비디오 디코딩 디바이스는 메모리로부터 데이터를 취출하여 디코딩할 수도 있다. 많은 예들에서, 인코딩 및 디코딩은 서로 통신하지 않지만 간단히 데이터를 메모리로 인코딩하거나 및/또는 메모리로부터 데이터를 취출하여 디코딩하는 디바이스들에 의해 수행된다.
도 1 의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20), 및 출력 인터페이스 (22) 를 포함한다. 일부 예들에서, 출력 인터페이스 (22) 는 변조기/복조기 (모뎀) 및/또는 송신기를 포함할 수도 있다. 비디오 소스 (18) 는 비디오 캡쳐 디바이스, 예컨대, 비디오 카메라, 이전에-캡쳐된 비디오 데이터를 포함하는 비디오 아카이브, 비디오 콘텐츠 제공자로부터 비디오 데이터를 수신하는 비디오 공급 인터페이스, 및/또는 비디오 데이터를 생성하기 위한 컴퓨터 그래픽스 시스템, 또는 이런 비디오 데이터의 소스들의 조합을 포함할 수도 있다.
비디오 인코더 (20) 는 비디오 소스 (18) 로부터의 비디오 데이터를 인코딩할 수도 있다. 일부 예들에서, 소스 디바이스 (12) 는 인코딩된 비디오 데이터를 출력 인터페이스 (22) 를 통해서 목적지 디바이스 (14) 로 직접 송신한다. 다른 예들에서, 인코딩된 비디오 데이터는 또한 디코딩 및/또는 플레이백을 위해 목적지 디바이스 (14) 에 의한 추후 액세스를 위해 저장 매체 또는 파일 서버 상으로 저장될 수도 있다.
도 1 의 예에서, 목적지 디바이스 (14) 는 입력 인터페이스 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 포함한다. 일부 예들에서, 입력 인터페이스 (28) 는 수신기 및/또는 모뎀을 포함한다. 입력 인터페이스 (28) 는 인코딩된 비디오 데이터를 채널 (16) 을 통해서 수신할 수도 있다. 디스플레이 디바이스 (32) 는 목적지 디바이스 (14) 와 통합되거나 또는 그 외부에 있을 수도 있다. 일반적으로, 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 디스플레이한다. 디스플레이 디바이스 (32) 는 다양한 디스플레이 디바이스들, 예컨대 액정 디스플레이 (LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (OLED) 디스플레이, 또는 또 다른 유형의 디스플레이 디바이스를 포함할 수도 있다.
본 개시물은 일반적으로 어떤 정보를 비디오 디코더 (30) 와 같은 또 다른 디바이스로 "시그널링하는" 또는 "송신하는" 비디오 인코더 (20) 를 참조할 수도 있다. 용어 "시그널링하는" 또는 "송신하는" 은 일반적으로, 압축된 비디오 데이터를 디코딩하는데 사용되는 신택스 엘리먼트들 및/또는 다른 데이터의 통신을 지칭할 수도 있다. 이런 통신은 실시간 또는 거의-실시간으로 일어날 수도 있다. 대안적으로, 이런 통신은 어떤 기간에 걸쳐서 일어날 수도 있으며, 예컨대 인코딩 시에 신택스 엘리먼트들을 컴퓨터-판독가능 저장 매체에 인코딩된 비트스트림으로 저장할 때에 발생할지도 모르며, 이 신택스 엘리먼트들은 그후 이 매체에 저장되어진 후 언제라도 디코딩 디바이스에 의해 취출될 수도 있다. 따라서, 비디오 디코더 (30) 는 어떤 정보를 "수신하는" 것으로서 지칭될 수도 있지만, 정보의 수신은 반드시 실시간 거의-실시간으로 일어날 필요는 없으며 저장 이후 언젠가 매체로부터 취출될 수도 있다.
비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSP들), 주문형 집적 회로들 (ASIC들), 필드-프로그래밍가능 게이트 어레이들 (FPGA들), 이산 로직, 하드웨어, 또는 임의의 이들의 조합들과 같은, 다양한 적합한 회로 중 임의의 회로로서 구현될 수도 있다. 기법들이 소프트웨어로 부분적으로 구현되면, 디바이스는 소프트웨어용 명령들을 적합한 비일시적 컴퓨터-판독가능 저장 매체에 저장할 수도 있으며, 본 개시물의 기법들을 수행하기 위해 그 명령들을 하드웨어에서 하나 이상의 프로세서들을 이용하여 실행할 수도 있다. (하드웨어, 소프트웨어, 하드웨어와 소프트웨어의 조합 등을 포함한) 전술한 것 중 임의의 것이 하나 이상의 프로세서들로 간주될 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 인코더들 또는 디코더들에 포함될 수도 있으며, 이들 중 어느 쪽이든 개별 디바이스에서 결합된 인코더/디코더 (CODEC) 의 일부분으로서 통합될 수도 있다.
일부 예들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 위에서 언급된 HEVC 표준과 같은, 그리고, HEVC 표준에서 설명된, 비디오 압축 표준에 따라서 동작한다. 기본 HEVC 표준에 더해서, HEVC 에 대한 스케일러블 비디오 코딩, 멀티뷰 비디오 코딩, 및 3D 코딩 확장판들을 만들어 내려는 노력들이 진행중이다. 게다가, 예컨대, 본 개시물에서 설명하는 바와 같은, 팔레트-기반의 코딩 모드들이 HEVC 표준의 확장판에 제공될 수도 있다. 일부 예들에서, 팔레트-기반의 코딩에 대해 본 개시물에서 설명되는 기법들은 다른 비디오 코딩 표준들에 따라서 동작하도록 구성된 인코더들 및 디코더들에 적용될 수도 있다. 따라서, HEVC 코덱에서의 코딩 유닛들 (CU들) 또는 예측 유닛들 (PU들) 의 코딩을 위한 팔레트-기반의 코딩 모드의 적용은 예의 목적을 위해 설명된다.
HEVC 및 다른 비디오 코딩 표준들에서, 비디오 시퀀스는 일반적으로 일련의 픽처들을 포함한다. 픽처들은 또한 "프레임들" 로서 지칭될 수도 있다. 픽처는 SL, SCb 및 SCr 로 표기되는, 3개의 샘플 어레이들을 포함할 수도 있다. SL 은 루마 샘플들의 2차원 어레이 (즉, 블록) 이다. SCb 는 Cb 색차 샘플들의 2차원 어레이이다. SCr 은 Cr 색차 샘플들의 2차원 어레이이다. 색차 샘플들은 또한 본원에서 "크로마" 샘플들로서 지칭될 수도 있다. 다른 경우, 픽처는 단색일 수도 있으며 단지 루마 샘플들의 어레이를 포함할 수도 있다.
픽처의 인코딩된 표현을 발생시키기 위해, 비디오 인코더 (20) 는 코딩 트리 유닛들 (CTU들) 의 세트를 발생시킬 수도 있다. CTU들의 각각은 루마 샘플들의 코딩 트리 블록, 크로마 샘플들의 2개의 대응하는 코딩 트리 블록들, 및 코딩 트리 블록들의 샘플들을 코딩하는데 사용되는 신택스 구조들일 수도 있다. 코딩 트리 블록은 샘플들의 NxN 블록일 수도 있다. CTU 는 또한 "트리 블록" 또는 "최대 코딩 유닛" (LCU) 으로서 지칭될 수도 있다. HEVC 의 CTU들은 H.264/AVC 와 같은, 다른 표준들의 매크로블록들과 대략 유사할 수도 있다. 그러나, CTU 는 특정의 사이즈에 반드시 제한되지 않으며, 하나 이상의 코딩 유닛들 (CU들) 을 포함할 수도 있다. 슬라이스는 래스터 스캔으로 연속적으로 순서화된 CTU들의 정수를 포함할 수도 있다. 코딩된 슬라이스는 슬라이스 헤더 및 슬라이스 데이터를 포함할 수도 있다. 슬라이스의 슬라이스 헤더는 슬라이스에 관한 정보를 제공하는 신택스 엘리먼트들을 포함하는 신택스 구조일 수도 있다. 슬라이스 데이터는 슬라이스의 코딩된 CTU들을 포함할 수도 있다
본 개시물은 하나 이상의 샘플 블록들 및 하나 이상의 샘플들의 블록들의 샘플들을 코딩하는데 사용되는 신택스 구조들을 지칭하기 위해, 용어 "비디오 유닛" 또는 "비디오 블록" 또는 "블록" 을 이용할 수도 있다. 비디오 유닛들 또는 블록들의 예시적인 유형들은 CTU들, CU들, PU들, 변환 유닛들 (TU들), 매크로블록들, 매크로블록 파티션들 등을 포함할 수도 있다. HEVC 의 예에서, 코딩된 CTU 를 발생시키기 위해, 비디오 인코더 (20) 는 코딩 트리 블록들을 코딩 블록들, 따라서 이름 "코딩 트리 유닛들" 로 분할하기 위해 CTU 의 코딩 트리 블록들에 관해 쿼드-트리 파티셔닝을 회귀적으로 수행할 수도 있다. 코딩 블록은 샘플들의 NxN 블록이다. CU 는 루마 샘플 어레이, Cb 샘플 어레이 및 Cr 샘플 어레이를 갖는 픽처의 루마 샘플들의 코딩 블록 및 크로마 샘플들의 2개의 대응하는 코딩 블록들, 및 코딩 블록들의 샘플들을 코딩하는데 사용되는 신택스 구조들일 수도 있다. 비디오 인코더 (20) 는 CU 의 코딩 블록을 하나 이상의 예측 블록들로 파티셔닝할 수도 있다. 예측 블록은 동일한 예측이 적용되는 샘플들의 직사각형 (즉, 정사각형 또는 비-정사각형) 블록일 수도 있다. CU 의 예측 유닛 (PU) 은 루마 샘플들의 예측 블록, 픽처의 크로마 샘플들의 2개의 대응하는 예측 블록들, 및 예측 블록 샘플들을 예측하는데 사용되는 신택스 구조들일 수도 있다. 비디오 인코더 (20) 는 CU 의 각각의 PU 의 루마, Cb 및 Cr 예측 블록들에 대한 예측 루마, Cb 및 Cr 블록들을 발생시킬 수도 있다.
비디오 인코더 (20) 는 PU 에 대한 예측 블록들을 발생시키기 위해 인트라 예측 또는 인터 예측을 이용할 수도 있다. 비디오 인코더 (20) 가 PU 의 예측 블록들을 발생시키기 위해 인트라 예측을 이용하면, 비디오 인코더 (20) 는 PU 와 연관되는 픽처의 디코딩된 샘플들에 기초하여 PU 의 예측 블록들을 발생시킬 수도 있다.
비디오 인코더 (20) 가 PU 의 예측 블록들을 발생하기 위해 인터 예측을 이용하면, 비디오 인코더 (20) 는 PU 와 연관되는 픽처 이외의 하나 이상의 픽처들의 디코딩된 샘플들에 기초하여, PU 의 예측 블록들을 발생시킬 수도 있다. 비디오 인코더 (20) 는 PU 의 예측 블록들을 발생시키기 위해 단방향-예측 또는 양방향-예측을 이용할 수도 있다. 비디오 인코더 (20) 가 PU 에 대한 예측 블록들을 발생시키기 위해 단방향-예측을 이용할 때, PU 는 단일 모션 벡터 (MV) 를 가질 수도 있다. 비디오 인코더 (20) 가 PU 에 대한 예측 블록들을 발생시키기 위해 양방향-예측을 이용할 때, PU 는 2개의 MV들을 가질 수도 있다.
비디오 인코더 (20) 가 CU 의 하나 이상의 PU들에 대한 예측 블록들 (예컨대, 예측 루마, Cb 및 Cr 블록들) 을 발생시킨 후, 비디오 인코더 (20) 는 CU 에 대한 잔차 블록들을 발생시킬 수도 있다. CU 의 잔차 블록에서의 각각의 샘플은 CU 의 PU 의 예측 블록에서의 샘플과 CU 의 코딩 블록에서의 대응하는 샘플 사이의 차이를 나타낼 수도 있다. 예를 들어, 비디오 인코더 (20) 는 CU 에 대한 루마 잔차 블록을 발생시킬 수도 있다. CU 의 루마 잔차 블록에서의 각각의 샘플은 CU 의 예측 루마 블록들 중 하나에서의 루마 샘플과 CU 의 원래 루마 코딩 블록에서의 대응하는 샘플 사이의 차이를 나타낸다. 게다가, 비디오 인코더 (20) 는 CU 에 대한 Cb 잔차 블록을 발생시킬 수도 있다. CU 의 Cb 잔차 블록에서의 각각의 샘플은 CU 의 예측 Cb 블록들 중 하나에서의 Cb 샘플과 CU 의 원래 Cb 코딩 블록에서의 대응하는 샘플 사이의 차이를 나타낼 수도 있다. 비디오 인코더 (20) 는 또한 CU 에 대한 Cr 잔차 블록을 발생시킬 수도 있다. CU 의 Cr 잔차 블록에서의 각각의 샘플은 CU 의 예측 Cr 블록들 중 하나에서의 Cr 샘플과 CU 의 원래 Cr 코딩 블록에서의 대응하는 샘플 사이의 차이를 나타낼 수도 있다.
게다가, 비디오 인코더 (20) 는 쿼드-트리 파티셔닝을 이용하여, 잔차 블록들 (예컨대, 루마, Cb, 및 Cr 잔차 블록들) 을 하나 이상의 변환 블록들 (예컨대, 루마, Cb, 및 Cr 변환 블록들) 로 분해할 수도 있다. 변환 블록은 동일한 변환이 적용되는 샘플들의 직사각형의 블록일 수도 있다. CU 의 변환 유닛 (TU) 은 루마 샘플들의 변환 블록, 크로마 샘플들의 2개의 대응하는 변환 블록들, 및 변환 블록 샘플들을 변환하는데 사용되는 신택스 구조들일 수도 있다. 따라서, CU 의 각각의 TU 는 루마 변환 블록, Cb 변환 블록, 및 Cr 변환 블록과 연관될 수도 있다. TU 와 연관되는 루마 변환 블록은 CU 의 루마 잔차 블록의 서브-블록일 수도 있다. Cb 변환 블록은 CU 의 Cb 잔차 블록의 서브-블록일 수도 있다. Cr 변환 블록은 CU 의 Cr 잔차 블록의 서브-블록일 수도 있다.
비디오 인코더 (20) 는 하나 이상의 변환들을 변환 블록에 적용하여, TU 에 대한 계수 블록을 발생시킬 수도 있다. 계수 블록은 변환 계수들의 2차원 어레이일 수도 있다. 변환 계수는 스칼라 양일 수도 있다. 예를 들어, 비디오 인코더 (20) 는 하나 이상의 변환들을 TU 의 루마 변환 블록에 적용하여, TU 에 대한 루마 계수 블록을 발생시킬 수도 있다. 비디오 인코더 (20) 는 하나 이상의 변환들을 TU 의 Cb 변환 블록에 적용하여, TU 에 대한 Cb 계수 블록을 발생시킬 수도 있다. 비디오 인코더 (20) 는 하나 이상의 변환들을 TU 의 Cr 변환 블록에 적용하여, TU 에 대한 Cr 계수 블록을 발생시킬 수도 있다.
계수 블록 (예컨대, 루마 계수 블록, Cb 계수 블록, 또는 Cr 계수 블록) 을 발생시킨 후, 비디오 인코더 (20) 는 계수 블록을 양자화할 수도 있다. 양자화는 일반적으로 변환 계수들이 변환 계수들을 나타내는데 사용되는 데이터의 양을 가능한 한 감소시키도록 양자화되어 추가적인 압축을 제공하는 프로세스를 지칭한다. 비디오 인코더 (20) 가 계수 블록을 양자화한 후, 비디오 인코더 (20) 는 양자화된 변환 계수들을 나타내는 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 양자화된 변환 계수들을 나타내는 신택스 엘리먼트들에 관해 컨텍스트-적응 2진 산술 코딩 (CABAC) 을 수행할 수도 있다.
CABAC 에 대해, 일 예로서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 비디오 데이터의 블록과 연관되는 심볼들을 코딩하기 위해 콘텐츠에 기초하여 확률 모델 (또한, 컨텍스트 모델로서 지칭됨) 을 선택할 수도 있다. 예를 들어, 컨텍스트 모델 (Ctx) 은 복수의 상이한 컨텍스트들 중 하나를 선택하는데 적용되는 인덱스 또는 오프셋일 수도 있으며, 복수의 상이한 컨텍스트들 각각은 특정의 확률 모델에 대응할 수도 있다. 따라서, 어쨌든, 각각의 컨텍스트에 대해 상이한 확률 모델이 일반적으로 정의된다. 그 빈을 인코딩 또는 디코딩한 후, 확률 모델은 그 빈에 대한 가장 최근의 확률 추정치들을 반영하기 위해 빈의 값에 기초하여 추가로 업데이트된다. 예를 들어, 확률 모델은 유한 상태 머신에서의 상태로서 유지될 수도 있다. 각각의 특정의 상태는 특정의 확률 값에 대응할 수도 있다. 확률 모델의 업데이트에 대응하는 다음 상태는 현재의 빈 (예컨대, 현재 코딩되는 빈) 의 값에 의존할 수도 있다. 따라서, 확률 모델의 선택은 그 값들이, 적어도 부분적으로, 빈이 주어진 값을 가질 확률을 나타내기 때문에, 이전에 코딩된 빈들의 값들에 의해 영향을 받을 수도 있다. 위에서 설명된 컨텍스트 코딩 프로세스는 일반적으로 컨텍스트-적응 코딩 모드로서 지칭될 수도 있다.
그러므로, 비디오 인코더 (20) 는 확률 모델을 이용하여 목표 심볼을 인코딩할 수도 있다. 이와 유사하게, 비디오 디코더 (30) 는 확률 모델을 이용하여 목표 심볼을 파싱할 수도 있다. 일부의 경우, 비디오 인코더 (20) 는 컨텍스트 적응 코딩과 비-컨텍스트 적응 코딩의 결합을 이용하여 신택스 엘리먼트들을 코딩할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 빈들을 코딩하기 위해 컨텍스트 상에서 동작하는 확률 모델 또는 "컨텍스트 모델" 을 선택함으로써 빈들을 컨텍스트 코딩할 수도 있다. 이에 반해, 비디오 인코더 (20) 는 빈들을 코딩할 때 정규 산술 코딩 프로세스를 바이패스하거나 또는 생략함으로써 빈들을 바이패스 코딩할 수도 있다. 이런 예들에서, 비디오 인코더 (20) 는 고정 확률 모델을 이용하여 그 빈들을 바이패스 코딩할 수도 있다. 즉, 바이패스 코딩된 빈들은 컨텍스트 또는 확률 업데이트들을 포함하지 않는다.
비디오 인코더 (20) 는 엔트로피-인코딩된 신택스 엘리먼트들을 포함하는 비트스트림을 출력할 수도 있다. 비트스트림은 또한 엔트로피 인코딩되지 않은 신택스 엘리먼트들을 포함할 수도 있다. 비트스트림은 코딩된 픽처들 및 연관되는 데이터의 표현을 형성하는 비트들의 시퀀스를 포함할 수도 있다. 비트스트림은 네트워크 추상화 계층 (NAL) 유닛들의 시퀀스를 포함할 수도 있다. NAL 유닛들의 각각은 NAL 유닛 헤더를 포함하며, 미가공 바이트 시퀀스 페이로드 (RBSP; raw byte sequence payload) 를 캡슐화한다. NAL 유닛 헤더는 NAL 유닛 유형 코드를 나타내는 신택스 엘리먼트를 포함할 수도 있다. NAL 유닛의 NAL 유닛 헤더에 의해 규정된 NAL 유닛 유형 코드는 NAL 유닛의 형태를 나타낸다. RBSP 는 NAL 유닛 내에 캡슐화된 정수의 바이트들을 포함하는 신택스 구조일 수도 있다. 일부의 경우, RBSP 는 제로 비트들을 포함한다.
상이한 유형들의 NAL 유닛들이 상이한 유형들의 RBSP들을 캡슐화할 수도 있다. 예를 들어, NAL 유닛의 제 1 유형은 픽처 파라미터 세트 (PPS) 에 대한 RBSP 를 캡슐화할 수도 있으며, NAL 유닛의 제 2 유형은 코딩된 슬라이스에 대한 RBSP 를 캡슐화할 수도 있으며, NAL 유닛의 제 3 유형은 보충 강화 정보 (SEI) 에 대한 RBSP 를 캡슐화할 수도 있으며, 기타 등등을 캡슐화할 수도 있다. (파라미터 세트들 및 SEI 메시지들에 대한 RBSP들과는 반대로) 비디오 코딩 데이터에 대한 RBSP들을 캡슐화하는 NAL 유닛들은 비디오 코딩 계층 (VCL) NAL 유닛들로서 지칭될 수도 있다.
비디오 디코더 (30) 는 비디오 인코더 (20) 에 의해 발생되는 비트스트림을 수신할 수도 있다. 게다가, 비디오 디코더 (30) 는 비트스트림을 파싱하여, 비트스트림으로부터 신택스 엘리먼트들을 디코딩할 수도 있다. 비디오 디코더 (30) 는 비트스트림으로부터 디코딩된 신택스 엘리먼트들에 적어도 부분적으로 기초하여 비디오 데이터의 픽처들을 복원할 수도 있다. 비디오 데이터를 복원하는 프로세스는 일반적으로 비디오 인코더 (20) 에 의해 수행되는 프로세스와 반대일 수도 있다. 예를 들어, 비디오 디코더 (30) 는 현재의 CU 의 PU들에 대한 예측 블록들을 결정하기 위해 PU들의 MV들을 이용할 수도 있다. 게다가, 비디오 디코더 (30) 는 현재의 CU 의 TU들과 연관되는 변환 계수 블록들을 역양자화할 수도 있다. 비디오 디코더 (30) 는 변환 계수 블록들에 관해 역변환들을 수행하여, 현재의 CU 의 TU들과 연관되는 변환 블록들을 복원할 수도 있다. 비디오 디코더 (30) 는 현재의 CU 의 PU들에 대한 예측 블록들의 샘플들을 현재의 CU 의 TU들의 변환 블록들의 대응하는 샘플들에 가산함으로써, 현재의 CU 의 코딩 블록들을 복원할 수도 있다. 픽처의 각각의 CU 에 대해 코딩 블록들을 복원함으로써, 비디오 디코더 (30) 는 그 픽처를 복원할 수도 있다.
일부 예들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 팔레트-기반의 코딩을 수행하도록 구성될 수도 있다. 예를 들어, 팔레트 기반의 코딩에서, 위에서 설명된 인트라-예측 또는 인터-예측 코딩 기법들을 수행하는 대신, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 소위 팔레트를, 특정의 영역 (예컨대, 주어진 블록) 의 비디오 데이터를 나타내는 칼라들 또는 픽셀 값들의 테이블로서 코딩할 수도 있다. 이러한 방법으로, 비디오 데이터의 현재의 블록에 대한 실제 픽셀 값들 또는 그들의 잔차들을 코딩하는 대신, 비디오 코더는 현재의 블록의 픽셀들 값들 중 하나 이상에 대한 인덱스 값들을 코딩할 수도 있으며, 여기서, 인덱스 값들은 현재의 블록의 픽셀 값들을 나타내는데 사용되는 팔레트에서의 엔트리들을 표시한다.
예를 들어, 비디오 인코더 (20) 는 블록에 대한 팔레트를 결정하고, 각각의 픽셀의 값을 표현하기 위해 팔레트에 엔트리를 로케이트하고, 그리고 그 팔레트, 및 픽셀 값을 팔레트에 관련시키는, 픽셀들에 대한 인덱스 값들을 인코딩함으로써, 비디오 데이터의 블록을 인코딩할 수도 있다. 비디오 디코더 (30) 는 인코딩된 비트스트림으로부터, 블록에 대한 팔레트 뿐만 아니라, 블록의 픽셀들에 대한 인덱스 값들을 획득할 수도 있다. 비디오 디코더 (30) 는 개개의 픽셀들의 인덱스 값들을 팔레트의 엔트리들에 매칭하여, 블록의 픽셀 값들을 복원할 수도 있다. 개개의 픽셀과 연관된 인덱스 값이 블록에 대한 대응하는 팔레트의 임의의 인덱스 값과 매칭하지 않는 경우, 비디오 디코더 (30) 는 팔레트-기반의 코딩의 목적들을 위해, 이러한 픽셀을 이스케이프 픽셀로서 식별할 수도 있다.
다른 예에서, 비디오 인코더 (20) 는 다음 동작들에 따라서 비디오 데이터의 블록을 인코딩할 수도 있다. 비디오 인코더 (20) 는 블록의 개개의 픽셀들에 대한 예측 잔차 값들을 결정하고, 블록에 대한 팔레트를 결정하고, 그리고 개개의 픽셀들의 예측 잔차 값들 중 하나 이상의 값을 나타내는 값을 갖는 팔레트에서 엔트리 (예컨대, 인덱스 값) 를 로케이트할 수도 있다. 게다가, 비디오 인코더 (20) 는 블록의 각각의 개개의 픽셀에 대한 대응하는 예측 잔차 값을 나타내는데 사용되는 팔레트에서의 엔트리를 표시하는 인덱스 값들로 블록을 인코딩할 수도 있다. 비디오 디코더 (30) 는 소스 디바이스 (12) 에 의해 시그널링된 인코딩된 비트스트림으로부터, 블록에 대한 팔레트 뿐만 아니라, 블록의 개개의 픽셀들에 대응하는 예측 잔차 값들에 대한 인덱스 값들을 획득할 수도 있다. 설명하는 바와 같이, 인덱스 값들은 현재의 블록과 연관된 팔레트에서의 엔트리들에 대응할 수도 있다. 결국, 비디오 디코더 (30) 는 예측 잔차 값들의 인덱스 값들을 팔레트의 엔트리들에 관련시켜, 블록의 예측 잔차 값들을 복원할 수도 있다. 예측 잔차 값들은 블록의 픽셀 값들을 복원하기 위해 (예를 들어, 인트라 또는 인터 예측을 이용하여 획득된) 예측 값들에 가산될 수도 있다.
아래에서 좀더 자세하게 설명하는 바와 같이, 팔레트-기반의 코딩의 기본적인 아이디어는, 코딩될 비디오 데이터의 주어진 블록에 대해, 비디오 인코더 (20) 가 현재의 블록에서 가장 지배적인 픽셀 값들을 포함하는 팔레트를 유도할 수도 있다는 점이다. 예를 들어, 팔레트는 현재의 CU 에 대해 지배적이거나 및/또는 대표적인 것으로 결정되거나 또는 가정되는 다수의 픽셀 값들을 참조할 수도 있다. 비디오 인코더 (20) 는 먼저 팔레트의 사이즈 및 엘리먼트들을 비디오 디코더 (30) 로 송신할 수도 있다. 게다가, 비디오 인코더 (20) 는 어떤 스캐닝 순서에 따라서 주어진 블록에서의 픽셀 값들을 인코딩할 수도 있다. 주어진 블록에 포함된 각각의 픽셀에 대해, 비디오 인코더 (20) 는 그 픽셀 값을 팔레트에서의 대응하는 엔트리에 맵핑하는 인덱스 값을 시그널링할 수도 있다. 픽셀 값이 팔레트에 포함되지 않으면 (즉, 팔레트-코딩된 블록의 특정의 픽셀 값을 규정하는 어떤 팔레트 엔트리도 존재하지 않으면), 이러한 픽셀은 "이스케이프 픽셀" 로서 정의된다. 팔레트-기반의 코딩에 따르면, 비디오 인코더 (20) 는 이스케이프 픽셀용으로 예약되는 인덱스 값을 인코딩하고 시그널링할 수도 있다. 일부 예들에서, 비디오 인코더 (20) 는 또한 주어진 블록에 포함된 이스케이프 픽셀에 대한 픽셀 값 또는 잔차 값 (또는, 그의 양자화된 버전들) 을 인코딩하여 시그널링할 수도 있다.
비디오 인코더 (20) 에 의해 시그널링된 인코딩된 비디오 비트스트림을 수신 시, 비디오 디코더 (30) 는 먼저 비디오 인코더 (20) 로부터 수신된 정보에 기초하여 팔레트를 결정할 수도 있다. 비디오 디코더 (30) 는 그후 주어진 블록에서의 픽셀 로케이션들과 연관된 수신된 인덱스 값들을 팔레트의 엔트리들에 맵핑하여, 주어진 블록의 픽셀 값들을 복원할 수도 있다. 일부의 경우, 비디오 디코더 (30) 는 예컨대, 픽셀이 이스케이프 픽셀들에 대해 예약된 인덱스 값으로 팔레트-코딩된다고 결정함으로써, 팔레트-코딩된 블록의 픽셀이 이스케이프 픽셀이라고 결정할 수도 있다. 비디오 디코더 (30) 가 팔레트-코딩된 블록에서 이스케이프 픽셀을 식별하는 경우, 비디오 디코더 (30) 는 주어진 블록에 포함된 이스케이프 픽셀에 대한 픽셀 값 또는 잔차 값 (또는, 그의 양자화된 버전들) 을 수신할 수도 있다. 비디오 디코더 (30) 는 개개의 픽셀 값들을 대응하는 팔레트 엔트리들에 맵핑함으로써, 그리고 픽셀 값 또는 잔차 값 (또는, 그의 양자화된 버전들) 을 이용함으로써, 팔레트-코딩된 블록을 복원하여, 팔레트-코딩된 블록에 포함된 임의의 이스케이프 픽셀들을 복원할 수도 있다.
위에서 언급한 바와 같이, 예시적인 팔레트-코딩 모드에서, 팔레트는 인덱스로 넘버링된 엔트리들을 포함할 수도 있다. 각각의 엔트리는 블록에 대한 예측자로서 또는 최종 복원된 블록 샘플들로서 사용될 수 있는 칼라 성분 값들 또는 강도들을 (예를 들어, YCbCr, RGB, YUV, CMYK, 또는 다른 포맷들과 같은 칼라 공간들에서) 표현할 수도 있다. 표준 제안 문서 JCTVC-Q0094 (2014년 3월 27일 - 4월 4일, 스페인, 발렌시아, JCTVC-Q0094, Wei Pu 등, "AHG10: Suggested Software for Palette Coding based on RExt6.0") 에서 설명되어 있는 바와 같이, 팔레트는 예측자 팔레트로부터 복사되는 엔트리들을 포함할 수도 있다. 예측자 팔레트는 팔레트 모드를 이용하여 이전에 코딩된 블록들 또는 다른 복원된 샘플들로부터의 팔레트 엔트리들을 포함할 수도 있다. 예측자 팔레트에서의 각각의 엔트리에 대해, 2진 플래그가 그 엔트리가 현재의 팔레트에 복사되는지 여부를 표시하기 위해 전송된다 (플래그 = 1 로 표시됨). 이는 2진 팔레트 예측 벡터으로서 지칭된다. 추가적으로, 현재의 팔레트는 명시적으로 시그널링된 새로운 엔트리들을 포함할 (예컨대, 그들로 이루어질) 수도 있다. 새로운 엔트리들의 개수가 또한 시그널링될 수도 있다.
다른 예로서, 팔레트 모드에서, 팔레트는 블록 샘플들에 대한 예측자들로서 또는 최종 복원된 블록 샘플들로서 사용될 수도 있는, 칼라 성분 값들을 나타내는 인덱스로 넘버링된 엔트리들을 포함할 수도 있다. 팔레트에서의 각각의 엔트리는 예를 들어, 하나의 루마 성분 (예컨대, 루마 값), 2개의 크로마 성분들 (예컨대, 2개의 크로마 값들), 또는 3개의 칼라 성분들 (예컨대, RGB, YUV, 등) 을 포함할 수도 있다. 이전에 디코딩된 팔레트 엔트리들은 리스트에 저장될 수도 있다. 이 리스트는 예를 들어, 현재의 팔레트 모드 CU 에서, 팔레트 엔트리들을 예측하기 위해 사용될 수도 있다. 어느 리스트에서의 엔트리들이 현재의 팔레트에 재사용되는지를 표시하기 위해 2진 예측 벡터가 비트스트림으로 시그널링될 수도 있다. 일부 예들에서, 런-길이 코딩이 2진 팔레트 예측자를 압축하기 위해 사용될 수도 있다. 예를 들어, 런-길이 값은 0차 Exp-Golomb 코드를 이용하여 코딩될 수도 있다.
본 개시물에서는, 각각의 팔레트 엔트리가 샘플의 모든 칼라 성분들에 대한 값들을 규정하는 것으로 가정한다. 그러나, 본 개시물의 컨셉들은 각각의 칼라 성분에 대해 별개의 팔레트 및/또는 별개의 팔레트 엔트리를 사용하는 것에 적용가능하다. 또한, 블록에서의 샘플들이 수평 래스터 스캐닝 순서를 이용하여 프로세싱되는 것으로 가정된다. 그러나, 수직 래스터 스캐닝 순서와 같은 다른 스캐닝들이 또한 적용가능하다. 위에서 언급한 바와 같이, 팔레트는 예를 들어, 이전 블록(들) 을 코딩하기 위해 사용된 팔레트(들) 로부터 예측된, 예측된 팔레트 엔트리들, 및 현재의 블록에 특정적일 수도 있고 명시적으로 시그널링되는 새로운 엔트리들을 포함할 수도 있다. 인코더 및 디코더는 예측된 및 새로운 팔레트 엔트리들의 개수를 알 수도 있으며, 그들의 총합이 블록에서의 전체 팔레트 사이즈를 표시할 수도 있다.
위에서 언급된 JCTVC-Q0094 의 예에서 제안된 바와 같이, 팔레트로 코딩된 블록에서의 각각의 샘플은 아래에 개시된 바와 같은, 3개의 모드들 중 하나에 속할 수도 있다:
Figure 112017075570220-pct00001
이스케이프 모드. 이 모드에서는, 샘플 값이 팔레트에 팔레트 엔트리로서 포함되지 않으며, 양자화된 샘플 값이 모든 칼라 성분들에 대해 명시적으로 시그널링된다. 새로운 팔레트 엔트리들의 시그널링과 유사하지만, 새로운 팔레트 엔트리들에 대해서는, 칼라 성분 값들이 양자화되지 않는다.
Figure 112017075570220-pct00002
상부복사 (CopyAbove) 모드 (또한, CopyFromTop 모드 또는 복사 모드로 지칭됨). 이 모드에서는, 현재의 샘플에 대한 팔레트 엔트리 인덱스가 샘플들의 블록에서 현재의 샘플의 직상부에 로케이트된 샘플로부터 복사된다. 다른 예들에서, 상부 복사 모드에 있어서, 비디오 데이터의 블록은 그 블록의 상부에 있는 샘플이 실제로 그 블록의 좌측에 있는 샘플이 되도록 전치될 수도 있다.
Figure 112017075570220-pct00003
값 모드 (또한, 인덱스 모드 또는 런 모드로 지칭됨). 이 모드에서는, 팔레트 엔트리 인덱스의 값이 명시적으로 시그널링된다.
앞에서 설명한 바와 같이, 팔레트 엔트리 인덱스는 팔레트 인덱스 또는 간단히 인덱스로서 지칭될 수도 있다. 이들 용어들은 본 개시물의 기법들을 기술하기 위해 상호교환가능하게 사용될 수 있다. 게다가, 아래에서 더 자세히 설명하는 바와 같이, 팔레트 인덱스는 하나 이상의 연관된 칼라 또는 강도 값들을 가질 수도 있다. 예를 들어, 팔레트 인덱스는 픽셀의 단일 칼라 또는 강도 성분과 연관된 단일 연관된 칼라 또는 강도 값 (예컨대, RGB 데이터의 적색 성분, YUV 데이터의 Y 성분, 또는 기타 등등) 을 가질 수도 있다. 다른 예에서, 팔레트 인덱스는 다수의 연관된 칼라 또는 강도 값들을 가질 수도 있다. 일부의 경우, 팔레트-기반의 비디오 코딩이 단색 비디오를 코딩하기 위해 적용될 수도 있다. 따라서, "칼라 값" 은 일반적으로 픽셀 값을 발생시키는데 사용되는 임의의 칼라 또는 비-칼라 성분을 지칭할 수도 있다.
런 값은 동일한 팔레트-코딩 모드를 이용하여 코딩되는 팔레트 인덱스 값들의 런을 표시할 수도 있다. 예를 들어, 값 모드에 대해, 비디오 코더 (예컨대, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는, 동일한 인덱스 값을 가지며 팔레트 인덱스로 코딩중인, 스캔 순서에서 다수의 연속된 샘플들을 표시하는 인덱스 값 및 런 값을 코딩할 수도 있다. 상부복사 모드에 대해, 비디오 코더는, 현재의 샘플 값에 대한 인덱스 값이 상부-이웃하는 샘플 (예컨대, 블록에서 현재 코딩중인 샘플 위에 위치되는 샘플) 의 인덱스 값, 및 상부-이웃하는 샘플로부터 인덱스 값을 복사하며 팔레트 인덱스로 코딩중인, 스캔 순서에서 다수의 연속된 샘플들을 표시하는 런 값과 동일하다는 표시를 코딩할 수도 있다. 따라서, 상기 예들에서, 팔레트 인덱스 값들의 런은 동일한 값을 가지는 팔레트 값들의 런, 또는 상부-이웃하는 샘플들로부터 복사된 인덱스 값들의 런을 지칭한다.
따라서, 런은 주어진 모드에 대해, 동일한 모드에 속하는 후속 샘플들의 개수를 규정할 수도 있다. 일부의 경우, 인덱스 값 및 런 값을 시그널링하는 것은 런-길이 코딩과 유사할 수도 있다. 예시의 목적을 위한 예에서, 비디오 데이터의 블록에 대응하는 인덱스 블록의 연속된 팔레트 인덱스 값들의 스트링은 0, 2, 2, 2, 2, 5 일 수도 있다. 일부 예들에서, 인덱스 블록은 하나 이상의 이스케이프 픽셀 값들을 포함할 수도 있다. 인덱스 블록에서의 각각의 인덱스 값은 비디오 데이터의 블록에서의 샘플에 대응할 수도 있다. 이 예에서, 비디오 코더는 값 모드를 이용하여 제 2 샘플 (예컨대, "2" 의 제 1 팔레트 인덱스 값) 을 코딩할 수도 있다. 2 의 인덱스 값을 코딩한 후, 비디오 코더는 3개의 후속 샘플들이 또한 2 의 동일한 팔레트 인덱스 값을 가진다는 것을 표시하는 3 의 런을 코딩할 수도 있다. 유사한 방법으로, 상부복사 모드를 이용하여 인덱스를 코딩한 후 4개의 팔레트 인덱스들의 런을 코딩하는 것은 총 5개의 팔레트 인덱스들이 현재 코딩중인 샘플 위치의 상부에 있는 로우에서의 대응하는 팔레트 인덱스 값들로부터 복사된다는 것을 표시할 수도 있다.
팔레트를 이용하여, 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 는 샘플들의 블록 (예컨대, 비디오 데이터의 블록) 을 인덱스 블록으로 코딩하도록 구성될 수도 있으며, 인덱스 블록은, 샘플들을 하나 이상의 팔레트 엔트리들에 맵핑하는, 그리고 일부 예들에서는 하나 이상의 이스케이프 픽셀 값들을 포함하는, 예컨대, 각각의 샘플에 대한, 인덱스 값들을 포함하는 블록이다. 비디오 데이터의 블록의 모든 픽셀은 런 모드, 복사 모드 또는 이스케이프 모드로 코딩될 수도 있다. 일부 예들에서, 비디오 데이터의 블록의 제 1 로우에서의 픽셀들은 단지 런 모드 또는 이스케이프 모드를 이용하여 코딩될 수도 있다.
신택스 엘리먼트 palette_run_type_flag 는 런 모드 또는 복사 모드가 사용되는지 여부를 표시한다. 예를 들어, 비디오 인코더 (20) 는 palette_run_type_flag 신택스 엘리먼트에 대응하는 값을 비디오 데이터의 블록의 샘플에 대한 인코딩된 비트스트림으로 인코딩함으로써 신택스 엘리먼트 palette_run_type_flag 를 시그널링하도록 구성될 수도 있다. 비디오 디코더 (20) 는 palette_run_type_flag 신택스 엘리먼트에 대응하는 인코딩된 값을 포함하는 인코딩된 비트스트림을 수신하도록 구성될 수도 있다. 비디오 디코더 (20) 는 인코딩된 값을 디코딩하여, palette_run_type_flag 신택스 엘리먼트에 대응하는 값을 결정하고, 그후, 런 모드 또는 복사 모드가 비디오 데이터의 블록의 샘플에 대해 사용되는지 여부를 결정하도록 구성될 수도 있다. 예를 들어, palette_run_type_flag 의 값이 제 1 값일 때, 런 모드가 비디오 데이터의 블록의 샘플에 대해 사용될 수도 있다. 다른 예로서, palette_run_type_flag 의 값이 제 2 값일 때, 복사 모드가 비디오 데이터의 블록의 샘플에 대해 사용될 수도 있다.
일부 예들에서, 런 모드 또는 복사 모드가 사용될 때, palette_index 신택스 엘리먼트는 palette_run 신택스 엘리먼트와 함께 시그널링될 수도 있다. 예를 들어, 비디오 인코더 (20) 는 palette_index 에 대응하는 값 (예컨대, 인덱스 값) 및 palette_run 에 대응하는 값 (예컨대, 런 값) 을 인코딩된 비트스트림으로 인코딩함으로써, palette_index 및 palette_run 신택스 엘리먼트들을 시그널링하도록 구성될 수도 있다. 비디오 디코더 (30) 는 palette_index 신택스 엘리먼트에 대응하는 인코딩된 값 및 palette_run 신택스 엘리먼트에 대응하는 인코딩된 값을 포함하는 인코딩된 비트스트림을 수신하도록 구성될 수도 있다. 비디오 디코더 (20) 는 palette_index 에 대응하는 인코딩된 값 및 palette_run 에 대응하는 인코딩된 값을 각각 디코딩하여, palette_index 에 대응하는 값 (예컨대, 인덱스 값) 및 palette_run 에 대응하는 값 (예컨대, 런 값) 을 결정하도록 구성될 수도 있다.
런 모드가 사용될 때, 런 값은 동일한 팔레트 인덱스를 가질 픽셀들의 개수를 표시한다. 그러나, 복사 모드가 사용될 때, 런 값은 팔레트 인덱스 (예컨대, 인덱스 값) 가 각각의 픽셀에 대한 (예컨대, 각각의 개별 픽셀의 직상부에 있는) 다른 개별 픽셀로부터 복사되는 픽셀들의 개수를 표시한다.
일부 예들에서, 이스케이프 모드는 특정의 팔레트 인덱스가 이 모드를 표시하기 위해 사용될 수도 있는 런 모드 내에서 코딩된다. 일부 예들에 따르면, 이스케이프 모드를 표시하기 위해 사용되는 팔레트 인덱스는 현재의 블록의 팔레트 사이즈와 동일하다. 이스케이프 모드에서는, 이스케이프 모드가 단일 픽셀 (예컨대, 픽셀 트리플릿 (Y, U, 및 V)) 에 적용되고 단일 픽셀에 대한 칼라 성분(들) 의 값(들) 이 palette_escape_val 로서 명시적으로 시그널링되기 때문에, 런 값은 코딩되지 않을 수도 있다. 일부 예들에서, 동일한 블록에 속하는 제 1 로우의 상부에 어떤 픽셀들도 존재하지 않기 때문에, 복사 모드는 블록에서의 제 1 로우에 대해 인에이블되지 않을 수도 있다.
플래그 palette_escape_val_present_flag 는 이스케이프 픽셀들의 사용을 표시하기 위해 블록 당 시그널링될 수도 있다. 이 플래그는 1 과 동일하며, 팔레트 코딩된 블록에서 적어도 하나의 이스케이프 픽셀이 존재한다는 것을 표시하며, 그렇지 않으면, 플래그는 0 과 동일하다. 예를 들어, 비디오 인코더 (20) 는 palette_escape_val_present_flag 신택스 엘리먼트에 대응하는 값을 인코딩된 비트스트림으로 인코딩함으로써, 신택스 엘리먼트 palette_escape_val_present_flag 를 시그널링하도록 구성될 수도 있다. 비디오 디코더 (20) 는 palette_escape_val_present_flag 신택스 엘리먼트에 대응하는 인코딩된 값을 포함하는 인코딩된 비트스트림을 수신하도록 구성될 수도 있다. 비디오 디코더 (20) 는 인코딩된 값을 디코딩하여, palette_escape_val_present_flag 신택스 엘리먼트에 대응하는 값을 결정하고, 따라서, 팔레트 코딩된 블록에 적어도 하나의 이스케이프 픽셀이 존재하는지 여부를 결정하도록 구성될 수도 있다.
일부 예들에서, 팔레트 사이즈는 0 내지 시그널링받을 max_palette_size 의 범위 내로 제한된다. 팔레트 모드로 코딩된 블록에 대해, 팔레트는 일부 예들에서, 하나 이상의 이전에 팔레트 코딩된 블록들의 팔레트 엔트리들로부터 예측될 수도 있다. 팔레트는 현재의 블록에 대해 하나 이상의 새로운 엔트리들로서 명시적으로 시그널링될 수도 있다. 다른 예들에서, 이전에 코딩된 블록의 팔레트는 현재의 블록에 대해 완전히 재사용될 (예컨대, 복사될) 수도 있으며, 이는 팔레트 공유 모드로 지칭된다. 일부 예들에서, 이전 블록의 전체 팔레트가 현재의 블록에 대한 변경없이 그대로 재사용된다는 것을 표시하기 위해 플래그 palette_share_flag 가 시그널링될 수도 있다.
팔레트 모드를 이용하여 비디오의 블록을 코딩할 때, 픽셀 스캐닝 패턴 (예컨대, 스캔 순서) 은 예를 들어, 수직 횡단 또는 수평 횡단 (뱀-모양) 스캐닝을 포함할 수도 있다. 블록에서 사용되는 스캐닝 패턴은 블록 유닛 당 시그널링된 플래그 palette_transpose_flag 에 따라서 유도될 수도 있다.
팔레트 모드 코딩 동안, 팔레트 인덱스 조정 프로세스가 적용될 수도 있다. 현재의 블록에서 제 2 픽셀에서 시작하여, 스캔 순서에서 이전 픽셀의 팔레트 모드가 체크될 (예컨대, 결정될) 수도 있다. 일부 예들에서, 최대 팔레트 인덱스 사이즈는 먼저 1 만큼 감소될 수도 있다. 스캔 순서에서 이전 픽셀에 대한 팔레트 모드가 런 모드와 동일하면 (즉, 스캔 순서에서 이전 픽셀이 런 모드를 이용하여 코딩되었거나 또는 코딩되면), 현재의 픽셀에 대한 팔레트 인덱스 (예컨대, 인덱스 값) 는, 인덱스 값이 스캔 순서에서 이전 픽셀에 대한 인덱스 값보다 크거나 또는 동일한 경우에, 1 만큼 감소될 수도 있다. 이와 유사하게, 스캔 순서에서 이전 픽셀에 대한 팔레트 모드가 복사 모드와 동일하면 (즉, 스캔 순서에서 이전 픽셀이 복사 모드를 이용하여 코딩되었거나 또는 코딩되면), 현재의 픽셀에 대한 팔레트 인덱스 (예컨대, 인덱스 값) 는 인덱스가 상기 팔레트 인덱스보다 큰 경우에, 1 만큼 감소될 수도 있다.
비디오 인코더 (20) 는 인덱스 블록을 압축하기 위해 인덱스 블록을 엔트로피 인코딩하도록 구성될 수도 있다. 이와 유사하게, 비디오 디코더 (30) 는 비디오 디코더 (30) 가 샘플들의 블록 (예컨대, 인코더 (20) 에 의해 인코딩된 비디오 데이터의 블록) 을 생성할 수도 있는 인덱스 블록을 발생시키기 위해, 인코딩된 인덱스 블록을 엔트로피 디코딩하도록 구성될 수도 있다. 예를 들어, 런-길이 기반의 엔트로피 코딩이 인덱스 블록을 압축하고 압축해제하기 위해 사용될 수도 있다. 일부 예들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 CABAC 을 이용하여 인덱스 블록에서의 인덱스 값들을 엔트로피 인코딩하고 디코딩하도록 각각 구성될 수도 있다.
CABAC 코딩을 정보 (예컨대, 신택스 엘리먼트, 인덱스 블록, 예컨대 인덱스 블록의 인덱스 값들, 또는 다른 정보) 에 적용하기 위해, 비디오 코더 (예컨대, 비디오 인코더 (20) 및 비디오 디코더 (30)) 는 그 정보에 대해 2진화를 수행할 수도 있다. 2진화는 정보를 하나 이상의 비트들의 시리즈로 변환하는 프로세스를 지칭한다. 하나 이상의 비트들의 각각의 시리즈는 "빈들" 로서 지칭될 수도 있다. 2진화는 무손실 프로세스이며, 다음 코딩 기법들: 고정 길이 코딩, 1진 코딩, 트렁케이트된 1진 코딩, 트렁케이트된 rice 코딩, Golomb 코딩, 지수 Golomb 코딩, Golomb-rice 코딩, 임의 유형의 Golomb 코딩, 임의 유형의 rice 코딩, 및 임의 유형의 엔트로피 코딩 중 하나 또는 조합을 포함할 수도 있다. 예를 들어, 2진화는 5 의 정수 값을, 8-비트 고정된 길이 기법을 이용하여 00000101 로서, 또는 1진 (unary) 코딩 기법을 이용하여 11110 으로서 표현하는 것을 포함할 수도 있다.
2진화 후, 비디오 코더는 코딩 컨텍스트를 식별할 수도 있다. 코딩 컨텍스트는 특정의 값들을 갖는 빈들을 코딩할 확률들을 식별할 수도 있다. 예를 들어, 코딩 컨텍스트는 0-값 빈을 코딩할 0.7 확률, 및 1-값 빈을 코딩할 0.3 확률을 나타낼 수도 있다. 코딩 컨텍스트를 식별한 후, 비디오 코더는 컨텍스트에 기초하여 그 빈을 산술적으로 코딩할 수도 있으며, 이는 컨텍스트 모드 코딩으로 알려져 있다. CABAC 컨텍스트 모드 코딩을 이용하여 코딩된 빈들은 "컨텍스트 빈들" 로서 지칭될 수도 있다.
또, 모든 빈들에 대해 컨텍스트 모드 코딩을 수행하기 보다는, 비디오 코더 (예컨대, 비디오 인코더 (20) 및 비디오 디코더 (30)) 는 바이패스 CABAC 코딩 (예컨대, 바이패스 모드 코딩) 을 이용하여 일부 빈들을 코딩할 수도 있다. 바이패스 모드 코딩은 CABAC 코더의 바이패스 모드를 지칭하며, 여기서, 바이패스 코딩은 적응 컨텍스트 (예컨대, 코딩 컨텍스트) 를 이용함이 없이 빈을 산술적으로 코딩하는 프로세스이다. 즉, 바이패스 코딩 엔진은 컨텍스트들을 선택하지 않으며, 양쪽의 심볼들 (0 및 1) 에 대해 0.5 의 확률을 가정할 수도 있다. 바이패스 모드 코딩이 컨텍스트 모드 코딩 만큼 대역폭-효율적이지 않을 수도 있지만, 빈에 대해 컨텍스트 모드 코딩을 수행하기 보다는, 빈에 대해 바이패스 모드 코딩을 수행하는 것이 계산적으로 덜 비쌀 수도 있다. 또, 바이패스 모드 코딩을 수행하는 것은 더 높은 정도의 병렬화 및 처리량을 가능하게 할 수도 있다. 바이패스 모드 코딩을 이용하여 코딩된 빈들은 "바이패스 빈들" 로서 지칭될 수도 있다.
비디오 인코더 (20) 및 비디오 디코더 (30) 는 CABAC 코더 (예컨대, 각각, CABAC 인코더 및 CABAC 디코더) 로 구성될 수도 있다. CABAC 코더는 CABAC 컨텍스트 모드 코딩을 수행하는 컨텍스트 모드 코딩 엔진 및 바이패스 모드 코딩을 수행하는 바이패스 모드 코딩 엔진을 포함할 수도 있다. 빈이 컨텍스트 모드 코딩되면, 컨텍스트 모드 코딩 엔진이 이 빈을 코딩하기 위해 사용된다. 컨텍스트 모드 코딩 엔진은 단일 빈을 코딩하는데 2개보다 많은 프로세싱 사이클들을 필요로 할 수도 있다. 그러나, 적합한 파이프라인 설계에 의해, 컨텍스트 모드 코딩 엔진은 n 개의 빈들을 인코딩하는데 단지 n+M 개의 사이클들을 필요로 할 수도 있으며, 여기서, M 은 파이프라인을 시작하기 위한 오버헤드이다. M 은 대개 0 보다 크다.
CABAC 코딩 프로세스의 시작 시에 (즉, 바이패스 모드로부터 컨텍스트 모드로, 그리고 반대로 스위칭할 때마다), 파이프라인 오버헤드가 도입된다. 빈이 바이패스 모드 코딩되면, 바이패스 모드 코딩 엔진이 이 빈을 코딩하는데 사용된다. 바이패스 모드 코딩 엔진은 n-비트 정보를 코딩하는데 오직 하나의 사이클이 필요할 것으로 예상될 수도 있으며, 여기서, n 은 1 보다 클 수도 있다. 따라서, 세트 내 바이패스 빈들 모두가 (예컨대, 인터리브된 컨텍스트-코딩된 빈들 없이 순차적으로) 함께 코딩되고, 그리고 그 세트 내 컨텍스트 빈들 모두가 (예컨대, 인터리브된 바이패스-코딩된 빈들 없이 순차적으로) 함께 코딩되면, 바이패스 빈들 및 컨텍스트 빈들의 세트를 코딩하기 위한 사이클들의 총 개수가 감소될 수도 있다. 특히, 컨텍스트 모드 코딩으로 전환하기 전후에 바이패스 빈들을 함께 코딩하는 것은 컨텍스트 모드 코딩 엔진을 재시작하는데 요구되는 오버헤드를 절감할 수 있다. 예를 들어, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 각각 팔레트 모드를 이용하여 비디오 데이터의 블록을 인코딩하거나 또는 디코딩하는 동안, 바이패스- 및 컨텍스트-코딩된 빈들의 시리즈를 가로질러, 바이패스 모드로부터 컨텍스트 모드로 (또는, 다른 예들에서는, 컨텍스트 모드로부터 바이패스 모드로) 한번 스위칭하도록 구성될 수도 있다. 다른 예에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 팔레트 모드를 이용하여 비디오 데이터의 블록을 인코딩하거나 또는 디코딩할 때 인코딩 또는 디코딩 프로세스가 바이패스 모드로부터 컨텍스트 모드로 (그리고 컨텍스트 모드로부터 바이패스 모드로) 스위칭하는 횟수를 감소시키도록 구성될 수도 있다.
본 개시물에서 설명하는 기법들은 팔레트-기반의 비디오 코딩 모드들을 시그널링하는 것, 팔레트들을 송신하는 것, 팔레트들을 유도하는 것, 스캐닝 순서를 시그널링하는 것, 스캐닝 순서를 유도하는 것, 및 팔레트-기반의 비디오 코딩 맵들 및 다른 신택스 엘리먼트들을 송신하는 것 중 하나 이상의 여러 조합들에 대한 기법들을 포함할 수도 있다. 예를 들어, 본 개시물의 기법들은 팔레트 정보를 엔트로피 코딩하는 것에 관련될 수도 있다. 일부 예들에서, 본 개시물의 기법들은 특히, 코딩 효율을 증가시키고 팔레트-기반의 비디오 코딩과 연관된 코딩 비효율들을 감소시키기 위해 사용될 수도 있다. 따라서, 아래에서 더 자세히 설명하는 바와 같이, 본 개시물의 기법들은 일부 경우, 팔레트 모드를 이용하여 비디오 데이터를 코딩할 때 효율을 효율을 향상시키고 비트레이트를 향상시킬 수도 있다.
본원에서 설명되는 기법들, 양태들, 및/또는 예들은 서로 함께 임의의 조합으로 또는 서로 별개로 이용될 수도 있다. 예를 들어, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 본원에서 설명되는 기법들, 양태들, 및/또는 예들 중 하나 이상의 임의의 하나 또는 임의의 적합한 조합을 수행하도록 구성될 수도 있다.
예시적인 코딩 시스템에 대한 문제점은, 2015년 2월 10일에 JCT-VC 문서 관리 시스템에 업로드된, 문서 Tzu-Der Chuang 등, "CE-1 related: Index Map scan for 64 x 64 palette coding block", JCTVC-T0058 버전 3 (이하 "JCTVC-T0058") 에 설명되어 있으며, 예를 들어, 계수 스캐닝이 적용될 경우에 팔레트 블록 사이즈가 64 x 64 만큼 클수 있고 64 x 64 만큼 큰 스캐닝 패턴을 가지지만 가장 큰 변환 블록 사이즈가 32 x 32 이라는 점이다. 따라서, 이 경우, 구현예에서의 파이프라인은 64 x 64 블록 사이즈들까지 증가될 수 있으며, 이는 팔레트 모드 없이는 요구되지 않으며, 따라서 팔레트 모드에 대해 특수한 경우가 존재한다. JCTVC-T0058 은 64 x 64 횡단 스캔을 4개의 32 x 32 횡단 스캐닝들로 변경함으로써, 팔레트 모드에서 64 x 64 블록을 4개의 32 x 32 서브-블록들로서 코딩하는 것을 기술한다. 그러나, 이렇게 하는 것은 단지 64 x 64 팔레트 블록에 대해서만 해당되는, 팔레트 모드 코딩에 대한 변경을 필요로 할 것이며, 따라서 예를 들어, 팔레트 모드 코딩에 불-균일성을 도입할 것이다.
본 개시물의 여러 예들에서, 본 개시물의 기법들은 예를 들어, 64 x 64 블록이 팔레트 모드를 이용하여 어떻게 코딩되어야 하는지를 조금이라도 해결함으로써, 코딩 효율을 향상시키고 및/또는 코덱 복잡성을 감소시키기 위해, 팔레트 모드에서 블록을 예측하거나 또는 코딩하는 프로세스들에 관련될 수도 있다.
본 개시물의 일부 예들에서, 팔레트 모드 코딩은 64 x 64 이상의 사이즈를 가지는 임의의 팔레트 블록에 대해서는 디스에이블될 수도 있다. 다른 예들에서, 팔레트 모드 코딩은 64 x 64 미만의 사이즈를 가지는 팔레트 블록들에 제한될 수도 있는데, 팔레트 모드 코딩이 64 x 64 미만의 사이즈를 가지는 팔레트 블록들에 대해 인에이블되거나 또는 아니면 사용될 수도 있다는 것을 의미한다. 다른 예들에서, 가장 큰 팔레트 블록 사이즈는 가장 큰 변환 유닛 사이즈에 규범적으로 제한되는 것과 같이, 가장 큰 변환 유닛 사이즈에 기초하여 규범적으로 제한될 수도 있다. 팔레트 모드 코딩은 가장 큰 변환 유닛 사이즈를 초과하거나 또는 아니면 더 큰 팔레트 블록 사이즈에 대해 디스에이블될 수도 있다. 이러한 예들에서, 가장 큰 팔레트 블록 사이즈가 가장 큰 변환 유닛 사이즈에 규범적으로 제한된다는 점에서, 가장 큰 팔레트 블록 사이즈가 가장 큰 변환 유닛 사이즈에 기초할 수도 있음을 알 수 있다. 예를 들어, 비디오 인코더 (20) 는 팔레트 모드를 이용하여 인코딩될 수도 있는 가장 큰 팔레트 블록 사이즈를 가장 큰 변환 유닛 사이즈에 규범적으로 제한하도록 구성될 수도 있다. 이 예에서, 비디오 인코더 (20) 는 비디오 인코더 (20) 가 인코딩하도록 구성되는 가장 큰 변환 유닛 사이즈보다 더 큰 사이즈를 가지는 임의의 팔레트 블록에 대해 팔레트 모드를 디스에이블하거나 또는 아니면 팔레트 모드를 이용하지 않도록 구성될 수도 있다.
예를 들어, 비디오 인코더 (20) 가 인코딩하도록 구성된 가장 큰 변환 유닛 사이즈가 32 x 32 이면, 비디오 인코더 (20) 는 가장 큰 팔레트 블록 사이즈를 32 x 32 에 규범적으로 제한하도록 구성될 수도 있다. 이러한 예에서, 비디오 인코더 (20) 는 32 x 32 보다 더 큰 사이즈를 가지는 임의의 팔레트 블록에 대해 팔레트 모드를 디스에이블하거나 또는 아니면 팔레트 모드를 이용하지 않도록 구성될 수도 있다. 또한, 이러한 예에서, 비디오 인코더 (20) 가 32 x 32 이하인 사이즈를 가지는 임의의 팔레트 블록에 대해 팔레트 모드를 인에이블하거나 또는 아니면 팔레트 모드를 이용하도록 구성될 수도 있음을 알 수 있다. 32 x 32 보다 큰 사이즈를 가지는 팔레트 블록들의 예는 예를 들어, 64 x 64, 64 x 16, 16 x 64, 64 x 32, 및 32 x 64 를 포함한다.
다른 예로서, 비디오 인코더 (20) 가 인코딩하도록 구성되는 가장 큰 변환 유닛 사이즈가 16 x 16 이면, 비디오 인코더 (20) 는 가장 큰 팔레트 블록 사이즈를 16 x 16 에 규범적으로 제한하도록 구성될 수도 있다. 이러한 예에서, 비디오 인코더 (20) 는 16 x 16 보다 큰 사이즈를 가지는 임의의 팔레트 블록에 대해 팔레트 모드를 디스에이블하거나 또는 아니면 팔레트 모드를 이용하지 않도록 구성될 수도 있다. 또한, 이러한 예에서, 비디오 인코더 (20) 가 16 x 16 이하인 사이즈를 가지는 임의의 팔레트 블록에 대해 팔레트 모드를 인에이블하거나 또는 아니면 팔레트 모드를 이용하도록 구성될 수도 있음을 알 수 있다.
다른 예들에서, 비디오 인코더 (20) 가 인코딩하도록 구성되는 가장 큰 변환 유닛 사이즈는 M x N 의 블록 사이즈에 규범적으로 제한될 수도 있으며, 여기서, M 및 N 은 양의 정수들이며 서로 동일하거나 또는 동일하지 않을 수도 있다. 일부 예들에서, M 및/또는 N 은 가장 큰 변환 유닛 사이즈에 기초할 수도 있다. 예를 들어, 가장 큰 변환 유닛 사이즈가 32 x 32 이면, M 과 N 은 양쪽 모두 32 와 동일할 것이다. 그러나, 가장 큰 변환 유닛 사이즈가 32 x 16 인 예에서, M 은 32 와 동일할 것이며 N 은 16 과 동일할 것이다. 이러한 예에서, 32 x 16 보다 큰 사이즈를 가지는 팔레트 블록들의 예들은 예를 들어, 64 x 64, 64 x 16, 16 x 64, 64 x 32, 32 x 64, 32 x 32, 및 16 x 32 를 포함한다.
일부 예들에서, 비디오 인코더 (20) 는 특정의 데이터 세트에 대한 가장 큰 변환 유닛 사이즈를 시그널링하도록 구성될 수도 있다. 이러한 예들에서, 비디오 인코더 (20) 는 시그널링된 가장 큰 변환 유닛 사이즈보다 더 큰 블록 사이즈를 가지는 특정의 데이터 세트와 연관된 임의의 팔레트 블록에 대해, 팔레트 모드를 디스에이블하거나 또는 아니면 팔레트 모드를 이용하지 않도록 구성될 수도 있다. 따라서, 본원에서 사용할 때, 가장 큰 변환 유닛은 비디오 인코더 (20) 가 인코딩하도록 구성되는 가장 큰 변환 유닛을 지칭할 수도 있거나, 또는 특정의 데이터 세트 (예컨대, 비디오 데이터의 하나 이상의 블록들) 에 대한 시그널링된 가장 큰 변환 유닛을 지칭할 수도 있다. 예를 들어, 가장 큰 변환 유닛 사이즈가 32 x 32 일 수도 있지만, 비디오 인코더 (20) 는 특정의 데이터 세트에 대해, 가장 큰 변환 유닛 사이즈가 16 x 16 이라고 시그널링할 수도 있다. 따라서, 이 특정의 데이터 세트에 대해, 이 예에서는, 가장 큰 변환 유닛 사이즈는 16 x 16 이다.
따라서, 비디오 인코더 (20) 가 가장 큰 변환 유닛 사이즈에 기초하여 팔레트 모드를 동적으로 디스에이블하도록 구성되거나 또는 아니면 팔레트 모드를 이용하지 않도록 구성될 수도 있음을 알 수 있다. 이와 유사하게, 비디오 인코더 (20) 가 가장 큰 변환 유닛보다 더 큰 사이즈를 가지는 임의의 팔레트 블록에 대해 팔레트 모드를 동적으로 디스에이블하도록 구성되거나 또는 아니면 팔레트 모드를 이용하지 않도록 구성될 수도 있음을 알 수 있다. 따라서, 또한 비디오 인코더 (20) 가 가장 큰 변환 유닛을 초과하는 사이즈를 가지는 임의의 팔레트 블록에 대해 팔레트 모드를 동적으로 디스에이블하도록 구성되거나 또는 아니면 팔레트 모드를 이용하지 않도록 구성될 수도 있음을 알 수 있다. 따라서, 또한, 오직 비디오 데이터의 블록이 비디오 인코더 (20) 가 인코딩하도록 구성될 수도 있는 가장 큰 변환 유닛을 초과하지 않는 사이즈를 가질 때에만 비디오 인코더 (20) 가 팔레트 모드를 이용하여 비디오 데이터의 블록을 인코딩하도록 구성될 수도 있음을 알 수 있다. 이와 유사하게, 비디오 인코더 (20) 는 오직 비디오 데이터의 블록이 가장 큰 변환 유닛을 초과하지 않는 사이즈를 가질 때에만 비디오 데이터의 블록에 대한 팔레트 모드 코딩을 인에이블하도록 구성될 수도 있다.
이와 유사하게, 따라서, 비디오 디코더 (30) 가 가장 큰 변환 유닛을 초과하는 사이즈를 가지는 임의의 팔레트 블록에 대해 팔레트 모드를 동적으로 디스에이블하도록 구성되거나 또는 아니면 팔레트 모드를 이용하지 않도록 구성될 수도 있음을 알 수 있다. 따라서, 또한, 오직 비디오 데이터의 블록이 비디오 인코더 (20) 가 인코딩하도록 구성될 수도 있거나 및/또는 비디오 디코더 (30) 가 디코딩하도록 구성될 수도 있는 가장 큰 변환 유닛을 초과하지 않는 사이즈를 가질 때에만, 비디오 디코더 (30) 가 팔레트 모드를 이용하여 비디오 데이터의 블록을 디코딩하도록 구성될 수도 있음을 알 수 있다. 이와 유사하게, 비디오 디코더 (30) 는 오직 비디오 데이터의 블록이 가장 큰 변환 유닛을 초과하지 않는 사이즈를 가질 때에만 비디오 데이터의 블록에 대한 팔레트 모드 코딩을 인에이블하도록 구성될 수도 있다. 다른 예들에서, 비디오 디코더 (30) 는 palette_mode_flag 의 신택스 엘리먼트에 대한 값과 같은, 팔레트 모드 플래그에 대응하는 값에 기초하여, 팔레트 모드가 인에이블되는지 또는 디스에이블되는지 여부를 결정하도록 구성될 수도 있다.
다른 예로서, 비디오 디코더 (30) 는 비디오 데이터의 블록을 수신하도록 구성될 수도 있다. 비디오 디코더 (30) 는 가장 큰 변환 유닛 사이즈에 대해 블록 비디오 데이터의 사이즈를 결정하도록 구성될 수도 있다. 비디오 디코더 (30) 는 비디오 데이터의 수신된 블록이 가장 큰 변환 유닛 사이즈의 사이즈보다 클 때 비디오의 수신된 블록이 팔레트 모드 인코딩되지 않는다고 결정하도록 구성될 수도 있다.
본원에서 개시된 바와 같이, 가장 큰 팔레트 블록 사이즈는 규범적으로 제한될 수도 있다. 예를 들어, 가장 큰 팔레트 블록 사이즈는 가장 큰 변환 유닛 사이즈에 규범적으로 제한되는 것과 같이, 가장 큰 변환 유닛 사이즈에 기초할 수도 있다. 일부 예들에서, 비디오 인코더 (20) 는 팔레트 모드가 디스에이블되거나, 인에이블되거나, 또는 아니면 이용될 때에 제어를 초래하는 본원에서 설명되는 임의의 팔레트 블록 사이즈 제한을 구현하기 위한 적합성 비트스트림 제한으로 구성될 수도 있다. 예를 들어, 적합한 (conformant) 비트스트림 제한은, 적합한 비트스트림이 팔레트 모드로 코딩되는 어떤 사이즈를 초과하는 블록을 가지지 않아야 한다는 것일 수도 있다. 다른 예로서, 적합한 비트스트림 제한은, 단지 블록이 어떤 사이즈 이하인 경우에만 적합한 비트스트림이 팔레트 모드로 코딩된 블록을 가져야 한다는 것일 수도 있다. 양쪽의 예들에서, 언급된 어떤 사이즈는 32 x 32 또는 임의의 다른 M x N 사이즈일 수도 있으며, 여기서, M 및 N 은 양의 정수들이며 서로 동일하거나 또는 동일하지 않을 수도 있다. 그러나, 다른 예들에서, 양쪽의 예들에서의 언급된 어떤 사이즈는 가장 큰 변환 유닛 사이즈에 기초할 수도 있다. 이러한 예들에서, 적합한 비트스트림 제한은, 예를 들어, 적합한 비트스트림이 가장 큰 변환 유닛을 초과하는 블록을 가지지 않아야 한다는 것일 수 있다. 다른 예로서, 적합한 비트스트림 제한은, 적합한 비트스트림이 본원에서 설명되는 하나 이상의 규범적인 제한들을 준수해야 한다는 것일 수도 있다.
본원에서 설명되는 임의의 적합한 비트스트림 제한에 대해서는, 팔레트 모드가 비디오 데이터의 블록에 대해 디스에이블되거나, 인에이블되거나, 또는 아니면 이용될 때 제어하기 위해 비디오 인코더 (20) 가 임의의 이러한 제한(들) 으로 임의의 조합으로 구성될 수도 있음을 알 수 있다.
다른 예들에서, 비디오 인코더 (20) 는 팔레트 모드 코딩될 비디오 데이터의 임의의 블록을, 비디오 데이터의 전체 블록이 M x N 서브-블록들로 표현될 경우 M x N 서브-블록들로 분할하도록 구성됨으로써, 본원에서 설명되는 임의의 팔레트 블록 사이즈 제한을 구현하도록 구성될 수도 있으며, 여기서, M 및 N 은 양의 정수들이며 서로 동일하거나 또는 동일하지 않을 수도 있다. 비디오 데이터의 전체 블록을 분할하는 것은 비디오 데이터의 블록의 각각의 픽셀 (예컨대, 샘플) 이 M x N 서브-블록의 부분임을 의미한다. 서브-블록의 사이즈는 하나 이상의 기준들에 의존할 수도 있다. 예를 들어, M x N 서브-블록의 사이즈는 팔레트 모드 코딩을 변환 계수 코딩과 정렬하기 위해서, 변환 계수 코딩에 사용되는 블록의 사이즈 (예컨대, TU 에서의 변환 블록의 사이즈) 에 의존할 수도 있다. 이러한 예에서, 비디오 인코더 (20) 가 4 x 4 사이즈의 블록들을 이용하여 계수 코드를 변환하도록 구성되면, 비디오 인코더 (20) 는 팔레트 모드 코딩될 비디오 데이터의 임의의 블록을 4 x 4 서브-블록들로 분할하도록 구성될 수도 있으며, 여기서, M 과 N 양쪽은 4 와 동일하다. 예를 들어, 팔레트 모드를 이용하여 64 x 64 블록을 코딩하는 대신, 비디오 인코더 (20) 는 64 x 64 블록을, 이 예에서는 256 개의 4 x 4 서브-블록들을 초래하며 각각의 서브-블록이 팔레트 모드를 이용하여 개별적으로 코딩되는 복수의 4 x 4 서브-블록들로 분할하도록 구성될 수도 있다.
다른 예에서, 하나 이상의 기준들에 의존하기보다는, M x N 서브-블록의 사이즈는 64 x 64 미만인 디폴트 사이즈일 수도 있다. 예를 들어, M x N 서브-블록의 디폴트 사이즈는 4 x 4, 8 x 8, 16 x 16, 32 x 32, 또는 64 x 64 미만인 임의의 다른 사이즈일 수도 있다. 이 예에서, 비디오 인코더 (20) 는 팔레트 모드 코딩될 비디오 데이터의 임의의 블록을 4 x 4, 8 x 8, 16 x 16, 32 x 32, 또는 64 x 64 미만인 임의의 다른 사이즈와 같은, 디폴트 사이즈로 각각 분할하도록 구성됨으로써, 본원에서 설명되는 임의의 팔레트 블록 사이즈 제한을 구현하도록 구성될 수도 있다.
일부 예들에서, M x N 서브-블록들은 임의의 스캔 순서에 따라서 스캐닝될 수도 있다. 예를 들어, 비디오 인코더 (20) 는 지그재그 스캔 순서, 수평 스캔 순서, 수직 스캔 순서, "뱀-모양" 스캔 순서 (즉, 횡단 스캔 순서), 또는 임의의 다른 스캔 순서를 이용하여 M x N 서브-블록들을 스캐닝하도록 구성될 수도 있다.
다른 예들에서, 비디오 인코더 (20) 는, 64 x 64 의 사이즈를 가지는 블록들에 대해 (예컨대, palette_mode_flag 의 신택스 엘리먼트에 대한 값을 시그널링함으로써) 팔레트 모드를 시그널링하도록 구성됨으로써, 그러나 또한, 64 x 64 미만인 M x N 서브-블록 사이즈들에 대해 다른 팔레트 관련된 정보 (예컨대, 재사용된 팔레트 엔트리들, 새로운 팔레트 엔트리들, 팔레트 테이블 사이즈, 등) 를 시그널링하도록 구성됨으로써, 본원에서 설명되는 임의의 팔레트 블록 사이즈 제한을 구현하도록 구성될 수도 있으며, 여기서, M 및 N 은 양의 정수들이며 서로 동일하거나 또는 동일하지 않을 수도 있다. 예를 들어, M x N 서브-블록 사이즈는 32 x 32 일 수도 있다. 일부 예들에서, M x N 서브-블록 사이즈는 32 x 32 가 가장 큰 변환 유닛의 사이즈에 대응하기 때문에 32 x 32 일 수도 있다. 이러한 예에서, 비디오 인코더 (20) 는, 64 x 64 의 사이즈를 가지는 블록들에 대해 팔레트 모드를 시그널링하도록 구성됨으로써, 그러나 또한, 다른 팔레트 관련된 정보를 32 x 32 서브-블록 사이즈들 (또는, 임의의 다른 M x N 서브-블록 사이즈) 로 시그널링하도록 구성됨으로써, 본원에서 설명되는 임의의 팔레트 블록 사이즈 제한을 구현하도록 구성될 수도 있다. 이는 비디오 인코더 (20) 가 팔레트 모드 블록 사이즈를 변환 유닛 블록 사이즈와 조화시키도록 구성될 수도 있는, 본원에서 설명되는 일 예이다. 일부 예들에서, M 및/또는 N 은 가장 큰 변환 유닛 사이즈에 기초할 수도 있다. 예를 들어, 가장 큰 변환 유닛 사이즈가 32 x 32 이면, M 과 N 은 양쪽 다 32 와 동일할 것이다. 64 x 64 팔레트 블록 사이즈에 대한 스캔 순서는 M x N 블록들의 각각에 대한 스캔 순서와 동일할 수도 있다.
64 x 64 의 팔레트 블록 사이즈를 포함하는 일 예에서, 비디오 인코더는 이 64 x 64 사이즈의 팔레트 블록에 대해 팔레트 모드를 시그널링하도록 구성될 수도 있다. 따라서, 비디오 인코더는 각각의 M x N 서브-블록에 대해 다른 팔레트 관련된 정보를 시그널링하도록 구성될 수도 있다. 예를 들어, 비디오 인코더 (20) 는 각각의 M x N 서브-블록에 대해 max_palette_size 를 시그널링하도록 구성될 수도 있다.
다른 예들에서, 비디오 인코더 (20) 는 인덱스 값들 및/또는 이스케이프 값들의 최장 런 길이를 T 의 임계값 미만으로 제한하도록 구성됨으로써, 본원에서 설명되는 임의의 팔레트 블록 사이즈 제한을 구현하도록 구성될 수도 있다. 이러한 예들에서, 64 x 64 팔레트 블록을 서브-블록들로 분할하기 보다는, 비디오 인코더 (20) 는 최대 런 길이를 T 의 임계값 미만으로 제한하도록 구성될 수도 있다. 최대 런 길이 값을 제한함으로써, 비디오 인코더 (20) 는 팔레트 블록을 서브-블록들로 분할함이 없이 팔레트 블록 사이즈 제한을 구현하도록 구성될 수도 있다.
일부 예들에서, T 는 가장 큰 변환 유닛 사이즈와 동일할 수도 있다. 예를 들어, 가장 큰 변환 유닛 사이즈가 32 x 32 이면, T 는 32x32 와 동일할 수도 있다. 64 x 64 팔레트 블록에 대한 수평 횡단 스캔 순서 및 32 x 32 의 T 값을 수반하는 예가 이하 설명된다. 이 예에서는 팔레트 블록을 32 x 32 사분면들 (예컨대, 인덱스 값에 뒤따르는, 32 x 32 마이너스 1 과 같은, T 미만인 런 길이) 로 프로세싱하는 대신, 비디오 인코더 (20) 는 64 x 64 팔레트 블록을 그대로 프로세싱하지만, 최대 런 길이를 32 x 32 마이너스 1 과 같은, T 의 값 미만인 값으로 제한할 수도 있다.
일부 예들에서, 비디오 인코더 (20) 는 본원에서 설명되는 임의의 팔레트 블록 사이즈 제한을 구현하기 위한 적합성 비트스트림 제한으로 구성될 수도 있다. 예를 들어, 적합한 (conformant) 비트스트림 제한은 적합한 비트스트림이 T 의 임계값 이상인 런 길이 값을 포함하지 않아야 한다는 것일 수도 있다.
도 2 는 본 개시물의 기법들을 구현할 수도 있는 예시적인 비디오 인코더 (20) 를 예시하는 블록도이다. 도 2 는 설명의 목적들을 위해 제공되며, 본 개시물에서 넓게 예시되고 설명된 바와 같은 기법들의 한정으로 간주되지 않아야 한다. 설명의 목적을 위해, 본 개시물은 HEVC 코딩의 상황에서 비디오 인코더 (20) 를 기술한다. 그러나, 본 개시물의 기법들은 다른 코딩 표준들 또는 방법들에도 적용가능할 수도 있다.
비디오 인코더 (20) 는 본 개시물에서 설명된 여러 예들에 따른, 팔레트-기반의 코딩을 위한 기법들을 수행하도록 구성될 수도 있는 디바이스의 일 예를 나타낸다.
도 2 의 예에서, 비디오 인코더 (20) 는 블록 인코딩 유닛 (100), 비디오 데이터 메모리 (101), 잔차 발생 유닛 (102), 변환 프로세싱 유닛 (104), 양자화 유닛 (106), 역양자화 유닛 (108), 역변환 프로세싱 유닛 (110), 복원 유닛 (112), 필터 유닛 (114), 디코딩된 픽처 버퍼 (116), 및 엔트로피 인코딩 유닛 (118) 을 포함한다. 블록 인코딩 유닛 (100) 은 인터-예측 프로세싱 유닛 (120) 및 인트라-예측 프로세싱 유닛 (126) 을 포함한다. 인터-예측 프로세싱 유닛 (120) 은 모션 추정 유닛 및 모션 보상 유닛 (미도시) 을 포함한다. 비디오 인코더 (20) 는 또한 본 개시물에서 설명된 팔레트-기반의 코딩 기법들의 여러 양태들을 수행하도록 구성된 팔레트-기반 인코딩 유닛 (122) 을 포함한다. 다른 예들에서, 비디오 인코더 (20) 는 더 많거나, 더 적거나, 또는 상이한 기능적 구성요소들을 포함할 수도 있다.
비디오 데이터 메모리 (101) 는 비디오 인코더 (20) 의 구성요소들에 의해 인코딩될 비디오 데이터를 저장할 수도 있다. 비디오 데이터 메모리 (101) 에 저장된 비디오 데이터는 예를 들어, 비디오 소스 (18) 로부터 획득될 수도 있다. 디코딩된 픽처 버퍼 (116) 는 예컨대, 인트라- 또는 인터-코딩 모드들에서 비디오 인코더 (20) 에 의해 비디오 데이터를 인코딩할 때에 사용하기 위해 참조 비디오 데이터를 저장하는 참조 픽처 메모리일 수도 있다. 비디오 데이터 메모리 (101) 및 디코딩된 픽처 버퍼 (116) 는 동기 DRAM (SDRAM) 을 포함한 동적 랜덤 액세스 메모리 (DRAM), 자기저항 RAM (MRAM), 저항 RAM (RRAM), 또는 다른 유형들의 메모리 디바이스들과 같은, 다양한 메모리 디바이스들 중 임의의 메모리 디바이스에 의해 형성될 수도 있다. 비디오 데이터 메모리 (101) 및 디코딩된 픽처 버퍼 (116) 는 동일한 메모리 디바이스 또는 별개의 메모리 디바이스들에 의해 제공될 수도 있다. 여러 예들에서, 비디오 데이터 메모리 (101) 는 비디오 인코더 (20) 의 다른 구성요소들과의 온칩, 또는 그들 구성요소들에 대한 오프-칩일 수도 있다.
비디오 인코더 (20) 는 비디오 데이터를 수신할 수도 있다. 비디오 인코더 (20) 는 비디오 데이터의 픽처의 슬라이스에서의 각각의 CTU 를 인코딩할 수도 있다. CTU들의 각각은 픽처의 동일-사이즈의 루마 코딩 트리 블록들 (CTB들) 및 대응하는 CTB들과 연관될 수도 있다. CTU 를 인코딩하는 것의 일부분으로서, 블록 인코딩 유닛 (100) 은 쿼드-트리 파티셔닝을 수행하여, CTU 의 CTB들을 계속해서-더 작은 블록들로 분할할 수도 있다. 더 작은 블록은 CU들의 코딩 블록들일 수도 있다. 예를 들어, 블록 인코딩 유닛 (100) 은 CTU 와 연관되는 CTB 를 4개의 동일-사이즈로된 서브-블록들로 파티셔닝하고, 서브-블록들 중 하나 이상을 4개의 동일-사이즈로된 서브-서브-블록들로, 그리고 기타 등등으로 파티셔닝할 수도 있다.
비디오 인코더 (20) 는 CU들의 인코딩된 표현들 (즉, 코딩된 CU들) 을 발생하기 위해 CTU 의 CU들을 인코딩할 수도 있다. CU 를 인코딩하는 것의 일부분으로서, 블록 인코딩 유닛 (100) 은 CU 의 하나 이상의 PU들 중에서 CU 와 연관되는 코딩 블록들을 파티셔닝할 수도 있다. 따라서, 각각의 PU 는 루마 예측 블록 및 대응하는 크로마 예측 블록들과 연관될 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 는 여러 사이즈들을 가지는 PU들을 지원할 수도 있다. 위에서 나타낸 바와 같이, CU 의 사이즈는 CU 의 루마 코딩 블록의 사이즈를 지칭할 수도 있으며, PU 의 사이즈는 루마 PU 의 예측 블록의 사이즈를 지칭할 수도 있다. 특정의 CU 의 사이즈가 2Nx2N 이라고 가정하면, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 인트라 예측에 대해서는 2Nx2N 또는 NxN 의 PU 사이즈들을, 그리고 인터 예측에 대해서는 2Nx2N, 2NxN, Nx2N, NxN, 또는 등등의 대칭 PU 사이즈들을 지원할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 는 또한 인터 예측에 대해서 2NxnU, 2NxnD, nLx2N, 및 nRx2N 의 PU 사이즈들에 대한 비대칭적인 파티셔닝을 지원할 수도 있다.
인터-예측 프로세싱 유닛 (120) 은 CU 의 각각의 PU 에 대해 인터 예측을 수행함으로써, PU 에 대한 예측 데이터를 발생시킬 수도 있다. PU 에 대한 예측 데이터는 PU 의 예측 블록들 및 PU 에 대한 모션 정보를 포함할 수도 있다. 인터-예측 유닛 (121) 은 PU 가 I 슬라이스, P 슬라이스, 또는 B 슬라이스 내에 있는지에 따라서, CU 의 PU 에 대해 상이한 동작들을 수행할 수도 있다. I 슬라이스에서, 모든 PU들은 인트라 예측된다. 그러므로, PU 가 I 슬라이스에 있으면, 인터-예측 유닛 (121) 은 PU 에 대해 인터 예측을 수행하지 않는다. 따라서, I-모드에서 인코딩되는 블록들에 대해, 예측된 블록은 동일한 프레임 내에서 이전에-인코딩된 이웃하는 블록들로부터 공간 예측을 이용하여 형성된다.
PU 가 P 슬라이스 내에 있을 때, 인터-예측 프로세싱 유닛 (120) 의 모션 추정 유닛은 참조 픽처들의 리스트 (예컨대, "RefPicList0") 에서의 참조 픽처들을 PU 에 대한 참조 영역에 대해 탐색할 수도 있다. PU 에 대한 참조 영역은 PU 의 샘플 블록들에 가장 가깝게 대응하는 샘플 블록들을 포함하는, 참조 픽처 내, 영역일 수도 있다. 모션 추정 유닛은 PU 에 대한 참조 영역을 포함하는 참조 픽처의 RefPicList0 에서의 위치를 나타내는 참조 인덱스를 발생시킬 수도 있다. 게다가, 모션 추정 유닛은 PU 의 코딩 블록과, 참조 영역과 연관되는 참조 로케이션 사이의 공간 변위를 나타내는 MV 를 발생시킬 수도 있다. 예를 들어, MV 는 현재의 디코딩된 픽처에서의 좌표들로부터 참조 픽처에서의 좌표들까지 오프셋을 제공하는 2차원 벡터일 수도 있다. 모션 추정 유닛은 참조 인덱스 및 MV 를 PU 의 모션 정보로서 출력할 수도 있다. 인터-예측 프로세싱 유닛 (120) 의 모션 보상 유닛은 PU 의 모션 벡터에 의해 표시되는 참조 로케이션에서의 실제 또는 내삽된 샘플들에 기초하여, PU 의 예측 블록들을 발생시킬 수도 있다.
PU 가 B 슬라이스 내에 있으면, 모션 추정 유닛은 PU 에 대해 단방향-예측 또는 양방향-예측을 수행할 수도 있다. PU 에 대한 단방향-예측을 수행하기 위해, 모션 추정 유닛은 RefPicList0 또는 제 2 참조 픽처 리스트 ("RefPicList1") 의 참조 픽처들을 PU 에 대한 참조 영역에 대해 탐색할 수도 있다. 모션 추정 유닛은 참조 영역을 포함하는 참조 픽처의 RefPicList0 또는 RefPicList1 에서의 위치를 나타내는 참조 인덱스, PU 의 예측 블록과 참조 영역과 연관되는 참조 로케이션 사이의 공간 변위를 나타내는 MV, 및 참조 픽처가 RefPicList0 또는 RefPicList1 에 있는지 여부를 나타내는 하나 이상의 예측 방향 표시자들을, PU 의 모션 정보로서 출력할 수도 있다. 인터-예측 프로세싱 유닛 (120) 의 모션 보상 유닛은 PU 의 모션 벡터에 의해 표시되는 참조 영역에서의 실제 또는 내삽된 샘플들에 적어도 부분적으로 기초하여, PU 의 예측 블록들을 발생시킬 수도 있다.
PU 에 대한 양방향 인터예측을 수행하기 위해, 모션 추정 유닛은 RefPicList0 에서의 참조 픽처들을 PU 에 대한 참조 영역에 대해 탐색할 수도 있으며, 또한 RefPicList1 에서의 참조 픽처들을 PU 에 대한 또 다른 참조 영역에 대해 탐색할 수도 있다. 모션 추정 유닛은 참조 영역들을 포함하는 참조 픽처들의 RefPicList0 및 RefPicList1 에서의 위치들을 나타내는 참조 픽처 인덱스들을 발생시킬 수도 있다. 게다가, 모션 추정 유닛은 참조 영역들과 연관되는 참조 로케이션과 PU 의 샘플 블록 사이의 공간 변위들을 나타내는 MV들을 발생시킬 수도 있다. PU 의 모션 정보는 PU 의 참조 인덱스들 및 MV들을 포함할 수도 있다. 모션 보상 유닛은 PU 의 모션 벡터들에 의해 표시되는 참조 영역들에서의 실제 또는 내삽된 샘플들에 적어도 부분적으로 기초하여, PU 의 예측 블록들을 발생시킬 수도 있다.
본 개시물의 여러 예들에 따르면, 비디오 인코더 (20) 는 팔레트-기반의 코딩을 수행하도록 구성될 수도 있다. HEVC 프레임워크에 대해, 일 예로서, 팔레트-기반의 코딩 기법들은 CU 레벨에서 사용되도록 구성될 수도 있다. 다른 예들에서, 팔레트-기반의 비디오 코딩 기법들은 PU 레벨에서 사용되도록 구성될 수도 있다. 다른 예들에서, 팔레트-기반의 코딩 기법들은 서브-예측 유닛 (서브-PU) 레벨 (예컨대, 예측 유닛의 서브-블록) 에서 사용되도록 구성될 수도 있다. 따라서, CU 레벨의 상황에서 (본 개시물 전반에 걸쳐) 본원에서 설명되는 개시된 프로세스들 모두는, 추가적으로 또는 대안적으로, PU 레벨 또는 서브-PU 레벨에 적용할 수도 있다. 그러나, 이들 HEVC-기반의 예들은, 이러한 기법들이 독립적으로 또는 다른 기존 또는 앞으로 개발될 시스템들/표준들의 일부분으로서 동작하도록 적용될 수도 있기 때문에, 본원에서 설명하는 팔레트-기반의 비디오 코딩 기법들의 제한 또는 한정으로서, 간주되지 않아야 한다. 이들 경우들에서, 팔레트 코딩을 위한 유닛은 정사각형 블록들, 직사각형의 블록들 또는 심지어 비-직사각형 형태의 영역들일 수 있다.
팔레트-기반 인코딩 유닛 (122) 은, 예를 들어, 팔레트-기반의 인코딩 모드가 예컨대, CU 또는 PU 에 대해 선택될 때 팔레트-기반의 디코딩을 수행할 수도 있다. 예를 들어, 팔레트-기반 인코딩 유닛 (122) 은 픽셀 값들을 표시하는 엔트리들을 가지는 팔레트를 발생시키고, 비디오 데이터의 블록의 적어도 일부 위치들의 픽셀 값들을 표시하기 위해 그 팔레트에서 픽셀 값들을 선택하고, 그리고 비디오 데이터의 블록의 위치들 중 적어도 일부를 선택된 픽셀 값들에 각각 대응하는 팔레트에서의 엔트리들과 연관시키는 정보를 시그널링하도록 구성될 수도 있다. 여러 기능들이 팔레트-기반 인코딩 유닛 (122) 에 의해 수행되는 것으로 설명되지만, 이러한 기능들 중 일부 또는 모두는 다른 프로세싱 유닛들, 또는 상이한 프로세싱 유닛들의 조합에 의해 수행될 수도 있다.
본 개시물의 양태들에 따르면, 팔레트-기반 인코딩 유닛 (122) 은 본원에서 설명되는 팔레트 코딩을 위한 기법들의 임의의 조합을 수행하도록 구성될 수도 있다.
예를 들어, 팔레트-기반 인코딩 유닛 (122) 은 64 x 64 이상의 사이즈를 가지는 임의의 팔레트 블록에 대해 팔레트 모드 코딩을 디스에이블하도록 구성될 수도 있다. 다른 예들에서, 팔레트-기반 인코딩 유닛 (122) 은 팔레트 모드 코딩을 64 x 64 미만의 사이즈를 가지는 팔레트 블록들에 제한하도록 구성될 수도 있으며, 이는 팔레트 모드 코딩이 64 x 64 미만의 사이즈를 가지는 팔레트 블록들에 대해 인에이블되거나 또는 아니면 사용될 수도 있다는 것을 의미한다. 다른 예들에서, 팔레트-기반 인코딩 유닛 (122) 은 가장 큰 변환 유닛 사이즈에 기초하여 가장 큰 팔레트 블록 사이즈를 규범적으로 제한하도록 구성될 수도 있다. 다른 예로서, 팔레트-기반 인코딩 유닛 (122) 은 가장 큰 변환 유닛 사이즈를 초과하거나 또는 아니면 더 큰 사이즈를 가지는 팔레트 블록에 대해 팔레트 모드 코딩을 디스에이블하도록 구성될 수도 있다. 팔레트-기반 인코딩 유닛 (122) 은 본원에서 설명되는 팔레트 코딩을 위한 임의의 다른 기법들을 수행하도록 유사하게 구성될 수도 있다.
인트라-예측 프로세싱 유닛 (126) 은 PU 에 대해 인트라 예측을 수행함으로써, PU 에 대한 예측 데이터를 발생시킬 수도 있다. PU 에 대한 예측 데이터는 PU 에 대한 예측 블록들 및 여러 신택스 엘리먼트들을 포함할 수도 있다. 인트라-예측 프로세싱 유닛 (126) 은 I 슬라이스들, P 슬라이스들, 및 B 슬라이스들에서의 PU들에 대해 인트라 예측을 수행할 수도 있다.
PU 상에 인트라 예측을 수행하기 위해, 인트라-예측 프로세싱 유닛 (126) 은 다수의 인트라 예측 모드들을 이용하여, PU 에 대한 다수의 예측 데이터의 세트들을 발생시킬 수도 있다. 인트라-예측 프로세싱 유닛 (126) 은 이웃하는 PU들의 샘플 블록들로부터의 샘플들을 이용하여, PU 에 대한 예측 블록을 발생시킬 수도 있다. 이웃하는 PU들은 PU들, CU들, 및 CTU들에 대해 좌-우, 상-하 인코딩 순서를 가정하면, PU 의 상측에, 우상부에, 좌상부에, 또는 좌측에 있을 수도 있다. 인트라-예측 프로세싱 유닛 (126) 은 다수의 인트라 예측 모드들, 예컨대, 33개의 방향 인트라 예측 모드들을 이용할 수도 있다. 일부 예들에서, 인트라 예측 모드들의 수는 PU 와 연관되는 영역의 사이즈에 의존할 수도 있다.
블록 인코딩 유닛 (100) 은 PU들에 대해 인터-예측 프로세싱 유닛 (120) 에 의해 발생된 예측 데이터, 또는 PU들에 대해 인트라-예측 프로세싱 유닛 (126) 에 의해 발생된 예측 데이터 중에서, CU 의 PU들에 대한 예측 데이터를 선택할 수도 있다. 일부 예들에서, 블록 인코딩 유닛 (100) 은 예측 데이터의 세트들의 레이트/왜곡 메트릭들에 기초하여, CU 의 PU들에 대한 예측 데이터를 선택한다. 선택된 예측 데이터의 예측 블록들은 본원에서 선택된 예측 블록들로서 지칭될 수도 있다.
잔차 발생 유닛 (102) 은 CU 의 루마, Cb 및 Cr 코딩 블록 및 CU 의 PU들의 선택된 예측 루마, Cb 및 Cr 블록들에 기초하여, CU 의 루마, Cb 및 Cr 잔차 블록들을 발생시킬 수도 있다. 예를 들어, 잔차 발생 유닛 (102) 은 잔차 블록들에서의 각각의 샘플이 CU 의 코딩 블록에서의 샘플과 CU 의 PU 의 대응하는 선택된 예측 블록에서의 대응하는 샘플 사이의 차이와 동일한 값을 갖도록, CU 의 잔차 블록들을 발생시킬 수도 있다.
변환 프로세싱 유닛 (104) 은 쿼드-트리 파티셔닝을 수행하여, CU 와 연관되는 잔차 블록들을 CU 의 TU들과 연관되는 변환 블록들로 파티셔닝할 수도 있다. 따라서, 일부 예들에서, TU 는 루마 변환 블록 및 2개의 크로마 변환 블록들과 연관될 수도 있다. CU 의 TU들의 루마 및 크로마 변환 블록들의 사이즈들 및 위치들은 CU 의 PU들의 예측 블록들의 사이즈들 및 위치들에 기초하거나 또는 기초하지 않을 수도 있다. "잔차 쿼드-트리" (RQT) 로서 알려진 쿼드-트리 구조는 그 영역들 각각과 연관되는 노드들을 포함할 수도 있다. CU 의 TU들은 RQT 의 리프 노드들에 대응할 수도 있다.
변환 프로세싱 유닛 (104) 은 하나 이상의 변환들을 TU 의 변환 블록들에 적용함으로써, CU 의 각각의 TU 에 대한 변환 계수 블록들을 발생시킬 수도 있다. 변환 프로세싱 유닛 (104) 은 여러 변환들을 TU 와 연관되는 변환 블록에 적용할 수도 있다. 예를 들어, 변환 프로세싱 유닛 (104) 은 변환 블록에 이산 코사인 변환 (DCT), 방향성 변환, 또는 개념적으로 유사한 변환을 적용할 수도 있다. 일부 예들에서, 변환 프로세싱 유닛 (104) 은 변환 블록에 변환들을 적용하지 않는다. 이러한 예들에서, 변환 블록은 변환 계수 블록으로서 취급될 수도 있다.
양자화 유닛 (106) 은 계수 블록에서의 변환 계수들을 양자화할 수도 있다. 양자화 프로세스는 그 변환 계수들의 일부 또는 모두와 연관되는 비트 심도를 감소시킬 수도 있다. 예를 들어, n-비트 변환 계수는 양자화 동안 m-비트 변환 계수로 절사될 수도 있으며, 여기서, n 은 m 보다 더 크다. 양자화 유닛 (106) 은 CU 와 연관되는 양자화 파라미터 (QP) 값에 기초하여, CU 의 TU 와 연관되는 계수 블록을 양자화할 수도 있다. 비디오 인코더 (20) 는 CU 와 연관되는 QP 값을 조정함으로써 CU 와 연관되는 계수 블록들에 적용되는 양자화의 정도를 조정할 수도 있다. 양자화는 정보의 손실을 도입할 수도 있으며, 따라서 양자화된 변환 계수들은 원래 정밀도들보다 낮은 정밀도를 가질 수도 있다.
역양자화 유닛 (108) 및 역변환 프로세싱 유닛 (110) 은 역양자화 및 역변환들을 계수 블록에 각각 적용하여, 계수 블록으로부터 잔차 블록을 복원할 수도 있다. 복원 유닛 (112) 은 그 복원된 잔차 블록을 블록 인코딩 유닛 (100) 에 의해 발생되는 하나 이상의 예측 블록들로부터의 대응하는 샘플들에 가산하여, TU 와 연관되는 복원된 변환 블록을 생성할 수도 있다. 이렇게 CU 의 각각의 TU 에 대한 변환 블록들을 복원함으로써, 비디오 인코더 (20) 는 CU 의 코딩 블록들을 복원할 수도 있다.
필터 유닛 (114) 은 CU 와 연관되는 코딩 블록들에서 블록킹 아티팩트들을 감소시키기 위해, 하나 이상의 디블록킹 동작들을 수행할 수도 있다. 필터 유닛 (114) 은 샘플 적응 오프셋 (SAO) 필터링 및/또는 적응 루프 필터링 (ALF) 을 포함한, 다른 필터링 동작들을 수행할 수도 있다. 디코딩된 픽처 버퍼 (116) 는 필터 유닛 (114) 이 복원된 코딩 블록들에 관해 하나 이상의 디블록킹 동작들을 수행한 후 그 복원된 코딩 블록들을 저장할 수도 있다. 인터-예측 프로세싱 유닛 (120) 은 그 복원된 코딩 블록들을 포함하는 참조 픽처를 이용하여, 다른 픽처들의 PU들에 관해 인터 예측을 수행할 수도 있다. 게다가, 인트라-예측 프로세싱 유닛 (126) 은 디코딩된 픽처 버퍼 (116) 에서의 복원된 코딩 블록들을 이용하여, CU 와 동일한 픽처에서의 다른 PU들에 대해 인트라 예측을 수행할 수도 있다.
엔트로피 인코딩 유닛 (118) 은 비디오 인코더 (20) 의 다른 기능적 구성요소들로부터 데이터를 수신할 수도 있다. 예를 들어, 엔트로피 인코딩 유닛 (118) 은 양자화 유닛 (106) 으로부터 계수 블록들을 수신할 수도 있으며 블록 인코딩 유닛 (100) 으로부터 신택스 엘리먼트들을 수신할 수도 있다. 엔트로피 인코딩 유닛 (118) 은 데이터에 대해 하나 이상의 엔트로피 인코딩 동작들을 수행하여, 엔트로피-인코딩된 데이터를 발생시킬 수도 있다. 예를 들어, 엔트로피 인코딩 유닛 (118) 은 컨텍스트-적응 코딩 동작, 예컨대, CABAC 동작, 컨텍스트-적응 가변 길이 코딩 (CAVLC) 동작, V2V (변수-대-변수) 길이 코딩 동작, 신택스-기반 컨텍스트-적응 2진 산술 코딩 (SBAC) 동작, 확률 간격 파티셔닝 엔트로피 (PIPE) 코딩 동작, 지수-Golomb 인코딩 동작, 또는 또다른 유형의 엔트로피 인코딩 동작을 데이터에 대해 수행할 수도 있다. 비디오 인코더 (20) 는 엔트로피 인코딩 유닛 (118) 에 의해 발생된 엔트로피-인코딩된 데이터를 포함하는 비트스트림을 출력할 수도 있다. 예를 들어, 비트스트림은 CU 에 대한 RQT 를 나타내는 데이터를 포함할 수도 있다.
일부 예들에서, 잔차 코딩이 팔레트 코딩으로 수행되지 않는다. 따라서, 비디오 인코더 (20) 는 팔레트 코딩 모드를 이용하여 코딩할 때 변환 또는 양자화를 수행하지 않을 수도 있다. 게다가, 비디오 인코더 (20) 는 잔차 데이터와는 독립적으로 팔레트 코딩 모드를 이용하여 발생된 데이터를 엔트로피 인코딩할 수도 있다.
본 개시물의 기법들 중 하나 이상에 따르면, 비디오 인코더 (20), 구체적으로 말하면, 팔레트-기반 인코딩 유닛 (122) 은, 예측된 비디오 블록들의 팔레트-기반의 비디오 코딩을 수행할 수도 있다. 위에서 설명한 바와 같이, 비디오 인코더 (20) 에 의해 발생된 팔레트는 명시적으로 인코딩되어 비디오 디코더 (30) 로 전송되거나, 이전 팔레트 엔트리들로부터 예측되거나, 이전 픽셀 값들로부터 예측되거나, 또는 이들의 조합으로 예측될 수도 있다.
도 3 은 본 개시물의 기법들을 수행하도록 구성된 예시적인 비디오 디코더 (30) 를 예시하는 블록도이다. 도 3 은 설명의 목적들을 위해 제공되며 본 개시물에 넓게 예시되고 설명된 것과 같은 기법들에 한정하는 것이 아니다. 설명의 목적을 위해, 본 개시물은 HEVC 코딩의 컨텍스트에서의 비디오 디코더 (30) 를 기술한다. 그러나, 본 개시물의 기법들은 다른 코딩 표준들 또는 방법들에도 적용가능할 수도 있다.
인코더 (20) 와 관련하여 위에서 설명된 팔레트 코딩의 세부 사항들은 여기서 디코더 (30) 에 대해서 반복되지 않으며, 그러나, 디코더 (30) 가 인코더 (20) 와 관련하여 본원에서 설명된 임의의 인코딩 프로세스에 대해 반대인 디코딩 프로세스를 수행할 수도 있음을 알 수 있다.
예를 들어, 비디오 디코더 (30) 가 가장 큰 변환 유닛을 초과하는 사이즈를 가지는 임의의 팔레트 블록에 대해 팔레트 모드를 동적으로 디스에이블하도록 구성되거나 또는 아니면 팔레트 모드를 이용하지 않도록 구성될 수도 있음을 알 수 있다. 또한, 오직 비디오 데이터의 블록이 비디오 인코더 (20) 가 인코딩하도록 구성될 수도 있거나 및/또는 비디오 디코더 (30) 가 디코딩하도록 구성될 수도 있는 가장 큰 변환 유닛을 초과하지 않는 사이즈를 가질 때에만, 비디오 디코더 (30) 가 팔레트 모드를 이용하여 비디오 데이터의 블록을 디코딩하도록 구성될 수도 있다. 이와 유사하게, 비디오 디코더 (30) 는 오직 비디오 데이터의 블록이 가장 큰 변환 유닛을 초과하지 않는 사이즈를 가질 때에만 비디오 데이터의 블록에 대한 팔레트 모드 코딩을 인에이블하도록 구성될 수도 있다. 다른 예들에서, 비디오 디코더 (30) 는 palette_mode_flag 의 신택스 엘리먼트에 대한 값과 같은, 팔레트 모드 플래그에 대응하는 값에 기초하여, 팔레트 모드가 인에이블되는지 또는 디스에이블되는지 여부를 결정하도록 구성될 수도 있다.
다른 예로서, 비디오 디코더 (30) 는 비디오 데이터의 블록을 수신하도록 구성될 수도 있다. 비디오 디코더 (30) 는 가장 큰 변환 유닛 사이즈에 대해 블록 비디오 데이터의 사이즈를 결정하도록 구성될 수도 있다. 비디오 디코더 (30) 는 비디오 데이터의 수신된 블록이 가장 큰 변환 유닛 사이즈의 사이즈보다 클 때 비디오의 수신된 블록이 팔레트 모드 인코딩되지 않는다고 결정하도록 구성될 수도 있다.
비디오 디코더 (30) 는 본 개시물에서 설명된 여러 예들에 따른, 팔레트-기반의 코딩 및 엔트로피 코딩 (예컨대, CABAC) 을 위한 기법들을 수행하도록 구성될 수도 있는 디바이스의 일 예를 나타낸다.
도 3 의 예에서, 비디오 디코더 (30) 는 엔트로피 디코딩 유닛 (150), 비디오 데이터 메모리 (151), 블록 디코딩 유닛 (152), 역양자화 유닛 (154), 역변환 프로세싱 유닛 (156), 복원 유닛 (158), 필터 유닛 (160), 및 디코딩된 픽처 버퍼 (162) 를 포함한다. 블록 디코딩 유닛 (152) 은 모션 보상 유닛 (164) 및 인트라-예측 프로세싱 유닛 (166) 을 포함한다. 비디오 디코더 (30) 는 또한 본 개시물에서 설명된 팔레트-기반의 코딩 기법들의 여러 양태들을 수행하도록 구성된 팔레트-기반 디코딩 유닛 (165) 을 포함한다. 다른 예들에서, 비디오 디코더 (30) 는 더 많거나, 더 적거나, 또는 상이한 기능적 구성요소들을 포함할 수도 있다.
비디오 데이터 메모리 (151) 는 비디오 디코더 (30) 의 구성요소들에 의해 디코딩될, 인코딩된 비디오 비트스트림과 같은, 비디오 데이터를 저장할 수도 있다. 비디오 데이터 메모리 (151) 에 저장된 비디오 데이터는 예를 들어, 컴퓨터-판독가능 매체 (16) 로부터, 예컨대, 카메라와 같은 로컬 비디오 소스로부터, 비디오 데이터의 유선 또는 무선 네트워크 통신을 통해서, 또는 물리적인 데이터 저장 매체들에 액세스함으로써 획득될 수도 있다. 비디오 데이터 메모리 (151) 는 인코딩된 비디오 비트스트림으로부터 인코딩된 비디오 데이터를 저장하는 코딩된 픽처 버퍼 (CPB) 를 형성할 수도 있다. 디코딩된 픽처 버퍼 (162) 는 예컨대, 인트라- 또는 인터-코딩 모드들에서 비디오 디코더 (30) 에 의해 비디오 데이터를 디코딩할 때에 사용하기 위해 참조 비디오 데이터를 저장하는 참조 픽처 메모리일 수도 있다. 비디오 데이터 메모리 (151) 및 디코딩된 픽처 버퍼 (162) 는 동기 DRAM (SDRAM) 을 포함한 동적 랜덤 액세스 메모리 (DRAM), 자기저항 RAM (MRAM), 저항 RAM (RRAM), 또는 다른 유형들의 메모리 디바이스들과 같은, 다양한 메모리 디바이스들 중 임의의 메모리 디바이스에 의해 형성될 수도 있다. 비디오 데이터 메모리 (151) 및 디코딩된 픽처 버퍼 (162) 는 동일한 메모리 디바이스 또는 별개의 메모리 디바이스들에 의해 제공될 수도 있다. 여러 예들에서, 비디오 데이터 메모리 (151) 는 비디오 디코더 (30) 의 다른 구성요소들과의 온칩, 또는 그들 구성요소들에 대한 오프-칩일 수도 있다.
코딩된 픽처 버퍼 (CPB) 는 비트스트림의 인코딩된 비디오 데이터 (예컨대, NAL 유닛들) 를 수신하여 저장할 수도 있다. 엔트로피 디코딩 유닛 (150) 은 CPB 로부터 인코딩된 비디오 데이터 (예컨대, NAL 유닛들) 를 수신하고 NAL 유닛들을 파싱하여, 신택스 엘리먼트들을 디코딩할 수도 있다. 엔트로피 디코딩 유닛 (150) 은 NAL 유닛들에서의 엔트로피-인코딩된 신택스 엘리먼트들을 엔트로피 디코딩할 수도 있다. 블록 디코딩 유닛 (152), 역양자화 유닛 (154), 역변환 프로세싱 유닛 (156), 복원 유닛 (158), 및 필터 유닛 (160) 은 비트스트림으로부터 추출된 신택스 엘리먼트들에 기초하여, 디코딩된 비디오 데이터를 발생시킬 수도 있다.
비디오 디코더 (30) 는 본원에서 설명되는 비디오 인코더 (20) 의 프로세스와는 일반적으로 반대인 프로세스를 수행하도록 구성될 수도 있다. 이와 유사하게, 비디오 인코더 (20) 는 본원에서 설명되는 비디오 디코더 (20) 의 프로세스와는 일반적으로 반대인 프로세스를 수행하도록 구성될 수도 있다. 예를 들어, 비디오 디코더 (30) 가 인코딩된 신택스 엘리먼트를 비트스트림으로 디코딩하도록 구성될 수도 있는 개시는, 물론 마찬가지로 비디오 인코더 (20) 가 신택스 엘리먼트를 비트스트림으로 인코딩하도록 구성될 수도 있다는 것을 개시한다.
다른 예로서, 엔트로피 디코딩 유닛 (150) 은 본원에서 설명되는 엔트로피 인코딩 유닛 (118) 의 프로세스와는 일반적으로 반대인 프로세스를 수행하도록 구성될 수도 있다. 본 개시물의 양태들에 따르면, 엔트로피 디코딩 유닛 (150) 은 엔트로피 인코딩 유닛 (118) 에 의해 발생된 임의의 코드 워드들을 엔트로피 디코딩하도록 구성될 수도 있다.
비트스트림의 NAL 유닛들은 코딩된 슬라이스 NAL 유닛들을 포함할 수도 있다. 비트스트림을 디코딩하는 것의 일부분으로서, 엔트로피 디코딩 유닛 (150) 은 코딩된 슬라이스 NAL 유닛들로부터 신택스 엘리먼트들을 추출하여 엔트로피 디코딩할 수도 있다. 코딩된 슬라이스들 각각은 슬라이스 헤더 및 슬라이스 데이터를 포함할 수도 있다. 슬라이스 헤더는 슬라이스에 관련된 신택스 엘리먼트들을 포함할 수도 있다. 슬라이스 헤더에서의 신택스 엘리먼트들은 슬라이스를 포함하는 픽처와 연관되는 PPS 를 식별하는 신택스 엘리먼트를 포함할 수도 있다.
비트스트림으로부터 신택스 엘리먼트들을 디코딩하는 것에 더해서, 비디오 디코더 (30) 는 비파티셔닝된 CU 에 대해 복원 동작을 수행할 수도 있다. 비-파티셔닝된 CU 에 대해 복원 동작을 수행하기 위해, 비디오 디코더 (30) 는 CU 의 각각의 TU 에 대해 복원 동작을 수행할 수도 있다. CU 의 각각의 TU 에 대해 복원 동작을 수행함으로써, 비디오 디코더 (30) 는 CU 의 잔차 블록들을 복원할 수도 있다.
CU 의 TU 에 대해 복원 동작을 수행하는 것의 일부분으로서, 역양자화 유닛 (154) 은 TU 와 연관되는 계수 블록들을 역양자화할 수도 있다, 즉, 양자화 해제할 수도 있다. 역양자화 유닛 (154) 은 TU 의 CU 와 연관되는 QP 값을 이용하여, 적용할 역양자화 유닛 (154) 에 대한 양자화의 정도 및 이와 유사하게, 역양자화의 정도를 결정할 수도 있다. 즉, 압축 비, 즉, 원래 시퀀스 및 압축된 시퀀스를 표현하는데 사용되는 비트수의 비는, 변환 계수들을 양자화할 때 사용되는 QP 의 값을 조정함으로써 제어될 수도 있다. 압축 비는 또한 채용되는 엔트로피 코딩의 방법에 의존할 수도 있다.
역양자화 유닛 (154) 이 계수 블록을 역양자화한 후, 역변환 프로세싱 유닛 (156) 은 TU 와 연관되는 잔차 블록을 발생하기 위해, 하나 이상의 역변환들을 계수 블록에 적용할 수도 있다. 예를 들어, 역변환 프로세싱 유닛 (156) 은 역 DCT, 역 정수 변환, 역 Karhunen-Loeve 변환 (KLT), 역 회전 변환, 역 방향 변환, 또는 또 다른 역변환을 계수 블록에 적용할 수도 있다.
PU 가 인트라 예측을 이용하여 인코딩되면, 인트라-예측 프로세싱 유닛 (166) 은 인트라 예측을 수행하여, PU 에 대한 예측 블록들을 발생시킬 수도 있다. 인트라-예측 프로세싱 유닛 (166) 은 공간적으로-이웃하는 PU들의 예측 블록들에 기초하여, PU 에 대한 예측 루마, Cb, 및 Cr 블록들을 발생시키기 위해, 인트라-예측 모드를 이용할 수도 있다. 인트라-예측 프로세싱 유닛 (166) 은 비트스트림으로부터 디코딩된 하나 이상의 신택스 엘리먼트들에 기초하여, PU 에 대한 인트라 예측 모드를 결정할 수도 있다.
블록 디코딩 유닛 (152) 은 비트스트림으로부터 추출된 신택스 엘리먼트들에 기초하여, 제 1 참조 픽처 리스트 (RefPicList0) 및 제 2 참조 픽처 리스트 (RefPicList1) 를 구성할 수도 있다. 더욱이, PU 가 인터 예측을 이용하여 인코딩되면, 엔트로피 디코딩 유닛 (150) 은 PU 에 대한 모션 정보를 추출할 수도 있다. 모션 보상 유닛 (164) 은 PU 의 모션 정보에 기초하여, PU 에 대한 하나 이상의 참조 영역들을 결정할 수도 있다. 모션 보상 유닛 (164) 은 PU 에 대한 하나 이상의 참조 블록들에서의 샘플들 블록들에 기초하여, PU 에 대한 예측 루마, Cb 및 Cr 블록들을 발생시킬 수도 있다.
복원 유닛 (158) 은 CU 의 루마, Cb, 및 Cr 코딩 블록들을 복원하기 위해, 적용가능한 경우, CU 의 TU들과 연관되는 루마, Cb, 및 Cr 변환 블록들 및 CU 의 PU들의 예측 루마, Cb, 및 Cr 블록들, 즉, 인트라-예측 데이터 또는 인터-예측 데이터를 이용할 수도 있다. 예를 들어, 복원 유닛 (158) 은 루마, Cb 및 Cr 변환 블록들의 샘플들을 예측 루마, Cb 및 Cr 블록들의 대응하는 샘플들에 추가하여, CU 의 루마, Cb 및 Cr 코딩 블록들을 복원할 수도 있다.
필터 유닛 (160) 은 CU 의 루마, Cb 및 Cr 코딩 블록들과 연관되는 블록킹 아티팩트들을 감소시키기 위해 디블록킹 동작을 수행할 수도 있다. 비디오 디코더 (30) 는 CU 의 루마, Cb, 및 Cr 코딩 블록들을 디코딩된 픽처 버퍼 (162) 에 저장할 수도 있다. 디코딩된 픽처 버퍼 (162) 는 후속 모션 보상, 인트라 예측, 및 도 1 의 디스플레이 디바이스 (32) 와 같은 디스플레이 디바이스 상에의 프리젠테이션을 위해, 참조 픽처들을 제공할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 디코딩 픽처 버퍼 (162) 에서의 루마, Cb, 및 Cr 블록들에 기초하여, 다른 CU들의 PU들에 대해 인트라 예측 또는 인터 예측 동작들을 수행할 수도 있다.
본 개시물의 여러 예들에 따르면, 비디오 디코더 (30) 는 팔레트-기반의 코딩을 수행하도록 구성될 수도 있다. 팔레트-기반 디코딩 유닛 (165) 은, 예를 들어, 팔레트-기반의 디코딩 모드가 예컨대, CU 또는 PU 에 대해 선택될 때 팔레트-기반의 디코딩을 수행할 수도 있다. 예를 들어, 팔레트-기반 디코딩 유닛 (165) 은 픽셀 값들을 표시하는 엔트리들을 가지는 팔레트를 발생시키고, 비디오 데이터의 블록에서의 적어도 일부 픽셀 위치들을 팔레트에서의 엔트리들과 연관시키는 정보를 수신하고, 그 정보에 기초하여 팔레트에서 픽셀 값들을 선택하고, 그리고 팔레트에서의 선택된 픽셀 값들에 기초하여 블록의 픽셀 값들을 복원하도록 구성될 수도 있다. 여러 기능들이 팔레트-기반 디코딩 유닛 (165) 에 의해 수행되는 것으로 설명되지만, 이러한 기능들 중 일부 또는 모두는 다른 프로세싱 유닛들, 또는 상이한 프로세싱 유닛들의 조합에 의해 수행될 수도 있다.
팔레트-기반 디코딩 유닛 (165) 은 팔레트 코딩 모드 정보를 수신하고, 팔레트 코딩 모드가 그 블록에 적용된다고 팔레트 코딩 모드 정보가 표시할 때 상기 동작을 수행할 수도 있다. 팔레트 코딩 모드가 블록에 적용되지 않는다고 팔레트 코딩 모드 정보가 표시할 때, 또는 다른 모드 정보가 상이한 모드의 사용을 표시할 때, 팔레트-기반 디코딩 유닛 (165) 은, 비디오 데이터의 블록을 예컨대, 이러한 HEVC 인터-예측 또는 인트라-예측 코딩 모드와 같은, 비-팔레트 기반의 코딩 모드를 이용하여 디코딩한다. 비디오 데이터의 블록은 예를 들어, HEVC 코딩 프로세스에 따라서 발생된 CU 또는 PU 일 수도 있다. 팔레트-기반의 코딩 모드는 복수의 상이한 팔레트-기반의 코딩 모드들 중 하나를 포함할 수도 있거나, 또는 단일 팔레트-기반의 코딩 모드가 있을 수도 있다.
본 개시물의 양태들에 따르면, 팔레트-기반 디코딩 유닛 (165) 은 본원에서 설명되는 팔레트 코딩을 위한 기법들의 임의의 조합을 수행하도록 구성될 수도 있다. 인코더 (20) 와 관련하여 위에서 설명된 팔레트 코딩의 세부 사항들은 여기서 디코더 (30) 에 대해서 반복되지 않으며, 그러나, 디코더 (30) 가 인코더 (20) 와 관련하여 본원에서 설명되는 임의의 팔레트-기반의 인코딩 프로세스에 대해 반대인 팔레트-기반의 디코딩 프로세스를 수행할 수도 있음을 알 수 있다.
도 4 는 본 개시물의 기법들에 따른, 비디오 데이터를 코딩하기 위한 팔레트를 결정하는 일 예를 예시하는 개념도이다. 도 4 의 예는 제 1 팔레트들 (184) 과 연관되는 제 1 PAL (팔레트) 코딩 유닛 (CU) (180), 및 제 2 팔레트들 (192) 과 연관되는 제 2 PAL CU (188) 를 가지는 픽처 (178) 를 포함한다. 아래에서 더욱더 자세하게 설명되는 바와 같이, 그리고 본 개시물의 기법들에 따르면, 제 2 팔레트들 (192) 은 제 1 팔레트들 (184) 에 기초한다. 픽처 (178) 는 또한 인트라-예측 코딩 모드로 코딩되는 블록 (196), 및 인터-예측 코딩 모드로 코딩되는 블록 (200) 을 포함한다.
도 4 의 기법들은 설명의 목적들을 위해 비디오 인코더 (20) (도 1 및 도 2) 및 비디오 디코더 (30) (도 1 및 도 3) 의 상황에서, 그리고 HEVC 비디오 코딩 표준과 관련하여 설명된다. 그러나, 본 개시물의 기법들이 이러한 방법으로 제한되지 않으며 다른 비디오 코딩 프로세스들 및/또는 표준들에서의 다른 비디오 코딩 프로세서들 및/또는 디바이스들에 의해 적용될 수도 있는 것으로 이해되어야 한다.
일반적으로, 팔레트는 현재 코딩중인 CU, 도 4 의 예에서 CU (188) 에 지배적이거나 및/또는 대표적인 다수의 픽셀 값들을 지칭한다. (인덱스들 (184) 로서 또한 지칭될 수도 있는) 제 1 팔레트들 (184) 및 (인덱스들 (192) 로서 또한 지칭될 수도 있는) 제 2 팔레트들 (192) 은 (다수의 인덱스들로서 또한 지칭될 수도 있는) 다수의 팔레트들을 포함하는 것으로 도시된다. 일부 예들에서, 본 개시물의 양태들에 따르면, (비디오 인코더 (20) 또는 비디오 디코더 (30) 와 같은) 비디오 코더는 CU 의 각각의 칼라 성분에 대해 별개로 팔레트들 (예컨대, 인덱스들) 을 코딩할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 CU 의 루마 (Y) 성분에 대한 팔레트, CU 의 크로마 (U) 성분에 대한 다른 팔레트, 및 CU 의 크로마 (V) 성분에 대한 또 다른 팔레트를 인코딩할 수도 있다. 이 예에서, Y 팔레트의 엔트리들은 CU 의 픽셀들의 Y 값들을 나타낼 수도 있으며, U 팔레트의 엔트리들은 CU 의 픽셀들의 U 값들을 나타낼 수도 있으며, V 팔레트의 엔트리들은 CU 의 픽셀들의 V 값들을 나타낼 수도 있다.
다른 예들에서, 비디오 인코더 (20) 는 CU 의 모든 칼라 성분들에 대해 단일 팔레트를 인코딩할 수도 있다. 이 예에서, 비디오 인코더 (20) 는 Yi, Ui, 및 Vi 를 포함하는, 삼중 값인 i-번째 엔트리를 가지는 팔레트를 인코딩할 수도 있다. 이 경우, 팔레트는 픽셀들의 구성요소들의 각각에 대한 값들을 포함한다. 따라서, 다수의 개개의 팔레트들을 가지는 팔레트들의 세트로서의 팔레트들 (184 및 192) 의 표현은 단지 일 예이며 제한하려는 것이 아니다.
도 4 의 예에서, 제 1 팔레트들 (184) 은 엔트리 인덱스 값 1, 엔트리 인덱스 값 2, 및 엔트리 인덱스 값 3 을 각각 가지는 3개의 엔트리들 (202-206) 을 포함한다. 제 1 팔레트들 (184) 은 인덱스 값들 (예컨대, 제 1 팔레트들 (184) 의 좌측 칼럼에 나타낸 값들) 을 픽셀 값들에 관련시킨다. 예를 들어, 도 4 에 나타낸 바와 같이, 제 1 팔레트들 (184) 중 하나는 인덱스 값들 1, 2, 및 3 을 픽셀 값들 A, B, 및 C 에 각각 관련시킨다. 앞에서 설명한 바와 같이, 제 1 CU (180) 의 실제 픽셀 값들을 코딩하기 보다는, (비디오 인코더 (20) 또는 비디오 디코더 (30) 와 같은) 비디오 코더는 (인덱스 값들 1-3 으로서 또한 표현될 수도 있는) 인덱스들 1-3 을 이용하여 블록의 픽셀들을 코딩하기 위해 팔레트-기반의 코딩을 이용할 수도 있다. 즉, 제 1 CU (180) 의 각각의 픽셀 위치에 대해, 비디오 인코더 (20) 는 픽셀에 대한 인덱스 값을 인코딩할 수도 있으며, 인덱스 값은 제 1 팔레트들 (184) 중 하나 이상에서의 픽셀 값과 연관된다. 비디오 디코더 (30) 는 비트스트림으로부터 인덱스 값들을 획득하고, 인덱스 값들 및 제 1 팔레트들 (184) 중 하나 이상을 이용하여 픽셀 값들을 복원할 수도 있다. 따라서, 제 1 팔레트들 (184) 은 비디오 인코더 (20) 에 의해, 팔레트-기반의 디코딩에서 비디오 디코더 (30) 에 의한 이용을 위한 인코딩된 비디오 데이터 비트스트림으로 송신된다.
일부 예들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 제 1 팔레트들 (184) 에 기초하여 제 2 팔레트들 (192) 을 결정할 수도 있다. 예를 들어, 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 는 예측 팔레트들, 이 예에서는, 제 1 팔레트들 (184) 이 결정되는 하나 이상의 블록들을 로케이트할 수도 있다. 도 4 에 예시된 예와 같은, 일부 예들에서, 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 는 제 2 CU (188) 에 대한 예측 팔레트를 결정할 때 좌측 이웃하는 CU (제 1 CU (180)) 와 같은 이전에 코딩된 CU 를 로케이트할 수도 있다.
도 4 의 예에서, 제 2 팔레트들 (192) 은 엔트리 인덱스 값 1, 엔트리 인덱스 값 2, 및 엔트리 인덱스 값 3 을 각각 가지는 3개의 엔트리들 (208-212) 을 포함한다. 제 2 팔레트들 (192) 은 인덱스 값들 (예컨대, 제 1 팔레트들 (192) 의 좌측 칼럼에 나타낸 값들) 을 픽셀 값들에 관련시킨다. 예를 들어, 도 4 에 나타낸 바와 같이, 제 2 팔레트들 (192) 중 하나는 인덱스 값들 1, 2, 및 3 을 픽셀 값들 A, B, 및 D 에 각각 관련시킨다. 이 예에서, 비디오 인코더 (20) 는 어느 제 1 팔레트들 (184) 의 엔트리들이 제 2 팔레트들 (192) 에 포함되는지를 표시하는 하나 이상의 신택스 엘리먼트들을 코딩할 수도 있다. 도 4 의 예에서, 하나 이상의 신택스 엘리먼트들이 벡터 (216) 로서 예시된다. 벡터 (216) 는 다수의 연관된 빈들 (또는, 비트들) 을 가지며, 각각의 빈은 그 빈과 연관된 팔레트 예측자가 현재의 팔레트의 엔트리를 예측하는데 사용되는지 여부를 표시한다. 예를 들어, 벡터 (216) 는 제 1 팔레트들 (184) (202 및 204) 의 첫번째 2개의 엔트리들이 제 2 팔레트들 (192) 에 포함되며 (벡터 (216) 에서 "1" 의 값), 반면 제 1 팔레트들 (184) 의 제 3 엔트리가 제 2 팔레트들 (192) 에 포함되지 않는다 (벡터 (216) 에서 "0" 의 값) 는 것을 표시한다. 도 4 의 예에서, 벡터는 불린 벡터이다.
일부 예들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 팔레트 예측을 수행할 때 (팔레트 예측자 테이블로서 또한 지칭될 수도 있는) 팔레트 예측자 리스트를 결정할 수도 있다. 팔레트 예측자 리스트는 현재의 블록을 코딩하기 위한 팔레트의 하나 이상의 엔트리들을 예측하는데 사용되는 하나 이상의 이웃하는 블록들의 팔레트들로부터의 엔트리들을 포함할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 는 리스트를 동일한 방법으로 구성할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 는 어느 팔레트 예측자 리스트의 엔트리들이 현재의 블록을 코딩하기 위한 팔레트에 포함되어야 하는지를 표시하기 위해 (벡터 (216) 와 같은) 데이터를 코딩할 수도 있다.
도 5 는 본 개시물의 기법들에 따른, 픽셀들의 블록에 대해 팔레트로의 인덱스들을 결정하는 일 예를 예시하는 개념도이다. 예를 들어, 도 5 는 팔레트들 (244) 의 엔트리로의 인덱스 값들과 연관된 픽셀들의 개별 위치들에 관련되는 인덱스 값들 (예컨대, 인덱스 값들 1, 2, 및 3) 을 포함하는 (맵 (240) 또는 인덱스 맵 (240) 으로서 또한 지칭될 수도 있는) 인덱스 블록 (240) 을 포함한다.
도 5 의 예에서 인덱스 블록 (240) 이 각각의 픽셀 위치에 대한 인덱스 값을 포함하는 것으로 예시되지만, 다른 예들에서, 모든 픽셀 위치들이 픽셀 값을 팔레트들 (244) 의 엔트리에 관련시키는 인덱스 값과 연관되는 것은 아닌 것으로 이해되어야 한다. 즉, 위에서 언급한 바와 같이, 일부 예들에서, 비디오 인코더 (20) 는 픽셀 값이 팔레트들 (244) 에 포함되지 않으면 인덱스 블록 (240) 에서의 위치에 대한 실제 픽셀 값 (또는, 그의 양자화된 버전) 의 표시를 인코딩할 수도 있다 (비디오 디코더 (30) 는 인코딩된 비트스트림으로부터, 획득할 수도 있다).
일부 예들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 어느 픽셀 위치들이 어느 인덱스 값들과 연관되는지를 표시하는 추가적인 맵을 코딩하도록 구성될 수도 있다. 예를 들어, 인덱스 블록 (240) 에서의 (i, j) 엔트리가 CU 의 (i, j) 위치에 대응한다고 가정한다. 비디오 인코더 (20) 는 엔트리가 연관된 인덱스 값을 가지는지 여부를 표시하는 인덱스 블록 (즉, 각각의 픽셀 위치) 의 각각의 엔트리에 대해 하나 이상의 신택스 엘리먼트들을 인코딩할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 CU 에서 (i, j) 로케이션에서의 픽셀 값이 팔레트들 (244) 에서의 값들 중 하나임을 표시하기 위해 1 의 값을 가지는 플래그를 인코딩할 수도 있다.
비디오 인코더 (20) 는 이러한 예에서, 또한 (도 5 의 예에서 244 로 나타낸) 팔레트를 인코딩할 수도 있다. 팔레트들 (244) 이 단일 엔트리 및 연관된 픽셀 값을 포함하는 경우에, 비디오 인코더 (20) 는 인덱스 값의 시그널링을 스킵할 수도 있다. 비디오 인코더 (20) 는 CU 에서 (i, j) 로케이션에서의 픽셀 값이 팔레트들 (244) 에서의 값들 중 하나가 아니라는 것을 표시하기 위해 0 의 값을 갖도록 플래그를 인코딩할 수도 있다. 이 예에서, 비디오 인코더 (20) 는 또한 픽셀 값을 복원할 때에 비디오 디코더 (30) 에 의한 사용을 위해 픽셀 값의 표시를 인코딩할 수도 있다. 일부의 경우, 픽셀 값은 손실 방식으로 코딩될 수도 있다.
CU 의 하나의 위치에서의 픽셀의 값은 CU 의 다른 위치들에서의 하나 이상의 다른 픽셀들의 값들의 표시를 제공할 수도 있다. 예를 들어, (하나 보다 많은 픽셀 값이 단일 인덱스 값에 맵핑될 수도 있는 손실 코딩의 경우에) CU 의 이웃하는 픽셀 위치들이 동일한 픽셀 값을 가지거나 또는 동일한 인덱스 값에 맵핑될 수도 있는 상대적으로 높은 확률이 존재할 수도 있다.
따라서, 비디오 인코더 (20) 는 동일한 픽셀 값 또는 인덱스 값을 가지는, 주어진 스캔 순서에서 다수의 연속된 픽셀들 또는 인덱스 값들을 표시하는 하나 이상의 신택스 엘리먼트들을 인코딩할 수도 있다. 위에서 언급한 바와 같이, 유사한-값의 픽셀 또는 인덱스 값들의 스트링은 본원에서 런으로서 지칭될 수도 있다. 예시의 목적을 위한 예에서, 주어진 스캔 순서에서 2개의 연속된 픽셀들 또는 인덱스들이 상이한 값들을 가지면, 런은 0 과 동일하다. 주어진 스캔 순서에서 2개의 연속된 픽셀들 또는 인덱스들이 동일한 값을 갖지만 스캔 순서에서 제 3 픽셀 또는 인덱스가 상이한 값을 가지면, 런은 1 과 동일하다. 동일한 값을 가지는 3개의 연속된 인덱스들 또는 픽셀들에 대해, 런은 2, 등이다. 비디오 디코더 (30) 는 인코딩된 비트스트림으로부터, 런을 표시하는 신택스 엘리먼트들을 획득하고 그 데이터를 이용하여 동일한 픽셀 또는 인덱스 값을 가지는 연속된 로케이션들의 개수를 결정할 수도 있다.
본 개시물의 기법들에 따른 일부 예들에서, 엔트로피 인코딩 유닛 (118) 및 엔트로피 디코딩 유닛 (150) 은 인덱스 블록 (240) 을 엔트로피 코딩하도록 구성될 수도 있다. 예를 들어, 인코딩 유닛 (118) 및 엔트로피 디코딩 유닛 (150) 은 팔레트 모드에서의 인덱스 블록에 관련된 2진 팔레트 예측 벡터 및/또는 런-길이들 (예컨대, 런-길이 값들 또는 코드들) 을 엔트로피 코딩하도록 구성될 수도 있다.
도 6 은 본 개시물의 기법들에 따른, 래스터 스캐닝 순서의 예를 가정하여, 최대 상부 복사 런-길이를 결정하는 일 예를 예시하는 개념도이다. 도 6 의 예에서, 파선들 (280) 로 둘러싸인 픽셀들 중 어느 것도 이스케이프 샘플로서 코딩되지 않으면, 최대 가능한 런-길이는 35 (즉, 음영이 없는 픽셀 위치들의 개수) 이다. 파선들 (280) 내 픽셀들 중 하나 이상이 이스케이프 샘플로서 코딩되는 경우, 이스케이프 픽셀로서 표시된 픽셀 ("X" 를 가진 픽셀 위치) 이 스캐닝 순서에서 파선들 (280) 내 제 1 이스케이프 픽셀이라고 가정하면, 최대 가능한 코딩된 상부 복사 런-길이는 5 이다.
일부 예들에서, 비디오 디코더 (30) 는 단지 파선들 (280) 내 픽셀들에 대한 런 모드 (예컨대, 픽셀들이 코딩되는 팔레트 모드) 를 결정할 수도 있다. 따라서, 최악의 경우, 비디오 디코더 (30) 는 BlockWidth-1 개의 픽셀들을 결정한다. 일부 예들에서, 비디오 디코더 (30) 는 런 모드가 체크되는 픽셀들의 최대 개수에 관한 어떤 제한들을 구현하도록 구성될 수도 있다. 예를 들어, 비디오 디코더 (30) 는 픽셀들이 현재의 픽셀과 동일한 로우에 있으면, 단지 파선들 (280) 내 픽셀들을 체크할 수도 있다. 비디오 디코더 (30) 는 파선들 (280) 내 모든 다른 픽셀들이 이스케이프 샘플들로서 코딩되지 않는다고 추론할 수도 있다. 도 6 에서의 예는 래스터 스캐닝 순서를 가정한다. 그러나, 본 기법들은 수직, 수평 횡단, 및 수직 횡단과 같은 다른 스캐닝 순서들에 적용될 수도 있다.
도 7 은 본 개시물의 기법들에 따른, 비디오 데이터를 인코딩하는 예시적인 프로세스를 예시하는 플로우차트이다. 도 7 의 프로세스는 예시의 목적을 위해 비디오 인코더 (예컨대, 비디오 디코더 (20)) 에 의해 수행되는 것으로 일반적으로 설명되지만, 다양한 다른 프로세서들이 또한 도 7 에 나타낸 프로세스를 실행할 수도 있다. 일부 예들에서, 블록 인코딩 유닛 (100), 팔레트-기반 인코딩 유닛 (122), 및/또는 엔트로피 인코딩 유닛 (118) 은 도 7 에 나타낸 하나 이상의 프로세스들을 수행할 수도 있다.
도 7 의 예에서, 비디오 인코더 (예컨대, 비디오 디코더 (20)) 는 사이즈를 가지는 비디오 데이터의 블록을 수신하도록 구성될 수도 있다 (700). 비디오 인코더는 비디오 데이터의 블록의 사이즈를 결정하도록 구성될 수도 있다 (702). 비디오 인코더는 비디오 데이터의 블록의 결정된 사이즈에 기초하여 비디오 데이터의 블록에 대한 팔레트 모드 인코딩을 디스에이블하도록 구성될 수도 있다 (704).
일부 예들에서, 비디오 인코더는 팔레트 모드 인코딩을, 제 2 사이즈 미만인 제 1 사이즈를 가지는 비디오 데이터의 임의의 블록으로 제한하도록 구성될 수도 있다. 일부 예들에서, 제 1 사이즈는 32x32일 수도 있다. 일부 예들에서, 제 2 사이즈는 64 x 64 일 수도 있다. 이러한 예들에서, 비디오 인코더는 팔레트 모드를, 64 x 64 미만인 제 1 사이즈를 가지는 비디오 데이터의 임의의 블록으로 제한하도록 구성될 수도 있다. 일부 예들에서, 제 1 사이즈는 32x32 일 수도 있으며 제 2 사이즈는 64x64 일 수도 있다.
일부 예들에서, 비디오 인코더는 팔레트 모드 인코딩을, 비디오 데이터에 대해 규정된 가장 큰 변환 유닛의 사이즈 이하인 제 1 사이즈를 가지는 비디오 데이터의 임의의 블록으로 제한하도록 구성될 수도 있다. 가장 큰 변환 유닛의 사이즈는 32 x 32 일 수도 있다. 이러한 예에서, 비디오 인코더는 팔레트 모드 코딩을, 32 x 32 이하인 제 1 사이즈를 가지는 비디오 데이터의 임의의 블록으로 제한하도록 구성될 수도 있다.
일부 예들에서, 비디오 인코더는 비디오 데이터의 블록을 복수의 4 x 4 서브-블록들로 분할하도록 구성될 수도 있다. 이러한 예들에서, 비디오 인코더는 팔레트 모드를 이용하여, 복수의 4 x 4 서브-블록들을 인코딩하도록 구성될 수도 있다.
일부 예들에서, 비디오 인코더는, 오직 팔레트 모드 인코딩에서의 임의의 런 길이 값이 최대 런 길이 값으로 제한되지 않을 때에만 비디오 데이터의 블록의 결정된 사이즈에 기초하여 팔레트 모드 인코딩이 비디오 데이터의 블록에 대해 디스에이블되도록, 팔레트 모드 인코딩에서의 임의의 런 길이 값을 최대 런 길이 값으로 제한하도록 구성될 수도 있다. 일 예에서, 최대 런 길이 값은 32x32 마이너스 1 이다. 다른 예에서, 최대 런 길이는 가장 큰 변환 유닛의 사이즈에 기초한다. 이 예에서, 가장 큰 변환 유닛의 사이즈가 32x32 이면, 최대 런 길이는 32x32 마이너스 1 과 같이, 32x32 미만일 수도 있다. 다른 예에서, 최대 런 길이는 가장 큰 변환 유닛에서의 계수들의 수에 기초한다.
본원에서 설명되는 기법들 모두가 개별적으로 또는 조합하여 사용될 수도 있는 것으로 이해되어야 한다. 예를 들어, 비디오 인코더 (20) 및/또는 하나 이상의 그의 구성요소들 및 비디오 디코더 (30) 및/또는 하나 이상의 그의 구성요소들은 본 개시물에서 설명하는 기법들을 임의의 조합으로 수행할 수도 있다.
그 예에 따라서, 본원에서 설명되는 기법들 중 임의의 기법의 어떤 행위들 또는 이벤트들이 상이한 시퀀스로 수행될 수 있으며, 추가되거나, 병합되거나, 또는 모두 제외시킬 수도 있는 (예컨대, 모든 설명되는 행위들 또는 이벤트들이 기법들의 실시에 필수적인 것은 아닌) 것으로 인식되어야 한다. 더욱이, 어떤 예들에서, 행위들 또는 이벤트들은 순차적으로 보다는, 동시에, 예컨대, 멀티-쓰레드된 프로세싱, 인터럽트 프로세싱, 또는 다수의 프로세서들을 통해서 수행될 수도 있다. 게다가, 본 개시물의 어떤 양태들이 명료성의 목적들을 위해 단일 모듈 또는 유닛에 의해 수행되는 것으로 설명되지만, 본 개시물의 기법들은 비디오 코더와 연관되는 유닛들 또는 모듈들의 결합에 의해 수행될 수도 있는 것으로 이해되어야 한다.
본 개시물의 어떤 양태들은 예시의 목적을 위해 개발중인 HEVC 표준에 대해서 설명되었다. 그러나, 본 개시물에서 설명하는 기법들은 아직 개발되지 않은 다른 표준 또는 독점 비디오 코딩 프로세스들을 포함한, 다른 비디오 코딩 프로세스들에 유용할 수도 있다.
위에서 설명된 기법들은 비디오 인코더 (20) (도 1 및 도 2) 및/또는 비디오 디코더 (30) (도 1 및 도 3) 에 의해 수행될 수도 있으며, 이 비디오 인코더와 디코더는 비디오 코더로서 일반적으로 지칭될 수도 있다. 이와 유사하게, 비디오 코딩은 적용가능한 경우, 비디오 인코딩 또는 비디오 디코딩을 지칭할 수도 있다.
본 개시물에 따르면, 용어 "또는" 은 문맥이 달리 지시하지 않는 한 "및/또는" 로서 중단될 (interrupted) 수도 있다. 게다가, "하나 이상의" 또는 "적어도 하나의" 또는 기타 등등과 같은 어구들이 본원에서 개시된 일부 특징들에 대해 사용되었지만 다른 것들에 대해서는 사용되지 않았을 수도 있다; 이러한 용어가 사용되지 않은 특징들은 문맥이 달리 지시하지 않는 한 그러한 의미를 내포하는 것으로 해석될 수도 있다.
본 기법들의 여러 양태들의 특정의 조합들이 위에서 설명되지만, 이들 조합들은 단지 본 개시물에서 설명하는 기법들의 예들을 예시하기 위해 제공된다. 따라서, 본 개시물의 기법들은 이들 예시적인 조합들에 한정되지 않아야 하며 본 개시물에서 설명하는 기법들의 여러 양태들의 임의의 상상가능한 조합을 포괄할 수도 있다.
하나 이상의 예들에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현되는 경우, 그 기능들은 하나 이상의 명령들 또는 코드로서, 컴퓨터-판독가능 매체 상에 저장되거나 또는 컴퓨터-판독가능 매체를 통해서 송신될 수도 있으며, 하드웨어-기반의 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터-판독가능 매체는 데이터 저장 매체들과 같은 유형의 매체에 대응하는 컴퓨터-판독가능 저장 매체들, 또는 예를 들어, 통신 프로토콜에 따라서 한 장소로부터 다른 장소로의 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 통신 매체들을 포함할 수도 있다. 이런 방법으로, 컴퓨터-판독가능 매체들은 일반적으로 (1) 비일시적 유형의 컴퓨터-판독가능 저장 매체, 또는 (2) 신호 또는 캐리어 파와 같은 통신 매체에 대응할 수도 있다. 데이터 저장 매체는 본 개시물에서 설명하는 기법들의 구현을 위한 명령들, 코드 및/또는 데이터 구조들을 취출하기 위해 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 가용 매체들일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터-판독가능 매체를 포함할 수도 있다.
일 예로서, 이에 한정하지 않고, 이런 컴퓨터-판독가능 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광디스크 스토리지, 자기디스크 스토리지, 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 원하는 프로그램 코드를 명령들 또는 데이터 구조들의 형태로 저장하는데 사용될 수 있고 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터-판독가능 매체로 적절히 지칭된다. 예를 들어, 동축 케이블, 광섬유 케이블, 연선, 디지털 가입자 회선 (DSL), 또는 무선 기술들, 예컨대 적외선, 라디오, 및 마이크로파를 이용하여 명령들이 웹사이트, 서버, 또는 다른 원격 소스로부터 송신되는 경우, 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 무선 기술들 예컨대 적외선, 라디오, 및 마이크로파가 그 매체의 정의에 포함된다. 그러나, 컴퓨터-판독가능 저장 매체 및 데이터 저장 매체는 접속부들, 반송파들, 신호들, 또는 다른 일시성 매체를 포함하지 않고, 그 대신, 비-일시성 유형의 저장 매체로 송신되는 것으로 해석되어야 한다. 디스크 (disk) 및 디스크 (disc) 는, 본원에서 사용할 때, 컴팩트 디스크 (CD), 레이저 디스크, 광 디스크, 디지털 다기능 디스크 (DVD), 플로피 디스크 및 블루-레이 디스크를 포함하며, 디스크들 (disks) 은 데이터를 자기적으로 보통 재생하지만, 디스크들 (discs) 은 레이저로 데이터를 광학적으로 재생한다. 앞에서 언급한 것들의 결합들이 또한 컴퓨터-판독가능 매체들의 범위 내에 포함되어야 한다.
명령들은 하나 이상의 디지털 신호 프로세서들 (DSP들), 범용 마이크로프로세서들, 주문형 집적회로들 (ASIC들), 필드 프로그래밍가능 게이트 어레이들 (FPGA들), 또는 다른 등가의 집적 또는 이산 로직 회로와 같은, 하나 이상의 프로세서들에 의해 실행될 수도 있다. 따라서, 용어 "프로세서" 는, 본원에서 사용될 때 전술한 구조 중 임의의 구조 또는 본원에서 설명하는 기법들의 구현에 적합한 임의의 다른 구조를 지칭할 수도 있다. 게다가, 일부 양태들에서, 본원에서 설명하는 기능은 전용 하드웨어 및/또는 인코딩 및 디코딩을 위해 구성되는 소프트웨어 모듈들 내에 제공되거나, 또는 결합된 코덱에 포함될 수도 있다. 또한, 이 기법들은 하나 이상의 회로들 또는 로직 엘리먼트들로 전적으로 구현될 수 있다.
본 개시물의 기법들은 무선 핸드셋, 집적 회로 (IC) 또는 IC들의 세트 (예컨대, 칩 세트) 를 포함한, 매우 다양한 디바이스들 또는 장치들로 구현될 수도 있다. 개시한 기법들을 수행하도록 구성되는 디바이스들의 기능적 양태들을 강조하기 위해서 여러 구성요소들, 모듈들, 또는 유닛들이 본 개시물에서 설명되지만, 상이한 하드웨어 유닛들에 의한 실현을 반드시 필요로 하지는 않는다. 대신, 위에서 설명한 바와 같이, 여러 유닛들이 코덱 하드웨어 유닛에 결합되거나 또는 적합한 소프트웨어 및/또는 펌웨어와 함께, 위에서 설명한 바와 같은 하나 이상의 프로세서들을 포함한, 상호작용하는 하드웨어 유닛들의 컬렉션으로 제공될 수도 있다.
여러 예들이 본원에서 설명되었다. 설명된 시스템들, 동작들, 기능들, 또는 예들의 임의의 조합이 고려된다. 이들 및 다른 예들은 다음 청구항들의 범위 이내이다.

Claims (40)

  1. 비디오 데이터를 인코딩하는 방법으로서,
    사이즈를 가지는 비디오 데이터의 블록을 수신하는 단계 (700);
    상기 수신하는 단계 (700) 에 기초하여 상기 비디오 데이터의 블록의 상기 사이즈를 결정하는 단계 (702); 및
    가장 큰 변환 유닛의 사이즈 미만인 최대 런 길이 값 또는 32x32 마이너스 1 인 최대 런 길이 값에 대해,
    상기 비디오 데이터의 블록을 팔레트 모드 인코딩하는 경우 상기 비디오 데이터의 블록에 대한 임의의 런 길이 값을 상기 최대 런 길이 값으로 제한하는 단계; 또는
    상기 비디오 데이터의 블록에 대한 임의의 런 길이 값이 상기 최대 런 길이 값으로 제한되지 않는다면, 상기 비디오 데이터의 블록의 결정된 상기 사이즈가 상기 가장 큰 변환 유닛의 사이즈를 초과하는 경우 상기 비디오 데이터의 블록에 대한 팔레트 모드 인코딩을 디스에이블하는 단계 (704)
    중 하나의 단계를 포함하는, 비디오 데이터를 인코딩하는 방법.
  2. 제 1 항에 있어서,
    상기 가장 큰 변환 유닛의 상기 사이즈는 32x32 인, 비디오 데이터를 인코딩하는 방법.
  3. 비디오 데이터를 인코딩하는 장치로서,
    사이즈를 가지는 비디오 데이터의 블록을 수신하는 수단;
    상기 수신하는 것에 기초하여 상기 비디오 데이터의 블록의 상기 사이즈를 결정하는 수단; 및
    가장 큰 변환 유닛의 사이즈 미만인 최대 런 길이 값 또는 32x32 마이너스 1 인 최대 런 길이 값에 대해,
    상기 비디오 데이터의 블록을 팔레트 모드 인코딩하는 경우 상기 비디오 데이터의 블록에 대한 임의의 런 길이 값을 상기 최대 런 길이 값으로 제한하는 수단; 또는
    상기 비디오 데이터의 블록에 대한 임의의 런 길이 값이 상기 최대 런 길이 값으로 제한되지 않는다면, 상기 비디오 데이터의 블록의 결정된 상기 사이즈가 상기 가장 큰 변환 유닛의 사이즈를 초과하는 경우 상기 비디오 데이터의 블록에 대한 팔레트 모드 인코딩을 디스에이블하는 수단
    중 하나의 수단을 포함하는, 비디오 데이터를 인코딩하는 장치.
  4. 제 3 항에 있어서,
    상기 가장 큰 변환 유닛의 상기 사이즈는 32x32 인, 비디오 데이터를 인코딩하는 장치.
  5. 명령들을 저장하고 있는 비일시적 컴퓨터-판독가능 저장 매체로서,
    상기 명령들은, 실행될 때, 하나 이상의 프로세서들로 하여금,
    사이즈를 가지는 비디오 데이터의 블록을 수신하게 하고;
    상기 수신하는 것에 기초하여 상기 비디오 데이터의 블록의 상기 사이즈를 결정하게 하고; 그리고
    가장 큰 변환 유닛의 사이즈 미만인 최대 런 길이 값 또는 32x32 마이너스 1 인 최대 런 길이 값에 대해,
    상기 비디오 데이터의 블록을 팔레트 모드 인코딩하는 경우 상기 비디오 데이터의 블록에 대한 임의의 런 길이 값을 상기 최대 런 길이 값으로 제한하게 하는 것; 또는
    상기 비디오 데이터의 블록에 대한 임의의 런 길이 값이 상기 최대 런 길이 값으로 제한되지 않는다면, 상기 비디오 데이터의 블록의 결정된 상기 사이즈가 상기 가장 큰 변환 유닛의 사이즈를 초과하는 경우 상기 비디오 데이터의 블록에 대한 팔레트 모드 인코딩을 디스에이블하게 하는 것
    중 하나를 행하게 하는, 비일시적 컴퓨터-판독가능 저장 매체.
  6. 삭제
  7. 삭제
  8. 삭제
  9. 삭제
  10. 삭제
  11. 삭제
  12. 삭제
  13. 삭제
  14. 삭제
  15. 삭제
  16. 삭제
  17. 삭제
  18. 삭제
  19. 삭제
  20. 삭제
  21. 삭제
  22. 삭제
  23. 삭제
  24. 삭제
  25. 삭제
  26. 삭제
  27. 삭제
  28. 삭제
  29. 삭제
  30. 삭제
  31. 삭제
  32. 삭제
  33. 삭제
  34. 삭제
  35. 삭제
  36. 삭제
  37. 삭제
  38. 삭제
  39. 삭제
  40. 삭제
KR1020177021966A 2015-02-10 2016-02-10 비디오 코딩에서의 팔레트 블록 사이즈에 대한 제한 KR102142181B1 (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201562114537P 2015-02-10 2015-02-10
US62/114,537 2015-02-10
US15/019,086 US20160234494A1 (en) 2015-02-10 2016-02-09 Restriction on palette block size in video coding
US15/019,086 2016-02-09
PCT/US2016/017258 WO2016130622A2 (en) 2015-02-10 2016-02-10 Restriction on palette block size in video coding

Publications (2)

Publication Number Publication Date
KR20170116026A KR20170116026A (ko) 2017-10-18
KR102142181B1 true KR102142181B1 (ko) 2020-08-06

Family

ID=56567241

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020177021966A KR102142181B1 (ko) 2015-02-10 2016-02-10 비디오 코딩에서의 팔레트 블록 사이즈에 대한 제한

Country Status (12)

Country Link
US (1) US20160234494A1 (ko)
EP (1) EP3257246B1 (ko)
JP (2) JP6749925B2 (ko)
KR (1) KR102142181B1 (ko)
CN (1) CN107211148B (ko)
AU (1) AU2016219428B2 (ko)
EA (1) EA037461B1 (ko)
ES (1) ES2770664T3 (ko)
HU (1) HUE047519T2 (ko)
TN (1) TN2017000327A1 (ko)
TW (1) TWI705697B (ko)
WO (1) WO2016130622A2 (ko)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106716999B (zh) * 2014-06-20 2019-08-09 寰发股份有限公司 用于视频编码的调色板预测器信令的方法
KR102394153B1 (ko) 2017-09-11 2022-05-09 주식회사 만도 통합형 ｅｃｕ
CN107948659B (zh) * 2017-11-21 2020-07-31 天津大学 针对游戏视频内容的hevc-scc自适应能耗控制策略
CN108566328B (zh) * 2018-01-18 2021-03-02 北京三快在线科技有限公司 数据传输方法、装置、介质及电子设备
US10694195B2 (en) * 2018-03-07 2020-06-23 Tencent America LLC Methods and apparatus for palette coding
AU2018217336A1 (en) * 2018-08-17 2020-03-05 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding a transformed block of video samples
US10652537B1 (en) * 2018-11-21 2020-05-12 Alibaba Group Holding Limited Coding unit size adaptive palette mode for video compression system
US10924750B2 (en) * 2019-03-01 2021-02-16 Alibaba Group Holding Limited Palette size constraint in palette mode for video compression system
CN114466185A (zh) * 2019-04-25 2022-05-10 北京达佳互联信息技术有限公司 使用调色板模式进行视频编解码的方法和装置
WO2021023262A1 (en) 2019-08-06 2021-02-11 Beijing Bytedance Network Technology Co., Ltd. Using screen content coding tool for video encoding and decoding
CN114342400A (zh) 2019-09-02 2022-04-12 北京字节跳动网络技术有限公司 基于色彩格式的编解码模式确定
WO2021050226A1 (en) 2019-09-12 2021-03-18 Alibaba Group Holding Limited Method and apparatus for encoding or decoding video
CN114424543A (zh) 2019-09-12 2022-04-29 阿里巴巴集团控股有限公司 用于发送视频编解码信息的方法和装置
KR102649584B1 (ko) 2019-09-21 2024-03-21 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 크로마 인트라 모드에 기초한 크기 제한
US11683489B2 (en) * 2019-12-26 2023-06-20 Qualcomm Incorporated Monochrome palette mode for video coding
WO2021142446A1 (en) * 2020-01-11 2021-07-15 Beijing Dajia Internet Information Technology Co., Ltd. Methods and apparatus of video coding using palette mode
US11184632B2 (en) * 2020-01-20 2021-11-23 Tencent America LLC Method and apparatus for palette based coding mode under local dual tree structure
JP7442673B2 (ja) * 2020-04-10 2024-03-04 北京字節跳動網絡技術有限公司 ビデオコーディングにおけるスキップブロックの変換のための最小許容量子化
CN112153475B (zh) 2020-09-25 2022-08-05 北京字跳网络技术有限公司 用于生成文字模式的视频的方法、装置、设备和介质

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8243340B2 (en) * 2006-02-23 2012-08-14 Microsoft Corporation Pre-processing of image data for enhanced compression
CN102088604B (zh) * 2011-02-10 2013-06-26 深圳创维数字技术股份有限公司 一种影片缩略图的压缩方法及压缩装置
CN104244007B (zh) * 2013-06-13 2020-09-01 上海天荷电子信息有限公司 一种图像编码方法和装置及解码方法和装置
US9558567B2 (en) * 2013-07-12 2017-01-31 Qualcomm Incorporated Palette prediction in palette-based video coding
CN104853209B (zh) * 2014-02-16 2020-09-29 同济大学 图像编码、解码方法及装置
CA2950818C (en) * 2014-06-20 2020-12-22 Hfi Innovation Inc. Method and apparatus of binarization and context-adaptive coding for syntax in video coding
CN106716999B (zh) * 2014-06-20 2019-08-09 寰发股份有限公司 用于视频编码的调色板预测器信令的方法
US10051277B2 (en) * 2014-11-06 2018-08-14 Mediatek Inc. Method for sub-block based palette coding

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
T-D Chuang et al : "CE1-related: Index map scan for 64x64 palette coding block', JCTVC-T0058, 31 January 2015.
Wang W et al., "Non-CE5: CU dependent color palette maximum size", JCTVC-S0201, 9 October 2014.

Also Published As

Publication number Publication date
ES2770664T3 (es) 2020-07-02
HUE047519T2 (hu) 2020-04-28
EA201791564A1 (ru) 2017-12-29
AU2016219428A1 (en) 2017-07-27
JP6749925B2 (ja) 2020-09-02
US20160234494A1 (en) 2016-08-11
TWI705697B (zh) 2020-09-21
WO2016130622A2 (en) 2016-08-18
WO2016130622A3 (en) 2016-10-27
AU2016219428B2 (en) 2019-08-29
CN107211148A (zh) 2017-09-26
TN2017000327A1 (en) 2019-01-16
KR20170116026A (ko) 2017-10-18
JP2018509071A (ja) 2018-03-29
CN107211148B (zh) 2020-08-04
EP3257246B1 (en) 2019-11-06
BR112017017139A2 (pt) 2018-04-03
JP2020162144A (ja) 2020-10-01
TW201639364A (zh) 2016-11-01
EP3257246A2 (en) 2017-12-20
EA037461B1 (ru) 2021-03-30

Similar Documents

Publication Publication Date Title
KR102142181B1 (ko) 비디오 코딩에서의 팔레트 블록 사이즈에 대한 제한
EP3350997B1 (en) Restriction of escape pixel signaled values in palette mode video coding
EP3308542B1 (en) Grouping palette bypass bins for video coding
KR101977450B1 (ko) 팔레트 코딩 모드에서의 비디오 블록의 이스케이프 픽셀들의 양자화
KR102478411B1 (ko) 서브샘플링 포맷을 위한 팔레트 모드
KR102344232B1 (ko) 비디오 코딩을 위한 런 길이 코드를 이용한 팔레트 예측자 시그널링
KR102205328B1 (ko) 팔레트-기반 비디오 코딩에서 팔레트 인덱스들의 결정
KR102338145B1 (ko) 팔레트 모드 인코딩 및 디코딩 설계
US10097837B2 (en) Palette run hiding in palette-based video coding
EP3158747A1 (en) Single color palette mode in video coding
KR20170110084A (ko) 고 스루풋 cabac 코딩을 위한 팔레트 인덱스 그루핑
US9961351B2 (en) Palette mode coding
OA18393A (en) Restriction on palette block size in video coding.
NZ737096B2 (en) Grouping palette bypass bins for video coding

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right