KR20210018490A - 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들 - Google Patents

루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들 Download PDF

Info

Publication number
KR20210018490A
KR20210018490A KR1020217000755A KR20217000755A KR20210018490A KR 20210018490 A KR20210018490 A KR 20210018490A KR 1020217000755 A KR1020217000755 A KR 1020217000755A KR 20217000755 A KR20217000755 A KR 20217000755A KR 20210018490 A KR20210018490 A KR 20210018490A
Authority
KR
South Korea
Prior art keywords
block
ibc
ctu
current
current block
Prior art date
Application number
KR1020217000755A
Other languages
English (en)
Other versions
KR102431537B1 (ko
Inventor
한 가오
세미흐 에센릭
뱌오 왕
아난드 메허 코트라
젠러 천
Original Assignee
후아웨이 테크놀러지 컴퍼니 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 후아웨이 테크놀러지 컴퍼니 리미티드 filed Critical 후아웨이 테크놀러지 컴퍼니 리미티드
Priority to KR1020227027003A priority Critical patent/KR102596735B1/ko
Publication of KR20210018490A publication Critical patent/KR20210018490A/ko
Application granted granted Critical
Publication of KR102431537B1 publication Critical patent/KR102431537B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139—Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/43—Hardware specially adapted for motion estimation or compensation
    • H04N19/433—Hardware specially adapted for motion estimation or compensation characterised by techniques for memory access
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91—Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

디코딩 디바이스에 의해 구현되는 코딩의 방법으로서, 디코딩될 현재 CTU(coding tree unit)가 CTU 행의 제1 CTU일 때, IBC(intra block copy) 참조를 위한 전용 버퍼를 초기화하는 단계, 현재 CTU에서의 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하는 단계, 현재 블록이 IBC 모드를 사용하여 예측될 때 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계, 및, 전용 버퍼로부터의 참조 샘플들 및 현재 블록에 대한 IBC 블록 벡터에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함한다.

Description

루마 및 크로마 성분에 대한 IBC 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들
<관련 출원들에 대한 상호 참조>
본 출원은, 미국 특허 상표청에, 2019년 5월 16일자로 출원된 미국 가출원 제62/849,119호로부터의, 그리고, 유럽 특허청에, 2019년 6월 13일자로 출원된 국제 특허 출원 제PCT/EP2019/065540호로부터의 우선권을 주장하며, 그 개시내용들은 그 전체가 본 명세서에 참조로 포함된다.
<기술 분야>
본 출원의 실시예들은 일반적으로 화상 처리 분야에 관련되고, 특히 IBC 전용 버퍼를 사용하는 인코더, 디코더 및 대응하는 방법들에 관련된다.
비디오 코딩(비디오 인코딩 및 디코딩)은 광범위한 디지털 비디오 애플리케이션들, 예를 들어 방송 디지털 TV, 인터넷 및 모바일 네트워크들을 통한 비디오 송신, 비디오 채팅과 같은 실시간 대화 애플리케이션들, 비디오 회의, DVD 및 Blu-ray 디스크들, 비디오 콘텐츠 취득 및 편집 시스템들, 및 보안 애플리케이션들의 캠코더들에서 사용된다.
심지어 비교적 짧은 비디오를 묘사하기 위해 필요한 비디오 데이터의 양은 상당할 수 있으며, 이는 데이터가 대역폭 용량이 제한된 통신 네트워크에 걸쳐 스트리밍되거나 또는 달리 통신되어야 할 때 어려움들을 초래할 수 있다. 따라서, 비디오 데이터는 현대의 통신 네트워크들에 걸쳐 통신되기 전에 일반적으로 압축된다. 메모리 리소스들이 제한될 수 있기 때문에 비디오가 저장 디바이스 상에 저장될 때 비디오의 크기가 또한 쟁점일 수 있다. 비디오 압축 디바이스들은 소스에서 소프트웨어 및/또는 하드웨어를 종종 사용하여 송신 또는 저장 전에 비디오 데이터를 코딩하고, 그렇게 함으로써 디지털 비디오 이미지를 표현하기 위해 필요한 데이터의 수량을 감소시킨다. 비디오 데이터를 디코딩하는 비디오 압축해제 디바이스에 의해 목적지에서 압축된 데이터가 다음으로 수신된다. 네트워크 리소스들이 제한되고 더 높은 비디오 품질의 요구들이 계속 증가함에 따라, 화상 품질에서의 희생이 거의 없이 또는 전혀 없이 압축 비율을 개선하는 개선된 압축 및 압축해제 기법들이 바람직하다.
본 출원의 실시예들은 독립 청구항들에 따른 인코딩 및 디코딩을 위한 장치들 및 방법들을 제공한다.
전술한 그리고 다른 목적들이 독립 청구항들의 주제에 의해 달성된다. 추가의 구현 형태들이 종속 청구항들, 설명 및 도면들로부터 명백하다.
본 개시내용의 제1 실시예는 디코딩 디바이스에 의해 구현되는 코딩의 방법을 제공하고, 이는, 디코딩될 현재 CTU(coding tree unit)가 CTU 행의 제1 CTU일 때, IBC(intra block copy) 참조를 위한 전용 버퍼를 초기화하는 단계, 현재 CTU에서의 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하는 단계, 현재 블록이 IBC 모드를 사용하여 예측될 때 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계, 및, 전용 버퍼로부터의 참조 샘플들 및 현재 블록에 대한 IBC 블록 벡터에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함한다.
전용 버퍼로부터의 참조 샘플들은 디폴트 값으로 초기화될 수 있다. 디폴트 값은 -1일 수 있다.
본 실시예에 따른 방법은 모든 블록 벡터 검증 비트스트림 순응성 제약들을 제거한다. 이러한 것은 코딩된 비트스트림의 강건성을 증가시킨다. 게다가, 전용 IBC 버퍼가 초기화된다. 따라서, 정의되지 않은 샘플들이 회피된다.
결과적으로, IBC 블록 벡터 검증에 대한 어떠한 비트스트림 순응성도 요구되지 않는다. 또한, IBC 참조에서는 마지막 CTU 행으로부터의 어떠한 샘플도 사용되지 않는다. 이러한 경우, IBC 예측에 대해 어떠한 추가적인 라인 메모리도 필요하지 않다.
제1 실시예의 양태에 따르면, 제1 실시예에 따른 방법들 중 어느 하나를 수행하기 위한 처리 회로를 포함하는 디코더가 제공된다. 이러한 디코더는 IBC 참조 샘플을 저장하기 위한 전용 버퍼를 추가로 포함할 수 있다.
제1 실시예의 추가 양태에 따르면, 프로그램이 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금 제1 실시예에 따른 방법들 중 어느 하나를 수행하게 하는 명령어들을 포함하는 컴퓨터 프로그램 제품이 제공된다.
제1 실시예의 추가 양태에 따르면, 하나 이상의 프로세서 및 이러한 하나 이상의 프로세서에 연결되는 그리고 이러한 하나 이상의 프로세서에 의한 실행을 위한 명령어들을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체를 포함하는 디코더가 제공되고, 이러한 명령어들은, 하나 이상의 프로세서에 의해 실행될 때, 제1 실시예에 따른 방법들 중 어느 하나를 수행하도록 디코더를 구성한다.
본 개시내용의 제2 실시예는 인코딩 디바이스에 의해 구현되는 코딩의 방법을 제공하고, 이는, 인코딩될 현재 CTU(coding tree unit)가 CTU 행의 제1 CTU일 때, IBC(intra block copy) 참조를 위한 전용 버퍼를 초기화하는 단계, 이러한 전용 버퍼로부터의 참조 샘플들에 기초하여, 현재 CTU에서의 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계, 및, 이러한 현재 블록에 대한 예측된 샘플 값들에 기초하여, 현재 블록에 대한 IBC 블록 벡터를 인코딩하는 단계를 포함한다.
전용 버퍼로부터의 참조 샘플들은 디폴트 값으로 초기화될 수 있다. 디폴트 값은 -1일 수 있다.
본 실시예에 따른 방법은 모든 블록 벡터 검증 비트스트림 순응성 제약들을 제거한다. 이러한 것은 코딩된 비트스트림의 강건성을 증가시킨다. 게다가, 전용 IBC 버퍼가 초기화된다. 따라서, 정의되지 않은 샘플들이 회피된다.
결과적으로, IBC 블록 벡터 검증에 대한 어떠한 비트스트림 순응성도 요구되지 않는다. 또한, IBC 참조에서는 마지막 CTU 행으로부터의 어떠한 샘플도 사용되지 않는다. 이러한 경우, IBC 예측에 대해 어떠한 추가적인 라인 메모리도 필요하지 않다.
제2 실시예의 양태에 따르면, 제2 실시예의 방법들 중 어느 하나를 수행하기 위한 처리 회로를 포함하는 인코더가 제공된다. 이러한 인코더는 IBC 참조 샘플을 저장하기 위한 전용 버퍼를 추가로 포함할 수 있다.
제2 실시예의 추가 양태에 따르면, 프로그램이 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금 제2 실시예에 따른 방법들 중 어느 하나를 수행하게 하는 명령어들을 포함하는 컴퓨터 프로그램 제품이 제공된다.
제2 실시예의 추가 양태에 따르면, 하나 이상의 프로세서 및 이러한 하나 이상의 프로세서에 연결되는 그리고 이러한 하나 이상의 프로세서에 의한 실행을 위한 명령어들을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체를 포함하는 인코더가 제공되고, 이러한 명령어들은, 하나 이상의 프로세서에 의해 실행될 때, 제2 실시예에 따른 방법들 중 어느 하나를 수행하도록 인코더를 구성한다.
본 개시내용의 제3 실시예는 디코딩 디바이스에 의해 구현되는 코딩의 방법을 제공하고, 이는, 디코딩될 현재 코딩 블록이 CTU의 영역에서의 제1 코딩 블록일 때, CTU(coding tree unit)의 영역을 IBC(intra block copy) 참조를 위한 전용 버퍼를 초기화하는 단계, 현재 CTU에서의 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하는 단계, 현재 블록이 IBC 모드를 사용하여 예측될 때 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계, 및, 전용 버퍼로부터의 참조 샘플들 및 현재 블록에 대한 IBC 블록 벡터에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함한다.
전용 버퍼로부터의 참조 샘플들은 디폴트 값으로 초기화될 수 있다. 디폴트 값은 -1일 수 있다.
CTU의 영역은 고정된 크기의, 비-중첩 영역일 수 있다. 이러한 영역은 VPDU(virtual pipeline processing unit)일 수 있다. 이러한 영역의 크기는 64x64일 수 있다.
IBC 블록 벡터 검증에 대한 어떠한 비트스트림 순응성도 요구되지 않는다. 마지막 CTU 행으로부터의 어떠한 샘플도 IBC 참조에서 사용되지 않는다. 이러한 경우, IBC 예측에 대해 어떠한 추가적인 라인 메모리도 사용되지 않는다. 또한, IBC 참조 메모리 크기는 현재 VVC 설계에서와 동일하다, 즉, 이러한 실시예를 구현하기 위해 어떠한 추가적인 메모리도 요구되지 않는다. 현재 VPDU 참조에 대해, 전용 IBC 버퍼에 액세스할 필요가 전혀 없다.
제3 실시예의 양태에 따르면, 제3 실시예에 따른 방법들 중 어느 하나를 수행하기 위한 처리 회로를 포함하는 디코더가 제공된다. 이러한 디코더는 IBC 참조 샘플을 저장하기 위한 전용 버퍼를 추가로 포함할 수 있다.
제3 실시예의 추가 양태에 따르면, 프로그램이 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금 제3 실시예에 따른 방법들 중 어느 하나를 수행하게 하는 명령어들을 포함하는 컴퓨터 프로그램 제품이 제공된다.
제3 실시예의 추가 양태에 따르면, 하나 이상의 프로세서 및 이러한 하나 이상의 프로세서에 연결되는 그리고 이러한 하나 이상의 프로세서에 의한 실행을 위한 명령어들을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체를 포함하는 디코더가 제공되고, 이러한 명령어들은, 하나 이상의 프로세서에 의해 실행될 때, 제3 실시예에 따른 방법들 중 어느 하나를 수행하도록 디코더를 구성한다.
본 개시내용의 제4 실시예는 디코딩 디바이스에 의해 구현되는 코딩의 방법을 제공하고, 이는, 디코딩될 현재 CTU(coding tree unit)가 화상의 제1 CTU일 때, IBC(intra block copy) 참조를 위한 전용 버퍼를 초기화하는 단계, 현재 CTU에서의 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하는 단계, 현재 블록이 IBC 모드를 사용하여 예측될 때 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계, 및, 전용 버퍼로부터의 참조 샘플들 및 현재 블록에 대한 IBC 블록 벡터에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함한다.
전용 버퍼로부터의 참조 샘플들은 디폴트 값으로 초기화될 수 있다. 디폴트 값은 -1일 수 있다.
본 실시예에 따른 방법은 모든 블록 벡터 검증 비트스트림 순응성 제약들을 제거한다. 이러한 것은 코딩된 비트스트림의 강건성을 증가시킨다. 게다가, 전용 IBC 버퍼가 초기화된다. 따라서, 정의되지 않은 샘플들이 회피된다.
제4 실시예의 양태에 따르면, 제4 실시예에 따른 방법들 중 어느 하나를 수행하기 위한 처리 회로를 포함하는 디코더가 제공된다. 이러한 디코더는 IBC 참조 샘플을 저장하기 위한 전용 버퍼를 추가로 포함할 수 있다.
제4 실시예의 추가 양태에 따르면, 프로그램이 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금 제4 실시예에 따른 방법들 중 어느 하나를 수행하게 하는 명령어들을 포함하는 컴퓨터 프로그램 제품이 제공된다.
제4 실시예의 추가 양태에 따르면, 하나 이상의 프로세서 및 이러한 하나 이상의 프로세서에 연결되는 그리고 이러한 하나 이상의 프로세서에 의한 실행을 위한 명령어들을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체를 포함하는 디코더가 제공되고, 이러한 명령어들은, 하나 이상의 프로세서에 의해 실행될 때, 제4 실시예에 따른 방법들 중 어느 하나를 수행하도록 디코더를 구성한다.
본 개시내용의 제5 실시예는 디코딩 디바이스에 의해 구현되는 코딩의 방법을 제공하고, 이는, 현재 블록이 현재 CTU(coding tree unit)에서의 제1 코딩 블록일 때, IBC(intra block copy) 참조를 위한 전용 버퍼를 초기화하는 단계- CTU는 CTU 행의 제1 CTU임 -, 현재 CTU에서의 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하는 단계, 현재 블록이 IBC 모드를 사용하여 예측될 때 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계, 및, 전용 버퍼로부터의 참조 샘플들 및 현재 블록에 대한 IBC 블록 벡터에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함한다.
전용 버퍼로부터의 참조 샘플들은 디폴트 값으로 초기화될 수 있다. 디폴트 값은 -1일 수 있다.
결과적으로, IBC 블록 벡터 검증에 대한 어떠한 비트스트림 순응성도 요구되지 않는다. 또한, IBC 참조에서는 마지막 CTU 행으로부터의 어떠한 샘플도 사용되지 않는다. 이러한 경우, IBC 예측에 대해 어떠한 추가적인 라인 메모리도 필요하지 않다.
제5 실시예의 양태에 따르면, 제5 실시예에 따른 방법들 중 어느 하나를 수행하기 위한 처리 회로를 포함하는 디코더가 제공된다. 이러한 디코더는 IBC 참조 샘플을 저장하기 위한 전용 버퍼를 추가로 포함할 수 있다.
제5 실시예의 추가 양태에 따르면, 프로그램이 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금 제5 실시예에 따른 방법들 중 어느 하나를 수행하게 하는 명령어들을 포함하는 컴퓨터 프로그램 제품이 제공된다.
제5 실시예의 추가 양태에 따르면, 하나 이상의 프로세서 및 이러한 하나 이상의 프로세서에 연결되는 그리고 이러한 하나 이상의 프로세서에 의한 실행을 위한 명령어들을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체를 포함하는 디코더가 제공되고, 이러한 명령어들은, 하나 이상의 프로세서에 의해 실행될 때, 제5 실시예에 따른 방법들 중 어느 하나를 수행하도록 디코더를 구성한다.
본 개시내용의 제6 실시예는 디코딩 디바이스에 의해 구현되는 코딩의 방법을 제공하고, 이는, IBC(intra block copy) 참조를 위한 전용 버퍼를 제공하는 단계; 디코딩될 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하는 단계;
현재 블록이 IBC 모드를 사용하여 예측될 때 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계; 및 전용 버퍼로부터의 참조 샘플들 및 현재 블록에 대한 IBC 블록 벡터에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함하고; 전용 버퍼는, 현재 블록이 현재 프레임에서의 제1 CTU(coding tree unit)의 제1 코딩 블록일 때, 디폴트 값으로 초기화된다.
본 실시예에 따른 방법은 모든 블록 벡터 검증 비트스트림 순응성 제약들을 제거한다. 이러한 것은 코딩된 비트스트림의 강건성을 증가시킨다. 게다가, 전용 IBC 버퍼가 초기화된다. 따라서, 정의되지 않은 샘플들이 회피된다.
이러한 방법은, 현재 블록이 현재 프레임에서의 CTU 행의 제1 코딩 블록일 때, 전용 버퍼를 디폴트 값으로 초기화하는 단계를 추가로 포함할 수 있다.
결과적으로, IBC 블록 벡터 검증에 대한 어떠한 비트스트림 순응성도 요구되지 않는다. 또한, IBC 참조에서는 마지막 CTU 행으로부터의 어떠한 샘플도 사용되지 않는다. 이러한 경우, IBC 예측에 대해 어떠한 추가적인 라인 메모리도 필요하지 않다.
이러한 방법은, 현재 블록이 CTU의 영역에서의 제1 코딩 블록일 때, CTU의 영역을 위한 전용 버퍼를 디폴트 값으로 초기화하는 단계를 추가로 포함할 수 있다. CTU의 영역은 고정된 크기의, 비-중첩 영역일 수 있다. 이러한 영역은 특히, VPDU(virtual pipeline processing unit)일 수 있다.
IBC 블록 벡터 검증에 대한 어떠한 비트스트림 순응성도 요구되지 않는다. 마지막 CTU 행으로부터의 어떠한 샘플도 IBC 참조에서 사용되지 않는다. 이러한 경우, IBC 예측에 대해 어떠한 추가적인 라인 메모리도 사용되지 않는다. 또한, IBC 참조 메모리 크기는 현재 VVC 설계에서와 동일하다, 즉, 이러한 실시예를 구현하기 위해 어떠한 추가적인 메모리도 요구되지 않는다. 현재 VPDU 참조에 대해, 전용 IBC 버퍼에 액세스할 필요가 전혀 없다.
디폴트 값은 -1일 수 있다.
디폴트 값은 프레임들의 시퀀스에 대한 내부 비트 심도에 기초하여 획득될 수 있고, 현재 블록은 시퀀스의 블록이다.
현재 블록의 크로마 성분들이 IBC 모드를 사용하여 예측되고 현재 블록의 공동-위치된 루마 성분들이 IBC 모드를 사용하지 않고 예측될 때, 현재 블록의 크로마 성분들에 대한 IBC 블록 벡터는 디폴트 블록 벡터로 설정될 수 있다.
현재 블록은 적어도 2개의 서브-블록들을 포함할 수 있고, 서브-블록의 크로마 성분들이 IBC 모드를 사용하여 예측되고 서브-블록의 공동-위치된 루마 성분들이 IBC 모드를 사용하지 않고 예측될 때, 서브-블록의 크로마 성분들에 대한 IBC 블록 벡터는 디폴트 블록 벡터로 설정될 수 있다.
디폴트 블록 벡터는 (0, 0)일 수 있다. 현재 블록에 대한 공동-위치된 중앙 루마 샘플이 IBC 모드를 사용하여 예측될 때, 디폴트 벡터는 현재 블록에 대한 공동-위치된 중앙 루마 샘플의 IBC 블록 벡터일 수 있다.
결과적으로, 분리된 트리 경우에서 크로마 성분에 대해 추가적인 비트스트림 순응성 체크들이 회피될 수 있다.
전용 버퍼는 ((x+BVx)%W, (y+BVy)%H)에 기초하여 참조될 수 있고, x<0에 대해, x%L
Figure pct00001
L - ( -x%L)이고, 여기서 W 및 H는 전용 버퍼 크기를 표현하고, x 및 y는 현재 블록의 예측된 샘플을 표현하고, (BVx, BVy)는 현재 블록의 IBC 블록 벡터를 표현한다.
제6 실시예의 양태에 따르면, 제6 실시예에 따른 방법들 중 어느 하나를 수행하기 위한 처리 회로를 포함하는 디코더가 제공된다. 이러한 디코더는 IBC 참조 샘플을 저장하기 위한 전용 버퍼를 추가로 포함할 수 있다.
제6 실시예의 추가 양태에 따르면, 프로그램이 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금 제6 실시예에 따른 방법들 중 어느 하나를 수행하게 하는 명령어들을 포함하는 컴퓨터 프로그램 제품이 제공된다.
제6 실시예의 추가 양태에 따르면, 하나 이상의 프로세서 및 이러한 하나 이상의 프로세서에 연결되는 그리고 이러한 하나 이상의 프로세서에 의한 실행을 위한 명령어들을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체를 포함하는 디코더가 제공되고, 이러한 명령어들은, 하나 이상의 프로세서에 의해 실행될 때, 제6 실시예에 따른 방법들 중 어느 하나를 수행하도록 디코더를 구성한다.
제6 실시예의 추가 양태에 따르면, IBC(intra block copy) 참조를 위한 전용 버퍼; 디코딩될 현재 블록이 IBC 모드를 사용하여 예측되는지 여부를 결정하도록 구성되는 결정 모듈; 현재 블록이 IBC 모드를 사용하여 예측될 때, 현재 블록에 대한 IBC 블록 벡터를 획득하도록 구성되는 제1 획득 모듈; 전용 버퍼로부터의 참조 샘플들 및 현재 블록에 대한 IBC 블록 벡터에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하도록 구성되는 제2 획득 모듈; 및, 현재 블록이 현재 프레임에서의 제1 CTU(coding tree unit)의 제1 코딩 블록일 때, 전용 버퍼를 디폴트 값으로 초기화하도록 구성되는 초기화 모듈을 포함하는 디코더가 제공된다
본 개시내용의 제7 실시예는 인코딩 디바이스에 의해 구현되는 코딩의 방법을 제공하고, 이는, IBC(intra block copy) 참조를 위한 전용 버퍼를 제공하는 단계; 전용 버퍼로부터의 참조 샘플들에 기초하여, 인코딩될 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계; 및, 현재 블록에 대한 예측된 샘플 값들에 기초하여, 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계를 포함하고; 전용 버퍼는, 현재 블록이 현재 프레임에서의 제1 CTU(coding tree unit)의 제1 코딩 블록일 때, 디폴트 값으로 초기화된다.
본 실시예에 따른 방법은 모든 블록 벡터 검증 비트스트림 순응성 제약들을 제거한다. 이러한 것은 코딩된 비트스트림의 강건성을 증가시킨다. 게다가, 전용 IBC 버퍼가 초기화된다. 따라서, 정의되지 않은 샘플들이 회피된다.
이러한 방법은, 현재 블록이 현재 프레임에서의 CTU 행의 제1 코딩 블록일 때, 전용 버퍼를 디폴트 값으로 초기화하는 단계를 추가로 포함할 수 있다.
결과적으로, IBC 블록 벡터 검증에 대한 어떠한 비트스트림 순응성도 요구되지 않는다. 또한, IBC 참조에서는 마지막 CTU 행으로부터의 어떠한 샘플도 사용되지 않는다. 이러한 경우, IBC 예측에 대해 어떠한 추가적인 라인 메모리도 필요하지 않다.
이러한 방법은, 현재 블록이 CTU의 영역에서의 제1 코딩 블록일 때, CTU의 영역을 위한 전용 버퍼를 디폴트 값으로 초기화하는 단계를 추가로 포함할 수 있다. CTU의 영역은 고정된 크기의, 비-중첩 영역일 수 있다. 이러한 영역은 특히, VPDU(virtual pipeline processing unit)일 수 있다.
IBC 블록 벡터 검증에 대한 어떠한 비트스트림 순응성도 요구되지 않는다. 마지막 CTU 행으로부터의 어떠한 샘플도 IBC 참조에서 사용되지 않는다. 이러한 경우, IBC 예측에 대해 어떠한 추가적인 라인 메모리도 사용되지 않는다. 또한, IBC 참조 메모리 크기는 현재 VVC 설계에서와 동일하다, 즉, 이러한 실시예를 구현하기 위해 어떠한 추가적인 메모리도 요구되지 않는다. 현재 VPDU 참조에 대해, 전용 IBC 버퍼에 액세스할 필요가 전혀 없다.
디폴트 값은 -1일 수 있다.
디폴트 값은 프레임들의 시퀀스에 대한 내부 비트 심도에 기초하여 획득될 수 있고, 현재 블록은 시퀀스의 블록이다.
현재 블록의 크로마 성분들이 IBC 모드를 사용하여 예측되고 현재 블록의 공동-위치된 루마 성분들이 IBC 모드를 사용하지 않고 예측될 때, 현재 블록의 크로마 성분들에 대한 IBC 블록 벡터는 디폴트 블록 벡터로 설정될 수 있다.
현재 블록은 적어도 2개의 서브-블록들을 포함할 수 있고, 서브-블록의 크로마 성분들이 IBC 모드를 사용하여 예측되고 서브-블록의 공동-위치된 루마 성분들이 IBC 모드를 사용하지 않고 예측될 때, 서브-블록의 크로마 성분들에 대한 IBC 블록 벡터는 디폴트 블록 벡터로 설정될 수 있다.
디폴트 블록 벡터는 (0, 0)일 수 있다. 현재 블록에 대한 공동-위치된 중앙 루마 샘플이 IBC 모드를 사용하여 예측될 때, 디폴트 벡터는 현재 블록에 대한 공동-위치된 중앙 루마 샘플의 IBC 블록 벡터일 수 있다.
결과적으로, 분리된 트리 경우에서 크로마 성분에 대해 추가적인 비트스트림 순응성 체크들이 회피될 수 있다.
전용 버퍼는 ((x+BVx)%W, (y+BVy)%H)에 기초하여 참조될 수 있고, x<0에 대해, x%L
Figure pct00002
L - ( -x%L)이고, 여기서 W 및 H는 전용 버퍼 크기를 표현하고, x 및 y는 현재 블록의 예측된 샘플을 표현하고, (BVx, BVy)는 현재 블록의 IBC 블록 벡터를 표현한다.
제7 실시예의 양태에 따르면, 제7 실시예에 따른 방법들 중 어느 하나를 수행하기 위한 처리 회로를 포함하는 인코더가 제공된다. 이러한 인코더는 IBC 참조 샘플을 저장하기 위한 전용 버퍼를 추가로 포함할 수 있다.
제7 실시예의 추가 양태에 따르면, 프로그램이 컴퓨터에 의해 실행될 때, 컴퓨터로 하여금 제7 실시예에 따른 방법들 중 어느 하나를 수행하게 하는 명령어들을 포함하는 컴퓨터 프로그램 제품이 제공된다.
제7 실시예의 추가 양태에 따르면, 하나 이상의 프로세서 및 이러한 하나 이상의 프로세서에 연결되는 그리고 이러한 하나 이상의 프로세서에 의한 실행을 위한 명령어들을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체를 포함하는 인코더가 제공되고, 이러한 명령어들은, 하나 이상의 프로세서에 의해 실행될 때, 제7 실시예에 따른 방법들 중 어느 하나를 수행하도록 인코더를 구성한다.
제7 실시예의 추가 양태에 따르면, IBC(intra block copy) 참조를 위한 전용 버퍼; 전용 버퍼로부터의 참조 샘플들에 기초하여, 인코딩될 현재 블록에 대한 예측된 샘플 값들을 획득하도록 구성되는 제1 획득 모듈; 현재 블록에 대한 예측된 샘플 값들에 기초하여, 현재 블록에 대한 IBC 블록 벡터를 획득하도록 구성되는 제2 획득 모듈; 및, 현재 블록이 현재 프레임에서의 제1 CTU(coding tree unit)의 제1 코딩 블록일 때, 전용 버퍼를 디폴트 값으로 초기화하도록 구성되는 초기화 모듈을 포함하는 인코더가 제공된다
본 개시내용의 제8 실시예는 디코딩 디바이스에 의해 구현되는 코딩의 방법을 제공하고, 이는, 현재 블록이 현재 프레임(또는 화상)에서의 제1 CTU(coding tree unit)의 제1 코딩 블록일 때, 디폴트 값에 기초하여 전용 버퍼를 초기화하는 단계- 전용 버퍼는 IBC(intra block copy) 참조를 위해 사용됨 -, 현재 블록이 IBC 모드를 사용하여 예측되는지 여부를 결정하는 단계, 현재 블록이 IBC 모드를 사용하여 예측될 때 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계, 및, 현재 블록에 대한 IBC 블록 벡터 및 전용 버퍼에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함한다.
본 개시내용의 제9 실시예는 인코딩 디바이스에 의해 구현되는 코딩의 방법을 제공하고, 이는, 현재 블록이 현재 프레임(또는 화상)에서의 제1 CTU(coding tree unit)의 제1 코딩 블록일 때, 디폴트 값에 기초하여 전용 버퍼를 초기화하는 단계- 전용 버퍼는 IBC(intra block copy) 참조를 위해 사용됨 -, 전용 버퍼에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계, 및, 현재 블록에 대한 예측된 샘플 값들에 기초하여, 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계를 포함한다.
제10 실시예에서, 디코딩 디바이스에 의해 구현되는 코딩의 방법이 개시되고, 이러한 방법은,
디폴트 값에 기초하여 전용 버퍼를 초기화하는 단계- 현재 블록이 현재 프레임(또는 화상)에서의 제1 CTU(coding tree unit)의 제1 코딩 블록일 때, 전용 버퍼는 IBC(intra block copy) 참조를 위해 사용됨 -;
현재 블록이 IBC 모드를 사용하여 예측되는지 여부를 결정하는 단계;
현재 블록이 IBC 모드를 사용하여 예측될 때 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계; 및
현재 블록에 대한 IBC 블록 벡터 및 전용 버퍼에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함한다.
하나의 구현에서, 이러한 방법은,
현재 블록이 현재 프레임(또는 화상)에서의 CTU 행의 제1 코딩 블록일 때, 디폴트 값에 기초하여 전용 버퍼를 초기화는 단계를 추가로 포함한다.
하나의 구현에서, 이러한 방법은,
현재 블록이 CTU의 영역에서의 제1 코딩 블록일 때, 디폴트 값에 기초하여 CTU의 영역을 위한 전용 버퍼를 초기화하는 단계를 추가로 포함한다.
하나의 구현에서, CTU에서의 영역은 고정된 크기의 비-중첩 영역이다.
하나의 구현에서, 디폴트 값은 시퀀스에 대한 내부 비트 심도에 기초하여 획득되고, 현재 블록은 시퀀스의 블록이다.
하나의 구현에서, 현재 블록의 크로마 성분들이 IBC 모드를 사용하여 예측되고 현재 블록의 공동-위치된 루마 성분들이 IBC 모드를 사용하지 않고 예측될 때, 현재 블록의 크로마 성분들에 대한 IBC 블록 벡터가 디폴트 블록 벡터이다.
하나의 구현에서, 현재 블록은 적어도 2개의 서브-블록들을 포함하고, 서브-블록의 크로마 성분들이 IBC 모드를 사용하여 예측되고 서브-블록의 공동-위치된 루마 성분들이 IBC 모드를 사용하지 않고 예측될 때, 서브-블록의 크로마 성분들에 대한 IBC 블록 벡터가 디폴트 블록 벡터이다.
하나의 구현에서, 디폴트 블록 벡터는 (0, 0)이다.
하나의 구현에서, 현재 블록에 대한 공동-위치된 중앙 루마 샘플이 IBC 모드를 사용하여 예측될 때, 디폴트 벡터는 현재 블록에 대한 공동-위치된 중앙 루마 샘플의 블록 벡터이다.
제11 실시예에서, 인코딩 디바이스에 의해 구현되는 코딩의 방법이 개시되고, 이러한 방법은,
디폴트 값에 기초하여 전용 버퍼를 초기화하는 단계- 현재 블록이 현재 프레임(또는 화상)에서의 제1 CTU(coding tree unit)의 제1 코딩 블록일 때, 전용 버퍼는 IBC(intra block copy) 참조를 위해 사용됨 -;
전용 버퍼에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계;
현재 블록에 대한 예측된 샘플 값들에 기초하여, 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계를 포함한다.
하나의 구현에서, 이러한 방법은,
현재 블록이 현재 프레임(또는 화상)에서의 CTU 행의 제1 코딩 블록일 때, 디폴트 값에 기초하여 전용 버퍼를 초기화는 단계를 추가로 포함한다.
하나의 구현에서, 이러한 방법은,
현재 블록이 CTU의 영역에서의 제1 코딩 블록일 때, 디폴트 값에 기초하여 CTU의 영역을 위한 전용 버퍼를 초기화하는 단계를 추가로 포함한다.
하나의 구현에서, CTU에서의 영역은 고정된 크기의 비-중첩 영역이다.
하나의 구현에서, 디폴트 값은 시퀀스에 대한 내부 비트 심도에 기초하여 획득되고, 현재 블록은 시퀀스의 블록이다.
하나의 구현에서, 현재 블록의 크로마 성분들이 IBC 모드를 사용하여 예측되고 현재 블록의 공동-위치된 루마 성분들이 IBC 모드를 사용하지 않고 예측될 때, 현재 블록의 크로마 성분들에 대한 IBC 블록 벡터가 디폴트 블록 벡터이다.
하나의 구현에서, 현재 블록은 적어도 2개의 서브-블록들을 포함하고, 서브-블록의 크로마 성분들이 IBC 모드를 사용하여 예측되고 서브-블록의 공동-위치된 루마 성분들이 IBC 모드를 사용하지 않고 예측될 때, 서브-블록의 크로마 성분들에 대한 IBC 블록 벡터가 디폴트 블록 벡터이다.
하나의 구현에서, 디폴트 블록 벡터는 (0, 0)이다.
하나의 구현에서, 현재 블록에 대한 공동-위치된 중앙 루마 샘플이 IBC 모드를 사용하여 예측될 때, 디폴트 벡터는 현재 블록에 대한 공동-위치된 중앙 루마 샘플의 블록 벡터이다.
하나의 실시예에서, 위 실시예들 또는 구현들 중 어느 하나에 따른 방법을 수행하기 위한 처리 회로를 포함하는 인코더가 개시된다.
하나의 실시예에서, 위 실시예들 또는 구현들 중 어느 하나에 따른 방법을 수행하기 위한 처리 회로를 포함하는 디코더가 개시된다.
하나의 실시예에서, 위 실시예들 또는 구현들 중 어느 하나에 따른 방법을 수행하기 위한 프로그램 코드를 포함하는 컴퓨터 프로그램 제품이 개시된다.
하나의 실시예에서, 디코더가 개시되고, 이러한 디코더는,
하나 이상의 프로세서; 및
프로세서들에 연결되는 그리고 프로세서들에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 이러한 프로그래밍은, 프로세서들에 의해 실행될 때, 위 실시예들 또는 구현들 중 어느 하나에 따른 방법을 수행하도록 디코더를 구성함 -를 포함한다.
하나의 실시예에서, 인코더가 개시되고, 이러한 인코더는,
하나 이상의 프로세서; 및
프로세서들에 연결되는 그리고 프로세서들에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 이러한 프로그래밍은, 프로세서들에 의해 실행될 때, 위 실시예들 또는 구현들 중 어느 하나에 따른 방법을 수행하도록 인코더를 구성함 -를 포함한다.
하나 이상의 실시예의 상세사항들이 첨부 도면들 및 아래의 설명에서 제시된다. 다른 특징들, 목적들, 및 이점들이 설명, 도면들, 및 청구항들로부터 명백할 것이다.
다음에서, 본 개시내용의 실시예들이 첨부 도면들 및 도면들을 참조하여 보다 상세히 설명된다.
도 1a는 본 개시내용의 실시예들을 구현하도록 구성되는 비디오 코딩 시스템의 예를 도시하는 블록도이다.
도 1b는 본 개시내용의 실시예들을 구현하도록 구성되는 비디오 코딩 시스템의 다른 예를 도시하는 블록도이다.
도 2는 본 발명의 실시예들을 구현하도록 구성되는 비디오 인코더의 예를 도시하는 블록도이다.
도 3은 본 개시내용의 실시예들을 구현하도록 구성되는 비디오 디코더의 예시적인 구조를 도시하는 블록도이다.
도 4는 인코딩 장치 또는 디코딩 장치의 예를 예시하는 블록도이다.
도 5는 인코딩 장치 또는 디코딩 장치의 다른 예를 예시하는 블록도이다.
도 6a 내지 도 6d는 참조 샘플들과 현재 코딩 블록의 위치 사이의 관계에 관한 예들을 도시한다.
도 7a 내지 도 7c는 참조 샘플들과 IBC 버퍼 사이의 관계에 관한 추가의 예들을 도시한다.
도 8a 내지 도 8c는 참조 샘플들과 IBC 버퍼 사이의 관계에 관한 추가의 예들을 도시한다.
도 9a 내지 도 9b는 블록 벡터들과 IBC 버퍼 사이의 관계에 관한 추가의 예들을 도시한다.
도 10은 CTU에 대한 IBC 버퍼의 예를 도시한다.
도 11은 화상을 CTU들로 분할하는 예를 도시한다.
도 12는 본 개시내용의 실시예에 따른 비디오 디코딩의 방법에 대한 흐름도를 도시한다.
도 13은 본 개시내용의 추가 실시예에 따른 비디오 디코딩의 방법에 대한 흐름도를 도시한다.
도 14는 본 개시내용의 실시예에 따른 비디오 인코딩의 방법에 대한 흐름도를 도시한다.
도 15는 본 개시내용의 추가 실시예에 따른 비디오 인코딩의 방법에 대한 흐름도를 도시한다.
도 16은 본 개시내용의 실시예에 따른 디코딩 장치의 예를 예시하는 블록도를 도시한다.
도 17은 본 개시내용의 실시예에 따른 인코딩 장치의 예를 예시하는 블록도이다.
도 18은 콘텐츠 전달 서비스를 실현하는 콘텐츠 공급 시스템의 예시적인 구조를 도시하는 블록도이다.
도 19는 단말 디바이스의 예의 구조를 도시하는 블록도이다.
다음에서 동일한 참조 부호들은 명시적으로 달리 명시되지 않으면 동일한 또는 적어도 기능적으로 동등한 특징들을 지칭한다.
다음 설명에서는, 본 개시내용의 일부분을 형성하는, 그리고, 본 개시내용의 실시예들의 구체적 양태들 또는 본 개시내용의 실시예들이 사용될 수 있는 구체적 양태들을, 예시의 방식에 의해, 도시하는 첨부 도면들이 참조된다. 본 개시내용의 실시예들은 다른 양태들에서 사용될 수 있고 도면들에 묘사되지 않은 구조적 또는 논리적 변경들을 포함한다는 점이 이해된다. 따라서, 다음의 상세한 설명은 제한적인 의미로 취해져서는 안되고, 본 개시내용의 범위는 첨부된 청구항들에 의해 정의된다.
예를 들어, 설명된 방법과 관련된 개시내용은 해당 방법을 수행하도록 구성되는 대응하는 디바이스 또는 시스템에 대해 또한 유효할 수 있고 그 반대의 경우도 마찬가지라는 점이 이해된다. 예를 들어, 하나의 또는 복수의 구체적 방법 단계가 설명되면, 이러한 하나 이상의 유닛이 도면들에서 명시적으로 설명되거나 또는 예시되지 않더라도, 대응하는 디바이스는 설명된 하나의 또는 복수의 방법 단계를 수행하는 하나의 또는 복수의 유닛, 예를 들어, 기능 유닛(예를 들어, 하나의 또는 복수의 단계를 수행하는 하나의 유닛, 또는 복수의 단계들 중 하나 이상을 각각 수행하는 복수의 유닛들)을 포함할 수 있다. 다른 한편으로, 예를 들어, 구체적 장치가 하나의 또는 복수의 유닛, 예를 들어, 기능 유닛들에 기초하여 설명되면, 이러한 하나의 또는 복수의 단계가 도면들에 명시적으로 설명되거나 또는 예시되지 않더라도, 대응하는 방법은 하나의 또는 복수의 유닛의 기능성을 수행하는 하나의 단계(예를 들어, 하나의 또는 복수의 유닛의 기능성을 수행하는 하나의 단계, 또는 복수의 유닛 중 하나 이상의 유닛의 기능성을 각각 수행하는 복수의 단계들)를 포함할 수도 있다. 추가로, 구체적으로 달리 주목되지 않는 한, 본 명세서에 설명되는 다양한 예시적인 실시예들 및/또는 양태들의 특징들은 서로 조합될 수 있다는 점이 이해된다.
비디오 코딩은, 비디오 또는 비디오 시퀀스를 형성하는, 화상들의 시퀀스의 처리를 통상적으로 지칭한다. "화상(picture)"이라는 용어 대신에, "프레임(frame)" 또는 "이미지(image)"라는 용어가 비디오 코딩의 분야에서 동의어로서 사용될 수 있다. 비디오 코딩(또는 일반적으로 코딩)은 2개의 부분들: 비디오 인코딩 및 비디오 디코딩을 포함한다. 비디오 인코딩은 소스 측에서 수행되고, (보다 효율적인 저장 및/또는 송신을 위해) 비디오 화상들을 표현하는데 요구되는 데이터의 양을 감소시키기 위해 원래의 비디오 화상들을 (예를 들어, 압축에 의해) 처리하는 것을 통상적으로 포함한다. 비디오 디코딩은 목적지 측에서 수행되고 비디오 화상들을 재구성하기 위해 인코더에 비해 역 처리를 통상적으로 포함한다. 비디오 화상들(또는 일반적으로 화상들)의 "코딩(coding)"을 참조하는 실시예들은 비디오 화상들 또는 각각의 비디오 시퀀스들의 "인코딩(encoding)" 또는 "디코딩(decoding)"에 관련되는 것으로 이해되어야 한다. 인코딩 부분과 디코딩 부분의 조합은 CODEC (Coding and Decoding)이라고 또한 지칭된다.
무손실 비디오 코딩의 경우, 원래의 비디오 화상들이 재구성될 수 있다, 즉, 재구성된 비디오 화상들은 원래의 비디오 화상들과 동일한 품질을 갖는다(저장 또는 송신 동안 어떠한 송신 손실 또는 다른 데이터 손실도 발생하지 않는다고 가정함). 손실 비디오 코딩의 경우, 디코더에서 완전히 재구성될 수 없는, 즉, 재구성된 비디오 화상들의 품질이 원래의 비디오 화상들의 품질에 비해 더 낮은 또는 더 나쁜, 비디오 화상들을 표현하는 데이터의 양을 감소시키기 위해, 예를 들어, 양자화에 의한, 추가 압축이 수행된다.
몇몇 비디오 코딩 표준들은 "손실 하이브리드 비디오 코덱들(lossy hybrid video codecs)"의 그룹에 속한다(즉, 샘플 도메인에서의 공간적 및 시간적 예측과 변환 도메인에서의 양자화를 적용하기 위한 2D 변환 코딩을 조합함). 비디오 시퀀스의 각각의 화상은 비-중첩 블록들의 세트로 통상적으로 파티셔닝되고, 코딩은 블록 레벨에서 통상적으로 수행된다. 다시 말해서, 인코더에서는 비디오가, 예를 들어, 공간적 (인트라 화상) 예측 및/또는 시간적 (인터 화상) 예측을 사용하여 예측 블록을 생성하고, 현재 블록(현재 처리되는/처리될 블록)으로부터 예측 블록을 감산하여 잔여 블록을 획득하고, 잔여 블록을 변환하고 변환 도메인에서 잔여 블록을 양자화하여 송신될 데이터의 양을 감소(압축)시키는 것에 의해, 블록(비디오 블록) 레벨에서 통상적으로 처리, 즉, 인코딩되는 반면, 디코더에서는 인코더에 비해 역 처리가 인코딩된 또는 압축된 블록에 적용되어 표현을 위해 현재 블록을 재구성한다. 또한, 인코더는 디코더 처리 루프를 복제하여, 양자 모두가 후속 블록들을 처리, 즉, 코딩하기 위해 동일한 예측들(예를 들어, 인트라 및 인터 예측들) 및/또는 재-구성들을 생성할 것이다.
다음에서는 비디오 코딩 시스템(10), 비디오 인코더(20), 및 비디오 디코더(30)의 실시예들이 도 1 내지 도 3에 기초하여 설명된다.
도 1a는 본 출원의 기법들을 이용할 수 있는 예시적인 코딩 시스템(10), 예를 들어, 비디오 코딩 시스템(10)(줄여서 코딩 시스템(10))을 도시하는 개략 블록도이다. 비디오 코딩 시스템(10)의 비디오 인코더(20)(줄여서 인코더(20)) 및 비디오 디코더(30)(줄여서 디코더(30))는 본 출원에서 설명되는 다양한 예들에 따른 기법들을 수행하도록 구성될 수 있는 디바이스들의 예들을 표현한다.
도 1a에 도시되는 바와 같이, 코딩 시스템(10)은 인코딩된 화상 데이터(13)를 디코딩하기 위해 인코딩된 화상 데이터(21)를, 예를 들어, 목적지 디바이스(14)에 제공하도록 구성되는 소스 디바이스(12)를 포함한다.
소스 디바이스(12)는 인코더(20)를 포함하고, 추가적으로, 즉, 선택적으로, 화상 소스(16), 전처리기(또는 전처리 유닛)(18), 예를 들어, 화상 전처리기(18), 및 통신 인터페이스 또는 통신 유닛(22)을 포함할 수 있다.
화상 소스(16)는 임의의 종류의 화상 캡처 디바이스, 예를 들어, 현실-세계 화상을 캡처하기 위한 카메라, 및/또는 임의의 종류의 화상 생성 디바이스, 예를 들어, 컴퓨터 애니메이션된 화상을 생성하기 위한 컴퓨터-그래픽 프로세서, 또는 현실-세계 화상, 컴퓨터 생성된 화상(예를 들어, 스크린 콘텐츠, VR(virtual reality) 화상) 및/또는 이들의 임의의 조합(예를 들어, AR(augmented reality) 화상)을 획득 및/또는 제공하기 위한 임의의 종류의 다른 디바이스를 포함할 수 있거나 또는 이들일 수 있다. 화상 소스는 전술된 화상들 중 임의의 것을 저장하는 임의의 종류의 메모리 또는 스토리지일 수 있다.
전처리기(18) 및 전처리 유닛(18)에 의해 수행되는 처리와 구별하여, 화상 또는 화상 데이터(17)는 원시 화상 또는 원시 화상 데이터(17)라고 또한 지칭될 수 있다.
전처리기(18)는 (원시) 화상 데이터(17)를 수신하도록 그리고 화상 데이터(17)에 전처리를 수행하여 전처리된 화상(19) 또는 전처리된 화상 데이터(19)를 획득하도록 구성될 수 있다. 전처리기(18)에 의해 수행되는 전처리는, 예를 들어, 트리밍, (예를 들어, RGB로부터 YCbCr로의) 컬러 포맷 변환, 컬러 보정, 또는 노이즈-제거를 포함할 수 있다. 전처리 유닛(18)은 선택적 컴포넌트일 수 있다는 점이 이해될 수 있다.
비디오 인코더(20)는 전처리된 화상 데이터(19)를 수신하도록 그리고 인코딩된 화상 데이터(21)를 제공하도록 구성될 수 있다(추가의 상세사항들은, 예를 들어, 도 2에 기초하여, 아래에서 설명될 것임).
소스 디바이스(12)의 통신 인터페이스(22)는 인코딩된 화상 데이터(21)를 수신하도록 그리고 인코딩된 화상 데이터(21)(또는 이들의 임의의 추가 처리된 버전)를 저장 또는 직접 재구성을 위해 통신 채널(13)을 통해 다른 디바이스, 예를 들어, 목적지 디바이스(14) 또는 임의의 다른 디바이스에 송신하도록 구성될 수 있다.
목적지 디바이스(14)는 디코더(30)(예를 들어, 비디오 디코더(30))를 포함하고, 추가적으로, 즉, 선택적으로, 통신 인터페이스 또는 통신 유닛(28), 후처리기(32)(또는 후처리 유닛(32)) 및 디스플레이 디바이스(34)를 포함할 수 있다.
목적지 디바이스(14)의 통신 인터페이스(28)는 인코딩된 화상 데이터(21)(또는 이들의 임의의 추가 처리된 버전)를, 예를 들어, 소스 디바이스(12)로부터 또는 임의의 다른 소스, 예를 들어, 인코딩된 화상 데이터 저장 디바이스와 같은, 저장 디바이스로부터 직접 수신하도록, 그리고 인코딩된 화상 데이터(21)를 디코더(30)에 제공하도록 구성될 수 있다.
통신 인터페이스(22) 및 통신 인터페이스(28)는 소스 디바이스(12)와 목적지 디바이스(14) 사이의 직접 통신 링크, 예를 들어, 직접 유선 또는 무선 접속을 통해, 또는 임의의 종류의 네트워크, 예를 들어, 유선 또는 무선 네트워크 또는 이들의 임의의 조합, 또는 임의의 종류의 사설 및 공용 네트워크, 또는 이들의 임의의 종류의 조합을 통해, 인코딩된 화상 데이터(21) 또는 인코딩된 데이터(13)를 송신 또는 수신하도록 구성될 수 있다.
통신 인터페이스(22)는 인코딩된 화상 데이터(21)를 적절한 포맷, 예를 들어, 패킷들로 패키징하도록, 및/또는 통신 링크 또는 통신 네트워크를 통한 송신을 위해 임의의 종류의 송신 인코딩 또는 처리를 사용하여 이러한 인코딩된 화상 데이터를 처리하도록 구성될 수 있다.
통신 인터페이스(22)의 상대방을 형성하는 통신 인터페이스(28)는 송신된 데이터를 수신하도록 그리고 임의의 종류의 대응하는 송신 디코딩 또는 처리 및/또는 디-패키징을 사용하여 송신 데이터를 처리하여 인코딩된 화상 데이터(21)를 획득하도록 구성될 수 있다.
통신 인터페이스(22) 및 통신 인터페이스(28) 양자 모두는 소스 디바이스(12)로부터 목적지 디바이스(14)를 포인팅하는 도 1a에서의 통신 채널(13)에 대한 화살표로 표시되는 바와 같은 단방향 통신 인터페이스들로서, 또는 양방향 통신 인터페이스들로서 구성될 수 있고, 통신 링크 및/또는, 인코딩된 화상 데이터 송신과 같은, 데이터 송신에 관련된 임의의 다른 정보를 확인 응답하고 교환하기 위해, 메시지들을 전송 및 수신하도록, 예를 들어, 접속을 셋 업하도록, 구성될 수 있다.
디코더(30)는 인코딩된 화상 데이터(21)를 수신하도록 그리고 디코딩된 화상 데이터(31) 또는 디코딩된 화상(31)을 제공하도록 구성될 수 있다(추가의 상세사항들은, 예를 들어, 도 3 또는 도 5에 기초하여 아래에 설명될 것임). 목적지 디바이스(14)의 후처리기(32)는 디코딩된 화상 데이터(31)(재구성된 화상 데이터라고 또한 불림), 예를 들어, 디코딩된 화상(31)을 후처리하여, 후처리된 화상(33)과 같은, 후처리된 화상 데이터(33)를 획득하도록 구성될 수 있다. 후처리 유닛(32)에 의해 수행되는 후처리는 (예를 들어, YCbCr로부터 RGB로의) 컬러 포맷 변환, 컬러 보정, 트리밍, 또는 재-샘플링, 또는, 예를 들어, 디스플레이 디바이스(34)에 의한 디스플레이를 위해, 예를 들어, 디코딩된 화상 데이터(31)를 준비하기 위한, 임의의 다른 처리 중 어느 하나 이상을 포함할 수 있다.
목적지 디바이스(14)의 디스플레이 디바이스(34)는, 예를 들어, 사용자 또는 뷰어에게, 화상을 디스플레이하기 위해 후처리된 화상 데이터(33)를 수신하도록 구성될 수 있다. 디스플레이 디바이스(34)는, 집적된 또는 외부 디스플레이 또는 모니터와 같은, 재구성된 화상을 표현하기 위한 임의의 종류의 디스플레이이거나 또는 이를 포함할 수 있다. 이러한 디스플레이는 LCD(liquid crystal displays), OLED(organic light emitting diodes) 디스플레이, 플라즈마 디스플레이, 프로젝터, 마이크로 LED 디스플레이, LCoS(liquid crystal on silicon), DLP(digital light processor) 또는 임의의 종류의 다른 디스플레이일 수 있다.
도 1a는 소스 디바이스(12) 및 목적지 디바이스(14)를 개별 디바이스들로서 묘사하더라도, 디바이스들의 실시예들은 양자 모두의 디바이스들 또는 양자 모두의 기능성들, 즉, 소스 디바이스(12) 또는 대응하는 기능성 및 목적지 디바이스(14) 또는 대응하는 기능성을 또한 포함할 수 있다. 이러한 실시예들에서, 소스 디바이스(12) 또는 대응하는 기능성 및 목적지 디바이스(14) 또는 대응하는 기능성은 동일한 하드웨어 및/또는 소프트웨어를 사용하여 또는 개별 하드웨어 및/또는 소프트웨어 또는 이들의 임의의 조합에 의해 구현될 수 있다.
이러한 설명에 기초하여 기술자에게는 명백할 바와 같이, 도 1a에 도시되는 바와 같은 소스 디바이스(12) 및/또는 목적지 디바이스(14) 내의 상이한 유닛들 또는 기능성들의 기능성들의 존재 및 (정확한) 분열은 실제 디바이스 및 애플리케이션에 의존하여 달라질 수 있다.
인코더(20)(예를 들어, 비디오 인코더(20)) 또는 디코더(30)(예를 들어, 비디오 디코더(30)) 또는 인코더(20) 및 디코더(30) 양자 모두는, 하나 이상의 마이크로프로세서, DSP(digital signal processors), ASIC(application-specific integrated circuits), FPGA(field-programmable gate arrays), 이산 로직, 하드웨어, 비디오 코딩 전용 또는 이들의 임의의 조합과 같은, 도 1b에 도시되는 바와 같은 처리 회로를 통해 구현될 수 있다. 인코더(20)는 도 2의 인코더(20) 및/또는 본 명세서에 설명되는 임의의 다른 인코더 시스템 또는 서브시스템에 관하여 논의되는 바와 같이 다양한 모듈을 구현하기 위해 처리 회로(46)를 통해 구현될 수 있다. 디코더(30)는 도 3의 디코더(30) 및/또는 본 명세서에 설명되는 임의의 다른 디코더 시스템 또는 서브시스템에 관하여 논의되는 바와 같이 다양한 모듈들을 구현하기 위해 처리 회로(46)를 통해 구현될 수 있다. 처리 회로는 나중에 논의되는 바와 같이 다양한 동작들을 수행하도록 구성될 수 있다. 도 5에 도시되는 바와 같이, 이러한 기법들이 부분적으로 소프트웨어로 구현되면, 디바이스는 소프트웨어에 대한 명령어들을 적합한, 비-일시적 컴퓨터-판독가능 저장 매체에 저장할 수 있고, 본 개시내용의 기법들을 수행하기 위해 하나 이상의 프로세서를 사용하여 하드웨어로 이러한 명령어들을 실행할 수 있다. 비디오 인코더(20) 및 비디오 디코더(30)는, 예를 들어, 도 1b에 도시되는 바와 같이, 단일 디바이스에서의 조합된 CODEC(encoder/decoder)의 부분으로서 집적될 수 있다.
도 1b에 도시되는 비디오 코딩 시스템(40)은 비디오 인코더(20) 및 비디오 디코더(30) 양자 모두를 구현하는 처리 회로를 포함한다. 또한, 현실-세계 화상들을 캡처하기 위한 카메라와 같은, 하나 이상의 이미징 디바이스(41), 안테나(42), 하나 이상의 메모리 저장소(44), 하나 이상의 프로세서(43) 및/또는, 위에 설명된 디스플레이 디바이스(34)와 같은, 디스플레이 디바이스(45)가 비디오 코딩 시스템(40)의 부분으로서 제공될 수 있다.
소스 디바이스(12) 및 목적지 디바이스(14)는, 임의의 종류의 핸드헬드 또는 고정 디바이스들, 예를 들어, 노트북 또는 랩톱 컴퓨터들, 모바일 폰들, 스마트 폰들, 태블릿들 또는 태블릿 컴퓨터들, 카메라들, 데스크톱 컴퓨터들, 셋-톱 박스들, 텔레비전들, 디스플레이 디바이스들, 디지털 매체 플레이어들, 비디오 게이밍 콘솔들, (콘텐츠 서비스 서버들 또는 콘텐츠 전달 서버들과 같은) 비디오 스트리밍 디바이스들, 방송 수신기 디바이스들, 방송 송신기 디바이스들 등을 포함하는 광범위한 디바이스들 중 임의의 것을 포함할 수 있고, 어떠한 운영 체제도 사용하지 않거나 또는 임의의 종류의 운영 체제를 사용할 수 있다. 일부 경우들에서, 소스 디바이스(12) 및 목적지 디바이스(14)는 무선 통신을 위해 구비될 수 있다. 따라서, 소스 디바이스(12) 및 목적지 디바이스(14)는 무선 통신 디바이스들일 수 있다.
일부 경우들에서, 도 1a에 예시되는 비디오 코딩 시스템(10)은 단지 예일 뿐이고, 본 출원의 기법들은 인코딩 및 디코딩 디바이스들 사이의 임의의 데이터 통신을 반드시 포함하는 것은 아닌 비디오 코딩 시스템들(예를 들어, 비디오 인코딩 또는 비디오 디코딩)에 적용될 수 있다. 다른 예들에서, 데이터는 로컬 메모리로부터 검색되거나, 네트워크를 통해 스트리밍되거나, 등이다. 비디오 인코딩 디바이스는 데이터를 인코딩하여 메모리에 저장할 수 있고, 및/또는 비디오 디코딩 디바이스는 메모리로부터 데이터를 검색하고 디코딩할 수 있다. 일부 예들에서, 인코딩 및 디코딩은 서로 통신하지 않지만 데이터를 메모리에 단순히 인코딩하고 및/또는 메모리로부터 데이터를 검색 및 디코딩하는 디바이스들에 의해 수행된다.
설명의 편의를 위해, 본 개시내용의 실시예들은, 예를 들어, HEVC(High-Efficiency Video Coding) 또는 VVC(Versatile Video coding)의 참조 소프트웨어, ITU-T VCEG(Video Coding Experts Group) 및 ISO/IEC MPEG(Motion Picture Experts Group)의 JCT-VC(Joint Collaboration Team on Video Coding)에 의해 개발된 차세대 비디오 코딩 표준을 참조하여 본 명세서에 설명된다. 해당 분야에서의 통상의 기술자는 본 개시내용의 실시예들이 HEVC 또는 VVC에 제한되지 않는다는 점을 이해할 것이다.
인코더 및 인코딩 방법
도 2는 본 출원의 기법들을 구현하도록 구성되는 예시적인 비디오 인코더(20)의 개략 블록도를 도시한다. 도 2의 예에서, 비디오 인코더(20)는 입력(201)(또는 입력 인터페이스(201)), 잔여 계산 유닛(204), 변환 처리 유닛(206), 양자화 유닛(208), 역 양자화 유닛(210), 및 역 변환 처리 유닛(212), 재구성 유닛(214), 루프 필터 유닛(220), DPB(decoded picture buffer)(230), 모드 선택 유닛(260), 엔트로피 인코딩 유닛(270) 및 출력(272)(또는 출력 인터페이스(272))을 포함한다. 모드 선택 유닛(260)은 인터 예측 유닛(244), 인트라 예측 유닛(254) 및 파티셔닝 유닛(262)을 포함할 수 있다. 인터 예측 유닛(244)은 모션 추정 유닛 및 모션 보상 유닛 (도시되지 않음)을 포함할 수 있다. 도 2에 도시되는 바와 같은 비디오 인코더(20)는 하이브리드 비디오 인코더 또는 하이브리드 비디오 코덱에 따른 비디오 인코더라고 또한 지칭될 수 있다.
잔여 계산 유닛(204), 변환 처리 유닛(206), 양자화 유닛(208), 및 모드 선택 유닛(260)은 인코더(20)의 순방향 신호 경로를 형성하는 것이라고 지칭될 수 있는 반면, 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구성 유닛(214), 루프 필터(220), DPB(decoded picture buffer)(230), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)은 비디오 인코더(20)의 역방향 신호 경로를 형성하는 것이라고 지칭될 수 있으며, 비디오 인코더(20)의 역방향 신호 경로는 디코더의 신호 경로에 대응한다(도 3의 비디오 디코더(30) 참조). 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구성 유닛(214), 루프 필터(220), DPB(decoded picture buffer)(230), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)은 비디오 인코더(20)의 "내장 디코더(built-in decoder)"를 형성하는 것이라고 또한 지칭된다.
화상들 및 화상 파티셔닝 (화상들 및 블록들)
인코더(20)는, 예를 들어, 입력(201)을 통해, 화상(17)(또는 화상 데이터(17)), 예를 들어, 비디오 또는 비디오 시퀀스를 형성하는 화상들의 시퀀스의 화상을 수신하도록 구성될 수 있다. 수신된 화상 또는 화상 데이터는 또한 전처리된 화상(19)(또는 전처리된 화상 데이터(19))일 수 있다. 단순성을 위해, 다음 설명은 화상(17)을 참조한다. 화상(17)은 현재 화상 또는 (특히, 현재 화상을 다른 화상들, 예를 들어, 동일한 비디오 시퀀스, 즉, 현재 화상을 또한 포함하는 비디오 시퀀스의 이전에 인코딩된 및/또는 디코딩된 화상들과 구별하기 위해 비디오 코딩에서) 코딩될 화상이라고 또한 지칭될 수 있다.
(디지털) 화상은 강도 값들이 있는 샘플들의 2-차원 어레이 또는 행렬이거나 또는 그것으로 간주될 수 있다. 이러한 어레이에서의 샘플은 픽셀(짧은 형태의 화상 엘리먼트) 또는 화소라고 또한 지칭될 수 있다. 어레이 또는 화상의 수평 및 수직 방향(또는 축)에서의 샘플들의 수는 화상의 크기 및/또는 해상도를 정의한다. 컬러의 표현을 위해, 통상적으로 3개의 컬러 성분들이 이용된다, 즉, 화상은 3개의 샘플 어레이들로서 표현되거나 또는 이를 포함할 수 있다. RBG 포맷 또는 컬러 공간에서, 화상은 대응하는 적색, 녹색 및 청색 샘플 어레이를 포함한다. 그러나, 비디오 코딩에서 각각의 픽셀은 휘도 및 색차 포맷 또는 컬러 공간, 예를 들어, Y에 의해 표시되는 휘도 성분 (때때로 또한 L이 대신 사용됨) 및 Cb 및 Cr에 의해 표시되는 2개의 색차 성분들을 포함하는, YCbCr로 통상적으로 표현된다. 휘도(줄여서 루마) 성분 Y는 (예를 들어, 그레이-스케일 화상에서와 같이) 밝기 또는 그레이 레벨 강도를 표현하고, 한편 2개의 색차(줄여서 크로마) 성분들 Cb 및 Cr은 색도 또는 컬러 정보 성분들을 표현한다. 따라서, YCbCr 포맷에서의 화상은 휘도 샘플 값들(Y)의 휘도 샘플 어레이, 및 색차 값들(Cb 및 Cr)의 2개의 색차 샘플 어레이들을 포함한다. RGB 포맷에서의 화상들은 YCbCr 포맷으로 변환 또는 변환될 수 있고, 그 반대도 가능하다. 이러한 프로세스는 컬러 변환 또는 변환이라고 또한 알려져 있다. 화상이 흑백이면, 화상은 휘도 샘플 어레이만을 포함할 수 있다. 따라서, 화상은, 예를 들어, 흑백 포맷에서의 루마 샘플들의 어레이 또는 4:2:0, 4:2:2, 및 4:4:4 컬러 포맷에서의 루마 샘플들의 어레이 및 크로마 샘플들의 2개의 대응하는 어레이들일 수 있다.
비디오 인코더(20)의 실시예들은 화상(17)을 복수의(통상적으로 비-중첩) 화상 블록들(203)로 파티셔닝하도록 구성되는 화상 파티셔닝 유닛(도 2에 묘사되지 않음)을 포함할 수 있다. 이러한 블록들은 루트 블록들, 매크로 블록들(H.264/AVC) 또는 CTB(coding tree blocks) 또는 CTU(coding tree units)(H.265/HEVC 및 VVC에 따름)라고 또한 지칭될 수 있다. 화상 파티셔닝 유닛은 비디오 시퀀스의 모든 화상들 및 블록 크기를 정의하는 대응하는 그리드에 대해 동일한 블록 크기를 사용하도록, 또는 화상들 또는 화상들의 서브세트들 또는 그룹들 사이에서 블록 크기를 변경하도록, 그리고 각각의 화상을 대응하는 블록들로 파티셔닝하도록 구성될 수 있다.
추가 실시예들에서, 비디오 인코더는 화상(17)의 블록(203), 예를 들어, 화상(17)을 형성하는 하나의, 몇몇 또는 모든 블록을 직접 수신하도록 구성될 수 있다. 화상 블록(203)은 현재 화상 블록 또는 코딩될 화상 블록이라고 또한 지칭될 수 있다.
화상(17)과 같이, 화상 블록(203)은, 화상(17)보다 더 작은 치수이더라도, 강도 값들(샘플 값들)이 있는 샘플들의 2-차원 어레이 또는 행렬이거나 또는 그것으로 간주될 수 있다. 다시 말해서, 블록(203)은, 적용된 컬러 포맷에 의존하여, 예를 들어, 하나의 샘플 어레이(예를 들어, 흑백 화상(17)의 경우에는 루마 어레이, 또는 컬러 화상의 경우에는 루마 또는 크로마 어레이) 또는 3개의 샘플 어레이들(예를 들어, 컬러 화상(17)의 경우에는 루마 및 2개의 크로마 어레이들) 또는 임의의 다른 수 및/또는 종류의 어레이들을 포함할 수 있다. 블록(203)의 수평 및 수직 방향(또는 축)에서의 샘플들의 수는 블록(203)의 크기를 정의한다. 따라서, 블록은, 예를 들어, 샘플들의 MХN (M-열 x N-행) 어레이, 또는 변환 계수들의 MХN 어레이를 포함할 수 있다.
도 2에 도시되는 바와 같은 비디오 인코더(20)의 실시예들은 화상(17)을 블록 단위로 인코딩하도록 구성될 수 있고, 예를 들어, 인코딩 및 예측이 블록(203) 당 수행된다.
도 2에 도시되는 바와 같은 비디오 인코더(20)의 실시예들은 슬라이스들(비디오 슬라이스들이라고 또한 지칭됨)을 사용하여 화상을 파티셔닝 및/또는 인코딩하도록 추가로 구성될 수 있으며, 화상은 하나 이상의 슬라이스(통상적으로 비-중첩임)로 파티셔닝되거나 또는 이를 사용하여 인코딩될 수 있고, 각각의 슬라이스는 하나 이상의 블록(예를 들어, CTU)을 포함할 수 있다.
도 2에 도시되는 바와 같은 비디오 인코더(20)의 실시예들은 타일 그룹들(비디오 타일 그룹들이라고 또한 지칭됨) 및/또는 타일들(비디오 타일들이라고 또한 지칭됨)을 사용하여 화상을 파티셔닝 및/또는 인코딩하도록 추가로 구성될 수 있으며, 화상은 하나 이상의 타일 그룹(통상적으로 비-중첩임)으로 파티셔닝되거나 또는 이를 사용하여 인코딩될 수 있고 각각의 타일 그룹은 하나 이상의 블록(예를 들어, CTU) 또는 하나 이상의 타일을 포함할 수 있으며, 각각의 타일은 직사각형 형상의 것일 수 있고 하나 이상의 블록(예를 들어, CTU), 예를 들어, 완전한 또는 분수의 블록을 포함할 수 있다.
잔여 계산
잔여 계산 유닛(204)은, 예를 들어, 화상 블록(203)의 샘플 값들로부터 예측 블록(265)의 샘플 값들을 샘플 단위로(픽셀 단위로) 감산하여 샘플 도메인에서 잔여 블록(205)을 획득하는 것에 의해, 화상 블록(203) 및 예측 블록(265)에 기초하여 잔여 블록(205)(잔여(205)라고 또한 지칭됨)을 계산하도록 구성될 수 있다(예측 블록(265)에 관한 추가의 상세사항들이 나중에 제공됨).
변환
변환 처리 유닛(206)은, 변환 도메인에서 변환 계수들(207)을 획득하기 위해 잔여 블록(205)의 샘플 값들에, DCT(discrete cosine transform) 또는 DST(discrete sine transform)와 같은, 변환을 적용하도록 구성될 수 있다. 변환 계수들(207)은 변환 잔여 계수들이라고 또한 지칭될 수 있고, 변환 도메인에서 잔여 블록(205)을 표현할 수 있다.
변환 처리 유닛(206)은, H.265/HEVC에 대해 명시되는 변환들과 같은, DCT/DST의 정수 근사화들을 적용하도록 구성될 수 있다. 직교 DCT 변환에 비해, 이러한 정수 근사화들은 특정 인자에 의해 통상적으로 스케일링된다. 순방향 및 역 변환들에 의해 처리되는 잔여 블록의 놈(norm)을 보존하기 위해, 추가적인 스케일링 인자들이 변환 프로세스의 부분으로서 적용된다. 이러한 스케일링 인자들은 스케일링 인자들이 시프트 연산들에 대한 2의 거듭제곱, 변환 계수들의 비트 심도, 정확도와 구현 비용들 사이의 트레이드오프 등인 것과 같이 특정 제약들에 기초하여 통상적으로 선택된다. 구체적 스케일링 인자들은, 예를 들어, 역 변환 처리 유닛(212)에 의해 역 변환(및, 예를 들어, 비디오 디코더(30)에서 역 변환 처리 유닛(312)에 의해 대응하는 역 변환)에 대해, 예를 들어, 명시되고, 인코더(20)에서, 예를 들어, 변환 처리 유닛(206)에 의해, 순방향 변환에 대한 대응하는 스케일링 인자들이 따라서 명시될 수 있다.
비디오 인코더(20)의 실시예들(각각, 변환 처리 유닛(206))은, 예를 들어, 엔트로피 인코딩 유닛(270)을 통해 인코딩하여 또는 압축하여 또는 직접, 변환 파라미터들, 예를 들어, 변환 또는 변환들의 타입을 출력하도록 구성될 수 있어, 예를 들어, 비디오 디코더(30)가 디코딩을 위해 변환 파라미터들을 수신하고 사용할 수 있다.
양자화
양자화 유닛(208)은, 예를 들어, 스칼라 양자화 또는 벡터 양자화를 적용하는 것에 의해, 변환 계수들(207)을 양자화하여 양자화된 계수들(209)을 획득하도록 구성될 수 있다. 양자화된 계수들(209)은 양자화된 변환 계수들(209) 또는 양자화된 잔여 계수들(209)이라고 또한 지칭될 수 있다.
양자화 프로세스는 변환 계수들(207)의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수 있다. 예를 들어, n-비트 변환 계수는 양자화 동안 m-비트 변환 계수로 라운딩 다운될 수 있으며, 여기서 n은 m 초과이다. 양자화의 정도는 QP(quantization parameter)를 조정하는 것에 의해 수정될 수 있다. 예를 들어, 스칼라 양자화에 대해, 더 미세한 또는 더 거친 양자화를 달성하기 위해 상이한 스케일링들이 적용될 수 있다. 더 작은 양자화 단계 크기들은 더 미세한 양자화에 대응하는 반면, 더 큰 양자화 단계 크기들은 더 거친 양자화에 대응한다. 적용가능한 양자화 단계 크기는 QP(quantization parameter)에 의해 표시될 수 있다. 양자화 파라미터는, 예를 들어, 미리 정의된 세트의 적용가능한 양자화 단계 크기들의 인덱스일 수 있다. 예를 들어, 작은 양자화 파라미터들은 미세한 양자화(작은 양자화 단계 크기들)에 대응할 수 있고 큰 양자화 파라미터들은 거친 양자화(큰 양자화 단계 크기들)에 대응할 수 있거나 또는 그 반대일 수 있다. 양자화는 양자화 단계 크기에 의한 제산을 포함할 수 있고, 예를 들어, 역 양자화 유닛(210)에 의한, 대응하는 및/또는 역 양자화해제는 양자화 단계 크기에 의한 승산을 포함할 수 있다. 일부 표준들, 예를 들어, HEVC에 따른 실시예들은 양자화 파라미터를 사용하여 양자화 단계 크기를 결정하도록 구성될 수 있다. 일반적으로, 양자화 단계 크기는 제산을 포함하는 방정식의 고정 소수점 근사화를 사용하여 양자화 파라미터에 기초하여 계산될 수 있다. 잔여 블록의 놈(norm)을 복원하기 위해 양자화 및 양자화해제에 대해 추가적인 스케일링 인자들이 도입될 수 있고, 이는 양자화 단계 크기 및 양자화 파라미터에 대한 방정식의 고정 소수점 근사화에서 사용되는 스케일링 때문에 수정될 수 있다. 하나의 예시적인 구현에서, 역 변환 및 양자화해제의 스케일링이 조합될 수 있다. 대안적으로, 맞춤화된 양자화 테이블들이 사용되어 인코더로부터 디코더로, 예를 들어, 비트스트림으로 시그널링될 수 있다. 양자화는 손실 동작이며, 손실은 양자화 단계 크기들이 증가함에 따라 증가한다.
비디오 인코더(20)의 실시예들(각각, 양자화 유닛(208))은, 예를 들어, 엔트로피 인코딩 유닛(270)을 통해 인코딩하여 또는 직접, QP들(quantization parameters)을 출력하도록 구성될 수 있어, 예를 들어, 비디오 디코더(30)가 디코딩을 위해 양자화 파라미터들을 수신하고 적용할 수 있다.
역 양자화
역 양자화 유닛(210)은, 예를 들어, 양자화 유닛(208)과 동일한 양자화 단계 크기에 기초하여 또는 이를 사용하여 양자화 유닛(208)에 의해 적용되는 양자화 스킴의 역을 적용하는 것에 의해, 양자화 유닛(208)의 역 양자화를 양자화된 계수들에 적용하여 양자화해제된 계수들(211)을 획득하도록 구성된다. 양자화해제된 계수들(211)은 양자화해제된 잔여 계수들(211)이라고 또한 지칭될 수 있고, -양자화에 의한 손실로 인해 변환 계수들과 통상적으로 동일하지 않더라도- 변환 계수들(207)에 대응할 수 있다.
역 변환
역 변환 처리 유닛(212)은 변환 처리 유닛(206)에 의해 적용되는 변환의 역 변환, 예를 들어, 역 DCT(discrete cosine transform) 또는 역 DST(discrete sine transform) 또는 다른 역 변환들을 적용하여, 샘플 도메인에서 재구성된 잔여 블록(213)(또는 대응하는 양자화해제된 계수들(213))을 획득하도록 구성된다. 재구성된 잔여 블록(213)은 변환 블록(213)이라고 또한 지칭될 수 있다.
재구성
재구성 유닛(214)(예를 들어, 가산기 또는 합산기(214))은, 예를 들어, -샘플 단위로- 재구성된 잔여 블록(213)의 샘플 값들 및 예측 블록(265)의 샘플 값들을 가산하는 것에 의해, 변환 블록(213)(즉, 재구성된 잔여 블록(213))을 예측 블록(265)에 가산하여 샘플 도메인에서 재구성된 블록(215)을 획득하도록 구성된다.
필터링
루프 필터 유닛(220)(줄여서 "루프 필터(loop filter)"(220))은, 재구성된 블록(215)을 필터링하여 필터링된 블록(221)을 획득하도록, 또는 일반적으로, 재구성된 샘플들을 필터링하여 필터링된 샘플들을 획득하도록 구성된다. 루프 필터 유닛은 픽셀 전이들을 평활화하도록, 또는 비디오 품질을 달리 개선하도록 구성될 수 있다. 루프 필터 유닛(220)은 블록화-해제 필터와 같은 하나 이상의 루프 필터, SAO(sample-adaptive offset) 필터 또는 쌍방 필터, ALF(adaptive loop filter), 샤프닝, 평활화 필터 또는 협업 필터와 같은 하나 이상의 다른 필터, 또는 이들의 임의의 조합을 포함할 수 있다. 루프 필터 유닛(220)이 인-루프 필터인 것으로서 도 2에 도시되더라도, 다른 구성들에서, 루프 필터 유닛(220)은 포스트 루프 필터로서 구현될 수 있다. 필터링된 블록(221)은 필터링된 재구성된 블록(221)이라고 또한 지칭될 수 있다.
비디오 인코더(20)의 실시예들(각각, 루프 필터 유닛(220))은, 예를 들어, 엔트로피 인코딩 유닛(270)을 통해 인코딩하여 또는 직접, (샘플 적응적 오프셋 정보와 같은) 루프 필터 파라미터들을 출력하도록 구성될 수 있어, 예를 들어, 디코더(30)가 디코딩을 위해 동일한 루프 필터 파라미터들 또는 각각의 루프 필터들을 수신하고 적용할 수 있다.
디코딩된 화상 버퍼
DPB(decoded picture buffer)(230)는 비디오 인코더(20)에 의해 비디오 데이터를 인코딩하기 위해 참조 화상들, 또는 일반적으로 참조 화상 데이터를, 저장하는 메모리일 수 있다. DPB(230)는, SDRAM(synchronous DRAM), MRAM(magnetoresistive RAM), RRAM(resistive RAM), 또는 다른 타입들의 메모리 디바이스들을 포함하는, DRAM(dynamic random access memory)과 같은, 다양한 메모리 디바이스들 중 임의의 것에 의해 형성될 수 있다. DPB(decoded picture buffer)(230)는 하나 이상의 필터링된 블록(221)을 저장하도록 구성될 수 있다. 디코딩된 화상 버퍼(230)는 동일한 현재 화상의 또는 상이한 화상들, 예를 들어, 이전에 재구성된 화상들의 다른 이전에 필터링된 블록들, 예를 들어, 이전에 재구성된 그리고 필터링된 블록들(221)을 저장하도록 추가로 구성될 수 있고, 예를 들어, 인터 예측을 위해, 완전히 이전에 재구성된, 즉, 디코딩된, 화상들(및 대응하는 참조 블록들 및 샘플들) 및/또는 부분적으로 재구성된 현재 화상(및 대응하는 참조 블록들 및 샘플들)을 제공할 수 있다. DPB(decoded picture buffer)(230)는, 예를 들어, 재구성된 블록(215)이 루프 필터 유닛(220)에 의해 필터링되지 않으면, 하나 이상의 필터링되지 않은 재구성된 블록들(215), 또는 일반적으로 필터링되지 않은 재구성된 샘플들, 또는 재구성된 블록들 또는 샘플들의 임의의 다른 추가 처리된 버전을 저장하도록 또한 구성될 수 있다.
모드 선택 (파티셔닝 및 예측)
모드 선택 유닛(260)은 파티셔닝 유닛(262), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)을 포함하고, 원래의 블록(203)(현재 화상(17)의 현재 블록(203))과 같은, 원래의 화상 데이터, 및, 동일한(현재) 화상의 필터링된 및/또는 필터링되지 않은 재구성된 샘플들 또는 블록들과 같은, 재구성된 화상 데이터를 및/또는 하나의 또는 복수의 이전에 디코딩된 화상으로부터, 예를 들어, 디코딩된 화상 버퍼(230) 또는 다른 버퍼들(예를 들어, 라인 버퍼, 도시되지 않음)로부터 수신 또는 획득하도록 구성된다. 재구성된 화상 데이터는, 예측 블록(265) 또는 예측기(265)를 획득하기 위해, 예측, 예를 들어, 인터 예측 또는 인트라 예측을 위한 참조 화상 데이터로서 사용된다.
모드 선택 유닛(260)은 현재 블록 예측 모드(어떠한 파티셔닝도 포함하지 않음) 및 예측 모드(예를 들어, 인트라 또는 인터 예측 모드)에 대한 파티셔닝을 결정 또는 선택하도록 그리고 대응하는 예측 블록(265)을 생성하도록 구성될 수 있으며, 이는 잔여 블록(205)의 계산을 위해 그리고 재구성된 블록(215)의 재구성을 위해 사용된다.
모드 선택 유닛(260)의 실시예들은 (예를 들어, 모드 선택 유닛(260)에 의해 지원되는 또는 이에 대해 이용가능한 것들로부터) 파티셔닝 및 예측 모드를 선택하도록 구성될 수 있고, 이는 최상의 매칭 또는 다시 말해서 최소 잔여(최소 잔여는 송신 또는 저장을 위한 더 양호한 압축을 의미함), 또는 최소 시그널링 오버헤드(최소 시그널링 오버헤드는 송신 또는 저장을 위한 더 양호한 압축을 의미함)를 제공하거나, 또는 이는 양자 모두를 고려하거나 또는 균형화한다. 모드 선택 유닛(260)은 RDO(rate distortion optimization)에 기초하여 파티셔닝 및 예측 모드를 결정하도록, 즉, 최소 레이트 왜곡을 제공하는 예측 모드를 선택하도록 구성될 수 있다. 이러한 맥락에서 "최상(best)", "최소(minimum)", "최적(optimum)" 등과 같은 용어들이 전체적인 "최상(best)", "최소(minimum)", "최적(optimum)" 등을 반드시 지칭하는 것은 아니라, "차선 선택(sub-optimum selection)"으로 잠재적으로 이어지지만 복잡성 및 처리 시간을 감소시키는 다른 제약들 또는 임계값을 초과하는 또는 그 아래로 떨어지는 값과 같은 종료 또는 선택 기준의 충족을 또한 지칭할 수 있다.
다시 말해서, 파티셔닝 유닛(262)은, 예를 들어, QT(quad-tree-partitioning), BT(binary-tree partitioning) 또는 TT(triple-tree-partitioning) 또는 이들의 임의의 조합을 반복적으로 사용하여, 블록(203)을 더 작은 블록 파티션들 또는 서브-블록들(블록들을 다시 형성함)로 파티셔닝하도록, 그리고 블록 파티션들 또는 서브-블록들 각각에 대한 예측을 수행하도록 구성되 수 있고, 모드 선택은 파티셔닝된 블록(203)의 트리-구조의 선택을 포함하고 예측 모드들이 블록 파티션들 또는 서브-블록들 각각에 적용된다.
다음에서는, 예시적인 비디오 인코더(20)에 의해 수행되는 파티셔닝(예를 들어, 파티셔닝 유닛(262)에 의함) 및 예측 처리(인터 예측 유닛(244) 및 인트라 예측 유닛(254)에 의함)가 보다 상세히 설명될 것이다.
파티셔닝
파티셔닝 유닛(262)은 현재 블록(203)을 더 작은 파티션들, 예를 들어, 정사각형 또는 직사각형 크기의 더 작은 블록들로 파티셔닝(또는 분열)할 수 있다. 이러한 더 작은 블록들(서브-블록들이라고 또한 지칭될 수 있음)은 훨씬 더 작은 파티션들로 추가로 파티셔닝될 수 있다. 이러한 것은 트리-파티셔닝(tree-partitioning) 또는 계층적 트리-파티셔닝(hierarchical tree-partitioning)이라고 또한 지칭되며, 예를 들어, 루트 트리-레벨 0(계층-레벨 0, 심도 0)에서의, 루트 블록은, 재귀적으로 파티셔닝될 수 있고, 예를 들어, 다음 하위 트리-레벨의 2개 이상의 블록들, 예를 들어, 트리-레벨 1(계층-레벨 1, 심도 1)에서의 노드들로 파티셔닝될 수 있으며, 이러한 블록들은, 예를 들어, 종료 기준이 충족되기 때문에, 예를 들어, 최대 트리 심도 또는 최소 블록 크기가 도달되기 때문에 파티셔닝이 종료될 때까지 다음 하위 레벨, 예를 들어, 트리-레벨 2(계층-레벨 2, 심도 2) 등의 2개 이상의 블록들으로 다시 파티셔닝될 수 있다. 추가로 파티셔닝되지 않은 블록들은 트리의 리프-블록들 또는 리프 노드들이라고 또한 지칭된다. 2개의 파티션들로의 파티셔닝을 사용하는 트리는 BT(binary-tree)라고 지칭되고, 3개의 파티션들로의 파티셔닝을 사용하는 트리는 TT(ternary-tree)라고 지칭되고, 4개의 파티션들로의 파티셔닝을 사용하는 트리는 QT(quad-tree)라고 지칭된다.
전술된 바와 같이, 본 명세서에서 사용되는 바와 같은 "블록(block)"이라는 용어는 화상의 부분, 특히 정사각형 또는 직사각형 부분일 수 있다. 예를 들어, HEVC 및 VVC를 참조하면, 블록은 CTU(coding tree unit), CU(coding unit), PU(prediction unit), 또는 TU(transform unit)일 수 있거나 또는 이에 대응할 수 있고, 및/또는 대응하는 블록들, 예를 들어, CTB(coding tree block), CB(coding block), TB(transform block), 또는 PB(prediction block)일 수 있거나 또는 이에 대응할 수 있다.
예를 들어, CTU(coding tree unit)는 3개의 샘플 어레이들을 갖는 화상의 크로마 샘플들의 2개의 대응하는 CTB들 및 루마 샘플들의 CTB, 또는 샘플들을 코딩하기 위해 사용되는 3개의 개별 컬러 평면들 및 신택스 구조들을 사용하여 코딩되는 화상 또는 흑백 화상의 샘플들의 CTB이거나 또는 이를 포함할 수 있다. 대응하여, CTB(coding tree block)는 N의 일부 값에 대해 샘플들의 NХN 블록일 수 있어서 CTB들로의 컴포넌트의 분할이 파티셔닝이다. CU(coding unit)는 3개의 샘플 어레이들을 갖는 화상의 크로마 샘플들의 2개의 대응하는 코딩 블록들 및 루마 샘플들의 코딩 블록, 또는 샘플들을 코딩하기 위해 사용되는 3개의 개별 컬러 평면들 및 신택스 구조들을 사용하여 코딩되는 화상 또는 흑백 화상의 샘플들의 코딩 블록일 수 있거나 또는 이를 포함할 수 있다. 대응하여, CB(coding block)는M 및 N의 일부 값들에 대해 샘플들의 MxN 블록일 수 있어서 코딩 블록들로의 CTB의 분할이 파티셔닝이다.
일부 실시예들에서, 예를 들어, HEVC에 따르면, CTU(coding tree unit)는 코딩 트리로서 표기되는 쿼드-트리 구조를 사용하여 CU들로 분열될 수 있다. 인터 화상 (시간적) 또는 인트라 화상 (공간적) 예측을 사용하여 화상 영역을 코딩할지의 결정은 CU 레벨에서 이루어진다. 각각의 CU는 PU 분열 타입에 따라 하나의, 2개의 또는 4개의 PU로 추가로 분열될 수 있다. 하나의 PU 내부에서, 동일한 예측 프로세스가 적용되고 관련 정보가 PU 기반으로 디코더에 송신된다. PU 분열 타입에 기초하여 예측 프로세스를 적용하는 것에 의해 잔여 블록을 획득한 후에, CU는 CU에 대한 코딩 트리와 유사한 다른 쿼드-트리 구조에 따라 TU들(transform units)로 파티셔닝될 수 있다.
실시예들에서, 예를 들어, VVC (Versatile Video Coding)라고 지칭되는, 현재 개발 중인 최근 비디오 코딩 표준에 따라, 코딩 블록을 파티셔닝하기 위해 조합된 QTBT(quad-tree and binary-tree) 파티셔닝이 예를 들어 사용된다. QTBT 블록 구조에서, CU는 정사각형 또는 직사각형 형상을 가질 수 있다. 예를 들어, 쿼드-트리 구조에 의해 CTU(coding tree unit)가 먼저 파티셔닝된다. 2진-트리 또는 3진(또는 3중)-트리 구조에 의해 쿼드-트리 리프 노드들이 추가로 파티셔닝된다. 파티셔닝 트리 리프 노드들은 CU들(coding units)이라고 불리고, 해당 파티션은 어떠한 추가 파티셔닝도 없이 예측 및 변환 처리를 위해 사용된다. 이러한 것은 CU, PU 및 TU가 QTBT 코딩 블록 구조에서 동일한 블록 크기를 갖는다는 점을 의미한다. 병렬로, 다수의 파티션들, 예를 들어, 3중-트리 파티션이 QTBT 블록 구조와 함께 사용될 수 있다.
하나의 예에서, 비디오 인코더(20)의 모드 선택 유닛(260)은 본 명세서에 설명되는 파티셔닝 기법들의 임의의 조합을 수행하도록 구성될 수 있다.
위에 설명된 바와 같이, 비디오 인코더(20)는 (예를 들어, 미리 결정된) 예측 모드들의 세트로부터 최상 또는 최적 예측 모드를 결정 또는 선택하도록 구성된다. 예측 모드들의 세트는 인트라 예측 모드들 및/또는 인터 예측 모드들을 포함할 수 있다.
인트라 예측
인트라 예측 모드들의 세트는, 예를 들어, HEVC에서 정의되는 바와 같이, DC(또는 평균) 모드 및 평면 모드와 같은 비-지향성 모드들, 또는 지향성 모드들과 같은, 35개의 상이한 인트라 예측 모드들을 포함할 수 있거나, 또는, 예를 들어, VVC에 대해 정의되는 바와 같이, DC(또는 평균) 모드 및 평면 모드와 같은 비-지향성 모드들, 또는 지향성 모드들과 같은, 67개의 상이한 인트라 예측 모드들을 포함할 수 있다.
인트라 예측 유닛(254)은 동일한 현재 화상의 이웃 블록들의 재구성된 샘플들을 사용하여 인트라 예측 모드들의 세트로부터의 인트라 예측 모드에 따라 (인트라) 예측 블록(265)을 생성하도록 구성된다.
인트라 예측 유닛(254)(또는 일반적으로 모드 선택 유닛(260))은 인코딩된 화상 데이터(21)로의 포함을 위해 신택스 엘리먼트들(266)의 형태로 엔트로피 인코딩 유닛(270)에 인트라 예측 파라미터들(또는 일반적으로 블록에 대한 선택된 인트라 예측 모드를 표시하는 정보)을 출력하도록 추가로 구성될 수 있어서, 예를 들어, 비디오 디코더(30)는 디코딩을 위해 예측 파라미터들을 수신하고 사용할 수 있다.
인터 예측
(또는 가능한) 인터 예측 모드들의 세트는 이용가능한 참조 화상들(즉, 예를 들어, DBP(230)에 저장되는, 이전의, 적어도 부분적으로 디코딩된 화상들) 및 다른 인터 예측 파라미터들, 예를 들어, 최상의 매칭 참조 화상 블록을 검색하기 위해 참조 화상의 전체 참조 화상 또는 참조 화상의 부분만, 예를 들어, 현재 블록의 영역 주위의 검색 윈도우 영역만이 사용되는지, 및/또는, 예를 들어, 1/2/반-화소 및/또는 1/4-화소 보간과 같은, 픽셀 보간이 적용되는지 여부에 의존한다.
위 예측 모드들 외에도, 스킵 모드 및/또는 직접 모드가 적용될 수 있다.
인터 예측 유닛(244)은 ME(motion estimation) 유닛 및 MC(motion compensation) 유닛(양자 모두 도 2에 도시되지 않음)을 포함할 수 있다. 모션 추정 유닛은, 모션 추정을 위해, 화상 블록(203)(현재 화상(17)의 현재 화상 블록(203)) 및 디코딩된 화상(231), 또는, 하나의 또는 복수의 이전에 디코딩된 화상(231)의 재구성된 블록과 같은, 적어도 하나의 또는 복수의 이전에 재구성된 블록을 수신 또는 획득하도록 구성될 수 있다. 예로서, 비디오 시퀀스는 현재 화상 및 이전에 디코딩된 화상들(231)을 포함할 수 있거나, 또는 다시 말해서, 현재 화상 및 이전에 디코딩된 화상들(231)은 비디오 시퀀스를 형성하는 화상들의 부분일 수 있거나 또는 그 시퀀스를 형성할 수 있다.
인코더(20)는 복수의 이전에 디코딩된 화상들 중 동일한 또는 상이한 화상들의 복수의 참조 블록들로부터 참조 블록을 선택하도록 그리고 참조 화상(또는 참조 화상 인덱스) 및/또는 참조 블록의 위치(x, y 좌표들)와 현재 블록의 위치 사이의 오프셋(공간적 오프셋)을 모션 추정 유닛에 인터 예측 파라미터들로서 제공하도록 구성될 수 있다. 이러한 오프셋은 MV(motion vector)라고 또한 불린다.
모션 보상 유닛은 인터 예측 파라미터를 획득, 예를 들어, 수신하도록 그리고 인터 예측 파라미터에 기초하여 또는 이를 사용하여 인터 예측을 수행하여 (인터) 예측 블록(265)을 획득하도록 구성될 수 있다. 모션 보상 유닛에 의해 수행되는, 모션 보상은 모션 추정에 의해 결정되는 모션/블록 벡터에 기초하여 예측 블록을 페치하는 것 또는 생성하는 것, 가능하게는 서브-픽셀 정밀도에 대한 보간들을 수행하는 것을 수반할 수 있다. 보간 필터링은 알려진 픽셀 샘플들로부터 추가적인 픽셀 샘플들을 생성할 수 있고, 따라서 화상 블록을 코딩하기 위해 사용될 수 있는 후보 예측 블록들의 수를 잠재적으로 증가시킨다. 현재 화상 블록의 PU에 대한 모션 벡터를 수신하면, 모션 보상 유닛은 참조 화상 리스트들 중 하나에서 모션 벡터가 포인팅하는 예측 블록의 위치를 찾아낼 수 있다.
모션 보상 유닛은 비디오 슬라이스의 화상 블록들을 디코딩함에 있어서 비디오 디코더(30)에 의해 사용하기 위한 블록들 및 비디오 슬라이스들과 연관된 신택스 엘리먼트들을 또한 생성할 수 있다. 슬라이스들 및 각각의 신택스 엘리먼트들 외에도 또는 그 대안으로서, 타일 그룹들 및/또는 타일들 및 각각의 신택스 엘리먼트들이 생성 또는 사용될 수 있다.
엔트로피 코딩
엔트로피 인코딩 유닛(270)은, 예를 들어, 인코딩된 비트스트림(21)의 형태로, 출력(272)을 통해 출력될 수 있는 인코딩된 화상 데이터(21)를 획득하기 위해, 양자화된 계수들(209), 인터 예측 파라미터들, 인트라 예측 파라미터들, 루프 필터 파라미터들, 및/또는 다른 신택스 엘리먼트들에 대해 엔트로피 인코딩 알고리즘 또는 스킴(예를 들어, VLC(variable length coding) 스킴, CAVLC(context adaptive VLC) 스킴, 산술 코딩 스킴, 2진화, CABAC(context adaptive binary arithmetic coding), SBAC(syntax-based context-adaptive binary arithmetic coding), PIPE(probability interval partitioning entropy) 코딩 또는 다른 엔트로피 인코딩 방법론 또는 기법) 또는 바이패스(어떠한 압축도 없음)을 적용하도록 구성되어, 예를 들어, 비디오 디코더(30)는 디코딩을 위해 파라미터들을 수신 및 사용할 수 있다. 인코딩된 비트스트림(21)은 비디오 디코더(30)에 송신될 수 있거나, 또는 비디오 디코더(30)에 의한 나중의 송신 또는 검색을 위해 메모리에 저장될 수 있다.
비디오 스트림을 인코딩하기 위해 비디오 인코더(20)의 다른 구조적 변형들이 사용될 수 있다. 예를 들어, 비-변환 기반 인코더(20)는 특정 블록들 또는 프레임들에 대해 변환 처리 유닛(206) 없이 직접 잔여 신호를 양자화할 수 있다. 다른 구현에서, 인코더(20)는 단일 유닛으로 조합되는 양자화 유닛(208) 및 역 양자화 유닛(210)을 가질 수 있다.
디코더 및 디코딩 방법
도 3은 본 출원의 기법들을 구현하도록 구성되는 비디오 디코더(30)의 예를 도시한다. 비디오 디코더(30)는, 예를 들어, 인코더(20)에 의해 인코딩되는 인코딩된 화상 데이터(21)(예를 들어, 인코딩된 비트스트림(21))를 수신하여, 디코딩된 화상(331)을 획득하도록 구성된다. 인코딩된 화상 데이터 또는 비트스트림은 인코딩된 화상 데이터를 디코딩하기 위한 정보, 예를 들어, 인코딩된 비디오 슬라이스 (및/또는 타일 그룹 또는 타일)의 화상 블록들 및 연관된 신택스 엘리먼트들을 표현하는 데이터를 포함한다.
도 3의 예에서, 디코더(30)는 엔트로피 디코딩 유닛(304), 역 양자화 유닛(310), 역 변환 처리 유닛(312), 재구성 유닛(314)(예를 들어, 합산기(314)), 루프 필터(320), DBP(decoded picture buffer)(330), 모드 적용 유닛(360), 인터 예측 유닛(344) 및 인트라 예측 유닛(354)을 포함한다. 인터 예측 유닛(344)은 모션 보상 유닛이거나 또는 이를 포함할 수 있다. 비디오 디코더(30)는, 일부 예들에서, 도 2의 비디오 인코더(20)에 관하여 설명되는 인코딩 패스에 일반적으로 역관계인 디코딩 패스를 수행할 수 있다.
인코더(20)에 관하여 설명된 바와 같이, 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구성 유닛(214), 루프 필터(220), DPB(decoded picture buffer)(230), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)은 비디오 인코더(20)의 "내장 디코더(built-in decoder)"를 형성하는 것이라고 또한 지칭된다. 따라서, 역 양자화 유닛(310)은 역 양자화 유닛(210)과 기능에 있어서 동일할 수 있고, 역 변환 처리 유닛(312)은 역 변환 처리 유닛(212)과 기능에 있어서 동일할 수 있고, 재구성 유닛(314)은 재구성 유닛(214)과 기능에 있어서 동일할 수 있고, 루프 필터(320)는 루프 필터(220)와 기능에 있어서 동일할 수 있으며, 디코딩된 화상 버퍼(330)는 디코딩된 화상 버퍼(230)와 기능에 있어서 동일할 수 있다. 따라서, 비디오 인코더(20)의 각각의 유닛들 및 기능들에 대해 제공되는 설명들은 비디오 디코더(30)의 각각의 유닛들 및 기능들에 대응하여 적용된다.
엔트로피 디코딩
엔트로피 디코딩 유닛(304)은 비트스트림(21)(또는 일반적으로 인코딩된 화상 데이터(21))을 파싱하도록 그리고, 예를 들어, 인코딩된 화상 데이터(21)에 대한 엔트로피 디코딩을 수행하여, 인터 예측 파라미터들(예를 들어, 참조 화상 인덱스 및 모션 벡터), 인트라 예측 파라미터들(예를 들어, 인트라 예측 모드 또는 인덱스), 변환 파라미터들, 양자화 파라미터들, 루프 필터 파라미터들, 및/또는 다른 신택스 엘리먼트들 중 임의의 것 또는 전부와 같은, 예를 들어, 양자화된 계수들(309) 및/또는 디코딩된 코딩 파라미터들(366)을 획득하도록 구성된다. 엔트로피 디코딩 유닛(304)은 인코더(20)의 엔트로피 인코딩 유닛(270)에 관하여 설명된 바와 같이 인코딩 스킴들에 대응하는 디코딩 알고리즘들 또는 스킴들을 적용하도록 구성될 수 있다. 엔트로피 디코딩 유닛(304)은 인터 예측 파라미터들, 인트라 예측 파라미터들 및/또는 다른 신택스 엘리먼트들을 모드 적용 유닛(360)에 그리고 다른 파라미터들을 디코더(30)의 다른 유닛들에 제공하도록 추가로 구성될 수 있다. 비디오 디코더(30)는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수 있다. 슬라이스들 및 각각의 신택스 엘리먼트들 외에도 또는 그 대안으로서, 타일 그룹들 및/또는 타일들 및 각각의 신택스 엘리먼트들이 수신 및/또는 사용될 수 있다.
역 양자화
역 양자화 유닛(310)은 (예를 들어, 파싱 및/또는 디코딩에 의해, 예를 들어, 엔트로피 디코딩 유닛(304)에 의해) 인코딩된 화상 데이터(21)로부터 QP(quantization parameters)(또는 일반적으로, 역 양자화에 관련된 정보) 및 양자화된 계수들을 수신하도록 그리고, 양자화 파라미터들에 기초하여, 디코딩된 양자화된 계수들(309)에 역 양자화를 적용하여, 변환 계수들(311)이라고 또한 지칭될 수 있는, 양자화해제된 계수들(311)을 획득하도록 구성될 수 있다. 역 양자화 프로세스는, 양자화의 정도 및, 마찬가지로, 적용되어야 하는 역 양자화의 정도를 결정하기 위해, 비디오 슬라이스(또는 타일 또는 타일 그룹)에서의 각각의 비디오 블록에 대해 비디오 인코더(20)에 의해 결정되는 양자화 파라미터의 사용을 포함할 수 있다.
역 변환
역 변환 처리 유닛(312)은, 변환 계수들(311)이라고 또한 지칭되는, 양자화해제된 계수들(311)을 수신하도록, 그리고 샘플 도메인에서 재구성된 잔여 블록들(313)을 획득하기 위해 양자화해제된 계수들(311)에 변환을 적용하도록 구성될 수 있다. 재구성된 잔여 블록들(313)은 변환 블록들(313)이라고 또한 지칭될 수 있다. 변환은 역 변환, 예를 들어, 역 DCT, 역 DST, 역 정수 변환, 또는 개념적으로 유사한 역 변환 프로세스일 수 있다. 역 변환 처리 유닛(312)은 양자화해제된 계수들(311)에 적용될 변환을 결정하기 위해 (예를 들어, 파싱 및/또는 디코딩에 의해, 예를 들어, 엔트로피 디코딩 유닛(304)에 의해) 인코딩된 화상 데이터(21)로부터 변환 파라미터들 또는 대응하는 정보를 수신하도록 추가로 구성될 수 있다.
재구성
재구성 유닛(314)(예를 들어, 가산기 또는 합산기(314))은, 예를 들어, 재구성된 잔여 블록(313)의 샘플 값들 및 예측 블록(365)의 샘플 값들을 가산하는 것에 의해, 재구성된 잔여 블록(313)을 예측 블록(365)에 가산하여 샘플 도메인에서 재구성된 블록(315)을 획득하도록 구성될 수 있다.
필터링
(코딩 루프에서의 또는 코딩 루프 후의) 루프 필터 유닛(320)은 재구성된 블록(315)을 필터링하여 필터링된 블록(321)을 획득하도록, 예를 들어, 픽셀 전이들을 평활화하도록, 또는 비디오 품질을 달리 개선하도록 구성된다. 루프 필터 유닛(320)은 블록화-해제 필터와 같은 하나 이상의 루프 필터, SAO(sample-adaptive offset) 필터 또는 하나 이상의 다른 필터, 예를 들어, 쌍방 필터, ALF(adaptive loop filter), 샤프닝, 평활화 필터 또는 협업 필터, 또는 이들의 임의의 조합을 포함할 수 있다. 루프 필터 유닛(320)이 인-루프 필터인 것으로서 도 3에 도시되더라도, 다른 구성들에서, 루프 필터 유닛(320)은 포스트 루프 필터로서 구현될 수 있다.
디코딩된 화상 버퍼
화상의 디코딩된 비디오 블록(321)은 다음으로, 디코딩된 화상들(331)을 다른 화상에 대한 후속 모션 보상을 위한 및/또는 출력 또는 각각 디스플레이를 위한 참조 화상들로서 저장하는, 디코딩된 화상 버퍼(330)에 저장된다.
디코더(30)는 사용자에 대한 프레젠테이션 또는 뷰잉을 위해, 예를 들어, 출력(312)을 통해, 디코딩된 화상(311)을 출력하도록 구성된다.
예측
인터 예측 유닛(344)은 인터 예측 유닛(244)(특히, 모션 보상 유닛)과 동일할 수 있고, 인트라 예측 유닛(354)은 기능에 있어서 인트라 예측 유닛(254)과 동일할 수 있으며, (예를 들어, 파싱 및/또는 디코딩에 의해, 예를 들어, 엔트로피 디코딩 유닛(304)에 의해) 파티셔닝 및/또는 예측 파라미터들 또는 인코딩된 화상 데이터(21)로부터 수신되는 각각의 정보에 기초하여 분열 또는 파티셔닝 결정들 및 예측을 수행한다. 모드 적용 유닛(360)은 재구성된 화상들, 블록들 또는 각각의 샘플들(필터링되거나 또는 필터링되지 않음)에 기초하여 블록 당 예측(인트라 예측 또는 인터 예측)을 수행하여 예측 블록(365)을 획득하도록 구성될 수 있다.
비디오 슬라이스 또는 화상이 인트라 코딩된(I) 슬라이스로서 코딩될 때, 모드 적용 유닛(360)의 인트라 예측 유닛(354)은 현재 화상의 이전에 디코딩된 블록들로부터의 데이터 및 시그널링된 인트라 예측 모드에 기초하여 현재 비디오 슬라이스의 화상 블록에 대한 예측 블록(365)을 생성하도록 구성된다. 비디오 슬라이스 또는 화상이 인터 코딩된(즉, B 또는 P) 슬라이스로서 코딩될 때, 모드 적용 유닛(360)의 인터 예측 유닛(344)(예를 들어, 모션 보상 유닛)은 엔트로피 디코딩 유닛(304)으로부터 수신되는 다른 신택스 엘리먼트들 및 모션 벡터들에 기초하여 현재 비디오 슬라이스의 비디오 블록에 대한 예측 블록(365)을 생성하도록 구성된다. 인터 예측을 위해, 예측 블록들은 참조 화상 리스트들 중 하나 내의 참조 화상들 중 하나로부터 생성될 수 있다. 비디오 디코더(30)는, DPB(330)에 저장되는 참조 화상에 기초하여 디폴트 구성 기법들을 사용하여, 참조 화상 리스트들, 즉, List 0 및 List 1을 구성할 수 있다. 동일한 또는 유사한 접근법이 슬라이스들(예를 들어, 비디오 슬라이스들) 외에도 또는 그에 대안적으로 타일 그룹들(예를 들어, 비디오 타일 그룹들) 및/또는 타일들(예를 들어, 비디오 타일들)을 사용하는 실시예들에 대해 또는 이들에 의해 적용될 수 있다, 예를 들어, I, P 또는 B 타일 그룹들 및/또는 타일들을 사용하여 비디오가 코딩될 수 있다.
모드 적용 유닛(360)은 모션 벡터들 또는 관련 정보 및 다른 신택스 엘리먼트들을 파싱하는 것에 의해 현재 비디오 슬라이스의 비디오/화상 블록에 대한 예측 정보를 결정하도록, 그리고 예측 정보를 사용하여 디코딩되고 있는 현재 비디오 블록에 대한 예측 블록들을 생성하도록 구성된다. 예를 들어, 모드 적용 유닛(360)은 수신된 신택스 엘리먼트들 중 일부를 사용하여, 비디오 슬라이스의 비디오 블록들을 코딩하기 위해 사용되는 예측 모드(예를 들어, 인트라 또는 인터 예측), 인터 예측 슬라이스 타입(예를 들어, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 참조 화상 리스트들 중 하나 이상에 대한 구성 정보, 슬라이스의 각각의 인터 코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터 코딩된 비디오 블록에 대한 인터 예측 상태, 및 현재 비디오 슬라이스에서 비디오 블록들을 디코딩하기 위한 다른 정보를 결정한다. 동일한 또는 유사한 접근법이 슬라이스들(예를 들어, 비디오 슬라이스들) 외에도 또는 그에 대안적으로 타일 그룹들(예를 들어, 비디오 타일 그룹들) 및/또는 타일들(예를 들어, 비디오 타일들)을 사용하는 실시예들에 대해 또는 이들에 의해 적용될 수 있다, 예를 들어, I, P 또는 B 타일 그룹들 및/또는 타일들을 사용하여 비디오가 코딩될 수 있다.
도 3에 도시되는 바와 같은 비디오 디코더(30)의 실시예들은 슬라이스들(비디오 슬라이스들이라고 또한 지칭됨)을 사용하여 화상을 파티셔닝 및/또는 디코딩하도록 추가로 구성될 수 있으며, 화상은 하나 이상의 슬라이스(통상적으로 비-중첩임)로 파티셔닝되거나 또는 이를 사용하여 디코딩될 수 있고, 각각의 슬라이스는 하나 이상의 블록(예를 들어, CTU)을 포함할 수 있다.
도 3에 도시되는 바와 같은 비디오 디코더(30)의 실시예들은 타일 그룹들(비디오 타일 그룹들이라고 또한 지칭됨) 및/또는 타일들(비디오 타일들이라고 또한 지칭됨)을 사용하여 화상을 파티셔닝 및/또는 디코딩하도록 추가로 구성될 수 있으며, 화상은 하나 이상의 타일 그룹(통상적으로 비-중첩임)으로 파티셔닝되거나 또는 이를 사용하여 디코딩될 수 있고 각각의 타일 그룹은 하나 이상의 블록(예를 들어, CTU) 또는 하나 이상의 타일을 포함할 수 있으며, 각각의 타일은 직사각형 형상의 것일 수 있고 하나 이상의 블록(예를 들어, CTU), 예를 들어, 완전한 또는 분수의 블록을 포함할 수 있다.
인코딩된 화상 데이터(21)를 디코딩하기 위해 비디오 디코더(30)의 다른 변형들이 사용될 수 있다. 예를 들어, 디코더(30)는 루프 필터링 유닛(320) 없이 출력 비디오 스트림을 생성할 수 있다. 예를 들어, 비-변환 기반 디코더(30)는 특정 블록들 또는 프레임들에 대해 역-변환 처리 유닛(312) 없이 직접 잔여 신호를 역-양자화할 수 있다. 다른 구현에서, 비디오 디코더(30)는 단일 유닛으로 조합되는 역-양자화 유닛(310) 및 역-변환 처리 유닛(312)을 가질 수 있다.
인코더(20) 및 디코더(30)에서, 현재 단계의 처리 결과가 추가로 처리되고 다음으로 다음 단계에 출력될 수 있다는 점이 이해되어야 한다. 예를 들어, 보간 필터링, 모션 벡터 도출 또는 루프 필터링 후에, 보간 필터링, 모션 벡터 도출 또는 루프 필터링의 처리 결과에 대해, Clip 또는 시프트와 같은, 추가 연산이 수행될 수 있다.
추가 연산들은 현재 블록의 도출된 모션 벡터들(이에 제한되는 것은 아니지만 아핀 모드의 제어 포인트 모션 벡터들, 아핀에서의 서브-블록 모션 벡터들, 평면, ATMVP 모드들, 시간적 모션 벡터들 등을 포함함)에 적용될 수 있다는 점이 주목되어야 한다. 예를 들어, 모션 벡터의 값은 그 표현 비트 수에 따라 미리 정의된 범위로 제약된다. 모션 벡터의 표현 비트 수가 bitDepth이면, 이러한 범위는-2^(bitDepth-1) ~ 2^(bitDepth-1)-1이고, 여기서 "^"는 지수화를 의미한다. 예를 들어, bitDepth가 16과 동일하게 설정되면, 이러한 범위는 -32768 ~ 32767이고; bitDepth가 18과 동일하게 설정되면, 이러한 범위는 -131072~131071이다. 예를 들어, 도출된 모션 벡터(예를 들어, 하나의 8x8 블록 내의 4개의 4x4 서브-블록들의 MV들)의 값은 4개의 4x4 서브-블록 MV들의 정수 부분들 사이의 최대 차이가, 1 픽셀 이하와 같은, N 픽셀 이하이도록 제약된다. 다음 설명은 bitDepth에 따라 모션 벡터를 제약하기 위한 2개의 방법들을 제공한다.
방법 1: 다음의 연산들에 의해 오버플로우 MSB(most significant bit)를 제거함:
Figure pct00003
여기서 mvx는 이미지 블록 또는 서브-블록의 모션 벡터의 수평 성분이고, mvy는 이미지 블록 또는 서브-블록의 모션 벡터의 수직 성분이고, ux 및 uy는 각각의 중간 값들을 표시한다.
예를 들어, mvx의 값이 -32769이면, 공식 (1) 및 (2)를 적용한 후에, 결과 값은 32767이다. 컴퓨터 시스템에서, 10진수들은 2의 보수들로서 저장된다. -32769의 2의 보수는 1,0111,1111,1111,1111(17 비트)이다. 다음으로, MSB는 폐기되므로, 결과적인 2의 보수는 0111,1111,1111,1111이고(10진수는 32767임), 이는 공식 (1) 및 (2)를 적용하는 것에 의한 출력과 동일하다.
Figure pct00004
이러한 연산들은, 공식 (5) 내지 (8)에 도시되는 바와 같이, mvp(motion vector predictor) 및 mvd(motion vector difference)의 합 동안 적용될 수 있다.
방법 2: 값을 클리핑하는 것에 의해 오버플로우 MSB를 제거함:
Figure pct00005
여기서, vx는 이미지 블록 또는 서브-블록의 모션 벡터의 수평 성분이고, vy는 이미지 블록 또는 서브-블록의 모션 벡터의 수직 성분이고; x, y 및 z는 MV 클리핑 프로세스의 3개의 입력 값들에 각각 대응하고, 함수 Clip3의 정의는 다음과 같다:
Figure pct00006
도 4는 본 개시내용의 실시예에 따른 비디오 코딩 디바이스(400)의 개략도이다. 이러한 비디오 코딩 디바이스(400)는 아래에 설명되는 바와 같이 개시된 실시예들을 구현하기에 적합하다. 실시예에서, 비디오 코딩 디바이스(400)는 도 1a의 비디오 디코더(30)와 같은 디코더 또는 도 1a의 비디오 인코더(20)와 같은 인코더일 수 있다.
비디오 코딩 디바이스(400)는 데이터를 수신하기 위한 입구 포트들(410)(또는 입력 포트들(410)) 및 하나 이상의 수신기 유닛 (Rx)(420); 데이터를 처리하는 프로세서, 로직 유닛, 또는 CPU(central processing unit)(430); 데이터를 송신하기 위한 하나 이상의 송신기 유닛 (Tx)(440) 및 출구 포트들(450)(또는 출력 포트들(450)); 데이터를 저장하기 위한 메모리(460)를 포함할 수 있다. 비디오 코딩 디바이스(400)는 광 또는 전기 신호들의 출구 또는 입구를 위해 입구 포트들(410), 수신기 유닛들(420), 송신기 유닛들(440), 및 출구 포트들(450)에 연결되는 OE(optical-to-electrical) 컴포넌트들 및 EO(electrical-to-optical) 컴포넌트들을 또한 포함할 수 있다.
프로세서(430)는 하드웨어 및 소프트웨어에 의해 구현될 수 있다. 프로세서(430)는 하나 이상의 CPU 칩, (예를 들어, 멀티-코어 프로세서로서의) 코어들, FPGA들, ASIC들, 및 DSP들로서 구현될 수 있다. 프로세서(430)는 입구 포트들(410), 수신기 유닛들(420), 송신기 유닛들(440), 출구 포트들(450), 및 메모리(460)와 통신할 수 있다. 프로세서(430)는 코딩 모듈(470)을 포함할 수 있다. 코딩 모듈(470)은 위에 그리고 아래에 설명되는 개시된 실시예들을 구현한다. 예를 들어, 코딩 모듈(470)은 다양한 코딩 동작들을 구현, 처리, 준비, 또는 제공할 수 있다. 따라서, 코딩 모듈(470)의 포함은 비디오 코딩 디바이스(400)의 기능성에 상당한 개선을 제공하고, 비디오 코딩 디바이스(400)의 상이한 상태로의 변환에 효과가 있다. 대안적으로, 코딩 모듈(470)은 메모리(460)에 저장되는 그리고 프로세서(430)에 의해 실행되는 명령어들로서 구현될 수 있다.
메모리(460)는 하나 이상의 디스크, 테이프 드라이브, 및 솔리드-스테이트 드라이브를 포함할 수 있고, 이러한 프로그램들이 실행을 위해 선택될 때 프로그램들을 저장하고, 프로그램 실행 동안 판독되는 명령어들 및 데이터를 저장하기 위해, 오버-플로우 데이터 저장 디바이스로서 사용될 수 있다. 메모리(460)는, 예를 들어, 휘발성 및/또는 비-휘발성일 수 있고, ROM(read-only memory), RAM(random access memory), TCAM(ternary content-addressable memory), 및/또는 SRAM(static random-access memory)일 수 있다.
도 5는 예시적인 실시예에 따른, 도 1a로부터의 소스 디바이스(12) 및 목적지 디바이스(14) 중 어느 하나 또는 양자 모두로서 사용될 수 있는 장치(500)의 단순화된 블록도이다.
이러한 장치(500)에서의 프로세서(502)는 중앙 처리 유닛일 수 있다. 대안적으로, 프로세서(502)는, 지금-존재하는 또는 이후 개발될 정보를 조작 또는 처리할 수 있는, 임의의 다른 타입의 디바이스, 또는 다수의 디바이스들일 수 있다. 개시된 구현들은 도시되는 바와 같이 단일 프로세서, 예를 들어, 프로세서(502)로 실시될 수 있더라도, 하나보다 많은 프로세서를 사용하여 속도 및 효율에서의 이점들이 달성될 수 있다.
이러한 장치(500)에서의 메모리(504)는 구현에서 ROM(read only memory) 디바이스 또는 RAM(random access memory) 디바이스일 수 있다. 임의의 다른 적합한 타입의 저장 디바이스가 메모리(504)로서 사용될 수 있다. 메모리(504)는 버스(512)를 사용하여 프로세서(502)에 의해 액세스되는 코드 및 데이터(506)를 포함할 수 있다. 메모리(504)는 운영 체제(508) 및 애플리케이션 프로그램들(510)을 추가로 포함할 수 있으며, 이러한 애플리케이션 프로그램들(510)은 프로세서(502)가 본 명세서에 설명되는 방법들을 수행하는 것을 허가하는 적어도 하나의 프로그램을 포함한다. 예를 들어, 애플리케이션 프로그램(510)은, 본 명세서에 설명되는 방법을 수행하는 비디오 코딩 애플리케이션을 추가로 포함하는, 애플리케이션들 1 내지 N을 포함할 수 있다.
이러한 장치(500)는, 디스플레이(518)와 같은, 하나 이상의 출력 디바이스를 또한 포함할 수 있다. 디스플레이(518)는, 하나의 예에서, 터치 입력들을 감지하도록 동작가능한 터치 감응성 엘리먼트와 디스플레이를 조합하는 터치 감응성 디스플레이일 수 있다. 디스플레이(518)는 버스(512)를 통해 프로세서(502)에 연결될 수 있다.
본 명세서에서는 단일 버스로서 묘사되더라도, 이러한 장치(500)의 버스(512)는 다수의 버스들로 조성될 수 있다. 추가로, 2차 스토리지(도시되지 않음)가 이러한 장치(500)의 다른 컴포넌트들에 직접 연결될 수 있거나 또는 네트워크를 통해 액세스될 수 있고, 메모리 카드와 같은 단일 집적 유닛 또는 다수의 메모리 카드들과 같은 다수의 유닛들을 포함할 수 있다. 따라서, 이러한 장치(500)는 매우 다양한 구성들로 구현될 수 있다.
CPR(Current Picture Referencing) 모드라고 또한 알려진, IBC(intra block copy)는 SCC(Screen Content Coding)에 대한 HEVC 확장들에서 채택되는 툴이다. IBC는 스크린 콘텐츠 재료들의 코딩 효율을 상당히 개선한다는 점이 잘 알려져 있다. IBC 모드가 블록 레벨 코딩 모드로서 구현되기 때문에, 각각의 CU에 대한 최적의 블록 벡터(또는 모션 벡터라고 또한 불림)를 발견하기 위해 인코더에서 BM(block matching)이 수행된다. 본 명세서에서, 현재 블록으로부터, 현재 화상에서 이미 재구성된, 참조 블록으로의 변위를 표시하기 위해 모션 벡터가 사용된다. IBC-코딩된 CU의 루마 모션 벡터는 정수 정밀도에 있다. 크로마 모션 벡터 또한 정수 정밀도로 클리핑된다. AMVR(adaptive motion vector resolution)과 조합될 때, IBC 모드는 1-화소와 4-화소 모션 벡터 정밀도들 사이에서 스위칭할 수 있다. IBC-코딩된 CU는 인트라 예측 모드 또는 인터 예측 모드 이외의 제3 예측 모드로서 취급될 수 있다.
메모리 소비 및 디코더 복잡성을 감소시키기 위해, VTM4(VVC Test Model 4)에서의 IBC는 현재 CTU를 포함하는 미리 정의된 영역의 재구성된 부분만이 사용되는 것을 허용한다. 이러한 한정은 IBC 모드가 하드웨어 구현들을 위해 로컬 온-칩 메모리를 사용하여 구현되는 것을 허용한다.
인코더 측에서, IBC에 대해 해시-기반 모션 추정이 수행된다. 인코더는 폭 또는 높이가 16개의 루마 샘플들 이하인 블록들에 대해 RD(rate distortion) 체크들을 수행한다. 비-병합 모드에 대해, 해시-기반 검색을 사용하여 블록 벡터 검색이 먼저 수행된다. 해시-기반 검색이 유효한 후보를 리턴하지 않으면, 블록 매칭에 기초하는 로컬 검색이 수행될 것이다.
CU 레벨에서, IBC 모드는 플래그로 시그널링되고, 이러한 플래그는 다음과 같이 IBC AMVP(Advanced Motion Vector Prediction) 모드 또는 IBC 스킵/병합 모드로서 시그널링될 수 있다:
IBC 스킵/병합 모드: 이웃 후보 IBC 코딩된 블록들로부터 리스트에서 블록 벡터를 표시하기 위해 사용되는 병합 후보 인덱스- 블록 벡터는 현재 블록을 예측하기 위해 사용됨 -. 병합 후보 리스트는 공간적 후보들, HMVP(History-based Motion Vector Prediction) 후보들, 및 쌍별 후보들을 포함한다.
IBC AMVP 모드: 블록 벡터 차이가 모션 벡터 차이와 동일한 방식으로 코딩됨. 블록 벡터 예측 방법은, (IBC 모드가 이웃 블록을 코딩하기 위해 사용되면) 하나는 좌측 이웃 블록으로부터의 것이고 하나는 위 이웃 블록으로부터의 것인 2개의 후보들을 예측기들로서 사용한다. 이웃 블록이 이용가능하지 않을 때, 디폴트 블록 벡터가 예측기로서 사용될 것이다. 블록 벡터 예측기 인덱스를 표시하기 위해 플래그가 시그널링된다.
VVC Draft 4.0에서, IBC 블록 벡터의 검색 범위는 링크 http://phenix.it-sudparis.eu/jvet/index.php 하에서 발견될 수 있는 JVET-M0407을 채택하는 것에 의해 최적화된다.
JVET-M0407에서, IBC 블록 크기는 64x64 루마 샘플들보다 더 크도록 허용되지 않는다.
아래 설명되는 방법은 참조 메모리 버퍼를 보다 효율적으로 이용하여 IBC 모드에 대한 유효 검색 범위가 현재 CTU를 너머 확장될 수 있다.
이러한 것은 참조 메모리 버퍼에서의 64x64 블록들 중 임의의 것이 현재 CTU로부터의 재구성된 샘플들로 업데이트하기 시작하자마자, 전체 64x64 블록에서의 (좌측 CTU로부터의) 이전에 저장된 참조 샘플들이 IBC 참조 목적을 위해 이용불가능하게 된다는 점을 의미한다.
참조 메모리 버퍼에서의 64x64 블록들 각각이 전체로서 고려되기 때문에, 64x64 블록의 부분이 현재 CTU로부터의 재구성된 샘플들로 업데이트되었을 때, 이러한 64x64 블록에서의 좌측 CTU로부터의 참조 샘플들은 더 이상 사용될 수 없다.
보다 구체적으로, 현재 CTU에 대한 현재 코딩 블록의 위치에 의존하여, 다음이 적용된다:
● 현재 블록이 IBC 모드를 사용하여 예측되고 현재 블록이 현재 CTU의 좌측-상단 64x64 블록에 속하면, 현재 CTU에서의 이미 재구성된 샘플들 외에도, 현재 블록은 좌측 CTU의 우측-하단 64x64 블록에서의 참조 샘플들을 또한 참조할 수 있다. 또한, (도 6a에 도시되는 바와 같이) 현재 블록은 좌측 CTU의 좌측-하단 64x64 블록에서의 참조 샘플들을 참조하고, 좌측 CTU의 우측-상단 64x64 블록에서의 참조 샘플들을 참조할 수 있다.
● (도 6b에 도시되는 바와 같이) 현재 블록이 IBC 모드를 사용하여 예측되고 현재 블록이 현재 CTU의 우측-상단 64x64 블록에 속하면, 현재 CTU에서의 이미 재구성된 샘플들 외에도, 현재 CTU에 대한 위치(0, 64)에서의 루마 샘플들이 아직 재구성되지 않았으면, 현재 블록은 좌측-하단 64x64 블록에서의 참조 샘플들을 참조하고, 좌측 CTU의 우측-하단 64x64 블록에서의 참조 샘플들을 참조할 수 있다. 현재 CTU에 대한 위치(0, 64)에서의 루마 샘플들이 이미 재구성되었으면, 현재 블록은 좌측 CTU의 우측-하단 64x64 블록에서의 참조 샘플들을 참조하지만, 좌측 CTU의 좌측-하단 64x64 블록은 참조하지 않을 수 있다.
● 현재 블록이 IBC 모드를 사용하여 예측되고 현재 블록이 현재 CTU의 좌측-하단 64x64 블록에 속하면, 현재 CTU에서의 이미 재구성된 샘플들 외에도, 현재 CTU에 대한 위치(64, 0)에서의 루마 샘플들이 아직 재구성되지 않았으면, 현재 블록은, IBC 모드를 사용하여, 우측-상단 64x64 블록에서의 참조 샘플들을 참조하고, 좌측 CTU의 우측-하단 64x64 블록에서의 참조 샘플들을 참조할 수 있다. (도 6c에 도시되는 바와 같이) 현재 CTU에 대한 위치(64, 0)에서의 루마 샘플들이 이미 재구성되었으면, 현재 블록은 좌측 CTU의 우측-하단 64x64 블록에서의 참조 샘플들을 참조할 수 있다.
● (도 6d에 도시되는 바와 같이) 현재 블록이 IBC 모드를 사용하여 예측되고 현재 블록이 현재 CTU의 우측-하단 64x64 블록에 속하면, 현재 블록은 현재 CTU에서의 이미 재구성된 샘플들만을 참조할 수 있다.
비트스트림은 일련의 하나 이상의 코딩된 비디오 시퀀스이다. 비트스트림이 VVC 사양에 순응하기 위해, VVC 사양에서의 요건들 및 한정들이 충족되어야만 한다. 신택스 한정들이 충족되어야 한다. VVC 사양에 순응하지 않는 데이터는 디코더들에 의해 간단히 거절될 수 있고; 표준은 이러한 데이터가 직면되면 디코더가 무엇을 해야 하는지를 명시하지 않는다. 비-순응 데이터는, 비트스트림 데이터를 포함하는 데이터 패킷들 중 일부의 손실과 같은, 통신 시스템에서의 문제점들의 결과일 수 있다. 디코더는 비-순응 데이터가 직면될 때 디코딩을 계속하려고 시도할 수 있거나 또는 그렇지 않을 수 있다. 그럼에도 불구하고, VVC 인코더의 출력은 VVC 사양에 항상 완전히 순응할 것이다.
예를 들어, VVC 사양 Draft 5.0 (JVET-N1001)에서, IBC 예측된 블록들에 대한 (0, 0) 블록 벡터는 VVC 사양 요건들에서 정의되는 바와 같이 무효이다. VVC 디코더는 비트스트림이 IBC 예측된 블록의 (0, 0) 블록 벡터를 포함하지 않는다는 점에 순응할 필요가 있다.
VVC Draft 5.0에서, IBC 참조 메모리 버퍼는 디코더 버퍼와 조합된다. IBC 참조 샘플에 대한 하드웨어 파이프라인 메모리 크기를 감소시키기 위해, 위에 언급된 변형 크기 참조 메모리 버퍼가 설계된다(JVET-M0407). 변형 크기 버퍼 설계에서, 비트스트림 순응화를 위해 많은 것들이 필요하다. VVC 디코더는 수신된 비트스트림이 유효한 VVC 디코딩가능한 비트스트림인지를 체크한다. 이러한 체크는 비트스트림 순응성 체크라고 일반적으로 불린다. 비트스트림 순응화의 수를 감소시키기 위해, JVET-N0472에서, IBC 참조 메모리 버퍼와 디코더 버퍼를 혼합하는 대신에 전용 IBC 참조 메모리 버퍼가 설계된다.
128x128 CTU에 대해, 전용 IBC 버퍼는 128x128로서 정의된다. 크기가 WxH인 CU(x, y)가 디코딩되었을 때, CU에서의 재구성된 샘플들은 루프-필터링 전에, 위치(x%128, y%128)로부터 시작하여, WxH 블록 영역에 기입된다. 여기서 모듈로 연산자 %는 양수를 항상 리턴한다, 즉, x<0에 대해, x%L
Figure pct00007
L - ( -x%L), 예를 들어, -3%128=125이다. 이러한 프로세스는 재구성된 샘플들을 전용 IBC 버퍼에 기입하며, 이는 추가 참조를 위해 사용된다.
블록이 IBC 모드를 사용하여 예측될 때, 예측된 샘플들은 IBC 전용 메모리로부터의 샘플들을 참조한다. 샘플(x, y)(또는 픽셀(x, y)이라고 또한 불림)이 블록 벡터 BV=(BVx, BVy)인 IBC 모드에서 코딩된다고 가정하면, IBC 참조 버퍼에서의 픽셀의 예측 샘플은 ((x+BVx)%128, (y+BVy)%128)에 위치된다.
폭이 W와 동일하고 높이가 H와 동일한 영역으로서 버퍼가 고려될 때, (x, y)로부터 시작하는 CTU 또는 CU를 디코딩한 후에, 재구성된 픽셀들은 (x%W, y%H)로부터 시작하는 버퍼에서의 루프-필터링 전에 저장될 것이다. 따라서, CTU를 디코딩한 후에, 대응하는 IBC 참조 버퍼가 따라서 업데이트될 것이다. 이러한 설정은 CTU 크기가 128x128이 아닐 때 또한 발생할 수 있다. 예를 들어, 64x64 CTU에 대해, 현재 버퍼 크기로, IBC 참조 버퍼는 256x64 버퍼로서 고려될 수 있다.
도 7a는 현재 CTU, 현재 CU 및 좌측 CTU를 도시한다. 도 7b는 현재 CU의 현재 블록이 디코딩되기 전의 전용 IBC 버퍼를 도시한다. 그리고 도 7c는 현재 블록이 디코딩된 후의 전용 IBC 버퍼를 도시한다.
VVC Draft 5.0에서 사용되는 가변 크기 IBC 버퍼와 비교하여, JVET-N0472 설계 전용 IBC 버퍼는 비트스트림 순응성 제약들의 수를 감소시켰다. 그러나, 이러한 설계는 단점들을 여전히 갖는다. 예를 들어, 블록 벡터 검증 체크에 대해 비트스트림 순응성이 여전히 필요하다. 또한, 전용 IBC 참조 버퍼는 하드웨어 파이프라인 메모리 크기를 증가시킨다.
본 개시내용에 따르면, 위에 언급된 문제점들을 해결하기 위해 다음의 실시예들이 제공된다.
실시예 1:
VVC Draft 5에서 개시되는 IBC 참조 샘플 설계에 따르면, IBC 블록 벡터 검증 체크들에 대해 다음의 비트스트림 순응성이 요구된다.
루마 블록들 또는 단일 트리 경우에 대해:
● 참조 샘플들이 이용가능해야 한다.
● 참조 샘플들은 동일한 CTU 행으로부터의 것이어야 한다.
● 참조 샘플들은 현재 CTU 또는 현재 CTU의 좌측 CTU로부터의 것이어야 한다.
● 참조 샘플들은 도 6에 도시되는 바와 같이 정의된 IBC 참조 영역에 있어야 한다.
이러한 순응성 제약들은 JVET-N1001의 챕터 8.6.2.1에서 설명되며, 이는 다음과 같이 링크 http://phenix.it-sudparis.eu/jvet/index.php 하에서 발견될 수 있다.
루마 모션 벡터 mvL이 다음의 제약들을 준수해야 한다는 점이 비트스트림 순응성의 요건이다:
- 조항 6.4.X [Ed. (BB): Neighbouring blocks availability checking process tbd]에서 명시되는 바와 같은 블록 이용가능성에 대한 도출 프로세스가 입력들로서 ( xCb, yCb )와 동일하게 설정되는 현재 루마 위치( xCurr, yCurr ) 및 이웃 루마 위치( xCb + ( mvL[ 0 ] >> 4 ), yCb + ( mvL[ 1 ] >> 4 ) )로 호출될 때, 출력은 TRUE와 동일해야 한다.
- 조항 6.4.X [Ed. (BB): Neighbouring blocks availability checking process tbd]에서 명시되는 바와 같은 블록 이용가능성에 대한 도출 프로세스가 입력들로서 ( xCb, yCb )와 동일하게 설정되는 현재 루마 위치( xCurr, yCurr ) 및 이웃 루마 위치( xCb + ( mvL[ 0 ] >> 4 ) + cbWidth - 1, yCb + ( mvL[ 1 ] >> 4 ) + cbHeight - 1 )로 호출될 때, 출력은 TRUE와 동일해야 한다.
- 다음의 조건들 중 하나 또는 양자 모두가 참이어야 한다:
- ( mvL[ 0 ] >> 4 ) + cbWidth의 값은 0 이하이다.
- ( mvL[ 1 ] >> 4 ) + cbHeight의 값은 0 이하이다.
- 다음의 조건들이 참이어야 한다:
( yCb + ( mvL[ 1 ] >> 4 ) ) >> CtbLog2SizeY = yCb >> CtbLog2SizeY
( yCb + ( mvL[ 1 ] >> 4 ) + cbHeight - 1) >> CtbLog2SizeY = yCb >> CtbLog2SizeY
( xCb + ( mvL[ 0 ] >> 4 ) ) >> CtbLog2SizeY >= ( xCb >> CtbLog2SizeY ) - 1
( xCb + ( mvL[ 0 ] >> 4 ) + cbWidth - 1) >> CtbLog2SizeY <= ( xCb >> CtbLog2SizeY )
- ( xCb + ( mvL[ 0 ] >> 4 ) ) >> CtbLog2SizeY가 ( xCb >> CtbLog2SizeY ) - 1과 동일할 때, 조항 6.4.X [Ed. (BB): Neighbouring blocks availability checking process tbd]에서 명시되는 바와 같은 블록 이용가능성에 대한 도출 프로세스는 입력들로서 ( xCb, yCb )와 동일하게 설정되는 현재 루마 위치( xCurr, yCurr ) 및 이웃 루마 위치( ( ( xCb + ( mvL[ 0 ] >> 4 ) + CtbSizeY ) >> ( CtbLog2SizeY - 1 ) ) << ( CtbLog2SizeY - 1 ), ( ( yCb + ( mvL[ 1 ] >> 4 ) ) >> ( CtbLog2SizeY - 1 ) ) << ( CtbLog2SizeY - 1 ) )로 호출되고, 출력은 FALSE와 동일해야 한다.
본 명세서에서, (xCb, YCb)는 현재 코딩 블록의 좌측-상단 샘플을 명시하는 루마 위치이고, 이러한 루마 위치는 현재 화상의 좌측-상단 루마 샘플에 대한 것이고, mvL은 1/16 분수-샘플 정확도에서의 루마 모션 벡터(또는 블록 벡터)이고, cbWidth는 루마 샘플들에서의 현재 코딩 블록의 폭을 명시하는 변수이고, cbHeight는 루마 샘플들에서의 현재 코딩 블록의 높이를 명시하는 변수이다. CtbSizeY는 CTU 크기이고 CtbLog2SizeY는 로그 2 스케일에서의 CTU 크기이다.
개별/듀얼 트리 경우 및 크로마 블록들에 대해:
● 참조 샘플들이 이용가능해야 한다.
이러한 순응성 제약들은 다음과 같이 JVET-N1001의 챕터 8.6.1에서 설명된다:
- 크로마 모션 벡터 mvC[ xSbIdx ][ ySbIdx ]가 다음 제약들을 준수해야 한다는 점이 비트스트림 순응성의 요건이다:
- 조항 6.4.X [Ed. (BB): Neighbouring blocks availability checking process tbd]에서 명시되는 바와 같은 블록 이용가능성에 대한 도출 프로세스가 입력들로서 ( xCb / SubWidthC, yCb / SubHeightC )와 동일하게 설정되는 현재 크로마 위치( xCurr, yCurr ) 및 이웃 크로마 위치( xCb / SubWidthC + ( mvC[ xSbIdx ][ ySbIdx ][ 0 ] >> 5 ), yCb / SubHeightC + ( mvC[ xSbIdx ][ ySbIdx ][ 1 ] >> 5 ) )로 호출될 때, 출력은 TRUE와 동일해야 한다.
- 조항 6.4.X [Ed. (BB): Neighbouring blocks availability checking process tbd]에서 명시되는 바와 같은 블록 이용가능성에 대한 도출 프로세스가 입력들로서 ( xCb / SubWidthC, yCb / SubHeightC )와 동일하게 설정되는 현재 크로마 위치( xCurr, yCurr ) 및 이웃 크로마 위치( xCb / SubWidthC + ( mvC[ xSbIdx ][ ySbIdx ][ 0 ] >> 5 ) + cbWidth / SubWidthC - 1, yCb / SubHeightC + ( mvC[ xSbIdx ][ ySbIdx ][ 1 ] >> 5 ) + cbHeight / SubHeightC - 1 )로 호출될 때, 출력은 TRUE와 동일해야 한다.
- 다음의 조건들 중 하나 또는 양자 모두가 참이어야 한다:
- ( mvC[ xSbIdx ][ ySbIdx ][ 0 ] >> 5 ) + xSbIdx * 2 + 2는 0 이하이다.
- ( mvC[ xSbIdx ][ ySbIdx ][ 1 ] >> 5 ) + ySbIdx * 2 + 2는 0 이하이다.
여기서 수평 방향 numSbX에서의 그리고 수직 방향 numSbY에서의 루마 코딩 서브블록들의 수들은 다음과 같이 도출된다:
numSbX = ( cbWidth >> 2 )
numSbY = ( cbHeight >> 2 )
여기서, xSbIdx = 0..numSbX - 1, ySbIdx = 0..numSbY - 1이고 mvL은 1/16 분수-샘플 정확도에서의 루마 모션 벡터(또는 블록 벡터)이다.
JVET-N0472 따르면, 전용 IBC 버퍼는 ((x+BVx)%W, (y+BVy)%H) (for x<0, x%L
Figure pct00008
L - ( -x%L))에 기초하여 참조되고, 여기서 W 및 H는 전용 IBC 버퍼 크기를 표현한다. 하나의 예에서, 128x128 CTU에 대해, W와 H 양자 모두가 128과 동일하다. 전용 IBC 버퍼 참조 규칙 (((x+BVx)%W, (y+BVy)%H) (for x<0, x%L
Figure pct00009
L - ( -x%L)))에 기초하여, 참조 샘플들은 전용 IBC 참조 메모리 영역을 너머 놓이지 않을 것이다. 따라서, 참조 샘플들은 현재 CTU 또는 현재 CTU의 좌측 CTU로부터의 것이어야 하고, 참조 샘플들은 도 6에 도시되는 바와 같이 정의된 IBC 참조 영역에 있어야 한다.
따라서, 다음의 비트스트림 순응성 제약이 N0472에서 제거된다:
● 참조 샘플들은 도 6에 도시되는 바와 같이 정의된 IBC 참조 영역에 놓여야 한다.
그러나, 참조 샘플들은 루마 또는 크로마에 대해 이용가능해야 하고, 동일한 CTU 행으로부터의 참조 샘플들이 여전히 유지되어야 하는데, 그 이유는 일부 코너 경우에, 전용 IBC 버퍼가 비어 있기 때문이다. 예를 들어, 화상의 제1 CTU에서, 전용 IBC 버퍼는 부분적으로 비어 있으며, 좌측 CTU로부터의 어떠한 샘플도 없다.
실시예 1에 따르면, 단일 트리의 경우 및 분리된 트리 경우에 루마 및 크로마 성분들 양자 모두에 대해 IBC 블록 벡터 검증 체크들에 대한 모든 비트스트림 순응성 제약들이 제거된다. 예측된 IBC 블록은 전용 IBC 버퍼로부터의 샘플들로 참조되고 ((x+BVx)%W, (y+BVy)%H) (for x<0, x%L
Figure pct00010
L - ( -x%L))에 기초하여 참조되며 여기서 x, 및 y는 현재 블록의 좌측-상단 샘플의 좌표이고, BVx 및 BVy는 현재 IBC 블록에 대한 블록 벡터들이다.
블록이 도 11에 도시되는 바와 같이 화상의 제1 CTU의 제1 CU일 때, 전용 IBC 버퍼는 디폴트 값으로 초기화된다. 예를 들어, 1 << (InternalBitDepth - 1)의 값이 디폴트 값으로서 사용될 수 있다. 10 비트 내부 비트 심도에 대해, 디폴트 값은 512일 수 있고, 8 비트 내부 비트 심도에 대해, 디폴트 값은 128일 수 있다.
도 8a에는 JVET-N0472에서의 방법에 기초하는 예가 도시된다. 실선 화살표는, 인코더에 의해 비트스트림으로 인코딩되고 디코더에 의해 비트스트림으로부터 파싱될 수 있는, 유효 블록 벡터이다. 점선 화살표들은, 인코더에 의해 비트스트림으로 인코딩될 수 있는 무효 블록 벡터들이지만, VVC 디코더는, 비트스트림 순응성 요건으로 인해, 이들을 비트스트림으로부터 파싱할 수 없다.
도 8b에는 실시예 1의 방법에 기초하는 예가 도시된다. 모든 IBC 블록 벡터 검증이 비트스트림 순응성 제약들이 제거됨을 체크함에 따라, 모든 실선 화살표들은 인코더에 의해 비트스트림으로 인코딩되고 디코더에 의해 비트스트림으로부터 파싱될 수 있는 유효 블록 벡터들이다. 형태 ((x+BVx)%W, (y+BVy)%H) (for x<0, x%L
Figure pct00011
L - ( -x%L))에 기초하여, 도 8b에서의 모든 블록 벡터들은 도 8c에 도시되는 바와 같이 전용 IBC 버퍼에서의 참조 블록을 참조한다.
실시예 1의 하나의 이점은 모든 블록 벡터 검증 비트스트림 순응성 제약들을 제거한다는 점이다. 이러한 실시예는 코딩된 비트스트림의 강건성을 증가시킨다. 게다가, 이러한 실시예는 전용 IBC 버퍼를 초기화한다. 정의되지 않은 샘플들이 회피된다.
실시예 2:
실시예 1과 독립적으로 또는 그와 조합되어, 실시예 2에서는, 전용 IBC 버퍼가 각각의 CTU 행에서 리프레시된다.
CTU가 화상의 제1 CTU이면 전용 IBC 버퍼를 초기화하는 것 외에도, CTU 행의 제1 CTU는 디폴트 값으로 또한 초기화된다.
예에서, 현재 블록이 도 11에 도시되는 바와 같이 CTU 행에서의 제1 CU일 때, 전용 IBC 버퍼는 디폴트 값으로 초기화된다. 이러한 디폴트 값은 1 << (InternalBitDepth - 1)로서 정의될 수 있다. 10 비트 내부 비트 심도에 대해, 디폴트 값은 512일 수 있고, 8 비트 내부 비트 심도에 대해, 디폴트 값은 128일 수 있다.
도 9는 분리된 트리 경우 또는 단일 트리 경우의 루마 성분에서의 CTU 행의 제1 CTU에 대한 예들을 도시한다. 도 9a는 JVET-N0472에서의 방법을 예시한다. 점선 블록 벡터는 무효이다. 참조 샘플들이 현재 CTU 또는 현재 CTU의 좌측 CTU로부터의 것이어야 하는 비트스트림 순응성 요건 때문에, 전용 IBC 버퍼에서의 참조 영역은 비어 있다. 도 9b는 실시예 2에 따른 방법을 도시하며, 여기서 실선 블록 벡터는 유효이다. 참조 블록 영역은 디폴트 값들로 초기화된다.
실시예 2에서는, IBC 블록 벡터 검증에 대한 어떠한 비트스트림 순응성도 요구되지 않는다. 또한, IBC 참조에서는 마지막 CTU 행으로부터의 어떠한 샘플도 사용되지 않는다. 이러한 경우, IBC 예측에 대해 어떠한 추가적인 라인 메모리도 사용되지 않는다.
실시예 3:
실시예들 1 및/또는 2와 독립적으로 또는 이들과 조합되어, 실시예 3에서, 각각의 VPDU(virtual pipeline processing unit)에 대해 전용 IBC 버퍼가 리프레시된다. 예를 들어, 128x128 CTU에 대해, VPDU는 64x64 비-중첩 영역이다. 128x128 CTU는 따라서 4개의 VPDU들로 구성된다. 하드웨어 구현에서, VPDU들은 순차적으로 처리된다.
CTU가 화상의 제1 CTU 또는 CTU 행의 제1 CTU이면 전용 IBC 버퍼를 초기화하는 것 외에도, 각각의 VPDU에서, 전용 IBC 버퍼는 디폴트 값에 의해 리프레시될 필요가 있다.
예에서, 현재 블록이 VPDU의 제1 CU일 때, 전용 IBC 버퍼는 디폴트 값으로 초기화된다. 이러한 디폴트 값은 1 << (InternalBitDepth - 1)로서 정의될 수 있다. 10 비트 내부 비트 심도에 대해, 디폴트 값은 512일 수 있고, 8 비트 내부 비트 심도에 대해, 디폴트 값은 128일 수 있다.
도 10에 도시되는 바와 같이, CTU에 대한 전용 IBC 버퍼는 현재 재구성된 CTU에 대한 샘플들, 마지막 CTU로부터의 샘플들, 및 디폴트 값들의 샘플들로부터 구성될 수 있다.
실시예 3에서는, IBC 블록 벡터 검증에 대한 어떠한 비트스트림 순응성도 요구되지 않는다. 마지막 CTU 행으로부터의 어떠한 샘플도 IBC 참조에서 사용되지 않는다. 이러한 경우, IBC 예측에 대해 어떠한 추가적인 라인 메모리도 사용되지 않는다. 또한, IBC 참조 메모리 크기는 현재 VVC 설계에서와 동일하다, 즉, 이러한 실시예를 구현하기 위해 어떠한 추가적인 메모리도 요구되지 않는다. 현재 VPDU 참조에 대해, 전용 IBC 버퍼에 액세스할 필요가 전혀 없다.
또한, VVC Draft JVET-N1001에서, IBC 모드로 예측되는 CU의 최대 허용 크기는 128x64 또는 64x128이다. 이러한 경우, CU 크기는 VPDU보다 더 크다.
128x64 또는 64x128 크기 CU에 대한 각각의 VVC 설계에서와 동일하게 IBC 참조 메모리 크기를 유지하기 위해, 다음의 규칙들 중 하나가 현재 실시예 외에 적용될 수 있다:
1.) IBC 모드를 사용하여 예측되는 64x128 또는 128x64 크기 CU가 허용되지 않는다. 예에서, 현재 CU 크기의 하나의 치수가 64보다 더 크면, IBC 모드 표시기의 값은 암시적으로 0과 동일할 수 있거나 또는 IBC 모드를 표현하는 다른 값은 현재 CU에 대해 디스에이블될 수 있어, 비트스트림으로부터 어떠한 표시기도 파싱될 필요가 없다.
2.) VVC JVET-N1001에서의 파티셔닝 로직에 기초하여, 64x128 또는 128x64 크기 CU는 2개의 VPDU들을 포함해야 한다. 이러한 경우, 양자 모두의 VPDU들이 디폴트 값들에 의해 리프레시된다. 하나의 예에서, 이러한 디폴트 값은 1 << (InternalBitDepth - 1)로서 정의될 수 있다. 각각의 예측에 대해, 현재 PU의 VPDU 영역이 디폴트 값으로 리프레시될 수 있다. 예에서, 현재 CU의 좌측-상단 샘플은 현재 CTU의 좌측-상단 샘플과 동일할 수 있고, 현재 CU 폭은 64일 수 있고 높이는 128일 수 있다. 이러한 경우, 128x128 전용 IBC 버퍼에서의 좌측 1/2 64x128 영역은 1 << (InternalBitDepth - 1)의 값으로 리프레시될 수 있다.
3.) VVC JVET-N1001에서의 파티셔닝 로직에 기초하여, 64x128 또는 128x64 크기 CU는 2개의 VPDU들을 포함해야 한다. 64x128 또는 128x64 크기 CU가 IBC 모드를 사용하여 예측되면, 64x128 또는 128x64 크기 현재 CU의 2개의 포함된 VPDU 영역들은 블록 벡터가 동일한 2개의 분리된 PU들(prediction units)로서 고려될 수 있고, 예측은 개별적으로 수행될 수 있다. 각각의 예측에 대해, 현재 PU의 VPDU 영역이 디폴트 값으로 리프레시될 수 있다. 예에서, CU가 IBC 모드를 사용하여 예측되면, 현재 CU의 좌측-상단 샘플은 현재 CTU의 좌측-상단 샘플과 동일할 수 있고, 현재 CU 폭은 64일 수 있고 높이는 128일 수 있다. 이러한 경우, 128x128 전용 IBC 버퍼의 좌측-상단 64x64 영역은 현재 64x128 CU의 제1 (상단) PU를 예측하는 동안 리프레시될 수 있다. 128x128 전용 IBC 버퍼의 좌측-하단 64x64 영역은 현재 64x128 CU의 제2 (하단) PU를 예측하는 동안 리프레시될 수 있다.
실시예 4:
현재 VVC draft (JVET-N1001) IBC 참조 버퍼 설계에서, 또는 JVET-N0472 IBC 참조 버퍼 설계에서, 분리된 트리 경우에, 크로마 성분은 IBC 예측 모드에 의해 예측될 수 있다. 그러나, 크로마 블록에 대한 IBC 예측 모드는 다음과 같이 비트스트림 순응성을 요구한다:
분리된 트리 경우에서 현재 크로마 블록은 2x2 서브-블록들로 분할되며, 각각의 서브-블록은 공동-위치된 루마 성분 서브-블록을 갖는다. 크로마 블록이 IBC 모드를 사용하여 예측될 때, 각각의 2x2 크로마 서브-블록의 블록 벡터들은, 공동-위치된 루마 서브-블록이 IBC 모드에 의해 예측될 때, 공동-위치된 루마 성분 서브-블록으로부터 승계된다. 임의의 공동-위치된 루마 서브-블록이 IBC 모드에 의해 예측되지 않거나, 또는 승계된 BV가 크로마 블록에 대한 VVC Draft 5.0 또는 JVET-N0472에서의 비트스트림 순응성에 기초하여 무효일 때, 현재 크로마 블록은 IBC 모드에 의해 예측될 수 없다.
실시예 1, 2 또는 3과는 독립적으로 또는 이들과 조합하여, 실시예 4에서, 크로마 블록 비트스트림 순응성 체크들을 위한 IBC 예측 모드가 필요하지 않다. 하나의 예에서, 분리된 트리 경우에서 현재 크로마 블록은 2x2 서브-블록들로 분할되며, 각각의 서브-블록은 공동-위치된 루마 성분 서브-블록을 갖는다. 현재 블록이 IBC 모드를 사용하여 예측될 때, 각각의 2x2 크로마 서브-블록의 블록 벡터들은, 공동-위치된 루마 서브-블록이 IBC 모드에 의해 예측될 때, 공동-위치된 루마 성분 서브-블록으로부터 승계된다. 공동-위치된 루마 서브-블록이 IBC 모드를 사용하여 예측되지 않을 때, 대응하는 2x2 크로마 서브-블록에 대해 디폴트 블록 벡터가 설정될 수 있다. 하나의 예에서의 디폴트 벡터는 (0,0)일 수 있다. 다른 예에서, 디폴트 벡터는 현재 크로마 블록의 IBC 예측된 루마 공동-위치된 블록의 중앙 샘플의 블록 벡터일 수 있다.
실시예 4에 기초하여, 분리된 트리 경우에 크로마 성분에 대해 추가적인 비트스트림 순응성 체크들이 회피될 수 있다.
도 12는 본 개시내용의 실시예에 따른 비디오 디코딩의 방법에 대한 흐름도를 도시한다. 단계 1010에서는, IBC(intra block copy) 참조를 위한 전용 버퍼가 제공된다. 단계 1020에서는, 현재 CB(coding block)가 현재 프레임에서의 제1 CTU(coding tree unit)의 제1 코딩 블록인지 결정된다. 이러한 경우, 단계 1040에서 전용 버퍼가 디폴트 값으로 초기화된다. 그렇지 않다면, 단계 1030에서 현재 코딩 블록이 현재 프레임에서의 CTU 행의 제1 코딩 블록인지 결정된다. 이러한 경우, 단계 1040에서 전용 버퍼가 디폴트 값으로 초기화된다.
후속하여, 단계 1050에서 디코딩될 현재 블록이 IBC 모드를 사용하여 예측되는지 결정된다. 현재 블록이 IBC 모드를 사용하여 예측될 때, 단계 1060에서 현재 블록에 대해 IBC 블록 벡터가 획득된다. 마지막으로, 전용 버퍼로부터의 참조 샘플들 및 현재 블록에 대한 IBC 블록 벡터에 기초하여, 단계 1070에서 현재 블록에 대해 예측된 샘플 값들이 획득된다.
도 13은 본 개시내용의 추가 실시예에 따른 비디오 디코딩의 방법에 대한 흐름도를 도시한다. IBC(intra block copy) 참조를 위한 전용 버퍼가 제공된다. 단계 1510에서는, 현재 CTU(coding tree unit)가 CTU 행의 제1 CTU인지 결정된다. 이러한 경우, 단계 1520에서 전용 버퍼가 디폴트 값으로 초기화된다.
후속하여, 단계 1530에서, 디코딩될 현재 블록이 IBC 모드를 사용하여 예측되는지 결정된다. 현재 블록이 IBC 모드를 사용하여 예측될 때, 단계 1540에서 현재 블록에 대해 IBC 블록 벡터가 획득된다. 마지막으로, 전용 버퍼로부터의 참조 샘플들 및 현재 블록에 대한 IBC 블록 벡터에 기초하여, 단계 1550에서 현재 블록에 대해 예측된 샘플 값들이 획득된다.
도 14는 본 개시내용의 실시예에 따른 비디오 인코딩의 방법에 대한 흐름도를 도시한다. 단계 1110에서는, IBC(intra block copy) 참조를 위한 전용 버퍼가 제공된다. 단계 1120에서는, 현재 CB(coding block)가 현재 프레임에서의 제1 CTU(coding tree unit)의 제1 코딩 블록인지 결정된다. 이러한 경우, 단계 1140에서 전용 버퍼가 디폴트 값으로 초기화된다. 그렇지 않다면, 단계 1130에서 현재 코딩 블록이 현재 프레임에서의 CTU 행의 제1 코딩 블록인지 결정된다. 이러한 경우, 단계 1040에서 전용 버퍼가 디폴트 값으로 초기화된다.
후속하여, 전용 버퍼로부터의 참조 샘플들에 기초하여, 단계 1150에서는 인코딩될 현재 블록에 대해 예측된 샘플 값들이 획득된다. 마지막으로, 현재 블록에 대한 예측된 샘플 값들에 기초하여, 단계 1160에서 현재 블록에 대해 IBC 블록 벡터가 획득된다.
도 15는 본 개시내용의 추가 실시예에 따른 비디오 인코딩의 방법에 대한 흐름도를 도시한다. IBC(intra block copy) 참조를 위한 전용 버퍼가 제공된다. 단계 1610에서는, 현재 CTU(coding tree unit)가 CTU 행의 제1 CTU인지 결정된다. 이러한 경우, 단계 1620에서 전용 버퍼가 디폴트 값으로 초기화된다.
후속하여, 전용 버퍼로부터의 참조 샘플들에 기초하여, 단계 1630에서는 인코딩될 현재 블록에 대한 예측된 샘플 값들이 획득된다. 마지막으로, 현재 블록에 대한 예측된 샘플 값들에 기초하여, 단계 1640에서 현재 블록에 대해 IBC 블록 벡터가 획득되고 인코딩된다.
도 16은 본 개시내용의 실시예에 따른 디코딩 장치의 예를 예시하는 블록도를 도시한다. 디코딩 장치(30)는, IBC(intra block copy) 참조를 위한 전용 버퍼(1350), 전용 버퍼를 디폴트 값으로 초기화하도록 구성되는 초기화 모듈(1310), 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하도록 구성되는 결정 모듈(1320), 현재 블록이 IBC 모드를 사용하여 예측될 때 현재 블록에 대한 IBC 블록 벡터를 획득하도록 구성되는 제1 획득 모듈(1330), 및, 전용 버퍼로부터의 참조 샘플들 및 현재 블록에 대한 IBC 블록 벡터에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하도록 구성되는 제2 획득 모듈(1340)을 포함한다. 초기화 모듈(1310)은 현재 CTU(coding tree unit)가 CTU 행에서의 제1 CTU일 때 전용 버퍼를 초기화하도록 구성될 수 있다. 대안적으로 또는 추가적으로, 전용 버퍼는 현재 CTU가 화상에서의 제1 CTU일 때 초기화될 수 있다. 대안적으로 또는 추가적으로, 전용 버퍼는 디코딩될 현재 블록이 CTU 행에서의 및/또는 현재 프레임에서의 제1 CTU(coding tree unit)의 제1 코딩 블록일 때 초기화될 수 있다. 대안적으로 또는 추가적으로, 초기화 모듈(1310)은, 디코딩될 현재 코딩 블록이 CTU의 영역에서의 제1 코딩 블록일 때, CTU의 영역을 위한 전용 버퍼를 초기화하도록 구성될 수 있다.
도 17은 본 개시내용의 실시예에 따른 인코딩 장치의 예를 예시하는 블록도이다. 인코딩 장치(20)는 IBC(intra block copy) 참조를 위한 전용 버퍼(1450), 전용 버퍼를 디폴트 값으로 초기화하도록 구성되는 초기화 모듈(1410), 전용 버퍼로부터의 참조 샘플들에 기초하여, 현재 블록에 대한 예측된 샘플 값들을 획득하도록 구성되는 제1 획득 모듈(1420), 및, 현재 블록에 대한 예측된 샘플 값들에 기초하여, 현재 블록에 대한 IBC 블록 벡터를 획득하도록 구성되는 제2 획득 모듈(1430)을 포함한다. 초기화 모듈(1410)은 현재 CTU(coding tree unit)가 CTU 행에서의 제1 CTU일 때 전용 버퍼를 초기화하도록 구성될 수 있다. 대안적으로 또는 추가적으로, 전용 버퍼는 현재 CTU가 화상에서의 제1 CTU일 때 초기화될 수 있다. 대안적으로 또는 추가적으로, 전용 버퍼는 인코딩될 현재 블록이 CTU 행에서의 및/또는 현재 프레임에서의 제1 CTU(coding tree unit)의 제1 코딩 블록일 때 초기화될 수 있다. 대안적으로 또는 추가적으로, 초기화 모듈(1410)은, 인코딩될 현재 코딩 블록이 CTU의 영역에서의 제1 코딩 블록일 때, CTU의 영역을 위한 전용 버퍼를 초기화하도록 구성될 수 있다.
초기화 모듈들(1310, 1410), 결정 모듈(1320), 제1 획득 모듈들(1330, 1420), 및 제2 획득 모듈들(1340, 1430)은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수 있다. 소프트웨어로 구현되면, 이러한 기능들은 컴퓨터-판독가능 매체 상에 저장될 수 있거나 또는 하나 이상의 명령어 또는 코드로서 통신 매체를 통해 송신될 수 있고 하드웨어-기반 처리 유닛에 의해 실행될 수 있다. 하나 이상의 DSP(digital signal processors), 범용 마이크로프로세서, ASIC(application specific integrated circuits), FPGA(field programmable logic arrays), 또는 다른 동등한 집적 또는 이산 로직 회로와 같은, 하나 이상의 프로세서에 의해 명령어들이 실행될 수 있다. 따라서, 본 명세서에서 사용되는 바와 같은 "프로세서(processor)"라는 용어는 본 명세서에서 설명되는 기법들의 구현에 적합한 임의의 다른 구조 또는 전술한 구조 중 임의의 것을 지칭할 수 있다. 또한, 일부 양태들에서, 본 명세서에서 설명되는 기능성은 인코딩 및 디코딩을 위해 구성되는 전용 하드웨어 및/또는 소프트웨어 모듈 내에 제공되거나, 또는 조합된 코덱에 포함될 수 있다. 또한, 이러한 기법들은 하나 이상의 회로 또는 로직 엘리먼트에서 완전히 구현될 수 있다.
전용 버퍼들(1350 및 1450)은 RAM, ROM, EEPROM, CD-ROM 또는 다른 광 디스크 스토리지, 자기 디스크 스토리지, 또는 다른 자기 저장 디바이스들과 같은 임의의 컴퓨터-판독가능 저장 매체, 플래시 메모리, 또는 원하는 데이터 구조들을 저장하기 위해 사용될 수 있는 그리고 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체에서 구현될 수 있다. 전용 버퍼들은 개별 메모리 디바이스들로서 및/또는 CPU, GPU 또는 DSP와 같은 처리 회로의 부분으로서 제공될 수 있다. 전용 버퍼들은, SDRAM(synchronous DRAM), MRAM(magnetoresistive RAM), RRAM(resistive RAM), 또는 다른 타입들의 메모리 디바이스들을 포함하는, DRAM(dynamic random access memory)과 같은, 다양한 메모리 디바이스들 중 임의의 것에 의해 형성될 수 있다.
도 18은 콘텐츠 배포 서비스를 실현하기 위한 콘텐츠 공급 시스템(3100)을 도시하는 블록도이다. 이러한 콘텐츠 공급 시스템(3100)은 캡처 디바이스(3102), 단말 디바이스(3106)를 포함하고, 선택적으로 디스플레이(3126)를 포함한다. 캡처 디바이스(3102)는 통신 링크(3104)를 통해 단말 디바이스(3106)와 통신한다. 통신 링크는 위에 설명된 통신 채널(13)을 포함할 수 있다. 통신 링크(3104)는 이에 제한되는 것은 아니지만 WIFI, Ethernet, Cable, 무선 (3G/4G/5G), USB, 또는 이들의 임의의 종류의 조합 등을 포함한다.
캡처 디바이스(3102)는 데이터를 생성하고, 위 실시예들에서 도시되는 바와 같은 인코딩 방법에 의해 데이터를 인코딩할 수 있다. 대안적으로, 캡처 디바이스(3102)는 데이터를 스트리밍 서버(도면들에 도시되지 않음)에 배포할 수 있고, 이러한 서버는 데이터를 인코딩하고 인코딩된 데이터를 단말 디바이스(3106)에 송신한다. 캡처 디바이스(3102)는 이에 제한되는 것은 아니지만 카메라, 스마트 폰 또는 패드, 컴퓨터 또는 랩톱, 비디오 회의 시스템, PDA, 차량 장착 디바이스, 또는 이들의 임의의 조합 등을 포함한다. 예를 들어, 캡처 디바이스(3102)는 위에 설명된 바와 같은 소스 디바이스(12)를 포함할 수 있다. 데이터가 비디오를 포함할 때, 캡처 디바이스(3102)에 포함되는 비디오 인코더(20)가 비디오 인코딩 처리를 실제로 수행할 수 있다. 데이터가 오디오(즉, 음성)를 포함할 때, 캡처 디바이스(3102)에 포함되는 오디오 인코더가 오디오 인코딩 처리를 실제로 수행할 수 있다. 일부 실제 시나리오들에 대해, 캡처 디바이스(3102)는 인코딩된 비디오 및 오디오 데이터를 함께 멀티플렉싱하는 것에 의해 이들을 배포한다. 다른 실제 시나리오들에 대해, 예를 들어, 비디오 회의 시스템에서, 인코딩된 오디오 데이터 및 인코딩된 비디오 데이터는 멀티플렉싱되지 않는다. 캡처 디바이스(3102)는 인코딩된 오디오 데이터 및 인코딩된 비디오 데이터를 개별적으로 단말 디바이스(3106)로 배포할 수 있다.
콘텐츠 공급 시스템(3100)에서, 단말 디바이스(3106)는 인코딩된 데이터를 수신하고 재생성한다. 단말 디바이스(3106)는, 위에 언급된 인코딩된 데이터를 디코딩할 수 있는 스마트 폰 또는 패드(3108), 컴퓨터 또는 랩톱(3110), NVR(network video recorder)/ DVR(digital video recorder)(3112), TV(3114), STB(set top box)(3116), 비디오 회의 시스템(3118), 비디오 감시 시스템(3120), PDA(personal digital assistant)(3122), 차량 장착 디바이스(3124), 또는 이들 중 임의의 것의 조합 등과 같은, 데이터 수신 및 복구 능력이 있는 디바이스일 수 있다. 예를 들어, 단말 디바이스(3106)는 위에 설명된 바와 같은 목적지 디바이스(14)를 포함할 수 있다. 인코딩된 데이터가 비디오를 포함할 때, 단말 디바이스에 포함되는 비디오 디코더(30)는 비디오 디코딩을 수행하도록 우선순위화된다. 인코딩된 데이터가 오디오를 포함할 때, 단말 디바이스에 포함되는 오디오 디코더는 오디오 디코딩 처리를 수행하도록 우선순위화된다.
자신의 디스플레이가 있는 단말 디바이스, 예를 들어, 스마트 폰 또는 패드(3108), 컴퓨터 또는 랩톱(3110), NVR(network video recorder)/ DVR(digital video recorder)(3112), TV(3114), PDA(personal digital assistant)(3122), 또는 차량 장착 디바이스(3124)에 대해, 단말 디바이스는 디코딩된 데이터를 자신의 디스플레이에 공급할 수 있다. 디스플레이가 전혀 구비되지 않은 단말 디바이스, 예를 들어, STB(3116), 비디오 회의 시스템(3118) 또는 비디오 감시 시스템(3120)에 대해, 디코딩된 데이터를 수신하고 보여주기 위해 외부 디스플레이(3126)가 그 안에 접촉될 수 있다.
이러한 시스템에서의 각각의 디바이스가 인코딩 또는 디코딩을 수행할 때, 위에 언급된 실시예들에 도시되는 바와 같은, 화상 인코딩 디바이스 또는 화상 디코딩 디바이스가 사용될 수 있다.
도 19는 단말 디바이스(3106)의 예의 구조를 도시하는 도면이다. 단말 디바이스(3106)가 캡처 디바이스(3102)로부터 스트림을 수신한 후에, 프로토콜 진행 유닛(3202)이 스트림의 송신 프로토콜을 분석한다. 이러한 프로토콜은 이에 제한되는 것은 아니지만 RTSP(Real Time Streaming Protocol), HTTP(Hyper Text Transfer Protocol), HLS(HTTP Live streaming protocol), MPEG-DASH, RTP(Real-time Transport protocol), RTMP(Real Time Messaging Protocol), 또는 이들의 임의의 종류의 조합 등을 포함한다.
프로토콜 진행 유닛(3202)이 스트림을 처리한 후에, 스트림 파일이 생성된다. 이러한 파일은 디멀티플렉싱 유닛(3204)에 출력된다. 디멀티플렉싱 유닛(3204)은 멀티플렉싱된 데이터를 인코딩된 오디오 데이터 및 인코딩된 비디오 데이터로 분리할 수 있다. 위에 설명된 바와 같이, 일부 실제 시나리오들에 대해, 예를 들어, 비디오 회의 시스템에서, 인코딩된 오디오 데이터 및 인코딩된 비디오 데이터는 멀티플렉싱되지 않는다. 이러한 상황에서, 인코딩된 데이터는 디멀티플렉싱 유닛(3204)을 통과하지 않고 비디오 디코더(3206) 및 오디오 디코더(3208)에 송신된다.
디멀티플렉싱 처리를 통해, 비디오 ES(elementary stream), 오디오 ES, 및 선택적으로 자막이 생성된다. 위에 언급된 실시예들에서 설명되는 바와 같은, 비디오 디코더(30)를 포함하는, 비디오 디코더(3206)는, 위에 언급된 실시예들에서 도시되는 바와 같은 디코딩 방법에 의해 비디오 ES를 디코딩하여 비디오 프레임을 생성하고, 이러한 데이터를 동기 유닛(3212)에 공급한다. 오디오 디코더(3208)는, 오디오 ES를 디코딩하여 오디오 프레임을 생성하고, 이러한 데이터를 동기 유닛(3212)에 공급한다. 대안적으로, 비디오 프레임은 그것을 동기 유닛(3212)에 공급하기 전에 버퍼(도 19에 도시되지 않음)에 저장될 수 있다. 유사하게, 오디오 프레임은 그것을 동기 유닛(3212)에 공급하기 전에 버퍼(도 19에 도시되지 않음)에 저장될 수 있다.
동기 유닛(3212)은 비디오 프레임과 오디오 프레임을 동기화하고, 비디오/오디오를 비디오/오디오 디스플레이(3214)에 공급한다. 예를 들어, 동기 유닛(3212)은 비디오 및 오디오 정보의 프레젠테이션을 동기화한다. 정보는 코딩된 오디오 및 시각적 데이터의 프레젠테이션에 관한 타임 스탬프들 및 데이터 스트림 자체의 전달에 관한 타임 스탬프들을 사용하여 신택스에서 코딩할 수 있다.
자막이 스트림에 포함되면, 자막 디코더(3210)는 자막을 디코딩하고, 그것을 비디오 프레임 및 오디오 프레임과 동기화하고, 비디오/오디오/자막을 비디오/오디오/자막 디스플레이(3216)에 공급한다.
본 발명은 위에 언급된 시스템에 제한되지 않고, 위에 언급된 실시예들에서의 화상 인코딩 디바이스 또는 화상 디코딩 디바이스는 다른 시스템, 예를 들어, 자동차 시스템에 포함될 수 있다.
수학 연산자들
본 출원에서 사용되는 수학 연산자들은 C 프로그래밍 언어에서 사용되는 것들과 유사하다. 그러나, 정수 제산 및 산술 시프트 연산들의 결과들이 보다 정밀하게 정의되고, 지수화 및 실수-값 제산과 같은, 추가적인 연산들이 정의된다. 넘버링 및 카운팅 규약들은 일반적으로 0으로부터 시작한다, 즉, "제1(the first)"은 0번째와 동등하고, "제2(the second)"는 1번째와 동등하고 등이다.
산술 연산자들
다음의 산술 연산자들이 다음과 같이 정의된다:
Figure pct00012
논리 연산자들
다음의 논리 연산자들이 다음과 같이 정의된다:
x && y x와 y의 부울리언 논리 "and"
x | | y x와 y의 부울리언 논리 "or"
! 부울리언 논리 "not"
x ? y : z x가 TRUE이거나 0과 동일하지 않으면, y의 값으로 평가하고; 그렇지 않으면, z의 값으로 평가함.
관계 연산자들
다음의 관계 연산자들이 다음과 같이 정의된다:
> 초과
>= 이상
< 미만
<= 이하
= = 동일함
!= 동일하지 않음
Figure pct00013
다음과 같이 정의됨
관계 연산자가 값 "na"(적용가능하지 않음)가 배정된 신택스 엘리먼트 또는 변수에 적용될 때, 값 "na"는 신택스 엘리먼트 또는 변수에 대한 별개의 값으로서 취급된다. 값 "na"는 임의의 다른 값과 동일하지 않은 것으로 고려된다.
비트-단위 연산자들
다음의 비트-단위 연산자들이 다음과 같이 정의된다:
& 비트-단위 "and". 정수 인수들에 대해 연산할 때, 정수 값의 2의 보수 표현에 대해 연산한다. 다른 인수 보다 더 적은 비트들을 포함하는 2진 인수에 대해 연산할 때, 0과 동일한 보다 상위 비트들을 가산하는 것에 의해 더 짧은 인수가 확장된다.
| 비트-단위 "or". 정수 인수들에 대해 연산할 때, 정수 값의 2의 보수 표현에 대해 연산한다. 다른 인수 보다 더 적은 비트들을 포함하는 2진 인수에 대해 연산할 때, 0과 동일한 보다 상위 비트들을 가산하는 것에 의해 더 짧은 인수가 확장된다.
^ 비트-단위 "exclusive or". 정수 인수들에 대해 연산할 때, 정수 값의 2의 보수 표현에 대해 연산한다. 다른 인수 보다 더 적은 비트들을 포함하는 2진 인수에 대해 연산할 때, 0과 동일한 보다 상위 비트들을 가산하는 것에 의해 더 짧은 인수가 확장된다.
x >> y y 2진 디지트들에 의한 x의 2의 보수 정수 표현의 산술 우측 시프트. 이러한 함수는 y의 음이 아닌 정수 값들에 대해서만 정의된다. 우측 시프트의 결과로서 MSB들(most significant bits)로 시프트되는 비트들은 시프트 연산 전에 x의 MSB와 동일한 값을 갖는다.
x << y y 2진 디지트들에 의한 x의 2의 보수 정수 표현의 산술 좌측 시프트. 이러한 함수는 y의 음이 아닌 정수 값들에 대해서만 정의된다. 좌측 시프트의 결과로서 LSB들(least significant bits)로 시프트되는 비트들은 0과 동일한 값을 갖는다.
배정 연산자들
다음의 산술 연산자들이 다음과 같이 정의된다:
= 배정 연산자
+ + 증분, 즉, x+ +는 x = x + 1과 동등하고; 어레이 인덱스에서 사용될 때, 증분 연산 전에 변수의 값으로 평가함.
- - 감분, 즉, x- -는 x = x - 1과 동등하고; 어레이 인덱스에서 사용될 때, 감분 연산 전에 변수의 값으로 평가함.
+= 명시되는 양만큼 증분, 즉, x += 3은 x = x+ 3과 동등하고,
x += (-3)은 x = x + (-3)과 동등함.
-= 명시되는 양만큼 감분, 즉, x -= 3은 x = x - 3과 동등하고,
x -= (-3)은 x = x - (-3)과 동등함.
범위 표기법
값들의 범위를 명시하기 위해 다음의 표기가 사용된다:
x = y..z x는 y로부터 z까지 시작하는 정수 값들을 취하며, x, y 및 z가 정수들이고 z는 y 초과인 것을 포함함.
수학 함수들
다음의 수학 함수들이 정의된다:
Figure pct00014
Asin( x ) -1.0 내지 1.0의 범위에 있는 인수 x에 대해 연산하는, 삼각법 역 사인 함수이고, 라디안들의 단위들을 포함하여, 출력 값이 -πχ2 내지 πχ2의 범위에 있는 것을 포함함.
Atan( x ) 인수 x에 대해 연산하는, 삼각법 역 탄젠트 함수, 라디안들의 단위들을 포함하여, 출력 값이 -πχ2 내지 πχ2의 범위에 있는 것을 포함함.
Figure pct00015
Ceil( x ) x 이상의 최소 정수.
Clip1Y( x ) = Clip3( 0, ( 1 << BitDepthY ) - 1, x )
Clip1C( x ) = Clip3( 0, ( 1 << BitDepthC ) - 1, x )
Figure pct00016
Cos( x ) 라디안들의 단위들로 인수 x에 대해 연산하는 삼각법 코사인 함수.
Floor( x ) x 이하의 최대 정수.
Figure pct00017
Ln( x ) x의 자연 로그 (베이스-e 로그, 여기서 e는 자연 로그 베이스 상수 2.718 281 828...임).
Log2( x ) x의 베이스-2 로그.
Log10 (x) x의 베이스-10 로그.
Figure pct00018
Round( x ) = Sign( x ) * Floor( Abs( x ) + 0.5 )
Figure pct00019
Sin( x ) 라디오들의 단위들로 인수 x에 대해 연산하는 삼각법 사인 함수.
Figure pct00020
Tan( x ) 라디안들의 단위들로 인수 x에 대해 연산하는 삼각 탄젠트 함수
연산 우선의 순서
표현에서의 우선의 순서가 괄호들의 사용에 의해 명시적으로 표시되지 않으면, 다음의 규칙들이 적용된다:
더 높은 우선의 연산들은 더 낮은 우선의 임의의 연산 전에 평가된다.
동일한 우선의 연산들은 좌측으로부터 우측으로 순차적으로 평가된다.
아래의 표는 최고로부터 최저로의 연산들의 우선을 명시하고; 이러한 표에서의 더 높은 위치는 더 높은 우선을 표시한다.
C 프로그래밍 언어에서 또한 사용되는 이러한 연산자들에 대해, 본 명세서에서 사용되는 우선의 순서는 C 프로그래밍 언어에서 사용되는 바와 동일하다.
표: (테이블의 상단에서의) 최고로부터 (테이블의 하단에서의) 최저로의 연산 우선
Figure pct00021
논리 연산들의 텍스트 설명
텍스트에서, 논리 연산들의 진술은 다음의 형태로 수학적으로 설명되고:
Figure pct00022
다음의 방식으로 설명될 수 있다:
Figure pct00023
텍스트에서의 각각의 "If ... "가 즉시 뒤따르는 "If ... Otherwise, if ... Otherwise, ..." 진술은 "... as follows" 또는 "... the following applies"로 도입될 수 있다. "If ... Otherwise, if ... Otherwise, ..."의 마지막 조건은 항상 "Otherwise, ..."일 수 있다. 인터리빙된 "If ... Otherwise, if ... Otherwise, ..." 진술들은 "... as follows" or "... the following applies"를 엔딩 "Otherwise, ..."와 매칭하는 것에 의해 식별될 수 있다.
텍스트에서, 논리 연산들의 진술은 다음의 형태로 수학적으로 설명되고:
Figure pct00024
Figure pct00025
다음의 방식으로 설명될 수 있다:
Figure pct00026
텍스트에서, 논리 연산들의 진술은 다음의 형태로 수학적으로 설명되고:
Figure pct00027
다음의 방식으로 설명될 수 있다:
Figure pct00028
본 개시내용의 실시예들이 비디오 코딩에 기초하여 주로 설명되었더라도, 코딩 시스템(10), 인코더(20) 및 디코더(30)(및 대응하여 시스템(10))의 실시예들 및 본 명세서에 설명되는 다른 실시예들은 정지 화상 처리 또는 코딩, 즉, 비디오 코딩에서와 같이 임의의 선행 또는 연속 화상에 독립적인 개별 화상의 처리 또는 코딩을 위해 또한 구성될 수 있다는 점이 주목되어야 한다. 일반적으로 화상 처리 코딩이 단일 화상(17)에 제한되는 경우에 인터 예측 유닛들(244(인코더) 및 344(디코더))만이 이용가능하지 않을 수 있다. 정지 화상 처리, 예를 들어, 잔여 계산(204/304), 변환(206), 양자화(208), 역 양자화(210/310), (역) 변환(212/312), 파티셔닝(262), 인트라 예측(254/354), 및/또는 루프 필터링(220, 320), 및 엔트로피 코딩(270) 및 엔트로피 디코딩(304)에 대해 비디오 인코더(20) 및 비디오 디코더(30)의 (툴들 또는 기술들이라고 또한 지칭되는) 모든 다른 기능성들이 동일하게 사용될 수 있다.
예를 들어, 인코더(20) 및 디코더(30)의 실시예들, 및, 예를 들어, 인코더(20) 및 디코더(30)를 참조하여 본 명세서에 설명되는 기능들은, 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수 있다. 소프트웨어로 구현되면, 이러한 기능들은 컴퓨터-판독가능 매체 상에 저장될 수 있거나 또는 하나 이상의 명령어 또는 코드로서 통신 매체를 통해 송신될 수 있고 하드웨어-기반 처리 유닛에 의해 실행될 수 있다. 컴퓨터-판독가능 매체는, 데이터 저장 매체와 같은 유형의 매체에 대응하는, 컴퓨터-판독가능 저장 매체, 또는, 예를 들어, 통신 프로토콜에 따라, 하나의 장소로부터 다른 장소로의 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 통신 매체를 포함할 수 있다. 이러한 방식으로, 컴퓨터-판독가능 매체는 일반적으로, (1) 비-일시적인 유형의 컴퓨터-판독가능 저장 매체 또는 (2) 신호 또는 반송파와 같은 통신 매체에 대응할 수 있다. 데이터 저장 매체는, 본 개시내용에서 설명되는 기법들의 구현을 위한 명령어들, 코드 및/또는 데이터 구조들을 검색하기 위해 하나 이상의 컴퓨터 또는 하나 이상의 프로세서에 의해 액세스될 수 있는 임의의 이용가능한 매체일 수 있다. 컴퓨터 프로그램 제품은 컴퓨터-판독가능 매체를 포함할 수 있다.
제한이 아니라, 예로서, 이러한 컴퓨터-판독가능 저장 매체는, RAM, ROM, EEPROM, CD-ROM 또는 다른 광 디스크 스토리지, 자기 디스크 스토리지, 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 원하는 프로그램 코드를 명령어들 또는 데이터 구조의 형태로 저장하기 위해 사용될 수 있는 그리고 컴퓨터에 의해 엑세스될 수 있는 다른 임의의 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터-판독가능 매체라고 적절히 칭해진다. 예를 들어, 명령어들이, 동축 케이블, 광 섬유 케이블, 트위스티드 페어(twisted pair), DSL(digital subscriber line), 또는 적외선, 무선, 및 마이크로웨이브와 같은 무선 기술들을 사용하여 웹사이트, 서버 또는 다른 원격 소스로부터 송신되면, 이러한 동축 케이블, 광 섬유 케이블, 트위스티드 페어, DSL, 또는 적외선, 무선, 및 마이크로웨이브와 같은 무선 기술들은 매체의 정의에 포함된다. 그러나, 컴퓨터-판독가능 저장 매체 및 데이터 저장 매체는, 접속들, 반송파들, 신호들, 또는 다른 일시적인 매체를 포함하지 않고, 그 대신에, 비-일시적인, 유형의 저장 매체와 관련된다는 점이 이해되어야 한다. 본 명세서에서 사용되는 바와 같은, 디스크(disk 및 disc)는 CD(compact disc), 레이저 디스크, 광 디스크, DVD(digital versatile disc), 플로피 디스크 및 Blu-ray 디스크를 포함하고, 여기서 disk들은 일반적으로 데이터를 자기적으로 재생성하는 반면, disc들은 데이터를 레이저들로 광학적으로 재생성한다. 위의 것의 조합들이 컴퓨터-판독가능 매체의 범위 내에 또한 포함되어야 한다.
하나 이상의 DSP(digital signal processors), 범용 마이크로프로세서, ASIC(application specific integrated circuits), FPGA(field programmable logic arrays), 또는 다른 동등한 집적 또는 이산 로직 회로와 같은, 하나 이상의 프로세서에 의해 명령어들이 실행될 수 있다. 따라서, 본 명세서에서 사용되는 바와 같은 "프로세서(processor)"라는 용어는 본 명세서에서 설명되는 기법들의 구현에 적합한 임의의 다른 구조 또는 전술한 구조 중 임의의 것을 지칭할 수 있다. 또한, 일부 양태들에서, 본 명세서에서 설명되는 기능성은 인코딩 및 디코딩을 위해 구성되는 전용 하드웨어 및/또는 소프트웨어 모듈 내에 제공되거나, 또는 조합된 코덱에 포함될 수 있다. 또한, 이러한 기법들은 하나 이상의 회로 또는 로직 엘리먼트에서 완전히 구현될 수 있다.
본 개시내용의 기법들은, 무선 핸드셋, IC(integrated circuit) 또는 IC들의 세트(예를 들어, 칩 세트)를 포함하는, 매우 다양한 디바이스들 또는 장치들에서 구현될 수 있다. 개시된 기법들을 수행하도록 구성되는 디바이스들의 기능적 양태들을 강조하기 위해 본 개시내용에서는 다양한 컴포넌트들, 모듈들, 또는 유닛들이 설명되지만, 상이한 하드웨어 유닛들에 의한 실현을 반드시 요구하지는 않는다. 오히려, 위에 설명된 바와 같이, 다양한 유닛들은, 적합한 소프트웨어 및/또는 펌웨어와 연계하여, 코덱 하드웨어 유닛에서 조합되거나 또는, 위에 설명된 하나 이상의 프로세서를 포함하는, 연동 하드웨어 유닛들의 집합에 의해 제공될 수 있다.

Claims (21)

  1. 디코딩 디바이스에 의해 구현되는 코딩의 방법으로서,
    디코딩될 현재 CTU(coding tree unit)가 CTU 행의 제1 CTU일 때(1510), IBC(intra block copy) 참조를 위한 전용 버퍼를 초기화하는 단계(1520);
    상기 현재 CTU에서의 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하는 단계(1530);
    상기 현재 블록이 IBC 모드를 사용하여 예측될 때 상기 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계(1540); 및
    상기 전용 버퍼로부터의 참조 샘플들 및 상기 현재 블록에 대한 IBC 블록 벡터에 기초하여, 상기 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계1550를 포함하는 방법.
  2. 인코딩 디바이스에 의해 구현되는 코딩의 방법으로서,
    인코딩될 현재 CTU(coding tree unit)가 CTU 행의 제1 CTU일 때(1610), IBC(intra block copy) 참조를 위한 전용 버퍼를 초기화하는 단계(1620);
    상기 전용 버퍼로부터의 참조 샘플들에 기초하여, 상기 현재 CTU에서의 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계(1630); 및
    상기 현재 블록에 대한 예측된 샘플 값들에 기초하여, 상기 현재 블록에 대한 IBC 블록 벡터를 인코딩하는 단계(1640)를 포함하는 방법.
  3. 제1항 또는 제2항에 있어서, 상기 전용 버퍼로부터의 참조 샘플들은 디폴트 값으로 초기화되는 방법.
  4. 제3항에 있어서, 상기 디폴트 값은 -1인 방법.
  5. 디코딩 디바이스에 의해 구현되는 코딩의 방법으로서,
    디코딩될 현재 코딩 블록이 CTU의 영역에서의 제1 코딩 블록일 때, CTU(coding tree unit)의 영역을 위한 전용 버퍼를 초기화하는 단계;
    현재 CTU에서의 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하는 단계;
    상기 현재 블록이 IBC 모드를 사용하여 예측될 때 상기 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계; 및
    상기 전용 버퍼로부터의 참조 샘플들 및 상기 현재 블록에 대한 IBC 블록 벡터에 기초하여, 상기 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함하는 방법.
  6. 제5항에 있어서, 상기 CTU의 영역은 고정된 크기의, 비-중첩 영역인 방법.
  7. 제5항 또는 제6항에 있어서, 상기 영역은 VPDU(virtual pipeline processing unit)인 방법.
  8. 제5항 내지 제7항 중 어느 한 항에 있어서, 상기 영역의 크기는 64x64인 방법.
  9. 디코딩 디바이스에 의해 구현되는 코딩의 방법으로서,
    디코딩될 현재 CTU(coding tree unit)가 화상의 제1 CTU일 때, IBC(intra block copy) 참조를 위한 전용 버퍼를 초기화하는 단계;
    상기 현재 CTU에서의 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하는 단계;
    상기 현재 블록이 IBC 모드를 사용하여 예측될 때 상기 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계; 및
    상기 전용 버퍼로부터의 참조 샘플들 및 상기 현재 블록에 대한 IBC 블록 벡터에 기초하여, 상기 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함하는 방법.
  10. 제9항에 있어서, 상기 전용 버퍼로부터의 참조 샘플들은 디폴트 값으로 초기화되는 방법.
  11. 제10항에 있어서, 상기 디폴트 값은 -1인 방법.
  12. 디코딩 디바이스에 의해 구현되는 코딩의 방법으로서,
    현재 블록이 현재 CTU(coding tree unit)에서의 제1 코딩 블록일 때, IBC(intra block copy) 참조를 위한 전용 버퍼를 초기화하는 단계- 상기 CTU는 CTU 행의 제1 CTU임 -;
    상기 현재 CTU에서의 현재 블록이 IBC 모드를 사용하여 예측되는지 결정하는 단계;
    상기 현재 블록이 IBC 모드를 사용하여 예측될 때 상기 현재 블록에 대한 IBC 블록 벡터를 획득하는 단계; 및
    상기 전용 버퍼로부터의 참조 샘플들 및 상기 현재 블록에 대한 IBC 블록 벡터에 기초하여, 상기 현재 블록에 대한 예측된 샘플 값들을 획득하는 단계를 포함하는 방법.
  13. 제12항에 있어서, 상기 전용 버퍼로부터의 참조 샘플들은 디폴트 값으로 초기화되는 방법.
  14. 제13항에 있어서, 상기 디폴트 값은 -1인 방법.
  15. 인코더(20)로서, 제2항 내지 제4항 중 어느 한 항의 방법을 수행하기 위한 처리 회로를 포함하는 인코더(20).
  16. 제15항에 있어서, IBC 참조 샘플들을 저장하기 위한 전용 버퍼를 추가로 포함하는 인코더(20).
  17. 디코더(30)로서, 제1항 및 제3항 내지 제14항 중 어느 한 항에 따른 방법을 수행하기 위한 처리 회로를 포함하는 디코더(30).
  18. 제17항에 있어서, IBC 참조 샘플들을 저장하기 위한 전용 버퍼를 추가로 포함하는 디코더(30).
  19. 컴퓨터 프로그램 제품으로서, 컴퓨터에 의해 실행될 때, 상기 컴퓨터로 하여금 제1항 내지 제14항 중 어느 한 항에 따른 방법을 수행하게 하는 명령어들을 포함하는 컴퓨터 프로그램 제품.
  20. 디코더(30)로서,
    하나 이상의 프로세서; 및
    상기 하나 이상의 프로세서에 연결되는 그리고 상기 하나 이상의 프로세서에 의한 실행을 위한 명령어들을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 상기 명령어들은, 상기 하나 이상의 프로세서에 의해 실행될 때, 제1항 및 제3항 내지 제14항 중 어느 한 항에 따른 방법을 수행하도록 상기 디코더를 구성함 -를 포함하는 디코더(30).
  21. 인코더(20)로서,
    하나 이상의 프로세서; 및
    상기 하나 이상의 프로세서에 연결되는 그리고 상기 하나 이상의 프로세서에 의한 실행을 위한 명령어들을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 상기 명령어들은, 상기 하나 이상의 프로세서에 의해 실행될 때, 제2항 내지 제4항 중 어느 한 항에 따른 방법을 수행하도록 상기 인코더를 구성함 -를 포함하는 인코더(20).
KR1020217000755A 2019-05-16 2020-05-13 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들 KR102431537B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020227027003A KR102596735B1 (ko) 2019-05-16 2020-05-13 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962849119P 2019-05-16 2019-05-16
US62/849,119 2019-05-16
EPPCT/EP2019/065540 2019-06-13
EP2019065540 2019-06-13
PCT/CN2020/090053 WO2020228744A1 (en) 2019-05-16 2020-05-13 An encoder, a decoder and corresponding methods using ibc dedicated buffer and default value refreshing for luma and chroma component

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020227027003A Division KR102596735B1 (ko) 2019-05-16 2020-05-13 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들

Publications (2)

Publication Number Publication Date
KR20210018490A true KR20210018490A (ko) 2021-02-17
KR102431537B1 KR102431537B1 (ko) 2022-08-12

Family

ID=73289357

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020217000755A KR102431537B1 (ko) 2019-05-16 2020-05-13 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들
KR1020227027003A KR102596735B1 (ko) 2019-05-16 2020-05-13 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020227027003A KR102596735B1 (ko) 2019-05-16 2020-05-13 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들

Country Status (10)

Country Link
US (1) US11463709B2 (ko)
EP (1) EP3912348A4 (ko)
JP (2) JP7106744B2 (ko)
KR (2) KR102431537B1 (ko)
CN (2) CN113039798B (ko)
AU (1) AU2020276527B9 (ko)
BR (1) BR112021000935A2 (ko)
CA (1) CA3131289C (ko)
MX (1) MX2021001663A (ko)
WO (1) WO2020228744A1 (ko)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020156547A1 (en) 2019-02-02 2020-08-06 Beijing Bytedance Network Technology Co., Ltd. Buffer resetting for intra block copy in video coding
CN117395439A (zh) 2019-03-01 2024-01-12 北京字节跳动网络技术有限公司 用于视频编解码中的帧内块复制的基于方向的预测
CN113545068B (zh) 2019-03-01 2023-09-15 北京字节跳动网络技术有限公司 用于视频编解码中的帧内块复制的基于顺序的更新
KR20240132530A (ko) 2019-03-04 2024-09-03 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 비디오 코딩에서 인트라 블록 복사의 구현 형태
WO2020253650A1 (en) * 2019-06-16 2020-12-24 Beijing Bytedance Network Technology Co., Ltd. Interaction between screen content coding tools and motion information
US11070816B2 (en) * 2019-06-18 2021-07-20 Tencent America LLC Conversion of decoded block vector for intra picture block compensation
CN114128279A (zh) * 2019-06-21 2022-03-01 Jvc建伍株式会社 动图像编码装置、动图像编码方法及动图像编码程序、动图像解码装置、动图像解码方法及动图像解码程序
BR112021026156A2 (pt) * 2019-06-25 2022-02-08 Jvckenwood Corp Dispositivo de codificação de imagem dinâmica, método de codificação de imagem dinâmica, programa de codificação de imagem dinâmica, dispositivo de decodificação de imagem dinâmica, método de decodificação de imagem dinâmica e programa de decodificação de imagem dinâmica
CA3146016C (en) 2019-07-06 2024-05-07 Beijing Bytedance Network Technology Co., Ltd. Virtual prediction buffer for intra block copy in video coding
CN114175633B (zh) 2019-07-10 2023-12-29 北京字节跳动网络技术有限公司 用于视频编解码中的帧内块复制的样点标识
JP2022539887A (ja) * 2019-07-11 2022-09-13 北京字節跳動網絡技術有限公司 映像符号化におけるイントラブロックコピーのためのビットストリーム適合性の制約
EP3991423A4 (en) 2019-07-25 2022-09-07 Beijing Bytedance Network Technology Co., Ltd. MAPPING RESTRICTION FOR INTRABLOC COPY VIRTUAL BUFFER
CN117499659A (zh) * 2019-07-25 2024-02-02 北京字节跳动网络技术有限公司 帧内块复制虚拟缓冲区的尺寸限制
CN117579825A (zh) 2019-09-05 2024-02-20 北京字节跳动网络技术有限公司 帧内块复制模式下块矢量的范围约束
KR20220064968A (ko) * 2019-09-23 2022-05-19 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 가상 파이프라인 데이터 유닛에 기초한 인트라 블록 복사 가상 버퍼의 설정
CN115362674A (zh) 2020-03-18 2022-11-18 抖音视界有限公司 帧内块复制缓冲区和调色板预测值更新
CN113556542B (zh) * 2021-07-16 2023-04-28 安谋科技（中国）有限公司 帧内块复制单元及方法
WO2024085656A1 (ko) * 2022-10-18 2024-04-25 주식회사 윌러스표준기술연구소 비디오 신호 처리 방법 및 이를 위한 장치
US20240236367A1 (en) * 2023-01-11 2024-07-11 Tencent America LLC Template-matching based adaptive block vector resolution (abvr) in ibc
CN116303137B (zh) * 2023-02-27 2024-09-06 深圳市步科电气有限公司 数据滤波方法、装置、电子设备及可读存储介质

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2013228045A1 (en) * 2013-09-13 2015-04-02 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding video data
KR101863487B1 (ko) * 2014-05-06 2018-05-31 에이치에프아이 이노베이션 인크. 인트라 블록 카피 모드 부호화를 위한 블록 벡터 예측 방법
KR102034938B1 (ko) 2014-09-01 2019-10-21 에이치에프아이 이노베이션 인크. 스크린 콘텐츠 및 비디오 코딩을 위한 인트라 픽처 블록 카피의 방법
US10212445B2 (en) * 2014-10-09 2019-02-19 Qualcomm Incorporated Intra block copy prediction restrictions for parallel processing
US9955185B2 (en) 2015-02-12 2018-04-24 Mediatek Inc. Method and apparatus of constrained intra block copy for coding video
WO2016192662A1 (en) 2015-06-03 2016-12-08 Mediatek Inc. Method and apparatus for resource sharing between intra block copy mode and inter prediction mode in video coding systems
KR102539009B1 (ko) * 2015-06-08 2023-05-31 브이아이디 스케일, 인크. 스크린 콘텐츠 코딩을 위한 인트라 블록 카피 모드
CN107925769B (zh) * 2015-09-08 2020-11-27 联发科技股份有限公司 管理已解码图像缓存器的方法及视频编码器或视频解码器
RU2710667C1 (ru) * 2016-05-28 2019-12-30 МедиаТек Инк. Способ и устройство привязки к текущему изображению для кодирования видео
CN109792516B (zh) * 2016-10-04 2021-05-25 联发科技股份有限公司 图像和视频编解码中用于帧内色度编解码的方法及装置
US10743029B2 (en) * 2018-07-30 2020-08-11 Tencent America LLC Constraints on coding unit partition
US11683501B2 (en) * 2019-01-17 2023-06-20 Tencent America LLC Method and apparatus for video coding
US10904557B2 (en) * 2019-01-22 2021-01-26 Tencent America LLC Method and apparatus for video coding

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Jizheng Xu et al, Non-CE8: On IBC reference buffer design, JVET of ITU-T and ISO/IEC, 14th meeting, JVET-N0472_v2(2019.03.22.) 1부.* *

Also Published As

Publication number Publication date
JP7106744B2 (ja) 2022-07-26
KR102431537B1 (ko) 2022-08-12
BR112021000935A2 (pt) 2021-04-20
CN113840143A (zh) 2021-12-24
AU2020276527B9 (en) 2024-06-27
US11463709B2 (en) 2022-10-04
KR102596735B1 (ko) 2023-11-01
CN113039798B (zh) 2024-03-26
EP3912348A4 (en) 2022-06-22
JP2021533644A (ja) 2021-12-02
KR20220116339A (ko) 2022-08-22
CA3131289C (en) 2023-12-12
WO2020228744A1 (en) 2020-11-19
JP7375125B2 (ja) 2023-11-07
AU2020276527B2 (en) 2024-06-13
EP3912348A1 (en) 2021-11-24
AU2020276527A1 (en) 2021-09-09
MX2021001663A (es) 2021-05-12
JP2022140481A (ja) 2022-09-26
US20210152833A1 (en) 2021-05-20
CN113039798A (zh) 2021-06-25
CA3131289A1 (en) 2020-11-19

Similar Documents

Publication Publication Date Title
KR102431537B1 (ko) 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들
US12088799B2 (en) Encoder, a decoder and corresponding methods of intra prediction
US11070799B2 (en) Encoder, decoder and corresponding methods for intra prediction
US11876997B2 (en) Encoder, decoder and corresponding methods of most probable mode list construction for blocks with multi-hypothesis prediction
US20230007273A1 (en) Encoder, a decoder and corresponding methods using intra block copy (ibc) dedicated buffer and default value refreshing for luma and chroma component
KR20210088688A (ko) Ibc 병합 리스트를 사용하는 인코더, 디코더 및 대응하는 방법들
KR20210139446A (ko) 인트라 스무딩을 위한 방법 및 장치
US11876956B2 (en) Encoder, a decoder and corresponding methods for local illumination compensation
US20210392373A1 (en) Encoder, a decoder and corresponding methods using intra mode coding for intra prediction
EP4022912A1 (en) Method and apparatus for chrominance qp offsets tables signaling and derivation
RU2827756C2 (ru) Кодер, декодер и соответствующие способы, использующие выделенный буфер ibc, и значение по умолчанию, обновляющее компонент яркости и цветности
US11616980B2 (en) Encoder, a decoder and corresponding methods of complexity reduction on intra prediction for the planar mode
US20220321888A1 (en) Method and apparatus of position dependent prediction combination for oblique directional intra prediction

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant