KR20240064039A - 인코더, 디코더 및 대응하는 디블록킹 필터 적응의 방법 - Google Patents

인코더, 디코더 및 대응하는 디블록킹 필터 적응의 방법 Download PDF

Info

Publication number
KR20240064039A
KR20240064039A KR1020247014523A KR20247014523A KR20240064039A KR 20240064039 A KR20240064039 A KR 20240064039A KR 1020247014523 A KR1020247014523 A KR 1020247014523A KR 20247014523 A KR20247014523 A KR 20247014523A KR 20240064039 A KR20240064039 A KR 20240064039A
Authority
KR
South Korea
Prior art keywords
block
boundary
unit
ciip
blocks
Prior art date
Application number
KR1020247014523A
Other languages
English (en)
Inventor
뱌오 왕
아난드 메헤르 코트라
세미흐 에센리크
장러 천
한 가오
Original Assignee
후아웨이 테크놀러지 컴퍼니 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 후아웨이 테크놀러지 컴퍼니 리미티드 filed Critical 후아웨이 테크놀러지 컴퍼니 리미티드
Publication of KR20240064039A publication Critical patent/KR20240064039A/ko

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139—Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/14—Coding unit complexity, e.g. amount of activity or edge presence estimation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

본 개시는 코딩 방법을 제공하며, 상기 코딩은 디코딩 또는 인코딩을 포함하고, 상기 코딩 방법은, 현재 코딩 유닛이 결합형 인터-인트라 예측(CIIP)의 적용에 의해 예측되는지를 판정하는 단계; 및 상기 현재 코딩 유닛이 CIIP의 적용에 의해 예측된다고 판정하면, 상기 현재 코딩 유닛의 경계의 경계 강도를 제1 값으로 설정하는 단계를 포함한다.

Description

인코더, 디코더 및 대응하는 디블록킹 필터 적응의 방법{AN ENCODER, A DECODER AND CORRESPONDING METHODS OF DEBLOCKING FILTER ADAPTATION}
관련 출원에 대한 상호 참조
본 출원은 2019년 1월 17일에 미국 특허 상표청에 출원된 미국 가출원 제62/793,840호의 우선권을 주장하며, 그 개시 내용은 전체가 원용에 의해 본 출원에 통합된다.
본 출원의 실시예는 일반적으로 영상 처리 분야에 관한 것으로, 특히 인코더, 디코더 및 대응하는 디블로킹 필터 적응의 방법에 관한 것이다.
비디오 코딩(비디오 인코딩 및 디코딩)은 광범위한 디지털 비디오 애플리케이션, 예를 들어, 브로드캐스트 디지털 TV, 인터넷 및 모바일 네트워크를 통한 비디오 송신, 비디오 채팅과 같은 실시간 대화 애플리케이션, 비디오 회의, DVD 및 블루레이(Blu-ray), 비디오 컨텐츠 수집 및 편집 시스템, 보안 애플리케이션의 캠코더에 사용된다.
비교적 짧은 비디오이더라도 묘사하는 데 필요한 비디오 데이터의 양은 상당할 수 있으며, 이는 데이터를 스트리밍하거나 대역폭 용량이 한정된 통신 네트워크를 통해 통신할 때 어려움을 초래할 수 있다. 따라서 비디오 데이터는 일반적으로 현대의 통신 네트워크를 통해 통신하기 전에 압축된다. 메모리 자원은 한정될 수 있기 때문에 비디오가 저장 기기에 저장되는 경우 비디오의 크기가 문제가 될 수도 있다. 비디오 압축 기기는 종종 근원지(source)에서 소프트웨어 및/또는 하드웨어를 사용하여 송신 또는 저장 전에 비디오 데이터를 코딩하여, 디지털 비디오 이미지를 표현하는 데 필요한 데이터의 양을 줄인다. 압축된 데이터는 비디오 데이터를 디코딩하는 비디오 압축해제기기에 의해 목적지에서 수신된다. 한정된 네트워크 자원과 더 높은 비디오 품질에 대한 요구가 계속 증가함에 따라 화질을 거의 또는 전혀 희생하지 않고 압축률을 향상시키는 개선된 압축 및 압축해제기술이 바람직하다.
본 출원의 실시예는 독립 청구항에 따른 인코딩 및 디코딩을 위한 장치 및 방법을 제공한다.
상기한 목적 및 기타 목적은 독립 청구항의 주제에 의해 달성된다. 추가 구현 형태는 종속 청구항, 설명 및 도면으로부터 명백하다.
본 개시의 하나의 실시예는 디코딩 또는 인코딩을 포함하는 코딩 방법으로서, 현재 코딩 유닛이 결합형 인터-인트라 예측(combined inter-intra prediction, CIIP)의 적용에 의해 예측되는지를 판정하는 단계; 및 상기 현재 코딩 유닛이 CIIP의 적용에 의해 예측된다고 판정하면, 상기 현재 코딩 유닛의 경계의 경계 강도를 제1 값으로 설정하는 단계를 포함한다.
상기 제1 값은 1 내지 2의 범위에 있을 수 있다. 상기 제1 값은 2일 수 있다. 대안으로, 상기 제1 값은 1일 수 있다. 후자의 경우, 상기 코딩 방법은, 다음 조건:
- 상기 현재 코딩 유닛 및 상기 현재 코딩 유닛의 경계에 인접한 인접 코딩 유닛 중 적어도 하나는 0이 아닌 변환 계수를 가짐,
- 상기 현재 코딩 유닛과 상기 인접 코딩 유닛을 예측하는 데 사용되는 움직임 벡터 간의 절대 차가 하나의 정수 샘플보다 크거나 같음,
- 상기 현재 코딩 유닛과 상기 인접 코딩 유닛은 서로 다른 참조 영상에 기초하여 예측됨, 및
- 상기 현재 코딩 유닛과 상기 인접 코딩 유닛을 예측하는 데 사용되는 움직임 벡터의 수가 상이함 중 하나가 충족된다고 결정한 경우, 상기 제1 값을 1 증가시키는 단계를 더 포함할 수 있다.
상기 코딩 방법은, 상기 현재 코딩 유닛의 경계가 수평 에지인 경우, 상기 현재 코딩 유닛의 경계에 인접한 인접 코딩 유닛이 다른 코딩 트리 유닛(coding tree unit, CTU)에 있는지를 판정하는 단계를 더 포함할 수 있다.
상기 코딩 방법은, 서브코딩 유닛(sub-coding unit)의 경계의 경계 강도를 제2 값으로 설정하는 단계를 더 포함할 수 있으며, 상기 현재 코딩 유닛은 둘 이상의 서브코딩 유닛을 포함하고, 상기 서브코딩 유닛의 경계는 상기 둘 이상의 서브코딩 유닛 사이의 경계이다. 상기 제2 값은 특히 1일 수 있다. 상기 서브코딩 유닛의 경계가 변환 유닛의 에지인 경우, 상기 제2 값은 상기 제1 값과 동일할 수 있다. 상기 서브코딩 유닛의 경계가 변환 유닛의 경계가 아닌 경우, 상기 제2 값은 상기 제1 값과 다를 수 있다.
상기한 실시예에서, 상기 코딩 방법은, 상기 현재 코딩 유닛의 경계가 8x8 그리드에 맞춰져 있는지를 판정하는 단계; 및 상기 현재 코딩 유닛의 경계가 8x8 그리드에 맞춰져 있지 않다고 판정하면, 상기 현재 코딩 유닛의 경계의 경계 강도를 0으로 설정하는 단계를 더 포함할 수 있다.
상기 코딩 방법은, 상기 서브코딩 유닛의 경계가 서브그리드에 맞춰져 있는지를 판정하는 단계 - 상기 서브그리드는 4x4 그리드 또는 8x8 그리드임 -; 및 상기 서브코딩 유닛의 경계가 서브그리드에 맞춰져 있지 않다고 판정하면, 상기 서브코딩 유닛의 경계의 경계 강도를 0으로 설정하는 단계를 더 포함할 수 있다.
상기한 실시예에서, 상기 코딩 방법은 상기 경계의 경계 강도가 0보다 클 때 루마 성분의 경계에서 디블로킹을 수행하는 단계를 더 포함할 수 있다. 상기 코딩 방법은, 상기 경계의 경계 강도가 1보다 클 때 크로마 성분의 경계에서 디블로킹을 수행하는 단계를 더 포함할 수 있다.
상기한 실시예에서, 상기 현재 코딩 유닛이 CIIP 적용에 의해 예측되는 경우, 디블록킹을 수행할 때 상기 현재 코딩 유닛은 인트라 예측을 사용하는 코딩 유닛으로 간주될 수 있다.
본 개시의 다른 실시예는 상기한 실시예 중 어느 하나에 따른 방법을 수행하기 위한 처리 회로를 포함하는 인코더이다.
본 개시의 다른 실시예는 상기한 실시예 중 어느 하나에 따른 방법을 수행하기 위한 처리 회로를 포함하는 디코더이다.
본 개시의 다른 실시예는, 프로그램이 컴퓨터에 의해 실행될 때, 상기 컴퓨터로 하여금 상기한 실시예 중 어느 하나에 따른 방법을 수행하게 하는 명령어를 포함하는 컴퓨터 프로그램 제품이다.
본 개시의 다른 실시예는, 하나 이상의 프로세서; 및 상기 하나 이상의 프로세서에 결합되고 상기 하나 이상의 프로세서에 의한 실행을 위한 명령어를 저장하는 컴퓨터로 판독 가능한 비일시적인 저장 매체를 포함하는 디코더이며, 상기 명령어는 상기 하나 이상의 프로세서에 의해 실행될 때, 상기한 실시예 중 어느 하나에 따른 방법을 수행하도록 상기 디코더를 구성한다.
본 개시의 다른 실시예는, 상기 하나 이상의 프로세서에 결합되고 상기 하나 이상의 프로세서에 의한 실행을 위한 명령어를 저장하는 컴퓨터로 판독 가능한 비일시적인 저장 매체를 포함하는 인코더이며, 상기 명령어는 상기 하나 이상의 프로세서에 의해 실행될 때, 상기한 실시예 중 어느 하나에 따른 방법을 수행하도록 상기 인코더를 구성한다.
본 개시는 다음 측면들을 더 제공한다.
제1 측면에 따르면, 본 개시는 코딩 방법에 관한 것으로, 상기 코딩은 디코딩 또는 인코딩을 포함하고, 상기 코딩 방법은 현재 코딩 유닛(또는 코딩 블록)이 결합형 인터-인트라 예측의 적용에 의해 예측되는지의 여부를 판정하는 단계; 상기 현재 코딩 유닛이 결합형 인터-인트라 예측을 적용하여 예측되는 경우,
상기 현재 코딩 유닛의 경계의 경계 강도(boundary strength, Bs)를 제1 값으로 설정하는 단계; 및
서브코딩 유닛(또는 서브블록(sub-coding unit) 또는 서브파티션(sub-partition)의 경계의 경계 강도(Bs)를 제2 값으로 설정하는 단계 - 상기 현재 코딩 유닛은 둘 이상의 서브코딩 유닛을 포함하고, 상기 서브코딩 유닛은 둘 이상의 서브코딩 유닛 사이의 경계임 -를 포함한다.
상기 제1 값은 2일 수 있다. 상기 제2 값은 1일 수 있다. 상기 제1 값은 상기 제2 값과 동일하거나 다를 수 있다. 상기 서브코딩 유닛의 경계가 변환 유닛의 경계(또는 에지)인 경우, 상기 제1 값은 상기 제2 값과 동일할 수 있다. 상기 서브코딩 유닛의 경계가 변환 유닛의 경계(또는 에지)가 아닌 경우, 상기 제1 값은 상기 제2 값과 다를 수 있다.
상기 코딩 방법은 상기 Bs의 값이 루마 성분에 대해 0보다 큰 경우 디블로킹을 수행하는 단계; 또는 상기 Bs의 값이 크로마 성분에 대해 1보다 큰 경우 디블로킹을 수행하는 단계를 더 포함할 수 있으며, 상기 Bs의 값은 상기 제1 값 또는 상기 제2 값 중 하나이다.
상기 현재 코딩 유닛(또는 블록)이 결합형 인터-인트라 예측을 적용하여 예측되는 경우, 상기 현재 코딩 유닛은 디블록킹 수행하는 경우에 인트라 예측을 사용하는 유닛으로 간주될 수 있다.
제2 측면에 따르면, 본 개시 내용은 제1 측면에 따른 방법 중 어느 하나를 수행하기 위한 처리 회로를 포함하는 인코더에 관한 것이다.
제3 측면에 따르면, 본 개시 내용은 제1 측면에 따른 방법 중 어느 하나를 수행하기 위한 처리 회로를 포함하는 디코더에 관한 것이다.
제4 측면에 따르면, 본 개시 내용은 제1 측면에 따른 방법 중 어느 하나를 수행하기 위한 프로그램 코드를 포함하는 컴퓨터 프로그램 제품에 관한 것이다.
제5 측면에 따르면, 본 개시는 디코더에 관한 것으로, 상기 디코더는 하나 이상의 프로세서; 및 상기 프로세서에 결합되고 상기 프로세서에 의한 실행을 위한 프로그래밍을 저장하는, 컴퓨터로 판독 가능한 비일시적인 저장 매체를 포함하고, 상기 프로그래밍은 상기 프로세서에 의해 실행될 때, 제1 측면에 따른 방법 중 어느 하나를 수행하도록 상기 디코더를 구성한다.
제6 측면에 따르면, 본 개시는 인코더에 관한 것으로, 상기 인코더는 하나 이상의 프로세서; 및 상기 프로세서에 결합되고 상기 프로세서에 의한 실행을 위한 프로그래밍을 저장하는, 컴퓨터로 판독 가능한 비일시적인 저장 매체를 포함하고, 상기 프로그래밍은 상기 프로세서에 의해 실행될 때, 제1 측면에 따른 방법 중 어느 하나를 수행하도록 상기 인코더를 구성한다.
제7 측면에 따르면, 본 개시는 코딩 방법에 관한 것으로, 상기 코딩은 디코딩 또는 인코딩을 포함하며, 두 개의 블록 중 적어도 하나가 CIIP(또는 MH) 예측을 사용하는 블록인지를 결정하는 단계 - 상기 두 개의 블록은 제1 블록(블록 Q) 및 제2 블록(블록 P)을 포함하고, 상기 두 개의블록은 경계와 연관됨 -; 상기 두 블록 중 적어도 하나가 CIIP 예측을 사용하는 블록인 경우, 상기 경계의 경계 강도(Bs)를 제1 값으로 설정하는 단계; 및 상기 두 블록 중 어느 것도 CIIP 예측을 사용하지 않는 블록인 경우, 상기 경계의 경계 강도(Bs)를 제2 값으로 설정하는 단계를 포함한다.
본 개시의 제7 측면에 따른 방법은 본 개시의 제8 측면에 따른 장치에 의해 수행될 수 있다. 본 개시의 제8 측면에 따른 장치의 추가 특징 및 구현 형태는 본 개시의 제7 측면에 따른 방법의 특징 및 구현 형태에 대응한다.
제9 측면에 따르면, 본 개시는 프로세서 및 메모리를 포함하는 비디오 스트림을 디코딩하기 위한 장치에 관한 것이다. 상기 메모리는 상기 프로세서로 하여금 제7 측면에 따른 방법을 수행하게 하는 명령어를 저장한다.
제10 측면에 따르면, 본 개시는 프로세서 및 메모리를 포함하는 비디오 스트림을 인코딩하기 위한 장치에 관한 것이다. 상기 메모리는 상기 프로세서로 하여금 제7 측면에 따른 방법을 수행하게 하는 명령어를 저장한다.
제11 측면에 따르면, 실행될 때 하나 이상의 프로세서로 하여금 비디오 데이터를 코딩하도록 구성된 명령어를 저장한, 컴퓨터로 판독 가능한 저장 매체가 제안된다. 상기 명령어는 상기 하나 이상의 프로세서로 하여금 제7 측면 또는 제7 측면의 어느 하나의 가능한 실시예에 따른 방법을 수행하게 한다.
제12 측면에 따르면, 본 개시는 컴퓨터에서 실행될 때 제7 측면 또는 제7 측면의 어느 가능한 실시예에 따른 방법을 수행하기 위한 프로그램 코드를 포함하는 컴퓨터 프로그램에 관한 것이다.
하나 이상의 실시예의 세부사항은 첨부 도면 및 이하의 설명에 기재되어 있다. 다른 특징, 목적 및 이점은 설명, 도면 및 청구범위로부터 명백해질 것이다.
이하에서는, 첨부 도면을 참조하여 본 발명의 실시예를 더 상세하게 설명한다.
도 1a는 본 발명의 실시예를 구현하도록 구성된 비디오 코딩 시스템의 예를 도시한 블록도이다.
도 1b는 본 발명의 실시예를 구현하도록 구성된 비디오 코딩 시스템의 다른 예를 도시한 블록도이다.
도 2는 본 발명의 실시예를 구현하도록 구성된 비디오 인코더의 예를 도시한 블록도이다.
도 3은 본 발명의 실시예를 구현하도록 구성된 비디오 디코더의 예시적인 구조를 도시한 블록도이다.
도 4는 인코딩 장치 또는 디코딩 장치의 일례를 나타낸 블록도이다.
도 5는 인코딩 장치 또는 디코딩 장치의 다른 예를 나타낸 블록도이다.
도 6은 코딩 유닛의 예시적인 서브블록 경계를 나타낸 도면이다.
도 7은 코딩 유닛의 예시적인 서브블록 경계를 나타낸 다른 도면이다.
도 8은 코딩 유닛의 네 개의 변환 유닛으로의 분할을 나타낸 도면이다.
도 9는 CIIP 블록의 다중 변환 유닛으로의 분할하는 것을 나타낸 도면이다.
도 10은 서브파티션의 샘플에 디블로킹 필터를 적용하는 예를 도시한다.
도 11은 경계의 인접 블록을 나타낸 도면이다.
도 12는 본 발명의 일 실시예에 따른 경계의 경계 강도 도출을 도시한 흐름도이다.
도 13은 종래 기술에 따른 경계의 경계 강도 도출을 도시한 흐름도이다.
도 14는 본 발명의 다른 실시예에 따른 경계의 경계 강도 도출을 도시한 흐름도이다.
도 15는 본 발명의 또 다른 실시예에 따른 경계의 경계 강도 도출을 도시한 흐름도이다.
도 16은 CU의 좌측 상단 샘플에서 시작하는 8x8 샘플 그리드와 관련하여 코딩 유닛 내의 서브블록 에지를 도시한 도면이다.
도 17은 CU의 좌측 상단 샘플에서 시작하지 않는 8x8 샘플 그리드와 관련하여 코딩 유닛 내의 서브블록 에지를 도시한 도면이다.
도 18은 4x4 샘플 그리드와 관련하여 코딩 유닛 내의 서브블록 에지를 도시한 도면이다.
이하의 동일한 참조 부호는 특별히 명시하지 않는 한 동일 또는 적어도 기능적으로 동등한 특징부를 가리킨다.
이하의 설명에서는, 본 개시의 일부를 형성하고, 예시로서 본 발명의 실시예의 특정 측면 또는 본 발명의 실시예가 사용될 수 있는 특정 측면을 도시한 첨부 도면을 참조한다. 본 발명의 실시예는 다른 측면에서 사용될 수 있고 도면에 도시되지 않은 구조적 또는 논리적 변화를 포함할 수 있음이 이해된다. 따라서, 이하의 상세한 설명은 한정적인 의미로 받아들여서는 안 되며, 본 발명의 범위는 첨부된 청구 범위에 의해 정의된다.
예를 들어, 설명된 방법과 관련된 개시는 또한 그 방법을 수행하도록 구성된 대응하는 기기 또는 시스템에 대해 참일 수 있고 그 반대의 경우도 마찬가지인 것으로 이해된다. 예를 들어, 하나 또는 복수의 구체적인 방법 단계가 기술되면, 대응하는 기기는 하나 또는 복수의 방법 단계를 수행하기 위해, 하나 또는 복수의 유닛, 예컨대 기능 유닛들(예: 하나 또는 복수의 단계를 수행하는 하나의 유닛, 또는 복수의 단계 중 하나 이상을 각각 수행하는 복수의 유닛)을, 그러한 하나 이상의 유닛이 도면에 명시적으로 기술되거나 예시되지 않더라도, 포함할 수 있다. 한편, 예를 들어, 특정 장치가 하나 또는 복수의 유닛, 예컨대 기능 유닛들에 기초하여 기술되면, 대응하는 방법은 하나 또는 복수의 유닛의 기능을 수행하기 위해 하나의 단계(예: 하나 또는 복수의 유닛의 기능을 수행하는 하나의 단계, 또는 복수의 유닛 중 하나 이상의 기능을 각각 수행하는 복수의 단계)를, 그러한 하나 또는 복수의 단계가 도면에 명시적으로 기술되거나 예시되지 않더라도, 포함할 수 있다. 또한, 여기에 기술된 다양한 예시적인 실시예 및/또는 측면의 특징은 특별히 달리 언급되지 않는 한 서로 결합될 수 있다는 것이 이해된다.
비디오 코딩은 보통 비디오 또는 비디오 시퀀스를 형성하는 일련의 영상을 처리하는 것을 말한다. "영상(picture)"라는 용어 대신에, "프레임(frame)" 또는 "이미지(image)"라는 용어가 비디오 코딩 분야에서 동의어로 사용될 수 있다. 비디오 코딩(또는 일반적으로 코딩)은 비디오 인코딩과 비디오 디코딩의 두 부분을 포함한다. 비디오 인코딩은 근원지(source) 측에서 수행되며, 보통 (더 효율적인 저장 및/또는 송신을 위해) 비디오 영상을 표현하는 데 필요한 데이터의 양을 줄이기 위해 원본 비디오 영상(original video picture)을 처리(예: 압축)하는 것을 포함한다. 비디오 디코딩은 목적지(destination) 측에서 수행되며, 보통 비디오 영상을 재구축하기 위해 인코더와 대비하여 역 처리를 포함한다. 비디오 영상(또는 일반적으로 영상)의 "코딩"을 언급하는 실시예는 비디오 영상 또는 각각의 비디오 시퀀스의 "인코딩" 또는 "디코딩"과 관련되는 것으로 이해되어야 한다. 인코딩 부분과 디코딩 부분의 조합을 CODEC(Coding and Decoding)이라고도 한다. 무손실 비디오 코딩의 경우, 원본 비디오 영상은 재구축될 수 있다. 즉, 재구축된 비디오 영상은 원본 비디오 영상과 동일한 품질을 갖는다(저장 또는 송신 중에 송신 손실이나 기타 데이터 손실이 발생하지 않는다고 가정). 손실 비디오 코딩의 경우, 비디오 영상을 표현하는 데이터의 양을 줄이기 위해, 추가 압축이, 예컨대 양자화에 의해, 수행되어, 그 비디오 영상은 디코더에서 완전하게 재구축될 수 없다, 즉 재구축된 비디오 영상의 품질이 원본 비디오 영상의 품질에 비해 낮거나 나쁘다.
몇몇 비디오 코딩 표준은 "손실 하이브리드 비디오 코덱" 그룹에 속한다(즉, 변환 도메인에서 양자화를 적용하기 위해 샘플 도메인의 공간 및 시간 예측과 2D 변환 코딩을 결합). 비디오 시퀀스의 영상 각각은 보통 중첩되지 않는(non-overlapping) 블록의 세트로 분할되고, 코딩은 보통 블록 레벨에서 수행된다. 다시 말해, 인코더에서 비디오는 정형적으로 블록(비디오 블록) 레벨에서 처리, 즉 인코딩되는데, 예컨대, 공간(인트라 영상) 예측 및/또는 시간(인터 영상) 예측을 사용하여 예측 블록을 생성하고, 현재 블록(현재 처리/처리될 블록)에서 예측 블록을 감산하여 잔차 블록을 획득하고, 변환 영역에서 잔차 블록을 변환 및 양자화하여 송신될 될 데이터의 양을 감소시키는(압축) 반면, 디코더에서는
인코더와는 반대의 처리가 인코딩되거나 압축된 블록에 적용되어 표현을 위해 현재 블록을 재구축한다. 또한, 인코더는 디코더 처리 루프를 복제하여 둘 모두가 후속 블록을 처리, 즉 코딩하기 위해 동일한 예측(예: 인트라 예측 및 인터 예측) 및/또는 재구축 생성할 것이다.
비디오 코딩 시스템(10)의 이하의 실시예에서, 비디오 인코더(20) 및 비디오 디코더(30)는 도 1a ∼ 도 3에 기초하여 설명된다.
도 1a는 본 출원의 기술을 활용할 수 있는 예시적인 코딩 시스템(10), 예컨대 비디오 코딩 시스템(10)(또는 약칭하여 코딩 시스템(10)을 나타낸 개략 블록도이다. 비디오 코딩 시스템(10)의 비디오 인코더(20)(또는 약칭하여 인코더(20)) 및 비디오 디코더(30)(또는 약칭하여 디코더(30))는 본 출원에서 기술된 다양한 예에 따른 기술을 수행하도록 구성될 수 있는 장치의 예를 나타낸다.
도 1a에 도시된 바와 같이, 코딩 시스템(10)은, 예컨대 인코딩된 영상 데이터(13)를 디코딩하기 위한 목적지 기기(14)에, 인코딩된 영상 데이터(21)를 제공하도록 구성된 근원지 기기(12)를 포함한다. 근원지 기기(12)는 인코더(20)를 포함하고, 추가로, 즉 선택적으로, 예를 들어 영상 소스(16), 전처리기(또는 전처리 유닛)(18)(예: 영상 전처리기(18)) 및 통신 인터페이스 또는 통신 유닛(22)을 포함할 수 있다.
영상 소스(16)는 임의의 종류의 영상 캡처 기기, 예를 들어 실 세계의 영상을 캡처하기 위한 카메라, 및/또는 임의의 종류의 영상 생성 기기, 예를 들어 컴퓨터로 애니메이션화된 영상을 생성하기 위한 컴퓨터 그래픽 프로세서, 또는 실 세계 영상, 컴퓨터로 생성된 영상(예: 화면 콘텐츠, 가상 현실(virtual reality, VR) 영상) 및/또는 이들의 조합(예: 증강 현실(예: 증강 현실(augmented reality, AR) 영상)을 획득 및/또는 제공하기 위한 다른 모든 종류의 기기이거나, 이러한 기기를 포함할 수 있다. 영상 소스는 전술한 영상 중 임의의 것을 저장하는 임의의 종류의 메모리 또는 저장장치일 수 있다.
전처리기(18)와 전처리 유닛(18)에 의해 수행되는 처리와 구별하여, 영상 또는 영상 데이터(17)는 또한 원시(row) 영상 또는 원시 영상 데이터(17)라고 할 수 있다.
전처리기(18)는 (원시) 영상 데이터(17)를 수신하고 그 영상 데이터(17)에 대해 전처리를 수행하여 전처리된 영상(19) 또는 전처리된 영상 데이터(19)를 획득하도록 구성될 수 있다. 전처리기(18)에 의해 수행되는 전처리는 예컨대, 트리밍(trimming), 색 포맷 변환(예: RGB에서 YCbCr로), 색 보정(color correction) 또는 노이즈 제거를 포함할 수 있다. 전처리 유닛(18)이 선택적 구성요소일 수 있음을 이해할 수 있다.
비디오 인코더(20)는 전처리된 영상 데이터(19)를 수신하고 인코딩된 영상 데이터(21)를 제공하도록 구성될 수 있다(더 자세한 사항은 예컨대, 도 2에 기초하여 아래에서 설명될 것이다).
근원지 기기(12)의 통신 인터페이스(22)는 인코딩된 영상 데이터(21)를 수신하고, 저장 또는 직접 재구축을 위해, 인코딩된 영상 데이터(21)(또는 그것의 임의의 추가 처리된 버전)를 통신 채널(13)을 통해 다른 기기, 예컨대 목적지 기기(14) 또는 임의의 다른 기기에 송신하도록 구성될 수 있다.
목적지 기기(14)는 디코더(30)(예: 비디오 디코더(30))를 포함하고, 추가로, 즉 선택적으로 통신 인터페이스 또는 통신 유닛(28), 후처리기(32)(또는 후처리 유닛(32)) 및 디스플레이 기기(34)를 포함할 수 있다.
목적지 기기(14)의 통신 인터페이스(28)는, 예컨대 근원지 기기(12)로부터 직접 또는 다른 소스, 예컨대 인코딩된 영상 데이터 저장 기기와 같은 저장 기기로부터, 인코딩된 영상 데이터(21)(또는 그 임의의 추가 처리된 버전)를 수신하고, 인코딩된 영상 데이터(21)를 디코더(30)에 제공하도록 구성될 수 있다.
통신 인터페이스(22) 및 통신 인터페이스(28)는 근원지 기기(12)와 목적지 기기(14) 사이의 직접 통신 링크(예: 직접 유선 또는 무선 연결)를 통해, 또는 임의의 종류의 네트워크(예: 유선 또는 무선 네트워크 또는 이들의 임의의 조합, 또는 임의의 종류의 사설 및 공용 네트워크, 또는 이들의 임의의 종류의 조합)를 통해 인코딩된 영상 데이터(21) 또는 인코딩된 데이터(13)를 송신 또는 수신하도록 구성될 수 있다.
통신 인터페이스(22)는 인코딩된 영상 데이터(21)를 적절한 포맷(예: 패킷)으로 패키징하고/하거나 통신 링크 또는 통신 네트워크를 통한 송신을 위해 임의의 종류의 송신 인코딩 또는 처리를 사용하여 인코딩된 영상 데이터를 처리한다.
통신 인터페이스(22)의 대응하는 짝을 형성하는 통신 인터페이스(28)는 송신된 데이터를 수신하고 임의의 종류의 대응하는 송신 디코딩 또는 처리 및/또는 패키징 해제(de-packaging)를 사용하여 송신 데이터를 처리하여 인코딩된 영상 데이터(21)를 획득하도록 구성될 수 있다.
통신 인터페이스(22) 및 통신 인터페이스(28) 모두는 근원지 기기(12)에서 목적지 기기(14)를 가리키는 도 1a의 통신 채널(13)에 대한 화살표로 지시된 바와 같이 단방향 통신 인터페이스로서, 또는 양방향 통신 인터페이스로서 구성될 수 있고, 메시지를 전송 및 수신하도록 구성될 수 있으며, 예컨대 연결을 설정하고, 인코딩된 영상 데이터 송신과 같은, 통신 링크 및/또는 데이터 송신과 관련된 임의의 다른 정보의 확인응답 및 교환을 하도록 구성될 수 있다.
디코더(30)는 인코딩된 영상 데이터(21)를 수신하고 디코딩된 영상 데이터(31) 또는 디코딩된 영상(31)을 제공하도록 구성될 수 있다(더 자세한 사항은 예컨대, 도 3 또는 도 5에 기초하여 아래에 설명될 것임).
목적지 기기(14)의 후처리기(32)는 디코딩된 영상 데이터(31)(재구축된 영상 데이터라고도 함), 예컨대 디코딩된 영상(31)을 후처리하여, 후처리된 영상(33)과 같은 후처리된 영상 데이터(33)를 획득하도록 구성될 수 있다. 후처리 유닛(32)에 의해 수행되는 후처리는 색 포맷 변환(예: YCbCr에서 RGB로), 색 보정, 트리밍 또는 재샘플링 또는 예컨대 디스플레이 기기(34)에 의한 표시를 위해 디코딩된 영상 데이터(31)를 준비하기 위한 기타 처리 중 어느 하나 이상을 포함할 수 있다.
목적지 기기(14)의 디스플레이 기기(34)는, 예컨대 사용자 또는 시청자에게, 영상을 표시하기 위해 후처리된 영상 데이터(33)를 수신하도록 구성될 수 있다. 디스플레이 기기(34)는 통합형 또는 외부 디스플레이 또는 모니터와 같은, 재구축된 영상을 표현하기 위한 임의의 종류의 디스플레이이거나 이를 포함할 수 있다.
디스플레이는 액정 디스플레이(liquid crystal display, LCD), 유기 발광 다이오드(organic light emitting diode, OLED) 디스플레이, 플라즈마 디스플레이, 프로젝터, 마이크로 LED 디스플레이, LCoS(Liquid Crystal on Silicon), 디지털 광 프로세서(digital light processor, DLP), 또는 다른 모든 종류의 디스플레이일 수 있다.
도 1a는 근원지 기기(12) 및 목적지 기기(14)를 별개의 기기로 도시하고 있지만, 기기의 실시예는 또한 두 기기 또는 두 기능 모두, 즉 근원지 기기(12) 또는 대응하는 기능과 목적지 기기(14) 또는 대응하는 기능을 포함할 수 있다. 이러한 실시예에서, 근원지 기기(12) 또는 대응하는 기능 및 목적지 기기(14) 또는 대응하는 기능은 동일한 하드웨어 및/또는 소프트웨어를 사용하거나 별개의 하드웨어 및/또는 소프트웨어 또는 이들의 임의의 조합에 의해 구현될 수 있다.
설명에 기초하여 당업자에게 명백한 것처럼, 도 1a에 도시된 바와 같이 근원지 기기(12) 및/또는 목적지 기기(14) 내에서 기능 또는 상이한 유닛의 기능의 존재 및(정확한) 분할(쪼갬)은 실제 기기 및 애플리케이션에 따라 달라질 수 있다.
인코더(20)(예: 비디오 인코더(20)) 또는 디코더(30)(예: 비디오 디코더(30)) 또는 이 둘, 인코더(20) 및 디코더(30)는 하나 이상의 마이크로프로세서, 디지털 신호 처리기(digital signal processor, DSP), 주문형 집적 회로(application-specific integrated circuit, ASIC), 필드 프로그래머블 게이트 어레이(field-programmable gate array, FPGA), 개별 로직, 하드웨어, 비디오 코딩 전용 또는 이들의 조합과 같은, 도 1b에 도시된 바와 같은 처리 회로를 통해 구현될 수 있다. 인코더(20)는 도 2의 인코더(20) 및/또는 여기에 기술된 임의의 다른 인코더 시스템 또는 서브시스템과 관련하여 논의된 바와 같이 다양한 모듈을 구현하는 처리 회로(46)를 통해 구현될 수 있다. 디코더(30)는 도 3의 디코더(30) 및/또는 여기에 기술된 임의의 다른 인코더 시스템 또는 서브시스템과 관련하여 논의된 바와 같이 다양한 모듈을 구현하는 처리 회로(46)를 통해 구현될 수 있다. 처리 회로는 후술하는 바와 같이 다양한 동작을 수행하도록 구성될 수 있다.
도 5에 도시된 바와 같이, 기술이 소프트웨어로 부분적으로 구현되면, 기기는 소프트웨어용 명령어를 적합한 컴퓨터로 판독 가능한 비일시적인 저장 매체에 저장할 수 있고 하나 이상의 프로세서를 사용하여 하드웨어에서 그 명령어를 실행하여 본 개시의 기술을 수행할 수 있다. 비디오 인코더(20) 및 비디오 디코더(30)는 예를 들어, 도 1b에 도시된 바와 같이, 단일 기기에 결합형 인코더/디코더(combined encoder/decoder, CODEC)의 일부로서 통합될 수 있다.
도 1b에 도시된 비디오 코딩 시스템(40)은 비디오 인코더(20) 및 비디오 디코더(30) 모두를 구현하는 처리 회로를 포함한다. 또한, 실세계 영상을 캡처하기 위한 카메라와 같은 하나 이상의 이미징 기기(41), 안테나(42), 하나 이상의 메모리 저장장치(44), 하나 이상의 프로세서(43) 및/또는 위에서 설명한 디스플레이 기기(34)와 같은 디스플레이 기기(45)가 비디오 코딩 시스템(40)의 일부로서 제공될 수 있다.
근원지 기기(12) 및 목적지 기기(14)는 임의의 종류의 핸드헬드형 또는 고정형(handheld or stationary) 기기, 예컨대, 노트북 또는 랩톱 컴퓨터, 이동 전화, 스마트폰, 태블릿 또는 태블릿 컴퓨터, 카메라, 데스크톱 컴퓨터, 셋톱 박스, 텔레비전, 디스플레이 기기, 디지털 미디어 플레이어, 비디오 게임 콘솔, 비디오 스트리밍 기기(예: 콘텐츠 서비스 서버 또는 콘텐츠 전송 서버), 방송 수신기 기기, 방송 송신기 기기 등을 포함한, 임의의 광범위한 기기를 포함할 수 있으며, 운영 체제를 사용하지 않거나 임의의 유형의 운영 체제를 사용할 수 있다. 경우에 따라서는, 근원지 기기(12) 및 목적지 기기(14)는 무선 통신을 위해 장착될 수 있다. 따라서, 근원지 기기(12) 및 목적지 기기(14)는 무선 통신 장치일 수 있다.
경우에 따라서는, 도 1a에 나타낸 비디오 코딩 시스템(10)은 단지 예일 뿐이며, 본 출원의 기술은 인코딩 기기와 디코딩 기기 사이에 데이터 통신을 반드시 포함하지는 않는 비디오 코딩 시스템(예: 비디오 인코딩 또는 비디오 디코딩)에 적용될 수 있다. 다른 예에서 데이터는 로컬 메모리에서 검색되거나 네트워크 통해 스트리밍되거나 한다. 비디오 인코딩 기기는 데이터를 인코딩하고 메모리에 저장할 수 있고/있거나, 비디오 디코딩 기기는 메모리로부터 데이터를 검색하고 디코딩할 수 있다. 일부 예에서, 인코딩과 디코딩은 서로 통신하지 않고 단순히 데이터를 메모리에 인코딩하고/하거나 메모리로부터 데이터를 검색 및 디코딩하는 기기에 의해 수행된다.
설명의 편의를 위해, 본 발명의 실시예는 여기서, 예를 들어, HEVC(High-Efficiency Video Coding)를 참조하거나 ITU-T VCEG(Video Coding Experts Group) 및 ISO/IEC MPEG(Motion Picture Experts Group)의 JCT-VC(Joint Collaboration Team on Video Coding)에 의해 개발된 차세대 비디오 코딩 표준, VVC(Versatile Video Coding)의 참조 소프트웨어를 참조하여 설명된다. 당업자는 본 발명의 실시예가 HEVC 또는 VVC로 한정되지 않음을 이해할 것이다.
인코더 및 인코딩 방법
도 2는 본 출원의 기술을 구현하도록 구성된 예시적인 비디오 인코더(20)의 개략 블록도를 도시한다. 도 2의 예에서, 비디오 인코더(20)는 입력(201)(또는 입력 인터페이스(201)), 잔차 계산 유닛(204), 변환 처리 유닛(206), 양자화 유닛(208), 역양자화 유닛(210) 및 역 변환 처리 유닛(212), 재구축 유닛(214), (라인) 버퍼(216), 루프 필터 유닛(220), 디코딩된 영성 버퍼(decoded picture buffer, DPB)(230), 모드 선택 유닛(260), 엔트로피 인코딩 유닛(270) 및 출력(272)(또는 출력 인터페이스(272))를 포함한다. 모드 선택 유닛(260)은 인터 예측 유닛(244), 인트라 예측 유닛(254) 및 분할 유닛(262)을 포함할 수 있다. 인터 예측 유닛(244)은 움직임 추정 유닛 및 움직임 보상 유닛(미도시)를 포함할 수 있다. 도 2에 도시된 비디오 인코더(20)는 또한 하이브리드 비디오 인코더 또는 하이브리드 비디오 코덱에 따른 비디오 인코더로도 지칭될 수 있다.
잔차 계산 유닛(204), 변환 처리 유닛(206), 양자화 유닛(208) 및 모드 선택 유닛(260)은 인코더(20)의 순방향 신호 경로(forward signal path)를 형성하는 것으로 지칭될 수 있는 반면, 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구축 유닛(214), (라인) 버퍼(216), 루프 필터(220), 디코딩된 영상 버퍼(DPB)(230), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)은 역방향 신호 경로(backward signal path)를 형성하는 것으로 지칭될 수 있으며, 여기서 비디오 인코더(20)의 역방향 신호 경로는 디코더의 신호 경로에 대응한다(도 3의 비디오 디코더(30) 참조). 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구축 유닛(214), 루프 필터(220), 디코딩된 영상 영상 버퍼(DPB)(230), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)은 또한 비디오 인코더 20의 "내장 디코더"를 형성하는 것으로 지칭된다.
영상 & 영상 분할(영상 및 블록)
인코더(20)는 예컨대, 입력(201)을 통해 영상(17)(또는 영상 데이터(17)), 예컨대 비디오 또는 비디오 시퀀스를 형성하는 일련의 영상 중의 영상을 수신하도록 구성될 수 있다. 수신된 영상 또는 영상 데이터는 또한 전처리된 영상(19)(또는 전처리된 영상 데이터(19))일 수 있다. 단순화를 위해, 이하에서의 설명은 영상(17)을 참조한다. 영상(17)은 또한 현재 영상 또는 코딩될 영상으로 지칭될 수 있다(특히, 비디오 코딩에서, 현재 영상을 다른 영상, 예컨대 동일한 비디오 시퀀스, 즉 현재 영상도 포함하는 비디오 시퀀스의 이전에 인코딩된 및/또는 디코딩된 영상과 구별하기 위함).
(디지털) 영상은 강도 값을 갖는 샘플의 이차원 배열 또는 행렬이거나 이것으로서 간주될 수 있다. 배열 내의의 샘플은 또한 화소(pixel)(영상 요소의 줄임 형식) 또는 펠(pel)이라고 지칭될 수 있다. 배열 또는 영상의 수평 및 수직 방향(또는 축)의 샘플 수는 영상의 크기 및/또는 해상도를 정의한다. 색의 표현을 위해, 보통 세 가지 색 성분이 사용된다. 즉, 영상은 세 개의 샘플 배열로 표현되거나 이를 포함할 수 있다. RBG 포맷 또는 색 공간에서, 영상은 대응하는 적색, 녹색 및 청색 샘플 배열을 포함한다. 그러나 비디오 코딩에서, 각각의 화소는 보통 루미넌스(luminance) 및 크로미넌스(chrominance) 포맷 또는 색 공간, 예컨대 Y로 지시된 휘도 성분(때때로 L이 대신 사용됨)과 Cb 및 Cr로 지시된 두 가지 크로미넌스 성분을 포함하는 YCbCr로 표현된다. 루미넌스(또는 약칭하여 루마) 성분 Y는 밝기 또는 그레이 레벨 강도(예: 그레이스케일 영상에서와 같이)를 나타내는 반면, 두 가지 크로미넌스(또는 약칭하여 크로마) 성분 Cb 및 Cr은 색도(chromaticity) 또는 색 정보 성분을 나타낸다. 따라서, YCbCr 포맷의 영상은 루미넌스 샘플 값(Y)의 루미넌스 샘플 배열와 크로미넌스 값(Cb 및 Cr)의 두 크로미넌스 샘플 배열로 구성된다. RGB 형식의 영상이 YCbCr 포맷으로 변환될 수 있거나(converted or transformed) 그 반대의 경우도 마찬가지이다. 이 프로세스는 색 변환(color transformation or conversion)으로도 알려져 있다. 영상이 모노크롬이면, 영상은 루미넌스 샘플 배열만 포함할 수 있다. 따라서, 영상은, 예를 들어 모노크롬 포맷의 루마 샘플의 배열 또는 루마 샘플 배열와 4:2:0, 4:2:2 및 4:4:4 색 포맷의 두 개의 대응하는 크로마 샘플의 배열일 수 있다.
비디오 인코더(20)의 실시예는 영상(17)을 복수의 (보통 중첩되지 않는) 영상 블록(203)으로 분할하도록 구성된 영상 분할 유닛(도 2에 도시되지 않음)을 포함할 수 있다. 이러한 블록은 또한 루트 블록(root block), 매크로 블록(H.264/AVC) 또는 코딩 트리 블록(coding tree block, CTB) 또는 코딩 트리 유닛(coding tree unit, CTU)(H.265/HEVC 및 VVC에 따름)으로 지칭될 수 있다. 영상 분할 유닛은 비디오 시퀀스의 모든 영상에 대해 동일한 블록 크기 및 블록 크기를 정의하는 대응하는 그리드를 사용하거나, 영상 또는 서브세트 또는 영상 그룹 사이의 블록 크기를 변경하고, 각각의 영상을 해당 블록으로 분할하도록 구성될 있다.
추가 실시예에서, 비디오 인코더는 예를 들어, 영상(17)의 블록(203), 예컨대 영상(17)을 형성하는 하나, 수 개 또는 모든 블록을 직접 수신하도록 구성될 수 있다. 영상 블록(203)은 또한 현재 영상 블록 또는 코딩될 영상 블록으로 지칭될 수 있다.
영상(17)처럼, 영상 블록(203)은 영상(17)보다 작은 차원이지만, 강도 값(샘플 값)을 갖는 샘플의 이차원 배열 또는 행렬이거나 그것으로 간주될 수 있다. 다시 말해, 블록(203)은 예컨대, 하나의 샘플 배열(예: 모노크롬 영상(17)의 경우 루마 배열, 컬러 영상의 경우 루마 또는 크로마 배열) 또는 세 개의 샘플 배열(예: 컬러 영상(17)의 경우 루마 및 두 개의 크로마 배열) 또는 적용된 색상 포맷에 따라 임의의 다른 수 및/또는 종류의 배열을 포함할 수 있다. 블록(203)의 수평 및 수직 방향(또는 축)의 샘플 수는 블록(203)의 크기를 정의한다. 따라서, 블록은 예를 들어, 샘플의 MxN(M개 열 x N개 행) 배열, 또는 변환 계수의 MxN 배열을 포함할 수 있다.
도 2에 도시된 비디오 인코더(20)의 실시예는 블록 단위로 영상(17)을 인코딩하도록 구성될 수 있으며, 예컨대 인코딩 및 예측은 블록(203)마다 수행된다.
도 2에 도시된 비디오 인코더(20)의 실시예는 추가로, 슬라이스(비디오 슬라이스라고도 지칭됨)를 사용하여 영상을 분할 및/또는 인코딩하도록 구성될 수 있으며, 여기서 영상은 하나 이상의 슬라이스로 분할되거나 하나 이상의 슬라이스(보통 중첩되지 않음)를 사용하여 인코딩될 수 있고, 각각의 슬라이스는 하나 이상의 블록(예: CTU)을 포함할 수 있다.
도 2에 도시된 비디오 인코더(20)의 실시예는 추가로, 타일 그룹(비디오 타일 그룹이라고도 지칭됨) 및/또는 타일(비디오 타일이라고도 지칭됨)을 사용하여 영상을 분할 및/또는 인코딩하도록 구성될 수 있으며, 여기서 영상은 하나 이상의 타일 그룹(보통 중첩되지 않음)을 사용하여 분할되거나 인코딩될 수 있으며, 각각의 타일 그룹은 하나 이상의 블록(예: CTU) 또는 하나 이상의 타일을 포함할 수 있으며, 여기서 각각의 타일은 직사각 형상일 수 있고 하나 이상의 블록(예: CTU), 예컨대 완전한 블록 또는 부분 블록을 포함할 수 있다.
잔차 계산
잔차 계산 유닛(204)은 영상 블록(203) 및 예측 블록(265)(예측 블록(265)에 대한 더 자세한 사항은 나중에 제공됨)에 기초하여, 잔차 블록(205)(잔차(205)라고도 함)을 계산하도록 구성될 수 있다, 예컨대, 영상 블록(203)의 샘플 값에서 예측 블록(265)의 샘플 값을 감산함으로써 샘플 영역에서 샘플 단위(화소 단위)로 잔차 블록(205)을 획득한다.
변환
변환 처리 유닛(206)은 잔차 블록(205)의 샘플 값에 대해, 이산 코사인 변환(a discrete cosine transform, DCT) 또는 이산 사인 변환(discrete sine transform, DST)과 같은 변환을 적용하여 변환 영역에서 변환 계수(207)를 획득하도록 구성될 수 있다. 변환 계수(207)는 또한 변환 잔차 계수로도 지칭될 수 있고 변환 영역에서 잔차 블록(205)을 나타낼 수 있다.
변환 처리 유닛(206)은 H.265/HEVC에 대해 지정된 변환과 같은, DCT/DST의 정수 근사(integer approximation)를 적용하도록 구성될 수 있다. 직교 DCT 변환과 비교할 때, 이러한 정수 근사는 보통 특정 인자에 의해 스케일링된다. 순 변환 및 역 변환에 의해 처리되는 잔차 블록의 기준(norm)을 보존하기 위해, 추가의 스케일링 인자(scaling factor)가 변환 프로세스의 일부로서 적용된다. 스케일링 인자는 보통 시프트 연산(shift operation)에 대한 2의 거듭제곱인 스케일링 인자, 변환 계수의 비트 심도(bit depth), 정확도와 구현 비용 간의 균형(tradeoff) 등과 같은 특정 제약 조건에 기초하여 선택된다. 특정 스케일링 인자는, 예를 들어, 역 변환에 대해, 예컨대, 역 변환 처리 유닛(212)에 의해 (및 예컨대, 비디오 디코더(30)의 역 변환 처리 유닛(312)에 의해) 지정되고, 순방향 변환에 대해 대응하는 스케일링 인자는 예컨대, 인코더(20)에서, 변환 처리 유닛(206)에 의해, 그에 따라 지정될 수 있다.
비디오 인코더(20)(각각, 변환 처리 유닛(206))의 실시예는, 예컨대 비디오 디코더(30)가 디코딩을 위해 변환 파라미터를 수신하고 사용할 수 있도록, 변환 파라미터를, 예컨대 변환 또는 변환들의 유형을, 예컨대 엔트로피 인코딩 유닛(270)을 통해 직접 또는 인코딩되거나 압축된 것을 출력하도록 구성될 수 있다.
양자화
양자화 유닛(208)은, 예컨대, 스칼라 양자화 또는 벡터 양자화를 적용함으로써, 변환 계수(207)를 양자화하여 양자화된 계수(209)를 획득하도록 구성될 수 있다. 양자화된 계수(209)는 또한 양자화된 변환 계수(209) 또는 양자화된 잔차 계수(209)로 지칭될 수 있다.
양자화 프로세스는 변환 계수(207)의 일부 또는 전부와 연관된 비트 심도를 줄일 줄일 수 있다. 예를 들어, n 비트의 변환 계수는 양자화 동안에 m 비트의 변환 계수로 내림(rounded down)될 수 있으며, 여기서 n은 m보다 크다. 양자화의 정도는 양자화 파라미터(quantization parameter, QP)를 조정함으로써 수정될 수 있다. 예를 들어, 스칼라 양자화의 경우, 더 미세하거나 더 거친 양자화를 달성하기 위해 다른 스케일링이 적용될 수 있다. 양자화 스텝 크기 작을수록 더 미세한 양자화에 대응하는 반면, 양자화 스텝 크기가 클수록 더 거친 양자화에 대응한다.
적용 가능한 양자화 스텝 크기는 양자화 파라미터(QP)에 의해 지시될 수 있다. 양자화 파라미터는, 예를 들어, 적용 가능한 양자화 스텝 크기의 미리 정의된 세트의 인덱스일 수 있다. 예를 들어, 작은 양자화 파라미터는 미세한 양자화(작은 양자화 스텝 크기)에 대응할 수 있고 큰 양자화 파라미터는 거친 양자화(큰 양자화 스텝 크기)에 대응할 수 있거나 그 반대도 마찬가지이다. 양자화는 양자화 스텝 크기 및 대응하는 것(corresponding) 및/또는 역 역 양자화(inverse dequantization)에 의한, 예컨대 역 양자화 유닛(210)에 의한 분할을 포함할 수 있고, 양자화 스텝 크기에 의한 승산을 포함할 수 있다. 일부 표준에 따른 실시예, 예컨대, HEVC는 양자화 파라미터를 사용하여양자화 스텝 크기를 결정하도록 구성될 수 있다. 일반적으로, 양자화 스텝 크기는 나눗셈을 포함하는 방정식의 고정 소수점 근사를 사용하여 양자화 파라미터에 기초하여 계산될 수 있다. 잔차 블록의 기준을 복원하기 위해 양자화 및 역 양자화에 추가 스케일링 인자가 도입될 수 있으며, 이는 양자화 스텝 크기 및 양자화 파라미터에 대한 방정식의 고정 소수점 근사에 사용되는 스케일링으로 인해 수정될 수 있다. 하나의 예시적인 구현에서, 역 변환과 역 양자화의 스케일링이 결합될 수 있다. 대안으로, 맞춤형 양자화 표(customized quantization table)가 사용되어 인코더에서 디코더로, 예컨대, 비트스트림으로, 시그널링될 수 있다. 양자화는 손실 연산이며, 여기서 손실은 양자화 스텝 크기가 증가함에 따라 증가한다.
비디오 인코더(20)(각각, 양자화 유닛(208))의 실시예는 양자화 파라미터(QP), 예컨대, 직접 또는 엔트로피 인코딩 유닛(270)을 통해 인코딩된 것을 출력하도록 구성되어, 예컨대, 비디오 디코더(30)가 디코딩을 위해 양자화 파라미터를 수신하고 적용할 수 있도록 한다,
역 양자화
역 양자화 유닛(210)은 양자화된 계수에 대해 양자화 유닛(208)의 역 양자화를 적용하여, 예컨대, 양자화 유닛(208)과 동일한 양자화 스텝 크기에 기초하거나 이를 사용하여 양자화 유닛(208)에 의해 적용된 양자화 방식의 역을 적용하여, 역 양자화된 계수(211)를 획득하도록 구성된다.
역 양자화된 계수(211)는 또한 역 양자화된 잔차 계수(211)라고도 지칭될 수 있고 - 보통 양자화에 의한 손실로 인해 변환 계수와 동일하지 않지만 - 변환 계수(207)에 대응한다.
역 변환
역 변환 처리 유닛(212)은 변리 유닛(206)에 의해 적용된 변환의 역 변환, 예컨대, 역 코사인 변환(DCT) 또는 역 이산 사인 변환(DST) 또는 다른 역 변환을 적용하여,
샘플 영역에서 재구축된 잔차 블록(213)(또는 대응하는 역 양자화된 계수(213))을 획득하도록 구성된다. 재구축된 잔차 블록(213)은 또한 변환 블록(213)으로 지칭될 수 있다.
재구축
재구축 유닛(214)(예: 가산기 또는 합산기(214))은 변환 블록(213)(즉, 재구축된 잔차 블록(213))을 예측 블록(265)에 더하여, 예컨대 재구축된 잔차 블록(213)의 샘플 값과 예측 블록(265)의 샘플 값을 - 샘플 단위로 - 더하여, 샘플 영역에서 재구축된 블록(215)을 획득하도록 구성된다.
필터링
루프 필터 유닛(220)(또는 약칭하여 "루프 필터"(220))는 재구축된 블록(215)을 필터링하여 필터링된 블록(221)을 획득하거나, 일반적으로, 재구축된 샘플을 필터링하여 필터링된 샘플을 획득하도록 구성된다. 루프 필터 유닛은 화소 전이(pixel transition)를 매끄럽게 하거나, 아니면 비디오 품질을 향상시키도록 구성될 수 있다. 루프 필터 유닛(220)은 디블로킹 필터(de-blocking filter), 샘플 적응형 오프셋(sample-adaptive offset, SAO) 필터, 또는 양방향 필터(bilateral filter), 적응형 루프 필터(adaptive loop filter, ALF), 샤프닝(sharpening), 스무딩 필터(smoothing filter) 또는 협업 필터(collaborative filter), 또는 이들의 임의의 조합과 같은 하나 이상의 다른 필터와 같은, 하나 이상의 루프 필터를 를 포함할 수 있다. 루프 필터 유닛(220)이 도 2에서 인루프 필터(in-loop filter)인 것으로 도시되어 있지만, 다른 구성에서, 루프 필터 유닛(220)은 포스트 루프 필터(post loop filter)로서 구현될 수 있다. 필터링된 블록(221)은 또한 필터링된 재구축된 블록(221)으로 지칭될 수 있다.
비디오 인코더(20)(각각, 루프 필터 유닛(220))의 실시예는 루프 필터 파라미터(예: 샘플 적응형 오프셋 정보)를, 예컨대, 직접 또는 엔트로피 인코딩 유닛(270)을 통해 인코딩된 것을 출력하도록 구성될 수 있으므로, 예컨대, 디코더(30)는 디코딩을 위해 동일한 루프 필터 파라미터 또는 각각의 루프 필터를 수신하고 적용할 수 있다.
디코딩된 영상 버퍼
디코딩된 영상 버퍼(DPB)(230)는 비디오 인코더(20)에 의해 비디오 데이터를 인코딩하기 위한, 참조 영상 또는 일반적으로 참조 영상 데이터를 저장하는 메모리일 수 있다. DPB(230)는 동기식 DRAM(synchronous DRAM, SDRAM), 자기 저항성 RAM(magnetoresistive RAM, MRAM), 저항성 RAM(resistive RAM, RRAM) 또는 기타 유형의 메모리 소자를 포함한, 동적 랜덤 액세스 메모리(DRAM)와 같은, 임의의 다양한 메모리 소자로 형성될 수 있다. 디코딩된 영상 버퍼(DPB)(230)는 하나 이상의 필터링된 블록(221)을 저장하도록 구성될 수 있다. 디코딩된 영상 버퍼(230)는 추가로, 이전에 필터링된 다른 블록, 예컨대, 동일한 현재 영상 또는 상이한 영상의 이전에 재구축되고 필터링된 블록(221), 예컨대 이전에 재구축된 영상을 저장하도록 구성될 수 있으며, 예를 들어 인터 예측을 위해, 이전에 재구축된, 즉 디코딩된 완전한 영상 (및 대응하는 참조 블록 및 샘플) 및/또는 부분적으로 재구축된 현재 영상 (및 대응하는 참조 블록 및 샘플)을 제공할 수 있다. 디코딩된 영상 버퍼(DPB)(230)는 또한 하나 이상의 필터링되지 않은 재구축된 블록(215), 또는 예컨대 재구축된 블록(215)이 루프 필터 유닛(220)에 의해 필터링되지 않으면, 일반적으로 필터링되지 않은 재구축된 샘플, 또는 재구축된 블록 또는 샘플의 다른 추가 처리된 버전을 저장하도록 구성될 수 있다.
모드 선택(파티션 및 예측)
모드 선택 유닛(260)은 분할 유닛(262), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)을 포함하고, 원본 블록(203)(현재 영상(17)의 현재 블록(203))과 같은 원본 영상 데이터, 및 동일한(현재) 영상의 및/또는 하나 또는 복수의 이전에 디코딩된 영상으로부터, 예컨대 디코딩된 영상 버퍼(230) 또는 다른 버퍼(예: 라인 버퍼(216))로부터의 필터링된 및/또는 필터링되지 않은 재구축된 샘플 또는 블록과 같은, 재구축된 영상 데이터를 수신하거나 획득하도록 구성된다. 재구축된 영상 데이터는 예측 블록(265) 또는 예측자(predictor)(265)를 획득하기 위해, 예측, 예컨대, 인터 예측 또는 인트라 예측을 위한 참조 영상 데이터로서 사용된다. 특히, 라인 버퍼(216)로부터의 참조 샘플(217)은 인트라 예측 유닛(254)에 의해 사용될 수 있다.
모드 선택 유닛(260)은 현재 블록 예측 모드(분할 없음 포함) 및 예측 모드(예: 인트라 예측 모드 또는 인터 예측 모드)에 대한 분할을 결정하거나 선택하고, 잔차 블록(205)의 계산 및 재구축된 블록(215)의 재구축에 사용되는 대응하는 예측 블록(265)을 생성하도록 구성될 수 있다.
모드 선택 유닛(260)의 실시예는 분할 및 예측 모드(예: 모드 선택 유닛(260)에 의해 지원되거나 사용 가능한 것 중에서)를 선택하도록 구성될 수 있으며, 이는 최선의 매칭 즉, 최소 잔차(최소 잔차는 송신 또는 저장을 위한 더 나은 압축을 의미함), 또는 최소 시그널링 오버헤드(최소 시그널링 오버헤드는 송신 또는 저장을 위한 더 나은 압축을 의미함)을 제공하거나, 또는 둘 다 고려하거나 균형을 잡는다. 모드 선택 유닛(260)은 레이트 왜곡 최적화(rate distortion optimization, RDO)에 기초하여 분할 및 예측 모드를 결정하도록, 즉, 최소 레이트 왜곡을 제공하는 예측 모드를 선택하도록 구성될 수 있다. 이 문맥에서 "최선(best)", "최소(minimum)", "최적(optimum)" 등과 같은 용어는 반드시 전체적인 "최선", "최소", "최적" 등을 지칭하는 것은 아니라, 잠재적으로 "버금 최적 선택(sub-optimum selection)"으로 이어지지만 복잡성과 처리 시간을 감소시키는 임계 값 또는 기타 제약 조건을 초과하거나 밑도는 값과 같은 종료 또는 선택 기준의 충족을 지칭할 수도 있다.
다시 말해, 분할 유닛(262)은 예컨대, 사분 트리 분할(quad-tree-partitioning, QT), 이분 트리 분할(binary-tree partitioning, BT) 또는 삼분 트리 분할(triple-tree-partitioning, TT) 또는 이들의 임의의 조합을 반복적으로 사용하여, 블록(203)을 더 작은 블록 파티션(block partition) 또는 서브블록(다시 블록을 형성함)으로 분할하고, 각각의 블록 파티션 또는 서브블록에 대해 예측을 수행하도록 구성될 수 있으며, 여기서 모드 선택은 분할된 블록(203)의 트리 구조의 선택을 포함하고 예측 모드는 각각의 블록 파티션 또는 서브블록 적용된다.
이하에서는, 예시적인 비디오 인코더(20)에 의해 수행되는 분할(예: 분할 유닛(262)에 의한) 및 예측 처리(인터 예측 유닛(244) 및 인트라 예측 유닛(254)에 의한)를 더 상세히 설명할 것이다.
분할
분할 유닛(262)은 현재 블록(203)을 더 작은 파티션으로, 예컨대 정사각형 또는 직사각형 크기의 더 작은 블록으로 분할할(또는 쪼갤) 수 있다. 이러한 더 작은 블록(서브블록이라고도 함)은 훨씬 더 작은 파티션으로 더 분할될 수 있다. 이를 트리 분할(tree-partitioning) 또는 계층적 트리 분할(hierarchical tree-partitioning)이라고도 하며, 여기서 이들 블록은 루트 블록은, 예컨대 루트 트리 레벨 0(계층 레벨 0, 심도 0)에서 재귀적으로 분할될 수 있다, 예컨대, 다음 하위 트리 레벨의 둘 이상의 블록으로, 예컨대 트리 레벨 1(계층 레벨 1, 심도 1)의 노드로 분할되며, 여기서 이러한 블록은 다시 다음 하위 레벨의 두 개 이상의 블록으로, 예컨대 트리 레벨 2(계층 레벨 2, 심도 2)의 노드로 분할될 수 있는 등, 예컨대 종료 기준이 충족되었기 때문에, 예컨대 최대 트리 심도 또는 최소 블록 크기에 도달되었기 때문에, 분할이 종료될 때까지, 분할될 수 있다. 더 이상 분할되지 않는 블록은 트리의 리프 블록 또는 리프 노드로도 지칭된다.
두 개의 파티션으로의 분할을 사용한 트리를 이분 트리(BT)라고 하고, 세 개의 파티션으로의 분할을 사용한 트리를 삼분 트리(TT)라고 하며, 네 개의 파티션으로 분할하는 트리를 사분 트리(QT)라고 한다.
앞서 언급한 바와 같이, 여기서 사용되는 용어 "블록"은 영상의 일부, 특히 정사각형 또는 직사각형 부분일 수 있다. 예를 들어, HEVC 및 VVC를 참조하면, 블록은 코딩 트리 유닛(coding tree unit, CTU), 코딩 유닛(coding unit, CU), 예측 단위(prediction unit, PU), 또는 변환 유닛(transform unit, TU) 및/또는 대응하는 블록, 예컨대 코딩 트리 블록(coding tree block, CTB), 코딩 블록(coding block, CB), 변환 블록(transform block, TB) 또는 예측 블록(prediction block, PB)이거나, 이에 대응할 수 있다.
예를 들어, 코딩 트리 유닛(CTU)는 루마 샘플의 CTB와 세 개의 샘플 배열을 갖는 영상의 크로마 샘플의 두 개의 대응하는 CTB, 또는 모노크롬 영상 또는 세 개의 개별 색 평면과 샘플을 코딩하는 데 사용된 신택스 구조를 사용하여 코딩되는 영상의 샘플의 CTB이거나 이를 포함할 수 있다. 이에 상응하여, 코딩 트리 블록(CTB)은 성분을 CTB로 나누는 것(division)이 분할(partitioning)이 되도록 N의 일부 값에 대한 샘플의 NxN 블록일 수 있다. 코딩 유닛(CU)는 루마 샘플의 코딩 블록 및 세 개의 샘플 배열을 갖는 영상의 크로마 샘플의 두 개의 대응하는 코딩 블록, 또는 모노크롬 영상 또는 세 개의 개별 색 평면과 샘플을 코딩하는 데 사용된 신택스 구조를 사용하여 코딩되는 영상의 샘플의 코딩 블록이거나 이를 포함할 수 있다. 이에 상응하여, 따라서, 코딩 블록(CB)은 CTB를 코딩 블록으로 나누는 것이 분할이 되도록 M 및 N의 일부 값에 대한 샘플의 MxN 블록일 수 있다.
일부 실시예에서, 예컨대 HEVC에 따르면, 코딩 트리 유닛(CTU)은 코딩 트리로 표시된 사분 트리 구조를 사용하여 CU로 쪼개질 수 있다. 인터 영상(시간적) 또는 인트라 영상(공간적) 예측을 사용하여 영상 영역을 코딩할지는 CU 레벨에서 결정된다. 각각의 CU는 PU 쪼갬 유형(splitting type)에 따라 한 개, 두 개 또는 네 개의 PU로 더 쪼개질 수 있다. 하나의 PU 내부에서는 동일한 예측 프로세스가 적용되고 관련 정보가 PU 단위로 디코더에 송신된다. PU 쪼갬 유형에 기초한 예측 프로세스를 적용하여 잔차 블록을 획득한 후, CU에 대한 코딩 트리와 유사한 다른 사분 트리 구조에 따라 CU를 변환 유닛들(TUs)로 분할할 수 있다.
실시예에서, 예컨대 VVC(Versatile Video Coding)이라고 하는 현재 개발중인 최신 비디오 코딩 표준에 따라, 결합형 사분 트리 및 이분 트리(combined quad-tree and binary-tree, QTBT) 분할이 예를 들어 코딩 블록을 분할하는 데 사용된다. QTBT 블록 구조에서, CU는 정사각형 또는 직사각형 모양을 가질 수 있다. 예를 들어, 코딩 트리 유닛(CTU)은 먼저 사분 트리 구조에 의해 분할된다. 사분 트리 리프 노드는 이분 트리 또는 삼원(ternary)(또는 삼분) 트리 구조로 더 분할된다. 분할 트리 리프 노드를 코딩 유닛(CU)이라고 하며, 그 파티션이 어떤 추가 분할 없이 예측 및 변환 처리에 사용된다. 이는 CU, PU 및 TU가 QTBT 코딩 블록 구조에서 동일한 블록 크기를 가짐을 의미한다. 동시에, 다중 파티션, 예를 들어 삼분 트리 파티션이 QTBT 블록 구조와 함께 사용될 수 있다.
하나의 예로, 비디오 인코더(20)의 모드 선택 유닛(260)은 여기에 기술된 분할 기술의 임의의 조합을 수행하도록 구성될 수 있다.
전술한 바와 같이, 비디오 인코더(20)는 (미리 결정된) 예측 모드의 세트로부터 최선 또는 최적 예측 모드를 결정하거나 선택하도록 구성된다. 예측 모드의 세트는 인트라 예측 모드 및/또는 인터 예측 모드를 포함할 수 있다.
인트라 예측
인트라 예측 모드의 세트는, 예컨대 HEVC에 정의된 바와 같이, DC(또는 평균) 모드 및 평면 모드와 같은 비지향성 모드, 또는 지향성 모드와 같은, 35개의 상이한 인트라 예측 모드를 포함할 수 있거나, 또는 예컨대 VCC에 정의된 바와 같이, DC(또는 평균) 모드 및 평면 모드와 같은 비지향성 모드, 또는 지향성 모드와 같은, 67개의 상이한 인트라 예측 모드를 포함할 수 있다.
인트라 예측 유닛(254)은 인트라 예측 모드 세트 중의 인트라 예측 모드에 따라 동일한 현재 영상의 이웃 블록의 재구축된 샘플을 사용하여 (인트라) 예측 블록(265)을 생성하도록 구성된다.
인트라 예측 유닛(254)(또는 일반적으로 모드 선택 유닛(260))은 추가로, 인트라 예측 파라미터(또는 일반적으로 블록에 대해 선택된 인트라 예측 모드를 지시하는 정보)를 인코딩된 영상 데이터(21)에 포함하기 위한 신택스 요소(266)의 형태로 엔트로피 인코딩 유닛(270)에 출력하도록 추가로 구성될 수 있어, 예컨대, 비디오 디코더(30)는 디코딩을 위해 예측 파라미터를 수신하고 사용할 수 있다.
인터 예측
(또는 가능한) 인터 예측 모드의 세트는 이용 가능한 참조 영상(즉, 예컨대 DBP(230)에 저장된, 이전의, 적어도 부분적으로 디코딩된 영상) 및 다른 인터 예측 파라미터에 따라 달라진다, 예컨대, 전체 참조 영상이든 일부만이든, 예컨대 참조 영상의, 현재 블록의 영역 주위의 검색 윈도 영역이 최선의 매칭 참조 블록을 검색하는 데 사용되는지, 및/또는 예컨대. 하프/세미 펠 및/또는 1/4 펠 보간과 같은, 화소 보간이 적용되는지 여부에 따라 달라진다.
상기한 예측 모드에 더해, 스킵 모드(skip mode) 및/또는 직접 모드(direct mode)가 적용될 수 있다.
인터 예측 유닛(244)은 움직임 추정(motion estimation, ME) 유닛 및 움직임 보상(motion compensation, MC) 유닛(둘 다, 도 2에 도시되지 않음)을 포함할 수 있다. 움직임 추정 유닛은 움직임 추정을 위해, 영상 블록(203)(현재 영상(17)의 현재 영상 블록(203)) 및 디코딩된 영상(231), 또는 하나 또는 복수의 이전에 디코딩된 영상(231)의 재구축된 블록과 같은, 적어도 하나 또는 복수의 이전에 재구축된 블록을 수신하거나 획득하도록 구성될 수 있다. 또는 움직임 추정을 위해 이전에 디코딩된 복수의 영상(231). 예로서, 비디오 시퀀스는 현재 영상 및 이전에 디코딩된 영상(231)을 포함할 수 있고, 환언하면, 현재 영상 및 이전에 디코딩된 영상(231)은 비디오 시퀀스를 형성하는 영상의 시퀀스를 형성하거나 그 일부일 수 있다.
인코더(20)는 이전에 디코딩된 복수의 영상 중 동일하거나 상이한 영상의 복수의 참조 블록으로부터 참조 블록을 선택하고, 참조 영상(또는 참조 영상 색인) 및/또는 참조 블록의 위치(x, y 좌표)와 현재 블록의 위치 사이를 오프셋(공간 오프셋)을 인터 예측 파라미터로서 움직임 추정 유닛에 제공하도록 구성될 수 있다. 이 오프셋은 움직임 벡터(MV)라고도 한다.
움직임 보상 유닛은 인터 예측 파라미터를 획득, 예컨대 수신하고, 인터 예측 파라미터에 기초하거나 이를 사용하여 인터 예측을 수행하여 (인터) 예측 블록(265)을 획득하도록 구성된다. 움직임 보상 유닛에 의해 수행되는 움직임 보상은 움직임 추정에 의해 결정된 움직임/블록 벡터에 기초하여 예측 블록을 예측을 가져 오거나 생성하는 것을 포함할 수 있고, 가능하면 서브 화소 정밀도로 보간을 수행한다. 보간 필터링은 알려진 화소 샘플로부터 추가 화소 샘플을 생성할 수 있으므로, 영상 블록을 코딩하는 데 사용될 수 있는 후보 예측 블록의 수를 잠재적으로 증가시킬 수 있다. 움직임 보상 유닛은 현재 영상 블록의 PU에 대한 움직임 벡터를 수신하면, 참조 영상 리스트 중 하나에서 움직임 벡터가 가리키는 예측 블록의 위치를 찾아낼 수 있다.
움직임 보상 유닛은 또한 비디오 슬라이스의 영상 블록을 디코딩할 때 비디오 디코더(30)에 의한 사용을 위해 블록 및 비디오 슬라이스와 연관된 신택스 요소를 생성할 수 있다. 슬라이스 및 각각의 신택스 요소에 추가로 또는 대안으로, 타일 그룹 및/또는 타일 및 각각의 신택스 요소가 생성되거나 사용될 수 있다.
엔트로피 코딩
엔트로피 인코딩 유닛(270)은 양자화된 계수(209), 인터 예측 파라미터, 인트라 예측 파라미터, 루프 필터 파라미터 및/또는 다른 신택스 요소에 대해, 예를 들어, 엔트로피 인코딩 알고리즘 또는 방식(예: 가변 길이 코딩(variable length coding, VLC) 방식, 컨텍스트 적응형 VLC 방식(context adaptive VLC scheme, CAVLC), 산술 코딩 방식, 이진화, 컨텍스트 적응형 이진 산술 코딩(context adaptive binary arithmetic coding, CABAC), 신택스 기반 컨텍스트 적응형 이진 산술 코딩(syntax-based context-adaptive binary arithmetic coding, SBAC), 확률 구간 분할 엔트로피(probability interval partitioning entropy. PIPE) 코딩 또는 다른 엔트로피 인코딩 방법론 또는 기술) 또는 우회(bypass)(압축 없음)를 적용하여, 출력(272)을 통해, 인코딩된 비트스트림(21)의 형태로 출력될 수 있는 인코딩된 영상 데이터(21)를 획득하도록 구성될 수 있으므로, 예컨대, 비디오 디코더(30)는 디코딩을 위한 파라미터를 수신하고 사용할 수 있다. 인코딩된 비트스트림(21)은 비디오 디코더(30)로 송신되거나, 나중에 비디오 디코더(30)에 의한 송신 또는 검색을 위해 메모리에 저장될 수 있다.
비디오 인코더(20)의 다른 구조적 변형이 비디오 스트림을 인코딩하는 데 사용될 수 있다. 예를 들어, 비 변환 기반 인코더(non-transform based encoder)(20)는 특정 블록 또는 프레임에 대해 변환 처리 유닛(206) 없이 직접 잔차 신호를 양자화할 수 있다. 다른 구현예에서, 인코더(20)는 단일 유닛으로 결합된 양자화 유닛(208) 및 역 양자화 유닛(210)을 가질 수 있다.
디코더 및 디코딩 방법
도 3은 본 출원의 기술을 구현하도록 구성된 비디오 디코더(30)의 일례를 도시한다. 비디오 디코더(30)는, 예컨대, 인코더(20)에 의해 인코딩되는, 인코딩된 영상 데이터(21)(예: 인코딩된 비트스트림(21))를 수신하여, 디코딩된 영상(331)을 획득하도록 구성된다. 인코딩된 영상 데이터 또는 비트스트림은 인코딩된 영상 데이터를 디코딩하기 위한 정보, 예컨대, 인코딩된 비디오 슬라이스 (및/또는 타일 그룹 또는 타일) 및 연관된 신택스 요소의 영상 블록을 나타내는 데이터를 포함한다.
도 3의 예에서, 디코더(30)는 엔트로피 디코딩 유닛(304), 역 양자화 유닛(310), 역 변환 처리 유닛(312), 재구축 유닛(314)(예: 합산기(314)), (라인) 버퍼(316), 루프 필터(320), 디코딩된 영상 버퍼(DBP)(330), 모드 적용 유닛(360), 인터 예측 유닛(344) 및 인트라 예측 유닛(354)을 포함한다. 인터 예측 유닛(344)은 움직임 보상 유닛이거나 이를 포함할 수 있다. 비디오 디코더(30)는, 일부 예에서, 도 2의 비디오 인코더(20)에 대해 기술한 인코딩 패스(encoding pass)와 일반적으로 역인 디코딩 패스(decoding pass)를 수행할 수 있다.
인코더(20)와 관련하여 설명한 바와 같이, 역 양자화 유닛(210), 역 변환 처리 유닛(212), 복원 부(214), (라인) 버퍼(216), 루프 필터(220), 디코딩된 영상 버퍼(DPB)(230), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)은 비디오 인코더(20)의 "내장 디코더"를 형성하는 것으로도 지칭된다. 따라서, 역 양자화 유닛(310)은 역 양자화 유닛(210)과 기능면에서 동일할 수 있고, 역 변환 처리 유닛(312)은 역 변환 처리 유닛(212)과 기능면에서 동일할 수 있고, 재구축 유닛(314)은 재구축 유닛(214)과 기능면에서 동일할 수 있고, (라인) 버퍼(316)는 참조 샘플(317)을 인트라 예측 유닛(354)에 제공하는 (라인) 버퍼(216)와 기능면에서 동일할 수 있고, 루프 필터(320)는 루프 필터(220)와 기능면에서 동일할 수 있으며, 디코딩된 영상 버퍼(330)는 디코딩된 영상 버퍼(23)와 기능면에서 동일할 수 있다. 따라서, 비디오 인코더(20)의 각 유닛 및 기능에 대해 제공된 설명은 비디오 디코더(30)의 각 유닛 및 기능에 상응하여 적용된다.
엔트로피 디코딩
엔트로피 디코딩 유닛(304)은 비트스트림(21)(또는 일반적으로 인코딩된 영상 데이터(21))을 파싱하고, 예를 들어, 인코딩된 영상 데이터(21)에 대한 엔트로피 디코딩을 수행하여, 예컨대 양자화된 계수(309) 및/또는 인터 예측 파라미터(예: 참조 영상 인덱스 및 움직임 벡터), 인트라 예측 파라미터(예: 인트라 예측 모드 또는 색인), 변환 파라미터, 양자화 파라미터, 루프 필터 파라미터 및/또는 기타 신택스 요소 중 어느 것 또는 모두와 같은, 디코딩된 코딩 파라미터(366)를 획득하도록 구성된다. 엔트로피 디코딩 유닛(304)은 인코더(20)의 엔트로피 인코딩 유닛(270)과 관련하여 설명한 인코딩 방식에 대응하는 디코딩 알고리즘 또는 방식을 적용하도록 구성될 수 있다. 엔트로피 디코딩 유닛(304)은 추가로, 인터 예측 파라미터, 인트라 예측 파라미터, 및/또는 다른 신택스 요소를 모드 선택 유닛(360)에 제공하고 다른 파라미터들을 디코더(30)의 다른 유닛에 제공하도록 구성될 수 있다. 비디오 디코더(30)는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 요소를 수신할 수 있다.
슬라이스 및 각각의 신택스 요소에 추가로 또는 대안으로서, 타일 그룹 및/또는 타일 및 각각의 신택스 요소가 수신 및/또는 사용될 수 있다.
역 양자화
역 양자화 유닛(310)은 인코딩된 영상 데이터(21)로부터 양자화 파라미터(QP)(또는 일반적으로 역 양자화와 관련된 정보) 및 양자화된 계수를 수신하고(예컨대, 엔트로피 디코딩 유닛(304)에 의해, 예컨대 파싱 및/또는 디코딩함으로써) 및 양자화 파라미터에 기초하여, 디코딩된 양자화된 계수(309)에 역 양자화를 적용하여, 변환 계수(311)라고도 지칭될 수 있는 역 양자화된 계수(311)를 획득한다. 역 양자화 프로세스는 비디오 슬라이스(또는 타일 또는 타일 그룹) 내의 각각의 비디오 블록에 대해 양자화의 정도 및 마찬가지로 적용되어야 하는 역 양자화 정도를 결정하기 위해, 비디오 인코더(20)에 의해 결정된 양자화 파라미터를 사용을 포함할 수 있다.
역 변환
역 변환 처리 유닛(312)은 변환 계수(311)라고도 하는 역 양자화된 계수(311)를 수신하고, 샘플 영역에서 재구축된 잔차 블록(313)을 획득하기 위해 역 양자화된 계수(311)에 변환을 적용하도록 구성될 수 있다. 재구축된 잔차 블록(313)은 또한 변환 블록(313)으로 지칭될 수 있다. 변환은 역 변환, 예컨대, 역 DCT, 역 DST, 역 정수 변환 또는 개념적으로 유사한 역 변환 프로세스일 수 있다. 역 변환 처리 유닛(312)은 추가로, 역 양자화된 계수(311)에 적용될 변환을 결정하기 위해 인코딩된 영상 데이터(21)(예: 엔트로피 디코딩 유닛(304)에 의한 파싱 및/또는 디코딩에 의해)로부터 변환 파라미터 또는 대응하는 정보를 수신하도록 구성될 수 있다.
재구축
재구축 유닛(314)(예: 가산기 또는 합산기(314))은 예컨대, 재구축된 잔차 블록(313)의 샘플 값과 예측 블록(365)의 샘플 값을 가산함으로써, 재구축된 잔차 블록(313)을 예측 블록(365)에 더하여, 샘플 도메인에서 재구축된 블록(315)을 획득하도록 구성될 수 있다.
필터링
루프 필터 유닛(320)(코딩 루프 내에 또는 코딩 루프 뒤에)은, 예컨대 화소 전환을 매끄럽게 하거나 아니면 비디오 품질을 향상시키 위해, 재구축된 블록(315)을 필터링하여 필터링된 블록(321)을 획득하도록 구성된다.
루프 필터 유닛(320)은 디블로킹 필터, 샘플 적응형 오프셋(SAO) 필터, 또는 예컨대 양방향 필터, 적응형 루프 필터(ALF), 샤프닝, 스무딩 필터 또는 협업 필터, 또는 이들의 임의의 조합과 같은 하나 이상의 다른 필터와 같은, 하나 이상의 루프 필터를 포함할 수 있다. 루프 필터 유닛(320)은 도 3에서 인루프 필터로 도시되어 있지만, 다른 구성에서, 루프 필터 유닛(320)은 포스트 루프 필터로서 구현될 수 있다.
디코딩된 영상 버퍼
영상의 디코딩된 비디오 블록(321)은 그 후 디코딩된 영상 버퍼(330)에 저장되고, 디코딩된 영상(331)은 다른 영상의 후속 움직임 보상 및/또는 출력 또는 각각 표시하기 위한 참조 영상으로서 저장된다.
디코더(30)는, 인터 예측 유닛(344)는, 예컨대, 사용자에게 제시하거나 보여주기 위해, 출력(312)을 통해, 디코딩된 영상(311)을 출력하도록 구성된다.
예측
인터 예측 유닛(344)은 인터 예측 유닛(244)(특히, 움직임 보상 유닛)과 동일할 수 있고, 인트라 예측 유닛(354)는 기능상 인트라 예측 유닛(254)와 동일할 수 있으며, 인코딩된 영상 데이터(21)로부터 수신된 분할 및/또는 예측 파라미터 또는 각각의 정보에 기초하여(예컨대, 엔트로피 디코딩 유닛(304)에 의한, 파싱 및/또는 디코딩에 의해) 쪼갬 또는 분할 결정 및 예측을 수행한다. 모드 선택 유닛(360)은 재구축된 영상, 블록 또는 각각의 샘플(필터링되거나 필터링되지 않음)에 기초하여 블록마다 예측(인트라 예측 또는 인터 예측)을 수행하도록 구성될 수 있다. 또한, 라인 버퍼(316)로부터의 참조 샘플(317)은 인트라 예측 유닛(354)에 의해 사용될 수 있다.
비디오 슬라이스 또는 영상이 인트라 코딩된(I) 슬라이스로서 코딩되는 경우, 모드 선택 유닛(360)의 인트라 예측 유닛(354)은 시그널링된 인트라 예측 모드 및 현재 영상의 이전에 디코딩된 블록으로부터의 데이터에 기초하여 현재 비디오 슬라이스의 영상 블록에 대한 예측 블록(365)을 생성하도록 구성된다. 비디오 슬라이스 또는 영상이 인터 코딩된(즉, B 또는 P) 슬라이스로 코딩되는 경우, 모드 선택 유닛(360)의 인터 예측 유닛(344)(예: 움직임 보상 유닛)은 엔트로피 디코딩 유닛(304)으로부터 수신된 움직임 벡터 및 다른 신택스 요소에 기초하여 현재 비디오 슬라이스의 비디오 블록에 대한 예측 블록(365)을 생성하도록 구성된다. 인터 예측의 경우, 예측 블록은 참조 영상리스트 중 하나 내의 참조 영상 중 하나로부터 생성될 수 있다. 비디오 디코더(30)는 DPB(330)에 저장된 참조 영상에 기초한 디폴트 구성 기술을 사용하여, 참조 영상 목록인 목록 0 및 목록 1을 구축할 수 있다. 동일하거나 유사한 접근법이 타일 그룹(예: 비디오 타일 그룹) 및/또는 타일(예: 비디오 타일)을 사용하는 실시예를 위해 또는 의해 추가로 또는 대안으로 슬라이스(예: 비디오 슬라이스)에 적용될 수 있으며, 예컨대 비디오는 I, P 또는 B 타일 그룹 및/또는 타일을 사용하여 코딩될 수 있다.
모드 선택 유닛(360)은 움직임 벡터 및 다른 신택스 요소를 파싱함으로써 현재 비디오 슬라이스의 비디오/영상 블록에 대한 예측 정보를 결정하고, 예측 정보를 사용하여 디코딩되는 현재 비디오 블록에 대한 예측 블록을 생성하도록 구성된다. 예를 들어, 모드 선택 유닛(360)은 수신된 신택스 요소 중 일부를 사용하여, 비디오 슬라이스의 비디오 블록을 코딩하는 데 사용되는 예측 모드(예: 인트라 예측 또는 인터 예측), 인터 예측 슬라이스 유형(예: B 슬라이스, P 슬라이스 또는 GPB 슬라이스), 슬라이스에 대한 참조 영상 목록 중 하나 이상에 대한 구축 정보, 슬라이스의 인터 코딩된 비디오 블록 각각에 대한 움직임 벡터, 슬라이스의 인터 코딩된 비디오 블록 각각에 대한 인터 예측 상태, 및 현재 비디오 슬라이스의 비디오 블록을 디코딩하기 위한 기타 정보를 결정한다. 동일하거나 유사한 접근법이 타일 그룹(예: 비디오 타일 그룹) 및/또는 타일(예: 비디오 타일)을 사용하는 실시예에 대해 또는 의해 추가로 또는 대안으로 슬라이스(예: 비디오 슬라이스)에 적용될 수 있으며, 예컨대 비디오는 I, P 또는 B 타일 그룹 및/또는 타일을 사용하여 코딩될 수 있다.
도 3에 도시된 비디오 디코더(30)의 실시예는 슬라이스(비디오 슬라이스라고도 함)를 사용하여 영상을 분할 및/또는 디코딩하도록 구성될 수 있으며, 여기서 영상은 하나 이상의 슬라이스(보통 비 중첩)로 분할되거나 이를 사용하여 디코딩될 수 있으며, 각각의 슬라이스는 하나 이상의 블록(예: CTU)을 포함할 수 있다.
도 3에 도시된 비디오 디코더(30)의 실시예는 타일 그룹(비디오 타일 그룹이라고도 함) 및/또는 타일(비디오 타일이라고도 함)을 사용하여 영상을 분할 및/또는 디코딩하도록 구성될 수 있으며, 여기서 영상은 하나 이상의 타일 그룹(보통 비 중첩)으로 분할될 수 있거나 이를 사용하여 디코딩될 수 있으며, 각각의 타일 그룹은 하나 이상의 블록(예: CTU) 또는 하나 이상의 타일을 포함할 수 있으며, 각각의 타일은 직사각형 모양일 수 있고 하나 이상의 블록(예: CTU), 예컨대 완전한 블록 또는 부분 블록 포함할 수 있다.
비디오 디코더(30)의 다른 변형이 인코딩된 영상 데이터(21)를 디코딩하는 데 사용될 수 있다. 예를 들어, 디코더(30)는 루프 필터링 유닛(320) 없이 출력 비디오 스트림을 생성할 수 있다. 예를 들어, 비 변환 기반 디코더(non-transform based decoder)(30)는 특정 블록 또는 프레임에 대해 역 변환 처리 유닛(312) 없이 직접 잔차 신호를 양자화할 수 있다. 다른 구현예에서, 비디오 디코더(30)는 단일 유닛으로 결합된 역 양자화 유닛(310) 및 역 변환 처리 유닛(312)을 가질 수 있다.
인코더(20) 및 디코더(30)에서, 현재 단계의 처리 결과는 추가로 처리된 후, 다음 단계에 출력될 수 있음을 이해해야 한다. 예를 들어, 보간 필터링, 움직임 벡터 도출 또는 루프 필터링 이후에, 보간 필터링, 움직임 벡터 유도 또는 루프 필터링의 처리 결과에 대해 Clip 또는 Shift와 같은 추가 연산이 수행될 수 있다.
추가 연산이 현재 블록의 도출된 움직임 벡터(아핀 모드(affine mode)의 제어점 움직임 벡터, 아핀, 평면, ATMVP 모드에서의 서브블록 움직임 벡터 등을 포함하지만 이에 한정되지 않음)에 적용될 수 있음에 유의해야 한다. 예를 들어, 움직임 벡터의 값은 표현 비트 수(representing bit number)에 따라 미리 정의된 범위로 제한된다. 움직임 벡터의 표현 비트 수가 bitDepth이면, 범위는 -2^(bitDepth-1) ∼ 2^(bitDepth-1)-1이며, 여기서 "^"는 지수를 의미한다. 예를 들어 bitDepth가 16으로 설정되면 범위는 -32768 ∼ 32767이다. bitDepth가 18로 설정되면 범위는 -131072 ∼ 131071이다. 예를 들어, 도출된 움직임 벡터의 값(예: 하나의 8x8 블록 내의 네 개의 4x4 서브블록의 MV)은 네 개의 4x4 서브블록 MV의 정수 부분 간의 최대 차가 N개 화소 이하가 되도록, 예를 들어 1 화소 이하가 되도록 제한된다.
다음 설명에서는 bitDepth에 따라 움직임 벡터를 제한하는 두 가지 방법을 제한한다.
방법 1: 다음 연산으로 오버플로 MSB(Most Significant Bit, 최상위 비트)를 제거한다.
여기서 mvx는 이미지 블록 또는 서브블록의 움직임 벡터의 수평 성분이고, mvy는 이미지 블록 또는 서브블록의 움직임 벡터의 수직 성분이며, ux와 uy는 각각의 중간 값을 나타낸다.
예를 들어 mvx의 값이 -32769이면 식 (1) 및 (2)를 적용한 후, 결과 값은 32767이다. 컴퓨터 시스템에서, 십진수는 2의 보수로 저장된다. -32769의 2의 보수는 1,0111,1111,1111,1111 (17비트)이다. 그런 다음 MSB가 폐기되므로, 결과 2의 보수는 0111,1111,1111,1111(10진수는 32767)이며, 이는 공식 (1) 및 (2)를 적용한 출력과 동일하다.
연산들은 동작 벡터 예측자(mvp)와 움직임 벡터 차(mvd)를 합하는 동안에 식 (5) 내지 (8)에 나타낸 바과 같이 적용될 수 있다:
방법 2: 값을 클리핑하여 오버플로 MSB를 제거한다.
여기서 vx는 이미지 블록 또는 서브블록의 움직임 벡터의 수평 성분이고, vy는 이미지 블록 또는 서브블록의 움직임 벡터의 수직 성분이고; x, y 및 z는 각각 MV 클리핑 프로세스의 세 입력 값에 대응하며, Clip3 함수의 정의는 다음과 같다:
도 4는 본 발명의 일 실시예에 따른 비디오 코딩 기기(400)의 개략도이다. 비디오 코딩 기기(400)는 아래에 설명된 바와 같이 개시된 실시예들을 구현하는 데 적합하다. 일 실시예에서, 비디오 코딩 기기(400)는 도 1a의 비디오 디코더(30)와 같은 디코더 또는 도 1a의 비디오 인코더(20)와 같은 인코더일 수 있다.
비디오 코딩 기기(400)는 데이터를 수신하기 위한 입구 포트(410)(또는 입력 포트(410)) 및 수신기 유닛(Rx)(420); 데이터를 처리하기 위한 프로세서, 로직 유닛 또는 중앙 처리 장치(CPU)(430); 데이터를 송신하기 위한 는 송신기 유닛(Tx)(440) 및 출구 포트(450)(또는 출력 포트(450)); 및 데이터를 저장하기 위한 메모리(460)를 포함한다. 비디오 코딩 기기(400)는 또한 입구 포트(410), 수신기 유닛(420), 송신기 유닛(440) 및 출구 포트(450)에 결합된, 광 또는 전기 신호의 유출 또는 유입을 위한 광-전기(optical-to-electrical, OE) 구성요소 및 전기-광(electrical-to-optical, EO) 구성요소를 포함할 수 있다.
프로세서(430)는 하드웨어 및 소프트웨어로 구현될 수 있다. 프로세서(430)는 하나 이상의 CPU 칩, 코어(예: 멀티 코어 프로세서), FPGA, ASIC 및 DSP로 구현될 수 있다. 프로세서(430)는 입구 포트(410), 수신기 유닛(420), 송신기 유닛(440), 출구 포트(450) 및 메모리(460)와 통신할 수 있다. 프로세서(430)는 코딩 모듈(470)을 포함할 수 있다. 코딩 모듈(470)은 위와 아래에 설명된 개시된 실시예를 구현한다. 예를 들어, 코딩 모듈(470)은 다양한 코딩 작업(coding operation)을 구현, 처리, 준비 또는 제공할 수 있다. 따라서 코딩 모듈(470)의 포함은 비디오 코딩 기기(400)의 기능에 실질적인 개선을 제공하고 비디오 코딩 기기(400)의 다른 상태로의 변환에 영향을 미친다. 대안으로, 코딩 모듈(470)은 메모리(460)에 저장되고 프로세서(430)에 의해 실행되는 명령어로 구현될 수 있다.
메모리(460)는 하나 이상의 디스크, 테이프 드라이브 및 솔리드 스테이트 드라이브를 포함할 수 있으며 오버플로 데이터 저장 기기로 사용될 수 있으며, 프로그램이 실행을 위해 선택될 때 그 프로그램을 저장하고, 프로그램 실행 중에 판독되는 명령어 및 데이터를 저장하는 데 사용될 수 있다. 메모리(460)는 예를 들어, 휘발성 및/또는 비휘발성일 수 있고 판독 전용 메모리(ROM), 랜덤 액세스 메모리(RAM), 터너리 콘텐츠 주소지정 가능 메모리(ternary content-addressable memory, TCAM) 및/또는 정적 랜덤 액세스 메모리(SRAM)일 수 있다.
도 5는 예시적인 실시예에 따라 도 1a의 근원지 기기(12) 및 목적지 기기(14) 중 하나 또는 둘 모두로서 사용될 수 있는 장치(500)의 단순화된 블록도이다.
장치(500)의 프로세서(502)는 중앙 처리 장치일 수 있다. 대안으로, 프로세서(502)는 현재 존재하거나 향후 개발될, 정보를 조작 또는 처리할 수 있는 임의의 다른 유형의 기기 또는 다수의 기기일 수 있다. 개시된 구현예는 도시된 바와 같이 단일 프로세서, 예컨대, 프로세서(502)로 실행될 수 있지만, 속도 및 효율성의 이점은 하나 이상의 프로세서를 사용하여 달성될 수 있다.
장치(500)의 메모리(504)는 구현예에서 판독 전용 메모리(ROM) 기기 또는 랜덤 액세스 메모리(RAM) 기기일 수 있다. 임의의 다른 적합한 유형의 저장 기기가 메모리(504)로서 사용될 수 있다. 메모리(504)는 버스(512)를 사용하여 프로세서(502)에 의해 액세스되는 코드 및 데이터(506)를 포함할 수 있다. 메모리(504)는 운영 체제(508) 및 애플리케이션 프로그램(510)을 더 포함할 수 있으며, 애플리케이션 프로그램(510)은 프로세서(502)가 여기에 설명된 방법을 수행하도록 허용하는 적어도 하나의 프로그램을 포함한다. 예를 들어, 애플리케이션 프로그램(510)은 여기에 설명된 방법을 수행하는 비디오 코딩 애플리케이션을 더 포함하는 애플리케이션 1 내지 N을 포함할 수 있다.
장치(500)는 또한 디스플레이(518)와 같은 하나 이상의 출력 기기를 포함할 수 있다. 디스플레이(518)는, 하나의 예에서, 디스플레이를 터치 입력을 감지하도록 작동 가능한 터치 감지 요소와 결합하는 터치 감지 디스플레이일 수 있다. 디스플레이(518)는 버스(512)를 통해 프로세서(502)에 연결될 수 있다.
여기서는 단일 버스로 도시되어 있지만, 장치(500)의 버스(512)는 다수의 버스로 구성될 수 있다. 또한, 보조 저장장치(secondary storage)(514)는 장치(500)의 다른 구성요소에 직접 결합될 수 있거나 네트워크를 통해 액세스될 수 있고 메모리 카드와 같은 단일 통합 유닛 또는 다중 메모리 카드와 같은 다중 유닛을 포함할 수 있다. 또한, 이미지 감지 기기(520) 및/또는 사운드 감지 기기(522)가 장치(500)에 포함될 수 있다. 따라서 장치(500)는 다양한 구성으로 구현될 수 있다.
결합형 인터-인트라 예측(CIIP)
통상적으로, 코딩 유닛은 인트라 예측(동일한 영상의 참조 샘플들 사용) 또는 인터 예측(다른 영상의 참조 샘플들 사용) 중 하나이다. 결합형 인터-인트라 예측은 이들 두 가지 예측 접근 방식을 결합한다. 따라서, MH(Multi-hypothesis) 예측이라고도 한다. 결합형 인터-인트라 예측이 인에이블될 때, 인트라 예측된 샘플 및 인터 예측된 샘플이 가중치에 의해 적용되고, 최종 예측은 예측된 샘플의 가중 평균으로 도출된다.
CIIP 플래그인 플래그는 블록이 결합형 인터-인트라 예측을 사용하여 코딩되는 경우를 지시하는 데 사용된다.
CIIP를 사용하여 코딩된 블록은 도 6 및 도 7에 도시된 바와 같이, 여러 서브블록으로 더 나눌 수 있다. 하나의 예에서, 서브블록은 블록을 수평 서브블록으로 나눔으로써, 즉 수직 방향으로 나눔으로써 도출되며, 각각의 서브블록은 원본 블록과 동일한 폭을 갖지만 높이는 원본 블록의 ¼에 불과한다.
하나의 예에서, 서브블록은 블록을 수직 서브블록으로 나눔으로써, 즉 수평 방향으로 나눔으로써 도출되며, 각각의 서브블록은 원래 블록과 동일한 높이를 갖지만 폭은 원본 블록의 ¼에 불과하다.
CIIP는 일반적으로 더 많은 잔차 신호를 갖는 인트라 예측 결과를 포함하므로, CIIP로 인해 블록 아티팩트가 도입될 수 있다. 블록 아티팩트는 CIIP 블록의 경계뿐만 아니라 도 6의 수직 서브블록 에지 A, B, C와 같은, CIIP 블록 내부의 서브블록 에지에서도 발생한다. 수평 서브블록 에지가 이에 따라 식별될 수 있다. 블록 아티팩트를 제거하기 위해, CIIP 블록 내부의 서브블록 에지를 도 7과 같이 블록해제(디블로킹)할 수 있다.
블록 아티팩트가 CIIP 블록 경계와 CIIP 블록 내부의 서브블록 에지 모두에서 발생할 수 있지만, 이러한 두 경계로 인한 왜곡은 다를 수 있으며, 다른 경계 강도가 필요할 수 있다.
서브블록 에지는 CIIP 자체에 의해 발생할 수 있다. 예를 들어, CIIP 블록의 인트라 예측 모드가 수평 모드이면, 도 6에 도시된 바와 같이 수직 분할이 적용되어, 세 개의 서브블록 에지가 생성된다.
그러나 서브블록 에지는 TU(transform unit) 크기 제한으로 인해 발생할 수도 있다. VTM3.0(Versatile Video Coding Test Model 3.0)에서, 가장 큰 TU 크기는 64x64 샘플이다. CU((coding unit)가 128x128 샘플이면, 도 8에 도시된 바와 같이, 네 개의 TU로 나뉘어서, 4개의 TU 경계가 생성된다. 결과적으로 변환은 64x64 그래뉼래러티로 적용된다. 파선으로 표시된 TU 경계는 블록해제되어야 한다.
또한, 특정 코딩 도구(예: 서브블록 변환)가 적용되는 경우, TU 에지는 도 9에 도시된 바와 같이, CIIP 예측에 의해 처리된 CU를 내부에 발생시킬 수 있다. CIIP를 사용하여 코딩된 코딩 유닛은 다수의 여러 변환 유닛으로 더 나눌 수 있다. 도 9에서 파선으로 강조 표시된 TU 경계는 CIIP 유닛 내부의 내부 TU 에지를 나타낸다. CIIP 유닛 내부의 이러한 내부 TU 에지도 블록해제(디블로킹)해야 한다.
나머지 설명에서는 다음 용어가 사용된다:
CIIP 블록: CIIP 적용에 의해 예측되는 코딩 블록이다.
인트라 블록: CIIP가 아닌 인트라 예측의 적용에 의해 예측되는 코딩 블록이다.
인터 블록: CIIP가 아닌 인터 예측 적용에 의해 예측되는 코딩 블록이다.
디블로킹 필터 및 경계 강도
HEVC 및 VVC와 같은 비디오 코딩 방식은 블록 기반 하이브리드 비디오 코딩의 성공적인 원칙에 따라 설계되었다. 이 원리를 사용하면, 영상은 먼저 블록으로 분할된 다음 각각의 블록이 인트라 영상 또는 인터 영상 예측을 사용하여 예측된다. 이러한 블록은 인접 블록과 관련하여 코딩되며 어느 정도의 유사성을 가진 원본 신호에 근사하다. 코딩된 블록은 원본 신호에 근사하기 때문에, 근사치 간의 차이로 인해 예측 및 변환 블록 경계에서 불연속성이 발생할 수 있다. 이러한 불연속성은 디블로킹 필터에 의해 감쇠된다.
도 10은 서브파티션(sub-partition) 샘플에 디블로킹 필터를 적용한 예를 도시한다. 서브파티션의 크기가 디블로킹 방향에 직각으로 8개 샘플보다 작으면, 결정 프로세스에서 3개의 샘플만 사용하고 하나의 샘플을 수정하는 약한 파일러가 사용된다.
블록 경계를 필터링할지의 결정은 예측 모드 및 움직임 벡터와 같은 비트스트림 정보를 사용한다. 일부 코딩 조건은 모든 블록 경계에 할당되고 표 1에서와 같이 결정되는 이른바 경계 강도(Bs 또는 BS) 변수로 표현되는 강한 블록 아티팩트를 생성할 가능성이 더 높다.
[표 1]
디블로킹은 루마 성분에 대해 B가 0보다 크고 크로마 성분에 대해 Bs가 1보다 큰 블록 경계에만 적용된다. Bs 값이 높을수록 더 높은 클리핑 파라미터 값을 사용하여 더 강한 필터링이 가능하다. Bs 도출 조건은 가장 강한 블록 아티팩트가 예측된 블록 경계에 나타날 확률을 반영한다.
일반적으로 경계의 인접한 두 블록은 도 11과 같이 P와 Q로 라벨링된다. 도면은 수직 경계의 경우를 보여준다. 수평 경계를 고려하면, 도 11은 시계 방향으로 90도 회전되며, 여기서 P는 위쪽 블록이고 Q는 아래쪽 블록이다.
가장 가능성이 높은 모드 목록 구축
가장 가능성이 높은 모드(Most Probable Mode, MPM) 목록이 인트라 모드 코딩에서 코딩 효율성을 높이는 데 사용된다. 많은 수의 인트라 모드(예: HEVC에서 35개, VVC에서 67개)로 인해, 현재 블록의 인트라 모드가 직접 시그널링되지 않는다. 대신, 현재 블록의 가장 가능성이 높은 목록이 이웃하는 블록의 인트라 예측 모드에 기초하여 구축된다. 현재 블록의 인트라 모드는 그 이웃과 관련이 있으므로, MPM 목록은 일반적으로 그 이름(가장 가능성이 높은 목록)이 지시하는 대로 양호한 예측을 제공한다. 따라서 현재 블록의 인트라 모드는 그 MPM 목록에 포함될 가능성이 높다. 이러한 방식으로, 현재 블록의 인트라 모드를 도출하기 위해, MPM 목록의 색인만 시그널링된다. 전체 인트라 모드의 수에 비해, MPM 목록의 길이가 훨씬 더 작다(예: HEVC에서는 3-MPM 목록이 사용되고 VVC에서는 6-MPM 목록이 사용됨). 따라서 인트라 모드를 코딩하는 데 더 적은 비트가 필요하다. 플래그(mpm_flag)는 현재 블록의 인트라 모드가 MPM 목록에 속하는지의 여부를 지시하는 데 사용된다. 참이면, 현재 블록의 인트라 모드는 MPM 목록을 사용하여 인덱싱될 수 있다. 그렇지 않으면 인트라 모드가 이진화된 코드를 사용하여 직접 시그널링된다. VVC와 HEVC 둘 다에서, MPM 목록은 이웃한 좌측 블록 및 상단(top) 블록에 기초하여 구축된다. 현재 블록의 왼쪽 이웃 블록과 상단 이웃 블록을 예측에 이용할 수 없는 경우, 디폴트 모드 목록이 사용된다.
움직임 벡터 예측
움직임 벡터 예측은 움직임 데이터 코딩에 사용되는 기술이다. 움직임 벡터에는 일반적으로 각각 수평 방향과 수직 방향의 움직임을 나타내는 두 개의 구성 요소 x와 y가 있다. 현재 블록의 움직임 벡터는 일반적으로 현재 영상 또는 이전에 코딩된 영상에서의 이웃한 블록의 움직임 벡터와 상관관계가 있다. 이는 이웃한 블록은 유사한 움직임을 가진 동일한 움직이는 객체에 대응할 가능성이 높고 객체의 움직임이 시간이 지남에 따라 갑작스럽게 변할 가능성이 없기 때문이다. 결과적으로, 이웃한 블록의 움직임 벡터를 예측자로 사용하면, 시그널링된 움직임 벡터 차이의 크기가 줄어든다. 움직임 벡터 예측자(MVP)는 일반적으로 공간적으로 이웃한 블록 및/또는 동일 위치에 있는 영상의 시간적으로 인접한 블록에서 이미 디코딩된 움직임 벡터로부터 도출된다.
블록이 CIIP의 적용에 의해 예측되는 것으로 결정되면, 그 최종 예측 샘플은 부분적으로 인트라 예측된 샘플에 기초한다. 인트라 예측도 포함되기 때문에, 일반적으로 잔차 및 변환 계수는 인터 블록(mvd, merge, skip)과 비교할 때 더 크다. 따라서 이러한 다중 가설(MH 또는 MH인트라(MHIntra)) 블록, 즉 CIIP 블록이 다른 블록에 인접하면, 경계를 가로질러 더 많은 불연속성이 발생한다. HEVC 및 VVC에서, 경계의 인접한 두 블록 중 하나가 인트라 예측되는 경우, 경계에 대해 강한 디블로킹 필터가 적용되며, 여기서 경계 강도(BS)의 파라미터는 2(가장 강함)로 설정된다.
그러나 VTM3.0에서는, CIIP에 의해 예측된 블록으로 인한 잠재적 블록 아티팩트는 고려되지 않는다. 경계 강도 도출은 여전히 CIIP가 있는 블록을 인터 블록으로 간주한다. 특정 상황에서, 이러한 처리 접근법은 주관적 및 객관적인 품질을 떨어뜨릴 수 있다.
본 개시의 실시예는 디블로킹 필터를 개선하기 위해 CIIP 블록을 통합하는 여러 대안을 제공하며, 여기서 경계 강도는 특정 경계의 경계 강도 도출은 CIIP 블록의 영향을 받는다.
Versatile Video Coding(Draft 3)에 대한 참조 문서는 VVC Draft 3.0으로 정의되며 다음 링크를 통해 찾을 수 있다:
http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/12_Macao/wg11/JVET-L1001-v3.zip.
실시예 1:
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 결정될 수 있다:
● 도 12에 도시된 바와 같이, P 블록과 Q 블록 중 적어도 하나의 블록이 CIIP(MHIntra 예측)를 사용하는 블록이면, 이 경계의 경계 강도 파라미터는 제1 값으로 설정된다. 예를 들어, 제1 값은 2와 같을 수 있다.
● P 블록과 Q 블록 어느 것도 CIIP 적용하여 예측되지 않고 P 블록과 Q 블록 중 적어도 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
● P 블록과 Q 블록 어느 것도 CIIP의 적용에 의해 예측되지 않고 P 블록과 Q 블록 둘 다가 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 추가 조건부 평가에 따라 결정된다. 이 경계의 경계 강도의 도출은 도 12에 도시되어 있으며 표 1의 사양을 따른다
● 보다 구체적으로, P 블록과 Q 블록 중 적어도 하나에 0이 아닌 변환 계수가 있으면, 경계 강도는 1과 같다고 결정된다. 마찬가지로 P 블록과 Q 블록의 인터 예측이 서로 다른 참조 영상을 사용하거나 P 블록과 Q 블록의 움직임 벡터 수가 다르면, 경계 강도는 1과 같다고 결정된다. 또한, P 블록과 Q 블록의 움직임 벡터 간의 절대 차가 수평 성분과 수직 성분의 적어도 하나에 대해 하나의 정수 루마보다 크거나 같으면, 경계 강도는 1과 같다고 결정된다.
● 비교를 위해, VVC 또는 ITU-H.265 비디오 코딩 표준에 지정된 방법이 도 13에 도시되어 있다. P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않는 경우에 대한 본 실시예에 따른 경계 강도 결정은 도 13의 알려진 방법에 대응한다.
● P 블록 및 Q 블록에 포함된 화소 샘플은 위에서 언급한 바와 같이 결정된 경계 강도에 따라 디블로킹 필터를 적용하여 필터링된다.
실시예 2:
도 14에 도시된 바와 같이, 두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 대안으로 다음과 같이 결정될 수 있다:
● P 블록과 Q 블록 중 적어도 하나가 인트라 예측을 사용하는 블록이면, 경계 강도는 2로 설정된다.
● 그렇지 않으면, P 블록과 Q 블록 중 적어도 하나의 블록이 CIIP(MHIntra 예측)을 사용하는 블록이면, 이 경계의 경계 강도는 제1 값, 예를 들어, 1로 설정된다.
● 그렇지 않으면, P 블록과 Q 블록 중 적어도 하나에 0이 아닌 변환 계수가 있으면, 이 경계의 경계 강도는 제2 값, 예를 들어 1로 설정된다. 제1 값과 제2 값은 다를 수 있다.
● 그렇지 않으면, P 블록과 Q 블록에 속하는 움직임 벡터 간의 절대 차가 하나의 정수 루마 샘플보다 크거나 같으면, 이 경계의 경계 강도가 제2 값, 예를 들어 1로 설정된다.
● 그렇지 않으면, 인접 블록에서의 움직임 예측이 다른 참조 영상을 참조하거나 움직임 벡터의 수가 다르면, 이 경계의 경계 강도가 제2 값, 예를 들어 1로 설정된다.
● 그렇지 않으면, 이 경계의 경계 강도가 0으로 설정된다.
● P 블록과 Q 블록에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블로킹 필터를 적용하여 필터링된다.
실시예 3:
도 15에 도시된 바와 같이, 두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 대안으로 다음과 같이 결정될 수 있다:
● P 블록과 Q 블록 중 적어도 하나의 블록이 CIIP를 적용하지 않고 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같게 설정된다. 가능성으로는 다중 가설(MH 또는 MHIntra), 즉 CIIP, 예측에 의해서가 아니라 인트라 예측에 의해 예측되는 P 블록, 및 임의의 예측 함수에 의해 예측되는 Q 블록을 포함하고, 그 반대도 마찬가지이다.
● P 블록과 Q 블록이 인터 예측를 적용하거나 CIIP를 적용하여 예측되면(가능성으로는 인터 블록인 P 블록과 인터 블록인 Q 블록, 또는 대안으로 인터 블록인 P 블록과 CIIP 블록인 Q 블록, 또는 대안으로 CIIP 블록인 P 블록과 인터 블록인 Q 블록, 또는 대안으로 CIIP 블록인 P 블록과 CIIP 블록인 Q 블록을 포함함), 다음이 적용될 수 있다:
○ P 블록과 Q 블록 중 적어도 하나에 0이 아닌 변환 계수가 있으면, 경계의 경계 강도 파라미터는 1과 같게 설정된다.
○ 그렇지 않으면(P 블록과 Q 블록에 0이 아닌 변환 계수가 없으면), P 블록과 Q 블록은 다른 참조 영상에 기초하여 예측되거나 블록 P와 블록 Q를 예측하는 데 사용되는 움직임 벡터의 수가 같지 않으면, 이 경계의 경계 강도가 1과 같게 설정된다.
○ 그렇지 않으면(P 블록과 Q 블록에 0이 아닌 변환 계수가 없고 P 블록과 Q 블록이 동일한 참조 영상(들)에 기초하여 예측되고 P 블록과 Q 블록을 예측하는 데 사용되는 움직임 벡터의 수가 동일하면), P 블록과 Q 블록을 예측하는 데 사용되는 움직임 벡터 간의 절대 차가 하나의 정수 루마 샘플보다 크거나 같으면, 이 경계의 경계 강도는 1과 같게 설정된다.
○ 그렇지 않으면(위의 3가지 조건이 모두 거짓으로 평가되면), 이 경계의 경계 강도는 0과 같게 설정된다.
● 이후에, P 블록과 Q 블록 중 적어도 하나의 블록이 CIIP를 사용하는 블록 이면, 경계 강도가 다음과 같이 수정된다:
○ 경계 강도가 미리 정의된 제1 값과 같지 않으면(한 예에서, 미리 정의된 제1 값이 2와 같음), 경계 강도는 미리 정의된 제2 값만큼 증분된다(한 예에서, 미리 정의된 제2 값은 1과 같음).
● P 블록과 Q 블록에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블로킹 필터를 적용하여 필터링된다.
실시예 4:
두 변이 있는 경계(위에서 언급한 참조에 따라 VVC Draft 3.0에 기술된, P 및 Q)의 경우, 경계 강도는 다음과 같이 도출될 수 있다:
● 이 경계가 수평 경계이고 P와 Q가 서로 다른 CTU에 속하면:
○ 블록 Q가 CIIP를 사용하는 블록이면, 경계 강도는 2로 설정된다.
○ 그렇지 않으면, 경계 강도는 위에서 언급한 참조에 따른 VC Draft 3.0에 정의된 대로 그리고 도 13에 도시된 바와 같이 도출된다.
● 그렇지 않으면:
○ P 블록과 Q 블록 중 적어도 하나의 블록이 CIIP를 사용하는 블록이면, 이 경계의 경계 강도는 2로 설정된다.
○ 그렇지 않으면, 언급한 참조에 따른 VC Draft 3.0에 정의된 대로 그리고 도 13에 도시된 바와 같이 이 경계의 경계 강도를 도출한다.
실시예 5:
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 본 실시예에 따라 결정될 수 있다:
● P 블록 또는 Q 블록 중 하나가 CIIP를 적용하는 것이 아니라 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같게 설정된다. 가능성으로는 다중 가설(CIIP) 예측이 아니라 인트라 예측에 의해 예측되는 P 블록과 임의의 예측 함수에 의해 예측되는 Q 블록을 포함하고, 그 반대의 경우도 마찬가지이다.
● P 블록과 Q 블록이 인터 예측 또는 CIIP를 적용하여 예측되면(가능성으로는 인터 블록인 P 블록과 인터 블록인 Q 블록, 또는 대안으로 인터 블록인 P 블록과 CIIP 블록인 Q 블록, 또는 대안으로 CIIP 블록인 P 블록과 인터 블록인 Q 블록, 또는 대안으로 CIIP 블록인 P 블록과 CIIP 블록인 Q 블록을 포함함), 다음이 적용될 수 있다:
○ 경계가 수평 경계이고 P와 Q가 서로 다른 두 CTU에 있으면:
■ Q 블록(여기서 Q 블록은 P 블록 아래에 있는 블록으로 표시됨)이 CIIP를 적용하여 예측되면, 경계의 경계 강도는 1과 같게 설정된다.
■ 그렇지 않으면(Q 블록이 CIIP를 적용하여 예측되지 않으면), 인접 블록 P와 Q 중 적어도 하나에 0이 아닌 변환 계수가 있으면, 경계의 경계 강도는 1과 같게 설정된다.
■ 그렇지 않으면, P 블록과 Q 블록을 예측하는 데 사용되는 움직임 벡터 간의 절대 차가 하나의 정수 루마 샘플보다 크거나 같으면, 경계의 경계 강도가 1과 같게 설정된다.
■ 그렇지 않으면, 인접 블록 P와 Q의 움직임 보상 예측이 서로 다른 참조 영상에 기초하여 수행되거나 블록 P와 Q를 예측하는 데 사용되는 움직임 벡터의 수가 동일하지 않으면, 경계의 경계 강도는 1과 같게 설정된다. 이 마지막 두 조건의 순서는 도 13과 같이 반대로 될 수 있다.
■ 그렇지 않으면, 경계의 경계 강도가 0과 같게 설정된다.
○ 그렇지 않으면(경계가 수직 경계이거나 블록 P와 블록 Q가 동일한 CTU 내에 포함되어 있으면):
■ P 블록과 Q 블록 중 적어도 하나가 CIIP를 적용하여 예측되면, 경계의 경계 강도는 1과 같게 설정된다.
■ 그렇지 않으면, 인접한 블록 P와 Q 중 적어도 하나에 0이 아닌 변환 계수가 있으면, 그 경우의 경계 강도는 1과 같게 설정된다.
■ 그렇지 않으면 블록 P와 Q를 예측하는 데 사용되는 움직임 벡터 간의 절대 차이가 하나의 정수 루마 샘플보다 크거나 같으면, 경계의 경계 강도가 1과 같게 설정된다.
■ 그렇지 않으면 인접 블록 P와 Q의 움직임 보상 예측이 서로 다른 참조 영상에 기초하여 수행되거나 블록 P와 Q를 예측하는 데 사용되는 움직임 벡터의 수가 동일하지 않으면, 경계의 경계 강도는 1과 같게 설정된다. 이 마지막 두 조건의 순서는 도 13과 같이 반대로 될 수 있다.
■ 그렇지 않으면, 이 경계의 경계 강도가 0과 같게 설정된다.
● 블록 P와 블록 Q에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블록킹 필터를 적용하여 필터링된다.
본 실시예의 이점:
다중 가설 예측, 즉 CIIP를 적용하여 예측되는 블록의 디블로킹 필터링은 중간 강도(경계 강도가 1)인 디블로킹 필터를 사용하여 적용된다. 블록이 CIIP를 적용하여 예측되면, 첫 번째(제1) 예측은 인터 예측을 적용하여 획득되고, 두 번째(제2) 예측은 인트라 예측을 적용하여 획득되며, 이들은 나중에 결합된다. 최종 예측은 인트라 예측 부분을 포함하므로, CIIP에 의해 예측되는 블록 경계에 블록 아티팩트가 있을 수 있다. 이 문제를 완화하기 위해 본 발명에 따라 경계 강도를 1로 설정하여 CIIP를 적용하여 예측되는 블록 에지의 필터링을 보장한다.
또한, 본 개시는 다음과 같이 필요한 라인 메모리를 감소시킨다. 라인 메모리는 상단 CTU 행에 대응하는 정보를 저장하는 데 필요한 메모리로 정의되며 이웃한 하단 CTU 행의 처리 중에 필요하다. 예를 들어, 두 CTU 행 사이의 수평 경계를 필터링하려면, 상단 CTU 행의 예측 모드 정보(인트라 예측/인터 예측/다중 가설(CIIP) 예측)가 라인 메모리에 저장되어야 한다. 블록의 예측 모드를 설명할 수 있는 3가지 상태(인트라 예측/인터 예측/다중 가설(CIIP) 예측)가 가능하므로, 라인 메모리 요건은 블록당 2비트로 정의될 수 있다.
그러나 본 개시에 따르면, 블록(실시예에서 P 블록)이 상단 CTU 행에 속하면, 디블로킹 작업(deblocking operation)은, 블록이 인터 예측에 의해 예측되는지 또는 인트라 예측에 의해 예측되는지에 대한 정보만을 필요로 한다(따라서 단지 2가지 상태, 블록당 1 비트를 사용하여 저장될 수 있음).
그 이유는 다음과 같다:
P 블록과 Q 블록 사이의 경계가 수평 경계이고 Q 블록과 P 블록이 서로 다른 2개의 CTU에 속하면(Q 블록은 모든 실시예에서 P 블록에 대해 하단에 있는 것임),
P 블록이 CIIP를 적용하여 예측되는지에 대한 정보는 경계 강도 결정에 활용되지 않는다. 인트라 예측과 CIIP가 상호 배타적이기 때문에 전술한 실시예 5의 제1 조건을 확인하기 위해 P 블록이 인트라 예측에 의해 예측되는지를 결정하는 것으로 충분하다. 따라서 P 블록이 CIIP를 적용하여 예측되는지에 대한 어떠한 정보도 저장할 필요가 없다.
하드웨어 구현에서의 본 개시의 도움으로, P 블록의 예측 모드는 일시적으로 인터 예측(P 블록이 CIIP에 의해 예측되는 경우)으로 변경될 수 있으며, 경계 강도 결정은 변경된 예측 모드에 따라 수행될 수 있다. 이후(경계 강도의 결정 후), 예측 모드는 CIIP로 다시 변경될 수 있다. 하드웨어 구현은 여기에 설명된 방법(CTU 경계에서 P 블록의 예측 모드 변경)에 한정되지 않는다는 점에 유의하기 바란다.
본 개시에 따르면, P 블록이 CIIP에 의해 예측되는지에 대한 정보는 (수평 CTU 경계에서) 경계 강도 결정에 필요하지는 않음을 설명하기 위해 예시로 제시한 것이다.
따라서, 본 개시에 따르면, 필요한 라인 메모리는 블록당 2비트에서 블록당 1비트로 감소된다. 하드웨어에서 구현되어야 하는 총 라인 메모리는 영상 폭에 비례하고 최소 블록 폭에 반비례한다.
실시예 6:
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 본 실시예에 따라 결정될 수 있다:
● 먼저 도 13에 도시된 위에서 언급한 참조 또는 ITU-H.265 비디오 코딩 표준에 따라 VVC Draft 3.0에 지정된 방법에 따라 경계의 경계 강도를 결정한다.
● 경계가 수평 경계이고 P와 Q가 두 개의 다른 CTU에 있으면:
○ 블록 Q가 CIIP를 적용하여 예측되면, 경계 강도는 다음과 같이 수정된다:
■ 경계 강도가 2와 같지 않으면, 경계 강도가 1씩 증분된다.
● 그렇지 않으면(경계가 수직 경계이거나 블록 P와 블록 Q가 동일한 CTU 내에 포함되어 있으면):
○ 블록 P 또는 블록 Q 중 적어도 하나가 CIIP를 적용하여 예측되면, 경계의 경계 강도는 다음과 같이 조정된다:
■ 경계 강도가 2와 같지 않으면, 경계 강도가 1씩 증분된다.
● 블록 P와 블록 Q에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블록킹 필터를 적용하여 필터링된다.
실시예 7:
이 실시예는 실시예 4의 변형을 나타낸다.
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 본 실시예에 따라 도출될 수 있다:
● 경계가 수평 경계이고 블록 P와 Q가 서로 다른 CTU에 있으면:
○ Q 블록(여기서 Q 블록이 P 블록 아래에 있는 블록으로 표시됨)이 CIIP를 적용하여 예측되면, 경계 강도는 2와 같게 설정된다.
○ Q 블록이 CIIP를 적용하여 예측되지 않고 P 블록 또는 Q 블록 중 적어도 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
○ Q 블록이 CIIP를 적용하여 예측되지 않고 블록 P와 Q가 모두 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정될 수 있다.
● 그렇지 않으면(경계가 수직 경계이거나 블록 P와 블록 Q가 동일한 CTU 내에 포함되어 있으면):
○ P 블록 또는 Q 블록 중 적어도 하나가 CIIP를 적용하여 예측되면, 경계의 경계 강도는 2와 같게 설정된다.
○ P 블록과 Q 블록이 모두 CIIP를 적용하여 예측되지 않고, P 블록 또는 Q 블록 중 적어도 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
○ P 블록과 Q 블록이 모두 CIIP를 적용하여 예측되지 않고 P 블록과 Q 블록이 모두 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정된다.
● P 블록과 Q 블록에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블로킹 필터를 적용하여 필터링된다.
본 실시예의 이점:
다중 가설(CIIP) 예측을 적용하여 예측되는 블록의 디블로킹 필터링은 중간 강도(경계 강도가 1과 같음)인 디블로킹 필터를 사용하여 수행된다.
블록이 CIIP를 적용하여 예측되면, 제1 예측은 인터 예측을 적용하여 획득되고, 제2 예측은 인트라 예측을 적용하여 획득되며, 이들은 나중에 결합된다. 최종 예측은 인트라 예측 부분을 포함하므로, CIIP에 의해 예측되는 블록 경계에 블록 아티팩트가 있을 수 있다. 이 문제를 완화하기 위해, 본 개시에 따라 경계 강도를 2로 설정하여 CIIP를 적용하여 예측되는 블록 에지의 필터링을 보장한다.
또한, 본 개시는 다음과 같이 필요한 라인 메모리를 감소시킨다. 라인 메모리는 상단 CTU 행에 대응하는 정보를 저장하는 데 필요한 메모리로 정의되며 이웃한 하단 CTU 행의 처리 중에 필요하다. 예를 들어, 두 CTU 행 사이의 수평 경계를 필터링하려면, 상단 CTU 행의 예측 모드 정보(인트라 예측/인터 예측/다중 가설(CIIP) 예측)가 라인 메모리에 저장되어야 한다. 블록의 예측 모드를 설명할 수 있는 3가지 상태(인트라 예측/인터 예측/다중 가설(CIIP) 예측)가 가능하므로, 라인 메모리 요건은 블록당 2비트로 정의될 수 있다.
그러나 본 개시에 따르면, 블록(실시예에서 P 블록)이 상단 CTU 행에 속하는 경우, 디블로킹 동작은 블록이 인터 예측에 의해 예측되는지 또는 인트라 예측에 의해 예측되는지에 대한 정보만을 필요로한다(따라서 단지 2 개의 상태, 블록 당 1 비트를 사용하여 저장할 수 있음).
그러나 본 개시에 따르면, 블록(실시예에서 P 블록)이 상단 CTU 행에 속하면, 디블로킹 작업은, 블록이 인터 예측에 의해 예측되는지 또는 인트라 예측에 의해 예측되는지에 대한 정보만을 필요로 한다(따라서 단지 2가지 상태, 블록당 1 비트를 사용하여 저장될 수 있음).
그 이유는 다음과 같다:
P 블록과 Q 블록 사이의 경계가 수평 경계이고 Q 블록과 P 블록이 서로 다른 2개의 CTU에 속하면(Q 블록은 모든 실시예에서 P 블록에 대해 하단에 있는 것임), P 블록이 CIIP를 적용하여 예측되는지에 대한 정보는 경계 강도의 결정에 활용되지 않는다. 따라서 상기 정보는 저장되지 않아도 된다. 인트라 예측과 CIIP가 상호 배타적이기 때문에 전술한 실시예 7의 제1 조건을 확인하기 위해 P 블록이 인트라 예측에 의해 예측되는지를 판정하는 것으로 충분하다. 따라서
하드웨어 구현에서의 본 개시의 도움으로, P 블록의 예측 모드는 일시적으로 인터 예측(P 블록이 CIIP에 의해 예측되는 경우)으로 변경될 수 있으며, 경계 강도 결정은 변경된 예측 모드에 따라 수행될 수 있다. 이후(경계 강도의 결정 후), 예측 모드는 CIIP로 다시 변경될 수 있다. 하드웨어 구현은 여기에 설명된 방법(CTU 경계에서 P 블록의 예측 모드 변경)에 한정되지 않는다는 점에 유의하기 바란다. 본 개시에 따르면, P 블록이 CIIP에 의해 예측되는지에 대한 정보는 (수평 CTU 경계에서) 경계 강도 결정에 필요하지는 않음을 설명하기 위해 예시로 제시한 것이다.
따라서, 본 개시에 따르면, 필요한 라인 메모리는 블록당 2비트에서 블록당 1비트로 감소된다. 하드웨어에서 구현되어야 하는 총 라인 메모리는 영상 폭에 비례하고 최소 블록 폭에 반비례함에 유의하기 바란다.
실시예 8:
이 실시예는 실시예 6의 변형을 나타낸다.
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 본 실시예에 따라 결정될 수 있다:
● P와 Q 중 적어도 하나의 블록이 CIIP를 적용하지 않고 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같게 설정된다. 가능성으로는 다중 가설 예측(CIIP)가 아닌 인트라 예측에 의해 예측되는 P 블록과 임의의 예측 함수에 의해 예측되는 Q 블록을 포함하고, 그 반대의 경우도 마찬가지이다.
● P 블록과 Q 블록이 인터 예측 또는 CIIP를 적용하여 예측되면(가능성으로는 인터 블록인 P 블록과 인터 블록인 Q 블록, 또는 대안으로 인터 블록인 P 블록과 CIIP 블록인 Q 블록, 또는 대안으로 CIIP 블록인 P 블록과 인터 블록인 Q 블록, 또는 대안으로 CIIP 블록인 P 블록과 CIIP 블록인 Q 블록을 포함함), 다음이 적용될 수 있다:
○ P 블록과 Q 블록 중 적어도 하나에 0이 아닌 변환 계수가 있으면, 경계의 경계 강도 파라미터는 1과 같게 설정된다.
○ 그렇지 않으면(P 블록과 Q 블록에 0이 아닌 변환 계수가 없으면), P 블록과 Q 블록을 예측하는 데 사용되는 절대 차가 하나의 정수 루마 샘플보다 크거나 같으면, 이 경계의 경계 강도는 1과 같게 설정된다.
○ 그렇지 않으면(블록 P와 Q에 0이 아닌 변환 계수가 없고 움직임 벡터 간의 절대 차이 하나의 정수 루마 샘플보다 작으면), 블록 P와 Q가 다른 참조 영상에 기초하여 예측되거나 블록 P와 블록 Q를 예측하는 데 사용되는 움직임 벡터의 수가 같지 않으면, 이 경계의 경계 강도는 1과 같게 설정된다. 이러한 마지막 두 조건의 순서는 도 13과 같이 반대로 될 수 있다.
○ 그렇지 않으면(위의 3가지 조건이 모두 거짓으로 평가되면), 이 경계의 경계 강도는 0과 같게 설정된다.
● 경계가 수평 경계이고 P와 Q가 두 개의 다른 CTU에 있으면:
○ 블록 Q가 CIIP를 적용하여 예측되면, 결정된 경계 강도는 다음과 같이 수정된다:
■ 경계 강도가 2가 아니면, 경계 강도는 1씩 증분된다.
● 경계가 수직 경계이거나 블록 P와 블록 Q가 동일한 CTU 내에 포함되어 있으면:
○ 블록 P와 블록 Q 중 적어도 하나가 CIIP를 적용하여 예측되면, 경계의 경계 강도는 다음과 같이 조정된다:
■ 경계 강도가 2가 아니면, 경계 강도는 1씩 증분된다.
● 블록 P와 블록 Q에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블록킹 필터를 적용하여 필터링된다.
본 실시예의 이점:
다중 가설 예측, 즉 CIIP를 적용하여 예측되는 블록의 디블로킹 필터링은 중간 강도(경계 강도가 1과 같음)인 디블로킹 필터를 사용하여 수행된다.
블록이 CIIP를 적용하여 예측되면, 제1 예측은 인터 예측을 적용하여 획득되고, 제2 예측은 인트라 예측을 적용하여 획득되며, 이들은 나중에 결합된다. 최종 예측은 인트라 예측 부분을 포함하므로, CIIP에 의해 예측되는 블록 경계에 블록 아티팩트가 있을 수 있다. 이 문제를 완화하기 위해, 본 개시에 따라 경계 강도가 1씩 증분되어 CIIP를 적용하여 예측되는 블록 에지의 필터링을 보장한다.
또한, 본 개시는 다음과 같이 필요한 라인 메모리를 감소시킨다. 라인 메모리는 상단 CTU 행에 대응하는 정보를 저장하는 데 필요한 메모리로 정의되며 이웃한 하단 CTU 행의 처리 중에 필요하다. 예를 들어, 두 CTU 행 사이의 수평 경계를 필터링하려면, 상단 CTU 행의 예측 모드 정보(인트라 예측/인터 예측/다중 가설(CIIP) 예측)가 라인 메모리에 저장되어야 한다. 블록의 예측 모드를 설명할 수 있는 3가지 상태(인트라 예측/인터 예측/다중 가설(CIIP) 예측)가 가능하므로, 라인 메모리 요건은 블록당 2비트로 정의될 수 있다.
그러나 본 개시에 따르면, 블록(실시예에서 P 블록)이 상단 CTU 행에 속하는 경우, 디블로킹 동작은 블록이 인터 예측에 의해 예측되는지 또는 인트라 예측에 의해 예측되는지에 대한 정보만을 필요로 한다(따라서 단지 2가지 상태, 블록당 1 비트를 사용하여 저장할 수 있음).
그러나 본 개시에 따르면, 블록(실시예에서 P 블록)이 상단 CTU 행에 속하면, 디블로킹 작업은, 블록이 인터 예측에 의해 예측되는지 또는 인트라 예측에 의해 예측되는지에 대한 정보만을 필요로 한다(따라서 단지 2가지 상태, 블록당 1 비트를 사용하여 저장될 수 있음).
그 이유는 다음과 같다:
P 블록과 Q 블록 사이의 경계가 수평 경계이고 Q 블록과 P 블록이 서로 다른 두 개의 CTU에 속하면(Q 블록은 모든 실시예에서 P 블록에 대해 하단에 있는 것임), P 블록이 CIIP를 적용하여 예측되는지에 대한 정보는 경계 강도 결정에 활용되지 않는다. 따라서 이를 저장하지 않아도 된다. 인트라 예측과 CIIP가 상호 배타적이기 때문에 전술한 실시예 8의 제1 조건을 확인하기 위해 P 블록이 인트라 예측에 의해 예측되는지를 결정하는 것으로 충분하다.
하드웨어 구현에서의 본 개시의 도움으로, P 블록의 예측 모드는 일시적으로 인터 예측(P 블록이 CIIP에 의해 예측되는 경우)으로 변경될 수 있으며, 경계 강도 결정은 변경된 예측 모드에 따라 수행될 수 있다. 이후(경계 강도의 결정 후), 예측 모드는 CIIP로 다시 변경될 수 있다. 하드웨어 구현은 여기에 설명된 방법(CTU 경계에서 P 블록의 예측 모드 변경)에 한정되지 않는다는 점에 유의하기 바란다. 본 개시에 따르면, P 블록이 CIIP에 의해 예측되는지에 대한 정보는 (수평 CTU 경계에서) 경계 강도 결정에 필요하지는 않음을 설명하기 위해 예시로 제시한 것이다.
따라서, 본 개시에 따르면, 필요한 라인 메모리는 블록당 2비트에서 블록당 1비트로 감소된다. 하드웨어에서 구현되어야 하는 총 라인 메모리는 영상 폭에 비례하고 최소 블록 폭에 반비례함에 유의하기 바란다.
위의 모든 실시예에 따르면, CIIP를 적용하여 블록을 예측하면, 인터 예측을 적용하여 첫 번째 예측을 획득하고 인트라 예측을 적용하여 제2 예측을 획득하며, 이들을 나중에 결합함에 유의하기 바란다.
위의 실시예는 디블로킹 필터를 수행할 때 CIIP 블록이 인트라 블록으로 간주되는 정도가 다르다는 것을 나타낸다. 실시예 1, 2 및 3은 경계의 경계 강도를 조정하기 위해 세 가지 다른 전략을 사용한다.
실시예 1은 CIIP 블록을 완전히 인트라 블록으로 간주한다. 따라서, Bs를 2로 설정하는 조건은 표 1과 동일하다.
실시예 2는 CIIP 블록으로 인한 왜곡을 인트라 블록에 의한 것만큼 높지 않은 것으로 간주한다. 따라서 경계에서 CIIP 블록이 검출되는 경우, Bs는 1로 간주된다.
실시예 3은 CIIP 블록을 부분적으로 인트라 블록으로 간주하고, 여기서 경계의 적어도 하나의 인접한 블록이 CIIP 블록이면 Bs가 1 증가된다. 도 13의 기존 도출 전략을 사용하여 Bs가 이미 2이면, Bs는 변경되지 않는다.
도 11은 위에서 언급한 참조에 따라 VVC Draft 3.0에서의 Bs의 도출을 나타낸다. 도 12, 도 14 및 도 15는 각각 실시예 1, 실시에 2 및 실시예 3에 대한 Bs 도출에 대한 변경을 보여준다.
실시예 1 및 실시예 2의 경우, 잠재적 왜곡이 감소될 뿐 아니라 처리 로직도 감소됨에 주목할 만한 가치가 있다. 실시예 1 및 실시예 2에서, P 블록 또는 Q 블록이 CIIP 블록인 한, 계수 및 움직임 벡터에 대한 확인은 더 이상 필요하지 않으므로, 조건 확인을 위한 대기 시간(latency)이 단축된다.
실시예 4, 실시예 5 및 실시예 6은 라인 버퍼 메모리가 고려되는 실시예 1, 실시예 2 및 실시예 3 각각의 변형이다. 실시예 1, 실시예 2 및 실시예 3의 주요 변경 사항은 P 블록과 Q 블록이 서로 다른 CTU에 있고 에지가 수평인 경우, CIIP 블록에 대한 확인은 비대칭적으로 수행된다는 것이다. 즉, P 측 블록(즉, 위쪽)을 확인하지 않고, Q 측 블록(즉, 아래쪽)만을 확인한다. 이러한 방식으로, 다른 CTU에 있는 P 측 블록의 CIIP 플래그를 저장하기 위해 추가적인 라인 버퍼 메모리가 할당되지 않는다.
위의 여섯 개의 실시예에 더하여, CIIP 블록의 한 가지 추가적인 특징은 CIIP 블록이 일관하여 인트라 블록으로 간주될 필요가 없다는 것이다. 한 예에서, 현재 블록의 움직임 벡터 예측자를 검색할 때, 그 이웃한 블록이 CIIP 블록이면 이러한 CIIP 블록의 움직임 벡터는 움직임 벡터 예측자로 간주될 수 있다. 이 경우, CIIP 블록의 인터 예측 정보가 사용되므로, CIIP 블록은 더 이상 인트라 블록으로 간주되지 않는다. 다른 예에서, 인트라 블록에 대한 MPM 목록을 구축하는 경우, 현재 블록의 이웃한 CIIP 블록은 인트라 정보를 포함하지 않는 것으로 간주될 수 있다. 따라서, 현재 블록의 MPM 목록 구축을 위해 그러한 CIIP 블록의 가용성을 확인할 때, 그것들은 이용 불가능한 것으로 레이블이 지정된다. 이 단락에서 언급한 CIIP 블록은 디블로킹 필터의 Bs 값을 결정하는 데 사용되는 CIIP 블록에만 한정되지 않음에 유의하기 바란다.
위의 여섯 개의 실시예에 더하여, CIIP 블록의 한 가지 추가적인 특징은, MH 블록이 일관하여 인트라 블록으로 간주된다는 것일 수 있다. 한 예에서, 현재 블록의 움직임 벡터 예측자를 검색할 때, 이웃한 블록이 CIIP 블록이면 이러한 CIIP 블록의 움직임 벡터는 움직임 벡터 예측자에서 제외된다. 이 경우, CIIP 블록의 인터 예측 정보는 사용되지 않으므로, CIIP 블록은 인트라 블록으로 간주된다. 다른 예에서, 인트라 블록에 대한 MPM 목록을 구축하는 경우, 현재 블록의 이웃한 CIIP 블록은 인트라 정보를 포함하는 것으로 간주될 수 있다. 따라서, 현재 블록의 MPM 목록 구축을 위해 그러한 CIIP 블록의 가용성을 확인할 때, 이용 가능한 것으로 레이블이 지정된다. 이 단락에서 언급한 CIIP 블록은 디블로킹 필터의 Bs 값을 결정하는 데 사용되는 CIIP 블록에만 한정되지 않음에 유의하기 바란다.
실시예 9:
한 예에서, CIIP 블록 경계의 경계 강도(Bs)는 값 2로 설정될 수 있지만, CIIP 블록 내부의 서브블록 경계의 경계 강도는 값 1로 설정될 수 있다. 서브블록의 경계가 8x8 샘플 그리드에 맞춰져 있지 않으면, 이러한 에지의 경계 강도는 값 0으로 설정될 수 있다. 8x8 그리드는 도 16 또는 17에 도시되어 있으며, 도 16은 CU의 왼쪽 상단(top-left) 샘플에서 시작하는 8x8 샘플을 도시하고, 도 17은 CU의 왼쪽 상단 샘플에서 시작하지 않는 8x8 샘플 그리드를 도시한다.
다른 예에서, 에지의 경계 강도는 다음과 같이 결정될 수 있다:
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 이 예에 따라 도출될 수 있다:
● 경계가 수평 경계이고 블록 P와 블록 Q가 서로 다른 CTU에 있으면:
○ Q 블록(여기서 Q 블록이 P 블록 아래에 있는 블록으로 표시됨)이 CIIP를 적용하여 예측되면, 경계 강도는 2와 같게 설정된다.
○ Q 블록이 CIIP를 적용하여 예측되지 않고 P 블록 또는 Q 블록 중 적어도 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
○ Q 블록이 CIIP를 적용하여 예측되지 않고 블록 P와 Q가 모두 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정될 수 있다.
● 그렇지 않으면(P 및 Q가 CIIP 블록 내부의 두 서브블록에 대응하면, 즉 타깃 경계가 CIIP 블록 내부의 서브블록 경계이면):
○ 서브블록 경계가 8x8 그리드에 맞춰져 있으면, 경계 강도를 값 1로 설정한다.
○ 그렇지 않으면(서브블록 경계가 8x8 그리드에 맞춰져 있지 않으면), 경계 강도를 값 0으로 설정한다.
● 그렇지 않으면(경계가 수직 경계이거나 블록 P와 블록 Q가 동일한 CTU 내부에 포함되고, P와 Q가 동일한 CIIP 블록에 있지 않으면):
○ 블록 P 또는 Q 중 적어도 하나가 CIIP를 적용하여 예측되면, 경계의 경계 강도 파라미터는 2와 같게 설정된다.
○ P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고, P 블록과 Q 블록 중 어느 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
○ P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고, 블록 P와 Q 모두가 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정될 수 있다.
● P 블록과 Q 블록에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블로킹 필터를 적용하여 필터링된다.
다른 예에서, CIIP 블록 경계의 경계 강도(Bs)는 값 2로 설정될 수 있지만 CIIP 블록 내부의 서브블록의 경계의 경계 강도는 값 1로 설정될 수 있다. 서브블록의 경계가 4x4 샘플 그리드에 맞춰져 있지 않은 경우, 이러한 에지의 경계 강도는 값 0으로 설정될 수 있다. 4x4 그리드는 도 18에 도시되어 있다.
다른 예에서, 에지의 경계 강도는 다음과 같이 결정될 수 있다:
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 이 예에 따라 도출될 수 있다:
● 경계가 수평 경계이고 블록 P와 블록 Q가 서로 다른 CTU에 있으면:
○ Q 블록(여기서 Q 블록이 P 블록 아래에 있는 블록으로 표시됨)이 CIIP를 적용하여 예측되면, 경계 강도는 2와 같게 설정된다.
○ Q 블록이 CIIP를 적용하여 예측되지 않고 P 블록 또는 Q 블록 중 적어도 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
○ Q 블록이 CIIP를 적용하여 예측되지 않고 블록 P와 Q가 모두 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정될 수 있다.
● 그렇지 않으면(P 및 Q가 CIIP 블록 내부의 두 서브블록에 대응하면, 즉 타깃 경계가 CIIP 블록 내부의 서브블록 경계이면):
○ 서브블록 경계가 4x4 그리드에 맞춰져 있으면, 경계 강도를 값 1로 설정한다.
○ 그렇지 않으면(서브블록 경계가 4x4 그리드에 맞춰져 있지 않으면), 경계 강도를 값 0으로 설정한다.
● 그렇지 않으면(경계가 수직 경계이거나 P 블록과 Q 블록이 동일한 CTU 내부에 포함되고, P와 Q가 동일한 CIIP 블록에 있지 않으면):
○ P 블록 또는 Q 블록 중 적어도 하나가 CIIP를 적용하여 예측되면, 경계의 경계 강도 파라미터는 2와 같게 설정된다.
○ P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고 P 블록과 Q 블록 중 어느 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
○ P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고, 블록 P와 Q 모두가 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정될 수 있다.
● 블록 P와 블록 Q에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블로킹 필터를 적용하여 필터링된다.
실시예 10(라인 버퍼 제한 없음):
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 본 실시예에 따라 도출될 수 있다:
● 블록 P 또는 블록 Q 중 적어도 하나가 CIIP를 적용하여 예측되고 블록 P와 블록 Q가 동일한 CIIP 블록 내부에 없으면, 경계의 경계 강도가 2와 같게 설정된다.
● 블록 P와 블록 Q가 모두 CIIP를 적용하여 예측되고 블록 P와 블록 Q가 동일한 CIIP 블록 내부에 있으면:
○ 서브블록 경계가 8x8 그리드에 맞춰져 있으면, 경계 강도는 값 1로 설정된다.
○ 그렇지 않으면(서브블록 경계가 8x8 그리드에 맞춰져 있지 않으면), 경계 강도는 값 0으로 설정된다.
● P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고, P 블록 또는 Q 블록 중 적어도 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
● P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고, P 블록과 Q 블록이 모두 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정될 수 있다.
블록 P 및 블록 Q에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블록킹 필터를 적용하여 필터링된다.
실시예 11(라인 버퍼 제한 없고, 8x8 그리드를 사용하여 CIIP 정렬):
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 본 실시예에 따라 도출될 수 있다:
● 블록 P 또는 블록 Q 중 적어도 하나가 CIIP를 적용하여 예측되고 블록 P와 블록 Q가 동일한 CIIP 블록 내부에 있지 않고 경계가 8x8 그리드에 맞춰져 있으면, 경계의 경계 강도는 2와 같게 설정된다.
● 블록 P와 블록 Q가 모두 CIIP를 적용하여 예측되고 블록 P와 블록 Q가 동일한 CIIP 블록 내부에 있으면:
○ 서브블록 경계가 8x8 그리드에 맞춰져 있으면, 경계 강도를 값 1로 설정한다.
○ 그렇지 않으면(서브블록 경계가 8x8 그리드에 맞춰져 있지 않으면), 경계 강도를 값 0으로 설정한다.
● P 블록과 Q 블록이 어느 것도 CIIP를 적용하여 예측되지 않고, P 블록 또는 Q 블록 중 적어도 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
● P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고, P 블록과 Q 블록이 모두 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정될 수 있다.
● 블록 P 및 블록 Q에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블록킹 필터를 적용하여 필터링된다.
실시예 12(라인 버퍼 제한 없음, TU 크기 제한, CIIP 경계에 대해서도 8x8 그리드 정렬):
한 예에서, CIIP 블록의 경계의 경계 강도(Bs)는 값 2로 설정될 수 있지만, TU 크기 제한으로 인한 서브블록(도 8에 도시됨)을 제외하고, CIIP 블록 내부의 서브블록의 경계의 경계 강도는 값 1로 설정될 수 있다. 경계가 TU 경계이고 이웃한 P 블록과 Q 블록이 동일한 CIIP 블록에 속하면, 경계의 경계 강도가 2로 설정된다. 서브블록의 경계 또는 CIIP 블록의 경계(CIIP 블록 크기는 8x8보다 작을 수 있음)가 8x8 샘플 그리드에 맞춰져 있지 않은 경우, 이러한 에지의 경계 강도는 값 0으로 설정될 수 있다. 8x8 그리드는 도 16 또는 도 17에 도시되어 있으며, 여기서 도 16은 CU의 왼쪽 상단 샘플에서 시작하는 8x8 샘플 그리드를 도시하고 도 17은 CU의 왼쪽 상단 샘플에서 시작하지 않는 8x8 샘플 그리드를 도시한다.
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 이 예에 따라 도출될 수 있다:
● 블록 P 또는 블록 Q 중 적어도 하나가 CIIP를 적용하여 예측되고 블록 P와 블록 Q가 동일한 CIIP 블록 내부에 있지 않고 경계가 8x8 그리드에 맞춰져 있으면, 경계의 경계 강도는 2와 같게 설정된다.
● 블록 P와 블록 Q가 모두 CIIP를 적용하여 예측되고 블록 P와 블록 Q가 동일한 CIIP 블록 내부에 있으면:
○ 서브블록 경계가 8x8 그리드에 맞춰져 있으면, 서브블록 P 또는 서브블록 Q 중 어느 하나의 크기가 허용된 최대 TU 크기와 동일한 경우 경계 강도를 값 2로 설정한다.
○ 서브블록 경계가 8x8 그리드에 맞춰져 있으면, 서브블록 P 또는 서브블록 Q 중 어느 것의 크기도 허용된 최대 TU 크기와 동일하지 않은 경우 경계 강도를 값 1로 설정한다.
○ 그렇지 않으면(서브블록 경계가 8x8 그리드에 맞춰져 있지 않으면), 경계 강도를 값 0으로 설정한다.
● P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고 P 블록 또는 Q 블록 중 적어도 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
● P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고, P 블록과 Q 블록이 모두 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정될 수 있다.
블록 P 및 블록 Q에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블록킹 필터를 적용하여 필터링된다.
실시예 13(라인 버퍼 제한 없음, TU 크기 제한, CIIP 서브블록 경계에 대해서만 8x8 그리드 정렬):
한 예에서, CIIP 블록의 경계의 경계 강도(Bs)는 값 2로 설정될 수 있지만, TU 크기 제한으로 인한 서브블록(도 8에 도시됨)을 제외하고, CIIP 블록 내부의 서브블록의 경계의 경계 강도는 값 1로 설정될 수 있다. 경계가 TU 경계이고 이웃한 P 블록과 Q 블록이 동일한 CIIP 블록에 속하면, 경계의 경계 강도는 2로 설정된다. CIIP 블록의 서브블록의 경계가 8x8 샘플 그리드에 맞춰져 있지 않으면, 이러한 에지의 경계 강도는 값 0으로 설정될 수 있다. 8x8 그리드는 도 16 또는 도 17에 도시되어 있으며, 여기서 도 16은 CU의 왼쪽 상단 샘플에서 시작하는 8x8 샘플 그리드를 도시하고, 도 17은 CU의 왼쪽 상단 샘플에서 시작하지 않는 8x8 샘플 그리드를 도시한다.
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시됨)의 경우, 경계 강도는 다음과 같이 이 예에 따라 도출될 수 있다:
● 블록 P 또는 블록 Q 중 적어도 하나가 CIIP를 적용하여 예측되고 블록 P와 블록 Q가 동일한 CIIP 블록 내부에 있지 않으면, 경계의 경계 강도는 2와 같게 설정된다.
● 블록 P와 블록 Q가 모두 CIIP를 적용하여 예측되고 블록 P와 블록 Q가 동일한 CIIP 블록 내부에 있으면:
○ 서브블록 경계가 8x8 그리드에 맞춰져 있으면, 서브블록 P 또는 서브블록 Q 중 어느 하나의 크기가 허용된 최대 TU 크기와 동일한 경우 경계 강도를 값 2로 설정한다.
○ 서브블록 경계가 8x8 그리드에 맞춰져 있으면, 서브블록 P 또는 서브블록 Q 중 어느 것의 크기도 허용된 최대 TU 크기와 동일하지 않은 경우 경계 강도를 값 1로 설정한다.
○ 그렇지 않으면(서브블록 경계가 8x8 그리드에 맞춰져 있지 않으면), 경계 강도를 값 0으로 설정한다.
● P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고 P 블록 또는 Q 블록 중 적어도 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
● P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고, P 블록과 Q 블록이 모두 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정될 수 있다.
블록 P 및 블록 Q에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블로킹 필터를 적용하여 필터링된다.
실시예 14(TU 변환 에지, CIIP 서브블록에 대해서만 8x8 그리드 정렬):
한 예에서, CIIP 블록의 경계 또는 변환 유닛의 경계의 경계 강도(Bs)는 값 2로 설정될 수 있지만, CIIP 블록 내부의 서브블록의 경계의 경계 강도는 값 1로 설정될 수 있다. 경계가 TU 경계이고 이웃한 P 블록과 Q 블록이 동일한 CIIP 블록에 속하면, 경계의 경계 강도는 2로 설정된다. 서브블록의 경계 또는 변환 유닛의 경계 또는 CIIP 블록의 경계가 8x8 샘플 그리드에 맞춰져 있지 않으면, 이러한 에지의 경계 강도는 값 0으로 설정될 수 있다. 예를 들어, 8x8 그리드는 도 16 또는 도 17에 도시된 것일 수 있으며, 도 16은 CU의 왼쪽 상단 샘플에서 시작하는 8x8 샘플 그리드를 도시하고, 도 17은 CU의 왼쪽 상단 샘플에서 시작하지 않는 8x8 샘플 그리드를 도시한다.
두 변이 있는 경계(각 변의 공간적으로 인접한 블록이 P 블록과 Q 블록으로 표시되고, 상기 경계는 8x8 그리드에 맞춰져 있음)의 경우, 경계 강도는 다음과 같이 이 실시예에 따라 도출될 수 있다:
● 블록 P 또는 블록 Q 중 적어도 하나가 인트라 예측을 적용하여 예측되면, 경계 강도는 2와 같다고 결정된다.
● 그렇지 않고, P 또는 블록 Q 중 적어도 하나가 CIIP 예측을 적용하여 예측되고 블록 P와 블록 Q가 동일한 CIIP 블록 내부에 있지 않으면, 경계의 경계 강도 파라미터는 2와 같게 설정된다.
● 그렇지 않고, 블록 P와 블록 Q가 모두 CIIP를 적용하여 예측되고 블록 P와 블록 Q가 동일한 CIIP 블록 내부에 있으면, 즉 서브블록 경계인 경우에:
○ 서브블록 경계가 변환 유닛에 맞춰져 있으면, 서브블록 경계의 경계 강도를 값 2로 설정한다.
○ 그렇지 않으면, 서브블록 경계의 경계 강도를 값 1로 설정한다.
● P 블록과 Q 블록 어느 것도 CIIP를 적용하여 예측되지 않고, P 블록과 Q 블록이 모두 인터 예측을 적용하여 예측되면, 경계 강도는 2보다 작다고 결정된다. 경계 강도의 정확한 값은 도 13에 도시된 것과 같은 추가 조건부 평가에 따라 결정될 수 있다.
블록 P 및 블록 Q에 포함된 화소 샘플은 결정된 경계 강도에 따라 디블로킹 필터를 적용하여 필터링된다.
실시예 15:
다른 예에서, 본 개시에 따른 경계 강도 결정 프로세스는 전술한 참조에 따른 VVC Draft 3.0에서 사용되는 의사 코드 언어(pseudo-code language)로 다음과 같이 기술될 수 있다:
이 프로세스에 대한 입력은 다음과 같다:
- 영상 샘플 배열 recPicture,
- 현재 영상의 왼쪽 상단 샘플에 상대적인 현재 코딩 블록의 왼쪽 상단 샘플을 지정하는 위치(xCb, yCb),
- 현재 코딩 블록의 폭을 지정하는 변수 nCbW,
- 현재 코딩 블록의 높이를 지정하는 변수 nCbH,
- 수직(EDGE_VER) 또는 수평(EDGE_HOR) 에지가 필터링되는지부를 지정하는 변수 edgeType,
- 2차원 (nCbW)x(nCbH) 배열 edgeFlags.
이 프로세스의 출력은 경계 필터링 강도를 지정하는 2차원 (nCbW)x(nCbH) 배열 bS이다.
변수 xDi, yDj, xN 및 yN은 다음과 같이 도출된다.
- edgeType이 EDGE_VER와 같으면, xDi는 (i << 3)과 같게 설정되고, yDj는 (j << 2)와 같게 설정되고, xN은 Max(0,(nCbW/8) - 1)과 같게 설정되고 yN은(nCbH/4) - 1과 같게 설정된다.
- 그렇지 않으면(edgeType이 EDGE_HOR와 같음), xDi는 (i << 2)와 같게 설정되고, yDj는 (j << 3)와 같게 설정되고, xN은 (nCbW/4) - 1과 같게 설정되고, yN은 Max(0,(nCbH/8) - 1)과 같게 설정된다.
i = 0..xN인 xDi 및 j = 0..yN 인 yDj의 경우 다음이 적용된다:
- edgeFlags[xDi][yDj]가 0과 같으면, 변수 bS[xDi][yDj]는 0과 같게 설정된다.
- 그렇지 않으면, 다음이 적용된다:
- 샘플 값 p0 및 q0은 다음과 같이 도출된다:
- edgeType이 EDGE_VER와 같으면, p0은 recPicture[xCb + xDi - 1][yCb + yDj]와 같게 설정되고 q0는 recPicture [xCb + xDi][yCb + yDj]와 같게 설정된다.
- 그렇지 않으면(edgeType이 EDGE_HOR와 같음), p0은 recPicture [xCb + xDi][yCb + yDj - 1]과 같게 설정되고 q0은 recPicture [xCb + xDi] [yCb + yDj]와 같게 설정된다.
- 변수 bS[xDi][yDj]는 다음과 같이 도출된다:
- 샘플 p0 또는 q0이 인트라 예측 모드를 사용하여 코딩된 코딩 유닛의 코딩 블록에 있으면, bS[xDi][yDj]는 2와 같게 설정된다.
- 그렇지 않으면, 블록 에지도 변환 블록 에지이고 샘플 p0 또는 q0의 ciip_flag가 1이면, bS[xDi][yDj]는 2와 같게 설정된다.
- 그렇지 않으면, 샘플 p0 또는 q0의 ciip_flag가 1이면, bS[xDi][yDj]는 1과 같게 설정된다.
- 그렇지 않으면, 블록 에지도 변환 블록 에지이고 샘플 p0 또는 q0이 하나 이상의 0이 아닌 변환 계수 레벨을 포함하는 변환 블록에 있으면, bS[xDi][yDj]는 1과 같게 설정된다.
- 그렇지 않으면 다음 조건 중 하나 이상이 참이면, bS[xDi][yDj]는 1과 같게 설정된다.
- 샘플 p0를 포함하는 코딩 서브블록의 예측을 위해, 샘플 q0를 포함하는 코딩 서브블록의 예측을 위한 것과 상이한 참조 영상 또는 상이한 수의 움직임 벡터가 사용된다.
주 1 - 두 개의 코딩 서브블록에 사용된 참조 영상이 동일하거나 상이한지에 대한 판정은 참조 영상 목록 0에 대한 색인 또는 참조 영상 목록 1에 대한 색인을 사용하여 예측이 수행되는지와 관계없이, 그리고 또한 참조 영상 목록 내의 색인 위치가 다른지와 관계없이, 어떤 영상이 참조되는지에만 기초한다.
주 2 - (xSb, ySb)를 덮는 왼쪽 상단 샘플이 있는 코딩 서브블록의 예측에 사용되는 움직임 벡터의 수는 PredFlagL0[xSb][ySb] + PredFlagL1 [xSb][ySb]와 같다. .
하나의 움직임 벡터가 샘플 p0를 포함하는 코딩 서브블록을 예측하는 데 사용되고, 하나의 움직임 벡터가 샘플 q0을 포함하는 코딩 서브블록을 예측하는 데 사용되며, 사용된 움직임 벡터의 수평 성분 또는 수직 성분 간의 절대 차는 1/4 루마 샘플 단위로 4보다 크거나 같다.
- 두 개의 움직임 벡터와 두 개의 상이한 참조 영상이 샘플 p0를 포함하는 코딩 서브블록을 예측하는 데 사용되고, 동일한 두 참조 영상에 대한 두 개의 움직임 벡터가 샘플 q0을 포함하는 코딩 서브블록을 예측하는 데 사용되며, 동일한 참조 영상에 대한 두 개의 코딩 서브블록의 예측에 사용된 두 개의 움직임 벡터의 수평 성분 또는 수직 성분 간의 절대 차는 1/4 루마 샘플 단위로 4보다 크거나 같다.
- 동일한 참조 영상에 대한 두 개의 움직임 벡터는 샘플 p0를 포함하는 코딩 서브블록을 예측하는 데 사용되고, 동일한 참조 영상에 대한 두 개의 움직임 벡터는 샘플 q0 를 포함하는 코딩 서브블록을 예측하는 데 사용되며 다음 조건은 둘다 참이다:
- 두 코딩 서브블록의 예측에 사용된 목록 0 움직임 벡터의 수평 성분 또는 수직 성분 간의 절대 차는 1/4 루마 샘플로 4보다 크거나 같거나, 또는 두 개의 코딩 서브블록의 예측에 사용된 목록 1 움직임 벡터의 수평 성분 또는 수직 성분의 절대 차는 1/4 루마 샘플 단위로 4보다 크거나 같다.
- 샘플 p0를 포함하는 코딩 서브블록의 예측에 사용된 목록 0 움직임 벡터와 샘플 q0를 포함하는 코딩 서브블록의 예측에 사용된 목록 1 움직임 벡터의 수평 성분 또는 수직 성분 간의 절대 차는 1/4 루마 샘플 단위로 4보다 크거나 같거나, 또는 샘플 p0을 포함하는 코딩 서브블록의 예측에 사용된 목록 1 움직임 벡터와 샘플 q0를 포함하는 코딩 서브블록의 예측에 사용된 목록 0 움직임 벡터의 수평 성분 또는 수직 성분 간의 절대 차는 1/4 루마 샘플 단위로 4보다 크거나 같다.
- 그렇지 않으면, 변수 bS[xDi][yDj]이 0과 같게 설정된다.
본 발명의 실시예는 주로 비디오 코딩에 기초하여 설명되었지만, 코딩 시스템(10), 인코더(20) 및 디코더(30)(및 이에 상응하여 시스템(10))의 실시예 및 여기에 설명된 다른 실시예도 여전히 영상 처리 또는 코딩, 즉 비디오 코딩에서와 같이 임의의 선행 또는 연속하는 영상에 독립적인 개별 영상의 처리 또는 코딩을 위해 구성될 수 있다. 일반적으로 영상 처리 코딩이 단일 영상(17)으로 한장되는 경우 인터 예측 유닛(244)(인코더) 및 인터 예측 유닛(344)(디코더)만 이용 불가능할 수 있다. 비디오 인코더(20) 및 비디오 디코더(30)의 다른 모든 기능(도구 또는 기술이라고도 함)는 동일하게 정지 영상 처리, 예컨대, 잔차 계산 204/304, 변환 206, 양자화 208, 역 양자화 210/310, (역) 변환 212/312, 분할 262/362, 인트라 예측 254/354 및/또는 루프 필터링 220, 320 및 엔트로피 코딩 270 및 엔트로피 디코딩 304에 동일하게 사용될 수 있다.
예컨대, 인코더(20) 및 디코더(30)의 실시예 및 예컨대 인코더(20) 및 디코더(30)를 참조하여 여기에 기술된 기능은, 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수 있다. 소프트웨어로 구현되는 경우, 기능은 컴퓨터로 판독 가능한 매체에 저장되거나 통신 매체를 통해 하나 이상의 명령어 또는 코드로서 전송되고 하드웨어 기반 처리 유닛에 의해 실행될 수 있다. 컴퓨터로 판독 가능한 매체로는 데이터 저장 매체와 같은 유형의 매체에 대응하는 컴퓨터로 판독 가능한 저장 매체, 또는 예컨대 통신 프로토콜에 따라 컴퓨터 프로그램을 한 장소에서 다른 장소로 전송하는 것을 용이하게 하는 임의의 매체를 포함하는 통신 매체를 포함할 수 있다. 이러한 방식으로, 컴퓨터로 판독 가능한 매체는 일반적으로 (1) 컴퓨터로 판독 가능한 비일시적인 유형의 저장 매체 또는 (2) 신호 또는 반송파와 같은 통신 매체에 대응할 수 있다. 데이터 저장 매체는 본 개시에 기재된 기술의 구현을 위한 명령어, 코드 및/또는 데이터 구조를 검색하기 위해 하나 이상의 컴퓨터 또는 하나 이상의 프로세서에 의해 액세스될 수 있는 임의의 이용 가능한 매체일 수 있다. 컴퓨터 프로그램 제품은 컴퓨터로 판독 가능한 매체를 포함할 수 있다.
한정이 아닌 예로서, 이러한 컴퓨터로 판독 가능한 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 기타 광학 디스크 저장장치, 자기 디스크 저장장치, 또는 기타 자기 저장장치, 플래시 메모리, 또는 명령어 또는 데이터 구조의 형태로 원하는 프로그램 코드를 저장하는 데 사용할 수 있고 컴퓨터에서 액세스할 수 있는 기타 매체를 포함할 수 있다. 또한, 모든 연결은 적절히 컴퓨터로 판독 가능한 매체라고 한다. 예를 들어, 동축 케이블, 광섬유 케이블, 트위스트 페어, 디지털 가입자 회선(digital subscriber line, DSL), 또는 적외선, 라디오 및 마이크로파와 같은 무선 기술을 사용하여 웹 사이트, 서버 또는 기타 원격 소스에서 명령어가 전송되면, 동축 케이블, 광섬유 케이블, 트위스트 페어, DSL, 또는 적외선, 라디오 및 마이크로파와 같은 무선 기술이 매체 정의에 포함된다. 그러나 컴퓨터로 판독 가능한 저장 매체 및 데이터 저장 매체는 연결, 반송파, 신호 또는 기타 일시적인 매체를 포함하지 않고, 대신 비일시적 유형의 저장 매체에 대한 것임을 이해해야 한다. 여기에 사용된 disk 및 disc로는 컴팩트 디스크(compact disc, CD), 레이저 디스크, 광 디스크, DVD(Digital Versatile Disc), 플로피 디스크 및 블루레이(Blu-ray) 디스크가 포함되며, 여기서 disk는 일반적으로 데이터를 자기적으로 재생하는 반면 disc는 레이저를 사용하여 데이터를 광학적으로 재생한다. 위에 언급한 것들의 조합도 컴퓨터로 판독 가능한 매체의 범위 내에 포함되어야 한다.
명령어는 하나 이상의 DSP(디지털 신호 프로세서), 범용 마이크로프로세서, ASIC(application specific integrated circuits), FPGA(field programmable logic arrays) 또는 기타 동등한 통합된 또는 개별 논리 회로와 같은 하나 이상의 프로세서에 의해 실행될 수 있다. 따라서, 여기서 사용되는 용어 "프로세서"는 전술한 구조 또는 여기서 기재된 기술의 구현에 적합한 임의의 다른 구조를 지칭할 수 있다. 또한, 일부 측면에서, 여기에 기재된 기능은 인코딩 및 디코딩을 위해 구성된 전용 하드웨어 및/또는 소프트웨어 모듈 내에 제공되거나 결합된 코덱에 통합될 수 있다. 또한, 기술은 하나 이상의 회로 또는 논리 요소에서 완전히 구현될 수 있다.
본 개시의 기술은 무선 핸드셋, 집적 회로(IC) 또는 IC 세트(예: 칩 세트)를 포함하는 광범위한 기기 또는 장치에서 구현될 수 있다. 개시된 기술을 수행하도록 구성된 기기의 기능적 측면을 강조하기 위해 다양한 구성요소, 모듈 또는 유닛이 본 개시에서 설명되었지만, 반드시 상이한 하드웨어 유닛에 의한 실현을 필요로 하는 것은 아니다. 오히려, 전술한 바와 같이, 다양한 유닛이 코덱 하드웨어 유닛에 결합되거나, 적절한 소프트웨어 및/또는 펌웨어와 함께, 전술한 하나 이상의 프로세서를 포함한, 상호운용 하드웨어 유닛(interoperative hardware unit)의 집합에 의해 제공될 수 있다.

Claims (16)

  1. 코딩 디바이스로서,
    하나 이상의 프로세서; 및
    상기 하나 이상의 프로세서에 결합되고, 상기 하나 이상의 프로세서에 의한 실행을 위한 명령어를 저장하는 컴퓨터로 판독 가능한 비일시적인 저장 매체
    를 포함하고,
    상기 명령어는, 상기 하나 이상의 프로세서에 의해 실행될 때, 상기 코딩 디바이스가,
    현재 코딩 유닛의 경계가 수평 에지이고 상기 현재 코딩 유닛의 경계에 인접한 인접 코딩 유닛이 다른 코딩 트리 유닛(coding tree unit, CTU)에 있음을 인식하는 단계;
    현재 코딩 유닛이 결합형 인터-인트라 예측(combined inter-intra prediction, CIIP)의 적용에 의해 예측되는지를 판정하는 단계;
    상기 현재 코딩 유닛이 CIIP의 적용에 의해 예측된다고 판정하면, 상기 현재 코딩 유닛의 경계의 경계 강도를 제1 값으로 설정하는 단계;
    상기 현재 코딩 유닛이 상기 CIIP의 적용에 의해 예측되지 않는다고 판정하면, 상기 현재 코딩 유닛의 경계가 변환 블록의 에지이고 상기 변환 블록이 하나 이상의 0이 아닌(non-zero) 변환 계수 레벨을 포함하는지를 판정하는 단계; 및
    상기 현재 코딩 유닛의 경계가 변환 블록의 에지이고, 상기 변환 블록이 하나 이상의 0이 아닌 변환 계수 레벨을 포함한다고 판정하면, 상기 현재 코딩 유닛의 경계의 경계 강도를 제2 값으로 설정하는 단계
    를 수행하도록 구성하는, 코딩 디바이스.
  2. 제1항에 있어서,
    상기 제1 값은 1 내지 2의 범위에 있는, 코딩 디바이스.
  3. 제1항 또는 제2항에 있어서,
    상기 제1 값은 2인, 코딩 디바이스.
  4. 제1항 또는 제2항에 있어서,
    상기 제1 값은 1인, 코딩 디바이스.
  5. 제4항에 있어서,
    - 상기 현재 코딩 유닛 및 상기 현재 코딩 유닛의 경계에 인접한 인접 코딩 유닛 중 적어도 하나가 0이 아닌 변환 계수를 가지는 것,
    - 상기 현재 코딩 유닛과 상기 인접 코딩 유닛을 예측하는 데 사용되는 움직임 벡터 간의 절대 차가 하나의 정수 샘플보다 크거나 같은 것,
    - 상기 현재 코딩 유닛과 상기 인접 코딩 유닛이 서로 다른 참조 픽처에 기초하여 예측되는 것, 및
    - 상기 현재 코딩 유닛과 상기 인접 코딩 유닛을 예측하는 데 사용되는 움직임 벡터의 수가 상이한 것
    중 하나의 조건이 충족된다고 판정하면, 상기 제1 값을 1만큼 증가시키는 것
    을 더 포함하는 코딩 디바이스.
  6. 제1항 내지 제5항 중 어느 한 항에 있어서,
    서브코딩 유닛의 경계의 경계 강도를 제3 값으로 설정하는 것
    을 더 포함하고,
    상기 현재 코딩 유닛은 적어도 두 개의 서브코딩 유닛을 포함하고,
    상기 서브코딩 유닛의 경계는 상기 적어도 두 개의 서브코딩 유닛 간의 경계인, 코딩 디바이스.
  7. 제6항에 있어서,
    상기 제3 값은 1인, 코딩 디바이스.
  8. 제6항 또는 제7항에 있어서,
    상기 서브코딩 유닛의 경계가 변환 유닛의 에지인 경우, 상기 제3 값은 상기 제1 값과 같은, 코딩 디바이스.
  9. 제6항 또는 제7항에 있어서,
    상기 서브코딩 유닛의 경계가 변환 유닛의 에지가 아닌 경우, 상기 제3 값은 상기 제1 값과 다른, 코딩 디바이스.
  10. 제1항 내지 제9항 중 어느 한 항에 있어서,
    상기 현재 코딩 유닛의 경계가 8x8 그리드에 맞춰져 있는지를 판정하는 것; 및
    상기 현재 코딩 유닛의 경계가 상기 8x8 그리드에 맞춰져 있지 않다고 판정하면, 상기 현재 코딩 유닛의 경계의 경계 강도를 0으로 설정하는 것
    을 더 포함하는 코딩 디바이스.
  11. 제6항 내지 제9항 중 어느 한 항에 있어서,
    상기 서브코딩 유닛의 경계가 서브그리드에 맞춰져 있는지를 판정하는 것 - 상기 서브그리드는 4x4 그리드 또는 8x8 그리드임 -; 및
    상기 서브코딩 유닛의 경계가 상기 서브그리드에 맞춰져 있지 않다고 판정하면, 상기 서브코딩 유닛의 경계의 경계 강도를 0으로 설정하는 것
    을 더 포함하는 코딩 디바이스.
  12. 제1항 내지 제11항 중 어느 한 항에 있어서,
    상기 경계의 경계 강도가 0보다 큰 경우, 루마 성분의 경계에서 디블록킹을 수행하는 것
    을 더 포함하는 코딩 디바이스.
  13. 제1항 내지 제12항 중 어느 한 항에 있어서,
    상기 경계의 경계 강도가 1보다 큰 경우, 크로마 성분의 경계에서 디블록킹을 수행하는 것
    을 더 포함하는 코딩 디바이스.
  14. 제1항 내지 제13항 중 어느 한 항에 있어서,
    상기 현재 코딩 유닛은 CIIP의 적용에 의해 예측되고,
    상기 현재 코딩 유닛은 디블록킹을 수행할 때 인트라 예측을 사용하는 코딩 유닛으로 간주되는, 코딩 디바이스.
  15. 제1항 내지 제14항 중 어느 한 항에 있어서,
    상기 코딩 디바이스는 픽처를 인코딩하도록 구성되는, 코딩 디바이스.
  16. 제1항 내지 제14항 중 어느 한 항에 있어서,
    상기 코딩 디바이스는 픽처를 디코딩하도록 구성되는, 코딩 디바이스.
KR1020247014523A 2019-01-17 2020-01-16 인코더, 디코더 및 대응하는 디블록킹 필터 적응의 방법 KR20240064039A (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201962793840P 2019-01-17 2019-01-17
US62/793,840 2019-01-17
KR1020217017905A KR20210088697A (ko) 2019-01-17 2020-01-16 인코더, 디코더 및 대응하는 디블록킹 필터 적응의 방법
PCT/CN2020/072442 WO2020147782A1 (en) 2019-01-17 2020-01-16 An encoder, a decoder and corresponding methods of deblocking filter adaptation

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020217017905A Division KR20210088697A (ko) 2019-01-17 2020-01-16 인코더, 디코더 및 대응하는 디블록킹 필터 적응의 방법

Publications (1)

Publication Number Publication Date
KR20240064039A true KR20240064039A (ko) 2024-05-10

Family

ID=71614450

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020217017905A KR20210088697A (ko) 2019-01-17 2020-01-16 인코더, 디코더 및 대응하는 디블록킹 필터 적응의 방법
KR1020247014523A KR20240064039A (ko) 2019-01-17 2020-01-16 인코더, 디코더 및 대응하는 디블록킹 필터 적응의 방법

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020217017905A KR20210088697A (ko) 2019-01-17 2020-01-16 인코더, 디코더 및 대응하는 디블록킹 필터 적응의 방법

Country Status (10)

Country Link
US (1) US11962783B2 (ko)
EP (1) EP3868110A4 (ko)
JP (2) JP7351908B2 (ko)
KR (2) KR20210088697A (ko)
CN (3) CN117880499A (ko)
AU (1) AU2020208699A1 (ko)
BR (1) BR112021013644A2 (ko)
CA (1) CA3120828A1 (ko)
MX (1) MX2021006128A (ko)
WO (1) WO2020147782A1 (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112514402A (zh) * 2018-07-30 2021-03-16 三星电子株式会社 用于图像编码的方法和设备以及用于图像解码的方法和设备
WO2021157536A1 (ja) * 2020-02-06 2021-08-12 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法、および復号方法
EP4218235A4 (en) * 2020-09-23 2024-04-03 Beijing Dajia Internet Information Tech Co Ltd ENHANCEMENT OF CHROMINANCE CODING IN ADAPTIVE INTER-COMPONENT SAMPLE SHIFT WITH VIRTUAL BOUNDARY
CN114501035B (zh) * 2022-01-26 2024-02-13 百果园技术(新加坡)有限公司 视频编解码滤波处理方法、系统、设备及存储介质

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007503775A (ja) * 2003-08-26 2007-02-22 トムソン ライセンシング ハイブリッド・イントラ・インター符号化ブロックを符号化する方法及び装置
CN101472176A (zh) * 2007-12-29 2009-07-01 智多微电子（上海）有限公司 基于边界强度因子进行去块效应滤波的解码方法和装置
US9185430B2 (en) * 2010-03-15 2015-11-10 Mediatek Singapore Pte. Ltd. Deblocking filtering method and deblocking filter
CN103404147B (zh) 2011-03-10 2016-08-31 联发科技（新加坡）私人有限公司 去区块滤波器方法及装置
KR102219231B1 (ko) * 2011-09-20 2021-02-23 엘지전자 주식회사 영상 정보 인코딩/디코딩 방법 및 장치
JP2013098876A (ja) * 2011-11-02 2013-05-20 Sony Corp 画像処理装置および方法
US9374578B1 (en) * 2013-05-23 2016-06-21 Google Inc. Video coding using combined inter and intra predictors
US9832467B2 (en) * 2014-10-07 2017-11-28 Qualcomm Incorporated Deblock filtering for intra block copying
CN115134609A (zh) * 2015-06-11 2022-09-30 杜比实验室特许公司 使用自适应去块滤波编码和解码图像的方法及其装置
WO2018224004A1 (en) * 2017-06-07 2018-12-13 Mediatek Inc. Method and apparatus of intra-inter prediction mode for video coding
US11172203B2 (en) * 2017-08-08 2021-11-09 Mediatek Inc. Intra merge prediction
CN112514402A (zh) 2018-07-30 2021-03-16 三星电子株式会社 用于图像编码的方法和设备以及用于图像解码的方法和设备
US11652984B2 (en) * 2018-11-16 2023-05-16 Qualcomm Incorporated Position-dependent intra-inter prediction combination in video coding
WO2020098782A1 (en) * 2018-11-16 2020-05-22 Beijing Bytedance Network Technology Co., Ltd. Weights in combined inter intra prediction mode
CN117857806A (zh) * 2018-12-07 2024-04-09 华为技术有限公司 一种编码器、解码器及去块滤波器的边界强度的对应推导方法
EP3895422A1 (en) * 2018-12-11 2021-10-20 InterDigital VC Holdings, Inc. Method and apparatus for deblocking an image
US11356699B2 (en) * 2019-01-11 2022-06-07 Hfi Innovation Inc. Method and apparatus of sub-block deblocking in video coding

Also Published As

Publication number Publication date
CN117880498A (zh) 2024-04-12
CN117880499A (zh) 2024-04-12
BR112021013644A2 (pt) 2021-09-14
MX2021006128A (es) 2021-06-23
KR20210088697A (ko) 2021-07-14
JP7351908B2 (ja) 2023-09-27
WO2020147782A1 (en) 2020-07-23
CN113196783A (zh) 2021-07-30
AU2020208699A1 (en) 2021-06-10
JP2022517488A (ja) 2022-03-09
CN113196783B (zh) 2023-12-15
US11962783B2 (en) 2024-04-16
CA3120828A1 (en) 2020-07-23
JP2023169288A (ja) 2023-11-29
EP3868110A4 (en) 2021-12-22
US20210337211A1 (en) 2021-10-28
EP3868110A1 (en) 2021-08-25

Similar Documents

Publication Publication Date Title
KR102606414B1 (ko) 디블로킹 필터의 경계 강도를 도출하는 인코더, 디코더 및 대응 방법
CN112913250B (zh) 编码器、解码器及对任意ctu尺寸使用ibc搜索范围优化的对应方法
KR20210100737A (ko) 인코더, 디코더 및 적응 루프 필터를 사용한 대응 방법들
CN112954367B (zh) 使用调色板译码的编码器、解码器和相应方法
KR102622148B1 (ko) 병합 모드를 위한 인코더, 디코더 및 대응 방법
JP7314281B2 (ja) イントラ・サブパーティション・コーディング・ツールによって引き起こされるサブパーティション境界のためのデブロッキングフィルタ
JP7351908B2 (ja) エンコーダ、デコーダ、および対応するブロック解除フィルタ適応の方法
KR20210139446A (ko) 인트라 스무딩을 위한 방법 및 장치
KR20210107889A (ko) 인코더, 디코더 및 디블로킹 필터 적응 방법
KR20220024877A (ko) 이중 예측 옵티컬 플로 계산 및 이중 예측 보정에서 블록 레벨 경계 샘플 그레이디언트 계산을 위한 정수 그리드 참조 샘플의 위치를 계산하는 방법
KR20230111257A (ko) 향상 계층에 대한 인코딩 및 디코딩 방법들 및 장치들
KR20220065880A (ko) 아핀 모션 보상에서 dct 기반 보간 필터 및 향상된 쌍선형 보간 필터의 사용
JP2023100701A (ja) イントラ予測のためのイントラモードコーディングを使用するエンコーダ、デコーダ、および対応する方法
CN113228632B (zh) 用于局部亮度补偿的编码器、解码器、以及对应方法
RU2816918C2 (ru) Кодер, декодер и соответствующие способы выполнения устранения блочности цветности для блоков, использующих кодирование объединенной цветности
RU2783348C1 (ru) Кодер, декодер и соответствующие способы получения граничной мощности фильтра деблокинга
KR20240074918A (ko) 인코더, 디코더 및 디블로킹 필터 적응 방법
KR20210122800A (ko) 인트라 서브 파티션 코딩 모드 도구로부터 서브 파티션의 크기를 제한하는 인코더, 디코더 및 대응하는 방법
CN118042136A (zh) 编解码方法和装置

Legal Events

Date Code Title Description
A107 Divisional application of patent