KR102139159B1 - 변환 계수의 역양자화 방법 및 장치, 그리고 디코딩 기기 - Google Patents

변환 계수의 역양자화 방법 및 장치, 그리고 디코딩 기기 Download PDF

Info

Publication number
KR102139159B1
KR102139159B1 KR1020187008492A KR20187008492A KR102139159B1 KR 102139159 B1 KR102139159 B1 KR 102139159B1 KR 1020187008492 A KR1020187008492 A KR 1020187008492A KR 20187008492 A KR20187008492 A KR 20187008492A KR 102139159 B1 KR102139159 B1 KR 102139159B1
Authority
KR
South Korea
Prior art keywords
unit
size
transform coefficient
quantization
transform
Prior art date
Application number
KR1020187008492A
Other languages
English (en)
Other versions
KR20180043822A (ko
Inventor
인 자오
하이타오 양
Original Assignee
후아웨이 테크놀러지 컴퍼니 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 후아웨이 테크놀러지 컴퍼니 리미티드 filed Critical 후아웨이 테크놀러지 컴퍼니 리미티드
Publication of KR20180043822A publication Critical patent/KR20180043822A/ko
Application granted granted Critical
Publication of KR102139159B1 publication Critical patent/KR102139159B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91—Entropy coding, e.g. variable length coding [VLC] or arithmetic coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기가 분할 정보를 사용하여 결정된다. 그 후, 제1 변환 계수 세트에 대한 양자화 조절 인자가 미리 설정된 제1 알고리즘 및 처리될 유닛의 유닛 크기에 따라 결정되며, 미리 설정된 제1 알고리즘에 의해, 양자화 조절 인자는 처리될 유닛의 유닛 크기에 따라 점진적으로 감소한다. 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리가 수행된다. 본 발명에 개시된 변환 계수 역양자화 방법에 기초하면, 디코딩 기기는 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 적응적으로 결정한 다음, 결정된 양자화 조절 인자를 사용하여 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화를 수행한다.

Description

변환 계수의 역양자화 방법 및 장치, 그리고 디코딩 기기
본 발명은 비디오 코딩 및 디코딩 기술 분야에 관한 것으로, 특히, 변환 계수의 역양자화 방법 및 장치, 그리고 디코딩 기기에 관한 것이다.
비디오 압축 기술은 인터넷, 텔레비전 방송 및 통신 분야에 널리 적용되고 있다. H.265/HEVC(High Efficiency Video Coding, 고효율 비디오 코딩)는 새로운 국제 비디오 코딩 표준이다. HEVC는 블록 기반 모션(움직임) 보상 및 이산 코사인 변환(Discrete Cosine Transformation, DCT)을 사용하는 하이브리드 코딩 프레임 워크(hybrid coding framework)를 사용한다.
HEVC의 경우, 코딩 프로세스는 주로 예측, 변환, 양자화 및 엔트로피 코딩을 포함하고, 디코딩 프로세스는 주로 엔트로피 디코딩, 예측, 역양자화 및 역변환을 포함한다.
코딩 프로세스에서는, 예측 시에, 코딩된 영역의 재구성된 화소(reconstructed pixel)를 사용하여 현재의 코드 블록에 대응하는 원 화소(original pixel)의 예측 화소를 생성하고, 예측 방식은 주로 프레임 내 예측(intra-frame prediction)과 프레임 간 예측(inter-frame prediction)을 포함하며; 변환 시에, 잔차(residual, 원 화소와 예측 화소 사이의 화소 값 차)는 변환 계수(transform coefficient)로 변환되고; 양자화 시에, 양자화 처리는 변환 계수에 대해 수행되며; 엔트로피 코딩 시에, 양자화된 변환 계수 및 코딩 방식 정보는 엔트로피 코딩 처리에 의해 코드 스트림(code stream)으로 변환된다.
디코딩 프로세스에서는, 엔트로피 디코딩 시에, 코드 스트림에 대해 엔트로피 디코딩 처리를 수행하여 코딩 방식 정보 및 양자화된 변환 계수를 파싱하고; 예측 시에, 코딩 방식 정보 및 디코딩된, 재구성된 화소를 사용하여 예측된 화소를 취득하고; 역양자화 시에, 양자화된 변환 계수를 역양자화하여 재구성된 변환 계수를 취득하고; 역변환 시에, 재구성된 변환 계수에 대해 역변환을 수행하여 재구성된 잔차 정보를 취득하며; 그런 다음 재구성된 잔차 정보와 예측된 화소를 가산하여 재구성된 화소를 취득하여, 비디오 이미지를 복원한다.
손실 인코딩(lossy encoding)의 경우, 재구성된 화소와 원(original) 화소는 상이할 수 있으며, 재구성된 화소와 원 화소 사이의 값 차는 왜곡(distortion)으로 지칭된다. 시각적 엔트로피 마스킹 효과(Visual entropy masking effect)는, 인간의 눈이 단순한 영역보다 복잡한 영역에 덜 민감하고, 비교적 평탄한 영역((flat region))과 비교할 때, 복잡한 영역에서 발생하는 신호 왜곡이 관찰하기에 더 어렵거나 또는 더 약한 시각적 강도를 가진다는 것을 나타낸다.
전술한 이론에 기초하여, 비디오 이미지의 코딩의 전체 효율을 향상시키기 위해, 복잡한 영역에서는 비교적 세밀한 양자화(fine quantization)를 수행하고, 단순한 영역에서는 비교적 거친 양자화(coarse quantization)를 수행한다. 코딩 프로세스에서, 복잡한 영역은 보통 코딩을 수행하기 위해 비교적 작은 크기의 블록으로 분할되고, 평탄한 영역은 보통 코딩을 수행하기 위해 비교적 큰 크기의 블록으로 분할된다. 비교적 작은 크기의 블록의 경우, 양자화 스텝 크기(quantization step size)는 양자화 프로세스에서 적절히 증가된다. 상대적으로 큰 크기의 블록의 경우, 양자화 스텝 크기는 양자화 프로세스에서 적절히 감소된다. 즉, 양자화 프로세스에서, 상이한 양자화 스텝 크기가 이미지의 모든 영역에서 사용된다. 균일한 양자화 스텝 크기와 비교할 때, 양자화 스텝 크기가 다르면 코딩된 이미지의 전반적인 시각적 품질이 향상된다.
현재, 개시된 비디오 코딩/디코딩 방식에서, 코딩 기기는 비디오 시퀀스를 분석하고, 각각의 코드 블록의 양자화 파라미터(각각의 코드 블록의 양자화 스텝 크기 조정 정보를 포함함)를 결정하고, 양자화 파라미터를 코드 스트림에 기록한다. 디코딩 기기는 코드 스트림을 파싱함으로써 취득되는 양자화 파라미터에 따라 각각의 코드 블록의 양자화 스텝 크기를 결정하고, 변환 계수 역양자화 처리를 완료한다. 그러나, 이 해결방안은 다음과 같은 단점이 있다: 디코딩 기기는, 변환 계수에 대해 역양자화를 수행하기 위해, 코딩 기기에 의해 전송되는 코드 스트림이 각각의 코딩 블록의 양자화 스텝 크기 정보를 싣고 있을 경우에만, 코드 스트림 내의 양자화 스텝 크기 조절 정보에 기초하여, 각각의 코드 블록의 양자화 스텝 크기를 결정할 수 있다. 코드 스트림이 각각의 코드 블록의 양자화 스텝 크기 조절 정보를 싣고 있기 때문에 코딩 효율이 감소된다.
이를 감안하여, 본 발명의 목적은 변환 계수 역양자화 방법 및 장치, 그리고 디코딩 기기를 제공하는 것이다. 디코딩 기기는 양자화 조절 인자(quantization regulation factor)를 적응적으로(adaptively) 결정하여, 변환 계수 역양자화 프로세스를 완료할 수 있다. 코딩 기기는 코드 스트림에 양자화 스텝 크기 조절 정보를 부가할 필요가 없으므로, 코딩 효율을 향상시킬 수 있다.
전술한 목적을 달성하기 위해, 본 출원의 실시예에서 제공되는 기술적 방안은 다음과 같다:
본 출원의 실시예의 제1 측면에 다르면, 변환 계수 역양자화 방법이 제공되며, 상기 변환 계수 역양자화 방법은,
분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛(to-be-processed unit)의 유닛 크기를 결정하는 단계 - 상기 제1 변환 계수 세트 및 상기 분할 정보는 코드 스트림(code stream)에 대해 엔트로피 디코딩(entropy decoding)을 수행함으로써 생성됨 -;
미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계 - 상기 미리 설정된 제1 알고리즘에 의해, 상기 양자화 조절 인자는 상기 처리될 유닛의 유닛 크기의 값에 따라 점진적으로 감소함 -; 및
상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하는 단계를 포함한다.
제1 측면을 참조하여, 제1 가능한 구현예에서, 상기 처리될 유닛은 제1 변환 유닛을 포함하고; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로, 상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하고, 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하는 단계이다.
제1 측면을 참조하여, 제2 가능한 구현예에서, 상기 처리될 유닛은 제1 변환 유닛 및 제1 코딩 유닛을 포함하며, 상기 제1 코딩 유닛은 상기 제1 변환 유닛을 포함하는 최소 코딩 유닛이며; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로,
상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하는 단계; 상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하는 단계; 및 상기 제1 코딩 유닛의 크기가 제1 임계치보다 큰 경우, 상기 제1 코딩 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하거나; 또는 상기 제1 코딩 유닛의 크기가 상기 제1 임계치 이하인 경우, 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하는 단계이다.
제1 측면을 참조하여, 제3 가능한 구현예에서, 상기 처리될 유닛은 제1 변환 유닛 및 제1 예측 유닛을 포함하며, 상기 제1 예측 유닛은 상기 제1 변환 유닛과 중첩하는 예측 유닛들 중에서 중첩 영역이 가장 큰 예측 유닛이며; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로,
상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하는 단계; 상기 분할 정보를 사용하여 상기 제1 예측 유닛의 크기를 결정하는 단계; 및 상기 제1 예측 유닛의 크기가 제2 임계치보다 큰 경우, 상기 제1 예측 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하거나; 또는 상기 제1 예측 유닛의 크기가 상기 제2 임계치 이하인 경우, 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하는 단계이다.
제1 측면을 참조하여, 제4 가능한 구현예에서, 상기 처리될 유닛은 제1 변환 유닛, 제1 코딩 유닛, 및 제1 예측 유닛을 포함하며, 상기 제1 코딩 유닛은 상기 제1 변환 유닛을 포함하는 최소 코딩 유닛이고, 상기 제1 예측 유닛은 상기 제1 변환 유닛과 중첩하는 최대 예측 유닛이며; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로,
상기 분할 정보를 사용하여 상기 제1 예측 유닛의 크기를 결정하는 단계; 상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하는 단계; 상기 제1 예측 유닛의 크기와 상기 제1 코딩 유닛의 크기의 평균을 계산하는 단계; 및 상기 평균이 제3 임계치보다 큰 경우, 상기 평균을 상기 처리될 유닛의 유닛 크기로 결정하거나; 또는 상기 평균이 상기 제3 임계치 이하인 경우, 상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하고, 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하는 단계이다.
제1 측면을 참조하여, 제5 가능한 구현예에서, 상기 처리될 유닛은 제1 변환 유닛, 제1 코딩 유닛 및 제1 예측 유닛을 포함하며, 상기 제1 코딩 유닛은 상기 제1 변환 유닛을 포함하는 최소 코딩 유닛이고, 상기 제1 예측 유닛은 상기 제1 변환 유닛과 중첩하는 최대 예측 유닛이고; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로,
상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하는 단계; 상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하는 단계; 상기 분할 정보를 사용하여 상기 제1 예측 유닛의 크기를 결정하는 단계; 및 상기 제1 변환 유닛의 크기, 상기 제1 코딩 유닛의 크기 및 상기 제1 예측 유닛의 크기의 가중 평균(weighted average)을 계산하고, 상기 가중 평균을 상기 처리될 유닛의 유닛 크기로 결정하는 단계이다.
제1 측면을 참조하여, 제6 가능한 구현예에서, 상기 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 코딩 유닛이고; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로, 상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하고, 상기 제1 코딩 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하는 단계이다.
제1 측면을 참조하여, 제7 가능한 구현예에서, 상기 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 예측 유닛이고; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로, 상기 분할 정보를 사용하여 상기 제1 예측 유닛의 크기를 결정하고, 상기 제1 예측 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하는 단계이다.
제1 측면을 참조하여, 제8 가능한 구현예에서, 상기 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 코딩 유닛 및 제1 예측 유닛이고; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로, 상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하는 단계; 상기 분할 정보를 사용하여 상기 제1 예측 유닛의 크기를 결정하는 단계; 및 상기 제1 코딩 유닛의 크기가 제4 임계치보다 큰 경우, 상기 제1 코딩 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하거나; 또는 상기 제1 코딩 유닛의 크기가 제4 임계치 이하인 경우, 상기 제1 예측 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하는 단계이다.
제1 측면 또는 제1 측면의 제1 내지 제8 가능한 구현예 중 어느 하나를 참조하여, 제9 가능한 구현예에서, 상기 미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계는 구체적으로,
식
Figure 112018029891158-pct00001
를 사용하여 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하는 단계이며, 여기서 QC는 상기 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 상기 처리될 유닛의 유닛 크기이고, N1 및 M1은 1 이상의 양수이며, K1 및 A1은 양수이다.
제1 측면 또는 제1 측면의 제1 내지 제8 가능한 구현예 중 어느 하나를 참조하여, 제10 가능한 구현예에서,
상기 미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계는 구체적으로, 식
Figure 112018029891158-pct00002
을 사용하여 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하는 단계이며, 여기서 QC는 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 상기 처리될 유닛의 유닛 크기이고, N1은 1 이상의 양수이며, a1 및 b1은 양수이다.
제1 측면 또는 제1 측면의 제1 내지 제8 가능한 구현예 중 어느 하나를 참조하여, 제9 가능한 구현예에서, 상기 미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계는 구체적으로,
상기 코드 스트림을 파싱하여, 상기 코드 스트림에 실려 있는, 사용에 허용된 T종(種)의 변환 유닛의 크기, 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 및 제t 레벨 변환 유닛과 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 취득하는 단계 - 여기서 t = 2, 3, ... 또는 T이고, T는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 변환 유닛에 대해, 더 낮은 레벨의 변환 유닛의 크기가 다른 변환 유닛의 크기보다 크며, 상기 양자화 조절 인자 차 정보 dQCt는 전부 또는 부분적으로 0보다 큼 -;
상기 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 , 및 상기 제t 레벨 변환 유닛과 상기 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 사용하여, 상기 T종의 변환 유닛에 대응하는 양자화 조절 인자를 결정하는 단계; 및
상기 T종의 변환 유닛 중의, 크기가 상기 제1 변환 유닛의 크기와 동일한 변환 유닛을 타깃 변환 유닛으로 결정하고, 상기 타깃 변환 유닛에 대응하는 양자화 조절 인자를 상기 처리될 유닛의 양자화 조절 인자로 결정하는 단계이다.
제1 측면의 제6 가능한 구현예를 참조하여, 제12 가능한 구현예에서, 상기 미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계는 구체적으로,
상기 코드 스트림을 파싱하여, 상기 코드 스트림에 실려 있는, 사용에 허용된 P종의 코딩 유닛의 크기, 최대 코딩 유닛에 대응하는 양자화 조절 인자 QC1 및 제p 레벨 변환 유닛과 제(p-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCp를 취득하는 단계 - 여기서 p = 2, 3, ... 또는 P이고, P는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 코딩 유닛에 대해, 더 낮은 레벨의 변환 유닛의 크기가 다른 코딩 유닛의 크기보다 크며, 상기 양자화 조절 인자 차 정보 dQCp는 전부 또는 부분적으로 0보다 큼 -;
상기 최대 코딩 유닛에 대응하는 양자화 조절 인자 QC1 , 및 상기 제p 레벨 코딩 유닛과 상기 제(p-1) 레벨 코딩 유닛 사이의 양자화 조절 인자 차 정보 dQCp를 사용하여, 상기 P종의 코딩 유닛에 대응하는 양자화 조절 인자를 결정하는 단계; 및
상기 P종의 코딩 유닛 중, 크기가 상기 제1 코딩 유닛의 크기와 동일한 코딩 유닛을 타깃 코딩 유닛으로 결정하고, 상기 타깃 코딩 유닛에 대응하는 양자화 조절 인자를 상기 처리될 유닛의 양자화 조절 인자로 결정하는 단계이다.
제1 측면의 제7 가능한 구현예를 참조하여, 제13 가능한 구현예에서, 상기 미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계는 구체적으로,
상기 코드 스트림을 파싱하여, 상기 코드 스트림에 실려 있는, 사용에 허용된 Z종의 코딩 유닛의 크기, 최대 예측 유닛에 대응하는 양자화 조절 인자 QC1 및 제z 레벨 예측 유닛과 제(z-1) 레벨 예측 유닛 사이의 양자화 조절 인자 차 정보 dQCz를 취득하는 단계 - 여기서 z = 2, 3, ... 또는 Z이고, Z는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 예측 유닛에 대해, 더 낮은 레벨의 예측 유닛의 크기가 다른 예측 유닛의 크기보다 크며, 상기 양자화 조절 인자 차 정보 dQCz는 전부 또는 부분적으로 0보다 큼 -;
상기 최대 예측 유닛에 대응하는 양자화 조절 인자 QC1 , 및 상기 제z 레벨 변환 유닛과 상기 제(z-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCz를 사용하여, 상기 Z종의 코딩 유닛에 대응하는 양자화 조절 인자를 결정하는 단계; 및
상기 Z종의 코딩 유닛 중, 크기가 상기 제1 예측 유닛의 크기와 동일한 예측 유닛을 타깃 예측 유닛으로 결정하고, 상기 타깃 예측 유닛에 대응하는 양자화 조절 인자를 상기 처리될 유닛의 양자화 조절 인자로 결정하는 단계이다.
제1 측면의 제9 내지 제13 가능한 구현예 중 어느 하나를 참조하여, 제14 가능한 구현예에서, 상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하는 것은,
식
Figure 112018029891158-pct00003
를 사용하여 상기 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하는 것을 포함하며, 여기서 i = 1, 2, ..., 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기(original quantization step size)이고, QC는 양자화 조절 인자이고, o2(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스(roundoff bias)이고, R(i)는 상기 제2 변환 계수 세트 내의 제i 변환 계수이다.
제1 측면의 제9 내지 제13 가능한 구현예 중 어느 하나를 참조하여, 제15 가능한 구현예에서, 상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하는 것은,
상기 양자화 조절 인자에 대해 정수화 처리(rounding processing)를 수행하는 것;
상기 제1 변환 계수 세트 내의 변환 계수 각각에 대응하는 원래의 양자화 스텝 크기에 대해 정수화 처리를 수행하는 것; 및
식
Figure 112018029891158-pct00004
을 사용하여 상기 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하는 것을 포함하며, 여기서 i = 1, 2, ..., 또는 N이고, N은 상기 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs'(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기에 대해 정수화 처리를 수행한 후에 생성되는 결과이고, QC'는 상기 정수화 처리 후의 양자화 조절 인자이고, bdshift는 비트 시프트량이고, delta는 추가적인 비트 시프트량이고,
Figure 112018029891158-pct00005
는 왼쪽 시프트 연산자이고,
Figure 112018029891158-pct00006
는 오른쪽 시프트 연산자이며, R(i)는 상기 제2 변환 계수 세트 내의 제i 변환 계수이다.
제1 측면 또는 제1 측면의 제1 내지 제8 가능한 구현예 중 어느 하나를 참조하여, 제16 가능한 구현예에서,
상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하는 것은,
식
Figure 112018029891158-pct00007
를 사용하여 상기 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하여, 제3 변환 계수 세트를 취득하는 것; 및
식
Figure 112018029891158-pct00008
를 사용하여 상기 제3 변환 계수 세트 내의 변환 계수 각각에 대해 스케일링 처리(scaling processing) 및 정수화 처리를 수행하여, 상기 제2 변환 계수 세트를 취득하는 것을 포함하며,
여기서 i = 1, 2, ..., 또는 N이고, N은 상기 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, o4(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, B(i)는 상기 제3 변환 계수 세트 내의 제i 변환 계수이고, QC는 상기 양자화 조절 인자이고, o5(i)는 상기 제3 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이며, R(i)는 상기 제2 변환 계수 세트 내의 제i 변환 계수이다.
제1 측면의 제9 내지 제13 가능한 구현예 중 어느 하나를 참조하여, 제17 가능한 구현예에서, 상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하는 것은,
상기 양자화 조절 인자에 대응하는 레벨 스케일 표(level scale table)를 취득하는 것;
상기 레벨 스케일 표를 사용하여 미리 설정된 제3 알고리즘에 따라, 상기 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 양자화 스텝 크기를 결정하는 것; 및
상기 양자화 스텝 크기를 사용하여 미리 설정된 제4 알고리즘에 따라 상기 제1 변환 계수 세트에 대해 역양자화 처리를 수행하는 것을 포함한다.
제1 측면의 제17 가능한 구현예를 참조하여, 제18 가능한 구현예에서, 상기 양자화 조절 인자에 대응하는 레벨 스케일 표를 취득하는 것은, 미리 설정된 레벨 스케일 표 내의 M개의 레벨 스케일 값에 상기 양자화 조절 인자를 개별적으로 승산하는 것; 및 M개의 곱(product)에 대해 정수화 처리를 개별적으로 수행하여 상기 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 레벨 스케일 표를 취득하는 것을 포함한다.
제1 측면의 제17 가능한 구현예를 참조하여, 제189가능한 구현예에서, 상기 양자화 조절 인자에 대응하는 레벨 스케일 표를 취득하는 것은, 미리 설정된 레벨 스케일 표 내의 M개의 레벨 스케일 값에 상기 양자화 조절 인자를 개별적으로 승산하는 것; M개의 곱에 대해 정수화 처리를 개별적으로 수행하여 M개의 중간 값을 취득하는 것; M개의 정수 세트를 결정하는 것 - 여기서 제m 정수 세트는 제m 중간 값을 중심으로 사용하고, m = 1, 2, ... 또는 M임 -; 및 미리 설정된 규칙에 따라 상기 M개의 정수 세트 각각에서 하나의 정수를 선택하여, 상기 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 상기 레벨 스케일 표를 구성하는 것을 포함한다.
제1 측면의 제19 가능한 구현예를 참조하여, 제20 가능한 구현예에서, 상기 미리 설정된 규칙에 따라 정수 세트에서 하나의 정수를 선택하는 것은,
식
Figure 112018029891158-pct00009
및
Figure 112018029891158-pct00010
을 사용하여, 상기 정수 세트 내의 정수 각각에 대응하는 제1 중간 값
Figure 112018029891158-pct00011
및 제2 중간 값
Figure 112018029891158-pct00012
을 계산하는 것 - 여기서 P는 1보다 큰 정수이고, Dj는 상기 정수 세트 내의 제j 정수이고, j = 1, 2, ..., 또는 J이고, J는 정수 세트에 포함되는 정수의 수량임 -;
식
Figure 112018029891158-pct00013
를 사용하여, 상기 정수 세트 내의 정수 각각에 대응하는 제3 중간 값 Cj를 계산하는 것; 및
상기 제3 중간 값 Cj 중의 최소 값 Ck를 결정하고, 상기 정수 세트에서 상기 최소 값 Ck에 대응하는 정수를 선택하는 것을 포함한다.
제1 측면의 제17 가능한 구현를 참조하여, 제21 가능한 구현예에서, 상기 양자화 조절 인자에 대응하는 레벨 스케일 표를 취득하는 것은, 복수의 미리 설정된 값 범위에서 상기 양자화 조절 인자의 값 범위를 결정하는 것 - 각각의 값 범위는 레벨 스케일 표에 대응함 -; 및 상기 양자화 조절 인자의 값 범위에 대응하는 레벨 스케일 표를 취득하는 것을 포함한다.
본 발명의 실시예의 제2 측면에 따르면, 변환 계수 역양자화 장치가 제공되며, 상기 변환 계수 역양자화 장치는,
분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하도록 구성된 유닛 크기 결정 유닛 - 상기 제1 변환 계수 세트 및 상기 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성됨 -;
미리 설정된 제1 알고리즘 및 상기 유닛 크기 결정 유닛에 의해 결정되는 처리될 유닛의 유닛 크기에 따라, 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하도록 구성된 양자화 조절 인자 결정 유닛 - 상기 미리 설정된 제1 알고리즘에 의해, 상기 양자화 조절 인자는 상기 처리될 유닛의 유닛 크기의 값에 따라 점진적으로 감소함 -; 및
상기 양자화 조절 인자 결정 유닛에 의해 결정되는 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라, 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하도록 구성된 역양자화 유닛을 포함한다.
제2 측면을 참조하여, 제1 가능한 구현예에서, 상기 처리될 유닛은 제1 변환 유닛을 포함하고; 상기 유닛 크기 결정 유닛은, 상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 및 상기 제1 크기 결정 모듈에 의해 결정되는 상기 제1 변환 유닛의 크기를, 상기 처리될 유닛의 유닛 크기로 결정하도록 구성된 제1 처리 모듈을 포함한다.
제2 측면을 참조하여, 제2 가능한 구현예에서, 상기 처리될 유닛은 제1 변환 유닛 및 제1 코딩 유닛을 포함하며, 상기 제1 코딩 유닛은 상기 제1 변환 유닛을 포함하는 최소 코딩 유닛이며; 상기 유닛 크기 결정 유닛은,
상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 및 상기 제1 코딩 유닛의 크기가 제1 임계치보다 큰 경우, 상기 제2 크기 결정 모듈에 위해 결정되는 상기 제1 코딩 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하거나; 또는 상기 제1 코딩 유닛의 크기가 상기 제1 임계치 이하인 경우, 상기 제1 크기 결정 모듈에 의해 결정되는 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하도록 구성된 제2 처리 모듈을 포함한다.
제2 측면을 참조하여, 제3 가능한 구현예에서, 상기 처리될 유닛은 제1 변환 유닛 및 제1 예측 유닛을 포함하며, 상기 제1 예측 유닛은 상기 제1 변환 유닛과 중첩하는 예측 유닛들 중에서 중첩 영역이 가장 큰 예측 유닛이며; 상기 유닛 크기 결정 유닛은, 상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 상기 분할 정보를 사용하여 상기 제1 예측 유닛의 크기를 결정하도록 구성된 제3 크기 결정 모듈; 및 상기 제3 크기 결정 모듈에 의해 결정되는 상기 제1 예측 유닛의 크기가 제2 임계치보다 큰 경우, 상기 제1 예측 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하거나; 또는 상기 제3 크기 결정 모듈에 의해 결정되는 상기 제1 예측 유닛의 크기가 상기 제2 임계치 이하인 경우, 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하도록 구성된 제3 처리 모듈을 포함한다.
제2 측면을 참조하여, 제3 가능한 구현예에서, 상기 처리될 유닛은 제1 변환 유닛, 제1 코딩 유닛, 및 제1 예측 유닛을 포함하며, 상기 제1 코딩 유닛은 상기 제1 변환 유닛을 포함하는 최소 코딩 유닛이고, 상기 제1 상기 예측 유닛은 상기 제1 변환 유닛과 중첩하는 최대 예측 유닛이며; 상기 유닛 크기 결정 유닛은, 상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 상기 분할 정보를 사용하여 상기 제1 예측 유닛의 크기를 결정하도록 구성된 제3 크기 결정 모듈; 상기 제1 예측 유닛의 크기와 상기 제1 코딩 유닛의 크기의 평균을 계산하도록 구성된 평균 계산 모듈; 및 상기 평균이 제3 임계치보다 큰 경우, 상기 평균을 상기 처리될 유닛의 유닛 크기로 결정하거나; 또는 상기 평균 계산 모듈에 의해 계산되는 평균이 상기 제3 임계치 이하인 경우, 상기 제1 크기 결정 모듈에 의해 결정되는 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하도록 구성되는 제4 처리 모듈을 포함한다.
제2 측면을 참조하여, 제5 가능한 구현예에서, 상기 처리될 유닛은 제1 변환 유닛, 제1 코딩 유닛 및 제1 예측 유닛을 포함하며, 상기 제1 코딩 유닛은 상기 제1 변환 유닛을 포함하는 최소 코딩 유닛이고, 상기 제1 예측 유닛은 상기 제1 변환 유닛과 중첩하는 최대 예측 유닛이고; 상기 유닛 크기 결정 유닛은, 상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 상기 분할 정보를 사용하여 상기 제1 예측 유닛의 크기를 결정하도록 구성된 제3 크기 결정 모듈; 및 상기 제1 변환 유닛의 크기, 상기 제1 코딩 유닛의 크기 및 상기 제1 예측 유닛의 크기의 가중 평균을 계산하고, 상기 가중 평균을 상기 처리될 유닛의 유닛 크기로 결정하도록 구성된 제5 처리 모듈을 포함한다.
제2 측면을 참조하여, 제6 가능한 구현예에서, 상기 처리될 유닛은 제1 코딩 유닛이고; 상기 유닛 크기 결정 유닛은, 상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 및 상기 제2 크기 결정 모듈에 의해 결정되는 제1 코딩 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하도록 구성된 제6 처리 모듈을 포함한다.
제2 측면을 참조하여, 제7 가능한 구현예에서, 상기 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 예측 유닛이고; 상기 유닛 크기 결정 유닛은, 상기 분할 정보를 사용하여 상기 제1 예측 유닛의 크기를 결정하도록 구성된 제3 크기 결정 모듈; 및 상기 제3 크기 결정 모듈에 의해 결정되는 제1 예측 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하도록 구성된 제7 처리 모듈을 포함한다.
제2 측면을 참조하여, 제8 가능한 구현예에서, 상기 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 코딩 유닛 및 제1 예측 유닛이고; 상기 유닛 크기결정 유닛은, 상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 상기 분할 정보를 사용하여 상기 제1 예측 유닛의 크기를 결정하도록 구성된 제3 크기 결정 모듈; 및 상기 제2 크기 결정 모듈에 의해 결정되는 제1 코딩 유닛의 크기가 제4 임계치보다 큰 경우, 상기 제1 코딩 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하거나; 또는 상기 제2 크기 결정 모듈에 의해 결정되는 상기 제1 코딩 유닛의 크기가 제4 임계치 이하인 경우, 상기 제1 예측 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하도록 구성된 제8 처리유닛을 포함한다.
제2 측면 또는 제2 측면의 제1 내지 제8 가능한 구현예 중 어느 하나를 참조하여, 제9 가능한 구현예에서,
상기 양자화 조절 인자 결정 유닛은, 제1 양자화 조절 인자 결정 모듈을 포함하고; 상기 제1 양자화 조절 인자 결정 모듈은, 식
Figure 112018029891158-pct00014
를 사용하여 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하며, 여기서 QC는 상기 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 상기 처리될 유닛의 유닛 크기이고, N1 및 M1은 1 이상의 양수이며, K1 및 A1은 양수이다.
제2 측면 또는 제2 측면의 제1 내지 제8 가능한 구현예 중 어느 하나를 참조하여, 제10 가능한 구현예에서, 상기 양자화 조절 인자 결정 유닛은, 제2 양자화 조절 인자 결정 모듈을 포함하고; 상기 제2 양자화 조절 인자 결정 모듈은, 식
Figure 112018029891158-pct00015
을 사용하여 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하며, 여기서 QC는 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 상기 처리될 유닛의 유닛 크기이고, N1은 1 이상의 양수이며, a1 및 b1은 양수이다.
제2 측면의 제1 가능한 구현예를 참조하여, 제11 가능한 구현예에서, 상기 양자화 조절 인자 결정 유닛은,
상기 코드 스트림을 파싱하여, 상기 코드 스트림에 실려 있는, 사용에 허용된 T종의 변환 유닛의 크기, 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 및 제t 레벨 변환 유닛과 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 취득하도록 구성된 제1 파싱 모듈 - 여기서 t = 2, 3, ... 또는 T이고, T는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 변환 유닛에 대해, 보다 낮은 레벨의 변환 유닛의 크기가 다른 변환 유닛의 크기보다 크며, 상기 양자화 조절 인자 차 정보 dQCt는 전부 또는 부분적으로 0보다 큼 -;
상기 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 , 및 상기 제t 레벨 변환 유닛과 상기 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 사용하여, 상기 T종의 변환 유닛에 대응하는 양자화 조절 인자를 결정하도록 구성된 제1 계산 모듈; 및
상기 T종의 변환 유닛 중의, 크기가 상기 제1 변환 유닛의 크기와 동일한 변환 유닛을 타깃 변환 유닛으로 결정하고, 상기 타깃 변환 유닛에 대응하는 양자화 조절 인자를 상기 처리될 유닛의 양자화 조절 인자로 결정하도록 구성된 제3 양자화 조절 인자 결정 모듈을 포함한다.
제2 측면의 제6 가능한 구현예를 참조하여, 제12 가능한 구현예에서, 상기 양자화 조절 인자 결정 유닛은,
상기 코드 스트림을 파싱하여, 상기 코드 스트림에 실려 있는, 사용에 허용된 P종의 코딩 유닛의 크기, 최대 코딩 유닛에 대응하는 양자화 조절 인자 QC1 및 제p 레벨 변환 유닛과 제(p-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCp를 취득하도록 구성된 제2 파싱 모듈 - 여기서 p = 2, 3, ... 또는 P이고, P는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 코딩 유닛에 대해, 더 낮은 레벨의 변환 유닛의 크기가 다른 코딩 유닛의 크기보다 크며, 상기 양자화 조절 인자 차 정보 dQCp는 전부 또는 부분적으로 0보다 큼 -;
상기 최대 코딩 유닛에 대응하는 양자화 조절 인자 QC1 , 및 상기 제p 레벨 코딩 유닛과 상기 제(p-1) 레벨 코딩 유닛 사이의 양자화 조절 인자 차 정보 dQCp를 사용하여, 상기 P종의 코딩 유닛에 대응하는 양자화 조절 인자를 결정하도록 구성된 제2 계산 모듈; 및
상기 P종의 코딩 유닛 중의, 크기가 상기 제1 코딩 유닛의 크기와 동일한 코딩 유닛을 타깃 코딩 유닛으로 결정하고, 상기 타깃 코딩 유닛에 대응하는 양자화 조절 인자를 상기 처리될 유닛의 양자화 조절 인자로 결정하도록 구성된 제4 양자화 조절 인자 결정 모듈을 포함한다.
제2 측면의 제7 가능한 구현예를 참조하여, 제13 가능한 구현예에서, 상기 양자화 조절 인자 결정 유닛은,
상기 코드 스트림을 파싱하여, 상기 코드 스트림에 실려 있는, 사용에 허용된 Z종의 코딩 유닛의 크기, 최대 예측 유닛에 대응하는 양자화 조절 인자 QC1 및 제z 레벨 예측 유닛과 제(z-1) 레벨 예측 유닛 사이의 양자화 조절 인자 차 정보 dQCz를 취득하도록 구성된 제3 파싱 모듈 - 여기서 z = 2, 3, ... 또는 Z이고, Z는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 예측 유닛에 대해, 더 낮은 레벨의 예측 유닛의 크기가 다른 예측 유닛의 크기보다 크며, 상기 양자화 조절 인자 차 정보 dQCz는 전부 또는 부분적으로 0보다 큼 -;
상기 최대 예측 유닛에 대응하는 양자화 조절 인자 QC1 , 및 상기 제z 레벨 변환 유닛과 상기 제(z-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCz를 사용하여, 상기 Z종의 코딩 유닛에 대응하는 양자화 조절 인자를 결정하도록 구성된 제3 계산 모듈; 및
상기 Z종의 코딩 유닛 중의, 크기가 상기 제1 예측 유닛의 크기와 동일한 예측 유닛을 타깃 예측 유닛으로 결정하고, 상기 타깃 예측 유닛에 대응하는 양자화 조절 인자를 상기 처리될 유닛의 양자화 조절 인자로 결정하도록 구성된 제5 양자화 조절 인자 결정 모듈을 포함한다.
제2 측면의 제9 내지 제13 가능한 구현예 중 어느 하나를 참조하여, 제14 가능한 구현예에서, 상기 역양자화 유닛은 제1 역양자화 모듈을 포함하고;
상기 제1 역양자화 모듈은, 식
Figure 112018029891158-pct00016
를 사용하여 상기 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하며,
여기서 i = 1, 2, ..., 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, QC는 양자화 조절 인자이고, o2(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, R(i)는 상기 제2 변환 계수 세트 내의 제i 변환 계수이다.
제2 측면의 제9 내지 제13 가능한 구현예 중 어느 하나를 참조하여, 제15 가능한 구현예에서, 상기 역양자화 유닛은,
상기 양자화 조절 인자에 대해 정수화 처리를 수행하도록 구성된 제1 정수화 처리 모듈;
상기 제1 변환 계수 세트 내의 변환 계수 각각에 대응하는 원래의 양자화 스텝 크기에 대해 정수화 처리를 수행하도록 구성된 제2 정수화 처리 모듈; 및
식
Figure 112018029891158-pct00017
을 사용하여 상기 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하도록 구성된 제2 역양자화 모듈을 포함하며,
여기서 i = 1, 2, ..., 또는 N이고, N은 상기 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs'(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기에 대해 정수화 처리를 수행한 후에 생성되는 결과이고, QC'는 상기 정수화 처리 후의 양자화 조절 인자이고, bdshift는 비트 시프트량이고, delta는 추가적인 비트 시프트량이고,
Figure 112018029891158-pct00018
는 왼쪽 시프트 연산자이고,
Figure 112018029891158-pct00019
는 오른쪽 시프트 연산자이며, R(i)는 상기 제2 변환 계수 세트 내의 제i 변환 계수이다.
제2 측면의 제9 내지 제13 가능한 구현예 중 어느 하나를 참조하여, 제16 가능한 구현예에서, 상기 역양자화 유닛은,
식
Figure 112018029891158-pct00020
를 사용하여 상기 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하여, 제3 변환 계수 세트를 취득하도록 구성된 제3 역양자화 모듈; 및
식
Figure 112018029891158-pct00021
를 사용하여 상기 제3 변환 계수 세트 내의 변환 계수 각각에 대해 스케일링 처리 및 정수화 처리를 수행하여, 상기 제2 변환 계수 세트를 취득하도록 구성된 변환 계수 처리 모듈을 포함하며,
여기서 i = 1, 2, ..., 또는 N이고, N은 상기 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, o4(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, B(i)는 상기 제3 변환 계수 세트 내의 제i 변환 계수이고, QC는 양자화 조절 인자이고, o5(i)는 상기 제3 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이며, R(i)는 상기 제2 변환 계수 세트 내의 제i 변환 계수이다.
제2 측면의 제9 내지 제13 가능한 구현예 중 어느 하나를 참조하여, 제17 가능한 구현예에서, 상기 역양자화 유닛은, 상기 양자화 조절 인자에 대응하는 레벨 스케일 표를 취득하도록 구성된 레벨 스케일 표 취득 유닛; 상기 레벨 스케일 표 취득 모듈에 의해 취득되는 레벨 스케일 표를 사용하여 미리 설정된 제3 알고리즘에 따라, 상기 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 양자화 스텝 크기를 결정하도록 구성된 양자화 스텝 크기 결정 모듈; 및
상기 양자화 스텝 크기 결정 모듈에 의해 결정되는 양자화 스텝 크기를 사용하여 미리 설정된 제4 알고리즘에 따라, 상기 제1 변환 계수 세트에 대해 역양자화 처리를 수행하도록 구성된 제4 역양자화 모듈을 포함한다.
제2 측면의 제17 가능한 구현예를 참조하여, 제18 가능한 구현예에서, 상기 레벨 스케일 표 취득 모듈은, 미리 설정된 레벨 스케일 표 내의 M개의 레벨 스케일 값에 상기 양자화 조절 인자를 개별적으로 승산하도록 구성된 계산 서브모듈; 및 상기 계산 서브모듈에 의해 취득되는 M개의 곱에 대해 정수화 처리를 개별적으로 수행하여, 상기 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 레벨 스케일 표를 취득하도록 구성된 제1 정수화 처리 서브모듈을 포함한다.
제2 측면의 제17 가능한 구현예를 참조하여, 제19 가능한 구현예에서, 상기 레벨 스케일 표 취득 모듈은, 미리 설정된 레벨 스케일 표 내의 M개의 레벨 스케일 값에 상기 양자화 조절 인자를 개별적으로 승산하도록 구성된 계산 서브모듈; 상기 계산 서브모듈에 의해 취득되는 M개의 곱에 대해 정수화 처리를 개별적으로 수행하여, M개의 중간 값을 취득하도록 구성된 제2 정수화 처리 서브모듈; 상기 제2 정수화 처리 서브모듈에 의해 취득되는 M개의 중간 값을 사용하여 M개의 정수 세트를 결정하도록 구성된 정수 세트 결정 서브모듈 - 여기서 제m 정수 세트는 제m 중간 값을 중심으로 사용하고, m = 1, 2, ... 또는 M임 -; 및 미리 설정된 규칙에 따라 상기 M개의 정수 세트 각각에서 하나의 정수를 선택하여, 상기 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 상기 레벨 스케일 표를 구성하도록 구성된 처리 서브모듈을 포함한다.
제2 측면의 제19 가능한 구현예를 참조하여, 제20 가능한 구현예에서, 상기 처리 서브모듈은 구체적으로,
식
Figure 112018029891158-pct00022
및
Figure 112018029891158-pct00023
을 사용하여, 상기 정수 세트 내의 정수 각각에 대응하는 제1 중간 값
Figure 112018029891158-pct00024
및 제2 중간 값
Figure 112018029891158-pct00025
을 계산하고 - 여기서 P는 1보다 큰 정수이고, Dj는 상기 정수 세트 내의 제j 정수이고, j = 1, 2, ..., 또는 J이며, J는 상기 정수 세트에 포함된 정수의 수량임 -; 식
Figure 112018029891158-pct00026
를 사용하여, 상기 정수 세트 내의 정수 각각에 대응하는 제3 중간 값 Cj를 계산하고; 상기 제3 중간 값 Cj 중의 최소 값 Ck를 결정하고, 상기 정수 세트에서 상기 최소 값 Ck에 대응하는 정수를 선택하도록 구성된다.
제2 측면의 제17 가능한 구현예를 참조하여, 제21 가능한 구현예에서, 상기 레벨 스케일 표 취득 모듈은, 복수의 미리 설정된 값 범위로부터 상기 양자화 조절 인자의 값 범위를 결정하도록 구성된 범위 결정 서브모듈 - 각각의 값 범위는 레벨 스케일 표에 대응함 -; 및 상기 범위 결정 서브모듈에 의해 결정되는, 상기 양자화 조절 인자의 값 범위에 대응하는 레벨 스케일 표를 취득하도록 구성된 레벨 스케일 표 취득 서브모듈을 포함한다.
본 출원의 실시예의 제3 측면에 따르면, 프로세서, 메모리 및 통신 버스를 포함하는 디코딩 기기가 제공되며, 상기 메모리는 프로그램을 저장하도록 구성되고; 상기 프로세서는 상기 메모리에 저장된 프로그램을 호출하여, 다음 단계:
분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계 - 상기 제1 변환 계수 세트 및 상기 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성됨 -; 미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계 - 상기 미리 설정된 제1 알고리즘에 의해, 상기 양자화 조절 인자는 상기 처리될 유닛의 유닛 크기에 따라 점진적으로 감소함 -; 및 상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하는 단계를 수행한다.
이를 고려하여, 본 발명의 유익한 효과는 다음과 같다.
본 발명에 개시된 변환 계수 역양자화 방법에 따르면, 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하고, 처리될 유닛의 유닛 크기와 이미지 복잡도 사이의 강한 상관관계에 기초하여 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 적응적으로 결정하며, 양자화 조절 인자를 사용하여 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행한다. 본 발명에 개시된 변환 계수 역양자화 방법에 기초하면, 디코딩 기기는 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 적응적으로 결정한 다음, 결정된 양자화 조절 인자를 사용하여 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화를 수행한다. 코딩 기기에 의해 전송되는 코드 스트림은 양자화 스텝 크기 조절 정보를 싣을 필요가 없으므로, 코딩 코율을 향상시킬 수 있다.
본 출원의 실시예에서의 기술적 해결방안을 보다 명확하게 설명하기 위해, 이하에서는 실시예의 설명에 필요한 첨부 도면을 간략하게 소개한다. 명백히, 이하의 설명에서의 첨부도면은 단지 본 발명의 일부 실시예를 보여줄 뿐이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진자(이하, 당업자라고 함)라면 창의적인 노력 없이 이들 첨부도면으로부터 다른 도면을 도출할 수 있을 것이다.
도 1은 본 발명에 따른 변환 계수 역양자화 방법의 흐름도이다.
도 2는 코딩 유닛의 분할 방식의 개략도이다.
도 3은 본 발명에 따른 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 방법의 흐름도이다.
도 4는 본 발명에 따른 양자화 조절 인자를 이용하여 제2 사전 설정 알고리즘에 따라 제1 변환 계수 세트의 변환 계수에 대해 역양자화 처리를 수행하는 방법의 흐름도이다.
도 5는 본 발명에 따른 변환 계수 역양자화 장치의 개략 구성도이다.
도 6은 본 발명에 따른 디코딩 기기의 하드웨어 구성도이다.
이하에서는 본 발명의 실시예에서의 첨부도면을 참조하여 본 발명의 실시예에서의 기술적 방안을 명확하게 설명한다. 명백히, 설명되는 실시예는 본 발명의 실시예의 전부가 아니라 일부이다. 당업자가 창의적인 노력 없이 본 발명의 실시예에 기초하여 얻은 모든 다른 실시예는 본 발명의 보호 범위에 속한다.
본 발명에 따른 변환 계수 역양자화 방법 및 장치는 HEVC 표준을 사용하는 디코딩 기기에 적용된다. HEVC 표준에서, 블록 구조는 코딩 유닛(Coding Unit, CU), 예측 유닛(Predicting unit, PU), 및 변환 유닛(Transform Unit, TU)을 포함한다. 코딩 유닛은 2N × 2N 크기의 블록이다. 각각의 코딩 유닛은, 미리 결정된 최소 크기에 도달할 때까지 반복적으로 4개의 더 작은 코딩 유닛(예: 8 화소 × 8 화소)로 분할될 수 있다. 각각의 코딩 유닛은 가변 크기의 하나 이상의 예측 유닛을 포함한다. 예측 유닛의 분할은 대칭 분할 및 비대칭 분할을 포함할 수 있다. 각각의 코딩 유닛은 하나 이상의 변환 유닛을 포함한다. 각각의 변환 유닛은 미리 정해진 최소 크기에 도달할 때까지 반복적으로 4개의 더 작은 변환 유닛으로 분할될 수 있다(예: 4 화소 × 4 화소).
본 발명에 따른 변환 계수 역양자화 방법 및 장치에 기초하면, 디코딩 기기는 양자화 조절 인자를 적응적으로 결정하여, 변환 계수 역양자화 프로세스를 완료할 수 있다. 코딩 기기에 의해 전송되는 코드 스트림에 양자화 스텝 크기 조절 정보를 싣을 필요가 없으므로, 코딩 효율을 향상시킨다. 코딩 효율은 코드 길이에 대한 정보 코드 요소의 양의 비율이며, 코드 레이트(code rate)라고도 한다.
도 1은 본 발명에 따른 변환 계수 역양자화 방법의 흐름도이다. 이 변환 계수 역양자화 방법은 다음 단계를 포함한다.
단계 S11. 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하며, 여기서 제1 변환 계수 세트는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성되고, 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성된다.
제1 변환 계수 세트는 N개의 변환 계수 A(i)를 포함하며, 여기서 N = 1, 2, ... 또는 N이고, N은 양의 정수이며, 예를 들어, N = 1, 2, 4, 16, 32, 50, 64, 81, 128, 512, 또는 1024이다. 제1 변환 계수 세트 내의 변환 계수는 프레임 내 예측 코딩(intra-frame predictive coding) 중에 생성되는 잔차 변환 계수이거나, 또는 프레임 간 예측 코딩(inter-frame predictive coding) 중에 생성되는 잔차 변환 계수일 수 있다.
구체적으로, 제1 변환 계수 세트 내의 변환 계수는 비디오 신호의 임의의 신호 성분의 변환 계수, 예를 들어, 휘도 성분(luminance component)의 변환 계수, 또는 색차 성분(a chrominance component)의 변환 계수, 또는 R 성분의 변환 계수, 또는 G 성분의 변환 계수, 또는 B 성분의 변환 계수이다. 유의해야 할 것은, 제1 변환 계수 세트는 변환 블록의 모든 변환 계수를 포함할 수 있거나, 또는 변환 블록의 일부 변환 계수, 예를 들어, 변환 블록의 직류 계수, 또는 변환 블록의 저주파 계수의 그룹, 또는 변환 블록의 고주파 계수의 그룹, 또는 변환 블록의 직류 계수의 그룹 및 고주파 계수의 그룹, 또는 계수 스캐닝 시퀀스의 처음 몇 개의 계수(first several coefficients)를 포함할 수 있다는 것이다.
단계 S12. 미리 설정된 제1 알고리즘 및 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하며, 미리 설정된 제1 알고리즘에 의해, 양자화 조절 인자는 처리될 유닛의 유닛 크에 따라 점진적으로 감소한다.
코딩 프로세스에서, 특히 프레임 내 코딩 프로세스에서, 복잡한 영역(complex region)은 통상 코딩을 수행하기 위해 비교적 작은 크기의 블록으로 분할되고, 평탄한 영역은 통상 코딩을 수행하기 위해 비교적 큰 크기의 브록으로 분할된다. 즉, 이미지에서의 블록 크기와 블록에서의 이미지 복잡도 사이에는 강한 상관관계가 있다.
처리될 유닛의 유닛 크기를 결정한 후, 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정할 수 있다. 제1 변환 계수 세트에 대한 양자화 조절 인자는 처리될 유닛의 유닛 크기에 따라 점진적으로 감소한다. 즉, 제1 변환 계수 세트에 대한 양자화 조절 인자는 처리될 유닛의 유닛 크기의 증가에 따라 감소한다.
S13. 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득한다.
디코딩 기기는 처리될 유닛의 유닛 크기와 이미지 복잡도 사이의 강한 상관 관계에 기초하여 제1 변환 계수 세트에 대한 양자화 조절 인자를 적응적으로 도출하고, 양자화 조절 인자를 사용하여 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행한다.
본 발명에 개시된 변환 계수 역양자화 방법에 따르면, 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하고, 처리될 유닛의 유닛 크기와 이미지 복잡도 사이의 강한 상관관계에 기초하여 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 적응적으로 결정하며, 양자화 조절 인자를 사용하여 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행한다. 본 발명에 개시된 변환 계수 역양자화 방법에 기초하면, 디코딩 기기는 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 적응적으로 결정한 다음, 결정된 양자화 조절 인자를 사용하여 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화를 수행한다. 코딩 기기에 의해 전송되는 코드 스트림은 양자화 스텝 크기 조절 정보를 싣을 필요가 없으므로, 코딩 코율을 향상시킬 수 있다.
구체적인 구현 시에, 제1 변환 계수 세트에 대응하는 처리될 유닛은 여러 형식을 가지며, 이하에서는 이를 개별적으로 설명한다.
일 구현예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 변환 유닛이다. 제1 변환 유닛의 변환 계수는 제1 변환 계수 세트 내의 변환 계수를 포함한다.
이 경우에, 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로, 분할 정보를 사용하여 제1 변환 유닛의 크기를 결정하고, 제1 변환 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하는 단계이다.
다른 구현예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 변환 유닛 및 제1 코딩 유닛이다. 제1 코딩 유닛은 제1 변환 유닛을 포함하는 최소 코딩 유닛이다. 예를 들어, 32 화소 × 32 화소의 코딩 유닛은 16 화소 × 16 화소의 4 개의 코딩 유닛으로 분할되고, 16 화소 × 16 화소의 코딩 유닛 중 하나는 8 화소 × 8 화소의 4개의 변환 유닛으로 분할된다. 제1 변환 유닛이 8 화소 × 8 화소의 변환 유닛인 경우, 제1 코딩 유닛은, 8 화소 × 8 화소의 변환 유닛이 있는 16 화소 × 16 화소의 코딩 유닛이다.
이 경우에, 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로, 분할 정보를 사용하여 제1 변환 유닛의 크기를 결정하는 단계; 분할 정보를 사용하여 제1 코딩 유닛의 크기를 결정하는 단계; 및 제1 코딩 유닛의 크기가 제1 임계치보다 큰 경우, 제1 코딩 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하거나; 또는 제1 코딩 유닛의 크기가 제1 임계치 이하인 경우, 제1 변환 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하는 단계이다. 제1 임계치는, 예를 들어 8, 12, 16, 또는 32이다.
다른 구현예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 변환 유닛 및 제1 예측 유닛이다. 제1 예측 유닛은 제1 변환 유닛과 중첩하는 예측 유닛 중에서 중첩 영역이 최대인 예측 유닛이다.
구체적으로는, 제1 변환 유닛이 단 하나의 예측 유닛에 의해 커버되면, 제1 변환 유닛과 중첩하는 예측 유닛은 하나 뿐이고, 그 예측 유닛은 제1 예측 유닛이다. 제1 변환 유닛이 복수의 예측 유닛과 중첩하면, 제1 변환 유닛과 중첩하는 예측 유닛 중에서 중첩 영역이 최대인 예측 유닛이 제1 예측 유닛이다. 제1 변환 유닛이 복수의 예측 유닛과 중첩하고, 제1 변환 유닛과 중첩하는 중첩 영역의 면적이 동일하고 최대인 예측 유닛이 두 개 존재하면, 두 개의 예측 유닛 중 어느 하나가 제1 예측 단위로 사용된다.
여기서,도 2를 참조하여 설명한다: 16 화소 × 16 화소의 코딩 유닛(CU1) 전체를 16 화소 × 16 화소의 하나의 변환 유닛, 및 두 개의 예측 유닛(PU1, PU2)으로 분할하며, 여기서 변환 유닛은 TU1로 표기되는 제1 변환 유닛이고, 예측 유닛(PU1)은 4 화소 × 16 화소이고, 예측 유닛(PU2)은 12 화소 × 16 화소이다. 제1 변환 유닛(TU1)과 중첩하는 예측 유닛은 예측 유닛(PU1) 및 예측 유닛(PU2)이고, 예측 유닛(PU2)과 제1 변환 유닛 (TU1) 사이의 중첩 영역의 면적은 최대이며, 예측 유닛(PU2)는 제1 예측 유닛이다.
처리될 유닛은 제1 변환 유닛 및 제1 예측 유닛을 포함하는 경우, 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로, 분할 정보를 사용하여 제1 변환 유닛의 크기를 결정하는 단계; 분할 정보를 사용하여 제1 예측 유닛의 크기를 결정하는 단계; 및 제1 예측 유닛의 크기가 제2 임계치보다 큰 경우, 제1 예측 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하거나; 또는 제1 예측 유닛의 크기가 제2 임계치 이하인 경우, 제1 변환 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하는 단계이다. 제2 임계치는, 예를 들어, 8,
Figure 112018029956330-pct00027
, 16,
Figure 112018029956330-pct00028
, 또는 32이다.
다른 실시예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 변환 유닛, 제1 코딩 유닛, 및 제1 예측 유닛이다.,
이 경우에, 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로,
분할 정보를 사용하여 제1 예측 유닛의 크기를 결정하는 단계; 분할 정보를 사용하여 제1 코딩 유닛의 크기를 결정하는 단계; 제1 예측 유닛의 크기와 제1 코딩 유닛의 크기의 평균을 계산하는 단계; 및 평균이 제3 임계치보다 큰 경우, 평균을 처리될 유닛의 유닛 크기로 결정하거나; 또는 평균이 제3 임계치 이하인 경우, 분할 정보를 사용하여 제1 변환 유닛의 크기를 결정하고, 제1 변환 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하는 단계이다. 제3 임계치는, 예를 들어 8, 12, 16 또는 32이다.
또한, 제1 변환 계수 세트에 대응하는 처리될 유닛이 제1 변환 유닛, 제1 코딩 유닛 및 제1 예측 유닛인 경우, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기는 분할 정보를 사용하여 다음 방식으로 결정될 수 있다:
분할 정보를 사용하여 제1 변환 유닛의 크기를 결정하고; 분할 정보를 사용하여 제1 코딩 유닛의 크기를 결정하고; 분할 정보를 사용하여 제1 예측 유닛의 크기를 결정하며; 제1 변환 유닛의 크기, 제1 코딩 유닛의 크기 및 제1 예측 유닛의 크기의 가중 평균을 계산하고, 가중 평균을 처리될 유닛의 유닛 크기로 결정한다.
구현 시에, 제1 코딩 유닛의 크기의 가중치는 제1 변환 유닛 또는 제1 예측 유닛의 크기의 가중치보다 크게 설정될 수 있다. 예를 들어, 제1 예측 유닛의 크기의 가중치는 0.25로 설정되고, 제1 변환 유닛의 크기의 가중치는 0.25이고, 제1 코딩 유닛의 크기의 가중치는 0.5이거나; 또는 제1 예측 예측 유닛의 크기의 가중치는 0.1로 설정되고, 제1 변환 유닛의 크기의 가중치는 0.3이고, 제1 코딩 유닛의 크기의 가중치는 0.6이거나; 또는 제1 예측 예측 유닛의 크기의 가중치는 0.3으로 설정되고, 제1 변환 유닛의 크기의 가중치는 0.2이고, 제1 코딩 유닛의 크기의 가중치는 0.5이다.
다른 구현예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 코딩 유닛이다. 이 경우에, 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로, 분할 정보를 사용하여 제1 코딩 유닛의 크기를 결정하고, 제1 코딩 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하는 단계이다.
다른 구현 예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 예측 유닛이다. 이 경우에, 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로, 분할 정보를 사용하여 제1 예측 유닛의 크기를 결정하고, 제1 예측 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하는 단계이다.
다른 구현예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 코딩 유닛 및 제1 예측 유닛이다. 이 경우에, 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로, 분할 정보를 사용하여 제1 코딩 유닛의 크기를 결정하는 단계; 분할 정보를 사용하여 제1 예측 유닛의 크기를 결정하는 단계; 및 제1 코딩 유닛의 크기가 제4 임계치보다 큰 경우, 제1 코딩 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하거나; 또는 제1 코딩 유닛의 크기가 제4 임계치 이하인 경우, 제1 예측 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하는 단계이다. 제4 임계치는, 예를 들어 8, 12, 16 또는 32이다.
본 발명에 따른 처리될 유닛의 유닛 크기를 결정하는 본 실시예에서, 제1 변환 유닛의 크기는 제1 변환에 의해 커버되는 화소의 총 수량의 제곱근이고, 제1 코딩 유닛의 크기는, 제1 코딩 유닛에 의해 커버되는 화소의 총 수량의 제곱근이며, 제1 예측 유닛의 크기는 제1 예측 유닛에 의해 커버되는 화소의 총 수량의 제곱근이다 .
구체적인 구현 시에, 제1 변환 유닛이 직사각형이면, 제1 변환 유닛의 폭과 높이를 구하고, 폭과 높이의 곱의 제곱근을 제1 변환 유닛의 크기로서 사용한다. 제1 변환 유닛이 정사각형이면, 제1 변환 유닛의 크기로서 제1 변환 유닛의 폭 또는 높이만을 구할 필요가 있다. 제1 변환 유닛이 직사각형이 아니면, 제1 변환 유닛에 의해 커버되는 화소의 총 수량에 관한 통계치를 수집해야 하고, 화소의 총 수량의 제곱근이 제1 변환 유닛의 크기로 사용된다.
제1 코딩 유닛이 직사각형이면, 제1 코딩 유닛의 폭과 높이를 구하고, 폭과 높이의 곱의 제곱근을 제1 코딩 유닛의 크기로서 사용한다. 제1 코딩 유닛이 정사각형이면, 제1 코딩 유닛의 크기로서 제1 코딩 유닛의 폭 또는 높이만을 구할 필요가 있다.
제1 예측 유닛이 직사각형이면, 제1 예측 유닛의 폭과 높이를 구하고, 그 폭과 높이의 곱의 제곱근을 예측 유닛의 크기로서 사용한다. 제1 예측 유닛이 정사각 이면, 제1 예측 유닛의 폭 또는 높이만을 제1 예측 유닛으로서 구할 필요가 있다.
본 발명의 도 1에 도시된 변환 계수 역양자화 방법에서는, 미리 설정된 제1 알고리즘 및 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하기 위해 여러 방식을 사용할 수 있다. 이하에서는 개별적으로 설명한다.
방식 1:
미리 설정된 제1 알고리즘 및 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계는 구체적으로,
식
Figure 112018029891158-pct00029
를 사용하여 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하며, 여기서 QC는 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 처리될 유닛의 유닛 크기이고, N1 및 M1은 1 이상의 양수이며, K1 및 A1은 양수이다.
방식 2:
식
Figure 112018029891158-pct00030
을 사용하여 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하며, 여기서 QC는 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 처리될 유닛의 유닛 크기이고, N1은 1 이상의 양수이며, a1 및 b1은 양수이다.
또한, 처리될 유닛이 제1 변환 유닛을 포함하는 경우, 도 3에 도시된 방식이 추가로 미리 설정된 제1 알고리즘 및 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 데 사용될 수 있으며, 다음의 단계를 포함한다.
단계 S31. 코드 스트림을 파싱하여, 코드 스트림에 실려 있는, 사용에 허용된 T종의 변환 유닛의 크기, 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 및 제t 레벨 변환 유닛과 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 취득하며,
여기서 t = 2, 3, ... 또는 T이고, T는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 변환 유닛에 대해, 더 낮은 레벨의 변환 유닛의 크기가 다른 변환 유닛의 크기보다 크며, 양자화 조절 인자 차 정보 dQCt는 전부 또는 부분적으로 0보다 크다.
단계 S32. 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 , 및 제t 레벨 변환 유닛과 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 사용하여, T종의 변환 유닛에 대응하는 양자화 조절 인자를 결정한다.
단계 S33. T종의 변환 유닛 중의, 크기가 제1 변환 유닛의 크기와 동일한 변환 유닛을 타깃 변환 유닛으로 결정하고, 타깃 변환 유닛에 대응하는 양자화 조절 인자를, 처리될 유닛의 양자화 조절 인자로 결정한다.
여기서, 예를 사용하여 설명한다:
코드 스트림을 파싱하여, 코드 스트림에 실려 있는, 사용에 허용된 5종의 변환 유닛의 크기, 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 및 제t 레벨 변환 유닛과 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 취득하며, 여기서 t = 2, 3, ... 또는 5이다.
그런 다음,
최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 , 및 제t 레벨 변환 유닛과 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 사용하여, 5종의 변환 유닛에 대응하는 양자화 조절 인자를 결정한다. 세부사항은 다음과 같다:
제2 레벨 변환 유닛에 대응하는 양자화 조절 인자는
Figure 112018029891158-pct00031
이고;
제3 레벨 변환 유닛에 대응하는 양자화 조절 인자는
Figure 112018029891158-pct00032
이고;
제4 레벨 변환 유닛에 대응하는 양자화 조절 인자는
Figure 112018029891158-pct00033
이고;
제5 레벨 변환 유닛에 대응하는 양자화 조절 인자는
Figure 112018029891158-pct00034
이며, 여기서 QC1, dQC2, dQC3, dQC4 및 dQC5가 모두 알려진 양이므로, 5종의 변환 유닛에 대응하는 양자화 조절 인자를 결정할 수 있다.
이어서, 제1 변환 유닛의 크기를 전술한 5종의 변환 유닛의 크기와 비교한다. 제1 변환 유닛의 크기가 제3 레벨 변환 유닛의 크기와 같다고 가정하면, 처리될 유닛에 대한 양자화 조절 인자는 QC3으로 결정된다.
구현 시에, 처리될 유닛이 제1 코딩 유닛인 경우, 미리 설정된 제1 알고리즘 및 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하기 위해 다음 방식이 추가로 사용될 수 있다:
코드 스트림을 파싱하여, 코드 스트림에 실려 있는, 사용에 허용된 P종(種)의 코딩 유닛의 크기, 최대 코딩 유닛에 대응하는 양자화 조절 인자 QC1 및 제p 레벨 변환 유닛과 제(p-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCp를 취득하고 - 여기서 p = 2, 3, ... 또는 P이고, P는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 코딩 유닛에 대해, 더 낮은 레벨의 변환 유닛의 크기가 다른 코딩 유닛의 크기보다 크며, 양자화 조절 인자 차 정보 dQCp는 전부 또는 부분적으로 0보다 큼 -;
최대 코딩 유닛에 대응하는 양자화 조절 인자 QC1 , 및 제p 레벨 코딩 유닛과 제(p-1) 레벨 코딩 유닛 사이의 양자화 조절 인자 차 정보 dQCp를 사용하여, P종의 코딩 유닛에 대응하는 양자화 조절 인자를 결정하고;
P종의 코딩 유닛 중, 크기가 제1 코딩 유닛의 크기와 동일한 코딩 유닛을 타깃 코딩 유닛으로 결정하고, 타깃 코딩 유닛에 대응하는 양자화 조절 인자를 처리될 유닛의 양자화 조절 인자로 결정한다.
구현 시에, 처리될 유닛이 제1 예측 유닛인 경우, 미리 설정된 제1 알고리즘 및 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하기 위해 다음 방식이 추가로 사용될 수 있다:
코드 스트림을 파싱하여, 코드 스트림에 실려 있는, 사용에 허용된 Z종(種)의 코딩 유닛의 크기, 최대 예측 유닛에 대응하는 양자화 조절 인자 QC1 및 제z 레벨 예측 유닛과 제(z-1) 레벨 예측 유닛 사이의 양자화 조절 인자 차 정보 dQCz를 취득하고 - 여기서 z = 2, 3, ... 또는 Z이고, Z는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 예측 유닛에 대해, 더 낮은 레벨의 예측 유닛의 크기가 다른 예측 유닛의 크기보다 크며, 양자화 조절 인자 차 정보 dQCz는 전부 또는 부분적으로 0보다 큼 -;
최대 예측 유닛에 대응하는 양자화 조절 인자 QC1 , 및 제z 레벨 변환 유닛과 제(z-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCz를 사용하여, Z종의 코딩 유닛에 대응하는 양자화 조절 인자를 결정하고;
Z종의 코딩 유닛 중, 크기가 제1 예측 유닛의 크기와 동일한 예측 유닛을 타깃 예측 유닛으로 결정하고, 타깃 예측 유닛에 대응하는 양자화 조절 인자를 처리될 유닛의 양자화 조절 인자로 결정한다.
본 발명의 도 1에 도시된 변환 계수 역양자화 방법에서는, 역양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 제1 변환 계수 세트 내의 변환 계수에 대한 역양자화 처리를 수행하기 위해 여러 방식을 사용할 수 있다. 이하에서는 개별적으로 설명한다.
방식 1:
식
Figure 112018029891158-pct00035
를 사용하여 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하며,
여기서 i = 1, 2, ..., 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, QC는 양자화 조절 인자이고, o2(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, R(i)는 제2 변환 계수 세트 내의 제i 변환 계수이다.
또한, 전술한 식에서,
Figure 112018029891158-pct00036
는 X의 부호를 취하는 것을 나타낸다. 즉,
Figure 112018029891158-pct00037
이며;
Figure 112018029891158-pct00038
는 정수화(rounding) 연산이고, o2(i)의 값은 내림(rounding down), 반올림(rounding off), 또는 올림(rounding up)을 수행할지를 구체적으로 결정한다. 예를 들어, o2(i)가 0.5일 때,
Figure 112018029891158-pct00039
는 구체적으로 반올이다. o2(i)가 1일 때,
Figure 112018029891158-pct00040
는 구체적으로 올림이다. o2(i)가 0일 때,
Figure 112018029891158-pct00041
는 구체적으로 내림이다.
제1 변환 계수 세트 내의 변환 계수에 대응하는 원래의 양자화 스텝 크기는, 제1 변환 유닛 또는 제1 변환 계수 세트에 대응하는 제1 코딩 유닛의 양자화 파라미터(Quantization Parameter, QP)에 대응하는 양자화 스텝 크기이며, 예를 들어 양자화 파라미터가 4일 때, 대응하는 양자화 스텝 크기는 1이다. 일반적으로, 코딩 유닛의 양자화 파라미터는 코드 스트림을 파싱함으로써 취득될 수 있고; 변환 유닛이 있는 코딩 유닛의 양자화 파라미터가 변환 유닛의 양자화 파라미터로 사용될 수 있거나, 또는 변환 유닛의 양자화 파라미터는 코드 스트림 내의 양자화 파라미터 정보에 따라 코딩 유닛의 양자화 파라미터를 변경함으로써 취득될 수 있다. 여기서, 제1 변환 계수 세트 내의 변환 계수에 대응하는 원래의 양자화 스텝 크기는 동일하거나 상이할 수 있다는 점에 유의해야 한다.
방식 1에서는, 양자화 조절 인자를 사용하여 제1 변환 계수 세트 내의 변환 계수 각각에 대응하는 원래의 양자화 스텝 크기에 대해 스케일링을 수행한 다음, 스케일링 후에 취득되는 양자화 스텝 크기를 사용하여 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화를 수행한다.
방식 2 :
양자화 조절 인자에 대해 정수화 처리를 수행하고; 제1 변환 계수 세트 내의 변환 계수 각각에 대응하는 원래의 양자화 스텝 크기에 대해 정수화 처리를 수행하며; 식 1을 사용하여 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행한다.
식 1:
Figure 112018029891158-pct00042
,
여기서 i = 1, 2, ..., 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs'(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기에 대해 정수화 처리를 수행한 후에 생성되는 결과이고, QC'는 정수화 처리 후의 양자화 조절 인자이고, bdshift는 비트 시프트량이고, delta는 추가적인 비트 시프트량이고,
Figure 112018029891158-pct00043
는 왼쪽 시프트 연산자이고,
Figure 112018029891158-pct00044
는 오른쪽 시프트 연산자이며, R(i)는 제2 변환 계수 세트 내의 제i 변환 계수이다.
구현 시에, 제1 변환 계수 세트의 변환 계수 각각에 대응하는 양자화 조절 인자 및 원래 양자화 스텝 크기에 대해 수행되는 정수화 처리는 내림, 반올림 또는 올림일 수 있다.
방식 2에서는, 양자화 조절 인자 및 제1 변환 계수 세트의 변환 계수 각각에 대응하는 원래의 양자화 스텝 크기 모두에 대해 정수화 처리를 수행한 다음, 정수화 처리 후의 양자화 조절 인자를 사용하여, 각각의 변환 계수가 정수화 처리를 거친 후의 양자화 스텝 크기에 대해 스케일링 처리를 수행하고, 스케일링 후의 양자화 스텝 크기를 사용하여 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행한다.
방식 3:
식
Figure 112018029891158-pct00045
를 사용하여 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하여, 제3 변환 계수 세트를 취득하고;
식
Figure 112018029891158-pct00046
를 사용하여 제3 변환 계수 세트 내의 변환 계수 각각에 대해 스케일링 처리 및 정수화 처리를 수행하여, 제2 변환 계수 세트를 취득하며,
여기서 i = 1, 2, ..., 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, o4(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, B(i)는 제3 변환 계수 세트 내의 제i 변환 계수이고, QC는 양자화 조절 인자이고, o5(i)는 제3 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이며, R(i)는 제2 변환 계수 세트 내의 제i 변환 계수이며, o4(i) 및 o5(i)의 값이, 정수화 연산이 구체적으로 내림, 반올림, 또는 올림인지를 결정한다.
제3 방식에서는, 제1 변환 계수 세트 내의 변환 계수 각각의 원래의 양자화 스텝 크기를 사용하여 변환 계수 각각에 대해 역양자화 처리를 수행한 다음, 역양자화 처리를 통해 취득되는 변환 계수 각각에 대해, 양자화 조절 인자를 사용하여 스케일링 처리를 수행한다
방식 4:
도 4를 참조하면, 도 4는 본 발명에 따른 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하는 방법의 흐름도이다. 이 방법은 다음 단계를 포함한다:
단계 S41. 양자화 조절 인자에 대응하는 레벨 스케일 표를 취득한다.
구현 시에, 여러 방식을 사용하여 양자화 조절 인자에 대응하는 레벨 스케일 표를 취득할 수 있다. 이하에서 상세하게 설명한다. 레벨 스케일 표는 복수의 레벨 스케일 값, 예를 들어 6개의 레벨 스케일 값 {40, 45, 51, 57, 64, 72} 또는 8개의 레벨 스케일 값 {108, 118, 128, 140, 152, 166, 181, 197}을 포함한다.
단계 S42. 레벨 스케일 표를 사용하여 미리 설정된 제3 알고리즘에 따라, 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 양자화 스텝 크기를 결정한다.
제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 양자화 스텝 크기
Figure 112018029891158-pct00047
는 식
Figure 112018029891158-pct00048
을 사용하여 설정되며,
m(i)는 스케일링 인자이며 코드 스트림을 파싱함으로써 취득될 수 있고;
l(i)은 레벨 스케일 값 및 양자화 파라미터:
Figure 112018029891158-pct00049
에 관한 함수이며,
Figure 112018029891158-pct00050
는 레벨 스케일 표의 K번째(제k) 레벨 스케일 값을 나타내고,
Figure 112018029891158-pct00051
는 QP를 N으로 나누고 내림함을 나타내고, %는 rem 연산이고,
Figure 112018029891158-pct00052
는 왼쪽 시프트 연산자이고, N은 레벨 스케일 표의 레벨 스케일 값의 수량이며; 레벨 스케일 표가 6개의 레벨 스케일 값을 포함하는 경우,
Figure 112018029891158-pct00053
이거나; 또는 레벨 스케일 표가 8개의 레벨 스케일 값을 포함하는 경우,
Figure 112018029891158-pct00054
이다.
단계 S43. 양자화 스텝 크기를 사용하여 미리 설정된 제4 알고리즘에 따라 제1 변환 계수 세트에 대해 역양자화 처리를 수행한다.
단계 S41 및 단계 S42에서 양자화 스텝 크기가 결정된 후, 임의의 기존 방식으로 설정된 제1 변환 계수에 대해 역양자화 처리를 수행하여 제1 변환 계수 세트를 취득할 수 있다.
예를 들면, 식
Figure 112018029891158-pct00055
를 사용하여 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하며, 여기서 i = 1,2, ... 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고,
Figure 112018029891158-pct00056
는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 양자화 스텝 크기이고, o6(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, R(i)는 제2 변환 계수 세트 내의 제i 변환 계수이다.
도 4에 도시된 방법에서는, 다음의 방식들을 사용하여 양자화 조절 인자에 대응하는 레벨 스케일 표를 취득할 수 있다.
방식 1:
미리 설정된 레벨 스케일 표 내의 M개의 레벨 스케일 값에 양자화 조절 인자를 개별적으로 승산하고; M개의 곱에 대해 정수화 처리를 개별적으로 수행하여 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 레벨 스케일 표를 취득한다
즉, 미리 설정된 레벨 스케일 표의 각각의 레벨 스케일 값에 양자화 조절 인자 QC를 승산하고 정수화를 수행하여, 새로운 레벨 스케일 표를 취득한다. 레벨 스케일 표는 제1 변환 계수 세트에 대해 역양자화 처리를 수행하는 데 사용된다. 구현 시에, M개의 곱에 대해 개별적으로 수행되는 정수화 처리는 올림, 내림, 또는 반올림일 수 있다.
방식 2:
양자화 조절 인자의 값 범위를 복수의 미리 설정된 값 범위에서 결정하며, 각각의 값 범위는 하나의 레벨 스케일 표에 대응하고; 양자화 조절 인자의 값 범위에 대응하는 레벨 스케일 표를 취득한다.
구현 시에, 양자화 조절 인자의 값 범위는 미리 H1 값 범위들로 나누어지고, 각각의 값 범위는 하나의 미리 설정된 레벨 스케일 표에 대응한다. 양자화 조절 인자의 계산된 값 범위를 검색하여, 그 값 범위에 대응하는 레벨 스케일 표를 선택한다. 레벨 스케일 표는 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 레벨 스케일 표로서 사용된다.
표 1 및 표 2는 모두 양자화 조절 인자와 레벨 스케일 표 사이의 매핑 관계를 나타낸다.
[표 1]
Figure 112018029891158-pct00057
[표 2]
Figure 112018029891158-pct00058
방식 3:
미리 설정된 레벨 스케일 표 내의 M개의 레벨 스케일 값에 양자화 조절 인자를 개별적으로 승산하고; M개의 곱에 대해 정수화 처리를 개별적으로 수행하여 M개의 중간 값을 취득하고; M개의 정수 세트를 결정하며 - 여기서 m번째(제m) 정수 세트는 제m 중간 값을 중심으로 사용하고, m = 1, 2, ... 또는 M임 -; 미리 설정된 규칙에 따라 M개의 정수 세트 각각에서 하나의 정수를 선택하여, 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 레벨 스케일 표를 구성한다.
구현 시에, M개의 곱에 대해 개별적으로 수행되는 정수화 처리는 올림, 또는 내림, 또는 반올림일 수 있다. 또한, 다음의 방식을 사용하여 미리 설정된 규칙에 따라 하나의 정수 세트로부터 정수를 선택할 수 있다:
식
Figure 112018029891158-pct00059
및
Figure 112018029891158-pct00060
을 사용하여, 정수 세트 내의 정수 각각에 대응하는 제1 중간 값
Figure 112018029891158-pct00061
및 제2 중간 값
Figure 112018029891158-pct00062
을 계산하고 - 여기서 P는 1보다 큰 정수이고, Dj는 정수 세트 내의 제j 정수이고, j = 1, 2, ..., 또는 J이고, J는 정수 세트에 포함되는 정수의 수량임 -;
식
Figure 112018029891158-pct00063
를 사용하여, 정수 세트 내의 정수 각각에 대응하는 제3 중간 값 Cj를 계산하고;
제3 중간 값 Cj 중의 최소 값 Ck를 결정하고, 정수 세트에서 최소 값 Ck에 대응하는 정수를 선택헌더,
Figure 112018029891158-pct00064
는 내림을 나타내고,
Figure 112018029891158-pct00065
은 올림을 나타내며, min(Y,Z)는 Y와 Z 사이에 더 작은 수를 선택하는 것을 나타낸다. 물론, 다른 규칙이 대안으로 정수 세트에서 정수를 선택하는데 사용될 수도 있다.
본 발명은 또한 변환 계수 역양자화 장치를 개시한다. 이하의 변환 계수 역양자화 장치에 대해서는 대응하는 변환 계수 역양자화 방법을 참조한다.
도 5를 참조하면, 도 5는 본 발명에 따른 변환 계수 역양자화 장치의 개략 구성도이다. 이 변환 계수 역양자화 장치는 유닛 크기 결정 유닛(1), 양자화 조절 인자 결정 유닛(2) 및 역양자화 유닛(3)을 포함한다.
유닛 크기 결정 유닛(1)은 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하도록 구성된다. 제1 변환 계수 세트 및 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성된다.
양자화 조절 인자 결정 유닛(2)은 미리 설정된 제1 알고리즘 및 유닛 크기 결정 유닛에 의해 결정되는 처리될 유닛의 유닛 크기에 따라, 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하도록 구성된다. 미리 설정된 제1 알고리즘에 의해, 양자화 조절 인자는 처리될 유닛의 유닛 크기의 값에 따라 점진적으로 감소한다.
역양자화 유닛(3)은 양자화 조절 인자 결정 유닛에 의해 결정되는 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라, 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하도록 구성된다.
본 발명에 개시된 변환 계수 역양자화 방법에 따르면, 유닛 크기 결정 유닛이 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하고, 양자화 조절 인자 결정 유닛이 처리될 유닛의 유닛 크기와 이미지 복잡도 사이의 강한 상관관계에 기초하여 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 적응적으로 결정하며, 역양자화 유닛이 양자화 조절 인자를 사용하여 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행한다. 본 발명에 개시된 변환 계수 역양자화 장치에 기초하면, 디코딩 기기는 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 적응적으로 결정한 다음, 결정된 양자화 조절 인자를 사용하여 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화를 수행한다. 코딩 기기에 의해 전송되는 코드 스트림은 양자화 스텝 크기 조절 정보를 싣을 필요가 없으므로, 코딩 효율을 향상시킬 수 있다.
구체적인 구현 시에, 제1 변환 계수 세트에 대응하는 처리될 유닛은 여러 형식을 가지며, 이에 상응하게 유닛 크기 결정 유닛(1)은 여러 구성을 갖는다.
일 구현예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 변환 유닛이다. 이에 상응하게, 유닛 크기 결정 유닛(1)은, 분할 정보를 사용하여 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 및 제1 크기 결정 모듈에 의해 결정되는 제1 변환 유닛의 크기를, 처리될 유닛의 유닛 크기로 결정하도록 구성된 제1 처리 모듈을 포함한다.
다른 구현예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 변환 유닛 및 제1 코딩 유닛이다. 이에 상응하게, 유닛 크기 결정 유닛(1)은, 분할 정보를 사용하여 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 분할 정보를 사용하여 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 및 제1 코딩 유닛의 크기가 제1 임계치보다 큰 경우, 제2 크기 결정 모듈에 위해 결정되는 제1 코딩 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하거나; 또는 제1 코딩 유닛의 크기가 제1 임계치 이하인 경우, 제1 크기 결정 모듈에 의해 결정되는 제1 변환 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하도록 구성된 제2 처리 모듈을 포함한다. 제1 임계치는, 예를 들어 8, 12, 16, 또는 32이다.
다른 구현예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 변환 유닛 및 제1 예측 유닛이다. 이에 상응하게, 유닛 크기 결정 유닛(1)은, 분할 정보를 사용하여 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 분할 정보를 사용하여 제1 예측 유닛의 크기를 결정하도록 구성된 제3 크기 결정 모듈; 및 제3 크기 결정 모듈에 의해 결정되는 제1 예측 유닛의 크기가 제2 임계치보다 큰 경우, 제1 예측 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하거나; 또는 제3 크기 결정 모듈에 의해 결정되는 제1 예측 유닛의 크기가 제2 임계치 이하인 경우, 제1 변환 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하도록 구성된 제3 처리 모듈을 포함한다. 제2 임계치는, 예를 들어, 8,
Figure 112018029891158-pct00066
, 16,
Figure 112018029891158-pct00067
, 또는 32이다.
다른 구현예에서, 처리될 유닛은 제1 변환 유닛, 제1 코딩 유닛, 및 제1 예측 유닛을 포함한다. 이에 상응하게 유닛 크기 결정 유닛(1)은, 분할 정보를 사용하여 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 분할 정보를 사용하여 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 분할 정보를 사용하여 제1 예측 유닛의 크기를 결정하도록 구성된 제3 크기 결정 모듈; 제1 예측 유닛의 크기와 제1 코딩 유닛의 크기의 평균을 계산하도록 구성된 평균 계산 모듈; 및 평균 계산 모듈에 의해 계산되는 평균이 제3 임계치보다 큰 경우, 평균을 처리될 유닛의 유닛 크기로 결정하거나; 또는 평균 계산 모듈에 의해 계산되는 평균이 제3 임계치 이하인 경우, 제1 크기 결정 모듈에 의해 결정되는 제1 변환 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하도록 구성되는 제4 처리 모듈을 포함한다.
처리될 유닛이 제1 변환 유닛, 제1 코딩 유닛 및 제1 예측 유닛을 포함하는 경우, 유닛 크기 결정 유닛(1)은, 분할 정보를 사용하여 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 분할 정보를 사용하여 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 분할 정보를 사용하여 제1 예측 유닛의 크기를 결정하도록 구성된 제3 크기 결정 모듈; 및 제1 변환 유닛의 크기, 제1 코딩 유닛의 크기 및 제1 예측 유닛의 크기의 가중 평균을 계산하고, 가중 평균을 처리될 유닛의 유닛 크기로 결정하도록 구성된 제5 처리 모듈을 포함한다.
다른 구현예에서, 처리될 유닛은 제1 코딩 유닛이다. 이에 상응하게, 유닛 크기 결정 유닛(1)은, 분할 정보를 사용하여 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 및 제2 크기 결정 모듈에 의해 결정되는 제1 코딩 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하도록 구성된 제6 처리 모듈을 포함한다.
다른 구현예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 예측 유닛이다. 이에 상응하게, 유닛 크기 결정 유닛(1)은, 분할 정보를 사용하여 제1 예측 유닛의 크기를 결정하도록 구성된 제3 크기 결정 모듈; 및 제3 크기 결정 모듈에 의해 결정되는 제1 예측 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하도록 구성된 제7 처리 모듈을 포함한다.
다른 구현예에서, 제1 변환 계수 세트에 대응하는 처리될 유닛은 제1 코딩 유닛 및 제1 제1 예측 유닛이다. 이에 상응하게, 유닛 크기 결정 유닛(1)은, 분할 정보를 사용하여 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 분할 정보를 사용하여 제1 예측 유닛의 크기를 결정하도록 구성된 제3 크기 결정 모듈; 및 제2 크기 결정 모듈에 의해 결정되는 제1 코딩 유닛의 크기가 제4 임계치보다 큰 경우, 제1 코딩 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하거나; 또는 제2 크기 결정 모듈에 의해 결정되는 제1 코딩 유닛의 크기가 제4 임계치 이하인 경우, 제1 예측 유닛의 크기를 처리될 유닛의 유닛 크기로 결정하도록 구성된 제8 처리유닛을 포함한다. 제4 임계치는, 예를 들어 8, 12, 16 또는 32이다.
본 발명의 도 5에 도시된 변환 계수 역양자화 장치에서, 양자화 조절 인자 결정 유닛(2)은 여러 방식을 사용하여 미리 설정된 제1 알고리즘 및 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트를 위한 양자화 조절 인자를 결정할 수 있다. 이에 상응하게, 양자화 조절 인자 결정 유닛(2)는 여러 구성을 갖는다.
일 구현예에서, 양자화 조절 인자 결정 유닛(2)은 제1 양자화 조절 인자 결정 모듈을 포함한다. 제1 양자화 조절 인자 결정 모듈은, 식
Figure 112018029891158-pct00068
를 사용하여 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하며, 여기서 QC는 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 처리될 유닛의 유닛 크기이고, N1 및 M1은 1 이상의 양수이며, K1 및 A1은 양수이다.
다른 구현예에서, 양자화 조절 인자 결정 유닛(2)은, 제2 양자화 조절 인자 결정 모듈을 포함한다. 제2 양자화 조절 인자 결정 모듈은, 식
Figure 112018029891158-pct00069
을 사용하여 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하며, 여기서 QC는 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 처리될 유닛의 유닛 크기이고, N1은 1 이상의 양수이며, a1 및 b1은 양수이다.
처리될 유닛이 제1 변환 유닛을 포함하는 경우, 양자화 조절 인자 결정 유닛(2)은 제1 파싱 모듈, 제1 계산 모듈 및 제3 양자화 조절 인자 결정 모듈을 포함하는 다음의 구성일 수 있다.
제1 파싱 모듈은 코드 스트림을 파싱하여, 코드 스트림에 실려 있는, 사용에 허용된 T종(種)의 변환 유닛의 크기, 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 및 제t 레벨 변환 유닛과 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 취득하도록 구성되며, 여기서 t = 2, 3, ... 또는 T이고, T는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 변환 유닛에 대해, 보다 낮은 레벨의 변환 유닛의 크기가 다른 변환 유닛의 크기보다 크며, 양자화 조절 인자 차 정보 dQCt는 전부 또는 부분적으로 0보다 크다.
제1 계산 모듈은, 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 , 및 제t 레벨 변환 유닛과 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 사용하여, T종의 변환 유닛에 대응하는 양자화 조절 인자를 결정하도록 구성된다.
제3 양자화 조절 인자 결정 모듈은 T종의 변환 유닛 중의, 크기가 제1 변환 유닛의 크기와 동일한 변환 유닛을 타깃 변환 유닛으로 결정하고, 타깃 변환 유닛에 대응하는 양자화 조절 인자를 처리될 유닛의 양자화 조절 인자로 결정하도록 구성된다.
또한, 처리될 유닛이 제1 코딩 유닛인 경우, 양자화 조절 인자 결정 유닛(2)은 추가로 제2 파싱 모듈, 제2 계산 모듈 및 제4 양자화 조절 인자 결정 모듈을 포함하는 다음 구성일 수 있다.
제2 파싱 모듈은, 코드 스트림을 파싱하여, 코드 스트림에 실려 있는, 사용에 허용된 P종의 코딩 유닛의 크기, 최대 코딩 유닛에 대응하는 양자화 조절 인자 QC1 및 제p 레벨 변환 유닛과 제(p-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCp를 취득하도록 구성되며, 여기서 p = 2, 3, ... 또는 P이고, P는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 코딩 유닛에 대해, 더 낮은 레벨의 변환 유닛의 크기가 다른 코딩 유닛의 크기보다 크며, 양자화 조절 인자 차 정보 dQCp는 전부 또는 부분적으로 0보다 크다.
제2 계산 모듈은, 최대 코딩 유닛에 대응하는 양자화 조절 인자 QC1 , 및 제p 레벨 코딩 유닛과 제(p-1) 레벨 코딩 유닛 사이의 양자화 조절 인자 차 정보 dQCp를 사용하여, P종의 코딩 유닛에 대응하는 양자화 조절 인자를 결정하도록 구성된다.
제4 양자화 조절 인자 결정 모듈은, P종의 코딩 유닛 중의, 크기가 제1 코딩 유닛의 크기와 동일한 코딩 유닛을 타깃 코딩 유닛으로 결정하고, 타깃 코딩 유닛에 대응하는 양자화 조절 인자를 처리될 유닛의 양자화 조절 인자로 결정하도록 구성된다.
또한, 처리될 유닛이 제1 예측 유닛인 경우, 양자화 조절 인자 결정 유닛(2)은 또한 제3 파싱 모듈, 제3 계산 모듈 및 제5 양자화 조절 인자 결정 모듈을 포함하는 다음 구성일 수 있다.
제3 파싱 모듈은, 코드 스트림을 파싱하여, 코드 스트림에 실려 있는, 사용에 허용된 Z종의 예측 유닛의 크기, 최대 예측 유닛에 대응하는 양자화 조절 인자 QC1 및 제z 레벨 예측 유닛과 제(z-1) 레벨 예측 유닛 사이의 양자화 조절 인자 차 정보 dQCz를 취득하도록 구성되며, 여기서 z = 2, 3, ... 또는 Z이고, Z는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 예측 유닛에 대해, 더 낮은 레벨의 예측 유닛의 크기가 다른 예측 유닛의 크기보다 크며, 양자화 조절 인자 차 정보 dQCz는 전부 또는 부분적으로 0보다 크다.
제3 계산 모듈은, 최대 예측 유닛에 대응하는 양자화 조절 인자 QC1 , 및 제z 레벨 변환 유닛과 제(z-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCz를 사용하여, Z종의 예측 유닛에 대응하는 양자화 조절 인자를 결정하도록 구성된다.
제5 양자화 조절 인자 결정 모듈은, Z종의 예측 유닛 중의, 크기가 제1 예측 유닛의 크기와 동일한 예측 유닛을 타깃 예측 유닛으로 결정하고, 타깃 예측 유닛에 대응하는 양자화 조절 인자를 처리될 유닛의 양자화 조절 인자로 결정하도록 구성된다.
도 5에 도시된 변환 계수 역양자화 장치에서, 역양자화 유닛(3)은 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화를 처리하기 위해 여러 방식을 사용할 수 있다. 이에 상응하게, 역양자화 유닛(3)은 여러 구성을 가진다.
일 구현예에서, 역양자화 유닛(3)은 제1 역양자화 모듈을 포함한다. 제1 역양자화 모듈은, 식
Figure 112018029891158-pct00070
를 사용하여 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하며,
여기서 i = 1, 2, ..., 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, QC는 양자화 조절 인자이고, o2(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, R(i)는 제2 변환 계수 세트 내의 제i 변환 계수이다.
다른 구현예에서, 역양자화 유닛(3)은 제1 정수화 처리 모듈, 제2 정수화 처리 모듈 및 제2 역양자화 모듈을 포함한다. 제1 정수화 처리 모듈은 양자화 조절 인자에 대해 정수화 처리를 수행하도록 구성된다. 제2 정수화 처리 모듈은 제1 변환 계수 세트 내의 변환 계수 각각에 대응하는 원래의 양자화 스텝 크기에 대해 정수화 처리를 수행하도록 구성된다. 제2 역양자화 모듈은 식
Figure 112018029891158-pct00071
을 사용하여 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하도록 구성되며,
여기서 i = 1, 2, ..., 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs'(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기에 대해 정수화 처리를 수행한 후에 생성되는 결과이고, QC'는 정수화 처리 후의 양자화 조절 인자이고, bdshift는 비트 시프트량이고, delta는 추가적인 비트 시프트량이고,
Figure 112018029891158-pct00072
는 왼쪽 시프트 연산자이고,
Figure 112018029891158-pct00073
는 오른쪽 시프트 연산자이며, R(i)는 제2 변환 계수 세트 내의 제i 변환 계수이다.
다른 구현예에서, 역양자화 유닛(3)은 제3 역양자화 모듈 및 변환 계수 처리 모듈을 포함한다.
제3 역양자화 모듈은 식
Figure 112018029891158-pct00074
를 사용하여 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하여, 제3 변환 계수 세트를 취득하도록 구성된다. 변환 계수 처리 모듈은 식
Figure 112018029891158-pct00075
를 사용하여 제3 변환 계수 세트 내의 변환 계수 각각에 대해 스케일링 처리 및 정수화 처리를 수행하여, 제2 변환 계수 세트를 취득하도록 구성되며,
여기서 i = 1, 2, ..., 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, o4(i)는 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, B(i)는 제3 변환 계수 세트 내의 제i 변환 계수이고, QC는 양자화 조절 인자이고, o5(i)는 제3 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이며, R(i)는 제2 변환 계수 세트 내의 제i 변환 계수이다.
다른 구현예에서, 역양자화 유닛(3)은 레벨 스케일 표 취득 모듈, 양자화 스텝 크기 결정 모듈 및 제4 역양자화 모듈을 포함한다. 레벨 스케일 표 취득 모듈은 양자화 조절 인자에 대응하는 레벨 스케일 표를 취득하도록 구성된다. 양자화 스텝 크기 결정 모듈은, 레벨 스케일 표 취득 모듈에 의해 취득되는 레벨 스케일 표를 사용하여 미리 설정된 제3 알고리즘에 따라, 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 양자화 스텝 크기를 결정하도록 구성된다. 제4 역양자화 모듈은 양자화 스텝 크기 결정 모듈에 의해 결정되는 양자화 스텝 크기를 사용하여 미리 설정된 제4 알고리즘에 따라, 제1 변환 계수 세트에 대해 역양자화 처리를 수행하도록 구성된다.
구현 시에, 레벨 스케일 표 취득 모듈은 계산 서브모듈 및 제2 정수화 처리 서브모듈을 포함하는 다음 구성의 것일 수 있다. 계산 서브모듈은 미리 설정된 레벨 스케일 표 내의 M개의 레벨 스케일 값에 양자화 조절 인자를 개별적으로 승산하도록 구성된다. 제1 정수화 처리 서브모듈은 계산 서브모듈에 의해 취득되는 M개의 곱에 대해 정수화 처리를 개별적으로 수행하여, 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 레벨 스케일 표를 취득하도록 구성된다.
구현 시에, 레벨 스케일 표 취득 모듈은 대안으로, 범위 결정 서브모듈 및 레벨 스케일 표 취득 서브모듈을포함하는 다음과 같은 구성의 것일 수 있다. 범위 결정 서브모듈은 미리 설정된 복수의 값 범위에서 양자화 조절 인자의 값 범위를 결정하도록 구성된다. 각각의 값 범위는 레벨 스케일 표에 대응한다. 레벨 스케일 표 취득 서브모듈은 범위 결정 서브모듈에 의해 결정되는 양자화 조절 인자의 값 범위에 대응하는 레벨 스케일표를 취득하도록 구성된다.
또, 레벨 스케일 표 취득 모듈은 대안으로, 계산 서브모듀르 제2 정수화 처리 서브모듈, 정수 세트 결정 서브모듈, 및 러리 서브모듈을 포함하는 것일 수 있다. 계산 서브모듈은 미리 설정된 레벨 스케일 표 내의 M개의 레벨 스케일 값에 양자화 조절 인자를 개별적으로 승산하도록 구성된다. 제2 정수화 처리 서브모듈은 계산 서브모듈에 의해 취득되는 M개의 곱에 대해 정수화 처리를 개별적으로 수행하여, M개의 중간 값을 취득하도록 구성된다. 정수 세트 결정 서브모듈은 제2 정수화 처리 서브모듈에 의해 취득되는 M개의 중간 값을 사용하여 M개의 정수 세트를 결정하도록 구성되며, 여기서 제m 정수 세트는 제m 중간 값을 중심으로 사용하고, m = 1, 2, ... 또는 M이다. 처리 서브모듈은 미리 설정된 규칙에 따라 M개의 정수 세트 각각에서 하나의 정수를 선택하여, 제1 변환 계수 세트에 대해 역양자화 처리를 수행하기 위한 레벨 스케일 표를 구성하도록 구성된다.
구현 시에, 처리 서브모듈은 미리 설정된 규칙에 따라 정수 세트에서 정수를 선택하도록 구성된다. 구체적으로, 식
Figure 112018029891158-pct00076
및
Figure 112018029891158-pct00077
을 사용하여, 정수 세트 내의 정수 각각에 대응하는 제1 중간 값
Figure 112018029891158-pct00078
및 제2 중간 값
Figure 112018029891158-pct00079
을 계산하고 - 여기서 P는 1보다 큰 정수이고, Dj는 정수 세트 내의 제j 정수이고, j = 1, 2, ..., 또는 J이며, J는 정수 세트에 포함된 정수의 수량임 -; 식
Figure 112018029891158-pct00080
를 사용하여, 정수 세트 내의 정수 각각에 대응하는 제3 중간 값 Cj를 계산하고; 제3 중간 값 Cj 중의 최소 값 Ck를 결정하고, 정수 세트에서 최소 값 Ck에 대응하는 정수를 선택하도록 구성된다.
본 발명은 또한 디코딩 기기를 개시한다. 도 6을 참조하면, 도 6은 프로세서(100), 메모리(200) 및 통신 버스(300)를 포함하는 디코딩 기기의 하드웨어 구조를 도시한다.
프로세서(100)와 메모리(200)는 통신 버스(300)를 사용하여 서로 통신한다. 메모리(200)는 프로그램을 저장하도록 구성된다. 프로세서(100)는 메모리에 저장된 프로그램을 호출하여 실행하도록 구성된다.
프로세서(100)는 중앙 처리 유닛(central processing unit, CPU), 또는 주문형 반도체(application-specific integrated circuit, ASIC)일 수 있거나, 또는 본 발명의 실시예를 구현하도록 구성된 하나 이상의 집적회로일 수 있다. 메모리(200)는 고속 RAM을 포함할 수 있고, 하나 이상의 디스크 메모리와 같은 비휘발성 메모리(non-volatile memory)를 더 포함할 수 있다.
프로세서(100)는 메모리(200)에 저장된 프로그램을 호출하여 다음 단계: 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계 - 제1 변환 계수 세트 및 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성됨 -; 미리 설정된 제1 알고리즘 및 처리될 유닛의 유닛 크기에 따라 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계 - 미리 설정된 제1 알고리즘에 의해, 양자화 조절 인자는 처리될 유닛의 유닛 크기에 따라 점진적으로 감소함 -; 및 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하는 단계를 수행한다.
실시예에서의 방법의 기능들이 소프트웨어 기능 유닛의 형태로 구현되고 독립된 제품으로 판매되거나 사용되면, 기능들은 컴퓨팅 기기가 판독할 수 있는 저장 매체(computing device-readable storage medium)에 저장될 수 있다. 이러한 이해를 바탕으로,
종래 기술에 기여하는 본 출원의 실시예의 부분 또는 기술적 해결방안의 일부는 소프트웨어 제품의 형태로 구현될 수 있다. 소프트웨어 제품은, 저장 매체에 저장되고, 컴퓨터 기기(개인용 컴퓨터, 서버, 또는 네트워크 기기 등)에 본 출원의 실시예에서 설명된 방법의 단계들 중 일부 또는 전부를 수행하도록 명령하기 위한 여러 명령어를 포함한다. 전술한 저장 매체로는, USB 플래시 드라이브, 탈착 가능한 하드 디스크, 판독 전용 메모리(ROM, Read-Only Memory), 임의 접근 메모리(RAM, Random Access Memory), 자기 디스크, 또는 광디스크 등의, 프로그램 코드를 저장할 수 있는 임의의 매체를 포함한다.
본 명세서에서의 실시예는 모두, 실시예에서의 동일하거나 유사한 부분에 대해 점진적인 방식(progressive manner)으로 설명하였으며, 이들 실시예를 참조하여, 각각의 실시예는 다른 실시예와의 차이점에 초점을 맞추고 있다.
이상에 개시된 실시예에서는 당업자가 본 출원을 구현하거나 사용할 수 있도록 설명하였다. 실시예에 대한 다양한 변형은 당업자에게 자명하며, 본 명세서에서 정의된 일반적인 원리는 본 출원의 사상 또는 범위를 벗어나지 않고 다른 실시예에서도 구현될 수 있다. 따라서, 본 출원은 본 명세서에 설명된 이러한 실시예들에 한정되는 것이 아니라, 본 명세서에 개시된 원리들 및 신규한 특징들에 부합하는 가장 넓은 범위로 해석되어야 한다.

Claims (35)

  1. 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계 - 상기 제1 변환 계수 세트 및 상기 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성됨 -;
    미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계 - 상기 미리 설정된 제1 알고리즘에 의해, 상기 양자화 조절 인자는 상기 처리될 유닛의 유닛 크기에 따라 점진적으로 감소함 -; 및
    상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하는 단계
    를 포함하고,
    상기 미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계는 구체적으로,
    식
    Figure 112019134201117-pct00123
    를 사용하여 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하는 단계이며,
    여기서 QC는 상기 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 상기 처리될 유닛의 유닛 크기이고, N1 및 M1은 1 이상의 양수이며, K1 및 A1은 양수인, 변환 계수 역양자화 방법.
  2. 제1항에 있어서,
    상기 처리될 유닛은 제1 변환 유닛을 포함하고; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로,
    상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하고, 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하는 단계인, 변환 계수 역양자화 방법.
  3. 제1항에 있어서,
    상기 처리될 유닛은 제1 변환 유닛 및 제1 코딩 유닛을 포함하고, 상기 제1 코딩 유닛은 상기 제1 변환 유닛을 포함하는 최소 코딩 유닛이며; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로,
    상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하는 단계;
    상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하는 단계; 및
    상기 제1 코딩 유닛의 크기가 제1 임계치보다 큰 경우, 상기 제1 코딩 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하거나; 또는 상기 제1 코딩 유닛의 크기가 제1 임계치 이하인 경우, 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하는 단계인, 변환 계수 역양자화 방법.
  4. 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계 - 상기 제1 변환 계수 세트 및 상기 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성됨 -;
    미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계 - 상기 미리 설정된 제1 알고리즘에 의해, 상기 양자화 조절 인자는 상기 처리될 유닛의 유닛 크기에 따라 점진적으로 감소함 -; 및
    상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하는 단계
    를 포함하고,
    상기 미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계는 구체적으로,
    식
    Figure 112019134201117-pct00114
    을 사용하여 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하는 단계이며,
    여기서 QC는 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 상기 처리될 유닛의 유닛 크기이고, N1은 1 이상의 양수이며, a1 및 b1은 양수인, 변환 계수 역양자화 방법.
  5. 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계 - 상기 제1 변환 계수 세트 및 상기 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성됨 -;
    미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계 - 상기 미리 설정된 제1 알고리즘에 의해, 상기 양자화 조절 인자는 상기 처리될 유닛의 유닛 크기에 따라 점진적으로 감소함 -; 및
    상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하는 단계
    를 포함하고,
    상기 처리될 유닛은 제1 변환 유닛을 포함하고; 상기 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계는 구체적으로,
    상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하고, 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하는 단계이며,
    상기 미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계는 구체적으로,
    상기 코드 스트림을 파싱하여, 상기 코드 스트림에 실려 있는, 사용에 허용된 T종(種)의 변환 유닛의 크기, 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 및 제t 레벨 변환 유닛과 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 취득하는 단계 - 여기서 t = 2, 3, ... 또는 T이고, T는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 변환 유닛에 대해, 더 낮은 레벨의 변환 유닛의 크기가 다른 변환 유닛의 크기보다 크며, 상기 양자화 조절 인자 차 정보 dQCt는 전부 또는 부분적으로 0보다 큼 -;
    상기 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 , 및 상기 제t 레벨 변환 유닛과 상기 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 사용하여, 상기 T종의 변환 유닛에 대응하는 양자화 조절 인자를 결정하는 단계; 및
    상기 T종의 변환 유닛 중의, 크기가 상기 제1 변환 유닛의 크기와 동일한 변환 유닛을 타깃 변환 유닛으로 결정하고, 상기 타깃 변환 유닛에 대응하는 양자화 조절 인자를 상기 처리될 유닛의 양자화 조절 인자로 결정하는 단계인, 변환 계수 역양자화 방법.
  6. 제1항에 있어서,
    상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하는 것은,
    식
    Figure 112019134201117-pct00115
    를 사용하여 상기 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하는 것을 포함하며,
    여기서 i = 1, 2, ..., 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, QC는 양자화 조절 인자이고, o2(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스(roundoff bias)이고, R(i)는 상기 제2 변환 계수 세트 내의 제i 변환 계수인, 변환 계수 역양자화 방법.
  7. 제1항에 있어서,
    상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하는 것은,
    식
    Figure 112019134201117-pct00116
    를 사용하여 상기 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하여, 제3 변환 계수 세트를 취득하는 것; 및
    식
    Figure 112019134201117-pct00117
    를 사용하여 상기 제3 변환 계수 세트 내의 변환 계수 각각에 대해 스케일링 처리 및 정수화 처리를 수행하여, 상기 제2 변환 계수 세트를 취득하는 것을 포함하며,
    여기서 i = 1, 2, ..., 또는 N이고, N은 상기 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, o4(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, B(i)는 상기 제3 변환 계수 세트 내의 제i 변환 계수이고, QC는 상기 양자화 조절 인자이고, o5(i)는 상기 제3 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이며, R(i)는 상기 제2 변환 계수 세트 내의 제i 변환 계수인, 변환 계수 역양자화 방법.
  8. 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하도록 구성된 유닛 크기 결정 유닛 - 상기 제1 변환 계수 세트 및 상기 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성됨 -;
    미리 설정된 제1 알고리즘 및 상기 유닛 크기 결정 유닛에 의해 결정되는 상기 처리될 유닛의 유닛 크기에 따라, 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하도록 구성된 양자화 조절 인자 결정 유닛 - 상기 미리 설정된 제1 알고리즘에 의해, 상기 양자화 조절 인자는 상기 처리될 유닛의 유닛 크기의 값에 따라 점진적으로 감소함 -; 및
    상기 양자화 조절 인자 결정 유닛에 의해 결정되는 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라, 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하도록 구성된 역양자화 유닛
    을 포함하고,
    상기 양자화 조절 인자 결정 유닛은, 제1 양자화 조절 인자 결정 모듈을 포함하고;
    상기 제1 양자화 조절 인자 결정 모듈은, 식
    Figure 112019134201117-pct00124
    를 사용하여 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하며, 여기서 QC는 상기 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 상기 처리될 유닛의 유닛 크기이고, N1 및 M1은 1 이상의 양수이며, K1 및 A1은 양수인, 변환 계수 역양자화 장치.
  9. 제8항에 있어서,
    상기 처리될 유닛은 제1 변환 유닛을 포함하고; 상기 유닛 크기 결정 유닛은,
    상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 및
    상기 제1 크기 결정 모듈에 의해 결정되는 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하도록 구성된 제1 처리 모듈을 포함하는, 변환 계수 역양자화 장치.
  10. 제8항에 있어서,
    상기 처리될 유닛은 제1 변환 유닛 및 제1 코딩 유닛을 포함하고, 상기 제1 코딩 유닛은 상기 제1 변환 유닛을 포함하는 최소 코딩 유닛이며; 상기 유닛 크기 결정 유닛은,
    상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈;
    상기 분할 정보를 사용하여 상기 제1 코딩 유닛의 크기를 결정하도록 구성된 제2 크기 결정 모듈; 및
    상기 제1 코딩 유닛의 크기가 제1 임계치보다 큰 경우, 상기 제2 크기 결정 모듈에 위해 결정되는 상기 제1 코딩 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하거나; 또는 상기 제1 코딩 유닛의 크기가 상기 제1 임계치 이하인 경우, 상기 제1 크기 결정 모듈에 의해 결정되는 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하도록 구성된 제2 처리 모듈을 포함하는, 변환 계수 역양자화 장치.
  11. 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하도록 구성된 유닛 크기 결정 유닛 - 상기 제1 변환 계수 세트 및 상기 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성됨 -;
    미리 설정된 제1 알고리즘 및 상기 유닛 크기 결정 유닛에 의해 결정되는 상기 처리될 유닛의 유닛 크기에 따라, 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하도록 구성된 양자화 조절 인자 결정 유닛 - 상기 미리 설정된 제1 알고리즘에 의해, 상기 양자화 조절 인자는 상기 처리될 유닛의 유닛 크기의 값에 따라 점진적으로 감소함 -; 및
    상기 양자화 조절 인자 결정 유닛에 의해 결정되는 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라, 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하도록 구성된 역양자화 유닛
    을 포함하고,,
    상기 양자화 조절 인자 결정 유닛은, 제2 양자화 조절 인자 결정 모듈을 포함하고;
    상기 제2 양자화 조절 인자 결정 모듈은, 식
    Figure 112019134201117-pct00119
    을 사용하여 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하며, 여기서 QC는 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 상기 처리될 유닛의 유닛 크기이고, N1은 1 이상의 양수이며, a1 및 b1은 양수인, 변환 계수 역양자화 장치.
  12. 분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하도록 구성된 유닛 크기 결정 유닛 - 상기 제1 변환 계수 세트 및 상기 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성됨 -;
    미리 설정된 제1 알고리즘 및 상기 유닛 크기 결정 유닛에 의해 결정되는 상기 처리될 유닛의 유닛 크기에 따라, 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하도록 구성된 양자화 조절 인자 결정 유닛 - 상기 미리 설정된 제1 알고리즘에 의해, 상기 양자화 조절 인자는 상기 처리될 유닛의 유닛 크기의 값에 따라 점진적으로 감소함 -; 및
    상기 양자화 조절 인자 결정 유닛에 의해 결정되는 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라, 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하도록 구성된 역양자화 유닛
    을 포함하고,
    상기 처리될 유닛은 제1 변환 유닛을 포함하고,
    상기 유닛 크기 결정 유닛은,
    상기 분할 정보를 사용하여 상기 제1 변환 유닛의 크기를 결정하도록 구성된 제1 크기 결정 모듈; 및
    상기 제1 크기 결정 모듈에 의해 결정되는 상기 제1 변환 유닛의 크기를 상기 처리될 유닛의 유닛 크기로 결정하도록 구성된 제1 처리 모듈
    을 포함하며,
    상기 양자화 조절 인자 결정 유닛은,
    상기 코드 스트림을 파싱하여, 상기 코드 스트림에 실려 있는, 사용에 허용된 T개(T종)의 변환 유닛의 크기, 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 및 제t 레벨 변환 유닛과 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 취득하도록 구성된 제1 파싱 모듈 - 여기서 t = 2, 3, ... 또는 T이고, T는 3보다 큰 정수이고, 인접한 레벨의 임의의 두 변환 유닛에 대해, 보다 낮은 레벨의 변환 유닛의 크기는 다른 변환 유닛의 크기보다 크며, 상기 양자화 조절 인자 차 정보 dQCt는 전부 또는 부분적으로 0보다 큼 -;
    상기 최대 변환 유닛에 대응하는 양자화 조절 인자 QC1 , 및 상기 제t 레벨 변환 유닛과 상기 제(t-1) 레벨 변환 유닛 사이의 양자화 조절 인자 차 정보 dQCt를 사용하여, 상기 T종의 변환 유닛에 대응하는 양자화 조절 인자를 결정하도록 구성된 제1 계산 모듈; 및
    상기 T종의 변환 유닛 중의, 크기가 상기 제1 변환 유닛의 크기와 동일한 변환 유닛을 타깃 변환 유닛으로 결정하고, 상기 타깃 변환 유닛에 대응하는 양자화 조절 인자를 상기 처리될 유닛의 양자화 조절 인자로 결정하도록 구성된 제3 양자화 조절 인자 결정 모듈을 포함하는, 변환 계수 역양자화 장치.
  13. 제8항에 있어서,
    상기 변환 계수 역양자화 장치는 제1 전송 모듈을 더 포함하며, 상기 역양자화 유닛은 제1 역양자화 모듈을 포함하고;
    상기 제1 역양자화 모듈은, 식
    Figure 112019134201117-pct00120
    를 사용하여 상기 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하며,
    여기서 i = 1, 2, ..., 또는 N이고, N은 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, QC는 양자화 조절 인자이고, o2(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, R(i)는 상기 제2 변환 계수 세트 내의 제i 변환 계수인, 변환 계수 역양자화 장치.
  14. 제8항에 있어서,
    상기 역양자화 유닛은,
    식
    Figure 112019134201117-pct00121
    를 사용하여 상기 제1 변환 계수 세트 내의 변환 계수 각각에 대해 역양자화 처리를 수행하여, 제3 변환 계수 세트를 취득하도록 구성된 제3 역양자화 모듈; 및
    식
    Figure 112019134201117-pct00122
    를 사용하여 상기 제3 변환 계수 세트 내의 변환 계수 각각에 대해 스케일링 처리 및 정수화 처리를 수행하여, 상기 제2 변환 계수 세트를 취득하도록 구성된 변환 계수 처리 모듈을 포함하며,
    여기서 i = 1, 2, ..., 또는 N이고, N은 상기 제1 변환 계수 세트에 포함된 변환 계수의 수량이고, A(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수이고, Qs(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 원래의 양자화 스텝 크기이고, o4(i)는 상기 제1 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이고, B(i)는 상기 제3 변환 계수 세트 내의 제i 변환 계수이고, QC는 양자화 조절 인자이고, o5(i)는 상기 제3 변환 계수 세트 내의 제i 변환 계수에 대응하는 반올림 바이어스이며, R(i)는 상기 제2 변환 계수 세트 내의 제i 변환 계수인, 변환 계수 역양자화 장치.
  15. 프로세서, 메모리 및 통신 버스를 포함하는 디코딩 기기로서,
    상기 메모리는 프로그램을 저장하도록 구성되고;
    상기 프로세서는, 상기 메모리에 저장된 프로그램을 호출하여,
    분할 정보를 사용하여, 제1 변환 계수 세트에 대응하는 처리될 유닛의 유닛 크기를 결정하는 단계 - 상기 제1 변환 계수 세트 및 상기 분할 정보는 코드 스트림에 대해 엔트로피 디코딩을 수행함으로써 생성됨 -;
    미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계 - 상기 미리 설정된 제1 알고리즘에 의해, 상기 양자화 조절 인자는 상기 처리될 유닛의 유닛 크기에 따라 점진적으로 감소함 -; 및
    상기 양자화 조절 인자를 사용하여 미리 설정된 제2 알고리즘에 따라 상기 제1 변환 계수 세트 내의 변환 계수에 대해 역양자화 처리를 수행하여, 제2 변환 계수 세트를 취득하는 단계를 수행하며,
    상기 미리 설정된 제1 알고리즘 및 상기 처리될 유닛의 유닛 크기에 따라 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 결정하는 단계는 구체적으로,
    식
    Figure 112019134201117-pct00125
    를 사용하여 상기 제1 변환 계수 세트에 대한 양자화 조절 인자를 계산하는 단계이며,
    여기서 QC는 상기 제1 변환 계수 세트에 대한 양자화 조절 인자이고, Size는 상기 처리될 유닛의 유닛 크기이고, N1 및 M1은 1 이상의 양수이며, K1 및 A1은 양수인,
    디코딩 기기.
  16. 삭제
  17. 삭제
  18. 삭제
  19. 삭제
  20. 삭제
  21. 삭제
  22. 삭제
  23. 삭제
  24. 삭제
  25. 삭제
  26. 삭제
  27. 삭제
  28. 삭제
  29. 삭제
  30. 삭제
  31. 삭제
  32. 삭제
  33. 삭제
  34. 삭제
  35. 삭제
KR1020187008492A 2015-11-06 2015-11-06 변환 계수의 역양자화 방법 및 장치, 그리고 디코딩 기기 KR102139159B1 (ko)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2015/094008 WO2017075810A1 (zh) 2015-11-06 2015-11-06 反量化变换系数的方法、装置及解码设备

Publications (2)

Publication Number Publication Date
KR20180043822A KR20180043822A (ko) 2018-04-30
KR102139159B1 true KR102139159B1 (ko) 2020-07-29

Family

ID=58661470

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020187008492A KR102139159B1 (ko) 2015-11-06 2015-11-06 변환 계수의 역양자화 방법 및 장치, 그리고 디코딩 기기

Country Status (6)

Country Link
US (1) US10630983B2 (ko)
EP (1) EP3334160A1 (ko)
KR (1) KR102139159B1 (ko)
CN (1) CN107211133B (ko)
BR (1) BR112018007925A2 (ko)
WO (1) WO2017075810A1 (ko)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108259913A (zh) * 2016-12-29 2018-07-06 北京大学深圳研究生院 一种用于帧间预测帧中的帧内预测方法
CN109756733B (zh) * 2017-11-06 2022-04-12 华为技术有限公司 视频数据解码方法及装置
KR20190056888A (ko) * 2017-11-17 2019-05-27 삼성전자주식회사 비디오 부호화 장치 및 방법
CN110363279B (zh) * 2018-03-26 2021-09-21 华为技术有限公司 基于卷积神经网络模型的图像处理方法和装置
CN110536133B (zh) * 2018-05-24 2021-11-19 华为技术有限公司 视频数据解码方法及装置
HRP20230521T1 (hr) * 2018-06-03 2023-08-04 Lg Electronics Inc. Postupak i uređaj za obradu video signala pomoću smanjene transformacije
AU2018204786A1 (en) * 2018-06-29 2020-01-16 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding a transformed block of video samples
CN111405279B (zh) * 2019-01-03 2021-06-29 华为技术有限公司 量化、反量化方法及装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6975773B1 (en) * 2002-07-30 2005-12-13 Qualcomm, Incorporated Parameter selection in data compression and decompression
JP4901772B2 (ja) 2007-02-09 2012-03-21 パナソニック株式会社 動画像符号化方法及び動画像符号化装置
US8451896B2 (en) 2009-10-19 2013-05-28 Hong Kong Applied Science and Technology Research Institute Company Limited Method and apparatus for adaptive quantization in digital video coding
US10897625B2 (en) * 2009-11-20 2021-01-19 Texas Instruments Incorporated Block artifact suppression in video coding
US20120189052A1 (en) * 2011-01-24 2012-07-26 Qualcomm Incorporated Signaling quantization parameter changes for coded units in high efficiency video coding (hevc)
LT2773117T (lt) * 2011-10-24 2018-12-27 Infobridge Pte. Ltd. Vaizdo dekodavimo aparatas
US9961343B2 (en) * 2011-10-24 2018-05-01 Infobridge Pte. Ltd. Method and apparatus for generating reconstructed block
CN103096052B (zh) * 2011-11-04 2015-11-25 华为技术有限公司 一种图像编码、解码的方法和装置
CN103975592B (zh) * 2011-12-15 2018-03-06 寰发股份有限公司 反量化变换系数的方法及装置
WO2013086724A1 (en) 2011-12-15 2013-06-20 Mediatek Singapore Pte. Ltd. Method of clippling transformed coefficients before de-quantization
JP2014003587A (ja) * 2012-05-25 2014-01-09 Canon Inc 画像符号化装置及びその方法
US9319684B2 (en) * 2012-08-21 2016-04-19 Qualcomm Incorporated Alternative transform in scalable video coding
KR102088801B1 (ko) * 2013-03-07 2020-03-13 삼성전자주식회사 가변블록 사이즈 코딩 정보를 이용한 관심영역 코딩 방법 및 장치
CN103517069B (zh) * 2013-09-25 2016-10-26 北京航空航天大学 一种基于纹理分析的hevc帧内预测快速模式选择方法
CN104270641B (zh) * 2014-09-30 2018-12-14 杭州华为数字技术有限公司 变换系数的处理方法和装置
CN104702962B (zh) 2015-03-03 2019-04-16 华为技术有限公司 帧内编解码方法、编码器和解码器

Also Published As

Publication number Publication date
EP3334160A4 (en) 2018-06-13
BR112018007925A2 (pt) 2018-10-30
US10630983B2 (en) 2020-04-21
WO2017075810A1 (zh) 2017-05-11
EP3334160A1 (en) 2018-06-13
US20180255301A1 (en) 2018-09-06
KR20180043822A (ko) 2018-04-30
CN107211133B (zh) 2020-04-03
CN107211133A (zh) 2017-09-26

Similar Documents

Publication Publication Date Title
KR102139159B1 (ko) 변환 계수의 역양자화 방법 및 장치, 그리고 디코딩 기기
US8520965B2 (en) Context adaptive hybrid variable length coding
US9282329B2 (en) Methods and devices for data compression using offset-based adaptive reconstruction levels
RU2479942C2 (ru) Устройство обработки изображения и способ обработки изображения
CN110692243B (zh) 用于在视频压缩中的熵代码化的概率的混合
US20190045224A1 (en) Method and apparatus of non-local adaptive in-loop filters in video coding
KR100846774B1 (ko) 블록킹 효과를 제거하기 위한 필터링 방법 및 그 장치
US8036471B2 (en) Joint amplitude and position coding of coefficients for video compression
CN116918331A (zh) 编码方法和编码装置
JPH07170517A (ja) 画像圧縮符号化装置
US8442338B2 (en) Visually optimized quantization
WO2015045301A1 (ja) 映像符号化装置、映像符号化方法および映像符号化プログラム
JP2017073602A (ja) 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム
Belyaev Low bit rate video coding based on three-dimensional discrete pseudo cosine transform
EP3343919A1 (en) Video encoding apparatus, video encoding method, video decoding apparatus, and video decoding method
EP3886434B1 (en) Low complexity entropy-encoding/decoding apparatus
Blasi et al. Masking of transformed intra-predicted blocks for high quality image and video coding
CN104602014B (zh) 一种适用于hevc标准的量化与反量化硬件复用算法及硬件结构
de Oliveira et al. Image coding using Variable-Size Transforms and a full binary tree recursive optimization
KR20170124076A (ko) 영상 신호 그룹의 부호화 및 복호화 방법과 장치
KR20170124078A (ko) 영상 신호 부호화/복호화 방법 및 장치
JPH03191674A (ja) 画像処理装置
JP2016146602A (ja) 映像符号化装置、方法及びプログラム
JPH04225693A (ja) 符号化装置
JPH04196791A (ja) 量子化装置

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant