KR102592279B1 - 보간 필터 훈련 방법 및 장치, 비디오 화상 인코딩 및 디코딩 방법, 및 인코더 및 디코더 - Google Patents
보간 필터 훈련 방법 및 장치, 비디오 화상 인코딩 및 디코딩 방법, 및 인코더 및 디코더 Download PDFInfo
- Publication number
- KR102592279B1 KR102592279B1 KR1020217013057A KR20217013057A KR102592279B1 KR 102592279 B1 KR102592279 B1 KR 102592279B1 KR 1020217013057 A KR1020217013057 A KR 1020217013057A KR 20217013057 A KR20217013057 A KR 20217013057A KR 102592279 B1 KR102592279 B1 KR 102592279B1
- Authority
- KR
- South Korea
- Prior art keywords
- interpolation filter
- filter
- picture block
- target
- image
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 300
- 238000012549 training Methods 0.000 title claims abstract description 141
- 230000006870 function Effects 0.000 claims description 119
- 230000008569 process Effects 0.000 claims description 93
- 239000013598 vector Substances 0.000 claims description 70
- 230000006835 compression Effects 0.000 abstract description 16
- 238000007906 compression Methods 0.000 abstract description 16
- 238000013139 quantization Methods 0.000 description 67
- 238000012545 processing Methods 0.000 description 63
- 238000004891 communication Methods 0.000 description 32
- 238000010586 diagram Methods 0.000 description 26
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 17
- 230000003044 adaptive effect Effects 0.000 description 15
- 238000005516 engineering process Methods 0.000 description 13
- 238000007781 pre-processing Methods 0.000 description 9
- 238000005070 sampling Methods 0.000 description 9
- 230000005540 biological transmission Effects 0.000 description 8
- 238000004590 computer program Methods 0.000 description 8
- 230000002123 temporal effect Effects 0.000 description 8
- 238000009499 grossing Methods 0.000 description 6
- 230000002441 reversible effect Effects 0.000 description 6
- 238000000638 solvent extraction Methods 0.000 description 6
- 241000023320 Luma <angiosperm> Species 0.000 description 5
- 238000003491 array Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 4
- 238000013500 data storage Methods 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 4
- 238000005457 optimization Methods 0.000 description 4
- 230000011218 segmentation Effects 0.000 description 4
- 238000012706 support-vector machine Methods 0.000 description 4
- 238000006073 displacement reaction Methods 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012805 post-processing Methods 0.000 description 3
- 230000011664 signaling Effects 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 230000002457 bidirectional effect Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000009966 trimming Methods 0.000 description 2
- 238000012952 Resampling Methods 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 239000000969 carrier Substances 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/117—Filters, e.g. for pre-processing or post-processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/109—Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
- H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/587—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
- H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
Abstract
본 출원의 실시예는 보간 필터 훈련 방법 및 장치, 비디오 화상 인코딩 및 디코딩 방법, 인코더, 및 디코더를 개시한다. 훈련 방법에 따르면, 종래의 보간 필터를 사용하여 보간을 통해 획득되는 제1 서브-픽셀 화상이 제2 보간 필터를 훈련하기 위한 라벨 데이터로서 사용되어, 훈련을 통해 획득되는 제2 보간 필터는, 제1 분수 픽셀 위치의, 보간을 통해 획득되는, 픽셀 값에 직접 사용될 수 있다. 따라서, 라벨 데이터는 더욱 정확하고, 비디오 화상의 코딩 성능이 향상된다. 인코딩 방법에 따르면, 인터 예측 중에, 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터는 후보 보간 필터 세트로부터 결정되고, 인코더는, 현재 인코딩 화상 블록의 컨텐츠에 따라, 보간 연산을 수행하기 위한 적정 보간 필터를 선택한다. 이는 더 높은 예측 정확도로 예측 블록을 획득하고, 비트스트림의 수량을 줄이고, 비디오 화상의 압축율을 증가시킬 수 있다.
Description
삭제
이 출원은 비디오 코딩 기술 분야에 관련되며, 특히, 보간 필터 훈련 방법 및 장치, 비디오 화상 인코딩 및 디코딩 방법, 인코더, 및 디코더에 관련된다.
디지털 비디오 기능은, 디지털 텔레비전, 디지털 라이브 브로드캐스트 시스템, 무선 브로드캐스트 시스템, 개인용 디지털 단말기(PDA), 랩 탑 또는 데스크탑 컴퓨터, 태블릿 컴퓨터, e-book 리더기, 디지털 카메라, 디지털 녹화 장치, 디지털 미디어 플레이어, 비디오 게임 장치, 비디오 게임 콘솔, ("스마트폰"으로도 지칭되는) 셀룰러 또는 위성 무선 전화, 화상 회의 장치, 비디오 스트리밍 장치, 등을 포함하여, 다양한 장치에 통합될 수 있다. 디지털 비디오 장치는 비디오 압축 기술, 예를 들어, MPEG-2, MPEG-4, ITU-T H.263, 및 ITU-T H.264/MPEG-4 part 10 어드밴스드 비디오 코딩(AVC), 비디오 코딩 표준 H.265/고효율 비디오 코딩(HEVC) 표준, 및 그러한 표준의 확장에 의해 규정되는 표준에서 기술되는 비디오 압축 기술을 구현한다. 비디오 장치는 비디오 압축 기술을 구현함으로써 디지털 비디오 정보를 보다 효율적으로 전송, 수신, 인코딩, 디코딩, 및/또는 저장할 수 있다.
비디오 압축 기술은 비디오 시퀀스에서 내재된 중복성을 줄이거나 제거하기 위해 공간적(인트라-화상) 예측 및/또는 시간적(인터-화상) 예측을 수행하는데 사용된다. 블록-기반 비디오 코딩에서, 비디오 슬라이스(즉, 비디오 프레임 또는 비디오 프레임의 일부)는 화상 블록으로 분할될 수 있고, 화상 블록은 트리 블록, 코딩 유닛(CU), 및/또는 코딩 노드로도 또한 지칭될 수 있다. 화상의 인트라-코딩될 (I) 슬라이스에서 화상 블록은 동일한 화상의 이웃하는 블록에서 참조 샘플에 기초하여 공간적 예측을 통해 코딩된다. 화상의 인터-코딩될 (P 또는 B) 슬라이스의 화상 블록의 경우, 동일한 화상의 이웃하는 블록의 참조 샘플에 기초한 공간적 예측 또는 다른 참조 화상의 참조 샘플에 기초한 시간적 예측이 사용될 수 있다. 화상은 프레임으로 지칭될 수 있고, 참조 화상은 참조 프레임으로 지칭될 수 있다.
고효율 비디오 코딩(HEVC) 표준을 포함하는 다양한 비디오 코딩 표준은 화상 블록에 대해 사용되는 예측 코딩 모드를 제안한다. 구체적으로, 코딩된 비디오 데이터 블록에 기초하여 현재의 코딩될 블록이 예측된다. 인트라 예측 모드에서, 현재 블록은 현재 블록과 동일한 화상에서 하나 이상의 이전에 디코딩된 이웃하는 블록에 기초하여 예측된다. 인터 예측 모드에서, 현재 블록은 상이한 화상에서 디코딩된 블록에 기초하여 예측된다.
그러나, 인터 예측 모드에서, 모션 벡터가 서브-픽셀을 가리키는 경우, 최적 매칭된 참조 블록에 서브-픽셀 보간을 수행해야 한다. 종래의 기술에서, 고정된 계수를 가지는 보간 필터가 서브-픽셀 보간을 수행하는데 일반적으로 사용되지만, 현재의 다양한 비-정적(non-stationary) 비디오 신호에 대해 예측 정확도가 떨어진다. 결과적으로, 비디오 화상의 코딩 성능이 나쁘다.
본 출원의 실시예는, 화상 블록의 모션 정보의 예측 정확도를 향상하고, 향상 코딩 성능을 더욱 향상하기 위한, 보간 필터 훈련 방법 및 장치, 비디오 화상 인코딩 및 디코딩 방법, 인코더, 및 디코더를 제공한다.
제1 측면에 따르면, 본 출원의 실시예는 보간 필터 훈련 방법을 제공한다. 상기 방법은 다음을 포함한다: 컴퓨팅 디바이스는 정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하고; 상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하며; 그리고
상기 컴퓨터 디바이스는 상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정한다.
본 출원의 본 실시예에서, 종래의 보간 필터를 사용하여 보간을 통해 획득되는 상기 제1 서브-픽셀 화상은, 상기 제2 보간 필터를 훈련하기 위한 라벨 데이터로서 사용되어, 훈련을 통해 획득되는 상기 제2 보간 필터는 상기 제1 분수 픽셀 위치의, 보간을 통해 획득되는, 픽셀 값으로 직접 사용될 수 있음을 알 수 있다. 따라서, 상기 라벨 데이터는 더욱 정확하고, 비디오 화상의 코딩 성능이 향상된다. 또한, 상기 제2 보간 필터가 예측을 수행하기 위한 비선형 필터로서 사용되는 경우, 예측 정확도가 복잡한 비디오 신호에 대해 높고, 따라서 상기 비디오 화상의 코딩 성능이 더욱 향상된다.
제2 측면에 따르면, 본 출원의 실시예는 보간 필터 훈련 방법을 추가로 제공한다. 상기 방법은 다음을 포함한다: 컴퓨팅 디바이스는 정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하고; 상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하고; 뒤집기 연산이 수행되는 상기 제2 서브-픽셀 화상을 제3 보간 필터에 입력하여 제1 화상을 획득하고, 상기 뒤집기 연산의 역 연산을 상기 제1 화상에 수행하여 제2 화상을 획득하고-여기서, 상기 제2 보간 필터 및 상기 제3 보간 필터는 필터 파라미터를 공유함-; 그리고 상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 상기 샘플 화상과 상기 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수에 기초하여 상기 필터 파라미터를 결정한다.
본 발명의 본 실시예에서, 서브-픽셀 보간은 종래의 보간 필터를 사용하여 상기 샘플 화상에 수행되어 상기 제1 서브-픽셀 화상을 획득하고, 상기 제1 서브-픽셀 화상은 라벨 데이터로서 사용됨을 알 수 있다. 서브-픽셀 보간의 가역성 원리를 사용하여, 상기 필터 파라미터는 상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 상기 샘플 화상과 상기 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수 모두 최소화함으로써 결정되어, 상기 제2 보간 필터는 상기 샘플 화상을 모니터링함으로써 제약된다. 이는 상기 제2 보간 필터를 사용하여 서브-픽셀 보간의 정확도를 향상하고, 비디오 화상의 코딩 성능을 더욱 향상한다.
선택사항으로서, 상기 컴퓨팅 디바이스는 상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 상기 샘플 화상과 상기 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수에 기초하여 상기 필터 파라미터를 결정하는 구현예는 다음 2가지 구현예를 포함할 수 있으나 이에 제한되지 않는다.
제1 구현예: 상기 컴퓨팅 디바이스는 제3 함수를 최소화함으로써 상기 필터 파라미터를 결정하며, 여기서, 상기 제3 함수는 상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 상기 샘플 화상과 상기 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수 사이의 가중 합이다.
제2 구현예: 상기 컴퓨팅 디바이스는 상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 상기 차이를 표현하는데 사용되는 제1 손실 함수 및 상기 샘플 화상과 상기 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수를 번갈아 최소화함으로써 상기 필터 파라미터를 결정한다.
상기 제1 측면 및 상기 제2 측면에서 상기 컴퓨팅 디바이스는 인코딩 디바이스 또는 압축 디바이스일 수 있고, 상기 전술한 디바이스는 컴퓨터, 서버, 또는 단말(예를 들어, 휴대 전화 또는 태블릿 컴퓨터)과 같은, 데이터 처리 기능을 가지는 디바이스일 수 있음을 이해해야 한다.
제3 측면에 따르면, 본 출원의 실시예는 비디오 화상 인코딩 방법을 추가로 제공한다. 상기 방법은 다음을 포함한다:
인코더는 현재 인코딩 화상 블록에 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 모션 정보를 획득하며, 여기서, 상기 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리키고, 상기 인터 예측 프로세스는, 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계를 포함한다.
상기 인코더는 상기 현재 인코딩 화상 블록의 인터 예측 모드 및 상기 현재 인코딩 화상 블록의 모션 정보에 기초하여 상기 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하고, 상기 인코딩 정보를 비트스트림으로 인코딩하며, 여기서, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하고, 상기 타깃 보간 필터의 표시 정보는 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하여 상기 현재 인코딩 화상 블록에 대응하는 분수 픽셀 위치의 참조 블록을 획득하는 것을 표시하는데 사용된다.
제4 측면에 따르면, 본 출원의 실시예는 비디오 화상 인코딩 방법을 추가로 제공한다. 상기 방법은 다음을 포함한다:
인코더는 현재 인코딩 화상 블록에 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 모션 정보를 획득하며, 여기서, 상기 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리키고, 상기 인터 예측 프로세스는, 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계를 포함한다.
상기 인코더는 상기 현재 인코딩 화상 블록의 인터 예측 모드 및 상기 현재 인코딩 화상 블록의 모션 정보에 기초하여 상기 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하고, 상기 인코딩 정보를 비트스트림으로 인코딩하며, 여기서, 상기 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하지 않거나; 또는 상기 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하며, 여기서 상기 타깃 보간 필터의 표시 정보는, 상기 현재 인코딩 화상 블록이 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하는 것을 표시하는데 사용된다.
본 출원의 본 실시예에서, 인터 예측을 수행하는 경우, 상기 인코더는, 상기 현재 인코딩 화상 블록의 컨텐츠에 기초하여, 보간 필터를 선택하여 보간 연산을 수행할 수 있어, 더 높은 예측 정확도로 예측 블록을 획득하고, 비트스트림의 수량을 줄이고, 비디오 화상의 압축율을 증가시킬 수 있음을 알 수 있다.
상기 제3 측면 또는 상기 제4 측면에서 상기 인코더는 상기 인코더를 포함하는 인코딩 디바이스일 수 있고, 상기 인코딩 디바이스는 컴퓨터, 서버, 또는 단말(예를 들어, 휴대 전화 또는 태블릿 컴퓨터)과 같은, 데이터 처리 기능을 가지는 디바이스일 수 있음을 이해해야 한다.
상기 제3 측면 또는 상기 제4 측면을 참조로, 본 출원의 본 실시예의 가능한 구현예에서, 상기 인코더가 상기 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 구현예는 다음과 같을 수 있다: 상기 인코더는, 레이트-왜곡 비용 기준에 따라 상기 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정한다.
인터 예측을 수행하는 경우, 상기 인코더는, 상기 현재 인코딩 화상 블록의 컨텐츠에 기초하여, 가장 작은 레이트-왜곡 비용을 가지는 보간 필터를 선택하여 보간 연산을 수행할 수 있어, 예측 정확도를 향상하고, 비트스트림의 수량을 줄이고, 비디오 화상의 압축율을 증가시킬 수 있음을 알 수 있다.
상기 제3 측면 또는 상기 제4 측면을 참조로, 본 출원의 본 실시예의 가능한 구현예에서, 상기 인코더가 상기 현재 인코딩 화상 블록에 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 모션 정보를 획득하는 구현예는 다음과 같을 수 있다:
상기 인코더는 상기 현재 인코딩 화상 블록에 최적으로 매칭되는 정수 픽셀 참조 화상 블록을 결정한다.
상기 인코더는, 상기 후보 보간 필터 세트 내의 각각의 보간 필터를 사용하여 상기 정수 픽셀 참조 화상 블록에 서브-픽셀 보간을 수행하여, N개의 서브-픽셀 참조 화상 블록을 획득하며, 여기서 N은 양의 정수이다.
상기 인코더는, 상기 정수 픽셀 참조 화상 블록 및 상기 N개의 서브-픽셀 참조 화상 블록으로부터, 상기 현재 인코딩 화상 블록에 최적으로 매칭되는 예측 블록을 결정한다.
상기 인코더는 상기 예측 블록에 기초하여 상기 모션 정보를 결정하며, 여기서 보간을 통해 상기 예측 블록을 획득하는데 사용되는 보간 필터는 상기 타깃 보간 필터이다.
인터 예측 중에, 상기 인코더는 가장 작은 왜곡 비용을 가지는 참조 블록에 대응하는 보간 필터를 선택하여 보간을 수행할 수 있어, 비트스트림의 수량을 줄이고 비디오 화상의 압축율을 증가시킬 수 있음을 알 수 있다.
상기 제3 측면 또는 상기 제4 측면을 참조로, 본 출원의 본 실시예의 가능한 구현예에서, 상기 후보 보간 필터 세트는 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터를 포함한다.
선택사항으로서, 상기 타깃 보간 필터가 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우, 상기 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 상기 타깃 보간 필터의 필터 파라미터는 제1 측면 또는 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 필터 파라미터이다.
또한, 상기 인코딩 정보는 훈련을 통해 획득되는 상기 타깃 보간 필터의 필터 파라미터를 더 포함하거나; 또는 상기 인코딩 정보는 필터 파라미터 차이를 더 포함하고, 상기 필터 파라미터 차이는 현재 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터와 이전에 인코딩된 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터 사이의 차이이다.
상기 인코더는 상기 후보 보간 필터 세트 내의 제2 보간 필터에 온라인 훈련을 수행할 수 있어, 상기 보간 필터는 상기 현재의 인코딩 화상 유닛의 컨텐츠에 기초하여 실시간으로 조정될 수 있어, 예측 정확도를 향상할 수 있음을 알 수 있다.
선택사항으로서, 상기 화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 또는 예측 유닛(PU)을 포함한다.
제5 측면에 따르면, 본 출원의 실시예는 비디오 화상 디코딩 방법을 추가로 제공한다. 상기 방법은 다음을 포함한다:
디코더는 비트스트림을 파싱하여 타깃 보간 필터의 표시 정보를 획득한다.
상기 디코더는 현재 디코딩 화상 블록의 모션 정보를 획득하며, 여기서 상기 모션 정보는 분수 픽셀 위치를 가리킨다.
상기 디코더는 상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하며, 여기서 상기 예측 프로세스는, 상기 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함한다.
상기 디코더는 상기 현재 디코딩 화상 블록의 예측 블록에 기초하여 상기 현재 디코딩 화상 블록의 재구성 블록을 재구성한다.
제6 측면에 따르면, 본 출원의 실시예는 비디오 화상 디코딩 방법을 추가로 제공한다. 상기 방법은 다음을 포함한다:
디코더는 비트스트림을 파싱하여 현재 디코딩 화상 블록의 정보를 획득하며, 여기서 상기 정보는 상기 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용된다.
상기 디코더는 상기 현재 디코딩 화상 블록의 모션 정보를 획득하며, 여기서 상기 모션 정보는 분수 픽셀 위치를 가리킨다.
상기 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 상기 디코더는 상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하며, 여기서 상기 예측 프로세스는, 상기 타깃 보간 필터의 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함하며, 여기서, 상기 타깃 보간 필터의 표시 정보는 상기 비트스트림을 파싱함으로써 획득된다.
상기 디코더는 상기 현재 디코딩 화상 블록의 예측 블록에 기초하여 상기 현재 디코딩 화상 블록을 재구성한다.
선택사항으로서, 상기 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 상기 디코더는 상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하며, 여기서 상기 예측 프로세스는, 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계, 및 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함한다.
상기 현재 디코딩 화상 블록의 인터 예측 모드가 상기 타깃 인터 예측 모드인 경우, 상기 디코더가 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 것은, 구체적으로, 상기 디코더는 디코딩 프로세스에서 상기 이전에 디코딩된 화상 블록에 대해 사용된 보간 필터가 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터인 것으로 결정하거나, 상기 디코더는 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터가 상기 타깃 보간 필터의 그리고 상기 비트스트림을 파싱함으로써 획득되는 상기 표시 정보에 의해 표시되는 타깃 보간 필터 인 것으로 결정하는 것을 포함함을 이해하여야 한다.
본 출원의 본 실시예에서, 인터 예측 중에, 상기 디코더는 상기 타깃 인터 예측 모드의 표시 정보에 의해 표시되는 보간 필터를 선택하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 상기 예측 블록을 획득하여, 상기 디코더는 상기 현재 인코딩 화상 블록의 컨텐츠에 기초하여 상기 보간 필터를 선택하여 보간 연산을 수행함을 알 수 있다. 이는 더 높은 예측 정확도로 예측 블록을 획득하고, 비트스트림의 수량을 줄이고, 비디오 화상의 압축율을 증가시킬 수 있다.
상기 제5 측면 또는 상기 제6 측면을 참조로, 본 출원의 본 실시예의 가능한 구현예에서, 상기 디코더가 상기 현재 디코딩 화상 블록의 모션 정보를 획득하는 구현예는 다음 3가지 구현예를 포함할 수 있으나 이에 제한되지는 않는다.
제1 구현예: 상기 타깃 인터 예측 모드가 아닌 경우(예를 들어, 비-병합 모드), 상기 디코더는 상기 비트스트림을 파싱하여 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득할 수 있고, 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 상기 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 상기 현재 디코딩 화상 블록의 상기 모션 정보를 결정할 수 있다.
제2 구현예: 상기 타깃 인터 예측 모드가 아닌 경우(예를 들어, 비-병합 모드), 상기 디코더는 상기 비트스트림을 파싱하여 모션 벡터 차이 및 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득할 수 있고; 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 상기 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 상기 현재 디코딩 화상 블록의 모션 벡터 예측자를 결정할 수 있고; 그리고 상기 모션 벡터 예측자 및 상기 모션 벡터 차이에 기초하여 상기 현재 디코딩 화상 블록의 모션 벡터를 획득할 수 있다.
제3 구현예: 상기 타깃 인터 예측 모드(예를 들어, 병합 모드)에서, 상기 현재 디코딩 화상 블록의 인터 예측 모드가 상기 병합 모드(merge mode)인 경우, 상기 디코더는 이전에 디코딩된 화상 블록의 그리고 상기 병합 모드에서 병합을 통해 획득되는 모션 정보, 즉, 상기 현재 디코딩 화상 블록의 모션 정보를 획득한다.
상기 제5 측면 또는 상기 제6 측면을 참조로, 본 출원의 본 실시예의 가능한 구현예에서, 상기 타깃 보간 필터가 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우,
상기 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 상기 타깃 보간 필터의 필터 파라미터는 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 필터 파라미터이다.
선택사항으로서, 상기 타깃 보간 필터가 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우, 상기 방법은,
상기 비트스트림을 파싱하여 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터를 획득하는 단계를 더 포함할 수 있고; 그리고
서브-픽셀 보간이 상기 타깃 보간 필터에 기초하여 수형되어 상기 현재 디코딩 화상 블록의 예측 블록을 획득하기 전에, 상기 방법은, 상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 사용하여 상기 타깃 보간 필터를 구성하는 단계;를 더 포함할 수 있다.
선택사항으로서, 상기 타깃 보간 필터가 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우, 상기 방법은,
상기 비트스트림을 파싱하여 필터 파라미터 차이를 획득하는 단계-여기서 상기 필터 파라미터 차이는 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터와 이전에 디코딩된 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터 사이의 차이임-;
상기 이전에 디코딩된 화상 유닛의 상기 타깃 보간 필터의 필터 파라미터 및 상기 필터 파라미터 차이에 기초하여 상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 획득하는 단계; 및
상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 사용하여 상기 타깃 보간 필터를 구성하는 단계;를 더 포함할 수 있다.
선택사항으로서, 상기 화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 또는 예측 유닛(PU)을 포함한다.
제7 측면에 따르면, 본 출원의 실시예는, 상기 제1 측면에 따른 방법을 구현하도록 구성되는 여러가지 기능적 유닛을 포함하는, 보간 필터 훈련 장치를 추가로 제공한다. 예를 들어, 상기 보간 필터 훈련 장치는,
정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하도록 구성되는 라벨 데이터 획득 모듈;
상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하도록 구성되는 보간 모듈; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정하도록 구성되는 파라미터 결정 모듈;을 포함할 수 있다.
제8 측면에 따르면, 본 출원의 실시예는, 상기 제2 측면에 따른 방법을 구현하도록 구성되는 여러가지 기능적 유닛을 포함하는, 보간 필터 훈련 장치를 추가로 제공한다. 예를 들어, 상기 보간 필터 훈련 장치는,
정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하도록 구성되는 라벨 데이터 획득 모듈;
상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하도록 구성되는 보간 모듈;
뒤집기 연산이 수행되는 상기 제2 서브-픽셀 화상을 제3 보간 필터에 입력하여, 제1 화상을 획득하도록, 그리고 상기 뒤집기 연산의 역 연산을 상기 제1 화상에 수행하여 제2 화상을 획득하도록 구성되는 역 보간 모듈-여기서, 상기 제2 보간 필터 및 상기 제3 보간 필터는 필터 파라미터를 공유함-; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 상기 샘플 화상과 상기 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수에 기초하여 상기 필터 파라미터를 결정하도록 구성되는 파라미터 결정 모듈;을 포함할 수 있다.
제9 측면에 따르면, 본 출원의 실시예는, 상기 제3 측면에 따른 방법을 구현하도록 구성되는 여러가지 기능적 유닛을 포함하는, 인코더를 추가로 제공한다. 예를 들어, 상기 인코더는,
현재 인코딩 화상 블록에 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 모션 정보를 획득하도록 구성되는 인터 예측 유닛-여기서, 상기 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리키고, 상기 인터 예측 유닛은 필터 선택 유닛을 포함하되, 상기 필터 선택 유닛은 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하도록 구성됨-; 및
상기 현재 인코딩 화상 블록의 인터 예측 모드 및 상기 현재 인코딩 화상 블록의 모션 정보에 기초하여 상기 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하도록, 그리고 상기 인코딩 정보를 비트스트림으로 인코딩하도록 구성되는 엔트로피 인코딩 유닛-여기서, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하고, 상기 타깃 보간 필터의 표시 정보는 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하여 상기 현재 인코딩 화상 블록에 대응하는 분수 픽셀 위치의 참조 블록을 획득하는 것을 표시하는데 사용됨-;을 포함할 수 있다.
제10 측면에 따르면, 본 출원의 실시예는, 상기 제4 측면에 따른 방법을 구현하도록 구성되는 여러가지 기능적 유닛을 포함하는, 인코더를 추가로 제공한다. 예를 들어, 상기 인코더는,
현재 인코딩 화상 블록에 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 모션 정보를 획득하도록 구성되는 인터 예측 유닛-여기서, 상기 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리키고, 상기 인터 예측 유닛은 필터 선택 유닛을 포함하되, 상기 필터 선택 유닛은 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하도록 구성됨-; 및
상기 현재 인코딩 화상 블록의 인터 예측 모드 및 상기 현재 인코딩 화상 블록의 모션 정보에 기초하여 상기 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하도록, 그리고 상기 인코딩 정보를 비트스트림으로 인코딩하도록 구성되는 엔트로피 인코딩 유닛-여기서, 상기 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하지 않거나; 또는 상기 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하며, 여기서 상기 타깃 보간 필터의 표시 정보는, 상기 현재 인코딩 화상 블록이 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하는 것을 표시하는데 사용됨-;을 포함할 수 있다.
제11 측면에 따르면, 본 출원의 실시예는, 상기 제5 측면에 따른 방법을 구현하도록 구성되는 여러가지 기능적 유닛을 포함하는, 디코더를 추가로 제공한다. 예를 들어, 상기 인코더는,
비트스트림을 파싱하여 타깃 보간 필터의 표시 정보를 획득하도록, 그리고 현재 디코딩 화상 블록의 모션 정보를 획득하도록 구성되는 엔트로피 디코딩 유닛-여기서 상기 모션 정보는 분수 픽셀 위치를 가리킴-;
상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하도록 구성되는 인터 예측 유닛-, 여기서 상기 예측 프로세스는, 상기 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함함-; 및
상기 현재 디코딩 화상 블록의 예측 블록에 기초하여 상기 현재 디코딩 화상 블록의 재구성 블록을 재구성하도록 구성되는 재구성 유닛;을 포함할 수 있다.
제12 측면에 따르면, 본 출원의 실시예는, 상기 제6 측면에 따른 방법을 구현하도록 구성되는 여러가지 기능적 유닛을 포함하는, 디코더를 추가로 제공한다. 예를 들어, 상기 인코더는,
비트스트림을 파싱하여 현재 디코딩 화상 블록의 정보를 획득하도록 구성되는 엔트로피 디코딩 유닛-여기서 상기 정보는 상기 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용됨-;
상기 현재 디코딩 화상 블록의 모션 정보를 획득하도록-여기서 상기 모션 정보는 분수 픽셀 위치를 가리킴-; 그리고 상기 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하도록 구성되는 인터 예측 유닛-여기서, 상기 예측 프로세스는, 상기 타깃 보간 필터의 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함하며, 여기서, 상기 타깃 보간 필터의 표시 정보는 상기 비트스트림을 파싱함으로써 획득됨-; 및
상기 현재 디코딩 화상 블록의 예측 블록에 기초하여 상기 현재 디코딩 화상 블록을 재구성하도록 구성되는 재구성 유닛;을 포함할 수 있다.
제13 측면에 따르면, 본 출원의 실시예는 메모리 및 프로세서를 포함하는 보간 필터 훈련 장치를 추가로 제공한다. 상기 메모리는 프로그램 코드를 저장하도록 구성되고, 상기 프로세서는 상기 프로그램 코드를 호출하여 상기 제1 측면 또는 상기 제2 측면에 따른 임의의 보간 필터 훈련 방법의 일부의 또는 모든 단계를 수행하도록 구성된다.
예를 들어, 상기 프로세서는 상기 프로그램 코드를 호출하여 다음 단계를 수행하도록 구성된다: 정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하는 단계; 상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하는 단계; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정하는 단계.
예를 들어, 상기 프로세서는 상기 프로그램 코드를 호출하여 다음 단계를 수행하도록 구성된다: 정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하는 단계; 상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하는 단계; 뒤집기 연산이 수행되는 상기 제2 서브-픽셀 화상을 제3 보간 필터에 입력하여, 제1 화상을 획득하고, 상기 뒤집기 연산의 역 연산을 상기 제1 화상에 수행하여 제2 화상을 획득하는 단계-여기서, 상기 제2 보간 필터 및 상기 제3 보간 필터는 필터 파라미터를 공유함-; 및 상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 상기 샘플 화상과 상기 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수에 기초하여 상기 필터 파라미터를 결정하는 단계.
선택사항으로서, 상기 프로세서가 상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 상기 차이를 표현하는데 사용되는 제1 손실 함수 및 상기 샘플 화상과 상기 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수에 기초하여 상기 필터 파라미터를 결정하는 구현예는 다음 2가지 구현예를 포함할 수 있으나 이에 제한되지는 않는다.
제1 구현예: 상기 필터 파라미터는 제3 함수를 최소화함으로써 결정되며, 여기서, 상기 제3 함수는 상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 상기 샘플 화상과 상기 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수 사이의 가중 합이다.
제2 구현예: 상기 필터 파라미터는 상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 상기 차이를 표현하는데 사용되는 제1 손실 함수 및 상기 샘플 화상과 상기 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수를 번갈아 최소화함으로써 결정된다.
상기 제1 측면 및 상기 제2 측면에서 상기 보간 필터 훈련 장치는 인코딩 디바이스 또는 압축 디바이스일 수 있고, 상기 전술한 디바이스는 컴퓨터, 서버, 또는 단말(예를 들어, 휴대 전화 또는 태블릿 컴퓨터)과 같은, 데이터 처리 기능을 가지는 디바이스일 수 있음을 이해해야 한다.
제14 측면에 따르면, 본 출원의 실시예는 메모리 및 프로세서를 포함하는 인코딩 장치를 추가로 제공한다. 상기 메모리는 프로그램 코드를 저장하도록 구성되고, 상기 프로세서는 상기 프로그램 코드를 호출하여 상기 제3 측면 또는 상기 제4 측면에 따른 임의의 비디오 화상 인코딩 방법의 일부의 또는 모든 단계를 수행하도록 구성된다.
예를 들어, 상기 프로세서는 상기 프로그램 코드를 호출하여 다음 단계를 수행하도록 구성된다: 현재 인코딩 화상 블록에 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 모션 정보를 획득하는 단계-여기서, 상기 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리키고, 상기 인터 예측 프로세스는, 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계를 포함함-; 및
상기 현재 인코딩 화상 블록의 인터 예측 모드 및 상기 현재 인코딩 화상 블록의 모션 정보에 기초하여 상기 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하고, 상기 인코딩 정보를 비트스트림으로 인코딩하는 단계-여기서, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하고, 상기 타깃 보간 필터의 표시 정보는 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하여 상기 현재 인코딩 화상 블록에 대응하는 분수 픽셀 위치의 참조 블록을 획득하는 것을 표시하는데 사용됨-.
다른 예로, 상기 프로세서는 다음 단계를 수행하도록 구성된다: 현재 인코딩 화상 블록에 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 모션 정보를 획득하는 단계-여기서, 상기 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리키고, 상기 인터 예측 프로세스는, 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계를 포함함-; 및
상기 현재 인코딩 화상 블록의 인터 예측 모드 및 상기 현재 인코딩 화상 블록의 모션 정보에 기초하여 상기 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하고, 상기 인코딩 정보를 비트스트림으로 인코딩하는 단계-여기서, 상기 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하지 않는다; 또는 상기 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하며, 여기서 상기 타깃 보간 필터의 표시 정보는, 상기 현재 인코딩 화상 블록이 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하는 것을 표시하는데 사용됨-.
상기 제14 측면에서 상기 인코더는 상기 인코더를 포함하는 인코딩 디바이스일 수 있고, 상기 인코딩 디바이스는 컴퓨터, 서버, 또는 단말(예를 들어, 휴대 전화 또는 태블릿 컴퓨터)과 같은, 데이터 처리 기능을 가지는 디바이스일 수 있음을 이해해야 한다.
상기 제14 측면을 참조로, 본 출원의 본 실시예의 가능한 구현예에서, 상기 프로세서가 상기 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 구현예는 다음과 같을 수 있다: 상기 인코더는, 레이트-왜곡 비용 기준에 따라 상기 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정한다.
상기 제14 측면을 참조로, 본 출원의 본 실시예의 가능한 구현예에서, 상기 프로세서가 상기 현재 인코딩 화상 블록에 기초하여 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 상기 모션 정보를 획득하는 구현예는 다음과 같을 수 있다:
상기 현재 인코딩 화상 블록에 최적으로 매칭되는 정수 픽셀 참조 화상 블록을 결정하는 단계;
상기 후보 보간 필터 세트 내의 각각의 보간 필터를 사용하여 상기 정수 픽셀 참조 화상 블록에 서브-픽셀 보간을 수행하여, N개의 서브-픽셀 참조 화상 블록을 획득하는 단계-여기서 N은 양의 정수임-;
상기 정수 픽셀 참조 화상 블록 및 상기 N개의 서브-픽셀 참조 화상 블록으로부터, 상기 현재 인코딩 화상 블록에 최적으로 매칭되는 예측 블록을 결정하는 단계; 및
상기 예측 블록에 기초하여 상기 모션 정보를 결정하는 단계-여기서 보간을 통해 상기 예측 블록을 획득하는데 사용되는 보간 필터는 상기 타깃 보간 필터임-.
상기 제14 측면을 참조로, 본 출원의 본 실시예의 가능한 구현예에서, 상기 후보 보간 필터 세트는 상기 제1 측면 또는 상기 제2 측면에 따른 임의의 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터를 포함한다.
선택사항으로서, 상기 타깃 보간 필터가 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우, 상기 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 상기 타깃 보간 필터의 필터 파라미터는 제1 측면 또는 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 필터 파라미터이다.
또한, 상기 인코딩 정보는 훈련을 통해 획득되는 상기 타깃 보간 필터의 필터 파라미터를 더 포함하거나; 또는 상기 인코딩 정보는 필터 파라미터 차이를 더 포함하고, 상기 필터 파라미터 차이는 현재 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터와 이전에 인코딩된 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터 사이의 차이이다.
상기 프로세서는 상기 후보 보간 필터 세트 내의 제2 보간 필터에 온라인 훈련을 수행할 수 있어, 상기 보간 필터는 상기 현재의 인코딩 화상 유닛의 컨텐츠에 기초하여 실시간으로 조정될 수 있어, 예측 정확도를 향상할 수 있음을 알 수 있다.
선택사항으로서, 상기 화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 또는 예측 유닛(PU)을 포함한다.
제15 측면에 따르면, 본 출원의 실시예는 메모리 및 프로세서를 포함하는 디코딩 장치를 추가로 제공한다.
상기 메모리는 프로그램 코드를 저장하도록 구성되고, 상기 프로세서는 상기 프로그램 코드를 호출하여 상기 제5 측면 또는 상기 제6 측면에 따른 임의의 비디오 화상 디코딩 방법의 일부의 또는 모든 단계를 수행하도록 구성된다.
예를 들어, 상기 프로세서는 상기 프로그램 코드를 호출하여 다음 단계를 수행하도록 구성된다:
비트스트림을 파싱하여 타깃 보간 필터의 표시 정보를 획득하는 단계;
현재 디코딩 화상 블록의 모션 정보를 획득하는 단계-여기서 상기 모션 정보는 분수 픽셀 위치를 가리킴-;
상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하는 단계-여기서 상기 예측 프로세스는, 상기 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함함-; 및
상기 현재 디코딩 화상 블록의 예측 블록에 기초하여 상기 현재 디코딩 화상 블록의 재구성 블록을 재구성하는 단계.
다른 예로, 상기 프로세서는 상기 프로그램 코드를 호출하여 다음 단계를 수행하도록 구성된다:
비트스트림을 파싱하여 현재 디코딩 화상 블록의 정보를 획득하는 단계-여기서 상기 정보는 상기 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용됨-;
상기 현재 디코딩 화상 블록의 모션 정보를 획득하는 단계-여기서 상기 모션 정보는 분수 픽셀 위치를 가리킴-;
상기 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하는 단계-여기서, 상기 예측 프로세스는, 상기 타깃 보간 필터의 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함하며, 여기서 여기서, 상기 타깃 보간 필터의 표시 정보는 상기 비트스트림을 파싱함으로써 획득됨-; 및
상기 현재 디코딩 화상 블록의 예측 블록에 기초하여 상기 현재 디코딩 화상 블록을 재구성하는 단계.
선택사항으로서, 상기 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 상기 디코더는 상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하며, 여기서 상기 예측 프로세스는, 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계, 및 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함한다.
상기 현재 디코딩 화상 블록의 인터 예측 모드가 상기 타깃 인터 예측 모드인 경우, 상기 프로세서가 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 것은 구체적으로, 상기 프로세서는 디코딩 프로세스에서 상기 이전에 디코딩된 화상 블록에 대해 사용된 보간 필터가 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터 인 것으로 결정하거나, 상기 프로세서는 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터가 상기 타깃 보간 필터의 그리고 상기 비트스트림을 파싱함으로써 획득되는 상기 표시 정보에 의해 표시되는 타깃 보간 필터 인 것으로 결정하는 것을 포함함을 이해하여야 한다.
상기 제15 측면을 참조로, 본 출원의 본 실시예의 가능한 구현예에서, 상기 프로세서가 상기 현재 디코딩 화상 블록의 모션 정보를 획득하는 구현예는 다음 3가지 구현예를 포함할 수 있으나 이에 제한되지는 않는다.
제1 구현예: 상기 타깃 인터 예측 모드가 아닌 경우(예를 들어, 비-병합 모드), 상기 디코더는 상기 비트스트림을 파싱하여 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득할 수 있고, 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 상기 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 상기 현재 디코딩 화상 블록의 상기 모션 정보를 결정할 수 있다.
제2 구현예: 상기 타깃 인터 예측 모드가 아닌 경우(예를 들어, 비-병합 모드), 상기 프로세서는 상기 비트스트림을 파싱하여 모션 벡터 차이 및 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득할 수 있고; 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 상기 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 상기 현재 디코딩 화상 블록의 모션 벡터 예측자를 결정할 수 있고; 그리고 상기 모션 벡터 예측자 및 상기 모션 벡터 차이에 기초하여 상기 현재 디코딩 화상 블록의 모션 벡터를 획득할 수 있다.
제3 구현예: 상기 타깃 인터 예측 모드(예를 들어, 병합 모드)에서, 상기 현재 디코딩 화상 블록의 인터 예측 모드가 상기 병합 모드(merge mode)인 경우, 상기 프로세서는 이전에 디코딩된 화상 블록의 그리고 상기 병합 모드에서 병합을 통해 획득되는 모션 정보, 즉, 상기 현재 디코딩 화상 블록의 모션 정보를 획득한다.
상기 제15 측면을 참조로, 본 출원의 본 실시예의 가능한 구현예에서, 상기 타깃 보간 필터가 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우,
상기 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 상기 타깃 보간 필터의 필터 파라미터는 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 필터 파라미터이다.
선택사항으로서, 상기 타깃 보간 필터가 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우, 상기 프로세서는 다음 단계를 추가로 수행할 수 있다:
상기 비트스트림을 파싱하여 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터를 획득하는 단계; 및
서브-픽셀 보간이 상기 타깃 보간 필터에 기초하여 수형되어 상기 현재 디코딩 화상 블록의 예측 블록을 획득하기 전에, 상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 사용하여 상기 타깃 보간 필터를 구성하는 단계.
선택사항으로서, 상기 타깃 보간 필터가 상기 제1 측면 또는 상기 제2 측면에 따른 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우, 상기 프로세서는 다음 단계를 추가로 수행할 수 있다:
상기 비트스트림을 파싱하여 필터 파라미터 차이를 획득하는 단계-여기서 상기 필터 파라미터 차이는 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터와 이전에 디코딩된 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터 사이의 차이임-;
상기 이전에 디코딩된 화상 유닛의 상기 타깃 보간 필터의 필터 파라미터 및 상기 필터 파라미터 차이에 기초하여 상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 획득하는 단계; 및
상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 사용하여 상기 타깃 보간 필터를 구성하는 단계.
선택사항으로서, 상기 화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 또는 예측 유닛(PU)을 포함한다.
제16 측면에 따르면, 본 출원의 실시예는 프로그램 코드를 포함하는 컴퓨터-판독 가능한 저장 매체를 추가로 제공한다. 상기 프로그램 코드가 컴퓨터 상에서 실행되는 경우, 상기 컴퓨터는 상기 제1 측면 또는 상기 제2 측면에 따른 임의의 보간 필터 훈련 방법의 일부의 또는 모든 단계를 수행할 수 있게 된다.
제17 측면에 따르면, 본 출원의 실시예는 컴퓨터 프로그램 제품을 제공한다. 상기 컴퓨터 프로그램 제품이 컴퓨터 상에서 실행되는 경우, 상기 컴퓨터는 상기 제1 측면 또는 상기 제2 측면에 따른 임의의 보간 필터 훈련 방법의 일부의 또는 모든 단계를 수행할 수 있게 된다.
제18 측면에 따르면, 본 출원의 실시예는 프로그램 코드를 포함하는 컴퓨터-판독 가능한 저장 매체를 추가로 제공한다. 상기 프로그램 코드가 컴퓨터 상에서 실행되는 경우, 상기 컴퓨터는 상기 제3 측면 또는 상기 제4 측면에 따른 임의의 비디오 화상 인코딩 방법의 일부의 또는 모든 단계를 수행할 수 있게 된다.
제19 측면에 따르면, 본 출원의 실시예는 컴퓨터 프로그램 제품을 제공한다. 상기 컴퓨터 프로그램 제품이 컴퓨터 상에서 실행되는 경우, 상기 컴퓨터는 상기 제3 측면 또는 상기 제4 측면에 따른 임의의 비디오 화상 인코딩 방법의 일부의 또는 모든 단계를 수행할 수 있게 된다.
제20 측면에 따르면, 본 출원의 실시예는 프로그램 코드를 포함하는 컴퓨터-판독 가능한 저장 매체를 추가로 제공한다. 상기 프로그램 코드가 컴퓨터 상에서 실행되는 경우, 상기 컴퓨터는 상기 제5 측면 또는 상기 제6 측면에 따른 임의의 비디오 화상 디코딩 방법의 일부의 또는 모든 단계를 수행할 수 있게 된다.
제21 측면에 따르면, 본 출원의 실시예는 컴퓨터 프로그램 제품을 제공한다. 상기 컴퓨터 프로그램 제품이 컴퓨터 상에서 실행되는 경우, 상기 컴퓨터는 상기 제5 측면 또는 상기 제6 측면에 따른 임의의 비디오 화상 디코딩 방법의 일부의 또는 모든 단계를 수행할 수 있게 된다.
본 출원의 실시예에서 또는 배경에서 기술적 해결 수단을 보다 명확하게 설명하기 위해, 이하에서는 본 출원의 실시예 또는 배경을 설명하기 위한 첨부 도면을 간략하게 기술한다.
도 1은 본 출원의 실시예에 따른 비디오 코딩 시스템의 개략적인 블록도이다.
도 2는 본 출원의 실시예에 따른 인코더의 개략적인 블록도이다.
도 3은 본 출원의 실시예에 따른 디코더의 개략적인 블록도이다.
도 4는 본 출원의 실시예에 따른 서브-픽셀 및 정수 픽셀의 위치의 예시적인 개략도이다.
도 5(a) 및 도 5(b)는 본 출원의 실시예에 따른 서브-픽셀 보간의 가역성 원리의 예시적인 개략도이다.
도 6a는 본 출원의 실시예에 따른 보간 필터 훈련 방법의 개략적인 흐름도이다.
도 6b는 본 출원의 실시예에 따른 보간 필터 훈련 절차의 예시적인 개략도이다.
도 6c는 본 출원의 실시예에 따른 다른 보간 필터 훈련 방법의 개략적인 흐름도이다.
도 6d는 본 출원의 실시예에 따른 다른 보간 필터 훈련 절차의 예시적인 개략도이다.
도 7은 본 출원의 실시예에 따른 비디오 화상 인코딩 방법의 개략적인 흐름도이다.
도 8은 본 출원의 실시예에 따른 다른 비디오 화상 인코딩 방법의 개략적인 흐름도이다.
도 9는 본 출원의 실시예에 따른 비디오 화상 디코딩 방법의 개략적인 흐름도이다.
도 10은 본 출원의 실시예에 따른 다른 비디오 화상 디코딩 방법의 개략적인 흐름도이다.
도 11a 및 도 11b는 본 출원의 실시예에 따른 또 다른 비디오 화상 디코딩 방법의 개략적인 흐름도이다.
도 12는 본 발명의 일 실시예에 따른 보간 필터 훈련 장치의 개략적인 블록도이다.
도 13은 본 발명의 일 실시예에 따른 보간 필터 훈련 장치의 개략적인 블록도이다.
도 14는 본 발명의 일 실시예에 따른 다른 보간 필터 훈련 장치의 개략적인 블록도이다.
도 15는 본 출원의 실시예에 따른 다른 인코더의 개략적인 블록도이다.
도 16은 본 출원의 실시예에 따른 다른 디코더의 개략적인 블록도이다.
도 17은 본 출원의 실시예에 따른 인코딩 디바이스 또는 디코딩 디바이스의 개략적인 블록도이다.
도 1은 본 출원의 실시예에 따른 비디오 코딩 시스템의 개략적인 블록도이다.
도 2는 본 출원의 실시예에 따른 인코더의 개략적인 블록도이다.
도 3은 본 출원의 실시예에 따른 디코더의 개략적인 블록도이다.
도 4는 본 출원의 실시예에 따른 서브-픽셀 및 정수 픽셀의 위치의 예시적인 개략도이다.
도 5(a) 및 도 5(b)는 본 출원의 실시예에 따른 서브-픽셀 보간의 가역성 원리의 예시적인 개략도이다.
도 6a는 본 출원의 실시예에 따른 보간 필터 훈련 방법의 개략적인 흐름도이다.
도 6b는 본 출원의 실시예에 따른 보간 필터 훈련 절차의 예시적인 개략도이다.
도 6c는 본 출원의 실시예에 따른 다른 보간 필터 훈련 방법의 개략적인 흐름도이다.
도 6d는 본 출원의 실시예에 따른 다른 보간 필터 훈련 절차의 예시적인 개략도이다.
도 7은 본 출원의 실시예에 따른 비디오 화상 인코딩 방법의 개략적인 흐름도이다.
도 8은 본 출원의 실시예에 따른 다른 비디오 화상 인코딩 방법의 개략적인 흐름도이다.
도 9는 본 출원의 실시예에 따른 비디오 화상 디코딩 방법의 개략적인 흐름도이다.
도 10은 본 출원의 실시예에 따른 다른 비디오 화상 디코딩 방법의 개략적인 흐름도이다.
도 11a 및 도 11b는 본 출원의 실시예에 따른 또 다른 비디오 화상 디코딩 방법의 개략적인 흐름도이다.
도 12는 본 발명의 일 실시예에 따른 보간 필터 훈련 장치의 개략적인 블록도이다.
도 13은 본 발명의 일 실시예에 따른 보간 필터 훈련 장치의 개략적인 블록도이다.
도 14는 본 발명의 일 실시예에 따른 다른 보간 필터 훈련 장치의 개략적인 블록도이다.
도 15는 본 출원의 실시예에 따른 다른 인코더의 개략적인 블록도이다.
도 16은 본 출원의 실시예에 따른 다른 디코더의 개략적인 블록도이다.
도 17은 본 출원의 실시예에 따른 인코딩 디바이스 또는 디코딩 디바이스의 개략적인 블록도이다.
다음의 설명에서, 본 개시의 일부를 형성하고 본 발명의 실시예의 특정 측면 또는 본 발명의 실시예가 사용될 수 있는 특정 측면을 예시로서 보여주는 첨부된 도면들을 참조한다. 본 발명의 실시예는 다른 측면에서 사용될 수 있고, 첨부된 도면에 도시되지 않은 구조적 또는 논리적 변경을 포함할 수 있음을 이해해야 한다. 따라서, 다음의 상세한 설명은 제한적인 의미로 이해되지 않아야 하며, 본 발명의 범위는 첨부된 청구 범위에 의해 정의된다.
예를 들어, 설명된 방법을 참조하여 개시된 내용은 방법을 수행하도록 구성되는 대응하는 디바이스 또는 시스템에 대해서도 참일 수 있으며 그 반대의 경우도 마찬가지라는 것을 이해해야 한다. 예를 들어, 하나 이상의 특정 방법 단계가 기술되는 경우, 대응하는 디바이스는, 기술된 하나 이상의 방법 단계를 수행하기 위한 기능적 유닛(예를 들어, 하나의 유닛이 하나 이상의 단계를 수행하거나; 또는 복수의 유닛으로서, 각각가 복수의 단계 중 하나 이상을 수행)과 같은 하나 이상의 유닛을, 그러한 하나 이상의 유닛이 명시적으로 기술되거나 첨부한 도면에 도시되지 않은 경우에도, 포함할 수 있다. 또한, 예를 들어, 특정 장치가 기능적 유닛과 같은 하나 이상의 유닛에 기초하여 기술되는 경우, 대응하는 방법은, 하나 이상의 유닛의 하나 이상의 기능을 수행하는데 사용되는 단계(예를 들어, 하나 이상의 유닛의 하나 이상의 기능을 수행하는데 사용되는 하나의 단계; 또는 각각이 수행 복수의 유닛에서 하나 이상의 유닛의 하나 이상의 기능을 수행하는데 사용되는 복수의 단계)를, 그러한 하나 이상의 단계가 명시적으로 기술되거나 첨부한 도면에 도시되지 않은 경우에도, 포함할 수 있다. 또한, 본 명세서에서 기술되는 다양한 예시적인 실시예 및/또는 측면의 특징은, 달리 명시되지 않는 한, 서로 결합될 수 있음을 이해하여야 한다.
비디오 코딩은 통상적으로 화상의 시퀀스의 처리를 의미하며, 화상의 시퀀스는 비디오 또는 비디오 시퀀스를 형성한다. 비디오 코딩 분야에서, 용어 "화상(picture)", "프레임(frame)", 및 "이미지(image)"는 동의어로서 사용될 수 있다. 본 출원(또는 본 개시)에서 사용되는 비디오 코딩은 비디오 인코딩 또는 비디오 디코딩을 나타낸다. 비디오 인코딩은 소스 측에서 수행되고, 일반적으로 (보다 효율적인 저장 및/또는 전송을 위해) 비디오 화상을 표현하는 데이터의 양을 감소하기 위해 (예를 들어, 압축에 의해) 원본 비디오 화상을 처리하는 것을 포함한다. 비디오 디코딩은 데스티네이션 측에서 수행되고, 통상적으로 비디오 화상을 재구성하기 위해 인코더와 비교하여 역처리를 포함한다. 실시예에서 비디오 화상(또는 화상으로 지칭되며, 후술함)의 "코딩"은 비디오 시퀀스의 "인코딩" 또는 "디코딩"으로 이해되어야 한다. 인코딩 콤포넌트 및 디코딩 콤포넌트의 조합은 코덱(CODEC)으로도 지칭된다.
무손실 비디오 코딩의 경우에, 원본 비디오 화상이 재구성될 수 있고, 이는 재구성된 비디오 화상이 원본 비디오 화상과 동일한 품질을 가짐(저장 또는 전송 중에 전송 손실 또는 다른 데이터 손실이 없다고 가정함)을 의미한다. 손실있는 비디오 코딩의 경우에, 비디오 화상을 표현하는데 요구되는 데이터의 양을 줄이기 위해, 예를 들어, 양자화를 통해, 추가적인 압축이 수행되고, 비디오 화상은 디코더 측에서 완전히 재구성될 수 없다. 이는, 재구성된 비디오 화상의 품질이 원본 비디오 화상의 품질보다 낮거나 열등함을 의미한다.
"손실 하이브리드 비디오 코덱"에 대해 여러가지 H.261 비디오 코딩 표준이 사용된다(즉, 샘플 도메인에서 공간적 및 시간적 예측은 변환 도메인에서 양자화를 적용하기 위해 2D 변환 코딩과 결합된다). 비디오 시퀀스의 각각의 화상은 일반적으로 비-중첩 블록 세트로 분할되고, 코딩은 일반적으로 블록 레벨에서 수행된다. 달리 말하면, 인코더 측에서, 비디오는 일반적으로 블록(비디오 블록) 레벨에서 처리, 즉, 인코딩된다. 예를 들어, 예측 블록은 공간적(인트라-화상) 예측 및 시간적(인터-화상) 예측을 통해 생성되고, 현재 블록(현재 처리중인 또는 처리될 블록)으로부터 예측 블록이 차감되어 잔차 블록이 획득되며, 잔차 블록은 변환 도메인에서 변환되고 전송될 데이터의 양을 줄이기 위해 양자화(압축)된다. 디코더 측에서, 인코더에 대해 역처리 부분을 인코딩된 또는 압축된 블록에 적용하여 현재 블록을 표현하도록 재구성한다. 또한, 인코더는 디코더의 처리 루프를 복제하여, 인코더 및 디코더는 후속 블록을 처리, 즉, 코딩하기 위해 동일한 예측(예를 들어, 인트라 예측 및 인터 예측) 및/또는 재구성을 생성한다.
본 명세서에서 사용되는, 용어 "블록", "화상 블록", 및 "이미지 블록"은 동의어로서 사용될 수 있고, 화상 또는 프레임의 일부일 수 있다. 설명의 편의상, 여기에서 본 발명의 실시예는, ITU-T 비디오 코딩 전문가 그룹(Video Coding Experts Group, VCEG) 및 ISO/IEC 동화상 전문가 그룹(Motion picture Experts Group, MPEG)의 비디오 코딩 공동 협력 팀(Joint Collaboration Team on Video Coding, JCT-VC)에 의해 개발된 고효율 비디오 코딩(High-Efficiency Video Coding, HEVC) 또는 ITU-T H.266/다용도 비디오 코딩(Versatile video coding, VVC)의 참조 소프트웨어를 참조로 기술된다. 통상의 기술자는 본 발명의 실시예가 HEVC 또는 VVC에 제한되지 않음을 이해할 것이다. HEVC에서, CTU는 코딩 트리로 표현되는 쿼드트리 구조를 사용하여 복수의 CU로 분할된다. 인터-화상(시간적) 또는 인트라-화상(공간적) 예측을 사용하여 화상 영역을 코딩할 것인지 여부에 대한 결정은 CU 레벨에서 이루어진다. 각각의 CU는, PU 분할 패턴에 기초하여 1개, 2개 또는 4개의 PU로 추가로 분할될 수 있다. 하나의 PU에서, 동일한 예측 프로세스가 적용되고 관련 정보가는 PU 기반으로 디코더로 전송된다. PU 분할 패턴에 기초하여 예측 프로세스를 적용함으로써 잔차 블록을 획득한 후, CU는 CU에 대해 사용되는 코딩 트리와 유사한 다른 쿼드트리 구조에 기초하여 변환 유닛(transform unit, TU)으로 분할될 수 있다. 비디오 압축 기술의 최근 개발에서, 쿼드트리 플러스 2진 트리(Quad-tree plus binary tree, QTBT) 분할 프레임이 분할 코딩 블록을 분할하는데 사용된다. QTBT 블록 구조에서, CU는 정사각형 또는 직사각형일 수 있다. 예를 들어, 코딩 트리 유닛(coding tree unit, CTU은 쿼드트리 구조를 사용하여 먼저 분할된다. 쿼드트리의 리프 노드는 2진 트리 구조를 사용하여 추가로 분할된다. 2진 트리의 리프 노드는 코딩 유닛(CU)으로 지칭되며, 분할(segmentation)은 추가 분할(partition) 없이 예측 및 변환 처리에 사용된다. 이는 CU, PU 및 TU가 QTBT 코딩 블록 구조에서 동일한 블록 크기를 가진다는 것을 의미한다. 또한, QTBT 블록 구조와 결합하여 사용할 수 있도록, 트리플 트리 분할과 같은 다중 분할이 제안된다.
본 명세서에서 사용되는, 용어 "인코딩 화상 블록"은 인코더 측에서 사용되는 화상 블록이고, 유사하게, 용어 "디코딩 화상 블록"은 디코더 측에서 사용되는 화상 블록이다. "현재 인코딩 화상 블록"은 "현재의 인코딩될 화상 블록", "현재의 인코딩 블록", 등으로 표현될 수 있다. "현재 디코딩 화상 블록"은 "현재의 디코딩될 화상 블록", "현재의 디코딩 블록", 등으로 표현될 수 있다. "참조 블록"은 "참조 화상 블록"으로 표현될 수 있다. "예측 블록"은 "예측 화상 블록"으로 표현될 수 있거나, 또는 일부 시나리오에서 "최적의 매칭되는 블록", "매칭되는 블록", 등으로 표현될 수 있다.
본 명세서에서 사용되는, "제1 보간 필터"는 종래의 기술에서 제공되는 보간 필터이고, 고정된 계수를 가지는 보간 필터, 예를 들어, 이중 선형(bilinear) 보간 필터 또는 이중 입방(bicubic) 보간 필터일 수 있다. "제1 보간 필터"는 대안적으로 컨텐츠-적응형 보간 필터 또는 다른 유형의 보간 필터일 수 있다. H.264/AVC에서, 1/2-픽셀 샘플 값을 생성하는데 6-탭 유한 응답 필터를 사용되고, 1/4 픽셀 샘플 값을 생성하는데 단순한 이중 선형 보간이 사용된다. H.264/AVC의 보간 필터와 비교하여, HEVC의 보간 필터가 많이 개선되었다. 1/2 픽셀 샘플 값을 생성하는데 8-탭 필터가 사용되고, 1/4 픽셀 샘플 값을 생성하는데 7-탭 보간 필터가 사용된다. 자연스러운 비디오의 비정성(non-stationarity)에 대처하기 위해 콘텐츠 적응형 보간 필터가 연구에서 제안된다. 통상적으로 적응형 보간 필터는 인코더 측에서 모션 보상 예측의 오차에 기초하여 필터 계수를 추정하는데 사용되고, 필터 계수가 인코딩되고 비트스트림에 기록된다. 보간 필터의 복잡성을 줄이기 위해, 코딩 성능을 기본적으로 보장하면서 복잡성을 현저히 줄일 수 있는, 분리 가능한 적응형 보간 필터가 제안된다.
본 명세서에서 사용되는, "제2 보간 필터" 및 "제3 보간 필터"는 본 출원의 실시예에서 제공되는 보간 필터 훈련 방법에 기초하여 획득되는 보간 필터이다. 세부 사항에 관해서는, 보간 필터 훈련 방법의 실싱에서 관련된 설명을 참조한다. 제2 보간 필터 및/또는 제3 보간 필터는 지원 벡터 머신(support vector machine, SVM), 신경망(neural network, NN), 콘볼루션 신경망(convolutional neural network, CNN), 또는 다른 형태일 수 있음을 이해할 수 있다. 이는 본 출원의 실시예에서 제한되지 않는다.
본 명세서에서 사용되는, "타깃 보간 필터"는 후보 보간 필터 세트로부터 선택되는 보간 필터이다. 본 명세서에서, "후보 보간 필터 세트"는 하나 이상의 보간 필터를 포함할 수 있다. 복수의 보간 필터는 상이한 유형의 필터이고, 본 명세서에서 제2 보간 필터를 포함할 수 있으나 이에 제한되지는 않는다. 본 출원의 다른 구현예에서, 후보 필터 세트에서 복수의 보간 필터는 제2 보간 필터를 포함하지 않을 수 있다.
모션 정보는 모션 벡터를 포함할 수 있다. 모션 벡터는 인터 예측 프로세스에서 중요한 파라미터이며, 현재 인코딩 화상 블록에 대한 이전에 인코딩된 화상 블록의 공간적 변위를 나타낸다. 모션 벡터를 얻기 위해 모션 검색과 같은 모션 추정 방법이 사용될 수 있다. 초기 인터 예측 기술에서는, 모션 벡터를 나타내는 비트가 인코딩된 비트스트림에 포함되어, 디코더가 예측 블록을 재생하여 재구성 블록을 획득할 수 있다. 코딩 효율을 더욱 향상하기 위해, 전체 모션 벡터를 코딩하는 대신, 참조 모션 벡터를 사용하여 모션 벡터를 차등적으로 코딩하는 것, 즉 모션 벡터와 참조 모션 벡터의 차이만 코딩하는 것이 차가로 제안된다. 일부 경우에, 참조 모션 벡터는 비디오 스트림에서 이전에 사용된 모션 벡터로부터 선택될 수 있다. 현재의 모션 벡터를 코딩하기 위해 이전에 사용된 모션 벡터를 선택하면 코딩된 비디오 비트스트림에 포함된 비트 수량을 더욱 줄일 수 있다.
다음은 인코더(100), 디코더(200), 및 코딩 시스템(300)의 실시예를 도 1 내지 도 3에 기초하여 설명한다.
도 1은 예시적인 코딩 시스템(300), 예를 들어, 본 출원(본 개시)의 기술을 사용할 수 있는 비디오 코딩 시스템(300)의 개념적 또는 개략적인 블록도이다. 비디오 코딩 시스템(300)의 인코더(100)(예를 들어, 비디오 인코더(100)) 및 디코더(200)(예를 들어, 비디오 디코더(200))는, 본 출원에서 기술되는 다양한 예시에 따라 비디오 화상 인코딩 또는 디코딩 기술을 수행하는데 사용될 수 있는 디바이스 예시이다. 도 1에 도시된 바와 같이, 코딩 시스템(300)은, 인코딩된 데이터(330), 예를 들어, 인코딩된 화상(330)을, 디코딩 인코딩된 데이터(330)를 디코딩하도록 예를 들어 데스티네이션 디바이스(320)에 제공하도록 구성되는, 소스 디바이스(310)를 포함한다.
소스 디바이스(310)는 인코더(100)를 포함하고, 추가적으로, 또는 선택사항으로, 화상 소스(312), 전처리 유닛(314), 예를 들어, 화상 전처리 유닛(314), 및 통신 인터페이스 또는 통신 유닛(318)을 포함할 수 있다.
화상 소스(312)는, 예를 들어, 실제 화상을 캡처하도록 구성되는 임의의 유형의 화상 캡처 디바이스; 및/또는 화상 또는 코멘트(스크린 컨텐츠 인코딩의 경우, 스크린 상의 일부 텍스트도 인코딩될 화상 또는 이미지의 일부로서 간주된다)를 생성하는 임의의 유형의 디바이스, 예를 들어, 컴퓨터 애니메이션 화상을 생성하도록 구성되는 컴퓨터 그래픽 프로세서; 및/또는 실제 화상 또는 컴퓨터 애니메이션 화상(예를 들어, 스크린 컨텐츠 또는 가상 현실(virtual reality, VR) 화상)을 획득하거나 및/또는 제공하는 임의의 유형의 디바이스; 및/또는 이들의 임의의 조합(예를 들어, 증강 현실(augmented reality, AR) 화상);을 포함하거나 이들 일 수 있다.
(디지털) 화상은 세기 값을 가지는 샘플의 매트릭스 또는 2차원 어레이이거나 이로 간주될 수 있다. 어레이의 샘플은 픽셀(pixel)(화상 엘리먼트(picture element)의 약어) 또는 펠(pel)로 지칭될 수 있다. 화상 또는 어레이의 수평 및 수직 방향(또는 축)에서 샘플의 수량은 화상의 크기 및/또는 해상도를 규정한다. 색상을 표현하기 위해 일반적으로 세 가지 색상 성분이 사용된다. 예를 들어, 화상은 3개의 샘플 어레이로 표현되거나 이를 포함할 수 있다. RGB 포맷 또는 컬러 공간에서, 화상은 해당하는 빨강, 녹색, 및 파랑 샘플 어레이가 포함한다. 그러나, 비디오 코딩에서, 각각의 픽셀은 일반적으로 휘도/채도 포맷 또는 컬러 공간으로, 예를 들어, YCbCr로 표현되며, 이는 Y로(때로는, 대신 L로) 표시되는 휘도 성분 및 Cb 및 Cr로 표시되는 2개의 채도 성분을 포함한다. 휘도(luminance)(줄여서 루마) 성분 Y는 휘도 또는 회색 레벨 세기(예를 들어, 회색조 화상에서 둘은 동일하다)를 나타내고, 2개의 채도(chrominance)(줄여서 크로마) 성분 Cb 및 Cr는 채도 또는 정보 성분을 나타낸다. 이에 상응하여, YCbCr 포맷에서 화상은 휘도 샘플 값(Y)의 휘도 샘플 어레이, 및 채도 값(Cb 및 Cr)의 2개의 채도 샘플 어레이를 포함한다. RGB 포맷의 화상은 YCbCr 포맷의 화상으로 변환(transform)되거나 변환(convert)될 수 있고, 그 반대의 경우도 마찬가지다. 이 프로세스는 색상 변환(conversion) 또는 변환(transform)으로도 지칭된다. 화상이 단색인 경우, 화상은 루마 샘플 어레이만 포함할 수 있다.
화상 소스(312)(예를 들어, 비디오 소스(312))는, 일례로, 화상을 캡처하기 위한 카메라, 이전에 캡처된 또는 생성된 화상을 포함하거나 저장하는 메모리, 예를 들어, 화상 메모리, 및/또는 화상을 획득하거나 수신하는 임의의 종류의 인터페이스(내부의 또는 외부의)일 수 있다. 카메라는, 예를 들어, 로컬 카메라, 또는 소스 디바이스에 통합된 카메라일 수 있고, 메모리는 로컬 메모리 또는, 예를 들어, 메모리 소스 디바이스에 통합된 메모리일 수 있다. 인터페이스는, 예를 들어, 외부 비디오 소스로부터 화상을 수신하는 외부 인터페이스일 수 있다. 외부 비디오 소스는, 예를 들어, 카메라, 외부 메모리, 또는 외부 화상 생성 디바이스와 같은, 외부 화상 캡처 디바이스이다. 외부 화상 생성 디바이스는, 예를 들어, 외부 컴퓨터 그래픽 프로세서, 컴퓨터 또는 서버이다. 인터페이스는, 임의의 유형의 인터페이스, 예를 들어, 임의의 독점적 또는 표준화된 인터페이스 프로토콜에 따른, 유선 또는 무선 인터페이스 또는 광학 인터페이스,일 수 있다. 화상 데이터(313)를 획득하기 위한 인터페이스는 통신 인터페이스(318) 또는 통신 인터페이스(318)의 일부 일 수 있다.
전처리 유닛(314) 및 전처리 유닛(314)에 의해 수행되는 처리와 구별하기 위해, 화상 또는 화상 데이터(313)(예를 들어, 비디오 데이터(312))는 원본 화상 또는 원본 화상 데이터(313)로도 지칭될 수 있다.
전처리 유닛(314)은 (원본) 화상 데이터(313)를 수신하도록 그리고 화상 데이터(313)에 전처리를 수행하도록 구성되어, 전처리된 화상(315) 또는 전처리된 화상 데이터(315)를 획득한다. 예를 들어, 전처리 유닛(314)에 의해 수행되는 전처리는 트리밍, 컬러 포맷 변환(예를 들어, RGB로부터 YCbCr로), 컬러 보정, 또는 노이즈 제거를 포함할 수 있다. 전처리 유닛(314)은 선택적인 구성 요소일 수 있음을 이해할 수 있다.
인코더(100)(예를 들어, 비디오 인코더(100))은, 전처리된 화상 데이터(315)를 수신하도록 그리고 인코딩된 화상 데이터(171)를 제공하도록 구성된다 (상세한 내용은, 예를 들어, 도 2 또는 도 8에 기초하여, 아래에서 추가로 기술된다). 예로서, 인코더(100)는 비디오 화상 인코딩 방법을 수행하도록 구성될 수 있다. 다른 실시예에서, 인코더(100)는 보간 필터를 훈련하도록 추가로 구성될 수 있다.
소스 디바이스(310)의 통신 인터페이스(318)는, 인코딩된 화상 데이터(171)를 수신하도록, 그리고 인코딩된 화상 데이터(171)를 다른 디바이스로 전송하도록, 예를 들어, 저장 또는 직접 재구성을 위해 데스티네이션 디바이스(320) 또는 임의의 다른 디바이스로, 전송하도록 구성될 수 있다. 대안적으로, 통신 인터페이스(318)는, 인코딩된 데이터(330)를 저장 및/또는 인코딩된 데이터(330)를 다른 디바이스로 전송하기 전에, 인코딩된 화상 데이터(171)를 처리하도록 구성된다. 다른 디바이스는, 예를 들어, 데스티네이션 디바이스(320) 또는 디코딩 또는 저장에 사용되는 임의의 다른 디바이스이다.
데스티네이션 디바이스(320)는 디코더(200)(예를 들어, 비디오 디코더(200))를 포함하고, 추가적으로, 또는 선택사항으로, 통신 인터페이스 또는 통신 유닛(322), 후처리 유닛(326), 및 표시 장치(328)를 포함할 수 있다.
데스티네이션 디바이스(320)의 통신 인터페이스(322)는, 예를 들어, 직접 소스 디바이스(310)로부터 또는 임의의 다른 소스, 예를 들어, 저장 장치, 예를 들어, 인코딩된 화상 데이터 저장 장치로부터, 인코딩된 화상 데이터(171) 또는 인코딩된 데이터(330)를 수신하도록 구성된다.
통신 인터페이스(318) 및 통신 인터페이스(322)는, 소스 디바이스(310)와 데스티네이션 디바이스(320) 사이의 직접 통신 링크를 통해 또는 임의의 유형의 네트워크를 통해, 인코딩된 화상 데이터(171) 또는 인코딩된 데이터(330)를 전송하거나 수신하도록 구성될 수 있다. 직접 통신 링크는, 예를 들어, 직접 유선 또는 무선 연결이다. 임의의 유형의 네트워크는, 예를 들어, 유선 또는 무선 네트워크 또는 이들의 임의의 조합, 또는 임의의 유형의 사설 또는 공용 네트워크, 또는 이들의 임의의 조합이다.
통신 인터페이스(318)는, 예를 들어, 통신 링크 또는 통신 네트워크를 통한 전송을 위해, 인코딩된 화상 데이터(171)를 적절한 포맷으로, 예를 들어 패킷으로 패키징하도록 구성될 수 있다.
통신 인터페이스(322)는, 통신 인터페이스(318)의 카운터파트를 형성하며, 예를 들어, 인코딩된 데이터(330)를 디패키징하여 인코딩된 화상 데이터(171)를 획득하도록 구성될 수 있다.
통신 인터페이스(318) 및 통신 인터페이스(322) 모두는, 소스 디바이스(310)로부터 데스티네이션 디바이스(320)를 가리키는 그리고 도 1에서 인코딩된 화상 데이터(330)에 대해 사용되는 화살표에 의해 표시되는 일방향 통신 인터페이스로서 구성될 수 있거나; 또는 양방향 통신 인터페이스로서 구성될 수 있고, 예를 들어, 연결을 설정하기 위한 메시지를 송신하고 수신하도록, 그리고 인코딩된 화상 데이터 전송과 같은 통신 링크 및/또는 데이터 전송에 관련된 임의의 다른 정보를 확인 및 교환하도록 구성될 수 있다.
디코더(200)는 인코딩된 화상 데이터(171)를 수신하도록 그리고 디코딩된 화상 데이터(231) 또는 디코딩된 화상(231)을 제공하도록 구성된다(상세한 내용은, 예를 들어, 도 3, 도 9, 도 10, 또는 도 11a 및 도 11b에 기초하여, 이하에서 추가로 기술된다). 예로서, 디코더(200)는 이하에서 기술되는 비디오 화상 디코딩 방법을 수행하도록 구성될 수 있다.
데스티네이션 디바이스(320)의 후처리기(326)는, (재구성된 화상 데이터로도 또한 지칭되는) 디코딩된 화상 데이터(231), 예를 들어, 디코딩된 화상(131)을 후처리하여, 후처리된 화상 데이터(327), 예를 들어, 후처리된 화상(327)을 획득하도록 구성된다. 후처리 유닛(326)에 의해 수행되는 후처리는, 예를 들어, 컬러 포맷 변환(예를 들어, YCbCr로부터 RGB로), 컬러 보정, 트리밍, 또는 리샘플링, 또는, 예를 들어, 표시 장치(328)에 의해 디스플레이하기 위해 디코딩된 화상 데이터(231)를 준비하는, 임의의 다른 처리를 포함할 수 있다.
데스티네이션 디바이스(320)의 표시 장치(328)는, 예를 들어, 사용자 또는 시청자에게, 화상을 디스플레이하기 위해, 후처리된 화상 데이터(327)를 수신하도록 구성된다. 표시 장치(328)는, 재구성된 화상을 제공하도록 구성되는 임의의 유형의 디스플레이, 예를 들어, 통합 또는 외부 디스플레이 또는 모니터이거나 이를 포함할 수 있다. 예를 들어, 디스플레이는, 액정 디스플레이(liquid crystal display, LCD), 유기 발광 다이오드(organic light emitting diode, OLED) 디스플레이, 플라즈마 디스플레이, 프로젝터, 마이크로 LED 디스플레이, 액정 온 실리콘(liquid crystal on silicon, LCoS), 디지털 라이트 프로세서(digital light processor, DLP), 또는 임의의 유형의 다른 디스플레이를 포함할 수 있다.
비록 도 1은 소스 디바이스(310) 및 데스티네이션 디바이스(320)를 별개의 디바이스로 도시하지만, 디바이스의 실시예는 소스 디바이스(310) 및 데스티네이션 디바이스(320) 또는 소스 디바이스(310) 및 데스티네이션 디바이스(320) 양자의 기능을 또한 포함할 수 있다: 소스 디바이스(310) 또는 대응하는 기능 및 데스티네이션 디바이스(320) 또는 대응하는 기능. 이러한 실시예에서, 소스 디바이스(310) 또는 대응하는 기능 및 데스티네이션 디바이스(320) 또는 대응하는 기능은, 동일한 하드웨어 및/또는 소프트웨어를 사용하여 또는 별개의 하드웨어 및/또는 소프트웨어에 의해 또는 이들의 임의의 조합에 의해 구현될 수 있다.
설명에 기초하여 통상의 기술자에게 명백할 바와 같이, 상이한 유닛의 기능의 또는 도 1에 도시된 소스 디바이스(310) 및/또는 데스티네이션 디바이스(320)의 기능의 존재 및 (정확한) 분할은, 실제의 디바이스 및 애플리케이션에 따라 다를 수 있다.
인코더(100)(예를 들어, 비디오 인코더(100)) 및 디코더(200)(예를 들어, 비디오 디코더(200)) 각각은, 다양한 적합한 회로 중 하나로서, 하나 이상의 마이크로프로세서, 디지털 신호 처리기(digital signal processor, DSP), 주문형 집적회로(application-specific integrated circuit, ASIC), 필드-프로그래밍 가능한 게이트 어레이(field-programmable gate array, FPGA), 이산 로직, 하드웨어, 또는 이들의 임의의 조합으로, 구현될 수 있다. 기술이 소프트웨어를 사용하여 부분적으로 구현되는 경우, 디바이스는 적절하고 비일시적인 컴퓨터-판독 가능한 저장 매체에 소프트웨어 명령을 저장할 수 있고, 하나 이상의 프로세서와 같은 하드웨어를 사용하여 명령을 실행하여, 수행 본 개시의 기술을 수행할 수 있다. (하드웨어, 소프트웨어, 하드웨어 및 소프트웨어의 조합, 등을 포함하여) 전술한 내용의 어느 것이라도 하나 이상의 프로세서로 간주될 수 있다. 비디오 인코더(100) 및 비디오 디코더(200) 각각은 하나 이상의 인코더 또는 디코더에 포함될 수 있고, 인코더 또는 디코더는 해당 디바이스에서 결합된 인코더/디코더(코덱)의 일부로서 통합될 수 있다.
소스 디바이스(310)는 비디오 인코딩 디바이스 또는 비디오 인코딩 장치로 지칭될 수 있다. 데스티네이션 디바이스(320)는 비디오 디코딩 디바이스 또는 비디오 디코딩 장치로 지칭될 수 있다. 소스 디바이스(310) 및 데스티네이션 디바이스(320)는 비디오 인코딩 디바이스 또는 비디오 디코딩 디바이스 또는 비디오 인코딩 장치 또는 비디오 디코딩 장치의 예시일 수 있다.
소스 디바이스(310) 및 데스티네이션 디바이스(320)는, 임의의 유형의 핸드 헬드 또는 고정 디바이스, 예를 들어, 노트북 또는 랩 탑 컴퓨터, 휴대 전화, 스마트폰, 태블릿 또는 태블릿 컴퓨터, 비디오 카메라, 데스크탑 컴퓨터, 셋톱 박스, 텔레비전, 표시 장치, 디지털 미디어 플레이어, 비디오 게임 콘솔, (컨텐츠 서비스 서버 또는 컨텐츠 전달 서버와 같은) 비디오 스트리밍 디바이스, 브로드캐스트 수신기 디바이스, 또는 브로드캐스트 송신기 디바이스를 포함하는, 넓은 범위의 디바이스 중 하나를 포함할 수 있고, 임의의 유형의 운영 체제를 사용하거나 사용하지 않을 수 있다.
일부 경우에, 소스 디바이스(310) 및 데스티네이션 디바이스(320)는 무선 통신을 구비할 수 있다. 따라서, 소스 디바이스(310) 및 데스티네이션 디바이스(320)는 무선 통신 디바이스일 수 있다.
일부 경우에, 도 1에 도시된 비디오 코딩 시스템(300)은 단지 예시이고, 본 출원의 기술은 인코딩 디바이스와 디코딩 디바이스 사이의 데이터 통신을 포함해야 하지 않는 비디오 코딩 설정(예를 들어, 비디오 인코딩 또는 비디오 디코딩)에 적용될 수 있다. 다른 예로서, 데이터는 로컬 메모리로부터 검색(retrieve)되거나, 네트워크 등을 통해 스트리밍될 수 있다. 비디오 인코딩 디바이스는 데이터를 인코딩하고 메모리에 저장할 수 있고 및/또는 비디오 디코딩 디바이스는 메모리로부터 데이터를 검색하고 디코딩할 수 있다. 일부 예에서, 인코딩 및 디코딩은, 서로 통신하지 않고 단순히 데이터를 메모리로 인코딩 및/또는 메모리로부터 데이터를 검색 및 디코딩하는 디바이스에 의해 수행된다.
비디오 인코더(100)를 참조로 기술된 각각의 예에 대해, 비디오 디코더(200)는 역 프로세스를 수행하도록 구성될 수 있음을 이해해야 한다. 신택스 엘리먼트를 시그널링하는 것과 관련하여, 비디오 디코더(200)는 신택스 엘리먼트를 수신 및 파싱하도록 그리고 이에 상응하여 관련 비디오 데이터를 디코딩하도록 구성될 수 있다. 일부 예에서, 비디오 인코더(100)는, 타깃 보간 필터의 표시 정보 및 보간 필터의 파라미터 정보를 규정하는데 사용되는 하나 이상의 신택스 엘리먼트를, (비트스트림으로도 지칭되는) 인코딩된 비디오 비트스트림에 엔트로피 인코딩할 수 있다. 그러한 예에서, 비디오 디코더(200)는 신택스 엘리먼트를 파싱할 수 있고 그에 따라 연관된 비디오 데이터를 디코딩할 수 있다.
인코더 및 인코딩 방법
도 2는 본 출원(개시)의 기술을 구현하도록 구성되는 예시적인 비디오 인코더(100)의 개략적/개념적 블록도이다. 도 2의 예에서, 비디오 인코더(100)는 잔차 계산 유닛(104), 변환 처리 유닛(106), 양자화 유닛(108), 역 양자화 유닛(110), 역 변환 처리 유닛(112), 재구성 유닛(114), 버퍼(116), 루프 필터 유닛(120), 디코딩된 화상 버퍼(decoded picture buffer, DPB)(130), 예측 처리 유닛(160), 및 엔트로피 인코딩 유닛(170)을 포함한다. 예측 처리 유닛(160)은 인터 예측 유닛(144), 인트라 예측 유닛(154), 및 모드 선택 유닛(162)을 포함할 수 있다. 인터 예측 유닛(144)은 모션 추정 유닛 및 모션 보상 유닛(다이어그램에는 도시하지 않음)을 포함할 수 있다. 도 2에 도시된 비디오 인코더(100)는 하이브리드 비디오 코덱에 기초하여 하이브리드 비디오 인코더 또는 비디오 인코더로도 또한 지칭될 수 있다.
예를 들어, 잔차 계산 유닛(104), 변환 처리 유닛(106), 양자화 유닛(108), 예측 처리 유닛(160), 및 엔트로피 인코딩 유닛(170)은 인코더(100)의 순방향 신호 경로를 형성하는 반면, 예를 들어, 역 양자화 유닛(110), 역 변환 처리 유닛(112), 재구성 유닛(114), 버퍼(116), 루프 필터(120), 디코딩된 화상 버퍼(decoded picture buffer, DPB)(130), 및 예측 처리 유닛(160)은 인코더의 역방향 신호 경로를 형성한다. 인코더의 역방향 신호 경로는 디코더(도 3의 디코더(200) 참조)의 신호 경로에 해당한다.
인코더(100)는, 예를 들어, 입력(102)으로부터, 화상(101) 또는 화상(101)의 블록(103)을, 예를 들어, 비디오 또는 비디오 시퀀스를 형성하는 화상의 시퀀스의 화상을 수신하도록 구성된다. 화상 블록(103)은 현재 화상 블록 또는 인코딩될 화상 블록으로도 지칭될 수 있고, (특히 비디오 코딩에서, 현재 화상을 다른 화상, 예를 들어, 현재 화상도 또한 포함하는 비디오 시퀀스와 같이 동일한 비디오 시퀀스의 이전에 인코딩된 및/또는 디코딩된 화상으로부터 구별하기 위해) 화상(101)은 현재 화상 또는 인코딩될 화상으로 지칭될 수 있다.
일 실시예로서, 인코더(100)는, 화상(101)을 화상 블록(103)과 같은 복수의 블록으로 분할하도록 구성되는 분할 유닛(도 2에 도시되지 않음)을 포함할 수 있다. 화상(101)은 일반적으로 복수의 비-중첩 블록으로 분할된다. 분할 유닛은, 비디오 시퀀스의 모든 화상에 대해 동일한 블록 크기 및 블록 크기를 규정하는 대응하는 그리드를 사용하도록, 또는 화상들 사이 또는 화상의 그룹의 서브세트들 사이에서 블록 크기를 변경하고, 각각의 화상을 대응하는 블록으로 분할하도록 구성될 수 있다.
예로서, 비디오 인코더(100)의 예측 처리 유닛(160)은 전술한 분할 기법의 임의의 조합을 수행하도록 구성될 수 있다.
화상(101)과 마찬가지로, 블록(103)도 또한, 화상(101)보다는 작은 크기이지만, 루마 값(샘플 값)을 가지는 샘플의 매트릭스 또는 2차원 어레이이거나 이로 간주될 수 있다. 달리 말하면, 블록(103)은, 예를 들어, 하나의 샘플 어레이(예를 들어, 단색 화상(101)의 경우 루마 어레이), 3개의 샘플 어레이 (예를 들어, 색채 화상의 경우 하나의 루마 어레이 및 2개의 크로마 어레이), 또는 적용된 컬러 포맷에 따라 임의의 다른 수량 및/또는 유형의 어레이를 포함할 수 있다. 블록(103)의 수평 및 수직 방향(또는 축)의 샘플 수량은 블록(103)의 크기를 규정한다.
도 2에 도시된 인코더(100)는 블록에 의해 화상(101)을 인코딩하도록 구성되며, 예를 들어, 인코더(100)는 각각의 블록(103)을 인코딩하고 예측한다.
잔차 계산 유닛(104)은, 화상 블록(103) 및 예측 블록(165)(예측 블록(165)에 대한 더욱 상세한 내용은 추후 제공된다)에 기초하여, 예를 들어, 화상 블록(103)의 샘플 값으로부터 예측 블록(165)의 샘플 값을 차감함으로써 잔차 블록(105)을 계산하여, 샘플 별로(픽셀 별로) 샘플 도메인에서 잔차 블록(105)을 획득하도록 구성된다.
변환 처리 유닛(106)은, 잔차 블록(105)의 샘플 값에 변환을, 예를 들어, 이산 코사인 변환(DCT) 또는 이산 사인 변환(DST)을 적용하여, 변환 도메인에서 변환 계수(107)를 획득하도록 구성된다. 변환 계수(107)는 변환 잔차 계수로도 또한 지칭될 수 있고, 변환 도메인에서 잔차 블록(105)을 표현할 수 있다.
변환 처리 유닛(106)은, HEVC/H.265에 지정된 변환과 같은, DCT/DST의 정수 근사를 적용하도록 구성될 수 있다. 직교 DCT 변환과 비교하여, 이러한 정수 근사는 일반적으로 팩터에 의해 스케일링된다. 정방향 및 역 변환을 사용하여 처리되는 잔차 블록의 놈(norm)을 보존하기 위해, 추가적인 스케일 팩터를 적용하는 것은 변환 프로세스의 일부이다. 스케일 팩터는 일반적으로 일부 제약 조건에 따라 선택된다. 예를 들어, 스케일 팩터는, 시프트 연산에 대한 2의 거듭 제곱, 변환 계수의 비트 심도, 또는 정확도와 구현 비용 사이의 트레이트오프(tradeoff)다. 특정 스케일링 팩터는, 예를 들어, 인코더 측(100)에서 역 변환 처리 유닛(212)에 의해, 예를 들어, 역 변환에 대해 (그리고, 예를 들어, 디코더 측(200)에서 역 변환 처리 유닛(112)에 의해, 대응하는 역 변환에 대해) 지정되고, 정방향 변환에 대해 대응하는 스케일링 팩터는, 예를 들어, 인코더 측(100)에서 변환 처리 유닛(106)에 의해, 그에 따라 지정될 수 있다.
양자화 유닛(108)은, 예를 들어, 스칼라 양자화 또는 벡터 양자화를 적용하여, 변환 계수(107)를 양자화하여 양자화된 변환 계수(109)를 획득하도록 구성된다. 양자화된 변환 계수(109)는 양자화된 잔차 계수(109)로도 또한 지칭될 수 있다. 양자화 프로세스는 변환 계수(107)의 일부 또는 전부와 연관된 비트 심도를 줄일 수 있다. 예를 들어, n-비트 변환 계수는 양자화 중에 m-비트 변환 계수로 잘라낼 수 있으며, 여기서 n은 m보다 크다. 양자화 정도는 양자화 파라미터(quantization parameter, QP)를 조정함으로써 수정될 수 있다. 예를 들어, 스칼라 양자화의 경우, 더 미세하거나 거친 양자화를 달성하기 위해 다른 스케일을 적용할 수 있다. 더 작은 양자화 단계는 더 미세한 양자화에 해당하고, 더 큰 양자화 단계는 더 거친 양자화에 해당한다. 적용 가능한 양자화 단계는 양자화 파라미터(quantization parameter, QP)에 의해 표시될 수 있다. 양자화 파라미터는, 예를 들어, 적용 가능한 양자화 단계의 미리 정의된 세트에 대한 인덱스일 수 있다. 예를 들어, 더 작은 양자화 파라미터는 더 미세한 양자화(더 작은 양자화 단계)에 대응할 수 있고 더 큰 양자화 파라미터는 더 거친 양자화(더 큰 양자화 단계)에 대응할 수 있으며, 그 반대일 수 있다. 양자화는 양자화 단계에 의한 나눗셈과, 예를 들어 역 양자화 유닛(110)에 의해 수행되는 역 양자화 또는 대응하는 양자화를 포함할 수 있거나, 또는 양자화 단게에 의한 곱셈을 포함할 수 있다. HEVC와 같은 일부 표준에 따른 실시예에서, 양자화 파라미터는 양자화 단계를 결정하는데 사용될 수 있다. 일반적으로, 양자화 단계는 나누기를 포함하는 방정식의 고정 소수점 근사를 사용하여 양자화 파라미터에 기초하여 계산될 수 있다. 잔차 블록의 놈(norm)을 복원하기 위해 추가적인 스케일링 팩터가 양자화 및 역양자화에 도입될 수 있고, 여기서 잔차 블록의 놈(norm)은 양자화 파라미터 및 양자화 단계에 대한 수학식의 고정 소수점 근사에서 사용되는 스케일로 인해 수정될 수 있다. 예시적인 구현에서, 역변환 및 역양자화의 스케일이 조합될 수 있다. 대안적으로, 맞춤형 양자화 테이블이 사용되어 인코더로부터 디코더로, 예를 들어 비트스트림으로 시그널링될 수 있다. 양자화는 손실이 있는 연산으로서, 양자화 단계가 증가함에 따라 손실이 증가한다.
역 양자화 유닛(110)은, 예를 들어, 양자화 유닛(108)과 동일한 양자화 단계에 기초하거나 사용하여 양자화 유닛(108)에 의해 적용되는 양자화 방식의 역을 적용함으로써, 양자화 유닛(108)의 역 양자화를 양자화된 계수에 적용하여 역양자화 계수(111)를 획득하도록 구성된다. 역양자화 계수(111)는 역양자화된 잔차 계수(111)로도 또한 지칭될 수 있고, 통상적으로 양자화에 의한 손실 때문에 변환 계수에 동일하지는 않으나, 변환 계수(107)에 대응한다.
역 변환 처리 유닛(112)은, 변환 처리 유닛(106)에 의해 적용되는 변환의 역변환을, 예를 들어, 역 이산 코사인 변환 (DCT) 또는 역 이산 사인 변환(DST)을 적용하여, 샘플 도메인에서 역 변환 블록(113)을 획득하도록 구성된다. 역 변환 블록(113)은 역 변환 역양자화된 블록(113) 또는 역 변환 잔차 블록(113)으로도 또한 지칭될 수 있다.
재구성 유닛(114) (예를 들어, 합산기 114)은, 역 변환 블록(113)(즉, 재구성된 잔차 블록(113))을 예측 블록(165)에 합하여, 예를 들어, 재구성된 잔차 블록(113)의 샘플 값 및 예측 블록(165)의 샘플 값을 더함으로써, 샘플 도메인에서 재구성 블록(115)을 획득하도록 구성된다.
선택사항으로서, 예를 들어, 라인 버퍼(116)의, 버퍼 유닛(116)(줄여서 "버퍼"(116))은, 예를 들어, 인트라 예측을 위해, 재구성 블록(115) 및 대응하는 샘플 값을 버퍼링 또는 저장하도록 구성된다. 추가적인 실시예에서, 인코더는, 임의의 종류의 추정 및/또는 예측, 예를 들어, 인트라 예측을 위해 버퍼 유닛(116)에 저장된 각각의 샘플 값 및/또는 필터링되지 않은 재구성된 블록을 사용하도록 구성될 수 있다.
예를 들어, 실시예에서, 인코더(100)는, 버퍼 유닛(116)은 인트라 예측 유닛(154)에 대해 재구성 블록(115)을 저장하는데 사용될 뿐만 아니라 루프 필터 유닛(120)에 대해 또한 사용될 수 있도록, 및/또는 예를 들어, 버퍼 유닛(116) 및 디코딩된 화상 버퍼 유닛(130)이 하나의 버퍼를 형성하도록, 구성될 수 있다. 추가적인 실시예는, 디코딩된 화상 버퍼(130)로부터 필터링된 블록(121) 및/또는 블록 또는 샘플(모두 도 2에 도시되지 않음)을 인트라 예측 유닛(154)에 대한 입력 또는 기초로서 사용하도록 구성될 수 있다.
("루프 필터"(120)로 약칭되는) 루프 필터 유닛(120)은, 필터 재구성 블록(115)을 필터링하여 필터링된 블록(121)을 획득함으로써, 픽셀 전환을 부드럽게 하거나 비디오 품질을 향상하도록 구성된다. 루프 필터 유닛(120)은, 예를 들어, 디블로킹 필터, 샘플-적응형 오프셋(sample-adaptive offset, SAO) 필터, 및 양방향 필터, 적응형 루프 필터(adaptive loop filter, ALF), 샤프닝 또는 스무딩 필터(sharpening or smoothing filter), 또는 협업 필터(collaborative filter)와 같은 다른 필터를 포함하는, 하나 이상의 루프 필터를 표현하도록 의도된 것이다. 비록 루프 필터 유닛(120)은 도 2에서 인-루프 필터(in-loop filter)로서 도시되어 있으나, 다른 구성에서는, 루프 필터 유닛(120)은 포스트-루프 필터(post-loop filter)로서 구현될 수 있다. 필터링된 블록(121)은 필터링된 재구성 블록(121)으로도 또한 지칭될 수 있다. 디코딩된 화상 버퍼(130)는, 루프 필터 유닛(120)이 재구성된 코딩 블록에 필터링 동작을 수행한 후에, 재구성된 코딩 블록을 저장할 수 있다.
일 실시예로서, 인코더(100)(상응하여, 루프 필터 유닛(120))는, 예를 들어, 디코더(200)는 동일한 루프 필터 파라미터를 수신할 수 있고 동일한 루프 필터 파라미터를 디코딩에 적용할 수 있도록, 예를 들어, 직접 또는 엔트로피 인코딩 유닛(170) 또는 임의의 다른 엔트로피 인코딩 유닛에 의해 수행되는 엔트로피 인코딩 이후에, (샘플 적응형 오프셋 정보와 같은) 루프 필터 파라미터를 출력하도록 구성될 수 있다.
디코딩된 화상 버퍼(DPB)(130)는 비디오 인코더(100)가 비디오 데이터를 인코딩하는데 사용하기 위한 참조 화상 데이터를 저장하는 참조 화상 메모리일 수 있다. DPB(130)는, (동기 DRAM(synchronous DRAM, SDRAM), 자기저항 RAM(magnetoresistive RAM, MRAM), 및 저항성 RAM(resistive RAM, RRAM)을 포함하는) 동적 랜덤 액세스 메모리(dynamic random access memory, DRAM) 또는 다른 유형의 메모리 디바이스와 같은 다양한 메모리 디바이스 중 하나에 의해 형성될 수 있다. DPB(130) 및 버퍼(116)는 동일한 메모리 디바이스 또는 별개의 메모리 디바이스에 의해 제공될 수 있다. 예로서, 디코딩된 화상 버퍼(decoded picture buffer, DPB)(130)는 필터링된 블록(121)을 저장하도록 구성된다. 디코딩된 화상 버퍼(130)는, 동일한 현재 화상 또는 상이한 화상, 예를 들어, 이전에 재구성된 화상의, 다른 이전에 필터링된 블록, 예를 들어, 이전에 재구성되고 필터링된 블록(121)을 저장하도록 추가로 구성될 수 있고, 완전한 이전에 재구성된, 즉, 디코딩된 화상(및 대응하는 참조 블록 및 샘플) 및/또는 부분적으로 재구성된 현재 화상(및 대응하는 참조 블록 및 샘플)을, 예를 들어, 인터 예측에 제공할 수 있다. 예로서, 재구성 블록(115)이 인-루프 필터링 없이 재구성되는 경우, 디코딩된 화상 버퍼(DPB)(130)는 재구성 블록(115)을 저장하도록 구성된다.
블록 예측 처리 유닛(160)으로도 또한 지칭되는 예측 처리 유닛(160)은, 블록(103)(현재 화상(101)의 현재 인코딩 화상 블록(103)) 및 재구성된 화상 데이터를, 예를 들어, 디코딩된 화상 버퍼(130)로부터 하나 이상의 이전에 디코딩된 화상의, 버퍼(116) 및/또는 참조 화상 데이터(231)로부터 동일한 (현재) 화상의 참조 샘플을, 수신하거나 획득하도록, 그리고 이러한 데이터를 예측을 위해 처리하도록, 즉, 인터 예측 블록(145) 또는 인트라 예측 블록(155)일 수 있는 예측 블록(165)을 제공하도록, 구성된다.
본 출원의 실시예에서, 인터 예측 유닛(145)은 후보 보간 필터 세트(151) 및 필터 선택 유닛(152)을 포함할 수 있다. 후보 보간 필터 세트(151)는 복수의 유형의 보간 필터를 포함할 수 있다. 예를 들어, 후보 보간 필터 세트(151)는, 이산 코사인 변환-기반 보간 필터(DCT-based interpolation filter, DCTIF) 및 가역성-구동 보간 필터(invertibility-driven interpolation filter, 본 명세서에서 InvIF로도 또한 지칭됨)를 포함할 수 있다. InvIF는 본 출원에서 도 6a 또는 도 6c에서 기술되는 보간 필터 훈련 방법을 사용하여 획득되는 보간 필터이다. 필터 선택 유닛(152)은, 필터 선택 유닛(152)을 (변환 처리 유닛(106), 양자화 유닛(108), 역 변환 처리 유닛(112), 재구성 유닛(114), 루프 필터 유닛(120), 및 변환 처리 유닛(106)과 같은) 다른 유닛과 결합함으로써, 후보 보간 필터 세트(151)로부터 보간 필터(예를 들어, DCTIF 또는 InvIF)를 선택하도록 구성된다. 엔트로피 인코딩 유닛은, (본 명세서에서 타깃 보간 필터로도 또한 지칭되는) 선택된 보간 필터의 표시 정보를 엔트로피 인코딩하도록 구성된다. 본 출원의 다른 실시예에서, 후보 보간 필터 세트(151)에 포함되는 여러 유형의 보간 필터는 모두 종래의 기술에서 제공되는 보간 필터이거나, 또는 도 6a 또는 도 6c에 도시된 보간 필터 훈련 방법을 사용하여 획득되는 보간 필터를 포함할 수 있다. 본 출원의 또 다른 실시예에서, 인터 예측 블록(145)은, 본 출원의 실시예에서 도 6a 또는 도 6c에 도시된 보간 필터 훈련 방법을 사용하여 획득되는 단일 보간 필터를 포함할 수 있다. 후보 보간 필터 세트(151)는 모션 추정 프로세스에 적용될 수 있음을 이해해야 한다. 본 출원의 다른 실시예에서, 후보 보간 필터 세트(151)는 보간 연산이 필요한 다른 시나리오에 적용될 수 있다.
인코더(100)는 보간 필터의 훈련을 구현하도록 구성되는 훈련 유닛(도 2에 도시되지 않음)을 더 포함할 수 있다. 훈련 유닛은 인터 예측 유닛(145) 내부 또는 외부에 배치될 수 있다. 훈련 유닛은 인터 예측 유닛(145) 내부에 배치되거나 인코더(100)의 다른 위치에 배치될 수 있음을 이해할 수 있다. 훈련 유닛은, 보간 필터의 훈련, 보간 필터의 필터 파라미터의 업데이트, 등을 구현하기 위해, 인터 예측 유닛에서 하나 이상의 보간 필터에 결합된다. 훈련 유닛은 대안적으로 인코더 외부에 배치되거나 다른 디바이스(인코더(100)를 포함하지 않는 디바이스)에 배치될 수 있으며, 인코더는 필터 파라미터를 수신함으로써 보간 필터를 구성할 수 있음을 이해할 수 있다.
모드 선택 유닛(162)은, 예측 모드(예를 들어, 인트라 예측 모드 또는 인터 예측 모드) 및/또는 잔차 블록(105)의 계산을 위해 그리고 재구성 블록(115)의 재구성을 위해 예측 블록(165)으로서 사용될 대응하는 예측 블록(145 또는 155)을 선택하도록 구성될 수 있다.
일 실시예로서, 모드 선택 유닛(162)은, (예를 들어, 예측 처리 유닛(160)에 의해 지원되는 예측 모드로부터) 예측 모드를 선택하도록 구성될 수 있다. 예측 모드는, 최적의 매칭 또는 최소 잔차(최소 잔차는 전송 또는 저장을 위한 더 나은 압축을 의미한다)를 제공하거나, 최소 시그널링 오버헤드(최소 시그널링 오버헤드는 전송 또는 저장을 위한 더 나은 압축을 의미한다)를 제공하거나, 양자를 고려하거나 균형을 이룬다. 모드 선택 유닛(162)은, 레이트 왜곡 최적화(rate distortion optimization, RDO)에 기초하여 예측 모드를 결정하도록, 즉, 최소 레이트 왜곡 최적화를 제공하는 예측 모드를 선택하거나 관련된 레이트 왜곡 적어도 예측 모드 선택 기준을 만족하는 예측 모드를 선택하도록, 구성될 수 있다.
이하에서, 예시적인 인코더(100)에 의해 수행되는 (예를 들어, 예측 처리 유닛(160)에 의해 수행되는) 예측 프로세싱 및 (예를 들어, 모드 선택 유닛(162)에 의해 수행되는) 모드 선택에 대해 상세히 설명한다.
위에서 설명한 바와 같이, 인코더(100)는, (기설정된) 예측 모드 세트로부터 최상의 예측 모드 또는 최적의 예측 모드를 결정 또는 선택하도록 구성된다. 예측 모드 세트는, 예를 들어, 인트라 예측 모드 및/또는 인터 예측 모드를 포함할 수 있다.
인트라 예측 모드 세트는, 35개의 상이한 인트라 예측 모드, 예를 들어, DC (또는 평균) 모드 및 평면 모드와 같은 비-방향성 모드, 또는 H.265에서 규정된 것과 같은 방향성 모드를 포함할 수 있거나, 67개의 상이한 인트라 예측 모드, 예를 들어, DC (또는 평균) 모드 및 평면 모드와 같은 비-방향성 모드, 또는 개발중인 H.266에서 규정된 것과 같은 방향성 모드를 포함할 수 있다.
(가능한) 인터 예측 모드의 세트는, 이용 가능한 참조 화상(즉, 예를 들어, 위에서 설명한 바와 같이, DBP(130)에 저장된 적어도 일부 디코딩된 화상) 및 다른 인터 예측 파라미터에 의존하며, 예를 들어, 전체 참조 화상이 또는 참조 화상의 일부만이, 예를 들어, 현재 화상 블록 주위의 검색 윈도우가, 최적 매칭된 참조 블록의 검색에 사용되는지 여부에 의존하고, 및/또는 예를 들어, 1/2-픽셀 및/또는 1/4-픽셀 보간과 같은 픽셀 보간이 적용되는지 여부에 의존한다.
전술한 예측 모드에 더하여, 스킵 모드 및/또는 다이렉트 모드가 적용될 수 있다.
예측 처리 유닛(160)은, 예를 들어, 쿼드-트리(quad-tree, QT) 분할, 2진-트리(binary-tree, BT) 분할, 트리플-트리(triple-tree, TT) 분할, 또는 이들의 임의의 조합을 반복적으로 사용하여, 블록(103)을 더 작은 블록 분할 또는 서브-블록으로 분할하도록, 그리고 예를 들어, 블록 분할 또는 서브-블록의 각각에 예측을 수행하도록, 추가적으로 구성될 수 있으며, 여기서 모드 선택은 분할된 블록(103)의 트리 구조의 선택 및 블록 분할 또는 서브-블록의 각각에 적용되는 예측 모드의 선택을 포함한다.
인터 예측 유닛(144)은, 모션 추정(motion estimation, ME) 유닛(도 2에 도시되지 않음) 및 모션 보상(motion compensation, MC) 유닛(도 2에 도시되지 않음)을 포함할 수 있다. 모션 추정 유닛은, 화상 블록(103)(현재 화상(101)의 현재 화상 블록(103)) 및 디코딩된 화상(131), 또는 적어도 하나의 또는 그 이상의 이전에 재구성된 블록, 예를 들어, 하나 이상의 다른/상이한 이전에 디코딩된 화상(231)의 재구성된 블록을, 모션 추정을 위해 수신하거나 획득하도록 구성된다. 예를 들어, 비디오 시퀀스는 현재 화상 및 이전에 디코딩된 화상(231)을 포함할 수 있다. 달리 말하면, 현재 화상 및 이전에 디코딩된 화상(231)은 비디오 시퀀스를 형성하는 화상의 시퀀스의 일부이거나 이를 형성할 수 있다.
예를 들어, 인코더(100)는, 복수의 다른 화상의 동일한 화상 또는 상이한 화상의 복수의 참조 블록으로부터 참조 블록을 선택하도록, 그리고 참조 블록의 위치 (X, Y 좌표)와 현재 블록의 위치 사이의 참조 화상(또는 참조 화상 인덱스) 및/또는 오프셋(공간적 오프셋)을 인터 예측 파라미터로서 모션 추정 유닛(도 2에 도시되지 않음)에 제공하도록, 구성될 수 있다. 이 오프셋은 모션 벡터(motion vector, MV)로도 또한 지칭된다.
본 출원의 실시예에서, 모션 추정 유닛은 후보 보간 필터 세트를 포함할 수 있다. 모션 추정 유닛은, 레이트-왜곡 비용 기준에 따라 후보 보간 필터 세트로부터, 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 선택하도록 추가적으로 구성된다. 대안적으로, 모션 추정 유닛은, 후보 보간 필터 세트 내의 각각의 보간 필터를 사용하여 현재 인코딩 화상 블록에 최적으로 매칭되는 정수 픽셀 참조 화상 블록에 대해 서브-픽셀 보간을 수행함으로써, N개의 서브-픽셀 참조 화상 블록을 획득하도록 추가적으로 구성된다. 또한, 현재 인코딩 화상 블록에 최적으로 매칭되는 예측 블록은 정수 픽셀 참조 화상 블록 및 N개의 서브-픽셀 참조 화상 블록에서 결정되고, 보간을 통해 획득되는 예측 블록의 그리고 후보 보간 필터 세트로부터 선택되는 보간 필터는 타깃 보간 필터이다.
모션 보상 유닛은, 인터 예측 파라미터를 획득하도록, 예를 들어, 수신하도록, 그리고 인터 예측 파라미터에 기초하거나 사용하여 인터 예측을 수행함으로써 인터 예측 블록(145)을 획득하도록, 구성된다. 모션 보상 유닛(도 2에 도시되지 않음)에 의해 수행되는 모션 보상은, 모션 추정(보간은 서브-샘플 정밀도 레벨에서 수행될 수 있다)을 통해 결정되는 모션/블록 벡터에 기초하여 예측 블록을 추출하거나 생성하는 것을 포함할 수 있다. 보간 필터링은 알려진 픽셀 샘플로부터 추가적인 픽셀 샘플을 생성할 수 있으며, 이에 따라 화상 블록을 코딩하는데 사용될 수 있는 후보 예측 블록의 수량을 잠재적으로 증가시킬 수 있다. 모션 보상 유닛(146)은 현재 화상 블록의 PU에 대한 모션 벡터를 수신하면 참조 화상 목록 중 하나에서 모션 벡터가 가리키는 예측 블록을 찾을 수 있다. 모션 보상 유닛(146)은, 비디오 디코더(200)가 비디오 슬라이스의 화상 블록을 디코딩할 때 사용하기 위해, 블록 및 비디오 슬라이스와 연관된 신택스 엘리먼트를 추가로 생성할 수 있다.
인트라 예측 유닛(154)은, 인트라 추정에 대한 동일한 화상의 하나 이상의 이전에 재구성된 블록, 예를 들어, 재구성된 이웃하는 블록, 및 화상 블록(103)(현재 화상 블록)을 획득하도록, 예를 들어, 수신하도록, 구성된다. 인코더(100)는, 예를 들어, 복수의 (미리 정해진) 인트라 예측 모드로부터 인트라 예측 모드를 선택하도록 구성될 수 있다.
일 실시예로서, 인코더(100)는, 최적화 기준에 따라, 예를 들어, 최소 잔차 (예를 들어, 현재 화상 블록(103)에 가장 유사한 예측 블록(155)을 제공하는 인트라 예측 모드) 또는 최소 레이트 왜곡에 기초하여, 인트라 예측 모드를 선택하도록 구성될 수 있다.
인트라 예측 유닛(154)은, 예를 들어, 선택된 인트라 예측 모드의, 인트라 예측 파라미터에 기초하여 인트라 예측 블록(155)을 결정하도록 추가적으로 구성된다. 어쨌든, 블록에 대한 인트라 예측 모드를 선택한 후, 인트라 예측 유닛(154)은 인트라 예측 파라미터, 즉, 엔트로피 인코딩 유닛(170)에 대한 블록에 대해 선택된 인트라 예측 모드를 나타내는 정보를 제공하도록 또한 구성된다. 예로서, 인트라 예측 유닛(154)은 다음의 인트라 예측 기법의 임의의 조합을 수행하도록 구성될 수 있다.
엔트로피 인코딩 유닛(170)은, 엔트로피 인코딩 알고리즘 또는 방식(예를 들어, 가변 길이 코딩(VLC) 방식, 컨텍스트 적응형 VLC 방식(CALVC), 산술 코딩 방식, 컨텍스트 적응형 2진 산술 코딩(CABAC), 신택스-기반 컨텍스트-적응형 2진 산술 코딩(SBAC), 확률 간격 분할 엔트로피(PIPE) 코딩 또는 다른 엔트로피 인코딩 방법론 또는 기법)을 양자화된 잔차 계수(109), 인터 예측 파라미터, 인트라 예측 파라미터, 및/또는 루프 필터 파라미터에, 개별로 또는 결합하여(또는 전혀) 적용하여, 출력(172)에 의해 출력될 수 있는 인코딩된 화상 데이터(171)를, 예를 들어, 인코딩된 비트스트림(171)의 형태로 획득하도록 구성된다. 인코딩된 비트스트림은 비디오 디코더(200)로 전송되거나, 비디오 디코더(200)에 의한 추후 전송 또는 검색(retrieval)을 위해 보관될 수 있다. 엔트로피 인코딩 유닛(170)은 인코딩 중인 현재의 비디오 슬라이스에 대한 다른 신택스 엘리먼트를 엔트로피 인코딩하도록 추가적으로 구성될 수 있다. 예를 들어, 본 발명의 일부 실시예에서, 엔트로피 인코딩 유닛(170)은, 타깃 보간 필터의 표시 정보 및/또는 보간 필터의 필터 파라미터를 엔트로피 인코딩하도록 추가적으로 구성된다.
훈련 유닛은, 샘플 화상에 기초하여, 머신 러닝에 기초하고 인터 예측 유닛(144)에 포함된 보간 필터를 훈련함으로써, 보간 필터의 필터 파라미터를 결정 또는 최적화하도록 구성된다.
비디오 인코더(100)의 다른 구조적 변형은 비디오 스트림을 인코딩하도록 구성될 수 있다. 예를 들어, 비-변환 기반 인코더(100)는 일부 블록 또는 프레임에 대해 변환 처리 유닛(106) 없이 직접 잔차 신호를 양자화할 수 있다. 다른 구현예에서, 인코더(100)는 단일 유닛으로 결합될 수 있는 양자화 유닛(108) 및 역 양자화 유닛(110)을 포함한다.
도 3은 본 출원의 기술, 즉 비디오 화상 디코딩 방법을 구현하도록 구성되는 예시적인 비디오 디코더(200)를 도시한다. 비디오 디코더(200)는, 예를 들어, 인코더(100)에 의해 인코딩된, 인코딩된 화상 데이터(예를 들어, 인코딩된 비트스트림)(171)를 수신하여, 디코딩된 화상(131)을 획득하도록 구성된다. 디코딩 프로세스에서, 비디오 디코더(200)는, 비디오 인코더(100)로부터 비디오 데이터, 예를 들어, 인코딩된 비디오 비트스트림(비트스트림로도 또한 지칭됨)의 화상 블록을 표현하는 인코딩된 비디오 비트스트림 및 연관된 신택스 엘리먼트를 수신한다.
도 3의 예에서, 디코더(200)는 엔트로피 디코딩 유닛(204), 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구성 유닛(214) (예를 들어, 합산기(214)), 버퍼(216), 루프 필터(220), 디코딩된 화상 버퍼(230), 및 예측 처리 유닛(260)을 포함한다. 예측 처리 유닛(260)은 인터 예측 유닛(244), 인트라 예측 유닛(254), 및 모드 선택 유닛(262)을 포함할 있다. 비디오 디코더(200)는, 일부 예에서, 수행 도 2의 비디오 인코더(100)에 관해 기술된 인코딩 패스(encoding pass)와 일반적으로 역인 디코딩 패스(decoding pass)를 수행할 수 있다.
엔트로피 디코딩 유닛(204)은, 인코딩된 화상 데이터(예를 들어, 비트스트림 또는 현재 디코딩 화상 블록)(171)를 엔트로피 디코딩하여, 예를 들어, 양자화된 계수(209) 및/또는 디코딩된 인코딩 파라미터(인코딩 정보로도 또한 지칭되고, 도 3에 도시되지 않음), 예를 들어, 인터 예측 파라미터, 인트라 예측 파라미터, 루프 필터 파라미터, 타깃 보간 필터의 표시 정보, 필터 파라미터, 및/또는 인터 예측 모드를 표시하는 정보와 같은 (디코딩된) 신택스 엘리먼트의 어느 하나 또는 전부를 획득하도록 구성된다. 엔트로피 디코딩 유닛(204)은, 인터 예측 파라미터, 인트라 예측 파라미터, 타깃 보간 필터의 표시 정보, 필터 파라미터, 및/또는 인터 예측 모드를 표시하는 정보와 같은 신택스 엘리먼트를, 예측 처리 유닛(260)으로 포워딩하도록, 추가적으로 구성된다. 비디오 디코더(200)는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트를 수신할 수 있다.
역 양자화 유닛(210)은 역 양자화 유닛(110)과 동일한 기능을 가질 수 있다. 역 변환 처리 유닛(212)은 역 변환 처리 유닛(112)과 동일한 기능을 가질 수 있다. 재구성 유닛(214)은 재구성 유닛(114)과 동일한 기능을 가질 수 있다. 버퍼(216)는 버퍼(116)와 동일한 기능을 가질 수 있다. 루프 필터(220)는 루프 필터(120)와 동일한 기능을 가질 수 있다. 디코딩된 화상 버퍼(230)는 디코딩된 화상 버퍼(130)와 동일한 기능을 가질 수 있다.
예측 처리 유닛(260)은 인터 예측 유닛(244) 및 인트라 예측 유닛(254)을 포함할 수 있다. 인터 예측 유닛(244)은 기능면에서 인터 예측 유닛(144)과 유사할 수 있고, 인트라 예측 유닛(254)은 기능면에서 인트라 예측 유닛(154)과 유사할 수 있다. 예측 처리 유닛(260)은 통상적으로, 블록 예측을 수행 및/또는 인코딩된 데이터(171)로부터 예측 블록(265)을 획득하도록 그리고 예를 들어, 엔트로피 디코딩 유닛(204)으로부터, 선택된 예측 모드에 관한 예측 관련 파라미터 및/또는 정보를 (명시적으로 또는 함축적으로) 수신하거나 획득하도록, 구성된다.
비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩되는 경우, 예측 처리 유닛(260)의 인트라 예측 유닛(254)은, 현재 프레임 또는 화상의 이전에 디코딩된 블록으로부터 시그널링된 인트라 예측 모드 및 데이터에 기초하여 현재의 비디오 슬라이스의 화상 블록에 대한 예측 블록(265)을 생성하도록 구성된다. 비디오 프레임이 인터 인코딩된 (즉, B 또는 P) 슬라이스로 인코딩되는 경우, 예측 처리 유닛(260) 내의 인터 예측 유닛(244)(예를 들어, 모션 보상 유닛)은, 엔트로피 디코딩 유닛(204)으로부터 수신되는 모션 벡터 및 다른 신택스 엘리먼트에 기초하여 현재의 비디오 슬라이스에서 비디오 블록의 예측 블록(265)을 생성하도록 구성된다. 인터 예측을 위해, 예측 블록은 하나의 참조 화상 목록 내의 참조 화상 중 하나로부터 생성될 수 있다. 비디오 디코더(200)는, DPB(230)에 저장된 참조 화상에 기초하여 디폴트 구성 기법을 사용하여, 참조 프레임 목록(목록 0 및 목록 1)을 구성할 수 있다.
예측 처리 유닛(260)은, 모션 벡터를 파싱; 서브-픽셀 보간을 수행하여 예측 블록의 타깃 보간 필터의 표시 정보, 필터 파라미터, 및/또는 인터 예측 모드를 표시하는데 사용되는 정보와 같은 신택스 엘리먼트를 획득; 서브-픽셀 보간을 수행하는데 사용되는 타깃 보간 필터를 결정; 현재의 비디오 슬라이스의 비디오 블록(즉, 현재 디코딩 화상 블록)의 예측 정보를 결정; 및 예측 정보에 기초하여 현재 디코딩 화상 블록의 예측 블록를 생성;하도록 구성된다. 예를 들어, 예측 처리 유닛(260)은, 수신된 신택스 엘리먼트의 일부를 사용하여, 비디오 슬라이스의 비디오 블록을 코딩하는데 사용되는 예측 모드(예를 들어, 인트라 예측 또는 인터 예측), 인터 예측 슬라이스 유형(예를 들어, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스의 참조 화상 목록의 하나 이상에 대한 구성 정보, 슬라이스의 각각의 인터 코딩된 비디오 블록에 대한 모션 벡터, 슬라이스의 각각의 인터-코딩된 비디오 블록에 대한 인터 예측 상태, 서브-픽셀 보간 및 다른 정보를 통해 획득되는 예측 블록의 타깃 보간 필터의 표시 정보를 결정하여, 현재의 비디오 슬라이스의 비디오 블록을 디코딩한다.
예측 처리 유닛(260)은 후보 보간 필터 세트(251) 및 필터 선택 유닛(252)을 포함할 수 있다. 후보 보간 필터 세트(251)는 하나 이상의 유형의 보간 필터, 예를 들어, DCTIF 및 InvIF를 포함한다. 필터 선택 유닛(252)은, 모션 정보가 분수 픽셀 위치를 가리키는 경우, 후보 보간 필터 세트(251)로부터, 타깃 보간 필터의 표시 정보에 의해 표시되는 타깃 보간 필터를 결정-여기서 표시 정보는 파싱을 통해 획득됨-; 및 표시 정보에 의해 표시되는 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행함으로써 예측 블록을 획득;하도록 구성된다.
역 양자화 유닛(210)은, 비트스트림에서 제공되고 엔트로피 디코딩 유닛(204)에 의해 디코딩된 양자화된 변환 계수를 역 양자화(inverse quantize)(즉, 역양자화(dequantize))하도록 구성될 수 있다. 역 양자화 프로세스는, 양자화의 정도(및 마찬가지로, 적용되어야 하는 역 양자화의 정도)를 결정하기 위해 비디오 슬라이스 내의 각각의 비디오 블록에 대해 비디오 인코더(100)에 의해 계산되는 양자화 파라미터의 사용을 포함할 수 있다.
역 변환 처리 유닛(212)은, 변환 계수에 역 변환(예를 들어, 역 DCT, 역 정수 변환, 또는 개념적으로 유사한 역 변환 프로세스)을 적용하여 픽셀 도메인에서 잔차 블록을 생성하도록 구성된다.
재구성 유닛(214) (예를 들어, 합산기(214))은, 역 변환 블록(213)(예를 들어, 재구성된 잔차 블록(213))을 예측 블록(265)에 더함으로써, 예를 들어, 재구성된 잔차 블록(213)의 샘플 값 및 예측 블록의 샘플 값(265)을 더함으로써, 샘플 도메인에서 재구성 블록(215)을 획득하도록 구성된다.
루프 필터 유닛(220)은 (코딩 루프 중에 또는 코딩 루프 이후에), 필터 재구성 블록(215)을 필터링하여 필터링된 블록(221)을 획득함으로써, 픽셀 전환을 부드럽게 하거나 비디오 품질을 향상하도록 구성된다. 예로서, 루프 필터 유닛(220)은 이하에서 기술되는 필터링 기법의 임의의 조합을 수행하도록 구성될 수 있다. 루프 필터 유닛(220)은, 예를 들어, 디블로킹 필터, 샘플-적응형 오프셋(sample-adaptive offset, SAO) 필터, 및 양방향 필터, 적응형 루프 필터(adaptive loop filter, ALF), 샤프닝 또는 스무딩 필터(sharpening or smoothing filter), 또는 협업 필터(collaborative filter)와 같은 다른 필터를 포함하는, 하나 이상의 루프 필터를 표현하도록 의도된 것이다. 비록 루프 필터 유닛(220)은 도 3에서 인-루프 필터(in-loop filter)로서 도시되어 있으나, 다른 구성에서는, 루프 필터 유닛(220)은 포스트-루프 필터(post-loop filter)로서 구현될 수 있다.
주어진 프레임 또는 화상 내의 디코딩된 비디오 블록(221)은, 이후의 모션 보상에 사용되는 참조 화상를 저장하는, 디코딩된 화상 버퍼(230)에 저장된다.
디코더(200)는, 사용자에게 표현(presentation) 또는 현시(viewing)를 위해, 예를 들어, 출력(232)을 통해, 디코딩된 화상(231)을 출력하도록 구성된다.
비디오 디코더(200)의 다른 변형은 압축된 비트스트림을 디코딩하도록 구성될 수 있다. 예를 들어, 디코더(200)는 루프 필터 유닛(220) 없이 출력 비디오 스트림을 생성할 수 있다. 예를 들어, 비-변환 기반 디코더(200)는 일부 블록 또는 프레임에 대해 역 변환 처리 유닛(212) 없이 직접 잔차 신호를 역 양자화할 수 있다. 다른 구현에서, 비디오 디코더(200)는 단일 유닛으로 결합될 수 있는 역-양자화 유닛(210) 및 역-변환 처리 유닛(212)을 가진다.
비록 도 2 및 도 3은 특정 인코더(100) 및 특정 디코더(200)를 각각 도시하고 있으나, 인코더(100) 및 디코더(200) 각각은 기술되지 아니한 다양한 다른 기능적 유닛, 모듈, 또는 콤포넌트를 더 포함할 수 있음을 이해하여야 한다. 또한, 도 2 및 도 3에 도시된 특정 콤포넌트 및/또는 도 2 및 도 3에 도시된 특정 콤포넌트의 배치 방식은 제한되지 않는다. 본 명세서에서 기술되는 시스템의 다양한 유닛은 소프트웨어, 펌웨어, 및/또는 하드웨어, 및/또는 이들의 임의의 조합으로 구현될 수 있다.
다음은 이 본 출원과 관련된 서브-픽셀 보간의 가역성을 설명한다.
각각의 디지털 화상은 m개의 행 및 n개의 열을 가지는 2차원 어레이로 간주될 수 있고, m×n개의 샘플(sample)을 포함할 수 임음을 이해해야 한다. 각각의 샘플의 위치는 샘플링 위치로 지칭되고, 각각의 샘플의 값은 샘플 값으로 지칭된다. 일반적으로, m×n은 화상의 해상도, 즉, 화상에 포함된 샘플의 수량로 지칭된다. 예를 들어, 2K 화상의 해상도는 1920 × 1080이고, 4K 비디오의 해상도는 3840 × 2160이다. 일반적으로, 샘플은 픽셀로도 또한 지칭되고, 샘플 값은 픽셀 값으로도 또한 지칭된다. 따라서, 각각의 픽셀은 픽셀 위치 및 픽셀 값이라는 두 가지 정보를 또한 포함한다.
연대순으로 된 복수의 디지털 화상이 디지털 비디오를 구성한다. 디지털 비디오의 코딩은 저장 및 네트워크 전송의 용이성을 위해 디지털 비디오에서 중복 정보를 제거하는데 사용된다. 일반적으로, 디지털 비디오의 중복은 공간적 중복, 시간적 중복, 통계적 중복 및 시각적 중복을 포함한다. 비디오 시퀀스에서 인접한 프레임 사이에는 강한 상관 관계가 있으며, 많은 양의 시간적 중복성이 있다. 시간적 중복성을 제거하기 위해, 현재 블록-기반 하이브리드 코딩 프레임 워크에 인터 예측 기술이 도입되어, 코딩된 프레임을 사용하여 현재의 코딩할 프레임을 예측함으로써, 코딩 비트 레이트를 크게 감소시킨다.
블록-기반 인터 예측에서, 현재의 코딩될 화상은 먼저 여러 개의 비-중첩 코딩 유닛(CU)으로 분할된다. 각각의 CU는 고유한 코딩 모드를 가진다. 각각의 CU는 여러 개의 예측 유닛(PU)으로 추가로 나뉠 수 있으며, 각각의 PU는 예를 들어 예측 방향 또는 모션 벡터(MV)와 같은 예측 모드를 가진다. 인코더 측에서는, 참조 프레임에서 매칭되는 블록은 각각의 PU에 대해 별견될 수 있고, 매칭된 블록의 위치는 MV를 사용하여 식별된다. 디지털 샘플링 프로세스에서 화상의 일부 위치(분수 픽셀 위치 참조)의 샘플 값은 샘플링되지 않는다. 따라서, 현재 블록과 완전히 매칭되는 블록은 참조 프레임에서 발견될 수 없다. 이 경우, 보간을 수행하는데 서브-픽셀 보간 기술이 사용되어 분수 픽셀 위치의 픽셀 값을 생성한다. 도 4는 정수 픽셀 및 서브-픽셀의 위치의 개략도이다. 대문자는 정수 픽셀 위치를 표시하고 소문자는 상이한 분수 픽셀 위치를 표시한다. 상이한 분수 픽셀 위치의 픽셀 값은 상이한 보간 필터를 사용하여 보간을 통해 정수 픽셀에 기초하여 생성되고, 보간된 블록은 참조 블록으로서 사용된다.
예를 들어, 도 4에 도시된 보간 프로세스에 대해, 모션 벡터의 정밀도는 1/4이다. 모션 추정이 수행되는 경우, 현재의 인코딩될 화상 블록에 최적으로 매칭되는 정수 픽셀 화상 블록이 먼저 발견된다. 그 다음, 8개의 1/2-픽셀 서브-픽셀 화상 블록이 1/2-정밀도 보간 필터를 사용하여 보간을 통해 생성된다. 현재의 인코딩될 화상 블록과 블록(1/2 픽셀 화상 블록 8개 및 정수 픽셀 화상 블록) 사이에서 매칭이 수행되어, 1/2 정밀도를 가지는 최적 매칭된 모션 벡터를 획득한다. 1/4 정밀도를 가지는 보간 필터는 1/2 정밀도를 가지는 최적 매칭된 모션 벡터가 가리키는 최적 매칭된 픽셀 블록에 대해 보간을 수행하는데 사용되어, 1/4 정밀도를 가지는 8개의 서브-픽셀 블록을 획득한다. 1/2 정밀도를 가지는 최적 매칭된 블록 및 1/4 정밀도를 가지는 8개의 서브-픽셀 블록을 검색하여 최적 매칭된 화상 블록을 찾고, 최적 매칭된 화상 블록은 현재의 인코딩될 화상 블록의 예측 블록으로서 사용된다. 매칭되는 화상 블록의 위치에 의해 표시되는 모션 벡터는 현재의 인코딩될 화상 블록의 모션 벡터이다.
디지털 비디오 코딩에서, 정수 픽셀과 서브-픽셀의 개념은 디지털 샘플링의 불연속성에서 비롯된다. 도 5(a)는 디지털 샘플링의 개략도로서, 점은 샘플링된 샘플을 나타내고, 파선은 원시 아날로그 신호 s(t)를 나타내고, 실선은 보간을 통해 얻은 신호(보간 신호로 지칭됨)를 나타낸다. 디지털 샘플링 프로세스에서, 특정 위치(정수 픽셀 위치)의 샘플 값만 샘플링되고, 다른 위치의 샘플 값은 폐기된다. 보간은 디지털 샘플링의 역 프로세스이다. 보간의 목적은 불연속 샘플 값으로부터 연속적인 원시 신호를 최대한 복원하고, 특정 위치(분수 픽셀 위치)의 샘플 값을 획득하는 것이다. 도 5 (a)에 도시된 바와 같이, 타깃 위치(분수 픽셀 위치) 는 타깃 위치에 이웃하는 위치의 샘플 값에 기초하여 보간을 통해 획득될 수 있다. 보간 프로세스는 다음과 같이 기술된다.
(1)
si 는 정수 픽셀 위치 i의 샘플 값을 나타내고, i 는 정수 픽셀 위치의 인덱스를 나타내고, i 는 정수이다. 는 분수 픽셀 위치 에 대응하는 보간 필터를 나타낸다. M 및 N은 양의 정수이고, -M < < N 이다.
도 5(b)에 도시된 바와 같이, 원시 신호가 수직 좌표축을 따라 뒤집혀지면, s'(t) = s(-t)를 얻을 수 있다. 그 다음, 샘플러(sampler)는 만큼 왼쪽으로 이동되어 샘플링을 통해 샘플 를 획득하며, 여기서 샘플 는 도 5(a)에서 서브-픽셀 에 대응한다. 도 5(b)에서 정수 픽셀과 서브-픽셀 사이의 거리는 도 5(a)에서 정수 픽셀과 서브-픽셀 사이의 거리와 동일하므로, 도 5(b)에서 분수 픽셀 위치의 샘플 값도 를 사용하여 보간을 통해 또한 획득될 수 있으며, 즉, 다음과 같다.
(2)
s'(t) = s(-t-)이므로, 공식 (2)는 대안적으로 다음과 같이 표현될 수 있다.
(3)
공식 (2) 및 공식 (3)으로부터, 보간을 통해 분수 픽셀 위치의 샘플을 획득하는데 사용된 수 있는 이상적인 보간 필터가 존재하는 경우, 다음과 같음을 알 수 있다.
(4)
이 경우, 도 5(b)에서 보간 필터는 분수 픽셀 위치로부터 정수 픽셀 위치를 복원하는데 또한 사용될 수 있다, 즉, 다음과 같다.
(5)
정수 픽셀 샘플 값으로부터 서브-픽셀 샘플 값을 완전히 복원하는데 사용될 수 있는 필터가 존재하는 경우, 해당 필터는 분수 픽셀 위치로부터 정수 픽셀 위치를 복원하는데 또한 사용될 수 있음을 공식 (4) 및 공식 (5)로부터 알 수 있다. 이러한 특징은 서브-픽셀 보간의 가역성으로 지칭된다. 서브-픽셀 보간의 가역성에 기초하여, 본 출원은 보간 필터를 생성하기 위한 종단 간(end-to-end) 학습 방법을 제공한다.
서브-픽셀 보간의 가역성에 기초하여, 본 발명의 실시예는 2가지 보간 필터 훈련 방법을 제공한다. 보간 필터 훈련 방법은 인코더 또는 컴퓨팅 디바이스에서 실행될 수 있다. 컴퓨팅 디바이스는 컴퓨터, 클라우드 컴퓨팅 디바이스, 서버, 단말 디바이스, 등을 포함할 수 있으나 이에 제한되지는 않는다.
종래의 기술에서, 예를 들어, 이중 선형(bilinear) 보간 필터 또는 이중 입방(bicubic) 보간 필터의, 고정된 계수를 가지는 보간 필터가 일반적으로 사용된다. 현재 고정 계수를 가지는 보간 필터는 비디오 코딩 표준에서 널리 사용된다. H.264/AVC에서, 6-탭 유한 응답 필터가 1/2-픽셀 샘플 값을 생성하는데 사용되고, 단순한 이중 선형 보간이 1/4 픽셀 샘플 값을 생성하는데 사용된다. H.264/AVC의 보간 필터와 비교하여, HEVC의 보간 필터가 많이 개선되었다. 8-탭 필터는 반 픽셀 샘플 값을 생성하는데 사용되고, 7-탭 보간 필터는 1/4 픽셀 샘플 값을 생성하는데 사용된다. 고정된 계수를 가지는 보간 필터는 구현하기 쉽고 복잡도가 낮아 널리 사용된다. 그러나, 비디오 신호의 다양성 및 비정성(non-stationarity)으로 인해, 고정된 계수를 가지는 필터의 성능은 매우 제한적이다.
자연스러운 비디오의 비정성(non-stationarity)에 대처하기 위해 콘텐츠 적응형 보간 필터가 연구에서 제안된다. 통상적인 적응형 보간 필터는 인코더 측에서 에러 모션 보상 예측에 기초하여 필터 계수를 추정하는데 사용되고, 그 다음, 필터 계수는 비트스트림에 인코딩되고 기록된다. 보간 필터의 복잡성을 줄이기 위해, 분리 가능한 적응형 보간 필터가 제안되며, 이는 코딩 성능을 기본적으로 보장하면서 복잡성을 현저히 줄일 수 있다. 필터 계수를 코딩하는데 필요한 비트 수량을 줄이기 위해, 일부 적응형 보간 필터는 일반적으로 화상이 등방성이라는 가정하에 설계된다. 비록 적응형 보간 필터는 콘텐츠-적응형이지만, 적응형 보간 필터는 여전히 선형 보간 필터를 기반으로 한다. 또한, 일부 비트는 필터 계수를 코딩하는데 여전히 요구된다.
전술한 기술적 문제를 고려하여, 본 출원의 실시예는 보간 필터 훈련 방법을 제공한다. 도 6a는 본 출원의 실시예에 따른 보간 필터 훈련 방법의 개략적인 흐름도이고, 도 6b는 훈련 절차의 개략적인 예시적인 다이어그램이다. 방법은 다음 단계 중 일부 또는 전부를 포함하나 이에 제한되지는 않는다:
S612: 제1 보간 필터를 사용하여 정수 픽셀 위치에서, 샘플 화상의, 픽셀에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득한다.
S614: 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득한다.
S616: 제1 서브-픽셀 화상과 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 제2 보간 필터의 필터 파라미터를 결정한다.
비록 본 출원의 본 실시예에서 방법은 단계를 사용하여 표현되지만, 단계 S612 및 단계 S616은 훈련 프로세스에서 반복적인 프로세스임에 유의해야 한다.
본 출원의 본 실시예의 구현예에서, 샘플 화상은 원본 화상 X 또는 인코더에 의해 원본 화상 X를 인코딩 및 압축함으로써 획득되는 화상 X '일 수 있다. 그러나, 본 출원의 본 실시예의 다른 구현예에서, 제1 보간 필터에 입력되는 샘플 화상은 원본 화상이고, 제2 보간 필터에 입력되는 샘플 화상은 인코더에 의해 샘플 화상을 인코딩 및 압축함으로써 획득되는 화상일 수 있다.
제1 보간 필터는 제1 분수 픽셀 위치의 픽셀 값을 생성하기 위해 보간을 수행할 수 있는 임의의 종래의-기술 보간 필터임을 이해해야 한다. 제1 보간 필터는 고정된 계수를 가지는 보간 필터, 적응형 보간 필터, 다른 유형의 보간 필터, 등일 수 있다. 이는 본 출원의 본 실시예에서 제한되지 않는다. 제1 부분 픽셀 위치는 임의의 부분 픽셀 위치일 수 있다. 본 출원의 본 실시예에서, 제1 서브-픽셀 화상은 제2 보간 필터를 훈련하기 위한 라벨 데이터로서 사용되어, 훈련을 통해 획득되는 제2 보간 필터는, 제1 분수 픽셀 위치의, 보간을 통해 획득되는, 픽셀 값에 직접 사용될 수 있음을 알 수 있다.
제2 보간 필터는 지원 벡터 머신(support vector machine, SVM), 신경망(neural network, NN), 콘볼루션 신경망(convolutional neural network, CNN), 또는 다른 형태일 수 있음을 이해할 수 있다. 이는 본 출원의 본 실시예에서 제한되지 않는다.
제1 함수는 제1 서브-픽셀 화상과 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 함수일 수 있다. 제1 함수는 손실 함수, 타깃 함수, 비용 함수, 등일 수 있다. 이는 본 출원의 본 실시예에서 제한되지 않는다.
예를 들어, 제1 함수는 규격화 손실 함수(regularization loss function)이고, 제1 함수는 다음과 같이 표현될 수 있다.
(6)
는 분수 픽셀 위치의 인덱스를 나타내고, 는 분수 픽셀 위치 에 대응하는 제1 함수를 나타내고, 는 샘플 화상을 나타내고, 는 인코더에 의해 샘플 화상을 압축함으로써 획득되는 화상을 나타내고, 는 분수 픽셀 위치 에 대응하는 제1 보간 필터를 나타내고, F는 제2 보간 필터를 나타내고, 는 분수 픽셀 위치 에 대응하는 제1 서브-픽셀 화상를 나타내고, 그리고 및 는 분수 픽셀 위치 에 대응하는 제2 서브-픽셀 화상을 나타낸다. 놈(norm) 부호 , 여기서 i 는 x 에서 픽셀의 인덱스를 나타낸다.
제1 함수는 대안적으로 다른 방식으로 구체적으로 표현될 수 있음을 이해해야 한다. 예를 들어, 제1 함수는 로그 손실 함수, 제곱 손실 함수, 지수 손실 함수, 또는 다른 형태의 손실 함수일 수 있다. 이는 본 출원의 본 실시예에서 제한되지 않는다.
하나 이상의 샘플 화상이 존재할 수 있음을 이해할 수 있다. 하나의 샘플 화상은 화상의 프레임, 코딩 유닛(CU), 또는 예측 유닛(PU)일 수 있다. 이는 본 발명에서 제한되지 않는다.
제2 보간 필터의 필터 파라미터는 손실 함수를 최소화함으로써 획득될 수 있으며, 훈련 프로세스는 다음과 같이 표현할 수 있다.
(7)
n은 샘플 화상의 총 수량을 나타내고, n은 양의 정수이다. k는 샘플 화상의 인덱스를 나타내고, k는 양의 정수이고, k ≤ n이다. 는 최적의 필터 파라미터를 나타낸다. 는 필터 파라미터를 나타낸다. 는 샘플 화상 k에 대응하는 제1 함수를 나타낸다. 선택사항으로서, n은 1 또는 다른 양의 정수와 같을 수 있다.
선택사항으로서, 제2 보간 필터의 필터 파라미터는 최소 제곱 방법(Least Square Method), 선형 회귀(Linear Regression), 경사 하강(gradient descent), 또는 다른 방법을 사용하여 계산될 수 있다.
샘플링을 통해 획득되는 정수 픽셀 화상에 대응하는 서브-픽셀 화상은 획득될 수 없으므로, 머신 러닝을 통해 획득되는 보간 필터에 대한 라벨 데이터는 존재하지 않는다. 종래의 기술에서, 사용되는 라벨 데이터는 "블러링-샘플링(blurring-sampling)" 방법을 사용하여 획득된다. 구체적으로, 샘플 화상은 저역-통과 필터를 사용하여 블러링되어 인접한 픽셀 사이의 상관 관계를 높인다. 그 다음, 서로 다른 위상에 따라 화상을 샘플링함으로써 여러 개의 서브-화상이 획득된다. 위상 0에 대응하는 서브-화상은 정수 픽셀로 간주되고, 다른 위상에 대응하는 서브-화상은 상이한 위치에서 서브-픽셀로 간주된다. 그러나, 이 방법을 사용하여 획득되는 라벨 데이터는 수동으로 설계되었으므로 최적이 아니다.
본 출원의 본 실시예에서 제공되는 보간 필터 훈련 방법에서, 종래의 보간 필터를 사용하여 샘플 화상에 서브-픽셀 보간이 수행되어 제1 서브-픽셀 화상을 획득하고, 제1 서브-픽셀 화상은 라벨 데이터로서 사용됨을 알 수 있다. 보간 필터(제2 보간 필터)가 제1 서브-픽셀 화상을 모니터링함으로써 훈련되어, 보간 필터를 획득한다. 이는 코딩 성능을 향상할 수 있다.
본 발명의 일 실시예에서, 복수의 분수 픽셀 위치에 일대일 대응하는 보간 필터는 함께 훈련될 수 있다. 특정한 구현 방법은 다음의 단계를 포함히지만 이에 제한되지는 않는다.
S1: 분수 픽셀 위치 γ에 대응하는 제1 보간 필터를 사용하여 정수 픽셀 위치에서 샘플 화상의 픽셀에 보간을 수행하여, 제1 분수 픽셀 위치 γ에서 샘플 화상의 제1 서브-픽셀 화상을 획득하며, 여기서 분수 픽셀 위치 γ는 Q개 분수 픽셀 위치 중 하나이고, Q는 양의 정수이다.
S2: 샘플 화상을 분수 픽셀 위치 γ에 대응하는 제2 보간 필터에 입력하여, 분수 픽셀 위치 γ에 대응하는 제2 서브-픽셀 화상을 획득한다.
S3: Q개 분수 픽셀 위치에 일대일 대응하는 제1 함수를 최소화함으로써 Q개 분수 픽셀 위치에 일대일 대응하는 제2 보간 필터의 필터 파라미터를 결정하며, 여기서, 분수 픽셀 위치 γ에 대응하는 제1 함수는 분수 픽셀 위치 γ에서 샘플 화상의 제1 서브-픽셀 화상과 분수 픽셀 위치 γ에 대응하는 제2 서브-픽셀 화상 사이의 차이를 나타내는데 사용된다.
선택사항으로서, Q는 분수 픽셀 위치의 총 수량이거나, 다른 값일 수 있다.
도 6c는 본 출원의 실시예에 따른 다른 보간 필터 훈련 방법의 개략적인 흐름도이고, 도 6d는 훈련 절차의 개략적인 예시적인 다이어그램이다. 방법은 다음 단계 중 일부 또는 전부를 포함하나 이에 제한되지는 않는다:
S622: 제1 보간 필터를 사용하여 샘플 화상에 서브-픽셀 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득한다.
S624: 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득한다.
S626: 뒤집기 연산이 수행되는 제2 서브-픽셀 화상을 제3 보간 필터에 입력하여, 제1 화상을 획득하고, 뒤집기 연산의 역 연산을 제1 화상에 수행하여 제2 화상을 획득하며, 여기서 제2 보간 필터 및 제3 보간 필터는 필터 파라미터를 공유한다.
S628: 제1 서브-픽셀 화상과 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 샘플 화상과 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수에 기초하여 필터 파라미터를 결정한다.
비록 본 출원의 본 실시예에서 방법은 단계를 사용하여 표현되지만, 단계 S622 및 단계 S628은 훈련 프로세스에서 반복적인 프로세스임에 유의해야 한다.
샘플 화상, 제1 함수, 및 제1 보간 필터의 설명에 관해, 도 6a 및 도 6b에 기술된 보간 필터 훈련 방법의 실시예서 관련된 설명을 참조한다. 세부사항은 본 출원에서 다시 기술되지 않는다.
서브-픽셀 보간을 통해 생성된 서브-픽셀 화상 Xf 에 뒤집기 연산 T이 수행되고, 다음으로 제3 보간 필터를 사용하여 서브-픽셀 보간이 수행되어 제1 화상을 획득하고, 다음으로 뒤집기 연산 T의 역 연산 T-1 이 제1 화상에 수행되어 샘플 화상의 재구성된 화상, 즉, 제2 화상을 획득한다. 제1 화상 및 제2 화상은 모두 정수 픽셀 화상이고, 뒤집기 연산은 수평 뒤집기(horizontal flipping), 수직 뒤집기(vertical flipping), 및 대각선 뒤집기(diagonal flipping)를 포함한다. 뒤집기 연산의 유형은 다음 공식에 따라 선택될 수 있다.
yf 는 수평 방향에서 제2 서브-픽셀 화상에 대비하여 뒤집힌 영상의 서브-픽셀 변위를 나타내고, xf 는 수직 방향에서 제2 서브-픽셀 화상에 대비하여 뒤집힌 영상의 서브-픽셀 변위를 나타낸다.
제2 함수는 샘플 화상과 제2 화상 사이의 차이를 표현하는데 사용되는 함수일 수 있다. 제2 함수는 손실 함수, 타깃 함수, 비용 함수, 등일 수 있다. 이는 본 출원의 본 실시예에서 제한되지 않는다.
예를 들어, 제2 함수는 다음과 같이 표현될 수 있다.
(8)
는 제2 함수를 나타내고, 는 샘플 화상을 나타내고, 는 제1 분수 픽셀 위치를 나타내고, 는 제1 보간 필터를 나타내고, F는 제2 보간 필터를 나타내고, 는 제1 서브-픽셀 화상을 나타내고, 는 제2 서브-픽셀 화상을 나타낸다. TT-1 = E이고, 여기서 E는 단위 행렬을 나타낸다.
제1 함수는 대안적으로 다른 방식으로 표현될 수 있음을 이해해야 한다. 예를 들어, 제1 함수는 로그 손실 함수, 제곱 손실 함수, 지수 손실 함수, 또는 다른 형태의 손실 함수일 수 있다. 이는 본 출원의 본 실시예에서 제한되지 않는다.
종단 간(end-to-end) 훈련 프레임워크의 전체 최적화 프로세스는 제1 함수 및 제2 함수 모두를 최소화하고자 하는 것임을 알 수 있다. 본 출원의 실시예에서, 단계 S628의 구현예는 다음과 같을 수 있다:
제3 함수를 최소화함으로써 필터 파라미터를 결정하는 단계로서, 여기서, 제3 함수는 제1 서브-픽셀 화상과 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 샘플 화상과 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수 사이의 가중 합이다.
예를 들어, 공동 손실 함수(제3 함수로도 또한 지칭됨)는 다음과 같이 규정된다.
(9)
제2 보간 필터의 필터 파라미터는 공동 손실 함수(joint loss function)를 최소화함으로써 획득될 수 있고, 훈련 프로세스는 다음과 같이 표현될 수 있다.
(10)
본 출원의 실시예에서, 단계 S48의 다른 구현예는 다음과 같을 수 있다: 제1 서브-픽셀 화상과 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 손실 함수 및 샘플 화상과 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수를 번갈아 최소화함으로써 필터 파라미터를 결정하는 단계.
마찬가지로, 도 6c 및 도 6d에 기술된 훈련 방법에서, 하나 이상의 샘플 화상이 있을 수 있다. 하나의 샘플 화상은 화상의 프레임, 코딩 유닛(CU), 또는 예측 유닛(PU)일 수 있다. 이는 본 발명에서 제한되지 않는다.
제2 보간 필터의 필터 파라미터는 손실 함수를 최소화함으로써 획득될 수 있으며, 훈련 프로세스는 다음과 같이 표현할 수 있다.
(11)
(12)
n은 샘플 화상의 총 수량을 나타내고, n은 양의 정수이다. k는 샘플 화상의 인덱스를 나타내고, k는 양의 정수이고, k ≤ n이다. 는 최적의 필터 파라미터를 나타낸다. 는 필터 파라미터를 나타낸다. 는 샘플 화상 k에 대응하는 제1 함수를 나타낸다. 는 샘플 화상 k에 대응하는 제2 함수를 나타낸다. 선택사항으로서, n은 1 또는 다른 양의 정수와 같을 수 있다.
도 6a 및 도 6b에 도시된 실시예와 비교하여, 본 발명의 본 실시예에서 제공되는 보간 필터 훈련 방법에서, 종래의 보간 필터를 사용하여 샘플 화상에 서브-픽셀 보간이 수행되어 제1 서브-픽셀 화상을 획득하고, 제1 서브-픽셀 화상은 라벨 데이터로서 사용된다. 서브-픽셀 보간의 가역성 원리를 사용하여, 필터 파라미터는 제1 서브-픽셀 화상과 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 샘플 화상과 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수를 최소화함으로써 결정된다, 제2 보간 필터는 모니터링 샘플 화상을 모니터링함에 의해 제약된다. 이는 제2 보간 필터를 사용하여 서브-픽셀 보간의 정확도를 향상한다.
도 7 및 도 8에 기초하여, 다음은 본 발명의 실시예에서 제공되는 비디오 화상 인코딩 방법의 2개의 특정한 구현 프로세스를 기술한다. 방법은 비디오 인코더(100)에 의해 수행될 수 있다. 방법은 일련의 단계 또는 동작을 통해 설명된다. 방법의 단계는 다양한 시퀀스로 수행될 수 있고 그리고/또는 동시에, 도 6에 도시된 실행 시퀀스에 제한되지 않음을 이해해야 한다. 비디오 인코더는 복수의 비디오 프레임을 포함하는 비디오 데이터 스트림에 대해 사용되고 있고, 현재의 비디오 프레임의 현재 인코딩 화상 블록의 모션 정보를 예측하고, 현재 인코딩 화상 블록의 인터 예측 모드 및 현재 인코딩 화상 블록의 모션 정보에 기초하여 현재 인코딩 화상 블록을 인코딩하기 위해 다음의 단계를 포함하는 프로세스를 수행하는 것을 가정한다.
도 7에 도시된 바와 같이, 제1 인코딩 구현 프로세스는 다음과 같다:
S72: 현재 인코딩 화상 블록에 인터 예측을 수행하여 현재 인코딩 화상 블록의 모션 정보를 획득하며, 여기서, 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리키고, 인터 예측 프로세스는, 후보 보간 필터 세트로부터, 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계를 포함한다.
S74: 현재 인코딩 화상 블록의 인터 예측 모드 및 현재 인코딩 화상 블록의 모션 정보에 기초하여 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하고, 인코딩 정보를 비트스트림에 인코딩하며, 여기서, 인코딩 정보는 타깃 보간 필터의 표시 정보를 포함하고, 타깃 보간 필터의 표시 정보는 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하여 현재 인코딩 화상 블록에 대응하는 분수 픽셀 위치의 참조 블록을 획득하는 것을 표시하는데 사용된다.
전술한 구현예에서, 인터 예측 모드가 병합 모드인지 여부에 무관하게, 모션 정보가 분수 픽셀 위치를 가리키는 경우, 비디오 인코더는 타깃 보간 필터의 표시 정보를 비트스트림에 인코딩해야 하므로, 디코더 측은 인코딩을 통해 획득되는 예측 블록의 타깃 보간 필터의 유형을 학습한다.
도 8에 도시된 바와 같이, 제2 인코딩 구현 프로세스는 다음과 같다:
S82: 현재 인코딩 화상 블록에 인터 예측을 수행하여 현재 인코딩 화상 블록의 모션 정보를 획득하며, 여기서, 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리키고, 인터 예측 프로세스는, 후보 보간 필터 세트로부터, 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계를 포함한다.
S84: 현재 인코딩 화상 블록의 인터 예측 모드 및 현재 인코딩 화상 블록의 모션 정보에 기초하여 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하고, 인코딩 정보를 비트스트림에 인코딩하며, 여기서, 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 인코딩 정보는 타깃 보간 필터의 표시 정보를 포함하지 않는다; 또는 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 인코딩 정보는 타깃 보간 필터의 표시 정보를 포함하며, 여기서 타깃 보간 필터의 표시 정보는, 현재 인코딩 화상 블록이 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하는 것을 표시하는데 사용된다.
본 출원의 본 실시예에서, 비디오 인코더는 후보 보간 필터 세트를 포함하고, 후보 보간 필터 세트는 복수의 유형의 보간 필터를 포함할 수 있고, 각각의 유형의 보간 필터는 하나 이상의 보간 필터를 포함할 수 있다. 현재 인코딩 화상 블록에 인터 예측을 수행하는 경우, 비디오 디코더는 보간 필터 중 하나를 선택하여 서브-픽셀 보간을 수행하여, 현재 인코딩 화상 블록의 예측 블록을 획득할 수 있다.
선택사항으로서, 타깃 보간 필터는 서브-픽셀 보간을 통해 획득되는 예측 블록의 보간 필터 또는 획득된 예측 블록의 보간 필터의 유형이다. 달리 말하면, 타깃 보간 필터의 표시 정보는 획득된 예측 블록의 보간 필터을 표시하거나, 획득된 예측 블록의 보간 필터의 유형을 표시할 수 있다.
예를 들어, 후보 보간 필터 세트는 두 유형의 보간 필터, 예를 들어, 제1 유형 보간 필터 및 제2 유형 보간 필터를 포함한다. 타깃 보간 필터가 제1 유형 보간 필터인 경우, 표시 정보는 "0"일 수 있다. 타깃 보간 필터가 제2 유형 보간 필터인 경우, 표시 정보는 "1"일 수 있다.
제1 유형 보간 필터 또는 제2 유형 보간 필터는, 전술한 보간 필터 훈련 방법을 사용하여 훈련된, 하나 이상의 분수 픽셀 위치에 일대일 대응하는, 하나 이상의 제2 보간 필터를 포함할 수 있음을 이해할 수 있다.
단계 S72/S82에서, 타깃 보간 필터 구현예에서 결정되며, 이는 다음 2가지 구현예를 포함할 수 있으나 이에 제한되지는 않는다.
제1 구현예:
현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터는 레이트-왜곡 비용 기준에 따라 후보 보간 필터 세트로부터 결정된다. 특정한 구현예는 다음과 같다: 서브-픽셀 화상 블록의, 각각의 유형의 보간 필터에 대해, 레이트-왜곡 비용을 계산하는 단계; 및 가장 작은 레이트-왜곡 비용을 가지는 보간 필터를 현재 인코딩 화상 블록에 대응하고 서브-픽셀 보간을 통해 획득되는 예측 블록의 타깃 보간 필터로서 결정하는 단계. 예를 들어, 현재 인코딩 화상 블록에 인터 예측을 수행하는 프로세스에서, 비디오 인코더는, 현재 인코딩 화상 블록에 최적으로 매칭되는 정수 픽셀 참조 블록을 발견하고, 제1 유형 보간 필터(후보 보간 필터 세트 내의 임의의 유형의 보간 필터)를 사용하여 정수 픽셀 참조 화상 블록에 서브-픽셀 보간을 수행하여 P 서브-픽셀 참조 화상 블록을 획득하고, 예측 블록을 결정하고, 예측 블록의 모션 정보를 획득하고, 잔차를 계산하고, 잔차 및 모션 정보와 같은 인코딩 정보를 비트스트림에 인코딩하고, 비트스트림에 기초하여 화상 블록을 재구성하고, 재구성된 화상 블록와 현재 인코딩 화상 블록 사이의 평균 제곱 오차를 왜곡으로서 사용하고, 획득된 비트스트림의 크기를 비트 레이트로서 사용하고, 그리고 추가로 왜곡 및 비트 레이트에 기초하여 제1 유형 보간 필터의 레이트-왜곡 비용을 획득할 수 있다. 레이트-왜곡 비용의 계산은 종래의 기술에 속하므로, 여기서는 자세히 설명하지 않는다. 본 출원에서, 비록 완전한 인코딩 오퍼레이션 및 재구성이 인터 예측 프로세스에서 현재 인코딩 화상 블록에 수행되지만, 프로세스는 테스트 프로세스이고, 프로세스에서 획득되는 인코딩 정보가 반드시 비트스트림에 기록되는 것은 아님을 이해하여야 한다. 선택사항으로서, 가장 작은 레이트-왜곡 비용을 가지는 보간 필터의 유형이 참여하는 인코딩 프로세스에서 획득되는 인코딩 정보만이 비트스트림에 기록된다.
P는 양의 정수이며, 제1 유형 보간 필터를 사용하여 수행되는 서브-픽셀 보간의 정밀도에 따라 결정됨을 알 수 있다.
제2 구현예:
현재 인코딩 화상 블록에 인터 예측을 수행하는 프로세스에서, 비디오 인코더는 현재 인코딩 화상 블록에 최적으로 매칭되는 정수 픽셀 참조 블록을 찾을 수 있고; 후보 보간 필터 세트 내의 각각의 보간 필터를 사용하여 정수 픽셀 참조 화상 블록에 서브-픽셀 보간을 수행함으로써 N개의 서브-픽셀 참조 화상 블록을 획득할 수 있고-여기서 N은 양의 정수임-; 정수 픽셀 참조 화상 블록 및 N개의 서브-픽셀 참조 화상 블록으로부터, 현재 인코딩 화상 블록에 최적으로 매칭되는 예측 블록을 결정할 수 있고; 그리고 예측 블록에 기초하여 모션 정보를 결정할 수 있다. 모션 정보가 분수 픽셀 위치를 가리키는 경우, 타깃 보간 필터는 보간을 통해 획득되는 예측 블록의 보간 필터 또는 보간을 통해 획득되는 예측 블록의 보간 필터의 유형이다. 그렇지 않으면, 모션 정보가 정수 픽셀 위치를 가리키는 경우, 비디오 인코더는 타깃 보간 필터를 결정할 필요가 없고, 타깃 보간 필터의 표시 정보를 비트스트림에 인코딩할 필요가 없다.
현재 인코딩 화상 블록에 인터 예측을 수행하는 프로세스에서, 현재 인코딩 화상 블록의 예측 블록이 정수 픽셀 화상인 경우, 비디오 인코더는 타깃 보간 필터를 결정하는 프로세스를 수행할 필요가 없고, 타깃 보간 필터의 표시 정보를 비트스트림에 인코딩할 필요 또한 없음을 이해할 수 있다.
본 출원의 실시예에서, 후보 보간 필터 세트는 전술한 보간 필터 훈련 방법 중 어느 하나를 사용하여 획득되는 제2 보간 필터를 포함할 수 있다.
선택사항으로서, 타깃 보간 필터가 전술한 보간 필터 훈련 방법 중 어느 하나를 사용하여 획득되는 제2 보간 필터인 경우, 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 타깃 보간 필터의 필터 파라미터는 전술한 보간 필터 훈련 방법 중 어느 하나를 사용하여 온라인 훈련을 통해 획득되는 필터 파라미터이다.
또한, 인코딩 정보는 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터를 더 포함하거나; 또는 인코딩 정보는 필터 파라미터 차이를 더 포함하고, 필터 파라미터 차이는 현재 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터와 이전에 인코딩된 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터 사이의 차이이다.
화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 예측 유닛(PU), 등을 포함한다. 달리 말하면, 비디오 인코더는, 하나의 화상 블록, 화상 블록의 하나의 슬라이스, 하나의 비디오 시퀀스 서브그룹, 하나의 코딩 트리 유닛(CTU), 하나의 코딩 유닛(CU), 또는 하나의 예측 유닛(PU)이 인코딩될 때마다 매번 훈련을 수행할 수 있다.
화상 유닛이 예측 유닛인 경우, 비디오 인코더는, 현재 인코딩 화상 블록을 매번 획득되는 샘플 화상으로서 사용하여, 후보 보간 필터 세트 내의 제2 보간 필터를 훈련할 수 있다.
도 9 및 도 10에 기초하여, 다음은 본 발명의 실시예에 따른 비디오 화상 디코딩 방법의 2개의 특정한 구현 프로세스를 기술한다. 방법은 비디오 디코더(200)에 의해 수행될 수 있다. 방법은 일련의 단계 또는 동작을 통해 설명된다. 방법의 단계는 다양한 시퀀스로 수행될 수 있고 그리고/또는 동시에, 도 9 또는 도 10에 도시된 실행 시퀀스에 제한되지 않음을 이해해야 한다.
도 9는 도 7에 도시된 비디오 화상 인코딩 방법에 대응하는 비디오 화상 디코딩 방법의 구현 프로세스를 도시한다. 구현 프로세스는 다음 단계의 일부 또는 전부를 포함할 수 있다.
S92: 비트스트림을 파싱하여 타깃 보간 필터의 표시 정보를 획득한다.
S94: 현재 디코딩 화상 블록의 모션 정보를 획득하며, 여기서, 모션 정보는 분수 픽셀 위치를 가리킨다.
S96: 현재 디코딩 화상 블록의 모션 정보에 기초하여 현재 디코딩 화상 블록에 예측 프로세스를 수행하며, 여기서, 예측 프로세스는, 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함한다.
S98: 현재 디코딩 화상 블록의 예측 블록에 기초하여 현재 디코딩 화상 블록의 재구성 블록을 재구성한다.
단계 S92는 단계 S94 이전에 또는 이후에 수행될 수 있거나, 단계 S92 및 단계 S94는 동시에 수행될 수 있음에 유의해야 한다. 이는 본 발명의 본 실시예에서 제한되지 않는다.
본 출원의 본 실시예에서, 비트스트림을 획득하는데 어느 인터 예측 모드가 사용되는지에 무관하게, 모션 정보가 분수 픽셀 위치를 가리키는 것으로 가정하면, 비트스트림을 파싱하여 획득되는 인코딩 정보는 타깃 보간 필터의 표시 정보를 포함한다. 그러나, 파싱을 통해 획득되는 인코딩 정보가 모션 정보를 포함하는지 여부는 인터 예측 모드와 관련이 있다. 인터 예측 모드가 병합 모드인 경우, 비디오 디코더는 병합 모드에서 병합을 통해 획득되는 이전에 디코딩된 화상 블록의 모션 정보를 상쇽할 수 있다. 인터 예측 모드가 비-병합 모드인 경우, 비디오 디코더는 비트스트림을 파싱하여 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득할 수 있거나, 비트스트림을 파싱함으로써, 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 모션 벡터 차이를 획득하여, 모션 정보를 획득할 수 있다.
현재 디코딩 화상 블록의 예측 모드가 비-병합 모드인 것으로 식별되는 경우, 단계 S94의 구현예는 다음을 포함할 수 있다: 비디오 디코더는 비트스트림을 파싱하여 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득할 수 있다. 또한, 현재 디코딩 화상 블록의 모션 정보는 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 결정된다.
선택사항으로서, 단계 S94의 다른 구현예는 다음을 포함할 수 있다: 비디오 디코더는 비트스트림을 파싱하여 모션 벡터 차이 및 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득할 수 있고; 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 현재 디코딩 화상 블록의 모션 벡터 예측자를 결정할 수 있고; 그리고 모션 벡터 예측자 및 모션 벡터 차이에 기초하여 현재 디코딩 화상 블록의 모션 벡터를 획득할 수 있다.
현재 디코딩 화상 블록의 예측 모드가 병합 모드인 것으로 식별되는 경우, 단계 S94의 구현예는 다음을 포함할 수 있다: 비디오 디코더는 병합 모드에서 병합을 통해 획득되는 이전에 디코딩된 화상 블록의 모션 정보를 상속할 수 있다. 이전에 디코딩된 화상 블록의 모션 정보는 현재 디코딩 화상 블록의 모션 정보와 일관됨을 이해할 수 있다.
선택사항으로서, 비디오 디코더는, 현재 디코딩 화상 블록의, 분수 픽셀 위치를 가리키는, 모션 정보를 비디오 디코더가 획득하는 S94를 먼저 수행할 수 있고, 다음으로, 비디오 디코더는 비트스트림을 파싱하여 타깃 보간 필터의 표시 정보를 획득하는 단계 S92를 수행할 수 있다. 모션 정보가 정수 픽셀 위치를 가리키는 경우, 현재 화상 블록에 대응하는, 파싱 비트스트림을 파싱함으로써 획득되는, 인코딩 정보는 타깃 보간 필터의 표시 정보를 포함하지 않거나; 또는 획득된 현재 디코딩 화상 블록의 모션 정보가 정수 픽셀 위치를 가리키는 경우, 비디오 디코더는 수행 S92를 수행할 필요가 없음을 이해할 수 있다. 이 경우, 예측은 획득된 모션 정보에 기초하여 수행될 수 있다.
도 10은 도 8에 도시된 비디오 화상 인코딩 방법에 대응하는 비디오 화상 디코딩 방법의 구현 프로세스를 도시한다. 구현 프로세스는 다음 단계의 일부 또는 전부를 포함할 수 있다.
S102: 비트스트림을 파싱하여 현재 디코딩 화상 블록의 정보를 획득하며, 여기서, 정보는 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용된다.
S104: 현재 디코딩 화상 블록의 모션 정보를 획득하며, 여기서, 모션 정보는 분수 픽셀 위치를 가리킨다.
S106: 현재 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 현재 디코딩 화상 블록의 모션 정보에 기초하여 현재 디코딩 화상 블록에 인터 예측 프로세스를 수행하며, 여기서, 예측 프로세스는, 타깃 보간 필터의 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함하며, 여기서, 여기서, 타깃 보간 필터의 표시 정보는 비트스트림을 파싱함으로써 획득된다.
S108: 현재 디코딩 화상 블록의 예측 블록에 기초하여 현재 디코딩 화상 블록을 재구성한다.
본 출원의 본 실시예에서, 인터 예측 모드는 다음 처리와 관련된다. 인코딩 중에, 인터 예측 모드가 타겟 예측 모드(예컨대, 비 병합 모드)가 아니고 모션 정보가 분수 픽셀 위치를 가리키는 경우에만 타겟 보간 필터의 표시 정보는 비트스트림에 인코딩되어야 한다. 인터 예측 모드가 타깃 인터 예측 모드(예를 들어, 병합 모드)인 경우, 모션 정보, 모션 정보의 인덱스, 모션 벡터 차이, 및 타깃 보간 필터의 표시 정보는 비트스트림으로 인코딩될 필요가 없다. 이에 상응하여, 디코더 측에서는, 인터 예측 모드가 타깃 예측 모드(예를 들어, 비-병합 모드)가 아니고 현재 디코딩 화상 블록의 모션 정보가 분수 픽셀 위치를 가리키는 경우에만, 타깃 보간 필터의 표시 정보는 파싱을 통해 획득될 필요가 있다. 그러나, 인터 예측 모드가 타깃 예측 모드(예를 들어, 병합 모드)이고 현재 디코딩 화상 블록의 모션 정보가 분수 픽셀 위치를 가리키는 경우, 이전에 디코딩된 화상 블록의 그리고 병합 모드에서 병합을 통해 획득되는 모션 정보 및 타깃 보간 필터의 표시 정보는 상속될 수 있다.
단계 S102에서 파싱을 통해 획득되는, 현재 디코딩 화상 블록의, 인터 예측 모드가 타깃 인터 예측 모드(비-병합 모드)가 아닌 경우, 단계 S104의 구현예는 다음을 포함할 수 있다: 비디오 디코더는 비트스트림을 파싱하여 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득할 수 있고, 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 현재 디코딩 화상 블록의 모션 정보를 결정할 수 있다.
선택사항으로서, 단계 S104의 다른 구현예는 다음을 포함할 수 있다: 비디오 디코더는, 비트스트림을 파싱하여 모션 벡터 차이 및 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득할 수 있고, 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 현재 디코딩 화상 블록의 모션 벡터 예측자를 결정할 수 있고, 그리고 모션 벡터 예측자 및 모션 벡터 차이에 기초하여 현재 디코딩 화상 블록의 모션 벡터를 획득할 수 있다.
또한, 현재 디코딩 화상 블록의 모션 정보가 분수 픽셀 위치를 가리키는 경우, 비디오 디코더는 비트스트림을 파싱하여 타깃 보간 필터의 표시 정보를 획득할 필요가 있다. 인터 예측을 수행하는 프로세스에서, 현재 디코딩 화상 블록의 예측 블록을 획득하기 위해, 비디오 디코더는 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행할 필요가 있다. 현재 디코딩 화상 블록의 모션 정보가 정수 픽셀 위치를 가리키는 경우, 비디오 디코더는, 모션 정보에 기초하여, 모션 정보가 가리키는 예측 블록을 직접 획득한다.
단계 S102에서 파싱을 통해 획득되는, 현재 디코딩 화상 블록의, 인터 예측 모드가 타깃 인터 예측 모드(병합 모드)인 경우, 단계 S104의 구현예는 다음을 포함할 수 있다: 비디오 디코더는, 병합 모드에서 병합을 통해 획득되는, 이전에 디코딩된 화상 블록의 모션 정보를 상속할 수 있다.
또한, 현재 디코딩 화상 블록의 모션 정보가 분수 픽셀 위치를 가리키는 경우, 비디오 디코더는 디코딩 중에 이전에 디코딩된 화상 블록에 의해 사용되는 보간 필터의 표시 정보를 추가로 상속할 필요가 있으며, 여기서, 보간 필터의 표시 정보는 병합 모드에서 병합을 통해 획득되고, 표시 정보에 의해 표시되는 타깃 보간 필터를 추가로 결정할 필요가 있다. 비디오 디코더는, 인터 예측 중에, 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여, 서브-픽셀 보간을 수행하여, 현재 디코딩 화상 블록의 예측 블록을 획득할 필요가 있다. 현재 디코딩 화상 블록의 모션 정보가 정수 픽셀 위치를 가리키는 경우, 비디오 디코더는, 모션 정보에 기초하여, 모션 정보가 가리키는 예측 블록을 직접 획득한다.
본 출원의 다른 실시예에서, 인터 예측 모드가 타깃 인터 예측 모드(예를 들어, 병합 모드)이고 모션 정보가 분수 픽셀 위치를 가리키는 경우, 인코더 측은 타깃 보간 필터의 표시 정보를 인코딩할 수 있음을 이해해야 한다. 이에 상응하여, 인터 예측 모드가 타깃 인터 예측 모드(예를 들어, 병합 모드)이고 모션 정보가 분수 픽셀 위치를 가리키는 경우, 디코더 측은, 파싱 비트스트림을 파싱함으로써 획득되고 타깃 보간 필터의 표시 정보에 기초하여, 표시 정보에 의해 표시되는 타깃 보간 필터를 결정하여, 인터 예측 중에, 타깃 필터를 사용하여 보간을 통해 현재 디코딩 화상 블록의 예측 블록을 획득할 수 있다.
단계 S106에서, 표시 정보는 서브-픽셀 보간을 통해 현재 디코딩 화상 블록의 예측 블록을 획득할 것을 표시하거나, 타깃 보간 필터의 유형을 표시할 수 있음을 또한 이해해야 한다. 표시 정보가 타깃 보간 필터의 유형을 표시하는 경우, 비디오 디코더가 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하는 구현 방법은 다음과 같다: 비디오 디코더는, 모션 정보에 기초하여 그리고 표시 정보로부터 결정되는 타깃 보간 필터의 유형에 기초하여, 모션 정보에 의해 표시되고 서브-픽셀 보간을 통해 획득되는 예측 블록의 타깃 보간 필터를 획득하기로 결정한다.
본 출원의 실시예에서, 타깃 보간 필터가 전술한 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우, 비디오 인코더 측에서 타깃 보간 필터의 필터 파라미터 사전 설정된 필터 파라미터일 수 있고, 비디오 디코더 측에서 타깃 보간 필터의 필터 파라미터와 일관된다. 대안적으로, 비디오 인코더 측에서 타깃 보간 필터의 필터 파라미터는 전술한 보간 필터 훈련 방법을 사용하여 획득되는 필터 파라미터일 수 있다.
선택사항으로서, 인코더 측에 대응하여, 타깃 보간 필터가 훈련을 통해 획득되는 제2 보간 필터인 경우, 인코딩 정보는 현재의 인코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터를 추가로 포함한다. 디코더 측에서 비디오 디코더는 비트스트림을 파싱하여 필터 파라미터를 추가로 획득할 수 있다. 필터 파라미터는 현재의 디코딩 화상 유닛에 대해 사용되는 그리고 전술한 필터 훈련 방법을 사용하여 획득되는 타깃 보간 필터의 필터 파라미터일 수 있다. 비디오 인코더가 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여 현재 디코딩 화상 블록의 예측 블록을 획득하기 이전에, 비디오 인코더는 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터에 기초하여 타깃 보간 필터를 추가로 구성할 수 있다.
선택사항으로서, 인코더 측에 대응하여, 타깃 보간 필터가 훈련을 통해 획득되는 제2 보간 필터인 경우, 인코딩 정보는 필터 파라미터 차이를 추가로 포함한다. 디코더 측에서 비디오 디코더는 비트스트림을 파싱하여 필터 파라미터 차이를 추가로 획득할 수 있다. 필터 파라미터 차이는 훈련을 통해 획득되고 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터와 훈련을 통해 획득되고 이전에 디코딩된 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터 사이의 차이이다. 비디오 인코더가 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여 현재 디코딩 화상 블록의 예측 블록을 획득하기 이전에, 비디오 인코더는, 필터 파라미터 차이 및 이전에 디코딩된 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터에 기초하여, 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터를 추가로 획득할 수 있고; 그리고 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터에 기초하여 타깃 보간 필터를 추가로 구성할 수 있다.
본 출원의 다른 실시예에서, 인코더 측에서 타깃 보간 필터의 필터 파라미터 및 디코더 측에서 타깃 보간 필터의 필터 파라미터 각각은 고정적으로 예측되는 필터 파라미터일 수 있다. 이 경우, 인코딩 정보는 타깃 보간 필터의 필터 파라미터 또는 필터 파라미터 차이를 포함하지 않을 수 있고, 디코더 측은 필터 파라미터 차이 또는 타깃 보간 필터의 필터 파라미터를 파싱할 필요가 없다.
선택사항으로서, 화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 예측 유닛(PU), 등이다. 달리 말하면, 비디오 디코더는, 디코딩 화상 유닛에서 측정되는 요구되는 건격으로 필터 파라미터를 업데이트 한다.
도 11a 및 도 11b는 본 출원에 따른 또 다른 비디오 화상 인코딩 방법의 개략적인 흐름도이다. 방법은 다음 단계의 일부 또는 전부를 포함할 수 있으나 이에 제한되지는 않는다.
S1101: 비트스트림을 파싱하여 현재 디코딩 화상 블록의 정보를 획득하며, 여기서, 정보는 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용된다.
S1102: 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용되는 정보에 의해 지정되는 인터 예측 모드가 병합 모드인지 여부를 판단한다.
판단 결과가 "예"인 경우, 즉, 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용되는 정보에 의해 지정되는 인터 예측 모드가 병합 모드인 경우, 단계 S1103이 수행된다. 그렇지 않으면, 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용되는 정보에 의해 지정되는 인터 예측 모드가 비-병합 모드인 경우, 단계 S1105이 수행된다.
S1103: 이전에 디코딩된 화상 블록의 그리고 병합 모드에서 획득되는 모션 정보 및 타깃 보간 필터의 표시 정보를 획득한다.
병합 모드에서 병합을 통해 획득되는, 이전에 디코딩된 화상 블록의 모션 정보는 현재 디코딩 화상 블록의 모션 정보임을 이해해야 한다.
S1104: 현재 디코딩 화상 블록의 모션 정보가 정수 픽셀 위치를 가리키는지 여부를 판단한다.
단계 S1104는 단계 S1103 이후에 수행될 수 있다. S1104에서 판단 결과가 "예"인 경우, 모션 정보가 가리키는 정수 픽셀 위치에 대응하는 화상 블록은 현재 디코딩 화상 블록의 예측 블록이고, 비디오 디코더는 단계 S1109를 수행할 수 있다; 그렇지 않으면, 비디오 디코더는 단계 S1108를 수행한다.
S1105: 비트스트림을 파싱하여 현재 디코딩 화상 블록의 모션 정보를 획득한다.
S1106: 현재 디코딩 화상 블록의 모션 정보가 정수 픽셀 위치를 가리키는지 여부를 판단한다.
단계 S1106는 단계 S1105 이후에 수행될 수 있다. S1106에서 판단 결과가 "예"인 경우, 이는 모션 정보가 가리키는 정수 픽셀 위치에 대응하는 화상 블록은 현재 디코딩 화상 블록의 예측 블록임을 나타내고, 비디오 디코더는 단계 S1109를 수행할 수 있다; 그렇지 않으면, 이는 현재 디코딩 화상 블록의 예측 블록은 서브-픽셀 화상임을 나타내고, 비디오 디코더는 단계 S1107를 수행한다.
S1107: 파싱을 통해, 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터의 표시 정보를 획득한다.
S1108: 타깃 보간 필터의 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 현재 디코딩 화상 블록의 예측 블록을 획득한다.
S1109: 현재 디코딩 화상 블록의 예측 블록에 기초하여 현재 디코딩 화상 블록의 재구성 블록을 재구성한다.
또한, 비디오 디코더는 전술한 프로세스에서 디코딩된 화상 블록이 마지막 화상 블록인지 여부를 판단한다. "예"인 경우, 디코딩 프로세스는 종료하고; 그렇지 않으면, 디코딩 프로세스는 다음의 디코딩될 화상 블록에 수행될 수 있다.
다음은 본 발명의 실시예에서 사용되는 장치를 기술한다.
도 12는 본 발명의 일 실시예에 따른 보간 필터 훈련 장치의 개략적인 블록도이다. 보간 필터 훈련 장치(1200)는 인코더(100) 내의 인터 예측 유닛 또는 인코더(100) 내의 다른 유닛에 배치될 수 있음을 이해해야 한다. 보간 필터의 훈련은 컴퓨팅 디바이스를 사용하여 구현될 수 있음을 이해해야 한다. 컴퓨팅 디바이스는 컴퓨터, 서버, 또는 데이터 처리를 구현할 수 있는 다른 콤포넌트 또는 디바이스일 수 있다. 보간 필터(1200)는 라벨 데이터 획득 모듈(1201), 보간 모듈(1202), 및 파라미터 결정 모듈(1203)을 포함할 수 있으나 이에 제한되지 않는다. 세부 사항은 다음과 같다.
라벨 데이터 획득 모듈(1201)은 정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하도록 구성된다.
보간 모듈(1202)은 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하도록 구성된다.
파라미터 결정 모듈(1203)은, 제1 서브-픽셀 화상과 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 제2 보간 필터의 필터 파라미터를 결정하도록 구성된다.
도 13은 본 발명의 일 실시예에 따른 다른 보간 필터 훈련 장치의 개략적인 블록도이다. 보간 필터(1300)는 라벨 데이터 획득 모듈(1301), 보간 모듈(1302), 역 보간 모듈(1303), 및 파라미터 결정 모듈(1304)을 포함할 수 있으나 이에 제한되지 않는다.
라벨 데이터 획득 모듈(1301)은 정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하도록 구성된다.
보간 모듈(1302)은 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하도록 구성된다.
역 보간 모듈(1303)은, 뒤집기 연산이 수행되는 제2 서브-픽셀 화상을 제3 보간 필터에 입력하여, 제1 화상을 획득하도록, 그리고 뒤집기 연산의 역 연산을 제1 화상에 수행하여 제2 화상을 획득하도록, 구성되며, 여기서 제2 보간 필터 및 제3 보간 필터는 필터 파라미터를 공유한다.
파라미터 결정 모듈(1304)은, 제1 서브-픽셀 화상과 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 샘플 화상과 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수에 기초하여 필터 파라미터를 결정하도록 구성된다.
가능한 구현예에서, 파라미터 결정 모듈(1304)은 제3 함수를 최소화함으로써 필터 파라미터를 결정하도록 구체적으로 구성되며, 여기서, 제3 함수는 제1 서브-픽셀 화상과 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수 및 샘플 화상과 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수 사이의 가중 합이다.
가능한 구현예에서, 파라미터 결정 모듈(1304)은 제1 서브-픽셀 화상과 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 손실 함수 및 샘플 화상과 제2 화상 사이의 차이를 표현하는데 사용되는 제2 함수를 번갈아 최소화함으로써 필터 파라미터를 결정하도록 구체적으로 구성된다.
도 14는 본 출원의 실시예에 따른 또 다른 보간 필터 훈련 장치의 개략적인 블록도이다. 장치(1400)는 프로세서(1410) 및 메모리(1420)를 포함할 수 있다. 메모리(1420)는 버스(1430)를 통해 프로세서(1410)와 연결되고, 메모리(1420)는 전술한 보간 필터 훈련 방법 중 어느 하나를 구현하는데 사용되는 프로그램 코드를 저장하도록 구성된다. 프로세서(1410)는, 메모리에 저장된 프로그램 코드를 호출하여, 본 출원에서 기술되는 보간 필터 훈련 방법을 수행하도록 구성된다. 세부 사항에 관해서는, 도 6a 내지 도 6d의 보간 필터 방법의 실시예에서 관련된 설명을 참조한다. 세부사항은 본 출원의 본 실시예에서 다시 기술되지 않는다.
장치(1400)는, 복수의 컴퓨팅 디바이스를 포함하는 컴퓨팅 시스템, 또는 단일 컴퓨팅 디바이스, 예를 들어, 휴대 전화, 태블릿 컴퓨터, 랩 탑 컴퓨터, 노트북 컴퓨터, 데스크탑 컴퓨터, 등일 수 있다.
장치(1400) 내의 프로세서(1410)는 중앙 처리 장치일 수 있다. 대안적으로, 프로세서(1410)는, 정보를 제어 또는 처리할 수 있는 하나 이상의 기존/미래에 개발될 디바이스의 임의의 다른 유형일 수 있다. 도 14에 도시된 바와 같이, 비록 개시된 구현예가 프로세서(1410)와 같은 단일 프로세서로 실현될 수 있으나, 속도 및 효율의 이점은 둘 이상의 프로세서를 사용하여 달성될 수 있다.
구현예에서, 장치(140) 내의 메모리(1420)는 읽기 전용 메모리(Read Only Memory, ROM) 디바이스 또는 랜덤 액세스 메모리(random access memory, RAM) 디바이스일 수 있다. 임의의 다른 적절한 유형의 저장 장치가 메모리(1420)로서 사용될 수 있다. 메모리(1420)는, 버스(1430)를 통해 프로세서(1410)에 의해 액세스 될 수 있는 코드 및 데이터(1401)(예를 들어, 샘플 화상)를 포함할 수 있다. 메모리(1420)는 운영 체제(1402) 및 응용 프로그램(1403)을 더 포함할 수 있다. 응용 프로그램(1403)은 프로세서(1410)가 본 명세서에서 설명된 방법을 수행할 수 있도록 하는 적어도 하나의 프로그램을 포함한다. 예를 들어, 응용 프로그램(1403)은 애플리케이션 1 내지 N을 포함할 수 있고, 애플리케이션 1 내지 N은 본 명세서에 기술되는 방법을 수행하는 비디오 코딩 애플리케이션을 추가로 포함할 수 있다. 장치(1400)는 2차 메모리(1402)의 형태로 추가적인 메모리를 더 포함할 수 있다. 2차 메모리(1402)는, 예를 들어, 모바일 컴퓨팅 디바이스와 함께 사용되는 메모리 카드일 수 있다. 비디오 통신 세션은 대량의 정보를 포함하므로, 정보의 전부 또는 일부는 2차 메모리(1420)에 저장될 수 있고, 필요에 따라, 처리를 위해 메모리(1420)로 로딩될 수 있다.
선택사항으로서, 장치(1400)는 통신 인터페이스 또는 모듈 및 입력/출력 장치를 더 포함할 수 있으나 이에 제한되지는 않는다. 통신 인터페이스 또는 모듈은, 장치(1400)와 다른 디바이스 (예를 들어, 인코딩 디바이스 또는 디코딩 디바이스) 사이의 데이터 교환을 구현하도록 구성된다. 입력 장치는 (텍스트, 화상, 및 음향과 같은) 정보 또는 명령의 입력을 구현하도록 구성되고, 이는 터치스크린, 키보드, 카메라, 및 레코더를 포함할 수 있으나 이에 제한되지는 않는다. 출력 장치는 (텍스트, 화상, 및 음향과 같은) 정보 또는 명령의 출력을 구현하도록 구성되고, 이는 디스플레이 및 스피커를 포함할 수 있으나 이에 제한되지는 않는다. 이는 본 출원에서 제한되지 않는다.
도 15는 본 출원의 실시예에 따라 도 7 또는 도 8에서의 비디오 화상 인코딩 방법을 구현하기 위한 인코더의 개략적인 블록도이다.
도 7에 도시된 비디오 화상 인코딩 방법에 대응하여, 본 출원의 실시예에서, 인코더(1500) 내의 유닛의 구체적인 기능은 다음과 같다.
인터 예측 유닛(1501)은 현재 인코딩 화상 블록에 인터 예측을 수행하여 현재 인코딩 화상 블록의 모션 정보를 획득하도록 구성되며, 여기서 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리킨다. 인터 예측 유닛은 필터 선택 유닛(1502)을 포함하고, 필터 선택 유닛(1502)은, 후보 보간 필터 세트로부터, 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하도록 구체적으로 구성된다.
엔트로피 인코딩 유닛(1503)은, 현재 인코딩 화상 블록의 인터 예측 모드 및 현재 인코딩 화상 블록의 모션 정보에 기초하여 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하고, 인코딩 정보를 비트스트림에 인코딩하며, 여기서, 인코딩 정보는 타깃 보간 필터의 표시 정보를 포함하고, 타깃 보간 필터의 표시 정보는 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하여 현재 인코딩 화상 블록에 대응하는 분수 픽셀 위치의 참조 블록을 획득하는 것을 표시하는데 사용된다.
도 7에 도시된 비디오 화상 인코딩 방법에 대응하여, 본 출원의 다른 실시예에서, 인코더(1500) 내의 유닛의 구체적인 기능은 다음과 같다:
인터 예측 유닛(1501)은 현재 인코딩 화상 블록에 인터 예측을 수행하여 현재 인코딩 화상 블록의 모션 정보를 획득하도록 구성되며, 여기서, 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리킨다. 인터 예측 유닛은 필터 선택 유닛(1502)을 포함하고, 필터 선택 유닛(1502)은 후보 보간 필터 세트로부터, 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하도록 구성된다.
엔트로피 인코딩 유닛(1503)은 현재 인코딩 화상 블록의 인터 예측 모드 및 현재 인코딩 화상 블록의 모션 정보에 기초하여 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하도록, 그리고 인코딩 정보를 비트스트림에 인코딩하도록 구성되며, 여기서, 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 인코딩 정보는 타깃 보간 필터의 표시 정보를 포함하지 않는다; 또는 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 인코딩 정보는 타깃 보간 필터의 표시 정보를 포함하며, 여기서, 타깃 보간 필터의 표시 정보는, 현재 인코딩 화상 블록이 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하는 것을 표시하는데 사용된다.
본 출원의 본 실시예의 가능한 구현예에서, 필터 선택 유닛(1502)은, 레이트-왜곡 비용 기준에 따라 후보 보간 필터 세트로부터, 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하도록 구체적으로 구성된다.
본 출원의 본 실시예의 또 다른 가능한 구현예에서, 인터 예측 유닛(1501)은 구체적으로,
현재 인코딩 화상 블록에 최적으로 매칭되는 정수 픽셀 참조 화상 블록을 결정하도록;
후보 보간 필터 세트 내의 각각의 보간 필터를 사용하여 정수 픽셀 참조 화상 블록에 서브-픽셀 보간을 수행하여, N개의 서브-픽셀 참조 화상 블록을 획득하도록-여기서 N은 양의 정수임-;
정수 픽셀 참조 화상 블록 및 N개의 서브-픽셀 참조 화상 블록으로부터, 현재 인코딩 화상 블록에 최적으로 매칭되는 예측 블록을 결정하도록; 그리고
예측 블록에 기초하여 모션 정보를 결정하도록-여기서 보간을 통해 예측 블록을 획득하는데 사용되는 보간 필터는 타깃 보간 필터임-; 구성된다.
본 출원의 본 실시예의 또 다른 가능한 구현예에서, 후보 보간 필터 세트는 도 6a 내지 도 6d에서 기술되는 보간 필터 훈련 방법 중 어느 하나를 사용하여 획득되는 제2 보간 필터를 포함한다.
선택사항으로서, 타깃 보간 필터가 도 6a 내지 도 6d에서 기술된 전술한 보간 필터 훈련 방법 중 어느 하나를 사용하여 획득되는 제2 보간 필터인 경우, 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 타깃 보간 필터의 필터 파라미터는 도 6a 내지 도 6d에서 기술된 전술한 보간 필터 훈련 방법 중 어느 하나를 사용하여 획득되는 필터 파라미터이다.
또한, 인코딩 정보는 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터를 더 포함하거나; 또는 인코딩 정보는 필터 파라미터 차이를 더 포함하고, 필터 파라미터 차이는 현재 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터와 이전에 인코딩된 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터 사이의 차이이다.
선택사항으로서, 화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 또는 예측 유닛(PU)을 포함한다.
도 16은 본 출원의 실시예에 따라 도 8 내지 도 10에서의 비디오 화상 디코딩 방법을 구현하기 위한 디코더의 개략적인 블록도이다.
도 9에 도시된 비디오 화상 디코딩 방법에 대응하여, 본 출원의 실시예에서, 디코더(1600) 내의 유닛의 구체적인 기능은 다음과 같다:
엔트로피 디코딩 유닛(1601)은, 비트스트림을 파싱하여 타깃 보간 필터의 표시 정보를 획득하도록; 그리고 현재 디코딩 화상 블록의 모션 정보를 획득하도록 구성되며, 여기서, 모션 정보는 분수 픽셀 위치를 가리킨다.
인터 예측 유닛(1602)은, 현재 디코딩 화상 블록의 모션 정보에 기초하여 현재 디코딩 화상 블록에 예측 프로세스를 수행하도록 구성되며, 여기서, 예측 프로세스는, 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함한다.
재구성 유닛(1603)은, 현재 디코딩 화상 블록의 예측 블록에 기초하여 현재 디코딩 화상 블록의 재구성 블록을 재구성하도록 구성된다.
도 10 또는 도 11a 및 도 11b에 도시된 비디오 화상 디코딩 방법에 대응하여, 본 출원의 다른 실시예에서, 디코더(1600) 내의 유닛의 구체적인 기능은 다음과 같다:
엔트로피 디코딩 유닛(1601)은 비트스트림을 파싱하여 현재 디코딩 화상 블록의 정보를 획득하도록 구성되며, 여기서, 정보는 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용된다.
인터 예측 유닛(1602)은, 현재 디코딩 화상 블록의 모션 정보를 획득하도록 구성되며, 여기서, 모션 정보는 분수 픽셀 위치를 가리키고; 그리고 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 현재 디코딩 화상 블록의 모션 정보에 기초하여 현재 디코딩 화상 블록에 예측 프로세스를 수행하도록 구성되며, 여기서, 예측 프로세스는, 타깃 보간 필터의 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함하며, 여기서, 여기서, 타깃 보간 필터의 표시 정보는 비트스트림을 파싱함으로써 획득된다.
재구성 유닛(1603)은 현재 디코딩 화상 블록의 예측 블록에 기초하여 현재 디코딩 화상 블록을 재구성하도록 구성된다.
선택사항으로서, 인터 예측 유닛(1602)은, 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 현재 디코딩 화상 블록의 모션 정보에 기초하여 현재 디코딩 화상 블록에 예측 프로세스를 수행하도록 추가적으로 구성되며, 여기서 예측 프로세스는, 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계, 및 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하여, 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함한다.
현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 인터 예측 유닛(1602)이 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정한다는 것은, 구체적으로, 디코딩 프로세스에서 이전에 디코딩된 화상 블록에 대해 사용된 보간 필터는 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터인 것으로 결정하는 단계, 또는 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터는 타깃 보간 필터의 그리고 비트스트림을 파싱함으로써 획득되는 표시 정보에 의해 표시되는 타깃 보간 필터인 것으로 결정하는 단계를 포함함을 이해해야 한다.
본 출원의 본 실시예의 가능한 구현예에서, 디코더(1600)는 구현예에서 현재 디코딩 화상 블록의 모션 정보를 획득하며, 이는 다음 3가지 구현예를 포함할 수 있으나 이에 제한되지는 않는다.
제1 구현예:
타깃 인터 예측 모드가 아닌 경우(예를 들어, 비-병합 모드), 엔트로피 디코딩 유닛(1601)은 비트스트림을 파싱하여 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득하도록 구체적으로 구성된다; 그리고
인터 예측 유닛(1602)은, 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 현재 디코딩 화상 블록의 모션 정보를 결정하도록 추가적으로 구성된다.
제2 구현예:
타깃 인터 예측 모드가 아닌 경우(예를 들어, 비-병합 모드), 엔트로피 디코딩 유닛(1601)은 비트스트림을 파싱하여 모션 벡터 차이 및 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득하도록 구체적으로 구성된다; 그리고
인터 예측 유닛(1602)은, 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 현재 디코딩 화상 블록의 모션 벡터 예측자를 결정하도록, 그리고 모션 벡터 예측자 및 모션 벡터 차이에 기초하여 현재 디코딩 화상 블록의 모션 벡터를 획득하도록, 추가적으로 구성된다.
제3 구현예:
타깃 인터 예측 모드가 아닌 경우(예를 들어, 비-병합 모드), 엔트로피 디코딩 유닛(1601)은 비트스트림을 파싱하여 모션 벡터 차이 및 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득하도록 구체적으로 구성된다; 그리고
인터 예측 유닛(1602)은 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 현재 디코딩 화상 블록의 모션 벡터 예측자를 결정하도록, 그리고 모션 벡터 예측자 및 모션 벡터 차이에 기초하여 현재 디코딩 화상 블록의 모션 벡터를 획득하도록 추가적으로 구성된다.
본 출원의 본 실시예의 가능한 구현예에서, 타깃 보간 필터가 도 6a 내지 도 6d에서 기술된 전술한 보간 필터 훈련 방법 중 어느 하나를 사용하여 획득되는 제2 보간 필터인 경우, 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 타깃 보간 필터의 필터 파라미터는 도 6a 내지 도 6d에서 기술된 전술한 보간 필터 훈련 방법 중 어느 하나를 사용하여 획득되는 필터 파라미터이다.
본 출원의 본 실시예의 가능한 구현예에서, 엔트로피 디코딩 유닛(1601)은 비트스트림을 파싱하여 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터를 획득하도록 추가적으로 구성된다; 그리고
디코더(1600)는 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 사용하여 타깃 보간 필터를 구성하도록 구성되는 구성 유닛(1604)을 추가로 포함한다.
본 출원의 본 실시예의 가능한 구현예에서, 엔트로피 디코딩 유닛(1601)은 비트스트림을 파싱하여 필터 파라미터 차이를 획득하도록 추가적으로 구성되며, 여기서, 필터 파라미터 차이는 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터와 이전에 디코딩된 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터 사이의 차이이다; 그리고
디코더는, 이전에 디코딩된 화상 유닛의 타깃 보간 필터의 필터 파라미터 및 필터 파라미터 차이에 기초하여 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 획득하도록, 그리고 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 사용하여 타깃 보간 필터를 구성하도록 구성되는 구성 유닛(1604)을 더 포함한다.
선택사항으로서, 화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 또는 예측 유닛(PU)을 포함한다.
도 17은, 도 7 또는 도 8에서의 비디오 화상 인코딩 방법을 구현하기 위한 인코딩 디바이스 또는 본 출원의 실시예에 따라 도 9 내지 도 11b에서의 비디오 화상 디코딩 방법을 구현하기 위한 디코딩 디바이스의 개략적인 블록도이다. 디바이스(1700)는 프로세서(1702) 및 메모리(1704)를 포함할 수 있고, 메모리(1704)는 버스(1712)를 통해 프로세서(1710)와 연결된다. 메모리(1704)는, 전술한 비디오 화상 인코딩 방법 중 어느 하나를 구현하는데 사용되는 프로그램 코드를 저장하도록 구성된다. 프로세서(1710)는, 메모리에 저장된 프로그램 코드를 호출하여, 본 출원에서 기술되는 다양한 비디오 화상 인코딩/디코딩 방법을 수행하도록 구성된다. 세부 사항에 관해서는, 도 7 내지 도 11b에서 비디오 화상 인코딩/디코딩 방법의 방법 실시예의 관련된 설명을 참조한다. 세부사항은 본 출원의 본 실시예에서 다시 기술되지 않는다.
디바이스(1700)는, 복수의 컴퓨팅 디바이스를 포함하는 컴퓨팅 시스템, 또는 단일 컴퓨팅 디바이스, 예를 들어, 휴대 전화, 태블릿 컴퓨터, 랩 탑 컴퓨터, 노트북 컴퓨터, 데스크탑 컴퓨터, 등일 수 있다.
디바이스(1700) 내의 프로세서(1702)는 중앙 처리 장치일 수 있다. 대안적으로, 프로세서(1702)는, 정보를 제어 또는 처리할 수 있는 하나 이상의 기존/미래에 개발될 디바이스의 임의의 다른 유형일 수 있다. 도면에 도시된 바와 같이, 비록 개시된 구현예가 프로세서(1702)와 같은 단일 프로세서로 실현될 수 있으나, 속도 및 효율의 이점은 둘 이상의 프로세서를 사용하여 달성될 수 있다.
구현예에서, 디바이스(1700) 내의 메모리(1704)는 읽기 전용 메모리(Read Only Memory, ROM) 디바이스 또는 랜덤 액세스 메모리(random access memory, RAM) 디바이스일 수 있다. 임의의 다른 적절한 유형의 저장 장치가 메모리(1704)로서 사용될 수 있다. 메모리(1704)는, 버스(1712)를 통해 프로세서(1702)에 의해 액세스 될 수 있는 코드 및 데이터(1706)를 포함할 수 있다. 메모리(1704)는 운영 체제(1708) 및 응용 프로그램(1710)을 더 포함할 수 있다. 응용 프로그램(1710)은 프로세서(1702)가 본 명세서에서 설명된 방법을 수행할 수 있도록 하는 적어도 하나의 프로그램을 포함한다. 예를 들어, 애플리케이션 프로그램(1710)은 애플리케이션 1 내지 N을 포함할 수 있고, 애플리케이션 1 내지 N은 본 명세서에서 설명하는 방법을 수행하는 비디오 코딩 애플리케이션을 더 포함할 수 있다. 장치(1700)는 2차 메모리(1714)의 형태로 추가적인 메모리를 더 포함할 수 있다. 2차 메모리(1714)는, 예를 들어, 모바일 컴퓨팅 디바이스와 함께 사용되는 메모리 카드일 수 있다. 비디오 통신 세션은 대량의 정보를 포함하므로, 정보의 전부 또는 일부는 2차 메모리(1714)에 저장될 수 있고, 필요에 따라, 처리를 위해 메모리(1704)로 로딩될 수 있다.
디바이스(1700)는 하나 이상의 출력 디바이스, 예를 들어, 디스플레이(1718)를 더 포함할 수 있다. 예로서, 디스플레이(1718)는 디스플레이 및 터치 입력을 감지하여 작동하는 터치-감응 엘리먼트를 결합하는 터치 감응 디스플레이일 수 있다. 디스플레이(1718)는 버스(1712)를 통해 프로세서(1702)에 연결될 수 있다. 디스플레이(1718)에 추가로, 사용자로 하여금 디바이스(1700)를 프로그램하거나 디바이스(1700)를 다르게 사용할 수 있게 하는 다른 출력 디바이스가 추가로 제공되거나, 다른 출력 디바이스가 디스플레이(1718)에 대하노 대안으로 제공될 수 있다. 출력 디바이스가 디스플레이이거나 이를 포함하는 경우, 디스플레이는, 액정 디스플레이(liquid crystal display, LCD), 음극선 관(cathode-ray tube, CRT) 디스플레이, 플라즈마 디스플레이, 또는 유기 LED(organic LED, OLED) 디스플레이와 같은 발광 다이오드(light emitting diode, LED) 디스플레이를 포함하여 다양한 방식으로 구현될 수 있다.
디바이스(1700)는 이미지 센싱 디바이스(1720)를 더 포함하거나, 이미지 센싱 디바이스(1720)와 통신할 수 있다. 이미지 센싱 디바이스(1720)는, 예를 들어, 카메라 또는 센싱 이미지를 센싱할 수 있는 임의의 다른 기존/미래에 개발될 이미지 센싱 디바이스(1720)다. 이미지는, 예를 들어, 이미지는 디바이스(1700)를 운용하는 사용자의 이미지이다. 이미지 센싱 디바이스(1720)는 디바이스(1700)를 운용하는 사용자를 직접 마주 보도록 배치될 수 있다. 예로서, 이미지 센싱 디바이스(1720)의 시야가 디스플레이(1718)의 이웃하는 영역을 포함하고 디스플레이(1718)가 그 영역에서 보이도록, 이미지 센싱 디바이스(1720)의 위치 및 광축이 구성될 수 있다.
디바이스(1700)는 음향 센싱 디바이스(1722)를 더 포함하거나 음향 센싱 디바이스(1722)와 통신할 수 있다. 음향 센싱 디바이스(1722)는, 예를 들어, 마이크 또는 디바이스(1700) 근처에서 음향을 송신할 수 있는 임의의 다른 기존/미래에 개발될 음향 센싱 디바이스이다. 음향 센싱 디바이스(1722)는 디바이스(1700)를 운용하는 사용자를 직접 마주 보도록 배치될 수 있고, 사용자가 디바이스(1700)를 운용할 때 발생하는, 음향, 예를 들어, 음성 또는 다른 음향을 수신하도록 구성될 수 있다.
비록 도 17은 디바이스(1700)의 프로세서(1702) 및 메모리(1704)를 단일 유닛으로 통합된 것으로 도시하지만, 다른 구성이 활용될 수 있다. 프로세서(1702)의 실행은, 서로 직접 연결될 수 있거나, 로컬 영역 또는 다른 네트워크에 분산되는 복수의 머신(각각의 머신은 하나 이상의 프로세서를 가진다)에 분산될 수 있다. 메모리(1704)는 복수의 머신에 걸쳐 분산될 수 있고, 예를 들어, 메모리는 네트워크-기반 메모리이거나 디바이스(1700)가 실행되는 복수의 머신 내의 메모리이다. 여기서는 비록 단일 버스로 도시되었으나, 디바이스(1700)의 버스(1712)는 복수의 버스를 포함할 수 있다. 또한, 2차 메모리(1714)는 디바이스(1700)의 다른 콤포넌트와 직접 연결될 수 있거나 네트워크를 통해 액세스 될 수 있다. 2차 메모리(1714)는 메모리 카드와 같은 단일 통합 유닛 또는 복수의 메모리 카드와 같은 복수의 유닛을 포함할 수 있다. 따라서 디바이스(1700)는 매우 다양한 구성으로 구현될 수 있다.
본 명세서에서, 프로세서는 중앙 처리 장치(Central Processing unit, 줄여서 "CPU")일 수 있거나, 프로세서는 다른 범용 프로세서, 디지털 신호 처리기(DSP), 주문형 집적회로(ASIC), 필드-프로그래밍 가능한 게이트 어레이(FPGA) 또는 다른 프로그래밍 가능한 논리 디바이스, 개별 게이트 또는 트랜지스터 논리 디바이스, 개별 하드웨어 콤포넌트, 등일 수 있다. 범용 프로세서는 마이크로프로세서이거나, 임의의 종래의 프로세서일 수 있다.
메모리는 읽기-전용 메모리(ROM) 디바이스 또는 랜덤 액세스 메모리(RAM) 디바이스를 포함할 수 있다. 임의의 다른 적절한 유형의 저장 장치도 메모리로 사용할 수 있다. 메모리는, 버스를 통해 프로세서에 의해 액세스되는 코드 및 데이터를 포함할 수 있다. 메모리는 운영 체제 및 응용 프로그램을 더 포함할 수 있다. 응용 프로그램은 본 출원에서 기술되는 비디오 코딩 또는 디코딩 방법(특히 본 출원에서 기술되는 인터 예측 방법 또는 모션 정보 예측 방법)을 프로세서가 수행하도록 허용하는 적어도 하나의 프로그램을 포함한다. 예를 들어, 응용 프로그램은 애플리케이션 1 내지 N을 포함할 수 있고, 본 출원에서 기술되는 비디오 인코딩 또는 디코딩 방법을 수행하는 비디오 인코딩 또는 디코딩 애플리케이션(줄여서 비디오 코딩 애플리케이션)을 추가로 포함한다.
버스 시스템은, 데이터 버스에 추가로, 파워 버스, 제어 버스, 상태 신호 버스, 등을 더 포함할 수 있다. 그러나 명확한 설명을 위해, 도면에서 다양한 유형의 버스가 버스 시스템으로 표기되어 있다.
선택사항으로서, 코딩 디바이스는 하나 이상의 출력 디바이스, 예를 들어, 디스플레이를 더 포함할 수 있다. 예로서, 디스플레이는 디스플레이 및 터치 입력을 감지하여 작동하는 터치 유닛를 결합하는 터치 감응 디스플레이일 수 있다. 디스플레이는 버스를 통해 프로세서와 연결될 수 있다.
통상의 기술자는 본 명세서에 개시되고 설명된 다양한 예시적인 논리 블록, 모듈 및 알고리즘 단계를 참조하여 설명된 기능이 하드웨어, 소프트웨어, 펌웨어 또는 이들의 임의의 조합에 의해 구현될 수 있음을 이해할 수 있다. 소프트웨어에 의해 구현되는 경우, 예시적인 논리 블록, 모듈, 및 단계를 참조하여 설명된 기능은 하나 이상의 명령 또는 코드로 컴퓨터-판독 가능한 매체에 저장되거나 전송될 수 있으며 하드웨어-기반 처리 유닛에 의해 실행될 수 있다. 컴퓨터-판독 가능한 매체는, 데이터 저장 매체와 같은 유체물의 매체에 해당하는 컴퓨터-판독 가능한 저장 매체, 또는 (예컨대 통신 프로토콜에 따라) 컴퓨터 프로그램을 한 장소에서 다른 장소로 전송하는 것을 용이하게 하는 임의의 매체를 포함하는 통신 매체를 포함할 수 있다. 이러한 방식으로, 컴퓨터-판독 가능한 매체는 일반적으로 (1) 유체물의 컴퓨터-판독 가능한 저장 매체 또는 (2) 신호 또는 캐리어와 같은 통신 매체에 대응할 수 있다. 데이터 저장 매체는 본 출원에 기술된 기술의 구현을 위한 명령, 코드 및/또는 데이터 구조를 검색(retrieve)하기 위해 하나 이상의 컴퓨터 또는 하나 이상의 프로세서에 의해 액세스될 수 있는 임의의 이용 가능한 매체일 수 있다. 컴퓨터 프로그램 제품은 컴퓨터-판독 가능한 매체를 포함할 수 있다.
제한이 아닌 예로서, 이러한 컴퓨터-판독 가능한 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 컴팩트 디스크 저장 장치, 자기 디스크 저장 장치, 또는 다른 자기 저장 장치, 플래시 메모리, 또는 컴퓨터에 의해 액세스할 수 있는 명령 또는 데이터 구조의 형태로 원하는 프로그램 코드를 저장하는데 사용할 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 모든 연결을 컴퓨터-판독 가능한 매체라고 한다. 예를 들어, 동축 케이블, 광섬유 케이블, 연선(twisted pair), 디지털 가입자 회선(DSL), 또는 적외선, 라디오, 및 마이크로파와 같은 무선 기술을 사용하여 웹 사이트, 서버, 또는 다른 원격 소스로부터 명령이 전송되는 경우, 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 적외선, 라디오, 및 마이크로파와 같은 무선 기술이 매체의 정의에 포함된다. 그러나, 컴퓨터-판독 가능한 저장 매체 및 데이터 저장 매체는 연결, 캐리어, 신호, 또는 다른 일시적인 매체를 포함하지 않고, 비일시적 유체물의 저장 매체를 의미함을 이해해야 한다. 본 명세서에서 사용되는 디스크(disk) 및 디스크(disc)는, 컴팩트 디스크(CD), 레이저 디스크, 광학 디스크, DVD(digital versatile disc), 및 블루-레이 디스크를 포함한다. 디스크(disk)는 일반적으로 데이터를 자기적으로 재생하고, 디스크(disc)는 레이저를 사용하여 광학적으로 데이터를 재생한다. 위의 조합도 컴퓨터-판독 가능한 매체의 범위 내에 포함되어야 한다.
명령은 하나 이상의 디지털 신호 처리기(digital signal processor; DSP), 범용 마이크로 프로세서, 주문형 집적 회로(application specific integrated circuits; ASIC), 필드 프로그래밍 가능한 로직 어레이(field programmable logic array; FPGA) 또는 다른 동등한 집적 회로 또는 이산 논리 회로와 같은 하나 이상의 프로세서에 의해 실행될 수 있다. 따라서, 본 명세서에서 사용되는 용어 "프로세서"는, 전술한 구조 또는 본 명세서에서 설명된 기술의 구현에 적합한 임의의 다른 구조일 수 있다. 또한, 일부 측면에서, 본 명세서에서 설명된 예시적인 논리 블록, 모듈, 및 단계를 참조하여 설명된 기능은 인코딩 및 디코딩을 위해 구성된 전용 하드웨어 및/또는 소프트웨어 모듈 내에 제공될 수 있거나, 조합된 코덱에 병합될 수 있다. 또한, 기술은 하나 이상의 회로 또는 논리 요소에서 완전히 구현될 수 있다.
본 출원의 기술은 무선 핸드셋, 집적 회로(IC) 또는 IC 세트(예를 들어, 칩셋)를 포함하는 다양한 장치 또는 디바이스에서 구현될 수 있다. 개시된 기술을 수행하도록 구성되는 장치의 기능적 측면을 강조하기 위해 다양한 구성 요소, 모듈, 또는 유닛이 본 출원에서 설명되지만, 반드시 상이한 하드웨어 유닛에 의한 구현을 필요로 하는 것은 아니다. 사실, 위에서 설명된 바와 같이, 다양한 유닛이 적절한 소프트웨어 및/또는 펌웨어와 조합하여 코덱 하드웨어 유닛에 결합되거나, (위에서 설명된 하나 이상의 프로세서를 포함하는) 상호 동작할 수 있는 하드웨어 유닛의 집합에 의해 제공될 수 있다.
전술한 설명은 본 출원의 특정한 구현예일 뿐이며, 본 출원의 보호 범위를 제한하려는 의도가 아니다. 본 출원에 개시된 기술적 범위 내에서 통상의 기술자에 의해 용이하게 파악되는 임의의 변형 또는 대체는 본 출원의 보호 범위 내에 속한다. 따라서, 본 출원의 보호 범위는 청구범위의 보호 범위에 따른다.
Claims (76)
- 비디오 화상 인코딩 방법으로서,
현재 인코딩 화상 블록에 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 모션 정보를 획득하는 단계-여기서, 상기 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리키고, 상기 인터 예측 프로세스는, 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계를 포함함-; 및
상기 현재 인코딩 화상 블록의 인터 예측 모드 및 상기 현재 인코딩 화상 블록의 모션 정보에 기초하여 상기 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하고, 상기 인코딩 정보를 비트스트림으로 인코딩하는 단계-여기서, 상기 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하지 않거나, 또는 상기 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하며, 여기서 상기 타깃 보간 필터의 표시 정보는, 상기 현재 인코딩 화상 블록이 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하는 것을 표시하는데 사용됨-;을 포함하는, 비디오 화상 인코딩 방법. - 제1항에 있어서,
후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계는,
레이트-왜곡 비용 기준에 따라 상기 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계;를 포함하는, 비디오 화상 인코딩 방법. - 제1항에 있어서,
상기 현재 인코딩 화상 블록에 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 모션 정보를 획득하는 단계는,
상기 현재 인코딩 화상 블록에 최적으로 매칭되는 정수 픽셀 참조 화상 블록을 결정하는 단계;
상기 후보 보간 필터 세트 내의 각각의 보간 필터를 사용하여 상기 정수 픽셀 참조 화상 블록에 서브-픽셀 보간을 수행하여, N개의 서브-픽셀 참조 화상 블록을 획득하는 단계-여기서 N은 양의 정수임-;
상기 정수 픽셀 참조 화상 블록 및 상기 N개의 서브-픽셀 참조 화상 블록으로부터, 상기 현재 인코딩 화상 블록에 최적으로 매칭되는 예측 블록을 결정하는 단계; 및
상기 예측 블록에 기초하여 상기 모션 정보를 결정하는 단계-여기서 보간을 통해 상기 예측 블록을 획득하는데 사용되는 보간 필터는 상기 타깃 보간 필터임-;를 포함하는, 비디오 화상 인코딩 방법. - 제1항에 있어서,
상기 후보 보간 필터 세트는 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터를 포함하고,
상기 보간 필터 훈련 방법은,
정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하는 단계;
상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하는 단계; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정하는 단계
를 포함하는, 비디오 화상 인코딩 방법. - 제4항에 있어서,
상기 타깃 보간 필터가 상기 제2 보간 필터인 경우,
상기 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 상기 타깃 보간 필터의 필터 파라미터는 상기 보간 필터 훈련 방법을 사용하여 획득되는 필터 파라미터인, 비디오 화상 인코딩 방법. - 제5항에 있어서,
상기 인코딩 정보는 훈련을 통해 획득되는 상기 타깃 보간 필터의 필터 파라미터를 더 포함하거나; 또는 상기 인코딩 정보는 필터 파라미터 차이를 더 포함하고, 상기 필터 파라미터 차이는 현재 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터와 이전에 인코딩된 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터 사이의 차이인, 비디오 화상 인코딩 방법. - 제6항에 있어서,
화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 또는 예측 유닛(PU)을 포함하는, 비디오 화상 인코딩 방법. - 비디오 화상 디코딩 방법으로서,
비트스트림을 파싱하여 현재 디코딩 화상 블록의 정보를 획득하는 단계-여기서 상기 정보는 상기 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용됨-;
상기 현재 디코딩 화상 블록의 모션 정보를 획득하는 단계-여기서 상기 모션 정보는 분수 픽셀 위치를 가리킴-;
상기 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하는 단계-여기서, 상기 예측 프로세스는, 타깃 보간 필터의 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함하며, 여기서, 상기 타깃 보간 필터의 표시 정보는 상기 비트스트림을 파싱함으로써 획득됨-; 및
상기 현재 디코딩 화상 블록의 예측 블록에 기초하여 상기 현재 디코딩 화상 블록을 재구성하는 단계;를 포함하는, 비디오 화상 디코딩 방법. - 제8항에 있어서,
상기 현재 디코딩 화상 블록의 모션 정보를 획득하는 단계는,
상기 비트스트림을 파싱하여 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득하는 단계; 및
상기 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 상기 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 상기 현재 디코딩 화상 블록의 모션 정보를 결정하는 단계;를 포함하는, 비디오 화상 디코딩 방법. - 제8항에 있어서,
상기 현재 디코딩 화상 블록의 모션 정보를 획득하는 단계는,
상기 비트스트림을 파싱하여 모션 벡터 차이 및 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득하는 단계;
상기 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 상기 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 상기 현재 디코딩 화상 블록의 모션 벡터 예측자를 결정하는 단계; 및
상기 모션 벡터 예측자 및 상기 모션 벡터 차이에 기초하여 상기 현재 디코딩 화상 블록의 모션 벡터를 획득하는 단계;를 포함하는, 비디오 화상 디코딩 방법. - 제8항에 있어서,
상기 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하는 단계;를 포함하되,
상기 예측 프로세스는, 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계, 및 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함하는, 비디오 화상 디코딩 방법. - 제11항에 있어서,
상기 타깃 인터 예측 모드는 병합 모드이고,
상기 현재 디코딩 화상 블록의 모션 정보를 획득하는 단계는 이전에 디코딩된 화상 블록의 모션 정보를 획득하는 단계를 포함하며-여기서, 상기 이전에 디코딩된 화상 블록의 모션 정보는 상기 병합 모드에서 병합을 통해 획득됨-; 그리고
상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계는, 디코딩 프로세스에서 상기 이전에 디코딩된 화상 블록에 대해 사용된 보간 필터는 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터인 것으로 결정하는 단계, 또는 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터는 상기 타깃 보간 필터의 그리고 상기 비트스트림을 파싱함으로써 획득되는 상기 표시 정보에 의해 표시되는 타깃 보간 필터인 것으로 결정하는 단계를 포함하는, 비디오 화상 디코딩 방법. - 제8항에 있어서,
상기 타깃 보간 필터가 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우 - 상기 보간 필터 훈련 방법은,
정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하는 단계;
상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하는 단계; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정하는 단계
를 포함함 - ,
상기 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 상기 타깃 보간 필터의 필터 파라미터는 상기 보간 필터 훈련 방법을 사용하여 획득되는 필터 파라미터인, 비디오 화상 디코딩 방법. - 제8항에 있어서,
상기 타깃 보간 필터가 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우 - 상기 보간 필터 훈련 방법은,
정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하는 단계;
상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하는 단계; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정하는 단계
를 포함함 - , 상기 비디오 화상 디코딩 방법이,
상기 비트스트림을 파싱하여 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터를 획득하는 단계; 및
상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 사용하여 상기 타깃 보간 필터를 구성하는 단계
를 더 포함하는 비디오 화상 디코딩 방법. - 제8항에 있어서,
상기 타깃 보간 필터가 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우 - 상기 보간 필터 훈련 방법은,
정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하는 단계;
상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하는 단계; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정하는 단계
를 포함함 - , 상기 비디오 화상 디코딩 방법이,
상기 비트스트림을 파싱하여 필터 파라미터 차이를 획득하는 단계-여기서 상기 필터 파라미터 차이는 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터와 이전에 디코딩된 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터 사이의 차이임-;
상기 이전에 디코딩된 화상 유닛의 상기 타깃 보간 필터의 필터 파라미터 및 상기 필터 파라미터 차이에 기초하여 상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 획득하는 단계; 및
상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 사용하여 상기 타깃 보간 필터를 구성하는 단계
를 더 포함하는 비디오 화상 디코딩 방법. - 제14항에 있어서,
화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 또는 예측 유닛(PU)을 포함하는, 비디오 화상 디코딩 방법. - 인코더로서,
현재 인코딩 화상 블록에 인터 예측을 수행하여 상기 현재 인코딩 화상 블록의 모션 정보를 획득하도록 구성되는 인터 예측 유닛-여기서, 상기 현재 인코딩 화상 블록의 모션 정보는 분수 픽셀 위치를 가리키고, 상기 인터 예측 유닛은, 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하도록 구성되는, 필터 선택 유닛을 포함함-; 및
상기 현재 인코딩 화상 블록의 인터 예측 모드 및 상기 현재 인코딩 화상 블록의 모션 정보에 기초하여 상기 현재 인코딩 화상 블록을 인코딩하여 인코딩 정보를 획득하도록, 그리고 상기 인코딩 정보를 비트스트림으로 인코딩하도록 구성되는 엔트로피 인코딩 유닛-여기서, 상기 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하지 않거나; 또는 상기 현재 인코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 상기 인코딩 정보는 상기 타깃 보간 필터의 표시 정보를 포함하며, 여기서 상기 타깃 보간 필터의 표시 정보는, 상기 현재 인코딩 화상 블록이 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하는 것을 표시하는데 사용됨-;을 포함하는, 인코더. - 제17항에 있어서,
상기 필터 선택 유닛은,
레이트-왜곡 비용 기준에 따라 상기 후보 보간 필터 세트로부터, 상기 현재 인코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하도록 구체적으로 구성되는, 인코더. - 제17항에 있어서,
상기 인터 예측 유닛은,
상기 현재 인코딩 화상 블록에 최적으로 매칭되는 정수 픽셀 참조 화상 블록을 결정하도록;
상기 후보 보간 필터 세트 내의 각각의 보간 필터를 사용하여 상기 정수 픽셀 참조 화상 블록에 서브-픽셀 보간을 수행하여, N개의 서브-픽셀 참조 화상 블록을 획득하도록-여기서 N은 양의 정수임-;
상기 정수 픽셀 참조 화상 블록 및 상기 N개의 서브-픽셀 참조 화상 블록으로부터, 상기 현재 인코딩 화상 블록에 최적으로 매칭되는 예측 블록을 결정하도록; 그리고
상기 예측 블록에 기초하여 상기 모션 정보를 결정하도록-여기서 보간을 통해 상기 예측 블록을 획득하는데 사용되는 보간 필터는 상기 타깃 보간 필터임-; 구체적으로 구성되는, 인코더. - 제17항에 있어서,
상기 후보 보간 필터 세트는 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터를 포함하고,
상기 보간 필터 훈련 방법은,
정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하는 단계;
상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하는 단계; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정하는 단계
를 포함하는, 인코더. - 제20항에 있어서,
상기 타깃 보간 필터가 상기 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우,
상기 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 상기 타깃 보간 필터의 필터 파라미터는 상기 보간 필터 훈련 방법을 사용하여 획득되는 필터 파라미터인, 인코더. - 제21항에 있어서,
상기 인코딩 정보는 훈련을 통해 획득되는 상기 타깃 보간 필터의 필터 파라미터를 더 포함하거나; 또는 상기 인코딩 정보는 필터 파라미터 차이를 더 포함하고, 상기 필터 파라미터 차이는 현재의 인코딩 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터와 이전에 인코딩된 화상 유닛에 대해 사용되고 훈련을 통해 획득되는 타깃 보간 필터의 필터 파라미터 사이의 차이인, 인코더. - 제22항에 있어서,
화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 또는 예측 유닛(PU)을 포함하는, 인코더. - 디코더로서,
비트스트림을 파싱하여 현재 디코딩 화상 블록의 정보를 획득하도록 구성되는 엔트로피 디코딩 유닛-여기서 상기 정보는 상기 현재 디코딩 화상 블록의 인터 예측 모드를 표시하는데 사용됨-;
상기 현재 디코딩 화상 블록의 모션 정보를 획득하도록-여기서 상기 모션 정보는 분수 픽셀 위치를 가리킴-; 그리고 상기 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드가 아닌 경우, 상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하도록 구성되는 인터 예측 유닛-여기서, 상기 예측 프로세스는, 타깃 보간 필터의 표시 정보에 의해 표시되는 타깃 보간 필터에 기초하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함하며, 여기서, 상기 타깃 보간 필터의 표시 정보는 상기 비트스트림을 파싱함으로써 획득됨-; 및
상기 현재 디코딩 화상 블록의 예측 블록에 기초하여 상기 현재 디코딩 화상 블록을 재구성하도록 구성되는 재구성 유닛;을 포함하는, 디코더. - 제24항에 있어서,
상기 엔트로피 디코딩 유닛은 상기 비트스트림을 파싱하여 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득하도록 추가적으로 구성되고; 그리고
상기 인터 예측 유닛은 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 상기 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 상기 현재 디코딩 화상 블록의 상기 모션 정보를 결정하도록 추가적으로 구성되는, 디코더. - 제24항에 있어서,
상기 엔트로피 디코딩 유닛은 상기 비트스트림을 파싱하여 모션 벡터 차이 및 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스를 획득하도록 추가적으로 구성되고; 그리고
상기 인터 예측 유닛은 상기 현재 디코딩 화상 블록의 모션 정보의 인덱스 및 상기 현재 디코딩 화상 블록의 후보 모션 정보 목록에 기초하여 상기 현재 디코딩 화상 블록의 모션 벡터 예측자를 결정하도록, 그리고 상기 모션 벡터 예측자 및 상기 모션 벡터 차이에 기초하여 상기 현재 디코딩 화상 블록의 모션 벡터를 획득하도록 추가적으로 구성되는, 디코더. - 제24항에 있어서,
상기 인터 예측 유닛은 상기 현재 디코딩 화상 블록의 인터 예측 모드가 타깃 인터 예측 모드인 경우, 상기 현재 디코딩 화상 블록의 모션 정보에 기초하여 상기 현재 디코딩 화상 블록에 예측 프로세스를 수행하도록 추가적으로 구성되며,
상기 예측 프로세스는, 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계, 및 상기 타깃 보간 필터를 사용하여 서브-픽셀 보간을 수행하여, 상기 현재 디코딩 화상 블록의 예측 블록을 획득하는 단계를 포함하는, 디코더. - 제27항에 있어서,
상기 타깃 인터 예측 모드는 병합 모드이고,
상기 인터 예측 유닛은 구체적으로, 이전에 디코딩된 화상 블록의 모션 정보를 획득하도록 구성되며-여기서, 상기 이전에 디코딩된 화상 블록의 모션 정보는 상기 병합 모드에서 병합을 통해 획득됨-; 및
상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터를 결정하는 단계는, 디코딩 프로세스에서 상기 이전에 디코딩된 화상 블록에 대해 사용된 보간 필터는 상기 현재 디코딩 화상 블록에 대해 사용되는 타깃 보간 필터인 것으로 결정하는 단계, 또는 상기 현재 디코딩 화상 블록현재 디코딩 화상 블록간 필터는 상기 타깃 보간 필터의 그리고 상기 비트스트림을 파싱함으로써 획득되는 상기 표시 정보에 의해 표시되는 타깃 보간 필터인 것으로 결정하는 단계를 포함하는, 디코더. - 제24항에 있어서,
상기 타깃 보간 필터가 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우 - 상기 보간 필터 훈련 방법은,
정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하는 단계;
상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하는 단계; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정하는 단계
를 포함함 - ,
상기 타깃 보간 필터의 필터 파라미터는 사전 설정된 필터 파라미터이거나, 상기 타깃 보간 필터의 필터 파라미터는 상기 보간 필터 훈련 방법을 사용하여 획득되는 필터 파라미터인, 디코더. - 제24항에 있어서,
상기 타깃 보간 필터가 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우 - 상기 보간 필터 훈련 방법은,
정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하는 단계;
상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하는 단계; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정하는 단계
를 포함함 - ,
상기 엔트로피 디코딩 유닛은 상기 비트스트림을 파싱하여 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터를 획득하도록 추가적으로 구성되고; 그리고
상기 디코더는 상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 사용하여 상기 타깃 보간 필터를 구성하도록 구성되는 구성 유닛을 더 포함하는, 디코더. - 제24항에 있어서,
상기 타깃 보간 필터가 보간 필터 훈련 방법을 사용하여 획득되는 제2 보간 필터인 경우 - 상기 보간 필터 훈련 방법은,
정수 픽셀 위치에서 제1 보간 필터를 사용하여 샘플 화상의 픽셀 상에 보간을 수행하여, 제1 분수 픽셀 위치에서 샘플 화상의 제1 서브-픽셀 화상을 획득하는 단계;
상기 샘플 화상을 제2 보간 필터에 입력하여, 제2 서브-픽셀 화상을 획득하는 단계; 및
상기 제1 서브-픽셀 화상과 상기 제2 서브-픽셀 화상 사이의 차이를 표현하는데 사용되는 제1 함수를 최소화함으로써 상기 제2 보간 필터의 필터 파라미터를 결정하는 단계
를 포함함 - , 상기 엔트로피 디코딩 유닛은 상기 비트스트림을 파싱하여 필터 파라미터 차이를 획득하도록 추가적으로 구성되며-여기서, 상기 필터 파라미터 차이는 현재의 디코딩 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터와 이전에 디코딩된 화상 유닛에 대해 사용되는 타깃 보간 필터의 필터 파라미터 사이의 차이임-; 그리고
상기 디코더는 구성 유닛을 추가로 포함하되, 상기 구성 유닛은, 상기 이전에 디코딩된 화상 유닛의 상기 타깃 보간 필터의 필터 파라미터 및 상기 필터 파라미터 차이에 기초하여 상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 획득하도록, 그리고 상기 현재의 디코딩 화상 유닛의 타깃 보간 필터의 필터 파라미터를 사용하여 상기 타깃 보간 필터를 구성하도록 구성되는, 디코더. - 제30항에 있어서,
화상 유닛은 화상 프레임, 슬라이스(slice), 비디오 시퀀스 서브그룹, 코딩 트리 유닛(CTU), 코딩 유닛(CU), 또는 예측 유닛(PU)을 포함하는, 디코더. - 메모리 및 프로세서를 포함하는 인코딩 장치로서,
상기 메모리는 프로그램 코드를 저장하도록 구성되고, 상기 프로세서는 상기 프로그램 코드를 호출하여 제1항 내지 제7항 중 어느 한 항에 따른 비디오 화상 인코딩 방법을 실행하도록 구성되는, 인코딩 장치. - 메모리 및 프로세서를 포함하는 디코딩 장치로서,
상기 메모리는 프로그램 코드를 저장하도록 구성되고, 상기 프로세서는 상기 프로그램 코드를 호출하여 제8항 내지 제16항 중 어느 한 항에 따른 비디오 화상 디코딩 방법을 실행하도록 구성되는, 디코딩 장치. - 프로그램 코드를 포함하는 컴퓨터-판독 가능한 저장 매체로서,
상기 프로그램 코드가 컴퓨터 상에서 실행되는 경우, 상기 컴퓨터는 제1항 내지 제7항 중 어느 한 항에 따른 보간 필터 훈련 방법을 수행할 수 있게 되는, 컴퓨터-판독 가능한 저장 매체. - 프로그램 코드를 포함하는 컴퓨터-판독 가능한 저장 매체로서,
상기 프로그램 코드가 컴퓨터 상에서 실행되는 경우, 상기 컴퓨터는 제8항 내지 제16항 중 어느 한 항에 따른 비디오 화상 디코딩 방법을 수행할 수 있게 되는, 컴퓨터-판독 가능한 저장 매체. - 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811166872.XA CN111010568B (zh) | 2018-10-06 | 2018-10-06 | 插值滤波器的训练方法、装置及视频图像编解码方法、编解码器 |
| CN201811166872.X | 2018-10-06 | ||
| PCT/CN2019/108311 WO2020069655A1 (zh) | 2018-10-06 | 2019-09-26 | 插值滤波器的训练方法、装置及视频图像编解码方法、编解码器 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20210064370A KR20210064370A (ko) | 2021-06-02 |
| KR102592279B1 true KR102592279B1 (ko) | 2023-10-19 |
Family
ID=70054947
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020217013057A KR102592279B1 (ko) | 2018-10-06 | 2019-09-26 | 보간 필터 훈련 방법 및 장치, 비디오 화상 인코딩 및 디코딩 방법, 및 인코더 및 디코더 |
Country Status (6)
| Country | Link |
|---|---|
| US (1) | US20210227243A1 (ko) |
| EP (1) | EP3855741A4 (ko) |
| JP (1) | JP7331095B2 (ko) |
| KR (1) | KR102592279B1 (ko) |
| CN (1) | CN111010568B (ko) |
| WO (1) | WO2020069655A1 (ko) |
Families Citing this family (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113784146A (zh) * | 2020-06-10 | 2021-12-10 | 华为技术有限公司 | 环路滤波方法和装置 |
| EP3993414A1 (en) * | 2020-11-03 | 2022-05-04 | Ateme | Method for image processing and apparatus for implementing the same |
| CN112911286B (zh) * | 2021-01-29 | 2022-11-15 | 杭州电子科技大学 | 一种分像素插值滤波器的设计方法 |
| US11750847B2 (en) * | 2021-04-19 | 2023-09-05 | Tencent America LLC | Quality-adaptive neural network-based loop filter with smooth quality control by meta-learning |
| CN117280685A (zh) * | 2021-05-28 | 2023-12-22 | Oppo广东移动通信有限公司 | 编解码方法、码流、编码器、解码器以及存储介质 |
| CN117597930A (zh) * | 2021-08-20 | 2024-02-23 | 深圳传音控股股份有限公司 | 图像处理方法、移动终端及存储介质 |
| US11924467B2 (en) * | 2021-11-16 | 2024-03-05 | Google Llc | Mapping-aware coding tools for 360 degree videos |
| WO2023097095A1 (en) * | 2021-11-29 | 2023-06-01 | Beijing Dajia Internet Information Technology Co., Ltd. | Invertible filtering for video coding |
| WO2023153891A1 (ko) * | 2022-02-13 | 2023-08-17 | 엘지전자 주식회사 | 영상 인코딩/디코딩 방법 및 장치, 그리고 비트스트림을 저장한 기록 매체 |
| CN117201782A (zh) * | 2022-05-31 | 2023-12-08 | 华为技术有限公司 | 滤波方法、滤波模型训练方法及相关装置 |
| CN115277331B (zh) * | 2022-06-17 | 2023-09-12 | 哲库科技(北京)有限公司 | 信号补偿方法及装置、调制解调器、通信设备、存储介质 |
| CN115278248B (zh) * | 2022-09-28 | 2023-04-07 | 广东电网有限责任公司中山供电局 | 一种视频图像编码设备 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20040076333A1 (en) * | 2002-10-22 | 2004-04-22 | Huipin Zhang | Adaptive interpolation filter system for motion compensated predictive video coding |
| US20110080953A1 (en) | 2008-06-19 | 2011-04-07 | Thomson Licensing | Method for determining a filter for interpolating one or more pixels of a frame And Method And Device For Encoding Or Recoding A Frame |
Family Cites Families (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| AU2003246987A1 (en) * | 2002-07-09 | 2004-01-23 | Nokia Corporation | Method and system for selecting interpolation filter type in video coding |
| US8516026B2 (en) * | 2003-03-10 | 2013-08-20 | Broadcom Corporation | SIMD supporting filtering in a video decoding system |
| CN100566413C (zh) * | 2006-06-05 | 2009-12-02 | 华为技术有限公司 | 一种自适应插值处理方法及编解码模块 |
| CN100551073C (zh) * | 2006-12-05 | 2009-10-14 | 华为技术有限公司 | 编解码方法及装置、分像素插值处理方法及装置 |
| EP2048886A1 (en) * | 2007-10-11 | 2009-04-15 | Panasonic Corporation | Coding of adaptive interpolation filter coefficients |
| KR101648818B1 (ko) * | 2008-06-12 | 2016-08-17 | 톰슨 라이센싱 | 움직임 보상 보간 및 참조 픽쳐 필터링에 대한 국부적 적응형 필터링을 위한 방법 및 장치 |
| US8811484B2 (en) * | 2008-07-07 | 2014-08-19 | Qualcomm Incorporated | Video encoding by filter selection |
| KR101647376B1 (ko) * | 2009-03-30 | 2016-08-10 | 엘지전자 주식회사 | 비디오 신호 처리 방법 및 장치 |
| CN101616325B (zh) * | 2009-07-27 | 2011-05-11 | 清华大学 | 一种视频编码中自适应插值滤波计算的方法 |
| CN101790092B (zh) * | 2010-03-15 | 2013-02-06 | 河海大学常州校区 | 基于图像块编码信息的智能滤波器设计方法 |
| JP5570363B2 (ja) * | 2010-09-22 | 2014-08-13 | Ｋｄｄｉ株式会社 | 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、およびプログラム |
| JP5485851B2 (ja) * | 2010-09-30 | 2014-05-07 | 日本電信電話株式会社 | 映像符号化方法，映像復号方法，映像符号化装置，映像復号装置およびそれらのプログラム |
| JP5762243B2 (ja) * | 2011-10-18 | 2015-08-12 | 日本電信電話株式会社 | 映像符号化方法，装置，映像復号方法，装置およびそれらのプログラム |
| AU2013285749B2 (en) * | 2012-07-02 | 2016-06-16 | Samsung Electronics Co., Ltd. | Method and apparatus for predicting motion vector for coding video or decoding video |
| CN106063265B (zh) | 2014-02-26 | 2019-06-11 | 杜比实验室特许公司 | 用于视频压缩的基于亮度的编码工具 |
| US10462480B2 (en) * | 2014-12-31 | 2019-10-29 | Microsoft Technology Licensing, Llc | Computationally efficient motion estimation |
| WO2017052409A1 (en) * | 2015-09-25 | 2017-03-30 | Huawei Technologies Co., Ltd. | Apparatus and method for video motion compensation with selectable interpolation filter |
| US10341659B2 (en) * | 2016-10-05 | 2019-07-02 | Qualcomm Incorporated | Systems and methods of switching interpolation filters |
| KR102595689B1 (ko) * | 2017-09-29 | 2023-10-30 | 인텔렉추얼디스커버리 주식회사 | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 |
| CN108012157B (zh) * | 2017-11-27 | 2020-02-04 | 上海交通大学 | 用于视频编码分数像素插值的卷积神经网络的构建方法 |
-
2018
- 2018-10-06 CN CN201811166872.XA patent/CN111010568B/zh active Active
-
2019
- 2019-09-26 EP EP19869096.8A patent/EP3855741A4/en active Pending
- 2019-09-26 WO PCT/CN2019/108311 patent/WO2020069655A1/zh unknown
- 2019-09-26 JP JP2021518927A patent/JP7331095B2/ja active Active
- 2019-09-26 KR KR1020217013057A patent/KR102592279B1/ko active IP Right Grant
-
2021
- 2021-04-02 US US17/221,184 patent/US20210227243A1/en active Pending
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20040076333A1 (en) * | 2002-10-22 | 2004-04-22 | Huipin Zhang | Adaptive interpolation filter system for motion compensated predictive video coding |
| US20110080953A1 (en) | 2008-06-19 | 2011-04-07 | Thomson Licensing | Method for determining a filter for interpolating one or more pixels of a frame And Method And Device For Encoding Or Recoding A Frame |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022514160A (ja) | 2022-02-10 |
| US20210227243A1 (en) | 2021-07-22 |
| EP3855741A4 (en) | 2021-11-24 |
| JP7331095B2 (ja) | 2023-08-22 |
| EP3855741A1 (en) | 2021-07-28 |
| KR20210064370A (ko) | 2021-06-02 |
| CN111010568A (zh) | 2020-04-14 |
| WO2020069655A1 (zh) | 2020-04-09 |
| CN111010568B (zh) | 2023-09-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102592279B1 (ko) | 보간 필터 훈련 방법 및 장치, 비디오 화상 인코딩 및 디코딩 방법, 및 인코더 및 디코더 | |
| US11438578B2 (en) | Video picture prediction method and apparatus | |
| CN111225206B (zh) | 视频解码方法和视频解码器 | |
| CN111277828B (zh) | 视频编解码方法、视频编码器和视频解码器 | |
| CN112995663B (zh) | 视频编码的方法、视频解码的方法及相应装置 | |
| US20210360275A1 (en) | Inter prediction method and apparatus | |
| US20220094947A1 (en) | Method for constructing mpm list, method for obtaining intra prediction mode of chroma block, and apparatus | |
| EP4346212A2 (en) | Video picture decoding and encoding method and apparatus | |
| CN113709478B (zh) | 帧间预测方法、装置以及相应的编码器和解码器 | |
| AU2024201357A1 (en) | Picture prediction method and apparatus, and computer-readable storage medium | |
| US20210306630A1 (en) | Video coder and corresponding method | |
| KR102660120B1 (ko) | 이중 예측 옵티컬 플로 계산 및 이중 예측 보정에서 블록 레벨 경계 샘플 그레이디언트 계산을 위한 정수 그리드 참조 샘플의 위치를 계산하는 방법 | |
| AU2020261145B2 (en) | Picture prediction method and apparatus, and computer-readable storage medium | |
| CN112088534B (zh) | 一种帧间预测的方法、装置、设备及存储介质 | |
| CN112135137B (zh) | 视频编码器、视频解码器及相应方法 | |
| CN111432219B (zh) | 一种帧间预测方法及装置 | |
| EP3910955A1 (en) | Inter-frame prediction method and device | |
| KR102603966B1 (ko) | 비디오 인코더, 비디오 디코더 및 대응하는 방법 | |
| CN111277840B (zh) | 变换方法、反变换方法以及视频编码器和视频解码器 | |
| KR20210103561A (ko) | 인터 예측 방법 및 장치 | |
| CN113615191A (zh) | 图像显示顺序的确定方法、装置和视频编解码设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |