KR20220053563A - 화상 처리 장치 및 방법 - Google Patents

화상 처리 장치 및 방법 Download PDF

Info

Publication number
KR20220053563A
KR20220053563A KR1020227005511A KR20227005511A KR20220053563A KR 20220053563 A KR20220053563 A KR 20220053563A KR 1020227005511 A KR1020227005511 A KR 1020227005511A KR 20227005511 A KR20227005511 A KR 20227005511A KR 20220053563 A KR20220053563 A KR 20220053563A
Authority
KR
South Korea
Prior art keywords
transform
quantization
inverse
unit
coefficient
Prior art date
Application number
KR1020227005511A
Other languages
English (en)
Inventor
다케시 츠쿠바
Original Assignee
소니그룹주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 소니그룹주식회사 filed Critical 소니그룹주식회사
Publication of KR20220053563A publication Critical patent/KR20220053563A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H04N19/126—Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/48—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/507—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction using conditional replenishment
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 개시는, 부호화 및 복호에 의한 정보의 손실을 억제할 수 있도록 하는 화상 처리 장치 및 방법에 관한 것이다. 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화를 행하고, 변환 스킵을 적용하지 않을 경우, 역양자화에 의해 생성된 변환 계수에 대한 역 계수 변환을 행하여, 화상과 그 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 변환 스킵을 적용할 경우, 그 역 계수 변환을 스킵한다. 본 개시는, 예를 들어 화상 처리 장치, 화상 부호화 장치, 화상 복호 장치, 송신 장치, 수신 장치, 송수신 장치, 정보 처리 장치, 촬상 장치, 재생 장치, 전자 기기, 화상 처리 방법, 또는 정보 처리 방법 등에 적용할 수 있다.

Description

화상 처리 장치 및 방법
본 개시는, 화상 처리 장치 및 방법에 관한 것으로, 특히, 부호화 및 복호에 의한 정보의 손실을 억제할 수 있도록 한 화상 처리 장치 및 방법에 관한 것이다.
종래, 동화상의 예측 잔차를 도출하고, 계수 변환하고, 양자화하여 부호화하는 부호화 방법이 제안되었다(예를 들어, 비특허문헌 1). 또한, 그 화상 부호화에 있어서, 변환 양자화 바이패스를 사용하여 계수 변환이나 양자화 등을 스킵(생략)하고, 예측 잔차를 가역 부호화하는 무손실 부호화가 제안되었다(예를 들어, 비특허문헌 2).
그런데, 변환 양자화 바이패스를 사용하지 않고, 양자화 계수 Qcoef를 양자화 스텝 사이즈가 1이 되는 QP = 4로 역양자화하고, 변환 스킵함으로써 가역 부호화(무손실의 부호화)를 목표로 하는 방법이 있었다. 이러한 어프로치를 편의적으로 "변환 스킵+QP4" 어프로치라고 칭한다.
VTM-5.0 in https://vcgit.hhi.fraunhofer.de/jvet/VVCSoftware_VTM Tsung-Chuan Ma, Yi-Wen Chen, Xiaoyu Xiu, Xianglin Wang, Tangi Poirier, Fabrice Le Leannec, Karam Naser, Edouard Francois, Hyeongmun Jang, Junghak Nam, Naeri Park, Jungah Choi, Seunghwan Kim, Jaehyun Lim, "Lossless coding for VVC", JVET-O1061, m49678, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 15th Meeting: Gothenburg, SE, 3-12 July 2019
그러나, 이러한 "변환 스킵+QP4" 어프로치의 경우, 종래의 방법에서는, 파라미터의 설정이 무손실 부호화에 대응하지 않고, 부호화 및 복호에 의해 정보가 손실될 우려가 있었다.
본 개시는, 이러한 상황을 감안하여 이루어진 것이며, 부호화 및 복호에 의한 정보의 손실을 억제할 수 있도록 하는 것이다.
본 기술의 일 측면의 화상 처리 장치는, 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화를 행하는 역양자화부와, 상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화부에 의한 상기 역양자화에 의해 생성된 변환 계수에 대한 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는 역변환부를 구비하는 화상 처리 장치이다.
본 기술의 일 측면의 화상 처리 방법은, 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화를 행하고, 상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화에 의해 생성된 변환 계수에 대한 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는 화상 처리 방법이다.
본 기술의 다른 측면의 화상 처리 장치는, 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대한 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하는 변환부와, 상기 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 상기 변환 계수에 대한 양자화를 행하는 양자화부를 구비하는 화상 처리 장치이다.
본 기술의 다른 측면의 화상 처리 방법은, 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대한 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하고, 상기 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 상기 변환 계수에 대한 양자화를 행하는 화상 처리 방법이다.
본 기술의 또 다른 측면의 화상 처리 장치는, 양자화 계수에 대한 역양자화를 행하는 역양자화부와, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 역양자화부에 의한 상기 역양자화에 의해 생성된 변환 계수를 정규화하는 역양자화 정규화부와, 상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화 정규화부에 의해 정규화된 상기 변환 계수에 대하여 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는 역변환부를 구비하는 화상 처리 장치이다.
본 기술의 또 다른 측면의 화상 처리 방법은, 양자화 계수에 대한 역양자화를 행하고, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 역양자화에 의해 생성된 변환 계수를 정규화하고, 상기 변환 스킵을 적용하지 않을 경우, 정규화된 상기 변환 계수에 대하여 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는 화상 처리 방법이다.
본 기술의 또 다른 측면의 화상 처리 장치는, 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대하여 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하는 변환부와, 상기 변환 스킵을 적용하지 않을 경우, 상기 변환 계수에 대한 양자화를 행하고, 상기 변환 스킵을 적용할 경우, 상기 예측 잔차에 대한 상기 양자화를 행하는 양자화부와, 상기 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 양자화부에 의한 상기 양자화에 의해 생성된 양자화 계수를 정규화하는 양자화 정규화부를 구비하는 화상 처리 장치이다.
본 기술의 또 다른 측면의 화상 처리 방법은, 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대하여 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하고, 상기 변환 스킵을 적용하지 않을 경우, 상기 변환 계수에 대한 양자화를 행하고, 상기 변환 스킵을 적용할 경우, 상기 예측 잔차에 대한 상기 양자화를 행하고, 상기 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 양자화에 의해 생성된 양자화 계수를 정규화하는 화상 처리 방법이다.
본 기술의 일 측면의 화상 처리 장치 및 방법에 있어서는, 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화가 행해지고, 그 변환 스킵을 적용하지 않을 경우, 그 역양자화에 의해 생성된 변환 계수에 대한 역 계수 변환이 행해져, 화상과 그 화상의 예측 화상 간의 잔차인 예측 잔차가 생성되고, 그 변환 스킵을 적용할 경우, 역 계수 변환이 스킵된다.
본 기술의 다른 측면의 화상 처리 장치 및 방법에 있어서는, 변환 스킵을 적용하지 않을 경우, 화상과 그 화상의 예측 화상 간의 잔차인 예측 잔차에 대한 계수 변환이 행해져, 변환 계수가 생성되고, 그 변환 스킵을 적용할 경우, 그 계수 변환이 스킵되고, 그 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 그 변환 계수에 대한 양자화가 행해진다.
본 기술의 또 다른 측면의 화상 처리 장치 및 방법에 있어서는, 양자화 계수에 대한 역양자화가 행해지고, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 그 역양자화에 의해 생성된 변환 계수가 정규화되고, 변환 스킵을 적용하지 않을 경우, 정규화된 변환 계수에 대하여 역 계수 변환이 행해져, 화상과 그 화상의 예측 화상 간의 잔차인 예측 잔차가 생성되고, 변환 스킵을 적용할 경우, 역 계수 변환이 스킵된다.
본 기술의 또 다른 측면의 화상 처리 장치 및 방법에 있어서는, 변환 스킵을 적용하지 않을 경우, 화상과 그 화상의 예측 화상 간의 잔차인 예측 잔차에 대하여 계수 변환이 행해져, 변환 계수가 생성되고, 그 변환 스킵을 적용할 경우, 그 계수 변환이 스킵되고, 그 변환 스킵을 적용하지 않을 경우, 그 변환 계수에 대한 양자화가 행해지고, 그 변환 스킵을 적용할 경우, 그 예측 잔차에 대한 양자화가 행해지고, 그 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 그 양자화에 의해 생성된 양자화 계수가 정규화된다.
도 1은 변환 스킵에 기초하는 역양자화 역변환 및 변환 양자화의 제어 방법의 예를 설명하는 도면이다.
도 2는 역양자화 역변환 장치의 주된 구성예를 도시하는 블록도이다.
도 3은 역양자화 역변환 처리의 흐름의 예를 도시하는 흐름도이다.
도 4는 변환 스킵에 기초하는 양자화 파라미터 제어의 예를 설명하는 도면이다.
도 5는 변환 스킵에 기초하는 라운딩 오프셋 제어의 예를 설명하는 도면이다.
도 6은 변환 스킵에 기초하는 라운딩 오프셋 제어의 예를 설명하는 도면이다.
도 7은 변환 양자화 장치의 주된 구성예를 도시하는 블록도이다.
도 8은 변환 양자화 처리의 흐름의 예를 도시하는 흐름도이다.
도 9는 역양자화 역변환 장치의 주된 구성예를 도시하는 블록도이다.
도 10은 역양자화 역변환 처리의 흐름의 예를 도시하는 흐름도이다.
도 11은 변환 스킵에 기초하는 스케일링 파라미터 제어의 예를 설명하는 도면이다.
도 12는 변환 스킵에 기초하는 스케일링 파라미터 제어의 예를 설명하는 도면이다.
도 13은 변환 스킵에 기초하는 스케일링 파라미터 제어의 예를 설명하는 도면이다.
도 14는 변환 양자화 장치의 주된 구성예를 도시하는 블록도이다.
도 15는 변환 양자화 처리의 흐름의 예를 도시하는 흐름도이다.
도 16은 역양자화 역변환 장치의 주된 구성예를 도시하는 블록도이다.
도 17은 역양자화 역변환 처리의 흐름의 예를 도시하는 흐름도이다.
도 18은 변환 스킵에 기초하는 스케일링 파라미터 제어의 예를 설명하는 도면이다.
도 19는 변환 스킵에 기초하는 스케일링 파라미터 제어의 예를 설명하는 도면이다.
도 20은 변환 양자화 장치의 주된 구성예를 도시하는 블록도이다.
도 21은 변환 양자화 처리의 흐름의 예를 도시하는 흐름도이다.
도 22는 화상 부호화 장치의 주된 구성예를 도시하는 블록도이다.
도 23은 화상 부호화 처리의 흐름의 예를 도시하는 흐름도이다.
도 24는 화상 복호 장치의 주된 구성예를 도시하는 블록도이다.
도 25는 화상 복호 처리의 흐름의 예를 도시하는 흐름도이다.
도 26은 컴퓨터의 주된 구성예를 도시하는 블록도이다.
이하, 본 개시를 실시하기 위한 형태(이하 실시 형태라고 함)에 대하여 설명한다. 또한, 설명은 이하의 순서로 행한다.
1. 변환 스킵에 의한 준무손실 부호화
2. 제1 실시 형태(파라미터 제어)
3. 제2 실시 형태(변환 스킵 시의 압축 해제 처리의 머지)
4. 제3 실시 형태(변환 스킵 시의 정규화 처리의 머지)
5. 제4 실시 형태(화상 복호 장치)
6. 제5 실시 형태(화상 부호화 장치)
7. 부기
<1. 변환 스킵에 의한 준무손실 부호화>
<기술 내용·기술 용어를 서포트하는 문헌 등>
본 기술에서 개시되는 범위는, 실시 형태에 기재되어 있는 내용뿐만 아니라, 출원 당시에 있어서 공지되어 있는 이하의 비특허문헌 등에 기재되어 있는 내용이나 이하의 비특허문헌에 있어서 참조되어 있는 다른 문헌의 내용 등도 포함된다.
비특허문헌 1: (상술)
비특허문헌 2: (상술)
비특허문헌 3: Benjamin Bross, Jianle Chen, Shan Liu, "Versatile Video Coding (Draft 5)", N1001-v10, m48053, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 14th Meeting: Geneva, CH, 19-27 Mar. 2019
비특허문헌 4: Jianle Chen, Yan Ye, Seung Hwan Kim, "Algorithm description for Versatile Video Coding and Test Model 5 (VTM 5)", JVET-N1002-v2, m48054, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 14th Meeting: Geneva, CH, 19-27 Mar. 2019
비특허문헌 5: Benjamin Bross, Jianle Chen, Shan Liu, "Versatile Video Coding (Draft 6)", JVET-O2001-vE, m49908, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 15th Meeting: Gothenburg, SE, 3-12 July 2019
비특허문헌 6: Jianle Chen, Yan Ye, Seung Hwan Kim, "Algorithm description for Versatile Video Coding and Test Model 6 (VTM 6)", JVET-O2002-v2, m49914, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 15th Meeting: Gothenburg, SE, 3-12 July 2019
비특허문헌 7: Tsung-Chuan Ma, Yi-Wen Chen, Xiaoyu Xiu, Xianglin Wang, "Modifications to support the lossless coding", JVET-O0591, m48730, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 15th Meeting: Gothenburg, SE, 3-12 July 2019
비특허문헌 8: Hyeongmun Jang, Junghak Nam, Naeri Park, Jungah Choi Seunghwan Kim, Jaehyun Lim, "Comments on transform quantization bypassed mode", JVET-O0584, m48723, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 15th Meeting: Gothenburg, SE, 3-12 July 2019
비특허문헌 9: Tangi Poirier, Fabrice Le Leannec, Karam Naser, Edouard Francois, "On lossless coding for VVC" JVET-O0460, m48583, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 15th Meeting: Gothenburg, SE, 3-12 July 2019
비특허문헌 10: Recommendation ITU-T H.264 (04/2017) "Advanced video coding for generic audiovisual services", April 2017
비특허문헌 11: Recommendation ITU-T H.265 (02/18) "High efficiency video coding", february 2018
즉, 상술한 비특허문헌에 기재되어 있는 내용도 서포트 요건을 판단할 때의 근거가 된다. 예를 들어, 상술한 비특허문헌에 기재되어 있는 Quad-Tree Block Structure, QTBT(Quad Tree Plus Binary Tree) Block Structure가 실시예에 있어서 직접적인 기재가 없는 경우에도, 본 기술의 개시 범위 내이며, 청구범위의 서포트 요건을 충족시키는 것으로 한다. 또한, 예를 들어, 파싱(Parsing), 신택스(Syntax), 시맨틱스(Semantics) 등의 기술 용어에 대해서도 마찬가지로, 실시예에 있어서 직접적인 기재가 없는 경우에도, 본 기술의 개시 범위 내이며, 청구범위의 서포트 요건을 충족시키는 것으로 한다.
또한, 본 명세서에 있어서, 화상(픽처)의 부분 영역이나 처리 단위로서 설명에 사용되는 「블록」(처리부를 나타내는 블록은 아님)은, 특별히 언급하지 않는 한, 픽처 내의 임의의 부분 영역을 나타내고, 그 크기, 형상 및 특성 등은 한정되지 않는다. 예를 들어, 「블록」에는, 상술한 비특허문헌에 기재되어 있는 TB(Transform Block), TU(Transform Unit), PB(Prediction Block), PU(Prediction Unit), SCU(Smallest Coding Unit), CU(Coding Unit), LCU(Largest Coding Unit), CTB(Coding Tree Block), CTU(Coding Tree Unit), 서브블록, 매크로블록, 타일 또는 슬라이스 등, 임의의 부분 영역(처리 단위)이 포함되는 것으로 한다.
또한, 이러한 블록의 사이즈를 지정함에 있어서, 직접적으로 블록 사이즈를 지정할 뿐만 아니라, 간접적으로 블록 사이즈를 지정하도록 해도 된다. 예를 들어 사이즈를 식별하는 식별 정보를 사용하여 블록 사이즈를 지정하도록 해도 된다. 또한, 예를 들어, 기준이 되는 블록(예를 들어 LCU나 SCU 등)의 사이즈와의 비 또는 차분에 의해 블록 사이즈를 지정하도록 해도 된다. 예를 들어, 신택스 요소 등으로서 블록 사이즈를 지정하는 정보를 전송하는 경우에, 그 정보로서, 상술한 바와 같은 간접적으로 사이즈를 지정하는 정보를 사용하도록 해도 된다. 이렇게 함으로써, 그 정보의 정보량을 저감시킬 수 있고, 부호화 효율을 향상시킬 수 있는 경우도 있다. 또한, 이 블록 사이즈의 지정에는, 블록 사이즈의 범위의 지정(예를 들어, 허용되는 블록 사이즈의 범위의 지정 등)도 포함한다.
또한, 본 명세서에 있어서, 부호화란, 화상을 비트스트림으로 변환하는 전체의 처리뿐만 아니라, 일부의 처리도 포함한다. 예를 들어, 예측 처리, 직교 변환, 양자화, 산술 부호화 등을 포괄한 처리를 포함할 뿐만 아니라, 양자화와 산술 부호화를 총칭한 처리, 예측 처리와 양자화와 산술 부호화를 포괄한 처리 등을 포함한다. 마찬가지로, 복호란, 비트스트림을 화상으로 변환하는 전체의 처리뿐만 아니라, 일부의 처리도 포함한다. 예를 들어, 역산술 복호, 역양자화, 역 직교 변환, 예측 처리 등을 포괄한 처리를 포함할 뿐만 아니라, 역산술 복호와 역양자화를 포괄한 처리, 역산술 복호와 역양자화와 예측 처리를 포괄한 처리 등을 포함한다.
<"변환 스킵+QP4" 어프로치>
비특허문헌 2에는, 비특허문헌 1의 화상 부호화에 있어서, 변환 양자화 바이패스를 사용하여 계수 변환이나 양자화 등을 스킵(생략)하고, 예측 잔차를 가역 부호화하는 부호화 방법인 무손실 부호화가 개시되어 있다.
그런데, 변환 양자화 바이패스를 사용하지 않고, 양자화 계수 Qcoef를 양자화 스텝 사이즈가 1이 되는 QP = 4로 역양자화하고, 변환 스킵함으로써 가역 부호화(무손실의 부호화)를 목표로 하는 방법이 있었다. 이러한 어프로치를 편의적으로 "변환 스킵+QP4" 어프로치라고 칭한다.
그러나, 이러한 "변환 스킵+QP4" 어프로치의 경우, 종래의 방법에서는, 파라미터의 설정이 무손실 부호화에 대응하지 않고, 부호화 및 복호에 의해 정보가 손실될 우려가 있었다.
<2. 제1 실시 형태>
<역양자화 역변환의 파라미터 제어>
그래서, 역양자화 역변환 처리에 있어서, 도 1의 표의 위로부터 1번째의 단(최상단)에 제시되는 바와 같이, 손실되는 정보량을 저감시키도록, 역양자화 역변환에 관한 파라미터를 설정한다(방법 1-1).
역양자화 역변환 처리는, 양자화 계수를 역양자화하여 변환 계수를 생성하고, 그 변환 계수를 역 계수 변환하여 예측 잔차를 생성하는 처리이다. 예측 잔차는, 화상과 그 화상의 예측 화상 간의 잔차이다. 예측 화상은, 그 화상의 시간적으로 주변의 정보, 그 화상의 공간적으로 주변의 정보, 또는 그 양쪽에 기초하여 생성된다. 시간적으로 주변의 정보란, 그 화상과 상이한 프레임의 정보이다. 공간적으로 주변의 정보란, 그 화상과 동일한 프레임의 정보이다. 역 계수 변환은, 예측 잔차를 계수 변환하여 변환 계수를 생성하는 처리인 계수 변환의 역 처리이다. 역양자화는, 계수 변환에 의해 생성된 변환 계수를 양자화하여 양자화 계수를 생성하는 처리인 양자화의 역 처리이다. 즉, 역양자화 역변환 처리는, 계수 변환 및 양자화를 행하는 변환 양자화의 역 처리이다. 따라서, 역양자화 역변환 처리는, 예측 잔차를 변환 양자화하여 생성된 양자화 계수를 역양자화 역변환하여 예측 잔차를 생성할 수 있다.
이러한 역양자화 역변환 처리에 있어서, 정보의 손실을 억제하도록 파라미터를 제어함으로써, 이 역양자화 역변환 처리를 적용한 복호에 의한 정보의 손실을 억제할 수 있다. 즉, "변환 스킵+QP4" 어프로치에 의한 복호를, 가역 복호(무손실 부호화)에 가깝게 할 수 있다.
<1-1: 역양자화 역변환 장치>
도 2는, 본 기술을 적용한 화상 처리 장치의 일 양태인 역양자화 역변환 장치의 구성의 일례를 도시하는 블록도이다. 도 2에 도시되는 역양자화 역변환 장치(100)는, 양자화 계수를 역양자화 역변환하여, 예측 잔차를 생성하는 장치이다.
또한, 도 2에 있어서는, 처리부나 데이터의 흐름 등의 주된 것을 도시하고 있고, 도 2에 도시되는 것이 전부라고는 할 수 없다. 즉, 역양자화 역변환 장치(100)에 있어서, 도 2에 있어서 블록으로서 도시되어 있지 않은 처리부가 존재하거나, 도 2에 있어서 화살표 등으로서 도시되어 있지 않은 처리나 데이터의 흐름이 존재하거나 해도 된다.
도 2에 도시되는 바와 같이 역양자화 역변환 장치(100)는, 역양자화부(101) 및 역변환부(102)를 갖는다. 역양자화부(101)는, 역양자화에 관한 처리를 행한다. 역변환부(102)는, 역 계수 변환에 관한 처리를 행한다.
역양자화부(101)는, 역양자화 처리부(111) 및 정규화부(112)를 갖는다. 역양자화 처리부(111)는, 역양자화 역변환 장치(100)에 입력되는 양자화 계수를 취득한다. 역양자화 처리부(11)는, 취득한 양자화 계수에 대하여 역양자화를 행하여, 변환 계수를 생성한다. 역양자화 처리부(111)는, 생성한 변환 계수를 정규화부(112)에 공급한다. 정규화부(112)는, 역양자화 처리부(111)로부터 공급되는 변환 계수를 취득한다. 정규화부(112)는, 취득한 변환 계수를 정규화한다. 정규화부(112)는, 정규화한 변환 계수를 역변환부(102)에 공급한다.
역변환부(102)는, 선택부(121), 역변환 처리부(122), 선택부(123), 정규화부(124), 및 압축 해제 처리부(125)를 갖는다.
선택부(121) 및 선택부(123)는, 역 계수 변환을 스킵하는 모드인 변환 스킵을 적용할지 여부를 선택한다. 변환 스킵은, 계수 변환 처리에 있어서 그 계수 변환 처리를 스킵하는 모드이며, 역 계수 변환 처리에 있어서 그 역 계수 변환 처리를 스킵하는 모드이다.
선택부(121)는, 역양자화부(101)로부터 공급되는 변환 계수를 취득한다. 변환 스킵을 적용하지 않을 경우, 즉, 역 계수 변환 처리를 행할 경우, 선택부(121)는, 취득한 변환 계수를 역변환 처리부(122)에 공급한다. 또한, 선택부(123)는, 역변환 처리부(122)로부터 공급되는 예측 잔차를 취득하여, 정규화부(124)에 공급한다.
변환 스킵을 적용할 경우, 즉, 역 계수 변환 처리를 스킵할 경우, 선택부(121)는, 취득한 변환 계수를 압축 해제 처리부(125)에 공급한다. 이 경우, 계수 변환 처리가 스킵되어 있으므로, 이 변환 계수는 예측 잔차이다. 또한, 선택부(123)는, 압축 해제 처리부(125)로부터 공급되는 변환 계수(즉 예측 잔차)를 취득하여, 정규화부(124)에 공급한다.
역변환 처리부(122)는, 역양자화부(101)로부터 공급되는 변환 계수를, 선택부(121)를 통하여 취득한다. 이 변환 계수는, 정규화부(112)에 의해 정규화된 것이다. 역변환 처리부(122)는, 취득한 변환 계수에 대하여 역 계수 변환을 행하여, 예측 잔차를 생성한다. 역변환 처리부(122)는, 생성한 예측 잔차를, 선택부(123)를 통하여 정규화부(124)에 공급한다.
압축 해제 처리부(125)는, 역양자화부(101)로부터 공급되는 변환 계수를, 선택부(121)를 통하여 취득한다. 이 변환 계수는, 정규화부(112)에 의해 정규화된 것이다. 또한, 이 변환 계수는 예측 잔차이다. 압축 해제 처리부(125)는, 취득한 변환 계수(즉 예측 잔차)를 압축 해제시킨다. 압축 해제 처리부(125)는, 압축 해제시킨 변환 계수(즉 예측 잔차)를 선택부(123)를 통하여 정규화부(124)에 공급한다.
정규화부(124)는, 변환 스킵을 적용하지 않을 경우, 즉, 역 계수 변환 처리를 행할 경우, 역변환 처리부(122)로부터 공급되는 예측 잔차를, 선택부(123)를 통하여 취득한다. 또한, 변환 스킵을 적용할 경우, 즉, 역 계수 변환 처리를 스킵할 경우, 정규화부(124)는, 압축 해제 처리부(125)로부터 공급되는 변환 계수(즉 예측 잔차)를 선택부(123)를 통하여 취득한다. 정규화부(124)는, 취득한 예측 잔차를 정규화한다. 정규화부(124)는, 정규화한 예측 잔차를 역양자화 역변환 장치(100)의 외부에 출력한다.
이러한 역양자화 역변환 장치(100)에 있어서, 상술한 (방법 1-1)을 적용한다. 즉, 역양자화 역변환 장치(100)는, 정보의 손실을 억제하도록 역양자화 역변환에 관한 파라미터를 설정한다. 역양자화 처리부(111)는, 이와 같이 설정된 파라미터를 사용하여 역양자화를 행할 수 있다. 정규화부(112)는, 이와 같이 설정된 파라미터를 사용하여 정규화를 행할 수 있다. 정규화부(124)는, 이와 같이 설정된 파라미터를 사용하여 정규화를 행할 수 있다.
이렇게 함으로써, 역양자화 역변환 장치(100)는, 이 역양자화 역변환 처리를 적용한 복호에 의한 정보의 손실을 억제할 수 있다. 즉, 역양자화 역변환 장치(100)는, "변환 스킵+QP4" 어프로치에 의한 복호를, 가역 복호(무손실 부호화)에 가깝게 할 수 있다.
<역양자화 역변환 처리의 흐름>
다음으로, 이 역양자화 역변환 장치(100)에 의해 실행되는 역양자화 역변환 처리의 흐름의 예를, 도 3의 흐름도를 참조하여 설명한다.
역양자화 역변환 처리가 개시되면, 역양자화부(101)는, 스텝 S101에 있어서, 역양자화에 관한 파라미터를 설정한다.
스텝 S102에 있어서, 역양자화 처리부(111)는, 양자화 계수에 대하여, 스텝 S101에 있어서 설정된 파라미터를 사용하여 역양자화를 행하여, 변환 계수를 생성한다.
스텝 S103에 있어서, 정규화부(112)는, 스텝 S102에 있어서 생성된 변환 계수를, 스텝 S101에 있어서 설정된 파라미터를 사용하여 정규화한다.
스텝 S104에 있어서, 선택부(121) 및 선택부(123)는, 변환 스킵을 적용할지 여부를 판정한다. 변환 스킵을 적용하지 않는다고 판정된 경우, 처리는 스텝 S105로 진행한다.
스텝 S105에 있어서, 역변환부(102)는, 역 계수 변환에 관한 파라미터를 설정한다.
스텝 S106에 있어서, 역변환 처리부(122)는, 스텝 S103에 있어서 정규화된 변환 계수에 대하여, 스텝 S105에 있어서 설정된 파라미터를 사용하여 역 계수 변환을 행하여, 예측 잔차를 생성한다. 스텝 S106의 처리가 종료되면 처리는 스텝 S108로 진행한다.
또한, 스텝 S104에 있어서, 변환 스킵을 적용한다고 판정된 경우, 처리는 스텝 S107로 진행한다. 스텝 S107에 있어서, 압축 해제 처리부(125)는, 스텝 S103에 있어서 정규화된 변환 계수(즉 예측 잔차)를 압축 해제시킨다. 스텝 S107의 처리가 종료되면 처리는 스텝 S108로 진행한다.
스텝 S108에 있어서, 정규화부(124)는, 스텝 S106에 있어서 생성된 예측 잔차, 또는 스텝 S107에 있어서 압축 해제된 변환 계수(즉 예측 잔차)를, 스텝 S105에 있어서 설정된 파라미터를 사용하여 정규화한다.
스텝 S108의 처리가 종료되면 역양자화 역변환 처리가 종료된다.
이러한 역양자화 역변환 처리에 있어서, 상술한 (방법 1-1)을 적용한다. 즉, 스텝 S101에 있어서, 역양자화부(101)는, 정보의 손실을 억제하도록 역양자화에 관한 파라미터를 설정한다. 스텝 S102에 있어서, 역양자화 처리부(111)는, 이와 같이 설정된 파라미터를 사용하여 역양자화를 행할 수 있다. 스텝 S103에 있어서, 정규화부(112)는, 이와 같이 설정된 파라미터를 사용하여 정규화를 행할 수 있다. 또한, 스텝 S105에 있어서, 역변환부(102)는, 정보의 손실을 억제하도록 역 계수 변환에 관한 파라미터를 설정한다. 스텝 S108에 있어서, 정규화부(124)는, 이와 같이 설정된 파라미터를 사용하여 정규화를 행할 수 있다.
이렇게 함으로써, 역양자화 역변환 장치(100)는, 이 역양자화 역변환 처리를 적용한 복호에 의한 정보의 손실을 억제할 수 있다. 즉, 역양자화 역변환 장치(100)는, "변환 스킵+QP4" 어프로치에 의한 복호를, 가역 복호(무손실 부호화)에 가깝게 할 수 있다.
<1-1-1: 양자화 파라미터의 제어>
상술한 바와 같이, 역양자화에 관한 파라미터를 제어하도록 해도 된다. 예를 들어, 화상 처리에 있어서, 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화를 행하도록 해도 된다.
예를 들어, 화상 처리 장치에 있어서, 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화를 행하는 역양자화부를 구비하도록 해도 된다.
이렇게 함으로써, 화상 처리 장치는, 이 역양자화부에 의한 역양자화를 적용한 복호에 의한 정보의 손실을 억제할 수 있다. 즉, 화상 처리 장치는, "변환 스킵+QP4" 어프로치에 의한 복호를, 가역 복호(무손실 부호화)에 가깝게 할 수 있다.
그때, 그 역양자화부가, 역양자화에 있어서 역 의존 양자화를 적용하고, 또한 변환 스킵을 적용하지 않을 경우, 양자화 파라미터를 보정하고, 보정한 양자화 파라미터를 사용하여 역양자화를 행하도록 해도 된다. 즉, 도 1의 표의 위로부터 2번째의 단에 제시되는 바와 같이, 변환 스킵에 기초하여 의존 양자화의 양자화 파라미터(QP)의 보정을 제어해도 된다(방법 1-1-1).
예를 들어, 비특허문헌 5에 기재된 부호화 방법에서는, 양자화의 모드로서 의존 양자화(DQ(Dependent Quantization))가 준비되어 있다. 의존 양자화에서는, 과거의 처리 대상의 변환 계수와 패리티 플래그에 기초하여, 현재의 처리 대상의 계수에 적용되는 양자화 파라미터(QP)에 대응하는 양자화 스텝 사이즈를 홀수배로 할지 짝수배로 할지의 선택이 행해진다. 즉, 어떤 양자화 파라미터에 대한 양자화 스텝 사이즈가 이전의 상태에 따라서 변환된다(분기된다). 이렇게 함으로써, 부호화 효율의 저감을 억제할 수 있다.
도 4의 A는, 비특허문헌 5에 기재되어 있는, 이러한 의존 양자화에 관한 시맨틱스이다. 이 시맨틱스에 제시되는 바와 같이, 의존 양자화가 적용될 경우, 양자화 파라미터(QP)가 보정된다. 즉, 의존 양자화가 적용되지 않을 경우, 식 (8-960)과 같이, 양자화 파라미터(qP)를 사용하여, 스케일링 파라미터 ls가 도출된다. 이에 반하여, 의존 양자화가 적용될 경우, 식 (8-959)와 같이, 보정된 양자화 파라미터(qP' = qP + 1)를 사용하여, 스케일링 파라미터 ls가 도출된다.
역양자화에 있어서도 마찬가지로, 의존 양자화를 적용할 수 있다. 실제로는, 역양자화에 있어서는, 의존 양자화의 역 처리(역 의존 양자화라고도 칭함)가 적용된다. 따라서, 역양자화에 있어서도, 의존 양자화가 적용될 경우, 양자화 파라미터가 마찬가지로 보정된다.
그러나, 변환 스킵이 적용될 경우, 양자화 파라미터의 최솟값은 4이므로, 이러한 의존 양자화에 의한 양자화 파라미터의 보정(QP + 1)에 의해, 양자화 스텝 사이즈를 1로 할 수 없게 된다. 그 때문에, 역양자화에 의한 정보의 손실이 발생할 우려가 있었다.
그래서, 예를 들어 도 4의 B에 제시되는 시맨틱스와 같이, 상술한 식 (8-959)의 조건에, 「또한, 변환 스킵 플래그(transform_skip_flag)가 변환 스킵을 적용하는 것을 나타내는 값(IS_SKIP)이 아닌 경우」를 추가한다. 변환 스킵 플래그(transform_skip_flag)는, 변환 스킵을 적용할지 여부를 나타내는 플래그 정보이다. 예를 들어, 변환 스킵 플래그가 참(예를 들어 1)인 경우, 변환 스킵을 적용하는 것을 나타낸다. 변환 스킵 플래그가 거짓(예를 들어 0)인 경우, 변환 스킵을 적용하지 않는 것을 나타낸다. 부언하건대, 상술한 식 (8-960)의 조건에, 「또는, 변환 스킵 플래그(transform_skip_flag)가 참(IS_SKIP)인 경우」를 추가한다.
역양자화 처리부(111)는, 이러한 시맨틱스에 따라서 스케일링 파라미터 ls를 도출한다. 이렇게 함으로써, 변환 스킵을 적용할 경우, 식 (8-960)이 적용되어, 의존 양자화(역 의존 양자화)에 의한 양자화 파라미터의 보정이 생략된다. 따라서, 역양자화 처리부(111)는, 변환 스킵을 적용할 경우의, 역 의존 양자화에 의한 정보의 손실을 억제할 수 있다.
<1-1-2: 라운딩 오프셋의 부호 제어>
제어 대상으로 하는 역양자화에 관한 파라미터는, 양자화 파라미터 이외여도 된다. 예를 들어, 도 1의 표의 위로부터 3번째의 단에 제시되는 바와 같이, 예를 들어, 입력값인 변환 계수의 부호에 기초하여 역양자화에 있어서의 정규화 처리의 라운딩 오프셋의 부호가 설정되어도 된다(방법 1-1-2).
예를 들어, 화상 처리 장치에 있어서, 변환 계수의 부호에 기초하여 라운딩 오프셋의 부호를 설정하고, 그 라운딩 오프셋을 사용하여 변환 계수를 정규화하는 역양자화 정규화부를 더 구비하도록 해도 된다. 그리고, 역변환부가, 변환 스킵을 적용하지 않을 경우, 그 역양자화 정규화부에 의해 정규화된 변환 계수에 대하여 역 계수 변환을 행하도록 해도 된다.
도 5의 A는, 비특허문헌 5에 기재되어 있는, 역양자화에 있어서의 정규화 처리(정규화부(112)에 의한 정규화 처리)에 관한 시맨틱스이다. 이 시맨틱스에 제시되는 바와 같이, 역양자화에 있어서의 정규화 처리에 있어서는, 라운딩 오프셋 bdOffset1과 스케일링 파라미터 bdShift1을 사용하여, 논리 비트 시프트에 의한 정규화가 행해진다(식 (8-963)). 라운딩 오프셋 bdOffset1은, 스케일링 파라미터 bdShift1을 사용하여 이하의 식 (A)와 같이 도출된다.
bdOffset1 = (1<<(bdShift1-1)) … (A)
이와 같이 정규화 처리가 논리 비트 시프트이기 때문에, 반올림 오차(데드 존이라고도 칭함)의 부호(양음)에 치우침이 발생한다. 그 때문에, 역양자화가 불가역의 처리가 될 우려가 있었다. 즉, 역양자화에 있어서 정보의 손실이 발생할 우려가 있었다.
그래서, 예를 들어 도 5의 B에 제시되는 시맨틱스와 같이, 입력값인 변환 계수의 부호에 기초하여 역양자화에 있어서의 정규화 처리의 라운딩 오프셋의 부호가 설정되도록 한다. 즉, 이하의 식 (B)에 제시되는 바와 같이, 변환 계수 레벨 TransCoefLevel[xTbY][yTbY][cIdx](=dz[x][y])의 부호 sign(dz[x][y])가 더 승산되도록 한다.
bdOffset1 = sign(dz[x][y])*(1<<(bdShift1-1)) … (B)
예를 들어, 역양자화 역변환 장치(100)에 있어서, 역양자화부(101)가, 식 (B)와 같이, 라운딩 오프셋 bdOffset1을 도출하고, 정규화부(112)가, 그 라운딩 오프셋 bdOffset1과 스케일링 파라미터 bdShift1을 사용하여, 정규화를 행한다.
환언하건대, 역양자화부(101)가, 변환 계수 레벨 TransCoefLevel[xTbY][yTbY][cIdx](=dz[x][y])의 부호 sign(dz[x][y])를 승산함으로써, 식 (A)에 의해 도출되는 라운딩 오프셋 bdOffset1을 보정한다. 그리고, 정규화부(112)는, 그 보정 후의 라운딩 오프셋 bdOffset1'과 스케일링 파라미터 bdShift1을 사용하여, 정규화를 행한다.
이렇게 함으로써, 정규화부(112)는, 산술 비트 시프트에 의해 정규화 처리를 행할 수 있으므로, 반올림 오차의 부호(양음)의 치우침을 저감시켜, 역양자화에 있어서 정보의 손실을 억제할 수 있다.
<1-1-3: 라운딩 오프셋의 부호 제어>
역변환에 관한 파라미터를 제어 대상으로 해도 된다. 예를 들어, 도 1의 표의 위로부터 4번째의 단에 제시되는 바와 같이, 예를 들어 입력값인 예측 잔차의 부호에 기초하여 역 계수 변환에 있어서의 정규화 처리의 라운딩 오프셋의 부호가 설정되어도 된다(방법 1-1-3).
예를 들어, 화상 처리 장치에 있어서, 변환 스킵을 적용하지 않을 경우, 예측 잔차의 부호에 기초하여 라운딩 오프셋의 부호를 설정하고, 그 라운딩 오프셋을 사용하여 예측 잔차를 정규화하고, 변환 스킵을 적용할 경우, 변환 계수(즉 예측 잔차)의 부호에 기초하여 라운딩 오프셋의 부호를 설정하고, 그 라운딩 오프셋을 사용하여 변환 계수(즉 예측 잔차)를 정규화하는 역변환 정규화부를 더 구비하도록 해도 된다.
도 6의 A는, 비특허문헌 5에 기재되어 있는, 역 계수 변환에 있어서의 정규화 처리(정규화부(124)에 의한 정규화 처리)에 관한 시맨틱스이다. 이 시맨틱스에 제시되는 바와 같이, 역 계수 변환에 있어서의 정규화 처리에 있어서는, 라운딩 오프셋 bdOffset2와 스케일링 파라미터 bdShift2를 사용하여, 논리 비트 시프트에 의한 정규화가 행해진다(식 (8-946)). 라운딩 오프셋 bdOffset2는, 스케일링 파라미터 bdShift2를 사용하여 이하의 식 (C)와 같이 도출된다.
bdOffset2 = (1<<(bdShift2-1)) … (C)
이와 같이 정규화 처리가 논리 비트 시프트이기 때문에, 반올림 오차(데드 존이라고도 칭함)의 부호(양음)에 치우침이 발생한다. 그 때문에, 역 계수 변환이 불가역의 처리가 될 우려가 있었다. 즉, 역 계수 변환에 있어서 정보의 손실이 발생할 우려가 있었다.
그래서, 예를 들어 도 6의 B에 제시되는 시맨틱스와 같이, 입력값인 예측 잔차의 부호에 기초하여 역 계수 변환에 있어서의 정규화 처리의 라운딩 오프셋의 부호가 설정되도록 한다. 즉, 이하의 식 (D)에 제시되는 바와 같이, 예측 잔차 r[x][y]의 부호 sign(r[x][y])가 더 승산되도록 한다.
bdOffset2 = sign(r[x][y])*(1<<(bdShift2-1)) … (D)
예를 들어, 역양자화 역변환 장치(100)에 있어서, 역변환부(102)가, 식 (D)와 같이, 라운딩 오프셋 bdOffset2를 도출하고, 정규화부(124)가, 그 라운딩 오프셋 bdOffset2와 스케일링 파라미터 bdShift2를 사용하여, 정규화를 행한다.
환언하건대, 역변환부(102)가, 예측 잔차 r[x][y]의 부호 sign(r[x][y])를 승산함으로써, 식 (C)에 의해 도출되는 라운딩 오프셋 bdOffset2를 보정한다. 그리고, 정규화부(124)는, 그 보정 후의 라운딩 오프셋 bdOffset2'과 스케일링 파라미터 bdShift2를 사용하여, 정규화를 행한다.
이렇게 함으로써, 정규화부(124)는, 산술 비트 시프트에 의해 정규화 처리를 행할 수 있으므로, 반올림 오차의 부호(양음)의 치우침을 저감시켜, 역 계수 변환에 있어서 정보의 손실을 억제할 수 있다.
<1-1-4: 조합>
<1-1-1: 양자화 파라미터의 제어>, <1-1-2: 라운딩 오프셋의 부호 제어>, 및 <1-1-3: 라운딩 오프셋의 부호 제어> 각각에 있어서 설명한 각 방법은, 적절히 조합하여 적용할 수 있다. 더 많은 방법을 조합함으로써, 역양자화 역변환 장치(100)는, 역양자화 역변환 처리에 있어서의 정보의 손실을 더 억제할 수 있다. 즉, 역양자화 역변환 장치(100)는, 상술한 각 방법을 더 많이 조합함으로써, "변환 스킵+QP4" 어프로치에 의한 복호를, 가역 복호(무손실 부호화)에 더 가깝게 할 수 있다.
<변환 양자화의 파라미터 제어>
역양자화 역변환 처리의 경우와 마찬가지로, 변환 양자화 처리에 있어서, 도 1의 표의 위로부터 5번째의 단에 제시되는 바와 같이, 손실되는 정보량을 저감시키도록, 변환 양자화에 관한 파라미터를 설정해도 된다(방법 1-2).
변환 양자화 처리에 있어서, 정보의 손실을 억제하도록 파라미터를 제어함으로써, 이 변환 양자화 처리를 적용한 부호화에 의한 정보의 손실을 억제할 수 있다. 즉, "변환 스킵+QP4" 어프로치에 의한 부호화를, 가역 부호화(무손실 부호화)에 가깝게 할 수 있다.
<1-2: 변환 양자화 장치>
도 7은, 본 기술을 적용한 화상 처리 장치의 일 양태인 변환 양자화 장치의 구성의 일례를 도시하는 블록도이다. 도 7에 도시되는 변환 양자화 장치(200)는, 예측 잔차를 변환 양자화하여, 양자화 계수를 생성하는 장치이다.
또한, 도 7에 있어서는, 처리부나 데이터의 흐름 등의 주된 것을 도시하고 있고, 도 7에 도시되는 것이 전부라고는 할 수 없다. 즉, 변환 양자화 장치(200)에 있어서, 도 7에 있어서 블록으로서 도시되어 있지 않은 처리부가 존재하거나, 도 7에 있어서 화살표 등으로서 도시되어 있지 않은 처리나 데이터의 흐름이 존재하거나 해도 된다.
도 7에 도시되는 바와 같이 변환 양자화 장치(200)는, 변환부(201) 및 양자화부(202)를 갖는다. 변환부(201)는, 계수 변환에 관한 처리를 행한다. 양자화부(202)는, 양자화에 관한 처리를 행한다.
변환부(201)는, 선택부(211), 변환 처리부(212), 선택부(213), 정규화부(214), 및 압축 해제 처리부(215)를 갖는다.
선택부(211) 및 선택부(213)는, 변환 스킵을 적용할지 여부를 선택한다. 선택부(211)는, 변환 양자화 장치(200)에 입력된 예측 잔차를 취득한다. 변환 스킵을 적용하지 않을 경우, 즉, 계수 변환 처리를 행할 경우, 선택부(211)는, 취득한 예측 잔차를 변환 처리부(212)에 공급한다. 또한, 선택부(213)는, 변환 처리부(212)로부터 공급되는 변환 계수를 취득하여, 정규화부(214)에 공급한다.
변환 스킵을 적용할 경우, 즉, 계수 변환 처리를 스킵할 경우, 선택부(211)는, 취득한 예측 잔차를 압축 해제 처리부(215)에 공급한다. 선택부(213)는, 압축 해제 처리부(215)로부터 공급되는 예측 잔차(압축 해제된 예측 잔차)를 취득하여, 정규화부(214)에 공급한다.
변환 처리부(212)는, 변환 양자화 장치(200)에 입력된 예측 잔차를, 선택부(211)를 통하여 취득한다. 변환 처리부(212)는, 취득한 예측 잔차에 대하여 계수 변환을 행하여, 변환 계수를 생성한다. 변환 처리부(212)는, 생성한 변환 계수를, 선택부(213)를 통하여 정규화부(214)에 공급한다.
압축 해제 처리부(215)는, 변환 양자화 장치(200)에 입력된 예측 잔차를, 선택부(211)를 통하여 취득한다. 압축 해제 처리부(215)는, 취득한 예측 잔차를 압축 해제시킨다. 압축 해제 처리부(215)는, 압축 해제시킨 예측 잔차를, 선택부(213)를 통하여 정규화부(214)에 공급한다.
정규화부(214)는, 변환 스킵을 적용하지 않을 경우, 즉, 계수 변환 처리를 행할 경우, 변환 처리부(212)로부터 공급되는 변환 계수를, 선택부(213)를 통하여 취득한다. 또한, 변환 스킵을 적용할 경우, 즉, 계수 변환 처리를 스킵할 경우, 정규화부(214)는, 압축 해제 처리부(215)로부터 공급되는 예측 잔차(압축 해제된 예측 잔차)를, 선택부(213)를 통하여 취득한다. 즉, 변환 스킵이 적용될 경우, 계수 변환이 스킵되므로, 예측 잔차가 정규화부(214)에 공급된다. 정규화부(214) 이후의 처리부는, 이 예측 잔차를 변환 계수로서 처리한다. 즉, 이 예측 잔차는, 변환 처리부(212)에 있어서 생성되는 변환 계수의 경우와 마찬가지로 처리된다. 따라서, 이하에 있어서는, 이 압축 해제 처리부로부터 공급되는 예측 잔차도 변환 계수로서 설명한다. 정규화부(214)는, 취득한 변환 계수를 정규화한다. 정규화부(214)는, 정규화한 변환 계수를 양자화부(202)에 공급한다.
양자화부(202)는, 양자화 처리부(221) 및 정규화부(222)를 갖는다. 양자화 처리부(221)는, 변환부(201)로부터 공급되는 변환 계수를 취득한다. 양자화 처리부(221)는, 취득한 변환 계수에 대하여 양자화를 행하여, 양자화 계수를 생성한다. 양자화 처리부(221)는, 생성한 양자화 계수를 정규화부(222)에 공급한다. 정규화부(222)는, 양자화 처리부(221)로부터 공급되는 양자화 계수를 취득한다. 정규화부(222)는, 취득한 양자화 계수를 정규화한다. 정규화부(222)는, 정규화한 양자화 계수를 변환 양자화 장치(200)의 외부에 출력한다.
이러한 변환 양자화 장치(200)에 있어서, 상술한 (방법 1-2)를 적용한다. 즉, 변환 양자화 장치(200)는, 정보의 손실을 억제하도록 변환 양자화에 관한 파라미터를 설정한다. 정규화부(214)는, 이와 같이 설정된 파라미터를 사용하여 정규화를 행할 수 있다. 양자화 처리부(221)는, 이와 같이 설정된 파라미터를 사용하여 양자화를 행할 수 있다. 정규화부(222)는, 이와 같이 설정된 파라미터를 사용하여 정규화를 행할 수 있다.
이렇게 함으로써, 변환 양자화 장치(200)는, 이 변환 양자화 처리를 적용한 부호화에 의한 정보의 손실을 억제할 수 있다. 즉, 변환 양자화 장치(200)는, "변환 스킵+QP4" 어프로치에 의한 부호화를, 가역 부호화(무손실 부호화)에 가깝게 할 수 있다.
<변환 양자화 처리의 흐름>
다음으로, 이 변환 양자화 장치(200)에 의해 실행되는 변환 양자화 처리의 흐름의 예를, 도 8의 흐름도를 참조하여 설명한다.
변환 양자화 처리가 개시되면, 선택부(211) 및 선택부(213)는, 스텝 S201에 있어서, 변환 스킵을 적용할지 여부를 판정한다. 변환 스킵을 적용하지 않는다고 판정된 경우, 처리는 스텝 S202로 진행한다.
스텝 S202에 있어서, 변환부(201)는, 계수 변환에 관한 파라미터를 설정한다.
스텝 S203에 있어서, 변환 처리부(212)는, 예측 잔차에 대하여, 스텝 S202에 있어서 설정된 파라미터를 사용하여 계수 변환을 행하여, 변환 계수를 생성한다. 스텝 S203의 처리가 종료되면 처리는 스텝 S205로 진행한다.
또한, 스텝 S201에 있어서, 변환 스킵을 적용한다고 판정된 경우, 처리는 스텝 S204로 진행한다. 스텝 S204에 있어서, 압축 해제 처리부(215)는, 예측 잔차를 압축 해제시킨다. 스텝 S204의 처리가 종료되면 처리는 스텝 S205로 진행한다.
스텝 S205에 있어서, 정규화부(214)는, 스텝 S203에 있어서 생성된 변환 계수, 또는 스텝 S204에 있어서 압축 해제된 예측 잔차(즉 변환 계수)를, 스텝 S202에 있어서 설정된 파라미터를 사용하여 정규화한다.
스텝 S206에 있어서, 양자화부(202)는, 양자화에 관한 파라미터를 설정한다.
스텝 S207에 있어서, 양자화 처리부(221)는, 스텝 S205에 있어서 정규화된 변환 계수에 대하여, 스텝 S206에 있어서 설정된 파라미터를 사용하여 양자화를 행하여, 양자화 계수를 생성한다.
스텝 S208에 있어서, 정규화부(222)는, 스텝 S207에 있어서 생성된 양자화 계수를, 스텝 S206에 있어서 설정된 파라미터를 사용하여 정규화한다.
스텝 S208의 처리가 종료되면 변환 양자화 처리가 종료된다.
이러한 변환 양자화 처리에 있어서, 상술한 (방법 1-2)를 적용한다. 즉, 스텝 S202에 있어서, 변환부(201)는, 정보의 손실을 억제하도록 계수 변환에 관한 파라미터를 설정한다. 스텝 S205에 있어서, 정규화부(214)는, 이와 같이 설정된 파라미터를 사용하여 정규화를 행할 수 있다. 또한, 스텝 S206에 있어서, 양자화부(202)는, 정보의 손실을 억제하도록 양자화에 관한 파라미터를 설정한다. 스텝 S207에 있어서, 양자화 처리부(221)는, 이와 같이 설정된 파라미터를 사용하여 양자화를 행할 수 있다. 스텝 S208에 있어서, 정규화부(222)는, 이와 같이 설정된 파라미터를 사용하여 정규화를 행할 수 있다.
이렇게 함으로써, 변환 양자화 장치(200)는, 이 변환 양자화 처리를 적용한 부호화에 의한 정보의 손실을 억제할 수 있다. 즉, 변환 양자화 장치(200)는, "변환 스킵+QP4" 어프로치에 의한 부호화를, 가역 부호화(무손실 부호화)에 가깝게 할 수 있다.
<1-2-1: 양자화 파라미터의 제어>
상술한 바와 같이, 양자화에 관한 파라미터를 제어하도록 해도 된다. 예를 들어, 화상 처리에 있어서, 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 변환 계수에 대한 양자화를 행하도록 해도 된다.
예를 들어, 화상 처리 장치에 있어서, 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 변환 계수에 대한 양자화를 행하는 양자화부를 구비하도록 해도 된다.
이렇게 함으로써, 화상 처리 장치는, 이 양자화부에 의한 양자화를 적용한 부호화에 의한 정보의 손실을 억제할 수 있다. 즉, 화상 처리 장치는, "변환 스킵+QP4" 어프로치에 의한 부호화를, 가역 부호화(무손실 부호화)에 가깝게 할 수 있다.
그때, 그 양자화부가, 양자화에 있어서 의존 양자화를 적용하고, 또한 변환 스킵을 적용하지 않을 경우, 양자화 파라미터를 보정하고, 보정한 양자화 파라미터를 사용하여 양자화를 행하도록 해도 된다. 즉, 도 1의 표의 위로부터 6번째의 단에 제시되는 바와 같이, 변환 스킵에 기초하여 의존 양자화의 양자화 파라미터(QP)의 보정을 제어해도 된다(방법 1-2-1).
상술한 바와 같이, 비특허문헌 5에 기재된 부호화 방법에서는, 도 4의 A의 예와 같이, 의존 양자화의 적용에 따라서 양자화 파라미터가 보정된다. 즉, 양자화의 경우도 역양자화의 경우와 마찬가지로, 변환 스킵이 적용될 때는 의존 양자화에 의한 양자화 파라미터의 보정(QP + 1)에 의해, 양자화 스텝 사이즈를 1로 할 수 없게 된다. 그 때문에, 양자화에 의한 정보의 손실이 발생할 우려가 있었다.
그래서, 양자화의 경우도 역양자화의 경우와 마찬가지로, 상술한 식 (8-959)의 조건에, 「또한, 변환 스킵 플래그(transform_skip_flag)가 변환 스킵을 적용하는 것을 나타내는 값(IS_SKIP)이 아닌 경우」를 추가한다(도 4의 B). 부언하건대, 상술한 식 (8-960)의 조건에, 「또는, 변환 스킵 플래그(transform_skip_flag)가 참(IS_SKIP)인 경우」를 추가한다(도 4의 B).
양자화 처리부(221)는, 이러한 시맨틱스에 따라서 스케일링 파라미터 ls를 도출한다. 이렇게 함으로써, 변환 스킵을 적용할 경우, 식 (8-960)이 적용되어, 의존 양자화에 의한 양자화 파라미터의 보정이 생략된다. 따라서, 양자화 처리부(221)는, 변환 스킵을 적용할 경우의, 의존 양자화에 의한 정보의 손실을 억제할 수 있다.
<1-2-2: 라운딩 오프셋의 부호 제어>
제어 대상으로 하는 양자화에 관한 파라미터는, 양자화 파라미터 이외여도 된다. 예를 들어, 도 1의 표의 위로부터 7번째의 단에 제시되는 바와 같이, 예를 들어, 입력값인 양자화 계수의 부호에 기초하여 양자화에 있어서의 정규화 처리의 라운딩 오프셋의 부호가 설정되어도 된다(방법 1-2-2).
예를 들어, 화상 처리 장치에 있어서, 양자화 계수의 부호에 기초하여 라운딩 오프셋의 부호를 설정하고, 그 라운딩 오프셋을 사용하여 양자화 계수를 정규화하는 양자화 정규화부를 더 구비하도록 해도 된다.
양자화에 있어서의 정규화 처리의 경우도 역양자화에 있어서의 정규화 처리의 경우(도 5의 A의 식 (8-963))와 마찬가지로, 라운딩 오프셋 fwdbdOffset2와 스케일링 파라미터 fwdbdShift2를 사용하여, 논리 비트 시프트에 의한 정규화가 행해진다.
즉, 양자화에 있어서의 정규화 처리의 경우도 역양자화에 있어서의 정규화 처리의 경우와 마찬가지로, 반올림 오차의 부호(양음)에 치우침이 발생한다. 그 때문에, 양자화가 불가역의 처리가 될 우려가 있었다. 즉, 양자화에 있어서 정보의 손실이 발생할 우려가 있었다.
그래서, 양자화에 있어서의 정규화 처리의 경우도 역양자화에 있어서의 정규화 처리의 경우(도 5의 B)와 마찬가지로, 입력값인 양자화 계수의 부호에 기초하여 양자화에 있어서의 정규화 처리의 라운딩 오프셋의 부호가 설정되도록 한다.
예를 들어, 변환 양자화 장치(200)에 있어서, 양자화부(202)가, 식 (B)와 마찬가지로, 스케일링 파라미터 fwdbdShift2를 사용하여 라운딩 오프셋 fwdbdOffset2를 도출하고, 정규화부(222)가, 그 라운딩 오프셋 fwdbdOffset2와 스케일링 파라미터 fwdbdShift2를 사용하여, 정규화를 행한다.
환언하건대, 양자화부(202)가, 양자화 계수 레벨의 부호를 승산함으로써, 스케일링 파라미터 fwdbdShift2를 사용하여 도출된 라운딩 오프셋 fwdbdOffset2를 보정한다. 그리고, 정규화부(222)는, 그 보정 후의 라운딩 오프셋 fwdbdOffset2'과 스케일링 파라미터 fwdbdShift2를 사용하여, 정규화를 행한다.
이렇게 함으로써, 정규화부(222)는, 산술 비트 시프트에 의해 정규화 처리를 행할 수 있으므로, 반올림 오차의 부호(양음)의 치우침을 저감시켜, 양자화에 있어서 정보의 손실을 억제할 수 있다.
<1-2-3: 라운딩 오프셋의 부호 제어>
계수 변환에 관한 파라미터를 제어 대상으로 해도 된다. 예를 들어, 도 1의 표의 위로부터 8번째의 단에 제시되는 바와 같이, 예를 들어, 입력값인 변환 계수의 부호에 기초하여 계수 변환에 있어서의 정규화 처리의 라운딩 오프셋의 부호가 설정되어도 된다(방법 1-2-3).
예를 들어, 화상 처리 장치에 있어서, 변환 스킵을 적용하지 않을 경우, 변환 계수의 부호에 기초하여 라운딩 오프셋의 부호를 설정하고, 그 라운딩 오프셋을 사용하여 변환 계수를 정규화하고, 변환 스킵을 적용할 경우, 변환 계수(즉 예측 잔차)의 부호에 기초하여 라운딩 오프셋의 부호를 설정하고, 그 라운딩 오프셋을 사용하여 변환 계수(즉 예측 잔차)를 정규화하는 변환 정규화부를 더 구비하도록 해도 된다.
계수 변환에 있어서의 정규화 처리의 경우도 역 계수 변환에 있어서의 정규화 처리의 경우(도 6의 A의 식 (8-946))와 마찬가지로, 라운딩 오프셋 fwdbdOffset1과 스케일링 파라미터 fwdbdShift1을 사용하여, 논리 비트 시프트에 의한 정규화가 행해진다.
즉, 계수 변환에 있어서의 정규화 처리의 경우도 역 계수 변환에 있어서의 정규화 처리의 경우와 마찬가지로, 반올림 오차의 부호(양음)에 치우침이 발생한다. 그 때문에, 계수 변환이 불가역의 처리가 될 우려가 있었다. 즉, 계수 변환에 있어서 정보의 손실이 발생할 우려가 있었다.
그래서, 계수 변환에 있어서의 정규화 처리의 경우도 역 계수 변환에 있어서의 정규화 처리의 경우(도 6의 B)와 마찬가지로, 입력값인 변환 계수의 부호에 기초하여 계수 변환에 있어서의 정규화 처리의 라운딩 오프셋의 부호가 설정되도록 한다.
예를 들어, 변환 양자화 장치(200)에 있어서, 변환부(201)가, 식 (D)와 마찬가지로, 스케일링 파라미터 fwdbdShift1을 사용하여 라운딩 오프셋 fwdbdOffset1을 도출하고, 정규화부(214)가, 그 라운딩 오프셋 fwdbdOffset1과 스케일링 파라미터 fwdbdShift1을 사용하여, 정규화를 행한다.
환언하건대, 변환부(201)가, 변환 계수의 부호를 승산함으로써, 스케일링 파라미터 fwdbdShift1을 사용하여 도출된 라운딩 오프셋 fwdbdOffset1을 보정한다. 그리고, 정규화부(214)는, 그 보정 후의 라운딩 오프셋 fwdbdOffset1'과 스케일링 파라미터 fwdbdShift1을 사용하여, 정규화를 행한다.
이렇게 함으로써, 정규화부(214)는, 산술 비트 시프트에 의해 정규화 처리를 행할 수 있으므로, 반올림 오차의 부호(양음)의 치우침을 저감시켜, 계수 변환에 있어서 정보의 손실을 억제할 수 있다.
<1-2-4: 조합>
<1-2-1: 양자화 파라미터의 제어>, <1-2-2: 라운딩 오프셋의 부호 제어>, 및 <1-2-3: 라운딩 오프셋의 부호 제어> 각각에 있어서 설명한 각 방법은, 적절히 조합하여 적용할 수 있다. 더 많은 방법을 조합함으로써, 변환 양자화 장치(200)는, 변환 양자화 처리에 있어서의 정보의 손실을 더 억제할 수 있다. 즉, 변환 양자화 장치(200)는, 상술한 각 방법을 더 많이 조합함으로써, "변환 스킵+QP4" 어프로치에 의한 부호화를, 가역 부호화(무손실 부호화)에 더 가깝게 할 수 있다.
또한, <1-2-1: 양자화 파라미터의 제어>, <1-2-2: 라운딩 오프셋의 부호 제어>, 및 <1-2-3: 라운딩 오프셋의 부호 제어> 각각에 있어서 설명한 각 방법은, <1-1-1: 양자화 파라미터의 제어>, <1-1-2: 라운딩 오프셋의 부호 제어>, 및 <1-1-3: 라운딩 오프셋의 부호 제어> 각각에 있어서 설명한 각 방법과, 적절히 조합하여 적용할 수 있다. 즉, 역양자화 역변환 장치(100)가, "변환 스킵+QP4" 어프로치에 의한 복호를, 가역 복호(무손실 부호화)에 가깝게 함과 함께, 변환 양자화 장치(200)가, "변환 스킵+QP4" 어프로치에 의한 부호화를, 가역 부호화(무손실 부호화)에 더 가깝게 할 수 있다.
<3. 제2 실시 형태>
<변환 스킵 시의 압축 해제 처리의 머지>
변환 스킵을 적용할 경우, 중복된 처리가 존재하고, 그에 의해 역양자화 역변환 처리의 부하가 증대될 우려가 있었다. 예를 들어, 변환 스킵 시의 데이터 경로에 있어서, 역 직교 변환 후의 예측 잔차의 다이내믹 레인지와 역 직교 변환을 스킵한 경우의 예측 잔차의 다이내믹 레인지를 맞추기 위하여, 변환 스킵 고유의 TS 계수 압축 해제 처리(<<tsShift)가 있다. 그러나, 이 TS 계수 압축 해제 처리는, 역양자화 프로세스에 있어서의 정규화 처리(>>bdShift1)와 역방향의 비트 시프트이다. 따라서, 이들 처리를 서로 다른 처리로서 행하는 것은 불필요하였다.
그래서, 역양자화 역변환 처리에 있어서, 도 1의 표의 위로부터 9번째의 단에 제시되는 바와 같이, 변환 스킵에 있어서의 압축 해제 처리(<<tsShift)를 역양자화에 있어서의 정규화 처리로 대체한다(방법 2-1).
예를 들어, 화상 처리 방법에 있어서, 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화를 행하고, 변환 스킵을 적용하지 않을 경우, 역양자화에 의해 생성된 변환 계수에 대한 역 계수 변환을 행하여, 화상과 그 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 변환 스킵을 적용할 경우, 역 계수 변환을 스킵한다.
예를 들어, 화상 처리 장치에 있어서, 양자화 계수에 대한 역양자화를 행하는 역양자화부와, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 역양자화부에 의한 역양자화에 의해 생성된 변환 계수를 정규화하는 역양자화 정규화부와, 변환 스킵을 적용하지 않을 경우, 역양자화 정규화부에 의해 정규화된 변환 계수에 대하여 역 계수 변환을 행하여, 화상과 그 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 변환 스킵을 적용할 경우, 역 계수 변환을 스킵하는 역변환부를 구비하도록 한다.
이렇게 함으로써, 중복된 처리를 저감시킬 수 있어, 역양자화 역변환 처리의 부하의 증대를 억제할 수 있다. 즉, "변환 스킵+QP4" 어프로치에 의한 복호의 부하의 증대를 억제할 수 있다.
<2-1: 역양자화 역변환 장치>
도 9는, 이 경우의 역양자화 역변환 장치(100)의 구성의 일례를 도시하는 블록도이다. 또한, 도 9에 있어서는, 처리부나 데이터의 흐름 등의 주된 것을 도시하고 있고, 도 9에 도시되는 것이 전부라고는 할 수 없다. 즉, 역양자화 역변환 장치(100)에 있어서, 도 9에 있어서 블록으로서 도시되어 있지 않은 처리부가 존재하거나, 도 9에 있어서 화살표 등으로서 도시되어 있지 않은 처리나 데이터의 흐름이 존재하거나 해도 된다.
도 9에 도시되는 바와 같이, 이 경우의 역양자화 역변환 장치(100)는, 도 2의 경우와 마찬가지로, 역양자화부(101) 및 역변환부(102)를 갖는다. 역양자화부(101)는, 도 2의 경우와 마찬가지로, 역양자화 처리부(111) 및 정규화부(112)를 갖는다. 역변환부(102)는, 선택부(121) 내지 정규화부(124)를 갖는다. 즉, 도 2의 경우와 비교하여, 압축 해제 처리부(125)가 생략된다.
이러한 역양자화 역변환 장치(100)에 있어서, 상술한 (방법 2-1)을 적용한다. 즉, 역양자화 역변환 장치(100)는, 변환 스킵에 있어서의 압축 해제 처리를 역양자화에 있어서의 정규화 처리로 대체한다. 즉, 정규화부(112)는, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 역양자화 처리부(111)에 의한 역양자화에 의해 생성된 변환 계수를 정규화한다. 그리고 변환 스킵이 적용될 경우, 도 2의 압축 해제 처리부(125)에 의해 압축 해제 처리는, 도 9의 정규화부(112)에 의한 역양자화에 있어서의 정규화 처리와 머지된다.
이렇게 함으로써, 역양자화 역변환 장치(100)는, 이 역양자화 역변환 처리의 부하의 증대를 억제할 수 있다. 즉, 역양자화 역변환 장치(100)는, "변환 스킵+QP4" 어프로치에 의한 복호의 부하의 증대를 억제할 수 있다.
<역양자화 역변환 처리의 흐름>
다음으로, 이 경우의 역양자화 역변환 처리의 흐름의 예를, 도 10의 흐름도를 참조하여 설명한다.
이 경우의 역양자화 역변환 처리가 개시되면, 스텝 S301 내지 스텝 S306의 각 처리가, 도 3의 스텝 S101 내지 스텝 S106의 각 처리와 기본적으로 마찬가지로 실행된다.
단, 스텝 S304에 있어서, 변환 스킵을 적용한다고 판정된 경우, 처리는 스텝 S307로 진행한다. 또한, 스텝 S306의 처리가 종료되면 처리는 스텝 S307로 진행한다.
스텝 S307의 처리는, 도 3의 스텝 S108의 처리와 마찬가지로 실행된다. 스텝 S307의 처리가 종료되면 역양자화 역변환 처리가 종료된다.
이러한 역양자화 역변환 처리에 있어서, 상술한 (방법 2-1)을 적용한다. 즉, 스텝 S303에 있어서, 정규화부(112)는, 변환 스킵에 있어서의 압축 해제 처리를 대체하도록, 변환 계수에 대하여 정규화 처리를 행한다. 즉, 정규화부(112)는, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 역양자화 처리부(111)에 의한 역양자화에 의해 생성된 변환 계수를 정규화한다. 그리고 변환 스킵이 적용될 경우, 도 3의 스텝 S107에 있어서 행해지는 압축 해제 처리는, 스텝 S303에 있어서의 역양자화에 있어서의 정규화 처리와 머지된다.
이렇게 함으로써, 역양자화 역변환 장치(100)는, 이 역양자화 역변환 처리의 부하의 증대를 억제할 수 있다. 즉, 역양자화 역변환 장치(100)는, "변환 스킵+QP4" 어프로치에 의한 복호의 부하의 증대를 억제할 수 있다.
<2-1-1: 변환 스킵에 따른 스케일링 파라미터의 설정>
역양자화에 있어서의 정규화 처리와, 변환 스킵에 있어서의 압축 해제 처리를 다른 처리로서 행하는 경우, 그 정규화 처리에 사용되는 스케일링 파라미터 bdShift1과, 그 압축 해제 처리에 사용되는 스케일링 파라미터 tsShift는, 예를 들어 도 11의 A에 도시되는 시맨틱스와 같이 도출된다.
즉, 스케일링 파라미터 bdShift1은, 비트 심도에 기초하는 성분(bitDepth)과, 변환 블록 사이즈와 변환 스킵 플래그(transform_skip_flag)에 기초하는 성분((rectNonTsFlag?1:0))과, 변환 블록 사이즈에 기초하는 성분((log2(nTbW)+log2(nTbH)/2)-5)과, 의존 양자화에 기초하는 성분(dep_quant_enabled_flag)의 합에 의해 도출된다. 또한, 스케일링 파라미터 tsShift는, 변환 블록 사이즈에 기초하는 성분(5+(log2(nTbW)+log2(nTbH)/2))에 의해 도출된다.
즉, 스케일링 파라미터 bdShift1에는, 스케일링 파라미터 tsShift의 양음을 반대로 한 성분이 포함된다. 그래서, 변환 스킵을 적용할 경우, 변환 스킵에 있어서의 압축 해제 처리의 비트 시프트를, 역양자화에 있어서의 정규화 처리의 비트 시프트에 반영시켜, 그것들의 처리를 머지한다.
즉, 정규화부(112)가, 변환 스킵을 적용하지 않을 경우, 변환 스킵에 있어서의 압축 해제 처리를 반영하고 있지 않은 스케일링 파라미터를 사용하여 변환 계수를 정규화하고, 변환 스킵을 적용할 경우, 변환 스킵에 있어서의 압축 해제 처리를 반영한 스케일링 파라미터를 사용하여 변환 계수를 정규화하도록 한다.
예를 들어, 도 11의 B에 도시되는 시맨틱스와 같이, 역양자화에 있어서의 정규화 처리에 사용되는 스케일링 파라미터 bdShift1을 도출할 때, 변환 스킵 플래그가 변환 스킵의 적용을 나타내는 경우(transform_skip_flag == IS_SKIP), 변환 블록 사이즈에 기초하는 성분을 「0」으로 설정한다. 또한, 변환 스킵 플래그가 변환 스킵의 비적용을 나타내는 경우(transform_skip_flag != IS_SKIP), 변환 블록 사이즈에 기초하는 성분을 ((log2(nTbW)+log2(nTbH)/2)-5)로 설정한다.
이렇게 함으로써, 역양자화 역변환 장치(100)는, 중복된 처리를 저감시킬 수 있으므로, 역양자화 역변환 처리의 부하의 증대를 억제할 수 있다. 즉, 역양자화 역변환 장치(100)는, "변환 스킵+QP4" 어프로치에 의한 복호의 부하의 증대를 억제할 수 있다.
또한, 이 경우의 시맨틱스의 표현 방법은, 임의이며, 도 11의 B의 예에 한정되지 않는다. 예를 들어, 도 12의 A의 시맨틱스와 같이, 변수 tsShift를, 변환 스킵을 적용할지 여부에 따라서 설정하고, 그 변수 tsShift를, 변환 블록 사이즈에 기초하는 성분으로서 사용하여, 스케일링 파라미터 bdShift1을 도출하도록 해도 된다.
또한, 도 12의 B의 시맨틱스의 예와 같이, 또한 의존 양자화에 기초하는 성분을, 변환 스킵을 적용할지 여부에 따라서 설정해도 된다. 이 경우, 변환 스킵을 적용하지 않는 경우에만, 스케일링 파라미터 bdShift1에, 의존 양자화에 기초하는 성분(dep_quant_enabled_flag)이 가산된다.
이들의 경우(도 12의 A, 도 12의 B)도, 도 11의 B의 경우와 마찬가지로, 중복된 처리를 저감시킬 수 있다.
<2-1-2: 양자화 매트릭스에 대응한 스케일링 파라미터의 설정>
변환 스킵 플래그가 변환 스킵의 적용을 나타내는 경우(transform_skip_flag == IS_SKIP), 스케일링 파라미터 bdShift1의 변환 블록 사이즈에 기초하는 성분을 양자화 매트릭스에 따른 값으로 설정해도 된다.
예를 들어, 도 13의 A에 도시되는 시맨틱스와 같이, 역양자화에 있어서의 정규화 처리에 사용되는 스케일링 파라미터 bdShift1을 도출할 때, 변환 스킵 플래그가 변환 스킵의 적용을 나타내는 경우(transform_skip_flag == IS_SKIP), 변환 블록 사이즈에 기초하는 성분을 「-4」로 설정한다. 또한, 변환 스킵 플래그가 변환 스킵의 비적용을 나타내는 경우(transform_skip_flag != IS_SKIP), 변환 블록 사이즈에 기초하는 성분을 ((log2(nTbW)+log2(nTbH)/2)-5)로 설정한다.
이렇게 함으로써, 역양자화 역변환 장치(100)는, 처리가 오버플로우가 되는 것을 억제할 수 있다.
또한, 이 경우의 시맨틱스의 표현 방법은, 임의이며, 도 12의 A의 예에 한정되지 않는다. 예를 들어, 도 13의 B의 시맨틱스와 같이, 변수 tsShift를, 변환 스킵을 적용할지 여부에 따라서 설정하고, 그 변수 tsShift를, 변환 블록 사이즈에 기초하는 성분으로서 사용하여, 스케일링 파라미터 bdShift1을 도출하도록 해도 된다.
또한, 도 13의 C의 시맨틱스의 예와 같이, 또한 의존 양자화에 기초하는 성분을, 변환 스킵을 적용할지 여부에 따라서 설정해도 된다. 이 경우, 변환 스킵을 적용하지 않는 경우에만, 스케일링 파라미터 bdShift1에, 의존 양자화에 기초하는 성분(dep_quant_enabled_flag)이 가산된다.
이들의 경우(도 13의 B, 도 13의 C)도, 도 13의 A의 경우와 마찬가지로, 처리가 오버플로우가 되는 것을 억제할 수 있다.
<변환 스킵 시의 압축 해제 처리의 머지>
변환 양자화 처리에 있어서도, 상술한 역양자화 역변환 처리의 경우와 마찬가지이다. 즉, 변환 스킵을 적용할 경우, 중복된 처리가 존재하고, 그에 의해 변환 양자화 처리의 부하가 증대될 우려가 있었다. 예를 들어, 변환 스킵 시의 데이터 경로에 있어서, 직교 변환 후의 변환 계수의 다이내믹 레인지와 직교 변환을 스킵한 경우의 예측 잔차의 다이내믹 레인지를 맞추기 위하여, 변환 스킵 고유의 TS 계수 압축 해제 처리(<<fwdtsShift)가 있다. 그러나, 이 TS 계수 압축 해제 처리는, 양자화 프로세스에 있어서의 정규화 처리(>>fwdbdShift2)와 역방향의 비트 시프트이다. 따라서, 이들 처리를 서로 다른 처리로서 행하는 것은 불필요하였다.
그래서, 변환 양자화 처리에 있어서, 도 1의 표의 위로부터 10번째의 단에 제시되는 바와 같이, 변환 스킵에 있어서의 압축 해제 처리(<<fwdtsShift)를 양자화에 있어서의 정규화 처리로 대체한다(방법 2-2).
예를 들어, 화상 처리 방법에 있어서, 변환 스킵을 적용하지 않을 경우, 화상과 그 화상의 예측 화상 간의 잔차인 예측 잔차에 대하여 계수 변환을 행하여, 변환 계수를 생성하고, 변환 스킵을 적용할 경우, 계수 변환을 스킵하고, 변환 스킵을 적용하지 않을 경우, 변환 계수에 대한 양자화를 행하고, 변환 스킵을 적용할 경우, 예측 잔차에 대한 양자화를 행하고, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 양자화에 의해 생성된 양자화 계수를 정규화한다.
예를 들어, 화상 처리 장치에 있어서, 변환 스킵을 적용하지 않을 경우, 화상과 그 화상의 예측 화상 간의 잔차인 예측 잔차에 대하여 계수 변환을 행하여, 변환 계수를 생성하고, 변환 스킵을 적용할 경우, 계수 변환을 스킵하는 변환부와, 변환 스킵을 적용하지 않을 경우, 변환 계수에 대한 양자화를 행하고, 변환 스킵을 적용할 경우, 예측 잔차에 대한 양자화를 행하는 양자화부와, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 양자화부에 의한 양자화에 의해 생성된 양자화 계수를 정규화하는 양자화 정규화부를 구비하도록 한다.
이렇게 함으로써, 중복된 처리를 저감시킬 수 있어, 변환 양자화 처리의 부하의 증대를 억제할 수 있다. 즉, "변환 스킵+QP4" 어프로치에 의한 부호화의 부하의 증대를 억제할 수 있다.
<2-2: 변환 양자화 장치>
도 14는, 이 경우의 변환 양자화 장치(200)의 구성의 일례를 도시하는 블록도이다. 또한, 도 14에 있어서는, 처리부나 데이터의 흐름 등의 주된 것을 도시하고 있고, 도 14에 도시되는 것이 전부라고는 할 수 없다. 즉, 변환 양자화 장치(200)에 있어서, 도 14에 있어서 블록으로서 도시되어 있지 않은 처리부가 존재하거나, 도 14에 있어서 화살표 등으로서 도시되어 있지 않은 처리나 데이터의 흐름이 존재하거나 해도 된다.
도 14에 도시되는 바와 같이, 이 경우의 변환 양자화 장치(200)는, 도 7의 경우와 마찬가지로, 변환부(201) 및 양자화부(202)를 갖는다. 변환부(201)는, 선택부(211) 내지 정규화부(214)를 갖는다. 즉, 도 7의 경우와 비교하여, 압축 해제 처리부(215)가 생략된다. 양자화부(202)는, 도 7의 경우와 마찬가지로, 양자화 처리부(221) 및 정규화부(222)를 갖는다.
이러한 변환 양자화 장치(200)에 있어서, 상술한 (방법 2-2)를 적용한다. 즉, 변환 양자화 장치(200)는, 변환 스킵에 있어서의 압축 해제 처리를 양자화에 있어서의 정규화 처리로 대체한다. 즉, 정규화부(222)는, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 양자화 처리부(221)에 의한 양자화에 의해 생성된 양자화 계수를 정규화한다. 그리고 변환 스킵이 적용될 경우, 도 7의 압축 해제 처리부(215)에 의한 압축 해제 처리는, 도 14의 정규화부(222)에 의한 양자화에 있어서의 정규화 처리와 머지된다.
이렇게 함으로써, 변환 양자화 장치(200)는, 이 변환 양자화 처리의 부하의 증대를 억제할 수 있다. 즉, 변환 양자화 장치(200)는, "변환 스킵+QP4" 어프로치에 의한 부호화의 부하의 증대를 억제할 수 있다.
<변환 양자화 처리의 흐름>
다음으로, 이 경우의 변환 양자화 처리의 흐름의 예를, 도 15의 흐름도를 참조하여 설명한다.
이 경우의 변환 양자화 처리가 개시되면, 스텝 S321 내지 스텝 S327의 각 처리가, 도 8의 스텝 S201 내지 스텝 S203, 그리고, 스텝 S205 내지 스텝 S208의 각 처리와 기본적으로 마찬가지로 실행된다.
단, 스텝 S321에 있어서, 변환 스킵을 적용한다고 판정된 경우, 처리는 스텝 S324로 진행한다. 또한, 스텝 S323의 처리가 종료되면 처리는 스텝 S324로 진행한다.
스텝 S327의 처리가 종료되면 변환 양자화 처리가 종료된다.
이러한 변환 양자화 처리에 있어서, 상술한 (방법 2-2)를 적용한다. 즉, 스텝 S327에 있어서, 정규화부(222)는, 변환 스킵에 있어서의 압축 해제 처리를 대체하도록, 양자화 계수에 대하여 정규화 처리를 행한다. 즉, 정규화부(222)는, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 양자화 처리부(221)에 의한 양자화에 의해 생성된 양자화 계수를 정규화한다. 그리고 변환 스킵이 적용될 경우, 도 8의 스텝 S204에 있어서 행해지는 압축 해제 처리는, 스텝 S327에 있어서의 양자화에 있어서의 정규화 처리와 머지된다.
이렇게 함으로써, 변환 양자화 장치(200)는, 이 변환 양자화 처리의 부하의 증대를 억제할 수 있다. 즉, 변환 양자화 장치(200)는, "변환 스킵+QP4" 어프로치에 의한 부호화의 부하의 증대를 억제할 수 있다.
<2-2-1: 변환 스킵에 따른 스케일링 파라미터의 설정>
양자화에 있어서의 정규화 처리와, 변환 스킵에 있어서의 압축 해제 처리를 다른 처리로서 행하는 경우, 그 정규화 처리에 사용되는 스케일링 파라미터 fwdbdShift2와, 그 압축 해제 처리에 사용되는 스케일링 파라미터 fwdtsShift는, 도 11의 A의 예와 마찬가지로 도출된다.
즉, 스케일링 파라미터 fwdbdShift2에는, 스케일링 파라미터 fwdtsShift의 양음을 반대로 한 성분이 포함된다. 따라서, 자화에 있어서의 정규화 처리와, 변환 스킵에 있어서의 압축 해제 처리를 다른 처리로서 행하는 것은 불필요하다. 그래서, 변환 스킵을 적용할 경우, 변환 스킵에 있어서의 압축 해제 처리의 비트 시프트를, 양자화에 있어서의 정규화 처리의 비트 시프트에 반영시켜, 그것들의 처리를 머지한다.
즉, 변환 처리부(212)는, 변환 스킵을 적용하지 않을 경우, 예측 잔차에 대하여 계수 변환을 행하고, 변환 스킵을 적용할 경우, 압축 해제 처리를 행하지 않고 계수 변환을 스킵하고, 정규화부(222)는, 변환 스킵을 적용하지 않을 경우, 그 변환 스킵에 있어서의 압축 해제 처리를 반영하고 있지 않은 스케일링 파라미터를 사용하여 양자화 계수를 정규화하고, 변환 스킵을 적용할 경우, 압축 해제 처리를 반영한 스케일링 파라미터를 사용하여 양자화 계수를 정규화하도록 한다.
예를 들어, 도 11의 B에 도시되는 시맨틱스의 경우와 마찬가지로, 양자화에 있어서의 정규화 처리에 사용되는 스케일링 파라미터 fwdbdShift2를 도출할 때, 변환 스킵 플래그가 변환 스킵의 적용을 나타내는 경우(transform_skip_flag == IS_SKIP), 변환 블록 사이즈에 기초하는 성분을 「0」으로 설정한다. 또한, 변환 스킵 플래그가 변환 스킵의 비적용을 나타내는 경우(transform_skip_flag != IS_SKIP), 변환 블록 사이즈에 기초하는 성분을 ((log2(nTbW)+log2(nTbH)/2)-5)로 설정한다.
이렇게 함으로써, 변환 양자화 장치(200)는, 중복된 처리를 저감시킬 수 있으므로, 변환 양자화 처리의 부하의 증대를 억제할 수 있다. 즉, 변환 양자화 장치(200)는, "변환 스킵+QP4" 어프로치에 의한 부호화의 부하의 증대를 억제할 수 있다.
또한, 이 경우의 시맨틱스의 표현 방법은, 임의이다. 예를 들어, 도 12의 A의 시맨틱스의 경우와 마찬가지로, 변수 fwdtsShift를, 변환 스킵을 적용할지 여부에 따라서 설정하고, 그 변수 fwdtsShift를, 변환 블록 사이즈에 기초하는 성분으로서 사용하여, 스케일링 파라미터 fwdbdShift1을 도출하도록 해도 된다.
또한, 도 12의 B의 시맨틱스의 경우와 마찬가지로, 또한 의존 양자화에 기초하는 성분을, 변환 스킵을 적용할지 여부에 따라서 설정해도 된다. 이 경우, 변환 스킵을 적용하지 않는 경우에만, 스케일링 파라미터 fwdbdShift2에, 의존 양자화에 기초하는 성분(dep_quant_enabled_flag)이 가산된다.
이들의 경우도, 중복된 처리를 저감시킬 수 있다.
<2-2-2: 양자화 매트릭스에 대응한 스케일링 파라미터의 설정>
또한, 이 변환 양자화 처리의 경우도, 상술한 역양자화 역변환 처리의 경우와 마찬가지로, 변환 스킵 플래그가 변환 스킵의 적용을 나타내는 경우(transform_skip_flag == IS_SKIP), 스케일링 파라미터 fwdbdShift2의 변환 블록 사이즈에 기초하는 성분을 양자화 매트릭스에 따른 값으로 설정해도 된다.
예를 들어, 도 13의 A에 도시되는 시맨틱스의 경우와 마찬가지로, 양자화에 있어서의 정규화 처리에 사용되는 스케일링 파라미터 fwdbdShift2를 도출할 때, 변환 스킵 플래그가 변환 스킵의 적용을 나타내는 경우(transform_skip_flag == IS_SKIP), 변환 블록 사이즈에 기초하는 성분을 「-4」로 설정한다. 또한, 변환 스킵 플래그가 변환 스킵의 비적용을 나타내는 경우(transform_skip_flag != IS_SKIP), 변환 블록 사이즈에 기초하는 성분을 ((log2(nTbW)+log2(nTbH)/2)-5)로 설정한다.
이렇게 함으로써, 변환 양자화 장치(200)는, 처리가 오버플로우가 되는 것을 억제할 수 있다.
또한, 이 경우의 시맨틱스의 표현 방법은, 임의이다. 예를 들어, 도 13의 B의 시맨틱스의 경우와 마찬가지로, 변수 fwdtsShift를, 변환 스킵을 적용할지 여부에 따라서 설정하고, 그 변수 fwdtsShift를, 변환 블록 사이즈에 기초하는 성분으로서 사용하여, 스케일링 파라미터 fwdbdShift2를 도출하도록 해도 된다.
또한, 도 13의 C의 시맨틱스의 경우와 마찬가지로, 또한 의존 양자화에 기초하는 성분을, 변환 스킵을 적용할지 여부에 따라서 설정해도 된다. 이 경우, 변환 스킵을 적용하지 않는 경우에만, 스케일링 파라미터 fwdbdShift2에, 의존 양자화에 기초하는 성분(dep_quant_enabled_flag)이 가산된다.
이들의 경우도, 도 13의 A의 경우와 마찬가지로, 처리가 오버플로우가 되는 것을 억제할 수 있다.
또한, 본 실시 형태에 있어서 설명한 각 방법은, 적절히, 제1 실시 형태에 있어서 설명한 각 방법과 조합하여 적용할 수 있다.
<4. 제3 실시 형태>
<변환 스킵 시의 정규화 처리의 머지>
예를 들어, 변환 스킵 시의 데이터 경로에 있어서, 역 계수 변환 후의 예측 잔차의 다이내믹 레인지와 역 계수 변환을 스킵한 경우의 변환 계수(즉 예측 잔차)의 다이내믹 레인지를 맞추기 위하여, 변환 스킵 고유의 TS 계수 압축 해제 처리(<<tsShift), 및 "bdShift2"에 의한 정규화 처리가 있다. 그러나, 이 TS 계수 압축 해제 처리 및 정규화 처리에 있어서의 비트 시프트는, 역양자화 프로세스에 있어서의 정규화 처리(>>bdShift1)에 있어서의 비트 시프트와 머지할 수 있다. 즉, 이들 비트 시프트를 각각 행하는 것은 불필요하였다.
그래서, 역양자화 역변환 처리에 있어서, 도 1의 표의 위로부터 11번째의 단에 제시되는 바와 같이, 변환 스킵의 경우, 변환 스킵에 있어서의 압축 해제 처리(<<tsShift)와 역 계수 변환에 있어서의 정규화 처리를 역양자화에 있어서의 정규화 처리로 대체한다(방법 3-1).
이렇게 함으로써, 중복된 처리를 저감시킬 수 있어, 역양자화 역변환 처리의 부하의 증대를 억제할 수 있다. 즉, "변환 스킵+QP4" 어프로치에 의한 복호의 부하의 증대를 억제할 수 있다.
<3-1: 역양자화 역변환 장치>
도 16은, 이 경우의 역양자화 역변환 장치(100)의 구성의 일례를 도시하는 블록도이다. 또한, 도 16에 있어서는, 처리부나 데이터의 흐름 등의 주된 것을 도시하고 있고, 도 16에 도시되는 것이 전부라고는 할 수 없다. 즉, 역양자화 역변환 장치(100)에 있어서, 도 16에 있어서 블록으로서 도시되어 있지 않은 처리부가 존재하거나, 도 16에 있어서 화살표 등으로서 도시되어 있지 않은 처리나 데이터의 흐름이 존재하거나 해도 된다.
도 16에 도시되는 바와 같이, 이 경우의 역양자화 역변환 장치(100)는, 도 2의 경우와 마찬가지로, 역양자화부(101) 및 역변환부(102)를 갖는다. 역양자화부(101)는, 도 2의 경우와 마찬가지로, 역양자화 처리부(111) 및 정규화부(112)를 갖는다. 역변환부(102)는, 선택부(121) 내지 정규화부(124)를 갖는다. 즉, 도 2의 경우와 비교하여, 압축 해제 처리부(125)가 생략된다.
또한, 정규화부(124)는, 역변환 처리부(122)와 선택부(123) 사이에 마련되어 있다. 따라서, 이 경우, 정규화부(124)는, 변환 스킵이 적용되지 않을 경우, 역변환 처리부(122)로부터 공급되는 예측 잔차를 취득하고, 그 예측 잔차에 대하여 정규화 처리를 행하고, 정규화된 예측 잔차를, 선택부(123)에 공급한다. 선택부(123)는, 변환 스킵이 적용되지 않을 경우, 그 정규화부(124)로부터 공급되는 예측 잔차(정규화된 예측 잔차)를 취득하고, 그것을, 역양자화 역변환 장치(100)의 외부에 출력한다.
이러한 역양자화 역변환 장치(100)에 있어서, 상술한 (방법 3-1)을 적용한다. 즉, 역양자화 역변환 장치(100)는, 변환 스킵의 경우, 변환 스킵에 있어서의 압축 해제 처리와, 역 계수 변환에 있어서의 정규화 처리를 역양자화에 있어서의 정규화 처리로 대체한다. 즉, 정규화부(112)는, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 역양자화 처리부(111)에 의한 역양자화에 의해 생성된 변환 계수를 정규화한다. 그리고 변환 스킵이 적용될 경우, 도 2의 압축 해제 처리부(125)에 의한 압축 해제 처리와, 도 2의 정규화부(124)에 의한 역 계수 변환에 있어서의 정규화 처리는, 도 16의 정규화부(112)에 의한 역양자화에 있어서의 정규화 처리와 머지된다.
이렇게 함으로써, 역양자화 역변환 장치(100)는, 이 역양자화 역변환 처리의 부하의 증대를 억제할 수 있다. 즉, 역양자화 역변환 장치(100)는, "변환 스킵+QP4" 어프로치에 의한 복호의 부하의 증대를 억제할 수 있다.
<역양자화 역변환 처리의 흐름>
다음으로, 이 경우의 역양자화 역변환 처리의 흐름의 예를, 도 17의 흐름도를 참조하여 설명한다.
이 경우의 역양자화 역변환 처리가 개시되면, 스텝 S341 내지 스텝 S347의 각 처리가, 도 10의 스텝 S301 내지 스텝 S307의 각 처리와 기본적으로 마찬가지로 실행된다.
단, 스텝 S344에 있어서, 변환 스킵을 적용한다고 판정된 경우, 스텝 S345 내지 스텝 S347의 각 처리가 스킵되어, 역양자화 역변환 처리가 종료된다.
이러한 역양자화 역변환 처리에 있어서, 상술한 (방법 3-1)을 적용한다. 즉, 스텝 S343에 있어서, 정규화부(112)는, 변환 스킵을 적용할 경우, 변환 스킵에 있어서의 압축 해제 처리와 역 계수 변환에 있어서의 정규화 처리를 대체하도록, 변환 계수에 대하여 정규화 처리를 행한다. 즉, 정규화부(112)는, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 역양자화 처리부(111)에 의한 역양자화에 의해 생성된 변환 계수를 정규화한다. 그리고 변환 스킵이 적용될 경우, 도 3의 스텝 S107에 있어서 행해지는 압축 해제 처리와 도 3의 스텝 S108에 있어서 행해지는 정규화 처리는, 스텝 S343에 있어서의 역양자화에 있어서의 정규화 처리와 머지된다.
이렇게 함으로써, 역양자화 역변환 장치(100)는, 이 역양자화 역변환 처리의 부하의 증대를 억제할 수 있다. 즉, 역양자화 역변환 장치(100)는, "변환 스킵+QP4" 어프로치에 의한 복호의 부하의 증대를 억제할 수 있다.
<3-1-1: 변환 스킵에 따른 스케일링 파라미터의 설정>
역양자화에 있어서의 정규화 처리와, 변환 스킵에 있어서의 압축 해제 처리와, 역 계수 변환에 있어서의 정규화 처리를 다른 처리로서 행하는 경우, 역양자화에 있어서의 정규화 처리에 사용되는 스케일링 파라미터 bdShift1과, 압축 해제 처리에 사용되는 스케일링 파라미터 tsShift와, 역 계수 변환에 있어서의 정규화 처리에 사용되는 스케일링 파라미터 bdShift2는, 예를 들어 도 18의 A에 도시되는 시맨틱스와 같이 도출된다.
즉, 스케일링 파라미터 bdShift1과 스케일링 파라미터 tsShift는, 각각, 제2 실시 형태에 있어서 설명한 바와 같이 도출된다. 스케일링 파라미터 bdShift2는, 「20」과 비트 심도(bitDepth) 간의 차분과, 「0」 중, 큰 쪽의 값으로 설정된다. 이들 스케일링 파라미터를 사용한 비트 시프트를 머지한다.
즉, 정규화부(124)가, 변환 스킵을 적용하지 않을 경우, 예측 잔차를 정규화하고, 정규화부(112)가, 변환 스킵을 적용할 경우, 정규화부(124)에 의한 예측 잔차에 대한 정규화 처리를 반영한 스케일링 파라미터를 사용하여 변환 계수를 정규화하도록 한다.
예를 들어, 도 18의 B에 도시되는 시맨틱스와 같이, 변환 스킵 플래그가 변환 스킵의 적용을 나타내는 경우(transform_skip_flag == IS_SKIP), 역양자화에 있어서의 정규화 처리에 사용되는 스케일링 파라미터 bdShift1은, 변수 trBdShift와 의존 양자화에 기초하는 성분(dep_quant_enabled_flag)의 합에 의해 도출된다.
이 변수 trBdShift는, 도 18의 B에 도시되는 시맨틱스와 같이, 역양자화에 따른 값(INV_QUANT)과, 스케일링 리스트에 따른 값(SCALING_LIST_BITS)의 합으로서 도출된다.
예를 들어, 역양자화에 따른 값(INV_QUANT)은 「6」으로 설정되고, 스케일링 리스트에 따른 값(SCALING_LIST_BITS)은 「4」로 설정된다. 즉, 변수 trBdShift는, 「10」으로 설정된다.
이렇게 함으로써, 역양자화 역변환 장치(100)는, 중복된 처리를 저감시킬 수 있으므로, 역양자화 역변환 처리의 부하의 증대를 억제할 수 있다. 즉, 역양자화 역변환 장치(100)는, "변환 스킵+QP4" 어프로치에 의한 복호의 부하의 증대를 억제할 수 있다.
또한, 이 경우의 시맨틱스의 표현 방법은, 임의이다. 예를 들어, 도 19의 A의 시맨틱스와 같이, 변수 trBdShift를, 변환 스킵을 적용할지 여부에 따라서 설정하고, 그 변수 trBdShift를, 변환 블록 사이즈에 기초하는 성분으로서 사용하여, 스케일링 파라미터 bdShift1을 도출하도록 해도 된다.
또한, 도 19의 B의 시맨틱스의 예와 같이, 또한 의존 양자화에 기초하는 성분을, 변환 스킵을 적용할지 여부에 따라서 설정해도 된다. 이 경우, 변환 스킵을 적용하지 않는 경우에만, 스케일링 파라미터 bdShift1에, 의존 양자화에 기초하는 성분(dep_quant_enabled_flag)이 가산된다.
이들의 경우(도 19의 A, 도 19의 B)도, 도 18의 B의 경우와 마찬가지로, 중복된 처리를 저감시킬 수 있다.
<변환 스킵 시의 정규화 처리의 머지>
변환 양자화 처리에 있어서도, 상술한 역양자화 역변환 처리의 경우와 마찬가지이다. 즉, 변환 스킵을 적용할 경우, 중복된 처리가 존재하고, 그에 의해 변환 양자화 처리의 부하가 증대될 우려가 있었다. 예를 들어, 변환 스킵 시의 데이터 경로에 있어서, 직교 변환 후의 변환 계수의 다이내믹 레인지와 직교 변환을 스킵한 경우의 예측 잔차의 다이내믹 레인지를 맞추기 위하여, 변환 스킵 고유의 TS 계수 압축 해제 처리(<<fwdtsShift) 및 "fwdbdShift1"에 의한 정규화 처리가 있다. 그러나, 이 TS 계수 압축 해제 처리 및 정규화 처리에 있어서의 비트 시프트는, 양자화 프로세스에 있어서의 정규화 처리(>>fwdbdShift2)에 있어서의 비트 시프트와 머지할 수 있다. 즉, 이들 비트 시프트를 각각 행하는 것은 불필요하였다.
그래서, 변환 양자화 처리에 있어서, 도 1의 표의 위로부터 12번째의 단(최하단)에 제시되는 바와 같이, 변환 스킵의 경우, 변환 스킵에 있어서의 압축 해제 처리(<<fwdtsShift)와 계수 변환에 있어서의 정규화 처리를, 양자화에 있어서의 정규화 처리로 대체한다(방법 3-2).
이렇게 함으로써, 중복된 처리를 저감시킬 수 있어, 변환 양자화 처리의 부하의 증대를 억제할 수 있다. 즉, "변환 스킵+QP4" 어프로치에 의한 부호화의 부하의 증대를 억제할 수 있다.
<3-2: 변환 양자화 장치>
도 20은, 이 경우의 변환 양자화 장치(200)의 구성의 일례를 도시하는 블록도이다. 또한, 도 20에 있어서는, 처리부나 데이터의 흐름 등의 주된 것을 도시하고 있고, 도 20에 도시되는 것이 전부라고는 할 수 없다. 즉, 변환 양자화 장치(200)에 있어서, 도 20에 있어서 블록으로서 도시되어 있지 않은 처리부가 존재하거나, 도 20에 있어서 화살표 등으로서 도시되어 있지 않은 처리나 데이터의 흐름이 존재하거나 해도 된다.
도 20에 도시되는 바와 같이, 이 경우의 변환 양자화 장치(200)는, 도 7의 경우와 마찬가지로, 변환부(201) 및 양자화부(202)를 갖는다. 변환부(201)는, 선택부(211) 내지 정규화부(214)를 갖는다. 즉, 도 7의 경우와 비교하여, 압축 해제 처리부(215)가 생략된다.
또한, 정규화부(214)는, 변환 처리부(212)와 선택부(213) 사이에 마련되어 있다. 따라서, 이 경우, 정규화부(214)는, 변환 스킵이 적용되지 않을 경우, 변환 처리부(212)로부터 공급되는 변환 계수를 취득하고, 그 변환 계수에 대하여 정규화 처리를 행하고, 정규화된 변환 계수를, 선택부(213)에 공급한다. 선택부(213)는, 변환 스킵이 적용되지 않을 경우, 그 정규화부(214)로부터 공급되는 변환 계수(정규화된 변환 계수)를 취득하고, 그것을, 변환 양자화 장치(200)의 외부에 출력한다.
양자화부(202)는, 도 7의 경우와 마찬가지로, 양자화 처리부(221) 및 정규화부(222)를 갖는다.
이러한 변환 양자화 장치(200)에 있어서, 상술한 (방법 3-2)를 적용한다. 즉, 변환 양자화 장치(200)는, 변환 스킵에 있어서의 압축 해제 처리와 계수 변환에 있어서의 정규화 처리를, 양자화에 있어서의 정규화 처리로 대체한다. 즉, 정규화부(222)는, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 양자화 처리부(221)에 의한 양자화에 의해 생성된 양자화 계수를 정규화한다. 그리고 변환 스킵이 적용될 경우, 도 7의 압축 해제 처리부(215)에 의한 압축 해제 처리와, 도 7의 정규화부(214)에 의한 정규화 처리는, 도 20의 정규화부(222)에 의한 양자화에 있어서의 정규화 처리와 머지된다.
이렇게 함으로써, 변환 양자화 장치(200)는, 이 변환 양자화 처리의 부하의 증대를 억제할 수 있다. 즉, 변환 양자화 장치(200)는, "변환 스킵+QP4" 어프로치에 의한 부호화의 부하의 증대를 억제할 수 있다.
<변환 양자화 처리의 흐름>
다음으로, 이 경우의 변환 양자화 처리의 흐름의 예를, 도 21의 흐름도를 참조하여 설명한다.
이 경우의 변환 양자화 처리가 개시되면, 스텝 S361 내지 스텝 S367의 각 처리가, 도 15의 스텝 S321 내지 스텝 S327의 각 처리와 기본적으로 마찬가지로 실행된다.
단, 스텝 S361에 있어서, 변환 스킵을 적용한다고 판정된 경우, 스텝 S362 내지 스텝 S364의 각 처리가 스킵되어, 처리는 스텝 S365로 진행한다.
이러한 변환 양자화 처리에 있어서, 상술한 (방법 3-2)를 적용한다. 즉, 스텝 S367에 있어서, 정규화부(222)는, 변환 스킵을 적용할 경우, 변환 스킵에 있어서의 압축 해제 처리와 계수 변환에 있어서의 정규화 처리를 대체하도록, 변환 계수에 대하여 정규화 처리를 행한다. 즉, 정규화부(222)는, 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 양자화 처리부(221)에 의한 양자화에 의해 생성된 양자화 계수를 정규화한다. 그리고 변환 스킵이 적용될 경우, 도 8의 스텝 S204에 있어서 행해지는 압축 해제 처리와 도 8의 스텝 S205에 있어서 행해지는 정규화 처리는, 스텝 S367에 있어서의 양자화에 있어서의 정규화 처리와 머지된다.
이렇게 함으로써, 변환 양자화 장치(200)는, 이 변환 양자화 처리의 부하의 증대를 억제할 수 있다. 즉, 변환 양자화 장치(200)는, "변환 스킵+QP4" 어프로치에 의한 부호화의 부하의 증대를 억제할 수 있다.
<3-2-1: 변환 스킵에 따른 스케일링 파라미터의 설정>
정규화부(214)가, 변환 스킵을 적용하지 않을 경우, 변환 계수를 정규화하고, 정규화부(222)가, 변환 스킵을 적용할 경우, 정규화부(214)에 의한 예측 잔차에 대한 정규화 처리를 반영한 스케일링 파라미터를 사용하여 양자화 계수를 정규화하도록 한다.
예를 들어, 도 18의 B의 경우와 마찬가지로, 변환 스킵 플래그가 변환 스킵의 적용을 나타내는 경우(transform_skip_flag == IS_SKIP), 양자화에 있어서의 정규화 처리에 사용되는 스케일링 파라미터 fwdbdShift2는, 변수 fwdtrBdShift와 의존 양자화에 기초하는 성분(dep_quant_enabled_flag)의 합에 의해 도출된다.
이 변수 fwdtrBdShift는, 도 18의 B에 도시되는 시맨틱스의 경우와 마찬가지로, 양자화에 따른 값(QUANT)과, 스케일링 리스트에 따른 값(SCALING_LIST_BITS)의 합으로서 도출된다.
예를 들어, 양자화에 따른 값(QUANT)은 「6」으로 설정되고, 스케일링 리스트에 따른 값(SCALING_LIST_BITS)은 「4」로 설정된다. 즉, 변수 fwdtrBdShift는, 「10」으로 설정된다.
이렇게 함으로써, 변환 양자화 장치(200)는, 중복된 처리를 저감시킬 수 있으므로, 변환 양자화 처리의 부하의 증대를 억제할 수 있다. 즉, 변환 양자화 장치(200)는, "변환 스킵+QP4" 어프로치에 의한 부호화의 부하의 증대를 억제할 수 있다.
또한, 이 경우의 시맨틱스의 표현 방법은, 임의이다. 예를 들어, 도 19의 A의 시맨틱스의 경우와 마찬가지로, 변수 fwdtrBdShift를, 변환 스킵을 적용할지 여부에 따라서 설정하고, 그 변수 fwdtrBdShift를 사용하여, 스케일링 파라미터 fwdbdShift2를 도출하도록 해도 된다.
또한, 도 19의 B의 시맨틱스의 예의 경우와 마찬가지로, 또한 의존 양자화에 기초하는 성분을, 변환 스킵을 적용할지 여부에 따라서 설정해도 된다. 이 경우, 변환 스킵을 적용하지 않는 경우에만, 스케일링 파라미터 fwdbdShift2에, 의존 양자화에 기초하는 성분(dep_quant_enabled_flag)이 가산된다.
이들의 경우(도 19의 A, 도 19의 B)도, 도 18의 B의 경우와 마찬가지로, 중복된 처리를 저감시킬 수 있다.
<5. 제4 실시 형태>
<화상 복호 장치>
제1 실시 형태 내지 제3 실시 형태 등에 있어서 상술한 본 기술은, 임의의 장치, 디바이스, 시스템 등에 적용할 수 있다. 예를 들어, 화상 데이터의 부호화 데이터를 복호하는 화상 복호 장치에, 본 기술을 적용할 수 있다. 화상 데이터를 부호화하는 화상 부호화 장치에 적용할 수도 있다.
도 22는, 본 기술을 적용한 화상 처리 장치의 일 양태인 화상 복호 장치의 구성의 일례를 도시하는 블록도이다. 도 22에 도시되는 화상 복호 장치(500)는, 동화상의 부호화 데이터를 복호하는 장치이다. 예를 들어, 화상 복호 장치(500)는, 상술한 비특허문헌에 기재된 VVC, AVC, HEVC 등의 부호화 방식으로 부호화된 동화상의 부호화 데이터를 복호한다. 예를 들어, 화상 복호 장치(500)는, 후술하는 화상 부호화 장치(600)에 의해 생성된 부호화 데이터(비트스트림)를 복호할 수 있다.
또한, 도 22에 있어서는, 처리부나 데이터의 흐름 등의 주된 것을 도시하고 있고, 도 22에 도시되는 것이 전부라고는 할 수 없다. 즉, 화상 복호 장치(500)에 있어서, 도 22에 있어서 블록으로서 도시되어 있지 않은 처리부가 존재하거나, 도 22에 있어서 화살표 등으로서 도시되어 있지 않은 처리나 데이터의 흐름이 존재하거나 해도 된다. 이는, 화상 복호 장치(500) 내의 처리부 등을 설명하는 다른 도면에 있어서도 마찬가지이다.
도 22에 있어서, 화상 복호 장치(500)는, 제어부(501), 축적 버퍼(511), 복호부(512), 역양자화 역변환부(513), 연산부(514), 인루프 필터부(515), 재배열 버퍼(516), 프레임 메모리(517), 및 예측부(518)를 구비하고 있다. 또한, 예측부(518)는, 도시하지 않은 인트라 예측부 및 인터 예측부를 구비하고 있다.
<제어부>
제어부(501)는, 복호의 제어에 관한 처리를 행한다. 예를 들어, 제어부(501)는, 비트스트림에 포함되는 부호화 파라미터(헤더 정보 Hinfo, 예측 모드 정보 Pinfo, 변환 정보 Tinfo, 잔차 정보 Rinfo, 필터 정보 Finfo 등)를 복호부(512)를 통하여 취득한다. 또한, 제어부(501)는, 비트스트림에 포함되지 않는 부호화 파라미터를 추정할 수 있다. 또한, 제어부(501)는, 취득한(또는 추정한) 부호화 파라미터에 기초하여, 화상 복호 장치(500)의 각 처리부(축적 버퍼(511) 내지 예측부(518))를 제어함으로써, 복호를 제어한다.
예를 들어, 제어부(501)는, 헤더 정보 Hinfo를, 역양자화 역변환부(513), 예측부(518), 인루프 필터부(515)에 공급한다. 또한, 제어부(501)는, 예측 모드 정보 Pinfo를, 역양자화 역변환부(513) 및 예측부(518)에 공급한다. 또한, 제어부(501)는, 변환 정보 Tinfo를, 역양자화 역변환부(513)에 공급한다. 또한, 제어부(501)는, 잔차 정보 Rinfo를, 복호부(512)에 공급한다. 또한 제어부(501)는, 필터 정보 Finfo를, 인루프 필터부(515)에 공급한다.
물론, 상술한 예는 일례이며, 이 예에 한정되지 않는다. 예를 들어, 각 부호화 파라미터가 임의의 처리부에 공급되도록 해도 된다. 또한, 그 외의 정보가, 임의의 처리부에 공급되도록 해도 된다.
<헤더 정보 Hinfo>
헤더 정보 Hinfo는, 예를 들어, VPS(Video Parameter Set)/SPS(Sequence Parameter Set)/PPS(Picture Parameter Set)/PH(픽처 헤더)/SH(슬라이스 헤더) 등의 헤더 정보를 포함한다. 헤더 정보 Hinfo에는, 예를 들어 화상 사이즈(가로 폭 PicWidth, 세로 폭 PicHeight), 비트 심도(휘도 bitDepthY, 색차 bitDepthC), 색차 어레이 타입 ChromaArrayType, CU 사이즈의 최댓값 MaxCUSize/최솟값 MinCUSize, 4분 트리 분할(Quad-tree 분할이라고도 함)의 최대 심도 MaxQTDepth/최소 심도 MinQTDepth, 2분 트리 분할(Binary-tree 분할)의 최대 심도 MaxBTDepth/최소 심도 MinBTDepth, 변환 스킵 블록의 최댓값 MaxTSSize(최대 변환 스킵 블록 사이즈라고도 함), 각 부호화 툴의 온/오프 플래그(유효 플래그라고도 함) 등을 규정하는 정보가 포함된다.
예를 들어, 헤더 정보 Hinfo에 포함되는 부호화 툴의 온/오프 플래그로서는, 이하에 나타내는 변환, 양자화 처리에 관계되는 온/오프 플래그가 있다. 또한, 부호화 툴의 온/오프 플래그는, 부호화 툴에 관계되는 신택스가 부호화 데이터 중에 존재하는지 여부를 나타내는 플래그라고도 해석할 수 있다. 또한, 온/오프 플래그의 값이 1(참)인 경우, 부호화 툴이 사용 가능한 것을 나타내고, 온/오프 플래그의 값이 0(거짓)인 경우, 부호화 툴이 사용 불가인 것을 나타낸다. 또한, 플래그 값의 해석은 반대여도 된다.
<예측 모드 정보 Pinfo>
예측 모드 정보 Pinfo에는, 예를 들어 처리 대상 PB(예측 블록)의 사이즈 정보 PBSize(예측 블록 사이즈), 인트라 예측 모드 정보 IPinfo, 움직임 예측 정보 MVinfo 등의 정보가 포함된다.
인트라 예측 모드 정보 IPinfo에는, 예를 들어 JCTVC-W1005, 7.3.8.5 Coding Unit syntax 중의 prev_intra_luma_pred_flag, mpm_idx, rem_intra_pred_mode, 및 그 신택스로부터 도출되는 휘도 인트라 예측 모드 IntraPredModeY 등이 포함된다.
또한, 인트라 예측 모드 정보 IPinfo에는, 예를 들어 컴포넌트 간 예측 플래그(ccp_flag(cclmp_flag)), 다중 클래스 선형 예측 모드 플래그(mclm_flag), 색차 샘플 위치 타입 식별자(chroma_sample_loc_type_idx), 색차 MPM 식별자(chroma_mpm_idx), 및 이들 신택스로부터 도출되는 휘도 인트라 예측 모드(IntraPredModeC) 등이 포함된다.
컴포넌트 간 예측 플래그(ccp_flag(cclmp_flag))는, 컴포넌트 간 선형 예측을 적용할지 여부를 나타내는 플래그 정보이다. 예를 들어, ccp_flag == 1일 때, 컴포넌트 간 예측을 적용하는 것을 나타내고, ccp_flag == 0일 때, 컴포넌트 간 예측을 적용하지 않는 것을 나타낸다.
다중 클래스 선형 예측 모드 플래그(mclm_flag)는, 선형 예측의 모드에 관한 정보(선형 예측 모드 정보)이다. 보다 구체적으로는, 다중 클래스 선형 예측 모드 플래그(mclm_flag)는, 다중 클래스 선형 예측 모드로 할지 여부를 나타내는 플래그 정보이다. 예를 들어, 「0」인 경우, 1 클래스 모드(단일 클래스 모드)(예를 들어 CCLMP)인 것을 나타내고, 「1」인 경우, 2 클래스 모드(다중 클래스 모드)(예를 들어 MCLMP)인 것을 나타낸다.
색차 샘플 위치 타입 식별자(chroma_sample_loc_type_idx)는, 색차 컴포넌트의 화소 위치의 타입(색차 샘플 위치 타입이라고도 칭함)을 식별하는 식별자이다.
또한, 이 색차 샘플 위치 타입 식별자(chroma_sample_loc_type_idx)는, 색차 컴포넌트의 화소 위치에 관한 정보(chroma_sample_loc_info())로서(에 저장되어) 전송된다.
색차 MPM 식별자(chroma_mpm_idx)는, 색차 인트라 예측 모드 후보 리스트(intraPredModeCandListC) 중의 어느 예측 모드 후보를 색차 인트라 예측 모드로서 지정할지를 나타내는 식별자이다.
움직임 예측 정보 MVinfo에는, 예를 들어 merge_idx, merge_flag, inter_pred_idc, ref_idx_LX, mvp_lX_flag, X={0, 1}, mvd 등의 정보가 포함된다(예를 들어, JCTVC-W1005, 7.3.8.6 Prediction Unit Syntax를 참조).
물론, 예측 모드 정보 Pinfo에 포함되는 정보는 임의이며, 이들 정보 이외의 정보가 포함되도록 해도 된다.
<변환 정보 Tinfo>
변환 정보 Tinfo에는, 예를 들어 이하의 정보가 포함된다. 물론, 변환 정보 Tinfo에 포함되는 정보는 임의이며, 이들 정보 이외의 정보가 포함되도록 해도 된다.
처리 대상 변환 블록의 가로 폭 사이즈 TBWSize 및 세로 폭 TBHSize: 2를 밑으로 하는 각 TBWSize, TBHSize의 대수값 log2TBWSize, log2TBHSize여도 된다.
변환 스킵 플래그(ts_flag): (역) 프라이머리 변환 및 (역) 세컨더리 변환을 스킵할지 여부를 나타내는 플래그이다.
스캔 식별자(scanIdx)
양자화 파라미터(qp)
양자화 매트릭스(scaling_matrix): 예를 들어, JCTVC-W1005, 7.3.4 Scaling list data syntax
<잔차 정보 Rinfo>
잔차 정보 Rinfo(예를 들어, JCTVC-W1005의 7.3.8.11 Residual Coding syntax를 참조)에는, 예를 들어, 이하의 신택스가 포함된다.
cbf(coded_block_flag): 잔차 데이터 유무 플래그
last_sig_coeff_x_pos: 라스트 비제로 계수 X 좌표
last_sig_coeff_y_pos: 라스트 비제로 계수 Y 좌표
coded_sub_block_flag: 서브블록 비제로 계수 유무 플래그
sig_coeff_flag: 비제로 계수 유무 플래그
gr1_flag: 비제로 계수의 레벨이 1보다 큰지를 나타내는 플래그(GR1 플래그라고도 칭함)
gr2_flag: 비제로 계수의 레벨이 2보다 큰지를 나타내는 플래그(GR2 플래그라고도 칭함)
sign_flag: 비제로 계수의 양음을 나타내는 부호(사인 부호라고도 칭함)
coeff_abs_level_remaining: 비제로 계수의 잔여 레벨(비제로 계수 잔여 레벨이라고도 칭함)
등.
물론, 잔차 정보 Rinfo에 포함되는 정보는 임의이며, 이들 정보 이외의 정보가 포함되도록 해도 된다.
<필터 정보 Finfo>
필터 정보 Finfo에는, 예를 들어 이하에 나타내는 각 필터 처리에 관한 제어 정보가 포함된다.
디블로킹 필터(DBF)에 관한 제어 정보
화소 적응 오프셋(SAO)에 관한 제어 정보
적응 루프 필터(ALF)에 관한 제어 정보
그 외의 선형·비선형 필터에 관한 제어 정보
보다 구체적으로는, 예를 들어 각 필터를 적용하는 픽처나, 픽처 내의 영역을 지정하는 정보나, CU 단위의 필터 On/Off 제어 정보, 슬라이스, 타일의 경계에 관한 필터 On/Off 제어 정보 등이 포함된다. 물론, 필터 정보 Finfo에 포함되는 정보는 임의이며, 이들 정보 이외의 정보가 포함되도록 해도 된다.
<축적 버퍼>
축적 버퍼(511)는, 화상 복호 장치(500)에 입력된 비트스트림을 취득하고, 보유(기억)한다. 축적 버퍼(511)는, 소정의 타이밍에 있어서, 또는 소정의 조건이 갖추어지거나 한 경우, 축적하고 있는 비트스트림에 포함되는 부호화 데이터를 추출하여, 복호부(512)에 공급한다.
<복호부>
복호부(512)는, 화상의 복호에 관한 처리를 행한다. 예를 들어, 복호부(512)는, 축적 버퍼(511)로부터 공급되는 부호화 데이터를 입력으로 하고, 신택스 테이블의 정의를 따라, 그 비트 열로부터, 각 신택스 요소의 신택스 값을 엔트로피 복호(가역 복호)하여, 파라미터를 도출한다.
신택스 요소 및 신택스 요소의 신택스 값으로부터 도출되는 파라미터에는, 예를 들어 헤더 정보 Hinfo, 예측 모드 정보 Pinfo, 변환 정보 Tinfo, 잔차 정보 Rinfo, 필터 정보 Finfo 등의 정보가 포함된다. 즉, 복호부(512)는, 비트스트림으로부터, 이들 정보를 파싱한다(해석하여 취득함).
또한, 복호부(512)는, 제어부(501)의 제어에 따라, 이러한 파싱을 행한다. 그리고, 복호부(512)는, 파싱하여 얻어진 이들 정보를 제어부(501)에 공급한다.
또한, 복호부(512)는, 잔차 정보 Rinfo를 참조하여 부호화 데이터를 복호한다. 그때, 복호부(512)는, 예를 들어 CABAC나 CAVLC 등의 엔트로피 복호(가역 복호)를 적용한다. 즉, 복호부(512)는, 화상 부호화 장치(600)의 부호화부(614)가 행하는 부호화 방식에 대응하는 복호 방식으로 부호화 데이터를 복호한다.
예를 들어, CABAC를 적용한다고 가정한다. 비무손실 부호화 모드의 경우, 복호부(512)는, 부호화 데이터에 대하여 컨텍스트 모델을 사용하는 산술 복호를 행하여, 각 변환 블록 내의 각 계수 위치의 양자화 계수 level을 도출한다. 복호부(512)는, 그 도출한 양자화 계수 level을 역양자화 역변환부(513)에 공급한다.
또한, 무손실 부호화 모드의 경우, 복호부(512)는, 부호화 데이터에 대하여 바이패스 모드에서 산술 복호를 행하여, 잔차 데이터 D를 도출한다. 복호부(512)는, 그 도출한 잔차 데이터 D를 역양자화 역변환부(513)에 공급한다.
<역양자화 역변환부>
역양자화 역변환부(513)는, 역양자화 및 역 계수 변환에 관한 처리를 행한다. 예를 들어, 비무손실 부호화 모드의 경우, 역양자화 역변환부(513)는, 복호부(512)로부터 공급되는 양자화 계수 level을 취득한다. 역양자화 역변환부(513)는, 그 취득한 양자화 계수 level을 스케일링(역양자화)하여, 변환 계수 Coeff를 도출한다. 역양자화 역변환부(513)는, 그 변환 계수 Coeff에 대하여, 예를 들어 역 직교 변환 등의 역 계수 변환을 행하여, 잔차 데이터 D'을 도출한다. 역양자화 역변환부(513)는, 그 잔차 데이터 D'을 연산부(514)에 공급한다.
역양자화 역변환부(513)는, 이들 역양자화 및 역 계수 변환을 스킵(생략)할 수 있다. 예를 들어, 무손실 부호화 모드의 경우, 역양자화 역변환부(513)는, 복호부(512)로부터 공급되는 잔차 데이터 D를 취득한다. 역양자화 역변환부(513)는, 역양자화 및 역 계수 변환을 스킵(생략)하고, 그 잔차 데이터 D를 잔차 데이터 D'으로서 연산부(514)에 공급한다.
또한, 역양자화 역변환부(513)는, 제어부(501)의 제어에 따라서 이들 처리를 행한다. 예를 들어, 역양자화 역변환부(513)는, 제어부(501)로부터 공급되는 예측 모드 정보 Pinfo나 변환 정보 Tinfo에 기초하여, 이들 처리를 행할 수 있다.
<연산부>
연산부(514)는, 화상에 관한 정보의 가산에 관한 처리를 행한다. 예를 들어, 연산부(514)는, 역양자화 역변환부(513)로부터 공급되는 잔차 데이터 D'과, 예측부(518)로부터 공급되는 예측 화상을 입력으로 한다. 연산부(514)는, 그 잔차 데이터와 그 잔차 데이터에 대응하는 예측 화상(예측 신호)을 가산하여, 국소 복호 화상을 도출한다. 연산부(514)는, 도출한 국소 복호 화상을, 인루프 필터부(515) 및 프레임 메모리(517)에 공급한다.
<인루프 필터부>
인루프 필터부(515)는, 인루프 필터 처리에 관한 처리를 행한다. 예를 들어, 인루프 필터부(515)는, 연산부(514)로부터 공급되는 국소 복호 화상과, 제어부(501)로부터 공급되는 필터 정보 Finfo를 입력으로 한다. 또한, 인루프 필터부(515)에 입력되는 정보는 임의이며, 이들 정보 이외의 정보가 입력되어도 된다.
인루프 필터부(515)는, 그 필터 정보 Finfo에 기초하여, 국소 복호 화상에 대하여 적절히 필터 처리를 행한다. 예를 들어, 인루프 필터부(515)는, 양방향 필터, 디블로킹 필터(DBF(DeBlocking Filter)), 적응 오프셋 필터(SAO(Sample Adaptive Offset)), 및 적응 루프 필터(ALF(Adaptive Loop Filter))의 4개의 인루프 필터를 이 순서로 적용한다. 또한, 어느 필터를 적용할지, 어느 순서로 적용할지는 임의이며, 적절히 선택 가능하다.
인루프 필터부(515)는, 부호화 측(예를 들어 화상 부호화 장치(600)의 인루프 필터부(618))에 의해 행해진 필터 처리에 대응하는 필터 처리를 행한다. 물론, 인루프 필터부(515)가 행하는 필터 처리는 임의이며, 상술한 예에 한정되지 않는다. 예를 들어, 인루프 필터부(515)가 위너 필터 등을 적용하도록 해도 된다.
인루프 필터부(515)는, 필터 처리된 국소 복호 화상을 재배열 버퍼(516) 및 프레임 메모리(517)에 공급한다.
<재배열 버퍼>
재배열 버퍼(516)는, 인루프 필터부(515)로부터 공급된 국소 복호 화상을 입력으로 하고, 그것을 보유(기억)한다. 재배열 버퍼(516)는, 그 국소 복호 화상을 사용하여 픽처 단위마다의 복호 화상을 재구축하여, 보유한다(버퍼 내에 저장함). 재배열 버퍼(516)는, 얻어진 복호 화상을, 복호순으로부터 재생순으로 재배열한다. 재배열 버퍼(516)는, 재배열한 복호 화상 군을 동화상 데이터로서 화상 복호 장치(500)의 외부에 출력한다.
<프레임 메모리>
프레임 메모리(517)는, 화상에 관한 데이터의 기억에 관한 처리를 행한다. 예를 들어, 프레임 메모리(517)는, 연산부(514)로부터 공급되는 국소 복호 화상을 입력으로 하고, 픽처 단위마다의 복호 화상을 재구축하여, 프레임 메모리(517) 내의 버퍼에 저장한다.
또한, 프레임 메모리(517)는, 인루프 필터부(515)로부터 공급되는, 인루프 필터 처리된 국소 복호 화상을 입력으로 하고, 픽처 단위마다의 복호 화상을 재구축하여, 프레임 메모리(517) 내의 버퍼에 저장한다. 프레임 메모리(517)는, 적절히, 그 기억하고 있는 복호 화상(또는 그 일부)을 참조 화상으로서 예측부(518)에 공급한다.
또한, 프레임 메모리(517)가, 복호 화상의 생성에 관한 헤더 정보 Hinfo, 예측 모드 정보 Pinfo, 변환 정보 Tinfo, 필터 정보 Finfo 등을 기억하도록 해도 된다.
<예측부>
예측부(518)는, 예측 화상의 생성에 관한 처리를 행한다. 예를 들어, 예측부(518)는, 제어부(501)로부터 공급되는 예측 모드 정보 Pinfo와, 프레임 메모리(517)로부터 판독하는 복호 화상(또는 그 일부)을 입력으로 한다. 예측부(518)는, 예측 모드 정보 Pinfo에 기초하여 부호화 시에 채용된 예측 모드에서 예측 처리를 행하고, 복호 화상을 참조 화상으로서 참조하여 예측 화상을 생성한다. 예측부(518)는, 생성한 예측 화상을 연산부(514)에 공급한다.
<역양자화 역변환 장치의 적용>
이상과 같은 화상 복호 장치(500)의, 역양자화 역변환부(513)로서, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 역양자화 역변환 장치(100)를 적용해도 된다. 즉, 이 역양자화 역변환부(513)가, 도 2, 도 9, 또는 도 16에 도시된 바와 같은 구성을 갖도록 해도 된다. 이렇게 함으로써, 역양자화 역변환부(513)는, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 효과를 얻을 수 있다. 즉, 화상 복호 장치(500)는, 그 복호 처리에 있어서, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 효과를 얻을 수 있다.
<화상 복호 처리의 흐름>
다음으로, 이상과 같은 화상 복호 장치(500)에 의해 실행되는 화상 복호 처리의 흐름의 예를 도 23의 흐름도를 참조하여 설명한다.
화상 복호 처리가 개시되면, 축적 버퍼(511)는, 스텝 S501에 있어서, 화상 복호 장치(500)의 외부로부터 공급되는 비트스트림(부호화 데이터)을 취득하여 보유한다(축적함).
스텝 S502에 있어서, 복호부(512)는, 그 비트스트림으로부터 각종 부호화 파라미터를 파싱한다(해석하여 취득함). 제어부(501)는, 그 취득한 각종 부호화 파라미터를 각종 처리부에 공급함으로써, 그 각종 부호화 파라미터를 설정한다.
스텝 S503에 있어서, 제어부(501)는, 얻어진 부호화 파라미터에 기초하여, 처리 단위를 설정한다.
스텝 S504에 있어서, 복호부(512)는, 제어부(501)의 제어에 따라, 비트스트림을 복호하고, 계수 데이터(양자화 계수 level 또는 잔차 데이터 r)를 얻는다. 예를 들어 CABAC를 적용하면, 비무손실 부호화 모드의 경우, 복호부(512)는, 컨텍스트 모델을 사용하여 산술 복호를 행하여, 각 변환 블록 내의 각 계수 위치의 양자화 계수 level을 도출한다. 또한, 무손실 부호화 모드의 경우, 복호부(512)는, 부호화 데이터에 대하여 바이패스 모드에서 산술 복호를 행하여, 잔차 데이터 D를 도출한다.
스텝 S505에 있어서, 역양자화 역변환부(513)는, 역양자화 역변환 처리를 행하여, 잔차 데이터 r(D')을 생성한다. 역양자화 역변환 처리에 대해서는 후술한다.
스텝 S506에 있어서, 예측부(518)는, 스텝 S502에 있어서 설정된 부호화 파라미터 등에 기초하여, 부호화 측으로부터 지정되는 예측 방법으로 예측 처리를 실행하고, 프레임 메모리(517)에 기억되어 있는 참조 화상을 참조하거나 하여, 예측 화상 P를 생성한다.
스텝 S507에 있어서, 연산부(514)는, 스텝 S505에 있어서 얻어진 잔차 데이터 D'과, 스텝 S506에 있어서 얻어진 예측 화상 P를 가산하여, 국소 복호 화상 Rlocal을 도출한다.
스텝 S508에 있어서, 인루프 필터부(515)는, 스텝 S507의 처리에 의해 얻어진 국소 복호 화상 Rlocal에 대하여, 인루프 필터 처리를 행한다.
스텝 S509에 있어서, 재배열 버퍼(516)는, 스텝 S508의 처리에 의해 필터 처리된 국소 복호 화상 Rlocal을 사용하여 복호 화상 R을 도출하고, 그 복호 화상 R군의 순서를 복호순으로부터 재생순으로 재배열한다. 재생순으로 재배열된 복호 화상 R군은, 동화상으로서 화상 복호 장치(500)의 외부에 출력된다.
또한, 스텝 S510에 있어서, 프레임 메모리(517)는, 스텝 S507의 처리에 의해 얻어진 국소 복호 화상 Rlocal, 및 스텝 S508의 처리에 의해 필터 처리된 국소 복호 화상 Rlocal 중, 적어도 한쪽을 기억한다.
스텝 S510의 처리가 종료되면, 화상 복호 처리가 종료된다.
<역양자화 역변환 처리의 적용>
이상과 같은 화상 복호 장치(500)의, 역양자화 역변환 처리(스텝 S505)로서, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 역양자화 역변환 처리를 적용해도 된다. 즉, 이 역양자화 역변환 처리가, 도 3, 도 10, 또는 도 17에 도시되는 흐름도와 같은 흐름으로 실행되도록 해도 된다. 이렇게 함으로써, 역양자화 역변환부(513)는, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 효과를 얻을 수 있다. 즉, 화상 복호 장치(500)는, 화상 복호 처리에 있어서, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 효과를 얻을 수 있다.
<6. 제5 실시 형태>
<화상 부호화 장치>
도 24는, 본 기술을 적용한 화상 처리 장치의 일 양태인 화상 부호화 장치의 구성의 일례를 도시하는 블록도이다. 도 24에 도시되는 화상 부호화 장치(600)는, 동화상의 화상 데이터를 부호화하는 장치이다. 예를 들어, 화상 부호화 장치(600)는, 상술한 비특허문헌에 기재된 VVC(Versatile Video Coding), AVC(Advanced Video Coding), HEVC(High Efficiency Video Coding) 등의 부호화 방식으로 동화상의 화상 데이터를 부호화한다.
또한, 도 24에 있어서는, 처리부나 데이터의 흐름 등의 주된 것을 도시하고 있고, 도 24에 도시되는 것이 전부라고는 할 수 없다. 즉, 화상 부호화 장치(600)에 있어서, 도 24에 있어서 블록으로서 도시되어 있지 않은 처리부가 존재하거나, 도 24에 있어서 화살표 등으로서 도시되어 있지 않은 처리나 데이터의 흐름이 존재하거나 해도 된다. 이는, 화상 부호화 장치(600) 내의 처리부 등을 설명하는 다른 도면에 있어서도 마찬가지이다.
도 24에 도시되는 바와 같이 화상 부호화 장치(600)는, 제어부(601), 재배열 버퍼(611), 연산부(612), 변환 양자화부(613), 부호화부(614), 및 축적 버퍼(615)를 갖는다. 또한, 화상 부호화 장치(600)는, 역양자화 역변환부(616), 연산부(617), 인루프 필터부(618), 프레임 메모리(619), 예측부(620), 및 레이트 제어부(621)를 갖는다.
<제어부>
제어부(601)는, 외부, 또는 미리 지정된 처리 단위의 블록 사이즈에 기초하여, 재배열 버퍼(611)에 의해 보유되어 있는 동화상 데이터를 처리 단위의 블록(CU, PU, TU 등)으로 분할한다. 또한, 제어부(601)는, 각 블록에 공급하는 부호화 파라미터(헤더 정보 Hinfo, 예측 모드 정보 Pinfo, 변환 정보 Tinfo, 필터 정보 Finfo 등)를, 예를 들어 RDO(Rate-Distortion Optimization)에 기초하여, 결정한다. 예를 들어, 제어부(601)는, 변환 스킵 플래그 등을 설정할 수 있다.
이들 부호화 파라미터의 상세에 대해서는 후술한다. 제어부(601)는, 이상과 같은 부호화 파라미터를 결정하면, 그것을 각 블록에 공급한다. 구체적으로는, 이하와 같다.
헤더 정보 Hinfo는, 각 블록에 공급된다. 예측 모드 정보 Pinfo는, 부호화부(614)와 예측부(620)에 공급된다. 변환 정보 Tinfo는, 부호화부(614), 변환 양자화부(613), 역양자화 역변환부(616)에 공급된다. 필터 정보 Finfo는, 인루프 필터부(618)에 공급된다.
<재배열 버퍼>
화상 부호화 장치(600)에는, 동화상 데이터의 각 필드(입력 화상)가 그 재생순(표시순)으로 입력된다. 재배열 버퍼(611)는, 각 입력 화상을 그 재생순(표시순)으로 취득하고, 보유(기억)한다. 재배열 버퍼(611)는, 제어부(601)의 제어에 기초하여, 그 입력 화상을 부호화순(복호순)으로 재배열하거나, 처리 단위의 블록으로 분할하거나 한다. 재배열 버퍼(611)는, 처리 후의 각 입력 화상을 연산부(612)에 공급한다.
<연산부>
연산부(612)는, 재배열 버퍼(611)로부터 공급되는 처리 단위의 블록에 대응하는 화상으로부터, 예측부(620)로부터 공급되는 예측 화상 P를 감산하여, 잔차 데이터 D를 도출하고, 그것을 변환 양자화부(613)에 공급한다.
<변환 양자화부>
변환 양자화부(613)는, 계수 변환과 양자화에 관한 처리를 행한다. 예를 들어, 변환 양자화부(613)는, 연산부(612)로부터 공급되는 잔차 데이터 D를 취득한다. 비무손실 부호화 모드의 경우, 변환 양자화부(613)는, 그 잔차 데이터 D에 대하여 예를 들어 직교 변환 등의 계수 변환을 행하여, 변환 계수 Coeff를 도출한다. 변환 양자화부(613)는, 그 변환 계수 Coeff를 스케일링(양자화)하여, 양자화 계수 level을 도출한다. 변환 양자화부(613)는, 그 양자화 계수 level을 부호화부(614) 및 역양자화 역변환부(616)에 공급한다.
변환 양자화부(613)는, 계수 변환이나 양자화를 스킵(생략)할 수 있다. 무손실 부호화 모드의 경우, 변환 양자화부(613)는, 이 계수 변환이나 양자화를 스킵하고, 취득한 잔차 데이터 D를 부호화부(614)나 역양자화 역변환부(616)에 공급한다.
또한, 변환 양자화부(613)는, 제어부(601)의 제어에 따라서 이들 처리를 행한다. 예를 들어, 변환 양자화부(613)는, 제어부(601)로부터 공급되는 예측 모드 정보 Pinfo나 변환 정보 Tinfo에 기초하여, 이들 처리를 행할 수 있다. 또한, 변환 양자화부(613)가 행하는 양자화의 레이트는, 레이트 제어부(621)에 의해 제어된다.
<부호화부>
부호화부(614)는, 변환 양자화부(613)로부터 공급된 양자화 계수 level(또는 잔차 데이터 D)과, 제어부(601)로부터 공급되는 각종 부호화 파라미터(헤더 정보 Hinfo, 예측 모드 정보 Pinfo, 변환 정보 Tinfo, 필터 정보 Finfo 등)와, 인루프 필터부(618)로부터 공급되는 필터 계수 등의 필터에 관한 정보와, 예측부(620)로부터 공급되는 최적의 예측 모드에 관한 정보를 입력으로 한다.
부호화부(614)는, 양자화 계수 level 또는 잔차 데이터 D에 대하여, 예를 들어 CABAC(Context-based Adaptive Binary Arithmetic Code)나 CAVLC(Context-based Adaptive Variable Length Code) 등의 엔트로피 부호화(가역 부호화)를 행하여, 비트 열(부호화 데이터)을 생성한다. 예를 들어, CABAC를 적용할 경우, 부호화부(614)는, 비무손실 부호화 모드에서, 양자화 계수 level에 대하여 컨텍스트 모델을 사용하는 산술 부호화를 행하여, 부호화 데이터를 생성한다. 또한, 무손실 부호화 모드에서, 부호화부(614)는, 잔차 데이터 D에 대하여 바이패스 모드에서 산술 부호화를 행하여, 부호화 데이터를 생성한다.
또한, 부호화부(614)는, 그 양자화 계수 레벨이나 잔차 데이터로부터 잔차 정보 Rinfo를 도출하고, 잔차 정보 Rinfo를 부호화하여, 비트 열을 생성한다.
또한, 부호화부(614)는, 인루프 필터부(618)로부터 공급되는 필터에 관한 정보를 필터 정보 Finfo에 포함시키고, 예측부(620)로부터 공급되는 최적의 예측 모드에 관한 정보를 예측 모드 정보 Pinfo에 포함시킨다. 그리고, 부호화부(614)는, 상술한 각종 부호화 파라미터(헤더 정보 Hinfo, 예측 모드 정보 Pinfo, 변환 정보 Tinfo, 필터 정보 Finfo 등)를 부호화하여, 비트 열을 생성한다.
또한, 부호화부(614)는, 이상과 같이 생성된 각종 정보의 비트 열을 다중화하여, 부호화 데이터를 생성한다. 부호화부(614)는, 그 부호화 데이터를 축적 버퍼(615)에 공급한다.
<축적 버퍼>
축적 버퍼(615)는, 부호화부(614)에 있어서 얻어진 부호화 데이터를, 일시적으로 보유한다. 축적 버퍼(615)는, 소정의 타이밍에 있어서, 보유하고 있는 부호화 데이터를, 예를 들어 비트스트림 등으로서 화상 부호화 장치(600)의 외부에 출력한다. 예를 들어, 이 부호화 데이터는, 임의의 기록 매체, 임의의 전송 매체, 임의의 정보 처리 장치 등을 통하여 복호 측에 전송된다. 즉, 축적 버퍼(615)는, 부호화 데이터(비트스트림)를 전송하는 전송부이기도 하다.
<역양자화 역변환부>
역양자화 역변환부(616)는, 역양자화와 역 계수 변환에 관한 처리를 행한다. 예를 들어, 비무손실 부호화 모드의 경우, 역양자화 역변환부(616)는, 변환 양자화부(613)로부터 공급되는 양자화 계수 level과, 제어부(601)로부터 공급되는 변환 정보 Tinfo를 입력으로 한다. 역양자화 역변환부(616)는, 변환 정보 Tinfo에 기초하여, 양자화 계수 level의 값을 스케일링(역양자화)하여, 변환 계수 Coeff를 도출한다. 또한, 이 역양자화는, 변환 양자화부(613)에 있어서 행해지는 양자화의 역 처리이다. 또한, 역양자화 역변환부(616)는, 변환 정보 Tinfo에 기초하여, 변환 계수 Coeff에 대하여 역 계수 변환(예를 들어 역 직교 변환)을 행하여, 잔차 데이터 D'을 도출한다. 또한, 이 역 계수 변환은, 변환 양자화부(613)에 있어서 행해지는 계수 변환의 역 처리이다. 역양자화 역변환부(616)는, 도출한 잔차 데이터 D'을 연산부(617)에 공급한다.
또한, 역양자화 역변환부(616)는, 이 역양자화나 역 계수 변환을 스킵(생략)할 수 있다. 예를 들어, 무손실 부호화 모드가 적용된 경우, 역양자화 역변환부(616)는, 변환 양자화부(613)로부터 공급되는 잔차 데이터 D와, 제어부(601)로부터 공급되는 변환 정보 Tinfo를 입력으로 한다. 역양자화 역변환부(616)는, 이 역양자화나 역 계수 변환을 스킵하고, 잔차 데이터 D를 (잔차 데이터 D'으로서) 연산부(617)에 공급한다.
또한, 이 역양자화 역변환부(616)는, 복호 측의 역양자화 역변환부(후술함)와 마찬가지이므로, 역양자화 역변환부(616)에 대해서는, 복호 측에 대하여 행하는 설명(후술함)을 적용할 수 있다.
<연산부>
연산부(617)는, 역양자화 역변환부(616)로부터 공급되는 잔차 데이터 D'과, 예측부(620)로부터 공급되는 예측 화상 P를 입력으로 한다. 연산부(617)는, 그 잔차 데이터 D'과, 그 잔차 데이터 D'에 대응하는 예측 화상을 가산하여, 국소 복호 화상을 도출한다. 연산부(617)는, 도출한 국소 복호 화상을 인루프 필터부(618) 및 프레임 메모리(619)에 공급한다.
<인루프 필터부>
인루프 필터부(618)는, 인루프 필터 처리에 관한 처리를 행한다. 예를 들어, 인루프 필터부(618)는, 연산부(617)로부터 공급되는 국소 복호 화상과, 제어부(601)로부터 공급되는 필터 정보 Finfo와, 재배열 버퍼(611)로부터 공급되는 입력 화상(원화상)을 입력으로 한다. 또한, 인루프 필터부(618)에 입력되는 정보는 임의이며, 이들 정보 이외의 정보가 입력되어도 된다. 예를 들어, 필요에 따라, 예측 모드, 움직임 정보, 부호량 목표값, 양자화 파라미터 QP, 픽처 타입, 블록(CU, CTU 등)의 정보 등이 인루프 필터부(618)에 입력되도록 해도 된다.
인루프 필터부(618)는, 그 필터 정보 Finfo에 기초하여, 국소 복호 화상에 대하여 적절히 필터 처리를 행한다. 인루프 필터부(618)는, 필요에 따라 입력 화상(원화상)이나, 그 외의 입력 정보도 그 필터 처리에 사용한다.
예를 들어, 인루프 필터부(618)는, 양방향 필터, 디블로킹 필터(DBF(DeBlocking Filter)), 적응 오프셋 필터(SAO(Sample Adaptive Offset)), 및 적응 루프 필터(ALF(Adaptive Loop Filter))의 4개의 인루프 필터를 이 순서로 적용할 수 있다. 또한, 어느 필터를 적용할지, 어느 순서로 적용할지는 임의이며, 적절히 선택 가능하다.
물론, 인루프 필터부(618)가 행하는 필터 처리는 임의이며, 상술한 예에 한정되지 않는다. 예를 들어, 인루프 필터부(618)가 위너 필터 등을 적용하도록 해도 된다.
인루프 필터부(618)는, 필터 처리된 국소 복호 화상을 프레임 메모리(619)에 공급한다. 또한, 예를 들어 필터 계수 등의 필터에 관한 정보를 복호 측에 전송하는 경우, 인루프 필터부(618)는, 그 필터에 관한 정보를 부호화부(614)에 공급한다.
<프레임 메모리>
프레임 메모리(619)는, 화상에 관한 데이터의 기억에 관한 처리를 행한다. 예를 들어, 프레임 메모리(619)는, 연산부(617)로부터 공급되는 국소 복호 화상이나, 인루프 필터부(618)로부터 공급되는 필터 처리된 국소 복호 화상을 입력으로 하고, 그것을 보유(기억)한다. 또한, 프레임 메모리(619)는, 그 국소 복호 화상을 사용하여 픽처 단위마다의 복호 화상을 재구축하여, 보유한다(프레임 메모리(619) 내의 버퍼에 저장함). 프레임 메모리(619)는, 예측부(620)의 요구에 따라, 그 복호 화상(또는 그 일부)을 예측부(620)에 공급한다.
<예측부>
예측부(620)는, 예측 화상의 생성에 관한 처리를 행한다. 예를 들어, 예측부(620)는, 제어부(601)로부터 공급되는 예측 모드 정보 Pinfo와, 재배열 버퍼(611)로부터 공급되는 입력 화상(원화상)과, 프레임 메모리(619)로부터 판독하는 복호 화상(또는 그 일부)을 입력으로 한다. 예측부(620)는, 예측 모드 정보 Pinfo나 입력 화상(원화상)을 사용하여, 인터 예측이나 인트라 예측 등의 예측 처리를 행하고, 복호 화상을 참조 화상으로서 참조하여 예측을 행하고, 그 예측 결과에 기초하여 움직임 보상 처리를 행하여, 예측 화상을 생성한다. 예측부(620)는, 생성한 예측 화상을 연산부(612) 및 연산부(617)에 공급한다. 또한, 예측부(620)는, 이상의 처리에 의해 선택한 예측 모드, 즉 최적의 예측 모드에 관한 정보를, 필요에 따라 부호화부(614)에 공급한다.
<레이트 제어부>
레이트 제어부(621)는, 레이트 제어에 관한 처리를 행한다. 예를 들어, 레이트 제어부(621)는, 축적 버퍼(615)에 축적된 부호화 데이터의 부호량에 기초하여, 오버플로우 혹은 언더플로우가 발생하지 않도록, 변환 양자화부(613)의 양자화 동작의 레이트를 제어한다.
<변환 양자화 장치의 적용>
이상과 같은 화상 부호화 장치(600)의, 변환 양자화부(613)로서, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 변환 양자화 장치(200)를 적용해도 된다. 즉, 이 변환 양자화부(613)가, 도 7, 도 14, 또는 도 20에 도시된 바와 같은 구성을 갖도록 해도 된다. 이렇게 함으로써, 변환 양자화부(613)는, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 효과를 얻을 수 있다. 즉, 화상 부호화 장치(600)는, 그 복호 처리에 있어서, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 효과를 얻을 수 있다.
<화상 부호화 처리의 흐름>
도 25의 흐름도를 참조하여, 화상 부호화 장치(600)에 의해 실행되는 화상 부호화 처리의 흐름의 예를 설명한다.
화상 부호화 처리가 개시되면, 스텝 S601에 있어서, 재배열 버퍼(611)는, 제어부(601)에 의해 제어되어, 입력된 동화상 데이터의 프레임의 순서를 표시순으로부터 부호화순으로 재배열한다.
스텝 S602에 있어서, 제어부(601)는, 재배열 버퍼(611)가 보유하는 입력 화상에 관한 부호화 파라미터를 결정(설정)한다.
스텝 S603에 있어서, 제어부(601)는, 재배열 버퍼(611)가 보유하는 입력 화상에 대하여, 처리 단위를 설정한다(블록 분할을 행함).
스텝 S604에 있어서, 예측부(620)는, 예측 처리를 행하여, 최적의 예측 모드의 예측 화상 등을 생성한다. 예를 들어, 이 예측 처리에 있어서, 예측부(620)는, 인트라 예측을 행하여 최적의 인트라 예측 모드의 예측 화상 등을 생성하고, 인터 예측을 행하여 최적의 인터 예측 모드의 예측 화상 등을 생성하고, 그것들 중에서, 비용 함수 값 등에 기초하여 최적의 예측 모드를 선택한다.
스텝 S605에 있어서, 연산부(612)는, 입력 화상과, 스텝 S604의 예측 처리에 의해 선택된 최적의 모드의 예측 화상 간의 차분을 연산한다. 즉, 연산부(612)는, 입력 화상과 예측 화상 간의 잔차 데이터 D를 생성한다. 이렇게 하여 구해진 잔차 데이터 D는, 원래의 화상 데이터에 비하여 데이터량이 저감된다. 따라서, 화상을 그대로 부호화하는 경우에 비하여, 데이터양을 압축할 수 있다.
스텝 S606에 있어서, 변환 양자화부(613)는, 스텝 S601에 있어서 생성된 변환 모드 정보에 따라, 스텝 S605의 처리에 의해 생성된 잔차 데이터 D에 대하여 변환 양자화 처리를 행한다.
스텝 S607에 있어서, 역양자화 역변환부(616)는, 역양자화 역변환 처리를 행한다. 이 역양자화 역변환 처리는, 스텝 S606의 변환 양자화 처리의 역 처리이며, 상술한 화상 복호 장치(500)에 있어서도, 마찬가지의 처리가 실행된다. 따라서, 이 역양자화 역변환 처리의 설명은, 복호 측(화상 복호 장치(500))을 설명할 때 행한다. 그리고 그 설명은, 이 역양자화 역변환 처리(스텝 S607)에 적용할 수 있다. 이 처리에 의해, 역양자화 역변환부(616)는, 입력된 계수 데이터(양자화 계수 level 또는 잔차 데이터 r(D))에 대하여, 적절히, 역양자화나 역 계수 변환을 행하여, 잔차 데이터 D'을 생성한다.
스텝 S608에 있어서, 연산부(617)는, 스텝 S607의 역양자화 역변환 처리에 의해 얻어진 잔차 데이터 D'에, 스텝 S604의 예측 처리에 의해 얻어진 예측 화상을 가산함으로써, 국소적으로 복호된 복호 화상을 생성한다.
스텝 S609에 있어서, 인루프 필터부(618)는, 스텝 S608의 처리에 의해 도출된, 국소적으로 복호된 복호 화상에 대하여, 인루프 필터 처리를 행한다.
스텝 S610에 있어서, 프레임 메모리(619)는, 스텝 S608의 처리에 의해 도출된, 국소적으로 복호된 복호 화상이나, 스텝 S609에 있어서 필터 처리된, 국소적으로 복호된 복호 화상을 기억한다.
스텝 S611에 있어서, 부호화부(614)는, 스텝 S606의 변환 양자화 처리에 의해 얻어진 양자화 계수 level 또는 잔차 데이터 D를 부호화하여, 부호화 데이터를 생성한다. 또한, 이때, 부호화부(614)는, 각종 부호화 파라미터(헤더 정보 Hinfo, 예측 모드 정보 Pinfo, 변환 정보 Tinfo)를 부호화한다. 또한, 부호화부(614)는, 양자화 계수 level이나 잔차 데이터 D로부터 잔차 정보 RInfo를 도출하고, 그 잔차 정보 RInfo를 부호화한다.
스텝 S612에 있어서, 축적 버퍼(615)는, 이렇게 하여 얻어진 부호화 데이터를 축적하고, 예를 들어 비트스트림으로서, 그것을 화상 부호화 장치(600)의 외부에 출력한다. 이 비트스트림은, 예를 들어 전송로나 기록 매체를 통하여 복호 측에 전송된다. 또한, 레이트 제어부(621)는, 필요에 따라 레이트 제어를 행한다. 스텝 S612의 처리가 종료되면, 화상 부호화 처리가 종료된다.
<변환 양자화 처리의 적용>
이상과 같은 화상 부호화 장치(600)의, 변환 양자화 처리(스텝 S606)로서, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 역양자화 역변환 처리를 적용해도 된다. 즉, 이 역양자화 역변환 처리가, 도 8, 도 15, 또는 도 21에 도시되는 흐름도와 같은 흐름으로 실행되도록 해도 된다. 이렇게 함으로써, 변환 양자화부(613)는, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 효과를 얻을 수 있다. 즉, 화상 부호화 장치(600)는, 화상 부호화 처리에 있어서, 제1 실시 형태 내지 제3 실시 형태에 있어서 상술한 효과를 얻을 수 있다.
<7. 부기>
<컴퓨터>
상술한 일련의 처리는, 하드웨어에 의해 실행시킬 수도 있고, 소프트웨어에 의해 실행시킬 수도 있다. 일련의 처리를 소프트웨어에 의해 실행하는 경우에는, 그 소프트웨어를 구성하는 프로그램이, 컴퓨터에 인스톨된다. 여기서 컴퓨터에는, 전용의 하드웨어에 내장되어 있는 컴퓨터나, 각종 프로그램을 인스톨함으로써, 각종 기능을 실행하는 것이 가능한, 예를 들어 범용의 퍼스널 컴퓨터 등이 포함된다.
도 26은, 상술한 일련의 처리를 프로그램에 의해 실행하는 컴퓨터의 하드웨어의 구성예를 도시하는 블록도이다.
도 26에 도시되는 컴퓨터(800)에 있어서, CPU(Central Processing Unit)(801), ROM(Read Only Memory)(802), RAM(Random Access Memory)(803)은, 버스(804)를 통하여 서로 접속되어 있다.
버스(804)에는 또한, 입출력 인터페이스(810)도 접속되어 있다. 입출력 인터페이스(810)에는, 입력부(811), 출력부(812), 기억부(813), 통신부(814), 및 드라이브(815)가 접속되어 있다.
입력부(811)는, 예를 들어 키보드, 마우스, 마이크로폰, 터치 패널, 입력 단자 등으로 이루어진다. 출력부(812)는, 예를 들어 디스플레이, 스피커, 출력 단자 등으로 이루어진다. 기억부(813)는, 예를 들어 하드 디스크, RAM 디스크, 불휘발성이 메모리 등으로 이루어진다. 통신부(814)는, 예를 들어 네트워크 인터페이스로 이루어진다. 드라이브(815)는, 자기 디스크, 광 디스크, 광자기 디스크, 또는 반도체 메모리 등의 리무버블 미디어(821)를 구동한다.
이상과 같이 구성되는 컴퓨터에서는, CPU(801)가, 예를 들어 기억부(813)에 기억되어 있는 프로그램을, 입출력 인터페이스(810) 및 버스(804)를 통하여, RAM(803)에 로드하여 실행함으로써, 상술한 일련의 처리가 행해진다. RAM(803)에는 또한, CPU(801)가 각종 처리를 실행함에 있어서 필요한 데이터 등도 적절히 기억된다.
컴퓨터가 실행하는 프로그램은, 예를 들어 패키지 미디어 등으로서의 리무버블 미디어(821)에 기록하여 적용할 수 있다. 그 경우, 프로그램은, 리무버블 미디어(821)를 드라이브(815)에 장착함으로써, 입출력 인터페이스(810)를 통하여, 기억부(813)에 인스톨할 수 있다.
또한, 이 프로그램은, 로컬 에어리어 네트워크, 인터넷, 디지털 위성 방송과 같은, 유선 또는 무선의 전송 매체를 통하여 제공할 수도 있다. 그 경우, 프로그램은, 통신부(814)에 의해 수신하고, 기억부(813)에 인스톨할 수 있다.
그 밖에, 이 프로그램은, ROM(802)이나 기억부(813)에, 미리 인스톨해 둘 수도 있다.
<본 기술의 적용 대상>
본 기술은, 임의의 화상 부호화·복호 방식에 적용할 수 있다. 즉, 상술한 본 기술과 모순되지 않는 한, 변환(역변환), 양자화(역양자화), 부호화(복호), 예측 등, 화상 부호화·복호에 관한 각종 처리의 사양은 임의이며, 상술한 예에 한정되지 않는다. 또한, 상술한 본 기술과 모순되지 않는 한, 이들 처리 중 일부를 생략해도 된다.
또한 본 기술은, 복수의 시점(뷰(view))의 화상을 포함하는 다시점 화상의 부호화·복호를 행하는 다시점 화상 부호화·복호 시스템에 적용할 수 있다. 그 경우, 각 시점(뷰(view))의 부호화·복호에 있어서, 본 기술을 적용하도록 하면 된다.
또한 본 기술은, 소정의 파라미터에 대하여 스케일러빌리티(scalability) 기능을 갖도록 복수 레이어화(계층화)된 계층 화상의 부호화·복호를 행하는 계층 화상 부호화(스케일러블 부호화)·복호 시스템에 적용할 수 있다. 그 경우, 각 계층(레이어)의 부호화·복호에 있어서, 본 기술을 적용하도록 하면 된다.
또한, 이상에서는, 본 기술의 적용예로서, 역양자화 역변환 장치(100), 변환 양자화 장치(200), 화상 복호 장치(500), 및 화상 부호화 장치(600)에 대하여 설명했지만, 본 기술은, 임의의 구성에 적용할 수 있다.
예를 들어, 본 기술은, 위성 방송, 케이블 TV 등의 유선 방송, 인터넷 상에서의 배신 및 셀룰러 통신에 의한 단말기에 대한 배신 등에 있어서의 송신기나 수신기(예를 들어 텔레비전 수상기나 휴대 전화기), 또는 광 디스크, 자기 디스크 및 플래시 메모리 등의 매체에 화상을 기록하거나, 이들 기억 매체로부터 화상을 재생하거나 하는 장치(예를 들어 하드 디스크 레코더나 카메라) 등의, 다양한 전자 기기에 응용될 수 있다.
또한, 예를 들어, 본 기술은, 시스템 LSI(Large Scale Integration) 등으로서의 프로세서(예를 들어 비디오 프로세서), 복수의 프로세서 등을 사용하는 모듈(예를 들어 비디오 모듈), 복수의 모듈 등을 사용하는 유닛(예를 들어 비디오 유닛), 또는 유닛에 또한 그 외의 기능을 부가한 세트(예를 들어 비디오 세트) 등, 장치의 일부의 구성으로서 실시할 수도 있다.
또한, 예를 들어, 본 기술은, 복수의 장치에 의해 구성되는 네트워크 시스템에도 적용할 수도 있다. 예를 들어, 본 기술을, 네트워크를 통하여 복수의 장치에서 분담, 공동으로 처리하는 클라우드 컴퓨팅으로서 실시하도록 해도 된다. 예를 들어, 컴퓨터, AV(Audio Visual) 기기, 휴대형 정보 처리 단말기, IoT(Internet of Things) 디바이스 등의 임의의 단말기에 대하여, 화상(동화상)에 관한 서비스를 제공하는 클라우드 서비스에 있어서 본 기술을 실시하도록 해도 된다.
또한, 본 명세서에 있어서, 시스템이란, 복수의 구성 요소(장치, 모듈(부품) 등)의 집합을 의미하고, 모든 구성 요소가 동일 하우징 내에 있는지 여부는 불문한다. 따라서, 별개의 하우징에 수납되고, 네트워크를 통하여 접속되어 있는 복수의 장치, 및 하나의 하우징 내에 복수의 모듈이 수납되어 있는 하나의 장치는, 모두 시스템이다.
<본 기술을 적용할 수 있는 분야·용도>
본 기술을 적용한 시스템, 장치, 처리부 등은, 예를 들어 교통, 의료, 방범, 농업, 축산업, 광업, 미용, 공장, 가전, 기상, 자연 감시 등, 임의의 분야에 이용할 수 있다. 또한, 그 용도도 임의이다.
예를 들어, 본 기술은, 관상용 콘텐츠 등의 제공용으로 제공되는 시스템이나 디바이스에 적용할 수 있다. 또한, 예를 들어, 본 기술은, 교통 상황의 감리나 자동 운전 제어 등, 교통용으로 제공되는 시스템이나 디바이스에도 적용할 수 있다. 또한, 예를 들어, 본 기술은, 시큐리티용으로 제공되는 시스템이나 디바이스에도 적용할 수 있다. 또한, 예를 들어, 본 기술은, 기계 등의 자동 제어용으로 제공되는 시스템이나 디바이스에 적용할 수 있다. 또한, 예를 들어, 본 기술은, 농업이나 축산업용으로 제공되는 시스템이나 디바이스에도 적용할 수 있다. 또한, 본 기술은, 예를 들어 화산, 삼림, 해양 등의 자연의 상태나 야생 생물 등을 감시하는 시스템이나 디바이스에도 적용할 수 있다. 또한, 예를 들어, 본 기술은, 스포츠용으로 제공되는 시스템이나 디바이스에도 적용할 수 있다.
<기타>
또한, 본 명세서에 있어서 「플래그」란, 복수의 상태를 식별하기 위한 정보이며, 참(1) 또는 거짓(0)의 2가지의 상태를 식별할 때 사용하는 정보뿐만 아니라, 3개 이상의 상태를 식별하는 것이 가능한 정보도 포함된다. 따라서, 이 「플래그」가 취할 수 있는 값은, 예를 들어 1/0의 2개의 값이어도 되고, 3개의 값 이상이어도 된다. 즉, 이 「플래그」를 구성하는 bit 수는 임의이며, 1bit여도 되고 복수 bit여도 된다. 또한, 식별 정보(플래그도 포함함)는, 그 식별 정보를 비트스트림에 포함시키는 형태뿐만 아니라, 어떤 기준이 되는 정보에 대한 식별 정보의 차분 정보를 비트스트림에 포함시키는 형태도 상정되기 때문에, 본 명세서에 있어서는, 「플래그」나 「식별 정보」는, 그 정보뿐만 아니라, 기준이 되는 정보에 대한 차분 정보도 포함한다.
또한, 부호화 데이터(비트스트림)에 관한 각종 정보(메타데이터 등)는, 부호화 데이터에 연관지어져 있으면, 어떠한 형태로 전송 또는 기록되도록 해도 된다. 여기서, 「연관짓는다」라는 용어는, 예를 들어 한쪽의 데이터를 처리할 때 다른 쪽의 데이터를 이용할 수 있도록(링크시킬 수 있도록) 하는 것을 의미한다. 즉, 서로 연관지어진 데이터는, 하나의 데이터로서 통합되어도 되고, 각각 개별의 데이터로 해도 된다. 예를 들어, 부호화 데이터(화상)에 연관지어진 정보는, 그 부호화 데이터(화상)와는 다른 전송로 상에서 전송되도록 해도 된다. 또한, 예를 들어, 부호화 데이터(화상)에 연관지어진 정보는, 그 부호화 데이터(화상)와는 다른 기록 매체(또는 동일한 기록 매체의 다른 기록 에어리어)에 기록되도록 해도 된다. 또한, 이 「연관짓기」는, 데이터 전체가 아니고, 데이터의 일부여도 된다. 예를 들어, 화상과 그 화상에 대응하는 정보가, 복수 프레임, 1 프레임, 또는 프레임 내의 일부분 등의 임의의 단위로 서로 연관지어지도록 해도 된다.
또한, 본 명세서에 있어서, 「합성한다」, 「다중화한다」, 「부가한다」, 「일체화한다」, 「포함한다」, 「저장한다」, 「넣는다」, 「끼워넣는다」, 「삽입한다」 등의 용어는, 예를 들어 부호화 데이터와 메타데이터를 하나의 데이터로 통합하는 것과 같은, 복수의 객체를 하나로 통합하는 것을 의미하며, 상술한 「연관짓는다」의 하나의 방법을 의미한다.
또한, 본 기술의 실시 형태는, 상술한 실시 형태에 한정되는 것은 아니며, 본 기술의 요지를 일탈하지 않는 범위에 있어서 다양한 변경이 가능하다.
예를 들어, 하나의 장치(또는 처리부)로서 설명한 구성을 분할하여, 복수의 장치(또는 처리부)로서 구성하도록 해도 된다. 반대로, 이상에서 복수의 장치(또는 처리부)로서 설명한 구성을 통합하여 하나의 장치(또는 처리부)로서 구성되도록 해도 된다. 또한, 각 장치(또는 각 처리부)의 구성에 상술한 것 이외의 구성을 부가하도록 해도 물론 된다. 또한, 시스템 전체로서의 구성이나 동작이 실질적으로 동일하면, 어떤 장치(또는 처리부)의 구성의 일부를 다른 장치(또는 다른 처리부)의 구성에 포함시키도록 해도 된다.
또한, 예를 들어, 상술한 프로그램은, 임의의 장치에 있어서 실행되도록 해도 된다. 그 경우, 그 장치가, 필요한 기능(기능 블록 등)을 갖고, 필요한 정보를 얻을 수 있도록 하면 된다.
또한, 예를 들어, 하나의 흐름도의 각 스텝을, 하나의 장치가 실행하도록 해도 되고, 복수의 장치가 분담하여 실행하도록 해도 된다. 또한, 하나의 스텝에 복수의 처리가 포함되는 경우, 그 복수의 처리를, 하나의 장치가 실행하도록 해도 되고, 복수의 장치가 분담하여 실행하도록 해도 된다. 환언하건대, 하나의 스텝에 포함되는 복수의 처리를, 복수의 스텝의 처리로서 실행할 수도 있다. 반대로, 복수의 스텝으로서 설명한 처리를 하나의 스텝으로서 통합하여 실행할 수도 있다.
또한, 예를 들어, 컴퓨터가 실행하는 프로그램은, 프로그램을 기술하는 스텝의 처리가, 본 명세서에서 설명하는 순서를 따라 시계열로 실행되도록 해도 되고, 병렬로, 혹은 호출이 행해졌을 때 등의 필요한 타이밍에 개별로 실행되도록 해도 된다. 즉, 모순이 발생하지 않는 한, 각 스텝의 처리가 상술한 순서와 상이한 순서로 실행되도록 해도 된다. 또한, 이 프로그램을 기술하는 스텝의 처리가, 다른 프로그램의 처리와 병렬로 실행되도록 해도 되고, 다른 프로그램의 처리와 조합하여 실행되도록 해도 된다.
또한, 예를 들어, 본 기술에 관한 복수의 기술은, 모순이 발생하지 않는 한, 각각 독립적으로 단체로 실시할 수 있다. 물론, 임의의 복수의 본 기술을 병용하여 실시할 수도 있다. 예를 들어, 어느 것의 실시 형태에 있어서 설명한 본 기술의 일부 또는 전부를, 다른 실시 형태에 있어서 설명한 본 기술의 일부 또는 전부와 조합하여 실시할 수도 있다. 또한, 상술한 임의의 본 기술의 일부 또는 전부를, 상술하고 있지 않은 다른 기술과 병용하여 실시할 수도 있다.
또한, 본 기술은 이하와 같은 구성도 취할 수 있다.
(1) 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화를 행하는 역양자화부와,
상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화부에 의한 상기 역양자화에 의해 생성된 변환 계수에 대한 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는 역변환부
를 구비하는 화상 처리 장치.
(2) 상기 역양자화부는, 상기 역양자화에 있어서 역 의존 양자화를 적용하고, 또한 상기 변환 스킵을 적용하지 않을 경우, 상기 양자화 파라미터를 보정하고, 보정한 상기 양자화 파라미터를 사용하여 상기 역양자화를 행하는
(1)에 기재된 화상 처리 장치.
(3) 상기 변환 계수의 부호에 기초하여 라운딩 오프셋의 부호를 설정하고, 상기 라운딩 오프셋을 사용하여 상기 변환 계수를 정규화하는 역양자화 정규화부를 더 구비하고,
상기 역변환부는, 상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화 정규화부에 의해 정규화된 상기 변환 계수에 대하여 상기 역 계수 변환을 행하는
(1)에 기재된 화상 처리 장치.
(4) 상기 변환 스킵을 적용하지 않을 경우, 상기 예측 잔차의 부호에 기초하여 라운딩 오프셋의 부호를 설정하고, 상기 라운딩 오프셋을 사용하여 상기 예측 잔차를 정규화하고, 상기 변환 스킵을 적용할 경우, 상기 변환 계수의 부호에 기초하여 상기 라운딩 오프셋의 부호를 설정하고, 상기 라운딩 오프셋을 사용하여 상기 변환 계수를 정규화하는 역변환 정규화부를 더 구비하는
(1)에 기재된 화상 처리 장치.
(5) 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화를 행하고,
상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화에 의해 생성된 변환 계수에 대한 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는
화상 처리 방법.
(6) 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대한 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하는 변환부와,
상기 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 상기 변환 계수에 대한 양자화를 행하는 양자화부
를 구비하는 화상 처리 장치.
(7) 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대한 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하고,
상기 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 상기 변환 계수에 대한 양자화를 행하는
화상 처리 방법.
(8) 양자화 계수에 대한 역양자화를 행하는 역양자화부와,
변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 역양자화부에 의한 상기 역양자화에 의해 생성된 변환 계수를 정규화하는 역양자화 정규화부와,
상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화 정규화부에 의해 정규화된 상기 변환 계수에 대하여 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는 역변환부
를 구비하는 화상 처리 장치.
(9) 상기 역양자화 정규화부는, 상기 변환 스킵을 적용하지 않을 경우, 상기 변환 스킵에 있어서의 압축 해제 처리를 반영하고 있지 않은 상기 스케일링 파라미터를 사용하여 상기 변환 계수를 정규화하고, 상기 변환 스킵을 적용할 경우, 상기 압축 해제 처리를 반영한 상기 스케일링 파라미터를 사용하여 상기 변환 계수를 정규화하고,
상기 역변환부는, 상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화 정규화부에 의해 상기 압축 해제 처리를 반영하고 있지 않은 상기 스케일링 파라미터를 사용하여 정규화된 상기 변환 계수에 대하여 상기 역 계수 변환을 행하고, 상기 변환 스킵을 적용할 경우, 상기 압축 해제 처리를 행하지 않고 상기 역 계수 변환을 스킵하는
(8)에 기재된 화상 처리 장치.
(10) 상기 역양자화 정규화부는, 상기 변환 스킵을 적용할 경우, 상기 스케일링 파라미터의 변환 블록 사이즈에 기초하여 정해지는 성분을 「0」으로 설정하는
(9)에 기재된 화상 처리 장치.
(11) 상기 역양자화 정규화부는, 상기 변환 스킵을 적용할 경우, 상기 스케일링 파라미터의 변환 블록 사이즈에 기초하여 정해지는 성분을, 양자화 매트릭스에 따른 값으로 설정하는
(9)에 기재된 화상 처리 장치.
(12) 상기 양자화 매트릭스에 따른 값은, 「-4」인
(11)에 기재된 화상 처리 장치.
(13) 상기 변환 스킵을 적용하지 않을 경우, 상기 예측 잔차를 정규화하는 역변환 정규화부를 더 구비하고,
상기 역양자화 정규화부는, 상기 변환 스킵을 적용할 경우, 상기 역변환 정규화부에 의한 상기 예측 잔차에 대한 정규화 처리를 반영한 상기 스케일링 파라미터를 사용하여 상기 변환 계수를 정규화하는
(8)에 기재된 화상 처리 장치.
(14) 상기 역양자화 정규화부는, 상기 변환 스킵을 적용할 경우, 역양자화 및 스케일링 리스트에 따른 값과, 역 의존 양자화의 적용에 따른 값을 포함하는 상기 스케일링 파라미터를 사용하여 상기 변환 계수를 정규화하는
(13)에 기재된 화상 처리 장치.
(15) 상기 역양자화 및 상기 스케일링 리스트에 따른 값은, 「10」인
(14)에 기재된 화상 처리 장치.
(16) 양자화 계수에 대한 역양자화를 행하고,
변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 역양자화에 의해 생성된 변환 계수를 정규화하고,
상기 변환 스킵을 적용하지 않을 경우, 정규화된 상기 변환 계수에 대하여 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는
화상 처리 방법.
(17) 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대하여 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하는 변환부와,
상기 변환 스킵을 적용하지 않을 경우, 상기 변환 계수에 대한 양자화를 행하고, 상기 변환 스킵을 적용할 경우, 상기 예측 잔차에 대한 상기 양자화를 행하는 양자화부와,
상기 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 양자화부에 의한 상기 양자화에 의해 생성된 양자화 계수를 정규화하는 양자화 정규화부
를 구비하는 화상 처리 장치.
(18) 상기 변환부는, 상기 변환 스킵을 적용하지 않을 경우, 상기 예측 잔차에 대하여 상기 계수 변환을 행하고, 상기 변환 스킵을 적용할 경우, 압축 해제 처리를 행하지 않고 상기 계수 변환을 스킵하고,
상기 양자화 정규화부는, 상기 변환 스킵을 적용하지 않을 경우, 상기 변환 스킵에 있어서의 상기 압축 해제 처리를 반영하고 있지 않은 상기 스케일링 파라미터를 사용하여 상기 양자화 계수를 정규화하고, 상기 변환 스킵을 적용할 경우, 상기 압축 해제 처리를 반영한 상기 스케일링 파라미터를 사용하여 상기 양자화 계수를 정규화하는
(17)에 기재된 화상 처리 장치.
(19) 상기 변환 스킵을 적용하지 않을 경우, 상기 변환 계수를 정규화하는 변환 정규화부를 더 구비하고,
상기 양자화 정규화부는, 상기 변환 스킵을 적용할 경우, 상기 변환 정규화부에 의한 상기 변환 계수에 대한 정규화 처리를 반영한 상기 스케일링 파라미터를 사용하여 상기 양자화 계수를 정규화하는
(17)에 기재된 화상 처리 장치.
(20) 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대하여 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하고,
상기 변환 스킵을 적용하지 않을 경우, 상기 변환 계수에 대한 양자화를 행하고, 상기 변환 스킵을 적용할 경우, 상기 예측 잔차에 대한 상기 양자화를 행하고,
상기 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 양자화에 의해 생성된 양자화 계수를 정규화하는
화상 처리 방법.
100: 역양자화 역변환 장치
101: 역양자화부
102: 역변환부
111: 역양자화 처리부
112: 정규화부
121: 선택부
122: 역변환 처리부
123: 선택부
124: 정규화부
125: 압축 해제 처리부
200: 변환 양자화 장치
201: 변환부
202: 양자화부
211: 선택부
212: 변환 처리부
213: 선택부
214: 정규화부
215: 압축 해제 처리부
221: 양자화 처리부
222: 정규화부
500: 화상 복호 장치
513: 역양자화 역변환부
600: 화상 부호화 장치
613: 변환 양자화부
616: 역양자화 역변환부

Claims (20)

  1. 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화를 행하는 역양자화부와,
    상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화부에 의한 상기 역양자화에 의해 생성된 변환 계수에 대한 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는 역변환부
    를 구비하는 화상 처리 장치.
  2. 제1항에 있어서,
    상기 역양자화부는, 상기 역양자화에 있어서 역 의존 양자화를 적용하고, 또한 상기 변환 스킵을 적용하지 않을 경우, 상기 양자화 파라미터를 보정하고, 보정한 상기 양자화 파라미터를 사용하여 상기 역양자화를 행하는
    화상 처리 장치.
  3. 제1항에 있어서,
    상기 변환 계수의 부호에 기초하여 라운딩 오프셋의 부호를 설정하고, 상기 라운딩 오프셋을 사용하여 상기 변환 계수를 정규화하는 역양자화 정규화부를 더 구비하고,
    상기 역변환부는, 상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화 정규화부에 의해 정규화된 상기 변환 계수에 대하여 상기 역 계수 변환을 행하는
    화상 처리 장치.
  4. 제1항에 있어서,
    상기 변환 스킵을 적용하지 않을 경우, 상기 예측 잔차의 부호에 기초하여 라운딩 오프셋의 부호를 설정하고, 상기 라운딩 오프셋을 사용하여 상기 예측 잔차를 정규화하고, 상기 변환 스킵을 적용할 경우, 상기 변환 계수의 부호에 기초하여 상기 라운딩 오프셋의 부호를 설정하고, 상기 라운딩 오프셋을 사용하여 상기 변환 계수를 정규화하는 역변환 정규화부를 더 구비하는
    화상 처리 장치.
  5. 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 양자화 계수에 대한 역양자화를 행하고,
    상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화에 의해 생성된 변환 계수에 대한 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는
    화상 처리 방법.
  6. 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대한 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하는 변환부와,
    상기 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 상기 변환 계수에 대한 양자화를 행하는 양자화부
    를 구비하는 화상 처리 장치.
  7. 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대한 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하고,
    상기 변환 스킵을 적용할지에 따른 양자화 파라미터를 사용하여, 상기 변환 계수에 대한 양자화를 행하는
    화상 처리 방법.
  8. 양자화 계수에 대한 역양자화를 행하는 역양자화부와,
    변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 역양자화부에 의한 상기 역양자화에 의해 생성된 변환 계수를 정규화하는 역양자화 정규화부와,
    상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화 정규화부에 의해 정규화된 상기 변환 계수에 대하여 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는 역변환부
    를 구비하는 화상 처리 장치.
  9. 제8항에 있어서,
    상기 역양자화 정규화부는, 상기 변환 스킵을 적용하지 않을 경우, 상기 변환 스킵에 있어서의 압축 해제 처리를 반영하고 있지 않은 상기 스케일링 파라미터를 사용하여 상기 변환 계수를 정규화하고, 상기 변환 스킵을 적용할 경우, 상기 압축 해제 처리를 반영한 상기 스케일링 파라미터를 사용하여 상기 변환 계수를 정규화하고,
    상기 역변환부는, 상기 변환 스킵을 적용하지 않을 경우, 상기 역양자화 정규화부에 의해 상기 압축 해제 처리를 반영하고 있지 않은 상기 스케일링 파라미터를 사용하여 정규화된 상기 변환 계수에 대하여 상기 역 계수 변환을 행하고, 상기 변환 스킵을 적용할 경우, 상기 압축 해제 처리를 행하지 않고 상기 역 계수 변환을 스킵하는
    화상 처리 장치.
  10. 제9항에 있어서,
    상기 역양자화 정규화부는, 상기 변환 스킵을 적용할 경우, 상기 스케일링 파라미터의 변환 블록 사이즈에 기초하여 정해지는 성분을 「0」으로 설정하는
    화상 처리 장치.
  11. 제9항에 있어서,
    상기 역양자화 정규화부는, 상기 변환 스킵을 적용할 경우, 상기 스케일링 파라미터의 변환 블록 사이즈에 기초하여 정해지는 성분을, 양자화 매트릭스에 따른 값으로 설정하는
    화상 처리 장치.
  12. 제11항에 있어서,
    상기 양자화 매트릭스에 따른 값은, 「-4」인
    화상 처리 장치.
  13. 제8항에 있어서,
    상기 변환 스킵을 적용하지 않을 경우, 상기 예측 잔차를 정규화하는 역변환 정규화부를 더 구비하고,
    상기 역양자화 정규화부는, 상기 변환 스킵을 적용할 경우, 상기 역변환 정규화부에 의한 상기 예측 잔차에 대한 정규화 처리를 반영한 상기 스케일링 파라미터를 사용하여 상기 변환 계수를 정규화하는
    화상 처리 장치.
  14. 제13항에 있어서,
    상기 역양자화 정규화부는, 상기 변환 스킵을 적용할 경우, 역양자화 및 스케일링 리스트에 따른 값과, 역 의존 양자화의 적용에 따른 값을 포함하는 상기 스케일링 파라미터를 사용하여 상기 변환 계수를 정규화하는
    화상 처리 장치.
  15. 제14항에 있어서,
    상기 역양자화 및 상기 스케일링 리스트에 따른 값은, 「10」인
    화상 처리 장치.
  16. 양자화 계수에 대한 역양자화를 행하고,
    변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 역양자화에 의해 생성된 변환 계수를 정규화하고,
    상기 변환 스킵을 적용하지 않을 경우, 정규화된 상기 변환 계수에 대하여 역 계수 변환을 행하여, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 역 계수 변환을 스킵하는
    화상 처리 방법.
  17. 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대하여 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하는 변환부와,
    상기 변환 스킵을 적용하지 않을 경우, 상기 변환 계수에 대한 양자화를 행하고, 상기 변환 스킵을 적용할 경우, 상기 예측 잔차에 대한 상기 양자화를 행하는 양자화부와,
    상기 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 양자화부에 의한 상기 양자화에 의해 생성된 양자화 계수를 정규화하는 양자화 정규화부
    를 구비하는 화상 처리 장치.
  18. 제17항에 있어서,
    상기 변환부는, 상기 변환 스킵을 적용하지 않을 경우, 상기 예측 잔차에 대하여 상기 계수 변환을 행하고, 상기 변환 스킵을 적용할 경우, 압축 해제 처리를 행하지 않고 상기 계수 변환을 스킵하고,
    상기 양자화 정규화부는, 상기 변환 스킵을 적용하지 않을 경우, 상기 변환 스킵에 있어서의 상기 압축 해제 처리를 반영하고 있지 않은 상기 스케일링 파라미터를 사용하여 상기 양자화 계수를 정규화하고, 상기 변환 스킵을 적용할 경우, 상기 압축 해제 처리를 반영한 상기 스케일링 파라미터를 사용하여 상기 양자화 계수를 정규화하는
    화상 처리 장치.
  19. 제17항에 있어서,
    상기 변환 스킵을 적용하지 않을 경우, 상기 변환 계수를 정규화하는 변환 정규화부를 더 구비하고,
    상기 양자화 정규화부는, 상기 변환 스킵을 적용할 경우, 상기 변환 정규화부에 의한 상기 변환 계수에 대한 정규화 처리를 반영한 상기 스케일링 파라미터를 사용하여 상기 양자화 계수를 정규화하는
    화상 처리 장치.
  20. 변환 스킵을 적용하지 않을 경우, 화상과 상기 화상의 예측 화상 간의 잔차인 예측 잔차에 대하여 계수 변환을 행하여, 변환 계수를 생성하고, 상기 변환 스킵을 적용할 경우, 상기 계수 변환을 스킵하고,
    상기 변환 스킵을 적용하지 않을 경우, 상기 변환 계수에 대한 양자화를 행하고, 상기 변환 스킵을 적용할 경우, 상기 예측 잔차에 대한 상기 양자화를 행하고,
    상기 변환 스킵을 적용할지에 따른 스케일링 파라미터를 사용하여, 상기 양자화에 의해 생성된 양자화 계수를 정규화하는
    화상 처리 방법.
KR1020227005511A 2019-09-06 2020-09-04 화상 처리 장치 및 방법 KR20220053563A (ko)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962896989P 2019-09-06 2019-09-06
US62/896,989 2019-09-06
US201962901895P 2019-09-18 2019-09-18
US62/901,895 2019-09-18
PCT/JP2020/033573 WO2021045188A1 (ja) 2019-09-06 2020-09-04 画像処理装置および方法

Publications (1)

Publication Number Publication Date
KR20220053563A true KR20220053563A (ko) 2022-04-29

Family

ID=74853204

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020227005511A KR20220053563A (ko) 2019-09-06 2020-09-04 화상 처리 장치 및 방법

Country Status (11)

Country Link
US (1) US20220224903A1 (ko)
EP (1) EP4013054A4 (ko)
JP (1) JPWO2021045188A1 (ko)
KR (1) KR20220053563A (ko)
CN (1) CN114342396A (ko)
AU (1) AU2020341156A1 (ko)
BR (1) BR112022003668A2 (ko)
CA (1) CA3149873A1 (ko)
MX (1) MX2022002267A (ko)
TW (1) TW202121897A (ko)
WO (1) WO2021045188A1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021047540A1 (en) 2019-09-09 2021-03-18 Beijing Bytedance Network Technology Co., Ltd. Coefficient scaling for high precision image and video coding
EP4018648A4 (en) * 2019-09-21 2022-11-23 Beijing Bytedance Network Technology Co., Ltd. HIGH PRECISION TRANSFORMATION AND QUANTIZATION FOR IMAGE AND VIDEO CODING
WO2021158049A1 (ko) * 2020-02-05 2021-08-12 엘지전자 주식회사 영상 정보 코딩에 대한 영상 디코딩 방법 및 그 장치
WO2021158051A1 (ko) * 2020-02-05 2021-08-12 엘지전자 주식회사 레지듀얼 코딩과 관련한 영상 디코딩 방법 및 그 장치
WO2023220946A1 (zh) * 2022-05-17 2023-11-23 Oppo广东移动通信有限公司 视频编解码方法、装置、设备、系统及存储介质

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10085024B2 (en) * 2012-04-13 2018-09-25 Qualcomm Incorporated Lookup table for rate distortion optimized quantization
US9591329B2 (en) * 2012-09-28 2017-03-07 Sony Corporation Image processing device and method for encoding and decoding image
JP6344800B2 (ja) * 2014-01-09 2018-06-20 株式会社日立国際電気 画像処理装置及び動画像伝送方法
JP2017073602A (ja) * 2015-10-05 2017-04-13 富士通株式会社 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム
CA3022221A1 (en) * 2016-05-13 2017-11-16 Sony Corporation Apparatus and method for image processing for suppressing a reduction of coding efficiency
KR102397673B1 (ko) * 2016-05-13 2022-05-16 소니그룹주식회사 화상 처리 장치 및 방법
EP3349452A1 (en) * 2017-01-11 2018-07-18 Thomson Licensing Scaling of transform coefficients for non-dyadic transform blocks
CN110800296A (zh) * 2017-06-29 2020-02-14 索尼公司 图像处理装置、图像处理方法和程序
EP3484151A1 (en) * 2017-11-13 2019-05-15 Thomson Licensing Method and apparatus for generating quantization matrices in video encoding and decoding
CN112771865A (zh) * 2018-08-23 2021-05-07 交互数字Vc控股法国公司 使用参数化模型对量化矩阵进行编解码
KR20220025290A (ko) * 2018-08-24 2022-03-03 삼성전자주식회사 영상 부호화 방법 및 장치, 영상 복호화 방법 및 장치
CN113302925B (zh) * 2019-03-10 2024-05-10 寰发股份有限公司 视频编码的量化矩阵计算以及表示方法和装置
JP7402016B2 (ja) * 2019-11-06 2023-12-20 オッポ広東移動通信有限公司 画像復号装置及び画像符号化装置
WO2021107641A1 (ko) * 2019-11-26 2021-06-03 주식회사 윌러스표준기술연구소 적응적 컬러 공간 변환을 이용하는 비디오 신호 처리 방법 및 장치
US11575896B2 (en) * 2019-12-16 2023-02-07 Panasonic Intellectual Property Corporation Of America Encoder, decoder, encoding method, and decoding method
US11490122B2 (en) * 2020-09-24 2022-11-01 Tencent America LLC Method and apparatus for video coding

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Tsung-Chuan Ma, Yi-Wen Chen, Xiaoyu Xiu, Xianglin Wang, Tangi Poirier, Fabrice Le Leannec, Karam Naser, Edouard Francois, Hyeongmun Jang, Junghak Nam, Naeri Park, Jungah Choi, Seunghwan Kim, Jaehyun Lim, "Lossless coding for VVC", JVET-O1061, m49678, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 15th Meeting: Gothenburg, SE, 3-12 July 2019
VTM-5.0 in https://vcgit.hhi.fraunhofer.de/jvet/VVCSoftware_VTM

Also Published As

Publication number Publication date
AU2020341156A1 (en) 2022-03-03
EP4013054A4 (en) 2022-10-26
BR112022003668A2 (pt) 2022-05-24
US20220224903A1 (en) 2022-07-14
MX2022002267A (es) 2022-03-22
CN114342396A (zh) 2022-04-12
WO2021045188A1 (ja) 2021-03-11
EP4013054A1 (en) 2022-06-15
TW202121897A (zh) 2021-06-01
JPWO2021045188A1 (ko) 2021-03-11
CA3149873A1 (en) 2021-03-11

Similar Documents

Publication Publication Date Title
KR20220053563A (ko) 화상 처리 장치 및 방법
US20230007255A1 (en) Image processing device and method
US11445218B2 (en) Image processing apparatus and method
JP7235030B2 (ja) 画像処理装置および方法
US20230199187A1 (en) Image processing apparatus and method
WO2021039650A1 (ja) 画像処理装置および方法
US20240121438A1 (en) Image processing device and method
US20210006836A1 (en) Image encoding apparatus, image encoding method, image decoding apparatus, and image decoding method
US20210037248A1 (en) Image encoding device, image encoding method, image decoding device, and image decoding method
US20220385904A1 (en) Image processing device and method
US20230007265A1 (en) Image processing device, bit stream generation method, coefficient data generation method, and quantization coefficient generation method
KR20240018432A (ko) 화상 처리 장치 및 방법
US20230045106A1 (en) Image processing apparatus and method
US20220394256A1 (en) Image processing device and method
WO2020129636A1 (ja) 画像符号化装置、画像符号化方法、画像復号装置、および画像復号方法
KR20240024808A (ko) 화상 처리 장치 및 방법
US20220086489A1 (en) Image processing apparatus and method