JP2018107534A - 映像符号化装置、映像符号化方法、映像復号装置、及び映像復号方法 - Google Patents

映像符号化装置、映像符号化方法、映像復号装置、及び映像復号方法 Download PDF

Info

Publication number
JP2018107534A
JP2018107534A JP2016250012A JP2016250012A JP2018107534A JP 2018107534 A JP2018107534 A JP 2018107534A JP 2016250012 A JP2016250012 A JP 2016250012A JP 2016250012 A JP2016250012 A JP 2016250012A JP 2018107534 A JP2018107534 A JP 2018107534A
Authority
JP
Japan
Prior art keywords
encoding
pixel value
result
decoding
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016250012A
Other languages
English (en)
Inventor
数井 君彦
Kimihiko Kazui
君彦 数井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2016250012A priority Critical patent/JP2018107534A/ja
Priority to US15/816,000 priority patent/US20180184097A1/en
Publication of JP2018107534A publication Critical patent/JP2018107534A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】映像符号化においてパレット符号化が行われる場合に、フィルタ処理による画質の劣化を抑止する。
【解決手段】パレット符号化部311は、映像に含まれるブロック内の複数の画素値のうち、パレットに登録された第1画素値を、パレットを用いて符号化することで、第1画素値の符号化結果を生成する。また、パレット符号化部311は、パレットに登録されていない第2画素値を量子化することで、第2画素値の量子化結果を生成し、第1画素値の符号化結果から第1局所復号結果を生成し、第2画素値の量子化結果から第2局所復号結果を生成する。フィルタ部312は、第2局所復号結果に対してフィルタ処理を適用し、第1局所復号結果と、第2局所復号結果に対してフィルタ処理を適用した結果とを含む、ブロックの局所復号画像を生成する。出力部313は、第1画素値の符号化結果と第2画素値の量子化結果とを含む符号化映像を出力する。
【選択図】図3

Description

本発明は、映像符号化装置、映像符号化方法、映像復号装置、及び映像復号方法に関する。
動画像データは、非常に大きなデータ量を有することが多い。このため、送信装置から受信装置へ動画像データを送信する場合、又は動画像データを記憶装置に格納する場合には、動画像データの圧縮符号化が行われる。
代表的な動画像符号化標準としては、Moving Picture Experts Group phase 2(MPEG−2)、MPEG−4、又はH.264 MPEG-4 Advanced Video Coding(MPEG−4 AVC/H.264)が知られている。これらの動画像符号化標準は、International Organization for Standardization/International Electrotechnical Commission(ISO/IEC)により策定されている。
また、新たな動画像符号化標準として、High Efficiency Video Coding(HEVC,MPEG−H/H.265)がJoint Collaborative Team on Video Coding(JCTVC)により策定されている(例えば、非特許文献1を参照)。
上述した動画像符号化標準は、インター予測符号化とイントラ予測符号化の2つの符号化方式を採用している。インター予測符号化は、符号化対象ピクチャを符号化済みピクチャの情報を用いて符号化する符号化方式であり、イントラ予測符号化は、符号化対象ピクチャが持つ情報のみを用いて符号化対象ピクチャを符号化する符号化方式である。
近年のInformation Technology(IT)の進歩に伴い、各種カメラで撮影された自然画像に加えて、パーソナルコンピュータ(PC)のデスクトップ画面のようなスクリーンコンテンツ画像に対しても、動画像符号化標準を適用する流れが生じている。例えば、Wireless display、デスクトップ仮想化(Virtual Display Infrastructure,VDI)等がこの流れに属する。
Wireless displayを用いることで、PC又はゲーム機器の表示映像をフラットパネルディスプレイに対して無線伝送することができる。また、VDIを用いることで、仮想オペレーティングシステム(仮想OS)のユーザ画面を、インターネットプロトコル(IP)によってシンクライアント端末に伝送することができる。
スクリーンコンテンツ画像は、自然画像とは異なる特徴を持っている。具体的には、ブロック内における画素値のバリエーションが非常に少ない点が挙げられる。例えば、24ビット映像の場合、文書編集画面では、1677万色中で高々20色程度しか使用されていない。
2013年に国際標準化されたHEVC規格の第3版では、スクリーンコンテンツ画像を高能率に圧縮符号化するための技術が導入されている。その1つがパレット符号化である(例えば、特許文献1を参照)。
図1は、映像符号化装置におけるパレット符号化の例を示している。図1のブロックの画像101は64(8×8)個の画素を含み、画像101の各画素値から、このブロックを符号化するためのパレット103が生成される。パレット103の各エントリは、画像101に含まれる色に対応し、インデックス及び画素値を含む。インデックスは、色を表す符号であり、画素値は、色を表す画素値である。この例では、画素値として(R,G,B)が用いられている。パレット103は、パレットテーブルと呼ばれることもある。
パレット103を用いて画像101の各画素値をインデックスに置き換えることで、インデックスマップ102が生成され、インデックスマップ102及びパレット103を符号化することで、画像101の符号化結果が生成される。ブロック内における画素値のバリエーションが少ない場合には、インデックスマップ102の情報量が小さくなるため、符号化効率が向上する。
R、G、及びBの各値は8ビットで表されるため、画像101の1画素当たりの情報量は、8×3=24ビットであり、画像101全体の情報量は、24×64=1536ビットになる。これに対して、各インデックスは3ビットで表されるため、インデックスマップ102の情報量は、3×64=192ビットである。
パレット符号化は、可逆符号化と非可逆符号化の両方のモードで使用可能である。非可逆符号化の場合には、エスケープ符号化が用いられる。エスケープ符号化では、ブロックに含まれる画素値の種類がパレットに登録されている画素値の種類よりも多い場合に、パレットに登録されていない画素値が直接量子化されて符号化される。
図1の画像101の場合、右上の画素111の画素値がエスケープ符号化され、インデックスマップ102内の対応する位置に、エスケープ符号化を示すインデックス“5”が記録されている。映像符号化装置によって生成されたビットストリームを復号する映像復号装置は、画素のインデックスがエスケープ符号化を示す場合、ビットストリームに含まれる、量子化された画素値を逆量子化することで、元の画素値を復元する。
パレット符号化によって生成される符号の情報量はパレットの大きさに比例するため、ビットストリームに対してレート制御を行う場合、パレットの大きさとエスケープ符号化の量子化スケールの2つのパラメータが変更される。
復号画像に対してフィルタ処理を適用する適応フィルタも知られている(例えば、特許文献2〜特許文献4を参照)。
特開2016−76924号公報 国際公開第2015/163046号パンフレット 国際公開第2012/081706号パンフレット 特表2015−519853号公報
"Text of ISO/IEC FDIS 23008-2:201x High Efficiency Video Coding [3rd ed.]", ISO/IEC JTC1/SC29/WG11/N16046, February 2016
従来のパレット符号化では、エスケープ符号化における量子化による画質の劣化を軽減するために、局所復号画像に対してフィルタ処理が適用されることがある。しかし、エスケープ符号化されていない画素に対してフィルタ処理が適用された場合、不要なフィルタ処理によってその画素の画質が劣化する。
なお、かかる問題は、スクリーンコンテンツ画像に対するパレット符号化に限らず、画素値のバリエーションが少ない他の画像に対するパレット符号化においても生ずるものである。
1つの側面において、本発明は、映像符号化においてパレット符号化が行われる場合に、フィルタ処理による画質の劣化を抑止することを目的とする。
1つの案では、映像符号化装置は、パレット符号化部、フィルタ部、及び出力部を含む。
パレット符号化部は、符号化対象映像に含まれる符号化対象ブロック内の複数の画素値のうち、符号化対象ブロックのパレットに登録された第1画素値を、パレットを用いて符号化することで、第1画素値の符号化結果を生成する。また、パレット符号化部は、パレットに登録されていない第2画素値を量子化することで、第2画素値の量子化結果を生成する。そして、パレット符号化部は、第1画素値の符号化結果から第1局所復号結果を生成し、第2画素値の量子化結果から第2局所復号結果を生成する。
フィルタ部は、第2局所復号結果に対してフィルタ処理を適用し、第1局所復号結果と、第2局所復号結果に対してフィルタ処理を適用した結果とを含む、符号化対象ブロックの局所復号画像を生成する。出力部は、第1画素値の符号化結果と第2画素値の量子化結果とを含む符号化映像を出力する。
実施形態によれば、映像符号化においてパレット符号化が行われる場合に、フィルタ処理による画質の劣化を抑止することができる。
パレット符号化を示す図である。 SAOフィルタによるフィルタ処理を示す図である。 映像符号化装置の機能構成図である。 映像符号化処理のフローチャートである。 映像復号装置の機能構成図である。 映像復号処理のフローチャートである。 映像符号化装置の具体例を示す機能構成図である。 映像符号化装置のSAOフィルタ部の機能構成図である。 映像符号化処理の具体例を示すフローチャートである。 映像復号装置の具体例を示す機能構成図である。 映像復号装置のSAOフィルタ部の機能構成図である。 映像復号処理の具体例を示すフローチャートである。 CTUのシンタックスを示す図である。 コーディング四分木のシンタックスを示す図である。 CUのシンタックスを示す図である。 情報処理装置の構成図である。
以下、図面を参照しながら、実施形態を詳細に説明する。
まず、HEVCにおけるブロック分割について説明する。HEVCでは、Coding Tree Unit(CTU)、Coding Unit(CU)、Prediction Unit(PU)、及びTransform Unit(TU)と呼ばれる4種類のブロックが用意されている。CTUは、ブロック分割を木構造とみなしたときの根ノードとなるブロックであり、CUが取りうる最大ブロックサイズに対応する。
CUは、その木構造の葉ノードとなるブロックであり、インター予測、イントラ予測等の予測モードが決定される単位である。PUは、CUをさらに分割したブロックであり、CUに対して決められた予測モードの中で、最適な予測方法が選択される単位である。例えば、イントラ予測の場合は、予測方向が選択され、インター予測の場合は、動きベクトルが選択される。TUは、CUをさらに分割したブロックであり、直交変換が実施される単位である。パレット符号化は、CUを単位として実施され、CU毎に符号化に用いるパレットが生成される。
HEVC規格では、直交変換係数の量子化によって生じる劣化を軽減するためのポストフィルタとして、デブロッキングフィルタに加えて、サンプルアダプティブオフセット(Sample Adaptive Offset,SAO)フィルタも採用されている。デブロッキングフィルタは、AVC規格から採用されている。
図2は、SAOフィルタによるフィルタ処理の例を示している。復号画像に対してデブロッキングフィルタによるフィルタ処理が適用された結果に対して、SAOフィルタによるフィルタ処理が適用される。
SAOフィルタによるフィルタ処理には、エッジオフセットとバンドオフセットの2つのフィルタモードがあり、CU単位でいずれかのフィルタモードを選択することができる。エッジオフセットによるフィルタ処理は、CU内におけるエッジの歪みを補正する処理であり、バンドオフセットによるフィルタ処理は、CU内における階調の歪みを補正する処理である。
図2(a)は、エッジオフセットの例を示している。エッジオフセットによるフィルタ処理では、CU内の各画素の画素値に対して、CU単位で選択されるエッジ方向の画素値変動の形状に対応するオフセット値が加算される。
この例では、処理対象CU201に対して、Class 1(水平方向)、Class 2(垂直方向)、Class 3(45度方向)、又はClass 4(135度方向)のいずれか1つのエッジ方向が選択される。次に、処理対象CU201内の各画素の画素値と、その画素に隣接する2画素の画素値とを比較することで、エッジ方向の画素値変動の形状を示すカテゴリが計算される。このとき、隣接する2画素は、エッジ方向に応じて選択される。
例えば、Class 1が選択された場合、処理対象画素211に対して水平方向に隣接する画素212及び画素213が参照画素として選択される。そして、処理対象画素211、参照画素212、及び参照画素213の画素値の相対関係が、Category 1〜Category 4又はその他の形状のいずれに対応するかが決定される。
次に、処理対象CU201内の各画素の画素値に対して、決定されたカテゴリに対応するオフセット値を加算することで、フィルタ処理後のCU202が生成される。Category 1〜Category 4に対応するオフセット値は、それぞれ、q1〜q4であり、その他の形状に対応するオフセット値は0である。例えば、処理対象画素211のカテゴリがCategory 3である場合、処理対象画素211の画素値pに対してオフセット値q3が加算され、画素値がp+q3に変更される。
図2(b)は、バンドオフセットの例を示している。バンドオフセットによるフィルタ処理では、CU内の各画素の画素値に対して、画素値のレンジに対応するオフセット値が加算される。各レンジは、画素値の下限値及び上限値によって規定することができる。
この例では、処理対象CU201内の各画素の画素値が、Range 0(r0)、Range 1(r1)、Range 2(r2)、Range 3(r3)等のうち、いずれのレンジに属するかが決定される。
次に、処理対象CU201内の各画素の画素値に対して、決定されたレンジに対応するオフセット値を加算することで、フィルタ処理後のCU203が生成される。Range 0に対応するオフセット値は0であり、Range 1〜Range 3に対応するオフセット値は、それぞれ、o1〜o3である。例えば、処理対象画素211の画素値pがRange 2に属する場合、画素値pに対してオフセット値o2が加算され、画素値がp+o2に変更される。
スクリーンコンテンツ画像の非可逆符号化では、パレット符号化とSAOフィルタとを併用することで、符号化効率を改善することが可能である。しかしながら、HEVC規格のSAOフィルタを適用すると、望ましくない画質の劣化が発生することがある。
パレット符号化において、非可逆符号化としてエスケープ符号化を使用する場合、量子化による画質の劣化は、エスケープ符号化された画素に対してのみ重畳される。一方、エスケープ符号化されていない画素の画素値には、量子化による劣化は発生しない。以下では、エスケープ符号化された画素を、エスケープ符号化画素と記し、エスケープ符号化されていない画素を、非エスケープ符号化画素と記すことがある。
SAOフィルタは、量子化による劣化を軽減するフィルタ処理であり、CU内のすべての画素に対して適用される。この場合、量子化による劣化が発生していない非エスケープ符号化画素に対してもSAOフィルタが適用される。このため、不要なフィルタ処理によって非エスケープ符号化画素の画質が劣化し、符号化効率(圧縮効率)が低下する。
図3は、実施形態の映像符号化装置の機能構成例を示している。図3の映像符号化装置301は、パレット符号化部311、フィルタ部312、及び出力部313を含む。
図4は、図3の映像符号化装置301が行う映像符号化処理の例を示すフローチャートである。まず、パレット符号化部311は、符号化対象映像に含まれる符号化対象ブロック内の複数の画素値のうち、符号化対象ブロックのパレットに登録された第1画素値を、パレットを用いて符号化することで、第1画素値の符号化結果を生成する(ステップ401)。そして、パレット符号化部311は、第1画素値の符号化結果から第1局所復号結果を生成する(ステップ402)。
次に、パレット符号化部311は、パレットに登録されていない第2画素値を量子化することで、第2画素値の量子化結果を生成し(ステップ403)、第2画素値の量子化結果から第2局所復号結果を生成する(ステップ404)。
次に、フィルタ部312は、第2局所復号結果に対してフィルタ処理を適用し(ステップ405)、第1局所復号結果と、第2局所復号結果に対してフィルタ処理を適用した結果とを含む、符号化対象ブロックの局所復号画像を生成する(ステップ406)。そして、出力部313は、第1画素値の符号化結果と第2画素値の量子化結果とを含む符号化映像を出力する(ステップ407)。
このような映像符号化装置301によれば、映像符号化においてパレット符号化が行われる場合に、フィルタ処理による画質の劣化を抑止することができる。
図5は、実施形態の映像復号装置の機能構成例を示している。図5の映像復号装置501は、パレット復号部511、フィルタ部512、及び出力部513を含む。
図6は、図5の映像復号装置501が行う映像復号処理の例を示すフローチャートである。まず、パレット復号部511は、復号対象映像に含まれる復号対象ブロック内の第1画素の符号化結果を、復号対象ブロックのパレットを用いて復号することで、第1画素の第1画素値を復元する(ステップ601)。次に、パレット復号部511は、復号対象ブロック内の第2画素の量子化結果を逆量子化することで、第2画素の第2画素値を復元する(ステップ602)。
次に、フィルタ部512は、第2画素値に対してフィルタ処理を適用し(ステップ603)、第1画素値と、第2画素値に対してフィルタ処理を適用した結果とを含む、復号対象ブロックの復号画像を生成する(ステップ604)。そして、出力部513は、復号対象ブロックの復号画像を含む復号映像を出力する(ステップ605)。
このような映像復号装置501によれば、映像符号化においてパレット符号化が行われる場合に、フィルタ処理による画質の劣化を抑止することができる。
図7は、図3の映像符号化装置301の具体例を示している。図7の映像符号化装置301は、パレット符号化部311、出力部313、符号化モード決定部701、フレームメモリ702、予測符号化部703、デブロッキングフィルタ部704、及びSAOフィルタ部705を含む。さらに、映像符号化装置301は、SAOフィルタ部706及びエントロピー符号化部707を含む。SAOフィルタ部706は、図3のフィルタ部312に対応する。
映像符号化装置301は、例えば、ハードウェア回路として実装することができる。この場合、映像符号化装置301の各構成要素を個別の回路として実装してもよく、1つの集積回路として実装してもよい。
映像符号化装置301は、入力される符号化対象映像を符号化し、符号化映像のビットストリームを出力する。符号化対象映像は、複数の時刻それぞれにおける複数の画像を含む。各画像は、カラー画像であってもよく、モノクロ画像であってもよい。画像がカラー画像である場合、画素値はRGB形式であってもよく、YUV形式であってもよい。各画像は、フレーム又はピクチャと呼ばれることもある。
符号化対象映像に含まれる各画像は、ブロック毎に分割され、各ブロックが符号化対象ブロックとして、予測符号化部703及びパレット符号化部311に入力される。HEVCの場合、各ブロックはCTU又はCUに対応する。
フレームメモリ702は、各ブロックの局所復号画像を記憶する記憶部であり、局所復号画像を符号化対象ブロックの参照画像として符号化モード決定部701へ出力する。符号化モード決定部701は、符号化対象映像とフレームメモリ702から出力される参照画像とを用いて、各ブロックのブロックサイズ及び符号化モードを決定する。各ブロックの符号化モードは、イントラ予測符号化、インター予測符号化、又はパレット符号化のいずれかである。
ブロックの符号化モードとしてイントラ予測符号化又はインター予測符号化を選択した場合、符号化モード決定部701は、ブロックサイズ、符号化モード、及び予測画素値を予測符号化部703へ出力する。予測画素値は、隣接ブロックの局所復号画素値又は参照画像の局所復号画素値から生成される。ブロックの符号化モードとしてパレット符号化を選択した場合、符号化モード決定部701は、ブロックサイズ及び符号化モードをパレット符号化部311へ出力する。
予測符号化部703は、符号化モードがイントラ予測符号化又はインター予測符号化である場合、符号化対象ブロックの予測符号化を行う。このとき、予測符号化部703は、符号化対象ブロック内の各画素の画素値から予測画素値を減算して、予測誤差を生成する。そして、予測符号化部703は、予測誤差を直交変換した後に量子化して、係数情報を生成する。直交変換としては、例えば、離散コサイン変換、離散ウェーブレット変換等が用いられる。
次に、予測符号化部703は、符号化モード(予測モード)等の予測符号化パラメータと係数情報とを、エントロピー符号化部707へ出力する。符号化モードがイントラ予測符号化である場合、予測符号化パラメータは、さらに予測方向を示す情報を含み、符号化モードがインター予測符号化である場合、予測符号化パラメータは、さらに動きベクトルを示す情報を含む。
また、予測符号化部703は、係数情報を逆量子化した後に逆直交変換して、再構成予測誤差を生成し、再構成予測誤差と予測画素値とを加算して、ポストフィルタ前の局所復号画素値を生成する。そして、予測符号化部703は、ポストフィルタ前の局所復号画素値をデブロッキングフィルタ部704へ出力する。
デブロッキングフィルタ部704は、ポストフィルタ前の局所復号画素値に対して、デブロッキングフィルタ処理を適用し、デブロッキングフィルタ処理の結果をSAOフィルタ部705へ出力する。
SAOフィルタ部705は、デブロッキングフィルタ処理の結果に対して、SAOフィルタ処理を適用する。SAOフィルタ処理としては、例えば、HEVC規格で規定されているSAOフィルタ処理を用いることができる。
まず、SAOフィルタ部705は、バンドオフセット、エッジオフセット、又はフィルタ非適用のいずれかのフィルタモードを選択する。そして、SAOフィルタ部705は、フィルタモードがバンドオフセットである場合、各レンジに対応するオフセット値を計算し、フィルタモードがエッジオフセットである場合、各カテゴリに対応するオフセット値を計算する。これらのオフセット値は、符号化前の画素値とSAOフィルタ処理が適用された後の画素値との差分が最小になるように決定される。
次に、SAOフィルタ部705は、ブロック内の各画素の画素値に対して、選択したフィルタモードにおけるオフセット値を加算して、ポストフィルタ後の局所復号画素値を生成し、フレームメモリ702へ出力する。また、SAOフィルタ部705は、フィルタモード、オフセット値等を含むSAOパラメータを、エントロピー符号化部707へ出力する。HEVCの場合、SAOパラメータは、Largest Coding Unit(LCU)単位で決定される。
フレームメモリ702は、符号化対象ブロック内の各画素の局所復号画素値を局所復号画像として蓄積する。この局所復号画像は、後続する画像に対する参照画像として用いられる。
パレット符号化部311は、符号化モードがパレット符号化である場合、符号化対象ブロックのパレット符号化を行う。まず、パレット符号化部311は、符号化対象ブロック内の各画素の画素値から、符号化対象ブロックのパレットを生成する。
次に、パレット符号化部311は、生成したパレットを参照して、符号化対象ブロック内の画素の画素値がパレットに登録されている場合、その画素値をパレット内の対応するインデックスに置き換える。一方、符号化対象ブロック内の画素の画素値がパレットに登録されていない場合、パレット符号化部311は、その画素値をエスケープ符号化を示すインデックスに置き換えるとともに、その画素値を量子化して量子化結果を生成する。
次に、パレット符号化部311は、符号化対象ブロックのパレット、各画素のインデックス、及びエスケープ符号化された画素の量子化結果を、エントロピー符号化部707へ出力する。そして、パレット符号化部311は、パレットの大きさ、エスケープ符号化の量子化スケール等を含むパレット符号化パラメータを、エントロピー符号化部707へ出力する。
また、パレット符号化部311は、各画素のポストフィルタ前の局所復号画素値を生成して、各画素のインデックス及び局所復号画素値をSAOフィルタ部706へ出力する。
非エスケープ符号化画素の場合、パレット符号化部311は、パレット内において符号化結果のインデックスに対応する画素値を、ポストフィルタ前の局所復号画素値として用いる。この場合、局所復号画素値は、符号化前の画素値に一致する。一方、エスケープ符号化画素の場合、パレット符号化部311は、量子化結果を逆量子化して、ポストフィルタ前の局所復号画素値を生成する。この場合、局所復号画素値は、符号化前の画素値に必ずしも一致しない。
SAOフィルタ部706は、ポストフィルタ前の局所復号画素値に対して、SAOフィルタ処理を適用する。まず、SAOフィルタ部706は、符号化対象ブロック内のエスケープ符号化画素の局所復号画素値のみを用いて、バンドオフセット、エッジオフセット、又はフィルタ非適用のいずれかのフィルタモードを選択する。
そして、SAOフィルタ部706は、フィルタモードがバンドオフセットである場合、各レンジに対応するオフセット値を計算し、フィルタモードがエッジオフセットである場合、各カテゴリに対応するオフセット値を計算する。これらのオフセット値は、エスケープ符号化画素の符号化前の画素値とSAOフィルタ処理が適用された後の画素値との差分が最小になるように決定される。
次に、SAOフィルタ部706は、ブロック内の各エスケープ符号化画素の局所復号画素値に対して、選択したフィルタモードにおけるオフセット値を加算して、ポストフィルタ後の局所復号画素値を生成し、フレームメモリ702へ出力する。また、SAOフィルタ部706は、ブロック内の各非エスケープ符号化画素の局所復号画素値を、ポストフィルタ後の局所復号画素値としてフレームメモリ702へ出力する。
そして、SAOフィルタ部706は、フィルタモード、オフセット値等を含むSAOパラメータを、エントロピー符号化部707へ出力する。HEVCの場合、SAOパラメータは、LCU単位で決定される。
エントロピー符号化部707は、予測符号化部703、パレット符号化部311、SAOフィルタ部705、及びSAOフィルタ部706から出力される情報に対してエントロピー符号化を行い、符号化映像のビットストリームを生成する。
エントロピー符号化される情報には、ピクチャタイプ等の画像単位の符号化パラメータ、画像中の各LCUのSAOパラメータ、及び各ブロックの符号化モードが含まれる。エントロピー符号化される情報には、さらに、予測符号化パラメータ、係数情報、パレット符号化パラメータ、パレット、インデックス、及びエスケープ符号化画素の量子化結果が含まれる。エントロピー符号化では、情報中の各シンボルの出現頻度に応じて、可変長符号が割り当てられる。
出力部313は、エントロピー符号化部707が生成した符号化映像のビットストリームを、映像復号装置501へ出力する。
図8は、図7のSAOフィルタ部706の機能構成例を示している。図8のSAOフィルタ部706は、画素選択部801、バンドオフセット計算部802、エッジオフセット計算部803、画素フィルタ部804、及び合成部805を含む。画素選択部801には、エスケープ符号化画素及び非エスケープ符号化画素の局所復号画素値が混在する局所復号ブロックデータが入力される。
画素選択部801は、ブロック内の各画素のインデックスを参照し、インデックスがエスケープ符号化画素を示している場合、その画素の局所復号画素値をバンドオフセット計算部802、エッジオフセット計算部803、及び画素フィルタ部804へ出力する。一方、インデックスが非エスケープ符号化画素を示している場合、画素選択部801は、その画素の局所復号画素値を合成部805へ出力する。
バンドオフセット計算部802は、エスケープ符号化画素の局所復号画素値と符号化対象映像に含まれる原画像の画素値とを用いて、バンドオフセットのフィルタモードにおけるオフセット値及び符号化コストを計算する。符号化コストとしては、例えば、バンドオフセットのオフセット値の符号化データ量、及び局所復号画素値と原画像の画素値との差分を用いることができる。そして、バンドオフセット計算部802は、ブロック内の複数のエスケープ符号化画素に対するオフセット値のリストと符号化コストとを、画素フィルタ部804へ出力する。
また、バンドオフセット計算部802は、バンドオフセットのフィルタモードとオフセット値のリストとを含むSAOパラメータを、エントロピー符号化部707へ出力する。
エッジオフセット計算部803は、エスケープ符号化画素の局所復号画素値と符号化対象映像に含まれる原画像の画素値とを用いて、エッジオフセットのフィルタモードにおけるオフセット値及び符号化コストを計算する。符号化コストとしては、例えば、エッジオフセットのオフセット値の符号化データ量、及び局所復号画素値と原画像の画素値との差分を用いることができる。そして、エッジオフセット計算部803は、ブロック内の複数のエスケープ符号化画素に対するオフセット値のリストと符号化コストとを、画素フィルタ部804へ出力する。
また、エッジオフセット計算部803は、エッジオフセットのフィルタモードとオフセット値のリストとを含むSAOパラメータを、エントロピー符号化部707へ出力する。
画素フィルタ部804は、バンドオフセット及びエッジオフセットの2つのフィルタモードにおける符号化コストを比較して、符号化コストが小さい方のフィルタモードを選択する。そして、画素フィルタ部804は、選択したフィルタモードのオフセット値のリストを用いて、エスケープ符号化画素の局所復号画素値に対して、そのエスケープ符号化画素のオフセット値を加算し、加算結果の局所復号画素値を合成部805へ出力する。
合成部805は、ブロック内の非エスケープ符号化画素に対しては、画素選択部801から出力される局所復号画素値を出力し、エスケープ符号化画素に対しては、画素フィルタ部804から出力される局所復号画素値を出力する。これにより、フィルタ処理が適用された局所復号画素値とフィルタ処理が適用されていない局所復号画素値とが混在する局所復号ブロックデータが出力される。
図7の映像符号化装置301によれば、パレット符号化されたブロック内の画素のうち、エスケープ符号化画素のみに対してSAOフィルタ処理が適用され、非エスケープ符号化画素に対してはSAOフィルタ処理が適用されない。したがって、量子化による劣化が発生していない非エスケープ符号化画素の画質が損なわれないため、高画質の局所復号画像を生成することができる。さらに、高画質の局所復号画像を参照画像として用いて、後続する画像の予測符号化を行うことで、映像を効率良く符号化することができる。
図9は、図7の映像符号化装置301が行う映像符号化処理の具体例を示すフローチャートである。まず、符号化モード決定部701は、符号化対象映像に含まれる画像内の符号化対象ブロックのブロックサイズ及び符号化モードを決定する(ステップ901)。そして、予測符号化部703及びパレット符号化部311は、符号化モードがパレット符号化であるか否かを判定する(ステップ902)。
符号化モードがパレット符号化である場合(ステップ902,YES)、パレット符号化部311は、符号化対象ブロックのパレット符号化を行う(ステップ903)。次に、SAOフィルタ部706のバンドオフセット計算部802及びエッジオフセット計算部803は、符号化対象ブロック内のエスケープ符号化画素の局所復号画素値を用いて、オフセット値を計算する(ステップ904)。
次に、画素フィルタ部804は、フィルタモードを選択し、符号化対象ブロック内のエスケープ符号化画素に対して、選択したフィルタモードのSAOフィルタ処理を適用する(ステップ905)。そして、エントロピー符号化部707は、符号化対象ブロックのパレット、各画素のインデックス、及びエスケープ符号化された画素の量子化結果、及びSAOパラメータに対して、エントロピー符号化を行う。
一方、符号化モードがパレット符号化ではない場合(ステップ902,NO)、予測符号化部703は、符号化対象ブロックの予測符号化を行う(ステップ908)。次に、デブロッキングフィルタ部704は、符号化対象ブロック内の各画素の局所復号画素値に対して、デブロッキングフィルタ処理を適用する(ステップ909)。
次に、SAOフィルタ部705は、符号化対象ブロック内のすべての画素の局所復号画素値を用いて、オフセット値を計算する(ステップ910)。次に、SAOフィルタ部705は、フィルタモードを選択し、符号化対象ブロック内のすべての画素に対して、選択したフィルタモードのSAOフィルタ処理を適用する(ステップ911)。そして、エントロピー符号化部707は、予測符号化パラメータ、係数情報、及びSAOパラメータに対して、エントロピー符号化を行う。
次に、映像符号化装置301は、画像内のすべてのブロックを符号化したか否かをチェックする(ステップ906)。符号化されていないブロックが残っている場合(ステップ906,NO)、映像符号化装置301は、次のブロックについてステップ901以降の処理を繰り返す。
すべてのブロックを符号化した場合(ステップ906,YES)、映像符号化装置301は、符号化対象映像に含まれるすべての画像を符号化したか否かをチェックする(ステップ907)。符号化されていない画像が残っている場合(ステップ907,NO)、映像符号化装置301は、次の画像についてステップ901以降の処理を繰り返す。そして、すべての画像を符号化した場合(ステップ907,YES)、映像符号化装置301は、処理を終了する。
図10は、図5の映像復号装置501の具体例を示している。図10の映像復号装置501は、パレット復号部511、出力部513、エントロピー復号部1001、予測復号部1002、デブロッキングフィルタ部1003、SAOフィルタ部1004、SAOフィルタ部1005、及びフレームメモリ1006を含む。SAOフィルタ部1005は、図5のフィルタ部512に対応する。
映像復号装置501は、例えば、ハードウェア回路として実装することができる。この場合、映像復号装置501の各構成要素を個別の回路として実装してもよく、1つの集積回路として実装してもよい。
図7の映像符号化装置301から出力される符号化映像のビットストリームは、復号対象映像のビットストリームとして映像復号装置501に入力される。映像復号装置501は、符号化映像のビットストリームを復号し、復号映像を出力する。
エントロピー復号部1001は、符号化映像のビットストリームに対するエントロピー復号を行って、画像単位の符号化パラメータ、画像中の各LCUのSAOパラメータ、各ブロックの符号化モードを抽出する。エントロピー復号部1001は、さらに、予測符号化パラメータ、係数情報、パレット符号化パラメータ、パレット、インデックス、及びエスケープ符号化画素の量子化結果も抽出する。
エントロピー復号部1001は、画像単位の符号化パラメータ及び各ブロックの符号化モードを、予測復号部1002及びパレット復号部511へ出力し、SAOパラメータをSAOフィルタ部1004及びSAOフィルタ部1005へ出力する。また、エントロピー復号部1001は、予測符号化パラメータ及び係数情報を予測復号部1002へ出力し、パレット符号化パラメータ、パレット、インデックス、及びエスケープ符号化画素の量子化結果をパレット復号部511へ出力する。
フレームメモリ1006は、各ブロックの復号画像を記憶する記憶部であり、復号画像を復号対象ブロックの参照画像として予測復号部1002へ出力する。
予測復号部1002は、符号化モードがイントラ予測符号化又はインター予測符号化である場合、復号対象ブロックの予測復号を行う。このとき、予測復号部1002は、係数情報を逆量子化した後に逆直交変換して、再構成予測誤差を生成し、再構成予測誤差と予測画素値とを加算して、ポストフィルタ前の復号画素値を生成する。予測画素値は、隣接ブロックの復号画素値又は参照画像の復号画素値から生成される。そして、予測復号部1002は、ポストフィルタ前の復号画素値をデブロッキングフィルタ部1003へ出力する。
デブロッキングフィルタ部704は、ポストフィルタ前の復号画素値に対して、デブロッキングフィルタ処理を適用し、デブロッキングフィルタ処理の結果をSAOフィルタ部1004へ出力する。
SAOフィルタ部1004は、エントロピー復号部1001から出力されるSAOパラメータのフィルタモードがバンドオフセット又はエッジオフセットである場合、デブロッキングフィルタ処理の結果に対してSAOフィルタ処理を適用する。SAOフィルタ部1004は、ブロック内の各画素の画素値に対して、SAOパラメータのフィルタモードにおけるオフセット値を加算して、ポストフィルタ後の復号画素値を生成し、フレームメモリ1006へ出力する。
フレームメモリ1006は、復号対象ブロック内の各画素の復号画素値を復号画像として蓄積するとともに、その表示タイミングに合わせて出力部513へ出力する。フレームメモリ1006に蓄積された復号画像は、後続する画像に対する参照画像として用いられる。出力部513は、符号化映像に含まれる各時刻の画像内のすべてのブロックの復号画像を、復号映像の1枚の画面として、不図示の表示装置等へ出力する。
パレット復号部511は、符号化モードがパレット符号化である場合、復号対象ブロックのパレット復号を行って、各画素のインデックスからポストフィルタ前の復号画素値を生成する。そして、パレット復号部511は、復号対象ブロック内の各画素のインデックス及び復号画素値を、SAOフィルタ部1005へ出力する。
インデックスに対応する画素値がパレットに登録されている場合、パレット復号部511は、その画素値をポストフィルタ前の復号画素値として用いる。一方、インデックスがエスケープ符号化を示している場合、パレット復号部511は、エスケープ符号化画素の量子化結果を逆量子化して、ポストフィルタ前の復号画素値を生成する。
SAOフィルタ部1005は、エントロピー復号部1001から出力されるSAOパラメータのフィルタモードがバンドオフセット又はエッジオフセットである場合、ポストフィルタ前の復号画素値に対してSAOフィルタ処理を適用する。このとき、SAOフィルタ部1005は、ブロック内の各エスケープ符号化画素の復号画素値に対して、SAOパラメータのフィルタモードにおけるオフセット値を加算して、ポストフィルタ後の復号画素値を生成し、フレームメモリ1006へ出力する。
図11は、図10のSAOフィルタ部1005の機能構成例を示している。図11のSAOフィルタ部1005は、画素選択部1101、画素フィルタ部1102、及び合成部1103を含む。画素選択部1101には、エスケープ符号化画素及び非エスケープ符号化画素の復号画素値が混在する復号ブロックデータと、SAOパラメータとが入力される。
画素選択部1101は、ブロック内の各画素のインデックスを参照し、インデックスがエスケープ符号化画素を示している場合、SAOパラメータのフィルタモード及びオフセット値のリストと、その画素の復号画素値とを、画素フィルタ部1102へ出力する。一方、インデックスが非エスケープ符号化画素を示している場合、画素選択部1101は、その画素の復号画素値を合成部1103へ出力する。
画素フィルタ部1102は、フィルタモードに基づき、オフセット値のリストを用いて、エスケープ符号化画素の復号画素値に対して、そのエスケープ符号化画素のオフセット値を加算し、加算結果の復号画素値を合成部1103へ出力する。
合成部1103は、ブロック内の非エスケープ符号化画素に対しては、画素選択部1101から出力される復号画素値を出力し、エスケープ符号化画素に対しては、画素フィルタ部1102から出力される復号画素値を出力する。これにより、フィルタ処理が適用された復号画素値とフィルタ処理が適用されていない復号画素値とが混在する復号ブロックデータが出力される。
図10の映像復号装置501によれば、パレット符号化されたブロック内の画素のうち、エスケープ符号化画素のみに対してSAOフィルタ処理が適用され、非エスケープ符号化画素に対してはSAOフィルタ処理が適用されない。したがって、量子化による劣化が発生していない非エスケープ符号化画素の画質が損なわれないため、高画質の復号画像を生成することができる。さらに、高画質の復号画像を参照画像として用いて、後続する画像の予測復号を行うことで、高画質の映像を復元することができる。
図12は、図10の映像復号装置501が行う映像復号処理の具体例を示すフローチャートである。まず、予測復号部1002及びパレット復号部511は、符号化映像に含まれる画像内の復号対象ブロックの符号化モードが、パレット符号化であるか否かを判定する(ステップ1201)。
符号化モードがパレット符号化である場合(ステップ1201,YES)、パレット復号部511は、復号対象ブロックのパレット復号を行う(ステップ1202)。次に、SAOフィルタ部1005の画素フィルタ部1102は、復号対象ブロック内のエスケープ符号化画素に対して、フィルタモードが示すSAOフィルタ処理を適用する(ステップ1203)。そして、合成部1103は、SAOフィルタ処理が適用された復号画素値と非エスケープ符号化画素の復号画素値とを含む、復号対象ブロックの復号画像を出力する。
一方、符号化モードがパレット符号化ではない場合(ステップ1201,NO)、予測復号部1002は、復号対象ブロックの予測復号を行う(ステップ1206)。次に、デブロッキングフィルタ部1003は、復号対象ブロック内の各画素の復号画素値に対して、デブロッキングフィルタ処理を適用する(ステップ1207)。次に、SAOフィルタ部1004は、復号対象ブロック内のすべての画素に対して、フィルタモードが示すSAOフィルタ処理を適用し、復号対象ブロックの復号画像を出力する(ステップ1208)。
次に、映像復号装置501は、画像内のすべてのブロックを復号したか否かをチェックする(ステップ1204)。復号されていないブロックが残っている場合(ステップ1204,NO)、映像復号装置501は、次のブロックについてステップ1201以降の処理を繰り返す。
すべてのブロックを復号した場合(ステップ1204,YES)、映像復号装置501は、符号化映像に含まれるすべての画像を復号したか否かをチェックする(ステップ1205)。復号されていない画像が残っている場合(ステップ1205,NO)、映像復号装置501は、次の画像についてステップ1201以降の処理を繰り返す。そして、すべての画像を復号した場合(ステップ1205,YES)、映像復号装置501は、処理を終了する。
HEVC規格の場合、SAOパラメータは、映像符号化装置301から映像復号装置501へLCU単位(CTU単位)で伝送される。しかし、パレット符号化されたCUとパレット符号化されていないCUとの間では、SAOフィルタ処理の対象となる画素が異なるため、これらのCUでは互いに異なるSAOパラメータを用いた方が望ましい場合がある。そこで、符号化対象CUがパレット符号化された場合、CTUのシンタックスに加えて、符号化対象CUのシンタックスにもSAOパラメータを付加することが考えられる。
図13は、CTUのシンタックスの例を示している。図13のシンタックスは、HEVC規格と等価である。slice_sao_luma_flag又はslice_sao_chroma_flagが論理“1”である場合、すなわち、SAOフィルタ処理が有効である場合、SAOパラメータsao()がLCU単位で伝送される。
図14は、コーディング四分木(Coding Quadtree)のシンタックスの例を示している。図14のシンタックスは、HEVC規格と等価である。四分木フラグsplit_cu_flagが論理“0”である場合、CUデータcoding_unit()が出現する。
図15は、CUのシンタックスの例を示している。図15のシンタックスは、palette_coding()に続く2行を除き、HEVC規格と等価である。slice_sao_luma_flag又はslice_sao_chroma_flagが論理“1”である場合、すなわち、SAOフィルタ処理が有効である場合、新たに追加されたSAOパラメータsao_cu()がCU単位で伝送される。sao_cu()は、対応するCUのみに対して適用されるSAOパラメータであり、LCU単位のSAOパラメータsao()は、そのCUに対しては無効となる。図15のシンタックスを用いることで、SAOパラメータをCU単位で伝送することが可能になる。
映像符号化装置301及び映像復号装置501は、様々な用途に利用される。例えば、映像符号化装置301及び映像復号装置501を、映像送信装置、映像受信装置、テレビ電話システム、仮想デスクトップシステム、コンピュータ、又は携帯電話機に組み込むことも可能である。
図3及び図7の映像符号化装置301の構成は一例に過ぎず、映像符号化装置301の用途又は条件に応じて一部の構成要素を省略又は変更してもよい。例えば、図7の映像符号化装置301において、ブロックの予測符号化を行わない場合、予測符号化部703、デブロッキングフィルタ部704、及びSAOフィルタ部705を省略することができる。エントロピー符号化を行わない場合、エントロピー符号化部707を省略することができる。
図5及び図10の映像復号装置501の構成は一例に過ぎず、映像復号装置501の用途又は条件に応じて一部の構成要素を省略又は変更してもよい。例えば、図10の映像復号装置501において、ブロックの予測復号を行わない場合、予測復号部1002、デブロッキングフィルタ部1003、及びSAOフィルタ部1004を省略することができる。エントロピー復号を行わない場合、エントロピー復号部1001を省略することができる。
図8のSAOフィルタ部706の構成は一例に過ぎず、映像符号化装置301の用途又は条件に応じて一部の構成要素を省略又は変更してもよい。例えば、バンドオフセットのフィルタモードを使用しない場合、バンドオフセット計算部802を省略することができ、エッジオフセットのフィルタモードを使用しない場合、エッジオフセット計算部803を省略することができる。
図11のSAOフィルタ部1005の構成は一例に過ぎず、映像復号装置501の用途又は条件に応じて一部の構成要素を省略又は変更してもよい。
図4、図6、図9、及び図12に示したフローチャートは一例に過ぎず、映像符号化装置301及び映像復号装置501の構成又は条件に応じて一部の処理を省略又は変更してもよい。例えば、図9の映像符号化処理において、ブロックの予測符号化を行わない場合、ステップ908〜ステップ911の処理を省略することができる。図12の映像復号処理において、ブロックの予測復号を行わない場合、ステップ1206〜ステップ1208の処理を省略することができる。
図1のパレット符号化及び図2のフィルタ処理は一例に過ぎず、パレットのデータ構造、エッジオフセットのエッジ方向及びカテゴリ、バンドオフセットのレンジ等は、符号化対象映像に応じて変化する。図13〜図15のシンタックスは一例に過ぎず、動画像符号化標準に応じて別のシンタックスを用いてもよい。
パレット符号化が適用される符号化対象映像は、スクリーンコンテンツ画像を含む映像に限定されるものではなく、画素値のバリエーションが少ない他の画像を含む映像であってもよい。
図3及び図7の映像符号化装置301と図5及び図10の映像復号装置501は、ハードウェア回路として実装することもでき、図16に示すような情報処理装置(コンピュータ)を用いて実装することもできる。
図16の情報処理装置は、Central Processing Unit(CPU)1601、メモリ1602、入力装置1603、出力装置1604、補助記憶装置1605、媒体駆動装置1606、及びネットワーク接続装置1607を備える。これらの構成要素はバス1608により互いに接続されている。
メモリ1602は、例えば、Read Only Memory(ROM)、Random Access Memory(RAM)、フラッシュメモリ等の半導体メモリであり、処理に用いられるプログラム及びデータを記憶する。メモリ1602は、図7のフレームメモリ702又は図10のフレームメモリ1006として用いることができる。
CPU1601(プロセッサ)は、例えば、メモリ1602を利用してプログラムを実行することにより、図3及び図7のパレット符号化部311、及び図3のフィルタ部312として動作する。CPU1601は、プログラムを実行することにより、図7の符号化モード決定部701、予測符号化部703、デブロッキングフィルタ部704、SAOフィルタ部705、SAOフィルタ部706、及びエントロピー符号化部707としても動作する。
CPU1601は、プログラムを実行することにより、図8の画素選択部801、バンドオフセット計算部802、エッジオフセット計算部803、画素フィルタ部804、及び合成部805としても動作する。
CPU1601は、プログラムを実行することにより、図5及び図10のパレット復号部511、及び図5のフィルタ部512として動作する。CPU1601は、プログラムを実行することにより、図10のエントロピー復号部1001、予測復号部1002、デブロッキングフィルタ部1003、SAOフィルタ部1004、及びSAOフィルタ部1005としても動作する。
CPU1601は、プログラムを実行することにより、図11の画素選択部1101、画素フィルタ部1102、及び合成部1103としても動作する。
入力装置1603は、例えば、キーボード、ポインティングデバイス等であり、ユーザ又はオペレータからの指示や情報の入力に用いられる。出力装置1604は、例えば、表示装置、プリンタ、スピーカ等であり、ユーザ又はオペレータへの問い合わせや処理結果の出力に用いられる。処理結果は、復号映像であってもよい。
補助記憶装置1605は、例えば、磁気ディスク装置、光ディスク装置、光磁気ディスク装置、テープ装置等である。補助記憶装置1605は、ハードディスクドライブ又はフラッシュメモリであってもよい。情報処理装置は、補助記憶装置1605にプログラム及びデータを格納しておき、それらをメモリ1602にロードして使用することができる。
媒体駆動装置1606は、可搬型記録媒体1609を駆動し、その記録内容にアクセスする。可搬型記録媒体1609は、メモリデバイス、フレキシブルディスク、光ディスク、光磁気ディスク等である。可搬型記録媒体1609は、Compact Disk Read Only Memory(CD−ROM)、Digital Versatile Disk(DVD)、又はUniversal Serial Bus(USB)メモリであってもよい。ユーザ又はオペレータは、この可搬型記録媒体1609にプログラム及びデータを格納しておき、それらをメモリ1602にロードして使用することができる。
このように、処理に用いられるプログラム及びデータを格納するコンピュータ読み取り可能な記録媒体には、メモリ1602、補助記憶装置1605、及び可搬型記録媒体1609のような、物理的な(非一時的な)記録媒体が含まれる。
ネットワーク接続装置1607は、Local Area Network(LAN)、インターネット等の通信ネットワークに接続され、通信に伴うデータ変換を行う通信インタフェースである。ネットワーク接続装置1607は、図3及び図7の出力部313として用いることができる。情報処理装置は、プログラム及びデータを外部の装置からネットワーク接続装置1607を介して受け取り、それらをメモリ1602にロードして使用することもできる。
なお、情報処理装置が図16のすべての構成要素を含む必要はなく、用途又は条件に応じて一部の構成要素を省略することも可能である。例えば、ユーザ又はオペレータとのインタフェースが不要の場合は、入力装置1603及び出力装置1604を省略してもよい。また、情報処理装置が可搬型記録媒体1609にアクセスしない場合は、媒体駆動装置1606を省略してもよい。
開示の実施形態とその利点について詳しく説明したが、当業者は、特許請求の範囲に明確に記載した本発明の範囲から逸脱することなく、様々な変更、追加、省略をすることができるであろう。
図2乃至図16を参照しながら説明した実施形態に関し、さらに以下の付記を開示する。
(付記1)
符号化対象映像に含まれる符号化対象ブロック内の複数の画素値のうち、前記符号化対象ブロックのパレットに登録された第1画素値を、前記パレットを用いて符号化することで、前記第1画素値の符号化結果を生成し、前記複数の画素値のうち前記パレットに登録されていない第2画素値を量子化することで、前記第2画素値の量子化結果を生成し、前記第1画素値の前記符号化結果から第1局所復号結果を生成し、前記第2画素値の前記量子化結果から第2局所復号結果を生成するパレット符号化部と、
前記第2局所復号結果に対してフィルタ処理を適用し、前記第1局所復号結果と、前記第2局所復号結果に対して前記フィルタ処理を適用した結果とを含む、前記符号化対象ブロックの局所復号画像を生成するフィルタ部と、
前記第1画素値の前記符号化結果と前記第2画素値の前記量子化結果とを含む符号化映像を出力する出力部と、
を備えることを特徴とする映像符号化装置。
(付記2)
前記符号化対象ブロックの前記局所復号画像を記憶する記憶部と、
前記局所復号画像を参照して、前記符号化対象映像に含まれるブロックの予測符号化を行う予測符号化部と、
をさらに備えることを特徴とする付記1記載の映像符号化装置。
(付記3)
前記フィルタ処理は、前記符号化対象ブロック内におけるエッジの歪みを補正する第1フィルタ処理、又は前記符号化対象ブロック内における階調の歪みを補正する第2フィルタ処理であることを特徴とする付記1又は2記載の映像符号化装置。
(付記4)
符号化対象映像に含まれる符号化対象ブロック内の複数の画素値のうち、前記符号化対象ブロックのパレットに登録された第1画素値を、前記パレットを用いて符号化することで、前記第1画素値の符号化結果を生成し、
前記第1画素値の前記符号化結果から第1局所復号結果を生成し、
前記複数の画素値のうち前記パレットに登録されていない第2画素値を量子化することで、前記第2画素値の量子化結果を生成し、
前記第2画素値の前記量子化結果から第2局所復号結果を生成し、
前記第2局所復号結果に対してフィルタ処理を適用し、
前記第1局所復号結果と、前記第2局所復号結果に対して前記フィルタ処理を適用した結果とを含む、前記符号化対象ブロックの局所復号画像を生成し、
前記第1画素値の前記符号化結果と前記第2画素値の前記量子化結果とを含む符号化映像を出力する、
処理をコンピュータに実行させる映像符号化プログラム。
(付記5)
前記コンピュータは、前記符号化対象ブロックの前記局所復号画像を参照して、前記符号化対象映像に含まれるブロックの予測符号化を行うことを特徴とする付記4記載の映像符号化プログラム。
(付記6)
映像符号化装置が、
符号化対象映像に含まれる符号化対象ブロック内の複数の画素値のうち、前記符号化対象ブロックのパレットに登録された第1画素値を、前記パレットを用いて符号化することで、前記第1画素値の符号化結果を生成し、
前記第1画素値の前記符号化結果から第1局所復号結果を生成し、
前記複数の画素値のうち前記パレットに登録されていない第2画素値を量子化することで、前記第2画素値の量子化結果を生成し、
前記第2画素値の前記量子化結果から第2局所復号結果を生成し、
前記第2局所復号結果に対してフィルタ処理を適用し、
前記第1局所復号結果と、前記第2局所復号結果に対して前記フィルタ処理を適用した結果とを含む、前記符号化対象ブロックの局所復号画像を生成し、
前記第1画素値の前記符号化結果と前記第2画素値の前記量子化結果とを含む符号化映像を出力する、
ことを特徴とする映像符号化方法。
(付記7)
前記映像符号化装置は、前記符号化対象ブロックの前記局所復号画像を参照して、前記符号化対象映像に含まれるブロックの予測符号化を行うことを特徴とする付記6記載の映像符号化方法。
(付記8)
復号対象映像に含まれる復号対象ブロック内の第1画素の符号化結果を、前記復号対象ブロックのパレットを用いて復号することで、前記第1画素の第1画素値を復元し、前記復号対象ブロック内の第2画素の量子化結果を逆量子化することで、前記第2画素の第2画素値を復元するパレット復号部と、
前記第2画素値に対してフィルタ処理を適用し、前記第1画素値と、前記第2画素値に対して前記フィルタ処理を適用した結果とを含む、前記復号対象ブロックの復号画像を生成するフィルタ部と、
前記復号対象ブロックの前記復号画像を含む復号映像を出力する出力部と、
を備えることを特徴とする映像復号装置。
(付記9)
前記復号対象ブロックの前記復号画像を記憶する記憶部と、
前記復号画像を参照して、前記復号対象映像に含まれるブロックの予測復号を行う予測復号部と、
をさらに備えることを特徴とする付記8記載の映像復号装置。
(付記10)
前記フィルタ処理は、前記復号対象ブロック内におけるエッジの歪みを補正する第1フィルタ処理、又は前記復号対象ブロック内における階調の歪みを補正する第2フィルタ処理であることを特徴とする付記8又は9記載の映像復号装置。
(付記11)
復号対象映像に含まれる復号対象ブロック内の第1画素の符号化結果を、前記復号対象ブロックのパレットを用いて復号することで、前記第1画素の第1画素値を復元し、
前記復号対象ブロック内の第2画素の量子化結果を逆量子化することで、前記第2画素の第2画素値を復元し、
前記第2画素値に対してフィルタ処理を適用し、
前記第1画素値と、前記第2画素値に対して前記フィルタ処理を適用した結果とを含む、前記復号対象ブロックの復号画像を生成し、
前記復号対象ブロックの前記復号画像を含む復号映像を出力する、
処理をコンピュータに実行させる映像復号プログラム。
(付記12)
前記コンピュータは、前記復号対象ブロックの前記復号画像を参照して、前記復号対象映像に含まれるブロックの予測復号を行うことを特徴とする付記11記載の映像復号プログラム。
(付記13)
映像復号装置が、
復号対象映像に含まれる復号対象ブロック内の第1画素の符号化結果を、前記復号対象ブロックのパレットを用いて復号することで、前記第1画素の第1画素値を復元し、
前記復号対象ブロック内の第2画素の量子化結果を逆量子化することで、前記第2画素の第2画素値を復元し、
前記第2画素値に対してフィルタ処理を適用し、
前記第1画素値と、前記第2画素値に対して前記フィルタ処理を適用した結果とを含む、前記復号対象ブロックの復号画像を生成し、
前記復号対象ブロックの前記復号画像を含む復号映像を出力する、
ことを特徴とする映像復号方法。
(付記14)
前記映像復号装置は、前記復号対象ブロックの前記復号画像を参照して、前記復号対象映像に含まれるブロックの予測復号を行うことを特徴とする付記13記載の映像復号方法。
101 画像
102 インデックスマップ
103 パレット
111 画素
201 処理対象CU
202、203 CU
211 処理対象画素
212、213 参照画素
301 映像符号化装置
311 パレット符号化部
312 フィルタ部
313 出力部
501 映像復号装置
511 パレット復号部
512 フィルタ部
513 出力部
701 符号化モード決定部
702、1006 フレームメモリ
703 予測符号化部
704、1003 デブロッキングフィルタ部
705、706、1004、1005 SAOフィルタ部
707 エントロピー符号化部
801、1101 画素選択部
802 バンドオフセット計算部
803 エッジオフセット計算部
804、1102 画素フィルタ部
805、1103 合成部
1001 エントロピー復号部
1002 予測復号部
1601 CPU
1602 メモリ
1603 入力装置
1604 出力装置
1605 補助記憶装置
1606 媒体駆動装置
1607 ネットワーク接続装置
1608 バス
1609 可搬型記録媒体

Claims (10)

  1. 符号化対象映像に含まれる符号化対象ブロック内の複数の画素値のうち、前記符号化対象ブロックのパレットに登録された第1画素値を、前記パレットを用いて符号化することで、前記第1画素値の符号化結果を生成し、前記複数の画素値のうち前記パレットに登録されていない第2画素値を量子化することで、前記第2画素値の量子化結果を生成し、前記第1画素値の前記符号化結果から第1局所復号結果を生成し、前記第2画素値の前記量子化結果から第2局所復号結果を生成するパレット符号化部と、
    前記第2局所復号結果に対してフィルタ処理を適用し、前記第1局所復号結果と、前記第2局所復号結果に対して前記フィルタ処理を適用した結果とを含む、前記符号化対象ブロックの局所復号画像を生成するフィルタ部と、
    前記第1画素値の前記符号化結果と前記第2画素値の前記量子化結果とを含む符号化映像を出力する出力部と、
    を備えることを特徴とする映像符号化装置。
  2. 前記符号化対象ブロックの前記局所復号画像を記憶する記憶部と、
    前記局所復号画像を参照して、前記符号化対象映像に含まれるブロックの予測符号化を行う予測符号化部と、
    をさらに備えることを特徴とする請求項1記載の映像符号化装置。
  3. 前記フィルタ処理は、前記符号化対象ブロック内におけるエッジの歪みを補正する第1フィルタ処理、又は前記符号化対象ブロック内における階調の歪みを補正する第2フィルタ処理であることを特徴とする請求項1又は2記載の映像符号化装置。
  4. 符号化対象映像に含まれる符号化対象ブロック内の複数の画素値のうち、前記符号化対象ブロックのパレットに登録された第1画素値を、前記パレットを用いて符号化することで、前記第1画素値の符号化結果を生成し、
    前記第1画素値の前記符号化結果から第1局所復号結果を生成し、
    前記複数の画素値のうち前記パレットに登録されていない第2画素値を量子化することで、前記第2画素値の量子化結果を生成し、
    前記第2画素値の前記量子化結果から第2局所復号結果を生成し、
    前記第2局所復号結果に対してフィルタ処理を適用し、
    前記第1局所復号結果と、前記第2局所復号結果に対して前記フィルタ処理を適用した結果とを含む、前記符号化対象ブロックの局所復号画像を生成し、
    前記第1画素値の前記符号化結果と前記第2画素値の前記量子化結果とを含む符号化映像を出力する、
    処理をコンピュータに実行させる映像符号化プログラム。
  5. 映像符号化装置が、
    符号化対象映像に含まれる符号化対象ブロック内の複数の画素値のうち、前記符号化対象ブロックのパレットに登録された第1画素値を、前記パレットを用いて符号化することで、前記第1画素値の符号化結果を生成し、
    前記第1画素値の前記符号化結果から第1局所復号結果を生成し、
    前記複数の画素値のうち前記パレットに登録されていない第2画素値を量子化することで、前記第2画素値の量子化結果を生成し、
    前記第2画素値の前記量子化結果から第2局所復号結果を生成し、
    前記第2局所復号結果に対してフィルタ処理を適用し、
    前記第1局所復号結果と、前記第2局所復号結果に対して前記フィルタ処理を適用した結果とを含む、前記符号化対象ブロックの局所復号画像を生成し、
    前記第1画素値の前記符号化結果と前記第2画素値の前記量子化結果とを含む符号化映像を出力する、
    ことを特徴とする映像符号化方法。
  6. 復号対象映像に含まれる復号対象ブロック内の第1画素の符号化結果を、前記復号対象ブロックのパレットを用いて復号することで、前記第1画素の第1画素値を復元し、前記復号対象ブロック内の第2画素の量子化結果を逆量子化することで、前記第2画素の第2画素値を復元するパレット復号部と、
    前記第2画素値に対してフィルタ処理を適用し、前記第1画素値と、前記第2画素値に対して前記フィルタ処理を適用した結果とを含む、前記復号対象ブロックの復号画像を生成するフィルタ部と、
    前記復号対象ブロックの前記復号画像を含む復号映像を出力する出力部と、
    を備えることを特徴とする映像復号装置。
  7. 前記復号対象ブロックの前記復号画像を記憶する記憶部と、
    前記復号画像を参照して、前記復号対象映像に含まれるブロックの符号化結果に対する予測復号を行う予測復号部と、
    をさらに備えることを特徴とする請求項6記載の映像復号装置。
  8. 前記フィルタ処理は、前記復号対象ブロック内におけるエッジの歪みを補正する第1フィルタ処理、又は前記復号対象ブロック内における階調の歪みを補正する第2フィルタ処理であることを特徴とする請求項6又は7記載の映像復号装置。
  9. 復号対象映像に含まれる復号対象ブロック内の第1画素の符号化結果を、前記復号対象ブロックのパレットを用いて復号することで、前記第1画素の第1画素値を復元し、
    前記復号対象ブロック内の第2画素の量子化結果を逆量子化することで、前記第2画素の第2画素値を復元し、
    前記第2画素値に対してフィルタ処理を適用し、
    前記第1画素値と、前記第2画素値に対して前記フィルタ処理を適用した結果とを含む、前記復号対象ブロックの復号画像を生成し、
    前記復号対象ブロックの前記復号画像を含む復号映像を出力する、
    処理をコンピュータに実行させる映像復号プログラム。
  10. 映像復号装置が、
    復号対象映像に含まれる復号対象ブロック内の第1画素の符号化結果を、前記復号対象ブロックのパレットを用いて復号することで、前記第1画素の第1画素値を復元し、
    前記復号対象ブロック内の第2画素の量子化結果を逆量子化することで、前記第2画素の第2画素値を復元し、
    前記第2画素値に対してフィルタ処理を適用し、
    前記第1画素値と、前記第2画素値に対して前記フィルタ処理を適用した結果とを含む、前記復号対象ブロックの復号画像を生成し、
    前記復号対象ブロックの前記復号画像を含む復号映像を出力する、
    ことを特徴とする映像復号方法。
JP2016250012A 2016-12-22 2016-12-22 映像符号化装置、映像符号化方法、映像復号装置、及び映像復号方法 Pending JP2018107534A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016250012A JP2018107534A (ja) 2016-12-22 2016-12-22 映像符号化装置、映像符号化方法、映像復号装置、及び映像復号方法
US15/816,000 US20180184097A1 (en) 2016-12-22 2017-11-17 Apparatus and method for video coding, apparatus and method for video decoding, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016250012A JP2018107534A (ja) 2016-12-22 2016-12-22 映像符号化装置、映像符号化方法、映像復号装置、及び映像復号方法

Publications (1)

Publication Number Publication Date
JP2018107534A true JP2018107534A (ja) 2018-07-05

Family

ID=62630601

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016250012A Pending JP2018107534A (ja) 2016-12-22 2016-12-22 映像符号化装置、映像符号化方法、映像復号装置、及び映像復号方法

Country Status (2)

Country Link
US (1) US20180184097A1 (ja)
JP (1) JP2018107534A (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015191838A1 (en) * 2014-06-11 2015-12-17 Qualcomm Incorporated Determining quantization parameter (qp) values and delta qp values for palette coded blocks in video coding
JP2016103804A (ja) * 2014-11-28 2016-06-02 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10356432B2 (en) * 2015-09-14 2019-07-16 Qualcomm Incorporated Palette predictor initialization and merge for video coding

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015191838A1 (en) * 2014-06-11 2015-12-17 Qualcomm Incorporated Determining quantization parameter (qp) values and delta qp values for palette coded blocks in video coding
JP2016103804A (ja) * 2014-11-28 2016-06-02 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JOEL SOLE ET AL.: "Non-CE6: Delta QP signalling for palette", JOINT COLLABORATIVE TEAM ON VIDEO CODING (JCT-VC) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11, vol. JCTVC-S0043-r2, JPN6020024068, October 2014 (2014-10-01), pages 1 - 3, ISSN: 0004301655 *
JOEL SOLE ET AL.: "Non-SCCE3: Delta QP signalling in palette mode", JOINT COLLABORATIVE TEAM ON VIDEO CODING (JCT-VC) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11, vol. JCTVC-R0237, JPN6020024066, June 2014 (2014-06-01), pages 1 - 3, ISSN: 0004301654 *

Also Published As

Publication number Publication date
US20180184097A1 (en) 2018-06-28

Similar Documents

Publication Publication Date Title
JP7003191B2 (ja) 映像復号化方法および映像符号化方法
KR101894971B1 (ko) 색차 성분 양자화 매개 변수 결정 방법 및 이러한 방법을 사용하는 장치
CN113115047B (zh) 视频编解码方法和设备
EP2829064B1 (en) Parameter determination for exp-golomb residuals binarization for lossless intra hevc coding
US10116962B2 (en) Image coding device, image decoding device, image coding method and image decoding method
KR102584163B1 (ko) 영상 부호화 장치
US20230396781A1 (en) Coding enhancement in cross-component sample adaptive offset
JP6481457B2 (ja) 動画像符号化装置、動画像符号化方法、動画像復号装置、及び動画像復号方法
US20240007662A1 (en) Coding enhancement in cross-component sample adaptive offset
US20230319315A1 (en) Coding enhancement in cross-component sample adaptive offset
WO2022130663A1 (ja) 復号装置、プログラム、及び復号方法
JP2018107534A (ja) 映像符号化装置、映像符号化方法、映像復号装置、及び映像復号方法
US20240137546A1 (en) Coding enhancement in cross-component sample adaptive offset
KR20140048806A (ko) 공간 해상도에 기반한 계층 간 예측 장치 및 방법
JP2023504372A (ja) ジョイントクロマの符号化されたブロックに対するスケーリング処理

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190910

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200714

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210202