JP2019146226A - 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム - Google Patents

画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム Download PDF

Info

Publication number
JP2019146226A
JP2019146226A JP2019073168A JP2019073168A JP2019146226A JP 2019146226 A JP2019146226 A JP 2019146226A JP 2019073168 A JP2019073168 A JP 2019073168A JP 2019073168 A JP2019073168 A JP 2019073168A JP 2019146226 A JP2019146226 A JP 2019146226A
Authority
JP
Japan
Prior art keywords
block
quantization parameter
image quality
decoding
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019073168A
Other languages
English (en)
Other versions
JP6801037B2 (ja
Inventor
小林 正明
Masaaki Kobayashi
正明 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of JP2019146226A publication Critical patent/JP2019146226A/ja
Application granted granted Critical
Publication of JP6801037B2 publication Critical patent/JP6801037B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N11/00Colour television systems
    • H04N11/02Colour television systems with bandwidth reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/196Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding

Abstract

【課題】適正なブロック単位で画質の制御を可能とする画像符号化方法及び画像復号方法を提供する。【解決手段】復号手段は、量子化パラメータに係る最小ブロックサイズより小さい複数のブロックを有するブロックグループ内の1番目のブロックがゼロではない係数を有していない場合、当該1番目のブロックの処理において、共有される量子化パラメータに係る差分値を復号せず、共有される量子化パラメータに係る差分値が1番目のブロックの処理において復号されなかった場合であって、1番目のブロックより後に処理されるブロックがゼロではない係数を有する場合、当該ゼロではない係数を有するブロックの処理において、共有される量子化パラメータに係る差分値を復号する。【選択図】図2

Description

本発明は画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラムに関し、特に画像の符号化における画質パラメータの算出、符号挿入に関する画質パラメータ符号化方法および復号方法に関する。
動画像の圧縮記録方法として、H.264/MPEG−4 AVC(以下H.264)が知られている。H.264は1セグメント地上波デジタル放送などで広く使われている。H.264の特徴は、従来の符号化方式に加えて4×4画素単位で整数変換を用い、イントラ予測が複数用意されている点にある。
MEPG−2、H.264に代表される直交変換と量子化を使った符号化方式では、所定のブロック画像を直交変換・量子化することにより量子化係数データを生成している。このとき、量子化パラメータと呼ばれる画質制御パラメータを使って量子化することにより画質を制御する。具体的には、小さい量子化パラメータ値を使って量子化した場合、画質は向上するが符号量が大きくなり、大きい量子化パラメータ値を使って量子化した場合、画質は低下するが符号量が減ることになる。符号化は、目標符号量に応じて、最適な量子化パラメータ値を選択しながら符号化することになる。これはレート制御とよばれ、TM−5など様々な方式が提案されている。量子化後、量子化係数データは可変長符号化により符号化係数データが生成される。
また、量子化パラメータも符号化され、量子化パラメータ符号が生成される。例えば、H.264においては、対象ブロックを処理する前のブロックの量子化に用いた量子化パラメータと対象ブロックの量子化に用いた量子化パラメータとの差分値を用いる。本差分値は(QP_DELTA:Quantization Parameter Delta)と呼ばれる。これを計算し、Golomb符号化や算術符号化を行うことにより得られるQP_DELTA符号が用いられる。このQP_DELTA符号を、例えば、Golomb符号化する場合、差分値が0であっても1ビットの符号が発生する。このようにして生成された符号化係数データと量子化パラメータ符号は復号器に伝送される。復号器は符号化係数データと量子化パラメータ符号を復号して量子化係数データと量子化パラメータを生成し、量子化パラメータを用いて量子化係数データを逆量子化・逆直交変換することによって復号画像を生成する。
MPEG−2やH.264では、マクロブロックとよばれる画像を格子状に区切った16×16の格子ブロックを一つの処理単位としている。直交変換するブロックのサイズを画素単位で表現すると、MPEG−2では8×8、H.264では8×8または、4×4となる。つまり、一つのマクロブロックの中に、複数の直交変換ブロックが存在することになる。MPEG−2やH.264では、マクロブロック単位で量子化パラメータを制御(レート制御)することができる。つまり、同一のマクロブロックに含まれる直交変換ブロックは、同じ量子化パラメータで、量子化されることになる。一方、H.264の改良技術においては、画像を格子状に区切った格子ブロックをLCTB(Largest Coding Tree Block)、とよび、そのサイズは64×64となっている。LCTBは、領域四分木構造を使ってCTB(Conding Tree Block)とよばれるより小さいサイズに分割される。木構造のデータを探索、または、入出力を行うためには走査順を特定する必要がある。さらに、CTBは、TU(Transform Unit)とよばれる直交変換ブロックを含み、このTUも領域四分木構造を使って、より小さいサイズに分割される。それぞれのユニットは、分割フラグを持ち、分割フラグがTrueのブロックは、縦横を1/2サイズとする4つの分割ブロックを内包する構造をとり、分割フラグがFalseとなるブロックは、分割ブロックを内包しない代わりにブロックの実データを持つことになる。つまり、非分割のTUのみが、画像ブロックの係数データを持つことになり、一つのLCTB(格子ブロック)は、階層構造的に複数の異なるサイズの直交変換サイズのブロックを持つことになる。なお、ブロックを分割するかの判定は様々な方法が存在するが、一つの判定方法としては、ラグランジュ乗数を用いてブロックのコストを計算し、よりコストが低いブロックの分割方法を選択するというものがある(特許文献1参照)。
特開2005−191706号公報
ISO/IEC14496−10:2004Information technology−−Coding of audio−visual objects−−Part10:Advanced Video Coding ITU−T H.264 Advanced video coding for generic audiovisual services
画像を格子状に区切った格子ブロック単位で符号化する画像符号化方法において、格子ブロックサイズが大きく、格子ブロック単位で画質制御をする場合、画質の異なるブロックの境界が目立ってしまうことがあった。
また、格子ブロックをさらに小さい単位に分割して画質を制御する場合、画質パラメータの変化の有無に関係なく画質パラメータを符号化して送るため、画質パラメータの符号がオーバーヘッドになるという問題も生じている。
したがって、本発明は上述した課題を解決するためになされたものであり、適正なブロック単位で画質の制御が可能とすることを目的としている。
上述の問題点を解決するため、本発明の画像復号装置は以下の構成を有する。すなわち、 画像データを符号化して生成された符号化データを復号する画像復号装置であって、量子化パラメータに係る最小ブロックサイズより小さい複数のブロックを有するブロックグループの復号処理において共有される量子化パラメータに係る差分値と、前記ブロックが分割されるかを示す分割フラグとを復号する復号手段と量子化パラメータに係る差分値から量子化パラメータを導出する導出手段とを有し、前記復号手段は、前記複数のブロックの内の1番目のブロックがゼロではない係数を有していない場合、当該1番目のブロックの処理において、前記共有される量子化パラメータに係る差分値を復号せず、前記復号手段は、前記共有される量子化パラメータに係る差分値が前記1番目のブロックの処理において復号されず、かつ、前記複数のブロックの内の前記1番目のブロックより後に処理される所定のブロックが分割されないことを前記分割フラグが示し、かつ、当該所定のブロックがゼロではない係数を有する場合、当該所定のブロックの処理において、前記共有される量子化パラメータに係る差分値を復号する。
上述の問題点を解決するため、本発明の画像復号装置は以下の構成を有する。すなわち、画像データを符号化して符号化データを生成する画像符号化装置であって、量子化パラメータに係る最小ブロックサイズより小さい複数のブロックを有するブロックグループの符号化処理において共有される量子化パラメータに係る差分値と、前記ブロックが分割されるかを示す分割フラグとを符号化する符号化手段を有し、前記符号化手段は、前記複数のブロックの内の1番目のブロックがゼロではない係数を有していない場合、当該1番目のブロックの処理において、前記共有される量子化パラメータに係る差分値を符号化せず、前記符号化手段は、前記共有される量子化パラメータに係る差分値が前記1番目のブロックの処理において符号化されず、かつ、前記複数のブロックの内の前記1番目のブロックより後に処理される所定のブロックが分割されず、かつ、当該所定のブロックがゼロではない係数を有する場合、当該所定のブロックの処理において、前記共有される量子化パラメータに係る差分値を符号化する。
本発明により、適正なブロック単位で画質の制御が可能とする。
実施形態1として説明する画像パラメータの符号化方法を示すフローチャートである。 実施形態2として説明する画像パラメータの復号方法を示すフローチャートである。 実施形態3として説明する画像パラメータの符号化方法を示すフローチャートである。 実施形態4として説明する画像パラメータの復号方法を示すフローチャートである。 実施形態5として説明する画像パラメータの符号化方法を示すフローチャートである。 実施形態6として説明する画像パラメータの復号方法を示すフローチャートである。 格子ブロックの分割例を示す図である。 (a)〜(d)格子ブロックの分割状態と分割フラグの例を示す図である。 本符号化方法および復号方法が実行されるハードウェア構成例を示す図である。 本符号化方法が実行されるハードウェア構成の変形例を示す図である。 本復号方法が実行されるハードウェア構成の変形例を示す図である。 分割ブロックの画質制御の例を示す図である。 フレームの符号化処理方法を示すフローチャートである。 フレームの復号処理方法を示すフローチャートである。 符号化フレームのデータ構造を示す図である。 格子ブロック符号化データのデータ構造を示す図である。 分割ブロックの符号化方法の詳細を示すフロー図である。 分割ブロックの復号方法の詳細を示すフローチャートである。 実施形態1として説明する画質パラメータ算出方法を示すフローチャートである。 符号化パラメータを付随させる分割ブロックを示す図である。 プロファイル・レベルと画質制御最小ブロックサイズの関係を示す図である。 画質制御最小ブロックサイズを算出するフローチャートである。 (a)(b)シーケンスの符号化データの構造を示す図である。 実施形態7として説明する画像の符号化方法を示すフローチャートである。 実施形態8として説明する画像の復号方法を示すフローチャートである。
以下、添付の図面を参照して、本願発明をその好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
<実施形態1>
分割ブロックの符号化方法について図1、図9、図13、図17、図19を参照して説明する。
図9は、本実施形態における符号化方法を含んだ符号化プログラムを実行するための構成を示している。本符号化プログラムはハードディスク装置(以下、HDDと略す)903に記録されており、符号化プログラムの起動とともにRAM902にロードされ、以下で示される各ステップをCPU901が実行して画像符号化処理がなされる。なお、本実施形態では入力画像データはHDD903に格納されており、そこから読みだされ、出力データは、HDD903に記録されるものとする。
以上の構成において、符号化を行う動作について説明する。図13は、フレーム全体を符号化するフローを説明したフローチャートである。本実施形態では画面を縦横64画素からなる格子に区切った格子ブロックで画面ごとに逐次処理する場合を例にとって説明する。各格子ブロックは、画面内でラスタースキャン順に処理が行われるものとする。なお、格子ブロックのサイズは64に限定されない。
S1301は、画質制御最小ブロックサイズを設定するステップである。S1302は、画質制御最小ブロックサイズを符号化するステップである。S1303は、フレームヘッダー情報を符号化するステップである。S1304は、画面左上の第一の格子ブロックを対象格子ブロックに設定するステップである。S1305は、対象格子ブロックに対して、予測処理を実行し、残差成分生成するステップである。S1306は、対象格子ブロックに対して、残差データを符号化するフローを実行するステップである。S1307は、フレーム内の格子ブロックが全て処理されたかを判定するステップである。S1308は、次に格子ブロックを対象格子ブロックに設定するステップである。
以降、このステップの流れについて説明する。S1301では、画質制御最小ブロックサイズと呼ばれるパラメータを設定する。本実施形態において、画質の制御は直交変換係数を量子化する際に使用する量子化パラメータによって制御されるものとして説明する。また、画質制御最小ブロックサイズは、16×16ブロックであるとし、画質制御最小ブロックサイズ情報はその値を16として説明する。この値は、16に限定されるものでなく、プログラムの開発者がプログラム内で固定値としたり、ユーザがプログラムのユーザインターフェースを介して指定したり、また、プログラム自身が最適値を算出して設定しても構わない。例えば、入力画像が640×480よりも大きい場合には画質制御最小ブロックサイズを大きめの値である16と設定し、解像度が640×480よりも等しいか小さい場合には質制御最小ブロックサイズを小さめの値である8に設定するなどのように入力画像に応じて、プログラム自身が最適値を算出することもの可能である。
S1302では、ステップS1301にて設定した画質制御最小ブロックサイズを符号化して画質制御最小ブロックサイズ符号を生成する。例えば画質制御最小ブロックサイズ情報が64を”0”、以下、画質制御最小ブロックサイズ情報が32を”1”、16を”2”、8を”3”とインデックスを付け、これを表す固定長の符号でもよい。
S1303では、フレームヘッダー情報を生成する。また、フレームヘッダー情報の一部として、S1302で生成した画質制御最小ブロックサイズ符号が組み込まれる。なお、本実施例では、画質制御最小ブロックサイズ符号がフレームヘッダーに組み込まれるものとして説明しているが、これに限定はない。シーケンス、ピクチャ、スライス、階層構造上の最上位のブロックに組み込んでもよい。
S1304では、最初の処理の対象となる対象格子ブロックに画面左上の格子ブロックを設定する。
S1305では、対象格子ブロックの周辺を参照することによって予測画像を生成するフレーム内予測や、他のフレームの画素を参照することによって予測画像を生成する動き補償予測を使って予測画像を生成し、対象格子ブロックの画素から残差データを生成する。例えば、前述のH.264符号化方式で採用されている、イントラ予測や動き補償予測などである。生成されたフレーム内予測モードや動きベクトルなどを符号化し、格子ブロックヘッダ情報符号として出力バッファへ出力する。
S1306では、対象格子ブロックをその対象ブロックとし、図17で説明するブロック内の残差データの符号化フローを実行する。図17の詳細は後述する。
S1307で、フレーム内の格子ブロックが全て処理されたかを判定された場合、フレーム全体の符号化処理を終了する。格子ブロックの全ての処理が終わっていない場合にはS1308を実行する。
S1308では、ラスタースキャン順に次の格子ブロックを対象格子ブロックに設定し、ステップS1305に戻る。
図17は、ステップS1306の詳細なフローチャートであり、階層構造的に複数の異なるサイズ直交変換ブロックを符号化し、画質制御パラメータ符号を含む符号化データを生成する。具体的には、画質制御最小ブロックサイズ、ブロックサイズデータとブロックの残差データから、ブロック分割、直交変換・量子化を行う。さらに、ブロック分割フラグ符号、符号化係数データ、画質パラメータの更新に関するQP_DELTA符号を生成する分割ブロックの符号化の処理を示している。本実施形態において、この階層構造は領域四分木構造をとり、その階層の最上位ブロックは64×64の格子ブロックである。分割処理により、その階層が深くなるにしたがい、32×32、16×16、8×8までのブロックが処理されるものとする。領域四分木構造のおけるブロック分割の構造は、ブロック分割フラグをストリームに埋め込むことにより、復号側に伝送される。
S1700は、対象ブロックを分割する場合としない場合のコストを算出するステップである。S1701は、対象ブロックを分割するかを判定するステップである。
S1702は、分割ブロックフラグをfalseとして符号化して、出力するステップである。S1703は、画質パラメータを算出するフローを実行するステップである。S1704は、直交変換・量子化・可変長復号を実行するステップである。S1705は、画質パラメータを符号化するフローを実行するステップである。S1706は、符号化データをソートし、出力バッファへ出力するステップである。S1707は、分割ブロックフラグをtrueとして符号化して、出力するステップである。S1708は、画質パラメータを算出するフローを実行するステップである。S1709は、画質パラメータを符号化するフローを実行するステップである。S1710は、内包する分割ブロックの処理を実行するステップである。
以降、このステップの流れについて説明する。S1700では、ブロックを分割した場合と分割しない場合のコストを算出する。コストに関しては前述のラグランジュ乗数を用いたコスト計算のほか、画像の特性やその統計量、予測される符号長による算出などである。
S1701では、S1700で算出された分割する場合のコストと分割しない場合のコストを比較し、ブロックを分割した場合のコストが分割しない場合より低ければ真と、そうでなければ偽と判定する。S1701の判定結果が偽の場合には、S1702〜S1706が実行され、S1701の判定結果が真の場合には、S1707からS1710が実行される。
まず、ブロック分割を行わない方のコストが小さい場合について説明する。S1702では、分割ブロックフラグをfalseとして符号化する。1ビットの値0を割り当てて符号化することが一般的であるが、これに限定されない。
S1703では、図19に示される画質パラメータ算出フローを実行して、画質パラメータを算出する。図19の詳細は後述する。
S1704では、残差データの直交変換・量子化・可変長符号化を実行し、符号化係数データを生成する。直交変換はDCT変換等で実現され、量子化は、S1703で算出した画質パラメータを利用して行う。なお、後述する図19に示される画質パラメータ算出フローにおいて、新しい画質パラメータが算出されなかった場合には、前に量子化で利用した画質パラメータ値をそのまま利用して、量子化を行う。可変長符号化に関してはハフマン符号化、算術符号化等を用いることができる。これらについては前述のH.264と同様な方式を用いることで実現できる。
S1705では、画質パラメータ符号化フローを実行するステップである。その詳細については図1を用いて後述する。
S1706は、分割フラグ符号、QP_DELTA符号、符号化係数データを並び替え、この順に出力バッファへ出力するステップである。ただし、出力すべき符号化データが存在しない場合には、存在する符号化データだけを並び替え、出力する。図16にその符号順の一例が示されている。
続いて、ブロック分割を行う方のコストが小さい場合について説明する。S1707では、分割ブロックフラグをtrueとして符号化する。1ビットの値1を割り当てて符号化することが一般的であるが、これに限定されない。
S1708は、後述する図19に示される画質パラメータの算出フローを実行して、画質パラメータを算出する。
S1709は、S1705と同様に画質パラメータ符号化フローを実行するステップである。その詳細については図1を用いて後述する。
S1710は、内包する全ての分割ブロックに対して、階層的に下の階層に内包される4つの分割ブロック(左上、右上、左下、右下)を対象に、対象ブロックの縦横1/2のサイズとなる分割ブロックを対象ブロックとして本フローを再帰的に実行する。すなわち、分割されることにより、対象ブロックサイズは徐々に小さくなる。この再帰処理は例えばもっとも多くても最小のブロックサイズが8×8になるまで行われるものとする。この再帰処理により、格子ブロックは領域四分木構造的に、分割されていく。例えば、格子ブロックが図7のように分割され、ブロックを分割の有無を示す分割フラグを分割する場合1、分割しない場合0と表現すると、分割ブロックごとに分割フラグは、図8のように表現される。図8の(a),(b),(c),(d)は、それぞれ、64×64、32×32、16×16、8×8の階層とそのブロックを示している。数値は分割フラグを、「−」はフラグが不要なことを、( )内の数値は、構造順の順番を表している。本実施形態では、構造順とは、ブロック単位では左上、右上、左下、右下の順とし、階層単位では領域四分木構造を前順で走査する順番を指す。分割フラグ符号、QP_DELTA_符号、符号化係数データはそれを組として、構造順に格納される。なお、8×8ブロックは、これ以上分割しないため、分割フラグは挿入されない。また、分割フラグが1のブロックは、さらに小さいサイズに分割された分割ブロックが係数データを持つため、それ自体は、係数データは存在しない。また、ストリームは、後述される図16で示されるように、各分割ブロックの分割フラグ符号、QP_DELTA符号、係数データを組とした分割ブロックの符号化情報が、構造順にならんだデータ構造を持つことになる。
図1は、ステップS1705、S1709で実行される画質パラメータ符号化の詳細なフローチャートである。S101は、対象ブロックサイズを取得するステップである。S102は、画質制御最小ブロックサイズを取得するステップである。S103は、ブロックの分割状態を取得するステップである。S104は、対象ブロックサイズが分割されているかを判定するステップである。S105は、対象ブロックサイズが画質制御最小ブロックサイズより大きいか等しいかを判定するステップである。S106は、対象ブロックサイズと画質制御最小ブロックサイズが等しいかを判定するステップである。S107は、画質パラメータを取得するステップである。S108は、画質パラメータを符号化するステップである。
以降、このステップの流れについて説明する。S101では、対象ブロックサイズを取得する。図17のフローから呼び出された直後は、処理対象ブロックは格子ブロックそのものであり、対象ブロックサイズの値は64となる。以降、再帰的な呼び出しにより、領域四分木構造の階層が深くなるごとに、そのサイズ値は、32、16、8となる。
S102では、外部からの設定等で設定された画質制御最小ブロックサイズを取得する。本実施形態ではこの値は16である。S103では、符号化する対象ブロックが、図17のS1700、S1701によって分割されているか否かが決定されており、その分割判定の結果である分割状態情報を取得する。
S104では、取得した対象ブロックの分割状態を参照して、対象ブロックが分割されていると判定された場合にはS106を実行し、対象ブロックが分割されていないと判定された場合にはS105を実行する。
S105では、対象ブロックサイズが画質制御最小ブロックサイズより大きいか、または、等しいかを判定する。大きいかまたは等しいと判定された場合にはS107以降を実行し、そうではないと判定された場合には、画質パラメータの符号化処理を終了する。
S106では、対象ブロックサイズと画質制御最小ブロックサイズが等しいか否かを判定する。等しいと判定された場合にはS107、S108を実行し、そうでないと判定された場合には、画質パラメータの符号化処理を終了する。
S107では、画質パラメータを取得する。この画質パラメータは、図17のS1703またはS1708で決定されたものである。S108では、画質パラメータを符号化する。本実施形態では、前のブロックの符号化に使用した画質パラメータと、S107で取得された画質パラメータの差分値をQP_DELTA値として求める。求められたQP_DELTA値をGolomb符号化したQP_DELTA符号が画質パラメータ符号となる。また、この画質パラメータは、次にQP_DELTA値を算出するために使用される。
なお、本実実施例では、QP_DELTA符号をGolomb符号により、符号化する例を説明しているが、これに限定されない。算術符号化や他の可変長符号化を行ってもよい。
図19は、ステップS1703、S1708で実行される画質パラメータ算出の詳細なフローチャートである。
S1901は、対象ブロックサイズを取得するステップである。S1902は、画質制御最小ブロックサイズを取得するステップである。S1903は、ブロックの分割状態を取得するステップである。S1904は、対象ブロックが分割されているかを判定するステップである。S1905は、対象ブロックサイズが画質制御最小ブロックサイズより大きいか等しいかを判定するステップである。S1906は、対象ブロックサイズと画質制御最小ブロックサイズが等しいかを判定するステップである。S1907は、画質パラメータを算出するステップである。
以降、このステップの流れについて説明する。S1901では、対象ブロックサイズを取得する。図17のフローから呼び出された直後は、処理対象ブロックは格子ブロックそのものであり、対象ブロックサイズの値は64となる。以降、再帰的な呼び出しにより、領域四分木構造の階層が深くなるごとに、そのサイズ値は、32、16、8となる。
S1902では、外部からの設定等で設定された画質制御最小ブロックサイズを取得する。本実施形態ではこの値は16である。
S1903では、符号化する対象ブロックが、図17のS1700、S1701によって分割されているか否かが決定されており、その分割判定の結果である分割状態情報を取得する。
S1904では、取得した対象ブロックの分割を参照して、対象ブロックが分割されていると判定された場合にはS1906を実行し、対象ブロックが分割されていないと判定された場合にはS1905を実行する。
S1905では、対象ブロックサイズが画質制御最小ブロックサイズより大きいか、または、等しいかを判定する。大きいかまたは等しいと判定された場合にはS1907を実行し、そうでないと判定された場合には、画質パラメータの符号化処理を終了する。
S1906では、対象ブロックサイズと画質制御最小ブロックサイズが等しいか否かを判定し、等しいと判定された場合にはS1907以降を実行し、そうでないと判定された場合には、画質パラメータの符号化処理を終了する。
S1907では、レート制御処理により、対象ブロックを符号化するための画質パラメータ算出を行う。例えば、TM5のように、対象ブロックの符号量を予測して、最適な量子化パラメータを算出する。対象ブロックが分割される場合には、内包される分割ブロック全てがレート制御の対象となり、内包される分割ブロックは同一の画質パラメータで符号化されることになる。
本実施形態における符号化方法を用いることにより、図15および図16で示されるデータ構造をもったデータが出力される。図15において、図13のS1303でフレームヘッダー情報に画質制御最小ブロックサイズの符号が埋め込まれており、フレーム内のすべての格子ブロックにその制御が行われる。また、図16において、格子ブロックである64×64のブロックの分割フラグに続き、1つ下の階層である32×32ブロックの左上のブロックに対する分割フラグが続く。分割が行われなかった場合、続いて当該32×32ブロックの画質パラメータ符号であるQP_DELTA符号が続き、32×32の残差に関する係数データの符号が続く。続いて、右上の32×32ブロックに対する分割フラグが続く。以下、繰り返しになるが、32×32ブロックが分割されて16×16ブロックとなる場合は分割フラグが分割する状態を表す。それ以上の分割がない場合は、QP_DELTA符号と係数データの符号が続く。画質制御最小ブロックサイズは16であるから、16×16以下の分割が起こる場合、それより小さなブロックでのQP_DELTA符号の付与は無く、分割フラグと係数データの符号が続くことになる。
このように対象ブロックサイズと画質制御最小ブロックサイズとを比較し、その比較判定結果に応じて、QP_DELTA符号の符号化の有無を制御する仕組みをもつことにより、画像を格子状に区切ったブロック単位で画質の制御を行えるようになる。QP_DELTA符号を格子ブロック単位で埋め込む従来の場合(図12(a))に比べて、より細かい単位で画質制御すること(図12(c))が可能になる。そのため、画質の異なるブロックの境界も狭まり、画質の差を目立ちにくくすることができる。また、直交変換ブロック単位で画質制御を行い、QP_DELTA符号を埋め込む従来の場合(図12(b))に比べると、画質制御の単位を選択することができ、全ての直交変換ブロックにQP_DELTA符号を埋め込む必要がないため、必要以上の符号量を増加させることもない。また、画質パラメータを挿入する条件と、同一の条件が成立する場合にのみ、画質パラメータ算出フローが実行されるため、画質パラメータ算出する演算も、必要以上に増加しない。
本実施形態ではブロックを正方形のブロックとして定義したが、例えば8×4のような長方形のブロックでももちろん構わない。また、領域四分木構造を走査するために再帰処理を用いて走査しているが、ループ構造を用いて、走査する実装形態をとることも可能である。
本実施形態における符号化方法は、図10のように、直交変換器1003、量子化器1004、可変長符号化器1005といった専用のハードウェアを持った構成で行われてもよい。このとき、直交変換、量子化、可変長符号化ステップがCPUにより実行されるのでなく、CPUが各処理をそれぞれのハードウェアに実行させること以外は、図17で示されるフローと同様である。
さらに、本実施形態では符号化されたデータはHDD903に記録される例をとって説明したが、これに限定されず、ハードディスク装置以外の記録媒体に記録されても構わないし、通信インターフェース905を解して通信回路に送信したり、外部記録装置に接続し、可搬メディアに記録してももちろん構わない。
さらに、本実施形態ではソフトウェアはハードディスク装置に記録される例をとって説明したが、これに限定されず、ROM等のハードウェアに記録されていても構わないし、メモリカードやディスク等の可搬メディアに記録されていてももちろん構わない。
さらに、本実施形態では画質パラメータ制御最小ブロックのサイズを表す符号として、分割の回数を符号化したが、これに限定されず、最大のブロックサイズは格子ブロックであることから、画質パラメータ制御最小ブロックのサイズを表すのに6ビットの固定長の符号で表しても良い。さらに、画質パラメータ制御最小ブロックは、正方形に限定されず、縦横個別に設定しても構わない。例えば、縦または、横に方向に並ぶブロックを組にして、その組にしたブロック単位で、画質パラメータを制御することも可能であり、その場合は、画質パラメータ制御最小ブロックのサイズを縦横個別に設定することも有効である。
<実施形態2>
画像の復号方法について図2、図9、図14、図18を参照して説明する。
図9は、本実施形態における復号方法を含んだ復号プログラムを実行するための構成を示しており、HDD903に記録された復号プログラムを、RAM902にロードし、後述するフローの各ステップをCPU901が実行することにより復号処理がなされる。なお、入力符号データはHDD903から読みだされ、復号画像はVRAM904内の画像出力バッファを介して、ディスプレイに出力されるものとする。なお、復号処理はブロックごとに行われるが、各ブロックを復号することにより得られたブロックの復号画像は、画像出力バッファに出力される際に、フレームの適正な位置にコピーされ、1フレーム分のブロックの復号処理が終了した時点で、出力バッファに1フレームの画像が生成されるものとする。
入力される符号化データは実施形態1で生成された符号化データとして説明する。
図14は、入力された符号化データを復号処理するフローを示したものである。各格子ブロックは、ラスタースキャン順に復号される。S1401は、フレームヘッダー情報を復号して取得するステップである。S1402は、画質制御最小ブロックサイズを復号して取得するステップである。S1403は、符号化データの復号結果を最初に第一の対象格子ブロック格納するように設定するステップである。S1404は、対象格子ブロックの予測モードを復号し、予測モードに従って、予測画像を生成するステップである。S1405は、対象格子ブロックをその対象ブロックとして分割ブロック復号フローを実行するステップである。S1406は、対象格子ブロックの予測画像データと残差データを加算し、画像出力バッファへ出力するステップである。S1407は、フレーム内の格子ブロックが全て処理されたかを判定するステップである。S1408は、次に格子ブロックを対象格子ブロックに設定するステップである。
以降、このステップの流れについて説明する。
S1401では、画質制御最小ブロックサイズと呼ばれるパラメータを、フレームのヘッダ情報から取得する。本実施例では、画質制御最小ブロックサイズは、フレームのヘッダ情報に含まれるものとして説明しているが、これに限定はない。あらかじめ決められているデータフォーマットに従って、画質制御最小ブロックサイズを、シーケンス、ピクチャ、スライス、階層構造上の最上位のブロックのヘッダ情報から取得する構成をよってもよい。
S1402では、画質制御最小ブロックサイズを復号して取得する。実施形態1によれば、画質制御最小ブロックサイズはインデックスとして符号化されており、そのサイズは16である。S1403では、対象格子ブロックとして画面左上の格子ブロックを設定する。
S1404では、対象格子ブロックの符号化データの復号を行う。復号によって、実施形態1で生成されたフレーム内予測のモードや動きベクトルなどを復号する。イントラ符号化の場合は、復号されたフレーム内予測モードに基づいて、周囲の復号済みの画素を参照して予測画像データを生成する。インター符号化の場合は動きベクトルに基づいて動き補償を行って予測画像データを生成する。
S1405では、格子ブロックをその対象ブロックとして図18の説明で後述する分割ブロックの復号フローを実行する。分割ブロックの復号は階層化されているため、ブロックの分割フラグを復号し、分割されたブロックの状態を判定しながら、復号を行い、画質パラメータ及び予測との残差データを生成する。
S1406では、ステップS1404で生成された予測画像データとステップS1405で残差データを加算し、対象格子ブロック復号画像を生成して、画像出力バッファへ出力する。
S1407では、フレーム内の格子ブロックが全て復号処理されたかを判定する。例えば、復号された格子ブロックの個数等を計数することで実現される。もし、全ての復号処理されていなければ、ステップS1408に進む。全ての格子ブロックが復号されたのであれば、フレームの復号処理を終了する。
S1408では、ラスタースキャン順に次の復号結果を次の対象格子ブロックとする。
図18は、ステップS1405の詳細なフローチャートであり、階層構造的に複数の異なるサイズ直交変換ブロックを復号するフローである。具体的には、ブロック分割フラグ符号、QP_DELTA符号から、可変長符号化係数データを、可変長復号、逆直交変換・逆量子化を行って、残差データを生成するフローを示している。本実施形態において、この階層構造は領域四分木構造をとり、その階層の最上位ブロック(第一の処理対象ブロック)は64×64の格子ブロックである。
S1801は、対象ブロックのブロック分割フラグを復号するステップである。S1802は、画質パラメータ復号フローを実行するステップである。S1803は、復号する対象ブロックが分割されているかを判定するステップであるS1804は、可変長復号・逆量子化・逆直交変換を実行するステップである。S1805は、内包する分割ブロックの復号処理を再帰的に実行するステップである。
以降、このステップの流れについて説明する。1801では、図16に示されるような分割ブロックフラグを復号して、対象となっているブロックが再分割されているかどうかの情報を取得する。復号は四分木の階層構造に従って行われる。これにより、各ブロックの分割状況を得ることができる。
S1802では、図2の説明で後述する画質パラメータ復号フローを実行する。対象ブロックを復号するために逆量子化で用いる画質パラメータを復号する。
S1803では、復号された分割ブロックフラグを参照して、対象ブロックが分割されているか否かを判定し、判定結果が分割されていないとされた場合にはS1804を実行し、分割されたとされた場合にはS1805を実行する。
S1804では、対象ブロックの符号化係数データに対して、可変長復号、逆量子化、逆直交変換を実施して残差データを生成する。可変長復号に関しては実施形態1で用いられた符号化方式に従って復号を行い、ブロックに含まれている量子化された係数データを取得する。逆量子化には、S1802で復号した画質パラメータが用いられるが、S1802で画質パラメータを新たに復号しない場合には、前の復号した画質パラメータをそのまま用いて、逆量子化がなされる。逆量子化によって得られた係数データは逆直交変換によって、残差データを生成する。
S1805は、復号されたブロック分割フラグが階層的に下の階層の存在を示した時、ステップS1801からステップS1805までを再帰的に処理を行い、分割の最小のブロックサイズに至るまでの残差データを復元する。
画質パラメータ復号するステップS1802の詳細を図2を用いて説明する。
図2は、階層構造的に複数の異なるサイズの直交変換ブロックの画質パラメータを復号するフローである。S201は、対象ブロックサイズを取得するステップである。S202は、画質制御最小ブロックサイズを取得するステップである。S203は、ブロック分割状態を取得するステップである。S204は、対象ブロックが分割されているかを判定するステップである。S205は、対象ブロックサイズが画質制御最小ブロックサイズよりも大きいか等しいかを判定するステップである。S206は、対象ブロックサイズが画質制御最小ブロックサイズと等しいかを判定するステップである。S207は、画質パラメ―タを復号するステップである。
以降、このステップの流れについて説明する。S201では、対象ブロックサイズを取得する。図18のフローから呼び出された直後は、処理対象ブロックは格子ブロックそのものであり、対象ブロックサイズの値は64となる。以降、分割フラグを復号し、その状態によって、そのサイズ値は、32、16、8となる。
S202では、画質制御最小ブロックサイズを取得するステップである。本実施形態では、図14のステップS1402で復号された画質制御最小ブロックサイズを取得する。
S203は、ブロック分割状態を取得する。本実施形態では、図18でのS1801で復号した分割ブロックフラグの値を取得する。
S204は、ブロック分割フラグの値を判定する。実施形態1で示したものと同様の符号割り当てを用いれば、分割されていないことを表す“0”であればS205を実行し、分割されていることを表す“1”であればS206を実行する。
S205は、対象ブロックサイズがステップ画質制御最小ブロックサイズよりも大きいまたは等しいか否かを判定する。対象ブロックサイズが画質制御最小ブロックサイズよりも大きいまたは等しい場合はS207を実行し、そうでなければ、処理を終了する。
S206は、対象ブロックサイズが画質制御最小ブロックサイズよりも等しいか否かを判定する。対象ブロックサイズが画質制御最小ブロックサイズよりも等しい場合はS207を実行し、そうでなければ、処理を終了する。
S207は、画質パラメ―タ符号を復号する。本実施形態では、QP_DELTA符号をGolomb復号し、QP_DELTA符号生成後、前のブロックの符号化に使用した画質パラメータにQP_DELTA値を加算して、画質パラメータを生成する。
本実施形態では、画質パラメータを符号化した対象ブロックサイズと画質制御最小ブロックサイズとの比較条件と同じ条件で、画質パラメータの復号の有無を制御している。このようにして、実施形態1で示した符号化方法で生成したストリームを復号することが可能となる。なお、本実施例では、QP_DELTA符号をGolomb符号により、復号する例を説明しているが、これに限定されない。データ形式によっては、算出復号や他の可変長復号を行う構成もとりうる。
本実施形態における復号方法は、図9の代わりに、図11のように、逆直交変換器1103、逆量子化器1104、可変長復号器1105といった専用のハードウェアを持った構成状で行われてもよい。このとき、逆直交変換、逆量子化、可変長復号化ステップがCPU1101により実行されるのでなく、CPU1101が各処理をそれぞれのハードウェアに実行させること以外は、図18で示されるフローと同様である。
さらに、本実施形態では符号化されたデータがハードディスク装置に記録される例をとって説明したが、これに限定されず、通信インターフェース1006を解して通信回路から受信したり、外部記録装置に接続し、可搬メディアから入力しても構わない。
さらに、本実施形態ではソフトウェアはハードディスク装置に記録される例をとって説明したが、これに限定されず、ROM等のハードウェアに記録されていても構わないし、メモリカードやディスク等の可搬メディアに記録されていてももちろん構わない。
<実施形態3>
画質パラメータの符号化方法について図3を参照して説明する。なお、特に記述がない場合、その構成および各ステップの動作は、実施形態1と同様とする。本実施形態では、対象ブロックを内包し、かつ、画質制御最小ブロックサイズと同一のサイズであるブロックを画質制御最小ブロックと定義する。また、画質制御最小ブロック内に画質パラメータが符号化されているかを示す情報を画質パラメータ符号化状態情報と定義する。画質パラメータ符号化状態情報は、画質制御最小ブロック内で、第一の分割ブロックに対して、画質パラメータの符号化がなされてかを示す情報と同義である。
図3は、画質パラメータの符号化フローを説明したものである。図3は、図17のステップS1704、S1709で実行される画質パラメータ符号化の詳細なフローチャートであり、図1で示される画質パラメータの符号化フローの代わりに実行される。S301は、画質パラメータ符号化状態情報を取得するステップである。S302は、画質パラメータ符号化状態情報を参照して、画質制御最小ブロック内にすでに画質パラメータが符号化されているか否かを判定するステップである。
以降、このステップの流れについて説明する。S104では、実施形態1と同様に、取得した対象ブロックの分割状態、すなわちこれ以上四分木による分割がされているか否かを参照する。対象ブロックが分割されていると判定された場合には、実施形態1とは異なり、処理を終了する。対象ブロックが分割されていないと判定された場合には実施形態1と同様にS105を実行する。
S105では、実施形態1と同様に、対象ブロックサイズが画質制御最小ブロックサイズより大きいか、または、等しいかを判定する。大きいかまたは等しいと判定された場合には実施形態1と同様にS107、S108を実行し、そうではないと判定された場合には、S301とS302の処理を実行する。
S301では、画質パラメータ符号化状態情報を取得する。本実施形態では画質制御最小ブロックサイズは16であるため、対象ブロックが8x8左上ブロックならば、画質パラメータが符号化されていないという情報を取得する。対象ブロックが8x8右上、8x8左下、8x8右下ならば、8x8左上ブロックですでに画質パラメータ符号化されているので、画質パラメータは符号化されているという情報を取得することになる。
S302では、画質パラメータ符号化状態情報を参照して、画質制御最小ブロック内ですでに符号化パラメータが符号化されているか否かを判定する。判定結果が符号化されていなければS107とS108を実行し、符号化されていれば画質パラメータの符号化処理を終了する。
本実施形態と実施形態1との違いについて説明する。実施形態1は、「対象ブロックが分割され、かつ、対象ブロックサイズと画質制御最小ブロックサイズが等しい場合」に、対象ブロック(分割ブロックの集合)に付随するデータとして、QP_DELTA符号を埋め込んでいた。本実施形態では、「対象ブロックが分割され、かつ、対象ブロックサイズと画質制御最小ブロックサイズが等しい場合」に、対象ブロック内の第一ブロックである左上のブロックにQP_DELTA符号を付加する形となる。本実施形態では、画質制御最小ブロックサイズは16である。そのため、図20のように分割されたブロックをストリームを構成する場合には、網掛けで示したブロック0,1,7,5,6,8,9,13,14,15番のブロックに対応する可変長符号化係数データの直前に、QP_DELTA符号が挿入されることになる。つまり、16×16以上のブロック、または、16×16ブロックが分割されている場合には、16×16ブロックを分割した第一のブロックにあたる左上の8×8のブロックに対してQP_DELTA符号が付随することになる。
このように、フローやデータ構造の考え方に違いはあるものの、実施形態1と同様の効果を得ることができる。また、量子化係数に0以外の値が存在しない場合は画質パラメータを符号化しないと構成をとってもよい。このときは、前記対象ブロック内の左上のブロックに、量子化係数に0以外の値が存在しない場合は、構造順に次の量子化係数に0以外の値が存在する第一の分割ブロックに対して、画質パラメータを付随させることになる。本実施形態のS301では、符号化対象ブロックの大きさと位置から、画質パラメータ符号化状態情報を算出し、取得するという構成をとっているが、これに限定されない。例えば、画質制御最小ブロックサイズ内で符号化パラメータが符号化されたかを示すフラグを設定し、画質制御最小ブロックの分割処理を実行するごとにフラグをリセット、符号化パラメータを符号化すごとにフラグをセットするようにしてもよい。画質パラメータ符号化状態情報を取得する際に、フラグがリセットされていれば符号化されていないという情報を取得し、フラグがセットされていれば符号化パラメータは符号化されているという情報を取得するという構成になる。
<実施形態4>
画質パラメータの復号方法について図4を参照して説明する。なお、とくに、記述がない場合、その構成および各ステップの動作は、実施形態2と同様とする。本実施形態では、対象ブロックを内包し、かつ、画質制御最小ブロックサイズと同一のサイズであるブロックを画質制御最小ブロックと定義する。また、画質制御最小ブロック内に画質パラメータが復号されているかを示す情報を画質パラメータ復号状態情報と定義する。
図4は、画質パラメータの復号フローを説明したものである。図4は、図18のステップS1802で実行される画質パラメータ復号の詳細なフローチャートであり、図2で示される画質パラメータの復号フローの代わりに実行される。S401は、画質パラメータ復号状態情報を取得するステップである。S402は、画質パラメータ復号状態情報を参照して、画質制御最小ブロック内にすでに画質パラメータが復号されているか否かを判定するステップである。
以降、このステップの流れについて説明する。S204は、ブロック分割フラグの値を判定する。分割されていないことを表す“0”であれば実施形態2と同様にS205を実行し、分割されていることを表す“1”であれば実施形態2とは異なり、画質パラメータの復号処理を終了する。
S205では、実施形態2と同様に対象ブロックサイズが画質制御最小ブロックサイズより大きいか、または、等しいかを判定する。大きいか、または、等しいと判定された場合にはステップS207に進み、実施形態2と同様に画質パラメ―タ符号を復号する。そうでないと判定された場合には、S401とS402を実行する。
S401は、画質パラメータ復号状態情報を取得する。本実施形態では、画質制御最小ブロックサイズは16であるため、対象ブロックが8x8左上ブロックならば画質パラメータが復号されていないという情報を取得する。対象ブロックが8x8右上、8x8左下、8x8右下ならば、8x8左上ブロックですでに画質パラメータ復号されているので、画質パラメータは復号されているという情報を取得することになる。
S402は、画質パラメータ復号状態情報を参照して、画質制御最小ブロック内にすでに画質パラメータが復号されているか否かを判定する。復号されていなければS207を実行し、復号されていれば画質パラメータの復号処理を終了する。
本実施形態では、画質パラメータを符号化した対象ブロックサイズと画質制御最小ブロックサイズとの比較条件、画質制御最小ブロック内にすでに画質パラメータが復号されているか否かを判定する判定条件で、実際に画質パラメータの復号を実行するかを制御している。このような形態をとることにより、実施形態3で示した符号化方法で生成したストリームを復号することが可能となる。また、量子化係数に0以外の値が存在しない場合は画質パラメータを符号化しない構成を符号化方法が採用した場合には、同じく復号方法でもこの方法を採用することができる。このときは、前記対象ブロック内の左上のブロックに、量子化係数に0以外の値が存在しない場合は、構造順に次の量子化係数に0以外の値が存在する第一の分割ブロックで画質パラメータを復号することになる。
本実施形態の図4のS401では、符号化対象ブロックの大きさと位置から、画質パラメータ復号状態情報を算出し、取得するという構成をとっているが、これに限定されない。例えば、画質制御最小ブロックサイズ内で画質パラメータが復号されたかを示すフラグを設定し、画質制御最小ブロックの分割処理を実行するごとにフラグをリセット、画質パラメータを復号するごとにフラグをセットする。このとき、画質パラメータ復号状態情報を取得する際に、フラグがリセットされていれば復号されていないという情報を取得し、フラグがセットされていれば画質パラメータは復号されているという情報を取得するという構成をとってもよい。
<実施形態5>
画質パラメータの符号化方法のブロック内の残差データの符号化フローについて図5を参照して説明する。なお、とくに記述がない場合、その構成および各ステップの動作は、実施形態1と同様とする。
図5は、画質パラメータの符号化及び残差データの符号化のフローを説明したものであり、図17および図1で示される処理を実行する。このフローは、図13のS1306から呼び出される。S501は、対象ブロックサイズを取得するステップである。S502は、画質制御最小ブロックサイズを取得するステップである。S503は、対象ブロックを分割する場合としない場合のコストをそれぞれ算出するステップである。S504は、対象ブロックが分割されるか否かを判定するステップである。S505は、分割ブロックフラグをfalseとして出力ステップである。S506は、対象ブロックサイズが画質制御最小ブロックサイズより大きいか等しいかを判定するステップである。S507は、画質パラメータ算出するステップである。S508は、画質パラメータを符号化するフローを実行するステップである。S509は、予測を行い、残差データを直交変換・量子化・可変長復号を実行するステップである。S510は、分割ブロックフラグをtrueとして出力ステップである。S511は、対象ブロックサイズと画質制御最小ブロックサイズが等しいかを判定するS512は、画質パラメータ算出するステップである。S513は、画質パラメータを符号化するステップである。S514は、内包する分割ブロックの処理を実行するステップである。
以下処理の流れを具体的に説明する。
S501では、対象ブロックサイズを取得する。図13のフローから呼び出された直後は、処理対象ブロックは格子ブロックそのものであり、本実施形態では対象ブロックサイズの値は64とするが、これに限定されない。以降、再帰的な呼び出しにより、四分木構造の階層が小さくなるごとに、そのサイズ値は、32、16、8となる。ただし、階層数はこれに限定されない。
S502では、外部からの設定等で設定された画質制御最小ブロックサイズを取得する。本実施形態ではこの値は16とするが、これに限定されない。
S503では、ブロックを分割した場合と分割しない場合のそれぞれのコストを算出する。コストに関しては前述のラグランジュ乗数を用いたコスト計算のほか、画像の特性やその統計量、予測される符号長によって算出する。
S504では、S503で算出された分割する場合のコストと分割しない場合のコストを比較する。ブロックを分割した場合のコストが分割しない場合より低ければS510〜S514が実行される。そうでなければS505〜S509が実行される。
S505では、分割ブロックフラグをfalseとして出力する。S506では、対象ブロックサイズが画質制御最小ブロックサイズより大きいか、または、等しいかを判定する。大きい場合または等しい場合にはS507〜S509を実行し、そうでない場合にはS507、S508を実行せずに、S509を実行する。
S507では、対象ブロックに対して、レート制御を行い、画質パラメータを算出する。S508では、S507で決定した画質パラメータ符号化する。本実施形態では、前のブロックで使用した画質パラメータと、S507で算出した画質パラメータの差分値をQP_DELTA値として求める。求められたQP_DELTA値をGolomb符号化したQP_DELTA符号が画質パラメータ符号となる。
S509では、残差データの直交変換・量子化・可変長符号化を実行し、符号化係数データを生成する。量子化においては、S507で算出した画質パラメータを用いて量子化する。なお、S506の判定において、対象ブロックサイズが画質制御最小ブロックサイズより小さいと判定された場合は、画質パラメータは、前に量子化に使った画質パラメータと同一のものとなる。
S510では、分割ブロックフラグをtrueとして符号化する。S511では、対象ブロックサイズと画質制御最小ブロックサイズが等しいか否かを判定し、等しい場合にはS512〜S514を実行する。そうでない場合には、S512、S513を実行せずに、S514を実行する。
S512では、レート制御処理により、対象ブロックを符号化するための画質パラメータ算出を行う。このとき、内包される分割ブロック全てがレート制御の対象となり、内包される分割ブロックは同一の画質パラメータで符号化されることになる。
S513では、S508と同様の動作を行い、S512で決定した画質パラメータ符号化する。S514は、階層的に下の階層に内包される4つの分割ブロック(左上、右上、左下、右下)を対象に、対象ブロックの縦横1/2のサイズとなる分割ブロックを対象ブロックとして本フローを再帰的に実行する。すなわち、分割されることにより、対象ブロックサイズは徐々に小さくなる。この再帰処理は例えばもっとも多くてもブロックサイズが8×8になるまで行われるものとする。この再帰処理により、図16で示されるように、各分割ブロックの分割フラグ符号、QP_DELTA符号、係数データが、構造順にストリームとして出力される。
このようにレート制御処理と画質パラメータ符号化処理が一体化した構成においても、実施形態3で示した画質パラメータ符号化方法と同様により細かい単位で画質制御することが可能になる。
<実施形態6>
画質パラメータの復号方法について図6を参照して説明する。
図6は、画質パラメータの復号フローを説明したものである。このフローは、図14のS1405に適用される。S601は、復号する対象ブロックサイズを取得するステップである。S602は、画質制御最小ブロックサイズを取得するステップである。S603は、ブロック分割フラグを復号するステップである。S604は、復号する対象ブロックが分割されているかを判定するステップである。S605は、対象ブロックサイズが画質制御最小ブロックサイズよりも大きいか等しいかを判定するステップである。S606は、画質パラメ―タを復号するステップである。S607は、可変長復号・逆量子化・逆直交変換を実行するステップである。S608は、対象ブロックサイズが画質制御最小ブロックサイズと等しいかを判定するステップである。S609は、画質パラメ―タを復号するステップである。S610は、内包される分割されたブロックを対象ブロックとして本フローを再帰的に呼び出し、復号するステップである。
以降、このステップの流れについて具体的に説明する。S601では、復号の対象となる対象ブロックサイズを取得する。図14のフローから呼び出された直後は、処理対象ブロックは格子ブロックそのものである。本実施形態では格子ブロックのサイズ値は64とするがこれに限定されない。以降、再帰的な呼び出しにより、四分木構造の階層が小さくなるごとに、そのサイズ値は、32、16、8となる。ただし、階層数はこれに限定されない。
S602では、画質制御最小ブロックサイズを取得するステップである。本実施形態では、フレームヘッダー情報に組み込まれていた画質制御最小ブロックサイズを取得する。
S603では、ブロック分割状態を取得する。本実施形態では、図18のステップS1801で復号したブロック分割フラグの値が参照される。
S604では、ブロック分割フラグのtrue/falseを判定し、falseであればS605〜S606を実行し、trueであればS607〜S609のステップを実行する。
S605では、対象ブロックサイズが画質制御最小ブロックサイズよりも大きいまたは等しいか否かを判定する。対象ブロックサイズが画質制御最小ブロックサイズよりも大きいまたは等しい場合はS606、S607を実行する。そうでない場合には、S606を実行せずに、S607を実行する。
S606では、画質パラメ―タ符号を復号する。本実施形態では、QP_DELTA符号をGolomb復号し、QP_DELTA値を生成後、前の量子化で使用した画質パラメータにQP_DELTA値を加算することにで、画質パラメータを生成する。
S607では、可変長復号・逆量子化・逆直交変換を実行するステップである。逆量子化には、S606で復号した画質パラメータを用いる。ただし、対象ブロックサイズが画質制御最小ブロックサイズよりも小さい場合は前の対象ブロックの逆量子化で使われた画質パラメータを使用する。その後、対象ブロックの復号を終了する。
S608では、対象ブロックサイズが画質制御最小ブロックサイズよりも等しいか否かを判定する。等しい場合はS609を実行し、等しくない場合にはS609を実行せずに、ステップS610に進む。
S609では、S606と同様に、画質パラメ―タを復号する。S610では、階層的に下の階に内包される4つの分割ブロック(左上、右上、左下、右下)を対象に、対象ブロックの縦横1/2のサイズとなる分割ブロックを対象ブロックとして本フローを再帰的に実行する。すなわち、分割されることにより、対象ブロックサイズは徐々に小さくなる。この再帰処理により、図16で示されるよう入力されるに、分割フラグ符号、QP_DELTA符号、係数データを、領域四分木構造順に復号する。
このように領域四分木構造を走査する再帰処理と画質パラメータ復号処理が一体化された構成においても、実施形態1または実施形態5の符号化方法で符号化したストリームを復号することができる。
<実施形態7>
本実施形態において、分割ブロック符号化方法について説明する。本実施形態において、符号化方法を実現する構成については図9を用いる。
符号化に先立ち、本実施形態で生成されるストリーム特性を表すプロファイルとデコーダの処理性能ごとに許容しうるパラメータのセットであるレベルを設定する。レベルはその処理性能が主に画像サイズに起因することから主に画像サイズ毎に規定されている。但し、画像サイズに限定されない。例えば、処理性能は、処理を行う格子ブロック数に依存するため、その数に応じてレベルを設定しても構わない。本実施形態において、画質最小ブロックサイズはレベルごとにその最小値を設定する。図21は、プロファイル・レベルごとに制限された画質制御最小ブロックサイズを規定した表である。
本実施形態において、プロファイルとして、基本的なツールのみを用いるベースラインプロファイルとより多くのツールを用いるメインプロファイルを用いて説明する。但し、これらに限定されない。
図21(a)は、ベースラインプロファイルのレベルと画質制御最小ブロックサイズの制限を示した表である。図21(b)は、メインプロファイルのレベルと画質制御最小ブロックサイズの制限を示した表である。
本実施形態では、レベルは、1フレームに含まれる最大の格子ブロック(64×64)の数により分類されるものとする。具体的には、レベル0は640×480などを対象とする比較的小さい画像、レベル1が1920x1080を対象とする中程度の大きさの画像、レベル2は4096×2160を対象とする大きい画像を対象となる。なお、レベルの数、および、分け方は、この特許の本質を限定するものではない。
図21(a)で説明されるベースラインプロファイルの場合、レベル0では、最小画質制御ブロックサイズの最小値を8とし8〜64の範囲で、最小画質制御ブロックサイズを設定できることを表している。レベル1では、最小画質制御ブロックサイズの最小値を16とし16〜64の範囲で、最小画質制御ブロックサイズを設定できることを表している。レベル2では、最小画質制御ブロックサイズの最小値を32とし16〜64の範囲で、最小画質制御ブロックサイズを設定できることを表している。図21(b)で説明されるメインプロファイルの場合、レベルに関係なく画質制御最小ブロックサイズが、8〜64の範囲で制御されることを示す。
本プロファイル・レベルは符号化方法または装置のツールやメモリ容量などの条件に寄って決定されたり、復号方法または装置の条件を考慮して決定したりするが、特に方法は限定されない。不図示のユーザが設定しても構わない。決定されたプロファイル・レベルは符号化されて動画全体の情報を表すシーケンスヘッダ等に含めて通信インターフェース905から出力されたり、HDD903に記録されたりする。
続いて、各フレームの符号化処理について説明する。第1の実施形態と同様に、まず、図13のS1301にて、画質制御最小ブロックサイズのパラメータを設定する。図22は、画質制御最小ブロックサイズの算出方法について説明したフローチャートである。S2201では、プロファイルの種類を判定する。プロファイルの種類がベースラインプロファイルである場合には、S2204以降が実行され、プロファイルの種類がメインプロファイルである場合には、S2203以降が実行される。
まず、メインプロファイルの場合について述べる。S2203では、画質制御最小ブロックサイズを8に設定して処理を終了する。続いて、ベースラインプロファイルの場合について述べる。S2204では、レベル値を取得する。本実施形態では、このレベル値は、入力画像サイズに応じて、入力画像サイズのストリームがデコードできることを示す最小のレベルを算出するものとする。
S2205では、レベル値が1であるかを判定する。結果が真と判定された場合にはS2206を実行し、偽と判定された場合にはS2207を実行する。S2206では、画質制御最小ブロックサイズを8に設定する。S2207では、レベル値が2であるかを判定する。結果が真と判定された場合にはS2208を実行し、偽と判定された場合にはS2209を実行する。S2208では、呼び出し元に算出した画質制御最小ブロックサイズとして16を返す。S2209では、画質制御最小ブロックサイズを32に設定する。
以下、図13に戻り、実施形態1と同様に、S1302にて、画質制御最小ブロックサイズを符号化し、S1303にて符号データを含むフレームヘッダー情報を生成する。図23(a)に生成されたビットストリームを示す。シーケンスヘッダにプロファイル・レベルを符号化したデータがあり、画像の大きさを表す符号が続く。各フレームデータのフレームヘッダーには画質制御最小ブロックサイズ符号が含まれており、そのサイズは図22に規定される画質制御最小ブロックサイズの最小値より大きく設定されている。
全体の流れを図24のフローチャートに示す。S2401では、符号化対象の画像のサイズを入力する。S2402では、プロファイルを選択し、図21に従って、レベルを選択する。S2403では、選択されたレベルに従って、画質制御最小ブロックサイズの最小値を取得する。S2404では選択されたプロファイル・レベルを符号化する。S2405ではプロファイル・レベルの符号データを含めたシーケンスヘッダを生成する。S2406では、各フレーム単位の符号化を行う。この際に、各フレームでは設定できる画質制御最小ブロックのサイズは前述の画質制御最小ブロックサイズの最小値以上となる。S2407で全フレームの符号化を終了したか否かを判定し、終了していなければS2406に進み、次のフレームを符号化する。終了していれば、符号化処理を終了する。
このように、プロファイル・レベルを設け、画質制御最小ブロックサイズを限定することにより、画像の大きさに依存して画質制御最小ブロックサイズを決定することで、画質を落とすことなく、より小さいブロックでの演算を省略して画像を符号化することができる。これによって、機器に応じた最適な回路設計や消費電力を一定に抑えた構成を設計可能とすることができるようになる。例えば、ベースラインプロファイルはモバイル通信向けとし、バッテリー持続時間などの観点から符号化の演算負荷制限を厳しくすることができる。一方で、メインプロファイルはバッテリー不要の据え置き型の機器向けとし、演算負荷制限がゆるいものにすることができる。また、ソフトウェアにおいても画質制御最小ブロックサイズよりも小さいブロックでの量子化制御のための演算時間を省略でき高速化を図ることができる。
なお、本実施形態のようにプロファイル・レベルを設ける符号化方法を実施形態3、ないし5に適用しいてももちろん構わない。
さらに、図22に記載したレベル単位で決定した画質制御最小ブロックサイズの最小値を当該レベルで必ず使用することで、各フレームに含まれる画質制御最小ブロックサイズ符号を省略することができる。図23(b)にそのビットストリームを示す。図23(a)のビットストリームとは各フレームヘッダーに画質制御最小ブロックサイズ符号が含まれないことが異なる。当該のシーケンスの内部では必ずプロファイル・レベルで規定した画質制御最小ブロックサイズの最小値を画質制御最小ブロックサイズとして使用する。これにより、冗長な符号を削除し、符号化効率を向上させる効果がある。また、画質制御最小ブロックサイズ以下の量子化マトリクスを保持するメモリ容量やそれを更新する処理も省略することができる。
<実施形態8>
本実施形態では、実施形態7で生成されたビットストリームを復号する画像の復号方法について説明する。本実施形態において、復号方法を実現する構成については図9を用いる。
各フレームの復号に先立ち、シーケンスヘッダを入力し、復号する。図23(a)に従って、プロファイル・レベルに関する符号を復号する。また、画像の幅や高さといった符号も復号する。復号したプロファイルがベースラインプロファイルであった場合、図21(a)を参照する。さらにレベルに該当する画質制御最小ブロックサイズを選択して決定する。また、メインプロファイル出会った場合、図21(b)を参照し、画質制御最小ブロックサイズを8とする。
この時点でRAM902の上に必要なバッファ等のメモリを確保する。例えば、ベースライン、レベル2であれば、ブロックサイズ8×8での画質制御を行うことは無いので、8×8や4×4ブロック単位で保持しておく必要のある画質制御パラメータのメモリ領域を省略することができる。
各フレームの復号については実施形態2で説明した図14に従って行う。S1402でフレームヘッダーに含まれる画質制御最小ブロックサイズを復号する。S1405では、格子ブロックをその対象ブロックとして階層的に復号を行う。実施形態2で説明した図18のS1805はその階層に従って、再帰的に処理を行って、画質制御最小ブロックサイズのブロックまで画質制御パラメータの復号を行う。
全体の流れを図25のフローチャートに示す。S2501では、シーケンスヘッダを入力する。S2502では、プロファイル・レベルの符号データを復号し、プロファイル・レベルを取得する。S2503では、選択されたレベルに従って、画質制御最小ブロックサイズの最小値を取得する。S2404では、各フレーム単位の復号を行う。この際に、各フレームでは復号される画質制御最小ブロックのサイズは前述の画質制御最小ブロックサイズの最小値以上となることが補償される。S2405で全フレームの復号を終了したか否かを判定し、終了していなければS2404に進み、次のフレームを復号する。終了していれば、符号化処理を終了する。
このように、プロファイル・レベルを設け、画質制御最小ブロックサイズを限定することにより、画像の大きさに依存して画質制御最小ブロックサイズを決定されることで、画質を落とすことなく、より小さいブロックでの演算を省略して画像を復号することができる。画質制御最小ブロックサイズを決定することで、再帰的な処理の回数を減じることができ、格子ブロック単位の復号に係る時間の変動を抑えることができる。
これによって、機器に応じた最適な回路設計や消費電力を一定に抑えた構成を設計可能とすることができるようになる。例えば、ベースラインプロファイルはモバイル通信向けとし、バッテリー持続時間などの観点から符号化の演算負荷制限を厳しくすることができる。一方で、メインプロファイルはバッテリー不要の据え置き型の機器向けとし、演算負荷制限がゆるいものにすることができる。また、ソフトウェアにおいても画質制御最小ブロックサイズよりも小さいブロックでの量子化制御のための演算時間を省略でき高速化を図ることができる。
また、図23(b)に従って、プロファイル・レベルに関する符号を復号することももちろん可能である。上記で説明したようにシーケンスヘッダを入力し、復号する。前述の通り、プロファイル・レベルに従って、画質制御最小ブロックサイズを決定する。各フレームの復号についてはステップS1402を省略し、この画質制御最小ブロックサイズを使用する。
このようにプロファイル・レベルで画質制御最小ブロックサイズを一意に決定することで、各フレームヘッダーに画質制御最小ブロックサイズ符号の符号が無くても画像の復号を行うことができる。また、復号した画質制御最小ブロックサイズとプロファイル・レベルで決定した画質制御最小ブロックサイズを比較し、後者が前者より大きい場合、ビットストリームにエラーがあるとしてこれを検出してももちろん構わない。

Claims (12)

  1. 画像データを符号化して生成された符号化データを復号する画像復号装置であって、
    量子化パラメータに係る最小ブロックサイズより小さい複数のブロックを有するブロックグループの復号処理において共有される量子化パラメータに係る差分値と、前記ブロックが分割されるかを示す分割フラグとを復号する復号手段と
    量子化パラメータに係る差分値から量子化パラメータを導出する導出手段と
    を有し、
    前記復号手段は、
    前記複数のブロックの内の1番目のブロックがゼロではない係数を有していない場合、
    当該1番目のブロックの処理において、前記共有される量子化パラメータに係る差分値を復号せず、
    前記復号手段は、
    前記共有される量子化パラメータに係る差分値が前記1番目のブロックの処理において復号されず、かつ、前記複数のブロックの内の前記1番目のブロックより後に処理される所定のブロックが分割されないことを前記分割フラグが示し、かつ、当該所定のブロックがゼロではない係数を有する場合、
    当該所定のブロックの処理において、前記共有される量子化パラメータに係る差分値を復号する
    ことを特徴とする画像復号装置。
  2. 前記復号手段は、前記最小ブロックサイズ以上のブロックにおける復号処理で用いられる量子化パラメータに係る差分値を、当該最小ブロックサイズ以上のブロックの処理において復号する
    ことを特徴とする請求項1記載の画像復号装置。
  3. 前記復号手段は、前記共有される量子化パラメータを用いて前記ブロックグループにおける復号処理を実行する
    ことを特徴とする請求項1又は2に記載の画像復号装置。
  4. 前記量子化パラメータに係る差分値は、対象の量子化パラメータと、当該対象の量子化パラメータの前の量子化パラメータとの差分値であり、
    前記導出手段は、導出する対象の量子化パラメータを、当該対象の量子化パラメータの前の量子化パラメータと、当該対象の量子化パラメータに係る差分値とを加算することで導出する
    ことを特徴とする請求項1〜3のいずれか1項に記載の画像復号装置。
  5. 画像データを符号化して符号化データを生成する画像符号化装置であって、
    量子化パラメータに係る最小ブロックサイズより小さい複数のブロックを有するブロックグループの符号化処理において共有される量子化パラメータに係る差分値と、前記ブロックが分割されるかを示す分割フラグとを符号化する符号化手段
    を有し、
    前記符号化手段は、
    前記複数のブロックの内の1番目のブロックがゼロではない係数を有していない場合、
    当該1番目のブロックの処理において、前記共有される量子化パラメータに係る差分値を符号化せず、
    前記符号化手段は、
    前記共有される量子化パラメータに係る差分値が前記1番目のブロックの処理において符号化されず、かつ、前記複数のブロックの内の前記1番目のブロックより後に処理される所定のブロックが分割されず、かつ、当該所定のブロックがゼロではない係数を有する場合、
    当該所定のブロックの処理において、前記共有される量子化パラメータに係る差分値を符号化する
    ことを特徴とする画像符号化装置。
  6. 前記符号化手段は、前記最小ブロックサイズ以上のブロックにおける符号化処理で用いられる量子化パラメータに係る差分値を、当該最小ブロックサイズ以上のブロックの処理において符号化する
    ことを特徴とする請求項5記載の画像符号化装置。
  7. 前記符号化手段は、前記共有される量子化パラメータを用いて前記ブロックグループにおける符号化処理を実行する
    ことを特徴とする請求項5又は6に記載の画像符号化装置。
  8. 前記量子化パラメータに係る差分値は、対象の量子化パラメータと、当該対象の量子化パラメータの前の量子化パラメータとの差分値である
    ことを特徴とする請求項5〜7のいずれか1項に記載の画像符号化装置。
  9. 画像データを符号化して生成された符号化データを復号する画像復号方法であって、
    量子化パラメータに係る最小ブロックサイズより小さい複数のブロックを有するブロックグループの復号処理において共有される量子化パラメータに係る差分値と、前記ブロックが分割されるかを示す分割フラグとを復号する復号工程と
    量子化パラメータに係る差分値から量子化パラメータを導出する導出工程と
    を有し、
    前記復号工程において、
    前記複数のブロックの内の1番目のブロックがゼロではない係数を有していない場合、
    当該1番目のブロックの処理において、前記共有される量子化パラメータに係る差分値を復号せず、
    前記復号工程において、
    前記共有される量子化パラメータに係る差分値が前記1番目のブロックの処理において復号されず、かつ、前記複数のブロックの内の前記1番目のブロックより後に処理される所定のブロックが分割されないことを前記分割フラグが示し、かつ、当該所定のブロックがゼロではない係数を有する場合、
    当該所定のブロックの処理において、前記共有される量子化パラメータに係る差分値を復号する
    ことを特徴とする画像復号方法。
  10. 画像データを符号化して符号化データを生成する画像符号化方法であって、
    量子化パラメータに係る最小ブロックサイズより小さい複数のブロックを有するブロックグループの符号化処理において共有される量子化パラメータに係る差分値と、前記ブロックが分割されるかを示す分割フラグとを符号化する符号化工程
    を有し、
    前記符号化工程において、
    前記複数のブロックの内の1番目のブロックがゼロではない係数を有していない場合、
    当該1番目のブロックの処理において、前記共有される量子化パラメータに係る差分値を符号化せず、
    前記符号化工程において、
    前記共有される量子化パラメータに係る差分値が前記1番目のブロックの処理において符号化されず、かつ、前記複数のブロックの内の前記1番目のブロックより後に処理される所定のブロックが分割されず、かつ、当該所定のブロックがゼロではない係数を有する場合、
    当該所定のブロックの処理において、前記共有される量子化パラメータに係る差分値を符号化する
    ことを特徴とする画像符号化方法。
  11. 請求項1〜4のいずれか1項に記載の画像復号装置の各手段としてコンピュータを機能させることを特徴とするプログラム。
  12. 請求項5〜8のいずれか1項に記載の画像符号化装置の各手段としてコンピュータを機能させることを特徴とするプログラム。
JP2019073168A 2011-01-13 2019-04-05 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム Active JP6801037B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2011004648 2011-01-13
JP2011004648 2011-01-13

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018090992A Division JP6513261B2 (ja) 2011-01-13 2018-05-09 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2019146226A true JP2019146226A (ja) 2019-08-29
JP6801037B2 JP6801037B2 (ja) 2020-12-16

Family

ID=46507086

Family Applications (6)

Application Number Title Priority Date Filing Date
JP2012004254A Active JP5963446B2 (ja) 2011-01-13 2012-01-12 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2016130605A Active JP6338621B2 (ja) 2011-01-13 2016-06-30 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2018090992A Active JP6513261B2 (ja) 2011-01-13 2018-05-09 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2019073169A Active JP6801038B2 (ja) 2011-01-13 2019-04-05 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2019073170A Active JP6686206B2 (ja) 2011-01-13 2019-04-05 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2019073168A Active JP6801037B2 (ja) 2011-01-13 2019-04-05 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Family Applications Before (5)

Application Number Title Priority Date Filing Date
JP2012004254A Active JP5963446B2 (ja) 2011-01-13 2012-01-12 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2016130605A Active JP6338621B2 (ja) 2011-01-13 2016-06-30 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2018090992A Active JP6513261B2 (ja) 2011-01-13 2018-05-09 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2019073169A Active JP6801038B2 (ja) 2011-01-13 2019-04-05 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2019073170A Active JP6686206B2 (ja) 2011-01-13 2019-04-05 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Country Status (11)

Country Link
US (6) US9445094B2 (ja)
EP (5) EP3905680B1 (ja)
JP (6) JP5963446B2 (ja)
KR (5) KR101888515B1 (ja)
CN (6) CN106454362B (ja)
BR (6) BR122019025405B8 (ja)
ES (5) ES2883132T3 (ja)
HU (5) HUE060051T2 (ja)
PL (5) PL3905680T3 (ja)
RU (5) RU2551801C2 (ja)
WO (1) WO2012096181A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10750177B2 (en) 2011-01-13 2020-08-18 Canon Kabushiki Kaisha Image coding apparatus, image coding method, and program, and image decoding apparatus, image decoding method, and program

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9549190B2 (en) * 2009-10-01 2017-01-17 Sk Telecom Co., Ltd. Method and apparatus for encoding/decoding image using variable-size macroblocks
JP6130128B2 (ja) * 2012-11-30 2017-05-17 任天堂株式会社 圧縮データのデータ構造、記録媒体、データ圧縮装置、データ圧縮システム、データ圧縮プログラム、およびデータ圧縮方法
US20150145535A1 (en) * 2013-11-26 2015-05-28 Semtech Corporation Capacitive sensing interface for proximity detection
US10298927B2 (en) * 2014-03-28 2019-05-21 Sony Corporation Image decoding device and method
US10735728B2 (en) 2015-10-12 2020-08-04 Lg Electronics Inc. Method for processing image and apparatus therefor
JPWO2018092868A1 (ja) 2016-11-21 2019-10-17 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 符号化装置、復号装置、符号化方法及び復号方法
WO2018092869A1 (ja) 2016-11-21 2018-05-24 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
EP3383043A1 (en) 2017-03-27 2018-10-03 Thomson Licensing Methods and apparatus for picture encoding and decoding
WO2019076138A1 (en) * 2017-10-16 2019-04-25 Huawei Technologies Co., Ltd. METHOD AND APPARATUS FOR ENCODING
EP3737098A4 (en) 2018-01-02 2021-06-09 Samsung Electronics Co., Ltd. CODING PROCESS AND ASSOCIATED APPARATUS, AND DECODING PROCESS AND ASSOCIATED APPARATUS
WO2019164660A1 (en) 2018-02-23 2019-08-29 Futurewei Technologies, Inc. Position dependent spatial varying transform for video coding
CA3157007A1 (en) * 2018-05-22 2019-11-28 Panasonic Intellectual Property Corporation Of America Encoder, decoder, encoding method, decoding method, and picture compression program
PT3782361T (pt) 2018-05-31 2023-11-17 Huawei Tech Co Ltd Transformada que varia espacialmente com um tipo de transformada adaptativa
JP7278719B2 (ja) 2018-06-27 2023-05-22 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
US20200068197A1 (en) * 2018-08-27 2020-02-27 Ati Technologies Ulc Benefit-based bitrate distribution for video encoding
CN110881129B (zh) * 2018-09-05 2024-01-05 华为技术有限公司 视频解码方法及视频解码器
US11399195B2 (en) * 2019-10-30 2022-07-26 Tencent America LLC Range of minimum coding block size in video coding
CN114697656B (zh) * 2020-12-31 2024-02-13 浙江宇视科技有限公司 一种编码方法、装置、电子设备及介质
CN113658283B (zh) * 2021-08-18 2023-11-28 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及存储介质

Family Cites Families (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0535963B1 (en) * 1991-10-02 1998-06-10 Matsushita Electric Industrial Co., Ltd. Orthogonal transformation encoder
US5754699A (en) * 1994-11-24 1998-05-19 Victor Company Of Japan, Ltd. Method of reducing mosquito noise generated during decoding process of image data and device for decoding image data using the same
US6002802A (en) * 1995-10-27 1999-12-14 Kabushiki Kaisha Toshiba Video encoding and decoding apparatus
US6366614B1 (en) 1996-10-11 2002-04-02 Qualcomm Inc. Adaptive rate control for digital video compression
US6124811A (en) * 1998-07-02 2000-09-26 Intel Corporation Real time algorithms and architectures for coding images compressed by DWT-based techniques
US6570926B1 (en) * 1999-02-25 2003-05-27 Telcordia Technologies, Inc. Active techniques for video transmission and playback
US6477280B1 (en) * 1999-03-26 2002-11-05 Microsoft Corporation Lossless adaptive encoding of finite alphabet data
US6600836B1 (en) * 2000-01-28 2003-07-29 Qualcomm, Incorporated Quality based image compression
KR100973216B1 (ko) 2002-04-23 2010-07-30 노키아 코포레이션 비디오 부호화 시스템에서 양자화 변수들을 표시하는 방법 및 장치
US6795584B2 (en) * 2002-10-03 2004-09-21 Nokia Corporation Context-based adaptive variable length coding for adaptive block transforms
EP1453004A2 (en) * 2003-02-28 2004-09-01 NTT DoCoMo, Inc. Image encoding apparatus and method
JP3959039B2 (ja) * 2003-02-28 2007-08-15 株式会社エヌ・ティ・ティ・ドコモ 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、及び画像復号プログラム
US6900748B2 (en) * 2003-07-17 2005-05-31 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Method and apparatus for binarization and arithmetic coding of a data value
US7724827B2 (en) * 2003-09-07 2010-05-25 Microsoft Corporation Multi-layer run level encoding and decoding
JP4127818B2 (ja) 2003-12-24 2008-07-30 株式会社東芝 動画像符号化方法及びその装置
US20050259730A1 (en) * 2004-05-18 2005-11-24 Sharp Laboratories Of America, Inc. Video coding with residual color conversion using reversible YCoCg
JP4247680B2 (ja) * 2004-07-07 2009-04-02 ソニー株式会社 符号化装置、符号化方法、符号化方法のプログラム及び符号化方法のプログラムを記録した記録媒体
JP2006157481A (ja) * 2004-11-30 2006-06-15 Canon Inc 画像符号化装置及びその方法
JP4737991B2 (ja) * 2005-01-04 2011-08-03 株式会社東芝 再生装置
US8019000B2 (en) * 2005-02-24 2011-09-13 Sanyo Electric Co., Ltd. Motion vector detecting device
JP4146444B2 (ja) * 2005-03-16 2008-09-10 株式会社東芝 動画像符号化の方法及び装置
KR101246915B1 (ko) * 2005-04-18 2013-03-25 삼성전자주식회사 동영상 부호화 또는 복호화 방법 및 장치
EP1753242A2 (en) * 2005-07-18 2007-02-14 Matsushita Electric Industrial Co., Ltd. Switchable mode and prediction information coding
JP2007116351A (ja) 2005-10-19 2007-05-10 Ntt Docomo Inc 画像予測符号化装置、画像予測復号装置、画像予測符号化方法、画像予測復号方法、画像予測符号化プログラム、及び画像予測復号プログラム
KR101200865B1 (ko) * 2006-03-23 2012-11-13 삼성전자주식회사 영상의 부호화 방법 및 장치, 복호화 방법 및 장치
KR20080045516A (ko) * 2006-11-20 2008-05-23 삼성전자주식회사 Rgb 영상의 부호화 및 복호화 방법과 그 장치
EP3107292B1 (en) 2007-03-20 2018-08-15 Fujitsu Limited Video encoding method and apparatus, and video decoding apparatus
JP4650461B2 (ja) * 2007-07-13 2011-03-16 ソニー株式会社 符号化装置、符号化方法、プログラム、及び記録媒体
US8345763B2 (en) * 2007-11-27 2013-01-01 Mediatek Inc. Motion compensation method and integrated circuit utilizing the same
KR101213704B1 (ko) * 2007-12-05 2012-12-18 삼성전자주식회사 가변 컬러 포맷 기반 동영상 부호화 방법 및 장치, 그복호화 방법 및 장치
JP5359302B2 (ja) * 2008-03-18 2013-12-04 ソニー株式会社 情報処理装置および方法、並びにプログラム
JP4506875B2 (ja) * 2008-05-19 2010-07-21 ソニー株式会社 画像処理装置および画像処理方法
WO2009157577A1 (ja) 2008-06-27 2009-12-30 ソニー株式会社 画像処理装置及び画像処理方法
JP5035910B2 (ja) * 2008-06-27 2012-09-26 ソニー株式会社 画像処理装置および画像処理方法、並びにプログラム
US9467699B2 (en) * 2008-12-03 2016-10-11 Hfi Innovation Inc. Method for performing parallel coding with ordered entropy slices, and associated apparatus
US9635368B2 (en) * 2009-06-07 2017-04-25 Lg Electronics Inc. Method and apparatus for decoding a video signal
EP2273796A3 (en) 2009-06-09 2011-12-21 Thomson Licensing Method and device for coding
JP4774451B2 (ja) 2009-06-25 2011-09-14 株式会社大潟村あきたこまち生産者協会 米麺の製造方法と該方法による米麺と該米麺による乾麺
US20110274162A1 (en) * 2010-05-04 2011-11-10 Minhua Zhou Coding Unit Quantization Parameters in Video Coding
EP4290860A3 (en) * 2010-06-04 2024-02-14 Sony Group Corporation Image processing apparatus and method
US20110317757A1 (en) * 2010-06-25 2011-12-29 Qualcomm Incorporated Intra prediction mode signaling for finer spatial prediction directions
US8848779B2 (en) * 2010-07-15 2014-09-30 Sharp Laboratories Of America, Inc. Method of parallel video coding based on block size
US20120044992A1 (en) * 2010-08-17 2012-02-23 Qualcomm Incorporated Low complexity adaptive filter
MX2013001774A (es) * 2010-09-30 2013-03-18 Panasonic Corp Metodo de decodificacion de imagen, metodo de codificacion de imagen, aparato de decodificacion de imagen, aparato codificacion de imagen, programa, y circuito integrado.
US20120114034A1 (en) * 2010-11-08 2012-05-10 Mediatek Inc. Method and Apparatus of Delta Quantization Parameter Processing for High Efficiency Video Coding
CN105847830B (zh) * 2010-11-23 2019-07-12 Lg电子株式会社 由编码装置和解码装置执行的间预测方法
US9288496B2 (en) * 2010-12-03 2016-03-15 Qualcomm Incorporated Video coding using function-based scan order for transform coefficients
BR122019025405B8 (pt) 2011-01-13 2023-05-02 Canon Kk Aparelho de codificação de imagem, método de codificação de imagem, aparelho de decodificação de imagem, método de decodificação de imagem e meio de armazenamento
CN102685478B (zh) * 2011-03-11 2015-04-29 华为技术有限公司 编码方法以及装置、解码方法以及装置
US9609336B2 (en) * 2013-04-16 2017-03-28 Fastvdo Llc Adaptive coding, transmission and efficient display of multimedia (acted)
US20140376611A1 (en) * 2013-06-21 2014-12-25 Qualcomm Incorporated Adaptive color transforms for video coding
US10291827B2 (en) * 2013-11-22 2019-05-14 Futurewei Technologies, Inc. Advanced screen content coding solution
JP6368795B2 (ja) * 2014-03-14 2018-08-01 ヴィド スケール インコーポレイテッド Rgbビデオコーディングエンハンスメントのためのシステムおよび方法
US10057578B2 (en) * 2014-10-07 2018-08-21 Qualcomm Incorporated QP derivation and offset for adaptive color transform in video coding
US10390020B2 (en) * 2015-06-08 2019-08-20 Industrial Technology Research Institute Video encoding methods and systems using adaptive color transform

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10750177B2 (en) 2011-01-13 2020-08-18 Canon Kabushiki Kaisha Image coding apparatus, image coding method, and program, and image decoding apparatus, image decoding method, and program

Also Published As

Publication number Publication date
JP2016192794A (ja) 2016-11-10
JP6338621B2 (ja) 2018-06-06
JP6686206B2 (ja) 2020-04-22
US20190020874A1 (en) 2019-01-17
RU2015113380A (ru) 2015-09-10
JP6801037B2 (ja) 2020-12-16
KR101969359B1 (ko) 2019-04-16
ES2926203T3 (es) 2022-10-24
PL3905679T3 (pl) 2022-10-24
BR112013017952B1 (pt) 2022-08-02
JP2019146228A (ja) 2019-08-29
KR20150104221A (ko) 2015-09-14
BR122019025405B1 (pt) 2022-10-11
EP3905680A1 (en) 2021-11-03
JP2012161074A (ja) 2012-08-23
EP3668094B1 (en) 2022-11-23
KR20180091966A (ko) 2018-08-16
US10750177B2 (en) 2020-08-18
HUE055548T2 (hu) 2021-12-28
BR122019025404B8 (pt) 2023-05-02
US20190364280A1 (en) 2019-11-28
EP2664147B1 (en) 2020-03-11
BR122019025407B1 (pt) 2022-10-11
US20160353105A1 (en) 2016-12-01
BR122019025407B8 (pt) 2023-05-02
US9445094B2 (en) 2016-09-13
ES2784761T3 (es) 2020-09-30
CN106412591B (zh) 2019-09-06
US20140119455A1 (en) 2014-05-01
US10382757B2 (en) 2019-08-13
BR122019025404B1 (pt) 2022-10-11
JP6513261B2 (ja) 2019-05-15
HUE048896T2 (hu) 2020-08-28
RU2613736C2 (ru) 2017-03-21
EP3668095B1 (en) 2021-07-07
CN106412591A (zh) 2017-02-15
JP2018152884A (ja) 2018-09-27
HUE060786T2 (hu) 2023-04-28
RU2668727C2 (ru) 2018-10-02
RU2017107973A3 (ja) 2018-09-13
US10110899B2 (en) 2018-10-23
BR122019025404A2 (pt) 2020-02-18
PL3668094T3 (pl) 2023-02-13
US20180152705A1 (en) 2018-05-31
BR122019025406A2 (pt) 2020-02-18
EP3905680B1 (en) 2022-07-20
RU2701054C1 (ru) 2019-09-24
RU2017107973A (ru) 2018-09-13
BR122022013139B1 (pt) 2023-04-04
JP2019146227A (ja) 2019-08-29
CN106488242B (zh) 2020-02-28
RU2690218C1 (ru) 2019-05-31
KR101888515B1 (ko) 2018-08-14
BR122019025406B1 (pt) 2023-03-21
ES2936531T3 (es) 2023-03-17
PL3668095T3 (pl) 2021-12-13
RU2013137765A (ru) 2015-02-20
CN106454362A (zh) 2017-02-22
KR101969362B1 (ko) 2019-04-16
KR20180014846A (ko) 2018-02-09
BR122019025407A2 (pt) 2020-02-18
PL3905680T3 (pl) 2022-10-31
CN105959693A (zh) 2016-09-21
ES2883132T3 (es) 2021-12-07
KR101598822B1 (ko) 2016-03-14
RU2551801C2 (ru) 2015-05-27
KR20180093099A (ko) 2018-08-20
EP3668095A1 (en) 2020-06-17
EP3668094A1 (en) 2020-06-17
HUE060051T2 (hu) 2023-01-28
ES2924028T3 (es) 2022-10-04
US20190020873A1 (en) 2019-01-17
BR122019025405A2 (pt) 2020-02-18
CN106454362B (zh) 2019-06-28
EP3905679B1 (en) 2022-07-27
JP6801038B2 (ja) 2020-12-16
CN103380620A (zh) 2013-10-30
WO2012096181A1 (en) 2012-07-19
CN103380620B (zh) 2016-12-14
CN106454361A (zh) 2017-02-22
BR112013017952A2 (pt) 2019-12-10
KR20140022797A (ko) 2014-02-25
US9918089B2 (en) 2018-03-13
BR122019025405B8 (pt) 2023-05-02
EP2664147A1 (en) 2013-11-20
EP3905679A1 (en) 2021-11-03
US10397575B2 (en) 2019-08-27
KR101825110B1 (ko) 2018-03-14
CN106454361B (zh) 2019-06-28
CN106488242A (zh) 2017-03-08
JP5963446B2 (ja) 2016-08-03
PL2664147T3 (pl) 2020-08-24
EP2664147A4 (en) 2015-11-18
HUE059647T2 (hu) 2022-12-28
CN105959693B (zh) 2019-03-29

Similar Documents

Publication Publication Date Title
JP6801037B2 (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190405

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200304

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A132

Effective date: 20200324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200521

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201125

R151 Written notification of patent or utility model registration

Ref document number: 6801037

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151