JP6212345B2 - 動画像符号化装置およびその動作方法 - Google Patents

動画像符号化装置およびその動作方法 Download PDF

Info

Publication number
JP6212345B2
JP6212345B2 JP2013207144A JP2013207144A JP6212345B2 JP 6212345 B2 JP6212345 B2 JP 6212345B2 JP 2013207144 A JP2013207144 A JP 2013207144A JP 2013207144 A JP2013207144 A JP 2013207144A JP 6212345 B2 JP6212345 B2 JP 6212345B2
Authority
JP
Japan
Prior art keywords
unit
encoding
code amount
quantization
selector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013207144A
Other languages
English (en)
Other versions
JP2015073177A (ja
Inventor
誠二 望月
誠二 望月
哲也 柴山
哲也 柴山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2013207144A priority Critical patent/JP6212345B2/ja
Priority to CN201410513519.XA priority patent/CN104519354B/zh
Priority to EP14187252.3A priority patent/EP2858365B1/en
Priority to KR20140132559A priority patent/KR20150039582A/ko
Priority to US14/505,369 priority patent/US9961346B2/en
Publication of JP2015073177A publication Critical patent/JP2015073177A/ja
Application granted granted Critical
Publication of JP6212345B2 publication Critical patent/JP6212345B2/ja
Priority to US15/933,844 priority patent/US20180213230A1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • H04N19/126Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/149Data rate or code amount at the encoder output by estimating the code amount by means of a model, e.g. mathematical model or statistical model
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding

Description

本発明は、動画像符号化装置およびその動作方法に関し、特に高精度のビットレート制御を実現するのに有効な技術に関する。
国際規格ISO/IEC 13818−2で標準化されたMPEG−2の規格による動画像(Moving Picture)の一般的な圧縮方式は、ビデオストリームから冗長な情報を削除することによって、ビデオ記憶容量と必要な帯域幅とを削減すると言う原理に基づくものである。尚、MPEGは、Moving Picture Experts Groupの略である。
MPEG−2の規格は、ビットストリームのシンタックス(圧縮符号化データ列の規則または符号化データのビットストリームの構成方法)およびデコードプロセスのみを規定しているので、衛星放送・サービス、ケーブルテレビジョン、インターラクティブテレビジョン、インターネット等の種々の状況で十分利用可能なようにフレキシブルなものである。
MPEG−2のエンコードプロセスでは、最初にデジタルビデオの各画素のカラーと輝度との成分を規定するために、ビデオ信号はサンプリングル処理の後、量子化処理が施される。カラーと輝度の成分を示す値は、マクロブロックとして知られている構造に蓄積される。マクロブロックに蓄積されたカラーと輝度との成分を示す値は、離散コサイン変換(DCT:Discrete Cosine Transform)を使用して周波数値に変換される。DCTによって得られる周波数変換係数は、ピクチャーの輝度とカラーとで異なった周波数を持つ。量子化されたDCT変換係数は、ビデオストリームを更に圧縮する可変長コーディング(VLC:Variable Length Coding)によってエンコードされる。
MPEG−2のエンコードプロセスでは、動き圧縮技術による付加圧縮が規定されている。MPEG−2の規格では、Iフレーム、Pフレーム、Bフレームの3種類のピクチャーもしくはフレームが存在している。Iフレームは、ビデオストリームにおいて他のいかなるピクチャーまたはフレームを参照することなく再生される、イントラ符号化されたフレームである。PフレームとBフレームとは、他のピクチャーまたはフレームの参照によって再生される、インター符号化されたフレームである。例えば、PフレームとBフレームとは、参照フレームに関して動き推定を示す動きベクトルを含む。動きベクトルの使用によって、MPEGエンコーダは、特定のビデオストリームに必要な帯域幅の低減が可能となる。尚、Iフレームは独立(intra-coded)フレーム、Pフレームは片方向予測(predictive-coded)フレーム、Bフレームは両方向予測(bi-directionally predictive-coded)フレームと呼ばれる。
従って、MPEG−2の動画像符号化装置(Encoder)は、符号化メモリと動きベクトル検出部と動き補償部と減算部とDCT変換部と量子化部と逆量子化部と逆DCT変換部とフレームメモリと可変長符号化部と加算部とによって構成される。動画像入力信号は、Bフレームの符号化や動きベクトルの検出のために符号化メモリに格納された後に、符号化の順序でフレームメモリから読み出される。減算部では、読み出された動画像入力信号から動き補償部で生成される動き補償予測信号が減算され、減算結果である予測残差に関して、DCT変換部と量子化部でそれぞれDCT変換処理と量子化処理が実行される。量子化されたDCT変換係数は、可変長符号化部で可変長符号化処理されるとともに、逆量子化部と逆DCT変換部とで局部復号処理が実行された後に、この局部復号処理結果は、フレームメモリと動き補償部とを介して加算部に供給される。
一方、MPEG−2の動画像復号装置(Decoder)は、バッファメモリと可変長復号部と逆量子化部と逆DCT変換部と動き補償部と加算部とフレームメモリによって構成される。MPEG−2の符号化ビットストリームは、バッファメモリに蓄積された後、可変長復号部と逆量子化部と逆DCT変換部で可変長復号処理と逆量子化処理と逆DCT変換処理がそれぞれ実行されることにより、予測残差が生成される。予測残差と可変長復号処理で生成される動きベクトルに従ってフレームメモリから読み出される参照画像とが加算部で加算されることによって、加算部の出力から再生画像信号が生成される。この再生画像信号はフレームメモリに格納され、他のフレームの予測のための参照画像として使用される。
下記非特許文献1には、デコーダのバッファメモリに供給するビットストリームをエンコーダが生成する際に、デコーダのバッファメモリのオーバーフローおよびアンダーフローを回避するための符号量(ビットレート)を達成するために、エンコーダの量子化部の量子化ステップサイズを調整することが記載されている。この調整のために、通常は下記非特許文献2に記載のようにエンコーダの可変長符号化部の出力を蓄積するとデコーダのバッファメモリの入力との間に仮想的なビデオバッファ(VB)が想定され、エンコーダの量子化部の量子化ステップサイズを調整する量子化制御部がこの仮想ビデオバッファ(VB)によってフィードバック制御される。
すなわち、下記非特許文献2には、目標符号量に対して実符号量である仮想バッファの充足度によってエンコーダの量子化部の量子化スケールをフィードバック制御するTest Model 5と呼ばれるMPEG符号化制御の量子化部における量子化スケールのビットレート制御が記載されている。
下記特許文献1の図1には、国際規格ISO/IEC 14496−10により標準化されたMPEG−4 AVC(H.264)の規格に対応するCABAC(Context-Adaptive Binary Arithmetic Coding:コンテキスト適応型2値算術符号化方式)のエントロピー符号化(可変長符号化)を実行する動画像符号化装置が記載されている。この動画像符号化装置は、予測符号化部と算術符号化部とバッファとによって構成されている。予測符号化部が予測値を用いて動画像入力信号を符号化処理した後、算術符号化部は、各シンタックス要素をCABACにより符号化処理した符号化データをバッファに蓄積する。予測符号化部は、減算部と直交変換部と量子化部と逆量子化部と逆直交変換部とフレームメモリと動き補償部とによって構成され、算術符号化部は、2値化部と2値化バッファとコンテキスト計算部と2値算術符号化部とによって構成される。予測符号化部の量子化部は、量子化部の量子化スケールを制御するレート制御部と接続され、このレート制御部には、バッファのバッファ占有量の情報と2値化バッファのバッファ占有量の情報とが供給される。算術符号化部の2値化部は、多値のシンタックス要素を2値化して、可変長の2値化シンボル系列を生成する。2値化部は、2値化シンボル系列の2値データ量を、マクロブロック単位で累積加算する。符号量予測部は、算術符号化部の2値化部に接続され、2値化部の累積加算結果が供給される。符号量予測部は、所定の予測関数を使用して2値データ量の累積加算からバッファの符号化データのビット量の予測値を計算して、予測符号化部の量子化部に供給して、量子化部の量子化スケールが制御される。リアルタイムで動画像入力信号を符号化処理する従来の動画像符号化装置においては、算術符号化部の処理には多大な演算量を要すために、算術符号化部の構成が複雑となり、回路規模と消費電力が増大してしまう。下記特許文献1は、予測関数の使用により構成の簡素化と、回路規模と消費電力の低減が可能であると、記載している。
下記特許文献2の図1には、コンテキスト適応型2値算術符号化方式(CABAC)による可変長符号化を実行する動画像符号化装置で、応答性の高いレート制御を実現するために、動画像に関するデータの算術符号化前のデータを符号量推定部に供給して、符号量推定部から生成される推定符号量をレート制御判定部に供給して、量子化部の量子化ステップを制御することが記載されている。例えば、動画像に関するデータの算術符号化前のデータは、予測処理部からの残差信号と、DCT変換部からのDCT係数と、量子化部からの量子化係数と、CABAC処理部からの2値データのいずれかでよいと記載されている。
下記特許文献3には、コンテキスト適応型2値算術符号化方式(CABAC)において、符号化量の取得に遅延が生じてレート制御が破綻してしまうことを防ぐため、推定符号量によるレート制御において、実際の符号量と推定符号量との間に生じる誤差を、最小限に軽減する技術が記載されている。そのために、下記特許文献3の図10に記載された動画像符号化装置は、動画像圧縮部とCABAC処理部と符号量推定部と推定符号量置き換え部とレート制御判定部とによって構成されている。入力映像信号は、量子化部を含む動画像圧縮部に供給され、動画像圧縮部からの出力信号は、2値化部と算術符号化部とを含むCABAC処理部に供給される。CABAC処理部の2値化部の出力信号は、符号量推定部の入力端子に供給され、符号量推定部からの推定符号量は、推定符号量置き換え部の累積推定符号量計算部で累積加算される。CABAC処理部の算術符号化部によって可変長符号化された符号化列のビット量である実符号量は、推定符号量置き換え部の累積符号量計算部で累積加算される。推定符号量置き換え部で、累積推定符号量計算部の累積推定符号量は、累積符号量計算部の累積実符号量に置き換えられる。推定符号量置き換え部からの出力信号がレート制御判定部に供給され、レート制御判定部からの出力信号によって動画像圧縮部の量子化部の量子化ステップが制御される。
特開2009−055384号 公報 特開2007−158430号 公報 特開2009−038746号 公報
T.Sikora, Digital Consummer Electronics Handbook, chapter MPEG−1 and MPEG−2 Digital Coding Standards, McGraw−Hill, 1997. 半谷 精一郎 杉山 賢二 共著 「JPEG・MPEG完全理解」,PP.144−153 株式会社 コロナ社 2006年7月30日 初版第2刷発行.
本発明者等は本発明に先立って、規格H.264/MPEG−4 AVCの後続規格としての新規格H.265(ISO/IEC23008−2)に準拠して、動画像入力信号の符号化によって符号化ビットストリームを生成することが可能な動画像符号化装置(Video Encoder)の開発に従事したものである。更に、この動画像符号化装置は、新規格H.265だけではなく、現行規格H.264/MPEG−4 AVCに準拠して動画像入力信号を符号化することも要求されたものである。
この新規格は、非公式にはHEVC(High Efficiency Video Coding)と呼ばれ、ブロックサイズの適正化等によって圧縮効率が優れたものであり、MPEG−2の規格に比較して約4倍、規格H.264/AVCに比較して約2倍の圧縮性能を有するとされている。デジタルHDTV(High Definition Television)放送受信機や、HDTV信号を撮影可能なデジタルビデオカメラ等における画像サイズの大画面化に伴い、動画像符号化装置や動画像復号装置には更に高い処理性能が求められており、HEVCの規格はこれらの要求を満足するものと期待されている。
一方、近年、高精細HD(High Definition)の画素サイズである1920画素×1080画素の大きさの約4倍の4096画素×2160画素または3840画素×2160画素の大きさの表示装置を有する4KTVが、注目されている。例えば、日本においては2014年7月から、4Kテレビ放送を開始するとの総務省の方針が発表されている。このように、4KTVの表示装置の表示画面に相当する1枚のフレーム(ピクチャー)の動画像信号の符号化または復号を実行する動画像符号化装置または動画像復号装置にも、高い処理性能が要求される。
一方、HEVCの規格も、規格H.264/MPEG−4 AVCを踏襲して可変長符号化(エントロピー符号化)にコンテキスト適応型2値算術符号化方式(CABAC)の手法を採用するものである。しかし、このコンテキスト適応型2値算術符号化方式(CABAC)の採用によって、CABAC処理で発生する符号化量の取得に遅延が生じるので、上記特許文献3に記載のように、推定符号量によるレート制御を採用しても、実際の符号量と推定符号量との誤差が発生するものである。
一方、本発明に先立って、本発明者等が動画像符号化装置(Video Encoder)の可変長符号化(エントロピー符号化)にコンテキスト適応型2値算術符号化方式(CABAC)の手法を採用することを検討したところ、量子化部の処理性能と可変長符号化処理部としてのCABAC処理部の処理性能との間で、処理速度が異なるという問題に遭遇した。
すなわち、量子化部の処理性能は、量子化速度で規定され、1サイクル当たり、数画素分または数マクロブロック分の周波数変換係数を量子化できるかと言う性能である。
一方、コンテキスト適応型2値算術符号化方式(CABAC)による符号化処理部は、2値化部と2値算術符号化部とコンテキスト計算部を含む。2値化部は多値入力信号から2値信号を生成して、2値信号は2値算術符号化部によって符号化ビット列に符号化される。コンテキスト計算部は、符号化対象シンボルである2値信号の発生確率モデルを、近傍シンボルの状況に応じて動的に計算・更新する。2値算術符号化部は、コンテキスト計算部によって計算・更新された発生確率モデルに従って、2値信号を符号化ビット列に符号化する。その結果、CABAC処理部での符号化処理は、1サイクル当たり符号化ビット列の1ビットを出力する1ビット単位の逐次出力処理となる。可変長符号化の性質上、画素またはマクロブロック当たりの符号化ビット数は一定ではないため、CABAC処理部の画素またはマクロブロック当たりの処理時間は大きく変動することとなる。
その結果、一定時間に量子化部が処理した複数の画素または複数のマクロブロックを、同一の一定時間内にCABAC処理部が処理できない場合がある。従って、量子化部の処理速度とCABAC処理部の処理速度との間の相違を吸収するためには、量子化部とCABAC処理部との間に中間バッファメモリを接続することが必要となる。その結果、CABAC処理部と非同期動作方式と中間バッファメモリを使用した動画像符号化装置においては、CABAC処理部の出力部分での実際の符号量の取得タイミングは、CABAC処理部の入力部分の量子化部での推定符号量の取得タイミングと比較して著しく遅延することになる。従って、CABAC処理部の出力部分での実際の符号量のみに応答して量子化部の量子化スケールの制御を実行すると、遅延時間の間に制御される実際のビットレートの目標ビットレートからの乖離が大きくなるという危険性がある。一方、CABAC処理部の入力部分から得られる推定符号量のみに応答して量子化部の量子化スケールの制御を実行すると、制御遅延は軽減されるが、実際の符号量による制御と比較して、推定符号量による制御は誤差が大きくなる。従って、実際の符号量による制御もしくは推定符号量による制御のいずれかを使用しても高精度のビットレート制御が実現できないという問題が、本発明に先立った本発明者等による検討により明らかになった。
一方、現行の規格H.264/MPEG−4 AVCに準拠して動画像入力信号を符号化するためには、可変長符号化(エントロピー符号化)にコンテキスト適応型2値算術符号化方式(CABAC)だけではなくて、CAVLC(Context-Adaptive Variable Length Coding:コンテキスト適応型可変長符号化方式)と呼ばれる手法の採用が必要となる。良く知られているように、このコンテキスト適応型可変長符号化方式(CAVLC)は、量子化されたDCT係数値の符号化のみに使用され、量子化されたDCT係数値をジグザグ・スキャンによって一次元のベクトルに変換した後に、復号に必要な情報を符号化するものである。すなわち、復号に必要な情報は、非ゼロ系数値(level)、非ゼロ系数の個数(TotalCoeff)、非ゼロ系数の前のゼロの個数(run_ before)、最後の非ゼロ系数の前のゼロの個数(total_zeros)、最後に連続する絶対値1の係数の個数(Trailing Ones)およびその符号(Trailing_one_sign_flag)である。コンテキスト適応型可変長符号化方式(CAVLC)は係数当たりの処理時間を一定とする構成が可能であるため、画素またはマクロブロック当たりの処理時間の上限を一定にすることが可能であり、CAVLC処理部の出力部分での実際の符号量の取得タイミングは、CAVLC処理部の入力部分から得られる推定符号量の取得タイミングと比較して、処理時間上限値以上に遅延することはない。しかし、動画像符号化装置(Video Encoder)の低消費電力化のために、CAVLC処理部の動作クロックの周波数を、量子化部の動作クロックの周波数よりも低くするという省電力アーキテクチャーが採用された場合を想定する。この場合には、量子化部とCAVLC処理部との間の処理性能の相違を吸収するためには、量子化部とCAVLC処理部との間に中間バッファメモリを接続して、量子化部とCAVLC処理部とを非同期で動作させることが必要となる。その結果、CAVLC処理部と非同期動作方式と中間バッファメモリを使用した動画像符号化装置においては、CAVLC処理部の出力部分での実際の符号量の取得タイミングは、CAVLC処理部の入力部分の量子化部での推定符号量の取得タイミングと比較して、著しく遅延することになる。従って、CAVLC処理部の出力部分での実際の符号量のみに応答して量子化部の量子化スケールの制御を実行すると、遅延時間の間に制御される実際のビットレートの目標ビットレートからの乖離が大きくなるという危険性がある。一方、CAVLC処理部の入力部分から得られる推定符号量のみに応答して量子化部の量子化スケールの制御を実行すると、制御遅延は軽減されるが、実際の符号量による制御と比較して、推定符号量による制御は誤差が大きくなる。従って、実際の符号量による制御または推定符号量による制御のいずれかを使用しても高精度のビットレート制御が実現できないという問題が、本発明に先立った本発明者等による検討により明らかとされた。
このような課題を解決するための手段等を以下に説明するが、その他の課題と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
本願において開示される代表的な実施の形態の概要を簡単に説明すれば、下記のとおりである。
すなわち、代表的な実施の形態による動画像符号化装置(1)では、中間バッファ(200)は、量子化部(103)の出力端子と符号化部(201)の入力端子との間に接続される。
符号量推定部(300)の入力端子は量子化部(103)の出力端子に接続され、符号量推定部(300)の出力端子から生成される推定符号量が符号量セレクタ(301)の第1入力端子に供給され、符号量セレクタ(301)の第2入力端子には符号化部(201)により符号化される圧縮ビデオビットストリーム(CVBS)の実符号量が供給される。
符号量セレクタ(301)の選択制御端子には、中間バッファ(200)のデータ蓄積量が大きいか小さいかの判定信号が供給されて、符号量セレクタ(301)の出力端子はレートコントローラ(302)の入力端子に接続され、レートコントローラ(302)の出力信号は量子化部(103)の量子化スケールを調整する。
判定信号が中間バッファ(200)のデータ蓄積量が大きいことを示す場合には、符号量セレクタ(301)の第1入力端子に供給される符号量推定部(300)からの推定符号量が符号量セレクタ(301)の出力端子に出力され、量子化部(103)の量子化スケールが推定符号量によって調整される。
判定信号が中間バッファ(200)のデータ蓄積量が小さいことを示す場合には、符号量セレクタ(301)の第2入力端子に供給される符号化部(201)からの実符号量が符号量セレクタ(301)の出力端子に出力され、量子化部(103)の量子化スケールが実符号量によって調整されることを特徴とする(図1参照)。
本願において開示される実施の形態のうち代表的なものによって得られる効果を簡単に説明すれば、下記の通りである。
すなわち、本動画像符号化装置(1)によれば、高精度のビットレート制御を実現することができる。
図1は、実施の形態1による動画像符号化装置1の構成を示す図である。 図2は、図1に示した実施の形態1による動画像符号化装置1の符号化処理部20に含まれた可変長符号化部201の構成を示す図である。 図3は、実施の形態2による動画像符号化装置1の主要部の構成を示す図である。 図4は、実施の形態3による動画像符号化装置1の主要部の構成を示す図である。 図5は、図3に示した実施の形態2による動画像符号化装置1の量子化部103と可変長符号化部201との間に接続されていたプリバッファ205を省略した他の実施の形態による動画像符号化装置1の構成を示す図である。
1.実施の形態の概要
まず、本願において開示される代表的な実施の形態についてその概要を説明する。代表的な実施の形態の概要説明で括弧を付して参照する図面の参照符号は、それが付された構成要素の概念に含まれるものを例示するに過ぎない。
〔1〕代表的な実施の形態による動画像符号化装置(1)は、周波数変換部(102)と量子化部(103)と符号化部(201)と中間バッファ(200)と符号量推定部(300)と符号量セレクタ(301)とレートコントローラ(302)とを具備する。
前記周波数変換部(102)は、入力信号の周波数変換処理を実行する。
前記量子化部(103)は、前記周波数変換部(102)の前記周波数変換処理の結果に関して、量子化処理を実行する。
前記符号化部(201)が前記量子化部(103)の前記量子化処理の結果に関して符号化処理を実行することによって、前記符号化部(201)から圧縮ビデオビットストリーム(CVBS)が生成される。
前記中間バッファ(200)は、前記量子化部(103)の出力端子と前記符号化部(201)の入力端子との間に接続される。
前記符号量推定部(300)の入力端子は前記量子化部(103)の前記出力端子に接続されて、前記符号量推定部(300)の出力端子から生成される推定符号量が前記符号量セレクタ(301)の第1入力端子に供給される。
前記符号量セレクタ(301)の第2入力端子には、前記符号化部(201)により符号化される前記圧縮ビデオビットストリーム(CVBS)の実符号量が供給される。
前記符号量セレクタ(301)の選択制御端子には、前記中間バッファ(200)のデータ蓄積量が大きいか小さいかの判定信号が供給される。
前記符号量セレクタ(301)の出力端子は前記レートコントローラ(302)の入力端子に接続されて、前記レートコントローラ(302)の出力信号は前記量子化部(103)の量子化スケールを調整する。
前記判定信号が前記中間バッファ(200)の前記データ蓄積量が大きいことを示す場合には、前記符号量セレクタ(301)の前記第1入力端子に供給される前記符号量推定部(300)からの前記推定符号量が前記符号量セレクタ(301)の前記出力端子に出力され、前記量子化部(103)の前記量子化スケールが前記推定符号量によって調整される。
前記判定信号が前記中間バッファ(200)の前記データ蓄積量が小さいことを示す場合には、前記符号量セレクタ(301)の前記第2入力端子に供給される前記符号化部(201)からの前記実符号量が前記符号量セレクタ(301)の前記出力端子に出力され、前記量子化部(103)の前記量子化スケールが前記実符号量によって調整されることを特徴とするものである(図1参照)。
前記実施の形態によれば、前記符号化部の処理遅延が大きい場合は前記推定符号量が使用され、また前記符号化部の処理遅延が小さい場合は前記実符号量が使用されることとなって、高精度のビットレート制御を実現することができる。
好適な実施の形態では、前記符号化部(201)は、算術符号化方式(CABAC)と可変長符号化方式(CAVLC)との少なくともいずれか一方による符号化処理を実行することを特徴とするものである(図1参照)。
他の好適な実施の形態では、前記符号化部(201)が前記算術符号化方式(CABAC)による符号化処理を実行する際に、前記中間バッファ(200)は、前記量子化部(103)の前記量子化処理の処理速度と前記符号化部(201)の前記算術符号化方式(CABAC)による前記符号化処理の処理速度との相違を吸収するものである。
前記符号化部(201)が前記可変長符号化方式(CAVLC)による符号化処理を実行する際に、前記中間バッファ(200)は、前記量子化部(103)の前記量子化処理の処理速度と前記符号化部(201)の前記可変長符号化方式(CAVLC)による前記符号化処理の処理速度との相違を吸収することを特徴とする(図1参照)。
更に他の好適な実施の形態では、前記中間バッファ(200)の前記データ蓄積量が大きいか小さいかの判定は、前記データ蓄積量が所定のしきい値よりも大きいか、もしくは前記データ蓄積量が前記所定のしきい値よりも小さいかを判定することによって実行されることを特徴とする(図1参照)。
より好適な実施の形態では、前記符号化部(201)は、指数ゴロム符号化部(2011)と可変長符号化処理部(2012)と算術符号化処理部(2013)とを含む。
前記指数ゴロム符号化部(2011)は、符号化すべきシンタックス要素を、プリフィックスとセパレータとサフィックスとを含む指数ゴロム符号に符号化するものである。
前記可変長符号化処理部(2012)は、前記量子化部(103)で量子化処理された前記周波数変換部(102)の前記周波数変換処理の前記結果をジグザグ・スキャンにより一次元のベクトルに変換した後に、前記可変長符号化方式(CAVLC)による前記符号化処理を実行するものである。
前記算術符号化処理部(2013)は、2値化部(20131)と2値算術符号化部(20132)とコンテキスト計算部(20133)とによって構成される。
前記2値化部(20131)は多値入力信号から2値信号を生成して、前記2値信号は前記2値算術符号化部(20132)により符号化ビット列に符号化される。
前記コンテキスト計算部(20133)は、符号化対象シンボルである前記2値信号の発生確率モデルを近傍シンボルの状況に応じて動的に計算・更新して、前記2値算術符号化部(20132)は、前記コンテキスト計算部(20133)により計算・更新された前記発生確率モデルに従って前記2値信号を前記符号化ビット列に符号化することを特徴とするものである(図2参照)。
他のより好適な実施の形態では、前記中間バッファ(20134)は、前記算術符号化処理部(2013)の内部で前記2値化部(20131)と前記2値算術符号化部(20132)との間に接続されたことを特徴とするものである(図3参照)。
更に他のより好適な実施の形態では、前記符号量セレクタ(301)の前記第2入力端子には、前記算術符号化処理部(2013)の前記2値算術符号化部(20132)の実符号量が供給されることを特徴とするものである(図3参照)。
別のより好適な実施の形態による動画像符号化装置(1)は、第1カウンタ(114)と第2カウンタ(304)とセレクタコントローラ(303)とを更に具備する。
前記第1カウンタ(114)は、前記量子化部(103)によって量子化処理される符号化処理単位の画像ブロックの番号をカウントすることによって、第1カウント値を保持する。
前記第2カウンタ(304)は、前記符号化部(201)によって符号化処理される符号化処理単位の画像ブロックの番号をカウントすることによって、第2カウント値を保持する。
前記セレクタコントローラ(303)は、前記第1カウンタ(114)の前記第1カウント値と前記第2カウンタ(304)の前記第2カウント値との差を判定する。
前記第1カウンタ(114)の前記第1カウント値と前記第2カウンタ(304)の前記第2カウント値との前記差が大きい場合には、前記セレクタコントローラ(303)は、前記符号化部(201)の処理遅延または前記中間バッファ(200)の前記データ蓄積量が大きいと判定する。
前記第1カウンタ(114)の前記第1カウント値と前記第2カウンタ(304)の前記第2カウント値との前記差が小さい場合には、前記セレクタコントローラ(303)は、前記符号化部(201)の処理遅延または前記中間バッファ(200)の前記データ蓄積量が小さいと判定することを特徴とするものである(図4参照)。
更に別のより好適な実施の形態では、前記量子化部(103)で量子化処理される前記符号化処理単位の前記画像ブロックと前記符号化部(201)で符号化処理される前記符号化処理単位の前記画像ブロックとは、輝度成分で16画素×16画素のサイズを有するマクロブロックであることを特徴とするものである。
具体的な実施の形態では、前記量子化部(103)で量子化処理される前記符号化処理単位の前記画像ブロックと前記符号化部(201)で符号化処理される前記符号化処理単位の前記画像ブロックは、フレキシブルなブロック構造であるコーディングユニット(CU)である。
前記コーディングユニット(CU)は、64画素×64画素のサイズの最大コーディングユニット(LCU)から適応的に分割可能なブロックであることを特徴とするものである。
他の具体的な実施の形態による動画像符号化装置(1)は、動きベクトル検出部(109)と動き補償部(110)と減算器(101)と逆量子化部(104)と逆周波数変換部(105)とメモリ(108、111)とイントラ予測部(112)と予測セレクタ部(113)とを更に具備する。
前記動きベクトル検出部(109)は、符号化すべき動画像信号(VS)と前記メモリ(108)に格納された参照画像とから動きベクトル(MV)を生成する。
前記動き補償部(110)は、前記動きベクトル検出部(109)から生成される前記動きベクトル(MV)と前記メモリ(108)に格納された前記参照画像とに応答して動き補償予測信号を生成する。
前記減算器(101)の一方の入力端子には前記動画像信号(VS)が供給され、前記減算器(101)の他方の入力端子には前記動き補償部(110)から生成される前記動き補償予測信号が供給され、前記減算器(101)の出力端子から予測残差が生成される。
前記減算器(101)の前記出力端子から生成される前記予測残差が、前記周波数変換処理の前記入力信号として前記周波数変換部(102)の入力端子に供給される。
前記量子化部(103)の前記量子化処理の結果は、前記逆量子化部(104)と前記逆周波数変換部(105)とによって局部復号処理が実行され、前記局部復号処理の結果は前記参照画像として前記メモリ(108)に格納される。
前記逆量子化部(104)と前記逆周波数変換部(105)とにより実行される前記局部復号処理の前記結果は、イントラ参照画像として前記メモリ(111)に格納される。
前記動画像信号(VS)が前記イントラ予測部(112)の一方の入力端子に供給され、前記メモリ(111)に格納された前記イントラ参照画像が前記イントラ予測部(112)の他方の入力端子に供給されることにより、前記イントラ予測部(112)は前記一方の入力端子に供給される前記動画像信号(VS)に関するイントラ予測信号を生成する。
前記予測セレクタ部(113)は前記動き補償部(110)から生成される前記動き補償予測信号と前記イントラ予測部(112)から生成される前記イントラ予測信号とのいずれかの予測信号を選択して、前記減算器(101)の前記他方の入力端子に選択した前記予測信号を供給することを特徴とする(図1、図4参照)。
より具体的な実施の形態では、前記周波数変換部(102)と前記量子化部(103)と前記符号化部(201)と前記中間バッファ(200)と前記符号量推定部(300)と前記符号量セレクタ(301)と前記レートコントローラ(302)とは、半導体集積回路の1個の半導体チップに集積化されたものである。
他のより具体的な実施の形態では、前記動きベクトル検出部と前記動き補償部と前記減算器と前記逆量子化部と前記逆周波数変換部と前記符号化部と前記イントラ予測部と前記予測セレクタ部とは、前記半導体集積回路の前記1個の半導体チップに更に集積化されたことを特徴とする。
最も具体的な実施の形態による動画像符号化装置(1)は、規格H.264と規格H.265とから任意に選択された方式に準拠して前記動画像信号(VS)を符号化処理することによって、前記圧縮ビデオビットストリーム(CVBS)を生成することを特徴とするものである。
〔2〕別の観点の代表的な実施の形態は、周波数変換部(102)と量子化部(103)と符号化部(201)と中間バッファ(200)と符号量推定部(300)と符号量セレクタ(301)とレートコントローラ(302)とを具備する動画像符号化装置(1)の動作方法である。
前記周波数変換部(102)は、入力信号の周波数変換処理を実行する。
前記量子化部(103)は、前記周波数変換部(102)の前記周波数変換処理の結果に関して、量子化処理を実行する。
前記符号化部(201)が前記量子化部(103)の前記量子化処理の結果に関して符号化処理を実行することによって、前記符号化部(201)から圧縮ビデオビットストリーム(CVBS)が生成される。
前記中間バッファ(200)は、前記量子化部(103)の出力端子と前記符号化部(201)の入力端子との間に接続される。
前記符号量推定部(300)の入力端子は前記量子化部(103)の前記出力端子に接続されて、前記符号量推定部(300)の出力端子から生成される推定符号量が前記符号量セレクタ(301)の第1入力端子に供給される。
前記符号量セレクタ(301)の第2入力端子には、前記符号化部(201)により符号化される前記圧縮ビデオビットストリーム(CVBS)の実符号量が供給される。
前記符号量セレクタ(301)の選択制御端子には、前記中間バッファ(200)のデータ蓄積量が大きいか小さいかの判定信号が供給される。
前記符号量セレクタ(301)の出力端子は前記レートコントローラ(302)の入力端子に接続されて、前記レートコントローラ(302)の出力信号は前記量子化部(103)の量子化スケールを調整する。
前記判定信号が前記中間バッファ(200)の前記データ蓄積量が大きいことを示す場合には、前記符号量セレクタ(301)の前記第1入力端子に供給される前記符号量推定部(300)からの前記推定符号量が前記符号量セレクタ(301)の前記出力端子に出力され、前記量子化部(103)の前記量子化スケールが前記推定符号量によって調整される。
前記判定信号が前記中間バッファ(200)の前記データ蓄積量が小さいことを示す場合には、前記符号量セレクタ(301)の前記第2入力端子に供給される前記符号化部(201)からの前記実符号量が前記符号量セレクタ(301)の前記出力端子に出力され、前記量子化部(103)の前記量子化スケールが前記実符号量によって調整されることを特徴とするものである(図1参照)。
前記実施の形態によれば、前記符号化部の処理遅延が大きい場合は前記推定符号量が使用され、また前記符号化部の処理遅延が小さい場合は前記実符号量が使用されることとなって、高精度のビットレート制御を実現することができる。
2.実施の形態の詳細
次に、実施の形態について更に詳述する。尚、発明を実施するための最良の形態を説明するための全図において、前記の図と同一の機能を有する部品には同一の符号を付して、その繰り返しの説明は省略する。
[実施の形態1]
《実施の形態1の動画像符号化装置の構成》
図1は、実施の形態1による動画像符号化装置1の構成を示す図である。この実施の形態1による動画像符号化装置1は、現行規格H.264/MPEG−4 AVCと新規格H.265とから任意に選択された方式に準拠して動画像入力信号VSを符号化するように構成されたものである。
図1に示した実施の形態1による動画像符号化装置1は、予測符号化部10と符号化処理部20とレート制御部30とビデオバッファ40とを具備する。
予測符号化部10は、ビデオ入力バッファ100と減算器101と周波数変換部102と量子化部103と逆量子化部104と逆周波数変換部105と加算器106とフィルタユニット107とフレームメモリ108と動きベクトル検出部109と動き補償部110とバッファメモリ111とイントラ予測部112とセレクタ部113とによって構成される。
符号化処理部20は、中間バッファメモリ200と可変長符号化部201とによって構成される。
レート制御部30は、符号量推定部300とセレクタ301とレートコントローラ302とによって構成される。
《動画像符号化装置の概略》
図1に示した実施の形態1による動画像符号化装置1の概略は、中間バッファメモリ200のデータ蓄積量が大きいか小さいかが判定されて、第1入力端子に符号量推定部300の推定符号量が供給されて、第2入力端子に可変長符号化部201の実符号量が供給されるセレクタ301の選択動作がこの判定結果に応答して設定される。従って、レートコントローラ302は、セレクタ301の選択出力信号に応答して、量子化部103の量子化スケールを算出するものである。
すなわち、中間バッファメモリ200のデータ蓄積量が大きいとの判定結果に応答して、セレクタ301の第1入力端子に供給される符号量推定部300の推定符号量が選択され、中間バッファメモリ200のデータ蓄積量が小さいとの判定結果に応答して、セレクタ301の第2入力端子に供給される可変長符号化部201の実符号量が選択されるものである。
従って、中間バッファメモリ200のデータ蓄積量が大きい場合には、可変長符号化部201の実符号量と比較して高速フィードバック制御である符号量推定部300の推定符号量に従って、レートコントローラ302から算出される量子化スケールが量子化部103に供給されるものである。その結果、符号量推定部300の推定符号量による量子化部103での量子化スケールの高速フィードバック制御によって、高精度のビットレート制御を実現することが可能となる。
一方、中間バッファメモリ200のデータ蓄積量が小さい場合には、符号量推定部300の推定符号量と比較して遅延はあるが誤差の少ない可変長符号化部201の実符号量に従って、レートコントローラ302から算出される量子化スケールが量子化部103に供給されるものである。従って、可変長符号化部201の実符号量による量子化部103の量子化スケールの高精度のフィードバック制御によって、高精度のビットレート制御を実現することが可能となる。
《動画像符号化装置の詳細》
以下に、図1に示した実施の形態1による動画像符号化装置1の詳細を、説明する。
《予測符号化部と符号化処理部の動作》
HEVCと呼ばれる次世代規格では、フレキシブルなブロック構造であるコーディングユニット(CU)は、64画素×64画素のサイズの最大コーディングユニット(LCU)から出発して良好な性能を達成するために、クアッド・トリー(quadtree)を使用した小さなブロックに適応的に分割されたものである。
動画像信号VSがHEVC規格に準拠して符号化される場合には、動画像信号VSはHEVC規格のフレキシブルなブロック構造である符号化処理単位のコーディングユニット(CU)に分割された後に、コーディングユニット(CU)は予測符号化部10のビデオ入力バッファ100に格納されるものである。ビデオ入力バッファ100から読み出されたコーディングユニット(CU)は、減算器101の一方の入力端子と動きベクトル検出部109の一方の入力端子とイントラ予測部112の一方の入力端子とに供給される。
図1に示されていないが、動画像の各ピクチャーのインター予測もしくはイントラ予測を示す予測モードが、図示されない符号化制御ユニットからセレクタ部113と符号化処理部20の可変長符号化部201に供給される。
最初に動画像信号VSがインター符号化される場合を、想定する。この場合には、インター符号化される動画像信号VSのコーディングユニット(CU)は、Bフレームの符号化や動きベクトルの検出ためにビデオ入力バッファ100に格納された後に、ビデオ入力バッファ100から読み出されたコーディングユニット(CU)は、減算器101の一方の入力端子に供給される。動きベクトル検出部109は、ビデオ入力バッファ100から読み出された動画像信号とフレームメモリ108に格納された参照画像に応答して動きベクトルMVを生成して、動き補償部110は、動きベクトル検出部109から生成された動きベクトルMVとフレームメモリ108に格納された参照画像に応答して動き補償予測信号を生成する。動き補償部110からの動き補償予測信号がセレクタ部113を介して減算部101で動画像信号から減算され、減算部101の減算出力信号である予測残差に関して周波数変換部102と量子化部103とで、それぞれ周波数変換処理と量子化処理とが実行される。周波数変換部102における周波数変換処理は、小数を含まない整数のみの変換係数を出力する整数ベースの離散コサイン変換(DCT:Discrete Cosine Transform)または離散サイン変換(DST:Discrete Sine Transform)である。量子化部103で量子化された周波数変換係数と動きベクトル検出部109から生成された動きベクトルMVとは、符号化処理部20の可変長符号化部201で可変長符号化処理され、ビデオバッファ40を介して圧縮ビデオビットストリームCVBSが生成される。量子化部103で量子化された周波数変換係数は逆量子化部104と逆周波数変換部105と加算器106とフィルタユニット107によって局部復号処理が実行された後に、この局部復号処理結果は、参照画像としてフレームメモリ108に格納される。
フィルタユニット107は、MPEG−4 AVC(H.264)の規格に従って、ブロック歪みを低減するためのデブロッキングフィルタの機能を有するものである。また更にフィルタユニット107は、新規格H.265(HEVC)に準拠するために、デブロッキングフィルタ機能の実行の後に、サンプルアダプティブオフセット(SAO)と呼ばれるフィルタ機能を実行する。このサンプルアダプティブオフセット(SAO)のフィルタ機能は、動画像符号化装置1の図示しない符号化制御ユニットの度数分布解析により決定される追加パラメータが記述されたルックアップテーブルを使用することにより、原信号振幅を良好に再構築するものである。
次に動画像信号VSがイントラ符号化される場合を、想定する。この場合には、イントラ符号化される動画像信号VSはビデオ入力バッファ100に格納された後に、ビデオ入力バッファ100から読み出された動画像信号VSはイントラ予測部112の一方の入力端子に供給される。一方、バッファメモリ111には、イントラ予測によって符号化され、局部復号処理によって生成された参照画像が格納されており、イントラ予測部112の他方の入力端子には、バッファメモリ111から読み出された参照画像が供給されている。従って、イントラ予測部112は、一方の入力端子に供給される動画像信号のコーディングユニット(CU)をイントラ符号化する際に、バッファメモリ111から他方の入力端子に供給される符号化済みの参照画像に含まれる複数の近隣コーディングユニット(CU)から最適なコーディングユニットを選択して、更に選択された最適なコーディングユニット(CU)の空間情報を生成する。その結果、イントラ予測部112は、イントラ予測された最適なコーディングユニット(CU)と対応する空間的予測モードとを含んだイントラ予測情報をセレクタ部113に供給するものである。
《符号化処理部の中間バッファメモリおよびレート制御部》
符号化処理部20の中間バッファメモリ200は、可変長符号化部201がコンテキスト適応型2値算術符号化方式(CABAC)による符号化処理を実行する際に、予測符号化部10の量子化部103の処理性能と可変長符号化部201のCABAC処理の処理性能との相違を吸収するために、量子化部103と可変長符号化部201との間に接続されたものである。更に、符号化処理部20の中間バッファメモリ200は、可変長符号化部201がコンテキスト適応型可変長符号化方式(CAVLC)による符号化処理を実行する際に、量子化部103の動作クロックの周波数より可変長符号化部201のCAVLC処理部の動作クロックの周波数を低くする省電力アーキテクチャーを採用するために使用されたものである。すなわち、この省電力アーキテクチャーを採用するためには、予測符号化部10の量子化部103の処理性能と可変長符号化部201のCAVLC処理の処理性能との相違を吸収するために、量子化部103と可変長符号化部201との間に中間バッファメモリ200が接続されたものである。
上述したようにレート制御部30は、符号量推定部300とセレクタ301とレートコントローラ302とによって構成される。
符号量推定部300の入力端子は、予測符号化部10の量子化部103の出力端子に接続される。従って、符号量推定部300は、量子化部103の量子化スケールの制御遅延を軽減するために、可変長符号化部201のCABAC処理またはCAVLC処理の前の量子化部103で量子化された周波数変換係数に基づいて、可変長符号化部201の出力端子から生成される圧縮ビデオビットストリームCVBSの符号量を推定するものである。符号量推定部300の出力端子から生成される推定符号量は、セレクタ301の第1入力端子に供給される。この推定符号量は誤差を含むものではあるが、可変長符号化部201のCABAC処理もしくはCAVLC処理の遅延を含まないものである。尚、符号量推定部300は、例えば、MPEG−4 AVC(H.264)の規格によって定義された指数ゴロム(Exponential Golomb)符号で符号化される符号化データの符号長を推定符号量とするものである。尚、良く知られているように、指数ゴロム符号は、プリフィックス(ゼロ“0”の連続)とセパレータ(“1”)とサフィックス(“0”と“1”の組み合わせ)とによって構成されて、DCT係数と動きベクトル等のシンタックス要素のエントロピー符号化(可変長符号化)に使用されるものである。
一方、セレクタ301の第2入力端子に、可変長符号化部201のCABAC処理またはCAVLC処理によって符号化される圧縮ビデオビットストリームCVBSの実際の符号量(実符号量)が供給される。この実符号量は、可変長符号化部201のCABAC処理もしくはCAVLC処理の遅延を含むものではあるが、推定符号量と異なり符号量の値に誤差を含まない高精度のビットレート制御を可能とするものである。
更に、セレクタ301の選択制御端子には、中間バッファメモリ200から選択制御信号が供給される。中間バッファメモリ200に蓄積された蓄積データ(量子化周波数変換係数等)が少ない場合には、中間バッファメモリ200から生成される選択制御信号は、例えば、ローレベル“0”となる。従って、ローレベル“0”の選択制御信号に応答して、セレクタ301はセレクタ301の第2入力端子に供給される可変長符号化部201の実符号量を選択して、その出力端子に出力する。その結果、レートコントローラ302はセレクタ301の出力端子に出力された可変長符号化部201の実符号量から、量子化部103の量子化スケールを算出する。レートコントローラ302によって算出された量子化スケールは量子化部103に供給されるので、量子化部103の量子化スケールが可変長符号化部201の実符号量に応答して設定される。すなわち、中間バッファメモリ200の蓄積データが少なく選択制御信号がローレベル“0”である場合には、符号量推定部300の推定符号量と比較して遅延はあるが誤差の少ない可変長符号化部201の実符号量に従って、レートコントローラ302から算出される量子化スケールが量子化部103に供給されるものである。従って、可変長符号化部201の実符号量による量子化部103での量子化スケールの高精度のフィードバック制御によって、高精度のビットレート制御を実現することが可能となる。
それに対して、中間バッファメモリ200に蓄積された蓄積データが多い場合には、中間バッファメモリ200から生成される選択制御信号は例えば、ハイレベル“1”となる。従って、ハイレベル“1”の選択制御信号に応答して、セレクタ301はセレクタ301の第1入力端子に供給される符号量推定部300の推定符号量を選択して、その出力端子に出力する。その結果、レートコントローラ302はセレクタ301の出力端子に出力された符号量推定部300の推定符号量から、量子化部103の量子化スケールを算出する。レートコントローラ302によって算出された量子化スケールは量子化部103に供給されるので、量子化部103の量子化スケールが符号量推定部300の推定符号量に応答して設定される。すなわち、中間バッファメモリ200のデータ蓄積量が大きい場合には、可変長符号化部201の実符号量と比較して高速フィードバック制御である符号量推定部300の推定符号量に従って、レートコントローラ302から算出される量子化スケールが量子化部103に供給されるものである。その結果、符号量推定部300の推定符号量による量子化部103での量子化スケールの高速フィードバック制御によって、高精度のビットレート制御を実現することが可能となる。
《中間バッファメモリの蓄積データ量の判定》
尚、中間バッファメモリ200の蓄積データが少ないか多いかは、所定の蓄積データのしきい値を境界にして判定することが可能である。中間バッファメモリ200に蓄積された蓄積データが所定のしきい値よりも少ない場合には、中間バッファメモリ200から生成される選択制御信号はローレベル“0”となって、セレクタ301はセレクタ301の第2入力端子に供給される可変長符号化部201の実符号量を選択して出力端子に出力する。一方、中間バッファメモリ200に蓄積された蓄積データが所定のしきい値よりも多い場合には、中間バッファメモリ200から生成される選択制御信号はハイレベル“1”となり、セレクタ301はセレクタ301の第1入力端子に供給される符号量推定部300の推定符号量を選択して出力端子に出力する。
《動画像符号化装置の半導体集積回路》
更に図1に示した実施の形態1により予測符号化部10と符号化処理部20とレート制御部30とビデオバッファ40とを具備する動画像符号化装置1の大部分は、半導体集積回路の1個の半導体チップに集積化されている。例えば、この半導体集積回路は、最先端半導体製造プロセスにより製造されるシステムLSIもしくはシステムオンチップ(SOC)と呼ばれる大規模半導体集積回路である。
予測符号化部10では、フレームメモリ108とバッファメモリ111とを除き、ビデオ入力バッファ100と減算器101と周波数変換部102と量子化部103と逆量子化部104と逆周波数変換部105と加算器106とフィルタユニット107と動きベクトル検出部109と動き補償部110とイントラ予測部112とセレクタ部113は1個の半導体チップに集積化される。尚、フレームメモリ108とバッファメモリ111は、この1個の半導体チップと別の同期型ダイナミックランダムアクセスメモリ(SDRAM)の半導体チップに集積化される。
符号化処理部20の中間バッファメモリ200と可変長符号化部201は、上述した1個の半導体チップに集積化される。従って、中間バッファメモリ200は、この1個の半導体チップの内蔵スタティックランダムアクセスメモリ(SRAM)によって構成される。その他の実施の形態では、中間バッファメモリ200は、上述した同期型ダイナミックランダムアクセスメモリ(SDRAM)により構成されることも可能である。
レート制御部30の符号量推定部300とセレクタ301とレートコントローラ302は、上述した1個の半導体チップに集積化される。
圧縮ビデオビットストリームCVBSを生成するためのビデオバッファ40は、上述した同期型ダイナミックランダムアクセスメモリ(SDRAM)によって構成されることができる。その他の実施の形態では、このビデオバッファ40は、上記非特許文献2に記載された仮想バッファとすることが可能である。その結果、仮想バッファとして構成されたビデオバッファ40の充足度(データ蓄積量)の制御、すなわちレート制御部30による量子化部103の量子化スケールのフィードバック制御を、上述したTest Model 5と呼ばれるビットレート制御によって実行することが可能である。
《可変長符号化部の構成》
図2は、図1に示した実施の形態1による動画像符号化装置1の符号化処理部20に含まれた可変長符号化部201の構成を示す図である。
図2に示すように、可変長符号化部201は、指数ゴロム符号化部2011とCAVLC処理部2012とCABAC処理部2013とを含んでいる。
指数ゴロム符号化部2011は、上述したようにDCT係数と動きベクトル等のシンタックス要素のエントロピー符号化(可変長符号化)に使用されるものである。すなわち、指数ゴロム符号化部2011は、種々のシンタックス要素を、プリフィックスとセパレータとサフィックスとを含む指数ゴロム符号に符号化するものである。従って、シンタックス要素の指数ゴロム符号への符号化が必要な際には、図示されない符号化制御ユニットから供給される活性化制御信号に応答して、指数ゴロム符号化部2011が活性化される。それ以外では、指数ゴロム符号化部2011は非活性化され、低消費電力が実現される。
CAVLC処理部2012は、上述したように量子化されたDCT係数値の符号化のみに使用され量子化されたDCT係数値を、ジグザグ・スキャンにより一次元のベクトルに変換した後に、復号に必要な情報を符号化するコンテキスト適応型可変長符号化方式(CAVLC)の符号化処理を実行するものである。すなわち、CAVLC処理部2012でのCAVLC符号化処理によって、非ゼロ系数値、非ゼロ系数の個数、非ゼロ系数の前のゼロの個数、最後の非ゼロ系数の前のゼロの個数、最後に連続する絶対値1の係数の個数およびその符号等の復号に必要な情報が符号化されるものである。従って、CAVLC処理部2012でのCAVLC符号化処理が必要な際に、図示されない符号化制御ユニットから供給される活性化制御信号に応答して、CAVLC処理部2012が活性化される。それ以外では、CAVLC処理部2012は非活性化されて、低消費電力が実現される。
CABAC処理部2013は、上述したように2値化部20131と2値算術符号化部20132とコンテキスト計算部20133とによって構成されている。2値化部20131は多値入力信号から2値信号を生成して、2値信号は2値算術符号化部20132により符号化ビット列に符号化される。コンテキスト計算部20133は、符号化対象シンボルである2値信号の発生確率モデルを近傍シンボルの状況に応じて動的に計算・更新する。2値算術符号化部20132は、コンテキスト計算部20133により計算・更新された発生確率モデルに従って2値信号を符号化ビット列に符号化する。その結果、CABAC処理部2013での符号化処理は、1サイクル当たり符号化ビット列の1ビットを出力するという1ビット単位の逐次出力処理となる。CABAC処理部2013でのCABAC符号化処理が必要な際には、図示されない符号化制御ユニットから供給される活性化制御信号に応答して、CABAC処理部2013が活性化される。それ以外では、CABAC処理部2013は非活性化されて、低消費電力が実現される。
尚、図2に示したように指数ゴロム符号化部2011の入力端子とCAVLC処理部2012の入力端子とCABAC処理部2013の入力端子とは可変長符号化部201の入力端子INに接続され、指数ゴロム符号化部2011の出力端子とCAVLC処理部2012の出力端子とCABAC処理部2013の出力端子とは可変長符号化部201の出力端子OUTに接続されている。
《実施の形態1の効果》
図1と図2とに示した実施の形態1による動画像符号化装置1によれば、符号化処理部20の処理遅延が大きく中間バッファメモリ200のデータ蓄積量が大きい場合には高速のフィードバック制御が可能な推定符号量を使用して、また符号化処理部20の処理遅延が小さく中間バッファメモリ200のデータ蓄積量が小さい場合には誤差の少ない実符号量を使用することとなる。従って、この動画像符号化装置1によれば、高精度のビットレート制御を実現することが可能となる。
[実施の形態2]
《実施の形態2の動画像符号化装置の主要部の構成》
図3は、実施の形態2による動画像符号化装置1の主要部の構成を示す図である。
図3に示した実施の形態2による動画像符号化装置1が、図1と図2とに示した実施の形態1による動画像符号化装置1と相違するのは下記の点である。
すなわち、図3に示した実施の形態2による動画像符号化装置1では、図1と図2に示した実施の形態1による動画像符号化装置1において量子化部103と符号化処理部20の間に接続されていた中間バッファメモリ200はプリバッファメモリ205に置換されている 。このプリバッファメモリ205は、上述した半導体集積回路の半導体チップの内蔵スタティックランダムアクセスメモリ(SRAM)によって構成されることが可能である。その他の実施の形態においては、プリバッファメモリ205は、上述した同期型ダイナミックランダムアクセスメモリ(SDRAM)により構成されることも可能である。
可変長符号化部201において、指数ゴロム符号化部2011とCAVLC処理部2012とのいずれか一方が活性化される場合には、プリバッファメモリ205のデータ蓄積量が大きいか小さいかが判定される。レート制御部30のセレクタ301では、第1入力端子には符号量推定部300の推定符号量が供給され、第2入力端子には指数ゴロム符号化部2011およびCAVLC処理部201の出力部での実符号量が供給されて、セレクタ301の選択動作がプリバッファメモリ205のデータ蓄積量の判定結果に応答して設定される。このように、レートコントローラ302は、セレクタ301の選択出力信号に応答して、量子化部103の量子化スケールを算出するものである。
すなわち、プリバッファメモリ205のデータ蓄積量が大きいとの判定結果に応答して、セレクタ301の第1入力端子に供給される符号量推定部300の推定符号量が選択される。一方、プリバッファメモリ205のデータ蓄積量が小さいとの判定結果に応答して、セレクタ301の第2入力端子に供給される指数ゴロム符号化部2011およびCAVLC処理部201の出力部の実符号量が選択されるものである。
従って、プリバッファメモリ205のデータ蓄積量が大きい場合には、プリバッファメモリ205のオーバーフローの危険性がある。しかし、指数ゴロム符号化部2011およびCAVLC処理部201の出力部の実符号量と比較して高速フィードバック制御である符号量推定部300の推定符号量に従ってレートコントローラ302から算出される量子化スケールが量子化部103に供給されるものである。その結果、符号量推定部300の推定符号量による量子化部103での量子化スケールの高速フィードバック制御によって、プリバッファメモリ205のオーバーフローの危険性を軽減することが可能となる。
一方、プリバッファメモリ205のデータ蓄積量が小さい場合にはプリバッファメモリ205のオーバーフローの危険性が無い。しかし、符号量推定部300の推定符号量と比較して高精度のフィードバック制御である指数ゴロム符号化部2011およびCAVLC処理部201の出力部の実符号量に従ってレートコントローラ302から算出される量子化スケールが量子化部103に供給されるものである。従って、指数ゴロム符号化部2011およびCAVLC処理部201の出力部の実符号量による量子化部103の量子化スケールの高精度のフィードバック制御により、高精度のビットレート制御を実現することが可能となる。
可変長符号化部201において、CABAC処理部2013が活性化される場合には、CABAC処理部2013の2値化部20131と2値算術符号化部20132との間に接続された中間バッファメモリ20134のデータ蓄積量が大きいか小さいかが判定される。
レート制御部30のセレクタ301では、第1入力端子には符号量推定部300の推定符号量が供給され、第2入力端子にはCABAC処理部2013の2値算術符号化部20132における実符号量が供給され、セレクタ301の選択制御動作が中間バッファメモリ20134のデータ蓄積量の判定結果に応答して設定される。このように、レートコントローラ302は、セレクタ301の選択出力信号に応答して、量子化部103の量子化スケールを算出するものである。
すなわち、中間バッファメモリ20134のデータ蓄積量が大きいとの判定結果に応答してセレクタ301の第1入力端子に供給される符号量推定部300の推定符号量が選択され、中間バッファメモリ20134のデータ蓄積量が小さいとの判定結果に応答してセレクタ301の第2入力端子に供給されるCABAC処理部2013の2値算術符号化部20132の実符号量が選択される。
従って、中間バッファメモリ20134のデータ蓄積量が大きい場合には、CABAC処理部2013の2値算術符号化部20132の実符号量と比較して高速フィードバック制御である符号量推定部300の推定符号量に従って、レートコントローラ302から算出される量子化スケールが量子化部103に供給されるものである。その結果、符号量推定部300の推定符号量による量子化部103の量子化スケールの高速フィードバック制御によって、高精度のビットレート制御を実現することが可能となる。
一方、中間バッファメモリ20134のデータ蓄積量が小さい場合には、符号量推定部300の推定符号量と比較して遅延はあるが誤差の少ないCABAC処理部2013の2値算術符号化部20132での実符号量に従ってレートコントローラ302から算出される量子化スケールが量子化部103に供給されるものである。従って、可変長符号化部201の実符号量による量子化部103の量子化スケールの高精度のフィードバック制御によって、高精度のビットレート制御を実現することが可能となる。
《実施の形態2の効果》
図3に示した実施の形態2による動画像符号化装置1によれば、CABAC処理部2013が活性化される場合には、2値算術符号化部20132の処理遅延が大きく中間バッファメモリ20134のデータ蓄積量が大きい場合には高速のフィードバック制御が可能な推定符号量を使用する。また、図3に示した実施の形態2による動画像符号化装置1によれば、2値算術符号化部20132の処理遅延が小さく中間バッファメモリ20134のデータ蓄積量が小さい場合には誤差の少ない実符号量を使用することとなる。従って、この動画像符号化装置1によれば、高精度のビットレート制御を実現することが可能となる。
[実施の形態3]
《実施の形態3の動画像符号化装置の主要部の構成》
図4は、実施の形態3による動画像符号化装置1の主要部の構成を示す図である。
図4に示した実施の形態3による動画像符号化装置1が、図1と図2とに示した実施の形態1による動画像符号化装置1と相違するのは下記の点である。
すなわち、図1と図2とに示した実施の形態1による動画像符号化装置1では、符号化処理部20の処理遅延が大きいか小さいかは、中間バッファメモリ200の蓄積データが少ないか多いかによって判定されていた。それに対して、図4に示した実施の形態3による動画像符号化装置1においては、符号化処理部20の処理遅延が大きいか小さいかは、動画像信号VSに含まれる符号化処理単位での画像ブロックをカウントする第1カウンタ114の第1カウント値と第2カウンタ304の第2カウント値の差が少ないか多いかの判定で判別される。すなわち、第1カウンタ114の第1カウント値と第2カウンタ304の第2カウント値との差は、セレクタ301を制御するセレクタコントローラ303によって判定される。
最初に、図4の実施の形態3による動画像符号化装置が現行規格H.264/MPEG−4 AVCに準拠して動画像入力信号VSを符号化する場合には、符号化処理単位での画像ブロックは、輝度成分で16×16画素のサイズを有するマクロブロックである。従って、予測符号化部10の第1カウンタ114は、予測符号化部10の量子化部103において量子化処理されるマクロブロックの番号をカウントすることによって、第1カウント値を保持するものである。一方、レート制御部30の第2カウンタ304は、符号化処理部20の可変長符号化部201において符号化処理されるマクロブロックの番号をカウントすることによって、第2カウント値を保持するものである。
この場合に符号化処理部20の処理遅延が小さく中間バッファメモリ200のデータ蓄積量が小さい状態では、予測符号化部10の第1カウンタ114によって保持された第1カウント値の値よりもレート制御部30の第2カウンタ304によって保持された第2カウント値の値は若干小さな値となる。それに対してこの場合に符号化処理部20の処理遅延が大きく中間バッファメモリ200のデータ蓄積量が大きい状態では、予測符号化部10の第1カウンタ114によって保持された第1カウント値の値よりもレート制御部30の第2カウンタ304によって保持された第2カウント値の値は大幅に小さな値となる。このように第1カウンタ114の第1カウント値と第2カウンタ304の第2カウント値との差は、セレクタ301を制御するセレクタコントローラ303により判定されることが可能である。2個のカウント値の差が大きく符号化処理部20の処理遅延が大きく中間バッファメモリ200のデータ蓄積量が大きいというセレクタコントローラ303の判定結果に応答して、セレクタ301の第1入力端子に供給される符号量推定部300の推定符号量が選択される。それに対して、2個のカウント値の差が小さく符号化処理部20の処理遅延が小さく中間バッファメモリ200のデータ蓄積量が小さいとのセレクタコントローラ303の判定結果に応答して、セレクタ301の第2入力端子に供給される可変長符号化部201の実符号量が選択される。
次に、図4の実施の形態3による動画像符号化装置が新規格H.265に準拠して動画像入力信号VSを符号化する場合には、符号化処理単位での画像ブロックはフレキシブルなブロック構造であるコーディングユニット(CU)である。従って、予測符号化部10の第1カウンタ114は、予測符号化部10の量子化部103において量子化処理されるコーディングユニット(CU)の番号をカウントして第1カウント値を保持するものである。一方、レート制御部30の第2カウンタ304は、符号化処理部20の可変長符号化部201において符号化処理されるコーディングユニット(CU)の番号をカウントして第2カウント値を保持するものである。尚、コーディングユニット(CU)の最大のものは64画素×64画素のサイズの最大コーディングユニット(LCU)であるので、第1カウンタ114と第2カウンタ304は、場合によっては、最大コーディングユニット(LCU)の番号をカウントするものである。
この場合においても、符号化処理部20の処理遅延が小さく中間バッファメモリ200のデータ蓄積量が小さい状態では、予測符号化部10の第1カウンタ114によって保持された第1カウント値の値よりもレート制御部30の第2カウンタ304によって保持された第2カウント値の値は若干小さな値となるものである。それに対してこの場合に符号化処理部20の処理遅延が大きく中間バッファメモリ200のデータ蓄積量が大きい状態では、予測符号化部10の第1カウンタ114によって保持された第1カウント値の値よりもレート制御部30の第2カウンタ304によって保持された第2カウント値の値は大幅に小さな値となるものである。このように第1カウンタ114の第1カウント値と第2カウンタ304の第2カウント値との差は、セレクタ301を制御するセレクタコントローラ303により判定されることが可能である。2個のカウント値の差が大きく符号化処理部20の処理遅延が大きく中間バッファメモリ200のデータ蓄積量が大きいというセレクタコントローラ303の判定結果に応答して、セレクタ301の第1入力端子に供給される符号量推定部300の推定符号量が選択される。それに対して、2個のカウント値の差が小さく符号化処理部20の処理遅延が小さく中間バッファメモリ200のデータ蓄積量が小さいとのセレクタコントローラ303の判定結果に応答して、セレクタ301の第2入力端子に供給される可変長符号化部201の実符号量が選択されるものである。
以上、本発明者によってなされた発明を種々の実施の形態に基づいて具体的に説明したが、本発明はそれに限定されるものではなく、その要旨を逸脱しない範囲において種々変更可能であることは言うまでもない。
例えば、図3の実施の形態2の動画像符号化装置1でも、図4の実施の形態3の動画像符号化装置1と同様に第1カウンタ114と第2カウンタ304とセレクタコントローラ303を使用して、符号化処理部20の処理遅延が大きいか小さいかまたは中間バッファメモリ200のデータ蓄積量が大きいか小さいかを判定することが可能である。
図5は、図3に示した実施の形態2による動画像符号化装置1の量子化部103と可変長符号化部201との間に接続されていたプリバッファ205を省略した他の実施の形態による動画像符号化装置1の構成を示す図である。
図5に示した動画像符号化装置1では、スイッチSW1とスイッチSW2とを含む切り換えスイッチ20135が、CABAC処理部2013の2値化部20131と中間バッファメモリ20134との間に接続されている。
図5に示した動画像符号化装置1において、CABAC処理部2013の2値化部20131と2値算術符号化部20132とコンテキスト計算部20133とがCABAC符号化処理を実行する場合には、切り換えスイッチ20135ではスイッチSW1はオン状態に制御されスイッチSW2はオフ状態に制御される。その結果、2値化部20131は多値入力信号から2値信号を生成して、2値信号はスイッチSW1と中間バッファメモリ20134とを介して2値算術符号化部20132に供給されるので、2値信号は2値算術符号化部20132により符号化ビット列に符号化される。
図5に示した動画像符号化装置1において、指数ゴロム符号化部2011もしくはCAVLC処理部2012が活性化される場合には、切り換えスイッチ20135ではスイッチSW1はオフ状態に制御されスイッチSW2はオン状態に制御される。その結果、可変長符号化部201の入力端子INでの量子化部103で量子化された周波数変換係数は、2値化部20131とスイッチSW1とを経由せずに、スイッチSW2と中間バッファメモリ20134とを介して、指数ゴロム符号化部2011の入力端子とCAVLC処理部2012の入力端子とに供給されるものである。
図5に示した動画像符号化装置1にても、中間バッファメモリ20134のデータ蓄積量が大きい場合には、CABAC処理部2013の2値算術符号化部20132の実符号量と比較して高速フィードバック制御である符号量推定部300の推定符号量に従って、レートコントローラ302から算出される量子化スケールが量子化部103に供給されるものである。その結果、符号量推定部300の推定符号量による量子化部103の量子化スケールの高速フィードバック制御によって、高精度のビットレート制御を実現することが可能となる。
一方、中間バッファメモリ20134のデータ蓄積量が小さい場合には、符号量推定部300の推定符号量と比較して遅延はあるが誤差の少ないCABAC処理部2013の2値算術符号化部20132での実符号量に従ってレートコントローラ302から算出される量子化スケールが量子化部103に供給されるものである。従って、可変長符号化部201の実符号量による量子化部103の量子化スケールの高精度のフィードバック制御によって、高精度のビットレート制御を実現することが可能となる。
本発明は、新規格H.265に準拠して動画像入力信号VSを符号化するだけではなく、64画素×64画素のサイズよりも更に大きな最大コーディングユニット(LCU)を処理単位とする将来の規格に準拠する符号化処理に適用することが可能である。
1…動画像符号化装置
10…予測符号化部
20…予測符号化部
30…レート制御部
40…ビデオバッファ
100…ビデオ入力バッファ
101…減算器
102…周波数変換部
103…量子化部
104…逆量子化部
105…逆周波数変換部
106…加算器
107…フィルタユニット
108…フレームメモリ
109…動きベクトル検出部
110…動き補償部
111…バッファメモリ
112…イントラ予測部
113…セレクタ部
200…中間バッファメモリ
201…可変長符号化部
300…符号量推定部
301…セレクタ
302…レートコントローラ

Claims (21)

  1. 動画像符号化装置は、周波数変換部と量子化部と符号化部と中間バッファと符号量推定部と符号量セレクタとレートコントローラとを具備して、
    前記周波数変換部は、入力信号の周波数変換処理を実行して、
    前記量子化部は、前記周波数変換部の前記周波数変換処理の結果に関して、量子化処理を実行して、
    前記符号化部が前記量子化部の前記量子化処理の結果に関して符号化処理を実行することによって、前記符号化部から圧縮ビデオビットストリームが生成され、
    前記中間バッファは、前記量子化部の出力端子と前記符号化部の入力端子との間に接続され、
    前記符号量推定部の入力端子は前記量子化部の前記出力端子に接続されて、前記符号量推定部の出力端子から生成される推定符号量が前記符号量セレクタの第1入力端子に供給され、
    前記符号量セレクタの第2入力端子には、前記符号化部により符号化される前記圧縮ビデオビットストリームの実符号量が供給され、
    前記符号量セレクタの選択制御端子には、前記中間バッファのデータ蓄積量が大きいか小さいかの判定信号が供給され、
    前記符号量セレクタの出力端子は前記レートコントローラの入力端子に接続されて、前記判定信号に従って選択された符号量が前記レートコントローラに供給され、前記レートコントローラの出力信号は前記量子化部の量子化スケールを前記選択された符号量に基づいて調整して、
    前記判定信号が前記中間バッファの前記データ蓄積量が大きいことを示す場合には、前記符号量セレクタの前記第1入力端子に供給される前記符号量推定部からの前記推定符号量が前記符号量セレクタの前記出力端子に出力され、前記量子化部の前記量子化スケールが前記推定符号量によって調整され、
    前記判定信号が前記中間バッファの前記データ蓄積量が小さいことを示す場合には、前記符号量セレクタの前記第2入力端子に供給される前記符号化部からの前記実符号量が前記符号量セレクタの前記出力端子に出力され、前記量子化部の前記量子化スケールが前記実符号量によって調整される
    動画像符号化装置。
  2. 請求項1において、
    前記符号化部は、算術符号化方式と可変長符号化方式との少なくともいずれか一方による符号化処理を実行する
    動画像符号化装置。
  3. 請求項2において、
    前記符号化部が前記算術符号化方式による符号化処理を実行する際に、前記中間バッファは、前記量子化部の前記量子化処理の処理速度と前記符号化部の前記算術符号化方式による前記符号化処理の処理速度との相違を吸収するものであり、
    前記符号化部が前記可変長符号化方式による符号化処理を実行する際に、前記中間バッファは、前記量子化部の前記量子化処理の処理速度と前記符号化部の前記可変長符号化方式による前記符号化処理の処理速度との相違を吸収する
    動画像符号化装置。
  4. 請求項1において、
    前記中間バッファの前記データ蓄積量が大きいか小さいかの判定は、前記データ蓄積量が所定のしきい値よりも大きいか、もしくは前記データ蓄積量が前記所定のしきい値よりも小さいかを判定することによって実行される
    動画像符号化装置。
  5. 請求項2において、
    前記符号化部は、指数ゴロム符号化部と可変長符号化処理部と算術符号化処理部とを含み、
    前記指数ゴロム符号化部は、符号化すべきシンタックス要素を、プリフィックスとセパレータとサフィックスとを含む指数ゴロム符号に符号化するものであり、
    前記可変長符号化処理部は、前記量子化部で量子化処理された前記周波数変換部の前記周波数変換処理の前記結果をジグザグ・スキャンにより一次元のベクトルに変換した後に、前記可変長符号化方式による前記符号化処理を実行するものであり、
    前記算術符号化処理部は、2値化部と2値算術符号化部とコンテキスト計算部とによって構成され、
    前記2値化部は多値入力信号から2値信号を生成して、前記2値信号は前記2値算術符号化部により符号化ビット列に符号化され、
    前記コンテキスト計算部は、符号化対象シンボルである前記2値信号の発生確率モデルを近傍シンボルの状況に応じて動的に計算・更新して、前記2値算術符号化部は、前記コンテキスト計算部により計算・更新された前記発生確率モデルに従って前記2値信号を前記符号化ビット列に符号化する
    動画像符号化装置。
  6. 請求項5において、
    前記中間バッファは、前記算術符号化処理部の内部で前記2値化部と前記2値算術符号化部との間に接続された
    動画像符号化装置。
  7. 請求項6において、
    前記符号量セレクタの前記第2入力端子には、前記算術符号化処理部の前記2値算術符号化部の実符号量が供給される
    動画像符号化装置。
  8. 周波数変換部と量子化部と符号化部と中間バッファと符号量推定部と符号量セレクタとレートコントローラとを具備する動画像符号化装置であって、
    前記周波数変換部は、入力信号の周波数変換処理を実行して、
    前記量子化部は、前記周波数変換部の前記周波数変換処理の結果に関して、量子化処理を実行して、
    前記符号化部が前記量子化部の前記量子化処理の結果に関して符号化処理を実行することによって、前記符号化部から圧縮ビデオビットストリームが生成され、
    前記中間バッファは、前記量子化部の出力端子と前記符号化部の入力端子との間に接続され、
    前記符号量推定部の入力端子は前記量子化部の前記出力端子に接続されて、前記符号量推定部の出力端子から生成される推定符号量が前記符号量セレクタの第1入力端子に供給され、
    前記符号量セレクタの第2入力端子には、前記符号化部により符号化される前記圧縮ビデオビットストリームの実符号量が供給され、
    前記符号量セレクタの選択制御端子には、前記中間バッファのデータ蓄積量が大きいか小さいかの判定信号が供給され、
    前記符号量セレクタの出力端子は前記レートコントローラの入力端子に接続されて、前記レートコントローラの出力信号は前記量子化部の量子化スケールを調整して、
    前記判定信号が前記中間バッファの前記データ蓄積量が大きいことを示す場合には、前記符号量セレクタの前記第1入力端子に供給される前記符号量推定部からの前記推定符号量が前記符号量セレクタの前記出力端子に出力され、前記量子化部の前記量子化スケールが前記推定符号量によって調整され、
    前記判定信号が前記中間バッファの前記データ蓄積量が小さいことを示す場合には、前記符号量セレクタの前記第2入力端子に供給される前記符号化部からの前記実符号量が前記符号量セレクタの前記出力端子に出力され、前記量子化部の前記量子化スケールが前記実符号量によって調整され、
    前記動画像符号化装置は、
    第1カウンタと第2カウンタとセレクタコントローラとを更に具備して、
    前記第1カウンタは、前記量子化部によって量子化処理される符号化処理単位の画像ブロックの番号をカウントすることによって、第1カウント値を保持して、
    前記第2カウンタは、前記符号化部によって符号化処理される符号化処理単位の画像ブロックの番号をカウントすることによって、第2カウント値を保持して、
    前記セレクタコントローラは、前記第1カウンタの前記第1カウント値と前記第2カウンタの前記第2カウント値との差を判定して、
    前記第1カウンタの前記第1カウント値と前記第2カウンタの前記第2カウント値との前記差が大きい場合には、前記セレクタコントローラは、前記符号化部の処理遅延または前記中間バッファの前記データ蓄積量が大きいと判定して、
    前記第1カウンタの前記第1カウント値と前記第2カウンタの前記第2カウント値との前記差が小さい場合には、前記セレクタコントローラは、前記符号化部の処理遅延または前記中間バッファの前記データ蓄積量が小さいと判定する
    動画像符号化装置。
  9. 請求項8において、
    前記量子化部で量子化処理される前記符号化処理単位の前記画像ブロックと前記符号化部で符号化処理される前記符号化処理単位の前記画像ブロックとは、輝度成分で16画素×16画素のサイズを有するマクロブロックである
    動画像符号化装置。
  10. 請求項8において、
    前記量子化部で量子化処理される前記符号化処理単位の前記画像ブロックと前記符号化部で符号化処理される前記符号化処理単位の前記画像ブロックは、フレキシブルなブロック構造であるコーディングユニットであり、
    前記コーディングユニットは、64画素×64画素のサイズの最大コーディングユニットから適応的に分割可能なブロックである
    動画像符号化装置。
  11. 請求項1乃至請求項10のいずれかにおいて、
    前記動画像符号化装置は、動きベクトル検出部と動き補償部と減算器と逆量子化部と逆周波数変換部とメモリとイントラ予測部と予測セレクタ部とを更に具備して、
    前記動きベクトル検出部は、符号化すべき動画像信号と前記メモリに格納された参照画像とから動きベクトルを生成して、
    前記動き補償部は、前記動きベクトル検出部から生成される前記動きベクトルと前記メモリに格納された前記参照画像とに応答して動き補償予測信号を生成して、
    前記減算器の一方の入力端子には前記動画像信号が供給され、前記減算器の他方の入力端子には前記動き補償部から生成される前記動き補償予測信号が供給され、前記減算器の出力端子から予測残差が生成され、
    前記減算器の前記出力端子から生成される前記予測残差が、前記周波数変換処理の前記入力信号として前記周波数変換部の入力端子に供給され、
    前記量子化部の前記量子化処理の結果は、前記逆量子化部と前記逆周波数変換部とによって局部復号処理が実行され、前記局部復号処理の結果は前記参照画像として前記メモリに格納され、
    前記逆量子化部と前記逆周波数変換部とにより実行される前記局部復号処理の前記結果は、イントラ参照画像として前記メモリに格納され、
    前記動画像信号が前記イントラ予測部の一方の入力端子に供給され、前記メモリに格納された前記イントラ参照画像が前記イントラ予測部の他方の入力端子に供給されることにより、前記イントラ予測部は前記一方の入力端子に供給される前記動画像信号に関するイントラ予測信号を生成して、
    前記予測セレクタ部は前記動き補償部から生成される前記動き補償予測信号と前記イントラ予測部から生成される前記イントラ予測信号とのいずれかの予測信号を選択して、前記減算器の前記他方の入力端子に選択した前記予測信号を供給する
    動画像符号化装置。
  12. 請求項1において、
    前記周波数変換部と前記量子化部と前記符号化部と前記中間バッファと前記符号量推定部と前記符号量セレクタと前記レートコントローラとは、半導体集積回路の1個の半導体チップに集積化された
    動画像符号化装置。
  13. 請求項12において、
    前記動きベクトル検出部と前記動き補償部と前記減算器と前記逆量子化部と前記逆周波数変換部と前記符号化部と前記イントラ予測部と前記予測セレクタ部とは、前記半導体集積回路の前記1個の半導体チップに更に集積化された
    動画像符号化装置。
  14. 請求項1において、
    前記動画像符号化装置は、規格H.264と規格H.265とから任意に選択された方式に準拠して前記動画像信号を符号化処理することによって、前記圧縮ビデオビットストリームを生成する
    動画像符号化装置。
  15. 周波数変換部と量子化部と符号化部と中間バッファと符号量推定部と符号量セレクタとレートコントローラとを具備する動画像符号化装置の動作方法であって、
    前記周波数変換部は、入力信号の周波数変換処理を実行して、
    前記量子化部は、前記周波数変換部の前記周波数変換処理の結果に関して、量子化処理を実行して、
    前記符号化部が前記量子化部の前記量子化処理の結果に関して符号化処理を実行することによって、前記符号化部から圧縮ビデオビットストリームが生成され、
    前記中間バッファは、前記量子化部の出力端子と前記符号化部の入力端子との間に接続され、
    前記符号量推定部の入力端子は前記量子化部の前記出力端子に接続されて、前記符号量推定部の出力端子から生成される推定符号量が前記符号量セレクタの第1入力端子に供給され、
    前記符号量セレクタの第2入力端子には、前記符号化部により符号化される前記圧縮ビデオビットストリームの実符号量が供給され、
    前記符号量セレクタの選択制御端子には、前記中間バッファのデータ蓄積量が大きいか小さいかの判定信号が供給され、
    前記符号量セレクタの出力端子は前記レートコントローラの入力端子に接続されて、前記判定信号に従って選択された符号量が前記レートコントローラに供給され、前記レートコントローラの出力信号は前記量子化部の量子化スケールを前記選択された符号量に基づいて調整して、
    前記判定信号が前記中間バッファの前記データ蓄積量が大きいことを示す場合には、前記符号量セレクタの前記第1入力端子に供給される前記符号量推定部からの前記推定符号量が前記符号量セレクタの前記出力端子に出力され、前記量子化部の前記量子化スケールが前記推定符号量によって調整され、
    前記判定信号が前記中間バッファの前記データ蓄積量が小さいことを示す場合には、前記符号量セレクタの前記第2入力端子に供給される前記符号化部からの前記実符号量が前記符号量セレクタの前記出力端子に出力され、前記量子化部の前記量子化スケールが前記実符号量によって調整される
    動画像符号化装置の動作方法。
  16. 請求項15において、
    前記符号化部は、算術符号化方式と可変長符号化方式との少なくともいずれか一方による符号化処理を実行する
    動画像符号化装置の動作方法。
  17. 請求項16において、
    前記符号化部が前記算術符号化方式による符号化処理を実行する際に、前記中間バッファは、前記量子化部の前記量子化処理の処理速度と前記符号化部の前記算術符号化方式による前記符号化処理の処理速度との相違を吸収するものであり、
    前記符号化部が前記可変長符号化方式による符号化処理を実行する際に、前記中間バッファは、前記量子化部の前記量子化処理の処理速度と前記符号化部の前記可変長符号化方式による前記符号化処理の処理速度との相違を吸収する
    動画像符号化装置の動作方法。
  18. 請求項15において、
    前記中間バッファの前記データ蓄積量が大きいか小さいかの判定は、前記データ蓄積量が所定のしきい値よりも大きいか、もしくは前記データ蓄積量が前記所定のしきい値よりも小さいかを判定することによって実行される
    動画像符号化装置の動作方法。
  19. 請求項16において、
    前記符号化部は、指数ゴロム符号化部と可変長符号化処理部と算術符号化処理部とを含み、
    前記指数ゴロム符号化部は、符号化すべきシンタックス要素を、プリフィックスとセパレータとサフィックスとを含む指数ゴロム符号に符号化するものであり、
    前記可変長符号化処理部は、前記量子化部で量子化処理された前記周波数変換部の前記周波数変換処理の前記結果をジグザグ・スキャンにより一次元のベクトルに変換した後に、前記可変長符号化方式による前記符号化処理を実行するものであり、
    前記算術符号化処理部は、2値化部と2値算術符号化部とコンテキスト計算部とによって構成され、
    前記2値化部は多値入力信号から2値信号を生成して、前記2値信号は前記2値算術符号化部により符号化ビット列に符号化され、
    前記コンテキスト計算部は、符号化対象シンボルである前記2値信号の発生確率モデルを近傍シンボルの状況に応じて動的に計算・更新して、前記2値算術符号化部は、前記コンテキスト計算部により計算・更新された前記発生確率モデルに従って前記2値信号を前記符号化ビット列に符号化する
    動画像符号化装置の動作方法。
  20. 請求項19において、
    前記中間バッファは、前記算術符号化処理部の内部で前記2値化部と前記2値算術符号化部との間に接続された
    動画像符号化装置の動作方法。
  21. 請求項1において、
    前記符号量セレクタの選択制御端子には、前記符号化部の処理遅延の大小を判定する信号が供給され、
    前記中間バッファに蓄積されたデータ量が大きいときに前記処理遅延は大きいと判定され、
    前記中間バッファに蓄積されたデータ量が小さいときに前記処理は小さいと判定され、
    前記判定信号は、前記符号化部の前記処理遅延の大小を判定するために、前記符号量セレクタの前記選択制御端子に接続され、
    前記推定符号量は、前記符号化部の処理遅延なしに、前記量子化部の量子化スケールを調整するために使用される
    動画像符号化装置。
JP2013207144A 2013-10-02 2013-10-02 動画像符号化装置およびその動作方法 Expired - Fee Related JP6212345B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2013207144A JP6212345B2 (ja) 2013-10-02 2013-10-02 動画像符号化装置およびその動作方法
CN201410513519.XA CN104519354B (zh) 2013-10-02 2014-09-29 视频编码器及其操作方法
EP14187252.3A EP2858365B1 (en) 2013-10-02 2014-10-01 Video encoder and method of operating the same
KR20140132559A KR20150039582A (ko) 2013-10-02 2014-10-01 동화상 부호화 장치 및 그 동작 방법
US14/505,369 US9961346B2 (en) 2013-10-02 2014-10-02 Video encoder and method of operating the same
US15/933,844 US20180213230A1 (en) 2013-10-02 2018-03-23 Video encoder and method of operating the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013207144A JP6212345B2 (ja) 2013-10-02 2013-10-02 動画像符号化装置およびその動作方法

Publications (2)

Publication Number Publication Date
JP2015073177A JP2015073177A (ja) 2015-04-16
JP6212345B2 true JP6212345B2 (ja) 2017-10-11

Family

ID=51661912

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013207144A Expired - Fee Related JP6212345B2 (ja) 2013-10-02 2013-10-02 動画像符号化装置およびその動作方法

Country Status (5)

Country Link
US (2) US9961346B2 (ja)
EP (1) EP2858365B1 (ja)
JP (1) JP6212345B2 (ja)
KR (1) KR20150039582A (ja)
CN (1) CN104519354B (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3061233B1 (en) 2013-10-25 2019-12-11 Microsoft Technology Licensing, LLC Representing blocks with hash values in video and image coding and decoding
CN105684441B (zh) 2013-10-25 2018-09-21 微软技术许可有限责任公司 视频和图像编码中的基于散列的块匹配
KR101994870B1 (ko) * 2014-01-03 2019-07-01 지이 비디오 컴프레션, 엘엘씨 웨지렛 기반 코딩 개념
CN105556971B (zh) 2014-03-04 2019-07-30 微软技术许可有限责任公司 针对帧内块复制预测中的块翻动和跳跃模式的编码器侧判定
US10567754B2 (en) 2014-03-04 2020-02-18 Microsoft Technology Licensing, Llc Hash table construction and availability checking for hash-based block matching
KR102287779B1 (ko) 2014-06-23 2021-08-06 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 해시 기반의 블록 매칭의 결과에 기초한 인코더 결정
EP3416386B1 (en) 2014-09-30 2021-01-13 Microsoft Technology Licensing, LLC Hash-based encoder decisions for video coding
JP6453652B2 (ja) * 2015-01-09 2019-01-16 株式会社東芝 映像伝送システム
CN104967453B (zh) * 2015-06-24 2018-01-05 西北工业大学 基于fpga的多路循环数据压缩器和解压缩器以及方法
US11076153B2 (en) * 2015-07-31 2021-07-27 Stc.Unm System and methods for joint and adaptive control of rate, quality, and computational complexity for video coding and video delivery
US10142652B2 (en) * 2016-05-05 2018-11-27 Google Llc Entropy coding motion vector residuals obtained using reference motion vectors
WO2018030291A1 (ja) * 2016-08-10 2018-02-15 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
US10390039B2 (en) * 2016-08-31 2019-08-20 Microsoft Technology Licensing, Llc Motion estimation for screen remoting scenarios
US11095877B2 (en) 2016-11-30 2021-08-17 Microsoft Technology Licensing, Llc Local hash-based motion estimation for screen remoting scenarios
US10142633B2 (en) * 2016-12-21 2018-11-27 Intel Corporation Flexible coding unit ordering and block sizing
KR101960470B1 (ko) 2017-02-24 2019-07-15 주식회사 칩스앤미디어 오프라인 cabac을 지원하는 비디오 코딩 프로세스의 비트 예측 기반 비트 레이트 컨트롤 방법 및 그 장치
EP3672242B1 (en) * 2018-12-21 2021-08-18 Axis AB A method of encoding a video sequence
WO2020185039A1 (ko) * 2019-03-14 2020-09-17 엘지전자 주식회사 레지듀얼 코딩 방법 및 장치
US11202085B1 (en) 2020-06-12 2021-12-14 Microsoft Technology Licensing, Llc Low-cost hash table construction and hash-based block matching for variable-size blocks
KR102415309B1 (ko) * 2020-06-16 2022-07-01 에스케이하이닉스 주식회사 인터페이스 장치 및 그 동작 방법

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5587735A (en) * 1991-07-24 1996-12-24 Hitachi, Ltd. Video telephone
JPH0530502A (ja) * 1991-07-24 1993-02-05 Hitachi Ltd 一体型テレビ電話機
JPH0723385A (ja) * 1993-06-21 1995-01-24 Nec Corp 高能率符号化装置
JP3755155B2 (ja) * 1994-09-30 2006-03-15 ソニー株式会社 画像符号化装置
TW509849B (en) * 1997-06-16 2002-11-11 Matsushita Electric Ind Co Ltd The image processing device and the image processing method
JP4063202B2 (ja) * 2003-11-20 2008-03-19 セイコーエプソン株式会社 画像データ圧縮装置及びエンコーダ
US9071846B2 (en) * 2003-12-25 2015-06-30 Nec Corporation Moving picture encoding method and apparatus for performing a multi-frame motion prediction with reference to a plurality of picture frames
US20060062481A1 (en) * 2004-09-21 2006-03-23 Markus Suvanto Apparatuses, computer program product and method for bit rate control of digital image encoder
CN102892001A (zh) * 2004-11-09 2013-01-23 松下电器产业株式会社 转换成中间格式的两步算术解码
JP4828925B2 (ja) * 2005-11-30 2011-11-30 パナソニック株式会社 符号化装置
JP4795223B2 (ja) * 2006-01-31 2011-10-19 キヤノン株式会社 画像処理装置
US7486211B2 (en) * 2007-04-13 2009-02-03 Apple Inc. Method and system for entropy coding
JP2009038746A (ja) * 2007-08-03 2009-02-19 Panasonic Corp 画像情報符号化装置
JP4513841B2 (ja) * 2007-08-28 2010-07-28 ソニー株式会社 符号化装置、符号化方法、符号化方法のプログラム及び符号化方法のプログラムを記録した記録媒体
JP2011061320A (ja) * 2009-09-07 2011-03-24 Sony Corp 動き補償装置、符号化装置、復号装置、これらにおける処理方法およびプログラム
CN103765903B (zh) * 2012-01-18 2017-09-01 松下知识产权经营株式会社 图像解码装置、图像编码装置、图像解码方法及图像编码方法

Also Published As

Publication number Publication date
US20180213230A1 (en) 2018-07-26
KR20150039582A (ko) 2015-04-10
EP2858365A3 (en) 2015-04-22
US20150092840A1 (en) 2015-04-02
JP2015073177A (ja) 2015-04-16
US9961346B2 (en) 2018-05-01
CN104519354A (zh) 2015-04-15
EP2858365B1 (en) 2016-12-14
CN104519354B (zh) 2019-06-11
EP2858365A2 (en) 2015-04-08

Similar Documents

Publication Publication Date Title
JP6212345B2 (ja) 動画像符号化装置およびその動作方法
CN105379284B (zh) 动态图像编码装置及其动作方法
JP5893002B2 (ja) ビデオ符号化におけるレート制御
JP6120707B2 (ja) 動画像符号化装置およびその動作方法
US20090238277A1 (en) Processing Video Data At A Target Rate
CN103152579A (zh) 用于视频编码及解码的环内自适应维纳滤波器
KR20040054776A (ko) 고레벨 화소-그리드 모션 보상을 사용하여 복잡성을감소시키기 위한 디코딩
JP2006222968A (ja) 画面間又は画面内符号化モードの動画像符号化方法及び装置
US20070133689A1 (en) Low-cost motion estimation apparatus and method thereof
TW201330624A (zh) 用於數位視訊處理的裝置及視訊處理器的操作方法
JP4945513B2 (ja) 可変長復号装置およびそれを用いた動画復号装置
US10142625B2 (en) Neighbor management for use in entropy encoding and methods for use therewith
JP3599942B2 (ja) 動画像符号化方法、及び動画像符号化装置
JP2008160402A (ja) 符号化装置及び方法並びに画像符号化装置
JP4911625B2 (ja) 画像処理装置、およびそれを搭載した撮像装置
JP2008289105A (ja) 画像処理装置およびそれを搭載した撮像装置
JP2005348207A (ja) 符号化装置、およびプログラム
RU2772813C1 (ru) Видеокодер, видеодекодер и соответствующие способы кодирования и декодирования
JP6234770B2 (ja) 動画像復号処理装置、動画像符号化処理装置およびその動作方法
JP2009147751A (ja) 画像処理装置、およびそれを搭載した撮像装置
US20090154549A1 (en) Direct mode module with motion flag precoding and methods for use therewith
JP2008245237A (ja) 画像処理方法、画像処理装置およびそれを用いた撮像装置
JP2017063347A (ja) 多視点画像符号化装置、多視点画像符号化方法、及びプログラム
KR20150139354A (ko) 비디오 부호화/복호화를 위한 인터 예측 방법 및 장치
JP2005191898A (ja) 動き補償符号化方法及び動き補償符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160927

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20170330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170523

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170829

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170915

R150 Certificate of patent or registration of utility model

Ref document number: 6212345

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees