JP6210396B2 - 復号方法および復号装置 - Google Patents

復号方法および復号装置 Download PDF

Info

Publication number
JP6210396B2
JP6210396B2 JP2016188890A JP2016188890A JP6210396B2 JP 6210396 B2 JP6210396 B2 JP 6210396B2 JP 2016188890 A JP2016188890 A JP 2016188890A JP 2016188890 A JP2016188890 A JP 2016188890A JP 6210396 B2 JP6210396 B2 JP 6210396B2
Authority
JP
Japan
Prior art keywords
context
decoding
signal
unit
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016188890A
Other languages
English (en)
Other versions
JP2017034699A (ja
Inventor
寿郎 笹井
寿郎 笹井
西 孝啓
孝啓 西
陽司 柴原
陽司 柴原
敏康 杉尾
敏康 杉尾
Original Assignee
サン パテント トラスト
サン パテント トラスト
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by サン パテント トラスト, サン パテント トラスト filed Critical サン パテント トラスト
Publication of JP2017034699A publication Critical patent/JP2017034699A/ja
Application granted granted Critical
Publication of JP6210396B2 publication Critical patent/JP6210396B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/40Conversion to or from variable length codes, e.g. Shannon-Fano code, Huffman code, Morse code
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/40Conversion to or from variable length codes, e.g. Shannon-Fano code, Huffman code, Morse code
    • H03M7/4006Conversion to or from arithmetic code
    • H03M7/4012Binary arithmetic codes
    • H03M7/4018Context adapative binary arithmetic codes [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Description

本発明は、画像符号化方法、画像復号方法、画像符号化装置及び画像復号装置に関し、特に、算術符号化及び算術復号を行う画像符号化方法、画像復号方法、画像符号化装置、画像復号装置及び画像符号化復号装置に関する。
近年、インターネットを介したビデオ会議、デジタルビデオ放送及び映像コンテンツのストリーミングを含む、例えば、ビデオ・オン・デマンドタイプのサービスのためのアプリケーションの数が増えている。これらのアプリケーションでは、かなりのデータ量のデジタルデータからなる映像データを、伝送チャネルを介して伝送し、記憶媒体に記憶している。しかし、従来の伝送路はバンド幅が限られ、記憶媒体は記憶容量が限られている。このため、従来の伝送チャネルに映像データを伝送し、従来の記憶媒体に記憶するためには、映像データのデータ量を圧縮または削減することが不可欠である。
そこで、映像データの圧縮のために、複数の映像符号化規格が開発されている。このような映像符号化規格には、例えば、H.26xで示されるITU−T(国際電気通信連合電気通信標準化部門)規格、及び、MPEG−xで示されるISO/IEC規格がある。最新かつ最も進んだ映像符号化規格は、現在、H.264/AVC、または、MPEG−4 AVCで示される規格である(非特許文献1及び非特許文献2参照)。
H.264/AVC規格におけるデータ圧縮処理は、大きく分けると、予測、変換、量子化、エントロピー符号化という処理で構成される。この中でエントロピー符号化は、予測に用いられる情報や、量子化された情報から冗長な情報を削減する。エントロピー符号化としては、可変長符号化、適応符号化、固定長符号化等が知られている。可変長符号化にはハフマン符号化、ランレングス符号化、算術符号化等がある。このうち、算術符号化は、シンボル発生確率を特定するためのコンテキストを用いて出力符号を決める方式であり、画像データの特徴に応じてコンテキストを切替えるため、固定した符号化テーブルを使用するハフマン符号化等に比べて符号化効率が高いことが知られている。
ISO/IEC 14496−10 「MPEG−4 Part10 Advanced Video Coding」 Thomas Wiegand et al、"Overview of the H.264/AVC Video Coding Standard"、IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY、JULY 2003、PP.560−576.
しかしながら、従来の算術符号化処理では、符号化効率が十分でないという問題がある。
そこで、本発明は、上記従来の課題を解決するためになされたものであって、符号化効率を向上させることができる画像符号化方法、画像符号化装置、画像復号方法、画像復号装置及び画像符号化復号装置を提供することを目的とする。
上記の課題を解決するために、本発明に係る復号方法は、互いに異なるサイズの複数の処理単位を含む符号化画像データを復号する復号方法であって、前記符号化画像データの処理単位に含まれる復号対象信号を取得する復号対象信号取得ステップと、複数のコンテキストセットから、前記復号対象信号のコンテキストセットを選択するコンテキストセット選択ステップと、前記コンテキストセット選択ステップで選択した前記コンテキストセットに対応付けられた復号確率情報を用いて、前記復号対象信号を算術復号することで、2値信号を生成する算術復号ステップと、前記2値信号に基づいて、前記符号化画像データを復号する復号ステップと、前記2値信号に基づいて、前記コンテキストセット選択ステップで選択した前記コンテキストセットに対応付けられた前記復号確率情報を更新する更新ステップと、を含み、前記コンテキストセット選択ステップでは、前記処理単位のサイズが、16×16、または、32×32の場合には、共通の前記コンテキストセットを選択し、前記処理単位のサイズが16×16よりも小さい場合には、前記処理単位のサイズ別に異なる前記コンテキストセットを選択する。
また、上記の課題を解決するために、本発明に係る画像符号化方法は、互いに異なるサイズの複数の処理単位を含む画像データを圧縮符号化する画像符号化方法であって、前記画像データの処理単位に含まれる符号化対象信号を取得する符号化対象信号取得ステップ(S401)と、前記符号化対象信号を2値化することで、2値信号を生成する2値化ステップ(S402)と、複数のコンテキストセットから、前記符号化対象信号のコンテキストセットを選択するコンテキストセット選択ステップ(S403)と、前記コンテキストセット選択ステップで選択した前記コンテキストセットに対応付けられた符号化確率情報を用いて、前記2値信号を算術符号化する算術符号化ステップ(S404)と、前記2値化ステップで生成した前記2値信号に基づいて、前記コンテキストセット選択ステップで選択した前記コンテキストセットに含まれる前記符号化確率情報を更新する更新ステップ(S405)と、を含み、前記コンテキストセット選択ステップでは、前記処理単位のサイズが、16×16、または、32×32の場合には、共通の前記コンテキストセットを選択し、前記処理単位のサイズが16×16よりも小さい場合には、前記処理単位のサイズ別に異なる前記コンテキストセットを選択する。
例えば、同一の統計的性質を持つ符号化対象信号に対しては、同じコンテキストを適用可能である。このため、上記本発明に係る画像符号化方法では、処理単位サイズが異なっていても、同一の統計的性質を持つ符号化対象信号に対しては、同じコンテキストを共通に選択する。これにより、利用するコンテキストの数を減らすことができる。コンテキストの数を低減できることから、コンテキストを記憶するメモリのメモリサイズを低減できる。尚、本発明に係る画像符号化方法は、コンテキストの全てを異なる処理単位サイズ間で用いるように構成する必要はなく、コンテキストの一部については、特定の処理単位サイズのみで用いられるように構成しても良い。
また、従来は、コンテキストを、処理単位サイズ別、及び、係数位置または周囲条件別に設定していたため、コンテキストの数が多くなっていた。コンテキストの数が多いと、符号化確率情報に対する更新ステップの実行回数の少ないコンテキストが生じ、当該コンテキストに対応する符号化確率情報の精度が担保できない可能性があった。これに対し、上記本発明に係る画像符号化方法では、上述したように、コンテキストの数を低減できるため、共通に選択されるコンテキストの更新ステップの実行回数を増やすことができ、符号化確率情報の予測の精度を高めることが可能になる。符号化確率情報の精度を高めることが可能になることから、符号化効率の向上を図ることができる。
さらに好ましくは、本発明に係る画像符号化方法の一態様は、前記コンテキスト選択ステップでは、前記符号化対象信号取得ステップで取得した前記符号化対象信号の処理単位サイズが所定サイズよりも大きい場合に、予め共通に設定された前記コンテキストを選択してもよい。
ここで、一般的に、処理単位サイズが比較的大きい場合は、周囲条件に応じてコンテキストを選択することから、統計的性質がほぼ同じになり、同じ共通のコンテキストを利用可能である。従って、上記本発明に係る画像符号化方法の一態様では、処理単位サイズが所定サイズより大きい場合に、共通のコンテキストを用いるので、コンテキストの数を削減できる。これにより、処理単位サイズが所定サイズより大きい場合について、符号化確率情報の予測の精度を高めることができ、符号化効率を向上させることが可能となる。
さらに好ましくは、本発明に係る画像符号化方法の一態様は、さらに、前記画像データを周波数変換し、周波数成分別に変換係数を取得し、前記変換係数別に前記変換係数を示す前記符号化対象信号を生成する周波数変換ステップを含み、前記コンテキスト選択ステップでは、前記符号化対象信号に対応する前記周波数成分が、所定周波数より低い前記周波数成分である場合は、前記処理単位サイズ別に異なる前記コンテキストを選択してもよい。また、さらに好ましくは、本発明に係る画像符号化方法の一態様は、さらに、前記画像データを周波数変換し、周波数成分別に変換係数を取得し、前記変換係数別に前記変換係数を示す前記符号化対象信号を生成する周波数変換ステップを含み、前記コンテキスト選択ステップでは、前記符号化対象信号に対応する前記周波数成分が、所定周波数より高い前記周波数成分である場合は、複数の前記処理単位サイズ及び前記所定周波数より高い前記周波数成分で予め共通に設定された前記コンテキストを選択してもよい。
これにより、画像データの特徴に応じたコンテキストの選択が可能になる。
さらに、本発明に係る画像符号化方法の一態様は、さらに、前記画像データを、複数の同一のサブ処理単位サイズのサブブロックに分割する分割ステップを含み、前記2値化ステップは、前記サブブロックの前記符号化対象信号を2値化して前記2値信号を生成し、前記コンテキスト選択ステップでは、前記サブ処理単位サイズに対して予め設定された前記コンテキストを選択してもよい。サブブロックのサイズに応じてコンテキストを設定することにより、ブロックサイズが大きい場合及び小さい場合の何れも同じコンテキストを適用可能になる。
上記の課題を解決するために、本発明に係る画像復号方法は、互いに異なるサイズの複数の処理単位を含む符号化画像データを復号して画像データを復元する画像復号方法であって、前記符号化画像データの処理単位に含まれる復号対象信号を取得する復号対象信号取得ステップ(S501)と、複数のコンテキストから、前記復号対象信号のコンテキストを選択するコンテキスト選択ステップ(S502)と、前記コンテキスト選択ステップで選択した前記コンテキストに対応付けられた復号確率情報を用いて、前記復号対象信号を算術復号することで、2値信号を生成する算術復号ステップ(S503)と、前記2値信号を多値化することで、前記画像データを復元する多値化ステップ(S504)と、前記2値信号に基づいて、前記コンテキスト選択ステップで選択した前記コンテキストに対応付けられた前記復号確率情報を更新する更新ステップ(S505)と、を含み、前記コンテキスト選択ステップでは、前記復号対象信号の前記コンテキストを、前記処理単位のサイズと異なるサイズの処理単位に含まれる信号と共通に選択する。
これにより、本発明に係る画像符号化方法により符号化された符号化画像データを適切に復号できる。また、本発明に係る画像符号化方法の場合と同様に、コンテキストの数を低減できる。そして、コンテキストに対する更新ステップの実行回数を増やすことができ、復号確率情報の予測の精度を高めることが可能になる。
さらに好ましくは、本発明に係る画像復号方法の一態様は、前記コンテキスト選択ステップでは、前記復号対象信号取得ステップで取得した前記復号対象信号の処理単位サイズが所定サイズよりも大きい場合に、予め共通に設定された前記コンテキストを選択してもよい。
これにより、処理単位サイズが所定サイズより大きい場合に、共通のコンテキストを用いるので、コンテキストの数を削減できる。これにより、処理単位サイズが所定サイズより大きい場合について、符号化確率情報の予測の精度を高めることができ、符号化効率を向上させることが可能となる。
さらに好ましくは、本発明に係る画像復号方法の一態様は、前記コンテキスト選択ステップでは、前記復号対象信号が、前記符号化画像データの生成時における周波数変換により生成された周波数成分別の変換係数を示す信号である場合において、前記復号対象信号に対応する前記周波数成分が、所定周波数より低い前記周波数成分であるときは、前記処理単位サイズ別に異なる前記コンテキストを選択してもよい。また、さらに好ましくは、本発明に係る画像復号方法の一態様は、前記コンテキスト選択ステップでは、前記復号対象信号が、前記符号化画像データの生成時における周波数変換により生成された周波数成分別の変換係数を示す信号である場合において、前記復号対象信号に対応する前記周波数成分が、所定周波数より高い前記周波数成分である場合は、複数の前記処理単位サイズ及び前記所定周波数より高い前記周波数成分で予め共通に設定された前記コンテキストを選択してもよい。
これにより、画像データの特徴に応じたコンテキストの選択が可能になる。
さらに好ましくは、本発明に係る画像復号方法の一態様は、前記符号化画像データが、前記画像データを複数の同一のサブ処理単位サイズのサブブロックに分割し、前記サブブロックを2値化し、算術符号化して生成されたデータである場合に、前記コンテキスト選択ステップでは、前記サブ処理単位サイズに対して予め設定された前記コンテキストを選択してもよい。
サブブロックのサイズに応じてコンテキストを設定することにより、ブロックサイズが大きい場合及び小さい場合の何れも同じコンテキストを適用可能になる。
尚、本発明は、画像符号化方法として実現できるだけではなく、当該画像符号化方法に含まれる処理ステップを実行する処理部を備える画像符号化装置として実現することもできる。同様に、本発明は、画像復号方法として実現できるだけではなく、当該画像復号方法に含まれる処理ステップを実行する処理部を備える画像復号装置として実現することもできる。さらに、本発明は、上記画像符号化方法及び画像復号方法の両方に含まれる処理ステップを実行する処理部を備える画像符号化復号装置として実現することもできる。
また、これら処理ステップをコンピュータに実行させるプログラムとして実現してもよい。さらに、当該プログラムを記録したコンピュータ読み取り可能なCD−ROM(Compact Disc−Read Only Memory)等の記録媒体、並びに、当該プログラムを示す情報、データまたは信号として実現してもよい。そして、それらプログラム、情報、データ及び信号は、インターネット等の通信ネットワークを介して配信してもよい。
また、上記の画像符号化装置及び画像復号装置を構成する構成要素の一部または全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されていてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM及びRAM(Random Access Memory)等を含んで構成されるコンピュータシステムである。
本発明によれば、精度の高いシンボル発生確率の予測を行うことができるため、画像符号化効率を向上させることができる。
図1は、従来技術に係る算術符号化装置の構成を示すブロック図である。 図2は、従来技術に係る算術符号化方法を示すフローチャートである。 図3は、本発明に係る画像符号化装置の算術符号化部の構成の一例を示すブロック図である。 図4は、本発明に係る画像符号化方法及び画像符号化装置で用いる信号情報テーブルの一例を示す図である。 図5Aは、本発明に係る画像符号化方法及び画像符号化装置で用いるコンテキストテーブルの一例を示すブロック図である。 図5Bは、本発明に係る画像符号化方法及び画像符号化装置で用いるコンテキストテーブルの一例を示すブロック図である。 図5Cは、本発明に係る画像符号化方法及び画像符号化装置で用いるコンテキストテーブルの一例を示すブロック図である。 図6は、本発明に係る画像符号化方法における算術符号化方法の処理手順を示すフローチャートである。 図7は、本発明に係る画像符号化方法における算術符号化方法の処理手順の一例を示すフローチャートである。 図8は、本発明に係る画像符号化方法及び画像符号化装置を構成するコンテキストブロック区分制御部における処理手順の一例を示すフローチャートである。 図9は、本発明に係る画像符号化方法及び画像符号化装置を構成するコンテキストブロック区分制御部における処理手順の一例を示すフローチャートである。 図10Aは、本発明に係る画像符号化方法及び画像符号化装置を構成するコンテキストブロック区分制御部における処理手順の一例を示すフローチャートである。 図10Bは、本発明に係る画像符号化方法及び画像符号化装置を構成するコンテキストブロック区分制御部における処理手順の一例を示すフローチャートである。 図11は、本発明に係る画像符号化方法及び画像符号化装置における周囲条件の算出方法を説明する模式図である。 図12は、本発明に係る画像符号化装置の全体構成の一例を示すブロック図である。 図13は、本発明に係る画像復号装置の算術復号部の構成の一例を示すブロック図である。 図14は、本発明に係る画像復号方法における算術復号方法の処理手順を示すフローチャートである。 図15は、本発明に係る画像復号方法における算術復号方法の一例を示すフローチャートである。 図16は、本発明に係る画像符号化装置全体構成の一例を示すブロック図である。 図17は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成図である。 図18は、デジタル放送用システムの全体構成図である。 図19は、テレビの構成例を示すブロック図である。 図20は、光ディスクである記録メディアに情報の読み書きを行う情報再生/記録部の構成例を示すブロック図である。 図21は、光ディスクである記録メディアの構造例を示す図である。 図22Aは、携帯電話の一例を示す図である。 図22Bは、携帯電話の構成例を示すブロック図である。 図23は、多重化データの構成を示す図である。 図24は、各ストリームが多重化データにおいてどのように多重化されているかを模式的に示す図である。 図25は、PESパケット列に、ビデオストリームがどのように格納されるかをさらに詳しく示した図である。 図26は、多重化データにおけるTSパケットとソースパケットの構造を示す図である。 図27は、PMTのデータ構成を示す図である。 図28は、多重化データ情報の内部構成を示す図である。 図29は、ストリーム属性情報の内部構成を示す図である。 図30は、映像データを識別するステップを示す図である。 図31は、各実施の形態の動画像符号化方法及び動画像復号化方法を実現する集積回路の構成例を示すブロック図である。 図32は、駆動周波数を切替える構成を示す図である。 図33は、映像データを識別し、駆動周波数を切替えるステップを示す図である。 図34は、映像データの規格と駆動周波数を対応づけたルックアップテーブルの一例を示す図である。 図35Aは、信号処理部のモジュールを共有化する構成の一例を示す図である。 図35Bは、信号処理部のモジュールを共有化する構成の他の一例を示す図である。
本発明の実施の形態を説明するにあたり、最初に、従来の画像符号化装置の基本構成及び画像符号化方法について説明する。
従来の画像符号化装置は、画像データの符号化対象信号に対し、予測、変換・量子化、エントロピー符号化で構成される圧縮符号化処理を実行する。
以下、画像符号化装置のうちのエントロピー符号化について、図1及び図2を基に説明する。ここでは、エントロピー符号化として、算術符号化を説明する。
図1は、従来の算術符号化方法を実行する算術符号化部の構成を示すブロック図であり、図2は、従来のH.264/AVC規格における算術符号化方法(エントロピー符号化の一例)の処理手順を示すフローチャートである。
図1に示すように、算術符号化部10は、2値化部11と、シンボル発生確率格納部12と、コンテキスト制御部13と、2値算術符号化器14とを含んでいる。
算術符号化部10には、符号化の対象となる符号化対象信号である入力信号SIと、当該入力信号SIの種別を表す信号種別情報SEと、入力信号SIのブロックサイズを示すブロックサイズ信号BLKSとが入力される。以下、入力信号SIが、画像データを量子化して生成された量子化係数がゼロであるか、非ゼロであるかを示す信号である場合を想定して説明する。
2値化部11は、信号種別情報SEに基づいて、入力信号SIを“0”、“1”の2値の情報(シンボル)に変換する2値化処理(Binarization)を実行し、2値信号BINを2値算術符号化器14とコンテキスト制御部13とに送る。
シンボル発生確率格納部12は、1つの信号情報テーブルと、ブロックサイズ別、条件別の複数のコンテキストを記憶したコンテキストテーブルとを記憶している。
信号情報テーブルは、コンテキストと、シンボル発生確率PEを示す確率情報と、シンボルを対応付けて記憶したテーブルである。シンボル発生確率PEは、後述する2値算術符号化器104の処理で用いる確率情報である。
ここで、図4は、信号情報テーブルの一例を示しており、インデックスctxIdx、発生確率pStateIdx、発生確率の高いシンボル(Most Probable Symbol)を示すシンボルvalMPSが対応付けられている。インデックスctxIdxは、コンテキストを表している。また、確率情報pStateIdxとシンボルvalMPSは、H.264規格に示されるものと同じである。すなわち、確率情報pStateIdxは、シンボル発生確率PEの値を示すインデックスである。シンボル発生確率格納部12は、図示しないが、さらに、確率情報pStateIdxに対応するシンボル発生確率PEの値を示す発生確率テーブルを保持している。
コンテキストテーブルは、ブロックサイズBLKS別、条件別に、コンテキストctxIdxを記憶したテーブルである。条件は、ここでは、符号化対象信号の量子化係数の係数位置に応じて決まる。
ここで、図5Aは、従来のコンテキストテーブルの一例を示すブロック図である。具体的には、例えば、テーブル1では、低周波数成分に相当する係数位置を示す条件10に対し、コンテキストctxIds0が設定され、低周波数成分に相当する係数位置を示す条件11に対し、コンテキストctxIds1が設定され、高周波数成分に相当する周囲条件を示す条件12,13に対し、コンテキストctxIds2が設定されている。また、例えば、テーブル2では、低周波数成分に相当する係数位置を示す条件4,5に対し、コンテキストctxIds14が設定され、高周波数成分に相当する周囲条件を示す条件6,7に対し、コンテキストctxIds15が設定されている。
尚、テーブル1は、ブロックサイズA、例えば、4×4のブロックサイズに対して用いられ、テーブル2は、ブロックサイズB、例えば、8×8のブロックサイズに対して用いられる場合を想定している。図5Aに示すように、テーブル1で用いられるコンテキストctxIdxの値0,1,2は、テーブル2では用いられていない。テーブル1及びテーブル2は、夫々異なるブロックサイズに対応することから、異なるブロックサイズ間では、異なるコンテキストctxIdxを設定している。
コンテキスト制御部13は、ブロックサイズ信号BLKSが示すブロックサイズと信号種別情報SEで決まる条件とに対応するシンボル発生確率PEを、シンボル発生確率格納部12から読み出して2値算術符号化器14に出力させるコンテキスト制御処理を行う。また、コンテキスト制御部13は、2値化部11から入力される2値信号BINに基づいて、新たなシンボル発生確率PEを算出する。コンテキスト制御部13は、コンテキスト制御処理の実行後、シンボル発生確率格納部12に記憶されたコンテキストctxIdxのうち、コンテキスト制御処理で特定したシンボル発生確率PEを、新たなシンボル発生確率PEに置き換えることで、更新処理を行う。
2値算術符号化器14は、2値化部11から入力される2値信号BINに対し、コンテキスト制御部13によって読み出されたシンボル発生確率PEに基づいて算術符号化処理を行い、出力信号OBを生成して出力する。
次に、図2を用いて、算術符号化の処理手順の流れを説明する。
算術符号化部10は、入力信号SI、ブロックサイズ信号BLKS、信号種別情報SEを受け付けると、算術符号化処理を開始する。
算術符号化処理が開始されると、ステップS11において、2値化部11は、信号種別情報SEに応じて、予め決められた手法で2値化処理を実行する。
ステップS12において、コンテキスト制御部13が、ブロックサイズ信号BLKSに基づいて、入力信号SIのブロックサイズを取得し、信号種別情報SEに基づいて、係数位置を条件として取得する。さらに、コンテキスト制御部13は、シンボル発生確率格納部12に記憶されたコンテキストテーブルから、入力信号SIのブロックサイズと条件とに対応するコンテキストctxIdxを特定する。さらに、特定したコンテキストctxIdxを用い、図4に示す信号情報テーブルからシンボル発生確率PEを特定し、シンボル発生確率格納部12から2値算術符号化器に対して出力させる(コンテキスト制御処理)。
ステップS13において、2値算術符号化器14が、ステップS12においてシンボル発生確率格納部12より受け取ったシンボル発生確率PEを用いて、2値信号BINに対し算術符号化処理を行い、結果を出力信号OBとして出力する。
ステップS14において、コンテキスト制御部13は、ステップS11において2値化部11が算出した2値化信号BINに基づいて、新たなシンボル発生確率PEを算出し、シンボル発生確率格納部12に記憶された信号情報テーブルの対応する発生確率pStateIdxの値を更新する。尚、図示しないが、入力信号SIに対する算術符号化処理が完了すると、次の処理対象の信号の算術符号化処理を行う。
ところで、上記図1及び図2に示す従来の技術では、上述したように、ブロックサイズ別、条件別に、コンテキストが設定されている。つまり、非常に細かい区分別に、コンテキストが設定されている。
しかしながら、非常に細かい区分をした場合、シンボル発生確率PEの更新処理の発生頻度が低いコンテキストが生じる可能性が高い。更新処理の発生頻度が低いコンテキストでは、シンボル発生確率PEの精度が低下し、算術符号化処理の利点である画像データの特徴に適応した制御が困難になり、符号化効率が悪化する。
このため、シンボル発生確率PEの精度を高め、画像データの特徴に応じた制御を行うためには、区分を適切に設定する必要がある。
さらに、従来の映像符号化規格では、4×4、8×8の限られたブロックサイズのみに対応していたが、近年、16×16、32×32、・・・等の他のブロックサイズについても対応することが求められている。ブロックサイズの数が増加すると、コンテキストの数が相当増加することになるため、シンボル発生確率PEの更新頻度はさらに低下する可能性があるという問題があった。
以下、本発明の実施の形態について、図面を参照しながら説明する。尚、以下で説明する実施の形態は、いずれも本発明の好ましい一具体例を示す。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序等は、一例であり、本発明を限定する主旨ではない。本発明は、請求の範囲だけによって限定される。よって、以下の実施の形態における構成要素のうち、本発明の最上位概念を示す独立請求項に記載されていない構成要素については、本発明の課題を達成するのに必ずしも必要ではないが、より好ましい形態を構成するものとして説明される。
(実施の形態1)
本発明に係る画像符号化方法及び画像符号化装置の実施の形態1について、図3〜図8を基に説明する。
本発明に係る画像符号化方法は、画像データの符号化対象信号に対し、予測、変換・量子化、エントロピー符号化等で構成される圧縮符号化処理のうち、特に、エントロピー符号化の一例としての算術符号化方法に関するものである。また、本発明に係る画像符号化装置は、予測部、変換・量子化部、上記算術符号化方法を実行する算術符号化部(エントロピー符号化部)を備えて構成されている。尚、画像符号化装置の全体構成については、後で詳述する。
(実施の形態1の概要)
先ず、本実施の形態1における算術符号化方法及び算術符号化部の概要について説明する。尚、ここでは、変換・量子化により生成された周波数成分別の量子化係数がゼロであるか、非ゼロであるかを示す信号が、入力信号SIとして算術符号化部に入力される場合について説明する。
入力信号SIが高周波数成分に対応する信号である場合、例えば、ブロックサイズが16×16以上の大ブロックサイズでは、シンボル発生確率PEは、周囲条件によって決まる。即ち、16×16以上のブロックサイズの高周波数成分では、画像データの統計的性質が同じになることから、ブロックサイズが異なっていても、条件(周囲条件)が同じであれば、同じコンテキストを適用できる。
これに対し、入力信号SIが大ブロックサイズの低周波数成分に対応する信号である場合、シンボル発生確率PEは、係数位置によって決まる。より具体的には、直交成分を含む低周波数成分に対応する信号は、画像データの特徴が最も現れやすい信号であり、かつ、SignificantFlagの信号の存在頻度が高いため、統計情報を取得しやすい部分である。このため、大ブロックサイズの低周波数成分に対応する入力信号SIについては、同じ条件(係数位置)であっても、ブロックサイズが異なる場合には、コンテキストを共通化せず、異なるコンテキストを設定することにより、より画像データの特徴に合わせた統計情報を用いた算術符号化を可能とし、符号化効率を向上させることができる。
以上より、本実施の形態1では、大ブロックサイズの高周波数成分の入力信号SIについては、ブロックサイズが異なっていても、同じ条件に設定されるコンテキストを、一部または全部共通化し、大ブロックサイズの低周波数成分の入力信号SI及び小ブロックサイズの入力信号SIについては、条件が同じであっても、コンテキストを共通化せず、ブロックサイズ別、条件別に異なるコンテキストを設定する。
尚、大ブロックサイズの低周波数成分について、共通のコンテキストを用いても弊害は少ないため、大ブロックサイズの入力信号SIについては、低周波数成分であるか高周波数成分であるかにかかわらず、共通のコンテキストを用いるように構成しても良い。コンテキストを共通化する対象の選択方法は、符号化対象信号である入力信号SIや信号種別情報SEの内容に応じて設定するのが好ましい。
(実施の形態1における算術符号化部の構成)
次に、本実施の形態1における算術符号化方法を行う算術符号化部の構成について説明する。
ここで、図3は、本実施の形態1における算術符号化部100の構成の一例を示すブロック図である。
図3に示すように、算術符号化部100は、2値化部101と、シンボル発生確率格納部102と、コンテキスト制御部103と、2値算術符号化器104と、コンテキストブロック区分制御部105とを備える。
算術符号化部100は、符号化対象信号である入力信号SIに対し、算術符号化処理を実行することで、出力信号OBを生成して出力する。算術符号化部100には、本実施の形態1では、入力信号SIと、入力信号SIの種別を示す信号種別情報SEと、入力信号SIのブロックサイズを示すブロックサイズ信号BLKSが入力される。
ここで、本実施の形態1では、入力信号SIは、画像データを量子化して生成された周波数成分別の量子化係数がゼロであるか、非ゼロであるかを示す信号(H.264ではSignificantFlagと呼ばれる信号)である場合を想定して説明する。尚、入力信号SIは、これに限るものではなく、量子化係数そのものであっても良いし、量子化係数を生成するために用いた情報であってもよい。
また、信号種別情報SEは、符号化対象信号である入力信号SIの性質を示す情報である。詳細には、本実施の形態1では、入力信号SIが、量子化係数がゼロであるか、非ゼロであるかを示す信号であることから、量子化係数の係数位置を示す位置情報、及び、量子化係数の周囲の量子化係数が0であるか非0であるかを示す情報(周囲条件)である場合を想定して説明する。尚、信号種別情報SEは、これに限るものではなく、例えば、量子化係数の直流成分が0であるか非0であるかを示す情報でもあってもよいし、入力信号SIに適用された予測方法がイントラ予測である場合に、イントラ予測の予測方向を示す情報であってもよい。
さらに、本実施の形態1では、ブロックサイズに応じたコンテキストを設定することを想定しているため、ブロックサイズ信号BLKSを受け付ける構成としているが、画像データの他の特徴に応じてコンテキストを設定する場合には、当該ブロックサイズ信号BLKSを用いない構成としても良い。
2値化部101は、符号化対象信号を2値化することで、2値信号を生成する。具体的には、2値化部101は、信号種別情報SEに基づいて、符号化対象信号である入力信号SIを“0”、“1”の2値の情報(シンボル)に変換する2値化処理を行うことで、2値信号BINを生成する。2値化部101は、生成した2値信号BINを、2値算術符号化器104とコンテキスト制御部103に送る。
シンボル発生確率格納部102は、不揮発性メモリ等で構成される記憶部であり、信号情報テーブル、及び、複数のコンテキストテーブルを記憶している。尚、複数のコンテキストテーブルは、予め作成され記憶されるものであり、後述する実施の形態2の画像復号装置を構成するシンボル発生確率格納部302にも、同じ複数のコンテキストテーブルが記憶される。シンボル発生確率格納部102は、図示しないが、さらに、確率情報pStateIdxに対応するシンボル発生確率PEの値を示す発生確率テーブルを保持している。
信号情報テーブルは、図4に示す従来の信号情報テーブルと同じであり、コンテキストを表すインデックスctxIdx、発生確率pStateIdx、シンボルvalMPSが対応付けられて記憶されている。
尚、ここでは、信号情報テーブルとして、シンボル発生確率PEを示すインデックスである発生確率pStateIdxとコンテキストを示すctxIdxとを対応付けたテーブルを用いているが、コンテキストctxIdxとシンボル発生確率PEの値とを直接対応付けたテーブルを用いてもよい。この場合、シンボル発生確率PEの値を、例えば、16ビット精度(0−65535)で表すことにより、上記テーブルで管理するよりも、詳細な値を扱うことができ、符号化効率を向上させることができる。
コンテキストテーブルは、本実施の形態1では、条件に応じてコンテキストctxIdsを設定した複数のテーブルで構成される。コンテキストctxIdsは、上述した信号情報テーブルのインデックスctxIdsと同じである。ここで、図5B及び図5Cは、本実施の形態1で用いるコンテキストテーブルの一例を示している。
図5Bにおいて、テーブル3では、低周波数成分に相当する係数位置を示す条件10に対し、コンテキストctxIds0が設定され、低周波数成分に相当する係数位置を示す条件11に対し、コンテキストctxIds1が設定され、高周波数成分に相当する周囲条件を示す条件12,13に対し、コンテキストctxIds2が設定されている。また、テーブル4では、低周波数成分に相当する係数位置を示す条件14に対し、コンテキストctxIds3が設定され、低周波数成分に相当する係数位置を示す条件15に対し、コンテキストctxIds4が設定され、高周波数成分に相当する周囲条件を示す条件16,17に対し、コンテキストctxIds2が設定されている。
尚、テーブル3の高周波数成分(条件が12及び13)に対応づけられたインデックスctxIdxと、テーブル4の高周波数成分(条件が16及び17)に対応づけられたインデックスctxIdxが同じ値2に設定されている。これにより、テーブル3に対応するブロックサイズとテーブル4に対応するブロックサイズとで、高周波数成分の入力信号SIに対し、コンテキストを共通化している。
図5Cに示すコンテキストテーブルは、図5Bに示すコンテキストテーブルの変形例であり、3つのテーブル5〜7で構成されている。テーブル5及びテーブル6は、ブロックサイズ別にコンテキストを設定する場合に用いられ、テーブル5は、ブロックサイズA(例えば、4×4の小ブロックサイズ)に、テーブル6は、ブロックサイズB(例えば、8×8の小ブロックサイズ)に夫々対応している。また、テーブル7は、ブロックサイズ、低周波数成分であるか高周波数成分であるかにかかわらず、共通のコンテキストを設定する場合に用いられ、ブロックサイズC(例えば、16×16)、ブロックサイズD(例えば、32×32)、ブロックサイズE(例えば、64×64)等の大ブロックサイズに対応している。テーブル5及び6の設定は、図5Aに示すテーブル1及びテーブル2の設定と同じである。テーブル7では、条件18に対しコンテキストctxIds18が、条件19に対しコンテキストctxIds19が設定されている。
尚、本実施の形態1では、条件は、具体的には、マクロブロックにおける符号化対象信号の周辺のビットの情報(周囲条件)、または、マクロブロック内の既に算術符号化処理済みのビットに関する情報、または、符号化対象信号のビット位置(位置情報、係数位置)に応じて決まる。
コンテキスト制御部103は、2値算術符号化器104で用いるシンボル発生確率PEを特定するコンテキスト制御処理と、シンボル発生確率PEを更新する更新処理を実行する。
コンテキスト制御部103によるコンテキスト制御処理について説明する。コンテキスト制御部103は、後述するコンテキストブロック区分制御部105から出力される制御信号CTRSを取得し、シンボル発生確率格納部102のコンテキストテーブルのうち、どのテーブルを利用するかを取得する。さらに、コンテキスト制御部103は、シンボル発生確率格納部102の特定されたテーブルを参照し、信号種別情報SEによって特定される条件に対応するコンテキストctxIdxを特定する。
引き続き、コンテキスト制御部103は、信号情報テーブルを参照して、インデックスctxIdxに対応する発生確率pStateIdxを取得する。コンテキスト制御部103は、発生確率pStateIdxに基づいて、シンボル発生確率格納部102に格納されている発生確率テーブルから、2値算術符号化器104で用いるシンボル発生確率PEを特定する。さらに、コンテキスト制御部103は、特定したシンボル発生確率PEを、シンボル発生確率格納部102から2値算術符号化器104に出力させる。
引き続き、コンテキスト制御部103による更新処理について説明する。コンテキスト制御部103による更新処理は、H.264規格に基づいて行う。具体的には、コンテキスト制御部103は、2値化部101から入力される2値信号BINに基づいて、新たなシンボル発生確率PEとシンボルvalMPSとを導出する。コンテキスト制御部103は、シンボル発生確率格納部102に記憶された図4に示す信号情報テーブルにおいて、コンテキスト制御処理で特定したコンテキストctxIdxに対応する発生確率pStateIdxの値を、新たなシンボル発生確率PEに対応する値に置き換える。
2値算術符号化器104は、2値化部101から入力される2値信号に対し、コンテキスト制御部103によってシンボル発生確率格納部102から読み出されたシンボル発生確率PEを用いて、算術符号化処理を行い、出力信号OBを生成して出力する。
コンテキストブロック区分制御部105は、本実施の形態1では、ブロックサイズ信号BLKS及び信号種別情報SEに基づいて、シンボル発生確率格納部102のコンテキストテーブルのうち、どのテーブルを利用するかを決定し、決定したテーブルを示す制御信号CTRSを生成して、コンテキスト制御部103に出力する。
(実施の形態1における処理手順)
次に、本実施の形態1における算術符号化部100による算術符号化方法の処理手順について説明する。
ここで、図6は、本発明に係る画像符号化方法の処理手順を示すフローチャートである。本発明に係る画像符号化方法は、画像データの符号化対象信号を取得する符号化対象信号取得ステップ(ステップS401)と、符号化対象信号を2値化することで、2値信号を生成する2値化ステップ(ステップS402)と、複数のコンテキストから、符号化対象信号のコンテキストを選択するコンテキスト選択ステップ(ステップS403)と、コンテキスト選択ステップで選択したコンテキストに対応付けられた符号化確率情報を用いて、2値信号を算術符号化する算術符号化ステップ(ステップS404)と、2値信号に基づいて、コンテキスト選択ステップで選択したコンテキストに対応付けられた符号化確率情報を更新する更新ステップ(ステップS405)と、を含み、コンテキスト選択ステップでは、符号化対象信号のコンテキストを、異なる処理単位サイズの符号化対象信号と共通に選択するように構成されている。
図7は、本実施の形態1に係る算術符号化方法の処理手順の概要をより詳細に示すフローチャートである。尚、図7のフローチャートは、1つの入力信号(符号化対象信号)に対する算術符号化処理を示している。入力信号SIは、変換・量子化によりブロック別、周波数成分別に生成されることから、全ての周波数成分について、算術符号化処理を実行することにより、ブロック全体に対する算術符号化処理が完了する。
図7に示すように、算術符号化処理が開始されると、コンテキストブロック区分制御部105は、ブロックサイズ信号BLKSに基づいて、符号化対象信号のブロックサイズを取得する(ステップS110)。
2値化部101は、符号化対象である入力信号SIと信号種別情報SEを取得し(符号化対象信号取得ステップ)、H.264規格に従って、入力信号SIに対し信号種別情報SEに対応した2値化を行うことで、2値信号BINを生成する(ステップS120、2値化ステップ)。尚、信号種別情報SEは、2値化の方式を示す情報を含んでいる。
次に、コンテキストブロック区分制御部105は、ステップS110で取得したブロックサイズと信号種別情報SEに基づいて、ブロックサイズ共通のコンテキストを使うか否かを判断する(ステップS130)。
コンテキストブロック区分制御部105は、ブロックサイズ別のコンテキストを使うと判断した場合(ステップS130でNO分岐)、シンボル発生確率格納部102のコンテキストテーブルのうち、ブロックサイズ別のコンテキストが設定されたテーブルを選択し、当該テーブルを示す制御信号CTRSをコンテキスト制御部103に対して出力する(ステップS140)。
一方、コンテキストブロック区分制御部105は、ブロックサイズ共通のコンテキストを使うと判断した場合(ステップS130でYES分岐)、シンボル発生確率格納部102のコンテキストテーブルのうち、ブロックサイズ共通のコンテキストが設定されたテーブルを選択し、当該テーブルを示す制御信号CTRSをコンテキスト制御部103に対して出力する(ステップS150)。
コンテキスト制御部103は、制御信号CTRSに基づいて、シンボル発生確率格納部102に格納されるコンテキストテーブルのうち、入力信号SIに対応するコンテキストテーブルを決定する(ステップS160)。
コンテキスト制御部103は、選択したコンテキストテーブルを参照し、信号種別情報SEによって決まる条件に基づいて、コンテキストctxIdxを特定する(ステップS130からここまでがコンテキスト選択ステップに相当、また、コンテキストブロック区分制御部105とコンテキスト制御部103の当該ステップを実行する部分がコンテキスト選択制御部に相当)。さらに、信号情報テーブル及び発生確率テーブルを参照して、コンテキストctxIdxに対応するシンボル発生確率PEを特定し、シンボル発生確率格納部102から読み出して2値算術符号化器104に出力する。
2値算術符号化器104は、2値信号に対し、コンテキスト制御部13によって読み出されたシンボル発生確率PEに基づいて算術符号化処理を行い、出力信号OBを生成して出力する(ステップS170、算術符号化ステップ)。
コンテキスト制御部103は、2値化部101によって生成された2値信号に基づいて、シンボル発生確率PEを更新する更新処理を実行する(ステップS180、更新ステップ)。
次に、コンテキストブロック区分制御部105の動作(図7のS130〜S160に対応)の詳細について、図8〜図11を用いて説明する。
ここで、図8、図9、図10A、図10Bは、夫々、本実施の形態1に係るコンテキストブロック区分制御部105の動作の一例を示すフローチャートである。図11の(a)〜(c)は夫々、量子化係数が8×8、16×16、32×32の場合の量子化係数の位置関係を示した模式図である。
(動作例1)
図8において、コンテキストブロック区分制御部105は、先ず、信号種別情報SEに基づいて係数位置を判定し、符号化対象信号である入力信号SIの係数位置が、低周波数領域に対応するか、高周波数領域に対応するかを判定する(ステップS202)。
ここで、上述したように、量子化係数は、画像データが周波数変換され、量子化されて生成される信号であり、係数位置は、周波数変換された際の周波数成分と対応する。例えば、低周波数成分に対応する量子化係数は、図11の(a)〜(c)に示す模式図の左上に位置し、高周波数成分に対応する量子化係数は右下に位置する。より具体的には、係数位置が、例えば、直交成分を含む2×2の係数位置の何れかである場合、図11の(a)〜(c)に示す模式図では、LFRで示される係数位置の何れかである場合、入力信号SIが低周波数成分の係数であると判定する。係数位置が、図11の(a)〜(c)のLFR以外で示される係数位置の何れかである場合は、入力信号SIが高周波数成分の係数であると判定する。
コンテキストブロック区分制御部105は、入力信号SIが低周波数成分に対応する係数である場合(ステップS202でYES分岐)、ブロックサイズ別にコンテキストが設定されたコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。ここで、コンテキストテーブルは、低周波数成分では、係数位置で決まる条件別にインデックスctxIdxを設定している。従って、結果として、コンテキスト制御部103では、係数位置とブロックサイズとに応じて、コンテキストが設定される(ステップS203)。
一方、コンテキストブロック区分制御部105は、入力信号SIが、高周波数成分に対応する係数である場合(ステップS202でNO分岐)、符号化対象信号の周囲条件を算出する(ステップS204)。尚、周囲条件の算出方法については、後で説明する。
引き続き、コンテキストブロック区分制御部105は、符号化対象信号のブロックサイズが所定サイズよりも大きいかどうかを判定する(ステップS205)。
入力信号SIのブロックサイズが所定サイズ、例えば、16×16よりも小さい場合(ステップS205でNO分岐)、コンテキストブロック区分制御部105は、小ブロックサイズで共通のコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。ここで、コンテキストテーブルは、高周波数成分では、周囲条件で決まる条件別にインデックスctxIdxを設定している。従って、結果として、コンテキスト制御部103では、周囲条件に基づき、小サイズブロック向けのコンテキストの1つが設定される(ステップS206)。
入力信号SIのブロックサイズが所定サイズよりも大きい場合(ステップS205でYES分岐)、コンテキストブロック区分制御部105は、大ブロックサイズで共通のコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。ここで、コンテキストテーブルは、高周波数成分では、周囲条件で決まる条件別にインデックスctxIdxを設定している。従って、結果として、コンテキスト制御部103では、周囲条件に基づき、大サイズブロック向けのコンテキストの1つが設定される(ステップS207)。
ここで、H.264では、量子化係数は4×4と8×8しか規定されていなかったが、周波数変換のサイズとして16×16、32×32、64×64を選択可能とすることで、さらに符号化効率を向上させることができる。しかし、選択可能なブロックサイズを増加させると、ブロックサイズ別にコンテキストを設定する場合、コンテキストが細分化されすぎ、各コンテキストの利用頻度が相当低下する。このため、上記のような方法で、ブロックサイズが異なっていても統計的性質が同じ場合は、共通のコンテキストを使うように構成する。動作例1では、具体的には、例えば、4×4、8×8で共通の小サイズブロック向けコンテキストを利用し、16×16,32×32,64×64で共通の大ブロックサイズ向けコンテキストを利用するというように、大ブロックサイズと、小ブロックサイズの夫々でコンテキストを共通化するので、画像データの特徴に合わせた統計情報を用いた算術符号化処理を可能としつつ、コンテキストの利用頻度を向上させ、符号化効率を向上させることができる。なお、上記の例では、周波数変換のサイズとして、4×4、8×8、16×16、32×32、64×64を選択可能とした例を挙げたがこれに限らない。例えば、4×4、8×8、16×16、32×32を選択可能とした場合等、選択可能なサイズの設定は任意である。
(動作例2)
図9において、コンテキストブロック区分制御部105は、先ず、信号種別情報SEに基づいて係数位置を判定し、符号化対象信号である入力信号SIの係数位置が、低周波数領域に対応するか、高周波数領域に対応するかを判定する(ステップS202)。尚、判定方法は、動作例1と同じである。
コンテキストブロック区分制御部105は、入力信号SIが低周波数成分に対応する係数である場合(ステップS202でYES分岐)、ブロックサイズ別に異なるコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。ここで、コンテキストテーブルは、低周波数成分では、係数位置で決まる条件別にインデックスctxIdxを設定している。従って、結果として、コンテキスト制御部103では、係数位置とブロックサイズとに応じて、コンテキストが設定される(ステップS203)。
一方、コンテキストブロック区分制御部105は、入力信号SIが、高周波数成分に対応する係数である場合(ステップS202でNO分岐)、符号化対象信号の周囲条件を算出する(ステップS204)。尚、周囲条件の算出方法については、後で説明する。
引き続き、コンテキストブロック区分制御部105は、符号化対象信号のブロックサイズが所定サイズよりも大きいかどうかを判定する(ステップS205)。
入力信号SIのブロックサイズが所定サイズ、例えば、16×16よりも小さい場合(ステップS205でNO分岐)、コンテキストブロック区分制御部105は、ブロックサイズ別に異なるコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。即ち、4×4と8×8で異なるコンテキストテーブルを選択する。従って、コンテキスト制御部103では、ブロックサイズ別、条件別に、異なるコンテキストが設定される(ステップS216)。ブロックサイズが小さい場合には、細かい図柄を表現する等、異なった画像データの特徴を有することがあるため、図9のような変形例を実施することにより、さらに画像データの特徴に応じた算術符号を実行できることとなる。
入力信号SIのブロックサイズが所定サイズよりも大きい場合(ステップS205でYES分岐)、コンテキストブロック区分制御部105は、大ブロックサイズで共通のコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。即ち、16×16、32×32、64×64で、同じ共通のコンテキストテーブルを利用すると決定する。ここで、コンテキストテーブルは、高周波数成分では、周囲条件で決まる条件別にインデックスctxIdxを設定している。従って、結果として、コンテキスト制御部103では、周囲条件に基づき、大サイズブロック向けのコンテキストの1つが設定される(ステップS207)。
なお、上記の例では、周波数変換のサイズとして、4×4、8×8、16×16、32×32、64×64を選択可能とした例を挙げたがこれに限らない。例えば、4×4、8×8、16×16、32×32を選択可能とした場合等、選択可能なサイズの設定は任意である。
(動作例3)
図10Aは、図9のステップS202とステップS205の順序を入れ替えたフローチャートである。図10Aと図9は、実質的に同じ動作を実現している。
図10Aにおいて、コンテキストブロック区分制御部105は、先ず、符号化対象信号である入力信号SIのブロックサイズが所定サイズよりも大きいかどうかを判定する(ステップS222、図9のステップS205に相当)。以下、所定サイズが8×8の場合を想定して説明する。
入力信号SIのブロックサイズが、所定サイズよりも小さい場合(ステップS222でNO分岐)、コンテキストブロック区分制御部105は、ブロックサイズ別に異なるコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。尚、本実施の形態1では、実施の形態1の概要において説明したように、小ブロックサイズの入力信号SIについては、コンテキストを共通化せず、ブロックサイズ別、条件別に異なるコンテキストを設定する場合を想定している。また、小ブロックサイズでは、実質的に、全て、係数位置に応じてコンテキストが決定される。従って、結果として、コンテキスト制御部103では、係数位置別、ブロックサイズ別に、異なるコンテキストが設定される(ステップS223)。
一方、入力信号SIのブロックサイズが所定サイズよりも大きい場合(ステップS222でYES分岐)、コンテキストブロック区分制御部105は、符号化対象信号の周囲条件を算出する(ステップS224)。尚、周囲条件の算出方法については、後で説明する。
引き続き、コンテキストブロック区分制御部105は、係数位置により、入力信号SIが、低周波数成分に対応する量子化係数であるか、高周波数成分に対応する量子化係数であるかを判断する(ステップS225、図9のステップS202に相当)。
入力信号SIが、低周波数成分に対応する信号である場合(ステップS225でYES分岐)、コンテキストブロック区分制御部105は、ブロックサイズ別に異なるコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。ここで、コンテキストテーブルは、低周波数成分では、係数位置で決まる条件別にインデックスctxIdxを設定している。従って、結果として、コンテキスト制御部103では、係数位置とブロックサイズとに応じて、コンテキストが設定される(ステップS226)。
入力信号SIが、高周波数成分に対応する信号である場合(ステップS225でNO分岐)、コンテキストブロック区分制御部105は、大ブロックサイズで共通のコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。ここで、コンテキストテーブルは、高周波数成分では、周囲条件で決まる条件別にインデックスctxIdxを設定している。従って、結果として、コンテキスト制御部103では、周囲条件に基づき、大サイズブロック向けのコンテキストの1つが設定される(ステップS227)。
なお、上記の例では、周波数変換のサイズとして、4×4、8×8、16×16、32×32、64×64を選択可能とした例を挙げたがこれに限らない。例えば、4×4、8×8、16×16、32×32を選択可能とした場合等、選択可能なサイズの設定は任意である。
(動作例4)
図10Bは、大ブロックサイズの入力信号SIについて、低周波数成分であるか高周波数成分であるかにかかわらず、共通のコンテキストを用いるように構成した場合のフローチャートを示している。
図10Bにおいて、コンテキストブロック区分制御部105は、先ず、符号化対象信号である入力信号SIのブロックサイズが所定サイズよりも大きいかどうかを判定する(ステップS222、図9のステップS205に相当)。以下、所定サイズが8×8の場合を想定して説明する。
入力信号SIのブロックサイズが、所定サイズよりも小さい場合(ステップS222でNO分岐)、コンテキストブロック区分制御部105は、ブロックサイズ別に異なるコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。ここでは、動作例3と同様に、小ブロックサイズの入力信号SIについて、コンテキストを共通化せず、ブロックサイズ別、条件別に異なるコンテキストを設定する場合を想定している。また、小ブロックサイズでは、実質的に、全て、係数位置に応じてコンテキストが決定される。従って、結果として、コンテキスト制御部103では、係数位置別、ブロックサイズ別に、異なるコンテキストが設定される(ステップS233)。
一方、入力信号SIのブロックサイズが所定サイズよりも大きい場合(ステップS222でYES分岐)、コンテキストブロック区分制御部105は、大ブロックサイズで共通のコンテキストテーブルを選択し、その情報を制御信号CTRSとして出力する。ここで、コンテキストテーブルは、低周波数成分では、係数位置で決まる条件別に、高周波数成分では、周囲条件で決まる条件別に、インデックスctxIdxを設定している。従って、結果として、コンテキスト制御部103では、係数位置または周囲条件に基づき、大サイズブロック向けのコンテキストの1つが設定される(ステップS234)。
尚、動作例4では、上述したように、大ブロックサイズ(動作例4では、8×8より大きい場合、例えば、16×16、32×32、64×64等)のみで共用する。即ち、小ブロックサイズでは、ブロックサイズ別にコンテキストを選択する。これにより、比較的変化が激しい小ブロックサイズでは、画像データの特徴に応じて、コンテキストを選択可能になる。さらに、比較的変化が少ない大サイズブロックでは、共用化することにより、シンボル発生確率の更新頻度を増加させることができ、これによって、符号化効率の向上を図ることができる。
さらに、上記の例では、周波数変換のサイズとして、4×4、8×8、16×16、32×32、64×64を選択可能とした例を挙げたがこれに限らない。例えば、4×4、8×8、16×16、32×32を選択可能とした場合等、選択可能なサイズの設定は任意である。
(周囲条件の算出)
図11に基づいて、具体的に説明する。
図11の(a)〜(c)の図面上、左上の4×4の領域LFRは、低周波数成分の信号に対応する低周波数領域であり、上述した動作例1〜3において、ブロックサイズ別のコンテキストテーブルが選択される。ここで選択されるコンテキストテーブルでは、コンテキストを表すインデックスctxIdxが、係数位置で決まる条件別に設定されており、ブロックサイズと係数位置に応じてコンテキストが決まる。
一方、それ以外の領域は、高周波数成分の信号に対応する高周波数領域である。ここで、高周波数領域は、さらに、上端部分の部分領域TOP(右上から左下方向の斜線で囲まれた部分)、左端部分の部分領域LEFT(左上から右下方向の斜線で囲まれた部分)、その他の部分領域HFR(クロスの斜線で囲まれた部分)に分ける。
周囲条件は、この3つの部分領域に分けて算出する。
先ず、部分領域TOPにおける周囲条件の算出について説明する。部分領域TOPでは、図11の(d)のXで示される係数位置に対応する周囲条件は、隣接する係数位置a〜dの量子化係数のうち、非ゼロ係数の量子化係数の数によって決まる。この場合、周囲条件の値は0〜4の5種類となる。ここで、コンテキストは、5種類の周囲条件の夫々に別個に設定しても良いし、例えば、(0)、(1,2)、(3,4)の3つのグループに分け、グループ別に3つのコンテキストを設定しても良い。尚、グループ分けについては、別の組み合わせとしても良いし、グループ数についても任意である。
次に、部分領域LEFTにおける周囲条件の算出について説明する。部分領域LEFTでは、図11の(e)のXで示される係数位置に対応する周囲条件は、隣接する係数位置e〜fの量子化係数のうち、非ゼロ係数の量子化係数の数によって決まる。この場合、周囲条件の値は0〜4の5種類となる。部分領域TOPの場合と同様に、コンテキストは、5種類の周囲条件の夫々に別個に設定しても良いし、(0)、(1,2)、(3,4)の3つのグループに分け、グループ別に3つのコンテキストを設定しても良い。尚、グループ分けについては、別の組み合わせとしても良いし、グループ数についても任意である。
引き続き、部分領域HFRにおける周囲条件の算出について説明する。部分領域HFRでは、図11の(f)のXで示される係数位置に対応する周囲条件は、隣接する係数位置i〜sの量子化係数のうち、非ゼロ係数の量子化係数の数によって決まる。この場合、周囲条件の値は0〜11の12種類となる。部分領域TOP及び部分領域LEFTの場合と同様に、コンテキストは、12種類の周囲条件の夫々に別個に設定しても良いし、(0)、(1,2)、(3,4)(5,6)、(7,8,9,10,11)の5つのグループに分け、グループ別に5つのコンテキストを設定しても良い。尚、グループ分けについては、別の組み合わせとしても良いし、グループ数についても任意である。
上述した方法により算出される周囲条件は、隣接する係数位置の非ゼロ係数の数で共通して表されるため、ブロックサイズに依存せず、異なるブロックサイズであっても、正しく統計情報を取得することができる。このため、コンテキストをブロックサイズにかかわらず共通化することでき、少ないコンテキストの数で、符号化効率を向上することができる。
尚、ここでのコンテキストの組み合わせの情報を、ビットストリームの先頭(ストリームヘッダ)に記録していてもよい。このようにすることで、画像の特徴によって、コンテキストの組み合わせを変えることができ、さらなる符号化効率を向上することが期待できる。
尚、ブロックサイズが異なる場合に同一のコンテキストを用いるかどうかを示す情報を、ビットストリームの先頭(ストリームヘッダ)に記録していてもよい。このようにすることで、画像データの特徴によって、コンテキストの組み合わせを変えることができ、さらなる符号化効率を向上することが期待できる。
尚、前記ヘッダに記録する単位は、スライス、ピクチャに対応する単位としてもよい。この場合、ストリーム単位に記録する場合と比べて、より細かく制御することができるため、さらなる符号化効率の向上が期待できる。
(コンテキストブロック区分制御部の変形例)
本実施の形態1では、小ブロックサイズ及び大ブロックサイズの低周波数成分の入力信号SIについては、異なるコンテキストを設定し、大ブロックサイズの高周波数成分の入力信号SIについては、コンテキストを共通化する場合について説明したが、大ブロックサイズの場合に、画像データを、同一サイズのサブブロック(小ブロックサイズ)に分割し(分割ステップに相当)、サブブロックの夫々に対して、当該小ブロックサイズのコンテキストテーブルを設定するように構成しても良い。即ち、サブブロックと、当該サブブロックと同じサイズの小ブロックサイズとで、コンテキストが共通化される。
より具体的には、例えば、16×16の大ブロックサイズを、16個の4×4のサブブロックに分割し、4×4の小ブロックサイズで用いられるコンテキストを、夫々のサブブロックの算術符号化処理に適用する。
この場合、2値化部101は、サブブロック毎に2値化処理を実行して2値信号を生成し、2値算術符号化器104は、サブブロックの2値信号に対して、算術符号化処理を行う。
このように構成すれば、大ブロックサイズに対して、小ブロックサイズと同じコンテキストテーブルを利用でき、結果として、大ブロックサイズと小ブロックサイズの間で、コンテキストを共通化できる。
(画像符号化装置の全体構成)
上述した本実施の形態1に係る算術符号化部100は、画像データを圧縮符号化する画像符号化装置に備えられる。
画像符号化装置200は、画像データを圧縮符号化する。例えば、画像符号化装置200には、画像データがブロック毎に入力信号として入力される。画像符号化装置200は、入力された入力信号に対し、変換、量子化及び可変長符号化を行うことで、符号化信号を生成する。
ここで、図12は、本実施の形態1に係る算術符号化部100を備える画像符号化装置200の構成の一例を示すブロック図である。図12に示すように、画像符号化装置200は、減算器205と、変換・量子化部210と、エントロピー符号化部220(図3の算術符号化部100に相当)と、逆量子化・逆変換部230と、加算器235と、デブロッキングフィルタ240と、メモリ250と、イントラ予測部260と、動き検出部270と、動き補償部280と、イントラ/インター切換スイッチ290とを備える。
画像符号化装置200には、画像データがブロック毎に入力信号として入力される。
減算器205は、入力信号と予測信号との差分、すなわち、予測誤差を算出する。
変換・量子化部210は、空間領域の予測誤差を変換することで、周波数領域の変換係数を生成する。例えば、変換・量子化部210は、予測誤差にDCT(Discrete Cosine Transform)変換を行うことで、変換係数を生成する。さらに、変換・量子化部210は、変換係数を量子化することで、量子化係数を生成する(周波数変換ステップに相当)。
エントロピー符号化部220は、上述した図3に示す算術符号化部100で構成され、量子化係数を可変長符号化することで、符号化信号を生成する。また、エントロピー符号化部220は、動き検出部270によって検出された動きデータ(例えば、動きベクトル)を符号化し、符号化信号に含めて出力する。より具体的には、エントロピー符号化部220を構成する算術符号化部100は、入力信号SIとして量子化係数を受け付け、量子化係数を2値化及び算術符号化する。また、信号種別情報SEは、量子化係数の係数位置に加え、図12に示す動きデータや、後述するイントラ予測部260が用いたイントラ予測方向等を示す情報である。
逆量子化・逆変換部230は、変換・量子化部210から出力された量子化係数を逆量子化することで、変換係数を復元する。さらに、逆量子化・逆変換部230は、復元した変換係数を逆変換することで、予測誤差を復元する。尚、復元された予測誤差は、量子化により情報が失われているので、減算器205が生成する予測誤差とは一致しない。すなわち、復元された予測誤差は、量子化誤差を含んでいる。
加算器235は、復元された予測誤差と予測信号とを加算することで、ローカル復号画像を生成する。
デブロッキングフィルタ240は、生成されたローカル復号画像にデブロッキングフィルタ処理を行う。
メモリ250は、動き補償に用いられる参照画像を格納するためのメモリである。具体的には、メモリ250は、デブロッキングフィルタ処理が施されたローカル復号画像を格納する。
イントラ予測部260は、イントラ予測を行うことで、予測信号(イントラ予測信号)を生成する。具体的には、イントラ予測部260は、加算器235によって生成されたローカル復号画像における、符号化対象ブロック(入力信号)の周囲の画像を参照してイントラ予測を行うことで、イントラ予測信号を生成する。
動き検出部270は、入力信号と、メモリ250に格納された参照画像との間の動きデータ(例えば、動きベクトル)を検出する。
動き補償部280は、検出された動きデータに基づいて動き補償を行うことで、予測信号(インター予測信号)を生成する。
イントラ/インター切換スイッチ290は、イントラ予測信号及びインター予測信号のいずれかを選択し、選択した信号を予測信号として減算器205及び加算器235に出力する。
以上の構成により、本実施の形態1に係る画像符号化装置200は、画像データを圧縮符号化する。
本実施の形態1に係る画像符号化装置及び画像符号化方法では、算術符号化部100を、ブロックサイズが異なる場合でも、同じ統計的性質の画像データについては、同じコンテキストを適用するように構成したので、コンテキストの数を削減してメモリサイズを縮小できる。さらに、また、一般的に、16×16以上の大ブロックサイズの発生頻度は、4×4や8×8等の小ブロックサイズの発生頻度より少ない。このため、発生頻度の少ない大ブロックサイズでコンテキストを共通に利用することで、シンボル発生確率PEの精度の低い区分に対する精度向上を図ることができる。即ち、シンボル発生確率PE全体で、より適切に統計情報を反映させることができるので、符号化効率を高めることができる。
(実施の形態2)
本発明に係る画像復号方法及び画像復号装置の実施の形態2について、図13〜図16を基に説明する。
本発明に係る画像復号方法は、符号化画像データの復号対象信号に対し、可変長復号(例えば、エントロピー復号)、逆量子化・逆変換、予測等で構成される復号処理のうち、特に、エントロピー復号の一例としての算術復号方法に関するものである。また、本発明に係る画像復号装置は、上記算術復号方法を実行する算術復号部(エントロピー復号部)、変換・量子化部、予測部を備えて構成されている。尚、画像復号装置の全体構成については、後で詳述する。
(実施の形態2の概要)
先ず、本実施の形態2における算術復号方法及び算術復号部の概要について説明する。尚、ここでは、実施の形態1と同様に、変換・量子化により生成された周波数成分別の量子化係数がゼロであるか、非ゼロであるかを示す信号が、入力ストリームISとして算術復号部に入力される場合について説明する。
本実施の形態2では、実施の形態1で説明したように、大ブロックサイズの高周波数成分の入力ストリームISについては、統計的性質が同じになるため、ブロックサイズが異なっていても、同じ条件に設定されるコンテキストを、一部または全部共通化し、大ブロックサイズの低周波数成分の入力ストリームIS及び小ブロックサイズの入力ストリームISについては、条件が同じであっても、コンテキストを共通化せず、ブロックサイズ別、条件別に異なるコンテキストを設定する。
これにより、実施の形態1により符号化効率を向上させた符号化画像データを適切に復号することができる。
尚、実施の形態1において、大ブロックサイズの入力ストリームISについて、低周波数成分であるか高周波数成分であるかにかかわらず、共通のコンテキストを用いるように構成した場合は、本実施の形態2における画像復号方法及び画像復号装置においても、大ブロックサイズの入力ストリームISについて、共通のコンテキストを用いるように構成しても良い。コンテキストを共通化する対象の選択方法は、実施の形態1における画像符号化方法及び画像符号化装置における選択方法に応じて設定するのが好ましい。
(実施の形態2における算術復号部の構成)
次に、本実施の形態2の算術復号方法を行う算術復号部の構成について説明する。
ここで、図13は、本実施の形態2における算術復号部300の構成の一例を示すブロック図である。
図13に示すように、算術復号部300は、2値算術復号器301と、シンボル発生確率格納部302と、コンテキスト制御部303と、多値化部304と、コンテキストブロック区分制御部305とを備える。
算術復号部300は、符号化画像データの復号対象信号である入力ストリームISに対し、算術復号処理を実行することで、符号化画像データを復元して出力する。算術復号部300には、本実施の形態2では、入力ストリームISと、入力ストリームISの種別を示す信号種別情報SEと、入力ストリームISのブロックサイズを示すブロックサイズ信号BLKSが入力される。
本実施の形態2の入力ストリームISは、本実施の形態1の算術符号化部100から出力される信号OBである場合を想定している。
また、信号種別情報SEは、符号化画像データの復号対象信号である入力ストリームISの性質を示す情報である。具体的には、本実施の形態2の信号種別情報SEは、実施の形態1に係る信号種別情報SEと同じであり、ここでは、係数位置及び周囲条件である場合を想定して説明する。尚、信号種別情報SEは、動きデータや、後述する図16に示す画像復号装置400のイントラ予測部450が用いるイントラ予測方向等を示す情報であっても良い。
尚、本実施の形態2では、本実施の形態1と同様に、ブロックサイズに応じたコンテキストを設定することを想定しているため、ブロックサイズ信号BLKSを受け付ける構成としているが、画像データの他の特徴に応じてコンテキストを設定する場合には、当該ブロックサイズ信号BLKSを用いない構成としても良い。
2値算術復号器301は、入力ストリームISに対し、後述するコンテキスト制御部303によってシンボル発生確率格納部302から読み出された、復号確率情報であるシンボル発生確率PEを用いて、算術復号処理を行い、2値信号OBINを生成する。
シンボル発生確率格納部302は、不揮発性メモリ等で構成される記憶部であり、信号情報テーブル、及び、複数のコンテキストテーブルを記憶している。シンボル発生確率格納部102は、図示しないが、さらに、確率情報pStateIdxに対応するシンボル発生確率PEの値を示す発生確率テーブルを保持している。
信号情報テーブルは、図4に示す従来の信号情報テーブルと同じであり、インデックスctxIdx、発生確率pStateIdx、シンボルvalMPSが対応付けて記憶されている。尚、実施の形態1と同様に、信号情報テーブルとして、コンテキストctxIdxとシンボル発生確率PEの値とを直接対応付けたテーブルを用いてもよい。
コンテキストテーブルは、本実施の形態1と同様に、条件に応じてコンテキストctxIdsを設定した複数のテーブルで構成される。コンテキストテーブルの詳細は、実施の形態1と同様である。
コンテキスト制御部303は、2値算術復号器301で用いるシンボル発生確率PEを特定するコンテキスト制御処理と、シンボル発生確率格納部302のシンボル発生確率PEを更新する更新処理を実行する。
コンテキスト制御部303によるコンテキスト制御処理について説明する。コンテキスト制御部303は、後述するコンテキストブロック区分制御部305から出力される制御信号CTRSを取得し、シンボル発生確率格納部302のコンテキストテーブルのうち、どのテーブルを利用するかを取得する。さらに、コンテキスト制御部303は、シンボル発生確率格納部302の特定されたテーブルを参照し、信号種別情報SEによって特定される条件に対応するコンテキストctxIdxを特定する。
引き続き、コンテキスト制御部303は、信号情報テーブルを参照して、インデックスctxIdxに対応する発生確率pStateIdxを取得する。コンテキスト制御部303は、発生確率pStateIdxに基づいて、シンボル発生確率格納部302に格納されている発生確率テーブルから、2値算術復号器301で用いるシンボル発生確率PEを特定する。さらに、コンテキスト制御部303は、特定したシンボル発生確率PEを、シンボル発生確率格納部302から2値算術復号器301に出力させる。
引き続き、コンテキスト制御部303による更新処理について説明する。コンテキスト制御部303による更新処理は、H.264規格に基づいて行う。具体的には、コンテキスト制御部303は、入力ストリームISに基づいて、新たなシンボル発生確率PEとシンボルvalMPSとを導出する。コンテキスト制御部303は、シンボル発生確率格納部302に記憶された信号情報テーブルにおいて、コンテキスト制御処理で特定したコンテキストctxIdxに対応する発生確率pStateIdxの値を、新たなシンボル発生確率PEに対応する値に置き換える。
多値化部304は、2値算術復号器301によって生成された2値信号OBINを多値化することで、画像データを復元する。尚、多値化の方式は、信号種別情報SEに基づいて決定される。
コンテキストブロック区分制御部305は、本実施の形態2では、本実施の形態1と同様に、ブロックサイズ信号BLKS及び信号種別情報SEに基づいて、シンボル発生確率格納部302のコンテキストテーブルのうち、どのテーブルを利用するかを決定し、決定したテーブルを示す制御信号CTRSを生成して、コンテキスト制御部103に出力する。
(実施の形態2における処理手順)
次に、本実施の形態2における算術復号部300による算術復号方法の処理手順について説明する。
ここで、図14は、本発明に係る画像復号方法の処理手順を示すフローチャートである。本発明に係る画像復号方法は、符号化画像データの復号対象信号を取得する復号対象信号取得ステップ(ステップS501)と、複数のコンテキストから、復号対象信号のコンテキストを選択するコンテキスト選択ステップ(ステップS502)と、コンテキスト選択ステップで選択したコンテキストに対応付けられた復号確率情報を用いて、復号対象信号を算術復号することで、2値信号を生成する算術復号ステップ(ステップS503)と、2値信号を多値化することで、画像データを復元する多値化ステップ(ステップS504)と、2値信号に基づいて、コンテキスト選択ステップで選択したコンテキストに対応付けられた復号確率情報を更新する更新ステップ(ステップS505)と、を含み、コンテキスト選択ステップでは、復号対象信号のコンテキストを、異なる処理単位サイズの復号対象信号と共通に選択するように構成されている。
図15は、本実施の形態2に係る算術復号方法の処理手順の概要をより詳細に示すフローチャートである。尚、図15のフローチャートは、1つの入力ストリームSI(復号対象信号)に対する算術復号処理を示している。
図15に示すように、算術復号処理が開始されると、コンテキストブロック区分制御部305は、ブロックサイズ信号BLKSに基づいて、復号対象信号のブロックサイズを取得する(ステップS301)。
次に、コンテキストブロック区分制御部305は、ステップS301で取得したブロックサイズと、信号種別情報SEに基づいて、ブロックサイズ共通のコンテキストを使うか否かを判断する(ステップS302)。
コンテキストブロック区分制御部305は、ブロックサイズ別のコンテキストを使うと判断した場合(ステップS302でNO分岐)、ブロックサイズ別のコンテキストが設定されたテーブルを選択し、当該テーブルを示す制御信号CTRSをコンテキスト制御部303に対して出力する(ステップS303)。
一方、コンテキストブロック区分制御部305は、ブロックサイズ共通のコンテキストを使うと判断した場合(ステップS302でYES分岐)、シンボル発生確率格納部102のコンテキストテーブルのうち、ブロックサイズ共通のコンテキストが設定されたテーブルを選択し、当該テーブルを示す制御信号CTRSを、コンテキスト制御部303に対して出力する(ステップS304)。
尚、コンテキストブロック区分制御部305の詳細動作は、実施の形態1の動作例1〜3と同じである。
コンテキスト制御部303は、制御信号CTRSに基づいて、シンボル発生確率格納部302に格納されるコンテキストテーブルのうち、入力ストリームISに対応するコンテキストテーブルを決定する(ステップS305)。
コンテキスト制御部303は、選択したコンテキストテーブルを参照し、信号種別情報SEによって決まる条件に基づいて、コンテキストctxIdxを特定する(ステップS302からここまでがコンテキスト選択ステップに相当、また、コンテキストブロック区分制御部305とコンテキスト制御部303の当該ステップを実行する部分がコンテキスト選択制御部に相当)。さらに、信号情報テーブル及び発生確率テーブルを参照して、コンテキストctxIdxに対応するシンボル発生確率PEを特定し、シンボル発生確率格納部302から読み出して、2値算術復号器301に出力する。
2値算術復号器301は、入力ストリームISの復号対象信号を取得し(復号対象信号取得ステップ)、コンテキスト制御部303によって特定されたシンボル発生確率PE(復号確率情報)を取得する。2値算術復号器301は、H.264規格に従い、取得したシンボル発生確率PE(復号確率情報)を用いて、復号対象信号に対し、算術復号処理を実行することで、出力2値信号OBINを生成する(ステップS306、算術復号ステップ)。
コンテキスト制御部303は、2値算術復号器301によって生成された2値信号OBINに基づいて、シンボル発生確率PEを更新する更新処理を実行する(ステップS307、更新ステップ)。更新処理の実行手順は、実施の形態1における更新処理と同じである。
多値化部304は、2値信号OBINを多値化することで、画像データを復元する(ステップS308、多値化ステップ)。
(コンテキストブロック区分制御部の変形例)
例えば、実施の形態1の算術符号化方法及び算術符号化装置において、大ブロックサイズを、同一サイズのサブブロック(小ブロックサイズ)に分割し、サブブロックの夫々に対して、当該小ブロックサイズのコンテキストを用いるように構成した場合は、本実施の形態2の算術復号方法及び算術復号装置においても、大ブロックサイズを、同一サイズのサブブロック(小ブロックサイズ)に分割し、サブブロックの夫々に対して、当該小ブロックサイズのコンテキストを用いるように構成することが好適である。
より具体的には、例えば、算術符号化装置において、16×16の大ブロックサイズを16個の4×4のサブブロックに分割して算術符号化処理を実行した場合は、4×4の小ブロックサイズに用いられるコンテキストを、夫々のサブブロックの算術復号処理に適用する。
この場合、算術復号部300は、サブブロック毎に算術復号処理を実行し、複数のサブブロックを大ブロックサイズに復元して、逆量子化・逆変換部420に出力する。
このように構成すれば、大ブロックサイズに対して、小ブロックサイズと同じコンテキストテーブルを利用でき、結果として、大ブロックサイズと小ブロックサイズの間で、コンテキストを共通化できる。
(画像復号装置の全体構成)
上述した本実施の形態2に係る算術復号部300は、圧縮符号化された符号化画像データを復号する画像復号装置に備えられる。
画像復号装置400は、圧縮符号化された符号化画像データを復号する。例えば、画像復号装置400には、符号化画像データがブロック毎に復号対象信号として入力される。画像復号装置400は、入力された復号対象信号に対し、可変長復号、逆量子化及び逆変換を行うことで、画像データを復元する。
ここで、図16は、本発明の実施の形態2に係る画像復号装置400の構成の一例を示すブロック図である。図16に示すように、画像復号装置400は、エントロピー復号部410と、逆量子化・逆変換部420と、加算器425と、デブロッキングフィルタ430と、メモリ440と、イントラ予測部450と、動き補償部460と、イントラ/インター切換スイッチ470とを備える。
画像復号装置400には、符号化画像データがブロック毎に入力信号(入力ストリームIS)として入力される。
エントロピー復号部410は、上述した図13に示す算術復号部300で構成され、入力信号(入力ストリームIS)を算術復号及び多値化することにより可変長復号を行い、量子化係数を復元する。尚、ここで、入力信号(入力ストリームIS)は、復号対象信号であり、符号化画像データのブロック毎のデータに相当する。また、エントロピー復号部410は、入力信号から動きデータを取得し、取得した動きデータを動き補償部460に出力する。
逆量子化・逆変換部420は、エントロピー復号部410によって復元された量子化係数を逆量子化することで、変換係数を復元する。さらに、逆量子化・逆変換部420は、復元した変換係数を逆変換することで、予測誤差を復元し、加算器425に出力する。
加算器425は、逆量子化・逆変換部420により復元された予測誤差と、後述する予測信号とを加算することで、復号画像を生成し、デブロッキングフィルタ430とイントラ予測部450に出力する。
デブロッキングフィルタ430は、加算器425により生成された復号画像に対し、デブロッキングフィルタ処理を行う。デブロッキングフィルタ処理された復号画像は、復号信号として出力される。
メモリ440は、動き補償に用いられる参照画像を格納するためのメモリである。具体的には、メモリ440は、デブロッキングフィルタ処理が施された復号画像を格納する。
イントラ予測部450は、イントラ予測を行うことで、予測信号(イントラ予測信号)を生成する。具体的には、イントラ予測部450は、加算器425によって生成された復号画像における、復号対象ブロック(入力信号)の周囲の画像を参照してイントラ予測を行うことで、イントラ予測信号を生成する。
動き補償部460は、エントロピー復号部410から出力された動きデータに基づいて動き補償を行うことで、予測信号(インター予測信号)を生成する。
イントラ/インター切換スイッチ470は、イントラ予測信号及びインター予測信号のいずれかを選択し、選択した信号を予測信号として加算器425に出力する。
以上の構成により、本実施の形態2に係る画像復号装置400は、圧縮符号化された符号化画像データを復号する。
尚、実施の形態1において、出力信号OBのビットストリームの先頭(ストリームヘッダ)に、ブロックサイズが異なっていても共通のコンテキストを用いるかどうかを示す情報を記録するように構成し、本実施の形態2におけるエントロピー復号部410において、当該情報を信号種別情報SEとして取得し、ブロックサイズ別のコンテキストテーブルを用いるか、共通のコンテキストテーブルを用いるかを判定するように構成しても良い。尚、ストリームヘッダに記録する単位は、スライス、ピクチャに対応する単位であっても、同様に復号できる。
以上のように、本実施の形態2に係る画像復号装置及び画像復号方法によれば、実施の形態1の算術符号化部100と同様に、エントロピー復号部410(算術復号部300)を、ブロックサイズが異なる場合でも、同じ統計的性質の画像データについては、同じコンテキストを適用するように構成したので、実施の形態1により符号化された符号化画像データを、より適切に正しく復号することができる。従って、本発明の実施の形態2に係る画像復号装置及び画像復号方法においても、コンテキストの数を削減し、発生確率の低いシンボル発生確率PEの更新頻度を増加させ、シンボル発生確率PEの精度を向上させて、符号化効率を高めることができる。
また、実施の形態1の画像符号化装置と、実施の形態2の画像復号装置の両方を備えて、画像符号化復号装置として構成するのも好適である。
(実施の形態3)
上記各実施の形態で示した動画像符号化方法(画像符号化方法)または動画像復号化方法(画像復号方法)の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ICカード、半導体メモリ等、プログラムを記録できるものであればよい。
さらにここで、上記各実施の形態で示した動画像符号化方法(画像符号化方法)や動画像復号化方法(画像復号方法)の応用例とそれを用いたシステムを説明する。当該システムは、画像符号化方法を用いた画像符号化装置、及び画像復号方法を用いた画像復号装置からなる画像符号化復号装置を有することを特徴とする。システムにおける他の構成について、場合に応じて適切に変更することができる。
図17は、コンテンツ配信サービスを実現するコンテンツ供給システムex100の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex106、ex107、ex108、ex109、ex110が設置されている。
このコンテンツ供給システムex100は、インターネットex101にインターネットサービスプロバイダex102及び電話網ex104、及び基地局ex106からex110を介して、コンピュータex111、PDA(Personal Digital Assistant)ex112、カメラex113、携帯電話ex114、ゲーム機ex115等の各機器が接続される。
しかし、コンテンツ供給システムex100は図17のような構成に限定されず、いずれかの要素を組合せて接続するようにしてもよい。また、固定無線局である基地局ex106からex110を介さずに、各機器が電話網ex104に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
カメラex113はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラex116はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ex114は、GSM(登録商標)(Global System for Mobile Communications)方式、CDMA(Code Division Multiple Access)方式、W−CDMA(Wideband-Code Division Multiple Access)方式、若しくはLTE(Long Term Evolution)方式、HSPA(High Speed Packet Access)の携帯電話機、またはPHS(Personal Handyphone System)等であり、いずれでも構わない。
コンテンツ供給システムex100では、カメラex113等が基地局ex109、電話網ex104を通じてストリーミングサーバex103に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラex113を用いて撮影するコンテンツ(例えば、音楽ライブの映像等)に対して上記各実施の形態で説明したように符号化処理を行い(即ち、本発明の画像符号化装置として機能する)、ストリーミングサーバex103に送信する。一方、ストリーミングサーバex103は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータex111、PDAex112、カメラex113、携帯電話ex114、ゲーム機ex115等がある。配信されたデータを受信した各機器では、受信したデータを復号化処理して再生する(即ち、本発明の画像復号装置として機能する)。
なお、撮影したデータの符号化処理はカメラex113で行っても、データの送信処理をするストリーミングサーバex103で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号化処理はクライアントで行っても、ストリーミングサーバex103で行ってもよいし、互いに分担して行ってもよい。また、カメラex113に限らず、カメラex116で撮影した静止画像及び/または動画像データを、コンピュータex111を介してストリーミングサーバex103に送信してもよい。この場合の符号化処理はカメラex116、コンピュータex111、ストリーミングサーバex103のいずれで行ってもよいし、互いに分担して行ってもよい。
また、これら符号化・復号化処理は、一般的にコンピュータex111や各機器が有するLSIex500において処理する。LSIex500は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化・復号化用のソフトウェアをコンピュータex111等で読み取り可能な何らかの記録メディア(CD−ROM、フレキシブルディスク、ハードディスク等)に組み込み、そのソフトウェアを用いて符号化・復号化処理を行ってもよい。さらに、携帯電話ex114がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ex114が有するLSIex500で符号化処理されたデータである。
また、ストリーミングサーバex103は複数のサーバや複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
以上のようにして、コンテンツ供給システムex100では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムex100では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号化し、再生することができ、特別な権利や設備を有さないユーザでも個人放送を実現できる。
なお、コンテンツ供給システムex100の例に限らず、図18に示すように、デジタル放送用システムex200にも、上記各実施の形態の少なくとも動画像符号化装置(画像符号化装置)または動画像復号化装置(画像復号装置)のいずれかを組み込むことができる。具体的には、放送局ex201では映像データに音楽データ等が多重化された多重化データが電波を介して通信または衛星ex202に伝送される。この映像データは上記各実施の形態で説明した動画像符号化方法により符号化されたデータである(即ち、本発明の画像符号化装置によって符号化されたデータである)。これを受けた放送衛星ex202は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナex204が受信する。受信した多重化データを、テレビ(受信機)ex300またはセットトップボックス(STB)ex217等の装置が復号化して再生する(即ち、本発明の画像復号装置として機能する)。
また、DVD、BD等の記録メディアex215に記録した多重化データを読み取り復号化する、または記録メディアex215に映像信号を符号化し、さらに場合によっては音楽信号と多重化して書き込むリーダ/レコーダex218にも上記各実施の形態で示した動画像復号化装置または動画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタex219に表示され、多重化データが記録された記録メディアex215により他の装置やシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルex203または衛星/地上波放送のアンテナex204に接続されたセットトップボックスex217内に動画像復号化装置を実装し、これをテレビのモニタex219で表示してもよい。このときセットトップボックスではなく、テレビ内に動画像復号化装置を組み込んでもよい。
図19は、上記各実施の形態で説明した動画像復号化方法及び動画像符号化方法を用いたテレビ(受信機)ex300を示す図である。テレビex300は、上記放送を受信するアンテナex204またはケーブルex203等を介して映像データに音声データが多重化された多重化データを取得、または出力するチューナex301と、受信した多重化データを復調する、または外部に送信する多重化データに変調する変調/復調部ex302と、復調した多重化データを映像データと、音声データとに分離する、または信号処理部ex306で符号化された映像データ、音声データを多重化する多重/分離部ex303を備える。
また、テレビex300は、音声データ、映像データそれぞれを復号化する、またはそれぞれの情報を符号化する音声信号処理部ex304、映像信号処理部ex305(本発明の画像符号化装置または画像復号装置として機能する)を有する信号処理部ex306と、復号化した音声信号を出力するスピーカex307、復号化した映像信号を表示するディスプレイ等の表示部ex308を有する出力部ex309とを有する。さらに、テレビex300は、ユーザ操作の入力を受け付ける操作入力部ex312等を有するインタフェース部ex317を有する。さらに、テレビex300は、各部を統括的に制御する制御部ex310、各部に電力を供給する電源回路部ex311を有する。インタフェース部ex317は、操作入力部ex312以外に、リーダ/レコーダex218等の外部機器と接続されるブリッジex313、SDカード等の記録メディアex216を装着可能とするためのスロット部ex314、ハードディスク等の外部記録メディアと接続するためのドライバex315、電話網と接続するモデムex316等を有していてもよい。なお記録メディアex216は、格納する不揮発性/揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビex300の各部は同期バスを介して互いに接続されている。
まず、テレビex300がアンテナex204等により外部から取得した多重化データを復号化し、再生する構成について説明する。テレビex300は、リモートコントローラex220等からのユーザ操作を受け、CPU等を有する制御部ex310の制御に基づいて、変調/復調部ex302で復調した多重化データを多重/分離部ex303で分離する。さらにテレビex300は、分離した音声データを音声信号処理部ex304で復号化し、分離した映像データを映像信号処理部ex305で上記各実施の形態で説明した復号化方法を用いて復号化する。復号化した音声信号、映像信号は、それぞれ出力部ex309から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファex318、ex319等に一旦これらの信号を蓄積するとよい。また、テレビex300は、放送等からではなく、磁気/光ディスク、SDカード等の記録メディアex215、ex216から多重化データを読み出してもよい。次に、テレビex300が音声信号や映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビex300は、リモートコントローラex220等からのユーザ操作を受け、制御部ex310の制御に基づいて、音声信号処理部ex304で音声信号を符号化し、映像信号処理部ex305で映像信号を上記各実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重/分離部ex303で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファex320、ex321等に一旦これらの信号を蓄積するとよい。なお、バッファex318、ex319、ex320、ex321は図示しているように複数備えていてもよいし、1つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調/復調部ex302や多重/分離部ex303の間等でもシステムのオーバフロー、アンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
また、テレビex300は、放送等や記録メディア等から音声データ、映像データを取得する以外に、マイクやカメラのAV入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビex300は上記の符号化処理、多重化、及び外部出力ができる構成として説明したが、これらの処理を行うことはできず、上記受信、復号化処理、外部出力のみが可能な構成であってもよい。
また、リーダ/レコーダex218で記録メディアから多重化データを読み出す、または書き込む場合には、上記復号化処理または符号化処理はテレビex300、リーダ/レコーダex218のいずれで行ってもよいし、テレビex300とリーダ/レコーダex218が互いに分担して行ってもよい。
一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生/記録部ex400の構成を図20に示す。情報再生/記録部ex400は、以下に説明する要素ex401、ex402、ex403、ex404、ex405、ex406、ex407を備える。光ヘッドex401は、光ディスクである記録メディアex215の記録面にレーザスポットを照射して情報を書き込み、記録メディアex215の記録面からの反射光を検出して情報を読み込む。変調記録部ex402は、光ヘッドex401に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ex403は、光ヘッドex401に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアex215に記録された信号成分を分離して復調し、必要な情報を再生する。バッファex404は、記録メディアex215に記録するための情報及び記録メディアex215から再生した情報を一時的に保持する。ディスクモータex405は記録メディアex215を回転させる。サーボ制御部ex406は、ディスクモータex405の回転駆動を制御しながら光ヘッドex401を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ex407は、情報再生/記録部ex400全体の制御を行う。上記の読み出しや書き込みの処理はシステム制御部ex407が、バッファex404に保持された各種情報を利用し、また必要に応じて新たな情報の生成・追加を行うと共に、変調記録部ex402、再生復調部ex403、サーボ制御部ex406を協調動作させながら、光ヘッドex401を通して、情報の記録再生を行うことにより実現される。システム制御部ex407は例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
以上では、光ヘッドex401はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
図21に光ディスクである記録メディアex215の模式図を示す。記録メディアex215の記録面には案内溝(グルーブ)がスパイラル状に形成され、情報トラックex230には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックex231の位置を特定するための情報を含み、記録や再生を行う装置において情報トラックex230を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアex215は、データ記録領域ex233、内周領域ex232、外周領域ex234を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ex233であり、データ記録領域ex233より内周または外周に配置されている内周領域ex232と外周領域ex234は、ユーザデータの記録以外の特定用途に用いられる。情報再生/記録部ex400は、このような記録メディアex215のデータ記録領域ex233に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した多重化データの読み書きを行う。
以上では、1層のDVD、BD等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したり等、多次元的な記録/再生を行う構造の光ディスクであってもよい。
また、デジタル放送用システムex200において、アンテナex205を有する車ex210で衛星ex202等からデータを受信し、車ex210が有するカーナビゲーションex211等の表示装置に動画を再生することも可能である。なお、カーナビゲーションex211の構成は例えば図19に示す構成のうち、GPS受信部を加えた構成が考えられ、同様なことがコンピュータex111や携帯電話ex114等でも考えられる。
図22Aは、上記実施の形態で説明した動画像復号化方法及び動画像符号化方法を用いた携帯電話ex114を示す図である。携帯電話ex114は、基地局ex110との間で電波を送受信するためのアンテナex350、映像、静止画を撮ることが可能なカメラ部ex365、カメラ部ex365で撮像した映像、アンテナex350で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ex358を備える。携帯電話ex114は、さらに、操作キー部ex366を有する本体部、音声を出力するためのスピーカ等である音声出力部ex357、音声を入力するためのマイク等である音声入力部ex356、撮影した映像、静止画、録音した音声、または受信した映像、静止画、メール等の符号化されたデータもしくは復号化されたデータを保存するメモリ部ex367、または同様にデータを保存する記録メディアとのインタフェース部であるスロット部ex364を備える。
さらに、携帯電話ex114の構成例について、図22Bを用いて説明する。携帯電話ex114は、表示部ex358及び操作キー部ex366を備えた本体部の各部を統括的に制御する主制御部ex360に対して、電源回路部ex361、操作入力制御部ex362、映像信号処理部ex355、カメラインタフェース部ex363、LCD(Liquid Crystal Display)制御部ex359、変調/復調部ex352、多重/分離部ex353、音声信号処理部ex354、スロット部ex364、メモリ部ex367がバスex370を介して互いに接続されている。
電源回路部ex361は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話ex114を動作可能な状態に起動する。
携帯電話ex114は、CPU、ROM、RAM等を有する主制御部ex360の制御に基づいて、音声通話モード時に音声入力部ex356で収音した音声信号を音声信号処理部ex354でデジタル音声信号に変換し、これを変調/復調部ex352でスペクトラム拡散処理し、送信/受信部ex351でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex350を介して送信する。また携帯電話ex114は、音声通話モード時にアンテナex350を介して受信した受信データを増幅して周波数変換処理及びアナログデジタル変換処理を施し、変調/復調部ex352でスペクトラム逆拡散処理し、音声信号処理部ex354でアナログ音声信号に変換した後、これを音声出力部ex357から出力する。
さらにデータ通信モード時に電子メールを送信する場合、本体部の操作キー部ex366等の操作によって入力された電子メールのテキストデータは操作入力制御部ex362を介して主制御部ex360に送出される。主制御部ex360は、テキストデータを変調/復調部ex352でスペクトラム拡散処理をし、送信/受信部ex351でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex350を介して基地局ex110へ送信する。電子メールを受信する場合は、受信したデータに対してこのほぼ逆の処理が行われ、表示部ex358に出力される。
データ通信モード時に映像、静止画、または映像と音声を送信する場合、映像信号処理部ex355は、カメラ部ex365から供給された映像信号を上記各実施の形態で示した動画像符号化方法によって圧縮符号化し(即ち、本発明の画像符号化装置として機能する)、符号化された映像データを多重/分離部ex353に送出する。また、音声信号処理部ex354は、映像、静止画等をカメラ部ex365で撮像中に音声入力部ex356で収音した音声信号を符号化し、符号化された音声データを多重/分離部ex353に送出する。
多重/分離部ex353は、映像信号処理部ex355から供給された符号化された映像データと音声信号処理部ex354から供給された符号化された音声データを所定の方式で多重化し、その結果得られる多重化データを変調/復調部(変調/復調回路部)ex352でスペクトラム拡散処理をし、送信/受信部ex351でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex350を介して送信する。
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、または映像及びもしくは音声が添付された電子メールを受信する場合、アンテナex350を介して受信された多重化データを復号化するために、多重/分離部ex353は、多重化データを分離することにより映像データのビットストリームと音声データのビットストリームとに分け、同期バスex370を介して符号化された映像データを映像信号処理部ex355に供給するとともに、符号化された音声データを音声信号処理部ex354に供給する。映像信号処理部ex355は、上記各実施の形態で示した動画像符号化方法に対応した動画像復号化方法によって復号化することにより映像信号を復号し(即ち、本発明の画像復号装置として機能する)、LCD制御部ex359を介して表示部ex358から、例えばホームページにリンクされた動画像ファイルに含まれる映像、静止画が表示される。また音声信号処理部ex354は、音声信号を復号し、音声出力部ex357から音声が出力される。
また、上記携帯電話ex114等の端末は、テレビex300と同様に、符号化器・復号化器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号化器のみの受信端末という3通りの実装形式が考えられる。さらに、デジタル放送用システムex200において、映像データに音楽データ等が多重化された多重化データを受信、送信するとして説明したが、音声データ以外に映像に関連する文字データ等が多重化されたデータであってもよいし、多重化データではなく映像データ自体であってもよい。
このように、上記各実施の形態で示した動画像符号化方法あるいは動画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。
また、本発明はかかる上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
(実施の形態4)
上記各実施の形態で示した動画像符号化方法または装置と、MPEG−2、MPEG4−AVC、VC−1等異なる規格に準拠した動画像符号化方法または装置とを、必要に応じて適宜切替えることにより、映像データを生成することも可能である。
ここで、それぞれ異なる規格に準拠する複数の映像データを生成した場合、復号する際に、それぞれの規格に対応した復号方法を選択する必要がある。しかしながら、復号する映像データが、どの規格に準拠するものであるか識別できないため、適切な復号方法を選択することができないという課題を生じる。
この課題を解決するために、映像データに音声データ等を多重化した多重化データは、映像データがどの規格に準拠するものであるかを示す識別情報を含む構成とする。上記各実施の形態で示す動画像符号化方法または装置によって生成された映像データを含む多重化データの具体的な構成を以下説明する。多重化データは、MPEG−2トランスポートストリーム形式のデジタルストリームである。
図23は、多重化データの構成を示す図である。図23に示すように多重化データは、ビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム(PG)、インタラクティブグラフィックスストリームのうち、1つ以上を多重化することで得られる。ビデオストリームは映画の主映像及び副映像を、オーディオストリーム(IG)は映画の主音声部分とその主音声とミキシングする副音声を、プレゼンテーショングラフィックスストリームは、映画の字幕をそれぞれ示している。ここで主映像とは画面に表示される通常の映像を示し、副映像とは主映像の中に小さな画面で表示する映像のことである。また、インタラクティブグラフィックスストリームは、画面上にGUI部品を配置することにより作成される対話画面を示している。ビデオストリームは、上記各実施の形態で示した動画像符号化方法または装置、従来のMPEG−2、MPEG4−AVC、VC−1等の規格に準拠した動画像符号化方法または装置によって符号化されている。オーディオストリームは、ドルビーAC−3、Dolby Digital Plus、MLP、DTS、DTS−HD、または、リニアPCMの等の方式で符号化されている。
多重化データに含まれる各ストリームはPIDによって識別される。例えば、映画の映像に利用するビデオストリームには0x1011が、オーディオストリームには0x1100から0x111Fまでが、プレゼンテーショングラフィックスには0x1200から0x121Fまでが、インタラクティブグラフィックスストリームには0x1400から0x141Fまでが、映画の副映像に利用するビデオストリームには0x1B00から0x1B1Fまで、主音声とミキシングする副音声に利用するオーディオストリームには0x1A00から0x1A1Fが、それぞれ割り当てられている。
図24は、多重化データがどのように多重化されるかを模式的に示す図である。まず、複数のビデオフレームからなるビデオストリームex235、複数のオーディオフレームからなるオーディオストリームex238を、それぞれPESパケット列ex236及びex239に変換し、TSパケットex237及びex240に変換する。同じくプレゼンテーショングラフィックスストリームex241及びインタラクティブグラフィックスex244のデータをそれぞれPESパケット列ex242及びex245に変換し、さらにTSパケットex243及びex246に変換する。多重化データex247はこれらのTSパケットを1本のストリームに多重化することで構成される。
図25は、PESパケット列に、ビデオストリームがどのように格納されるかをさらに詳しく示している。図25における第1段目はビデオストリームのビデオフレーム列を示す。第2段目は、PESパケット列を示す。図25の矢印yy1,yy2,yy3,yy4に示すように、ビデオストリームにおける複数のVideo Presentation UnitであるIピクチャ、Bピクチャ、Pピクチャは、ピクチャ毎に分割され、PESパケットのペイロードに格納される。各PESパケットはPESヘッダを持ち、PESヘッダには、ピクチャの表示時刻であるPTS(Presentation Time−Stamp)やピクチャの復号時刻であるDTS(Decoding Time−Stamp)が格納される。
図26は、多重化データに最終的に書き込まれるTSパケットの形式を示している。TSパケットは、ストリームを識別するPID等の情報を持つ4ByteのTSヘッダとデータを格納する184ByteのTSペイロードから構成される188Byte固定長のパケットであり、上記PESパケットは分割されTSペイロードに格納される。BD−ROMの場合、TSパケットには、4ByteのTP_Extra_Headerが付与され、192Byteのソースパケットを構成し、多重化データに書き込まれる。TP_Extra_HeaderにはATS(Arrival_Time_Stamp)等の情報が記載される。ATSは当該TSパケットのデコーダのPIDフィルタへの転送開始時刻を示す。多重化データには図26下段に示すようにソースパケットが並ぶこととなり、多重化データの先頭からインクリメントする番号はSPN(ソースパケットナンバー)と呼ばれる。
また、多重化データに含まれるTSパケットには、映像・音声・字幕等の各ストリーム以外にもPAT(Program Association Table)、PMT(Program Map Table)、PCR(Program Clock Reference)等がある。PATは多重化データ中に利用されるPMTのPIDが何であるかを示し、PAT自身のPIDは0で登録される。PMTは、多重化データ中に含まれる映像・音声・字幕等の各ストリームのPIDと各PIDに対応するストリームの属性情報を持ち、また多重化データに関する各種ディスクリプタを持つ。ディスクリプタには多重化データのコピーを許可・不許可を指示するコピーコントロール情報等がある。PCRは、ATSの時間軸であるATC(Arrival Time Clock)とPTS・DTSの時間軸であるSTC(System Time Clock)の同期を取るために、そのPCRパケットがデコーダに転送されるATSに対応するSTC時間の情報を持つ。
図27はPMTのデータ構造を詳しく説明する図である。PMTの先頭には、そのPMTに含まれるデータの長さ等を記したPMTヘッダが配置される。その後ろには、多重化データに関するディスクリプタが複数配置される。上記コピーコントロール情報等が、ディスクリプタとして記載される。ディスクリプタの後には、多重化データに含まれる各ストリームに関するストリーム情報が複数配置される。ストリーム情報は、ストリームの圧縮コーデック等を識別するためストリームタイプ、ストリームのPID、ストリームの属性情報(フレームレート、アスペクト比等)が記載されたストリームディスクリプタから構成される。ストリームディスクリプタは多重化データに存在するストリームの数だけ存在する。
記録媒体等に記録する場合には、上記多重化データは、多重化データ情報ファイルと共に記録される。
多重化データ情報ファイルは、図28に示すように多重化データの管理情報であり、多重化データと1対1に対応し、多重化データ情報、ストリーム属性情報とエントリマップから構成される。
多重化データ情報は図28に示すようにシステムレート、再生開始時刻、再生終了時刻から構成されている。システムレートは多重化データの、後述するシステムターゲットデコーダのPIDフィルタへの最大転送レートを示す。多重化データ中に含まれるATSの間隔はシステムレート以下になるように設定されている。再生開始時刻は多重化データの先頭のビデオフレームのPTSであり、再生終了時刻は多重化データの終端のビデオフレームのPTSに1フレーム分の再生間隔を足したものが設定される。
ストリーム属性情報は図29に示すように、多重化データに含まれる各ストリームについての属性情報が、PID毎に登録される。属性情報はビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム、インタラクティブグラフィックスストリーム毎に異なる情報を持つ。ビデオストリーム属性情報は、そのビデオストリームがどのような圧縮コーデックで圧縮されたか、ビデオストリームを構成する個々のピクチャデータの解像度がどれだけであるか、アスペクト比はどれだけであるか、フレームレートはどれだけであるか等の情報を持つ。オーディオストリーム属性情報は、そのオーディオストリームがどのような圧縮コーデックで圧縮されたか、そのオーディオストリームに含まれるチャネル数は何であるか、何の言語に対応するか、サンプリング周波数がどれだけであるか等の情報を持つ。これらの情報は、プレーヤが再生する前のデコーダの初期化等に利用される。
本実施の形態においては、上記多重化データのうち、PMTに含まれるストリームタイプを利用する。また、記録媒体に多重化データが記録されている場合には、多重化データ情報に含まれる、ビデオストリーム属性情報を利用する。具体的には、上記各実施の形態で示した動画像符号化方法または装置において、PMTに含まれるストリームタイプ、または、ビデオストリーム属性情報に対し、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示す固有の情報を設定するステップまたは手段を設ける。この構成により、上記各実施の形態で示した動画像符号化方法または装置によって生成した映像データと、他の規格に準拠する映像データとを識別することが可能になる。
また、本実施の形態における動画像復号化方法のステップを図30に示す。ステップexS100において、多重化データからPMTに含まれるストリームタイプ、または、多重化データ情報に含まれるビデオストリーム属性情報を取得する。次に、ステップexS101において、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成された多重化データであることを示しているか否かを判断する。そして、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成されたものであると判断された場合には、ステップexS102において、上記各実施の形態で示した動画像復号方法により復号を行う。また、ストリームタイプ、または、ビデオストリーム属性情報が、従来のMPEG−2、MPEG4−AVC、VC−1等の規格に準拠するものであることを示している場合には、ステップexS103において、従来の規格に準拠した動画像復号方法により復号を行う。
このように、ストリームタイプ、または、ビデオストリーム属性情報に新たな固有値を設定することにより、復号する際に、上記各実施の形態で示した動画像復号化方法または装置で復号可能であるかを判断することができる。従って、異なる規格に準拠する多重化データが入力された場合であっても、適切な復号化方法または装置を選択することができるため、エラーを生じることなく復号することが可能となる。また、本実施の形態で示した動画像符号化方法または装置、または、動画像復号方法または装置を、上述したいずれの機器・システムに用いることも可能である。
(実施の形態5)
上記各実施の形態で示した動画像符号化方法及び装置、動画像復号化方法及び装置は、典型的には集積回路であるLSIで実現される。一例として、図31に1チップ化されたLSIex500の構成を示す。LSIex500は、以下に説明する要素ex501、ex502、ex503、ex504、ex505、ex506、ex507、ex508、ex509を備え、各要素はバスex510を介して接続している。電源回路部ex505は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
例えば符号化処理を行う場合には、LSIex500は、CPUex502、メモリコントローラex503、ストリームコントローラex504、駆動周波数制御部ex512等を有する制御部ex501の制御に基づいて、AV I/Oex509によりマイクex117やカメラex113等からAV信号を入力する。入力されたAV信号は、一旦SDRAM等の外部のメモリex511に蓄積される。制御部ex501の制御に基づいて、蓄積したデータは処理量や処理速度に応じて適宜複数回に分ける等され信号処理部ex507に送られ、信号処理部ex507において音声信号の符号化及び/または映像信号の符号化が行われる。ここで映像信号の符号化処理は上記各実施の形態で説明した符号化処理である。信号処理部ex507ではさらに、場合により符号化された音声データと符号化された映像データを多重化する等の処理を行い、ストリームI/Oex506から外部に出力する。この出力された多重化データは、基地局ex107に向けて送信されたり、または記録メディアex215に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファex508にデータを蓄積するとよい。
なお、上記では、メモリex511がLSIex500の外部の構成として説明したが、LSIex500の内部に含まれる構成であってもよい。バッファex508も1つに限ったものではなく、複数のバッファを備えていてもよい。また、LSIex500は1チップ化されてもよいし、複数チップ化されてもよい。
また、上記では、制御部ex501が、CPUex502、メモリコントローラex503、ストリームコントローラex504、駆動周波数制御部ex512等を有するとしているが、制御部ex501の構成は、この構成に限らない。例えば、信号処理部ex507がさらにCPUを備える構成であってもよい。信号処理部ex507の内部にもCPUを設けることにより、処理速度をより向上させることが可能になる。また、他の例として、CPUex502が信号処理部ex507、または信号処理部ex507の一部である例えば音声信号処理部を備える構成であってもよい。このような場合には、制御部ex501は、信号処理部ex507、またはその一部を有するCPUex502を備える構成となる。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路または汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
さらには、半導体技術の進歩または派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
(実施の形態6)
上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データを復号する場合、従来のMPEG−2、MPEG4−AVC、VC−1等の規格に準拠する映像データを復号する場合に比べ、処理量が増加することが考えられる。そのため、LSIex500において、従来の規格に準拠する映像データを復号する際のCPUex502の駆動周波数よりも高い駆動周波数に設定する必要がある。しかし、駆動周波数を高くすると、消費電力が高くなるという課題が生じる。
この課題を解決するために、テレビex300、LSIex500等の動画像復号化装置は、映像データがどの規格に準拠するものであるかを識別し、規格に応じて駆動周波数を切替える構成とする。図32は、本実施の形態における構成ex800を示している。駆動周波数切替え部ex803は、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合には、駆動周波数を高く設定する。そして、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ex801に対し、映像データを復号するよう指示する。一方、映像データが、従来の規格に準拠する映像データである場合には、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合に比べ、駆動周波数を低く設定する。そして、従来の規格に準拠する復号処理部ex802に対し、映像データを復号するよう指示する。
より具体的には、駆動周波数切替え部ex803は、図31のCPUex502と駆動周波数制御部ex512から構成される。また、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ex801、及び、従来の規格に準拠する復号処理部ex802は、図31の信号処理部ex507に該当する。CPUex502は、映像データがどの規格に準拠するものであるかを識別する。そして、CPUex502からの信号に基づいて、駆動周波数制御部ex512は、駆動周波数を設定する。また、CPUex502からの信号に基づいて、信号処理部ex507は、映像データの復号を行う。ここで、映像データの識別には、例えば、実施の形態4で記載した識別情報を利用することが考えられる。識別情報に関しては、実施の形態4で記載したものに限られず、映像データがどの規格に準拠するか識別できる情報であればよい。例えば、映像データがテレビに利用されるものであるか、ディスクに利用されるものであるか等を識別する外部信号に基づいて、映像データがどの規格に準拠するものであるか識別可能である場合には、このような外部信号に基づいて識別してもよい。また、CPUex502における駆動周波数の選択は、例えば、図34のような映像データの規格と、駆動周波数とを対応付けたルックアップテーブルに基づいて行うことが考えられる。ルックアップテーブルを、バッファex508や、LSIの内部メモリに格納しておき、CPUex502がこのルックアップテーブルを参照することにより、駆動周波数を選択することが可能である。
図33は、本実施の形態の方法を実施するステップを示している。まず、ステップexS200では、信号処理部ex507において、多重化データから識別情報を取得する。次に、ステップexS201では、CPUex502において、識別情報に基づいて映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものであるか否かを識別する。映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合には、ステップexS202において、駆動周波数を高く設定する信号を、CPUex502が駆動周波数制御部ex512に送る。そして、駆動周波数制御部ex512において、高い駆動周波数に設定される。一方、従来のMPEG−2、MPEG4−AVC、VC−1等の規格に準拠する映像データであることを示している場合には、ステップexS203において、駆動周波数を低く設定する信号を、CPUex502が駆動周波数制御部ex512に送る。そして、駆動周波数制御部ex512において、映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合に比べ、低い駆動周波数に設定される。
さらに、駆動周波数の切替えに連動して、LSIex500またはLSIex500を含む装置に与える電圧を変更することにより、省電力効果をより高めることが可能である。例えば、駆動周波数を低く設定する場合には、これに伴い、駆動周波数を高く設定している場合に比べ、LSIex500またはLSIex500を含む装置に与える電圧を低く設定することが考えられる。
また、駆動周波数の設定方法は、復号する際の処理量が大きい場合に、駆動周波数を高く設定し、復号する際の処理量が小さい場合に、駆動周波数を低く設定すればよく、上述した設定方法に限らない。例えば、MPEG4−AVC規格に準拠する映像データを復号する処理量の方が、上記各実施の形態で示した動画像符号化方法または装置により生成された映像データを復号する処理量よりも大きい場合には、駆動周波数の設定を上述した場合の逆にすることが考えられる。
さらに、駆動周波数の設定方法は、駆動周波数を低くする構成に限らない。例えば、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、LSIex500またはLSIex500を含む装置に与える電圧を高く設定し、従来のMPEG−2、MPEG4−AVC、VC−1等の規格に準拠する映像データであることを示している場合には、LSIex500またはLSIex500を含む装置に与える電圧を低く設定することも考えられる。また、他の例としては、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、CPUex502の駆動を停止させることなく、従来のMPEG−2、MPEG4−AVC、VC−1等の規格に準拠する映像データであることを示している場合には、処理に余裕があるため、CPUex502の駆動を一時停止させることも考えられる。識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合であっても、処理に余裕があれば、CPUex502の駆動を一時停止させることも考えられる。この場合は、従来のMPEG−2、MPEG4−AVC、VC−1等の規格に準拠する映像データであることを示している場合に比べて、停止時間を短く設定することが考えられる。
このように、映像データが準拠する規格に応じて、駆動周波数を切替えることにより、省電力化を図ることが可能になる。また、電池を用いてLSIex500またはLSIex500を含む装置を駆動している場合には、省電力化に伴い、電池の寿命を長くすることが可能である。
(実施の形態7)
テレビや、携帯電話等、上述した機器・システムには、異なる規格に準拠する複数の映像データが入力される場合がある。このように、異なる規格に準拠する複数の映像データが入力された場合にも復号できるようにするために、LSIex500の信号処理部ex507が複数の規格に対応している必要がある。しかし、それぞれの規格に対応する信号処理部ex507を個別に用いると、LSIex500の回路規模が大きくなり、また、コストが増加するという課題が生じる。
この課題を解決するために、上記各実施の形態で示した動画像復号方法を実行するための復号処理部と、従来のMPEG−2、MPEG4−AVC、VC−1等の規格に準拠する復号処理部とを一部共有化する構成とする。この構成例を図35Aのex900に示す。例えば、上記各実施の形態で示した動画像復号方法と、MPEG4−AVC規格に準拠する動画像復号方法とは、エントロピー符号化、逆量子化、デブロッキング・フィルタ、動き補償等の処理において処理内容が一部共通する。共通する処理内容については、MPEG4−AVC規格に対応する復号処理部ex902を共有し、MPEG4−AVC規格に対応しない、本発明特有の他の処理内容については、専用の復号処理部ex901を用いるという構成が考えられる。特に、本発明は、エントロピー符号化に特徴を有していることから、例えば、エントロピー符号化については専用の復号処理部ex901を用い、それ以外の逆量子化、デブロッキング・フィルタ、動き補償のいずれか、または、全ての処理については、復号処理部を共有することが考えられる。復号処理部の共有化に関しては、共通する処理内容については、上記各実施の形態で示した動画像復号化方法を実行するための復号処理部を共有し、MPEG4−AVC規格に特有の処理内容については、専用の復号処理部を用いる構成であってもよい。
また、処理を一部共有化する他の例を図35Bのex1000に示す。この例では、本発明に特有の処理内容に対応した専用の復号処理部ex1001と、他の従来規格に特有の処理内容に対応した専用の復号処理部ex1002と、本発明の動画像復号方法と他の従来規格の動画像復号方法とに共通する処理内容に対応した共用の復号処理部ex1003とを用いる構成としている。ここで、専用の復号処理部ex1001、ex1002は、必ずしも本発明、または、他の従来規格に特有の処理内容に特化したものではなく、他の汎用処理を実行できるものであってもよい。また、本実施の形態の構成を、LSIex500で実装することも可能である。
このように、本発明の動画像復号方法と、従来の規格の動画像復号方法とで共通する処理内容について、復号処理部を共有することにより、LSIの回路規模を小さくし、かつ、コストを低減することが可能である。
本発明に係る画像符号化方法、画像復号方法、画像符号化装置、画像復号装置及び画像符号化復号装置は、例えば、テレビ、デジタルビデオレコーダー、カーナビゲーション、携帯電話、デジタルカメラ、デジタルビデオカメラ等の高解像度の情報表示機器や撮像機器などに利用可能である。
10 算術符号化部
11 2値化部
12 シンボル発生確率格納部
13 コンテキスト制御部
14 2値算術符号化器
100 算術符号化部
101 2値化部
102 シンボル発生確率格納部
103 コンテキスト制御部
104 2値算術符号化器
105 コンテキストブロック区分制御部
200 画像符号化装置
205 減算器
210 変換・量子化部
220 エントロピー符号化部
230 逆量子化・逆変換部
235 加算器
240 デブロッキングフィルタ
250 メモリ
260 イントラ予測部
270 動き検出部
280 動き補償部
290 イントラ/インター切換スイッチ
300 算術復号部
301 2値算術復号器
302 シンボル発生確率格納部
303 コンテキスト制御部
304 多値化部
305 コンテキストブロック区分制御部
400 画像復号装置
410 エントロピー復号部
420 逆量子化・逆変換部
425 加算器
430 デブロッキングフィルタ
440 メモリ
450 イントラ予測部
460 動き補償部
470 イントラ/インター切換スイッチ
ex100 コンテンツ供給システム
ex101 インターネット
ex102 インターネットサービスプロバイダ
ex103 ストリーミングサーバ
ex104 電話網
ex106、ex107、ex108、ex109、ex110 基地局
ex111 コンピュータ
ex112 PDA
ex113、ex116 カメラ
ex114 カメラ付デジタル携帯電話(携帯電話)
ex115 ゲーム機
ex117 マイク
ex200 デジタル放送用システム
ex201 放送局
ex202 放送衛星(衛星)
ex203 ケーブル
ex204、ex205、ex601 アンテナ
ex210 車
ex211 カーナビゲーション(カーナビ)
ex212 再生装置
ex213、ex219 モニタ
ex214、ex215、ex216、ex607 記録メディア
ex217 セットトップボックス(STB)
ex218 リーダ/レコーダ
ex220 リモートコントローラ
ex230 情報トラック
ex231 記録ブロック
ex232 内周領域
ex233 データ記録領域
ex234 外周領域
ex300 テレビ
ex301 チューナ
ex302 変調/復調部
ex303 多重/分離部
ex304 音声信号処理部
ex305 映像信号処理部
ex306、ex507 信号処理部
ex307 スピーカ
ex308、ex602 表示部
ex309 出力部
ex310、ex501 制御部
ex311、ex505、ex710 電源回路部
ex312 操作入力部
ex313 ブリッジ
ex314、ex606 スロット部
ex315 ドライバ
ex316 モデム
ex317 インタフェース部
ex318、ex319、ex320、ex321、ex404、ex508 バッファ
ex400 情報再生/記録部
ex401 光ヘッド
ex402 変調記録部
ex403 再生復調部
ex405 ディスクモータ
ex406 サーボ制御部
ex407 システム制御部
ex500 LSI
ex502 CPU
ex503 メモリコントローラ
ex504 ストリームコントローラ
ex506 ストリームI/O
ex509 AV I/O
ex510 バス
ex603 カメラ部
ex604 操作キー
ex605 音声入力部
ex608 音声出力部
ex801 復号処理部
ex802 復号処理部
ex803 駆動周波数切替え部

Claims (2)

  1. 互いに異なるサイズの複数の処理単位を含む符号化画像データを復号する復号方法であって、
    前記符号化画像データの処理単位に含まれる復号対象信号を取得する復号対象信号取得ステップと、
    複数のコンテキストセットから、前記復号対象信号のコンテキストセットを選択するコンテキストセット選択ステップと、
    前記コンテキストセット選択ステップで選択した前記コンテキストセットに対応付けられた復号確率情報を用いて、前記復号対象信号を算術復号することで、2値信号を生成する算術復号ステップと、
    前記2値信号に基づいて、前記符号化画像データを復号する復号ステップと、
    前記2値信号に基づいて、前記コンテキストセット選択ステップで選択した前記コンテキストセットに対応付けられた前記復号確率情報を更新する更新ステップと、を含み、
    前記コンテキストセット選択ステップでは、
    前記処理単位のサイズが、16×16、または、32×32の場合には、共通の前記コンテキストセットを選択し、
    前記処理単位のサイズが16×16よりも小さい場合には、前記処理単位のサイズ別に異なる前記コンテキストセットを選択する、
    復号方法。
  2. 互いに異なるサイズの複数の処理単位を含む符号化画像データを復号する復号装置であって、
    複数のコンテキストセットを記憶した記憶部と、
    前記複数のコンテキストセットから、前記符号化画像データの処理単位に含まれる復号対象信号のコンテキストセットを選択するコンテキストセット選択制御部と、
    前記コンテキストセット選択制御部で選択した前記コンテキストセットに対応付けられた復号確率情報を特定する復号確率情報特定処理を実行するコンテキストセット制御部と、
    前記復号対象信号を取得し、前記コンテキストセット制御部で特定した前記復号確率情報を用いて、前記復号対象信号を算術復号することで、2値信号を生成する算術復号部と、
    前記2値信号に基づいて、前記符号化画像データを復号する復号部と、を備え、
    前記コンテキストセット制御部は、前記2値信号に基づいて、前記コンテキストセット制御部で特定した前記復号確率情報を更新する更新処理を実行し、
    前記コンテキストセット選択制御部は、
    前記処理単位のサイズが、16×16、または、32×32の場合には、共通の前記コンテキストセットを選択し、
    前記処理単位のサイズが16×16よりも小さい場合には、前記処理単位のサイズ別に異なる前記コンテキストセットを選択する、
    復号装置。
JP2016188890A 2011-01-12 2016-09-27 復号方法および復号装置 Active JP6210396B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201161431912P 2011-01-12 2011-01-12
US61/431,912 2011-01-12

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2012552686A Division JP6024904B2 (ja) 2011-01-12 2012-01-12 画像符号化方法および画像符号化装置

Publications (2)

Publication Number Publication Date
JP2017034699A JP2017034699A (ja) 2017-02-09
JP6210396B2 true JP6210396B2 (ja) 2017-10-11

Family

ID=46455300

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2012552686A Active JP6024904B2 (ja) 2011-01-12 2012-01-12 画像符号化方法および画像符号化装置
JP2016188890A Active JP6210396B2 (ja) 2011-01-12 2016-09-27 復号方法および復号装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2012552686A Active JP6024904B2 (ja) 2011-01-12 2012-01-12 画像符号化方法および画像符号化装置

Country Status (16)

Country Link
US (8) US8755620B2 (ja)
EP (1) EP2665264B1 (ja)
JP (2) JP6024904B2 (ja)
KR (1) KR101854938B1 (ja)
CN (2) CN103053161B (ja)
AU (1) AU2012206251B2 (ja)
BR (1) BR112013003437B1 (ja)
CA (1) CA2807957C (ja)
ES (1) ES2802073T3 (ja)
MX (1) MX2013001594A (ja)
MY (1) MY165358A (ja)
PL (1) PL2665264T3 (ja)
RU (1) RU2595641C2 (ja)
SG (1) SG187805A1 (ja)
TW (1) TWI572149B (ja)
WO (1) WO2012096178A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9076239B2 (en) 2009-04-30 2015-07-07 Stmicroelectronics S.R.L. Method and systems for thumbnail generation, and corresponding computer program product
WO2012114711A1 (ja) * 2011-02-23 2012-08-30 パナソニック株式会社 画像符号化方法および画像復号方法
US9379736B2 (en) 2011-06-03 2016-06-28 Qualcomm Incorporated Context-adaptive coding video data
US8805099B2 (en) * 2011-06-22 2014-08-12 Panasonic Intellectual Property Corporation Of America Image decoding method and image coding method
US20130003858A1 (en) * 2011-06-30 2013-01-03 Vivienne Sze Simplified Context Selection For Entropy Coding of Transform Coefficient Syntax Elements
US20130101047A1 (en) * 2011-10-19 2013-04-25 Sony Corporation Context reduction of significance map coding of 4x4 and 8x8 transform coefficient in hm4.0
CN105847827B (zh) * 2012-01-20 2019-03-08 索尼公司 有效度图编码的复杂度降低
GB2523348B (en) 2014-02-20 2016-03-30 Gurulogic Microsystems Oy Encoder, decoder and method
FR3023112A1 (fr) * 2014-06-27 2016-01-01 Bcom Procede de codage d'une image numerique, procede de decodage, dispositifs et programmes d'ordinateurs associes
US10250912B2 (en) * 2015-02-17 2019-04-02 Mediatek Inc. Method and apparatus for entropy decoding with arithmetic decoding decoupled from variable-length decoding
EP3392840A4 (en) * 2015-12-14 2019-02-06 Panasonic Intellectual Property Corporation of America THREE-DIMENSIONAL DATA ENCODING METHOD, THREE-DIMENSIONAL DATA DECODING METHOD, THREE-DIMENSIONAL DATA ENCODING DEVICE, AND THREE-DIMENSIONAL DATA DECODING DEVICE
GB201616777D0 (en) 2016-10-03 2016-11-16 Univ Southampton A frame for an implantable medical device and a method of manufacturing a frame for an implantable medical device
US20200177889A1 (en) * 2017-03-21 2020-06-04 Lg Electronics Inc. Transform method in image coding system and apparatus for same
EP3503557A1 (en) * 2017-12-22 2019-06-26 Thomson Licensing Method and apparatus for video encoding and decoding based on context switching

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6856701B2 (en) * 2001-09-14 2005-02-15 Nokia Corporation Method and system for context-based adaptive binary arithmetic coding
JP4368575B2 (ja) 2002-04-19 2009-11-18 パナソニック株式会社 可変長復号化方法、可変長復号化装置およびプログラム
JP4090862B2 (ja) 2002-04-26 2008-05-28 松下電器産業株式会社 可変長符号化方法および可変長復号化方法
JP3944225B2 (ja) 2002-04-26 2007-07-11 株式会社エヌ・ティ・ティ・ドコモ 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法、画像符号化プログラム及び画像復号プログラム
JP4230188B2 (ja) 2002-06-06 2009-02-25 パナソニック株式会社 可変長符号化方法および可変長復号化方法
US6795584B2 (en) * 2002-10-03 2004-09-21 Nokia Corporation Context-based adaptive variable length coding for adaptive block transforms
EP1453004A2 (en) 2003-02-28 2004-09-01 NTT DoCoMo, Inc. Image encoding apparatus and method
JP3959039B2 (ja) * 2003-02-28 2007-08-15 株式会社エヌ・ティ・ティ・ドコモ 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、及び画像復号プログラム
US6900748B2 (en) 2003-07-17 2005-05-31 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Method and apparatus for binarization and arithmetic coding of a data value
US7379608B2 (en) 2003-12-04 2008-05-27 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung, E.V. Arithmetic coding for transforming video and picture data units
JP2006019814A (ja) 2004-06-30 2006-01-19 Fujitsu Ltd エントロピ復号器
CN1589023A (zh) * 2004-08-06 2005-03-02 联合信源数字音视频技术(北京)有限公司 一种基于上下文的多码表变长编解码方法及编解码装置
KR100763181B1 (ko) * 2005-04-19 2007-10-05 삼성전자주식회사 기초계층과 향상계층의 데이터를 바탕으로 예측 정보를코딩하여 코딩율을 향상시키는 방법 및 장치
KR100746007B1 (ko) 2005-04-19 2007-08-06 삼성전자주식회사 엔트로피 코딩의 컨텍스트 모델을 적응적으로 선택하는방법 및 비디오 디코더
KR100873636B1 (ko) 2005-11-14 2008-12-12 삼성전자주식회사 단일 부호화 모드를 이용하는 영상 부호화/복호화 방법 및장치
JP2007142637A (ja) * 2005-11-16 2007-06-07 Matsushita Electric Ind Co Ltd 画像情報符号化装置
KR100736104B1 (ko) 2006-04-06 2007-07-06 삼성전자주식회사 독립적 파싱을 지원하는 비디오 코딩 방법 및 장치
US7573407B2 (en) * 2006-11-14 2009-08-11 Qualcomm Incorporated Memory efficient adaptive block coding
KR101356733B1 (ko) 2007-03-07 2014-02-05 삼성전자주식회사 컨텍스트 기반 적응적 이진 산술 부호화, 복호화 방법 및장치
NO328295B1 (no) 2007-12-20 2010-01-25 Tandberg Telecom As VLC-fremgangsmate og -innretning
US8891615B2 (en) 2008-01-08 2014-11-18 Qualcomm Incorporated Quantization based on rate-distortion modeling for CABAC coders
JP4962400B2 (ja) 2008-04-30 2012-06-27 ソニー株式会社 算術復号装置
WO2011002914A1 (en) * 2009-06-30 2011-01-06 Massachusetts Institute Of Technology System and method for providing high throughput entropy coding using syntax element partitioning
CN102598661B (zh) 2009-11-02 2015-04-15 松下电器(美国)知识产权公司 图像编码方法、图像解码方法、图像编码装置及图像解码装置
CN103119849B (zh) 2010-04-13 2017-06-16 弗劳恩霍夫应用研究促进协会 概率区间分割编码器和译码器
US8913666B2 (en) * 2010-10-01 2014-12-16 Qualcomm Incorporated Entropy coding coefficients using a joint context model
US20120082235A1 (en) 2010-10-05 2012-04-05 General Instrument Corporation Coding and decoding utilizing context model selection with adaptive scan pattern
US9042440B2 (en) 2010-12-03 2015-05-26 Qualcomm Incorporated Coding the position of a last significant coefficient within a video block based on a scanning order for the block in video coding
US20120163456A1 (en) * 2010-12-22 2012-06-28 Qualcomm Incorporated Using a most probable scanning order to efficiently code scanning order information for a video block in video coding
US20120163448A1 (en) * 2010-12-22 2012-06-28 Qualcomm Incorporated Coding the position of a last significant coefficient of a video block in video coding
CN104811705B (zh) * 2011-01-06 2018-05-08 三星电子株式会社 视频的编码方法和装置及视频的解码方法和装置

Also Published As

Publication number Publication date
CN103053161B (zh) 2017-08-01
CN107197263A (zh) 2017-09-22
US9681137B2 (en) 2017-06-13
RU2013106272A (ru) 2015-02-20
EP2665264A1 (en) 2013-11-20
US20120177300A1 (en) 2012-07-12
CN107197263B (zh) 2019-11-19
KR20130139224A (ko) 2013-12-20
BR112013003437B1 (pt) 2022-03-08
US20170230665A1 (en) 2017-08-10
EP2665264A4 (en) 2016-04-27
US20220264096A1 (en) 2022-08-18
JPWO2012096178A1 (ja) 2014-06-09
US20140241425A1 (en) 2014-08-28
TW201246937A (en) 2012-11-16
JP6024904B2 (ja) 2016-11-16
AU2012206251B2 (en) 2016-02-25
CA2807957C (en) 2018-07-03
US20230388506A1 (en) 2023-11-30
US11770536B2 (en) 2023-09-26
US10638134B2 (en) 2020-04-28
US10015494B2 (en) 2018-07-03
CN103053161A (zh) 2013-04-17
US20200221095A1 (en) 2020-07-09
EP2665264B1 (en) 2020-03-04
TWI572149B (zh) 2017-02-21
SG187805A1 (en) 2013-04-30
BR112013003437A2 (pt) 2020-08-04
MY165358A (en) 2018-03-21
MX2013001594A (es) 2013-04-29
US9258558B2 (en) 2016-02-09
US8755620B2 (en) 2014-06-17
US20180278938A1 (en) 2018-09-27
CA2807957A1 (en) 2012-07-19
US20160080741A1 (en) 2016-03-17
RU2595641C2 (ru) 2016-08-27
ES2802073T3 (es) 2021-01-15
KR101854938B1 (ko) 2018-05-04
JP2017034699A (ja) 2017-02-09
PL2665264T3 (pl) 2020-11-02
WO2012096178A1 (ja) 2012-07-19
US11350096B2 (en) 2022-05-31
AU2012206251A1 (en) 2013-02-21

Similar Documents

Publication Publication Date Title
JP6210396B2 (ja) 復号方法および復号装置
JP6498811B2 (ja) 符号化方法および符号化装置
WO2012108205A1 (ja) 画像符号化方法、画像符号化装置、画像復号方法、画像復号装置および画像符号化復号装置
JP5937020B2 (ja) 動画像符号化方法、動画像復号方法、動画像符号化装置、動画像復号装置、及び動画像符号化復号装置
WO2012096185A1 (ja) 画像符号化方法、画像符号化装置、画像復号方法、画像復号装置、および画像符号化復号装置
JPWO2013069246A1 (ja) 符号化方法および符号化装置
JP6489337B2 (ja) 算術復号方法および算術符号化方法
KR101888218B1 (ko) 화상 부호화 방법, 화상 복호 방법, 화상 부호화 장치, 화상 복호 장치, 및 화상 부호화 복호 장치
JP6002973B2 (ja) 画像符号化方法および画像復号方法
JP6717562B2 (ja) 画像符号化方法、画像復号方法、画像符号化装置及び画像復号装置
WO2012105267A1 (ja) 画像符号化方法
WO2011135829A1 (ja) 符号化方法及び復号方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170831

R150 Certificate of patent or registration of utility model

Ref document number: 6210396

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250