JP2016029821A - 動画像符号化装置及びビットストリーム - Google Patents

動画像符号化装置及びビットストリーム Download PDF

Info

Publication number
JP2016029821A
JP2016029821A JP2015199350A JP2015199350A JP2016029821A JP 2016029821 A JP2016029821 A JP 2016029821A JP 2015199350 A JP2015199350 A JP 2015199350A JP 2015199350 A JP2015199350 A JP 2015199350A JP 2016029821 A JP2016029821 A JP 2016029821A
Authority
JP
Japan
Prior art keywords
tile
unit
filter
encoding
units
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015199350A
Other languages
English (en)
Inventor
亮史 服部
Akifumi Hattori
亮史 服部
彰 峯澤
Akira Minesawa
彰 峯澤
裕介 伊谷
Yusuke Itani
裕介 伊谷
杉本 和夫
Kazuo Sugimoto
和夫 杉本
関口 俊一
Shunichi Sekiguchi
俊一 関口
守屋 芳美
Yoshimi Moriya
芳美 守屋
憲道 日和佐
Norimichi Hiwasa
憲道 日和佐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2015199350A priority Critical patent/JP2016029821A/ja
Publication of JP2016029821A publication Critical patent/JP2016029821A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】ループフィルタの処理をタイルレベルで並列に行う動画像符号化装置を提供する。
【解決手段】入力画像を分割したタイルに対する予測処理を実施する1以上のタイル符号化装置5−1〜5−Nと、タイルに対するフィルタを決定し、フィルタを用いて、タイルに対するフィルタリング処理を実施する1以上のタイルループフィルタ部7−1〜7−Nと、タイルに対するフィルタを示すフィルタパラメータを多重化してビットストリームを生成する可変長符号多重化部9とを備える。可変長符号多重化部9は、タイル境界の画素に対して異なるタイルの画素を参照しないフィルタリング処理内容を示す信号と、タイルを分割して得られるスライス境界の画素に対して異なるスライスの画素を参照するか否かのフィルタリング処理内容を示す信号と、を含むフィルタパラメータを多重化する。
【選択図】図1

Description

この発明は、画像を圧縮符号化して伝送する動画像符号化装置及び動画像符号化方法と、動画像符号化装置により伝送された符号化データから画像を復号する動画像復号装置及び動画像復号方法とに関するものである。
従来、MPEG(Moving Picture Experts Group)や「ITU−T H.26x」などの国際標準映像符号化方式では、入力映像フレームをマクロブロック(MB)、コーディングユニット(CU)などの名称で呼ばれる正方ブロックに分割し、ブロック毎に、フレーム内予測、フレーム間予測、予測誤差信号の直交変換、量子化、エントロピー符号化処理などを実施している。
また、全てのマクロブロックの処理が完了して、画面一枚分の局所復号画像が作成された後に、ループフィルタのパラメータを決定する処理、そのループフィルタを用いて、局所復号画像をフィルタリングする処理や、エントロピー符号化処理を実施している。
ここで、各コーディングユニットの符号化処理は、コーディングユニットをラスタスキャン順に処理することを前提としており、あるコーディングユニットの符号化処理では、ラスタスキャン順に前のコーディングユニットの符号化結果を必要とする。
具体的には、フレーム間予測を行う場合、隣接しているコーディングユニットの局所復号画像を画素参照として使用する。
また、エントロピー符号化処理では、シンボルの生起確率を推定する際、確率遷移モデルをラスタスキャン順に前のコーディングユニットと共有しており、また、確率モデルの切り替えのために、隣接しているマクロブロックのモード情報を参照する必要がある。
よって、あるコーディングユニットの符号化処理を進めるためには、ラスタスキャン順で前のコーディングユニットの処理の一部または全部が完了していなければならない。
このようなコーディングユニット間の依存性が、符号化処理及び復号処理の並列化の障害となっている。
以下の非特許文献1では、上記の問題を解決するために、タイルと呼ばれる構造体を用いている。
ここで、タイルは、図11に示すように、複数のコーディングユニットからなる矩形領域である。異なるタイルに属するコーディングユニットとの依存性を無くすことで、タイルレベルでの並列処理が可能になる。
具体的には、タイルは、以下に示すような特徴を有している。
(1)画像のタイルによる分割は、コーディングユニット単位で行われる。
(2)画像のタイルによる分割は、各行・各列の幅が非均一な格子状となる。即ち、縦方向に隣接しているタイルは、左右両端の座標が等しく、横方向に隣接しているタイルは上下両端の座標が等しい。
(3)各コーディングユニットはタイル内で閉じたラスタスキャン順に処理される。また、タイル内でスライス分割を行うことが可能である。
(4)タイル内で最初に処理されるコーディングユニットは、エントロピー符号化が初期状態から開始される。
(5)フレーム内予測、フレーム間予測、エントロピー符号化・復号の処理において、隣接しているコーディングユニットの局所復号画像及び符号化モードの参照を行う際、隣接しているコーディングユニットが異なるタイルに属している場合、隣接しているコーディングユニットの参照を行わずに、画面端の処理を実施する。
(6)ループフィルタ処理は、全てのタイルの処理が完了して、画面全体分の復号画像が作成された後に、画面全体に対して実施する。
以上より、あるタイルに属するコーディングユニットの符号化処理では、予測・予測誤差信号の直交変換・量子化・エントロピー符号化の処理において、同じタイル内に属するコーディングユニットの結果のみを必要とする。
よって、符号化処理のうち、フレーム内/フレーム間予測、予測誤差信号の直交変換・量子化、エントロピー符号化の処理をタイルレベルで並列処理することが可能になる。
また、タイルを用いて作成されたビットストリームの復号処理では、エントロピー復号、予測誤差信号の逆量子化・逆変換、フレーム内/フレーム間予測の処理をタイルレベルでの並列処理が可能になる。
Arild Fuldseth,Michael Horowitz,Shilin Xu,Andrew Segall,Minhua Zhou,"JCTVC-F335: Tiles",Joint Collaborative Team on Video Coding(JCT-VC)of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting: Torino,IT,14-22July,2011
従来の動画像符号化装置は以上のように構成されているので、フレーム内/フレーム間予測、予測誤差信号の直交変換・量子化、エントロピー符号化の処理については並列処理が可能であるが、ループフィルタの処理は画面全体に対して行われる。この場合、タイル境界のフィルタリング処理では、境界に隣接している両方のタイルの局所復号画像を参照する必要があるため、両方のタイルの処理が完了していなければならず、タイルレベルでの並列処理を行うことができない課題があった。
この発明は上記のような課題を解決するためになされたもので、ループフィルタの処理をタイルレベルで並列に行うことができる動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法を得ることを目的とする。
この発明に係る動画像符号化装置は、入力画像を分割したタイルに対する予測処理を実施するタイル符号化手段と、タイル符号化手段により生成されたタイルに対するフィルタを決定し、フィルタを用いて、タイルに対するフィルタリング処理を実施する1以上のタイルフィルタ手段と、タイルフィルタ手段により決定されたタイルに対するフィルタを示すフィルタパラメータを多重化してビットストリームを生成する多重化手段と、を備え、多重化手段は、タイル境界の画素に対して異なるタイルの画素を参照しないフィルタリング処理内容を示す信号と、タイルを分割して得られるスライス境界の画素に対して異なるスライスの画素を参照するか否かのフィルタリング処理内容を示す信号と、を含むフィルタパラメータを多重化するようにしたものである。
この発明によれば、入力画像を分割したタイルに対する予測処理を実施するタイル符号化手段と、タイル符号化手段により生成されたタイルに対するフィルタを決定し、フィルタを用いて、タイルに対するフィルタリング処理を実施する1以上のタイルフィルタ手段と、タイルフィルタ手段により決定されたタイルに対するフィルタを示すフィルタパラメータを多重化してビットストリームを生成する多重化手段と、を備え、多重化手段は、タイル境界の画素に対して異なるタイルの画素を参照しないフィルタリング処理内容を示す信号と、タイルを分割して得られるスライス境界の画素に対して異なるスライスの画素を参照するか否かのフィルタリング処理内容を示す信号と、を含むフィルタパラメータを多重化するように構成したので、ループフィルタの処理をタイルレベルで並列に行うことができる効果がある。
この発明の実施の形態1による動画像符号化装置を示す構成図である。 この発明の実施の形態1による動画像符号化装置の処理内容(動画像符号化方法)を示すフローチャートである。 この発明の実施の形態1による動画像符号化装置のタイル符号化部5−n(n=1,2,・・・,N)を示す構成図である。 この発明の実施の形態1による動画像符号化装置のタイル符号化部5−n(n=1,2,・・・,N)の処理内容を示すフローチャートである。 この発明の実施の形態1による動画像符号化装置のタイルループフィルタ部7−n(n=1,2,・・・,N)を示す構成図である。 この発明の実施の形態1による動画像復号装置を示す構成図である。 この発明の実施の形態1による動画像復号装置の処理内容(動画像復号方法)を示すフローチャートである。 この発明の実施の形態1による動画像復号装置のタイル復号部54−n(n=1,2,・・・,N)を示す構成図である。 この発明の実施の形態1による動画像復号装置のタイル復号部54−n(n=1,2,・・・,N)の処理内容を示すフローチャートである。 この発明の実施の形態1による動画像復号装置のタイルループフィルタ部56−n(n=1,2,・・・,N)を示す構成図である。 画像のLCU分割及びタイル分割の一例を示す説明図である。 最大符号化ブロックが階層的に複数の符号化対象ブロックに分割される例を示す説明図である。 分割後のパーティションの分布や、階層分割後のパーティションに符号化モードm(B)が割り当てられる状況を4分木グラフで示す説明図である。 タイルとフィルタ定義領域を示す説明図である。 フィルタパラメータが多重化されているビットストリームを示す説明図である。 フィルタ境界でのフィルタリング処理を示す説明図である。 この発明の実施の形態2による動画像符号化装置を示す構成図である。 この発明の実施の形態2による動画像復号装置を示す構成図である。 格子状配置でない自由なタイル分割の一例を示す説明図である。
以下、この発明をより詳細に説明するために、この発明を実施するための形態について、添付の図面に従って説明する。
実施の形態1.
図1はこの発明の実施の形態1による動画像符号化装置を示す構成図である。
図1において、符号化制御部1は映像信号が示す入力画像を所定サイズの矩形領域であるタイルに分割する際の分割状態を指示するタイル分割制御情報(分割制御情報)を出力する処理を実施する。
また、符号化制御部1はタイル符号化部5−1〜5−Nにより生成されたタイル単位の局所復号画像のフィルタリング処理に用いるフィルタを各タイルで共通させるか否かを示すフィルタパラメータ共有フラグ(フィルタ共有フラグ)を出力する処理を実施する。
なお、符号化制御部1は分割制御手段を構成している。
タイル分割制御部2は符号化制御部1から出力されたタイル分割制御情報が指示している分割状態と一致するように、並列処理開始部3における入力画像の分割を制御する処理を実施する。
並列処理開始部3はタイル分割制御部2の指示の下、映像信号が示す入力画像を所定サイズのタイルに分割し、分割後のタイルをタイル符号化部5−1〜5−Nに分配する処理を実施する。
なお、タイル分割制御部2及び並列処理開始部3からタイル分配手段が構成されている。
動き補償予測フレームメモリ4はフィルタリング処理後の局所復号画像を記憶する記録媒体である。なお、動き補償予測フレームメモリ4は画像メモリを構成している。
タイル符号化装置5はN個のタイル符号化部5−1〜5−Nを実装しており、N個のタイル符号化部5−1〜5−Nが独立して予測差分符号化処理を実施する。Nは1以上の整数である。
タイル符号化部5−1〜5−Nは動き補償予測フレームメモリ4に記憶されているフィルタリング処理後の局所復号画像を参照して、並列処理開始部3により分配されたタイルに対する予測差分符号化処理を実施することで、その符号化結果であるビット系列データ(符号化ビットデータ)及び符号化パラメータ(符号化パラメータは予測差分符号化処理を実施する際に用いられたパラメータであり、符号化モード、予測差分符号化パラメータ、イントラ予測パラメータ、インター予測パラメータが該当する)を出力するとともに、タイル局所復号画像(局所復号画像)を生成する処理を実施する。なお、タイル符号化部5−1〜5−Nはタイル符号化手段を構成している。
ループフィルタ制御部6は符号化制御部1から出力されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させる旨を示している場合、タイル符号化部5−1〜5−Nにより生成されたタイル局所復号画像からフレーム単位の局所復号画像を得て、フレーム単位の局所復号画像に適するフレーム単位のフィルタを決定し、そのフィルタを示すフィルタパラメータをタイルループフィルタ装置7に出力する処理を実施する。
また、ループフィルタ制御部6はフレーム単位のフィルタを示すフィルタパラメータを可変長符号化し、そのフィルタパラメータの符号化データを並列処理終了部8に出力する処理を実施する。
なお、ループフィルタ制御部6はフレーム単位フィルタ決定手段を構成している。
タイルループフィルタ装置7はN個のタイルループフィルタ部7−1〜7−Nを実装しており、N個のタイルループフィルタ部7−1〜7−Nが独立してフィルタリング処理を実施する。Nは1以上の整数である。
タイルループフィルタ部7−1〜7−Nは符号化制御部1から出力されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させない旨を示している場合、タイル符号化部5−1〜5−Nにより生成されたタイル局所復号画像のフィルタリング処理に適するタイル単位のフィルタを決定し、そのフィルタを用いて、タイル局所復号画像に対するフィルタリング処理を実施するとともに、タイル単位のフィルタを示すフィルタパラメータを可変長符号化し、そのフィルタパラメータの符号化データをタイル符号化部5−1〜5−Nから出力されたビット系列データに多重化する処理を実施する。
一方、フィルタパラメータ共有フラグが各タイルでフィルタを共通させる旨を示している場合、ループフィルタ制御部6から出力されたフィルタパラメータが示すフレーム単位のフィルタを用いて、タイル符号化部5−1〜5−Nにより生成されたタイル局所復号画像のフィルタリング処理を実施するとともに、タイル符号化部5−1〜5−Nから出力されたビット系列データをそのまま出力する処理を実施する。
なお、タイルループフィルタ部7−1〜7−Nはタイルフィルタ手段を構成している。
並列処理終了部8は符号化制御部1から出力されたタイル分割制御情報にしたがってタイルループフィルタ部7−1〜7−Nによるフィルタリング処理後のタイル局所復号画像を組み合わせてフレーム単位の局所復号画像を生成し、その局所復号画像を動き補償予測フレームメモリ4に格納するとともに、タイルループフィルタ部7−1〜7−Nから出力されたビット系列データを可変長符号多重化部9に出力する処理を実施する。
また、並列処理終了部8は符号化制御部1から出力されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させる旨を示している場合、ループフィルタ制御部6から出力されたフレーム単位のフィルタを示すフィルタパラメータの符号化データを可変長符号多重化部9に出力する処理を実施する。
なお、並列処理終了部8は局所復号画像格納手段を構成している。
可変長符号多重化部9は符号化制御部1から出力されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させない旨を示している場合、並列処理終了部8から出力されたビット系列データと、符号化制御部1から出力されたタイル分割制御情報及びフィルタパラメータ共有フラグとを多重化してビットストリームを生成する処理を実施する。
一方、フィルタパラメータ共有フラグが各タイルでフィルタを共通させる旨を示している場合、並列処理終了部8から出力されたビット系列データ及びフレーム単位のフィルタを示すフィルタパラメータの符号化データと、符号化制御部1から出力されたタイル分割制御情報及びフィルタパラメータ共有フラグとを多重化してビットストリームを生成する処理を実施する。
なお、可変長符号多重化部9は多重化手段を構成している。
図1の例では、動画像符号化装置の構成要素である符号化制御部1、タイル分割制御部2、並列処理開始部3、動き補償予測フレームメモリ4、タイル符号化装置5、ループフィルタ制御部6、タイルループフィルタ装置7、並列処理終了部8及び可変長符号多重化部9のそれぞれが専用のハードウェア(例えば、CPUを実装している半導体集積回路や、ワンチップマイコンなど)で構成されているものを想定しているが、動画像符号化装置がコンピュータで構成される場合、符号化制御部1、タイル分割制御部2、並列処理開始部3、タイル符号化装置5、ループフィルタ制御部6、タイルループフィルタ装置7、並列処理終了部8及び可変長符号多重化部9の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
図2はこの発明の実施の形態1による動画像符号化装置の処理内容(動画像符号化方法)を示すフローチャートである。
図3はこの発明の実施の形態1による動画像符号化装置のタイル符号化部5−n(n=1,2,・・・,N)を示す構成図である。
図3において、タイル符号化制御部21は符号化対象ブロックのサイズである符号化ブロックサイズを決定するとともに、選択可能な1以上のイントラ符号化モード及びインター符号化モードの中から、ブロック分割部22から出力される符号化対象ブロックに対する符号化効率が最も高い符号化モードを決定する処理を実施する。
また、タイル符号化制御部21は符号化効率が最も高い符号化モードがイントラ符号化モードである場合、そのイントラ符号化モードで符号化対象ブロックに対するイントラ予測処理を実施する際に用いるイントラ予測パラメータを決定し、符号化効率が最も高い符号化モードがインター符号化モードである場合、そのインター符号化モードで符号化対象ブロックに対するインター予測処理を実施する際に用いるインター予測パラメータを決定する処理を実施する。
さらに、タイル符号化制御部21は変換・量子化部27、逆量子化・逆変換部28及び可変長符号化部31に与える予測差分符号化パラメータを決定する処理を実施する。
以降、タイル符号化制御部21により決定された符号化モード、予測差分符号化パラメータ、イントラ予測パラメータ又はインター予測パラメータをまとめて符号化パラメータと称する。タイル符号化制御部21は符号化パラメータをタイルループフィルタ部7−n(n=1,2,・・・,N)に出力する処理を実施する。
ブロック分割部22は並列処理開始部3により分配されたタイルをタイル符号化制御部21により決定された符号化ブロックサイズのブロック(予測処理単位のブロック)に分割して、予測処理単位のブロックである符号化対象ブロックを出力する処理を実施する。
切換スイッチ23はタイル符号化制御部21により決定された符号化モードがイントラ符号化モードであれば、ブロック分割部22から出力された符号化対象ブロックをイントラ予測部24に出力し、タイル符号化制御部21により決定された符号化モードがインター符号化モードであれば、ブロック分割部22から出力された符号化対象ブロックを動き補償予測部25に出力する処理を実施する。
イントラ予測部24はタイル局所復号画像メモリ30に格納されている局所復号画像を参照しながら、タイル符号化制御部21により決定されたイントラ予測パラメータを用いて、切換スイッチ23から出力された符号化対象ブロックに対するイントラ予測処理を実施してイントラ予測画像を生成する処理を実施する。
なお、タイル局所復号画像メモリ30に格納されている局所復号画像は、同じタイルに属するブロックの局所復号画像のみであるため、イントラ予測部24におけるイントラ予測処理では、異なるタイルに属するブロックの局所復号画像の参照は行わない。参照位置のブロックが異なるタイルに属するブロックである場合は、画素参照が不要なイントラ予測処理を実施する。
動き補償予測部25は切換スイッチ23から出力された符号化対象ブロックと動き補償予測フレームメモリ4に格納されているフィルタリング処理後の局所復号画像を比較して動きベクトルを探索し、その動きベクトルとタイル符号化制御部21により決定されたインター予測パラメータを用いて、その符号化対象ブロックに対するインター予測処理(動き補償予測処理)を実施してインター予測画像を生成する処理を実施する。
減算部26はブロック分割部22より出力された符号化対象ブロックから、イントラ予測部24により生成されたイントラ予測画像、または、動き補償予測部25により生成されたインター予測画像を減算して、その減算結果である予測差分信号(差分画像)を変換・量子化部27に出力する処理を実施する。
変換・量子化部27はタイル符号化制御部21により決定された予測差分符号化パラメータを参照して、減算部26から出力された予測差分信号に対する直交変換処理(例えば、DCT(離散コサイン変換)や、予め特定の学習系列に対して基底設計がなされているKL変換等の直交変換処理)を実施して変換係数を算出するとともに、その予測差分符号化パラメータを参照して、その変換係数を量子化し、量子化後の変換係数である圧縮データ(差分画像の量子化係数)を逆量子化・逆変換部28及び可変長符号化部31に出力する処理を実施する。
逆量子化・逆変換部28はタイル符号化制御部21により決定された予測差分符号化パラメータを参照して、変換・量子化部27から出力された圧縮データを逆量子化するとともに、その予測差分符号化パラメータを参照して、逆量子化後の圧縮データである変換係数に対する逆直交変換処理を実施して、減算部26から出力された予測差分信号に相当する局所復号予測差分信号を算出する処理を実施する。
加算部29は逆量子化・逆変換部28により算出された局所復号予測差分信号と、イントラ予測部24により生成されたイントラ予測画像、または、動き補償予測部25により生成されたインター予測画像とを加算して、ブロック分割部22から出力された符号化対象ブロックに相当する局所復号画像を算出する処理を実施する。
タイル局所復号画像メモリ30は加算部29により算出された局所復号画像を格納する記録媒体である。タイルに属する全てのコーディングユニット(CU)の符号化処理が終了した時点で、内部に格納されているタイル1つ分の局所復号画像がタイルループフィルタ部7−nに出力される。
可変長符号化部31は変換・量子化部27から出力された圧縮データと、タイル符号化制御部21から出力された符号化パラメータと、動き補償予測部25から出力された動きベクトル(符号化モードがインター符号化モードである場合)とを可変長符号化し、その符号化結果であるビット系列データをタイルループフィルタ部7−nに出力する処理を実施する。
なお、図4はこの発明の実施の形態1による動画像符号化装置のタイル符号化部5−n(n=1,2,・・・,N)の処理内容を示すフローチャートである。
図5はこの発明の実施の形態1による動画像符号化装置のタイルループフィルタ部7−n(n=1,2,・・・,N)を示す構成図である。
図5において、タイルループフィルタ制御部41は符号化制御部1から出力されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させない旨を示している場合、タイル符号化部5−nにより生成されたタイル局所復号画像のフィルタリング処理に適するタイル単位のフィルタを決定し、そのフィルタを示すフィルタパラメータをループフィルタ実施部42及び可変長符号化部43に出力する処理を実施する。
ループフィルタ実施部42は符号化制御部1から出力されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させない旨を示している場合、タイルループフィルタ制御部41から出力されたフィルタパラメータが示すタイル単位のフィルタとタイル符号化部5−nから出力された符号化パラメータを用いて、タイル符号化部5−nから出力されたタイル局所復号画像に対するフィルタリング処理を実施する。
一方、フィルタパラメータ共有フラグが各タイルでフィルタを共通させる旨を示している場合、ループフィルタ制御部6から出力されたフィルタパラメータが示すフレーム単位のフィルタとタイル符号化部5−nから出力された符号化パラメータを用いて、タイル符号化部5−nから出力されたタイル局所復号画像に対するフィルタリング処理を実施する。
可変長符号化部43は符号化制御部1から出力されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させない旨を示している場合、タイルループフィルタ制御部41から出力されたタイル単位のフィルタを示すフィルタパラメータを可変長符号化し、そのフィルタパラメータの符号化データをタイル符号化部5−nから出力されたビット系列データに多重化して並列処理終了部8に出力する処理を実施する。
一方、フィルタパラメータ共有フラグが各タイルでフィルタを共通させる旨を示している場合、タイル符号化部5−nから出力されたビット系列データをそのまま並列処理終了部8に出力する処理を実施する。
図6はこの発明の実施の形態1による動画像復号装置を示す構成図である。
図6において、可変長符号分離部51は図1の動画像符号化装置により生成されたビットストリームを入力すると、そのビットストリームに多重化されているフレーム単位のビット系列データ(タイル単位のビット系列データが纏まっているデータ)と、入力画像の分割状態を指示するタイル分割制御情報と、各タイルでフィルタを共通させるか否かを示すフィルタ共有フラグと、フレーム単位のフィルタを示すフィルタパラメータの符号化データ(フィルタパラメータ共有フラグが各タイルでフィルタを共通させる旨を示している場合)とを分離する処理を実施する。なお、可変長符号分離部51は分離手段を構成している。
並列処理開始部52は可変長符号分離部51から出力されたフレーム単位のビット系列データをタイル単位のビット系列データに分割し、タイル単位のビット系列データをタイル復号部54−1〜54−Nに分配する処理を実施する。なお、並列処理開始部52は符号化ビットデータ分配手段を構成している。
動き補償予測フレームメモリ53はフィルタリング処理後の復号画像を記憶する記録媒体である。なお、動き補償予測フレームメモリ53は画像メモリを構成している。
タイル復号装置54はN個のタイル復号部54−1〜54−Nを実装しており、N個のタイル復号部54−1〜54−Nが独立して予測差分復号処理を実施する。Nは1以上の整数である。
タイル復号部54−1〜54−Nは動き補償予測フレームメモリ53に記憶されているフィルタリング処理後の復号画像を参照して、並列処理開始部52により分配されたタイル単位のビット系列データに対する予測差分復号処理を実施することで、タイル復号画像(タイル単位の復号画像)を生成するとともに、その予測差分復号処理を実施する際に用いている符号化パラメータ(ビット系列データに多重化されている符号化パラメータ)をタイルループフィルタ部56−1〜56−Nに出力する処理を実施する。
また、タイル単位のフィルタを示すフィルタパラメータの符号化データがビット系列データに多重化されている場合、そのフィルタパラメータの符号化データをタイルループフィルタ部56−1〜56−Nに出力する処理を実施する。
なお、タイル復号部54−1〜54−Nはタイル復号手段を構成している。
フィルタパラメータ復号部55は可変長符号分離部51により分離されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させる旨を示している場合、フィルタパラメータ復号部55から出力された符号化データからフレーム単位のフィルタを示すフィルタパラメータを復号し、そのフィルタパラメータをタイルループフィルタ部56−1〜56−Nに出力する処理を実施する。
タイルループフィルタ装置56はN個のタイルループフィルタ部56−1〜56−Nを実装しており、N個のタイルループフィルタ部56−1〜56−Nが独立してフィルタリング処理を実施する。Nは1以上の整数である。
タイルループフィルタ部56−1〜56−Nは可変長符号分離部51により分離されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させない旨を示している場合、タイル復号部54−1〜54−Nから出力された符号化データからタイル単位のフィルタを示すフィルタパラメータを復号し、そのフィルタパラメータが示すタイル単位のフィルタを用いて、タイル復号部54−1〜54−Nにより生成されたタイル復号画像に対するフィルタリング処理を実施する処理を実施する。
一方、フィルタパラメータ共有フラグが各タイルでフィルタを共通させる旨を示している場合、フィルタパラメータ復号部55から出力されたフィルタパラメータが示すフレーム単位のフィルタを用いて、タイル復号部54−1〜54−Nにより生成されたタイル復号画像に対するフィルタリング処理を実施する処理を実施する。
なお、タイルループフィルタ部56−1〜56−Nはタイルフィルタ手段を構成している。
タイル分割制御部57は可変長符号分離部51により分離されたタイル分割制御情報からタイルの分割状態を把握し、元の入力画像に相当する復号画像が得られるように、並列処理終了部58における各タイル復号画像の配置を制御する処理を実施する。
並列処理終了部58はタイル分割制御部57の制御の下で、タイルループフィルタ部56−1〜56−Nによるフィルタリング処理後のタイル復号画像を組み合わせてフレーム単位の復号画像を生成し、その復号画像を動き補償予測フレームメモリ53に格納する処理を実施する。
なお、タイル分割制御部57及び並列処理終了部58から復号画像格納手段が構成されている。
図6の例では、動画像復号装置の構成要素である可変長符号分離部51、並列処理開始部52、動き補償予測フレームメモリ53、タイル復号装置54、フィルタパラメータ復号部55、タイルループフィルタ装置56、タイル分割制御部57及び並列処理終了部58のそれぞれが専用のハードウェア(例えば、CPUを実装している半導体集積回路や、ワンチップマイコンなど)で構成されているものを想定しているが、動画像復号装置がコンピュータで構成される場合、可変長符号分離部51、並列処理開始部52、タイル復号装置54、フィルタパラメータ復号部55、タイルループフィルタ装置56、タイル分割制御部57及び並列処理終了部58の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
図7はこの発明の実施の形態1による動画像復号装置の処理内容(動画像復号方法)を示すフローチャートである。
図8はこの発明の実施の形態1による動画像復号装置のタイル復号部54−n(n=1,2,・・・,N)を示す構成図である。
図8において、可変長復号部61は並列処理開始部52により分配されたタイル単位のビット系列データから予測処理単位のブロックである復号対象ブロック(符号化対象ブロックに相当するブロック)に係る圧縮データと、符号化パラメータ(符号化モード、イントラ予測パラメータ(符号化モードがイントラ符号化モードである場合)、インター予測パラメータ(符号化モードがインター符号化モードである場合)、予測差分符号化パラメータ)と、動きベクトル(符号化モードがインター符号化モードである場合)とを可変長復号するとともに、可変長復号後の符号化パラメータ及びタイル単位のビット系列データに多重化されているタイル単位のフィルタを示すフィルタパラメータの符号化データをタイルループフィルタ部56−nに出力する処理を実施する。
切換スイッチ62は可変長復号部61により可変長復号された符号化モードがイントラ符号化モードであれば、可変長復号部61により可変長復号されたイントラ予測パラメータをイントラ予測部63に出力し、可変長復号部61により可変長復号された符号化モードがインター符号化モードであれば、可変長復号部61により可変長復号されたインター予測パラメータ及び動きベクトルを動き補償部64に出力する処理を実施する。
イントラ予測部63はタイル復号画像メモリ67に格納されている復号画像を参照しながら、切換スイッチ62から出力されたイントラ予測パラメータを用いて、復号対象ブロックに対するイントラ予測処理を実施してイントラ予測画像を生成する処理を実施する。
動き補償部64は動き補償予測フレームメモリ53に格納されているフィルタリング処理後の復号画像を参照しながら、切換スイッチ62から出力された動きベクトルとインター予測パラメータを用いて、復号対象ブロックに対するインター予測処理を実施してインター予測画像を生成する処理を実施する。
逆量子化・逆変換部65は可変長復号部61により可変長復号された予測差分符号化パラメータを参照して、可変長復号部61により可変長復号された圧縮データを逆量子化するとともに、その予測差分符号化パラメータを参照して、逆量子化後の圧縮データである変換係数に対する逆直交変換処理を実施して、復号予測差分信号を算出する処理を実施する。
加算部66は逆量子化・逆変換部65により算出された復号予測差分信号と、イントラ予測部63により生成されたイントラ予測画像、または、動き補償部64により生成されたインター予測画像とを加算して、復号画像を算出する処理を実施する。
タイル復号画像メモリ67は加算部66により算出された復号画像を格納する記録媒体である。
タイルに属する全てのコーディングユニット(CU)の復号処理が終了した時点で、格納されているタイル1つ分の復号画像がタイル復号部54−nの外部に出力される。
なお、図9はこの発明の実施の形態1による動画像復号装置のタイル復号部54−n(n=1,2,・・・,N)の処理内容を示すフローチャートである。
図10はこの発明の実施の形態1による動画像復号装置のタイルループフィルタ部56−n(n=1,2,・・・,N)を示す構成図である。
図10において、タイルフィルタパラメータ復号部71は可変長符号分離部51により分離されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させない旨を示している場合、可変長符号分離部51により分離されたタイル単位のフィルタを示すフィルタパラメータの符号化データを復号し、その復号結果であるフィルタパラメータをループフィルタ実施部72に出力する処理を実施する。
ループフィルタ実施部72は可変長符号分離部51により分離されたフィルタパラメータ共有フラグが各タイルでフィルタを共通させない旨を示している場合、タイルフィルタパラメータ復号部71により復号されたフィルタパラメータが示すタイル単位のフィルタとタイル復号部54−nの可変長復号部61により可変長復号された符号化パラメータを用いて、タイル復号部54−nから出力されたタイル復号画像に対するフィルタリング処理を実施する。
一方、フィルタパラメータ共有フラグが各タイルでフィルタを共通させる旨を示している場合、フィルタパラメータ復号部55から出力されたフィルタパラメータが示すフレーム単位のフィルタとタイル復号部54−nの可変長復号部61により可変長復号された符号化パラメータを用いて、タイル復号部54−nから出力されたタイル復号画像に対するフィルタリング処理を実施する。
次に動作について説明する。
この実施の形態1では、映像の各フレーム画像を入力画像として、近接フレーム間で動き補償予測を実施して、得られた予測差分信号に対して直交変換・量子化による圧縮処理を施し、その後、可変長符号化を行ってビットストリームを生成する動画像符号化装置と、その動画像符号化装置から出力されるビットストリームを復号する動画像復号装置について説明する。
最初に、図1の動画像符号化装置の動作を説明するが、図1の動画像符号化装置は、入力画像をタイルと呼ばれる矩形領域に分割して、タイル間の処理の依存性を無くすことで、符号化処理において、タイルレベルでの並列処理を可能とすることを特徴としている。
同時に、復号処理において、タイルレベルでの並列処理が可能となる符号化結果を出力することを特徴としている。
映像信号の符号化処理は、一般に入力映像の空間・時間・輝度レベル解像度に比例して処理量が増加する。
撮像装置、記憶装置及び伝送装置などの進化に伴って、映像信号の時間・空間・輝度レベル解像度は増加する傾向にあり、既存の動画像符号化装置、動画像復号装置では、所定の速度で符号化処理や復号処理を行うことが不可能になることが考えられる。
このような状況に対応する解の一つとして、入力画像を空間的に分割して、複数の符号化部に与え、複数の符号化部を並列に動作させることで、処理時間を低減させることが考えられる。この場合、復号側においても、分割されて符号化されたデータをそれぞれ異なる復号部に与え、複数の復号部が復号処理を並列処理することで、処理時間を低減させることが可能となる。
ここで、より高速に並列処理を実行するには、並列的に動作している符号部・復号部間での情報の参照はなるべく減らすことが望ましい。これには、フレーム内予測のための画素の参照、動きベクトル予測のための動きベクトル情報の参照、その他エントロピー符号化のための近接領域の符号化パラメータ情報の参照、エントロピー符号化におけるシンボル生起確率推定モデルの状態が含まれる。
ある領域の符号化を行う際に、近接領域が別の符号化部で並列的に処理されていた場合、これらの情報の参照を行うためには処理の同期が必要になるため、並列性能を高めるためには好ましくない。
また、上記の情報以外にも、画面のフィルタリング処理を行う場合に近接領域の画素参照が必要になる。よって、フィルタリング処理も含めた並列性能を高めるためには、フィルタリング処理においても、別の符号化部・復号部で並列的に処理されている近接領域の画素参照を行うべきではない。
この実施の形態1では、このような動画像符号化の並列処理に求められる機能を実現するために、入力画像をタイルと呼ばれる矩形領域に分割し、タイルレベルで予測差分符号化処理の並列化を可能にするとともに、フィルタ係数導出およびフィルタリング処理の並列化を可能にし、かつ、フィルタ係数導出を並列化するか否かを切り替えられる構成をとっている。
図1の動画像符号化装置が処理対象とする映像信号フォーマットは、輝度信号と2つの色差信号からなるYUV信号や、ディジタル撮像素子から出力されるRGB信号等の任意の色空間のカラー映像信号のほか、モノクロ画像信号や赤外線画像信号など、映像フレームが水平・垂直2次元のディジタルサンプル(画素)列から構成される任意の映像信号とする。
ただし、各画素の諧調は、8ビットでもよいし、10ビットや12ビットなどの諧調でもよい。
以下の説明では、便宜上、特に断らない限り、入力画像の映像信号はYUV信号であるとし、かつ、2つの色差成分U,Vが輝度成分Yに対して、サブサンプルされた4:2:0フォーマットの信号を扱う場合について述べる。
また、映像信号の各フレームに対応する処理データ単位を「ピクチャ」と称する。
この実施の形態1では、「ピクチャ」は順次走査(プログレッシブスキャン)された映像フレーム信号として説明を行うが、映像信号がインタレース信号である場合、「ピクチャ」は映像フレームを構成する単位であるフィールド画像信号であってもよい。
まず、符号化制御部1は、映像信号が示す入力画像を所定サイズのタイルに分割する際の分割状態を指示するタイル分割制御情報をタイル分割制御部2、並列処理終了部8及び可変長符号多重化部9に出力する。
また、符号化制御部1は、タイル符号化部5−1〜5−Nにより生成されたタイル単位の局所復号画像のフィルタリング処理に用いるフィルタを各タイルで共通させるか否かを示すフィルタパラメータ共有フラグ(各タイルで共通させる場合:ONのフラグ、各タイルで共通させない場合:OFFのフラグ)をタイル分割制御部2、ループフィルタ制御部6、タイルループフィルタ部7−1〜7−N及び可変長符号多重化部9に出力する。
タイル分割制御部2は、符号化制御部1からタイル分割制御情報を受けると、そのタイル分割制御情報が指示している分割状態と一致するように、並列処理開始部3における入力画像の分割を制御する。
並列処理開始部3は、入力画像を示す映像信号を入力すると、タイル分割制御部2の指示の下、その入力画像を所定サイズのタイルに分割し、分割後のタイルをタイル符号化部5−1〜5−Nに分配する(図2のステップST1)。
ここで、タイル分割を制御する情報は様々な表現が考えられるが、例えば、タイルを最大サイズのCU(Largest CU:LCU)を最小単位として、LCUをいくつ含むかという情報によってタイル分割を指定することを考える。
図11は画像のLCU分割及びタイル分割の一例を示す説明図である。
入力画像は、図11に示すように、左上を始点として、格子状に並ぶLCUに分割される。画像の高さと幅及びLCUの一辺の長さを指定すると、この分割は一意に定まる。
タイル分割は、LCUを最小単位として行われるため、各タイルの幅及び高さは、横及び縦の辺に含まれるLCUの数で表すことができる。
よって、タイル分割制御情報として、2つの整数の系列であるColumnWidthArray[],RowHeightArray[]を与える。
ColumnWidthArray[]は、横方向に並ぶタイルの幅をLCUの数で表現した値を、右から順に並べたものである。
また、RowHeightArray[]は、上下方向に並ぶタイルの高さをLCUの数で表現した値を、上から順に並べたものである。
例えば、ColumnWidthArray[]={4, 3, 6, 4, 6}、RowHeightArray[]={3, 3, 4, 5}と指定された場合、図11のようにタイル分割される。
また、入力画像のLCU分割は、画像サイズとLCUの一辺の長さから一意に決定されるため、最も右の列の幅と、最も下の行の高さは指定しなくとも、その他の行や列の情報から一意に定めることが可能となる。
よって、これらの情報は省略が可能であり、その場合、ColumnWidthArray[]={4, 3, 6, 4}、RowHeightArray[]={3, 3, 4}と指定すればよい。
上記では、図11に示されるように、フレームを格子状に分割するタイルの例を説明したが、図19に示すような、格子状配置でないより自由なタイル分割も可能である。このような場合、タイル分割制御情報もこのような分割状態を表現できる情報でなければならない。例えば、タイルの最も左上の画素またはLCUの座標、タイルの幅及び高さの情報により表現することが例として挙げられる。
またタイル分割状態は、シーケンス全体で同じ分割状態を維持してもよいし、フレーム単位で変更してもよいし、またはイントラピクチャ、インターピクチャなどのピクチャ種ごとに切り替えてもよい。シーケンス全体で同じタイル分割状態を用いる場合は、タイル分割情報はシーケンスのヘッダで多重化すればよく、シーケンスの途中で切り替える場合は、切り替わった直後のピクチャのピクチャヘッダに多重化すればよい。
なお、図1の動画像符号化装置は、あらゆるタイルレベルでの並列処理を行わないという動作も可能である。
この場合、タイルの数が1つであり、かつ、タイルのサイズが入力画像のサイズと一致するようにタイル分割制御情報を指定してもよいし、また、タイル符号化並列フラグやタイルループフィルタ並列フラグによって、全ての並列処理をOFFにしてもよい。
また、別のフラグをタイル分割制御情報に多重化し、そのフラグで並列処理の実施/不実施を切り替えるようにしてもよい。
以下では、タイルレベルでの並列処理を行う場合について説明するが、並列処理を行わない場合の動作はフレーム全体が1つのタイルである場合の動作と同等である。
並列処理開始部3は、上述したように、入力画像を所定サイズのタイルに分割し、分割後のタイルをタイル符号化部5−1〜5−Nに分配するが、同時に並列処理できるタイル数は、タイル符号化部5−1〜5−Nの個数が上限となるため、タイル数がタイル符号化部5−1〜5−Nの個数よりも多い場合には、一つのタイル符号化部5−nに対して、複数のタイルを出力する。
例えば、タイル数が7で、タイル符号化部の個数が3である場合、タイル1〜3の処理をタイル符号化部5−1、タイル4〜5の処理をタイル符号化部5−2、タイル6〜7の処理をタイル符号化部5−3に割り当てるようにする。
また、タイルの分割数がタイル符号化部の個数に満たない場合でも、1つのタイル符号化部に対して、複数のタイルを割り当てるように制御してもよい。
符号化制御部1から出力されるフィルタパラメータ共有フラグがOFFである場合(ステップST2)、タイル符号化部5−n及びタイルループフィルタ部7−nの処理が続けて行われることになる(ステップST3,ST4)。
このとき、タイル符号化部5−n及びタイルループフィルタ部7−nの処理は、タイルの数だけ繰り返し実行され(ステップST5,ST6)、かつ、各ループの処理は独立しているため、タイル符号化部5−nの個数だけ並列的に実行することが可能である。
フィルタパラメータ共有フラグがOFFである場合、タイルの符号化処理とタイルのループフィルタ処理をまとめて並列化することが可能であるため、より符号化処理の並列性を向上させることが可能となる。また、フィルタパラメータが局所化されるため、画面領域毎に、画像の性質が大きく異なる場合に画質向上につながる。
なお、タイル符号化部5−n及びタイルループフィルタ部7−nの処理内容の詳細については後述する。
一方、符号化制御部1から出力されるフィルタパラメータ共有フラグがONである場合(ステップST2)、タイル符号化部5−nは、全てのタイルの符号化処理が終了するまでタイルの符号化処理を繰り返し実行し(ステップST8〜ST10)、全てのタイルの符号化処理が終了すると、ループフィルタ制御部6が、タイル符号化部5−nにより生成されたタイル局所復号画像から、画面全体であるフレーム単位の局所復号画像を得て、フレーム単位の局所復号画像に適するフレーム単位のフィルタを決定し、そのフィルタを示すフィルタパラメータをタイルループフィルタ部7−n及び並列処理終了部8に出力する(ステップST11)。ループフィルタ制御部6の処理内容の詳細については後述する。
タイルループフィルタ部7−nは、ループフィルタ制御部6からフィルタパラメータを受けると、全てのタイル局所復号画像のフィルタリング処理が終了するまで、タイル局所復号画像のフィルタリング処理を繰り返し実行する(ステップST12〜ST14)。
フィルタパラメータ共有フラグがONである場合、フィルタパラメータが全てのタイルで共有されるため、フィルタパラメータ共有フラグがOFFの場合と比較して、フィルタパラメータの符号量を抑えることが可能になる。またフレーム全体の局所復号画像を用いてフィルタパラメータを設計した場合の方が画質が向上する場合などに有効になる。
ただし、フィルタパラメータ共有フラグがONである場合、タイル符号化部5−nとタイルループフィルタ部7−nの間で並列処理を一旦同期させる必要があるため、符号化処理の並列性能は低下する。
後述する動画像復号装置においては、フィルタパラメータ共有フラグがONの際に作成されたビットストリームを復号する場合でも並列性能が低下しない。
並列処理終了部8は、タイルループフィルタ部7−1〜7−Nのフィルタリング処理が完了すると、符号化制御部1から出力されたタイル分割制御情報にしたがって、タイルループフィルタ部7−1〜7−Nによるフィルタリング処理後のタイル局所復号画像を組み合わせてフレーム単位の局所復号画像を生成し、その局所復号画像を動き補償予測フレームメモリ4に格納するとともに、タイルループフィルタ部7−1〜7−Nから出力されたビット系列データを可変長符号多重化部9に出力する。
また、並列処理終了部8は、符号化制御部1から出力されたフィルタパラメータ共有フラグがONである場合、ループフィルタ制御部6から出力されたフレーム単位のフィルタを示すフィルタパラメータの符号化データを可変長符号多重化部9に出力する。
可変長符号多重化部9は、符号化制御部1から出力されたフィルタパラメータ共有フラグがOFFである場合、並列処理終了部8から出力されたビット系列データ(タイル符号化部5−1〜5−Nにより生成されたビット系列データ)と、符号化制御部1から出力されたタイル分割制御情報及びフィルタパラメータ共有フラグとを所定の方式で多重化してビットストリームを生成する(ステップST7)。
一方、フィルタパラメータ共有フラグがONである場合、並列処理終了部8から出力されたビット系列データ(タイル符号化部5−1〜5−Nにより生成されたビット系列データ)と、符号化制御部1から出力されたタイル分割制御情報及びフィルタパラメータ共有フラグと、ループフィルタ制御部6から出力されたフレーム単位のフィルタを示すフィルタパラメータの符号化データとを所定の方式で多重化してビットストリームを生成する(ステップST15)。
次に、タイル符号化装置5におけるタイル符号化部5−1〜5−Nの処理内容を詳細に説明する。
タイル符号化装置5は、N個のタイル符号化部5−1〜5−Nを実装しており、N個のタイル符号化部5−1〜5−Nが独立して予測差分符号化処理(タイル間のいかなる情報参照も行わない予測差分符号化処理)を実施する。
タイル符号化部5−nのタイル符号化制御部21は、最大符号化ブロック(LCU)のサイズ及び分割階層数の上限を決定し、各LCUの画像領域に対して特定の順序で図4のステップST21〜ST31の処理を実施する。
まず、タイル符号化制御部21は、上記で定めた分割階層数の上限に至るまで、階層的に符号化ブロックサイズを有する符号化対象ブロックに分割する指示をブロック分割部22に出力するとともに、各符号化対象ブロックに対する符号化モードを決定する(図4のステップST21)。
ブロック分割部22は、タイル符号化制御部21の指示の下、並列処理開始部3により分配されたタイルを符号化ブロックサイズのブロック(予測処理単位のブロック)に分割して、予測処理単位のブロックである符号化対象ブロックを出力する。
ここで、図12は最大符号化ブロックが階層的に複数の符号化対象ブロックに分割される例を示す説明図である。
図12において、最大符号化ブロックは、「第0階層」と記されている輝度成分が(L,M)のサイズを有する符号化対象ブロックである。
LCUサイズのブロックを出発点として、4分木構造で別途定める所定の深さまで、階層的に分割を行うことによって符号化対象ブロックを得るようにしている。
深さnにおいては、符号化対象ブロックはサイズ(L,M)の画像領域である。
ただし、LとMは、同じであってもよいし、異なっていてもよいが、図12では、L=Mのケースを示している。
以降、タイル符号化制御部21により決定される符号化ブロックサイズは、符号化対象ブロックの輝度成分におけるサイズ(L,M)と定義する。
4分木分割を行うため、常に、(Ln+1,Mn+1)=(L/2,M/2)が成立する。
なお、RGB信号など、全ての色成分が同一サンプル数を有するカラー映像信号(4:4:4フォーマット)では、全ての色成分のサイズが(L,M)になるが、4:2:0フォーマットを扱う場合、対応する色差成分の符号化ブロックサイズは(L/2,M/2)になる。
以降、第n階層の符号化対象ブロックをBで表し、符号化対象ブロックBで選択可能な符号化モードをm(B)で表すものとする。
複数の色成分からなるカラー映像信号の場合、符号化モードm(B)は、色成分毎に、それぞれ個別のモードを用いるように構成されてもよいし、すべての色成分に対し共通のモードを用いるように構成されてもよい。以降、特に断らない限り、YUV信号、4:2:0フォーマットの符号化ブロックの輝度成分に対する符号化モードを指すものとして説明を行う。
符号化モードm(B)には、1つないし複数のイントラ符号化モード(総称して「INTRA」と称する)と、1つないし複数のインター符号化モード(総称して、「INTER」と称する)とがあり、タイル符号化制御部21は、当該ピクチャで利用可能な全ての符号化モード、または、そのサブセットの中から、符号化対象ブロックBに対する符号化効率が最も高い符号化モードを選択する。
さらに、符号化対象ブロックBは、図13に示すように、ブロック分割部22によって、1つないし複数の予測処理単位(パーティション)に分割される。
以降、符号化対象ブロックBに属するパーティションをP (iは、第n階層におけるパーティション番号)と表記する。
符号化対象ブロックBのパーティション分割が、どのようになされているかは、符号化モードm(B)の中に情報として含まれる。
パーティションP は、すべて符号化モードm(B)に従って予測処理が行われるが、符号化対象ブロックBないしパーティションP 毎に、予測パラメータが選択される。
タイル符号化制御部21は、最大符号化ブロックに対して、例えば、図13に示すようなブロック分割状態を生成して、符号化対象ブロックを特定する。
図13(a)の斜線部分は、分割後のパーティションの分布を示しており、図13(b)は階層分割によって符号化モードm(Bn)が割り当てられる状況を4分木グラフで示している。
図13(b)の□で囲まれているノードは、符号化モードm(B)が割り当てられたノード(符号化対象ブロック)である。
切換スイッチ23は、タイル符号化制御部21により決定された符号化モードm(B)がイントラ符号化モードである場合(m(B)∈INTRAの場合)、ブロック分割部22から出力された符号化対象ブロックBをイントラ予測部24に出力する。
一方、タイル符号化制御部21により決定された符号化モードm(B)がインター符号化モードである場合(m(B)∈INTERの場合)、ブロック分割部22から出力された符号化対象ブロックBを動き補償予測部25に出力する。
イントラ予測部24は、タイル符号化制御部21により決定された符号化モードm(B)がイントラ符号化モードであり(m(B)∈INTRAの場合)、切換スイッチ23から符号化対象ブロックBを受けると(ステップST22)、タイル局所復号画像メモリ30に格納されている局所復号画像を参照しながら、タイル符号化制御部21により決定されたイントラ予測パラメータを用いて、その符号化対象ブロックB内の各パーティションP に対するイントラ予測処理を実施して、イントラ予測画像PINTRAi を生成する(ステップST23)。
なお、タイル局所復号画像メモリ30に格納されている局所復号画像は、カレントタイルに属するブロックの局所復号画像のみであるため、タイル端におけるイントラ予測処理は、隣接画素の参照が不要な画面端でのイントラ予測と同様の処理を行う。
また、図6の動画像復号装置がイントラ予測画像PINTRAi と全く同じイントラ予測画像を生成する必要があるため、イントラ予測画像PINTRAi の生成に用いられたイントラ予測パラメータは、タイル符号化制御部21から可変長符号化部31に出力されて、ビットストリームに多重化される。
動き補償予測部25は、タイル符号化制御部21により決定された符号化モードm(B)がインター符号化モードであり(m(B)∈INTERの場合)、切換スイッチ23から符号化対象ブロックBを受けると(ステップST22)、その符号化対象ブロックB内の各パーティションP と動き補償予測フレームメモリ4に格納されているフィルタリング処理後の局所復号画像を比較して動きベクトルを探索し、その動きベクトルとタイル符号化制御部21により決定されたインター予測パラメータを用いて、その符号化対象ブロックB内の各パーティションP に対するインター予測処理を実施して、インター予測画像PINTERi を生成する(ステップST24)。
なお、図6の動画像復号装置がインター予測画像PINTERi と全く同じインター予測画像を生成する必要があるため、インター予測画像PINTERi の生成に用いられたインター予測パラメータは、タイル符号化制御部21から可変長符号化部31に出力されて、ビットストリームに多重化され、その動きベクトルは、動き補償予測部25から可変長符号化部31に出力されて、ビットストリームに多重化される。
減算部26は、ブロック分割部22から符号化対象ブロックBを受けると、その符号化対象ブロックB内のパーティションP から、イントラ予測部24により生成されたイントラ予測画像PINTRAi 、または、動き補償予測部25により生成されたインター予測画像PINTERi を減算して、その減算結果である予測差分信号e を変換・量子化部27に出力する(ステップST25)。
変換・量子化部27は、減算部26から予測差分信号e を受けると、タイル符号化制御部21により決定された予測差分符号化パラメータを参照して、その予測差分信号e に対する直交変換処理(例えば、DCT(離散コサイン変換)や、予め特定の学習系列に対して基底設計がなされているKL変換等の直交変換処理)を実施して、その変換係数を算出する。
また、変換・量子化部27は、その予測差分符号化パラメータを参照して、その変換係数を量子化し、量子化後の変換係数である圧縮データを逆量子化・逆変換部28及び可変長符号化部31に出力する(ステップST26)。
逆量子化・逆変換部28は、変換・量子化部27から圧縮データを受けると、タイル符号化制御部21により決定された予測差分符号化パラメータを参照して、その圧縮データを逆量子化する。
また、逆量子化・逆変換部28は、その予測差分符号化パラメータを参照して、逆量子化後の圧縮データである変換係数に対する逆直交変換処理(例えば、逆DCT、逆KL変換など)を実施して、減算部26から出力された予測差分信号e に相当する局所復号予測差分信号を算出する(ステップST29)。
加算部29は、逆量子化・逆変換部28から局所復号予測差分信号を受けると、その局所復号予測差分信号と、イントラ予測部24により生成されたイントラ予測画像PINTRAi 、または、動き補償予測部25により生成されたインター予測画像PINTERi とを加算して、局所復号パーティション画像、あるいは、その局所復号パーティション画像の集まりとして、ブロック分割部22から出力された符号化対象ブロックBに相当する局所復号画像を算出する(ステップST30)。
なお、加算部29は、その局所復号画像をタイル局所復号画像メモリ30に格納する。この局所復号画像が、カレントタイルにおける以降のイントラ予測用の画像信号になる。
可変長符号化部31は、全ての符号化対象ブロックBに対するステップST22〜ST30の処理が完了すると(ステップST27,ST28)、変換・量子化部27から出力された圧縮データと、タイル符号化制御部21から出力された符号化モードm(B)と、タイル符号化制御部21から出力されたイントラ予測パラメータ(符号化モードがイントラ符号化モードである場合)又はインター予測パラメータ(符号化モードがインター符号化モードである場合)と、動き補償予測部25から出力された動きベクトル(符号化モードがインター符号化モードである場合)とを可変長符号化して、それらの符号化結果を示すビット系列データを生成する(ステップST31)。
なお、可変長符号化の手法として、例えば、コンテキスト適応型算術符号化などを用いた場合、可変長符号化部31の内部の状態を符号化の進行に合わせて更新していくが、この内部状態の初期値は、所定の固定値もしくは図1の並列処理開始部3から出力される値を使用するものとして、タイル間での状態の引継ぎは行わないようにする。
また、タイル符号化部5−nの動作においては、上記のイントラ予測や可変長符号を含む如何なる処理においても、カレントタイルと異なるタイルに属するブロックの符号化パラメータ、局所復号画像の参照を行わない。タイル端での参照処理は、何らかの参照が不要な処理に置き換えられる。
どのような処理に置き換えられるかは、動画像符号化装置と動画像復号装置で一致させる必要があるが、符号化側と復号側で固定的に同じ処理を行ってもよいし、処理内容を示す信号をシグナリングしてもよい。
以上よりタイル符号化部5−1〜5−Nの処理は各タイルで独立しており、並列実行可能である。
また、タイル符号化部5−1〜5−Nの一つのモジュールに対して、並列処理開始部3から複数のタイルが出力された場合、当該モジュールは、それぞれのタイルに対して逐次的に符号化処理を実施する。また、同じモジュールで符号化されたタイル同士であっても、タイル間の独立性は維持し、出力されるビット系列が、並列的に処理した場合と等しくなるように動作する。
また、タイル符号化部5−nでは、カレントタイルをスライスと呼ばれる1つ以上の構造体に分割して処理を行なっても良い。スライスは、タイルを更に分割する構造体であり、連続して処理される1つ以上のLCU、またはLCUよりも小さな符号化ブロックが含まれる。同じスライスの内部では、スライス毎に独立して定められたパラメータやモードを用いることができる。またタイルと同様に、カレントスライスと異なるスライスに属するブロックの情報の参照を禁止したり、スライスの先頭のブロックでエントロピー符号化の内部状態を初期化するなどの処理を行うことができる。スライスは、タイルと同様に並列処理を容易にする効果がある。また1スライスの処理により出力されるビット系列をパケット化するなど、データをパケッタイズに利用できる。またエラー耐性の面でも利点がある。
タイル内をスライスに分割する場合、スライスの分割情報、各スライス独立のパラメータやモード情報及びスライス間を跨いだ情報参照を行うかどうかを示すフラグなどの情報はビットストリームに多重化され復号側に伝送される。
可変長符号化の手法として前記コンテキスト適応型算術符号化を用いる場合、コンテキスト適応算術符号化処理の演算が複雑であるため処理速度のボトルネックとなる場合がある。タイル符号化処理の並列処理性を向上させるためは、すべてのタイルの符号化が同時に終了することが望ましいため、スライス単位にコンテキスト適応算術符号化の処理の一部を制限するよう構成する。
具体的には、スライスヘッダに可変長符号化処理制御情報を多重化し、前記可変長符号化処理制御情報がコンテキスト切り替えを行わないよう制限することを示す場合には、当該スライスにおいてはコンテキスト切り替えを行わないで適応算術符号化を行う。同様に前記可変長符号化処理制御情報がコンテキスト切り替えおよび適応処理を行わないよう制限することを示す場合には、当該スライスにおいてはコンテキスト切り替えおよび適応処理を行わずに算術符号化を行う。このように構成することで、コンテキスト切り替えや適応処理を適宜省略して可変長符号化処理が行えるため、符号化に要する時間が他のタイルに比べて長くなっていると判断されたタイルについては、次に処理するスライスにおいて上記のように符号化処理に制限を加えることにより高速にタイルの符号化処理を行うことができ、他のタイルとの符号化処理時間の差を短縮することができるため、タイルの並列処理性を向上させることができる。
ここではコンテキスト適応算術符号化を例に説明したが、他のいかなる可変長符号化手法であっても、その一部の処理を取り除いてもなお可変長符号化が可能であれば同様の手段によって同様の効果が得られる。
次に、タイルループフィルタ装置7におけるタイルループフィルタ部7−1〜7−Nの処理内容を詳細に説明する。
タイルループフィルタ部7−nでは、局所復号画像に含まれている符号化歪を補正するフィルタの設計やフィルタリング処理を行う。
ここで、ループフィルタ処理は、異なる1種以上のループフィルタ(ブロック境界の不連続を緩和するデブロッキングフィルタ、量子化誤差による直流成分の変動、エッジの不連続を補正するSAO(Sample Adaptive Offset)、入力画像との誤差を最小にするフィルタを都度設計する適応型ループフィルタなど)を、入力された局所復号画像に対して直列的に実施するフィルタリング処理である。このとき、いずれのフィルタリング処理においても、タイルを跨いだ画素や、その他の情報の参照を行わないフィルタリング処理を実施する。
図1の符号化制御部1から出力されたフィルタパラメータ共有フラグがONである場合、ループフィルタ制御部6から出力されるフィルタパラメータが示すフレーム単位のフィルタを使用する。
一方、フィルタパラメータ共有フラグがOFFである場合、タイルループフィルタ制御部41が、タイル符号化部5−nから出力されるタイル局所復号画像に適するタイル単位のフィルタを決定し、そのフィルタを使用する。
以下、タイル符号化部5−nが用いるフィルタが適応型ループフィルタ(ALF:Adaptive Loop Filter)である例を説明する。
ALFは、画面を一定数のフィルタ定義領域に分割し、かつ、フィルタ定義領域毎に局所復号画像と入力画像の誤差が最小となるようなフィルタを定義する手法である。
ALFにおけるフィルタパラメータは、分割領域の形状、各領域に定義されたフィルタの形状及びフィルタ係数を示す情報となる。
ここでは、説明の便宜上、フィルタ定義領域数を16として、処理単位の矩形(フレーム又はタイル)を4×4の矩形領域に分割する領域分割手法を用いた場合を考える。
図1のループフィルタ制御部6は、符号化制御部1から出力されたフィルタパラメータ共有フラグがONである場合、フレーム1枚分の局所復号画像を4×4の16個のフィルタ定義領域に分割し(図14(a)を参照)、各々のフィルタ定義領域毎にフィルタ形状及びフィルタ係数を決定する。
また、各フィルタ定義領域の各タイル内での相対位置情報を求め、その相対位置情報及びフィルタ形状/フィルタ係数情報をフィルタパラメータとして各タイルに出力する。
タイルループフィルタ部7−nのループフィルタ実施部42は、ループフィルタ制御部6からフィルタ定義領域の相対位置及びフィルタ形状/フィルタ係数情報を受けると、その相対位置及びフィルタ形状/フィルタ係数情報に基づいてフィルタリング処理を実施する。
図14の例では、フィルタパラメータ共有フラグがOFFである場合、各タイルに対して16種類のフィルタの設計が可能であるため、フレーム全体としては144種類のフィルタが設計されることになる。
したがって、例えば、画像の特性が局所的に大きく変化しているような画像に対しては画質への改善効果が大きくなる利点が考えられる。
一方、個々のタイル対して、16種類のフィルタを設計することが、画質改善上オーバスペックであり、むしろフィルタパラメータの符号量の増加が問題になることも考えられる。
このような場合は、フィルタパラメータ共有フラグをONにすることで、フィルタパラメータの符号量を削減し、効率的にループフィルタ処理を行うことが可能となる。
タイルループフィルタ制御部41は、フィルタパラメータ共有フラグがOFFである場合、タイル毎に独立してフィルタ定義領域の分割を行い、各フィルタ定義領域に対してフィルタ形状/フィルタ係数を決定し(図14(b)を参照)、フィルタ定義領域情報及びフィルタ形状/フィルタ係数情報をフィルタパラメータとしてループフィルタ実施部42に出力する。
ループフィルタ実施部42は、タイルループフィルタ制御部41からフィルタ定義領域情報及びフィルタ形状/フィルタ係数情報を受けると、そのフィルタ定義領域情報及びフィルタ形状/フィルタ係数情報に基づいてフィルタリング処理を実施する。
可変長符号化部43は、フィルタパラメータ共有フラグがOFFである場合、タイルループフィルタ制御部41から出力されたフィルタ定義領域情報及びフィルタ形状/フィルタ係数情報を可変長符号化し、その符号化結果をタイル符号化部5−nから出力されたビット系列データに多重化して並列処理終了部8に出力する。
一方、フィルタパラメータ共有フラグがONである場合、タイル符号化部5−nから出力されたビット系列データをそのまま並列処理終了部8に出力する。
以上より、フィルタパラメータ共有フラグがONである場合は、フィルタパラメータがフレームに最大1セット定義されるが、フィルタパラメータ共有フラグがOFFである場合は、タイル毎に最大1セット定義される。
フィルタパラメータ共有フラグがONである場合、フィルタパラメータは、ビットストリーム上では、例えば、図15(a)に示すように、ピクチャのヘッダとして多重化される。
フィルタパラメータ共有フラグがOFFである場合、タイル毎に定義されるフィルタパラメータセットは、ビットストリーム上では、例えば、図15(b)に示すように、タイルのヘッダとして各タイルデータの先頭位置に多重化される。
ループフィルタ実施部42は、上述したように、ループフィルタ制御部6又はタイルループフィルタ制御部41から出力されるフィルタパラメータが示すフィルタを用いて、タイル局所復号画像に対するフィルタリング処理を実施する。
この際、タイル境界においては、カレントタイルと異なるタイルの画素を参照しないフィルタリングを実施する。
例えば、図16(a)に示すフィルタ形状の線形フィルタを用いる場合、フィルタ境界では、図16(b)に示すように、フィルタ境界の外部を参照しないようにフィルタ形状を変更する。
あるいは、図16(c)に示すように、フィルタ境界付近の画素をコピーするような処理によって、カレントタイルと異なるタイルの画素を参照しないフィルタリング処理を実施する。
異なるタイル間の画素参照が不要なフィルタリング手法は、動画像符号化装置と動画像復号装置で一致させる必要があるが、符号化側と復号側で固定的に同じ手法を行ってもよいし、処理内容を示す信号をシグナリングしてもよい。
フィルタパラメータ共有フラグがONであり、カレントタイルと隣接するタイルで同じフィルタパラメータを用いる場合でも、タイルを跨いだ画素参照は行わない。
タイルを跨いだ画素参照を行わないことで、タイル符号化部7−nのループフィルタ処理の並列化が可能になるとともに、このタイル符号化部7−nで作成されたビットストリームの復号において、ループフィルタ処理の並列化が可能になる。
次に、図6の動画像復号装置の処理内容を具体的に説明する。
可変長符号分離部51は、図1の動画像符号化装置により生成されたビットストリームを入力すると、そのビットストリームに多重化されているフィルタパラメータ共有フラグを分離して、そのフィルタパラメータ共有フラグをフィルタパラメータ復号部55及びタイルループフィルタ部56−nに出力する。
また、可変長符号分離部51は、ビットストリームに多重化されているタイル分割制御情報を分離して、そのタイル分割制御情報をタイル分割制御部57に出力し、そのフィルタパラメータ共有フラグがONであれば、ビットストリームに多重化されているフレーム単位のフィルタを示すフィルタパラメータの符号化データを分離して、そのフィルタパラメータの符号化データをフィルタパラメータ復号部55に出力する。
また、可変長符号分離部51は、タイルの個数だけビットストリームに多重化されているビット系列データを分離して、そのビット系列データを並列処理開始部52に出力する(図7のステップST41)。
タイル分割制御部57は、可変長符号分離部51からタイル分割制御情報を受けると、そのタイル分割制御情報からタイルの分割状態を把握し(ステップST42)、元の入力画像に相当する復号画像が得られるように、後述する並列処理終了部58における各タイル復号画像の配置を制御する。
並列処理開始部52は、可変長符号分離部51からタイルの個数分のビット系列データ(フレーム単位のビット系列データ)を受けると、タイル単位のビット系列データに分割し、タイル単位のビット系列データをタイル復号部54−1〜54−Nに分配する。
フィルタパラメータ復号部55は、可変長符号分離部51から出力されたフィルタパラメータ共有フラグがONである場合(ステップST43)、可変長符号分離部51から出力された符号化データからフレーム単位のフィルタを示すフィルタパラメータを復号し、そのフィルタパラメータをタイルループフィルタ部56−nに出力する(ステップST44)。
タイル復号部54−nの処理とタイルループフィルタ部56−nの処理は連続して行われ(ステップST45,ST46)、これら2つの処理が全てのタイルに対して繰り返し実行される(ステップST47,ST48)。
ステップST45〜ST48のループ内の処理は、後述するように、各タイルで独立しているため並列的に実行することができる。
図1の動画像符号化装置と異なり、フィルタパラメータ共有フラグのON/OFFに関わらず、ステップST45〜ST48の処理をまとめて並列化することが可能である。
並列処理終了部58は、全てのタイルの復号処理とループフィルタ処理が完了すると(ステップ47)、タイル分割制御部57の制御の下で、タイルループフィルタ部56−1〜56−Nによるフィルタリング処理後のタイル復号画像を組み合わせてフレーム単位の復号画像を生成し、その復号画像を動き補償予測フレームメモリ53に格納するとともに、その復号画像を再生画像として外部に出力する。
次に、タイル復号装置54におけるタイル復号部54−1〜54−Nの処理内容を詳細に説明する。
タイル復号装置54は、N個のタイル復号部54−1〜54−Nを実装しており、N個のタイル復号部54−1〜54−Nが独立して予測差分復号処理(タイル間のいかなる情報参照も行わない予測差分復号処理)を実施する。
タイル復号部54−nの可変長復号部61は、並列処理開始部52により分配されたタイル単位のビット系列データを入力すると、図3のタイル符号化制御部21と同様の方法で、最大符号化ブロック(LCU)のサイズと分割階層数の上限を決定する。
可変長復号部61は、最大符号化ブロックのサイズと分割階層数の上限を決定すると、タイル単位のビット系列データから最大符号化ブロックに割り当てられている符号化モードm(B)を復号し、その符号化モードm(B)に含まれている最大符号化ブロックの分割状態を示す情報を復号する(図9のステップST51)。
可変長復号部61は、最大符号化ブロックの分割状態を示す情報を復号すると、その分割状態に基づいて、階層的に分割されている復号対象ブロック(図1の動画像符号化装置の「符号化対象ブロック」に相当するブロック)を特定する(ステップST52)。
可変長復号部61は、復号対象ブロック(符号化対象ブロック)に割り当てられている符号化モードm(B)がイントラ符号化モードである場合、タイル単位のビット系列データから、その復号対象ブロックに含まれている1つ以上のパーティション毎にイントラ予測パラメータを復号する。
一方、復号対象ブロック(符号化対象ブロック)に割り当てられている符号化モードm(B)がインター符号化モードである場合、タイル単位のビット系列データから、復号対象ブロック毎、あるいは、その復号対象ブロックに含まれている1つ以上のパーティション毎にインター予測パラメータ及び動きベクトルを復号する(ステップST53)。
可変長復号部61は、予測処理単位となるパーティションを、更に予測差分符号化パラメータに含まれる変換ブロックサイズの情報に基づき、変換処理単位となる1つないし複数のパーティションに分割し、タイル単位のビット系列データから、変換処理単位となるパーティション毎に圧縮データ(変換・量子化後の変換係数)を復号する(ステップST53)。
可変長復号部61は、フィルタパラメータ共有フラグがOFFであるために、タイル単位のフィルタを示すフィルタパラメータの符号化データがタイル単位のビット系列データに多重化されている場合、その符号化データを分離してタイルループフィルタ部56−nに出力する。
また、可変長復号部61は、符号化パラメータをタイルループフィルタ部56−nに出力する。
切換スイッチ62は、可変長復号部61により可変長復号された符号化モードm(B)がイントラ符号化モードであれば(m(B)∈INTRAの場合)、可変長復号部61により可変長復号されたイントラ予測パラメータをイントラ予測部63に出力する。
一方、可変長復号部61により可変長復号された符号化モードm(B)がインター符号化モードであれば(m(B)∈INTERの場合)、可変長復号部61により可変長復号されたインター予測パラメータ及び動きベクトルを動き補償部64に出力する。
なお、入力されたビット系列データがコンテキスト適応型算術符号など、過去のブロックの符号化結果により内部状態が変化する符号化方式を用いている場合、可変長復号部61の内部状態の初期値は、図3の可変長符号化部31と同様の値を使用し、タイル間の引継ぎを行わない。
イントラ予測部63は、可変長復号部61により可変長復号された符号化モードm(B)がイントラ符号化モードであり(m(B)∈INTRAの場合)、切換スイッチ62からイントラ予測パラメータを受けると(ステップST54)、図3のイントラ予測部24と同様の手順で、タイル復号画像メモリ67に格納されている復号画像を参照しながら、切換スイッチ62から出力されたイントラ予測パラメータを用いて、復号対象ブロックB内の各パーティションP に対するイントラ予測処理を実施して、イントラ予測画像PINTRAi を生成する(ステップST55)。
動き補償部64は、可変長復号部61により可変長復号された符号化モードm(B)がインター符号化モードであり(m(B)∈INTERの場合)、切換スイッチ62からインター予測パラメータ及び動きベクトルを受けると(ステップST54)、動き補償予測フレームメモリ53に格納されているフィルタリング処理後の復号画像を参照しながら、切換スイッチ62から出力された動きベクトルとインター予測パラメータを用いて、復号対象ブロックB又はパーティションP に対するインター予測処理を実施してインター予測画像PINTERi を生成する(ステップST56)。
ただし、動き補償部64は、復号対象ブロックB内の全てのパーティションP に対して、共通のインター予測モードと共通の参照画像指示インデックスが決定されている場合、その参照画像指示インデックスが示す全てのパーティションP で共通の参照画像と、パーティションP 毎の動きベクトルとを用いて、当該パーティションP に対するインター予測処理を実施してインター予測画像PINTERi を生成する。
逆量子化・逆変換部65は、可変長復号部61から圧縮データ及び予測差分符号化パラメータを受けると、図3の逆量子化・逆変換部28と同様の手順で、その予測差分符号化パラメータを参照して、その圧縮データを逆量子化するとともに、その予測差分符号化パラメータを参照して、逆量子化後の圧縮データである変換係数に対する逆直交変換処理を実施して、図3の減算部26から出力された予測差分信号に相当する復号予測差分信号を算出する(ステップST57)。
加算部66は、逆量子化・逆変換部65により算出された復号予測差分信号と、イントラ予測部63により生成されたイントラ予測画像PINTRAi 、または、動き補償部64により生成されたインター予測画像PINTERi とを加算して、復号対象ブロック内に含まれる1つないし複数の復号パーティション画像の集まりとして、復号画像をタイル復号画像メモリ67に格納する(ステップST58)。
この復号画像が、以降のイントラ予測用の画像信号になる。
タイル復号部54−nにおいては、上記のイントラ予測や可変長復号を含む如何なる処理においても、カレントタイルと異なるブロックの復号パラメータ及び復号画像の参照を行わない。タイル端における参照処理は、符号化側と同様の参照が不要な処理に置き換えられる。よって、タイル復号部54−nの処理は各タイルで独立しており、並列実行可能である。
また、タイル復号部54−nにおいては、上述のように符号化側でタイル内がスライスに分割されていた場合、ビットストリームに多重化されているスライス分割情報に基づいてカレントタイルをスライスに分割し、スライス毎に独立して定義されたパラメータおよびモード情報に従い復号処理を行う。
また、可変長復号手段としてコンテキスト適応算術復号を用いる場合、スライスヘッダに多重化された可変長符号化処理制御情報を復号し、前記可変長符号化処理制御情報がコンテキスト切り替えを行わないよう制限することを示す場合には、当該スライスにおいてはコンテキスト切り替えを行わないで適応算術復号を行う。同様に前記可変長符号化処理制御情報がコンテキスト切り替えおよび適応処理を行わないよう制限することを示す場合には、当該スライスにおいてはコンテキスト切り替えおよび適応処理を行わずに算術復号を行う。このように構成することで、本発明による符号化手段によって生成されたビットストリームを好適に復号することができる。ここではコンテキスト適応算術復号を例に説明したが、他のいかなる可変長復号手法であっても、その一部の処理を取り除いてもなお可変長復号が可能であれば同様の手段によって同様の効果が得られる。
次に、タイルループフィルタ装置56におけるタイルループフィルタ部56−1〜56−Nの処理内容を詳細に説明する。
タイルループフィルタ部56−nのタイルフィルタパラメータ復号部71は、可変長符号分離部51により分離されたフィルタパラメータ共有フラグがOFFである場合、タイル復号部54−nから出力されたフィルタパラメータの符号化データからタイル単位のフィルタを示すフィルタパラメータを復号し、その復号結果であるフィルタパラメータをループフィルタ実施部72に出力する。
ループフィルタ実施部72は、可変長符号分離部51により分離されたフィルタパラメータ共有フラグがOFFであるために、タイルフィルタパラメータ復号部71からフィルタパラメータを受けると、そのフィルタパラメータが示すタイル単位のフィルタとタイル復号部54−nの可変長復号部61により可変長復号された符号化パラメータを用いて、タイル復号部54−nから出力されたタイル復号画像に対するフィルタリング処理を実施する。
一方、可変長符号分離部51により分離されたフィルタパラメータ共有フラグがONであるために、フィルタパラメータ復号部55からフィルタパラメータを受けると、そのフィルタパラメータが示すフレーム単位のフィルタとタイル復号部54−nの可変長復号部61により可変長復号された符号化パラメータを用いて、タイル復号部54−nから出力されたタイル復号画像に対するフィルタリング処理を実施する。
ループフィルタ実施部72は、図5のループフィルタ実施部42と等しい処理を行うものである。即ち、異なるタイルを跨いだ画素参照を行わないフィルタリング処理を行うため、タイルループフィルタ部45−nの処理は各タイルで独立しており、並列実行可能である。
以上で明らかなように、この実施の形態1によれば、入力画像の分割状態を指示する分割制御情報を出力する符号化制御部1と、符号化制御部1から出力された分割制御情報にしたがって入力画像を所定サイズの矩形領域であるタイルに分割し、分割後のタイルを分配する並列処理開始部3と、動き補償予測フレームメモリ4に記憶されている局所復号画像を参照して、並列処理開始部3により分配されたタイルに対する予測差分符号化処理を実施することで、その符号化結果である符号化ビットデータを出力するとともに、その符号化ビットデータから局所復号画像を生成するN個のタイル符号化部5−1〜5−Nとを設け、N個のタイルループフィルタ部7−1〜7−Nが、タイル符号化部5−1〜5−Nにより生成された局所復号画像のフィルタリング処理に適するタイル単位のフィルタを決定し、そのフィルタを用いて、その局所復号画像に対するフィルタリング処理を実施するように構成したので、ループフィルタの処理をタイルレベルで並列に行うことができる効果を奏する。
実施の形態2.
この実施の形態2では、上記実施の形態1における動画像符号化装置に対して、タイルレベルでの並列処理の実施/不実施の切り替え機能を追加している動画像符号化装置について説明する。
また、当該動画像符号化装置により作成されたビットストリームから動画像を復号することが可能な動画像復号装置について説明する。
図17はこの発明の実施の形態2による動画像符号化装置を示す構成図である。
図17において、符号化制御部81は図1の符号化制御部1と同様に、映像信号が示す入力画像を所定サイズのタイルに分割する際の分割状態を指示するタイル分割制御情報(分割制御情報)を出力する処理を実施する。
また、符号化制御部81は入力画像を分割して並列化するか否かを示す符号化並列フラグ(分割フラグ)を出力するとともに、フィルタリング処理の種類別に、当該フィルタリング処理に用いるフィルタを各タイルで共通させるか否かを示すフィルタパラメータ共有フラグ(フィルタ共有フラグ)#1〜Mを出力する処理を実施する。
さらに、符号化制御部81は前段の処理部と後段の処理部の接続関係を示すループフィルタ並列フラグ#1〜Mを出力する処理を実施する。
なお、符号化制御部81は分割制御手段を構成している。
タイル分割制御部82は符号化制御部81から出力されたタイル分割制御情報が指示している分割状態と一致するように、並列処理開始部83における入力画像の分割を制御する処理を実施する。
並列処理開始部83は符号化制御部81から出力された符号化並列フラグが入力画像を分割して並列化する旨を示している場合、タイル分割制御部2の指示の下、映像信号が示す入力画像を所定サイズのタイルに分割し、分割後のタイルをタイル符号化部85−1〜85−Nに分配する処理を実施する。
一方、符号化並列フラグが入力画像を分割して並列化しない旨を示している場合、映像信号が示す入力画像を分割せずに、フレーム単位の画像である入力画像をフレーム符号化部86に出力する処理を実施する。
なお、タイル分割制御部82及び並列処理開始部83からタイル分配手段が構成されている。
動き補償予測フレームメモリ84はフィルタリング処理後の局所復号画像を記憶する記録媒体である。なお、動き補償予測フレームメモリ84は画像メモリを構成している。
タイル符号化装置85はN個のタイル符号化部85−1〜85−Nを実装しており、N個のタイル符号化部85−1〜85−Nが独立して予測差分符号化処理を実施する。Nは1以上の整数である。
タイル符号化部85−1〜85−Nは図1のタイル符号化部5−1〜5−Nと同様に、動き補償予測フレームメモリ84に記憶されているフィルタリング処理後の局所復号画像を参照して、並列処理開始部83により分配されたタイルに対する予測差分符号化処理を実施することで、その符号化結果であるビット系列データ及び符号化パラメータを出力するとともに、タイル局所復号画像(局所復号画像)を生成する処理を実施する。なお、タイル符号化部85−1〜85−Nはタイル符号化手段を構成している。
フレーム符号化部86は動き補償予測フレームメモリ84に記憶されているフィルタリング処理後の局所復号画像を参照して、入力画像(並列処理開始部83により分割されていないフレーム単位の画像)に対する予測差分符号化処理を実施することで、その符号化結果であるビット系列データ及び符号化パラメータを出力するとともに、フレーム局所復号画像(局所復号画像)を生成する処理を実施する。なお、フレーム符号化部86はフレーム符号化手段を構成している。
ループフィルタ制御部87−1〜87−Mは符号化制御部81から出力されたフィルタパラメータ共有フラグ#1〜Mが各タイルでフィルタを共通させる旨を示している場合、並列処理切替部90−1〜90−Mから出力されたタイル局所復号画像からフレーム単位の局所復号画像を得て、フレーム単位の局所復号画像に適するフレーム単位のフィルタを決定し、そのフィルタを示すフィルタパラメータをタイルループフィルタ装置88−1〜88−Mに出力する処理を実施する。
また、ループフィルタ制御部87−1〜87−Mはフレーム単位のフィルタを示すフィルタパラメータを可変長符号化し、そのフィルタパラメータの符号化データを並列処理終了部91に出力する処理を実施する。
タイルループフィルタ装置88−1〜87−Mは互いに異なる種類のフィルタリング処理を実施するフィルタ装置であって、N個のタイルループフィルタ部88−m−1〜88−m−N(m=1,2,・・・,M)を実装しており、N個のタイルループフィルタ部88−m−1〜88−m−Nが独立してフィルタリング処理を実施する。Mは1以上の整数である。
タイルループフィルタ部88−m−n(n=1,2,・・・,N)は符号化制御部81から出力されたフィルタパラメータ共有フラグ#mが各タイルでフィルタを共通させない旨を示している場合、並列処理切替部90−mから出力されたタイル局所復号画像のフィルタリング処理に適するタイル単位のフィルタを決定し、そのフィルタを用いて、タイル局所復号画像に対するフィルタリング処理を実施するとともに、タイル単位のフィルタを示すフィルタパラメータを可変長符号化し、その符号化結果を並列処理切替部90−1〜90−Mから出力されたビット系列データに多重化する処理を実施する。
一方、フィルタパラメータ共有フラグ#mが各タイルでフィルタを共通させる旨を示している場合、ループフィルタ制御部87−mから出力されたフィルタパラメータが示すフレーム単位のフィルタを用いて、並列処理切替部90−mから出力されたタイル局所復号画像のフィルタリング処理を実施するとともに、並列処理切替部90−mから出力されたビット系列データをそのまま出力する処理を実施する。
なお、タイルループフィルタ部88−1−1〜88−1−N,88−2−1〜88−2−N,・・・,88−M−1〜88−M−Nはタイルフィルタ手段を構成している。
フレームループフィルタ部89−mは並列処理切替部90−mからタイル局所復号画像が出力された場合、そのタイル局所復号画像から得られるフレーム局所復号画像(フレーム単位の局所復号画像)のフィルタリング処理に適するフレーム単位のフィルタを決定し、並列処理切替部90−mからフレーム局所復号画像が出力された場合、そのフレーム局所復号画像に適するフレーム単位のフィルタを決定し、フレーム単位のフィルタを用いて、フレーム局所復号画像に対するフィルタリング処理を実施するとともに、フレーム単位のフィルタを示すフィルタパラメータを可変長符号化し、その符号化結果を並列処理切替部90−1〜90−Mから出力されたビット系列データに多重化する処理を実施する。なお、フレームループフィルタ部89−1〜89−Mはフレームフィルタ手段を構成している。
並列処理切替部90−mは符号化制御部81から出力されたループフィルタ並列フラグ#mにしたがって前段の処理部と後段の処理部との接続関係を制御する処理を実施する。
これにより、符号化制御部81から出力された符号化並列フラグが入力画像を分割して並列化する旨を示している場合でも、符号化制御部81から出力されたフィルタパラメータ共有フラグ#1〜Mのうち、例えば、フィルタパラメータ共有フラグ#xが各タイルでフィルタを共通させる旨を示している場合、前段の処理部から出力された局所復号画像、符号化パラメータ及びビット系列データをタイルループフィルタ部88−x−nではなく、フレームループフィルタ部89−xに出力するようになる。
並列処理終了部91は符号化制御部81から出力された符号化並列フラグが入力画像を分割して並列化する旨を示している場合において、符号化制御部81から出力されたフィルタパラメータ共有フラグ#Mが各タイルでフィルタを共通させない旨を示していれば、符号化制御部81から出力されたタイル分割制御情報にしたがってタイルループフィルタ部88−M−1〜88−M−Nによるフィルタリング処理後のタイル局所復号画像を組み合わせてフレーム単位の局所復号画像を生成し、その局所復号画像を動き補償予測フレームメモリ84に格納するとともに、タイルループフィルタ部88−M−1〜88−M−Nから出力されたビット系列データを可変長符号多重化部92に出力する処理を実施する。
また、符号化並列フラグが入力画像を分割して並列化する旨を示している場合において、符号化制御部81から出力されたフィルタパラメータ共有フラグ#Mが各タイルでフィルタを共通させる旨を示していれば、フレームループフィルタ部88−Mによるフィルタリング処理後のフレーム局所復号画像を動き補償予測フレームメモリ84に格納するとともに、フレームループフィルタ部88−Mから出力されたビット系列データを可変長符号多重化部92に出力する処理を実施する。
一方、符号化並列フラグが入力画像を分割して並列化しない旨を示している場合、フレームループフィルタ部88−Mによるフィルタリング処理後のフレーム局所復号画像を動き補償予測フレームメモリ84に格納するとともに、フレームループフィルタ部88−Mから出力されたビット系列データを可変長符号多重化部92に出力する処理を実施する。
なお、並列処理終了部91は局所復号画像格納手段を構成している。
可変長符号多重化部92は並列処理終了部91から出力されたビット系列データと、符号化制御部81から出力されたタイル分割制御情報、符号化並列フラグ、ループフィルタ並列フラグ#1〜M及びフィルタパラメータ共有フラグ#1〜Mと、タイルループフィルタ部88−m−n又はフレームループフィルタ部89−mにより決定されたフィルタを示すフィルタパラメータの符号化データとを多重化してビットストリームを生成する処理を実施する。
なお、可変長符号多重化部92は多重化手段を構成している。
図17の例では、動画像符号化装置の構成要素である符号化制御部81、タイル分割制御部82、並列処理開始部83、動き補償予測フレームメモリ84、タイル符号化装置85、フレーム符号化部86、ループフィルタ制御部87−1〜87−M、タイルループフィルタ装置88−1〜88−M、フレームループフィルタ部89−1〜89−M、並列処理切替部90−1〜90−M、並列処理終了部91及び可変長符号多重化部92のそれぞれが専用のハードウェア(例えば、CPUを実装している半導体集積回路や、ワンチップマイコンなど)で構成されているものを想定しているが、動画像符号化装置がコンピュータで構成される場合、符号化制御部81、タイル分割制御部82、並列処理開始部83、タイル符号化装置85、フレーム符号化部86、ループフィルタ制御部87−1〜87−M、タイルループフィルタ装置88−1〜88−M、フレームループフィルタ部89−1〜89−M、並列処理切替部90−1〜90−M、並列処理終了部91及び可変長符号多重化部92の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
図18はこの発明の実施の形態2による動画像復号装置を示す構成図である。
図18において、可変長符号分離部101は図17の動画像符号化装置により生成されたビットストリームを入力すると、そのビットストリームに多重化されているビット系列データと、タイル分割制御情報と、符号化並列フラグと、ループフィルタ並列フラグ#1〜Mと、フィルタパラメータ共有フラグ#1〜Mと、フィルタパラメータの符号化データとを分離する処理を実施する。なお、可変長符号分離部101は分離手段を構成している。
並列処理開始部102は可変長符号分離部101により分離された符号化並列フラグが入力画像を分割して並列化する旨を示している場合、可変長符号分離部101から出力されたフレーム単位のビット系列データをタイル単位のビット系列データに分割し、タイル単位のビット系列データをタイル復号部104−1〜104−Nに分配する処理を実施する。
一方、符号化並列フラグが入力画像を分割して並列化しない旨を示している場合、可変長符号分離部101から出力されたフレーム単位のビット系列データをフレーム復号部105に出力する処理を実施する。なお、並列処理開始部102は符号化ビットデータ分配手段を構成している。
動き補償予測フレームメモリ103はフィルタリング処理後の復号画像を記憶する記録媒体である。なお、動き補償予測フレームメモリ103は画像メモリを構成している。
タイル復号装置104はN個のタイル復号部104−1〜104−Nを実装しており、N個のタイル復号部104−1〜104−Nが独立して予測差分復号処理を実施する。Nは1以上の整数である。
タイル復号部104−1〜104−Nは図6のタイル復号部54−1〜54−Nと同様に、動き補償予測フレームメモリ103に記憶されているフィルタリング処理後の復号画像を参照して、並列処理開始部102により分配されたタイル単位のビット系列データに対する予測差分復号処理を実施することで、タイル復号画像(タイル単位の復号画像)を生成するとともに、そのタイル復号画像と予測差分復号処理を実施する際に用いている符号化パラメータ(ビット系列データに多重化されている符号化パラメータ)を並列処切替部110−1に出力する処理を実施する。
また、ビット系列データに多重化されているタイル単位のフィルタを示すフィルタパラメータの符号化データを並列処理切替部110−1に出力する処理を実施する。
なお、タイル復号部104−1〜104−Nはタイル復号手段を構成している。
フレーム復号部105は動き補償予測フレームメモリ103に記憶されているフィルタリング処理後の局所復号画像を参照して、並列処理開始部102から出力されたフレーム単位のビット系列データに対する予測差分復号処理を実施することで、フレーム復号画像(フレーム単位の復号画像)を生成するとともに、そのフレーム復号画像と予測差分復号処理を実施する際に用いている符号化パラメータ(ビット系列データに多重化されている符号化パラメータ)を並列処切替部110−1に出力する処理を実施する。
また、ビット系列データに多重化されているフレーム単位のフィルタを示すフィルタパラメータの符号化データを並列処理切替部110−1に出力する処理を実施する。
なお、フレーム復号部105はフレーム復号手段を構成している。
フィルタパラメータ復号部106−1〜106−Mは可変長符号分離部101により分離されたフィルタパラメータ共有フラグ#1〜Mが各タイルでフィルタを共通させる旨を示している場合、可変長符号分離部101により分離されたフィルタパラメータの符号化データ#1〜Mからフレーム単位のフィルタを示すフィルタパラメータを復号し、そのフィルタパラメータをタイルループフィルタ装置107−1〜107−Mに出力する処理を実施する。
タイルループフィルタ装置107−1〜107−Mは互いに異なる種類のフィルタリング処理を実施するフィルタ装置であって、N個のタイルループフィルタ部107−m−1〜107−m−N(m=1,2,・・・,M)を実装しており、N個のタイルループフィルタ部107−m−1〜107−m−Nが独立してフィルタリング処理を実施する。Mは1以上の整数である。
タイルループフィルタ部107−m−n(n=1,2,・・・,N)は並列処理切替部110−mからタイル復号画像が出力されると、可変長符号分離部101により分離されたフィルタパラメータ共有フラグ#mが各タイルでフィルタを共通させない旨を示している場合、並列処理切替部110−mから出力されたフィルタパラメータの符号化データからタイル単位のフィルタを示すフィルタパラメータを復号し、タイル単位のフィルタを用いて、タイル復号画像に対するフィルタリング処理を実施する。
一方、フィルタパラメータ共有フラグ#mが各タイルでフィルタを共通させる旨を示している場合、並列処理切替部110−mから出力されたフィルタパラメータの符号化データからフレーム単位のフィルタを示すフィルタパラメータを復号し、フレーム単位のフィルタを用いて、タイル復号画像に対するフィルタリング処理を実施する。
なお、タイルループフィルタ部107−1−1〜107−1−N,107−2−1〜107−2−N,・・・,107−M−1〜107−M−Nはタイルフィルタ手段を構成している。
フレームループフィルタ部108−mは並列処理切替部110−mからフレーム復号画像が出力されると、並列処理切替部110−mから出力されたフィルタパラメータの符号化データからフレーム単位のフィルタを示すフィルタパラメータを復号し、フレーム単位のフィルタを用いて、フレーム復号画像に対するフィルタリング処理を実施する。なお、フレームループフィルタ部108−1〜108−Mはフレームフィルタ手段を構成している。
タイル分割制御部109は可変長符号分離部101により分離されたタイル分割制御情報からタイルの分割状態を把握し、元の入力画像に相当する復号画像が得られるように、並列処理終了部111における各タイル復号画像の配置を制御する処理を実施する。
並列処理切替部110−mは可変長符号分離部101により分離されたループフィルタ並列フラグ#mにしたがって前段の処理部と後段の処理部との接続関係を制御する処理を実施する。
これにより、可変長符号分離部101により分離された符号化並列フラグが入力画像を分割して並列化する旨を示している場合でも、可変長符号分離部101により分離されたフィルタパラメータ共有フラグ#1〜Mのうち、例えば、フィルタパラメータ共有フラグ#xが各タイルでフィルタを共通させる旨を示している場合、前段の処理部から出力された復号画像、符号化パラメータ及びフィルタパラメータの符号化データをタイルループフィルタ部107−x−nではなく、フレームループフィルタ部108−xに出力するようになる。
並列処理終了部111はタイル分割制御部109の制御の下で、タイルループフィルタ部107−M−1〜107−M−Nによるフィルタリング処理後のタイル復号画像を組み合わせてフレーム単位の復号画像を生成し、その復号画像を動き補償予測フレームメモリ103に格納する処理を実施する。
なお、タイル分割制御部109及び並列処理終了部111から復号画像格納手段が構成されている。
図18の例では、動画像復号装置の構成要素である可変長符号分離部101、並列処理開始部102、動き補償予測フレームメモリ103、タイル復号装置104、フレーム復号部105、フィルタパラメータ復号部106−1〜106−M、タイルループフィルタ装置107−1〜107−M、フレームループフィルタ部108−1〜108−M、タイル分割制御部109、並列処理切替部110−1〜110−M及び並列処理終了部111のそれぞれが専用のハードウェア(例えば、CPUを実装している半導体集積回路や、ワンチップマイコンなど)で構成されているものを想定しているが、動画像復号装置がコンピュータで構成される場合、可変長符号分離部101、並列処理開始部102、タイル復号装置104、フレーム復号部105、フィルタパラメータ復号部106−1〜106−M、タイルループフィルタ装置107−1〜107−M、フレームループフィルタ部108−1〜108−M、タイル分割制御部109、並列処理切替部110−1〜110−M及び並列処理終了部111の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
実施の形態3.
上記実施の形態1では、タイルループフィルタ装置7が1段構成であるものを示したが、この実施の形態3では、互いに異なる種類のループフィルタを実現するタイルループフィルタ装置88−1〜88−Mが多段に接続されている点で相違している。
例えば、画像に施すループフィルタとして、デブロッキングフィルタ、SAO、ALFが定義されている場合、画像がタイルに分割されていれば、符号化処理及び全てのフィルタリング処理を、タイル間で参照を行わない手法で実施しなければならない。
ただし、ループフィルタの種類によっては、タイル単位でフィルタリング処理を行うよりも、フレーム単位でフィルタリング処理を行う方が、都合がよい場合もある。
例えば、ALFの場合、フレーム1枚分の画像でもH/Wで高速に処理が可能であるため並列処理が不要であるが、デブロッキングフィルタの場合、H/Wでの高速処理が困難であるため並列処理が不可欠であるという状況が考えられる。
このような状況下では、画質の観点から、並列化が不要なループフィルタはタイル間を跨いだ画素参照を行うフィルタリング処理を施すことが望ましい。
また、予測差分符号化処理や復号処理は並列化の必要性があるが、ループフィルタ処理は並列化の必要性がない場合、あるいは、その逆で、予測差分符号化処理や復号処理は並列化の必要性がないが、ループフィルタ処理は並列化の必要性がある場合がある。
このような状況に対処するには、予測差分符号化処理・復号処理と各種のループフィルタ処理は、それぞれ独立に並列化のためのタイル間を跨る参照を行うか否かを切り替えられるような手法が有効となる。
この実施の形態3では、入力画像を分割して、タイル単位の並列化処理を行うか、並列化しないでフレーム単位で処理を行うかを切り替えられるようにしている。
また、ループフィルタ毎に、タイル単位のフィルタリング処理を行うか、フレーム単位のフィルタリング処理を行うかを切り替えられるようにしている。
最初に、動画像符号化装置の処理内容を説明する。
符号化制御部81は、図1の符号化制御部1と同様に、映像信号が示す入力画像を所定サイズのタイルに分割する際の分割状態を指示するタイル分割制御情報をタイル分割制御部82、並列処理終了部91及び可変長符号多重化部92に出力する。
また、符号化制御部81は、入力画像を分割して並列化するか否かを示す符号化並列フラグを並列処理開始部83に出力するとともに、フィルタリング処理の種類別に、当該フィルタリング処理に用いるフィルタを各タイルで共通させるか否かを示すフィルタパラメータ共有フラグ#1〜M(各タイルで共通させる場合:ONのフラグ、各タイルで共通させない場合:OFFのフラグ)をループフィルタ制御部87−1〜87−M、タイルループフィルタ装置88−1〜88−M及び可変長符号多重化部91に出力する。
さらに、符号化制御部81は、前段の処理部と後段の処理部の接続関係を示すループフィルタ並列フラグ#1〜Mを並列処理切替部90−1〜90−Mに出力する。
タイル分割制御部82は、符号化制御部81からタイル分割制御情報を受けると、そのタイル分割制御情報が指示している分割状態と一致するように、並列処理開始部83における入力画像の分割を制御する。
並列処理開始部83は、符号化制御部81から出力された符号化並列フラグが入力画像を分割して並列化する旨を示している場合、タイル分割制御部82の指示の下、映像信号が示す入力画像を所定サイズのタイルに分割し、分割後のタイルをタイル符号化部85−1〜85−Nに分配する。
一方、符号化並列フラグが入力画像を分割して並列化しない旨を示している場合、映像信号が示す入力画像を分割せずに、フレーム単位の画像である入力画像をフレーム符号化部86に出力する。
タイル符号化部85−1〜85−Nは、並列処理開始部83からタイルを受けると、図1のタイル符号化部5−1〜5−Nと同様の手順でタイル局所復号画像を生成する。
即ち、タイル符号化部85−1〜85−Nは、動き補償予測フレームメモリ84に記憶されているフィルタリング処理後の局所復号画像を参照して、並列処理開始部83により分配されたタイルに対する予測差分符号化処理を実施することで、その符号化結果であるビット系列データ及び符号化パラメータを出力するとともに、タイル局所復号画像を生成する。
フレーム符号化部86は、並列処理開始部83からフレーム単位の画像である入力画像を受けると、動き補償予測フレームメモリ84に記憶されているフィルタリング処理後の局所復号画像を参照して、その入力画像に対する予測差分符号化処理を実施することで、その符号化結果であるビット系列データ及び符号化パラメータを出力するとともに、フレーム局所復号画像を生成する。
符号化処理の処理単位がフレーム単位である点で、タイル符号化部85−1〜85−Nと相違しているが、符号化処理自体はタイル符号化部85−1〜85−Nと同様であるため詳細な説明を省略する。
並列処理切替部90−mは、符号化制御部81から出力されたループフィルタ並列フラグ#mにしたがって前段の処理部と後段の処理部との接続関係を制御するが、例えば、符号化並列フラグが入力画像を分割して並列化しない旨を示している場合、並列処理開始部83が入力画像を分割せずに、フレーム符号化部86がフレーム単位の符号化処理を行うので、フレーム符号化部86(または、前段のフレームループフィルタ部)の出力信号(フレーム局所復号画像、ビット系列データ、符号化パラメータ)を後段のフレームループフィルタ部に伝送する。
一方、符号化並列フラグが入力画像を分割して並列化する旨を示している場合において、フィルタパラメータ共有フラグ#mがOFFであれば、タイル単位のフィルタリング処理を行うため、タイル符号化部85−1〜85−N(または、前段のタイルループフィルタ部)の出力信号(タイル局所復号画像、ビット系列データ、符号化パラメータ)を後段のタイルループフィルタ部に伝送する。
ただし、m−1段目のループフィルタで、フレーム単位のフィルタリング処理が行われている場合、前段のフレームループフィルタ部から出力されたフレーム局所復号画像をタイル局所復号画像に分割し、そのタイル局所復号画像、ビット系列データ及び符号化パラメータを後段のタイルループフィルタ部に伝送する。
符号化並列フラグが入力画像を分割して並列化する旨を示している場合でも、フィルタパラメータ共有フラグ#mがONであれば、m段目のループフィルタでは、フレーム単位のフィルタリング処理を行うため、タイル符号化部85−1〜85−N(または、前段のタイルループフィルタ部)の出力信号(タイル局所復号画像、ビット系列データ、符号化パラメータ)、あるいは、前段のフレームループフィルタ部の出力信号(フレーム局所復号画像、ビット系列データ、符号化パラメータ)を後段のフレームループフィルタ部に伝送する。
ループフィルタ制御部87−mは、符号化制御部81から出力されたフィルタパラメータ共有フラグ#mがONである場合、並列処理切替部90−mから出力されたタイル局所復号画像からフレーム局所復号画像を得て、そのフレーム局所復号画像に適するフレーム単位のフィルタを決定する。並列処理切替部90−mからフレーム局所復号画像が出力された場合、そのフレーム局所復号画像に適するフレーム単位のフィルタを決定する。
ループフィルタ制御部87−mは、フレーム単位のフィルタを決定すると、そのフィルタを示すフィルタパラメータをタイルループフィルタ装置88−mに出力する。
また、ループフィルタ制御部87−mは、フレーム単位のフィルタを示すフィルタパラメータを可変長符号化し、そのフィルタパラメータの符号化データを並列処理終了部91に出力する。
タイルループフィルタ部88−m−nは、並列処理切替部90−mからタイル局所復号画像を受けると、図1のタイルループフィルタ部7−nと同様に、符号化制御部81から出力されたフィルタパラメータ共有フラグ#mがOFFであれば、並列処理切替部90−mから出力された符号化パラメータに基づいて、そのタイル局所復号画像のフィルタリング処理に適するタイル単位のフィルタを決定し、そのフィルタを用いて、タイル局所復号画像に対するフィルタリング処理を実施し、フィルタリング処理後のタイル局所復号画像を後段の並列処理切替部又は並列処理終了部91に出力する。
また、タイルループフィルタ部88−m−nは、タイル単位のフィルタを示すフィルタパラメータを可変長符号化し、そのフィルタパラメータの符号化データを並列処理切替部90−mから出力されたビット系列データに多重化して後段の並列処理切替部又は並列処理終了部91に出力する。
なお、符号化制御部81から出力されたフィルタパラメータ共有フラグ#mがONであれば、ループフィルタ制御部87−mから出力されたフィルタパラメータが示すフレーム単位のフィルタを用いて、並列処理切替部90−mから出力されたタイル局所復号画像のフィルタリング処理を実施するが、この実施の形態2では、符号化並列フラグが入力画像を分割して並列化する旨を示している場合でも、フィルタパラメータ共有フラグ#mがONである場合、並列処理切替部90−mがフレーム局所復号画像をフレームループフィルタ部89−mに与えて、タイル局所復号画像をタイルループフィルタ部88−m−nに与えないので、この状況下では、フレーム単位のフィルタを用いて、タイル局所復号画像のフィルタリング処理を実施することはない。
タイルループフィルタ部88−m−nが、フレーム単位のフィルタを用いて、タイル局所復号画像のフィルタリング処理を実施する状況としては、例えば、符号化制御部81が符号化並列フラグを出力する機能を使用せずに、フレームループフィルタ部89−mの機能を停止している状況などが考えられる(実施の形態1と類似の構成)。
フレームループフィルタ部89−mは、並列処理切替部90−mからタイル局所復号画像を受けると、そのタイル局所復号画像からフレーム局所復号画像を得て、並列処理切替部90−mから出力された符号化パラメータに基づいて、そのフレーム局所復号画像のフィルタリング処理に適するフレーム単位のフィルタを決定する。並列処理切替部90−mからフレーム局所復号画像が出力された場合、その符号化パラメータに基づいて、そのフレーム局所復号画像に適するフレーム単位のフィルタを決定する。
フレームループフィルタ部89−mは、フレーム単位のフィルタを決定すると、フレーム単位のフィルタを用いて、そのフレーム局所復号画像に対するフィルタリング処理を実施し、フィルタリング処理後のフレーム局所復号画像を後段の並列処理切替部又は並列処理終了部91に出力する。
また、フレームループフィルタ部89−mは、フレーム単位のフィルタを示すフィルタパラメータを可変長符号化し、そのフィルタパラメータの符号化データを並列処理切替部90−mから出力されたビット系列データに多重化して後段の並列処理切替部又は並列処理終了部91に出力する。
並列処理終了部91は、符号化制御部81から出力された符号化並列フラグが入力画像を分割して並列化する旨を示している場合において、符号化制御部81から出力されたフィルタパラメータ共有フラグ#MがOFFであれば、符号化制御部81から出力されたタイル分割制御情報にしたがってタイルループフィルタ部88−M−1〜88−M−Nによるフィルタリング処理後のタイル局所復号画像を組み合わせてフレーム単位の局所復号画像を生成し、その局所復号画像を動き補償予測フレームメモリ84に格納するとともに、タイルループフィルタ部88−M−1〜88−M−Nから出力されたビット系列データを可変長符号多重化部92に出力する。
また、符号化並列フラグが入力画像を分割して並列化する旨を示している場合において、符号化制御部81から出力されたフィルタパラメータ共有フラグ#MがONであれば、フレームループフィルタ部88−Mによるフィルタリング処理後のフレーム局所復号画像を動き補償予測フレームメモリ84に格納するとともに、フレームループフィルタ部88−Mから出力されたビット系列データを可変長符号多重化部92に出力する。
一方、符号化並列フラグが入力画像を分割して並列化しない旨を示している場合、フレームループフィルタ部88−Mによるフィルタリング処理後のフレーム局所復号画像を動き補償予測フレームメモリ84に格納するとともに、フレームループフィルタ部88−Mから出力されたビット系列データを可変長符号多重化部92に出力する。
可変長符号多重化部92は、並列処理終了部91から出力されたビット系列データと、符号化制御部81から出力されたタイル分割制御情報、符号化並列フラグ、ループフィルタ並列フラグ#1〜M及びフィルタパラメータ共有フラグ#1〜Mとを多重化してビットストリームを生成する。
次に、動画像復号装置の処理内容を説明する。
可変長符号分離部101は、図17の動画像符号化装置により生成されたビットストリームを入力すると、そのビットストリームに多重化されているビット系列データと、タイル分割制御情報と、符号化並列フラグと、ループフィルタ並列フラグ#1〜Mと、フィルタパラメータ共有フラグ#1〜Mと、フィルタパラメータの符号化データとを分離して出力する。
並列処理開始部102は、可変長符号分離部101により分離された符号化並列フラグが入力画像を分割して並列化する旨を示している場合、可変長符号分離部101から出力されたフレーム単位のビット系列データをタイル単位のビット系列データに分割し、タイル単位のビット系列データをタイル復号部104−1〜104−Nに分配する。
一方、符号化並列フラグが入力画像を分割して並列化しない旨を示している場合、可変長符号分離部101から出力されたフレーム単位のビット系列データをフレーム復号部105に出力する。
タイル復号部104−1〜104−Nは、並列処理開始部102からタイル単位のビット系列データを受けると、図6のタイル復号部54−1〜54−Nと同様の手順でタイル復号画像を生成する。
即ち、タイル復号部104−1〜104−Nは、動き補償予測フレームメモリ103に記憶されているフィルタリング処理後の復号画像を参照して、並列処理開始部102により分配されたタイル単位のビット系列データに対する予測差分復号処理を実施することで、タイル復号画像を生成するとともに、そのタイル復号画像及び予測差分復号処理を実施する際に用いている符号化パラメータ(ビット系列データに多重化されている符号化パラメータ)を並列処理終了部111に出力する。
また、ビット系列データに多重化されているタイル単位のフィルタを示すフィルタパラメータの符号化データを並列処理切替部110−1に出力する処理を実施する。
フレーム復号部105は、並列処理開始部102からフレーム単位のビット系列データを受けると、動き補償予測フレームメモリ103に記憶されているフィルタリング処理後の局所復号画像を参照して、そのフレーム単位のビット系列データに対する予測差分復号処理を実施することでフレーム復号画像を生成し、そのフレーム復号画像及び予測差分復号処理を実施する際に用いている符号化パラメータ(ビット系列データに多重化されている符号化パラメータ)を並列処理終了部111に出力する。
また、ビット系列データに多重化されているフレーム単位のフィルタを示すフィルタパラメータの符号化データを並列処理切替部110−1に出力する処理を実施する。
並列処理切替部100−mは、可変長符号分離部101により分離されたループフィルタ並列フラグ#mにしたがって前段の処理部と後段の処理部との接続関係を制御するが、例えば、符号化並列フラグが入力画像を分割して並列化しない旨を示している場合、並列処理開始部102がフレーム単位のビット系列データをタイル単位のビット系列データに分割せずに、フレーム復号部105がフレーム単位の復号処理を行うので、フレーム復号部105(または、前段のフレームループフィルタ部)の出力信号(フレーム復号画像、符号化パラメータ、フレーム単位のフィルタを示すフィルタパラメータの符号化データ)を後段のフレームループフィルタ部に伝送する。
一方、符号化並列フラグが入力画像を分割して並列化する旨を示している場合において、フィルタパラメータ共有フラグ#mがOFFであれば、タイル単位のフィルタリング処理を行うため、タイル復号部104−1〜104−N(または、前段のタイルループフィルタ部)の出力信号(タイル局所復号画像、符号化パラメータ、タイル単位のフィルタを示すフィルタパラメータの符号化データ)を後段のタイルループフィルタ部に伝送する。
ただし、m−1段目のループフィルタで、フレーム単位のフィルタリング処理が行われている場合、前段のフレームループフィルタ部から出力されたフレーム復号画像をタイル復号画像に分割し、そのタイル復号画像、符号化パラメータ及びタイル単位のフィルタを示すフィルタパラメータの符号化データを後段のタイルループフィルタ部に伝送する。
符号化並列フラグが入力画像を分割して並列化する旨を示している場合でも、フィルタパラメータ共有フラグ#mがONであれば、m段目のループフィルタでは、フレーム単位のフィルタリング処理を行うため、タイル復号部104−1〜104−N(または、前段のタイルループフィルタ部)の出力信号(タイル局所復号画像、符号化パラメータ、タイル単位のフィルタを示すフィルタパラメータの符号化データ)、あるいは、前段のフレームループフィルタ部の出力信号(フレーム復号画像、符号化パラメータ、フレーム単位のフィルタを示すフィルタパラメータの符号化データ)を後段のフレームループフィルタ部に伝送する。
フィルタパラメータ復号部106−mは、可変長符号分離部101により分離されたフィルタパラメータ共有フラグ#nがONである場合、可変長符号分離部101により分離されたフィルタパラメータの符号化データ#mからフレーム単位のフィルタを示すフィルタパラメータを復号し、そのフィルタパラメータをタイルループフィルタ装置107−mに出力する。
タイルループフィルタ部107−m−nは、並列処理切替部110−mからタイル復号画像を受けると、可変長符号分離部101により分離されたフィルタパラメータ共有フラグ#mがOFFであれば、並列処理切替部110−mから出力されたフィルタパラメータの符号化データからタイル単位のフィルタを示すフィルタパラメータを復号し、タイル単位のフィルタを用いて、そのタイル復号画像に対するフィルタリング処理を実施する。
なお、フィルタパラメータ共有フラグ#mがONであれば、フィルタパラメータ復号部106−mから出力されたフィルタパラメータが示すフレーム単位のフィルタを用いて、タイル復号画像に対するフィルタリング処理を実施するが、この実施の形態2では、符号化並列フラグが入力画像を分割して並列化する旨を示している場合でも、フィルタパラメータ共有フラグ#mがONである場合、並列処理切替部110−mがフレーム復号画像をフレームループフィルタ部108−mに与えて、タイル復号画像をタイルループフィルタ部107−m−nに与えないので、この状況下では、フレーム単位のフィルタを用いて、タイル復号画像のフィルタリング処理を実施することはない。
タイルループフィルタ部107−m−nが、フレーム単位のフィルタを用いて、タイル復号画像のフィルタリング処理を実施する状況としては、例えば、符号化側が符号化並列フラグを出力する機能を使用せずに、フレームループフィルタ部108−mの機能を停止している状況などが考えられる(実施の形態1と類似の構成)。
フレームループフィルタ部108−mは、並列処理切替部110−mからフレーム復号画像を受けると、並列処理切替部110−mから出力されたフィルタパラメータの符号化データからフレーム単位のフィルタを示すフィルタパラメータを復号し、フレーム単位のフィルタを用いて、そのフレーム復号画像に対するフィルタリング処理を実施する。
タイル分割制御部109は、可変長符号分離部101により分離されたタイル分割制御情報からタイルの分割状態を把握し、元の入力画像に相当する復号画像が得られるように、並列処理終了部111における各タイル復号画像の配置を制御する処理を実施する。
並列処理終了部111は、可変長符号分離部101により分離された符号化並列フラグが入力画像を分割して並列化する旨を示している場合において、可変長符号分離部101により分離されたフィルタパラメータ共有フラグ#MがOFFであれば、タイル分割制御部109の制御の下で、タイルループフィルタ部107−M−1〜107−M−Nによるフィルタリング処理後のタイル復号画像を組み合わせてフレーム単位の復号画像を生成し、その復号画像を動き補償予測フレームメモリ103に格納する。
また、符号化並列フラグが入力画像を分割して並列化する旨を示している場合において、そのフィルタパラメータ共有フラグ#MがONであれば、フレームループフィルタ部108−Mによるフィルタリング処理後のフレーム復号画像を動き補償予測フレームメモリ103に格納する。
一方、符号化並列フラグが入力画像を分割して並列化しない旨を示している場合、フレームループフィルタ部108−Mによるフィルタリング処理後のフレーム復号画像を動き補償予測フレームメモリ103に格納する。
以上で明らかなように、この実施の形態3によれば、入力画像を分割してタイル単位の並列化処理を行うか、並列化しないでフレーム単位で処理を行うかを切り替えられるとともに、ループフィルタ毎に、タイル単位のフィルタリング処理を行うか、フレーム単位のフィルタリング処理を行うかを切り替えられるように構成したので、異なる種類のループフィルタを多段に接続して、全体のフィルタ性能を高める場合でも、処理の高速化を図ることができる効果を奏する。
なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
この発明に係る動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法は、タイル単位の局所復号画像を生成して、その局所復号画像に適するタイル単位のフィルタを決定し、そのタイルを用いて局所復号画像のフィルタリング処理を実施し、ループフィルタの処理をタイルレベルで並列に行うことができるようにしたため、画像を圧縮符号化して伝送する動画像符号化装置及び動画像符号化方法と、動画像符号化装置により伝送された符号化データから画像を復号する動画像復号装置及び動画像復号方法に適用することができる。
1 符号化制御部(分割制御手段)、2 タイル分割制御部(タイル分配手段)、3 並列処理開始部(タイル分配手段)、4 動き補償予測フレームメモリ(画像メモリ)、5 タイル符号化装置、5−1〜5−N タイル符号化部(タイル符号化手段)、6 ループフィルタ制御部(フレーム単位フィルタ決定手段)、7 タイルループフィルタ装置、7−1〜7−N タイルループフィルタ部(タイルフィルタ手段)、8 並列処理終了部(局所復号画像格納手段)、9 可変長符号多重化部(多重化手段)、21 タイル符号化制御部、22 ブロック分割部、23 切換スイッチ、24 イントラ予測部、25 動き補償予測部、26 減算部、27 変換・量子化部、28 逆量子化・逆変換部、29 加算部、30 タイル局所復号画像メモリ、31 可変長符号化部、41 タイルループフィルタ制御部、42 ループフィルタ実施部、43 可変長符号化部、51 可変長符号分離部(分離手段)、52 並列処理開始部(符号化ビットデータ分配手段)、53 動き補償予測フレームメモリ(画像メモリ)、54 タイル復号装置、54−1〜54−N タイル復号部(タイル復号手段)、55 フィルタパラメータ復号部、56 タイルループフィルタ装置、56−1〜56−N タイルループフィルタ部(タイルフィルタ手段)、57 タイル分割制御部(復号画像格納手段)、58 並列処理終了部(復号画像格納手段)、61 可変長復号部、62 切換スイッチ、63 イントラ予測部、64 動き補償部、65 逆量子化・逆変換部、66 加算部、67 タイル復号画像メモリ、71 タイルフィルタパラメータ復号部、72 ループフィルタ実施部、81 符号化制御部(分割制御手段)、82 タイル分割制御部(タイル分配手段)、83 並列処理開始部(タイル分配手段)、84 動き補償予測フレームメモリ(画像メモリ)、85 タイル符号化装置、85−1〜85−N タイル符号化部(タイル符号化手段)、86 フレーム符号化部(フレーム符号化手段)、87−1〜87−M ループフィルタ制御部、88−1〜87−M タイルループフィルタ装置、88−1−1〜88−1−N,88−2−1〜88−2−N,・・・,88−M−1〜88−M−N タイルループフィルタ部(タイルフィルタ手段)、89−1〜89−M フレームループフィルタ部(フレームフィルタ手段)、90−1〜90−M 並列処理切替部、91 並列処理終了部(局所復号画像格納手段)、92 可変長符号多重化部(多重化手段)、101 可変長符号分離部(分離手段)、102 並列処理開始部(符号化ビットデータ分配手段)、103 動き補償予測フレームメモリ(画像メモリ)、104 タイル復号装置、104−1〜104−N タイル復号部(タイル復号手段)、105 フレーム復号部(フレーム復号手段)、106−1〜106−M フィルタパラメータ復号部、107−1〜107−M タイルループフィルタ装置、107−1−1〜107−1−N,107−2−1〜107−2−N,・・・,107−M−1〜107−M−N タイルループフィルタ部(タイルフィルタ手段)、108−1〜108−M フレームループフィルタ部(フレームフィルタ手段)、109 タイル分割制御部(復号画像格納手段)、110−1〜110−M 並列処理切替部、111 並列処理終了部(復号画像格納手段)。

Claims (2)

  1. 入力画像を分割したタイルに対する予測処理を実施するタイル符号化手段と、
    上記タイル符号化手段により生成された上記タイルに対するフィルタを決定し、上記フィルタを用いて、上記タイルに対するフィルタリング処理を実施する1以上のタイルフィルタ手段と、
    上記タイルフィルタ手段により決定されたタイルに対するフィルタを示すフィルタパラメータを多重化してビットストリームを生成する多重化手段と、
    を備え、
    上記多重化手段は、上記タイル境界の画素に対して異なるタイルの画素を参照しないフィルタリング処理内容を示す信号と、
    上記タイルを分割して得られるスライス境界の画素に対して異なるスライスの画素を参照するか否かのフィルタリング処理内容を示す信号と、を含む上記フィルタパラメータを多重化する
    ことを特徴とする動画像符号化装置。
  2. 画像を分割したタイルに対し、予測処理及びフィルタリング処理を行い符号化されたビットストリームであって、
    タイル境界の画素に対して異なるタイルの画素を参照しないフィルタリング処理内容を示す信号と、
    上記タイルを分割して得られるスライス境界の画素に対して異なるスライスの画素を参照するか否かのフィルタリング処理内容を示す信号と、
    を含むビットストリーム。
JP2015199350A 2011-10-31 2015-10-07 動画像符号化装置及びビットストリーム Pending JP2016029821A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015199350A JP2016029821A (ja) 2011-10-31 2015-10-07 動画像符号化装置及びビットストリーム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011239105 2011-10-31
JP2011239105 2011-10-31
JP2015199350A JP2016029821A (ja) 2011-10-31 2015-10-07 動画像符号化装置及びビットストリーム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013541779A Division JPWO2013065673A1 (ja) 2011-10-31 2012-10-30 動画像復号装置

Publications (1)

Publication Number Publication Date
JP2016029821A true JP2016029821A (ja) 2016-03-03

Family

ID=48192020

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2013541779A Pending JPWO2013065673A1 (ja) 2011-10-31 2012-10-30 動画像復号装置
JP2015199350A Pending JP2016029821A (ja) 2011-10-31 2015-10-07 動画像符号化装置及びビットストリーム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2013541779A Pending JPWO2013065673A1 (ja) 2011-10-31 2012-10-30 動画像復号装置

Country Status (8)

Country Link
US (4) US9986235B2 (ja)
EP (1) EP2775715A4 (ja)
JP (2) JPWO2013065673A1 (ja)
KR (4) KR102272561B1 (ja)
CN (1) CN103907348A (ja)
BR (1) BR112014009569B1 (ja)
IN (1) IN2014CN02948A (ja)
WO (1) WO2013065673A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11095879B2 (en) 2014-06-20 2021-08-17 Sony Corporation Image encoding device and method, and image decoding device and method

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102033025B1 (ko) * 2009-07-07 2019-10-16 톰슨 라이센싱 영역 기반 필터에 대해서 협력적 분할 부호화하는 방법 및 장치
EP2744202B1 (en) * 2011-08-11 2020-05-27 Sun Patent Trust Image encoding method, image decoding method, image encoding apparatus, image decoding apparatus, and image encoding/decoding apparatus
CN107257490B (zh) 2012-01-27 2019-12-17 太阳专利托管公司 图像编码方法及图像编码装置
JP6080405B2 (ja) * 2012-06-29 2017-02-15 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
US9241163B2 (en) * 2013-03-15 2016-01-19 Intersil Americas LLC VC-2 decoding using parallel decoding paths
US20150003520A1 (en) * 2013-06-26 2015-01-01 Texas Instruments Incorporated Hevc video encoder and decoder for multi-core
EP3008896B1 (en) 2013-07-15 2021-03-31 Sony Corporation Extensions of motion-constrained tile sets sei message for interactivity
JP6268066B2 (ja) 2013-09-20 2018-01-24 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 送信方法、受信方法、送信装置及び受信装置
WO2015040824A1 (ja) * 2013-09-20 2015-03-26 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 送信方法、受信方法、送信装置及び受信装置
FR3022063B1 (fr) * 2014-06-05 2018-04-27 Harmonic Inc. Systeme de codage de sequence video utilisant des zones de codage elargies
CN115174938A (zh) * 2016-05-10 2022-10-11 三星电子株式会社 用于对图像进行编码/解码的方法及其装置
JP2018056686A (ja) * 2016-09-27 2018-04-05 株式会社ドワンゴ 画像符号化装置、画像符号化方法、及び画像符号化プログラム、並びに、画像復号装置、画像復号方法、及び画像復号プログラム
JP2018107500A (ja) * 2016-12-22 2018-07-05 キヤノン株式会社 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム
KR101895294B1 (ko) 2017-03-03 2018-09-05 주식회사 칩스앤미디어 프리 스캔을 이용한 블록 기반 동영상 복호화 방법 및 그 장치
EP3606077A4 (en) 2017-03-22 2021-01-06 Industry - University Cooperation Foundation Hanyang University LOOP FILTERING PROCESS ACCORDING TO AN ADAPTIVE PIXEL CLASSIFICATION STANDARD
WO2019009590A1 (ko) * 2017-07-03 2019-01-10 김기백 추가 영역을 포함하는 분할 단위를 이용한 영상 복호화 방법 및 장치
CN116248866A (zh) * 2017-07-03 2023-06-09 汉阳大学校产学协力团 利用包含追加区域的分割单位的影像解码方法以及装置
US11044490B2 (en) * 2017-09-28 2021-06-22 Sharp Kabushiki Kaisha Motion compensation filter apparatus, image decoding apparatus, and video coding apparatus
CN107846263B (zh) * 2017-11-01 2020-07-14 南京莱斯电子设备有限公司 一种基于分段计算的信源二进制算术编码方法和编码系统
CN109076224B (zh) * 2017-12-29 2021-05-07 深圳市大疆创新科技有限公司 视频解码器及其制造方法,数据处理电路、系统和方法
US10491897B2 (en) * 2018-04-13 2019-11-26 Google Llc Spatially adaptive quantization-aware deblocking filter
WO2019243534A1 (en) 2018-06-21 2019-12-26 Telefonaktiebolaget Lm Ericsson (Publ) Tile shuffling for 360 degree video decoding
EP3811613A2 (en) * 2018-06-21 2021-04-28 Telefonaktiebolaget LM Ericsson (publ) Flexible tile partitions
CN110827206B (zh) * 2018-08-14 2024-05-28 钰创科技股份有限公司 过滤信号的数位滤波器
CN111742555B (zh) * 2018-09-05 2022-08-30 Lg电子株式会社 对视频信号进行编码/解码的方法及其设备
WO2021053262A1 (en) * 2019-09-20 2021-03-25 Nokia Technologies Oy An apparatus, a method and a computer program for volumetric video
US11064194B2 (en) 2019-10-31 2021-07-13 Western Digital Technologies, Inc. Encoding digital videos using controllers of data storage devices
US20230032673A1 (en) * 2019-11-22 2023-02-02 Lg Electronics Inc. Image coding method based on entry point-related information in video or image coding system
KR102192631B1 (ko) * 2019-11-28 2020-12-17 주식회사우경정보기술 병렬 포렌식 마킹 장치 및 방법
CN114930814A (zh) * 2019-12-24 2022-08-19 韩国电子通信研究院 图像编码/解码方法以及装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7330596B2 (en) * 2002-07-17 2008-02-12 Ricoh Company, Ltd. Image decoding technique for suppressing tile boundary distortion
WO2007066710A1 (ja) * 2005-12-07 2007-06-14 Sony Corporation 符号化装置、符号化方法および符号化プログラム、ならびに、復号装置、復号方法および復号プログラム
JP2007251553A (ja) * 2006-03-15 2007-09-27 Matsushita Electric Ind Co Ltd リアルタイム処理装置及びその方法
EP2104358A4 (en) * 2006-11-30 2016-04-27 Ntt Docomo Inc DEVICE, METHOD AND PROGRAM FOR DYNAMIC IMAGE DEFINITION, DEVICE, METHOD AND PROGRAM FOR DYNAMIC IMAGE DECODING
US8019167B2 (en) * 2007-01-03 2011-09-13 Human Monitoring Ltd. Compressing high resolution images in a low resolution video
JPWO2008120577A1 (ja) * 2007-03-29 2010-07-15 株式会社東芝 画像符号化及び復号化の方法及び装置
EP2252063A4 (en) * 2008-03-07 2012-09-12 Toshiba Kk DEVICE FOR DYNAMIC IMAGE CODING / DECODING
JP4539755B2 (ja) * 2008-04-11 2010-09-08 ソニー株式会社 情報処理システム及び情報処理方法、並びにプログラム
US20100225655A1 (en) * 2009-03-06 2010-09-09 Microsoft Corporation Concurrent Encoding/Decoding of Tiled Data
JP5344238B2 (ja) 2009-07-31 2013-11-20 ソニー株式会社 画像符号化装置および方法、記録媒体、並びにプログラム
US8767824B2 (en) * 2011-07-11 2014-07-01 Sharp Kabushiki Kaisha Video decoder parallelization for tiles
US8913656B2 (en) * 2011-10-14 2014-12-16 Mediatek Inc. Method and apparatus for in-loop filtering
US9584819B2 (en) * 2011-10-24 2017-02-28 Qualcomm Incorporated Grouping of tiles for video coding
US20130107973A1 (en) * 2011-10-28 2013-05-02 Qualcomm Incorporated Loop filtering control over tile boundaries

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
BENJAMIN BROSS, WOO-JIN HAN, JENS-RAINER OHM, GARY J. SULLIVAN, THOMAS WIEGAND, WD4: WORKING DRAFT 4 OF HIGH-EFFICIENCY VIDEO CODING, JPN6015009827, 28 October 2011 (2011-10-28), pages 24 - 25, ISSN: 0003400104 *
KIMIHIKO KAZUI ET AL., SUPPORT OF VERY LOW DELAY CODING IN TILE, JPN6016018832, 14 July 2011 (2011-07-14), ISSN: 0003400103 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11095879B2 (en) 2014-06-20 2021-08-17 Sony Corporation Image encoding device and method, and image decoding device and method
US11627309B2 (en) 2014-06-20 2023-04-11 Sony Group Corporation Image encoding device and method, and image decoding device and method

Also Published As

Publication number Publication date
IN2014CN02948A (ja) 2015-07-03
KR20140092862A (ko) 2014-07-24
US11051014B2 (en) 2021-06-29
KR102145782B1 (ko) 2020-08-19
US10523935B2 (en) 2019-12-31
US20140247875A1 (en) 2014-09-04
JPWO2013065673A1 (ja) 2015-04-02
BR112014009569B1 (pt) 2022-07-05
US9986235B2 (en) 2018-05-29
US10708586B2 (en) 2020-07-07
US20180152702A1 (en) 2018-05-31
KR20180097775A (ko) 2018-08-31
KR102272561B1 (ko) 2021-07-02
KR20200097817A (ko) 2020-08-19
CN103907348A (zh) 2014-07-02
US20200296361A1 (en) 2020-09-17
US20200092549A1 (en) 2020-03-19
WO2013065673A1 (ja) 2013-05-10
EP2775715A4 (en) 2015-09-23
KR101893664B1 (ko) 2018-08-30
EP2775715A1 (en) 2014-09-10
KR20160038062A (ko) 2016-04-06
BR112014009569A2 (pt) 2017-04-18

Similar Documents

Publication Publication Date Title
JP2016029821A (ja) 動画像符号化装置及びビットストリーム
JP6863669B2 (ja) 画像符号化装置、画像符号化方法、画像復号装置および画像復号方法
KR101728285B1 (ko) 화상 부호화 장치, 화상 부호화 방법, 화상 복호 장치, 화상 복호 방법 및 기억 매체
JP7012809B2 (ja) 画像符号化装置、動画像復号装置、動画像符号化データ及び記録媒体
JP5711370B2 (ja) 画像符号化装置、画像復号装置、画像符号化方法および画像復号方法
KR101689997B1 (ko) 영상 복호 장치, 및 영상 복호 방법
KR20140092861A (ko) 동화상 부호화 장치, 동화상 복호 장치, 동화상 부호화 방법 및 동화상 복호 방법
KR20110040893A (ko) 화상 부호화 장치, 화상 복호 장치, 화상 부호화 방법 및 화상 복호 방법
JPWO2015034061A1 (ja) 動画像符号化装置、動画像トランスコード装置、動画像符号化方法、動画像トランスコード方法及び動画像ストリーム伝送システム
JP2014127832A (ja) 画像符号化装置、画像符号化方法、及びコンピュータプログラム
JP2015008341A (ja) 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法
JP2014197795A (ja) 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法
JP2015080002A (ja) 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160913

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170307