JP2014161092A - 画像符号化装置および画像符号化方法 - Google Patents

画像符号化装置および画像符号化方法 Download PDF

Info

Publication number
JP2014161092A
JP2014161092A JP2014088561A JP2014088561A JP2014161092A JP 2014161092 A JP2014161092 A JP 2014161092A JP 2014088561 A JP2014088561 A JP 2014088561A JP 2014088561 A JP2014088561 A JP 2014088561A JP 2014161092 A JP2014161092 A JP 2014161092A
Authority
JP
Japan
Prior art keywords
encoding
macroblock
decoding
peripheral information
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014088561A
Other languages
English (en)
Other versions
JP5776008B2 (ja
Inventor
Hiroshi Amano
博史 天野
Masayasu Iguchi
雅保 井口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2014088561A priority Critical patent/JP5776008B2/ja
Publication of JP2014161092A publication Critical patent/JP2014161092A/ja
Application granted granted Critical
Publication of JP5776008B2 publication Critical patent/JP5776008B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/55Motion estimation with spatial constraints, e.g. at image or region borders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression

Abstract

【課題】周辺のマクロブロックの依存関係を解決しながら、並列処理のオーバーヘッドを抑えて並列化効率を向上し、回路コストの低減を図った画像符号化装置を提供する。
【解決手段】ピクチャを構成するブロックごとに当該ピクチャを符号化する画像符号化装置200は、符号化対象ブロックの周辺にあるブロックの符号化によって既に生成された情報を周辺情報として参照して符号化対象ブロックを符号化することを繰り返すことにより、ピクチャ内のそれぞれに対応付けられた画像領域を符号化する第1および第2の符号化回路201,202を備え、第1および第2の符号化回路201,202のそれぞれは、符号化の際に参照される周辺情報を保持する記憶部を備え、それらの記憶部は、ピクチャの水平方向のブロック数よりも少ない数のブロックの周辺情報を保持する。
【選択図】図12

Description

本発明は、動画像情報を復号化及び符号化する画像復号化装置及び画像符号化装置に関し、特に、並列処理により復号化及び符号化を行う画像復号化装置及び画像符号化装置に関するものである。
動画像情報を圧縮符号化(以下、単に「符号化」と呼ぶ)する技術として、フレーム間差分を用いたMPEG(Motion Pictures Experts Group)符号化方式が用いられることが多い。MPEG符号化方式としては、従来から使用されているMPEG−2(ISO/IEC13818−2)やMPEG−4(ISO/IEC14496−2)に加えて、近年ではH.264/MPEG−4 AVC(ISO/IEC14496−10)(以下、単に「H.264」と呼ぶ)やVC−1(SMPTE 421M)といった新しい符号化方式が用いられるようになってきている。
このような符号化方式では、1つの画面(ピクチャ)を所定画素数からなるブロック(輝度成分:16画素×16画素)に分割し、当該ブロック単位で復号化処理または符号化処理が行われる。このブロックのことをマクロブロックという。
図18は、H.264の隣接マクロブロックの依存関係を示す図である。H.264に代表される新しい符号化方式では、マクロブロックを符号化する際、符号化対象のマクロブロックとその周辺のマクロブロックとの相関を利用して圧縮効率を高めている。そのため、ある任意のマクロブロックMB10を復号化または符号化するには、図18に示す通り、マクロブロックMB10に隣接する左隣接マクロブロックMB11、左上隣接マクロブロックMB12、上隣接マクロブロックMB13、および右上隣接マクロブロックMB14の、4つの隣接マクロブロックの処理結果を参照する必要があり、予めこれらの隣接マクロブロックMB11〜MB14を復号化または符号化しておかなければならない。
また、復号化処理あるいは符号化処理を高速に行うために、マクロブロックを復号化する復号化ユニットあるいは符号化する符号化ユニット(以下、単に「マクロブロック処理ユニット」と呼ぶ)を複数用いて、復号化処理または符号化処理を並列に実行する画像復号化装置または画像符号化装置が提案されている。このような画像復号化装置または画像符号化装置では、上述の隣接マクロブロックの依存関係を個別のマクロブロック処理ユニットで解決するのではなく、複数の並列で動作させるマクロブロック処理ユニットで連携をとりながら解決する必要がある。そこで、従来、この依存関係を解決する方法が提案されている(例えば、特許文献1参照)。
図19は、上記特許文献1に記載された画像復号化装置及び画像符号化装置の処理手順を示す図である。図19中、マクロブロックMBに付けられた番号は、ピクチャPic内におけるマクロブロックMBの処理順序を示し、同じ番号のマクロブロックMBが並列に処理される。図19に示すように、画像復号化装置及び画像符号化装置は、ピクチャPicの左上のマクロブロックMBから処理を開始し、ある任意のマクロブロックMBを処理する場合、そのマクロブロックMBと、そのマクロブロックMBの1つ下の行の2列左側に位置するマクロブロックMBとを並列に処理することで、上述の隣接マクロブロックの依存関係を解決している。
つまり、上述の依存関係により、マクロブロックMBを処理(復号化または符号化)するためには、その処理対象マクロブロックMBの左、左上、上、および右上に隣接する隣接マクロブロックMBの処理結果を示す情報が必要である。しかし、ピクチャPicの各行(マクロブロックライン)を並列処理する場合に、単純に、各行にある同じ列に位置するマクロブロックMBを並列処理しようとすると、それぞれの処理対象マクロブロックMBに対して必要とされる隣接マクロブロックMBの情報が得られない。そのため、このような並列処理を実現することができない。そこで、上記特許文献1の画像復号化装置および画像符号化装置では、各行において処理対象マクロブロックMBが位置する列を異ならせることにより、ピクチャPicの各行を並列に処理している。
このように、並列で動作させるマクロブロック処理ユニットに対して、処理対象マクロブロックの位置(列)を設定することによって、処理対象マクロブロックMBのそれぞれの隣接マクロブロックの処理は常に先行的に完了していることになり、上述の隣接マクロブロックの依存関係が解決され、ピクチャPicの各行に対する並列処理を実現することができる。
特開2007―251865号公報
しかしながら、上記特許文献1に記載された画像復号化装置及び画像符号化装置では、上記依存関係を解決するためにマクロブロック処理ユニット間で相互に頻繁な通信が必要であり、復号化または符号化のオーバーヘッドが大きくなり並列化の効率が低いという問題がある。つまり、マクロブロック処理ユニットはマクロブロックを処理するごとに、その処理結果を他のマクロブロック処理ユニットに転送しなければならないため、処理のオーバーヘッドが大きく、実現性難易度も上がってしまう。また、マクロブロックの行ごとにマクロブロック処理ユニットが必要で、各マクロブロック処理ユニットには、処理結果を蓄積して転送するためのメモリが必要となる。その結果、画像復号化装置または画像符号化装置の全体において、処理結果である隣接マクロブロックの情報を保持するメモリの容量が大きくなるため、回路コストが大きくなるという課題もある。
そこで、本発明は、かかる問題に鑑みてなされたものであって、H.264に代表される新しい符号化方式に存在する、周辺のマクロブロックの情報についての依存関係を解決しながら、並列処理のオーバーヘッドを抑えて並列化効率を向上し、回路コストの低減を図った画像復号化装置、画像符号化装置、画像復号化方法及び画像符号化方法を提供することを目的とする。
上記目的を達成するために、本発明に係る画像符号化装置は、ピクチャを構成するブロックごとに当該ピクチャを符号化する画像符号化装置であって、符号化対象ブロックを含む前記ピクチャに含まれるブロックの情報であって、前記符号化対象ブロックの周辺にあるブロックの、既に他の符号化部によって既にり生成されたブロックの情報を、周辺情報として参照して前記符号化対象ブロックを符号化することを繰り返すことにより、前記ピクチャ内のそれぞれに対応付けられた異なる領域の画像領域を符号化する複数の符号化部を備え、前記複数の符号化部のそれぞれは、符号化の際に参照される前記周辺情報を保持する記憶部を備え、前記複数の符号化部のそれぞれの記憶部は、前記ピクチャの水平方向のブロック数よりも少ない数のブロックの周辺情報を保持する。
また、上記目的を達成するために、本発明に係る画像復号化装置は、符号化ピクチャを構成するブロックごとに当該符号化ピクチャを復号化する画像復号化装置であって、復号化対象ブロックのピクチャ内の空間位置を示すブロックアドレスに基づいて符号化ピクチャを分割する分割部と、前記分割部により分割された符号化ピクチャを復号化する復号化部とを備える。
また、上記目的を達成するために、本発明に係る画像復号化装置は、符号化ピクチャを構成するブロックごとに当該符号化ピクチャを復号化する画像復号化装置であって、復号化対象ブロックの周辺にある既に復号化されたブロックの情報を周辺情報として参照して前記復号化対象ブロックを復号化することを繰り返すことにより、前記符号化ピクチャ内のそれぞれに対応付けられた領域の画像を並列に復号化する複数の復号化部と、前記複数の復号化部に含まれる復号化部ごとに、当該復号化部で参照され、他の復号化部によって生成される前記周辺情報を転送対象周辺情報として、前記他の復号化部から当該復号化部に転送する転送部と、前記復号化部ごとに、当該復号化部に対応付けられた前記領域の端にある復号化対象ブロックの復号化に参照される前記転送対象周辺情報が当該復号化部に転送されたか否かを検出する検出部とを備え、前記複数の復号化部のそれぞれは、前記転送対象周辺情報が当該復号化部に転送されたことが前記検出部によって検出されたときに、当該復号化部に対応付けられた前記領域の端にある復号化対象ブロックを復号化し、前記領域間の境界線は、互いに隣接するブロックが続けて復号化される順序に沿った復号化方向と直交している。例えば、前記復号化方向は水平方向であり、前記複数の復号化部のうちの何れか1つの復号化部は、前記符号化ピクチャ内で水平方向に配列された2つの領域のうちの一方の画像を復号化し、前記複数の復号化部のうちの他の復号化部は、前記2つの領域のうちの他方の画像を復号化する。
これにより、領域間の境界線が復号化方向と直交しているため、それぞれの領域の画像に対する並列復号化において、符号化ピクチャ内の全てのブロックが順次復号化されるごとに転送対象周辺情報がわざわざ生成されて転送されることがなく、その境界線の一部を含むブロックが復号化されたときにだけ転送対象周辺情報が生成されて転送される。つまり、復号化部のそれぞれは、その復号化部に対応付けられた領域内にある全てのブロックを復号化するごとに、そのブロックの復号化によって生成される周辺情報を全て転送対象周辺情報とする必要がなく、領域内にある上記境界線の一部を含むブロックが復号化されたときにだけ、その復号化によって生成された周辺情報を転送対象周辺情報とすればよい。したがって、従来のように、周辺情報が頻繁に転送されることがなく、転送頻度を抑えることができる。その結果、マクロブロックの復号化に周辺情報が必要となるH.264などの符号化方式であっても、隣接マクロブロックの依存関係を解消しながら、並列処理のオーバーヘッドを抑えて並列化効率を向上することができる。また、従来では、マクロブロックラインの数だけ多くの復号化部が必要となり、その復号化部によって生成される周辺情報を格納するメモリがその復号化部の数だけ必要となり、多くのメモリ容量を要する。しかし、本発明では、復号化部の数を抑えて、装置全体に用いられるメモリ容量を減らすことができる。その結果、回路コストの低減、高性能化および低コスト化を図ることができる。
なお、本発明は、このような画像復号化装置して実現することができるだけでなく、画像符号化装置、それらの装置における処理動作の方法、それらの装置に処理動作させるためのプログラム、そのプログラムを格納する記憶媒体としても実現することができる。
本発明の画像復号化装置及び画像符号化装置は、周辺のマクロブロックとの相関を利用して圧縮効率を高めている符号化方式において、周辺のマクロブロックの情報についての依存関係を少ない情報転送量で解決しながら、複数の復号化部または符号化部を効率よく並列に動作させることで、高性能化および低コスト化を実現することができる。
図1は、本発明の実施の形態1における動画像復号化装置の構成を示すブロック図である。 図2は、同上の画像復号化装置の動作を説明するための説明図である。 図3は、同上の隣接マクロブロックと周辺情報を説明するための説明図である。 図4Aは、同上の復号化対象マクロブロックが右端復号化対象ブロックである場合の隣接マクロブロックを示す図である。 図4Bは、同上の復号化対象マクロブロックが左端復号化対象ブロックである場合の隣接マクロブロックを示す図である。 図5は、同上の第1の復号化回路と第2の復号化回路の処理のタイミングの一例を示す図である。 図6は、同上の第1の復号化回路がマクロブロックラインを復号化するときの動作を示すフローチャートである。 図7は、同上の第2の復号化回路がマクロブロックラインを復号化するときの動作を示すフローチャートである。 図8は、同上の第1の変形例に係る画像復号化装置の構成を示すブロック図である。 図9は、同上の第2の変形例に係る画像復号化装置の構成を示すブロック図である。 図10Aは、同上の第2の変形例に係る符号化ストリームの構成を示す図である。 図10Bは、同上の第2の変形例に係る加工ストリームの構成を示す図である。 図10Cは、同上の第2の変形例に係る選択ストリームの構成を示す図である。 図11Aは、同上の第3の変形例に係る符号化ピクチャがMBAFFで構成されている場合のマクロブロックの復号化順を示す図である。 図11Bは、同上の第3の変形例に係る符号化ピクチャがMBAFFで構成されている場合の周辺情報を説明するための説明図である。 図12は、本発明の実施の形態2における動画像符号化装置の構成を示すブロック図である。 図13は、同上の画像符号化装置の動作を説明するための説明図である。 図14は、同上の第1の符号化回路と第2の符号化回路の処理のタイミングの一例を示す図である。 図15は、同上の第1の符号化回路がマクロブロックラインを符号化するときの動作を示すフローチャートである。 図16は、同上の第2の符号化回路がマクロブロックラインを符号化するときの動作を示すフローチャートである。 図17は、本発明の実施の形態3におけるH.264レコーダを実現するAV処理部のブロック図である。 図18は、H.264の隣接マクロブロックの依存関係を示す図である。 図19は、特許文献1に記載された画像復号化装置及び画像符号化装置の処理手順を示す図である。
以下、本発明の実施の形態について、図面を参照しながら説明する。
(実施の形態1)
図1は、本発明の実施の形態1における画像復号化装置の構成を示すブロック図である。
本実施の形態における画像復号化装置100は、動画像を示すデータがH.264によって符号化された符号化ストリームStrを分割して分割符号化ストリームStr1,Str2を出力する分割部130と、一方の分割符号化ストリームStr1を復号化する第1の復号化回路101と、その第1の復号化回路101による復号化処理と並列に他方の分割符号化ストリームStr2を復号化する第2の復号化回路102と、第1および第2の復号化回路101,102の間で情報を転送するための情報転送バス(データバス)103と、第1および第2の復号化回路101,102の間で行われる情報の転送が完了したことを検出する第1および第2の転送完了検出部104,105とを備えている。
なお、第1の復号化回路101および第1の転送完了検出部104は、図1中の点線の枠に示すように、例えばLSI(Large Scale Integration)などの1つの集積回路とし
て構成されていてもよく、同様に、第2の復号化回路102および第2の転送完了検出部105も、例えばLSIなどの1つの集積回路として構成されていてもよい。また、本実施の形態では、第1の復号化回路101および第2の復号化回路102のそれぞれには、上記情報転送バス103を介して他方の復号化回路に後述する左周辺情報または右周辺情報(転送対象周辺情報)を転送する転送部が備えられている。
分割部130は、符号化ストリームStr中の各符号化ピクチャの左側の部分(左分割符号化ピクチャ)が分割符号化ストリームStr1に含まれ、残りの右側の部分(右分割符号化ピクチャ)が分割符号化ストリームStr2に含まれるように、符号化ストリームStrを分割する。なお、分割部130は、各符号化ピクチャに含まれるマクロブロックのマクロブロック(MB)アドレスに基づいて、符号化ストリームStrを分割する。
第1の復号化回路101は、分割部130から分割符号化ストリームStr1を取得して復号化する。具体的には、第1の復号化回路101は、分割符号化ストリームStr1に含まれる左分割符号化ピクチャを順次復号化する。このとき、第1の復号化回路101は、左分割符号化ピクチャにおいて上端にあるマクロブロックラインから下側に向けて、マクロブロックラインごとにその左分割符号化ピクチャの復号化を行う。なお、このマクロブロックラインとは、左分割符号化ピクチャにおいて水平方向に配列する複数のマクロブロックからなるグループである。また、第1の復号化回路101は、マクロブロックラインを復号化するときには、左端のマクロブロックから右側に向かって、つまり水平方向にマクロブロックを順次復号化する。そして、第1の復号化回路101は、上述のような復号化によって生成される復号化画像データ120を出力する。
さらに、第1の復号化回路101は、第2の復号化回路102による復号化処理において隣接マクロブロックの依存関係が満たされるように、左分割符号化ピクチャの右端にあるマクロブロックを復号化すると、その復号化によって生成される左周辺情報を、情報転送バス103を介して第2の復号化回路102に転送する。
なお、隣接マクロブロックとは、復号化対象マクロブロックに対して左に隣接する左隣接マクロブロック、左上に隣接する左上隣接マクロブロック、上に隣接する上隣接マクロブロック、および右上に隣接する右上隣接マクロブロックの何れかである。また、隣接マクロブロックの依存関係とは、符号化ピクチャに隣接マクロブロックが存在すれば、その隣接マクロブロックの復号化結果を示す周辺情報を参照して復号化対象マクロブロックが復号化(動きベクトル予測、画面内予測またはデブロックフィルタ処理)される関係をいう。なお、上記4つの隣接マクロブロックは、参照可能な周辺情報の最大範囲であって、全ての周辺情報が参照されなくてもよい。また、周辺情報とは、復号化対象マクロブロックが画面間予測符号化される場合には、隣接マクロブロックの復号化された動きベクトルおよび画素値であり、復号化対象マクロブロックが画面内予測符号化される場合には、隣接マクロブロックの画素値である。また、左周辺情報とは、復号化対象マクロブロックが右分割符号化ピクチャの左上端にある場合には、左分割符号化ピクチャにある左隣接マクロブロックの周辺情報であり、復号化対象マクロブロックが右分割符号化ピクチャの上端を除く左端にある場合には、左分割符号化ピクチャにある左隣接マクロブロックおよび左上隣接マクロブロックの周辺情報である。
第2の復号化回路102は、分割部130から分割符号化ストリームStr2を取得して復号化する。具体的には、第2の復号化回路102は、分割符号化ストリームStr2に含まれる右分割符号化ピクチャを順次復号化する。このとき、第2の復号化回路102は、右分割符号化ピクチャにおいて上端にあるマクロブロックラインから下側に向けて、マクロブロックラインごとにその右分割符号化ピクチャの復号化を行う。なお、このマクロブロックラインとは、右分割符号化ピクチャにおいて水平方向に配列する複数のマクロブロックからなるグループである。また、第2の復号化回路102は、マクロブロックラインを復号化するときには、左端のマクロブロックから右側に向かって、つまり水平方向にマクロブロックを順次復号化する。そして、第2の復号化回路102は、上述のような復号化によって生成される復号化画像データ121を出力する。
さらに、第2の復号化回路102は、第1の復号化回路101による復号化処理において隣接マクロブロックの依存関係が満たされるように、右分割符号化ピクチャの左端にあるマクロブロックを復号化すると、その復号化によって生成される右周辺情報を、情報転送バス103を介して第1の復号化回路101に転送する。なお、右周辺情報とは、復号化対象マクロブロックが左分割符号化ピクチャの上端を除く右端にある場合には、右分割符号化ピクチャにある右上隣接マクロブロックの周辺情報である。
第1の転送完了検出部104は、第1の復号化回路101による復号化処理に必要な右周辺情報が第2の復号化回路102から第1の復号化回路101に転送されたことを検出すると、そのことを第1の復号化回路101に通知する。第1の復号化回路101が左分割符号化ピクチャの右端にあるマクロブロック(右端復号化対象ブロック)を復号化するときには、その右端復号化対象ブロックの右上に隣接するマクロブロック(右上隣接マクロブロック)が右分割符号化ピクチャにあれば、その右上隣接マクロブロックの右周辺情報が必要である。したがって、第1の転送完了検出部104は、右上隣接マクロブロックの右周辺情報が転送されたことを検出すると、そのことを第1の復号化回路101に通知して、右端復号化対象ブロックの復号化を開始させる。言い換えれば、第1の復号化回路101は、右端復号化対象ブロックを復号化するときには、第1の転送完了検出部104からの通知がない限り、その復号化を行わずに待機し、その通知を受けたときに、その復号化を開始する。
第2の転送完了検出部105は、第2の復号化回路102による復号化処理に必要な左周辺情報が第1の復号化回路101から第2の復号化回路102に転送されたことを検出すると、そのことを第2の復号化回路102に通知する。第2の復号化回路102が右分割符号化ピクチャの左端にあるマクロブロック(左端復号化対象ブロック)を復号化するときには、その左端復号化対象ブロックの左上に隣接するマクロブロック(左上隣接マクロブロック)、および左に隣接するマクロブロック(左隣接マクロブロック)が左分割符号化ピクチャにあれば、その左上隣接マクロブロックおよび左隣接マクロブロックの左周辺情報が必要である。また、左上隣接マクロブロックがなく、左隣接マクロブロックだけが左分割符号化ピクチャにあれば、その左隣接マクロブロックの左周辺情報が必要である。したがって、第2の転送完了検出部105は、左上隣接マクロブロックおよび左隣接マクロブロックの左周辺情報が転送されたこと、または左隣接マクロブロックの左周辺情報だけが転送されたことを検出すると、そのことを第2の復号化回路102に通知して、左端復号化対象ブロックの復号化を開始させる。言い換えれば、第2の復号化回路102は、左端復号化対象ブロックを復号化するときには、第2の転送完了検出部105からの通知がない限り、その復号化を行わずに待機し、その通知を受けたときに、その復号化を開始する。
このような画像復号化装置100では、第1の復号化回路101は、マクロブロックを復号化すると、その復号化によって得られた情報を他のマクロブロックの復号化に必要な周辺情報として、第1の復号化回路101に備えられたメモリに格納する。そして、第1の復号化回路101は、マクロブロックを復号化するときに、そのマクロブロックに隣接する4つの隣接マクロブロック(左隣接マクロブロック、左上隣接マクロブロック、上隣接マクロブロック、および右上隣接マクロブロック)の何れかが符号化ピクチャにあれば、その隣接マクロブロックの復号化によって得られてメモリに格納されている周辺情報を参照して復号化対象マクロブロックを復号化する。しかし、第1の復号化回路101が符号化ピクチャにある隣接マクロブロックを復号化しておらず、第2の復号化回路102がその隣接マクロブロックを復号化している場合には、その隣接マクロブロックの周辺情報は第1の復号化回路101のメモリに格納されていない。そこで、第1の復号化回路101は、第2の復号化回路102から転送される隣接マクロブロックの周辺情報を右周辺情報として取得してメモリに格納し、符号化ピクチャに存在する全ての隣接マクロブロックの周辺情報が揃ったときに、右周辺情報を含む全ての周辺情報を参照して復号化対象のマクロブロックを復号化する。
同様に、第2の復号化回路102は、マクロブロックを復号化すると、その復号化によって得られた情報を他のマクロブロックの復号化に必要な周辺情報として、第2の復号化回路102に備えられたメモリに格納する。そして、第2の復号化回路102は、マクロブロックを復号化するときに、そのマクロブロックに隣接する4つの隣接マクロブロックの何れかが符号化ピクチャにあれば、その隣接マクロブロックの復号化によって得られてメモリに格納されている周辺情報を参照して復号化対象マクロブロックを復号化する。しかし、第2の復号化回路102が符号化ピクチャにある隣接マクロブロックを復号化しておらず、第1の復号化回路101がその隣接マクロブロックを復号化している場合には、その隣接マクロブロックの周辺情報は第2の復号化回路102のメモリに格納されていない。そこで、第2の復号化回路102は、第1の復号化回路101から転送される隣接マクロブロックの周辺情報を左周辺情報として取得してメモリに格納し、符号化ピクチャに存在する全ての隣接マクロブロックの周辺情報が揃ったときに、左周辺情報を含む全ての周辺情報を参照して復号化対象のマクロブロックを復号化する。
このように本実施の形態における画像復号化装置100では、第1および第2の復号化回路101,102との間で左周辺情報および右周辺情報が転送されることにより、隣接マクロブロックの復号化結果を利用したH.264に即したマクロブロックの復号化を実現することができる。
図2は、本実施の形態における画像復号化装置100の動作を説明するための説明図である。
分割部130は、符号化ピクチャPicを左右2つに分割することにより、左分割符号化ピクチャPic1および右分割符号化ピクチャPic2を生成する。
ここで、符号化ピクチャPicは、水平方向および垂直方向に配列された複数のマクロブロックMBから構成されている。また、第1および第2の復号化回路101,102は、符号化ピクチャPicのマクロブロックラインを復号化するときには、複数のマクロブロックを水平方向に順次復号化する。なお、図2中の各マクロブロックMB内に示される1〜2N+2の数字(Nは2以上の整数)は、マクロブロックが復号化されるおおよその順番を示す。したがって、分割部130は、第1および第2の復号化回路101,102によるマクロブロックの復号化方向に対して直交する方向に符号化ピクチャPicを分割している。つまり、分割部130は、左分割符号化ピクチャPic1と右分割符号化ピクチャPic2との境界線が上述の復号化方向と直交するように符号化ピクチャPicを分割している。
なお、本実施の形態における分割部130は、左分割符号化ピクチャPic1および右分割符号化ピクチャPic2がそれぞれ同サイズとなるように、符号化ピクチャPicを分割している。その結果、左分割符号化ピクチャPic1および右分割符号化ピクチャPic2のそれぞれのマクロブロックラインに含まれるマクロブロックの数は共にN個である。
第1の復号化回路101は左分割符号化ピクチャPic1を復号化し、第2の復号化回路102は右分割符号化ピクチャPic2を復号化する。
具体的には、まず、第1の復号化回路101は、左分割符号化ピクチャPic1の上端のマクロブロックライン、つまり左上端のマクロブロックMB(1番目)から右上端のマクロブロックMB(N番目)までの各マクロブロックMBを順次復号化する。N番目のマクロブロックMBは左分割符号化ピクチャPic1において右端にあるため、第1の復号化回路101は、そのN番目のマクロブロックMBを復号化して得られた左周辺情報を第2の復号化回路102に転送する。
次に、第1の復号化回路101は、左分割符号化ピクチャPic1の上から2番目のマクロブロックライン、つまりN+1番目のマクロブロックMBから2N番目のマクロブロックMBまでの各マクロブロックMBを順次復号化する。このとき、第2の復号化回路102は、右分割符号化ピクチャPic2の上端のマクロブロックライン、つまり左上端のマクロブロックMB(N+1番目)から右上端のマクロブロックMB(2N番目)までの各マクロブロックMBを順次復号化する。つまり、第1および第2の復号化回路101,102は、左分割符号化ピクチャPic1の上から2番目のマクロブロックラインの復号化と、右分割符号化ピクチャPic2の上端のマクロブロックラインの復号化とを並列に実行する。
ここで、第2の復号化回路102は、右分割符号化ピクチャPic2のN+1番目のマクロブロックMBを復号化するときには、そのマクロブロックMBが左端復号化対象ブロックであるため、その左端復号化対象ブロックMBを復号化するための左周辺情報を要する。符号化ピクチャPicでは、この左端復号化対象ブロックMB(N+1番目)に対して、左分割符号化ピクチャPic1のN番目のマクロブロックMBが左隣接マクロブロックとして隣接している。そこで、第2の復号化回路102は、上述のN+1番目の左端復号化対象ブロックを復号化するために、この左隣接マクロブロックの復号化結果を示す左周辺情報を要する。したがって、第2の復号化回路102は、左隣接マクロブロックの左周辺情報が第1の復号化回路101から転送されたことが通知されるまで、その左端復号化対象ブロックの復号化を行わずに待機し、通知された後に復号化を行う。
また、第1の復号化回路101は、左分割符号化ピクチャPic1の2N番目のマクロブロックMBを復号化するときには、そのマクロブロックMBが右端復号化対象ブロックであるため、その左端復号化対象ブロックを復号化するための右周辺情報を要する。符号化ピクチャPicでは、この右端復号化対象ブロックMB(2N番目)に対して、右分割符号化ピクチャPic2のN+1番目のマクロブロックMBが右上隣接マクロブロックとして隣接している。そこで、第1の復号化回路101は、上述の2N番目の右端復号化対象ブロックを復号化するために、この右上隣接マクロブロックの復号化結果を示す右周辺情報を要する。したがって、第1の復号化回路101は、右上隣接マクロブロックの右周辺情報が第2の復号化回路102から転送されたことが通知されるまで、その右端復号化対象ブロックの復号化を行わずに待機し、通知された後に復号化を行う。
次に、第1の復号化回路101は、左分割符号化ピクチャPic1の上から3番目のマクロブロックライン、つまり2N+1番目のマクロブロックMBから3N番目のマクロブロックMBまでの各マクロブロックMBを順次復号化する。このとき、第2の復号化回路102は、右分割符号化ピクチャPic2の上から2番目のマクロブロックライン、つまり2N+1番目のマクロブロックMBから3N番目のマクロブロックMBまでの各マクロブロックMBを順次復号化する。これにより、第1および第2の復号化回路101,102は、左分割符号化ピクチャPic1の上から3番目のマクロブロックラインの復号化と、右分割符号化ピクチャPic2の上から2番目のマクロブロックラインの復号化とを並列に実行する。
ここで、第2の復号化回路102は、右分割符号化ピクチャPic2の2N+1番目のマクロブロックMBを復号化するときには、そのマクロブロックMBが左端復号化対象ブロックであるため、その左端復号化対象ブロックMBを復号化するための左周辺情報を要する。符号化ピクチャPicでは、この左端復号化対象ブロックMB(2N+1番目)に対して、左分割符号化ピクチャPic1のN番目のマクロブロックMBが左上隣接マクロブロックとして隣接しているとともに、左分割符号化ピクチャPic1の2N番目のマクロブロックMBが左隣接マクロブロックとして隣接している。そこで、第2の復号化回路102は、上述の2N+1番目の左端復号化対象ブロックを復号化するために、この左隣接マクロブロックおよび左上隣接マクロブロックの復号化結果を示す左周辺情報を要する。したがって、第2の復号化回路102は、左隣接マクロブロックおよび左上隣接マクロブロックの左周辺情報が第1の復号化回路101から転送されたことが通知されるまで、その左端復号化対象ブロックの復号化を行わずに待機し、通知された後に復号化を行う。
図3は、隣接マクロブロックと周辺情報を説明するための説明図である。
第1の復号化回路101は、例えば、左分割符号化ピクチャPic1のマクロブロックMBaを復号化する。このとき、第1の復号化回路101は、その復号化対象マクロブロックMBaを有するマクロブロックラインLL3に含まれるマクロブロックBam〜Bakのそれぞれの復号化結果を示す周辺情報と、マクロブロックラインLL3の直ぐ上にあるマクロブロックラインLL2に含まれるマクロブロックBa1〜Banの復号化結果を示す周辺情報とをメモリに格納している。つまり、第1の復号化回路101は、復号化対象マクロブロックの直ぐ上にあるマクロブロックラインに含まれる、左上隣接マクロブロックから右端までの各マクロブロックと、復号化対象マクロブロックを有するマクロブロックラインに含まれる、左端から左隣接マクロブロックまでの各マクロブロックとをそれぞれ既に復号化している場合、少なくともそれらのマクロブロックの復号化結果を周辺情報としてメモリに格納している。したがって、第1の復号化回路101に備えられているメモリは、少なくとも、第1の復号化回路101で生成された(1マクロブロックライン+1マクロブロック)分の周辺情報と、第2の復号化回路102から受け取る1マクロブロック分の周辺情報とを記憶するための容量を有する。
そして、第1の復号化回路101は、メモリに格納されている、左隣接マクロブロックBak、左上隣接マクロブロックBa1、上隣接マクロブロックBa2、および右上隣接マクロブロックBa3の周辺情報を参照してマクロブロックMBaを復号化する。つまり、第1の復号化回路101は、左分割符号化ピクチャPic1において左隣接マクロブロック、左上隣接マクロブロック、上隣接マクロブロック、および右上隣接マクロブロックのそれぞれが隣接マクロブロックとして存在すれば、それらの隣接マクロブロックの周辺情報を参照して復号化対象マクロブロックを復号化する。
上述と同様に、第2の復号化回路102は、例えば、右分割符号化ピクチャPic2のマクロブロックMBbを復号化する。このとき、第2の復号化回路102は、その復号化対象マクロブロックMBbを有するマクロブロックラインRL2に含まれるマクロブロックBbm〜Bbkのそれぞれの復号化結果を示す周辺情報と、マクロブロックラインRL2の直ぐ上にあるマクロブロックラインRL1に含まれるマクロブロックBb1〜Bbnの復号化結果を示す周辺情報とをメモリに格納している。つまり、第2の復号化回路102は、復号化対象マクロブロックの直ぐ上にあるマクロブロックラインに含まれる、左上隣接マクロブロックから右端までの各マクロブロックと、復号化対象マクロブロックを有するマクロブロックラインに含まれる、左端から左隣接マクロブロックまでの各マクロブロックとをそれぞれ既に復号化している場合、少なくともそれらのマクロブロックの復号化結果を周辺情報としてメモリに格納している。したがって、第2の復号化回路102に備えられているメモリは、少なくとも、第2の復号化回路102で生成された(1マクロブロックライン+1マクロブロック)分の周辺情報と、第1の復号化回路101から受け取る1マクロブロック分の周辺情報とを記憶するための容量を有する。
そして、第2の復号化回路102は、メモリに格納されている、左隣接マクロブロックBbk、左上隣接マクロブロックBb1、上隣接マクロブロックBb2、および右上隣接マクロブロックBb3の周辺情報を参照してマクロブロックMBbを復号化する。つまり、第2の復号化回路102は、右分割符号化ピクチャPic2において左隣接マクロブロック、左上隣接マクロブロック、上隣接マクロブロック、および右上隣接マクロブロックのそれぞれが隣接マクロブロックとして存在すれば、それらの隣接マクロブロックの周辺情報を参照して復号化対象マクロブロックを復号化する。
図4Aは、復号化対象マクロブロックが右端復号化対象ブロックである場合の隣接マクロブロックを示す図である。
例えば、左分割符号化ピクチャPic1において復号化対象マクロブロックMBaが右端復号化対象ブロックである場合、その復号化対象マクロブロックMBaの右上隣接マクロブロックMB1が右分割符号化ピクチャPic2に存在することがある。このような場合、その右分割符号化ピクチャPic2に含まれる右上隣接マクロブロックMB1の右周辺情報は第1の復号化回路101のメモリには格納されておらず、第2の復号化回路102のメモリに格納されている。そこで、第1の復号化回路101は、その右分割符号化ピクチャPic2に含まれる右上隣接マクロブロックMB1の右周辺情報を第2の復号化回路102から取得し、その右周辺情報を参照して復号化対象マクロブロックMBaを復号化する。
なお、復号化対象マクロブロックMBaが左分割符号化ピクチャPic1の右上端にある場合には、右上隣接マクロブロックが右分割符号化ピクチャPic2に存在しない。この場合には、第1の復号化回路101は右周辺情報を参照することなく復号化対象マクロブロックを復号化する。
図4Bは、復号化対象マクロブロックが左端復号化対象ブロックである場合の隣接マクロブロックを示す図である。
例えば、右分割符号化ピクチャPic2において復号化対象マクロブロックMBbが左端復号化対象ブロックである場合、その復号化対象マクロブロックMBbの左上隣接マクロブロックMB2および左隣接マクロブロックMB3が左分割符号化ピクチャPic1に存在することがある。このような場合、その左分割符号化ピクチャPic1に含まれる左上隣接マクロブロックMB2および左隣接マクロブロックMB3のそれぞれの左周辺情報は第2の復号化回路102のメモリには格納されておらず、第1の復号化回路101のメモリに格納されている。そこで、第2の復号化回路102は、その左分割符号化ピクチャPic1に含まれる左上隣接マクロブロックMB2および左隣接マクロブロックMB3のそれぞれの左周辺情報を第1の復号化回路101から取得し、それらの左周辺情報を参照して復号化対象マクロブロックMBbを復号化する。
なお、復号化対象マクロブロックMBbが右分割符号化ピクチャPic2の左上端にある場合には、左上隣接マクロブロックが左分割符号化ピクチャPic1に存在しない。この場合には、第2の復号化回路102は、左上隣接マクロブロックの左周辺情報を参照することなく左隣接マクロブロックの左周辺情報を参照して復号化対象マクロブロックを復号化する。
図5は、第1の復号化回路101と第2の復号化回路102の処理のタイミングの一例を示す図である。なお、この図5に示すタイミングは、第1および第2の復号化回路101,102の処理動作を分かり易く示すための一例である。
まず、第1の復号化回路101は、時刻t0に、左分割符号化ピクチャPic1の上端のマクロブロックラインL1の復号化を開始する。時刻t1にマクロブロックラインL1の復号化が終了すると、第1の復号化回路101は、右端復号化対象ブロックの復号化結果を示す左周辺情報を第2の復号化回路102に転送する。さらに、第1の復号化回路101は、左分割符号化ピクチャPic1の上から2番目のマクロブロックラインL2の復号化を開始する。また、第2の復号化回路102は、時刻t2に、第1の復号化回路101から転送された左周辺情報を取得すると、その左周辺情報を参照して、右分割符号化ピクチャPic2の上端のマクロブロックラインR1の復号化を開始する。
ここで、第1の復号化回路101は、マクロブロックラインL2の右端から2番目のマクロブロックを復号化すると、次に復号化対象となるマクロブロック(右端復号化対象ブロック)の復号化に必要な右周辺情報がないために、時刻t3から復号化処理を停止して待機状態となる。一方、第2の復号化回路102は、時刻t4で、マクロブロックラインR1の左端復号化対象ブロックの復号化が完了すると、その復号化の結果を示す右周辺情報を第1の復号化回路101に転送する。
第1の復号化回路101は、時刻t5に、右周辺情報を第2の復号化回路102から取得し、その右周辺情報が第1の復号化回路101に転送されたことが第1の転送完了検出部104から通知されると、待機状態を解除し、その右周辺情報を参照してマクロブロックラインL2の右端復号化対象ブロックを復号化する。一方、第2の復号化回路102は、時刻t5に、マクロブロックラインR1の復号化が完了し、次のマクロブロックラインR2の復号化を開始しようとする。しかし、第2の復号化回路102は、マクロブロックラインR2の左端復号化対象ブロックの復号化に必要な左周辺情報がないために、時刻t5から復号化処理を停止して待機状態となる。
第1の復号化回路101は、時刻t6に、マクロブロックラインL2の右端復号化対象ブロックの復号化を完了すると、その復号化の結果を示す左周辺情報を第2の復号化回路102に転送する。さらに、第1の復号化回路102は、次のマクロブロックラインL3の復号化を開始する。一方、第2の復号化回路102は、時刻t7に、左周辺情報を第1の復号化回路101から取得し、その左周辺情報が第2の復号化回路102に転送されたことが第2の転送完了検出部105から通知されると、待機状態を解除し、その左周辺情報を参照してマクロブロックラインR2の復号化を開始し、左端復号化対象ブロックを復号化する。
そして、第1の復号化回路101は、マクロブロックラインL3の右端から2番目のマクロブロックを復号化すると、次に復号化対象となるマクロブロック(右端復号化対象ブロック)の復号化に必要な右周辺情報がないために、時刻t8から復号化処理を停止して待機状態となる。
図6は、第1の復号化回路101がマクロブロックラインを復号化するときの動作を示すフローチャートである。
まず、第1の復号化回路101は、復号化対象マクロブロックの復号化に必要な周辺情報が全て揃っているか否かを判別する(ステップS100)。例えば、第1の復号化回路101は、復号化対象マクロブロックが右端復号化対象ブロックである場合には、右周辺情報が転送されたことが第1の転送完了検出部104から通知されたか否かを判別する。ここで、第1の復号化回路101は、揃っていると判別すると(ステップS100のYes)、周辺情報を参照して復号化対象マクロブロックを復号化する(ステップS102)。一方、第1の復号化回路101は、揃っていないと判別すると(ステップS100のNo)、復号化対象マクロブロックを復号化できないために待機する。
ステップS102で復号化対象マクロブロックを復号化すると、第1の復号化回路101は、その復号化されたマクロブロックがマクロブロックラインの右端にあるか否かを判別する(ステップS104)。ここで、第1の復号化回路101は、右端にあると判別すると(ステップS104のYes)、その右端にあるマクロブロックが復号化された結果を示す左周辺情報を第2の復号化回路102に転送する(ステップS106)。一方、第1の復号化回路101は、右端にないと判別すると(ステップS104のNo)、その復号化されたマクロブロックの右隣にあるマクロブロックを次の復号化対象マクロブロックとしてステップS100からの処理を繰り返し実行する。これにより、マクロブロックラインが復号化され、このようなマクロブロックラインの復号化が繰り返されることによって、符号化ピクチャPicの左分割符号化ピクチャPic1が復号化される。
図7は、第2の復号化回路102がマクロブロックラインを復号化するときの動作を示すフローチャートである。
まず、第2の復号化回路102は、復号化対象マクロブロックの復号化に必要な周辺情報が全て揃っているか否かを判別する(ステップS200)。例えば、第2の復号化回路102は、復号化対象マクロブロックが左端復号化対象ブロックである場合には、左周辺情報が転送されたことが第2の転送完了検出部105から通知されたか否かを判別する。ここで、第2の復号化回路102は、揃っていると判別すると(ステップS200のYes)、周辺情報を参照して復号化対象マクロブロックを復号化する(ステップS202)。一方、第2の復号化回路102は、揃っていないと判別すると(ステップS200のNo)、復号化対象マクロブロックを復号化できないために待機する。
ステップS202で復号化対象マクロブロックを復号化すると、第2の復号化回路102は、その復号化されたマクロブロックがマクロブロックラインの左端にあるか否かを判別する(ステップS204)。ここで、第2の復号化回路102は、左端にあると判別すると(ステップS204のYes)、その左端にあるマクロブロックが復号化された結果を示す右周辺情報を第1の復号化回路101に転送する(ステップS206)。一方、第2の復号化回路102は、左端にないと判別すると(ステップS204のNo)、さらに、その復号化されたマクロブロックがマクロブロックラインの右端にあるか否かを判別する(ステップS208)。ここで、第1の復号化回路101は、右端にあると判別すると(ステップS208のYes)、そのマクロブロックラインの復号化処理を終了し、右端にないと判別すると(ステップS208のNo)、その復号化されたマクロブロックの右隣にあるマクロブロックを次の復号化対象マクロブロックとしてステップS200からの処理を繰り返し実行する。これにより、マクロブロックラインが復号化され、このようなマクロブロックラインの復号化が繰り返されることによって、符号化ピクチャPicの右分割符号化ピクチャPic2が復号化される。
以上のように、本実施の形態では、領域(左分割符号化ピクチャPic1および右分割符号化ピクチャPic2)間の境界線が復号化方向と直交しているため、それぞれの領域の画像に対する並列復号化において、符号化ピクチャPic内の全てのマクロブロックが順次復号化されるごとに周辺情報がわざわざ転送されることがなく、その境界線の一部を含むマクロブロックが復号化されたときにだけ周辺情報が左周辺情報または右周辺情報として転送される。したがって、従来のように、周辺情報が頻繁に転送されることがなく、転送頻度を抑えることができる。その結果、マクロブロックの復号化に周辺情報が必要となるH.264などの符号化方式であっても、隣接マクロブロックの依存関係を解消しながら、並列処理のオーバーヘッドを抑えて並列化効率を向上することができる。また、従来では、マクロブロックラインの数だけ多くの復号化部が必要となり、その復号化部によって生成される周辺情報を格納するメモリがその復号化部の数だけ必要となり、多くのメモリ容量を要する。しかし、本実施の形態では、復号化部の数を抑えて、装置全体に用いられるメモリ容量を減らすことができる。その結果、回路コストの低減、高性能化および低コスト化を図ることができる。
(変形例1)
ここで本実施の形態における第1の変形例について説明する。本変形例に係る画像復号化装置では、第1の復号化回路101と第2の復号化回路102との間における左周辺情報および右周辺情報の受け渡し方が上記実施の形態1の画像復号化装置100と異なる。
図8は、本変形例に係る画像復号化装置の構成を示すブロック図である。
本変形例に係る画像復号化装置100aは、分割部130と、第1の復号化回路101と、第2の復号化回路102と、第1の転送完了検出部104と、第2の転送完了検出部105と、第1のメモリバンク141と、第2のメモリバンク142とを備えている。
なお、図8において、上記実施の形態1の画像復号化装置100の構成要素と同一の機能および構成を有する構成要素については、画像復号化装置100の構成要素と同一の符号を付して詳細な説明を省略する。
本変形例に係る画像復号化装置100aでは、第1の復号化回路101と第2の復号化回路102とが左周辺情報および右周辺情報を情報転送バス103を介して送受信することなく、第1および第2のメモリバンク141,142にアクセスすることにより、その左周辺情報および右周辺情報の受け渡しをしている。言い換えれば、第1および第2のメモリバンク141,142のバンク切り替えにより、左周辺情報および右周辺情報は第1および第2の復号化回路101,102で共有されている。
第1のメモリバンク141は、第1の復号化回路101によって生成される周辺情報を格納するための領域を有し、第1の復号化回路101および第2の復号化回路102にアクセスされる。
第2のメモリバンク142は、第2の復号化回路102によって生成される周辺情報を格納するための領域を有し、第1の復号化回路101および第2の復号化回路102にアクセスされる。
第1の復号化回路101は、左分割符号化ピクチャPic1のマクロブロックを復号化するごとに、その復号化によって生成された周辺情報を第1のメモリバンク141に格納する。また、第1の復号化回路101は、マクロブロックを復号化するときに、第1のメモリバンク141に隣接マクロブロックの周辺情報が格納されていれば、その周辺情報を読み出し、その周辺情報を参照してマクロブロックを復号化する。
第2の復号化回路102は、右分割符号化ピクチャPic2のマクロブロックを復号化するごとに、その復号化によって生成された周辺情報を第2のメモリバンク142に格納する。また、第2の復号化回路102は、マクロブロックを復号化するときに、第2のメモリバンク142に隣接マクロブロックの周辺情報が格納されていれば、その周辺情報を読み出し、その周辺情報を参照してマクロブロックを復号化する。
ここで、左分割符号化ピクチャPic1において、復号化対象マクロブロックが右端復号化対象ブロックであって、左分割符号化ピクチャPic1の上端にない場合には、その右端復号化対象ブロックの復号化に必要な右上隣接マクロブロックの周辺情報が第1のメモリバンク141に格納されていない。つまり、その右上隣接マクロブロックは、右分割符号化ピクチャPic2にあるために、第2の復号化回路102によって復号化され、その右上隣接マクロブロックの周辺情報は第2のメモリバンク142に格納されている。
そこで、第1の復号化回路101は、左分割符号化ピクチャPic1の上端にない右端復号化対象ブロックを復号化するときには、第2のメモリバンク142に格納されている右上隣接マクロブロックの周辺情報を右周辺情報として取得し、その右周辺情報を参照して右端復号化対象ブロックを復号化する。
上述と同様、右分割符号化ピクチャPic2において、復号化対象マクロブロックが左端復号化対象ブロックである場合には、その左端復号化対象ブロックの復号化に必要な左隣接マクロブロック(および左上隣接マクロブロック)の周辺情報が第2のメモリバンク142に格納されていない。つまり、その左隣接マクロブロック(および左上隣接マクロブロック)は、左分割符号化ピクチャPic1にあるために、第1の復号化回路101によって復号化され、その左隣接マクロブロック(および左上隣接マクロブロック)の周辺情報は第1のメモリバンク141に格納されている。
そこで、第2の復号化回路102は、右分割符号化ピクチャPic2の左端復号化対象ブロックを復号化するときには、第1のメモリバンク141に格納されている左隣接マクロブロック(および左上隣接マクロブロック)の周辺情報を左周辺情報として取得し、その左周辺情報を参照して左端復号化対象ブロックを復号化する。
第1の転送完了検出部104は、右端復号化対象ブロックの復号化に必要な右周辺情報が第1の復号化回路101に転送されたか否か、すなわち右周辺情報が第2のメモリバンク142に格納されたか否かを判別し、格納されたと判別したときには、その右周辺情報が転送されたことを第1の復号化回路101に通知する。
第2の転送完了検出部105は、左端復号化対象ブロックの復号化に必要な左周辺情報が第2の復号化回路102に転送されたか否か、すなわち左周辺情報が第1のメモリバンク141に格納されたか否かを判別し、格納されたと判別したときには、その左周辺情報が転送されたことを第2の復号化回路102に通知する。
なお、本変形例では、第1および第2の復号化回路101,102は全ての周辺情報を第1および第2のメモリバンク141,142に格納したが、左周辺情報および右周辺情報だけを第1および第2のメモリバンク141,142に格納してもよい。
(変形例2)
ここで本実施の形態における第2の変形例について説明する。本変形例に係る画像復号化装置では、第1の変形例と同様、第1の復号化回路101と第2の復号化回路102との間における左周辺情報および右周辺情報の受け渡し方が上記実施の形態1の画像復号化装置100と異なる。
図9は、本変形例に係る画像復号化装置の構成を示すブロック図である。
本変形例に係る画像復号化装置100bは、第1の復号化回路101と、第2の復号化回路102と、第1の転送完了検出部104と、第2の転送完了検出部105と、セレクタ151とを備えている。つまり、本変形例に係る画像復号化装置100bは、上記実施の形態1の画像復号化装置100のように分割部130および情報転送バス103を備えず、セレクタ151を用いて、第1および第2の復号化回路のそれぞれに、右周辺情報または左周辺情報が混在するストリームを処理させる点に特徴がある。
なお、図9において、上記実施の形態1の画像復号化装置100の構成要素と同一の機能および構成を有する構成要素については、画像復号化装置100の構成要素と同一の符号を付して詳細な説明を省略する。
セレクタ151は、符号化ストリームStrを取得して第1の復号化回路101に出力する。さらに、セレクタ151は、符号化ストリームStrを取得しているときに、第2の復号化回路102から右周辺情報Inf2を取得すると、符号化ストリームStrの出力を停止してその右周辺情報Inf2を出力する。そして、セレクタ151は、その右周辺情報Inf2の出力が完了すると、符号化ストリームStrの出力を再開する。このように、セレクタ151は、符号化ストリームStrまたは右周辺情報Inf2を選択して第1の復号化回路101に出力する。その結果、セレクタ151は、符号化ストリームStrの途中に右周辺情報Inf2が混在するような選択ストリームStraを第1の復号化回路101に出力する。
第1の転送完了検出部104は、セレクタ151から第1の復号化回路101に右周辺情報Inf2が転送されたことを検出すると、そのことを第1の復号化回路101に通知する。
第1の復号化回路101は、選択ストリームStraをセレクタ151から取得すると、その選択ストリームStraから左分割符号化ピクチャPic1に属する部分を抽出して復号化する。このとき、第1の復号化回路101は、第1の転送完了検出部104から、右周辺情報Inf2が転送されたことが通知されると、その右周辺情報Inf2を参照して左分割符号化ピクチャPic1の右端復号化対象ブロックの復号化を行う。
さらに、第1の復号化回路101は、選択ストリームStraから右分割符号化ピクチャPic2に属する部分を抽出し、その部分に、上述の復号化によって得られた左周辺情報を付加する。そして、第1の復号化回路101は、右分割符号化ピクチャPic2に属する部分にその左周辺情報が付加された集合を加工ストリームStrbとして第2の復号化回路102に出力する。
第2の転送完了検出部105は、第1の復号化回路101から第2の復号化回路102に左周辺情報が転送されたことを検出すると、そのことを第2の復号化回路102に通知する。
第2の復号化回路102は、加工ストリームStrbを第1の復号化回路101から取得すると、その加工ストリームStrbに含まれる右分割符号化ピクチャPic2に属する部分を復号化する。このとき、第2の復号化回路102は、第2の転送完了検出部105から、左周辺情報が転送されたことが通知されると、その左周辺情報を参照して右分割符号化ピクチャPic2の左端復号化対象ブロックの復号化を行う。さらに、第2の復号化回路102は、その復号化によって生成された右周辺情報Inf2を第1の復号化回路101に出力する。
図10Aは、符号化ストリームの構成を示す図である。
符号化ストリームStrは、左分割符号化ピクチャPic1のマクロブロックラインに相当する部分ストリームStr1と、右分割符号化ピクチャPic2のマクロブロックラインに相当する部分ストリームStr2とが交互に配列して構成されている。
図10Bは、加工ストリームStrbの構成を示す図である。
加工ストリームStrbは、左周辺情報Inf1と、右分割符号化ピクチャPic2のマクロブロックラインに相当する部分ストリームStr2とが交互に配列して構成されている。
図10Cは、選択ストリームStraの構成を示す図である。
選択ストリームStraは、符号化ストリームStrに含まれる部分ストリームStr1および部分ストリームStr2と、右周辺情報Inf2とが交互に配列して構成されている。
このように、本変形例では、符号化ピクチャPicの全てまたは一部を含むストリームに周辺情報を付加して第1および第2の復号化回路101,102のそれぞれに入力させる。
(変形例3)
ここで本実施の形態における第3の変形例について説明する。本変形例に係る画像復号化装置100は、MBAFF(Macro Block Adaptive Frame Field)に対応している点に特徴がある。
図11Aは、符号化ピクチャPicがMBAFFで構成されている場合のマクロブロックの復号化順を示す図である。なお、図11A中の各マクロブロックMB内に示される数字(Nは2以上の整数)は、マクロブロックが復号化される順番を示す。
符号化ピクチャPicがMBAFFで構成されている場合には、符号化ピクチャPicを2マクロブロックラインごとに復号化しなければならない。つまり、1番目のマクロブロックMBを復号化すると、その下に隣接する2番目のマクロブロックを復号化し、次にその右上に隣接する3番目のマクロブロックを復号化し、次にその下に隣接する4番目のマクロブロックを復号化しなければならない。
そこで、本変形例に係る画像復号化装置100の第1および第2の復号化回路101,102はそれぞれ、左分割符号化ピクチャPic1または右分割符号化ピクチャPic2において、上述の図11Aに示す順番にマクロブロックを復号化する。
図11Bは、符号化ピクチャPicがMBAFFで構成されている場合の周辺情報を説明するための説明図である。
第1および第2の復号化回路101,102はそれぞれ、例えば、上下に隣接するマクロブロックMBpa,MBpbからなるマクロブロックペアMBp1を復号化する。このとき、第1および第2の復号化回路101,102はそれぞれ、マクロブロックペアMBp1に隣接する4つのマクロブロックペアMBp2〜MBp5の復号化結果を示す周辺情報を参照する。ここで、マクロブロックペアMBp2は、マクロブロックMBpc,MBpdからなり、マクロブロックペアMBp1の左に隣接する。マクロブロックペアMBp3は、マクロブロックMBpe,MBpfからなり、マクロブロックペアMBp1の左上に隣接する。マクロブロックペアMBp4は、マクロブロックMBpg,MBphからなり、マクロブロックペアMBp1の上に隣接する。マクロブロックペアMBp5は、マクロブロックMBpi,MBpjからなり、マクロブロックペアMBp1の右上に隣接する。
つまり、本変形例に係る画像復号化装置100は、符号化ピクチャがMBAFFで構成されている場合には、上下に隣接する2つのマクロブロックを1つのマクロブロックとして扱うことにより、上記実施の形態と同様の効果を得ることができる。
(実施の形態2)
本実施の形態における画像符号化装置は、H.264に従ってピクチャをマクロブロックごとに符号化する装置であって、実施の形態1の画像符号化装置と同様の特徴を有する。本実施の形態における画像符号化装置と、実施の形態1の画像符号化装置との違いは、マクロブロックを符号化するか復号化するかの違いだけであるが、以下、図12〜16を用いて詳細に説明する。
図12は、本発明の実施の形態2における画像符号化装置の構成を示すブロック図である。
本実施の形態における画像符号化装置200は、動画像データPinを分割して分割動画像データPin1,Pin2を出力する分割部230と、一方の分割動画像データPin1を符号化する第1の符号化回路201と、その第1の符号化回路201による符号化処理と並列に他方の分割動画像データPin2を符号化する第2の符号化回路202と、第1および第2の符号化回路201,202の間で情報を転送するための情報転送バス203と、第1および第2の符号化回路201,202の間で行われる情報の転送が完了したことを検出する第1および第2の転送完了検出部204,205とを備えている。
なお、第1の符号化回路201および第1の転送完了検出部204は、図12の点線の枠に示すように、例えばLSI(Large Scale Integration)などの1つの集積回路とし
て構成されていてもよく、同様に、第2の符号化回路202および第2の転送完了検出部205も、例えばLSIなどの1つの集積回路として構成されていてもよい。また、本実施の形態における第1および第2の符号化回路201,202による符号化には、符号化された画像を他の画像の符号化のために復号化するローカル復号化も含まれている。また、本実施の形態では、第1の符号化回路201および第2の符号化回路202のそれぞれには、上記情報転送バス203を介して他方の符号化回路に左周辺情報または右周辺情報(転送対象周辺情報)を転送する転送部が備えられている。
分割部230は、動画像データPin中の各ピクチャの左側の部分(左分割ピクチャ)が分割動画像データPin1に含まれ、残りの右側の部分(右分割ピクチャ)が分割動画像データPin2に含まれるように、動画像データPinを分割する。なお、分割部230は、各ピクチャに含まれるマクロブロックのマクロブロック(MB)アドレスに基づいて、動画像データPinを分割する。
第1の符号化回路201は、分割部230から分割動画像データPin1を取得して符号化する。具体的には、第1の符号化回路201は、分割動画像データPin1に含まれる左分割ピクチャを順次符号化する。このとき、第1の符号化回路201は、左分割ピクチャにおいて上端にあるマクロブロックラインから下側に向けて、マクロブロックラインごとにその左分割ピクチャの符号化を行う。また、第1の符号化回路201は、マクロブロックラインを符号化するときには、左端のマクロブロックから右側に向かって、つまり水平方向にマクロブロックを順次符号化する。そして、第1の符号化回路201は、上述のような符号化によって生成される分割符号化ストリームまたはローカル復号化画像データからなる出力データ220を出力する。
さらに、第1の符号化回路201は、第2の符号化回路202による符号化処理において隣接マクロブロックの依存関係が満たされるように、左分割ピクチャの右端にあるマクロブロックを符号化すると、その符号化によって生成される左周辺情報を、情報転送バス203を介して第2の符号化回路202に転送する。
なお、隣接マクロブロックとは、符号化対象マクロブロックに対して左に隣接する左隣接マクロブロック、左上に隣接する左上隣接マクロブロック、上に隣接する上隣接マクロブロック、および右上に隣接する右上隣接マクロブロックの何れかである。また、隣接マクロブロックの依存関係とは、ピクチャに隣接マクロブロックが存在すれば、その隣接マクロブロックの符号化結果を示す周辺情報を参照して符号化対象マクロブロックが符号化(動きベクトル予測符号化、画面内予測符号化またはデブロックフィルタ処理)される関係をいう。なお、上記4つの隣接マクロブロックは、参照可能な周辺情報の最大範囲であって、全ての周辺情報が参照されなくてもよい。また、周辺情報とは、符号化対象マクロブロックが画面間予測符号化される場合には、隣接マクロブロックの動きベクトルと、符号化および復号化された画素値であり、符号化対象マクロブロックが画面内予測符号化される場合には、隣接マクロブロックの符号化および復号化された画素値である。また、左周辺情報とは、符号化対象マクロブロックが右分割ピクチャの左上端にある場合には、左分割ピクチャにある左隣接マクロブロックの周辺情報であり、符号化対象マクロブロックが右分割ピクチャの上端を除く左端にある場合には、左分割ピクチャにある左隣接マクロブロックおよび左上隣接マクロブロックの周辺情報である。
なお、本実施の形態では、周辺情報には、H.264などの符号化方式で定められている情報だけに限らず、他の情報が含まれていてもよい。例えば、符号化ストリームを制御するための使用済みビット量や、隣接マクロブロックの絵柄の特徴などを抽出したデータが周辺情報に含まれていてもよい。
第2の符号化回路202は、分割部230から分割動画像データPin2を取得して符号化する。具体的には、第2の符号化回路202は、分割動画像データPin2に含まれる右分割ピクチャを順次符号化する。このとき、第2の符号化回路202は、右分割ピクチャにおいて上端にあるマクロブロックラインから下側に向けて、マクロブロックラインごとにその右分割ピクチャの符号化を行う。なお、このマクロブロックラインとは、右分割ピクチャにおいて水平方向に配列する複数のマクロブロックからなるグループである。また、第2の符号化回路202は、マクロブロックラインを符号化するときには、左端のマクロブロックから右側に向かって、つまり水平方向にマクロブロックを順次符号化する。そして、第2の符号化回路202は、上述のような符号化によって生成される分割符号化ストリームまたはローカル復号化画像データからなる出力データ221を出力する。
さらに、第2の符号化回路202は、第1の符号化回路201による符号化処理において隣接マクロブロックの依存関係が満たされるように、右分割ピクチャの左端にあるマクロブロックを符号化すると、その符号化によって生成される右周辺情報を、情報転送バス203を介して第1の符号化回路201に転送する。なお、右周辺情報とは、符号化対象マクロブロックが左分割ピクチャの上端を除く右端にある場合には、右分割ピクチャにある右上隣接マクロブロックの周辺情報である。
第1の転送完了検出部204は、第1の符号化回路201による符号化処理に必要な右周辺情報が第2の符号化回路202から第1の符号化回路201に転送されたことを検出すると、そのことを第1の符号化回路201に通知する。第1の符号化回路201が左分割ピクチャの右端にあるマクロブロック(右端符号化対象ブロック)を符号化するときには、その右端符号化対象ブロックの右上に隣接するマクロブロック(右上隣接マクロブロック)が右分割ピクチャにあれば、その右上隣接マクロブロックの右周辺情報が必要である。したがって、第1の転送完了検出部204は、右上隣接マクロブロックの右周辺情報が転送されたことを検出すると、そのことを第1の符号化回路201に通知して、右端符号化対象ブロックの符号化を開始させる。言い換えれば、第1の符号化回路201は、右端符号化対象ブロックを符号化するときには、第1の転送完了検出部204からの通知がない限り、その符号化を行わずに待機し、その通知を受けたときに、その符号化を開始する。
第2の転送完了検出部205は、第2の符号化回路202による符号化処理に必要な左周辺情報が第1の符号化回路201から第2の符号化回路202に転送されたことを検出すると、そのことを第2の符号化回路202に通知する。第2の符号化回路202が右分割ピクチャの左端にあるマクロブロック(左端符号化対象ブロック)を符号化するときには、その左端符号化対象ブロックの左上に隣接するマクロブロック(左上隣接マクロブロック)、および左に隣接するマクロブロック(左隣接マクロブロック)が左分割ピクチャにあれば、その左上隣接マクロブロックおよび左隣接マクロブロックの左周辺情報が必要である。また、左上隣接マクロブロックがなく、左隣接マクロブロックだけが左分割ピクチャにあれば、その左隣接マクロブロックの左周辺情報が必要である。したがって、第2の転送完了検出部205は、左上隣接マクロブロックおよび左隣接マクロブロックの左周辺情報が転送されたこと、または左隣接マクロブロックの左周辺情報だけが転送されたことを検出すると、そのことを第2の符号化回路202に通知して、左端符号化対象ブロックの符号化を開始させる。言い換えれば、第2の符号化回路202は、左端符号化対象ブロックを符号化するときには、第2の転送完了検出部205からの通知がない限り、その符号化を行わずに待機し、その通知を受けたときに、その符号化を開始する。
このような画像符号化装置200では、第1の符号化回路201は、マクロブロックを符号化すると、その符号化によって得られた情報を他のマクロブロックの符号化に必要な周辺情報として、第1の符号化回路201に備えられたメモリに格納する。そして、第1の符号化回路201は、マクロブロックを符号化するときに、そのマクロブロックに隣接する4つの隣接マクロブロック(左隣接マクロブロック、左上隣接マクロブロック、上隣接マクロブロック、および右上隣接マクロブロック)の何れかがピクチャにあれば、その隣接マクロブロックの符号化によって得られてメモリに格納されている周辺情報を参照して符号化対象のマクロブロックを符号化する。しかし、第1の符号化回路201がピクチャにある隣接マクロブロックを符号化しておらず、第2の符号化回路202がその隣接マクロブロックを符号化している場合には、その隣接マクロブロックの周辺情報は第1の符号化回路201のメモリに格納されていない。そこで、第1の符号化回路201は、第2の符号化回路202から転送される隣接マクロブロックの周辺情報を右周辺情報として取得してメモリに格納し、ピクチャに存在する全ての隣接マクロブロックの周辺情報が揃ったときに、右周辺情報を含む全ての周辺情報を参照して符号化対象のマクロブロックを符号化する。
同様に、第2の符号化回路202は、マクロブロックを符号化すると、その符号化によって得られた情報を他のマクロブロックの符号化に必要な周辺情報として、第2の符号化回路202に備えられたメモリに格納する。そして、第2の符号化回路202は、マクロブロックを符号化するときに、そのマクロブロックに隣接する4つの隣接マクロブロック(左隣接マクロブロック、左上隣接マクロブロック、上隣接マクロブロック、および右上隣接マクロブロック)の何れかがピクチャにあれば、その隣接マクロブロックの符号化によって得られてメモリに格納されている周辺情報を参照して符号化対象マクロブロックを符号化する。しかし、第2の符号化回路202がピクチャにある隣接マクロブロックを符号化しておらず、第1の符号化回路201がその隣接マクロブロックを符号化している場合には、その隣接マクロブロックの周辺情報は第2の符号化回路202のメモリに格納されていない。そこで、第2の符号化回路202は、第1の符号化回路201から転送される隣接マクロブロックの周辺情報を左周辺情報として取得してメモリに格納し、ピクチャに存在する全ての隣接マクロブロックの周辺情報が揃ったときに、左周辺情報を含む全ての周辺情報を参照して符号化対象のマクロブロックを符号化する。
このように本実施の形態における画像符号化装置200では、第1および第2の符号化回路201,202との間で左周辺情報および右周辺情報が転送されることにより、隣接マクロブロックの符号化結果を利用したH.264に即したマクロブロックの符号化を実現することができる。
図13は、本実施の形態における画像符号化装置200の動作を説明するための説明図である。
分割部230は、ピクチャPicを左右2つに分割することにより、左分割ピクチャPic1および右分割ピクチャPic2を生成する。
ここで、ピクチャPicは、水平方向および垂直方向に配列された複数のマクロブロックMBから構成されている。また、第1および第2の符号化回路201,202は、ピクチャPicのマクロブロックラインを符号化するときには、複数のマクロブロックを水平方向に順次符号化する。なお、図13中の各マクロブロックMB内に示される1〜2N+2の数字(Nは2以上の整数)は、マクロブロックが符号化されるおおよその順番を示す。したがって、分割部230は、第1および第2の符号化回路201,202によるマクロブロックの符号化方向に対して直交する方向にピクチャPicを分割している。つまり、分割部230は、左分割ピクチャPic1と右分割ピクチャPic2との境界線が上述の符号化方向と直交するようにピクチャPicを分割している。
なお、本実施の形態における分割部230は、左分割ピクチャPic1および右分割ピクチャPic2がそれぞれ同サイズとなるように、ピクチャPicを分割している。その結果、左分割ピクチャPic1および右分割ピクチャPic2のそれぞれのマクロブロックラインに含まれるマクロブロックの数は共にN個である。
第1の符号化回路201は左分割ピクチャPic1を符号化し、第2の符号化回路202は右分割ピクチャPic2を符号化する。
具体的には、まず、第1の符号化回路201は、左分割ピクチャPic1の上端のマクロブロックライン、つまり左上端のマクロブロックMB(1番目)から右上端のマクロブロックMB(N番目)までの各マクロブロックMBを順次符号化する。N番目のマクロブロックMBは左分割ピクチャPic1において右端にあるため、第1の符号化回路201は、そのN番目のマクロブロックMBを符号化して得られた左周辺情報を第2の符号化回路202に転送する。
次に、第1の符号化回路201は、左分割ピクチャPic1の上から2番目のマクロブロックライン、つまりN+1番目のマクロブロックMBから2N番目のマクロブロックMBまでの各マクロブロックMBを順次符号化する。このとき、第2の符号化回路202は、右分割ピクチャPic2の上端のマクロブロックライン、つまり左上端のマクロブロックMB(N+1番目)から右上端のマクロブロックMB(2N番目)までの各マクロブロックMBを順次符号化する。つまり、第1および第2の符号化回路201,202は、左分割ピクチャPic1の上から2番目のマクロブロックラインの符号化と、右分割ピクチャPic2の上端のマクロブロックラインの符号化とを並列に実行する。
ここで、第2の符号化回路202は、右分割ピクチャPic2のN+1番目のマクロブロックMBを符号化するときには、そのマクロブロックMBが左端符号化対象ブロックであるため、その左端符号化対象ブロックMBを符号化するための左周辺情報を要する。ピクチャPicでは、この左端符号化対象ブロックMB(N+1番目)に対して、左分割ピクチャPic1のN番目のマクロブロックMBが左隣接マクロブロックとして隣接している。そこで、第2の符号化回路202は、上述のN+1番目の左端符号化対象ブロックを符号化するために、この左隣接マクロブロックの符号化結果を示す左周辺情報を要する。したがって、第2の符号化回路202は、左隣接マクロブロックの左周辺情報が第1の符号化回路201から転送されたことが通知されるまで、その左端符号化対象ブロックの符号化を行わずに待機し、通知された後に符号化を行う。
また、第1の符号化回路201は、左分割ピクチャPic1の2N番目のマクロブロックMBを符号化するときには、そのマクロブロックMBが右端符号化対象ブロックであるため、その右端符号化対象ブロックを符号化するための右周辺情報を要する。ピクチャPicでは、この右端符号化対象ブロックMB(2N番目)に対して、右分割ピクチャPic2のN+1番目のマクロブロックMBが右上隣接マクロブロックとして隣接している。そこで、第1の符号化回路201は、上述の2N番目の右端符号化対象ブロックを符号化するために、この右上隣接マクロブロックの符号化結果を示す右周辺情報を要する。したがって、第1の符号化回路201は、右上隣接マクロブロックの右周辺情報が第2の符号化回路202から転送されたことが通知されるまで、その右端符号化対象ブロックの符号化を行わずに待機し、通知された後に符号化を行う。
次に、第1の符号化回路201は、左分割ピクチャPic1の上から3番目のマクロブロックライン、つまり2N+1番目のマクロブロックMBから3N番目のマクロブロックMBまでの各マクロブロックMBを順次符号化する。このとき、第2の符号化回路202は、右分割ピクチャPic2の上から2番目のマクロブロックライン、つまり2N+1番目のマクロブロックMBから3N番目のマクロブロックMBまでの各マクロブロックMBを順次符号化する。これにより、第1および第2の符号化回路201,202は、左分割ピクチャPic1の上から3番目のマクロブロックラインの符号化と、右分割ピクチャPic2の上から2番目のマクロブロックラインの符号化とを並列に実行する。
ここで、第2の符号化回路202は、右分割ピクチャPic2の2N+1番目のマクロブロックMBを符号化するときには、そのマクロブロックMBが左端符号化対象ブロックであるため、その左端符号化対象ブロックMBを符号化するための左周辺情報を要する。ピクチャPicでは、この左端符号化対象ブロックMB(2N+1番目)に対して、左分割ピクチャPic1のN番目のマクロブロックMBが左上隣接マクロブロックとして隣接しているとともに、左分割ピクチャPic1の2N番目のマクロブロックMBが左隣接マクロブロックとして隣接している。そこで、第2の符号化回路202は、上述の2N+1番目の左端符号化対象ブロックを符号化するために、この左隣接マクロブロックおよび左上隣接マクロブロックの符号化結果を示す左周辺情報を要する。したがって、第2の符号化回路202は、左隣接マクロブロックおよび左上隣接マクロブロックの左周辺情報が第1の符号化回路201から転送されたことが通知されるまで、その左端符号化対象ブロックの符号化を行わずに待機し、通知された後に符号化を行う。
図14は、第1の符号化回路201と第2の符号化回路202の処理のタイミングの一例を示す図である。なお、この図14に示すタイミングは、第1および第2の符号化回路201,202の処理動作を分かり易く示すための一例である。
まず、第1の符号化回路201は、時刻t0に、左分割ピクチャPic1の上から1番目のマクロブロックラインL1の符号化を開始する。時刻t1にマクロブロックラインL1の符号化が終了すると、第1の符号化回路201は、右端符号化対象ブロックの符号化結果を示す左周辺情報を第2の符号化回路202に転送する。さらに、第1の符号化回路201は、左分割ピクチャPic1の上から2番目のマクロブロックラインL2の符号化を開始する。また、第2の符号化回路202は、時刻t2に、第1の符号化回路201から転送された左周辺情報を取得すると、その左周辺情報を参照して、右分割ピクチャPic2の上端のマクロブロックラインR1の符号化を開始する。
ここで、第1の符号化回路201は、マクロブロックラインL2の右端から2番目のマクロブロックを符号化すると、次に符号化対象となるマクロブロック(右端符号化対象ブロック)の符号化に必要な右周辺情報がないために、時刻t3から符号化処理を停止して待機状態となる。一方、第2の符号化回路202は、時刻t4で、マクロブロックラインR1の左端符号化対象ブロックの符号化が完了すると、その符号化の結果を示す右周辺情報を第1の符号化回路201に転送する。
第1の符号化回路201は、時刻t5に、右周辺情報を第2の符号化回路202から取得し、その右周辺情報が第1の符号化回路201から転送されたことが第1の転送完了検出部204から通知されると、待機状態を解除し、その右周辺情報を参照してマクロブロックラインL2の右端符号化対象ブロックを符号化する。一方、第2の符号化回路202は、時刻t5に、マクロブロックラインR1の符号化が完了し、次のマクロブロックラインR2の符号化を開始しようとする。しかし、第2の符号化回路202は、マクロブロックラインR2の左端符号化対象ブロックの符号化に必要な左周辺情報がないために、時刻t5から符号化処理を停止して待機状態となる。
第1の符号化回路201は、時刻t6に、マクロブロックラインL2の右端符号化対象ブロックの符号化を完了すると、その符号化の結果を示す左周辺情報を第2の符号化回路202に転送する。さらに、第1の符号化回路201は、次のマクロブロックラインL3の符号化を開始する。一方、第2の符号化回路202は、時刻t7に、左周辺情報を第1の符号化回路201から取得し、その左周辺情報が第2の符号化回路202に転送されたことが第2の転送完了検出部205から通知されると、待機状態を解除し、その左周辺情報を参照してマクロブロックラインR2の符号化を開始し、左端符号化対象ブロックを符号化する。
そして、第1の符号化回路201は、マクロブロックラインL3の右端から2番目のマクロブロックを符号化すると、次に符号化対象となるマクロブロック(右端符号化対象ブロック)の符号化に必要な右周辺情報がないために、時刻t8から符号化処理を停止して待機状態となる。
図15は、第1の符号化回路201がマクロブロックラインを符号化するときの動作を示すフローチャートである。
まず、第1の符号化回路201は、符号化対象マクロブロックの符号化に必要な周辺情報が全て揃っているか否かを判別する(ステップS300)。例えば、第1の符号化回路201は、符号化対象マクロブロックが右端符号化対象ブロックである場合には、右周辺情報が転送されたことが第1の転送完了検出部204から通知されたか否かを判別する。ここで、第1の符号化回路201は、揃っていると判別すると(ステップS300のYes)、周辺情報を参照して符号化対象マクロブロックを符号化する(ステップS302)。一方、第1の符号化回路201は、揃っていないと判別すると(ステップS300のNo)、符号化対象マクロブロックを符号化できないために待機する。
ステップS302で符号化対象マクロブロックを符号化すると、第1の符号化回路201は、その符号化されたマクロブロックがマクロブロックラインの右端にあるか否かを判別する(ステップS304)。ここで、第1の符号化回路201は、右端にあると判別すると(ステップS304のYes)、その右端にあるマクロブロックが符号化された結果を示す左周辺情報を第2の符号化回路202に転送する(ステップS306)。一方、第1の符号化回路201は、右端にないと判別すると(ステップS304のNo)、その符号化されたマクロブロックの右隣にあるマクロブロックを次の符号化対象マクロブロックとしてステップS300からの処理を繰り返し実行する。これにより、マクロブロックラインが符号化され、このようなマクロブロックラインの符号化が繰り返されることによって、ピクチャPicの左分割ピクチャPic1が符号化される。
図16は、第2の符号化回路202がマクロブロックラインを符号化するときの動作を示すフローチャートである。
まず、第2の符号化回路202は、符号化対象マクロブロックの符号化に必要な周辺情報が全て揃っているか否かを判別する(ステップS400)。例えば、第2の符号化回路202は、符号化対象マクロブロックが左端符号化対象ブロックである場合には、左周辺情報が転送されたことが第2の転送完了検出部205から通知されたか否かを判別する。ここで、第2の符号化回路202は、揃っていると判別すると(ステップS400のYes)、周辺情報を参照して符号化対象マクロブロックを符号化する(ステップS402)。一方、第2の符号化回路202は、揃っていないと判別すると(ステップS400のNo)、符号化対象マクロブロックを符号化できないために待機する。
ステップS402で符号化対象マクロブロックを符号化すると、第2の符号化回路202は、その符号化されたマクロブロックがマクロブロックラインの左端にあるか否かを判別する(ステップS404)。ここで、第2の符号化回路202は、左端にあると判別すると(ステップS404のYes)、その左端にあるマクロブロックが符号化された結果を示す右周辺情報を第1の符号化回路201に転送する(ステップS406)。一方、第2の符号化回路202は、左端にないと判別すると(ステップS404のNo)、さらに、その符号化されたマクロブロックがマクロブロックラインの右端にあるか否かを判別する(ステップS408)。ここで、第1の符号化回路201は、右端にあると判別すると(ステップS408のYes)、そのマクロブロックラインの符号化処理を終了し、右端にないと判別すると(ステップS408のNo)、その符号化されたマクロブロックの右隣にあるマクロブロックを次の符号化対象マクロブロックとしてステップS400からの処理を繰り返し実行する。これにより、マクロブロックラインが符号化され、このようなマクロブロックラインの符号化が繰り返されることによって、ピクチャPicの右分割ピクチャPic2が符号化される。
以上のように、本実施の形態では、領域(左分割ピクチャPic1および右分割ピクチャPic2)間の境界線が符号化方向と直交しているため、それぞれの領域の画像に対する並列符号化において、ピクチャPic内の全てのマクロブロックが順次符号化されるごとに周辺情報がわざわざ転送されることがなく、その境界線の一部を含むマクロブロックが符号化されたときにだけ周辺情報が左周辺情報または右周辺情報として転送される。したがって、従来のように、周辺情報が頻繁に転送されることがなく、転送頻度を抑えることができる。その結果、マクロブロックの符号化に周辺情報が必要となるH.264などの符号化方式であっても、隣接マクロブロックの依存関係を解消しながら、並列処理のオーバーヘッドを抑えて並列化効率を向上することができる。また、従来では、マクロブロックラインの数だけ多くの符号化部が必要となり、その符号化部によって生成される周辺情報を格納するメモリがその符号化部の数だけ必要となり、多くのメモリ容量を要する。しかし、本実施の形態では、符号化部の数を抑えて、装置全体に用いられるメモリ容量を減らすことができる。その結果、回路コストの低減、高性能化および低コスト化を図ることができる。
(実施の形態3)
本実施の形態は、実施の形態1の画像復号化装置と実施の形態2の画像符号化装置の応用例であって、H.264レコーダを実現するAV処理部である。
図17は、AV処理部のブロック図である。
本実施の形態におけるAV処理部300は、ディジタル圧縮された音声及び画像を再生するDVDレコーダやハードディスクレコーダなどのAV処理部であって、例えばLSIなどの集積回路として構成されている。このAV処理部300は、上記実施の形態1および2の画像復号化装置および画像符号化装置の機能および構成を兼ね備える画像符号化復号化部301と、音声符号化復号化部302と、画像入出力部303と、画像処理部304と、音声入出力部305と、音声処理部306と、バス307と、AV制御部308と、メモリ入出力部309と、ストリーム入出力部311とを備えている。
メモリ310は、ストリームデータや符号化データや復号化データなどのデータを格納する領域を有し、メモリ入出力部309に接続している。
バス307は、音声と画像を示すストリームデータStrdや音声・画像の復号データなどのデータを転送する。ストリーム入出力部311は、ストリームデータStrdを取得し、バス307に接続している。
画像符号化復号化部301は、画像の符号化及び復号化を行い、バス307に接続している。
ここで、画像符号化復号化部301は、実施の形態1の画像復号化装置100,100aまたは100bと、実施の形態2の画像符号化装置200とを含むものである。ストリームデータStrdは、図1に示している符号化ストリームStrや図12の出力データ220,221を含んでいる。さらにメモリ310とAV処理部300の間の信号には、同じく図1に示している復号化画像データ120,121や図12の動画像データPinが含まれる。復号化画像データ120,121や図12の動画像データPinは、画像入出力部303に入力される画像信号VSigに含まれていても良い。
画像処理部304は、画像信号VSigに対してプレ処理及びポスト処理を行い、バス307に接続している。画像入出力部303は、画像処理部304で処理したもしくは画像処理部304で処理をせずに通過だけさせた画像信号VSigを外部に出力する。または、画像入出力部303は外部からの画像信号VSigを取り込む。
音声処理部306は、音声信号ASigに対してプレ処理及びポスト処理を行い、バス307に接続している。音声入出力部305は、音声処理部306で処理したもしくは音声処理部306で処理をせずに通過だけさせた音声信号ASigを外部に出力する。または、音声入出力部305は外部からの音声信号ASigを取り込む。また、AV制御部308はAV処理部300の全体制御を行う。
符号化処理においては、最初に画像信号VSigが画像入出力部303に入力され、音声信号ASigが音声入出力部305に入力される。
記録処理では、画像入出力部303に入力された画像信号VSigを用いて、画像処理部304においてフィルタ処理や符号化のための特徴量抽出などを行う。そして、メモリ入出力部309を介してメモリ310に画像信号VSigを原画像として格納する。次に、再びメモリ入出力部309を介してメモリ310から画像符号化復号化部301に、原画像データと参照画像データの転送を行う。逆に画像符号化復号化部301からメモリ310に、画像符号化復号化部301で符号化した分割符号化ストリームとローカル復号化画像データの転送を行う。
一方、音声入出力部305に入力された音声信号ASigを用いて、音声処理部306においてフィルタ処理や符号化のための特徴量抽出などを行う。そして、メモリ入出力部309を介してメモリ310に音声信号ASigを原音声データとして格納する。次に、再びメモリ入出力部309を介してメモリ310から、原音声データを取り出して符号化し、再度音声ストリームデータとしてメモリ310に格納する。
符号化処理の最後に、画像ストリームと音声ストリーム及びその他のストリーム情報を一つのストリームデータとして処理し、ストリーム入出力部311を介してストリームデータStrdを出力する。そして、光ディスク(例えばDVD)やハードディスク(HDD)などの大容量蓄積デバイスに書き込む処理を行う。
次に復号化処理では以下のような動作を行う。まず、光ディスクやハードディスクや半導体メモリなどの大容量蓄積デバイスから、記録処理で蓄積しているデータの読み出しを行う。これにより音声及び画像の信号がストリームデータStrdとしてストリーム入出力部311を介して入力される。そのストリームデータStrdから画像ストリームは画像符号化復号化部301に入力され、音声ストリームは音声符号化復号化部302に入力される。
画像符号化復号化部301によって復号化された画像データは、メモリ入出力部309を介して一時メモリ310に格納される。メモリ310に格納されたデータに対して、画像処理部304でノイズ除去などの加工処理が行われる。また、メモリ310に格納された画像データは再び画像符号化復号化部301において、画面間動き補償予測の参照ピクチャとして使用されることもある。
また、音声符号化復号化部302によって復号化された音声データは、メモリ入出力部309を介して一時メモリ310に格納される。メモリ310に格納されたデータに対して、音声処理部306で音響などの加工処理が行われる。
最後に、音声と画像の時間的な同期をとりながら、画像処理部304で加工処理したデータは画像入出力部303を介して画像信号VSigとして出力され、テレビ画面などに表示される。音声処理部306で加工処理したデータは音声入出力部305を介して音声信号ASigとして出力され、スピーカなどから出力される。
なお、本実施の形態では、AV処理部300を1つのLSIとして構成したが、複数のLSIとして構成してもよい。この場合、LSIのそれぞれに、上記実施の形態1および2における第1の復号化回路101、第2の復号化回路102、第1の符号化回路201、または第2の符号化回路202を個別に備えても良い。
以上、本発明に係る画像復号化装置および画像符号化装置について、上記実施の形態1および2とその変形例を用いて説明したが、本発明はこれらに限定されるものではない。
なお、以下では、第1および第2の復号化回路と第1および第2の符号化回路を総称して第1および第2の処理回路(または単に処理回路)といい、復号化および符号化のそれぞれを総称して共にコーデック処理という。また、符号化ピクチャを原画像のピクチャと区別する必要がない場合には、その符号化ピクチャを単にピクチャという。
例えば、上記実施の形態1および2とその変形例では、各処理回路が並列にマクロブロックをコーデック処理するときには、各処理回路はラスタースキャン的に水平方向に沿ってマクロブロックを順次コーデック処理したが、垂直方向に沿ってマクロブロックを順次コーデック処理してもよい。この場合には、分割部は、分割の境界線が水平方向に沿うようにピクチャを分割する。これにより、例えば、ピクチャが分割されることによって生成される2つの分割ピクチャは上下に垂直方向に配列された状態となり、上側の分割ピクチャと下側の分割ピクチャとが並列にコーデック処理される。
また、分割部は、処理回路によってコーデック処理されるマクロブロックの順序に沿った方向に応じて、適応的に分割の方向、すなわち境界線の方向を切り替えてもよい。さらに、上記実施の形態1および2とその変形例では、分割部は、左側の領域と右側の領域の大きさが等しくなるようにピクチャを分割したが、それらの領域の大きさを異ならせてもよい。例えば、分割部は、第1の処理回路と第2の処理回路がそれぞれに割り当てられた領域を復号化する時間が等しくなるように、ピクチャの内容に応じて左側の領域の大きさと右側の領域の大きさとを異ならせる。また、分割部は、ピクチャの内容に応じて、第1の処理回路と第2の処理回路とでそれぞれに割り当てられる領域を入れ替えてもよい。例えば、分割部は、左分割符号化ピクチャが第1の復号化回路で復号化され、右分割符号化ピクチャが第2の復号化回路で復号化されている状態から、左分割符号化ピクチャが第2の復号化回路で復号化され、右分割符号化ピクチャが第1の復号化回路で復号化される状態に切り替える。また、画像復号化装置および画像符号化装置のそれぞれに分割部を備えずに、各処理回路が自らに対応付けられた領域をピクチャから抽出して復号化してもよい。この場合には、抽出すべき領域を各処理回路に指示して抽出させる制御部を画像復号化装置または画像符号化装置に備えてもよい。
また、上記実施の形態1および2とその変形例では、ピクチャを2つに分けてコーデック処理したが、3つ以上に分けてそれらの領域を並列にコーデック処理してもよい。この場合には、画像復号化装置または画像符号化装置は3つ以上の処理回路を備える。
また、上記実施の形態1および2とその変形例では、H.264の符号化方式に従ってピクチャをコーデック処理したが、この符号化方式に限らず、隣接マクロブロックの情報を参照しコーデック処理を行う符号化方式であればどのような符号化方式に従ってもよい。
また、上記実施の形態1および2では、情報転送バスは、左周辺情報または右周辺情報などの情報を処理回路間で双方向に転送可能な1つのバスとして構成されているが、それぞれ単方向に転送可能な複数のバスから構成されていてもよい。また、左周辺情報または右周辺情報を処理回路間で受け渡すための手段は、このような情報転送バスに限らず、実施の形態1の変形例1および2のように、複数の処理回路に共有される複数のメモリバンクや、ストリームの全てまたは一部に左周辺情報または右周辺情報を付加してそのストリームを加工する手段などであってもよく、それらの情報を処理回路間で受け渡せるものであればどのような手段や構成であってもよい。
また、上記実施の形態1および2では、画像復号化装置および画像符号化装置はそれぞれ、第1の処理回路と第1の転送完了検出部とを含む1つの集積回路(例えばLSI)と、第2の処理回路と第2の転送完了検出部とを含む1つの集積回路とを備えていたが、処理回路および転送完了検出部のそれぞれを個別に1チップ化してもよく、装置内に含まれる全ての構成要素または一部の構成要素を含むように、その全てまたは一部の構成要素を1チップ化してもよい。全てを1チップ化する場合には、画像復号化装置および画像符号化装置が例えば単一のLSI内に統合されたシステムとして実現される。また、各構成要素のうち、符号化または復号化の対象となるデータを格納する手段だけ1チップ化せずに別構成としても良い。
また、ここでは集積回路をLSIとしたが、集積度の違いにより、その集積回路はIC(Integrated Circuit)、システムLSI、スーパーLSI、またはウルトラLSIと呼称されることもある。また、集積回路化の手法はLSIに 限るものではなく、専用回路
または汎用プロセッサで実現しても良い。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を
再構成可能なリコンフィギュラブルプロセッサを利用しても良い。さらには、半導体技術の進歩または派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行っても良い。バイオ技術の適応等が可能性としてありえる。
また、本発明の画像復号化装置および画像符号化装置は、上記実施の形態1および2とその変形例に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態や変形例における構成要素または処理方法を組み合わせて構築される形態も、本発明の範囲内に含まれる。
なお、本発明は、装置として実現できるだけでなく、その装置を構成する構成要素による処理をステップとする方法として実現したり、それらステップをコンピュータに実行させるプログラムとして実現したり、そのプログラムを記録したコンピュータ読み取り可能なCD−ROMなどの記録媒体として実現したり、そのプログラムを示す情報、データ又は信号として実現したりすることもできる。そして、それらプログラム、情報、データ及び信号は、インターネット等の通信ネットワークを介して配信してもよい。
本発明にかかる画像復号化装置および画像符号化装置は、並列処理のオーバーヘッドを抑えて並列化効率を向上し、回路コストの低減を図ることができるという効果を奏し、例えば、撮影および画像再生機能を有する携帯電話やパーソナルコンピュータ、画像録画再生装置などに適用することが可能となる。
100 画像復号化装置
101 第1の復号化回路
102 第2の復号化回路
103 情報転送バス
104 第1の転送完了検出部
105 第2の転送完了検出部
120、121 復号化画像データ
130 分割部
201 第1の符号化回路
202 第2の符号化回路
203 情報転送バス
204 第1の転送完了検出部
205 第2の転送完了検出部
230 分割部

Claims (5)

  1. ピクチャを構成するブロックごとに当該ピクチャを符号化する画像符号化装置であって、
    符号化対象ブロックを含む前記ピクチャに含まれるブロックの情報であって、前記符号化対象ブロックの周辺にあるブロックの符号化によって既に生成された情報を、周辺情報として参照して前記符号化対象ブロックを符号化することを繰り返すことにより、前記ピクチャ内のそれぞれに対応付けられた画像領域を符号化する複数の符号化部を備え、
    前記複数の符号化部のそれぞれは、
    符号化の際に参照される前記周辺情報を保持する記憶部を備え、
    前記複数の符号化部のそれぞれの記憶部は、前記ピクチャの水平方向のブロック数よりも少ない数のブロックの周辺情報を保持する
    画像符号化装置。
  2. 前記複数の符号化部のそれぞれの記憶部は、
    当該符号化部に対応付けられた画像領域の水平方向のブロック数よりも多く、且つ、前記ピクチャの水平方向のブロック数よりも少ない数のブロックの周辺情報を保持する
    請求項1に記載の画像符号化装置。
  3. 前記画像符号化装置は、さらに、互いに隣接するブロックが続けて符号化される順序に沿った符号化方向と直交した方向に前記ピクチャを分割する分割部を備え、
    前記複数の符号化部は、前記分割部による分割によって生成された、それぞれに対応付けられた前記画像領域を符号化する
    請求項1記載の画像符号化装置。
  4. 前記画像符号化装置は、さらに、分割されたピクチャの境界線が垂直となるように前記ピクチャを分割する分割部を備え、
    前記複数の符号化部は、前記分割部による分割によって生成された、それぞれに対応付けられた前記画像領域を符号化する
    請求項1記載の画像符号化装置。
  5. ピクチャを構成するブロックごとに当該ピクチャを符号化する画像符号化方法であって、
    符号化対象ブロックを含む前記ピクチャに含まれるブロックの情報であって、前記符号化対象ブロックの周辺にあるブロックの符号化によって既に生成された情報を、周辺情報として参照して前記符号化対象ブロックを符号化することを繰り返すことにより、前記ピクチャ内のそれぞれに対応付けられた画像領域を複数の符号化部を用いて符号化する符号化ステップを含み、
    前記符号化ステップでは、
    前記複数の符号化部のそれぞれは、符号化の際に参照される前記周辺情報を保持する記憶部を用い、
    前記複数の符号化部のそれぞれの記憶部は、前記ピクチャの水平方向のブロック数よりも少ない数のブロックの周辺情報を保持する
    画像符号化方法。
JP2014088561A 2008-05-23 2014-04-22 画像符号化装置および画像符号化方法 Expired - Fee Related JP5776008B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014088561A JP5776008B2 (ja) 2008-05-23 2014-04-22 画像符号化装置および画像符号化方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2008135133 2008-05-23
JP2008135133 2008-05-23
JP2014088561A JP5776008B2 (ja) 2008-05-23 2014-04-22 画像符号化装置および画像符号化方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013091698A Division JP5535367B2 (ja) 2008-05-23 2013-04-24 画像復号化装置および画像復号化方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2015040621A Division JP5945808B2 (ja) 2008-05-23 2015-03-02 画像符号化装置および画像符号化方法

Publications (2)

Publication Number Publication Date
JP2014161092A true JP2014161092A (ja) 2014-09-04
JP5776008B2 JP5776008B2 (ja) 2015-09-09

Family

ID=41339961

Family Applications (8)

Application Number Title Priority Date Filing Date
JP2009546593A Expired - Fee Related JP5259625B2 (ja) 2008-05-23 2009-05-21 画像復号化装置、画像復号化方法、画像符号化装置、及び画像符号化方法
JP2013091697A Expired - Fee Related JP5525640B2 (ja) 2008-05-23 2013-04-24 画像復号化装置、画像復号化方法、画像符号化装置、及び画像符号化方法
JP2013091698A Expired - Fee Related JP5535367B2 (ja) 2008-05-23 2013-04-24 画像復号化装置および画像復号化方法
JP2014088561A Expired - Fee Related JP5776008B2 (ja) 2008-05-23 2014-04-22 画像符号化装置および画像符号化方法
JP2015040621A Expired - Fee Related JP5945808B2 (ja) 2008-05-23 2015-03-02 画像符号化装置および画像符号化方法
JP2016095613A Expired - Fee Related JP6090728B2 (ja) 2008-05-23 2016-05-11 画像復号化装置および画像復号化方法
JP2017014734A Expired - Fee Related JP6281851B2 (ja) 2008-05-23 2017-01-30 画像復号化装置、画像符号化装置、画像復号化方法、画像符号化方法、プログラムおよび集積回路
JP2018003942A Pending JP2018078645A (ja) 2008-05-23 2018-01-15 画像復号化装置、画像符号化装置、画像復号化方法、画像符号化方法、プログラムおよび集積回路

Family Applications Before (3)

Application Number Title Priority Date Filing Date
JP2009546593A Expired - Fee Related JP5259625B2 (ja) 2008-05-23 2009-05-21 画像復号化装置、画像復号化方法、画像符号化装置、及び画像符号化方法
JP2013091697A Expired - Fee Related JP5525640B2 (ja) 2008-05-23 2013-04-24 画像復号化装置、画像復号化方法、画像符号化装置、及び画像符号化方法
JP2013091698A Expired - Fee Related JP5535367B2 (ja) 2008-05-23 2013-04-24 画像復号化装置および画像復号化方法

Family Applications After (4)

Application Number Title Priority Date Filing Date
JP2015040621A Expired - Fee Related JP5945808B2 (ja) 2008-05-23 2015-03-02 画像符号化装置および画像符号化方法
JP2016095613A Expired - Fee Related JP6090728B2 (ja) 2008-05-23 2016-05-11 画像復号化装置および画像復号化方法
JP2017014734A Expired - Fee Related JP6281851B2 (ja) 2008-05-23 2017-01-30 画像復号化装置、画像符号化装置、画像復号化方法、画像符号化方法、プログラムおよび集積回路
JP2018003942A Pending JP2018078645A (ja) 2008-05-23 2018-01-15 画像復号化装置、画像符号化装置、画像復号化方法、画像符号化方法、プログラムおよび集積回路

Country Status (4)

Country Link
US (2) US8897583B2 (ja)
JP (8) JP5259625B2 (ja)
CN (2) CN102957914B (ja)
WO (1) WO2009142021A1 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5275454B2 (ja) * 2009-03-31 2013-08-28 パナソニック株式会社 画像復号装置
JP5343703B2 (ja) 2009-05-22 2013-11-13 ソニー株式会社 復号処理装置、復号処理方法、およびプログラム
JP5482414B2 (ja) * 2010-05-07 2014-05-07 富士通セミコンダクター株式会社 動きベクトル生成回路及び動きベクトル生成方法
US8427348B2 (en) * 2010-05-14 2013-04-23 Arun Kumar Sagar Parallel processing of sequentially dependent digital data
US8988531B2 (en) 2010-07-08 2015-03-24 Texas Instruments Incorporated Method and apparatus for sub-picture based raster scanning coding order
EP2618580B1 (en) * 2010-09-16 2018-08-01 Panasonic Intellectual Property Management Co., Ltd. Image decoding device and image encoding device, methods therefor, programs thereof, integrated circuit, and transcoding device
GB2486726B (en) * 2010-12-23 2017-11-29 British Broadcasting Corp Compression of pictures
US8560719B2 (en) * 2011-09-14 2013-10-15 Mobitv, Inc. Fragment server directed device fragment caching
JP6094760B2 (ja) * 2012-02-07 2017-03-15 パナソニックIpマネジメント株式会社 画像処理装置および画像処理方法
US20140056363A1 (en) * 2012-08-23 2014-02-27 Yedong He Method and system for deblock filtering coded macroblocks
GB2520310A (en) * 2013-11-15 2015-05-20 Sony Corp A method, server, client and software
JP6127964B2 (ja) * 2013-12-26 2017-05-17 ソニー株式会社 信号切換装置および信号切換装置の動作制御方法
US9788078B2 (en) * 2014-03-25 2017-10-10 Samsung Electronics Co., Ltd. Enhanced distortion signaling for MMT assets and ISOBMFF with improved MMT QoS descriptor having multiple QoE operating points
CN110177279B (zh) * 2014-03-28 2021-10-08 联咏科技股份有限公司 视频处理装置与其视频处理电路
US10277913B2 (en) 2014-10-22 2019-04-30 Samsung Electronics Co., Ltd. Application processor for performing real time in-loop filtering, method thereof and system including the same
WO2016143093A1 (ja) * 2015-03-11 2016-09-15 株式会社日立製作所 動画像符号化装置及びそれに用いるIntra予測符号化方法、及び動画像復号化装置
CN106470341B (zh) 2015-08-17 2020-10-02 恩智浦美国有限公司 媒体显示系统
CN109479129B (zh) * 2016-07-18 2023-07-11 韩国电子通信研究院 图像编码/解码方法和装置以及存储比特流的记录介质
JP6847636B2 (ja) 2016-11-18 2021-03-24 ソニー・オリンパスメディカルソリューションズ株式会社 医療用信号処理装置及び医療用観察システム
KR102178110B1 (ko) * 2019-03-22 2020-11-12 주식회사 엘지유플러스 이동 통신 망에서의 영상 전송 방법
US11601656B2 (en) * 2021-06-16 2023-03-07 Western Digital Technologies, Inc. Video processing in a data storage device

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07162858A (ja) * 1993-12-10 1995-06-23 Matsushita Electric Ind Co Ltd 画像信号符号化装置と画像信号復号化装置
JPH0846974A (ja) * 1994-07-29 1996-02-16 Matsushita Electric Ind Co Ltd 動画像の動き補償符号化装置及び復号化装置
JPH09294262A (ja) * 1996-04-26 1997-11-11 Hitachi Ltd 画像符号化装置
JPH10327416A (ja) * 1997-05-22 1998-12-08 Toshiba Corp 動画像符号化装置
JP2000295616A (ja) * 1999-04-08 2000-10-20 Matsushita Electric Ind Co Ltd 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法及びプログラム記録媒体
JP2006129285A (ja) * 2004-10-29 2006-05-18 Sony Corp 符号化及び復号装置並びに符号化及び復号方法
JP2006295721A (ja) * 2005-04-13 2006-10-26 Pioneer Electronic Corp 画像符号化装置及び画像符号化方法
JP2007060487A (ja) * 2005-08-26 2007-03-08 Sony Corp 画像処理装置および画像処理方法、記録媒体、並びに、プログラム
JP2007251605A (ja) * 2006-03-16 2007-09-27 Matsushita Electric Ind Co Ltd 復号装置、復号方法、プログラムおよび記録媒体
JP2009246539A (ja) * 2008-03-28 2009-10-22 Ibex Technology Co Ltd 符号化装置、符号化方法、符号化プログラム、復号化装置、復号化方法および復号化プログラム

Family Cites Families (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2894962B2 (ja) * 1994-12-14 1999-05-24 沖電気工業株式会社 動きベクトル検出装置
JP4443784B2 (ja) 2000-12-07 2010-03-31 株式会社エヌ・ティ・ティ・ドコモ 画像符号化・復号方法、画像符号化装置及び画像復号装置
JP3997171B2 (ja) * 2003-03-27 2007-10-24 株式会社エヌ・ティ・ティ・ドコモ 動画像符号化装置、動画像符号化方法、動画像符号化プログラム、動画像復号装置、動画像復号方法、及び動画像復号プログラム
US7379608B2 (en) * 2003-12-04 2008-05-27 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung, E.V. Arithmetic coding for transforming video and picture data units
WO2006013854A1 (ja) * 2004-08-05 2006-02-09 Matsushita Electric Industrial Co., Ltd. 画像復号化装置および画像符号化装置
US8116379B2 (en) * 2004-10-08 2012-02-14 Stmicroelectronics, Inc. Method and apparatus for parallel processing of in-loop deblocking filter for H.264 video compression standard
US8223845B1 (en) * 2005-03-16 2012-07-17 Apple Inc. Multithread processing of video frames
US20060209950A1 (en) * 2005-03-16 2006-09-21 Broadcom Advanced Compression Group, Llc Method and system for distributing video encoder processing
US20060256854A1 (en) * 2005-05-16 2006-11-16 Hong Jiang Parallel execution of media encoding using multi-threaded single instruction multiple data processing
JP5089878B2 (ja) * 2005-10-28 2012-12-05 パナソニック株式会社 画像符号化装置
KR100644713B1 (ko) * 2005-10-31 2006-11-10 삼성전자주식회사 컨텍스트 기반 적응적 이진 산술 코딩 복호기에서 원소구문을 복호화하는 방법 및 이를 위한 복호화 장치
CN101371264A (zh) * 2006-01-10 2009-02-18 光明测量公司 用于在并行处理系统中处理多媒体数据的子块的方法和装置
JP2007251865A (ja) 2006-03-20 2007-09-27 Sony Corp 画像データの処理装置、画像データの処理方法、画像データの処理方法のプログラム及び画像データの処理方法のプログラムを記録した記録媒体
KR100959538B1 (ko) * 2006-03-30 2010-05-27 엘지전자 주식회사 비디오 신호를 디코딩/인코딩하기 위한 방법 및 장치
JP4182442B2 (ja) * 2006-04-27 2008-11-19 ソニー株式会社 画像データの処理装置、画像データの処理方法、画像データの処理方法のプログラム及び画像データの処理方法のプログラムを記録した記録媒体
US20070274398A1 (en) * 2006-05-23 2007-11-29 Metta Technology, Inc. Parallelization of Video Decoding on Single-Instruction, Multiple-Data Processors
JPWO2007136088A1 (ja) * 2006-05-24 2009-10-01 パナソニック株式会社 画像符号化装置、画像符号化方法、及び画像符号化用集積回路
JP4656003B2 (ja) * 2006-06-01 2011-03-23 沖電気工業株式会社 画像符号化装置及び画像符号化方法
JP4879269B2 (ja) * 2006-08-15 2012-02-22 富士通株式会社 復号化方法及び装置
SG140508A1 (en) * 2006-08-31 2008-03-28 St Microelectronics Asia Multimode filter for de-blocking and de-ringing
US9049461B2 (en) * 2006-08-31 2015-06-02 Ati Technologies Ulc Method and system for inter-prediction in decoding of video data
JP2008072647A (ja) * 2006-09-15 2008-03-27 Toshiba Corp 情報処理装置、デコーダおよび再生装置の動作制御方法
US20080123750A1 (en) * 2006-11-29 2008-05-29 Michael Bronstein Parallel deblocking filter for H.264 video codec
EP2127394A1 (en) * 2006-12-27 2009-12-02 Intel Corporation Methods and apparatus to decode and encode video information
US8265157B2 (en) * 2007-02-07 2012-09-11 Lsi Corporation Motion vector refinement for MPEG-2 to H.264 video transcoding
US20080225948A1 (en) * 2007-03-13 2008-09-18 National Tsing Hua University Method of Data Reuse for Motion Estimation
US8416857B2 (en) * 2007-03-29 2013-04-09 James Au Parallel or pipelined macroblock processing
US20080291999A1 (en) * 2007-05-24 2008-11-27 Julien Lerouge Method and apparatus for video frame marking
US20080298472A1 (en) * 2007-06-04 2008-12-04 Texas Instruments Incorporated Throughput Performance When Applying Deblocking Filters On Reconstructed Image Frames
JP5294688B2 (ja) * 2007-06-18 2013-09-18 キヤノン株式会社 動画像圧縮符号化装置
JP5011017B2 (ja) * 2007-07-30 2012-08-29 株式会社日立製作所 画像復号化装置
US8184715B1 (en) * 2007-08-09 2012-05-22 Elemental Technologies, Inc. Method for efficiently executing video encoding operations on stream processor architectures
US8270471B2 (en) * 2007-11-08 2012-09-18 Mediatek, Inc. Encoders and scheduling methods for macroblock-based adaptive frame/filed coding
US8675739B2 (en) * 2007-12-17 2014-03-18 Samsung Electronics Co., Ltd. Method and apparatus for video decoding based on a multi-core processor
US8542748B2 (en) * 2008-03-28 2013-09-24 Sharp Laboratories Of America, Inc. Methods and systems for parallel video encoding and decoding
US20090268821A1 (en) * 2008-04-29 2009-10-29 The Hong Kong University Of Science And Technology Block parallel and fast motion estimation in video coding
FR2931280B1 (fr) * 2008-05-19 2011-01-07 Envivio France Procede et dispositif de codage ou decodage d'image avec parallelisatioon du traitement sur plusieurs processeurs et coprocesseurs, programme d'ordinateur et moyen de stockage correspondants.
JP5275454B2 (ja) * 2009-03-31 2013-08-28 パナソニック株式会社 画像復号装置
US20110235716A1 (en) * 2009-10-19 2011-09-29 Takeshi Tanaka Decoding apparatus, decoding method, program and integrated circuit
KR102039049B1 (ko) * 2011-07-15 2019-11-15 지이 비디오 컴프레션, 엘엘씨 저-지연을 위한 샘플 배치 코딩
US9838684B2 (en) * 2012-04-11 2017-12-05 Qualcomm Incorporated Wavefront parallel processing for video coding
JP6415016B2 (ja) * 2012-11-12 2018-10-31 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07162858A (ja) * 1993-12-10 1995-06-23 Matsushita Electric Ind Co Ltd 画像信号符号化装置と画像信号復号化装置
JPH0846974A (ja) * 1994-07-29 1996-02-16 Matsushita Electric Ind Co Ltd 動画像の動き補償符号化装置及び復号化装置
JPH09294262A (ja) * 1996-04-26 1997-11-11 Hitachi Ltd 画像符号化装置
JPH10327416A (ja) * 1997-05-22 1998-12-08 Toshiba Corp 動画像符号化装置
JP2000295616A (ja) * 1999-04-08 2000-10-20 Matsushita Electric Ind Co Ltd 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法及びプログラム記録媒体
JP2006129285A (ja) * 2004-10-29 2006-05-18 Sony Corp 符号化及び復号装置並びに符号化及び復号方法
JP2006295721A (ja) * 2005-04-13 2006-10-26 Pioneer Electronic Corp 画像符号化装置及び画像符号化方法
JP2007060487A (ja) * 2005-08-26 2007-03-08 Sony Corp 画像処理装置および画像処理方法、記録媒体、並びに、プログラム
JP2007251605A (ja) * 2006-03-16 2007-09-27 Matsushita Electric Ind Co Ltd 復号装置、復号方法、プログラムおよび記録媒体
JP2009246539A (ja) * 2008-03-28 2009-10-22 Ibex Technology Co Ltd 符号化装置、符号化方法、符号化プログラム、復号化装置、復号化方法および復号化プログラム

Also Published As

Publication number Publication date
JP2018078645A (ja) 2018-05-17
JP6090728B2 (ja) 2017-03-08
JP5259625B2 (ja) 2013-08-07
US20150016507A1 (en) 2015-01-15
JP2017099017A (ja) 2017-06-01
JP2013165515A (ja) 2013-08-22
JP5945808B2 (ja) 2016-07-05
JP2016146674A (ja) 2016-08-12
CN102957914A (zh) 2013-03-06
CN101803388B (zh) 2012-11-21
US8897583B2 (en) 2014-11-25
WO2009142021A1 (ja) 2009-11-26
JP5535367B2 (ja) 2014-07-02
JP5776008B2 (ja) 2015-09-09
JP6281851B2 (ja) 2018-02-21
JP5525640B2 (ja) 2014-06-18
CN102957914B (zh) 2016-01-06
CN101803388A (zh) 2010-08-11
US20100195922A1 (en) 2010-08-05
JPWO2009142021A1 (ja) 2011-09-29
US9319698B2 (en) 2016-04-19
JP2015128318A (ja) 2015-07-09
JP2013165514A (ja) 2013-08-22

Similar Documents

Publication Publication Date Title
JP6281851B2 (ja) 画像復号化装置、画像符号化装置、画像復号化方法、画像符号化方法、プログラムおよび集積回路
US8223838B2 (en) Parallel processing circuit for intra-frame prediction
US10986373B2 (en) Moving image encoding method, moving image decoding method, moving image encoding device, and moving image decoding device
US20160007025A1 (en) Picture encoding device, picture decoding device, and picture communication system
JP4879269B2 (ja) 復号化方法及び装置
JPWO2009063646A1 (ja) 画像復号装置及び画像復号方法
JP2012175424A (ja) 符号化処理装置および符号化処理方法
JP5580541B2 (ja) 画像復号化装置および画像復号化方法
JP2007258882A (ja) 画像復号装置
JP2012114637A (ja) 動画像符号化装置
JP5265984B2 (ja) 画像符号化装置及び復号装置
KR100708183B1 (ko) 움직임 추정을 위한 영상 데이터 저장 장치 및 그 데이터저장 방법
JP2006165699A (ja) 画像符号化装置および画像符号化方法
KR101063423B1 (ko) 디블록 필터링 방법 및 장치
JP2011176503A (ja) 画像符号化装置、方法、プログラムおよび集積回路

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20141008

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150302

R151 Written notification of patent or utility model registration

Ref document number: 5776008

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees