JP6080405B2 - 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム - Google Patents

画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム Download PDF

Info

Publication number
JP6080405B2
JP6080405B2 JP2012147153A JP2012147153A JP6080405B2 JP 6080405 B2 JP6080405 B2 JP 6080405B2 JP 2012147153 A JP2012147153 A JP 2012147153A JP 2012147153 A JP2012147153 A JP 2012147153A JP 6080405 B2 JP6080405 B2 JP 6080405B2
Authority
JP
Japan
Prior art keywords
tile
image
block
information
block line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012147153A
Other languages
English (en)
Other versions
JP2014011638A (ja
JP2014011638A5 (ja
Inventor
大川 浩司
浩司 大川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2012147153A priority Critical patent/JP6080405B2/ja
Application filed by Canon Inc filed Critical Canon Inc
Priority to CN201380034770.1A priority patent/CN104396259B/zh
Priority to US14/411,287 priority patent/US20150181218A1/en
Priority to PCT/JP2013/004003 priority patent/WO2014002497A1/en
Priority to CN201710514536.9A priority patent/CN107172441B/zh
Priority to CN201710962143.4A priority patent/CN107509082B/zh
Priority to KR1020177030580A priority patent/KR101888375B1/ko
Priority to CN201710960212.8A priority patent/CN107483951B/zh
Priority to EP13740380.4A priority patent/EP2868087A1/en
Priority to EP17191181.1A priority patent/EP3291555A1/en
Priority to CN201710959496.9A priority patent/CN107483966B/zh
Priority to CN201710960150.0A priority patent/CN107743241B/zh
Priority to CN201710959435.2A priority patent/CN107517389B/zh
Priority to KR1020177004469A priority patent/KR101791858B1/ko
Priority to KR1020157002007A priority patent/KR101710017B1/ko
Publication of JP2014011638A publication Critical patent/JP2014011638A/ja
Publication of JP2014011638A5 publication Critical patent/JP2014011638A5/ja
Publication of JP6080405B2 publication Critical patent/JP6080405B2/ja
Application granted granted Critical
Priority to US15/657,580 priority patent/US9979978B2/en
Priority to US15/959,672 priority patent/US10218991B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process

Description

本発明は画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラムに関し、特に各ピクチャが矩形状のタイルに分割された画像の並列処理による符号化方法・復号方法に関する。
動画像の圧縮記録に用いられる符号化方式として、H.264/MPEG−4 AVC(以下H.264)が知られている。(非特許文献1)
H.264においては、ピクチャを複数のスライスに分割して符号化する事が可能である。各スライス間にはデータの依存性が少なく、並列に符号化・復号化処理を実施する事ができる。マルチコアのCPU等で並列に処理を実行し、処理時間を短縮できる事が、スライス分割の大きな利点の一つとして挙げられる。
また、各スライスはH.264に採用されている従来の2値算術符号化の手法によって、符号化される。すなわち、各シンタックス要素が2値化され、2値信号が生成される。各シンタックス要素には、あらかじめ発生確率がテーブル(以下、発生確率テーブル)として与えられ、前記2値信号は前記発生確率テーブルに基づいて算術符号化される。この発生確率テーブルは復号時には復号情報として、続く符号の復号に使用される。符号化時には符号化情報として、続く符号化に使用される。そして符号化が行われる毎に、符号化された2値信号が発生確率の高い方のシンボルであったか否か、という統計情報に基づいて発生確率テーブルが更新される。
近年、H.264の後継としてさらに高効率な符号化方式の国際標準化を行う活動が開始されて、JCT−VC(Joint Collaborative Team on Video Coding)がISO/IECとITU−Tの間で設立された。JCT−VCでは、High Efficiency Video Coding符号化方式(以下、HEVC)の標準化が進められている。
HEVCの標準化にあたっては、種々の符号化ツールが、符号化効率向上のみならず実装の容易性や処理時間の短縮といった観点も含めて幅広く検討されている。処理時間の短縮の中には、並列性を高めるための手法も検討されている。その中には、エントロピー符号化・復号化を並列に処理するための、Wavefrontと呼ばれる手法がある(非特許文献2)。符号化対象の2値信号は、常に更新された発生確率テーブルを用いて符号化を行う必要があるため、統計情報をリセットしなければ処理を並列に行う事ができない。しかし、統計情報をリセットしてしまうと符号化効率が低下してしまうという課題があった。それに対してWavefrontは、複数の、予め指定された位置のブロックを符号化処理した時点での発生確率のテーブルを、次のラインの左端のブロックに適用する事で、符号化効率の低下を抑制した上でライン単位でのブロックの並列な符号化処理が可能となる。上記、Wavefrontに関しては主に符号化処理に関して説明したが、復号処理に関しても同様である。
また、HEVCでは、並列性を高める手法としてタイル処理も含まれている(非特許文献2)。このタイルはピクチャ内を矩形に分割し、それぞれを独立に処理を行う技術である。これにより、符号化・復号の並列処理による高速化を実現すると共に符号化装置・復号装置が備えるメモリ容量を削減することが可能となっている。
ITU−T H.264 (03/2010) Advanced video coding for generic audio visual services JCT−VC 寄書 JCTVC−I1003.doc インターネット< http://phenix.int‐evry.fr/jct/doc
従来、HEVCでは、tiles_or_entropy_coding_sync_idc符号を用いて、タイル、Wavefront等の処理を排他的に行っていた。その値が0であれば、ピクチャに1つのタイルのみが存在し、Wavefront並列処理を行わない。その値が1であれば、ピクチャ内に複数のタイルが存在するが、Wavefront処理を行わない。その値が2であれば、ピクチャ内に1つのタイルのみが存在し、Wavefront等の並列処理を行う。その値が3であれば、ピクチャ内に1つのタイルのみが存在し、Wavefrontの並列処理を行わず、独立に復号可能なエントロピスライスを用いる。これ以外の値に関しては使用できないとしている。これは画像がハイビジョンのように十分に小さい時に複数の並列処理を行うと、並列処理の制御が複雑になり、ピクチャサイズの割には複雑度が高くなるという問題があったため、排他的な処理を行うことにしたものである。特に8K4K等画像が非常に大きい時は、リアルタイムで復号するためには高い並列性が求められる。タイルを非常に細かく分割して並列性を高める事は可能だが、タイル境界では予測に使える情報が限られるため符号化効率が低下してしまう。一方ブロックラインのみで分割してWavefront並列処理をすることは、ラインバッファの増大を招く上、ブロックライン間で発生確率テーブル等依存関係があるためタイル程並列性を高める事はできない。また、このような大画面を扱う場合、画面を有る程度のサイズに分割して、其々をコンピュータのノードに割り当て、ノード毎に複数のプロセッサで動作させることが必要になった。例えば、ノード単位にタイルを割り当てて処理を行う場合、タイル内をWavefrontなどで並列に処理を行うことができないという問題が生じた。
したがって、本発明は、多段階の並列処理を可能な符号化フォーマットを実現することで、処理の並列性を高め、高速に符号化・復号処理を実現することを目的としている。
上述の課題を解決するため、本発明の画像復号装置は以下の構成を有する。即ち、数のブロックラインを含むタイル単位で画像を符号化した符号化データを含むビットストリームを復号可能な画像復号装置であって、前記ビットストリームから、前記画像の分割状態を示す分割情報を取得する分割情報取得手段と、前記ビットストリームから、前記タイルにおける垂直方向のブロックの数を示す情報を取得するブロック数取得手段と、前記ビットストリームから、前記タイルに含まれる前記ブロックラインに対応する符号化データの先頭位置を特定するための情報を取得する先頭情報取得手段と、前記分割情報取得手段によって取得される分割情報が、前記画像が複数のタイルに分割されて符号化されており、かつ、前記タイルが複数のブロックラインに分割されて符号化されていることを示す場合に、前記ブロック数取得手段によって取得される、前記タイルにおける垂直方向のブロックの数を示す情報と、前記先頭情報取得手段によって取得される、前記タイルに含まれる、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報とに基づいて、前記タイル単位で前記ビットストリームを復号する復号手段とを有する。
上述の課題を解決するため、本発明の画像符号化装置は以下の構成を有する。即ち、画像を複数のタイル単位で符号化し、かつ、前記タイルを複数のブロックライン単位で符号化する符号化手段と、前記符号化手段によって、前記画像を複数のタイル単位で符号化し、かつ、前記タイルを複数のブロックライン単位で符号化する場合に、前記タイルにおける垂直方向のブロックの数と、前記タイルにおける前記ブロックラインに対応する符号化データの大きさとに基づいて、前記タイルに含まれる、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報を生成する生成手段とを有する。
本発明により、多段階の並列処理を可能な符号化フォーマットを実現することで、処理の並列性を高め、高速に符号化・復号処理が行えることができる。
実施形態1の画像復号装置が復号する画像符号化フォーマットを示す図 画像のタイル分割を示す図 タイルのブロックライン分割を示す図 実施形態1、2の画像復号装置の構成を示すブロック図 実施形態1、2の画像復号装置の動作を示すフローチャート図 実施形態1、2の上端のブロックラインの復号動作を示すフローチャート図 実施形態1、2の非上端のブロックラインの復号動作を示すフローチャート図 実施形態1、2のブロックの復号動作を示すフローチャート図 実施形態1のタイルデータサイズの取得方法を示すフローチャート図 実施形態2の画像復号装置が復号する画像符号化フォーマットを示す図 実施形態2のタイルデータサイズの取得方法を示すフローチャート図 実施形態2のブロックラインデータサイズの取得方法を示すフローチャート図 実施形態3、4の画像符号化装置の構成を示すブロック図 実施形態3の画像符号化装置の動作を示すフローチャート図 実施形態3の上端のブロックラインの符号化動作を示すフローチャート図 実施形態3のブロックの符号化動作を示すフローチャート図 実施形態3の非上端のブロックラインの符号化動作を示すフローチャート図 実施形態3の位置情報の計算方法を示すフローチャート図 実施形態1、2のタイル復号部の構成を示すブロック図 実施形態1、2のタイル復号の動作を示すフローチャート図 実施形態1のブロックラインデータサイズの取得方法を示すフローチャート図 実施形態4の位置情報の計算方法を示すフローチャート図 実施形態3、4のタイル符号化部の構成を示すブロック図 実施形態3、4のタイル符号化の動作を示すフローチャート図 本発明の復号装置に適用可能なコンピュータのハードウェアの構成例を示すブロック図
以下、添付の図面を参照して、本願発明をその好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
<実施形態1>
本発明の実施形態1の画像復号装置が復号する画像符号化フォーマットにおいては1フレームが複数の矩形状の領域であるタイルに分割される。図2に実施形態1におけるタイル構造を示す。図2においては水平7680画素×垂直4320画素のフレームが水平2タイル×垂直2タイルの4個のタイルに分割された様子を示している。本発明の符号化フォーマットではブロックは水平16画素×垂直16画素で構成され、ブロック単位で符号化・復号が行われる。本実施形態ではブロックを16×16画素としているが、本発明はこれに限定されるものではない。ブロックは32×32画素でもよいし、64×64画素でもよい。各タイルサイズはブロックサイズの逓倍であり、図2において各タイルは水平240個×垂直135個のブロックから構成される。前記タイルは更に複数のブロックラインに分割されて符号化されている。ブロックラインとは、図3に示すように、タイル内のブロックをライン状に集合させたものである。図3において、細線による正方形で表されている301はブロックを表し、太線による長方形で表されている302はブロックラインを表している。
本実施形態におけるHEVCによる符号化データのフォーマットを図1に示す。図1の符号化データには、まずシーケンスの符号化に関わる情報が含まれたヘッダ情報であるシーケンス・パラメータ・セットが存在する。さらに、ピクチャの符号化に関わる情報が含まれたヘッダ情報であるピクチャ・パラメータ・セット、スライスの符号化に関わる情報が含まれたヘッダ情報であるスライスヘッダ及び各タイルの符号化データが多重化される。ピクチャ・パラメータ・セットには、タイルデータ分割情報及びブロックラインデータ分割情報が存在する。スライスヘッダにはタイルデータ位置情報及びブロックラインデータ位置情報が存在する。
ピクチャ・パラメータ・セットには、タイルデータ分割情報として、まずフレームがタイルに分割されて符号化されているか否かを示すTileFlagが存在する。TileFlagが1の時はフレームがタイルに分割されて符号化されている事を示し、そうでない場合はフレームがタイルに分割されずに符号化されている事を示す。TileFlagが1の時は、フレーム内の水平タイル数を表すnum_tile_columns_minus1、垂直タイル数を表すnum_tile_rows_minus1、タイル形状を示すuniform_spacing_flagの情報が挿入される。num_tile_columns_minus1及びnum_tile_rows_minus1はそれぞれフレーム内の実際の水平タイル数、垂直タイル数から1を減じた数を示す。なお図1中のNはスライス中のタイル数であり、(num_tile_columns_minus1+1)×(num_tile_rows_minus1+1)により一意に決まる数である。uniform_spacing_flagは、フレーム内の各タイルが同じ大きさであるか否かを示すフラグであり、値が1の時は各タイルが同じ大きさである事を示す。なお図2は各タイルが同じサイズが使用される、uniform_spacing_flag=1である時の例である。このフラグの値が0の時は各タイルの大きさが異なるため、それぞれの大きさを符号にする必要が生じる。
また、ピクチャ・パラメータ・セットにはブロックラインデータ分割情報としてWPPFlagが存在する。WPPFlagが1の時は、各タイルがブロックラインに分割されて符号化されている事を示す。本実施形態では、ブロックラインデータ分割情報及びタイルデータ分割情報を別個のフラグとして用意したが、本発明はこれに限定されず、タイルデータ分割とブロックラインデータ分割が併用される事がわかれば良い。例えば、二つのフラグを統合したシンタックスを用意して以下のように定めてもよい。
該シンタックスの値が0の時はタイルデータ分割がなく、かつブロックラインデータ分割がないことを表す。値が1の時はタイルデータ分割があり、かつブロックラインデータ分割ないことを表す。値が2の時はタイルデータ分割がなく、かつブロックラインデータ分割があることを表す。値が3の時はタイルデータ分割があり、かつブロックラインデータ分割があることを表す。
スライスヘッダには、TileFlagが1の時にはタイルデータ位置情報が存在し、WPPFlagが1の時にはブロックラインデータ位置情報が存在する。タイルデータ位置情報としてnum_tile_entry_point_offsets、tile_entry_point_offsetが存在する。ブロックラインデータ位置情報の中には、タイルの数だけnum_wpp_entry_point_offsets及びwpp_entry_point_offsetのセットが存在する。num_tile_entry_point_offsetsの値は、スライス中のタイル数を表すNから1を減じた値となる。num_wpp_entry_point_offsetsの値は、タイル内のブロックライン数を表すMから1を減じた値となる。TileFlagが0の時は、num_tile_entry_point_offsetsの値は0として扱われる。WPPFlagが0の時は、num_wpp_entry_point_offsetsの符号は省略され、値は0として扱われる。
num_tile_entry_point_offsetsは、当該スライスに存在するタイルの符号化データのエントリポイント数を表す。タイルの符号化データのエントリポイント数は、スライスに含まれるタイル数により一意に定まり、タイル数が2の場合はエントリポイント数が1、タイル数が4ならばエントリポイント数は3になる。本実施形態では、フレームがタイルを4つ含む単一のスライスで構成されているものとする。即ち、num_tile_entry_point_offsetsの値は3である。tile_entry_point_offsetはタイルの符号化データのエントリポイント、即ちタイルの符号化データの先頭位置を表す。tile_entry_point_offsetは、num_tile_entry_point_offsetsの数だけ存在し、tile_entry_point_offset[i]はi番目のタイルの符号化データのエントリポイントを示す。スライスヘッダの直後に、0番目のタイルの符号化データが存在する事がわかっているため、0番目のタイルのエントリポイントは省略される。そして、i−1番目のタイルの符号化データの大きさがtile_entry_point_offset[i]シンタックスとして符号化されている。num_tile_entry_point_offsetsの値が0の時は、tile_entry_point_offsetは不要であるため言及しない。
num_wpp_entry_point_offsetsはタイルに属するブロックラインの符号化データのエントリポイント数を表す。本実施形態では、タイルは垂直135ブロックから成るので、num_wpp_entry_point_offsetsの値は134になる。wpp_entry_point_offsetはブロックラインの符号化データのエントリポイント、即ちブロックラインの符号化データの先頭位置を表す。wpp_entry_point_offset[j]はj番目のブロックラインの符号化データのエントリポイントを示す。0番目のブロックラインの符号化データの先頭位置は、該ブロックラインが属するタイルの符号化データの先頭位置と同じであるため省略される。そして、j−1番目のブロックラインの符号化データの大きさがwpp_entry_point_offsets[j]シンタックスとして符号化される。num_wpp_entry_point_offsetsの値が0の時は、wpp_entry_point_offsetは不要であるため言及しない。
図4に前記画像符号化フォーマットに従った符号化データを復号する画像復号装置の内容を示す。
図4において、401は入力された符号化データのシーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、スライスヘッダ等のヘッダを解析するビットストリーム解析部である。402及び403は、入力された符号化データを、入力された符号化パラメータに基づいてタイル単位で復号を行う復号部である。本実施形態において、タイル復号部を2つ用いる場合について説明するが、本発明はこれに限定されない。404は第一タイル復号部402及び第二タイル復号部403で生成された画像データを成形し、出力するタイル画像データ統合部である。
上記構成において、ビットストリーム解析部401は、ピクチャ・パラメータ・セット及びスライスヘッダを解析し、タイルデータ分割情報、ブロックラインデータ分割情報、タイルデータ位置情報、ブロックラインデータ位置情報を取得する。ビットストリーム解析部401はヘッダに続く符号化データをこれらの情報に基づいて後段の第一タイル復号部402、または第二タイル復号部403に入力する。ここでは、先頭のタイルを0番目として、処理対象のブロックが偶数番目のタイルに属しているのならば第一タイル復号部402へ、奇数番目のタイルに属しているならば第二タイル復号部403へ出力する。図2においては、タイル0とタイル2が第一タイル復号部402で復号され、タイル1とタイル3が第二タイル復号部403で復号される。
第一タイル復号部402及び第二タイル復号部403の詳細について図19のブロック図を用いて説明する。
1901は、処理対象のブロックがタイル内で偶数番目のブロックラインに属するかを判定するセレクタである。セレクタ1901には、タイル単位の符号化データが入力される。そして前記ブロックが偶数番目のブロックライン属しているのならば第一ブロックライン復号部1902へ前記ブロックラインの符号化データを出力し、そうでないならば第二ブロックライン復号部1903へ前記ブロックラインの符号化データを出力する。1902、1903はブロックライン復号部である。ブロックライン復号部1902、1903は入力されたブロックラインの符号化データをブロック単位で復号する。復号においては算術符号化方式の復号が行われる。算術復号が行われ発生確率テーブルを生成・更新する。1904は第一ブロックライン復号部1902で生成された発生確率テーブルを復号情報として保持する第一発生確率テーブル記憶部である。1905は第二ブロックライン復号部1903で生成された発生確率テーブルを復号情報として保持する第二発生確率テーブル記憶部である。1906は第一ブロックライン復号部1902、第二ブロックライン復号部1903で生成された画像データを成形し、出力するブロックライン画像データ統合部である。
図3において、上端のブロックライン(0ライン目)を含む偶数番目のブロックラインを示す白色のブロックは第一ブロックライン復号部1902にて復号され、奇数番目のブロックラインを示す斜線のブロックは第二ブロックライン復号部1903にて復号される。すなわち第一ブロックラインと第二ブロックラインとは隣接する関係にある。
各ブロックライン復号部においては、まず復号対象の符号化データの2値信号に対し発生確率テーブルが選択され、前記発生確率テーブルを基に算術復号が行われ、量子化係数が生成される。次に、前記量子化係数は、量子化パラメータに基づいて逆量子化が行われ、変換係数が生成される。さらに、変換係数は逆直交変換が行われ、予測誤差が生成される。最後に、復号対象のブロックの周辺の画素の参照によるフレーム内予測、または他のフレームの参照によるフレーム間予測が行われ、復号対象のブロックの画像データが生成される。
本実施形態の画像復号装置の動作を、図5のフローチャートを用いて詳細に説明する。本実施形態では符号化データはフレーム単位で入力される。フレームは複数のタイルで構成されており該タイルはブロック単位の符号化データに分割されて復号される。本実施形態では入力をフレーム単位としたが、フレームを分割したスライス単位に入力してもよい。また、本実施形態では、説明を容易にするため、イントラ予測復号の処理のみを説明するが、これに限定されずインター予測復号の処理においても適用可能である。
まず、ステップS501では、ビットストリーム解析部401において、入力されたビットストリームのヘッダが解析される。ここでは、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、スライスヘッダ等が解析される。特に、ピクチャ・パラメータ・セットからTileFlag及びWPPFlagが解析され、スライスヘッダからタイルデータ位置情報及びブロックラインデータ位置情報が取得される。
ステップS502では、変数CurTileが0に初期化される。CurTileは処理対象のタイルの番号を示す。ステップS503において、ビットストリーム解析部401で第一タイル復号部402あるいは第二タイル復号部403に送信する送信データ量(処理対象のタイルの符号化データのサイズ)が求められる。
ビットストリーム解析部401でのタイルデータサイズの取得方法に関して図9のフローチャートを用いて説明する。図9において、まずステップS901では、処理対象のタイルがフレーム内の最後のタイルであるか否かが判定される。最後のタイルであるならば(ステップS901でYes)ステップS902に進み、そうでないならばステップS903の処理に進む。
ステップS902では、タイルの符号化データの先頭から次のNALユニットまでのデータサイズが、送信データ量として設定される。NALユニットとは、シーケンス・パラメータ・セットやピクチャ・パラメータ・セット、符号化済みスライスを格納する箱である。NALユニットのデータの先頭には、0x000001等の特定のビット列含まれているため、データの先頭を正しく識別する事ができる。ステップS903では、CurTile番目のタイルの符号化データサイズを表すtile_entry_point_offset[CurTile+1]の値が読み出され、送信データ量が決定される。
図5のフローチャートに戻り、ステップS504では、第一タイル復号部402もしくは第二タイル復号部403においてタイルの復号処理が行われる。この際、ビットストリーム解析部401において、偶数番目のタイルは第一タイル復号部402に、奇数番目のタイルは第二タイル復号部403にそれぞれ送信される。ステップS503で求められたサイズだけデータが送信される。タイル復号処理の詳細は後述する。
ステップS505では、タイル画像データ統合部404において、第一タイル復号部402及び第二タイル復号部403から出力されたタイル画像が統合され、復号画像が生成、出力される。ステップS506では、フレーム内の全てのタイルの復号処理が完了したか否かが判定される。完了したならば(ステップS506でYes)1フレームの復号処理を終了し、完了していないならばステップS507の処理に進む。ステップS507の処理では、CurTileの値がインクリメントされる。この処理は、次のタイルが次の処理対象となることを意味する。
続いて、ステップS504のタイル復号処理に関して図20のフローチャートを用いて詳細に説明する。図20において、まずステップS2001で変数CurBLが0に初期化される。変数CurBLは復号処理対象のブロックラインの番号を表す。
ステップS2002の処理において、セレクタ1901が第一ブロックライン復号部1902あるいは第二ブロックライン復号部1903に送信する送信データ量(処理対象のブロックラインの符号化データのサイズ)が求められる。送信データ量取得方法の詳細については後述する。ステップS2003の処理において、処理対象のブロックラインがタイルの上端のブロックラインであるか否かが判定される。上端のブロックラインならば(ステップS2003でYes)ステップS2004の処理へ、そうでないならばステップS2005の処理へ進む。
ステップS2004はタイルの上端のブロックラインを復号する処理であり、ブロックラインの画像データを再生する。詳細は後述する。ステップS2005の処理は、上端以外のブロックラインを復号する処理であり、ブロックラインの画像データを再生する。ブロックラインの復号に関しては、セレクタ1901において、変数CurBLの値によって、処理対象のブロックラインが偶数番目であるか奇数番目であるかが判定される。偶数番目であるならば第一ブロックライン復号部1902で、そうでないならば第二ブロックライン復号部1903で、それぞれブロックライン単位で並列に復号されるものとする。同じく詳細は後述する。
ステップS2006では、ブロックライン画像データ統合部1906において、第一ブロックライン復号部1902及び第二ブロックライン復号部1903から出力された各ブロックライン画像データを統合し、タイル画像を生成、出力する。ステップS2007では、タイル内の全てのブロックラインの復号処理が完了したか否かが判定される。完了したならば(ステップS2007でYes)タイル復号処理を終了し、そうでないならばステップS2008の処理に進む。
ステップS2008の処理では、CurBLの値がインクリメントされる。これは、処理対象のタイル内の次のブロックラインが処理対象となる事を意味する。ステップS2002の、ビットストリーム解析部401でのブロックラインデータサイズ取得処理に関して図21のフローチャートを用いて詳細に説明する。本処理には、処理対象のブロックラインの番号を表す変数CurBL及び処理対象のタイルの番号を表す変数CurTileが入力として与えられる。
まずステップS2101の処理では、処理対象のブロックラインがタイル内で最後のブロックラインであるか否かが判定される。最後のブロックラインであるならば(ステップS2101でYes)ステップS2103の処理に進み、そうでないならばステップS2102の処理に進む。
ステップS2102の処理ではCurTile番目のタイルのCurBL番目のブロックラインの符号化データサイズを表すwpp_entry_point_offset[CurTile+1][CurBL+1]の値が読み出され送信データ量が決定される。また、ステップS2103の処理において、処理対象のタイルがフレーム内の最終タイルであるか否かが判定される。最終タイルであるならば(ステップS2103でYes)ステップS2104の処理に進み、そうでないならばステップS2105の処理に進む。
ステップS2104の処理では、処理対象のブロックラインの符号化データの先頭から次のNALユニットまでのデータサイズが、最終タイルの最後のブロックラインの送信データ量として設定される。NALユニットのデータの先頭には、0x000001等の特定のビット列含まれているため、データの先頭を正しく識別する事ができる。
ステップS2105の処理では、最終タイルではないタイル内の最後のブロックラインのデータサイズが送信データ量として求められる。タイル内の最後のブロックラインのデータサイズは、wpp_entry_point_offset の要素として与えられていない。そのため、処理対象のタイルの符号化データサイズを表すtile_entry_point_offset[CurTile+1]から、これまでに処理したタイルのデータサイズを減算することで算出される。
図20に戻り、ステップS2004の処理(上端のブロックラインを復号する処理)に関して、図6のフローチャートを用いて詳細に説明する。上端のブロックラインは、偶数番目のブロックラインなので、処理対象のブロックラインの符号化データはセレクタ1901によって第一ブロックライン復号部1902へ入力され復号される。ここで、セレクタ1901は、ステップS2002で取得されたデータ送信量(処理対象のブロックラインの符号化データサイズ)だけ符号化データを第一ブロックライン復号部1902へ出力する。
図6では、まずステップS601において、発生確率テーブルが所定の方法で初期化される。初期化された発生確率テーブルは、ブロックラインの左端のブロックの最初の2値信号を算術復号する際に用いられ、後述するステップS602で随時更新される。以下、ブロックラインの最初のブロックの2値信号を算術復号する際に用いられる発生確率テーブルを、ブロックライン基準発生確率テーブルと記す。
次に、ステップS602では、第一ブロックライン復号部1902によって符号化データがブロック単位で復号され画素データが生成される。ステップS602のブロック単位の復号処理について、図8のフローチャートを用いて詳細に説明する。
図8では、まずステップS801において、符号化データが前記発生確率テーブルに基づいて算術復号され、2値信号が生成される。更に、H.264と同様にシンタックス要素毎に、ユーナリー・バイナリゼーション、固定長バイナリゼーション等の種々の2値化方式で2値化されている前記2値信号を復号し、量子化係数を含むシンタックス要素を生成する。ステップS802では、算術復号された2値信号が、発生確率の高い方のシンボルであったか否かに基づいて前記発生確率テーブルが更新される。ステップS803では、ブロック内の全シンタックス要素が算術復号されたか否かが判定される。全シンタックス要素が算術復号されたならば(ステップS803でYes)ステップS804の処理に進む。そうでないならばステップS801の処理に進み、次のシンタックス要素の復号が行われる。ステップS804では、前記量子化係数が逆量子化され、変換係数が生成される。更に、前記変換係数には逆直交変換が適用され、予測誤差が生成される。ステップS805では、処理対象のブロックの周辺の画素からイントラ予測が行われ予測画像が生成される。更に、前記予測誤差と予測画像を足し合わせる事で、ブロック単位の画像データを生成する。
図6のフローチャートに戻り、ステップS603では、発生確率テーブルを格納する条件を満たしているか否かが判定される。本実施形態では、ステップS602で復号したブロックが、ブロックラインの左端から所定数目のブロックであったか否かを、前記発生確率テーブルを格納する条件とする。前記条件を満たしている際には(ステップS603でYes)ステップS604の処理に進み、発生確率テーブルを第一発生確率テーブルとして第一発生確率テーブル記憶部1904に記憶する。条件を満たしていない場合はステップS605の処理に進む。第一発生確率テーブルは、次のブロックラインの左端のブロックを復号する際のブロックライン基準発生確率テーブルとして用いられる。
次に、ステップS605において、処理対象のブロックラインの全ブロックを復号したか否かが判定される。全てのブロックを復号したならば(ステップS605でYes)上端のブロックラインの復号を終了し、そうでないならばステップS602の処理に進みラスタ順で次のブロックを復号する。
次に、図20のステップS2005の処理(上端以外のブロックラインを復号する処理)に関して、図7のフローチャートを用いて詳細に説明する。処理対象のブロックラインが偶数番目のブロックラインであるならば、第一ブロックライン復号部1902に処理対象のブロックラインの符号化データが入力され復号される。奇数番目のブロックラインであるならば、第二ブロックライン復号部1903に処理対象のブロックラインの符号化データが入力され復号される。ここで、セレクタ1901は、ステップS2002で取得されたデータ送信量(処理対象のブロックラインの符号化データサイズ)だけ符号化データを第一ブロックライン復号部1902もしくは第二ブロックライン復号部1903に出力する。まず、奇数番目のブロックラインを第二ブロックライン復号部1903で復号する際のフローについて説明する。
図7において、まずステップS701において、第一発生確率テーブルが第一発生確率テーブル記憶部1904から、ブロックライン基準発生確率テーブルとして入力される。
ステップS702、S703の処理は、ステップS602、S603の処理と同一であるため説明を省略する。ステップS704の処理では、発生確率テーブルが第二発生確率テーブルとして、第二発生確率テーブル記憶部1905に格納される。第二発生確率テーブルは、次のブロックラインの左端のブロックを算術復号する際にブロックライン基準発生確率テーブルとして用いられる。ステップS705の処理はステップS605と同じであり、奇数番目のブロックライン内の全ブロックの復号処理が終了したかの判定を行う。続いて、偶数番目のブロックラインを第一ブロックライン復号部1902で復号する際のフローを説明する。まず、ステップS701の処理では、第二発生確率テーブルが第二発生確率テーブル記憶部1905からブロックライン基準発生確率テーブルとして入力される。ステップS702〜705の処理に関しては、ステップS602〜S605の処理と同一であるため説明を省略する。
以上の構成と動作により、タイル及び各ブロックラインの符号化データの先頭位置を正しく認識できるため、タイル単位で並列に復号可能とした上で、更にタイル内においてもブロックライン単位に並列に復号が可能になる。これにより、フレームをタイルに分割し、更にタイルをブロックラインに分割可能とする事で、並列性及び符号化効率の両方を高める事ができる。
なお、本実施形態でタイル復号部やブロックライン復号部が2つの場合について説明したが、例えば第三タイル復号部、第三ブロックライン復号部、第三発生確率テーブル記憶部を加えることで、より多くの復号部での並列処理が可能であることは明白である。
<実施形態2>
本発明の実施形態2の画像復号装置が復号する画像符号化フォーマットは、実施形態1と同様に1フレームが複数の矩形状の領域であるタイルに分割される。実施形態2のタイル構造は実施形態1の図2と同一であるため説明を省略する。
本実施形態におけるHEVCによる符号化データのフォーマットを図10に示す。図10の符号化データは、スライスヘッダ以外は実施形態1と同様であるため、スライスヘッダのみを説明する。図10のスライスヘッダには、TileFlagが1もしくはWPPFlagが1の時には位置情報としてnum_entry_point_offsets及びentry_point_offsetが存在する。
TileFlagが1かつWPPFlagが0の時は、フレームが複数タイルに分割され、ブロックラインには分割されずに符号化されていることを意味する。この時、num_entry_point_offsetsはスライス内のタイル数を表すNから1を減じた値となる。entry_point_offset[i]は、i番目のタイルの符号化データのエントリポイントを示す。スライスヘッダの直後に、0番目のタイルの符号化データが存在する事がわかっているため、0番目のタイルのエントリポイントは省略される。そして、i−1番目のタイルの符号化データの大きさがentry_point_offset[i]シンタックスとして符号化されている。
TileFlagが0かつWPPFlagが1の時は、フレームが単一のタイルで構成され、ブロックラインに分割されて符号化されていることを意味する。この時、num_entry_point_offsetsはスライス内のブロックラインの数から1を減じた値となる。entry_point_offset[i]は、i番目のブロックラインの符号化データのエントリポイントを示す。スライスヘッダの直後に、0番目のブロックラインの符号化データが存在する事がわかっているため、0番目のブロックラインのエントリポイントは省略される。そして、i−1番目のブロックラインの符号化データの大きさがentry_point_offset[i]シンタックスとして符号化されている。
TileFlagが1かつWPPFlagが1の時は、フレームが複数のタイルに分割され、各タイルが更にブロックラインに分割されて符号化されていることを意味する。この時、num_entry_point_offsetsの値は、スライス内のタイル数Nとタイル内のブロックライン数Mの積から1を減じた値となる。entry_point_offset[i]は、i番目のブロックラインの符号化データのエントリポイントを示す。スライスヘッダの直後に、0番目のブロックラインの符号化データが存在する事がわかっているため、0番目のブロックラインのエントリポイントは省略される。そして、i−1番目のブロックラインの符号化データの大きさがentry_point_offset[i]シンタックスとして符号化されている。
TileFlagが0かつWPPFlagが0の時、すなわちフレームが単一のタイルで構成され、ブロックラインにも分割されずに符号化されている時はnum_entry_point_offsetsの値は0として扱われる。
本実施形態では、TileFlag及びWPPFlagはいずれも1である。本実施形態における符号化データのスライスは4つのタイルで構成されており、個々のタイルは垂直135ブロックからなるので、num_entry_point_offsetsの値は4×135−1=539となる。
前記画像符号化フォーマットに従った符号化データを復号する、本実施形態の画像復号装置の構成は実施形態1の図4及び図19と同様であるため説明を省略する。
本実施形態の画像復号装置の動作を、図5のフローチャートを用いて詳細に説明する。図5において、まず、ステップS501では、実施形態1と同様に、ピクチャ・パラメータ・セットからTileFlag及びWPPFlagが解析され、スライスヘッダから位置情報が取得される。次に、ステップS502の処理において、変数CurTileが0に初期化される。次に、ステップS503でビットストリーム解析部401において実施形態1とは異なる方法で、第一タイル復号部402あるいは第二タイル復号部403に送信する送信データ量が求められる。
本実施形態のタイルデータサイズの取得方法に関して図11のフローチャートを用いて説明する。図11において、ステップS1101及びステップS1102の処理は、図9のステップS901及びステップS902の処理と同一であるため説明を省略する。
ステップS1103では、タイルの垂直ブロック数から、処理対象のタイル内のエントリポイント数を判定し、entry_point_offsetの対応する各要素を足し合わせて送信データ量として設定する。本実施形態では、タイルの垂直ブロック数は135で固定である。そのため、entry_point_offset[CurTile*135+1]からentry_point_offset[(CurTile+1)*135]までの値が足しあわされ、送信データ量として設定される。各タイルの垂直ブロック数が同一でない場合は、それまでに処理した各タイルのブロックライン数を足し合わせて、足し合わせを開始するentry_point_offset[]の要素の位置を決定する。
図5に戻り、ステップS504の処理では、実施形態1と同様に、第一タイル復号部402もしくは第二タイル復号部403においてタイルの復号処理が行われる。ステップS504のタイル復号処理に関しては、実施形態1と同様図20のフローチャートを用いて説明する。図20では、ステップS2002のブロックラインデータサイズ取得処理を除いては実施形態1と同一であるため、本実施形態ではステップS2002についてのみ図12を用いて説明する。図12において、まずステップS1201で、ビットストリーム解析部401において処理対象のブロックラインがフレーム内の最後のブロックラインか否かが判定される。最後のブロックラインならば(ステップS1201でYes)ステップS1203の処理に進み、そうでないならばステップS1202の処理に進む。
ステップS1202の処理では処理対象のブロックラインの符号化データサイズを表すentry_point_offsetの要素の値が読み出され、送信データ量が決定され、ブロックラインデータサイズ取得処理が終了される。本実施形態では、各タイルの垂直ブロック数が135で固定のため、読み出される要素は、entry_point_offset[CurTile×135+CurBL+1]となる。各タイルの垂直ブロック数が異なる場合は、処理済みのタイルの垂直ブロック数を足し合わせた数字を、CurTile×135の数字と置き換える必要がある。
ステップS1203では、処理対象のブロックラインの符号化データの先頭から次のNALユニットまでのデータサイズが、送信データ量として設定されブロックラインデータサイズ取得処理が終了される。NALユニットのデータの先頭には、0x000001等の特定のビット列含まれているため、データの先頭を正しく識別する事ができる。
図5に戻り、ステップS505からステップS507の処理に関しては、実施形態1と同一であるため説明を省略する。
以上の構成と動作により、各タイル及び各ブロックラインの符号化データの先頭位置を正しく認識できるため、タイル単位で並列に復号可能とした上で、タイル内においてもブロックライン単位に並列に復号が可能になる。実施形態1ではタイルのエントリポイント数及びエントリポイントに加え、ブロックラインのエントリポイント数及びエントリポイントのセットをタイルの数だけシンタックスとして持つ必要があった。本実施形態では、エントリポイントが全てブロックラインの符号化データのサイズで表されるため、タイルのエントリポイントとブロックラインのエントリポイントの情報を別々に持つ必要がないため、より少ない情報量で並列な復号が可能となる。
なお、本実施形態でタイル復号部やブロックライン復号部が2つの場合について説明したが、例えば第三タイル復号部、第三ブロックライン復号部、第三発生確率テーブル記憶部を加えることで、より多くの復号部での並列処理が可能であることは明白である。
<実施形態3>
本発明の実施形態3の画像符号化装置が符号化する画像符号化フォーマットにおいては実施形態1と同様に1フレームが複数の矩形状の領域であるタイルに分割される。実施形態3のタイル構造は実施形態1の図2と同一であるため説明を省略する。但し、これに限定されない。
本実施形態におけるHEVCによる符号化ストリームのフォーマットを図1に示すが、実施形態1と同様であるため説明を省略する。図13に、前記画像符号化フォーマットに従った符号化ストリームを符号化する画像符号化装置の内容を示す。
図13において、1301は、処理対象のブロックが偶数番目のタイルに属するかを判定するタイルセレクタである。タイルセレクタ1301は、前記ブロックが偶数番目のタイルに属しているのならば第一タイル符号化部1302へ前記ブロックを出力し、そうでないならば第二タイル符号化部1303へ前記ブロックを出力する。
1302及び1303は、入力画像をn×n画素(nは2以上の正の整数)に分割したブロックをタイル単位で符号化を行うタイル符号化部である。本実施形態において、タイル符号化部を2つ用いる場合について説明するが、本発明はこれに限定されない。図2においては、タイル0とタイル2が第一タイル符号化部1302で符号化され、タイル1とタイル3が第二タイル符号化部1303で符号化される。
第一タイル符号化部1302及び第二タイル符号化部1303の詳細について図23のブロック図を用いて説明する。
2301は、処理対象のブロックがタイル内で偶数番目のブロックラインに属するか否かを判定し、その判定結果によって出力先を選択するブロックラインセレクタである。2302は第一ブロックライン符号化部であり、偶数番目のブロックラインのブロックの符号化を行う。2302は第二ブロックライン符号化部であり、奇数番目のブロックラインのブロックの符号化を行う。2304は第一ブロックライン符号化部2302で生成された発生確率テーブルを符号化情報として保持する第一発生確率テーブル記憶部である。以下、第一発生確率テーブル記憶部2304に記憶される発生確率テーブルを、第一発生確率テーブルと記す。2305は第二ブロックライン符号化部2303で生成された発生確率テーブルを符号化情報として保持する第二発生確率テーブル記憶部である。以下、第二発生確率テーブル記憶部に記憶される発生確率テーブルを、第二発生確率テーブルと記す。2306は第一ブロックライン符号化部2302で生成された符号化データと、第二ブロックライン符号化部2303で生成された符号化データを統合し、位置情報を含む符号化パラメータと併せて出力するブロックライン統合符号化部である。
ブロックラインセレクタ2301には、タイル単位の画像データが入力される。そして前記ブロックが偶数番目のブロックライン属しているのならば第一ブロックライン符号化部2302へ前記ブロックを出力し、そうでないならば第二ブロックライン符号化部2303へ前記ブロックを出力する。図3において、偶数番目のブロックラインを示す白色のブロックは第一ブロックライン符号化部2302にて符号化され、奇数番目のブロックラインを示す斜線のブロックは第二ブロックライン符号化部2303にて符号化される。上端のブロックラインは0ライン目であるので第一ブロックライン符号化部2302で符号化される。第一ブロックライン符号化部2302及び第二ブロックライン符号化部2303を用いた符号化処理の詳細については後述する。
図13に戻り、1304は第一タイル符号化部1302で生成された符号化データと符号化パラメータ、第二タイル符号化部1303で生成された符号化データと符号化パラメータを統合し、ビットストリームとして出力する統合符号化部である。統合符号化部1304は、TileFlagやWPPFlag等の分割情報をピクチャ・パラメータ・セットに、位置情報をスライスヘッダに統合し出力する。
本実施形態の画像符号化装置の動作を、図14から図17のフローチャートを用いて詳細に説明する。本実施形態では画像はフレーム単位で入力される。フレームは複数のタイルで構成されており、該タイルは更にブロック単位の画像データに分割されて符号化される。本実施形態では入力をフレーム単位としたが、フレームを分割したスライス単位に入力してもよい。また、本実施形態では、説明を容易にするため、イントラ予測符号化の処理のみを説明するが、これに限定されずインター予測符号化の処理においても適用可能である。
図14において、1フレームの符号化について説明する。ステップS1401では、タイルの番号を表す変数CurTileが0に初期化される。ステップS1402では、図13の第一タイル符号化部1302もしくは第二タイル符号化部1303においてタイルの符号化処理が行われる。この際、タイルセレクタ1301において、偶数番目のタイルは第一タイル符号化部1302に、奇数番目のタイルは第二タイル符号化部1303にそれぞれ送信される。タイル符号化処理の詳細について図24のフローチャートを用いて説明する。
図24では、まずステップS2401において、符号化処理対象のブロックラインの番号を表す変数CurBLが0に初期化される。ステップS2402において、符号化処理対象のブロックラインがタイルの上端のブロックラインであるか否かが判定される。上端のブロックラインならば(ステップS2402でYes)ステップS2403の処理へ、そうでないならばステップS2404の処理へ進む。
ステップS2403はタイルの上端のブロックラインを符号化する処理である。ステップS2404の処理は、上端以外のブロックラインを符号化する処理である。これらの詳細は後述する。ステップS2405の処理は、スライスヘッダに格納される位置情報(tile_entry_point_offset及びwpp_entry_point_offset)を設定する処理で、同じく詳細は後述する。
ステップS2406では、ブロックライン統合符号化部2306において、第一ブロックライン符号化部2302及び第二ブロックライン符号化部2303から出力された各符号化データが統合される。更にステップS2405で計算された位置情報を含む符号化パラメータと統合された符号化データが併せて出力される。
ステップS2407では、タイル内の全てのブロックラインの符号化処理が完了したか否かが判定される。完了したならば(ステップS2407でYes)タイル符号化処理を終了し、そうでないならばステップS2408の処理に進む。
ステップS2408では、変数CurBLの値がインクリメントされる。これは、符号化処理対象のタイル内の次のブロックラインが符号化処理対象となる事を意味する。
図14に戻り、ステップS1403では、フレーム内の全てのタイルの符号化処理が完了したか否かが判定される。完了したならば(ステップS1403でYes)ステップS1405の処理に進み、完了していないならばステップS1404の処理に進む。ステップS1404の処理では、タイル番号を表す変数CurTileの値がインクリメントされる。この処理は、次のタイルが次の処理対象となることを意味する。ステップS1405では、統合符号化部1304において、第一タイル符号化部1302及び第二タイル符号化部1303から出力された各符号化データを統合する。更に、ステップS1402で計算された位置情報を含む符号化パラメータを統合してビットストリームを生成、出力する。
次に、図24のタイル符号化処理に含まれるブロックラインの符号化の各処理の詳細について説明する。まず、ステップS2403の処理(上端のブロックラインを符号化する処理)に関して、図15のフローチャートを用いて詳細に説明する。上端のブロックラインは、偶数番目のブロックラインなので、処理対象のブロックラインの画像はタイルセレクタ1301によって第一タイル符号化部1302へ入力され符号化される。
図15では、まずステップS1501において、発生確率テーブルが所定の方法で初期化される。初期化された発生確率テーブルは、ブロックラインの左端のブロックの最初の2値信号を算術符号化する際に用いられ、後述するステップS1502で随時更新される。以下、ブロックラインの最初のブロックの2値信号を算術符号化する際に用いられる発生確率テーブルを、ブロックライン基準発生確率テーブルと記す。
ステップS1502では、第一タイル符号化部1302によって画像がブロック単位で符号化され、符号化データが生成される。ステップS1502のブロック符号化処理について、図16のフローチャートを用いて詳細に説明する。
図16において、ステップS1601では、入力された画像ブロックに対してブロック周辺の画素を利用したイントラ予測が行われ、予測誤差が生成される。ステップS1602では、前記予測誤差に対して直交変換が行われ変換係数が生成される。更に、画像の特性や符号量等に基づいて決定された量子化パラメータを用いて、前記変換係数が量子化され、量子化係数が生成される。ステップS1603では、量子化パラメータや予測モード等の各シンタックス要素が2値化され、2値信号が生成される。シンタックス要素毎に、H.264と同様に、ユーナリー・バイナリゼーション、固定長バイナリゼーション等の種々の2値化の手法が切り替えられて用いられる。更に、前記2値信号は前記発生確率テーブルに基づいて算術符号化される。ステップS1604では、算術符号化された2値信号が、発生確率の高い方のシンボルであったか否かに基づいて前記発生確率テーブルが更新される。ステップS1605では、ブロック内の全シンタックス要素が算術符号化されたか否かが判定される。全シンタックス要素が算術符号化されたならば(ステップS1605でYes)ブロック符号化処理を終了し、そうでないならばステップS1603の処理に進み、次のシンタックス要素の符号化を行う。
図15のフローチャートに戻り、ステップS1503では、発生確率テーブルを格納する条件を満たしているか否かが判定される。本実施形態では、ステップS1602で符号化したブロックが、ブロックラインの左端から所定数目のブロックであったか否かを、前記発生確率テーブルを格納する条件とする。前記条件を満たしている際には(ステップS1503でYes)ステップS1504の処理に進み、発生確率テーブルを第一発生確率テーブルとして第一発生確率テーブル記憶部2304に記憶する。条件を満たしていない場合はステップS1505の処理に進む。第一発生確率テーブルは、次のブロックラインの左端のブロックを符号化する際のブロックライン基準発生確率テーブルとして用いられる。
ステップS1505において、処理対象のブロックラインの全ブロックを符号化したか否かが判定される。全てのブロックを符号化したならば(ステップS1505でYes)上端のブロックラインの符号化を終了し、そうでないならばステップS1502の処理に進みラスタ順で次のブロックを符号化する。
次に、図24のステップS2404の処理(上端以外のブロックラインを符号化する処理)に関して、図17のフローチャートを用いて詳細に説明する。処理対象のブロックラインが偶数番目のブロックラインであるならば第一ブロックライン符号化部2302に処理対象のブロックの画像が入力され符号化される。奇数番目のブロックラインであるならば第二ブロックライン符号化部2303に処理対象のブロックの画像が入力され符号化される。まず、奇数番目のブロックラインを第二ブロックライン符号化部2303で復号する際のフローについて説明する。
ステップS1701において、第一発生確率テーブルが第一発生確率テーブル記憶部2304から、ブロックライン基準発生確率テーブルとして入力される。ステップS1702、S1703の処理は、ステップS1502、S1503の処理と同一であるため説明を省略する。ステップS1704の処理では、発生確率テーブルが第二発生確率テーブルとして、第二発生確率テーブル記憶部2305に格納される。第二発生確率テーブルは、次のブロックラインの左端のブロックを算術符号化する際にブロックライン基準発生確率テーブルとして用いられる。ステップS1705の処理はステップS1505と同じであり、奇数番目のブロックライン内の全ブロックが符号化処理を行う。
続いて、偶数番目のブロックラインを第一ブロックライン符号化部2302で符号化する際のフローを説明する。ステップS1701の処理では、第二発生確率テーブルが第二発生確率テーブル記憶部2305からブロックライン基準発生確率テーブルとして入力される。ステップS1702〜1704の処理に関しては、ステップS1502〜S1504の処理と同一であるため説明を省略する。S1705の処理はS1505と同じであり、偶数番目のブロックライン内の全ブロックが符号化処理を行う。
続いて、図24のステップS2405の、位置情報の計算処理について、図18のフローチャートを用いて詳細に説明する。この処理には入力として、変数CurBL及び変数CurTileが与えられる。
図18では、まずステップS1801で処理対象のブロックラインが、処理対象のタイル内で最後のブロックラインであるか否かが判定される。最後のブロックラインであるならば(ステップS1801でYes)ステップS1803の処理に進み、そうでないならばステップS1802の処理に進む。
ステップS1802の処理では、処理対象のブロックラインの符号化データサイズがシンタックスwpp_entry_point_offset[CurTile+1][CurBL+1]として設定される。wpp_entry_point_offset[CurTile][CurBL]は、CurTile番目のタイル内のCurBL番目のブロックラインの符号化データサイズを表すシンタックスである。
また、ステップS1803の処理において、処理対象のタイルがフレーム内の最後のタイルであるか否かが判定される。最後のタイルであるならば位置情報計算の処理を終了し、そうでないならばステップS1804の処理に進む。ここで、最後のタイルである場合は、最後のタイルの最後のブロックラインであり、ブロックラインのエントリポイントの情報はシンタックスとして符号化されない。
ステップS1804の処理において、処理対象のタイルの符号化データサイズが、CurTile番目のタイルの符号化データサイズを表すシンタックスtile_entry_point_offset[CurTile+1]として設定される。wpp_entry_point_offset及びtile_entry_point_offset[]の値は、図14のステップS1405の処理でスライスヘッダに統合される。
以上の構成と動作により、画像をタイル分割し、さらにブロックライン単位で並列に符号化が行えるようになるため、符号化においても高速な符号化が可能になった。さらに、タイル及び各ブロックラインの符号化データの先頭位置を正しく認識できるため、タイル単位で並列に復号可能とした上で、更にタイル内においてブロックライン単位に並列に復号が可能なビットストリームを符号化可能になる。これにより、フレームをタイルに分割し、更にタイルをブロックライン分割可能とする事で、並列性及び符号化効率の両方を高める事ができる。
なお、本実施形態ではタイル符号化部やブロックライン符号化部が2つの場合について説明した。しかし例えば第三タイル符号化部、第三ブロックライン符号化部、第三発生確率テーブル記憶部を加えることで、より多くの符号化部での並列処理が可能であることは明白である。
<実施形態4>
本発明の実施形態4の画像符号化装置が符号化する画像符号化フォーマットにおいては実施形態1と同様に1フレームが複数の矩形状の領域であるタイルに分割される。実施形態4のタイル構造は実施形態1の図2と同一であるため説明を省略する。但し、これに限定されない。
本実施形態におけるHEVCによる符号化ストリームのフォーマットを図10に示す。図10の符号化ストリームは、実施形態2と同様であり、全てのエントリポイントがブロックラインのエントリポイントで表される。
図13に、本実施形態の画像符号化フォーマットに従った符号化ストリームを符号化する、本実施形態の画像符号化装置の内容を図13及び図23示す。本実施形態の画像符号化装置の構成は実施形態3と同様であるため説明を省略する。
本実施形態の画像符号化装置の動作は、図24のステップS2405の位置情報計算処理を除いて実施形態3と同一であるため、ステップS2405のみを図22を用いて説明する。
図22では、まずステップS2201において処理対象のブロックラインがフレーム内の最後のブロックラインか否かが判定される。最後のブロックラインであるならば(ステップS2201でYes)位置情報計算処理を終了し、最後でないならばステップS2202の処理に進む。ここで、最後のブロックラインである場合は、ブロックラインのエントリポイントの情報はシンタックスとして符号化されない。
ステップS2202では、処理対象のブロックラインの符号化データサイズがentry_point_offsetの要素として設定される。本実施形態では、各タイルの垂直ブロック数が135で固定のため、CurTile番目のタイルのCurBL番目のブロックラインの符号化データサイズは、entry_point_offset[CurTile×135+CurBL+1]として設定される。各タイルの垂直ブロック数が異なる場合は、処理済みのタイルの垂直ブロック数を足し合わせた数字を、CurTile×135の数字と置き換える必要がある。
図24に戻り、ステップS2405の位置情報計算処理で求められた位置情報entry_point_offsetは、実施形態3と同様に、ステップS1405の処理でスライスヘッダのシンタックスとして統合される。
以上の構成と動作により、画像をタイル分割し、さらにブロックライン単位で並列に符号化が行えるようになるため、符号化においても高速な符号化が可能になる。タイル及び各ブロックラインの符号化データの先頭位置を正しく認識できるため、タイル単位で並列に復号可能とした上で、更にタイル内においてブロックライン単位に並列に復号が可能なビットストリームを符号化可能になる。
実施形態3ではタイルのエントリポイント数及びエントリポイントに加え、ブロックラインのエントリポイント数及びエントリポイントのセットをタイルの数だけシンタックスとして持つ必要があった。本実施形態では、エントリポイントが全てブロックラインの符号化データのサイズで表されるため、タイルのエントリポイントとブロックラインのエントリポイントの情報を別々に持つ必要がなく、より少ない情報量で並列な復号が可能なストリームを符号化できる。
なお、本実施形態でタイル符号化部やブロックライン符号化部が2つの場合について説明した。しかし例えば第三タイル符号化部、第三ブロックライン符号化部、第三発生確率テーブル記憶部を加えることで、より多くの符号化部での並列処理が可能であることは明白である。
<実施形態5>
図4、図13、図19、図23に示した各処理部はハードウェアでもって構成しているものとして上記実施形態では説明した。しかし、図4、図13、図19、図23に示した各処理部で行なう処理をコンピュータプログラムでもって構成しても良い。
図25は、上記各実施形態に係る画像表示装置に適用可能なコンピュータのハードウェアの構成例を示すブロック図である。
CPU2501は、RAM2502やROM2503に格納されているコンピュータプログラムやデータを用いてコンピュータ全体の制御を行うと共に、上記各実施形態に係る画像処理装置が行うものとして上述した各処理を実行する。即ち、CPU2501は、図4、図13、図19、図23に示した各処理部として機能することになる。
RAM2502は、外部記憶装置2506からロードされたコンピュータプログラムやデータ、I/F(インターフェース)2507を介して外部から取得したデータなどを一時的に記憶するためのエリアを有する。更に、RAM2502は、CPU2501が各種の処理を実行する際に用いるワークエリアを有する。即ち、RAM2502は、例えば、フレームメモリとして割当てたり、その他の各種のエリアを適宜提供することができる。
ROM2503には、本コンピュータの設定データや、ブートプログラムなどが格納されている。操作部2504は、キーボードやマウスなどにより構成されており、本コンピュータのユーザが操作することで、各種の指示をCPU2501に対して入力することができる。出力部2505は、CPU2501による処理結果を出力する。また出力部2505は例えば液晶ディスプレイのような表示装置で構成して処理結果を表示することができる。
外部記憶装置2506は、ハードディスクドライブ装置に代表される、大容量情報記憶装置である。外部記憶装置2506には、OS(オペレーティングシステム)や、図4、図13、図19、図23に示した各部の機能をCPU2501に実現させるためのコンピュータプログラムが保存されている。更には、外部記憶装置2506には、処理対象としての各画像が保存されていても良い。
外部記憶装置2506に保存されているコンピュータプログラムやデータは、CPU2501による制御に従って適宜RAM2502にロードされ、CPU2501による処理対象となる。I/F2507には、LANやインターネット等のネットワーク、投影装置や表示装置などの他の機器を接続することができ、本コンピュータはこのI/F2507を介して様々な情報を取得したり、送出したりすることができる。2508は上述の各部を繋ぐバスである。
上述の構成からなる作動は前述のフローチャートで説明した作動をCPU2501が中心となってその制御を行う。
<その他の実施形態>
本発明の目的は、前述した機能を実現するコンピュータプログラムのコードを記録した記憶媒体を、システムに供給し、そのシステムがコンピュータプログラムのコードを読み出し実行することによっても達成される。この場合、記憶媒体から読み出されたコンピュータプログラムのコード自体が前述した実施形態の機能を実現し、そのコンピュータプログラムのコードを記憶した記憶媒体は本発明を構成する。また、そのプログラムのコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した機能が実現される場合も含まれる。
さらに、以下の形態で実現しても構わない。すなわち、記憶媒体から読み出されたコンピュータプログラムコードを、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込む。そして、そのコンピュータプログラムのコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行って、前述した機能が実現される場合も含まれる。
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明したフローチャートに対応するコンピュータプログラムのコードが格納されることになる。

Claims (25)

  1. 複数のブロックラインを含むタイル単位で画像を符号化した符号化データを含むビットストリームを復号可能な画像復号装置であって、
    前記ビットストリームから、前記画像の分割状態を示す分割情報を取得する分割情報取得手段と、
    前記ビットストリームから、前記タイルにおける垂直方向のブロックの数を示す情報を取得するブロック数取得手段と、
    前記ビットストリームから、前記タイルに含まれる前記ブロックラインに対応する符号化データの先頭位置を特定するための情報を取得する先頭情報取得手段と、
    前記分割情報取得手段によって取得される分割情報が、前記画像が複数のタイルに分割されて符号化されており、かつ、前記タイルが複数のブロックラインに分割されて符号化されていることを示す場合に、前記ブロック数取得手段によって取得される、前記タイルにおける垂直方向のブロックの数を示す情報と、前記先頭情報取得手段によって取得される、前記タイルに含まれる、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報とに基づいて、前記タイル単位で前記ビットストリームを復号する復号手段と
    を有することを特徴とする画像復号装置。
  2. 前記復号手段は、前記ブロック数取得手段によって取得される、前記タイルにおける垂直方向のブロックの数を示す情報と、前記先頭情報取得手段によって取得される、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報とに基づいて、前記タイル単位に、かつ、前記ブロックライン単位に、前記ビットストリームを、復号する
    ことを特徴とする請求項1記載の画像復号装置。
  3. 前記復号手段は、前記ブロック数取得手段によって取得される、前記タイルにおける垂直方向のブロックの数を示す情報と、前記先頭情報取得手段によって取得される、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報とに基づいて、前記タイルに対応する符号化データの先頭位置を特定し、前記タイル単位で前記ビットストリームを復号する
    ことを特徴とする請求項1又は2に記載の画像復号装置。
  4. 前記画像に含まれる第1タイルに含まれるj番目(jは2以上の自然数)のブロックラインの符号化データの先頭位置を特定するための情報は、前記第1タイルに含まれるj−1番目のブロックラインの符号化データの大きさを示す情報である
    ことを特徴とする請求項1〜3のいずれか1項に記載の画像復号装置。
  5. 前記画像に含まれる第1タイルに含まれるj番目(jは2以上の自然数)のブロックラインの符号化データの先頭位置を特定するための情報は、前記第1タイルに含まれるj−1番目のブロックラインの符号化データの大きさを示す情報であり、
    前記復号手段は、前記第1タイルに隣接する第2タイルに対応する符号化データの先頭位置を、前記第1タイルにおける垂直方向のブロックの数を示す情報に基づいて、前記第1タイルに含まれる各ブロックラインの符号化データの大きさを足し合わせることによって特定する
    ことを特徴とする請求項3記載の画像復号装置。
  6. 前記分割情報取得手段は、前記ビットストリームのヘッダ情報から、前記分割情報を取得し、
    前記ブロック数取得手段は、前記ビットストリームのヘッダ情報から、前記タイルにおける垂直方向のブロックの数を示す情報を取得し、
    前記先頭情報取得手段は、前記ビットストリームのヘッダ情報から、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報を取得する、
    ことを特徴とする請求項1〜5のいずれか1項に記載の画像復号装置。
  7. 前記分割情報は、前記画像が複数のタイルに分割されて符号化されているか否かを示す第1分割情報と、前記タイルが複数のブロックラインに分割されて符号化されているか否かを示す第2分割情報とを含む
    ことを特徴とする請求項1〜6のいずれか1項に記載の画像復号装置。
  8. 前記先頭情報取得手段は、前記分割情報取得手段によって取得された分割情報が、前記画像が複数のタイルに分割されて符号化されており、かつ、前記タイルが複数のブロックラインに分割されて符号化されていないことを示す場合に、前記ビットストリームから、前記ビットストリームにおける、前記タイルに対応する符号化データの先頭位置を特定するための情報を取得し、
    前記復号手段は、前記分割情報取得手段によって取得された分割情報が、前記画像が複数のタイルに分割されて符号化されており、かつ、前記タイルが複数のブロックラインに分割されて符号化されていないことを示す場合に、前記先頭情報取得手段によって取得され前記タイルに対応する符号化データの先頭位置を示す情報に基づいて、前記タイル単位で前記ビットストリームを復号する
    ことを特徴とする請求項1〜7のいずれか1項に記載の画像復号装置。
  9. 前記先頭情報取得手段は、前記分割情報取得手段によって取得された分割情報が、前記画像が複数のタイルに分割されて符号化されておらず、かつ、前記画像が複数のブロックラインに分割されて符号化されていることを示す場合に、前記ビットストリームから、前記ビットストリームにおける、前記ブロックラインに対応する符号化データの先頭位置を示す情報を取得し、
    前記復号手段は、前記分割情報取得手段によって取得された分割情報が、前記画像が複数のタイルに分割されて符号化されておらず、かつ、前記画像が複数のブロックラインに分割されて符号化されていることを示す場合に、前記先頭情報取得手段によって取得された前記ブロックラインに対応する符号化データの先頭位置を示す情報に基づいて前記ブロックライン単位で前記ビットストリームを復号する
    ことを特徴とする請求項1〜8のいずれか1項に記載の画像復号装置。
  10. 前記復号手段は、前記分割情報取得手段によって取得された分割情報が、前記画像が複数のブロックラインに分割されて符号化されていることを示す場合に、WaveFront並列処理を用いて、前記ブロックライン単位で前記ビットストリームを復号する
    ことを特徴とする請求項1〜9のいずれか1項に記載の画像復号装置。
  11. 前記ブロックラインは、前記タイル内における複数のブロックのライン状の集合である
    ことを特徴とする請求項1〜10のいずれか1項に記載の画像復号装置。
  12. 前記先頭情報取得手段は、前記ビットストリームから、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報の数を取得する、
    ことを特徴とする請求項1〜11のいずれか1項に記載の画像復号装置。
  13. 前記ブロックラインに対応する符号化データの先頭位置を特定するための情報の数が取り得る値は、前記分割情報に応じて異なる、
    ことを特徴とする請求項12記載の画像復号装置。
  14. 前記分割情報取得手段によって取得される分割情報が、前記画像が複数のタイルに分割されて符号化されており、かつ、前記タイルが複数のブロックラインに分割されて符号化されていることを示す場合に、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報の数が取り得る値は、前記ブロックラインの数、及び、前記タイルの数によって定まる数から1を減じた値である
    ことを特徴とする請求項12又は13に記載の画像復号装置。
  15. 前記分割情報取得手段によって取得される分割情報が、前記画像が複数のタイルに分割されて符号化されており、かつ、前記タイルが複数のブロックラインに分割されて符号化されていることを示す場合、
    前記ブロックラインに対応する符号化データの先頭位置を特定するための情報は、前記画像に含まれる第1タイルにおける各ブロックラインに対応する符号化データの先頭位置を特定するための情報、前記第1タイルの次の第2タイルにおける各ブロックラインに対応する符号化データの先頭位置を特定するための情報、の順番で構成される
    ことを特徴とする請求項1〜14のいずれか1項に記載の画像復号装置。
  16. 画像を複数のタイル単位で符号化し、かつ、前記タイルを複数のブロックライン単位で符号化する符号化手段と、
    前記符号化手段によって、前記画像を複数のタイル単位で符号化し、かつ、前記タイルを複数のブロックライン単位で符号化する場合に、前記タイルにおける垂直方向のブロックの数と、前記タイルにおける前記ブロックラインに対応する符号化データの大きさとに基づいて、前記タイルに含まれる、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報を生成する生成手段と
    を有することを特徴とする画像符号化装置。
  17. 前記画像に含まれる第1タイルに含まれるj番目(jは2以上の自然数)のブロックラインの符号化データの先頭位置を特定するための情報は、前記第1タイルに含まれるj−1番目のブロックラインの符号化データの大きさを示す情報である
    ことを特徴とする請求項16記載の画像符号化装置。
  18. 前記画像の分割状態を示す分割情報を生成する分割情報生成手段
    を有することを特徴とする請求項16又は17に記載の画像符号化装置。
  19. 前記分割情報は、前記画像が複数のタイルに分割されて符号化されているか否かを示す第1分割情報と、前記タイルが複数のブロックラインに分割されて符号化されているか否かを示す第2分割情報とを含む
    ことを特徴とする請求項18記載の画像符号化装置。
  20. 前記ブロックラインは、前記タイル内における複数のブロックのライン状の集合である
    ことを特徴とする請求項16〜19のいずれか1項に記載の画像符号化装置。
  21. 前記生成手段は、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報を、前記画像に含まれる第1タイルにおける各ブロックラインに対応する符号化データの先頭位置を特定するための情報、前記第1タイルの次の第2タイルにおける各ブロックラインに対応する符号化データの先頭位置を特定するための情報、の順番で構成されるよう生成する
    ことを特徴とする請求項16〜20のいずれか1項に記載の画像符号化装置。
  22. 複数のブロックラインを含むタイル単位で画像を符号化した符号化データを含むビットストリームを復号可能な画像復号方法であって、
    前記ビットストリームから、前記画像の分割状態を示す分割情報を取得する分割情報取得工程と、
    前記ビットストリームから、前記タイルにおける垂直方向のブロックの数を示す情報を取得するブロック数取得工程と、
    前記ビットストリームから、前記タイルに含まれる、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報を取得する先頭情報取得工程と、
    前記分割情報取得工程によって取得される分割情報が、前記画像が複数のタイルに分割されて符号化されており、かつ、前記タイルが複数のブロックラインに分割されて符号化されていることを示す場合に、前記ブロック数取得工程によって取得される、前記タイルにおける垂直方向のブロックの数を示す情報と、前記先頭情報取得工程によって取得される、前記タイルに含まれる前記ブロックラインに対応する符号化データの先頭位置を特定するための情報とに基づいて、前記タイル単位で前記ビットストリームを復号する復号工程と
    を有することを特徴とする画像復号方法。
  23. 画像を複数のタイル単位で符号化し、かつ、前記タイルを複数のブロックライン単位で符号化する符号化工程と、
    前記符号化工程によって、前記画像を複数のタイル単位で符号化し、かつ、前記タイルを複数のブロックライン単位で符号化する場合に、前記タイルにおける垂直方向のブロックの数と、前記タイルにおける前記ブロックラインに対応する符号化データの大きさとに基づいて、前記タイルに含まれる、前記ブロックラインに対応する符号化データの先頭位置を特定するための情報を生成する生成工程と
    を有することを特徴とする画像符号化方法。
  24. 請求項1〜15のいずれか1項に記載の画像復号装置の各手段としてコンピュータを機能させることを特徴とするプログラム。
  25. 請求項16〜21のいずれか1項に記載の画像符号化装置の各手段としてコンピュータを機能させることを特徴とするプログラム。
JP2012147153A 2012-06-29 2012-06-29 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム Active JP6080405B2 (ja)

Priority Applications (17)

Application Number Priority Date Filing Date Title
JP2012147153A JP6080405B2 (ja) 2012-06-29 2012-06-29 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
CN201710959435.2A CN107517389B (zh) 2012-06-29 2013-06-26 图像编码装置及方法、图像解码装置及方法及存储介质
US14/411,287 US20150181218A1 (en) 2012-06-29 2013-06-26 Image encoding apparatus, method of image encoding, and recording medium, image decoding apparatus, method of image decoding, and recording medium
CN201710514536.9A CN107172441B (zh) 2012-06-29 2013-06-26 图像编码装置及方法、图像解码装置及方法
CN201710962143.4A CN107509082B (zh) 2012-06-29 2013-06-26 图像编码装置、图像编码方法及存储介质
KR1020177030580A KR101888375B1 (ko) 2012-06-29 2013-06-26 화상 부호화 장치, 화상 부호화 방법 및 기록 매체, 화상 복호장치, 화상 복호방법 및 기록 매체
CN201710960212.8A CN107483951B (zh) 2012-06-29 2013-06-26 图像解码装置、图像解码方法及存储介质
EP13740380.4A EP2868087A1 (en) 2012-06-29 2013-06-26 Image encoding apparatus, method of image encoding, and recording medium, image decoding apparatus, method of image decoding, and recording medium
KR1020177004469A KR101791858B1 (ko) 2012-06-29 2013-06-26 화상 부호화장치, 화상 부호화방법 및 기록 매체, 화상복호장치, 화상복호방법 및 기록 매체
CN201710959496.9A CN107483966B (zh) 2012-06-29 2013-06-26 图像编码装置及方法、图像解码装置及方法及存储介质
CN201380034770.1A CN104396259B (zh) 2012-06-29 2013-06-26 图像编码装置及方法、图像解码装置及方法
PCT/JP2013/004003 WO2014002497A1 (en) 2012-06-29 2013-06-26 Image encoding apparatus, method of image encoding, and recording medium, image decoding apparatus, method of image decoding, and recording medium
EP17191181.1A EP3291555A1 (en) 2012-06-29 2013-06-26 Image decoding apparatus, method of image decoding, and recording medium
KR1020157002007A KR101710017B1 (ko) 2012-06-29 2013-06-26 화상 부호화장치, 화상 부호화방법 및 기록 매체, 화상복호장치, 화상복호방법 및 기록 매체
CN201710960150.0A CN107743241B (zh) 2012-06-29 2013-06-26 图像编码装置及方法、图像解码装置及方法及存储介质
US15/657,580 US9979978B2 (en) 2012-06-29 2017-07-24 Image encoding apparatus, method of image encoding, and recording medium, image decoding apparatus, method of image decoding, and recording medium
US15/959,672 US10218991B2 (en) 2012-06-29 2018-04-23 Image encoding apparatus, method of image encoding, and recording medium, image decoding apparatus, method of image decoding, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012147153A JP6080405B2 (ja) 2012-06-29 2012-06-29 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017006501A Division JP6505142B2 (ja) 2017-01-18 2017-01-18 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2014011638A JP2014011638A (ja) 2014-01-20
JP2014011638A5 JP2014011638A5 (ja) 2015-09-10
JP6080405B2 true JP6080405B2 (ja) 2017-02-15

Family

ID=48874459

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012147153A Active JP6080405B2 (ja) 2012-06-29 2012-06-29 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Country Status (6)

Country Link
US (3) US20150181218A1 (ja)
EP (2) EP2868087A1 (ja)
JP (1) JP6080405B2 (ja)
KR (3) KR101710017B1 (ja)
CN (7) CN107172441B (ja)
WO (1) WO2014002497A1 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9630761B2 (en) 2008-10-20 2017-04-25 Mondelez UK Holding & Services Limited Packaging
US9656783B2 (en) 2010-05-18 2017-05-23 Intercontinental Great Brands Llc Reclosable flexible packaging and methods for manufacturing same
US9663282B2 (en) 2006-05-23 2017-05-30 International Great Rapids LLC Package integrity indicator for container closure
US9688442B2 (en) 2011-03-17 2017-06-27 Intercontinental Great Brands Llc Reclosable flexible film packaging products and methods of manufacture
US9708104B2 (en) 2010-05-18 2017-07-18 Intercontinental Great Brands Llc Reclosable flexible packaging and methods for manufacturing same
US9919855B2 (en) 2007-03-30 2018-03-20 Intercontinental Great Brands Llc Package integrity indicating closure
US10118741B2 (en) 2008-07-24 2018-11-06 Deborah Lyzenga Package integrity indicating closure

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6080375B2 (ja) * 2011-11-07 2017-02-15 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP6080405B2 (ja) * 2012-06-29 2017-02-15 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
US9621905B2 (en) * 2012-06-29 2017-04-11 Qualcomm Incorporated Tiles and wavefront parallel processing
US10271076B2 (en) 2014-06-30 2019-04-23 Sony Corporation File generation device and method, and content playback device and method
WO2016053154A1 (en) * 2014-09-30 2016-04-07 Telefonaktiebolaget L M Ericsson (Publ) Encoding and decoding a video frame in separate processing units
GB2531993B (en) 2014-10-14 2018-04-25 Canon Kk Description of image composition with HEVC still image file format
JP6613618B2 (ja) 2015-05-20 2019-12-04 株式会社ソシオネクスト 画像処理装置および画像処理方法
US10341561B2 (en) * 2015-09-11 2019-07-02 Facebook, Inc. Distributed image stabilization
US10602157B2 (en) 2015-09-11 2020-03-24 Facebook, Inc. Variable bitrate control for distributed video encoding
US10602153B2 (en) 2015-09-11 2020-03-24 Facebook, Inc. Ultra-high video compression
US10506235B2 (en) 2015-09-11 2019-12-10 Facebook, Inc. Distributed control of video encoding speeds
US10499070B2 (en) 2015-09-11 2019-12-03 Facebook, Inc. Key frame placement for distributed video encoding
US10063872B2 (en) 2015-09-11 2018-08-28 Facebook, Inc. Segment based encoding of video
US10375156B2 (en) 2015-09-11 2019-08-06 Facebook, Inc. Using worker nodes in a distributed video encoding system
US9794574B2 (en) 2016-01-11 2017-10-17 Google Inc. Adaptive tile data size coding for video and image compression
US10609423B2 (en) * 2016-09-07 2020-03-31 Qualcomm Incorporated Tree-type coding for video coding
KR20190052128A (ko) * 2016-10-04 2019-05-15 김기백 영상 데이터 부호화/복호화 방법 및 장치
CN113873262B (zh) * 2016-10-04 2023-03-24 有限公司B1影像技术研究所 图像数据编码/解码方法和装置
WO2018131813A1 (en) * 2017-01-10 2018-07-19 Samsung Electronics Co., Ltd. Method and apparatus for generating metadata for 3d images
KR102390413B1 (ko) * 2017-03-03 2022-04-25 에스케이텔레콤 주식회사 영상 부호화 또는 복호화하기 위한 장치 및 방법
EP3632107A1 (en) * 2017-06-30 2020-04-08 Huawei Technologies Co., Ltd. Encoder, decoder, computer program and computer program product for processing a frame of a video sequence
WO2020135317A1 (en) * 2018-12-28 2020-07-02 Huawei Technologies Co., Ltd. Devices and methods for coding a picture by partitioning it into slices comprising tiles
JP7403245B2 (ja) * 2019-06-21 2023-12-22 キヤノン株式会社 画像復号装置、画像復号方法
JP2021002773A (ja) * 2019-06-21 2021-01-07 キヤノン株式会社 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法
JP7403246B2 (ja) * 2019-06-21 2023-12-22 キヤノン株式会社 画像復号装置、画像復号方法
JP2021044708A (ja) 2019-09-11 2021-03-18 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
US20230032673A1 (en) * 2019-11-22 2023-02-02 Lg Electronics Inc. Image coding method based on entry point-related information in video or image coding system
WO2021107626A1 (ko) * 2019-11-28 2021-06-03 엘지전자 주식회사 영상/비디오 인코딩/디코딩 시스템에서 슬라이스에 관한 정보의 시그널링 방법 및 장치
KR102192631B1 (ko) * 2019-11-28 2020-12-17 주식회사우경정보기술 병렬 포렌식 마킹 장치 및 방법
EP3975119A1 (en) 2020-08-27 2022-03-30 Canon Kabushiki Kaisha Device, information processing apparatus, control method therefor, and program

Family Cites Families (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4257503B2 (ja) * 2003-04-25 2009-04-22 富士ゼロックス株式会社 画像処理装置及び画像処理方法
DE102004038110B3 (de) * 2004-08-05 2005-12-29 Siemens Ag Verfahren zum Codieren und Decodieren, sowie Codier- und Decodiervorrichtung zur Videocodierung
US7813432B2 (en) * 2004-12-30 2010-10-12 Intel Corporation Offset buffer for intra-prediction of digital video
CN100584013C (zh) * 2005-01-07 2010-01-20 日本电信电话株式会社 视频编码方法及装置、视频解码方法及装置
US7606429B2 (en) * 2005-03-25 2009-10-20 Ati Technologies Ulc Block-based image compression method and apparatus
US9077960B2 (en) * 2005-08-12 2015-07-07 Microsoft Corporation Non-zero coefficient block pattern coding
CN101138248A (zh) * 2005-12-07 2008-03-05 索尼株式会社 编码装置、编码方法、编码程序、解码装置、解码方法和解码程序
WO2007066709A1 (ja) * 2005-12-07 2007-06-14 Sony Corporation 符号化装置、符号化方法および符号化プログラム、ならびに、復号装置、復号方法および復号プログラム
JP2007189518A (ja) * 2006-01-13 2007-07-26 Matsushita Electric Ind Co Ltd 信号処理装置、撮像装置、ネットワークカメラシステム及び映像システム
US7831103B2 (en) * 2006-03-17 2010-11-09 Tata Consultancy Services Limited Digital images
CN101455085A (zh) * 2006-05-24 2009-06-10 松下电器产业株式会社 图像解码装置
JP2008219100A (ja) * 2007-02-28 2008-09-18 Oki Electric Ind Co Ltd 予測画像生成装置、方法及びプログラム、並びに、画像符号化装置、方法及びプログラム
CN101394559B (zh) * 2007-09-21 2010-10-27 扬智科技股份有限公司 动态图像处理方法、译码方法及其装置
US8432975B2 (en) * 2008-01-18 2013-04-30 Mediatek Inc. Apparatus and method for processing a picture frame
US8542748B2 (en) * 2008-03-28 2013-09-24 Sharp Laboratories Of America, Inc. Methods and systems for parallel video encoding and decoding
CN101779466B (zh) * 2008-06-10 2015-02-11 松下电器产业株式会社 图像解码装置及图像编码装置
US8311111B2 (en) 2008-09-11 2012-11-13 Google Inc. System and method for decoding using parallel processing
US20100254620A1 (en) * 2008-10-10 2010-10-07 Daisuke Iwahashi Image decoding apparatus and image decoding method
JP5340289B2 (ja) * 2008-11-10 2013-11-13 パナソニック株式会社 画像復号装置、画像復号方法、集積回路及びプログラム
JP5173873B2 (ja) * 2008-11-20 2013-04-03 キヤノン株式会社 画像符号化装置及びその制御方法
JP5343703B2 (ja) * 2009-05-22 2013-11-13 ソニー株式会社 復号処理装置、復号処理方法、およびプログラム
KR101773009B1 (ko) * 2009-06-29 2017-08-30 톰슨 라이센싱 코딩되지 않은 구문에 대한 적응 확률 갱신을 위한 방법 및 장치
JP2011217082A (ja) 2010-03-31 2011-10-27 Jvc Kenwood Corp 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム
US20110249735A1 (en) * 2010-04-09 2011-10-13 Jie Zhao Methods and Systems for Intra Prediction
JP5489845B2 (ja) * 2010-04-27 2014-05-14 キヤノン株式会社 画像符号化装置及びその制御方法、並びに、プログラム及び記憶媒体
US8681162B2 (en) * 2010-10-15 2014-03-25 Via Technologies, Inc. Systems and methods for video processing
CN102457725A (zh) * 2010-10-18 2012-05-16 曜鹏科技股份有限公司 影像编码资料暂存装置及其影像编码资料暂存方法
US9060174B2 (en) * 2010-12-28 2015-06-16 Fish Dive, Inc. Method and system for selectively breaking prediction in video coding
JP2012147153A (ja) 2011-01-11 2012-08-02 Renesas Electronics Corp 半導体集積回路およびその動作方法
KR20120084639A (ko) * 2011-01-20 2012-07-30 한국전자통신연구원 엔트로피 부호화를 위한 적응적 정렬 테이블
US9325999B2 (en) * 2011-03-10 2016-04-26 Sharp Kabushiki Kaisha Video decoder for slices
KR102145782B1 (ko) * 2011-10-31 2020-08-19 미쓰비시덴키 가부시키가이샤 동화상 부호화 장치, 동화상 부호화 방법 및 컴퓨터 독취 가능한 기억 매체
JP6080375B2 (ja) * 2011-11-07 2017-02-15 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
KR102510411B1 (ko) * 2012-01-20 2023-03-16 지이 비디오 컴프레션, 엘엘씨 병렬 처리, 전송 디멀티플렉서 및 비디오 비트스트림을 허용하는 코딩 개념
CN104620584B (zh) * 2012-04-13 2019-10-18 Ge视频压缩有限责任公司 可缩放数据流及网络实体
US20150117538A1 (en) * 2012-04-16 2015-04-30 Telefonaktiebolaget L M Ericsson (Publ) Fixed tile structure flag indicating parallel processing possibility for a sequence of compressed video
JP6080405B2 (ja) * 2012-06-29 2017-02-15 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9663282B2 (en) 2006-05-23 2017-05-30 International Great Rapids LLC Package integrity indicator for container closure
US9919855B2 (en) 2007-03-30 2018-03-20 Intercontinental Great Brands Llc Package integrity indicating closure
US10829285B2 (en) 2007-03-30 2020-11-10 Intercontinental Great Brands Llc Package integrity indicating closure
US10118741B2 (en) 2008-07-24 2018-11-06 Deborah Lyzenga Package integrity indicating closure
US11027892B2 (en) 2008-07-24 2021-06-08 Deborah Lyzenga Package integrity indicating closure
US9630761B2 (en) 2008-10-20 2017-04-25 Mondelez UK Holding & Services Limited Packaging
US9656783B2 (en) 2010-05-18 2017-05-23 Intercontinental Great Brands Llc Reclosable flexible packaging and methods for manufacturing same
US9708104B2 (en) 2010-05-18 2017-07-18 Intercontinental Great Brands Llc Reclosable flexible packaging and methods for manufacturing same
US9688442B2 (en) 2011-03-17 2017-06-27 Intercontinental Great Brands Llc Reclosable flexible film packaging products and methods of manufacture

Also Published As

Publication number Publication date
JP2014011638A (ja) 2014-01-20
KR20170021901A (ko) 2017-02-28
CN107483966A (zh) 2017-12-15
US10218991B2 (en) 2019-02-26
CN107509082A (zh) 2017-12-22
US20150181218A1 (en) 2015-06-25
KR101888375B1 (ko) 2018-08-14
KR20150024922A (ko) 2015-03-09
US9979978B2 (en) 2018-05-22
WO2014002497A1 (en) 2014-01-03
KR101791858B1 (ko) 2017-10-31
KR20170122841A (ko) 2017-11-06
US20180242009A1 (en) 2018-08-23
US20170324970A1 (en) 2017-11-09
CN107743241A (zh) 2018-02-27
EP2868087A1 (en) 2015-05-06
CN107483951A (zh) 2017-12-15
CN107483951B (zh) 2020-03-17
CN104396259A (zh) 2015-03-04
CN107517389B (zh) 2020-03-17
CN107483966B (zh) 2020-10-30
CN107172441A (zh) 2017-09-15
CN107172441B (zh) 2020-01-17
CN107743241B (zh) 2020-05-05
CN107517389A (zh) 2017-12-26
CN107509082B (zh) 2020-03-17
EP3291555A1 (en) 2018-03-07
CN104396259B (zh) 2017-10-31
KR101710017B1 (ko) 2017-02-24

Similar Documents

Publication Publication Date Title
JP6080405B2 (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP6590918B2 (ja) 画像を符号化する方法、画像を復号する方法、画像を符号化する装置、画像を復号する装置、及びプログラム
CN108810536B (zh) 图像编码设备
JP6376719B2 (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2017092982A (ja) 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム
JP2014011726A (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
KR102413597B1 (ko) 복호 방법 및 장치
KR20140035408A (ko) 동화상 복호화 장치 및 동화상 복호화 방법
JP6505142B2 (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2012147293A (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP6618578B2 (ja) 画像符号化装置、および画像復号装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150622

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150723

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160301

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161004

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170117

R151 Written notification of patent or utility model registration

Ref document number: 6080405

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151