JP2013102298A - 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム - Google Patents

画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム Download PDF

Info

Publication number
JP2013102298A
JP2013102298A JP2011243939A JP2011243939A JP2013102298A JP 2013102298 A JP2013102298 A JP 2013102298A JP 2011243939 A JP2011243939 A JP 2011243939A JP 2011243939 A JP2011243939 A JP 2011243939A JP 2013102298 A JP2013102298 A JP 2013102298A
Authority
JP
Japan
Prior art keywords
tile
pixels
image
tiles
vertical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011243939A
Other languages
English (en)
Other versions
JP5893346B2 (ja
Inventor
Hideaki Hattori
秀昭 服部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011243939A priority Critical patent/JP5893346B2/ja
Priority to US14/356,550 priority patent/US9462269B2/en
Priority to PCT/JP2012/078083 priority patent/WO2013069512A1/en
Publication of JP2013102298A publication Critical patent/JP2013102298A/ja
Application granted granted Critical
Publication of JP5893346B2 publication Critical patent/JP5893346B2/ja
Priority to US15/248,730 priority patent/US10165304B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K15/00Arrangements for producing a permanent visual presentation of the output data, e.g. computer output printers
    • G06K15/02Arrangements for producing a permanent visual presentation of the output data, e.g. computer output printers using printers
    • G06K15/18Conditioning data for presenting it to the physical printing elements
    • G06K15/1835Transforming generic data
    • G06K15/1836Rasterization
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/127Prioritisation of hardware or computational resources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3243Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document of type information, e.g. handwritten or text document

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】 フレーム内における符号化処理順序と出力画素の順序が異なる場合に大量のメモリを必要とすると共に処理の遅延時間が大きい。
【解決手段】 画像復号装置が復号可能な処理の組み合わせを示すプロファイル及び画像復号装置が復号可能なパラメータ値の範囲を示すレベルを算出し、特定のプロファイルにおいて前記レベルに応じて予め定められている最大水平画素数であるN以下(N>0)となるように前記タイルの水平画素数もしくは水平タイル数を決定し、また、特定のプロファイルにおいて前記レベルに応じて予め定められている最大垂直画素数であるM以下(M>0)となるように前記タイルの垂直画素数もしくは垂直タイル数を決定し、決定されたタイルの水平画素数及び垂直画素数もしくはタイル数に応じて各フレームを分割して符号化する。
【選択図】 図1

Description

本発明は画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラムに関し、特に各フレームが矩形状のタイルに分割された画像の符号化方法・復号方法に関する。
現在デジタル技術の進展によりデジタルカメラ・デジタルビデオカメラにおける高解像度でのデジタル動画像撮影が広く普及している。またデジタル動画の高解像度化に伴い、撮影された動画からユーザの好みのフレームを抽出して静止画としてプリントしたいというユーザのニーズも同時に高まっている。この動画からフレームを抽出してプリントすることを本願発明においては動画フレームプリントと呼ぶ。
デジタル動画像はフラッシュメモリに代表される記録媒体に効率良く記録するため一般に圧縮(符号化)されており、動画像の符号化方式として、H.264/MPEG−4 AVC(以下、H.264)が広く使用されている。(非特許文献1)
H.264におけるマクロブロックの処理順序を図19に示す。図19(a)に示されるように符号化処理は1フレームを16画素×16画素から成るマクロブロック単位に分割して符号化処理が行われる。フレーム内においては左上のマクロブロックから順に右上→左下→右下の順で符号化が行われる。復号処理においては符号化処理と同じ処理順序で復号が行われ、復号した画像を出力する。またH.264においてはエラー耐性を高める等の目的のため1枚のフレームを複数のスライスに分割するマルチスライス構造が採用されている。スライスは1つ以上のマクロブロックで構成されている。図19(b)にマルチスライス構造及び符号化・復号の順序を示す。
近年、H.264の後継としてさらに高効率な符号化方式の国際標準化を行う活動が開始されて、JCT−VC(Joint Collaborative Team on Video Coding)がISO/IECとITU−Tの間で設立された。JCT−VCでは、High Efficiency Video Coding符号化方式(以下、HEVC)の標準化が進められている。
HEVCの標準化にあたっては、種々の符号化方法が、符号化効率向上のみならず実装の容易性や処理時間の短縮といった点も含めて幅広く検討されている。その中には、符号化・復号の並列処理等を可能にする、Tileと呼ばれる手法がある。(非特許文献2)
Tileを用いることによって、符号化・復号の並列処理による高速化を実現すると共に符号化装置・復号装置が備えるメモリ容量を削減することが可能となっている。
特開2009−194748
ITU−T H.264 (03/2010) Advanced video coding for generic audio visual services JCT−VC 寄書 JCTVC−F335.doc インターネット< http://phenix.int−evry.fr/jct/doc_end_user/documents/6_Torino/wg11/ >
デジタル動画においてはフルハイビジョン(水平1920画素×垂直1080画素)のように横長のフレームが一般的に使用されている。一方、動画フレームプリントのユースケースにおいては主にプリンタ本体の機構上の制約から横長のフレームをプリントする際にはフレームの垂直画素列単位で水平方向に(左端の画素列から右端の方向)プリントされることが一般的である。
図20を用いて動画フレームプリントにおける復号とプリント処理のための画像出力の処理順序を示す。図20は水平方向p個、垂直方向q個のマクロブロックから成るフレームを示したものであり、図中の数字は各マクロブロックの空間座標を示す。前述のようにH.264での復号処理はマクロブロック単位のラスタ・スキャン順である。図20では(0,0)→(0,1)→(0,2)→ ・・・ →(0,p−1)→(1,0)→(1,1)→ ・・・ →(1,p−1)→(2,0)→ ・・・ →(q−1,0)→ ・・・ →(q−1,p−1)の順に処理が行われる。一方、動画フレームプリントにおけるプリント処理は(0,0)〜(q−1,0)の左端のマクロブロック列が最初に必要な領域である。その後(0,1)〜(q−1,1)、(0,2)〜(q−1,2)、のマクロブロック列が順次必要となり、復号における処理順序とは異なっている。
H.264の復号処理において(q−1,0)のマクロブロックの復号が完了するのは1フレーム処理の完了直前であり、プリント処理は1フレームの復号処理がほぼ完了するまで出力画素を得ることができない。
このように、動画フレームプリントのような動画復号の処理順序と異なる処理順序で出力画像が必要なユースケースにおいては、プリント処理が処理対象フレームの大部分の復号処理の完了を待つ必要がある。この待ち時間は動画フレームプリントの処理時間増大を招き、ユーザの利便性を損なうという問題があった。
また上記のようにプリント処理が1フレームの復号完了を待つためには、復号したフレーム全体をメモリに保持する必要がある。プリンタ本体がH.264等の動画の復号処理を行う場合には追加メモリ領域が必要となりプリンタ本体のコストが増大してしまうという問題もあった。
この点、特許文献1においてはプリンタ内部における限られたメモリサイズにおいて復号処理と異なる処理順序での出力が必要な場合に、符号化された画像ファイルを複数回復号する方法が記されている。しかしながら圧縮されたファイルを複数回復号する際には処理時間が長くなり、前記処理時間増大の課題を十分に解決できるものではない。
本発明は上記課題を鑑みて提案されたものであり、動画フレームプリントのように復号の処理順序と画素出力の処理順序が異なるユースケースにおいて処理の高速化及びメモリコストを低減することを目的とする。
上記の課題を解決するため、本発明の画像符号化装置は、1枚以上の画像フレームの各フレームを複数の矩形状のタイルに分割し、それぞれのタイルを符号化する画像符号化装置であって、画像復号装置が復号可能な処理の組み合わせを示すプロファイル及び画像復号装置が復号可能なパラメータ値の範囲を示すレベルを算出する算出手段と、特定のプロファイルにおいて前記レベルに応じて予め定められている最大水平画素数であるN以下(N>0)となるように前記タイルの水平画素数もしくは水平タイル数を決定し、また、特定のプロファイルにおいて前記レベルに応じて予め定められている最大垂直画素数であるM以下(M>0)となるように前記タイルの垂直画素数もしくは垂直タイル数を決定する決定手段と、決定されたタイルの水平画素数及び垂直画素数もしくはタイル数に応じて各フレームを分割して符号化する符号化手段とを有することを特徴とする。
画像復号装置が復号可能な処理の組み合わせを示すプロファイル及び画像復号装置が復号可能なパラメータ値の範囲を示すレベルを含み、特定のプロファイルにおけるタイルの水平画素数が最大水平画素数であるN以下(N>0)もしくはタイルの垂直画素数が最大垂直画素数であるM以下(M>0)に制限され、前記タイルの最大垂直画素数及びタイルの最大垂直画素数は前記レベルに応じて定められる画像符号化フォーマットで符号化された符号化ストリームを復号することを特徴とする。
本発明によれば動画復号の処理順序と異なる処理順序で出力画像が必要なユースケースにおいても、復号処理の完了を待つことなく画素出力処理を開始することができ、処理時間を短縮することができる。また出力用メモリにおいてもフレーム全体を保持する必要が無いためメモリサイズを削減し、低コスト化を実現することが可能になる。またプロファイルに応じて最大タイルサイズを規定することにより復号時に発生する最大処理時間及び最大メモリサイズをより好ましい値として規定することが可能となる。
実施形態1の画像復号装置を示す図 実施形態1のタイル分割の例を示す図 実施形態1の符号化ストリームの例を示す図 実施形態1のタイルサイズが異なる場合のタイル分割の例を示す図 実施形態1タイルサイズの制限を示す図 実施形態2の各フレームの復号フローチャートを示す図 実施形態2の各タイルの復号フローチャートを示す図 実施形態3の符号化ストリームの例を示す図 実施形態3のタイル分割を示す図 実施形態3のタイルサイズの制限を示す図 実施形態4のタイルサイズの制限を示す図 実施形態4のタイル分割を示す図 実施形態5のタイルサイズの制限を示す図 実施形態5の画像復号装置を示す図 本発明において使用可能なタイプの異なるプリンティング・プロファイルのリストを示す図 実施形態6の画像符号化装置を示す図 実施形態7の各フレームの符号化フローチャートを示す図 実施形態7の各タイルの符号化フローチャートを示す図 H.264における符号化・復号の処理順序及びマルチスライス構造を示す図 H.264におけるマクロブロック位置を示す図
以下、添付の図面を参照して、本願発明をその好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
<実施形態1>
本発明の実施形態1においては非特許文献2と同様に1フレームが複数の矩形状の領域であるTile(タイル)に分割される。このタイル分割を行うと分割後のタイルの水平画素数をH.264のスライス分割されたスライスより小さくすることができる。よって符号化・復号のより柔軟な並列処理が可能になると共にシステムLSIとして実装した時のオンチップメモリ(SRAM)の容量削減が可能になる。
図2に実施形態1におけるタイル構造及びブロックを示す。図2においては水平1920画素×垂直1088画素のフレームが6個のタイルに分割された様子を示している。各タイルサイズはブロックの逓倍であり、図2において各タイルは水平10個×垂直34個のブロックから構成される。図中の番号はフレーム中における各ブロックの空間座標を示す。本発明の符号化フォーマットではブロック単位で符号化が行われ、ブロックは水平32画素×垂直32画素で構成されている(各タイルは水平320画素×垂直1088画素を有する)。なお本発明におけるブロックのサイズは水平32画素×垂直32画素に限定されず、水平16画素×垂直16画素や水平64画素×垂直64画素等のサイズも使用することが可能である。
本実施形態において各タイルは画面内予測やフレーム間予測及びフィルタ処理において他のタイルを参照することなく独立して符号化される。復号時にも他のタイルを参照することなく独立して復号することが可能である。タイル間の依存性を無くすことにより複数のタイルを並列に符号化・復号することが可能である。
各タイル内部における符号化及び復号順序はラスタ・スキャン順であり、図2のタイル1においては(0,0)→(0,1)〜(0,9)→(1,0)→(1,1)〜(1,9)〜(33,8)→(33,9)の順序で復号される。
図3に実施形態1におけるタイル分割を含んだ画像符号化ストリーム(以下、ストリーム)の例を示す。図3においてストリームの先頭付近に挿入されるシーケンス・パラメータ・セットに復号可能な処理の組み合わせを示すプロファイル、復号可能なパラメータ値の範囲を示すレベル、フレームの水平・垂直画素数に加えてタイル情報を挿入することが可能である。
タイル情報としてまずフレーム内の水平タイル数、垂直タイル数の情報が挿入される。図3においてはNumTilesH, NumTilesVであり、それぞれ非特許文献2に記載のnum_tile_columns_minus1, num_tile_rows_minus1に相当する。num_tile_columns_minus1及びnum_tile_rows_minus1はそれぞれフレーム内の水平タイル数、垂直タイル数から1を減じた数を示す。
水平タイル数もしくは垂直タイル数が2以上の場合(タイル分割が行われる場合)には続いて各タイルの大きさが同じであるか否かを示す情報であるuniform_spacing_idc(非特許文献2記載)が挿入される。本実施形態では各タイルが同じサイズを使用することを仮定しておりuniform_spacing_idc=1である。なお後述の実施形態3で示すようにuniform_spacing_idc=0である時にも本発明は適用可能である。
非特許文献2に記載されているようにuniform_spacing_idc=1の場合の各タイルの水平・垂直画素数はフレーム水平・垂直画素数及び前記水平・垂直タイル数から除算により求めることができる。なおuniform_spacing_idc=1の時にもフレームサイズとタイル数の関係により各タイルのサイズがわずかに異なる場合がある。図4に水平1280画素×垂直800画素のフレームにおいて水平タイル数が4、垂直タイル数が3である例を示す。
なお本発明におけるタイル情報の挿入位置はシーケンス・パラメータ・セットに限定されず、例えばピクチャ・パラメータ・セットやスライス・ヘッダの一部として挿入することも可能である。
図1に前記画像符号化フォーマットに従ったストリームを復号する画像復号装置の内容を示す。図1記載の画像復号装置は図示されるようにストリーム解析器101、全体制御器102、タイルサイズ解析器103、動き補償器104、予測残差復号器105、加算器106、画面内補償器107、加算器108、画面内補償用メモリ109、選択器110、フィルタ処理器111、画素出力器112、動き補償用メモリ113、画像出力用メモリ114から構成される。
ストリーム解析器101は符号化ストリームを入力し、タイル情報を含むヘッダ情報、動きベクトル及び符号化された予測残差の分離を行う。全体制御器102はストリーム解析器101からヘッダ情報を受け取り、レベル・プロファイル及び様々な符号化モード・符号化パラメータ(動き予測もしくは画面内予測、画面内予測モード)を解析する。全体制御器102は解析した符号化モード・符号化パラメータに応じて各処理の制御を行う。タイルサイズ解析器103はストリーム解析器101から水平・垂直タイル数等のタイル情報を受け取りタイルの水平・垂直画素数の算出を行う。算出された水平・垂直画素数及びタイル間の依存性等の情報は関連する各処理に伝達される。
復号処理対象ブロックの符号化モードが動き予測である場合、動き補償器104は動きベクトル及びタイル情報に応じて、動き予測のための復号された画像が記録されている動き補償用メモリ113に対するアドレスを生成する。動き補償用メモリ113から読み込んだ参照画像を用いて動き補償器104は動き補償のための参照ブロックを生成する(動きベクトルが非整数値を示す場合にはフィルタ処理等を施す)。また本実施形態は前述のように他のタイルを参照せずに符号化された(tile_boundary_independence_idc=1である)ことを前提としている。前記参照ブロック生成に使用する画素がタイル外に位置する場合には予め定められた画素値への置換を行う。
予測残差復号器105は前記符号化された予測残差のエントロピー復号(可変長復号もしくは算術復号)及び逆量子化、逆直交変換を行い、予測残差を生成する。加算器106は動き補償器104から出力される参照ブロックと予測残差復号器105で復号された予測残差の加算を行う。
復号処理対象ブロックの符号化モードが画面内予測で符号化されたブロックである場合、画面内補償器107は画面内予測モードに対応した画素を画面内補償用メモリ109から読み込み参照ブロックを生成する。なお画面内補償器107においてもタイル情報を参照したタイル外に位置する画素の置換を行う。加算器108は画面内補償器107から出力される参照ブロックと予測残差の加算を行う。加算後の復号された画素は後続ブロックの画面内補償のため画面内補償用メモリ109へと記録される。
選択器110は符号化モードに応じて加算器106もしくは加算器108のいずれかの出力を選択する。加算後の復号された画像は後続ブロックの画面内補償のため画面内補償用メモリ109へと記録される。フィルタ処理器111は選択器110の出力を受け取りデブロッキング・フィルタ等のフィルタ処理を行う。なおフィルタ処理器111においてもタイル情報を参照してタイル外に位置する画素の置換を行う。画素出力器112はタイル情報を参照してメモリアドレスを算出し、動き補償用メモリ113及び画像出力用メモリ114に記録する。
本実施形態での符号化ストリームを復号する際には図2であれば(33,9)に位置するブロックの復号が完了し、フレーム全体の1/6の復号が完了した時点で左側1/6のプリント処理を開始することが可能である。結果として残り5/6フレームの復号処理とプリント処理を並列して動作させることが可能になり、動画フレームプリントの処理時間を大幅に短縮することができる。またプリントが完了した画素はメモリ上に保持し続ける必要は無く、後続タイルの復号画素の記録に使用することが可能である。結果として図2の構成であれば画像出力用メモリの1/6を復号に、1/6をプリント処理に使用することで必要なメモリサイズは従来の1/3となる(動き補償等、復号の過程で使用するメモリ容量は除く)。
一般に画像復号装置においてはサポート対象のレベル及びプロファイルで符号化されたストリームは全てデコード可能である必要がある。しかしながらフレーム内のタイル数及びタイルサイズは符号化時に決定されるため、前述した動画フレームプリント装置の処理時間短縮及びメモリサイズ削減の効果が得られるかどうかは符号化時にタイル分割が使用されたか否かに依存してしまう。またタイル分割されたストリームであっても各タイルの画素数が適切な数値でない場合には(例えばタイルの水平画素数がフレームの水平画素数と同じなど)前述の効果を得ることができない。プリンタ等の画像復号装置を備えるシステムは設計時にどれほどメモリが必要かを見極めることができず、結果的に1フレーム全体を処理可能なメモリを搭載することになり、コストが増加してしまうという問題があった。
そこで本実施形態における符号化方式においては動画フレームプリント装置に適し、かつメモリサイズ削減が可能なプロファイルとしてタイル分割用プロファイルであるプロファイルを規定する。ここでは便宜上、このプロファイルをプリンティング・プロファイルと称する。例えば、H.264のプロファイルを示すprofile_idcと同様にプロファイルがプリンティング・プロファイルを0x80とした時には以下の全ての条件を満たさなければならない。
下記条件においてtile_info_present_flag(非特許文献2記載)はストリームのヘッダに含まれる情報であり、後続のヘッダにタイルに関する情報が挿入されていることを示している。column_width[i]、row_height[i] (共に非特許文献2記載)はそれぞれ各タイルの水平画素数、垂直画素数を示しており、フレームの水平・垂直画素数及び水平・垂直タイル数によって決定される数である。またMaxTileWidthは各タイルの最大水平画素数を、MaxTileHeightは各タイルの最大垂直画素数を示しており、それぞれレベルに応じて予め定められる値である。
・tile_info_present_flag = 1
・(num_tile_columns_minus1 > 0) OR (num_tile_rows_minus1 > 0)
・uniform_spacing_idc = 1
・column_width[i] ≦MaxTileWidth
・row_height[i] ≦MaxTileHeight
図5にプリンティング・プロファイルにおけるタイルサイズ制限の例を示す。左側のベースライン・プロファイルはタイルサイズに制限を加えない従来のプロファイルであり、レベルに依存せず符号化時にはどのようなタイルサイズも使用することが可能である。一方で本発明のプリンティング・プロファイルにおいては図中に示されるようにタイルの水平・垂直画素数をレベルに応じた特有の値に制限する。このプリンティング・プロファイルのみをサポート対象とする画像復号装置においては、最大タイルサイズを超える符号化ストリームはサポート外ストリームとみなし、復号を行う必要は無い。よって画像復号装置が搭載すべき最大メモリ容量を一定の量以下に削減することが可能になる。図1の画像復号装置においてこれを実現する場合、全体制御器102はプリンティング・プロファイルでありかつ算出されたタイルサイズが最大タイルサイズを超える場合には外部にサポート外ストリームである旨を通知し、復号処理を中止する。
本発明は上記構成に限定されるものではなく、プリンティング・プロファイルにおける各タイルの最大水平画素数及び最大垂直画素数として任意の値を規定することが可能である。また特定のプロファイルとレベルの組み合わせに限定されるものではなく、例えばプロファイルのみで最大水平画素数及び最大垂直画素数を規定することも可能である。またタイルサイズに関する制限をタイルの水平画素数もしくは垂直画素数のいずれかのみに適用することも可能である。
サポートするストリームをタイルサイズに制限を設けたプリンティング・プロファイルに限定することでプリンタ等の画像復号装置は必要なメモリサイズ(最大使用メモリサイズ)を機器設計時に把握することができ、かつメモリコストを削減することができる。またプリンティング・プロファイルで符号化されたストリームの動画フレームプリント装置による処理時間の短縮を実現することが可能となる。
なお、タイルの分割数などもこれに限定されず、プロファイルの名称やプロファイルを示す値もこれに限定されない。
特に動画フレームプリントにおいては、タイルの垂直画素数をフレームの垂直画素数と同じにすることにより、より高速な処理が可能になる。よってより高速な処理を実現するために、タイルの垂直画素数をフレームの垂直画素数と同じ数に限定するハイ・プリンティング・プロファイルを設けることも可能である。このハイ・プリンティング・プロファイルにおけるタイルの最大垂直画素数はフレームの最大垂直画素数と同じ数に限定される。
更に各タイルはラスタ・スキャン順でストリームに多重化されることを基本とする(図2及び図4ではタイル1→タイル2→タイル3の番号順である)。しかし本発明においてはプリントの処理順序により近くなるよう、フレームの左端のタイル列を優先して多重化することも可能である。この場合、図4においてタイル1→タイル5→タイル9→タイル2の順序で多重化が行われる。またタイルの処理順序をヘッダ中に含めることも可能である。
このようにタイル間の多重化順序をプリント処理に近い順序にすることにより動画フレームプリントの更なる高速化を実現することが可能である。
<実施形態2>
本発明における符号化ストリームの復号はCPU上のソフトウェア・プログラムとして実現することも可能である。図6及び図7に1フレームを復号するプログラムのフローチャートを示す。なお符号化ストリームのフォーマット及びタイルの分割については実施形態1と同様の構成を使用するものとする。
まずステップS601において、符号化ストリーム中のヘッダ情報を解析し、レベル・プロファイル、タイル情報(タイル数・タイル間の依存性、各タイルが同じ大きさか否か等)を抽出する。ステップS602において、ステップS601で得られたタイル情報から各タイルのタイルサイズを決定する。さらにフレームに含まれる総タイル数を算出する。ステップS603において、プロファイルがプリンティング・プロファイルであるか否かを判断する。プリンティング・プロファイルの場合にはタイルサイズの確認を行うためにステップS604に進み、プリンティング・プロファイル以外のプロファイルの場合にはサポート外のため復号できないストリームであることを通知して終了する。
ステップS604において、ステップS601で抽出されたプリンティング・プロファイルのレベルに応じて規定された各タイルの最大水平・垂直画素数であるMaxTileWidth、MaxTileHeightを算出する。ステップS605及びステップS606において、各タイルの水平画素数、垂直画素数がステップS604で算出された最大数以下であることを確認し、いずれかが最大数を超える場合には復号できないストリームであることを通知して終了する。ステップS607及びステップS608において、フレーム内の全タイルの復号処理を繰り返し行う。符号化ストリームが複数の画像フレームから構成される場合には最終フレームまでステップS601〜ステップS608を繰り返す。
図7に各タイルの復号処理のフローチャートを示す。ステップS701において、ブロック毎のヘッダ情報から復号対象ブロックの符号化モード及び符号化パラメータを抽出する。ステップS702において、エントロピー復号(可変長復号もしくは算術復号)、逆量子化、逆変換処理を行い、予測残差を復号する。ステップS703において、ステップS701で復号対象ブロックの符号化モードを判定し、画面内予測モードで符号化されたか動き予測モードで符号化されたかの判断を行う。動き予測モードであればステップS704に進み、画面内予測モードであればステップS706に進む。
ステップS704において、動き補償を行うための動きベクトルを符号化ストリームから抽出し復号する。ステップS705において動き補償処理として、ステップS704で生成された動きベクトルを使用して動き補償用の参照ブロックの生成及び参照ブロックと予測誤差の加算を行う。ステップS602において解析されたタイルサイズを参照し、実施形態1と同様にタイル外に位置する参照画素の置き換えを行う。
ステップS706において、ステップS701で抽出された画面内予測モードに応じた画面内補償を行う。実施形態1と同様にタイル外に位置する画素の置き換えを行う。ステップS707において、動き補償もしくは画面内補償されて復号されたブロックに対してデブロッキング・フィルタ等のフィルタ処理を行う。実施形態1と同様にタイル外に位置する画素の置き換えを行う。ステップS708において、タイル内の全ブロックの復号処理が完了していない場合にはステップS701に戻り、全ブロックの復号処理が完了するとタイル復号が終了となる。なお本実施形態2も実施形態1同様、タイルサイズ及びタイルの分割数などもこれに限定されない。
上記のようにプログラムで画像復号処理を実現した場合にもソフトウェアで実現することで前記実施形態1と同等の効果を実現することができる。
なお、本実施形態ではプロファイルがプリンティング・プロファイル以外であった場合に処理を終了したが、これに限定されず、復号処理のメモリ割り当てを増やすなどして復号することももちろん可能である。但し、この場合は処理が高速化される効果は失われる。
<実施形態3>
本発明の実施形態3における符号化フォーマットは実施形態1とは異なるタイル分割及び最大タイルサイズを使用する。総画素数を制限することで、実施形態1と同様のメモリサイズを削減する効果をより柔軟な形式で実現することができる。
図8に実施形態3におけるタイル分割を含んだ符号化ストリームの例を示す。実施形態3では各タイルで異なるタイルサイズを用いるため前記uniform_spacing_idcを0とする。uniform_spacing_idcの後にタイルの水平画素数(前記column_width[i])が水平タイル数分、タイルの垂直画素数(前記row_height[i])が垂直タイル数分挿入されている。図9に実施形態3におけるタイル分割の例を示す(水平タイル数が3、垂直タイル数が3の例である)。
実施形態3においては水平画素数と垂直画素数の積、すなわちタイル内の総画素数を制限するものとする。よって本実施形態においてプロファイルがプリンティング・プロファイルを示す値、例えばH.264でも使用されているprofile_idcが0x80である時には以下の全ての条件を満たさなければならない。下記条件においてMaxTileSizeはタイル内の最大総画素数でありレベルに応じて定められる。その他の変数は実施形態1と同じ内容を示す。
・tile_info_present_flag = 1
・(num_tile_columns_minus1 > 0) OR (num_tile_rows_minus1 > 0)
・uniform_spacing_idc = 0
・column_width[i]×row_height[i]≦MaxTileSize
例として符号化ストリーム中のプロファイルがプリンティング・プロファイルである場合には図10に示すようなテーブルに応じてタイル内の総画素数MaxTileSizeが制限される。
復号装置については実施形態1と同様の構成である。
このようにタイルサイズをタイル内の総画素数により制限しても実施形態1と同様の効果を実現することができる。
またこのように他のタイルを参照して符号化することにより符号化・復号処理の並列性はやや落ちるもののタイル境界での画質劣化発生を抑制することができる。
更に本実施形態の構成は実施形態2のようにソフトウェア・プログラムにより実現することも可能である。本実施形態では、ステップS604でMaxTileSizeを算出し、ステップS605の条件がcolumn_width[i]×row_height[i]≦MaxTileSizeに代わることで実現される。
<実施形態4>
本発明の実施形態4における符号化ストリームはタイル情報を省略可能なフォーマットである(前記tile_info_present_flag=0)。符号化ストリームがプリンティング・プロファイルである場合にはtile_info_present_flag=0であっても自動的にタイル分割が行われる。
実施形態4においては図11のテーブルに示すように各レベルの制限値である最大タイル水平・垂直画素数もしくはタイル内の最大総画素数がタイルサイズとして使用される。図12に本実施形態におけるタイル分割の例を示す。なお画像復号装置は実施形態1と同様の構成を使用する。
図11(a)はタイルの制限値である最大タイル水平・垂直画素数がタイルサイズとして使用される例である。図11(a)のレベル2(Middleレベル)に対応したタイル分割の例を図12(a)に示す。
また本実施形態は更に図11(b)のテーブルに示すように各レベルの制限値としてタイル内の最大総画素数を使用することも可能である。この場合各タイルの水平画素数及び垂直画素数はプロファイルとレベルに応じて予め定められるタイルのアスペクト比に応じて決定される。図11(b)のプリンティング・プロファイルのレベル2(Middleレベル)に対応し、更にタイルのアスペクト比として水平1:垂直3を使用した際のタイル分割を図12(b)に示す。なお予め定められるタイルのアスペクト比はこれに限定されず、水平4:垂直3や水平1:垂直1等、いかなるアスペクト比も使用可能である。また前記ハイ・プリンティング・プロファイルを使用する場合にはタイルの垂直画素数がフレームの垂直画素数と同じ数に限定されるため、タイル内の最大総画素数をフレームの垂直画素数で除算した数がタイルの水平画素数となる。図11(b)のハイ・プリンティング・プロファイルのレベル2(Middleレベル)に対応したタイル分割を図12(b)に示す。なお上記タイル内の最大総画素数を用いたタイルの水平画素数及び垂直画素数は、タイルサイズがブロックサイズ(本実施形態では水平32画素×垂直32画素)の逓倍である、という制約を満たした上で算出される。
符号化ストリームがプリンティング・プロファイルであり、かつタイル情報が省略されている場合(tile_info_present_flag=0の場合)、全タイルは同じサイズであることを基本とする。しかし図12に示されているようにフレーム端においてはタイルサイズが他のタイルよりも小さくなることがある。
このようにストリーム中のタイル情報が省略される場合に最大タイルサイズを適用して自動的にタイル分割することにより、簡易的にタイル分割を行い、処理高速化及びメモリコスト削減を実現できる。またプリンティング・プロファイルにおいて規定される最大タイルサイズと符号化ストリームから算出されるタイルサイズが矛盾したストリームの発生リスクを低下させ、符号化・復号関連機器間の相互運用性を高めるという効果も備える。
なお前記アスペクト比はシーケンス・パラメータ・セット等、ヘッダ情報の一部としてストリームに含めることも可能である。アスペクト比をストリームに含めることによりヘッダ情報量及び解析処理の処理量は増加するものの、符号化時に様々なアスペクト比を使用することができるという効果を有する。
また本実施形態の構成は実施形態2のようにソフトウェア・プログラムにより実現することも可能である。この場合、ステップS605は常に正常に通過する。
また本実施形態で前記アスペクト比がストリームに含まれる場合、ステップS601でアスペクト比についても解析し、ステップS604で最大総画素数とアスペクト比によってタイルサイズを決定することに代わることで実現する。
<実施形態5>
本発明の実施形態5における符号化ストリームは実施形態4同様、タイル情報を省略可能なフォーマットである(前記tile_info_present_flag=0)。符号化ストリームがプリンティング・プロファイルである場合にはtile_info_present_flag=0であっても自動的にタイル分割が行われる。タイルサイズは図13のテーブルに示すようにレベルに応じたデフォルト値(各レベルのタイル水平・垂直画素数の1/2をデフォルト値として使用)が使用される。なお画像復号装置は実施形態1と同様の構成を使用する。
また実施形態4に示したように各レベルの制限値としてのデフォルトのタイル内総画素数を使用することも可能である。各タイルの水平画素数及び垂直画素数はデフォルトのタイル内総画素数及び予め定められるタイルのアスペクト比に応じて実施形態4と同じように決定される。
本発明はフレーム間予測を使用した符号化方式に限定されず、図14のように画面内予測のみを使用したストリームのみをサポート対象とする画像復号装置にも適用することが可能である。図14の画像復号装置はストリーム解析器1401、全体制御器1402、タイルサイズ解析器1403、予測残差復号器1404、画面内補償器1405、加算器1406、画面内補償用メモリ1407、フィルタ処理器1408、画素出力器1409、画像出力用メモリ1410から構成される。各処理は図1の同名の処理と同じ動作を行う(加算器1406は加算器108と同じ動作を行う)。
このようにストリーム中のタイル情報が省略される場合にデフォルト・タイルサイズを適用することにより実施形態4に比べ、より小さいタイルサイズを使用して必要なメモリサイズをより削減することが可能である。また実施形態4と同様に符号化・復号関連機器間の相互運用性を高めるという効果も得られる。
また画面内符号化のみを使用して符号化されたストリームのみを復号処理対象とすることにより動き補償用メモリが必要無く、メモリコストを更に削減することが可能である。この画面内符号化のみ使用する符号化フォーマットは静止画像にも適用することが可能である。
更に本実施形態の構成は実施形態2のようにソフトウェア・プログラムにより実現することも可能である。本実施形態では図6のステップS604でデフォルト値に従ってのタイル水平・垂直画素数を算出する。また、ステップS605は常に正常に通過する。さらに、図7のステップS703、S704、S705は不要になる。
なお本発明における符号化フォーマットはタイル数やタイル分割は上記実施形態1〜5の構成に限定されるものではない。図15に本発明において実現可能なタイルサイズ制限の組み合わせテーブルを示す。タイプ1〜4は異なる種類のプリンティング・プロファイルである。また各タイプのプロファイルにおいて実施形態1で示したタイルの垂直画素数をフレームの垂直画素数と同じとしたハイ・プリンティング・プロファイルを定義することが可能である。
ハイ・プリンティング・プロファイル及びプリンティング・プロファイルの各タイプにおいてタイル間で依存性が有る、無い(前記tile_boundary_independence_idcがそれぞれ0、1)のいずれも使用可能である。
<実施形態6>
図16に本発明の画像符号化フォーマットを用いて画像フレームを符号化する画像符号化装置の内容を示す。図16記載の画像符号化装置は図示されるようにタイルサイズ決定及び全体制御器1601、画素入力器1602、動き探索器1603、画面内予測器1604、選択器1605、画面内予測用メモリ1606、減算器1607、予測残差符号化及び局所復号器1608、ストリーム多重化器1609、加算器1610、フィルタ処理器1611、動き探索用メモリ1612から構成される。
タイルサイズ決定及び全体制御器1601には画像符号化装置外部から使用するフレームサイズと共に使用するレベルとプロファイルと共に使用するタイル数が設定される。プロファイルがプリンティング・プロファイルである場合には実施形態1〜実施形態3と同様に、レベルに応じて予め規定された最大タイルサイズ(垂直・水平画素数もしくはタイル内画素数)を上回らないサイズになるようにタイル数が設定されなければならない。なお画像符号化装置外部からタイルサイズを直接設定することも可能であることも可能であるが、最大タイルサイズを上回らないタイルサイズとなるように設定されなければならない。また前述のようにタイルサイズを直接指定する場合には前記uniform_spacing_idcは0とする必要がある。
決定されたレベル・プロファイル及びタイル情報等は関連する処理に伝達されると共にヘッダ情報の一部としてストリーム多重化器1609でストリームに多重化される。画素入力器1602はタイルサイズに応じた入力画像を読み込む。動き探索器1603は動き探索用メモリ1612から参照画像を読み込み、参照ブロックを生成して最適な動きベクトルの探索を行い、最も発生符号量が少なくなると推定される動きベクトルを決定する。なお実施形態1同様に参照ブロック生成に使用する画素がタイル外に位置する場合には予め定められた画素値への置換を行う。
画面内予測器1604は画面内予測用メモリ1606から参照画像を読み込み、画面内予測モードに対応した参照ブロックを生成して最適な画面内予測モードの探索を行い、最も発生符号量が少なくなると推定される画面内予測モードを決定する。選択器1605は画面内予測器1604と動き探索器1603で算出された推定符号量を比較し、動き予測もしくは画面内予測を示す符号化モードを決定すると共に、動き探索器1603か画面内予測器1604のいずれかの参照ブロックを選択する。なお、符号化モードはエントロピー符号化によって符号化されても良い。符号化の減算器1607は入力ブロックと参照ブロックの予測(減算)を行う。予測残差符号化及び局所復号器1608は減算器1607の出力である予測残差の直交変換、量子化及びエントロピー符号化(可変長符号化もしくは算術符号化)を行う。予測残差符号化及び局所復号器1608は同時に、後続のブロックの画面内予測もしくは動き予測のために予測誤差の量子化直交変換係数の逆量子化及び逆直交変換を行い、予測誤差を局所復号する。ストリーム多重化器1609は予測誤差の符号化データ、符号化モード、動きベクトル及びヘッダ情報等の多重化を行い符号化ストリームとして出力する。
加算器1610は予測残差符号化及び局所復号器1608は局所復号された予測誤差と選択器1605から出力される参照ブロックの加算(動き補償もしくは画面内補償)を行う。加算器1610によって復号された画素はフィルタ処理器1611に出力されると同時に、後続のブロックの画面内予測のために画面内予測用メモリ1606に記録される。フィルタ処理器1611は復号されたブロックについてデブロッキング・フィルタ等のフィルタ処理を施す。フィルタ処理された復号画像は動き探索用メモリ1612に記録される。
本発明の画像符号化装置は特定のタイル数やタイルサイズに限定されない。画像符号化装置においても図15に示した全てのプリンティング・プロファイル及びハイ・プリンティング・プロファイルのタイプに準拠した符号化ストリームを生成することが可能である。
また本発明の画像符号化装置はタイル間の依存性(tile_boundary_independence_idc)についても限定されない。全てのプリンティング・プロファイルのタイプにおいてタイル境界での画質劣化を避けるためにタイル間で画素間の依存性を持たせて符号化することも可能であるし、より並列性を高めて符号化するためにタイル間の依存性無しに符号化することも可能である。図16においては動き探索器1603、画面内予測器1604、フィルタ処理器1611がタイル間の依存性を考慮して符号化処理を行う。
使用するタイルの数及びタイルサイズは特定の数値に限定されない。また実施形態4及び実施形態5のように最大タイルサイズもしくはデフォルト・タイルサイズによりタイル分割を行いつつも、ヘッダにタイル情報を含めずに(tile_info_present_flag=0)符号化することも可能である。また実施形態5で記述されるように画面内予測のみを用いて符号化する画像符号化装置にも適用することが可能である。
上記のように符号化時にプロファイルに応じてタイルサイズの制限を設けることにより、前記プリンティング・プロファイルやハイ・プリンティング・プロファイルに限定した低コストの復号装置で復号可能なストリームを生成することができる。また当該ストリームは動画フレームプリント装置でのプリント時の処理時間がより短くなる効果も得られる。
<実施形態7>
実施形態6の画像符号化装置はCPU上のソフトウェア・プログラムとして実現することも可能である。図17及び図18に実施形態7における1フレームを符号化するプログラムのフローチャートを示す。
まずステップS1701において、プログラム外部から使用するフレームサイズを設定する。ステップS1702においてプログラム外部から使用するレベル・プロファイルを設定する。ステップS1703において、プロファイルがプリンティング・プロファイルである場合にはステップS1704に進み、その他のプロファイルである場合にはステップS1706に進む。ステップS1704において、レベルに応じて予め規定されている、タイルの最大水平画素数及び最大垂直画素数を算出する。
ステップS1705において、タイルサイズがステップS1704で算出された最大水平・垂直画素数の範囲内になるように水平タイル数及び垂直タイル数を決定し、各タイルのタイルサイズを算出する。なお実施形態6と同様に外部から直接タイルサイズを設定することも可能である(その際には前記uniform_spacing_idcを0とする必要がある)。ステップS1706において、フレームサイズより小さい範囲で任意のタイル数及びタイルサイズを使用する。水平タイル数=1、垂直タイル数=1としてタイル分割を行わないことも可能である。ステップS1707において、決定されたタイル情報を符号化ストリームへ多重化する。ステップS1708及びステップS1709において、フレーム内の全てのタイルの符号化を行う。
図18に各タイルの符号化処理のフローチャートを示す。ステップS1801において各ブロックの画面内予測モードの探索を行い、予測残差から発生符号量を推定する。ステップS1802において、タイル内の各ブロックの動きベクトルを探索し、予測残差から発生符号量を推定する。なお処理対象フレームが画面内符号化フレームである場合には本ステップは省略される。ステップS1803において動き予測の推定符号量と画面内予測の推定符号量を比較し、比較結果である符号化モードに応じてステップS1804以降の動き予測もしくはステップS1807以降の画面内予測を行う。
ステップS1804においてステップS1802において探索された動きベクトルを用いて動き予測を行う。さらに符号化モードが動き予測モードであることを符号化し、探索された動きベクトルを符号化し、符号化ストリームへの多重化を行う。ステップS1805において実施形態6の予測残差符号化及び局所復号器1608と同様に符号化データの生成及び予測残差の局所復号を行う。ステップS1806において局所復号された予測残差の動き補償を行う。ステップS1807においてステップS1801において探索された画面内予測モードを用いて画面内予測を行う。さらに探索された符号化モードが画面内予測モードであることを示す情報と画面内予測モードを符号化し、符号化ストリームへの多重化を行う。
ステップS1808においてステップS1805と同様に符号化データの生成及び予測残差の局所復号を行う。ステップS1809において局所復号された予測残差の画面内補償を行う。ステップS1810において符号化された予測残差の符号化ストリームへの多重化を行う。この時に動きベクトルもしくは画面内符号化モードについても同じく符号化ストリームへ多重化される。ステップS1811においてタイル内の全ブロックの符号化が完了したと判断されるとタイルの符号化が完了する。
本実施形態7も実施形態6と同様、特定のタイル数やタイルサイズに限定されるものではなく。いかなるtile_info_present_flag、tile_boundary_independence_idc、uniform_spacing_idcの組み合わせについても使用することが可能である。上記のようにプログラムで画像符号化処理を実現した場合にも前記実施形態6と同等の効果を実現することができる。
なお、本発明の説明において、動画像から1フレームを指定してプリントアウトする例について説明したが、これに限定されない。例えば、複数フレームから静止画を合成するような方法に対しても有効である。
<その他の実施形態>
本発明の目的は、前述した機能を実現するコンピュータプログラムのコードを記録した記憶媒体を、システムに供給し、そのシステムがコンピュータプログラムのコードを読み出し実行することによっても達成される。この場合、記憶媒体から読み出されたコンピュータプログラムのコード自体が前述した実施形態の機能を実現し、そのコンピュータプログラムのコードを記憶した記憶媒体は本発明を構成する。また、そのプログラムのコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した機能が実現される場合も含まれる。
さらに、以下の形態で実現しても構わない。すなわち、記憶媒体から読み出されたコンピュータプログラムコードを、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込む。そして、そのコンピュータプログラムのコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行って、前述した機能が実現される場合も含まれる。
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明したフローチャートに対応するコンピュータプログラムのコードが格納されることになる。

Claims (10)

  1. 1枚以上の画像フレームの各フレームを複数の矩形状のタイルに分割し、それぞれのタイルを符号化する画像符号化装置であって、
    画像復号装置が復号可能な処理の組み合わせを示すプロファイル及び画像復号装置が復号可能なパラメータ値の範囲を示すレベルを算出する算出手段と、
    特定のプロファイルにおいて前記レベルに応じて予め定められている最大水平画素数であるN以下(N>0)となるように前記タイルの水平画素数もしくは水平タイル数を決定し、また、特定のプロファイルにおいて前記レベルに応じて予め定められている最大垂直画素数であるM以下(M>0)となるように前記タイルの垂直画素数もしくは垂直タイル数を決定する決定手段と、
    決定されたタイルの水平画素数及び垂直画素数もしくはタイル数に応じて各フレームを分割して符号化する符号化手段とを有することを特徴とする画像符号化装置。
  2. 前記プロファイルはタイル分割用プロファイルであることを特徴とする請求項1に記載の画像符号化装置。
  3. 前記タイルの水平画素数及び垂直画素数もしくはタイルの数をヘッダ情報として含むことを特徴とする請求項1に記載の画像符号化装置。
  4. 前記タイルの水平画素数及び垂直画素数もしくはタイルの数をヘッダ情報として符号化ストリーム中に含めこむことができない場合に、前記特定のプロファイル及び前記レベルにより定められたタイルの最大水平画素数及び最大垂直画素数をタイルサイズとして使用して符号化することを特徴とする請求項3に記載の画像符号化装置。
  5. 前記タイルの水平画素数及び垂直画素数もしくはタイルの数をヘッダ情報として符号化ストリーム中に含めない場合に、特定のプロファイル及び前記レベルにより定められた特定のタイル内の最大総画素数から予め定められたタイルのアスペクト比に応じて決定されるタイルサイズを使用して符号化することを特徴とする請求項3に記載の画像符号化装置。
  6. 1枚以上の画像フレームの各フレームを複数の矩形状のタイルに分割し、それぞれのタイルを符号化する画像符号化装置の符号化方法であって、
    画像復号装置が復号可能な処理の組み合わせを示すプロファイル及び画像復号装置が復号可能なパラメータ値の範囲を示すレベルを算出する算出工程と、
    特定のプロファイルにおいて前記レベルに応じて予め定められている最大水平画素数であるN以下(N>0)となるように前記タイルの水平画素数もしくは水平タイル数を決定し、また、特定のプロファイルにおいて前記レベルに応じて予め定められている最大垂直画素数であるM以下(M>0)となるように前記タイルの垂直画素数もしくは垂直タイル数を決定する決定工程と、
    決定されたタイルの水平画素数及び垂直画素数もしくはタイル数に応じて各フレームを分割して符号化する符号化工程とを有することを特徴とする符号化方法。
  7. 画像復号装置が復号可能な処理の組み合わせを示すプロファイル及び画像復号装置が復号可能なパラメータ値の範囲を示すレベルを含み、特定のプロファイルにおけるタイルの水平画素数が最大水平画素数であるN以下(N>0)もしくはタイルの垂直画素数が最大垂直画素数であるM以下(M>0)に制限され、前記タイルの最大垂直画素数及びタイルの最大垂直画素数は前記レベルに応じて定められる画像符号化フォーマットで符号化された符号化ストリームを復号することを特徴とする画像復号装置。
  8. 画像復号装置が復号可能な処理の組み合わせを示すプロファイル及び画像復号装置が復号可能なパラメータ値の範囲を示すレベルを含み、特定のプロファイルにおけるタイルの水平画素数が最大水平画素数であるN以下(N>0)もしくはタイルの垂直画素数が最大垂直画素数であるM以下(M>0)に制限され、前記タイルの最大垂直画素数及びタイルの最大垂直画素数は前記レベルに応じて定められる画像符号化フォーマットで符号化された符号化ストリームを復号することを特徴とする画像復号装置の画像復号方法。
  9. コンピュータが読み出して実行することにより、前記コンピュータを、請求項1に記載の画像符号化装置として機能させることを特徴とするプログラム。
  10. コンピュータが読み出して実行することにより、前記コンピュータを、請求項7に記載の画像復号装置として機能させることを特徴とするプログラム。
JP2011243939A 2011-11-07 2011-11-07 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム Active JP5893346B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2011243939A JP5893346B2 (ja) 2011-11-07 2011-11-07 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
US14/356,550 US9462269B2 (en) 2011-11-07 2012-10-24 Image encoding apparatus, image encoding method, image decoding apparatus, image decoding method, program, and storage medium
PCT/JP2012/078083 WO2013069512A1 (en) 2011-11-07 2012-10-24 Tiling and decoding of an image for fast and memory-efficient printing
US15/248,730 US10165304B2 (en) 2011-11-07 2016-08-26 Image encoding apparatus, image encoding method, image decoding apparatus, image decoding method, program, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011243939A JP5893346B2 (ja) 2011-11-07 2011-11-07 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2013102298A true JP2013102298A (ja) 2013-05-23
JP5893346B2 JP5893346B2 (ja) 2016-03-23

Family

ID=47216383

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011243939A Active JP5893346B2 (ja) 2011-11-07 2011-11-07 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Country Status (3)

Country Link
US (2) US9462269B2 (ja)
JP (1) JP5893346B2 (ja)
WO (1) WO2013069512A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015005367A1 (ja) * 2013-07-12 2015-01-15 ソニー株式会社 画像復号装置および方法
JP2015019304A (ja) * 2013-07-12 2015-01-29 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150003520A1 (en) * 2013-06-26 2015-01-01 Texas Instruments Incorporated Hevc video encoder and decoder for multi-core
WO2016130516A1 (en) 2015-02-09 2016-08-18 Research Development Foundation Engineered immunoglobulin fc polypeptides displaying improved complement activation
JP6626319B2 (ja) * 2015-11-18 2019-12-25 キヤノン株式会社 符号化装置、撮像装置、符号化方法、及びプログラム
JP2018032949A (ja) * 2016-08-23 2018-03-01 キヤノン株式会社 動きベクトル検出装置およびその制御方法
US10176761B2 (en) * 2017-02-23 2019-01-08 Synaptics Incorporated Compressed data transmission in panel display system
RU2751552C1 (ru) * 2019-01-16 2021-07-14 Телефонактиеболагет Лм Эрикссон (Пабл) Кодирование видео, содержащее равномерное мозаичное разделение с остатком
JP7324065B2 (ja) * 2019-06-26 2023-08-09 キヤノン株式会社 動きベクトル検出装置、撮像装置、動きベクトル検出方法、及びプログラム
WO2021054438A1 (ja) * 2019-09-20 2021-03-25 ソニー株式会社 画像処理装置および画像処理方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004072171A (ja) * 2002-08-01 2004-03-04 Canon Inc 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JP2005086723A (ja) * 2003-09-11 2005-03-31 Ricoh Co Ltd 画像送信装置、画像転送方法、画像処理システム、プログラム、及び、情報記録媒体

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6847735B2 (en) * 2000-06-07 2005-01-25 Canon Kabushiki Kaisha Image processing system, image processing apparatus, image input apparatus, image output apparatus and method, and storage medium
CN1943247A (zh) * 2004-04-08 2007-04-04 皇家飞利浦电子股份有限公司 应用于多媒体数据的编码方法
JP2006295886A (ja) * 2005-03-16 2006-10-26 Ricoh Co Ltd 画像処理システム、プログラムおよび記録媒体
JP2009194748A (ja) 2008-02-15 2009-08-27 Canon Inc 画像復号装置及びその制御方法
US20100232504A1 (en) * 2009-03-13 2010-09-16 The State of Oregon acting by and through the State Board of Higher Education on behalf of the Supporting region-of-interest cropping through constrained compression
JP5538792B2 (ja) * 2009-09-24 2014-07-02 キヤノン株式会社 画像処理装置、その制御方法、及びプログラム
NO2991355T3 (ja) * 2010-04-13 2018-04-14
US8873617B2 (en) * 2010-07-15 2014-10-28 Sharp Laboratories Of America, Inc. Method of parallel video coding based on same sized blocks
US8837577B2 (en) * 2010-07-15 2014-09-16 Sharp Laboratories Of America, Inc. Method of parallel video coding based upon prediction type
CN103220506B (zh) * 2012-01-19 2015-11-25 华为技术有限公司 一种编解码方法和设备
CN108419076B (zh) * 2012-09-29 2022-04-29 华为技术有限公司 视频编码及解码方法、装置及系统
US9693077B2 (en) * 2013-12-13 2017-06-27 Qualcomm Incorporated Controlling sub prediction unit (sub-PU) motion parameter inheritance (MPI) in three dimensional (3D) HEVC or other 3D coding

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004072171A (ja) * 2002-08-01 2004-03-04 Canon Inc 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JP2005086723A (ja) * 2003-09-11 2005-03-31 Ricoh Co Ltd 画像送信装置、画像転送方法、画像処理システム、プログラム、及び、情報記録媒体

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
JPN6013022305; Kiran Misra and Andrew Segall: 'New results for parallel decoding for Tiles' Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-F594_r1, 201107, pp.1-6, 6th Meeting: Torino, IT *
JPN6013022308; Arild Fuldseth et al.: 'Tiles' Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-F335, 201107, pp.1-15, 6th Meeting: Torino, IT *
JPN6013034641; Arild Fuldseth et al.: 'Tiles' Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-E408_r1, 201103, pp.1-14, 5th Meeting: Geneva, CH *
JPN6015041687; Andrey Norkin and Rickard Sjoberg: 'Level restrictions on tiles for line buffer reduction' Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-G618_r1, 201111, pp.1-3, 7th Meeting: Geneva *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015005367A1 (ja) * 2013-07-12 2015-01-15 ソニー株式会社 画像復号装置および方法
JP2015019304A (ja) * 2013-07-12 2015-01-29 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
KR20160031461A (ko) * 2013-07-12 2016-03-22 소니 주식회사 화상 복호 장치 및 방법
JPWO2015005367A1 (ja) * 2013-07-12 2017-03-02 ソニー株式会社 画像復号装置および方法
KR102296853B1 (ko) 2013-07-12 2021-09-01 소니그룹주식회사 화상 복호 장치 및 방법
US11218710B2 (en) 2013-07-12 2022-01-04 Sony Corporation Image decoding device and method
US11812042B2 (en) 2013-07-12 2023-11-07 Sony Corporation Image decoding device and method for setting information for controlling decoding of coded data

Also Published As

Publication number Publication date
US20140301657A1 (en) 2014-10-09
US20160366440A1 (en) 2016-12-15
WO2013069512A1 (en) 2013-05-16
US9462269B2 (en) 2016-10-04
JP5893346B2 (ja) 2016-03-23
WO2013069512A9 (en) 2013-07-04
US10165304B2 (en) 2018-12-25

Similar Documents

Publication Publication Date Title
JP5893346B2 (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP7159427B2 (ja) 画像復号装置、画像復号方法及びプログラム
US8000388B2 (en) Parallel processing apparatus for video compression
WO2018116924A1 (ja) 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム
CN107105230B (zh) 使用列的图像分割方法和系统
JP4964595B2 (ja) 画像復号装置及び方法
JP5400888B2 (ja) 並列処理を用いた復号システムおよび方法
KR101684209B1 (ko) 동화상 복호 장치, 동화상 부호화 장치, 동화상 복호 방법, 및 동화상 부호화 방법
KR101759461B1 (ko) 부호화 장치, 복호화 장치, 부호화 방법, 복호화 방법, 및 컴퓨터 판독가능 기억 매체
KR101906614B1 (ko) 모션 보상 예제 기반 초해상도를 사용하는 비디오 디코딩
US20160142740A1 (en) Data encoding and decoding
KR20120117613A (ko) 동영상 부호화 장치 및 방법
JP5087016B2 (ja) 符号化装置及びその制御方法、コンピュータプログラム
JP6202912B2 (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2014127832A (ja) 画像符号化装置、画像符号化方法、及びコンピュータプログラム
JP2013219607A (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2010035025A (ja) 符号化装置およびその方法
TW201429259A (zh) 影像資料處理方法以及影像處理裝置
TWI834910B (zh) 影像編碼裝置、影像編碼方法及程式、影像解碼裝置、影像解碼方法及程式
JP2024504672A (ja) 復号プロセスのエネルギー消費を表す情報をシグナリングするためのメタデータ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151020

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160224

R151 Written notification of patent or utility model registration

Ref document number: 5893346

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151