JP2004048497A - 画像符号化装置、画像復号化装置 - Google Patents
画像符号化装置、画像復号化装置 Download PDFInfo
- Publication number
- JP2004048497A JP2004048497A JP2002204715A JP2002204715A JP2004048497A JP 2004048497 A JP2004048497 A JP 2004048497A JP 2002204715 A JP2002204715 A JP 2002204715A JP 2002204715 A JP2002204715 A JP 2002204715A JP 2004048497 A JP2004048497 A JP 2004048497A
- Authority
- JP
- Japan
- Prior art keywords
- image
- data
- predetermined
- encoding
- image encoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【解決手段】符号化した画像フレームを入力し(S401)、符号化タイプがイントラである場合(S403)、スライスデータのNALユニットの出力(S407)に先だってパラメータセットを含むNALユニットを生成出力し(S404)、さらに絶対時刻情報を含むNALユニットを生成出力する(S405)。一方イントラ以外の場合(S403)、相対時刻情報を含むNALユニットを生成出力する(S406)。
【選択図】 図4
Description
【発明の属する技術分野】
本発明は、ISO国際標準規格MPEG4等の画像符号化データを生成出力する画像符号化装置に関するものであり、特にMPEG−4次世代ビデオ符号化(Advanced Video Coding)に関する。
【0002】
【従来の技術】
近年、移動体通信やインターネットにおける画像伝送が一般に普及している。1999年に制定されたMPEG4(Moving Picture Experts Group Phase 4)は、数十キロビット/秒程度の低ビットレートにおいて最高の符号化効率を謳われてきた。また、これよりさらに符号化効率の高い符号化方式として、MPEG4 AVC(Advanced Video Coding)の標準規格策定が、2001年に開始された。AVCは、従来のMPEG1、MPEG2、MPEG4と異なり、符号化ストリーム中にスタートコードがない。スタートコードは32ビットであり、各スライスの先頭やピクチャヘッダ、シーケンスヘッダの先頭に配置され、これらのデータの開始を示すために使用されていた。現在標準化中のAVC規格では、これらのデータは、NAL(Network Abstraction Layer)ユニットとして単位化される。図6に示すように、NALユニット8ビットのヘッダ601、8ビットの倍数であるペイロードで構成される。ヘッダ601は、エラー指示フラグ6011、NALユニットタイプ6012、ピクチャヘッダフラグ6013、破棄可能フラグ6014からなる。NALユニットタイプは、ペイロード602が含むデータのタイプを示す識別子である。NALユニットタイプにより、AVCで規定されるスライス、パラメータセット、補助情報などのデータを識別可能である。またスライスの場合、イントラスライスか、インタースライスかの判別も可能である。パラメータセットはMPEG2におけるシーケンスヘッダに相当し、画像サイズ、アスペクト比など、画像シーケンス全体に関わる情報を含む。補助情報としては、MPEG2のGOP(Group of Picture)に相当する、画像フレームの絶対時刻情報を与えるタイムクロックと、画像フレーム間の相対時刻を与えるテンポラルリファレンスの2つが定義されている。また、MPEG−2 TS(Transport Stream)、あるいはPS(Program Stream)上にNALユニットを多重化する際は、各NALユニットの前に16進数の000001(23ビットの’0’と1ビットの’1’)を付与した拡張NALユニットとする。
【0003】
【発明が解決しようとする課題】
以上のようにNALユニットの構造と種類について定義されているが、各NALユニットをどのような順番で伝送するか規定がなく、またどのような場合にパラメータセットや補助情報を送るかの規則もなく、AVC符号化データを復号する画像復号化装置においてランダムアクセスが確実に行えない、表示時刻情報を確実に取得できない等の課題があった。
【0004】
【課題を解決するための手段】
本発明の請求項1による画像符号化装置は、画像符号化パラメータと画像データを入力し、前記符号化パラメータに従って画像データを符号化して出力する画像符号化装置であって、前記入力した画像データから1枚の画像フレームを入力し、前記符号化パラメータに従ってN個(Nは1以上の整数)のスライスデータユニットに符号化する画像符号化手段と、画像フレーム間の表示時刻の相対値を示す情報を含む第1のデータユニットを生成出力し、前記画像符号化手段により符号化されたN個のスライスデータユニットを出力するフォーマット手段とを備え、前記フォーマット手段は、予め定めた第1の条件に合致する際は前記第1のデータユニットを出力する前に、画像フレームのサイズやアスペクト比等、画像データ全体に関するパラメータを含む第2のデータユニットを生成出力するものである。
【0005】
本発明の請求項2による画像符号化装置は、請求項1に記載の画像符号化装置において、前記フォーマット手段は、予め定めた第2の条件に合致する際は前記第2のデータユニットを生成出力する前に、前記入力した画像フレームの表示時刻の絶対値を示す情報を含む第3のデータユニットを生成出力するものである。
【0006】
本発明の請求項3による画像符号化装置は、請求項1に記載の画像符号化装置において、前記予め定めた第1の条件は、予め定めた第1の時間間隔が経過したかどうかとするものである。
【0007】
本発明の請求項4による画像符号化装置は、請求項2に記載の画像符号化装置において、前記予め定めた第2の条件は、予め定めた第2の時間間隔が経過したかどうかとするものである。
【0008】
本発明の請求項5による画像符号化装置は、請求項1あるいは2に記載の画像符号化装置において、前記予め定めた第1の条件、および前記予め定めた第2の条件は、前記N個のスライスデータユニットがイントラ符号化されたスライスであるかどうかとするものである。
【0009】
さらに、本発明の請求項6による画像復号化装置は、請求項1〜5に記載の画像符号化装置が出力する画像符号化データを入力して復号化するものである。
【0010】
【発明の実施の形態】
(実施の形態1)
本発明にかかる画像符号化装置の実施の形態1について、図1〜5を用いて説明する。
図1は、画像符号化装置の構成の概略を示す機能ブロック図である。画像符号化装置100は、画像符号化手段101、フォーマット手段102で構成される。次に動作を図2のフローチャートを用いて説明する。
【0011】
まず、S201において外部から入力される符号化パラメータ1aによりフォーマット手段102が初期化される。符号化パラメータ1aの一例としては、図3(a)に示すように、目標符号化ビットレー1a01、目標フレームレート1a02、初期バッファリング時間1a03、イントラフレームの頻度1a04、目標スライスサイズ1a05などが可能である。イントラフレームの頻度とは、何フレーム毎にイントラフレームとして符号化するかを指定するものである。なお、初期化であるS201は最低最初の1回だけ行う。後の処理S202以降は、画像フレームを入力する度、繰り返し実行される。
【0012】
画像符号化装置100の初期化後、フォーマット手段102には、S202に示すように1枚の原画像フレーム1bが入力される。原画像フレームは、赤色成分(R)、緑色成分(G)、青色成分(B)の3色がそれぞれ8ビットで表されるRGB24フォーマットや、輝度成分(Y)、色差成分(U、V)がそれぞれ8ビットで表されるYUVフォーマットなどが可能である。
【0013】
次にS203において、フォーマット手段102は、入力した原画像フレームデータ1bを符号化する際のパラメータを決定し、原画像フレームデータとともに画像符号化手段101に出力する。なお、フォーマット手段は、入力した原画像フレーム1bが、所定のフォーマット以外の場合、所定のフォーマット1b’に変換してから画像符号化手段101に出力する。所定のフォーマットは、例えば、Y成分に比べてU、V成分が1/2の情報量となるYUV420フォーマットとする。また、入力画像フレーム1bの符号化パラメータ1cの一例としては、図3(b)に示すように、フレーム符号化タイプ1c01、目標フレームデータサイズ1c02、目標スライスサイズ1c03などが可能である。これらのパラメータ値は、外部入力パラメータ1aに従って計算の上、設定される。例えば、目標符号化ビットレート1a01になるように、各画像フレーム毎に、目標フレームサイズ1c02は異なる。また、イントラフレームの頻度1a04に従って、フレームタイプ1c01はイントラか、インターかを決定する。なお、インターの場合、端方向予測、双方向予測のいずれも可能である。フォーマット手段102からの原画像フレーム1b’、符号化タパラメータ1cの入力を受け、画像符号化手段101は、原画像フレームを符号化し、サイド情報1dと符号化結果であるスライスデータ1eを出力する。1枚の原画像フレーム1b’は符号化パラメータ1cの設定によって1個あるいは複数個のスライスとして符号化される。サイド情報1dは、図3(c)に示す例のように、スライス数1d01、および生成符号化された各スライスのサイズ1d021〜1d02Nからなる。また、図(d)に示す例のように、スライスデータ1eは、複数のNALユニット1e01〜1e0Nからなる。各NALユニットは、ヘッダとペイロードからなり、ペイロードは符号化スライスデータである。なお、サイド情報1dとスライスデータ1eの出力形式は特に規定するものではなく、自由に組み合わせることができる。例えば、スライス長1d01〜1d0Nとスライスデータ1e01〜1e0Nを交互にインタリーブした出力形式であってもよい。
【0014】
ステップS204において、フォーマット手段は、画像符号化手段の出力であるサイド情報1d及びスライスデータ1eを入力する。次にステップS205において、入力したスライスデータに補助情報などを付加したデータを出力する。これについて、図4のフローチャートで詳述する。
【0015】
まず、S401においてサイド情報1d、スライスデータ1eを入力する。次にS402において先頭のスライスを含むNALユニット1e01のヘッダ1e011のNALユニットタイプ(NUT)6012を解析し、S403にてNUTがイントラスライスを示しているかどうか判定する。まず、NUTがイントラスライスを示している場合、S404においてパラメータセットを含むNALユニットを出力し、次にS405においてクロックタイムスタンプとテンポラルリファレンスを含むNALユニットを生成出力する。そして、S407において、スライスデータを含むNALユニット1e01〜1e0Nを出力する。一方、NUTがイントラスライス以外を示している場合、S406においてテンポラルリファレンスを含む1つのNALユニットを生成出力し、S407において、NALユニット1e01〜1e0Nを出力する。なお、S403では、NUTが先頭のNALユニット1e01がイントラであるかどうかを判定条件としたが、これに限るものではない。例えば、先頭のNALユニットのNUTが、これ以降、以前に符号化した画像フレームを参照することがないことを示すIDERである場合を条件としても良い。また、IDERで符号化するかどうかも符号化時のパラメータ1cに指定することもできる。また、S403の条件として、一定時間経過したことを条件としてもよい。例えば、5秒経過毎に条件判定を真としてS404〜S405の処理に入るようにしても良い。また、S405において、クロックタイムスタンプとテンポラルリファレンスを含む1つのNALユニットを生成出力するとしたが、それぞれ異なるNALユニットとしてもよい。
【0016】
また図5(a)に示すように、各NALユニットの先頭に固定長16進数の000001(23ビットの’0’と1ビットの’1’)を付与した拡張NALユニット500とて出力する。図4のフローチャートに示す処理の結果、イントラフレームとして符号化した場合の出力1fは502に示すような構造となり、イントラフレーム以外では、出力1fは506に示すような構造となる。一般的に、イントラフレームを1枚符号化した後は、複数回インターフレームとして符号化するから、符号化画像データのシーケンスは、508に示す構成となる。
【0017】
以上のように、本実施の形態1による画像符号化装置は、符号化フレームのタイプや、あるいは一定時間経過したかどうかなどの条件に応じて、出力データ1fを502あるいは506のいずれかの構成で出力する。
【0018】
なお、本実施の形態1では、イントラフレームの場合、クロックタイムスタンプを含むNALユニットを生成出力することとしたが、これを省略することも可能である。また、イントラフレームの場合、必ずパラメータセットを含むNALユニットを生成することとしたが、これも数枚のイントラフレームに対して1回とするなど任意に設定可能である。また、テンポラルリファレンスは補助情報のNALユニットの一部として出力することとしたが、これに限るものではなく、スライスデータの中に含めることとしてもよい。
【0019】
また、本実施の形態1では、符号化装置をハードウェアで実現する場合について説明したが、これらの処理はCPU(Central ProcessingUnit)に組み込まれたソフトウェアプログラムとして実行することも可能である。
【0020】
【発明の効果】
本発明の請求項1による画像符号化装置は、画像符号化パラメータと画像データを入力し、前記符号化パラメータに従って画像データを符号化して出力する画像符号化装置であって、前記入力した画像データから1枚の画像フレームを入力し、前記符号化パラメータに従ってN個(Nは1以上の整数)のスライスデータユニットに符号化する画像符号化手段と、画像フレーム間の表示時刻の相対値を示す情報を含む第1のデータユニットを生成出力し、前記画像符号化手段により符号化されたN個のスライスデータユニットを出力するフォーマット手段とを備え、前記フォーマット手段は、予め定めた第1の条件に合致する際は前記第1のデータユニットを出力する前に、画像フレームのサイズやアスペクト比等、画像データ全体に関するパラメータを含む第2のデータユニットを生成出力するものであって、予め定めた条件に合致する場合にパラメータセットを出力し、また各フレームに画像フレーム間の相対時刻に関する情報を出力するため、復号化装置におけるランダムアクセスが確実に行え、表示時刻の相対値を確実に取得可能となる。
【0021】
本発明の請求項2による画像符号化装置は、請求項1に記載の画像符号化装置において、前記フォーマット手段は、予め定めた第2の条件に合致する際は前記第2のデータユニットを生成出力する前に、前記入力した画像フレームの表示時刻の絶対値を示す情報を含む第3のデータユニットを生成出力するため、表示時刻の絶対値を確実に出力可能となる。
【0022】
本発明の請求項3による画像符号化装置は、請求項1に記載の画像符号化装置において、前記予め定めた第1の条件は、予め定めた第1の時間間隔が経過したかどうかとするため、一定時間間隔で確実にランダムアクセスに必要なパラメータを出力可能となる。
【0023】
本発明の請求項4による画像符号化装置は、請求項2に記載の画像符号化装置において、前記予め定めた第2の条件は、予め定めた第2の時間間隔が経過したかどうかとするため、一定時間感覚で確実に表示時刻の絶対値に関する情報を出力可能となる。
【0024】
本発明の請求項5による画像符号化装置は、請求項1あるいは2に記載の画像符号化装置において、前記予め定めた第1の条件、および前記予め定めた第2の条件は、前記N個のスライスデータユニットがイントラ符号化されたスライスであるかどうかとするため、単独で復号化が可能なイントラ符号化フレームの直前にランダムアクセスに必要なパラメータを出力可能となる。
【0025】
本発明の請求項6による画像復号化装置は、請求項1〜5に記載の画像符号化装置が出力する画像符号化データを入力して復号するため、一定間隔ごと、あるいは単独で復号化可能なイントラ符号化フレームの入力時にランダムアクセスに必要なデータを確実に取得可能となる。また、各画像フレームの表示時刻の情報を確実に取得可能となり、符号化時と同じタイミングで各フレームの表示が可能となる。
【図面の簡単な説明】
【図1】本発明の実施の形態1による画像符号化装置の機能ブロック図である。
【図2】画像符号化装置の動作を説明するフローチャートである。
【図3】画像符号化装置内の入出力データの一例を示すデータ構成図である。
【図4】フォーマット手段における出力データ生成時の動作を説明するフローチャートである。
【図5】画像符号化装置の出力する符号化データの構成の一例を示すデータ構成図である。
【図6】NALユニットのデータ構造図である。
【符号の説明】
100 画像符号化装置
101 画像符号化手段
102 フォーマット手段
1a 外部より与えられる符号化パラメータ
1b 外部より与えられる原画像フレームデータ
1b’ フォーマット手段により形式変換された原画像フレームデータ
1c フォーマット手段が生成した符号化パラメータ
1d 画像符号化手段が出力するスライスデータのサイド情報
1e 画像符号化手段が出力するスライスデータ
1f 出力画像符号化データ
500 拡張NALユニット
502 イントラフレームにおける出力画像符号化データ
506 イントラフレーム以外における出力画像符号化データ
Claims (6)
- 画像符号化パラメータと画像データを入力し、前記符号化パラメータに従って画像データを符号化して出力する画像符号化装置であって、
前記入力した画像データから1枚の画像フレームを入力し、前記符号化パラメータに従ってN個(Nは1以上の整数)のスライスデータユニットに符号化する画像符号化手段と、
画像フレーム間の表示時刻の相対値を示す情報を含む第1のデータユニットを生成出力し、前記画像符号化手段により符号化されたN個のスライスデータユニットを出力するフォーマット手段とを備え、
前記フォーマット手段は、予め定めた第1の条件に合致する際は前記第1のデータユニットを出力する前に、画像フレームのサイズやアスペクト比等、画像データ全体に関するパラメータを含む第2のデータユニットを生成出力することを特徴とする画像符号化装置。 - 前記フォーマット手段は、予め定めた第2の条件に合致する際は前記第2のデータユニットを生成出力する前に、前記入力した画像フレームの表示時刻の絶対値を示す情報を含む第3のデータユニットを生成出力することを特徴とする、請求項1に記載の画像符号化装置。
- 前記予め定めた第1の条件は、予め定めた第1の時間間隔が経過したかどうかとすることを特徴とする、請求項1に記載の画像符号化装置。
- 前記予め定めた第2の条件は、予め定めた第2の時間間隔が経過したかどうかとすることを特徴とする、請求項2に記載の画像符号化装置。
- 前記予め定めた第1の条件、および前記予め定めた第2の条件は、前記N個のスライスデータユニットがイントラ符号化されたスライスであるかどうかとすることを特徴とする、請求項1あるいは2に記載の画像符号化装置。
- 請求項1〜5のいずれか1項に記載の画像符号化装置が出力する画像符号化データを入力して復号する画像復号化装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002204715A JP2004048497A (ja) | 2002-07-12 | 2002-07-12 | 画像符号化装置、画像復号化装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002204715A JP2004048497A (ja) | 2002-07-12 | 2002-07-12 | 画像符号化装置、画像復号化装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004048497A true JP2004048497A (ja) | 2004-02-12 |
Family
ID=31710239
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002204715A Pending JP2004048497A (ja) | 2002-07-12 | 2002-07-12 | 画像符号化装置、画像復号化装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004048497A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009530881A (ja) * | 2006-03-17 | 2009-08-27 | テールズ | 追加的なネットワーク抽象化層(nal)を用いるマルチメディア・データの保護方法 |
CN102868881A (zh) * | 2011-07-05 | 2013-01-09 | 富士通株式会社 | 视频编码系统和方法 |
-
2002
- 2002-07-12 JP JP2002204715A patent/JP2004048497A/ja active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009530881A (ja) * | 2006-03-17 | 2009-08-27 | テールズ | 追加的なネットワーク抽象化層(nal)を用いるマルチメディア・データの保護方法 |
CN102868881A (zh) * | 2011-07-05 | 2013-01-09 | 富士通株式会社 | 视频编码系统和方法 |
CN102868881B (zh) * | 2011-07-05 | 2015-04-15 | 富士通株式会社 | 视频编码系统和方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI279742B (en) | Method for coding sequences of pictures | |
US10999575B2 (en) | Reference picture list handling | |
US8160157B2 (en) | Video H.264 encryption preserving synchronization and compatibility of syntax | |
US7720096B2 (en) | RTP payload format for VC-1 | |
KR101345015B1 (ko) | 비디오 데이터 코딩 장치, 방법, 시스템 및 비디오 데이터디코딩 방법 | |
CN1361991A (zh) | 视频编码 | |
US9516331B2 (en) | Data substream de-encapsulation method for plural symmetrical substreams and corresponding computer programs | |
US5767799A (en) | Low power high speed MPEG video variable length decoder | |
US20140092995A1 (en) | Electronic devices for signaling a random access point picture message | |
WO2001095637A1 (en) | Image processing apparatus, and image processing method | |
JP2019511865A (ja) | ディスプレイストリーム圧縮のためのベクトルベースエントロピーコード化のための装置および方法 | |
US7675872B2 (en) | System, method, and apparatus for displaying pictures | |
JP2004048497A (ja) | 画像符号化装置、画像復号化装置 | |
WO2016022920A1 (en) | System and method for reordering of prefixes and suffixes in variable length coding to increase throughput | |
US7920630B2 (en) | Buffer descriptor data structure for communication link between decode and display processes in MPEG decoders | |
CN112073822B (zh) | 一种宽带集群通信中的媒体变更方法和系统 | |
CN110691212A (zh) | 数据编解码的方法和系统 | |
US20230080223A1 (en) | Systems and methods for data partitioning in video encoding | |
US20230079859A1 (en) | Systems and methods for streaming extensions for video encoding | |
US20240121401A1 (en) | Systems and methods of rate control for multiple pass video encoding | |
JPH11187379A (ja) | 画像セキュリティシステム | |
JP2004056234A (ja) | 画像符号化装置および画像符号化方法 | |
WO2004114666A1 (en) | Constant stream compression processing method | |
JPH11215494A (ja) | 画像伝送システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050413 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070706 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070717 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070914 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080812 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20090120 |