JP3812155B2 - 動画像デコーダ - Google Patents
動画像デコーダ Download PDFInfo
- Publication number
- JP3812155B2 JP3812155B2 JP19814798A JP19814798A JP3812155B2 JP 3812155 B2 JP3812155 B2 JP 3812155B2 JP 19814798 A JP19814798 A JP 19814798A JP 19814798 A JP19814798 A JP 19814798A JP 3812155 B2 JP3812155 B2 JP 3812155B2
- Authority
- JP
- Japan
- Prior art keywords
- display
- frame
- delay
- time
- decoder
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
【発明の属する技術分野】
本発明は、符号化された動画像データを復号及び表示する動画像デコーダに関する。より詳細には、低ビットレートで伝送する場合に、有効な発生情報量に応じてフレーム間隔を変更する可変フレームレート方式に対応するフレーム表示間隔制御手段を有した可変フレームレート動画像デコーダに関する。
【0002】
【従来の技術】
近年、インターネット及び移動体デジタル通信の普及により、低ビットレートでの画像圧縮符号化が、様々なアプリケーションに応用可能な技術として注目されている。特に、従来の可変フレームレート動画像デコーダは、発生情報量を抑えるために、フレームを間引き(スキップ)して復号画像の表示を行っている。フレームの間引きは、ビットストリームに記載されているフレーム間隔情報(フレームスキップ情報)に従って行われる。
【0003】
図1は、従来の可変フレームレート動画像デコーダの構成図である。該デコーダは、画像デコーダ1、フレームメモリ2、表示フレームメモリ3及び遅延スイッチ制御部4から構成されている。フレームメモリ2は、画像デコーダ1から出力された画像データを表示可能になるまで一時的に蓄積するものである。表示フレームメモリ3は、スクリーンへの表示直前のメモリであって、表示する動画像単位で蓄積される。遅延スイッチ制御部4は、該フレームメモリ2に蓄積された画像データを、該表示フレームメモリ3へ送るための切換制御を行うものである。該遅延スイッチ制御部4は、画像デコーダ1が受信したVBV(仮想受信バッファ:video buffering verifier)遅延値に基づいて、表示タイミングを制御する。
【0004】
図2は、従来の方式における、動画像データのエンコードから表示までのタイミング図である。該図2において、
Pn :n番目の符号化画像
fen :画像Pn から画像Pn+1 までのエンコードフレーム間隔
cn :画像Pn を伝送するのに必要な時間
fdn :画像Pn から画像Pn+1 までの表示フレーム間隔
vdn :画像Pn のストリーム先頭が受信バッファに入力されてから実際に表示されるまでの時間(VBV遅延値に相当)
を意味する。
【0005】
図2(a)は、画像データ単位P1 〜P7 が、タイミング間隔fe1 〜fe6 でエンコードされたことを表している。図2(b)は、図2(a)のタイミングでエンコードされた画像データを送信する送出バッファのデータ残存量を表している。図2(c)は、図2(b)のタイミングで送出された画像データを受信するVBVのデータ残存量を表している。図2(d)は、図2(c)のタイミングで受信した画像データを表示するタイミングを表している。
【0006】
例えば、図2(a)において、画像データP1 がエンコードされると、fe1 のフレーム間隔をおいてP2 がエンコードされている。P1 は、エンコードされると、図2(b)に示されたように送出バッファに蓄積され、時間c1 が経過したときに送出が完了することを示している。そして、図2(c)に示すように、送出されたP1 は、VBVバッファに蓄積される。前述した第2の表示タイミングは、P1 がエンコードされた後で時間c1 が経過したとき表示されるものであり、図2(c)及び(d)において破線で示されている。P2 は送出バッファからの送出が完了したときに表示される。従って、P1 及びP2 のフレーム間隔fe1 は保証されない。一方、前述した第1の表示タイミングは、P1 がエンコードされた後で時間vd1 が経過したとき表示されるものである。P2 は、P1 がエンコードされた後で時間fd1 が経過したとき表示される。fd1 =fe1 なので、P1 及びP2 のフレーム間隔fe1 は保証されている。
【0007】
画像データPn をエンコードした瞬間から受信側でデコード表示するまでの遅延量をDlyn は、
n≧2のとき、
Dlyn =Dlyn-1 +fdn-1 −fen-1 (1)
n=1のとき、
Dly1 =vd1 (2)
となる。
【0008】
これにより、以下の式(3)を得る。
【数1】
【0009】
また、デコード側とエンコード側とのフレーム表示間隔が異なる場合に生じるフレーム表示間隔誤差Derrnは、以下のようにして与えられる。
【数2】
【0010】
一方、vdn に関しては、その定義より以下の式で表される。
【数3】
【0011】
但し、VBVバッファのオーバフロー、アンダーフロー防止を考慮して、
cn ≦vdn ≦B (Bはバッファサイズ) (9)
が条件となる。
【0012】
図2(d)は、従来の2つの表示タイミングを表している。第1の表示タイミングは、エンコード時のフレーム間隔に従って、即ち図2(d)のPn のタイミングで表示する。第2の表示タイミングは、符号化ストリーム到着と同時に、即ち図2(c)のPn からの破線の位置で表示する。
【0013】
第1の表示タイミングにおいて、受信側での画像の表示間隔を、エンコード時に従うよう制御を行った場合、fdn =fen となるので、式(3)より、
Dlyn =vd1 (10)
となり、表示遅延は常に一定である。該第1の表示タイミングは、表示遅延最大で且つ表示誤差無しのものである。
【0014】
また、バッファのアンダーフロー条件より、式(8)及び式(9)から以下の式(11)(12)が求められる。
【数4】
【0015】
エンコーダで発生する情報量を伝送するのに必要な時間の合計は、フレーム間隔の総和とほぼ等しいと考えられるので、Σfen ≒Σcn とし、またfen =fdn であるから以下の式(13)となる。
cn ≦vd1 (13)
【0016】
全てのnに対して成り立つ必要があり、またオーバフロー条件も考慮して、以下の式(14)が条件となる。
【数5】
【0017】
また、フレーム表示間隔誤差は、式(6)(7)より、
Derrn=0
となる。従って、遅延量は常にvd1であるが、表示間隔誤差は常に0である。
【0018】
第1の表示タイミングでは、可変フレームレート方式において、受信側での画像表示を、送信側のエンコード時のフレーム間隔と同一に保つ場合、全てのフレームの表示タイミングを、少なくとも最大発生情報量に相当する時間だけ遅らせなければならない。従って、1フレームの発生情報量を伝送する時間が大きくなる傾向にある極低レート下では大きな遅延の原因となる。
【0019】
第2の表示タイミングにおいて、vdn =cn となるので、式(8)より、以下の式(16)(17)(18)が求められる。
【数6】
該第2の表示タイミングは、表示遅延最小で且つ表示誤差有りのものである。
【0020】
前述したように、Σfe≒Σcn として、
Dlyn =cn (19)
を得る。これは、式(9)のバッファ条件を満たす。遅延量は最小となり、バッファアンダーフロー条件の下限値である。また、第1の表示タイミングの遅延量を明らかに下回る。
【0021】
フレーム表示間隔誤差に関しては、式(6)より、
Derrn=|fen−1−cn| (20)
となり、表示誤差は、第1の表示タイミングのフレームと、第2の表示タイミングのフレームとの発生情報量の差に依存して生じる。従って、本表示方法を用いた場合は、遅延量は伝送直後であり最小となるが、表示誤差が生じる。
【0022】
第2の表示タイミングでは、受信側でのフレーム間隔を意識せず、画像データ到着と同時に復号及び表示を行うことも可能であるが、この場合、表示遅延は、フレームスキップの大きさに依存するため、平均遅延量は小さくなるが、エンコード時のフレームスキップと受信側でのフレーム表示間隔が異なるために、表示時刻の誤差が大きくなり、動きの不自然な再生画像となる。
【0023】
従って、リアルタイム伝送の場合、デコーダにおいて、まず最初の受信画像を到着直後に復号し、フレームメモリを蓄積する。以後、各フレームを受信する毎に復号し、フレームメモリを蓄積する。また、フレーム表示に関しては、先頭のフレームについては、考えられる最大の発生情報量の伝送時間に相当する時間分だけ表示時刻を遅らせて表示し、それに続くフレームに関しては、フレーム表示間隔情報に従って、次々とフレームメモリの内容の表示を行っていた。
【0024】
【発明が解決しようとする課題】
しかしながら、従来のデコーダでは、フレーム表示間隔は、符号化時に決定された表示タイミングに従い、受信側でのフレーム間隔の制御が行われていないために、リアルタイム動画像符号化伝送において、以下のような問題が生じていた。
【0025】
第1の表示タイミングにおいては、符号化時のフレーム表示間隔に従ってデコーダ側で表示を行うためには、必ず指定の表示時刻までに画像情報が受信側に到着している必要があるために、最大発生情報量の伝送時間に相当する分(vd1 )だけ表示時刻を予め遅らせる必要がある。そのため、平均の発生情報量は、小さいのに稀に存在する発生情報量の大きな画像がある場合には、その発生情報量分だけ表示を遅延させる必要があり、結果として伝送遅延量が大きくなる。
【0026】
一方、第2の表示タイミングにおいては、伝送遅延量を小さくするために、符号化時のフレーム表示間隔を全く無視して、デコーダにて符号化情報の到着と同時に復号及び表示を行うことも可能であるが、この場合、フレーム表示間隔がエンコーダ側とデコーダ側とで大きく異なるために、画像中の物体の動きが不自然になるといった問題がある。
【0027】
そこで、本発明は、表示遅延と動きの不自然さとを共に小さくするために、仮想受信バッファモデルを可変フレームレートに拡張した、新たなフレーム間隔制御手段を有する動画像デコーダを提供することを目的とする。
【0028】
【課題を解決するための手段】
従って、本発明の動画像デコーダは、
画像デコーダと、
画像デコーダによって復号された画像データを一時的に蓄積するフレームメモリと、
伝送遅延量Dlyとフレーム間隔誤差値Derrとの二乗和が最小となる遅延値を出力するフレーム間隔制御手段と、
フレームメモリに蓄積された画像データを表示部へ出力する表示タイミングを、遅延値に基づいて制御する遅延スイッチ制御手段と
を有し、
伝送遅延量Dlyは、エンコーダ側における符号化された時刻と、デコーダ側における表示された時刻との差であり、
フレーム間隔誤差値Derrは、エンコーダ側における符号化時のフレーム間隔に基づくフレーム表示時刻と、デコーダ側における実際の表示時のフレーム間隔に基づくフレーム表示時刻との差である
ことを特徴とする。
これにより、図2(d)に表された第1の表示タイミング(破線)と第2の表示タイミング(実線)との間で、遅延量及び表示誤差の一方に偏ることなく、最適な表示タイミングで表示することが可能となる。
【0029】
本発明の他の実施形態によれば、伝送遅延量Dlyに第1の重み付けη(0<η<1)を乗じ、フレーム間隔誤差値Derrに第2の重み付け(1−η)を乗じることによって、遅延量及び表示誤差の間の優先度のバランスを考慮することも好ましい。これにより、遅延量及び表示誤差の優先度のバランスを考慮した最適な表示タイミングで表示することが可能となる。
【0032】
【発明の実施の形態】
図3は、本発明による動画像デコーダの構成図である。図1と比較して、フレーム間隔制御部5が備えられている。該フレーム間隔制御部5は、画像デコーダ1からVBV遅延値Vdnと、エンコードフレーム時フレーム間隔fenと、画像伝送に必要な時間cnとを受信して、フレーム間隔制御信号を遅延スイッチ制御部4を制御するものである。
【0033】
従来の制御方式である、表示遅延最大で且つ表示誤差無しの第1の表示タイミングと、表示遅延最小で且つ表示誤差有りの第2のタイミングとについて、本発明によるフレーム表示間隔制御装置は、評価関数を用いて受信バッファ遅延値vdn を制御することにより、表示誤差の増大を抑えながら遅延量を小さく保って表示することができる。
【0034】
本発明は、処理フレーム番号Nにおける平均伝送遅延量DlyN、平均フレーム表示間隔誤差DerrNの二乗和を評価関数として用いて、これを最小とするvdNを逐次求めることで、フレーム表示タイミングの制御を行う。これは、以下の式によって表される。
【0035】
【数7】
【0036】
これにより、vdN がEの最小値を与える。また、ηに関して、η≧0.5のとき遅延量優先型の制御となり、η<0.5のとき表示誤差優先型の制御となる。
【0037】
図4は、式(23)によるフレーム間隔制御手段の内部構成図である。
【0038】
図5は、優先度パラメータηに対する、フレーム処理番号と遅延との関係図である。図6は、優先度パラメータηに対する、フレーム処理番号とタイミングエラーとの関係図である。
【0039】
η=0では完全に表示誤差を優先した制御となり、遅延量は最大値で一定で、且つ表示誤差無しの状態となる。ηを大きくするに従って、情報発生の小さいフレームに関して遅延及び誤差共に小さくなるが、情報量の大きいフレームに対する表示誤差が大きくなる傾向となる。η=1においては、完全に到着直後の表示となり、遅延は伝送に必要な最小限となり、表示誤差は全く制御の対象とならない。
【0040】
実際の動画像伝送においては、定常的な性質を持つシーンにおいて遅延量を小さく設定しながら、表示誤差も正確に管理することが可能となる。突発的に発生するシーンチェンジ等については、少々の表示誤差を許容して、限りなく到着直後に表示することを意味する。
【0041】
前述の説明では、本発明の一実施形態について説明したが、様々な応用について、本発明の技術思想及び見地の範囲の種々の変更、修正及び省略は、当業者によれば容易に行うことができる。従って、前述の説明はあくまで例であって、何ら制約しようとするものではない。本発明は、特許請求の範囲及びその等価物として限定されるものにのみ制約される。
【0042】
【発明の効果】
以上、詳細に説明したように、本発明の動画像デコーダは、デコーダ側で符号化時のフレーム間隔に完全に従うか、又はそれを完全に無視するかの択一的選択によって画像を表示するのではなく、遅延量及び表示誤差の双方を考慮したフレーム表示間隔の制御が可能となる。
【図面の簡単な説明】
【図1】従来の動画像デコーダの構成図である。
【図2】従来の動画像デコーダの各段階のタイミング図である。(a)はエンコードタイミング図であり、(b)は送出バッファのデータ残存量を表す図であり、(c)はデコーダの仮想受信バッファのデータ残存量を表す図であり、(d)は表示タイミング図である。
【図3】本発明による動画像デコーダの構成図である。
【図4】本発明によるフレーム間隔制御手段の内部構成図である。
【図5】本発明によるパラメータηに対する、フレーム処理番号と遅延との関係図である。
【図6】本発明によるパラメータηに対する、フレーム処理番号とタイミングエラーとの関係図である。
【符号の説明】
1 画像デコーダ
2 フレームメモリ
3 表示フレームメモリ
4 遅延スイッチ制御部
5 フレーム間隔制御部
Claims (2)
- 画像デコーダと、
前記画像デコーダによって復号された画像データを一時的に蓄積するフレームメモリと、
伝送遅延量Dlyとフレーム間隔誤差値Derrとの二乗和が最小となる遅延値を出力するフレーム間隔制御手段と、
前記フレームメモリに蓄積された前記画像データを表示部へ出力する表示タイミングを、前記遅延値に基づいて制御する遅延スイッチ制御手段と
を有し、
前記伝送遅延量Dlyは、エンコーダ側における符号化された時刻と、デコーダ側における表示された時刻との差であり、
前記フレーム間隔誤差値Derrは、エンコーダ側における符号化時のフレーム間隔に基づくフレーム表示時刻と、デコーダ側における実際の表示時のフレーム間隔に基づくフレーム表示時刻との差である
ことを特徴とする動画像デコーダ。 - 前記伝送遅延量Dlyに第1の重み付けη(0<η<1)を乗じ、前記フレーム間隔誤差値Derrに第2の重み付け(1−η)を乗じることによって、遅延量及び表示誤差の間の優先度のバランスを考慮することを特徴とする請求項1に記載の動画像デコーダ。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP19814798A JP3812155B2 (ja) | 1998-06-30 | 1998-06-30 | 動画像デコーダ |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP19814798A JP3812155B2 (ja) | 1998-06-30 | 1998-06-30 | 動画像デコーダ |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000023158A JP2000023158A (ja) | 2000-01-21 |
JP3812155B2 true JP3812155B2 (ja) | 2006-08-23 |
Family
ID=16386249
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP19814798A Expired - Fee Related JP3812155B2 (ja) | 1998-06-30 | 1998-06-30 | 動画像デコーダ |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3812155B2 (ja) |
-
1998
- 1998-06-30 JP JP19814798A patent/JP3812155B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000023158A (ja) | 2000-01-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8107524B2 (en) | Adaptive bandwidth footprint matching for multiple compressed video streams in a fixed bandwidth network | |
US8374236B2 (en) | Method and apparatus for improving the average image refresh rate in a compressed video bitstream | |
US8184636B2 (en) | Information processing device and method, and computer readable medium for packetizing and depacketizing data | |
US8259790B2 (en) | Method for the frame-rate conversion of a video sequence of digital images, related apparatus and computer program product | |
JP2003517797A5 (ja) | ||
US7424058B1 (en) | Variable bit-rate encoding | |
JP4223567B2 (ja) | 符号化ビデオシーケンスの切り替え方法及び装置 | |
EP1187460A2 (en) | Image transmitting method and apparatus and image receiving method and apparatus | |
KR20020026250A (ko) | 비디오 신호 인코딩 및 버퍼 관리 | |
TWI628958B (zh) | 在低延遲視頻通訊系統中改善視頻表現之全訊框緩衝 | |
US7558323B2 (en) | Video data transmission method for changing transmission data amounts in accordance with a transmission speed and a transmission system therefor | |
JP2002218472A (ja) | 可変画像レート復号化装置及び可変画像レート復号化方法 | |
EP1342378A2 (en) | Method and apparatus for adaptive bit rate control in an asynchronized encoding system | |
JP3812155B2 (ja) | 動画像デコーダ | |
US20100104009A1 (en) | Methods and systems for improving network response during channel change | |
JP4845869B2 (ja) | 画像出力装置、コンピュータプログラム及び画像出力方法 | |
JP2004208146A (ja) | 動画像符号化装置および動画像符号化方法 | |
JP2002027457A (ja) | 遅延時間を縮めたデコーディング方法 | |
JP2003309847A (ja) | 画像伝送方法および画像伝送装置 | |
JP3871217B2 (ja) | 動画像受信装置 | |
CN104702970A (zh) | 一种同步视频数据的方法、设备及系统 | |
JP2007089132A (ja) | 遠隔表示システム、及び、方法 | |
JP3750217B2 (ja) | 動画像符号化伝送装置 | |
JP4196085B2 (ja) | 映像信号符号化装置およびそれを用いたテレビ会議システム | |
Nakao et al. | 66.3: High Quality Image Compression System for Low Delay and Real‐Time Wireless Transmission |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040921 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050308 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050502 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060509 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060522 |
|
R150 | Certificate of patent (=grant) or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |