JP3232080B2 - 画像符号化方法 - Google Patents
画像符号化方法Info
- Publication number
- JP3232080B2 JP3232080B2 JP2001101253A JP2001101253A JP3232080B2 JP 3232080 B2 JP3232080 B2 JP 3232080B2 JP 2001101253 A JP2001101253 A JP 2001101253A JP 2001101253 A JP2001101253 A JP 2001101253A JP 3232080 B2 JP3232080 B2 JP 3232080B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- image
- display
- frame
- decoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Landscapes
- Television Signal Processing For Recording (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
関し、特に、画像の各フレームに対応する表示タイミン
グに関する情報を含む画像符号化信号を生成する処理に
関するものである。
合的に扱うマルチメディア時代を迎え、従来からの情報
メディア,つまり新聞,雑誌,テレビ,ラジオ,電話等
の情報を人に伝達する手段がマルチメディアの対象とし
て取り上げられるようになってきた。一般に、マルチメ
ディアとは、文字だけでなく、図形、音声、特に画像等
を同時に関連づけて表すことをいうが、上記従来の情報
メディアをマルチメディアの対象とするには、その情報
をディジタル形式にして表すことが必須条件となる。
量をディジタル情報量として見積もってみると、文字の
場合1文字当たりの情報量は1〜2バイトであるのに対
し、音声の場合1秒当たり64kbits(電話品質)、さ
らに動画については1秒当たり100Mbits(現行テレ
ビ放送品質)以上の情報量が必要となり、上記テレビ等
の情報メディアではその膨大な情報をディジタル形式で
そのまま扱うことは現実的ではない。例えば、テレビ電
話は、64kbps〜1.5Mbpsの伝送速度を持つサービス
総合ディジタル網(ISDN:Integrated Services Dig
ital Network)によってすでに実用化されているが、テ
レビ・カメラの映像をそのままISDNで送ることは不
可能である。
技術であり、例えば、テレビ電話の場合、ITU−T
(国際電気通信連合 電気通信標準化部門)で国際標準
化されたH.261規格の動画圧縮技術が用いられてい
る。また、MPEG1規格の情報圧縮技術によると、通
常の音楽用CD(コンパクト・ディスク)に音声情報と
ともに画像情報を入れることも可能となる。
ts Group) とは、動画像に対する画像信号の圧縮伸長技
術に関する国際規格であり、MPEG1は、動画データ
を1.5Mbpsまで、つまりテレビ信号の情報を約100
分の1にまで圧縮する規格である。また、MPEG1規
格を対象とする伝送速度が主として約1.5Mbpsに制限
されていることから、さらなる高画質化の要求をみたす
べく規格化されたMPEG2では、動画データが2〜1
5Mbpsに圧縮される。
PEG1,2の規格に対応する、画像信号の圧縮伸長技
術では、基本的に各フレームに対する画像表示タイミン
グの間隔,つまりフレームレートとして、固定フレーム
レートのみを採用しているため、フレームレートは高々
数種類しかなく、このためMPEG2では、符号化デー
タとともに伝送されてくるフラグ(frame rate code)
に基づいて、図13に示すテーブルを参照して、数通り
のフレームレート(frame rate value)の中からフラグ
により指定されるものを選択するようにしている。
Organization for Standardization: 国際標準化機構)
によって、具体的には、MPEG1,MPEG2と標準
化を進めてきた作業グループ(ISO/IEC JTC1/SC29/WG1
1)によって、最新の画像符号化方式であるMPEG4の
標準化作業が進められている。このMPEG4は、物体
単位での符号化処理や信号操作を可能とし、マルチメデ
ィア時代に必要な新しい機能を実現するものである。こ
のMPEG4では、当初、低ビットレートの画像処理の
標準化を目指してきたが、現在はその標準化の対象は、
インタレース画像にも対応した高ビットレートの画像処
理も含む、より汎用的な画像処理に拡張されている。
ジェクト・レイア(MPEG2のビデオシーケンスに相
当)の先頭にMPEG2のテーブル(図13参照)と同
様なテーブルを追加すれば、該テーブルによりフレーム
レートは表現できるが、MPEG4では、低ビットレー
トの画像信号から高ビットレートの高画質の画像信号ま
での幅広い範囲の画像信号を処理対象とするため、必要
となるフレームレートは無数にあり、このため、MPE
G4では、実際問題としてフレームレートの判定をテー
ブルを用いて行うことは困難である。
固定フレームレートに対応し、しかも各フレームに対す
る画像表示タイミングや復号化処理のタイミングの間隔
が可変である画像に対応するために、フレーム毎に挿入
された各フレームの表示時刻データを含むデータ構造を
採用している。
データ構造の一例を示す。従来のデータ構造を有する画
像符号化信号200は、1つの画像(MPEG4では1
つのオブジェクトに対応する画像を構成するフレーム系
列)に対応するものであり、先頭のヘッダHに続いて、
各フレームF(0),F(1),F(2),・・・,F
(n)に対応する符号列Sa0,Sa1,Sa2,・・
・,Sanを伝送順に配列した構造となっている。ここ
で、nは1つの画像を構成するフレーム系列における、
各フレームのデータの伝送順序に対応する番号であり、
先頭フレームの番号nを0としている。
Sa1,Sa2,・・・,Sanの先頭には、そのフレ
ームの表示時刻を示す表示時刻データDt0,Dt1,
Dt2,・・・,Dtnが配置されており、各表示時刻
データに続いて画像符号化データCg0,Cg1,Cg
2,・・・,Cgnが配置されている。この表示時刻デ
ータは、基準時刻に対する相対的な時刻を表しているた
め、画像を構成するフレームの数(フレーム数)が多く
なるにつれて、この表示時刻を表すのに必要な情報量,
つまり表示時刻データのビット数は多くなる。
は、上記各フレームに対応する符号列Sa0〜San中
に挿入されている上記表示時刻データDt0〜Dtnに
基づいて、該表示時刻データが指示する時刻にそのフレ
ームに対する画像表示が行われる。
系列における、各フレームに対応する画像符号化データ
の伝送順序と表示順序とを示している。ここで、nは上
記のように伝送順序を示す番号であり、n′は表示順序
を示す番号(先頭フレームの番号n′を0とする)であ
る。また、フレームF(n)(F(0)〜F(18))
は、図14に示すデータ構造におけるフレームの順序
(つまり伝送順序)に基づいて配列したものであり、フ
レームF′(n′)(F′(0)〜F′(18))は、
上記伝送順に並ぶ各フレームF(n)を、図15で矢印
により示すようにその配列順序が表示順になるよう並べ
替えて配列したものである。従って、矢印で対応付けら
れたフレームF(n)とフレームF′(n′)は同一の
ものであり、例えば、フレームF(0),F(1),F
(2),F(3)はそれぞれ、フレームF′(0),
F′(3),F′(1),F′(2)と同じフレームで
ある。
(n)(F(0)〜F(18))のうち、フレームF
(0),F(13)はI(Intra-Picture)フレーム
(以下I−VOPともいう。)であり、フレームF
(1),F(4),F(7),F(10),F(16)
は、P(Predictive-Picture)フレーム(以下P−VO
Pともいう。)であり、フレームF(2),F(3),
F(5),F(6),F(8),F(9),F(1
1),F(12),F(14),F(15),F(1
7),F(18)は、B(Bidirectionally predictive
-Picture)フレーム(以下B−VOPともいう。)であ
る。
BPBBPBBIBBPBB)に配列されたフレームF
(n)(F(0)〜F(18))を表示順(IBBPB
BPBBPBBPBBIBBP)に並べ替えたときの順
番n′が、各フレームF(n)に対応するフレーム番号
B(n)(B(0)〜B(18))により表される。つ
まり、このフレーム番号B(n)の値は、表示順序を示
す番号n′を表しており、具体的には図15に示すよう
に、B(0)=0,B(1)=3,・・・,B(17)
=16,B(18)=17となる。従って、ここでは、
画像表示におけるI−VOPの周期LはL=15、画像
表示におけるI−VOPとP−VOPを含めたVOPの
周期MはM=3となっている。
は、nを用いて次式(1)〜(3)により表される。 B(n)=n=0 (n=0のとき) …(1) B(n)=n+M−1 (n=M×i+1のとき) …(2) ただし、i,Mは0以上の整数(0,1,2,・・・)
である。 B(n)=n−1 (nがその他の値であるとき) …(3) ここで、上記条件(n=0)は最初のI−VOPに対応
するもの、上記条件(n=M×i+1)は、最初のI−
VOP以外のI−VOPとP−VOPの両VOPに対応
するもの、上記条件(nがその他の値であるとき)は、
B−VOPに対応するものである。
VOP,P−VOP,B−VOPに相当するフレームの
符号列が周期的に伝送されてくる場合における上記表示
順序n′と伝送順序nの関係B(n)=n′を定義する
ものであり、各I−VOP,P−VOP,B−VOPに
相当するフレームの符号列が一定周期で伝送されてくる
場合以外の場合は、表示順序n′と伝送順序nは、上記
式(1)〜(3)とは別の関係式あるいは方法により一
対一に対応付けられることとなる。
タイミングの間隔が可変である画像表示方法の一例を説
明するための図である。図中、t’(n’)(t’(1),
t’(2), t’(3), t’(4) ・・・) は、フレーム
F’(n’-1) の画像表示が行われる時刻と、フレーム
F’(n’) の画像表示が行われる時刻との時間間隔を示
し、h’(1),h’(2),h’(3) は、フレームF’(0)
の画像表示が行われる時刻h’(0)を基準として、フレ
ームF’(1),F’(2), F’(3) の画像表示が行われ
る時刻を示している。また、h(n)(h(1),h(2),h
(3),h(4),・・・) は、フレームF(0) =F’(0)の
画像表示が行われる時刻h’(0)を基準として、フレー
ムF(n)(F(1), F(2), F(3),F(4),・・・) の
画像表示が行われる時刻を示している。従って、ここで
は、表示順に配列されたフレームF’(n’)の表示時刻
h’(n’)は、h’(n’)=h’(n’-1)+t’(n’)であ
る。なおh’(0)はh’(0) =0としている。
る画像符号化信号が復号化されて画像表示が行われる状
況を図16を用いて簡単に説明する。復号化側では、図
14に示す該画像符号化信号200が入力されると、該
画像符号化信号200を構成する各フレームF(0),F
(1),F(2),・・・の画像符号化データCg0,Cg
1,Cg2,・・・に対して復号化処理施されるととも
に、各フレームF(0),F(1),F(2),・・・に対応
する画像表示が、各フレームの表示時刻データDt0,
Dt1,Dt2,・・・に基づいた画像表示時刻h(0)
,h(1) ,h(2)・・・に行われる。
(画像符号化信号)が各フレームに対する画像表示タイ
ミングの間隔(画像表示周期)が固定であるものだけで
なく、可変であるものについても、復号化側で画像符号
化信号が復号化されて所定のタイミングで画像表示が行
われるようにしている。
に対する画像表示の間隔が固定であるものである場合に
は、上記の画像表示周期が可変である場合と同様、上記
各フレームF(0),F(1) ,F(2) ,・・・に対応する
画像表示が、各フレームの表示時刻データDt0,Dt
1,Dt2,・・・に基づいた画像表示時刻h(0),h
(1),h(2),・・・に行われることは言うまでもない。
されるフレームの数)は、これを単純にk(自然数)ビッ
トで表現しようとしても、テレビジョン放送で使用され
る周波数、例えば29.97・・・Hz,正確には30
000/1001Hzのような値については表現するこ
とができない。
のように表現することができる。つまり、所定の時間間
隔(1modulo time )を例えば1秒とし、これをN(N
は自然数)等分した微小単位時間(1/N)を1単位時
間(1time tick )として、フレームレートが可変であ
る画像についても、またフレームレートが固定である画
像についても、各フレームの表示時刻を表すようにして
いる。
示順に並ぶ各フレームF’(0),F’(1)’,F’(2),
F’(3)の画像VOP0,VOP1,VOP2,VOP
3の表示時刻は、例えば、時刻Xを基準として、微小単
位時間(1/N)をy(VOPrate increment )個集
めたもの(y/N)により表す。例えば、画像VOP
0,VOP1,VOP2,VOP3については、それぞ
れ上記値yは、y=y’0,y=y’1,y=y’2,
y=y’3となっている。
秒)と上記値yとにより、各フレームの画像表示タイミ
ングを示すデータ構造の画像符号化信号200aを示し
ている。この画像符号化信号200aでは、微小単位時
間に相当するN(自然数)を示す微小単位時間データD
kを含むヘッダHに続いて、各フレームF(n)(F
(0),F(1),F(2),・・・)に対応する符号
列Sbn(Sb0,Sb1,Sb2,・・・)が配列さ
れており、各符号列Sbnには、基準時刻xを基準とし
て上記微小単位時間(1/N)とその個数yを用いて測
定した表示時刻h(n)(h(0),h(1),h(2),・・・)を
示す表示周期乗数データDyn(Dy0,Dy1,Dy
2,・・・)が含まれている。
g1,Cg2,・・・)は、上記各フレームF(n)
(F(0),F(1),F(2),・・・)に対応する
画像符号化データである。但し、図17(b)に示すよう
に、画像VOP0がI−VOP(Iフレーム)、VOP
1,2がB−VOP(Bフレーム)、VOP3がP−V
OP(Pフレーム)である場合、画像符号化信号200
aとしてのビットストリームでは、図17(c)に示すよ
うに、I−VOP(VOP0)に相当するフレームF
(0)の符号列に続くフレームF(1),F(2)の符
号列としては、P−VOP(VOP3),B−VOP
(VOP1)に相当するものが配列されている。
16を用いて説明した画像信号データ構造における問題
点について説明する。上述したように、画像符号化信号
が、フレームの表示間隔が一定値Tである画像信号を符
号化したものである場合は、各フレームに対応する画像
表示タイミングh(n) は、h(n) =n′×Tとなってい
る。ここでn′は表示時順序を示す番号であり、n′=
B(n)となっている。言い換えると、このようなフレ
ームの表示間隔が一定値Tである画像符号化信号(つま
りフレームレートが固定である画像に対応する符号化信
号)は、復号化側で上記一定な表示間隔である時間Tが
分かれば、伝送順序におけるn番目のフレームF(n) の
表示時刻h(n)は、上記一定な表示間隔Tをn′(=B
(n))倍することにより一意に定めることができるに
も拘わらず、復号化の際には、フレームF(n)(F(0)
,F(1) ,F(2) ,・・・)に対応する画像符号化信
号に挿入されている、図14に示すような表示時刻デー
タDtn(Dt0,Dt1,Dt2,・・・)を用い
て、複雑な表示処理を行わざるを得ないという問題があ
った。
ータ構造の問題点について説明する。上記のように、現
在のMPEG4で提案されている画像信号のデータ構造
では、フレームレートが固定であっても、フレームレー
トの値(大きさ)は、数フレームをデコードしないと分
からない構造となっており、このため、実際の復号化処
理を実現するための回路構成を簡略化するのが困難であ
るといった問題がある。
に、VOP0がI−VOP(Iフレーム)、VOP1,
2がB−VOP(Bフレーム)、VOP3がP−VOP
(Pフレーム)である場合、画像符号化信号200aと
してのビットストリームでは、図17(c)に示すよう
に、I−VOP(Iフレーム)に相当するフレームF
(0)に続いて、P−VOP(Pフレーム)に相当する
フレームF(1)及びB−VOP(Bフレーム)に相当
するフレームF(2)が配列されているため、このB−
VOP(Bフレーム)に対応するフレームF(2)が伝
送されてくるまでは、フレーム表示周期(1fixed VO
P increment),つまりこの場合はI−VOPの表示タ
イミングとその次に表示されるB−VOP(Bフレー
ム)の表示タイミングの間隔が分からないという問題が
ある。
ためになされたもので、復号化側にて、フレームレート
(各フレームに対する画像表示の周期)が固定である画
像符号化信号に対して、簡単なハードウエア構成により
表示処理を施し、しかもフレームレートが可変である画
像符号化信号に対する表示処理も簡単に行うことが可能
となるよう、画像符号化処理を行う画像符号化方法を得
ることを目的とする。
化方法は、複数のフレームに対応する画像信号を符号化
する画像符号化方法であって、前記画像信号を符号化し
て画像符号化データを生成し、前記画像信号に含まれる
全てのフレームの画像表示間隔が固定であるか可変であ
るかを示す表示周期識別子を生成し、前記表示周期識別
子が前記画像表示間隔が固定であることを示す場合、前
記画像表示間隔を示す表示周期データを生成し、生成し
た前記表示周期データと前記表示周期識別子と前記画像
符号化データとを多重化して画像符号化信号を生成し、
前記表示周期識別子が前記画像表示間隔が可変であるこ
とを示す場合、前記複数のフレームの表示タイミングを
示す表示タイミングデータを生成し、生成した表示タイ
ミングデータと前記表示周期識別子と前記画像符号化デ
ータとを多重化した画像符号化信号であって、前記表示
タイミングデータが前記複数のフレームのそれぞれに付
随した画像符号化信号を生成することを特徴とするもの
である。
て説明する。 実施の形態1.図1(a) は、本発明の実施の形態1によ
る、フレーム表示周期が固定(一定)である画像符号化
信号100aのデータ構造を示し、図1(b) は本発明の
実施の形態1による、フレーム表示周期が可変である画
像符号化信号100bのデータ構造を示している。
照)は、1つの画像(MPEG4では1つのオブジェク
トに対応する画像)に対応する、フレーム表示周期が固
定である画像信号を符号化して得られるものであり、先
頭のヘッダHに続いて、各フレームF(0),F
(1),F(2),・・・,F(n)に対応する符号列
Sa0,Sa1,Sa2,・・・,Sanを伝送順に配
列した構造となっている。ここで、nは1つの画像を構
成するフレーム系列における、各フレームのデータ伝送
順序に対応する番号である。
H内にフレーム表示周期が固定であることを示す表示周
期識別子(表示周期固定識別子)Df及びフレーム表示
周期を示す表示周期データDpが挿入され、各フレーム
に対応する符号列Sa0,Sa1,Sa2,・・・,S
anの先頭には、そのフレームが表示される順番n′に
相当するフレーム番号B(n)を示すフレーム番号デー
タB0,B1,B2,・・・,Bnが挿入されている。
また、上記各フレームに対応する符号列Sa0,Sa
1,Sa2,・・・,Sanには、各フレームの画像信
号を符号化して得られる画像符号化データCg0,Cg
1,Cg2,・・・,Cgnが含まれている。
イミングの間隔が固定である画像表示方法の一例を説明
するための図であり、図中、図16と同一符号は同一の
ものを示しており、Tは各フレームの表示タイミングの
間隔が固定である画像のフレーム表示周期である。この
画像符号化信号100aでは、図2に示すように、伝送
順に並ぶフレームF(n)(n=0,1,2,・・・)
の表示時刻h(n)は、フレームF(0)の表示時刻h(0)
(=h’(0))をh(0)=0とすると、h(n)=B(n)×
Tで表される。具体的には、フレームF(2)の表示時
刻h(2)はh(2)=B(2)×T、フレームF(3)の表示時
刻h(3)はh(3)=B(3)×T、フレームF(1)の表示時
刻h(1)はh(1)=B(1)×T、フレームF(4)の表示時
刻h(4)はh(4)=B(4)×Tとなる。
生処理では、各フレームに対応する画像符号化データの
復号化により得られる画像復号化データが表示時刻h
(n)に順次表示されることとなる。なおここで、表示
の順番を示す番号n′を表すフレーム番号B(n)は、
従来技術で説明したように上記(1)〜(3)式によ
り、伝送の順番を示す番号nの関数として決定される。
(b)参照)は、1つの画像(MPEG4では1つのオブ
ジェクトに対応する画像)に対応する、フレーム表示周
期が可変である画像信号を符号化して得られるものであ
り、先頭のヘッダHに続いて、各フレームF(0),F
(1),F(2),・・・,F(n)に対応する符号列
Sb0,Sb1,Sb2,・・・,Sbnを伝送順に配
列した構造となっている。
H内にフレーム表示周期が可変であることを示す表示周
期識別子(表示周期可変識別子)Dfが挿入され、各フ
レームF(0),F(1),F(2),・・・,F
(n)に対応する符号列Sb0,Sb1,Sb2,・・
・,Sbnの先頭には、そのフレームが表示される表示
時刻h(0),h(1),h(2),・・・,h(n) を示す表示
時刻データ(表示タイミングデータ)Dt0,Dt1,
Dt2,・・・,Dtnが挿入されている。また、上記
画像符号化信号100bにおける各フレームに対応する
符号列Sb0,Sb1,Sb2,・・・,Sbnには、
各フレームの画像信号を符号化して得られる画像符号化
データCg0,Cg1,Cg2,・・・,Cgnが含ま
れている。この画像符号化信号100bの再生処理によ
る画像表示は、図14に示す従来のデータ構造を有する
画像符号化信号200の画像表示と同様に行われる。
実施の形態1では、フレーム表示周期が固定である画像
符号化信号100aは、図1(a) に示すように、その画
像データ全体のヘッダ部分に、フレーム表示周期が固定
であることを示す表示周期固定識別子Dfと、フレーム
表示周期を示す表示周期データDpを挿入するととも
に、フレーム毎に、各フレーム番号B(0),B
(1),B(2),・・・,B(n)を示すフレーム番
号データB0,B1,B2,・・・,Bnを挿入したデ
ータ構造となっている。このようなデータ構造の画像符
号化信号100aでは、上記表示周期データDpからフ
レーム表示周期Tが分かり、フレーム番号データBnか
ら、1つの画像における各フレームが表示順に数えて何
番目のフレームに相当するかが分かるので、これらのデ
ータDp及びBnにより各フレームF(n)の表示時刻
h(n)を一意に定めることができる。
符号化信号100bは、図1(b) に示すように、その画
像データ全体のヘッダ部分に、表示間隔が可変であるこ
とを示す表示周期可変識別子Dfを挿入し、さらに従来
の画像符号化信号200のデータ構造と同様に、フレー
ム毎に各フレームの表示時刻h(0),h(1),h(2),・
・・,h(n)を示す表示時刻データDt0,Dt1,D
t2 ,・・・,Dtnを挿入したデータ構造となって
いる。
再生する際には、各フレームF(0)〜F(n)に対応
する画像表示を、該表示時刻データDt0〜Dtnの示
す表示時刻h(0)〜h(n)に行うことができる。
分にフレーム表示周期が固定であるか可変であるかを示
す表示周期識別子Dfを挿入することにより、フレーム
表示周期が可変である画像にも対応できる。さらに、フ
レーム表示周期が固定である画像に対しては、情報量の
多い各フレームの表示時刻データDt0〜Dtnを参照
せずに、表示周期データDpと情報量の少ないフレーム
番号データBnに基づいて各フレームの画像表示を行う
ことがき、復号化側における画像処理回路を簡単な回路
構成とすることができる。
a,100bを生成する画像信号の符号化処理、及びそ
の復号化処理について説明する。図3は上記符号化処理
のフローを示す図である。まず、上記符号化処理では、
入力された所定の画像に対応する画像信号のフレーム表
示周期が固定であるか否かの判定が行われる(ステップ
S11)。この判定の結果、フレーム表示周期が固定で
ある場合は、上記フレーム表示周期が固定であることを
示す表示周期固定識別子Dfが、上記画像信号に対応す
るビットストリームのヘッダHに付加され(ステップS
11a)、さらに各フレームの伝送順序を示す番号nが
カウンタ値として用いられ、このカウンタ値nがn=0
にセットされる(ステップS12a)。続いて、上記固
定のフレーム表示周期Tを示す表示周期データDpが、
上記画像信号に対応するビットストリームのヘッダHに
付加される(ステップS13a)。
る最初のフレームF(0)に対応する符号列Sa0とし
て、対応するフレーム番号データBn(=B0)及び画
像符号化データCgn(=Cg0)が順次上記ヘッダH
に付加される(ステップS14a,S15a)。その
後、上記画像信号の符号化処理における処理対象フレー
ムが上記所定の画像の、伝送順序における最終のフレー
ムであるか否かの判定が行われ(ステップS16a)、
該処理対象フレームが最終フレームでなければ、上記カ
ウンタ値nが1つインクリメントされて(ステップS1
7a)、続くフレームF(1)に対して、上記ステップ
S14a〜S17aにおける処理が行われる。
処理は、ステップS16aにて処理対象フレームが最終
フレームであると判定されるまで繰り返し行われる。
果、フレーム表示周期が可変である場合は、上記フレー
ム表示周期が可変であることを示す表示周期可変識別子
Dfが、上記画像信号に対応するビットストリームのヘ
ッダHに付加され(ステップS11b)、さらに各フレ
ームの伝送順序を示す番号nがカウンタ値nとして用い
られ、このカウンタ値nがn=0にセットされる(ステ
ップS12b)。次に、上記所定の画像の、伝送順序に
おける最初のフレームF(0)に対応する符号列とし
て、対応する表示時刻データDtn(=Dt0)及び画
像符号化データCgn(=Cg0)が順次上記ヘッダに
付加される(ステップS13b,S14b)。その後、
上記画像信号の符号化処理における処理対象フレームが
上記所定の画像における、最終のフレームであるか否か
の判定が行われ(ステップS15b)、該処理対象フレ
ームが最終フレームでなければ、上記カウンタ値nが1
つインクリメントされて(ステップS16b)、続くフ
レームF(1)に対して、上記ステップS13b〜S1
6bにおける処理が行われる。
処理は、ステップS15bにて処理対象フレームが最終
フレームであると判定されるまで繰り返し行われる。図
4(a)は、上記実施の形態1における符号化処理を行う
ハードウエアとしての画像符号化装置1000の構成を
示すブロック図である。
る画像信号Sgを符号化して画像符号化データCgnを
生成する符号化器1110と、上記入力される画像信号
Sgに基づいて、フレーム表示周期が一定であるか否か
(つまり、表示周期が固定であるか可変であるか)を判
定して、表示周期が一定であるか否かを示す表示周期識
別子Dfを出力する判定器1131と、上記入力された
画像信号Sgに基づいて、一定のフレーム表示周期Tを
示す表示周期データDfを生成する表示周期データ生成
器(第1のデータ生成器)1132とを有している。
記入力された画像信号Sgに基づいて、伝送順序におけ
る各フレームの順番(フレーム番号B(n))を示すフ
レーム番号データBnを生成する番号データ生成器(第
2のデータ生成器)1133と、上記入力された画像信
号Sgに基づいて、各フレームF(n)の表示時刻h
(n)を示す表示時刻データDtnを生成する表示時刻デ
ータ生成器(第3のデータ生成器)1134とを有して
いる。
上記判定器1131からの表示周期識別子Dfに基づい
て、上記データ生成器1132からの表示周期データD
pを導通させる導通状態と該表示周期データDpを遮断
する遮断状態との間で切り替わる開閉スイッチ1141
と、上記判定器1131からの表示周期識別子Dfに基
づいて、上記データ発生器1133からのフレーム番号
データBnと上記データ発生器1134からの表示時刻
データDtnの一方を選択して出力する選択スイッチ1
142とを有している。
上記判定器1131からの表示周期識別子Df,上記符
号化器1110からの符号化データCgn,上記開閉ス
イッチ1141からの表示周期データDp,及び上記選
択スイッチ1142の出力を多重化して多重ビットスト
リームM1を生成する多重化器(MUX)1120を有
しており、該多重ビットストリームM1を、フレーム表
示周期が固定である画像符号化信号100a、あるいは
フレーム表示周期が可変である画像符号化信号100b
として出力する構成となっている。
動作について説明する。まず、上記画像符号化装置10
00に所定の画像に対応する画像信号Sgが入力される
と、上記判定器1131では、該画像信号Sgのフレー
ム表示周期が可変である否かの判定が行われ、判定結果
を示す表示周期識別子Dfが出力される。また、このと
き、上記画像信号Sgに基づいて、第1〜第3のデータ
生成器1132〜1134では、それぞれ上記表示周期
データDp,フレーム番号データBn,及び表示時刻デ
ータDtnが生成され、上記符号化器1110では、上
記画像信号Sgが符号化されて画像符号化データCgn
として出力される。
符号化データCgnは多重化器1120に出力される。
このとき、上記表示周期データDpは、表示周期識別子
Dfに基づいて開閉されるスイッチ1141を介して多
重化器1120に出力され、フレーム番号データBn及
び表示時刻データDtnは、表示周期識別子Dfに基づ
いてこれらのデータの一方を選択する選択スイッチ11
42を介して上記多重化器1120に出力される。
ームF(n)に対応する画像表示の周期が固定である画
像信号が入力されたとき、上記表示周期固定識別子Df
とともに、上記各フレームに対応する画像表示の周期を
示す表示周期データDpと、上記各フレームに対応し
た、フレームの前後関係を示すフレーム番号データBn
とが多重化器1120に出力される。すると、該多重化
器1120では、上記画像符号化データCgn、表示周
期固定識別子Df、表示周期データDp、及びフレーム
番号データBnが多重化されて画像符号化信号100a
として出力される。
レームF(n)に対応する画像表示の周期が可変である
画像信号が入力されたとき、上記表示周期可変識別子D
fとともに、上記各フレームに応じて1つまたは複数の
基準時刻の所要のものに対して相対的に設定された、各
フレームに対応する画像表示が行われるタイミング(表
示時刻)h(n)を示す表示時刻データDtnが上記多重
化器1120に出力される。すると該多重化器1120
では、上記画像符号化データCgn、表示周期可変識別
子Df、及び表示時刻データDtnが多重化されて、画
像符号化信号100bとして出力される。
タ構造を有する画像符号化信号100a,100bを復
号化する復号化処理について説明する。まず、上記復号
化処理では、符号化側から送られてくる多重ビットスト
リームM1(画像符号化信号100aあるいは100
b)における表示周期識別子Dfを検出することによ
り、該画像符号化信号の表示周期が固定であるか否かが
判定される(ステップS21)。この判定の結果、表示
周期が固定であると判定されれば、伝送順における各フ
レームF(n)の順番に相当するカウント値nが0にセ
ットされ(ステップS21a)、その後、画像符号化信
号のヘッダ部分Hから表示周期Tを示す表示周期データ
Dpが読込まれる(ステップS22a)。
ーム番号B(n)を示すフレーム番号データBnが読込
まれ(ステップS23a)、各フレームの表示時刻h
(n)が計算式h(n)=B(n)×Tにより求められ
る(ステップS24a)。
符号化データCgnの復号化処理が行われ、フレームF
(n)に対応する画像復号化データが、表示時刻h(n)
に表示される画像データとされる(ステップS25
a)。その後、処理対象フレームF(n)が上記所定の
画像の、伝送順序における最後のフレームであるか否か
が判定され(ステップS26a)、処理対象フレームが
上記所定の画像の、伝送順序における最後のフレームで
あれば復号化処理が終了し、これが最後のフレームでな
ければ、上記カウント値nが1つインクリメントされ
(ステップS27a)、その後、上記ステップS23a
〜26aの処理が上記ステップS26aにて処理対象フ
レームが最後のフレームであると判定されるまで行われ
る。
が可変であると判定されれば、伝送順における各フレー
ムF(n)の順番に相当するカウント値nが0にセット
され(ステップS21b)、その後、各フレームのヘッ
ダ部分からフレームF(n)の表示時刻h(n)を示す表
示時刻データDtnが読込まれ(ステップS22b)、
この表示時刻データDtnに基づいてフレームF(n)
の表示時刻h(n)が決定される(ステップS23b)。
続いて、フレームF(n)に対応する画像符号化データ
Cgnの復号化処理が行われ、復号化処理が施されたフ
レームF(n)の画像復号化データが、表示時刻h
(n)に表示される画像データとされる(ステップS2
4b)。
所定の画像の、伝送順序における最後のフレームである
か否かが判断され(ステップS25b)、該処理対象フ
レームが最後のフレームであれば復号化処理が終了す
る。一方、上記処理対象フレームが最後のフレームでな
ければ、上記カウント値nが1つインクリメントされ
(ステップS26b)、その後、上記ステップS22b
〜ステップS26bの処理が、ステップS25bにて処
理対象フレームが最後のフレームであると判定されるま
で行われる。
で、図1(a) ,(b) に示すデータ構造を有する画像符号
化信号が復号化される。図6(a)は上記実施の形態1に
おける復号化処理を行うハードウエアとしての画像復号
化装置の構成を示すブロック図である。
符号化装置1000から出力された画像符号化信号10
0aあるいは100bとしての多重ビットストリームM
1に対して、復号化処理及び表示処理を含む再生処理を
行う構成となっている。
は、上記多重ビットストリームM1から、画像符号化デ
ータCgn,表示周期識別子Df,表示周期データD
p,及びフレーム番号データBnあるいは表示時刻デー
タDtnを取り出して出力するデータ分離器(DEMU
X)2110と、上記画像符号化データCgnを復号化
して画像復号化データRgを出力する復号化器2120
とを有している。
記表示周期識別子Dfに基づいて、上記表示周期データ
Dpを導通させる導通状態と該表示周期データDpを遮
断する遮断状態との間で切り替わる開閉スイッチ214
0と、上記表示周期識別子Dfに基づいて、上記フレー
ム番号データBn及び上記表示時刻データDtnの一方
を選択して出力する選択スイッチ2150とを有してい
る。
上記画像復号化データRgを、表示周期識別子Df及び
各スイッチ2140,2150の出力に基づいて所定の
表示タイミングで表示する表示装置2130を有してい
る。
動作について説明する。まず、上記画像復号化装置20
00に、上記画像符号化装置1000からの多重ビット
ストリームM1が入力されると、データ分離器2110
にて、上記多重ビットストリームM1から表示周期識別
子Df及び表示周期データDpが分離され、さらに各フ
レーム毎に上記多重ビットストリームM1から、画像符
号化データCgn,及びフレーム番号データBnあるい
は表示時間データDtnが分離される。
gnは復号化器2120にて復号化されて画像復号化デ
ータRgとして表示装置2130に出力される。また、
上記表示周期データDpは、表示周期識別子Dfにより
開閉される開閉スイッチ2140を介して表示装置21
30に出力され、各フレームのフレーム番号データBn
あるいは表示時間データDtnは、表示周期識別子Df
によりこれらの一方のデータを選択する選択スイッチ2
150を介して上記表示装置2130に出力される。
固定である画像復号化データRgに対応する各フレーム
の画像は、表示周期データDp及びフレーム番号データ
Bnに基づいて所定の表示タイミングで表示され、一方
表示周期が可変である画像復号化データRgに対応する
フレームの画像は、表示時刻データDtnに基づいて所
定の表示タイミングで表示される。
タ構造では、画像信号を符号化して得られる画像符号化
信号を、各フレームに対応する画像表示処理の周期が可
変であるか否かを示す表示周期識別子Dfを含む構成と
したので、各フレームに対する画像表示の周期が固定で
ある場合に、簡単な回路構成により、つまり各フレーム
毎に情報量(ビット数)の多い表示時刻データ(表示タ
イミングデータ)Dtnを参照することなく、表示周期
データDpと情報量(ビット数)の少ないフレーム番号
データBnに基づいて、画像復号化データRgの表示処
理を行うことができる。
号100aには、画像表示の周期Tを示す表示周期デー
タDpと、フレームの前後関係を示すフレーム番号B
(n)を示すデータ(フレーム位置データ)Bnを含む
ので、各フレームに対応する画像表示のタイミングを、
T×B(n)という簡単な演算により決定することがで
きる。
号100bには、各フレームに応じて1つまたは複数の
基準時刻の所要のものh’(0)(図2参照)に対して相
対的に設定された、各フレームに対応する画像表示が行
われる表示時刻(表示タイミング)h(n)を示す表示時
刻データ(表示タイミングデータ)Dtnを含むので、
各フレームに対応する画像表示の周期が可変である場合
には、従来のデータ構造と同様、表示時刻データDtn
に基づいて各フレームF(n)に対応する画像表示のタ
イミングh(n)を確定することができる。
1000では、入力される画像信号に基づいて、画像の
表示周期が可変である否かを示す表示周期識別子Dfを
生成する判定器1131を備え、表示周期が固定である
画像信号が入力されたとき、上記表示周期識別子Df、
画像表示の周期を示す表示周期データDp、フレームの
前後関係を示すフレーム番号データBnを画像符号化デ
ータCgnと多重化して出力し、画像表示の周期が可変
である画像信号が入力されたとき、表示周期識別子Df
及び各フレームF(n)の表示時刻h(n)を示す表示時
刻データDtnを、画像符号化データCgnと多重化し
て出力するようにしたので、各フレームに対する画像表
示の周期が可変であっても固定であっても、各フレーム
の表示タイミングを決定するためのデータが画像符号化
データCgnとともに出力されることとなる。これによ
りフレームの表示周期が固定の場合に表示時刻を定める
のに要するビット数を削減することができ、しかも、フ
レームの表示周期が可変である画像の表示も従来と同様
に行うことができる。
2000では、上記画像符号化装置1000から送られ
てくる多重ビットストリームM1に含まれている、表示
周期識別子Df、画像表示の周期を示す表示周期データ
Dp、フレームの前後関係を示すフレーム番号データB
n、各フレームの表示時刻h(n)を示す表示時刻データ
Dtn及び画像符号化データCgnを分離するデータ分
離器2110と、上記画像符号化データCgnを復号化
して画像復号化データRgを出力する復号化器2120
とを備え、表示周期が固定である画像復号化データRg
を、表示周期データDp及びフレーム番号データBnに
基づいて所定の表示タイミングで表示し、表示周期が可
変である画像復号化データRgを、表示時刻データDt
nに基づいて所定の表示タイミングで表示するので、各
フレームの画像復号化データRgを、そのフレーム表示
周期が可変であるか否かに拘わらず正しい表示タイミン
グでもって表示することができる。
号データ構造においては、画像データ(多重ビットスト
リーム)の先頭に表示周期識別子Dfを、フレームデー
タ(各フレームの符号列)の先頭に、フレーム番号デー
タBn,表示時刻データDtnなどを挿入しているが、
上記表示周期識別子,フレーム番号データ,表示時刻デ
ータ等は、必ずしも対応するヘッダの先頭に挿入される
必要はなく、表示周期識別子及び表示周期データは画像
データ(画像符号化信号)のヘッダ部分に、フレーム番
号データ,表示時刻データ等はフレームに対応するデー
タ(符号列)のヘッダ部分に挿入されていれば、同期信
号などの後に挿入されてもよい。
ータDpは表示周期識別子Dfの直後に挿入している
が、表示周期データDpは、必ずしも、表示周期識別子
と連続するようその直後に挿入する必要はなく、表示周
期データは、画像データのヘッダ部分において、表示周
期識別子の後に挿入されていればよい。
ける表示の順番を示す番号n′(=B(n))として、
画像データの表示順序での先頭から通し番号を割り当て
ているが、必ずしも通し番号を割り当てる必要はなく、
予め定めた先頭番号から後尾番号までの複数の番号をフ
レーム番号として周期的に割り当てるようにしても構わ
ない。
合は、0から15の番号を周期的にフレームに割り当て
る。この場合、表示時刻については、h’(n’)=h
p’(15)+(n′+1)×Tで表される。ここでh
p’(n’)は、直前の周期におけるフレーム番号B
(n)(=n′)に対応する表示時刻を表すものとして
おり、従って、この場合、h’(n’)は、hp’(n’)の
次の周期におけるフレーム番号B(n)(=n′) に
対応する表示時刻を示すこととなる。なお、hp’(1
5)は直前の周期における最後のフレームに対応する表
示時刻を示している。
の特定は、フレーム番号データにより行っているが、こ
れに限るものではなく、フレームの前後関係を規定する
データであれば、所定のルールによりフレームの前後関
係を示すデータ、所定のテーブルを参照してフレームの
前後関係を規定するデータ等でもよい。
データは、複数の基準時間に対する相対的な時刻を示す
ものであり、例えば、基準時刻は複数のフレームに対し
て1つ設定してもよく、また前のフレームの表示時刻を
基準時刻としてもよい。さらに、1つまたは複数の基準
時刻を予め設定し、あるルールまたは信号に基づいて、
いずれの基準時刻を参照してフレームの表示時刻を表す
かを決定するようにしてもよい。
側での各フレームに対する再生処理のタイミングを決定
するための付加データとして、各フレームの表示タイミ
ングを設定するための表示周期識別子,表示周期デー
タ,及びフレーム番号データあるいは表示時刻データを
含む画像符号化信号のデータ構造について示したが、画
像符号化信号のデータ構造は、上記各フレームの表示タ
イミングに代えて、各フレームの復号化処理のタイミン
グを決定する付加データ,つまり復号周期識別子,復号
周期データ,及びフレーム番号データあるいは復号時刻
データを含むものであってもよく、以下このようなデー
タ構造を実施の形態1の変形例として説明する。
1の変形例のデータ構造は、実施の形態1の画像符号化
信号100aにおける表示周期識別子Df及び表示周期
データDpを、復号周期識別子及び復号周期データに置
き換え、実施の形態1の画像符号化信号100bにおけ
る表示時刻データDtnを、復号時刻データに置き換え
たものである。
ムに対応する、画像符号化信号を復号化する復号化処理
の周期が可変であるか否かを示すものであり、復号化処
理の周期が固定である画像符号化信号には復号化周期固
定識別子として、復号化処理の周期が可変である画像符
号化信号には復号化周期可変識別子として挿入される。
対応する復号化処理の周期DTを示すデータであり、上
記復号時刻データは、各フレームに応じて1つまたは複
数の基準時刻の所要のものに対して相対的に設定され
た、各フレームに対応する復号化処理が行われるタイミ
ング(復号時刻Dh(n))を示すデータである。
を有する画像符号化信号を生成する符号化処理は、図3
に示すフローにおけるステップS11、S11a,S1
1b,S13a,S13bにおける処理を、以下のよう
に置換することにより実現できる。
の判定処理を、復号周期が固定であるか否かを判定する
処理に置き換え、ステップS11aにおける表示周期固
定識別子Dfを付加する処理を、上記復号周期固定識別
子を付加する処理に、ステップS11bにおける表示周
期可変識別子Dfを付加する処理を、上記復号周期可変
識別子を付加する処理に置き換える。さらに、ステップ
S13aにおける表示周期データDpを付加する処理
を、上記復号周期データを付加する処理に置き換え、ス
テップS13bにおける表示時刻データDtnを付加す
る処理を、上記復号時刻データを付加する処理に置き換
える。
形例の符号化処理を行うハードウエアとしての画像符号
化装置1000aの構成を示している。この画像符号化
装置1000aは、上記実施の形態1における画像符号
化装置1000の判定器1131に代えて、上記入力さ
れる画像信号Sgに基づいて、フレームに対応する復号
化処理の周期が一定であるか否か(つまり、復号周期が
固定であるか可変であるか)を判定して、復号周期DT
が一定であるか否かを示す復号周期識別子DEfを出力
する判定器1131aを備えている。
上記実施の形態1の画像符号化装置1000における表
示周期データ発生器1132及び表示時刻生成器113
4に代えて、上記入力された画像信号Sgに基づいて、
フレームの復号化処理の周期(固定周期)DTを示す復
号周期データDEpを生成する復号周期データ生成器
(第1のデータ生成器)1132aと、上記入力された
画像信号Sgに基づいて、各フレームの復号時刻を示す
復号時刻データDEtnを生成する復号時刻データ生成
器(第3のデータ生成器)1134aとを備えたもので
ある。その他の構成は上記実施の形態1の画像符号化装
置1000と同様となっている。
aでは、多重化器(MUX)1120では、上記判定器
1131aからの復号周期識別子DEf,上記符号化器
1110からの画像符号化データCgn,上記開閉スイ
ッチ1141からの復号周期データDEp,及び上記選
択スイッチ1142の出力が多重化されて、多重ビット
ストリームM1aが、復号周期が固定である画像符号化
信号、あるいは復号周期が可変である画像符号化信号と
して出力される
を有する画像符号化信号を復号化する復号化処理は、図
5に示すフローにおけるステップS21,S22a,S
22b,S23a,S23b,S24a,S24b,S
25aの処理を以下のように置き換えることにより実現
できる。
周期の判定処理を、復号周期が固定であるか否かを判定
する処理に置き換え、ステップS22aにおける表示周
期Tを示す表示周期データDpを読み込む処理を、上記
復号周期DTを示す復号周期データDEpを読み込む処
理に置き換え、ステップS22bにおける表示時刻h
(n)を示す表示時刻データDtnを読み込む処理を、
上記復号時刻Dh(n)を示す復号時刻データDEtn
を読み込む処理に置き換える。
ける、フレーム番号データBnを読み込んで表示時刻h
(n)を決定する処理を、復号周期データDEpに基づ
いて、順次入力される各フレームの画像符号化データに
対応する復号時刻Dh(n)を決定するとともに、上記
フレーム番号データBnに基づいて各フレームに対する
表示時刻h(n)を決定する処理に置き換える。
刻データDtnに基づいて表示時刻h(n)を決定する
処理を、復号時刻データDEtnに基づいて復号時刻D
h(n)を決定するとともに、該データDEtnに基づ
いて表示時刻h(n)を決定する処理に置き換える。
ームF(n)の画像符号化データCgnを復号化して表
示時刻h(n)に表示する処理を、上記フレームF
(n)の画像符号化データCgnを復号時刻Dh(n)
に復号化して、表示時刻h(n)に表示する処理に置き
換え、ステップS24bにおける、フレームF(n)の
画像符号化データCgnを復号化して時刻h(n)に表
示する処理を、上記フレームF(n)の画像符号化デー
タCgnを復号時刻Dh(n)に復号化して、表示時刻
h(n)に表示する処理に置き換える。
形例の復号化処理を行うハードウエアとしての画像復号
化装置2000aの構成を示している。この画像復号化
装置2000aは、上記画像符号化装置1000aから
出力された多重ビットストリームM1aに対して、復号
化処理及び表示処理を含む再生処理を行う構成となって
いる。
は、上記実施の形態1における画像復号化装置2000
のデータ分離器2110に代えて、上記多重ビットスト
リームM1aから、画像符号化データCgn,復号周期
識別子DEf,復号周期データDEp,及びフレーム番
号データBnあるいは復号時間データDEtnを取り出
して出力するデータ分離器(DEMUX)2110aを
備えている。
上記復号周期識別子DEfに基づいて、上記復号周期デ
ータDEpを導通させる導通状態と該復号周期データD
Epを遮断する遮断状態との間で切り替わる第1の開閉
スイッチ2140aと、上記復号周期識別子DEfに基
づいて、上記フレーム番号データBnを導通する導通状
態と該フレーム番号データBnを遮断する遮断状態との
間で切り替わる第2の開閉スイッチ2150aと、上記
復号周期識別子DEfに基づいて、上記復号時刻データ
DEtnを導通する導通状態と該復号時刻データDEt
nを遮断する遮断状態との間で切り替わる第3の開閉ス
イッチ2160aとを有ししている。
第1の開閉スイッチ2140aの出力である復号周期デ
ータDEp、及び第3の開閉スイッチ2160aの出力
である復号時刻データDEtnが復号化器2120a及
び表示装置2130aに供給され、上記第2の開閉スイ
ッチ2150aの出力であるフレーム番号データBnが
表示装置2130aにのみ供給されるようになってい
る。
期が固定である画像符号化データCgnを、上記復号周
期データDEpに基づいて決まるタイミング(復号時刻
Dh(n))で各フレーム毎に復号化し、一方、復号周
期が可変である画像符号化データCgnを、上記復号時
刻データDEtnに基づいて決まるタイミング(復号時
刻Dh(n))で各フレーム毎に復号化する構成となっ
ている。
号周期が固定である画像復号化データRgを、上記復号
周期データDEpとフレーム番号データBnに基づいて
決まるタイミング(表示時刻h(n))で各フレーム毎
に表示し、一方、復号周期が可変である画像復号化デー
タRgを、上記復号時刻データDEtnに基づいて決ま
るタイミング(表示時刻h(n))で各フレーム毎に表
示する構成となっている。
号化装置2000と同一である。以下、上記実施の形態
1の変形例による画像復号化装置2000aの動作につ
いて簡単に説明する。このような構成の画像復号化装置
2000aでは、上記多重ビットストリームM1aが入
力されると、データ分離器2110aにて、画像符号化
データCgn,復号周期識別子DEf,復号周期データ
DEp,及びフレーム番号データBnあるいは復号時間
データDEtnが分離される。
れた画像復号化信号の復号周期が固定であるときは、画
像符号化データCgnが、上記復号周期データDEpに
基づいて決まるタイミング(復号時刻Dh(n))で各
フレーム毎に復号化され、該復号化器2120aから出
力された画像復号化データRgは、上記復号周期データ
DEpとフレーム番号データBnに基づいて決まるタイ
ミング(表示時刻h(n))で各フレーム毎に表示され
る。
期が可変であるときは、画像符号化データCgnが、上
記復号時刻データDEtnに基づいて決まるタイミング
(復号時刻Dh(n))で各フレーム毎に復号化され、
該復号化器2120aから出力された画像復号化データ
Rgは、上記復号時刻データDEtnに基づいて決まる
タイミング(表示時刻h(n))で各フレーム毎に表示
される。
記実施の形態1の同様、画像信号を符号化して得られる
画像符号化信号を、各フレームに対応する画像復号化処
理の周期が可変であるか否かを示す復号周期識別子DE
fを含む構成としたので、各フレームに対する画像復号
化処理の周期が固定である場合に、簡単な回路構成によ
り、つまり各フレーム毎に情報量(ビット数)の多い復
号時刻データDEtnを参照することなく、復号周期デ
ータDEpにのみ基づいて画像符号化データの復号化処
理を行うことができるといった効果がある。
号化装置では、画像符号化信号に含まれる各フレームに
対する復号化処理のタイミングを決定するためのデータ
に基づいて、各フレームの復号化処理とともに、各フレ
ームの画像表示を行うものを示したが、上記画像復号化
装置は、画像符号化信号に含まれる各フレームに対する
表示処理のタイミングを決定するためのデータに基づい
て、各フレームの表示処理とともに、各フレームの復号
化処理を行うものであってもよい。
号化処理が行われる復号タイミングは、復号化処理の対
象となる対象フレームを含む複数のフレームの表示タイ
ミングデータに基づいて設定する。つまり、上記対象フ
レームの復号タイミングを、該対象フレームの表示タイ
ミングデータ及びその次にデータが伝送されてくる次フ
レームの表示タイミングデータに基づいて、該両フレー
ムのうちの早い方の表示タイミングより所定のオフセッ
ト時間だけ早いタイミングに設定する。
フレームの表示タイミングが、この対象フレームの次に
データが伝送されてくる次フレームの表示タイミングよ
り早いときは、上記オフセット時間を対象フレームに対
する復号化処理に要する時間以上の大きさに設定する。
一方、復号化処理の対象となる対象フレーム(例えばP
−VOP)の表示タイミングより、この対象フレームの
次にデータが伝送されてくる次フレーム(例えばB−V
OP)の表示タイミングの方が早いときは、上記オフセ
ット時間を対象フレームに対する復号化処理に要する時
間と、次フレームに対する復号化処理に要する時間の合
計時間以上の大きさに設定する。
の形態2による、フレーム表示周期が一定である画像符
号化信号120aのデータ構造を示している。上記画像
符号化信号120aは、1つの画像(MPEG4では1
つのオブジェクトに対応する画像)に対応する、フレー
ム表示周期が固定である画像信号を符号化して得られる
ものであり、先頭のヘッダHに続いて、各フレームF
(0),F(1),F(2),・・・,F(n)に対応
する符号列Sc0,Sc1,Sc2,・・・,Scnを
伝送順に配列した構造となっている。この画像符号化信
号120aでは、ヘッダH内に、フレーム表示周期が固
定であるか否かを示す表示周期識別子Df、フレーム表
示周期が微小単位時間(1/N)のM(自然数)倍であ
ることを該乗数Mにより示す表示周期乗数データDm、
及び上記微小単位時間(1/N)を求めるための値N
(自然数)を示す微小単位時間データDkが挿入され、
各フレームの符号列Sc0,Sc1,Sc2,・・・,
Scnの先頭に、そのフレームの表示時刻y’0,y’
3,y’1,・・・,y’n’(図17(a)参照)を示
す表示時刻データDy0,Dy1,Dy2,・・・,D
ynが挿入されている。なお、上記画像符号化信号12
0aのヘッダH内では、微小単位時間データDk,表示
周期識別子Df,及び表示周期乗数データDmがこの順
序で伝送されるよう配列されている。
1,Sc2,・・・,Scnには、上記表示時刻データ
Dy0,Dy1,Dy2,・・・,Dynに続いて、画
像符号化データCg0,Cg1,Cg2,・・・,Cg
nが挿入されている。
刻をxとすると(図17(a) 参照)、VOP0,VOP
3,VOP1,・・・に対応する各フレームF(0),
F(1),F(2),・・・の表示時刻h(0),h(1),
h(2),・・・は、表示時刻データDy0,Dy1,D
y2,・・・に基づいて、x+y/N(y=y’0,
y’3,y’1,・・・)として求めることができる。
は、微小単位時間データDkと表示周期乗数データDm
が含まれているため、上記表示時刻データDy0,Dy
1,Dy21,・・・を用いなくても、微小単位時間デ
ータDkから得られる微小単位時間(1/N)と表示周
期乗数データDmから得られるM(自然数)の値とか
ら、フレームの表示周期T(=M×1/N)を求め、基
準時刻xにより決まる本来の各フレームF(n)の表示
時刻h(n)(=x+y×M×1/N)に各フレームの
画像を表示することができる。
る、フレーム表示周期が可変である画像符号化信号12
0bのデータ構造を示している。この画像符号化信号1
20bは、上記画像符号化信号120aにおけるヘッダ
部分Hの表示周期乗数データDmを取り除いたデータ構
造となっている。
aあるいは120bを生成する画像信号の符号化処理、
及びその復号化処理について説明する。図8は上記符号
化処理のフローを示す図である。まず、上記符号化処理
では、入力された所定の画像に対応する画像信号に対応
するビットストリームのヘッダ部に上記微小単位時間デ
ータDkが付加され(ステップS30)、さらに、該所
定の画像に対応する画像信号の表示周期が固定であるか
否かの判定が行われる(ステップS31)。この判定の
結果、表示周期が固定である場合は、上記画像信号の表
示周期が固定であることを示す表示周期固定識別子Df
が、上記ビットストリームのヘッダに、上記微小単位時
間データDkに続くよう付加され(ステップS32)、
さらに上記表示周期乗数データDmが上記ヘッダに上記
表示周期固定識別子Dfに続くよう付加される(ステッ
プS33)。その後、上記所定の画像を構成する各フレ
ームF(n)の伝送順序を示す番号nに相当するカウン
タ値nがn=0にセットされる(ステップS35)。
ムF(0)に対応する符号列として、対応するフレーム
の表示時刻データDyn(=Dy0)及び画像符号化デ
ータDgn(=Cg0)が順次上記ヘッダHに付加され
る(ステップS36,S37)。その後、上記画像信号
における処理対象フレームが、上記伝送順序における最
終のフレームであるか否かの判定が行われ(ステップS
38)、処理対象フレームが最終フレームでなければ、
上記伝送順序がn番目であるフレームF(n)(=F
(0))に対応するカウンタ値nが1つインクリメント
されて(ステップS39)、続くフレームF(n+1)
(=F(1))に対して、上記ステップS36〜S39
における処理が行われる。
は、ステップS38にて処理対象フレームが最終フレー
ムであると判定されるまで繰り返し行われる。これによ
り上記画像符号化信号120aが生成される。
果、表示周期が可変である場合は、上記画像信号の表示
周期が可変であることを示す表示周期可変識別子Df
が、上記画像信号に対応するビットストリームのヘッダ
に、上記微小単位時間データDkに続くよう付加される
(ステップS34)。その後は、上記ステップS35〜
S39の処理が行われて、上記画像符号化信号120b
が生成される。
処理を行うハードウエアとしての画像符号化装置120
0の構成を示すブロック図である。上記実施の形態2に
おける画像符号化装置1200は、上記実施の形態1の
画像符号化装置1000と同様、入力される画像信号S
gを符号化して符号化データCgnを生成する符号化器
1110と、上記入力される画像信号Sgに基づいて、
フレームの表示周期が一定であるか否か(つまり、表示
周期が固定であるか可変であるか)を判定して、表示周
期が一定であるか否かを示す表示周期識別子Dfを出力
する判定器1131とを有している。
入力された画像信号Sgに基づいて、微小単位時間デー
タDkを生成する微小単位時間データ生成器(第1のデ
ータ生成器)1232と、上記入力された画像信号Sg
に基づいて、フレーム表示周期を微小単位時間を単位と
して表現するための数値Mを示す表示周期乗数データD
mを生成する表示周期乗数データ生成器(第2のデータ
生成器)1233と、上記入力された画像信号Sgに基
づいて、各フレームの表示時刻h(n)を示す表示時刻
データ(表示タイミングデータ)Dynを生成する表示
時刻データ生成器(第3のデータ生成器)1234とを
有している。
上記判定器1131からの表示周期識別子Dfに基づい
て、上記表示周期乗数データDmを導通させる導通状態
と該表示周期乗数データDmを遮断する遮断状態との間
で切り替わる開閉スイッチ1241を有している。
上記第1のデータ生成器1232からの微小単位時間デ
ータDk,上記判定器1131からの表示周期識別子D
f,上記開閉スイッチ1241からの表示周期乗数デー
タDm,第3のデータ生成器1234からの表示時刻デ
ータDyn,及び上記符号化器1110からの画像符号
化データCgnを多重化して多重ビットストリームM2
を生成する多重化器(MUX)1220を有しており、
該多重ビットストリームM2を上記画像符号化信号12
0aあるいは画像符号化信号120bとして出力する構
成となっている。
動作について説明する。まず、上記画像符号化装置12
00に所定の画像に対応する画像信号Sgが入力される
と、上記判定器1131では、該画像信号Sgの表示周
期が可変である否かの判定が行われ、判定結果を示す表
示周期識別子Dfが出力される。このとき、上記画像信
号Sgに基づいて、第1〜第3のデータ生成器1232
〜1234では、それぞれ上記微小単位時間データD
k,表示周期乗数データDm,及び表示時刻データDy
nが生成され、上記符号化器1110では、上記画像信
号Sgが符号化されて画像符号化データCgnとして出
力される。
k,表示周期識別子Df,表示時刻データDyn及び画
像符号化データCgnは常に多重化器1220に出力さ
れ、上記表示周期乗数データDmは、表示周期識別子D
fにより導通状態となった開閉スイッチ1241を介し
て多重化器1220に出力される。
に対応する画像表示の周期が固定である画像信号が入力
されたとき、上記微小時間データDk,表示周期識別子
Df,表示周期乗数データDm、並びに、各フレームに
対応する表示時刻データDtn及び画像符号化データC
gnが上記多重化器1220に出力される。すると、該
多重化器1220では、上記微小単位時間データDk、
表示周期識別子Df、表示周期乗数データDm、画像符
号化データCgn、及び表示時刻データDynが多重化
されて、多重ビットストリームM2として画像符号化信
号120aが出力される。
ムに対応する画像表示の周期が可変である画像信号が入
力されたときは、上記開閉スイッチ1241は表示周期
識別子Dfにより遮断状態となり、上記微小単位時間デ
ータDf及び表示周期識別子Dfとともに、上記各フレ
ームの表示時刻データDyn及び画像符号化データCg
nが上記多重化器1220に出力される。すると該多重
化器1220では、上記微小単位時間データDf及表示
周期識別子Dfとともに、各フレームの表示時刻データ
Dyn及び画像符号化データCgnが多重化されて、多
重ビットストリームM2として画像符号化信号120b
が出力される。
信号データ構造を有する画像符号化信号を復号化する復
号化処理について説明する。図10は上記実施の形態2
における復号化処理のフローを示す図である。まず、復
号化処理では、符号化側から送られてくる多重ビットス
トリームM2(画像符号化信号120aあるいは120
b)における微小単位時間データDkが読み込まれ(ス
テップS40)、さらに表示周期識別子Dfの検出によ
り、該画像符号化信号の表示周期が固定であるか否かが
判定される(ステップS41)。この判定の結果、表示
周期が固定であると判定されれば、画像符号化信号のヘ
ッダ部分Hから、表示周期Tが微小単位時間(1/N)
のM(自然数)倍であることを該乗数Mにより示す表示
周期乗数データDmが読込まれ(ステップS42a)、
続いて、上記読み込まれた微小単位時間データDk及び
表示周期乗数データDmに基づいて、フレーム表示周期
Tが演算T=(1/N)×Mにより求められる(ステッ
プS43a)。
(n’)の、先頭フレームからの順番n′に相当するカ
ウント値n′が0にセットされ(ステップS44a)、
各フレームF’(n’)の表示時刻h’(n’)が計算
式h’(n’)=n’×Tにより求められる(ステップ
S45a)。なおこのとき、伝送順に各フレームF
(n)に対応する画像符号化データCgnの復号化処理
が行われ、フレームF(n)に対応する画像復号化デー
タRgが生成される。
フレームF’(n’)が上記所定の画像における最後の
フレームであるか否かが判定され(ステップS46
a)、処理対象フレームが最後のフレームであれば復号
化処理が終了し、最後のフレームでなければ、上記カウ
ンタ値n’が1つインクリメントされ(ステップS47
a)、上記ステップS45a〜47aの処理が、上記ス
テップS46aにて処理対象フレームが最終フレームで
あると判定されるまで繰り返し行われる。
れた各フレームF’(n’)に対応する画像復号化デー
タRgは、所定の表示順序n’で、対応する表示時刻
h’(n’)に表示される。
が可変であると判定されれば、伝送順における各フレー
ムF(n)の順番nに相当するカウント値nが0にセッ
トされる(ステップS42b)。続いて、各フレームF
(n)のヘッダ部分HからこのフレームF(n)の表示
時刻h(n)を示す表示時刻データDynが読込まれ(ス
テップS43b)、さらにこの表示時刻データDynに
基づいて各フレームF(n)の表示時刻h(n)が求めら
れる(ステップS44b)。なおこのとき、伝送順に各
フレームF(n)に対応する画像符号化データCgnの
復号化処理が行われる。
フレームF(n)が上記所定の画像における最後のフレ
ームであるか否かが判断され(ステップS44b)、該
処理対象フレームが最後のフレームであれば復号化処理
が終了する。一方、上記処理対象フレームが最後のフレ
ームでなければ、この復号化処理におけるカウント値n
が1つインクリメントされ(ステップS46b)、その
後、上記ステップS42b〜ステップS46bの処理
が、ステップS45bにて処理対象フレームが最後のフ
レームであると判定されるまで行われる。
各フレームF(n)に対応する画像復号化データRg
は、所定の表示順序n’で、該各フレームF(n)に対
応する表示時刻h(n)に表示される。
理を行うハードウエアとしての画像復号化装置の構成を
示すブロック図である。この画像復号化装置2200
は、上記画像符号化装置2000から出力された画像符
号化信号120aあるいは120bである多重ビットス
トリームM2を復号化して再生する構成となっている。
は、上記多重ビットストリームM2から、微小単位時間
データDk,表示周期識別子Df,表示周期乗数データ
Dm,表示時刻データDyn,及び画像符号化データC
gnを取り出して出力するデータ分割器(DEMUX)
2210と、上記画像符号化データCgnを復号化して
画像復号化データRgを出力する復号化器2220とを
有している。
記表示周期識別子Dfに基づいて、上記表示周期乗数デ
ータDmを導通させる導通状態と該データDmを遮断す
る遮断状態との間で切り替わる第1の開閉スイッチ22
40と、上記表示周期識別子Dfに基づいて、上記表示
時刻データDynを導通させる導通状態とこのデータD
ynを遮断する遮断状態との間で切り替わる第2の開閉
スイッチ2250とを有している。
上記微小単位時間データDk及び画像復号化データRg
とともに各スイッチ2240及び2250を介して表示
周期乗数データDm及び表示時刻データDtyを受け、
これらのデータ基づいて所定の表示タイミングで画像表
示する表示装置2230を有している。
動作について説明する。
記画像符号化装置1200からの多重ビットストリーム
M2が入力されると、データ分離器2210にて、上記
多重ビットストリームM2から微小単位時間データD
k,表示周期識別子Df及び表示周期乗数データDmが
分離され、さらに各フレーム毎に上記多重ビットストリ
ームM2から表示時刻データDyn及び画像符号化デー
タCgnが分離される。
gnは復号化器2220にて復号化されて画像復号化デ
ータRgとして表示装置2230に出力される。このと
き、上記微小単位時間データDkは直接上記表示装置2
230に出力され、上記表示周期乗数データDmは、表
示周期識別子Dfにより開閉される第1の開閉スイッチ
2240を介して表示装置2230に出力され、各フレ
ームの表示時刻データDynは、表示周期識別子Dfに
より開閉される第2の開閉スイッチ2250を介して上
記表示装置2230に出力される。ここでは、上記多重
ビットストリームM2が表示周期が固定である画像符号
化信号120aであるときは、上記第1,第2の開閉ス
イッチ2240,2250は導通状態となり、上記多重
ビットストリームM2が表示周期が可変である画像符号
化信号120bであるときは、上記第1,第2の開閉ス
イッチ2240,2250は遮断状態となる。
表示周期が固定である画像復号化データRgに対応する
各フレームの画像は、微小単位時間データDk及び表示
周期乗数データDmに基づいて所定の表示タイミングで
表示される。この場合は、各フレームの表示タイミング
は、演算式T×n’(T=(1/N)×M)により決定
される表示時刻h’(n)’=となる。一方、表示周期が
可変である画像復号化データRgに対応するフレームの
画像は、表示時刻データDtyに基づいて所定の表示タ
イミングで表示される。この場合は、所定の表示タイミ
ングは、表示時刻データDtyにより決定される表示時
刻h(n)となる。
化信号を、各フレームに対応する表示周期が可変である
か否かを示す表示周期識別子Dfに加えて、所定の時間
間隔をN(自然数)等分して得られる微小単位時間(1
/N)の大きさを、該自然数Nにより示す微小単位時間
データDkと、上記固定のフレーム表示周期Tを、これ
が微小単位時間(1/N)の何倍(M)に相当するかに
より示す表示周期乗数データDmとを含むデータ構造と
したので、フレームレートが固定である画像符号化信号
のフレームレートの値(大きさ)を、各フレームのデコ
ード処理を行う前に予め検出することができ、表示処理
を実現するための種々のハードウエア構成を簡単なもの
とすることができるといった効果がある。
の各フレームに対する再生処理のタイミングを決定する
ための付加データとして、各フレームの表示タイミング
を設定するための微小単位時間データDn,表示周期識
別子Df,表示周期乗数データDm,及び表示時刻デー
タDynを含む画像符号化信号のデータ構造について示
したが、画像符号化信号のデータ構造は、上記各フレー
ムの表示タイミングに代えて、各フレームの復号化処理
のタイミングを決定する付加データ,つまり微小単位時
間データ,復号周期識別子,復号周期乗数データ,及び
復号時刻データを含むものであってもよく、以下このよ
うなデータ構造を実施の形態2の変形例として説明す
る。
2の変形例のデータ構造は、実施の形態2の画像符号化
信号120aにおける表示周期識別子Df及び表示周期
乗数データDpを、復号周期識別子DEf及び復号周期
乗数データDEpに置き換え、実施の形態2の画像符号
化信号120bにおける表示時刻データDynを、復号
時刻データDEynに置き換えたものである。
フレームに対応する、画像符号化信号を復号化する復号
化処理の周期が可変であるか否かを示すものであり、復
号化処理の周期DTが固定である画像符号化信号には復
号化周期固定識別子として、復号化処理の周期DTが可
変である画像符号化信号には復号化周期可変識別子とし
て挿入される。
各フレームに対応する復号化処理の周期DTを上記微小
単位時間(1/N)の乗数値Mにより、つまり該周期が
微小単位時間の何倍(M)に相当するかにより示すデー
タであり、上記復号時刻データDEynは、各フレーム
に対応する復号化処理が行われるタイミングを示すデー
タである。
を有する画像符号化信号を生成する符号化処理は、図8
に示すフローにおけるステップS31,S32,S3
3,S34,S36の処理を以下のように置き換えるこ
とにより実現できる。
の判定処理を、復号周期が固定であるか否かを判定する
処理に置き換え、ステップS32,S34における表示
周期固定識別子Df,表示周期可変識別子Dfを付加す
る処理を、それぞれ復号周期固定識別子DEf,復号周
期可変識別子DEfを付加する処理に置き換える。さら
にステップS33における表示周期乗数データDmを付
加する処理を、上記復号周期乗数データDEmを付加す
る処理に置き換え、ステップS36における表示時刻デ
ータDynを付加する処理を、上記復号時刻データDE
ynを付加する処理に置き換える。
形例の符号化処理を行うハードウエアとしての画像符号
化装置1200aの構成を示している。この画像符号化
装置1200aでは、上記実施の形態2における画像符
号化装置1200の判定器1131に代えて、上記入力
される画像信号Sgに基づいて、フレームに対応する復
号化処理の周期が一定であるか否か(つまり、復号周期
が固定であるか可変であるか)を判定して、復号周期が
一定であるか否かを示す復号周期識別子DEfを出力す
る判定器1131aを備えている。
上記実施の形態2の画像符号化装置1200における表
示周期乗数データ生成器1233と表示時刻データ生成
器1234に代えて、それぞれ、上記入力された画像信
号Sgに基づいて、フレームの復号化処理の周期をこれ
が上記微小単位時間(1/N)の何倍に相当するかを示
す乗数値Mとしての復号周期乗数データDEmを生成す
る復号周期乗数データ生成器(第2のデータ生成器)1
233aと、上記入力された画像信号Sgに基づいて、
各フレームF(n)の復号時刻Dh(n)を示す復号時刻
データDEynを生成する復号時刻データ生成器(第3
のデータ生成器)1234aとを備えたものである。
は、その多重化器1220aは、上記微小単位時間デー
タDk,復号周期乗数データDEm,及び復号時刻デー
タDEtyを各フレームF(n)の画像符号化データC
gnと多重化し、復号処理の周期が固定である画像符号
化信号,あるいは復号周期が可変である画像符号化信号
を、多重ビットストリームM2aとして出力する構成と
なっている。その他の構成は上記実施の形態2の画像符
号化装置1200と同様である。
よる画像符号化装置1200aの動作を説明する。この
ような構成の画像符号化装置1200aでは、画像信号
Sgが入力されると、上記判定器1131aでは、該画
像信号Sgの復号周期が可変である否かの判定が行われ
て、判定結果を示す復号周期識別子DEfが出力され、
また、第1のデータ生成器1232aでは上記微小単位
時間データDkが、第2,第3のデータ生成器1233
a,1234aでは、復号周期乗数データDEm,復号
時刻データDEynがそれぞれ生成され、上記符号化器
1110では、上記画像信号Sgが符号化されて画像符
号化データCgnとして出力される。
は、上記判定器1231aからの復号周期識別子DE
f,上記符号化器1110からの符号化データCgn,
及第1,第3のデータ生成器1232,1234aから
のデータDk,DEynが入力されるとともに、第2の
データ生成器1233aからの復号周期乗数データDE
mが開閉スイッチ1241aを介して入力される。する
と、該多重化器1220aからは、これらのデータが多
重化され、復号周期が固定である画像符号化信号、ある
いは復号周期が可変である画像符号化信号が、上記多重
ビットストリームM2aとして出力される
を有する画像符号化信号を復号化する復号化処理は、図
10に示すフローにおける所定ステップS41,S42
a,S43b,S44a,S44b,S45a,S47
aの処理を以下のように置き換えることにより実現でき
る。
周期の判定処理を、復号周期が固定であるか否かを判定
する処理に置き換え、ステップS42aにおける表示周
期乗数データDmを読み込む処理を、上記復号周期乗数
データDEmを読み込む処理に置き換え、ステップ43
bにおける表示時刻h(n)を示すデータDynを読み込
む処理を、上記復号時刻Dh(n)を示すデータDEyn
を読み込む処理に置き換える。
タDynに基づいて表示時刻h(n)を求める処理を、デ
ータDEynに基づいて復号時刻Dh(n)を求める処理
に置き換え、ステップS44aにおける、表示順にカウ
ントされる各フレームF’(n’)の、先頭フレームか
らの順番n′に相当するカウント値n′が0にセットさ
れる処理を、伝送順にカウントされる各フレームF
(n)の、先頭フレームからの順番nに相当するカウン
ト値nが0にセットされる処理に置き換える。
レームF’(n’)の表示時刻h’(n’)が計算式
h’(n’)=n’×Tにより求められる処理を、各フ
レームF(n)の復号時刻Dh(n)が復号周期DTと
そのフレームの伝送順位を示す番号nとによりDh
(n)=n×DTにより求められる処理に置き換え、ス
テップS47aにおけるカウント値n′がインクリメン
トされる処理を、カウント値nがインクリメントされる
処理に置き換える。
変形例の復号化処理を行うハードウエアとしての画像復
号化装置2200aの構成を示している。この画像復号
化装置2200aは、上記画像符号化装置1200aか
ら出力された多重ビットストリームM2aに対して、復
号化処理及び表示処理を含む再生処理を行う構成となっ
ている。
は、上記実施の形態2における画像復号化装置2200
のデータ分離器2210に代えて、上記多重ビットスト
リームM2aから、微小単位時間データDk,復号周期
識別子DEf,復号周期乗数データDEm,復号時刻デ
ータDEyn,及び画像符号化データCgnを取り出し
て出力するデータ分離器(DEMUX)2210aを備
えている。
上記実施の形態2の画像復号化装置2200における第
1,第2の開閉スイッチ2240,2250に代えて、
復号周期乗数データDEmの導通,非導通を復号周期識
別子DEgに基づいて制御する第1の開閉スイッチ22
40aと、復号時刻データDEynの導通,非導通を復
号周期識別子DEgに基づいて制御する第2の開閉スイ
ッチ2250aとを備えている。
は、データ分離器2210aからの微小単位時間データ
Df、第1,第2のスイッチ2240a,2250aの
出力である復号周期乗数データDEm,復号時刻データ
DEynが、復号化器2220a及び表示装置2230
aに供給されるようになっている。
定である各フレームF(n)の画像符号化データCgn
を、上記微小単位時間データDk及び復号周期乗数デー
タDEmに基づいて決まるタイミング(復号時刻Dh
(n)=DT×n)で各フレーム毎に復号化し、復号周期
が可変である各フレームF(n)の画像符号化データC
gnを、上記復号時刻データDEynに基づいて決まる
タイミング(復号時刻Dh(n))で各フレーム毎に復号
化する構成となっている。
期が固定である各フレームF(n)の画像復号化データ
Rgを、上記微小単位時間データDk及び復号周期乗数
データDEmに基づいて決まるタイミング(表示時刻h
(n))で表示し、復号周期が可変である各フレームF
(n)の画像復号化データRgを、上記復号時刻データ
DEynに基づいて決まるタイミング(表示時刻h
(n))で表示する構成となっている。その他の構成は上
記実施の形態2の画像復号化装置2200と同一であ
る。
よる画像復号化装置2200aの動作について説明す
る。このような構成の画像復号化装置2200aでは、
上記多重ビットストリームM2aが入力されると、デー
タ分離器2210aにて、微小単位時間データDk,復
号周期乗数データDEm,復号周期識別子DEf,復号
時刻データDEyn,及び画像符号化データCgnが分
離される。
力された画像符号化信号の復号周期が固定であるとき
は、画像符号化データCgnが、上記微小単位時間デー
タDk及び復号周期乗数データDEm及びに基づいて決
まるタイミングで各フレーム毎に復号化され、入力され
た画像復号化信号の復号周期が可変であるときは、画像
符号化データCgnが、上記復号時刻データDEynに
基づいて決まるタイミング(復号時刻Dh(n))で各フ
レーム毎に復号化される。ここで復号周期が固定である
画像符号化信号の復号時刻は、伝送順序を示す番号nと
復号周期DT=(1/N)×M)との積により決まり、
復号周期が可変である画像符号化信号の復号時刻は、復
号周期データDEynにより決まる。
号周期が固定である画像復号化データRgに対応する各
フレームF(n)の画像は、微小単位時間データDk及
び復号周期乗数データDEmに基づいて所定の表示タイ
ミングで表示され、一方、復号周期が可変である画像復
号化データRgに対応するフレームF(n)の画像は、
復号時刻データDEtyに基づいて所定の表示タイミン
グで表示される。
記実施の形態2の同様、画像信号を符号化して得られる
画像符号化データCgnを、各フレームに対応する画像
復号化処理の周期が可変であるか否かを示す復号周期識
別子DEf,固定の復号周期を表す微小単位時間データ
Dk及び復号周期乗数データDEm,並びに復号時刻を
示す復号時刻データDEynを含む構成としたので、各
フレームに対する画像復号化処理の周期が固定である場
合には、簡単な回路構成により、つまり各フレーム毎に
情報量(ビット数)の多い復号時刻データDEynを参
照することなく、1つの画像に対応する微小単位時間デ
ータDk及び情報量(ビット数)の少ない復号周期乗数
データDEmのみに基づいて画像符号化信号の復号化処
理を簡単に行うことができる。
の周期が可変である場合には、従来と同様に、各フレー
ム毎に復号時刻データDEynを参照して画像符号化信
号の復号化処理を行うことができるといった効果があ
る。
号化装置2200aでは、画像符号化信号に含まれる各
フレームに対する復号化処理のタイミングを決定するた
めのデータに基づいて、各フレームの復号化処理ととも
に、各フレームの画像表示を行うものを示したが、この
画像復号化装置は、画像符号化信号に含まれる各フレー
ムに対する表示処理のタイミングを決定するためのデー
タに基づいて、各フレームの表示処理とともに、各フレ
ームの復号化処理を行うものであってもよい。
号化処理が行われる復号タイミングは、復号化処理の対
象となる対象フレームを含む複数のフレームの表示タイ
ミングデータに基づいて設定する。つまり、上記対象フ
レームの復号タイミングを、該対象フレームの表示タイ
ミングデータ及びその次にデータが伝送されてくる次フ
レームの表示タイミングデータに基づいて、該両フレー
ムのうちの早い方の表示タイミングより所定のオフセッ
ト時間だけ早いタイミングに設定する。
フレームの表示タイミングが、この対象フレームの次に
データが伝送されてくる次フレームの表示タイミングよ
り早いときは、上記オフセット時間を対象フレームに対
する復号化処理に要する時間以上の大きさに設定する。
一方、復号化処理の対象となる対象フレーム(例えばP
−VOP)の表示タイミングより、この対象フレームの
次にデータが伝送されてくる次フレーム(例えばB−V
OP)の表示タイミングの方が早いときは、上記オフセ
ット時間を対象フレームに対する復号化処理に要する時
間と、次フレームに対する復号化処理に要する時間の合
計時間以上の大きさに設定する。
で示した画像符号化装置あるいは画像復号化装置による
画像処理をソフトウエアにより行うための符号化処理プ
ログラムあるいは復号化処理プログラムを、フロッピー
ディスク等のデータ記憶媒体に記録するようにすること
により、上記各実施の形態で示した処理を、独立したコ
ンピュータシステムにおいて簡単に実現することが可能
となる。
例の符号化処理あるいは復号化処理を、上記符号化処理
プログラムあるいは復号化処理プログラムを格納したフ
ロッピーディスクを用いて、コンピュータシステムによ
り実施する場合を説明するための図である。図12(a)
は、フロッピーディスクの正面からみた外観、断面構
造、及びフロッピーディスク本体を示し、図12(b)
は、該フロッピーディスク本体の物理フォーマットの例
を示している。
ッピーディスク本体DをフロッピーディスクケースFC
内に収容した構造となっており、該フロッピーディスク
本体Dの表面には、同心円状に外周からは内周に向かっ
て複数のトラックTrが形成され、各トラックTrは角
度方向に16のセクタSeに分割されている。従って、
上記プログラムを格納したフロッピーディスクFDで
は、上記フロッピーディスク本体Dは、その上に割り当
てられた領域(セクタ)Seに、上記プログラムとして
のデータが記録されたものとなっている。
FDに対する上記プログラムの記録、及びフロッピーデ
ィスクFDに格納したプログラムを用いたソフトウエア
による画像処理を行うための構成を示している。
に記録する場合は、コンピュータシステムCsから上記
プログラムとしてのデータを、フロッピーディスクドラ
イブFDDを介してフロッピーディスクFDに書き込む。
また、フロッピーディスクFDに記録されたプログラム
により、上記画像符号化装置あるいは画像復号化装置を
コンピュータシステムCs中に構築する場合は、フロッ
ピーディスクドライブFDDによりプログラムをフロッピ
ーディスクFDから読み出し、コンピュータシステムC
sにロードする。
てフロッピーディスクを用いて説明を行ったが、光ディ
スクを用いても上記フロッピーディスクの場合と同様に
ソフトウェアによる符号化処理あるいは復号化処理を行
うことができる。また、データ記憶媒体は上記光ディス
クやフロッピーディスクに限るものではなく、ICカー
ド、ROMカセット等、プログラムを記録できるもので
あればどのようなものでもよく、これらのデータ記録媒
体を用いる場合でも、上記フロッピーディスク等を用い
る場合と同様にソフトウェアによる符号化処理あるいは
復号化処理を実施することができる。
憶媒体に格納された画像符号化信号を、本実施の形態
1,2あるいはこれらの変形例の画像信号データ構造と
することにより、上記フロッピーディスクからの画像符
号化信号を復号化して画像表示する際には、フレーム表
示周期あるいは復号化処理の周期が固定の場合に簡単な
回路構成により、画像符号化信号の復号化処理及び表示
処理を含む再生処理を行うことができる。
方法によれば、複数のフレームに対応する画像信号を符
号化する画像符号化方法であって、前記画像信号を符号
化して画像符号化データを生成し、前記画像信号に含ま
れる全てのフレームの画像表示間隔が固定であるか可変
であるかを示す表示周期識別子を生成し、前記表示周期
識別子が前記画像表示間隔が固定であることを示す場
合、前記画像表示間隔を示す表示周期データを生成し、
生成した前記表示周期データと前記表示周期識別子と前
記画像符号化データとを多重化して画像符号化信号を生
成し、前記表示周期識別子が前記画像表示間隔が可変で
あることを示す場合、前記複数のフレームの表示タイミ
ングを示す表示タイミングデータを生成し、生成した表
示タイミングデータと前記表示周期識別子と前記画像符
号化データとを多重化した画像符号化信号であって、前
記表示タイミングデータが前記複数のフレームのそれぞ
れに付随した画像符号化信号を生成することを特徴とす
るので、各フレームに対する表示処理の周期が可変であ
る画像信号と、フレームの表示処理の周期が固定である
画像信号とを、それぞれの画像信号に応じた、各フレー
ムの表示タイミングを示すデータを付加して符号化する
ことができる。これによりフレームの表示周期が固定で
ある場合に、表示時刻を定めるのに要するビット数を削
減することができ、しかも、フレームの表示周期が可変
である画像の表示処理を従来と同様に行うことが可能と
なる。
データ構造を、フレーム表示周期が固定である場合(図
(a) )とフレーム表示周期が可変である場合(図(b) )
とを対比して示す図である。
である画像符号化信号に基づいた画像表示の様子を示す
図である。
号を生成する符号化処理のフローを示す図である。
理を行う画像符号化装置の構成(図(a),図(b))を示す
ブロック図である。
号を復号化する復号化処理のフローを示す図である。
理を行う画像復号化装置の構成(図(a),図(b))を示す
ブロック図である。
応した画像符号化信号のデータ構造を、フレーム表示周
期が固定である場合(図(a))とフレーム表示周期が可
変である場合(図(b))とを対比して示す図である。
号を生成する符号化処理のフローを示す図である。
理を行う画像符号化装置の構成(図(a),図(b))を示す
ブロック図である。
信号を復号化する復号化処理のフローを示す図である。
処理を行う画像復号化装置の構成(図(a),図(b))を示
すブロック図である。
コンピュータシステムにより行うためのプログラムを格
納したデータ記憶媒体(図(a),(b))、及び上記コンピ
ュータシステム(図(c))を説明するための図である。
トのテーブルを示す図である。
号を説明するための概念図である。
データ伝送順序とデータ表示順序を対比させて示す図で
ある。
符号化信号に基づいた画像表示の様子を示す図である。
OP)の表示時刻の表現方法(図(a),(b))は、及びM
PEG4に対応した画像符号化信号の現状のデータ構造
(図(c))を説明するための図である。
信号 1000,1000a,1200,1200a 画像符
号化装置 1110 符号化器 1120,1120a,1220,1220a 多重化
器(MUX) 1131,1131a 判定器 1132 表示周期データ生成器(第1のデータ生成
器) 1132a 復号周期データ生成器(第1のデータ生成
器) 1133 番号データ生成器(第2のデータ生成器) 1134 表示時刻データ生成器(第3のデータ生成
器) 1134a 復号時刻データ生成器(第3のデータ生成
器) 1141,1241,1241a,2140 開閉スイ
ッチ 1142 選択スイッチ 1232 微小単位時間データ生成器(第1のデータ生
成器) 1233 表示周期乗数データ生成器(第2のデータ生
成器) 1233a 復号周期乗数データ生成器(第2のデータ
生成器) 1234 表示時刻データ生成器(第3のデータ生成
器) 1234a 復号時刻データ生成器(第3のデータ生成
器) 2000,2000a,2200,2200a 画像復
号化装置 2110,2110a,2220,2220a データ
分離器(DEMUX) 2120,2120a,2220,2220a 復号化
器 2130,2130a,2230,2230a 表示装
置 2140a,2240,2240a 第1の開閉スイッ
チ 2150a,2250,2250a 第2の開閉スイッ
チ 2160a 第3の開閉スイッチ Df 表示周期識別子 DEf 復号周期識別子 Dp 表示周期データ DEp 復号周期データ Dm 表示周期乗数データ DEm 復号周期乗数データ Dn 微小単位時間データ Dtn 表示時刻データ DEtn 復号時刻データ B0,B1,B2,Bn フレーム番号データ B(0)〜B(18),B(n) フレーム番号 Cg0,Cg1,Cg2,Cgn 画像符号化データ Dt0,Dt1,Dt2,Dtn 表示時刻データ Dy0,Dy1,Dy2,Dyn 表示時刻データ DEtn,DEtn′ 復号時刻データ F(0)〜F(18),F(n) フレーム F’(0)〜F’(18),F’(n’) フレーム H ヘッダ h(0)〜h(4),h’(0)〜h’(3),h(n),h’(n’)
表示時刻 M1,M1a,M2,M2a 多重ビットストリーム Rg 画像復号化データ Sg 画像信号 Sa0,Sa1,Sa2,San,Sb0,Sb1,S
b2,Sbn,Sc0,Sc1,Sc2,Scn 符号
列 t’(1)〜t’(4),t’(n’) 表示間隔
Claims (1)
- 【請求項1】 複数のフレームに対応する画像信号を符
号化する画像符号化方法であって、 前記画像信号を符号化して画像符号化データを生成し、 前記画像信号に含まれる全てのフレームの画像表示間隔
が固定であるか可変であるかを示す表示周期識別子を生
成し、 前記表示周期識別子が前記画像表示間隔が固定であるこ
とを示す場合、前記画像表示間隔を示す表示周期データ
を生成し、生成した前記表示周期データと前記表示周期
識別子と前記画像符号化データとを多重化して画像符号
化信号を生成し、 前記表示周期識別子が前記画像表示間隔が可変であるこ
とを示す場合、前記複数のフレームの表示タイミングを
示す表示タイミングデータを生成し、生成した表示タイ
ミングデータと前記表示周期識別子と前記画像符号化デ
ータとを多重化した画像符号化信号であって、前記表示
タイミングデータが前記複数のフレームのそれぞれに付
随した画像符号化信号を生成することを特徴とする画像
符号化方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001101253A JP3232080B2 (ja) | 1997-10-31 | 2001-03-30 | 画像符号化方法 |
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP30114897 | 1997-10-31 | ||
JP9-301148 | 1997-10-31 | ||
JP10-161096 | 1998-06-09 | ||
JP16109698 | 1998-06-09 | ||
JP2001101253A JP3232080B2 (ja) | 1997-10-31 | 2001-03-30 | 画像符号化方法 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP29843798A Division JP3232052B2 (ja) | 1997-10-31 | 1998-10-20 | 画像復号化方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001326933A JP2001326933A (ja) | 2001-11-22 |
JP3232080B2 true JP3232080B2 (ja) | 2001-11-26 |
Family
ID=27321792
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001101253A Expired - Lifetime JP3232080B2 (ja) | 1997-10-31 | 2001-03-30 | 画像符号化方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3232080B2 (ja) |
-
2001
- 2001-03-30 JP JP2001101253A patent/JP3232080B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2001326933A (ja) | 2001-11-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3232052B2 (ja) | 画像復号化方法 | |
JP3232080B2 (ja) | 画像符号化方法 | |
JP3232081B2 (ja) | 画像符号化方法 | |
JP3232082B2 (ja) | 画像復号化方法 | |
JP4343411B2 (ja) | 画像処理方法及び装置と再生方法とプログラム及び記憶媒体 | |
JP2001320706A (ja) | 画像符号化方法,画像符号化装置,及び記憶媒体 | |
JP2002359840A (ja) | 画像符号化方法及び画像符号化装置 | |
JP2002359841A (ja) | 画像復号化方法及び画像復号化装置 | |
JP4289753B2 (ja) | 再生方法及び装置と表示装置 | |
JP2000224581A (ja) | 放送受信装置及びその方法 | |
MXPA98009022A (en) | Structure of image signal data, image coding method and ima decoding method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080914 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080914 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090914 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090914 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100914 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110914 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120914 Year of fee payment: 11 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130914 Year of fee payment: 12 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |