JP2001320706A - 画像符号化方法,画像符号化装置,及び記憶媒体 - Google Patents

画像符号化方法,画像符号化装置,及び記憶媒体

Info

Publication number
JP2001320706A
JP2001320706A JP2001101256A JP2001101256A JP2001320706A JP 2001320706 A JP2001320706 A JP 2001320706A JP 2001101256 A JP2001101256 A JP 2001101256A JP 2001101256 A JP2001101256 A JP 2001101256A JP 2001320706 A JP2001320706 A JP 2001320706A
Authority
JP
Japan
Prior art keywords
image
cycle
data
frame
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2001101256A
Other languages
English (en)
Other versions
JP2001320706A5 (ja
Inventor
Takahiro Nishi
孝啓 西
Shinya Sumino
眞也 角野
Chun Sen Bun
チュン セン ブン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2001101256A priority Critical patent/JP2001320706A/ja
Publication of JP2001320706A publication Critical patent/JP2001320706A/ja
Publication of JP2001320706A5 publication Critical patent/JP2001320706A5/ja
Pending legal-status Critical Current

Links

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Time-Division Multiplex Systems (AREA)

Abstract

(57)【要約】 【課題】 フレームの表示周期が固定の場合に表示時刻
を定めるのに要するビット数を削減することができ、し
かも、フレームの表示周期が可変である画像の表示も従
来と同様に可能とする。 【解決手段】 入力される画像信号に基づいて、画像の
表示周期が可変である否かを示す表示周期識別子Dfを
生成する判定器1131を備え、表示周期が固定である
画像信号が入力されたとき、上記表示周期識別子Df、
画像表示の周期を示す表示周期データDp、フレームの
前後関係を示すフレーム番号データBnを画像符号化デ
ータCgnと多重化して出力し、画像表示の周期が可変
である画像信号が入力されたとき、表示周期識別子Df
及び各フレームF(n)の表示時刻h(n)を示す表示時
刻データDtnを、画像符号化データCgnと多重化し
て出力するようにした。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像符号化方法,
画像符号化装置,及び記憶媒体に関し、特に、画像の各
フレームに対応する復号化処理及び画像表示処理を含む
再生処理のタイミングに関する再生タイミングデータを
含む画像符号化信号を生成する符号化処理、並びに上記
符号化処理を行う装置をコンピュータにより実現するた
めの画像処理プログラムを格納したデータ記憶媒体に関
するものである。
【0002】
【従来の技術】近年、音声,画像,その他のデータを統
合的に扱うマルチメディア時代を迎え、従来からの情報
メディア,つまり新聞,雑誌,テレビ,ラジオ,電話等
の情報を人に伝達する手段がマルチメディアの対象とし
て取り上げられるようになってきた。一般に、マルチメ
ディアとは、文字だけでなく、図形、音声、特に画像等
を同時に関連づけて表すことをいうが、上記従来の情報
メディアをマルチメディアの対象とするには、その情報
をディジタル形式にして表すことが必須条件となる。
【0003】ところが、上記各情報メディアの持つ情報
量をディジタル情報量として見積もってみると、文字の
場合1文字当たりの情報量は1〜2バイトであるのに対
し、音声の場合1秒当たり64kbits(電話品質)、さ
らに動画については1秒当たり100Mbits(現行テレ
ビ放送品質)以上の情報量が必要となり、上記テレビ等
の情報メディアではその膨大な情報をディジタル形式で
そのまま扱うことは現実的ではない。例えば、テレビ電
話は、64kbps〜1.5Mbpsの伝送速度を持つサービス
総合ディジタル網(ISDN:Integrated Services Dig
ital Network)によってすでに実用化されているが、テ
レビ・カメラの映像をそのままISDNで送ることは不
可能である。
【0004】そこで、必要となってくるのが情報の圧縮
技術であり、例えば、テレビ電話の場合、ITU−T
(国際電気通信連合 電気通信標準化部門)で国際標準
化されたH.261規格の動画圧縮技術が用いられてい
る。また、MPEG1規格の情報圧縮技術によると、通
常の音楽用CD(コンパクト・ディスク)に音声情報と
ともに画像情報を入れることも可能となる。
【0005】ここで、MPEG(Moving Picture Exper
ts Group) とは、動画像に対する画像信号の圧縮伸長技
術に関する国際規格であり、MPEG1は、動画データ
を1.5Mbpsまで、つまりテレビ信号の情報を約100
分の1にまで圧縮する規格である。また、MPEG1規
格を対象とする伝送速度が主として約1.5Mbpsに制限
されていることから、さらなる高画質化の要求をみたす
べく規格化されたMPEG2では、動画データが2〜1
5Mbpsに圧縮される。
【0006】このように現在すでに実用化されているM
PEG1,2の規格に対応する、画像信号の圧縮伸長技
術では、基本的に各フレームに対する画像表示タイミン
グの間隔,つまりフレームレートとして、固定フレーム
レートのみを採用しているため、フレームレートは高々
数種類しかなく、このためMPEG2では、符号化デー
タとともに伝送されてくるフラグ(frame rate code)
に基づいて、図13に示すテーブルを参照して、数通り
のフレームレート(frame rate value)の中からフラグ
により指定されるものを選択するようにしている。
【0007】ところで、現在、ISO(International
Organization for Standardization: 国際標準化機構)
によって、具体的には、MPEG1,MPEG2と標準
化を進めてきた作業グループ(ISO/IEC JTC1/SC29/WG1
1)によって、最新の画像符号化方式であるMPEG4の
標準化作業が進められている。このMPEG4は、物体
単位での符号化処理や信号操作を可能とし、マルチメデ
ィア時代に必要な新しい機能を実現するものである。こ
のMPEG4では、当初、低ビットレートの画像処理の
標準化を目指してきたが、現在はその標準化の対象は、
インタレース画像にも対応した高ビットレートの画像処
理も含む、より汎用的な画像処理に拡張されている。
【0008】このMPEG4においても、ビデオ・オブ
ジェクト・レイア(MPEG2のビデオシーケンスに相
当)の先頭にMPEG2のテーブル(図13参照)と同
様なテーブルを追加すれば、該テーブルによりフレーム
レートは表現できるが、MPEG4では、低ビットレー
トの画像信号から高ビットレートの高画質の画像信号ま
での幅広い範囲の画像信号を処理対象とするため、必要
となるフレームレートは無数にあり、このため、MPE
G4では、実際問題としてフレームレートの判定をテー
ブルを用いて行うことは困難である。
【0009】そこで、MPEG4では、無数とも言える
固定フレームレートに対応し、しかも各フレームに対す
る画像表示タイミングや復号化処理のタイミングの間隔
が可変である画像に対応するために、フレーム毎に挿入
された各フレームの表示時刻データを含むデータ構造を
採用している。
【0010】図14は、従来の画像符号化信号200の
データ構造の一例を示す。従来のデータ構造を有する画
像符号化信号200は、1つの画像(MPEG4では1
つのオブジェクトに対応する画像を構成するフレーム系
列)に対応するものであり、先頭のヘッダHに続いて、
各フレームF(0),F(1),F(2),・・・,F
(n)に対応する符号列Sa0,Sa1,Sa2,・・
・,Sanを伝送順に配列した構造となっている。ここ
で、nは1つの画像を構成するフレーム系列における、
各フレームのデータの伝送順序に対応する番号であり、
先頭フレームの番号nを0としている。
【0011】この例では、各フレームの符号列Sa0,
Sa1,Sa2,・・・,Sanの先頭には、そのフレ
ームの表示時刻を示す表示時刻データDt0,Dt1,
Dt2,・・・,Dtnが配置されており、各表示時刻
データに続いて画像符号化データCg0,Cg1,Cg
2,・・・,Cgnが配置されている。この表示時刻デ
ータは、基準時刻に対する相対的な時刻を表しているた
め、画像を構成するフレームの数(フレーム数)が多く
なるにつれて、この表示時刻を表すのに必要な情報量,
つまり表示時刻データのビット数は多くなる。
【0012】また、上記画像符号化信号の復号化側で
は、上記各フレームに対応する符号列Sa0〜San中
に挿入されている上記表示時刻データDt0〜Dtnに
基づいて、該表示時刻データが指示する時刻にそのフレ
ームに対する画像表示が行われる。
【0013】図15は、1つの画像を構成するフレーム
系列における、各フレームに対応する画像符号化データ
の伝送順序と表示順序とを示している。ここで、nは上
記のように伝送順序を示す番号であり、n′は表示順序
を示す番号(先頭フレームの番号n′を0とする)であ
る。また、フレームF(n)(F(0)〜F(18))
は、図14に示すデータ構造におけるフレームの順序
(つまり伝送順序)に基づいて配列したものであり、フ
レームF′(n′)(F′(0)〜F′(18))は、
上記伝送順に並ぶ各フレームF(n)を、図15で矢印
により示すようにその配列順序が表示順になるよう並べ
替えて配列したものである。従って、矢印で対応付けら
れたフレームF(n)とフレームF′(n′)は同一の
ものであり、例えば、フレームF(0),F(1),F
(2),F(3)はそれぞれ、フレームF′(0),
F′(3),F′(1),F′(2)と同じフレームで
ある。
【0014】ここでは、伝送順に配列されたフレームF
(n)(F(0)〜F(18))のうち、フレームF
(0),F(13)はI(Intra-Picture)フレーム
(以下I−VOPともいう。)であり、フレームF
(1),F(4),F(7),F(10),F(16)
は、P(Predictive-Picture)フレーム(以下P−VO
Pともいう。)であり、フレームF(2),F(3),
F(5),F(6),F(8),F(9),F(1
1),F(12),F(14),F(15),F(1
7),F(18)は、B(Bidirectionally predictive
-Picture)フレーム(以下B−VOPともいう。)であ
る。
【0015】また、上記のように伝送順(IPBBPB
BPBBPBBIBBPBB)に配列されたフレームF
(n)(F(0)〜F(18))を表示順(IBBPB
BPBBPBBPBBIBBP)に並べ替えたときの順
番n′が、各フレームF(n)に対応するフレーム番号
B(n)(B(0)〜B(18))により表される。つ
まり、このフレーム番号B(n)の値は、表示順序を示
す番号n′を表しており、具体的には図15に示すよう
に、B(0)=0,B(1)=3,・・・,B(17)
=16,B(18)=17となる。従って、ここでは、
画像表示におけるI−VOPの周期LはL=15、画像
表示におけるI−VOPとP−VOPを含めたVOPの
周期MはM=3となっている。
【0016】そして、上記フレーム番号B(n)=n′
は、nを用いて次式(1)〜(3)により表される。 B(n)=n=0 (n=0のとき) …(1) B(n)=n+M−1 (n=M×i+1のとき) …(2) ただし、i,Mは0以上の整数(0,1,2,・・・)
である。 B(n)=n−1 (nがその他の値であるとき) …(3)
【0017】ここで、上記条件(n=0)は最初のI−
VOPに対応するもの、上記条件(n=M×i+1)
は、最初のI−VOP以外のI−VOPとP−VOPの
両VOPに対応するもの、上記条件(nがその他の値で
あるとき)は、B−VOPに対応するものである。
【0018】ただし、上記式(1)〜(3)は、各I−
VOP,P−VOP,B−VOPに相当するフレームの
符号列が周期的に伝送されてくる場合における上記表示
順序n′と伝送順序nの関係B(n)=n′を定義する
ものであり、各I−VOP,P−VOP,B−VOPに
相当するフレームの符号列が一定周期で伝送されてくる
場合以外の場合は、表示順序n′と伝送順序nは、上記
式(1)〜(3)とは別の関係式あるいは方法により一
対一に対応付けられることとなる。
【0019】図16は、各フレームに対応する画像表示
タイミングの間隔が可変である画像表示方法の一例を説
明するための図である。図中、t’(n’)(t’(1),
t’(2), t’(3), t’(4) ・・・) は、フレーム
F’(n’-1) の画像表示が行われる時刻と、フレーム
F’(n’) の画像表示が行われる時刻との時間間隔を示
し、h’(1),h’(2),h’(3) は、フレームF’(0)
の画像表示が行われる時刻h’(0)を基準として、フレ
ームF’(1),F’(2), F’(3) の画像表示が行われ
る時刻を示している。また、h(n)(h(1),h(2),h
(3),h(4),・・・) は、フレームF(0) =F’(0)の
画像表示が行われる時刻h’(0)を基準として、フレー
ムF(n)(F(1), F(2), F(3),F(4),・・・) の
画像表示が行われる時刻を示している。従って、ここで
は、表示順に配列されたフレームF’(n’)の表示時刻
h’(n’)は、h’(n’)=h’(n’-1)+t’(n’)であ
る。なおh’(0)はh’(0) =0としている。
【0020】次に、図14に示す画像データ構造を有す
る画像符号化信号が復号化されて画像表示が行われる状
況を図16を用いて簡単に説明する。復号化側では、図
14に示す該画像符号化信号200が入力されると、該
画像符号化信号200を構成する各フレームF(0),F
(1),F(2),・・・の画像符号化データCg0,Cg
1,Cg2,・・・に対して復号化処理施されるととも
に、各フレームF(0),F(1),F(2),・・・に対応
する画像表示が、各フレームの表示時刻データDt0,
Dt1,Dt2,・・・に基づいた画像表示時刻h(0)
,h(1) ,h(2)・・・に行われる。
【0021】このようにして、符号化された画像信号
(画像符号化信号)が各フレームに対する画像表示タイ
ミングの間隔(画像表示周期)が固定であるものだけで
なく、可変であるものについても、復号化側で画像符号
化信号が復号化されて所定のタイミングで画像表示が行
われるようにしている。
【0022】なお、符号化された画像信号が各フレーム
に対する画像表示の間隔が固定であるものである場合に
は、上記の画像表示周期が可変である場合と同様、上記
各フレームF(0),F(1) ,F(2) ,・・・に対応する
画像表示が、各フレームの表示時刻データDt0,Dt
1,Dt2,・・・に基づいた画像表示時刻h(0),h
(1),h(2),・・・に行われることは言うまでもない。
【0023】ところで、フレームレート(1秒間に表示
されるフレームの数)は、これを単純にk(自然数)ビッ
トで表現しようとしても、テレビジョン放送で使用され
る周波数、例えば29.97・・・Hz,正確には30
000/1001Hzのような値については表現するこ
とができない。
【0024】そこで、このようなフレームレートは以下
のように表現することができる。つまり、所定の時間間
隔(1modulo time )を例えば1秒とし、これをN(N
は自然数)等分した微小単位時間(1/N)を1単位時
間(1time tick )として、フレームレートが可変であ
る画像についても、またフレームレートが固定である画
像についても、各フレームの表示時刻を表すようにして
いる。
【0025】具体的には、図17(a) に示すように、表
示順に並ぶ各フレームF’(0),F’(1)’,F’(2),
F’(3)の画像VOP0,VOP1,VOP2,VOP
3の表示時刻は、例えば、時刻Xを基準として、微小単
位時間(1/N)をy(VOPrate increment )個集
めたもの(y/N)により表す。例えば、画像VOP
0,VOP1,VOP2,VOP3については、それぞ
れ上記値yは、y=y’0,y=y’1,y=y’2,
y=y’3となっている。
【0026】図17(c)は、上記微小単位時間(1/N
秒)と上記値yとにより、各フレームの画像表示タイミ
ングを示すデータ構造の画像符号化信号200aを示し
ている。
【0027】この画像符号化信号200aでは、微小単
位時間に相当するN(自然数)を示す微小単位時間デー
タDkを含むヘッダHに続いて、各フレームF(n)
(F(0),F(1),F(2),・・・)に対応する
符号列Sbn(Sb0,Sb1,Sb2,・・・)が配
列されており、各符号列Sbnには、基準時刻xを基準
として上記微小単位時間(1/N)とその個数yを用い
て測定した表示時刻h(n)(h(0),h(1),h(2),・・
・)を示す表示周期乗数データDyn(Dy0,Dy
1,Dy2,・・・)が含まれている。
【0028】なお、図17(c)中、Cgn(Cg0,C
g1,Cg2,・・・)は、上記各フレームF(n)
(F(0),F(1),F(2),・・・)に対応する
画像符号化データである。
【0029】但し、図17(b)に示すように、画像VO
P0がI−VOP(Iフレーム)、VOP1,2がB−
VOP(Bフレーム)、VOP3がP−VOP(Pフレ
ーム)である場合、画像符号化信号200aとしてのビ
ットストリームでは、図17(c)に示すように、I−V
OP(VOP0)に相当するフレームF(0)の符号列
に続くフレームF(1),F(2)の符号列としては、
P−VOP(VOP3),B−VOP(VOP1)に相
当するものが配列されている。
【0030】
【発明が解決しようとする課題】以下まず、図14〜図
16を用いて説明した画像信号データ構造における問題
点について説明する。上述したように、画像符号化信号
が、フレームの表示間隔が一定値Tである画像信号を符
号化したものである場合は、各フレームに対応する画像
表示タイミングh(n) は、h(n) =n′×Tとなってい
る。ここでn′は表示時順序を示す番号であり、n′=
B(n)となっている。言い換えると、このようなフレ
ームの表示間隔が一定値Tである画像符号化信号(つま
りフレームレートが固定である画像に対応する符号化信
号)は、復号化側で上記一定な表示間隔である時間Tが
分かれば、伝送順序におけるn番目のフレームF(n) の
表示時刻h(n)は、上記一定な表示間隔Tをn′(=B
(n))倍することにより一意に定めることができるに
も拘わらず、復号化の際には、フレームF(n)(F(0)
,F(1) ,F(2) ,・・・)に対応する画像符号化信
号に挿入されている、図14に示すような表示時刻デー
タDtn(Dt0,Dt1,Dt2,・・・)を用い
て、複雑な表示処理を行わざるを得ないという問題があ
った。
【0031】次に、図17を用いて説明した画像信号デ
ータ構造の問題点について説明する。上記のように、現
在のMPEG4で提案されている画像信号のデータ構造
では、フレームレートが固定であっても、フレームレー
トの値(大きさ)は、数フレームをデコードしないと分
からない構造となっており、このため、実際の復号化処
理を実現するための回路構成を簡略化するのが困難であ
るといった問題がある。
【0032】簡単に説明すると、図17(b)に示すよう
に、VOP0がI−VOP(Iフレーム)、VOP1,
2がB−VOP(Bフレーム)、VOP3がP−VOP
(Pフレーム)である場合、画像符号化信号200aと
してのビットストリームでは、図17(c)に示すよう
に、I−VOP(Iフレーム)に相当するフレームF
(0)に続いて、P−VOP(Pフレーム)に相当する
フレームF(1)及びB−VOP(Bフレーム)に相当
するフレームF(2)が配列されているため、このB−
VOP(Bフレーム)に対応するフレームF(2)が伝
送されてくるまでは、フレーム表示周期(1fixed VO
P increment),つまりこの場合はI−VOPの表示タ
イミングとその次に表示されるB−VOP(Bフレー
ム)の表示タイミングの間隔が分からないという問題が
ある。
【0033】本発明は、上記のような問題点を解消する
ためになされたもので、フレームレート(各フレームに
対する画像表示の周期)等の復号化側での各フレームに
対する再生処理の周期が固定である画像符号化信号に対
して、簡単なハードウエア構成により復号化処理や表示
処理を含む再生処理を施すことができ、しかも上記フレ
ームレート等が可変である画像符号化信号に対する再生
処理も行うことができる符号化処理を行う画像符号化方
法及び画像符号化装置、並びに上記画像符号化方法によ
る処理をコンピュータにより実現するためのプログラム
を格納した記憶媒体を得ることを目的とする。
【0034】
【課題を解決するための手段】この発明(請求項1)に
係る画像符号化方法は、画像信号を符号化して出力する
画像符号化方法であって、前記画像信号を符号化した画
像符号化データとともに、前記画像信号に含まれる全て
のフレームに対する画像再生処理の周期が固定であるか
否かを示す再生周期識別子を出力し、前記再生周期識別
子によって前記画像再生処理の周期が固定であることが
示される場合、前記再生周期識別子とともに、前記画像
再生処理の周期を示す再生周期データを出力することを
特徴とするものである。
【0035】この発明(請求項2)は、請求項1に記載
の画像符号化方法において、前記再生周期識別子は、前
記画像信号に含まれる全てのフレームに対応する画像再
生の周期が固定であるか、あるいは可変でありうるかを
示すものであり、前記再生周期識別子が、前記画像再生
処理の周期が可変でありうることを示す場合、前記再生
周期識別子とともに、前記画像再生処理を行うタイミン
グを示す再生タイミングデータを出力することを特徴と
するものである。
【0036】この発明(請求項3)は、請求項1に記載
の画像符号化方法において、前記再生周期識別子は、前
記フレームに対応する画像表示の周期が固定であるか否
かを示す表示周期識別子であり、前記再生周期データ
は、前記画像表示の周期を示す表示周期データであるこ
とを特徴とするものである。
【0037】この発明(請求項4)は、請求項1に記載
の画像符号化方法において、前記再生周期識別子は、前
記画像信号を復号化する復号化処理の周期が固定である
か否かを示す復号周期識別子であり、前記再生周期デー
タは、前記前記フレームの復号化処理の周期を示す復号
周期データであることを特徴とするものである。
【0038】この発明(請求項5)に係る画像符号化方
法は、画像に対応した画像信号を符号化して出力する画
像符号化方法であって、前記画像信号を符号化した画像
符号化データとともに、前記画像信号に含まれる全ての
フレームに対する画像再生処理の周期が固定であるか否
かを示す再生周期識別子を出力し、前記再生周期識別子
によって前記画像再生処理の周期が固定であることが示
される場合、前記再生周期識別子とともに、所定の時間
間隔をN(自然数)等分して得られる微小単位時間の大
きさを表すために用いる、自然数Nを示す微小単位時間
データと、前記フレームに対応した画像再生処理の周期
が前記微小単位時間のM(自然数)倍であることを表す
ために用いる、自然数Mを示す再生周期乗数データとを
出力することを特徴とするものである。
【0039】この発明(請求項6)は、請求項5に記載
の画像符号化方法において、前記再生周期識別子は、前
記画像信号に含まれる全てのフレームに対応する画像表
示の周期が固定であるか否かを示す表示周期識別子であ
り、前記再生周期乗数データは、前記画像表示の周期が
前記微小単位時間のM(自然数)倍であることを表すた
めの表示周期乗数データであることを特徴とするもので
ある。
【0040】この発明(請求項7)は、請求項5に記載
の画像符号化方法において、前記再生周期識別子は、前
記画像信号に含まれる全てのフレームに対する復号化処
理の周期が固定であるか否かを示す復号周期識別子であ
り、前記再生周期乗数データは、前記復号化処理の周期
が前記微小単位時間のM(自然数)倍であることを表す
ための復号周期乗数データであることを特徴とするもの
である。
【0041】この発明(請求項8)に係る画像符号化装
置は、画像に対応した画像信号を符号化して出力する画
像符号化装置であって、前記画像信号を符号化して画像
符号化データを出力する符号化器と、前記画像信号に基
づいて、前記画像信号に含まれる全てのフレームに対応
する画像再生処理の周期が固定であるか、あるいは可変
でありうるかを判定し、前記判定結果を示す再生周期識
別子を出力する周期判定手段と、前記画像信号に基づい
て、前記フレームに対応する画像再生処理の周期を示す
再生周期データを生成する第1のデータ生成器と、前記
画像信号に基づいて、前記フレームに対応した、フレー
ムの前後関係を示すフレーム位置データを生成する第2
のデータ生成器と、前記画像信号に基づいて、前記フレ
ームに対応する画像再生処理が行われるタイミングを示
す再生タイミングデータを生成する第3のデータ生成器
と、前記再生周期識別子に基づいて、前記再生周期デー
タを導通させる導通状態と前記再生周期データを遮断す
る遮断状態との間で切替えを行う開閉スイッチと、前記
再生周期識別子に基づいて、前記フレーム位置データと
前記再生タイミングデータの一方を選択する選択スイッ
チと、前記符号化器、前記周期判定手段、前記開閉スイ
ッチ、及び前記選択スイッチの出力を、所定の順序で多
重化して画像符号化信号とする多重化器と、を備えたこ
とを特徴とするものである。
【0042】この発明(請求項9)は、請求項8に記載
の画像符号化装置において、前記第1のデータ生成器
は、所定の時間間隔をN(自然数)等分して得られる微
小単位時間の大きさを表すために用いる、自然数Nを示
す微小単位時間データと、前記フレームに対応した画像
再生処理の周期が前記微小単位時間のM(自然数)倍で
あることを表すために用いる、自然数Mを示す再生周期
乗数データとを生成することを特徴とするものである。
【0043】この発明(請求項10)に係る記憶媒体
は、請求項1に記載の画像符号化方法をコンピューター
に行わせるための符号化処理プログラムを含むことを特
徴とするものである。
【0044】この発明(請求項11)に係る記憶媒体
は、請求項5に記載の画像符号化方法をコンピューター
に行わせるための符号化処理プログラムを含むことを特
徴とするものである。
【0045】
【発明の実施の形態】以下、本発明の実施の形態につい
て説明する。 実施の形態1.図1(a) は、本発明の実施の形態1によ
る、フレーム表示周期が固定(一定)である画像符号化
信号100aのデータ構造を示し、図1(b) は本発明の
実施の形態1による、フレーム表示周期が可変である画
像符号化信号100bのデータ構造を示している。
【0046】上記画像符号化信号100a(図1(a)参
照)は、1つの画像(MPEG4では1つのオブジェク
トに対応する画像)に対応する、フレーム表示周期が固
定である画像信号を符号化して得られるものであり、先
頭のヘッダHに続いて、各フレームF(0),F
(1),F(2),・・・,F(n)に対応する符号列
Sa0,Sa1,Sa2,・・・,Sanを伝送順に配
列した構造となっている。ここで、nは1つの画像を構
成するフレーム系列における、各フレームのデータ伝送
順序に対応する番号である。
【0047】この画像符号化信号100aでは、ヘッダ
H内にフレーム表示周期が固定であることを示す表示周
期識別子(表示周期固定識別子)Df及びフレーム表示
周期を示す表示周期データDpが挿入され、各フレーム
に対応する符号列Sa0,Sa1,Sa2,・・・,S
anの先頭には、そのフレームが表示される順番n′に
相当するフレーム番号B(n)を示すフレーム番号デー
タB0,B1,B2,・・・,Bnが挿入されている。
また、上記各フレームに対応する符号列Sa0,Sa
1,Sa2,・・・,Sanには、各フレームの画像信
号を符号化して得られる画像符号化データCg0,Cg
1,Cg2,・・・,Cgnが含まれている。
【0048】図2は、各フレームに対応する画像表示タ
イミングの間隔が固定である画像表示方法の一例を説明
するための図であり、図中、図16と同一符号は同一の
ものを示しており、Tは各フレームの表示タイミングの
間隔が固定である画像のフレーム表示周期である。この
画像符号化信号100aでは、図2に示すように、伝送
順に並ぶフレームF(n)(n=0,1,2,・・・)
の表示時刻h(n)は、フレームF(0)の表示時刻h(0)
(=h’(0))をh(0)=0とすると、h(n)=B(n)×
Tで表される。具体的には、フレームF(2)の表示時
刻h(2)はh(2)=B(2)×T、フレームF(3)の表示時
刻h(3)はh(3)=B(3)×T、フレームF(1)の表示時
刻h(1)はh(1)=B(1)×T、フレームF(4)の表示時
刻h(4)はh(4)=B(4)×Tとなる。
【0049】従って、この画像符号化信号100aの再
生処理では、各フレームに対応する画像符号化データの
復号化により得られる画像復号化データが表示時刻h
(n)に順次表示されることとなる。なおここで、表示
の順番を示す番号n′を表すフレーム番号B(n)は、
従来技術で説明したように上記(1)〜(3)式によ
り、伝送の順番を示す番号nの関数として決定される。
【0050】一方、上記画像符号化信号100b(図1
(b)参照)は、1つの画像(MPEG4では1つのオブ
ジェクトに対応する画像)に対応する、フレーム表示周
期が可変である画像信号を符号化して得られるものであ
り、先頭のヘッダHに続いて、各フレームF(0),F
(1),F(2),・・・,F(n)に対応する符号列
Sb0,Sb1,Sb2,・・・,Sbnを伝送順に配
列した構造となっている。
【0051】この画像符号化信号100bでは、ヘッダ
H内にフレーム表示周期が可変であることを示す表示周
期識別子(表示周期可変識別子)Dfが挿入され、各フ
レームF(0),F(1),F(2),・・・,F
(n)に対応する符号列Sb0,Sb1,Sb2,・・
・,Sbnの先頭には、そのフレームが表示される表示
時刻h(0),h(1),h(2),・・・,h(n) を示す表示
時刻データ(表示タイミングデータ)Dt0,Dt1,
Dt2,・・・,Dtnが挿入されている。また、上記
画像符号化信号100bにおける各フレームに対応する
符号列Sb0,Sb1,Sb2,・・・,Sbnには、
各フレームの画像信号を符号化して得られる画像符号化
データCg0,Cg1,Cg2,・・・,Cgnが含ま
れている。この画像符号化信号100bの再生処理によ
る画像表示は、図14に示す従来のデータ構造を有する
画像符号化信号200の画像表示と同様に行われる。
【0052】次に作用効果について説明する。本発明の
実施の形態1では、フレーム表示周期が固定である画像
符号化信号100aは、図1(a) に示すように、その画
像データ全体のヘッダ部分に、フレーム表示周期が固定
であることを示す表示周期固定識別子Dfと、フレーム
表示周期を示す表示周期データDpを挿入するととも
に、フレーム毎に、各フレーム番号B(0),B
(1),B(2),・・・,B(n)を示すフレーム番
号データB0,B1,B2,・・・,Bnを挿入したデ
ータ構造となっている。このようなデータ構造の画像符
号化信号100aでは、上記表示周期データDpからフ
レーム表示周期Tが分かり、フレーム番号データBnか
ら、1つの画像における各フレームが表示順に数えて何
番目のフレームに相当するかが分かるので、これらのデ
ータDp及びBnにより各フレームF(n)の表示時刻
h(n)を一意に定めることができる。
【0053】一方、フレーム表示周期が可変である画像
符号化信号100bは、図1(b) に示すように、その画
像データ全体のヘッダ部分に、表示間隔が可変であるこ
とを示す表示周期可変識別子Dfを挿入し、さらに従来
の画像符号化信号200のデータ構造と同様に、フレー
ム毎に各フレームの表示時刻h(0),h(1),h(2),・
・・,h(n)を示す表示時刻データDt0,Dt1,D
t2 ,・・・,Dtnを挿入したデータ構造となって
いる。
【0054】このため、上記画像符号化信号100bを
再生する際には、各フレームF(0)〜F(n)に対応
する画像表示を、該表示時刻データDt0〜Dtnの示
す表示時刻h(0)〜h(n)に行うことができる。
【0055】以上のように、画像符号化信号のヘッダ部
分にフレーム表示周期が固定であるか可変であるかを示
す表示周期識別子Dfを挿入することにより、フレーム
表示周期が可変である画像にも対応できる。さらに、フ
レーム表示周期が固定である画像に対しては、情報量の
多い各フレームの表示時刻データDt0〜Dtnを参照
せずに、表示周期データDpと情報量の少ないフレーム
番号データBnに基づいて各フレームの画像表示を行う
ことがき、復号化側における画像処理回路を簡単な回路
構成とすることができる。
【0056】以下、上記のような画像符号化信号100
a,100bを生成する画像信号の符号化処理、及びそ
の復号化処理について説明する。図3は上記符号化処理
のフローを示す図である。
【0057】まず、上記符号化処理では、入力された所
定の画像に対応する画像信号のフレーム表示周期が固定
であるか否かの判定が行われる(ステップS11)。こ
の判定の結果、フレーム表示周期が固定である場合は、
上記フレーム表示周期が固定であることを示す表示周期
固定識別子Dfが、上記画像信号に対応するビットスト
リームのヘッダHに付加され(ステップS11a)、さ
らに各フレームの伝送順序を示す番号nがカウンタ値と
して用いられ、このカウンタ値nがn=0にセットされ
る(ステップS12a)。続いて、上記固定のフレーム
表示周期Tを示す表示周期データDpが、上記画像信号
に対応するビットストリームのヘッダHに付加される
(ステップS13a)。
【0058】次に、上記所定の画像の、伝送順序におけ
る最初のフレームF(0)に対応する符号列Sa0とし
て、対応するフレーム番号データBn(=B0)及び画
像符号化データCgn(=Cg0)が順次上記ヘッダH
に付加される(ステップS14a,S15a)。その
後、上記画像信号の符号化処理における処理対象フレー
ムが上記所定の画像の、伝送順序における最終のフレー
ムであるか否かの判定が行われ(ステップS16a)、
該処理対象フレームが最終フレームでなければ、上記カ
ウンタ値nが1つインクリメントされて(ステップS1
7a)、続くフレームF(1)に対して、上記ステップ
S14a〜S17aにおける処理が行われる。
【0059】上記ステップS14a〜S17aにおける
処理は、ステップS16aにて処理対象フレームが最終
フレームであると判定されるまで繰り返し行われる。一
方、上記ステップS11での判定の結果、フレーム表示
周期が可変である場合は、上記フレーム表示周期が可変
であることを示す表示周期可変識別子Dfが、上記画像
信号に対応するビットストリームのヘッダHに付加され
(ステップS11b)、さらに各フレームの伝送順序を
示す番号nがカウンタ値nとして用いられ、このカウン
タ値nがn=0にセットされる(ステップS12b)。
次に、上記所定の画像の、伝送順序における最初のフレ
ームF(0)に対応する符号列として、対応する表示時
刻データDtn(=Dt0)及び画像符号化データCg
n(=Cg0)が順次上記ヘッダに付加される(ステッ
プS13b,S14b)。その後、上記画像信号の符号
化処理における処理対象フレームが上記所定の画像にお
ける、最終のフレームであるか否かの判定が行われ(ス
テップS15b)、該処理対象フレームが最終フレーム
でなければ、上記カウンタ値nが1つインクリメントさ
れて(ステップS16b)、続くフレームF(1)に対
して、上記ステップS13b〜S16bにおける処理が
行われる。
【0060】上記ステップS13b〜S16bにおける
処理は、ステップS15bにて処理対象フレームが最終
フレームであると判定されるまで繰り返し行われる。
【0061】図4(a)は、上記実施の形態1における符
号化処理を行うハードウエアとしての画像符号化装置1
000の構成を示すブロック図である。この画像符号化
装置1000は、入力される画像信号Sgを符号化して
画像符号化データCgnを生成する符号化器1110
と、上記入力される画像信号Sgに基づいて、フレーム
表示周期が一定であるか否か(つまり、表示周期が固定
であるか可変であるか)を判定して、表示周期が一定で
あるか否かを示す表示周期識別子Dfを出力する判定器
1131と、上記入力された画像信号Sgに基づいて、
一定のフレーム表示周期Tを示す表示周期データDfを
生成する表示周期データ生成器(第1のデータ生成器)
1132とを有している。
【0062】また、上記画像符号化装置1000は、上
記入力された画像信号Sgに基づいて、伝送順序におけ
る各フレームの順番(フレーム番号B(n))を示すフ
レーム番号データBnを生成する番号データ生成器(第
2のデータ生成器)1133と、上記入力された画像信
号Sgに基づいて、各フレームF(n)の表示時刻h
(n)を示す表示時刻データDtnを生成する表示時刻デ
ータ生成器(第3のデータ生成器)1134とを有して
いる。
【0063】さらに、上記画像符号化装置1000は、
上記判定器1131からの表示周期識別子Dfに基づい
て、上記データ生成器1132からの表示周期データD
pを導通させる導通状態と該表示周期データDpを遮断
する遮断状態との間で切り替わる開閉スイッチ1141
と、上記判定器1131からの表示周期識別子Dfに基
づいて、上記データ発生器1133からのフレーム番号
データBnと上記データ発生器1134からの表示時刻
データDtnの一方を選択して出力する選択スイッチ1
142とを有している。
【0064】そして、上記画像符号化装置1000は、
上記判定器1131からの表示周期識別子Df,上記符
号化器1110からの符号化データCgn,上記開閉ス
イッチ1141からの表示周期データDp,及び上記選
択スイッチ1142の出力を多重化して多重ビットスト
リームM1を生成する多重化器(MUX)1120を有
しており、該多重ビットストリームM1を、フレーム表
示周期が固定である画像符号化信号100a、あるいは
フレーム表示周期が可変である画像符号化信号100b
として出力する構成となっている。
【0065】以下簡単に上記画像符号化装置1000の
動作について説明する。まず、上記画像符号化装置10
00に所定の画像に対応する画像信号Sgが入力される
と、上記判定器1131では、該画像信号Sgのフレー
ム表示周期が可変である否かの判定が行われ、判定結果
を示す表示周期識別子Dfが出力される。また、このと
き、上記画像信号Sgに基づいて、第1〜第3のデータ
生成器1132〜1134では、それぞれ上記表示周期
データDp,フレーム番号データBn,及び表示時刻デ
ータDtnが生成され、上記符号化器1110では、上
記画像信号Sgが符号化されて画像符号化データCgn
として出力される。
【0066】そして、上記表示周期識別子Df及び画像
符号化データCgnは多重化器1120に出力される。
このとき、上記表示周期データDpは、表示周期識別子
Dfに基づいて開閉されるスイッチ1141を介して多
重化器1120に出力され、フレーム番号データBn及
び表示時刻データDtnは、表示周期識別子Dfに基づ
いてこれらのデータの一方を選択する選択スイッチ11
42を介して上記多重化器1120に出力される。
【0067】つまり、画像信号Sgとして、上記各フレ
ームF(n)に対応する画像表示の周期が固定である画
像信号が入力されたとき、上記表示周期固定識別子Df
とともに、上記各フレームに対応する画像表示の周期を
示す表示周期データDpと、上記各フレームに対応し
た、フレームの前後関係を示すフレーム番号データBn
とが多重化器1120に出力される。すると、該多重化
器1120では、上記画像符号化データCgn、表示周
期固定識別子Df、表示周期データDp、及びフレーム
番号データBnが多重化されて画像符号化信号100a
として出力される。
【0068】一方、上記画像信号Sgとして、上記各フ
レームF(n)に対応する画像表示の周期が可変である
画像信号が入力されたとき、上記表示周期可変識別子D
fとともに、上記各フレームに応じて1つまたは複数の
基準時刻の所要のものに対して相対的に設定された、各
フレームに対応する画像表示が行われるタイミング(表
示時刻)h(n)を示す表示時刻データDtnが上記多重
化器1120に出力される。すると該多重化器1120
では、上記画像符号化データCgn、表示周期可変識別
子Df、及び表示時刻データDtnが多重化されて、画
像符号化信号100bとして出力される。
【0069】次に、図5を用いて、本実施の形態のデー
タ構造を有する画像符号化信号100a,100bを復
号化する復号化処理について説明する。まず、上記復号
化処理では、符号化側から送られてくる多重ビットスト
リームM1(画像符号化信号100aあるいは100
b)における表示周期識別子Dfを検出することによ
り、該画像符号化信号の表示周期が固定であるか否かが
判定される(ステップS21)。この判定の結果、表示
周期が固定であると判定されれば、伝送順における各フ
レームF(n)の順番に相当するカウント値nが0にセ
ットされ(ステップS21a)、その後、画像符号化信
号のヘッダ部分Hから表示周期Tを示す表示周期データ
Dpが読込まれる(ステップS22a)。
【0070】次に、各フレームのヘッダ部分から、フレ
ーム番号B(n)を示すフレーム番号データBnが読込
まれ(ステップS23a)、各フレームの表示時刻h
(n)が計算式h(n)=B(n)×Tにより求められ
る(ステップS24a)。
【0071】そして、フレームF(n)に対応する画像
符号化データCgnの復号化処理が行われ、フレームF
(n)に対応する画像復号化データが、表示時刻h(n)
に表示される画像データとされる(ステップS25
a)。その後、処理対象フレームF(n)が上記所定の
画像の、伝送順序における最後のフレームであるか否か
が判定され(ステップS26a)、処理対象フレームが
上記所定の画像の、伝送順序における最後のフレームで
あれば復号化処理が終了し、これが最後のフレームでな
ければ、上記カウント値nが1つインクリメントされ
(ステップS27a)、その後、上記ステップS23a
〜26aの処理が上記ステップS26aにて処理対象フ
レームが最後のフレームであると判定されるまで行われ
る。
【0072】一方、上記ステップS21にて、表示周期
が可変であると判定されれば、伝送順における各フレー
ムF(n)の順番に相当するカウント値nが0にセット
され(ステップS21b)、その後、各フレームのヘッ
ダ部分からフレームF(n)の表示時刻h(n)を示す表
示時刻データDtnが読込まれ(ステップS22b)、
この表示時刻データDtnに基づいてフレームF(n)
の表示時刻h(n)が決定される(ステップS23b)。
続いて、フレームF(n)に対応する画像符号化データ
Cgnの復号化処理が行われ、復号化処理が施されたフ
レームF(n)の画像復号化データが、表示時刻h
(n)に表示される画像データとされる(ステップS2
4b)。
【0073】その後、処理対象フレームF(n)が上記
所定の画像の、伝送順序における最後のフレームである
か否かが判断され(ステップS25b)、該処理対象フ
レームが最後のフレームであれば復号化処理が終了す
る。一方、上記処理対象フレームが最後のフレームでな
ければ、上記カウント値nが1つインクリメントされ
(ステップS26b)、その後、上記ステップS22b
〜ステップS26bの処理が、ステップS25bにて処
理対象フレームが最後のフレームであると判定されるま
で行われる。以上説明したように図5に示した処理手順
で、図1(a) ,(b) に示すデータ構造を有する画像符号
化信号が復号化される。
【0074】図6(a)は上記実施の形態1における復号
化処理を行うハードウエアとしての画像復号化装置の構
成を示すブロック図である。この画像復号化装置200
0は、上記画像符号化装置1000から出力された画像
符号化信号100aあるいは100bとしての多重ビッ
トストリームM1に対して、復号化処理及び表示処理を
含む再生処理を行う構成となっている。
【0075】すなわち、この画像復号化装置2000
は、上記多重ビットストリームM1から、画像符号化デ
ータCgn,表示周期識別子Df,表示周期データD
p,及びフレーム番号データBnあるいは表示時刻デー
タDtnを取り出して出力するデータ分離器(DEMU
X)2110と、上記画像符号化データCgnを復号化
して画像復号化データRgを出力する復号化器2120
とを有している。
【0076】また、上記画像復号化装置2000は、上
記表示周期識別子Dfに基づいて、上記表示周期データ
Dpを導通させる導通状態と該表示周期データDpを遮
断する遮断状態との間で切り替わる開閉スイッチ214
0と、上記表示周期識別子Dfに基づいて、上記フレー
ム番号データBn及び上記表示時刻データDtnの一方
を選択して出力する選択スイッチ2150とを有してい
る。
【0077】さらに、上記画像復号化装置2000は、
上記画像復号化データRgを、表示周期識別子Df及び
各スイッチ2140,2150の出力に基づいて所定の
表示タイミングで表示する表示装置2130を有してい
る。
【0078】以下簡単に上記画像復号化装置2000の
動作について説明する。まず、上記画像復号化装置20
00に、上記画像符号化装置1000からの多重ビット
ストリームM1が入力されると、データ分離器2110
にて、上記多重ビットストリームM1から表示周期識別
子Df及び表示周期データDpが分離され、さらに各フ
レーム毎に上記多重ビットストリームM1から、画像符
号化データCgn,及びフレーム番号データBnあるい
は表示時間データDtnが分離される。
【0079】そして、各フレームの画像符号化データC
gnは復号化器2120にて復号化されて画像復号化デ
ータRgとして表示装置2130に出力される。また、
上記表示周期データDpは、表示周期識別子Dfにより
開閉される開閉スイッチ2140を介して表示装置21
30に出力され、各フレームのフレーム番号データBn
あるいは表示時間データDtnは、表示周期識別子Df
によりこれらの一方のデータを選択する選択スイッチ2
150を介して上記表示装置2130に出力される。
【0080】そして表示装置2130では、表示周期が
固定である画像復号化データRgに対応する各フレーム
の画像は、表示周期データDp及びフレーム番号データ
Bnに基づいて所定の表示タイミングで表示され、一方
表示周期が可変である画像復号化データRgに対応する
フレームの画像は、表示時刻データDtnに基づいて所
定の表示タイミングで表示される。
【0081】このように本実施の形態1の画像信号デー
タ構造では、画像信号を符号化して得られる画像符号化
信号を、各フレームに対応する画像表示処理の周期が可
変であるか否かを示す表示周期識別子Dfを含む構成と
したので、各フレームに対する画像表示の周期が固定で
ある場合に、簡単な回路構成により、つまり各フレーム
毎に情報量(ビット数)の多い表示時刻データ(表示タ
イミングデータ)Dtnを参照することなく、表示周期
データDpと情報量(ビット数)の少ないフレーム番号
データBnに基づいて、画像復号化データRgの表示処
理を行うことができる。
【0082】また、表示周期が固定である画像符号化信
号100aには、画像表示の周期Tを示す表示周期デー
タDpと、フレームの前後関係を示すフレーム番号B
(n)を示すデータ(フレーム位置データ)Bnを含む
ので、各フレームに対応する画像表示のタイミングを、
T×B(n)という簡単な演算により決定することがで
きる。
【0083】また、表示周期が可変である画像符号化信
号100bには、各フレームに応じて1つまたは複数の
基準時刻の所要のものh’(0)(図2参照)に対して相
対的に設定された、各フレームに対応する画像表示が行
われる表示時刻(表示タイミング)h(n)を示す表示時
刻データ(表示タイミングデータ)Dtnを含むので、
各フレームに対応する画像表示の周期が可変である場合
には、従来のデータ構造と同様、表示時刻データDtn
に基づいて各フレームF(n)に対応する画像表示のタ
イミングh(n)を確定することができる。
【0084】また、この実施の形態1の画像符号化装置
1000では、入力される画像信号に基づいて、画像の
表示周期が可変である否かを示す表示周期識別子Dfを
生成する判定器1131を備え、表示周期が固定である
画像信号が入力されたとき、上記表示周期識別子Df、
画像表示の周期を示す表示周期データDp、フレームの
前後関係を示すフレーム番号データBnを画像符号化デ
ータCgnと多重化して出力し、画像表示の周期が可変
である画像信号が入力されたとき、表示周期識別子Df
及び各フレームF(n)の表示時刻h(n)を示す表示時
刻データDtnを、画像符号化データCgnと多重化し
て出力するようにしたので、各フレームに対する画像表
示の周期が可変であっても固定であっても、各フレーム
の表示タイミングを決定するためのデータが画像符号化
データCgnとともに出力されることとなる。これによ
りフレームの表示周期が固定の場合に表示時刻を定める
のに要するビット数を削減することができ、しかも、フ
レームの表示周期が可変である画像の表示も従来と同様
に行うことができる。
【0085】さらにこの実施の形態1の画像復号化装置
2000では、上記画像符号化装置1000から送られ
てくる多重ビットストリームM1に含まれている、表示
周期識別子Df、画像表示の周期を示す表示周期データ
Dp、フレームの前後関係を示すフレーム番号データB
n、各フレームの表示時刻h(n)を示す表示時刻データ
Dtn及び画像符号化データCgnを分離するデータ分
離器2110と、上記画像符号化データCgnを復号化
して画像復号化データRgを出力する復号化器2120
とを備え、表示周期が固定である画像復号化データRg
を、表示周期データDp及びフレーム番号データBnに
基づいて所定の表示タイミングで表示し、表示周期が可
変である画像復号化データRgを、表示時刻データDt
nに基づいて所定の表示タイミングで表示するので、各
フレームの画像復号化データRgを、そのフレーム表示
周期が可変であるか否かに拘わらず正しい表示タイミン
グでもって表示することができる。
【0086】なお、上記実施の形態1で説明した画像信
号データ構造においては、画像データ(多重ビットスト
リーム)の先頭に表示周期識別子Dfを、フレームデー
タ(各フレームの符号列)の先頭に、フレーム番号デー
タBn,表示時刻データDtnなどを挿入しているが、
上記表示周期識別子,フレーム番号データ,表示時刻デ
ータ等は、必ずしも対応するヘッダの先頭に挿入される
必要はなく、表示周期識別子及び表示周期データは画像
データ(画像符号化信号)のヘッダ部分に、フレーム番
号データ,表示時刻データ等はフレームに対応するデー
タ(符号列)のヘッダ部分に挿入されていれば、同期信
号などの後に挿入されてもよい。
【0087】また、上記実施の形態1では、表示周期デ
ータDpは表示周期識別子Dfの直後に挿入している
が、表示周期データDpは、必ずしも、表示周期識別子
と連続するようその直後に挿入する必要はなく、表示周
期データは、画像データのヘッダ部分において、表示周
期識別子の後に挿入されていればよい。
【0088】さらに、上記実施の形態1では、図2にお
ける表示の順番を示す番号n′(=B(n))として、
画像データの表示順序での先頭から通し番号を割り当て
ているが、必ずしも通し番号を割り当てる必要はなく、
予め定めた先頭番号から後尾番号までの複数の番号をフ
レーム番号として周期的に割り当てるようにしても構わ
ない。
【0089】例えば、4ビットでフレーム番号を表す場
合は、0から15の番号を周期的にフレームに割り当て
る。この場合、表示時刻については、h’(n’)=h
p’(15)+(n′+1)×Tで表される。ここでh
p’(n’)は、直前の周期におけるフレーム番号B
(n)(=n′)に対応する表示時刻を表すものとして
おり、従って、この場合、h’(n’)は、hp’(n’)の
次の周期におけるフレーム番号B(n)(=n′) に
対応する表示時刻を示すこととなる。なお、hp’(1
5)は直前の周期における最後のフレームに対応する表
示時刻を示している。
【0090】さらに、上記実施の形態1では、フレーム
の特定は、フレーム番号データにより行っているが、こ
れに限るものではなく、フレームの前後関係を規定する
データであれば、所定のルールによりフレームの前後関
係を示すデータ、所定のテーブルを参照してフレームの
前後関係を規定するデータ等でもよい。
【0091】また、上記実施の形態1における表示時刻
データは、複数の基準時間に対する相対的な時刻を示す
ものであり、例えば、基準時刻は複数のフレームに対し
て1つ設定してもよく、また前のフレームの表示時刻を
基準時刻としてもよい。さらに、1つまたは複数の基準
時刻を予め設定し、あるルールまたは信号に基づいて、
いずれの基準時刻を参照してフレームの表示時刻を表す
かを決定するようにしてもよい。
【0092】さらには、上記実施の形態1では、復号化
側での各フレームに対する再生処理のタイミングを決定
するための付加データとして、各フレームの表示タイミ
ングを設定するための表示周期識別子,表示周期デー
タ,及びフレーム番号データあるいは表示時刻データを
含む画像符号化信号のデータ構造について示したが、画
像符号化信号のデータ構造は、上記各フレームの表示タ
イミングに代えて、各フレームの復号化処理のタイミン
グを決定する付加データ,つまり復号周期識別子,復号
周期データ,及びフレーム番号データあるいは復号時刻
データを含むものであってもよく、以下このようなデー
タ構造を実施の形態1の変形例として説明する。
【0093】(実施の形態1の変形例)この実施の形態
1の変形例のデータ構造は、実施の形態1の画像符号化
信号100aにおける表示周期識別子Df及び表示周期
データDpを、復号周期識別子及び復号周期データに置
き換え、実施の形態1の画像符号化信号100bにおけ
る表示時刻データDtnを、復号時刻データに置き換え
たものである。
【0094】ここで、上記復号周期識別子は、各フレー
ムに対応する、画像符号化信号を復号化する復号化処理
の周期が可変であるか否かを示すものであり、復号化処
理の周期が固定である画像符号化信号には復号化周期固
定識別子として、復号化処理の周期が可変である画像符
号化信号には復号化周期可変識別子として挿入される。
【0095】また、上記復号周期データは各フレームに
対応する復号化処理の周期DTを示すデータであり、上
記復号時刻データは、各フレームに応じて1つまたは複
数の基準時刻の所要のものに対して相対的に設定され
た、各フレームに対応する復号化処理が行われるタイミ
ング(復号時刻Dh(n))を示すデータである。
【0096】また、実施の形態1の変形例のデータ構造
を有する画像符号化信号を生成する符号化処理は、図3
に示すフローにおけるステップS11、S11a,S1
1b,S13a,S13bにおける処理を、以下のよう
に置換することにより実現できる。
【0097】つまり、ステップS11における表示周期
の判定処理を、復号周期が固定であるか否かを判定する
処理に置き換え、ステップS11aにおける表示周期固
定識別子Dfを付加する処理を、上記復号周期固定識別
子を付加する処理に、ステップS11bにおける表示周
期可変識別子Dfを付加する処理を、上記復号周期可変
識別子を付加する処理に置き換える。さらに、ステップ
S13aにおける表示周期データDpを付加する処理
を、上記復号周期データを付加する処理に置き換え、ス
テップS13bにおける表示時刻データDtnを付加す
る処理を、上記復号時刻データを付加する処理に置き換
える。
【0098】また、図4(b)は、上記実施の形態1の変
形例の符号化処理を行うハードウエアとしての画像符号
化装置1000aの構成を示している。この画像符号化
装置1000aは、上記実施の形態1における画像符号
化装置1000の判定器1131に代えて、上記入力さ
れる画像信号Sgに基づいて、フレームに対応する復号
化処理の周期が一定であるか否か(つまり、復号周期が
固定であるか可変であるか)を判定して、復号周期DT
が一定であるか否かを示す復号周期識別子DEfを出力
する判定器1131aを備えている。
【0099】また、上記画像符号化装置1000aは、
上記実施の形態1の画像符号化装置1000における表
示周期データ発生器1132及び表示時刻生成器113
4に代えて、上記入力された画像信号Sgに基づいて、
フレームの復号化処理の周期(固定周期)DTを示す復
号周期データDEpを生成する復号周期データ生成器
(第1のデータ生成器)1132aと、上記入力された
画像信号Sgに基づいて、各フレームの復号時刻を示す
復号時刻データDEtnを生成する復号時刻データ生成
器(第3のデータ生成器)1134aとを備えたもので
ある。その他の構成は上記実施の形態1の画像符号化装
置1000と同様となっている。
【0100】このような構成の画像符号化装置1000
aでは、多重化器(MUX)1120では、上記判定器
1131aからの復号周期識別子DEf,上記符号化器
1110からの画像符号化データCgn,上記開閉スイ
ッチ1141からの復号周期データDEp,及び上記選
択スイッチ1142の出力が多重化されて、多重ビット
ストリームM1aが、復号周期が固定である画像符号化
信号、あるいは復号周期が可変である画像符号化信号と
して出力される
【0101】一方、実施の形態1の変形例のデータ構造
を有する画像符号化信号を復号化する復号化処理は、図
5に示すフローにおけるステップS21,S22a,S
22b,S23a,S23b,S24a,S24b,S
25aの処理を以下のように置き換えることにより実現
できる。
【0102】具体的には、ステップS21における表示
周期の判定処理を、復号周期が固定であるか否かを判定
する処理に置き換え、ステップS22aにおける表示周
期Tを示す表示周期データDpを読み込む処理を、上記
復号周期DTを示す復号周期データDEpを読み込む処
理に置き換え、ステップS22bにおける表示時刻h
(n)を示す表示時刻データDtnを読み込む処理を、
上記復号時刻Dh(n)を示す復号時刻データDEtn
を読み込む処理に置き換える。
【0103】また、ステップS23a及びS24aにお
ける、フレーム番号データBnを読み込んで表示時刻h
(n)を決定する処理を、復号周期データDEpに基づ
いて、順次入力される各フレームの画像符号化データに
対応する復号時刻Dh(n)を決定するとともに、上記
フレーム番号データBnに基づいて各フレームに対する
表示時刻h(n)を決定する処理に置き換える。
【0104】また、ステップS23bにおける、表示時
刻データDtnに基づいて表示時刻h(n)を決定する
処理を、復号時刻データDEtnに基づいて復号時刻D
h(n)を決定するとともに、該データDEtnに基づ
いて表示時刻h(n)を決定する処理に置き換える。
【0105】さらに、ステップS25aにおける、フレ
ームF(n)の画像符号化データCgnを復号化して表
示時刻h(n)に表示する処理を、上記フレームF
(n)の画像符号化データCgnを復号時刻Dh(n)
に復号化して、表示時刻h(n)に表示する処理に置き
換え、ステップS24bにおける、フレームF(n)の
画像符号化データCgnを復号化して時刻h(n)に表
示する処理を、上記フレームF(n)の画像符号化デー
タCgnを復号時刻Dh(n)に復号化して、表示時刻
h(n)に表示する処理に置き換える。
【0106】また、図6(b)は、上記実施の形態1の変
形例の復号化処理を行うハードウエアとしての画像復号
化装置2000aの構成を示している。この画像復号化
装置2000aは、上記画像符号化装置1000aから
出力された多重ビットストリームM1aに対して、復号
化処理及び表示処理を含む再生処理を行う構成となって
いる。
【0107】すなわち、この画像復号化装置2000a
は、上記実施の形態1における画像復号化装置2000
のデータ分離器2110に代えて、上記多重ビットスト
リームM1aから、画像符号化データCgn,復号周期
識別子DEf,復号周期データDEp,及びフレーム番
号データBnあるいは復号時間データDEtnを取り出
して出力するデータ分離器(DEMUX)2110aを
備えている。
【0108】また、上記画像復号化装置2000aは、
上記復号周期識別子DEfに基づいて、上記復号周期デ
ータDEpを導通させる導通状態と該復号周期データD
Epを遮断する遮断状態との間で切り替わる第1の開閉
スイッチ2140aと、上記復号周期識別子DEfに基
づいて、上記フレーム番号データBnを導通する導通状
態と該フレーム番号データBnを遮断する遮断状態との
間で切り替わる第2の開閉スイッチ2150aと、上記
復号周期識別子DEfに基づいて、上記復号時刻データ
DEtnを導通する導通状態と該復号時刻データDEt
nを遮断する遮断状態との間で切り替わる第3の開閉ス
イッチ2160aとを有ししている。
【0109】そしてこの画像復号化装置2000では、
第1の開閉スイッチ2140aの出力である復号周期デ
ータDEp、及び第3の開閉スイッチ2160aの出力
である復号時刻データDEtnが復号化器2120a及
び表示装置2130aに供給され、上記第2の開閉スイ
ッチ2150aの出力であるフレーム番号データBnが
表示装置2130aにのみ供給されるようになってい
る。
【0110】そして、復号化器2120aでは、復号周
期が固定である画像符号化データCgnを、上記復号周
期データDEpに基づいて決まるタイミング(復号時刻
Dh(n))で各フレーム毎に復号化し、一方、復号周
期が可変である画像符号化データCgnを、上記復号時
刻データDEtnに基づいて決まるタイミング(復号時
刻Dh(n))で各フレーム毎に復号化する構成となっ
ている。
【0111】さらに、上記表示装置2130aでは、復
号周期が固定である画像復号化データRgを、上記復号
周期データDEpとフレーム番号データBnに基づいて
決まるタイミング(表示時刻h(n))で各フレーム毎
に表示し、一方、復号周期が可変である画像復号化デー
タRgを、上記復号時刻データDEtnに基づいて決ま
るタイミング(表示時刻h(n))で各フレーム毎に表
示する構成となっている。
【0112】その他の構成は上記実施の形態1の画像復
号化装置2000と同一である。以下、上記実施の形態
1の変形例による画像復号化装置2000aの動作につ
いて簡単に説明する。
【0113】このような構成の画像復号化装置2000
aでは、上記多重ビットストリームM1aが入力される
と、データ分離器2110aにて、画像符号化データC
gn,復号周期識別子DEf,復号周期データDEp,
及びフレーム番号データBnあるいは復号時間データD
Etnが分離される。
【0114】そして、復号化器2120aでは、入力さ
れた画像復号化信号の復号周期が固定であるときは、画
像符号化データCgnが、上記復号周期データDEpに
基づいて決まるタイミング(復号時刻Dh(n))で各
フレーム毎に復号化され、該復号化器2120aから出
力された画像復号化データRgは、上記復号周期データ
DEpとフレーム番号データBnに基づいて決まるタイ
ミング(表示時刻h(n))で各フレーム毎に表示され
る。
【0115】一方、入力された画像復号化信号の復号周
期が可変であるときは、画像符号化データCgnが、上
記復号時刻データDEtnに基づいて決まるタイミング
(復号時刻Dh(n))で各フレーム毎に復号化され、
該復号化器2120aから出力された画像復号化データ
Rgは、上記復号時刻データDEtnに基づいて決まる
タイミング(表示時刻h(n))で各フレーム毎に表示
される。
【0116】このような実施の形態1の変形例では、上
記実施の形態1の同様、画像信号を符号化して得られる
画像符号化信号を、各フレームに対応する画像復号化処
理の周期が可変であるか否かを示す復号周期識別子DE
fを含む構成としたので、各フレームに対する画像復号
化処理の周期が固定である場合に、簡単な回路構成によ
り、つまり各フレーム毎に情報量(ビット数)の多い復
号時刻データDEtnを参照することなく、復号周期デ
ータDEpにのみ基づいて画像符号化データの復号化処
理を行うことができるといった効果がある。
【0117】なお、上記実施の形態1の変形例の画像復
号化装置では、画像符号化信号に含まれる各フレームに
対する復号化処理のタイミングを決定するためのデータ
に基づいて、各フレームの復号化処理とともに、各フレ
ームの画像表示を行うものを示したが、上記画像復号化
装置は、画像符号化信号に含まれる各フレームに対する
表示処理のタイミングを決定するためのデータに基づい
て、各フレームの表示処理とともに、各フレームの復号
化処理を行うものであってもよい。
【0118】この場合は、上記各フレームに対応する復
号化処理が行われる復号タイミングは、復号化処理の対
象となる対象フレームを含む複数のフレームの表示タイ
ミングデータに基づいて設定する。つまり、上記対象フ
レームの復号タイミングを、該対象フレームの表示タイ
ミングデータ及びその次にデータが伝送されてくる次フ
レームの表示タイミングデータに基づいて、該両フレー
ムのうちの早い方の表示タイミングより所定のオフセッ
ト時間だけ早いタイミングに設定する。
【0119】具体的には、復号化処理の対象となる対象
フレームの表示タイミングが、この対象フレームの次に
データが伝送されてくる次フレームの表示タイミングよ
り早いときは、上記オフセット時間を対象フレームに対
する復号化処理に要する時間以上の大きさに設定する。
一方、復号化処理の対象となる対象フレーム(例えばP
−VOP)の表示タイミングより、この対象フレームの
次にデータが伝送されてくる次フレーム(例えばB−V
OP)の表示タイミングの方が早いときは、上記オフセ
ット時間を対象フレームに対する復号化処理に要する時
間と、次フレームに対する復号化処理に要する時間の合
計時間以上の大きさに設定する。
【0120】実施の形態2.図7(a)は、本発明の実施
の形態2による、フレーム表示周期が一定である画像符
号化信号120aのデータ構造を示している。上記画像
符号化信号120aは、1つの画像(MPEG4では1
つのオブジェクトに対応する画像)に対応する、フレー
ム表示周期が固定である画像信号を符号化して得られる
ものであり、先頭のヘッダHに続いて、各フレームF
(0),F(1),F(2),・・・,F(n)に対応
する符号列Sc0,Sc1,Sc2,・・・,Scnを
伝送順に配列した構造となっている。この画像符号化信
号120aでは、ヘッダH内に、フレーム表示周期が固
定であるか否かを示す表示周期識別子Df、フレーム表
示周期が微小単位時間(1/N)のM(自然数)倍であ
ることを該乗数Mにより示す表示周期乗数データDm、
及び上記微小単位時間(1/N)を求めるための値N
(自然数)を示す微小単位時間データDkが挿入され、
各フレームの符号列Sc0,Sc1,Sc2,・・・,
Scnの先頭に、そのフレームの表示時刻y’0,y’
3,y’1,・・・,y’n’(図17(a)参照)を示
す表示時刻データDy0,Dy1,Dy2,・・・,D
ynが挿入されている。なお、上記画像符号化信号12
0aのヘッダH内では、微小単位時間データDk,表示
周期識別子Df,及び表示周期乗数データDmがこの順
序で伝送されるよう配列されている。
【0121】また、各フレームの符号列Sc0,Sc
1,Sc2,・・・,Scnには、上記表示時刻データ
Dy0,Dy1,Dy2,・・・,Dynに続いて、画
像符号化データCg0,Cg1,Cg2,・・・,Cg
nが挿入されている。
【0122】この画像符号化信号120aでは、基準時
刻をxとすると(図17(a) 参照)、VOP0,VOP
3,VOP1,・・・に対応する各フレームF(0),
F(1),F(2),・・・の表示時刻h(0),h(1),
h(2),・・・は、表示時刻データDy0,Dy1,D
y2,・・・に基づいて、x+y/N(y=y’0,
y’3,y’1,・・・)として求めることができる。
【0123】ところが、この画像符号化信号120aに
は、微小単位時間データDkと表示周期乗数データDm
が含まれているため、上記表示時刻データDy0,Dy
1,Dy21,・・・を用いなくても、微小単位時間デ
ータDkから得られる微小単位時間(1/N)と表示周
期乗数データDmから得られるM(自然数)の値とか
ら、フレームの表示周期T(=M×1/N)を求め、基
準時刻xにより決まる本来の各フレームF(n)の表示
時刻h(n)(=x+y×M×1/N)に各フレームの
画像を表示することができる。
【0124】図7(b)は、本発明の実施の形態2によ
る、フレーム表示周期が可変である画像符号化信号12
0bのデータ構造を示している。この画像符号化信号1
20bは、上記画像符号化信号120aにおけるヘッダ
部分Hの表示周期乗数データDmを取り除いたデータ構
造となっている。
【0125】以下、上記のような画像符号化信号120
aあるいは120bを生成する画像信号の符号化処理、
及びその復号化処理について説明する。図8は上記符号
化処理のフローを示す図である。まず、上記符号化処理
では、入力された所定の画像に対応する画像信号に対応
するビットストリームのヘッダ部に上記微小単位時間デ
ータDkが付加され(ステップS30)、さらに、該所
定の画像に対応する画像信号の表示周期が固定であるか
否かの判定が行われる(ステップS31)。この判定の
結果、表示周期が固定である場合は、上記画像信号の表
示周期が固定であることを示す表示周期固定識別子Df
が、上記ビットストリームのヘッダに、上記微小単位時
間データDkに続くよう付加され(ステップS32)、
さらに上記表示周期乗数データDmが上記ヘッダに上記
表示周期固定識別子Dfに続くよう付加される(ステッ
プS33)。その後、上記所定の画像を構成する各フレ
ームF(n)の伝送順序を示す番号nに相当するカウン
タ値nがn=0にセットされる(ステップS35)。
【0126】次に、上記伝送順序における最初のフレー
ムF(0)に対応する符号列として、対応するフレーム
の表示時刻データDyn(=Dy0)及び画像符号化デ
ータDgn(=Cg0)が順次上記ヘッダHに付加され
る(ステップS36,S37)。その後、上記画像信号
における処理対象フレームが、上記伝送順序における最
終のフレームであるか否かの判定が行われ(ステップS
38)、処理対象フレームが最終フレームでなければ、
上記伝送順序がn番目であるフレームF(n)(=F
(0))に対応するカウンタ値nが1つインクリメント
されて(ステップS39)、続くフレームF(n+1)
(=F(1))に対して、上記ステップS36〜S39
における処理が行われる。
【0127】上記ステップS36〜S39における処理
は、ステップS38にて処理対象フレームが最終フレー
ムであると判定されるまで繰り返し行われる。これによ
り上記画像符号化信号120aが生成される。
【0128】一方、上記ステップS31での判定の結
果、表示周期が可変である場合は、上記画像信号の表示
周期が可変であることを示す表示周期可変識別子Df
が、上記画像信号に対応するビットストリームのヘッダ
に、上記微小単位時間データDkに続くよう付加される
(ステップS34)。その後は、上記ステップS35〜
S39の処理が行われて、上記画像符号化信号120b
が生成される。
【0129】図9(a)は、上記本実施の形態2の符号化
処理を行うハードウエアとしての画像符号化装置120
0の構成を示すブロック図である。上記実施の形態2に
おける画像符号化装置1200は、上記実施の形態1の
画像符号化装置1000と同様、入力される画像信号S
gを符号化して符号化データCgnを生成する符号化器
1110と、上記入力される画像信号Sgに基づいて、
フレームの表示周期が一定であるか否か(つまり、表示
周期が固定であるか可変であるか)を判定して、表示周
期が一定であるか否かを示す表示周期識別子Dfを出力
する判定器1131とを有している。
【0130】また上記画像符号化装置1200は、上記
入力された画像信号Sgに基づいて、微小単位時間デー
タDkを生成する微小単位時間データ生成器(第1のデ
ータ生成器)1232と、上記入力された画像信号Sg
に基づいて、フレーム表示周期を微小単位時間を単位と
して表現するための数値Mを示す表示周期乗数データD
mを生成する表示周期乗数データ生成器(第2のデータ
生成器)1233と、上記入力された画像信号Sgに基
づいて、各フレームの表示時刻h(n)を示す表示時刻
データ(表示タイミングデータ)Dynを生成する表示
時刻データ生成器(第3のデータ生成器)1234とを
有している。
【0131】さらに、上記画像符号化装置1200は、
上記判定器1131からの表示周期識別子Dfに基づい
て、上記表示周期乗数データDmを導通させる導通状態
と該表示周期乗数データDmを遮断する遮断状態との間
で切り替わる開閉スイッチ1241を有している。
【0132】そして、上記画像符号化装置1200は、
上記第1のデータ生成器1232からの微小単位時間デ
ータDk,上記判定器1131からの表示周期識別子D
f,上記開閉スイッチ1241からの表示周期乗数デー
タDm,第3のデータ生成器1234からの表示時刻デ
ータDyn,及び上記符号化器1110からの画像符号
化データCgnを多重化して多重ビットストリームM2
を生成する多重化器(MUX)1220を有しており、
該多重ビットストリームM2を上記画像符号化信号12
0aあるいは画像符号化信号120bとして出力する構
成となっている。
【0133】以下簡単に上記画像符号化装置1200の
動作について説明する。まず、上記画像符号化装置12
00に所定の画像に対応する画像信号Sgが入力される
と、上記判定器1131では、該画像信号Sgの表示周
期が可変である否かの判定が行われ、判定結果を示す表
示周期識別子Dfが出力される。このとき、上記画像信
号Sgに基づいて、第1〜第3のデータ生成器1232
〜1234では、それぞれ上記微小単位時間データD
k,表示周期乗数データDm,及び表示時刻データDy
nが生成され、上記符号化器1110では、上記画像信
号Sgが符号化されて画像符号化データCgnとして出
力される。
【0134】またこのとき、上記微小単位時間データD
k,表示周期識別子Df,表示時刻データDyn及び画
像符号化データCgnは常に多重化器1220に出力さ
れ、上記表示周期乗数データDmは、表示周期識別子D
fにより導通状態となった開閉スイッチ1241を介し
て多重化器1220に出力される。
【0135】つまり、画像信号として、上記各フレーム
に対応する画像表示の周期が固定である画像信号が入力
されたとき、上記微小時間データDk,表示周期識別子
Df,表示周期乗数データDm、並びに、各フレームに
対応する表示時刻データDtn及び画像符号化データC
gnが上記多重化器1220に出力される。すると、該
多重化器1220では、上記微小単位時間データDk、
表示周期識別子Df、表示周期乗数データDm、画像符
号化データCgn、及び表示時刻データDynが多重化
されて、多重ビットストリームM2として画像符号化信
号120aが出力される。
【0136】一方、上記画像信号として、上記各フレー
ムに対応する画像表示の周期が可変である画像信号が入
力されたときは、上記開閉スイッチ1241は表示周期
識別子Dfにより遮断状態となり、上記微小単位時間デ
ータDf及び表示周期識別子Dfとともに、上記各フレ
ームの表示時刻データDyn及び画像符号化データCg
nが上記多重化器1220に出力される。すると該多重
化器1220では、上記微小単位時間データDf及表示
周期識別子Dfとともに、各フレームの表示時刻データ
Dyn及び画像符号化データCgnが多重化されて、多
重ビットストリームM2として画像符号化信号120b
が出力される。
【0137】次に、図10を用いて実施の形態2の画像
信号データ構造を有する画像符号化信号を復号化する復
号化処理について説明する。図10は上記実施の形態2
における復号化処理のフローを示す図である。まず、復
号化処理では、符号化側から送られてくる多重ビットス
トリームM2(画像符号化信号120aあるいは120
b)における微小単位時間データDkが読み込まれ(ス
テップS40)、さらに表示周期識別子Dfの検出によ
り、該画像符号化信号の表示周期が固定であるか否かが
判定される(ステップS41)。この判定の結果、表示
周期が固定であると判定されれば、画像符号化信号のヘ
ッダ部分Hから、表示周期Tが微小単位時間(1/N)
のM(自然数)倍であることを該乗数Mにより示す表示
周期乗数データDmが読込まれ(ステップS42a)、
続いて、上記読み込まれた微小単位時間データDk及び
表示周期乗数データDmに基づいて、フレーム表示周期
Tが演算T=(1/N)×Mにより求められる(ステッ
プS43a)。
【0138】その後、表示順で示される各フレームF’
(n’)の、先頭フレームからの順番n′に相当するカ
ウント値n′が0にセットされ(ステップS44a)、
各フレームF’(n’)の表示時刻h’(n’)が計算
式h’(n’)=n’×Tにより求められる(ステップ
S45a)。なおこのとき、伝送順に各フレームF
(n)に対応する画像符号化データCgnの復号化処理
が行われ、フレームF(n)に対応する画像復号化デー
タRgが生成される。
【0139】その後、表示順にカウントされる処理対象
フレームF’(n’)が上記所定の画像における最後の
フレームであるか否かが判定され(ステップS46
a)、処理対象フレームが最後のフレームであれば復号
化処理が終了し、最後のフレームでなければ、上記カウ
ンタ値n’が1つインクリメントされ(ステップS47
a)、上記ステップS45a〜47aの処理が、上記ス
テップS46aにて処理対象フレームが最終フレームで
あると判定されるまで繰り返し行われる。
【0140】なお、上記復号化処理では、上記復号化さ
れた各フレームF’(n’)に対応する画像復号化デー
タRgは、所定の表示順序n’で、対応する表示時刻
h’(n’)に表示される。一方、上記ステップS41
にて、表示周期が可変であると判定されれば、伝送順に
おける各フレームF(n)の順番nに相当するカウント
値nが0にセットされる(ステップS42b)。続い
て、各フレームF(n)のヘッダ部分Hからこのフレー
ムF(n)の表示時刻h(n)を示す表示時刻データDy
nが読込まれ(ステップS43b)、さらにこの表示時
刻データDynに基づいて各フレームF(n)の表示時
刻h(n)が求められる(ステップS44b)。なおこの
とき、伝送順に各フレームF(n)に対応する画像符号
化データCgnの復号化処理が行われる。
【0141】その後、伝送順にカウントされる処理対象
フレームF(n)が上記所定の画像における最後のフレ
ームであるか否かが判断され(ステップS44b)、該
処理対象フレームが最後のフレームであれば復号化処理
が終了する。一方、上記処理対象フレームが最後のフレ
ームでなければ、この復号化処理におけるカウント値n
が1つインクリメントされ(ステップS46b)、その
後、上記ステップS42b〜ステップS46bの処理
が、ステップS45bにて処理対象フレームが最後のフ
レームであると判定されるまで行われる。
【0142】なお、上記復号化処理では、復号化された
各フレームF(n)に対応する画像復号化データRg
は、所定の表示順序n’で、該各フレームF(n)に対
応する表示時刻h(n)に表示される。
【0143】図11(a)は上記実施の形態2の復号化処
理を行うハードウエアとしての画像復号化装置の構成を
示すブロック図である。この画像復号化装置2200
は、上記画像符号化装置2000から出力された画像符
号化信号120aあるいは120bである多重ビットス
トリームM2を復号化して再生する構成となっている。
【0144】すなわち、この画像復号化装置2200
は、上記多重ビットストリームM2から、微小単位時間
データDk,表示周期識別子Df,表示周期乗数データ
Dm,表示時刻データDyn,及び画像符号化データC
gnを取り出して出力するデータ分割器(DEMUX)
2210と、上記画像符号化データCgnを復号化して
画像復号化データRgを出力する復号化器2220とを
有している。
【0145】また、上記画像復号化装置2200は、上
記表示周期識別子Dfに基づいて、上記表示周期乗数デ
ータDmを導通させる導通状態と該データDmを遮断す
る遮断状態との間で切り替わる第1の開閉スイッチ22
40と、上記表示周期識別子Dfに基づいて、上記表示
時刻データDynを導通させる導通状態とこのデータD
ynを遮断する遮断状態との間で切り替わる第2の開閉
スイッチ2250とを有している。
【0146】さらに、上記画像復号化装置2200は、
上記微小単位時間データDk及び画像復号化データRg
とともに各スイッチ2240及び2250を介して表示
周期乗数データDm及び表示時刻データDtyを受け、
これらのデータ基づいて所定の表示タイミングで画像表
示する表示装置2230を有している。
【0147】以下簡単に上記画像復号化装置2200の
動作について説明する。まず、上記画像復号化装置22
00に、上記画像符号化装置1200からの多重ビット
ストリームM2が入力されると、データ分離器2210
にて、上記多重ビットストリームM2から微小単位時間
データDk,表示周期識別子Df及び表示周期乗数デー
タDmが分離され、さらに各フレーム毎に上記多重ビッ
トストリームM2から表示時刻データDyn及び画像符
号化データCgnが分離される。
【0148】そして、各フレームの画像符号化データC
gnは復号化器2220にて復号化されて画像復号化デ
ータRgとして表示装置2230に出力される。このと
き、上記微小単位時間データDkは直接上記表示装置2
230に出力され、上記表示周期乗数データDmは、表
示周期識別子Dfにより開閉される第1の開閉スイッチ
2240を介して表示装置2230に出力され、各フレ
ームの表示時刻データDynは、表示周期識別子Dfに
より開閉される第2の開閉スイッチ2250を介して上
記表示装置2230に出力される。ここでは、上記多重
ビットストリームM2が表示周期が固定である画像符号
化信号120aであるときは、上記第1,第2の開閉ス
イッチ2240,2250は導通状態となり、上記多重
ビットストリームM2が表示周期が可変である画像符号
化信号120bであるときは、上記第1,第2の開閉ス
イッチ2240,2250は遮断状態となる。
【0149】これにより、上記表示装置2230では、
表示周期が固定である画像復号化データRgに対応する
各フレームの画像は、微小単位時間データDk及び表示
周期乗数データDmに基づいて所定の表示タイミングで
表示される。この場合は、各フレームの表示タイミング
は、演算式T×n’(T=(1/N)×M)により決定
される表示時刻h’(n)’=となる。一方、表示周期が
可変である画像復号化データRgに対応するフレームの
画像は、表示時刻データDtyに基づいて所定の表示タ
イミングで表示される。この場合は、所定の表示タイミ
ングは、表示時刻データDtyにより決定される表示時
刻h(n)となる。
【0150】このように本実施の形態2では、画像符号
化信号を、各フレームに対応する表示周期が可変である
か否かを示す表示周期識別子Dfに加えて、所定の時間
間隔をN(自然数)等分して得られる微小単位時間(1
/N)の大きさを、該自然数Nにより示す微小単位時間
データDkと、上記固定のフレーム表示周期Tを、これ
が微小単位時間(1/N)の何倍(M)に相当するかに
より示す表示周期乗数データDmとを含むデータ構造と
したので、フレームレートが固定である画像符号化信号
のフレームレートの値(大きさ)を、各フレームのデコ
ード処理を行う前に予め検出することができ、表示処理
を実現するための種々のハードウエア構成を簡単なもの
とすることができるといった効果がある。
【0151】なお、上記実施の形態2では、復号化側で
の各フレームに対する再生処理のタイミングを決定する
ための付加データとして、各フレームの表示タイミング
を設定するための微小単位時間データDn,表示周期識
別子Df,表示周期乗数データDm,及び表示時刻デー
タDynを含む画像符号化信号のデータ構造について示
したが、画像符号化信号のデータ構造は、上記各フレー
ムの表示タイミングに代えて、各フレームの復号化処理
のタイミングを決定する付加データ,つまり微小単位時
間データ,復号周期識別子,復号周期乗数データ,及び
復号時刻データを含むものであってもよく、以下このよ
うなデータ構造を実施の形態2の変形例として説明す
る。
【0152】(実施の形態2の変形例)この実施の形態
2の変形例のデータ構造は、実施の形態2の画像符号化
信号120aにおける表示周期識別子Df及び表示周期
乗数データDpを、復号周期識別子DEf及び復号周期
乗数データDEpに置き換え、実施の形態2の画像符号
化信号120bにおける表示時刻データDynを、復号
時刻データDEynに置き換えたものである。
【0153】ここで、上記復号周期識別子DEfは、各
フレームに対応する、画像符号化信号を復号化する復号
化処理の周期が可変であるか否かを示すものであり、復
号化処理の周期DTが固定である画像符号化信号には復
号化周期固定識別子として、復号化処理の周期DTが可
変である画像符号化信号には復号化周期可変識別子とし
て挿入される。
【0154】また、上記復号周期乗数データDEmは、
各フレームに対応する復号化処理の周期DTを上記微小
単位時間(1/N)の乗数値Mにより、つまり該周期が
微小単位時間の何倍(M)に相当するかにより示すデー
タであり、上記復号時刻データDEynは、各フレーム
に対応する復号化処理が行われるタイミングを示すデー
タである。
【0155】また、実施の形態2の変形例のデータ構造
を有する画像符号化信号を生成する符号化処理は、図8
に示すフローにおけるステップS31,S32,S3
3,S34,S36の処理を以下のように置き換えるこ
とにより実現できる。
【0156】つまり、ステップS31における表示周期
の判定処理を、復号周期が固定であるか否かを判定する
処理に置き換え、ステップS32,S34における表示
周期固定識別子Df,表示周期可変識別子Dfを付加す
る処理を、それぞれ復号周期固定識別子DEf,復号周
期可変識別子DEfを付加する処理に置き換える。さら
にステップS33における表示周期乗数データDmを付
加する処理を、上記復号周期乗数データDEmを付加す
る処理に置き換え、ステップS36における表示時刻デ
ータDynを付加する処理を、上記復号時刻データDE
ynを付加する処理に置き換える。
【0157】また、図9(b)は、上記実施の形態2の変
形例の符号化処理を行うハードウエアとしての画像符号
化装置1200aの構成を示している。この画像符号化
装置1200aでは、上記実施の形態2における画像符
号化装置1200の判定器1131に代えて、上記入力
される画像信号Sgに基づいて、フレームに対応する復
号化処理の周期が一定であるか否か(つまり、復号周期
が固定であるか可変であるか)を判定して、復号周期が
一定であるか否かを示す復号周期識別子DEfを出力す
る判定器1131aを備えている。
【0158】また、上記画像符号化装置1200aは、
上記実施の形態2の画像符号化装置1200における表
示周期乗数データ生成器1233と表示時刻データ生成
器1234に代えて、それぞれ、上記入力された画像信
号Sgに基づいて、フレームの復号化処理の周期をこれ
が上記微小単位時間(1/N)の何倍に相当するかを示
す乗数値Mとしての復号周期乗数データDEmを生成す
る復号周期乗数データ生成器(第2のデータ生成器)1
233aと、上記入力された画像信号Sgに基づいて、
各フレームF(n)の復号時刻Dh(n)を示す復号時刻
データDEynを生成する復号時刻データ生成器(第3
のデータ生成器)1234aとを備えたものである。
【0159】また、この画像符号化装置1200aで
は、その多重化器1220aは、上記微小単位時間デー
タDk,復号周期乗数データDEm,及び復号時刻デー
タDEtyを各フレームF(n)の画像符号化データC
gnと多重化し、復号処理の周期が固定である画像符号
化信号,あるいは復号周期が可変である画像符号化信号
を、多重ビットストリームM2aとして出力する構成と
なっている。
【0160】その他の構成は上記実施の形態2の画像符
号化装置1200と同様である。以下、簡単にこの実施
の形態2の変形例による画像符号化装置1200aの動
作を説明する。このような構成の画像符号化装置120
0aでは、画像信号Sgが入力されると、上記判定器1
131aでは、該画像信号Sgの復号周期が可変である
否かの判定が行われて、判定結果を示す復号周期識別子
DEfが出力され、また、第1のデータ生成器1232
aでは上記微小単位時間データDkが、第2,第3のデ
ータ生成器1233a,1234aでは、復号周期乗数
データDEm,復号時刻データDEynがそれぞれ生成
され、上記符号化器1110では、上記画像信号Sgが
符号化されて画像符号化データCgnとして出力され
る。
【0161】そして、多重化器(MUX)1220aに
は、上記判定器1231aからの復号周期識別子DE
f,上記符号化器1110からの符号化データCgn,
及第1,第3のデータ生成器1232,1234aから
のデータDk,DEynが入力されるとともに、第2の
データ生成器1233aからの復号周期乗数データDE
mが開閉スイッチ1241aを介して入力される。する
と、該多重化器1220aからは、これらのデータが多
重化され、復号周期が固定である画像符号化信号、ある
いは復号周期が可変である画像符号化信号が、上記多重
ビットストリームM2aとして出力される
【0162】一方、実施の形態2の変形例のデータ構造
を有する画像符号化信号を復号化する復号化処理は、図
10に示すフローにおける所定ステップS41,S42
a,S43b,S44a,S44b,S45a,S47
aの処理を以下のように置き換えることにより実現でき
る。
【0163】具体的には、ステップS41における表示
周期の判定処理を、復号周期が固定であるか否かを判定
する処理に置き換え、ステップS42aにおける表示周
期乗数データDmを読み込む処理を、上記復号周期乗数
データDEmを読み込む処理に置き換え、ステップ43
bにおける表示時刻h(n)を示すデータDynを読み込
む処理を、上記復号時刻Dh(n)を示すデータDEyn
を読み込む処理に置き換える。
【0164】また、上記ステップS44bにおけるデー
タDynに基づいて表示時刻h(n)を求める処理を、デ
ータDEynに基づいて復号時刻Dh(n)を求める処理
に置き換え、ステップS44aにおける、表示順にカウ
ントされる各フレームF’(n’)の、先頭フレームか
らの順番n′に相当するカウント値n′が0にセットさ
れる処理を、伝送順にカウントされる各フレームF
(n)の、先頭フレームからの順番nに相当するカウン
ト値nが0にセットされる処理に置き換える。
【0165】さらに、ステップS45aにおける、各フ
レームF’(n’)の表示時刻h’(n’)が計算式
h’(n’)=n’×Tにより求められる処理を、各フ
レームF(n)の復号時刻Dh(n)が復号周期DTと
そのフレームの伝送順位を示す番号nとによりDh
(n)=n×DTにより求められる処理に置き換え、ス
テップS47aにおけるカウント値n′がインクリメン
トされる処理を、カウント値nがインクリメントされる
処理に置き換える。
【0166】また、図11(b)は、上記実施の形態2の
変形例の復号化処理を行うハードウエアとしての画像復
号化装置2200aの構成を示している。この画像復号
化装置2200aは、上記画像符号化装置1200aか
ら出力された多重ビットストリームM2aに対して、復
号化処理及び表示処理を含む再生処理を行う構成となっ
ている。
【0167】すなわち、この画像復号化装置2200a
は、上記実施の形態2における画像復号化装置2200
のデータ分離器2210に代えて、上記多重ビットスト
リームM2aから、微小単位時間データDk,復号周期
識別子DEf,復号周期乗数データDEm,復号時刻デ
ータDEyn,及び画像符号化データCgnを取り出し
て出力するデータ分離器(DEMUX)2210aを備
えている。
【0168】また、この画像復号化装置2200aは、
上記実施の形態2の画像復号化装置2200における第
1,第2の開閉スイッチ2240,2250に代えて、
復号周期乗数データDEmの導通,非導通を復号周期識
別子DEgに基づいて制御する第1の開閉スイッチ22
40aと、復号時刻データDEynの導通,非導通を復
号周期識別子DEgに基づいて制御する第2の開閉スイ
ッチ2250aとを備えている。
【0169】そして、この画像復号化装置2200aで
は、データ分離器2210aからの微小単位時間データ
Df、第1,第2のスイッチ2240a,2250aの
出力である復号周期乗数データDEm,復号時刻データ
DEynが、復号化器2220a及び表示装置2230
aに供給されるようになっている。
【0170】この復号化器2220aは、復号周期が固
定である各フレームF(n)の画像符号化データCgn
を、上記微小単位時間データDk及び復号周期乗数デー
タDEmに基づいて決まるタイミング(復号時刻Dh
(n)=DT×n)で各フレーム毎に復号化し、復号周期
が可変である各フレームF(n)の画像符号化データC
gnを、上記復号時刻データDEynに基づいて決まる
タイミング(復号時刻Dh(n))で各フレーム毎に復号
化する構成となっている。
【0171】また、上記表示装置2230aは、復号周
期が固定である各フレームF(n)の画像復号化データ
Rgを、上記微小単位時間データDk及び復号周期乗数
データDEmに基づいて決まるタイミング(表示時刻h
(n))で表示し、復号周期が可変である各フレームF
(n)の画像復号化データRgを、上記復号時刻データ
DEynに基づいて決まるタイミング(表示時刻h
(n))で表示する構成となっている。
【0172】その他の構成は上記実施の形態2の画像復
号化装置2200と同一である。以下、簡単に上記実施
の形態2の変形例による画像復号化装置2200aの動
作について説明する。このような構成の画像復号化装置
2200aでは、上記多重ビットストリームM2aが入
力されると、データ分離器2210aにて、微小単位時
間データDk,復号周期乗数データDEm,復号周期識
別子DEf,復号時刻データDEyn,及び画像符号化
データCgnが分離される。
【0173】そして、上記復号化器2220aでは、入
力された画像符号化信号の復号周期が固定であるとき
は、画像符号化データCgnが、上記微小単位時間デー
タDk及び復号周期乗数データDEm及びに基づいて決
まるタイミングで各フレーム毎に復号化され、入力され
た画像復号化信号の復号周期が可変であるときは、画像
符号化データCgnが、上記復号時刻データDEynに
基づいて決まるタイミング(復号時刻Dh(n))で各フ
レーム毎に復号化される。ここで復号周期が固定である
画像符号化信号の復号時刻は、伝送順序を示す番号nと
復号周期DT=(1/N)×M)との積により決まり、
復号周期が可変である画像符号化信号の復号時刻は、復
号周期データDEynにより決まる。
【0174】さらに、上記表示装置2230aでは、復
号周期が固定である画像復号化データRgに対応する各
フレームF(n)の画像は、微小単位時間データDk及
び復号周期乗数データDEmに基づいて所定の表示タイ
ミングで表示され、一方、復号周期が可変である画像復
号化データRgに対応するフレームF(n)の画像は、
復号時刻データDEtyに基づいて所定の表示タイミン
グで表示される。
【0175】このような実施の形態2の変形例では、上
記実施の形態2の同様、画像信号を符号化して得られる
画像符号化データCgnを、各フレームに対応する画像
復号化処理の周期が可変であるか否かを示す復号周期識
別子DEf,固定の復号周期を表す微小単位時間データ
Dk及び復号周期乗数データDEm,並びに復号時刻を
示す復号時刻データDEynを含む構成としたので、各
フレームに対する画像復号化処理の周期が固定である場
合には、簡単な回路構成により、つまり各フレーム毎に
情報量(ビット数)の多い復号時刻データDEynを参
照することなく、1つの画像に対応する微小単位時間デ
ータDk及び情報量(ビット数)の少ない復号周期乗数
データDEmのみに基づいて画像符号化信号の復号化処
理を簡単に行うことができる。
【0176】また、各フレームに対する画像復号化処理
の周期が可変である場合には、従来と同様に、各フレー
ム毎に復号時刻データDEynを参照して画像符号化信
号の復号化処理を行うことができるといった効果があ
る。
【0177】なお、上記実施の形態2の変形例の画像復
号化装置2200aでは、画像符号化信号に含まれる各
フレームに対する復号化処理のタイミングを決定するた
めのデータに基づいて、各フレームの復号化処理ととも
に、各フレームの画像表示を行うものを示したが、この
画像復号化装置は、画像符号化信号に含まれる各フレー
ムに対する表示処理のタイミングを決定するためのデー
タに基づいて、各フレームの表示処理とともに、各フレ
ームの復号化処理を行うものであってもよい。
【0178】この場合は、上記各フレームに対応する復
号化処理が行われる復号タイミングは、復号化処理の対
象となる対象フレームを含む複数のフレームの表示タイ
ミングデータに基づいて設定する。つまり、上記対象フ
レームの復号タイミングを、該対象フレームの表示タイ
ミングデータ及びその次にデータが伝送されてくる次フ
レームの表示タイミングデータに基づいて、該両フレー
ムのうちの早い方の表示タイミングより所定のオフセッ
ト時間だけ早いタイミングに設定する。
【0179】具体的には、復号化処理の対象となる対象
フレームの表示タイミングが、この対象フレームの次に
データが伝送されてくる次フレームの表示タイミングよ
り早いときは、上記オフセット時間を対象フレームに対
する復号化処理に要する時間以上の大きさに設定する。
一方、復号化処理の対象となる対象フレーム(例えばP
−VOP)の表示タイミングより、この対象フレームの
次にデータが伝送されてくる次フレーム(例えばB−V
OP)の表示タイミングの方が早いときは、上記オフセ
ット時間を対象フレームに対する復号化処理に要する時
間と、次フレームに対する復号化処理に要する時間の合
計時間以上の大きさに設定する。
【0180】さらに、上記各実施の形態及びその変形例
で示した画像符号化装置あるいは画像復号化装置による
画像処理をソフトウエアにより行うための符号化処理プ
ログラムあるいは復号化処理プログラムを、フロッピー
ディスク等のデータ記憶媒体に記録するようにすること
により、上記各実施の形態で示した処理を、独立したコ
ンピュータシステムにおいて簡単に実現することが可能
となる。
【0181】図12は、上記各実施の形態及びその変形
例の符号化処理あるいは復号化処理を、上記符号化処理
プログラムあるいは復号化処理プログラムを格納したフ
ロッピーディスクを用いて、コンピュータシステムによ
り実施する場合を説明するための図である。図12(a)
は、フロッピーディスクの正面からみた外観、断面構
造、及びフロッピーディスク本体を示し、図12(b)
は、該フロッピーディスク本体の物理フォーマットの例
を示している。
【0182】上記フロッピーディスクFDは、上記フロ
ッピーディスク本体DをフロッピーディスクケースFC
内に収容した構造となっており、該フロッピーディスク
本体Dの表面には、同心円状に外周からは内周に向かっ
て複数のトラックTrが形成され、各トラックTrは角
度方向に16のセクタSeに分割されている。従って、
上記プログラムを格納したフロッピーディスクFDで
は、上記フロッピーディスク本体Dは、その上に割り当
てられた領域(セクタ)Seに、上記プログラムとして
のデータが記録されたものとなっている。
【0183】また、図12(c)は、フロッピーディスク
FDに対する上記プログラムの記録、及びフロッピーデ
ィスクFDに格納したプログラムを用いたソフトウエア
による画像処理を行うための構成を示している。
【0184】上記プログラムをフロッピーディスクFD
に記録する場合は、コンピュータシステムCsから上記
プログラムとしてのデータを、フロッピーディスクドラ
イブFDDを介してフロッピーディスクFDに書き込む。
また、フロッピーディスクFDに記録されたプログラム
により、上記画像符号化装置あるいは画像復号化装置を
コンピュータシステムCs中に構築する場合は、フロッ
ピーディスクドライブFDDによりプログラムをフロッピ
ーディスクFDから読み出し、コンピュータシステムC
sにロードする。
【0185】なお、上記説明では、データ記憶媒体とし
てフロッピーディスクを用いて説明を行ったが、光ディ
スクを用いても上記フロッピーディスクの場合と同様に
ソフトウェアによる符号化処理あるいは復号化処理を行
うことができる。また、データ記憶媒体は上記光ディス
クやフロッピーディスクに限るものではなく、ICカー
ド、ROMカセット等、プログラムを記録できるもので
あればどのようなものでもよく、これらのデータ記録媒
体を用いる場合でも、上記フロッピーディスク等を用い
る場合と同様にソフトウェアによる符号化処理あるいは
復号化処理を実施することができる。
【0186】さらに、フロッピーディスク等のデータ記
憶媒体に格納された画像符号化信号を、本実施の形態
1,2あるいはこれらの変形例の画像信号データ構造と
することにより、上記フロッピーディスクからの画像符
号化信号を復号化して画像表示する際には、フレーム表
示周期あるいは復号化処理の周期が固定の場合に簡単な
回路構成により、画像符号化信号の復号化処理及び表示
処理を含む再生処理を行うことができる。
【0187】
【発明の効果】以上のようにこの発明(請求項1)に係
る画像符号化方法によれば、画像信号を符号化して出力
する画像符号化方法であって、前記画像信号を符号化し
た画像符号化データとともに、前記画像信号に含まれる
全てのフレームに対する画像再生処理の周期が固定であ
るか否かを示す再生周期識別子を出力し、前記再生周期
識別子によって前記画像再生処理の周期が固定であるこ
とが示される場合、前記再生周期識別子とともに、前記
画像再生処理の周期を示す再生周期データを出力するも
のとしたので、フレームレート(各フレームに対する画
像表示の周期)等の復号化側での各フレームに対する再
生処理の周期が固定である画像符号化信号に対して、簡
単なハードウエア構成により復号化処理や表示処理を含
む再生処理を施すことができる効果がある。
【0188】この発明(請求項2)によれば、請求項1
に記載の画像符号化方法において、前記再生周期識別子
は、前記画像信号に含まれる全てのフレームに対応する
画像再生の周期が固定であるか、あるいは可変でありう
るかを示すものであり、前記再生周期識別子が、前記画
像再生処理の周期が可変でありうることを示す場合、前
記再生周期識別子とともに、前記画像再生処理を行うタ
イミングを示す再生タイミングデータを出力するものと
したので、フレームの再生処理周期が固定である場合
に、再生処理時刻を定めるのに要するビット数を削減す
ることができ、しかも、フレームの再生処理周期が可変
である画像の再生処理を従来と同様に行うことが可能と
なる。
【0189】この発明(請求項3)によれば、請求項1
に記載の画像符号化方法において、前記再生周期識別子
は、前記フレームに対応する画像表示の周期が固定であ
るか否かを示す表示周期識別子であり、前記再生周期デ
ータは、前記画像表示の周期を示す表示周期データであ
るものとしたので、フレームの表示周期が固定である場
合に、表示時刻を定めるのに要するビット数を削減する
ことができ、しかも、フレームの表示周期が可変である
画像の表示処理を従来と同様に行うことが可能となる。
【0190】この発明(請求項4)によれば、請求項1
に記載の画像符号化方法において、前記再生周期識別子
は、前記画像信号を復号化する復号化処理の周期が固定
であるか否かを示す復号周期識別子であり、前記再生周
期データは、前記前記フレームの復号化処理の周期を示
す復号周期データであるものとしたので、フレームの復
号化処理の周期が固定である場合に、各フレームの復号
化処理の時刻を定めるのに要するビット数を削減するこ
とができ、しかも、フレームの復号化処理の周期が可変
である画像の復号化処理を簡単に行うことが可能とな
る。
【0191】この発明(請求項5)に係る画像符号化方
法によれば、画像に対応した画像信号を符号化して出力
する画像符号化方法であって、前記画像信号を符号化し
た画像符号化データとともに、前記画像信号に含まれる
全てのフレームに対する画像再生処理の周期が固定であ
るか否かを示す再生周期識別子を出力し、前記再生周期
識別子によって前記画像再生処理の周期が固定であるこ
とが示される場合、前記再生周期識別子とともに、所定
の時間間隔をN(自然数)等分して得られる微小単位時
間の大きさを表すために用いる、自然数Nを示す微小単
位時間データと、前記フレームに対応した画像再生処理
の周期が前記微小単位時間のM(自然数)倍であること
を表すために用いる、自然数Mを示す再生周期乗数デー
タとを出力するものとしたので、フレームレートが固定
である画像符号化信号のフレームレートの値(大きさ)
を、各フレームのデコード処理を行う前に予め検出する
ことができ、復号化処理及び表示処理を含む再生処理を
簡単なハードウエア構成により行うことができる。。
【0192】この発明(請求項6)によれば、請求項5
に記載の画像符号化方法において、前記再生周期識別子
は、前記画像信号に含まれる全てのフレームに対応する
画像表示の周期が固定であるか否かを示す表示周期識別
子であり、前記再生周期乗数データは、前記画像表示の
周期が前記微小単位時間のM(自然数)倍であることを
表すための表示周期乗数データであるものとしたので、
復号化側における表示処理を実現するための種々のハー
ドウエア構成を簡単なものとすることができる効果があ
る。
【0193】この発明(請求項7)によれば、請求項5
に記載の画像符号化方法において、前記再生周期識別子
は、前記画像信号に含まれる全てのフレームに対する復
号化処理の周期が固定であるか否かを示す復号周期識別
子であり、前記再生周期乗数データは、前記復号化処理
の周期が前記微小単位時間のM(自然数)倍であること
を表すための復号周期乗数データであるものとしたの
で、復号化処理を実現するための種々のハードウエア構
成を簡単なものとすることができる効果がある。
【0194】この発明(請求項8)に係る画像符号化装
置によれば、画像に対応した画像信号を符号化して出力
する画像符号化装置であって、前記画像信号を符号化し
て画像符号化データを出力する符号化器と、前記画像信
号に基づいて、前記画像信号に含まれる全てのフレーム
に対応する画像再生処理の周期が固定であるか、あるい
は可変でありうるかを判定し、前記判定結果を示す再生
周期識別子を出力する周期判定手段と、前記画像信号に
基づいて、前記フレームに対応する画像再生処理の周期
を示す再生周期データを生成する第1のデータ生成器
と、前記画像信号に基づいて、前記フレームに対応し
た、フレームの前後関係を示すフレーム位置データを生
成する第2のデータ生成器と、前記画像信号に基づい
て、前記フレームに対応する画像再生処理が行われるタ
イミングを示す再生タイミングデータを生成する第3の
データ生成器と、前記再生周期識別子に基づいて、前記
再生周期データを導通させる導通状態と前記再生周期デ
ータを遮断する遮断状態との間で切替えを行う開閉スイ
ッチと、前記再生周期識別子に基づいて、前記フレーム
位置データと前記再生タイミングデータの一方を選択す
る選択スイッチと、前記符号化器、前記周期判定手段、
前記開閉スイッチ、及び前記選択スイッチの出力を、所
定の順序で多重化して画像符号化信号とする多重化器
と、を備えたものとしたので、各フレームに対する画像
再生処理の周期が可変である画像信号と、フレームの画
像再生処理の周期が固定である画像信号とが、それぞれ
の画像信号に応じた、各フレームの再生処理タイミング
を示すデータが付加されて符号化されることとなる。こ
れによりフレームの再生処理周期が固定の場合に再生処
理時刻を定めるのに要するビット数を削減することがで
き、しかも、フレームの再生処理周期が可変である画像
の再生処理を簡単に行うことが可能となる。
【0195】この発明(請求項9)によれば、請求項8
に記載の画像符号化装置において、前記第1のデータ生
成器は、所定の時間間隔をN(自然数)等分して得られ
る微小単位時間の大きさを表すために用いる、自然数N
を示す微小単位時間データと、前記フレームに対応した
画像再生処理の周期が前記微小単位時間のM(自然数)
倍であることを表すために用いる、自然数Mを示す再生
周期乗数データとを生成するものとしたので、復号化側
では、フレームレートが固定である画像符号化信号のフ
レームレートの値(大きさ)を、各フレームのデコード
処理を行う前に予め検出することができ、復号化処理及
び表示処理を含む再生処理を簡単なハードウエア構成に
より行うことができる効果がある。
【0196】この発明(請求項10)に係る記憶媒体に
よれば、請求項1に記載の画像符号化方法をコンピュー
ターに行わせるための符号化処理プログラムを含むの
で、該プログラムをコンピュータにロードすることによ
り、フレームの再生処理周期が固定である場合に、再生
処理時刻を定めるのに要するビット数を削減することが
でき、しかも、フレームの再生処理周期が可変である画
像の再生処理を簡単に行うことができる装置をソフトウ
エアにより実現することができる。
【0197】この発明(請求項11)に係る記憶媒体に
よれば、請求項5に記載の画像符号化方法をコンピュー
ターに行わせるための符号化処理プログラムを含むの
で、該プログラムをコンピュータにロードすることによ
り、フレームレートが固定である画像符号化信号のフレ
ームレートの値(大きさ)を、各フレームのデコード処
理を行う前に予め検出することができ、復号化処理及び
表示処理を含む再生処理を簡単に行うことができる装置
をソフトウエアにより実現することができる。
【図面の簡単な説明】
【図1】本発明の実施の形態1による画像符号化信号の
データ構造を、フレーム表示周期が固定である場合(図
(a))とフレーム表示周期が可変である場合(図(b))と
を対比して示す図である。
【図2】上記実施の形態1の、フレーム表示周期が固定
である画像符号化信号に基づいた画像表示の様子を示す
図である。
【図3】 上記実施の形態1のデータ構造の画像符号化
信号を生成する符号化処理のフローを示す図である。
【図4】 上記実施の形態1,及びその変形例の符号化
処理を行う画像符号化装置の構成(図(a),図(b))を示
すブロック図である。
【図5】 上記実施の形態1のデータ構造の画像符号化
信号を復号化する復号化処理のフローを示す図である。
【図6】 上記実施の形態1、及びその変形例の復号化
処理を行う画像復号化装置の構成(図(a),図(b))を示
すブロック図である。
【図7】本発明の実施の形態2による、MPEG4に対
応した画像符号化信号のデータ構造を、フレーム表示周
期が固定である場合(図(a))とフレーム表示周期が可
変である場合(図(b))とを対比して示す図である。
【図8】 上記実施の形態2のデータ構造の画像符号化
信号を生成する符号化処理のフローを示す図である。
【図9】 上記実施の形態2、及びその変形例の符号化
処理を行う画像符号化装置の構成(図(a),図(b))を示
すブロック図である。
【図10】 上記実施の形態2のデータ構造の画像符号
化信号を復号化する復号化処理のフローを示す図であ
る。
【図11】 上記実施の形態2,及びその変形例の復号
化処理を行う画像復号化装置の構成(図(a),図(b))を
示すブロック図である。
【図12】上記各実施の形態の符号化及び復号化処理を
コンピュータシステムにより行うためのプログラムを格
納したデータ記憶媒体(図(a),(b))、及び上記コンピ
ュータシステム(図(c))を説明するための図である。
【図13】従来のMPEG2における固定フレームレー
トのテーブルを示す図である。
【図14】従来の画像データ構造を有する画像符号化信
号を説明するための概念図である。
【図15】1つの画像を構成するフレーム系列における
データ伝送順序とデータ表示順序を対比させて示す図で
ある。
【図16】従来の、フレーム表示周期が可変である画像
符号化信号に基づいた画像表示の様子を示す図である。
【図17】現在のMPEG4に対応した各フレーム(V
OP)の表示時刻の表現方法(図(a),(b))は、及びM
PEG4に対応した画像符号化信号の現状のデータ構造
(図(c))を説明するための図である。
【符号の説明】
100a,100b,120a,120b 画像符号化
信号 1000,1000a,1200,1200a 画像符
号化装置 1110 符号化器 1120,1120a,1220,1220a 多重化
器(MUX) 1131,1131a 判定器 1132 表示周期データ生成器(第1のデータ生成
器) 1132a 復号周期データ生成器(第1のデータ生成
器) 1133 番号データ生成器(第2のデータ生成器) 1134 表示時刻データ生成器(第3のデータ生成
器) 1134a 復号時刻データ生成器(第3のデータ生成
器) 1141,1241,1241a,2140 開閉スイ
ッチ 1142 選択スイッチ 1232 微小単位時間データ生成器(第1のデータ生
成器) 1233 表示周期乗数データ生成器(第2のデータ生
成器) 1233a 復号周期乗数データ生成器(第2のデータ
生成器) 1234 表示時刻データ生成器(第3のデータ生成
器) 1234a 復号時刻データ生成器(第3のデータ生成
器) 2000,2000a,2200,2200a 画像復
号化装置 2110,2110a,2220,2220a データ
分離器(DEMUX) 2120,2120a,2220,2220a 復号化
器 2130,2130a,2230,2230a 表示装
置 2140a,2240,2240a 第1の開閉スイッ
チ 2150a,2250,2250a 第2の開閉スイッ
チ 2160a 第3の開閉スイッチ Df 表示周期識別子 DEf 復号周期識別子 Dp 表示周期データ DEp 復号周期データ Dm 表示周期乗数データ DEm 復号周期乗数データ Dn 微小単位時間データ Dtn 表示時刻データ DEtn 復号時刻データ B0,B1,B2,Bn フレーム番号データ B(0)〜B(18),B(n) フレーム番号 Cg0,Cg1,Cg2,Cgn 画像符号化データ Dt0,Dt1,Dt2,Dtn 表示時刻データ Dy0,Dy1,Dy2,Dyn 表示時刻データ DEtn,DEtn′ 復号時刻データ F(0)〜F(18),F(n) フレーム F’(0)〜F’(18),F’(n’) フレーム H ヘッダ h(0)〜h(4),h’(0)〜h’(3),h(n),h’(n’)
表示時刻 M1,M1a,M2,M2a 多重ビットストリーム Rg 画像復号化データ Sg 画像信号 Sa0,Sa1,Sa2,San,Sb0,Sb1,S
b2,Sbn,Sc0,Sc1,Sc2,Scn 符号
列 t’(1)〜t’(4),t’(n’) 表示間隔

Claims (11)

    【特許請求の範囲】
  1. 【請求項1】 画像信号を符号化して出力する画像符号
    化方法であって、 前記画像信号を符号化した画像符号化データとともに、
    前記画像信号に含まれる全てのフレームに対する画像再
    生処理の周期が固定であるか否かを示す再生周期識別子
    を出力し、 前記再生周期識別子によって前記画像再生処理の周期が
    固定であることが示される場合、前記再生周期識別子と
    ともに、前記画像再生処理の周期を示す再生周期データ
    を出力することを特徴とする画像符号化方法。
  2. 【請求項2】 前記再生周期識別子は、前記画像信号に
    含まれる全てのフレームに対応する画像再生の周期が固
    定であるか、あるいは可変でありうるかを示すものであ
    り、 前記再生周期識別子が、前記画像再生処理の周期が可変
    でありうることを示す場合、前記再生周期識別子ととも
    に、前記画像再生処理を行うタイミングを示す再生タイ
    ミングデータを出力する、ことを特徴とする請求項1に
    記載の画像符号化方法。
  3. 【請求項3】 前記再生周期識別子は、前記フレームに
    対応する画像表示の周期が固定であるか否かを示す表示
    周期識別子であり、前記再生周期データは、前記画像表
    示の周期を示す表示周期データである、ことを特徴とす
    る請求項1に記載の画像符号化方法。
  4. 【請求項4】 前記再生周期識別子は、前記画像信号を
    復号化する復号化処理の周期が固定であるか否かを示す
    復号周期識別子であり、前記再生周期データは、前記前
    記フレームの復号化処理の周期を示す復号周期データで
    ある、ことを特徴とする請求項1に記載の画像符号化方
    法。
  5. 【請求項5】 画像に対応した画像信号を符号化して出
    力する画像符号化方法であって、 前記画像信号を符号化した画像符号化データとともに、
    前記画像信号に含まれる全てのフレームに対する画像再
    生処理の周期が固定であるか否かを示す再生周期識別子
    を出力し、 前記再生周期識別子によって前記画像再生処理の周期が
    固定であることが示される場合、前記再生周期識別子と
    ともに、所定の時間間隔をN(自然数)等分して得られ
    る微小単位時間の大きさを表すために用いる、自然数N
    を示す微小単位時間データと、前記フレームに対応した
    画像再生処理の周期が前記微小単位時間のM(自然数)
    倍であることを表すために用いる、自然数Mを示す再生
    周期乗数データとを出力することを特徴とする画像符号
    化方法。
  6. 【請求項6】 前記再生周期識別子は、前記画像信号に
    含まれる全てのフレームに対応する画像表示の周期が固
    定であるか否かを示す表示周期識別子であり、 前記再生周期乗数データは、前記画像表示の周期が前記
    微小単位時間のM(自然数)倍であることを表すための
    表示周期乗数データである、ことを特徴とする請求項5
    に記載の画像符号化方法。
  7. 【請求項7】 前記再生周期識別子は、前記画像信号に
    含まれる全てのフレームに対する復号化処理の周期が固
    定であるか否かを示す復号周期識別子であり、 前記再生周期乗数データは、前記復号化処理の周期が前
    記微小単位時間のM(自然数)倍であることを表すため
    の復号周期乗数データである、ことを特徴とする請求項
    5に記載の画像符号化方法。
  8. 【請求項8】 画像に対応した画像信号を符号化して出
    力する画像符号化装置であって、 前記画像信号を符号化して画像符号化データを出力する
    符号化器と、 前記画像信号に基づいて、前記画像信号に含まれる全て
    のフレームに対応する画像再生処理の周期が固定である
    か、あるいは可変でありうるかを判定し、前記判定結果
    を示す再生周期識別子を出力する周期判定手段と、 前記画像信号に基づいて、前記フレームに対応する画像
    再生処理の周期を示す再生周期データを生成する第1の
    データ生成器と、 前記画像信号に基づいて、前記フレームに対応した、フ
    レームの前後関係を示すフレーム位置データを生成する
    第2のデータ生成器と、 前記画像信号に基づいて、前記フレームに対応する画像
    再生処理が行われるタイミングを示す再生タイミングデ
    ータを生成する第3のデータ生成器と、 前記再生周期識別子に基づいて、前記再生周期データを
    導通させる導通状態と前記再生周期データを遮断する遮
    断状態との間で切替えを行う開閉スイッチと、 前記再生周期識別子に基づいて、前記フレーム位置デー
    タと前記再生タイミングデータの一方を選択する選択ス
    イッチと、 前記符号化器、前記周期判定手段、前記開閉スイッチ、
    及び前記選択スイッチの出力を、所定の順序で多重化し
    て画像符号化信号とする多重化器と、を備えたことを特
    徴とする画像符号化装置。
  9. 【請求項9】 前記第1のデータ生成器は、所定の時間
    間隔をN(自然数)等分して得られる微小単位時間の大
    きさを表すために用いる、自然数Nを示す微小単位時間
    データと、前記フレームに対応した画像再生処理の周期
    が前記微小単位時間のM(自然数)倍であることを表す
    ために用いる、自然数Mを示す再生周期乗数データとを
    生成する、ことを特徴とする請求項8に記載の画像符号
    化装置。
  10. 【請求項10】 請求項1に記載の画像符号化方法をコ
    ンピューターに行わせるための符号化処理プログラムを
    含むことを特徴とする記憶媒体。
  11. 【請求項11】 請求項5に記載の画像符号化方法をコ
    ンピューターに行わせるための符号化処理プログラムを
    含むことを特徴とする記憶媒体。
JP2001101256A 1997-10-31 2001-03-30 画像符号化方法,画像符号化装置,及び記憶媒体 Pending JP2001320706A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001101256A JP2001320706A (ja) 1997-10-31 2001-03-30 画像符号化方法,画像符号化装置,及び記憶媒体

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP30114897 1997-10-31
JP16109698 1998-06-09
JP9-301148 1998-06-09
JP10-161096 1998-06-09
JP2001101256A JP2001320706A (ja) 1997-10-31 2001-03-30 画像符号化方法,画像符号化装置,及び記憶媒体

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP29843798A Division JP3232052B2 (ja) 1997-10-31 1998-10-20 画像復号化方法

Related Child Applications (3)

Application Number Title Priority Date Filing Date
JP2002101681A Division JP2002359840A (ja) 1997-10-31 2002-04-03 画像符号化方法及び画像符号化装置
JP2002101682A Division JP2002359841A (ja) 1997-10-31 2002-04-03 画像復号化方法及び画像復号化装置
JP2008151716A Division JP4510909B2 (ja) 1997-10-31 2008-06-10 動画像符号化方法

Publications (2)

Publication Number Publication Date
JP2001320706A true JP2001320706A (ja) 2001-11-16
JP2001320706A5 JP2001320706A5 (ja) 2005-11-04

Family

ID=27321795

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001101256A Pending JP2001320706A (ja) 1997-10-31 2001-03-30 画像符号化方法,画像符号化装置,及び記憶媒体

Country Status (1)

Country Link
JP (1) JP2001320706A (ja)

Similar Documents

Publication Publication Date Title
JP3232052B2 (ja) 画像復号化方法
JP2000175155A (ja) 放送受信装置およびその方法
JP3232080B2 (ja) 画像符号化方法
JP3232081B2 (ja) 画像符号化方法
JP3232082B2 (ja) 画像復号化方法
JP4343411B2 (ja) 画像処理方法及び装置と再生方法とプログラム及び記憶媒体
JP4289753B2 (ja) 再生方法及び装置と表示装置
JP2001320706A (ja) 画像符号化方法,画像符号化装置,及び記憶媒体
JP2002359840A (ja) 画像符号化方法及び画像符号化装置
JP2002359841A (ja) 画像復号化方法及び画像復号化装置
JP2000224581A (ja) 放送受信装置及びその方法
MXPA98009022A (en) Structure of image signal data, image coding method and ima decoding method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050823

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071112

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080422