JP2000078582A - 画像符号化データ送信装置,画像符号化データ送信方法およびそのプログラム記録媒体 - Google Patents

画像符号化データ送信装置,画像符号化データ送信方法およびそのプログラム記録媒体

Info

Publication number
JP2000078582A
JP2000078582A JP24795098A JP24795098A JP2000078582A JP 2000078582 A JP2000078582 A JP 2000078582A JP 24795098 A JP24795098 A JP 24795098A JP 24795098 A JP24795098 A JP 24795098A JP 2000078582 A JP2000078582 A JP 2000078582A
Authority
JP
Japan
Prior art keywords
data
image
encoded data
encoded
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP24795098A
Other languages
English (en)
Inventor
Hideaki Kimata
英明 木全
Hiroyuki Yamaguchi
博幸 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP24795098A priority Critical patent/JP2000078582A/ja
Publication of JP2000078582A publication Critical patent/JP2000078582A/ja
Pending legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 送信側に参照画像を蓄積するための大容量の
バッファを用意することなく,入力した画像符号化デー
タを,受信側から指定された参照画像を持つ画像符号化
データに変換して送信することができるようにする。 【解決手段】 第1の画像符号化データを入力して蓄積
部15に蓄積し,復号装置20からの参照画像の指定信号の
受信状況に応じて,変換部17によって,蓄積部15のデー
タに対して動き補償処理を行うことにより,第1の画像
符号化データを参照画像の異なる第2の画像符号化デー
タに変換し,前記指定信号に基づいて,データ選択部18
により,第1の画像符号化データまたは第2の画像符号
化データを選択して送信する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は,ネットワークを介
して画像符号化データを送受信する画像通信システムに
係り,特に動画像送信側における画像符号化データの送
信装置および送信方法に関する。
【0002】
【従来の技術】画像データのデータ圧縮を目的とした画
像符号化方式として,主にフレーム間差分符号化を用い
た方法が用いられており,以下の2通りの方式がある。
【0003】第1に,MPEG2やH.263に代表さ
れる画像符号化方式では,画像メモリに参照画像とする
画像データを蓄積しておき,符号化対象のフレームの画
像情報と参照画像との差分情報に対して,DCTなどの
直交変換を行い,その結果を量子化することなどによっ
て符号化して,画像符号化データを作成する。
【0004】図19は,その第1の方式による画像デー
タの符号化器と復号器の構成例を示す。符号化器60
は,画像データを入力し,符号化部61で画像バッファ
63に蓄積された参照画像との差分情報を符号化する。
符号化データは,逆量子化部62により逆量子化され,
結果を後の符号化における参照画像とするために,画像
バッファ63に蓄積される。復号器64では,受信した
符号化データを復号部65にて,画像バッファ66に蓄
積した参照画像を参照することにより復号する。復号し
た画像データは,後の復号のために画像バッファ66に
蓄積する。
【0005】以上のように,フレーム間誤差情報を符号
化することによって画像符号化データを作成する。ただ
し,シーン・チェンジ(急に画面が変わった画像)な
ど,フレーム間の相関の低い部分については,通常,フ
レーム間の差分情報の符号化ではなく,フレーム内符号
化が選ばれる。また,フレーム間予測を続けていくと,
直交変換・逆変換等の誤差が蓄積していくため,一定回
数符号化する間に少なくとも1回はフレーム内符号化を
行って,誤差の蓄積を除去するなどの仕組みも定められ
ている。
【0006】しかし,この方式では,伝送エラーが発生
したりデータの一部が破棄されたりした場合には,以降
のフレームにもその影響が伝搬し,満足な動画像伝送が
できないという問題があった。
【0007】この問題を解決し,モバイル環境に代表さ
れる高エラー環境下での高品質な画像通信を実現するこ
とを目的として,復号側が符号化側に対して参照画像を
指定する方式(例えばH.263AnnexN)が提案
されている。図20に,その第2の方式による符号化器
と復号器の構成例を示す。
【0008】この第2の方式では,符号化器70側と復
号器75側の双方が複数の画像(通常,往復の伝送遅延
に相当する3〜9フレーム)を画像バッファ73,78
に蓄積しておき,復号側から符号化側にフレームごと
に,参照画像指定信号送信部79によって,参照画像の
指定信号を含む異常信号あるいは正常信号を送る。この
とき異常信号,正常信号のいずれかを必ず送ってもよい
し,エラーが発生したときにだけ異常信号を送ってもよ
い。符号化器70では,参照画像指定信号受信部74に
よってこの異常信号を受信すると,符号化部71は指定
された画像を画像バッファ73から読み出して参照画像
として,次の送信対象のフレームの画像符号化データを
作成して送信する。エラーが発生した画像ではなく,復
号側が正常に復号しているフレームを参照画像とするこ
とで,フレーム間差分符号化を継続しながらエラーの波
及を防ぐことができる。
【0009】また,従来,フレーム間差分符号化を用い
た画像符号化において,伝送ビットレートが小さい場合
などに,符号化側がフレーム間の誤差情報を利用して,
一部のフレームを間引くことにより符号化データ量を削
減するフレーム間引き技術が用いられている。そのフレ
ーム間引きの技術について簡単に説明する。図21は,
そのフレーム間引きを行う符号化データ作成装置の構成
例を示す。
【0010】符号化データ作成装置50は,符号化器5
2により画像データを符号化し,動画像符号化データX
をフレーム間引き部53へ送る。フレーム間引き部53
では,動画像符号化データXを符号化データバッファに
蓄積しておき,間引き制御部51の制御により,伝送ビ
ットレートが小さい場合などに一部のフレームを間引
き,その動画像符号化データX’を送信する。
【0011】
【発明が解決しようとする課題】図20で説明した第2
の方式には,以下のような問題がある。
【0012】(1)符号化側は,参照画像として指定さ
れる可能性のある画像を蓄積しておく必要があり,画像
データは画像符号化データよりも圧倒的にデータ量が大
きい(20〜50倍)ため,符号化側に大容量の参照用
の画像バッファ73を用意しておく必要がある。
【0013】(2)例えば図22に示すように,送信装
置80,中継サーバ81,複数の受信装置82〜85か
らなる画像通信システムにおいて,送信装置80に上記
第2の方式による画像符号化を用い,中継サーバ81が
受信した画像符号化データを各受信装置82〜85に配
送する場合,各受信装置82〜85から要求される参照
画像が異なるため,中継サーバ81は参照画像の指定信
号を送信装置80へ通知し,送信装置80は一つのフレ
ームに対して要求された数だけ異なる画像符号化データ
を作成して,中継サーバ81へ送信する必要が生じる。
その結果,受信装置の数が増えると,送信装置80の処
理負荷,送信装置80と中継サーバ81との間のデータ
送信量が増大し,中継サーバ81を設置する意味がなく
なってしまう。
【0014】(3)符号化装置と復号装置を同時に動作
させる必要があるため,予め画像符号化データを蓄積し
ておきそれを配信するような画像通信システムには適用
できない。
【0015】
【課題を解決するための手段】本発明における第1の構
成では,第1の画像符号化データを入力として,参照画
像とする画像データそのものを蓄積せずに,復号装置か
ら指定された参照画像をもつ第2の画像符号化データに
変換して送信するために,図1の画像符号化データ送信
装置14に示す通り,第1の画像符号化データを蓄積す
る蓄積部15,復号装置20から参照画像の指定信号を
受信する信号受信部16,該指定信号に基づき,蓄積部
15のデータに対して動き補償処理を行うことにより,
該第1の画像符号化データを参照画像の異なる第2の画
像符号化データに変換する変換部17,該指定信号に基
づいて第1の画像符号化データまたは第2の画像符号化
データを選択して送信するデータ選択部18を具備して
いる。
【0016】また,本発明における第2の構成では,画
像符号化データを入力として,参照画像とする画像デー
タそのものを蓄積せずに,参照画像の異なる複数の画像
符号化データを予め作成して蓄積しておき,復号装置か
ら指定された参照画像をもつ画像符号化データを選択し
て出力するために,図3の画像符号化データ送信装置3
0に示す通り,参照画像の指定を変更しながら動き補償
処理を繰り返し行うことにより,第1の画像符号化デー
タを参照画像の異なる複数の第2の画像符号化データに
変換する変換部31,この変換部31で作成した複数の
第2の画像符号化データを蓄積する蓄積部32,参照画
像の指定信号を受信する信号受信部33,第1の画像符
号化データおよび複数の第2の画像符号化データの中か
ら参照画像の指定信号に基づいて選択したデータを送信
するデータ選択部34を具備している。
【0017】さらに,第2の構成では,図5の画像符号
化データ送信装置30に示す通り,フレーム内符号化し
たイントラ符号化データを作成するイントラ符号化部3
5を具備することにより,例えば,消去済みのフレーム
が参照画像として指定された場合等にイントラ符号化デ
ータを送信することができるので,蓄積部32に蓄積す
べき符号化データ数を削減することができる。
【0018】請求項1,請求項6,請求項11に係る本
発明の第1の構成の動作原理を,図1および図2を用い
て説明する。図1に示す符号化器10は,画像データを
入力し,符号化部11で画像バッファ13に蓄積された
参照画像との差分情報を符号化する。画像符号化データ
は,画像符号化データ送信装置14へ送られるととも
に,逆量子化部12により逆量子化され,結果を後の符
号化で参照するために,画像バッファ13に蓄積され
る。
【0019】符号化器10から画像符号化データ送信装
置14に画像符号化データが入力されると(図2のS
1),変換部17は,フレーム単位の画像符号化データ
に分解し,フレーム単位に以下を実行する(S2〜S
6)。
【0020】まず,当該フレームを蓄積部15に蓄積す
るとともに(S2),データ選択部18に送る。このと
き,信号受信部16が参照画像の指定信号(フレーム番
号)を受信すると(S3),変換部17に対し,参照画
像のフレーム番号を指定して,当該フレームの画像符号
化データの変換を指示する。変換部17は蓄積済みのデ
ータを用いて,当該フレームの画像符号化データに対し
て動き補償を行うことにより,指定されたフレームを参
照画像とする画像符号化データに変換し(S5),デー
タ選択部18へ送る。信号受信部16はデータ選択部1
8に対して,変換後の画像符号化データを選択するよう
指示する。データ選択部18は変換後の画像符号化デー
タを復号装置20へ送信する(S6)。
【0021】信号受信部16が参照画像の指定信号を受
信しなければ,信号受信部16は,データ選択部18に
入力時の画像符号化データを送信するよう指示する。デ
ータ選択部18は入力時の画像符号化データを復号装置
20へ送信する(S4)。
【0022】変換部17では,蓄積部15のデータを用
いて,当該フレームの画像符号化データに対して,動き
補償処理(動きベクトル信号,動き補償信号の再編成)
を行い,参照画像の異なる画像符号化データに変換す
る。その際,図21で説明したようなフレーム間引き技
術,すなわちフレーム間差分符号化を用いた画像符号化
において,伝送ビットレートが小さい場合などに,符号
化側がフレーム間の誤差情報を利用して,一部のフレー
ムを間引くことにより符号化データ量を削減するフレー
ム間引き技術を利用することが可能である。
【0023】例えば,「フレームレート変換トランスコ
ーダの検討」(田治米他,1998年電子情報通信学会
総合大会)では,予測誤差信号に動きベクトルを用いて
動き補償処理を行い,その結果と動きベクトルを蓄積し
ておくことにより画像が復号できることに着目して,フ
レーム間引きを行う。つまり,処理済みのフレームに対
する動きベクトルと予測誤差信号に対する動き補償結果
を蓄積しておく。処理対象のフレームの画像符号化デー
タに対して,動きベクトルを取り出すとともに,予測誤
差信号を逆量子化する。次に,逆量子化した信号に対し
て,蓄積した動きベクトル,動き補償結果を用いて,周
波数領域で動き補償処理を行い,間引きしないフレーム
を参照画像とするように動きベクトル,予測誤差信号の
再編成を行う。その結果を再度量子化し,動きベクトル
と多重化して出力するとともに,動き補償結果および動
きベクトルを蓄積する。
【0024】以上は,後述する本発明の第2,第3,第
4の構成における変換部についても同様である。
【0025】一方,復号装置20は,フレーム単位に画
像符号化データを受信すると,まず,誤り検出部21に
おいて,受信した画像符号化データの伝送エラー等をチ
ェックする。誤り検出部21が誤りを検出すると,その
結果を参照画像指定信号送信部24へ送る。参照画像指
定信号送信部24は画像蓄積部(画像バッファ)23を
参照し,すでに復号済みの画像データを選択して,その
画像のフレーム番号を画像符号化データ送信装置14へ
送信し,当該フレームの復号は行わない。
【0026】誤り検出部21が誤りを検出しないとき
は,受信した画像符号化データを復号部22へ送り,復
号部22は,画像蓄積部23に格納した復号済みの画像
データを参照して当該フレームの画像符号化データを復
号し,復号した画像データを画像蓄積部23へ蓄積する
とともに出力する。
【0027】なお,復号装置20が復号の成否に応じ
て,正常信号または参照画像の指定信号を信号受信部1
6へ送信するようにしてもよいし,エラー等が発生した
場合にだけ参照画像の指定信号を送信し,信号受信部1
6は一定時間内に参照画像の指定信号を受信しなけれ
ば,受信なしとみなすようにしてもよい。
【0028】また,図1では,画像符号化データ送信装
置14は,符号化器10から出力される画像符号化デー
タを入力としているが,予め蓄積しておいた画像符号化
データを入力としてもよい。
【0029】例えば,リアルタイム画像の通信の場合は
以下のように動作する。リアルタイム画像の通信におけ
る手順としては,まず,画像データを符号化する符号化
器10から得られる符号化データを,受信側の復号装置
20に送信する一方で,予め蓄積部15に蓄積してお
く。復号装置20では,受信した符号化データを復号部
22にて復号し,参照画像として指定する画像を画像蓄
積部23に蓄積し,参照画像指定信号送信部24にてそ
のフレーム番号を送信側の画像符号化データ送信装置1
4に送信する。送信側では,信号受信部16にてフレー
ム番号を受信すると,変換部17は蓄積部15に蓄積し
てある符号化データを用いて,指定された画像を参照画
像にするように設定し最新の時刻の符号化データを作成
する。作成した符号化データを受信側の復号装置20に
送信する。復号装置20では,その符号化データを受信
すると,画像蓄積部23に蓄積してある画像を参照画像
に用いて符号化データを復号する。
【0030】また,蓄積データの通信の場合は以下のよ
うに動作する。蓄積データの通信における手順として
は,符号化器10にて符号化された画像符号化データ
は,すでに蓄積されているので,リアルタイム画像の通
信の場合と同様に,受信側から指定される画像を参照画
像にするように,蓄積してある符号化データに対してフ
レーム間引きを行う。送信側は参照画像を変更した符号
化データを受信側の復号装置20に送信し,復号装置2
0はその符号化データを画像蓄積部23に蓄積してある
画像を用いて復号する。これらの手順に関して,中継サ
ーバを利用した符号化データの配信の場合には,フレー
ム間引きを中継サーバが行うことによって,符号化器か
ら中継サーバまでの通信量を増加することなく実行する
ことができる。
【0031】以上説明した画像符号化データ送信装置1
4の各手段を計算機によって実現するためのプログラム
は,計算機が読み取り可能な可搬媒体メモリ,半導体メ
モリ,ハードディスクなどの適当な記録媒体に格納する
ことができる。
【0032】以上に示したように,本発明の第1の構成
では,次の作用効果がある。画像符号化データを蓄積す
るための符号化データ蓄積部のみを用意すればよく,画
像データを蓄積するための大量の画像メモリが不要とな
る。また,画像符号化データを入力として,それらを復
号せずに画像符号化データの変換が可能なので,画像デ
ータベースのように予め画像データを符号化して蓄積し
ておいた画像符号化データを用いた画像通信システムに
適用することができる。
【0033】次に,請求項2,請求項7,請求項12に
係る本発明の第2の構成を図3および図4を用いて説明
する。図3の画像符号化データ送信装置30に画像符号
化データが入力されると(図4のS10),フレーム単
位に以下を実行する(S11〜S13)。
【0034】まず,当該フレームの画像符号化データを
変換部31およびデータ選択部34へ送る。変換部31
は,まず当該フレームの画像符号化データをフレーム単
位に分解し,変換部31内に蓄積する。次に,変換部3
1内に蓄積済みの画像符号化データの各フレームを参照
画像として変更しながら,当該フレームの画像符号化デ
ータに対して動き補償を繰り返し行うことにより,参照
画像の異なる複数の画像符号化データを作成し,蓄積部
32に蓄積する(S11)。
【0035】このとき,信号受信部33が参照画像の指
定信号(フレーム番号)を受信すると(S12),デー
タ選択部34に対して,参照画像のフレーム番号を指定
し,該当する画像符号化データを送信するよう指示す
る。データ選択部34は,蓄積部32から該当する画像
符号化データを選択して復号装置20へ送信する(S1
3)。
【0036】信号受信部33が参照画像の指定信号を受
信しなければ,データ選択部34に対して,入力時の当
該フレームの画像符号化データを送信するよう指示す
る。データ選択部34は,入力時の当該フレームの画像
符号化データを復号装置20へ送信する。
【0037】例えば,変換部31に,F1,F2,F3
の3フレーム分の入力画像符号化データが蓄積され,蓄
積部32に,F13,F23(Fijはフレームiを参
照画像とするフレームjの画像符号化データ)が蓄積さ
れているとき,フレームF4が入力されると,変換部3
1はF4を変換部31に蓄積するとともに,蓄積済みの
F1,F2,F3を用いて,F4をF14,F24,F
34へ変換し,蓄積部32のF12,F13を削除し
て,F14,F24,F34を蓄積する。
【0038】信号受信部33が復号装置20から参照画
像の指定信号を受信すると,F14〜F34からその指
定信号(フレーム番号)に応じた画像符号化データを選
択して送信する。信号受信部33が復号装置20から参
照画像の指定信号を受信しなければ,F4をそのまま送
信する。復号装置20の動作は,図1で説明した本発明
の第1の構成の場合と全く同じである。
【0039】なお,図3では,画像符号化データ送信装
置30は,符号化器10から出力される画像符号化デー
タを入力としているが,予め蓄積しておいた画像符号化
データを入力としてもよい。
【0040】例えば,リアルタイム画像の通信の場合は
以下のように動作する。リアルタイム画像の通信におけ
る手順としては,まず,画像データを符号化する符号化
器10から得られる符号化データを,受信側の復号装置
20に送信する一方で,この符号化データから,変換部
31は,間引くフレーム数を変更しながら,異なる参照
画像に対する最新時刻の符号化データを予め作成してお
く。復号装置20では,受信した符号化データを復号
し,参照画像として指定する画像を画像蓄積部23に蓄
積し,参照画像指定信号送信部24にてそのフレーム番
号を,画像符号化データ送信装置30に送信する。画像
符号化データ送信装置30では,信号受信部33にてフ
レーム番号を受信すると,予め作成して蓄積部32に蓄
積してある符号化データのうち,参照画像の該当する符
号化データを選択し,受信側に送信する。復号装置20
では,その符号化データを受信すると画像蓄積部23に
蓄積してある画像を参照画像に用いて符号化データを復
号する。
【0041】また,蓄積データの通信の場合は以下のよ
うに動作する。蓄積データの通信における手順として
は,予め蓄積されている符号化データから,リアルタイ
ム画像の通信の場合と同様に,変換部31は,間引くフ
レーム数を変更しながら,異なる参照画像に対する最新
時刻の符号化データを予め作成しておく。画像符号化デ
ータ送信装置30は,受信側の復号装置20から指定さ
れた画像を参照画像にする符号化データを選択して受信
側に送信し,復号装置20はその符号化データを画像蓄
積部23に蓄積してある画像を用いて復号する。これら
の手順に関して,中継サーバを利用した符号化データの
配信の場合には,フレーム間引きを中継サーバが行うこ
とによって,符号化器から中継サーバまでの通信量を増
加することなく実行することができる。
【0042】以上によって,参照画像バッファを増加す
ることなく,蓄積データの送信にも有効に対応でき,中
継サーバを有効に経由することができる。複数の参照画
像を蓄積するためのバッファが必要ないことは言うまで
もない。
【0043】以上説明した画像符号化データ送信装置3
0の各手段を計算機によって実現するためのプログラム
は,計算機が読み取り可能な可搬媒体メモリ,半導体メ
モリ,ハードディスクなどの適当な記録媒体に格納する
ことができる。
【0044】以上に示したように,本発明の第2の構成
では,参照画像の異なる画像符号化データを予め作成し
ておくので,第1の構成で示した効果に加えて,送信す
べき復号装置20の数が増えても,画像符号化データの
変換に要する時間が変わらないという作用効果がある。
【0045】請求項3,請求項8,請求項13に係る本
発明の第3の構成は,図5および図6に示す通り,第2
の構成に画像符号化データを入力してフレーム内符号化
処理を行うイントラ符号化部35を追加したものであ
る。
【0046】図5の画像符号化データ送信装置30に画
像符号化データが入力されると(図6のS20),フレ
ーム単位に以下を実行する(S21〜S27)。まず,
当該フレームを変換部31,イントラ符号化部35およ
びデータ選択部34に送る。変換部31は,まず当該フ
レームの画像符号化データを変換部31内に蓄積する。
次に,変換部31内に蓄積済みの画像符号化データの各
フレームを参照画像として変更しながら,当該フレーム
の画像符号化データに対して動き補償を繰り返し行うこ
とにより,参照画像の異なる複数の画像符号化データを
作成し,蓄積部32に蓄積する(S21)。
【0047】イントラ符号化部35は,フレーム内符号
化処理を行って,当該フレームのイントラ符号化データ
を作成し,蓄積部32に蓄積する(S22)。
【0048】このとき,信号受信部33が参照画像の指
定信号(フレーム番号)を受信すると(S23),デー
タ選択部34に対して,参照画像のフレーム番号を指定
し,該当する当該フレームの画像符号化データを送信す
るよう指示する。データ選択部34は,信号受信部33
から参照画像を指定されたとき,該当する画像符号化デ
ータがあるかどうか蓄積部32をチェックする(S2
5)。該当する画像符号化データが蓄積部32にあれ
ば,それを選択して復号装置20へ送信する(S2
7)。なければイントラ符号化データを選択して復号装
置20へ送信する(S26)。
【0049】信号受信部33が参照画像の指定信号を受
信しなければ,データ選択部34に対して,入力時の当
該フレームの画像符号化データを送信するよう指示す
る。データ選択部34は,入力時の当該フレームの画像
符号化データを復号装置20へ送信する(S24)。
【0050】例えば,変換部31に,F1,F2,F3
の3フレーム分の入力画像符号化データが蓄積され,蓄
積部32に,F13,F23,F33(Fijはフレー
ムiを参照画像とするフレームjの画像符号化データ,
Fii はフレームiのイントラ符号化データ)が蓄積さ
れている場合を考える。
【0051】フレームF4が入力されると,変換部31
はF4を変換部31に蓄積するとともに,蓄積済みのF
1,F2,F3を用いてF4をF14,F24,F34
へ変換し,蓄積部32のF12,F13を削除してF1
4,F24,F34を蓄積する。また,イントラ符号化
部35はF44を作成して蓄積部32に蓄積する。
【0052】信号受信部33が復号装置20から参照画
像の指定信号を受信すると,F14〜F34からその指
定信号(フレーム番号)に応じた画像符号化データを選
択して送信する。変換部31が削除済みのフレームを参
照画像として指定された場合(例えばF04)には,F
44を選択して送信する。信号受信部33が復号装置2
0から参照画像の指定信号を受信しなければ,F4をそ
のまま送信する。復号装置20の動作は,前述した本発
明の第1の構成の場合と同じである。
【0053】以上説明した本発明の第3の構成に係る画
像符号化データ送信装置30の各手段を計算機によって
実現するためのプログラムは,計算機が読み取り可能な
可搬媒体メモリ,半導体メモリ,ハードディスクなどの
適当な記録媒体に格納することができる。
【0054】以上,示したように,第3の構成では,復
号装置20から指定された参照画像をもつ画像符号化デ
ータが蓄積されていない場合にも対処することができ,
蓄積部32のメモリ量をさらに削減できるという作用効
果がある。
【0055】請求項4,請求項9,請求項14に係る本
発明の第4の構成は,図7および図8に示す通り,本発
明の第2および第3の構成を,図22に示すような画像
通信システムにおける中継サーバ81に適用したもので
ある。
【0056】図7の画像符号化データ送信装置30に画
像符号化データが入力されると(図8のS30),フレ
ーム単位に以下を実行する(S31〜S37)。まず,
当該フレームを変換部31,イントラ符号化部35およ
びデータ選択部34に送る。変換部31は,まず当該フ
レームの画像符号化データを変換部31内に蓄積する。
次に,変換部31内に蓄積済みの画像符号化データの各
フレームを参照画像として変更しながら,当該フレーム
の画像符号化データに対して動き補償を繰り返し行うこ
とにより,参照画像の異なる複数の画像符号化データを
作成し,蓄積部32に蓄積する(S31)。
【0057】イントラ符号化部35は,フレーム内符号
化処理を行って,当該フレームのイントラ符号化データ
を作成し,蓄積部32に蓄積する(S32)。
【0058】復号装置から参照画像の指定信号および送
信先の指定信号を受信しなければ(S33),データ選
択部34は,入力時の画像符号化データを各復号装置2
0,20’…に対して送信する(S34)。
【0059】図7に破線で示すように,ある復号装置2
0から上記2つの信号を受信すると,データ選択部34
は,該当する画像符号化データがあるかどうか蓄積部3
2をチェックする(S35)。該当する画像符号化デー
タが蓄積部32にあれば,それを選択して復号装置20
へ送信する(S37)。なければイントラ符号化データ
を選択して復号装置20へ送信する(S36)。また,
入力時の画像符号化データをその他の復号装置へ送信す
る。
【0060】例えば,図7に示す画像符号化データ送信
装置30をA,イントラ符号化部をもたない第2の構成
を適用した中継サーバをB,2台の復号装置をC,Dと
する構成で,各復号装置が参照画像の指定信号を含む異
常信号または正常信号を中継サーバへ送信する場合を考
える。
【0061】いま,変換部31に,F1,F2,F3の
3フレーム分の入力画像符号化データが蓄積され,蓄積
部32に,F13,F23,(Fijはフレームiを参
照画像とするフレームjの画像符号化データ)が蓄積さ
れており,2台の復号装置C,Dへ第3フレームの画像
符号化データF3を送信し,復号装置Cでエラーが発生
し,復号装置Dで正常受信した場合のフローを図9に示
す。
【0062】このように,画像通信システムの中継サー
バに適用すれば,参照画像を変更した符号化データの変
換および配信を中継サーバで実行することができるの
で,受信装置の数が増えても送信装置から中継サーバへ
の通信量が増加しないという作用効果がある。
【0063】
【発明の実施の形態】〔本発明の第1の実施の形態〕本
発明に係る装置と復号装置との1対1通信の実施の形態
について図面を参照して説明する。受信側は,送信側に
て蓄積メディアに蓄積してある符号化したデータを,無
線伝送路などの伝送エラーの載る通信路を介して受信
し,リアルタイムに復号画像を出力するために,誤りの
載ったデータの再送を行わない場合の例である。また,
本実施の形態では,符号化データに誤りが載った場合に
は,指定した参照画像の符号化データを受信するまで復
号処理を行わないとする。
【0064】符号化方式はMPEG−2を用いており,
第1フレームをIフレームで符号化し,その他のフレー
ムをPフレームで符号化してある,すなわち直前のフレ
ームを参照画像にしているものとする。送信側と受信側
との遅延時間は1フレームとする。
【0065】図10は,本発明の第1の実施の形態の構
成を示す。本実施の形態では,送信側に,符号化データ
蓄積部101に蓄積されている符号化データを符号化デ
ータ間引き部102に送信するのか,直接受信側に送信
するのかを変更する符号化データ変更手段104と,符
号化データ蓄積部101に蓄積してある符号化データを
フレーム間引きを行わずに送信する符号化データ送信部
111と,受信側からフレーム間引きを実行する信号を
受信する間引き実行受信部112と,間引きを行ったこ
とを伝える間引き実行確認信号を送信する間引き実行確
認送信部113と,送信側からの符号化データと信号を
多重化する送信側多重化部116とを備える。
【0066】受信側には,受信した符号化データに誤り
が載っているかどうかを検出する誤り検出部106と,
送信側にフレーム間引きを行うことを指定する間引き実
行指定部105と,間引きを実行したことを確認する間
引き実行確認信号を受信する間引き実行確認受信部11
4と,受信した符号化データを誤り検出部106に送信
するかどうかを変更するデータ受信変更手段115と,
受信したデータを符号化データと信号に分解する受信側
多重化部117とを備える。
【0067】本実施の形態では,参照画像を指定する手
段は,復号した画像の番号を蓄積する復号画像指定部1
10と,復号画像指定部110に蓄積してあるフレーム
番号を送信する参照画像指定送信部107とで構成され
る。
【0068】送信側では,符号化データ変更手段104
は,受信側からフレーム間引きを実行する信号である間
引き実行信号を受信すると,受信直後の符号化データ送
信部111からの符号化データを送信することを停止す
るように変更され,次の符号化データに関しては,符号
化データ送信部111からの符号化データを送信するよ
うに変更される。初期状態は,符号化データ送信部11
1から符号化データを送信する方向になっているものと
する。間引き実行確認送信部113は,符号化データの
間引きが行われると,間引き実行確認信号を送信する。
【0069】受信側では,誤り検出部106は,一度符
号化データに誤りを検出すると,復号部108に符号化
データを送信せず,データ受信変更手段115を変更
し,符号化データを誤り検出部106に入力しない。間
引き実行確認受信部114は,間引き実行確認信号を受
信すると,データ受信変更手段115を変更し,符号化
データを誤り検出部106に入力する。参照画像指定送
信部107は,誤り検出部106にて誤りが検出される
と,復号画像指定部110に蓄積されているフレーム番
号を送信する。間引き実行指定部105は,誤り検出部
106にて誤りが検出されると,送信側にフレーム間引
きを実行させる間引き実行信号を送信する。
【0070】送信側多重化部116で多重化され,受信
側多重化部117で分解されるデータのうち,送信側か
ら受信側に送信されるデータは,符号化データ送信部1
11から送信される符号化データまたは符号化データ間
引き部102から送信される符号化データに続き,間引
きを行った場合には間引き実行確認信号となる。このデ
ータフォーマットを,図11に示す。他方,受信側から
送信側に送信されるデータは,間引き実行指定部105
から送信される間引き実行信号に続き,参照画像指定送
信部107から送信されるフレーム番号となる。このデ
ータフォーマットを,図12に示す。
【0071】以上の構成のもと,第1フレームの符号化
データから通信を開始し,第2フレームにて伝送エラー
が載り,受信側が,エラーの載っていない第1フレーム
を参照画像に指定するものとする。このときの第1フレ
ームから第5フレームを送信するまでの例を説明する。
図13は,本実施の形態の送信側と受信側の動作フロー
を表すものである。送信側にてフレーム単位に符号化デ
ータを読み出す時刻に実行される処理をSTEPにて表
すこととする。
【0072】STEP1にて,第1フレームを読み出す
時には,送信側では,符号化データ送信部111は,符
号化データ蓄積部101から第1フレームの符号化デー
タを読み出す。符号化データ変更手段104は符号化デ
ータ送信部111から符号化データを送信する方向にな
っているため,符号化データ送信部111から送信側多
重化部116に符号化データは送信される。送信側多重
化部116は,符号化データのみ受信側に送信する。
【0073】STEP2にて,第2フレームを読み出す
時には,送信側では,符号化データ送信部111は,符
号化データ蓄積部101から第2フレームの符号化デー
タを読み出す。符号化データ変更手段104は,符号化
データ送信部111から符号化データを送信する方向に
なっているため,符号化データ送信部111から送信側
多重化部116に符号化データは送信される。送信側多
重化部116は,符号化データのみ受信側に送信する。
一方,受信側では,この時点で第1フレームの符号化デ
ータを受信する。受信側多重化部117は,データ受信
変更手段115が受信した符号化データを誤り検出部1
06に入力するようになっているため,符号化データを
誤り検出部106に送信する。誤り検出部106は誤り
を検出しないので,復号部108に符号化データを送信
する。復号部108は,Iフレームであるため参照画像
を利用せずに符号化データを復号し,画像蓄積部109
に蓄積する。復号された画像のフレーム番号1は,復号
画像指定部110に蓄積される。受信側多重化部117
は,送信側には何も送信しない。
【0074】STEP3にて,第3フレームを読み出す
時には,送信側では,符号化データ送信部111は,符
号化データ蓄積部101から第3フレームの符号化デー
タを読み出す。符号化データ変更手段104は,符号化
データ送信部111から符号化データを送信する方向に
なっているため,符号化データ送信部111から送信側
多重化部116に符号化データは送信される。送信側多
重化部116は,符号化データのみ受信側に送信する。
一方,受信側では,この時点で第2フレームの符号化デ
ータを受信する。受信側多重化部117は,データ受信
変更手段115が受信した符号化データを誤り検出部1
06に入力するようになっているため,符号化データを
誤り検出部106に送信する。誤り検出部106は誤り
を検出するので,復号部108に符号化データを送信し
ない。また,データ受信変更手段115を,符号化デー
タを誤り検出部106に入力しないように変更する。そ
して,参照画像指定送信部107は誤りが検出されたの
で,復号画像指定部110に蓄積してあるフレーム番号
1を受信側多重化部117に送信する。間引き実行指定
部105は,誤りが検出されたので,受信側多重化部1
17に間引き実行信号を送信する。受信側多重化部11
7は,間引き実行信号とフレーム番号1のフレーム番号
を送信する。
【0075】STEP4にて,第4フレームを読み出す
時には,送信側では,符号化データ送信部111は,符
号化データ蓄積部101から第4フレームの符号化デー
タを読み出す。送信側多重化部116は,間引き実行信
号を間引き実行受信部112に送信し,フレーム番号を
画像指定信号受信部103に送信する。間引き実行受信
部112は,受信側にて第2フレームに対して行われ
た,間引き実行信号を受信すると,符号化データ送信部
111から符号化データを送信しないように変更する。
画像指定信号受信部103がフレーム番号1を受信する
と,符号化データ間引き部102は,フレーム番号1か
らフレーム番号4までの符号化データを符号化データ蓄
積部101から読み込み,フレーム番号1の画像を参照
画像にしたフレーム番号4の符号化データを作成するよ
うに,フレーム間引き処理を行い,符号化データを送信
側多重化部116に送信する。間引き実行確認送信部1
13は,間引き実行確認信号を送信側多重化部116に
送信する。送信側多重化部116は,符号化データと間
引き実行確認信号を受信側に送信する。一方,受信側で
は,この時点で第3フレームの符号化データを受信す
る。受信側多重化部117は,データ受信変更手段11
5が受信した符号化データを誤り検出部106に入力す
るようになっていないため,符号化データを誤り検出部
106に送信しない。受信側多重化部117は送信側に
何も送信しない。
【0076】STEP5にて,第5フレームを読み出す
時には,送信側では,符号化データ送信部111は,符
号化データ蓄積部101から第5フレームの符号化デー
タを読み出す。符号化データ変更手段104は符号化デ
ータ送信部111から符号化データを送信する方向にな
っているため,符号化データ送信部111から送信側多
重化部116に符号化データは送信される。送信側多重
化部116は,符号化データのみ受信側に送信する。一
方,受信側では,この時点で第4フレームの符号化デー
タを受信する。受信側多重化部117は,間引き実行確
認受信部114に間引き実行確認信号を送信する。間引
き実行確認受信部114は,データ受信変更手段115
を,符号化データを誤り検出部106に入力するように
変更する。誤り検出部106は誤りを検出しないため,
受信した符号化データを復号部108に送信する。復号
部108では,画像蓄積部109に蓄積された第1フレ
ームの復号画像を参照画像にして,符号化データを復号
する。復号した画像は,画像蓄積部109に蓄積する。
復号された画像のフレーム番号4は復号画像指定部11
0に蓄積される。受信側多重化部117は送信側に何も
送信しない。
【0077】本実施の形態では,符号化データ蓄積部1
01に予め蓄積された符号化データに対して,フレーム
間引き処理を行って参照画像を変更し,受信側にて蓄積
された復号画像を参照して復号することができる。
【0078】以上では簡潔にするため,符号化したフレ
ームをIフレームとPフレームのみとして説明したが,
図10の実施の形態はこれに限るものではなく,Bフレ
ームなどを混合した符号化データに対しても適用でき,
効果的なフレーム間引き処理を用いた参照画像の変更が
できることは言うまでもない。さらに,本実施の形態で
は,MPEG−2符号化方式を利用したが,符号化方式
はこれに限定されるものではなく,一般的にフレーム単
位に符号化を行う符号化方式であれば同様に適用可能で
あることは言うまでもない。
【0079】〔本発明の第2の実施の形態〕本発明によ
る装置を画像通信システムにおける中継サーバに適用
し,複数の受信装置(復号装置)と通信する場合の例
を,図面を参照して説明する。
【0080】この第2の実施の形態は,1つの画像符号
化サーバと1つの中継サーバと2つのクライアントとか
ら構成されるネットワークにおいて,符号化データの配
信中に伝送エラーが発生すると,中継サーバにてフレー
ム間引きを行い,2つのクライアントに対して独立に参
照画像変更による誤りからの回復を行うシステムの例で
ある。この例では,受信側からの参照画像の指定を受け
る前に,予めフレーム間引きを行った符号化データを作
成しておくが,その他に中継サーバでは受信した符号化
データを用いてイントラ符号化した符号化データを作成
しておくものとする。
【0081】符号化方式はH.263を用いており,画
像符号化サーバでは,第1フレームをIフレームで符号
化し,その他のフレームをPフレームで符号化してある
ものとする。すなわち,直前のフレームを参照画像にし
ているものとする。本実施の形態では,画像符号化サー
バは符号化直後に中継サーバに符号化データを送信し,
中継サーバは受信した符号化データを直接もしくはフレ
ーム間引きを行ってクライアントに送信する。中継サー
バと各クライアントとの遅延時間は1フレームとする。
中継サーバと2つのクライアントにのみ着目して説明を
行う。
【0082】本実施の形態では,符号化データに誤りが
載った場合には,指定した参照画像の符号化データを受
信するまで復号処理を行わないとする。また,中継サー
バは,入力された符号化データに対してフレーム間引き
処理を行い,続いてクライアント1からの信号に従って
符号化データを送信し,続いてクライアント2からの信
号に従って符号化データを送信するものとする。クライ
アント2への符号化データの送信が終わった後で,次の
フレームの符号化データを入力するものとする。
【0083】図14は,本発明の第2の実施の形態の構
成を示す。本実施の形態では,中継サーバに,入力され
る符号化データを蓄積する符号化データ送信部201
と,符号化データ送信部201に蓄積された符号化デー
タを送信側多重化部212に送信するのかしないのかを
変更する符号化データ変更手段202と,各クライアン
トからフレーム間引きを実行する信号を受信する間引き
実行受信部203と,間引きを行った符号化データを送
信することを伝える間引き実行確認信号を送信する間引
き実行確認送信部205と,中継サーバからの符号化デ
ータと信号を多重化する送信側多重化部212と,入力
される符号化データから,最新のフレームのイントラ符
号化された符号化データを作成するイントラ符号化部2
09と,2つのクライアントに対して,クライアント1
に符号化データを送信するのか,クライアント2に送信
するのか,またはどちらにも送信するのかを変更する受
信側選択手段213と,2つのクライアントのうちのど
ちらに対する符号化データなのかを指定する信号である
受信側指定信号を受信し,受信側選択手段213を変更
する受信側指定信号受信部211とを備える。
【0084】また,クライアント1に,受信した符号化
データに誤りが載っているかどうかを検出する誤り検出
部(1) 217と,中継サーバにフレーム間引きを行うこ
とを指定する間引き実行指定部(1) 215と,間引きを
実行したことを確認する間引き実行確認信号を受信する
間引き実行確認受信部(1) 219と,受信した符号化デ
ータを誤り検出部(1) 217に送信するかどうかを変更
するデータ受信変更手段(1) 216と,受信したデータ
を符号化データと信号に分解する受信側多重化部(1) 2
14とを備える。クライアント2に,受信した符号化デ
ータに誤りが載っているかどうかを検出する誤り検出部
(2) 226と,中継サーバにフレーム間引きを行うこと
を指定する間引き実行指定部(2) 224と,間引きを実
行したことを確認する間引き実行確認信号を受信する間
引き実行確認受信部(2) 231と,受信した符号化デー
タを誤り検出部(2) 226に送信するかどうかを変更す
るデータ受信変更手段(2) 228と,受信したデータを
符号化データと信号に分解する受信側多重化部(2) 22
5とを備える。
【0085】本実施の形態では,クライアント1の参照
画像の指定部は,復号した画像の番号を蓄積する復号画
像指定部(1) 223と,復号画像指定部(1) 223に蓄
積してあるフレーム番号を送信する参照画像指定送信部
(1) 220とで構成され,クライアント2の参照画像の
指定部は,復号した画像の番号を蓄積する復号画像指定
部(2) 230と,復号画像指定部(2) 230に蓄積して
あるフレーム番号を送信する参照画像指定送信部(2) 2
32とで構成される。
【0086】中継サーバの符号化データ間引き部206
は,1フレームの間引きを行うC1と,2フレームの間
引きを行うC2と,3フレームの間引きを行うC3とで
構成され,符号化データ蓄積部207は,1フレームの
間引きを行った符号化データを蓄積するM1と,2フレ
ームの間引きをった符号化データを蓄積するM2と,3
フレームの間引きを行った符号化データを蓄積するM3
と,イントラ符号化部209にてイントラ符号化された
符号化データを蓄積するM4とで構成される。符号化デ
ータ間引き部206のC1とC2とC3は,フレーム間
引きを行うために使用する符号化データを蓄積すること
ができるものとする。
【0087】本実施の形態において,中継サーバでは,
間引き実行確認送信部205は,符号化データの間引き
が行われると,間引き実行確認信号を送信する。受信側
指定信号受信部211は,2つのクライアントのうち,
どちらに符号化データと信号を送信するのかを指定する
受信側指定信号を受信すると,受信側選択手段213
を,指定されたクライアント側にデータを送信するよう
に変更する。受信側指定信号を受信しない場合には,両
方のクライアントに符号化データを送信する。
【0088】符号化データ選択手段208は,符号化デ
ータ蓄積部207に蓄積された,フレーム間引きされた
符号化データのみを選択するだけではなく,イントラ符
号化部209にてイントラ符号化された符号化データも
選択できるものとする。符号化データ変更手段202
は,受信側指定信号受信部211が受信側指定信号を受
信し,フレーム間引きを実行する信号である間引き実行
信号を受信すると,符号化データ送信部201からの符
号化データを送信することを停止するように変更され,
受信側指定信号受信部211が受信側指定信号を受信
し,フレーム間引きを実行する信号である間引き実行信
号を受信しないと,符号化データ送信部201からの符
号化データを送信するように変更される。初期状態は,
符号化データ送信部201の符号化データを送信する方
向になっているものとする。
【0089】また,符号化データ送信部201と,符号
化データ蓄積部207のM1とM2とM3とM4に蓄積
された符号化データは,次のフレームの符号化データを
入力するまで保持され,次のフレームの符号化データを
入力した場合には破棄されるものとする。
【0090】クライアント1では,誤り検出部(1) 21
7は,一度符号化データに誤りを検出すると,復号部
(1) 218に符号化データを送信せず,データ受信変更
手段(1) 216を変更し,符号化データを誤り検出部
(1) 217に入力しない。間引き実行確認受信部(1) 2
19は,間引き実行確認信号を受信すると,データ受信
変更手段(1) 216を変更し,符号化データを誤り検出
部(1) 217に入力する。参照画像指定送信部(1) 22
0は,誤り検出部(1) 217にて誤りが検出されると,
復号画像指定部(1) 223に蓄積されているフレーム番
号を送信する。間引き実行指定部(1) 215は,誤り検
出部(1) 217にて誤りが検出されると,送信側にフレ
ーム間引きを実行させる間引き実行信号を送信する。受
信側指定信号送信部(1) 221は,クライアント1が中
継サーバに各信号を送信する際に,信号がクライアント
1のものであることを示す受信側指定信号を送信する。
【0091】クライアント2では,誤り検出部(2) 22
6は,一度符号化データに誤りを検出すると,復号部
(2) 227に符号化データを送信せず,データ受信変更
手段(2) 228を変更し,符号化データを誤り検出部
(2) 226に入力しない。間引き実行確認受信部(2) 2
31は,間引き実行確認信号を受信すると,データ受信
変更手段(2) 228を変更し,符号化データを誤り検出
部(2) 226に入力する。参照画像指定送信部(2) 23
2は,誤り検出部(2) 226にて誤りが検出されると,
復号画像指定部(2) 230に蓄積されているフレーム番
号を送信する。間引き実行指定部(2) 224は,誤り検
出部(2) 226にて誤りが検出されると,送信側にフレ
ーム間引きを実行させる間引き実行信号を送信する。受
信側指定信号送信部(2) 204は,クライアント2が中
継サーバに各信号を送信する際に,信号がクライアント
2のものであることを示す受信側指定信号を送信する。
【0092】送信側多重化部212で多重化され,受信
側多重化部(1) 214または受信側多重化部(2) 225
で分解されるデータのうち,中継サーバからクライアン
トに送信されるデータは,符号化データ送信部201か
ら送信される符号化データまたは符号化データ間引き部
206にてフレーム間引きされた符号化データに続き,
間引きを行った場合には間引き実行確認信号となる。こ
のデータフォーマットを,図15に示す。他方,各クラ
イアントから中継サーバに送信されるデータは,受信側
指定信号送信部(1) 221または受信側指定信号送信部
(2) 204から送信される受信側指定信号に続き,間引
き実行指定部(1) 215または間引き実行指定部(2) 2
24から送信される間引き実行信号,さらに,参照画像
指定送信部(1) 220または参照画像指定送信部(2) 2
32から送信されるフレーム番号となる。このデータフ
ォーマットを,図16に示す。
【0093】以上の構成のもと,中継サーバは,第1フ
レームの符号化データから通信を開始し,フレーム間引
きを行いながら第7フレームの符号化データを送信する
までを示す。クライアント1は,第2フレームにて伝送
エラーが載り,エラーの載っていない第1フレームを参
照画像に指定するものとする。クライアント2は,第2
フレームから第4フレームまで伝送エラーが載り,エラ
ーの載っていない第1フレームを参照画像に指定するも
のとする。
【0094】図17は,本実施の形態の中継サーバとク
ライアント1の動作フローを表し,図18は,本実施の
形態の中継サーバとクライアント2の動作フローを表
す。送信側にてフレーム単位に符号化データを送信する
時刻に実行される処理をSTEPにて表すものとする。
【0095】STEP1にて,第1フレームの符号化デ
ータを送信する時には,中継サーバでは,符号化データ
は符号化データ送信部201と,符号化データ間引き部
206のC1,C2,C3と,イントラ符号化部209
に入力される。符号化データ送信部201は,入力され
た符号化データを蓄積する。符号化データ間引き部20
6のC1,C2,C3は,第1フレームの符号化データ
を蓄積しておく。イントラ符号化部209は,第1フレ
ームの符号化データを蓄積するが,第1フレームはイン
トラ符号化されているため符号化データを作成しない。
受信側指定信号受信部211は,クライアントから信号
を受信しないので,符号化データを両方のクライアント
に送信するように,受信側選択手段213を変更する。
符号化データ変更手段202は符号化データ送信部20
1から符号化データを送信する方向になっているため,
符号化データ送信部201から送信側多重化部212に
符号化データは送信される。送信側多重化部212は,
符号化データのみ各クライアントに送信する。
【0096】STEP2にて,第2フレームの符号化デ
ータを送信する時には,中継サーバでは,符号化データ
は符号化データ送信部201と,符号化データ間引き部
206のC1,C2,C3と,イントラ符号化部209
に入力される。符号化データ送信部201は,入力され
た符号化データを蓄積する。符号化データ間引き部20
6のC1,C2,C3は,第2フレームの符号化データ
を蓄積しておく。イントラ符号化部209は,第1フレ
ームと第2フレームの符号化データから第2フレームの
イントラ符号化した符号化データを作成する。符号化デ
ータ蓄積部207のM4はイントラ符号化された符号化
データを蓄積する。受信側指定信号受信部211は,ク
ライアントから信号を受信しないので,符号化データを
両方のクライアントに送信するように,受信側選択手段
213を変更する。符号化データ変更手段202は符号
化データ送信部201から符号化データを送信する方向
になっているため,符号化データ送信部201から送信
側多重化部212に符号化データは送信される。送信側
多重化部212は,符号化データのみ各クライアントに
送信する。
【0097】一方,クライアント1では,この時点で第
1フレームの符号化データを受信する。受信側多重化部
(1) 214は,データ受信変更手段(1) 216が受信し
た符号化データを誤り検出部(1) 217に入力するよう
になっているため,符号化データを誤り検出部(1) 21
7に送信する。誤り検出部(1) 217は誤りを検出しな
いので,復号部(1) 218に符号化データを送信する。
復号部(1) 218は,Iフレームであるため参照画像を
利用せずに符号化データを復号し,画像蓄積部(1) 22
2に蓄積する。復号された画像のフレーム番号1は復号
画像指定部(1)223に蓄積される。受信側指定信号送
信部(1) 221は,クライアント1からの信号であるこ
とを指定する受信側指定信号を受信側多重化部(1) 21
4に送信する。受信側多重化部(1) 214は,中継サー
バにクライアント1の受信側指定信号を送信する。
【0098】クライアント2では,この時点で同様に第
1フレームの符号化データを受信する。受信側多重化部
(2) 225は,データ受信変更手段(2) 228が受信し
た符号化データを誤り検出部(2) 226に入力するよう
になっているため,符号化データを誤り検出部(2) 22
6に送信する。誤り検出部(2) 226は誤りを検出しな
いので,復号部(2) 227に符号化データを送信する。
復号部(2) 227は,Iフレームであるため参照画像を
利用せずに符号化データを復号し,画像蓄積部(2) 22
9に蓄積する。復号された画像のフレーム番号1は復号
画像指定部(2)230に蓄積される。受信側指定信号送
信部(2) 204は,クライアント2からの信号であるこ
とを指定する受信側指定信号を受信側多重化部(2) 22
5に送信する。受信側多重化部(2) 225は,中継サー
バにクライアント2の受信側指定信号を送信する。
【0099】STEP3にて,第3フレームの符号化デ
ータを送信する時には,中継サーバでは,符号化データ
は符号化データ送信部201と,符号化データ間引き部
206のC1,C2,C3と,イントラ符号化部209
に入力される。符号化データ送信部201は,入力され
た符号化データを蓄積する。符号化データ間引き部20
6のC1は,第3フレームの符号化データを蓄積し,さ
らに第1フレームから第3フレームまでの符号化データ
から第2フレームを間引きして,第1フレームを参照画
像にした第3フレームの符号化データを作成する。符号
化データ間引き部206のC2,C3は,第3フレーム
の符号化データを蓄積しておく。イントラ符号化部20
9は,第1フレームから第3フレームまでの符号化デー
タから第3フレームのイントラ符号化した符号化データ
を作成する。符号化データ蓄積部207のM1は,符号
化データ間引き部206のC1にて作成された符号化デ
ータを蓄積し,符号化データ蓄積部207のM4は,イ
ントラ符号化された符号化データを蓄積する。
【0100】まず,受信側指定信号受信部211は,ク
ライアント1から受信側指定信号を受信し,受信側選択
部213をクライアント1に符号化データを送信するよ
うに変更する。受信した信号は受信側指定信号のみであ
るため,符号化データ変更手段202は,符号化データ
送信部201から符号化データを送信する方向に変更さ
れ,符号化データは送信側多重化部212に送信され
る。送信側多重化部212は,符号化データのみクライ
アント1に送信する。続いて,受信側指定信号受信部2
11は,クライアント2から受信側指定信号を受信し,
受信側選択部213を,クライアント2に符号化データ
を送信するように変更する。受信した信号は受信側指定
信号のみであるため,符号化データ変更手段202は,
符号化データ送信部201から符号化データを送信する
方向に変更され,符号化データは送信側多重化部212
に送信される。送信側多重化部212は,符号化データ
のみクライアント2に送信する。
【0101】一方,クライアント1では,この時点で第
2フレームの符号化データを受信する。受信側多重化部
(1) 214は,データ受信変更手段(1) 216が受信し
た符号化データを誤り検出部(1) 217に入力するよう
になっているため,符号化データを誤り検出部(1) 21
7に送信する。誤り検出部(1) 217は誤りを検出する
ので,復号部(1) 218に符号化データを送信しない。
また,データ受信変更手段(1) 216を,符号化データ
を誤り検出部(1) 217に入力しないように変更する。
そして,参照画像指定送信部(1) 220は誤りが検出さ
れたので,復号画像指定部(1) 223に蓄積してあるフ
レーム番号1を受信側多重化部(1) 214に送信する。
間引き実行指定部(1) 215は,誤りが検出されたの
で,受信側多重化部(1) 214に間引き実行信号を送信
する。受信側指定信号送信部(1) 221は,クライアン
ト1からの信号であることを指定する受信側指定信号を
受信側多重化部(1) 214に送信する。受信側多重化部
(1) 214は,中継サーバにクライアント1の受信側指
定信号と間引き実行信号とフレーム番号1のフレーム番
号を送信する。
【0102】クライアント2では,この時点で第2フレ
ームの符号化データを受信する。受信側多重化部(2) 2
25は,データ受信変更手段(2) 228が受信した符号
化データを誤り検出部(2) 226に入力するようになっ
ているため,符号化データを誤り検出部(2) 226に送
信する。誤り検出部(2) 226は誤りを検出するので,
復号部(2) 227に符号化データを送信しない。また,
データ受信変更手段(2) 228を符号化データを誤り検
出部(2) 226に入力しないように変更する。そして,
参照画像指定送信部(2) 232は誤りが検出されたの
で,復号画像指定部(2) 230に蓄積してあるフレーム
番号1を受信側多重化部(2) 225に送信する。間引き
実行指定部(2) 224は,誤りが検出されたので,受信
側多重化部(2) 225に間引き実行信号を送信する。受
信側指定信号送信部(2) 204は,クライアント2から
の信号であることを指定する受信側指定信号を受信側多
重化部(2) 225に送信する。受信側多重化部(2) 22
5は,中継サーバにクライアント2の受信側指定信号と
間引き実行信号とフレーム番号1のフレーム番号を送信
する。
【0103】STEP4にて,第4フレームの符号化デ
ータを送信する時には,中継サーバでは,符号化データ
は符号化データ送信部201と,符号化データ間引き部
206のC1,C2,C3と,イントラ符号化部209
に入力される。符号化データ送信部201は,入力され
た符号化データを蓄積する。符号化データ間引き部20
6のC1は,第4フレームの符号化データを蓄積し,さ
らに第1フレームから第4フレームまでの符号化データ
から第3フレームを間引きして,第2フレームを参照画
像にした第4フレームの符号化データを作成する。符号
化データ間引き部206のC2は,第4フレームの符号
化データを蓄積し,さらに第1フレームから第4フレー
ムまでの符号化データから第2フレームと第3フレーム
を間引きして,第1フレームを参照画像にした第4フレ
ームの符号化データを作成する。符号化データ間引き部
206のC3は,第4フレームの符号化データを蓄積し
ておく。イントラ符号化部209は,第1フレームから
第4フレームまでの符号化データから第4フレームのイ
ントラ符号化した符号化データを作成する。符号化デー
タ蓄積部207のM1は,符号化データ間引き部206
のC1にて作成された符号化データを蓄積し,符号化デ
ータ蓄積部207のM2は,符号化データ間引き部20
6のC2にて作成された符号化データを蓄積し,符号化
データ蓄積部207のM4は,イントラ符号化された符
号化データを蓄積する。
【0104】まず,受信側指定信号受信部211は,ク
ライアント1から受信側指定信号を受信し,受信側選択
部213をクライアント1に符号化データを送信するよ
うに変更する。受信側指定信号と間引き実行指定信号を
受信するため,符号化データ変更手段202は,符号化
データ送信部201から符号化データを送信しない方向
に変更される。画像指定信号受信部210は,フレーム
番号1を受信すると,符号化データ蓄積部207に蓄積
されている符号化データのうち,フレーム番号1を参照
画像にする符号化データを蓄積しているM2を選択する
ように,符号化データ選択手段208を変更する。符号
化データ蓄積部207のM2に蓄積された符号化データ
は,送信側多重化部212に送信される。間引き実行確
認送信部205は,間引き実行確認信号を送信側多重化
部212に送信する。送信側多重化部212は,符号化
データと間引き実行確認信号をクライアント1に送信す
る。
【0105】続いて,受信側指定信号受信部211は,
クライアント2から受信側指定信号を受信し,受信側選
択部213をクライアント2に符号化データを送信する
ように変更する。受信側指定信号と間引き実行指定信号
を受信するため,符号化データ変更手段202は,符号
化データ送信部201から符号化データを送信しない方
向に変更される。画像指定信号受信部210は,フレー
ム番号1を受信すると,符号化データ蓄積部207に蓄
積されている符号化データのうち,フレーム番号1を参
照画像にする符号化データを蓄積しているM2を選択す
るように,符号化データ選択手段208を変更する。符
号化データ蓄積部207のM2に蓄積された符号化デー
タは,送信側多重化部212に送信される。間引き実行
確認送信部205は,間引き実行確認信号を送信側多重
化部212に送信する。送信側多重化部212は,符号
化データと間引き実行確認信号をクライアント2に送信
する。
【0106】一方,クライアント1では,この時点で第
3フレームの符号化データを受信する。受信側多重化部
(1) 214は,データ受信変更手段(1) 216が受信し
た符号化データを誤り検出部(1) 217に入力しないよ
うになっているため,符号化データを誤り検出部(1) 2
17に送信しない。受信側指定信号送信部(1) 221
は,クライアント1からの信号であることを指定する受
信側指定信号を受信側多重化部(1) 214に送信する。
受信側多重化部(1) 214は,中継サーバにクライアン
ト1の受信側指定信号を送信する。
【0107】また,クライアント2では,この時点で第
3フレームの符号化データを受信する。受信側多重化部
(2) 225は,データ受信変更手段(2) 228が受信し
た符号化データを誤り検出部(2) 226に入力しないよ
うになっているため,符号化データを誤り検出部(2) 2
26に送信しない。受信側指定信号送信部(2) 204
は,クライアント2からの信号であることを指定する受
信側指定信号を受信側多重化部(2) 225に送信する。
受信側多重化部(2) 225は,中継サーバにクライアン
ト2の受信側指定信号を送信する。
【0108】STEP5にて,第5フレームの符号化デ
ータを送信する時には,中継サーバでは,符号化データ
は符号化データ送信部201と,符号化データ間引き部
206のC1,C2,C3と,イントラ符号化部209
に入力される。符号化データ送信部201は,入力され
た符号化データを蓄積する。符号化データ間引き部20
6のC1は,第5フレームの符号化データを蓄積し,さ
らに第1フレームから第5フレームまでの符号化データ
から第4フレームを間引きして,第3フレームを参照画
像にした第5フレームの符号化データを作成する。符号
化データ間引き部206のC2は,第5フレームの符号
化データを蓄積し,さらに第1フレームから第5フレー
ムまでの符号化データから第3フレームと第4フレーム
を間引きして,第2フレームを参照画像にした第5フレ
ームの符号化データを作成する。符号化データ間引き部
206のC3は,第5フレームの符号化データを蓄積
し,さらに第1フレームから第5フレームまでの符号化
データから第2フレームと第3フレームと第4フレーム
を間引きして,第1フレームを参照画像にした第5フレ
ームの符号化データを作成する。イントラ符号化部20
9は,第1フレームから第5フレームまでの符号化デー
タから第5フレームのイントラ符号化した符号化データ
を作成する。符号化データ蓄積部207のM1は,符号
化データ間引き部206のC1にて作成された符号化デ
ータを蓄積し,符号化データ蓄積部207のM2は,符
号化データ間引き部206のC2にて作成された符号化
データを蓄積し,符号化データ蓄積部207のM3は,
符号化データ間引き部206のC3にて作成された符号
化データを蓄積し,符号化データ蓄積部207のM4
は,イントラ符号化された符号化データを蓄積する。
【0109】まず,受信側指定信号受信部211は,ク
ライアント1から受信側指定信号を受信し,受信側選択
部213をクライアント1に符号化データを送信するよ
うに変更する。受信した信号は受信側指定信号のみであ
るため,符号化データ変更手段202は,符号化データ
送信部201から符号化データを送信する方向に変更さ
れ,符号化データは,送信側多重化部212に送信され
る。送信側多重化部212は,符号化データのみクライ
アント1に送信する。続いて,受信側指定信号受信部2
11は,クライアント2から受信側指定信号を受信し,
受信側選択部213をクライアント2に符号化データを
送信するように変更する。受信した信号は受信側指定信
号のみであるため,符号化データ変更手段202は,符
号化データ送信部201から符号化データを送信する方
向に変更され,符号化データは送信側多重化部212に
送信される。
【0110】一方,クライアント1では,この時点で第
4フレームの符号化データを受信する。間引き実行確認
受信部(1) 219は間引き実行確認信号を受信すると,
受信した符号化データを誤り検出部(1) 217に送信す
るように,データ受信変更手段(1) 216を変更する。
受信側多重化部(1) 214は,符号化データを誤り検出
部(1) 217に送信する。誤り検出部(1) 217は誤り
を検出しないので,復号部(1) 218に符号化データを
送信する。復号部(1) 218は,画像蓄積部(1) 222
に蓄積してある第1フレームの復号画像を参照画像にし
て符号化データを復号し,画像蓄積部(1) 222に蓄積
する。復号された画像のフレーム番号4は復号画像指定
部(1) 223に蓄積される。受信側指定信号送信部(1)
221は,クライアント1からの信号であることを指定
する受信側指定信号を受信側多重化部(1) 214に送信
する。受信側多重化部(1) 214は,中継サーバにクラ
イアント1の受信側指定信号を送信する。
【0111】クライアント2では,この時点で第4フレ
ームの符号化データを受信する。間引き実行確認受信部
(2) 231は間引き実行確認信号を受信すると,受信し
た符号化データを誤り検出部(2) 226に送信するよう
に,データ受信変更手段(2)228を変更する。受信側
多重化部(2) 225は,符号化データを誤り検出部(2)
226に送信する。誤り検出部(2) 226は誤りを検出
するので,復号部(2)227に符号化データを送信しな
い。また,データ受信変更手段(2) 228を符号化デー
タを誤り検出部(2) 226に入力しないように変更す
る。そして,参照画像指定送信部(2) 232は誤りが検
出されたので,復号画像指定部(2) 230に蓄積してあ
るフレーム番号1を受信側多重化部(2) 225に送信す
る。間引き実行指定部(2) 224は,誤りが検出された
ので,受信側多重化部(2) 225に間引き実行信号を送
信する。受信側指定信号送信部(2) 204は,クライア
ント2からの信号であることを指定する受信側指定信号
を受信側多重化部(2) 225に送信する。受信側多重化
部(2) 225は,中継サーバにクライアント2の受信側
指定信号と間引き実行信号とフレーム番号1のフレーム
番号を送信する。
【0112】STEP6にて,第6フレームの符号化デ
ータを送信する時には,中継サーバでは,符号化データ
は符号化データ送信部201と,符号化データ間引き部
206のC1,C2,C3と,イントラ符号化部209
に入力される。符号化データ送信部201は,入力され
た符号化データを蓄積する。符号化データ間引き部20
6のC1は,第6フレームの符号化データを蓄積し,さ
らに第1フレームから第6フレームまでの符号化データ
から第5フレームを間引きして,第4フレームを参照画
像にした第6フレームの符号化データを作成する。符号
化データ間引き部206のC2は,第6フレームの符号
化データを蓄積し,さらに第1フレームから第6フレー
ムまでの符号化データから第4フレームと第5フレーム
を間引きして,第3フレームを参照画像にした第6フレ
ームの符号化データを作成する。符号化データ間引き部
206のC3は,第6フレームの符号化データを蓄積
し,さらに第1フレームから第6フレームまでの符号化
データから第3フレームと第4フレームと第5フレーム
を間引きして,第2フレームを参照画像にした第6フレ
ームの符号化データを作成する。イントラ符号化部20
9は,第1フレームから第6フレームまでの符号化デー
タから第6フレームのイントラ符号化した符号化データ
を作成する。符号化データ蓄積部207のM1は,符号
化データ間引き部206のC1にて作成された符号化デ
ータを蓄積し,符号化データ蓄積部207のM2は,符
号化データ間引き部206のC2にて作成された符号化
データを蓄積し,符号化データ蓄積部207のM3は,
符号化データ間引き部206のC3にて作成された符号
化データを蓄積し,符号化データ蓄積部207のM4
は,イントラ符号化された符号化データを蓄積する。
【0113】まず,受信側指定信号受信部211は,ク
ライアント1から受信側指定信号を受信し,受信側選択
部213をクライアント1に符号化データを送信するよ
うに変更する。受信した信号は受信側指定信号のみであ
るため,符号化データ変更手段202は,符号化データ
送信部201から符号化データを送信する方向に変更さ
れ,符号化データは送信側多重化部212に送信され
る。送信側多重化部212は,符号化データのみクライ
アント1に送信する。
【0114】続いて,受信側指定信号受信部211は,
クライアント2から受信側指定信号を受信し,受信側選
択部213をクライアント2に符号化データを送信する
ように変更する。受信側指定信号と間引き実行指定信号
を受信するため,符号化データ変更手段202は,符号
化データ送信部201から符号化データを送信しない方
向に変更される。画像指定信号受信部210は,フレー
ム番号1を受信すると,符号化データ蓄積部207に蓄
積されている符号化データのうち,フレーム番号1を参
照画像にする符号化データを蓄積していないため,M4
に蓄積されているイントラ符号化された符号化データを
選択するように符号化データ選択手段208を変更す
る。符号化データ蓄積部207のM4に蓄積された符号
化データは,送信側多重化部212に送信される。間引
き実行確認送信部205は,間引き実行確認信号を送信
側多重化部212に送信する。送信側多重化部212
は,符号化データと間引き実行確認信号をクライアント
2に送信する。
【0115】一方,クライアント1では,この時点で第
5フレームの符号化データを受信する。受信側多重化部
(1) 214は,符号化データを誤り検出部(1) 217に
送信する。誤り検出部(1) 217は誤りを検出しないの
で,復号部(1) 218に符号化データを送信する。復号
部(1) 218は,画像蓄積部(1) 222に蓄積してある
第4フレームの復号画像を参照画像にして符号化データ
を復号し,画像蓄積部(1) 222に蓄積する。復号され
た画像のフレーム番号5は復号画像指定部(1)223に
蓄積される。受信側指定信号送信部(1) 221は,クラ
イアント1からの信号であることを指定する受信側指定
信号を受信側多重化部(1) 214に送信する。受信側多
重化部(1) 214は,中継サーバにクライアント1の受
信側指定信号を送信する。
【0116】クライアント2では,この時点で第5フレ
ームの符号化データを受信する。受信側多重化部(2) 2
25は,データ受信変更手段(2) 228が受信した符号
化データを誤り検出部(2) 226に入力しないようにな
っているため,符号化データを誤り検出部(2) 226に
送信しない。受信側指定信号送信部(2) 204は,クラ
イアント2からの信号であることを指定する受信側指定
信号を受信側多重化部(2) 225に送信する。受信側多
重化部(2) 225は,中継サーバにクライアント2の受
信側指定信号を送信する。
【0117】STEP7にて,第7フレームの符号化デ
ータを送信する時には,中継サーバでは,符号化データ
は符号化データ送信部201と,符号化データ間引き部
206のC1,C2,C3と,イントラ符号化部209
に入力される。符号化データ送信部201は,入力され
た符号化データを蓄積する。符号化データ間引き部20
6のC1は,第7フレームの符号化データを蓄積し,さ
らに第1フレームから第7フレームまでの符号化データ
から第6フレームを間引きして,第5フレームを参照画
像にした第7フレームの符号化データを作成する。符号
化データ間引き部206のC2は,第7フレームの符号
化データを蓄積し,さらに第1フレームから第7フレー
ムまでの符号化データから第5フレームと第6フレーム
を間引きして,第4フレームを参照画像にした第7フレ
ームの符号化データを作成する。符号化データ間引き部
206のC3は,第7フレームの符号化データを蓄積
し,さらに第1フレームから第7フレームまでの符号化
データから第4フレームと第5フレームと第6フレーム
を間引きして,第3フレームを参照画像にした第7フレ
ームの符号化データを作成する。イントラ符号化部20
9は,第1フレームから第7フレームまでの符号化デー
タから第7フレームのイントラ符号化した符号化データ
を作成する。符号化データ蓄積部207のM1は,符号
化データ間引き部206のC1にて作成された符号化デ
ータを蓄積し,符号化データ蓄積部207のM2は,符
号化データ間引き部206のC2にて作成された符号化
データを蓄積し,符号化データ蓄積部207のM3は,
符号化データ間引き部206のC3にて作成された符号
化データを蓄積し,符号化データ蓄積部207のM4
は,イントラ符号化された符号化データを蓄積する。
【0118】まず,受信側指定信号受信部211は,ク
ライアント1から受信側指定信号を受信し,受信側選択
部213をクライアント1に符号化データを送信するよ
うに変更する。受信した信号は受信側指定信号のみであ
るため,符号化データ変更手段202は,符号化データ
送信部201から符号化データを送信する方向に変更さ
れ,符号化データは送信側多重化部212に送信され
る。送信側多重化部212は,符号化データのみクライ
アント1に送信する。続いて,受信側指定信号受信部2
11は,クライアント2から受信側指定信号を受信し,
受信側選択部213をクライアント2に符号化データを
送信するように変更する。受信した信号は受信側指定信
号のみであるため,符号化データ変更手段202は,符
号化データ送信部201から符号化データを送信する方
向に変更され,符号化データは送信側多重化部212に
送信される。送信側多重化部212は,符号化データの
みクライアント2に送信する。
【0119】一方,クライアント1では,この時点で第
6フレームの符号化データを受信する。受信側多重化部
(1) 214は,符号化データを誤り検出部(1) 217に
送信する。誤り検出部(1) 217は誤り検出しないの
で,復号部(1) 218に符号化データを送信する。復号
部(1) 218は,画像蓄積部(1) 222に蓄積してある
第5フレームの復号画像を参照画像にして符号化データ
を復号し,画像蓄積部(1) 222に蓄積する。復号され
た画像のフレーム番号6は復号画像指定部(1) 223に
蓄積される。受信側指定信号送信部(1) 221は,クラ
イアント1からの信号であることを指定する受信側指定
信号を受信側多重化部(1) 214に送信する。受信側多
重化部(1) 214は,中継サーバにクライアント1の受
信側指定信号を送信する。
【0120】クライアント2では,この時点で第6フレ
ームの符号化データを受信する。受信側多重化部(2) 2
25は,データ受信変更手段(2) 228が受信した符号
化データを誤り検出部(2) 226に入力するようになっ
ているため,符号化データを誤り検出部(2) 226に送
信する。誤り検出部(2) 226は誤りを検出しないの
で,復号部(2) 227に符号化データを送信する。復号
部(2) 227は,Iフレームであるため参照画像を利用
せずに符号化データを復号し,画像蓄積部(2) 229に
蓄積する。復号された画像のフレーム番号6は復号画像
指定部(2) 230に蓄積される。受信側指定信号送信部
(2) 204は,クライアント2からの信号であることを
指定する受信側指定信号を受信側多重化部(2) 225に
送信する。受信側多重化部(2) 225は,中継サーバに
クライアント2の受信側指定信号を送信する。
【0121】本実施の形態では,中継サーバにて各クラ
イアントからのフレーム間引きの要求に従った符号化デ
ータを送信することによって,各クライアントにて蓄積
された復号画像を参照して復号することができる。
【0122】以上では簡潔にするため,符号化したフレ
ームをIフレームとPフレームのみとして説明したが,
図14の実施の形態はこれに限るものではなく,Bフレ
ームなどを混合した符号化データに対しても適用でき,
効果的なフレーム間引き処理を用いた参照画像の変更が
できることは言うまでもない。さらに,本実施の形態で
はH.263符号化方式を利用したが,符号化方式はこ
れに限定されるものではなく,一般的にフレーム単位に
符号化を行う符号化方式であれば同様に適用可能である
ことは言うまでもない。
【0123】以上の第1および第2の実施の形態におけ
る送信側の装置または中継サーバは,各構成要素をプロ
グラムとして構築し,本発明を実施する計算機に接続さ
れるディスク装置やフロッピィディスク,CD−ROM
等の可搬記録媒体に格納しておき,本発明を実施する際
にインストールすることにより,容易に実現することが
可能である。
【0124】
【発明の効果】以上説明したように,本発明によれば,
以下の効果がある。
【0125】画像符号化データ送信側に参照画像を蓄積
するためのバッファを持たずに,入力された画像符号化
データを,受信装置から指定された参照画像をもつ画像
符号化データに変換して送信することができる。
【0126】画像符号化データを入力として処理するこ
とができるので,蓄積済みの画像符号化データを送受信
する画像通信システムにも適用できる。
【0127】本発明を画像通信システムにおける中継装
置に適用した場合,受信装置から参照画像の指定信号を
受信しても,送信装置に対して受信装置ごとに異なる画
像符号化データを送信するよう要求する必要がない。し
たがって,送信装置から中継装置へ送信された画像符号
化データを削減できるとともに,各受信装置への送信遅
延を減少させることができる。
【0128】特に,本発明の第2の構成では,参照画像
の異なる複数の画像符号化データを予め作成して蓄積し
ておくので,受信装置の数や受信装置から指定される参
照画像の数によらずに画像符号化データを作成すること
ができ,画像通信システムの中継装置に適用した場合,
その効果が大きい。
【0129】また,本発明の第3の構成では,イントラ
符号化部を具備することにより,蓄積部のメモリ量をさ
らに削減することができる。
【図面の簡単な説明】
【図1】本発明の第1の構成例を示す図である。
【図2】本発明の第1の構成のフローチャートである。
【図3】本発明の第2の構成例を示す図である。
【図4】本発明の第2の構成のフローチャートである。
【図5】本発明の第3の構成例を示す図である。
【図6】本発明の第3の構成のフローチャートである。
【図7】本発明の第4の構成例を示す図である。
【図8】本発明の第4の構成のフローチャートである。
【図9】画像符号化データ送信装置と中継サーバと2台
の復号装置の動作例を説明する図である。
【図10】本発明の第1の実施の形態の構成を示す図で
ある。
【図11】本発明の第1の実施の形態の送信側のデータ
フォーマットを示す図である。
【図12】本発明の第1の実施の形態の受信側のデータ
フォーマットを示す図である。
【図13】本発明の第1の実施の形態の送信側と受信側
の動作フロー図である。
【図14】本発明の第2の実施の形態の構成を示す図で
ある。
【図15】本発明の第2の実施の形態の中継サーバのデ
ータフォーマットを示す図である。
【図16】本発明の第2の実施の形態のクライアントの
データフォーマットを示す図である。
【図17】本発明の第2の実施の形態と中継サーバとク
ライアント1の動作フロー図である。
【図18】本発明の第2の実施の形態と中継サーバとク
ライアント2の動作フロー図である。
【図19】従来の第1の方式による符号化器と復号器の
構成例を示す図である。
【図20】従来の第2の方式による符号化器と復号器の
構成例を示す図である。
【図21】フレーム間引きを行う符号化データ作成装置
の構成例を示す図である。
【図22】送信装置,中継サーバ,複数の受信装置から
なる画像通信システムの例を示す図である。
【符号の説明】
10 符号化器 11 符号化部 12 逆量子化部 13 画像バッファ 14 画像符号化データ送信装置 15 蓄積部 16 信号受信部 17 変換部 18 データ選択部 20 復号装置 21 誤り検出部 22 復号部 23 画像蓄積部 24 参照画像指定信号送信部
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5C059 KK08 KK27 LB07 MA04 MA05 MD02 NN01 PP04 RB02 RF01 SS06 SS20 UA02 UA05 UA32 UA33 UA38 UA39

Claims (15)

    【特許請求の範囲】
  1. 【請求項1】 フレーム間差分符号化による第1の画像
    符号化データを入力とする画像符号化データ送信装置で
    あって,入力データを蓄積する蓄積部と,復号装置から
    参照画像の指定信号を受信する信号受信部と,該指定信
    号に基づき,前記蓄積部のデータに対して動き補償処理
    を行うことにより,前記第1の画像符号化データを参照
    画像の異なる第2の画像符号化データに変換する変換部
    と,前記指定信号に基づいて前記第1の画像符号化デー
    タまたは前記第2の画像符号化データを選択して送信す
    るデータ選択部とを備えることを特徴とする画像符号化
    データ送信装置。
  2. 【請求項2】 フレーム間差分符号化による第1の画像
    符号化データを入力とする画像符号化データ送信装置で
    あって,参照画像の指定を変更しながら動き補償処理を
    繰り返し行うことにより,前記第1の画像符号化データ
    を参照画像の異なる複数の第2の画像符号化データに変
    換する変換部と,前記変換部で作成した複数の第2の画
    像符号化データを蓄積する蓄積部と,参照画像の指定信
    号を受信する信号受信部と,前記第1の画像符号化デー
    タおよび前記複数の第2の画像符号化データの中から,
    受信した指定信号に基づいて選択したデータを送信する
    データ選択部とを備えることを特徴とする画像符号化デ
    ータ送信装置。
  3. 【請求項3】 請求項2記載の画像符号化データ送信装
    置において,前記第1の画像符号化データをフレーム内
    符号化したイントラ符号化データを作成するイントラ符
    号化部を備えることを特徴とする画像符号化データ送信
    装置。
  4. 【請求項4】 請求項2または請求項3記載の画像符号
    化データ送信装置において,復号装置から送信先の指定
    信号を受信し,前記データ選択部で選択したデータを送
    信する復号装置を指示する送信先受信部と,該送信先の
    指定信号の受信状況に応じて1以上の送信先を決定し,
    前記データ選択部が選択した画像符号化データを送信す
    る送信先選択部とを備えることを特徴とする画像符号化
    データ送信装置。
  5. 【請求項5】 請求項1ないし請求項4のいずれかに記
    載の画像符号化データ送信装置において,前記変換部
    は,前記参照画像の次フレームから処理対象フレームの
    直前フレームまでを間引きし画像符号化データを出力す
    るフレーム間引き処理を用いることによって,前記第1
    の画像符号化データを前記第2の画像符号化データに変
    換することを特徴とする画像符号化データ送信装置。
  6. 【請求項6】 フレーム間差分符号化による第1の画像
    符号化データを入力し,該第1の画像符号化データを蓄
    積し,復号装置からの参照画像の指定信号の受信状況に
    応じて,前記第1の画像符号化データ,または前記蓄積
    したデータに対して動き補償処理を行うことにより該第
    1の画像符号化データを変換した参照画像の異なる第2
    の画像符号化データを送信することを特徴とする画像符
    号化データ送信方法。
  7. 【請求項7】 フレーム間差分符号化による第1の画像
    符号化データを入力し,参照画像の指定を変更しながら
    動き補償処理を繰り返し行うことにより,該第1の画像
    符号化データを参照画像の異なる複数の第2の画像符号
    化データに変換して蓄積し,復号装置からの参照画像の
    指定信号の受信状況に応じて,前記第1の画像符号化デ
    ータおよび前記複数の第2の画像符号化データの中から
    選択して送信することを特徴とする画像符号化データ送
    信方法。
  8. 【請求項8】 請求項7記載の画像符号化データ送信方
    法において,前記第1の画像符号化データに対して,フ
    レーム内符号化したイントラ符号化データを作成して前
    記複数の第2の画像符号化データの1つとすることを特
    徴とする画像符号化データ送信方法。
  9. 【請求項9】 請求項7または請求項8記載の画像符号
    化データ送信方法において,復号装置からの送信先の指
    定信号の受信状況に応じて,1以上の送信先を決定し,
    復号装置から参照画像の指定信号の受信状況に応じて,
    前記第1の画像符号化データおよび前記複数の第2の画
    像符号化データの中から選択して,前記送信先へ送信す
    ることを特徴とする画像符号化データ送信方法。
  10. 【請求項10】 請求項6ないし請求項9のいずれかに
    記載の画像符号化データ送信方法において,前記参照画
    像の次フレームから処理対象フレームの直前フレームま
    でを間引きしてフレームレートを変更した画像符号化デ
    ータを出力するフレーム間引き処理を用いることによっ
    て,前記第1の画像符号化データを前記第2の画像符号
    化データに変換することを特徴とする画像符号化データ
    送信方法。
  11. 【請求項11】 フレーム間差分符号化による第1の画
    像符号化データを入力するステップと,該第1の画像符
    号化データを蓄積するステップと,復号装置から参照画
    像の指定信号を受信するステップと,該参照画像の指定
    信号の受信状況に応じて,前記第1の画像符号化デー
    タ,または前記蓄積したデータに対して動き補償処理を
    行うことにより該第1の画像符号化データを変換した参
    照画像の異なる第2の画像符号化データを送信するステ
    ップとを,計算機に実行させるプログラムを記録したこ
    とを特徴とする画像符号化データ送信プログラム記録媒
    体。
  12. 【請求項12】 フレーム間差分符号化による第1の画
    像符号化データを入力するステップと,参照画像の指定
    を変更しながら動き補償処理を繰り返し行うことによ
    り,前記第1の画像符号化データを参照画像の異なる複
    数の第2の画像符号化データに変換して蓄積するステッ
    プと,復号装置からの参照画像の指定信号の受信状況に
    応じて,前記第1の画像符号化データおよび前記複数の
    第2の画像符号化データの中から選択して送信するステ
    ップとを,計算機に実行させるプログラムを記録したこ
    とを特徴とする画像符号化データ送信プログラム記録媒
    体。
  13. 【請求項13】 請求項12記載の画像符号化データ送
    信プログラム記録媒体において,前記プログラム中に,
    前記第1の画像符号化データに対して,フレーム内符号
    化したイントラ符号化データを作成して前記複数の第2
    の画像符号化データの1つとするステップを含むことを
    特徴とする画像符号化データ送信プログラム記録媒体。
  14. 【請求項14】 請求項12または請求項13記載の画
    像符号化データ送信プログラム記録媒体において,前記
    プログラム中に,復号装置からの送信先の指定信号の受
    信状況に応じて,1以上の送信先を決定するステップ
    と,復号装置から参照画像の指定信号の受信状況に応じ
    て,前記第1の画像符号化データおよび前記複数の第2
    の画像符号化データの中から選択して,前記送信先へ送
    信するステップとを含むことを特徴とする画像符号化デ
    ータ送信プログラム記録媒体。
  15. 【請求項15】 請求項11ないし請求項14のいずれ
    かに記載の画像符号化データ送信プログラム記録媒体に
    おいて,前記プログラム中に,前記参照画像の次フレー
    ムから処理対象フレームの直前フレームまでを間引きし
    てフレームレートを変更した画像符号化データを出力す
    るフレーム間引き処理を用いることによって前記第1の
    画像符号化データを前記第2の画像符号化データに変換
    するステップを含むことを特徴とする画像符号化データ
    送信プログラム記録媒体。
JP24795098A 1998-09-02 1998-09-02 画像符号化データ送信装置,画像符号化データ送信方法およびそのプログラム記録媒体 Pending JP2000078582A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP24795098A JP2000078582A (ja) 1998-09-02 1998-09-02 画像符号化データ送信装置,画像符号化データ送信方法およびそのプログラム記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP24795098A JP2000078582A (ja) 1998-09-02 1998-09-02 画像符号化データ送信装置,画像符号化データ送信方法およびそのプログラム記録媒体

Publications (1)

Publication Number Publication Date
JP2000078582A true JP2000078582A (ja) 2000-03-14

Family

ID=17170968

Family Applications (1)

Application Number Title Priority Date Filing Date
JP24795098A Pending JP2000078582A (ja) 1998-09-02 1998-09-02 画像符号化データ送信装置,画像符号化データ送信方法およびそのプログラム記録媒体

Country Status (1)

Country Link
JP (1) JP2000078582A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003250159A (ja) * 2002-02-22 2003-09-05 Fujitsu Ltd 動画像処理方法及び動画像処理装置
JP2009071802A (ja) * 2007-08-23 2009-04-02 Panasonic Corp 動画像符号化方法および装置、並びに撮像システム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003250159A (ja) * 2002-02-22 2003-09-05 Fujitsu Ltd 動画像処理方法及び動画像処理装置
JP2009071802A (ja) * 2007-08-23 2009-04-02 Panasonic Corp 動画像符号化方法および装置、並びに撮像システム

Similar Documents

Publication Publication Date Title
KR100844224B1 (ko) 영상 통신 에러를 처리하는 방법 및 장치
US7649938B2 (en) Method and apparatus of controlling a plurality of video surveillance cameras
KR101426097B1 (ko) 정보 처리 장치 및 방법과, 프로그램
US5510844A (en) Video bitstream regeneration using previously agreed to high priority segments
WO1995019072A1 (en) Efficient transcoding device and method
JP4983917B2 (ja) 動画像配信システム、変換装置および動画像配信方法
JP2003284078A (ja) 画像符号化方法及び装置並びに画像復号化方法及び装置
EP2560390A2 (en) Image information encoding apparatus and image information encoding method, and image information decoding apparatus and image information decoding method
WO1999022525A1 (en) Image encoding method, image encoder, image decoding method, and image decoder
JP2008523687A (ja) ファイングラニュラースケーラビリティのためのデジタルビデオのリアルタイムトランスコーディングのシステム及び方法
CN102172028A (zh) 影像数据处理装置及影像数据处理系统
WO2008146892A1 (ja) 動画像変換装置、動画像変換方法、および動画像変換プログラム
JP2007507927A (ja) アドバンスドデータパーティショニングと効率的な空間−時間−snrスケーラビリティビデオコーディング及びストリーミングのためのファイン・グラニュラリティ・スケーラビリティとを結合したシステム及び方法
JP3418485B2 (ja) 画像データ蓄積装置
US6526100B1 (en) Method for transmitting video images, a data transmission system and a multimedia terminal
JP4224778B2 (ja) ストリーム変換装置および方法、符号化装置および方法、記録媒体、並びに、プログラム
JP2002502161A (ja) ビデオ信号圧縮処理方法
JP2000078582A (ja) 画像符号化データ送信装置,画像符号化データ送信方法およびそのプログラム記録媒体
KR20100024505A (ko) 변환 장치, 배신 시스템, 및 배신 방법
JP3834170B2 (ja) ビデオ符号処理システム
US8290063B2 (en) Moving image data conversion method, device, and program
JP5472094B2 (ja) 動画像変換装置、動画像配信システム、動画像変換方法及びプログラム
KR100626419B1 (ko) 비디오 전송에서 비트 스트림들간의 교환
JPH07193821A (ja) 動画像符号化装置および方法
JPH11252546A (ja) 伝送速度変換装置